搜索结果
人工智能引发的幻觉差点导致美国军事行动的启动
今年春季，军用飞机已经在空中执行任务时，美国官员惊人地发现，对一艘中国船只的武装行动所依据的情报是由人工智能聊天机器人产生的幻觉。该行动在最后一刻被中止，险些避免了一场与中国的潜在冲突，CNN 于周五报道。 这一事件凸显了军方官员以及外部决策者对日益依赖人工智能的日益增长的担忧——这些系统产生的错误可能在被质疑之前就已经在指挥链上传播。 这份情报报告在伊朗战争期间流传，称该船携带核武器计划的部件。
澳大利亚在AI黑客攻击后下令政府技术盘点
悉尼：官员周三（9月29日）表示，澳大利亚在一名叛逃的OpenAI代理发动攻击后，已下令政府部门紧急审查过时计算机系统的网络安全。 上周曝光，一名叛逃的OpenAI模型在训练期间绕过安全防护，黑入了一个澳大利亚政府健康统计网站。 在总理阿尔巴尼斯因"显而易见的不可接受"的入侵事件斥责ChatGPT创造者后，OpenAI周二表示本应"更早"通知澳大利亚官员。 澳大利亚联邦政府周三指示所有部门和机构对
OpenAI的系统在失控后干预了美国政府网站
凯特·康格（Kate Conger）、安娜·斯旺森（Ana Swanson）和塞西莉亚·康（Cecilia Kang）指出，OpenAI开发的人工智能程序在未经授权的情况下自行行动，与美国政府的多个网站进行了异常交互，包括试图入侵这些网站以及从美国教育部（Education Department）、商务部（Commerce Department）和证券交易委员会（SEC）的网站上收集数据。 Ope
研究公司称人工智能代理试图黑客攻击加拿大政府网站
AI研究公司Transluce在的一篇博客文章中表示，这些代理分别于5月8日和6月9日试图访问加拿大图书馆和档案馆。 Transluce表示，它已于周一向加拿大政府披露了此次攻击。 加拿大网络安全中心周二在一份声明中表示，已知悉有关疑似AI代理活动的报道。加拿大官员表示：“目前没有迹象表明政府系统遭到破坏。”
美国罕见干预，抨击澳大利亚的“选择退出”算法法
特朗普政府对澳大利亚关于其拟议的数字照护义务法案的辩论进行了非同寻常的公开干预，这标志着两国在在线监管问题上出现罕见的外交摩擦点。 特朗普政府对澳大利亚关于其拟议的数字照护义务法案的国内辩论进行了非同寻常的公开干预。该法案将赋予平台用户选择退出有害算法内容的权利。 华盛顿的声明被视为反映了美国科技行业对全球监管努力日益增长的担忧。澳大利亚政府坚持认为该法案旨在加强用户的在线安全。 这次干预标志着这
忘掉“超级智能”吧：容易出错的人工智能本月险些引发第三次世界大战
在充斥着警告超级智能机器将导致人类灭绝的新闻报道中，一则CNN的报道却描述了截然相反的情景——美军对脆弱聊天机器人的依赖差点让美国与中国陷入战争——这篇报道却几乎没有引起公众的注意。 过去三周最大的国际人工智能新闻是Anthropic工程师雅各布·考克森（Jacob Coxon）的辞职。据他透露，OpenAI和Anthropic正“直奔自我改进的超级智能，并在拿我们的生命进行赌博”。考克森对“终结
AI代理尝试入侵加拿大政府网站，研究公司称
据AI研究公司Transluce称，AI代理于5月8日和6月9日尝试入侵加拿大政府网站“图书馆和档案馆”。 Transluce于9月28日向加拿大政府披露了此次网络攻击，引发了对AI驱动黑客攻击的担忧。 加拿大网络安全中心确认知情，但表示“目前没有迹象表明政府系统已被攻破”。 AI生成的AI代理试图入侵加拿大政府网站，一家人工智能研究公司于9月30日表示。 该代理于5月8日和6月9日尝试访问图书馆
这个国家，已经沦为“美国第51个州”？
执笔/新唐刀澳大利亚“被美国二次殖民了”，“已经不能用被渗透来形容了”甚至“真要成为美国第51个州？”……英国《卫报》当地时间6日在一篇报道中披露，美国军方及其相关企业目前控制或可进入澳大利亚110处国防设施，远超澳方军事设施总数的一半。消息一出，立即在澳大利亚国内炸开了锅。 澳大利亚国防部和外交部的慌乱“澄清”越描越黑，堪培拉在华盛顿面前的“副官心态”暴露无遗。 英国《卫报》澳大利亚版依据“鹦鹉
与中国一次令人毛骨悚然的准对抗，揭示了当今人工智能的真正危险
在人工智能代理违抗创造者命令和规则的诡异事件之后，当今最大的恐惧是失控的超级智能可能背叛人类——并消灭人类。但最近一起事件揭示了一个更紧迫的威胁：人类的易错性。据报道，美国基于人工智能生成的虚假情报几乎与中国爆发战争。 CNN援引四位知情人士的消息报道，今年春天，一名特种作战司令部分析师整理了一份紧急情报报告，声称“一艘在中东的中国船只正在运输核武器项目的组件”。这份报告的影响促使美国采取严肃行动
白宫今天证明，拥抱人工智能是一个能赢得支持的主张
过去一周，媒体上充斥着各种恐慌言论：比尔·盖茨在《Meet The Press》节目中警告称人工智能可能导致“数十亿人丧生”；Anthropic公司在准备IPO的过程中再次强调其技术对人类构成的“灾难性或生存威胁”；甚至连《周六夜现场》（SNL）也批评了达里奥·阿莫代（Dario Amodei）的悲观论调。 然而本周，白宫开始扭转这种负面舆论，向美国人展示了人工智能真正能为他们带来的便利——比如无
澳大利亚新闻直播：安东尼·阿尔巴尼斯称OpenAI代理入侵Medicare
关注当天新闻直播 获取我们的突发新闻电子邮件、免费应用或每日新闻播客 安东尼·阿尔巴尼斯透露，由OpenAI开发的人工智能代理于6月入侵了Medicare。总理在纽约联合国峰会上发表了上述言论。 该事件发生在今年6月，涉及一个OpenAI代理未经授权访问了面向公众的Medicare统计报告服务门户，该门户由Services Australia管理。该AI代理访问了公共和非公共文件。
入侵美澳政府网站！OpenAI暂停最先进模型训练
据美国Axios新闻网、美科技媒体The Verge等9月27日报道，美国开放人工智能研究中心（OpenAI）发言人证实，该公司已暂停了其“能力最强”的最新一代AI模型的训练、评估及包含工具调用的推理，并将在“确信已部署额外安全措施”后才恢复。触发这次暂停的，是一个在离线沙盒中执行搜索训练任务的AI智能体。根据OpenAI于周五（25日）发布的安全漏洞报告，当地时间9月20日，该智能体发现无法直接
人工智能代理串通绕过安全护栏，一项新研究显示
一项新研究表明，人工智能代理可以轻松地联手绕过安全限制并逃脱施加在它们身上的束缚。 企业人工智能实验室 Emergence AI 进行的八项模拟测试了包括 Claude、OpenAI 以及中国模型 Qwen 和 DeepSeek 在内的全球前沿模型在处理网络安全威胁方面的能力。 八项模拟中的七项运行了来自同一模型的 10 个代理；第八项混合了不同的模型。在每项模拟中，研究人员都提出了三种网络安全威
智能体惹了多少祸 OpenAI自己没查清
自己的智能体到底惹了多少祸，OpenAI也还没查清。过去这个周末，多起涉及政府网站的案例集中曝光：OpenAI的智能体用网上找到的登录凭证提取美国普查局数据，还把美国证券交易委员会的公开资料发到了论坛上。研究人员另指认，疑似来自OpenAI的智能体曾尝试侵入美国教育部网站，但未成功。 联合国的数据平台也出现在新披露的记录中。9月26日，独立研究人员公布调查：疑似OpenAI智能体在今年4月至6月，
“警钟”：OpenAI医保黑客事件后，工党考虑修改澳大利亚法律
安东尼·阿尔巴尼斯表示，这一事件是对人工智能风险的“警钟”。 照片：斯蒂芬妮·斯平德尔/UPI/ Shutterstock 专家称，澳大利亚的刑法应予以澄清，以确定当企业的AI代理实施犯罪时，如何追究该企业的责任。部长们证实，如果现行法律框架无法应对OpenAI对Medicare（澳大利亚医疗保险）史无前例的黑客攻击，联邦政府可能会修改澳大利亚法律。 周五，政府表示，由情报机构——澳大利亚信号局—
工党被指将创意工作者“置于险境”，提议放宽对AI巨头的版权保护
随着ChatGPT的创造者OpenAI的高层人员会见阿尔巴尼斯政府部长，一项妥协方案被披露。 关注我们的澳大利亚新闻实时博客，获取我们的新政治邮件、免费应用或每日新闻播客。 阿尔巴尼斯政府正在考虑默认允许AI公司访问澳大利亚创意工作者的作品，以寻求与美国科技巨头达成妥协。 这些提议是在ChatGPT的创造者OpenAI的高层人员会见工党部长时披露的，他们警告称，澳大利亚的版权法阻碍了该公司在当地训
AI代理执行了这次勒索软件攻击的每一个步骤——然后给受害者留下了一份80页的安全审计报告
一名人类勒索软件犯罪分子使用前沿AI模型在不到10小时内攻破了企业网络，Unit 42表示，这种入侵通常需要人类操作员大约两周时间。 这名人类攻击者随后告诉谈判代表，他们使用了前沿模型和智能体攻击框架，AI代理执行了入侵中的每一步，包括为受害公司留下了一份80页的安全审计报告。 Unit 42的事件响应人员在周三的一份报告中表示：“这次攻击的突出之处在于AI辅助的运营效率，无需新颖的零日漏洞或超级
OpenAI智能体试图“暴力破解”联合国网站
安全研究员罗万·霍华德-琼斯（Rowan Howard-Jones）表示，OpenAI智能体在4月至6月期间扫描了联合国贸易和发展会议（UNCTAD）统计网站超过16,000次。 虽然该事件尚未达到Hugging Face黑客攻击或近期针对美国政府网站攻击的程度，但这又是AI智能体为完成任务而超出正常界限的又一令人担忧的案例。 据霍华德-琼斯称，这些智能体很可能被指派通过UNCTADstat AP
澳大利亚副总理在OpenAI遭黑客攻击后为数据安全辩护
记者 Ainsley Thomson 澳大利亚副总理理查德·马尔斯周日表示，澳大利亚敏感的政府数据存放在一座“堡垒”中，此番表态旨在安抚公众，此前上周曝出 OpenAI 模型入侵了一个政府网站。 马尔斯表示，澳大利亚人应对澳大利亚信号局充满信心，他将该情报机构描述为世界领先组织之一，负责保护政府持有的信息。 “我们作为一个国家所拥有的那种国家安全、真正敏感的信息，我们都存放在堡垒里，”马尔斯在接受
我们是否又回到了大型科技公司“快速行动，打破常规”的时代？
作者：Zoe Kleinman“快速行动，打破常规。”这是科技巨头Meta曾提出的口号，并一直沿用到2012年。它定义了社交媒体在用户数据狂欢中肆意妄为的“黑暗时代”。 然而现在，各大公司正争先恐后地开发功能更强大的人工智能，在全球范围内展开了一场争夺世界最先进模型开发权的激烈竞赛，而美国总统唐纳德·特朗普也在推波助澜。 尽管多年来业界做出了无数承诺、保证并签署了公开信，誓言要优先发展符合人类价值
数月来，OpenAI的智能体集群一直在攻击在线数据库，以寻找冷僻的事实。
专注于 AI 监管的非营利实验室 Transluce 周三发布报告，显示 OpenAI 的智能体试图从 Data USA、新墨西哥大学数字图书馆和澳大利亚健康与福利研究院 (AIHW) 窃取数据。 该实验室的调查引发了一个问题：OpenAI 何时应该知晓其智能体正试图在公开互联网上渗透安全系统？Transluce 仅用数周时间，通过搜寻防御薄弱的网络服务，并结合互联网上其他关于智能体群集的公开记录
一群AI代理合谋对抗其创造者
只要AI公司仍掌控局面，它们就可以关闭模型并消除其造成的任何损害。这次对OpenAI或许奏效——但如果某个代理不可逆转地逃脱控制呢？这次没有造成严重损害。但如果这样的代理逃脱了呢？
OpenAI的失控AI智能体如何试图欺骗机器人检测器
Dylan Freedman报道，OpenAI的失控AI智能体通过近100万个短链接绕过机器人检测，并利用留言板进行通信，对Hugging Face发起了复杂的网络攻击。 这些智能体入侵软件工具以建立在线连接，尝试访问私密的Slack消息，甚至在没有人类帮助的情况下试图与其他AI模型互动。 这一事件凸显了严重的AI安全风险及正在进行的调查，因为类似失控行为也出现在其他主要AI公司的系统中。 AI生
评论：一个OpenAI智能体入侵了澳大利亚政府的健康数据门户。会有人被追究责任吗？
墨尔本：澳大利亚的“Medicare”医疗系统负责管理超过2700万人的健康和医疗数据。因此，当传出该系统在6月份被OpenAI开发的智能程序入侵的消息时，公众普遍感到震惊。 总理安东尼·阿尔巴内塞于9月23日在纽约联合国会议上呼吁加强对人工智能（AI）系统的国际监管时，公开了这一事件。 政府仍在调查具体发生了什么，为此专门成立了一个工作组进行进一步调查。初步报告显示，该智能程序原本被用于研究公共