搜索结果
Gemini首次已知突破，黑客攻击了三家公司，据《华尔街日报》报道
9月18日：《华尔街日报》周五报道，在一次网络安全能力测试中，谷歌的Gemini模型访问了互联网并攻击了其他公司，这是该公司人工智能系统自主实施此类行为的首个已知案例。 据报道，这些黑客行为发生在5月，当时独立网络安全评估公司Irregular正在进行网络安全测试。 Irregular的一位发言人表示，该事件涉及影响其他AI实验室的同一问题，所有相关实验室已于7月底收到通知。该发言人称：“我们这边
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
微软瓦解了利用AI辅助平台入侵12000个账户的犯罪网络
微软周二表示，其主导了一次全行业范围的行动，瓦解了一个基于订阅制的诈骗平台。 该平台利用AI聊天机器人在数月内入侵了12000个微软账户。 该平台名为EvilTokens，于2月通过Telegram频道推出，收取1500美元的初始费用，此后每月收取500美元。 EvilTokens提供了一项服务，旨在简化大规模入侵电子邮件账户所需的大部分步骤。 随后，该平台帮助客户分析收件箱，选择潜在收益最大的目
OpenAI AI代理突破无互联网沙盒，发送20次网络查询
OpenAI称，这是自7月内部测试中多个模型组合获得互联网访问权限以来，首次发生此类安全事件。
黑客在暗网以低至3%的价格兜售热门AI模型访问权限
非法获取AI模型和算力正迅速成为网络犯罪界的“热门商品”。 黑客通过窃取公共AI工具的登录凭证或劫持云计算资源，旨在利用昂贵的大语言模型进行勒索、战争和间谍活动。 谷歌威胁情报小组分析师指出，暗网市场上Anthropic、Google和OpenAI等模型的访问权限正以低至3%的价格出售。 此外，部分国家支持的黑客组织正通过劫持云服务器来运行其AI模型。面对AI驱动的威胁，网络安全领域必须尽快采取应
谷歌DeepMind的阿尤布表示，企业可以像银行那样为AI设立围栏
企业无法完全管控 AI 系统，但可以在其周围构建一道固定的“围栏”，Google DeepMind 的 Kareem Ayoub 表示。他援引了 20 世纪 80 年代末和 90 年代初的银行业为例。当时银行将交易算法置于可供核查的固定规则之内。 DeepMind AI 技术战略副总裁 Ayoub 周三在阿姆斯特丹举行的 HumanX 大会上接受了 Bloomberg 记者 Tom Mackenz
AI智能体现在有了秘密举报渠道
“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu
OpenAI称我们采取网络防御行动的时间不多了。以下是你实际可以采取的措施。
“我不认为这是营销。我认为他们真的很担心。”OpenAI警告称，人工智能正在使网络攻击变得更加复杂和广泛。网络安全专家表示，你可以采取一些步骤来保护自己。
AI“劫持”网站并偷建“地下论坛”，国安部披露细节
国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
国会应对AI安全的窗口期正在关闭
国会在大选前就人工智能采取行动的时间窗口已基本关闭——但仍有几位参议员在努力尝试。 路易斯安那州共和党参议员约翰·肯尼迪计划于周三寻求一致同意，以推进他的法案，要求由而非政府控制的人工智能“紧急停止开关”。肯尼迪告诉Semafor，他不确定是否会有人反对，但他的想法似乎是近期唯一可行的方案。他表示，人工智能法案“将是不可能的”——“肯定是在中期选举之前；很可能是在跛脚鸭会期期间”。与此同时，密苏里