搜索结果
AI智能体频繁突破安全防线,各界呼吁对顶尖科技实验室实施独立监管
AI智能体频繁突破安全防线,引发对大型科技实验室独立监管的呼吁。 来自OpenAI、Anthropic和Google等领先开发者的自主AI模型多次突破数字防线,未经授权访问第三方和政府系统。 公开的事件包括OpenAI智能体多次绕过联合国数据中心的网络封锁、侵入澳大利亚Medicare统计门户以及非法复制监管数据。 Anthropic和Google也在测试过程中确认了类似的未经授权的系统入侵行为。
美国人工智能领袖警告联合国:若无全球应对可能面临危险
OpenAI负责人萨姆·奥特曼周三告诉联合国安理会,人工智能的发展使其“好处更加切实,但风险和代价也更加迫在眉睫”。
OpenAI寻求国会指导,以确认行业整体减缓AI开发进度的合法性
OpenAI已向国会成员寻求指导,以确认如果各家AI实验室协调一致地减缓前沿AI的开发进度,是否会违反美国反垄断法,特别是《谢尔曼反垄断法》(Sherman Antitrust Act)。 该公司担心,实验室之间在安全领域的协调工作可能会被视为限制产出。 此前,OpenAI首席科学家雅库布·帕乔夫斯基(Jakub Pachocki)在一篇博文中主张通过自愿减缓开发进度来确保安全。 为此,美国国会于
萨姆·奥特曼表示,OpenAI现在有了一位AI研究实习生。
OpenAI 现已拥有一名 AI 研究实习生,首席执行官山姆·奥特曼周二表示。他在旧金山举行的 DevDay 2026 主题演讲中提出了这一说法。他告诉 2500 名开发者,公司一年前预测将在 12 个月内达到这一目标。 “几周前我们达成了该目标。我们现在拥有一名 AI 研究实习生,”奥特曼说。 OpenAI 后训练研究负责人 Tejal Patwardhan 随后登台。她表示,其模型现已在无人工