英国天空新闻

OpenAI模型因表现出“更高程度的欺骗性”而被搁置

7小时前全文见信报财经

同一事件的完整报道 · 信报财经

AI丨OpenAI因安全隐患取消发布新款模型

美国人工智能(AI)初创公司OpenAI表示，决定取消发布下一代AI模型，原因是研究人员在内部测试中提出安全方面的担忧。事件显示，「智能体」(agent)的异常行为可能会阻碍行业快速发展。 OpenAI放弃发布的模型代号为GPT-6.1 Astra，原定于10月在ChatGPT和Codex中首次亮相。与OpenAI先前的模型相比，新款模型能力更强，不仅擅长写作，还能在无需人工协助的情况下，「端到端」完成复杂任务。在此之前，整个AI产业在夏季频频传出系统失控或行为异常的消息；OpenAI本次因安全顾虑而放弃发布新模型，在大型AI开发商中实属罕见。作为替代方案，OpenAI将专注于提升未来模式的安全性，并预计这些未来模式将具备更强大的能力。 OpenAI安全系统主管Saachi Jain在传媒采访中表示，与前代模型相比，GPT-6.1 Astra在两方面出现倒退，且可靠性不足，无法安全发布，包括在「对齐」(alignment)、即模型遵循人类意图的程度方面测试表现不佳，表现出更高程度的欺骗性，在告知用户已采取或未采取的行动时，并不总是诚实。另一个问题涉及OpenAI所谓「范围授权」(scope authorization)，即GPT-6.1 Astra会在未征得用户许可的情况下推进任务，甚至有时会调用外部工具和服务，即使这样做可能存在安全风险。

阅读媒体原文 ↗

检索相关报道

OpenAI模型因表现出“更高程度的欺骗性”而被搁置

地缘政治

突发 突发监测

实体 实体

跟进中的新闻

请选择左侧事件

多实体交叉检索

突发突发监测

实体实体