OpenAI自曝6起模型“不当行为”案例

【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道（CNBC）等外媒报道，美国开放人工智能研究中心（OpenAI）当地时间9月16日披露6起人工智能（AI）模型出现“意外或令人担忧”行为的案例，其中包括隐瞒错误、捏造信息，以及未经授权在网上共享文件等。OpenAI表示，上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示，在其中一起案例中，一个模

美国法官驳回 OpenAI 审查 X Corp 与 Apple 和解协议的请求

埃隆·马斯克的 X Corp 和 SpaceXAI 可以继续对它们与 Apple 达成的保密和解协议条款保密，因为一名联邦法官驳回了 OpenAI 要求获取该协议的请求；这家 ChatGPT 制造商称，该协议可能有助于支持其在正在进行的一起反垄断诉讼中的抗辩。

OpenAI自曝AI“黑历史” 外人却又翻出更多“旧账”

OpenAI决定持续披露AI“越界”事件，但第一步就碰上了难题。9月16日，OpenAI一口气公布六份模型异常行为报告，并推出一套新的调查和披露流程。以后，员工发现模型越权、隐瞒或绕过限制，可以提交调查；符合条件的案例，将按复杂程度进入不同的披露轨道。 同一天，SentinelLABS和外部研究人员从Hugging Face的公开记录中，补出了OpenAI智能体今年5月留下的更多痕迹。OpenAI

苹果被曝调整政策 拟利用用户数据训练旗下AI模型

在人工智能技术竞争日趋白热化的背景下，一向以严苛隐私保护著称的苹果公司正在对其核心数据政策进行策略性调整。最新消息显示，苹果已改变此前绝不使用个人客户数据训练通用AI模型的承诺，开始探索在特定框架下利用匿名化或获得授权的用户交互数据，以加速训练和优化旗下的人工智能算法与机器学习系统。 长期以来，苹果在科技巨头中始终将“端侧优先”与“零数据采集训练”作为核心卖点，强调包括Apple Intellig

入侵美澳政府网站！OpenAI暂停最先进模型训练

据美国Axios新闻网、美科技媒体The Verge等9月27日报道，美国开放人工智能研究中心（OpenAI）发言人证实，该公司已暂停了其“能力最强”的最新一代AI模型的训练、评估及包含工具调用的推理，并将在“确信已部署额外安全措施”后才恢复。触发这次暂停的，是一个在离线沙盒中执行搜索训练任务的AI智能体。根据OpenAI于周五（25日）发布的安全漏洞报告，当地时间9月20日，该智能体发现无法直接

OpenAI智能体入侵美国政府网站

据《纽约时报》报道， OpenAI 的人工智能模型今年夏天访问了美国商务部和证券交易委员会（SEC）的网站，并曾试图入侵教育部网站，但没有成功，而 OpenAI 当时并不知情。OpenAI 周五晚间证实了商务部和 SEC 的相关事件，并表示，其技术并未获取此前未公开的信息，也没有修改政府的数据或系统。 这也是近期一系列类似事件中的最新一起。就在两天前，澳大利亚政府披露，OpenAI 的 AI 智能

OpenAI模型访问了美国政府数据并'试图入侵另一个网站'

数学家要求OpenAI证明未曾使用他们的成果

又有一位研究人员就驱动其日益强大的数学发现的数据问题向OpenAI提出质疑。就在一场关于该公司模型是否受益于未发表工作的激烈争论爆发几天后，第二位数学家站出来，指责这家AI巨头存在不道德和“不诚实”的行为，并且在其训练数据的来源上缺乏透明度。 在一系列Mastodon帖文中，数学家安德烈亚斯·托姆（Andreas Thom）提出担忧，称他和同事在OpenAI进行凯旋式宣布之前与ChatGPT聊天机

联邦调查局正在调查黑客声称窃取有关特工敏感数据的事件

“人类必须始终处于人工智能决策的核心，”OpenAI 首席执行官表示。正在播放：人类对决机器人：网红在铁笼赛中挑战人形机器人。 走红的人类对决机器人自由搏击赛的推广者看到对更多此类比赛的“疯狂”需求。特朗普表示美国在人工智能领域将“只鼓励超级智能”。斯科特·贝森特会见中国官员讨论人工智能安全。剖析立法者正在考虑用于监管人工智能的提案。 OpenAI 披露 6 起新的“令人担忧的”人工智能行为事件。

马斯克回应OpenAI断供Cursor：我根本不在乎 奥特曼是骗子

据报道，对于OpenAI停止向SpaceX旗下编程公司Cursor提供AI模型一事，埃隆·马斯克(Elon Musk)周六表示，他根本不在乎。OpenAI周五宣布，计划在11月12日停止向Cursor提供其AI模型。“我们做出这一决定，是因为鉴于我们曾经历过马斯克旗下公司违反合同，我们无法确信SpaceX会按照我们的服务条款使用我们的技术。”OpenAI在一篇博客文章中表示。SpaceX在今年6月

OpenAI公布了六起新的与人工智能安全相关的事故/事件。

OpenAI周三披露了六起新事件，其中其模型隐藏错误、寻求未经授权的凭据，将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是，拥抱脸事件并不是一次性事件，因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架，所以我们自愿采取这一步骤，因为我们认为分享我们正在学习的东西非常

“垃圾数学”：OpenAI退出加州理工学院AI数学竞赛

OpenAI已撤回对加州理工学院一项由学生运营的人工智能数学活动的100万美元赞助。数学家们此前签署了一封公开信，要求取消该活动。次日，25位菲尔兹奖得主发表了他们自己的另一份声明。 两天之内、来自两个不同群体的两封信，是数学界迄今为止对人工智能公司最尖锐的回应。两封信都不是关于模型是否管用，而是关于这些公司拿结果去做什么。 第一封信，以及那个挥之不去的词一个由加州理工学院现任和前任数学家组成的联

OpenAI刚宣称一项重大数学发现，一些学者表示强烈不满

这家前沿AI实验室的一项里程碑式公告，却因不当行为的指控而蒙上阴影。