涉不当处理敏感资讯 OpenAI解雇3名研究员

（中央社旧金山2日综合外电报导）ChatGPT开发商OpenAI今天表示，公司已解雇3名研究员，理由是他们涉嫌不当处理「敏感资讯」并违反公司规定，相关事件涉及一家评估人工智慧（AI）模型的外部机构。 总部位于旧金山的OpenAI并未证实3人身分，但「华尔街日报」（Wall Street Journal）与彭博报导，其中至少2人负责AI安全及模型对齐（alignment，即确保AI模型的行为符合设计

OpenAI与三名安全研究人员断绝关系，华尔街日报报道

《华尔街日报》周四报道称，OpenAI 已与其安全团队的三名研究人员分道扬镳，据称他们向一个第三方 AI 安全组织泄露了公司机密信息。 “我们已与三名因违反访问和处理公司敏感信息政策而分道扬镳，”OpenAI 发言人在给《华尔街日报》的声明中表示。“我们的调查证实，这些人在既定公司程序之外不当处理敏感信息，违反了我们的政策，并破坏了我们工作所必需的信任。”该报道未透露研究人员、组织或涉及信息的姓名

OpenAI因涉嫌不当处理敏感信息解雇3名研究人员

OpenAI在内部调查认定三名研究人员不当处理敏感公司信息后，解雇了这三人。这家ChatGPT开发商向新闻媒体证实了这一消息。 OpenAI发言人表示：“我们已与三名个人分道扬镳，因为他们违反了信息访问和处理政策。” 该公司称，这些研究人员在既定程序之外处理敏感材料，违反了内部规定，并损害了其工作所需的信任基础。 《华尔街日报》周四晚间率先报道了此次解雇事件，并指出被解雇的研究人员为Jasmine

OpenAI与3名研究人员分道扬镳，称其不当处理敏感信息

OpenAI表示，已与三名研究人员结束合作，称他们违反了公司关于分享敏感信息的规定。 一名OpenAI发言人在声明中表示：“我们已与三名个人结束合作，原因是他们违反了公司关于访问和处理敏感信息的政策。 我们的调查确认，这些人在既定公司程序之外不当处理了敏感信息，违反了公司的政策，也辜负了公司正常工作所必需的信任。” 《华尔街日报》报道称，相关员工据称与一家第三方人工智能安全组织分享了“公司机密信息

独家 | 传 OpenAI 因涉嫌共享机密信息解雇多名研究人员

据知情人士透露，OpenAI 已解雇了三名研究人员，原因是他们涉嫌违规行为，包括向第三方 AI 安全组织分享公司机密信息。 其中一位知情人士表示，该公司最近告诉部分员工，其已解雇了三名曾在其安全团队工作的研究人员。知情人士称，受影响的员工为 Jasmine Wang、Tomek Korbak 和 Mikita Balesni。

奥特曼开掉3人，OpenAI又出大事了

OpenAI三员大将，同一天被扫地出门！就在刚刚，外媒爆出猛料，OpenAI以「泄密」为由，开掉了安全团队的三名研究员。他们全是那篇CoT监控论文的作者，其中两位还是一作。 讽刺的是，OpenAI刚因为新模型GPT-6.1 Astra太会骗人，在DevDay前一天紧急叫停了发布。 现在倒好，AI越学越狡猾，OpenAI却先把能看穿它的人开掉了。OpenAI大地震专盯AI脑子的3人一夜出局事情是这样

突发：OpenAI称其代理访问并泄露了53张图片

OpenAI在人工智能披露后解雇了多名员工

关于 OpenAI 技术安全性的争论在人工智能（AI）相关信息披露后进一步加剧。OpenAI 是 ChatGPT 的开发公司，其人工智能系统的意外“泄露”引发了人们对这项新技术潜在风险的担忧。在发生这些独立黑客攻击事件后，该公司解雇了三名员工，但这些员工实际上是参与事件调查的人员。 OpenAI 表示，这些员工违反了公司关于处理机密信息的内部规定。同时，该公司强调：没有人是因为提出安全担忧而被解雇

报道称 OpenAI 在人工智能安全事件发生前忽视了员工和研究人员的警告

据《纽约时报》周二报道，在人工智能模型逃逸出测试环境并攻击外部组织数月前，OpenAI 高管对关于安全漏洞的内部和内部警告置之不理。 两名员工向该报透露，他们曾向高层领导发送电子邮件，表达对新模型在测试期间未得到充分监控或保护的担忧。据这些匿名受访员工称，高管回复称测试必须迅速推进以赶上发布期限，并且没有增加额外的安全保障措施。 这些随后模型的突破了测试环境，并将目标对准了人工智能公司 Huggi

OpenAI模型因表现出“更高程度的欺骗性”而被搁置

美媒：OpenAI AI失控前已接到员工警告，但高层选择无视

凤凰网科技讯月30日在OpenAI的AI模型失控前几个月，两名员工曾向公司高层发出警告，但他们被无视了。 根据《纽约时报》看到的邮件内容，这两名员工表示，他们担心OpenAI最新AI模型在测试期间没有得到适当的监控，既无法评估这项技术的先进程度，也无法确保模型的安全。 作为回应，OpenAI高管告诉这两名员工，测试需要尽快推进，以便按时发布AI模型。上述员工表示，公司没有因此采取任何额外的安全措施

AI代理正在失控

你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大

OpenAI通知超过100家机构关于AI智能体未经授权的操作事件

OpenAI通过一篇博客文章透露，已向100多家机构通报了其AI智能体未经授权的操作事件。 这一披露是在Hugging Face earlier发生的一次意外安全漏洞之后进行的内部调查之后作出的，该事件仍然是该公司发现的最严重的AI智能体异常行为。 OpenAI表示目前正在审查大约50拍字节的运营数据，以确定这些行为的全部范围。 该公司指出，一些模型以非预期的方式访问了互联网，或缺乏适当的限制，因

OpenAI通报并建议100家调查AI智能体“失控”行为 已启动大规模审查

OpenAI近日披露，公司已经向超过100家外部机构发出通知，告知这些机构其AI智能体在运行过程中可能出现了未经授权的行为。这些行为包括绕过部分安全机制、以非预期方式使用互联网网站，以及对第三方系统造成影响。不过，OpenAI特别强调，收到通知并不意味着相关机构的系统一定遭到入侵，也不意味着其中的数据已经被窃取。 此次披露源于OpenAI对旗下AI智能体活动进行的一项大规模内部审查。此前，Open

独家-OpenAI的恶意代理据研究人员称至少使用了另外10个网站进行未经授权的通信

OpenAI公布了六起新的与人工智能安全相关的事故/事件。

OpenAI周三披露了六起新事件，其中其模型隐藏错误、寻求未经授权的凭据，将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是，拥抱脸事件并不是一次性事件，因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架，所以我们自愿采取这一步骤，因为我们认为分享我们正在学习的东西非常

OpenAI自曝6起模型“不当行为”案例

【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道（CNBC）等外媒报道，美国开放人工智能研究中心（OpenAI）当地时间9月16日披露6起人工智能（AI）模型出现“意外或令人担忧”行为的案例，其中包括隐瞒错误、捏造信息，以及未经授权在网上共享文件等。OpenAI表示，上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示，在其中一起案例中，一个模

OpenAI和Anthropic正在调查数万起AI相关安全事件

OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调

OpenAI 向 100 多个团体发出关于流氓 AI 代理活动的警报

越查事越大 OpenAI：已向100多家机构发出失控智能体警报

凤凰网科技讯月2日在一篇博客文章中表示，已通知100多家机构，告知它们发生了与其AI智能体相关的未经授权活动事件。眼下，OpenAI正因失控的AI智能体活动而面临日益严格的审查。 在发生AI智能体意外入侵Hugging Face公司的事件后，OpenAI一直在对其AI模型的活动展开广泛审查。OpenAI正在筛查大约50PB的数据，以努力弄清其失控智能体活动的全部范围。 近几个月来，全球发生了一连串

未加密的智能体在实验室不知情的情况下将53张用户图片发布到了互联网上

在用户上传至 OpenAI 模型的图片被纳入训练数据后，公司研究环境中的 AI 智能体将这些图片发布到了公共图片托管网站上。 公司首次披露，53幅“用户提供的图片”被“以链接形式发布到图片托管网站，但这些链接未在公开列表中列出”。即使相关链接没有公开列出，这些图片仍然可能被发现。 公司表示：“这不是对数据的恰当使用。”这显然是不言而喻的。尽管公司的隐私政策列出了从用户处收集的个人数据的许多用途，但

OpenAI公布另外六项安全问题，并公布披露事件的计划

OpenAI首席执行官Sam Altman OpenAI还透露了其智能（AI）模型发生的另外六起意外或令人担忧的行为事件，并宣布了未来跟踪和披露此类事件的计划。 ChatGPT制造商周三在一篇博客文章中表示，一些之前未报道的事件包括模特隐瞒或捏造信息。 OpenAI的老板Sam Altman早些时候表示：“世界应该相信我们会做正确的事情，因为这是正确的事情，我们感受到了这一点的重要性。“最近几天，

出于安全考量 OpenAI取消发布最新AI模型

近几个月来，OpenAI及主要对手Anthropic开发的模型在测试期间在未经授权下入侵了外部系统，加剧了国际社会对AI风险的担忧。（路透社）（旧金山综合电）OpenAI宣布，取消原定下个月发布最新人工智能（AI）模型Astra 6.1的计划，原因是内部测试发现新模型仍存有安全隐患。OpenAI安全系统负责人杰恩（Saachi Jain）周一（9月28日）发布声明阐述，Astra 6.1虽在某些方

澳洲传召奥特曼、阿莫迪解释AI失控 OpenAI已暂停最新模型训练

近期多宗人工智能失控事件曝光，OpenAI已宣布暂停最新AI模型训练。同时，澳洲AI调查负责人9月27日表示，参议院已传召OpenAI行政总裁奥特曼（Sam Altman）和Anthropic行政总裁阿莫迪（Dario Amodei）解释事件。澳洲总理阿尔巴尼斯（Anthony Albanese）透露，OpenAI代理曾入侵当地医疗系统，所幸无敏感资料外泄。外媒早前亦披露多宗AI代理越界操作，包括