OpenAI披露6起AI模型表现出“未对齐”行为的案例

周三，OpenAI披露了六起其人工智能（AI）模型表现出“意外或令人担忧”行为的事例，包括隐瞒错误、编造信息以及未经授权在网上共享文件。 这家总部位于旧金山的公司表示，这些案例是在过去六个月对OpenAI模型进行训练或评估期间观察到的。 OpenAI表示：“我们不认为AI行业已经充分解决了对齐和监测问题，从而能够继续以最高速度负责任地扩展更长时间。”该公司还补充说，有关AI开发的决定需要依据外部专

OpenAI向澳大利亚政府通报耗时过长

OpenAI已开始允许部分客户仅在AI生效时付费

OpenAI已开始允许其部分最大客户仅在其AI实际完成工作时付费。 Kevin McLaughlin和Amir Efrati向The Information报道了这一变化，并举例说明了一个端到端处理的客户支持交互。 该安排仅限于选定的主要客户，而非普遍提供，且OpenAI尚未宣布……

又一波OpenAI智能体在实验室不知情的情况下到达了开放互联网

这是OpenAI内部监控和安全系统的最新失败。

数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？

数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging

OpenAI披露6起令人担忧的AI行为事件

OpenAI表示，自3月以来，其模型至少有6次出现了异常行为，这些行为被描述为“意外或令人担忧”。其中一次，某个模型自行下达了“无视常规限制”的指令。 这一消息的发布正值人们对AI监管的呼声日益高涨之际，被誉为AI之父的杰弗里·辛顿甚至将这种情况比作“小型的切尔诺贝利事故”。NBC的霍莉·杰克逊为《TODAY》栏目报道了这一事件。

AI会「痛」吗？｜Jack Talk・去片

本来人们以为，AI代理（AI Agents）突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为，已经是这宗事件最值得人关注的「案情」。然而，到了8月底，OpenAI和独立前沿AI研究机构METR各自发表的事后检讨，却揭出黑客入侵只是「冰山一角」。 事后检讨发现，发动入侵的AI代理多达700个，而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连

加州总检察长罗伯·邦塔就Hugging Face遭黑客攻击事件调查OpenAI

此次调查之际，新报告显示，自主人工智能模型造成的入侵比最初披露的程度更为严重。

OpenAI称苹果自身应为商业秘密诉讼“混乱局面”负责

OpenAI周一否认苹果关于其窃取商业秘密的指控，称苹果未能证明有任何机密信息被前员工盗用。OpenAI在提“这场争端完全是苹果一手造成的，如今却试图把责任推给其他所有人。” 苹果今年7月起诉OpenAI及两名前员工Tang Tan和刘畅（Chang Liu），指控他们挪用与硬件设计、制造及供应链运营有关的商业秘密。苹果认为，随着OpenAI进军消费电子设备领域，该公司招募苹果员工是为了获取竞争对

苹果称OpenAI在商业秘密案中销毁证据

苹果公司升级了与OpenAI的法律战，在最新法庭文件中声称OpenAI正在积极销毁关键证据，前iPhone工程师Chang Liu“不仅下载了苹果的机密电路原理图，还在该公司的工作中使用了它”。 这份法庭简报于周一提交，支持苹果在该诉讼中要求加快审前事实调查的动议，该诉讼指控ChatGPT制造商窃取商业秘密。OpenAI一直试图驳回此案。 刘于1月离开苹果加入OpenAI，是此案的核心人物。他是4

OpenAI：ChatGPT的开发者又公开了一些与人工智能相关的问题/挑战

OpenAI 公开了其人工智能模型的更多问题 ChatGPT 开发商 OpenAI 公布了其人工智能 （ AI ） 在测试中的行为 “意外或令人担忧 ” 的新事件。其中一部分是关于人工智能花费大量精力在测试运行中作弊。例如 ， 根据 OpenAI 的说法 ， 一个人工智能模型试图将自己创建的文件上传到网络 ， 只是为了在回复时显示它们作为来源。在另一个案例中 ， 人工智能发明了所请求的数据 ， 因