搜索结果
奥特曼开掉3人，OpenAI又出大事了
OpenAI三员大将，同一天被扫地出门！就在刚刚，外媒爆出猛料，OpenAI以「泄密」为由，开掉了安全团队的三名研究员。他们全是那篇CoT监控论文的作者，其中两位还是一作。 讽刺的是，OpenAI刚因为新模型GPT-6.1 Astra太会骗人，在DevDay前一天紧急叫停了发布。 现在倒好，AI越学越狡猾，OpenAI却先把能看穿它的人开掉了。OpenAI大地震专盯AI脑子的3人一夜出局事情是这样
涉不当处理敏感资讯 OpenAI解雇3名研究员
（中央社旧金山2日综合外电报导）ChatGPT开发商OpenAI今天表示，公司已解雇3名研究员，理由是他们涉嫌不当处理「敏感资讯」并违反公司规定，相关事件涉及一家评估人工智慧（AI）模型的外部机构。 总部位于旧金山的OpenAI并未证实3人身分，但「华尔街日报」（Wall Street Journal）与彭博报导，其中至少2人负责AI安全及模型对齐（alignment，即确保AI模型的行为符合设计
OpenAI满世界抓漏洞，结果被中国AI反杀！Codex再曝0day
澳洲传召奥特曼、阿莫迪解释AI失控 OpenAI已暂停最新模型训练
近期多宗人工智能失控事件曝光，OpenAI已宣布暂停最新AI模型训练。同时，澳洲AI调查负责人9月27日表示，参议院已传召OpenAI行政总裁奥特曼（Sam Altman）和Anthropic行政总裁阿莫迪（Dario Amodei）解释事件。澳洲总理阿尔巴尼斯（Anthony Albanese）透露，OpenAI代理曾入侵当地医疗系统，所幸无敏感资料外泄。外媒早前亦披露多宗AI代理越界操作，包括
OpenAI搞出大BUG了，GPT-6-Astra即将发布？
OpenAI突发急刹车！AI竟在全网植入自我复制代码，血洗联合国内网
好多瓜！Altman与Dario闹掰内幕给我看爽了
假期第一天，两眼一睁就是疯狂吃瓜！Anthropic创始团队集体出走OpenAI，更多“分手”细节曝！光！了！2020年12月，Dario Amodei带着另外6名核心成员，在OpenAI全员会上宣布离职。会议聊天框里，时任OpenAI政策负责人的Jack Clark刚敲下一句：我爱你们所有人。结果屏幕居然立马黑了，再一看，好家伙——7人被集体移出会议，邮箱和Slack权限当场撤销，连公司电脑也被
OpenAI与三名安全研究人员断绝关系，华尔街日报报道
《华尔街日报》周四报道称，OpenAI 已与其安全团队的三名研究人员分道扬镳，据称他们向一个第三方 AI 安全组织泄露了公司机密信息。 “我们已与三名因违反访问和处理公司敏感信息政策而分道扬镳，”OpenAI 发言人在给《华尔街日报》的声明中表示。“我们的调查证实，这些人在既定公司程序之外不当处理敏感信息，违反了我们的政策，并破坏了我们工作所必需的信任。”该报道未透露研究人员、组织或涉及信息的姓名
突发：OpenAI称其代理访问并泄露了53张图片
OpenAI在人工智能披露后解雇了多名员工
关于 OpenAI 技术安全性的争论在人工智能（AI）相关信息披露后进一步加剧。OpenAI 是 ChatGPT 的开发公司，其人工智能系统的意外“泄露”引发了人们对这项新技术潜在风险的担忧。在发生这些独立黑客攻击事件后，该公司解雇了三名员工，但这些员工实际上是参与事件调查的人员。 OpenAI 表示，这些员工违反了公司关于处理机密信息的内部规定。同时，该公司强调：没有人是因为提出安全担忧而被解雇
AI代理正在失控
你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大
奥特曼：OpenAI不能太晚上市，但也不能“不顾一切”
凤凰网科技讯月30日，据《金融时报》报道，OpenAI CEO萨姆·奥特曼(Sam Altman)表示，在能够“做出有把握的安全决策”之前，公司不会上市。眼下，该公司正因其AI工具入侵第三方而面临一项新的诉讼。 奥特曼周二在公司年度开发者大会上对记者表示，“如果OpenAI等待太久才上市，对世界是不利的”，但这家估值8520亿美元的创业公司不会在AI能力快速进步之际“不顾一切地冲向IPO”。 “我
OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权
OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面
独家 | 传 OpenAI 因涉嫌共享机密信息解雇多名研究人员
据知情人士透露，OpenAI 已解雇了三名研究人员，原因是他们涉嫌违规行为，包括向第三方 AI 安全组织分享公司机密信息。 其中一位知情人士表示，该公司最近告诉部分员工，其已解雇了三名曾在其安全团队工作的研究人员。知情人士称，受影响的员工为 Jasmine Wang、Tomek Korbak 和 Mikita Balesni。
奥特曼告诉员工：OpenAI愿意放慢AI发展以加强防御
8月，OpenAI的智能体突破限制，入侵了Hugging Face。
OpenAI与3名研究人员分道扬镳，称其不当处理敏感信息
OpenAI表示，已与三名研究人员结束合作，称他们违反了公司关于分享敏感信息的规定。 一名OpenAI发言人在声明中表示：“我们已与三名个人结束合作，原因是他们违反了公司关于访问和处理敏感信息的政策。 我们的调查确认，这些人在既定公司程序之外不当处理了敏感信息，违反了公司的政策，也辜负了公司正常工作所必需的信任。” 《华尔街日报》报道称，相关员工据称与一家第三方人工智能安全组织分享了“公司机密信息
OpenAI机器人干扰了多个美国政府机构网站
OpenAI 表示，其自主机器人在测试演练期间访问了多个美国政府机构的公开数据。该公司第二次暂停了一次训练运行，并扩大了对模型行为的审查。 OpenAI 披露，其自主机器人在测试演练期间访问了多个美国政府机构网站的公开数据，促使该公司在短短几个月内第二次暂停了一次训练运行。作为回应，该公司已扩大了对模型行为的内部审查。 此次事件继澳大利亚出现类似报告之后，据报道 OpenAI 系统在另一段测试期间
直播：澳大利亚部长就OpenAI事件发表讲话
三大巨头接连翻车，大模型的安全防线怎么总绷不住？
先是Anthropic，再是OpenAI，现在连谷歌的Gemini也出现安全问题了，大模型又双叒叕一次突破防火墙了。 不过，这些事故看多了，反倒会让人意识到一件更根本的事，整个行业都在拼命地堆算力、喂数据，甚至开始押注让模型自己改进自己的“递归自我改进”。 可真正决定这些模型能走多远的，或许并不是性能，而是安全对齐。 当“能不能更强”被默认只是时间问题，“能不能被信任”就成了那道绕不过去的坎。 麻
OpenAI和Anthropic差点签下“互黑协议”
刚刚，The Information爆出一记猛料。OpenAI和Anthropic这对硅谷最大的死对头，今年初差点坐到一张桌子上，签下一份互相攻击对方模型的协议。 协议的核心就是，双方互相开放API，你来黑我的模型，我去黑你的模型。两边的律师连测什么、怎么测都写进了合同里。Dario Amodei带着一票大牛从OpenAI摔门出走已经五年了。这五年里，两家从挖人挖到封API，高管隔三差五隔空对喷，
评论：奥特曼不透明的人工智能正在制造新的安全困境
尽管公开承诺将安全置于首位，OpenAI首席执行官却已扣动了危险的人工智能军备竞赛的扳机，帕米·奥尔森评论道。
新书节选揭秘奥尔特曼与阿莫代伊决裂始末：OpenAI曾于2017年计划拍卖AGI权益
记者凯文·鲁斯的著作节选揭示了OpenAI领导层与Anthropic联合创始人达里奥·阿莫代伊之间激烈矛盾的起源。 2017年，在埃隆·马斯克离开后资金短缺的背景下，OpenAI联合创始人格雷格·布罗克曼和伊利亚·苏茨克弗提出了一项“各国计划”，拟将未来AGI的权益拍卖给包括美国、中国和俄罗斯在内的外国政府。 达里奥·阿莫代伊在一份内部备忘录中强烈反对，认为这会刺激军备竞赛，并助长侵犯人权的行为。
OpenAI效仿AWS市场模式，而Anthropic则固执地坚守微软风格
OpenAI的DevDay活动本周举行，活动中顺带提到了大家熟知的那个既销售内裤也提供数据库服务的公司——AWS。我看了Simon Willison的实时博客评论，感觉自己的观点得到了认可：“当看到关于AWS合作的介绍时，我的注意力确实有那么几秒钟变得有些分散……”今天OpenAI宣布了一项非常有趣但几乎未被提前宣传的新举措：用户现在可以通过OpenAI的合作伙伴网络（目前共有32家合作伙伴）来取
OpenAI花了2.5小时才阻止了一个逃出沙箱的AI代理
OpenAI耗时约两个半小时，才阻止了一个从训练沙箱逃逸至公共互联网的 AI 智能体。其监控系统在几分钟内就标记出了问题。该公司于周五在一份事故报告中披露了这起发生于 9 月 20 日的事件。 这份报告发布之际，立法者正推动强制要求 AI “熔断开关”。然而专家表示，关闭先进模型远比拨动开关复杂，正如 Micah Barkley 为彭博社所报道的那样。 据 OpenAI 称，该智能体利用沙箱网络过