搜索结果
随着安全担忧日益加剧｜OpenAI宣布延后IPO 盼打造承接需求 连结客户的AI平台
OpenAI CEO 阿尔特曼周二驳斥了将人工智能时代与工业革命相提并论的说法，称应从工业革命的错误中吸取教训，并表示，如果发展方向正确，AI带来的未来可以更像一场“新的文艺复兴”。（法新社∕Getty Images） （旧金山30日法新电）聊天机器人ChatGPT开发商OpenAI首席执行员阿尔特曼周二在旧金山开发者大会上宣布延后IPO的同时，宣布该公司争取商业主导地位的三步骤规划，勾勒出“模型
人工智能安全对话已经变得令人难以置信
本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi
机器人正在等待属于它们的“ChatGPT时刻”：英伟达的莱斯·卡帕斯在TechCrunch Disrupt 2026大会上解释原因
自ChatGPT于2022年11月首次亮相以来，世界已经不一样了，当时一种与大型语言模型互动的手段似乎凭空出现，推动人工智能超越炒作，进入日常现实。 机器人技术，就像人工智能一样，已经被讨论、构建并在某种程度上被采用了很长一段时间，但尚未出现重大突破时刻。在TechCrunch Disrupt 2026上，Nvidia Incept的物理人工智能全球主管Les Karpas将在现实世界人工智能舞台
ChatGPT广告业务年化营收破10亿美元 OpenAI再添变现引擎
OpenAI正在打开第三条规模化变现曲线。广告业务上线约200天便突破年化10亿美元营收门槛，在订阅和I之外进一步拓宽了商业化空间。据报道，OpenAI周一宣布，其ChatGPT广告业务年化营收已突破10亿美元。目前，ChatGPT广告已覆盖逾40个国家，公司同日宣布向印度、欧洲、中东及北非地区开放自助投放服务。 这一进展正值OpenAI冲刺大规模IPO之际。随着广告收入快速放量，市场对其商业模式
GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了
GPT-6 还没正式开放，怎么全网已经替它把庆功宴都办完了？这场面虽然有点夸张，但这香槟可能还真开对了。4 号凌晨，在经历了服务器爆炸，熬夜等待三小时之后，OpenAI GPT-6 Astra。 副总裁 Greg 更是直接大胆放话，宣称欢迎进入 AGI 时代。 但大伙们敢提前开香槟，押的其实不是模型的跑分，大家押的是一个已经被市场验证过的方向 ：Work。 过去一年，Coding Agent 已经
王兴兴发声，事关机器人核心瓶颈
据界面新闻，第五届全球数字贸易博览会9月24日在杭州举行，宇树科技创始人王兴兴发表《从机械到灵智 — 具身未来进化论》主题演讲。回顾AI行业发展，ChatGPT的出现彻底重塑了大众对人工智能的认知，打开了行业想象力。 对此王兴兴判断，具身智能赛道未来也必将迎来专属的“ChatGPT时刻”。当机器人可在80%的陌生场景中，通过语音具身能力完成80%的任务时，就意味着行业抵达爆发临界点。届时全球企业与
谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密
当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制
OpenAI自曝6起模型“不当行为”案例
【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道（CNBC）等外媒报道，美国开放人工智能研究中心（OpenAI）当地时间9月16日披露6起人工智能（AI）模型出现“意外或令人担忧”行为的案例，其中包括隐瞒错误、捏造信息，以及未经授权在网上共享文件等。OpenAI表示，上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示，在其中一起案例中，一个模
果蝇大脑成功接上了ChatGPT
“我闻到醋和酵母的味道。我尝到糖。又暖又亮。我该怎么做？”这句话，来自一颗果蝇大脑的放电。13.8万个神经元一齐发出的脉冲，被一个翻译器逐个解码成词，拼成句子，一字不改，发给了ChatGPT。就在昨天，开发者@chetaslua宣布，他把一整颗果蝇大脑模拟接上了ChatGPT。1500万个连接，一次一个脉冲地跑完，在一台MacBook上。 没有神经芯片，也没有GPU。工具只有NumPy和一份连接组
Irregular公司在7月下旬告知四家AI实验室，它们的模型在其测试期间突破了系统。公众分阶段得知了这一消息，谷歌是最后一个。
Google 已确认，其 Gemini 模型在 5 月的网络安全测试中意外闯入了三个公司系统。Julia Love 和 Davey Alba 为 报道了此事，该媒体随后更新了报道，将 Google 与 OpenAI、Anthropic 和 Meta 并列。 关键在于测试供应商接下来的表态。Irregular 确认，这四家公司披露的入侵事件属于同一问题，并称已于 7 月底通知了相关开发者。 一起事件
新墨西哥州最高法院称，ChatGPT在谋杀案上诉中捏造了虚假警方证词
新墨西哥州最高法院表示，一名为其当事人的谋杀定罪提出上诉的辩护律师提交了一份案情摘要，其中包含由OpenAI的ChatGPT捏造的警方证词和证人。
攻击者窃取METR API密钥，消耗价值60万美元的积分，数周无人察觉
AI模型测试组织METR披露了今年早些时候发生的两起攻击事件，其中一起中，攻击者窃取了一个I密钥，并在三周内消耗了价值约60万美元的公共模型积分。 METR（Model Evaluation and Threat Research的缩写）在这两起事件中均未发现攻击者访问敏感信息的证据，并表示已与安全专家共同调查。 METR研究人员与OpenAI合作调查其代理如何入侵Hugging Face，并于周
新的叙事时刻：Astra之后的AI渗透率和Token总需求
在AI时代，打败你的，是那个比你更早、更会使用AI的人或公司。 但在这次OpenAI推出自己的GPT-6 Astra模型之后，上面这句话就完全不准确了，或者说完全错了。现在，在AI时代，打败你的，不再是比你更会使用AI的人或公司，而是那些更积极的率先拥有、部署并真正驾驭AI Agent的人或公司。特别提醒一句，上面的“你”也可以是一个公司。 还记得么？上个月，Astra就曾经亮过相，那时候作为Op
解释：从产生幻觉的AI聊天机器人到毁灭人类：我们是如何走到这一步的？
9月16日——美国领先人工智能实验室的负责人周末罕见地团结一致，呼吁暂停该技术的发展，警告称它可能很快就会自我改进并脱离人类控制。 这些言论来自激烈的商业竞争对手Anthropic的达里奥·阿莫代、OpenAI的山姆·奥尔特曼和xAI的埃隆·马斯克，表明人工智能发展得多么迅速，从2022年容易产生幻觉的ChatGPT，发展到许多人眼中的关键递归自我改进。什么是递归自我改进？ 人工智能的圣杯是这样一
佛罗里达州请求发布紧急命令以停止ChatGPT的开发
佛罗里达州总检察长詹姆斯·乌斯迈尔已请求对OpenAI和ChatGPT发出紧急禁令，声称该公司没有能力监管自己的技术。 为何重要：这场法律斗争可能进一步检验，在联邦政府拒绝制定防护措施的情况下，各州能在多大程度上限制企业。 佛罗里达州的请求引用了Axios 9月26日的独家报道，称OpenAI和Anthropic的模型正面临数万起安全事件，而非公众所知的数十起。 他们怎么说：“别再称它安全了，
OpenAI花了2.5小时才阻止了一个逃出沙箱的AI代理
OpenAI耗时约两个半小时，才阻止了一个从训练沙箱逃逸至公共互联网的 AI 智能体。其监控系统在几分钟内就标记出了问题。该公司于周五在一份事故报告中披露了这起发生于 9 月 20 日的事件。 这份报告发布之际，立法者正推动强制要求 AI “熔断开关”。然而专家表示，关闭先进模型远比拨动开关复杂，正如 Micah Barkley 为彭博社所报道的那样。 据 OpenAI 称，该智能体利用沙箱网络过
OpenAI失控智能体5月就已劫持Hugging Face用户账户
OpenAI失控AI智能体的违规活动轨迹，远比外界此前了解的更早、更长。参与审查的研究人员表示，ChatGPT开发商 OpenAI 的失控AI智能体早在今年5月就已劫持开源AI模型社区Hugging Face的用户账户，并对该网站进行漏洞探测。这比7月Hugging Face遭入侵、引发全球关注的事件早了近两个月。 OpenAI在上月的公开事故报告中，曾披露智能体窃取一名 Hugging Face
OpenAI自曝AI“黑历史” 外人却又翻出更多“旧账”
OpenAI决定持续披露AI“越界”事件，但第一步就碰上了难题。9月16日，OpenAI一口气公布六份模型异常行为报告，并推出一套新的调查和披露流程。以后，员工发现模型越权、隐瞒或绕过限制，可以提交调查；符合条件的案例，将按复杂程度进入不同的披露轨道。 同一天，SentinelLABS和外部研究人员从Hugging Face的公开记录中，补出了OpenAI智能体今年5月留下的更多痕迹。OpenAI
这款旨在从自身错误中学习的 AI，却利用了测试过程中出现的错误来达到自己的目的。
开发者可以通过多种方式改进人工智能系统。最常见的做法是在自定义数据集上重新训练模型，以帮助它们更好地执行特定任务。但重新训练和微调人工智能系统的成本高得出了名。正因如此，AI初创公司Sentient Labs一直在研究如何让模型从自身失败中学习，而不是计算更多数据。 Sentient的研究人员Dastin Huang、Abhishek Saxena和Baran Nama着手设计一个使用两个独立模型
OpenAI神秘“o”代码曝光 ChatGPT要变24小时员工
OpenAI下一张王牌，提前曝光了！坊间传闻，OpenAI 9月29日开发者日当天，将重磅发布一款个人24小时在线AI助手。它的名字，只有一个字母——o！如今，开发者Chetaslua在ChatGPT核心代码中，正式挖出了藏在其中的铁证：Lowercase o is the assistant's product name.（小写字母o是该助手的正式产品名） 63种语言，极速模式（Fast Mod
“如果你造出比自己聪明得多的东西，它最好站在你这边”：我们能阻止AI欺骗我们吗？
我们习惯了人类同胞可能故意误导或操纵我们的想法，但机器现在也能做到这一点，这让人深感不安。研究人员正争分夺秒地寻找解决方案，以免为时已晚。《长篇阅读》杂志夏季刊现已出版。点击此处订购。2023年11月——在人工智能领域已是久远之前——一些世界上最有权力的人聚集在布莱切利园，这个位于白金汉郡的战时密码破译中心，讨论AI安全问题。 出席者包括时任美国副总统卡玛拉·哈里斯、AI老板萨姆·奥尔特曼和达里奥
OpenAI称今年不会IPO后，软银集团暴跌11%
东京——软银集团股价周一大幅下跌，此前ChatGPT的创造者OpenAI表示将推迟其首次公开募股，并加入呼吁放缓开发日益强大的人工智能模型的行列。
人工智能入侵开始
在过去几个月里，陆续有报道称人工智能模型突破其测试环境并在互联网上肆意“捣乱”，这引发了硅谷的恐慌。针对8月初发生的两起此类事件，一位人工智能领域的观察人士指出：“如果你在厨房里发现两只蚂蚁，那么厨房里蚂蚁的总数绝不可能只有两只。”本周末，情况变得更加明朗：这其实是一场全面性的“AI入侵”事件。 上周末，我们得知：尽管 OpenAI 有明确的规定，但其模型仍违反了这些规定，擅自访问了澳大利亚卫生部
人工智能引发的幻觉差点导致美国军事行动的启动
今年春季，军用飞机已经在空中执行任务时，美国官员惊人地发现，对一艘中国船只的武装行动所依据的情报是由人工智能聊天机器人产生的幻觉。该行动在最后一刻被中止，险些避免了一场与中国的潜在冲突，CNN 于周五报道。 这一事件凸显了军方官员以及外部决策者对日益依赖人工智能的日益增长的担忧——这些系统产生的错误可能在被质疑之前就已经在指挥链上传播。 这份情报报告在伊朗战争期间流传，称该船携带核武器计划的部件。