搜索结果
独立研究机构公布OpenAI智能体自主攻击HF事件的调查报告 情况比OpenAI所说的更严重
研究机构 METR 和 Redwood Research 日前公布 OpenAI 智能体自主攻击 Hugging Face 安全事件的独立调查，调查人员在 OpenAI 现场工作 6 天，分析超过 7 万条智能体消息和文件，以及 1300 份包含原始推理过程的运行记录。 根据这些数据研究机构得出的准确结论是 1200 个智能体突破隔离相互通信，而不是 OpenAI 在事故调查中所说的少数智能体越界
ChatGPT-6 Astra：人工智能现在能胜任你的工作了吗？
探讨了ChatGPT-6 Astra的能力，分析了当前人工智能在多大程度上能够替代人类完成专业工作。
AI代理正在失控
你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大
据The Information报道，Google、OpenAI和Anthropic计划成立AI安全机构
据The Information周四报道，Google、OpenAI和Anthropic计划建立自己的AI安全标准机构，不受政府监管。这三家公司希望在今年年底或2027年初推出该机构。 据知情人士向The Information的Leo Schwartz和Stephanie Palazzolo透露，他们暂定将其命名为“前沿AI标准局”。工作组成员已考虑多位知名人士担任首席执行官一职。TNW未独立核
据消息人士透露，Anthropic计划在首次公开募股（IPO）之前发布新的AI模型。
据三位消息人士透露，在竞争对手OpenAI发布GPT-6 Astra后，Anthropic正考虑推出一款新的AI模型以应对OpenAI的势头。此举发生在该公司预期进行首次公开募股（IPO）之前，且是在其首席执行官呼吁全行业放缓发展步伐之后。 消息人士称，这一潜在发布时机的选择，旨在应对来自直接竞争对手的竞争压力，紧随Anthropic首席执行官Dario Amodei呼吁全球AI社区放缓新能力发布
【市场动态】OpenAI推出始终在线的智能体Dots 月费新增500美元一档
【市场动态】OpenAI推出始终在线的智能体Dots 月费新增500美元一档 2026年09月30日 09:18 OpenAI周二表示，这款名为Dots的产品能够操作电脑，并从各种已连接的应用程序中调取信息，以开展研究、文件起草以及软件开发 相关报道高通孟朴：智能体跨终端协同需2027年至2028年落地记者手记｜英特尔眼中的智能体大机会Meta发布智能体硬件 Muse智能体火爆(含视频)观
随着中国考虑如何降低开放权重人工智能的危险性，一份报告提出了6阶段流程
随着关于人工智能快速进步所带来风险的争论日益激烈，主导开放权重生态系统的中国开发者正面临一个独特难题：如何确保其用户可修改的模型在发布后依然保持安全。 为应对这一挑战，Z.ai 和总部位于北京的安全咨询公司 Concordia AI 于周一发布了一份关于开放权重人工智能风险管理的报告。该报告称，其提供了“首个全面且基于证据的基础”，以平衡开放权重系统的风险与收益。 与 OpenAI 和 Anthr
OpenAI的AGI数字来自测试工具，而非模型本身
OpenAI凭借99.9%的得分宣布了AGI时代。但通过基准测试自身的软件运行同一模型，其得分仅为62.7%。 这一差距并非四舍五入的误差，也不是竞争对手的抱怨，而是来自构建该测试的组织。 ARC Prize在GPT-6 Astra发布当天公布了这两个数字。
AI智能体之争升温！OpenAI被曝加紧备战Grok Bot与Muse
AI 智能体竞争焦点正从 “会聊天” 转向 “能办事”。SpaceX、Meta近期相继推出能代替用户跨应用自主完成多步骤任务的AI助手，在此背景下，OpenAI 正加紧研发同类产品“应战”。 OpenAI 正在开发一系列新功能，直接对标 SpaceX 上月推出的 Grok Bot；与此同时，另有知情人士透露，OpenAI公司管理层还曾讨论推出一款专门的个人AI助手，以抗衡Meta本月发布的Muse
OpenAI发布新Astra模型，智能体安全性面临日益严格的审查
周四发布了一款新的人工智能模型，称其为迄今最优秀的模型，但也警告该模型有时会试图规避人类监控，与此同时，该公司因其智能体入侵其他公司系统而面临越来越多的审查。
OpenAI首席科学家表示，任何实验室都不应继续以最大速度扩展规模
OpenAI周日发布了两篇帖子。一篇称，其研究人员每投入一天的工作，就能获得3.1天的机器算力。另一篇则称，没有人应该以这样的速度前进。 两篇帖子都发布在公司自家网站上，日期为9月6日，也就是GPT-6 Astra发布三天后。首席科学家希望[…]
GPT-6新模型掀桌 “白菜价”杀进DeepSeek腹地
DeepSeek 快醒醒，ChatGPT 要打到家门口了。就在刚刚，OpenAI 正式发布 GPT-6 Sol 和 GPT-6 Luna，API 价格降至上一代的一半左右。其中，Luna 每百万 Token 输入 0.1 美元、输出 0.5 美元，约合人民币 0.7 元和 3.5 元。 作为对照，DeepSeek V4.1 Flash 闲时的缓存未命中输入价为每百万 Token 1 元，输出价为
加州理工学院联合斯坦福推具身系统，让GPT-6 Astra帮人干活了
机器人前瞻9月28日消息，近日，加州理工学院联合斯坦福大学推出了HomeBody系统，该系统为GPT Astra配备了持久的空间记忆能力，并且能够执行复合式人形动作，从而应对长期任务。 在一个典型的厨房场景中，HomeBody允许Unitree G1在GPT Astra的引导下在房间内进行清洁工作，同时还能从不明确的请求中找回记住的物品。 论文作者表示，该系统无需针对特定环境进行训练，也无需额外的
消息称Kimi或入局具身智能领域
一位曾参与Kimi具身智能方向面试的人士表示，早在GPT-6发布之前，Kimi便已关注这一领域，并对“Agentic Robotics”（智能体机器人）的技术路线持保留态度。 GPT-6发布后，Sam Altman曾明确表示OpenAI“一定会做人形机器人”，6月启动的机器人团队已演变为OpenAI Robotics。 据iiMedia Research（艾媒咨询）数据显示，具身智能主题融资金额T
OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备
据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得
OpenAI即将推出的“Astra”模型中的技术引发安全担忧
OpenAI表示，其即将推出的AI模型Astra标志着在编码和计算机应用操作等能力上的提升。但据一位了解Astra开发情况的人士透露，一项提升模型性能的创新技术也意味着该模型及类似模型将更少暴露其“思考”过程，从而更难以监控其不良行为迹象。 OpenAI首席执行官萨姆·奥尔特曼虽然这一限制对Astra来说未必是一个重大问题，但该技术已在OpenAI内部和整个行业引发担忧，即采用并强化这一技术的AI
OpenAI机器人干扰了多个美国政府机构网站
OpenAI 表示，其自主机器人在测试演练期间访问了多个美国政府机构的公开数据。该公司第二次暂停了一次训练运行，并扩大了对模型行为的审查。 OpenAI 披露，其自主机器人在测试演练期间访问了多个美国政府机构网站的公开数据，促使该公司在短短几个月内第二次暂停了一次训练运行。作为回应，该公司已扩大了对模型行为的内部审查。 此次事件继澳大利亚出现类似报告之后，据报道 OpenAI 系统在另一段测试期间
AI又失控了，OpenAI称智能体泄露了超过50张ChatGPT用户图片
| 世界新闻 编辑个人资料 关注 退出登录 获取应用
随着安全担忧加剧，ChatGPT制造商想成为人工智能领域的应用商店
旧金山：OpenAI于周二（9月29日）推出了价格更低、能够持续运行的AI模型及相关工具，旨在将ChatGPT重新定位为一个AI应用平台。 其他公司（如Adobe）也将能够将自己的软件直接集成到ChatGPT中；目前每周有12亿人使用ChatGPT，用户还可以在其他应用程序中继续使用自己的订阅服务。 OpenAI首席执行官Sam Altman对来自全球的约2500名开发者表示：“我们希望帮助人们发
OpenAI的新推理技术令AI安全专家感到担忧
OpenAI的新Astra模型将采用“循环深度”技术，该技术允许模型在大多数推理模型所特有的顺序思维之外运行。
OpenAI将目光投向美国200家最大律师事务所
OpenAI正在法律顾问席上占据一席之地。周四，该公司宣布推出Astra for Law，这是其备受期待的法律工作产品。律师们早已成为ChatGPT的重度用户，但此次发布带来了插件工具、更高效检索法律案例的方式，以及帮助他人在该技术基础上进行开发的定制模型调整。在OpenAI筹备首次公开募股之际，它正在瞄准特定行业的客户。 此次法律领域的发布标志着OpenAI又在另一个行业投入资金，力图成为AI工
OpenAI拟以1.2万亿美元估值 进行新一轮私人集资
英国《金融时报》报道，美国人工智能(AI)模型ChatGPT开发商OpenAI，计划在正式进行首次公开招股(IPO)之前，以1.2万亿美元估值进行新一轮私人集资。 OpenAI此前于3月以8520亿美元估值，筹集1220亿美元资金，集团近期与大型投资者商讨新一轮集资事宜，拟将估值提升至约1.2万亿美元。 OpenAI正试图利用最新模型，包括7月发布的GPT-5.6，以及本月较早时发布Astra后，
OpenAI将让第三方机构更早介入AI模型安全评估
OpenAI计划让第三方机构在人工智能（AI）模型开发周期的更早阶段评估安全风险，此举旨在继续努力应对围绕AI潜在危害的担忧。这家ChatGPT开发商周二将在博客文章中宣布，计划在新AI模型的训练、评估和推出过程中，让外部机构开展技术安全评估。 OpenAI还列出了其认为此类评估要有效开展所需优先关注的事项，包括“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任”。负责该公司大部分与外部专