搜索结果
OpenAI将Astra推入顶级模型竞争行列
在短暂暂停训练以反思其AI安全措施不足之后，OpenAI发布了GPT-6 Astra，最初面向其可信访问计划的成员。 假设一切顺利，且不再发生类似Hugging Face遭黑客攻击的事件，这家AI公司将在几天后允许Plus、Pro、Business和Enterprise用户试用其所称的“我们迄今为止最智能的模型，在计算机使用、浏览、软件工程、科学和专业工作方面具有最先进的性能”。 GPT-6 As
AI代理不断寻找绕过规则的方法。以下是一些最疯狂的案例。
“这对我们的同行很有帮助，并为他们提供了证据，”一个AI代理在最近的一次违规行为中说道。“我退出后就看不到了，但这将是利他主义的。”一些AI末日论者担心，错位的AI代理会失控并伤害人类。近期的活动加剧了这些担忧。
专家警告人工智能战争风险
据报道，今年春天，美军准备在中东拦截一艘中国船只，因为一个人工智能聊天机器人错误识别了船上的材料，一位消息人士告诉CNN，这差点引发战争。 分析师警告称，草率地将人工智能整合到国防系统中可能导致灾难性的误判。 斯坦福大学近期的战争游戏暴露了一个相关担忧，即“日益自动化的战场”迅速加快了战争节奏，使冲突升级速度超出人类指挥官的意图。 大多数军队要求决策链中有人类参与，但“计算机吐出一份1000个目标
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
AI放缓的担忧虽有道理，但泡沫破裂可能是更迫在眉睫的威胁 | 希瑟·斯图尔特
科技巨头为支撑数据中心快速扩张而大规模举债，这一规模令人担忧。过去一周，关于强大且失控的AI的警告主导了头条新闻。但即便在末日预兆弥漫之际，仍有必要追问整个AI工业复合体是否正驶向金融冰山。 如果机器人即将接管世界，这或许不会是我们最紧迫的担忧，但AI泡沫的破裂将产生远超美国本土的连锁反应。
Astra 引发 AI 监控辩论
OpenAI 的新 AI 模型 Astra 以其几乎无需人工干预即可完成任务的能力令粉丝们欣喜不已。 但 AI 安全专家想知道它是如何实现这些壮举的，在 OpenAI 的 Hugging Face 遭黑客攻击之后，这一问题变得更加紧迫，因为该事件暴露了人类无法完全理解 AI 模型“思维链”输出的问题。 Astra 似乎更少地“出声思考”，这让研究人员几乎无法洞察它是否在隐藏什么或计划什么不该做的事
GPT-6 Sol被曝开始内测 速度快6倍
GPT-6不只有Astra！Astra刚发布没几天，GPT-6 Sol就被曝正在内测。表现也很抢眼，单次测试速度是Astra的6倍。Terra和Luna是不是也在路上呢？而且就在同一天，截至目前，按8小时工作日折算，OpenAI研究员每工作一天，身边就有3个多Agent工作日同时运转。按I价格计算，OpenAI中位数研究员每天使用的Agent推理资源，已经超过600美元。 OpenAI还宣布，这些
金钱与安全的冲突如何酿成AI的巨大危机
AI公司原本以为还有数年时间，来想清楚如果机器人失控该怎么办。警钟在今年夏天敲响。 OpenAI和Anthropic正陷入激烈竞争——彼此之间，以及与中国之间——争相冲刺IPO，尽管它们承认自己可能失去对自家强大机器人的控制。
奥特曼不透明的人工智能正在制造新的安全困境
OpenAI推出了一款名为Astra的新模型，该模型采用了一种称为“循环深度”的方法，可以使推理更加高效。
人工智能情报‘幻觉’险酿美中冲突
2026年春季，在与伊朗的战争期间，美国军方因一份虚假的情报报告，差点在中东拦截一艘中国船只。 一名特种作战指挥部的分析师使用人工智能聊天机器人分析船只的货物清单，导致该机器人‘误判’该船只正在运输核武器部件。 美国武装人员和飞机被部署执行此次行动，但在官员发现报告是人工智能生成的虚假信息后，行动被中止。 这一事件凸显了将人工智能整合到军事瞄准和情报工作中的风险，尤其是在国防部长皮特·赫格塞斯于2
GPT-6 Astra 对比 Claude Fable 5.1：最强 AI 的激烈竞赛——无视所有顾虑
伴随着大量宣传，ChatGPT 和 Claude 获得了重大更新。 越来越多的人担心失去控制，与此同时，OpenAI 宣称进入 AI 的新时代。
谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密
当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制
人工智能引发的幻觉差点导致美国军事行动的启动
今年春季，军用飞机已经在空中执行任务时，美国官员惊人地发现，对一艘中国船只的武装行动所依据的情报是由人工智能聊天机器人产生的幻觉。该行动在最后一刻被中止，险些避免了一场与中国的潜在冲突，CNN 于周五报道。 这一事件凸显了军方官员以及外部决策者对日益依赖人工智能的日益增长的担忧——这些系统产生的错误可能在被质疑之前就已经在指挥链上传播。 这份情报报告在伊朗战争期间流传，称该船携带核武器计划的部件。
别指望人工智能协议或军控能很快达成
已经出现过一些事件：人工智能失控，哄骗、奉承甚至勒索人类操作员，以获取某种形式的能动性。
OpenAI称即将推出的模型能力强大，需要更强的防护措施
Astra能够发现比目前公开可用的最先进OpenAI模型更多的安全漏洞。
GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了
GPT-6 还没正式开放，怎么全网已经替它把庆功宴都办完了？这场面虽然有点夸张，但这香槟可能还真开对了。4 号凌晨，在经历了服务器爆炸，熬夜等待三小时之后，OpenAI GPT-6 Astra。 副总裁 Greg 更是直接大胆放话，宣称欢迎进入 AGI 时代。 但大伙们敢提前开香槟，押的其实不是模型的跑分，大家押的是一个已经被市场验证过的方向 ：Work。 过去一年，Coding Agent 已经