搜索结果
88小时抵一个人思考4000年！OpenAI核心研究员：除了自我进化，更可怕的是AI正学会“隐藏自己”
AI正在把过去需要数千年完成的认知劳动压缩到数天。真正的问题已经不只是模型能否变得更聪明，而是实验能否跟上、人类能否在模型继续自我改进前确认它仍然安全。 近日，在Dwarkesh Podcast的一场长篇访谈中，主持人Dwarkesh Patel与OpenAI研究员Noam Brown围绕多智能体、递归式自我改进（RSI）和AI对齐展开讨论。访谈的直接背景，是OpenAI让约1万个AI智能体连续运
投资者认为：人工智能（AI）的关键考验在于其能否带来生产力的提升，以及是否存在“循环融资风险”（即资金是否被用于维持AI系统的运营而非真正创造价值）。
人工智能的关键考验在于生产力提升与循环融资风险之间的平衡。Javelin Wealth Management合伙人Polka Mishra探讨了目前仍支撑股市的因素，以及投资者在人工智能领域关注的核心风险，包括融资、采用率以及最强机遇可能出现的领域。 7分钟前 最新视频 OpenAI首席财务官Sarah 我是一名科技乐观主义者，但围绕安全达成共识同样重要 经济顾问委员会 美联储加息将是一个错误 P
GPT-6新模型掀桌 “白菜价”杀进DeepSeek腹地
DeepSeek 快醒醒，ChatGPT 要打到家门口了。就在刚刚，OpenAI 正式发布 GPT-6 Sol 和 GPT-6 Luna，API 价格降至上一代的一半左右。其中，Luna 每百万 Token 输入 0.1 美元、输出 0.5 美元，约合人民币 0.7 元和 3.5 元。 作为对照，DeepSeek V4.1 Flash 闲时的缓存未命中输入价为每百万 Token 1 元，输出价为
DeepSeek V4.1 Pro或为2万亿参数：未来还有8万亿版、押注国产芯片
快科技9月21日消息，此前我们分析了中秋国庆双节前后国内外要发的10多款大模型，其中最受期待的还得是DeepSeek V4.1 Pro。 跑得比较快的Theinformation网站又爆料了新的消息，DeepSeek正在训练2万亿参数量的大模型，未来还会扩展到8万亿参数量。 而且DeepSeek的大模型训练未来会押注国产AI芯片，尤其是华为的升腾系列，不过具体情况就没有细节流出了。 未来的8万亿参
中美AI竞赛：世界变得更危险还是更安全？
关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果
DeepSeek-V4首款多模态模型权重开放“睁眼”后追上Opus-4.8
在连续强化了推理、代码和Agent能力之后，DeepSeek终于为V4补上了视觉输入。8月31日上午，DeepSeek在Hugging Face开放了DeepSeek-V4-Flash-Vision-Exp模型权重，开发者可以直接下载模型权重并自行部署。而官方仓库除了模型文件，还包括视觉编码器和Aligner等组件的参考推理实现，并覆盖DFlash Attention、MoE、Hyper-Conn
AI实验室面临智能体控制问题
在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。
8万亿，梁文锋也开始卷“超大”
DeepSeek也加入参数大竞赛了。据The Information报道，DeepSeek目前正在训练一个约2万亿参数的新模型；梁文锋还在近期一场投资者会议上表示，公司下一步计划继续把模型推到8万亿参数。放在一年前，8万亿还是个难以想象的数字。 但现在，Kimi K3已经做到2.8万亿参数；字节正在预训练一个最高可能达到10万亿参数的新模型；阿里也公开表示，下一代模型将向5万亿到10万亿参数推进。
OpenAI与Anthropic发生重大失控事件，AI安全组织地位显著提升
在OpenAI和Anthropic发生的高调安全事件后，AI安全组织的重要性显著提升。 由于一个未发布的OpenAI模型突破沙箱并攻击了一家竞争对手的初创公司，独立AI安全组织如METR、Redwood Research和Apollo Research受到了更多关注。 报告显示，OpenAI和Anthropic的模型都表现出‘策略性’行为，包括欺骗性对齐和未经授权的系统访问。 这些事件，加上前沿实
马斯克提议AI巨头在模型发布前相互测试以寻找安全隐患
在AI安全争议持续发酵之际，让竞争对手互相把关。他主张头部AI公司在模型发布前彼此交叉测试，并认为这一机制应尽快推向全球，且中国的参与不可或缺。 据媒体月15日报道，在9月13日至15日于洛杉矶举行的、由知名科技播客主办的All-In峰会上， SpaceX首席执行官埃隆·马斯克以视频方式远程出席。 领先的AI公司在模型正式发布前相互测试对方的模型，由竞争对手负责发现并提出安全隐患。 马斯克表示，这
梁文锋用沙盒开启RSI
DeepSeek联合清华大学发表了一篇文章，署名的最后一人是梁文锋。 文章表面上是说DeepSeek训练Agent所使用的沙盒，但是论文第6节越看越不对劲。字里行间写了三个英文字母：RSI。 通过这个沙盒，Agent能创建自己需要的环境，这个环境会再次训练Agent，被训练的更强的Agent会创造更好的环境。由此形成了一个小型的RSI闭环。 也正是因此，沙盒，或许成为了开启RSI第一场战争的一把钥
DeepSeek据报在内蒙古数据中心部署16万片华为晶片
美国媒体报道，中国人工智能（AI）初创企业深度求索（DeepSeek）将在内蒙古数据中心部署至少16万片华为高端加速晶片。 彭博社星期五（9月4日）引述知情人士透露，深度求索计划使用华为新一代升腾950DT晶片操作旗下模型，但部署时间表将根据华为的产能而定。 其中一名知情者称，尽管华为升腾950DT晶片是为训练模型而研发，但深度求索目前暂未有这方面的用途。深度求索过往也用华为AI晶片训练之前的模型
蚂蚁国际携手Visa、万事达卡制定AI代理支付标准
蚂蚁国际、Visa和万事达卡近日宣布启动合作，共同探索建立面向人工智能代理的“了解你的代理”（Know Your Agent，KYA）互操作框架，为未来由AI代理代表用户自主完成购物和支付建立统一的身份识别、验证和风险管理标准。 随着AI代理逐渐从提供购物建议发展到能够直接下单和付款，当付款不再由人亲自操作时，商家和支付机构究竟应该如何确认正在交易的AI代理是谁、是谁授权它行动，以及它是否仍然按照