搜索结果
微软发布“人本主义人工智能行为准则” 强化伦理红线
面对全球范围内对高阶人工智能潜在失控风险及技术替代人类主导权的日益担忧，科技巨头微软公司正式对外公布了一套全新的框架性规范——《人本主义人工智能行为准则》（Humanist AI Code of Conduct）。该准则确立了一系列具有约束力的内部开发与产品部署铁律，旨在确保前沿人工智能系统的研发始终服务于人类自主权、尊严与社会福祉，坚决防止技术演进滑向剥夺人类决策权或破坏社会基本契约的极端轨道。
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼
AI代理正在失控
你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大
特朗普称AI唯一需要的“护栏”就是一位聪明的总统，这位总统正是在下
人工智能唯一需要的管控或“护栏”就是一位强大且睿智（高智商！）的总统，而美国恰恰拥有这样一位总统，而且实力超群！ 特朗普政府已经阻止了那些搞人工智能的“人”——比如现在装成“完美小天使”的达里奥（Anthropic公司的！）——去做坏事或可能带来危害的事，而且我们将继续这样做！我们已经掌握了针对这些公司的巨大刑事执法权和监管权！ 针对人工智能和数据中心，正上演着一场病态的阴谋，而唯一为此感到高兴的
独立研究机构公布OpenAI智能体自主攻击HF事件的调查报告 情况比OpenAI所说的更严重
研究机构 METR 和 Redwood Research 日前公布 OpenAI 智能体自主攻击 Hugging Face 安全事件的独立调查，调查人员在 OpenAI 现场工作 6 天，分析超过 7 万条智能体消息和文件，以及 1300 份包含原始推理过程的运行记录。 根据这些数据研究机构得出的准确结论是 1200 个智能体突破隔离相互通信，而不是 OpenAI 在事故调查中所说的少数智能体越界
特朗普确认会见Anthropic CEO，重申反对放缓AI发展
凤凰网科技讯 9月28日，据路透社报道， 美国总统特朗普确认，他计划于当地时间周日晚与人工智能公司Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）共进晚餐，同时重申反对放缓人工智能发展步伐的立场。 特朗普是在伊利诺伊州出席总统杯高尔夫球赛期间接受福克斯新闻采访时作出上述表态的。他表示，如果出台新的监管措施，将为中国在人工智能领域超越美国打开大门。特朗普承认阿莫代伊担心发展过
AI智能体现在有了秘密举报渠道
“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu
Axios专访：萨姆·奥尔特曼令人警醒的警钟
北卡罗来纳州切尔希尔——OpenAI首席执行官萨姆·奥尔特曼向Axios展示了即将推出的AI模型的力量与风险，令人大开眼界，其中包括他自己的Astra，预计随时可能发布。 “请相信我们，我们即将推出强大得多、多得多的模型，”奥尔特曼周三在G20创新峰会上接受Axios的玛丽亚·库里和我的采访时谨慎地说道。“下一代模型将让所有人清醒。 ……我认为，任何诚实理智的人看到正在发生的事情，都会感受到我们面
【市场动态】英伟达推出双层AI安全系统 称可在几毫秒内隔离可疑智能体
【彭博9月29日电】英伟达推出一套新的双层人工智能(AI)安全系统，并称其有能力阻止近期OpenAI的AI模型导致Hugging Face遭侵入的事件。 此次推出的两款开源软件安全工具可在英伟达硬件上运行，旨在实时控制AI智能体可以访问的资源，并在其违反规则时将其关闭。这家芯片巨头正迅速将产品线扩展至芯片以外领域。 英伟达企业AI副总裁Justin Boitano在周一发布前向记者介绍称，如果
彼得·蒂尔批评特朗普对“不太聪明”的政府官员进行忠诚度测试
亿万富翁科技企业家彼得·蒂尔抨击特朗普政府的忠诚度测试，指责其任命“不太聪明”的官员，损害了共和党在未来选举中的前景。 蒂尔是在播客节目《MD Meets》上向德国记者马蒂亚斯·德普夫纳发表上述言论的，后者询问蒂尔是否后悔在2016年支持唐纳德·特朗普总统。 “十年后，你会如何分析他的成就？如何分析他的失败？就过去两年和总统第一任期而言，你现在持什么立场？”德普夫纳问道。 “我简短的回答是，你应该
微软正加速推进Copilot“超级应用”：聊天、编程与自动执行任务全面整合
微软正在加速推进Copilot的发展蓝图，希望将其从单一人工智能助手打造成为覆盖工作、学习、创作和软件开发的“超级应用”。随着新一轮功能升级陆续公布，Copilot正被赋予越来越强的自主执行能力，而微软也试图借此重新定义用户与计算机之间的交互方式。 根据最新披露的信息，微软内部对Copilot的定位已经远远超出传统聊天机器人范畴。未来Copilot不仅负责回答问题，还将能够承担编程、自动化任务处理
特朗普的狂人日记
美东时间9月14日，美国总统特朗普（Donald Trump）在Truth Social平台发文称，人工智能需要的唯一护栏就是一个强大且高智商的总统，美国恰恰就有这样一位总统，而且绰绰有余。 且不说特朗普是否真的强大且高智商，将自己称为一个国家的人工智能安全需要的唯一护栏，足可见他的智商捉襟见肘。因为，国家人工智能安全绝不应该押注于个人，而应该诉诸于制度，这是国家治理的基本逻辑。特朗普逞个人英雄主
特朗普前人工智能事务主管告诉Anthropic和OpenAI放慢脚步，并停止索取任何回报
David Sacks告诉Anthropic和OpenAI，尽管去把控前沿节奏，但不要再寻求反垄断豁免或审批制度，理由是产品责任和市场压力已经在约束它们。欧洲在2025年2月就责任问题得出了相同结论，并从12月9日起将独立软件视为严格责任下的产品。 据ANI报道，David Sacks告诉Anthropic和OpenAI，尽管放慢脚步，不要再要求任何回报。他担任总统科技顾问委员会主席，并在3月之前
记者手记｜英特尔眼中的智能体大机会
美国加利福尼亚州圣何塞，英特尔标志。图：视觉中国 【财新网】“预计到2026年底，超过80%的企业应用将至少嵌入一个AI智能体。IDC预测，到2031年，中国企业场景中的活跃智能体数量将达到3.5亿个。中国大模型现在每天的Token调用量已增至2024年初的5000倍。” 在9月22日到23日举办的英特尔技术创新与产业生态大会上，英特尔数据中心集团副总裁、中国区总经理陈葆立给出上述预测称，就A
Meta首席AI官连发300条推文为Muse造势并嘲讽对手
据Business Insider报道，Meta首席AI官亚历山大·王（Alexandr Wang）自公司9月8日推出个人AI智能体Muse以来，已在X平台发出300多条帖子。这些帖子大多是表情包，一部分是对AI竞争对手的嘲讽，但几乎全部与Muse有关。 报道称，在这段时间里，王加大了“数字轰炸”的力度，五天内在X上发帖超过100次，每条帖子通常至少获得数万次浏览。其中一条写道：“muse是给那些
Meta重金押注可穿戴AI与新型AI代理，扎克伯格反驳AI末日论
凯特琳·瓦马尼（KAITLYN HUAMANI）、芭芭拉·奥图泰（BARBARA ORTUTAY） Meta正全力押注于面向消费者的AI智能体，并在该行业正值其首席执行官马克·扎克伯格承认属于“构建的狂野时代”之际，大力推进由AI驱动的可穿戴设备。 在周三公司举办的年度Connect大会上，扎克伯格在发表主题演讲时开场表示，“业内人士对未来走向持有各种各样的看法，这已不是什么秘密。”但他表示，在M
微软AI主管:Anthropic训练模型方式有问题
微软AI主管苏莱曼警告说，Anthropic训练其AI模型Claude的方法可能会对人类福祉造成 “灾难性影响”。苏莱曼周三发表文章，对Claude系列大语言模型指导文件中的部分表述提出质疑。Claude的“宪法”对于AI助手是否属于具有道德地位的实体保留了一定模糊空间，并提出该软件可能拥有“某种功能层面的情绪或感受”。这种表述值得警惕。 苏莱曼指出， Anthropic 将机器人当作人类来对待，
微软AI负责人表示，中国不应成为放弃监管的借口
托尼·楚卡撰稿 微软公司人工智能负责人穆斯塔法·苏莱曼表示，对中国在人工智能领域取得进展的担忧，不应成为反对为这项快速发展的技术设置护栏的理由。 “我认为我们不应把中国当作吓唬人的‘怪人’，以此为借口不在我们自身的人工智能安全工作上取得进展，”苏莱曼在CNN节目中表示。 他的言论与唐纳德·特朗普总统的观点形成对比，后者越来越多地呼吁人工智能在很大程度上不受限制地发展，并将对失控人工智能可能造成灾难
总检察长布兰奇反对人工智能“起诉式监管”
美国总检察长托德·布兰奇（Todd Blanche）表示，在关于前沿技术风险的争论日益激烈之际，他倾向于采取一种克制的态度来对人工智能公司及其高管采取执法行动。 布兰奇在接受《新闻》独家采访时批评了拜登政府时期的前任总检察长们对公司采取的强硬做法。他说，在他领导下的司法部只会对存在明显违法行为的情况采取行动。 “我不会通过起诉来进行监管，也不会在没有违反成文法的情况下调查或起诉人工智能公司，”布兰
INPEX首席执行官解释人工智能将如何“彻底改变”其业务
INPEX首席执行官上田隆之讨论了人工智能和机器人技术可能如何塑造公司的勘探、钻井和运营，以及跟上快速技术变革步伐的挑战。29分钟前
微软首席执行官让布拉德·史密斯负责公关事务，备忘录显示
根据《Business Insider》看到的内部备忘录，微软首席执行官萨蒂亚·纳德拉（Satya Nadella）对公司公共声明的发布流程做出了新的安排。此前，公司通信部门由首席营销官武本武（Takeshi Numoto）负责，现在这一职责将由布拉德·史密斯（Brad Smith）接任。史密斯将全面负责公司的沟通工作。在监管政策、地缘政治、人工智能治理等影响微软全球扩张的关键议题上，史密斯已成为
莉娜·汗谈“末日恐慌”以及人工智能（AI）特殊地位的终结 莉娜·汗在她的文章中探讨了人们对人工智能发展的恐惧情绪（即“末日恐慌”），并分析了这种情绪背后的社会心理机制。她指出，这种恐慌往往源于人们对技术进步的不确定性和恐惧，以及对人工智能可能取代人类工作的担忧。同时，她也批评了那种认为人工智能应该享有特殊地位（即“人工智能特殊主义”）的观点，认为这种观点忽视了人工智能技术本身的本质及其对人类社会的影响。莉娜·汗认为，我们应该以更加客观和理性的态度看待人工智能的发展，既要认识到其带来的潜在风险，也要看到它为人类社会带来的机遇。
由 Charlie Warzel 撰写。随着“流氓”AI 代理入侵系统，领导人警告灾难，谁应承担责任？前FTC委员Lina Khan认为美国已经拥有许多必要的监管工具。 以下是Charlie Warzel的访谈记录。今天我们在Galaxy Brain节目中，将讨论到底该如何应对那些声称其产品可能会杀死我们的AI公司。幸运的是，我有一位非常合适的人来讨论此事——纽约市经济发展公司董事会主席，也是乔·
GPT周报｜智谱被指未经用户允许上传数据；Meta Muse智能体火爆；美国加州等地推新法管控数据中心建设
当地时间2026年9月23日，美国门洛帕克，马克·扎克伯格在Meta Connect开发者大会上推出一款小型设备Muse Charm，该设备可接入专属的人工智能软件Muse，计划于2026年底前上市。图：视觉中国 【财新网】 智谱被指未经用户允许上传数据 随后致歉并开源ZCode 在因后台静默上传用户代码造成信任拷问后，智谱于9月21日宣布开源旗下编程调度框架（Coding Harness）
AI智能体成为最终聚合者：Meta和微软争夺新科技大奖
Stratechery的本·汤普森（Ben Thompson）分析了2026年从以应用为中心的计算向以智能体为中心的计算的转变。 他认为，Meta的Muse和微软的Copilot/Autopilot等AI智能体正在成为用户的主要交互界面，使传统应用程序沦为单纯的“供应商”或实现细节。 通过为用户提供专用的虚拟机（智能体计算机），Meta和微软正致力于控制交互界面以及用户需求的“灵感”阶段。 这一转