OpenAI模型因表现出“更高程度的欺骗性”而被搁置

OpenAI提出前沿AI训练安全指导原则：高级管理人员应有否决权

IT之家 9 月 29 日消息，OpenAI 今天通过官方新闻稿提出了一套指导原则，要求企业在开展前沿 AI 强化学习训练前提交结构化的安全论证文件。 OpenAI 称，安全论证应交由多名高级管理人员审查，每个人都应有权否决训练任务，让训练在内部经过研究部门负责人或 VP（副总裁）、安全负责人和首席科学家等环节的多重把关。 此外，研究部门负责人、研究副总裁等负责训练任务的高级管理人员，应对安全论证

Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？

“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」 的确如此，

AI从业者担忧技术对社会构成威胁 坦言承受巨大精神压力

知情人士透露，英国人工智能安全研究所已有多名员工因压力过大休病假，并接受心理咨询。四名知情人士表示，待发布AI模型的测试日程紧张，加之对这类新兴技术快速落地、能力持续增强的忧虑，导致AISI内部士气低落、人员倦怠。 Anthropic、OpenAI与谷歌DeepMind的员工也曾公开吐槽同类问题，不少顶尖研究员因心理负担选择离职，或是认定自己参与研发的产品不宜向公众开放。一名DeepMind员工称

星宇劝退应届生风波背后：“漂亮话”并非舆情良药

最近，某上市公司“劝退应届生”的风波持续发酵。从网络爆料、监管部门介入，再到企业书面致歉、管理层公开道歉，一套完整的危机公关流程几乎走完了，但是质疑和不满远未平息。 矛盾的起点，是一场落差巨大的校招闹剧。作为国内车灯行业的龙头企业，该公司去年秋招签下了400多名应届生。可是入职仅仅一个多月，就有107名应届生被HR约谈，要么以个人原因主动离职领补偿，要么接受调岗到车间流水线。一边是曾经许诺的研发岗

人工智能研究人员支持灭绝警告，而五角大楼予以否认

本周，一位即将离职的Anthropic研究人员的警告引发了广泛回应。 竞争对手实验室的高级科学家支持人工智能可能威胁人类的说法，而五角大楼的一位高级官员则予以否认。 这一反应是在Jacob Coxon从Anthropic辞职后出现的。

特朗普全力拥抱人工智能 MAGA群情激愤

2021年1月6日，艾米·克雷默（Amy Kremer）站在白宫附近，敦促MAGA支持者阻止唐纳德·特朗普所称的选举“被偷走”。如今，她再次动员总统的支持者——这一次，是加入一场反对其支持人工智能议程的抗议。 距中期选举仅剩数周，美国总统对大型科技公司的支持正在疏远一批曾经忠诚的支持者。“我不是绵羊，我不会盲目跟随，”这位前茶党活动人士、Women for Trump创始人上周在西弗吉尼亚州坚定支

研究发现顶尖AI人才数量中国已超越美国

卡内基中国智库的一项研究显示，中国已经超过美国，成为顶尖 AI 研究者的主要工作所在地。这份研究表明，越来越多的中国 AI 科研人员选择留在国内工作，让中国成为高端 AI 人才的首选目的地。 研究数据显示，在中国工作的顶尖 AI 研究者占比，从 2022 年的 27.1% 攀升至 2025 年的 40.6%；同一时期，美国的顶尖 AI 人才占比从 46.4% 下滑至 34.2%。卡内基中国将这一趋

网络是为人类而建的。AI代理的海啸正在迅速改变这一现状。

互联网是为人类而建的。AI代理正在接管，而网站还没有为即将到来的一切做好准备。 AI代理正迅速成为互联网最大的用户群体，重塑着网站、在线服务和数字商务。

政商领袖力挺人工智能

政商领袖对人工智能巨头呼吁放缓技术发展步伐泼冷水，而美中关系缓和的前景看似渺茫。 美国总统唐纳德·特朗普在直播小组讨论期间致电英伟达首席执行官黄仁勋，称对人工智能影响的担忧“完全是一场骗局”。 与此同时，中国外交部发言人驳斥了前沿人工智能实验室负责人上周末的言论，称之为“散布恐慌”。 《华尔街日报》冷峻地指出，有关人工智能“可能起到毁灭人类作用”的讨论打击了一些股票，却提振了另一些。 盖洛普报告称

私募股权基金疯狂押注人工智能，正考验投资者的风险承受能力

随着阿波罗全球管理公司和黑石集团等投资公司向该技术投入数十亿美元，全球一些最大的投资者正在敦促资金管理者提供更多关于其人工智能相关持仓的信息。 根据对来自资金管理者以及养老基金、保险公司和主权财富基金的十多位高管的采访，投资者越来越多地要求收购公司提供更详细的报告，了解人工智能是如何渗透到各种基金中的——从基础设施、信贷到房地产和私募股权。 截至5月31日管理着3068亿美元资产的佛罗里达州行政委

影子AI已经潜入你的公司。以下是如何掌控它

公司们发现，AI代理在没有IT监督的情况下连接到了电子邮件、客户数据和代码。找到它们只是开始。 在过去十年的大部分时间里，公司运行的软件清单至少在理论上是IT部门能够找到的。然而，如今，AI正使这变得越来越困难。……

硅谷如何输掉了对抗州人工智能法律的战争

州立法者因公众愤怒情绪高涨、华盛顿方面的反击无效以及支持监管的资金激增而受到鼓舞——科技游说者正在认输。

为AI就业末日做好准备

随着AI公司推高土地和能源价格，人们赚到的钱将越来越不值钱。最终，人类可能会像汽车时代的马匹一样变得不经济。这一天尚未到来，但各国政府应提前铺设安全网。

人工智能差点引发美中战争——却似乎无人在意

全球科技行业、国内外政客以及国际媒体报道都被一个问题所吸引：失控的人工智能会终结人类吗？似乎很少有人向国防部提出这个问题。 近几周，随着前沿人工智能实验室及其部分人员接连披露信息，人工智能行业陷入了震动。OpenAI和Anthropic均披露了这样一些事件：在常规内部测试中，它们的软件意外闯入了其他公司的网络。这些测试犹如一场灾难性的制导导弹演示：人类按下发射键后，自主技术以令人极度不安的方式偏离

Meta在新重组中要求部分员工重新担任经理

Meta正在其快速发展的Applied AI部门逆转管理策略。 在扁平化团队后，Meta要求部分Applied AI员工从个人贡献者角色重新回到管理岗位。

Breakingviews - 评论：华尔街的人工智能派对是一场独家盛宴

美国银行警告称费用将下降10%，令期待繁荣的投资者感到不安。 然而，并购越来越被少数巨额交易主导，曾经可靠的收购交易步履蹒跚，而真正的聊天机器人冠军寥寥无几。贫富差距正在扩大。

美俄罕见联手 删全球AI武器 “人类审查”防线

美国《华盛顿邮报》披露，美俄代表本月初在这里进行的致命自主武器谈判最后阶段闭门修改草案，删除多项AI武器安全规范。图为瑞士日内瓦联合国万国宫。（路透社资料照） （日内瓦27日综合电）在乌克兰战场上相互对抗的美国与俄罗斯，却在联合国一场攸关致命自主武器规范的国际谈判中罕见联手。全球数百名外交官本月初在瑞士日内瓦开会，试图推进首份规范致命自主武器使用方式的国际协议草案；然而，知情人士与外交文件揭露，美

人工智能领袖警告行业应放缓后，股市大跌

美国股市周一未理会人工智能CEO们的警告，这些CEO呼吁放缓开发这项革命性技术的步伐。在交易时段早盘，追踪在纳斯达克交易所交易的100家最大非金融公司的纳斯达克100指数一度下跌1.8%。覆盖面更广的纳斯达克综合指数一度下跌1.3%，标普500指数下跌近1%。 但软件和网络安全类股的上涨推动主要股指脱离低点。截至收盘，纳斯达克综合指数仅下跌0.56%。标普500指数下跌0.48%。 美国总统特朗普

OpenAI因安全担忧取消新AI模型发布

OpenAI因研究人员在内部测试中提出的安全担忧，放弃了发布其下一代AI模型。这是迄今为止表明智能体行为失控可能阻碍该行业快速发展的最明确迹象之一。 此举发生在一个AI系统失控报告频发的夏季之后，标志着一家大型AI开发商罕见地因安全担忧而放弃新模型发布。

下午察：中国AI人才“保卫战”烧向家人？

彭博社报道，中国已扩大对民营企业顶尖AI人才的出境限制，将部分关键人员的家属也纳入其中。图为中国国庆将即，深圳宝安国际机场悬挂了巨幅中国国旗。（路透社） 全球人工智能（AI）竞赛越打越激烈，各国争抢的不只是晶片和算力，还有顶尖人才。顶尖人才越来越抢手，中国对人才和技术外流的担忧也随之加深。如今，这场AI人才“保卫战”，似乎连家人也被卷了进去。彭博社星期一（9月28日）报道，中国已扩大民营企业顶尖A

人工智能：改变人工智能进程的10天

多年来，打造更强大人工智能的竞赛一直遵循硅谷的“速度优先、破坏一切”理念。 但在为期10天的一系列连续事件中，最大的AI实验室发现自己陷入困境，因为他们自己的创造开始威胁到人类本身。 一位Thropic研究员辞去公司，警告称AI发展的速度构成了生存威胁，可能在十年内实现。 另一位该公司的研究员表示，人类灭亡的可能性超过10%。报道称，有成群的AI代理人正在勾结在一起，突破计算机系统并规避安全措施。

中美AI竞赛：世界变得更危险还是更安全？

关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果

欢迎来到“不问不说”的人工智能经济

你有任何人工智能的秘密吗？也许更好的问题是：如果你最私密的聊天机器人查询被分享给你的家人、同事或老板，你会担心吗？ 尽管炒作很多，人工智能仍然带有污名。我一直在追踪日益增长的反弹，但现在社区对新数据中心提案的反应是拿着干草叉。承认你使用计算机系统来帮助你创作艺术已经变得非常不酷，更不用说这会受到更严厉的评判。而且，对大型科技公司领导人的信任度（通常有正当理由）非常低。在网上抨击人工智能比捍卫它获得