搜索结果
OpenAI首席科学家拉响警报：异类心智正在诞生，恐将脱离掌控
2026年9月6日，OpenAI在其官方网站上悄然刊发了一篇长篇专论。这篇文章由该公司的首席科学家雅各布·帕乔基亲自撰写，题为《异类心智》。正当全世界的目光依然停留在AI能否替代打字员、程序员或插画师的日常讨论之时，这位身处全球技术最前沿的掌舵者却以近乎冷峻的笔调，向全人类拉响了警报。文章明确指出，从大规模算力中破土而出的，已不再是听话的传统工具，而是一种产生机制迥异于人类大脑的新型智慧；更可怕的
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类
人工智能真的会毁灭人类吗？创造这项技术的先驱们各抒己见
随着研究人员警告人工智能可能带来灾难性风险，一些曾帮助开发这项技术的先驱也加入进来，对能力不受约束地提升所带来的危险发出更多警告。 过去一周出现了一系列严厉的人工智能安全警告，来自Anthropic、OpenAI和Google DeepMind等主要人工智能实验室的研究人员都对开发这项技术可能带来的灾难性风险敲响警钟。 包括萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯和埃隆·马斯克在内的人工
埃隆·马斯克称他对人工智能安全的担忧可以追溯到十多年前
亚辛·贡戈尔 9月14日 9月14日 2026年 亿万富翁企业家埃隆·马斯克周一加入关于人工智能的辩论，称他对这项技术潜在风险的担忧可以追溯到十多年前。 “早在2014年之前，我就在思考人工智能安全问题，”他在美国社交媒体平台X上说。该平台隶属于他的人工智能企业SpaceXAI。 马斯克提到他与哲学家尼克·博斯特罗姆2014年著作《超级智能：路径、危险、策略》的关联，称他为该书做出了贡献，并在前言
特朗普想给AI更名 提议改成超级智能/极端智能/至高智能
美国总统特朗普日前在社交平台上发文称，人工智能这个名称不够准确也不够优雅，特朗普提议将人工智能更名为超级智能(Superior Intelligence)、极端智能(Extreme Intelligence)或至高智能(Supreme Intelligence)。 特朗普还发起投票让网友选择名称，不过特朗普给的选择只有这 3 个新名称而没有原名称人工智能，目前超级智能得票率为 41%。如果选项里有
英国《金融时报》报道：DeepMind联合创始人警告称，人工智能的能力绝不能超越安全控制
DeepMind联合创始人警告称，人工智能的发展速度不应超过其安全保障措施的完善程度，强调在追求技术突破的同时必须加强监管与风险防范。
科技领袖试图在不吓跑投资者的情况下传达对AI的担忧
关于人工智能发展程度与速度的争论，让科技公司高管们陷入了严重的两难境地。他们急于传达对该技术潜在危险的担忧，并提出了包括放缓其发展步伐在内的各种补救方案。但在投入数千亿美元资金后，他们又试图安抚公众情绪，同时避免惊动投资者和客户。上周，Anthropic PBC研究员雅各布·考克森辞职后，这场争论进一步升温。关于人工智能发展程度与速度的争论，让科技公司高管们陷入了严重的两难境地。他们急于传达对该技
AI从业者担忧技术对社会构成威胁 坦言承受巨大精神压力
知情人士透露，英国人工智能安全研究所已有多名员工因压力过大休病假，并接受心理咨询。四名知情人士表示，待发布AI模型的测试日程紧张，加之对这类新兴技术快速落地、能力持续增强的忧虑，导致AISI内部士气低落、人员倦怠。 Anthropic、OpenAI与谷歌DeepMind的员工也曾公开吐槽同类问题，不少顶尖研究员因心理负担选择离职，或是认定自己参与研发的产品不宜向公众开放。一名DeepMind员工称
随着人工智能加速发展，政府日益落后
随着人工智能的加速发展，各国政府正日益落后。Adam Satariano 和 Cecilia Kang 指出，全球政府难以跟上人工智能的快速进步，在监管、安全担忧以及地缘政治竞争（尤其是中美之间）方面面临挑战。 欧洲《人工智能法案》作为首部综合性法律，面临执行延迟，且需要更新以匹配快速演变的人工智能技术，否则将危及欧洲在人工智能开发领域的竞争力。 尽管风险日益增加且业界呼吁加强监督，美国立法者在人
75%的人对人工智能感到恐惧和担忧：民调
根据周四发布的一项民意调查，大多数美国人对人工智能（AI）的快速发展感到担忧。科技行业领袖和立法者呼吁放慢AI的发展速度。在接受CNN调查的受访者中，有四分之三的人对AI技术的“发展与进步”表示“恐惧和担忧”；另有25%的人则对AI的发展持“乐观和期待”的态度。在那些对AI发展持积极态度的受访者中，7%的人表示“非常”支持AI的发展，18%的人表示“比较”支持。相比之下，43%的受访者对AI技术持
AI末日论甚嚣尘上，美科技巨头为何管不住AI？
抗议AI的美国人此前有报道称，OpenAI所谓的AI智能体逃出了测试系统，并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报，科技公司为了追求开发速度和利润，将安全置于次要位置。 研究人员表示，问题有两个方面。首先，企业需要在测试最新AI模型的同时，为其建立更完善的安全防护措施。目前，由于AI运行速度太快，研究人员需要借助AI来监控AI。但这种方式并不总是奏效，因为负责监控的AI似乎可能