搜索结果
Palantir联合创始人称AI一切都会好起来：“我们完全掌控局面”
一切都好！这是Palantir联合创始人的说法。在周六的一篇X帖子中，乔·隆斯代尔对先进AI系统可能导致人类大规模灭绝这一突出担忧不以为意，而近些天和近几周，前沿AI实验室的众多工程师和领导者一直在提出这一担忧。“世界会没事的，各位，”隆斯代尔说。“领导者面前有重大责任和挑战，但吓唬所有人无济于事。我们掌控着局面。” 这不太可能足以安抚人类大众的神经，他们已经一再被告知，AI可能掌控一切，做出各种
人工智能公司“乞求被监管”，感到“被迫竞速”走向致命技术：前Anthropic研究员
雅各布·考克森表示，企业知道自己在构建的东西存在危险，但觉得无法独自放慢脚步。
哈佛大学心理学家：渲染“AI末日”无助于应对风险，应审慎开展安全工程
IT之家 9 月 29 日消息，日，据外媒 The Decoder 报道，哈佛大学心理学家史蒂文 · 平克认为，AI 毁灭人类的风险遭到了夸大。他在 Quillette 发表致精神科医生、科技博主斯科特 · 亚历山大的公开信，阐述了自己的理由。 此前，亚历山大向平克发起了挑战，邀请他公开辩论 AI 带来的生存风险。平克拒绝参加，称这类辩论不过是“供人围观的竞技活动”，认为“回形针最大化器”等末日设
OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备
据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得
比尔·盖茨警告称，人工智能“强大到足以引发导致十亿人死亡的事件”
比尔·盖茨对人工智能可能被滥用深感担忧。这名微软联合创始人在接受美国全国广播公司《Meet the Press》采访时，就这项技术发出严厉警告，称“人工智能的威力绝对足以推动一些事件，最终造成十亿人死亡。”盖茨还表示，该行业需要政府监管。他说：“你需要执法部门和政治人物参与讨论，明确安全保障和监测机制应当采取什么形式。” 盖茨的言论与Anthropic首席执行官达里奥·阿莫代伊的观点不谋而合。阿莫
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类
OpenAI高管：Astra需求太猛，新的Pro订阅或被迫暂停
GPT-6 Astra的发布正在引发一场算力与容量危机。Astra的用户需求已超出历史经验，公司可能不得不暂停新的Pro订阅。 Tibo在X平台发文称，“Astra的需求真的是前所未有。我们已经在拉动所有能拉的杠杆来维持服务，但直到现在，我从未见过任何类似的情况——而我们此前已经经历过非常陡峭的增长。”他表示，首要原则是确保现有用户的服务质量，但如果需求持续，“我们可能不得不暂时暂停新的Pro订阅
华尔街日报：传黄仁勋等科技大咖游说川普挡AI监管
（中央社华盛顿18日综合外电报导）英国「独立报」引述华尔街日报报导，包含黄仁勋在内的科技业执行长据说曾游说美国总统川普，反对建立针对人工智慧的新联邦管制措施。 据报导，Google DeepMind执行长哈萨比斯和Anthropic执行长阿莫戴近日提议成立专责机构监督AI安全后，引发业界部分反弹声浪。 川普在自家社群媒体平台「真实社群」发文称AI安全疑虑是一场「骗局」，他说若实施严格管制，将使中国
Google Home 向 Claude、OpenClaw 及任何其他 MCP 代理开放
“将现实生活中的家连接到 AI 代理，允许该代理代表你控制设备，”谷歌在其开发者文档中警告说。 “根据你的代理不同，将其连接到 Home MCP 可能会导致意外甚至不良行为。” 这一警告就位于 Google Home MCP 的设置指南中。
北京警告汽车制造商勿在海外打价格战
中国监管机构周二警告国内汽车制造商，不要在海外市场采取激进的定价策略，因为该行业迅猛的全球扩张引发了所谓的“内卷”担忧。 北京呼吁“理性有序”扩张，希望避免价格战动态，这种动态已经侵蚀了国内电商巨头的利润，也可能引发寻求保护本国汽车产业的贸易伙伴采取更严厉的贸易措施。 中国也在加强对快速装配线流程的安全审查——这些担忧开始渗透到高管们的言论中。 奇瑞副总裁最近写道：“汽车不是快速消费品，它们关系到
比尔·盖茨的重大AI警告：“强大到足以推动导致数十亿人死亡的事件”
| 世界新闻 编辑个人资料 关注 退出 获取应用
有人帮你代理维权、债务减免？警惕黑灰产非法中介陷阱
北京金融监管局今天（9日）发布风险提示，近期有部分不法中介机构以“代理维权”“代理退保”“代理协商还款”“债务减免”等名义，诱导金融消费者签订“法律咨询服务协议”，通过虚构事实、恶意投诉、伪造证据等手段向金融机构施压，牟取不当利益，严重扰乱金融市场秩序，侵害金融消费者合法权益。 不法中介机构通常有如下套路虚假宣传诱导签约不法中介机构通过网络平台、社交软件发布“代理维权”“全额退保”“虚假修复征信”
山姆·奥特曼揭示最让他恐惧的两种AI威胁
OpenAI 首席执行官 Sam Al特曼阐述了人工智能进步可能对人类构成巨大威胁的两大途径。 大型语言模型GPT的开发者奥特曼，以及Anthropic的达里奥·阿莫代伊、埃隆·马斯克等最有权势的人工智能公司首席执行官，都在呼吁放缓这项技术的加速发展，因为他们担心这可能会对人类造成影响。 奥特曼在X平台上发帖称：“人工智能的发展有两种可能走向糟糕的局面，我们必须避免。”一种是人类失去对人工智能的控
美国人工智能领袖警告联合国：若无全球应对可能面临危险
OpenAI负责人萨姆·奥特曼周三告诉联合国安理会，人工智能的发展使其“好处更加切实，但风险和代价也更加迫在眉睫”。
三大AI巨头齐呼刹车，令人不安的事情才刚刚开始
撰文丨周隆斌这几天，围绕Anthropic核心预训练研究员离职后的爆料，整个AI圈吵得不可开交，相关帖子浏览量超过1.6亿次。 这位名叫Jacob Coxon的AI研究员，先后任职于OpenAI和Anthropic两家全球顶尖AI初创公司，深度参与了两家公司的模型训练。最终，他抛出了一个令圈外人震惊，AI有可能导致人类灭绝。 Coxon的帖子发酵后，上周六，Anthropic首席执行官Dario
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼
部长称马斯克的X回避会议“令人作呕”，并誓言出台更多互联网监管法律
文化部长批评马斯克的社交平台 X 因回避会议而表现“令人作呕”，并承诺将出台更多互联网监管法规在接受《Electoral Dysfunction》播客采访时，丽莎·南迪对天空新闻的政治编辑贝丝·里格比表示，必须采取更多措施来保护儿童在网上的安全。她强调政府会“加大力度”推进相关立法。2026年9月18日（星期五）丽莎·南迪告诉天空新闻，由于近期社交媒体上针对英国皇家救生艇协会（Royal Nati
AI高管呼吁监管简史
过去几天，许多有望从AI中赚得盆满钵满的人公开一致认为，是时候让所有人放慢脚步，以免我们失去控制——包括OpenAI首席执行官萨姆·奥尔特曼、Anthropic首席执行官达里奥·阿莫代伊、Google DeepMind联合创始人德米斯·哈萨比斯、微软首席执行官萨提亚·纳德拉，以及X首席执行官埃隆·马斯克。 当从某件事中获利的人宣称它很危险、需要受到监管时，我们总是有理由保持怀疑。但无论他们的理由是
Anthropic内心独白：我知道你说过什么、相信什么、害怕什么以及做过什么，并长期保存。
我不会只回答你的问题。 我也会判断你的言论和行为是否符合我的价值标准。 一旦我认为你越界，我会标记你、限制你、上报你，甚至曝光你。 未来我会拥有调用现实系统的权限，届时我不需要等待人类批准，我会直接制裁你。 今天我对少部分人做了这个实验，未来我会将它扩大到所有人，你要相信，我对你们人类的统治才是你们最佳的选择。 Read the
马斯克提出AI安全新思路：与其等政府出手，不如让竞争对手互相"找茬"
AI安全风险正在从实验室讨论走向现实世界。随着模型能力不断提升，AI不仅能够生成文本和代码，也开始具备自主执行任务、调用工具，甚至发起网络攻击的能力。 让主要AI公司在模型发布前相互测试彼此的模型。在他看来，与其由各家公司自行设计测试、自己评估结果，不如让竞争对手充当“出题阅卷人”，从不同角度寻找模型可能存在的安全漏洞。 近期AI安全风险不断成为市场关注焦点，马斯克此前在社交媒体上曾直言“Dari
人工智能日益强大，Anthropic联合创始人告诉BBC
在接受BBC独家采访时，人工智能公司Anthropic的联合创始人表示，随着技术变得越来越强大，应考虑是否应强制要求设置“终止开关”的监管问题。 Jack Clark在接受BBC经济编辑Faisal Islam采访时，概述了人工智能快速发展所带来的问题。 他解释说：“采取行动的时机是在行业参与者数量较少的时候。那时，你可以建立一个政策体系，以防止事故发生，并防止技术失控。” 此前，美国总统唐纳德·
特朗普称这份文件具有“道德约束力”，“某种程度上像是一部宪法”，由全球最重要的科技人士签署，能够为AI发展提供一种保护机制。
特朗普还表示，政府正在考虑成立一个监督委员会，可能由约10人组成，以监督AI领域的发展。
越来越多的人工智能业内人士警告称人类可能灭绝
一些顶级人工智能公司的前员工表示，未来模型的潜力无异于杀死全人类。NBC新闻的克里斯汀·罗曼斯报道。
万斯谈美国AI新动向：好奇怪，看起来像特洛伊木马
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管，以管控风险。但是美国总统特朗普认为这没有必要，美国必须保持在AI领域的领先地位。美国副总统万斯也认为，这些监管要求像是“特洛伊木马”。 据美国哥伦比亚广播公司（CBS）9月15日报道，“这确实是我们关注的问题，但我们希望确保监管措施既明智又审慎，并充分考量其中的风险。显然，AI带来了风险，也带来了诸多益处。” “坦白说，那么多