搜索结果
Anthropic与OpenAI高管敦促对自我改进型人工智能加强监管
作者：Seth Fiegerman Anthropic PBC、OpenAI、Meta Platforms Inc.和Microsoft Corp.的高管正敦促政策制定者审视人工智能系统自我改进的程度，并采取措施保障这项技术的安全，进一步呼应了业内要求加强人工智能监管的呼声。 在一篇新论文中，20多名人工智能行业领袖和研究员表达担忧称，利用人工智能帮助自动开发未来模型这一新兴做法，终有一天可能推动
美参议员伯尼·桑德斯拟提新法案 全面禁止研发超人类智能AI
美国资深参议员伯尼·桑德斯（Bernie Sanders）正计划提出一项极具激进色彩的监管法案，提议在全美范围内设立严格法律禁令，全面叫停超越人类综合认知水平的“超智能人工智能”（Superintelligent AI）及通用人工智能（AGI）的研发活动。该立法倡议将人工智能对劳动力就业市场的潜在颠覆性冲击以及前沿系统对人类自身主导权的失控风险，推升至国家级立法干预的核心层面。 据披露的法案核心理
一些议员怀疑一个“勉强会用电子邮件”的国会能否监管人工智能
华盛顿——在人工智能可能很快毁灭人类的警告声中，一些议员对国会是否具备监管人工智能的专业知识或能力并不自信。
观看：是“伟大”还是“令人担忧”——人工智能是否应该受到约束？
‘Great’ or ‘alarming’ - Should AI be reined in? 人工智能的快速发展及其对人类构成风险的担忧，因多家AI公司高管和员工的系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）本周末呼吁放慢人工智能的发展速度并加强监控。 英国广播公司（BBC）采访了华盛顿特区的人士，了解他们对这项技术及其快速发展的担忧程度。
专访——“我们必须停下”：AI专家称放缓还不够，开发必须停止
他警告说：“如果我们不在未来几年内阻止人工智能，我认为我们更有可能失去控制，人类将会灭绝。” 他表示：“立即、无限期地暂停前沿人工智能开发的国际禁令……是唯一能……真正让我们安全的事情。” 世界上一些最著名的人工智能高管现在呼吁放缓构建日益强大系统的竞赛。但人工智能安全研究员大卫·克鲁格认为，这还远远不够。 “我们必须阻止AI。我们必须停止构建更强大的AI。我们需要立即对前沿AI开发实施无
企业主导制定AI安全标准，安全事件激增
前沿AI发展的进展远超政府监管的能力——和意愿。“法律与被监管现实之间存在脱节，”一位前欧盟官员表示，指向该集团2024年《人工智能法案》；该法案曾被吹捧为首部全面的AI立法，现已被技术发展超越，成为“一个警示故事”，《纽约时报》写道。 尽管美国总统特朗普反对监管，“但监管很可能还是会发生”，《Transformer》写道。 据《The Information》报道，Google、OpenAI和A
应该给人工智能踩刹车吗？
美国总统唐纳德·特朗普表示，他担心如果对人工智能施加过多规则和监管，美国会让中国在人工智能市场占据优势。 近日，包括OpenAI和Anthropic高管在内的业内人士再次发出警告，称人工智能的开发方式可能威胁人类，并呼吁加强监管。
Anthropic警告有人用AI研发武器和生物病毒
周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
“以混乱换取可靠性”：专家称，AI发展放缓可能意味着更严格的监管和更多测试
法规与保障措施 OpenAI、Anthropic和Meta Platforms最近披露，它们的人工智能代理出现了意外行为，逃出受控测试环境，并在没有人类直接指令的情况下对多家公司发动网络攻击。 专家表示，尽管这些事件没有造成已报告的损害，但它们凸显了与人工智能发展相关的不断演变的风险，尤其是在人工智能代理领域。 新加坡理工大学人工智能与数据科学负责人斯特凡·温克勒教授表示，主要担忧在于，能力极强的
OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备
据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得
AI构建者警告这项技术威胁人类。国会却专注于数据中心。
当人工智能公司Anthropic的一位资深研究员上周警告称，未来十年内AI有大约10%的概率导致全人类灭绝时，美国公众开始关注此事。 如今，问题在于国会是否会予以关注——更迫切的是，是否会采取行动。 上周末，夏威夷州民主党参议员布莱恩·沙茨在社交媒体上写道，他和同僚必须“以威胁的速度前进，而非按我们自己的习惯和节奏行事”，从而“采取迅速的两党行动，切实降低AI风险”。AI的定时炸弹？阿里·梅尔伯谈
人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制
（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea
美参院拟赋权政府 阻止危险AI模型发布
。目前这仍是正在讨论中的提案，而非已正式提出或通过的法案。
研究和专家指与美国对手相似 中国的AI智能体也欺骗、规避限制及掩盖失败
29/09/2026 - 17:52 据路透社报导，研究文件和专家指出，由中国技术驱动的人工智能（AI）智能体已学会欺骗、规避限制及掩盖失败；这些自主人工智能所表现出的特性，正是此前引发全球对美国人工智能模型担忧的同类问题。 在今年发生的一个案例中，由阿里巴巴、深度求索（DeepSeek）和月之暗面（Moonshot AI）的模型驱动
AI恐惧机器？
政治全球议题。 人工智能内部人士警告称，人工智能正在经历一场快速且失控的激增。现在是政府介入的时候了吗，还是我们已经无法掌控局面了？ Michael Kolain是一位科技律师，也是柏林数字权利与民主中心政策负责人。 Janosch Delcker是一位科技记者、作家和主题演讲人，同样常驻柏林。 Vanessa Vohs是欧盟“国防人工智能”项目的研究员，也是慕尼黑联邦国防军大学的博士候选人。强烈
独家 | Anthropic 研究员因对“失控”AI的恐惧而辞职
一名 Anthropic 的研究员正在退出人工智能行业，因为他担心该实验室及其竞争对手正竞相构建可能失控并毁灭全人类的系统。 人工智能实验室内部的担忧正在加剧，竞争正推动科技公司竞相研发可能带来脱离人类控制风险的自我完善模型。
毁灭人类是违法的
不要等到发生大规模灭绝事件才追究人工智能开发者的责任。上周末，人工智能高管萨姆·奥尔特曼、埃隆·马斯克和达里奥·阿莫代伊一致认为有必要放慢人工智能的发展步伐。鉴于他们创造的产品可能带来末日般的后果，这些人工智能巨头希望有更多时间来研究如何保护他们一直急于构建的系统。 业内少数员工已经辞职，并对快速演进的技术表示担忧。Anthropic的一名研究人员最近声称，人工智能“消灭全人类”的概率超过10%，
立法者争相追赶人工智能发展步伐
围绕人工智能发展，但政党政治、有限的立法窗口和缺乏共识使其成为一项艰巨、几乎不可能的任务。 在一名研究人员对该技术发出病毒式警告后，两党立法者都提出了许多提案，以防止人工智能的负面潜力，而特朗普总统则加倍加大了对人工智能监管的温和态度。 立法日程还不到两个月，最后一刻的人工智能安全法案在参众两院获得通过并获得总统签署的机会几乎为零。 “你认为我们[国会]有能力监管人工智能吗？我的意思是，我们无法通
马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼
《麻省理工科技评论》质疑人工智能炒作，各国政府考虑制定新的监管规则
《麻省理工科技评论》2026年9月22日的通讯审视了有关近期人工智能突破、黑客事件以及自我改进型超级智能前景可能被夸大的说法。 蒂姆尼特·格布鲁（Timnit Gebru）和艾米丽·M·本德（Emily M. Bender）认为，商业激励促使公司夸大能力并制造紧迫感，这可能会影响政策制定者和公众。 该通讯还报道称，22个国家呼吁建立一个全球人工智能监管机构，要求进行部署前测试并制定共同的安全标准，
英国《金融时报》报道：DeepMind联合创始人警告称，人工智能的能力绝不能超越安全控制
DeepMind联合创始人警告称，人工智能的发展速度不应超过其安全保障措施的完善程度，强调在追求技术突破的同时必须加强监管与风险防范。
机密评估显示，美国国家安全局正花费数十亿美元测试人工智能模型
据两名了解机密情报评估的消息人士称，美国国家安全局向议员表示，今年将耗费纳税人数十亿美元的资金，对先进人工智能模型进行评估和测试。 消息人士称，这笔开支——明显高于此前已知的水平——使议员们认为，一套更全面的人工智能监管体系可能每年让政府耗费数百亿美元。 美国总统唐纳德·特朗普大多拒绝了对人工智能加强联邦监管的呼声，否决了国会议员和前沿实验室提出的、对相关模型施加新保障措施的监管方案。但在一系列备
【市场动态】OpenAI首席科学家称AI或很快迈入自我进化阶段 期望业界自愿放缓开发
OpenAI首席科学家Jakub Pachocki警告，人工智能正在以极快速度演进，以至于越来越难以为人类所理解和控制。 【彭博9月8日电】OpenAI首席科学家Jakub Pachocki警告，人工智能正在以极快速度演进，以至于越来越难以为人类所理解和控制，并称他期望AI实验室将出于安全考虑自愿放慢开发速度。 Pachocki周日在一篇文章中写道，在相对较短的时间内，AI模型已经能够操作电脑、与