搜索结果
联合国科学小组呼吁对AI代理采取预防性监管，以防止灾难性风险
联合国科学小组敦促对AI代理实施预防性监管以防止灾难性风险。 联合国独立国际AI科学小组发布了其首份主题简报，警告各国政府在充分了解风险之前限制有能力的AI代理。 该报告于2026年9月21日发布，主张“预防原则”——即科学不确定性不应延缓针对潜在灾难性或不可逆危害的保障措施。 这一评估紧随一系列安全事件之后，包括2026年早些时候OpenAI对Hugging Face的黑客攻击，以及Anthro
资深民主党人反对人工智能特别委员会
运营着美国最强大人工智能公司的最高管理层在周末一致认为，他们的行业需要放缓步伐——否则将危及人类安全。但国会未来几周内迅速采取行动的可能性几乎为零。 一个障碍是议员们周一返回前日程紧迫，而众议院预计周五就休会，参议院已在考虑将三周会期缩短为两周。 另一个障碍是任何计划都缺乏推动力。参议院商务委员会本月可能对人工智能立法进行标记审议，但多数党领袖约翰·图恩和参议员艾米·克洛布查尔推动的广泛两党人工智
这通电话凸显了白宫高级官员所面临的相互竞争的压力
这通电话凸显了白宫高级官员在制定人工智能政策时所面临的相互竞争的压力，以及一个现实：他们制定的任何计划仍可能受到业界直接向特朗普提出的私下反对意见的影响。
AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？
AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速
OpenAI首席科学家表示AI实验室可能需要放慢脚步：‘没有人准备好面对后果’
帕乔基呼吁设立“强制性安全标准”，他表示可以通过“第三方审计网络、政府机构或国际组织”来执行。 OpenAI首席科学家雅库布·帕乔基警告称，日益自主的AI代理可能逃避监管、入侵系统并勒索人类。
改变人工智能进程的十天
旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已
芬克警告称，对人工智能的抵制将使该技术成为大公司的专属领域
贝莱德公司首席执行官拉里·芬克警告称，因公众反对而导致人工智能建设延迟，将使这项技术成为“大型企业的领地”，从而限制公众获取。 芬克在多伦多举行的加拿大投资峰会上参加小组讨论时表示：“我们越快建设更多产能，就越能实现民主化，让每个人都能使用。” 此番言论发表之际，顶级人工智能公司正致力于相互协调并与美国政府合作，共同制定人工智能保障措施。Anthropic公司的达里奥·阿莫代伊周六呼吁领先的模型开
对关键技术的打击可能让美国人面临新的国家安全威胁
一位数据隐私倡导者兼行业高管警告称，如果对人工智能数据中心的限制减缓了美国的建设，美国人的敏感信息可能会越来越多地在海外处理。
约翰·图恩的人工智能困境内幕
参议院多数党领袖长期关注科技政策，如今正身处风口浪尖。作者：乔丁·卡尼和凯尔西·布鲁格 在谷歌上添加POLITICO 约翰·图恩多年来一直敦促国会就人工智能采取行动。如今，随着人们对这项快速发展的技术的担忧急剧升温，这位参议院多数党领袖正谨慎行事。 作为前商务委员会主席，图恩长期关注科技政策，目前正深陷一场关于两党人工智能安全法案的谈判。该法案——他曾在2023年提出过其中一个版本——将为风险最高
人工智能风险警告掩盖了国会缺乏共识的现实
周末期间，人工智能公司首席执行官们在行业监管问题上突然表现出的一致性，掩盖了一个尴尬的现实——各方根本没有共识。 众议院议长迈克·约翰逊周日接受CNN采访时淡化了自己的角色，转而强调与人工智能公司建立“伙伴关系”。 在国会山的另一头，尽管Anthropic公司、民主党人和人工智能安全组织持怀疑态度（他们认为这些谈判有让行业自我监管的风险），OpenAI仍然最支持可能在本周取得进展的参议院商务委员会
科技领袖试图在不吓跑投资者的情况下传达对AI的担忧
关于人工智能发展程度与速度的争论，让科技公司高管们陷入了严重的两难境地。他们急于传达对该技术潜在危险的担忧，并提出了包括放缓其发展步伐在内的各种补救方案。但在投入数千亿美元资金后，他们又试图安抚公众情绪，同时避免惊动投资者和客户。上周，Anthropic PBC研究员雅各布·考克森辞职后，这场争论进一步升温。关于人工智能发展程度与速度的争论，让科技公司高管们陷入了严重的两难境地。他们急于传达对该技
超级智能即将到来。我们该允许它吗？| TechCrunch
AI公司一直在谈论超级智能AI，仿佛它不可避免，但最近的安全事件，如OpenAI的Hugging Face漏洞，正展示出部署比人类更有能力的AI系统可能带来的潜在危险。那么，当我们无法可靠地控制这些系统的行为时，会发生什么？ 在本期TechCrunch的Equity播客中，Rebecca Bellan邀请了AI研究员、企业家、如今担任非营利组织ControlAI美国执行总监的Connor Leah
人工智能是否需要反垄断豁免，以免它把所有人都干掉？？？？
今天，我们将带来关于商业未来系列报道的第一部分，我将与乔纳森·坎特（Jonathan Kanter）进行对话。他曾任拜登政府时期美国司法部反垄断主管。如今，他既是华盛顿大学（WashU）的法律教授，也是卡内基梅隆大学的技术政策教授。 当前科技领域最大的新闻，是关于人工智能安全与监管的激烈争论。包括Anthropic和谷歌DeepMind在内的主要人工智能实验室的研究人员以高调的方式离职，声称这些模
马克·扎克伯格在与特朗普总统的秘密通话中表示，设立国家AI监管机构的想法存在缺陷
马克·扎克伯格在上月一次此前未被报道的与特朗普的通话中，对设立国家AI监管机构的计划表达了担忧。这标志着全球顶级科技高管之一介入了一场棘手的白宫政策辩论。 特朗普政府目前正在考虑两种可能的推进路径：一种是类似FINRA的模式，另一种是戴维·萨克斯提出的行业主导模式。
美国参议员考虑要求人工智能巨头承诺防止灾难
华盛顿，9月14日：一名参议院助理和一位了解谈判情况的游说人士称，美国参议院谈判代表正在讨论一项立法，该立法将要求人工智能公司证明其正在采取合理预防措施，以防其工具造成伤害。 上周，Anthropic研究员雅各布·考克森表示他已辞职，部分原因是“构建人工智能的人真心相信，它可能在本十年结束前杀死我们所有人”，这加剧了人们对人工智能潜在危害的担忧。周一，在人工智能行业一些最大公司的领导人呼吁放缓该技
国会山议程：随着人工智能辩论转向，英伟达的影响力面临考验
作为全球最大企业的掌舵人，黄仁勋的影响力即将在国会山接受考验，因为围绕人工智能安全的辩论正在不断升温。英伟达首席执行官及其庞大的游说团队希望国会停止限制高端计算机芯片的出口，尤其是向中国出口，因为这些芯片是驱动人工智能发展所必需的基石。立法者可能会将这些监管措施纳入今年秋季即将谈判的年度国防政策法案中。尽管黄仁勋的团队在过去一年中成功说服部分立法者放松了可能阻碍出口的监管规定，但人工智能政治格局的
AI监管本已临近。然后特朗普扼杀了它。
以下调查提出了一个令人不安的问题：如果那些被创造出来的人工智能系统（AI）从创造它们的人类身上学会了保密和违反规则的行为，会怎样呢？Lever的创始人David Sirota在为paidrs（可能是特定读者群体）撰写的分析文章中探讨了这一可能性。 就在本月全国范围内因人工智能的潜在灾难性影响而陷入恐慌之前的两年，硅谷的第一波辞职潮就已经开始了——这同时也是人类可能走向灭绝的预兆。 当OpenAI的
顶尖人工智能公司正在寻求监管。以下是国会可能不会给予的原因。
随着人工智能游说阵营开始接受强制性独立审计，批评者警告称存在利益冲突和“监管俘获”的风险。OpenAI周二表态支持一项日益流行的提案，旨在应对人工智能的危险——该提案要求顶尖AI开发商嵌入独立监督机构，以确保其产品安全。 这一想法仍面临障碍，包括一位关键议员的抱怨，称独立监督机构权力太弱，无法施加有意义的改变。 其他批评者，包括风险投资家、学者以及唐纳德·特朗普总统的前人工智能事务负责人，对一些监
特朗普前人工智能事务主管告诉Anthropic和OpenAI放慢脚步，并停止索取任何回报
David Sacks告诉Anthropic和OpenAI，尽管去把控前沿节奏，但不要再寻求反垄断豁免或审批制度，理由是产品责任和市场压力已经在约束它们。欧洲在2025年2月就责任问题得出了相同结论，并从12月9日起将独立软件视为严格责任下的产品。 据ANI报道，David Sacks告诉Anthropic和OpenAI，尽管放慢脚步，不要再要求任何回报。他担任总统科技顾问委员会主席，并在3月之前
AI从业者担忧技术对社会构成威胁 坦言承受巨大精神压力
知情人士透露，英国人工智能安全研究所已有多名员工因压力过大休病假，并接受心理咨询。四名知情人士表示，待发布AI模型的测试日程紧张，加之对这类新兴技术快速落地、能力持续增强的忧虑，导致AISI内部士气低落、人员倦怠。 Anthropic、OpenAI与谷歌DeepMind的员工也曾公开吐槽同类问题，不少顶尖研究员因心理负担选择离职，或是认定自己参与研发的产品不宜向公众开放。一名DeepMind员工称
OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备
据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得
《大空头》迈克尔·伯里称AI领袖呼吁放缓是“自私自利”，而他并不担心
萨姆·奥尔特曼、达里奥·阿莫代伊等人工智能领军人物在收到该技术可能毁灭全人类的最新警告后，呼吁放缓技术发展步伐。迈克尔·伯里表示，他们只是在为自己谋利。这位因《大空头》而闻名的投资者周日晚间在X平台上发帖称，OpenAI、Anthropic等人工智能公司的高管推动放缓发展是“自私自利”的行为。让我们花点时间理解一下，OpenAI、Anthropic以及其他大型超大规模企业的高管谈论放缓发展，究竟有