搜索结果
德桑蒂斯称，反对人工智能保护措施对共和党而言是“必败立场”。
州长表示，潜在的监管措施应确保人工智能“提升人类体验，而不是试图取代人类”，同时保护网络隐私，不让居民遭受“对你的一举一动都进行监视”的待遇。与此同时，德桑蒂斯坚持认为，当人工智能造成伤害时，各州应能让企业承担民事和刑事责任。为此，这位州长亲自挑选的总检察长詹姆斯·乌特迈尔正在推动新法律，允许其办公室对利用其聊天机器人实施的非法行为——例如制作儿童性虐待材料——对企业提起刑事指控。 德桑蒂斯还对一
纽森签署行政命令，探索新的人工智能规则，考虑“终止开关”
纽森在新闻稿中表示：“联邦政府在创建任何形式的有意义的人工智能监督或问责机制方面的彻底失败，应该让每个美国人感到震惊，尤其是当人工智能首席执行官们自己都在恳求监管的时候。” 该命令加快了纽森本月签署的两项加州法律的实施，即SB 813和AB 1405，这两项法律规范了外部团体如何评估人工智能程序的安全性。 它还召集专家在两个月内向加州提供建议，说明该州如何加强现有的人工智能安全与安保法律。 他们考
独家：特朗普盟友开辟新战线，将Anthropic首席执行官塑造为AI“末日论”代表人物
特朗普总统的盟友正将Anthropic首席执行官达里奥·阿莫代伊塑造成AI“末日论”的代表人物，以及有效利他主义运动的奠基人之一，而该运动正日益受到政治攻击。 为何重要：这些攻击表明，随着特朗普的盟友在中期选举期间对阿莫代伊的AI安全警告进行反击，Anthropic可能仍是特朗普的攻击目标。消息人士告诉Axios，特朗普的代理人认为阿莫代伊因其政治立场和对AI安全的关注而是一个容易攻击的对象。
前谷歌安全主管警告：人工智能对儿童的危害可能超过社交媒体
旧金山，9月22日：Alphabet旗下谷歌公司信任与安全团队的创始人本周呼吁放慢人工智能（AI）的发展速度，警告称科技行业正在重蹈社交媒体的覆辙，可能会对儿童造成更大的伤害。 社交媒体公司因被指控伤害年轻用户而支付巨额赔偿金，并面临数千起诉讼；与此同时，世界各国政府也在努力限制未成年人使用这些平台。 去年，路透社独家报道了Meta公司的一份内部政策文件，该文件指出其开发的聊天机器人可能会与儿童进
马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉
人工智能倡导团体发起州级政策推动行动
旨在推动建立更强有力的人工智能安全护栏的非营利组织“负责任创新美国人”（ARI）周四发起了一项新的州级倡议，专注于在全美50个州倡导人工智能政策。 该努力旨在推动制定政策，以应对来自尖端人工智能模型的风险，以及对工人、儿童和家庭的威胁。“为了成功通过安全护栏……”
AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？
AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速
OpenAI首席执行员下周赴安理会作简报
阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国
AI领袖呼吁放缓发展步伐
在一名研究人员发出人工智能可能很快毁灭人类的不祥警告后，越来越多的人工智能领袖呼吁放缓这项技术的发展。Anthropic首席执行官达里奥·阿莫代伊呼吁放缓人工智能能力开发后不久，包括OpenAI首席执行官萨姆·奥尔特曼和xAI首席执行官埃隆·马斯克在内的多位竞争对手也纷纷效仿。此前，27岁的人工智能研究员雅各布·考克森发文称，这些公司的研究人员“相信人工智能可能杀死全人类”，却仍竞相推进超级智能的
加州州长纽森签署行政令，旨在强化人工智能安全与保障法规
2026年9月18日星期五，加州州长加文·纽森发布了一项行政令，成立了一个工作组，旨在强化该州的人工智能安全与保障法规。该工作组的任务是在两个月内提供一份概述具体安全措施的指南。 供工作组审议的关键提案包括：要求人工智能公司为前沿模型开发“紧急关闭按钮”，并强制要求独立第三方为前沿人工智能公司起草安全计划。
OpenAI 的奥特曼：世界“理应感到恐惧”，但“应该信任”AI 公司
OpenAI首席执行官山姆·阿尔特曼（Sam Altman；奥特曼）认为，尽管公众对人工智能（artificial intelligence, AI；人工智慧）发展的各种风险的担忧日益加剧，但人们应该对他的公司和其他同行公司更有信心，相信它们在 AI 开发上会做正确的选择。 周二（9月15日）在旧金山（San Francisco）举行的一场会议上，“世界应该相信我们会做正确的事，因为那就是正确的事
华盛顿方面拒绝给予人工智能企业制定安全标准的豁免权。
Anthropic首席执行官达里奥·阿莫代伊呼吁给予人工智能企业反垄断豁免，以便它们共同制定安全标准，这一主张在华盛顿遭到质疑，政策制定者正在质疑科技领导人的意图。多年来，国会屡次未能通过人工智能监管法规，但一些议员对在华盛顿无所作为之际让科技公司牵头制定规则的想法表示反对。华盛顿和硅谷都面临越来越大的压力，需要采取更多措施防范人工智能的灾难性风险，但双方都缺乏足够共识，结果演变成相互推诿。 本周
中国回应AI“放缓论”倡多边主义 学者指中美AI合作需剥离战略竞争
美国科技界、政界围绕人工智能（AI）安全管控一事持续激辩，中国外交部星期二（9月15日）对此再度回应说，AI发展和治理需要践行真正的多边主义，仅靠个别国家或企业难以形成行之有效的解决方案。中国官媒《环球时报》此前发文批评“AI放缓论”是瞄准中国的“冷战剧本”。 受访学者认为，人工智能体（AI Agent）可能成为中美科技竞争的新前沿。中国愿参与AI安全治理，但反对与“威胁叙事”相联系。中美未来在A
人工智能终于让我们质疑我们对放松管制的偏见
周六，Anthropic首席执行官达里奥·阿莫迪发表了一篇文章，敦促科技领导者放慢人工智能的发展步伐。在周日接受哥伦比亚广播公司新闻采访时，他补充说，拥有一个人工智能杀死开关“可能是一个好主意”--与众议员特德·刘（Ted Lieu）（加利福尼亚州民主党人）不同和众议员纳撒尼尔·莫兰（德克萨斯州共和党人）提出。 他认为，“需要某种监督、某种联合治理”来避免公众面临的“巨大风险”，包括“失去对人工智
新诉讼指控Anthropic、OpenAI等四巨头达成非法协议放缓AI开发
该诉讼于周五向美国加利福尼亚北区联邦地区法院提起。诉状认为，这些头部 AI 企业达成协同减速共识的行为涉嫌违反反垄断法，此举还会降低消费者购买 AI 付费订阅服务所能获得的价值。 诉状称，这场协同行动主要发生在 9 月 12 日。当日 Anthropic 首席执行官达里奥・阿莫代发布一篇文章，呼吁全行业开展合作，放缓技术迭代速度，把重心放在强化安全措施上。 大量失控 AI 智能体有可能仅用短短六个
比尔·盖茨呼吁美国立法监管AI开发：没有人会认为只靠行业自律就够了
IT之家 9 月 25 日消息，据美国 NBC News 北京时间今天（25 日）晚间报道，微软联合创始人、亿万富翁慈善家比尔 · 盖茨呼吁美国国会立法监管人工智能开发。 盖茨在接受 NBC 新闻《Meet the Press》节目采访时直言：“没有人认为靠行业自律就足够了。” 主持人克里斯滕 · 韦尔克问他，华盛顿是否需要通过立法介入时，盖茨回答：“当然需要。执法部门和政界人士必须参与进来，讨论
白宫面对AI威胁存在分歧
美国总统特朗普（9月，华盛顿，reuters） 受人工智能（AI）升级及失控事故影响，特朗普政府内部关于监管的讨论再度升温。特朗普在与自己亲近的顾问的影响下，倾向于无需监管，而美国财政部长贝森特等人则对AI对金融系统等的影响产生危机感，政府内部意见并不统一。 特朗普驳斥阿莫迪的威胁论 美国Anthropic的首席执行官（CEO）达里奥·阿莫迪（Dario Amodei）9月12日
舒默呼吁就人工智能构成的危险举行机密简报会
Senate Democratic Leader Chuck Schumer on Monday called on the Trump administration to provide a classified briefing to all senators on the dangers posed by AI after a researcher for Anthropic warned
OpenAI CEO将出席安理会会议 以“务实中间派”立场推动建立AI安全标准
OpenAI联合创始人兼首席执行官Sam Altman将于周三在联合国发表讲话，主张建立全球人工智能（AI）标准，在“是否应放缓AI发展”的这一问题上，将自己定位为务实中间派。 Altman势将亲自出席联合国安理会有关人工智能的会议，多国外交官将齐聚一堂，讨论AI问题。OpenAI竞争对手Anthropic PBC首席执行官Dario Amodei将通过视频方式参会。OpenAI代表在Altman
AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”
当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技
AI高层白宫午餐会 川普强调业界应自律监管
（中央社华盛顿29日综合外电报导）美国总统川普今天在白宫举行的大型人工智慧（AI）业界高层与政府官员会议上，强调应由业界自律监管，而非依赖政府规管。与此同时，国会日益强烈地呼吁强化对AI产业的监督。川普白宫会辉达等AI巨头 签自律承诺无法律效力法新社报导，川普也向媒体表示，他将在政府文件中将这项科技正式改名为「超级智慧」（super intelligence）而非人工智慧，「因为这不是人工的」。这
人工智能灾难日益逼近
Anthropic、谷歌和OpenAI都对生物安全感到担忧。它们已制定保障措施，防止其系统被滥用，但这些限制并不完美。 唐纳德·特朗普下令联邦机构停止使用Anthropic的人工智能技术，同时要求该公司与政府合作六个月。
在人工智能安全与监管的辩论中，已分化出两大阵营。
一场由对人类命运发出严峻警告所引发的人工智能安全辩论，已将华盛顿与硅谷的长期宿敌及政治对手团结在一起。两大阵营已然形成。 一方包括美国总统唐纳德·特朗普、英伟达首席执行官黄仁勋以及前白宫加密货币事务主管戴维·萨克斯。另一方则汇聚了立场相左的前沿实验室负责人——Anthropic的达里奥·阿莫迪、OpenAI的山姆·奥特曼以及埃隆·马斯克，并吸引了众多人工智能研究人员的加入。 对人工智能的担忧 这波
联合国秘书长呼吁协调全球人工智能监管
联合国秘书长安东尼奥·古特雷斯表示，各国必须协调全球监管人工智能的努力，这呼应了在世界顶级人工智能公司领导人发出警告后对该技术进行更密切监控的呼吁。 古特雷斯周三对记者表示：“我们不能忽视人们提出的担忧，特别是那些处于人工智能发展前线的人们提出的担忧。”“我意识到地缘政治分歧及其可能产生的诱惑。但世界承受不起人工智能安全性的竞相竞争。”在他发表上述言论之前，Anthropic PBL领导人达里奥·