搜索结果
人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制
（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea
在分裂的美国国会难以采取行动之际，对人工智能的担忧日益加剧
华盛顿——美国国会于9月14日结束休会复会，面临紧迫警告：人工智能可能危险地失控——而对于华盛顿是否应该干预、或如何干预，各方几乎没有共识。 众议院在议员们踏上11月3日中期选举竞选之路前，仅剩四个立法日。而这些议员不仅跨越党派界限存在分歧，在各党内部也同样分裂。 参议院民主党领袖查克·舒默于9月14日要求为所有参议员举行一次机密简报会，内容涉及前沿人工智能测试、中国获取先进芯片的渠道，以及人工智
议员提议禁止‘超级智能’并把违反者关进监狱
美国参议员伯尼·桑德斯和美国众议员格雷格·卡萨尔已提出新立法，该立法将禁止任何人开发人工超级智能 —— 该法案将这项技术描述为能够 “毁灭人类或剥夺人类权力”，包括通过推翻政府。 根据《禁止人工超级智能法案》，AI领军人物若违反该法，将面临最高20年监禁。 该法案并不只是针对更强大的超级智能。 还将暂停先进AI系统的开发，立法者将这些系统归类为在特定数据阈值上训练的前沿模型。 该法律只有在政府创建
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼
马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉
哈里斯在安全担忧日益加剧之际支持放缓人工智能发展
前副总统敦促国会设立一个联邦监管机构，并呼吁达成一项包括中国在内的国际协议。 卡玛拉·哈里斯加入了呼吁放缓人工智能发展步伐的行列，并于周一警告称，如果没有更有力的保障措施，这项技术可能会“脱离人类控制”。 “人工智能的前沿正以惊人的速度推进，”这位前副总统在X平台上的一份声明中说，并认为放缓最先进人工智能系统的发展，并不意味着放弃其在“医学等领域可能带来的救命益处”。“相反，这是为了设立合理的防护
刘云平：人工智能风险“已不再是科幻小说中的情节”
民主党第四号人物正敦促其党派在应对人工智能最坏风险的同时，不扼杀该技术的发展前景。 众议员泰德·刘（Ted Lieu）专注于一种噩梦般的场景：人类失去对人工智能的控制。 这位自称是科幻迷的众议院民主党人工智能委员会主席在接受《政治报》（POLITICO）采访时表示，他认为当今飞速发展的技术与《终结者》等电影之间存在令人不安的相似之处，在这些电影中，人工智能系统背叛了它们的创造者。 “那些事情不再仅
奥巴马抨击特朗普的AI政策，背景是“末日”警告
奥巴马在“末日”警告背景下批评特朗普的AI政策前总统奥巴马周五在纽约州科尔盖特大学接受采访时，对特朗普政府处理人工智能问题的态度表示强烈批评，指责其未能妥善应对部分科技行业人士提出的关于这项技术对人类构成潜在威胁的“末日”警告。 奥巴马表示，联邦政府必须对人工智能进行监管，并特别提到了特朗普的一位顾问的言论。 “我听到唐纳德·特朗普的主要顾问之一提出论点称，‘市场会解决人工智能的问题，’”前总统说
两党人工智能安全法案在国会山势头渐起
国会尚未复会，但一些议员被一位即将离职的Anthropic研究员发出的一轮严峻人工智能警告惊醒，该研究员表示“认真构建人工智能的人真诚地相信，它可能在这个十年结束前杀死我们所有人。”向Semafor透露的消息人士称，参议员Amy Klobuchar（明尼苏达州民主党）、Ted Cruz（得克萨斯州共和党）和多数党领袖John Thune正在起草的一项人工智能安全法案，是唯一有可能在2027年前有机
视频 人工智能安全警告日益紧迫 美国领导人的回应
科技界针对人工智能潜在危害发出的警告日益紧迫，各国呼吁政府加强监管的呼声也不断上升，不过特朗普政府反对，请看视频报道。 针对近期科技界领袖呼吁加强政府监管的举动，美国总统特朗普正带头表示反对。 美国总统在周一表示限制该技术的举措是一场“阴谋”，众议院议长迈克·约翰逊则在很大程度上听从了白宫的意见。 美国总统特朗普表示 :“我们可以设立护栏，可以采取各种措施，但我认为有很多负面势力在炒作这些问题，本
“太棒了”还是“令人担忧”——AI 应该被约束吗？
人工智能的迅猛发展以及对该技术给人类带来风险的担忧，因人工智能企业高管和员工的一系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在上周末呼吁放慢人工智能的发展步伐并对其进行更密切的监督。 BBC采访了华盛顿特区的民众，以了解他们对这项技术及其快速发展的担忧程度。
奇普·罗伊即将离开国会——但在离开前警告同僚要认真对待人工智能的威胁
奇普·罗伊即将离开国会——但在走之前，他向同僚们发出了关于人工智能的警告。这位得克萨斯州共和党人通常不是轻易让步的人。但如今他说，自己正在苦苦思索人工智能的出现可能对我们所熟知的生活意味着什么。 众议员奇普·罗伊并非以温情脉脉的立法风格著称。但这位坚定的保守派在准备于年底离开国会之际，提出了一个棘手的哲学问题：人工智能的迅速崛起是否可能将人类的统治权拱手让给“没有灵魂的实体”。 这位得克萨斯州共和
在科技之国的中心，选民对AI产生警惕
在科技产业的重心地带，选民们对人工智能持负面态度。根据 Politico 及其合作伙伴的最新民意调查，绝大多数加州选民认为先进的人工智能可能对人类构成威胁。 加利福尼亚州萨克拉门托——即便是硅谷的“后院地区”，也在为人工智能带来的潜在风险做好准备。 根据 Politico 及其合作伙伴的最新民意调查，加州选民对人工智能普遍持悲观态度，他们认为这项快速发展的技术对人类构成了严重威胁。这种担忧在加州这
“需要AI管控装置”vs“主导权被中国夺走”…意见分歧蔓延至华盛顿
▲ 当地时间13日，美国总统唐纳德·特朗普在从爱尔兰香农飞往马里兰州安德鲁斯联合空军基地的 “空军一号”专机上与记者们交谈。/关于因担忧人工智能（AI）可能失控而调整开发速度的争论，已从美国的硅谷蔓延至政界，正在演变成管控论。“如果美国在AI开发上踩刹车，可能会被中国夺走主导权。”因此对调整速度持否定态度。“应该为了防止AI脱离人类控制的风险而制定安全措施。”随着11月中期选举的临近，AI已成为政