若不加控制，人工智能可能会置我们所有人于死地——这是该技术领域的奠基人之一、约书亚·本吉奥多年来反复发出的严厉警告。

周三，本吉奥与加拿大和德国政府代表共同宣布，将投入超过2.5亿美元，以支持这位加拿大人工智能研究人员应对这一威胁。

本吉奥正致力于开发一种新型人工智能模型。该模型名为“科学家AI”（Scientist AI），其设计初衷是确保安全性，专注于客观真理，理解事实而不追求自身目标——例如取悦人类用户。它还可以作为其他人工智能模型的安全护栏。

加拿大联邦政府向“零定律”（LawZero）投资1.5亿美元。该非营利组织由本吉奥于去年在蒙特利尔创立，旨在构建如“科学家AI”般的模型。这是联邦资金首次投入该公司。德国方面将额外提供1亿欧元。

加拿大向专注于安全人工智能的非营利组织投资1.5亿美元 4小时前 时长 “我怀着骨子里的紧迫感在做这件事，因为我希望我的孩子和孙辈拥有未来，”本吉奥在本周于蒙特利尔举行的“全投入”（All In）大会上说道。该大会是人工智能领袖的重要聚会。

对人工智能风险的担忧日益加剧，在Anthropic（被视为处于该技术前沿的人工智能公司之一）的一名离职研究人员警告称，人工智能有可能在未来十年内毁灭人类后，这种担忧达到了白热化程度。

本周早些时候，总理马克·卡尼在接受采访时也呼吁建立一个全球性的、非行业主导的机构，以监督并缓解该技术的风险。

独家 联邦人工智能战略草案旨在扩大应用规模，并于2031年前提供素养培训 人工智能部长埃文·所罗门表示，对“零定律”的投资是加拿大推动负责任的人工智能发展更大举措的一部分。

他说：“我们今天来到这里，不是因为我们在回应昨天的头条新闻，而是因为我们在回应我们所采取的哲学立场，即负责任、安全地建设。”设计更安全？

在很多方面，精灵已经从瓶子里出来了，他说遏制人工智能产生幻觉和传播错误信息或在未经人类明确许可的情况下采取行动等危险将是巨大的挑战。“目前这个问题还没有灵丹妙药。我们拥有非常强大、甚至具有变革性的人工智能系统，”多伦多大学蒙克全球事务学院人工智能政策和采用专家贾克森·汗（Jaxson Khan）说。

美国和中国公司运营着极其强大的人工智能系统，他表示这一趋势可能会持续下去。

Anthropic首席执行官呼吁放慢人工智能的发展9月13日“加拿大此时此刻，我们感觉，在人工智能的背景下，我们可能没有太多控制权，”他说。但汗表示，与德国合作投资LawZero仍然有意义。“你必须能够开发出理想情况下设计更安全的替代方案，”他说。

“我很好奇这是否有效，但我确实认为这是政府的一项值得投资，也是与德国的良好伙伴关系。“国内能力和伙伴关系专家表示，另一个重要问题是与目标和价值观相似的国家合作。

这一消息是在两家人工智能公司加拿大的Kohere和德国的Aleph Alpha签署合并协议几小时后宣布的。

“这可以说是能力建设，”加拿大盾牌研究所智库董事总经理瓦斯·贝德纳尔（Vass Bednar）在谈到此次合并时表示。

首席执行官分析称，人工智能“散布恐惧”可能会损害加拿大难得的机会世界上最大的人工智能公司之一希望与加拿大达成协议。主权是权衡吗？

“我们确实有能力迎头赶上并建立替代方案。我们也必须相信这一点，”她说。

“我们不能.成为该技术不可避免性或其危害的受害者。“多管齐下的方法可以带来改变，汗说。本吉奥说放弃不是一种选择。

“实现我们的目标并不容易，”他说。“但如果我们能够改变世界，即使是通过一点点推动它走向人类更美好的世界，我们就必须尝试。"