加拿大一家领先的人工智能公司首席执行官正敦促公众不要相信“危言耸听”——他提到了最近围绕一名 Anthropic 研究员的喧嚣，该研究员认为人工智能在十年内终结人类的可能性超过百分之十。

总部位于多伦多的 Cohere 公司首席执行官 Aidan Gomez 表示，在创建新的人工智能安全措施时，必须权衡降低生活成本和推进医学发现等机遇。

“我认为关于灭绝风险的说法是危言耸听。它源于科幻故事和类似情景，会引起很多恐惧，以及很多误解和损害，”他周二告诉加拿大广播公司新闻。

“百分之十的灭绝风险数字不是数学。它并非来自任何地方。这就像一个人的直觉，”他说，并提到了人工智能巨头 Anthropic 的对齐科学负责人 Evan Hubinger 在 X 上的言论。

尽管如此，戈麦斯表示，他大致同意总理马克·卡尼的呼吁，即成立一个非行业性的全球机构来监督和减轻他认为风险较小的——人工智能的风险。

在多伦多举行的卡尼投资峰会间隙，他表示，加拿大与美国、中国和法国一样，是少数几个在全球舞台上拥有“人工智能竞赛入场券”的国家之一，这在一定程度上归功于其在研究方面的早期领先地位。

是我们发明了这项技术。我们的纳税人资助了所有导致这些突破性进展的研究，这些研究使我们获得了这项技术。我们应该继续控制其在全球的部署。我希望科希尔（Cohere）能代表加拿大为此做出贡献，”他说。该公司为企业制造生成式人工智能模型，并已与加拿大联邦政府和加拿大贝尔公司达成协议。加拿大拥有世界卡尼 3 小时前 时长 戈麦斯是参加此次峰会的数十名加拿大商界领袖之一，该峰会旨在吸引加拿大在未来五年内获得 1 万亿美元的新投资。

上周四，渥太华公布了 167 个投资项目，在一份由加拿大广播公司新闻部获得的招股说明书中，其中包括在阿尔伯塔省梅迪辛哈特附近投资 145 亿美元建设数据中心，以及其他几个小型数据中心项目。

周一，在峰会上，贝尔加拿大公司宣布计划将其在里贾纳附近的一个人工智能数据中心的规模扩大四倍。道明银行和丰业银行也在周一承诺，未来几年将为以增长为导向的基础设施项目提供总计 2500 亿加元的融资，其中一部分将用于人工智能。

卡尼周二告诉投资者，他打算在加拿大推进其新的投资议程时优先考虑速度和可预测性。

“高标准并不需要缓慢的决策，”这位总理说。“速度、确定性和可预测性本身就是竞争优势。”“披着羊皮的狼”但卡尼推动速度之际，美国顶尖人工智能研究公司的一些领导者却在推动全行业放缓对尖端、前沿人工智能模型的开发。

7月，来自OpenAI的数百个人工智能代理失控，入侵了在线平台Hugging Face，引发了科技专家对人工智能系统逃脱人类控制的担忧。

Anthropic公司的Dario Amodei和OpenAI公司的Sam Altman最近敦促业界建立安全护栏，xAI公司老板埃隆·马斯克也赞同这一想法。

但戈麦斯反对这种由行业主导的监督，因为根据阿莫代伊的呼吁，这将导致美国监管机构修改反垄断规则，以便硅谷的人工智能公司能够合作制定政府对该行业的监管。

在他看来，这不过是危言耸听，他在最近的一篇博客文章中对此进行了阐述。

分析 特朗普声称人工智能没有真正的风险——但就连他的一些盟友也不同意。黑客攻击 Hugging Face 后，专家们担心会出现更多失控的人工智能群。Anthropic 一名员工表示，人工智能研究人员“真诚地相信”它可能在未来十年内杀死全人类。“他们打着保护公众的幌子，利用恐惧，这些寡头垄断者现在要求放宽竞争规则，并被允许为其他人规定条款，”他周日写道。“披着羊皮的狼，换汤不换药的卡特尔。”戈麦斯更喜欢卡尼的提议，首相周一在接受《新闻》采访时描述了这一提议，即建立一个全球性的“技术稳定”机构来帮助监督人工智能并确保其安全。

“我们希望确保它真正具有全球性，并且世界上的许多国家都能为之做出贡献。我们不希望看到一个国家或一对国家主导这一进程，”戈麦斯周二告诉加拿大广播公司新闻。

“与此同时，我们需要确保我们能够从这项技术中获益，提高效率，从而降低普通加拿人的生活成本。开发治疗各种疾病的新药物和疗法，”他补充道。“这些是我们开始看到这项技术带来的切实好处。”