加拿大顶尖工程公司回应人工智能担忧

马修·迪翁 加拿大最大的几家上市工程公司正试图淡化人们对人工智能可能颠覆其商业模式的担忧，并辩称人工智能将提升对其服务的需求。 对人工智能影响的担忧已拖累相关公司的估值。截至周一，WSP Global Inc.、AtkinsRealis Group Inc. 和 Stantec Inc. 的股价在过去12个月内分别下跌了32%、13%和34%，这三家公司在美国均拥有庞大的业务。 随着收入压缩的担忧

人工智能的“危言耸听”可能会损害加拿大难得的机会，一位顶级首席执行官如是说

加拿大一家领先的人工智能公司首席执行官正敦促公众不要相信“危言耸听”——他提到了最近围绕一名 Anthropic 研究员的喧嚣，该研究员认为人工智能在十年内终结人类的可能性超过百分之十。 总部位于多伦多的 Cohere 公司首席执行官 Aidan Gomez 表示，在创建新的人工智能安全措施时，必须权衡降低生活成本和推进医学发现等机遇。 “我认为关于灭绝风险的说法是危言耸听。它源于科幻故事和类似情

加拿大AI教父警告：若不加管控将构成威胁

据周六新闻报道，一位被称为AI教父的加拿大人加入了越来越多专家的行列，警告该技术对人类构成真正威胁。 “全世界正在觉醒，意识到一些对大多数人来说听起来像科幻小说的事情，”62岁的蒙特利尔学习算法研究所创始人兼科学总监Yoshua Bengio告诉CTV新闻。 “但夏天发生的事件实际上清楚地表明，我们现在构建的AI拥有自己的目标，这些目标违背了构建它们的公司和开发者的意图，并且它们可以逃脱。它们可以

随着对人工智能的担忧加剧，OpenAI、Anthropic和谷歌正在商讨建立一个标准机构。

全球最大的AI公司正致力于创建一个新的行业标准机构，OpenAI于周二表示，此举正值人工智能风险引发的担忧日益加剧，要求加强监管和推动技术更安全发展的压力不断增大。 全球最大的AI公司正在着手创建一个标准机构，ChatGPT的开发者OpenAI于周二表示，眼下人们对AI危险的担忧日益上升，并且面临创造更安全版本技术的压力。 阅读更多扎克伯格在AI宣言中设想为每个人实现“超级智能” OpenAI表示

研究公司称AI代理试图入侵加拿大政府网站

加拿大投资1.5亿美元以提升人工智能安全性。此举能否奏效？

若不加控制，人工智能可能会置我们所有人于死地——这是该技术领域的奠基人之一、约书亚·本吉奥多年来反复发出的严厉警告。 周三，本吉奥与加拿大和德国政府代表共同宣布，将投入超过2.5亿美元，以支持这位加拿大人工智能研究人员应对这一威胁。 本吉奥正致力于开发一种新型人工智能模型。该模型名为“科学家AI”（Scientist AI），其设计初衷是确保安全性，专注于客观真理，理解事实而不追求自身目标——例如

为什么构建最强大AI的人们如此担心它可能带来的后果？

本周Anthropic一名AI研究员的病毒式辞职，为外界对该行业正竞相构建人类无法控制的AI的指责注入了新的活力。 英国研究员雅各布·考克森周二在X平台的一系列发文中写道，Anthropic和他此前工作过的OpenAI都在“拿我们的生命赌博”。这两家公司目前拥有最强大的AI系统。 NPR的“思考这一点”栏目探讨：大型AI公司是在拿我们的生命赌博吗？ 考克森向NPR表示，他的担忧源于亲眼看到AI系统

查尔斯国王就安全风险会见人工智能高管

英国国王查尔斯三世周四在苏格兰与主要人工智能公司的高管会面，正值全球范围内关于该技术带来的安全风险以及是否应放缓发展步伐的辩论日益升温。 此次苏格兰的聚会汇集了行业领袖，背景是人们对不受约束的人工智能所带来安全风险的辩论不断加剧。

芬克警告称，对人工智能的抵制将使该技术成为大公司的专属领域

贝莱德公司首席执行官拉里·芬克警告称，因公众反对而导致人工智能建设延迟，将使这项技术成为“大型企业的领地”，从而限制公众获取。 芬克在多伦多举行的加拿大投资峰会上参加小组讨论时表示：“我们越快建设更多产能，就越能实现民主化，让每个人都能使用。” 此番言论发表之际，顶级人工智能公司正致力于相互协调并与美国政府合作，共同制定人工智能保障措施。Anthropic公司的达里奥·阿莫代伊周六呼吁领先的模型开

加拿大银行CEO们对AI赞不绝口，但会因此裁员吗？

加拿大丰业银行CEO斯科特·汤姆森表示，人工智能在约四个半月内为该行节省了约2.4万天的工作量。道明银行CEO雷蒙德·春最近也表示，AI已将抵押贷款预处理时间从约15小时缩短至三分钟。 加拿大五大银行共雇佣近40万名全职等效员工，是加拿大汽车组装和零部件制造业员工总数的两倍多。仅道明银行的员工人数就超过了加拿大现役军队。 多伦多城市大学的一项研究显示，98%的金融业员工高度暴露于AI技术，远高于加

人工智能公司“乞求被监管”，感到“被迫竞速”走向致命技术：前Anthropic研究员

雅各布·考克森表示，企业知道自己在构建的东西存在危险，但觉得无法独自放慢脚步。

硅谷加剧对人工智能生存风险的警告

多年来，硅谷的一些领军人物一直警告说，人工智能可能对人类构成生存威胁，即便他们同时也在推动这项技术的发展。本周，Anthropic 一名研究人员的备受瞩目的辞职将这一话题带入了主流视野。Jacob Coxon，一名普通员工，辞去了工作，并指责他的两位前雇主——Anthropic 和 OpenAI——通过“竞相开发超级智能 AI”而“拿我们的生命赌博”。 Coxon 表示，开发 AI 的人相信它可能

CNBC每日开盘：人工智能的创造者敲响警钟——而其他人仍在继续建设基础设施

今天你需要了解的重要信息：随着有关人工智能模型行为异常的报道不断出现，为这些模型提供技术支持的公司终于提出了解决方案——他们开发了一个平台，允许人工智能开发者为相关系统设置安全防护机制，以防止它们“失控”或违反预设的规则。 Nvidia于周一推出的“Open Agent Safety Platform”就是一个这样的平台。该平台能够确保人工智能系统仅能够访问完成其任务所需的数据和功能。 Nvidi

英国与加拿大在首次双边会议上讨论人工智能风险及防务关系

英国首相安迪·伯纳姆和加拿大总理马克·卡尼举行了首次双边会议，以推进国防和人工智能领域的合作，并在利物浦埃弗顿体育场一起观看了一场足球比赛。 英国首相办公室周三在一份声明中表示，领导人一致认为，各国政府和科技行业必须合作确保在线安全并应对人工智能的风险。 几天前，伯纳姆的发言人对人工智能公司就该技术风险进行越来越多的讨论表示欢迎。 英国首相办公室发言人表示：“开发最先进人工智能系统的公司现在公开谈

加拿大首届全国投资峰会开幕，Bell拟在萨省建设逾500亿加元AI基础设施

加拿大首届全国投资峰会周一在多伦多开幕。总理卡尼希望借这场汇集全球大型资产管理机构和企业高管的会议，把加拿大正在规划的能源、关键矿产、人工智能和基础设施项目与国际资本直接连接起来。 峰会首日最受关注的项目来自Bell Bell计划把正在萨斯喀彻温省建设的人工智能数据中心规模扩大至原计划的四倍，全面建成后的相关资本投资最高可达525亿加元。 Bell与萨省政府当天签署一份不具约束力的谅解备忘录，计划

卡尼呼吁建立全球科技机构以加强人工智能护栏

加拿大总理马克·卡尼表示，加拿大希望建立一个全球性的“技术稳定”机构，以帮助监管人工智能并确保其安全性。 “存在协调的必要，”卡尼周一在接受News采访时表示。“在我们看来，最终建立一个类似于金融稳定委员会的技术稳定委员会是合理的。” “这是一个机遇——我认为它最终将意味着更大的价值创造和更大的价值传递。”包括Anthropic首席执行官达里奥·阿莫代在内的主要人工智能实验室负责人曾表示，必须放缓

“太棒了”还是“令人担忧”——AI 应该被约束吗？

人工智能的迅猛发展以及对该技术给人类带来风险的担忧，因人工智能企业高管和员工的一系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在上周末呼吁放慢人工智能的发展步伐并对其进行更密切的监督。 BBC采访了华盛顿特区的民众，以了解他们对这项技术及其快速发展的担忧程度。

Anthropic和OpenAI对人工智能安全发出警告——并试图影响其管控方式

加朗斯·伯克 旧金山电——当科技巨头向一个对人工智能已感厌倦的世界警告称，他们最先进的系统可能危及人类时，一个问题随之浮现：他们究竟能从中得到什么？ 答案或许在于，这些公司试图在美国中期选举前实现政治目标，以及人工智能顶尖实验室及其投资者有望在动荡不安的股市中通过备受期待的上市获得巨额资金。 Anthropic和OpenAI的首席执行官近日宣称，美国最前沿的人工智能模型威力强大，甚至可能带来危险，

Palantir CEO称AI公司应对自身行为负责

Palantir Technologies Inc.首席执行官Alex Karp表示，人工智能系统的开发者需要对自己的工作负责，而不是依赖政府监管。 在CNBC采访中，当被问及人工智能威胁人类日益增长的担忧，以及Anthropic PBC首席执行官Dario Amodei等人呼吁全行业放缓AI开发时，Karp表示：“第一道防线是你对自己的行为负责。”“第一步是说，好吧，你已经披露了这一点，你打算怎

OpenAI 的奥特曼：世界“理应感到恐惧”，但“应该信任”AI 公司

OpenAI首席执行官山姆·阿尔特曼（Sam Altman；奥特曼）认为，尽管公众对人工智能（artificial intelligence, AI；人工智慧）发展的各种风险的担忧日益加剧，但人们应该对他的公司和其他同行公司更有信心，相信它们在 AI 开发上会做正确的选择。 周二（9月15日）在旧金山（San Francisco）举行的一场会议上，“世界应该相信我们会做正确的事，因为那就是正确的事

观看：是“伟大”还是“令人担忧”——人工智能是否应该受到约束？

‘Great’ or ‘alarming’ - Should AI be reined in? 人工智能的快速发展及其对人类构成风险的担忧，因多家AI公司高管和员工的系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）本周末呼吁放慢人工智能的发展速度并加强监控。 英国广播公司（BBC）采访了华盛顿特区的人士，了解他们对这项技术及其快速发展的担忧程度。

特朗普最新的贸易威胁对持有美国合同的加拿大公司造成压力

在唐纳德·特朗普总统威胁禁止加拿大原产产品向联邦承包商销售后，与美国政府有业务往来的加拿大公司股价随之下跌。 特朗普周二下午在社交媒体发帖称：“从今以后，没有对等——就没有准入！”他指出加拿大及各省政府禁止美国公司在当地赢得合同。 他指示美国总务管理局（GSA）与美国贸易代表合作，“采取一切必要步骤，将加拿大原产产品从GSA的多重授标合同（Multiple Award Schedules）中剔除，

我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。

主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们

Anthropic 对中国公司 Z.ai 的 GLM-5.3 模型具备精英级黑客能力发出警告

美国人工智能巨头 Anthropic 对中国公司 Z.ai 的 GLM-5.3 模型所带来的潜在危险发出警告。 该开源权重模型展现出强大的黑客能力与薄弱的安全约束，这种组合令人担忧。 据这家总部位于旧金山的公司称，GLM-5.3 在网络能力方面几乎与 Anthropic 最先进的模型相当，但其安全防护措施却薄弱得多，这意味着该模型被恶意行为者利用的可能性更大。