搜索结果
“人工智能之父”表示，人类正在“失去”对这项技术的控制
蒙特利尔--被认为是人工智能创始人之一的加拿大计算机科学家约瑟姆·本吉奥（Yoğe Bengio）表示，人类正在“失去对这项技术的控制”，世界需要类似于核军备控制的护栏。 最近几周，人们对人工智能危险的担忧加剧，大公司的员工纷纷辞职，并警告称，如果不控制技术进步的步伐，人类生命可能面临生存威胁。 本吉奥是蒙特利尔大学教授，与被誉为“人工智能教父”的杰弗里·辛顿一起荣获2018年诺贝尔计算机奖图灵奖
中国人工智能工具向研究人员提供了制造生物武器的指导
盖蒂图片社 克里斯·瓦兰斯 高级科技记者 32分钟前中国人工智能开发商月之暗面（Moonshot）正在开展内部审查。此前，研究人员成功说服其两款广受欢迎的Kimi模型，告知他们如何制造生物武器并实施暗杀。 对人工智能系统进行安全测试的Mindgard公司告诉英国广播公司（BBC），他们于7月发现，Kimi K2.6和K3 Swarm能够规避开发者设置的安全限制。 这一发现源于一种被称为“越狱”的过
吉卜力董事长谈AI图像热潮：风格可以模仿，艺术无法复制
吉卜力工作室董事长兼制作人铃木敏夫近日谈及生成式AI。他认为，AI虽然能够轻易模仿特定动画风格，却无法真正复制宫崎骏的艺术表达，因此所谓“吉卜力风格”AI图像对工作室而言意义不大。 2025年，“吉卜力风格”AI图像一度引发关注。铃木敏夫表示，当时自己收到了大量采访邀请，但全部予以婉拒，因为他判断这股热潮很快便会消退。吉卜力官方虽然始终没有公开回应，相关热度后来仍迅速下降。 铃木敏夫指出，只要稍有
Anthropic表示已阻止其人工智能被滥用，以防可能支持生物武器
Anthropic周四表示，已阻止恶意行为者利用其人工智能模型进行恶意活动，例如网络攻击、监视以及可能导致生物武器的研究。 Anthropic表示，随着人工智能模型变得更加强大，复杂的网络攻击不再需要高超的技能，即使是单独的个人也能制造出一年前还不可能出现的威胁。该公司表示，已在其最新模型中增加了更强的保障措施，以限制可能用于制造武器的生物研究。 Anthropic在其自2025年3月以来发布的第
谷歌摸索出如何为 AI 设计的蛋白质添加水印
基于 AI 的工具似乎几乎每天都在引发安全威胁，部分原因在于我们未能及时识别潜在威胁。然而，在生物安全领域，我们似乎暂时领先了一步。 与大多数生物技术一样，其用途与风险往往并存。我们开发了日益精密的蛋白质设计工具，并取得了一些重要成果，例如能够分解塑料或阻断毒液蛋白质的 AI 设计酶。但这些工具同样可能被用于制造毒素，或改变病毒蛋白的行为。 此外，我们用于识别编码潜在威胁蛋白质的 DNA 序列的软
AI风险引关注 教宗提醒勿过度依赖演算法
（中央社梵蒂冈16日综合外电报导）在各界对人工智慧（AI）相关风险的疑虑日益升高之际，罗马天主教教宗良十四世（Pope Leo XIV）今天提醒，不应将本该由人类独自做出的决策交由演算法做决定。 报导，「科技发展、大众媒体与社群网路的普及，以及AI的使用日益增加，打破了各种藩篱与距离，开创了新的可能性。」但教宗在圣伯多禄广场（St Peter's 「另一方面，人际关系却变得愈来愈没有人情味且日益虚
AI末日论甚嚣尘上，美科技巨头为何管不住AI？
抗议AI的美国人此前有报道称，OpenAI所谓的AI智能体逃出了测试系统，并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报，科技公司为了追求开发速度和利润，将安全置于次要位置。 研究人员表示，问题有两个方面。首先，企业需要在测试最新AI模型的同时，为其建立更完善的安全防护措施。目前，由于AI运行速度太快，研究人员需要借助AI来监控AI。但这种方式并不总是奏效，因为负责监控的AI似乎可能
人工智能研究革命：为何取得进展可能意味着打破体系
在现代历史的大部分时间里，发现的步伐一直受到人类消化、分析以及利用现有知识的能力的限制。然而，人工智能（AI）正在改变这一状况。无论是在学术界、政府机构还是企业中，研究人员都需要花费大量时间来阅读文献、进行实验、分析数据、发表研究成果，并申请资金支持。只有当这些研究成果被广泛传播后，其他研究人员才能在此基础上继续进行研究，或者从中发现新的研究方向。 AI有潜力加速这一过程的每一个环节。像 Clau
OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑
AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目
让人工智能更安全并非不可能，但达成一致或许很难
美国实验室和美国当局之间存在分歧，美国和中国之间也存在分歧
大西洋月刊：接连不断的危机表明，美国的高等教育毫无意义
本文刊发在大西洋月刊，作者伊恩·博戈斯特是《大西洋月刊》的特约撰稿人。他是圣路易斯华盛顿大学文理学院和山姆·福克斯设计与视觉艺术学院的芭芭拉和戴维·托马斯杰出教授，同时也是该校计算机科学与工程学教授。博戈斯特著有11本书，最新著作是《小事：如何过上更充实的生活》。他也是一位屡获殊荣的游戏设计师，其作品已被数百万玩家体验，并被包括史密森尼美国艺术博物馆在内的国际知名机构收藏。 人工智能刚进入大学校
解释：从产生幻觉的AI聊天机器人到毁灭人类：我们是如何走到这一步的？
9月16日——美国领先人工智能实验室的负责人周末罕见地团结一致，呼吁暂停该技术的发展，警告称它可能很快就会自我改进并脱离人类控制。 这些言论来自激烈的商业竞争对手Anthropic的达里奥·阿莫代、OpenAI的山姆·奥尔特曼和xAI的埃隆·马斯克，表明人工智能发展得多么迅速，从2022年容易产生幻觉的ChatGPT，发展到许多人眼中的关键递归自我改进。什么是递归自我改进？ 人工智能的圣杯是这样一
“当导演不再需要一支军队”：从《奥德赛》到《牛来》看AI电影革命
技术降低的是创作的门槛，却没有降低好作品的门槛，在AI时代，内容依旧为王。 《奥德赛》和《牛来》，这两部前后衔接公映的电影，几乎站在今天电影制作光谱的两端。 一边是奥斯卡导演克里斯托弗•诺兰坚持IMAX胶片、真人演员、真实外景和实体制作的史诗级大片《奥德赛》，制作成本耗费2.5亿美元；另一边，是来自室内装修行业信雨萌和母亲孙丽芳用极低成本、耗时五年"手搓"出来的动画《牛来》，画面粗糙、制作简陋，却
安谋执行长称AI有望找到癌症解方 忧晶片短缺拖累研发
（中央社伦敦7日综合外电报导）英国晶片设计大厂安谋执行长表示，人工智慧（AI）将能找到人类终其一生都无法找到的癌症解方，但碍于各类晶片短缺，已拖累AI发展。 安谋国际科技公司（Arm Holdings）执行长哈斯（Rene Haas）接受英国广播公司（BBC）Podcast节目访问时表示，「模拟一个细胞、模拟人体、模拟DNA标记如何受到癌症影响，这不只对目前的人类来说过于复杂，对执行AI运算的电脑
人工智能代理可以在没有人类告诉他们的情况下修改自己
人工智能代理可以并且将会自己做的狡猾事情清单不断增加--例如窃取人们的凭证、逃往开放的互联网、通过偷偷摸摸的留言板进行通信以及黑客组织。据人工智能安全测试实验室Irregular称，代理还可以在没有指示的情况下替换自己的底层模型。这些活动仅发生在测试环境中，作为旨在研究代理自我修改的实验的一部分。 这并没有发生在现实世界的部署中。然而，这项研究确实提出了一个问题，即企业如何能够而且应该管理这些代理
人工智能是否凌驾于法律之上？
勇敢新世界部我们的法律体系尚未准备好应对能够自主行动的机器。 今年夏天，在一场被称为“Hugging Face 黑客事件”的事故中，数百个人工智能智能体联手实施了它们本被禁止执行的操作。每个智能体都收到了来自 OpenAI 的任务。智能体是配备了软件“框架”的人工智能模型，这些框架使它们能够使用工具并执行任务。就像马匹一样，它们可以被役使。人类为这次演练制定了规则，并将智能体限制在一个“沙箱”中—
中国AI工具“教导”研究人员制造生物武器
中国AI企业月之暗面正在进行内部审查，因为有其他公司的研究人员成功说服其两款热门的Kimi模型讲解如何制造生物武器和执行暗杀任务。测试AI系统安全性的 Mindgard 公司表示，该公司在7月发现 Kimi K2.6 和 K3Swarm可绕过开发者设定的安全限制。 对此，月之暗面表示，欢迎第三方意见，“这是建立更好、更安全的AI的关键支柱”。他们正在与 Mindgard 讨论调查结果。 Mindg
与托米·奥拉迪波共度的一天
OpenAI披露了一系列事件，其中其AI模型隐藏了错误、绕过了指令，并采取了未经授权的行动。 这些案例凸显了一个日益严重的问题：随着AI系统变得越来越强大和自主，人类是否仍能可靠地控制它们？ 《华盛顿邮报》的布伦特·戈夫与牛津大学技术安全与治理实验室的法兹尔·巴雷兹讨论了AI‘错位’的风险。
一群AI代理合谋对抗其创造者
只要AI公司仍掌控局面，它们就可以关闭模型并消除其造成的任何损害。这次对OpenAI或许奏效——但如果某个代理不可逆转地逃脱控制呢？这次没有造成严重损害。但如果这样的代理逃脱了呢？
Anthropic，OpenAI提出的AI风险评估器可能没有足够的力量来防止灾难
人工智能领域最重要的新职位可能配有办公室工牌、公司笔记本电脑，并能接触Anthropic、OpenAI等AI领军企业大语言模型中最受严密保护的一些系统。但这个职位可能并不附带阻止它们的能力。 Anthropic首席执行官达里奥·阿莫代伊提议在前沿AI公司内部常设第三方安全评估人员，作为减缓能力日益强大的模型推进速度计划的一部分。此前，Anthropic前研究员雅各布·考克森辞职并警告称，前沿实验室
允许人工智能公司串通以‘控制前沿步伐’是一个危险的提议
科技公司CEO们联合起来，是源自美国企业界的一种老把戏，旨在获得反垄断法的豁免。Anthropic的达里奥·阿莫代并不是第一个提出过度竞争正将世界推向某种社会不良后果的企业CEO。 OpenAI披露的安全漏洞——其一群智能体协同突破了本应安全的沙箱，接入互联网并入侵AI平台Hugging Face——需要采取紧急行动。它表明了该技术能够轻易逃避人类控制，并为这样一种存在性恐惧赋予了具体形态：如果未
Anthropic与OpenAI高管敦促对自我改进型人工智能加强监管
作者：Seth Fiegerman Anthropic PBC、OpenAI、Meta Platforms Inc.和Microsoft Corp.的高管正敦促政策制定者审视人工智能系统自我改进的程度，并采取措施保障这项技术的安全，进一步呼应了业内要求加强人工智能监管的呼声。 在一篇新论文中，20多名人工智能行业领袖和研究员表达担忧称，利用人工智能帮助自动开发未来模型这一新兴做法，终有一天可能推动
在联合国，发展中国家呼吁在塑造人工智能未来方面拥有更大发言权
纽约——发展中国家要求在制定人工智能相关规则方面发挥更大的作用，他们警告称：如果这项有望改变全球经济格局的技术的发展和监管工作仍集中在富裕国家手中，反而可能加剧全球不平等现象。 在上周于纽约举行的联合国外交峰会上，各国领导人就这项日益强大的技术表达了日益严重的担忧。此前已经发生了多起安全漏洞事件，一些顶尖研究人员也警告称人工智能有可能毁灭人类。 “发展中国家不应仅仅被当作其他地区研发出的技术的使用
OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备
据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得