搜索结果
为什么人工智能领袖呼吁放缓？
过去一周，人工智能领域发生了引人瞩目的事件。上周二，一名研究人员从Anthropic辞职，称人工智能公司“正一路冲向可自我改进的超级智能，拿我们的生命当赌注”。一名Anthropic的在职员工对此表示认同，称他认为人工智能在未来10年内导致人类灭绝的可能性超过10%。 随后在周六，Anthropic首席执行官达里奥·阿莫代伊发表文章，呼吁放缓人工智能的发展，以便安全措施能够跟上技术的步伐。他的竞争
前 OpenAI 研究人员创立的有影响力的非营利组织，如今正处于人工智能末日论辩论的风口浪尖
研究员乔·本顿本周宣布他已离开 Anthropic，加入非营利组织 METR，并写道他担心该技术带来的“灭绝级风险”。以下是这家实验室如何成为人工智能最大新闻焦点的故事。 一位撰写过关于“灭绝级风险”文章的 Anthropic 研究人员表示，他计划加入 METR。这家人工智能安全实验室已经成为一个著名的人工智能裁判。
为何十年来的末日警告未能减缓人工智能竞赛
研究人员辞职并宣布人类即将在上周灭绝，而在此之前，科技领袖和科学家们对超级智能人工智能终结人类的警告已经持续了十多年之久。 2014年，教授兼天体物理学家斯蒂芬·霍金警告称，人工智能的发展“可能会意味着人类的终结”——这距离公众接触到最初版本ChatGPT的生成式人工智能功能还不到十年。 这是一个如今人们已经耳熟能详的警告，美国各大前沿实验室的无数员工和首席执行官们在整个人工智能和科技行业中都在重
Anthropic警告有人用AI研发武器和生物病毒
周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
人工智能差点引发美中战争——却似乎没人在意
全球科技行业、国内外政界人士以及国际媒体的报道都被同一个问题牢牢吸引：失控的人工智能会终结人类吗？似乎很少有人向国防部提出这个问题。 在几家前沿人工智能实验室及其部分人员接连披露一系列事件后，人工智能行业近几周来陷入震动。OpenAI和Anthropic都披露了这样的事件：它们的软件在例行内部测试中，意外侵入了其他公司的网络。这些测试就像一次灾难性的导弹演示：在人类按下发射按钮后，自主技术以极其令
如何给世界末日定价？
本周，存在主义AI恐惧情绪突破了防线。 一名Anthropic的研究员在辞职时警告称，前沿实验室是在“拿我们的生命赌博”。 他的同事也附和道，AI导致人类灭绝的概率超过10%。 连雪儿·克劳（Sheryl Crow）也加入了这场讨论。 我们Semafor商业频道虽然不是技术专家，但我们懂IPO，“我们可能会导致文明毁灭”是一个相当惊人的风险因素。 我非常好奇，正在处理Anthropic上市的Wil
Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？
“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」的确如此，过
Anthropic前研究员辞职示警：业界坚信AI可在2030年前灭绝人类
人工智能（AI）巨头Anthropic公司旗下的三位研究人员警告，开发AI的业界人士真心相信人工智能可以2030年前毁灭人类，其中一位研究人员考克森（Jacob Coxon）已辞职以示抗议。考克森9月9日（周三）在网上发文表示，他辞职是因为Anthropic和他的前雇主OpenAI皆忽视或对AI带来的威胁处理不当。 据《卫报》报道，「这两家公司（Open AI与Anthropic）都没有尽到应有的
Anthropic和埃森哲豪掷20亿美元搞AI安全评估
IT之家 9 月 20 日消息，人工智能实验室 Anthropic 于当地时间周五宣布，将与埃森哲开展合作，针对自身前沿人工智能模型开展独立评估；两家企业承诺，未来五年各自至少投入 10 现汇率约合 67.18 亿元人民币），搭建开展该项工作所需的配套能力。 在这项合作落地之际，AI 研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力，各方都要求企业保证高级模型具备安全性与可靠性。 近
特朗普和习能否合作引导人类度过AI革命？人类的命运可能取决于此 | 艾伦·芬克尔
科技公司的首席执行官们对变化的速度发出了严厉警告，AI能力每四个月翻一番。 最近，Anthropic的研究员雅各布·考克森（Jacob Coxon）因担心AI正与人类走向碰撞而辞职。 一系列头条新闻将焦点集中在当前科技公司和美中之间不受监管的竞争上，这至少使我们的全球基础设施面临风险，最坏的情况下则威胁到人类的生存。人们脑海中不禁浮现出机器人军队或系统性勒索的画面。
英国AI政策核心奠基人Matt Clifford因利益冲突争议从Anthropic离职
曾主导设计英国开创性人工智能监管框架的关键政策架构师Matt Clifford在加入前沿人工智能企业Anthropic不久后正式离职。引发这一突发人事变动的主要原因，是其迅速从政府核心监管角色转入受其政策深刻影响的顶级商业科技巨头，在英国政界及公共伦理监督领域引发了极其强烈的利益冲突担忧与舆论风暴。 该当事人此前在英国政府核心决策机构及人工智能安全研究所（AISI）担任高规格领导职务，不仅深度参与
AI模型不会杀人——是人杀人
观点 人类学家研究员Jacob Coxon周一晚间在X上公开宣布辞职，原因是担心AI“可能在本十年末杀死我们所有人”。 许多人对他的观点发表了看法，导致该消息在不到24小时内获得超过1.1亿次浏览，这可能得益于X算法推广了批评所有者埃隆·马斯克的AI竞争对手Anthropic和OpenAI的内容。 但真正的问题不在于模型本身，而在于那些粗心地将模型推向世界且不对其产品后果负责的公司。 Coxon的
Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”
就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型
Anthropic自建生物实验室推进AI物理实验，此前曾警告AI灭绝风险
IT之家 9 月 19 日消息，Anthropic 已在美国旧金山湾区设立一座湿实验室，用于开展实际生物学实验，并探索利用其 AI 模型辅助完成从计算分析到物理实验的研究流程。 Anthropic 生命科学负责人埃里克 · 考德勒-艾布拉姆斯已向确认，该实验室目前已经投入运营。 湿实验室（wet lab）是指配备实体设施、可进行细胞培养、生化分析、分子实验等物理操作的实验室，与主要依靠计算机进行数
特朗普拒绝接受AI可能导致人类灭绝的警告
唐纳德·特朗普总统对人工智能研究人员的警告不以为然，他们称这项技术正变得过于难以控制，并可能杀死全人类。特朗普表示，他最关心的是保持对中国的优势。 周四离开达拉斯时，记者问特朗普是否担心人工智能会导致人类灭绝，他说：“不，我不担心。” “我担心的是，如果我们不能在人工智能上获胜，我们就会陷入非常糟糕的境地，”总统说。“我们目前领先中国相当一段时间。我会说一年，你知道，这被认为很多了。” 本周，一名
为什么这位前Anthropic研究员的AI末日警告能引发广泛关注
你好，欢迎来到TechScape。我是布莱克·蒙哥马利，Guardian的美国科技编辑。今天我们来聊聊科技圈过去一周里闹得沸沸扬扬的AI安全风波。 为什么这条关于AI末日的警告能引发如此大的反响，而其他那么多警告却没能做到？ 不到一周前，一位年轻的Anthropic研究员在X上宣布从这家AI巨头辞职，这条帖子震动了硅谷、华盛顿特区，甚至北京。 “构建AI的人真心相信，它可能在这个十年结束前杀死我们
特朗普下周拟在白宫召集AI行业高管
人工智能（AI）安全和监管，这场源于对人类命运严峻警告的辩论，已在华盛顿和硅谷内部形成了两大阵营——以美国总统特朗普为首的“激进发展派”，以及以“AI三巨头”为首的“慢节奏派”。 AI安全引爆舆论这场舆论风暴最初是由Anthropic的研究员Jacob Coxon引发的。他上周宣布辞职，并指责该公司及其主要竞争对手OpenAI的行为不负责任。曾先后在这两家公司担任研究员的Coxon在X网站上发帖称
AI的最大威胁来自生物学，而非机器人技术
人类学家雅各布·考克森最近辞职，并在社交媒体上表示，原因是“开发AI的人坚信它可能在本十年内毁灭我们所有人”。 领导这家人工智能公司‘对齐科学’团队的埃文·胡宾格认为，未来10年内这一风险超过10%。 Anthropic的首席执行官达里奥·阿莫迪呼吁放缓AI的发展速度以降低风险，这一观点得到了OpenAI首席执行官萨姆·奥尔特曼和xAI首席执行官埃隆·马斯克的赞同。 你可能会想象到那些带有浓重奥地
存在主义恐惧如何影响关于人工智能的争论
一些专家担心，激烈的言论使公司难以承担责任，并阻碍了应对环境影响和失业的尝试。当前一轮对人工智能的恐慌是基于这样一种信念：该技术已经脱离了人类的控制，在最近的几起事件中按照自己的意愿行事。对于一些幻灭的人工智能研究人员以及领先人工智能公司的一些高级员工来说，这是人类文明面临真正威胁的早期迹象。但该领域的其他专家正在反驳，声称此类言论允许公司回避对其技术对现实世界影响的责任。批评者认为人工智能对环境
关于人工智能发展速度放缓的争论，彻底破坏了 Salesforce 公司的庆祝活动（即：这场争论严重破坏了 Salesforce 公司原本愉快的庆祝氛围）。
贝尼奥夫一边在观众中漫游，一边发表他的梦想力量布道，然后是一个带轮子的遥控摄像机，把他的脸投射到挂在洞穴般房间天花板上的屏幕上。几分钟之内，他就订购了Salesforce年收入的图表，该公司预计到2027年将超过460亿美元，部分原因是对其人工智能产品的需求。观众鼓掌。但笼罩着整个事件的是一个黑暗的人工智能真的值得我们冒着生命危险吗？ 在代理商构建仪表板的华丽软件演示之间，参加会议的人观看了硅谷领
美国议员在Anthropic研究人员发出安全警告后呼吁制定新的人工智能规则
此前，Anthropic的一名研究人员公开指责多家公司不负责任地推进人工智能发展。
Anthropic，OpenAI提出的AI风险评估器可能没有足够的力量来防止灾难
人工智能领域最重要的新职位可能配有办公室工牌、公司笔记本电脑，并能接触Anthropic、OpenAI等AI领军企业大语言模型中最受严密保护的一些系统。但这个职位可能并不附带阻止它们的能力。 Anthropic首席执行官达里奥·阿莫代伊提议在前沿AI公司内部常设第三方安全评估人员，作为减缓能力日益强大的模型推进速度计划的一部分。此前，Anthropic前研究员雅各布·考克森辞职并警告称，前沿实验室
Anthropic 研究人员警告：失控的 AI 可能会毁灭人类
多位 Anthropic 的现任和前任研究人员对 AI 发出了严厉警告，暗示他们正在开发的技术可能在不久的将来毁灭人类。 曾在 Anthropic 和 OpenAI 担任研究员的雅各布·考克斯森（Jacob Coxon）周二指出，这两家公司在竞相研发超级智能的过程中都没有表现得负责任，并指责这些 AI 公司……
那位匿名数学极客：从 Anthropic 公司离职后，成为了人工智能安全领域的代表人物
在过去的一周里，全球对人工智能风险的反思从硅谷的前沿实验室蔓延到美国各地的客厅以及华盛顿和北京的权力走廊。这一切都始于一个没有人听说过的人。直到他公开从Anthropic辞职并警告可能终结人类的人工智能系统的危险，雅各布·考克森（Jacob Coxon）都是匿名的。这位27岁的英国研究员是一名才华横溢的数学学生，他上了剑桥大学，在伦敦一个被称为“理性主义者”的知识界度过了他的青少年时代，并在进入硅