搜索结果
Anthropic和OpenAI推动安全举措，可能给竞争对手筑起“监管高墙”
顶级人工智能公司近期推动彼此之间以及与美国政府在人工智能保障措施上的协调，这可能会使小型企业更难在利润丰厚的市场中竞争，据初创企业高管和行业观察人士称。 Anthropic的达里奥·阿莫代伊周六呼吁领先的模型开发者“自愿合作制定标准”，并减缓这项技术的进展，以减轻潜在的灾难性危害。他还敦促制定覆盖“甚至那些不愿自愿合作者”的监管规定。尽管这一提议迅速得到行业领袖OpenAI和SpaceXAI的认可
特朗普顾问卢特尼克、迈克尔与Anthropic一名高管会面讨论AI安全
美国前总统特朗普政府的高级官员周二会见了人工智能公司Anthropic PBC的华盛顿最高代表，讨论人工智能安全风险。 据知情人士透露，已成为该公司在华盛顿代言人的Anthropic首席计算官汤姆·布朗（Tom Brown）与五角大楼首席技术官埃米尔·迈克尔（Emil Michael）和商务部长霍华德·拉特尼克（Howard Lutnick）进行了视频会谈。 Anthropic 公司拒绝置评。美国
Anthropic和Salesforce的首席执行官表示，企业需要更多帮助来使用人工智能
Anthropic PBC首席执行官达里奥·阿莫代伊和Salesforce Inc.首席执行官马克·贝尼奥夫表示，企业才刚刚开始利用人工智能工具，需要更多帮助才能为其业务带来最大收益。 阿莫代伊周二在旧金山举行的Salesforce年度Dreamforce大会上与贝尼奥夫同台时表示，人工智能的力量在经济中的渗透率还很低，目前仅发挥了该技术当前价值的5%至10%。 在Salesforce主要服务的大
Anthropic对齐研究负责人称未来十年AI灭绝人类的可能性超过10%
一位Anthropic公司的安全研究员周二表示，人工智能有超过10%的概率可能 “毁灭全人类”。就在此番言论发表的数小时前，该公司另一名员工表示，因担忧人工智能实验室是在 “拿我们的生命做赌注”，他选择离职。 这些言论凸显出人工智能研发核心人士日益增长的担忧，即该技术可能失控并对人类构成威胁，尽管Anthropic和OpenAI仍在持续筹集大量资金，并朝着预期的公开上市迈进。 Anthropic的
Anthropic呼吁放缓AI发展 《环球时报》称是美“科技右翼”的冷战剧本
美国人工智能公司Anthropic首席执行官呼吁放缓人工智能发展，以规避技术失控风险。中国《环球时报》评论，文章暗藏大量针对中国的遏制条款，实质上是一出AI领域的“冷战剧本”。 Anthropic首席执行官阿莫迪星期六（9月12日）在个人博客撰文，呼吁人们必须掌控前沿技术的发展节奏。这一倡议迅速得到特斯拉首席执行官马斯克，OpenAI首席执行官奥尔特曼等人的联合支持。 《环球时报》星期天（9月13
发出末日警告后走红的AI研究员阐述他与Anthropic领导层的分歧
前Anthropic研究员雅各布·考克森在周二的X平台AMA活动中详细阐述了他与这家AI巨头的分歧。“如果竞赛不可避免，你就不应该参与，”考克森写道。考克森表示，Anthropic领导层奉行“后果主义哲学”来解释为何必须参与推动AI研究前沿，这是错误的。考克森特别点名批评了Anthropic对RSI（即递归自我改进）的推动——即AI模型自我提升并构建自身后继者的过程。“他们很大程度上引发了近期对R
Anthropic老板呼吁放缓AI发展，奥尔特曼和马斯克表示赞同
Anthropic首席执行官达里奥·阿莫代伊周六呼吁人工智能公司放缓这项强大技术的发展，因为人们对“超级智能”计算机系统风险的担忧日益加剧。
OpenAI、Anthropic呼吁建立全球AI安全标准 美国政府拒绝新增全球治理框架
OpenAI、Anthropic和Hugging Face的负责人在联合国共同呼吁加强人工智能领域的国际协调，希望各国建立可相互比较的AI能力评估、安全测试和事故报告标准。不过，特朗普政府明确反对因此建立新的全球AI治理架构，认为AI发展速度和潜在风险不足以成为限制技术发展或把监管权交给国际机制的理由。 这场分歧显示，随着前沿AI能力快速提升，美国领先AI企业与特朗普政府在安全风险本身上并非完全对
AI安全争论愈演愈烈，呼吁减速的Anthropic为何仍在扩张算力？
澎湃新闻记者 胡含嫣Anthropic在呼吁放慢前沿人工智能（AI）发展速度的同时，仍在持续扩大AI基础设施布局。当地时间9月16日，据外媒报道，Anthropic已签署其在澳大利亚的首份数据中心租赁协议，将获得一座总规划容量达2.16吉瓦（GW）的数据中心园区。该项目尚需等待澳大利亚外国投资审查委员会批准，预计最快于2027年起投入运营。知情人士称，新的数据中心将主要用于AI推理，即处理用户请求
专家在公开信中指出，Anthropic和OpenAI需要真正独立的安全评估人员
100多名人工智能专家和评估人员正联合起来发出警告：他们将没有必要的资源和保护措施来测试人工智能技术的安全性。由于业内人士对前沿模型潜在危险的担忧，这项技术正面临越来越严格的审查。 组织此次公开信的AI评估员论坛（AI Evaluator Forum）联盟主席康拉德·斯托斯（Conrad Stosz）在一次采访中表示：“我们只是试图真正展示对基本原则的共识，并确保独立监督能够成为广泛管理人工智能风
达里奥·阿莫迪称Anthropic‘无意摧毁任何人’
Anthropic首席执行官达里奥·阿莫迪表示，这家AI初创公司并不打算摧毁传统软件公司。
Anthropic称AI生物实验室取得初步突破 但暂未赋予全自主操作权限
人工智能初创公司Anthropic宣布，其位于旧金山湾区新建的AI物理与生物实验室（Wet Lab）已取得“重大进展”，但在实验操作层面，人类研究员依然掌握着绝对控制权，并未直接让旗下的AI模型Claude进行无监管的自主运行。 据悉，该实验室主要致力于基础生物学研究与实物验证，旨在弥合纯计算机模拟与真实生物实验之间的鸿沟。虽然Anthropic的高管此前曾多次发出警告，强调强大AI模型可能带来极
五角大楼高级官员重申Anthropic黑名单，尽管Lutnick发表评论
周四表示，Anthropic仍被视为“供应链风险”，而一天前商务部长Howard Lutnick称该公司“已回到正确的一边”。为何特朗普政府内部对这家全球领先的人工智能实验室并未完全一致，此前数月双方就军方如何使用其模型展开争斗。 他们的表态：Michael在X上发帖称：“Anthropic在@DeptofWar及国防工业基地中仍被列为供应链风险。感谢您对此事的关注！” 背景：Lutnick在创新
微软在安全担忧后称“人比AI更重要”
微软今天发布了一份37页的“人本主义AI行为准则”，此时人们对AI模型进展的安全担忧日益加剧。Anthropic首席执行官达里奥·阿莫代伊在周末呼吁协调放缓AI发展，此前研究人员最近警告称，AI模型的进展可能超出我们安全部署日益复杂的系统，以及验证和控制AI智能体行为的能力。 微软的AI行为准则明确指出，“人比AI更重要”，并且AI模型没有意识，“不应被设计来模仿意识”。微软还拒绝“追求法律人格，