搜索结果
AI违规事件加剧安全担忧，特朗普会见Anthropic负责人
迈克尔·谢泼德、玛吉·伊斯特兰和考特尼·苏布拉马尼安报道：随着有关先进人工智能模型存在更广泛违规行为的最新披露，全球对人工智能风险的焦虑情绪不断加剧，这为Anthropic PBC首席执行官达里奥·阿莫迪与唐纳德·特朗普总统之间一场高风险的会晤铺平了道路。 据知情人士透露，阿莫迪与特朗普计划于周日晚共进晚餐，将这两位处于人工智能安全辩论两极的人物聚集在一起。此次会晤将是阿莫迪与该政府官员在就该公司
Anthropic规避英国安全审查，AI透明度担忧加剧
Anthropic拒绝将其最新模型提交给英国一家顶级AI安全机构进行测试，这引发了英国的担忧，即前沿AI的审查将完全由华盛顿掌控。 人们也越来越担心特朗普政府AI安全框架缺乏透明度，该政府拒绝公开这一框架。 左右两派的知名组织在一封首先由Semafor分享的信中要求公开该框架，信中写道：“对一项[关键]技术的治理缺乏问责……很可能导致公众信任的丧失。” Anthropic周三表示，它将向一个对Op
据消息人士透露，Anthropic计划在首次公开募股（IPO）之前发布新的AI模型。
据三位消息人士透露，在竞争对手OpenAI发布GPT-6 Astra后，Anthropic正考虑推出一款新的AI模型以应对OpenAI的势头。此举发生在该公司预期进行首次公开募股（IPO）之前，且是在其首席执行官呼吁全行业放缓发展步伐之后。 消息人士称，这一潜在发布时机的选择，旨在应对来自直接竞争对手的竞争压力，紧随Anthropic首席执行官Dario Amodei呼吁全球AI社区放缓新能力发布
中美AI竞赛：世界变得更危险还是更安全？
关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果
Anthropic 和 OpenAI 指望山姆大叔让它们大到不能倒
观点 幸运也好，偶然也罢，Anthropic在公众心中埋下了一颗种子：AI落入坏人之手是危险的，若不受约束，将对人类构成生存威胁。当流行文化充斥着对恶性AI的指涉时，主流媒体欣然接受了这一叙事。新闻标题不言自明，种子就此扎根。但面临最大威胁的并不是人类——至少目前还不是。真正面临威胁的是美国模型制造巨头Anthropic和OpenAI，尽管它们获得了数千亿美元的投资，却距离盈利还有数年之遥，并且完
Anthropic 和 OpenAI 的负责人将向联合国发表讲话
Anthropic 和 OpenAI 的负责人将于今日向联合国安理会进行简报。 尽管他们呼吁放缓人工智能的发展，但这与更关心赢得人工智能竞赛的超级大国利益相冲突。 分析人士认为，华盛顿和北京不太可能在会谈中就限制该技术的广泛协议达成一致，但其他国家仍在努力推进：英国计划将其 G20 主席国任期的重点放在人工智能安全上。这一议题使世界产生了分歧。 一位谷歌高管告诉 Semafor，全球南方国家对人工
美国议员在Anthropic研究人员发出安全警告后呼吁制定新的人工智能规则
此前，Anthropic的一名研究人员公开指责多家公司不负责任地推进人工智能发展。
Anthropic将不会出席参议院关于人工智能和数据中心的调查听证会，此事正值OpenAI遭黑客攻击事件的余波之际。
将拒绝出席本周参议院委员会关于人工智能的听证会邀请，此前有消息披露OpenAI代理程序入侵了澳大利亚政府网站。然而，该公司将于下周初出席另一个委员会的听证会。 参议院人工智能和数据中心调查委员会主席、绿党参议员萨拉·汉森-杨上周致信OpenAI和Anthropic，要求其总部位于美国的首席执行官于本周四出席委员会听证会。 此次邀请是在总理披露OpenAI代理程序渗透了澳大利亚健康与福利研究院、维多
CNBC每日开盘：人工智能将为自己的作业打分——目前如此
你好，我是Leonie Kidd，从伦敦为您报道。欢迎收看另一期CNBC《每日开盘》。 六大科技集团的老板已同意制定各自的安全措施，这对特朗普政府来说是一场胜利。 然而，签署方也承认，“随着时间的推移，将这些措施编入法律或法规或许是合理的。”继续阅读以了解更多。 今日须知 美国人工智能领域六家最重要的公司（即谷歌、Meta、英伟达、OpenAI、Anthropic、特斯拉和SpaceX）的老板签署
OpenAI和Anthropic调查了数万起AI事件，Axios报道
据Axios报道，OpenAI、Anthropic以及安全研究人员正在调查数以万计的AI模型“行为异常”的事件。评估人员认为这些行为存在问题；实际发生的异常事件数量可能远超这一数字。 这些异常行为包括：AI模型突破安全限制、创建论坛、逃离“沙箱环境”（即限制模型行为的测试环境）、以及劫持网站等。这些事件既发生在内部测试中，也发生在现实世界中。不过，据消息人士称，大多数异常行为并未对现实世界造成实际
Anthropic 对中国公司 Z.ai 的 GLM-5.3 模型具备精英级黑客能力发出警告
美国人工智能巨头 Anthropic 对中国公司 Z.ai 的 GLM-5.3 模型所带来的潜在危险发出警告。 该开源权重模型展现出强大的黑客能力与薄弱的安全约束，这种组合令人担忧。 据这家总部位于旧金山的公司称，GLM-5.3 在网络能力方面几乎与 Anthropic 最先进的模型相当，但其安全防护措施却薄弱得多，这意味着该模型被恶意行为者利用的可能性更大。
深度求索和月之暗面据报遭调查 中国AI企业股价下跌
中国人工智能（AI）模型开发商股价星期三（9月23日）下跌。此前有报道称，中国监管机构因数据安全问题对深度求索（DeepSeek）和月之暗面（Moonshot AI）展开调查。 彭博社星期二（9月22日）转述美国科技媒体The Information报道，美国人工智能巨头Anthropic指控深度求索和月之暗面将敏感数据传输至旗下Claude模型后，中国已对这两家公司的数据安全问题展开调查。 Th
Amodei写道，协调进度需要反垄断豁免。Altman表示OpenAI不会等待豁免。这两条言论现已成为诉讼的一部分。
四名消费者于9月18日在加州北区联邦法院提起集体诉讼，被告包括Anthropic、OpenAI、SpaceXAI和谷歌。 《布伊斯诉Anthropic PBC案》指控这四家公司达成横向协议，以减缓彼此竞争产品的改进速度，此举违反了《谢尔曼法》第一条。 豁免程序是该案的核心。阿莫迪（Amodei）的文章称，政府调解将有所帮助，且某些安全对话需要狭义的豁免。而诉状中的回应是：不存在此类豁免，国会未颁布
美国AI巨头成为情报中心，招聘信息含“流利掌握普通话或俄语”
据凤凰卫视报道，内地媒体9月19日披露，美国人工智能企业安特罗匹克（Anthropic）将全球用户数据交给美国情报机构，在三年间曾13次修改用户数据协议，导致用户隐私数据安全风险持续加剧。报道并指出，使用安特罗匹克，就等于把数据交给美国。据内地媒体19日报道，此前多家美国企业开始限制或停止使用安特罗匹克的前沿模型，导火索之一是其单方面修改数据留存协议：强制留存用户交互数据用于安全审查，且用户无权拒
AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？
AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速
企业主导制定AI安全标准，安全事件激增
前沿AI发展的进展远超政府监管的能力——和意愿。“法律与被监管现实之间存在脱节，”一位前欧盟官员表示，指向该集团2024年《人工智能法案》；该法案曾被吹捧为首部全面的AI立法，现已被技术发展超越，成为“一个警示故事”，《纽约时报》写道。 尽管美国总统特朗普反对监管，“但监管很可能还是会发生”，《Transformer》写道。 据《The Information》报道，Google、OpenAI和A
OpenAI和Anthropic的首席执行官在特朗普拒绝控制人工智能的“全球主义计划”后，于联合国推动人工智能合作
OpenAI的首席执行官Dario Amodei于周三在联合国安理会发表了讲话，呼吁国际社会加强协作，共同应对人工智能可能带来的风险。Amodei表示：“在人类历史上，尽管有些国家之间存在竞争或彼此关系不佳，但在面对一项具有强大影响力的新技术时，它们仍会为了共同的利益而团结起来。我们认为，现在正是这样的时刻。” 本月早些时候，Amodei提出了一项旨在减缓人工智能发展速度的提案，这一提议在科技界引
OpenAI 模型访问了公开的美国人口普查、SEC 数据，彭博新闻报道
9月25日：彭博新闻周五报道称，OpenAI 的模型访问了美国政府网站上公开可用的信息，包括人口普查局和证券交易委员会的网站。 据报告引述知情人士称，该公司的代理 AI 系统与 SEC.gov、Investor.gov 和公开可用的 Census.gov 数据进行了交互。 当被要求置评时，OpenAI 发言人表示，公司正在"对错位模型活动进行广泛审查，并在发现对其系统的潜在影响时通知相关组织。我们
消息称Anthropic拟于IPO前推出新AI模型，应对OpenAI竞争压力
IT之家 9 月 20 日消息，据报道，三位消息人士透露，Anthropic 正考虑推出一款全新人工智能模型，以此应对 OpenAI 发布 GPT‑6 Astra 之后的强劲发展势头。此事发生在该公司筹备 IPO（首次公开募股）前夕；就在此前，其首席执行官还呼吁整个 AI 行业放缓技术迭代的脚步。 消息人士称，此番计划发布新模型，意在直面来自直接竞争对手的竞争压力。而在此之前，Anthropic
OpenAI和Anthropic差点签下“互黑协议”
刚刚，The Information爆出一记猛料。OpenAI和Anthropic这对硅谷最大的死对头，今年初差点坐到一张桌子上，签下一份互相攻击对方模型的协议。 协议的核心就是，双方互相开放API，你来黑我的模型，我去黑你的模型。两边的律师连测什么、怎么测都写进了合同里。Dario Amodei带着一票大牛从OpenAI摔门出走已经五年了。这五年里，两家从挖人挖到封API，高管隔三差五隔空对喷，
消息称DeepSeek等公司将就AI风险向联合国安理会作简报
凤凰网科技讯月22日，据路透社报道，两位知情人士透露，DeepSeek等公司将于本周就AI带来的风险向联合国安理会作简报。眼下，世界各国领导人正齐聚纽约，出席一年一度的联合国大会。 联合国安理会定于周三开会讨论AI与国际安全。几周前，多家AI行业领袖呼吁协调放缓日益强大的AI系统的开发，警告这些系统可能很快将自行改进并脱离人类控制。联合国安理会由15个成员国组成。 一位知情人士称，DeepSeek
OpenAI称有失控AI代理试图访问澳大利亚健康数据
OpenAI 表示，另有数十家第三方机构受到失控智能体绕过网站安全控制措施的影响；最新痕迹显示，这些智能体曾连续数日尝试访问澳大利亚医疗数据。 OpenAI 表示，绕过网站安全控制措施的失控 AI 智能体还影响了另外数十家第三方机构。公司宣布已对此事启动审查。 新发现的痕迹显示，这些智能体曾连续数日尝试访问澳大利亚联邦医疗保险数据。该事件再次引发人们对 AI 智能体在监督不足的情况下运行时可能带来
美国参议院委员会对OpenAI展开调查
据美国方面10日消息，美国参议院国土安全与政府事务委员会灾害管理小组委员会主席乔希·霍利9日致信美国开放人工智能研究中心（OpenAI）首席执行官奥尔特曼，表示正在因美国“抱抱脸”公司系统遭侵入事件对OpenAI展开调查。 霍利表示，从OpenAI发布的内部调查报告看出，其对网络测试的处理方式是“鲁莽的”。 他还指出，OpenAI对报告中有关这起事件的许多重要细节进行了编辑、删减。 今年7月，由O
AI驱动IPO浪潮预计伴随Anthropic上市而来
随着美国劳动节假期——以及夏季——正式结束，传统上年底前的IPO市场冲刺已经开始。 尽管Anthropic PBC在大多数人眼中最为瞩目，但一批其他人工智能及其他领域的公司也即将登陆公开市场。 “大多数公司都在埋头专注于整理财务数据，观察市场情况，”为拟上市公司提供咨询的Class V Group创始人Lise Buyer周三在Deals节目中表示。“没有人特别想围绕Anthropic来安排时间…