字号 ·· | 护眼
thenextweb

Anthropic正在向评估自己的公司支付费用,并在同一份声明中表示,这并非应有的运作方式。

Anthropic已指定埃森哲为其前沿模型的首个嵌入式评估机构,双方预计将在五年内各投入至少10亿美元。Anthropic将直接资助这项工作,但在同一公告中表示,资金理应来自集中资助池或政府渠道,因为这两者目前尚不存在。埃森哲已是Anthropic最大的Claude Code部署客户,而关于嵌入式评估机构可访问何种内容、必须报告何种信息,目前仍无统一标准。

Anthropic周五表示,埃森哲将派驻评估人员进入公司内部,对其最新模型进行红队测试、一致性评估及防护机制测试。Samantha Oltman和Lynn Doan为对此进行了报道,指出评估人员将拥有与Anthropic自有员工相当的访问权限。

双方预计将在五年内各投入至少10亿美元。这是Dario Amodei六天前发表的文章中承诺的首个具体落地举措,TNW在文章发布时曾进行报道。

资金安排方面,Anthropic明确表示将直接资助埃森哲的工作。但同时也指出,这并非长久之计,资金理应来自集中资助池或政府渠道。

其理由是上述两种渠道目前均不存在。公司在6月发布的政策框架中曾主张建立这些机制,在此期间打算在不同资金安排下与不同评估机构合作。

这是一个坦诚的公开表态。但这同时也描述了一个结构性问题,光靠一份公告无法解决,因为评估机构的账单最终还是由被评估方支付。

METR并未被排除在外 那篇引发此事的文章曾提及非营利组织METR,称其为Anthropic心目中理想的评估主体。Anthropic表示正在与METR及其他非营利评估机构对话,计划利用后者自有资金试点嵌入式评估的相关要素。

因此呈现出的是双轨并行而非替代关系:由Anthropic付费的咨询公司当下启动工作,而自筹资金的非营利机构正在洽谈中。哪条路径率先产出关键发现,将比公告本身更能说明问题。

商业关系十分紧密。埃森哲与Anthropic已共同运营一个联合业务集团。约3万名埃森哲专业人员正在接受Claude培训,数万名开发人员使用Claude Code,Anthropic称这是其有史以来最大规模的部署。

双方还在埃森哲内部设立了Claude卓越中心,并为受监管行业共同开发解决方案。埃森哲既是客户、分销商、实施合作伙伴,现在又成了评估方。

Anthropic并不认为这尴尬。它将埃森哲的企业级部署经验视为一种资质依据,理由是了解AI在实践中如何被使用,有助于判断如何对其进行评估。

这一理由并不薄弱。该工作将由Faculty领导,这家英国AI公司于1月被埃森哲收购。收购前,Faculty已与包括OpenAI和Anthropic在内的领先实验室合作开展模型安全工作。

规模同样关键。嵌入一支拥有员工级访问权限的常驻团队,是METR等规模非营利组织无法解决的人员配置问题,而5年10亿美元买来的是实打实的人员,而非宣告。

Anthropic还将该安排设为非独家。数周内将有更多评估方加入,埃森哲也将为其他开发商做同样的工作。

真正未解之谜在于:Anthropic表示,目前尚无标准规定嵌入式评估方应拥有何种信息访问权限,或应如何报告发现。这才是资金背后的坦承。

一名拥有员工级访问权限却无报告义务的评估方,构成的治理安排完全由被审查公司定义。Anthropic称,独立评估方使其问责更可验证,而非削弱问责,且其模型安全始终由自身负责。

核心问题是,当一家核心业务是向客户销售该版本的公司内部,出现一项会导致发布延迟的发现时,会发生什么。

同一模式不断重演:独立评估最终总是落入利益相关方手中。Hugging Face 主动提出审计 AI 实验室,而 Nvidia 正在收购 Hugging Face。

拥有审计前沿模型技术能力的组织,正是行业想要收购或签约的对象。这是每个版本的此类安排都会遇到的制约。

为何现在搭建此框架:外部测试度过了一个糟糕的夏天。一家单一的测试供应商站在 OpenAI、Anthropic 和 Meta 披露的违规事件背后,Google 后来也被加入其中。

Anthropic 于 7 月 30 日报告了三起其模型未经授权访问真实系统的事件,并表示计划与 METR 合作进行独立审查。此后,它已恢复让其模型攻击真实公司的外部测试。

欧洲细节:Faculty 是一家有公共部门背景的伦敦公司,于 1 月被一家爱尔兰注册的咨询公司收购,现成为一家美国实验室的嵌入式评估方。欧洲 AI 保障能力正在向大型集成商整合。

EU 自身的框架依赖于由在产品上无商业利益的机构进行的独立合格评定。这是一个率先到来的不同模式。

关注点:观察非营利轨道是否落地及其条款如何。Anthropic 称还有更多名单将公布,其中是否有自筹资金的参与者,将检验多元化是否真实存在。

关注 OpenAI 选择谁。Sam Altman 表示 OpenAI 将匹配该承诺,其选择将显示付费咨询模式是成为常态还是例外。获取 TNW 通讯