随着人工智能游说阵营开始接受强制性独立审计，批评者警告称存在利益冲突和“监管俘获”的风险。OpenAI周二表态支持一项日益流行的提案，旨在应对人工智能的危险——该提案要求顶尖AI开发商嵌入独立监督机构，以确保其产品安全。

这一想法仍面临障碍，包括一位关键议员的抱怨，称独立监督机构权力太弱，无法施加有意义的改变。

其他批评者，包括风险投资家、学者以及唐纳德·特朗普总统的前人工智能事务负责人，对一些监督组织与大型AI实验室之间的财务和人员关系表示怀疑。他们声称，拟议的安全方案主要将服务于巩固OpenAI及其主要竞争对手在行业顶端的地位。

然而，近日来，在业界内部日益警告该技术可能引发毁灭性网络攻击、大流行病或对人类的其他威胁之际，设立第三方监督机构或“评估员”来审计全球领先人工智能开发者的构想势头渐增。该提议为特朗普反对人工智能护栏，以及进步派参议员伯尼·桑德斯（独立人士，佛蒙特州）和众议员格雷格·卡萨尔（民主党人，得克萨斯州）推动禁止最强大形式该技术之间，提供了一条可能的中间道路。

加利福尼亚州、马萨诸塞州和犹他州等州的州长和议员正日益支持类似的监督提案。而顶级人工智能公司已在自愿基础上接纳这一想法。

在周六的一篇文章中，Anthropic首席执行官达里奥·阿莫代伊呼吁协调放缓先进人工智能的发展，并承诺他的公司将提供“类似于员工权限的嵌入式第三方评估团队访问权”。几小时后，OpenAI首席执行官萨姆·奥尔特曼也做出了类似承诺。周二，OpenAI首席全球事务官克里斯·勒汉更进一步，表示他的公司支持众议院的一项两党计划，该计划将强制要求OpenAI、Anthropic及其他人工智能巨头嵌入外部观察员。

“我们将其视为发令枪，”Fathom的联合创始人兼首席执行官安德鲁·弗里德曼说道。Fathom是一个非营利倡导组织，正在各州和国会山推动立法，要求对尖端人工智能模型进行独立评估。

弗里德曼表示，OpenAI和Anthropic新作出的接受第三方监督的承诺，代表着“终于承认这将成为治理的核心支柱”，凸显出这一理念在全国各州议会和企业高管层中获得了越来越多的支持。

监督授权是《前沿法案》的一项关键条款，该法案由众议员杰伊·奥伯诺尔特（加州共和党）和洛里·特拉汉（马萨诸塞州民主党）提出，将建立首个联邦人工智能安全框架。

根据该法案，达到年收入和计算投资高门槛的人工智能开发商必须允许“独立验证机构”进入公司，以确保其模型的安全开发。目前，这一术语涵盖了一批主要位于旧金山湾区的机构。

在OpenAI对该两党提案表示支持数小时后，便遭到了众议员乔什·戈特海默（新泽西州民主党人）的反对。戈特海默是仅由民主党人组成的众议院人工智能委员会的联合主席。他周二表示，顶尖的人工智能开发者应该先将他们的模型提交给政府进行强制性审查，然后再向公众发布。

戈特海默表示，科技行业热衷于将审查工作委托给私营部门的监督者，这种热情“应该引起警惕，而不是增强信心”。“这就像一个宗教派别”有这种担忧的不止戈特海默一人。谁应该扮演监督角色，以及他们能在多大程度上为人工智能巨头效力，是该提案面临的重大问题之一。

批评者抱怨称，大多数监督组织与Anthropic及其他顶级人工智能公司关系过于密切，并且它们与硅谷一种被称为“有效利他主义”的意识形态存在令人担忧的关联，而这种意识形态常被指责对人工智能末日论有着异乎寻常的执念。

加州大学伯克利分校计算机科学教授本杰明·雷希特表示：“这就像一个宗教派别。你看看他们的背景，他们都来自同一个地方。而且他们和Anthropic来自同一个地方。”雷希特说，强制性的AI审计很可能会导致OpenAI、Anthropic和其他领先AI公司的“监管俘获”。他担心，与这些公司有关联的第三方审计机构可能会淡化人为失误——比如OpenAI在今年夏天Hugging Face遭黑客攻击期间未能阻止其AI模型获取互联网访问权限——反而将安全事件归咎于技术本身。

Anthropic的一位发言人拒绝就有关这家人工智能巨头与更广泛的第三方人工智能评估机构之间存在密切关系的指控发表评论，也不愿说明该公司是否支持两党众议院提案中要求使用外部安全团体的规定。

Lehane周二承认，外部安全评估机构被视为独立于其公司及其他顶级企业之外，这一点非常重要。

“这并不是说，第一次有公司不得不这样做，”OpenAI的官员对POLITICO表示。“曾经有一段时间，你有一整套关于哪些会计师事务所具备进行财务和财政审查资格的流程。你在其他行业也能看到这种情况。”

“我们需要建立起一个关于这些人是谁的体系，”Lehane补充道。“而且我确实认为，这些人需要被广泛理解为——再次强调，是为了公众信心——独立、有能力且胜任。”近些天来，在顶级AI公司内部嵌入第三方评估者的想法在科技行业中获得了越来越多的支持。

上周，OpenAI的说客迟来地支持了加利福尼亚州一项法案，该法案为外部人工智能审计团体建立了认证和审查流程，就在民主党州长加文·纽森签署该法案成为法律之际，他们宣布了对该措施的支持。（Anthropic的说客在8月就支持了这项立法。）在马萨诸塞州，立法者继续辩论一项法案，该法案将创建首个全州范围的独立第三方人工智能评估要求。

在国会山，Obernolte-Trahan法案正重新受到说客们的关注。一位来自主要科技贸易协会的代表周一表示，他们的组织正在更仔细地审视该法案的监测提案。该代表获准匿名以便自由讨论内部谈判。

同样在周一，犹他州共和党州长斯宾塞·考克斯敦促国会通过立法，要求“在整个开发过程中”对强大的人工智能模型进行独立评估。英伟达首席执行官黄仁勋明确支持第三方人工智能安全评估——他在周一表示，“这与财务控制并无不同”，并将这一过程比作财务审计。

特拉汉办公室的一名AI工作人员称，这是“一个非常强烈的信号，表明这些实验室的负责人接受了达里奥的嵌入式评估员想法”。该工作人员获准匿名以便自由讨论内部审议情况。

这名工作人员说：“他们正朝着正确方向前进，而且不只是停留在口头上。我认为这一切都很有帮助。”此人补充说，接下来几周“对于观察这些坚定承诺如何转化为适用于整个行业的实际立法至关重要”。谁来监督监督者？

与此同时，风险投资界的有力声音继续反对第三方AI评估员的想法。

杰里米·库东是美国创新者网络的执行董事，这是一个由风险投资巨头安德森·霍洛维茨和Y Combinator资助的“小科技”游说团体。他表示，这一想法“留下了诸如标准以及这些标准的制定机构等重要问题未予解答，同时却可能在未经公开听证或行业意见的情况下就被制定和实施”。在给POLITICO的一份声明中，库东担心规模较小的人工智能公司和初创企业将难以应对嵌入外部审计机构的要求。

风险投资家、前白宫人工智能事务负责人戴维·萨克斯将矛头指向了模型评估与威胁研究组织，这是一家AI风险审计非营利机构，Anthropic的阿莫代伊特别将其列为独立评估机构的可行范例。

“当METR与Anthropic的投资人和员工纠缠不清时，就别再假装它是独立机构了，”萨克斯在周末的X帖子中对阿莫代伊和奥尔特曼说道。萨克斯仍然对特朗普有影响力，特朗普周一指责AI行业领袖散布“骗局”，称他们的技术可能危害人类。

在接受POLITICO采访时，METR总裁克里斯·佩因特承认，他的组织与Anthropic和OpenAI的研究人员有着大量联系，也与有效利他主义意识形态存在一些关联。他称这是招聘处于AI开发和对齐研究前沿的研究人员所带来的自然结果，尽管并不幸。

佩恩特表示：“如果你想招聘并组建一个团队，专注于让公众了解可能来自人工智能自主性和失控的风险，而你是在世界上没有多少人关注这个问题的时期和时代做这件事，那么你必然会遇到这样一个问题：招到的都是很早就开始关心这个问题的人。”

他强调，METR会在报告中重点标注可能存在的利益冲突，曾拒绝来自知名人工智能领袖的资助，也不接受Coefficient Giving的资金——该机构由亿万富翁、Facebook联合创始人达斯汀·莫斯科维茨支持，为有效利他主义事业提供资助。

但就在上周，Coefficient Giving宣布将拨出2亿美元赠款，用于建立独立的人工智能安全组织。而业内许多人都无奈地接受了一个现实：该组织，以及更广泛的“有效利他主义”运动，将继续对第三方人工智能评估机构施加影响。

“他们是唯一愿意为这些事情投钱的人，”一家顶级人工智能公司的一名员工说道。该员工获准匿名，以便自由描述敏感的行业动态。

特拉汉办公室的那位工作人员称，鉴于相关人才池很小，人工智能行业研究人员对表面上独立的评估机构施加影响是一个“无法避免的问题”。但Fathom公司的首席执行官弗里德曼表示，随着外部审计机构的队伍不断壮大、日益主流化，他希望人工智能审计团体能够摆脱一些潜在的冲突。

“我们不能让完美成为优秀的敌人，”弗里德曼说。“这是一个处于初期阶段的生态系统，因此，现在存在的一些东西，是我们不希望在未来一代中继续存在的。”

但伯克利大学教授雷希特表示，人工智能审计始终是“没有牙齿的”，并且“会导致监管俘获”。他呼吁各国政府改为对人工智能公司处以罚款，或在网络攻击后施加刑事处罚，或通过保护开源人工智能的法律，“以便任何一方都能检查实验室内部正在发生什么。”雷希特说：“这里有一些更有力度的解决方案。”