字号 ·· | 护眼
thenextweb

“Advanced AI Society”加入Linux基金会,并推出了一个开放的验证生态系统;与此同时,美国国会正在继续讨论与智能代理(agent)安全相关的问题。

纽约,2026年9月17日,TechnologyWire 随着两党立法要求实施可验证的智能体控制措施,高级人工智能协会发布了《控制证明》v1.0草案以供公众评议,并与Linux基金会去中心化信任组织共同举办了“谁在监督机器?”活动。随着两党国会提案要求对智能体进行持续验证和第三方评估,前沿实验室负责人呼吁放缓人工智能能力增长,致力于实现人工智能信任的高级人工智能协会今日宣布加入Linux基金会及LF去中心化信任组织,并启动了一个开放验证生态系统。

为满足企业和公共系统中日益增长的法定要求和安全需求,该联盟已发布《控制证明》v1.0工作草案,公众评议截止日期为2026年10月30日。由LF去中心化信任组织作为实验室托管,这一新标准直接建立在联盟成员企业经过生产环境验证的可验证人工智能技术之上。该标准与来自企业各行业的80多位全球安全领袖组成的联盟共同设计,验证了市场对互操作性工具的需求,这些工具使任何人都能公开验证智能体的执行过程,而无需依赖运营方的陈述。

此次发布旨在应对不断扩大的“可验证性差距”,即自主人工智能智能体的行动速度开始超过人工监督的跟踪能力。基于“验证权不能归属于被验证方”这一核心原则,与智能体无关联的中立第三方,以及智能体的开发者和部署者,必须能够公开验证人工智能智能体的工作。

“开放验证”(Open Verification)代表了将开源原则扩展到智能代理(AI agents)领域的又一重要方向——因为如果你无法对某个系统或组件进行彻底检查,就无法确保其安全性;同样,如果你无法公开验证某些操作或行为,也就无法将其委托给他人处理。通过将这些开放标准纳入 Linux 基金会(Linux Foundation)的中立平台中,该联盟确保了机器的信任机制是透明且可被所有人监督的,而不是依赖于供应商的承诺或自我证明。

“Proof-of-Control 是由我们的成员以及全球 80 多位安全领域的专家共同开发的,它将经过实际应用验证的人工智能技术整合成了一个统一的开放标准,”Advanced AI Society 的联合创始人兼首席执行官 Tricia Wang 如是说。“安全检查和传统审计固然重要,但当人工智能代理需要在毫秒级时间内做出决策时,每年或每季度进行一次审批显然已经不够了。真正的信任需要持续、可被所有人监督的机制。我们将这一技术发布在 Linux 基金会的‘Decentralized Trust’项目中,就是为了防止任何一家公司垄断对人工智能行为的审核权。”

“智能代理的运行日志本身只是一种‘声明’,只有当其他人能够亲自验证这些日志时,它们才具有真正的意义,”Proof-of-Control 项目的联合主席 Ken Huang 解释道。“Proof-of-Control 将‘开放验证’机制固化为了标准操作流程:在代理开始执行任务之前,必须明确其权限范围;在运行过程中,系统会生成证据以证明其行为始终在授权范围内;并且这些证据在整个代理的生命周期内都是可被审计的。”

“要信任人工智能代理,就必须使用那些任何单一供应商都无法控制或篡改的去中心化机制,”Linux 基金会去中心化技术部门总经理、LF Decentralized Trust 项目的执行董事 Daniela Barbossa 强调道。“因此,LF Decentralized Trust 成为了应对当前这一紧迫需求的理想平台。”

“在密码学领域,有一条重要的原则:‘不要轻信,必须进行验证。’自主人工智能也不例外,”LF Decentralized Trust的首席技术官Hart Montgomery博士说道。“当非确定性系统在毫秒级时间内做出决策时,人类的审核手段根本无法跟上其运行速度;只有自动化工具才能胜任这项工作。作为LF Decentralized Trust实验室,我们开发的‘Proof-of-Control’技术借鉴了AnonCreds和Trust Over IP等项目中的验证机制,为开发者提供了公开验证机器权限所需的工具,从而避免依赖那些‘黑箱式’的、难以被审查的系统。”

公开发布活动简介: Advanced AI Society与LF Decentralized Trust将于2026年9月23日(星期三)联合举办一场公开发布活动,主题为“谁在监控这些人工智能系统?——发布‘Proof-of-Control’标准,为自主智能时代奠定信任基础”。活动将邀请联盟领导者、技术开发者、政策专家等人士参与讨论。

背景说明:目前,我们仍然依赖一种存在缺陷的信任模型:系统功能的验证依赖于供应商的声明,而非客观证据。然而,当患者的安全与我们的知识产权受到威胁时,这种模式显然无法满足实际需求。我们迫切需要一种透明、可被审计的机制来确认这些人工智能系统的真实行为。‘Proof-of-Control’技术正是填补这一空白的工具,这也是我加入Advanced AI Society的原因。

与会专家:

Charles Iheagwara:阿斯利康公司(AstraZeneca)全球AI与网络安全负责人,Advanced AI Society的Proof-of-Control项目评审委员会成员

Bruce Schneier:著名密码学家,Advanced AI Society的Proof-of-Control项目评审委员会成员

活动意义:随着人工智能系统变得越来越强大且无处不在,明确它们的归属关系及其被授权执行的操作将变得至关重要。‘Proof-of-Control’技术正是实现这一目标的关键工具。通过为自主人工智能系统引入类似的验证机制,我们可以为“自主智能经济”奠定一个可靠、可被信任的基础,从而让各类机构能够安心地依赖这些系统。

活动亮点:本次发布会将深入探讨如何利用‘Proof-of-Control’技术来提升人工智能系统的透明度与安全性,为未来的智能产业发展提供重要参考。

控制证明提供了人工智能系统承担真正的经济权威所需的机器可验证证据,尤其是在数字网络金融市场中。”

J.克里斯托弗·吉安卡洛(Christopher Giancarlo),美国商品期货交易委员会(CFTC)前主席;高级人工智能协会高级顾问“随着代理人变得越来越有能力、越来越多、速度更快,‘循环中的人’不再能解决这个问题,太通用、太模糊,而且供应商的自我监管也太妥协了。需要记录代理,并且需要打开日志,以验证有关其行为的声明。”

纽约大学人工智能和教育技术副教务长Clay Shirky“Midnight的前提是,你不应该相信任何人的话。控制证明为人工智能代理带来了同样的标准,我们很高兴支持它。”

Bob Blessing-Hartley,Shielded Technologies首席技术官“在Oko Labs,我们正在将区块链构建到互联网结构中,这使得验证可以在网络本身中进行。我在思科工作了数年,使安全性能够得到足够的证明,首先通过网络保证来承保,然后通过区块链实践和控制证明为代理人完成了这一工作。证明网络层的控制力,机器风险就会成为市场可以以代理速度衡量、定价和保险的东西。”

Oko Labs联合创始人兼首席执行官Anoop Nannra“随着人工智能代理开始做出影响人们医疗保健和金钱的决策,‘相信我们’并不是一个足够的安全模型。我们需要开放、持续的方法来证明代理人被授权做什么以及做出了什么医疗保健决策;如何收集和使用数据,以及收取什么费用、何时以及为什么;这就是艾米参与控制验证的原因。”

埃琳·彼得森(Erynn Petersen),Emme首席执行官“当人工智能代理可以转移资金时,机构需要的不仅仅是说服力,他们需要明确的权威和可以检查的证据。

关键原则:

“Solv 支持将‘Proof-of-Control’(控制证明机制)发展为一种开放标准,该标准有助于区分代理被允许执行的操作与实际执行的结果。”

——Patrick Duffy,Solv Labs 的创始人兼首席执行官“当人工智能代理在关键基础设施中运行时,开放式的验证机制就从商业上的可选方案变成了国家安全的必要要求。任何安全团队或审计机构都不应仅凭人工智能代理的自我声明来评估其行为。‘Proof-of-Control’机制提供了必要的开放、可验证的证据,以确保关键国家系统的安全性、透明性以及可问责性。”

——Noah Ringler,美国国土安全部前人工智能政策负责人;Advanced AI Society 高级顾问“在没有开放验证机制的情况下部署自主代理,就如同驾驶一辆没有刹车和飞行记录器的飞机。当代理每秒执行数千次操作时,未经验证的错误不仅会局限于局部,还会迅速累积成系统性危机。我们在 Advanced AI Society 成立了‘开放验证实验室’(Open Verification Lab),为开发者和安全团队提供所需的开放工具、标准及研究资源,以确保自主系统的安全性并始终处于人类的控制之下。”

——Jim Schwoebel,Advanced AI Society 研究总监;Quome 公司首席执行官“为了安全地将实际权力委托给机器,我们需要一种去中心化的加密技术基础设施,这种技术能够证明代理的行为始终在其授权范围内,同时避免个人、政府或企业不得不暴露敏感的私人数据。不受约束的机器执行行为会带来严重的文明风险;但借助开放验证机制,我们便能够安全地应对人类面临的最大挑战。”

LF去中心化信托的住房控制证明为社会提供了开放、防篡改的基础,使人们对人工智能的信任成为可能。”

Michael Casey,高级人工智能协会联合创始人“过去十年我一直在投资数字资产基础,因为我相信开放、去中心化的协议可以为我们提供建立和交换价值的新方法。今天,我看到这些基金会发挥着更广泛的作用。随着自主代理开始在我们的企业和日常生活中采取行动,我们需要一个共享的、可验证的证据,证明他们控制的内容、发生的事情以及哪些行为可以归因于他们。控制证明将去中心化基础设施的工作扩展到了机器代理时代。”

Bettina Warburg,高级人工智能协会联合创始人“公众信任不能建立在闭门审计或精心挑选的批准印章上。当自治代理人做出影响人们生活的现实世界决策时,社区和公共机构不应该相信聘请审计师的话。开放验证确保机器问责制仍然是一种公共产品,而不是一个有围墙的花园。”关于Advanced AI Society Advanced AI Society是一个让信任人工智能成为可能的联盟。Advanced AI Society为AI安全构建开放的验证生态系统,将市场领导者和部署者与保险公司,政策制定者和民间社会联合起来,标准化,部署和扩展可验证的AI。

联系Tricia Wang media@advancedaisociety.org获取由第三方提供的TNW时事通讯。新闻稿并不反映TNW的编辑立场。TNW新闻编辑室和编辑人员没有参与此内容的创建。