GOV.UK创始人迈克·布拉肯(Mike Bracken)表示,英国正面临一种风险,即用对少数人工智能供应商的深度依赖,取代原本对外国技术供应商的依赖。布拉肯曾创立英国政府数字服务局(GDS),并担任英国首位政府首席数据官。他指出,政府和其他机构在将越来越多的技术依赖堆叠到其运营中时,正逐渐丧失对关键系统的控制权。
“机构很少会在危机中突然丧失主权,它们是在一次次看似合理的决策中逐渐失去主权的,”布拉肯说道,“如今许多组织面临的最大风险并非有人夺走它们的控制权,而是它们在一点点将其拱手让人。每一项技术决策都可能影响未来调整方向的难易程度。”
这一警告发出之际,各国政府正纷纷投入资金发展“主权人工智能”,通常涉及国内计算能力、本土模型或旨在减少对海外供应商依赖的基础设施。布拉肯认为,这忽略了一个更根本的问题。他表示,主权并不一定意味着拥有服务底层的基础设施或技术。真正重要的是,当环境发生变化时,组织是否仍能自主做出决策。
这一点在人工智能领域尤为重要,因为各组织正越来越多地围绕由少数几家科技公司控制的模型和平台来构建服务。一旦这些系统深入到组织的各项基础设施和工作流程中,日后想要更换供应商将变得异常困难。
“机构往往只有在环境迫使它们做出改变时,才会发现自己已经失去了这种灵活性,”布拉肯说。
这个问题不仅限于英国政府部门。随着越来越多的业务被移交给外包平台和人工智能服务,企业、大学、慈善机构及其他组织也面临着同样的问题。
布拉肯在他的新书《数字主权:决定的权力》中阐述了自己的观点,这是一本与他在咨询公司Public Digital(该公司成立于他离开政府之后)的同事们一起合著的作品。与此同时,英国政府正在推进自己的主权人工智能战略,向国内计算基础设施投入资金,并扩大对构建和运行人工智能模型所需的处理能力的访问权限。但布拉肯认为,仅仅将基础设施放在国家边界之内,并不一定能让组织真正掌控其所依赖的技术。更为重要的问题是,它是否保留了改变供应商、技术或战略的能力,而不会发现此前多年的决策使得这一变更变得难以承受。
“这一挑战远远超出了技术领域,”他说,“人工智能、关键基础设施、国家韧性、经济竞争力和国家能力等问题,日益与机构是否保留做出决策并执行决策的能力、或是否被其无法控制的系统、供应商和依赖关系所束缚联系在一起。”
“每个机构都依赖技术。关键是问问你所依赖的技术是拓宽了你的行动自由,还是默默缩窄了它。”对布拉肯来说,如果你仍然被供应商所制约,那么称人工智能为‘主权的’并没有什么实际意义。