随着人工智能使得填写表格和提交投诉变得更加容易,世界各地的公共服务部门发现申请和其他请求数量出现了巨幅增长。
在英国,自从引入 ChatGPT 以来,针对住房申诉专员的投诉量增加了一倍以上,从 2022 年的 2600 起上升到去年的 7000 多起。美国消费者金融保护局(CFPB)在同期内投诉量增长了 5 倍。巴西的司法请愿和德国的议会请愿也出现了类似的大幅增长。
研究员克里斯·施密茨(Chris Schmitz)正在追踪这种增长,将其作为他称之为“代理泛滥(agentic flooding)”的更广泛趋势的一部分。在一篇计划于下个月在 AI 伦理与社会会议上发表的论文中,他研究了 11 个司法管辖区内 84 个潜在泛滥的案例,发现了广泛的证据表明 AI 工具正在改变人们与公共服务互动的方式。
更难的问题是该如何对此作出回应。虽然有些新的呈报显然带有对抗性,但另一些则是合法申请人利用 AI 来提交那些原本会被放弃的索赔。虽然有些人可能会将这些新申请视为 AI 生成的垃圾信息,但施密茨认为这是为 AI 时代重塑社会服务的一个难得的机会。
施密茨研究了从福利申请到官方司法上诉等各种服务,它们都有可以由 AI 助手访问的在线服务(完整数据集托管在此处,以供参考)。出于方法论的原因,施密茨的论文没有直接断言 AI 是导致新申请激增的直接原因。但 84 个案例中的大多数都遵循了相同的基础弧线:在 2022 年之前,提交量大致持平,随着 AI 技术的普及,随后以越来越快的速度上升。至关重要的是,大多数案例的增长并未放缓,这表明它可能在未来几年继续上升。
对施密茨来说,很容易看出人工智能日益增长的技能和可用性将如何推动使用量的增加。
他说:“人们发现这是一件可以做到的事情,而且它的难度正在逐渐降低……以前可能需要搜集大量上下文并非常精准地提示 ChatGPT 3.5,现在可能只需用 Claude 应用粘贴或拍一张信件照片,就能一次性得到相当不错的回复。”
这种数量的跃升类似于去年许多漏洞赏金服务所经历的情况,当时公司发现自己的收件箱被大语言模型生成的低质量报告淹没。这些报告很少包含重大的安全问题,但公司仍有义务在报告到达时进行审查,这给资源带来了巨大的消耗。可以想象,公共服务部门也面临着类似的问题,因为它们需要在预算不变的情况下管理多出五倍的申请人。
但施密茨表示,与漏洞赏金计划充斥着毫无价值的提交内容不同,公共服务的大多数新申请都来自拥有合法诉求的真实人群。
他告诉 TechCrunch:“我们发现绝大多数案例都是有资格申请某项福利的人,在申领该福利。”如果这些人以前没有申领福利,可能是因为申请工作太令人望而生畏——这在政策界被称为行政负担。既然 AI 可以减轻这种负担,这可能是一个以更适应 AI 的方式重塑许多此类服务的机会。
这是一项重大任务,我们大多尚未开始着手,但施密茨认为这是保持乐观的理由。
施密茨说:“让 AI 顺利发展的一个重要部分,是能够详细描述事物美好版本的外观。任何用过 ChatGPT 报税的人都知道,这里有一个美好的版本,那就是你得到了帮助。这可能是一个契机,让我们说:‘我们需要重新思考这个流程外观的几乎所有方面。’”