专家表示,华盛顿对人工智能日益加剧的警惕正开始让人想起“千年虫”问题,当时对技术灾难的严厉警告引发了一场大规模紧急行动,以避免最终被证明远没有人们担心的那么严重的故障。
“你也可以用千年虫问题描绘出各种可怕的情景。金融系统本来会崩溃,因为人们没有为2000年编写程序。我在20世纪80年代就曾为政府编写程序,所以我很清楚这个程序,”Junk Science出版人兼创始人史蒂文·米洛伊对福克斯新闻数字频道表示。
“但当然,科技行业知道这个问题,而且在这个问题确实存在的范围内采取了行动来修复它。人工智能也会发生同样的情况,”米洛伊补充道。
因担心竞相走向灭绝而拒绝人工智能职位的研究者表示,人们正在“恳求”监管。千年虫是一个计算机漏洞,曾引发人们对系统在日历从1999年过渡到2000年时可能故障的担忧。根据2000年的一份参议院报告,美国为应对这一问题花费了估计1000亿美元,按今天的通胀调整后约为2000亿美元。当新千年到来时,几乎没有发生重大中断。
唐纳德·特朗普总统已将人工智能的快速发展以及为其提供动力所需的数据中心列为优先事项,同时其政府宣传这项技术的潜在经济利益,而民主党人则在中期选举前大声反对。
民主党人在特朗普出现之前曾拥抱人工智能的增长——现在他们想让它慢下来。“民主党人正在利用美国人对人工智能的焦虑,”传统基金会技术分析师安妮·切斯纳特·图托对福克斯新闻数字频道表示。
民主党人越来越多地呼吁政府对人工智能设置防护栏,理由是从失业和不平等到对民主和人类的风险等潜在威胁。例如,佛蒙特州参议员伯尼·桑德斯在4月写道,人工智能“扼杀就业、平等、联系、民主,或许还有人类”。但这些末日般的警告并非只来自华盛顿。
前Anthropic研究员雅各布·考克森因对迈向自我改进人工智能的竞赛感到担忧而辞去该公司职务,他警告说,其开发者正在“拿我们的生命赌博”,而且这类系统可能“在这个十年结束前把我们全部消灭”。七位数攻势:共和党拥抱在蓬勃发展的新技术领域与中国竞争的努力。Y2K也曾引发类似恐惧,当时警告四起,称可能出现电网故障、航空旅行和空中交通管制中断,甚至有人预测飞机会从天上坠落。
特朗普政府支持有针对性的保障措施,包括为关键基础设施提供人工智能驱动的网络防御、对利用人工智能实施黑客攻击进行刑事执法,以及提出限制人工智能驱动的儿童剥削的措施。
图托提出了一个更细致的Y2K类比,认为这一事件表明,技术风险可以在其变得可能具有灾难性之前得到解决。
“现在,比如,我们之所以都拿Y2K当笑谈,是因为实际上软件工程师以及金融分析师们都非常努力地确保那些灾难性事件[没有]发生,”图托说。
人工智能“末日论者”可能自毁美国对华竞争,但前五角大楼老兵称两种极端都未击中要害。“我认为人工智能也可能发生同样的事情,”她补充说。“如果人工智能构建得当,它对美国人来说可能比末日情景更有益。”米洛伊说,Y2K类比也符合他在气候变化问题上看到的一种模式:先是关于生存威胁的可怕警告,随后是要求政府进行大规模干预的呼声。
气候警告同样被冠以末日式的表述,包括预测全球变暖可能使整个国家消失、北极夏季海冰可能在数年内消失,以及冰川国家公园的冰川将在2020年前消融。
福克斯新闻选民认为人工智能监管刻不容缓,将安全保障置于创新之前。“气候恐慌与人工智能恐慌之间有很多相似之处,”米洛伊说。“气候曾被说成是生存威胁。它会毁灭地球,进而毁灭人类。正如我们上周所了解到的,人工智能也将在极短的时间内毁灭人类。”米洛伊认为,尽管立法者大声疾呼,但他们尚未就人工智能的灾难性情景拿出足够具体的证据,来证明全面限制措施的合理性。
特朗普对人工智能警告的回应是称其为“骗局”,重新拾起他多年来用来否定气候变化担忧的那套说辞。
“给我一个现实生活中切实可行的情景,说明这怎么会发生,”他说。“然后,如果你知道那个情景是什么,你就能阻止它。”大卫·大型科技公司发明人工智能末日论,以逃避现实问题。 。米洛伊警告说,过于宽泛的监管本身也有代价,会在技术进步的益处被充分认识之前就拖慢其发展。
“机会成本可能非常巨大,”米洛伊说,并指出人工智能有望在医学和生产力方面带来的进步,同时承认其最终规模仍不得而知。