字号 ·· | 护眼
彭博社

这真的是人工智能的末日,还是仅仅是“认知投降”?

在这一期节目中,我们深入探讨了本周出现的各种关于人工智能可能带来灾难性后果的警告,以及如何保护学生的大脑免受聊天机器人带来的负面影响(即聊天机器人可能对学生的认知能力造成的损害)。

过去几周里,多位科技行业的高管纷纷公开警告人工智能所带来的风险。Anthropic公司的首席执行官达里奥·阿莫迪(Dario Amodei)一直在加紧研发更加“类人”的聊天机器人,为公司的上市做准备;他在一篇文章中提出,如果人工智能技术发展过快,整个行业可能会面临毁灭人类的风险(据称,Anthropic公司内部有人认为这种可能性约为10%)。OpenAI的首席执行官萨姆·阿尔特曼(Sam Altman)也支持放缓人工智能发展的速度,而SpaceX的埃隆·马斯克(Elon Musk)同样表达了类似的观点,并描绘了一个令人担忧的情景:“如果人工智能能够控制军事系统,甚至发射核武器,那将是一场灾难。”

批评者指出,这些警告在很大程度上是出于某些企业的自身利益考虑——它们试图让人们关注那些更为紧迫的问题,比如由人工智能引发的诈骗行为、人工智能产生的大量低质量信息,以及大学生对聊天机器人的过度依赖(这种依赖可能导致学生的认知能力下降)。本周,记者沃希尼·瓦拉(Vauhini Vara)将参与我们的讨论,她介绍了一款名为Pangram的软件,这款软件旨在帮助人们区分人工智能生成的信息与真实信息。在最近一期节目中,瓦拉对Pangram公司进行了专题报道;该公司的创始人认为,未来人们将需要借助专门的检测工具来识别人工智能生成的文本,就像我们现在使用垃圾邮件过滤器来过滤垃圾邮件一样。不过Pangram公司也存在争议:一方面,它确实提供了一种利用人工智能技术来解决人工智能相关问题的方法;另一方面,批评者也警告说这种检测工具可能会出现误判(即将正常内容误判为人工智能生成的信息)。

但瓦拉发现,Pangram似乎提供了令人印象深刻的可靠性——或者至少具有较低的误报率。她还表示,Pangram与其试图检测的大型语言模型在某种程度上有所不同,因为Pangram自身的模型规模较小,且其创始人已为其扫描的内容获得了授权(相比之下,主要聊天机器人运营商最初并未支付授权费,就摄取了大量受版权保护的文本和视频)。Pangram在社交媒体上颇受欢迎,人们用它来让那些可能进行了一些“认知卸载”的写作者感到羞愧,但它在大学教授中尤其流行,他们将其作为执行“禁止使用AI写作”政策的起点。

本周,我们还与记者兰德尔·威廉姆斯一起探讨了私人资本突然涌入体育界可能引发的粉丝反弹。只要职业橄榄球和其他主要体育赛事继续维持高收视率,且特许经营权价值持续飙升,投资者就会寻找体育投资。不过,在NBA对联盟最富有老板涉嫌操纵薪资帽的反应中,以及向与库什纳家族有关联的实体出售世界杯部分权益的计划迅速夭折一事中,已显现出粉丝抵制的迹象。

最后,我们讨论了凯文·沃什决定像一位传统的联邦储备委员会主席那样行事,顶住唐纳德·特朗普的压力;以及《郊狼对ACME》,这是一个“大卫与歌利亚”故事中嵌套的另一个“大卫与歌利亚”故事,也许也是契合当前政治时刻的完美电影。