字号 ·· | 护眼
星洲日报

诺奖得主雷萨:如果AI不受监管 人类将失去自主权

(奥斯陆15日综合电)诺贝尔和平奖得主玛丽亚雷萨说,人工智能利用社媒劫持人类的注意力,并通过操纵人类对亲密关系的渴望来影响人类的生理机制;如果现在不立法限制人工智能,人类最终将失去自主决定的能力。

报道,拥有菲律宾和美国双重国籍的记者雷萨因记录大型科技公司的权力运作,与另一名得主共同获得2021年诺贝尔和平奖。她是新闻网站《Rappler》的联合创办人兼首席执行员,目前担任联合国人工智能(AI)国际科学小组的联合主席,负责评估AI如何改变全球民众的生活。

她在挪威奥斯陆出席一场有关民主受到威胁的会议期间接受采访时,呼吁民众必须推动AI监管,并向政治人物施压,促使他们制定相关法律。“要求监管并不是言论自由问题,而是公共安全问题。”

“我认为,我们已经到了一个关键阶段,如果这种情况不改变,我们就会越过临界点……如果现在不介入,局势将超出我们的控制。人工智能既不‘人工’,也不‘智能’。它已经存在约70年,而目前已经有三波冲击民众生活的浪潮。”

她将第一阶段描述为社媒平台攫取注意力,导致社会两极分化,并将个体孤立起来;第二阶段是利用亲密关系来‘入侵’我们的生理机制,即聊天机器人的出现;最后一个阶段则涉及自主权本身,这通过具有自主行动能力的AI代理和多智能体AI来实现。“这些前沿模型创造出的机器不仅能模仿人类,还能代表我们采取行动。” 美国总统特朗普和批评人士皆反对监管AI,认为这会导致在AI竞赛中输给中国。不过,雷萨驳斥这种观点,声称这是一种“巧妙的舆论炒作”。

“实际上,中国为当地公民设立的安全保障措施,比硅谷为世界其他地区提供的保障措施还要多。以TikTok为例,中国国内的版本设有年龄限制。”

雷萨认为,要推动改变,第一步就是让科技公司承担责任。“首要一步是让这些公司为它们造成的损害负责。” 她对美国的诉讼行动表示欢迎,这些诉讼促使Meta同意在未来10年内支付高达180亿美元(约728亿令吉),并严格限制青少年使用脸书和Instagram。

她也对欧盟及以澳洲为代表的国家采取的社媒年龄限制措施表示欢迎,并指出这些措施并未解决一个“根本性缺陷”,即社媒同样会让成年人上瘾。

“我们知道这有害,因此应该移除那些令人上瘾的功能。不仅要针对青少年,更要针对我们所有人……在世界各国,遭受政治操纵的不仅仅是年轻人。” 她说,应当建立由公共利益团体主导、不受大型科技公司控制的通信平台,就像建设绿地公园等公共设施那样。她属下的《Rappler》在2023年推出的“Rappler Communities”就是这种尝试。

雷萨又说,Rappler Communities是一款基于开源、安全且去中心化协议构建的应用程序,它使《Rappler》新闻编辑部能够与读者建立联系,也让读者之间能够互动,从而进行“真正的对话”。

《Rappler》后来邀请其他菲律宾媒体加入,目前在将这一模式推广至东南亚的其他媒体机构。

“这是一个人们在数码领域可以感到安全的地方;在这里,人们可以相互交谈,更重要的是,能够倾听彼此,让民主真正发挥作用。”