字号·· | 护眼
星洲日报

红十字会:生死攸关的决策 不应交由算法决定

总部设在瑞士日内瓦的红十字国际委员会,其旗帜在风中飘扬。致命性自主武器系统(LAWS)的未来成为国际社会辩论的焦点,红十字国际委员会(ICRC)一名专家对“杀手机器人”发出警告,指这类武器会将“人类简化为数据”。

各国代表本周齐聚瑞士日内瓦联合国总部出席一场会议,商讨是否应为这类武器制定具有法律约束力的国际规则。

红十字国际委员会武器部门负责人吉塞尔表示,国际社会迫切需要制定相关规则,以免这类难以预测且无法有效管控的武器大规模投入使用。

他接受法新社访问时说:“有关自主武器的讨论,往往与无人机联系在一起。”不过,他强调,“自主化是一种能够整合到任何武器类型的能力,包括导弹或炸弹”。

随着各国军队寻求利用AI提升作战能力,战争形态正经历重大转变。

尽管能够在没有人类干预下自行作出反应的武器并非新概念,但AI的影响及其快速发展,已促使国际社会呼吁加强监管。

吉塞尔指出,自主武器早已存在数十年,例如杀伤人员地雷,以及能够自动侦测威胁并作出反应的军舰导弹防御系统。

他说,当面对高速来袭的导弹时,“士兵虽然会监督系统,但不会逐一批准每次拦截行动”。

他指出,在公海上应对具有明确识别特征的来袭导弹时,这类系统所带来的风险相对有限。“巡飞弹药”带来新风险然而,科技迅速发展也带来了新的风险。

吉塞尔说:“我们尤其关注当前战场上出现的新发展。”他指出,专门设计用来“搜寻目标”的进攻性武器正逐渐出现。

他特别提到所谓的“巡飞弹药”。这类武器能够自行搜索敌方雷达,并俯冲攻击目标,将其摧毁。

他解释,由于这类武器能够自主运作,因此可能出现误击的风险,例如攻击设置在民用基础设施内、同时供平民使用的雷达设施。他警告,这将违反国际人道法。

国际人道法载于《日内瓦公约》,红十字国际委员会被视为其主要守护机构。有关法律要求冲突各方必须区分平民与战斗人员,以及军事目标与民用基础设施。

将人类简化为数据吉塞尔强调,红十字国际委员会的目标并非禁止所有采用某种自动化技术的武器。

该组织呼吁禁止两类自主武器,即所谓的“不可预测自主武器”,以及专门设计或被用于直接攻击人类的自主武器。该组织认为,尤其是后者涉及重大的伦理问题。

吉塞尔说:“这些武器将人类简化为数据,再通过传感器收集,并由算法进行分析。”“最终决定谁生谁死的,就是这套机器处理程序。”

这名专家也指出,战场局势随时可能发生变化,而自主武器未必能够及时作出相应判断。

他举例说,从武器启动到实际开火之间,原本的战斗人员可能已经投降或受伤,因而转变为受到国际法保护的对象。

然而,红十字国际委员会警告,自主武器可能无法察觉这些身份变化,也未必能够作出适当反应。此外,这类武器若落入侵犯人权者手中,也可能造成灾难性后果。

吉塞尔警告:“如果杀伤人员自主武器真的被研发出来,恐怖组织、犯罪集团,以及企图镇压本国人民的国家,肯定会加以利用。” 他也指出,以AI为基础的自主软件,过去多次出现超出开发者原先设定范围的意外行为。

他说:“试想一下,如果这些难以预测的AI代理被整合进武器系统,将会带来多大的风险。”

阅读媒体原文 ↗