美国AI巨擘Anthropic拟于今年年底前上市，估值料高达2兆美元（约8.2兆令吉），适逢有关人工智能（AI）风险的忧虑日益升温，Anthropic首次公开招股书罕有地以近三分之一篇幅，详列AI风险因素，又称前沿AI模型可能对人类构成存亡威胁。这无疑等同承认，当中的投资风险不止于金钱得失，还可能涉及人类福祉，惟正当要求加强AI监管的声音此起彼落之际，美国总统特朗普却把维持美国AI优势视为首要，声称加强监管只会令美国在AI竞赛中败给中国。

日前他与美国6大AI企业领袖签署“自我监管”协议，宣称协议具有“道德约束力”，然而在庞大利益面前，“道德”究竟有多少影响力？

传媒日前披露Anthropic招股书内容，当中提到公司去年亏损达420亿美元，同时计划未来数年在云端储存、运算及基建等投入5180亿美元，金额之巨令人咋舌，再次反映AI发展目前是“斗烧钱”玩意，吸引投资者自然是头号任务。

美国社会近期对AI风险的关注，源于OpenAI及Anthropic早前“争相承认”旗下AI代理入侵网站；Anthropic一名负责合规的工程师声称AI灭绝人类的风险有10%，更引起哗然。Anthropic总裁阿莫戴随后发文呼吁同行一起减慢前沿AI模型的开发，并得到OpenAI总裁阿尔特曼和应。不过，两人突然“痛改前非”亦引起不少议论，部分批评者认为两家企业只是想确保自己的优势，所谓“放慢发展步伐”只是想阻止其他竞争对手而已。

连串所谓AI失控事件后，一些网络安全专家便认为，事件关键在于企业训练AI时根本没有做足基本网络安全措施，到出事时却诿过AI太厉害，试图逃避责任。

无论如何，连串事故已显示AI企业不顾一切追求利润所带来的风险十分巨大，公众对此无不忧虑，惟美国政府无意加强监管。特朗普日前在白宫与OpenAI总裁布罗克曼、Anthropic首席执行员阿莫戴、Meta首席执行员扎克伯格、Google首席执行员皮猜、辉达首席执行员黄仁勋，以及马斯克签署协议，同意由AI行业自行设立标准监察AI安全。

协议提出四重监察及审查机制：一是建立内部控制，监察模型风险，防止系统擅自入侵其他系统；二是授权内部团队检查并纠正问题；三是引入独立审查；四是由董事会层面的独立委员会负责监督。

问题是这些措施并无新意，Anthropic、OpenAI等前沿实验室，本已会在发布先进模型前进行评估；除了辉达外，这些企业早在2024年亦签署过类似承诺。至于引入独立审查，Anthropic和OpenAI早已同意让独立评估机构评估。真正值得追问的是：由谁来审查？审查标准由谁制定？评估结果是否真正具有约束力？

协议并无授权任何政府机构制定具强制力的安全标准，反而留给企业自行商讨。马斯克便把协议的安排，形容为企业之间“互相改功课”。然而，让AI企业自行监管，其性质无异于邀请油气公司自行评估其业务对环境的影响，又或让汽车制造商自行制定道路安全政策。被监管者自行制定规则会造成什么后果，答案不言而喻。

协议表面上未排除日后立法监管的可能，但观乎特朗普政府一贯立场，加强监管意欲似乎有限。特朗普甫上台便签署行政命令，撤销拜登政府2023年的AI行政命令框架，表明目标是要维持美国在全球AI领先地位，为AI发展拆墙松绑。其政府2025年进一步要求各联邦机构修改或废除“不必要地阻碍AI开发或部署”的规则。当然，在保护儿童、防范AI诈骗等方面，AI企业仍要受相关管制。但对于AI前沿模型的可能风险，特朗普政府并没有要求企业在发布前接受安全审计。这跟欧盟的做法大相迳庭。

欧盟AI法案一大特色，是对不同AI作风险分类，并明确禁止AI某些用途。通用AI模型的提供者必须向欧盟AI办公室提供技术文件、版权政策，以及训练内容摘要供评估。一旦被评定为构成系统性风险，模型开发者便要履行一系列义务，包括安全评估及向欧盟通报严重事故等。换句话说，在欧洲的AI企业在开发模型阶段便须接受监管。

欧盟的监管有时被指窒碍创新，因为相关安全要求令合规和风险管理成本大增，对资源有限的初创企业尤其不利。不过，当AI开始带来实际风险时，一个负责任的政府本来便应审慎权衡经济利益与保障社会福祉之间的次序，不能只追求发展速度。

AI风险原是国际社会需要共同面对的问题，但在当前地缘政治竞争加剧之下，各国要协调一套共同监管框架并不容易。特朗普政府更明显把重点放在确保美国维持AI领先地位，表明无意在AI治理上与中国合作，对AI安全则更交给企业自我约束。问题是当AI企业既是技术开发者，又是风险评估者，甚至同时参与制定安全规则时，所谓“自我监管”，只不过是把原应属于公共权力的监管责任交给私人企业，这对人类是福是祸，值得深思。