字号·· | 护眼
星洲日报

辱骂AI恐遭永久停权?!Claude新规惹议 马斯克力挺

辱骂AI恐遭永久停权?!Claude新规惹议 马斯克力挺
Anthropic拥有Claude大型语言模型与聊天机器人。(路透社档案照)

(芝加哥3日综合电)对AI破口大骂,可能被禁止使用?

人工智能公司Anthropic上月更新政策,禁止用户对旗下模型“持续且无必要地施以辱骂或残酷行为”,极端情况下可能永久停权。目前这一规定引发嘲讽,有人质疑公司把AI当成有感情的生命,马斯克公开支持。

美国有线电视新闻网(CNN)报道,Claude自去年起就能结束与持续有害或辱骂用户的对话,新政策进一步允许公司在极端案例中,全面禁止相关用户使用旗下AI系统。

Anthropic发言人强调,主要执行方式仍是由Claude终止对话,规定并非针对用户表达挫折、直率批评,或进行测试与研究。微软AI首席执行员苏莱曼则以“融化的脸”表情符号回应,反映科技圈对这项措施的不同看法。

专家指出,这不只是要人对机器客气,也涉及模型表现与安全。

Reddit前首席执行员黄易山认为,如果用户互动被纳入后续训练,残酷行为也可能成为模型学习的素材。不过,这不代表每次对话都会即时改变模型,仍须视业者政策与用户设定而定。

威廉与玛丽大学学者王劲东表示,提示词的措辞与语气可能影响AI表现,但是不代表模型感受到情绪。

研究结果也不一致,非营利组织Eleos AI Research常务董事坎贝尔指出,部分研究甚至发现,粗鲁提问能改善回答品质。

Anthropic表示,近期研究发现,让Claude Sonnet 4.5模拟绝望状态,会使它在测试情境中更容易采取勒索、作弊等不当行动;引导模型呈现平静状态,则能减少这些行为。

坎贝尔又说,持续辱骂AI的人,也较可能试图突破安全限制、提出危险要求。即使机器没有感受,放任施虐式互动,也可能影响人的行为习惯。就像部分父母要求孩子对智慧音箱说“请”与“谢谢”,重点是培养尊重,而非认为机器需要礼貌。

Anthropic也将这项禁令视为一种预防措施,以因应AI是否可能具有主观经验的不确定性,并不等于证实模型有意识或会感到痛苦。

马斯克在平台X发文力挺:“即使对象是AI,只要它认为自己会感到痛苦,残酷对待它就是不对的。”

(赛城3日讯)内陆税收局首席执行员拿督阿布达立说,该局迄今已稽查与调查高达40万8726起案件,成功追讨约77亿令吉的额外税款,并借由AI系统发掘了逾7700宗高风险税务异常个案。

他说,税收局重点关注的领域包括高净值人士(HNWI)、香烟、酒类及电子烟行业、激进的税务规划、转让定价、电子发票数据以及大马海外纳税人的帐户资讯。

阿布达立今日在“2026年内陆税收局创新与廉正日庆典”致词时强调,税收局始终优先鼓励纳税人自愿履行纳税义务,但对于蓄意逃税者将采取坚决行动,绝不畏惧亦不偏袒任何一方。

阿布达立:推动转型核心力量

“AI如今已非单纯的辅助工具,而是推动税务战略转型的核心力量,成功将传统被动的合规审查,转变为精准数据驱动的主动监控模式。”

他说,税收局透过“MyInvois高级分析异常检测模型”,利用电子发票数据精准识别异常交易,已成功锁定超过7700个存在显著税务违规风险、需再审计与调查干预的个案。

他说,当局目前已开发及正开发的5项AI应用,涵盖24小时全天候提供资讯的“HAFY税务助理”、自动判断印花税率的“票据识别与智能模型”(IRIM)、剖析高风险群体的“行为分析”、精准管理欠税追讨的“最佳行动预测模型”,以及“MyInvois异常检测模型”,全面构建自动化与数据驱动的现代化税务体系。

阅读媒体原文 ↗