联合国科学小组敦促对AI代理实施预防性监管以防止灾难性风险。

联合国独立国际AI科学小组发布了其首份主题简报，警告各国政府在充分了解风险之前限制有能力的AI代理。

该报告于2026年9月21日发布，主张“预防原则”——即科学不确定性不应延缓针对潜在灾难性或不可逆危害的保障措施。

这一评估紧随一系列安全事件之后，包括2026年早些时候OpenAI对Hugging Face的黑客攻击，以及Anthropic、Google和Meta发生的类似事件。

该警告与在纽约举行的联合国大会以及中美之间的高层AI讨论同时发生。