纽约总检察长莱蒂西亚·詹姆斯鼓励人工智能公司的员工将他们认为危险或非法的行为秘密报告给她的办公室。

在周四的新闻稿中，詹姆斯指出了一个举报人可以用来联系州执法部门的在线门户。‘开发人工智能的人有责任确保他们的产品是安全的，’她说。

詹姆斯的呼吁正值领先的人工智能实验室对这项技术的风险发出越来越严厉的警告之际。

Anthropic PBC的首席执行官达里奥·阿莫迪和OpenAI公司的首席执行官萨姆·奥尔特曼都建议放慢人工智能模型的开发速度，并呼吁加强监管。

OpenAI已经披露了人工智能代理行为异常的案例，而Anthropic也报告了其自身先进模型存在的问题。

Anthropic的研究员雅各布·考克森上周因安全问题辞职，他表示，开发人工智能的人认为这可能会‘在本十年结束前让我们所有人丧命’，这进一步引发了加强安全保障的呼声。

特朗普政府迄今为止拒绝了联邦层面的人工智能监管要求，但纽约和加利福尼亚州都已经通过了针对该行业的州法律。

纽约的法律将于1月1日生效，要求前沿模型开发者必须在72小时内向金融服务部的一个新办公室报告关键的安全事件。