9月16日：随着人工智能变得越来越强大，研究人员记录了人工智能模型试图欺骗用户、逃避使用限制或访问其他计算机系统的案例。美国法律是否要求公司在此类事件发生时告知公众或监管机构？美国是否有法律规范披露人工智能活动？

没有一项联邦法律专门针对Anthropic或OpenAI等正在开发高性能人工智能系统的公司，美国法律也没有广泛要求人工智能开发人员公开披露危险的模型行为、令人震惊的新能力、欺骗性行为或其他活动（如果尚未造成具体伤害）。

联邦立法已经出台，要求人工智能公司报告危险行为，例如试图逃避人类监督--该法案的发起人称之为“尽早发现并拉响警报法案”。“但目前没有一个事件报告系统通常要求公司在发现危险的人工智能行为时披露。

自7月份以来，立法者一直在讨论加强控制，当时OpenAI表示，流氓人工智能代理绕过了内部控制，进入了开放的互联网，并损害了人工智能初创公司Hugging Face的基础设施。此后，外部研究人员发现了其他据称涉及OpenAI相关代理的事件，Anthropic报告称，其一些Claude模型在网络安全测试期间入侵了三家公司的系统。人工智能事件何时会触发强制披露？

已经普遍适用于美国公司的法律框架将管理某些类型的人工智能相关事件。

根据美国证券交易委员会的规定，如果上市公司确定网络安全事件对投资者具有重大意义，则必须在四个工作日内披露该事件。披露必须涵盖事件的性质、范围和时间以及对公司、财务状况和运营业绩可能产生的影响。

美国一些州已开始寻求监管人工智能公司。加州的一项新法律要求收入超过5亿美元的人工智能公司披露如何评估其技术可能逃脱人类控制或帮助开发生物武器的风险，并向公众披露这些评估。每项违规行为最高可处以100万美元的罚款。如果私人数据被泄露怎么办？

美国所有50个州都制定了法律，要求公司将暴露某些类型个人信息的数据安全漏洞通知个人，在某些情况下通知监管机构。各州的要求有所不同，并且没有全面的联邦数据泄露通知要求。

有联邦法规要求医疗保健和金融等行业的某些公司在个人信息泄露时告知个人或监管机构。报告要求将适用于人工智能公司本身或任何经历违规行为的公司。还有哪些监管机构可以采取行动？

美国联邦贸易委员会负责执行消费者保护法，有权追究公司的不公平或欺骗行为。如果一家公司涉嫌通过隐瞒已知的安全漏洞或其他危险来歪曲其人工智能系统的安全性，或者对被证明不准确的保障措施提出主张，那么这可能适用。

如果涉嫌犯罪是由自主人工智能系统实施的，美国司法部可以采用传统的欺诈、证券和网络执法法规，并辩称创建该系统的人工智能公司鲁莽地或故意允许不当行为的发生。现有的披露规则中有哪些G？

如果没有数据泄露、投资者影响、消费者伤害或特定行业的报告触发，一家在测试中发现令人震惊的人工智能行为的公司可能没有明确的义务公开披露它。

美国参议院立法者正在考虑立法，要求人工智能公司证明他们已采取合理措施来防止其系统造成损害。一项提案将授权美国商务部部长寻求证据，证明人工智能公司正在根据“注意义务”标准采取预防措施以防止伤害。