纽森签署行政命令，探索新的人工智能规则，考虑“终止开关”

纽森在新闻稿中表示：“联邦政府在创建任何形式的有意义的人工智能监督或问责机制方面的彻底失败，应该让每个美国人感到震惊，尤其是当人工智能首席执行官们自己都在恳求监管的时候。” 该命令加快了纽森本月签署的两项加州法律的实施，即SB 813和AB 1405，这两项法律规范了外部团体如何评估人工智能程序的安全性。 它还召集专家在两个月内向加州提供建议，说明该州如何加强现有的人工智能安全与安保法律。 他们考

OpenAI正在为AI工具构建“自动关闭”能力，致立法者的信函称

OpenAI、Anthropic 敦促加强网络防御行动，随着 AI 模型不断进步

人工智能公司 OpenAI 和 Anthropic PBC 与另外 100 多家科技和金融服务机构警告称，企业和政府必须做更多准备，以防御和应对由 AI 驱动的黑客攻击。 在周四的一封公开信中，这些 AI 初创公司以及 Alphabet 旗下的谷歌、微软等公司呼吁各组织、政府以及科技和 AI 公司专注于将网络防御作为“当务之急的领导优先事项”，并修复自身软件中现有的弱点。 这封信还要求网络安全公司

纽森签署获Anthropic与OpenAI支持的AI安全法案

OpenAI周三对这些法案表示支持，此前一位前AI研究人员对存在性风险的担忧在网上引发热议，而就在法案签署成为法律之前。

美国防部被曝要求OpenAI提供特别版AI，对军事指令“拒绝率最低”

美国国防部曾要求OpenAI为美军提供一个特别版本的AI技术，使其尽可能少地拒绝军事指令。根据The Intercept通过《信息自由法》诉讼获得的文件，这项定制AI工具需要具备“最低拒绝率”。该诉讼旨在获取有关美国军方与AI公司秘密合作协议的信息。 要求OpenAI提供“最低拒绝率”的条款出现在一份更新后的合同中，版本号为“P00003”。该合同是在去年夏天那份原型开发协议的基础上扩展而来。原协

AI丨美国三大科企据报研究成立AI安全标准机构

人工智能安全等问题引起市场关注，The Information报道，美国三大科技企业Anthropic、OpenAI和谷歌正讨论合作成立一个AI安全标准机构。 随着市场对AI模型网络攻击及可控性问题担忧日益加剧，多间AI科技企业已表示关注安全问题，并拟放慢AI发展步伐。报道指，三大机构早于7月时已开会研究有关成立独立机构的事宜，旨在为AI技术测试和审核创建一个协作框架。 Anthropic行政总裁

加州民主党人：“我们需要与人工智能进行一次安全暂停”

加州民主党众议员乔治·怀特赛德斯（George Whitesides）周一表示，在美国科技行业和国会议员纷纷呼吁对人工智能（AI）进行监管之际，美国需要对AI采取“安全暂停”。怀特赛德斯在接受NewsNation频道布莱克·伯曼（Blake Burman）在“国会山”节目中的采访时说：“我正在阐述我们如何发展AI的愿景。”“我认为，根据我在航空航天行业的经验，在处理事故恢复和事故流程方面，我们需要

OpenAI 想知道人工智能行业放缓是否合法

据知情人士向《连线》杂志透露，OpenAI 近几周已向国会议员寻求明确指导，询问协调整个行业放缓前沿人工智能开发是否合法。 知情人士称，人工智能实验室之间在安全方面的实质性协调可能触犯反垄断法，这给让大型科技巨头参与这项努力带来了重大障碍。 上周末，OpenAI 首席科学家雅库布·帕霍茨基发表博客文章，认为人工智能研究领域的最佳前进道路包括“协调以减缓未来发展”，他认为这对于确保自我改进的人工智能

顶尖人工智能公司正在寻求监管。以下是国会可能不会给予的原因。

随着人工智能游说阵营开始接受强制性独立审计，批评者警告称存在利益冲突和“监管俘获”的风险。OpenAI周二表态支持一项日益流行的提案，旨在应对人工智能的危险——该提案要求顶尖AI开发商嵌入独立监督机构，以确保其产品安全。 这一想法仍面临障碍，包括一位关键议员的抱怨，称独立监督机构权力太弱，无法施加有意义的改变。 其他批评者，包括风险投资家、学者以及唐纳德·特朗普总统的前人工智能事务负责人，对一些监

奥巴马呼吁采取人工智能安全措施，批评特朗普的做法

华盛顿——美国前总统巴拉克·奥巴马表示支持针对人工智能安全的联邦法律和法规，称如果管理不当，这项技术可能引发“潜在灾难”。 奥巴马在9月14日的一份声明中说，人工智能政策“应当成为我们公共辩论的中心”，并说华盛顿的政策制定者必须“主动出击”，制定“能够应对严重安全担忧、预见人工智能对就业和我们的孩子的影响，并确保人工智能的益处得到广泛普及”的提案。 这位前总统批评了美国总统唐纳德·特朗普所倡导的对

【市场动态】OpenAI和Anthropic首席执行官呼吁联合国和世界各国就AI安全加强合作

【彭博9月24日电】OpenAI首席执行官Sam Altman和Anthropic PBC首席执行官Dario Amodei罕见出现在联合国安理会的一次会议上，两人敦促世界各国领导人在人工智能领域合作。此次会议聚焦AI可能对人类构成生存威胁这一担忧问题。　　在发言中，Altman和Amodei都强调了全球在标准方面开展合作的重要性，以应对AI系统可能出现的自我改进能力超出人类控制能力的情况。这两位