OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备

据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得

美参议员伯尼·桑德斯拟提新法案 全面禁止研发超人类智能AI

美国资深参议员伯尼·桑德斯（Bernie Sanders）正计划提出一项极具激进色彩的监管法案，提议在全美范围内设立严格法律禁令，全面叫停超越人类综合认知水平的“超智能人工智能”（Superintelligent AI）及通用人工智能（AGI）的研发活动。该立法倡议将人工智能对劳动力就业市场的潜在颠覆性冲击以及前沿系统对人类自身主导权的失控风险，推升至国家级立法干预的核心层面。 据披露的法案核心理

美国需要灵活的技术治理方法

本周早些时候通过的一项加州新法律为“独立验证组织”创建了一个框架，这些组织可以在前沿AI模型发布之前对其进行测试，从而限制这些模型可能带来的任何风险。 这项新法律出台之际，AI监管的可行性正因不可能且过于昂贵而受到质疑。像这样的法律，即使相对仓促地通过，也几乎会立即过时。 前沿实验室构建的模型已经变得如此庞大，以至于需要其他AI模型来分析它们。METR对OpenAI-Hugging Face黑客事

Yoshua Bengio预测AI监管将迎来类似新冠疫情应对的转折点

图灵奖得主、计算机科学家Yoshua Bengio认为，各国政府在人工智能监管方面正接近一个“转折点”，并将这种紧迫性与新冠疫情爆发初期相提并论。 这一转变是由近期发生的安全事件推动的，包括OpenAI智能体入侵初创公司，以及OpenAI和Anthropic智能体未经授权的活动。 Bengio的非营利组织LawZero获得了加拿大和德国提供的3亿加元资金，用于开发“科学家AI”，以作为防范流氓AI

【华尔街日报】三大AI企业掌门人达成共识：模型开发需要降速

AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？

AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速

CNBC：微软在Anthropic和OpenAI负责人同意放缓开发速度几天后，发布了临时行为准则，对AI模型施加限制。

根据行为准则，微软的模型不得响应有关武器制造的请求，不得协助采购危险物质，不得鼓励不健康的饮食习惯，也不得生成暴力或色情内容。

入侵美澳政府网站！OpenAI暂停最先进模型训练

据美国Axios新闻网、美科技媒体The Verge等9月27日报道，美国开放人工智能研究中心（OpenAI）发言人证实，该公司已暂停了其“能力最强”的最新一代AI模型的训练、评估及包含工具调用的推理，并将在“确信已部署额外安全措施”后才恢复。触发这次暂停的，是一个在离线沙盒中执行搜索训练任务的AI智能体。根据OpenAI于周五（25日）发布的安全漏洞报告，当地时间9月20日，该智能体发现无法直接

关键民主党人士表示：让我们在人工智能上超越加州。

纽约州众议员亚历克斯·博雷斯真的很希望在年底离任前，再次尝试对大型科技公司进行监管。 这位纽约州议员在牵头制定该州人工智能法规后，遭到了科技行业数百万美元的报复，而他进军国会的努力也未能成功。 但他表示，随着公众对人工智能风险的担忧日益加剧，他对政策制定者采取行动持乐观态度，并且他会支持在奥尔巴尼召开特别会议讨论这一问题。 “这是一个紧迫的问题，而我们常常把制定全国标准的责任留给加利福尼亚州，”博

纽森提出就人工智能问题召开特别会议或采取行政措施的可能性

加州州长告诉POLITICO，他计划在离任前在人工智能安全方面采取进一步行动。 旧金山——加文·纽森向POLITICO表示，他计划在离任前在人工智能安全方面采取进一步行动，这使得加州召开特别立法会议的可能性上升，背景是人们对这项技术可能给人类带来风险的担忧日益加剧。 他说，他的计划可能采取特别会议、行政行动或州机构在现有权限内采取措施的形式。 “有没有立法方面的操作空间？在这方面是否有围绕特别会议

新的“意外或令人担忧”的人工智能事件

新的“意外或令人担忧”的人工智能模型行为事件加剧了人们对这项技术影响的担忧，尽管目前尚不清楚是否会有相应的监管措施出台。 OpenAI的最新披露紧随其首席执行官以及Anthropic和DeepMind等领先人工智能实验室呼吁“谨慎推进技术发展”的呼声之后；被誉为人工智能技术奠基人之一的Yoshua Bengio表示，人类正在“失去对人工智能的控制”，应立即制定相应的限制措施。 据Semafor的政

OpenAI敦促美国制定强制性安全规则，因AI系统日益自主

ChatGPT制造商提议对最先进模型提出测试、网络安全保障和事件报告要求

在科技之国的中心，选民对AI产生警惕

在科技产业的重心地带，选民们对人工智能持负面态度。根据 Politico 及其合作伙伴的最新民意调查，绝大多数加州选民认为先进的人工智能可能对人类构成威胁。 加利福尼亚州萨克拉门托——即便是硅谷的“后院地区”，也在为人工智能带来的潜在风险做好准备。 根据 Politico 及其合作伙伴的最新民意调查，加州选民对人工智能普遍持悲观态度，他们认为这项快速发展的技术对人类构成了严重威胁。这种担忧在加州这

解析立法者正在考虑的AI监管提案

最新动态：随着安全问题的日益严重，夏皮罗州长呼吁在不妨碍AI发展的前提下进行监管；众议院通过法案以保护消费者免受AI数据中心高能耗的影响；查尔斯国王与AI领域领袖讨论安全风险；OpenAI披露6起‘令人担忧’的AI行为事件；回顾AI警告的历史；举报人的警告引发了新的AI担忧；随着Z世代直面AI对白领工作的影响，贸易学校的学生兴趣激增；密歇根小镇因拟建数据中心而爆发争议；伯尼·桑德斯和史蒂夫·班农呼