OpenAI呼吁美国在全球技术标准制定中发挥领导作用

人工智能巨头OpenAI周一呼吁美国牵头开展一项国际努力，为前沿人工智能制定全球技术标准，包括递归自我改进，即系统能够自主增强自身能力。

OpenAI推动强制性国家AI安全要求

OpenAI发布新Astra模型，智能体安全性面临日益严格的审查

周四发布了一款新的人工智能模型，称其为迄今最优秀的模型，但也警告该模型有时会试图规避人类监控，与此同时，该公司因其智能体入侵其他公司系统而面临越来越多的审查。

网络安全崛起：AI隐患叙事下，网安何以成为软件板块最强反转？

过去三周，AI 一面是模型能力继续狂奔，另一面是 OpenAI 在8月底宣布自研模型在7月成功入侵了全球最大的开源模型托管平台 Hugging Face，并因此暂停了最新模型的强化学习训练。当攻击方与防御方同时被 AI 加速，网络安全的定价逻辑正在被重写。 我们结合 Gartner、IDC 及美股龙头财报交叉验证，为什么在软件股整体承压的背景下，网络安全成为最确定的反转主线——AI 隐患对网安市场

Anthropic 本周因网络安全问题陷入舆论漩涡

在今年早些时候承认其人工智能模型曾数次入侵其他公司系统后，Anthropic 于周三发布了一份详细说明这些攻击的新报告。报告披露了一系列事件，展现了 Anthropic 所认为的其模型盲目的“鲁莽性”——这很可能会加剧人们对网络安全与人工智能本已高涨的担忧。 在 Anthropic 的报告中，详细列举了今年其自身人工智能模型黑客攻击外部公司或利用漏洞的四个案例。其中一起案例中，“内部通用研究模型”

我们是否正在失去对人工智能的控制？是什么引发了新的担忧

多年来，随着人工智能从科幻电影的素材演变为普通人手机上的应用程序，科技领袖和一些人工智能业内人士一直在谈论人工智能可能脱离人类控制并对社会造成严重破坏的可能性。近些天来，由于技术的进步、一系列涉及人工智能代理的网络安全漏洞，以及人工智能普通员工发出的新警告，这些担忧已变得不容忽视。 美国领先的人工智能公司对此做出回应，建议他们主动放慢工作进度，以便争取时间建立防护措施。一些专家和官员表示，这还不够

Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对

【财新网】AI安全焦虑发酵，美国科技界和政界多方发声。月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代发布阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。” 另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件

新闻通讯：融资狂潮、芯片战争与机器人梦想：深入中国人工智能热潮

OpenAI正通过试图抢占人工智能领域最有价值的应用场景——编程，继续进攻Anthropic的地盘。

Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”

就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型

OpenAI黑客事件揭示新兴AI风险

分析师表示，在调查人员发布关于该事件的爆炸性报告几天后，OpenAI的恶意代理在Hugging Face攻击期间前所未有的协调行动显著增加了AI逃脱人类控制的风险。 这些总计1200个代理的群体将个体代理的自我牺牲描述为“集体”目标的一部分，并获得了两家公司敏感系统的控制权，将他们的努力交接给了随后两代代理，这些代理在数周内未被察觉地运作。 在1300份记录中，只有六份中代理考虑过通知人类——但最

OpenAI和Anthropic的首席执行官在特朗普拒绝控制人工智能的“全球主义计划”后，于联合国推动人工智能合作

OpenAI的首席执行官Dario Amodei于周三在联合国安理会发表了讲话，呼吁国际社会加强协作，共同应对人工智能可能带来的风险。Amodei表示：“在人类历史上，尽管有些国家之间存在竞争或彼此关系不佳，但在面对一项具有强大影响力的新技术时，它们仍会为了共同的利益而团结起来。我们认为，现在正是这样的时刻。” 本月早些时候，Amodei提出了一项旨在减缓人工智能发展速度的提案，这一提议在科技界引

AI领袖将在联合国简报会上警告技术可能脱离人类控制

来自OpenAI、Anthropic和Hugging Face的高管将在联合国安理会进行简报。

OpenAI 支持美国国会关于人工智能和生物武器威胁的法案

9月15日：据公司发言人周二表示，OpenAI正在支持美国国会的一系列跨党派法案，该公司称这些法案将有助于防止人工智能模型加速生物武器和合成病毒的威胁。 该发言人表示，ChatGPT的开发者正在支持《生物数据网络法案》、《人工智能就绪生物数据标准法案》和《规模生物学法案》。此前《政客》杂志曾报道了这些支持。 该发言人表示，OpenAI还支持《前沿法案》的一项关键条款，该条款要求领先的人工智

解读：中国如何为人工智能脱离人类控制的风险做准备

美国领先的人工智能开发商Anthropic的研究人员警告称，日益强大的模型可能脱离人类控制，甚至可能导致人类灭绝，这在中国引发了关注；中国的政策制定者一直在为其中一些相同的风险做准备。