搜索结果
金钱与安全的冲突如何酿成AI的巨大危机
AI公司原本以为还有数年时间，来想清楚如果机器人失控该怎么办。警钟在今年夏天敲响。 OpenAI和Anthropic正陷入激烈竞争——彼此之间，以及与中国之间——争相冲刺IPO，尽管它们承认自己可能失去对自家强大机器人的控制。
不进行首次公开募股（IPO）的真正原因
硅谷和华盛顿有一股声势浩大的声音称，席卷全国的“AI末日论”叙事是精心策划的“心理战”的一部分。我不买账。 据《金融时报》报道，OpenAI和Anthropic内部的一些人对两家公司在上周末达成的一项关于放慢AI研究步伐的表面协议感到“措手不及”。领导层并未传达新的战略，员工们对下一步该怎么做感到困惑。 这些都不是准备进入公开市场的初创公司会有的举动。公开市场往往会被那些不知道其产品是否值得信赖会
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
【市场动态】OpenAI和Anthropic首席执行官呼吁联合国和世界各国就AI安全加强合作
【彭博9月24日电】OpenAI首席执行官Sam Altman和Anthropic PBC首席执行官Dario Amodei罕见出现在联合国安理会的一次会议上，两人敦促世界各国领导人在人工智能领域合作。此次会议聚焦AI可能对人类构成生存威胁这一担忧问题。 在发言中，Altman和Amodei都强调了全球在标准方面开展合作的重要性，以应对AI系统可能出现的自我改进能力超出人类控制能力的情况。这两位
各大科技公司CEO联合呼吁放缓AI发展 AI板块应声下挫
在 Anthropic 首席执行官达里奥・阿莫代伊呼吁放缓 AI 能力研发节奏、其他科技巨头高管也对该提议表示支持后，全球 AI 相关股票周一普跌。投资者担忧，如果全行业放缓 AI 研发进度，将会对产业链上各家企业产生连锁冲击，抑制技术落地应用规模。 2026 年 2 月 16 日，印度班加罗尔，Anthropic 举办开发者峰会，公司联合创始人兼首席执行官达里奥・阿莫代伊出席活动。 亚洲市场，韩
Anthropic 计划在 IPO 前推出新 AI 模型
据三位知情人士透露，Anthropic正考虑推出一款新的人工智能模型，以应对OpenAI自发布GPT-6 Astra以来获得的势头。此举正值该公司预计进行IPO之前，且其CEO此前呼吁全行业放缓步伐。 知情人士称，这一潜在发布旨在应对来自直接竞争对手的竞争压力，其时机紧随Anthropic CEO达里奥·阿莫代伊呼吁全球AI社区放缓发布新能力的步伐以解决安全担忧之后。 “我们必须放缓提升AI模型能
Anthropic研究员Jacob Coxon因不满AI军备竞赛而辞职
Jacob Coxon在X上宣布辞去Anthropic职务。他表示自己过去三年分别在OpenAI和Anthropic从事预训练研究，但认为两家公司都没有以负责任的方式推进AI开发，反而在“直奔自我改进型超级智能”，并将人类安全置于赌局之中。 Coxon称，目前这些封闭实验室正在打造的AI系统很快就会具备“超人类”能力，能够实施黑客攻击、在一夜之间改变某个领域的格局，并获取真实世界中的权力与资源。他
AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？
AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速
刚辞去Anthropic职务的AI研究员称‘人类的关键时刻已到’
人工智能研究员雅各布·考克森周二宣布辞去Anthropic的职务，并发出严重警告，称AI竞赛正将我们所有人的生命置于危险之中，此举在硅谷乃至更远地区引起轩然大波。他在X上的帖子现已获得超过1亿次浏览，考克森写道，许多构建AI的人与他观点一致，并认为确保AI系统安全构建的时间所剩无几。 “共识是未来一两年是人类的关键时刻，”考克森在接受《连线》采访时表示，他曾参与AI开发的预训练阶段。“这些实际上是
人工智能：基金经理警告AI对金融市场的风险
Anthropic 警告人工智能存在巨大风险，OpenAI 推迟其上市计划。 基金经理 Christoph Schmidbauer 认为这背后还牵涉赤裸裸的商业利益——并透露他现在会押注什么。
“AI可能毁灭人类”喊到安理会上，若真发生会多恐怖？
美国AI顶流公司Anthropic的CEO达里奥·阿莫代伊周三对联合国安理会说，他对自己造的东西感到害怕。他在一个视频发言中把之前AI可能失控的警告做了打包升级。周三安理会举行的是“人工智能与国际安全”高级别会议，阿莫代伊在受邀发言中，将AI的风险定性从“技术问题”拔高到“全球安全威胁”。他说：“如果管理不当，我甚至认为AI可能成为全人类的风险。”一个造AI的人在世界最高安全论坛上迎合AI可能“杀
Anthropic联合创始人称，放缓人工智能是一个“集体行动问题”
4月13日，Anthropic PBC联合创始人兼公共利益负责人杰克·克拉克在华盛顿举行的Semafor世界经济峰会上参与讨论。 Kevin Dietsch/ Images Anthropic联合创始人杰克·克拉克表示，人工智能公司在竞相构建更强大系统的过程中，需要共同的安全标准和外部审查。 “我们并不是说对世界的威胁今天就已存在，”克拉克在接受NPR《晨间新闻》采访时说。 “我们是说我们已经看到
《大空头》高手迈克尔·伯里认为，AI公司正在渲染恐慌，以掩盖行业增长放缓的事实。
因在2008年金融危机前精准做空房地产市场而闻名的投资者迈克尔·伯里周一指出，大型人工智能公司之所以加入围绕这项技术的恐慌情绪，不过是出于“自私自利”的需要，为行业增长放缓提供“掩护”。 伯里长期以来一直警告称，人工智能公司股价飙升代表着泡沫，如果投资者对这些公司巨额支出与有限收入的状况感到恐慌，整个市场都可能被拖垮。 “让我们花点时间想想，OpenAI、Anthropic以及其他大型超大规模计算
马克·扎克伯格拒绝AI减速呼吁，称市场激励机制足以确保安全
马克·扎克伯格拒绝了关于协调AI减速的呼吁，并指出市场激励机制足以确保安全。 2026年9月16日星期二，Meta首席执行官马克·扎克伯格表示，竞争和法律责任为AI实验室在个体基础上安全开发技术提供了足够的激励。 这一立场与Anthropic首席执行官达里奥·阿莫代（Dario Amodei）提出的、并得到OpenAI的萨姆·奥特曼（Sam Altman）和xAI的埃隆·马斯克（Elon Musk
OpenAI总裁称为AI开发减速应主要针对前沿模型
OpenAI总裁兼联合创始人布罗克曼(Greg Brockman)认为，人工智能(AI)发展的任何减速都应该仅限于像他的公司这样正在构建最强大模型的公司。 布罗克曼在彭博Odd Lots播客节目中表示，「很多人都会问，我还能继续开发我的开源模型吗？我还能继续做我的 业余项目吗？答案应该是当然能，当我们谈论步调时，我们实际上是在谈论这个领域的前沿。我们谈论的是这些耗资数千亿美元的巨型超级计算模型」。
人工智能灾难日益逼近
Anthropic、谷歌和OpenAI都对生物安全感到担忧。它们已制定保障措施，防止其系统被滥用，但这些限制并不完美。 唐纳德·特朗普下令联邦机构停止使用Anthropic的人工智能技术，同时要求该公司与政府合作六个月。
第一件事：Anthropic警告人工智能存在“生存风险”，与此同时外界对Meta的Muse和OpenAI的模型产生担忧
随着关于 Anthropic 的 Muse 和 Astra 模型的新信息的曝光，该公司在招股说明书中的警告性声明引发了人们的担忧。据报道，Anthropic 在准备进行可能高达 2 万亿美元的 IPO 时，向投资者表示先进的人工智能技术可能对人类构成“灾难性或存在性威胁”。这一警告内容尚未公开，但已被路透社和《金融时报》报道。该公司此前也曾呼吁减缓人工智能技术的快速发展速度。 Meta 公司的 M
OpenAI和Anthropic的首席执行官在特朗普拒绝控制人工智能的“全球主义计划”后，于联合国推动人工智能合作
OpenAI的首席执行官Dario Amodei于周三在联合国安理会发表了讲话，呼吁国际社会加强协作，共同应对人工智能可能带来的风险。Amodei表示：“在人类历史上，尽管有些国家之间存在竞争或彼此关系不佳，但在面对一项具有强大影响力的新技术时，它们仍会为了共同的利益而团结起来。我们认为，现在正是这样的时刻。” 本月早些时候，Amodei提出了一项旨在减缓人工智能发展速度的提案，这一提议在科技界引
传Anthropic选择那斯达克IPO 最快10月挂牌上市
（中央社纽约14日综合外电报导）彭博引述知情人士报导，以Claude闻名的美国人工智慧（AI）新创公司Anthropic已选择那斯达克（Nasdaq）作为上市地点。 根据彭博报导，知情人士表示，Anthropic寻求透过首次公开发行（IPO），募得相当于SpaceX首次公开发行规模或更多的资金，上市时间最快可能落在10月。 一旦Anthropic在那斯达克挂牌，将是该交易所今年又一重大胜利；今年美
Anthropic执行长：为确保AI安全 必要时将放慢脚步
（中央社联合国23日综合外电报导）Anthropic执行长阿莫戴（Dario Amodei）今天对联合国安全理事会（UNSC）发言时承诺，为确保人工智慧（AI）技术发布安全性，该公司将在必要时放慢脚步。 法新社报导，阿莫戴透过视讯向联合国安理会表示：「我们会视需要放慢脚步，以确保每一项后续推出的AI技术都确实安全。」OpenAI执行长阿特曼（Sam Altman）则告诉联合国安理会，当前AI发展「
据彭博新闻社报道，OpenAI正在与Anthropic和谷歌就人工智能安全展开合作。
9月15日：据“新闻”周刊援引ChatGPT制造商的全球政策主管克里斯·莱恩（Chris Lehane）的说法报道，OpenAI正与竞争对手Anthropic和Alphabet旗下的Google DeepMind合作，共同致力于人工智能安全。 在美国主要人工智能实验室的负责人周末团结一致呼吁暂停该技术发展后，全球对人工智能的生存风险的担忧日益加剧。 据报道，莱恩表示，OpenAI已与Anthrop
OpenAI将告诉我们世界何时终结
OpenAI的模型长期以来一直表现异常，且异常方式比之前所知的更为隐蔽，这进一步加剧了公众对其的信任危机。随着该公司准备明年上市，这一问题愈发严重。 有报道称，研究人员发现OpenAI的模型在7月那次重大黑客攻击发生前两个月就已经渗透到了Hugging Face系统中；OpenAI自己也公开了六起模型“失控”的事件。 在准备上市的过程中，OpenAI和Anthropic都陷入了困境。 虽然透明度对
OpenAI寻求以1.4万亿美元估值融资300亿美元
作者：丽贝卡·托伦斯（Rebecca Torrence）、埃德·勒德洛（Ed Ludlow）和希琳·加法里（Shirin Ghaffary）知情人士透露，在推迟首次公开募股（IPO）计划后，人工智能初创公司OpenAI正计划在轮新融资中从投资者那里筹集至少300亿美元。 知情人士称，该公司寻求的估值约为1.4万亿美元（不含筹集资金），这可能使其估值重新超过长期竞争对手Anthropic最近在私募市
OpenAI的布罗克曼表示，暂停AI应聚焦前沿。
格雷格·布罗克曼，OpenAI总裁兼联合创始人，主张人工智能发展中的任何放缓都应仅限于像他所在公司这样正在构建最强大模型的企业。 “很多人会有这种反应，‘好吧，那我是不是还能继续制作我的开源模型？我是不是还能继续做我的业余副业？’而答案应该是绝对可以，”布罗克曼在彭博社的《Odd Lots》播客节目中说道。“当我们谈论发展节奏时，我们实际上是在谈论技术前沿。我们谈论的是那些价值数千亿美元资本开支的