搜索结果
OpenAI、谷歌等数十家科技公司联合呼吁紧急应对AI驱动的威胁
这些公司在信中强调，在关键基础设施受到影响之前，为AI驱动的网络攻击做准备的时间窗口“有限”。
Anthropic联合创始人称，放缓人工智能是一个“集体行动问题”
4月13日，Anthropic PBC联合创始人兼公共利益负责人杰克·克拉克在华盛顿举行的Semafor世界经济峰会上参与讨论。 Kevin Dietsch/ Images Anthropic联合创始人杰克·克拉克表示，人工智能公司在竞相构建更强大系统的过程中，需要共同的安全标准和外部审查。 “我们并不是说对世界的威胁今天就已存在，”克拉克在接受NPR《晨间新闻》采访时说。 “我们是说我们已经看到
OpenAI、Anthropic 敦促加强网络防御行动，随着 AI 模型不断进步
人工智能公司 OpenAI 和 Anthropic PBC 与另外 100 多家科技和金融服务机构警告称，企业和政府必须做更多准备，以防御和应对由 AI 驱动的黑客攻击。 在周四的一封公开信中，这些 AI 初创公司以及 Alphabet 旗下的谷歌、微软等公司呼吁各组织、政府以及科技和 AI 公司专注于将网络防御作为“当务之急的领导优先事项”，并修复自身软件中现有的弱点。 这封信还要求网络安全公司
Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对
【财新网】AI安全焦虑发酵，美国科技界和政界多方发声。月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代发布阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。” 另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件
人工智能安全对话已经变得令人难以置信
本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi
OpenAI的萨姆·奥尔特曼对行业能够监管AI安全表示“有信心”
OpenAI首席执行官萨姆·奥特曼表示，他相信人工智能公司可以在不给大众带来重大危害的情况下安全地开发这项技术。 奥特曼周二在旧金山举行的Dreamforce大会上与Salesforce公司首席执行官马克·贝尼奥夫（Marc Benioff）的对话中表示：“我对我们公司——我们行业——能够安全地做到这一点非常有信心。” 奥特曼就人工智能进步速度发表的评论之际，政策制定者和业内人士正在辩论是否需要政
CNBC每日开盘：人工智能安全吗？行业领袖和特朗普意见不一
大家好，我是李嘉欣，来自新加坡。欢迎收听 CNBC 的《每日开盘》。 关于人工智能“可能杀死全人类”的社交媒体狂潮，促使美国人工智能科技巨头们齐聚一堂，讨论安全问题以及放缓模型开发进程的前景。然而，美国总统唐纳德·特朗普对人工智能的讨论并不满意，他表示“人工智能唯一需要的控制或‘护栏’是一位强大而聪明的（高智商！）总统，而美国拥有这样的总统，而且不止一位！”与此同时，中东冲突的经济成本持续攀升，美
特朗普顾问卢特尼克、迈克尔与Anthropic一名高管会面讨论AI安全
美国前总统特朗普政府的高级官员周二会见了人工智能公司Anthropic PBC的华盛顿最高代表，讨论人工智能安全风险。 据知情人士透露，已成为该公司在华盛顿代言人的Anthropic首席计算官汤姆·布朗（Tom Brown）与五角大楼首席技术官埃米尔·迈克尔（Emil Michael）和商务部长霍华德·拉特尼克（Howard Lutnick）进行了视频会谈。 Anthropic 公司拒绝置评。美国
联合国聚焦人工智能风险 OpenAI与Anthropic负责人呼吁加强警惕与合作
23/09/2026 - 23:27 多家人工智能企业的负责人周三(9月23日）在联合国表示，人工智能的发展需要更高程度的警惕。Anthropic首席执行官达里奥·阿莫迪甚至承诺，必要时将单方面放慢研发速度。 OpenAI首席执行官萨姆·奥特曼在纽约向联合国安理会介绍情况时警告，人工智能目前的发展“需要极度关注”。他说：“随着人工智能
改变人工智能进程的十天
旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼
消息称DeepSeek等公司将就AI风险向联合国安理会作简报
凤凰网科技讯月22日，据路透社报道，两位知情人士透露，DeepSeek等公司将于本周就AI带来的风险向联合国安理会作简报。眼下，世界各国领导人正齐聚纽约，出席一年一度的联合国大会。 联合国安理会定于周三开会讨论AI与国际安全。几周前，多家AI行业领袖呼吁协调放缓日益强大的AI系统的开发，警告这些系统可能很快将自行改进并脱离人类控制。联合国安理会由15个成员国组成。 一位知情人士称，DeepSeek