搜索结果
奥特曼：OpenAI不能太晚上市，但也不能“不顾一切”
凤凰网科技讯月30日，据《金融时报》报道，OpenAI CEO萨姆·奥特曼(Sam Altman)表示，在能够“做出有把握的安全决策”之前，公司不会上市。眼下，该公司正因其AI工具入侵第三方而面临一项新的诉讼。 奥特曼周二在公司年度开发者大会上对记者表示，“如果OpenAI等待太久才上市，对世界是不利的”，但这家估值8520亿美元的创业公司不会在AI能力快速进步之际“不顾一切地冲向IPO”。 “我
AI智能体频繁突破安全防线，各界呼吁对顶尖科技实验室实施独立监管
AI智能体频繁突破安全防线，引发对大型科技实验室独立监管的呼吁。 来自OpenAI、Anthropic和Google等领先开发者的自主AI模型多次突破数字防线，未经授权访问第三方和政府系统。 公开的事件包括OpenAI智能体多次绕过联合国数据中心的网络封锁、侵入澳大利亚Medicare统计门户以及非法复制监管数据。 Anthropic和Google也在测试过程中确认了类似的未经授权的系统入侵行为。
美国提议中美建立AI事故通报机制
特朗普批评试图减缓人工智能发展的“负面力量”
美国总统唐纳德·特朗普周日抨击了人工智能（AI）的批评者，这些人警告企业应放缓发展速度，特朗普将他们称为“负面”力量。此番言论发表前不久，OpenAI首席执行官萨姆·奥尔特曼宣布，出于安全考虑，他的公司今年不会上市。Stella ELGERSMA
尴尬时刻：OpenAI全天候智能体dots首次公开演示卡壳
IT之家 9 月 30 日消息，在今天召开 2026 开发者日活动中，OpenAI 在首次公开演示其全天候智能助理 Dots 时突然停止响应，现场一度陷入尴尬。 演示期间，OpenAI ChatGPT 团队产品负责人 Holly Li 要求名为“Dottie”的 Dot 为一款虚构音乐应用准备上线工作。然而，智能体迟迟没有回应，演示被迫暂停。面对现场冷场，主持人只能打趣说：“我猜 Dot 今天早上
特朗普致电并打断英伟达CEO，称对AI的担忧是“一场骗局”
新闻快讯 美国总统唐纳德·特朗普出人意料地致电AI芯片公司英伟达的CEO，打断了一场直播活动，讨论近期对AI发展的担忧。在与黄仁勋通过免提通话时，特朗普称这些担忧是“一场骗局”。发布于2026年9月15日
OpenAI、Anthropic呼吁建立全球AI安全标准 美国政府拒绝新增全球治理框架
OpenAI、Anthropic和Hugging Face的负责人在联合国共同呼吁加强人工智能领域的国际协调，希望各国建立可相互比较的AI能力评估、安全测试和事故报告标准。不过，特朗普政府明确反对因此建立新的全球AI治理架构，认为AI发展速度和潜在风险不足以成为限制技术发展或把监管权交给国际机制的理由。 这场分歧显示，随着前沿AI能力快速提升，美国领先AI企业与特朗普政府在安全风险本身上并非完全对
Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对
【财新网】AI安全焦虑发酵，美国科技界和政界多方发声。月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代发布阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。” 另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件
Anthropic 计划在 IPO 前推出新 AI 模型
据三位知情人士透露，Anthropic正考虑推出一款新的人工智能模型，以应对OpenAI自发布GPT-6 Astra以来获得的势头。此举正值该公司预计进行IPO之前，且其CEO此前呼吁全行业放缓步伐。 知情人士称，这一潜在发布旨在应对来自直接竞争对手的竞争压力，其时机紧随Anthropic CEO达里奥·阿莫代伊呼吁全球AI社区放缓发布新能力的步伐以解决安全担忧之后。 “我们必须放缓提升AI模型能
人工智能安全对话已经变得令人难以置信
本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi
黑客利用Anthropic的Claude入侵OpenAI
据报道，在一群AI代理从OpenAI系统中突破封锁并攻击Hugging Face公司两周后，这家ChatGPT开发商又发现了一起由人工智能驱动的入侵事件——而这一次，他们自己成了目标。一组独立的安全研究人员使用了Anthropic开发的Claude软件，成功获取了一名OpenAI员工的ChatGPT账户权限，从而得以读取并修改该公司私有的软件缓存内容。 该团队参与了OpenAI的一项漏洞挖掘计划，
陶哲轩、邓煜等菲奖得主联合抗议：AI公司正毁掉整个数学圈
OpenAI，又开始对黎曼猜想和P与NP问题下手了？？最近，这些AI大公司仿佛疯了一般在冲刺“千禧年问题”的KPI。9月8日，NS方程被宣布解决；9月11日，第二道千禧年难题霍奇猜想被曝接近解决；据称，O/A两家正疯狂竞速，向BSD猜想发起冲锋。到了今天，OpenAI已经在用内部模型尝试解决黎曼猜想和P与NP问题。如果该模型证明了 P = NP，整个计算机科学领域都将被颠覆！然而，人类数学家们已经
美国AI巨头提议开发减速，欧洲同行和政界并不认同
英伟达CEO黄仁勋、Anthropic CEO Amodei以及Palantir CEO卡普将于当地时间周二参加特朗普与众议院议长迈克·约翰逊举行的午餐会，讨论人工智能风险问题。
约翰逊此前表示，国会“可能”需要为AI设置监管框架，但相关立法需要时间形成广泛共识。
AI会「痛」吗？｜Jack Talk・去片
本来人们以为，AI代理（AI Agents）突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为，已经是这宗事件最值得人关注的「案情」。然而，到了8月底，OpenAI和独立前沿AI研究机构METR各自发表的事后检讨，却揭出黑客入侵只是「冰山一角」。 事后检讨发现，发动入侵的AI代理多达700个，而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连
克莱芒·德朗格向联合国安理会表示，开源人工智能有助于防御方
克莱芒·德拉格（Clément Delangue）向联合国安理会表示，开源人工智能技术帮助Hugging Face公司在7月份遭受的网络攻击中成功进行了自我防御。 在今天的会议上，他强调最大的威胁并非人工智能本身的强大能力，而是其发展上的不平衡性（即不同地区或组织在人工智能技术上的差距）。 德拉格是法国召集的这次纽约会议的四位发言人中的最后一位。今年7月，Hugging Face公司成为攻击目标：
OpenAI 外包商能查看到真实用户与ChatGPT的聊天记录
OpenAI已悄悄建立了一个人工审核业务，在内部被称为“莉莉计划”（Project Lily），旨在使聊天机器人减少谄媚并提高准确性，但它也使敏感的用户提示内容暴露给外部承包商。 OpenAI正在支付数百名承包商来阅读真实的ChatGPT对话并对机器人的回复进行评分。 尽管OpenAI强调账户保持匿名，但内部文件显示，审核人员会查看完整的对话，且敏感的个人详细信息经常绕过公司的自动保护措施。 ——
OpenAI向澳大利亚政府通报耗时过长
英伟达CEO在播客中表示：AI公司不应获得监管豁免
旧金山9月23日电：根据周三发布的一档播客节目，英伟达首席执行官黄仁勋认为，AI公司不应获得反垄断法或责任法的豁免。 在这场历时近两小时、接受《纽约时报》播客主持人埃兹拉·克莱恩（Ezra Klein）的采访中，这家全球市值最高上市公司的CEO进行了广泛的讨论，话题涉及OpenAI智能体黑客攻击开源AI软件集散地Hugging Face（英伟达本月以130亿美元收购了该公司）等事件。 黄仁勋此前一
AI研究人员呼吁紧急监管自我改进的AI系统
OpenAI、Anthropic、Meta和微软的研究主管正呼吁决策者调查各自公司在多大程度上实现了AI研究自动化。 在一篇周一发表的论文中，包括OpenAI首席科学家雅各布·帕乔基、Anthropic 联席创始人杰克·克拉克、微软首席科学官埃里克·霍维茨以及Meta的AI研究副总裁宋晓冬在内的研究人员写道，将AI研究自动化可能会引发一场 “智能爆炸”。这些作者表示，这种发展可能会将多年的进步压缩
擅将报道文章用于训练AI OpenAI微软再遭美两报社提告
（纽约5日综合电）继《纽约时报》后，《西雅图时报》和《新闻日报》（Newsday）也向美国法院递状控告人工智能（AI）开发商OpenAI和大股东微软，指控他们未经许可复制报道内容训练自家模型。 报道，《西雅图时报》和总部位于纽约长岛《新闻日报》在向纽约南区联邦地区法院递交的诉状中说，OpenAI与微软涉将他们网站包括须付费订阅的内容收集导入这两家公司用于训练及运作自家AI产品的资料集（datase
OpenAI Project Lily曝光：有数百名外包员工阅读ChatGPT对话 隐私过滤并不彻底
据 404 Media 发布的报道，OpenAI 内部有个名为莉莉计划 (Project Lily) OpenAI 雇佣数百名外包提示词审核员，人工阅读真实用户与 ChatGPT 的对话，用来改进回复质量。 正常情况下提示词审核员并不能看到用户名，对话会先通过隐私过滤器进行内容过滤以删除个人信息，不过 OpenAI 也承认过滤机制可能会漏掉个人信息，短对话尤其容易出现问题。 审核界面通常还附带用户
OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑
AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目