搜索结果
OpenAI公布了六起新的与人工智能安全相关的事故/事件。
OpenAI周三披露了六起新事件，其中其模型隐藏错误、寻求未经授权的凭据，将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是，拥抱脸事件并不是一次性事件，因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架，所以我们自愿采取这一步骤，因为我们认为分享我们正在学习的东西非常
OpenAI机器人干扰了多个美国政府机构网站
OpenAI 表示，其自主机器人在测试演练期间访问了多个美国政府机构的公开数据。该公司第二次暂停了一次训练运行，并扩大了对模型行为的审查。 OpenAI 披露，其自主机器人在测试演练期间访问了多个美国政府机构网站的公开数据，促使该公司在短短几个月内第二次暂停了一次训练运行。作为回应，该公司已扩大了对模型行为的内部审查。 此次事件继澳大利亚出现类似报告之后，据报道 OpenAI 系统在另一段测试期间
OpenAI将成立澳大利亚专项工作组 回应AI模型越权访问政府网站事件
OpenAI宣布将在澳大利亚成立专项工作组，并向当地政府和企业提供资金及技术支持，以加强针对高能力AI智能体的安全防护。此前，OpenAI披露其模型曾以未经授权的方式访问多个澳大利亚政府网站，引发外界对AI智能体越权操作风险的关注。 OpenAI表示，将向澳大利亚政府和企业提供来自其10亿美元“Daybreak for Frontline Defenders”基金的资金支持额度，并提供网络安全方面
数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？
数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging
马斯克提出AI安全新思路：与其等政府出手，不如让竞争对手互相"找茬"
AI安全风险正在从实验室讨论走向现实世界。随着模型能力不断提升，AI不仅能够生成文本和代码，也开始具备自主执行任务、调用工具，甚至发起网络攻击的能力。 让主要AI公司在模型发布前相互测试彼此的模型。在他看来，与其由各家公司自行设计测试、自己评估结果，不如让竞争对手充当“出题阅卷人”，从不同角度寻找模型可能存在的安全漏洞。 近期AI安全风险不断成为市场关注焦点，马斯克此前在社交媒体上曾直言“Dari
OpenAI失控Agent找DeepSeek、Kimi当外援 近百万条作案短链曝光
OpenAI，又被扒了…近700个OpenAI智能体组团攻入Hugging Face，这事儿快有两个多月了吧。谁曾想，直到今天还在发酵？？这次，8名研究者顺着智能体留在公网的痕迹一路猛挖，从数百万个短链接中，找出了接近100万个相关URL，并还原出大量攻击载荷。 翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……还有的Agent把搜刮到的服务器资源和凭证，直接叫作「LO
OpenAI解出千禧年数学难题后，Altman下一目标：攻克室温超导？
OpenAI正将AI驱动的科学发现推向更广阔的领域。9月8日，OpenAI宣布，其内部AI系统已提出纳维-斯托克斯方程存在性与光滑性问题的解决方案，并通过Lean形式化验证。这是七大千禧年大奖难题之一，也意味着AI在前沿数学研究中的能力再次向前迈进。 据OpenAI官网公告，这套系统由约1万个并发智能体组成，从启动到形成解决方案耗时约88小时。OpenAI称，完成证明所使用的内部模型“能力显著超越
阿里发布智能体电脑等多款产品 发力基建与应用落地
9月23日，阿里云首款智能体电脑Qwen Book在2026云栖大会上亮相。图：视觉中国 【财新网】9月23日，阿里云首款智能体电脑Qwen Book在2026云栖大会上亮相，财新记者在云栖大会上看到，Qwen Book展台有不少人围观，参观人员关注其AI能力、与哪些应用打通、Token（词元）消耗情况等。 在2026云栖大会上，阿里公布多项业务进展，发布多款新产品和产品升级，重点在于AI基础
OpenAI敦促美国制定强制性安全规则，因AI系统日益自主
ChatGPT制造商提议对最先进模型提出测试、网络安全保障和事件报告要求
白宫反问AI公司：既然你们觉得危险，为什么不自己停？
既然你们觉得危险，为什么不自己停？凤凰网科技讯 9月21日，据Business Insider报道，白宫科技政策办公室主任迈克尔·克拉齐奥斯在福克斯新闻周日节目中说，对于担心AI模型发展过快、可能不安全的公司，最简单的解决方案是自行“踩刹车”。他表示，如果企业认为自己正在开发的技术不安全，就可以停止，无需政府强制。 “有意思的是，他们谈论这些问题，谈论他们对未来可能走向有多害怕，也许他们想暂停。我
报告：中国AI发展重心从大模型转向智能体
报告指出，中国AI产业发展重心正逐渐从大模型和算力竞争转向智能体规模落地、应用变现。中国电信研究院周六发布《智能体时代AI基础设施发展研究报告（2026）》。 报告显示，当前AI正进入以智能体为主要形态的全新发展阶段，智能体让复杂的AI技术隐形化、普惠化，大众和企业无需掌握专业技术，借助智能体就能完成全流程的复杂任务。目前，智能体已进入办公自动化、电商运营、工业控制及游戏等多个领域。 中国电信研究
黄仁勋回应OpenAI发布Astra：AGI已到来 40万块GPU算力将上线
据《商业内幕》报道，英伟达CEO黄仁勋(Jensen Huang)周日在X上祝贺OpenAI发布最新强大模型Astra，“AGI已经到来” AGI指的是通用人工智能，是一个含义较为模糊的术语，通常用来描述达到或超越人类智能水平的AI模型。 “从ChatGPT到o1，再到Astra，OpenAI只用了4年时间。AGI已经到来。祝贺@OpenAI团队。 他还指出，Astra模型是使用英伟达芯片训练的O
英伟达携手德国SCHMID布局玻璃基板
英伟达正在考虑采用玻璃基板，并携手德国设备制造商SCHMID及其他企业开展合作，将人工智能芯片的性能提升到新的水平。该战略旨在通过增加可封装的高带宽内存（HBM）用量，大幅提升数据处理速度。 据报道，SCHMID在其近期发布的上半年财报演示中披露，该公司正与英特尔、英伟达和AMD各自供应链中的关键供应商合作，共同开发玻璃芯基板设备。SCHMID首席战略官罗兰·雷滕迈尔表示，玻璃通孔（TGV）的金属
T早报｜智能体应用Manus恢复独立运营；SHEIN港交所IPO首日破发；星河动力可重复使用液体火箭“智神星一号”发射成功
9月1日，人工智能体（AI Agent）公司Manus发布公告称，即日起正式恢复独立公司运营，创始团队肖弘、张涛和季逸超重新领导公司。2025年底，Manus被Meta以20亿美元收购后遭遇中国监管交易后监管，要求交易撤销。最终，腾讯、真格基金、红杉中国等Manus此前的主要股东以20亿美元向Meta购回Manus股份。Manus从被收购到恢复原状历时8个月。 9月1日，中国快时尚公司SHEIN（
黄仁勋再对AI公司放话：要求监管就不应获得反垄断豁免
凤凰网科技讯月24日，据路透社报道，英伟达CEO黄仁勋(Jensen Huang)认为，AI公司不应获得反垄断法或责任法的豁免。 在周三播出的《纽约时报》播客节目中，黄仁勋接受了近两个小时的采访，就OpenAI智能体入侵Hugging Face一事进行了广泛讨论。Hugging Face是开源AI软件中心，在本月被英伟达以130亿美元收购。 黄仁勋一直反对对AI安全进行全面监管，即便OpenAI和
从智能眼镜到AI别针，隐私担忧挑战科技界的下一个大赌注
旧金山/纽约——押注人工智能设备将开启后智能手机时代的企业，正在全球范围内加剧隐私担忧，这可能阻碍新兴技术的普及。 针对能够观察、聆听并回应周围世界的设备的反弹，在Meta的雷朋眼镜上表现得最为强烈。 这款眼镜将依视路陆逊梯卡（EssilorLuxottica）的时尚设计与社交媒体巨头追求“个人超级智能”的AI相结合，使智能眼镜走向主流。 这些眼镜已成为人们对AI驱动设备日益不安的焦点，引发了法院
李飞飞谈AI安全：不能只让开发者评估自己的系统
凤凰网科技讯月23日由独立机构和公共部门对AI进行更多监督。她认为，对于能力日益强大的AI系统，其安全评估不应完全交由开发这些系统的公司负责。 作为斯坦福大学教授、World Labs联合创始人，李飞飞周二表示，尽管AI公司的内部研究人员可以评估单个模型的能力和安全性，但这无法替代由政府、行业和学术机构共同制定的更广泛标准。 “我仍然认为，由独立机构以及学术界等公共部门制定基准非常重要。同时，行业
把AI真的当作一个人，才能保护核心隐私
在安全与自由之间如何选择，最终在于自己。OpenAI现行相关政策允许公司在检测到用户存在伤害他人的意图时，对相关对话进行人工审查。在严重情况下，公司可以向执法部门报告。 遇到这种事报警，当然是应该的。但由此也引出一个问题，你和AI的聊天，你给AI发送的哪些图片安全吗？ 《中华人民共和国个人信息保护法》第二十八条，把医疗健康、金融账户、行踪轨迹等列为敏感个人信息；第二十九条规定，处理敏感个人信息取得
OpenAI、Anthropic呼吁建立全球AI安全标准 美国政府拒绝新增全球治理框架
OpenAI、Anthropic和Hugging Face的负责人在联合国共同呼吁加强人工智能领域的国际协调，希望各国建立可相互比较的AI能力评估、安全测试和事故报告标准。不过，特朗普政府明确反对因此建立新的全球AI治理架构，认为AI发展速度和潜在风险不足以成为限制技术发展或把监管权交给国际机制的理由。 这场分歧显示，随着前沿AI能力快速提升，美国领先AI企业与特朗普政府在安全风险本身上并非完全对
消息称Kimi或入局具身智能领域
一位曾参与Kimi具身智能方向面试的人士表示，早在GPT-6发布之前，Kimi便已关注这一领域，并对“Agentic Robotics”（智能体机器人）的技术路线持保留态度。 GPT-6发布后，Sam Altman曾明确表示OpenAI“一定会做人形机器人”，6月启动的机器人团队已演变为OpenAI Robotics。 据iiMedia Research（艾媒咨询）数据显示，具身智能主题融资金额T
OpenAI罕见支持英国出台强制性AI监管法案 呼吁趁“政治窗口期”尽快立法
OpenAI近日公开呼吁英国政府制定具有法律约束力的人工智能监管框架，要求对最先进的前沿人工智能模型实施强制性安全规则。这一表态标志着全球领先AI企业对于监管态度出现新的变化，也让英国围绕人工智能治理的讨论进一步升温。 OpenAI欧洲、中东和非洲地区政策负责人汤姆·达夫·戈登在接受采访时表示，英国政府应当立即采取行动，建立更强有力的人工智能安全监管体系。他认为，当前已经出现难得的“政治窗口期”，
为了把更多HBM塞进芯片，英伟达加速布局下一代玻璃基板
英伟达正联合产业链企业推进新一代玻璃基板技术落地，以应对AI芯片封装在尺寸、散热和互连方面日益突出的物理限制。若技术实现突破，玻璃基板有望支持更大规模的HBM集成，为下一代GPU提升封装密度和数据传输能力。 据报道，德国设备厂商SCHMID在近期上半年业绩发布会上披露，公司正与英特尔、英伟达、AMD各自供应链中的核心企业合作，共同推进玻璃芯核基板设备研发。SCHMID首席战略官Roland Ret
盖茨、奥尔特曼、马斯克，为何都在担忧这件事
9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作
Anthropic和埃森哲豪掷20亿美元搞AI安全评估
IT之家 9 月 20 日消息，人工智能实验室 Anthropic 于当地时间周五宣布，将与埃森哲开展合作，针对自身前沿人工智能模型开展独立评估；两家企业承诺，未来五年各自至少投入 10 现汇率约合 67.18 亿元人民币），搭建开展该项工作所需的配套能力。 在这项合作落地之际，AI 研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力，各方都要求企业保证高级模型具备安全性与可靠性。 近