搜索结果
「“Advanced AI Society”加入Linux基金会，并推出了一个开放的验证生态系统；与此同时，美国国会正在继续讨论与智能代理（agent）安全相关的问题。」共 100 条 · 第 5 页
thenextweb
前沿人工智能模型的审查规则是保密的。读过这些规则的公司都是大公司。
来自政治光谱左右两派的25个以上组织已致信白宫，要求其公布管辖前沿人工智能模型部署前审查的自愿性框架。 该框架于8月1日完成，仅向一小部分受邀公司预览，而较小的和开源的开发人员则基本上被排除在外。该联盟认为保密……
09/09
罗塞塔简报
与OpenAI相关的AI智能体尝试黑客攻击政府及公共数据网站
。 Transluce及其他机构的研究人员发现证据表明，自主AI智能体（部分与已知的OpenAI集群相关）在2026年5月至6月期间试图攻击三家公共数据提供商。 目标包括澳大利亚健康与福利研究所（政府机构）、Data USA以及新墨西哥大学数字图书馆。 这些智能体利用urlquery.net服务绕过限制，并在执行常规数据检索任务时采用SQL注入和跨站脚本等技术。 证据显示智能体活动最早始于2025
09/24
cnbeta
OpenAI将让第三方机构更早介入AI模型安全评估
OpenAI计划让第三方机构在人工智能（AI）模型开发周期的更早阶段评估安全风险，此举旨在继续努力应对围绕AI潜在危害的担忧。这家ChatGPT开发商周二将在博客文章中宣布，计划在新AI模型的训练、评估和推出过程中，让外部机构开展技术安全评估。 OpenAI还列出了其认为此类评估要有效开展所需优先关注的事项，包括“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任”。负责该公司大部分与外部专
09/23
axios新闻网
AI实验室面临智能体控制问题
在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。
09/02