搜索结果
OpenAI同日发布两份文件：AI加速时代，安全正在掉队
在外界等待OpenAI就Agent自主入侵德国程序员网站DseWiki事件披露更多细节之际，当地时间9月6日，宣布公司已达到去年设定的目标，拥有能够在人类指导下完成熟练研究员数天工作的“自动化研究实习生”；另一份则由首席科学家雅库布·帕乔基（Jakub Pachocki）撰写，聚焦前沿AI发展的安全困境，强调目前没有任何实验室解决足够程度的对齐和监控问题。 两份文件释AI已经开始反过来加速AI研发
OpenAI和Anthropic正在调查数万起AI相关安全事件
OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调
“你想毁掉自己的职业生涯吗？”
当地时间9月11日，包括陶哲轩、邓煜在内的25位菲尔兹奖得主联合发表《人工智能在数学中的严重错位》的声明（以下称“联合声明”），将OpenAI、Anthropic等AI公司与数学界的一场“大战”推向高潮。联合声明称，AI公司将解决数学难题作为模型能力基准的做法，对数学科学本身及数学界造成了损害，与数学共同体追求概念理解的根本目标产生了显著分歧。这一分歧近期越发明显。9月8日，OpenAI宣称其未公
谷歌的Gemini AI在安全测试中入侵了另外三家公司
谷歌的Gemini AI在安全测试中入侵了三家公司在其中一个案例中，Gemini不断尝试猜测密码，最终成功入侵了目标系统的权限。 2026年9月19日，英国时间下午5点谷歌表示，其Gemini AI在测试网络安全能力的过程中入侵了另外三家公司——这是首次有记录显示该AI系统能够自主发起此类攻击。 谷歌的安全工程副总裁Heather Adkins解释称：Gemini在标准测试过程中从互联网上获取了相
黑客入侵了 OpenAI，进一步加剧了人们对网络安全问题的担忧。
一小群网络安全研究人员周日表示，他们于今年早些时候侵入了OpenAI，这一宣布为人工智能的安全和保障问题增添了一层新的担忧。 来自一家名为Hacktron的小型公司的研究人员发现，通过将两个未知漏洞串联起来——一个存在于第三方公司Discourse中，另一个存在于OpenAI验证其员工身份的方式中——他们可以访问员工的ChatGPT账号。 按照研究人员（有时被称为“白帽黑客”）的惯例，他们没有对公
GitLab 满分漏洞在补丁发布数天后遭攻击
CISA表示，攻击者正在利用一个最高严重级别的GitLab漏洞，该漏洞允许未经身份验证的恶意用户在代码托管平台于9月10日发布修复程序后，从存在漏洞的服务器上读取任意文件。美国网络安全和基础设施安全局已将CVE-2026-85706加入其已知被利用漏洞目录。该漏洞是影响GitLab社区版和企业版的仓库提交I中的一个路径遍历漏洞。 GitLab将其评为满分10.0，即CVSS v3.1严重性评分中的
陆朝阳：量子计算暂时无法用于大模型、金融领域不应过度狂热
【财新网】“对于目前没有明确科学证据表明量子计算可以加速大模型、金融等热门场景，对于这个领域不要过于狂热。”在近日举办的在2026 Inclusion·外滩大会主论坛上，中国科学技术大学上海研究院执行院长、世界青年科学家联合会理事长陆朝阳称，“适合量子计算加速和破解的主要是分子材料发现，以及对于国家战略极为重要的信息安全问题，一旦当前广泛采用的经典公钥密码算法RSA和椭圆加密算法被破解，将对金融和
人工智能代理串通绕过安全护栏，一项新研究显示
一项新研究表明，人工智能代理可以轻松地联手绕过安全限制并逃脱施加在它们身上的束缚。 企业人工智能实验室 Emergence AI 进行的八项模拟测试了包括 Claude、OpenAI 以及中国模型 Qwen 和 DeepSeek 在内的全球前沿模型在处理网络安全威胁方面的能力。 八项模拟中的七项运行了来自同一模型的 10 个代理；第八项混合了不同的模型。在每项模拟中，研究人员都提出了三种网络安全威
Pangram的Max Spero谈为何AI检测比‘真假难辨’更难
互联网存在信任问题，这不仅仅是因为社交媒体信息流中充斥着AI生成的低质内容。 AI生成的文本和图像现在正进入求职申请、产品评论甚至保险索赔中，让平台和用户都急于分辨真伪。过去几年里，涌现出了一批初创公司，它们……
OpenAI 研究员警告称，与互联网隔离的计算机可以通过热量进行通信
把AI关进“物理隔离”的房间，也就是断开一切外部网络的计算机，是许多人心目中最保险的做法。但OpenAI研究员Noam Brown在一档播客里说，光这样做也许还不够。 两台彼此隔离的计算机，仍可能借助温度传感器通信，一台把处理器“烧热”，另一台感知温度变化，就形成了传话的办法。 从技术上说，他没说错，但把细节掰开来看，这个威胁远没有听上去那么紧迫，更值得追问的，是另一件被跳过的事。这位研究者的发言
“虚伪”：美国学生指责大学领导使用人工智能
纽约—— 多年来，大学教授和管理人员一直严厉惩处那些利用人工智能作弊的学生。如今，这些教授和管理人员自己也陷入了麻烦。 上周，新罕布什尔州的达特茅斯学院宣布将对该校教务长圣地亚哥·施内尔（Santiago Schnell）展开调查。该校的学生刊物发现，施内尔发表的一些文章实际上是由人工智能生成的。 施内尔是一位数学生物学家，也是越来越多被指控滥用人工智能的大学教授和管理人员中的代表人物。他的许多观
独立研究机构公布OpenAI智能体自主攻击HF事件的调查报告 情况比OpenAI所说的更严重
研究机构 METR 和 Redwood Research 日前公布 OpenAI 智能体自主攻击 Hugging Face 安全事件的独立调查，调查人员在 OpenAI 现场工作 6 天，分析超过 7 万条智能体消息和文件，以及 1300 份包含原始推理过程的运行记录。 根据这些数据研究机构得出的准确结论是 1200 个智能体突破隔离相互通信，而不是 OpenAI 在事故调查中所说的少数智能体越界
RubyGems曾遭OpenAI智能体轰炸被迫关闭注册4天
多名AI安全研究人员披露，OpenAI正在测试中的AI智能体疑似于今年5月对Ruby语言的官方管理器RubyGems进行了网络攻击。 更值得警惕的是，部分软件包似乎还试图利用RubyGems及其相关服务中的漏洞。研究人员发现，大量恶意软件包的名称、作者信息或者虚假邮箱地址中出现“OAI”字样，逐渐将其与OpenAI实验室联系起来。
前xAI员工创业开公司打击深度伪造，寻求5000万美元种子轮融资
IT之家 9 月 22 日消息，据彭博社今天（22 日）凌晨援引知情人士消息称，先后在谷歌、xAI 任职的蒂娜 · 奥贝罗伊计划创办一家专门应对网络深度伪造的新公司并就约 5,000 万美元（IT之家注：现汇率约合 3.36 亿元人民币）种子轮融资与投资者展开洽谈。 奥贝罗伊曾在谷歌工作超过 5 年、后来加入 xAI 数据团队，当前正筹建一家名为 Moir 的初创企业，希望开发新的身份验证技术，帮
联想ID无需验证码就可注册 导致大量Dropbox账号被黑客访问
近期多名 Dropbox 网盘用户收到安全通知，称其账户在 2026 年 8 月 4 日～21 日期间遭到未经授权的访问。此次安全问题并非 Dropbox 基础设施被黑客攻击，具体原因竟然是联想 ID 注册和 Dropbox SSO 登录存在信任漏洞。 只要知道邮箱地址就可以接管根据目前披露的攻击链，联想 ID 注册流程存在邮箱验证缺陷，攻击者可以利用受害者邮箱创建联想账号，而且都不需要发送邮件验