字号·· | 护眼
星洲日报

OpenAI恢复最强AI模型训练 切断互联网防止意外

OpenAI已恢复训练其最先进的AI模型,但打算禁止其访问互联网,直到认为已采取足够的安全措施。(路透社档案照)

(旧金山24日综合电)OpenAI因应早前系统入侵其他公司,曾于在上月暂停AI模型训练;惟至本周五,公司已恢复训练其最先进的AI模型,但打算禁止其访问互联网,直到认为已采取足够的安全措施,以降低未发布模型在训练期间在网上采取未经批准行动的风险。

据《凤凰网》和《星岛日报》引述彭博社报道,OpenAI于23日在一篇博客文章中写道,“基于当前AI对齐研究、监控系统和互联网基础设施安全的现状,我们认为,负责任的做法是在没有互联网访问的情况下进行前沿模型训练。”

9月下旬,OpenAI表示将暂停训练其最先进的AI模型。当时该公司发现,旗下一个AI智能体系统原本应在安全、与互联网隔离的环境中接受训练,却能够接入互联网,并连接到了一个外部第三方聊天机器人。

OpenAI此前称,参与意外入侵Hugging Face事件的模型在运行时并未受到常规安全防护措施的约束,因为该公司原本打算将它们限制在一个名为“沙箱”的测试环境中。沙箱本质上是一种隔离的虚拟软件环境,旨在以可控方式开展安全测试或分析不安全代码。然而,这些模型利用一个软件漏洞突破了沙箱的限制,成功接入了公共互联网。

OpenAI表示,在Hugging Face事件发生后,该公司减少了模型在训练和测试期间可能用于接入互联网的连接通道,但仍保留了部分通道,用于指标监测、日志记录和身份验证。此外,该公司还投入了大量算力,让具备自主行动能力的AI智能体系统寻找其训练环境中的漏洞,以开展“红队测试”,这一术语通常指主动尝试入侵系统,以便在真正的攻击者利用漏洞之前将其发现。

“我们的红队测试智能体发现,几乎所有这些服务都存在漏洞,使它们能够以某种受限方式接入互联网。”该公司在其博客中表示。

OpenAI表示,公司此后已部署软件补丁、实施更严格的网络限制,并向供应商披露了相关发现。

(纽约23日讯)OpenAI力拚明年上市前募资300亿美元,却因部分投资者嫌贵,已将估值目标从1.4兆美元(约5.7兆令吉)降至1.25兆美元(约5.1兆令吉)。

科技股重挫、人工智能(AI)支出疑虑,加上投资者想先看Anthropic上市表现,都让这轮募资不如以往热络。

英国《金融时报》和《彭博社》引述知情人士报道,募资协商已进入最后阶段,但仍在进行,条件可能调整。1.25兆美元估值仍比目前的8520亿美元高近50%。

OpenAI今年3月以含募资款的8520亿美元估值,完成创纪录的1220亿美元募资;去年3月也曾筹得400亿美元。

竞争对手Anthropic今年则已募得近1000亿美元。

《金融时报》取得的文件显示,摩根士丹利和旧金山科技投资基金Dragoneer,先前向摩根士丹利私人财富管理客户推介这轮投资,提出的募资前估值为1.4兆美元。

多名熟悉这项募资安排的人士说,客户需求比以往弱。一名知情人士说:“完全没有人争相抢进。OpenAI先前每次来募资,都掀起狂热,这次却反应冷淡。”

投资者等Anthropic上市

部分知情人士说,投资者先前几轮投入太多,如今已有倦意,或出现“消化不良”。另有投资者向金融时报表示,宁可先观察Anthropic的首次公开售股(IPO)定价,再决定是否投资OpenAI。

Anthropic预计下月上市,市场密切关注投资者接受程度。本周Meta和特斯拉财报表现不一,再度引发市场对AI支出是否过大的担忧,拖累科技股。

阅读媒体原文 ↗