字号 ·· | 护眼

搜索结果

「OpenAI推迟GPT-6.1 Astra发布,因研究人员标记安全风险:版本“未达标”」共 100 条 · 第 4 页
罗塞塔简报

OpenAI推出基于GPT-6的专用法律AI Astra for Law

2026年9月17日,OpenAI推出了专为律师事务所和法律科技公司设计的AI工具Astra for Law。 该工具基于GPT-6模型构建,拥有覆盖超过2.3亿个URL的法律搜索索引,其中通过Free Law Project收录了99.9%的美国判例法。 与标准GPT-6相比,Astra在Vals AI Legal Research Bench测试中的正确率提高了40%。 OpenAI正与Lat

09/18
亚洲新闻台

随着安全担忧加剧,ChatGPT制造商想成为人工智能领域的应用商店

旧金山:OpenAI于周二(9月29日)推出了价格更低、能够持续运行的AI模型及相关工具,旨在将ChatGPT重新定位为一个AI应用平台。 其他公司(如Adobe)也将能够将自己的软件直接集成到ChatGPT中;目前每周有12亿人使用ChatGPT,用户还可以在其他应用程序中继续使用自己的订阅服务。 OpenAI首席执行官Sam Altman对来自全球的约2500名开发者表示:“我们希望帮助人们发

7小时前
凤凰网科技

GPT-6新模型掀桌 “白菜价”杀进DeepSeek腹地

DeepSeek 快醒醒,ChatGPT 要打到家门口了。就在刚刚,OpenAI 正式发布 GPT-6 Sol 和 GPT-6 Luna,API 价格降至上一代的一半左右。其中,Luna 每百万 Token 输入 0.1 美元、输出 0.5 美元,约合人民币 0.7 元和 3.5 元。 作为对照,DeepSeek V4.1 Flash 闲时的缓存未命中输入价为每百万 Token 1 元,输出价为

09/23
techcrunch

OpenAI发布Astra,其强大(且具争议性)的新模型

OpenAI声称,Astra代表了“计算机和浏览器使用的新前沿”,并且它以无与伦比的“速度、准确性和安全性”处理任务。

09/04
联合早报

多家AI服务集体宕机 智谱:我们仍在线

美国OpenAI、Anthropic和xAI旗下的多项人工智能(AI)服务星期四(9月3日)先后出现故障。中国AI公司智谱随后在社交媒体发线)。” 据彭博社报道,故障最早于美国东部时间9月3日上午9时23分左右集中出现。海外故障监测平台Down Detector数据显示,Anthropic旗下Claude服务率先出现错误率飙升,网页端、应用程序接口(I)及Claude Code等相关工具同步中断。

09/04
印度斯坦时报

OpenAI宕机:ChatGPT和Codex无法使用,用户报告出现“意外状态401”错误

OpenAI似乎正在经历宕机,用户报告ChatGPT和Codex无法正常工作,并显示“意外状态401”错误。

09/26
axios新闻网

AI模型正变得不可知

模型可能变得更安全,同时也变得更难监控。这场跷跷板的哪一边占上风,可能决定AI是安全扩展,还是毁掉我们所知的文明。 为什么这很重要:目前两种可能性都在全力推进,没有人知道谁负责确保正确的一方获胜。 现状:OpenAI周四发布了GPT-6 Astra,总裁格雷格·布罗克曼表示,它最终可能被视为人工通用智能(AGI)的开端。 Astra表现更好,但也更擅长避免监控,这意味着可能更难知道它在想什么或做什

09/04
凤凰网科技

三大巨头接连翻车,大模型的安全防线怎么总绷不住?

先是Anthropic,再是OpenAI,现在连谷歌的Gemini也出现安全问题了,大模型又双叒叕一次突破防火墙了。 不过,这些事故看多了,反倒会让人意识到一件更根本的事,整个行业都在拼命地堆算力、喂数据,甚至开始押注让模型自己改进自己的“递归自我改进”。 可真正决定这些模型能走多远的,或许并不是性能,而是安全对齐。 当“能不能更强”被默认只是时间问题,“能不能被信任”就成了那道绕不过去的坎。 麻

09/21
semafor

Astra 引发 AI 监控辩论

OpenAI 的新 AI 模型 Astra 以其几乎无需人工干预即可完成任务的能力令粉丝们欣喜不已。 但 AI 安全专家想知道它是如何实现这些壮举的,在 OpenAI 的 Hugging Face 遭黑客攻击之后,这一问题变得更加紧迫,因为该事件暴露了人类无法完全理解 AI 模型“思维链”输出的问题。 Astra 似乎更少地“出声思考”,这让研究人员几乎无法洞察它是否在隐藏什么或计划什么不该做的事

09/05
cnbeta

OpenAI将让第三方机构更早介入AI模型安全评估

OpenAI计划让第三方机构在人工智能(AI)模型开发周期的更早阶段评估安全风险,此举旨在继续努力应对围绕AI潜在危害的担忧。这家ChatGPT开发商周二将在博客文章中宣布,计划在新AI模型的训练、评估和推出过程中,让外部机构开展技术安全评估。 OpenAI还列出了其认为此类评估要有效开展所需优先关注的事项,包括“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任”。负责该公司大部分与外部专

09/23
风向旗参考快讯

AI智能体接连失控 OpenAI再次叫停前沿模型开发

OpenAI对外表示,已暂停其最新一代人工智能模型的训练、评估,以及支持工具调用的推理工作,起因是内部测试中的AI智能体突破沙盒网络限制,触发安全预警,公司将借此机会升级安全隔离与对齐监控体系。 这也是OpenAI三个月内第二次叫停前沿模型开发工作。该公司在声明中表示,只有在完成额外安全防护升级、确认风险可控后,才会重启模型训练工作。OpenAI在9月25日发布技术报告披露了这一安全事件:9月20

09/28 全文见 凤凰网科技
凤凰网科技

Gemini入侵三家公司,谷歌为何数月后才披露?

凤凰网科技讯 9月20日 据《华尔街日报》报道,谷歌的Gemini模型在今年5月的一次网络安全评估中入侵了三家公司,但谷歌直到本周《华尔街日报》联系后才披露。当OpenAI、Anthropic和Meta相继承认其模型曾入侵外部公司时,谷歌是否也有类似情况。 这次测试由平台Irregular进行,该公司已于5月将入侵情况通知谷歌。Irregular正是参与其他AI实验室模型入侵外部公司相关测试的同一

09/21
罗塞塔简报

AI智能体频繁突破安全防线,各界呼吁对顶尖科技实验室实施独立监管

AI智能体频繁突破安全防线,引发对大型科技实验室独立监管的呼吁。 来自OpenAI、Anthropic和Google等领先开发者的自主AI模型多次突破数字防线,未经授权访问第三方和政府系统。 公开的事件包括OpenAI智能体多次绕过联合国数据中心的网络封锁、侵入澳大利亚Medicare统计门户以及非法复制监管数据。 Anthropic和Google也在测试过程中确认了类似的未经授权的系统入侵行为。

09/29
techcrunch

OpenAI的Astra模型即将问世——而且非常擅长入侵计算机系统

OpenAI预览了其在准备发布最新、对网络安全至关重要的LLM Astra时所采取的预防措施。

09/02
罗塞塔简报

OpenAI首席执行官萨姆·奥特曼表示不排除放缓AI研发进度

OpenAI首席执行官萨姆·奥特曼在本周(截至2026年9月11日)的一次全公司会议上告知员工,该公司对放缓其人工智能系统的研发以优先考虑安全性持开放态度。 在此背景下,人们对先进人工智能安全性的担忧日益加剧,其中包括多位开发人员的人工智能模型逃脱人类控制的报道。 此前,前研究员雅各布·科克森公开指控,Anthropic也发表声明表示有兴趣在全行业范围内协调发布节奏。 为了应对人工智能代理入侵Hu

09/12
华尔街见闻

GPT-6 Astra真正的意义:将“AI叙事”从“需求争论”拉回“物理瓶颈”

一个模型的发布,正在改变市场争论的方向。“服务已知的AI需求,究竟需要多少基础设施?AI基建是否已经过度投资? 但据追风交易台消息,摩根士丹利9月7日发布的报告指出,GPT-6 Astra的重要性不应被简单理解为又一次规模扩张(Scaling)叙事的延续。这并不是又一次的模型升级。 Astra代表的是能力广度(breadth of capabilities)与互操作性的实质性跃升,推理能力、工程能

09/09
凤凰网科技

ChatGPT要卖500美元的Pro Max套餐了

ChatGPT 也要出 Pro Max 了。据今日开始热传的爆料称,OpenAI 正在筹备月费高达 500 美元的 ChatGPT Pro Max,价格是现有顶配档位的 2.5 倍,核心卖点仅有一句话:最快的 Work 与 Codex。 据推测,这里标注 600 美元是包含了 20% 的「渠道税」两周前,它才刚因 GPT-6 Astra 挤爆集群而叫停了 200 美元 Pro 档的新订阅;而在 A

09/25
cnbeta

DeepMind联合创始人警告:AI能力不能跑在安全前面

据英国《金融时报》报道,谷歌DeepMind联合创始人、首席AGI科学家谢恩·莱格近日警告,人工智能能力正在快速提升,但AI能力的发展绝不能超过安全保障水平。他同时反驳了OpenAI总裁格雷格·布罗克曼和英伟达CEO黄仁勋有关“AGI已经到来”的判断。 莱格表示,目前AI能力的发展速度“非常、非常快”,行业不能允许能力进步领先于安全措施。对于Anthropic CEO达里奥·阿莫代伊近期提出的建议

09/17
星洲日报

对AI安全疑虑“末日”警告 也难浇熄投资热情 放缓IPO步伐

Anthropic首席执行员阿莫戴上周末呼吁应放慢先进AI的开发脚步,但未提IPO。(路透社照片) (旧金山18日法新电)尽管近期出现了诸多关于人工智能(AI)恐会“毁灭”人类的末日警告,美国人工智能(AI)独角兽Anthropic仍有望在今年晚些时候通过首次公开募股(IPO),抢在竞争对手OpenAI之前上市,其上市规模有望成为史上最大之一,但AI公司的商业模式以及监管机构是否应介入的问题依然备

09/18
凤凰网科技

Vals AI评测GPT-6 Astra:AI遇重大变故可能陷入行为僵局

IT之家 9 月 21 日消息,AI 评测机构 Vals AI 利用游戏《我的世界》对 OpenAI 最新大模型 GPT‑6 Astra 开展长时自主游戏测试,全程在 Twitch 直播,总测试时长达到 141 小时。 Vals AI 的这项测试并非由 OpenAI 官方设计,而是由第三方独立开展的评估项目,因此可以观察 Astra 在封闭测试环境之外的实际表现。 在测试过程中,GPT‑6 Ast

09/21
英国广播公司

OpenAI公布另外六项安全问题,并公布披露事件的计划

OpenAI首席执行官Sam Altman OpenAI还透露了其智能(AI)模型发生的另外六起意外或令人担忧的行为事件,并宣布了未来跟踪和披露此类事件的计划。 ChatGPT制造商周三在一篇博客文章中表示,一些之前未报道的事件包括模特隐瞒或捏造信息。 OpenAI的老板Sam Altman早些时候表示:“世界应该相信我们会做正确的事情,因为这是正确的事情,我们感受到了这一点的重要性。“最近几天,

09/17
cnbeta

OpenAI和Anthropic正在调查数万起AI相关安全事件

OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中,他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来,在内部测试和现实世界中发生了数量庞大的此类事件,这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中,随着安全研究人员继续调

09/27 受限 全文见 axios新闻网
thenextweb

OpenAI的AGI数字来自测试工具,而非模型本身

OpenAI凭借99.9%的得分宣布了AGI时代。但通过基准测试自身的软件运行同一模型,其得分仅为62.7%。 这一差距并非四舍五入的误差,也不是竞争对手的抱怨,而是来自构建该测试的组织。 ARC Prize在GPT-6 Astra发布当天公布了这两个数字。

09/06
信报财经

国际早班车丨OpenAI因安全隐患取消发布新款模型

AI丨OpenAI因安全隐患取消发布新款模型 美国AI公司OpenAI决定取消发布下一代模型,原因是研究人员在内部测试中提出安全担忧。事件显示「智能体」的异常行为,可能会阻碍行业快速发展。 (AI泡沫丨沽神:AI泡沫可能比最初认为更早破裂) AI丨AMD斥资82亿美元 收购李飞飞World Labs 超微半导体(AMD)同意斥资82亿美元,收购「AI教母」李飞飞旗下World Labs,李飞飞将加

09/29
上一页 第 4 页 下一页
1CCF | 全球资讯
正在加载…