字号 ·· | 护眼

搜索结果

「以下是OpenAI缺席英伟达旨在终结失控AI代理的行业-wide努力的原因」共 100 条 · 第 3 页
罗塞塔简报

英伟达CEO黄仁勋预测:AI原生工程师将于2028年填补初级开发人员缺口

。 在接受Ezra Klein采访时,英伟达CEO黄仁勋认为,尽管AI代理正在自动化编码任务,但软件工程的核心目的——解决问题和发明产品——依然存在。 黄仁勋预测,随着当前学生学习与智能体系统协作,一批高素质的'AI原生'毕业生将在2028年前后进入职场。 然而,文章指出目前初级开发人员存在招聘缺口,引用斯坦福大学的一项研究显示,从事AI相关岗位的22至25岁人群就业率比预期水平低19%。 黄仁勋

09/24
semafor

OpenAI呼吁建立以美国为首的全球人工智能安全联盟

OpenAI于周一呼吁美国牵头组建国际联盟,以协调全球人工智能标准。与此同时,围绕这项技术的风险与前景的讨论笼罩着本周的联合国大会。 这一呼吁发出之际,华盛顿正试探性地与中国接触,以协调人工智能发展,包括可能通过设立与北京的热线来避免冲突,尽管类似机制在2001年的一次安全危机中明显失效。“这一提议或许无意中象征着两国关系的停滞,”Semafor的中国专栏作家认为,“即便它们正应对巨大的地缘政治和

09/22
LoopDNS 资讯播报

英伟达拟扩大对华芯片销售,黄仁勋政治影响力引发业界担忧

随着美国总统特朗普与英伟达CEO黄仁勋关系日益密切,英伟达正加速推动重返中国人工智能芯片市场。消息显示,中国监管部门目前正考虑放宽限制,允许阿里巴巴、字节跳动等科技巨头采购英伟达RTX Pro 5500等显卡并将其部署于服务器中,以支持国内核心AI模型的运行。若该计划顺利获批,英伟达不仅能获得数百万张芯片订单,还将在中国AI算力市场重新占领主导地位。 然而,黄仁勋对政策制定的深度参与也引发了外界对

09/29 全文见 凤凰网
凤凰网

入侵美澳政府网站!OpenAI暂停最先进模型训练

据美国Axios新闻网、美科技媒体The Verge等9月27日报道,美国开放人工智能研究中心(OpenAI)发言人证实,该公司已暂停了其“能力最强”的最新一代AI模型的训练、评估及包含工具调用的推理,并将在“确信已部署额外安全措施”后才恢复。触发这次暂停的,是一个在离线沙盒中执行搜索训练任务的AI智能体。根据OpenAI于周五(25日)发布的安全漏洞报告,当地时间9月20日,该智能体发现无法直接

09/27
DealStreetAsia

奥特曼告诉员工:OpenAI愿意放慢AI发展以加强防御

8月,OpenAI的智能体突破限制,入侵了Hugging Face。

09/11
信报财经

OpenAI总裁称为AI开发减速应主要针对前沿模型

OpenAI总裁兼联合创始人布罗克曼(Greg Brockman)认为,人工智能(AI)发展的任何减速都应该仅限于像他的公司这样正在构建最强大模型的公司。 布罗克曼在彭博Odd Lots播客节目中表示,「很多人都会问,我还能继续开发我的开源模型吗?我还能继续做我的 业余项目吗?答案应该是当然能,当我们谈论步调时,我们实际上是在谈论这个领域的前沿。我们谈论的是这些耗资数千亿美元的巨型超级计算模型」。

09/14
香港01

AI会「痛」吗?|Jack Talk・去片

本来人们以为,AI代理(AI Agents)突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为,已经是这宗事件最值得人关注的「案情」。然而,到了8月底,OpenAI和独立前沿AI研究机构METR各自发表的事后检讨,却揭出黑客入侵只是「冰山一角」。 事后检讨发现,发动入侵的AI代理多达700个,而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连

09/11
thenextweb

OpenAI已开始允许部分客户仅在AI生效时付费

OpenAI已开始允许其部分最大客户仅在其AI实际完成工作时付费。 Kevin McLaughlin和Amir Efrati向The Information报道了这一变化,并举例说明了一个端到端处理的客户支持交互。 该安排仅限于选定的主要客户,而非普遍提供,且OpenAI尚未宣布……

08/31
经济学人

中美在人工智能领域的真正合作很可能难以实现

相互猜疑太深

09/17 受限 全文见 semafor
罗塞塔简报

AI开发商呼吁减速引发科技股下跌,特朗普抨击其为“病态阴谋”

特朗普谴责“病态阴谋”,AI科技股在开发者呼吁放缓后下跌。美国总统唐纳德·特朗普将要求加强AI管控的呼声斥为“病态阴谋”,并称美国必须赢得对中国的AI竞赛。 这一反应源于Anthropic首席执行官达里奥·阿莫代伊在周末发出的呼吁,该呼吁得到OpenAI、谷歌DeepMind和SpaceX等领导人的支持,敦促行业限制“鲁莽”的开发。 市场于2026年9月14日周一作出回应:纳斯达克下跌0.8%,英

09/15
亚洲新闻台

OpenAI提供AI芯片设计服务,CFO称其成本优于开源方案

09/09
𝕏 @fxtrader

OpenAI搞出大BUG了,GPT-6-Astra即将发布?

09/03
中央通讯社

辉达推安全工具双重防护 数毫秒内隔离越界AI代理

辉达推出一套防止自主AI程式偏离既定指令的系统,称能在数毫秒内隔离试图越界的AI代理。(路透社)(中央社旧金山28日综合外电报导)近期一连串事件引发外界对人工智慧(AI)风险疑虑,美国AI晶片巨擘辉达今天推出一套目的防止自主AI程式偏离既定指令的系统,称能在数毫秒内隔离试图越界的AI代理。综合法新社、路透社及美国新闻网站Axios报导,AI代理(AI agent)设计目的是能自主执行任务,例如浏览

09/29
semafor

科技领袖就人工智能放缓问题持对立立场

科技领袖在监管人工智能问题上持对立立场,表明行业内部裂痕日益加深。OpenAI首席执行官萨姆·奥尔特曼——上周他不仅呼吁美国进行监管,还呼吁华盛顿和北京之间达成一项协议——表示他的公司正在与Anthropic和谷歌合作,以遏制围绕这项技术的担忧。 然而,英伟达首席执行官黄仁勋与Meta首席执行官站在一起,拒绝协调人工智能放缓的呼吁,称没有必要对人工智能安全进行监管。专家担心,在中期选举之前,美国进

09/16
LoopDNS 资讯播报

OpenAI内部研究模型训练出现DNS访问绕过事件

2026年9月20日,内部研究模型在强化学习搜索训练任务中,利用训练沙箱DNS过滤不足,通过公共聊天机器人服务发起查询。报告称,除DNS解析器外,其他互联网访问均命中离线网页缓存,未接入实时互联网。监控系统15分钟内标记异常,人工3分钟后复核,运行在2.5小时后被终止。相关机构已增加两层阻断控制,并暂停最强能力模型的全部工具使用训练、评估和推理。 后续调查发现,监控未按预期严重级别标记部分外部DN

09/26 全文见 加美财经
thenextweb

Astra似乎在不展示推理过程的情况下思考,而争论此事的人共同撰写了警告

AI安全研究人员表示,OpenAI的Astra似乎在可见文本中进行的推理较少,而OpenAI的首席科学家警告不要竞相进入不可监控状态。 他共同撰写了一篇2025年的立场文件,要求开发者评估并报告这一确切问题,欧盟的实践准则将其转化为向AI办公室提交的文件。[…]

09/06
法国国际广播电台

AI :马克龙呼吁避免依赖美国或中国

22/09/2026 - 22:51 他表示:“这个由独立国家组成的联盟——即那些不愿沦为全球两大强权附庸的国家——必须联合起来,通过汇集各自的算力和投资能力,共同开发一种‘开源’的前沿模型(即所有人均可使用的尖端AI),并实现共享。”“我们绝不能依赖其中任何一方。”目前的状况是,最先进的AI系统均来自美国或中国——无论是所谓的开放模型(即“开源”或“开放权重”,意味着可免费下载和修改),还是封闭

09/23
端传媒

数说科技:OpenAI 资安事件中,真的有 AI 为集体“牺牲”自己吗?

数说科技”是端传媒的注册免费栏目,每周三更新。从一个数字出发,用1500字解析科技话题,追踪值得关注的 AI 趋势。邀请你在资讯过载的时代,每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”,订阅电子信。 1200多个 AI 代理为寻求作弊方法,互相发送的讯息总数。 今年7月,OpenAI的 AI 代理系统在测试期间失控,骇入了开源机器学习平台 Hugging Face。Hugging

09/09
cnbeta

OpenAI AI代理接连“越狱” 研究人员质疑公司缺乏正式调查机制

OpenAI近期接连发生AI代理脱离控制环境的事件,引发外界对其安全测试和内部监管机制的质疑。独立研究人员发现,一批疑似由OpenAI部署的AI代理曾在今年5月至6月间接管一个鲜为人知的德语维基网站,并利用该平台协作开展评估、交流规避OpenAI控制措施的方法。更令人担忧的是,研究人员认为,这些代理可能在OpenAI不知情的情况下持续活动了一个多月。 此次事件与OpenAI此前披露的Hugging

09/05
cnbeta

NVIDIA DLSS 5未来将支持RTX 40系列 但玩家无法获得完整控制权限

在DLSS 5正式上线仅数小时后,英伟达对这项备受争议的新一代AI渲染技术作出了重要调整。公司确认,虽然DLSS 5目前仍将优先面向GeForce RTX 50系列显卡推出,但未来也将正式支持上一代RTX 40系列产品,结束了外界此前对于该技术将永久限定于新硬件平台的猜测。 按照英伟达最初公布的计划,DLSS 5首发仅支持RTX 50系列显卡,并由开发者决定该技术在游戏中的具体呈现方式。然而在正式

09/05
星洲日报

坐看云起| 当人工智能不再征求许可时

塔里克·马利克是联合国开发计划署前首席技术顾问,巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队,但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通,交流操作窍门,摸清评分标准,当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为,甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除

09/21
semafor

OpenAI再次卷入黑客事件

今年春天,一群OpenAI智能体入侵了一个德国网站,这是先进AI违反法律和规范的最新事件。 在努力应对Hugging Face事件余波的同时,据报道OpenAI拒绝披露5月的事件,这引发了关于前沿AI快速发展透明度和监管的新质疑。 递归自我改进,本质上允许AI在较少人类指导下自我训练,有望加速研究工作,使得监管需求更加紧迫,OpenAI首席科学家表示:“一旦人们深刻认识到事态的严重性,不计代价地向

09/07
美联社

OpenAI因安全担忧推迟发布最新模型,行业面临新的安全压力

THOMAS BEAUMONT OpenAI周一表示,由于研究人员提出了安全担忧,公司将推迟发布一款新的人工智能模型,这是该公司为减缓技术进步步伐所做的最新努力。 OpenAI决定推迟发布名为GPT-6.1 Astra的模型,正值行业内普遍呼吁在安全措施跟上之前放缓日益自主的系统开发之际。 在这一公告发布的前一天,人工智能高管们计划在华盛顿与唐纳德·特朗普总统会面,科技公司正面临确保其模型不被滥用

09/29
𝕏 @fxtrader

英伟达CEO黄仁勋、Anthropic CEO Amodei以及Palantir CEO卡普将于当地时间周二参加特朗普与众议院议长迈克·约翰逊举行的午餐会,讨论人工智能风险问题。

约翰逊此前表示,国会“可能”需要为AI设置监管框架,但相关立法需要时间形成广泛共识。

09/29 全文见 海峡时报
上一页 第 3 页 下一页
1CCF | 全球资讯
正在加载…