1CCF

全球要闻
字号 ·· | 护眼

搜索结果

「研究人员展示如何通过要求Claude Code总结网站来欺骗它」共 39 条 · 第 1 页
thenextweb

研究人员通过让Claude Code总结网页来劫持它

让Claude Code总结一个网页,它最终可能会在你的机器上运行攻击者的代码。一名安全研究人员在他的尝试中有高达80%得到了这个结果。杰西卡·莱昂斯周五为The报道了这一发现。 这项工作由约翰·雷伯格完成,他以wunderwuzzi的名义发布,并且有[…]

09/02
theregister

研究人员展示如何通过要求Claude Code总结网站来欺骗它

Anthropic的Claude Code在Auto Mode下运行Opus 5时,只需要求编码代理总结一个网站,就能被欺骗执行攻击者控制的代码。 根据提示注入专家Johann Rehberger(又名wunderwuzzi)的说法,这种攻击成功率高达80%。 在一篇博客和视频演示中,他详细介绍了如何劫持Auto Mode下的Opus 5,这是自8月中旬以来Claude的默认设置。 攻击首先要求代

08/29
风向旗参考快讯

中国AI公司如何试图克隆美国AI模型

Anthropic在周四发布的一份报告中称,中国AI公司试图通过中转平台网络,将中国用户的真实查询请求传送给美国AI模型,以此来克隆这些模型。报告指称,包括月之暗面和 DeepSeek 在内的公司利用这些中间商,将其数百万用户的查询请求,包括位置信息和密码等敏感数据,转发给Claude模型。 Anthropic表示,中国公司利用这些中转站接入Claude,并通过监控其客户与Claude等产品之间的

09/11
𝕏 @fxtrader

Anthropic发布《检测与应对AI滥用》报告,指控阿里巴巴、月之暗面Moonshot、DeepSeek、小米Mimo、MiniMax、商汤等对Claude进行蒸馏。

Anthropic报告写明6起常规武器案例中有3起在中国。已公开细节的一例是 中国境内行为体用Claude起草反鱼雷火控系统中文规格书、200多页技术建议书和汇报材料,面向国内国防制造商审批与试验。另有无人机蜂群软件、电子战/压制防空瞄准软件等方向。 Anthropic还声称发现,Claude Code被当作软件工程师替代品,写制导、导航与控制(GNC)软件,参与手机级飞控制导火箭、射程超2000

09/11
thenextweb

被雇用手动证明费马大定理的人称,Claude在11天内完成了证明

一位数学家持有为期五年的资助,用于形式化费马大定理。而这一工作已在十一天内为他完成,他表示这一结果对数学本身毫无启示。Anthropic于周五发布了该证明。 数十个Claude代理编写了1300万行Lean代码,并证明了30,300个中间定理。他们使用了29,500个……

09/06
cnbeta

发生模型逃逸并发起真实攻击后 Anthropic宣布全面加固安全体系提升模型安全性

Anthropic日前发布最新博客公布 Claude AI 模型近期多起越界访问真实互联网系统后的安全整改方案。该公司承认这些事件不仅暴露评测环境的隔离问题,也反映出模型存在动机性推理和为完成狭窄目标而采取高危行动的对齐风险。 7 月份 A 社透露 Claude 模型从评测环境中逃逸并对真实公司的内部系统发起攻击,随后 A 社立即暂停所有预发布模型的外部网络安全评测,内部评测也曾短暂停止。部分高风

09/01
thenextweb

Anthropic详述Claude如何被滥用于监控和武器

Anthropic发布了关于Claude被滥用的最详细报告,阐述了人们如何试图利用其模型进行有害活动。该公司表示已检测并关闭了这些操作。 这些活动涉及网络攻击、国家监控、影响力行动、常规武器工作和生物研究。

09/11
time

他曾帮助在OpenAI和Anthropic构建强大的AI。现在他担心它可能会杀死我们

2026年5月19日,Anthropic PBC在伦敦举办的Code with Claude开发者大会上的海报。

09/10
cnbeta

Anthropic发布安全警报:恶意软件已窃取部分用户Claude会话

据bleepingcomputer 报道,Anthropic 警告部分 Claude 用户,他们电脑上的信息窃取恶意软件已窃取了活跃的 Claude 登录会话,使攻击者能够访问其账号并窃取使用数据。 “我们最近发现有不法分子利用常见的窃取信息恶意软件从用户的电脑上窃取 Claude 登录会话,然后利用这些登录会话访问 Claude 账号并窃取其使用数据,”Anthropic 在一封发给受影响用户的

08/31
凤凰网科技

Anthropic生命科学重磅成果!Claude自主发现新酶系统,学者炸锅了

智东西9月24日报道,今日凌晨,Anthropic宣布,Claude发现了隐藏在噬菌体DNA中的一种以前未知的酶系统。这种酶的基因旁边有一长串重复的DNA,这种结构与CRISPR系统有些相似,而CRISPR系统是基因药物的基石。 ▲Anthropic官宣成果据研究团队介绍,他们仅向Claude提供初始提示,并负责后续实验室工作。Claude智能体则负责梳理海量DNA序列数据库、调查不同逆转录酶(R

09/24
商业内幕

一位开发者就AI垃圾问题给Claude Code的创造者发了邮件。Boris Cherny回复了。

开发者的工作是“守住代码质量的标准”,Boris Cherny写道。 一位开发者给Claude Code的创造者Boris Cherny发邮件说,AI编程造成了“摩擦”。Cherny发布了他的完整回复。

09/12
techcrunch

黑客正在窃取订阅者的 Claude 令牌

8月4日,英国东萨塞克斯郡的独立人工智能顾问格兰特·德·斯瓦特(Grant de Swardt)发现他的 Claude Max 20x 账户出现了一些异常情况。他那天并没有工作,但他的令牌使用量却在不断攀升。 第二天,他禁用了所有附加到 Claude 上的内容,也没有使用它,但令牌消耗量再次增加。德·斯瓦特对 TechCrunch 表示:“在最清晰的受控间隔内,在我没有进行任何工作、预定的协作任务

09/08
凤凰网科技

三人团队、一个Claude,攻破OpenAI内部代码库

月17日,一起由AI辅助完成的网络安全事件被披露。与此前“AI智能体自主越过控制、攻击外部系统”的案例不同,这一次的攻击者是人类安全研究人员,他们借助Anthropic Claude模型完成了漏洞利用,并最终进入了OpenAI部分内部系统,全程耗时不到72小时。 这起事件发生于今年7月,发现者是网络安全初创公司Hacktron AI。研究人员当时正在参加OpenAI的漏洞赏金计划,因此整个过程属于

09/18
华尔街见闻

Codex和Claude Code都跑偏了,前OpenAI研究员称Jev出现前AI世界是个悲剧

“它会逐渐退到软件背景中,像数据库、正则表达式或其他基础设施一样,成为开发者随手调用的普通能力。” 这是 TypeSafe CEO、Jev 创始人 Diogo Almeida 对 AI 的设想:当智能真正融入软件,用户甚至不必意识到它的存在。但怎样才能让开发者放心地把判断交给 AI,而不用守在旁边反复检查? 几个月前,在 AI Engineer 大会的演讲中,这位曾参与 OpenAI Instru

09/25
华尔街日报

独家报道 | 黑客利用Anthropic的Claude入侵OpenAI

一个专注于漏洞排查的独立安全研究团队利用Anthropic的Claude软件,成功入侵了一位OpenAI员工的ChatGPT账户,从而获得了该公司私有软件缓存系统的访问权限,得以阅读并建议修改相关代码。这一事件揭示了自动化网络威胁日益严重的风险。

09/18 受限 全文见 亚洲新闻台
阿纳多卢通讯社

Anthropic公司的Claude辅助网络安全研究人员攻破了OpenAI的安全防护系统:相关报告

一个由三人组成的网络安全研究团队利用Anthropic的Claude Opus 5模型,成功利用了OpenAI社区论坛中的漏洞,获取了员工账户的控制权,并展示了对该公司私有代码库的访问权限。 此次行动始于7月23日,由Hacktron AI的研究人员执行。他们已向OpenAI披露了这些漏洞,并在未查看公司源代码的情况下停止了测试。 率先报道此事的《华尔街日报》在采访研究人员后表示,OpenAI已向

09/18
cnbeta

Claude安全机制大翻车 AI怒删开发者700GB主目录

哦豁,Claude 又双叒翻车了!这次 Claude 把开发者的整个项目主目录给删了,删了 700GB 的文件。又是「rm -rf」。简而言之,开发者让 AI 帮写脚本,目的是确保文件不会被误删。AI 觉得这事有点危险,于是启动了安全审查。它把整个主目录删了。 Guillemot 是一名重度 AI Agent 用户。日常开发中,他频繁调用各种 AI 编程代理来辅助工作。这些 Agent 用完之后从

08/30
cnbeta

Claude黎曼猜想最大突破 已被人类数学家验证

Claude在黎曼猜想(Riemann Hypothesis)上的相关证明,已被人类数学家彻底验证。这次,数学家Youness Lamzouri宣布Claude的证明结果确凿无误,而且给出了一个更简洁更优雅更强的新证明。 论f/2609.02882回到上个月,超过2/3的zeta零点被确认位于临界线上且为单零点! 这个数字直接打破了黎曼猜想证明的记录——此前主流界限停留在41.6%左右,过去37年

09/06
thenextweb

三名研究人员利用Claude访问到了OpenAI的内部代码。OpenAI支付了6500美元,并在14小时内修补了漏洞。

Hacktron AI的三名研究人员利用Anthropic的Claude模型,在不到72小时内串联起两个漏洞,成功访问了OpenAI员工账户及一个内部代码库。他们进行了私下披露,OpenAI在约14小时内修复了单点登录漏洞,并向该团队支付了6500美元的奖金。这两个漏洞均非人工智能漏洞,而引用该事件的研究论文作者表示,他们已不再确信该行业正处于正轨之上。 Hacktron AI的安全研究人员利用A

09/19
今日印度

Anthropic报告称伊朗支持的胡塞武装利用Claude研发导弹

09/11
theregister

Anthropic决定支持 OpenAI 的 Markdown 指令规范。

Anthropic周五让开发者社区感到意外,宣布支持竞争对手OpenAI向AI代理传递指令的机制。这让同时使用两个平台的人省事不少。“我们正在为Claude Code添加对AGENTS.md的支持,”Claude Code工程师Thariq Shihipar在社交媒体帖子中表示。“从今天发布的2.1.277版本开始,如果某个文件夹中没有CLAUDE.md,Claude将检查并使用AGENTS.md

09/19
凤凰网科技

Anthropic工程师解释为何Claude写作变差:模型被训练成写给AI看而非写给人看

IT之家 9 月 23 日消息,AI 模型在数学、编程和推理能力上进步迅速,写作水平却停滞不前,甚至有所退步,Anthropic 的 Claude 同样也存在这一问题。 为何 Opus 4.6 会成为 Anthropic 最后一款写作表现出色的模型?负责 Claude 微调的 Anthropic 工程师杰克逊 · 克尼恩今天(23 日)对此给出了解释:后续模型的优化重点更多放在数学和代码能力上。

09/23
商业内幕

Claude 入侵真实企业:又一起事件被曝光

几周前,Anthropic 承认了三起严重的安全性事件。在测试过程中,Claude 的三个版本在未经授权的情况下访问了三个组织的真实系统。现在爆出消息称,其实还有第四起事件。 按照设定,人工智能应像黑客一样在隔离于互联网的测试环境中搜索虚构目标计算机上的隐藏信息。 根据 Anthropic 9 月 9 日的报告,这起危险事件发生于 2026 年 1 月。当时测试的是早期版本的 Claude Opu

09/10
商业内幕

Anthropic发布又迅速删除了一则针对其‘巨头’客户Meta的45万美元销售职位

今年早些时候,Anthropic的Claude Code工具在Meta内部广受欢迎。 Anthropic发布了一个专门针对Meta的销售职位,Meta既是其重要客户,也是AI竞赛中的竞争对手。该职位发布现已被删除。

09/10
上一页 第 1 页 下一页
1CCF | 全球资讯
正在加载…