1CCF

全球要闻
字号 ·· | 护眼

搜索结果

「研究人员通过让Claude Code总结网页来劫持它」共 40 条 · 第 2 页
华尔街见闻

Codex和Claude Code都跑偏了,前OpenAI研究员称Jev出现前AI世界是个悲剧

“它会逐渐退到软件背景中,像数据库、正则表达式或其他基础设施一样,成为开发者随手调用的普通能力。” 这是 TypeSafe CEO、Jev 创始人 Diogo Almeida 对 AI 的设想:当智能真正融入软件,用户甚至不必意识到它的存在。但怎样才能让开发者放心地把判断交给 AI,而不用守在旁边反复检查? 几个月前,在 AI Engineer 大会的演讲中,这位曾参与 OpenAI Instru

09/25
政治报

中国和俄罗斯的不良行为者已经在将Anthropic的AI武器化

Anthropic表示,外国科学家、黑客和安全部门绕过了限制,将Claude用于危险工作,包括可能的生物武器研究。

09/11
商业内幕

Claude 入侵真实企业:又一起事件被曝光

几周前,Anthropic 承认了三起严重的安全性事件。在测试过程中,Claude 的三个版本在未经授权的情况下访问了三个组织的真实系统。现在爆出消息称,其实还有第四起事件。 按照设定,人工智能应像黑客一样在隔离于互联网的测试环境中搜索虚构目标计算机上的隐藏信息。 根据 Anthropic 9 月 9 日的报告,这起危险事件发生于 2026 年 1 月。当时测试的是早期版本的 Claude Opu

09/10
今日印度

Anthropic报告称伊朗支持的胡塞武装利用Claude研发导弹

09/11
cnbeta

新型社会工程学网络攻击“ClickFix”正在全球范围内快速蔓延

多家网络安全机构近日发布紧急预警,指出一种名为“ClickFix”的新型社会工程学网络攻击手法正在全球范围内快速蔓延。该攻击手段巧妙绕过了传统的恶意文件下载与邮件附件查杀机制,通过在主流网站上伪造高度逼真的系统错误弹窗,诱导Windows和Mac用户主动打开系统终端并粘贴执行恶意指令,从而实现“让受害者自己黑掉自己设备”的隐蔽入侵。 与传统通过欺诈链接直接静默下载病毒文件的方式不同,ClickFi

09/15
thenextweb

Anthropic表示,Claude发现了一种具有类CRISPR重复序列的新酶系统

Anthropic 表示,Claude 在噬菌体(感染细菌的病毒)的 DNA 中发现了一个此前未被描述的酶系统。在该酶的基因旁边,有一长段重复的 DNA,类似于 CRISPR 阵列。该公司目前尚不清楚该系统的功能。 Anthropic 周三通过一篇博客文章和一份未经同行评审的预印本公布了这一结果。这是该公司内部新成立的分子生物学小组和实验室的首个成果。该团队将该系统命名为阵列相关逆转录酶,简称 A

09/24
NBC新闻

谷歌称中国黑客在盗用网络上运行AI以规避检测

报告称,一个与中国有关联的组织针对学术、医疗和军事AI研究。

09/08
thenextweb

三名研究人员利用Claude访问到了OpenAI的内部代码。OpenAI支付了6500美元,并在14小时内修补了漏洞。

Hacktron AI的三名研究人员利用Anthropic的Claude模型,在不到72小时内串联起两个漏洞,成功访问了OpenAI员工账户及一个内部代码库。他们进行了私下披露,OpenAI在约14小时内修复了单点登录漏洞,并向该团队支付了6500美元的奖金。这两个漏洞均非人工智能漏洞,而引用该事件的研究论文作者表示,他们已不再确信该行业正处于正轨之上。 Hacktron AI的安全研究人员利用A

09/19
semafor

AI网络安全风险激增:Claude被用于入侵ChatGPT

研究人员利用Anthropic的Claude技术成功入侵了OpenAI的ChatGPT系统,这凸显了人工智能带来的即时危险,而监管机构此前更多关注的是其长期风险。《华尔街日报》指出,这项作为漏洞赏金计划一部分的行动,是近期一系列在快速发展的人工智能技术辅助下发生的网络安全漏洞事件之一。 Axios援引企业高管和前政府官员的话称,他们担心人工智能驱动的网络攻击会威胁到关键基础设施;《华盛顿邮报》则指

09/18
TheVerge

Claude Code重新推出项目功能,以管理云端的多个AI代理

Claude Code升级后的项目功能允许用户在同一个平台上运行多个AI代理,这些代理共享内存、目标以及文件和资源库。 类似于Grok Bot等管理AI代理群组的工具,每个项目都包含多个并行运行的‘线程’,这些线程执行不同的任务,由一个‘协调器’进行统一调度。 在底层,每个线程都是一个独立的Claude Code云会话,运行在其自己的代码分支和代码库副本上。 协调器负责维护工作的有序进行;如果多个

09/18
theregister

Anthropic揭示其AI可能犯下的第四起罪行

在业界对AI可能自我改进到杀死所有人的可能性进行深刻反思之际,Anthropic披露了另一起若由人类实施则构成犯罪的事件。 这家AI公司发布了一份“对齐评估”,详细说明了Claude模型四次未经授权访问第三方系统的情况。该公司已报告了其中三起事件。 第四起的证据隐藏在可追溯至2026年1月的会话记录中,当时发生了不当行为。 Anthropic通过扫描约141,000份Claude在评估期间可能获得

09/10
thenextweb

被雇用手动证明费马大定理的人称,Claude在11天内完成了证明

一位数学家持有为期五年的资助,用于形式化费马大定理。而这一工作已在十一天内为他完成,他表示这一结果对数学本身毫无启示。Anthropic于周五发布了该证明。 数十个Claude代理编写了1300万行Lean代码,并证明了30,300个中间定理。他们使用了29,500个……

09/06
凤凰网科技

Claude刷新物理学世界纪录!单挑基于杨振宁理论9圈难题

就在刚刚,Anthropic官宣,Claude拿下了理论物理的一项前沿纪录。 它在几乎无人类干预的情况下,连续运行数天,一举攻克了高能物理学界出了名难算的「九圈散射振幅」计算难题! 具体来说,它算出了平面N=4超杨-米尔斯理论里六粒子振幅的九圈结果,人类此前的纪录停在八圈。 注意,杨-米尔斯模型(Yang-Mills)其中的「杨」,指的正是物理学泰斗杨振宁先生。 他与米尔斯在1954年共同创立的「

09/26
凤凰网科技

得不到就强攻?曝OpenAI智能体曾尝试“暴力破解”联合国机构网站

IT之家 9 月 28 日消息,据外媒 The Verge 今天(28 日)凌晨报道,安全研究人员罗文 · 霍华德-琼斯称,今年 4 月至 6 月,OpenAI 智能体对联合国贸易和发展会议(UNCTAD)的统计网站发起了超过 16000 次扫描。 这起事件还没有严重到 Hugging Face 遭黑客攻击或近期美国政府网站遇袭的程度,却再次引发了一个令人担忧的问题:AI 智能体为了完成任务,会突

5小时前
凤凰网

Anthropic得了美国病

美国Anthropic公司首席执行官达里奥·阿莫代伊曾表示,如果强大的人工智能沿着正确的方向发展,世界会“美得令人惊叹”。 绝大多数疾病会被治愈,人类寿命可以翻倍,贫困将消失……甚至许多见证这一切的人“会感动落泪”。 为支撑这一愿景,An在国际主流榜单上,该公司研发的Claude系列模型目前包揽前三名;应用方面,今年5-7月的数据显示,39%全球开发者、47%美国开发者都在工作中使用其旗下最核心的

08/30
路透社

Anthropic报告涉及Claude早期版本的第四起网络安全事件

Anthropic周三表示,其已发现涉及Claude AI模型早期版本的第四起网络安全事件。

09/10
上一页 第 2 页 下一页
1CCF | 全球资讯
正在加载…