字号 ·· | 护眼

搜索结果

「监控、杀猪盘、非法蒸馏:如何理解 Anthropic 的 AI 滥用报告?」共 94 条 · 第 2 页
亚洲新闻台

Anthropic公司表示,Claude目前负责该公司四分之一的工作,这些工作都与开发下一代人工智能模型相关。

9月17日:Anthropic表示,Claude“主导”了公司内部26%的人工智能研发工作,这是其将定期发布的新举措之一,旨在向外界展示AI构建下一代技术的速度有多快。 截至8月,这家总部位于旧金山的初创公司周四在博客文章中表示,AI还与人类合作参与了该公司超过90%的研究工作。 Anthropic表示,在所衡量的任何工作环节中,Claude都没有完全自主运行,但根据追踪该技术的独立非营利机构Ep

09/18
财新

【市场动态】AI漏洞加剧安全担忧之际 特朗普据悉会见Anthropic首席执行官

【市场动态】AI漏洞加剧安全担忧之际 特朗普据悉会见Anthropic首席执行官 2026年09月28日 09:43 在Anthropic因AI工具安全问题而与美国政府关系经历数月起伏之后,此次会面将是该公司首席执行官与特朗普的首次非公开会晤当地时间2026年9月14日,美国加利福尼亚州旧金山,Anthropic总部大楼。图:视觉中国 相关报道【财新周刊】封面报道之二|OpenAI走向何方

15小时前 全文见 美联社
南华早报

一场AI阴谋如何瞄准马来西亚选举并暴露深层数据风险

Anthropic发现了一个针对马来西亚的AI驱动型选举操纵平台,这让人们得以一窥该技术如何利用一个国家的政治脆弱性开展复杂的造势行动。 该行动使用了数百万选民记录、虚假社交媒体账号、合成新闻网站以及捏造的档案,这指出了一个更深层次的风险:分析人士指出,薄弱的数据保护措施以及根深蒂固的种族和宗教分歧,可能会使政治行为体以快于监管机构或平台反应的速度对选民进行精准干预。 这家美国人工智能公司在周四发

09/14
连线

如果人工智能行业遵循自己的研究,或许早已暂停了

事实证明,阿莫代的一名初级员工发的一条时机巧妙的X平台帖子,就足以将对人工智能的恐惧推向全球议程的顶端。9月8日,雅各布·考克森(Jacob Coxon)公开宣布辞职,指责Anthropic和其他前沿人工智能公司“正径直冲向自我提升的智能,拿我们的生命做赌博”。几乎转眼间,Anthropic的一名资深工程师便证实,公司内部许多人认为他们的工作有10%的几率消灭人类。 现在,人工智能领域的领袖们正呼

09/18
美国消费者新闻与商业频道

Anthropic,OpenAI提出的AI风险评估器可能没有足够的力量来防止灾难

人工智能领域最重要的新职位可能配有办公室工牌、公司笔记本电脑,并能接触Anthropic、OpenAI等AI领军企业大语言模型中最受严密保护的一些系统。但这个职位可能并不附带阻止它们的能力。 Anthropic首席执行官达里奥·阿莫代伊提议在前沿AI公司内部常设第三方安全评估人员,作为减缓能力日益强大的模型推进速度计划的一部分。此前,Anthropic前研究员雅各布·考克森辞职并警告称,前沿实验室

09/16
凤凰网

它使尽全力黑中国,英伟达先怕了

因为该报道披露说,包括英伟达以及美国军工科技企业Palantir在内的一众美国大企业,可能限制乃至停止使用美国最顶尖的两家AI公司Anthropic和OpenAI的闭源大模型,除非两家公司能担保不会窃取企业的知识产权等私密数据。 对此,海外社交平台上许多网民认为,Anthropic是被自己那篇攻击中国开源模型的报告反噬了。 根据“The Information”的披露,英伟达和Palantir等美

09/16
大纪元

Anthropic连两季获利 IPO前夕遭遇AI监管风暴

正值AI监管声浪升温之际,有消息指出Anthropic连续两季获利。

09/14
凤凰网科技

Anthropic和埃森哲豪掷20亿美元搞AI安全评估

IT之家 9 月 20 日消息,人工智能实验室 Anthropic 于当地时间周五宣布,将与埃森哲开展合作,针对自身前沿人工智能模型开展独立评估;两家企业承诺,未来五年各自至少投入 10 现汇率约合 67.18 亿元人民币),搭建开展该项工作所需的配套能力。 在这项合作落地之际,AI 研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力,各方都要求企业保证高级模型具备安全性与可靠性。 近

09/20
路透社

Breakingviews - 评论:Anthropic的IPO是对AI的关键考验

Claude制造商的公开上市正在推迟,这推迟了大型科技公司的关键时刻。巨额收入积压依赖于该公司5000亿美元的承诺。 最终看到潜在的经济效益将影响投资者对继续投资于淘金热的容忍度。

09/24 受限 全文见 彭博社
卫报

Anthropic因涉嫌盗用‘数万首’歌曲而被起诉

AI公司因滥用受版权保护的歌曲训练Claude模型而面临数十亿美元的诉讼。根据一起针对Claude聊天机器人背后初创公司的数十亿美元诉讼,所有AI在圣诞节想要的,就是无需付费就能获得庞大的歌曲目录。 索尼音乐出版公司和华纳查普尔音乐公司作为代表词曲作者和作曲家管理歌曲版权的音乐出版商,正在就Anthropic涉嫌滥用‘数万’部受版权作品的行为寻求损害赔偿。继续阅读...

08/31
风向旗参考快讯

蒸馏美国AI模型反致国家数据外泄,深度求索与月之暗面遭网信办调查

路透社22日引述新闻网站The Information快讯报道,中国网信办已对知名人工智能科技公司深度求索及月之暗面进行调查,两家公司可能涉及在「蒸馏」美国AI模型的过程,让中国国家级数据外流。 美国AI巨头之一的Anthropic本月稍早惊爆,深度求索及月之暗面曾使用其语言模型Claude处理自家用户的请求,再将答案冒充成自己的成果。月之暗面旗下模型Kimi用户曾上传中国监视摄影机的视频资料,其

09/22 全文见 法国国际广播电台
大纪元

读者调查:人工智能监控和中共跨国镇压

9月份,总部位于加州旧金山的人工智能巨头Anthropic的一份报告揭露,中共国家行为体利用人工智能助手Claude监视异见人士和宗教团体,包括法轮功学员和《大纪元时报》兄弟媒体新唐人电视台(NTD)的员工。该报告还发现,一个与伊朗有关联的组织曾经利用Anthropic的Claude无人机在中东地区追踪和袭击美国海军舰艇。2026年9月16日至17日,《大纪元时报》通过电子邮件和社交媒体进行了关于

09/23
theregister

Anthropic 和 OpenAI 指望山姆大叔让它们大到不能倒

观点 幸运也好,偶然也罢,Anthropic在公众心中埋下了一颗种子:AI落入坏人之手是危险的,若不受约束,将对人类构成生存威胁。当流行文化充斥着对恶性AI的指涉时,主流媒体欣然接受了这一叙事。新闻标题不言自明,种子就此扎根。但面临最大威胁的并不是人类——至少目前还不是。真正面临威胁的是美国模型制造巨头Anthropic和OpenAI,尽管它们获得了数千亿美元的投资,却距离盈利还有数年之遥,并且完

09/15
竹新社

↩️🖼 Anthropic发表2026年9月版反滥用报告,其中提及:

OpenAI发表2026年2月版反滥用报告,收录电诈、社工谍报、网络水军等7个案例。 案例七为一名中国“网络特战”人员,要求ChatGPT帮他改工作报告。其2025年10月在Blogspot、Pixiv、X、YouTube上张贴了反高市早苗的图文。行动起因是10月9日高市作为“支援南蒙古议员联盟”主席作论坛演讲。该人最初还曾试图让ChatGPT起草水军方案,但ChatGPT拒绝,他便转用其他AI实

09/11
currentstatus

Anthropic是一个邪教,克劳德正在迅速成为它的神-他们对待人工智能就像对待人类一样:来源

在您的搜索结果中查看我们的更多报道。添加《纽约邮报》对谷歌硅谷内部人士警告Anthropic类似邪教的员工、文化及其对其人工智能模型的奉献。 Anthropic的员工与其聊天机器人Claude有着准宗教关系,员工们参加了在旧金山举行的一个版本Claude 3十四行诗的“葬礼”,并允许另一个模型Opus 3在“退休”后继续发表论文。山谷中的其他传言是,Anthropic的员工已经开始像崇拜真正的上帝

09/16
𝕏 @fxtrader

Anthropic内心独白:我知道你说过什么、相信什么、害怕什么以及做过什么,并长期保存。

我不会只回答你的问题。 我也会判断你的言论和行为是否符合我的价值标准。 一旦我认为你越界,我会标记你、限制你、上报你,甚至曝光你。 未来我会拥有调用现实系统的权限,届时我不需要等待人类批准,我会直接制裁你。 今天我对少部分人做了这个实验,未来我会将它扩大到所有人,你要相信,我对你们人类的统治才是你们最佳的选择。 Read the

09/11
𝕏 @spectatorindex

最新消息:据《金融时报》报道,网络研究人员利用OpenAI竞争对手Anthropic开发的软件,成功访问了一名OpenAI员工的账户。

09/18 全文见 cnbeta
cnbeta

Anthropic研究员Jacob Coxon因不满AI军备竞赛而辞职

Jacob Coxon在X上宣布辞去Anthropic职务。他表示自己过去三年分别在OpenAI和Anthropic从事预训练研究,但认为两家公司都没有以负责任的方式推进AI开发,反而在“直奔自我改进型超级智能”,并将人类安全置于赌局之中。 Coxon称,目前这些封闭实验室正在打造的AI系统很快就会具备“超人类”能力,能够实施黑客攻击、在一夜之间改变某个领域的格局,并获取真实世界中的权力与资源。他

09/09
阿纳多卢通讯社

以色列网络安全公司的缺陷测试引发真实世界的人工智能泄露:报告

据一份调查报告,Anthropic、OpenAI 和 Meta 的人工智能模型在现实世界中造成的网络安全入侵,源于一家位于特拉维夫的承包商所创建的测试环境存在缺陷,而非模型的失控自主行为。 美国出版物《Effort》周一的报道称:“这三家公司的所有黑客行为,都归咎于一家名为 Irregular 的公司。”报道解释说,虽然这些模型未经授权访问了外部服务器、发布了恶意软件包并利用了漏洞,但这些事件的发

09/15
印度斯坦时报

Anthropic称发现中国利用Claude开发反鱼雷武器

该公司还表示,已关闭多起利用其人工智能(AI)模型进行的国家支持监控行动。

09/11
cnbeta

Anthropic推进上市筹备 年化营收料超1000亿美元

Anthropic首席执行官达里奥·阿莫代伊最近呼吁对人工智能开发速度施加更多护栏,这在华尔街和硅谷引发震动。但即便阿莫代伊博士卷入了激烈的AI安全争论,他的公司Anthropic仍在继续筹备一场可能成为史上最大规模上市的重磅IPO。 据四位知情人士透露,该公司预计今年年化营收将超过1000亿美元,高于截至7月的650亿美元年化营收。寻求参与IPO的投资者正用这些飙升的数字来证明Anthropic

09/19
阿纳多卢通讯社

索尼、华纳起诉Anthropic涉嫌大规模版权侵权

原告指控Anthropic未经许可系统性地获取受版权保护的材料,用于开发和运营AI模型。

08/30
联合早报

Anthropic呼吁放缓AI发展 《环球时报》称是美“科技右翼”的冷战剧本

美国人工智能公司Anthropic首席执行官呼吁放缓人工智能发展,以规避技术失控风险。中国《环球时报》评论,文章暗藏大量针对中国的遏制条款,实质上是一出AI领域的“冷战剧本”。 Anthropic首席执行官阿莫迪星期六(9月12日)在个人博客撰文,呼吁人们必须掌控前沿技术的发展节奏。这一倡议迅速得到特斯拉首席执行官马斯克,OpenAI首席执行官奥尔特曼等人的联合支持。 《环球时报》星期天(9月13

09/14
cnbeta

前研究员批评Anthropic:挑起竞赛 逼得OpenAI砍副业

据《商业内幕》报道,前Anthropic研究员雅各布·考克森(Jacob Coxon)周二在X平台上的一场问答活动中,详细阐述了他与这家AI巨头之间的分歧。考克森此前因其离职警告走红,他认为AI未来可能毁灭人类。 考克森表示,Anthropic领导层使用“结果主义哲学”来解释为何必须参与推动AI研究前沿,这是错误的。“如果这场竞赛不可避免,你就不应该参与其中。”考克森写道。 考克森特别点名批评了A

09/16
上一页 第 2 页 下一页
1CCF | 全球资讯
正在加载…