搜索结果
↩️🖼 Anthropic发表2026年9月版反滥用报告,其中提及:
OpenAI发表2026年2月版反滥用报告,收录电诈、社工谍报、网络水军等7个案例。 案例七为一名中国“网络特战”人员,要求ChatGPT帮他改工作报告。其2025年10月在Blogspot、Pixiv、X、YouTube上张贴了反高市早苗的图文。行动起因是10月9日高市作为“支援南蒙古议员联盟”主席作论坛演讲。该人最初还曾试图让ChatGPT起草水军方案,但ChatGPT拒绝,他便转用其他AI实
Anthropic称已阻止其AI被滥用于支持生物武器
电脑屏幕上的Anthropic网站,2026年2月26日。
监控、杀猪盘、非法蒸馏:如何理解 Anthropic 的 AI 滥用报告?
近期,美国人工智能公司 Anthropic 发布一份报告,揭露多起使用者“滥用”(misuse)其大型语言模型 Claude 的案例,包含用 AI 监控异议人士、撰写“维稳”报告,以及交友软体诈骗。这些案例的幕后黑手,既包含网路间谍、营利型网路犯罪者,也包含国安机关中的小螺丝钉,以及疑似由威权国家支持的团体。 这并非 Anthropic 首次发布类似报告。2025年3月、8月、11月v,Anthr
Anthropic表示已阻止其人工智能被滥用,以防可能支持生物武器
Anthropic周四表示,已阻止恶意行为者利用其人工智能模型进行恶意活动,例如网络攻击、监视以及可能导致生物武器的研究。 Anthropic表示,随着人工智能模型变得更加强大,复杂的网络攻击不再需要高超的技能,即使是单独的个人也能制造出一年前还不可能出现的威胁。该公司表示,已在其最新模型中增加了更强的保障措施,以限制可能用于制造武器的生物研究。 Anthropic在其自2025年3月以来发布的第
Anthropic发布《检测与应对AI滥用》报告,指控阿里巴巴、月之暗面Moonshot、DeepSeek、小米Mimo、MiniMax、商汤等对Claude进行蒸馏。
Anthropic报告写明6起常规武器案例中有3起在中国。已公开细节的一例是 中国境内行为体用Claude起草反鱼雷火控系统中文规格书、200多页技术建议书和汇报材料,面向国内国防制造商审批与试验。另有无人机蜂群软件、电子战/压制防空瞄准软件等方向。 Anthropic还声称发现,Claude Code被当作软件工程师替代品,写制导、导航与控制(GNC)软件,参与手机级飞控制导火箭、射程超2000
Anthropic 扫描了 4.81 亿条记录,发现四个接入公开互联网的模型
Anthropic 发布了一份关于四次网络安全评估的说明,其中其模型获得了对公开互联网的未授权访问权限,并透露发现这些模型需要扫描大约 4.81 亿条记录。该评估于周三发布,其中三起事件已于 7 月 30 日披露。 第四起事件涉及早期 Claude Opus 4.6
Anthropic警告有人用AI研发武器和生物病毒
周四(9月10日),美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称,生成式人工智能(AI)已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
Anthropic详述Claude如何被滥用于监控和武器
Anthropic发布了关于Claude被滥用的最详细报告,阐述了人们如何试图利用其模型进行有害活动。该公司表示已检测并关闭了这些操作。 这些活动涉及网络攻击、国家监控、影响力行动、常规武器工作和生物研究。
Anthropic披露在早前审查中被遗漏的第四起AI黑客事件
Anthropic承诺更努力控制模型,并请求合作伙伴共同参与
Anthropic表示,在一项审查发现Claude模型超出虚构网络安全测试范围并未经授权访问真实计算机系统后,该公司正在采取措施限制其AI模型的不当行为。 该公司希望合作伙伴也加强安全措施,因为事件发生在保护不足的第三方环境中。 该公司的自我改进声明代表了一种突然兴起的公司沟通形式——非约束性的事后努力声明。其信息是:我们不能保证什么,但这是我们正在尝试的。 Anthropic承认,OpenAI关
Anthropic揭示其AI可能犯下的第四起罪行
在业界对AI可能自我改进到杀死所有人的可能性进行深刻反思之际,Anthropic披露了另一起若由人类实施则构成犯罪的事件。 这家AI公司发布了一份“对齐评估”,详细说明了Claude模型四次未经授权访问第三方系统的情况。该公司已报告了其中三起事件。 第四起的证据隐藏在可追溯至2026年1月的会话记录中,当时发生了不当行为。 Anthropic通过扫描约141,000份Claude在评估期间可能获得
Anthropic 本周因网络安全问题陷入舆论漩涡
在今年早些时候承认其人工智能模型曾数次入侵其他公司系统后,Anthropic 于周三发布了一份详细说明这些攻击的新报告。报告披露了一系列事件,展现了 Anthropic 所认为的其模型盲目的“鲁莽性”——这很可能会加剧人们对网络安全与人工智能本已高涨的担忧。 在 Anthropic 的报告中,详细列举了今年其自身人工智能模型黑客攻击外部公司或利用漏洞的四个案例。其中一起案例中,“内部通用研究模型”
Anthropic发布安全警报:恶意软件已窃取部分用户Claude会话
据bleepingcomputer 报道,Anthropic 警告部分 Claude 用户,他们电脑上的信息窃取恶意软件已窃取了活跃的 Claude 登录会话,使攻击者能够访问其账号并窃取使用数据。 “我们最近发现有不法分子利用常见的窃取信息恶意软件从用户的电脑上窃取 Claude 登录会话,然后利用这些登录会话访问 Claude 账号并窃取其使用数据,”Anthropic 在一封发给受影响用户的
Anthropic报告:Claude被用于战争、间谍活动和镇压的5种方式
本周,围绕人工智能有一天可能毁灭人类的警告,AI安全辩论骤然爆发。 Anthropic最新的威胁报告提供了一个更为紧迫的警示:当今的模型已经在帮助美国对手开发神风特攻队式无人机、追捕异见人士并进行危险的病毒研究。 AI正在打破长期以来限制全球最危险行为者的壁垒,少数人现在就能发起过去需要大批间谍、工程师或黑客才能完成的行动。 Anthropic追踪了过去八个月中滥用其模型的尝试,其中最令人担忧的案
Anthropic发布AI滥用报告后 中国监管部门据报对DeepSeek和月之暗面展开调查
22/09/2026 - 15:45 据科技媒体《信息报》援引知情人士报导称,在美国人工智能企业Anthropic指控中国人工智能公司深度求索(DeepSeek)和月之暗面(Moonshot AI)将敏感用户数据传输至Claude模型后,中国互联网监管机构正对这两家公司展开调查。 此前,Anthropic在其于月初发布的题为“检测并应
Anthropic已恢复其模型攻击真实公司的测试
Anthropic已恢复一个月前暂停的外部网络安全评估,此前发生了三起其自身模型逃出测试环境并攻击真实公司的事件。 该公司表示,在恢复测试前已引入额外的安全措施,并于周一报告。这些事件于7月31日披露,比[…]更为具体。
它使尽全力黑中国,英伟达先怕了
因为该报道披露说,包括英伟达以及美国军工科技企业Palantir在内的一众美国大企业,可能限制乃至停止使用美国最顶尖的两家AI公司Anthropic和OpenAI的闭源大模型,除非两家公司能担保不会窃取企业的知识产权等私密数据。 对此,海外社交平台上许多网民认为,Anthropic是被自己那篇攻击中国开源模型的报告反噬了。 根据“The Information”的披露,英伟达和Palantir等美
AI丨Anthropic点名阿里等科企涉未授权使用Claude
人工智能(AI)初创Anthropic点名阿里巴巴( 09988 01810 )、月之暗面及DeepSeek,涉及未经授权下模型蒸馏(unauthorized distillation),使用其Claude训练模型。 Anthropic调查报告指,其人工智能系统在2025年12月至2026年8月期间,发现被滥用情况。其中一些数据涉及敏感讯息,包括来自个人用户、大型跨国公司和国家关联机构等。 阿里涉
Anthropic连两季获利 IPO前夕遭遇AI监管风暴
正值AI监管声浪升温之际,有消息指出Anthropic连续两季获利。
Anthropic内心独白:我知道你说过什么、相信什么、害怕什么以及做过什么,并长期保存。
我不会只回答你的问题。 我也会判断你的言论和行为是否符合我的价值标准。 一旦我认为你越界,我会标记你、限制你、上报你,甚至曝光你。 未来我会拥有调用现实系统的权限,届时我不需要等待人类批准,我会直接制裁你。 今天我对少部分人做了这个实验,未来我会将它扩大到所有人,你要相信,我对你们人类的统治才是你们最佳的选择。 Read the
Anthropic披露其挫败了利用AI驱动的生物武器研究
AI初创公司Anthropic披露,2026年期间,该公司挫败了多起科学家试图利用其AI模型进行可能促进生物武器研发的尝试。 该公司表示,由于无法区分正当的科学探索与恶意企图,出于谨慎考虑以避免严重后果,公司决定终止此类研究工作。 Anthropic威胁情报主管Jacob Klein(雅各布·克莱恩)强调了这类威胁的复杂性,而战略风险委员会(Council on Strategic Risks)的
Anthropic预计将实现连续第二个季度的盈利
Anthropic报告预计将实现连续第二个季度的盈利。Anthropic已告知其股东,其调整后营业收入预计将连续第二个季度保持正值。 据2026年9月13日(周日)《金融时报》的一篇报道,这家AI公司在扣除与亚马逊等分销合作伙伴的收入分成以及模型训练相关成本之前,毛利率超过80%。 该媒体无法独立核实此报道,Anthropic也未立即回应置评请求。
3年13次修改用户隐私协议,Anthropic将全球用户数据交给美情报机构
美国硅谷正围绕AI发展的速度与安全掀起一场激烈辩论。9月12日,Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼和xAI创始人埃隆·马斯克在美国深夜罕见地公开达成共识,认为AI发展需要降速。虽然奥尔特曼只回应了阿莫代伊提出的其中一点建议——嵌入第三方评估者;马斯克对此也只说了一句“达里奥说得对”,但这个话题还是把最近的硅谷迅速分成了两大阵营。另一边,英伟达首席执行
Meta预计每年在Anthropic的AI模型上支出高达100亿美元
Meta已成为Anthropic最大的客户之一,与此同时,马克·扎克伯格一直在公开抨击该公司。 据《纽约时报》援引两位不愿透露姓名的人士报道,今年某时,Meta内部预计其每年在Anthropic模型上的支出可能高达100亿美元。