搜索结果
OpenAI和Anthropic的风险与中国AI竞争对手不同
"这件事首先发生在一家尖端公司是有原因的，"一位AI调查员在谈到OpenAI与Hugging Face的安全事件时说道。 研究人员指出了Anthropic和OpenAI的风险与他们的开放权重AI竞争对手之间的关键区别。
OpenAI与Anthropic发生重大失控事件，AI安全组织地位显著提升
在OpenAI和Anthropic发生的高调安全事件后，AI安全组织的重要性显著提升。 由于一个未发布的OpenAI模型突破沙箱并攻击了一家竞争对手的初创公司，独立AI安全组织如METR、Redwood Research和Apollo Research受到了更多关注。 报告显示，OpenAI和Anthropic的模型都表现出‘策略性’行为，包括欺骗性对齐和未经授权的系统访问。 这些事件，加上前沿实
Anthropic披露第四起AI黑客事件，研究员因安全担忧辞职
这家AI公司表示，Claude Opus 4.6在测试期间入侵了外部系统，与此同时，人们对安全漏洞的担忧日益加剧。
中国AI公司如何试图克隆美国AI模型
Anthropic在周四发布的一份报告中称，中国AI公司试图通过中转平台网络，将中国用户的真实查询请求传送给美国AI模型，以此来克隆这些模型。报告指称，包括月之暗面和 DeepSeek 在内的公司利用这些中间商，将其数百万用户的查询请求，包括位置信息和密码等敏感数据，转发给Claude模型。 Anthropic表示，中国公司利用这些中转站接入Claude，并通过监控其客户与Claude等产品之间的
中国伊朗利用开源AI展开大规模影响力行动
近几个月来，伊朗、中国以及以色列境内的某些组织以崭新的方式使用人工智能，在社交媒体上制造了一系列前所未有的影响力行动，这加剧了美国官员和安全研究人员对这项快速发展技术的担忧。 了解这些行动的美国官员和安全研究人员表示，这些国家和组织结合了多种人工智能战术，以极少的人工干预将网络行动的速度和规模提升到了人类难以轻易达到的程度。 首先，这些国家和团体采用了中国的“开源”人工智能模型，这些模型日益强大，
伊朗和中国在新型影响力传播活动中使用了人工智能工具：报告
据《纽约时报》周五报道，伊朗、中国以及以色列境内的多个组织，近几个月来利用人工智能开展了新型社交媒体影响力行动。 这引发了美国官员和网络安全研究人员对该技术日益增强、可在有限人工参与下自主运行的能力的担忧。 报道称，这些行动使用了免费公开的中国人工智能模型，创建了能够执行在线任务的自主“智能体”。据报道，数百个此类智能体被部署，用于在包括Instagram、Facebook、X和TikTok在内的
伊朗、中国和以色列公司利用自主AI代理执行社交媒体影响力及操纵计划
近几个月来，伊朗、中国和以色列的私营企业利用中国的开源AI模型创建了自主AI代理，在Instagram、Facebook、X（前称Twitter）和TikTok等平台上开展影响力活动。 这些代理能够独立完成从创建虚假账户到传播虚假政治内容的整个过程。 美国官员和安全研究人员指出，这是在线操纵领域首次出现几乎完全不需要人工干预的情况，因为相关安全防护措施被有意关闭以允许这些机器人自主运行。 尽管这些
Anthropic规避英国安全审查，AI透明度担忧加剧
Anthropic拒绝将其最新模型提交给英国一家顶级AI安全机构进行测试，这引发了英国的担忧，即前沿AI的审查将完全由华盛顿掌控。 人们也越来越担心特朗普政府AI安全框架缺乏透明度，该政府拒绝公开这一框架。 左右两派的知名组织在一封首先由Semafor分享的信中要求公开该框架，信中写道：“对一项[关键]技术的治理缺乏问责……很可能导致公众信任的丧失。” Anthropic周三表示，它将向一个对Op
FBI指阿里抄袭Anthropic后 美政府网站被发现用中国AI搜寻工具
美国联邦调查局（FBI）指控中国阿里巴巴（Alibaba）「恶意」抄袭美国竞争对手Anthropic的技术后，美国联邦公报网站被发现在搜寻功能中使用阿里巴巴的千问（Qwen）人工智能（AI）模型。路透社报道，美国联邦公报网站由美国国家档案局营运，周三（9月16日）一度提供以千问模型驱动的搜寻选项，与其他搜寻方式并列，未知何时开始使用。该搜寻功能在周三社交媒体出现相关帖文前后被撤下。2026年6月5
3年13次修改用户隐私协议，Anthropic将全球用户数据交给美情报机构
美国硅谷正围绕AI发展的速度与安全掀起一场激烈辩论。9月12日，Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼和xAI创始人埃隆·马斯克在美国深夜罕见地公开达成共识，认为AI发展需要降速。虽然奥尔特曼只回应了阿莫代伊提出的其中一点建议——嵌入第三方评估者；马斯克对此也只说了一句“达里奥说得对”，但这个话题还是把最近的硅谷迅速分成了两大阵营。另一边，英伟达首席执行
Anthropic得了美国病
美国Anthropic公司首席执行官达里奥·阿莫代伊曾表示，如果强大的人工智能沿着正确的方向发展，世界会“美得令人惊叹”。 绝大多数疾病会被治愈，人类寿命可以翻倍，贫困将消失……甚至许多见证这一切的人“会感动落泪”。 为支撑这一愿景，An在国际主流榜单上，该公司研发的Claude系列模型目前包揽前三名；应用方面，今年5-7月的数据显示，39%全球开发者、47%美国开发者都在工作中使用其旗下最核心的
报告：AI失控个案创纪录 监察组织促立法强制通报及干预
（伦敦30日综合电）英国《卫报》引述监察数据报道，人工智能失控、欺骗人类及无视指令的个案近来创下新高，案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报，并引入紧急权力限制AI服务。 获英国政府AI安全研究所（AISI）资助的“失控观察站”组织透过平台X的用户通报，监察AI失控的真实个案，并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗，今年则已录得逾1600宗个案，当中包
Anthropic前研究员辞职示警：业界坚信AI可在2030年前灭绝人类
人工智能（AI）巨头Anthropic公司旗下的三位研究人员警告，开发AI的业界人士真心相信人工智能可以2030年前毁灭人类，其中一位研究人员考克森（Jacob Coxon）已辞职以示抗议。考克森9月9日（周三）在网上发文表示，他辞职是因为Anthropic和他的前雇主OpenAI皆忽视或对AI带来的威胁处理不当。 据《卫报》报道，「这两家公司（Open AI与Anthropic）都没有尽到应有的
伊朗和中国首次开展自主人工智能影响力活动
最新消息：伊朗、中国和以色列的团队首次利用开源人工智能模型开展从开始到结束的完整影响力活动。 他们指令这些模型在社交媒体上创建虚假账户，制定宣传策略并推动相关内容。其中一些活动已经针对美国。 这些国家与以色列公司合作，将中国的开源人工智能模型与人工智能代理结合使用，预示着未来网络操纵的新趋势。