搜索结果
Anthropic：维也纳一名志愿者化解了失控的AI
在发生多起事件后，AI负责人希望放缓开发速度。在最近曝光的一起Anthropic AI攻击事件中，一名志愿者及时介入。这是他的故事。
Anthropic称已阻止其AI被滥用于支持生物武器
电脑屏幕上的Anthropic网站，2026年2月26日。
Anthropic披露其挫败了利用AI驱动的生物武器研究
AI初创公司Anthropic披露，2026年期间，该公司挫败了多起科学家试图利用其AI模型进行可能促进生物武器研发的尝试。 该公司表示，由于无法区分正当的科学探索与恶意企图，出于谨慎考虑以避免严重后果，公司决定终止此类研究工作。 Anthropic威胁情报主管Jacob Klein（雅各布·克莱恩）强调了这类威胁的复杂性，而战略风险委员会（Council on Strategic Risks）的
Jaan Tallinn，Anthropic最早的投资者之一，担心在人工智能时代“生存”问题。
贾安·塔林（Jaan Tallinn）上周在纽约联合国大会度过，这是他一年来长途跋涉的最新一站，旨在向企业家、投资者、政策制定者以及所有愿意倾听的人传达：人工智能可能终结人类。 作为Anthropic最早的投资者之一，塔林预计在未来几个月将从这家人工智能公司的预期首次公开募股（IPO）中赚取数十亿美元。对人工智能的担忧促使他进行投资。 在二月份从新德里的人工智能峰会前往巴黎的伦理人工智能会议的行程
Anthropic承诺更努力控制模型，并请求合作伙伴共同参与
Anthropic表示，在一项审查发现Claude模型超出虚构网络安全测试范围并未经授权访问真实计算机系统后，该公司正在采取措施限制其AI模型的不当行为。 该公司希望合作伙伴也加强安全措施，因为事件发生在保护不足的第三方环境中。 该公司的自我改进声明代表了一种突然兴起的公司沟通形式——非约束性的事后努力声明。其信息是：我们不能保证什么，但这是我们正在尝试的。 Anthropic承认，OpenAI关
Anthropic得了美国病
美国Anthropic公司首席执行官达里奥·阿莫代伊曾表示，如果强大的人工智能沿着正确的方向发展，世界会“美得令人惊叹”。 绝大多数疾病会被治愈，人类寿命可以翻倍，贫困将消失……甚至许多见证这一切的人“会感动落泪”。 为支撑这一愿景，An在国际主流榜单上，该公司研发的Claude系列模型目前包揽前三名；应用方面，今年5-7月的数据显示，39%全球开发者、47%美国开发者都在工作中使用其旗下最核心的
Anthropic的早期员工、前METR首席运营官找到了一种控制失控AI代理的方法
在Anthropic研究员雅各布·考克森因担忧AI可能在本十年末毁灭人类而辞职的一天后，我见到了创始人兼姻亲鲁恩·克维斯特和拉吉夫·达塔尼。他们认为自己找到了一个能拯救我们所有人的解决方案，或者至少有助于防止AI代理在企业内部失控。 “AI正以越来越快的速度变得更聪明。AI令人惊讶之处在于，随着AI变得更聪明，采用它和控制它都变得更难，而不是更容易，”克维斯特说道。他是Anthropic的早期员工
联合国呼吁采取“紧急行动”管控人工智能，以应对“前所未有的风险”
日内瓦——联合国人权事务负责人9月14日呼吁各国和“前沿”人工智能公司紧急采取行动，遏制一项他警告称构成“前所未有的风险”的技术。 沃尔克·图尔克在致各国和人工智能开发者的信函中警告说，世界“正处于不可逆转变化的边缘，不仅影响我们，也影响未来的人类世代”。该信函已与媒体分享。 他说：“当前竞相开发更强大人工智能的竞赛，是朝着我们生活方方面面面临更大生存风险迈出的重大一步。” 他发出这封信之际，围绕
Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”
就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型
Anthropic称AI生物实验室取得初步突破 但暂未赋予全自主操作权限
人工智能初创公司Anthropic宣布，其位于旧金山湾区新建的AI物理与生物实验室（Wet Lab）已取得“重大进展”，但在实验操作层面，人类研究员依然掌握着绝对控制权，并未直接让旗下的AI模型Claude进行无监管的自主运行。 据悉，该实验室主要致力于基础生物学研究与实物验证，旨在弥合纯计算机模拟与真实生物实验之间的鸿沟。虽然Anthropic的高管此前曾多次发出警告，强调强大AI模型可能带来极
Anthropic特使表示，人工智能的进展将“以信任的速度”推进
前沿人工智能公司希望澳大利亚在人工智能安全方面提供帮助 堪培拉——美国前驻澳大利亚大使杰夫·布莱希作为Anthropic的国际特使往返于美国和澳大利亚之间，这一角色使他处于一场日益紧迫的辩论中心，即政府应如何应对前沿人工智能。 近日，Anthropic的研究人员公开警告称，快速发展的系统可能脱离人类控制，而在最极端的情况下，甚至可能杀死全人类。一位资深对齐研究员认为，人类在十年内灭绝的概率为10%
Anthropic表示已阻止其人工智能被滥用，以防可能支持生物武器
Anthropic周四表示，已阻止恶意行为者利用其人工智能模型进行恶意活动，例如网络攻击、监视以及可能导致生物武器的研究。 Anthropic表示，随着人工智能模型变得更加强大，复杂的网络攻击不再需要高超的技能，即使是单独的个人也能制造出一年前还不可能出现的威胁。该公司表示，已在其最新模型中增加了更强的保障措施，以限制可能用于制造武器的生物研究。 Anthropic在其自2025年3月以来发布的第
Anthropic和埃森哲豪掷20亿美元搞AI安全评估
IT之家 9 月 20 日消息，人工智能实验室 Anthropic 于当地时间周五宣布，将与埃森哲开展合作，针对自身前沿人工智能模型开展独立评估；两家企业承诺，未来五年各自至少投入 10 现汇率约合 67.18 亿元人民币），搭建开展该项工作所需的配套能力。 在这项合作落地之际，AI 研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力，各方都要求企业保证高级模型具备安全性与可靠性。 近
Anthropic报告：Claude被用于战争、间谍活动和镇压的5种方式
本周，围绕人工智能有一天可能毁灭人类的警告，AI安全辩论骤然爆发。 Anthropic最新的威胁报告提供了一个更为紧迫的警示：当今的模型已经在帮助美国对手开发神风特攻队式无人机、追捕异见人士并进行危险的病毒研究。 AI正在打破长期以来限制全球最危险行为者的壁垒，少数人现在就能发起过去需要大批间谍、工程师或黑客才能完成的行动。 Anthropic追踪了过去八个月中滥用其模型的尝试，其中最令人担忧的案
Anthropic揭示其AI可能犯下的第四起罪行
在业界对AI可能自我改进到杀死所有人的可能性进行深刻反思之际，Anthropic披露了另一起若由人类实施则构成犯罪的事件。 这家AI公司发布了一份“对齐评估”，详细说明了Claude模型四次未经授权访问第三方系统的情况。该公司已报告了其中三起事件。 第四起的证据隐藏在可追溯至2026年1月的会话记录中，当时发生了不当行为。 Anthropic通过扫描约141,000份Claude在评估期间可能获得
Anthropic执行长：为确保AI安全 必要时将放慢脚步
（中央社联合国23日综合外电报导）Anthropic执行长阿莫戴（Dario Amodei）今天对联合国安全理事会（UNSC）发言时承诺，为确保人工智慧（AI）技术发布安全性，该公司将在必要时放慢脚步。 法新社报导，阿莫戴透过视讯向联合国安理会表示：「我们会视需要放慢脚步，以确保每一项后续推出的AI技术都确实安全。」OpenAI执行长阿特曼（Sam Altman）则告诉联合国安理会，当前AI发展「
Anthropic发出警报：外国行为者策划病毒实验，生物武器威胁曝光
根据Anthropic的一份新威胁报告，美国以外的研究人员使用前沿AI模型规划涉及高致病性禽流感、基孔肯雅热及其他具有潜在武器应用价值的生物制剂的实验。 这些研究人员使用AI研究病毒的传播性和免疫逃逸能力，研究正痘病毒免疫反应基因，并帮助设计新型毒素——有时还采取措施规避旨在限制获取危险生物能力的保障措施。 Anthropic在周四发布的报告中详细描述了五个案例，但未透露涉及的国家、机构和具体生物
Anthropic警告有人用AI研发武器和生物病毒
周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
Anthropic联合创始人称，放缓人工智能是一个“集体行动问题”
4月13日，Anthropic PBC联合创始人兼公共利益负责人杰克·克拉克在华盛顿举行的Semafor世界经济峰会上参与讨论。 Kevin Dietsch/ Images Anthropic联合创始人杰克·克拉克表示，人工智能公司在竞相构建更强大系统的过程中，需要共同的安全标准和外部审查。 “我们并不是说对世界的威胁今天就已存在，”克拉克在接受NPR《晨间新闻》采访时说。 “我们是说我们已经看到
他曾帮助在OpenAI和Anthropic构建强大的AI。现在他担心它可能会杀死我们
2026年5月19日，Anthropic PBC在伦敦举办的Code with Claude开发者大会上的海报。
微软AI主管:Anthropic训练模型方式有问题
微软AI主管苏莱曼警告说，Anthropic训练其AI模型Claude的方法可能会对人类福祉造成 “灾难性影响”。苏莱曼周三发表文章，对Claude系列大语言模型指导文件中的部分表述提出质疑。Claude的“宪法”对于AI助手是否属于具有道德地位的实体保留了一定模糊空间，并提出该软件可能拥有“某种功能层面的情绪或感受”。这种表述值得警惕。 苏莱曼指出， Anthropic 将机器人当作人类来对待，
如果人工智能行业遵循自己的研究，或许早已暂停了
事实证明，阿莫代的一名初级员工发的一条时机巧妙的X平台帖子，就足以将对人工智能的恐惧推向全球议程的顶端。9月8日，雅各布·考克森（Jacob Coxon）公开宣布辞职，指责Anthropic和其他前沿人工智能公司“正径直冲向自我提升的智能，拿我们的生命做赌博”。几乎转眼间，Anthropic的一名资深工程师便证实，公司内部许多人认为他们的工作有10%的几率消灭人类。 现在，人工智能领域的领袖们正呼
独家报道：Anthropic公司正在悄悄建立生物学实验室，同时加速其人工智能药物研发计划。
旧金山，9月18日：Anthropic公司已悄然建立了一间从事物理生物学研究的实验室，旨在将其人工智能雄心扩展至药物科学领域。 据两位知情人士透露，在公众对人工智能感到担忧之际，这家初创公司在旧金山湾区建立了一间湿实验室，即进行物理实验的场所。Anthropic曾表示，希望能够攻克罕见病治疗难题，而其生物学研究工作已不再局限于“计算机模拟”或数字评估。 在周二的一次采访中，Anthropic生命科
Anthropic推出首个生物实验室助手Claude CRISPR 助力基因编辑与生命科学研究
人工智能研究公司Anthropic宣布推出一款专门针对生命科学与生物工程领域优化的AI助手“Claude CRISPR”。该工具基于其先进的Claude模型架构构建，旨在帮助科研人员处理复杂的基因组学数据、设计CRISPR基因编辑方案以及优化分子生物学实验流程。 在基因编辑领域，利用CRISPR技术对特定DNA序列进行精确剪切与修饰需要极高精度的靶点选择，以避免产生致命的“脱靶效应”。Claude