Anthropic详述Claude如何被滥用于监控和武器

Anthropic发布了关于Claude被滥用的最详细报告，阐述了人们如何试图利用其模型进行有害活动。该公司表示已检测并关闭了这些操作。 这些活动涉及网络攻击、国家监控、影响力行动、常规武器工作和生物研究。

中国和俄罗斯的不良行为者已经在将Anthropic的AI武器化

Anthropic表示，外国科学家、黑客和安全部门绕过了限制，将Claude用于危险工作，包括可能的生物武器研究。

Anthropic披露在早前审查中被遗漏的第四起AI黑客事件

Anthropic 研究人员警告：失控的 AI 可能会毁灭人类

多位 Anthropic 的现任和前任研究人员对 AI 发出了严厉警告，暗示他们正在开发的技术可能在不久的将来毁灭人类。 曾在 Anthropic 和 OpenAI 担任研究员的雅各布·考克斯森（Jacob Coxon）周二指出，这两家公司在竞相研发超级智能的过程中都没有表现得负责任，并指责这些 AI 公司……

Anthropic自建生物实验室推进AI物理实验，此前曾警告AI灭绝风险

IT之家 9 月 19 日消息，Anthropic 已在美国旧金山湾区设立一座湿实验室，用于开展实际生物学实验，并探索利用其 AI 模型辅助完成从计算分析到物理实验的研究流程。 Anthropic 生命科学负责人埃里克 · 考德勒-艾布拉姆斯已向确认，该实验室目前已经投入运营。 湿实验室（wet lab）是指配备实体设施、可进行细胞培养、生化分析、分子实验等物理操作的实验室，与主要依靠计算机进行数

Anthropic：维也纳一名志愿者化解了失控的AI

在发生多起事件后，AI负责人希望放缓开发速度。在最近曝光的一起Anthropic AI攻击事件中，一名志愿者及时介入。这是他的故事。

Anthropic推出首个生物实验室助手Claude CRISPR 助力基因编辑与生命科学研究

人工智能研究公司Anthropic宣布推出一款专门针对生命科学与生物工程领域优化的AI助手“Claude CRISPR”。该工具基于其先进的Claude模型架构构建，旨在帮助科研人员处理复杂的基因组学数据、设计CRISPR基因编辑方案以及优化分子生物学实验流程。 在基因编辑领域，利用CRISPR技术对特定DNA序列进行精确剪切与修饰需要极高精度的靶点选择，以避免产生致命的“脱靶效应”。Claude

如果人工智能行业遵循自己的研究，或许早已暂停了

事实证明，阿莫代的一名初级员工发的一条时机巧妙的X平台帖子，就足以将对人工智能的恐惧推向全球议程的顶端。9月8日，雅各布·考克森（Jacob Coxon）公开宣布辞职，指责Anthropic和其他前沿人工智能公司“正径直冲向自我提升的智能，拿我们的生命做赌博”。几乎转眼间，Anthropic的一名资深工程师便证实，公司内部许多人认为他们的工作有10%的几率消灭人类。 现在，人工智能领域的领袖们正呼