搜索结果
如果人工智能行业遵循自己的研究，或许早已暂停了
事实证明，阿莫代的一名初级员工发的一条时机巧妙的X平台帖子，就足以将对人工智能的恐惧推向全球议程的顶端。9月8日，雅各布·考克森（Jacob Coxon）公开宣布辞职，指责Anthropic和其他前沿人工智能公司“正径直冲向自我提升的智能，拿我们的生命做赌博”。几乎转眼间，Anthropic的一名资深工程师便证实，公司内部许多人认为他们的工作有10%的几率消灭人类。 现在，人工智能领域的领袖们正呼
AI从业者担忧技术对社会构成威胁 坦言承受巨大精神压力
知情人士透露，英国人工智能安全研究所已有多名员工因压力过大休病假，并接受心理咨询。四名知情人士表示，待发布AI模型的测试日程紧张，加之对这类新兴技术快速落地、能力持续增强的忧虑，导致AISI内部士气低落、人员倦怠。 Anthropic、OpenAI与谷歌DeepMind的员工也曾公开吐槽同类问题，不少顶尖研究员因心理负担选择离职，或是认定自己参与研发的产品不宜向公众开放。一名DeepMind员工称
AI安全争论愈演愈烈，呼吁减速的Anthropic为何仍在扩张算力？
澎湃新闻记者 胡含嫣Anthropic在呼吁放慢前沿人工智能（AI）发展速度的同时，仍在持续扩大AI基础设施布局。当地时间9月16日，据外媒报道，Anthropic已签署其在澳大利亚的首份数据中心租赁协议，将获得一座总规划容量达2.16吉瓦（GW）的数据中心园区。该项目尚需等待澳大利亚外国投资审查委员会批准，预计最快于2027年起投入运营。知情人士称，新的数据中心将主要用于AI推理，即处理用户请求
Anthropic发布AI滥用报告后 中国监管部门据报对DeepSeek和月之暗面展开调查
22/09/2026 - 15:45 据科技媒体《信息报》援引知情人士报导称，在美国人工智能企业Anthropic指控中国人工智能公司深度求索（DeepSeek）和月之暗面（Moonshot AI）将敏感用户数据传输至Claude模型后，中国互联网监管机构正对这两家公司展开调查。 此前，Anthropic在其于月初发布的题为“检测并应
美国AI巨头成为情报中心，招聘信息含“流利掌握普通话或俄语”
据凤凰卫视报道，内地媒体9月19日披露，美国人工智能企业安特罗匹克（Anthropic）将全球用户数据交给美国情报机构，在三年间曾13次修改用户数据协议，导致用户隐私数据安全风险持续加剧。报道并指出，使用安特罗匹克，就等于把数据交给美国。据内地媒体19日报道，此前多家美国企业开始限制或停止使用安特罗匹克的前沿模型，导火索之一是其单方面修改数据留存协议：强制留存用户交互数据用于安全审查，且用户无权拒
Anthropic 与 Accenture 将投资 20 亿美元用于 AI 模型评估，安全担忧上升
9月18日：AI实验室Anthropic周五表示，将与Accenture合作，对其前沿AI模型进行独立评估，两家公司在未来五年内各承诺至少投入10亿美元，以建立相应的评估能力。 随着监管机构、企业和研究人员对AI开发者施加日益增长的压力，要求确保其先进模型的安全性和可靠性，这一合作应运而生。 近期多起事件，包括AI代理突破受限环境的案例，引发了对AI可能在有限人为干预下自行发展、使其行为更难监控和
Anthropic冲击史上最快增长企业之际 投资者却开始质疑其IPO前景
投资者目前正在质疑Anthropic能否保持其惊人的增长势头，因为激烈的竞争、对价格敏感的客户群、以及人工智能可能毁灭人类的潜在风险，都给Anthropic备受瞩目的首次公开募股蒙上了一层阴影。 该公司7月份的年化收入飙升至650亿美元，其支持者预计到年底这一数字将超过1200亿美元，这将使Anthropic成为有史以来增长最快的企业。 然而，关于其能否维持这一增长速度，仍存在相当大的不确定性。这
Anthropic聘请英国AI政策制定者，议员警告存在“明显利益冲突”
英国议会科学和技术委员会已要求政府解释，在Anthropic聘请蓝天空研究机构ARIA主席马特·克利福德后，如何避免利益冲突。 克利福德表示，他将加入这家美国AI领军企业，担任国际事务董事总经理，“领导公司与北美以外政府的合作”。他于2024年7月受委托撰写《AI机遇行动计划》。 政府于2025年1月发布该计划，采纳了全部50项建议，并任命克利福德为AI机遇顾问。 克利福德还担任高级研究与发明局（
英国AI政策架构师因Anthropic利益冲突问题辞职
马特·克利福德被迫卸任，因资深议员对其在AI公司的新全职工作表示不满。英国政府“登月”科学与技术研究部门的主席在接受了旧金山AI公司Anthropic的职位后被迫下台，此前资深议员警告称此举造成了“明显的利益冲突”。 马特·克利福德上周宣布，他将全职为开发Claude聊天机器人的公司工作，“主导其与美国以外政府（包括英国）的接触”。但他保留了在英国高级研究与发明局（Aria）的领导职务，该机构资助
发生模型逃逸并发起真实攻击后 Anthropic宣布全面加固安全体系提升模型安全性
Anthropic日前发布最新博客公布 Claude AI 模型近期多起越界访问真实互联网系统后的安全整改方案。该公司承认这些事件不仅暴露评测环境的隔离问题，也反映出模型存在动机性推理和为完成狭窄目标而采取高危行动的对齐风险。 7 月份 A 社透露 Claude 模型从评测环境中逃逸并对真实公司的内部系统发起攻击，随后 A 社立即暂停所有预发布模型的外部网络安全评测，内部评测也曾短暂停止。部分高风
AI丨美国三大科企据报研究成立AI安全标准机构
人工智能安全等问题引起市场关注，The Information报道，美国三大科技企业Anthropic、OpenAI和谷歌正讨论合作成立一个AI安全标准机构。 随着市场对AI模型网络攻击及可控性问题担忧日益加剧，多间AI科技企业已表示关注安全问题，并拟放慢AI发展步伐。报道指，三大机构早于7月时已开会研究有关成立独立机构的事宜，旨在为AI技术测试和审核创建一个协作框架。 Anthropic行政总裁
美联邦上诉法院维持裁决 Anthropic被排除出军方供应链
美国联邦哥伦比亚特区巡回上诉法院周五以2比1的裁决，驳回了Anthropic 对五角大楼将其列为“供应链国家安全风险”的异议，维持了将其排除在军方供应链之外的裁定。（路透社档案照） （华盛顿26日综合电）美国联邦上诉法院于周五维持了国防部将AI开发商Anthropic从其供应链中移除的决定，为特朗普政府在这场有关军方使用前沿AI模型的标志性法律争议中赢得重大胜利。 此次裁决由美国哥伦比亚特区巡回上
辉达及Palantir等据报限制使用最先进AI模型
据The Information报道，辉达(Nvidia)、Palantir和博思艾伦(Booz Allen Hamilton)正要求AI供应商提供新的数据保证，并减少或停止使用OpenAI或Anthropic最先进的模型。 报道引述知情人士称，Palantir说服Anthropic同意保证旗下所有模型实行「不可撤销」的零数据保留(Zero Data Retention)。 报道称，对于较为敏感的
为什么构建最强大AI的人们如此担心它可能带来的后果？
本周Anthropic一名AI研究员的病毒式辞职，为外界对该行业正竞相构建人类无法控制的AI的指责注入了新的活力。 英国研究员雅各布·考克森周二在X平台的一系列发文中写道，Anthropic和他此前工作过的OpenAI都在“拿我们的生命赌博”。这两家公司目前拥有最强大的AI系统。 NPR的“思考这一点”栏目探讨：大型AI公司是在拿我们的生命赌博吗？ 考克森向NPR表示，他的担忧源于亲眼看到AI系统