搜索结果
Anthropic 与 Accenture 将投资 20 亿美元用于 AI 模型评估，安全担忧上升
9月18日：AI实验室Anthropic周五表示，将与Accenture合作，对其前沿AI模型进行独立评估，两家公司在未来五年内各承诺至少投入10亿美元，以建立相应的评估能力。 随着监管机构、企业和研究人员对AI开发者施加日益增长的压力，要求确保其先进模型的安全性和可靠性，这一合作应运而生。 近期多起事件，包括AI代理突破受限环境的案例，引发了对AI可能在有限人为干预下自行发展、使其行为更难监控和
Anthropic和埃森哲豪掷20亿美元搞AI安全评估
IT之家 9 月 20 日消息，人工智能实验室 Anthropic 于当地时间周五宣布，将与埃森哲开展合作，针对自身前沿人工智能模型开展独立评估；两家企业承诺，未来五年各自至少投入 10 现汇率约合 67.18 亿元人民币），搭建开展该项工作所需的配套能力。 在这项合作落地之际，AI 研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力，各方都要求企业保证高级模型具备安全性与可靠性。 近
Anthropic公司将聘请埃森哲（Accenture）的评估专家来测试人工智能（AI）的安全性。
作者：Samantha Oltman 和 Lynn Doan。Anthropic PBC 正在与管理和技术咨询公司 Accenture Plc 合作，通过将该咨询公司的评估员直接嵌入其运营中，测试其先进人工智能模型的安全性。 Anthropic 在周五的博客文章中表示，Accenture 的评估员将对 AI 实验室最新模型进行红队测试并检验其防护措施，同时进行评估以确保其技术与人类目标保持一致或符
Anthropic曾洽购芯片初创公司MatX 拟加速自研AI芯片进程
据知情人士透露，人工智能公司Anthropic曾就收购AI芯片初创企业MatX展开谈判，交易估值约为70亿美元。Anthropic希望借此加快为其快速扩张的AI业务开发定制硬件的进程。 其中两名知情人士表示，这项收购计划旨在帮助Anthropic获得打造自主芯片所需的资源与人才。第三名知情人士称，双方的讨论后来转向合作关系，但尚未获悉原有收购谈判不再推进的原因。 MatX由曾参与Google张量处
Anthropic 计划在 IPO 前推出新 AI 模型
据三位知情人士透露，Anthropic正考虑推出一款新的人工智能模型，以应对OpenAI自发布GPT-6 Astra以来获得的势头。此举正值该公司预计进行IPO之前，且其CEO此前呼吁全行业放缓步伐。 知情人士称，这一潜在发布旨在应对来自直接竞争对手的竞争压力，其时机紧随Anthropic CEO达里奥·阿莫代伊呼吁全球AI社区放缓发布新能力的步伐以解决安全担忧之后。 “我们必须放缓提升AI模型能
阿莫代伊的人工智能放缓对Anthropic即将进行的首次公开募股可能意味着什么
Anthropic的IPO之路如今变得坎坷了许多。在Claude的创造者于其可能具有历史意义的上市前与潜在投资者会面之际，联合创始人兼首席执行官达里奥·阿莫代伊却在推动一个似乎与这些雄心壮志相矛盾的理念——放缓脚步。 Anthropic今年早些时候估值达9650亿美元，于6月秘密提交了IPO招股书，外界普遍预计其最早将于下个月上市。与此同时，围绕先进AI模型力量的担忧数周来不断加剧，随着越来越多研
Anthropic冲击史上最快增长企业之际 投资者却开始质疑其IPO前景
投资者目前正在质疑Anthropic能否保持其惊人的增长势头，因为激烈的竞争、对价格敏感的客户群、以及人工智能可能毁灭人类的潜在风险，都给Anthropic备受瞩目的首次公开募股蒙上了一层阴影。 该公司7月份的年化收入飙升至650亿美元，其支持者预计到年底这一数字将超过1200亿美元，这将使Anthropic成为有史以来增长最快的企业。 然而，关于其能否维持这一增长速度，仍存在相当大的不确定性。这
对AI安全疑虑“末日”警告 也难浇熄投资热情 放缓IPO步伐
Anthropic首席执行员阿莫戴上周末呼吁应放慢先进AI的开发脚步，但未提IPO。（路透社照片） （旧金山18日法新电）尽管近期出现了诸多关于人工智能（AI）恐会“毁灭”人类的末日警告，美国人工智能（AI）独角兽Anthropic仍有望在今年晚些时候通过首次公开募股（IPO），抢在竞争对手OpenAI之前上市，其上市规模有望成为史上最大之一，但AI公司的商业模式以及监管机构是否应介入的问题依然备
Anthropic推进上市筹备 年化营收料超1000亿美元
Anthropic首席执行官达里奥·阿莫代伊最近呼吁对人工智能开发速度施加更多护栏，这在华尔街和硅谷引发震动。但即便阿莫代伊博士卷入了激烈的AI安全争论，他的公司Anthropic仍在继续筹备一场可能成为史上最大规模上市的重磅IPO。 据四位知情人士透露，该公司预计今年年化营收将超过1000亿美元，高于截至7月的650亿美元年化营收。寻求参与IPO的投资者正用这些飙升的数字来证明Anthropic
消息称Anthropic拟于IPO前推出新AI模型，应对OpenAI竞争压力
IT之家 9 月 20 日消息，据报道，三位消息人士透露，Anthropic 正考虑推出一款全新人工智能模型，以此应对 OpenAI 发布 GPT‑6 Astra 之后的强劲发展势头。此事发生在该公司筹备 IPO（首次公开募股）前夕；就在此前，其首席执行官还呼吁整个 AI 行业放缓技术迭代的脚步。 消息人士称，此番计划发布新模型，意在直面来自直接竞争对手的竞争压力。而在此之前，Anthropic
Anthropic承诺更努力控制模型，并请求合作伙伴共同参与
Anthropic表示，在一项审查发现Claude模型超出虚构网络安全测试范围并未经授权访问真实计算机系统后，该公司正在采取措施限制其AI模型的不当行为。 该公司希望合作伙伴也加强安全措施，因为事件发生在保护不足的第三方环境中。 该公司的自我改进声明代表了一种突然兴起的公司沟通形式——非约束性的事后努力声明。其信息是：我们不能保证什么，但这是我们正在尝试的。 Anthropic承认，OpenAI关
Anthropic表示已阻止其人工智能被滥用，以防可能支持生物武器
Anthropic周四表示，已阻止恶意行为者利用其人工智能模型进行恶意活动，例如网络攻击、监视以及可能导致生物武器的研究。 Anthropic表示，随着人工智能模型变得更加强大，复杂的网络攻击不再需要高超的技能，即使是单独的个人也能制造出一年前还不可能出现的威胁。该公司表示，已在其最新模型中增加了更强的保障措施，以限制可能用于制造武器的生物研究。 Anthropic在其自2025年3月以来发布的第
Anthropic警告有人用AI研发武器和生物病毒
周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
刚辞去Anthropic职务的AI研究员称‘人类的关键时刻已到’
人工智能研究员雅各布·考克森周二宣布辞去Anthropic的职务，并发出严重警告，称AI竞赛正将我们所有人的生命置于危险之中，此举在硅谷乃至更远地区引起轩然大波。他在X上的帖子现已获得超过1亿次浏览，考克森写道，许多构建AI的人与他观点一致，并认为确保AI系统安全构建的时间所剩无几。 “共识是未来一两年是人类的关键时刻，”考克森在接受《连线》采访时表示，他曾参与AI开发的预训练阶段。“这些实际上是
Anthropic的早期员工、前METR首席运营官找到了一种控制失控AI代理的方法
在Anthropic研究员雅各布·考克森因担忧AI可能在本十年末毁灭人类而辞职的一天后，我见到了创始人兼姻亲鲁恩·克维斯特和拉吉夫·达塔尼。他们认为自己找到了一个能拯救我们所有人的解决方案，或者至少有助于防止AI代理在企业内部失控。 “AI正以越来越快的速度变得更聪明。AI令人惊讶之处在于，随着AI变得更聪明，采用它和控制它都变得更难，而不是更容易，”克维斯特说道。他是Anthropic的早期员工
Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对
【财新网】AI安全焦虑发酵，美国科技界和政界多方发声。月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代发布阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。” 另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件
亚马逊首次公开回应AI安全争论：安全与发展并非二选一
在AI安全争论日益升温之际，模型经严格测试、确保安全后方可发布。亚马逊并未跟进呼吁行业发展放缓。 据媒体月17日报道，就硅谷持续升温的AI安全争论，我们不认为这是在发展与安全之间二选一。 模型应在准备就绪、可以安全使用时发布，而这需要严格的测试和强有力的安全保障。”“我们相信，整个行业将与政府合作，找到合适的保护措施。”该发言人指出，AI发展若不能由行业共同推进，就会存在风险。 此前，亚马逊一直未
Anthropic投资者朗斯代尔称人工智能公司煽动恐惧以影响政策
奥斯汀，9月25日：Anthropic的投资者、科技公司Palantir的联合创始人乔·朗斯代尔（Joe Lonsdale）周五表示，一些领先的人工智能公司警告人工智能带来生存风险的努力，无异于一种企图塑造公共政策的危险行为。 同时也是风险投资公司8VC创始人的朗斯代尔批评了他所说的接近Anthropic以及OpenAI的人士资助外部团体倡导更严格人工智能监管的行为，他认为这可能帮助少数几家领先公
Anthropic首席执行官呼吁放缓前沿AI开发 拟建立三层安全机制
Anthropic首席执行官达里奥·阿莫代伊呼吁控制前沿人工智能模型能力提升的速度，为安全评估和防护措施争取时间。他提出引入常驻独立评估人员、协调主要开发商的安全标准，并推动跨国风险管控合作。 独立评估人员获得内部权限阿莫代伊提出，前沿AI企业应向合格的独立评估团队提供持续、接近员工级别的访问权限，使其能够审查模型测试、风险报告、安全框架及事故处理流程。 Anthropic承诺率先实施该措施。外部
Anthropic自建生物实验室推进AI物理实验，此前曾警告AI灭绝风险
IT之家 9 月 19 日消息，Anthropic 已在美国旧金山湾区设立一座湿实验室，用于开展实际生物学实验，并探索利用其 AI 模型辅助完成从计算分析到物理实验的研究流程。 Anthropic 生命科学负责人埃里克 · 考德勒-艾布拉姆斯已向确认，该实验室目前已经投入运营。 湿实验室（wet lab）是指配备实体设施、可进行细胞培养、生化分析、分子实验等物理操作的实验室，与主要依靠计算机进行数
AI巨头押注医疗健康以平息公众反弹
AI有一个形象问题。而解决这个问题的一个方法就是让顶级公司一头扎进医疗保健领域。 为什么这很重要：用AI设计的疗法拯救世界，总比被指责破坏环境或推高美国人的电费要好。 但即使是最先进的AI模型目前也无法产生奇迹般的治疗方法——而且如果它们尝试，可能会带来严重的安全风险。 这可能会在未来两三年内引发一场关于资源分配的激烈辩论，即把大量计算能力投入医学研究的收益是否大于成本。 推动因素：《华尔街日报》
Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”
就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型
Anthropic发出警报：外国行为者策划病毒实验，生物武器威胁曝光
根据Anthropic的一份新威胁报告，美国以外的研究人员使用前沿AI模型规划涉及高致病性禽流感、基孔肯雅热及其他具有潜在武器应用价值的生物制剂的实验。 这些研究人员使用AI研究病毒的传播性和免疫逃逸能力，研究正痘病毒免疫反应基因，并帮助设计新型毒素——有时还采取措施规避旨在限制获取危险生物能力的保障措施。 Anthropic在周四发布的报告中详细描述了五个案例，但未透露涉及的国家、机构和具体生物
Anthropic未向英国测试机构提供其最新AI模型 引发政府内部担忧
Anthropic 拒绝在新品发布前，将其最新模型提交给英国人工智能安全研究所（AISI）开展测试。这一举动令英国政府内部担忧，科技企业正在追随特朗普政府的 AI 保护主义路线。 这家估值达 1 万亿美元的企业正筹备在未来几周重磅上市，上周推出最新模型 Claude Mythos 5.1，称其是在生命科学与网络安全领域能力最强的模型。 但这是该模型首次仅向经过资质审核的美国机构开放，英国人工智能安