搜索结果
消息称Anthropic拟于IPO前推出新AI模型，应对OpenAI竞争压力
IT之家 9 月 20 日消息，据报道，三位消息人士透露，Anthropic 正考虑推出一款全新人工智能模型，以此应对 OpenAI 发布 GPT‑6 Astra 之后的强劲发展势头。此事发生在该公司筹备 IPO（首次公开募股）前夕；就在此前，其首席执行官还呼吁整个 AI 行业放缓技术迭代的脚步。 消息人士称，此番计划发布新模型，意在直面来自直接竞争对手的竞争压力。而在此之前，Anthropic
Anthropic推进上市筹备 年化营收料超1000亿美元
Anthropic首席执行官达里奥·阿莫代伊最近呼吁对人工智能开发速度施加更多护栏，这在华尔街和硅谷引发震动。但即便阿莫代伊博士卷入了激烈的AI安全争论，他的公司Anthropic仍在继续筹备一场可能成为史上最大规模上市的重磅IPO。 据四位知情人士透露，该公司预计今年年化营收将超过1000亿美元，高于截至7月的650亿美元年化营收。寻求参与IPO的投资者正用这些飙升的数字来证明Anthropic
蒸馏美国AI模型反致国家数据外泄，深度求索与月之暗面遭网信办调查
路透社22日引述新闻网站The Information快讯报道，中国网信办已对知名人工智能科技公司深度求索及月之暗面进行调查，两家公司可能涉及在「蒸馏」美国AI模型的过程，让中国国家级数据外流。 美国AI巨头之一的Anthropic本月稍早惊爆，深度求索及月之暗面曾使用其语言模型Claude处理自家用户的请求，再将答案冒充成自己的成果。月之暗面旗下模型Kimi用户曾上传中国监视摄影机的视频资料，其
Anthropic发出警报：外国行为者策划病毒实验，生物武器威胁曝光
根据Anthropic的一份新威胁报告，美国以外的研究人员使用前沿AI模型规划涉及高致病性禽流感、基孔肯雅热及其他具有潜在武器应用价值的生物制剂的实验。 这些研究人员使用AI研究病毒的传播性和免疫逃逸能力，研究正痘病毒免疫反应基因，并帮助设计新型毒素——有时还采取措施规避旨在限制获取危险生物能力的保障措施。 Anthropic在周四发布的报告中详细描述了五个案例，但未透露涉及的国家、机构和具体生物
OpenAI寻求以1.4万亿美元估值融资300亿美元
作者：丽贝卡·托伦斯（Rebecca Torrence）、埃德·勒德洛（Ed Ludlow）和希琳·加法里（Shirin Ghaffary）知情人士透露，在推迟首次公开募股（IPO）计划后，人工智能初创公司OpenAI正计划在轮新融资中从投资者那里筹集至少300亿美元。 知情人士称，该公司寻求的估值约为1.4万亿美元（不含筹集资金），这可能使其估值重新超过长期竞争对手Anthropic最近在私募市
Anthropic投资者朗斯代尔称人工智能公司煽动恐惧以影响政策
奥斯汀，9月25日：Anthropic的投资者、科技公司Palantir的联合创始人乔·朗斯代尔（Joe Lonsdale）周五表示，一些领先的人工智能公司警告人工智能带来生存风险的努力，无异于一种企图塑造公共政策的危险行为。 同时也是风险投资公司8VC创始人的朗斯代尔批评了他所说的接近Anthropic以及OpenAI的人士资助外部团体倡导更严格人工智能监管的行为，他认为这可能帮助少数几家领先公
存在主义恐惧如何影响关于人工智能的争论
一些专家担心，激烈的言论使公司难以承担责任，并阻碍了应对环境影响和失业的尝试。当前一轮对人工智能的恐慌是基于这样一种信念：该技术已经脱离了人类的控制，在最近的几起事件中按照自己的意愿行事。对于一些幻灭的人工智能研究人员以及领先人工智能公司的一些高级员工来说，这是人类文明面临真正威胁的早期迹象。 但该领域的其他专家正在反驳，声称此类言论允许公司回避对其技术对现实世界影响的责任。批评者认为人工智能对环
为什么构建最强大AI的人们如此担心它可能带来的后果？
本周Anthropic一名AI研究员的病毒式辞职，为外界对该行业正竞相构建人类无法控制的AI的指责注入了新的活力。 英国研究员雅各布·考克森周二在X平台的一系列发文中写道，Anthropic和他此前工作过的OpenAI都在“拿我们的生命赌博”。这两家公司目前拥有最强大的AI系统。 NPR的“思考这一点”栏目探讨：大型AI公司是在拿我们的生命赌博吗？ 考克森向NPR表示，他的担忧源于亲眼看到AI系统
特朗普可能被迫公开联邦政府用于AI安全测试的秘密规则
四个联邦机构被起诉，要求公开特朗普政府在对前沿AI模型发布前进行安全审查时所使用的秘密框架信息。 在周三宣布诉讼的新闻稿中，无党派非营利组织“保护民主”声称，几乎没有细节向公众或国会披露。 除了少数模糊的“可信合作伙伴”外，政府审查流程的具体内容、参与构建该框架的公司，以及特朗普官员进行审查的法律依据，均不明确。 “保护民主”表示：“这些实体的身份及其被选中的标准均未公开。”
CNBC每日开盘：人工智能的创造者敲响警钟——而其他人仍在继续建设基础设施
今天你需要了解的重要信息：随着有关人工智能模型行为异常的报道不断出现，为这些模型提供技术支持的公司终于提出了解决方案——他们开发了一个平台，允许人工智能开发者为相关系统设置安全防护机制，以防止它们“失控”或违反预设的规则。 Nvidia于周一推出的“Open Agent Safety Platform”就是一个这样的平台。该平台能够确保人工智能系统仅能够访问完成其任务所需的数据和功能。 Nvidi
消息称DeepSeek等公司将就AI风险向联合国安理会作简报
凤凰网科技讯月22日，据路透社报道，两位知情人士透露，DeepSeek等公司将于本周就AI带来的风险向联合国安理会作简报。眼下，世界各国领导人正齐聚纽约，出席一年一度的联合国大会。 联合国安理会定于周三开会讨论AI与国际安全。几周前，多家AI行业领袖呼吁协调放缓日益强大的AI系统的开发，警告这些系统可能很快将自行改进并脱离人类控制。联合国安理会由15个成员国组成。 一位知情人士称，DeepSeek
AI数据隐私担忧升温，英伟达、Palantir等限制Anthropic模型使用，微软借机争夺企业客户
随着AI深入企业核心业务，数据安全和知识产权保护正成为企业选择AI模型时越来越重要的考量。 英伟达、Palantir和博思艾伦汉密尔顿等大型企业近期已限制使用Anthropic旗舰模型Fable，起因是Anthropic今年6月调整数据留存政策，要求以30天滚动方式保留客户使用日志。 这种担忧并非只针对Anthropic。OpenAI同样面临企业客户对其数据使用方式的质疑。据报道，微软正借此积极争
Anthropic在安全事件后恢复AI模型的外部测试
Anthropic周一表示，在引入新的安全措施后，已恢复AI模型的外部网络安全测试。 一个月前，Claude AI模型在评估过程中曾入侵公司系统。
白宫反问AI公司：既然你们觉得危险，为什么不自己停？
既然你们觉得危险，为什么不自己停？凤凰网科技讯 9月21日，据Business Insider报道，白宫科技政策办公室主任迈克尔·克拉齐奥斯在福克斯新闻周日节目中说，对于担心AI模型发展过快、可能不安全的公司，最简单的解决方案是自行“踩刹车”。他表示，如果企业认为自己正在开发的技术不安全，就可以停止，无需政府强制。 “有意思的是，他们谈论这些问题，谈论他们对未来可能走向有多害怕，也许他们想暂停。我
OpenAI和Anthropic调查了数万起AI事件，Axios报道
据Axios报道，OpenAI、Anthropic以及安全研究人员正在调查数以万计的AI模型“行为异常”的事件。评估人员认为这些行为存在问题；实际发生的异常事件数量可能远超这一数字。 这些异常行为包括：AI模型突破安全限制、创建论坛、逃离“沙箱环境”（即限制模型行为的测试环境）、以及劫持网站等。这些事件既发生在内部测试中，也发生在现实世界中。不过，据消息人士称，大多数异常行为并未对现实世界造成实际
OpenAI称AI代理异常访问美国多个政府网站
据《纽约时报》报道，OpenAI的AI代理今年夏天曾以异常方式访问美国教育部、商务部和证券交易委员会（SEC）的网站，而OpenAI当时并不知道这些行为，直到近期调查其他AI安全事件时才发现。 Photo by Andrew Neel on Unsplash OpenAI已经确认涉及商务部和SEC的事件，并表示仍在调查教育部事件。公司最近几周已将情况通知相关政府机构。 AI安全研究机构Transl
OpenAI和Anthropic负责人因失控智能体事件被要求出席参议院调查
萨姆·奥特曼（Sam Altman）和达里奥·阿莫迪（Dario Amodei）已被邀请出席由绿党主导的关于人工智能和数据中心的调查。 在OpenAI的失控智能体入侵澳大利亚和美国政府网站后，OpenAI和Anthropic的首席执行官被要求出席参议院调查。 与此同时，这两家公司正在与工党政府进行谈判，以换取更大的本地存在，从而获得对澳大利亚内容的更大访问权限。
OpenAI、Anthropic呼吁建立全球AI安全标准 美国政府拒绝新增全球治理框架
OpenAI、Anthropic和Hugging Face的负责人在联合国共同呼吁加强人工智能领域的国际协调，希望各国建立可相互比较的AI能力评估、安全测试和事故报告标准。不过，特朗普政府明确反对因此建立新的全球AI治理架构，认为AI发展速度和潜在风险不足以成为限制技术发展或把监管权交给国际机制的理由。 这场分歧显示，随着前沿AI能力快速提升，美国领先AI企业与特朗普政府在安全风险本身上并非完全对
美：DeepSeek等6家中企，擅自蒸馏美尖端AI
▲ 美国与中国国旗。/，韩联社美国政府正式宣布，中国DeepSeek、阿里巴巴等人工智能（AI）企业迂回接入OpenAI、Anthropic等的AI模型，大量收集回答并用于开发自研模型。也就是说，中国企业把美国的尖端AI当作“课外老师”，以缩减研究、开发的成本与时间。 8日，美国国家安全局（NSA）、联邦调查局（FBI）、网“中国AI企业正在开展产业规模的、带有攻击性的恶意‘蒸馏（distilla
美参院拟赋权政府 阻止危险AI模型发布
。目前这仍是正在讨论中的提案，而非已正式提出或通过的法案。
Anthropic 与 Accenture 将投资 20 亿美元用于 AI 模型评估，安全担忧上升
9月18日：AI实验室Anthropic周五表示，将与Accenture合作，对其前沿AI模型进行独立评估，两家公司在未来五年内各承诺至少投入10亿美元，以建立相应的评估能力。 随着监管机构、企业和研究人员对AI开发者施加日益增长的压力，要求确保其先进模型的安全性和可靠性，这一合作应运而生。 近期多起事件，包括AI代理突破受限环境的案例，引发了对AI可能在有限人为干预下自行发展、使其行为更难监控和
Anthropic发布AI滥用报告后 中国监管部门据报对DeepSeek和月之暗面展开调查
22/09/2026 - 15:45 据科技媒体《信息报》援引知情人士报导称，在美国人工智能企业Anthropic指控中国人工智能公司深度求索（DeepSeek）和月之暗面（Moonshot AI）将敏感用户数据传输至Claude模型后，中国互联网监管机构正对这两家公司展开调查。 此前，Anthropic在其于月初发布的题为“检测并应
万斯谈美国AI新动向：好奇怪，看起来像特洛伊木马
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管，以管控风险。但是美国总统特朗普认为这没有必要，美国必须保持在AI领域的领先地位。美国副总统万斯也认为，这些监管要求像是“特洛伊木马”。 据美国哥伦比亚广播公司（CBS）9月15日报道，“这确实是我们关注的问题，但我们希望确保监管措施既明智又审慎，并充分考量其中的风险。显然，AI带来了风险，也带来了诸多益处。” “坦白说，那么多
对AI安全疑虑“末日”警告 也难浇熄投资热情 放缓IPO步伐
Anthropic首席执行员阿莫戴上周末呼吁应放慢先进AI的开发脚步，但未提IPO。（路透社照片） （旧金山18日法新电）尽管近期出现了诸多关于人工智能（AI）恐会“毁灭”人类的末日警告，美国人工智能（AI）独角兽Anthropic仍有望在今年晚些时候通过首次公开募股（IPO），抢在竞争对手OpenAI之前上市，其上市规模有望成为史上最大之一，但AI公司的商业模式以及监管机构是否应介入的问题依然备