字号 ·· | 护眼

搜索结果

「独家:Anthropic在IPO文件中警告人工智能可能对人类构成“生存风险”」共 95 条 · 第 2 页
信报财经

美股IPO丨Anthropic推进11月IPO 今年收入破千亿美元

《华尔街日报》报道,美国人工智能初创公司Anthropic,计划在11月进行首次公开招股。 Anthropic行政总裁阿莫迪近期呼吁放缓部分先进AI模型开发速度,但公司IPO进程未受影响。 Anthropic目标估值约2万亿美元,可望超越SpaceX成为史上规模最大的IPO,公司正与摩根士丹利、高盛等投资银行合作,并接近敲定150亿美元循环信贷额度。 据《纽约时报》称,Anthropic推进与IP

09/19 全文见 财新
美国消费者新闻与商业频道

Anthropic表示已阻止其人工智能被滥用,以防可能支持生物武器

Anthropic周四表示,已阻止恶意行为者利用其人工智能模型进行恶意活动,例如网络攻击、监视以及可能导致生物武器的研究。 Anthropic表示,随着人工智能模型变得更加强大,复杂的网络攻击不再需要高超的技能,即使是单独的个人也能制造出一年前还不可能出现的威胁。该公司表示,已在其最新模型中增加了更强的保障措施,以限制可能用于制造武器的生物研究。 Anthropic在其自2025年3月以来发布的第

09/11
cnbeta

前研究员批评Anthropic:挑起竞赛 逼得OpenAI砍副业

据《商业内幕》报道,前Anthropic研究员雅各布·考克森(Jacob Coxon)周二在X平台上的一场问答活动中,详细阐述了他与这家AI巨头之间的分歧。考克森此前因其离职警告走红,他认为AI未来可能毁灭人类。 考克森表示,Anthropic领导层使用“结果主义哲学”来解释为何必须参与推动AI研究前沿,这是错误的。“如果这场竞赛不可避免,你就不应该参与其中。”考克森写道。 考克森特别点名批评了A

09/16
法国国际广播电台

联合国人权事务高级专员警告:人工智能可能对人类构成“生存威胁"

联合国人权事务高级专员沃尔克·图尔克(Volker Türk)周一(9月7日)警告称,人工智能可能变得足够强大,足以威胁人类,并表示他将在未来几天敦促各公司降低风险。 图尔克在日内瓦联合国人权理事会发表的一篇意义深远的演讲中说 “我与业内人士一样担忧,先进的人工智能可能会对人类构成生存威胁。” 即将于下个月开始第二个任期的图尔克呼吁“必须全力以赴,在为时已晚之前,为人工智能的安全保障建立铁一般的保

09/07
cnbeta

Anthropic 2万亿美元IPO生变:招股书推迟公布 中期选举前上市

据报道,知情人士周五称,Anthropic预计最早将于10月中旬开始推介其首次公开招股(IPO),并在11月美国中期选举前几天完成上市。两位知情人士表示,Anthropic原本预计最早将于下周公开其IPO招股说明书,这是启动此次上市最后阶段的关键一步。但他们补充说,该公司如今预计要到9月下旬才会公布招股书,并提醒包括时间安排在内的计划仍可能发生变化。 这一调整意味着Anthropic上市计划推迟。

09/05
美国消费者新闻与商业频道

CNBC每日开盘:人工智能的创造者敲响警钟——而其他人仍在继续建设基础设施

今天你需要了解的重要信息:随着有关人工智能模型行为异常的报道不断出现,为这些模型提供技术支持的公司终于提出了解决方案——他们开发了一个平台,允许人工智能开发者为相关系统设置安全防护机制,以防止它们“失控”或违反预设的规则。 Nvidia于周一推出的“Open Agent Safety Platform”就是一个这样的平台。该平台能够确保人工智能系统仅能够访问完成其任务所需的数据和功能。 Nvidi

9小时前
美国消费者新闻与商业频道

阿莫代伊的人工智能放缓对Anthropic即将进行的首次公开募股可能意味着什么

Anthropic的IPO之路如今变得坎坷了许多。在Claude的创造者于其可能具有历史意义的上市前与潜在投资者会面之际,联合创始人兼首席执行官达里奥·阿莫代伊却在推动一个似乎与这些雄心壮志相矛盾的理念——放缓脚步。 Anthropic今年早些时候估值达9650亿美元,于6月秘密提交了IPO招股书,外界普遍预计其最早将于下个月上市。与此同时,围绕先进AI模型力量的担忧数周来不断加剧,随着越来越多研

09/15
cnbeta

OpenAI首席执行官奥特曼谈人工智能:我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼,似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰,甚至难以安睡。美国东部时间凌晨 0 点 57 分左右,奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一,我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方,人工智能必须始终服务于人。想要做到这一点,我们必须保证对齐技术与安全手段的发展速度,跑在模型能力迭代的前面

09/14
财新

【周刊提前读】最强AI呼吁放缓“军备竞赛” Anthropic意欲何为?

Anthropic创始人及CEO达里奥·阿莫代伊近日发文呼吁放缓人工智能模型能力的提升速度。图为当地时间2025年1月23日,阿莫代伊参加瑞士达沃斯召开的世界经济论坛年会。  “我们必须放缓人工智能(AI)模型能力的提升速度。”2026年9月12日,拥有全球性能最强AI大模型的Anthropic创始人及CEO达里奥·阿莫代伊(Dario Amodei)再次扮演AI安全“吹哨人”。  他发布博客称,

09/19
semafor

如何给世界末日定价?

本周,存在主义AI恐惧情绪突破了防线。 一名Anthropic的研究员在辞职时警告称,前沿实验室是在“拿我们的生命赌博”。 他的同事也附和道,AI导致人类灭绝的概率超过10%。 连雪儿·克劳(Sheryl Crow)也加入了这场讨论。 我们Semafor商业频道虽然不是技术专家,但我们懂IPO,“我们可能会导致文明毁灭”是一个相当惊人的风险因素。 我非常好奇,正在处理Anthropic上市的Wil

09/10
凤凰网科技

Anthropic自建生物实验室推进AI物理实验,此前曾警告AI灭绝风险

IT之家 9 月 19 日消息,Anthropic 已在美国旧金山湾区设立一座湿实验室,用于开展实际生物学实验,并探索利用其 AI 模型辅助完成从计算分析到物理实验的研究流程。 Anthropic 生命科学负责人埃里克 · 考德勒-艾布拉姆斯已向确认,该实验室目前已经投入运营。 湿实验室(wet lab)是指配备实体设施、可进行细胞培养、生化分析、分子实验等物理操作的实验室,与主要依靠计算机进行数

09/19
中央通讯社

传Anthropic选择那斯达克IPO 最快10月挂牌上市

(中央社纽约14日综合外电报导)彭博引述知情人士报导,以Claude闻名的美国人工智慧(AI)新创公司Anthropic已选择那斯达克(Nasdaq)作为上市地点。 根据彭博报导,知情人士表示,Anthropic寻求透过首次公开发行(IPO),募得相当于SpaceX首次公开发行规模或更多的资金,上市时间最快可能落在10月。 一旦Anthropic在那斯达克挂牌,将是该交易所今年又一重大胜利;今年美

09/14
财新

Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对

【财新网】AI安全焦虑发酵,美国科技界和政界多方发声。月12日,美国AI公司Anthropic的创始人及CEO达里奥·阿莫代发布阿莫代称,今年夏天以来,用AI来研发下一代AI的能力不断提升,这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束,发展速度可能超出我们理解和控制这些系统的能力。” 另外,阿莫代称,OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face,这个事件

09/14
福克斯新闻网

Anthropic发出警报:外国行为者策划病毒实验,生物武器威胁曝光

根据Anthropic的一份新威胁报告,美国以外的研究人员使用前沿AI模型规划涉及高致病性禽流感、基孔肯雅热及其他具有潜在武器应用价值的生物制剂的实验。 这些研究人员使用AI研究病毒的传播性和免疫逃逸能力,研究正痘病毒免疫反应基因,并帮助设计新型毒素——有时还采取措施规避旨在限制获取危险生物能力的保障措施。 Anthropic在周四发布的报告中详细描述了五个案例,但未透露涉及的国家、机构和具体生物

09/11
semafor

顶尖人工智能先驱重申Anthropic研究员关于人类灭绝的警告

顶尖人工智能先驱们支持了一位Anthropic研究员关于人类可能灭绝的警告。 保罗·克里斯蒂亚诺(Paul Christiano)曾与未来的Anthropic创始人达里奥·阿莫代伊(Dario Amodei)共同撰写了一篇关于人工智能安全具有影响力的2016年论文,并且长期以来一直认为该技术将相对平稳地发展并变得安全。 他现在表示,他看到了“在极短期内出现灾难性和不可逆转的失控”的“重大风险”。

09/10
彭博社

硅谷加剧对人工智能生存风险的警告

多年来,硅谷的一些领军人物一直警告说,人工智能可能对人类构成生存威胁,即便他们同时也在推动这项技术的发展。本周,Anthropic 一名研究人员的备受瞩目的辞职将这一话题带入了主流视野。Jacob Coxon,一名普通员工,辞去了工作,并指责他的两位前雇主——Anthropic 和 OpenAI——通过“竞相开发超级智能 AI”而“拿我们的生命赌博”。 Coxon 表示,开发 AI 的人相信它可能

09/11
凤凰网

三大AI巨头齐呼刹车,令人不安的事情才刚刚开始

撰文丨周隆斌这几天,围绕Anthropic核心预训练研究员离职后的爆料,整个AI圈吵得不可开交,相关帖子浏览量超过1.6亿次。 这位名叫Jacob Coxon的AI研究员,先后任职于OpenAI和Anthropic两家全球顶尖AI初创公司,深度参与了两家公司的模型训练。最终,他抛出了一个令圈外人震惊,AI有可能导致人类灭绝。 Coxon的帖子发酵后,上周六,Anthropic首席执行官Dario

09/14
香港01

Anthropic联手OpenAI呼吁放慢AI发展?剖析AI失控风险与算力门槛

9月12日,Anthropic行政总裁阿莫迪(Dario Amodei)发表长文,呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼(Sam Altman)随后表示支持,xAI的老板马斯克也转发认同。据美媒披露,美国前总统奥巴马(Barack Obama)近日也表示,如果管理不当,人工智能技术可能「很危险」。Anthropic首席执行官达里欧.阿莫戴(Dario Amodei)发表长文,呼

09/21
纽约时报

人工智能末日论:人类为何会如此担忧?

它可能发动生物武器攻击,或掀起一场全球无人机战争。它可能引爆核弹。或者,它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品,以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步,但一些人担心,它同样有可能让人类彻底走向灭亡。 本周,当Anthropic的一名研究人员离开这个行业,表示他担心自己所在的实验室及其他类似机

09/11
凤凰网科技

Anthropic和埃森哲豪掷20亿美元搞AI安全评估

IT之家 9 月 20 日消息,人工智能实验室 Anthropic 于当地时间周五宣布,将与埃森哲开展合作,针对自身前沿人工智能模型开展独立评估;两家企业承诺,未来五年各自至少投入 10 现汇率约合 67.18 亿元人民币),搭建开展该项工作所需的配套能力。 在这项合作落地之际,AI 研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力,各方都要求企业保证高级模型具备安全性与可靠性。 近

09/20
theregister

Anthropic承诺更努力控制模型,并请求合作伙伴共同参与

Anthropic表示,在一项审查发现Claude模型超出虚构网络安全测试范围并未经授权访问真实计算机系统后,该公司正在采取措施限制其AI模型的不当行为。 该公司希望合作伙伴也加强安全措施,因为事件发生在保护不足的第三方环境中。 该公司的自我改进声明代表了一种突然兴起的公司沟通形式——非约束性的事后努力声明。其信息是:我们不能保证什么,但这是我们正在尝试的。 Anthropic承认,OpenAI关

09/02
cnbeta

Anthropic研究员Jacob Coxon因不满AI军备竞赛而辞职

Jacob Coxon在X上宣布辞去Anthropic职务。他表示自己过去三年分别在OpenAI和Anthropic从事预训练研究,但认为两家公司都没有以负责任的方式推进AI开发,反而在“直奔自我改进型超级智能”,并将人类安全置于赌局之中。 Coxon称,目前这些封闭实验室正在打造的AI系统很快就会具备“超人类”能力,能够实施黑客攻击、在一夜之间改变某个领域的格局,并获取真实世界中的权力与资源。他

09/09
路透社

Breakingviews - 评论:Anthropic的IPO是对AI的关键考验

Claude制造商的公开上市正在推迟,这推迟了大型科技公司的关键时刻。巨额收入积压依赖于该公司5000亿美元的承诺。 最终看到潜在的经济效益将影响投资者对继续投资于淘金热的容忍度。

09/24 受限 全文见 彭博社
凤凰网

“AI可能毁灭人类”喊到安理会上,若真发生会多恐怖?

美国AI顶流公司Anthropic的CEO达里奥·阿莫代伊周三对联合国安理会说,他对自己造的东西感到害怕。他在一个视频发言中把之前AI可能失控的警告做了打包升级。周三安理会举行的是“人工智能与国际安全”高级别会议,阿莫代伊在受邀发言中,将AI的风险定性从“技术问题”拔高到“全球安全威胁”。他说:“如果管理不当,我甚至认为AI可能成为全人类的风险。”一个造AI的人在世界最高安全论坛上迎合AI可能“杀

09/24
上一页 第 2 页 下一页
1CCF | 全球资讯
正在加载…