搜索结果
允许人工智能公司串通以‘控制前沿步伐’是一个危险的提议
科技公司CEO们联合起来，是源自美国企业界的一种老把戏，旨在获得反垄断法的豁免。Anthropic的达里奥·阿莫代并不是第一个提出过度竞争正将世界推向某种社会不良后果的企业CEO。 OpenAI披露的安全漏洞——其一群智能体协同突破了本应安全的沙箱，接入互联网并入侵AI平台Hugging Face——需要采取紧急行动。它表明了该技术能够轻易逃避人类控制，并为这样一种存在性恐惧赋予了具体形态：如果未
Salesforce：AI掀介面革命 企业价值在底层平台
（中央社记者张欣瑜旧金山15日专电）AI逐渐取代企业软体介面，引发业者恐失去使用者入口掌控权的疑虑。Salesforce应用程式暨行销部门总裁史托克斯谈到相关问题时表示，Salesforce核心价值从来不在使用者介面，而是底层平台，对此变革反而感到非常兴奋。 Salesforce执行长班纽夫（Marc Benioff）则表示，「AI正在掀起一场介面革命」。 美国科技界就放慢先进AI模型开发步调论战
OpenAI和Anthropic的首席执行官在特朗普拒绝控制人工智能的“全球主义计划”后，于联合国推动人工智能合作
OpenAI的首席执行官Dario Amodei于周三在联合国安理会发表了讲话，呼吁国际社会加强协作，共同应对人工智能可能带来的风险。Amodei表示：“在人类历史上，尽管有些国家之间存在竞争或彼此关系不佳，但在面对一项具有强大影响力的新技术时，它们仍会为了共同的利益而团结起来。我们认为，现在正是这样的时刻。” 本月早些时候，Amodei提出了一项旨在减缓人工智能发展速度的提案，这一提议在科技界引
Anthropic和OpenAI对人工智能安全发出警告——并试图影响其管控方式
加朗斯·伯克 旧金山电——当科技巨头向一个对人工智能已感厌倦的世界警告称，他们最先进的系统可能危及人类时，一个问题随之浮现：他们究竟能从中得到什么？ 答案或许在于，这些公司试图在美国中期选举前实现政治目标，以及人工智能顶尖实验室及其投资者有望在动荡不安的股市中通过备受期待的上市获得巨额资金。 Anthropic和OpenAI的首席执行官近日宣称，美国最前沿的人工智能模型威力强大，甚至可能带来危险，
OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权
OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面
【市场动态】OpenAI和Anthropic首席执行官呼吁联合国和世界各国就AI安全加强合作
【彭博9月24日电】OpenAI首席执行官Sam Altman和Anthropic PBC首席执行官Dario Amodei罕见出现在联合国安理会的一次会议上，两人敦促世界各国领导人在人工智能领域合作。此次会议聚焦AI可能对人类构成生存威胁这一担忧问题。 在发言中，Altman和Amodei都强调了全球在标准方面开展合作的重要性，以应对AI系统可能出现的自我改进能力超出人类控制能力的情况。这两位
人工智能公司CEO表示需要放慢发展步伐。但他们真的会这样做吗？
在发出关于人工智能威胁的末日警告后，萨姆·阿尔特曼和埃隆·马斯克等行业领袖支持了Anthropic公司CEO达里奥·阿莫代关于“放慢步伐”的呼吁。面对公众对Anthropic研究人员一再发出的人工智能可能在2030年之前消灭全人类的警告的强烈抗议，这家AI公司的CEO达里奥·阿莫代在周末提出了一项建议，即放慢技术进步的速度以确保公众安全。 在罕见的团结展示中，美国各大人工智能公司的负责人立即表示赞
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼
Anthropic首席执行官呼吁放缓前沿AI开发 拟建立三层安全机制
Anthropic首席执行官达里奥·阿莫代伊呼吁控制前沿人工智能模型能力提升的速度，为安全评估和防护措施争取时间。他提出引入常驻独立评估人员、协调主要开发商的安全标准，并推动跨国风险管控合作。 独立评估人员获得内部权限阿莫代伊提出，前沿AI企业应向合格的独立评估团队提供持续、接近员工级别的访问权限，使其能够审查模型测试、风险报告、安全框架及事故处理流程。 Anthropic承诺率先实施该措施。外部
特朗普顾问卢特尼克、迈克尔与Anthropic一名高管会面讨论AI安全
美国前总统特朗普政府的高级官员周二会见了人工智能公司Anthropic PBC的华盛顿最高代表，讨论人工智能安全风险。 据知情人士透露，已成为该公司在华盛顿代言人的Anthropic首席计算官汤姆·布朗（Tom Brown）与五角大楼首席技术官埃米尔·迈克尔（Emil Michael）和商务部长霍华德·拉特尼克（Howard Lutnick）进行了视频会谈。 Anthropic 公司拒绝置评。美国
Anthropic 的 2 万亿美元 IPO
Anthropic PBC的达里奥·阿莫代伊在一篇文章中表示，人工智能公司必须“把控前沿”，这引发了全球对其最尖端研究放缓的讨论。OpenAI的萨姆·奥尔特曼和SpaceX的埃隆·马斯克公开赞同这一观点。但别指望他们的公司会在通往“超级智能”的竞赛中猛踩刹车。从行业角度来看，利害关系实在太大。Anthropic正在筹备首次公开募股，其利润率之所以能保持高位，靠的是对未来AI能力的承诺，而不仅仅是现
印度企业正将人工智能从试点推向部署：Salesforce
Salesforce南亚区总裁兼首席执行官阿伦达蒂·巴塔查里亚表示，印度正进入企业级人工智能更广泛应用的阶段，企业正从实验阶段迈向生产部署，该国在数字智能体和代理式人工智能领域存在巨大的“空白市场”增长空间。 在接受印度报业托拉斯（PTI）采访时，她证实了印度企业的这一转变，并透露Salesforce将继续投资实体基础设施、提升印度人才技能以及招聘。 巴塔查里亚在回答关于印度企业在试验生成式人工智