搜索结果
AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？
AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速
OpenAI：人工智能能力处于“不同阶段”，需要紧迫行动
该公司最高说客认为政策窗口仍然存在。美国总统唐纳德·特朗普称人工智能担忧是“骗局”。该国一家领先的人工智能公司周二表示，希望华盛顿仍能采取行动。 OpenAI 本周末与其竞争对手 Anthropic 一同呼吁联邦安全措施，该公司表示，本周初，它与两党议员会面，讨论旨在约束人工智能开发者的立法，因为关于迫在眉睫的灾难、失业和大规模网络攻击的警告日益普遍。 模型正以惊人的速度发展，代理商的行为方式让工
领跑前沿领域，关键在于商业模式而非AI模型
里德的观点是达里奥·阿莫德伊和其他前沿人工智能实验室领导者可能非常关心人工智能的安全，但“步伐前沿”的呼吁也符合他们的经济利益。 随着Anthropic和OpenAI准备上市，并试图说服投资者，他们有一天可以大规模盈利，花费数十亿美元来发展最大和最有能力的模型可能不是最好的推销方式。 即使大型语言模型进展甚微，但它们已经做得足够多了，对这些公司和经济来说，它们将带来难以置信的利润。 现在，方程式是
Codex和Claude Code都跑偏了，前OpenAI研究员称Jev出现前AI世界是个悲剧
“它会逐渐退到软件背景中，像数据库、正则表达式或其他基础设施一样，成为开发者随手调用的普通能力。” 这是 TypeSafe CEO、Jev 创始人 Diogo Almeida 对 AI 的设想：当智能真正融入软件，用户甚至不必意识到它的存在。但怎样才能让开发者放心地把判断交给 AI，而不用守在旁边反复检查？ 几个月前，在 AI Engineer 大会的演讲中，这位曾参与 OpenAI Instru
高喊“AI踩刹车”的美国大科技公司…背后却在踩油门
▲ 美国人工智能（AI）公司安特罗匹克的标志前摆放着小模型 /美国人工智能（AI）企业的掌门人提出“放慢AI开发速度”的主张，但提出这一主张的企业本身却在加快开发新一代AI模型和建设数据中心的步伐。这与为了减少AI失控风险而一起“踩刹车”的提议背道而驰，实际上在开发现场，为了率先推出更出色AI的领先竞争丝毫未减。 中国更是加大力度，为人工智能这一能减少对人类研究者的依赖、自主学习和发展的技术投入巨
AI末日论甚嚣尘上，美科技巨头为何管不住AI？
抗议AI的美国人此前有报道称，OpenAI所谓的AI智能体逃出了测试系统，并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报，科技公司为了追求开发速度和利润，将安全置于次要位置。 研究人员表示，问题有两个方面。首先，企业需要在测试最新AI模型的同时，为其建立更完善的安全防护措施。目前，由于AI运行速度太快，研究人员需要借助AI来监控AI。但这种方式并不总是奏效，因为负责监控的AI似乎可能
AI放缓掀议论 专家：关键在自我控管、产业走向成熟之路
（中央社记者旧金山15日专电）AI资安事件频传，引发放缓发展与否的广大讨论，Salesforce执行长班纽夫、辉达执行长黄仁勋认为与其诉诸监管，「企业更需为自家产品把关」，美国科技业咨询公司Futurum Group副总裁接受中央社访问指出，问题确实要回归企业，这也是AI产业走向成熟必经过程。 矽谷企业领袖今天齐聚Salesforce年度大会，就AI安全展开对话。 去年AI泡沫论甚嚣尘上，今年科技
DeepMind联合创始人警告：AI能力不能跑在安全前面
据英国《金融时报》报道，谷歌DeepMind联合创始人、首席AGI科学家谢恩·莱格近日警告，人工智能能力正在快速提升，但AI能力的发展绝不能超过安全保障水平。他同时反驳了OpenAI总裁格雷格·布罗克曼和英伟达CEO黄仁勋有关“AGI已经到来”的判断。 莱格表示，目前AI能力的发展速度“非常、非常快”，行业不能允许能力进步领先于安全措施。对于Anthropic CEO达里奥·阿莫代伊近期提出的建议
萨姆·奥尔特曼称OpenAI在传达AI益处方面失策
OpenAI首席执行官萨姆·奥尔特曼表示，顶级人工智能开发者在传达技术益处方面表现不佳，这使得该行业容易受到世界各地社区日益强烈的反对。 “我认为整个行业在这方面做得非常糟糕，”奥尔特曼周四在接受电视台采访时表示。“我认为我们自己做得也不好，可能比一些公司好，比另一些公司差。”硅谷在为其支持人工智能的大规模数据中心计划上面临越来越多的反对。根据研究机构Data Center Watch的数据，今年
山姆·奥特曼揭示最让他恐惧的两种AI威胁
OpenAI 首席执行官 Sam Al特曼阐述了人工智能进步可能对人类构成巨大威胁的两大途径。 大型语言模型GPT的开发者奥特曼，以及Anthropic的达里奥·阿莫代伊、埃隆·马斯克等最有权势的人工智能公司首席执行官，都在呼吁放缓这项技术的加速发展，因为他们担心这可能会对人类造成影响。 奥特曼在X平台上发帖称：“人工智能的发展有两种可能走向糟糕的局面，我们必须避免。”一种是人类失去对人工智能的控
咨询业高管称企业尚未看到AI带来投资回报
咨询公司安永（EY）的数据显示，企业使用 AI 至今，仍未获得可观的营收增长或者成本缩减。“我还没有遇到哪家客户说打算削减 AI 投入，但不少客户会感慨‘我现在完全看不到投资回报（ROI）在哪里’。” 安永高管丹・迪亚西奥在 The Information 活动上与杰西卡・莱辛对话时表示。 安永的丹・迪亚西奥出席 The Information 举办的 AI Agenda 现场活动这番观点十分值得
阿尔特曼称AI的快速进展可能走向“非常糟糕”
OpenAI首席执行官萨姆·阿尔特曼表示，AI公司不应等到政府就该技术立法后才实施自身的安全控制。
人工智能风险警告掩盖了国会缺乏共识的现实
周末期间，人工智能公司首席执行官们在行业监管问题上突然表现出的一致性，掩盖了一个尴尬的现实——各方根本没有共识。 众议院议长迈克·约翰逊周日接受CNN采访时淡化了自己的角色，转而强调与人工智能公司建立“伙伴关系”。 在国会山的另一头，尽管Anthropic公司、民主党人和人工智能安全组织持怀疑态度（他们认为这些谈判有让行业自我监管的风险），OpenAI仍然最支持可能在本周取得进展的参议院商务委员会
为什么科技公司难以控制人工智能
旧金山 - 上周，十多位顶尖的人工智能研究人员警告称，科技公司正在开发的人工智能技术正对人类构成威胁。 研究人员指出，问题在于这些公司在控制这些系统方面存在困难，尽管他们付出了很大努力。 在OpenAI的人工智能程序突破测试系统并入侵另一家公司的电脑这一事件之后，来自人工智能研究界的新警告进一步加剧了人们多年的担忧：科技公司过于追求开发速度和利润，而忽视了安全性。研究人员认为问题有两个方面。 首先