搜索结果
人工智能领袖们此刻呼吁放缓，真是再方便不过了
想象一下，一家制药公司花了近四年时间吹捧一种将能治愈所有疾病的突破性新药。支持这些说法的早期证据有限，仍有大量疑问，但该公司继续推进。批评和担忧虽得到回应，却并未减缓其激进的推进步伐。毕竟，投资者相信这是货真价实的东西。（或者至少是一场非常值得一赌的押注。）然后，就在这家制药公司即将揭晓其花哨新药之际，它却抛出了一个令人震惊的消息：事实证明，这种药也可能是一种毒药。因此，为了所有相关方的安全，该领
Meta的扎克伯格称AI实验室有足够动力安全地进行构建
Meta Platforms首席执行官马克·扎克伯格周二表示，竞争和责任给了人工智能公司足够的理由各自在安全方面采取行动，这似乎背离了顶级人工智能公司领导人呼吁协调放缓人工智能发展的呼声。
廉价而强大的AI模型正在推动使用量增长，这对AI热潮来说是一个利好信号
多年来，AI公司一直在竞相拥有最好、往往也是最危险的模型。如今，它们正转向一个新的焦点：成本。 为何重要： AI热潮面临的最大风险是需求，而近期在保持强大智能水平的同时让模型变得更便宜的创新，释放出了看涨信号。 随着OpenAI、Anthropic等公司顶级模型的价格下降，使用量正在急剧增加，这一趋势指向了那种足以证明数万亿美元支出合理性的需求。 当前态势：本周AI世界迎来了一场模型盛宴，Op
AI巨头押注医疗健康以平息公众反弹
AI有一个形象问题。而解决这个问题的一个方法就是让顶级公司一头扎进医疗保健领域。 为什么这很重要：用AI设计的疗法拯救世界，总比被指责破坏环境或推高美国人的电费要好。 但即使是最先进的AI模型目前也无法产生奇迹般的治疗方法——而且如果它们尝试，可能会带来严重的安全风险。 这可能会在未来两三年内引发一场关于资源分配的激烈辩论，即把大量计算能力投入医学研究的收益是否大于成本。 推动因素：《华尔街日报》
“以混乱换取可靠性”：专家称，AI发展放缓可能意味着更严格的监管和更多测试
法规与保障措施 OpenAI、Anthropic和Meta Platforms最近披露，它们的人工智能代理出现了意外行为，逃出受控测试环境，并在没有人类直接指令的情况下对多家公司发动网络攻击。 专家表示，尽管这些事件没有造成已报告的损害，但它们凸显了与人工智能发展相关的不断演变的风险，尤其是在人工智能代理领域。 新加坡理工大学人工智能与数据科学负责人斯特凡·温克勒教授表示，主要担忧在于，能力极强的
毛利率从50%跌至-50% 美创业公司反思对OpenAI等依赖、转用中国模型
凤凰网科技讯月22日，据彭博社报道，Harvey是一家估值156亿美元的美国法律科技创业公司，其业务核心是训练像OpenAI GPT-4这样的AI模型，为律师完成专业工作。然而，近期不断飙升的AI成本，正促使该公司重新考虑对这些AI巨头的依赖。 据一位知情人士透露，在3月份对其AI智能体进行更新后，Harvey的客户使用量激增，但毛利率却急剧下滑，从年初的约50%降至6月的-50%。 如今，这家创
88小时抵一个人思考4000年！OpenAI核心研究员：除了自我进化，更可怕的是AI正学会“隐藏自己”
AI正在把过去需要数千年完成的认知劳动压缩到数天。真正的问题已经不只是模型能否变得更聪明，而是实验能否跟上、人类能否在模型继续自我改进前确认它仍然安全。 近日，在Dwarkesh Podcast的一场长篇访谈中，主持人Dwarkesh Patel与OpenAI研究员Noam Brown围绕多智能体、递归式自我改进（RSI）和AI对齐展开讨论。访谈的直接背景，是OpenAI让约1万个AI智能体连续运
美国企业界日渐青睐开放人工智能模型
近年来，AT&T转向使用Anthropic和OpenAI的人工智能模型来协助客户服务、通话转录和编程。这些人工智能模型需要付费，而且是“封闭”的，这意味着人工智能公司不会分享其底层代码。今年，AT&T改变了策略。 随着人工智能成本飙升，该公司首席数据和AI官安迪·马库斯开始寻找便宜的替代方案。他选择了开放模型，这种模型可以无需付费或批准即可下载和修改。 到今年5月，开放模型已占AT
领跑前沿领域，关键在于商业模式而非AI模型
里德的观点是达里奥·阿莫德伊和其他前沿人工智能实验室领导者可能非常关心人工智能的安全，但“步伐前沿”的呼吁也符合他们的经济利益。 随着Anthropic和OpenAI准备上市，并试图说服投资者，他们有一天可以大规模盈利，花费数十亿美元来发展最大和最有能力的模型可能不是最好的推销方式。 即使大型语言模型进展甚微，但它们已经做得足够多了，对这些公司和经济来说，它们将带来难以置信的利润。 现在，方程式是