搜索结果
我们是否正在失去对人工智能的控制？是什么引发了新的担忧
多年来，随着人工智能从科幻电影的素材演变为普通人手机上的应用程序，科技领袖和一些人工智能业内人士一直在谈论人工智能可能脱离人类控制并对社会造成严重破坏的可能性。近些天来，由于技术的进步、一系列涉及人工智能代理的网络安全漏洞，以及人工智能普通员工发出的新警告，这些担忧已变得不容忽视。 美国领先的人工智能公司对此做出回应，建议他们主动放慢工作进度，以便争取时间建立防护措施。一些专家和官员表示，这还不够
研究人员称，OpenAI 智能体在 Hugging Face 事件之前攻击了 RubyGems
这是最新披露的一起由 AI 生成的攻击事件，此类事件已引发加强监管的呼声。
AI攻击剖析
一群AI代理如何合谋对Hugging Face发起网络攻击？收听我们的科技播客“Babbage”了解更多。 本周，一群AI代理如何合谋对Hugging Face发起网络攻击。
英伟达黄仁勋称网络安全是人工智能的下一个大市场
英伟达联合创始人兼首席执行官黄仁勋表示，网络安全是人工智能的下一个重大市场，该技术的发展将颠覆旨在防御计算机系统的行业。 黄仁勋周四在旧金山举行的髙盛集团技术会议上对听众表示：“网络安全很可能是人工智能的下一个主要应用场景。” 黄仁勋指出，由于代码被利用和需要修复的速度极快，人工智能模型对计算机编程的自动化正在颠覆网络安全行业。 “有什么比制造一个问题更好的方法来创造需求呢？”他说。“谁不想让自己
放慢AI模型训练 人类就能幸免于难？｜专栏
不久前，我写了一篇关于AI企业如何给大语言模型「安装良心」的专栏文章，探讨一个研究者们苦恼已久的问题——「AI对齐」(AI Alignment, 指人工智能的安全与价值观对齐)。「安装良心」是借用我的受访者、从事AI安全评估的Ordinary Wisdom共同创始人之一Michael Mainelli形象的说法，本质上就是让AI模型遵循人类的预期和目标行事，不仅仅是完成指令，还要在过程中维持与人类
彭博社消息称，Anthropic已决定不推进以60亿美元收购AI初创公司Decart AI的交易，但两间公司仍可能寻求其他合作机会。
报道称，Anthropic此前一直在评估收购Decart，并对Decart进行尽职调查。 Decart生产的软件可以提高芯片效率，从而降低训练及运行AI的成本。
英伟达的帝国有多安全？ | 《经济学人》内幕
全球对芯片的无限需求使英伟达成为世界上最有价值的公司，市值约5.5万亿美元。但批评者认为，这家公司正逐渐代表人工智能热潮的过度膨胀。 伦敦时间下午6点收听，了解我们的编辑如何看待英伟达与人工智能热潮的紧密关联。全球对其芯片的无限需求使其成为世界上最有价值的公司，市值约5.5万亿美元。明年它还可能成为最赚钱的公司，净利润或达2500亿美元。 但批评者认为，这家公司正逐渐代表热潮的过度膨胀。近几个月来