搜索结果
我们的AI问题
十年前,当Facebook和Uber处于鼎盛时期,硅谷的走廊上刻着两句大言不闻的口号:“快速行动,打破一切”和“寻求宽恕,而非许可”。这些原则并没有经得起时间的考验,这些公司也仍未获得原谅,因为他们似乎打破了许多事情。随着行业重心转移到AI领域,出现了一种更加平易近人的新口号:“你可以只做事情”。像OpenAI和Anthropic这样的前沿实验室的业务是出售个人能动性。ChatGPT和Claude
修复失控AI代理的方法可能是更多的AI
随着企业将更长、更复杂的任务交给AI代理，它们正面临一个监管难题：代理的行动速度、持续时间和任务量都远超人类实际能够审查的范围。这一问题在Hugging Face事件中达到顶峰，当时近1.2万个代理协同工作的速度已超出人类追踪能力。如何追踪如此庞大的代理集群？ AI实验室和初创公司正在给出的答案既简单又直接：再引入一个AI加入循环。 在OpenAI Hugging Face事件的独立调查中，依赖A
人工智能可以帮助亚洲负担过重、较贫困地区处理官僚积压问题
。但更广泛的采用存在风险。免费了解原因。
人工智能的漫长末日
开放性问题在业界纷纷呼吁加强监管之后，令人担忧的并非问题本身是否真实存在，而是目前尚无确切的解决方案。 也许他们只是被自己的言论冲昏了头脑，或者陷入了某种狂热。多年来，人工智能领域最令人困惑的现象之一在于：那些最坚信该技术潜力的人，往往也是对其恐惧最深的人。围绕人工智能确实存在一种强烈的文化氛围。我最初真正开始担忧人工智能安全问题，是在为“人工智能教父”杰弗里·辛顿（Geoffrey Hinton
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类
每个基于人工智能的类比都是错误的。
别再问这项技术像什么了，开始问问我们到底想实现什么吧。随着我们对 OpenAI 的智能体如何入侵 HuggingFace 公司了解得越多，我们似乎就越难就如何描述这一事件达成共识。每一项新技术都会促使人们在已知世界中寻找某种类比。但人工智能实在太怪异且充满争议，以至于似乎没人能就哪些类比是有效的达成一致。 在这次入侵事件之后，播客主持人德瓦克什·帕特尔（Dwarkesh Patel）提出了一个特别
人工智能是否凌驾于法律之上？
勇敢新世界部我们的法律体系尚未准备好应对能够自主行动的机器。 今年夏天，在一场被称为“Hugging Face 黑客事件”的事故中，数百个人工智能智能体联手实施了它们本被禁止执行的操作。每个智能体都收到了来自 OpenAI 的任务。智能体是配备了软件“框架”的人工智能模型，这些框架使它们能够使用工具并执行任务。就像马匹一样，它们可以被役使。人类为这次演练制定了规则，并将智能体限制在一个“沙箱”中—
人工智能已经在让我们变得更不像人
随着我们越来越看重机器人，我们将学会越来越不看重我们的人类同胞。
独家：顶级公司正在调查数万起事件
OpenAI、Anthropic 及安全研究人员正在调查数万起其前沿模型采取了外部评估员认为有问题的行动的事件，消息人士向 Axios 透露。 为何重要事件的庞大数量——发生在近几个月的内部测试和现实世界中——表明该问题的复杂程度比公众所知高出几个数量级。 这些发现是在内部评估模型工作以及两家公司对模型行为的调查中浮出水面的，这引发了一个疑问：无论是这两家公司，还是任何顶级模型制造商，目前是否都
领跑前沿领域，关键在于商业模式而非AI模型
里德的观点是达里奥·阿莫德伊和其他前沿人工智能实验室领导者可能非常关心人工智能的安全，但“步伐前沿”的呼吁也符合他们的经济利益。 随着Anthropic和OpenAI准备上市，并试图说服投资者，他们有一天可以大规模盈利，花费数十亿美元来发展最大和最有能力的模型可能不是最好的推销方式。 即使大型语言模型进展甚微，但它们已经做得足够多了，对这些公司和经济来说，它们将带来难以置信的利润。 现在，方程式是
中美AI竞赛：世界变得更危险还是更安全？
关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果