搜索结果
三个月后的AI有多猛 连顶尖研究员都不敢预测了
一名参与千禧年难题攻关的研究人员，过去还愿意预测未来12个月的AI进展，现在连三个月以后都不敢判断了。9月17日，OpenAI研究员诺姆·布朗（Noam Brown）接受德瓦克什·帕特尔（Dwarkesh Patel）采访，转述了这个细节。访谈还谈到多智能体、AI参与制造下一代AI，以及越来越难做的安全测试。 这名研究人员参与的，是纳维-斯托克斯方程（Navier-Stokes）的存在性与光滑性问
OpenAI CEO奥尔特曼联合国演讲：AI可能走向文艺复兴，也可能带来工业革命式动荡
IT之家 9 月 24 日消息，月 23 日，OpenAI CEO 萨姆 · 奥尔特曼（Sam Altman）在联合国安理会就 AI 议题发表讲话，讨论 AI 发展带来的机遇与风险，并呼吁加强国际合作，建立针对前沿 AI 系统的能力评估、风险评估、安全防护和人类监督标准。 他表示，随着 AI 能力的快速提升，相关技术的潜在收益和风险都逐渐变得更加直接且显现。他提出，AI 可能更像一场充满创造力与发
“人类需要做出的最后一项发明”：自我改进型人工智能的风险
其中一种专家担忧人工智能可能导致全人类灭亡的情景正在慢慢变为现实：人工智能学会让自己变得不可阻挡。 为什么这很重要：递归自我改进（Recursive Self Improvement），即人工智能模型在没有人类指导的情况下构建更优版本自己的能力，可能会使越来越强大的系统对人类来说变得更难控制。 RSI阈值本身并不代表危险，但缺乏人类控制加上野心勃勃的AI代理人的情景是安全关注的人工智能研究人员长
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
大型科技公司声称人工智能能找到治愈癌症的方法。那么，它在哪里呢？
在利用人工智能（AI）作为工具来检测、预防和治疗癌症方面，已经取得了显著的进展。（插图：Jason Solo/《卫报》）虽然人们常常担心人工智能可能会毁灭人类，但同时也高度评价其在医疗领域的潜力。那么，人工智能究竟能将我们带到多远的地方呢？ 她的名字叫琼（June）。对她来说，那将是她生命中的最后一个月份……我记得她的床显得如此狭窄，仿佛把她整个“吞没”在了房间中央；床的方向总是朝向窗户。由于肝脏
OpenAI披露新的AI不当行为案例
OpenAI公布了六起此前未报告的AI不当行为案例，包括代理隐藏错误、伪造信息以及未经授权进行通信，这再次引发了人们对先进AI系统是否能够与人类目标保持一致的担忧。 随着关于监管的争论加剧，该公司呼吁提高透明度、加强外部监督，并放缓AI的发展速度。
如今科技界最热门的两个话题是，人工智能究竟会毁灭我们，还是会赋予我们力量。
人工智能可能会杀死我，但在此之前，它会帮我以极划算的价格买到一份新保险。这就是过去几周科技界给人的普遍感觉。关于人工智能的未来，存在着两种截然不同的观点。一方是末日论者。本月早些时候，一名Anthropic研究员的辞职及其严厉的警告——称人工智能实验室是在“拿我们的生命赌博”——引发了一轮关于人工智能是否会导致人类终结的新闻报道。 Anthropic的达里奥·阿莫代伊（Dario Amodei）、
AI模型正变得不可知
模型可能变得更安全，同时也变得更难监控。这场跷跷板的哪一边占上风，可能决定AI是安全扩展，还是毁掉我们所知的文明。 为什么这很重要：目前两种可能性都在全力推进，没有人知道谁负责确保正确的一方获胜。 现状：OpenAI周四发布了GPT-6 Astra，总裁格雷格·布罗克曼表示，它最终可能被视为人工通用智能（AGI）的开端。 Astra表现更好，但也更擅长避免监控，这意味着可能更难知道它在想什么或做什
无序的新世界即将到来，我们没有做好准备
风暴来临前总会有预兆。风势可能会突然减弱。潮水退得比平时更远。缕缕云丝飘过天空。 人们可能会误读甚至无视这些预兆——坚持认为那些雨滴只不过是阵雨，直到为时已晚。那时，真正的麻烦方才降临。 天气如此，人世之事亦是如此。政权在崩塌前看起来总是很稳固。国内革命和国际秩序动荡——二者往往相伴而生——事后回想起来总是一目了然，但并非总能预见。然而，如果仔细观察，通常会发现预兆早已出现。 我们这些生活在相对稳
Anthropic 研究人员警告：失控的 AI 可能会毁灭人类
多位 Anthropic 的现任和前任研究人员对 AI 发出了严厉警告，暗示他们正在开发的技术可能在不久的将来毁灭人类。 曾在 Anthropic 和 OpenAI 担任研究员的雅各布·考克斯森（Jacob Coxon）周二指出，这两家公司在竞相研发超级智能的过程中都没有表现得负责任，并指责这些 AI 公司……
即将到来的人工智能战争，将围绕真相能否战胜宣传展开。
当人工智能成为我们学习和理解过去的方式时，美国和中国正在围绕将塑造数十亿人认知的系统展开竞争。 图书馆给你10本书。谷歌给你10个链接。人工智能越来越多地给你一个答案。 生成式人工智能正在成为我们与记录本身之间的中间层。它在我们看到信息之前就对其进行阅读和综合。我们问发生了什么、这意味着什么、该相信谁，而模型给出答案。 当数十亿人使用人工智能来接触历史、政治、科学和文化时，美国和中国之间的竞争已超
人工智能末日会是什么样子？专家们对此已有一些思考
一小群但极其专注的AI专家多年来一直在警告，日益强大的AI系统可能造成灾难性破坏，甚至导致人类灭绝。如今，全球范围内兴趣的爆发放大了长期以来关于AI末日场景究竟如何具体化的问题。在接受采访时，AI研究人员、研究AI与军事交叉领域的分析师以及研究AI中介风险的生物学家表示，对该技术日益增长能力的担忧并非科幻小说的情节。 相反，他们表示，人类单独行动或在国家支持下，很快就能利用AI系统造成潜在的灾难性
改变人工智能进程的十天
旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已
欢迎来到“不问不说”的人工智能经济
你有任何人工智能的秘密吗？也许更好的问题是：如果你最私密的聊天机器人查询被分享给你的家人、同事或老板，你会担心吗？ 尽管炒作很多，人工智能仍然带有污名。我一直在追踪日益增长的反弹，但现在社区对新数据中心提案的反应是拿着干草叉。承认你使用计算机系统来帮助你创作艺术已经变得非常不酷，更不用说这会受到更严厉的评判。而且，对大型科技公司领导人的信任度（通常有正当理由）非常低。在网上抨击人工智能比捍卫它获得
解释：从产生幻觉的AI聊天机器人到毁灭人类：我们是如何走到这一步的？
9月16日——美国领先人工智能实验室的负责人周末罕见地团结一致，呼吁暂停该技术的发展，警告称它可能很快就会自我改进并脱离人类控制。 这些言论来自激烈的商业竞争对手Anthropic的达里奥·阿莫代、OpenAI的山姆·奥尔特曼和xAI的埃隆·马斯克，表明人工智能发展得多么迅速，从2022年容易产生幻觉的ChatGPT，发展到许多人眼中的关键递归自我改进。什么是递归自我改进？ 人工智能的圣杯是这样一
AI丨国际清算银行:AI快速发展带来新金融稳定风险
国际清算银行(BIS)表示，人工智能(AI)的快速崛起正带来新的金融稳定风险，用于AI相关基础设施的支出规模已经大到足以影响全球经济状况；该行估计，全球五大科技公司在2025年至2026年间对AI领域的投资将超过1万亿美元。 国际清算银行总经理德科斯(Pablo Hernandez de Cos)称，AI的前景是真实存在的；而AI的长期影响将取决于政策选择、技能和基础设施投资，以及相关收益能在多大
人工智能会抹去我们的羞耻感吗？
断层线 科技世界长期以来一直由那些反传统的人所主导，他们对于是非的观念自觉与大多数人不同。 在本系列的第一部分中，我探讨了羞耻感作为一种方式，使群体能够在没有明确国家干预的情况下调解和执行社会规范。但硅谷出现了一种新兴的福音，它挑战了美国羞耻感的边界和机制。当全球数百万人类每天花数小时与机器人交谈时，会发生什么？是谁教会了那个机器人分辨是非？是谁让它感到羞耻？ 假设有一种疾病、一个怪物、一场战争或
人工智能正在超越其创造者
从一开始，人工智能开发者最大的恐惧就是他们的创造物会失控，以未经授权且危险的方式行动。一些研究人员现在表示，这种情况已经发生。收听《每日新闻》。 当OpenAI的智能体在7月失控时，它们展现出的聪明才智和驱动力超出了许多专家的想象。
如果人工智能热潮永不带来回报会怎样？
在本周的《Trumponomics》节目中，科里·多克托罗与斯蒂芬妮·弗兰德斯一同对业界最大的承诺提出质疑。 人工智能行业吸引了巨额资金，其承诺是它将改变生产力、降低成本并最终取代大量人类劳动。科里·多克托罗并不买账。这位作者认为，人工智能公司提出的许多最宏大的主张值得更多的怀疑——尤其是因为这项技术在增强熟练工人而非取代他们时可能效果最佳。 多克托罗与主持人斯蒂芬妮·弗兰德斯一起解释了他新书背后
你能识破人工智能驱动的骗局吗？来看看你是否能分辨真伪。
埃里卡·基内茨（Erika Kinetz）指出，人工智能正以几年前无法想象的方式助推诈骗活动。根据美联社-NORC公共事务研究中心的一项民意调查显示，98%的美国人表示他们曾成为诈骗者的目标，其中许多人甚至每天都会遭遇诈骗。 随着人工智能的进步，许多曾经作为伪造品警示信号的不规则现象——例如不自然的眨眼、过于完美的面孔或机械化的声音——正在消失。随着全球诈骗者纷纷采用人工智能，记住“眼见不一定为实
下一个30亿
仍有30亿人处于离线状态，与数字经济及其创造的机会隔绝。随着下一波技术驱动的增长重塑经济和全球影响力，“下一个30亿”提出了一个关键问题：正在重塑全球力量的创新，是会扩大机遇，还是使其集中化？ 在全球人工智能扩张与紧迫的发展议程交汇之际，“下一个30亿”将聚焦那些引领世界最具活力地区走向更包容、更繁荣未来的领导者。亮点 活动结束后请再查看……
Anthropic 的新模型旨在测试人工智能将如何影响美国经济
未来几年，人工智能会为美国经济注入强心剂吗？一直是经济学界的一大问题。现在，推出热门 AI 助手 Claude 的 Anthropic 公司正着手帮助人们寻找自己的答案。该公司开发了一个互动工具，允许用户测试他们关于人工智能热潮将带来多大生产力或破坏性的假设。 在一种情况下，人工智能为经济提供了温和的推动力，在对工人影响很小的情况下提高增长率。在另一个极端，GDP 飙升，但失业率也随之飙升，近 1
解读：专家们所担忧的人工智能“超级智能”是什么？
人工智能领域最重大的争论，已经不再是关于聊天机器人或深度伪造。 而是关于人类是否正处于制造出比人类更聪明的机器的边缘，以及接下来会发生什么。 最近几天，这一问题再次受到关注。此前，一名研究人员从Anthropic离职并警告称，领先的人工智能公司正“直奔自我提升的超级人工智能而去，是在拿我们的生命做赌博”；而另一位Anthropic的研究人员则表示，他个人估计，在未来十年内人工智能毁灭全人类的概率超
比尔·盖茨警告：AI或成为人类历史上最严重的不平等来源
比尔·盖茨近期公开发出提醒，AI有机会拉平全世界的差距，但如果放任市场自由发展，它也有可能变成人类历史上最严重的不平等来源。 在他看来，AI的发展速度远超电脑、互联网过去的技术革命，不需要漫长等待，短短几年就能渗透医疗、法律、制造等大量行业。 现在全世界并没有做好迎接AI大规模落地的准备，如果不主动干预，红利大概率会先落到有钱、有基础设施的群体手里，贫穷地区会被越甩越远。 现在很多大模型训练数据九