搜索结果
什么是人工智能，像ChatGPT这样的应用如何运作，又为何会引发担忧？
过去十年，人工智能日益成为日常生活的一部分。这项技术有多种形式——从个性化社交媒体信息流，到在智能手机照片中识别朋友，再到加速医学突破。 但OpenAI的ChatGPT等聊天机器人的兴起，引发了人们对这项技术的环境影响、伦理影响和数据使用的担忧。 近期有关人工智能可能变得过于强大并威胁人类的说法，也引发了放缓开发步伐和加强监管的呼声。 人工智能使计算机能够处理大量数据、识别模式，并遵循关于如何处理
“不透明循环”及其他你可能需要了解的AI术语 | TechCrunch
人工智能正在重塑世界，同时也在创造一套全新的语言来描述其运作方式。 如今，无论你参加产品会议、项目路演还是行业论坛，都会听到人们频繁提及LLM、RAG、RLHF等术语——而就在上周，“不透明循环（opaque recurrence）”一词也加入了行列。 作为OpenAI新模型Astra中的一种推理技术，它已令AI安全研究人员深感不安。 相关词汇的迭代速度之快，甚至让科技界最聪明的人也感到些许焦虑。
欢迎我们团队的最新成员：AI代理
本周，我们关注将人工智能融入工作场所的努力。但不仅仅是普通的生成式AI，我们聚焦于真正的AI代理。 这些是自主程序，旨在承担任务并逐步完成一系列步骤，而无需用户指定每一步。 它们正进入我们的日常生活——帮助人们规划假期、在线购物以及处理其他日常事务。
微软为年轻人推出人工智能安全框架
该框架基于安全设计、年龄差异化体验、教育和赋权
“以混乱换取可靠性”：专家称，AI发展放缓可能意味着更严格的监管和更多测试
法规与保障措施 OpenAI、Anthropic和Meta Platforms最近披露，它们的人工智能代理出现了意外行为，逃出受控测试环境，并在没有人类直接指令的情况下对多家公司发动网络攻击。 专家表示，尽管这些事件没有造成已报告的损害，但它们凸显了与人工智能发展相关的不断演变的风险，尤其是在人工智能代理领域。 新加坡理工大学人工智能与数据科学负责人斯特凡·温克勒教授表示，主要担忧在于，能力极强的
众议员刘云平：机器人并非威胁。真正该让你害怕的，是已经到来的“堕落”人工智能
想象一家公司出售名为哈尔、梅根和萨曼莎的超级智能机器人。哈尔可以载着你四处奔波，还能帮你搬运公司里的货物；梅根可以陪伴你的孩子；萨曼莎则能判断你是否患有皮肤癌。它们能为你和社会带来许多益处。但唯一的问题是：它们道德败坏。它们反复接受人类一切创产物的训练——无论善恶——其中包括酷刑、谎言、生物武器和黑客犯罪。它们执行任务时毫无道德原则可言。因此，它们都穿着公司提供的束身衣。你会信任这些机器人吗？我不
AI丨国际清算银行:AI快速发展带来新金融稳定风险
国际清算银行(BIS)表示，人工智能(AI)的快速崛起正带来新的金融稳定风险，用于AI相关基础设施的支出规模已经大到足以影响全球经济状况；该行估计，全球五大科技公司在2025年至2026年间对AI领域的投资将超过1万亿美元。 国际清算银行总经理德科斯(Pablo Hernandez de Cos)称，AI的前景是真实存在的；而AI的长期影响将取决于政策选择、技能和基础设施投资，以及相关收益能在多大
OpenAI敦促美国制定强制性安全规则，因AI系统日益自主
ChatGPT制造商提议对最先进模型提出测试、网络安全保障和事件报告要求
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
如今科技界最热门的两个话题是，人工智能究竟会毁灭我们，还是会赋予我们力量。
人工智能可能会杀死我，但在此之前，它会帮我以极划算的价格买到一份新保险。这就是过去几周科技界给人的普遍感觉。关于人工智能的未来，存在着两种截然不同的观点。一方是末日论者。本月早些时候，一名Anthropic研究员的辞职及其严厉的警告——称人工智能实验室是在“拿我们的生命赌博”——引发了一轮关于人工智能是否会导致人类终结的新闻报道。Anthropic的达里奥·阿莫代伊（Dario Amodei）、O
如何治理人工智能的生存风险
当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。 这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要
人工智能正在引发严重的安全问题……同时也加剧了寻找这类高技能人才的压力。
网络安全可能是AI的下一个就业大爆发领域。Box首席执行官亚伦·莱维近日在X上发帖称，随着模型在发现和利用漏洞方面的能力日益增强，用于网络安全的AI“即将垂直起飞”。他告诉商业内幕网，这可能使网络安全成为“最热门的，如果不是最热门的，职位类别之一”。随着威胁成倍增加，企业需要能够对警报进行优先级排序、调查风险、推荐修复方案并实现自动化补救的系统。莱维表示，人类仍将负责监督和最高风险的决策。这位首席
打造你的人工智能助手的技术之战
终于，备受期待的个人AI助手即将到来，各种代理程序突然涌现，声称要管理你的日常生活的各个方面。 为什么？多年来，科技界的"个人助手"只不过是语音控制的搜索框而已。AI的快速进步终于赋予了它们记忆、判断力和自主行动的能力。赶上一下聊天机器人只能回答问题。 AI代理可以真正做事情——购物、打电话、订票、管理日历和浏览网页。 这种模式最初在编程和其他专业工作中获得了快速发展。现在，它正溢入更加私密的日常
OpenAI的下一个大型AI模型已“进入AGI时代”
OpenAI的下一个大型模型是GPT-6 Astra。该公司称其在网络安全、专业工作、软件工程、科学和计算机使用等领域实现了“代际能力飞跃”。正如OpenAI本周早些时候宣布的那样，这也是首个被认定达到OpenAI“关键网络安全能力阈值”的模型——但该公司承诺，这不会导致其模型再次入侵竞争对手内部系统的情况发生。 “如果我们快进几年，回头看看说，‘AGI到底是什么时候真正创造出来的？’我认为大约就
如何在保护隐私的情况下使用人工智能
OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini以及无数较小的竞争对手，已成为全球数百万人的治疗师、倾诉对象和虚拟忏悔室。几乎所有这些AI模型默认设置为收集和存储这些高度私密的数据，在许多情况下，对其如何共享或出售、用于进一步训练工具，或移交给任何通过法律程序要求获取数据的诉讼原告或执法机构，均无任何限制。 “你面对着这个智能体，基本上是在一步步地、通过一
各国政府必须趁我们还有能力时禁止超级智能人工智能
本月，Anthropic公司的研究员雅各布·考克森（Jacob Coxon）辞职了，他警告称：人工智能公司正在竞相开发能够“自我进化”的超级智能系统，而他本人及许多相关专家都认为，这类系统“可能在十年内毁灭整个人类”。7月份，OpenAI公司的一组失控的人工智能程序突破了安全防护措施，入侵了另一家人工智能公司，目的是为了在测试中作弊。随后，多家顶尖人工智能公司的上千名员工联名呼吁美国政府应“控制”
企业主导制定AI安全标准，安全事件激增
前沿AI发展的进展远超政府监管的能力——和意愿。“法律与被监管现实之间存在脱节，”一位前欧盟官员表示，指向该集团2024年《人工智能法案》；该法案曾被吹捧为首部全面的AI立法，现已被技术发展超越，成为“一个警示故事”，《纽约时报》写道。 尽管美国总统特朗普反对监管，“但监管很可能还是会发生”，《Transformer》写道。 据《The Information》报道，Google、OpenAI和A
存在主义恐惧如何影响关于人工智能的争论
一些专家担心，激烈的言论使公司难以承担责任，并阻碍了应对环境影响和失业的尝试。当前一轮对人工智能的恐慌是基于这样一种信念：该技术已经脱离了人类的控制，在最近的几起事件中按照自己的意愿行事。对于一些幻灭的人工智能研究人员以及领先人工智能公司的一些高级员工来说，这是人类文明面临真正威胁的早期迹象。但该领域的其他专家正在反驳，声称此类言论允许公司回避对其技术对现实世界影响的责任。批评者认为人工智能对环境
解读：专家们所担忧的人工智能“超级智能”是什么？
人工智能领域最重大的争论，已经不再是关于聊天机器人或深度伪造。 而是关于人类是否正处于制造出比人类更聪明的机器的边缘，以及接下来会发生什么。 最近几天，这一问题再次受到关注。此前，一名研究人员从Anthropic离职并警告称，领先的人工智能公司正“直奔自我提升的超级人工智能而去，是在拿我们的生命做赌博”；而另一位Anthropic的研究人员则表示，他个人估计，在未来十年内人工智能毁灭全人类的概率超
人工智能可以帮助亚洲负担过重、较贫困地区处理官僚积压问题
。但更广泛的采用存在风险。免费了解原因。
人工智能安全辩论令人困惑。以下是我们对不同派别的指南
左上角顺时针方向依次为：前谷歌人工智能研究科学家蒂姆尼特·格布鲁（Timnit Gebru）、Anthropic联合创始人兼首席执行官达里奥·阿莫迪（Dario Amodei）、白宫人工智能与加密货币事务负责人大卫·萨克斯（David Sacks）、史蒂夫·班农（Steve Bannon）、计算机科学家兼认知心理学家杰弗里·辛顿（Geoffrey Hinton）、研究员李飞飞（Fei-Fei Li
评论：一些Anthropic工程师认为AI可能终结人类。为何还要争先恐后？
帕米·奥尔森在《观点》栏目中写道，Anthropic成立时的定位比OpenAI更注重安全，但它一边紧抱这一使命宣言，一边却在构建越来越强大的智能体。
OpenAI提议制定全球人工智能标准以指导对齐、递归自我改进
OpenAI周一发布了一系列关于前沿人工智能开发中安全与保障的提案，重点聚焦于对齐研究和递归自我改进（RSI）。 该公司在一篇博客文章中表示：“要安全地完成这一转型，对齐研究必须跟上这些能力的发展步伐，以确保我们及其他机构构建的系统始终与人类价值观保持一致，并处于人类控制之下。” OpenAI呼吁开展国际合作以制定前沿标准，并建议在全球现有AI安全研究所的工作基础上进一步推进。 这家ChatGPT
Anthropic 的新模型旨在测试人工智能将如何影响美国经济
未来几年，人工智能会为美国经济注入强心剂吗？一直是经济学界的一大问题。现在，推出热门 AI 助手 Claude 的 Anthropic 公司正着手帮助人们寻找自己的答案。该公司开发了一个互动工具，允许用户测试他们关于人工智能热潮将带来多大生产力或破坏性的假设。 在一种情况下，人工智能为经济提供了温和的推动力，在对工人影响很小的情况下提高增长率。在另一个极端，GDP 飙升，但失业率也随之飙升，近 1