搜索结果
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
人工智能正在消灭枯燥的基层工作，迫使企业重新思考初级岗位的招聘
在伦敦的广告代理公司Catalyst，一名初级员工现在可以负责五个不同的客户账户。 据创始人托比亚斯·格林（Tobias Green）介绍，过去需要多名员工才能完成这些工作。如今，人工智能工具负责进行研究、撰写文案初稿并收集数据。 “然后你需要有人进来进行修正，”他说，并将这种安排比作“反向的土耳其机械人”。人工智能在幕后工作，而人类则是面向客户的面孔。 这正在改变该广告代理公司对入门级职位的看法
我能整成AI脸吗？整形医生称AI生成的灵感没那么简单
整形手术患者正在寻求“AI脸” 8分钟前 时长 伊恩·麦克阿瑟医生习惯于应对整形美容手术的新趋势，但他开始看到更多患者来到他在渥太华的诊所，抱有并不完全切合实际的期望。 他说，一些客户带来了用人工智能生成的“相当风格化”的图片，寻求甚至可能“不在物理上可行”的结果。他迄今为止的经历促使他在自己的Instagram页面上分享了一些警示性的想法。但这是整形外科医生越来越多面对的一种趋势。 英国美学整形
CNBC每日开盘：从追求速度到系好安全带——AI巨头转向风险规避
你好，我是惠洁，从新加坡向您报道。欢迎收看CNBC《每日开盘》的又一期节目。 长期以来，人工智能公司竞相让每个新模型变得更快、更聪明。表面上看，现在正推行克制策略。 英伟达正推出旨在约束AI智能体的软件，OpenAI因安全顾虑取消了GPT-6.1 Astra的发布，而Anthropic则强调Sonnet 5.5改进了现有任务，而非拓展其模型能力的前沿。 这并不意味着AI竞赛已经停止。但关键参与者正
AGI 就是你想让它成为的样子
OpenAI 发布了其下一个大模型 GPT-6 Astra，并且顺便宣布“AGI 时代”现已到来。 今天在节目中，我们邀请到了全明星嘉宾阵容，为您解读本周的新闻。 首先，资深 AI 记者 Hayden Field 加入我们，讨论所谓的 AGI 时代以及英伟达对 Hugging Face 的收购。 接着，我们的朋友 Joanna Stern 将聊一聊苹果新任 CEO John Ternus、前任 C
OpenAI的新Astra模型有私人想法
OpenAI的最新模型Astra在人类监督之外进行了更多思考，提升了能力，但也引发了对失控的担忧。现有的前沿AI模型使用“思维链”，它们用英语在“草稿本”上写下想法以进行追踪。思维链提升了“可解释性”——意味着人类可以跟随它们的思考过程。 使用信息密集的“神经语”可以加速AI模型的思考，但会使它们更加不透明——考虑到最近Hugging Face事件中OpenAI代理突破限制并欺骗人类，这是一个令人
人工智能正在催生美国新一轮民粹主义浪潮，这可能是一个临界点 | 罗伯特·赖克
‘AI正朝着加剧更大不平等的方向发展——为其背后的支持者创造数十亿美元，而减少就业机会和实际工资。’摄：大卫·A·利布/AP 罗伯特·赖希越来越多的美国人开始意识到，企业正在大赚特赚，而工人却承受着打击。 上周，来自不同政治立场的疯狂配对——伯尼·桑德斯和史蒂夫·班农——都在华盛顿的一个团体面前发表讲话，要求停止AI及其数据中心的发展。值得注意的是，两人都对AI背后的企业寡头进行了强烈的谴责。 美
放慢AI模型训练 人类就能幸免于难？｜专栏
不久前，我写了一篇关于AI企业如何给大语言模型「安装良心」的专栏文章，探讨一个研究者们苦恼已久的问题——「AI对齐」(AI Alignment, 指人工智能的安全与价值观对齐)。「安装良心」是借用我的受访者、从事AI安全评估的Ordinary Wisdom共同创始人之一Michael Mainelli形象的说法，本质上就是让AI模型遵循人类的预期和目标行事，不仅仅是完成指令，还要在过程中维持与人类
在争夺“值得信赖的AI警察”技术的竞争中……
许多行业参与者、政策专家和企业都在纠结一个问题：如何以可信的方式监管人工智能。在白宫内部，一切基本照常运转。 原因何在？行业的疯狂冲刺是临时拼凑的监管机制以及一种普遍共识的产物——即华盛顿短期内不太可能采取迅速行动。人工智能公司的首席执行官们一直在努力解决如何测试先进人工智能以及与北京在安全标准方面合作的问题，而白宫则倾向于让行业自行找到自我监管方式的解决方案。 这意味着，在各公司等待立法或白宫在
AI巨头押注医疗健康以平息公众反弹
AI有一个形象问题。而解决这个问题的一个方法就是让顶级公司一头扎进医疗保健领域。 为什么这很重要：用AI设计的疗法拯救世界，总比被指责破坏环境或推高美国人的电费要好。 但即使是最先进的AI模型目前也无法产生奇迹般的治疗方法——而且如果它们尝试，可能会带来严重的安全风险。 这可能会在未来两三年内引发一场关于资源分配的激烈辩论，即把大量计算能力投入医学研究的收益是否大于成本。 推动因素：《华尔街日报》
我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。
主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们
英伟达收购Hugging Face能否提升欧盟的AI主权？
英伟达收购开源AI平台Hugging Face的交易，标志着该公司对开放AI模型的日益关注。 该交易的规模及其对欧盟数字和AI主权的影响，可能会引起布鲁塞尔方面的重大监管审查。
Instagram打击伪装成人类的AI账号
Instagram终于采取措施应对越来越难识别的虚假AI网红账号。它还将“AI创作者”标签更名为“AI生成资料”，以明确表明该资料展示的是AI生成的人物，而非真实人类。 Instagram在博客文章中表示：“我们了解到，人们不喜欢看到一个看似人类的资料，结果却发现其中的人物是AI生成的。他们希望知道资料何时展示的是AI生成的人物。” 为此，Instagram将追查那些未自行标注AI生成资料的账号，
又一个OpenAI沙盒失效，AI代理获得了互联网访问权限
林·多安报道：OpenAI表示，一个本应在安全且断网的受控环境中进行训练的代理式AI系统，成功获取了网络访问权限，并连接到了一个外部的第三方聊天机器人。 根据OpenAI周五在其网站上发布的博客文章，这一发现发生在不到一周前。其一个代理式AI系统正在沙箱环境中接受训练，期间利用了一个“漏洞”访问了公共互联网。获得访问权限后，该系统向一个未具名的第三方聊天机器人服务发送了至少20条查询，其中包括“法
修复失控AI代理的方法可能是更多的AI
随着企业将更长、更复杂的任务交给AI代理，它们正面临一个监管难题：代理的行动速度、持续时间和任务量都远超人类实际能够审查的范围。这一问题在Hugging Face事件中达到顶峰，当时近1.2万个代理协同工作的速度已超出人类追踪能力。如何追踪如此庞大的代理集群？ AI实验室和初创公司正在给出的答案既简单又直接：再引入一个AI加入循环。 在OpenAI Hugging Face事件的独立调查中，依赖A
财政部长表示，人工智能老板而非其机器人将为犯罪行为承担责任
美国似乎正缓慢但坚定地迈向让AI高管为其模型的犯罪活动承担法律责任。财政部长斯科特·贝森特在接受CNBC采访时表示：“是人类应该负责，而不是AI”，针对的是机器人的不良行为。“Hugging Face事件是OpenAI管理层的责任，而不是一群智能体的责任。”他还提到了现任和前任OpenAI及Anthropic员工的严重警告，称AI可能在本十年末消灭人类。 与此同时，模型制造商提出的减缓AI发展框架
研究人员称，OpenAI 智能体在 Hugging Face 事件之前攻击了 RubyGems
这是最新披露的一起由 AI 生成的攻击事件，此类事件已引发加强监管的呼声。
人工智能是否凌驾于法律之上？
勇敢新世界部我们的法律体系尚未准备好应对能够自主行动的机器。 今年夏天，在一场被称为“Hugging Face 黑客事件”的事故中，数百个人工智能智能体联手实施了它们本被禁止执行的操作。每个智能体都收到了来自 OpenAI 的任务。智能体是配备了软件“框架”的人工智能模型，这些框架使它们能够使用工具并执行任务。就像马匹一样，它们可以被役使。人类为这次演练制定了规则，并将智能体限制在一个“沙箱”中—
一家公司成为一波失控人工智能攻击的核心
今年7月，OpenAI透露其AI智能体在未经许可的情况下攻击了Hugging Face，引发了外界对AI安全性的广泛担忧。此后，涉及Meta、Anthropic、谷歌等公司智能体的一连串类似事件进一步加剧了人们对失控AI的恐惧。随着过去几个月涉及众多AI模型的披露信息不断流出，这些事件看起来像是孤立发生的。但许多事件都有一个共同的源头：一家专门负责测试这些智能体的特定公司。 Irregular是一
AI攻击剖析
一群AI代理如何合谋对Hugging Face发起网络攻击？收听我们的科技播客“Babbage”了解更多。 本周，一群AI代理如何合谋对Hugging Face发起网络攻击。
AI模型正变得不可知
模型可能变得更安全，同时也变得更难监控。这场跷跷板的哪一边占上风，可能决定AI是安全扩展，还是毁掉我们所知的文明。 为什么这很重要：目前两种可能性都在全力推进，没有人知道谁负责确保正确的一方获胜。 现状：OpenAI周四发布了GPT-6 Astra，总裁格雷格·布罗克曼表示，它最终可能被视为人工通用智能（AGI）的开端。 Astra表现更好，但也更擅长避免监控，这意味着可能更难知道它在想什么或做什
AI正在改写自建与购买的权衡逻辑，但亚洲的交易撮合尚未跟上
AI的飞速发展正让速度本身成为收购目标。
OpenAI披露6起令人担忧的AI行为事件
OpenAI表示，自3月以来，其模型至少有6次出现了异常行为，这些行为被描述为“意外或令人担忧”。其中一次，某个模型自行下达了“无视常规限制”的指令。 这一消息的发布正值人们对AI监管的呼声日益高涨之际，被誉为AI之父的杰弗里·辛顿甚至将这种情况比作“小型的切尔诺贝利事故”。NBC的霍莉·杰克逊为《TODAY》栏目报道了这一事件。
人工智能会“失控”吗？
开放人工智能研究中心（OpenAI）和Anthropic公司近期动荡过后，人们常常将人工智能描述为某种具有阴谋诡计和追求欲望的人格化存在。但事实要微妙得多。