观点 | 我曾在OpenAI从事安全工作。解决方案并不难。

在@nytopinion.nytimes.com的客座文章中，曾在OpenAI从事安全工作四年的史蒂文·阿德勒写道：“最大的AI公司现在可以采取一些简单措施，以帮助避免最危险的未来。” 即使没有政府监管，私营公司也可以自行采取行动来应对AI安全问题。

Everpure计划如何阻止AI因缺乏数据而陷入困境

想象一下你是一个人工智能代理。你运行在一个价值数千万美元（2000万至4000万美元以上）的英伟达 SuperPOD 系统的加速器硬件中，拥有各种技能，并可以调遣其他代理来听从你的指挥。保险公司的客户通过电脑浏览器或智能手机询问：“我当前的保单承保天气造成的损失吗？”这个问题随后被转交给一个人工智能代理。 接下来会发生什么？代理本身运行在 CPU + GPU/加速器服务器集群上，这些服务器托管着大

AI行业冒出一批高薪新岗位，不用会写代码

别只盯着写代码，AI 最缺的岗位已经转移到了电力和机房。在美国弗吉尼亚州阿什伯恩，James Waddy 每天在 Digital Realty 的数据中心里走约 3 万步。他闻设备有没有烧焦的气味，摸管道检查裂缝，还要留意屋顶设备遭鸟破坏的迹象。 我们谈论 AI 与就业，常常先想到屏幕里的变化：代码自动生成，文案几秒写完。把视线移开一点，还能看到另一份工作清单。 有些人专门找模型的麻烦，有些人设计

AIR筹集5000万美元，帮助企业审查AI代理使用的技能和附加组件

AIR的平台能够发现公司中运行的代理，持续审查它们使用的任何技能和附加组件，并阻止任何不需要的行为。

如何在保护隐私的情况下使用人工智能

OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini以及无数较小的竞争对手，已成为全球数百万人的治疗师、倾诉对象和虚拟忏悔室。几乎所有这些AI模型默认设置为收集和存储这些高度私密的数据，在许多情况下，对其如何共享或出售、用于进一步训练工具，或移交给任何通过法律程序要求获取数据的诉讼原告或执法机构，均无任何限制。 “你面对着这个智能体，基本上是在一步步地、通过一

AI教父警告失控的“智能爆炸”

OpenAI首席科学家也是一份关于“史上最重大技术发展”前景报告的作者之一。现代AI的两位“教父”以及OpenAI和Anthropic的高级管理人员向各国政府发出警告，要求为AI“智能爆炸”做好准备，他们表示这可能是历史上最重大的技术发展。 由诺贝尔奖得主杰弗里·辛顿和加拿大计算机科学家约书亚·本吉奥共同撰写的一份报告敦促政界人士现在就采取行动，以防该技术出现失控的进展。辛顿和本吉奥因其在该领域的

网络是为人类而建的。AI代理的海啸正在迅速改变这一现状。

互联网是为人类而建的。AI代理正在接管，而网站还没有为即将到来的一切做好准备。 AI代理正迅速成为互联网最大的用户群体，重塑着网站、在线服务和数字商务。

顶尖人工智能开发者警告该技术发展过快

一些全球领先的人工智能创造者正联合发出警告，称这项技术发展过快会带来危险，并公开呼吁放缓脚步。 他们说，在不久的将来，它实际上可能会比正在构建它的研究人员更聪明，并对人类构成生存威胁。 NBC的Christine Romans报道，而《大西洋月刊》特约撰稿人、《AI：真实的人如何利用人工智能解决重要问题》作者Josh Tyrangiel做客TODAY节目，分享他的见解。

你的人工智能面试官现在就会见到你：求职者应该如何应对“不和谐”的新招聘技术

对于求职者和雇主来说，人工智能几乎已经渗透到招聘过程的每一个步骤，从评估简历到撰写求职信。最新的前沿是求职面试。 作为招聘过程的第一步，越来越多的候选人被要求与人工智能面试官交谈，而不是与人力招聘人员打电话或Zoom电话。 招聘平台和申请人跟踪系统Greenhouse调查的2，950名活跃求职者中，近三分之二（63%）表示他们接受过人工智能的面试。根据2026年4月对美国求职者进行调查的报告，这一

美国提议中美建立AI事故通报机制

OpenAI CEO奥尔特曼联合国演讲：AI可能走向文艺复兴，也可能带来工业革命式动荡

IT之家 9 月 24 日消息，月 23 日，OpenAI CEO 萨姆 · 奥尔特曼（Sam Altman）在联合国安理会就 AI 议题发表讲话，讨论 AI 发展带来的机遇与风险，并呼吁加强国际合作，建立针对前沿 AI 系统的能力评估、风险评估、安全防护和人类监督标准。 他表示，随着 AI 能力的快速提升，相关技术的潜在收益和风险都逐渐变得更加直接且显现。他提出，AI 可能更像一场充满创造力与发

“如果你造出比自己聪明得多的东西，它最好站在你这边”：我们能阻止AI欺骗我们吗？

我们习惯了人类同胞可能故意误导或操纵我们的想法，但机器现在也能做到这一点，这让人深感不安。研究人员正争分夺秒地寻找解决方案，以免为时已晚。《长篇阅读》杂志夏季刊现已出版。点击此处订购。2023年11月——在人工智能领域已是久远之前——一些世界上最有权力的人聚集在布莱切利园，这个位于白金汉郡的战时密码破译中心，讨论AI安全问题。 出席者包括时任美国副总统卡玛拉·哈里斯、AI老板萨姆·奥尔特曼和达里奥

英伟达黄仁勋：AI不会必然消灭某个职业

IT之家 9 月 25 日消息，在接受《纽约时报》采访时，英伟达首席执行官黄仁勋认为，当前行业和民众对 AI 的恐慌情绪已经过头了，并认为当前 AI 不一定会替代职业，但会首先替代任务。 黄仁勋把工作拆分为任务（例如写代码、整理资料和回复客户等）和目的（诊断疾病、解决工程问题、服务客户等），并认为 AI 通常先自动化具体任务，不会必然消灭整个职业。 例如，软件智能体可能大量生成代码，但软件工程师仍

萨姆·奥尔特曼表示，应对人工智能恐惧需要“务实主义”

萨姆·奥尔特曼表示，应对人工智能恐惧需要“务实主义”关闭 更多关于萨姆·奥尔特曼对人工智能未来的言论。 板块新闻发布于23小时前分享关闭面板分享页面复制链接关于分享相关话题人工智能关注人工智能关闭面板您现在正在关注人工智能来自您的新闻主题的更新将出现在“我的新闻”中以及新闻主页的集合中。阅读描述

我是有5个孩子的风险投资人。我鼓励他们使用AI，而不是选择最安全的职业。

我认为这一代人正在一个独特的动荡时刻步入成年，AI正在重塑劳动力市场。我有担忧，但也充满希望。

打造你的人工智能助手的技术之战

终于，备受期待的个人AI助手即将到来，各种代理程序突然涌现，声称要管理你的日常生活的各个方面。 为什么？多年来，科技界的"个人助手"只不过是语音控制的搜索框而已。AI的快速进步终于赋予了它们记忆、判断力和自主行动的能力。赶上一下聊天机器人只能回答问题。 AI代理可以真正做事情——购物、打电话、订票、管理日历和浏览网页。 这种模式最初在编程和其他专业工作中获得了快速发展。现在，它正溢入更加私密的日常

人工智能实验室正在失去对代理的控制，而与此同时，它们却想赋予代理更多掌控你生活的权力。

AI助手终于准备好帮你打理生活了。你只需将你的电子邮件、联系人和信用卡交给它们，然后祈祷它们不会失控。Meta、谷歌以及备受瞩目的初创公司Instinct在近几个月内推出了个人AI智能体，承诺可以处理预订旅行、购买演唱会门票以及在Facebook Marketplace上搜寻优惠等任务。在基本层面上，这些智能体的运作方式大致相同。 你通过应用程序或WhatsApp向智能体发送请求——或者，对于新推

“AI教父”辛顿警告：AI执行看似无害的任务，仍有“毁灭人类”的风险

IT之家 9 月 28 日消息，日，据《财富》杂志报道，传奇计算机科学家、“AI 教父”杰弗里 · 辛顿警告说，即使 AI 接到的任务本身并无恶意，人类仍可能在 AI 一心完成任务的过程中，沦为被毁灭的附带结果。 辛顿解释称，AI 一旦认为人类妨碍自己完成被赋予的任务，就可能把人类当成需要排除的障碍。他举了一个假设例子：要求 AI 降低大气中的二氧化碳含量。 具有中等智能水平的智能体可能会认为，完

AI越来越会“越狱”后，英伟达开始卖“笼子”了

凤凰网科技讯月29日，当AI Agent开始能够自己操作电脑、调用工具、访问网络甚至执行长达数小时的任务，一个新的问题也越来越现实：如果AI不按照预想的方式行动，该怎么把它关住？英伟达给出的答案是，在AI外面再加一道“笼子”。 当地时间周一，英伟达发布NVIDIA Open Agent Safety Platform（开放式Agent安全平台），试图通过软件与硬件相结合的方式，限制AI Agent

应届毕业生和大学生应如何思考人工智能、简历和就业市场

人工智能正在改变招聘流程，让许多大学生和应届毕业生在竞争日益激烈的就业市场中寻找脱颖而出之道。随着雇主采用人工智能驱动的筛选工具，年轻求职者表示，获得面试机会变得比以往更加困难。 塞顿霍尔大学学生兼学生编辑米凯拉·迪洛伦佐最近撰文称，在就业前景不确定的情况下，许多同龄人的毕业 plans 发生了变化。他们没有立即攻读研究生，而是利用暑假打工或从事其他工作，积攒资金，同时思考下一步安排。 米凯拉上周

马克·哈尔佩林：社交媒体伤害了一代人。我们准备让AI也这样做吗？

想象一下，两百个外星人降落在地球上，还有成千上万的外星人即将到来，势不可挡。 再想象一下，我们知道其中一些外星人是来帮助我们的，让我们的星球变得更好、更智能、更高效。 但我们也知道，其中一些外星人是来伤害我们的，可能会对我们造成不可挽回的伤害。我们不知道哪些外星人会对我们友善，哪些会心怀恶意？这就是AI的现状。但情况更为复杂。因为好的外星人和坏的外星人不一定是不同的外星人。 同样的技术，既能帮助发

OpenAI已选择一家初创公司，让其AI为律师服务

OpenAI数月来一直在释放信号，表示希望在法律行业占据更大立足点。一项新合作提供了线索，说明它计划如何不仅通过销售模型和软件，还通过派人帮助客户真正使用这些技术来实现这一目标。伦敦初创公司Telon就是为其提供一线落地支持的公司之一。Telon不销售软件，而是招聘并培训“法律工程师”——大多是前律师，他们入驻律师事务所和企业法务团队，帮助他们更充分地利用已经购买的技术。 这种模式有点像“前置部署

AI实验室面临智能体控制问题

在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。

焊工出身的议员看到了“工作中的核弹”——以及帮助美国蓝领阶层的机会

在人工智能威胁到他曾经从事的蓝领工作之前，众议员莱利·摩尔（Riley Moore）曾是阿巴拉契亚矿区的一名焊工。如今，随着这项技术迅速进入工作场所，摩尔认为它不仅不会取代像他这样的工人，反而能让他们工作得更安全、更高效。 随着国会和企业都在努力应对人工智能应以多快速度重塑工作场所，以及在经济和国家安全担忧下政府应发挥多大作用的问题，这位西弗吉尼亚州的共和党人已将这一观点传达给了卡车司机工会（Te