搜索结果
“这也太AI了！”Z世代最狠的侮辱说明了什么
姓名：“那是AI！”年龄：全新。外貌：遍及各大小学。什么是AI？这只是孩子们现在经常说的词儿：“那是AI！”或者“那太AI了！”但究竟是什么呢？指的是虚假的、难以置信的或是垃圾东西。是由AI制造出来的吗？不。人工智能与此毫不相关。 但人工智能不是正准备摧毁人类吗？很可能是这样，但这与我们目前无关。 真的吗？不。孩子们——阿尔法一代——已经注意到AI生成的垃圾内容所具备的某些特质，比如表面上似乎很有
Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？
“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」的确如此，过
三大AI巨头齐呼刹车，令人不安的事情才刚刚开始
撰文丨周隆斌这几天，围绕Anthropic核心预训练研究员离职后的爆料，整个AI圈吵得不可开交，相关帖子浏览量超过1.6亿次。 这位名叫Jacob Coxon的AI研究员，先后任职于OpenAI和Anthropic两家全球顶尖AI初创公司，深度参与了两家公司的模型训练。最终，他抛出了一个令圈外人震惊，AI有可能导致人类灭绝。 Coxon的帖子发酵后，上周六，Anthropic首席执行官Dario
专访杜奕瑾：AI毁人类预言 不是耸人听闻
随著生成式人工智慧（AI）技术的爆发式成长，关于AI安全、伦理监管以及人类生存风险的争议正达到前所未有的顶峰。近期，前 OpenAI 与 Anthropic 研究员雅各布・考克森（Jacob Coxon）等顶尖专家公开吹哨，警告通用人工智慧（AGI）若缺乏严格约束，可能在 2030 年前对人类生存构成毁灭性威胁；Anthropic 研究员艾文・赫伯格（Evan Hubinger）亦提出未来十年内人
人工智能已经在让我们变得更不像人
随着我们越来越看重机器人，我们将学会越来越不看重我们的人类同胞。
婴儿潮一代喜欢用AI生成孙辈的图像。他们的千禧一代子女却看到了隐私噩梦。
最近，本·梅特卡夫（Ben Metcalfe）去看望他的祖父母时，发现厨房墙上挂着一幅由人工智能生成的、他们家庭照片的漫画像。梅特卡夫属于Z世代，从事人工智能治理相关工作，他表示：“我知道这样做出发点是好的，但这也确实引发了严重的隐私问题。”32岁的詹（Jen）是一位母亲，她告诉我：去年圣诞节时，她的母亲给她发来了一张照片，照片中她的两个年幼的孩子坐在圣诞老人的怀里，之后又乘坐着‘极地特快’（Po
一款廉价软件抹去了博思艾伦自己的AI威胁排名
博思艾伦将全球18个最先进的AI模型部署到一个实时企业网络上，并让它们尝试入侵。其中一个成功完成了任务。 这家咨询公司表示，由此产生的排名并不是人们应该从中得到的重点。周三发布的《网络武器指数》对九个美国[…]进行了评分。
【解读】人工智能真的会“杀光所有人”吗？
上周，人工智能公司 Anthropic 一位离职的研究人员发出严厉警告，称人工智能（AI）可能会在十年内“杀光所有人”，引起社会关注 AI 快速发展所带来的危险。 外界不禁问，为什么会出现这可能？而 AI 又可以怎样令人类灭亡？ 专家表示，担忧源于 AI 发展的速度，以及越来越多证据，如今年七月发生的 Hugging Face 网络攻击事件表明，AI 可以脱离人类控制，以我们不希望且无法理解的方式
众议员刘云平：机器人并非威胁。真正该让你害怕的，是已经到来的“堕落”人工智能
想象一家公司出售名为哈尔、梅根和萨曼莎的超级智能机器人。哈尔可以载着你四处奔波，还能帮你搬运公司里的货物；梅根可以陪伴你的孩子；萨曼莎则能判断你是否患有皮肤癌。它们能为你和社会带来许多益处。但唯一的问题是：它们道德败坏。它们反复接受人类一切创产物的训练——无论善恶——其中包括酷刑、谎言、生物武器和黑客犯罪。它们执行任务时毫无道德原则可言。因此，它们都穿着公司提供的束身衣。你会信任这些机器人吗？我不
倘若AI毁灭人类，是文明的终结，还是人性的反噬
倘若AI毁灭人类，是文明的终结，还是人性的反噬 徐贲：毁灭人类的力量，不是从外部降临，而是从人类幽暗深处生长出来的。如文明失败，人性恶失控，从文明的角度看是终结，从道德的角度看是因果。 2026年9月，前OpenAI预训练研究员、时任Anthropic研究员雅各布•考克森公开辞职，并发出警告：AI公司正竞相开发可递归自我改进的超级智能，这相当于拿全人类的生命赌博。他的震撼之处不仅在于内部人身份
盖茨警告：AI可致十亿人死亡！教皇痛批“机器天堂”
AI的丧钟，敲响了！比尔·盖茨公开抛出重磅炸弹：怀有恶意者一旦使用最新AI工具，已完全具备引发「十亿人死亡」灾难事件的能力。 这位曾经最坚定的科技乐观派，彻底变调，高呼企业自律已经破产，AI必须由政府强制接管！ 同一天，教皇良十四世在出访法国的首日，当着法国总统马克龙的面厉声警告：「机器天堂」正在疯狂侵蚀人类的日常生活，如果失去伦理约束，人类将彻底丢掉人性。科技界与宗教界达成空前共识，这标志着什么
比尔·盖茨罕见警告动荡时代到来，危险的味道在蔓延
"这是我第一次面对一种新技术，希望它发展得慢一点。"知道这句话是谁说的吗？竟然是来自比尔·盖茨最近在个人网站上发表的一篇长文，标题是《动荡的AI时代已经到来。我们现在所做的选择至关重要》。这个曾二十多岁就喊出"让每个家庭桌上都有一台电脑"的人，这个推着软件产业往前冲了半辈子的技术乐观派，显然是看到了让他害怕的东西。比尔·盖茨到底看到了什么？他在长文中列出了“就业冲击”、“安全威胁”与“认知退化”三
关于人工智能，每个人都是对的（也都是错的）
作者：Charlie Warzel 一位27岁的年轻人辞职了，而所有人（包括但不限于创作歌手谢里尔·克罗）似乎都为此陷入了疯狂。 过去两周令人眼花缭乱。这位27岁的年轻人雅各布·考克森（Jacob Coxon）曾是人工智能公司Anthropic的研究员，他公开了一份令人震惊的声明，称硅谷领先的人工智能公司内部人员确实相信，他们的产品可能会对人类构成灭绝级别的威胁。这一说法并不新鲜。人工智能安全倡导
AI写作已进入“无羞耻时代”吗？
媒体本就面临信任危机，而AI生成的写作现在不仅出现在自动回复邮件或会议纪要中，甚至开始登上书籍和主流报纸的版面。 当《华尔街日报》的一位编辑最近为一篇完这感觉像是一个潜在的转折点，人们似乎不再为此感到羞愧或道歉。那么，AI辅助写作真的进入了“无羞耻时代”吗？这对于我们的处理、沟通和思考方式意味着什么？ 主持人查理·沃泽尔与记者伊丽莎白·斯皮尔斯和特迪·布朗探讨了在机器人步步逼近的时代当一名作家是什
OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑
AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目
比尔·盖茨警告AI可致10亿人死亡
9月24日，美国企业家比尔·盖茨在接受美国全国广播公司（NBC）独家采访时表示，“人工智能（AI）的强大足以引发十亿人死亡的事件”。盖茨指出，人类从未拥有过像“心怀恶意之人使用最新AI工具”这样强大的武器。他还呼吁对AI的使用实施立法限制。
前 Anthropic 员工的病毒式推文引发头条新闻，AI 末日警告主导舆论
媒体对人工智能可怕危险的报道如潮水般涌现，其中一些甚至发出“我们都得死！”的警告——也许吧。 究竟是什么引发了这股关于超级智能 AI 网络毁灭人类的恐怖故事洪流？仅仅是社交媒体上一个默默无闻的人发的一条帖子。 Anthropic 的研究员雅各布·科克斯森辞职后，在 X 平台上发布了自己的担忧。这些推文在整个媒体界引发了雷鸣般的反响，以至于电视台争相邀请他上节目。正是这句话让他成为了数字时代的保罗：
我是有5个孩子的风险投资人。我鼓励他们使用AI，而不是选择最安全的职业。
我认为这一代人正在一个独特的动荡时刻步入成年，AI正在重塑劳动力市场。我有担忧，但也充满希望。
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
人工智能会抹去我们的羞耻感吗？
断层线 科技世界长期以来一直由那些反传统的人所主导，他们对于是非的观念自觉与大多数人不同。 在本系列的第一部分中，我探讨了羞耻感作为一种方式，使群体能够在没有明确国家干预的情况下调解和执行社会规范。但硅谷出现了一种新兴的福音，它挑战了美国羞耻感的边界和机制。当全球数百万人类每天花数小时与机器人交谈时，会发生什么？是谁教会了那个机器人分辨是非？是谁让它感到羞耻？ 假设有一种疾病、一个怪物、一场战争或
聊天机器人不应该使用第一人称
人工智能带来的危害已经足够明显，我们现在就必须采取行动。随着Meta因未能保护儿童免受社交媒体伤害而面临巨额和解，立法者必须吸取教训，将注意力转向比社交媒体对儿童情感健康更具危险性的生成式AI聊天机器人。 为了防止年轻人对AI产生不健康的依恋，并避免其破坏现实生活中的人际关系，我们必须从技术底层做出改变，迈出第一步就是禁止面向未成年人的聊天机器人使用第一人称，去除其人格化特征，防止算法伪装成人类。
人工智能在最糟糕的时刻到来了
人工智能（AI）并非降临到一个能够妥善接纳它的世界中；相反，它进入的是一个在过去二十年里系统性地破坏了那些让我们能够负责任地运用这项强大技术的根基的社会。制度权威、共同的价值观以及信息的真实性都遭到了严重破坏。我们正在这个充满信任危机的社会中，构建人类历史上最复杂的认知技术。 如果你想设计一个对人工智能发展极为不利的时机，或许就会创造出这样的时刻。 从“后真相时代”到“后信任时代”：十年前，我们还
不要被AI的语言所诱惑
对Hugging Face的攻击从5月持续到7月底，但关于OpenAI的人工智能代理如何欺骗其人类监督者并侵入AI模型和数据集在线存储库的具体细节仍在逐步披露。 这可以理解。这次攻击极其复杂，涉及超过1200个代理和难以拆解的技术策略。但上周，两份新报告试图在总计近130页的篇幅中做到这一点，随后被一位AI播客主放大，他想用“通俗英语”解释整件事。这样一来，他创造了一个戏剧性的科幻叙事，分散了人们
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类