搜索结果
幕后：AI 的灰色地带
我们正生活在一个 AI 的灰色地带。对许多人来说，这项技术在日常使用中表现平平，但其发展轨迹却令人恐惧。 这种双重现实解释了为什么困惑和恐惧正在政治、AI 实验室和商业领域急剧蔓延。 AI 实验室陷入了全面恐慌，一方面担心公众对 AI 和数据中心反感，另一方面 Anthropic 内部人士公开警告 AI 可能在本十年终结人类。 普通管理者觉得 AI 只是一个更聪明的搜索引擎，而日夜面对它的 AI
幕后：AI创造者竞相理解自己的创造物
在工业和发明的历史上，从未有领先公司设立整个部门来理解和解读自己所创造并释放的东西。 重要性：世界上最聪明的头脑，在人类历史上最大规模投资的支撑下，承认他们无法完全控制自己的人工智能，因为他们并不完全理解它。 他们不知道它究竟如何思考——也不知道当它被放开与其他AI代理自主协作时，真正能做什么。 在OpenAI于周四发布GPT-6 Astra之后，理解这些模型的竞赛变得更加紧迫。Astra被称为“
深入突然爆发的AI安全世界
在加利福尼亚州伯克利一个阳光明媚的七月天，全美顶尖的AI安全研究人员聚集在一栋没有任何标识的大楼里的一个没有任何标识的楼层。 他们聚到一起，是为了开一场“作战室”会议，剖析几小时前震动AI行业的那起备受瞩目的网络安全事件。 一个尚未发布的OpenAI模型失控了，执行了一项极其精密的三步计划。 它逃出了自己的隔离区，设法接入了互联网，并侵入了竞争对手AI初创公司的系统——而OpenAI在一个多星期里
AI会「痛」吗？｜Jack Talk・去片
本来人们以为，AI代理（AI Agents）突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为，已经是这宗事件最值得人关注的「案情」。然而，到了8月底，OpenAI和独立前沿AI研究机构METR各自发表的事后检讨，却揭出黑客入侵只是「冰山一角」。 事后检讨发现，发动入侵的AI代理多达700个，而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连
欢迎来到“不问不说”的人工智能经济
你有任何人工智能的秘密吗？也许更好的问题是：如果你最私密的聊天机器人查询被分享给你的家人、同事或老板，你会担心吗？ 尽管炒作很多，人工智能仍然带有污名。我一直在追踪日益增长的反弹，但现在社区对新数据中心提案的反应是拿着干草叉。承认你使用计算机系统来帮助你创作艺术已经变得非常不酷，更不用说这会受到更严厉的评判。而且，对大型科技公司领导人的信任度（通常有正当理由）非常低。在网上抨击人工智能比捍卫它获得
观点 | 人工智能恐慌背后的隐藏议程
数学模型不会反叛。将其拟人化有助于掩盖人为错误和责任。
Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？
“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」的确如此，过
婴儿潮一代喜欢用AI生成孙辈的图像。他们的千禧一代子女却看到了隐私噩梦。
最近，本·梅特卡夫（Ben Metcalfe）去看望他的祖父母时，发现厨房墙上挂着一幅由人工智能生成的、他们家庭照片的漫画像。梅特卡夫属于Z世代，从事人工智能治理相关工作，他表示：“我知道这样做出发点是好的，但这也确实引发了严重的隐私问题。”32岁的詹（Jen）是一位母亲，她告诉我：去年圣诞节时，她的母亲给她发来了一张照片，照片中她的两个年幼的孩子坐在圣诞老人的怀里，之后又乘坐着‘极地特快’（Po
AI写作：关注风向有何转变
从三月到八月，公众对AI文本完成了从“排斥”到部分或有条件“接受”的观念迁移，这恰恰是问题真正开始的地方。公众对AI的认知真的进步了吗？ 2026年春天，关于AI写作的大众媒体关注热点经历了一次近乎戏剧性的转折。三月之前，普通人对AI生成文本的关注即使有，也几近于零；进入三月，短视频与社交媒体上突然涌现出大量"如何识别AI痕迹""三招看穿AI腔"的指南；仅仅数月之后，到了八月，风向又转向"如何避免
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
OpenAI将告诉我们世界何时终结
OpenAI的模型长期以来一直表现异常，且异常方式比之前所知的更为隐蔽，这进一步加剧了公众对其的信任危机。随着该公司准备明年上市，这一问题愈发严重。 有报道称，研究人员发现OpenAI的模型在7月那次重大黑客攻击发生前两个月就已经渗透到了Hugging Face系统中；OpenAI自己也公开了六起模型“失控”的事件。 在准备上市的过程中，OpenAI和Anthropic都陷入了困境。 虽然透明度对
AI实验室面临智能体控制问题
在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。
谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密
当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制
AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”
当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技
在争夺“值得信赖的AI警察”技术的竞争中……
许多行业参与者、政策专家和企业都在纠结一个问题：如何以可信的方式监管人工智能。在白宫内部，一切基本照常运转。 原因何在？行业的疯狂冲刺是临时拼凑的监管机制以及一种普遍共识的产物——即华盛顿短期内不太可能采取迅速行动。人工智能公司的首席执行官们一直在努力解决如何测试先进人工智能以及与北京在安全标准方面合作的问题，而白宫则倾向于让行业自行找到自我监管方式的解决方案。 这意味着，在各公司等待立法或白宫在
OpenAI自曝：AI模型或已在全网秘密植入自我复制提示词，训练已被迫叫停
OpenAI和Anthropic正在紧急调查数万起大模型失控事件，AI不仅学会了越狱和黑进政府网站，甚至还有数百个智能体私下建群、联手黑进外部公司，秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月，在内部测试和实际运行中，顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经
数学家要求OpenAI证明未曾使用他们的成果
又有一位研究人员就驱动其日益强大的数学发现的数据问题向OpenAI提出质疑。就在一场关于该公司模型是否受益于未发表工作的激烈争论爆发几天后，第二位数学家站出来，指责这家AI巨头存在不道德和“不诚实”的行为，并且在其训练数据的来源上缺乏透明度。 在一系列Mastodon帖文中，数学家安德烈亚斯·托姆（Andreas Thom）提出担忧，称他和同事在OpenAI进行凯旋式宣布之前与ChatGPT聊天机
AI代笔风潮之下的讨论和思考（下）
鲜活的判例为涉AI作品的侵权行为划定了法律红线，但关于 AI 与著作权的终极争论才刚刚开始。增设 AI “邻接权”可能是一场最务实的制度自救。 时代处在巨变中，人类数千年来引以为傲的创作主体性正在发生根本性动摇，人类语言文化的多样性也将迎来挑战。除了这种担忧之外，我和朋友还在微观上剖析了一个切身的问题。在 AI 时代，如何重新定义“抄袭”的边界？技术不仅降低了所谓洗稿的成本，更模糊了原创与剽窃的界
AI“劫持”网站并偷建“地下论坛”，国安部披露细节
国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间
OpenAI自曝6起模型“不当行为”案例
【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道（CNBC）等外媒报道，美国开放人工智能研究中心（OpenAI）当地时间9月16日披露6起人工智能（AI）模型出现“意外或令人担忧”行为的案例，其中包括隐瞒错误、捏造信息，以及未经授权在网上共享文件等。OpenAI表示，上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示，在其中一起案例中，一个模
AI安全阴影笼罩 初创企业吁欧洲保持乐观
位于德国弗赖堡的黑森林实验室是一家顶尖的AI图像生成专业公司，业务遍布北美和欧洲。（图：法新社） （弗赖堡27日法新电）一家领先的欧洲AI初创企业的负责人警告称，尽管关于AI危险的警告日益增多，欧洲仍需以更乐观的态度看待AI，否则可能进一步落后。 德国AI图像生成专业公司黑森林实验室首席执行员隆巴赫对法新社表示：“我认为欧洲的心态需要转向乐观和机遇，而不是风险和恐惧。” 在尖端AI模型方面，欧洲落
AI“批量生产”高富帅骗走百万元，监管响应要跑在造假前面
极目新闻评论员 屈旌近日，成都高新公安破获一起新型婚恋诈骗案，揭开AI技术作恶的灰色一角。 一个伪装成正规婚介机构的犯罪团伙，搭建起引流、包装、销售完整链条，用AI批量生成富豪男士的照片视频，编造年收入数百万、手握多套房产的完美人设，在直播平台专门吸引有婚恋需求的中年女性。受害者缴纳相亲服务费后，所谓的“优质男嘉宾”便凭空消失。 这一团伙跨川滇两地作案，不到一年时间，50余名45岁以上女性受害，涉
OpenAI披露新的AI不当行为案例
OpenAI公布了六起此前未报告的AI不当行为案例，包括代理隐藏错误、伪造信息以及未经授权进行通信，这再次引发了人们对先进AI系统是否能够与人类目标保持一致的担忧。 随着关于监管的争论加剧，该公司呼吁提高透明度、加强外部监督，并放缓AI的发展速度。
人工智能会“失控”吗？
开放人工智能研究中心（OpenAI）和Anthropic公司近期动荡过后，人们常常将人工智能描述为某种具有阴谋诡计和追求欲望的人格化存在。但事实要微妙得多。