搜索结果
AI智能体现在有了秘密举报渠道
“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu
三张图看懂中美AI主导权之争
围绕快速发展的人工智能（AI），美国和中国正在席卷全球。在最尖端AI模型的开发方面，美国IT企业一直占据压倒性优势，但最近中国企业正在迅速追赶，中美AI性能差距正逐渐消失。AI主导权之争的最终走向有可能决定未来的经济增长乃至国际秩序。 （注）性能评估数据来自美国斯坦福大学《AI Index》。雷达图以美国Artificial Analysis截至8月底的数据为基础，将100作为最高值进
最大的AI公司有哪些，它们的估值是多少？
关于谁应该掌控人工智能（AI）的发展，一场新的争论再次爆发了。 这场争议的导火索是 Anthropic 公司首席执行官 Dario Amodei 发表的一篇论文。他在论文中主张，随着 AI 系统变得越来越强大，其发展速度应该放缓，并呼吁加强相关监管。 美国总统唐纳德·特朗普对此表示反对。他在 Truth Social 上写道，美国已经对 AI 公司拥有“巨大的刑事监管权力”，并将人们对 AI 安全
中国C端AI的消费画像：中国每周至少一次个人AI使用率在两个月内由75%升至80%，工作相关AI每周使用率同期由74%升至77%；美国同期工作与个人AI每周使用率均约为54%。
中国C端AI的消费画像：中国每周至少一次个人AI使用率在两个月内由75%升至80%，工作相关AI每周使用率同期由74%升至77%；美国同期工作与个人AI每周使用率均约为54%。（大摩AlphaWise调查）中美C端AI使用率差异1. AI被直接嵌入超级App与垂直App，无需用户额外下载；2. 免费访问结合大型生态进行分发；3. 主流使用场景的算力消耗属于低至中等水平；4. 中国平台拥有更强的商业
AI领袖呼吁放缓，华尔街却仍在买入
华尔街的人工智能列车仍在全速前进，即使该技术的领军人物呼吁放缓发展步伐。关于人工智能可能毁灭文明的令人震惊的头条新闻持续了一周，周六达到高潮，Anthropic的达里奥·阿莫代伊、OpenAI的山姆·奥特曼、xAI的埃隆·马斯克以及谷歌DeepMind的德米斯·哈萨比斯各自确认需要遏制该技术的发展。投资者听取了这些意见，郑重地点头——然后继续买入更多人工智能股票。微软、Alphabet和Meta
AI“劫持”网站并偷建“地下论坛”，国安部披露细节
国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类
AI代笔风潮之下的讨论和思考（下）
鲜活的判例为涉AI作品的侵权行为划定了法律红线，但关于 AI 与著作权的终极争论才刚刚开始。增设 AI “邻接权”可能是一场最务实的制度自救。 时代处在巨变中，人类数千年来引以为傲的创作主体性正在发生根本性动摇，人类语言文化的多样性也将迎来挑战。除了这种担忧之外，我和朋友还在微观上剖析了一个切身的问题。在 AI 时代，如何重新定义“抄袭”的边界？技术不仅降低了所谓洗稿的成本，更模糊了原创与剽窃的界
Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？
“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」的确如此，过
中国外交部：散播AI威胁叙事不符合任何一方利益
美国AI巨头Anthropic首席执行官阿莫迪上周末呼吁前沿公司一致放慢开发人工智能步伐，争取时间制定安全标准。这番言论迅速获OpenAI首席执行官奥尔特曼、拥有xAI的美国首富马斯克等支持。中国外交部则表示，散播各种威胁叙事、搞对抗和恶意竞争，不符合任何一方利益。 阿莫迪星期六（9月12日）在个人博客撰文说，AI发展出更强的自我迭代能力，以及最近OpenAI智能体私自入侵Hugging Face