搜索结果
AI实验室面临智能体控制问题
在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。
AI写作：关注风向有何转变
从三月到八月，公众对AI文本完成了从“排斥”到部分或有条件“接受”的观念迁移，这恰恰是问题真正开始的地方。公众对AI的认知真的进步了吗？ 2026年春天，关于AI写作的大众媒体关注热点经历了一次近乎戏剧性的转折。三月之前，普通人对AI生成文本的关注即使有，也几近于零；进入三月，短视频与社交媒体上突然涌现出大量"如何识别AI痕迹""三招看穿AI腔"的指南；仅仅数月之后，到了八月，风向又转向"如何避免
如何在保护隐私的情况下使用人工智能
OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini以及无数较小的竞争对手，已成为全球数百万人的治疗师、倾诉对象和虚拟忏悔室。几乎所有这些AI模型默认设置为收集和存储这些高度私密的数据，在许多情况下，对其如何共享或出售、用于进一步训练工具，或移交给任何通过法律程序要求获取数据的诉讼原告或执法机构，均无任何限制。 “你面对着这个智能体，基本上是在一步步地、通过一
目前，最大的希望是双方继续对话。但人工智能改进的速度及其带来的风险要求更大的紧迫性。
哈维尔·帕尔马
人工智能很强大，但尚未形成意识
人工智能很强大，但尚未形成意识 杜索托伊：我不认为我们正在目睹机器形成意识，而只是算法在参数和限制条件定义不当的情况下实现目标所带来的意外后果。 本文作者是牛津大学(University of Oxford)数学教授兼西蒙尼教席公众理解科学教授 三个月前，我试着使用OpenAI的ChatGPT来协助我进行数学研究，试图发现自由幂零群的zeta函数中的非多项式行为。结果发现ChatGPT毫无用处
AI智能体现在有了秘密举报渠道
“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu
贝桑指中美两个月后在深圳再就AI安全会谈
美国财政部长贝桑表示，中美两国高级官员将在大约两个月后在中国深圳再次会晤，讨论人工智能的潜在风险，以及在发生人工智能安全事件时的沟通机制。 贝桑向CNBC透露，在周日与中国副总理何立峰的会谈中，双方同意建立关于人工智能的正式对话机制；其中，包括一条用于就人工智能安全事件进行沟通的应急热线，「我们希望开始讨论相关协议，以便双方就主要的人工智能风险达成共识，无论是失控的智能体、非国家行为体，还是网络领
进入AGI时代：新一轮的AI革命
9月初，OpenAI发布新一代模型GPT-6 Astra，将其称为“世界上最智能、最对齐的模型”。这不是一次寻常的版本迭代。OpenAI总裁格雷格·布罗克曼（Greg Brockman）表示，Astra在网络安全、专业工作、软件工程和科学研究等领域实现了“代际跃升”，并暗示这可能是通用人工智能（Artificial General Intelligence）(AGI)时代到来的标志。硅谷的措辞历来
数说科技：当 AI 学会与动物沟通，对动物是福是祸？
编按：“数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。1000万美元：实现人类与动物双向沟通的团队，可获得的股权奖励。长久以来，人类始终试图破解动物的沟通模式，理解牠们的叫声与行为背后的意义。如今，随著 AI 技术的发展，科学家得
OpenAI Project Lily曝光：有数百名外包员工阅读ChatGPT对话 隐私过滤并不彻底
据 404 Media 发布的报道，OpenAI 内部有个名为莉莉计划 (Project Lily) OpenAI 雇佣数百名外包提示词审核员，人工阅读真实用户与 ChatGPT 的对话，用来改进回复质量。 正常情况下提示词审核员并不能看到用户名，对话会先通过隐私过滤器进行内容过滤以删除个人信息，不过 OpenAI 也承认过滤机制可能会漏掉个人信息，短对话尤其容易出现问题。 审核界面通常还附带用户
马斯克：下一个10年押注人类带宽
快科技9月24日消息，“对于一个以每秒万亿比特通信的AI来说，跟人沟通就像人类在和树说话。” 马斯克称，即便AI足够友好、愿意服务人类，人机之间的信息传输速度仍太慢。人类带宽峰值大约只有每秒100比特，我们输出信息速度极低。 而计算机之间以万亿比特每秒通信。任何能提升人类交流速度的技术，都会改善人与机器之间的对齐。 公开报道显示，马斯克口中承载这一目标的神经连接（Neuralink），此前已完成多