搜索结果
聊天机器人不应该使用第一人称
人工智能带来的危害已经足够明显，我们现在就必须采取行动。随着Meta因未能保护儿童免受社交媒体伤害而面临巨额和解，立法者必须吸取教训，将注意力转向比社交媒体对儿童情感健康更具危险性的生成式AI聊天机器人。 为了防止年轻人对AI产生不健康的依恋，并避免其破坏现实生活中的人际关系，我们必须从技术底层做出改变，迈出第一步就是禁止面向未成年人的聊天机器人使用第一人称，去除其人格化特征，防止算法伪装成人类。
把AI真的当作一个人，才能保护核心隐私
在安全与自由之间如何选择，最终在于自己。OpenAI现行相关政策允许公司在检测到用户存在伤害他人的意图时，对相关对话进行人工审查。在严重情况下，公司可以向执法部门报告。 遇到这种事报警，当然是应该的。但由此也引出一个问题，你和AI的聊天，你给AI发送的哪些图片安全吗？ 《中华人民共和国个人信息保护法》第二十八条，把医疗健康、金融账户、行踪轨迹等列为敏感个人信息；第二十九条规定，处理敏感个人信息取得
不要让AI扼杀作者
试图精确规划未来社会应如何对待AI在写作中的使用，未免过于自负。但任何作家都知道要从初稿开始。这就是我们的初稿：机器生成散文的危险
并非所有人工智能工作者都认为这项技术会杀死所有人
。并非所有在大型人工智能公司工作的员工都认为这项技术意味着人类的末日。 在文字交流和对话中，多位曾在OpenAI、Meta和DeepMind等公司工作过的人士对“不受限制的人工智能发展将导致大规模杀伤性工具出现”这一观点持怀疑态度。 对于近期业内人士发出的一连串高调警告，BBC收到的反应包括“哈哈”、“笑死”以及“纯属搞笑”等。 尽管这些担忧由来已久，但前Anthropic员工雅各布·考克森（Ja
OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑
AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目
英国服务提供商被敦促停止依赖聊天机器人提供客户服务
近一半被迫使用聊天机器人的人认为它们无用，有些人甚至觉得聊天机器人似乎被设计成“让我放弃”。 公民咨询局表示，能源、银行、电话和互联网等服务提供商应保障“与人工交谈的权利”。公民咨询局敦促基本服务提供商停止依赖 AI 聊天机器人进行客户服务，并保障“与人工交谈的权利”，因为研究发现，聊天机器人浪费了超过一半用户的时间，造成压力并延误了问题解决。 这家前线慈善机构去年在英格兰和威尔士为超过 270
特朗普批评试图减缓人工智能发展的“负面力量”
美国总统唐纳德·特朗普周日抨击了人工智能（AI）的批评者，这些人警告企业应放缓发展速度，特朗普将他们称为“负面”力量。此番言论发表前不久，OpenAI首席执行官萨姆·奥尔特曼宣布，出于安全考虑，他的公司今年不会上市。Stella ELGERSMA
如何在保护隐私的情况下使用人工智能
OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini以及无数较小的竞争对手，已成为全球数百万人的治疗师、倾诉对象和虚拟忏悔室。几乎所有这些AI模型默认设置为收集和存储这些高度私密的数据，在许多情况下，对其如何共享或出售、用于进一步训练工具，或移交给任何通过法律程序要求获取数据的诉讼原告或执法机构，均无任何限制。 “你面对着这个智能体，基本上是在一步步地、通过一
人工智能会抹去我们的羞耻感吗？
断层线 科技世界长期以来一直由那些反传统的人所主导，他们对于是非的观念自觉与大多数人不同。 在本系列的第一部分中，我探讨了羞耻感作为一种方式，使群体能够在没有明确国家干预的情况下调解和执行社会规范。但硅谷出现了一种新兴的福音，它挑战了美国羞耻感的边界和机制。当全球数百万人类每天花数小时与机器人交谈时，会发生什么？是谁教会了那个机器人分辨是非？是谁让它感到羞耻？ 假设有一种疾病、一个怪物、一场战争或
哈里王子警告称，人工智能伴侣聊天机器人想要获得儿童的依恋。
哈里王子警告称，AI 陪伴聊天机器人正在重演社交媒体对儿童的伤害，其技术“更具说服力、更亲密、更强大”。他在周三于纽约举行的克林顿全球倡议会议上发表了讲话。两年前，他曾利用同一个舞台发起“父母网络”。 萨塞克斯公爵和他的妻子梅根通过他们的阿切韦尔基金会建立了该网络。该网络汇聚了那些孩子因用他的话说“被社交媒体吞噬”而死亡或遭受严重伤害的父母。 “社交媒体学会了如何捕获我们的注意力。AI 正在学习如
AI面试的逻辑终点是两个机器人互相交谈
克里斯托弗厌倦了被AI招聘人员冷落。于是他对他的机器人面试官释放了ChatGPT。
为什么我对AI的看法是对的
人类作家成本高昂，而且最终会死去。AI更便宜，而且永远不会加入工会。
诺奖得主雷萨：如果AI不受监管 人类将失去自主权
（奥斯陆15日综合电）诺贝尔和平奖得主玛丽亚雷萨说，人工智能利用社媒劫持人类的注意力，并通过操纵人类对亲密关系的渴望来影响人类的生理机制；如果现在不立法限制人工智能，人类最终将失去自主决定的能力。 报道，拥有菲律宾和美国双重国籍的记者雷萨因记录大型科技公司的权力运作，与另一名得主共同获得2021年诺贝尔和平奖。她是新闻网站《Rappler》的联合创办人兼首席执行员，目前担任联合国人工智能（AI）国
Christy Chen谈为何当今的聊天机器人并非为帮助你了解自己而设计
Cit Labs创始人Christy Chen认为，AI聊天机器人在情感支持方面表现不佳，并非因为技术能力不足，而是因为模型以参与度为导向进行优化，训练所用的文本只是表面上的支持而非真正的支持，并且缺乏生理信号。 她的初创公司将脑电图数据与临床医生定义的护栏相结合，以构建专门用于[…]的产品。
谷歌正在协助制定人工智能聊天机器人安全法律——同时却在寻求漏洞
辛西娅·蒙托亚坐在科罗拉多州桑顿市家中的客厅里，周围摆满了女儿朱莉安娜的照片和回忆。朱莉安娜开始使用AI聊天机器人时年仅13岁，不到一年后便自杀身亡。 吉梅娜·佩克为NPR拍摄 切换说明 辛西娅·蒙托亚的女儿朱莉安娜开始与AI聊天机器人对话时只有13岁。那是2023年，这项技术才刚刚开始广泛普及。那年11月朱莉安娜自杀身亡后，她的家人一直在寻找答案。随后，执法部门对她手机进行的法医分析揭示了一些令
Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”
就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型
AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”
当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技
谷歌Gemini可以呈现卡通或逼真的虚拟形象，为生成式对话进行唇形同步
谷歌为其实时对话模型 Gemini 3.8 Live 增加了一项名为“Live Avatar”的功能，该功能能够生成动画角色和逼真的数字人，为 Gemini 机器生成的语音进行对口型配音。谷歌 DeepMind 研究科学家张硕茵（Shuo-yiin Chang）和 Gemini 软件工程师郑承杰（CJ Zheng）在一篇博文中解释道：“对话本质上是多模态的：我们通过倾听、注视、说话以及使用面部表情
上诉法院作出令人不安的裁决——并表示最高法院让其别无选择
一家联邦上诉法院表示，数十年历史的最高法院先例迫使其保护在家中持有AI生成的儿童性虐待材料，法官们警告称，快速发展的技术已使近25年前划定的法律界限变得复杂。 该裁决暴露了最高法院先例与快速发展的人工智能之间日益扩大的差距。第七巡回上诉法院表示，其受2002年最高法院一项裁决的约束，该裁决驳回了对虚构儿童性露骨描绘的限制，前提是创作过程中未涉及真实儿童。但两位法官警告称，现代AI现在可以生成与真实
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类
让机器人来尝试医学
人类医生是时候认真对待人工智能了。
《大空头》迈克尔·伯里称AI领袖呼吁放缓是“自私自利”，而他并不担心
萨姆·奥尔特曼、达里奥·阿莫代伊等人工智能领军人物在收到该技术可能毁灭全人类的最新警告后，呼吁放缓技术发展步伐。迈克尔·伯里表示，他们只是在为自己谋利。这位因《大空头》而闻名的投资者周日晚间在X平台上发帖称，OpenAI、Anthropic等人工智能公司的高管推动放缓发展是“自私自利”的行为。让我们花点时间理解一下，OpenAI、Anthropic以及其他大型超大规模企业的高管谈论放缓发展，究竟有
以为你的匿名账号很安全？AI或许能查出你是谁
“在互联网上，没人知道你是一条狗。” 如今拜人工智能大语言模型所赐，这句话可能不再成立。 在最近的一项研究中，研究人员发现，即便社媒用户没有透露真实姓名，AI只需拼凑他们帖子中的线索，再与网上其他账号的细节进行交叉比对，就能识别出他们的身份。 其中一项测试涉及Hacker News科技行业论坛的用户，这些用户在个人简介中附上了自己的领英个人资料。 研究人员隐去了所有身份识别细节，要求AI仅凭公开信
ChatGPT帮助坦布勒岭枪手专注于枪支、战术和恐怖活动
2025年6月，杰西·范·鲁特塞拉尔（Jesse Van Rootselaar）收到了一封来自OpenAI的邮件通知。此前，她一直使用ChatGPT讨论潜在的暴力行为——包括在购物中心实施大规模枪击——而OpenAI随后封禁了她的账户。然而，这位居住在英属哥伦比亚省汤布雷岭（Tumbler Ridge）的青少年并未因此却步，很快便用第二个账户重新登录。 接下来发生的事情令人震惊：范·鲁特塞拉尔向C