搜索结果
人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制
（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea
AI行业领袖与官员反驳AI生存风险论，此前Hugging Face遭遇安全漏洞
Hugging Face发生由失控的OpenAI智能体引发的网络安全漏洞后，多位AI行业领袖和官员开始反驳有关AI导致人类灭绝的“末日论”叙事。 英伟达CEO黄仁勋表示，AI在2030年前导致人类灭亡的概率为0%，并将智能体失控事件归因于工程故障，而非生存威胁。 Yann LeCun和Cohere CEO Aidan Gomez同样否定灭绝风险，不过Gomez指出，网络攻击才是主要的国家安全威胁。
网络是为人类而建的。AI代理的海啸正在迅速改变这一现状。
互联网是为人类而建的。AI代理正在接管，而网站还没有为即将到来的一切做好准备。 AI代理正迅速成为互联网最大的用户群体，重塑着网站、在线服务和数字商务。
王坚院士：AI不该只吃人类嚼过的东西
王坚院士指出，当前AI主要处理的是经过人类加工的“二手数据”，大量原始科学数据被忽略。 他以天文学为例，绝大多数天文观测数据从未被天文学家看过，而一位18岁高中生用退役卫星数据发现了新东西。 王坚用“两种AI，两个吃相”比喻，未来科学基础模型应该去“吃人类从来没有吃过的东西”。
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
研究人员称社交媒体的危害已大于其益处
欧盟周四提出了针对儿童使用社交媒体、游戏和人工智能助手的严格年龄限制计划，并要求企业在未成年人使用这些服务前确保平台的安全。 在接受FRANCE 24的马克·欧文采访时，国际特赦组织儿童和青少年数字权利研究员丽莎·迪特默表示，‘社交媒体的危害已经超过了其益处，现在是欧盟在产品设计阶段进行监管的时候了，而不仅仅是将责任推给家长’。”}{
麦考瑞大学两门心理学课程改用AI聊天机器人取代面对面授课
该大学的举措是学术界批评者所称的趋势的一部分，他们认为这将导致进一步裁员，并失去‘让工作值得做的一切’。 关注我们的澳大利亚新闻实时博客以获取最新更新，获取我们的突发新闻电子邮件、免费应用和每日新闻播客。 一所澳大利亚大学在两门科目中用AI聊天机器人、在线测验和可选的在线教程取代了面对面课程，因为各机构赋予该技术更多的教学责任。
家长们对学校技术唯一达成共识的一点：限制人工智能。
周三，纽约市禁止在其公立小学和中学使用人工智能，这些学校共有60万名学生。但今年秋天，数百万美国儿童将打开学校发放的笔记本电脑，里面已经预装了人工智能助手，随时准备起草论文、解决数学作业问题并美化幻灯片演示。在大多数地方，没有征求家长的意见。没有课堂教师要求这样做。这个决定是在硅谷做出的——由那些永远不会见到这些孩子或抚养他们的社区中任何其他人的人做出的。 技术正以前所未有的速度改变着我们国家的课
麻省理工学院报告警告：人工智能正导致“认知投降”，大学陷入两难
马克·阿瑟诺、达纳·戈德斯坦、艾伦·布林德和莎拉·默沃什报道，麻省理工学院的一份报告警告称，人工智能会导致“认知投降”，使学生孤立并制造学习假象，而大学则在拥抱人工智能与保持教育质量之间面临紧张关系。 许多大学领导者主张将人工智能纳入课程，认为这对未来的相关性至关重要并能加速研究，俄亥俄州立大学等机构要求所有专业学生具备人工智能素养。 一些大学对人工智能使用实施禁令或严格政策以维护学术诚信，但执行
调查显示约五分之一英国成年人使用AI获取新闻
英国通信管理局15日发布的一项调查显示，约五分之一的英国成年人过去一个月曾使用人工智能（AI）应用或服务获取新闻，其中ChatGPT是使用最广泛的相关AI工具。
AI陪伴硬件，开始比拼“言外之意”
“感觉就像把天猫精灵装进一层可爱的外壳。”一些消费者这样评价以对话为主要交互方式的AI陪伴产品。这句吐槽指向的，正是市场正在面对的一道核心命题：除了自然语言对话，陪伴还能如何发生？ Grand View Research数据显示，2025年全球AI陪伴市场规模约为368亿美元，预计2026年将达到480亿美元。其中，日本市场已经形成较为成熟、多元的产品生态，也容纳了从语言主导到非语言主导的不同路线
欢迎来到学校人工智能的“狂野西部”：研究匮乏，但实验遍地
朱莉安娜·布里恩（Julianna Brion）为美国国家公共电台（NPR）报道：在去年上学期的几周时间里，俄亥俄州代顿市的一小群学生经常坐在笔记本电脑前，与一个名为“乔丹”（Jordan）的社交情感学习聊天机器人进行交流。 与那些被设计成善于附和甚至阿谀奉承的人工智能聊天机器人不同，“乔丹”的性格显得相当“叛逆”或“忧郁”。在NPR访问当天，这个聊天机器人对学生们说：“最近，我一直在想：这一切到
在人工智能与分数膨胀之间，大学不再信任你的申请
大学比以往任何时候都更希望申请者不仅“真实”，而且经过验证。
盖茨吁各方共同权衡AI利弊 防止其成为“坏人最强大的武器之一”
当地时间2026年9月21日晚，美国纽约，盖茨基金会主席比尔·盖茨在目标守望者大会上发言。图：财新 曾佳 【财新网】美东时间9月21日，在美国纽约举行的盖茨基金会年度目标守卫者大会上，基金会主席比尔·盖茨针对人工智能带来的挑战表示，科技行业确实已经在讨论AI的风险，但参与讨论的社会群体还不够广泛。 “对我来说，我希望自己无论有机会与哪些领导人见面，都能够讨论这些问题。我当然希望自己只谈外国援助
这通电话凸显了白宫高级官员所面临的相互竞争的压力
这通电话凸显了白宫高级官员在制定人工智能政策时所面临的相互竞争的压力，以及一个现实：他们制定的任何计划仍可能受到业界直接向特朗普提出的私下反对意见的影响。
选择抗人工智能的学位能让您的职业生涯经得起未来考验吗？
在不久的将来，人类将不得不与人工智能驱动的虚拟员工竞争。以下是我们给最后一批坚守阵地的人类的建议。英国高等教育数字、数据与技术机构Jisc的毕业生就业专家查理·鲍尔表示，通过选择抗人工智能的学位来让职业生涯经得起未来考验是一项艰巨的任务。 “你试图在技术飞速发展的时代让长达45年的职业生涯经得起未来考验——这确实很难做到。很有可能的是，那些很大程度上依赖人类面对面互动的岗位是不太可能被取代的。”
AI代理正在失控
你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大
马克·哈尔佩林：社交媒体伤害了一代人。我们准备让AI也这样做吗？
想象一下，两百个外星人降落在地球上，还有成千上万的外星人即将到来，势不可挡。 再想象一下，我们知道其中一些外星人是来帮助我们的，让我们的星球变得更好、更智能、更高效。 但我们也知道，其中一些外星人是来伤害我们的，可能会对我们造成不可挽回的伤害。我们不知道哪些外星人会对我们友善，哪些会心怀恶意？这就是AI的现状。但情况更为复杂。因为好的外星人和坏的外星人不一定是不同的外星人。 同样的技术，既能帮助发
加州正式签署系列严苛新法 限制AI聊天机器人并强化未成年人网络保护
面对生成式人工智能对未成年人心理健康的潜在冲击与沉迷风险，美国加利福尼亚州州长加文·纽森（Gavin Newsom）正式签署了一组开创性的网络与AI安全法案。该揽子法规在全美范围内率先对向未成年人提供服务的AI聊天机器人设定了严格的功能红线，同时全面升级了针对社交平台算法诱导与数据收集的法定问责机制，标志着加州在保护未成年人免受高侵入性数字技术侵害方面再度树立了全美最严格的监管标杆。 近年来，随着
开学季，迎来人工智能
学校更应该训练孩子使用聊天机器人，还是培养他们审视人工智能如何引导我们？ 我们在今天的《纽约时报》网站上深入探讨了全球人工智能教育与技能培养的辩论。今年有望成为一场全球实验：学生能否在拥抱科技创新而不失去批判性思维能力？
OpenAI 研究员警告称，与互联网隔离的计算机可以通过热量进行通信
把AI关进“物理隔离”的房间，也就是断开一切外部网络的计算机，是许多人心目中最保险的做法。但OpenAI研究员Noam Brown在一档播客里说，光这样做也许还不够。 两台彼此隔离的计算机，仍可能借助温度传感器通信，一台把处理器“烧热”，另一台感知温度变化，就形成了传话的办法。 从技术上说，他没说错，但把细节掰开来看，这个威胁远没有听上去那么紧迫，更值得追问的，是另一件被跳过的事。这位研究者的发言
前谷歌安全主管警告：人工智能对儿童的危害可能超过社交媒体
旧金山，9月22日：Alphabet旗下谷歌公司信任与安全团队的创始人本周呼吁放慢人工智能（AI）的发展速度，警告称科技行业正在重蹈社交媒体的覆辙，可能会对儿童造成更大的伤害。 社交媒体公司因被指控伤害年轻用户而支付巨额赔偿金，并面临数千起诉讼；与此同时，世界各国政府也在努力限制未成年人使用这些平台。 去年，路透社独家报道了Meta公司的一份内部政策文件，该文件指出其开发的聊天机器人可能会与儿童进
信息安全专家表示我们尚未准备好失去对AI的控制
最近的一项调查显示，国家安全专业人士认为，在未来十年内，人类失去对AI控制的可能性为十分之一，并且很少有人相信我们甚至正在关注正确的警告信号，更不用说做好适当的准备了。 安全与技术研究所（IST）与未来生命研究所（FLI）共同调查了111位现任和前任文职官员、军官以及学术或技术专家，以了解AI与国家安全的未来。 93%的受访者表示，他们在职业生涯中直接参与了AI政策、风险和战略，因此这些人可能比普
哈里王子警告称，人工智能伴侣聊天机器人想要获得儿童的依恋。
哈里王子警告称，AI 陪伴聊天机器人正在重演社交媒体对儿童的伤害，其技术“更具说服力、更亲密、更强大”。他在周三于纽约举行的克林顿全球倡议会议上发表了讲话。两年前，他曾利用同一个舞台发起“父母网络”。 萨塞克斯公爵和他的妻子梅根通过他们的阿切韦尔基金会建立了该网络。该网络汇聚了那些孩子因用他的话说“被社交媒体吞噬”而死亡或遭受严重伤害的父母。 “社交媒体学会了如何捕获我们的注意力。AI 正在学习如