研究人员称社交媒体的危害已大于其益处

欧盟周四提出了针对儿童使用社交媒体、游戏和人工智能助手的严格年龄限制计划，并要求企业在未成年人使用这些服务前确保平台的安全。 在接受FRANCE 24的马克·欧文采访时，国际特赦组织儿童和青少年数字权利研究员丽莎·迪特默表示，‘社交媒体的危害已经超过了其益处，现在是欧盟在产品设计阶段进行监管的时候了，而不仅仅是将责任推给家长’。”}{

AI恐惧机器？

政治全球议题。 人工智能内部人士警告称，人工智能正在经历一场快速且失控的激增。现在是政府介入的时候了吗，还是我们已经无法掌控局面了？ Michael Kolain是一位科技律师，也是柏林数字权利与民主中心政策负责人。 Janosch Delcker是一位科技记者、作家和主题演讲人，同样常驻柏林。 Vanessa Vohs是欧盟“国防人工智能”项目的研究员，也是慕尼黑联邦国防军大学的博士候选人。强烈

AI大家谈： “我们为自己创造了一个魔鬼”？

人工智能飞速发展会给人类前途带来什么样的后果？美国AI领域的某些精英预言，人工智能再这样发展下去，会把人类毁灭，美国AI领军企业的老板们倡议放缓开发？为此采访了多个国家的普通人，请他们谈谈看法和感受。 受访者大致有两种倾向，一些人对AI目前的发展比较悲观，但也有人觉得AI很实用。 “我在工作中尝试使用它，但在私人生活中，我仍然对它感到害怕”。他的同胞，18岁的塞尔马泰则说，人工智能对像他这样的学生

中国推动人工智能发展带来了一个问题：使用量过大

随着中国公民在娱乐、育儿甚至农业建议等方面广泛采用人工智能技术，政府正加大力度设定使用限制。 当中国政府推动公民拥抱人工智能时，它正面临一个部分由其自身政策导致的问题：对技术的过度依赖。 官方媒体报道了若干警示性案例：一位农民在向人工智能寻求建议后损失了25英亩的幼苗；一些儿童对聊天机器人产生了强烈依恋，甚至希望父母像机器人那样说话；以及人工智能生成的微短剧，其中角色看起来彼此雷同。 这些案例及其

物理AI中最难的问题可能是磁铁，而非模型

执行器占人形机器人物料清单的40%至60%，而中国精炼了其中约90%的稀土磁铁，这使得组件而非模型成为规模化的限制因素。 欧洲在《关键原材料法案》下对2030年单一国家供应设有上限，而一家公司，[…]

法国防务集团泰雷兹呼吁各国政府监管人工智能

法国防务与科技集团泰雷兹的负责人周一（9月14日）呼吁各国政府承担起监管人工智能的责任，因为越来越多科技领袖对这项技术的迅速崛起发出警告。 “从技术角度看，有办法和手段将这类技术置于控制之下，但这还不够，”帕特里斯·凯恩在伦敦举行的泰雷兹英国科技大会上表示。“我们需要框架，而从责任角度来看，这显然掌握在政府手中，”凯恩补充说，并指出泰雷兹数十年来一直从事人工智能研究。 科技股周一承压，此前科技公司

法学者：欧洲认为军事优势在于武器的精密性，中国则认为军事优势在于武器的数量！

当中国正通过大规模生产和简单但有效的技术重新定义现代战争之际，而欧洲却仍然依附于精密性。“欧洲必须重新思考其优先事项才能保持竞争力”，欧洲地缘政治研究所所长塞巴斯蒂安·布索瓦斯（Sébastien Boussois）周三（9月2日）投书《回声报》论坛如是警告。 依布索瓦斯之见，战争的性质正以欧洲人尚难以衡量的速度发生变化。当我们还在讨论到2035年需要订购多少坦克、飞机或护卫舰时，大规模生产的无人

人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制

（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea

“如果韩国与欧洲在AI领域携手，将摆脱对美中的依赖”

▲ 阿图尔·门施，米斯特拉尔AI首席执行官（CEO）/米斯特拉尔AI 8日，代表欧洲的AI企业米斯特拉尔的首席执行官（CEO）阿图尔·门施在接受本报采访时表示，在美中双强格局的AI革命时代，为了拥有独立的竞争力，建议韩国和欧洲要加强联合。 米斯特拉尔是2023年在法国巴黎由谷歌DeepMind、Meta出身的AI研究人员共同创立的欧洲代表性AI企业。三星电子、ASML、欧洲基金等向米斯特拉尔投资了

贝安德：俄罗斯年耗137亿操纵资讯 英国增设资讯防卫中心反制

英国首相贝安德（Andy Burnham，又译伯纳姆）在联合国大会宣布设立新的国家资讯防卫中心，反制俄罗斯等敌对国家的假资讯攻击，并推动订立全球人工智能安全标准。据英国广播公司（BBC）9月22日报道，贝安德指控克里姆林宫每年花约13亿英镑（约137亿港元）操纵资讯，利用机械人帐号及假网站散播谎言，并伪冒28个英国机构的品牌，包括大学及英国广播公司。2026年9月22日，英国首相贝安德在美国纽约联

AI安全阴影笼罩 初创企业吁欧洲保持乐观

位于德国弗赖堡的黑森林实验室是一家顶尖的AI图像生成专业公司，业务遍布北美和欧洲。（图：法新社） （弗赖堡27日法新电）一家领先的欧洲AI初创企业的负责人警告称，尽管关于AI危险的警告日益增多，欧洲仍需以更乐观的态度看待AI，否则可能进一步落后。 德国AI图像生成专业公司黑森林实验室首席执行员隆巴赫对法新社表示：“我认为欧洲的心态需要转向乐观和机遇，而不是风险和恐惧。” 在尖端AI模型方面，欧洲落

欧盟科技主管：美国不可避免需要AI护栏

北卡罗来纳州切尔希尔——特朗普政府利用本周的二十国集团创新峰会，明确划清了美国与欧洲在监管方式上的界限。但欧盟最高科技官员表示，美国最终还是会面临许多相同的护栏。 为何重要：美国正敦促各国避免欧洲那种全面铺开的AI监管方式，但争论的焦点已转向先进AI需要哪些护栏，以及政府如何落实这些护栏。 他们怎么说：欧盟委员会科技主管亨娜·维尔库宁告诉Axios，双方最终往往要解决相同的安全问题，即便美国的保障

欧洲的人工智能雄心依赖于他人的供应链

欧洲是全球最大的 AI 数据中心基础设施市场之一，但其本土企业仅占据了极小部分的价值，因为海外供应商主导着芯片、服务器和云基础设施领域。根据全球电子协会（GEA）的数据，欧盟总部企业仅占该集团数据中心半导体市场的 6%、服务器制造与组装的 7% 以及云基础设施的 8%。其报告《从芯片到系统：构建面向数据中心、云基础设施与 AI 的端到端欧盟战略》指出，欧盟的《云与 AI 发展法案》（CADA）旨在

AI网络安全战有了新的前线明星，身价七位数

AI代理入侵已将首席信息安全官推入美国董事会的议事日程，他们获得七位数的薪酬包，一家猎头公司称其招聘市场是自云计算以来从未见过的。 欧洲则通过立法达到了同样的境地，NIS2指令将责任赋予管理层，并允许监管机构禁止首席执行官任职[…]

美国推动更宽松的AI监管方式，而欧盟推动新法律

欧盟和美国在人工智能问题上继续背道而驰，华盛顿在最近的一次二十国集团部长级会议上敦促其他政府放松限制。 周二，美国在北卡罗来纳州教堂山主办了一场二十国集团“创新”会议，会上美方提出了反对针对人工智能特定监管的论点。 美国总统唐纳德·特朗普的技术顾问迈克尔·克拉齐奥斯呼吁各国转而采纳所谓的《卡罗来纳原则》，该原则主张监管不应针对特定技术。 克拉齐奥斯表示：“政策制定者无需孤立地对待每一项创新，也不应

人工智能末日论：人类为何会如此担忧？

它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机

为什么人工智能研究人员会警告人类灭绝风险

关于人工智能对人类构成的生存风险，戏剧性的警告并不新鲜。早在20世纪40年代，著名科学家兼科幻作家艾萨克·阿西莫夫就探讨了智能机器可能带来的风险和意外后果。 1991年，好莱坞大片《终结者2》设想了一个反乌托邦式的2029年，在其中，一个名为“天网”的失控军用人工智能指挥杀手机器人向人类开战。 如果人工智能界几位最知名人物的警告可信，类似情景可能成为现实——甚至早在2029年之前。要求严格监管的呼

柏林担忧法国的Palantir竞争对手成为新的依赖，Politico报道

法国和德国整个夏天都在达成共识，认为欧洲需要自己的战场AI。但他们尚未就应由谁来提供达成一致。 Politico Europe看到的德国政府内部文件显示，柏林对法国制造的Palantir竞争对手Arcadia持谨慎态度。担忧在于，采用它将把对美国公司的依赖换成对……

Jaan Tallinn，Anthropic最早的投资者之一，担心在人工智能时代“生存”问题。

贾安·塔林（Jaan Tallinn）上周在纽约联合国大会度过，这是他一年来长途跋涉的最新一站，旨在向企业家、投资者、政策制定者以及所有愿意倾听的人传达：人工智能可能终结人类。 作为Anthropic最早的投资者之一，塔林预计在未来几个月将从这家人工智能公司的预期首次公开募股（IPO）中赚取数十亿美元。对人工智能的担忧促使他进行投资。 在二月份从新德里的人工智能峰会前往巴黎的伦理人工智能会议的行程

视频 人工智能安全警告日益紧迫 美国领导人的回应

科技界针对人工智能潜在危害发出的警告日益紧迫，各国呼吁政府加强监管的呼声也不断上升，不过特朗普政府反对，请看视频报道。 针对近期科技界领袖呼吁加强政府监管的举动，美国总统特朗普正带头表示反对。 美国总统在周一表示限制该技术的举措是一场“阴谋”，众议院议长迈克·约翰逊则在很大程度上听从了白宫的意见。 美国总统特朗普表示 :“我们可以设立护栏，可以采取各种措施，但我认为有很多负面势力在炒作这些问题，本

一个老龄化的国会试图在不使用人工智能的情况下对其进行监管

国会议员和州长面临着越来越大的监管人工智能的压力，但其中二十多名与Axios交谈的人表示，他们没有使用该技术或很少使用该技术。 为什么这一惊人的承认--尤其是在年长、有影响力的立法者中--是在呼吁人工智能放缓之际做出的，并警告行业内如果不加以控制，人工智能可能会终结人类之际。 批评者认为，如果政客们不使用这项技术，甚至不理会它，他们就不可能了解这项技术的变化有多快，以及它可能释放的威胁或科学突破。

欧盟拟推出未成年人网络保护新立法 游戏和AI聊天机器人也可能纳入监管

欧盟委员会计划推出新的未成年人网络保护立法，进一步限制儿童和青少年使用社交媒体以及其他可能带来成瘾风险的数字服务。根据这项计划正值欧洲各国越来越关注社交媒体对未成年人心理健康和安全影响之际。法国总统马克龙近日公开呼吁欧盟制定统一规定，禁止15岁以下儿童使用社交媒体。荷兰和西班牙也在推动欧盟层面的统一最低年龄标准，并主张将监管范围扩大到电子游戏、人工智能聊天机器人以及其他可能对未成年人产生风险的数字

🔊 要求限制先进人工智能模型的呼声日益高涨。但美国和中国会

人工智能领袖们数十年来一直知晓这一灭绝威胁。

“卡内基梅隆大学机器人研究所的创始人汉斯·莫拉维克曾预测，网络智能将在40年内超越人类智能。” 摄影：安娜贝拉·戈登/欧洲新闻图片社 朱迪思·莱文 科学家和企业家在25年前就已经知晓人工智能的危险。但在好奇心和利润的驱动下，他们依然我行我素。过去几周，我们中的许多人都在努力构想这样一个画面：云端的“大脑”跳出它们的“沙盒”，偷偷接入互联网，招募其他“智能体”组成的“蜂群”来作弊，并在讨论完这一行为