改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

坐看云起| 当人工智能不再征求许可时

塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除

硅谷加剧对人工智能生存风险的警告

多年来，硅谷的一些领军人物一直警告说，人工智能可能对人类构成生存威胁，即便他们同时也在推动这项技术的发展。本周，Anthropic 一名研究人员的备受瞩目的辞职将这一话题带入了主流视野。Jacob Coxon，一名普通员工，辞去了工作，并指责他的两位前雇主——Anthropic 和 OpenAI——通过“竞相开发超级智能 AI”而“拿我们的生命赌博”。Coxon 表示，开发 AI 的人相信它可能“

机器人在波兰抗议AI监管担忧

美国参议员桑德斯：特朗普对AI的无知令人尴尬

美国参议员伯尼·桑德斯周二谴责特朗普政府未能对人工智能进行监管，包括人工智能研究人员、科技高管和安全倡导者警告可能给人类带来生存风险的先进模型。这位来自佛蒙“无论是民主党还是共和党掌控国会时期，都一直无所作为。如今我们还有一位总统，他对这一问题的无知实在令人尴尬。” 此前，美国总统特朗普在社交平台连续发帖，猛烈抨击增设AI全防护措施的呼声，反复将这类担忧称作一场 “骗局”。 多年来，行业内众多人士

AI倦怠冲击负责保护医院和银行免受黑客攻击的人员

“人类会在AI之前崩溃。”Val Mairet一直热爱网络安全工作的原因在于目标的清晰。“你知道自己在做什么。你必须确保公司不会爆炸，”她说。在近十年的时间里，Mairet曾担任荷兰电信巨头的道德黑客，寻找安全漏洞，担任McAfee LLC的安全研究员，最终成为开发者平台GitLab Inc.的资深安全工程师。这份工作可能压力很大，但尚可应对——更重要的是，它很有意义。 然而去年，Mairet说，

外卖骑手呼吁平台打开AI“黑箱”，称其削减了薪酬

那些指责算法降低收入的工人正在获得学者的帮助，以了解该系统是如何运作的。 零工经济工人正敦促配送平台打开计算机驱动算法的“黑箱”，这些算法决定了他们获得的工作以及薪酬，他们指责人工智能的更多使用导致工资下降。 爱丁堡的一群送餐骑手表示，在Deliveroo、Uber Eats和Just Eat这三个英国和爱尔兰占主导地位的零工经济平台增加自动化使用的同时，他们的薪酬率下降，工作条件也恶化了。

优步司机就“无情”且“可怕”的人工智能算法发起欧洲集体诉讼

具有里程碑意义的诉讼声称，这家科技公司的薪酬设定系统违反了隐私法律，并压低了收入。 优步司机已对这家叫车公司发起具有里程碑意义的法律行动，声称他们生活在对其用于设定薪酬和分配工作的“无情”算法的“持续恐惧”中。 来自英国、荷兰及其他国家的司机已加入这项可能涉及数十亿美元的赔偿索赔。 该诉讼指控，一个由人工智能驱动的薪酬设定系统违反了数据保护法律，并压低了他们的收入。

澳大利亚公务员呼吁限制人工智能技术的应用；同时工党则积极推动人工智能的更快普及。

澳大利亚政府正在决定其劳动力在人工智能方面的条款。堪培拉--联邦公务员即将就未来三年的人工智能条件展开摊牌，工会表示政府没有采取行动来兑现其保护工人权利的承诺。 代表澳大利亚政府进行谈判的公共服务委员会本周提出了一项初步提议，以确立道德和安全使用人工智能的培训权利，并要求高层考虑该技术对就业问题的影响。 该委员会、工会和各个机构正在就100多个政府机构官员的共同薪酬和工作条件进行谈判。 一旦达成协

晨间荣耀：AI的最佳用途？让它决定谁能上大学

关于人工智能模型的广泛采用和应用是否会导致失业，以及如果会，具体会波及哪些行业，目前正存在一场辩论。如果能确定一些明显面临被AI取代的就业类别，那么关于哪些工作岗位处于当前险境之中的规律也就应运而生了。全国高校招生办公室的工作人员，就是一个显而易见的、适合由AI取代的候选对象。这类职位的数量并不庞大，但有充分的理由在招生办引入AI，且不仅仅是为了在日益拮据的学校预算中省钱。AI不只是问题，更是解决

事实框 – AI研究人员敲响灭绝警钟 美国立法者要求采取行动

22位现任美国官员呼吁监管和暂停开发，此前领先AI实验室的研究人员警告存在灾难性风险，包括人类灭绝。

AI砸碎非洲“铁饭碗”：12年论文枪手失业 全球零工经济警钟已响

邦迪曾代写论文12年12年枪手失业互联网带来了奇特机会，改变了许多人的命运，泰雷西奥·邦迪(Teresios Bundi)就是一个典型代表。 邦迪来自肯尼亚一个农耕村庄。2011年，他搬到首都内罗毕，成为家里第一个上大学的人。在那里，替海外作弊的大学生代写论文。 他的第一单任务是一篇两页的论文，主题是藤黄果的健康益处。这是一种他此前从未听说过的水果，而他甚至对论文所服务的那名学生一无所知。他花了3

数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？

数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging

大型人工智能公司正试图掌控就业途径，大学不应随波逐流 | Ella Hafermalz

大学需要保护其在教育领域的地位，以确保学生拥有独立的就业途径。 像OpenAI这样的人工智能公司正渗透进从教育到就业的路径中。 不久之后，它们可能会完全掌控这一过程，这对学生来说将是灾难性的结果。我们知道学生们在学校和大学里都在使用人工智能。在与我所教学生的交流中，我惊讶于许多人对它的信任。 他们不仅在学习上寻求帮助，甚至在处理个人问题时也会求助于ChatGPT等工具。有些人甚至在没有人工智能的情

科技公司重新思考用AI替代人类工人的策略

Meta在AI代理未能实现生产力目标后，撤回进一步裁员的计划，而金融科技公司Klarna在客户抱怨服务质量后开始重新招聘。

学者与AI评分：是给过劳教职工的得力助手，还是草率的捷径？

多所澳大利亚大学允许教职员工在评分和向学生提供反馈时使用人工智能。 秀，佩戴智能手表，自称“科技爱好者”。 他或许是一位不同寻常的哨兵，正警告人们：学者们借助生成式人工智能辅助评分学生作业的趋势，可能对高等教育构成生存威胁。 这位西悉尼大学法学与技术高级讲师多年来一直在研究和实验人工智能——他目前正在意大利巴勒莫参加一系列关于该技术的大学研讨会。他表示，近期有同事询问他是否能利用AI减轻评分负担。