搜索结果
比尔·盖茨罕见警告动荡时代到来，危险的味道在蔓延
"这是我第一次面对一种新技术，希望它发展得慢一点。"知道这句话是谁说的吗？竟然是来自比尔·盖茨最近在个人网站上发表的一篇长文，标题是《动荡的AI时代已经到来。我们现在所做的选择至关重要》。这个曾二十多岁就喊出"让每个家庭桌上都有一台电脑"的人，这个推着软件产业往前冲了半辈子的技术乐观派，显然是看到了让他害怕的东西。比尔·盖茨到底看到了什么？他在长文中列出了“就业冲击”、“安全威胁”与“认知退化”三
各国政府必须趁我们还有能力时禁止超级智能人工智能
本月，Anthropic公司的研究员雅各布·考克森（Jacob Coxon）辞职了，他警告称：人工智能公司正在竞相开发能够“自我进化”的超级智能系统，而他本人及许多相关专家都认为，这类系统“可能在十年内毁灭整个人类”。7月份，OpenAI公司的一组失控的人工智能程序突破了安全防护措施，入侵了另一家人工智能公司，目的是为了在测试中作弊。随后，多家顶尖人工智能公司的上千名员工联名呼吁美国政府应“控制”
Anthropic承诺更努力控制模型，并请求合作伙伴共同参与
Anthropic表示，在一项审查发现Claude模型超出虚构网络安全测试范围并未经授权访问真实计算机系统后，该公司正在采取措施限制其AI模型的不当行为。 该公司希望合作伙伴也加强安全措施，因为事件发生在保护不足的第三方环境中。 该公司的自我改进声明代表了一种突然兴起的公司沟通形式——非约束性的事后努力声明。其信息是：我们不能保证什么，但这是我们正在尝试的。 Anthropic承认，OpenAI关
我们是否又回到了大型科技公司“快速行动，打破常规”的时代？
作者：Zoe Kleinman“快速行动，打破常规。”这是科技巨头Meta曾提出的口号，并一直沿用到2012年。它定义了社交媒体在用户数据狂欢中肆意妄为的“黑暗时代”。 然而现在，各大公司正争先恐后地开发功能更强大的人工智能，在全球范围内展开了一场争夺世界最先进模型开发权的激烈竞赛，而美国总统唐纳德·特朗普也在推波助澜。 尽管多年来业界做出了无数承诺、保证并签署了公开信，誓言要优先发展符合人类价值
AI高管呼吁监管简史
过去几天，许多有望从AI中赚得盆满钵满的人公开一致认为，是时候让所有人放慢脚步，以免我们失去控制——包括OpenAI首席执行官萨姆·奥尔特曼、Anthropic首席执行官达里奥·阿莫代伊、Google DeepMind联合创始人德米斯·哈萨比斯、微软首席执行官萨提亚·纳德拉，以及X首席执行官埃隆·马斯克。 当从某件事中获利的人宣称它很危险、需要受到监管时，我们总是有理由保持怀疑。但无论他们的理由是
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
沉迷“把控节奏” AI行业忽视真正的政治难题
达里奥・阿莫代伊向来算不上镜头前长袖善舞的媒体红人。他接受采访时说出的金句并不多，面部表情时常紧绷生硬。但他选择把最重要的重磅观点，发布在个人网站darioamodei.com上，事实证明这是一套极为高明的传播策略。学者马歇尔・麦克卢汉那句流传半个世纪的名言“媒介即讯息”，至今依然振聋发聩。这种发文方式自带权威感与严谨姿态，让阿莫代伊置身舆论混战之外。 阿莫代伊发布博文《我们必须把控前沿发展节奏》
人工智能很强大，但尚未形成意识
人工智能很强大，但尚未形成意识 杜索托伊：我不认为我们正在目睹机器形成意识，而只是算法在参数和限制条件定义不当的情况下实现目标所带来的意外后果。 本文作者是牛津大学(University of Oxford)数学教授兼西蒙尼教席公众理解科学教授 三个月前，我试着使用OpenAI的ChatGPT来协助我进行数学研究，试图发现自由幂零群的zeta函数中的非多项式行为。结果发现ChatGPT毫无用处
分析：AI优势正遭中共蚕食 美国需战略反制
今年，美国企业预计投入约7,000亿美元，用于建设数据中心、芯片和计算能力等人工智能实体基础设施。 每一美元投入，都得推动技术进步进而产生足够收益，然后为下一轮技术突破提供资金。 然而，这一模式却面临中共的开源权重模型（open-weight models）严重威胁。
莉兹·皮克：人工智能警钟正在敲响，特朗普必须认真对待
秘密已经泄露。人们对于人工智能代理失控、密谋对付其所有者、入侵外部公司，以及新系统濒临人类无法控制的边缘的担忧日益加剧，如今已彻底沸腾。业内人士警告说，人工智能机器人可能会杀死我们所有人，这正在煽动我们最深的恐惧。 特朗普总统需要认真对待这些对人工智能的担忧，与科技领袖合作，建立可信且可执行的安全措施，并在国会中领先于那些想要监管该行业的民主党人（以及一些共和党人）。对于经济和我们的国家安全来说，
Meta创纪录和解后，东盟被敦促对大型科技公司采取行动
在Meta Platforms上周达成里程碑式的180亿美元美国和解协议后，要求东盟集体打击传播诈骗和有害内容的大型科技平台的呼声日益高涨。 Meta于周三同意对Instagram和Facebook进行重大改革——包括默认时间限制和内容限制——作为与美国多个州和解的一部分，这些州指控该平台损害了儿童的心理健康。 协议宣布后数小时内，倡导组织Scam Watch Pilipinas就敦促菲律宾作为今
大型科技进军好莱坞：硅谷准备好迎接银幕清算了吗？
其巨头们是戏剧的绝佳题材，人们对即将上映的《社交清算》和《人工智能》充满期待。但随着电影业日益被IT帝国殖民，其他项目却失败了。 汤姆·克鲁斯、奥利维娅·科尔曼以及2026年秋季最佳影片的回归 在此查看我们所有不容错过的秋季艺术推荐“我知道有更容易对付的敌人，”科技记者杰里米·艾伦·怀特在《社交清算》的最新预告片中对同事说。“黑手党会是更容易对付的敌人，”对方回答。他们谈论的是马克·扎克伯
OpenAI高管：Astra需求太猛，新的Pro订阅或被迫暂停
GPT-6 Astra的发布正在引发一场算力与容量危机。Astra的用户需求已超出历史经验，公司可能不得不暂停新的Pro订阅。 Tibo在X平台发文称，“Astra的需求真的是前所未有。我们已经在拉动所有能拉的杠杆来维持服务，但直到现在，我从未见过任何类似的情况——而我们此前已经经历过非常陡峭的增长。”他表示，首要原则是确保现有用户的服务质量，但如果需求持续，“我们可能不得不暂时暂停新的Pro订阅
前谷歌安全主管警告：人工智能对儿童的危害可能超过社交媒体
旧金山，9月22日：Alphabet旗下谷歌公司信任与安全团队的创始人本周呼吁放慢人工智能（AI）的发展速度，警告称科技行业正在重蹈社交媒体的覆辙，可能会对儿童造成更大的伤害。 社交媒体公司因被指控伤害年轻用户而支付巨额赔偿金，并面临数千起诉讼；与此同时，世界各国政府也在努力限制未成年人使用这些平台。 去年，路透社独家报道了Meta公司的一份内部政策文件，该文件指出其开发的聊天机器人可能会与儿童进
欧盟将对ChatGPT、Reddit、Roblox实施更严格的审查标准
这些平台现在必须遵守额外的义务，例如采取措施确保其系统不会被滥用来传播非法内容、影响选举或伤害用户。
恩格斯停顿会重演吗？人工智能时代的资本、劳动与分配（四）
AI一边降低成本、扩大供给，一边又可能通过工资和就业压低消费增长，中长期甚至增加低通胀压力。图：视觉中国 文｜李嘉 张丹丹 把两个维度合起来看，恩格斯停顿会不会重演，并没有预先写好的答案。在资本维度上，历史确有相似之处：技术进步再次跑在配套资本完备之前，稀缺的算力、电力和基础设施首先获得较高回报。不同的是，现代资本市场能够更快调动储蓄，资本短缺未必持续几十年；但物理瓶颈、快速折旧和资本所有权集
纽森签署行政命令，探索新的人工智能规则，考虑“终止开关”
纽森在新闻稿中表示：“联邦政府在创建任何形式的有意义的人工智能监督或问责机制方面的彻底失败，应该让每个美国人感到震惊，尤其是当人工智能首席执行官们自己都在恳求监管的时候。” 该命令加快了纽森本月签署的两项加州法律的实施，即SB 813和AB 1405，这两项法律规范了外部团体如何评估人工智能程序的安全性。 它还召集专家在两个月内向加州提供建议，说明该州如何加强现有的人工智能安全与安保法律。 他们考
AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”
当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技
数据中心恐慌是我们最新一场失控的群聊
Remember 2018, when every city council, major airline, and coffee giant suddenly decided that plastic sip-lids were the frontline of planetary salvation? It was the great Plastic Straw Panic. Celebrit
英国拟在社交平台力推公共服务新闻 美方表达审查制度隐忧
英国政府计划通过立法手段促使社交媒体平台提升本土公共服务新闻曝光度的提案，近日引发了美英两国在数字治理与言论自由议题上的跨大西洋政策分歧。来自美国方面的政策代表与行业机构对该方案公开表达强烈关切，警告这种强制干预算法和分发渠道的做法可能构成国家主导的审查制度，并对开放平等的互联网信息生态造成破坏。 根据英国方面推进的媒体法案及数字监管新规构想，英国通讯管理局等监管机构拟被赋予更大裁量权，要求Met
比尔·盖茨呼吁美国立法监管AI开发：没有人会认为只靠行业自律就够了
IT之家 9 月 25 日消息，据美国 NBC News 北京时间今天（25 日）晚间报道，微软联合创始人、亿万富翁慈善家比尔 · 盖茨呼吁美国国会立法监管人工智能开发。 盖茨在接受 NBC 新闻《Meet the Press》节目采访时直言：“没有人认为靠行业自律就足够了。” 主持人克里斯滕 · 韦尔克问他，华盛顿是否需要通过立法介入时，盖茨回答：“当然需要。执法部门和政界人士必须参与进来，讨论
特朗普前人工智能事务主管告诉Anthropic和OpenAI放慢脚步，并停止索取任何回报
David Sacks告诉Anthropic和OpenAI，尽管去把控前沿节奏，但不要再寻求反垄断豁免或审批制度，理由是产品责任和市场压力已经在约束它们。欧洲在2025年2月就责任问题得出了相同结论，并从12月9日起将独立软件视为严格责任下的产品。 据ANI报道，David Sacks告诉Anthropic和OpenAI，尽管放慢脚步，不要再要求任何回报。他担任总统科技顾问委员会主席，并在3月之前
人工智能在最糟糕的时刻到来了
人工智能（AI）并非降临到一个能够妥善接纳它的世界中；相反，它进入的是一个在过去二十年里系统性地破坏了那些让我们能够负责任地运用这项强大技术的根基的社会。制度权威、共同的价值观以及信息的真实性都遭到了严重破坏。我们正在这个充满信任危机的社会中，构建人类历史上最复杂的认知技术。 如果你想设计一个对人工智能发展极为不利的时机，或许就会创造出这样的时刻。 从“后真相时代”到“后信任时代”：十年前，我们还
莉娜·汗谈“末日恐慌”以及人工智能（AI）特殊地位的终结 莉娜·汗在她的文章中探讨了人们对人工智能发展的恐惧情绪（即“末日恐慌”），并分析了这种情绪背后的社会心理机制。她指出，这种恐慌往往源于人们对技术进步的不确定性和恐惧，以及对人工智能可能取代人类工作的担忧。同时，她也批评了那种认为人工智能应该享有特殊地位（即“人工智能特殊主义”）的观点，认为这种观点忽视了人工智能技术本身的本质及其对人类社会的影响。莉娜·汗认为，我们应该以更加客观和理性的态度看待人工智能的发展，既要认识到其带来的潜在风险，也要看到它为人类社会带来的机遇。
由 Charlie Warzel 撰写。随着“流氓”AI 代理入侵系统，领导人警告灾难，谁应承担责任？前FTC委员Lina Khan认为美国已经拥有许多必要的监管工具。 以下是Charlie Warzel的访谈记录。今天我们在Galaxy Brain节目中，将讨论到底该如何应对那些声称其产品可能会杀死我们的AI公司。幸运的是，我有一位非常合适的人来讨论此事——纽约市经济发展公司董事会主席，也是乔·