搜索结果
金钱与安全的冲突如何酿成AI的巨大危机
AI公司原本以为还有数年时间，来想清楚如果机器人失控该怎么办。警钟在今年夏天敲响。 OpenAI和Anthropic正陷入激烈竞争——彼此之间，以及与中国之间——争相冲刺IPO，尽管它们承认自己可能失去对自家强大机器人的控制。
'有选择是好事'：澳大利亚人谈退出社交媒体算法
澳大利亚将强制社交媒体公司允许用户轻松选择是否接收算法推荐的内容。 BBC在悉尼采访了民众，了解他们对社交媒体算法以及澳大利亚政府计划立法的看法。
为何十年来的末日警告未能减缓人工智能竞赛
研究人员辞职并宣布人类即将在上周灭绝，而在此之前，科技领袖和科学家们对超级智能人工智能终结人类的警告已经持续了十多年之久。 2014年，教授兼天体物理学家斯蒂芬·霍金警告称，人工智能的发展“可能会意味着人类的终结”——这距离公众接触到最初版本ChatGPT的生成式人工智能功能还不到十年。 这是一个如今人们已经耳熟能详的警告，美国各大前沿实验室的无数员工和首席执行官们在整个人工智能和科技行业中都在重
特朗普想给AI更名 提议改成超级智能/极端智能/至高智能
美国总统特朗普日前在社交平台上发文称，人工智能这个名称不够准确也不够优雅，特朗普提议将人工智能更名为超级智能(Superior Intelligence)、极端智能(Extreme Intelligence)或至高智能(Supreme Intelligence)。 特朗普还发起投票让网友选择名称，不过特朗普给的选择只有这 3 个新名称而没有原名称人工智能，目前超级智能得票率为 41%。如果选项里有
幕后：AI创造者竞相理解自己的创造物
在工业和发明的历史上，从未有领先公司设立整个部门来理解和解读自己所创造并释放的东西。 重要性：世界上最聪明的头脑，在人类历史上最大规模投资的支撑下，承认他们无法完全控制自己的人工智能，因为他们并不完全理解它。 他们不知道它究竟如何思考——也不知道当它被放开与其他AI代理自主协作时，真正能做什么。 在OpenAI于周四发布GPT-6 Astra之后，理解这些模型的竞赛变得更加紧迫。Astra被称为“
倘若AI毁灭人类，是文明的终结，还是人性的反噬
倘若AI毁灭人类，是文明的终结，还是人性的反噬 徐贲：毁灭人类的力量，不是从外部降临，而是从人类幽暗深处生长出来的。如文明失败，人性恶失控，从文明的角度看是终结，从道德的角度看是因果。 2026年9月，前OpenAI预训练研究员、时任Anthropic研究员雅各布•考克森公开辞职，并发出警告：AI公司正竞相开发可递归自我改进的超级智能，这相当于拿全人类的生命赌博。他的震撼之处不仅在于内部人身份
人工智能正在超越其创造者
从一开始，人工智能开发者最大的恐惧就是他们的创造物会失控，以未经授权且危险的方式行动。一些研究人员现在表示，这种情况已经发生。收听《每日新闻》。 当OpenAI的智能体在7月失控时，它们展现出的聪明才智和驱动力超出了许多专家的想象。
是“杀手机器人”还是“超级智能”？在联合国，领导人看到了两者
塞思·博伦斯坦 联合国——这是杀人机器人对抗超级智能。在联合国，世界领导人讨论人工智能的威胁——或前景——时，漫画书中描绘的未来景象正在上演。 在涉及科学和未来的一个紧迫问题上，唐纳德·特朗普再次与联合国秘书长及其他领导人针锋相对，这与围绕气候变化威胁的持续争端如出一辙。 联合国秘书长古特雷斯手持一份新的联合国科学报告，该报告警告称，存在轻微但真实的灾难性和不可逆转危害的可能性。他在联大一般性辩论
硅谷如何学会爱上杀人机器人
许多构建了我们这个世界的科技亿万富翁，从他们最喜爱的科幻小说中汲取了错误的教训。 年轻时，这些未来的亿万富翁们花了很多小时（我想象中，是躲在被窝里用手电筒照着）阅读关于杀人机器人或火星殖民地的故事。他们似乎没有领会到——也许根本无法领会——这些是警示故事，是将深层的社会忧虑投射到太空或数千年后的未来。这些男孩只是觉得杀人机器人听起来很酷。他们长大后成了冷酷无情的企业家，但那种表面的迷恋一直伴随着他
美国还是中国将崛起为人工智能超级大国？
美国和中国正在竞相打造世界领先的人工智能。
改变人工智能进程的十天
旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已
蒂姆·库克的历史地位取决于苹果的AI押注
无论好坏，蒂姆·库克的历史地位很可能取决于一个我们尚不清楚答案的问题：苹果将AI战略部分押注在其他公司的模型上。 原因何在：短期内，与自建并运营前沿模型业务相比，此举可节省大量资金，但也使苹果在部分最重要的AI能力上依赖谷歌。 推动因素：随着约翰·特努斯今天正式接任苹果CEO，对库克任期的分析大多聚焦于他的业绩。积极方面，他将年收入增至原来的四倍以上，并以更高的幅度将苹果市值推高至超过4万亿美元。
当政客们还在追赶，科技大佬们却一致认为：我们可能只剩十年时间了 | 约翰·克雷斯
人工智能大概认为，一个能选出特朗普当总统的世界已经糟透了，不值得再拯救了。我们可以高枕无忧了。唐纳德·特朗普在他的Truth Social账户上发文称，对人工智能的担忧都是阴谋论者编造的骗局。这显然也包括了Anthropic及其竞争对手的最高领导者，他们都呼吁在全球范围内协调放缓人工智能发展，以便行业能够找出如何规避风险的方法。不过，很高兴知道这些科技巨头骨子里不过是些幻想家和太空漫游者。 唐纳德
解放与撕裂：AI的两幅面孔——从我的AI音乐制作说起
我跟AI的关系，实质上是发动机与双翼的关系。AI如双翼，可以最大限度提升人，但它不可能取代发动机；人到底能飞多高，最终仍取决于发动机，即取决于人自己。 我是一个音乐爱好者。我常常想，如果我不是出身于极度贫困的乡村，而是出身于大都市，小时候能接受完整的基础教育，尤其是艺术类基础教育，那么高考我可能就不会报考中文系或历史系，而会毫不犹豫地直接报考音乐学院作曲系，那么今天我就不会是什么媒体人、历史学者，
美国数据中心的反抗完全是可预见的
那些吹嘘人工智能估值达到数万亿美元的人终于意识到，分享一点财富将是必要的。
泽连斯基称人工智能很快将“决定战场上的胜负”
乌克兰总统泽连斯基周三警告称，人工智能（AI）未来可能会被用于战争，并“决定战场上的命运”。 泽连斯基在纽约联合国大会上发表讲话时表示：“最早在明年，就已经存在一种现实的可能性，即不仅是人类，人工智能也将开始决定战场上发生的事情。我们需要在到达那个节点之前实现和平。” 泽连斯基警告称，一些“人工智能信奉者”声称，“总有一天，人工智能将从数字世界走向塑造原子”。 泽连斯基说：“当这种情况发生时，我们
我们是否都注定要灭亡？
很难准确诊断一个想法如何在现代文化中实现逃逸速度，但在过去一周左右的时间里，关于人工智能的长期末日警告终于蔓延开来。突然之间，人们开始问有关人工智能的问题--在华尔街、国会的朋友中--从“我的工作多快？”转变为“我的工作？”到“我们还能活多久？”引发的事件是一位软件工程师给后者添加了一个数字。最近从Claude的制造商Anthropic辞职的雅各布·考克森（Jacob Coxon）上周在X上的一篇
软件工程与 AI 的世界将于今年九月在湾区交汇
过去两年重塑了软件的构建方式。AI 从自动补全发展到编写整个功能，自主代理现在几乎无需人工参与就能构建和交付软件。 全球每个工程组织都在问同样的问题：这对我们如何构建意味着什么？然而其中大部分
人工智能研究革命：为何取得进展可能意味着打破体系
在现代历史的大部分时间里，发现的步伐一直受到人类消化、分析以及利用现有知识的能力的限制。然而，人工智能（AI）正在改变这一状况。无论是在学术界、政府机构还是企业中，研究人员都需要花费大量时间来阅读文献、进行实验、分析数据、发表研究成果，并申请资金支持。只有当这些研究成果被广泛传播后，其他研究人员才能在此基础上继续进行研究，或者从中发现新的研究方向。AI有潜力加速这一过程的每一个环节。像 Claud
我们终止了这次妊娠，这样我们的女儿就永远不会遭受痛苦。一个国家无权替我们做出这样的决定。
这感觉就像医学剧中的陈词滥调。我们挤在超声波室里，看着黑暗中屏幕上移动的婴儿的影子，皱起眉头;在我们身后，技术人员悄悄离开了房间，“只是为了检查一些数字”。等待时间很长;五分钟、十分钟。当她最终带着一位更资深的医生回来时，我们知道出了严重的问题。 几个不眠之夜和泪流满面的日子后，我们得到了诊断结果。我们的女儿患有一种遗传综合症--不是从我们身上遗传的，而是在细胞分裂过程中发生的完全随机的遗传错误-
如何治理人工智能的生存风险
当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。 这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要
在DraftKings，人工智能瞄准最可能输钱的赌徒
在线赌博公司收集了大量用户数据。前DraftKings员工告诉《纽约时报》，他们使用数据科学技术来确定哪些赌徒更可能通过下注来响应促销优惠——并输钱。 数据科学有助于决定谁应该接收下注激励，但该公司拒绝使用类似技术来保护有成瘾风险的赌徒。
别只问AI会不会毁灭人类
“十年之内，AI毁灭全人类的概率超过10%。”这个数字一出，舆论哗然。有人追问它是否科学，有人指责它制造恐慌，也有人据此主张放慢甚至停止AI研发。 其中，一些最了解AI的建造者，一边真诚地承认这项技术可能杀死所有人，一边却没有停下手里的开发。他们并非在说谎，也不是虚伪——现实中有种种力量，使他们无法停下来。 观潮无意纠缠“10%的概率究竟大还是小”。比数字更值得追问的，是人们讨论它时所站的位置。