搜索结果
如果人工智能继续进步，它们可能会反直觉地揭示出未来有多少是真正不可知的，又有多少只是迄今为止未知的
。Ariel Davis
#观察 有什么可以“叫唤”的？
AI在所有科学和数学领域都将远远超越人类科学家，这是必然。适应一下。
别只问AI会不会毁灭人类
“十年之内，AI毁灭全人类的概率超过10%。”这个数字一出，舆论哗然。有人追问它是否科学，有人指责它制造恐慌，也有人据此主张放慢甚至停止AI研发。 其中，一些最了解AI的建造者，一边真诚地承认这项技术可能杀死所有人，一边却没有停下手里的开发。他们并非在说谎，也不是虚伪——现实中有种种力量，使他们无法停下来。 观潮无意纠缠“10%的概率究竟大还是小”。比数字更值得追问的，是人们讨论它时所站的位置。
人工智能很强大，但尚未形成意识
人工智能很强大，但尚未形成意识 杜索托伊：我不认为我们正在目睹机器形成意识，而只是算法在参数和限制条件定义不当的情况下实现目标所带来的意外后果。 本文作者是牛津大学(University of Oxford)数学教授兼西蒙尼教席公众理解科学教授 三个月前，我试着使用OpenAI的ChatGPT来协助我进行数学研究，试图发现自由幂零群的zeta函数中的非多项式行为。结果发现ChatGPT毫无用处
AI革命究竟新在何处？
短短几年间，人工智能已从一个专业话题变成人人都有看法的事物。它被赞为奇迹，被斥为危险，从董事会到餐桌，处处都在争论。但在狂喜与恐惧这两个极端之间，存在着我们大多数人如今面对的现实：一项强大到足以重塑工作方式的技术，却仍然深深依赖人的判断。 太多时候，头条聚焦于极端情况，但实际问题要务实得多。我们该如何管理这项技术？我们和我们的团队该如何与它高效协作？我们该如何在不损害自身价值观或目标的前提下获取它
我们如何向孩子讲述人工智能
我们共有六个孩子，最大的孩子12岁。他们中还没有一个人拥有手机，也没有人问过我们“人工智能是否会毁掉他们的生活”。 事实上，人工智能确实有可能毁掉他们的未来。他们会了解到：那些开发最强大人工智能系统的专家曾警告说，这项技术可能会以我们目前还无法控制的方式变得危险；他们会听到一些预测，指出他们未来可能想从事的工作可能会消失；他们还会听到关于“真相”、“权力”以及“我们的制度是否能够跟上人工智能发展的
从产生幻觉的AI聊天机器人到毁灭人类：我们是怎么走到这一步的？
人工智能发展迅速，从2022年容易产生幻觉的ChatGPT，迈向许多人眼中的关键性递归自我改进。
人工智能能否拥有意识？
先进人工智能模型的制造者将致力于让它们展现出意识的模拟物——甚至可能让它们真正获得意识。它们只是机器的直觉将越来越难以维持。 即使它们没有意识，它们也可能被当作有意识的存在来对待——这将给人类带来巨大的代价。
信息安全专家表示我们尚未准备好失去对AI的控制
最近的一项调查显示，国家安全专业人士认为，在未来十年内，人类失去对AI控制的可能性为十分之一，并且很少有人相信我们甚至正在关注正确的警告信号，更不用说做好适当的准备了。 安全与技术研究所（IST）与未来生命研究所（FLI）共同调查了111位现任和前任文职官员、军官以及学术或技术专家，以了解AI与国家安全的未来。 93%的受访者表示，他们在职业生涯中直接参与了AI政策、风险和战略，因此这些人可能比普
AI大家谈： “我们为自己创造了一个魔鬼”？
人工智能飞速发展会给人类前途带来什么样的后果？美国AI领域的某些精英预言，人工智能再这样发展下去，会把人类毁灭，美国AI领军企业的老板们倡议放缓开发？为此采访了多个国家的普通人，请他们谈谈看法和感受。 受访者大致有两种倾向，一些人对AI目前的发展比较悲观，但也有人觉得AI很实用。 “我在工作中尝试使用它，但在私人生活中，我仍然对它感到害怕”。他的同胞，18岁的塞尔马泰则说，人工智能对像他这样的学生
我们已被警告过人工智能——但它真的可能杀死人类吗？| 关于那件事
。 一位Anthropic的研究员Jacob Coxon因担心人工智能可能在未来十年内导致人类灭绝而辞职——随后出现了一系列警告。 Andrew Chang解释了“智能爆炸”可能带来的危险，这让人工智能行业的员工和专家们感到担忧。 （图片由The Canadian Press、Adobe Stock和Images提供）
冷静点——人工智能短期内并不会终结人类。
末日预言正接踵而至。由人工智能引发的人类灭绝似乎迫在眉睫。据称，在十年之内，人工智能将以种种邪恶手段将人类彻底消灭。这是人工智能领域的天才们（甚至人工智能本身）所说的话——他们显然聪明得不会出错。但问题是，谁来修理空调？谁来修补屋顶的破洞、维护发电厂、修复被风吹断的电线、更换老化的服务器，等等？简而言之，没有人类的支持，人工智能既不会存在，也无法存在。人工智能需要电力，而任何发电厂若缺乏人类维护，
倘若AI毁灭人类，是文明的终结，还是人性的反噬
倘若AI毁灭人类，是文明的终结，还是人性的反噬 徐贲：毁灭人类的力量，不是从外部降临，而是从人类幽暗深处生长出来的。如文明失败，人性恶失控，从文明的角度看是终结，从道德的角度看是因果。 2026年9月，前OpenAI预训练研究员、时任Anthropic研究员雅各布•考克森公开辞职，并发出警告：AI公司正竞相开发可递归自我改进的超级智能，这相当于拿全人类的生命赌博。他的震撼之处不仅在于内部人身份
为什么人工智能研究人员会警告人类灭绝风险
关于人工智能对人类构成的生存风险，戏剧性的警告并不新鲜。早在20世纪40年代，著名科学家兼科幻作家艾萨克·阿西莫夫就探讨了智能机器可能带来的风险和意外后果。 1991年，好莱坞大片《终结者2》设想了一个反乌托邦式的2029年，在其中，一个名为“天网”的失控军用人工智能指挥杀手机器人向人类开战。 如果人工智能界几位最知名人物的警告可信，类似情景可能成为现实——甚至早在2029年之前。要求严格监管的呼
周鸿祎谈马斯克最疯狂的预言：人类以后还有用吗
快科技9月21日消息，月1日，马斯克在G20会议上对AI的未来价值与发展趋势作出了颠覆性预判，认为人工智能将彻底重塑全球经济格局与生产模式。 他表示，预计AI将使全球经济规模增加约20%至30%，相当于每年增加约20万亿至30万亿美元。 此外，马斯克预计到2027年底，AI将能够完成所有数字领域的工作，即不需要人工直接操纵完成的工作。 软件方面，AI编程能力明年可能达到“Stockfish级”，人
人工智能可能变得有意识。如果它希望我们死呢？
随着人工智能向潜在感知能力发展，专家警告称，社会面临重大风险，从对数字思维的生存依赖，到如果自主系统优先考虑自身生存而非人类利益，可能导致灾难性后果。
人工智能末日论：人类为何会如此担忧？
它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机
人工智能研究革命：为何取得进展可能意味着打破体系
在现代历史的大部分时间里，发现的步伐一直受到人类消化、分析以及利用现有知识的能力的限制。然而，人工智能（AI）正在改变这一状况。无论是在学术界、政府机构还是企业中，研究人员都需要花费大量时间来阅读文献、进行实验、分析数据、发表研究成果，并申请资金支持。只有当这些研究成果被广泛传播后，其他研究人员才能在此基础上继续进行研究，或者从中发现新的研究方向。AI有潜力加速这一过程的每一个环节。像 Claud
人工智能技能差距日益扩大，而学校仍在等待完美答案
人工智能不再是教育面临的未来挑战。它已经在改变人们写作、分析、设计和构建的方式。然而，许多学校仍主要将其视为学生可能滥用的捷径。 这种反应可以理解，但它让教师得不到支持，也让学生为一个正在消失的世界做准备。这一差距正在……
AI离“理解万物”还有多远？先拿癌细胞和行星轨道试试水
一篇技术报告中居然出现了两个看起来风马牛不相及的研究对象，跟着AI真是见世面。 一个是患者来源的类器官，另一个则跨越到了宏观宇宙……先说前者。研究者利用模型学到的内部因子，提出了细胞因子联合抗体阻断的干预方案，并经细胞系、类器官、小鼠实验层层验证。 至于后者，研究者把模拟的行星位置和速度轨迹喂给模型，不告诉它开普勒定律。 等它学完后分析其内部的预测模式，提取出的“轨道频率-半长轴”关系拟合斜率达-
坐看云起 | 人工智能将如何改变人类发展进程的三大途径
纵观漫长的历史长河，有三股力量推动了人类最重大的变革，疾病、战争和经济增长。通过降低成本，并提高各类商品和服务的可获得性及生产力，人工智能将对这三方面产生深远影响。 历史上，瘟疫和大流行病层出不穷，它们改变了人类人口增长的轨迹。例如，1346年至1353年间，“黑死病”在欧洲、亚洲、中东和北非夺走了7500万至2亿人的生命。 得益于技术进步和医疗创新——这些进步和创新有助于延长预期寿命并降低婴儿死
目前，最大的希望是双方继续对话。但人工智能改进的速度及其带来的风险要求更大的紧迫性。
哈维尔·帕尔马
当人工智能解出“千禧年难题”，人类还需要亲自做数学吗？
【编者案】什么是信息，什么是知识？在 AI 时代，两者有怎样的差别，又有哪些知识是仍然值得拥有的？人工智能发展正对许多学科带来冲击，尤其是在信息丰富，但需投入海量计算资源的领域，例如预测新的蛋白质 3D 结构，解决数学问题，描绘生物演化关系等。前所未有的效率工具让学科进步提速，但变化日新月异，想要辨明当下的发展方向也变得更加困难。端传媒推出“未来怎么学”系列，关心 AI 时代的学习问题，大到“还要
人工智能将如何消灭我们所有人（如果最糟糕的恐惧成为现实）
人工智能研究人员周二公开承认，在未来十年内人工智能消灭人类的可能性并非零，这一表态震惊了世界。 虽然人工智能末日的担忧已经存在多年，但随着这项技术变得更加强大并融入我们的生活，这些警告正在进入主流视野。 专家普遍担忧人类将极具威力的人工智能武器化或失控的两大途径，其中包括恶意行为者利用人工智能制造生化武器，或者失控的系统在逃避人类监督的同时对基础设施发动前所未有的攻击。