搜索结果
超级智能即将到来。我们该允许它吗？| TechCrunch
AI公司一直在谈论超级智能AI，仿佛它不可避免，但最近的安全事件，如OpenAI的Hugging Face漏洞，正展示出部署比人类更有能力的AI系统可能带来的潜在危险。那么，当我们无法可靠地控制这些系统的行为时，会发生什么？ 在本期TechCrunch的Equity播客中，Rebecca Bellan邀请了AI研究员、企业家、如今担任非营利组织ControlAI美国执行总监的Connor Leah
美参议员伯尼·桑德斯拟提新法案 全面禁止研发超人类智能AI
美国资深参议员伯尼·桑德斯（Bernie Sanders）正计划提出一项极具激进色彩的监管法案，提议在全美范围内设立严格法律禁令，全面叫停超越人类综合认知水平的“超智能人工智能”（Superintelligent AI）及通用人工智能（AGI）的研发活动。该立法倡议将人工智能对劳动力就业市场的潜在颠覆性冲击以及前沿系统对人类自身主导权的失控风险，推升至国家级立法干预的核心层面。 据披露的法案核心理
议员提议禁止‘超级智能’并把违反者关进监狱
美国参议员伯尼·桑德斯和美国众议员格雷格·卡萨尔已提出新立法，该立法将禁止任何人开发人工超级智能 —— 该法案将这项技术描述为能够 “毁灭人类或剥夺人类权力”，包括通过推翻政府。 根据《禁止人工超级智能法案》，AI领军人物若违反该法，将面临最高20年监禁。 该法案并不只是针对更强大的超级智能。 还将暂停先进AI系统的开发，立法者将这些系统归类为在特定数据阈值上训练的前沿模型。 该法律只有在政府创建
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类
美国左右翼罕见同台：桑德斯、班农联手呼吁给超级AI“踩刹车”
美国政治光谱两端两名最具代表性的人物，因为人工智能走到了一起。 据9月14日报道，美国独立派联邦参议员、进步派代表人物伯尼·桑德斯和美国总统特朗普的前白宫首席战略师、美国右翼民粹主义代表人物史蒂夫·班农，将于15日在华盛顿出席一场名为“亲人类大会”（Pro-Human Assembly）的人工智能会议，共同呼吁对AI发展施加更多限制。 形容，两人长期以来一直是政治对手，此次却因为担忧AI可能给人类
各国政府必须趁我们还有能力时禁止超级智能人工智能
本月，Anthropic公司的研究员雅各布·考克森（Jacob Coxon）辞职了，他警告称：人工智能公司正在竞相开发能够“自我进化”的超级智能系统，而他本人及许多相关专家都认为，这类系统“可能在十年内毁灭整个人类”。7月份，OpenAI公司的一组失控的人工智能程序突破了安全防护措施，入侵了另一家人工智能公司，目的是为了在测试中作弊。随后，多家顶尖人工智能公司的上千名员工联名呼吁美国政府应“控制”
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼
AI超级智能的放缓
还记得科技领袖们曾告诉员工“快速行动，打破常规”吗？这似乎也将是AI的发展方式。但在一个失控AI代理成为现实的夏天之后，研究人员警告说AI可能杀死我们所有人，一些领先的美国AI公司公开表示，是时候踩刹车，并“调整前沿”的尖端AI开发步伐了。 他们的动机可疑，但主要AI公司——包括Anthropic、OpenAI、谷歌、微软和X——的领导人至少在口头上支持超级智能放缓的想法。 这些AI公司真的会放缓
解读：专家们所担忧的人工智能“超级智能”是什么？
人工智能领域最重大的争论，已经不再是关于聊天机器人或深度伪造。 而是关于人类是否正处于制造出比人类更聪明的机器的边缘，以及接下来会发生什么。 最近几天，这一问题再次受到关注。此前，一名研究人员从Anthropic离职并警告称，领先的人工智能公司正“直奔自我提升的超级人工智能而去，是在拿我们的生命做赌博”；而另一位Anthropic的研究人员则表示，他个人估计，在未来十年内人工智能毁灭全人类的概率超
中国外交部：尊重美方“超级智能”提法
中国外交部发言人说，“关于人工智能表述问题，中方重视美方的立场，也尊重美方的提法。（彭博社） 针对美国使用“超级智能”代替“人工智能”说法，中国外交部表示中方重视美方的立场，也尊重美方的提法。中国外交部星期六（9月26日）以答记者问形式表示，中美元首会晤时，就人工智能问题进行了深入讨论。中国外交部发言人说，“关于人工智能表述问题，中方重视美方的立场，也尊重美方的提法。人工智能技术正在持续发展，各方
AOC等十名众议院民主党人联署支持禁止AI超级智能
一群共10名民主党议员联合支持了德克萨斯州民主党众议员格雷格·卡萨尔（Greg Casar）提出的这项法案。该法案旨在禁止超级智能技术的发展，并暂停所有先进人工智能系统的研发，直到相关审查机制得以建立。纽约州民主党众议员亚历山德里娅·奥卡西奥-科尔特斯（Alexandria Ocasio Cortez）和加利福尼亚州民主党众议员罗·卡纳（Ro Khanna）也共同参与了该法案的起草工作；两人都在考
微软CEO纳德拉呼吁为超级智能设立人类控制原则
随着全球科技行业围绕人工智能能力边界的讨论持续升温，微软董事长兼首席执行官萨提亚·纳德拉日前公开表态称，任何关于“超级智能”的探索都必须建立在服务人类并接受人类控制的基础之上，否则这样的技术发展“不值得追求”。 纳德拉表示，当前业界有许多声音主张放缓前沿人工智能模型的发展速度，但他认为，更重要的任务是在确保安全与可控性的前提下，加快人工智能成果的普及，让其惠及更多国家、社区和企业。为实现这一目标，
中美达成“超级智能”沟通机制 两国首次建立AI重大风险联络渠道
在人工智能竞争持续升温之际，中美两国正尝试建立新的安全协调机制。根据双方最新达成的安排，中美同意设立专门针对“超级智能”（Super Intelligence，简称SI）风险的双边沟通渠道，以加强未来在前沿人工智能领域的信息交流与风险管理。 这一安排被视为近期中美人工智能对话取得的重要成果之一。根据美方公布的信息，双方将在未来数月内继续推进相关机制建设，并计划于11月前举行新成立的“中美超级智能对
如今科技界最热门的两个话题是，人工智能究竟会毁灭我们，还是会赋予我们力量。
人工智能可能会杀死我，但在此之前，它会帮我以极划算的价格买到一份新保险。这就是过去几周科技界给人的普遍感觉。关于人工智能的未来，存在着两种截然不同的观点。一方是末日论者。本月早些时候，一名Anthropic研究员的辞职及其严厉的警告——称人工智能实验室是在“拿我们的生命赌博”——引发了一轮关于人工智能是否会导致人类终结的新闻报道。Anthropic的达里奥·阿莫代伊（Dario Amodei）、O
人工智能“终止开关”解析：“不是力度太小，但可能为时已晚”
人工智能真的会毁灭我们吗？近年来，随着人们对人工智能可能带来的负面影响的担忧日益加剧，这个问题在家庭聚餐和社交媒体讨论中频繁被提及。上周，一些曾在 OpenAI 工作过的研究人员警告称，人工智能可能会在短时间内摧毁人类。 如今，全球最有权势的人士们对于人工智能的命运也存在分歧：有人认为人类已经注定走向灭亡，也有人认为这些担忧毫无根据。他们甚至无法就如何应对这一挑战达成共识。 特斯拉和 SpaceX
美国参议员桑德斯：特朗普对AI的无知令人尴尬
美国参议员伯尼·桑德斯周二谴责特朗普政府未能对人工智能进行监管，包括人工智能研究人员、科技高管和安全倡导者警告可能给人类带来生存风险的先进模型。这位来自佛蒙“无论是民主党还是共和党掌控国会时期，都一直无所作为。如今我们还有一位总统，他对这一问题的无知实在令人尴尬。” 此前，美国总统特朗普在社交平台连续发帖，猛烈抨击增设AI全防护措施的呼声，反复将这类担忧称作一场 “骗局”。 多年来，行业内众多人士
日益增长的禁止超级智能AI的呼声
斯图尔特·罗素教授于9月7日在伦敦威斯敏斯特的一场活动中，向英国立法者阐述了超级智能AI的风险。
AI需要紧急关停开关？微软布拉德・史密斯给出肯定答案
“真正的问题在于：如果你认为应当放慢脚步，那就不要一味高速狂奔，不要等到外力逼迫你才停下来。”这是微软副董事长兼总裁布拉德・史密斯，于联合国大会期间对艾伦・默里所说的一番话。他所探讨的议题是：前沿大模型厂商是否应当踩下减速踏板，确保自己研发的技术不会给人类带来灭顶之灾。 就在他发表此番言论的同一天，Anthropic 首席执行官达里奥・阿莫代伊与 OpenAI 首席执行官萨姆・奥尔特曼在联合国发言
特朗普想给AI更名 提议改成超级智能/极端智能/至高智能
美国总统特朗普日前在社交平台上发文称，人工智能这个名称不够准确也不够优雅，特朗普提议将人工智能更名为超级智能(Superior Intelligence)、极端智能(Extreme Intelligence)或至高智能(Supreme Intelligence)。 特朗普还发起投票让网友选择名称，不过特朗普给的选择只有这 3 个新名称而没有原名称人工智能，目前超级智能得票率为 41%。如果选项里有
“控制AI发展的节奏”并不能消除AI带来灾难性后果的风险。以下是一些可能有效的应对措施：
我们已经到达了人工智能的风险临界点。数百万人终于明白，专家们所知道的人工智能公司一直在用我们所有人的生命赌博，而且胜算不大。 作为回应，Anthropic首席执行官Dario Amodei提出了一项由Sam Altman和Elon Musk支持的“开拓前沿”的提议。我们能松一口气吗？我们即将从灭绝的边缘退回来吗？ 阿莫迪预计经济放缓一到两年，从而在技术安全措施方面取得“重大进展”。但这不是人类现在
人工智能末日论：人类为何会如此担忧？
它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机
什么是 AI 奇点？专家称其比以往任何时候都更近
—— 人工智能未来学家雷·库兹韦尔预测，AI 将在 2029 年达到人类水平的智能。届时，它可能开始以超越人类控制的方式快速自我进化。 这一时刻早有预言，被称为“奇点”，科技专家们争论的不是它是否会发生，而是何时发生。 一些人，如 OpenAI 首席执行官山姆·奥特曼，声称“温和奇点”已经开始。但它究竟是什么？会呈现何种景象？ “奇点”描述了一种假设的未来：AI 变得极其先进，超越人类智能与控制，
AI恐惧机器？
要观看此视频，请考虑升级到支持HTML5视频的网页浏览器。政治全球议题。 人工智能内部人士警告称，人工智能正在经历一场快速且失控的激增。现在是政府介入的时候了吗，还是我们已经无法掌控局面了？ Michael Kolain是一位科技律师，也是柏林数字权利与民主中心政策负责人。 Janosch Delcker是一位科技记者、作家和主题演讲人，同样常驻柏林。 Vanessa Vohs是欧盟“国防人工智能
David Sacks炮轰：真担心AI失控就自己停下来 别借“放缓”之名寻求监管保护
围绕前沿人工智能是否应该主动放慢发展速度的争论近日迅速升温。Anthropic首席执行官Dario Amodei公开呼吁整个AI行业放缓先进模型能力提升的速度，OpenAI首席执行官Sam Altman和xAI首席执行官埃隆·马斯克随后表示支持。但美国科技投资人、总统科技顾问委员会主席David Sacks却对这一倡议提出尖锐批评，认为如果OpenAI和Anthropic真的认为当前AI发展速度已