搜索结果
OpenAI 的奥特曼：世界“理应感到恐惧”，但“应该信任”AI 公司
OpenAI首席执行官山姆·阿尔特曼（Sam Altman；奥特曼）认为，尽管公众对人工智能（artificial intelligence, AI；人工智慧）发展的各种风险的担忧日益加剧，但人们应该对他的公司和其他同行公司更有信心，相信它们在 AI 开发上会做正确的选择。 周二（9月15日）在旧金山（San Francisco）举行的一场会议上，“世界应该相信我们会做正确的事，因为那就是正确的事
AI领袖呼吁放缓发展步伐
在一名研究人员发出人工智能可能很快毁灭人类的不祥警告后，越来越多的人工智能领袖呼吁放缓这项技术的发展。Anthropic首席执行官达里奥·阿莫代伊呼吁放缓人工智能能力开发后不久，包括OpenAI首席执行官萨姆·奥尔特曼和xAI首席执行官埃隆·马斯克在内的多位竞争对手也纷纷效仿。此前，27岁的人工智能研究员雅各布·考克森发文称，这些公司的研究人员“相信人工智能可能杀死全人类”，却仍竞相推进超级智能的
AI末日论的背后，巨头们在争什么？
刘远举：现在离AI威胁人类还早，起码待到AI有基本的现实自我维持能力再来谈这个问题，也不会晚。 当地时间9月14日，在美国洛杉矶举行的All-in Summit 峰会上，黄仁勋否定了“人工智能可能终结人类”这一预测，并称其“缺乏科学依据”。他表示，如果AI公司感觉自身研发已失去控制，就应暂停或放缓发展步伐。 正当他在台上时，特朗普来电，黄仁勋打开免提，特朗普说，“机器人不会接管世界。人工智能也不会
Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？
“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」 的确如此，
人工智能实验室希望设立内部审计部门——但或许他们应该先锁好前门
上周末，在他的一名研究人员因担心人工智能可能导致人类灭绝而辞职后，Anthropic首席执行官达里奥·阿莫迪（Dario Amedei）写道，外部组织需要“验证对安全实践和承诺的遵守情况，报告事件，并帮助评估不仅完成的人工智能模型，而且还包括培训管道和流程的一致性。”OpenAI、谷歌和SpaceXAI的高管已经团结起来支持Amedei的计划，该计划已迅速成为新兴人工智能安全推动的核心支柱。 但可
吴恩达批评AI灭绝论：堪比科幻小说，新一波造势或意在影响监管
凤凰网科技讯月18日，据彭博社报道，AI领域的先锋吴恩达表示，顶尖模型开发商研究人员发出的有关AI生存风险的警告属于“科幻小说”，可能不利于确保这项技术为社会带来最大益处。 吴恩达曾参与创办谷歌大脑和教育平台Coursera。他说，在AI热潮的早期，科技行业曾煽动人们对AI潜在灾难性危害的恐惧，显然是为了加大宣传力度并影响监管走向。 “过去两周，我感到相当沮丧，”他在周四接受彭博电视采访时说，“这
Google陷开源代码争议风波 AI移动自动化项目被指未经充分署名采用社区成果
Google近日因一项人工智能移动自动化工具陷入开源社区争议。一家专注于移动设备AI控制技术的创业公司公开指控Google在开发内部项目过程中，大量使用其开源项目代码、提示词设计以及测试案例，却未按照开源许可证要求保留原作者署名信息。 提出指控的是移动自动化公司Minitap。该公司联合创始人兼首席执行官尼古拉斯·德汉德斯霍韦克表示，Google在其名为Artemis的移动自动化项目中，使用了来自
中国的人工智能竞赛如何缩小就业市场，迫使工人从事低薪体力劳动
四年来，北京的张克莱尔（Clare Zhang）在一家企业咨询公司担任研究分析师，帮助公司评估计划上市项目的技术和竞争对手——直到去年年底，她被告知人工智能减少了公司需要且能够负担的分析师数量。 她的工作包括梳理公司文件和公开记录，撰写有时长达500页的市场和竞争对手研究报告。但人工智能能够以更短的时间收集和组织信息、分析数据并生成图表。 张女士表示，公司人力资源部门在解雇她时明确提到了人工智能，
美国参议员桑德斯：特朗普对AI的无知令人尴尬
美国参议员伯尼·桑德斯周二谴责特朗普政府未能对人工智能进行监管，包括人工智能研究人员、科技高管和安全倡导者警告可能给人类带来生存风险的先进模型。这位来自佛蒙“无论是民主党还是共和党掌控国会时期，都一直无所作为。如今我们还有一位总统，他对这一问题的无知实在令人尴尬。” 此前，美国总统特朗普在社交平台连续发帖，猛烈抨击增设AI全防护措施的呼声，反复将这类担忧称作一场 “骗局”。 多年来，行业内众多人士
英伟达首席执行官黄仁勋驳斥AI末日论
英伟达首席执行官黄仁勋称赞一位前Anthropic研究员就人工智能安全问题公开发声，并表示人工智能构成生存威胁的说法是不科学的。人工智能安全问题引发了硅谷的激烈争论，尤其是在前Anthropic研究员雅各布·考克斯（Jacob Coxon）上周宣布辞职并发布推文称，开发人工智能的人“认为它可能在本十年末杀死我们所有人”之后。 黄仁勋周一在洛杉矶举行的All-In峰会上就此发表看法，称人工智能安全“
为何十年来的末日警告未能减缓人工智能竞赛
研究人员辞职并宣布人类即将在上周灭绝，而在此之前，科技领袖和科学家们对超级智能人工智能终结人类的警告已经持续了十多年之久。 2014年，教授兼天体物理学家斯蒂芬·霍金警告称，人工智能的发展“可能会意味着人类的终结”——这距离公众接触到最初版本ChatGPT的生成式人工智能功能还不到十年。 这是一个如今人们已经耳熟能详的警告，美国各大前沿实验室的无数员工和首席执行官们在整个人工智能和科技行业中都在重
DeepMind联合创始人警告：AI能力不能跑在安全前面
据英国《金融时报》报道，谷歌DeepMind联合创始人、首席AGI科学家谢恩·莱格近日警告，人工智能能力正在快速提升，但AI能力的发展绝不能超过安全保障水平。他同时反驳了OpenAI总裁格雷格·布罗克曼和英伟达CEO黄仁勋有关“AGI已经到来”的判断。 莱格表示，目前AI能力的发展速度“非常、非常快”，行业不能允许能力进步领先于安全措施。对于Anthropic CEO达里奥·阿莫代伊近期提出的建议
Anthropic、OpenAI、SpaceXAI 和 Google 因呼吁“加快”人工智能（AI）的发展而遭到起诉。
该诉讼指控，关于需要“控制人工智能前沿发展节奏”的言论，构成了竞争对手之间的非法协调行为。 加利福尼亚州萨克拉门托——根据周五向联邦法院提起的一项民事诉讼，人工智能巨头Anthropic、OpenAI、SpaceXAI和谷歌正面临串通指控。此前，业界曾呼吁协调放缓人工智能的发展。 诉状称，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）本月早些时候公开呼吁进行“全行业协调”，
马斯克：我早已为人工智能风险多次敲响警钟
人们早就见惯埃隆・马斯克放出论断，而这一次，自己一直都是对的。这位太空探索技术公司（SpaceX）与特斯拉的首席执行官，对 Anthropic 公司 CEO 达里奥・阿莫代伊发布的长文表示赞同。 具备递归自我迭代能力的人工智能，会快到超出人类理解与管控的范围；即便要研发这类技术，也必须万分谨慎。 为防范未来风险，前沿 AI 企业应当在内部派驻第三方评估人员，用来检测 AI 模型，监督实验室落实安全
特朗普科技顾问称人工智能安全担忧是“套路” 不需要新的监管法规
美国总统唐纳德·特朗普的外部科技顾问大卫·萨克斯周三表示，公众对人工智能的担忧主要源于宣称活动和媒体报道，这与特朗普本周早些时候淡化新的人工智能监管呼声的言论相呼应。 “我们已经反复看到这种套路，这种煽动恐慌的套路，”萨克斯谈到人们对人工智能对美国社会影响的担忧时说道。 关于人工智能可能带来的潜在危险，公众的警觉正在不断上升。上周，Anthropic公司研究员雅各布·考克森表示，他已辞职，部分原因
比尔盖兹：AI就业冲击 全球恐经历20年动荡转型
（纽约15日综合电）“人工智能（AI）和机器人最终或许能够创造足够富足的社会，让人们缩短每周工作时间甚至提前退休，不过在此之前，全球可能要经历一段长达约20年的动荡转型期”，以上是微软创办人比尔盖兹接受上海《澎湃新闻》访问时所说的一番话，“我在与各国领导人交流时，请从现在就开始认真思考这个问题，因为你们可能低估了它。” 盖兹基金会今天发布第9年度《目标守卫者报告》，AI究竟会缩小医疗、教育和经济机
科技巨头无法解决其弗兰肯斯坦问题
微软联合创始人、亿万富翁比尔·盖茨于8月26日发表了一篇6000字的文章，称如果他能做到，他会放慢人工智能的发展速度。他在接受《纽约时报》采访时详细阐述道：“私下里，那些了解这东西有多好、以及它正在变得多好的人，都非常担心”，但很少有人公开提出这些问题，因为他们“现在互相说‘嘿，伙计，别这么说。这对我们不利——我们正试图筹集下一万亿美元。’” 他对指望行业自我管理的想法嗤之以鼻，称“对有史以来最危
人工智能究竟如何可能致我们于死地？
当数学家兼软件工程师雅各布·科克森（Jacob Coxon）上周辞去他在Anthropic的研究职位时，他警告说：“构建人工智能的人们真诚地相信，到本十年末，它可能会让我们所有人丧命。”如果这不是事实，这本来会是一句惊人的言论。事实上，人工智能领域的领导者们长期以来一直在说同样的话。 2018年，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei，当时是OpenAI的研究科学家）
安保罢工 美科技巨头办公室可能被迫关闭
为Anthropic、谷歌、OpenAI等科技公司加州办公室提供安保服务的工作人员，计划于本周举行罢工，部分科技公司可能因此关闭办公室，要求员工居家办公。 当地时间周二上午，安保人员向相关公司提交了72小时罢工通知，计划从周五凌晨4时30分起，拒绝参加此后开始的工作班次。美国服务业雇员国际工会西部联合分会称，可能参与罢工的安保人员负责守卫亚马逊、微软、Salesforce、OpenAI、Anthr
前研究员批评Anthropic：挑起竞赛 逼得OpenAI砍副业
据《商业内幕》报道，前Anthropic研究员雅各布·考克森(Jacob Coxon)周二在X平台上的一场问答活动中，详细阐述了他与这家AI巨头之间的分歧。考克森此前因其离职警告走红，他认为AI未来可能毁灭人类。 考克森表示，Anthropic领导层使用“结果主义哲学”来解释为何必须参与推动AI研究前沿，这是错误的。“如果这场竞赛不可避免，你就不应该参与其中。”考克森写道。 考克森特别点名批评了A
Amodei写道，协调进度需要反垄断豁免。Altman表示OpenAI不会等待豁免。这两条言论现已成为诉讼的一部分。
四名消费者于9月18日在加州北区联邦法院提起集体诉讼，被告包括Anthropic、OpenAI、SpaceXAI和谷歌。 《布伊斯诉Anthropic PBC案》指控这四家公司达成横向协议，以减缓彼此竞争产品的改进速度，此举违反了《谢尔曼法》第一条。 豁免程序是该案的核心。阿莫迪（Amodei）的文章称，政府调解将有所帮助，且某些安全对话需要狭义的豁免。而诉状中的回应是：不存在此类豁免，国会未颁布
我们已经开始失去对人工智能的控制。是时候将其关闭了 | 加里森·洛夫利 (Garrison Lovely)
听起来像是科幻剧集中关于人工智能毁灭的、过于夸张的倒数第二集，如今却成为了我们的现实。 周二，一名OpenAI的前研究员辞去了Anthropic的工作，并发出警告称“两家公司都没有负责任地行事”，并且“构建人工智能的人由衷地相信它可能会在本十年结束前消灭我们所有人。这不是营销噱头。” 作为一名多年来报道人工智能风险的人，这对我来说并不算什么新鲜事。 但外界如潮水般的惊恐表明，更广泛的公众正在第一次
Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对
【财新网】AI安全焦虑发酵，美国科技界和政界多方发声。月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代发布阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。” 另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件
特朗普拒绝接受AI可能导致人类灭绝的警告
唐纳德·特朗普总统对人工智能研究人员的警告不以为然，他们称这项技术正变得过于难以控制，并可能杀死全人类。特朗普表示，他最关心的是保持对中国的优势。 周四离开达拉斯时，记者问特朗普是否担心人工智能会导致人类灭绝，他说：“不，我不担心。” “我担心的是，如果我们不能在人工智能上获胜，我们就会陷入非常糟糕的境地，”总统说。“我们目前领先中国相当一段时间。我会说一年，你知道，这被认为很多了。” 本周，一名