搜索结果
特朗普称AI唯一需要的“护栏”就是一位聪明的总统，这位总统正是在下
人工智能唯一需要的管控或“护栏”就是一位强大且睿智（高智商！）的总统，而美国恰恰拥有这样一位总统，而且实力超群！ 特朗普政府已经阻止了那些搞人工智能的“人”——比如现在装成“完美小天使”的达里奥（Anthropic公司的！）——去做坏事或可能带来危害的事，而且我们将继续这样做！我们已经掌握了针对这些公司的巨大刑事执法权和监管权！ 针对人工智能和数据中心，正上演着一场病态的阴谋，而唯一为此感到高兴的
我们需要治愈AI健康炒作
“我认为实际上有可能在5-10年内治愈大多数人类疾病，尽管这对普通人甚至生物学家来说听起来可能很疯狂（我曾经就是一名生物学家！）。”这是Anthropic联合创始人Dario Amodei最近在X上发布的帖子。 说实话，这在AI领导者中并不罕见。去年，Google DeepMind联合创始人Demis Hassabis宣称，“我们可以借助AI治愈所有疾病……也许在接下来的十年左右，我不明白为什么不
Jeffrey Sachs：特朗普面对AI危机就如盲人引路
美国总统所展现的，是一种将我们所有人置于严重危险之中的根本性无能。 周日，美国总统站在爱尔兰克莱尔郡的一座高尔夫球场上，被问及他打算如何应对我们这一代人所面临的最严峻科技警讯。美国正在击败中国。「我们在人工智能（AI）领域领先中国。我们是世界上最先进的国家，坦白说，我希望维持这种局面，因为谁掌握了AI，谁就赢了。」「有许多不该炒作这件事的负面势力在炒作，而且他们炒作的都是根本不会发生的事情。」 试
阿尔特曼称AI的快速进展可能走向“非常糟糕”
OpenAI首席执行官萨姆·阿尔特曼表示，AI公司不应等到政府就该技术立法后才实施自身的安全控制。
人工智能圈的人似乎并不理解智能
作者：高塔姆·穆昆达。就在OpenAI宣称其模型擅长小学数学仅仅三年后，该公司宣布它们在88小时内解决了纳维-斯托克斯千年奖问题，而这个问题自20世纪30年代以来一直困扰着人类最伟大的数学头脑。将这一趋势向前推演，你就能理解为什么OpenAI首席执行官萨姆·奥尔特曼认为人工智能将治愈所有疾病——以及为什么人们担心失控的人工智能可能伤害人类。 圣塔菲研究所的科学家梅拉妮·米切尔和戴维·克拉考尔将人工
联合国秘书长呼吁全球合作为人工智能设立护栏
（联合国17日新华电）联合国秘书长古特雷斯周三（16日）呼吁全球协同行动，为人工智能（AI）设立护栏。 在今年联合国大会高级别周开始前举行的记者招待会上，古特雷斯说，人工智能具有巨大潜力，但近来越来越多的人工智能开发者警告，其开发速度超出人类对风险的认知。有的开发者呼吁暂停开发人工智能，有的呼吁设立护栏。各国不能无视这些担忧。 古特雷斯说，各国政府首先必须负起责任。由于人工智能发展及其所带来的风险
评论：一些Anthropic工程师认为AI可能终结人类。为何还要争先恐后？
帕米·奥尔森在《观点》栏目中写道，Anthropic成立时的定位比OpenAI更注重安全，但它一边紧抱这一使命宣言，一边却在构建越来越强大的智能体。
OpenAI与Anthropic及Google就AI安全商合作 奥特曼认有理由恐惧
美国近日掀起一阵有关如何规管人工智能（AI）发展速度的讨论。OpenAI表示，正与其他AI企业，包括Anthropic和谷歌（Google）进行磋商，探讨如何携手解决安全问题。OpenAI行政总裁奥特曼（Sam Altman）则承认，外界对AI的忧虑是有道理的，因为这些工具的能力发展迅速。 Open AI的发言人9月15日（周二）向美媒CNBC表示，自从GoogleDeepMind的董事长哈萨比斯
我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。
主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们
关于AI末日的争论越来越离谱了。AI是一种产品，不是神。
人工智能要么治愈癌症，要么毁灭人类。这正是近日业界爆发的一场充满恐慌情绪的辩论中那种两极分化的核心论点。而事实很可能远比这平淡，风险也比一些领先AI实验室的研究人员想让你相信的更可控。这是来自一群罕见的跨党派科技专家、行业领袖和政策制定者的观点，他们公开反对极端的AI末日预测。他们强调，AI主要是一种技术产品，而非有感知的生命或神明。 所以，放轻松。凭借我们已有的资源和结构，世界完全能够应对AI。
“世界有理由感到恐惧”：萨姆·奥尔特曼谈人工智能在Dreamforce大会上的影响力
OpenAI首席执行官萨姆·奥特曼表示，公众担心少数人工智能公司可能获得过多权力，这种担忧是合理的。他周二在旧金山举行的Salesforce Dreamforce大会上发表了讲话。Salesforce已在YouTube上发布了由其首席执行官马克·贝尼奥夫主持的这段对话。 奥特曼描述了一种真实的恐惧，即某些人工智能公司“可能获得过多权力，从而对经济施加不当影响，并向人们强加某种世界观”。他说：“我认
改变人工智能进程的十天
旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已
特朗普称不会限制AI发展 并将成立“AI特别工作组”
美国总统特朗普当地时间周六表示，他将成立一个专注于人工智能（AI）的新机构，并任命一位AI事务负责人。此举正值外界越来越多地呼吁美国政府加强对AI发展的规范和约束。特朗普在社交媒体Truth Social上发文称：“我正在组建人工智能特别工作组（AI Force），就像我在第一任期内创建太空军一样，而太空军已经取得了巨大成功。” 特朗普还表示，他正在寻找一名AI领域的“沙皇”，负责统筹相关事务。这
一名OpenAI研究员打破沉默，表示仅靠控制前沿技术是不够的
一名OpenAI资深研究员表示，放缓前沿AI的发展并不是防止AI末日的方法。Daniel Selsam是一名已在OpenAI工作近五年、参与过其模型训练的研究员，他周一在一份公开声明中写道，自己对这些模型已发展到何种程度以及它们未来可能带来的风险“极度担忧”。他说，“仅仅更谨慎地控制前沿发展节奏，并不足以限制长期风险”，尽管他对这一提议感到鼓舞。 控制前沿发展节奏是OpenAI首席执行官Sam A
英国《金融时报》报道：DeepMind联合创始人警告称，人工智能的能力绝不能超越安全控制
DeepMind联合创始人警告称，人工智能的发展速度不应超过其安全保障措施的完善程度，强调在追求技术突破的同时必须加强监管与风险防范。
特朗普回应AI“减速论”：谁赢得AI，谁就赢得一切
当被问及AI行业是否应该放慢发展速度或接受更多监管时，“我们在AI领域领先中国。我们是世界上技术最先进的国家，说实话，我希望保持住这一点，因为谁赢得AI，谁就赢得一切。” “我们可以设置一些安全机制。我们可以采取这样那样的措施。但我认为，有很多非常负面的力量在提这件事，他们本不该提，他们在提一些不会发生的事情。”特朗普表示。 上周六，Anthropic CEO达里奥·阿莫代伊提出了一套“三步框架”
AI“限速”承诺遭遇骨感现实
Anthropic和OpenAI掌门人关于放缓AI发展的大胆承诺，在两家公司内部引发紧张，凸显将言辞转化为实际行动的现实挑战。 Anthropic和OpenAI的掌门人关于人工智能(AI)发展“限速”的大胆承诺，正在两家公司内部引发围绕安全及其他担忧的紧张，凸显出将言辞转化为实际行动的现实挑战。Claude和ChatGPT开发商的员工正忙于落实两家公司的首席执行官——达里奥•阿莫代伊(Dario
“如果你造出比自己聪明得多的东西，它最好站在你这边”：我们能阻止AI欺骗我们吗？
我们习惯了人类同胞可能故意误导或操纵我们的想法，但机器现在也能做到这一点，这让人深感不安。研究人员正争分夺秒地寻找解决方案，以免为时已晚。《长篇阅读》杂志夏季刊现已出版。点击此处订购。2023年11月——在人工智能领域已是久远之前——一些世界上最有权力的人聚集在布莱切利园，这个位于白金汉郡的战时密码破译中心，讨论AI安全问题。 出席者包括时任美国副总统卡玛拉·哈里斯、AI老板萨姆·奥尔特曼和达里奥
领跑前沿领域，关键在于商业模式而非AI模型
里德的观点是达里奥·阿莫德伊和其他前沿人工智能实验室领导者可能非常关心人工智能的安全，但“步伐前沿”的呼吁也符合他们的经济利益。 随着Anthropic和OpenAI准备上市，并试图说服投资者，他们有一天可以大规模盈利，花费数十亿美元来发展最大和最有能力的模型可能不是最好的推销方式。 即使大型语言模型进展甚微，但它们已经做得足够多了，对这些公司和经济来说，它们将带来难以置信的利润。 现在，方程式是
萨姆·奥特曼表示，OpenAI不会等待国会来放缓AI的发展
OpenAI首席执行官萨姆·奥特曼阐述了他认为人工智能行业应该如何放缓发展。他还表示，OpenAI不会等待国会采取行动。他在周一早些时候发布在X平台的一则帖子中表示，他欢迎“一个为前沿人工智能设定一致安全要求的联邦框架”。 他补充了一个条件。“但我们不认为我们需要等待反垄断豁免或立法，才能开始着手提供这种信心，”他写道。 CNBC的凯·尼科尔-施瓦茨称，这些帖子是奥特曼迄今为止对人工智能安全框架如
人工智能会抹去我们的羞耻感吗？
断层线 科技世界长期以来一直由那些反传统的人所主导，他们对于是非的观念自觉与大多数人不同。 在本系列的第一部分中，我探讨了羞耻感作为一种方式，使群体能够在没有明确国家干预的情况下调解和执行社会规范。但硅谷出现了一种新兴的福音，它挑战了美国羞耻感的边界和机制。当全球数百万人类每天花数小时与机器人交谈时，会发生什么？是谁教会了那个机器人分辨是非？是谁让它感到羞耻？ 假设有一种疾病、一个怪物、一场战争或
OpenAI首席执行员下周赴安理会作简报
阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国
人工智能会毁灭人类吗？
当埃隆·马斯克、萨姆·奥特曼和达里奥·阿莫代伊这些竞争对手都呼吁放慢人工智能的发展速度并保持谨慎时，这值得我们关注。这种罕见的团结背后究竟是什么原因？我可以使用区块链技术吗？人工智能会取代我的职业吗？究竟什么是“机器学习”？这些都是《SHIFT——数字时代的生存》试图回答的问题。
特朗普的狂人日记
美东时间9月14日，美国总统特朗普（Donald Trump）在Truth Social平台发文称，人工智能需要的唯一护栏就是一个强大且高智商的总统，美国恰恰就有这样一位总统，而且绰绰有余。 且不说特朗普是否真的强大且高智商，将自己称为一个国家的人工智能安全需要的唯一护栏，足可见他的智商捉襟见肘。因为，国家人工智能安全绝不应该押注于个人，而应该诉诸于制度，这是国家治理的基本逻辑。特朗普逞个人英雄主