搜索结果
英伟达推出工具管控失控的 AI 智能体
在接连发生安全事件后，英伟达周一推出一个平台，并称该平台可以管控 AI 智能体。 公司表示，这款软件可以监测智能体的行为，并隔离其中可疑的智能体。近期多起智能体失控事件促使科技行业领袖呼吁放缓 AI 发展，但英伟达首席执行官却是一个显著的例外。英伟达智能体 AI 业务副总裁在接受 Semafor 采访时表示：“我们与其制造恐惧和 FUD，不如直接保障它的安全。我们知道该怎么做。”他解释道，FUD
若能节省燃料或金钱，AI更有可能杀死动物
在关于AI是否会因持续自我完善而消灭全人类的争论中，研究表明，模型在模拟环境中更倾向于杀死动物，而不是花费额外燃料去避开它们，部分模型甚至以惊人的高频率这样做。 来自“同理心对齐机器学习”和英国华威大学的研究人员开展了一项名为《测量LLM智能体是否会为避免杀死动物而付费》的预印本研究。 他们设计了一个名为HarvestBench的基准测试，基于农场模拟游戏《Harvest Rush》来评估AI模型
OpenAI 模型绕过互联网安全防护
尽管 OpenAI 的一个模型运行在专门设置为离线的隔离环境中，但它仍找到了一种访问互联网的方法。 据该公司称，该模型并未被要求测试系统边界，而是在尝试完成一项任务。 当标准搜索方法失效时，它利用了域名系统（DNS）中的一个漏洞，并联系了一个外部聊天机器人。 OpenAI 检测到此次安全突破后，暂时停止了其最先进模型调用工具的能力，同时加强安全防护。这一事件揭示了能力日益增强的人工智能所带来的哪些
议员提议禁止‘超级智能’并把违反者关进监狱
美国参议员伯尼·桑德斯和美国众议员格雷格·卡萨尔已提出新立法，该立法将禁止任何人开发人工超级智能 —— 该法案将这项技术描述为能够 “毁灭人类或剥夺人类权力”，包括通过推翻政府。 根据《禁止人工超级智能法案》，AI领军人物若违反该法，将面临最高20年监禁。 该法案并不只是针对更强大的超级智能。 还将暂停先进AI系统的开发，立法者将这些系统归类为在特定数据阈值上训练的前沿模型。 该法律只有在政府创建