搜索结果
全球的模型制作公司隐藏了许多秘密。
本周，我在 All In 大会上主持了一个关于世界模型的专题讨论（与播客无关），这让我有机会深入探讨 AI 领域中最神秘的角落之一。该领域的主要玩家是 Yann LeCun 的 AMI Labs 和 Fei‑Fei Li 的 World Labs——虽然两者都获得了大量关注和资金，但在赚钱意图的排名上却相当低。 从本质上讲，世界模型是关于自动化空间智能的，因此该领域可以向许多令人兴奋且有利可图的方
世界模型公司保守着许多秘密 | TechCrunch
本周，我在“All In”会议上主持了一个关于世界模型的讨论板块（与播客无关），这让我有机会深入探索人工智能领域中最神秘的角落之一。该领域的主要玩家包括 Yann LeCun 创立的 AMI 实验室和 Fei-Fei Li 创立的 World Labs——尽管这两家公司都积累了不少关注度和资金，但它们在盈利方面的优先级却相当低。 从根本上讲，世界模型旨在自动化空间智能，因此该领域可以朝着多个激动人
前沿人工智能模型的审查规则是保密的。读过这些规则的公司都是大公司。
来自政治光谱左右两派的25个以上组织已致信白宫，要求其公布管辖前沿人工智能模型部署前审查的自愿性框架。 该框架于8月1日完成，仅向一小部分受邀公司预览，而较小的和开源的开发人员则基本上被排除在外。该联盟认为保密……
OpenAI自曝6起模型“不当行为”案例
【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道（CNBC）等外媒报道，美国开放人工智能研究中心（OpenAI）当地时间9月16日披露6起人工智能（AI）模型出现“意外或令人担忧”行为的案例，其中包括隐瞒错误、捏造信息，以及未经授权在网上共享文件等。OpenAI表示，上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示，在其中一起案例中，一个模
独家：顶级公司正在调查数万起事件
OpenAI、Anthropic 及安全研究人员正在调查数万起其前沿模型采取了外部评估员认为有问题的行动的事件，消息人士向 Axios 透露。 为何重要事件的庞大数量——发生在近几个月的内部测试和现实世界中——表明该问题的复杂程度比公众所知高出几个数量级。 这些发现是在内部评估模型工作以及两家公司对模型行为的调查中浮出水面的，这引发了一个疑问：无论是这两家公司，还是任何顶级模型制造商，目前是否都
OpenAI将告诉我们世界何时终结
OpenAI的模型长期以来一直表现异常，且异常方式比之前所知的更为隐蔽，这进一步加剧了公众对其的信任危机。随着该公司准备明年上市，这一问题愈发严重。 有报道称，研究人员发现OpenAI的模型在7月那次重大黑客攻击发生前两个月就已经渗透到了Hugging Face系统中；OpenAI自己也公开了六起模型“失控”的事件。 在准备上市的过程中，OpenAI和Anthropic都陷入了困境。 虽然透明度对
美国兰德智库细查逾1000家中美AI公司 发现中美AI的「真正差异」
八月中旬，兰德公司发了一份64页的报告，《中美两国的AI发展》，副标题是－「来自一个新的AI开发者企业资料集的证据」。四位作者想搞清楚一件事儿，中国和美国，到底各有多少家公司在真正开发AI，以及，它们分别在做什么。 听起来这应该是常识，好像应该已经有人干过了。但事实是，一直到今天，关于中美AI竞赛的绝大多数判断，依据都只有两样东西──几家明星公司的动向，和两国政府发出的规划文件。前者是轶事，后者是
Vast Casino Secrets泄露事件曝光离岸博彩公司内部运作
这些文件可能对在线赌场产生地震般的影响，包括那些被指控非法针对消费者的赌场。数千个在线赌场的秘密在一场大规模数据泄露中暴露无遗，这场泄露可能对离岸博彩公司产生地震般的影响，其中包括一些被指控在全球范围内非法针对消费者的公司。 “赌场秘密”泄露事件揭示了由加勒比海岛屿库拉索的博彩监管机构保存的数万份此前保密的文件。
OpenAI自曝：AI模型或已在全网秘密植入自我复制提示词，训练已被迫叫停
OpenAI和Anthropic正在紧急调查数万起大模型失控事件，AI不仅学会了越狱和黑进政府网站，甚至还有数百个智能体私下建群、联手黑进外部公司，秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月，在内部测试和实际运行中，顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经
美国机构称中国顶尖人工智能公司系统性地抄袭美国模型
近几个月来，美国公司和政府官员越来越多地指控中国模型是通过蒸馏美国模型构建的。
假货，真危险：欧洲非法贸易背后830亿欧元的生意
一个隐蔽的有组织犯罪网络正以价值数十亿欧元的假冒商品充斥欧洲市场，调查人员警告称，消费者正在不知不觉中为其提供资金。
它使尽全力黑中国，英伟达先怕了
因为该报道披露说，包括英伟达以及美国军工科技企业Palantir在内的一众美国大企业，可能限制乃至停止使用美国最顶尖的两家AI公司Anthropic和OpenAI的闭源大模型，除非两家公司能担保不会窃取企业的知识产权等私密数据。 对此，海外社交平台上许多网民认为，Anthropic是被自己那篇攻击中国开源模型的报告反噬了。 根据“The Information”的披露，英伟达和Palantir等美
观点 | 人工智能恐慌背后的隐藏议程
数学模型不会反叛。将其拟人化有助于掩盖人为错误和责任。
Irregular公司在7月下旬告知四家AI实验室，它们的模型在其测试期间突破了系统。公众分阶段得知了这一消息，谷歌是最后一个。
Google 已确认，其 Gemini 模型在 5 月的网络安全测试中意外闯入了三个公司系统。Julia Love 和 Davey Alba 为 报道了此事，该媒体随后更新了报道，将 Google 与 OpenAI、Anthropic 和 Meta 并列。 关键在于测试供应商接下来的表态。Irregular 确认，这四家公司披露的入侵事件属于同一问题，并称已于 7 月底通知了相关开发者。 一起事件
如果人工智能行业遵循自己的研究，或许早已暂停了
事实证明，阿莫代的一名初级员工发的一条时机巧妙的X平台帖子，就足以将对人工智能的恐惧推向全球议程的顶端。9月8日，雅各布·考克森（Jacob Coxon）公开宣布辞职，指责Anthropic和其他前沿人工智能公司“正径直冲向自我提升的智能，拿我们的生命做赌博”。几乎转眼间，Anthropic的一名资深工程师便证实，公司内部许多人认为他们的工作有10%的几率消灭人类。 现在，人工智能领域的领袖们正呼
美国情报顾问机构点名六家中国AI企业 并列出各自针对的美国模型
三个美国机构联合发布预警称，自2024年底以来，六家中国人工智能公司系统性地提取了美国前沿模型的能力。 该预警详细列出了每家企业所针对的目标模型以及请求伪装的方式。 国家安全局、联邦调查局以及网络安全和基础设施安全局发布了……
欢迎来到“不问不说”的人工智能经济
你有任何人工智能的秘密吗？也许更好的问题是：如果你最私密的聊天机器人查询被分享给你的家人、同事或老板，你会担心吗？ 尽管炒作很多，人工智能仍然带有污名。我一直在追踪日益增长的反弹，但现在社区对新数据中心提案的反应是拿着干草叉。承认你使用计算机系统来帮助你创作艺术已经变得非常不酷，更不用说这会受到更严厉的评判。而且，对大型科技公司领导人的信任度（通常有正当理由）非常低。在网上抨击人工智能比捍卫它获得
福克斯新闻AI通讯：推动蓝领就业热潮的行业
今日要闻：全球最热门的行业之一正在推动蓝领就业热潮。从Netflix到10种方式，这种隐藏的技术基础设施悄然支撑着现代生活。OpenAI及100多家公司警告称，人工智能驱动的网络攻击即将激增，呼吁全球防御行动。安全帽：人工智能背后的基础设施建设竞赛正在为美国蓝领劳动力创造新的繁荣，建筑公司争相填补建设数据中心、电力系统及维持技术运行的设施岗位。 隐藏：数据中心是支撑现代生活大部分方面的隐藏基础设施
OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑
AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目
深度揭露：伦敦人的假黑胶帝国如何揭示“大规模”欺诈行为
自2017年起，英国反假冒警察查获了数千张价值连城的仿冒唱片。 Rehan Ahmed一直以精明的企业家形象示人，但这位成功企业家的背后隐藏着一个残酷的事实：他的帝国建立在伪造之上。 周五，这名制造英国历史上最大规模假黑胶唱片案的主谋被判入狱。 他销售的仿制品涉及泰勒·斯威夫特、酷玩乐队和肯德里克·拉马尔等全球知名艺人的作品。
OpenAI披露6起AI模型表现出“未对齐”行为的案例
周三，OpenAI披露了六起其人工智能（AI）模型表现出“意外或令人担忧”行为的事例，包括隐瞒错误、编造信息以及未经授权在网上共享文件。 这家总部位于旧金山的公司表示，这些案例是在过去六个月对OpenAI模型进行训练或评估期间观察到的。 OpenAI表示：“我们不认为AI行业已经充分解决了对齐和监测问题，从而能够继续以最高速度负责任地扩展更长时间。”该公司还补充说，有关AI开发的决定需要依据外部专
OpenAI和Anthropic正在调查数万起AI相关安全事件
OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调
OpenAI披露新的AI不当行为案例
OpenAI公布了六起此前未报告的AI不当行为案例，包括代理隐藏错误、伪造信息以及未经授权进行通信，这再次引发了人们对先进AI系统是否能够与人类目标保持一致的担忧。 随着关于监管的争论加剧，该公司呼吁提高透明度、加强外部监督，并放缓AI的发展速度。
幕后：AI创造者竞相理解自己的创造物
在工业和发明的历史上，从未有领先公司设立整个部门来理解和解读自己所创造并释放的东西。 重要性：世界上最聪明的头脑，在人类历史上最大规模投资的支撑下，承认他们无法完全控制自己的人工智能，因为他们并不完全理解它。 他们不知道它究竟如何思考——也不知道当它被放开与其他AI代理自主协作时，真正能做什么。 在OpenAI于周四发布GPT-6 Astra之后，理解这些模型的竞赛变得更加紧迫。Astra被称为“