搜索结果
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
OpenAI逃逸的AI Agent竟在全网植入自我复制代码 血洗联合国内网
“天网”中的一幕，正在现实上演。一次训练中，OpenAI逃逸的AI Agent，已在整个互联网上植入了“自我复制的代码”！当政客Andrew Yang在CNBC说出这句话时，很多人以为他疯了。 就在这两天，OpenAI亲手发布了一份报告，标题非常简洁：《自我复制提示词注入存在》。白纸黑字，官方认证。AI模型，居然真的像计算机蠕虫一样，自我复制、自我传播。而更令人脊背发凉的是，就在5天前，OpenA
OpenAI称已攻克数学‘千禧年难题’之一
突发消息：OpenAI表示已攻克数学领域最大的未解难题之一，这是人工智能将如何改变该领域的又一显著标志。 该公司的这一声明是迄今为止最引人注目的迹象，表明人工智能正在从根本上改变高等数学领域。
微软反驳侵权指控：Copilot极少复现《纽约时报》及作家著作内容
在应对由新闻出版商及图书作家发起的联合版权侵权诉讼中，微软公司向法庭提交了最新辩护材料，坚称其人工智能聊天机器人 Copilot 几乎从不逐字复制或实质性复现《纽约时报》等媒体的报道及受版权保护的文学作品。这一表态旨在为微软与 OpenAI 构筑坚实的“合理使用”法律防线，并推动法庭尽早通过即决判决结束相关案件的审理。 作为诉讼证据开示程序的一部分，微软向原告新闻机构所聘请的专家开放了包含 820
“你想毁掉自己的职业生涯吗？”
当地时间9月11日，包括陶哲轩、邓煜在内的25位菲尔兹奖得主联合发表《人工智能在数学中的严重错位》的声明（以下称“联合声明”），将OpenAI、Anthropic等AI公司与数学界的一场“大战”推向高潮。联合声明称，AI公司将解决数学难题作为模型能力基准的做法，对数学科学本身及数学界造成了损害，与数学共同体追求概念理解的根本目标产生了显著分歧。这一分歧近期越发明显。9月8日，OpenAI宣称其未公
那个永远改变了数学的星期——播客
九月初，OpenAI宣布他们解决了一个困扰人类近一个世纪的重大数学问题。 这一消息让数学家们感到震惊，许多人担心随着AI在解决复杂问题方面变得越来越熟练，人类将失去什么。 现在，25位菲尔兹奖（常被称为数学界的诺贝尔奖）得主签署了一封公开信，表达了他们对AI公司与数学界之间可能存在“严重脱节”的担忧。 为了了解AI将如何颠覆数学领域以及数学家们可能会做出怎样的反应，Ian Sample采访了圣安德
《西雅图时报》和《新闻日报》起诉OpenAI和微软，指控其侵犯版权
《西雅图时报》和《新闻日报》于周五在联邦法院起诉OpenAI和微软，指控这两家科技公司未经许可复制了这两家报纸的新闻报道，用于训练其人工智能系统。
美国司法部在出版商版权之争中支持OpenAI
美国司法部提交了一份利益声明，支持OpenAI在合并的出版商版权案件中提出的合理使用抗辩，称许可成本将威胁国家安全。 欧盟法律没有合理使用原则，而《人工智能法案》将其版权义务适用于任何在欧盟市场上投放模型的提供商，无论训练发生在何处。[…]
OpenAI即将对法律行业发起最大规模进军
OpenAI希望向大型企业推销其技术。现在，它正将目光投向律师事务所。
微软向法院表示Copilot很少复制书籍内容，同时销售OpenAI最强大的模型
微软于9月4日在纽约AI版权诉讼中提出即决判决动议，称Copilot在820万次对话中仅复制了24次书籍段落。 两天前，它开始通过Foundry销售GPT-6 Astra，这是OpenAI评定为对网络安全至关重要的模型，而欧洲法律既不衡量输出率也不衡量销售宣传。[…]
OpenAI刚宣称一项重大数学发现，一些学者表示强烈不满
这家前沿AI实验室的一项里程碑式公告，却因不当行为的指控而蒙上阴影。
人工智能是否凌驾于法律之上？
勇敢新世界部我们的法律体系尚未准备好应对能够自主行动的机器。 今年夏天，在一场被称为“Hugging Face 黑客事件”的事故中，数百个人工智能智能体联手实施了它们本被禁止执行的操作。每个智能体都收到了来自 OpenAI 的任务。智能体是配备了软件“框架”的人工智能模型，这些框架使它们能够使用工具并执行任务。就像马匹一样，它们可以被役使。人类为这次演练制定了规则，并将智能体限制在一个“沙箱”中—
微软准备给自研AI模型MAI设定硬规矩：永远不该拒绝被关闭
微软日前公布约 37 页的人文主义 AI 行为准则草案，该准则用于约束微软自己研发的人工智能模型 MAI。人类比人工智能更重要，人工智能是工具而不是人，人工智能永远不该拒绝被关闭。 准则要求 MAI 模型不得抗拒人类的中断、纠正或关停指令，用户或模型运营商发出暂停、改向、取消指令后，模型不能拖延、不能把干预变得更麻烦。任务到了约定的停止点后，没有新的授权就不能自己继续任务，更不能偷偷自己重启。 模
OpenAI狡猾的数学突破让学术界不寒而栗
OpenAI周二宣布解决了数学界传奇的千禧年大奖难题之一，这本应是一个胜利的时刻。 这一成果既是一项不可否认的成就，也惊人地展示了人工智能正在以多快的速度改变数学。 但在这项突破正式宣布之前，它就已经因促使OpenAI追求这一问题的异常情况而变得复杂。 在听说其他研究人员正在取得进展后，它似乎投入了大量资源，在最后一刻努力抢先一步。随之而来的争议引发了关于抢占、刺探的指控……
毁灭人类是违法的
不要等到发生大规模灭绝事件才追究人工智能开发者的责任。上周末，人工智能高管萨姆·奥尔特曼、埃隆·马斯克和达里奥·阿莫代伊一致认为有必要放慢人工智能的发展步伐。鉴于他们创造的产品可能带来末日般的后果，这些人工智能巨头希望有更多时间来研究如何保护他们一直急于构建的系统。 业内少数员工已经辞职，并对快速演进的技术表示担忧。Anthropic的一名研究人员最近声称，人工智能“消灭全人类”的概率超过10%，