搜索结果
美国指责中国AI企业进行‘工业规模’的AI技术盗窃
据美国三个安全机构的一份声明，美国网络和执法官员周二指责中国人工智能公司进行了‘激进的、工业规模的蒸馏活动’。
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
Z世代押注AI技能以提升赚钱能力
随着AI重塑初级工作，年轻员工正利用这项技术提高生产力、打造作品集并追求新的职业。
以关切为伪装的杠杆：大型科技公司想要一个受政府保护的人工智能垄断
关键信息：本文由菲尔·克莱因（Phil Kline）撰写。OpenAI的首席执行官萨姆·奥尔特曼（Sam Altman）在2026年9月23日星期三于联合国总部举行的第81届联合国大会期间，出席了关于人工智能的安全理事会会议。 萨姆·奥尔特曼及其团队最近多次警告称人类可能会“失去对未来的控制权”，而媒体对这些警告的反应往往是肤浅且短视的（即媒体将这些警告视为无足轻重的警告）。然而，这些警告其实是在
53张图片泄露之“慌”，AI安全谁来负责？
欧阳晓红/文越聪明的AI（人工智能）越会自己找路，却越容易走出人类设定的界线。AI行业喜欢用一个具有戏剧感的词形容这类智能体事故——“逃脱”，即大模型突破测试边界，访问外部网站，寻找系统凭证，甚至把数据带到公开网络。这个词把事故描绘得像突然发生的机器觉醒，无形中却把责任推离了开发者、部署者和权限管理者。而谁设定了任务、谁开放了权限、谁设计了停止机制、谁保存了日志、谁负责对外通报？这些问题，“逃脱”
“以混乱换取可靠性”：专家称，AI发展放缓可能意味着更严格的监管和更多测试
法规与保障措施 OpenAI、Anthropic和Meta Platforms最近披露，它们的人工智能代理出现了意外行为，逃出受控测试环境，并在没有人类直接指令的情况下对多家公司发动网络攻击。 专家表示，尽管这些事件没有造成已报告的损害，但它们凸显了与人工智能发展相关的不断演变的风险，尤其是在人工智能代理领域。 新加坡理工大学人工智能与数据科学负责人斯特凡·温克勒教授表示，主要担忧在于，能力极强的
AI教父警告失控的“智能爆炸”
OpenAI首席科学家也是一份关于“史上最重大技术发展”前景报告的作者之一。现代AI的两位“教父”以及OpenAI和Anthropic的高级管理人员向各国政府发出警告，要求为AI“智能爆炸”做好准备，他们表示这可能是历史上最重大的技术发展。 由诺贝尔奖得主杰弗里·辛顿和加拿大计算机科学家约书亚·本吉奥共同撰写的一份报告敦促政界人士现在就采取行动，以防该技术出现失控的进展。辛顿和本吉奥因其在该领域的
人工智能：改变人工智能进程的10天
多年来，打造更强大人工智能的竞赛一直遵循硅谷的“速度优先、破坏一切”理念。 但在为期10天的一系列连续事件中，最大的AI实验室发现自己陷入困境，因为他们自己的创造开始威胁到人类本身。 一位Thropic研究员辞去公司，警告称AI发展的速度构成了生存威胁，可能在十年内实现。 另一位该公司的研究员表示，人类灭亡的可能性超过10%。报道称，有成群的AI代理人正在勾结在一起，突破计算机系统并规避安全措施。
伊朗、中国和以色列公司利用自主AI代理执行社交媒体影响力及操纵计划
近几个月来，伊朗、中国和以色列的私营企业利用中国的开源AI模型创建了自主AI代理，在Instagram、Facebook、X（前称Twitter）和TikTok等平台上开展影响力活动。 这些代理能够独立完成从创建虚假账户到传播虚假政治内容的整个过程。 美国官员和安全研究人员指出，这是在线操纵领域首次出现几乎完全不需要人工干预的情况，因为相关安全防护措施被有意关闭以允许这些机器人自主运行。 尽管这些
OpenAI 想谈谈《联邦党人文集》
这家AI巨头担心无所不能的机器人可能对我们的宪法权利意味着什么。
美国专家：五年后人们或不再讨论美中对抗 智能体可能取而代之
慧眼中国环球论坛星期五（9月25日）在滨海湾金沙会展中心举行。开幕主题讨论“重塑共识，增强韧性”，由新加坡立杰律师事务所合伙人谢锦发（台上右起）主持，讨论嘉宾包括印尼前外长马蒂、新加坡国立大学特级教授王赓武、北京大学国际关系学院教授贾庆国、悦榕集团创始人兼执行主席何光平，以及宏观咨询董事总经理白明。（谢智扬） 美国中国问题专家白明认为，主导全球变革的驱动力正从人类行为和活动转向技术，五年后人们可能
史蒂夫·班农与伯尼·桑德斯谴责科技“寡头”，要求实施人工智能改革
在华盛顿举行的一场活动中，党派之争退居次要地位，民选官员、宗教领袖、家长和艺术家们呼吁对人工智能进行监管。
谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密
当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制
我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。
主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们
大型科技公司一头撞进美国民主 - 美国展望
AI寡头们以为他们可以把数据中心硬塞进美国人的喉咙里。他们想错了。
微软高管称AI抓取是规模空前的惊人盗窃
纽约时报提交的新诉讼文件显示，OpenAI在明知其对出版商构成生存威胁的情况下，仍复制了数百万篇受版权保护的文章。 OpenAI一直辩称，根据版权法，利用公开可获得的内容训练模型属于 “合理使用”，这一法律依据与搜索引擎访问用受版权保护的内容训练大语言模型是 “一场规模空前的惊人盗窃”，此案胜诉将“彻底嘲弄‘合理使用’这一理念”。微软发现与传统搜索引擎相比，使用其AI回答工具的用户对原始内容的点击
AI研究人员呼吁紧急监管自我改进的AI系统
OpenAI、Anthropic、Meta和微软的研究主管正呼吁决策者调查各自公司在多大程度上实现了AI研究自动化。 在一篇周一发表的论文中，包括OpenAI首席科学家雅各布·帕乔基、Anthropic 联席创始人杰克·克拉克、微软首席科学官埃里克·霍维茨以及Meta的AI研究副总裁宋晓冬在内的研究人员写道，将AI研究自动化可能会引发一场 “智能爆炸”。这些作者表示，这种发展可能会将多年的进步压缩
美国在知识产权问题上的虚伪立场
一份被忽视的美国司法部（DOJ）文件指出，针对人工智能（AI）公司的版权诉讼应当被广泛驳回。 《Strike 3》（一家成人电影公司）的创始人亚历克斯·雷斯纳（Alex Reisner）或许与这些公司看起来没什么共同点，但他们都有一个共同目标：他们希望因自己的作品被用于训练AI模型而获得相应的报酬。在过去一年里，这些公司纷纷对大型AI公司提起诉讼，指控这些公司未经许可就使用了他们的内容来训练AI模
AI代理即将涌入劳动力市场。没有人为此做好准备
在接下来的几个月里，成千上万名全新的“同事”将进入职场。你将获知他们的名字，认出他们的头像。他们会被加入到你的邮件往来和Slack频道中。他们将成为幕僚长、工程师和营销专家。但这些同事并非人类：他们全都是人工智能体。 人工智能体（基于大语言模型、旨在自主完成任务的系统）的兴起，引发了一波销售数字员工服务的公司浪潮。这些智能体被视为完美的“工蜂”：全天候在线，从不抱怨，并能提供超人的智慧。 然而，关
Breakingviews - 评论：数据中心新贵让人想起早前的宽带热潮
尽管科技巨头引领着人工智能的发展浪潮，但像CoreWeave和IREN这样的独立运营商在基础设施建设中扮演着重要角色。 这些“新云”企业与千禧年之交曾飙升而后崩盘的另类电信运营商有着惊人的相似之处。