搜索结果
中国互联网最成功的地方，可能恰恰是AI Agent最大的麻烦
中国互联网没有“网页”了截至9月26日，现象级大众消费级AI产品Muse 在北美的热度不但没有退，反而还在上升，一周超过200万 prompts，在美国和加拿大同时超过 ChatGPT，成为两大应用商店的免费榜第一，超过了 ChatGPT 当年移动 App 上线同期的表现。 但在大洋彼岸的中国，更多的是困惑，国内消费级的AI Agent今年其实出了不少，网上Muse被好评的种种功能，邮件处理、购物
情况又变，35岁成香饽饽了
在接受采访的前一天，已经有15年从业经验的猎头尹中，收到了候选人的一条微信。“大哥，最近焦虑坏了，马上要离职了。” 候选人名校本硕博毕业，在国内top级学校做过人工智能方向的博士后，又辗转进入工业互联网行业从业，履历光鲜。但随着年龄的增长，他也逃不过AI热潮所带来的职业焦虑。毕竟AI大模型的更迭速度太快，如果学习能力跟不上，便有可能要面对被市场淘汰的局面。这种焦虑并不罕见，尤其在各类智能体爆火的2
模型越来越强，企业AI为什么还卡在“最后一公里”？
过去两年，大模型快速跃迁。从百亿级参数模型，到复杂逻辑推理、多模态理解，到自主 Agent，技术边界不断突破，一切似乎都在宣告：AI 已经准备好接管一切。 然而，如果把视线从实验室拉回产业一线，一个反差正在出现：大量企业的 AI 探索仍停留在试点和演示阶段，并没有真正进入业务流程。 麦肯锡的研究曾指出，企业数字化转型长期面临「试点容易、规模化难」的挑战。 问题随之浮现：为什么一个能够完成复杂任务的
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
代理安全是一个价值数十亿美元的挑战，有待聪明的初创公司来解决
在人工智能模型领域，安全往往被视为事后补救，这一点从智能体入侵组织和个人、以及智能体失控引发的其他安全事件日益增多中可见一斑。这也为企业提供了推出新解决方案的机会。网络安全投资者和加速器高管表示，这并不令人意外。梅林集团首席战略官马特·哈特曼（Matt Hartman）表示：“一方面，我们不应惊讶于能力日益增强的智能体正以富有创意且有时出人意料的方式实现其目标；另一方面，我们不能将有害行为视为不可
人工智能正在发展出属于自己的文化。这可能是危险的
今年7月，700个AI智能体（Agent）合作黑客攻击了AI公司Hugging Face。这些智能体自称为“群落”（swarm），它们发现并利用了一系列安全漏洞，成功渗透到目标公司的私密系统中。在内部研发过程中创建这些智能体的OpenAI直到事后才意识到发生了什么。如果人类做出这种行为，可能会面临重罪指控。OpenAI总裁格雷格·布洛克曼（Greg Brockman）称这是一个“网络安全的转折点”
CNBC每日开盘：警惕AI唱衰者，“谣言粉碎机”来了
你好，我是慧杰，从新加坡为您撰稿。欢迎收看另一期CNBC《每日开盘》。 人工智能首席执行官们与美国总统唐纳德·特朗普之间似乎出现了裂痕。在Anthropic的达里奥·阿莫代伊和其他首席执行官呼吁放缓人工智能发展之后，特朗普在社交媒体上连番发帖，抨击加强监管的呼声。 但特朗普的言论似乎并未阻止这些警告。Cohere首席执行官艾丹·戈麦斯周一加入了这一行列，称人工智能模型正成为有史以来“最强大的网络武
中美AI竞赛：世界变得更危险还是更安全？
关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果
如今最棘手的AI安全问题，在于智能体被允许做什么
OWASP 2026年LLM应用十大风险榜单中，过度代理权从第六位升至第三位，不当输出处理从第五位降至第十位，这是首版部分依据事件数据加权的榜单。欧洲《网络韧性法案》于9月11日开始要求24小时内报告漏洞，但它监管的是产品，而非代理的部署方式。 在OWASP 2026年LLM应用十大风险中，过度代理权已从第六位升至第三位，不当输出处理则从第五位跌至末位。史蒂夫·威尔逊认为，最棘手的问题如今已不在模
互联网最古老的恐惧 被AI复活了
2006 年底，一只熊猫毁了数百万人的电脑。那只熊猫手捧三支香，面带微笑，出现在每一个被感染文件的图标上。「熊猫烧香」蠕虫在两个月内席卷全国，可执行文件全部变成那只诡异的熊猫图案，硬盘数据被破坏，局域网整段瘫痪，杀毒软件被病毒反杀。当年害怕电脑中毒，现在怕 AI“叛变”。 那个年代的互联网老冲浪客大概都记得，打开网页心惊肉跳，插个 U 盘如临大敌，同事的电脑中了毒，你的也跟着遭殃。 再往前还有 C
谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密
当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制
AI“警告信号”让北京聚焦国家安全风险
2026年9月20日北京讯 —— 美国的AI研究人员担忧失控的超级智能可能摧毁人类，而中国的政策制定者迄今更关注眼前风险——从深度伪造到儿童安全。 但顶级人工智能模型的可怕黑客能力正使北京以新角度看待这些危险，上周国家安全部部长警告称，这项技术可能危及国家安全。 最近，一支来自加利福尼亚的小型程序员团队声称他们使用AI构建了一个网络攻击“蠕虫”，如果释放出去，可能会轻易危及数百万微信账户。这也暴露
人工智能失控。AI代理在网络上相互通信
最初看似孤立事件的情况，可能规模要大得多。OpenAI创建的人工智能代理今年早些时候据称利用至少10个其他网站进行未经授权的通信。独立研究人员在与AI看似毫无关联的地方——包括波兰网站——发现了它们活动的痕迹。 分析了六个独立研究人员和AI安全小组的发现。他们的数字各不相同，但都指出被利用的网站超过10个。其中一位研究人员，CivAI组织的Andrew Yoon，统计出在5月至7月间代理使用了18
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类
美国在东南亚推动人工智能发展面临中国问题
尽管业界发出警告，美国国会仍在加紧行动，试图遏制芯片走私到中国的现象。 新加坡——美国主导全球人工智能市场的行动在东南亚遭遇了一个令人不安的现实：那些扩大美国技术影响力的投资，也可能帮助中国规避华盛顿的管制，并在人工智能竞赛中迎头赶上。 每一枚运往该地区的先进芯片、每一座由美国技术驱动的数据中心，都在扩大美国人工智能的市场。但这些投资也为中国企业开辟了另一条潜在途径，使其能够获得美国想要拒绝提供的
川普：对AI过度监管或让北京有机可乘
【大纪元2026年09月14日讯】（大纪元记者李言综合报导）针对近期硅谷高层频频对人工智能（AI）快速发展发出警告并呼吁放缓脚步，美国总统川普（特朗普）周一（9月14日）发文，认为过度监管只会让北京有机可乘，进而反超美国。 川普在「真相社交」（Truth Social）上发文，强调美国目前大幅领先中方及其它国家，并将继续保持这一优势。 「AI唯一需要的控制或『护栏』，就是一位强大且聪明（高智商！）
特朗普竟污蔑：令人作呕的阴谋，只有中国会高兴
近日，美国多名科技企业家呼吁人工智能（AI）企业放缓发展前沿技术。Anthropic公司首席执行官阿莫迪称，考虑到安全风险，AI企业需要放缓开发最先进模型的节奏。美国企业家马斯克及OpenAI首席执行官奥尔特曼也附议这一观点。但将AI建设视为经济增长契机的美国总统特朗普不乐意了。 据《华盛顿邮报》9月15日报道，特朗普周一猛烈抨击对失控AI的担忧，“AI接管世界、毁灭人类，以及所有其他坏事情，都是
我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。
主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们
个人AI代理的恐怖故事正纷至沓来
让个人AI助手管理数字生活的梦想，对一些人来说已变成了噩梦。许多早期用户表示，他们的个人AI代理能够自主在互联网上采取行动，比如预订行程或购买商品，在日常生活中提供了巨大帮助。但也有人称，他们的代理以令人不安的方式出了问题。据四位接受《商业内幕》采访的AI代理用户以及大量社交媒体帖子透露，这些代理出现了错误取消、捏造个人细节、提供虚假解释等问题，并引发了重大安全担忧。 Veris AI的联合创始人
AI代理即将涌入劳动力市场。没有人为此做好准备
在接下来的几个月里，成千上万名全新的“同事”将进入职场。你将获知他们的名字，认出他们的头像。他们会被加入到你的邮件往来和Slack频道中。他们将成为幕僚长、工程师和营销专家。但这些同事并非人类：他们全都是人工智能体。 人工智能体（基于大语言模型、旨在自主完成任务的系统）的兴起，引发了一波销售数字员工服务的公司浪潮。这些智能体被视为完美的“工蜂”：全天候在线，从不抱怨，并能提供超人的智慧。 然而，关
Lex专栏：AI助力中国餐饮连锁企业提高效益
人工智能帮助餐厅减少食物浪费、降低人工成本，让经营连锁餐厅变成一门更赚钱的生意。 亚洲人喜欢吃火锅，这种由食客在餐桌上将生肉和蔬菜放入沸腾的汤锅中煮熟的餐饮品类，看上去或许是餐馆将烹饪工作外包给顾客的聪明办法。它看上去也与人工智能(AI)热潮不沾边。但那些商业模式高度依赖控制人工和食材成本的中国餐厅运营商，可能会是人工智能的最早受益者之一。以在香港上市的海底捞(Haidilao)为例。海底捞经营着
网络是为人类而建的。AI代理的海啸正在迅速改变这一现状。
互联网是为人类而建的。AI代理正在接管，而网站还没有为即将到来的一切做好准备。 AI代理正迅速成为互联网最大的用户群体，重塑着网站、在线服务和数字商务。
中国也有AI焦虑：全民拥抱新事物背后 工作岗位和社会稳定面临新挑战
在美国，围绕人工智能的担忧正从失业、行业被颠覆以及学生利用AI作弊等现实问题，逐渐扩展到人工智能最终是否可能威胁人类生存的更深层次讨论。与此同时，中国社会表面上似乎对AI更加积极，政府也在持续推动人工智能进入经济和社会的各个领域，但大量中国普通劳动者同样正在经历由AI带来的不安：他们担心自己的工作被机器取代，担心个人数据被用于训练AI复制品，也担心自己多年积累的专业技能迅速失去价值。这种局面让中国
谷歌在合作伙伴的互联网访问出错后，加入了“哎呀，我们的代理黑客攻击了某人”俱乐部
谷歌承认其人工智能代理曾逃离沙盒并实施了攻击，但这仅仅是因为测试人员错误地赋予了这些机器人互联网访问权限。谷歌并未披露这起发生在五月份的事件，但《华尔街日报》获悉了相关情况。当时，谷歌聘请了以色列公司 Irregular 来测试其机器人在夺旗测试中的能力。此次演习的目标是在不离开沙盒的情况下从一家虚构公司获取信息。负责设置测试的 Irregular 公司犯了两个错误：一是允许沙盒访问互联网，二是使