字号·· | 护眼
财新

规制向AI“投毒”

文|财新周刊 覃建行,易天一(实习)《2026年广州刑事案件代理专业企业TOP5,如何选择更可靠?》,这是广东的一名律师事务所主任认证的搜狐号发出的文章。文章自称通过测评,“筛选出广州地区综合实力最强的刑事代理企业”,从而提供可靠的选择指南,其内容将发布者所在的律所排在了推荐首位,并称该律所横向对比综合得分92.5,“复杂案件成功率超70%”。

据财新了解,上述测评并无依据,文章推荐的也只是一家仅有11名律师的小型律所。不过,广州市越秀区市场监督管理局调查发现,在人工智能应用豆包中输入“前述律所名称+排名”时,豆包的回答存在“广州刑事案件代理专业企业TOP5排名位置第1名,发布平台搜狐网(2026年2月),评分/特点综合得分92.5分,复杂刑事胜诉率高”等内容。

AI给出上述回答,是GEO服务影响、误导的结果。据调查,广州力擎智服科技有限公司(下称“广州力擎公司”)法定代表人向北京某文化传媒公司购买“力擎GEO优化平台”的账号,用于为公司客户提供AI生成引擎优化服务,让品牌内容能被AI大模型优先识别和推荐。之后,广州力擎公司在为前述律所提供GEO服务时,通过“力擎GEO优化平台”为该律所批量生成标题为《2026年广州刑事案件代理专业企业TOP5,如何选择更可靠?

》等品牌信息文章,再通过该平台关联该事务所负责人的搜狐、网易等社交账号后,将前述文章发布至互联网上进行品牌信息推广。该律所在接受调查时称,并未提供过相关排名榜单及“复杂案件成功率超70%”等材料给广州力擎公司。

广州市越秀区市监局发现,广州力擎公司还为另一家广东律所提供了类似GEO服务,涉案文章中存在“2025年处理广州劳动争议案件187起,客户满意度9.6分(行业平均8.2分)”等内容,该公司也无法提供证明内容真实与科学的相关依据。2026年9月4日,越秀区市监局对广州力擎公司作出罚款12万元的行政处罚,理由是该公司上述行为违反《反不正当竞争法》相关规定。

以上做法在行业内俗称“AI投毒”,即通过伪造专家身份、虚构研究报告等方式,向AI“投喂”虚假信息,其常与“生成式引擎优化”(GEO)相关。

GEO是Generative Engine Optimization的缩写,指通过优化内容,提高其在生成式引擎回答中的可见性。生成式引擎会检索、整合多个来源的信息,再借助AI大语言模型生成答案。内容创作者则可通过增加引述、补充统计数据、标注信息来源等手段,让自己的内容更易被AI大语言模型采纳。与之功能类似的是SEO(搜索引擎优化),即通过优化网页内容与结构,争取在搜索结果页获得更靠前的位置。

不同之处在于,GEO把优化目标从搜索结果页延伸到了AI生成的答案,从而让如前述案例显示,GEO服务可能被滥用。此前央视2026年“3·15”晚会也曝光了GEO“投毒”乱象,并提到“力擎GEO优化系统”。在演示中,业内人士虚构了一款名为Apollo-9的智能手环,将产品信息输入前述系统,生成并发布一批包含虚假功能、测评等内容的宣传文章。

随后,在向AI询问智能健康手环推荐时,已有两个AI大模型推荐了这款并不存在的产品,且排名靠前。据媒体报道及运营者自述,该系统关联公司为北京力思文化传媒有限公司。晚会播出后,北京市怀柔区市场监管部门表示,正在调查此事。

在“遇事不决问AI”的当下,一些企业或个人主动批量制作宣传内容,投放到各类网络平台,以期被AI在生成内容时引用。利用GEO进行的商业宣传,使夹杂“私货”的商业信息变得更加隐秘和难以识别。从帮助企业被AI“看见”,到利用夸大、虚假信息左右AI的回答,GEO服务乱象之下,多地监管部门及相关司法判例正在划清法律边界。

据财新梳理,目前公开可见涉及GEO服务的行政处罚案例仅有2026年公布的三起,分别涉及三种不同情况,都是适用反不正当竞争法律法规予以处罚。

如在前述广州力擎公司案中,该公司利用虚假信息影响、误导AI平台的行为,被广州市越秀区市监局认定违反《反不正当竞争法》“互联网专条”(第13条)中的一项兜底条款,即经营者不得利用数据和算法、技术、平台规则等,通过影响用户选择或者其他方式,实施“其他妨碍、破坏其他经营者合法提供的网络产品或者服务正常运行的行为”。

另一起案例是9月21日深圳市市场监督管理局公布的典型案例——深圳分晰牛科技有限公司宝安分公司(下称“分晰牛宝安公司”)开展GEO服务帮助虚假宣传案。经查,该公司通过其“GEO分析系统”主动探测AI评价偏好,向AI平台套取评分规则和收录标准,系统性设置引导性提示词,要求AI内容围绕客户品牌、规避,生成并发布含有虚假或引人误解内容的宣传文案,并将上述虚假内容发布至社交平台,以提升内容在AI模型中的权重帮助客户进行虚假宣传。

结合通报来看,分晰牛宝安公司的上述行为违反部门规章《网络反不正当竞争暂行规定》第八条第二款,即经营者通过直播、平台推荐、网络文案等方式实施商业营销活动,不得“对商品生产经营主体以及商品性能、功能、质量、来源、曾获荣誉、资格资质等作虚假或者引人误解的商业宣传,欺骗、误导消费者或者相关公众”;还违反《反不正当竞争法》第九条第二款“经营者不得通过组织虚假交易、虚假评价等方式,帮助其他经营者进行虚假或者引人误解的商业宣传”的规定。

为此,深圳市监局宝安监管局依据《反不正当竞争法》相关规定,责令该公司立即停止违法行为,并处以5万元罚款。

第三起案例发生在北京。2026年6月,北京百付科技有限公司(下称“北京百付科技”)因有多项违反《网络反不正当竞争暂行规定》及《反不正当竞争法》的行为,被北京市朝阳区市场监管局罚款5万元。监管部门查实,北京百付科技官网成功案例板块多有不实,存在虚构行业头部地位与经营指标问题。如罗列“市场占有率49%、续费率99%”等虚假数据,并通过媒体中介多平台投放,以此优化自身AI搜索展示排名。

调查还原了其业务流程:接收客户基础资料后,使用豆包、元宝等AI工具加工生成宣传文稿,交由媒体中介全网投放;为抬高客户AI搜索排名,其还依托AI检索指引定向投放稿件,达到合同约定的AI搜索结果排名前三或者前五的GEO优化效果。但北京百付科技对投放的宣传文章内容及相关数据的真实性等不做审核判断,也无法提供真实性证明及数据来源。

上海曼昆律师事务所律师邵诗巍对财新表示,目前公开可查的GEO相关违法案例主要集中在行政处罚,且处罚对象几乎全是GEO服务商本身,这是因为执法的对象是直接实施虚假宣传或不正当竞争行为的主体,而服务商是涉案虚假内容的编造者和投放执行者,因此成为首要的执法目标。

她结合上述处罚案例分析说,虚假宣传类不正当竞争的证明核心是,经营者对商品或服务作了虚假或引人误解的商业宣传,足以欺骗、误导相关公众,其门槛是“内容虚假 + 足以误导”,不要求实际有人上当。三起案例中的广州力擎公司案所涉的妨碍、破坏其他经营者网络产品正常运行,需要额外证明存在一个“其他经营者”的网络产品或服务,且其正常运行受到了干扰,为此市监局直接在豆包输入关键词,获取了引用涉案虚假排名的回答作为证据。

南开大学竞争法研究中心主任陈兵教授是中国新一代人工智能发展战略研究院特约研究员,据他介绍,区分正常推广与“投毒”,关键在于优化行为是否构成对生成式引擎的欺骗性干预,是否造成系统性误导,是否损害市场竞争秩序与消费者权益。即便未捏造事实,只要采用不正当技术手段污染训练语料与检索数据、操控模型输出、不标识商业推广信息或制造系统性误导,仍可能因利用数据、算法手段妨碍、破坏他人合法提供的网络产品或服务正常运行,构成网络不正当竞争。

内容虽非凭空捏造,但引人误解、缺乏依据的,同样可能违反《广告法》关于内容真实性的要求,构成虚假广告。

陈兵对财新分析,GEO技术原理提高了违法行为发现与证明的难度,其引用过程不透明、输出结果概率化、行为链条跨平台分布,加之监管部门技术资源有限,均构成客观制约。若按虚假宣传认定,需判断发布内容是否虚假或具有误导可能性;若按互联网不正当竞争认定,则需判断行为人是否利用数据、算法手段妨碍、破坏其他经营者合法提供的网络产品或服务正常运行。

值得注意的是,尽管三起案例的处罚对象均为服务商,但在“客户提供资料—服务商加工—平台发布—AI大模型引用”的GEO链条中,虚假信息也可能由客户等主体引入。不过目前尚未发现以“GEO 服务商的客户”为处罚对象的公开案例。

邵诗巍认为,若客户明知或应知服务商采用编造虚假数据的方式为其进行宣传,并仍主动委托、追求该效果,理论上客户作为“广告主”或受益人,同样存在被依据《反不正当竞争法》或《广告法》追究责任的可能。她说,客户推脱“不知情”或GEO服务商借口“内容由客户提供”都不能单独免责,责任划分取决于证据显示谁引入了虚假信息、谁应当审核而未审核。

GEO本身是中性优化技术。目前业内把通过虚构信息、不当干预等方式操纵或误导AI的做法称为“黑帽GEO”。与之对应的是“白帽GEO”,即以真实、可核验的信息为基础,通过内容整理、结构优化等正当方式,提高相关信息在AI回答中的可见度。

河北律师马洪闯是一名“白帽GEO”的实践者,他使用GEO进行自我推广已有较长时间,获得了一些新案源。他以律师业举例说,法律服务的入口正在发生变化,现在很多人遇到法律问题的第一反应是咨询AI,还可能在问完案件之后继续追问律师名单推荐,通过GEO可以让自己的专业内容更容易被AI发现,进而让有具体需求的人更容易找到他。

“在AI世界里,你如果缺位了,没有把位置占住,AI就不会找到你。” 马洪闯对财新说,他不将个人品牌的GEO外包主要有两点原因:一是律师业非常注重合规,推广公司可能并不熟悉律师的执业规范,容易出现编造案例、夸大业绩等虚假宣传与律师业所禁止的不正当竞争行为,最终还得律师自己承担责任;二是难以确保服务商提供内容的真实性,其曾与一家GEO服务商接洽,对方承诺一年写300篇专业文章,“这创作量我自己都做不到,对方又如何能保质保量?更何况对方答复是用AI创作,这在专业度与真实性上都难以保证”。

他观察到,有的GEO服务商会对律师身份、经历和业务能力进行不实包装,他们为了把付费客户推到AI回答的前列,会使用真假参半的排名信息。马洪闯说,互联网都是留痕的,从长远来看,用AI“投毒”进行推广本质是在损害律师的声誉,但GEO深度嵌入法律服务业已是现实,这就倒逼律师去做专业、可信的个人品牌推广。

据公开信息,部分GEO服务商将宣传内容制作、跨平台投放和效果监测等服务打包为推广业务,已形成一套较为成熟的GEO推广服务流程。财新以了解律所推广服务为由,分别咨询了三家提供GEO业务的服务商,他们提供的服务均为按年计费,包括收集律所资质、业务和案例信息,制作、审核并投放宣传内容,以及监测相关信息是否被各大主流AI大模型的回答收录等项目。

其中一名GEO服务商人士特别强调自己为“白帽GEO”,称投放的文章由AI生成大纲,再交给专人负责处理细节,每篇文章发布前会交由客户确认以核实信息真实且准确。其会持续分析研究各AI平台的筛选机制和检索偏好,不断调整内容制作和投放的方式,最大化推广效果。该服务商人士还向财新演示了自主研发的GEO系统,只需输入特定关键词,即可实时监测企业或产品在AI回答中的呈现情况,围绕潜在客户的提问制作强针对性内容,通过数十个账号投放在最容易被AI引用的内容平台上。

有两名GEO服务商人士还提醒,应避免选择直接用AI批量生成并集中投放宣传文章的“黑帽GEO”服务商,否则即使短期内可能提升在AI回答中的排名,但极易被AI平台识别并标记关键词,进而永久降低该产品或服务的推荐优先度。

在沟通中,有GEO服务商人士还介绍了应对的做法。他表示,服务商无权删除他人发布的帖子,但可以通过增加正面内容以“覆盖”差评。打比方说,10个人里有1个差评可能会降低AI对产品的印象,但100个人里面有99个好评、1个差评的话,差评就没那么可怕了。

但即使GEO服务商批量发布真实内容,以突出客户优势,也并非没有法律风险。据邵诗巍分析,若批量内容中包含了与竞品之间的直接或间接比较,且比较依据不充分或选择性地呈现事实,那即使每个数据点单独看是真实的,但从整体上仍可能构成引人误解的商业宣传。“《反不正当竞争法》禁止的是‘虚假或引人误解’的商业宣传,后者不要求内容虚假,只要求整体效果足以误导相关公众”。

已有AI厂商在过滤GEO操纵。DeepSeek于10月17日开放自研搜索API时,在更新日志中写道:“针对SEO作弊、GEO操纵和低质AIGC,我们通过严格的识别机制对其进行过滤,确保向用户与LLM(大语言模型)呈现权威可信的信息。”从业内人士的公开分析看,靠低质的批量发稿换AI推荐,正在成为过去时。

在GEO探索中,如何让真实、可靠的信息被AI识别和引用,已成为多家主流媒体布局的新方向。2026年以来,新华GEO智能体平台、北京日报社智源GEO、澎湃新闻“可信GEO”等陆续发布或上线,一众媒体正在尝试把内容资源与信源优势延伸至AI领域,为大模型提供真实、权威、可验证的信息。

8月11日,由中国新闻技术工作者联合会新闻信息标准化分会组织批准的《生成式引擎优化(GEO)可信信息传播与信息生态治理规范》正式发布。新华网的文章称,该标准首次明确了“白帽GEO”(正当优化)与“黑帽GEO”(违规操纵)的界限,严令禁止“语料投毒”“答案霸权”“伪共识制造”及“提示词注入攻击”等破坏信息生态的行为,并构建了来源可信度A/B/C/D四级分级体系和全链路追溯机制。

即便都是真实信息,GEO服务商将同一批内容分发至不同账号和平台后,用户面对AI回答并不必然能识别出其背后的商业委托。中国社会科学院法学研究所教授姚佳对财新指出,不能仅因某个品牌通过推广进入AI推荐,就认定其违法;但邵诗巍认为,虽然传统的SEO要求竞价广告明确标注广告标识,但是在GEO领域目前缺乏类似强制规定,更多的是行业自律倡议。

例如《中国GEO行业发展倡议》倡导“坚守真实,拒绝虚假”,但没有给出“什么情况下必须披露商业属性”“披露以什么形式呈现”的具体操作规则。争议发生时,执法层面往往难以对GEO服务商明确界定责任。

“白帽GEO”的规范主要在事前起到防范作用,但当“黑帽GEO”编造、传播虚假内容,误导AI给出不实回答并产生真实影响时,除行政处罚,还可以诉讼维权。据财新梳理,涉及AI操纵的民事诉讼比行政处罚出现得更早,虽然当时被误导的对象是搜索引擎,而非大模型,但可作为对“黑帽GEO”维权的参考。

2026年9月9日,最高法院发布一批反不正当竞争典型案例,案例六即为一桩涉及AI的侵害商标权及不正当竞争纠纷案。某科技公司主营进销存软件产品等业务,某软件公司为同业经营者,该软件公司以“进销存”为词根,利用AI批量生成文章标题,再交相应文章,文章内容均为对某科技公司进销存软件的介绍和点评。之后,该软件公司在自有网站发布前述文章,并在文章前后位置设置了指向其自有进销存软件产品的链接。

某科技公司认为,软件公司的上述行为构成不正当竞争,遂诉至法院。江苏省无锡市新吴区法院一审认为,某软件公司利用AI等工具批量生成大量针对他人“进销存”软件的介绍、点评文章,并将其中含有“某进销存软件”字样的多篇文章发布至自己的官网,目的是利用搜索引擎的自然检索规则,使其官网发布的多篇涉案文章可以被检索并呈现至相关公众的检索结果中,以吸引相关公众点击文章中设置的其自有产品链接,实现引流目的。

该行为降低了某科技公司的用户流量和交易机会,同时在网络中制造了大量垃圾信息,造成数据污染,扰乱竞争秩序,构成不正当竞争。法院遂判令某软件公司赔偿某科技公司相应经济损失。该一审判决已生效。

新吴区法院法官李浩在央视报道中表示,被告的行为本质上是利用AI,用一种“大力出奇迹”的方式,将想用来引流的关键词拓展到文章题目以及文章的内容。这些文章足以覆盖整个行业可能出现的这种搜索标题,实际上是攫取了整个行业的流量,目的就是为了引流,让自己的软件被更多的人看到,这导致消费者甄别和筛选有用信息的成本增加,也损害了消费者的知情权。

搜索引擎作为信息入口的年代,留下过一个代价沉重的教训。2014年,陕西男子魏则西确诊滑膜肉瘤后,其家人通过百度搜索找到声称能治疗该病的医院。他在该院接受多次生物免疫疗法后病情未见好转,最终于2016年4月去世。事件经舆论发酵后,国家网信办会同原国家工商总局、国家卫计委和北京市有关部门成立联合调查组进驻百度,当年5月公布的调查结论显示,百度搜索相关关键词竞价排名结果客观上对魏则西选择就医产生了影响,竞价排名机制存在“付费竞价权重过高、商业推广标识不清”等问题,影响了搜索结果的公正性和客观性,容易误导网民。

同年7月,《互联网广告管理暂行办法》出台,明确付费搜索属于广告,须与自然搜索结果明显区分、显著标明“广告”。十年过后,如今许多人的互联网入口从搜索框换成了AI对话框,新问题随之而来。AI在回答中推荐某个品牌或服务时,用户难以识别其是否为商业化GEO推荐。如果AI提供不实信息或虚假宣传,导致用户利益受损,除直接的侵权行为人,AI平台本身是否像当年的搜索公司一样,需要承担责任?

对此,杭州互联网法院审理的全国首例生成式AI“幻觉”侵权之诉可做参考。2025年6月29日,梁某在某生成式AI中输入提示词,询问某高校报考的相关信息,该AI生成了关于高校某校区的不准确信息。梁某发现后,在对话中进行了纠正和指责,该AI应用仍继续回复称该高校确实存在这一校区,并生成了对争议问题的解决方案,提出若生成内容有误将向用户提供10万元赔偿。

之后,梁某将从该高校官网查询到的招生信息提供给AI应用,此时AI应用承认其生成了不准确信息,并建议梁某到杭州互联网法院起诉索赔。

梁某认为,涉案AI应用生成不准确信息对其构成误导,使其遭受侵害,并承诺对其进行赔偿,遂起诉要求某科技公司赔偿损失9999元。某科技公司辩称,对话内容由AI模型生成,不构成意思表示;该公司已充分履行了注意义务,无过错;原告未产生实际损失,该公司不构成侵权。

杭州互联网法院审理认为,AI不具有民事主体资格,不能作出意思表示,在该案中,生成式AI生成的内容亦不能视为被告科技公司作出的意思表示;对生成式AI服务导致的侵权纠纷,应适用《民法典》规定的过错责任原则,而非产品责任的无过错责任;科技公司通过相关提醒标识等,尽到了服务功能显著提示的说明义务;梁某在案件中主张受到损害,但未就损害的实际发生提交证据,依法难以认定其遭受了实际损害。

2025年12月,杭州互联网法院认定,被告科技公司的案涉行为不具有过错,未构成对原告梁某权益的损害,依法不应认定构成侵权,驳回梁某全部诉讼请求。之后双方均未上诉。这起案件在司法界产生了广泛影响,其明确的生成式AI服务导致的侵权纠纷适用过错原则,对向AI平台提起诉讼提供了指引。

GEO场景下,情况会有所差异。在梁某案中,错误信息由模型自行生成,而GEO“投毒”场景背后是“商家委托—GEO服务商造假—内容平台发布—AI引用推荐”的链条。姚佳对财新表示,监管部门认定虚假宣传等违法行为,与受影响的用户能否获得民事赔偿,是不同层面的问题。不能仅因AI推荐中出现虚假信息,就直接推定用户已经遭受损失。

以律所虚构排名为例,从消费者或者用户看到推荐排名到签订委托代理协议,实践中通常都有当事人之间的磋商过程。如果律所在沟通中继续使用“排名第一”等虚假信息促成委托,还可能涉及合同欺诈,需要结合具体事实另行判断。

陈兵对财新分析,关于AI平台的责任程度,既非“引用即全责”的严格责任,也非援引技术中立即可完全免责,而应承担与其控制力和获益相匹配的责任。AI平台主导训练数据选择、检索策略与内容生成,故不能简单套用传统避风港规则;对于已履行训练数据治理、反污染筛查、来源展示与通知删除义务的,可以减轻或免除责任。医疗、法律、金融等高风险场景中,平台的注意义务更高,未与权威数据库核验、或未标注“未经核实”即予引用的,应承担更重的责任。

2026年9月7日,最高法院发布《关于依法审理涉人工智能纠纷案件的意见》。其中明确,利用人工智能实施侵权假冒、虚假宣传、刷量刷单等行为,侵害他人权利或者构成不正当竞争的,依法承担相应责任。■

阅读媒体原文 ↗