
版本1282年,法布里亚诺的意大利造纸商萌生了一个简单的想法:他们在模具底部固定一根金属丝,这样纸张在透光时便会留下工坊的印记。水印由此诞生。它表明纸张的产地,却从不揭示纸上写的内容。
Vers 1282, les papetiers italiens de Fabriano ont eu une idée simple. Ils fixaient un fil métallique au fond de leurs formes, et la feuille gardait, visible en transparence, la marque de l'atelier. Le filigrane était né. Il disait d'où venait le papier, jamais ce qu'on y écrivait.
七个世纪之后,OpenAI将这一理念重新应用于无纸时代。10月5日,该公司宣布,未来几周内,ChatGPT和Codex在欧盟境内生成的合格文本将带有不可见的标记。既没有隐藏字符,也没有可疑的间距。这种信号隐藏在词语的选择之中:当机器在两个术语之间犹豫时,它会依据只有其检测器才知道的规则,悄然偏向其中一个。这项名为textGrain的技术能够抵抗复制粘贴,因为签名本身就嵌入在句子之中。
Sept siècles plus tard, OpenAI reprend le principe sans le papier. Le 5 octobre, l'entreprise a annoncé que les textes éligibles produits par ChatGPT et Codex dans l'Union européenne porteraient, dans les semaines suivantes, une marque invisible. Aucun caractère caché, aucun espacement suspect. Le signal loge dans le choix des mots. Quand la machine hésite entre deux termes, elle penche discrètement selon une règle que seul son détecteur connaît. Baptisée textGrain, la technique résiste au copier-coller, puisque c'est la phrase elle-même qui porte la signature.
这一举措源于监管要求。自8月2日起,《人工智能法案》要求生成式AI供应商确保其内容能被机器识别。然而,原始文本本身并不携带任何元数据,因此这种“指纹”必须融入文本之中。同时,它还不能破坏复制效果。据OpenAI称,无论是否添加水印,其Astra模型的性能几乎保持不变——墨水不会晕染。
Le déclencheur est réglementaire. Depuis le 2 août, l'AI Act impose aux fournisseurs d'IA générative de rendre leurs contenus identifiables par une machine. Or un texte brut ne transporte aucune métadonnée. L'empreinte devait donc se fondre dans le texte. Encore fallait-il qu'elle n'abîme pas la copie. Selon OpenAI, les performances de son modèle Astra restent pratiquement identiques avec ou sans filigrane. L'encre ne bave pas.
一种会消失的签名。该公司罕见地坦率阐述了该工具的局限性:在400个词元(约合300个英文单词)的段落中,检测器有92%的概率识别出标记;但如果每十个单词中替换一个为同义词,识别率会降至66%;若每四个单词中替换一个,则骤降至17%。短文本、数学文本或翻译文本则不太适合这种分析。OpenAI承认,没有水印并不意味着文本一定由人类撰写。这种信号既无法揭示用户身份,也无法说明人类参与的程度,更不能验证内容的真实性。
Une signature qui s'efface L'entreprise détaille avec une franchise inhabituelle les limites de son outil. Sur des passages de 400 tokens, soit environ 300 mots en anglais, le détecteur repère la marque dans 92 % des cas. Si l'on remplace un mot sur dix par un synonyme, le taux tombe à 66 %. Avec un mot sur quatre, il s'effondre à 17 %. Les textes courts, mathématiques ou traduits se prêtent mal à l'analyse. OpenAI reconnaît que l'absence de filigrane ne prouve pas qu'un humain a tenu la plume. Le signal ne révèle ni l'identité de l'utilisateur, ni la part du travail humain, ni la véracité du propos.
由此产生了一个耐人寻味的悖论:作者对机器生成的文本修改得越多,机器留下的痕迹就越少。这种水印并不说明谁写了文章,而是说明谁没有足够地重写。赶时间的学生会因此露馅,而用心的抄袭者却能蒙混过关。目前,实际上还没有人能够验证这一点。这种检测工具仅针对特定情况,供研究人员和授权机构使用。OpenAI承诺,一旦结果能够被负责任地解读,就会扩大其使用范围。这种谨慎实属明智,毕竟一次误判就可能毁掉一个人的声誉。
D'où un paradoxe savoureux. Plus un auteur retravaille le texte de la machine, moins celle-ci le signe. Le filigrane ne dit pas qui a écrit. Il dit qui n'a pas assez réécrit. L'étudiant pressé sera trahi, le fraudeur appliqué passera entre les mailles. Pour l'heure, personne ne peut d'ailleurs vérifier. Le détecteur est réservé, au cas par cas, à des chercheurs et à des organismes agréés. OpenAI promet d'en élargir l'accès quand les résultats pourront être interprétés de façon responsable. Prudence de bon aloi, tant un faux positif peut ruiner une réputation.
欧洲:验证的试验场 最引人注目的差异体现在地理分布上。默认情况下,水印仅在欧洲启用。在其他地区,ChatGPT并不会被标记,只有API客户可以选择启用它。OpenAI称这是为了根据地区实际情况进行调整的策略,但人们也可以从中读出别的意思。2024年,《华尔街日报》报道称,该公司曾保留一种类似工具,以防用户转向那些缺乏道德约束的竞争对手。而欧洲法律则通过统一规则解决了这一困境。另一方面,Anthropic早在去年夏天就决定在全球范围内对Claude生成的文本进行标记。
L'Europe, laboratoire de la preuve Le plus révélateur tient à la géographie. Le filigrane n'est activé par défaut qu'en Europe. Ailleurs, ChatGPT n'est pas marqué et seuls les clients de l'API peuvent choisir de l'activer. OpenAI évoque une approche régionale destinée à apprendre du terrain. On peut y lire autre chose. En 2024, le Wall Street Journal rapportait que l'entreprise gardait en réserve un outil comparable, de peur de voir ses utilisateurs partir chez des concurrents moins scrupuleux. La loi européenne a dénoué ce dilemme en imposant la même règle à tous. Anthropic avait, de son côté, choisi dès l'été de marquer les textes de Claude dans le monde entier.
布鲁塞尔因此重拾其熟悉的角色——制定标准,并最终被其他地区所采纳。但问题在于,这种标准在笔触落纸的第一刻就可能消失,它究竟还有多少价值?法布里亚诺的水印可以证明一件物品的来源,而OpenAI的水印则试图验证一个过程,尤其是在写作日益混合化的今天。真正的问题或许已不再是机器是否参与了写作,而是它参与到了何种程度。对于这个问题,目前还没有任何隐形墨水能够给出答案。
Bruxelles retrouve ainsi un rôle familier, celui de producteur de normes que d'autres finissent par adopter. Reste à savoir ce que vaut une norme dont la preuve s'évapore au premier coup de crayon. Le filigrane de Fabriano certifiait un objet. Celui d'OpenAI tente de certifier un processus, à l'heure où l'écriture devient hybride. La vraie question n'est peut-être plus de savoir si une machine a écrit, mais dans quelle proportion. À celle-là, aucune encre invisible ne sait encore répondre.