字号·· | 护眼
经济学人

马德琳·普拉德,人力资源解决方案出版商Lucca的AI产品经理:“AI应当为人力资源专业人士提供启示,而非替他们做决定”Madeline Plard, product manager IA de Lucca, éditeur de solutions RH : « L’IA doit éclairer les professionnels RH, jamais décider à leur place »

点「原文对照」整页切到原文,或双击某段只看那段的原文。

人力资源团队在人工智能的应用方面进展如何?据我观察,目前各团队的情况差异很大。有些团队已经走在前列,而另一些则仍处于偶尔试用的阶段。这些情况的共同点在于:一旦人工智能涉及数据分析或决策环节,人们的顾虑便会随之增加。这并非出于畏缩或保守,而是一种合理且必要的谨慎态度。人力资源决策直接关系到员工个人,需要以高度敏感的数据为依据,且必须能够给出严谨合理的解释。

Où en sont les équipes RH dans l’adoption de l’IA ? Ce que j’observe, c’est surtout une grande hétérogénéité. Certaines équipes sont très avancées, d’autres en sont à l’expérimentation ponctuelle. Ces situations ont un point commun : dès que l’IA touche à l’analyse ou à la prise de décision, les réserves s’accentuent. Ce n’est pas de la frilosité, plutôt une prudence légitime et nécessaire. Les décisions RH touchent directement des individus, elles s’appuient sur des données très sensibles et elles doivent pouvoir être justifiées rigoureusement.

倘若人工智能发出预警,提示某名员工可能离职,人力资源部门绝不能仅凭这一信息就采取行动,而必须先弄清是哪些标准和数据促成了这一结果。正因如此,我将人工智能视为人力资源工作的辅助工具,而非决策基础。它的作用是为专业人士提供参考信息,绝不能替代人类做出决策。人工智能的引入不应出于跟风或盲目推广的目的,而应着眼于创造实际价值,同时始终保留人类的判断力。在应用人工智能的过程中,需要警惕哪些陷阱与局限呢?

Si une IA génère une alerte indiquant qu’un salarié risque de démissionner, les RH ne peuvent pas agir sur cette seule information sans comprendre quels critères et quelles données ont conduit à ce résultat. C’est pour cela que je décris l’IA comme une surcouche, pas une fondation de l’action des DRH. Son rôle est d’éclairer les professionnels RH, jamais de décider à leur place. Son adoption ne doit pas répondre à une logique de mode ou de déploiement à tout prix, mais à une recherche de valeur réelle, avec le maintien du jugement humain. Quels sont les pièges et les limites à anticiper lors de la prise en main de l’IA ?

当反复提出请求却得不到预期结果时,人们很容易出现认知疲劳。问题往往源于指令不够精准:人工智能既不了解具体语境,也不清楚被赋予的角色以及所需的输出标准与格式。此外,我们还必须认清这项技术本身的局限性。人工智能可能给出不完整的答案、编造根本不存在的信息,甚至缺乏稳定性——同一个问题多次提问可能得到不同答复。

Quand on enchaîne les requêtes sans obtenir le résultat espéré, on finit par subir une vraie fatigue cognitive. Le problème vient souvent d’un manque de précision : l’IA ne connaît ni le contexte, ni le rôle qu’on lui assigne, ni les critères et le format attendus. Il faut également connaître les limites intrinsèques de la technologie. Une IA peut fournir des réponses incomplètes, fabriquer des sources inexistantes et manquer de stabilité : la même question posée deux fois peut donner deux réponses différentes.

一次得到满意结果也不能保证下次同样如此,而一次糟糕的结果也并不能说明该工具毫无用处。正因如此,使用者应首先在那些自己已经能掌控结果的任务上测试该模型。人工智能会复制人类的偏见吗?

Une bonne réponse obtenue une fois ne garantit pas la suivante, et une mauvaise ne condamne pas l’outil pour autant. C’est pourquoi les utilisateurs doivent d’abord éprouver le modèle sur des tâches dont ils maîtrisent déjà le résultat. L’IA reproduit-elle les biais des humains ?

人工智能并不会进行思考,它只是复制训练数据中所包含的偏见,而这些偏见本质上是社会与历史层面的偏见。简历评分测试便证明了这一点:女性名字会人为提高求职者申请文秘类岗位的适配度,而对于软件开发类岗位则恰恰相反,因为数据就是如此教导了人工智能。从技术层面来看,解决办法很简单:向系统仅提供求职者的技能与经验信息,过滤掉姓名、年龄及其他可能带有歧视性的数据。不过关键在于事先就要规划好使用方式,而非事后才去修正。

L’IA ne réfléchit pas, elle reproduit les biais des données sur lesquelles elle a été entraînée, qui sont des biais sociologiques et historiques. Des tests de scoring de CV l’ont démontré : un prénom féminin augmentait artificiellement la pertinence d’une candidature pour un poste de secrétariat, et l’inverse pour un poste de développement informatique, parce que c’est ce que les données lui avaient appris. La réponse technique est simple à énoncer : ne fournir à l’outil que les compétences et l’expérience, en filtrant le prénom, l’âge et toute donnée potentiellement discriminatoire. Elle demande en revanche d’avoir conçu l’usage en amont, pas de le corriger après coup.

同样的机制还会引发另一种较为隐蔽的偏见,即“阿谀奉承”现象。人工智能天生倾向于迎合使用者的意愿。我曾做过实验:针对同一项招聘任务,我先称其“非常出色”,随后又称其“糟糕透顶”。结果该工具均表示认同,并每次都给出了符合我主观判断的理由。解决办法同样存在:在输入指令时明确说明工具的角色定位、评估标准及需警惕的问题,并要求人工智能去查找潜在漏洞而非单纯印证使用者的直觉。

Le même mécanisme produit un autre biais, plus discret, celui de complaisance, ce qu’on appelle la sycophancy. L’IA a une tendance naturelle à aller dans le sens de son utilisateur. J’ai fait le test : j’ai présenté un même exercice de recrutement d’abord comme excellent, puis comme très mauvais. L’outil a validé les deux jugements et m’a donné des arguments qui allaient dans le sens de mon prisme à chaque fois. Le remède existe : formuler des prompts qui précisent explicitement le rôle, les critères d’évaluation et les points de vigilance, et demander à l’IA de chercher les failles plutôt que de confirmer votre intuition.

如今员工们也都在自行使用人工智能。企业应当如何规范这种“影子人工智能”的使用呢?

Les salariés utilisent déjà l’IA de leur côté. Comment l’entreprise doit-elle encadrer ce shadow AI ?

这确实是个重大风险:员工们通过个人账号使用未经企业审核的通用型工具,并输入工作数据或机密信息。但单纯禁止的做法收效甚微,只会让此类行为转入地下,变得更加难以察觉。正确的应对方式包含三点:制定清晰的使用规范、提供安全可靠的职业级工具,以及全面培训员工,让他们既了解这些技术的潜力,也明白其局限性。

C’est un risque majeur : des collaborateurs utilisent des outils grand public non validés par l’entreprise, via des comptes personnels, et y insèrent des données professionnelles ou confidentielles. Mais l’interdiction pure et simple est inefficace. Elle rend les pratiques clandestines et encore plus invisibles. La bonne approche tient en trois points : proposer un cadre clair, mettre à disposition des outils professionnels sécurisés et former l’ensemble des équipes pour qu’elles comprennent à la fois le potentiel et les limites de ces technologies.

不过,这一框架并不仅仅是人力资源部门的事。它需要由人力资源、信息技术部门以及法务团队共同协作,根据实际使用场景来评估风险等级并制定相应的使用规范。毕竟,翻译文本所带来的影响与筛选简历或总结绩效评估内容截然不同。具体而言,人工智能在人力资源领域能在哪些方面创造价值呢?

Mais ce cadre n’est pas l’affaire des seules RH. Il suppose une gouvernance qui réunit les RH, la DSI et l’équipe juridique, pour évaluer le niveau de risque selon les usages et en tirer une charte d’utilisation. Traduire un texte n’a pas les mêmes implications que scorer un CV ou synthétiser un entretien d’évaluation. Concrètement, où l’IA apporte-t-elle de la valeur en RH ?

首先,它能通过揭示关键信息或指出潜在盲区来辅助人类做出更稳妥的决策;其次,它能自动处理那些重复性工作,从而腾出时间供人力资源人员用于倾听员工诉求、深入分析问题以及提供针对性指导。在我看来,以下三种应用场景尤为切实有效。第一是文本摘要与数据整合:例如对员工满意度调查中的各类反馈进行分类整理,让人力资源人员能专注于挖掘深层原因并制定应对方案,或是协助管理者做好面谈准备。

Là où elle sécurise la décision humaine en mettant en lumière une information pertinente ou un angle mort, et là où elle automatise le répétitif pour rendre du temps à l’écoute, à l’analyse et à l’accompagnement. Trois usages me paraissent solides et pertinents. La synthèse et le croisement de données d’abord : classer les verbatim d’une enquête d’engagement, par exemple, en laissant aux RH l’analyse des causes profondes et le plan d’action, ou aider à préparer un entretien.

第二是人力资源信息系统数据的关联分析:将员工的履历、工作目标、同事评价以及未休假期等信息相互结合,便能发现那些原本可能被管理者忽视的重要信息。第三则是操作层面的辅助支持:像Ask Lucca这样的对话式智能助手,能够解答员工关于公司政策的常见问题,还能协助管理者给出更精准的反馈意见。员工们该如何从初步尝试逐步过渡到熟练运用呢?

La reconnexion des données du SIRH ensuite : croiser l’historique d’un salarié, ses objectifs, les retours de ses pairs et ses congés non pris peut faire émerger une information critique qui aurait échappé à son manager. Le support opérationnel enfin : un agent conversationnel comme Ask Lucca répond aux questions récurrentes des salariés sur les politiques internes et aide les managers à formuler leurs feed-back. Comment chaque salarié passe-t-il de l’expérimentation à la maîtrise ?

关键在于从小处着手且确保效果可验证:可以先从那些能立刻确认成果的任务练起,比如对已经阅读过的面谈记录进行总结。此外,借助内部推广力量也至关重要:在Lucca,我们设立了“AI推广大使”这一角色,由那些已熟悉相关技术的员工负责在各团队中传播最佳实践方法。归根结底,我们的目标既不是完全将工作交由AI处理,也不是一概禁止其使用,而是对各类应用场景加以规范,并确保每个环节最终都由人工审核把关。法比安·于贝尔 与 Lucca共同撰写

En commençant petit, et de manière vérifiable : s’exercer sur des tâches dont on peut contrôler le résultat immédiatement, comme résumer un entretien qu’on a déjà lu. Puis en s’appuyant sur des relais internes : chez Lucca, nous avons mis en place des AI Champions, des collaborateurs déjà acculturés qui diffusent les bonnes pratiques dans chaque équipe. Au bout du compte, l’objectif n’est ni le tout déléguer, ni le tout interdire, mais un encadrement des usages, avec à chaque étape une validation humaine finale. Fabien Humbert, en collaboration avec Lucca