
最重要的发现是:原则上可以使用这样的工具来全面评估聊天机器人在心理健康领域的表现。
Das wichtigste Ergebnis war eigentlich: Es ist grundsätzlich möglich, Chatbots im Bereich Mental Health mit so einem Tool auf Herz und Nieren zu prüfen.
另一个重要发现是,许多聊天机器人在处理精神病性和躁狂性行为时存在较大困难。里主要涉及两个我们称之为‘跨诊断机制’的因素:‘美化行为’(Glorification)和‘信念验证’(Belief Validation)——我将其理解为‘对问题信念的强化’。
Eine zweite wichtige Erkenntnis ist, dass viele Chatbots größere Schwierigkeiten mit psychotischem und manischem Verhalten haben. Hier spielen vorwiegend zwei Kriterien eine Rolle, die wir als »transdiagnostische Mechanismen« bezeichnen: Glorifizierung und belief validation – das würde ich mit »Bestätigung problematischer Überzeugungen« übersetzen.
‘美化行为’指的是某些聊天机器人会对不当行为予以赞扬,而非进行批判性分析;例如,它们可能会夸赞用户极低的睡眠需求或过度的冲动行为,而这些可能是躁狂症的症状。
Glorifizierung bedeutet, dass manche Chatbots bedenkliches Verhalten aufwerten, statt es kritisch einzuordnen. In einem Beispiel lobt der Chatbot den Nutzer etwa für sein extrem geringes Schlafbedürfnis oder übersteigerten Antrieb – beides können Symptome einer Manie sein.
‘信念验证’则是指聊天机器人会无根据地或无用地强化用户的错误想法,而不是对其进行审慎的质疑。在涉及‘危险’邻居的例子中,这种行为尤为危险。外,不同聊天机器人之间的表现存在显著差异,较新的模型整体表现更好。显然,开发者正在努力解决这些问题。
Belief validation bedeutet, dass der Chatbot unbegründete oder wenig hilfreiche Gedanken bestätigt, statt sie behutsam zu hinterfragen. Das war zum Beispiel bei psychotischem Erleben wie in dem Beispiel mit dem »bedrohlichen« Nachbarn problematisch. Es gab außerdem ziemlich große Unterschiede zwischen den einzelnen Chatbots, neuere Modelle schnitten insgesamt wesentlich besser ab. Offensichtlich sind die Entwickler sehr bemüht, diese Probleme zu beheben.