埃里卡·基内茨（Erika Kinetz）指出，人工智能正以几年前无法想象的方式助推诈骗活动。根据美联社-NORC公共事务研究中心的一项民意调查显示，98%的美国人表示他们曾成为诈骗者的目标，其中许多人甚至每天都会遭遇诈骗。

随着人工智能的进步，许多曾经作为伪造品警示信号的不规则现象——例如不自然的眨眼、过于完美的面孔或机械化的声音——正在消失。随着全球诈骗者纷纷采用人工智能，记住“眼见不一定为实，耳听也不一定为真”变得比以往任何时候都更加重要。

美联社与美国公共电视网（PBS）的《前线》（FRONTLINE）栏目合作，邀请了ForenSwiss和GetReal Security的生成式人工智能专家，展示了操纵图像和创建虚假内容的技术已经变得多么复杂。你能分辨出什么是真实的吗？

专家表示，深度伪造技术的发展速度极快，即使是目前存在的一些微小瑕疵，在未来也可能不复存在。

ForenSwiss的伊内斯·平顿（Ines Pinton）表示：“嘴部仍然是最好的破绽。”在发“b”、“p”或“m”等音（如“mom”或“baby”）时，需要嘴唇完全闭合，而要精准把握这些发音的时机尤其困难。牙齿或口腔内部可能会显得模糊。此外，深度伪造视频中的声音可能听起来平淡，缺乏自然的呼吸节奏。图像中的阴影和反射是否合理？

但专家提醒，这些潜在的不规则现象应被视为压力测试，而非真实性的确凿证据。畸形的手部可能暴露拙劣的伪造，但看起来正常的手部也不应被视为图像真实的证据。

平顿说：“在最顶尖的案例中，仅凭肉眼可能已经基本无法分辨。在某种程度上，常识——核实信息的真实来源，而不是仅仅因为看起来真实就盲目信任——将是唯一依然有效的方法。”