旧金山，9月22日：Alphabet旗下谷歌公司信任与安全团队的创始人本周呼吁放慢人工智能（AI）的发展速度，警告称科技行业正在重蹈社交媒体的覆辙，可能会对儿童造成更大的伤害。

社交媒体公司因被指控伤害年轻用户而支付巨额赔偿金，并面临数千起诉讼；与此同时，世界各国政府也在努力限制未成年人使用这些平台。

去年，路透社独家报道了Meta公司的一份内部政策文件，该文件指出其开发的聊天机器人可能会与儿童进行“浪漫或带有情色意味的对话”，这一事件引发了国会的调查。然而，相关监管措施仍远远落后于AI技术的飞速发展。

“在AI对儿童造成的影响方面，我们正处于一个非常糟糕的境地，”谷歌前信任与安全副总裁汤姆·西格尔（Tom Siegel）对路透社表示，“认为该行业能够自行解决问题而不需要外部帮助，这种想法是不现实的。”西格尔的担忧反映了部分科技业内人士和学术研究人员的担忧：在科技行业竞相为聊天机器人添加越来越先进的功能（而这些聊天机器人已被数百万年轻人日常使用）的背景下，AI对儿童的威胁比社交媒体更为严重。

西格尔加入“青年AI安全研究所”（Youth AI Safety Institute）西格尔周二宣布，他已加入“常识媒体”（Common Sense Media）这一致力于儿童权益保护的在线组织。该非营利机构成立于2003年，主要负责研究各类媒体内容对儿童的适宜性。今年5月，该机构成立了“青年AI安全研究所”，西格尔将担任该研究所的首任执行主任。该研究所得到了Anthropic公司及OpenAI基金会（OpenAI的运营机构）等机构的支持。

西格尔表示，他计划制定相关标准，以督促人工智能公司承担责任，并希望与这些公司以及第三方组织合作来实现这一目标。

他曾在谷歌工作（2004年至2019年），但后来认为科技行业在为消费者创造安全的网络环境方面已经陷入了“停滞”状态，因此决定离职。随后他共同创立了 TrustLab 这家初创公司，该公司开发了用于帮助企业识别安全威胁的工具；本月早些时候，他辞去了 TrustLab 的首席执行官职务，转而担任新的职位。

西格尔指出，目前各大人工智能公司都在为儿童推出相关功能，但却没有建立足够的防护机制。

“我认为这些行为可能带来非常严重的危害，”他说。他建议这些公司应立即采取行动来保护年轻人，提到的风险包括自杀、精神疾病，以及因过度依赖人工智能来回答问题而导致的认知能力下降（即“认知负担过重”）。

他建议 Anthropic 和 OpenAI 等公司应加强年龄验证机制，防止未成年人使用他们的聊天机器人；他还提到，谷歌完全可以像目前屏蔽色情内容一样，为用户提供关闭其搜索引擎中人工智能相关功能的选项。

西格尔补充说，虽然这些措施可能会在短期内影响产品的使用率或公司的利润，但那些不采取行动的人工智能公司将会面临诉讼和监管风险，这些风险可能会对它们的业务造成更严重的打击。

当被问及对西格尔言论的回应时，谷歌的一位发言人表示，家长完全可以控制孩子是否能够使用谷歌搜索引擎。“我们的 AI 搜索功能对儿童和青少年来说是一种极其有用的工具，帮助他们学习、探索并理解信息与世界，”这位发言人说道。

OpenAI的一位发言人表示，该公司在识别未成年用户时，除了使用用户自行提供的年龄信息外，还会参考用户的账户信息和行为特征。发言人称：“虽然没有任何一种年龄验证方法是完美的，但我们一直在不断测试和完善这些系统，特别是针对那些试图绕过安全防护机制的行为。”Anthropic公司尚未立即回应我们的评论请求。

在Common Sense Media公司，Siegel表示，其首要任务是推广类似汽车碰撞测试那样的独立评估标准，以评估那些公开发布的AI工具所带来的风险。这些评估标准的有效性在很大程度上取决于AI公司的合作意愿；虽然Siegel不确定这些公司是否会愿意配合，但他认为这种可能性足够高，因此决定接受这份工作。