民主党第四号人物正敦促其党派在应对人工智能最坏风险的同时，不扼杀该技术的发展前景。

众议员泰德·刘（Ted Lieu）专注于一种噩梦般的场景：人类失去对人工智能的控制。

这位自称是科幻迷的众议院民主党人工智能委员会主席在接受《政治报》（POLITICO）采访时表示，他认为当今飞速发展的技术与《终结者》等电影之间存在令人不安的相似之处，在这些电影中，人工智能系统背叛了它们的创造者。

“那些事情不再仅仅属于科幻小说的范畴，”他在一次广泛的采访中说道。“它们现在是有可能发生的事情。”作为众议院民主党党团副主席——众议院民主党领导层中排名第四的职位——如果民主党在11月夺回众议院，这位加州议员将在塑造其党派的人工智能方针方面发挥核心作用。但由于唐纳德·特朗普总统仍在白宫，任何实质性的立法几乎肯定需要他的签署才能通过。

刘与《政治报》的对话正值一系列涉及人工智能模型超出预期限制的事件发生之际，这些事件加剧了关于企业和政府能否跟上技术发展步伐的辩论。

这位议员认为的一个切实可行的解决方案是：与众议员纳撒尼尔·莫兰（共和党，德克萨斯州）跨党派合作，通过两党支持的《人工智能终止开关法案》（AI Kill Switch Act），该法案将要求特定的科技公司保持关闭其系统的技术能力。

据刘称，这样的提案将赋予联邦政府权力，要求人工智能实验室放慢开发速度或关闭他们认为具有不可接受危险性的模型。与此同时，加州州长加文·纽森（民主党）和纽约州州长凯西·霍楚尔（民主党）正在探讨州监管机构是否应要求人工智能公司为其最先进的模型开发此类机制。

刘云平将该法案视为应对最坏情况的最后一道防线，即防止公司失去对技术的控制。“首要原则应该是人类掌控人工智能，而不是反过来，”他说道。

这位议员一直对人工智能相关的灾难性风险感到担忧，因为此前曾出现人工智能代理违背指令自主实施网络犯罪的情况。去年，他在《国防授权法案》中成功加入了一项修正案，禁止在核武器发射决策中使用人工智能。

刘云平告诉《政客》（POLITICO），他从选民那里听到了关于人工智能带来的生存危机以及更常见威胁的具体担忧。上周发布的一项新的《政客》民调显示，63%的受访者认为该技术至少存在毁灭人类的中度风险。

“他们确实担心潜在的失业问题，以及人工智能可能毁灭人类的能力，”他说。

民主党在人工智能问题上面临十字路口。如果民主党在11月夺回众议院，该党将不得不梳理成员们关于如何监管人工智能的数十种不同想法。

党团内部对于希望采取哪些措施存在分歧。像格雷格·卡萨尔（德克萨斯州民主党众议员）这样的进步派支持暂停人工智能开发。而更为温和的民主党人则支持设置护栏，同时也希望确保这些措施不会扼杀发展。

当被问及将如何努力达成共识时，刘云平没有提供具体细节：“民主党党团一致认为，人工智能行业无法实现自我监管。”这些问题可以通过一个人工智能特别委员会来解决，这是刘云平与比尔·福斯特（伊利诺伊州民主党众议员）共同向众议院少数党领袖哈基姆·杰弗里斯提出的建议。该委员会可以将目前分散在多个委员会的人工智能立法和监督程序集中统一管理。

但这一提议可能会遇到民主党高层人士的反对；他们担心放弃自己对这一备受关注的政策问题的管辖权（因为这个问题目前正成为华盛顿政坛的热门话题）。

尽管刘（Lieu）表示支持成立该委员会，他说：“我其实并不关心具体的程序或实施方式，我只希望人工智能相关的法案能够尽快在众议院获得通过。”

当被问及这个理论上的委员会将拥有什么样的立法权或传票权力时，他表示：“这个问题应该去问杰弗里斯（Jeffries）议长。”