字号 ·· | 护眼
彭博社

Palantir CEO称AI公司应对自身行为负责

Palantir Technologies Inc.首席执行官Alex Karp表示,人工智能系统的开发者需要对自己的工作负责,而不是依赖政府监管。

在CNBC采访中,当被问及人工智能威胁人类日益增长的担忧,以及Anthropic PBC首席执行官Dario Amodei等人呼吁全行业放缓AI开发时,Karp表示:“第一道防线是你对自己的行为负责。”“第一步是说,好吧,你已经披露了这一点,你打算怎么做?”

Amodei提议在AI公司的运营中嵌入独立的第三方评估人员,以确保它们遵守安全准则和护栏。Karp称这种监管很复杂。“你需要了解它们的人,”他说。“我们面临的另一个问题是,似乎每个了解这一点的人都在某个工资单上。所以就像,‘你打算信任谁?’”英伟达公司首席执行官黄仁勋本周早些时候也类似地表示,AI公司有责任确保他们发布的产品是安全的。黄仁勋对AI公司的建议是,如果“产品不安全,就暂停一下,确保你做对了。”