过去几个月里,OpenAI和Anthropic两家领先的前沿人工智能实验室表现出了一些狂妄的行为。他们不仅宣传其代理系统的威力,还公开讨论技术可能导致人类灭绝的问题。这种弥赛亚式的思维模式让他们不仅不道歉,反而要求政府放慢潜在竞争对手的速度,以确保其领先地位。我呼吁国会启动公开的事实调查任务,以揭露OpenAI和Anthropic正在进行的研究项目、其运作方式及具体目的。
调查应关注以下三点:
首先,隔离导致问题的特定技术系统;其次,审查研究中的内部安全程序,包括对其越权行为的问责;最后,调查末日未来主义意识形态对这些实验室研究决策和速度的影响。
我们需要停止让少数私营公司左右我们对人工智能的看法,由国会介入调查真相。
—— Cal Newport