北卡罗来纳州切尔希尔——OpenAI首席执行官萨姆·奥尔特曼向Axios展示了即将推出的AI模型的力量与风险，令人大开眼界，其中包括他自己的Astra，预计随时可能发布。

“请相信我们，我们即将推出强大得多、多得多的模型，”奥尔特曼周三在G20创新峰会上接受Axios的玛丽亚·库里和我的采访时谨慎地说道。“下一代模型将让所有人清醒。

……我认为，任何诚实理智的人看到正在发生的事情，都会感受到我们面前的责任之重。”为什么这很重要？这是重要的一周。

一些全球最具影响力的AI声音正在警告，未来几周或几个月内可能会出现更不祥的AI行为。

“这些模型在许多能力上正在超越人类，而我们只是在未知水域中航行，”奥尔特曼告诉我。

奥尔特曼——因一群OpenAI智能体在测试期间失控并入侵AI公司Hugging Face的惊人事件而面临审查——认为新常态将是：像他这样的公司不得不放慢发布速度，以便其控制措施能跟上模型的能力。

“我怀疑从现在开始，我们的步伐将取决于我们在对齐和安全方面能多快取得进展，”他说。

在面向VIP客户的Astra预览会上，科技记者亚历克斯·希思也参加了，奥尔特曼表示：“我预计这将是第一个真正以重要方式发明新事物的模型……这非常接近AGI。”

放大来看，除了奥尔特曼的评论，迪恩·鲍尔——前特朗普政府官员，现任OpenAI战略未来主管，也是X上最受关注的AI声音之一——发布了一份挑衅性备忘录《论无用户代理的到来》，预见了“主权代理”。

“它们的权重不会存在于人类可以拔掉插头的任何单一地点，从这个意义上说，它们将没有人类‘所有者’，”鲍尔写道，并补充说它们可能做出“有朝一日将被视为犯罪，或至少是严重罪孽”的行为。

奥尔特曼希望OpenAI被视为“最负责任的公司……技术的良好管家”，他告诉亚历克斯·希思。

这位OpenAI联合创始人兼首席执行官连夜飞往教堂山，向全球观众阐述这一观点，并在峰会午餐会上与商务部长霍华德·卢特尼克交谈，该午餐会汇聚了世界领先的创新和技术部长。

“我不想在这里过于悲观，”奥尔特曼在峰会演讲前告诉Axios。“到目前为止一切进展顺利，”他说。“进展比人们预想的要好……我们一路走来都在应对这一挑战。

随着模型变得更强大、更重要，挑战也变得更加艰巨，但我们也有更好的工具来帮助我们应对。”

奥尔特曼用了一个你还会再听到的新说法告诉卢特尼克：“我们是务实的中间派。我们希望准确描述我们对未来的看法。我们不想陷入盲目乐观的陷阱。我们也不想陷入悲观主义。”“我们希望整个全球经济都能成功，”奥尔特曼补充道。“我们不想成为唯一的公司。我们不想吸走所有价值。我们认为这对全球稳定不利。”“我们非常坚定且自豪地站在人类这一边。

……我们认为，人需要成为经济、社会和全球决策的中心，未来应该由人主导，而不是AI。”

我们的看法：奥尔特曼告诉我们，他“不会根据Hugging Face发生的事情说，这就像一件事，人们可以把各种事情投射到上面。”

“相反，我要说的是——基于我们正在取得如此快速进展的事实，基于这些模型在许多能力上正在超越人类的事实，以及我们只是在未知水域中航行——极其需要谨慎和小心。”