新DeepMind研究所的三位所长写道:“这是确保我们安全构建AGI的关键时刻,其对社会的好处远远超过任何风险。”
谷歌DeepMind推出了DeepMind研究所(NPS),这是一个人工通用智能研究和辩论的平台,根据其发布文章,其董事是Google DeepMind联合创始人兼首席AGI科学家Shane Legg和Demis Hassabis,该实验室的联合创始人兼主席。哈萨比斯也是Alphabet的首席科学家。第三位董事是詹姆斯·马尼卡,他是谷歌研究、实验室、技术和社会总裁。
Legg也是执行编辑。该研究所表示,它的文章反映了作者的想法,“不应该被解读为谷歌的官方观点”。
该研究所说,启动文章将AGI定义为一个显示人类大脑所有认知能力的系统。报告说,今天的系统在一些基本任务上仍然失败,但“我们预计这些差距将很快弥合。”它将网络安全和生物风险列为当前关注的问题,以及“未来自我改进系统失去控制的可能性”。今年8月,DeepMind的一位高管将人工智能支出与自我改进的机器联系起来。
来自谷歌DeepMind、谷歌和更广泛的研究社区的研究人员将在该平台上发表文章。文章说,他们“不会总是同意”。“值得考虑”莱格告诉英国《金融时报》,人工智能能力绝不能超越安全控制。他称Anthropic首席执行官达里奥·阿莫迪(Dario Amedei)呼吁放慢而不是暂停前沿模式发布的呼吁“方向性有趣”,“值得考虑”。阿莫德伊9月12日表示,该行业必须放慢脚步莱格还告诉英国《金融时报》,现在宣布AGI已经实现还为时过早。Nvidia的Jensen Huang表示,AGI已于9月7日抵达。
OpenAI于9月4日提出了自己的AGI索赔。据英国《金融时报》报道,莱格对到2028年“最低限度”AGI的可能性为50%的预测仍然“满意”。
7月离开DeepMind AGI安全团队的Bilal Chughtai本周发布了警告。
第一篇文章除了发布文章外,该网站还列出了四篇“推理透明度的案例”,作者:Rohin Shah和Anca Dragan,“AGI的经济政策”,作者:Julian Jacobs和Alex Imas,“新乌托邦的原则”,作者:Stephen Cave,“前沿人工智能的框架和新时代的曙光”,作者:Hassabis 11 AGI经济政策Jacobs,Google DeepMind的经济学家和研究科学家,以及Imas,其AGI经济学总监在论文中对11项政策进行了评级,他们使用了文献评论、调查和根据51名真实经济学家的调查数据构建的51个人工智能代理评级器。
作者写道,“没有单一的举措可以解决一切问题。”他们将三种“最不后悔”的应对措施与三种温和扩大失业保险、更广泛的所得税抵免和雇主主导的再培训温和地将税收抵免转变为负所得税劳动力和资本作为普遍的基本资本保障,如果劳动力占GDP的份额持续下降,则使用他们称之为全民基本收入”这是一种昂贵且钝的工具,可能无法将足够的缓解集中在最需要的地方。”在他们的调查中,85%的美国人支持公共资助的再培训,72%的美国人支持失业保险。对全民基本资本的支持率为54%。
普遍基本资本在11项代理政策中得分最高,为76.3分(满分100分)。它的可行性得分为33.1,仅次于联邦就业保证。