Anthropic的早期员工、前METR首席运营官找到了一种控制失控AI代理的方法

在Anthropic研究员雅各布·考克森因担忧AI可能在本十年末毁灭人类而辞职的一天后，我见到了创始人兼姻亲鲁恩·克维斯特和拉吉夫·达塔尼。他们认为自己找到了一个能拯救我们所有人的解决方案，或者至少有助于防止AI代理在企业内部失控。 “AI正以越来越快的速度变得更聪明。AI令人惊讶之处在于，随着AI变得更聪明，采用它和控制它都变得更难，而不是更容易，”克维斯特说道。他是Anthropic的早期员工

中国人形机器人初创公司发布新机器人模型，反指OpenAI‘蒸馏’其技术

一家获蚂蚁集团投资的中国人形机器人初创公司CEO致信OpenAI，质疑两家公司近期模型在技术和设计上的相似性。 苏州优理印（JoyIn）CEO郭人杰在公开声明中称，OpenAI直接‘蒸馏’了其技术而未作修改。 他表示，初创公司几周前在硅谷公开展示了其‘外星访客’AI模型框架，而OpenAI首席科学家随后于9月6日发布了《异星思维》。 郭人杰质疑双方在‘递归自我改进’及用AI优化算力等核心技术方法上

AI开始“要脸”了

The Information报道，Palantir与英伟达因数据担忧限制AI模型使用

9月14日：据The Information周一报道，包括Palantir Technologies、英伟达和博思艾伦咨询公司在内的多家大型科技公司可能限制或停止使用先进AI模型，除非Anthropic和OpenAI保证不会滥用其知识产权。 与此同时，根据该报道援引知情人士的说法，微软正利用这些担忧，通过推销隔离云环境和自家AI产品来吸引客户。 Anthropic首席执行官达里奥·阿莫代伊周六呼吁