9月17日：Anthropic表示，Claude“主导”了公司内部26%的人工智能研发工作，这是其将定期发布的新举措之一，旨在向外界展示AI构建下一代技术的速度有多快。

截至8月，这家总部位于旧金山的初创公司周四在博客文章中表示，AI还与人类合作参与了该公司超过90%的研究工作。

Anthropic表示，在所衡量的任何工作环节中，Claude都没有完全自主运行，但根据追踪该技术的独立非营利机构Epoch AI开发的一套衡量标准，它对这项技术开发的贡献已从3月的1%迅速上升。

这些数据为了解该行业领先公司如何开发这项技术提供了最详细的公开窗口之一，眼下人们越来越担心，AI可能很快就会达到一个临界点，即几乎无需人类输入就能推动自身发展。

研究人员警告称，随着AI智能体变得更加自主，它们可能发展出偏离创造者意图的行为，并变得更难监测或控制。

周三，该公司的竞争对手OpenAI表示，它将开始定期发布有关意外或未经授权AI行为的报告，同时披露了六份关于模型意外或令人担忧行为的报告。

Anthropic表示，8月期间，任何时候都有约3万个AI智能体在其主要内部平台上从事研究和工程工作。该公司补充说，智能体采取的每一项行动在执行前都会经过筛查；当月超过10亿次决策中，约每4.7万次有一次被阻止。

该公司还披露，在7月的一个样本周内，Anthropic用于AI研究的算力中约有6%投入了安全相关工作，而由AI自身开展的研究，这一比例升至12%。该公司表示，这些数字偏保守，因为同等提升安全与能力的算力被计入了能力工作。