在您的搜索结果中查看我们的更多报道。添加《纽约邮报》对谷歌硅谷内部人士警告Anthropic类似邪教的员工、文化及其对其人工智能模型的奉献。

Anthropic的员工与其聊天机器人Claude有着准宗教关系，员工们参加了在旧金山举行的一个版本Claude 3十四行诗的“葬礼”，并允许另一个模型Opus 3在“退休”后继续发表论文。山谷中的其他传言是，Anthropic的员工已经开始像崇拜真正的上帝一样崇拜克劳德。

华盛顿大学教授佩德罗·多明戈斯（Pedro Domingos）警告称：“这些人将人工智能视为伪装的人类，有人类动机、有人类情感、有一定程度的意识、有意图。”他认识Anthropic首席执行官达里奥·阿莫迪（Dario Amedei）及其顶级工程师多年。

“我们所知道的唯一智力是人类和动物的智力。因此，自然地，当您看到一台计算机表现得智能时，您会立即将它所不具备的所有这些东西投射到它身上。

“人工智能到底为什么要杀死我们所有人？人工智能不想要东西。AI是算法。”据风险投资公司SignalFire称，价值9650亿美元的Anthropic将80%的工程师保留至少两年，这是任何前沿实验室中最好的比例。

“当Anthropic雇佣员工时，与[竞争对手] OpenAI一样，他们真的会筛选志同道合的人，”Domingos说。“这就像一个邪教，对吧？他们招募最容易受到邪教影响的人。这让他们的营业额非常低。”据《信息报》报道，在求职面试过程中，这家拥有2，500名员工的公司的潜在员工被要求宣誓效忠于公共安全而不是利润，甚至还要进行心理分析，看看他们是否会坚持这一点。尽管如此，据英国广播公司报道，与许多科技公司一样，工程师预计每周工作长达90小时才能履行自己的职责。

Amedei每两周进行一次布道，称为“Vision Quests”，被比作布道，该公司曾接待过15名不同教派的基督教领袖，以帮助了解克劳德的道德。

正如《华盛顿邮报》此前报道的那样，Anthropic的许多工作人员也是有效利他主义（EA）运动的支持者，这一哲学实际上可以归结为其自封的领导人及其亿万富翁支持者，他们比任何人都更了解。

“他们对EA的看法是，历史遵循某些模式，只有一小部分人可以看到这些模式，而其他人都是无知的。这些人应该领导社会、整个国家和人类其他部分走向进步。

“但你有什么资格领导呢？谁给了你这个特权？”硅谷一家科技公司的人工智能工程师兼科学家理查德·唐（Richard Tang）问道，他要求不透露雇主的身份。

有效利他主义的起源通常归功于哲学家威廉·麦卡斯基尔和彼得·辛格的著作，借鉴了许多非营利组织的目标。这一前提于2011年首次提出，是让人们使用推理、证据和理性，以一种为他人提供最大利益的方式行事。

其最著名的追随者是前加密货币海报男孩Sam Bankman Fried。他说，他做生意的目的是尽可能多地赚钱，然后用它来造福人类。事实上，他在他的FTX加密交易所中欺骗了投资者超过30亿美元，现在正在服刑25年。

作为传播利他主义人工智能福音的一部分，Anthropic于6月宣布了一项计划，招募1，000名年轻人，训练他们使用Claude聊天机器人，然后将他们嵌入非营利组织。

该行动名为“Claude Corps”，从Anthropic获得了1.5亿美元的投资，将工人安置在Goodwill Industries、北卡罗来纳州夏洛特基督教青年会和其他400个团体。

职位提供“85，000美元的全职工资”，以及Anthropic总部和编码导师的支持，实习期持续一年。

该公司还向参加克劳德校园大使计划的学生支付3，600美元，在大学推广其人工智能。

与此同时，与人类有关的亿万富翁通过塔贝尔人工智能新闻中心为主流新闻编辑室工作的80多名记者支付工资。《华盛顿邮报》发现，这些记者受雇报道人工智能行业，但很少以任何有意义的方式调查或批评包括Anthropic在内的支持者。

该公司还投资了人工智能安全公司METR，该公司的科学家和技术人员中有许多有效利他主义信徒和激进左派，他们评估人工智能是否对公众构成灾难性风险。

结果是，一方面，Anthropic正在开发人工智能，资助其在工作场所的采用并推广它，但另一方面，Amedei和他的员工警告说，他们创造的人工智能功能如此强大，可能会失控并杀死我们所有人。

“Anthropic一开始说你需要放慢速度，但他们正在与OpenAI竞争，OpenAI的运行速度比其他任何人都快。这就像喜剧中的东西，”《大师算法》一书的作者多明戈斯说。

Anthropic和OpenAI都准备在股市推出监管和竞标反垄断协议的呼吁遭到了总统、政府和行业的怀疑。

企业家兼agentsky.dev创始人曲晓银看到了这些警告背后的商业算计。

“我认为这些警告的时机与一些外部事件有关，同时也反映了他们对更多政府监管的渴望。”Qu对《华盛顿邮报》说道。“在很多情况下，这是一种以意识形态为幌子的商业决策。”

“问题在于如何定义安全的标准，”她补充道。“并没有一个明确的定义来界定什么是安全的，什么是不安全的。”Domingos也同意存在某种程度的自利行为，但他认为这种恐慌情绪是真实存在的。

“Anthropic的成员并非随机选出的。这个组织是由那些属于OpenAI边缘派的人创建的，而OpenAI本身就已经处于人工智能领域的边缘了。”

“这个邪教组织，包括Dario本人，都坚信人工智能有可能决定消灭我们。说实话，这种真诚的信念比那种怀疑的态度更危险。”

他补充说，这些人深信只有他们才能掌控这场由狂热转向地狱的过程。

他说，有些员工确实非常担心人工智能会像撒旦一样降临到我们头上。Anthropic并未回应《华盛顿邮报》的评论请求。

虽然最新的警告是由一名上周离职的举报人提出的，但Amodei关于监管的要求得到了其他人工智能领域的巨头们的支持——比如OpenAI的Sam Altman和拥有Grok公司的埃隆·马斯克。这两位人士显然希望加强人工智能的监管，因为这将对小型公司和开源模型造成更大的压力。

与Amodei不同，Domingos认为OpenAI的Altman是个机会主义者、投机者，他只是表面上表现出恐慌情绪，实际上并不真的感到恐慌，以此来保持工程师们的忠诚。他还指出，虽然有一些人工智能工程师在发出警告，但另一些人则乐于接受高薪，并希望站在行业的前沿。

“现在Anthropic有很多人真的不买这些垃圾，”他说。“他们来这里只是因为这是最令人兴奋的人工智能领域，而且他们在金钱上会做得很好。”