字号 ·· | 护眼
美国消费者新闻与商业频道

Anthropic政策主管表示,不能指望AI公司仅凭“荣誉准则”来运营

Anthropic公共政策主管莎拉·赫克(Sarah Heck)表示,她认为人工智能公司无法通过遵循“荣誉准则”来管理监督和安全问题。"

赫克在华盛顿特区举行的Politico Decoded峰会上表示:“我们希望与政府合作,找出什么是有意义的。我们不能检查自己的家庭作业,这一点非常清楚。"

赫克发表上述言论的几天前,Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)呼吁行业故意放慢模型开发步伐,震惊了科技行业。阿莫德伊周六提出了一项三步计划,以在“牺牲商业优势或美国在人工智能领域的领先地位”的情况下调节模型能力的提高速度。包括OpenAI首席执行官Sam Altman SpaceX首席执行官Elon Musk在内的行业高管谷歌DeepMind主席Demis Hassabis迅速表示支持Amodei的提议,该提议是在行业研究人员上周对AI可能造成灾难性伤害提出警告之后提出的。“达里奥是对的,”马斯克在周六的一篇文章中写道。

包括Nvidia首席执行官Jensen Huang和Meta Mark Zuckerberg在内的其他科技领导者不太相信需要故意放缓开发。

在周二举行的Salesforce年度Dreamforce会议上,Haung表示,该行业不需要新的法律或法规。他补充说,速度和安全性并不相互排斥,尽管公司应该调整自己的节奏,直到他们确定自己正在发布已经准备好上市的产品。

扎克伯格周二呼应了黄仁勋的评论,他表示Meta将其个人AI智能体Muse的发布推迟了“几个月,以专注于安全保障”。

“我们并没有要求其他人先这样做,我们才行动,”扎克伯格写道,“我们只是将其作为日常工作的一部分来执行,因为这对人们和我们自己来说显然是正确的做法。”

赫克周三表示,Anthropic与白宫保持着“日常”沟通,并且该公司“全年”都在与国会合作。她表示,Anthropic正在努力提出“当下的难题”。“如果我们现在不开始思考其中一些棘手的问题,无论是我们如何应对中国,还是我们如何进行AI监管,亦或是我们如何继续推进自身的安全保障措施——如果我们现在不做,可能就太晚了,”赫克说道。

为什么AI实验室呼吁放慢脚步?在谷歌上的首选新闻来源,不错过商业新闻中最值得信赖品牌的任何重要时刻。