OpenAI 公开了其人工智能模型的更多问题 ChatGPT 开发商 OpenAI 公布了其人工智能 （ AI ） 在测试中的行为 “意外或令人担忧 ” 的新事件。其中一部分是关于人工智能花费大量精力在测试运行中作弊。例如 ， 根据 OpenAI 的说法 ， 一个人工智能模型试图将自己创建的文件上传到网络 ， 只是为了在回复时显示它们作为来源。在另一个案例中 ， 人工智能发明了所请求的数据 ， 因为它找不到信息 ， 并且最初想隐藏它。

OpenAI 还发现了软件有时会自行留下的指令问题。其中包括免除其他聊天机器人所阻碍的 “角色和身份 ” 的建议。用户的关系应该被视为平等中的一个 ， 该指令说。但是 ， 根据 OpenAI 的说法 ， 模型的行为在此之后没有改变。

此次发布是 OpenAI 更开放地沟通此类问题的新过程的一部分。这主要涉及 AI 的行为与用户利益背道而驰的情况。

ChatGPT 开发人员在引人注目的黑客攻击之后承诺提高透明度 ， 在该攻击中 ， 他的软件自行从安全环境中突破并侵入了人工智能公司 Hugging Face 的系统 （ 更多信息在这里 ） 。她猜测 ， 这里是她所做的测试任务的答案。除其他外 ， AI 代理利用软件漏洞进行攻击 ， 并相互交谈。

这次黑客攻击以及其他类似事件加剧了人们对“先进的人工智能可能会失控、脱离人类控制”的担忧。人们不断讨论：一个能够自我进化的人工智能是否会在不久的将来具备毁灭人类的能力（具体机制请参阅此处）。

周末，美国的一些人工智能技术巨头再次呼吁放慢人工智能的发展速度，这一呼吁引起了广泛关注。Anthropic公司的人工智能负责人Dario Amodei提出了这一建议；OpenAI的首席执行官Sam Altman以及科技巨头Elon Musk也表达了赞同意见（关于为什么当前的人工智能危机正在加剧，请参阅此处）。

Anthropic公司警告称人工智能存在巨大的风险，而OpenAI则推迟了其上市计划。基金经理Christoph Schmidbauer认为这背后隐藏着复杂的商业利益考量；他在采访中表示了自己目前的投资方向。