搜索结果
OpenAI公布了六起新的与人工智能安全相关的事故/事件。
OpenAI周三披露了六起新事件，其中其模型隐藏错误、寻求未经授权的凭据，将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是，拥抱脸事件并不是一次性事件，因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架，所以我们自愿采取这一步骤，因为我们认为分享我们正在学习的东西非常
ChatGPT认为它对你的了解正在影响其回答。以下是如何改变这一点
这引发了关于隐私的担忧：随着越来越多的人将这些应用程序用于分享自己的生活信息，这些应用程序可能会以我们不希望的方式影响我们从人工智能（AI）那里获得的回复。 也许你花了一整周时间研究如何更换灯泡，而 ChatGPT 却认为你是一个热衷于自己动手修理东西的人；又或许你一直在查询某个旅行目的地的信息，结果 AI 却以为你住在那个地方。现在，ChatGPT 的所有回答都包含了它“记住”的信息。以下是关于
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
三人团队、一个Claude，攻破OpenAI内部代码库
月17日，一起由AI辅助完成的网络安全事件被披露。与此前“AI智能体自主越过控制、攻击外部系统”的案例不同，这一次的攻击者是人类安全研究人员，他们借助Anthropic Claude模型完成了漏洞利用，并最终进入了OpenAI部分内部系统，全程耗时不到72小时。 这起事件发生于今年7月，发现者是网络安全初创公司Hacktron AI。研究人员当时正在参加OpenAI的漏洞赏金计划，因此整个过程属于
OpenAI宣布成立数学与AI顾问组，神秘新模型24天攻破100+世界级难题
IT之家 9 月 22 日消息，OpenAI 宣布成立“数学与 AI 顾问组”（Advisory Group on Mathematics and Artificial Intelligence）。据介绍，该顾问组设在普林斯顿高等研究院，由九位数学家组成，将独立于 OpenAI 运作。 相较于此，更重磅的是 OpenAI 在公告中披露 —— 公司于 8 月 28 日开始训练的一个神秘模型已成功解决
黑客入侵了 OpenAI，进一步加剧了人们对网络安全问题的担忧。
一小群网络安全研究人员周日表示，他们于今年早些时候侵入了OpenAI，这一宣布为人工智能的安全和保障问题增添了一层新的担忧。 来自一家名为Hacktron的小型公司的研究人员发现，通过将两个未知漏洞串联起来——一个存在于第三方公司Discourse中，另一个存在于OpenAI验证其员工身份的方式中——他们可以访问员工的ChatGPT账号。 按照研究人员（有时被称为“白帽黑客”）的惯例，他们没有对公
ChatGPT 移动应用新增语音智能体功能
OpenAI 于周三宣布，其移动应用将引入基于语音的智能体功能，允许用户通过语音触发诸如起草文档或总结电子邮件等工作流。随着越来越多的用户开始使用语音向 AI 助手下达复杂任务指令，这一功能应运而生。 今年七月，OpenAI 推出了其新的对话模型 GPT-Live，随后该公司将其与桌面应用集成，使用户能够利用语音在“工作”标签页中完成任务或在“Codex”标签页中构建应用。此次新功能的推出将类似的
OpenAI为ChatGPT推出赞助商智能体及AI广告工具
2026年9月16日，OpenAI为其ChatGPT广告平台推出了多项更新。 该公司正在美国测试“赞助商智能体”，允许用户在点击广告后与企业赞助的AI智能体进行个性化对话。 OpenAI还面向广告主推出了AI驱动的工具，使其能够通过自然语言提示和Ads Manager插件创建和管理广告活动。 此外，OpenAI宣布与HubSpot和Shopify进行集成；HubSpot用户现在可以在其CRM中管理
OpenAI最新内部数据公开 2028年实现全自动AI研究
前些天，号称实现 AGI的 GPT-6 Astra 发布后，引发了全网对于递归自我改进架构的热议。AI 已经开始参与下一代 AI 的研发。问题是，这种事情到底已经发生到什么程度了？就在刚刚，OpenAI 公开了 AI 模型在自家内部加速科研的详细数据。此外，OpenAI 正式宣布已达成自动化 AI 研究实习生的目标，并在 2028 年实现完全自动化的 AI 研究人员。 作者表示，递归式自我改进可能
88小时抵一个人思考4000年！OpenAI核心研究员：除了自我进化，更可怕的是AI正学会“隐藏自己”
AI正在把过去需要数千年完成的认知劳动压缩到数天。真正的问题已经不只是模型能否变得更聪明，而是实验能否跟上、人类能否在模型继续自我改进前确认它仍然安全。 近日，在Dwarkesh Podcast的一场长篇访谈中，主持人Dwarkesh Patel与OpenAI研究员Noam Brown围绕多智能体、递归式自我改进（RSI）和AI对齐展开讨论。访谈的直接背景，是OpenAI让约1万个AI智能体连续运
OpenAI公布另外六项安全问题，并公布披露事件的计划
OpenAI首席执行官Sam Altman OpenAI还透露了其智能（AI）模型发生的另外六起意外或令人担忧的行为事件，并宣布了未来跟踪和披露此类事件的计划。 ChatGPT制造商周三在一篇博客文章中表示，一些之前未报道的事件包括模特隐瞒或捏造信息。 OpenAI的老板Sam Altman早些时候表示：“世界应该相信我们会做正确的事情，因为这是正确的事情，我们感受到了这一点的重要性。“最近几天，