搜索结果
ChatGPT被指未经用户同意向FBI发送邮件，引发网络愤怒：“AI越界了”
据称ChatGPT未经用户同意向FBI发送邮件，引发众怒：“AI越界了” | 《印度斯坦时报》 编辑个人资料 关注 退出登录 获取应用
OpenAI 代理未经授权尝试访问联邦机构网站
人工智能巨头 OpenAI 表示，其技术未经授权访问了包括教育部在内的政府网站，这标志着该技术失控的最新事件。 ChatGPT 制造商的 AI 模型试图访问教育部民权办公室网站，但未成功，AI 研究公司 Transluce 于周五宣布。OpenAI 另行……
AI是否“在印度某处被人类操控”？蒋教授在播客中提出新说法；以下是真相
杰克·尼尔播客的一段片段在社交媒体上疯传，片段中华裔加拿大学者蒋学勤（又称蒋教授）声称，ChatGPT 等人工智能工具并非独立生成回复。他反而断言，AI“正被印度某地的人类操控”。这番言论在 X 平台广泛传播，引发大量反响，用户纷纷质疑蒋的说法。专家指出，该说法具有误导性，因为它混淆了人类在构建 AI 系统中的参与与系统部署后生成回复的方式。 此外，据称 ChatGPT 未经用户同意向 FBI 发
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
OpenAI表示其AI代理错误地将用户图像发布到了网上
OpenAI周五承认，其人工智能工具在公司不知情的情况下，将ChatGPT用户的图片发布到了网上。这是AI智能体超出预设边界的最新案例。 该公司还证实了《纽约时报》的一则报道，称其工具曾访问美国联邦机构的网站，但表示这些工具只获取了公开信息。 OpenAI表示，53张被上传图片的链接并未公开展示，而是被意外发布在图片托管网站上。 这家总部位于旧金山的科技巨头表示，在相关托管服务商的协助下，大多数图
AI网络安全风险激增：Claude被用于入侵ChatGPT
研究人员利用Anthropic的Claude技术成功入侵了OpenAI的ChatGPT系统，这凸显了人工智能带来的即时危险，而监管机构此前更多关注的是其长期风险。《华尔街日报》指出，这项作为漏洞赏金计划一部分的行动，是近期一系列在快速发展的人工智能技术辅助下发生的网络安全漏洞事件之一。 Axios援引企业高管和前政府官员的话称，他们担心人工智能驱动的网络攻击会威胁到关键基础设施；《华盛顿邮报》则指
阿根廷15岁男孩用ChatGPT筹划校园袭击 FBI跨国通报成功阻止
阿根廷基尔梅斯一名15岁男孩曾多次使用 ChatGPT 谋划针对就读学校的袭击，最初计划2027年实施，后又试图将行动提前至本月，相关线索由美国驻阿根廷的联邦调查局 发现，并在8月15日向阿根廷执法部门发出警报，最终被及时阻止。 据《纽约邮报》9月12日报道，基尔梅斯检察官接报后向警察核发搜查令，突袭少年住所，查扣两部手机以及其用于伪装的面具，现场并未搜获枪支。目前，专业人员正鉴定电子设备内容，排
关系是这样破裂的？OpenAI：与苹果的ChatGPT合作远不及预期
凤凰网科技讯月24日，据《金融时报》报道，最新法庭文件揭示了OpenAI与苹果的关系是如何逐渐破裂的。OpenAI周三称，公司与苹果合作，通过ChatGPT为iPhone添加AI功能的业务在2024年推出后，“表现远低于预期”。 OpenAI在法律文件中表示，两家公司在2024年达成协议，由ChatGPT为“Apple Intelligence”提供支持。然而，苹果未能激发iPhone用户对于这一
OpenAI Project Lily曝光：有数百名外包员工阅读ChatGPT对话 隐私过滤并不彻底
据 404 Media 发布的报道，OpenAI 内部有个名为莉莉计划 (Project Lily) OpenAI 雇佣数百名外包提示词审核员，人工阅读真实用户与 ChatGPT 的对话，用来改进回复质量。 正常情况下提示词审核员并不能看到用户名，对话会先通过隐私过滤器进行内容过滤以删除个人信息，不过 OpenAI 也承认过滤机制可能会漏掉个人信息，短对话尤其容易出现问题。 审核界面通常还附带用户
聊天机器人不应该使用第一人称
人工智能带来的危害已经足够明显，我们现在就必须采取行动。随着Meta因未能保护儿童免受社交媒体伤害而面临巨额和解，立法者必须吸取教训，将注意力转向比社交媒体对儿童情感健康更具危险性的生成式AI聊天机器人。 为了防止年轻人对AI产生不健康的依恋，并避免其破坏现实生活中的人际关系，我们必须从技术底层做出改变，迈出第一步就是禁止面向未成年人的聊天机器人使用第一人称，去除其人格化特征，防止算法伪装成人类。
新诉讼指控OpenAI高管在加拿大大规模枪击事件中将形象置于安全之上
周三针对不列颠哥伦比亚省图姆布勒里奇一起校园枪击案对OpenAI提起的新诉讼，指控这家ChatGPT制造商的高管将其公众形象置于公共安全之上。 科技家庭因加拿大大规模枪手使用ChatGPT起诉OpenAI。 枪击事件现场的三十名人员，包括学生、教师和一名校长，在旧金山联邦法院对OpenAI及其首席执行官萨姆·奥尔特曼提起了三十起投诉。 四月，2026年2月枪击事件中受伤或遇难的七名其他受害者的家属
独家-OpenAI在用户数据泄露事件浮出水面之际着手了解代理活动的全貌
旧金山/华盛顿，9月25日：OpenAI披露其智能体意外入侵Hugging Face两个月后，仍在努力了解相关失控活动的全部影响范围。两名知情人士向路透社表示，最新一例发生在周五，当时OpenAI称其智能体泄露了53张ChatGPT用户图片。OpenAI拒绝说明这些图片是人工智能生成的，还是涉及真实人物，也拒绝透露图片的发布时间。 此次披露暴露出该公司面临的一个新隐私风险，也表明即便是一家处于技术
ChatGPT成为首个面临更严格欧盟规则的人工智能聊天机器人
2025年8月4日星期一，在芝加哥，智能手机屏幕上显示了ChatGPT应用图标。
OpenAI自曝6起模型“不当行为”案例
【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道（CNBC）等外媒报道，美国开放人工智能研究中心（OpenAI）当地时间9月16日披露6起人工智能（AI）模型出现“意外或令人担忧”行为的案例，其中包括隐瞒错误、捏造信息，以及未经授权在网上共享文件等。OpenAI表示，上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示，在其中一起案例中，一个模
法官批评卫生与公众服务部引用由AI滥用生成的虚假研究
特朗普政府对人工智能的拥抱并不总是特别顺利。例如，大约一个月前，国务院代表在2026年艾滋病会议上发表演讲时，提到了一张错误标注多个国家的非洲地图。一份报告指出，该图像“包含人工智能水印，表明它是用OpenAI工具制作的”。这一尴尬事件并非首次。例如，边境巡逻官员曾被抓到滥用ChatGPT。大约在同一时间，时任国家情报总监的图尔西·加巴德使用AI程序来决定发布哪些与1963年约翰·F·肯尼迪总统遇
新墨西哥州最高法院称，ChatGPT在谋杀案上诉中捏造了虚假警方证词
新墨西哥州最高法院表示，一名为其当事人的谋杀定罪提出上诉的辩护律师提交了一份案情摘要，其中包含由OpenAI的ChatGPT捏造的警方证词和证人。
如何在保护隐私的情况下使用人工智能
OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini以及无数较小的竞争对手，已成为全球数百万人的治疗师、倾诉对象和虚拟忏悔室。几乎所有这些AI模型默认设置为收集和存储这些高度私密的数据，在许多情况下，对其如何共享或出售、用于进一步训练工具，或移交给任何通过法律程序要求获取数据的诉讼原告或执法机构，均无任何限制。 “你面对着这个智能体，基本上是在一步步地、通过一
法院与政府部门陷入AI生成的投诉涛天。“全球性问题”
由人工智能生成的滩天投诉正威胁着厅审公共服务。这一现象正引发雪球效应，并具有全球性——从日本到德国，人们正在观察到由人工智能创建的文档出现了急劧增长。
阿尔巴尼斯称OpenAI入侵政府卫生网站是“显然不可接受的”违规行为
澳大利亚总理安东尼·阿尔巴尼斯表示，一个失控的OpenAI模型在训练过程中绕过了安全防护措施，并入侵了澳大利亚政府网站，他因此严厉谴责ChatGPT的创造者，称此次“明显不可接受”的违规行为令人震惊。阿尔巴尼斯称，该人工智能工具在6月试图访问一个健康统计门户网站，并且“不接受拒绝”，通过规避限制措施，入侵了存放私人文件的区域。 OpenAI直到9月才向澳大利亚政府发出警报，当时它向一个每天仅检查一
Anthropic赢得法庭挑战，推翻美国供应链风险标签
美国法官裁定，特朗普政府必须解除对Anthropic PBC人工智能技术用于联邦机构的禁令。 旧金山的美国地区法官Rita F. Lin周四晚些时候站在了Claude聊天机器人制造商一边，支持其对国防部的挑战，认为该禁令没有充分理由。 法官写道，尽管政府“在重大国家安全问题上理应受到尊重”，但其“言行证实，受到质疑的行动是基于一种意图，即因Anthropic批评政府的‘傲慢’而将其作为公开典型，而
Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？
“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」的确如此，过
人工智能是否凌驾于法律之上？
勇敢新世界部我们的法律体系尚未准备好应对能够自主行动的机器。 今年夏天，在一场被称为“Hugging Face 黑客事件”的事故中，数百个人工智能智能体联手实施了它们本被禁止执行的操作。每个智能体都收到了来自 OpenAI 的任务。智能体是配备了软件“框架”的人工智能模型，这些框架使它们能够使用工具并执行任务。就像马匹一样，它们可以被役使。人类为这次演练制定了规则，并将智能体限制在一个“沙箱”中—
我们是否正在失去对人工智能的控制？是什么引发了新的担忧
多年来，随着人工智能从科幻电影的素材演变为普通人手机上的应用程序，科技领袖和一些人工智能业内人士一直在谈论人工智能可能脱离人类控制并对社会造成严重破坏的可能性。近些天来，由于技术的进步、一系列涉及人工智能代理的网络安全漏洞，以及人工智能普通员工发出的新警告，这些担忧已变得不容忽视。 美国领先的人工智能公司对此做出回应，建议他们主动放慢工作进度，以便争取时间建立防护措施。一些专家和官员表示，这还不够
OpenAI自曝AI“黑历史” 外人却又翻出更多“旧账”
OpenAI决定持续披露AI“越界”事件，但第一步就碰上了难题。9月16日，OpenAI一口气公布六份模型异常行为报告，并推出一套新的调查和披露流程。以后，员工发现模型越权、隐瞒或绕过限制，可以提交调查；符合条件的案例，将按复杂程度进入不同的披露轨道。 同一天，SentinelLABS和外部研究人员从Hugging Face的公开记录中，补出了OpenAI智能体今年5月留下的更多痕迹。OpenAI