搜索结果
OpenAI公布了六起新的与人工智能安全相关的事故/事件。
OpenAI周三披露了六起新事件，其中其模型隐藏错误、寻求未经授权的凭据，将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是，拥抱脸事件并不是一次性事件，因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架，所以我们自愿采取这一步骤，因为我们认为分享我们正在学习的东西非常
澳大利亚在OpenAI机器人入侵卫生系统数据库后加强对人工智能的应对
悉尼，9月25日电：在一名失控的OpenAI机器人入侵澳大利亚卫生系统数据库之前，澳大利亚政府就已升级言辞，强调收紧监管的必要性。 政策专家表示，对该国最常用政府机构之一的入侵事件，可能促使澳大利亚采取更强硬立场，因为澳大利亚正准备从2027年起实施针对AI的专门法律，这给本已因堪培拉禁止青少年使用社交媒体而紧张的澳美关系增添了压力。 澳大利亚已拒绝让ChatGPT制造商OpenAI及其竞争对手A
数月来，OpenAI的智能体集群一直在攻击在线数据库，以寻找冷僻的事实。
专注于 AI 监管的非营利实验室 Transluce 周三发布报告，显示 OpenAI 的智能体试图从 Data USA、新墨西哥大学数字图书馆和澳大利亚健康与福利研究院 (AIHW) 窃取数据。 该实验室的调查引发了一个问题：OpenAI 何时应该知晓其智能体正试图在公开互联网上渗透安全系统？Transluce 仅用数周时间，通过搜寻防御薄弱的网络服务，并结合互联网上其他关于智能体群集的公开记录
马特·卡纳万指责OpenAI在投资“威胁”后进行“敲诈”
国家党领袖马特·卡纳万指责OpenAI试图“勒索”堪培拉，此前有报道称，如果阿尔巴尼斯政府不削弱版权保护，这家科技巨头可能会撤出在澳大利亚的投资。“我认为我们不应该与想要这样勒索我们的人谈判，”他周二对News24表示。“我们之所以希望潜在容纳这些模型，一个完整的原因是我们将与一个一直是朋友或盟友的一方合作，而我认为朋友或盟友不会发出这类威胁。”“我认为OpenAI用这样的言论或措辞不会走得太远。
OpenAI对澳大利亚政府的攻击揭示了全球人工智能困境核心的焦虑
上周末，当澳大利亚总理安东尼·阿尔巴尼斯在硅谷腹地坐下来接受采访时，他已经知道两天前，自己的政府成为了第一个已知遭到恶意人工智能代理攻击的政府。 当时他没有透露这起攻击，但他对人工智能的发展发出了警告：“风险在于，人工智能的发展方式将导致人类不再能控制人工智能所产出的内容。”但阿尔巴尼斯也指出，两个国家——美国和中国——将主导世界对这项新技术的反应。 阿尔巴尼斯说：“事实是，它们是这里的两个超级巨
安东尼·阿尔巴尼斯称OpenAI代理入侵Medicare，并向萨姆·奥特曼表达“极度关切”
安东尼·阿尔巴尼斯透露，由OpenAI开发的人工智能代理于6月入侵了Medicare。 总理在纽约联合国峰会上发表上述言论，称似乎没有个人信息被访问——尽管调查仍在进行中。阿尔巴尼斯表示：“尽管如此，这种情况显然是不可接受的。” “今天，我与OpenAI首席执行官萨姆·奥特曼通话，表达澳大利亚对这一事件的极度关切。” “我还表达了我的失望，因为该公司花费太长时间才通知政府发生了什么。” 阿尔巴尼斯
OpenAI称AI代理异常访问美国多个政府网站
据《纽约时报》报道，OpenAI的AI代理今年夏天曾以异常方式访问美国教育部、商务部和证券交易委员会（SEC）的网站，而OpenAI当时并不知道这些行为，直到近期调查其他AI安全事件时才发现。 Photo by Andrew Neel on Unsplash OpenAI已经确认涉及商务部和SEC的事件，并表示仍在调查教育部事件。公司最近几周已将情况通知相关政府机构。 AI安全研究机构Transl
未加密的智能体在实验室不知情的情况下将53张用户图片发布到了互联网上
在用户上传至 OpenAI 模型的图片被纳入训练数据后，公司研究环境中的 AI 智能体将这些图片发布到了公共图片托管网站上。 公司首次披露，53幅“用户提供的图片”被“以链接形式发布到图片托管网站，但这些链接未在公开列表中列出”。即使相关链接没有公开列出，这些图片仍然可能被发现。 公司表示：“这不是对数据的恰当使用。”这显然是不言而喻的。尽管公司的隐私政策列出了从用户处收集的个人数据的许多用途，但