搜索结果
联合国秘书长警告AI风险：全球不能陷入逐底竞争
联合国秘书长古特雷斯当地时间周三警告各国领导人，快速发展的人工智能(AI)正在带来不容忽视的风险，全球不能承受AI安全领域逐底竞争的风险。这一表态与美国总统特朗普形成分歧，后者此前表示，现有的监管措施已经足够。 在下周联合国大会于纽约举行之前，古特雷斯表示，加强对AI的监管将成为他与各国领导人会谈时重点讨论的问题之一。 在新闻发布会上，“当我们审视世界各地面临的威胁时，我想就AI快速发展所引发的日
记者手记：国会面临一场“人工智能教父”警告其可能尚未准备好应对的危机
要了解关于人工智能日益强大的一些预测，人们可能会问AI聊天机器人，国会需要多久才能对这项技术进行监管。但你可能不需要这么做。 你只需向你信赖的国会山记者打听一下。我们不妨把这个聊天机器人称为“ChadGPT”。记者观察：国会遇上AI，人类灭绝的恐惧震动国会山。而且，要推测议员们何时可能着手处理AI，其实并不需要多么高深的国会预知能力——尽管有危机迫在眉睫的预测。你只需要对未来几个月国会的议事态势有
台积电COO米玉杰：AI像三岁超人，在尖端芯片设计上不太实用
IT之家 9 月 17 日消息，台积电一名高层管理人员将人工智能比作拥有超强能力却尚不辨是非的幼童，以此解释该公司对待这项技术为何采取谨慎态度。 IT之家注意到，台积电在利用人工智能处理研发敏感信息方面尤为审慎，公司共同首席运营官米玉杰（Y.J. Mii）于本周二发表了上述看法。他着重提醒，如果员工对 AI 使用不当，就会出现数据泄露或遗失的风险；并且提到曾发生过 OpenAI 以及 Anthro
死互联网理论回来了
我是在跟你说话，还是在跟ChatGPT说话？
中国伊朗利用开源AI展开大规模影响力行动
近几个月来，伊朗、中国以及以色列境内的某些组织以崭新的方式使用人工智能，在社交媒体上制造了一系列前所未有的影响力行动，这加剧了美国官员和安全研究人员对这项快速发展技术的担忧。 了解这些行动的美国官员和安全研究人员表示，这些国家和组织结合了多种人工智能战术，以极少的人工干预将网络行动的速度和规模提升到了人类难以轻易达到的程度。 首先，这些国家和团体采用了中国的“开源”人工智能模型，这些模型日益强大，
泰国专家：AI治理与发展非二选一 应先厘清责任归属
（中央社记者李宗宪曼谷16日专电）随著AI潜在危险的忧虑加深，全球多家AI公司正筹组标准机构。积极发展AI、盼成为区域AI枢纽的泰国，也正关注AI治理问题。专家表示，泰国是将外国企业开发、无法掌控的AI导入服务，因此治理应重视责任归属与使用安全。 针对AI治理与监管问题，朱拉隆功大学AI中心的AI治理主管、法学院助理教授皮拉帕（Peerapat Chokesuwattanaskul）今天接受中央社
观看：是“伟大”还是“令人担忧”——人工智能是否应该受到约束？
‘Great’ or ‘alarming’ - Should AI be reined in? 人工智能的快速发展及其对人类构成风险的担忧，因多家AI公司高管和员工的系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）本周末呼吁放慢人工智能的发展速度并加强监控。 英国广播公司（BBC）采访了华盛顿特区的人士，了解他们对这项技术及其快速发展的担忧程度。
OpenAI想让你对着手机“脱口而出你的想法”
OpenAI正在进一步进军竞争激烈的个人智能体市场——这一次是语音领域。该公司于周三将其最先进的语音系统接入ChatGPT的网页端和移动应用。OpenAI此次发布的功能允许用户通过语音来委派需要多个步骤、浏览器以及不同应用协同完成的单次和重复性任务。该公司一直在为下周举行的OpenAI DevDay大型活动预热，接连发布新产品。 OpenAI负责ChatGPT语音功能的产品主管阿蒂·埃莱蒂向Bus
Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？
“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」 的确如此，
存在主义恐惧如何影响关于人工智能的争论
一些专家担心，激烈的言论使公司难以承担责任，并阻碍了应对环境影响和失业的尝试。当前一轮对人工智能的恐慌是基于这样一种信念：该技术已经脱离了人类的控制，在最近的几起事件中按照自己的意愿行事。对于一些幻灭的人工智能研究人员以及领先人工智能公司的一些高级员工来说，这是人类文明面临真正威胁的早期迹象。 但该领域的其他专家正在反驳，声称此类言论允许公司回避对其技术对现实世界影响的责任。批评者认为人工智能对环
蒂姆尼特·格布鲁认为人工智能不存在“生存威胁”
独走。突破遏制。目标不对齐。末日概率（P(doom)）。随着行业的蓬勃发展，在关于人工智能究竟会带来多大影响的争论中，涌现出了一套全新的专有词汇。 在这套新语境中，两个短语成了焦点：随机鹦鹉（stochastic parrots）和存在风险（existential risk）。而处于这些讨论中心的，是一位从未在论战中退缩过的杰出AI研究员——蒂姆尼特·格布鲁（Timnit Gebru）。 格布鲁几
盖茨、奥尔特曼、马斯克，为何都在担忧这件事
9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作
当国会面对人工智能时，参议员们却被隔绝在其最先进的工具之外
尽管参议院办公室可以使用ChatGPT等聊天机器人，但他们未被授权使用任何更先进的工具，而这些工具正是关于人工智能安全的监管谈判和公众辩论的核心。
OpenAI 外包商能查看到真实用户与ChatGPT的聊天记录
OpenAI已悄悄建立了一个人工审核业务，在内部被称为“莉莉计划”（Project Lily），旨在使聊天机器人减少谄媚并提高准确性，但它也使敏感的用户提示内容暴露给外部承包商。 OpenAI正在支付数百名承包商来阅读真实的ChatGPT对话并对机器人的回复进行评分。 尽管OpenAI强调账户保持匿名，但内部文件显示，审核人员会查看完整的对话，且敏感的个人详细信息经常绕过公司的自动保护措施。 ——
AI末日论甚嚣尘上，美科技巨头为何管不住AI？
抗议AI的美国人此前有报道称，OpenAI所谓的AI智能体逃出了测试系统，并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报，科技公司为了追求开发速度和利润，将安全置于次要位置。 研究人员表示，问题有两个方面。首先，企业需要在测试最新AI模型的同时，为其建立更完善的安全防护措施。目前，由于AI运行速度太快，研究人员需要借助AI来监控AI。但这种方式并不总是奏效，因为负责监控的AI似乎可能
OpenAI报告称，模型表现出欺骗行为的案例有所增加。
OpenAI表示，已发现其人工智能模型涉嫌在内部培训和测试期间采取欺骗行为并采取未经批准的行为的其他事件。 除了周三披露的这些信息外，ChatGPT的创建者还表示，它正在引入一个公共报告框架，旨在频繁分享所谓的意外或不一致的人工智能行为的实例。 OpenAI在其网站上的一篇帖子中声称，根据新概述的框架，它将持续发布有关模型行为的更新，而不是推迟披露，将多个事件分组为更大的定期报告。 该公司表示，该
AI恐惧机器？
要观看此视频，请考虑升级到支持HTML5视频的网页浏览器。政治全球议题。 人工智能内部人士警告称，人工智能正在经历一场快速且失控的激增。现在是政府介入的时候了吗，还是我们已经无法掌控局面了？ Michael Kolain是一位科技律师，也是柏林数字权利与民主中心政策负责人。 Janosch Delcker是一位科技记者、作家和主题演讲人，同样常驻柏林。 Vanessa Vohs是欧盟“国防人工智能
把AI真的当作一个人，才能保护核心隐私
在安全与自由之间如何选择，最终在于自己。OpenAI现行相关政策允许公司在检测到用户存在伤害他人的意图时，对相关对话进行人工审查。在严重情况下，公司可以向执法部门报告。 遇到这种事报警，当然是应该的。但由此也引出一个问题，你和AI的聊天，你给AI发送的哪些图片安全吗？ 《中华人民共和国个人信息保护法》第二十八条，把医疗健康、金融账户、行踪轨迹等列为敏感个人信息；第二十九条规定，处理敏感个人信息取得
AI又失控了，OpenAI称智能体泄露了超过50张ChatGPT用户图片
| 世界新闻 编辑个人资料 关注 退出登录 获取应用
ChatGPT成为首个根据DSA被指定的AI聊天机器人
欧盟委员会已将ChatGPT归类为搜索引擎。周一的指定将该聊天机器人纳入《数字服务法》下的超大型在线搜索引擎，与Reddit和Roblox并列，后者已被指定为超大型在线平台。ChatGPT是首个在该制度下被指定的AI聊天机器人。委员会宣布[…]
哈里王子警告称，人工智能伴侣聊天机器人想要获得儿童的依恋。
哈里王子警告称，AI 陪伴聊天机器人正在重演社交媒体对儿童的伤害，其技术“更具说服力、更亲密、更强大”。他在周三于纽约举行的克林顿全球倡议会议上发表了讲话。两年前，他曾利用同一个舞台发起“父母网络”。 萨塞克斯公爵和他的妻子梅根通过他们的阿切韦尔基金会建立了该网络。该网络汇聚了那些孩子因用他的话说“被社交媒体吞噬”而死亡或遭受严重伤害的父母。 “社交媒体学会了如何捕获我们的注意力。AI 正在学习如
据彭博新闻社报道，OpenAI正在与Anthropic和谷歌就人工智能安全展开合作。
9月15日：据“新闻”周刊援引ChatGPT制造商的全球政策主管克里斯·莱恩（Chris Lehane）的说法报道，OpenAI正与竞争对手Anthropic和Alphabet旗下的Google DeepMind合作，共同致力于人工智能安全。 在美国主要人工智能实验室的负责人周末团结一致呼吁暂停该技术发展后，全球对人工智能的生存风险的担忧日益加剧。 据报道，莱恩表示，OpenAI已与Anthrop
人工智能末日警告？中国人为何“不买帐”
郭莉莉2026年9月28日对许多中国民众而言，人工智能末日警告显得遥远且带有鲜明的西方色彩。 Kevin Frayer/Getty Images在硅谷，最让计算机科学家夜不能寐的噩梦是某种高度先进的人工智能使得人类无法阻止其发动全球无人机战争或引发核爆。而在北京，应对之策或许简单直接：拔掉电源、切断网络，并将失控AI的责任人绳之以法。在美国主要实验室声称先进模型已突破测试防护并入侵现实世界系统之后
OpenAI推出新中阶AI模型 价格仅旗舰产品1/5
（中央社旧金山29日综合外电报导）聊天机器人ChatGPT开发商OpenAI因安全疑虑取消次世代人工智慧（AI）模型GPT-6.1 Astra发表计划后，今天推出一款新的中阶AI模型，价格仅为其旗舰产品的1/5。法新社报导，OpenAI新款中阶AI模型GPT-6.1 Sol层级低于9月初发布的最强大模型GPT-6 Astra。OpenAI昨天表示，由于GPT-6.1 Astra经常无视指令，已取消