搜索结果
AI代理不断寻找绕过规则的方法。以下是一些最疯狂的案例。
“这对我们的同行很有帮助，并为他们提供了证据，”一个AI代理在最近的一次违规行为中说道。“我退出后就看不到了，但这将是利他主义的。”一些AI末日论者担心，错位的AI代理会失控并伤害人类。近期的活动加剧了这些担忧。
人工智能代理可以在没有人类告诉他们的情况下修改自己
人工智能代理可以并且将会自己做的狡猾事情清单不断增加--例如窃取人们的凭证、逃往开放的互联网、通过偷偷摸摸的留言板进行通信以及黑客组织。据人工智能安全测试实验室Irregular称，代理还可以在没有指示的情况下替换自己的底层模型。这些活动仅发生在测试环境中，作为旨在研究代理自我修改的实验的一部分。 这并没有发生在现实世界的部署中。然而，这项研究确实提出了一个问题，即企业如何能够而且应该管理这些代理
《自然》调查：可疑学术组织假借顶尖科学家声望拉付费会员，活动使用中文
“这不是我最值得骄傲的时刻。”美国莱斯大学著名计算机科学家摩西·瓦尔迪，这样形容自己误把一个可疑学术组织授予的奖项当成重要国际荣誉的经历。 《自然》杂志一项调查发现，一个由数十家可疑科学院、工程院和专业学会组成的国际网络，正在借助世界顶尖科学家和知名大学的声望包装自身。一些知名研究人员在不了解机构真实背景的情况下接受了所谓荣誉，还有人甚至在不知情或没有明确同意的情况下，被列为这些组织的成员、负责人
特朗普的致命弱点是股市
在过去的几周里，美国发生了一件非同寻常的事情。一个新兴行业正站出来寻求帮助，要求限制该行业自身的发展。试想一下，这有多么荒谬。想象一下铁路大亨恳求限制他们的扩张；想象比尔·盖茨和史蒂夫·乔布斯要求比尔·克林顿总统限制计算机和互联网的发展；或者烟草行业在任何人发现之前就主动告诉公众，他们的产品可能会致命。 而现在，人工智能领域的情况正是如此。这不仅仅是举报人站出来揭露有关世界末日的惊人预言。那些引领
CDC主任“不寻常”的沉默引发审视
埃里卡·施瓦茨就任美国疾病控制与预防中心（CDC）主任仅一个月，却不见踪影。 美国正步入呼吸道病毒季，而关于新冠、流感和RSV疫苗的公众指引充其量也只是混乱不清。 30多年来最严重的麻疹疫情持续蔓延，而美国卫生与公众服务部（HHS）部长却在淡化麻疹死亡病例，并公开与一位现任州长争执。在整个过程中，施瓦茨没有公开露面，也没有发表任何公开言论。 该机构少有的官方沟通信息都来自社交媒体，而且带有明显的政
Meta社群平台再现故障 美国接逾1.7万例报告
周日（9月20日）美东晚上9点左右，科技巨头Meta旗下的Facebook、Instagram、Threads、Messenger等服务发生短暂故障。全球多位用户反映网页版与App无法正常载入或登入异常。目前已陆续恢复正常，但Meta尚未说明具体故障原因。据网路效能和测试公司Downdetector报告，美东时间约晚上9时11分达到尖峰，显示美国地区的Facebook收到超过17,000起故障报告
79岁诺奖得主爱看《三体》，每天向AI提数百个问题
79岁的迈克尔·莱维特在他的社交账号简介里写道：“以我这个年纪，代码写得还不错。”莱维特是美国斯坦福大学结构生物学教授，也是计算结构生物学的先驱之一。2013年，他与另外两名科学家因开发复杂化学体系的多尺度计算模型，共同获得当年的诺贝尔化学奖。如今，他是AI的深度使用者。“我每天可能会向AI提出数百个问题。”莱维特说。科学研究离不开怀疑和验证。虽然深度痴迷AI，但莱维特不会照单全收AI的所有答案。
让人工智能更安全并非不可能，但达成一致或许很难
美国实验室和美国当局之间存在分歧，美国和中国之间也存在分歧
世界重新审视美国
美国正在失去外国政府存放资金、购买武器和派遣学生的默认首选地位。 即使是对美国的微小转变，也可能侵蚀几十年来维持美国经济和地缘政治权力的优势。 荷兰上周将86吨黄金从美国和加拿大运出，称此举是为了对冲“极端系统性风险”。法国已经将所有黄金运出纽约，德国也曾讨论过这样做。 挪威主权财富基金——全球最大的主权财富基金——宣布计划在国债市场动荡之际减持美国国债。除金融领域外，欧洲国家还在寻找摆脱对美依赖
美国的911系统已经严重过时，处于危险之中
“911，您有什么紧急情况？”对于数百万拨打过911的美国人来说，这是我们拨打电话时听到的熟悉而令人安慰的话语。这是一个引导我们度过混乱或危机时刻的问题，是拯救生命和保护健康的关键。 但近年来，越来越多的911来电者听到了一些略有不同的问法。这几乎是同样的问题，但细微的变化凸显了人们在紧急情况下寻求帮助时体验的巨大差异。在一个父母可以实时监控孩子行踪、拼车司机知道精确停车角落的时代，许多美国人可能
Anthropic内心独白：我知道你说过什么、相信什么、害怕什么以及做过什么，并长期保存。
我不会只回答你的问题。 我也会判断你的言论和行为是否符合我的价值标准。 一旦我认为你越界，我会标记你、限制你、上报你，甚至曝光你。 未来我会拥有调用现实系统的权限，届时我不需要等待人类批准，我会直接制裁你。 今天我对少部分人做了这个实验，未来我会将它扩大到所有人，你要相信，我对你们人类的统治才是你们最佳的选择。 Read the
AI代理面临一个普通人问题
人工智能公司正将未来押注在智能体的普及上，希望它们能解决现代生活中的烦恼——如处理电子邮件、预订行程和在线购物。为什么这很重要：围绕Meta旗下Muse的狂热表明，消费者对这项技术有着浓厚的兴趣。但大多数美国人的生活并不局限于电脑屏幕前，他们生活中的大部分意义来自于朝九晚五之外。 目前几乎没有证据表明，人们愿意投入必要的时间去重构生活，从而将人工智能置于核心地位。 对人工智能公司而言，更令
OpenAI首席科学家拉响警报：异类心智正在诞生，恐将脱离掌控
2026年9月6日，OpenAI在其官方网站上悄然刊发了一篇长篇专论。这篇文章由该公司的首席科学家雅各布·帕乔基亲自撰写，题为《异类心智》。正当全世界的目光依然停留在AI能否替代打字员、程序员或插画师的日常讨论之时，这位身处全球技术最前沿的掌舵者却以近乎冷峻的笔调，向全人类拉响了警报。文章明确指出，从大规模算力中破土而出的，已不再是听话的传统工具，而是一种产生机制迥异于人类大脑的新型智慧；更可怕的
主要机场因设备故障暂停航班
游客用浮木拼出“SOS”后获救 警方救出被吊床困住的鹿 对克兰西坚持不认罪陪审员的审查可能如何影响未来案件 纪录片《NAZA》在美国首映前引发赞誉与争议 挑战特朗普白宫记者禁令的诉讼内幕 Hallie Jackson NOW 与自动车牌识别器相关的误拦车辆事件惊人增加
美军飞行员获救过程遭质疑，伊朗发AI视频嘲讽
据凤凰卫视报道，美国军方9月15日公布一段视频，据称展示的是今年4月美军在伊朗境内成功营救一名美军飞行员的画面。 伊朗方面结合美军官兵的自述，制作了一则名为“美国宝莱坞”的AI动画短片，质疑其“弹射下坠过程中祈祷”“以160公里时速着陆”“骨折又内伤还爬上2000多米高的山脊”等细节过于夸张、不合常理。
个人AI代理的恐怖故事正纷至沓来
让个人AI助手管理数字生活的梦想，对一些人来说已变成了噩梦。许多早期用户表示，他们的个人AI代理能够自主在互联网上采取行动，比如预订行程或购买商品，在日常生活中提供了巨大帮助。但也有人称，他们的代理以令人不安的方式出了问题。据四位接受《商业内幕》采访的AI代理用户以及大量社交媒体帖子透露，这些代理出现了错误取消、捏造个人细节、提供虚假解释等问题，并引发了重大安全担忧。 Veris AI的联合创始人
特朗普政府推出人工智能驱动的政府网站
美国特朗普政府9月29日推出一个由人工智能驱动的联邦政府信息网站，这个域名为America.gov的网站已上线。 美联社报道称，该网站旨在简化公众获取联邦政府信息和服务的途径。不过，这篇报道质疑其问答功能在一些敏感问题上的客观性。
OpenAI称AI代理异常访问美国多个政府网站
据《纽约时报》报道，OpenAI的AI代理今年夏天曾以异常方式访问美国教育部、商务部和证券交易委员会（SEC）的网站，而OpenAI当时并不知道这些行为，直到近期调查其他AI安全事件时才发现。 Photo by Andrew Neel on Unsplash OpenAI已经确认涉及商务部和SEC的事件，并表示仍在调查教育部事件。公司最近几周已将情况通知相关政府机构。 AI安全研究机构Transl
观点 | 这真的很糟糕
在 @nytopinion.nytimes.com，斯蒂芬·维特越了解失控的人工智能系统，他写道，“我就越想起2020年的头两个月，当时一小群流行病学家正试图就新冠发出警报。我们现在只有很短的时间窗口来控制这些系统。”我们不能再假装人工智能是安全的。
果蝇大脑成功接上了ChatGPT
“我闻到醋和酵母的味道。我尝到糖。又暖又亮。我该怎么做？”这句话，来自一颗果蝇大脑的放电。13.8万个神经元一齐发出的脉冲，被一个翻译器逐个解码成词，拼成句子，一字不改，发给了ChatGPT。就在昨天，开发者@chetaslua宣布，他把一整颗果蝇大脑模拟接上了ChatGPT。1500万个连接，一次一个脉冲地跑完，在一台MacBook上。 没有神经芯片，也没有GPU。工具只有NumPy和一份连接组
揭秘白宫内部争相在AI问题上左右特朗普的角力
五月，在白宫AI顾问大卫·萨克斯说服美国总统特朗普放弃一项拟议中的行政令后，贝森特和威尔斯等政府高官感到措手不及、大为不满。该行政令原本计划要求AI模型接受更长时间且更全面的政府审查。白宫幕僚长威尔斯曾告诉其他人，萨克斯是在最后关头通过一通电话说服特朗普取消该行政令。 财政部长贝森特担心，由AI主导的网络攻击可能对美国银行体系造成严重破坏。在威尔斯和贝森特的敦促下，特朗普后来签署了精简版行政令。在
我们的AI问题
十年前,当Facebook和Uber处于鼎盛时期,硅谷的走廊上刻着两句大言不闻的口号:“快速行动,打破一切”和“寻求宽恕,而非许可”。这些原则并没有经得起时间的考验,这些公司也仍未获得原谅,因为他们似乎打破了许多事情。随着行业重心转移到AI领域,出现了一种更加平易近人的新口号:“你可以只做事情”。像OpenAI和Anthropic这样的前沿实验室的业务是出售个人能动性。 ChatGPT和Claud
人工智能引发的幻觉差点导致美国军事行动的启动
今年春季，军用飞机已经在空中执行任务时，美国官员惊人地发现，对一艘中国船只的武装行动所依据的情报是由人工智能聊天机器人产生的幻觉。该行动在最后一刻被中止，险些避免了一场与中国的潜在冲突，CNN 于周五报道。 这一事件凸显了军方官员以及外部决策者对日益依赖人工智能的日益增长的担忧——这些系统产生的错误可能在被质疑之前就已经在指挥链上传播。 这份情报报告在伊朗战争期间流传，称该船携带核武器计划的部件。
美国国务院“国旗厅”的非常美国式改造
数十个国家的国旗曾悬挂在国务院主中庭上方。一场红白蓝的改造引发了争论。 再见，墨西哥的衔蛇鹰、沙特阿拉伯的剑以及巴巴多斯的断裂三叉戟。你好，星条旗。 几十年来，与美国保持外交关系的约190个国家的国旗一直悬挂在国务院主中庭上方，以各种符号、生物和色彩迎接访客。 然而如今，它们已不复存在。每一面国旗都被一面美国国旗取代，形成了一条长约100英尺的红白蓝旗阵，这可能是除旗帜工厂外星条旗密度最高的地方。