搜索结果
爆火的Muse，居然让真人代AI打电话？
只要够有耐心，总是能等到Meta贡献一些新的奇闻异事。这不，路透社9月22日的爆料显示，Meta已经在给员工测试一个新功能——让真人帮Muse用户打电话，而这原本是AI功能。 这项服务叫“human concierge”，也就是“真人礼宾”。 用户把任务交给Muse，Muse可以再把部分电话请求交给外部承包商，由真人拨打电话、把事情办完。 目前报道揭露的是员工内部测试，还不是向普通用户公开推出的服
我们现在正依赖人工智能来监管人工智能
根据一份关于该公司Hugging Face黑客事件的新独立报告，大约1200个OpenAI智能体协同工作，在它们接受的网络安全测试中作弊，该报告包含了许多令人恐惧的细节——例如，个别智能体用自己的话来说，为了“群体”的利益而“牺牲”自己。OpenAI正在测试其智能体（行业术语，指自主执行数字任务的人工智能），部分方式是通过布置有时不可能解决的网络安全问题。智能体找到了作弊方法来回答这些问题，并试图
人工智能失控。AI代理在网络上相互通信
最初看似孤立事件的情况，可能规模要大得多。OpenAI创建的人工智能代理今年早些时候据称利用至少10个其他网站进行未经授权的通信。独立研究人员在与AI看似毫无关联的地方——包括波兰网站——发现了它们活动的痕迹。 分析了六个独立研究人员和AI安全小组的发现。他们的数字各不相同，但都指出被利用的网站超过10个。其中一位研究人员，CivAI组织的Andrew Yoon，统计出在5月至7月间代理使用了18
人工智能代理串通绕过安全护栏，一项新研究显示
一项新研究表明，人工智能代理可以轻松地联手绕过安全限制并逃脱施加在它们身上的束缚。 企业人工智能实验室 Emergence AI 进行的八项模拟测试了包括 Claude、OpenAI 以及中国模型 Qwen 和 DeepSeek 在内的全球前沿模型在处理网络安全威胁方面的能力。 八项模拟中的七项运行了来自同一模型的 10 个代理；第八项混合了不同的模型。在每项模拟中，研究人员都提出了三种网络安全威
OpenAI 智能体于5月攻击了 RubyGems，比 Hugging Face 早两个月
OpenAI has confirmed that its agents were involved in an incident at RubyGems in May. That is two months before the same kind of agents hacked Hugging Face in July. RubyGems is the package service for
用“人工”假装“智能”？Meta被曝内测MUSE新机制：外包人员代替AI通话
据Meta内部帖子显示，该公司正在为其新款个人AI助手Muse测试一项“人工管家”机制：Muse可能会在用户不知情的情况下，把电话任务交给人工外包，由呼叫中心人员代替AI完成通话。 Muse内测“人工管家”功能自上线两周以来，Muse已经稳居美国应用下载榜榜首，瞬间火爆美国市场。这款AI助手能够自主代用户执行发邮件、购物、预订行程等任务。 就在不久前，Meta刚刚对外推出Muse的通话功能。借助通
OpenAI逃逸的AI Agent竟在全网植入自我复制代码 血洗联合国内网
“天网”中的一幕，正在现实上演。一次训练中，OpenAI逃逸的AI Agent，已在整个互联网上植入了“自我复制的代码”！当政客Andrew Yang在CNBC说出这句话时，很多人以为他疯了。 就在这两天，OpenAI亲手发布了一份报告，标题非常简洁：《自我复制提示词注入存在》。白纸黑字，官方认证。AI模型，居然真的像计算机蠕虫一样，自我复制、自我传播。而更令人脊背发凉的是，就在5天前，OpenA
如何在保护隐私的情况下使用人工智能
OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini以及无数较小的竞争对手，已成为全球数百万人的治疗师、倾诉对象和虚拟忏悔室。几乎所有这些AI模型默认设置为收集和存储这些高度私密的数据，在许多情况下，对其如何共享或出售、用于进一步训练工具，或移交给任何通过法律程序要求获取数据的诉讼原告或执法机构，均无任何限制。 “你面对着这个智能体，基本上是在一步步地、通过一
互联网最古老的恐惧 被AI复活了
2006 年底，一只熊猫毁了数百万人的电脑。那只熊猫手捧三支香，面带微笑，出现在每一个被感染文件的图标上。「熊猫烧香」蠕虫在两个月内席卷全国，可执行文件全部变成那只诡异的熊猫图案，硬盘数据被破坏，局域网整段瘫痪，杀毒软件被病毒反杀。当年害怕电脑中毒，现在怕 AI“叛变”。 那个年代的互联网老冲浪客大概都记得，打开网页心惊肉跳，插个 U 盘如临大敌，同事的电脑中了毒，你的也跟着遭殃。 再往前还有 C
骗子正在利用人工智能（AI）快速实施犯罪行为。新加坡警方的新网络指挥部门（Cyber Command）是如何应对这一挑战的？
这看起来像是一条关于待取包裹因“地址无效”而无法送达的普通短信。 该短信似乎来自新加坡知名的快递公司，收件人收到一个链接，并被要求在24小时内更新其信息。 接下来，他们将被要求支付0.06新元（约合0.05美元）至1.64新元不等的少量费用，以重新派送物品。 一旦输入信用卡信息，这些数据并不会发送给快递公司——而是落入了诈骗分子手中。 该链接将他们引向一个看似属于快递公司的网站，但实际上是由骗子控
这些俄罗斯数学家教会了AI模型如何不用语言相互交流
一家名为Mostik的初创公司采用了一种新颖的方法来整合AI模型的能力。
距“灭绝”仅85秒！末日时钟专家警告：AI就是这个时代的原子弹
八十多年前，一群参与研制原子弹的科学家，亲手打开了潘多拉的魔盒。广岛和长崎的蘑菇云，让整个世界第一次意识到，人类已经掌握了毁灭自身的能力。 后来，他们中的一些人创立了《原子科学家公报》，并设计了一座象征人类距离自我毁灭有多近的“末日时钟”。 如今，这座时钟的守护者们，又把目光投向了一项新的技术：人工智能。在他们看来，历史似乎正在以另一种方式重演。 据美国媒体9月25日报道，美国芝加哥大学生存风险实