搜索结果
三大巨头接连翻车，大模型的安全防线怎么总绷不住？
先是Anthropic，再是OpenAI，现在连谷歌的Gemini也出现安全问题了，大模型又双叒叕一次突破防火墙了。 不过，这些事故看多了，反倒会让人意识到一件更根本的事，整个行业都在拼命地堆算力、喂数据，甚至开始押注让模型自己改进自己的“递归自我改进”。 可真正决定这些模型能走多远的，或许并不是性能，而是安全对齐。 当“能不能更强”被默认只是时间问题，“能不能被信任”就成了那道绕不过去的坎。 麻
Meta 禁用了数千副 AI 眼镜的摄像头
Meta 对数千名被检测到物理篡改录制指示灯的 AI 眼镜用户采取了严厉措施。
印度发出警报后，Meta 下架伪装成色情应用的诈骗广告
Meta 周一删除了数十条广告，此前印度指出 Facebook 和 Instagram 上存在一种广告模式，利用露骨色情内容引诱用户下载恶意软件，这些软件可能窃取银行凭证并掏空银行账户。
旧金山责令Meta停止“允许”AI儿童虐待广告
旧金山市检察官已向Meta发出停止函，要求该公司停止“允许”包含AI生成的儿童性虐待内容的付费广告，并要求其解释这些广告为何屡次在其平台上投放。 周二，WIRED报道称，Meta近几个月来投放了350多则广告，将未成年人静态图像——其中一些被确认为真实个人，包括一位欧洲王室成员——转化为可描绘其进行性行为的短视频片段。点击这些广告后，用户会被引导下载AI图像和视频生成应用，其中一些应用可用于对他人
Meta的扎克伯格倾向于评估者而非放缓AI
Meta平台公司首席执行官马克·扎克伯格表示，人工智能实验室应依靠独立评估人员和顾问来确保模型的安全性。 “聘请独立评估人员和顾问是行业最佳实践，”扎克伯格周二在X平台上发帖写道，加入了越来越多科技高管就如何最好地防止AI系统危害人类这一全球辩论发表意见的行列。 一些公司高管表态支持放缓AI发展步伐，并主张共同努力达成共识。扎克伯格写道，Meta自行决定放缓Muse AI工具的工作进度，而非要求同
据《The Information》报道，Meta在Muse曝出安全漏洞后加强安全警告
安全研究人员发现Meta平台应用的Muse存在可能暴露用户敏感数据的安全漏洞后，Meta在Muse中增加了更明确的安全警告。 该漏洞可能让攻击者访问用户的虚拟机，其中包含个人邮件和文件。Meta将其评为高严重度的SEV-2事件。 Muse是Meta新推出的人工智能代理，可执行购物和发送电子邮件等任务。该应用上线后迅速登顶应用商店榜单，两周内下载量约为280万次。 人工智能生成内容——美国旧金山：《
Meta与新加坡警方合作，对370万个与诈骗相关的“空壳页面”和账户采取了行动
新加坡：Meta于周三（9月23日）表示，在新加坡警方情报的协助下，该公司今年已在Facebook和Instagram上删除或限制了数百万个与诈骗相关的“空壳页面”和账户。 Meta表示，此次行动主要针对364万个所谓的“空壳页面”。这些页面尚未被用于诈骗，但已被设置为基础设施，以便日后启动诈骗活动。 Meta将空壳页面描述为一种通过其与新加坡警察部队（SPF）持续进行的信息共享合作而识别出的“新