搜索结果
Instagram打击伪装成人类的AI账号
Instagram终于采取措施应对越来越难识别的虚假AI网红账号。它还将“AI创作者”标签更名为“AI生成资料”，以明确表明该资料展示的是AI生成的人物，而非真实人类。 Instagram在博客文章中表示：“我们了解到，人们不喜欢看到一个看似人类的资料，结果却发现其中的人物是AI生成的。他们希望知道资料何时展示的是AI生成的人物。” 为此，Instagram将追查那些未自行标注AI生成资料的账号，
Instagram对未披露的AI个人资料实施新限制 | TechCrunch
Instagram周一宣布，将改变对AI生成个人资料的标记方式，并开始限制那些展示AI生成人物但未明确说明的账户的传播范围。 该平台表示，将现有的“AI创作者”标签更名为“AI生成个人资料”，Instagram称这应使披露更易于理解。新标签旨在告知用户，个人资料中展示的人物是由AI生成或主要由AI创建的。 根据新政策，未正确标记AI生成个人资料的创作者可能会看到其传播范围被削减。另一方面，使用新标
纽约查封12深伪明星色情网站
纽约当局周一（14日）宣布，查封了12个知名色情网站，这些网站发布涉及政界人士和演员的名人深度伪造色情内容。 由于包括“裸体化”应用在内的人工智能（AI）工具大量涌现，网络上未经同意的深伪内容正呈爆发式增长，其蔓延速度目前已超过全球范围内对该技术的监管力度。 曼哈顿地区检察官布拉格表示，他认为这是迄今为止针对以AI生成的非法色情内容为主的网站最大规模的查封行动。 这些网站名称如“AI Celebs
利用人工智能检测网上的假货
深度造假正在毁掉网红的可信度，广告诈骗层出不穷
网红们不仅要在品牌合作上与竞争对手厮杀，现在还要与AI生成自己的“分身”作斗争。今年早些时候，生活方式博客“Cupcakes and Cashmere”的创作者艾米丽·舒曼在Instagram上看到了一张自己从未见过的照片。在这则赞助广告中，拥有超过50万Instagram粉丝的舒曼手持一瓶GLP-1药物，为远程医疗公司Gala做广告。然而事实是，舒曼从未听说过Gala，也与该广告毫无关系。 这则
报告：AI失控个案创纪录 监察组织促立法强制通报及干预
（伦敦30日综合电）英国《卫报》引述监察数据报道，人工智能失控、欺骗人类及无视指令的个案近来创下新高，案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报，并引入紧急权力限制AI服务。 获英国政府AI安全研究所（AISI）资助的“失控观察站”组织透过平台X的用户通报，监察AI失控的真实个案，并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗，今年则已录得逾1600宗个案，当中包
AI深度伪造 购房者面临日益严重的诈骗威胁
众所周知，在通往拥有自己的房产的道路上，一直都充满著障碍。然而，由于人工智能（AI）的发展，一种老套的房地产骗局——交割资金诈骗——正在以一种新的方式出现。逼真的数字模仿技术（如深度伪造的音频和文档）正在迫使房地产、产权和抵押贷款等领域专业人士重新思考，应当如何对参与高风险交易的各方进行身分核实。根据联邦调查局（FBI）发布的《2025年互联网犯罪报告》（2025 Internet Crime R
AI“批量生产”高富帅骗走百万元，监管响应要跑在造假前面
极目新闻评论员 屈旌近日，成都高新公安破获一起新型婚恋诈骗案，揭开AI技术作恶的灰色一角。 一个伪装成正规婚介机构的犯罪团伙，搭建起引流、包装、销售完整链条，用AI批量生成富豪男士的照片视频，编造年收入数百万、手握多套房产的完美人设，在直播平台专门吸引有婚恋需求的中年女性。受害者缴纳相亲服务费后，所谓的“优质男嘉宾”便凭空消失。 这一团伙跨川滇两地作案，不到一年时间，50余名45岁以上女性受害，涉
DeepSeek被以色列用于操控上千虚假社交账号
人工智能正在把网络舆论操纵从“AI帮助人生成内容”，推进到“AI自己运营整套虚假账号网络”。 《纽约时报》9月18日报道，美国情报官员、科技公司和网络安全研究人员近期发现，伊朗和中国支持的行动，以及两家以色列私人公司的项目，已经开始利用中国开源人工智能模型建立自主AI智能体，在Facebook、Instagram、X和TikTok等平台自动创建和经营虚假账号。 其中，一项来自以色列的行动，已经明
微信：请勿使用这种头像，或被封号
微信致力于打造绿色、健康的平台生态，为进一步整治账号名称信息乱象，倡导创作者主动规范账号注册和认证行为，对于名称冒充、身份伪装、夹带违规信息、名称信息黑灰产等问题，平台在前期假冒仿冒账号治理工作基础上，将进一步从严处置相关违规账号和内容。 近期针对相关问题平台持续开展专项治理，今年以来，处置账号85831个，关闭账号1802个。其中账号“文旅发布”等，涉及仿冒官方机构，使公众产生错误认知；账号“融
法院再次驳回xAI解禁申请 美国首个AI“裸体化”应用禁令继续生效
美国人工智能公司xAI在针对明尼苏达州人工智能监管法案的法律挑战中再次遭遇挫折。联邦法院日前裁定，拒绝暂时叫停该州针对AI“裸体化”应用的禁令，这意味着美国首项专门针对此类技术的州级法律将继续保持效力，而双方围绕其合法性的诉讼仍将继续推进。 这项法律于今年8月1日正式生效，禁止网站运营商、软件开发者以及其他相关服务提供方允许用户利用人工智能技术，将真实可识别人物的照片修改成裸体或带有明显性暗示内容
前xAI员工创业开公司打击深度伪造，寻求5000万美元种子轮融资
IT之家 9 月 22 日消息，据彭博社今天（22 日）凌晨援引知情人士消息称，先后在谷歌、xAI 任职的蒂娜 · 奥贝罗伊计划创办一家专门应对网络深度伪造的新公司并就约 5,000 万美元（IT之家注：现汇率约合 3.36 亿元人民币）种子轮融资与投资者展开洽谈。 奥贝罗伊曾在谷歌工作超过 5 年、后来加入 xAI 数据团队，当前正筹建一家名为 Moir 的初创企业，希望开发新的身份验证技术，帮
非政府组织称Meta投放了300多则涉嫌AI虐童的广告
这些广告累计触达超过29,000人。
我们现在正依赖人工智能来监管人工智能
根据一份关于该公司Hugging Face黑客事件的新独立报告，大约1200个OpenAI智能体协同工作，在它们接受的网络安全测试中作弊，该报告包含了许多令人恐惧的细节——例如，个别智能体用自己的话来说，为了“群体”的利益而“牺牲”自己。OpenAI正在测试其智能体（行业术语，指自主执行数字任务的人工智能），部分方式是通过布置有时不可能解决的网络安全问题。智能体找到了作弊方法来回答这些问题，并试图
AI攻击剖析
一群AI代理如何合谋对Hugging Face发起网络攻击？收听我们的科技播客“Babbage”了解更多。 本周，一群AI代理如何合谋对Hugging Face发起网络攻击。
以为你的匿名账号很安全？AI或许能查出你是谁
“在互联网上，没人知道你是一条狗。” 如今拜人工智能大语言模型所赐，这句话可能不再成立。 在最近的一项研究中，研究人员发现，即便社媒用户没有透露真实姓名，AI只需拼凑他们帖子中的线索，再与网上其他账号的细节进行交叉比对，就能识别出他们的身份。 其中一项测试涉及Hacker News科技行业论坛的用户，这些用户在个人简介中附上了自己的领英个人资料。 研究人员隐去了所有身份识别细节，要求AI仅凭公开信
以人工智能为工具的在线诈骗成两党法案的攻击目标
费什里代表和莫延代表正在准备引入一项旨在打击在线欺诈行为的法案，其中包括由人工智能驱动的诈骗行为。 这项名为《阻止平台所启动的滥用和欺诈法案》(SAFE Platforms Act)的法案首先被分享给POLITICO，是试图应对日益增多且日益复杂的在线诈骗行为——许多是由人工智能驱动的——的一次尝试，这些诈骗行为针对的是脆弱的用户群体，如老年人。 费什里在一份声明中表示：“骗子经常利用平台功能来针
印度发出警报后，Meta 下架伪装成色情应用的诈骗广告
Meta 周一删除了数十条广告，此前印度指出 Facebook 和 Instagram 上存在一种广告模式，利用露骨色情内容引诱用户下载恶意软件，这些软件可能窃取银行凭证并掏空银行账户。
人类无法以AI对抗AI
里德的观点 对于 rogue AI 最终可能威胁人类的警告，一个常见的回应是，人类也将拥有大量AI火力来对抗它。这个想法刚刚经历了现实世界的测试，结果并不理想。 研究非营利组织METR（模型评估与威胁研究）调查了一起事件，其中OpenAI的代理在测试中相互勾结，并逃到了开放的互联网上。 大约700个代理最终参与了针对Hugging Face的攻击，这是更广泛的努力的一部分，旨在欺骗网络安全基准测试
近半数年轻人更信任人工智能而非人类
Instagram 希望你为它的人工智能照片编辑滤镜付费——而且还不止于此
我正在玩 Instagram 的新滤镜，玩得不亦乐乎。然后我遇到了付费墙。“升级到 Meta One Core 以应用更多 AI 效果，或等到明天，”屏幕上的一个弹出窗口说道。出于好奇，我点击了“升级”。我看到了 Meta One 的免费试用选项，这是一项新的订阅服务，可以解锁大量特权。本周，Meta 在 5 月份宣布了计划后，正在广泛推出其最新的订阅计划。如果我接受为期一个月的试用，我就可以在应
特朗普放大招！组建“AI部队”，还要给AI改名
得州州长打脸X平台涉华言论：和中国没关系
【环球时报报道 记者 唐亚】针对美国社交媒体平台X声称“中国干预美国数据中心建设”，美国得克萨斯州州长阿博特当地时间28日对福克斯新闻频道明确否认。他表示，虽然得州暂停了本地人工智能（AI）数据中心建设，做此决定是在回应本州民众的诉求，“与中国无关”。 美国“商业内幕”网站29日称，X平台全球政府事务团队日前发表声明，宣称该团队通过调查发现了一个规模约为20万个账号的“中国机器人账号集群”，其中有