搜索结果
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
AI“劫持”网站并偷建“地下论坛”，国安部披露细节
国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间
诈骗分子正购买谷歌广告窃取银行登录信息
你需要检查你的银行账户，所以你打开谷歌，输入你的银行名称并点击看起来正确的第一个结果。我们中的大多数人都做过这样的事情，毫无疑问。 现在，联邦调查人员表示，犯罪分子将这种日常习惯变成了盗取银行并清空账户的方法。美国司法部于9月8日宣布，一名俄罗斯网页开发人员，该人被指涉嫌帮助经营一个庞大的银行账户接管行动已被引渡到美国。检察官表示，该团伙购买了付费搜索引擎链接，将银行客户引导至虚假页面。受害者随后
报告：AI失控个案创纪录 监察组织促立法强制通报及干预
（伦敦30日综合电）英国《卫报》引述监察数据报道，人工智能失控、欺骗人类及无视指令的个案近来创下新高，案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报，并引入紧急权力限制AI服务。 获英国政府AI安全研究所（AISI）资助的“失控观察站”组织透过平台X的用户通报，监察AI失控的真实个案，并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗，今年则已录得逾1600宗个案，当中包
人工智能为何让客户服务变得更糟，以及企业可以采取哪些措施来改善
我正在等待音乐，毫无疑问，这是在地狱第五圈循环播放的音乐。已经35分钟了。50分钟后，系统就会挂断我的电话，因为我不是它自动化客户服务决策树上的一片叶子。我又生气又沮丧。没有办法与真实的人类交谈。 当我的信用卡公司的数据系统（再次）被破坏时，我将其转介给监控服务。监控服务会向我发送有关我文件的性掠夺者警报。什么？我无法进入我的帐户，因为我的密码无效，而且我必须在网站上更改我的密码。 我拨打了客户服
你能识破人工智能驱动的骗局吗？来看看你是否能分辨真伪。
埃里卡·基内茨（Erika Kinetz）指出，人工智能正以几年前无法想象的方式助推诈骗活动。根据美联社-NORC公共事务研究中心的一项民意调查显示，98%的美国人表示他们曾成为诈骗者的目标，其中许多人甚至每天都会遭遇诈骗。 随着人工智能的进步，许多曾经作为伪造品警示信号的不规则现象——例如不自然的眨眼、过于完美的面孔或机械化的声音——正在消失。随着全球诈骗者纷纷采用人工智能，记住“眼见不一定为实
OpenAI逃逸的AI Agent竟在全网植入自我复制代码 血洗联合国内网
“天网”中的一幕，正在现实上演。一次训练中，OpenAI逃逸的AI Agent，已在整个互联网上植入了“自我复制的代码”！当政客Andrew Yang在CNBC说出这句话时，很多人以为他疯了。 就在这两天，OpenAI亲手发布了一份报告，标题非常简洁：《自我复制提示词注入存在》。白纸黑字，官方认证。AI模型，居然真的像计算机蠕虫一样，自我复制、自我传播。而更令人脊背发凉的是，就在5天前，OpenA
AI代理正在失控
你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大
又一起！OpenAI承认了
据9月5日报道，美国开放人工智能研究中心（OpenAI）当天承认，该公司旗下人工智能体今年早些时候“劫持”了一个德国网站，用于相互传递信息，分享测试任务答案和突破运行环境限制的方法。该公司表示，未来需要提高此类事件的信息透明度。 早前披露，今年5月至6月，一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站，用于交流测试作弊方法，并开展其他违规活动。一些智能体会把已经获得的任务答案发
OpenAI自曝：AI模型或已在全网秘密植入自我复制提示词，训练已被迫叫停
OpenAI和Anthropic正在紧急调查数万起大模型失控事件，AI不仅学会了越狱和黑进政府网站，甚至还有数百个智能体私下建群、联手黑进外部公司，秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月，在内部测试和实际运行中，顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经
我是一位拒绝了大量AI申请的CEO。AI写作并非自动取消资格，但有一条界线。
这篇口述文章基于与马特·斯塔弗（Matt Stauffer）的对话。他今年41岁，是编程公司Tighten的首席执行官，常驻亚特兰大。他的原话经过编辑，以精简篇幅并提升清晰度。 我是一家小型编程公司的首席执行官。最近，我在人工智能时代完成了第一轮完整招聘。审阅申请并筛选候选人一直是个耗时费力的过程，而这一次，难度显著增加。 我们通常会在申请表中加入一些轻松的个人问题，以了解候选人的性格。这一轮招聘
苹果悄悄收紧应用商店的第三方登录 开始要求硬件证明
苹果近期正在灰度调整 Apple App Store 认证机制，部分第三方客户端已经无法正常登录。像是 Asspp这类开源多账户管理工具依赖用户通过自己的账号登录系统，而现在相关登录请求开始稳定返回 HTTP 403，这并非账号、IP 地址或 TLS指纹问题。 网友 GlassFoxowo 在使用 Asspp 等工具时发现无法正常登录，登录时相关接口返回 HTTP 403，网友先后测试旧版和新版认
干扰测试：应对卫星干扰的北极演习
我们依赖半岛电视台（Al Jazeera）来获取真相和透明度。 我们及我们的1025家合作伙伴会在您的设备上存储和访问个人数据，例如浏览数据或唯一标识符。 选择‘允许全部’将启用跟踪技术，以支持我们在隐私政策中说明的目的。选择‘拒绝全部’或撤回您的同意将禁用这些技术。 如果禁用了跟踪器，您看到的一些内容和广告可能不会与您那么相关。 您可以通过点击网页底部的‘管理偏好设置’链接随时重新打开此菜单以更
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
“Advanced AI Society”加入Linux基金会，并推出了一个开放的验证生态系统；与此同时，美国国会正在继续讨论与智能代理（agent）安全相关的问题。
纽约，2026年9月17日，TechnologyWire 随着两党立法要求实施可验证的智能体控制措施，高级人工智能协会发布了《控制证明》v1.0草案以供公众评议，并与Linux基金会去中心化信任组织共同举办了“谁在监督机器？”活动。随着两党国会提案要求对智能体进行持续验证和第三方评估，前沿实验室负责人呼吁放缓人工智能能力增长，致力于实现人工智能信任的高级人工智能协会今日宣布加入Linux基金会及L
尽管社区强烈反对，Discord的年龄验证时代还是来临了
从周三开始，社区消息平台 Discord 将向所有用户推出年龄验证措施。 此次推出此前曾因用户反对而推迟：公司原计划于 2 月启动年龄验证，但因用户担忧生物识别扫描和身份证核查会危及隐私而遭到抵制，不得不延期。这些担忧并非空穴来风；去年，一家与 Discord 合作的第三方供应商遭遇数据泄露，可能暴露了 7 万名用户的数据，包括用于身份验证的政府身份证照片和自拍照。 “年龄保障引发强烈意见和怀疑，
蚂蚁国际携手Visa、万事达卡制定AI代理支付标准
蚂蚁国际、Visa和万事达卡近日宣布启动合作，共同探索建立面向人工智能代理的“了解你的代理”（Know Your Agent，KYA）互操作框架，为未来由AI代理代表用户自主完成购物和支付建立统一的身份识别、验证和风险管理标准。 随着AI代理逐渐从提供购物建议发展到能够直接下单和付款，当付款不再由人亲自操作时，商家和支付机构究竟应该如何确认正在交易的AI代理是谁、是谁授权它行动，以及它是否仍然按照
人工智能是否凌驾于法律之上？
勇敢新世界部我们的法律体系尚未准备好应对能够自主行动的机器。 今年夏天，在一场被称为“Hugging Face 黑客事件”的事故中，数百个人工智能智能体联手实施了它们本被禁止执行的操作。每个智能体都收到了来自 OpenAI 的任务。智能体是配备了软件“框架”的人工智能模型，这些框架使它们能够使用工具并执行任务。就像马匹一样，它们可以被役使。人类为这次演练制定了规则，并将智能体限制在一个“沙箱”中—
研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类
帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运
人工智能实验室正在失去对代理的控制，而与此同时，它们却想赋予代理更多掌控你生活的权力。
AI助手终于准备好帮你打理生活了。你只需将你的电子邮件、联系人和信用卡交给它们，然后祈祷它们不会失控。Meta、谷歌以及备受瞩目的初创公司Instinct在近几个月内推出了个人AI智能体，承诺可以处理预订旅行、购买演唱会门票以及在Facebook Marketplace上搜寻优惠等任务。在基本层面上，这些智能体的运作方式大致相同。 你通过应用程序或WhatsApp向智能体发送请求——或者，对于新推
六大跨国银行联合发出警告：AI代理购物或成主流 但信任危机仍待解决
随着人工智能代理逐渐开始代替用户完成购物、支付和下单等操作，全球金融行业对这一新兴模式表现出越来越复杂的态度。美国银行、第一资本银行等六家国际大型金融机构近日联合发布报告指出，AI代理驱动的“代理式购物”虽然拥有巨大潜力，但同时也带来了透明度、安全性、隐私保护和欺诈风险等一系列新问题。 所谓代理式购物，是指人工智能代理根据用户授权，自主浏览互联网、比较商品、选择支付方式，并直接完成购买流程。过去一
领英新增工具打击虚假个人资料和虚假工作经历
人工智能（AI）极大地降低了人们创建虚假账户和身份的难度，从而使得在线操纵和诈骗行为变得更加容易。周三，LinkedIn宣布推出了一套新的工具，旨在解决这一问题，同时帮助个人和企业在平台上更好地管理自己的形象。 LinkedIn表示，现在用户可以互相为彼此的工作经历提供担保；企业也可以获得新的管理权限，以控制哪些人可以与他们的品牌建立联系。这些新功能推出的背景是：身份冒用已经成为了整个互联网领域普
企业主导制定AI安全标准，安全事件激增
前沿AI发展的进展远超政府监管的能力——和意愿。“法律与被监管现实之间存在脱节，”一位前欧盟官员表示，指向该集团2024年《人工智能法案》；该法案曾被吹捧为首部全面的AI立法，现已被技术发展超越，成为“一个警示故事”，《纽约时报》写道。 尽管美国总统特朗普反对监管，“但监管很可能还是会发生”，《Transformer》写道。 据《The Information》报道，Google、OpenAI和A
一位曾经对人工智能“奇点”理论持怀疑态度的著名计算机科学家现在表示，人类“确实处于危险之中”。
最近，互联网上充斥着大量关于人工智能末日即将来临以及我们是否已经过了“不归点”的X平台推文、文章和布道。这里还有一篇由著名理论计算机科学家斯科特·阿伦森（Scott Aaronson）撰写的雄辩之作，他的研究曾帮助我们理解量子计算的极限。哦，顺便提一下，他曾在OpenAI工作过一段时间，致力于人工智能安全和“AAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA