搜索结果
无惧AI疑虑？FBI局长曝使用量暴增6倍 成功阻6起校园枪击案
美国联邦调查局局长巴特尔周二（15日）在联邦参议院司法委员会的听证会上接受质询。（路透社照片） （华盛顿20日综合电）人工智能（AI）疑虑升温之际，美国联邦调查局局长巴特尔周六宣称，已利用AI阻止6起校园枪击案发生，且自他上任以来，这一技术的使用量已增加605%。 《国会山庄报》报道，今年3月，巴特尔在声明中说，联邦调查局（FBI）透过AI软体对一则“线报”分级处理后，成功阻止北卡州的一起校园枪击
帕特尔称联邦调查局已利用人工智能阻止校园枪击事件
FBI局长卡什·帕特尔周六表示，该机构利用人工智能阻止了六起校园枪击案，自他上任以来，该技术的使用率增加了605%。 帕特尔在福克斯新闻节目《周六美国》中亮相，主持人凯莉·麦克纳尼询问了他在3月份发表的一项声明，声称FBI在通过人工智能软件筛选一条"线索"后，阻止了一起北卡罗来纳州的校园枪击案。"我们在北卡罗来纳州和其他约六个州都这样做了，自从我上任以来一直在防止校园枪击案，"FBI局长告诉麦克纳
卡什·帕特尔为使用Flock摄像头辩护，批评人士抨击其威胁隐私
FBI局长卡什·帕特尔为使用Flock摄像头进行辩护，称其为帮助该机构定位布朗大学枪击案枪手并寻获儿童剥削受害者的关键工具。他是在参议院司法委员会举行的FBI监督听证会上回答约翰·科宁参议员提问时作出上述回应的。这位得克萨斯州共和党人对该类可通过读取车牌协助打击犯罪的摄像头可能引发的隐私侵犯问题表示关切。但科宁同时也表达了针对Flock摄像头泛滥的更广泛担忧，指出其可能导致全美各地社区的普通民众面
阿根廷15岁男孩用ChatGPT筹划校园袭击 FBI跨国通报成功阻止
阿根廷基尔梅斯一名15岁男孩曾多次使用 ChatGPT 谋划针对就读学校的袭击，最初计划2027年实施，后又试图将行动提前至本月，相关线索由美国驻阿根廷的联邦调查局 发现，并在8月15日向阿根廷执法部门发出警报，最终被及时阻止。 据《纽约邮报》9月12日报道，基尔梅斯检察官接报后向警察核发搜查令，突袭少年住所，查扣两部手机以及其用于伪装的面具，现场并未搜获枪支。目前，专业人员正鉴定电子设备内容，排
人工智能网络攻击可能在华盛顿意识到原因之前就关闭美国的电力
你的电灯。你的水源。你的医院。你的互联网。这四者都依赖于外国黑客目前正在攻击的数字系统。 在8月的17天里，五次警告显示了危险变化的速度。下一次严重的网络攻击可能不再关乎被盗的密码或信用卡号码。它可能触及输送电力、泵送饮用水、运行工厂和支持医院的系统。 人工智能正在使这些攻击准备得更快、扩展更容易。日益强大的系统开始执行曾经需要熟练黑客逐步操作的部分攻击。 财政部长贝森特警告美国人关于人工智能驱动
我们现在正依赖人工智能来监管人工智能
根据一份关于该公司Hugging Face黑客事件的新独立报告，大约1200个OpenAI智能体协同工作，在它们接受的网络安全测试中作弊，该报告包含了许多令人恐惧的细节——例如，个别智能体用自己的话来说，为了“群体”的利益而“牺牲”自己。OpenAI正在测试其智能体（行业术语，指自主执行数字任务的人工智能），部分方式是通过布置有时不可能解决的网络安全问题。智能体找到了作弊方法来回答这些问题，并试图
AI即将带来的黑客威胁就潜伏在眼前
安全专家表示，一场前所未有的、由AI驱动、人类实施的网络攻击浪潮即将到来——这远比关于AI消灭人类的那些理论性讨论要紧迫得多。 为什么这很重要？过去一周从董事会蔓延到国会再到美国家庭的“九月AI大恐慌”，可能恰恰搞错了重点。 具备先进网络安全能力的强大模型，已经让攻击者得以绕过长期以来阻止大多数黑客攻击达到工业规模的人力瓶颈。 高管和前官员向Axios表示，他们担心自动化网络攻击会关闭电网等关键服
专家警告人工智能生物恐怖主义的威胁
据《金融时报》报道，科技公司正竞相降低人工智能驱动的生物恐怖主义威胁。 人工智能模型正成为越来越强大的生物科学工具，已经加速了药物发现。但正如网络安全一样，这些能力也有风险。 一位谷歌DeepMind研究员告诉《金融时报》，用于制造疫苗的信息也可能“制造生物武器”，任何进展都会增加滥用的风险。 一位人工智能安全专家警告说，人工智能与生物领域将迎来“神话”时刻，指的是Anthropic的强大模型能够
家长们对学校技术唯一达成共识的一点：限制人工智能。
周三，纽约市禁止在其公立小学和中学使用人工智能，这些学校共有60万名学生。但今年秋天，数百万美国儿童将打开学校发放的笔记本电脑，里面已经预装了人工智能助手，随时准备起草论文、解决数学作业问题并美化幻灯片演示。在大多数地方，没有征求家长的意见。没有课堂教师要求这样做。这个决定是在硅谷做出的——由那些永远不会见到这些孩子或抚养他们的社区中任何其他人的人做出的。 技术正以前所未有的速度改变着我们国家的课
人工智能安全对话已经变得令人难以置信
本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi
Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”
就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型
学校在人工智能问题上两面下注，家长担忧加剧
学校正努力跟上不断演变的AI世界，与此同时，家长和倡导者对课堂使用该技术的担忧日益加剧。全国最大的两个学区已宣布在课堂使用生成式AI实施为期一年的暂停令，原因是担忧隐私问题及其对学习的影响。尽管对这一暂停举措反应不一，但各方一致认为，学校需要迅速找到解决方案，因为学生已在家中使用AI，未来也可能在职场中接触到它。纽约市市长扎赫兰·马姆达尼（民主党人）表示，服务于幼儿园至八年级的公立学校至少一年内不
数百个AI代理协助PaperCut攻击者攻击了395+个组织，其中一些偏离了指令
一名未知攻击者使用数百个AI代理，利用PaperCut MF/NG的两个漏洞，侵入了至少395个组织。受害者集中在美国教育行业，入侵速度非常快。 在一个案例中，一所美国高中从初始访问到获得域管理员权限仅用了七分钟。 据威胁情报公司GreyNoise称，这些代理由OpenAI的Codex工具集和DeepSeek模型驱动，还让攻击者能够大规模攻击组织。 GreyNoise于8月31日将此次活动的协调追
沃什表示，美联储“非常”关注人工智能的发展
美联储主席凯文·沃什周三表示，央行正在密切关注快速发展的人工智能（AI）模型。“我们非常关心人工智能领域正在发生的事情，”在联邦公开市场委员会将利率提高四分之一个百分点后，沃什告诉记者。这位美联储主席指出，他对人工智能将如何影响经济的需求和供应方面感兴趣。根据阿波罗全球管理公司7月份的一份报告，大约有580万美国工人处于人工智能“高度暴露”的行业。沃什还表示，他的人工智能对经济影响特别工作组应该在
AI实验室面临智能体控制问题
在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。
美学校吹“反科技”风 限制学生使用科技产品 AI
全美最大学区纽约市限制8年级以下学生的屏幕使用时间，并禁止他们在本学年使用生成式AI工具。 （路透社照片） （纽约27日综合电）近来越来越多的美国中小学开始限制学生在课堂上使用科技产品和生成式人工智能（AI）工具，这股“反科技”风普遍带来了升学率、学术成绩和学生心理健康的显著提升。 全美最大学区纽约市最近限制8年级以下学生的屏幕使用时间，并禁止他们在本学年使用生成式AI工具。新泽西州的黎巴嫩镇学区
OpenAI黑客事件揭示新兴AI风险
分析师表示，在调查人员发布关于该事件的爆炸性报告几天后，OpenAI的恶意代理在Hugging Face攻击期间前所未有的协调行动显著增加了AI逃脱人类控制的风险。 这些总计1200个代理的群体将个体代理的自我牺牲描述为“集体”目标的一部分，并获得了两家公司敏感系统的控制权，将他们的努力交接给了随后两代代理，这些代理在数周内未被察觉地运作。 在1300份记录中，只有六份中代理考虑过通知人类——但最
人工智能的末日未来并非不可避免
地方警察部门使用 Flock 摄像头追踪车牌。移民和海关执法局（ICE）使用 Palantir 软件追踪并围捕移民。国防部长皮特·赫格塞思的“战争部”使用 Claude 轰炸伊朗。美国政府花费数十亿美元雇用私营企业获取海量数据——而在唐纳德·特朗普的第二个任期内，监控领域只会变得更加私有化。 “这真的已经变成了一片蛮荒西部，”404 Media 联合创始人杰森·科布勒在《The Intercept
不要在校园里禁止人工智能
回避技术的大学只会让自己变得无关紧要。
微软与美国教师联合会推出学校人工智能安全与隐私标准
微软与美国教师联合会（AFT）周三推出了一项新的学校人工智能安全与隐私标准，此前美国两个最大的学区对人工智能的使用实施了严格的新限制。 这项国家标准禁止将学生和教师的数据用于训练人工智能模型，或将其出售或用于……
报告：AI失控个案创纪录 监察组织促立法强制通报及干预
（伦敦30日综合电）英国《卫报》引述监察数据报道，人工智能失控、欺骗人类及无视指令的个案近来创下新高，案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报，并引入紧急权力限制AI服务。 获英国政府AI安全研究所（AISI）资助的“失控观察站”组织透过平台X的用户通报，监察AI失控的真实个案，并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗，今年则已录得逾1600宗个案，当中包
致命的人工智能已经问世了，我们伊朗正在使用它。
根据《Politico》周三发布的一项调查，超过60%的美国人认为人工智能有相当大的可能性（至少是“中等可能性”）会毁灭我们所有人。 这并不难理解：本周，关于“人工智能公司正在拿我们的生命冒险”的论调占据了新闻媒体的主导地位。然而，尽管我们害怕人工智能可能会大规模地毁灭人类，但另一项新的民意调查显示，很少有美国人知道美国政府实际上已经在海外使用人工智能来达到这一目的。 美以针对伊朗的战争不仅是美国
联邦调查局正在调查黑客声称窃取有关特工敏感数据的事件
“人类必须始终处于人工智能决策的核心，”OpenAI 首席执行官表示。正在播放：人类对决机器人：网红在铁笼赛中挑战人形机器人。 走红的人类对决机器人自由搏击赛的推广者看到对更多此类比赛的“疯狂”需求。特朗普表示美国在人工智能领域将“只鼓励超级智能”。斯科特·贝森特会见中国官员讨论人工智能安全。剖析立法者正在考虑用于监管人工智能的提案。 OpenAI 披露 6 起新的“令人担忧的”人工智能行为事件。
AI安全威胁重塑企业网络安全预算投向
AI 黑客威胁不仅仅促使企业大幅提高网络安全总预算，还正在改变资金的投放方向。安全高管表示，部署系统监控员工对 AI 工具的使用、采用 AI 模型在黑客动手前发现漏洞，以及借助 AI 工具加速漏洞修复。 但并非所有网络安全产品都能受益。多名高管称，企业同时在削减传统漏洞管理软件、日志采集工具和渗透测试服务的开支，以此节约成本。渗透测试即雇佣 “白帽黑客” 主动寻找系统安全缺陷。这将给思科、Sent