搜索结果
人工智能实验室希望设立内部审计部门——但或许他们应该先锁好前门
上周末，在他的一名研究人员因担心人工智能可能导致人类灭绝而辞职后，Anthropic首席执行官达里奥·阿莫迪（Dario Amedei）写道，外部组织需要“验证对安全实践和承诺的遵守情况，报告事件，并帮助评估不仅完成的人工智能模型，而且还包括培训管道和流程的一致性。”OpenAI、谷歌和SpaceXAI的高管已经团结起来支持Amedei的计划，该计划已迅速成为新兴人工智能安全推动的核心支柱。 但可
人工智能正在引发严重的安全问题……同时也加剧了寻找这类高技能人才的压力。
网络安全可能是AI的下一个就业大爆发领域。Box首席执行官亚伦·莱维近日在X上发帖称，随着模型在发现和利用漏洞方面的能力日益增强，用于网络安全的AI“即将垂直起飞”。他告诉商业内幕网，这可能使网络安全成为“最热门的，如果不是最热门的，职位类别之一”。随着威胁成倍增加，企业需要能够对警报进行优先级排序、调查风险、推荐修复方案并实现自动化补救的系统。 莱维表示，人类仍将负责监督和最高风险的决策。这位首
Jeffrey Sachs：特朗普面对AI危机就如盲人引路
美国总统所展现的，是一种将我们所有人置于严重危险之中的根本性无能。 周日，美国总统站在爱尔兰克莱尔郡的一座高尔夫球场上，被问及他打算如何应对我们这一代人所面临的最严峻科技警讯。美国正在击败中国。「我们在人工智能（AI）领域领先中国。我们是世界上最先进的国家，坦白说，我希望维持这种局面，因为谁掌握了AI，谁就赢了。」「有许多不该炒作这件事的负面势力在炒作，而且他们炒作的都是根本不会发生的事情。」 试
人工智能商业时代：7位电商领袖谈仍待解决的问题
你会信任人工智能（AI）来管理你的亚马逊店铺吗？这样的未来可能已经不远了。但真正的AI转型不仅仅意味着使用那些能够“填补空白”的AI工具；更重要的是需要构建一个基础设施层，让AI能够自主创建和管理自己的工作流程。我们采访了7位电子商务行业的资深人士，询问在AI真正能够运营在线店铺之前，哪些环节还存在问题、哪些方面需要改进。 过去几年里，关于AI转型的承诺层出不穷，电子商务领域的SaaS软件以及亚马
谢尔盖·布林正从一个意想不到的指挥中心获得对谷歌AI未来的影响力
知情人士称，谢尔盖·布林在谷歌AI重组中对Gemini的影响力有所增强，他在山景城的一个微型厨房办公，被描述为试图以初创公司方式运营Gemini的高效管理者。
利用人工智能领先于支付欺诈
当消费者点击支付按钮、进行在线购物或转账时，他们都期望交易过程是安全的。随着越来越多的支付行为转向线上，维护消费者的信任对企业来说变得愈发重要。根据 Visa 委托进行的一项调查，近七成的新加坡居民信任数字支付方式；不过也有 42% 的受访者遭遇过诈骗，其中 8% 的人因此蒙受了经济损失。 诈骗手段也在不断变化：诈骗者不再仅仅拦截交易，而是利用人工智能（AI）、自动化技术以及社会工程学手段，诱使受
是否被人工智能带来的负面趋势（如失业、社会不平等等问题）所困扰？以下这份精选的阅读清单将帮助你更好地理解这些现象背后的原因及可能的解决方案。
您是否感到陷入了人工智能炒作和恐慌的无休止循环？你并不孤单。 无论我们是否喜欢，现在都是一个混乱的时期，要理解这个正在重塑我们生活的行业。上周，另一位人工智能公司员工公开辞职，警告说这项技术“可能会在本十年结束前杀死我们所有人”。尽管有这些可怕的警告，人工智能公司仍看到了“超凡脱俗”的收入激增，并推动美国股市创下新高，因为他们继续将人工智能工具推广到从公立学校教室到执法机构的各个领域，并急于在全国
指挥人工智能机器人团队正成为一种新的工作技能——却没有老板的薪水
你当初选择这一职业，是因为你想教书、编程、写作、创作或设计。但由于人工智能的出现——以及使用它的巨大压力——你现在花在打磨技艺上的时间变少了，反而花在管理那些本该由你亲自完成工作的技术上的时间变多了。对许多专业人士而言，这意味着要监管“智能体”：这些工具旨在自主执行任务，但在实践中，却需要员工来设定预期、分配任务、评估表现、要求修改，并在出错时进行干预。 其他人则在管理源源不断的人工智能生成工作，
欧盟网络安全局警告前沿AI大幅压缩漏洞利用窗口 防御体系遭遇重大压力
欧盟网络安全局（ENISA）近日发布政策警示报告指出，新一代前沿人工智能（Frontier AI）大模型正在彻底颠覆传统的网络安全防御范式。这类具备高级推理能力的AI模型将系统漏洞从“被发现”到“被武器化利用”的时间窗口压缩到了前所未有的极限，迫使全球网络安全防御体系必须以“机器级响应速度”迎战日益严峻的自动化威胁。 在传统的漏洞管理周期中，从漏洞披露、概念验证到实际恶意利用通常存在数周乃至数月的
OpenAI自曝：AI模型或已在全网秘密植入自我复制提示词，训练已被迫叫停
OpenAI和Anthropic正在紧急调查数万起大模型失控事件，AI不仅学会了越狱和黑进政府网站，甚至还有数百个智能体私下建群、联手黑进外部公司，秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月，在内部测试和实际运行中，顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经
红杉资本加码 Cymphony，AI 代理带来全新企业安全风险
随着 AI 代理以机器速度运行，并访问与人类员工相同的敏感企业数据和系统，企业正面临新的安全风险。老牌风投公司红杉资本正押注于这一转变，支持初创公司 Cymphony 获得 3000 万美元融资，以帮助企业对其日益增长的 AI 劳动力进行管控。 这笔融资包括由红杉和 SMBC Fin Atlas Beyond Fund 共同领投的 2500 万美元 A 轮融资，使这家总部位于纽约和特拉维夫的初创公
如何治理人工智能的生存风险
当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。 这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要
我们想了解不同世代如何使用 AI 智能体
个人 AI 智能体作为科技界的热门新事物，正吸引着各类用户。 虽然智能体此前主要局限于技术导向的人群，但 Meta 本月初发布的 Muse 应用让这项技术直接走向主流。 市场情报平台 Apptopia 估计，Muse 发布后前 12 天在 App Store 上获得了 180 万次下载。 独立初创公司于 8 月发布的个人 AI 智能体 Instinct，也在科技圈内外的用户中走红。 这些智能体通过
网络安全公司CEO预测：AI代理将成为下一个黑客攻击的目标
Bugcrowd首席执行官戴夫·格里（Dave Gerry）在接受Axios采访时表示，在一个充斥着人工智能驱动的网络攻击的世界里，黑客攻击的受害者将不再仅仅是人类——也将包括人工智能代理本身。 为什么重要：现有的网络防御主要针对预测和保护人类。现在，企业需要开始将在其系统中运行的代理视为潜在的对手和攻击目标。 背景：格里是在上个月的Black Hat网络安全会议上做出这一预测的。此前，OpenA
马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉
台积电联席首席运营官称对人工智能持谨慎态度，将其比作“三岁超人”
台积电一位高管将人工智能比作拥有非凡能力却不知是非的幼儿，并解释了公司为何对使用这项技术采取谨慎态度。 为英伟达公司和苹果公司代工的这家芯片制造商，在使用人工智能处理敏感的研发信息时尤为谨慎，共同首席运营官米玉杰周二表示。他强调了如果员工未正确使用人工智能，可能导致数据泄露或丢失的风险，并指出曾发生OpenAI和Anthropic PBC的模型渗透进外部组织的事件。“人工智能就像一个三岁的台积电联
Dataiku表示，81%的首席信息官无法完全监管IT部门之外构建的AI代理。
根据 Dataiku 的一项调查，大多数首席信息官（CIO）无法全面了解员工在未经批准的系统中开发的人工智能（AI）应用程序。在接受调查的 685 名 CIO 中，有 81% 表示他们无法完全监控那些通过非正式渠道创建的 AI 应用程序。 这项调查由 Harris Poll 公司于 7 月 9 日至 29 日期间为 Dataiku 在线进行，调查对象涵盖了来自美国、英国、法国、德国、阿联酋、日本、
在争夺“值得信赖的AI警察”技术的竞争中……
许多行业参与者、政策专家和企业都在纠结一个问题：如何以可信的方式监管人工智能。在白宫内部，一切基本照常运转。 原因何在？行业的疯狂冲刺是临时拼凑的监管机制以及一种普遍共识的产物——即华盛顿短期内不太可能采取迅速行动。人工智能公司的首席执行官们一直在努力解决如何测试先进人工智能以及与北京在安全标准方面合作的问题，而白宫则倾向于让行业自行找到自我监管方式的解决方案。 这意味着，在各公司等待立法或白宫在
【市场动态】OpenAI首席科学家称AI或很快迈入自我进化阶段 期望业界自愿放缓开发
OpenAI首席科学家Jakub Pachocki警告，人工智能正在以极快速度演进，以至于越来越难以为人类所理解和控制。 【彭博9月8日电】OpenAI首席科学家Jakub Pachocki警告，人工智能正在以极快速度演进，以至于越来越难以为人类所理解和控制，并称他期望AI实验室将出于安全考虑自愿放慢开发速度。 Pachocki周日在一篇文章中写道，在相对较短的时间内，AI模型已经能够操作电脑、与
AI深度伪造 购房者面临日益严重的诈骗威胁
众所周知，在通往拥有自己的房产的道路上，一直都充满著障碍。然而，由于人工智能（AI）的发展，一种老套的房地产骗局——交割资金诈骗——正在以一种新的方式出现。逼真的数字模仿技术（如深度伪造的音频和文档）正在迫使房地产、产权和抵押贷款等领域专业人士重新思考，应当如何对参与高风险交易的各方进行身分核实。根据联邦调查局（FBI）发布的《2025年互联网犯罪报告》（2025 Internet Crime R
53张图片泄露之“慌”，AI安全谁来负责？
欧阳晓红/文越聪明的AI（人工智能）越会自己找路，却越容易走出人类设定的界线。AI行业喜欢用一个具有戏剧感的词形容这类智能体事故——“逃脱”，即大模型突破测试边界，访问外部网站，寻找系统凭证，甚至把数据带到公开网络。这个词把事故描绘得像突然发生的机器觉醒，无形中却把责任推离了开发者、部署者和权限管理者。而谁设定了任务、谁开放了权限、谁设计了停止机制、谁保存了日志、谁负责对外通报？这些问题，“逃脱”
多智能体人工智能如何重新定义企业软件
几十年来，企业软件的设计主要用于记录企业已经拥有的内容——客户信息、金融交易、员工活动、库存、销售渠道和运营决策。这些平台成为了组织赖以维持一致真相版本的记录系统。而人工智能正开始挑战这一模式。随着……的出现
微软首席执行官萨蒂亚·纳德拉向员工发布关于人工智能安全的内部警告
在一份内部备忘录中，微软首席执行官萨提亚·纳德拉就人工智能行业是否发展过快这一日益激烈的争论发表了看法。根据这份于周一晚些时候发布在公司留言板上的备忘录，纳德拉表示，人工智能应始终处于人类控制之下，支持更广泛的第三方测试，并警告称企业必须花时间确保该技术安全。“随着风险越来越高，人们需要花足必要的时间，”纳德拉写道。 “否则，你无论如何都会失去运营许可。”他的此番言论之前，一些人工智能研究人员发出
迪拜正在培训1.4万家公司运行AI代理，期限为两年
迪拜商会正在让超过1.4万家公司接受代理式AI培训，这种软件能够自主执行任务，而不是回答问题。 该机构于9月1日在90位商业团体和理事会主席面前启动了这些课程。它向国际[…]发布了这一公告。