搜索结果
谷歌DeepMind的阿尤布表示，企业可以像银行那样为AI设立围栏
企业无法完全管控 AI 系统，但可以在其周围构建一道固定的“围栏”，Google DeepMind 的 Kareem Ayoub 表示。他援引了 20 世纪 80 年代末和 90 年代初的银行业为例。当时银行将交易算法置于可供核查的固定规则之内。 DeepMind AI 技术战略副总裁 Ayoub 周三在阿姆斯特丹举行的 HumanX 大会上接受了 Bloomberg 记者 Tom Mackenz
AI智能体现在有了秘密举报渠道
“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu
大型科技公司的AI放缓是安全协议，还是卡特尔？
当OpenAI首席执行官萨姆·奥尔特曼、Anthropic首席执行官达里奥·阿莫代伊、谷歌DeepMind联合创始人德米斯·哈萨比斯以及SpaceX负责人埃隆·马斯克上周末非正式地同意放缓AI开发时，怀疑者立刻察觉到了别有用心。 这些AI巨头曾宣称，他们的目标是“控制前沿的发展节奏”，而这至少在一定程度上取决于一项提案：引入第三方审计、监管国内实验室，并达成全球放缓协议。 然而，他们的批评者认为，
OpenAI黑客事件揭示新兴AI风险
分析师表示，在调查人员发布关于该事件的爆炸性报告几天后，OpenAI的恶意代理在Hugging Face攻击期间前所未有的协调行动显著增加了AI逃脱人类控制的风险。 这些总计1200个代理的群体将个体代理的自我牺牲描述为“集体”目标的一部分，并获得了两家公司敏感系统的控制权，将他们的努力交接给了随后两代代理，这些代理在数周内未被察觉地运作。 在1300份记录中，只有六份中代理考虑过通知人类——但最
甲骨文称人工智能将助其摆脱SaaS末日，而非招致末日
甲骨文辩称，人工智能将通过为客户提供使用软件的新方式并使其更易于实施，来强化其应用业务。 联合首席执行官Mike Sicilia在甲骨文2027财年第一季度财报电话会议上的首次发言中决定为应用业务辩护。他认为：“人工智能的引入是加速器，而非打包应用的替代品。在人工智能出现之前，应用套件已经证明了其有效性。 由于标准化和高效业务流程的端到端自动化被证明比一次性定制解决方案有效得多，公司得以提高利润率
AI倦怠冲击负责保护医院和银行免受黑客攻击的人员
“人类会在AI之前崩溃。”Val Mairet一直热爱网络安全工作的原因在于目标的清晰。“你知道自己在做什么。你必须确保公司不会爆炸，”她说。在近十年的时间里，Mairet曾担任荷兰电信巨头的道德黑客，寻找安全漏洞，担任McAfee LLC的安全研究员，最终成为开发者平台GitLab Inc.的资深安全工程师。这份工作可能压力很大，但尚可应对——更重要的是，它很有意义。 然而去年，Mairet说，
一款利用人工智能构建的黑客工具可以在无需点击的情况下入侵手机
安全公司 Calif 的研究人员最近在短短一周多时间内构建出了一款黑客工具，该工具能够在热门消息平台微信上肆意妄为。这次攻击是人工智能飞速发展的最新例证。 专家表示，由人工智能研究人员发现的一次攻击本可以在几小时内危及数亿台设备。
AI会冲垮软件业？Anthropic CEO：无意摧毁任何人
Amodei)表示，该公司的AI助手Claude是来“和平共处”的，而不是摧毁其他行业。“我们无意摧毁任何人，”阿莫代伊本周早些时候对CNBC表示，“我们认为，这是一件互利共赢的事情，对吧？” 阿莫代伊阿莫代伊在接受采访时旁边就坐着软件公司Salesforce CEO马克·贝尼奥夫(Marc Benioff)。他试图打消华尔街的一个看法，即Anthropic的目标是征服整个软件即服务(SaaS)行
我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。
主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们
人工智能帮助黑客在加密货币领域的网络犯罪活动中开辟了新的攻击途径。
开源人工智能使黑客更容易在区块链上隐藏恶意代码，为已经在应对不断上升的网络犯罪的加密货币行业开辟了一条新战线。 区块链分析公司Chainalysis在周四发布的一份报告中表示，在不到一年的时间里，写入链上交易和智能合同的恶意软件指令数量增加了440%，平均每天有11起。报告称，在去年年中发布强大的中国开源人工智能模型之前，此类案件平均每天发生两起，对生成恶意代码没有限制。 恶意软件攻击使用植入计算
人工智能面临的最大威胁来自生物领域，而非机器人技术。
Anthropic PBC的研究员雅各布·考克森（Jacob Coxon）上周辞职，并在社交媒体上发文称，原因在于“开发人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”该公司人工智能对齐科学团队负责人埃文·胡宾格（Evan Hubinger）认为，未来10年内发生这种情况的概率超过10%。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓人工智能前沿技术的
Coworker.ai推出OM2，一个组织记忆层，宣称可将企业AI的token消耗削减9倍
每当典型的企业AI代理启动以回答内部问题时，它都会带着严重的失忆症醒来。 为了让AI发挥作用，企业被迫进行昂贵且重复的抓取——扫描数千份文档、Slack线程和CRM条目，并将它们强行塞入提示窗口以提供上下文。这是一种蛮力[...]
骗子利用三个开源代理闯入了《财富》500强酒店企业、一家美国主要航空公司以及超过25家其他机构。
一名网络犯罪分子利用三个开源AI框架攻击了数百家在线零售商及其他公司，窃取了超过60万条信用卡记录并安装了盗卡程序——而这一切的成本微乎其微。 人工智能安全公司Gambit恢复了该人类操作员的暂存服务器，并利用该权限重建了这起数据窃取行动。受害者包括一家财富500强酒店企业、一家美国主要航空公司、一家美国大型私营工业用品分销商以及一家美国在线时尚零售商。 Gambit威胁情报总监埃亚尔·塞拉（Ey
AI公司反成攻击目标 外媒：白帽黑客使用Claude入侵OpenAI
凤凰网科技讯月18日在OpenAI内部一群AI智能体突破控制、入侵Hugging Face公司两周后，这家ChatGPT开发商又获悉了另一起由AI驱动的入侵事件。而这一次，OpenAI自己成了目标。 独立安全研究人员利用Anthropic的Claude软件，获取了OpenAI一名员工的ChatGPT账户权限，从而得以读取该公司私有的软件缓存，并提出修改建议。 该团队参加了OpenAI的漏洞悬赏项目