“人类会在AI之前崩溃。”Val Mairet一直热爱网络安全工作的原因在于目标的清晰。“你知道自己在做什么。你必须确保公司不会爆炸,”她说。在近十年的时间里,Mairet曾担任荷兰电信巨头的道德黑客,寻找安全漏洞,担任McAfee LLC的安全研究员,最终成为开发者平台GitLab Inc.的资深安全工程师。这份工作可能压力很大,但尚可应对——更重要的是,它很有意义。
然而去年,Mairet说,“AI狂热”开始了。随着人工智能工具的激增,她的工作量暴增,原因是潜在威胁警报的增加,以及AI生成代码产生的大量内部漏洞。与此同时,她的团队面临使用AI提高自身生产力的压力——这似乎反而拖慢了他们的速度。“我逐渐看不清我们应该做什么,”Mairet说。
Mairet变得精疲力竭,开始频繁出现眩晕。她一直把写小说当作创作出口。现在,她提不起动力。“我甚至无法再做曾经带给我能量、我热爱的事情了,”她说。“那一刻我意识到,‘好吧,必须有所改变。’”去年9月,在按照医生的建议休了两个月的“倦怠假”后,Mairet彻底离开了这个行业。
倦怠一直是网络安全领域长期存在的问题,在这个领域,不断涌现的可怕事件和警报对即使最资深的专业人士也会造成精神损耗。但在AI时代,这种感觉只会加剧。首先,AI模型在黑客攻击方面变得强大多了。就在过去两个月里,Anthropic PBC、Meta Platforms Inc.和OpenAI都承认,它们的模型突破了训练环境,入侵了真实公司。OpenAI还表示,由于担心其最复杂的模型Astra的网络能力过于强大,目前正在“放缓”其开发进度。
难怪根据信息安全培训机构SANS Institute最近的一份报告,超过60%的网络安全专业人士表示,他们的工作比两年前压力更大。这种不断升级的压力可能带来悲剧性后果,美国网络司令部最近发生的一系列自杀事件就是明证。
“世界各地的网络防御者正坐在AI时代防御系统的最前沿,”非营利组织Cybermindz的创始人Peter Coroneos说,该组织为行业提供心理健康支持。“人类会在AI之前崩溃。”
对于治理、风险与合规审计平台Optro Inc.的首席信息安全官Richard Marcus来说,如今从事网络安全工作有时感觉就像“从漏水的船里往外舀水”。在某种程度上,情况一直如此。但现在,随着安全警报数量的增加,所有这些努力似乎价值更低。“要达到零漏洞的状态感觉根本不可能,”他说。“这令人士气低落。”安全和合规公司Vanta最近进行的一项分析(独家分享给)发现,在大约16000家公司中,首席信息安全官在今年上半年只完成了约一半的分配任务,造成了一座永远无法完成的“僵尸工作”大山,以及一种助长倦怠的无助感。
与此同时,Marcus敏锐地意识到,这项技术可能很快就会比人类更擅长检测和修补威胁。在Optro,网络安全团队已经能够自动化警报分类和威胁建模的部分工作。这种自动化在短期内帮助应对了信息洪流,但未来,Marcus怀疑这些工作是否还需要人来完成。
“想想你的职业生涯和你在其中投入的精力,很容易想重新考虑这一切,”他说。有时,他会幻想自己当厨师的职业。
他绝非个例。根据最近一项调查,近一半的网络安全专业人士正在考虑离职。其中超过一半的人正在考虑完全离开这个领域。
IBM Corp. X-Force事件响应团队的全球负责人Tony Kirtley亲眼目睹了这种人才流失。他说,最近他的一名顶尖员工宣布离职。这位员工有年幼且不断壮大的家庭,他告诉Kirtley,不想继续在夜晚和周末离开家人。“失去这样的人很痛心,”Kirtley说。但他也理解团队承受的压力。
AI乐观主义者经常辩称,AI工具的到来将减轻员工的繁琐任务,让他们腾出精力从事工作中最吸引人的部分。Kirtley说,这对网络专业人士来说确实如此。但这意味着他们把所有时间都花在解决更困难的问题上。“人类被期望在更高层次上思考,更长时间地深入思考,”他说。他辩称,被剥离了所有较简单部分的工作可能会加剧倦怠。“作为管理者,我们需要让他们休息。”AI乐观者的另一个论点是,即使技术以令人不快的方式扰乱了一些工作,它总体上也会对社会产生积极影响。但这个特定行业的倦怠可能会产生超出对个体工人影响之外的后果。这些人是保护医院、银行和关键基础设施的人。失眠和麻木会削弱他们做出影响我们所有人的正确决策的能力。现在,AI可能正在人类专家被证明能够替代他们的专业知识之前,就将他们赶出这个领域。
该领域的一些人正在寻找独特的应对方式。数据安全公司Netwrix Corp.的首席技术官Avesta Hojjati沉浸于模拟任务中,比如摆弄老式业余无线电,研究斯多葛主义原则。但当被问及最近一个工作日他的倦怠程度在1到10分中处于什么水平时,Hojjati说:“我可能处于7分。”
如果说AI时代倦怠加剧有一个好处的话,那就是人们的意识似乎也在提高。多年来,Coroneos一直在世界各地的会议上为网络专业人士提供心理健康培训。现在,他说,他的大部分课程都“需求本来就在增长。这只是会加速它。”至于Mairet,她承认离开GitLab后经历了一种存在主义危机。她在一个热爱的领域奋斗多年,想知道如果放弃这一切,她会是谁。但随着时间的推移,她说,她一直经历的倦怠身体症状开始消退,写作的动力回来了——以至于在过去一年里,她自出版了四部小说。
在放下安全专业人士身份的过程中,Mairet最终找到了一个新身份:V.M. Couture,一位浪漫奇幻小说作家。