一块写着发现率与上报时长的白板,旁边贴着上报入口的操作说明,最右一栏的处置记录还剩空白

一、演练首先是一个测量系统

据公开报道,有分析钓鱼演练有效性的文章指出,以点击率为核心的考核指标存在失真,惩罚式的反馈会让人产生”狼来了”的心态并造成告警疲劳;作者主张用贴合当季真实攻击主题的情报驱动场景设计,配合点击后立即说明错在哪的教育式反馈,替代点名与处罚。这类说法我们认可其方向,但工程做法要自己定,也不涉及任何具体平台与厂商的比较。

先说清楚定位:演练是一个测量系统,不是一个培训动作,更不是一个考核工具。测量系统有它自己的失效规律,其中最硬的一条是,指标一旦成为考核对象,它就不再测量原本要测的东西。部门开始为点击率负责之后,人们优化的是这个数,而风险本身没有被优化。于是会出现很别扭的场面:演练报表一年比一年好看,真实事件的上报量却在往下掉。

演练真正要测的那条链是:可疑邮件能不能被发现、发现后有没有人上报、上报到处置要多久、上报之后上报的人会不会被追责。这四问是同一台仪器的四个读数。这条链跑不通,检出能力再强也只是事后取证。

二、四类失真与替代度量

失真类型 具体表现 为什么点击率扛不住 替代度量
样本代表性 同一批人反复被练,练过的人会、新入职的人不会,两边被平均成一个数 平均数掩盖了最需要训练的那部分人,也掩盖了岗位差异 按人群与岗位分层的首次发现率
指标口径 只看有没有点,但常见后果是转发给别人、代填表单、把凭据交出去 点了不一定有损失,没点也可能把邮件转给了整个部门 转发与代填等后续动作的发生情况
时点偏差 演练当时没点,之后遇到同类手法仍然会上当 一次通过不代表状态改变,测的是当天而不是趋势 同主题跨批次的重复表现,不看单次结果
反身性 指标进了考核,行为就围着指标改,测出的已经不是同一件事 上报会被当成”中招”记录,于是没人上报 真实事件与演练事件的上报率差

四个替代度量我们按仪器读数来用。首次发现率,看有多少可疑样本在没有任何提醒的情况下被人指出,分母是全部投递样本,分子里要区分”看了但不确定所以来问”和”认定有问题”。上报到处置的时长,从收到第一份上报到完成隔离与范围确认,这个数直接反映值班与流程的可用性。可疑样本主动上报量,是唯一一个正向指标,它涨通常意味着通道顺、没人被追责。真实事件与演练事件的上报率差,是诊断指标:如果真实事件上报率明显低于演练场景,问题不在员工判断力,而在大家不相信上报之后会发生什么有价值的事。

这四个数合起来才能回答”这条链通不通”。单独拿任何一个去做考核,都会重演第一部分那条规律。我们的做法是把它们放进运维例会而不是人事评价,考核对象只能是通道本身:入口有没有全天候有人看、回执有没有按时发出、处置有没有超时限。

三、惩罚式反馈训练出来的三种行为

惩罚式反馈的后果不是”大家紧张”,而是三种很具体的、可以被观察到的行为。

其一是批量删除且不上报。邮件被当成骚扰处理,直接删掉,安全团队失去了唯一的早期信号。其二是内部流传”哪些是演练”的名单。同事之间互相提醒特征,甚至在群里核对发件人,演练样本的区分度被集体拉平,测出来的东西只反映内部八卦网络的覆盖范围。其三是把真实事件也当成演练忽略掉,这一条最贵,因为它的代价不是指标失真而是一次没被处置的真实入侵。

教育式反馈要替代的就是这三条。设计要求我们写成六点:点击之后立即给反馈,隔几天再讲已经没有记忆锚点;指出具体可疑字段,哪一处是发件域、哪一处是要求动作,而不是给一句”你上了当”;不点名个人,反馈只到本人;按风险分层决定复训间隔,接触外部邮件多的岗位和处理资金单据的岗位不该用同一个节奏;允许匿名提问,让人能在不暴露”我差点上当”的前提下来问;反馈里要写清下一步做什么,把”上报入口在哪里”放在同一屏。

洹拓内部也做过把演练结果按部门排名的事。出现的正是第二和第三种行为:部门把疑似演练的邮件筛掉不报,还专门整理了一份”这种一看就是自家的”清单。取消排名、改成只看通道指标之后,主动上报的量才慢慢回来。教训不是”不该统计”,而是统计对象选错了,人不是可控项,通道才是。

四、上报通道要满足的八条硬要求

通道是演练里唯一可以永久保留的产出物。演练会过去,通道会一直在。八条要求如下:

  1. 一键上报入口,装在邮件客户端和即时通讯里,不需要填表,不需要写理由。
  2. 上报必有回执,回执要带编号和当前状态,让人知道东西被收到了。
  3. 响应时限有承诺并公开,写明工作时段与非工作时段分别在多长时间内有人处理。
  4. 误报不追责写进制度,明文说明”判断错误不作为个人评价依据”,并且真的执行。
  5. 处置结果按类别回馈给上报人,让他知道自己报的东西最后确认成什么。
  6. 通道有人值守并有值班表,值班表可查,超时未响应会被记录为通道故障而不是上报人的问题;入口要全天候可达,非工作时段走值班电话或者值班群。
  7. 上报内容的隐私边界写清:只取必要字段,不翻看上报人的完整邮箱。
  8. 匿名与代报都支持,允许替同事转报,也允许不留名。

判断通道好坏有一个便宜的自检:真实事件的上报里,有多少来自这条通道,而不是来自客户投诉、外部通知或者日志审计偶然发现。如果绝大多数真实事件都是别人告诉我们的,那这条通道没有在用,演练报表上再好看也说明不了什么。

五、场景要情报驱动,而且不能只练人

场景构造的目标是测出真实风险,而不是测出”这个套路大家已经认识”。做法上我们按四条来:主题贴合当季同行业真实发生的攻击方向,载体用日常真的会收到的那一类(单据、通知、约会议、报销、系统到期提醒),避免一眼就能识破的老套路,同一批次内控制主题不重复。同一批里既要有能被结构特征识别的,也要有几条只能靠业务判断的,否则测不出人的判断分布。批次之间要有间隔安排,同一批人不能反复被同一类手法命中,否则只是在训练他们识别演练。

另一半常见的漏项是只练人不练控制。人被练了好几轮,收件箱里的外部发件人标记却一直没打开;宏与外部链接的默认策略仍然是放行;域名仿冒在邮件协议层没有任何拦截动作,SPF、DKIM、DMARC 这一组校验一直没配齐;第三方表单和在线文档被用来做收集页,平台侧没有任何限制。这些控制项的效果比任何一次演练都稳定,而且它们不会因为换了一批新员工就失效。所以我们把演练预算分成两条线:一条给人,一条给控制项,后者要能在报表里看到”这一轮演练暴露出哪个控制缺失”,比如外部标记被忽略的比例高,那是标记本身没配好,不是看邮件的人不仔细。

同样一句话要说在前面:演练结果不好不能写成”员工安全意识差”。这条归因既不准确也不可用,它把系统设计的责任推给最没有决策权的一方。同一批人在通道顺畅、反馈即时、上报不担责的环境里,表现往往完全不同。

六、预算优先级与一张合并的风险台账

四类花钱的地方按顺序排:控制措施先,检测能力次之,教育培训再次,指标报告最后。理由是控制措施的效果不依赖人的状态,检测能力决定覆盖范围,教育只在两者都到位时才有增量,而报告是前三者的产物。反过来排的团队,预算会大量消耗在报表和排名上,风险面一点没变。

台账的做法是把演练与真实事件写进同一张表,字段建议是:来源(演练或真实)、主题类别、首次发现方式(自动控制、人工上报、外部告知)、发现到上报时长、上报到处置时长、处置动作、控制项缺口、是否闭环、复盘结论。放一起的价值有两个。一是演练不再孤立评分,它的读数可以直接和真实事件比:同一种主题,演练里被上报的比例和真实事件里的比例差多少,差得越大说明通道的问题越不可能是”演练没人认真”。二是缺口有归属,一条演练发现如果最后落到”外部发件人标记未启用”,它就进入控制项待办而不是培训名单,责任人、时限和验证方式都写在同一行。

复盘的节奏我们固定两件事:每批次结束后只看通道指标,不看个人;每积累几批做一次合并分析,看四类失真里哪一类还在。做上几个月,报表会自然变薄,但第一次能回答”我们看到的可疑邮件里有多少真的被处置了”这个问题,演练才从一项考核变回一台仪器。