首页 / 文章

空头误判率:衡量亏损日的乐观预测误差。

均方根误差会掩盖预测值低估下跌幅度的频率。包括看跌预测错误率在内的三种下行风险诊断指标,展示了五只英国能源股票的利弊关系。

发布者:REACTAPP.TOP阅读约 8 分钟1828 词

来源: What Average Forecast Errors Miss About Downside Risk

为何在市场下跌时保持乐观很重要

想象有人持有多头头寸。当预测模型低估价格下跌幅度时,该头寸所遭受的损失将超过其预期。如果预测结果会影响头寸规模、对冲措施、流动性储备或风险限额,过于乐观的预估会导致额外资本面临风险,同时降低防护力度。实际损失源自市场本身,而非预测结果,而且这里也没有计算任何交易策略的盈亏。误差的方向依然很重要,因为对于多头持有者而言,低估下跌幅度可能带来的危害,甚至超过同等程度的悲观错误。因此,选择预测模型意味着要了解其在资产价值下跌时的误差表现,而不仅仅是其平均误差水平。

对五只英国上市的能源证券的研究说明了这一点。中等性能的模型在平均准确率上略高于零回报的基准值。而偏向下行风险的HuPin模型平均表现较差,但在收益为负时出现乐观误判的情况则少得多。这两种结果都是真实存在的,且分别回答了不同的问题。

常规评分标准所忽略的内容

均方根误差(RMSE)和样本外R²值用于概括预测的整体偏差程度。但它们无法说明预测在多大程度上低估了实际发生的损失规模,而且两个预测的总体评分可能相同,但在这一方面却可能存在巨大差异。在下文使用的常见评估体系中,R²是RMSE的单调变换形式,因此二者共同构成一个基于平方误差的排名,而非两种独立的评估标准。

正是这种报告缺陷促使人们提出了熊市遗漏率(BMR)方法,该方法源自一篇硕士论文。它整合了三种相关的诊断指标:亏损日的乐观误差、超过实际重要性阈值的乐观误差,以及未被发现的严重回报事件。其目的是在常规的准确率报告之外提供明确的下行风险视角,而非取代后者。

实例说明

假设某只证券的日回报率为-2%,而模型预测值为-0.5%。虽然符号正确,但亏损程度被严重低估,存在1.5个百分点的乐观误差。

由于两个数值均为负数,方向性命中率会将该预测判定为正确。而均方根误差虽然包含了误差,但会将其与其他数值平均在一起。这两种指标都无法回答更关键的问题:当资产价格下跌时,预测过于乐观的情况出现频率有多高,以及这种乐观程度在多大程度上会产生实际影响。

BMR则能够揭示这一条件性问题。对于多头头寸而言,“乐观”意味着预测的回报高于实际回报。因此该指标关注的是低估损失规模的情况,包括那些预测符号判断正确的情形。

三种诊断指标

设实际每日对数回报为yₜ,其点预测值为ŷₜ。

基本BMR

最简单的版本用于衡量在实际回报为负的日期中,预测值过高出现的频率:

这种比较标准十分严格,因此预测值与实际回报一致并不算预测失误。如果不存在负回报的观测数据,该比率则无定义,且不为零。

带容忍度的BMR

在实践中,某些预测偏差其实微小到可以忽略不计。BMR_tol仅统计达到选定容忍度ε的乐观偏差:

所有模型和资产都采用相同的容忍度值ε = 0.01。以日度对数回报单位计算,这大约相当于一个百分点。选择这个数值是为了便于直观理解,它并非普遍意义上的最优值。分母与BMR所使用的看跌分母相同,若该分母为空,则比率无定义。

用于严重损失的BMR

BMR_Z针对的是严重的实际损失。对于每种资产,仅依据训练数据构建一个能够抵御异常值的临界值:

MAD指的是原始中位数绝对偏差。只有当抗异常值缩放后的值为有限数且大于零,并且训练集中至少有五个回报值等于或低于该候选值时,才会采用该临界值。若任一条件不满足,则程序会使用经过线性插值的训练分位数Q(0.0228)。每只证券都有其自身的临界值,但模型没有,因此马丁格尔预测、中位数分位数预测和HuPin预测都是依据同一事件定义来评估的。

误判边界同样十分严格:预测值恰好落在临界值上即视为已识别出严重事件,而非误判。当所有实际观测值均未落入定义的尾部区域时,条件概率是未定义的,且不为零。

一旦设定阈值,条件误判率在代数上就等于该阈值所定义的事件分类器的假阴性率(1减去召回率)。这一等式仅适用于最终比率。完整的BMR_Z诊断方法还包括仅用于训练的阈值、稀疏尾部备用方案,以及其在整体BMR设计中的位置。

实验

实证测试使用了五种证券:BSIF、HTG、SSE、TLW和UKW。每种模型都会在每只证券对应的315个日期上接受评估,时间范围为2024年4月22日至2025年7月18日。这样在共同测试集中共有1,575个证券日,其中785个日的实际回报为负值。

这三种模型被赋予了截然不同的功能:

  • 马丁格尔策略:一种理论基准,始终预测零回报。
  • 中位数分位数回归:在0.5的分位数水平上拟合的线性条件中位数基线模型。
  • HuPin LSTM:一种以下行风险为导向的网络,基于Huber损失与弹球损失函数的组合进行训练,所选弹球损失参数为0.05。

在分析了这些模型的共同面板数据后,仍保留了这三类模型用于示例展示。它们的综合均方根误差值均低于最低值的1.133%,样本外R²值也都接近零,而未击中率则更清晰地反映了它们在下行风险方面的差异。这一选择是为了便于展示,并不意味着这些模型在整体精度上具有统计学上的同等性。

有两个需要注意的点。加性HuPin目标函数本身并不能使其输出成为经过校准的5%条件分位数。此外,中位数分位数目标函数与非对称HuPin目标函数也无需针对相同的函数形式。因此,以下的比较只是对BMR诊断结果的实际展示,并非对相同函数形式模型选择规则的最终验证。

所有保留的模型都使用相同的评估指标、相同的显著性阈值以及从训练数据中得出的尾部截断值。数值验证工具直接从共同数据集的输出中重新计算了全部五个指标。

第一张图表展示了包含1,575个观测值的数据集上的均方根误差和样本外R²值。

平均准确率的结果

中位数分位数模型的均方根误差最低,测试R²略为正值,其均方根误差比零收益基准低0.0603%。HuPin的均方根误差比中位数模型高1.133%,且其测试R²为负值。

下跌未预测情况的结果

通过BMR指标来看,同样的预测结果却有所不同。在785个收益为负的日子里,马丁格尔策略全部未预测正确,中位数模型有765天未预测正确,HuPin则有627天未预测正确。若采用统一的1个百分点阈值,这些数字分别降至394、365和270。在此样本中,HuPin的BMR_tol值比中位数模型低12.10个百分点。

图二使用统一的定义和分母,将BMR、BMR_tol和BMR_Z并列展示。

马丁格尔策略内置了100%的BMR值:该值始终预测为零,因此任何实际出现的负回报都会低于这一数值。其50.2%的BMR_tol值更具参考价值,因为它表明在以对数回报计算的情况下,略多于一半的下跌日实际值比零预测值低至少0.01。

BMR_Z还会给出一个同样有用的负向结果。常规测试集包含115个实际发生的极端值观测数据,根据既定的阈值规则,三种模型全都未能识别出这些数据。因此该诊断工具无法对模型进行排序,它所记录的是这些模型共有的一个局限:在出现极端值的那些日子里,没有任何预测值达到训练时设定的严重损失阈值。

它能展示什么,又不能展示什么

HuPin并未“胜出”。在本次测试中,它的损失日乐观误差更少,但整体准确率表现较差,而BMR系列则清晰地展现了这种权衡关系。由于事先并未设定可接受的准确率阈值,且中位数目标与HuPin目标可能追求不同的函数形式,因此该表格无法确定最优模型。此外也并未进行任何推断等价性测试。

BMR旨在作为中心准确率的补充。未来的选择流程可以先筛选出那些针对相同目标函数的预测结果,再使用针对该函数且符合预设可接受准确率阈值的中心评分对它们进行评估。在通过筛选的预测结果中,可选用某种BMR指标作为决胜标准,以优先选择那些损失日乐观误差较少的模型。

那个序列非常重要。即便不提供任何新的时间信息,降低预测值也能减少乐观偏差率。它确实会以实质性的方式改变误差表现,或许适合那些关注下行风险的投资者,但其价格仍需通过核心精确度、与目标相匹配的偏差或校准,以及对于过度保守行为的明确限制来体现。较低的BMR本身并不能证明存在额外的预测信息。以决策为重点的研究还必须评估那些无意义的防御性举措以及因此放弃的收益所带来的成本。

这些诊断方法也有其局限性。由于它们以实际发生的损失为依据,因此无法反映误报的下行风险预警;此外,BMR_Z在能够进行全面的事件检测评估之前,还需要一种误报检测机制或运行曲线。仅凭这里的比率无法证明交易盈利、经济价值、模型整体优势或统计显著性。

目前的状况

平均误差依然非常重要,因为它能显示预测结果通常与实际结果的偏差程度。BMR则增加了另一层分析,即当损失发生时,预测是否低估了损失程度、这种偏差是否显著,以及预测是否未能通过具有抗异常值能力的统计方法识别出严重的损失状况。

这项五重安全研究展示了其优势。整体准确率最高的模型并非是乐观损失日预测错误最少的那个,而严重事件诊断则揭示了这三个模型共有的缺陷。这些都是关于预测行为特征的实证发现,尽管它们尚不足以决定最终的模型选择或投资决策。

每个数学组成部分都与常见的统计概念相关联。新的内容较为有限:包括“熊市预测错误率”这一概念的提出及问题框架的构建、三种诊断方法相结合的设计、其操作规范以及实证应用。

这就引出了下一个问题:对于那些具有相同功能且满足预先设定的中心精度要求的预测模型,BMR能否作为一种可靠的次要标准,在控制过度乐观的误差的同时,确保保守性不会超出明确设定的上限?

要回答这个问题,需要新的数据、预先确定的比较设计、考虑依赖关系的不确定性分析、针对保守性偏差的控制措施,以及与目标一致的替代方案的比较。目前已有的是BMR公式、整合的三部分设计、可重复的实现方法,以及支持进一步测试的实证依据。