可否再结合图形讲一下 Type1 和 Type2 error ?
谢谢!
orange品职答疑助手 · 2019年07月17日
同学你好。type 1 error 也就是左边那张图: 模型在99%的情况下,250个交易日中,出现exception的概率分布。backtesting这里是95%。根据计算结果,当excexception的个数大于等于5时,就落入了backtesting要拒绝的区域。
如果原模型是正确的,可是,一旦发生小概率事件,它的exception个数大于等于了5,我们就会拒绝它,这就是一类错误,所以1-89.2% 就是对应的一类错误的概率。
右边那个表格,也就是有关type 2 error,这里的意思是,根据之前p=1%计算出来的结果,当真实exception的个数小于等于4时,模型都认为是正确的。然后,当p改成3%时,模型就都认为是不对的了,因为p的数值不是等于1%了。那么,就都应该拒绝。而根据之前的结果,当exception个数小于等于4时,就都认为模型是正确的。所以,求出在p改为3%的模型中,exception个数小于等于4的概率,这个概率就是 “一个错误的模型,但没有落入拒绝域”的概率,也就是type 2 纳伪 概率。
LHY · 2019年07月17日
Type1 就是运气不好碰到了极端值,把原本没毛病的模型否定了,即“去真”,这个我明白了; Type2就是首先模型要是错的(in this case,就是采用了p=0.03,但是我们要求的是99%的情况下,即p=0.01时的情况),而沿用之前正确模型小于5个exception都是不用拒绝的标杆,我们是拒绝不了这个模型的,因此就“存伪”了。 不过按这逻辑岂不是必须要有了Type1 才能有Type2?,因为你要有个benchmark来判断type2。
orange品职答疑助手 · 2019年07月18日
是的,因为我们是对原模型做检验的,纳伪得首先有个正确的benchmark