化腐朽为神奇，看萨摩耶数科如何用目标编码打造智能风控( 二 ) AI领域的科学家

举个例子， A球员投篮，投100个，命中50个，命中率（即目标编码值）50%可信度较高，但当他投3个命中3个，命中率100% ，可信度可能不足以让人信服。
故而，萨摩耶数科在目标编码的应用中设置了阈值，对类别标签数量少于阈值的，其编码采用全量样本的目标均值（即全部样本的坏样本率）来进行填充。
还是以球员投篮为例，假设教练设置了一个阈值是投球10个， A球员投了3个（在阈值之下），命中率100% ，而他整个生涯的命中率（即整体样本目标均值）为28% ，最终的结果则以28%作为A球员的命中率填充。

文章图片

文章图片
图：编码方式对比
萧伯纳曾说过的：“科学每解决一个问题，都要引发十个新问题。”这种填充方式则引入另一个问题—编码噪声，即在阈值附近，编码值会发生突变，从而引入编码噪声。
继续上例，阈值为10 ， A球员投了9个命中9个，此时A球员的命中率为28% ，但A球员投了第10个球又命中了，则A的命中率从28%突然变成了100% 。
而这种突变引起的噪声会影响模型提取编码信息的能力，从而影响模型效果。智能风控是一项精密的工作，每一个数据的偏差都可能导致资金的损失，更何况是数据的突变？
为避免编码噪声出现，萨摩耶数科进一步对目标编码存在的问题进行改进。“我们希望提出一种编码方式来对其进行改进，消除这种突变带来的影响，概率平滑编码便由此诞生。”萨摩耶数科人工智能团队表示。
从具体方法而言，萨摩耶数科引入了一个机器学习模型中常用的概率平滑函数——sigmoid函数。

文章图片

文章图片
引入概率平滑函数后，模型会发生什么变化？
若A球员一次投篮40次，投中25个，则命中率是62.5% ，整体命中率为28% ，阈值为10 ，通过上述公式可得出其概率平滑函数值为0.9999 ，则其对应的目标编码值0.28*（1-0.9999）+0.625*0.9999=0.6249 。若A球员一次投篮8次，投中7次，命中率为87.5% ，则其概率平衡函数值为0.1192 ，对应的目标编码值为0.28*（1-0.1192）+0.875*0.1192=0.3509 。
通过平滑函数，目标编码避免了突变问题，此外，萨摩耶数科还通过增加平滑系数，来对函数的平滑程度进行控制，效果如下图所示，图中的绿线为概率平滑编码，相比红线的目标编码值，当其类别标签数量小于阈值时，其编码值逐渐接近全量样本平均目标值，大于阈值时，其编码逐渐接近类别标签对应的目标均值，从而有效避免噪声的出现。

文章图片

文章图片
以目标编码的方式将类别特征或字符型特征变为数值，并将其优化为“丝滑” ，这大大丰富了萨摩耶数科智能风控建模时的数据维度，大幅度优化了萨摩耶数科旗下的自动建模平台AUTOMAN效果。
AUTOMAN自动建模平台是将人工智能应用在模型设计领域，可使模型开发周期减少60%-80% ，最短1周内可完成千万级样本建模任务，具备样本研判及处理、最优模型保存及部署、新样本预测、模型训练及调优四大功能，能通过便捷的方式直接接入金融机构的系统中，使得风控模型辨识风险的精准度更高。
为验证改进目标编码的效果，采用真实贷前审批业务场景特征，使用变量包含数值型变量和类别变量，分别使用均值目标编码和概率平滑目标编码方法对类别变量进行处理，对处理后的特征，使用Automan自动建模工具进行建模，建模效果如下图所示：