[发明专利]基于深度强化学习和程序路径插桩的漏洞检测方法

摘要

一种结合深度强化学习和程序路径插桩技术的漏洞检测方法，首先通过插桩的方式从待测程序的控制流图中得到输入所对应的路径，根据路径及控制流图中的目标节点计算得到奖励值，然后将奖励值用于训练深度强化学习的神经网络，从而用于选择变异动作，根据该变异动作对待测程序的输入进行变异后得到更新后的输入及其路径并计算更新后的奖励值并再次训练神经网络和进行输入变异处理，循环至待测程序崩溃，即得到相应的输入漏洞。本发明准确率更高，并可以更高效地获得漏洞所在路径对应输入，相较于传统的模糊测试，检测速度更快，兼具一定的代码覆盖量。

主权项

1.一种基于深度强化学习和程序路径插桩的漏洞检测方法，其特征在于，首先通过插桩的方式从待测程序的控制流图中得到输入所对应的路径，根据路径及控制流图中的目标节点计算得到奖励值，然后将奖励值用于训练深度强化学习的神经网络，从而用于选择变异动作，根据该变异动作对待测程序的输入进行变异后得到更新后的输入及其路径并计算更新后的奖励值并再次训练神经网络和进行输入变异处理，循环至待测程序崩溃，即得到相应的输入漏洞；所述的插桩的方式是指：在保证逻辑完整性的基础上在待测程序中插入若干探针，通过探针采集运行过程中产生的特征数据，从而获得待测程序的控制流信息和数据流信息并进一步得到逻辑覆盖动态信息，从而实现测试目的的方法；所述的目标节点是指：控制流图中已经确定或疑似的漏洞代码和代码块和/或敏感函数所在的结点，该目标节点通过预先标记方式得到，例如该节点所对应的代码块包含敏感函数，则将该节点标记为目标节点；所述的奖励值是指：根据当前输入对应的路径与目标节点，根据计算出的路径到目标节点的距离，奖励值与距离反相关，其中：d_s(s，T_b)为种子文件的执行路径与目标节点的距离；s为种子文件seed；T_b为目标节点；ξ_b(s)为种子文件s作为输入时，待测程序的完整执行路径；m为执行路径中的某一节点，d_b(m，T_b)为节点m与目标节点的距离。