[发明专利]一种缓冲区溢出的检测方法及系统

摘要

本发明公开了一种检测可执行文件中缓冲区溢出方法及系统，属于软件保护领域。由于缓冲区溢出会覆盖函数的返回地址来改变程序的执行流程，因此该方法在函数被调用前先预先判断函数执行后应该返回的地址、在函数执行完毕后判断函数的执行完毕后实际返回地址，比较预先判断的返回地址和实际返回的地址，如果两个地址不同则认为发生了缓冲区溢出，软件则停止运行。该方法可以提高软件的安全性。

主权项

 一种检测可执行文件的缓冲区溢出的方法，其特征在于，包括：分析原始文件的原始入口点；分析原始文件中调用函数的指令，记录调用函数的指令的地址；将所述原始文件的原始入口点及调用函数的指令的地址注入原始文件，得到受保护的可执行文件；所述受保护的可执行文件运行时，根据记录的所述原始文件的原始入口点，在所述原始文件的原始入口点处设置访问断点；当所述受保护的可执行文件运行到所述原始文件的原始入口点后，根据所述记录的调用函数的指令的地址，在调用函数的指令的地址处设置访问断点；在上述两处断点设置完成后，控制所述受保护的可执行文件的运行，并记录函数被调用前预期的返回地址及函数调用完成后实际返回的地址；比较所述记录的函数被调用前预期的返回地址和函数调用完成后实际返回的地址；如果二者不同，则认为存在缓冲区溢出，软件停止运行；如果二者相同，继续运行软件。