[发明专利]基于浮点数运算内联函数库的神经网络优化方法

说明书

技术领域

本发明涉及模式识别的技术领域，具体说是一种的基于浮点数运算内联函数库的神经网络优化方法。

背景技术

模式识别技术在当今社会智能化产品中的应用越来越多，而作为分类识别的主流分类器 – 误差回传神经网络（BP网络）在字符，指纹，人脸识别的应用也是很普遍。传统的识别算法都是在PC机上运行，不利于产品的便携化，集成化和前端化。

神经网络是由仿生神经元的结构和功能的数学模型(处理单元)组成的阵列。这些处理单元线性排列成组，称为层。每一个处理单元有许多输入量，而对每一个输入量都相应有一个相关联的权重。处理单元将输入量经过加权求和，并通过传递函数的作用得到输出量，再传给下一层的神经元。

图1是单个神经元的数学模型图。

如图1所示，神经元的数学模型为Y = f(∑wi*xi - θ),其中i取1到n(n为输入信号数目), θ为神经元单元的偏置（阈值），wi为连接权系数（对于激发状态取正值，对于抑制状态取负值），Y为神经元输出, f()为输出变换函数,通常采用采用0和1二值函数或Ｓ形函数。

基本BP算法包括两个方面：信号的前向传播和误差的反向传播。即计算实际输出时按从输入到输出的方向进行，而权值和阈值的修正从输出到输入的方向进行。

图2是由三层神经元构成的BP网络结构示意图。

图中xj表示输入层第j个节点的输入，j=1,…,M；

wij表示隐含层第i个节点到输入层第j个节点之间的权值；

θi表示隐含层第i个节点的阈值；

Φ(x)表示隐含层的激励函数；

wki表示输出层第k个节点到隐含层第i个节点之间的权值，i=1….q；

αk表示输出层第k个节点的阈值,k = 1…..L;

ψ(x)表示输出层的激励函数；

ο_k表示输出层第k个节点的输出。

随着嵌入式智能分析产品需求的不断扩大，对算法在不同平台间的移植和优化提出了更多的要求和需求。要求算法在嵌入式设备上要有相当于或优于PC机的性能和效率。由于BP神经网络有浮点数计算量大，非线性计算量大的特点使其在嵌入式处理器上的执行效率大大受阻。

美国TI公司出品的达芬奇平台TMS3206467T双核芯片，具有主频990M的DSP核，高速cache，多等级的优化配置，和基于浮点数运算的高效内联函数库。

发明内容

本发明要解决的技术问题是提供一种基于LBP空间直方图特征和级联多分类器，适合不同场景、不同光照，并且达到实时性的基于浮点数运算内联函数库的神经网络优化方法。

本发明为解决公知技术中存在的技术问题所采取的技术方案是:

本发明的基于浮点数运算内联函数库的神经网络优化方法，其中神经单元的模型为:Y = 1/(1 + exp(-∑w_i×x_i)), i取1到n,n为神经单元个数；上述浮点数运算内联函数库构建于双核芯片之中, 即函数库IQmath Library,该函数库包括:格式转化函数,实现定标后的浮点数与整数之间的相互转化；运算函数,实现定标后的浮点数的乘除法；三角函数,实现定标后的浮点数的正弦，余弦，正切运算；数学函数,实现定标后的浮点数的开根，指数，对数和多次方运算；一般运算函数,实现定标后的浮点数的绝对值和限幅运算；

上述神经网络优化的步骤为：

I、根据实际w和x的取值范围和精度要求，对浮点数w和x进行定标，并定义_INLINE_IQMATH模式；

II、调用函数库IQmath Library中的格式转化函数将定标后的浮点数转化为定点数，调用格式转化函数中的int y =_IQ(float x)；其中权值w为常量，在运算前转为整形数，int intw[i] = _IQ(w[i])；值x在运算时进行转化，int intx[i] =_IQ(x[i])；