[发明专利]用于使用跨域批量归一化进行神经网络中的域适配的系统和方法

权利要求书

1.一种设备，其包括：

至少一个处理器；以及

至少一个计算机存储装置，其不是瞬时信号并且包括指令，所述指令能够由所述至少一个处理器执行以：

访问第一神经网络，所述第一神经网络与第一数据类型相关联；

访问第二神经网络，所述第二神经网络与不同于所述第一数据类型的第二数据类型相关联；

将第一训练数据作为输入提供给所述第一神经网络；

将第二训练数据作为输入提供给所述第二神经网络，所述第一训练数据不同于所述第二训练数据；

识别来自所述第一神经网络的中间层的第一输出，所述第一输出是基于所述第一训练数据；

识别来自所述第二神经网络的中间层的第二输出，所述第二输出是基于所述第二训练数据，所述第一神经网络和所述第二神经网络的所述相应中间层是平行的层；

识别用于对所述第一输出和所述第二输出进行归一化的比率；

应用将所述比率考虑在内的方程式来改变所述第二神经网络的所述中间层的一个或多个权重。

2.根据权利要求1所述的设备，其中所述比率与平均值有关。

3.根据权利要求1所述的设备，其中对所述第一输出与所述第二输出之间的均值和方差两者进行分析以应用所述方程式。

4.根据权利要求1所述的设备，其中使用跨域批量归一化(CDBN)来识别所述比率并且应用所述方程式。

5.根据权利要求1所述的设备，其中在将所述第二训练数据提供给所述第二神经网络之前，通过所述第一神经网络的副本建立所述第二神经网络。

6.根据权利要求1所述的设备，其中所述第一神经网络和所述第二神经网络的所述中间层是除输出层之外的层。

7.根据权利要求1所述的设备，其中所述第一训练数据与所述第二训练数据相关，其中所述第一神经网络和所述第二神经网络与动作识别有关，并且其中所述第一训练数据与所述第二训练数据相关，因为所述第一训练数据和所述第二训练数据两者都与同一动作有关。

8.根据权利要求1所述的设备，其中所述第一训练数据与所述第二训练数据相关，其中所述第一神经网络和所述第二神经网络与对象识别有关，并且其中所述第一训练数据与所述第二训练数据相关，因为所述第一训练数据和所述第二训练数据两者都与同一对象有关。

9.一种方法，其包括：

访问第一神经网络，所述第一神经网络与第一数据类型相关联；

访问第二神经网络，所述第二神经网络与不同于所述第一数据类型的第二数据类型相关联；

将第一训练数据作为输入提供给所述第一神经网络；

将第二训练数据作为输入提供给所述第二神经网络，所述第一训练数据不同于所述第二训练数据；

识别来自所述第一神经网络的隐藏层的第一输出，所述第一输出是基于所述第一训练数据；

识别来自所述第二神经网络的隐藏层的第二输出，所述第二输出是基于所述第二训练数据，所述第一神经网络和所述第二神经网络的所述相应隐藏层是平行的层；

识别用于对所述第一输出和所述第二输出进行归一化的比率；

将所述比率应用于来自所述第二神经网络的所述隐藏层的输出，以对来自所述第二神经网络的所述隐藏层的所述输出进行归一化。

10.根据权利要求9所述的方法，其中所述比率与平均值有关。

11.根据权利要求9所述的方法，其中所述识别和应用步骤是使用跨域批量归一化(CDBN)模块执行的。