[发明专利]往复式生成模型

说明书

提供了往复式生成模型。对于将传感器数据分类成K个类的K个生成模型的集合中的每个生成模型，从训练数据中采样如被分类为属于生成模型的类的分布内样本，并且从训练数据中采样如被分类为不属于生成模型的类的分布外样本。还从往复式生成模型集合中除生成模型之外的每个剩余的互逆生成模型生成分布外样本，以提供被分类为不属于生成模型的类的附加样本。生成模型的参数被更新以最小化损失函数，从而最大化样本属于该类的似然性，并且关于采样的分布外样本和生成的分布外样本二者最大化损失函数，从而最小化样本不属于该类的似然性。

技术领域

本公开的方面涉及往复式（reciprocating）生成模型。

背景技术

生成模型学习联合概率分布，而鉴别模型学习条件概率分布。鉴别分布可以用于直接将示例分类成类。然而，生成模型可以用于将示例单独地利用概率分布拟合到每个类中。当对新点进行分类时，生成模型可以用于找出其中该点最有可能来自哪个分布。

存在聚焦于用于分类任务的深度生成模型的应用的大体量工作。两个代表性的示例包括“Semi-supervised Learning with Deep Generative Models”（Kingma、Rezende、Mohamed、Welling，2014 arXiv 1406.298）和“Adversarial Autoencoders”（Makhzani、Shlens、Jaitly、Goodfellow、Frei，2015 arXiv 1511.05644）。

发明内容

根据一个或多个说明性示例，使用一种用于针对K个类训练往复式生成模型集合的方法。初始化将传感器数据分类成所述K个类的K个生成模型的集合，使得当被训练时，所述K个生成模型的集合中的每个生成模型被配置为将示例分类在所述K个类中相应一个类中或从其分类出来。对于所述K个生成模型中的每个生成模型，从生成模型的训练数据中采样如被分类为属于生成模型的类的分布内样本，从生成模型的训练数据中采样如被分类为不属于生成模型的类的分布外样本，并且从所述往复式生成模型集合中除生成模型之外的每个剩余互逆（reciprocal）生成模型生成分布外样本，以提供被分类为不属于生成模型的类的附加样本。根据分布内样本、分布外样本和生成的分布外样本更新生成模型的参数，以关于分布内样本最小化损失函数，从而最大化样本属于生成模型的类的似然性，并且关于采样的分布外样本和生成的分布外样本二者最大化损失函数，从而最小化样本不属于生成模型的类的似然性。如经训练的K个生成模型的集合用于关于所述K个类对传感器数据进行分类。

根据一个或多个说明性示例，提供了一种用于针对K个类训练往复式生成模型集合的系统。所述系统包括计算设备的处理器，处理器被编程为初始化将传感器数据分类成所述K个类的K个生成模型的集合，使得当被训练时，所述K个生成模型的集合中的每个生成模型被配置为将示例分类在所述K个类中相应一个类中或从其分类出来。处理器进一步被编程为：对于所述K个生成模型中的每个生成模型，从训练数据中采样如被分类为属于生成模型的类的生成模型的分布内样本，从训练数据中采样如被分类为不属于生成模型的类的生成模型的分布外样本，从往复式生成模型集合中除生成模型之外的每个剩余的互逆生成模型生成分布外样本，以提供被分类为不属于生成模型的类的附加样本，并且根据分布内样本、分布外样本和生成的分布外样本更新生成模型的参数，以关于分布内样本最小化损失函数，从而最大化样本属于生成模型的类的似然性，并且关于采样的分布外样本和生成的分布外样本二者最大化损失函数，从而最小化样本不属于生成模型的类的似然性。处理器还被编程为利用如经训练的K个生成模型的集合来关于所述K个类对传感器数据进行分类。