[发明专利]数据处理的方法与装置

说明书

本申请提供一种数据处理的方法与装置。涉及人工智能领域，具体涉及计算机视觉领域。该方法包括：为第一模型中的每个特征组合项添加架构参数，得到第二模型，其中，第一模型为基于FM的模型，架构参数用于表征相应特征组合项的重要性；对第二模型中的架构参数进行优化学习，获得优化后的架构参数；根据优化后的架构参数，基于第一模型或第二模型，获得经过特征组合项删减后的第三模型。通过架构参数的优化学习可以实现特征组合项的筛选，无需现有技术中针对多个候选子集的多遍训练，因此，可以有效减小特征组合筛选的计算量，从而可以节省算力，同时可以提高特征组合筛选的效率。

技术领域

本申请涉及人工智能领域，具体涉及一种数据处理的方法与装置。

背景技术

随着互联网技术快速发展，产生信息过载(information overload)的问题。为了解决信息过载的问题，推荐系统(recommender system，RS)应运而生。在推荐系统中，点击率 (click-through rate，CTR)预估是非常重要的一个环节，判断一个商品是否进行推荐，需要根据预估的CTR来进行。在进行CTR预估时，除了考虑单个特征外，还需要考虑特征之间的组合。为了表征特征之间的组合，因子分解机(factorization machine，FM)模型被提了出来，FM模型中包括单个特征的所有组合情况的特征组合项。现有技术，通常采用基于FM构建CTR预估模型。

FM模型中的特征组合项的数量随特征组合的阶数呈指数上升，因此，当特征组合的阶数越来越高，特征组合项的数量是巨大的，导致FM模型的训练的计算量超大。针对这个问题，特征组合筛选(feature interaction selection，FIS)被提出来。由于手工进行特征组合筛选费时费力，业界提出自动特征组合筛选(automatic feature interactionselection， AutoFIS)。

现有的自动特征组合筛选方案，通过在所有可能的特征组合子集构成的搜索空间中搜索最优的子集，来实现特征组合筛选，搜索过程耗能高，算力消耗大。

发明内容

本申请提供一种数据处理的方法与装置，可以减小特征组合筛选的计算量和算力消耗。

第一方面，提供了一种数据处理的方法，该方法包括：为第一模型中的每个特征组合项添加架构参数，得到第二模型，其中，所述第一模型为基于因子分解机FM的模型，所述架构参数用于表征相应特征组合项的重要性；对所述第二模型中的所述架构参数进行优化学习，获得优化后的架构参数；根据所述优化后的架构参数，基于所述第一模型或所述第二模型，获得经过特征组合项删减后的第三模型。

基于FM的模型表示基于FM原理构建的模型，例如包括如下中任一种模型：FM模型、DeepFM模型、IPNN模型、AFM模型与NFM模型等。

第三模型可以是在第一模型基础上进行特征组合项删减后得到的模型。

或者，第三模型可以是在第二模型基础上进行特征组合项删减后得到的模型。

其中，可以采用多种方式，确定要删减的特征组合项，或者说，确定要保留(即筛选) 的特征组合项。

可选地，作为一种实现方式，可以将优化后的架构参数中取值小于阈值的架构参数对应的特征组合项删除。

其中，该阈值用于表征是否保留特征组合项的判断准则，例如，若一个特征组合项的优化后的架构参数的取值小于该阈值，则表明，该特征组合项被删除，若一个特征组合项的优化后的架构参数的取值达到该阈值，则表明，该特征组合项被保留(即被筛选)。

该阈值可以根据实际应用需求确定。例如，可以通过模型训练的方式，获取该阈值的取值。本申请对该阈值的获取方式不作限定。

可选地，作为另一种实现方式，在一些架构参数在优化结束后取值变为零的情况下，可以直接将优化后取值不为零的架构参数所对应的特征组合项作为保留的特征组合项，得到第三模型。