[发明专利]一种行为数据预测方法及装置

说明书

本发明提供了一种行为数据预测方法及装置，属于数据处理领域，本发明提供的方法可以获取当前用户行为对应的第一机构编码，并将第一机构编码输入预置预测模型中获取预置预测模型输出的预测结果，其中，预置预测模型通过采用注意力机制对第二机构编码以及序列编码向量进行池化处理获得的目标特征向量训练得到，第二机构编码用于标识历史用户行为发生的机构，序列编码向量根据历史用户行为的发生时序以及所述第二机构编码构建得到，通过注意力机制的池化方法进行特征提取，预置预测模型的训练过程中无需进行特征工程，从而能够有效提高数据预测效率、降低成本，还能对各历史用户行为实现注意力加权的效果，提高模型对当前用户行为预测的准确率。

技术领域

本发明涉及数据处理领域，更具体地，涉及一种行为数据预测方法及装置。

背景技术

随着网络信息技术的发展，用户的消费、借贷、收支等发生时序性数据逐渐累积丰富，为用户行为的风险预测提供了可能。

用户行为的风险预测与广告点击率预测、营销响应预测、文本分类等均可抽象为二分类建模问题，通常先对用户进行用户画像，根据用户的静态属性、动态行为等进行数据预处理和特征工程，综合运用统计学和业务领域知识提炼用于建模的特征，再利用逻辑回归、决策树、梯度提升树等集成学习算法或者深度学习算法构建模型，并根据使用场景对模型进行离线或者在线部署，进行用户行为的风险预测。

其中，特征工程通常需要先对用户行为进行分类，再根据需求对不同种类的行为分时段统计，获得次数、频率、变化率、变化趋势等方面对用户进行表征从而获取用户的特征数据，可以看出，上述过程使得数据预处理较为复杂，且特征质量对数据质量、提取方式要求较高，导致数据预测效率较低、成本较高。

发明内容

本发明提供了一种行为数据预测方法与装置，以解决在构建数据预测模型时进行数据预处理、特征工程等过程导致数据预测效率较低、成本较高的问题。

本发明第一方面提供了一种行为数据预测方法，该方法可以包括：

获取当前用户行为对应的第一机构编码，所述第一机构编码用于标识所述当前用户行为发生的机构；

将所述第一机构编码输入预置预测模型中，获取所述预置预测模型针对所述当前用户行为输出的预测结果，所述预置预测模型通过采用注意力机制对第二机构编码以及序列编码向量进行池化处理获得的目标特征向量训练得到，所述第二机构编码用于标识历史用户行为发生的机构，所述序列编码向量根据所述历史用户行为的发生时序以及所述第二机构编码构建得到。

可选地，所述获取当前用户行为对应的第一机构编码之前，还包括：

分别获取至少两个历史用户行为对应的第二机构编码以及发生时序；

根据所述发生时序与所述第二机构编码构建至少两个所述历史用户行为对应的序列编码向量；

采用注意力机制对所述序列编码向量与所述第二机构编码进行池化处理获得目标特征向量；

采用所述目标特征向量进行深度神经网络模型训练，获得所述预置预测模型。

可选地，所述采用注意力机制对所述序列编码向量与所述第二机构编码进行池化处理获得目标特征向量，包括：

对所述序列编码向量进行Transformer处理，获得第一向量；

对所述序列编码向量与所述第二机构编码进行注意力池化处理，获得第二向量；

根据所述第一向量与所述第二向量获得所述目标特征向量。

可选地，所述对所述序列编码向量与所述第二机构编码进行注意力池化处理，获得第二向量，包括：

将所述第二机构编码作为第一矩阵，所述序列编码向量作为第二矩阵进行注意力池化处理，获得所述第二向量。