[发明专利]分子理解模型的训练方法、装置、设备和介质

权利要求书

1.一种分子理解模型的训练方法，包括：

获取预训练数据，所述预训练数据包括：第一分子表示序列样本和第二分子表示序列样本，所述第一分子表示序列样本和所述第二分子表示序列样本为同一个分子的两种不同的分子表示序列样本；

采用所述分子理解模型，对所述第一分子表示序列样本进行处理，以得到预训练输出；

根据所述预训练输出和所述第二分子表示序列样本计算预训练损失函数，并根据所述预训练损失函数更新所述分子理解模型的参数。

2.根据权利要求1所述的方法，其中，

所述分子理解模型包括编码器和解码器；

所述编码器包括第一自注意力层，所述第一自注意力层采用双向自注意力机制；和/或，所述解码器包括第二自注意力层，所述第二自注意力层采用单向自注意力机制。

3.根据权利要求2所述的方法，其中，

所述编码器还包括第一共享网络部分，所述解码器还包括第二共享网络部分，所述第一共享网络部分和所述第二共享网络部分具有相同的网络结构和网络参数。

4.根据权利要求3所述的方法，其中，所述采用所述分子理解模型，对所述第一分子表示序列样本进行处理，以得到预训练输出，包括：

采用所述编码器的所述第一自注意力层，对所述第一分子表示序列样本进行双向自注意力处理，以得到双向自注意力处理结果；

采用所述编码器的所述第一共享网络部分，对所述双向自注意力处理结果进行处理，以得到编码输出；

采用所述解码器的所述第二自注意力层，对所述编码输出和已生成输出进行单向自注意力处理，以得到单向自注意力处理结果；

采用所述解码器的所述第二共享网络部分，对所述单向自注意力处理结果进行处理，以得到所述预训练输出。

5.根据权利要求1-4任一项所述的方法，其中，

所述第一分子表示序列样本为SMILES序列样本；和/或，

所述第二分子表示序列样本为SMILES序列样本。

6.一种基于分子模型的分子处理方法，所述分子模型包括分子理解模型和输出网络，所述分子理解模型采用同一个分子的两种不同的分子表示序列样本得到，所述分子处理方法包括：

采用所述分子理解模型对分子应用输入进行处理，以得到隐层输出，在所述输出网络为分子生成网络时，所述分子应用输入包括固定标识符；

采用所述输出网络对所述隐层输出进行处理，以得到分子应用输出。

7.根据权利要求6所述的方法，在所述输出网络为分子生成网络时，所述分子应用输出包括分子表示序列，其中，

若所述分子生成网络用于生成新分子，则所述分子表示序列为所述新分子的分子表示序列；或者，

若所述分子生成网络用于生成具有特定属性的新分子，则所述分子应用输入还包括：所述特定属性的信息；所述分子表示序列为具有所述特定属性的新分子的分子表示序列；或者，

若所述分子生成网络用于生成优化后的分子，则所述分子应用输入还包括：待优化分子表示序列；所述分子表示序列为优化后分子表示序列。

8.根据权利要求6所述的方法，其中，

在所述输出网络为分子预测网络时，所述分子应用输入包括：待预测的分子表示序列；所述分子应用输出包括：所述待预测的分子表示序列对应的预测值。

9.一种分子理解模型的训练装置，包括：

获取模块，用于获取预训练数据，所述预训练数据包括：第一分子表示序列样本和第二分子表示序列样本，所述第一分子表示序列样本和所述第二分子表示序列样本为同一个分子的两种不同的分子表示序列样本；

处理模块，用于采用所述分子理解模型，对所述第一分子表示序列样本进行处理，以得到预训练输出；

更新模块，用于根据所述预训练输出和所述第二分子表示序列样本计算预训练损失函数，并根据所述预训练损失函数更新所述分子理解模型的参数。