1.一种基于混合专家模型的图神经网络训练优化方法,其特征在于,用于参考文献分类任务,所述方法包括下述步骤:针对由节点模式提取器、门控网络和K个专家模型构成的图神经网络,在使用测试时训练的方法训练该图神经网络时,采用自监督学习损失来训练图神经网络中门控网络的网络参数 以使得节点模式提取器所提取的节点模式的向量空间和门控网络所生成的专家权重组合的向量空间的分布对齐,所述图神经网络用于根据输入的图结构文本数据推理得到最终的分类结果,所述自监督学习损失的计算包括:分别对节点模式的向量空间和专家权重组合的向量空间应用相同类别数的K均值聚类算法进行聚类以获得节点模式的向量聚类空间 和专家权重组合的向量聚类空间 ;完成节点模式的向量聚类空间 和专家权重组合的向量聚类空间 的簇标签对齐;计算簇标签对齐后的节点模式的向量聚类空间 和专家权重组合的向量聚类空间 两者的KL散度以作为使得节点模式的向量空间和专家权重组合的向量空间的分布对齐的自监督学习损失;所述图结构文本数据中,节点为论文,边是论文之间的引用关系;所述最终的分类结果为论文的领域类型;所述自监督学习损失的计算函数表达式为: ;其中, 为自监督学习损失, 为节点模式的向量聚类空间 和簇标签对齐后的专家权重组合的向量聚类空间 之间的KL散度, 为聚类的类别数, 为节点模式的向量聚类空间 的第i个聚类中心的软聚类标签集合, 为簇标签对齐后的专家权重组合的向量聚类空间 的第i个聚类中心的软聚类标签集合, 为用于防止对数函数计算时出现零值的常数。
2.根据权利要求1所述的基于混合专家模型的图神经网络训练优化方法,其特征在于,所述分别对节点模式的向量空间和专家权重组合的向量空间应用相同类别数的K均值聚类算法进行聚类以获得节点模式的向量聚类空间 和专家权重组合的向量聚类空间 时,包括:S101,分别对节点模式的向量空间和专家权重组合的向量空间进行拟合以计算聚类中心;S102,针对图结构文本数据中的每一个节点,分别计算其与两类聚类中心的软聚类标签,从而得到每一个节点与节点模式的向量空间各个聚类中心的软聚类标签构成的节点模式的向量聚类空间 ,以及每一个节点与专家权重组合的向量空间各个聚类中心的软聚类标签构成的专家权重组合的向量聚类空间 。
3.根据权利要求2所述的基于混合专家模型的图神经网络训练优化方法,其特征在于,所述软聚类标签的计算函数表达式为: ;其中, 为节点 与第 个聚类中心的软聚类标签, 为节点 与第 个聚类中心的距离, 为温度参数, 为节点 与第 个聚类中心的距离, 为聚类的类别数。
4.根据权利要求2所述的基于混合专家模型的图神经网络训练优化方法,其特征在于,所述完成节点模式的向量聚类空间 和专家权重组合的向量聚类空间 的簇标签对齐包括:S201,计算节点模式的向量聚类空间 和专家权重组合的向量聚类空间 之间的平均KL 散度以构造成本矩阵 ;S202,将成本矩阵 使用匈牙利算法以获得节点模式的向量聚类空间 和专家权重组合的向量聚类空间 之间的软聚类标签之间的对应关系;S203,根据节点模式的向量聚类空间 和专家权重组合的向量聚类空间 之间的软聚类标签之间的对应关系生成簇标签匹配矩阵 ,将最佳匹配的位置赋值为1;S204,将专家权重组合的向量聚类空间 和簇标签匹配矩阵 通过矩阵乘法计算得到簇标签对齐后的专家权重组合的向量聚类空间 。
5.根据权利要求4所述的基于混合专家模型的图神经网络训练优化方法,其特征在于,步骤S201中构造成本矩阵 的函数表达式为: ;其中, 为成本矩阵 中第i行j列元素, 为节点数, 为节点模式的向量聚类空间 中的节点 与第 个聚类中心的软聚类标签, 为专家权重组合的向量聚类空间 中的节点 与第 个聚类中心的软聚类标签, 为用于防止对数函数计算时出现零值的常数。
6.根据权利要求1所述的基于混合专家模型的图神经网络训练优化方法,其特征在于,所述在使用测试时训练的方法训练该图神经网络包括:S301,构建由节点模式提取器、门控网络和K个专家模型构成的图神经网络,其中节点模式提取器用于提取节点模式,门控网络用于根据节点模式生成各个专家模型的专家权重,K个专家模型用于对节点模式的分类,并通过专家权重加权组合以获得最终的分类结果;S302,利用源域的图结构文本数据 训练图神经网络以使各个专家模型能够准确分类;S303,利用目标域的图结构文本数据 以及自监督学习损失来训练门控网络的网络参数 以使得节点模式的向量空间和专家权重组合的向量空间的分布对齐,得到完成训练后可用于输入的图结构文本数据推理得到最终的分类结果的基于混合专家模型的图神经网络。
7.一种基于混合专家模型的图神经网络训练优化系统,包括相互连接的微处理器和存储器,其特征在于,所述微处理器被编程或配置以执行权利要求1~6中任意一项所述基于混合专家模型的图神经网络训练优化方法。
8.一种计算机可读存储介质,该计算机可读存储介质中存储有计算机程序或指令,其特征在于,该计算机程序或指令被编程或配置以通过处理器执行权利要求1~6中任意一项所述基于混合专家模型的图神经网络训练优化方法。
9.一种计算机程序产品,包括计算机程序或指令,其特征在于,该计算机程序或指令被编程或配置以通过处理器执行权利要求1~6中任意一项所述基于混合专家模型的图神经网络训练优化方法。