有效

一种基于混合专家模型的图神经网络训练优化方法及系统

王怡琦、施禹、董攀、李爱平、谭郁松、余杰、李宝、张建锋、蹇松雷
中国人民解放军国防科技大学

摘要

本发明公开了一种基于混合专家模型的图神经网络训练优化方法及系统,本发明方法包括采用自监督学习损失来训练图神经网络中门控网络的网络参数以使得节点模式的向量空间和专家权重组合的向量空间的分布对齐:分别对节点模式的向量空间和专家权重组合的向量空间应用相同类别数的K均值聚类算法进行聚类以获得节点模式的向量聚类空间和专家权重组合的向量聚类空间并进行簇标签对齐;计算簇标签对齐后的KL散度以作为使得节点模式的向量空间和专家权重组合的向量空间的分布对齐的自监督学习损失。本发明旨在优化无监督学习的损失函数以根据测试数据分布指导调整门控网络的参数,解决复杂图(包括同质图和异质图)上图分布外泛化问题。