有效
基于图神经网络会话推荐系统的用户偏好预测方法
吴磊、唐超、龚海刚、刘明、王晓敏
电子科技大学长三角研究院(衢州)
摘要
本发明公开了基于图神经网络会话推荐系统的用户偏好预测方法,涉及人工智能技术领域,包括:S1获取训练数据集;S2、预处理训练数据集得会话序列;S3构建偏好预测模型;S4会话序列导入到偏好预测模型,并训练优化;S5获取待预测的用户数据,预处理得待预测的会话序列;S6、待预测的会话序列导入优化的偏好预测模型得预测结果;在构建会话图时给每个物品节点添加自环并将边的关系,增加邻接矩阵的信息,解决矩阵稀疏问题,采用多通道图神经网络来提取会话的局部兴趣特征,高效利用会话图中的信息,然后引入多层自注意力网络来提取会话的全局兴趣特征,通过会话实现精准有效的偏好预测。
1.基于图神经网络会话推荐系统的用户偏好预测方法,其特征在于,包括:S1、获取训练数据集;S2、对训练数据集进行预处理得到会话序列;S3、构建偏好预测模型,偏好预测模型从输入到输出依次包括会话图构建层、局部编码层、全局编码层和预测输出层,局部编码层为多通道会话图神经网络,全局编码层为多层注意力神经网络,局部编码层用于对会话图的局部兴趣进行偏好编码获得会话图的短期局部兴趣特征,全局编码层对会话图的全局兴趣偏好进行偏好编码获得会话图的全局兴趣特征,预测层根据短期局部兴趣特征和全局兴趣特征得到预测结果;S4、将训练集的会话序列导入到偏好预测模型,并利用交叉熵函数对偏好预测模型进行训练优化;具体包括:S41、会话图构建层对一个会话构建序列 ,该序列中的物品项 根据用户点击的时间先后顺序进行排列,对序列s构建会话图 ,V s 是会话图中的节点集合,E s 是会话图边的集合,每一个会话对应一个邻接矩阵A s ,矩阵里面含有五种类型的数值, 表示节点i到节点j之间没有边, 分别对应会话图中四种类型的边,即自环、入边、出边、出入边;S42、分析会话集合 中包含的物品项目构成一个物品项集合item={ },其中k表示总共有k个不同的物品项;给k个物品项分别随机初始一个嵌入向量,形成一个随机初始的嵌入表达矩阵 ,其中E∈ ,num是数据集中不同类型物品项的个数,d是嵌入向量的维度,会话序列s对应的嵌入表达矩阵表示为 ,其中 是序列s中第i个元素的标号,该标号和矩阵E的行对应;S43、局部编码层对会话s进行局部信息编码,得到局部编码结果 ,表示为 ,其中, 表示节点 的特征向量对于节点 来说其占有的权重值, 是会话s中节点 的邻居节点集合;选取会话s中最后一个物品的特征编码作为会话的短期局部兴趣特征,表示为 ;S44、全局编码层使用自注意力机制对会话集合S的物品特征编码矩阵 , ∈ 进行自注意力计算得到全局编码结果E,表示为 、 ,其中, ,是经过K层注意力机制生成的会话的全局编码向量,E 1 =E;将 中对应会话最后一个物品项的特征向量当作会话的全局兴趣特征,可表示为 ;S45、预测层将短期局部兴趣特征与全局兴趣特征以加权求和的形式,结合为一个向量s final ,表示为 ,该向量代表了会话的最终的兴趣偏好s final ,s final 将该会话的最终兴趣偏好向量与物品集合V的嵌入矩阵E进行矩阵乘法,然后再通过softmax函数,求得该会话对于物品集合V中的每个物品项的推荐概率 ,表示为 ;其中, ∈(0,1)是一个可调节的超参数,E是物品集合V对应的嵌入矩阵;S5、获取待预测的用户数据,并进行预处理得到待预测的会话序列;S6、待预测的会话序列导入优化后的偏好预测模型获得预测结果。
2.根据权利要求1所述的基于图神经网络会话推荐系统的用户偏好预测方法,其特征在于,在S2中包括:S21、对物品id从1开始进行重构;S22、过滤所有会话中累计点击数小于5的物品和点击物品数量小于2的会话;S23、对过滤后的会话进行数据增强处理,将一个会话 变换为多个子会话({ }, )、( ) 、…、( );其中()中有两个元素,其中{}中的元素表示训练数据,另一个表示与训练集对应的数据标签,组合形成会话序列 ,其中t表示会话的数量, =( )。
3.根据权利要求1所述的基于图神经网络会话推荐系统的用户偏好预测方法,其特征在于,在S4中,采用交叉熵损失函数来优化偏好预测模型,交叉熵损失函数表示为: ,其中, 是会话对应的实际下一个点击物品标签,形式为one-hot编码向量, 是偏好预测模型预测的概率值,n是物品集合V中总的物品个数, 是损失值。
4.根据权利要求1所述的基于图神经网络会话推荐系统的用户偏好预测方法,其特征在于,在S43中包括:①、节点 的嵌入向量与节点 的嵌入向量进行点乘,得到形状为(d,1)的向量,该向量以此经过一个线性变换和一个非线性变换得到节点 特征向量对于节点的权重系数e ij ,表示为 ,其中,r ij 表示节点 与节点 之间边的关系,每种类型的边对应一个参数向量 ,则总共有四种类型的参数向量: ,分别对应四种通道;②、使用Softmax函数对权重值系数e ij 进行归一化得到节点 的特征向量对于节点 来说其占有的权重值a ij ,表示为 ;③、聚合节点v i 的所有邻居节点,每个邻居节点都有一个对于节点v i 的权值,对所有的邻居节点加权求和就能得到当前会话s中节点v i 的物品编码结果 , ;④、选取会话s中最后一个物品的特征编码作为会话的短期局部兴趣特征,表示为 ;⑤、局部编码层对会话s进行局部信息编码,表示为 ,其中,e ij 表示节点 的特征向量对于节点 来说其占有的权重值,每种类型的边对应一个参数向量 ,则总共有四种类型的参数向量: ,分别对应四种通道; 是会话s中节点 的邻居节点集合;选取会话s中最后一个物品的特征编码作为会话的短期局部兴趣特征,表示为 。
5.根据权利要求1所述的基于图神经网络会话推荐系统的用户偏好预测方法,其特征在于,在S44中包括:1)、对 , ∈ 进行自注意力机制处理一次得到输出矩阵F表示为: ; ; ; ; ;其中, ∈ 是可学习参数,Q是查询矩阵,K是关键词矩阵、V是值矩阵,A∈ 是归一化的注意力权值矩阵,包含了会话中其它所有节点对当前节点的重要性程度;2)、对输出矩阵F添加两次线性变换和一次非线性变换,然后再加上原始的矩阵信息,得到会话的物品嵌入矩阵H给予一层自注意力的全局编码结果E 1 ,表示为 ;3)、经过K层注意力机制生成的会话的全局编码向量 k , ,E 1 =E;4)、将 中对应会话最后一个物品项的特征向量当作会话的全局兴趣特征,可表示为 。
暂无引用专利



