有效
基于多尺度对比学习的时序数据特征增强表示方法及装置
周晓磊、王海、徐歆尧、丁鲲、王帅、鲁沂
中国人民解放军国防科技大学
摘要
本申请涉及计算机信息技术领域的一种基于多尺度对比学习的时序数据特征增强表示方法及装置。所述方法包括:分别提取原始时序订单数据三类节点关系数据及各订单节点基础属性信息,构建订单节点特征矩阵,利用邻域子图订单节点特征聚合单元针对三类节点关系数据分别构建关系图,处理得各关系图对应的订单节点基础特征,分别利用全局级别订单对比学习单元以及局部级别订单对比学习单元根据订单节点基础特征提取全局语义特征以及局部语义特征,融合这两个特征,得订单基础属性增强后的多尺度融合物流订单增强特征。采用本方法能够缓解物流订单特征稀疏与类别不平衡,破解多尺度信息割裂,提升订单语义表达及下游任务适配性。
1.一种基于多尺度对比学习的时序数据特征增强表示方法,其特征在于,所述方法包括:获取物流场景下的原始时序订单数据,所述原始时序订单数据包含多个订单节点数据,分别从所述原始时序订单数据中提取三类节点关系数据,以及各订单节点的基础属性信息,构建订单节点特征矩阵;利用邻域子图订单节点特征聚合单元,针对所述三类节点关系数据分别构建关系图,并利用所述订单节点特征矩阵对所述关系图进行处理,得到每个关系图对应的订单节点基础特征;利用全局级别订单对比学习单元,基于各所述关系图对应的订单节点基础特征,按预定义逻辑生成全局对比正负样本对,采用双向线性变换的相似性得分度量机制根据全局对比正负样本对计算全局相似性得分,提取全局语义特征;利用局部级别订单对比学习单元,将每个订单节点作为中心节点,基于三类节点关系数据确定在各关系图中的邻域节点集合,通过中心节点特征屏蔽策略构建局部环境信息子图,利用与全局模块共享参数的预训练图卷积网络聚合局部环境语义特征,采用对偶相似度度量机制计算得到局部语义特征;对所述全局语义特征与局部语义特征进行多尺度融合后,得到对订单节点特征矩阵中各订单基础属性信息增强后的多尺度融合物流订单增强特征。
2.根据权利要求1所述的基于多尺度对比学习的时序数据特征增强表示方法,其特征在于,所述从所述原始时序订单数据中提取三类节点关系数据,包括:所述原始时序订单数据包括物流订单信息、快递员履约信息以及用户画像信息;根据所述快递员履约信息提取订单ID、快递员ID、路区ID,若两订单同属一路区且由同一快递员揽收,则建立O-P-O关系,作为第一类节点关系数据;根据所述用户画像信息提取订单ID、用户ID,统计用户年度下单量并划分下单频率等级,若两订单创建用户等级相同,则建立O-U-O关系,作为第二类节点关系数据;根据所述物流订单信息,提取订单ID、创建时间,若两订单预约揽件时刻及工作日或节假日属性一致,则建立O-T-O关系,作为第三类节点关系数据。
3.根据权利要求2所述的基于多尺度对比学习的时序数据特征增强表示方法,其特征在于,从原始时序订单数据中提取各订单的基础属性信息,构建订单节点特征矩阵包括:所述基础属性信息包括:付款金额、货物尺寸重量、保价金额、货物及产品类型;对所述基础属性信息进行数值化处理后按订单节点排列,构建所述订单节点特征矩阵。
4.根据权利要求1所述的基于多尺度对比学习的时序数据特征增强表示方法,其特征在于,利用所述单节点特征矩阵对所述关系图进行处理,得到每个关系图对应的订单节点基础特征包括:对每个关系图的邻接矩阵添加自环并进行归一化处理,为每个关系图配置独立的图卷积网络;利用订单节点特征矩阵初始化每一个图卷积网络的第0层隐藏状态;通过各初始化后的图卷积网络对处理后的关系图邻接矩阵进行逐层卷积操作聚合邻居节点信息,得到每个关系图对应的订单节点基础特征。
5.根据权利要求4所述的基于多尺度对比学习的时序数据特征增强表示方法,其特征在于,所述利用邻域子图订单节点特征聚合单元对每个关系图的邻接矩阵添加自环并进行归一化处理,包括:根据各所述关系图,构建用于量化订单节点之间连接关系的邻接矩阵;通过将与所述邻接矩阵维度一致的单位矩阵与邻接矩阵叠加,以实现对各所述邻接矩阵添加自环;计算各所述邻接矩阵对应的度矩阵,再通过度矩阵的平方根倒数分别对添加自环后的邻接矩阵进行前乘和后乘,以实现归一化处理。
6.根据权利要求5所述的基于多尺度对比学习的时序数据特征增强表示方法,其特征在于,为每个关系图配置独立的图卷积网络,并利用订单节点特征矩阵初始化图卷积网络第0层隐藏状态包括:针对每个关系图,配置一个包含多个卷积层的独立图卷积网络,且各关系图对应的图卷积网络参数不共享;将所述订单节点特征矩阵与初始化权重矩阵进行线性变换后,输入激活函数做非线性处理,得到图卷积网络第0层隐藏状态,其中,所述初始化权重矩阵的维度由订单节点特征数量和隐藏层参数确定。
7.根据权利要求1所述的基于多尺度对比学习的时序数据特征增强表示方法,其特征在于,在所述全局级别订单对比学习单元中:基于训练阶段确定的订单标签分布量化规则,计算订单节点基础特征与订单标签的一致性,再按训练阶段优化的权重系数,分别融合同标签订单节点的基础特征生成全局对比正样本,同时融合异标签订单节点的基础特征生成全局对比负样本,组成全局对比正负样本对;调用训练阶段习得的上下文变换矩阵,通过双向线性变换的相似性得分度量机制,计算订单节点基础特征与全局对比正负样本对的全局相似性得分;基于训练阶段确定的特征筛选阈值,筛选出符合阈值要求的全局相似性得分对应的特征分量,对筛选后的特征分量进行聚合,形成并提取全局语义特征。
8.根据权利要求1所述的基于多尺度对比学习的时序数据特征增强表示方法,其特征在于,在所述局部级别订单对比学习单元中:以每个订单节点为中心节点,分别依据三类节点关系数据,匹配各关系图中与中心节点存在直接关联的节点,形成中心节点在对应关系图下的邻域节点集合;对中心节点的订单节点基础特征执行屏蔽处理,结合邻域节点集合的原始基础特征及各关系图的连接关系,构建每个中心节点对应的局部环境信息子图;将局部环境信息子图的邻接矩阵与子图节点特征输入预训练图卷积网络,通过逐层卷积操作聚合邻域节点语义信息,生成局部环境语义特征;调用训练习得的对偶相似度矩阵,采用对偶相似度度量机制计算中心节点对应的局部环境语义特征间的相似度,筛选符合训练阶段阈值的特征信息并聚合,得到局部语义特征。
9.根据权利要求7或8所述的基于多尺度对比学习的时序数据特征增强表示方法,其特征在于,在对所述全局级别订单对比学习单元与局部级别订单对比学习单元进行训练时:基于双向线性变换的相似性得分,采用二分类交叉熵损失函数计算全局对比损失,其中,所述相似性得分根据订单节点基础特征与全局对比正负样本对的相似度得到;基于对偶相似度得分,采用二分类交叉熵损失函数计算局部对比损失,其中,所述对偶相似度得分根据中心节点局部环境语义特征间的相似度得到;根据所述全局对比损失以及局部对比损失构建联合损失函数,以最小化联合损失函数为目标,通过反向传播更新训练参数,所述训练参数包括全局级别订单对比学习单元的上下文变换矩阵、局部级别订单对比学习单元的对偶相似度矩阵,以及两单元共享的预训练图卷积网络的卷积层参数。
10.一种基于多尺度对比学习的时序数据特征增强表示装置,其特征在于,所述装置包括:原始时序订单数据获取模块,用于获取物流场景下的原始时序订单数据,所述原始时序订单数据包含多个订单节点数据,分别从所述原始时序订单数据中提取三类节点关系数据,以及各订单节点的基础属性信息,构建订单节点特征矩阵;订单节点基础特征得到模块,用于利用邻域子图订单节点特征聚合单元,针对所述三类节点关系数据分别构建关系图,并利用所述订单节点特征矩阵对所述关系图进行处理,得到每个关系图对应的订单节点基础特征;全局语义特征提取模块,用于利用全局级别订单对比学习单元,基于各所述关系图对应的订单节点基础特征,按预定义逻辑生成全局对比正负样本对,采用双向线性变换的相似性得分度量机制根据全局对比正负样本对计算全局相似性得分,提取全局语义特征;局部语义特征提取模块,用于利用局部级别订单对比学习单元,将每个订单节点作为中心节点,基于三类节点关系数据确定在各关系图中的邻域节点集合,通过中心节点特征屏蔽策略构建局部环境信息子图,利用与全局模块共享参数的预训练图卷积网络聚合局部环境语义特征,采用对偶相似度度量机制计算得到局部语义特征;物流订单特征增强模块,用于对所述全局语义特征与局部语义特征进行多尺度融合后,得到对订单节点特征矩阵中各订单基础属性信息增强后的多尺度融合物流订单增强特征。




