1.基于度量的元学习框架下的少次文本分类方法,其特征在于,包括以下步骤:步骤1,在输入层,输入支持实例和查询实例;步骤2,在词嵌入层,通过查找预先训练的词嵌入表,将支持实例和查询实例的离散单词映射到向量空间中;步骤3,在上下文编码器层,通过考虑上下文来优化支持实例和查询实例的句子中每个单词的局部表示;步骤4,在双向注意力层,首先将查询实例与每个支持实例耦合,然后在它们之间生成匹配信息;步骤5,在模型层,为查询实例和支持实例生成特征向量,给定查询的实例级注意力模块计算支持实例的权重以动态生成原型;步骤6,在输出层,通过测量查询实例和原型之间的相似性得分来为查询实例提供分类预测;步骤2中,嵌入层将句子中的每个单词w t 映射到向量空间中,表示为:w t =f emb (w t )其中,f emb ()是映射函数;步骤3中,在上下文编码器层,为了优化每个单词的表示形式,在单词嵌入之后,应用了长短期记忆网络,对于输入句子{w 1 ,w 2 ,...,w T },按以下方式计算前向和后向长短期记忆网络表示形式: 和 分别为前向和后向长短期记忆网络,为了捕获两个方向的信息,将两个方向的隐藏层状态拼接:[:]是拼接操作,所述上下文编码器层的输出是一个维度为T×2d h 的矩阵,d h 为隐藏层单元数量, 表示查询实例, 表示第k个支持实例;在步骤4中,双向注意力层负责融合查询实例和支持实例中的信息,首先计算查询实例和第k个支持实例之间的相似度矩阵,然后计算其融合表示,所述双向注意力层的输入是查询实例Q和第k个支持实例S k 的上下文向量表示,输出是查询实例的支持感知矢量表示以及支持实例的查询感知矢量表示;所述的查询实例和第k个支持实例之间的相似度矩阵: 是训练参数,Q i: 是Q的第i行, 是S k 的第j行,⊙是元素按位相乘符号,这样得到的C k 包含了Q和S k 的全部注意力信息;所述的双向注意力层包括支持到查询注意力层和查询到支持注意力层,所述支持到查询注意力层注意力用来寻找查询实例中的哪些词与支持实例中的词相关,给定第t个支持实例中的词,查询词的注意力值分布为: 是C k 第t列,Softmax函数定义为 因此,支持实例中第t个单词的查询感知矢量表示:可以得到查询感知的支持向量表示 所述查询到支持注意力层注意力用来寻找支持实例中的哪些词与查询中的词相关,给定第t个查询中的词,支持词的注意力值分布为: 是C k 第t行,Softmax函数定义为 因此,查询中第t个单词的支持感知矢量表示:可以得到查询感知的支持向量表示 在特征融合中,对每个查询和支持实例的原始表示与注意力表示之间的交互进行建模,对于查询实例,将两种表示法融合如下: 是参数矩阵,g()是一个ReLU激活函数, 同样的方法,可以得到第k个支持实例的融合表示
2.根据权利要求1所述的少次文本分类方法,其特征在于,在步骤5中,模型层将所有实例汇总为单个特征向量,并为每个类生成原型向量;首先将 和 输入一个维度为d h 的长短期记忆网络中,得到新的表示 和 目的是获得在已知查询的支持实例词之间的交互以及在已知支持实例的查询词之间的交互,将他们融为单个向量的方法为:Max()和Ave()分别为最大池化和平均池化操作;由于每个支持实例的重要性在给定查询的情况下会有所不同,由此通过注意力方式汇总支持实例,定义为:e k 反映每个支持实例与查询的相关性, 和 为训练参数,然后,可以得到原型向量:所有类别的原型向量集合表示为
3.根据权利要求2所述的少次文本分类方法,其特征在于,在步骤6中,所述输出层根据查询特征向量和各类别的原型向量预测查询实例所属的类;通过测量查询实例与每个原型的相似性来确定查询实例的类: 和 为训练参数。
4.根据权利要求3所述的少次文本分类方法,其特征在于,在模型层中,损失函数为:其中,第一部分为交叉熵损失函数:其中,Q表示查询实例的集合,|Q|表示集合Q的基数;第二部分添加了一个large margin损失函数,以缩短同一类别之间的距离,并扩大不同类别之间的距离,损失定义为: 表示类别y i 的第k个支持实例, 为不属于类别y i 的任意支持实例,γ为超参数,根据具体任务进行调整设置,||.|| 2 计算向量的2范数;最后模型利用随机梯度下降法最小化损失。