1.一种基于图信息传播的视觉令牌剪枝方法,其特征在于:所述方法包括:步骤S1、通过视觉编码器对输入图像进行视觉提取得到视觉令牌;步骤S2、通过计算每个视觉令牌的二范数,初始化每一视觉令牌的重要性评分,得到所有令牌的重要性评分;步骤S3、构建关于视觉令牌的图结构,将每一视觉令牌作为节点,利用重要性评分计算邻接矩阵,用以构建视觉令牌间的连接,初始化图结构;步骤S4、通过预设的相似度阈值更新邻接矩阵,得到不同区域的视觉令牌子图结构;步骤S5、对邻接矩阵的每一行进行归一化处理,根据预设的迭代次数n对节点信息进行迭代传播,结合视觉令牌的度数计算每一视觉令牌的最终得分;步骤S6、根据视觉令牌的最终得分筛选出k个分值最高的视觉令牌进行投影;步骤S7、将投影得到的视觉令牌与文本令牌进行拼接,输入给大语言模型,得到问答任务的输出结果。
2.根据权利要求1所述的一种基于图信息传播的视觉令牌剪枝方法,其特征在于:所述步骤S2具体为:对视觉编码器提取到的N个维度为d的视觉令牌矩阵X v =[v 1 ,v 2 ,…,v N ]∈ N×d ,使用二范数对每个视觉令牌赋予初始信息量,得到所有视觉令牌的重要性评分向量W∈ N×1 ;所述视觉令牌的l 2 范数计算如下:W=[||v 1 || 2 ,||v 2 || 2 ,…,||v N || 2 ] T其中,v ij 表示第i个令牌的第j个维度分量。
3.根据权利要求1所述的一种基于图信息传播的视觉令牌剪枝方法,其特征在于:所述步骤S3具体为:基于视觉令牌的重要性评分,利用余弦相似度定义邻接矩阵A∈ N×N :其中,v i 和v j 分别表示第i个和第j个视觉令牌的向量表示;将每一视觉令牌作为节点,通过邻接矩阵A在视觉上下文中建模视觉令牌之间的交互,得到关于视觉令牌的图结构。
4.根据权利要求1所述的一种基于图信息传播的视觉令牌剪枝方法,其特征在于:所述步骤S4具体为:设置一个相似度阈值s,通过所述相似度阈值s更新邻接矩阵,使得只有具有高互相似性的视觉令牌才能相连,得到不同区域的视觉令牌子图结构,所述邻接矩阵的更新公式如下;其中,A′ ij 为更新后的邻接矩阵。
5.根据权利要求1所述的一种基于图信息传播的视觉令牌剪枝方法,其特征在于:所述步骤S5具体包括:使用Softmax(·)函数对邻接矩阵A'的每一行进行归一化:其中,T是温度参数,用于控制Softmax(·)函数的平滑程度;进行n次幂操作:A (n) =(A t ) n其中,n表示迭代次数,该过程用以建模节点信息多轮迭代传播;计算每一个视觉令牌所连接的边的数目,即度数D∈ 1×N ,将其定义为:计算视觉令牌经过图信息迭代后的最终得分如下:其中,S为视觉令牌的最终得分向量,W为视觉令牌的重要性评分向量。
6.根据权利要求1所述的一种基于图信息传播的视觉令牌剪枝方法,其特征在于:所述步骤S6具体为:选择得分最高的k个视觉令牌:X g =[v 1 ,v 2 ,…,v k ]其中,每个v i 从视觉令牌矩阵X v 中选择,且满足:其中,v k 表示在按照||v i || 2 降序排列的列表中位于第k位的视觉令牌。