有效

基于跨模态信息补全的零样本文本分类方法和装置

范强、虎文龙、严浩、周晓磊、黄山、徐歆尧、张骁雄、王芳潇
中国人民解放军国防科技大学

摘要

本申请涉及一种基于跨模态信息补全的零样本文本分类方法和装置。该方法通过设计新的图像标签映射机制并基于上下文文本生成实现跨模态信息补全的图像构建,最后在推理阶段设计多模态协同推理框架,通过提示工程优化文本输入增强文本语义感知能力,有效提升了CLIP模型的零样本推理能力。针对自动化标签生成的语义偏差问题,基于上下文文本生成,构建跨模态信息补全的图像,以优化文本语义表征完整性,同时在推理阶段引入提示设计增强文本语义感知能力;两阶段关键词自动选择机制,首先利用大模型生成关键词候选集合,其次通过多模态匹配与选择,选择最佳关键词短语作为跨模态信息补全的文本信息,有效提高了语义准确性和领域适配性。