有效

基于通识大模型和迁移学习的私有知识内容生成方法

张慧、丁鲲、张骁雄、蒋国权、刘姗姗、刘茗
中国人民解放军国防科技大学

摘要

本申请涉及一种基于通识大模型和迁移学习的私有知识内容生成方法。所述方法包括:获取结构化数据库,对结构化数据库中的结构化关系型数据进行表之间的外键关联得到表关联数据;分别对表关联数据进行处理得到文本数据集和指令数据集,利用文本数据集以及指令数据集对通识大模型进行lora微调得到私有知识大模型;获取实时私有数据,根据实时私有数据对应的若干分段文本向量构建参考材料向量库,从参考材料向量库中选取与用户输入对应的输入向量最相近的参考材料向量得到对应的参考材料;将用户输入和参考材料按照指令模板进行拼接,将拼接后的结果输入私有知识大模型以得到对应的生成内容。采用本方法能够提高生成内容的实时性和有效性。