在审

一种通过检索更多信息增强大语言模型生成能力的RAG方法

孟成郅、尹鹏帅、施斯、董淳光
人工智能与数字经济广东省实验室(深圳)

摘要

本发明公开了一种通过检索更多信息增强大语言模型生成能力的RAG方法,包括以下步骤;步骤1:给定一个输入问题<I>q</I>,通过大语言模型判断是否需要对其检索外部文档去辅助大语言模型生成答案;步骤2:在联想检索中,大语言模型首先基于输入问题<I>q</I>检索一组原始检索文档,随后以所述原始检索文档为查询执行二次检索,获取上下文相关内容;在TTA检索中,首先通过提示词驱动的大语言模型对原始输入问题<I>q</I>进行改写,再利用改写后的问题检索额外的相关文档;步骤3:在完成所有的检索过程之后,将文档与问题<I>q</I>结合并输入到大语言模型中去并行生成三种对应的候选答案。本发明仅利用预训练的大语言模型而不进行额外的训练过程去增强大语言模型的生成能力。

暂无引用专利