神经网络预训练模型推理方法、装置、设备和介质

本申请涉及一种神经网络预训练模型推理方法、装置、设备和介质。所述方法包括：将获取的实时数据分析场景中数据流的样本数据集输入到神经网络预训练模型，神经网络预训练模型是进行按需约简的神经网络预训练模型；采用神经网络预训练模型对样本数据集进行推理；将得到的基于约简的推理结果采用约简转换器进行表示、转换；其中，对神经网络预训练模型进行按需约简，包括如下步骤：构建神经网络预训练模型的约简表示；约简表示包括样本概要和神经网络预训练模型的神经元概要；根据约简表示，构建基于约简的预训练模型的逐层链式推理流程。本方法不需要对神经网络预训练推理模型进行重新训练、用户可灵活调控，达到降低计算和资源的目的。