1.一种AI处理器实时的参数预测方法,其特征在于,所述方法包括:在AI处理器上运行目标应用程序,其中,所述目标应用程序的运行阶段包括建模阶段和所述建模阶段后的预测阶段;在所述建模阶段,采集所述AI处理器运行过程中的基本参数;实时通过所述AI处理器对应的非侵入式调节工具调节所述基本参数,并在实时调节过程中获取各个所述基本参数对应的目标运行参数,其中,所述目标运行参数是会随着所述基本参数的改变而发生变化的参数,所述目标运行参数为特征利用率指标、运行性能或运行功耗;基于多个所述目标运行参数与对应的所述基本参数进行拟合操作,建立由所述基本参数映射到所述目标运行参数的函数模型;在所述预测阶段,获取实时的所述基本参数,并将实时的所述基本参数输入到所述函数模型中,得到预测的所述目标运行参数,以根据预测的所述目标运行参数确定参数预测结果。
2.根据权利要求1所述的AI处理器实时的参数预测方法,其特征在于,若所述函数模型为分段函数模型,所述目标运行参数为特征利用率指标;所述将实时的所述基本参数输入到所述函数模型中,得到预测的所述目标运行参数,以根据预测的所述目标运行参数确定参数预测结果,包括:将实时的所述基本参数输入到所述分段函数模型中,得到预测的特征利用率指标;获取预设的由所述特征利用率指标映射到运行性能的线性拟合函数模型,将预测的所述特征利用率指标输入到所述线性拟合函数模型中,得到对应的运行性能预测结果;或者,若所述函数模型为运行性能预测模型,所述目标运行参数为运行性能;所述将实时的所述基本参数输入到所述函数模型中,得到预测的所述目标运行参数,以根据预测的所述目标运行参数确定参数预测结果,包括:将实时的所述基本参数输入到所述运行性能预测模型中,得到预测的运行性能,将预测的所述运行性能作为对应的运行性能预测结果;或者,若所述函数模型为运行功耗预测模型,所述目标运行参数为运行功耗;所述将实时的所述基本参数输入到所述函数模型中,得到预测的所述目标运行参数,以根据预测的所述目标运行参数确定参数预测结果,包括:将实时的所述基本参数输入到所述运行功耗预测模型中,得到预测的运行功耗,将预测的所述运行功耗作为对应的运行功耗预测结果。
3.根据权利要求2所述的AI处理器实时的参数预测方法,其特征在于,若所述函数模型为分段函数模型,所述目标运行参数为特征利用率指标,所述基本参数为频率;所述基于多个所述目标运行参数与对应的所述基本参数进行拟合操作,建立由所述基本参数映射到所述目标运行参数的函数模型,包括:根据实时调节过程中各个所述频率和对应的所述特征利用率指标,建立屋顶线模型,并根据所述屋顶线模型确定所述频率中的临界频率;根据所述屋顶线模型建立初始的第一拟合系数,并根据所述临界频率和初始的所述第一拟合系数,建立初始的由所述频率映射到所述特征利用率指标的所述分段函数模型;按照与所述临界频率之间的大小关系,将实时调节过程中的所述频率输入到初始的所述分段函数模型中,并根据得到的结果更新初始的所述第一拟合系数,得到更新后的所述第一拟合系数;根据更新后的所述第一拟合系数调整初始的所述分段函数模型,得到最终的所述分段函数模型。
4.根据权利要求3所述的AI处理器实时的参数预测方法,其特征在于,所述按照与所述临界频率之间的大小关系,将实时调节过程中的所述频率输入到初始的所述分段函数模型中,并根据得到的结果更新初始的所述第一拟合系数,得到更新后的所述第一拟合系数,包括:确定实时调节过程中大于或等于所述临界频率的各个所述频率为第一频率、小于所述临界频率的各个所述频率为第二频率,将所述第一频率和所述第二频率分别输入到初始的所述分段函数模型中,得到实时调节过程中对应的第一指标和第二指标;计算所述第一指标与所述第一频率对应的所述特征利用率指标之间的差值,得到第一差值,计算所述第二指标与所述第二频率对应的所述特征利用率指标之间的差值,得到第二差值;计算所述第一差值和所述第二差值之间的总平方误差,并最小化所有所述频率下对应的所述总平方误差,求解得到最小的所述总平方误差下的所述第一拟合系数,并作为更新后的所述第一拟合系数。
5.根据权利要求2所述的AI处理器实时的参数预测方法,其特征在于,所述线性拟合函数模型通过以下步骤得到,包括:在AI处理器上运行基准应用程序,其中,所述基准应用程序与所述目标应用程序对应;采集所述AI处理器在运行所述基准应用程序过程中的所述基本参数,通过所述非侵入式调节工具调节所述基本参数;在调节过程中获取各个所述基本参数对应的运行性能,以及各个所述基本参数对应的至少一个子特征利用率指标,其中,所述子特征利用率指标包括计算单元利用率、内存占用率或内存带宽利用率;根据调节过程中获取到的所述运行性能,与对应至少一个所述子特征利用率指标之间进行线性拟合操作,确定至少一个所述子特征利用率指标拟合到的特征权重;根据至少一个所述子特征利用率指标和对应的所述特征权重得到总的所述特征利用率指标,并根据所述特征利用率指标和调节过程中获取到的所述运行性能建立所述线性拟合函数模型。
6.根据权利要求5所述的AI处理器实时的参数预测方法,其特征在于,若所述函数模型为分段函数模型,所述目标运行参数为特征利用率指标;所述在实时调节过程中获取各个所述基本参数对应的目标运行参数,包括:在实时调节过程中获取各个所述基本参数对应的多个子特征利用率指标;根据至少一个所述子特征利用率指标和对应的所述特征权重进行加权计算,得到实时调节过程中的所述特征利用率指标。
7.根据权利要求2所述的AI处理器实时的参数预测方法,其特征在于,若所述函数模型为运行功耗预测模型,所述目标运行参数为运行功耗,所述基本参数为频率;所述基于多个所述目标运行参数与对应的所述基本参数进行拟合操作,建立由所述基本参数映射到所述目标运行参数的函数模型,包括:根据所述AI处理器实际运行过程中不同状态下的功耗类型,建立初始的由所述频率映射到所述运行功耗的三次函数模型,并为初始的所述三次函数模型配置初始的第二拟合系数;将实时调节过程中的所述频率输入到初始的所述三次函数模型中,并根据得到的结果更新初始的所述第二拟合系数,得到更新后的所述第二拟合系数;根据更新后的所述第二拟合系数调整初始的所述三次函数模型,并将调整后的所述三次函数模型作为所述运行功耗预测模型。
8.根据权利要求7所述的AI处理器实时的参数预测方法,其特征在于,所述根据所述AI处理器实际运行过程中不同状态下的功耗类型,建立初始的由所述频率映射到所述运行功耗的三次函数模型,并为初始的所述三次函数模型配置初始的第二拟合系数,包括:确定所述AI处理器实际运行过程中不同状态下的静态功耗、动态功耗和散热功耗;从所述静态功耗、所述动态功耗和所述散热功耗不同功耗类型分别与所述频率之间的正比关系中,确定所述动态功耗与所述频率之间呈三次方关系;根据所述三次方关系建立初始的由所述频率映射到所述运行功耗的三次函数模型,并生成初始的第二拟合系数作为所述三次函数模型中各个函数的系数。
9.根据权利要求7所述的AI处理器实时的参数预测方法,其特征在于,所述将实时调节过程中的所述频率输入到初始的所述三次函数模型中,并根据得到的结果更新初始的所述第二拟合系数,得到更新后的所述第二拟合系数,包括:将实时调节过程中的所述频率输入到初始的所述三次函数模型中,得到实时调节过程中对应的第一功耗;计算所述第一功耗与所述频率对应的所述运行功耗之间的差值,得到功耗差值;计算所述功耗差值的平方误差,并最小化所有所述频率下对应的所述平方误差,求解得到最小的所述平方误差下的所述第二拟合系数,并作为更新后的所述第二拟合系数。
10.根据权利要求2所述的AI处理器实时的参数预测方法,其特征在于,所述参数预测结果包括运行性能预测结果和运行功耗预测结果,所述方法还包括:根据所述运行性能预测结果和所述运行功耗预测结果,计算所述AI处理器在实时的所述基本参数下运行所述目标应用程序的能效比;根据所述运行性能预测结果、所述运行功耗预测结果和所述能效比中的一个,实时调节所述基本参数。
11.根据权利要求1所述的AI处理器实时的参数预测方法,其特征在于,所述方法还包括:若在所述AI处理器上切换运行至新的目标应用程序,或所述目标应用程序运行至新的运行阶段,重新进入所述建模阶段,其中,所述目标应用程序的运行阶段包括初始化、加载数据、向量计算、标量计算或数据写回;根据进行新的所述建模阶段后新获得的所述基本参数和所述目标运行参数重新进行拟合操作,建立新的所述函数模型。
12.根据权利要求1所述的AI处理器实时的参数预测方法,其特征在于,所述AI处理器周期性运行所述目标应用程序,所述方法还包括:将所述目标应用程序的每个运行周期划分为多个运行阶段;在所述运行阶段中设定所述建模阶段和所述预测阶段,以使得所述目标应用程序周期性运行的过程中,在每个所述运行周期内的所述建模阶段进行建模,其中,至少一个所述建模阶段位于所述预测阶段之前。
13.一种AI处理器实时的参数预测系统,其特征在于,所述系统包括:程序运行模块,用于在AI处理器上运行目标应用程序,其中,所述目标应用程序的运行阶段包括建模阶段和所述建模阶段后的预测阶段;数据采集模块,用于在所述建模阶段,采集所述AI处理器运行过程中的基本参数;调节模块,用于实时通过所述AI处理器对应的非侵入式调节工具调节所述基本参数,并在实时调节过程中获取各个所述基本参数对应的目标运行参数,其中,所述目标运行参数是会随着所述基本参数的改变而发生变化的参数,所述目标运行参数为特征利用率指标、运行性能或运行功耗;建模模块,用于基于多个所述目标运行参数与对应的所述基本参数进行拟合操作,建立由所述基本参数映射到所述目标运行参数的函数模型;预测模块,用于在所述预测阶段,获取实时的所述基本参数,并将实时的所述基本参数输入到所述函数模型中,得到预测的所述目标运行参数,以根据预测的所述目标运行参数确定参数预测结果。
14.一种电子设备,其特征在于,所述电子设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现权利要求1至12任一项所述的AI处理器实时的参数预测方法。
15.一种计算机可读存储介质,所述存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至12任一项所述的AI处理器实时的参数预测方法。