在审
一种数据处理方法及其装置
摘要
一种数据处理方法,所述方法包括:通过第一实例进行第一处理过程,所述第一处理过程为通过机器学习模型进行的全量推理过程;通过第二实例进行第二处理过程,所述第二处理过程为通过所述机器学习模型进行的增量推理过程;其中,所述第一实例和所述第二实例为同一个计算单元上运行的不同实例,且,所述第一处理过程与所述第二处理过程并行进行。本申请实施例中,通过运行在同一个计算单元上的不同实例来分别进行机器学习模型进行的全量推理过程和增量推理过程,因此,降低了设备之间的数据通信开销以及存储开销,使得整体端到端时延缩短,并相应的提升每秒请求数TPS。
暂无引用专利



