1.一种自然语言处理模型的并行计算方法，其特征在于，包括：将自然语言处理模型中的多个网络层划分为M份网络层，并将所述M份网络层分配至每个计算结点组的M个计算设备中；确定每个计算结点组的M份训练数据，并将每个计算结点组的M份训练数据依次输入到对应计算结点组的M个计算设备，通过M个计算设备对M份训练数据采用流水线并行方式进行前向计算及后向计算，并在所述自然语言处理模型训练完成后，通过训练后的自然语言处理模型执行对应的数据处理任务；其中，训练数据为自然语言句子数据；其中，在每个计算结点组的当前迭代训练过程中，先完成前向计算的一部分计算设备，将上一次迭代训练过程得到的梯度信息与其他计算结点组中对应的计算设备进行同步通信，并继续进行后向计算；后完成前向计算的另一部分计算设备，在完成前向计算及后向计算后，再将当前迭代训练过程得到的梯度信息与其他计算结点组中对应的计算设备进行同步通信；所述将自然语言处理模型中的多个网络层划分为M份网络层，包括：通过预定训练数据对所述自然语言处理模型进行预训练，确定所述自然语言处理模型中每个网络层的计算时间；根据每个网络层的计算时间，将所述自然语言处理模型中的多个网络层划分为M份网络层；所述先完成前向计算的一部分计算设备为：先完成当前迭代训练过程的前向计算的M/2个计算设备；所述后完成前向计算的另一部分计算设备为：后完成当前迭代训练过程的前向计算的M/2个计算设备；若M为奇数，则根据约定规则将多出的一个计算设备划分至所述先完成前向计算的一部分计算设备中，或划分至所述后完成前向计算的另一部分计算设备中；所述确定每个计算结点组的M份训练数据，包括：若计算结点组的数量为D个，则获取当前迭代训练过程的总训练数据后，将总训练数据平均分为D份训练数据分配给每个计算结点组；将每个计算节点组对应的一份训练数据平均分为M份，得到每个计算结点组的M份训练数据；所述在每个计算结点组的当前迭代训练过程中，先完成前向计算的一部分计算设备，将上一次迭代训练过程得到的梯度信息与其他计算结点组中对应的计算设备进行同步通信，包括：判断当前迭代训练过程是否为第一次迭代训练过程；若是，则先完成前向计算的M/2个计算设备直接进行后向计算；若否，则每个计算结点组中先完成前向计算的M/2个计算设备，将上一次迭代训练过程得到的梯度信息与其他计算结点组中对应的计算设备进行同步通信，以便不同计算节点组中对应的计算设备间进行梯度共享。
2.根据权利要求1所述的并行计算方法，其特征在于，若先完成前向计算的一部分计算设备，或者后完成前向计算的另一部分计算设备，为M个计算设备中的第i个计算设备，其中，0≤i≤M，则将第i个计算设备在迭代训练过程得到的梯度信息与其他计算结点组中对应的计算设备进行同步通信的过程，具体包括：将第i个计算设备对应的网络层在迭代训练过程得到的梯度信息，发送至其他计算结点组中第i个计算设备，以便每个计算结点组中的第i个计算设备根据所有计算结点组中第i个计算设备的梯度信息执行梯度共享操作。
3.一种自然语言处理模型的并行计算装置，其特征在于，包括：划分模块，用于将自然语言处理模型中的多个网络层划分为M份网络层，并将所述M份网络层分配至每个计算结点组的M个计算设备中；训练模块，用于确定每个计算结点组的M份训练数据，并将每个计算结点组的M份训练数据依次输入到对应计算结点组的M个计算设备，通过M个计算设备对M份训练数据采用流水线并行方式进行前向计算及后向计算；其中，在每个计算结点组的当前迭代训练过程中，先完成前向计算的一部分计算设备，将上一次迭代训练过程得到的梯度信息与其他计算结点组中对应的计算设备进行同步通信，并继续进行后向计算；后完成前向计算的另一部分计算设备，在完成前向计算及后向计算后，再将当前迭代训练过程得到的梯度信息与其他计算结点组中对应的计算设备进行同步通信，训练数据为自然语言句子数据；处理模块，用于在所述自然语言处理模型训练完成后，通过训练后的自然语言处理模型执行对应的数据处理任务；所述划分模块包括：预训练单元，用于通过预定训练数据对所述自然语言处理模型进行预训练，确定所述自然语言处理模型中每个网络层的计算时间；划分单元，用于根据每个网络层的计算时间，将所述自然语言处理模型中的多个网络层划分为M份网络层；其中，所述先完成前向计算的一部分计算设备为：先完成当前迭代训练过程的前向计算的M/2个计算设备；所述后完成前向计算的另一部分计算设备为：后完成当前迭代训练过程的前向计算的M/2个计算设备；若M为奇数，则根据约定规则将多出的一个计算设备划分至所述先完成前向计算的一部分计算设备中，或划分至所述后完成前向计算的另一部分计算设备中；所述训练模块包括：训练数据获取单元，用于在计算结点组的数量为D个时，获取当前迭代训练过程的总训练数据，将总训练数据平均分为D份训练数据分配给每个计算结点组；将每个计算节点组对应的一份训练数据平均分为M份，得到每个计算结点组的M份训练数据；其中，所述训练模块包括：判断单元，用于判断当前迭代训练过程是否为第一次迭代训练过程；计算单元，用于在当前迭代训练过程为第一次迭代训练过程时，将先完成前向计算的M/2个计算设备直接进行后向计算；通信单元，用于在当前迭代训练过程不为第一次迭代训练过程时，每个计算结点组中先完成前向计算的M/2个计算设备，将上一次迭代训练过程得到的梯度信息与其他计算结点组中对应的计算设备进行同步通信，以便不同计算节点组中对应的计算设备间进行梯度共享。
4.一种电子设备，其特征在于，包括：存储器，用于存储计算机程序；处理器，用于执行所述计算机程序时实现如权利要求1或2所述的自然语言处理模型的并行计算方法的步骤。
5.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1或2所述的自然语言处理模型的并行计算方法的步骤。
