1.跨多数据中心的数据分布式处理加速方法,其特征在于,包括以下步骤:将广域网数据分析作业分解为map阶段和reduce阶段,所述map阶段包括输入数据加载和map计算两个过程,所述reduce阶段包括shuffle传递和reduce计算两个过程;根据站点之间所需传输的数据量和站点之间动态变化的带宽,计算得到各站点在所述map阶段的数据下载时间和数据上传时间;根据站点在所述map阶段的数据下载时间以及包含所述站点的输入数据的站点在所述map阶段的数据上传时间得到所述该站点的输入数据加载时间;根据所述站点获得的数据量、站点的并行度以及作业在map阶段的计算特性计算得到所述站点在所述map计算过程的时间;根据各站点的输入数据量、各站点之间的动态带宽、各站点在所述map阶段的数据下载时间以及数据上传时间,输入数据加载时间、各站点的并行度以及不同作业在map阶段的计算特性和所述map阶段计算过程的时间构建所述map阶段的任务放置问题;构建所述map阶段的任务放置问题包括以下步骤:步骤1:依托站点的原始数据大小、站点的下载带宽、站点的上传带宽以及站点的计算实例的数量,通过线性规划求解线性规划问题P4的数据传输解;步骤2:计算所述map阶段每个站点的响应时间;步骤3:调用函数 调整数据传输解以减少所述map阶段每个站点的响应时间;步骤4:调用函数 对所有站点的响应时间进行排序,并将每个站点分为两个组;步骤5:一对一地匹配两个组的响应时间并使匹配的站点获得相同的响应时间;使匹配的站点获得相同的响应时间的方法为数据量多的站点传输数据至数据量少的站点,通过以下公式确定需传输的数据量: ;步骤6:验证步骤5计算过程中是否存在所有站点具有相同的响应时间的情况,若有,更新数据传输解,重复步骤2至步骤6,否则,输出通过数据传输解得到的站点响应时间;步骤7:按数据传输解和站点响应时间构建所述map阶段的任务放置问题;其中,线性规划问题P4具体为:其中, 和 分别代表站点 的下载和上传带宽、 代表站点 的输入数据加载时间、 为站点的原始数据大小、 为站点 的计算实例的数量、 为传输数据量、 表示站点 的map计算时间、 表示map任务的计算时间、 表示站点 的计算实例的数量; 表示在所有站点之间传输数据量;根据各站点需下载的数据总量、站点之间的动态带宽计算得到各站点在所述reduce阶段的数据下载时间以及数据上传时间;根据所述站点在所述reduce阶段的数据下载时间以及包含所述站点在所述reduce阶段的输入数据的站点上传时间得到所述站点的shuffle传递过程的时间;根据所述map阶段之后的所述map任务中间数据、站点的并行度以及作业在reduce阶段的计算特性计算得到所述reduce计算过程的时间;根据各站点在所述reduce阶段的数据下载时间、在所述reduce阶段的数据上传时间、所述shuffle传递过程的时间、所述reduce计算过程的时间、任务比例约束、map阶段之后产生的中间数据量构建所述reduce阶段的任务放置问题;根据所述map阶段的任务放置问题和所述reduce阶段的任务放置问题计算得到广域网数据分析作业响应时间。
2.根据权利要求1所述的跨多数据中心的数据分布式处理加速方法,其特征在于,站点 在所述map阶段的下载时间以及需要传输数据到该站点的其他站点在所述map阶段的上传时间分别为: (2) (3)其中, 表示在时间 时站点 的下载带宽,而 表示在时间 时站点 对应的上传带宽, , 表示站点 转移到站点 的数据量, 是站点集, 和 表示站点 从其他站点下载所有输入数据时的开始和结束时间,则站点 的下载时间为 , 和 表示站点 将所有数据上载到需要从站点 获取数据的其他站点时的开始和结束时间,则站点 的上传时间为 - 。
3.根据权利要求2所述的跨多数据中心的数据分布式处理加速方法,其特征在于,所述输入数据加载时间以及所述map计算过程的时间分别为: (4) (5)其中, 表示站点 的计算实例的数量。
4.根据权利要求3所述的跨多数据中心的数据分布式处理加速方法,其特征在于,所述map阶段的任务放置问题表述为: (7)其中,式(6)为数据总量约束,可表述为: (6)其中, 表示站点 的原始数据大小。
5.根据权利要求1所述的跨多数据中心的数据分布式处理加速方法,其特征在于,所述reduce阶段的下载时间,以及包含该站点输入数据的其他站点在所述reduce阶段的上传时间分别为: (9) (10)其中, 表示由所有站点上的map计算任务生成的中间数据的总量, 表示每个站点上的reduce任务的比率。
6.根据权利要求5所述的跨多数据中心的数据分布式处理加速方法,其特征在于,所述shuffle传递过程的时间以及所述reduce计算过程的时间分别为: (11) (14)。
7.根据权利要求6所述的跨多数据中心的数据分布式处理加速方法,其特征在于,所述reduce阶段的任务放置问题表述为: (15)其中,式(12)和式(13)分别为站点 上map任务生成的中间数据、reduce任务比例约束,可表述为: (12) (13)其中, 表示中间数据与map阶段输入数据的比率。
8.根据权利要求1所述的跨多数据中心的数据分布式处理加速方法,其特征在于,将带宽静态化、站点计算时间固定化从而让所述map阶段的任务放置问题和所述reduce阶段的任务放置问题线性化。
9.跨多数据中心的数据分布式处理加速系统,包括处理器、存储器以及储存于所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1-7任一所述方法的步骤。