有效
一种大流量网络数据参数的提取设备
陈开国、张吉林、石璞、王敏
成都坤恒顺维科技股份有限公司
摘要
本发明提供一种大流量网络数据关键参数的快速提取设备由关键参数快速处理单元即数据处理模块、地面计算机、参数配置及数据处理软件、电缆及附件等组成;实现对机载网络数据流的实时采集、解包、校准、计算、分组、存储工作和数据处理工作。本发明在面对超大网络容量的数据时,能够在极短的时间内完成对所有网络数据包的预处理操作,并且将可用数据包进行分类和将可不用数据包进行丢弃,缓解了大数据传输对后续数据处理设备的网络压力,同时,由于数据预处理的实时性,避免了由于网络数据的积压而造成的数据包丢失,从而导致的飞行数据的丢数,保证了数据的完整性和参数提取的快速性。
1.一种大流量网络数据参数的提取设备,其特征在于,包括:机箱,分为电源腔、数据处理模块腔和接口转换腔,所述电源腔、数据处理模块腔和接口转换腔为三个相对独立的分腔结构,所述电源腔用于放置电源模块、所述数据处理模块腔用于放置数据处理模块、所述接口转换腔用于放置连接器转换模块;电源模块,包括机载直流输入电源、浪涌尖峰抑制单元、隔离开关、DC-DC转换器,其中机载直流输入电源输入至浪涌尖峰抑制单元,再通过隔离开关输入至DC-DC转换器,转换后供所述数据处理模块使用,且所述电源模块还包括一个大电容,用于在所述机载直流输入电源断电时,所述数据处理模块还能持续一段工作时间;其中,机载直流输入电源的输出端连接浪涌尖峰抑制单元的输入端,浪涌尖峰抑制单元的输出端分别连接隔离开关的输入端和大电容的输入端,大电容的输出端接地,隔离开关的输出端连接DC-DC转换器的输入端;数据处理模块,包括:核心处理器、看门狗模块、两个千兆以太网适配器、SD存储卡、DC-DC转换模块、指示灯缓冲电路、板载DDR3内存和板载Flash存储器,所述核心处理器选用FPGA+ARM方式;看门狗模块与核心处理器连接,看门狗模块完成设备定时功能,根据用户设置的时间对设备进行状态询问,当检测到设备在设定的时间内处于未接收数据状态,通过触发信号触发设备重新启动;两个千兆以太网适配器均与核心处理器连接,其中一个用于接收机载网络采集数据,另一个用于地面参数配置接口,均可自适应1000M/100M/10M网络速率;SD存储卡与核心处理器连接,是数据存储的介质;DC-DC转换模块,接收到电源模块传输过来的5V直流电源,转换成3.3V、2.5V和1.8V供数据处理模块上的各个器件工作;板载DDR3内存和板载Flash存储器均与核心处理器连接,用于设备程序加载功能使用;指示灯缓冲电路与核心处理器连接,对指示灯控制信号缓冲后通过CPCI连接器连接到机箱面板LED指示灯;连接器转换模块,包括背板转面板连接器和对外连接器,均与核心处理器连接;地面配置终端,读取相应的参数配置文件将所有参数显示到界面上,根据参数提取的需求,对参数进行删减,以满足参数存储的需求;将试飞完成后存储在数据处理模块的参数快速导出到地面配置终端上,支持用户按参数名选择、按时间段选择和批量选择的参数导出的选择功能;其中,所述核心处理器还用于:FPGA接收到机载网络数据后在MAC层进行数据获取,对UDP数据包进行错包剔除,根据UDP数据包大小进行数据包重组,重组完成的数据进行UDP端口映射;映射完成后的数据进行多路UDP数据提取,根据NPD协议分为ACQ格式数据包和ARINC664格式数据包,分别按照ACQ格式数据和ARINC664格式数据进行参数提取,提取完成后的数据发送到数据存储队列中;根据用户需要进行数据校准,对参数进行直线校准、抛物线校准、点对、多项式校准和双曲线校准,数据校准根据参数校准方式,除了点对校准在ARM中完成外,其余校准在FPGA程序中完成。
2.根据权利要求1所述的一种大流量网络数据参数的提取设备,其特征在于,所述机载直流输入电源:输入电压范围为9V~36V DC;输出电压为+5V,负载调整率为3%,电压调整率为1%,正常工作最大负载电流为6A,纹波电压范围≤100mV;输入输出地隔离,外壳与输入负极、输出负极相互隔离;输入通电用红色指示灯表示,输出用绿色指示灯表示;电源输入对外壳、输入对输出绝缘电阻不低于50MΩ;输出对外壳绝缘电阻不低于20MΩ;机载直流输入电源配置输入特性标识、输出特性标识和输入指示标识,机载直流输入电源表面处理为导电氧化;通过内部导冷到机箱外壳进行散热;机载直流输入电源输出通过CPCI 47Pin连接器输出到背板,提供给数据处理模块供电。
3.根据权利要求1所述的一种大流量网络数据参数的提取设备,其特征在于,UDP数据包重组流程如下:网络端口收到来自机载采集的网络数据后,程序读取UDP数据包包头信息,根据包头信息判断数据包是否超过UDP网络包额定长度1472 Bytes,如果超过,则进行UDP数据包重组,如果未超过,则不进行重组;获取UDP数据包后,按照采集数据来源进行端口映射,即一个端口对应的端口号建立一个FIFO,将数据写入FIFO进行参数提取工作;其中,进行UDP数据包重组之前还需进行UDP错包剔除,UDP错包剔除具体为:(1)、在常用数据操作层获取实时UDP数据包包头信息,(2)、并在该常用数据操作层调取预设的标准UDP数据包包头信息,(3)、然后在该常用数据操作层将所述实时UDP数据包包头信息与所述标准UDP数据包包头信息进行比较判断,若此次判断结果为所述实时UDP数据包包头信息与所述标准UDP数据包包头信息一致,则直接进行下一步的UDP数据包重组,若此次判断结果为所述实时UDP数据包包头信息与所述标准UDP数据包包头信息不一致,则将所述实时UDP数据包包头信息与所述标准UDP数据包包头信息进行第二次比较判断,(4)、若第二次判断结果为所述实时UDP数据包包头信息与所述标准UDP数据包包头信息一致,则进行下一步的UDP数据包重组,若第二次判断结果为所述实时UDP数据包包头信息与所述标准UDP数据包包头信息不一致,则将所述实时UDP数据包包头信息转移至备用数据操作层,并在该备用数据操作层调取相同的预设的标准UDP数据包包头信息,然后在该备用数据操作层将所述实时UDP数据包包头信息与所述标准UDP数据包包头信息进行比较判断,若此次判断结果为所述实时UDP数据包包头信息与所述标准UDP数据包包头信息不一致,则将所述实时UDP数据包包头信息剔除,若此次判断结果为所述实时UDP数据包包头信息与所述标准UDP数据包包头信息一致,则说明所述常用数据操作层出现故障。
4.根据权利要求3所述的一种大流量网络数据参数的提取设备,其特征在于,参数提取流程如下:接收到多路UDP数据包后,解析UDP数据包,从UDP数据包中确定该数据是否符合NPD协议,即识别NPD协议数据包;解析NPD协议数据包,从包头中判断NPD协议数据包上数据帧是ACQ帧还是ARINC664帧;格式为ACQ帧时,使用ACQ格式将数据取出,具体为首先提取时间戳,将时间戳进行记录;提取数据长度,根据数据长度判断该数据包中所含数据个数;进行错误码校验判断数据包正确性;根据长度,从数据包中取出数据;格式为ARINC664帧时,使用ARINC664格式将数据取出,具体为:提取数据包时间戳,将时间戳进行记录;提取数据长度,根据数据长度判断数据个数;提取错误码并检验数据包的正确性;提取源IP地址与目标IP地址,判断数据的来源与目的是否符合系统要求;根据数据包长度,计算数据个数,并提取数据;其中,从UDP数据包中确定该数据是否符合NPD协议,即识别NPD协议数据包,还包括以下步骤:(1)在解析UDP数据包的过程中,即从UDP数据包中确定该数据是否符合NPD协议的过程中,记录解析出两个相邻的符合NPD协议UDP数据包的实效时间;(2)根据以往飞机试飞过程中获取的历史数据,并从该历史数据中提取所有解析出两个相邻的符合NPD协议UDP数据包的历史时间,然后将该历史时间统计组合成一个历史时间范围;(3)将所述实效时间与所述历史时间范围做比较判断,判断所述实效时间是否落在所述历史时间范围内,若是,则判断该解析UDP数据包的过程属于正常解析,否则,判断该解析UDP数据包的过程属于异常解析,并发出相应警告。
5.根据权利要求4所述的一种大流量网络数据参数的提取设备,其特征在于,数据校准流程如下:根据校准方式,对已提取数据进行计算;校准方式可供选择的有以下四种,具体为:Y=aX+bY=aX 5 +bX 4 +cX 3 +dX 2 +eX 1 +fY=b/X+aY=[a,b:X]对Y=aX+b校准方式数据,将提取的数据,带入方程X,a和b由系统给定,计算得出Y,将得出的Y序列传输至数据存储队列;对Y=aX 5 +bX 4 +cX 3 +dX 2 +eX 1 +f校准方式数据,将提取的数据,带入方程X,其中,a,b,c,d,e,f为系统给定,高次方程次数为系统给定,计算得出Y,将得出的Y序列传输至数据存储队列;对Y=b/X+a校准方式数据,将提取的数据,带入方程X,b和a由系统给定,计算得出Y,将得出的Y序列传输至数据存储队列;将Y=[a,b:X]校准方式数据,将提取的数据,带入表达式X,b,a由系统给定,满足当X大于b时,Y=b,否则Y=a,将得出的Y序列传输至数据存储队列。
6.根据权利要求5所述的一种大流量网络数据参数的提取设备,其特征在于,数据存储流程如下:(1)设备加电初始化完成后,首先判断SD存储卡的存储空间是否已满,如果未满则建立队列等待数据写入,如果已满则异常通知;(2)开启两个线程分别进行访问FPGA将数据缓存到队列里面和从队列里面将数据存储到SD存储卡的操作;首先建立缓存队列等待数据到来并以帧为单位进队;队列建立成功之后,则在SD存储卡中建立存储文件,同时开启线程等待数据;其中,当第一次数据来时建立相应的文件,按照数据采集器数量建立对应的存储文件数量,即一个数据采集器建立一个存储文件;(3)线程1进行从FPGA到SD存储卡内存数据的缓存工作,采用轮询FPGA标志位的方式来判断数据的有无,以每一个子帧为单位进行处理压入队列缓存;当标志为0时,轮询,为1时,再遵从ARM和FPGA的约定到指定位置读取子帧的个数以及长度再返回到数据位进行读数,当一帧数据读取完毕通知FPGA重置标志位,等待下一帧数据的到来;(4)线程2采用轮询的方式从队列里面取出单位数据,首先判断队列长度是否大于0,如果大于0 则从队头取出数据,若小于0则继续判断;线程对存储文件溢出检测,当有溢出时异常处理,当无溢出时对数据进行点对校准判断,需要进行点对校准时进行点对校准后存入文件,不需要点对校准时直接存入文件;(5)判断是否还有数据,如果有,则执行读数标识判断的流程,如无,则结束。
7.根据权利要求6所述的一种大流量网络数据参数的提取设备,其特征在于,所述数据存储的SD存储卡存储介质采用美光的e.MMC架构的存储芯片,将存储芯片焊接在数据处理模块的PCB板上,通过矩形连接器与数据处理模块的硬件板卡连接,当飞机试飞完成后,将存储芯片拔下,安装在转换板上,通过转换板上的USB3.0接口与地面配置终端相连,地面配置终端上的地面配置及数据处理软件将数据导出;所述SD存储卡包括第一存储芯片和第二存储芯片;其中,数据存储流程还包括数据加密和数据解密步骤,具体为:(1)通过核心处理器对存储数据进行第一次加密处理,并生成相应的经过第一次加密处理后的第一存储数据和第一密钥,然后将所述第一存储数据发送至第一存储芯片中存储,所述第一密钥发送至第二存储芯片中存储;(2)通过所述第一存储芯片对所述第一存储数据进行第二次加密处理,并生成相应的经过第二次加密处理后的第二存储数据和第二密钥,然后将所述第二密钥发送至第二存储芯片中;(3)设置外部设备读取所述第一存储芯片中第一存储数据和第二存储数据的访问要求,若外部设备按照所述访问要求对所述第一存储芯片进行读取,则所述第二存储芯片中存储的第一密钥和第二密钥发送至所述第一存储芯片中;若外部设备没有按照所述访问要求对所述第一存储芯片进行读取,则所述第二存储芯片切断与所述第一存储芯片的数据交互,并将所述第二存储芯片中存储的第一密钥和第二密钥禁止访问。
8.根据权利要求7所述的一种大流量网络数据参数的提取设备,其特征在于,所述地面配置终端采用计算机,其具体配置流程如下:飞机试飞前,通过计算机端将数据采集器参数配置文件读入,按照数据采集器定义的XML文件进行解析,将参数显示到界面上,用户根据关键参数提取需求,选择需要进行数据存储的参数,然后通过地面配置网络接口下载到数据处理模块,数据处理模块接收参数后进行解析,根据解析结果完成参数提取和存储工作;飞机试飞任务完成后,将存储数据的SD存储卡从数据处理模块卸载下,安装在转换板上,通过计算机上的USB3.0接口与转换板上的USB3.0接口连接,启动软件,将SD存储卡中的参数按照需要导出,支持批量选择、按时间段选择和按参数名选择方式;由于多个数据采集器存储时间同步误差,根据每一个数据采集器对应的存储文件,在数据导出时存在时间对齐的问题,按照“约等于”或者“线性插值”的方式进行时间对齐;“约等于”的方式即给定一个时间队列,每个参数按照与之最接近的时间进行对齐,“线性插值”是按照最大采样率的参数为时间轴,其他参数按照最接近直线的方式进行插值;数据处理模块在数据存储时,按照一个数据采集器对应一个文件进行存储,保证了每个数据采集器对应的参数是时间对齐的,在地面进行处理时,可按照用户指定的一个时间轴,每个数据采集器对应的参数与给定的时间轴进行时间“约等于”的方式进行对齐,也可按照任意一个数据采集器对应的时间轴进行“约等于”的方式进行对齐;当采用“线性插值”的方式进行时间对齐时,选择一个最大采样的参数作为时间轴,其他参数参考该时间轴,对某时间无采样数据的节点进行数据插入;根据最大采样率参数的时间轴,其他参数根据两个时间前后的数据关系,计算出所需插入值的数量,按照等差数列的方式插入参数值。
9.根据权利要求8所述的一种大流量网络数据参数的提取设备,其特征在于,还包括信号模拟模块,信号模拟模块是用于本提取设备模拟测试时使用的信号源软件,信号模拟模块模拟数据采集器采集后的数据按照NPD协议以UDP数据包的方式发送到数据处理模块,并且可在多台电脑上同时发送,以模拟多个数据采集器同时工作的状况;信号模拟模块安装在不同的计算机上,发送数据时按照端口号不同进行设备识别;计算机通过交换机向数据处理模块发送数据,数据处理模块根据提取参数的需求,完成UDP数据包拆包、协议解析、参数提取和数据存储;由于计算机不能做到时钟同步,因此每个计算机发送出的参数具有时间差,SD存储卡按照计算机对应的端口号建立对应的存储文件,每个文件存储的时间即为当前计算机发送数据的时间。
10.根据权利要求1所述的一种大流量网络数据参数的提取设备,其特征在于,所述机箱内部设置有电源腔(1)、数据处理模块腔(2)和接口转换腔(3),所述电源腔(1)与所述数据处理模块腔(2)之间、以及所述数据处理模块腔(2)与所述接口转换腔(3)之间均设置有腔体隔板(4);所述机箱侧面设置有机箱前面板(5);所述机箱前面板(5)上设置有密封小盖板(6),所述密封小盖板(6)通过螺钉(7)和导轨固定螺钉(8)固定设置在所述机箱前面板(5)上;所述机箱前面板(5)上还设置有电源输入接口(9)、地面配置接口(10)、网络数据采集输入接口(11)、电源开关(12)、指示灯区域(13)、接地柱(14);其中,指示灯区域(13)设置有开关指示灯(131)、输入指示灯(132)、工作指示灯(133)、电池欠压指示灯(134)、输出指示灯(135)和故障指示灯(136);所述机箱上方固定连接有上盖板(15),且所述上盖板(15)采用凹凸型结构,所述上盖板(15)与所述机箱的箱体通过密闭垫片连接;所述电源腔(1)的底部设置有电源安装座(101),所述电源安装座(101)上安装有电源模块,所述电源模块上设置有电源助拔器(103)和电源紧定块(104),所述电源腔(1)的侧壁上设置有电源卡槽(102),所述电源紧定块(104)与所述电源卡槽(102)适配连接;所述数据处理模块腔(2)的底部设置有板卡安装座(201),所述板卡安装座(201)上设置有PCB固定板(202)和PCB屏蔽板(203);所述PCB固定板(202)上设置有PCB加固板(204)和固定紧定块(205);所述接口转换腔(3)底部设置有接口转换安装板(301),所述接口转换安装板(301)上安装有存储器滑轨(302)、存储器拆卸把手(303)和存储器(304)。



