1.一种电力系统通信敏感信息识别方法,其特征在于,包括以下具体步骤:设计模型,模型包括:ERNIE层、第一词性特征获取层、第二词性特征获取层、词性特征拼接层、第一BiLSTM层、第二BiLSTM层、隐状态序列拼接层、分类层、标记层;所述分类层包括第一全连接层和sigmoid层,所述标记层包括第二全连接层和CRF层,模型的输入为:文本X;输出为:文本X对应的类别概率c和敏感信息的BIO标记序列y;模型损失函数由分类损失函数与CRF损失函数加权求和得到;构造数据集,收集一定规模的电力通信领域中的中文文本,利用句号、问号、感叹号、分号、省略号将文本分割为句子,对每个句子标注其中的敏感信息,同时对每个句子标明其类别信息,取值为1和0,分别表示包含敏感信息和不包含敏感信息,两种类别的句子数量相等从而构造出数据集;训练和测试模型,构造的数据集按比例划分训练集、验证集和测试集,加载到设计的模型上,依据设计的模型损失函数对数据集进行训练和测试;电力系统通信敏感信息识别,将未进行敏感信息标记的电力通信中文文本输入已训练和测试完成的模型,CRF层的输出即为敏感信息标记结果,完成敏感信息的识别;所述ERNIE层获取文本字符级语义特征b,所述第一词性特征获取层利用jieba分词工具获取文本字符级大类词性特征 p j ,第二词性特征获取层利用LTP分词工具获取文本字符级大类词性特征 p l ,所述词性特征拼接层将大类词性特征 p j 和大类词性特征 p l 拼接得到大类词性特征序列 p ,第一BiLSTM层将语义特征b转化为隐状态序列 h b ,第二BiLSTM层将大类词性特征序列 p 转化为隐状态序列 h p ,隐状态序列拼接层将隐状态序列 h b 和隐状态序列 h p 拼接得到隐状态序列 h 。
2.根据权利要求1所述的一种电力系统通信敏感信息识别方法,其特征在于,对于分类层,分类损失函数为: (1)其中 为预期类别, c 为分类层输出的类别概率;对于标记层,CRF损失函数为: (2)其中, 为CRF层的预期输出标记序列, 为 对应的概率序列,Y表示所有可能的标记序列集合, 为Y中一个可能的标记序列,得分函数 的定义如下: (3)其中, y={y 1 , y 2 , y 3 ,…, y n } 为某标记序列, z={z 1 , z 2 , z 3 ,…, z n } 为该标记序列对应的概率序列,其中 z i 为标记总数大小的向量,表示文本第i个单词属于各个标记的概率,A为概率转移矩阵,总损失函数可定义如下: (4)其中,r为系数,考虑到模型的主要任务是标记敏感信息,故 r < 0.5,r取0.1、0.2、0.3、0.4,具体数值根据实验确定。
3.根据权利要求1所述的一种电力系统通信敏感信息识别方法,其特征在于,训练集、验证集和测试集的比例为6:2:2或者8:1:1。
4.一种电力系统通信敏感信息识别系统,用以实现如权利要求1-3任一所述的方法,其特征在于,包括,模型设计模块,用以设计电力系统通信敏感信息识别模型,模型包括ERNIE层、第一词性特征获取层、第二词性特征获取层、词性特征拼接层、第一BiLSTM层、第二BiLSTM层、隐状态序列拼接层、分类层、标记层,分类层包括第一全连接层和sigmoid层,标记层包括第二全连接层和CRF层;数据集构造模块,用以收集一定规模的电力通信领域中的中文文本,利用句号、问号、感叹号、分号、省略号将文本分割为句子,对每个句子标注其中的敏感信息,同时对每个句子标明其类别信息,取值为1和0,分别表示包含敏感信息和不包含敏感信息,两种类别的句子数量相等从而构造出数据集;模型训练和测试模块,用以将构造的数据集按比例划分训练集、验证集和测试集,加载到设计的模型上,依据设计的模型损失函数对数据集进行训练和测试;电力系统通信敏感信息识别模块,用以将未进行敏感信息标记的电力通信中文文本输入已训练和测试完成的模型,CRF层的输出即为敏感信息标记结果,完成敏感信息的识别。
5.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有程序代码,所述程序代码被处理器执行时,实现如权利要求1-3任一所述的电力系统通信敏感信息识别方法的步骤。