CN106897739A - 一种基于卷积神经网络的电网设备分类方法 - Google Patents
一种基于卷积神经网络的电网设备分类方法 Download PDFInfo
- Publication number
- CN106897739A CN106897739A CN201710079894.1A CN201710079894A CN106897739A CN 106897739 A CN106897739 A CN 106897739A CN 201710079894 A CN201710079894 A CN 201710079894A CN 106897739 A CN106897739 A CN 106897739A
- Authority
- CN
- China
- Prior art keywords
- convolutional neural
- grid equipment
- layer
- neural network
- convolutional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computational Linguistics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Biology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于卷积神经网络的电网设备分类方法,步骤1,根据已有的电网设备图像训练集和测试集,训练卷积神经网络模型;输入层对输入的图像数据进行预处理,用以增大数据量;卷积层的数量不大于N,N+1为常用卷积神经网络卷积层的层数;步骤2,利用训练完成的卷积神经网络模型对需分类的电网设备图像进行分类。本发明利用数据增强技术将输入图像数据进行预处理,增大数据量,解决了数据量不足会导致网络过拟合,精度下降的问题;鉴于训练数据的数量较少,削减了卷积层数量和卷积核数目,同时增大卷积核的尺寸,减小了每层卷积层所提取出的特征图的大小,从而减少了卷积层提取出的特征数量,同样起到了防止过拟合的作用,提高了精度。
Description
技术领域
本发明涉及一种基于卷积神经网络的电网设备分类方法,属于神经网络领域。
背景技术
电网设备识别在电网设备分类、状态监测和异常预警等领域有着非常重要的应用,是一项具有很高实用价值的技术。
近年来基于深度卷积神经网络的图像识别方法有了很多突破。但是,由于图像数据数量限制和CPU运算能力的限制,神经网络的精度一直难以突破,且训练效率很低。随着数据增强技术和使用GPU计算的实现,利用基于较少数据的深层卷积网络实现图像准确分类成为可能。
目前,主流的图像识别的方法分为两大类,第一类是基于边缘识别和特征提取的算法。这种方法根据灰度图像分割、彩色图像分割和纹理图像分割等分割方法得到图像的特征,然后通过特征匹配进行图像的分类。这种方法缺点在于计算量大,对噪声敏感,且不具有泛化能力。
第二类是基于深度卷积神经网络的算法。卷积神经网络主要用来识别位移、缩放及扭曲不变性的二维图像,其基本结构包括两层,其一为特征提取层,每个神经元输入与前一层的局部接受域相连,并提取该局部特征;其二是特征映射层,网络的每个计算层由多个特征映射组成,每个特征映射是一个平面,平面上所有神经元的权值相等。
Alexnet是常用的卷积神经网络。Alexnet的结构在“Alex Krizhevsky,ImageNetclassification with Deep Convolutional Neural Networks”中提出。应用在电网设备的分类中,其结构可以用图1说明,InputLayer就是输入图片层,每个输入图片都将被缩放成227×227大小,分rgb三个颜色维度输入。Layer1~Layer5是卷积层,用于提取特征。在卷积滤波后,还接有ReLUs操作和max‐pooling操作。Layer6~Layer8是全连接层,相当于在五层卷积层的基础上再加上一个三层的全连接神经网络分类器。
由于Alexnet的特征检测层通过训练数据进行学习,所以在使用时,避免了显式的特征提取,而是隐式从训练数据学习;由于其特征映射层中单独神经元在约束下共享相同的突触权值集,具有位移不变性的优点。
缺点在于对于较少的训练数据,Alexnet中过多的卷积层和卷积核非常容易出现数据的过拟合,使得训练完成的网络对于测试数据分类结果很不准确,没有实用性。
发明内容
为了解决上述技术问题,本发明提供了一种基于卷积神经网络的电网设备分类方法。
为了达到上述目的,本发明所采用的技术方案是:
一种基于卷积神经网络的电网设备分类方法,包括以下步骤,
步骤1,根据已有的电网设备图像训练集和测试集,训练卷积神经网络模型;
卷积神经网络模型包括输入层、卷积层、全连接层和Softmax层;所述输入层对输入的图像数据进行预处理,用以增大数据量;所述卷积层的数量不大于N,N+1为常用卷积神经网络卷积层的层数;
步骤2,利用训练完成的卷积神经网络模型对需分类的电网设备图像进行分类。
输入层利用数据增强技术将输入的图像数据进行预处理,用以增大数据量。
输入输入层的图像数据包括图像均值和lmdb文件,lmdb文件中包括电网设备图像以及对应的电网设备分类标签文档,每张电网设备图像都对应有一个电网设备分类标签文档。
采用权值共享方法,建立卷积层。
卷积层对输入的电网设备图像依次进行卷积、非线性激活、平滑和最大值池化处理。
采用采用ReLU型的激励函数进行非线性激活。
N=4。
本发明所达到的有益效果:本发明利用数据增强技术将输入图像数据进行预处理,通过剪切、随机反转,增大数据量,解决了数据量不足会导致网络过拟合,精度下降的问题;鉴于训练数据的数量较少,削减了卷积层数量和卷积核数目,同时增大卷积核的尺寸,减小了每层卷积层所提取出的特征图的大小,从而减少了卷积层提取出的特征数量,同样起到了防止过拟合的作用,提高了精度。
附图说明
图1为常用卷积神经网络结构;
图2为本发明的流程图。
具体实施方式
下面结合附图对本发明作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案,而不能以此来限制本发明的保护范围。
一种基于卷积神经网络的电网设备分类方法,包括以下步骤:
步骤1,构建训练集和测试集。
通过实地拍照,采集六大电网设备图像,每类采集24张,并按照3:1的比例分为训练图片和测试图片。
步骤2,构建与电网设备图像对应的电网设备分类标签文档。
每张电网设备图像都对应有一个电网设备分类标签文档,电网设备分类标签文档中存储有对应电网设备图像的读取路径和文件名,其中,文件名=名称+数字标签,例如:0代表变压器、1代表避雷器、2代表电流互感器、3代表电压互感器、4代表断路器、5代表整流器。
步骤3,将电网设备图像以及对应的电网设备分类标签文档打包成lmdb文件。
步骤4,分别计算训练集和测试集中各电网设备图像的图像均值。
步骤5,构建并训练卷积神经网络模型。
卷积神经网络模型包括输入层、卷积层、全连接层和Softmax层,其中,输入层利用数据增强技术将输入的图像数据进行预处理,用以增大数据量;卷积层采用权值共享方法建立,卷积层的数量不大于N,N+1为常用卷积神经网络卷积层的层数。常用卷积神经网络卷积层的层数为5,这里的卷积层的数量区4。
用训练集和测试集进行训练过程为:
S51,将训练用的图像数据输入输入层进行预处理;
训练用的图像数据包括训练集中的电网设备图像以及对应的电网设备分类标签文档打包成lmdb文件、训练集中的电网设备图像的图像均值。
对图像数据预处理主要处理的是电网设备图像,这里依次通过剪切和随机反转的方法,增大数据量。例如:对于256×256的图像进行随机剪切到227×227,然后允许水平翻转,那么相当与将样本倍增到(256-227)2×2=1682,测试时候,对左上、右上、左下、右下、中间做了5次剪切,然后翻转,共10个剪切,之后对结果求平均。
S52,定义t=1,将预处理后的训练用的图像数据输出到第t层卷积层;
S53,依次对其进行卷积、非线性激活、平滑和最大值池化处理;
这里的采用ReLU型的激励函数进行非线性激活,具体数学表达式为:f(x)=max(0,x),其中,f(x)为输出,x为输入,当输入小于0时,输出都是0,当输入大于0时,输出等于输入;
平滑处理的具体公式如下:
其中,n为同一个位置上临近的平滑核的数目,N是平滑核的总数目,k,α,β为预设的参数,是对位于(x′,y)的像素运用核i计算得到的激活值,是对位于(x′,y)的像素运用核j计算得到的激活值,是对进行平滑操作后的激活值。最大值池化选择池化窗口中的最大值作为采样值;
S54,判断t是否等于N,如果是,则转至S55;如果不是,则t=t+1,将t层卷积层的输出传递至t+1层卷积层,转至S53;
S55,将N层卷积层的输出依次经过两层全连接层输出至Softmax层。
第一层全连接层是N层卷积层进行池化后的全连接,第二层全连接层是第一层全连接层进行非线性激活后,然后进行Dropout后再进行全连接的结果;
Dropout的具体做法是对于每一个隐层,以50%的概率将他们设置为0,不再对于前向运算或者后向反馈的过程起任何作用,对于每一个输入来说,使用的不同的网络结构,但是权重是共享的,这样求得的参数能够适应不同的情况下的网络结构,也就是提高了系统的泛化能力;
Softmax层输出的每一维电网设备图像属于该类别的概率;
S56,将Softmax层输出的结果与对应的电网设备分类标签文档中的数字标签进行对比;
S57,根据两者的的残差采用随机梯度下降法调整卷积神经网络的权重参数,重复S52~S57的步骤,直到残差小于阈值完成训练,最后输出训练完成的卷积神经网络模型;
S58,调用卷积神经网络模型,输入测试用的图像数据,将判断结果与已知正确结果相比较,建立精度层、损失层,实时输出这一判断的正确率以及损失。
测试用的图像数据包括测试集中的电网设备图像以及对应的电网设备分类标签文档打包成lmdb文件、测试中的电网设备图像的图像均值。
步骤6,利用训练完成的卷积神经网络模型对需分类的电网设备图像进行分类。
上述方法利用数据增强技术将输入图像数据进行预处理,通过剪切、随机反转,增大数据量,解决了数据量不足会导致网络过拟合,精度下降的问题;鉴于训练数据的数量较少,削减了卷积层数量和卷积核数目,同时增大卷积核的尺寸,减小了每层卷积层所提取出的特征图的大小,从而减少了卷积层提取出的特征数量,同样起到了防止过拟合的作用,提高了精度。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和变形,这些改进和变形也应视为本发明的保护范围。
Claims (7)
1.一种基于卷积神经网络的电网设备分类方法,其特征在于:包括以下步骤,
步骤1,根据已有的电网设备图像训练集和测试集,训练卷积神经网络模型;
卷积神经网络模型包括输入层、卷积层、全连接层和Softmax层;所述输入层对输入的图像数据进行预处理,用以增大数据量;所述卷积层的数量不大于N,N+1为常用卷积神经网络卷积层的层数;
步骤2,利用训练完成的卷积神经网络模型对需分类的电网设备图像进行分类。
2.根据权利要求1所述的一种基于卷积神经网络的电网设备分类方法,其特征在于:输入层利用数据增强技术将输入的图像数据进行预处理,用以增大数据量。
3.根据权利要求1或2所述的一种基于卷积神经网络的电网设备分类方法,其特征在于:输入输入层的图像数据包括图像均值和lmdb文件,lmdb文件中包括电网设备图像以及对应的电网设备分类标签文档,每张电网设备图像都对应有一个电网设备分类标签文档。
4.根据权利要求1所述的一种基于卷积神经网络的电网设备分类方法,其特征在于:采用权值共享方法,建立卷积层。
5.根据权利要求1或4所述的一种基于卷积神经网络的电网设备分类方法,其特征在于:卷积层对输入的电网设备图像依次进行卷积、非线性激活、平滑和最大值池化处理。
6.根据权利要求5所述的一种基于卷积神经网络的电网设备分类方法,其特征在于:采用采用ReLU型的激励函数进行非线性激活。
7.根据权利要求1所述的一种基于卷积神经网络的电网设备分类方法,其特征在于:N=4。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710079894.1A CN106897739B (zh) | 2017-02-15 | 2017-02-15 | 一种基于卷积神经网络的电网设备分类方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710079894.1A CN106897739B (zh) | 2017-02-15 | 2017-02-15 | 一种基于卷积神经网络的电网设备分类方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN106897739A true CN106897739A (zh) | 2017-06-27 |
| CN106897739B CN106897739B (zh) | 2019-10-22 |
Family
ID=59199004
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201710079894.1A Active CN106897739B (zh) | 2017-02-15 | 2017-02-15 | 一种基于卷积神经网络的电网设备分类方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN106897739B (zh) |
Cited By (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108548976A (zh) * | 2018-05-25 | 2018-09-18 | 杭州拓深科技有限公司 | 基于卷积神经网络的非入侵式家用用电设备类型检测方法 |
| CN108985344A (zh) * | 2018-06-26 | 2018-12-11 | 四川斐讯信息技术有限公司 | 一种神经网络模型的训练集优化方法及系统 |
| WO2019001071A1 (zh) * | 2017-06-28 | 2019-01-03 | 浙江大学 | 一种基于邻接矩阵的图特征提取系统、图分类系统和方法 |
| WO2019001070A1 (zh) * | 2017-06-28 | 2019-01-03 | 浙江大学 | 一种基于邻接矩阵的连接信息规整系统、图特征提取系统、图分类系统和方法 |
| CN109886232A (zh) * | 2019-02-28 | 2019-06-14 | 燊赛(上海)智能科技有限公司 | 一种基于神经网络的电网图像识别系统 |
| CN110006645A (zh) * | 2019-05-10 | 2019-07-12 | 北京航空航天大学 | 一种多源融合的高压断路器机械故障诊断方法 |
| CN110082283A (zh) * | 2019-05-23 | 2019-08-02 | 山东科技大学 | 一种大气颗粒物sem图像识别方法及系统 |
| CN110321967A (zh) * | 2019-07-11 | 2019-10-11 | 南京邮电大学 | 基于卷积神经网络的图像分类改进算法 |
| CN111047703A (zh) * | 2019-12-23 | 2020-04-21 | 杭州电力设备制造有限公司 | 一种用户高压配电设备识别与空间重建方法 |
| CN111079540A (zh) * | 2019-11-19 | 2020-04-28 | 北航航空航天产业研究院丹阳有限公司 | 一种基于目标特性的分层可重构车载视频目标检测方法 |
| CN111583592A (zh) * | 2020-05-06 | 2020-08-25 | 哈尔滨工业大学 | 一种基于多维卷积神经网络的实验环境安全预警方法 |
| CN111783964A (zh) * | 2020-08-11 | 2020-10-16 | 中国人民解放军国防科技大学 | 面向gpu和神经网络的网格质量检测方法 |
| CN111951171A (zh) * | 2019-05-16 | 2020-11-17 | 武汉Tcl集团工业研究院有限公司 | Hdr图像生成方法、装置、可读存储介质及终端设备 |
| CN113902975A (zh) * | 2021-10-08 | 2022-01-07 | 电子科技大学 | 一种用于sar舰船检测的场景感知数据增强方法 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105678344A (zh) * | 2016-02-29 | 2016-06-15 | 浙江群力电气有限公司 | 一种电力仪表设备的智能分类方法 |
| CN106326932A (zh) * | 2016-08-25 | 2017-01-11 | 北京每刻风物科技有限公司 | 一种基于神经网络的电力巡线图像自动识别方法、装置 |
-
2017
- 2017-02-15 CN CN201710079894.1A patent/CN106897739B/zh active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105678344A (zh) * | 2016-02-29 | 2016-06-15 | 浙江群力电气有限公司 | 一种电力仪表设备的智能分类方法 |
| CN106326932A (zh) * | 2016-08-25 | 2017-01-11 | 北京每刻风物科技有限公司 | 一种基于神经网络的电力巡线图像自动识别方法、装置 |
Non-Patent Citations (1)
| Title |
|---|
| 陈拓等: "基于全卷积神经网络的智能变电站开关状态识别方法", 《PROCESSINGS OF THE 35TH CHINESE CONTROL CONFERENCE》 * |
Cited By (21)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2019001071A1 (zh) * | 2017-06-28 | 2019-01-03 | 浙江大学 | 一种基于邻接矩阵的图特征提取系统、图分类系统和方法 |
| WO2019001070A1 (zh) * | 2017-06-28 | 2019-01-03 | 浙江大学 | 一种基于邻接矩阵的连接信息规整系统、图特征提取系统、图分类系统和方法 |
| US11531710B2 (en) | 2017-06-28 | 2022-12-20 | Zhejiang University | System and method of graph feature extraction based on adjacency matrix |
| US11461581B2 (en) | 2017-06-28 | 2022-10-04 | Zhejiang University | System and method of connection information regularization, graph feature extraction and graph classification based on adjacency matrix |
| CN108548976A (zh) * | 2018-05-25 | 2018-09-18 | 杭州拓深科技有限公司 | 基于卷积神经网络的非入侵式家用用电设备类型检测方法 |
| CN108985344A (zh) * | 2018-06-26 | 2018-12-11 | 四川斐讯信息技术有限公司 | 一种神经网络模型的训练集优化方法及系统 |
| CN109886232A (zh) * | 2019-02-28 | 2019-06-14 | 燊赛(上海)智能科技有限公司 | 一种基于神经网络的电网图像识别系统 |
| CN110006645B (zh) * | 2019-05-10 | 2020-07-03 | 北京航空航天大学 | 一种多源融合的高压断路器机械故障诊断方法 |
| CN110006645A (zh) * | 2019-05-10 | 2019-07-12 | 北京航空航天大学 | 一种多源融合的高压断路器机械故障诊断方法 |
| CN111951171A (zh) * | 2019-05-16 | 2020-11-17 | 武汉Tcl集团工业研究院有限公司 | Hdr图像生成方法、装置、可读存储介质及终端设备 |
| CN110082283A (zh) * | 2019-05-23 | 2019-08-02 | 山东科技大学 | 一种大气颗粒物sem图像识别方法及系统 |
| CN110321967A (zh) * | 2019-07-11 | 2019-10-11 | 南京邮电大学 | 基于卷积神经网络的图像分类改进算法 |
| CN111079540A (zh) * | 2019-11-19 | 2020-04-28 | 北航航空航天产业研究院丹阳有限公司 | 一种基于目标特性的分层可重构车载视频目标检测方法 |
| CN111079540B (zh) * | 2019-11-19 | 2024-03-19 | 北航航空航天产业研究院丹阳有限公司 | 一种基于目标特性的分层可重构车载视频目标检测方法 |
| CN111047703A (zh) * | 2019-12-23 | 2020-04-21 | 杭州电力设备制造有限公司 | 一种用户高压配电设备识别与空间重建方法 |
| CN111047703B (zh) * | 2019-12-23 | 2023-09-26 | 杭州电力设备制造有限公司 | 一种用户高压配电设备识别与空间重建方法 |
| CN111583592A (zh) * | 2020-05-06 | 2020-08-25 | 哈尔滨工业大学 | 一种基于多维卷积神经网络的实验环境安全预警方法 |
| CN111783964B (zh) * | 2020-08-11 | 2022-09-06 | 中国人民解放军国防科技大学 | 面向gpu和神经网络的网格质量检测方法 |
| CN111783964A (zh) * | 2020-08-11 | 2020-10-16 | 中国人民解放军国防科技大学 | 面向gpu和神经网络的网格质量检测方法 |
| CN113902975B (zh) * | 2021-10-08 | 2023-05-05 | 电子科技大学 | 一种用于sar舰船检测的场景感知数据增强方法 |
| CN113902975A (zh) * | 2021-10-08 | 2022-01-07 | 电子科技大学 | 一种用于sar舰船检测的场景感知数据增强方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN106897739B (zh) | 2019-10-22 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN106897739B (zh) | 一种基于卷积神经网络的电网设备分类方法 | |
| CN108564129B (zh) | 一种基于生成对抗网络的轨迹数据分类方法 | |
| CN107316307B (zh) | 一种基于深度卷积神经网络的中医舌图像自动分割方法 | |
| CN105512638B (zh) | 一种基于融合特征的人脸检测与对齐方法 | |
| CN106529447B (zh) | 一种小样本人脸识别方法 | |
| CN105488534B (zh) | 交通场景深度解析方法、装置及系统 | |
| CN107038416B (zh) | 一种基于二值图像改进型hog特征的行人检测方法 | |
| CN108647741A (zh) | 一种基于迁移学习的图像分类方法和系统 | |
| CN104866524A (zh) | 一种商品图像精细分类方法 | |
| CN107085704A (zh) | 基于elm自编码算法的快速人脸表情识别方法 | |
| CN112070158A (zh) | 一种基于卷积神经网络和双边滤波的面部瑕疵检测方法 | |
| CN106127159A (zh) | 一种基于卷积神经网络的性别识别方法 | |
| CN111178312B (zh) | 基于多任务特征学习网络的人脸表情识别方法 | |
| CN108985252A (zh) | 改进的脉冲深度神经网络的图像分类方法 | |
| CN111832650A (zh) | 基于生成对抗网络局部聚合编码半监督的图像分类方法 | |
| CN110348320A (zh) | 一种基于多损失深度融合的人脸防伪方法 | |
| Bawane et al. | Object and character recognition using spiking neural network | |
| CN115410258B (zh) | 基于注意力图像的人脸表情识别方法 | |
| CN114743022A (zh) | 一种基于Transformer神经网络的图像分类方法 | |
| CN105956570A (zh) | 基于唇部特征和深度学习的笑脸识别方法 | |
| CN111476259A (zh) | 一种基于卷积神经网络的齿痕舌识别算法 | |
| CN109886160A (zh) | 一种非限定条件下的人脸识别方法 | |
| Woźniak et al. | Flexible neural network architecture for handwritten signatures recognition | |
| Marjan et al. | Masked face recognition system using extended VGG-19 | |
| CN108345654A (zh) | 一种基于半监督阶梯网络的图像哈希检索方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |