CN116484916A - 一种鸡只健康状态检测方法及其检测模型的搭建方法 - Google Patents
一种鸡只健康状态检测方法及其检测模型的搭建方法 Download PDFInfo
- Publication number
- CN116484916A CN116484916A CN202310475034.5A CN202310475034A CN116484916A CN 116484916 A CN116484916 A CN 116484916A CN 202310475034 A CN202310475034 A CN 202310475034A CN 116484916 A CN116484916 A CN 116484916A
- Authority
- CN
- China
- Prior art keywords
- faster
- network
- chicken
- model
- cnn
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A40/00—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production
- Y02A40/70—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production in livestock or poultry
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Medical Informatics (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- General Engineering & Computer Science (AREA)
- Public Health (AREA)
- Molecular Biology (AREA)
- Multimedia (AREA)
- Pathology (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种鸡只健康状态检测方法及其检测模型的搭建方法,主要部分为模型搭建方法,包括以下步骤:获取现场环境中图像数据集并预处理;在Faster R‑CNN基础上搭建一种针对鸡只粪便检测的F‑Faster R‑CNN模型,并进行了三个方面的针对性改进;使用训练集和测试集对搭建的模型进行训练与测试;获取完成测试且识别率符合要求的F‑Faster R‑CNN模型作为最终模型。本发明从另一个角度提供了一种鸡只健康状态检测的方法,首次把Faster R‑CNN模型进行改进并用于鸡只粪便识别检测,识别精度高,鲁棒性好。
Description
技术领域
本发明属于鸡禽养殖监测技术领域,尤其涉及一种鸡只健康状态检测方法及其检测模型的搭建方法。
背景技术
现代大型养鸡场的养殖密度较高,这种环境对鸡只的健康带来了很大的挑战。在这样的高密度环境下,鸡只容易受到温度、湿度等环境因素的影响,而且鸡只个体间存在差异,这些因素都会导致鸡只生病。一旦出现疾病,病鸡的外观与健康鸡只存在很大的差异。例如,精神状态上,病鸡常常表现为步态不稳、精神不振,而健康鸡只则行动敏捷、精神饱满。此外,在身体特征方面,健康鸡只的体温范围一般在41至43℃之间,呼吸频率为每分钟10至20次,心跳频率为每分钟120至200次。而病鸡则可能表现为体温升高、心跳紊乱,且呼吸伴有呼噜声或打喷嚏等症状。另外,健康鸡只的粪便一般呈现黄褐色或黄棕色,其中一端常常有白色尿酸盐沉积。相比之下,病鸡的粪便形态会表现为绿色、黄色、红色等,而且常呈现出稀水样。病鸡具有群体效应,病情会在鸡群中蔓延,导致大面积生病的现象,不仅给养殖场造成严重的经济损失,还会给社会带来严重的食品安全问题。因此,对于养殖场中的鸡只进行定期的健康检测非常重要,这可以有效地保障养殖场的经济效益,还可以保障公众的健康安全。
在已有的鸡只健康状态监测研究中,研究学者有根据鸡只鸡冠颜色来识别鸡只健康状态的。例如李亚硕等人设计了一种在喂料机上搭建高清机器视觉的系统。该系统采用并行算法来实现多路视频的快速采集,并基于Lab空间中的a分量,使用最大类间方差法提取鸡冠区域,之后采用数理统计来对健康鸡只和病鸡的鸡冠颜色特征差异进行分析。当鸡冠颜色超出健康鸡冠颜色范围时,系统即认为其为病鸡,同时进行报警处理,定位出鸡只具体位置。毕敏娜等人根据健康和生病鸡只头部生理表现不同,提出一种识别病鸡的方法。首先使用RGB颜色空间的色差信息来消除背景,对鸡身和鸡冠的H分量分布进行分析,采用阈值分割法将黄羽鸡和鸡冠、鸡垂分开。其次根据鸡冠和鸡垂轮廓距离来合并鸡头,通过修正算法识别鸡头。之后提取鸡眼瞳孔轮廓的形状几何特征和鸡冠H分量共生矩阵特征,构成基于鸡头特征的病鸡特征向量。最后采用ARA特征选择算法和支持向量机分类器进行训练分类。也有根据鸡只神态来识别鸡只健康情况的。例如陈章宝等人提出一种融合多层深度特征的卷积神经网络,用于识别病鸡,该方法包括区域定位和分类识别的任务。基于FasterR-CNN网络,对鸡、鸡头和鸡身进行区域定位,利用卷积神经网络将不同区分度的语义特征融合后进行准确的分类识别。网络中采用迁移学习的方式,先共享部分特征图进行训练,再对全网络的参数训练。
在识别鸡只健康状态时,现有研究根据病鸡与健康鸡只的神态表现不同,采用目标检测算法来学习病鸡的头部和身体的特征,最后通过训练的网络识别出鸡笼中的病鸡。这种识别算法实时性高,但当鸡只的头部或者身体被其他鸡只遮挡时,检测网络难以获取到病鸡的身体特征,导致总体识别准确率下降。
发明内容
针对上述问题,本发明第一方面提出了一种鸡只健康状态检测模型的搭建方法,,包括以下步骤:
步骤1,获取现场环境中拍摄的鸡只粪便图像数据集并划分为训练集和测试集,对训练集中图像数据的粪便种类进行打标签处理;
步骤2,在Faster R-CNN基础上搭建一种针对鸡只粪便检测的F-Faster R-CNN模型;所述F-Faster R-CNN模型将Faster R-CNN中的特征提取网络的后三层特征图融合后,分别与RPN网络层结合,送入感兴趣区域池化层进行池化,输出特征图以concat的方式融合,送入分类和回归层中;并根据目标特点,改变了RPN网络层中的锚框尺度,选择小尺度框来检测目标;同时,在特征提取网络中使用一种具备平滑特性的非线性激活函数Mish进行梯度下降;
步骤3,使用训练集和测试集分别对搭建的F-Faster R-CNN模型模型进行训练与测试;
步骤4,获取完成测试且识别率符合要求的F-Faster R-CNN模型作为最终模型。
优选的,所述步骤1中,为了增强模型训练的鲁棒性,采用调节图像亮度、翻转和旋转的方式来增强所获取的图像数据集,并划分为训练集和测试集,所述打标签处理是用Labelimg软件进行目标框的标注。
优选的,所述步骤2中所搭建的F-Faster R-CNN模型包括以下四个部分:第一部分是特征提取网络,用来提取图像输入的浅层特征,之后用于后续的RPN网络层计算;第二部分是区域提议网络,这部分主要是生成较为准确的候选框,通过Softmax函数完成内容分类任务,判断候选框属于前景还是背景,然后对候选框回归得到候选框位置;第三部分是感兴趣区域池化层,用于收集RPN网络层生成的建议框,即框的坐标信息,并从特征提取网络得到的conv5提取出来,生成的建议框特征图进入后面的全连接层做分类与回归;第四部分是定位和分类,得到准确的检测框。
优选的,所述步骤2中根据目标特点,改变了RPN网络层中的锚框尺度,选择小尺度框来检测目标,具体为:根据目标特点,计算锚框对应的原图面积,统计数据集中病鸡粪便的尺寸占比,根据池化后的缩放比例对应到原图上,将原锚框对应3种尺度(8,16,32)改为小锚框尺度方案(4,8,16)。
优选的,所述步骤2中搭建的F-Faster R-CNN模型包括特征提取网络、RPN网络和池化层;在使用时,首先,将已经进行了数据增强和归一化处理的粪便图像数据集输入到F-Faster R-CNN的特征提取网络VGG16,其作用是提取特征图完成特征编码,然后,将编码后的特征图输入到RPN网络层中,对目标候选框进行粗略定位,最后,将RPN网络输出与VGG16的输出特征图结合,送入ROI Pooling层进行池化,对候选目标框分类,并进行细致的回归。
优选的,所述步骤3在训练时,首先将特征提取网络在VOC2007数据集上进行预训练,在F-Faster RCNN网络中使用预训练的特征提取网络模型参数,迭代次数设置为500次,初始学习率设置为0.001。
本发明第二方面提供了一种鸡只健康状态检测方法,其特征在于,包括以下过程:
S1,通过摄像头获取现场环境中拍摄的鸡只粪便图像;
S2,将获取的图像输入到如第一方面所述的搭建方法所搭建完成的F-Faster R-CNN网络模型当中;
S3,输出处理后的图像,图像中对患病鸡只粪便进行了相应的标注。
本发明第三方面提供了一种鸡只健康状态检测设备,所述设备包括至少一个处理器和至少一个存储器,所述处理器和存储器相耦合;所述存储器中存储有如第一方面所述的搭建方法所搭建的鸡只健康状态检测模型的计算机执行程序;所述处理器执行存储器中存储的计算机执行程序时,可以实现鸡只健康状态检测的方法。
本发明第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有如第一方面所述的搭建方法所搭建的鸡只健康状态检测模型的计算机程序或指令,所述程序或指令被处理器执行时可以使处理器执行鸡只健康状态检测的方法。
与现有技术相比,本发明主要提供了一种鸡只健康状态检测方法及其检测模型的搭建方法,本发明首次把Faster R-CNN模型用于鸡只粪便识别检测,在Faster R-CNN的框架下,本发明借鉴特征金字塔网络思想,将深层语义信息与低层位置信息结合,在特征提取网络中进行多分辨率特征融合,提取候选区域卷积特征,丰富感兴趣区域池化层细节,使其能够检测到不同尺度的目标,对建议框进行更细致的回归。通过分析数据特点,本发明提出对RPN网络层进行优化,使用小锚框来匹配目标,并使用具备平滑特性的Mish函数作为特征提取网络的激活函数,能够避免在训练速度急剧下降时产生的梯度饱和问题。
附图说明
图1为实施例1中数据标记示意图;
图2为本发明F-Faster R-CNN模型网络模型结构示意图;
图3为样本真实框面积比例图;
图4为特征提取网络可视化示意图;
图5为实施例1中检测结果比较图;
图6为实施例2中鸡只健康状态检测设备的结构简易框图。
具体实施方式
实施例1:
本实施例通过具体的实验过程,对本发明所提出的方法进行进一步的说明。
1.样品采集:
本实验数据来自南通某农业公司,采集养殖场粪带上的图像共220张,每张尺寸为1280×1706,其中60张是健康鸡只的粪便,160张是带有病鸡粪便的,且这160张中病鸡产生的绿色粪便、黄色粪便和其他颜色的病鸡粪便比例约为5.5:3:1.5。
2.数据集建立:
由于养殖场采集到的粪便数据中,病鸡粪便的种类较少,当鸡群中出现严重疾病时,无法及时检测到。因此,本实施例采取将其他养殖场中患有严重疾病鸡只的粪便迁移到本实施例数据集中的措施。本实施例选择的扩增病鸡粪便主要是红色和白色的粪便,通常是患有球虫病和法氏囊病的病鸡粪便。通过扩大样本的种类,能够使检测模型更有效地学习到该种疾病的粪便特征,从而提高模型在实际应用中的准确率。另一方面,由于养殖场环境复杂,光线强度不稳定,为了增强模型训练的鲁棒性,采用调节图像亮度、翻转和旋转的方式来增强数据集。将采集到的数据使用LabelImg工具制作标签图,如图1示。
3.F-Faster R-CNN模型搭建:
目前,目标检测算法可分为一阶段检测器和两阶段检测器。一阶段检测器是直接在网络中提取特征来预测目标类别的概率和位置坐标,速度较快。相对于一阶段检测器,两阶段检测器需要先进行区域生成,然后通过卷积神经网络进行目标识别分类,一般情况下检测速度相对较慢,但检测准确率相对较高。
鉴于目标的识别准确性要求较高,所以本发明选用两阶段检测器Faster R-CNN模型作为基础框架。在Faster R-CNN基础上提出了针对粪便检测的F-Faster R-CNN模型。F-Faster R-CNN的结构框架图如图2所示。
F-Faster R-CNN网络结构主要包括以下部分:第一部分是特征提取网络,用来提取图像输入的浅层特征,之后用于后续的RPN网络层(区域生成网络层)计算;第二部分是区域提议网络,这部分主要是生成较为准确的候选框,通过Softmax函数完成内容分类任务,判断候选框属于前景还是背景,然后对候选框回归得到候选框位置;第三部分是感兴趣区域池化层(ROI Pooling),用于收集RPN网络层生成的建议框,即框的坐标信息,并从特征提取网络得到的conv5提取出来,生成的建议框特征图进入后面的全连接层做分类与回归。最后一部分是定位和分类,得到准确的检测框。
同时,F-Faster R-CNN模型进行了如下改进:
(1)Faster R-CNN算法的架构中,RPN网络层是在特征提取网络之后进行的,特征提取网络有四次最大下采样的操作,这些池化层的作用是将特征图的尺度减半,而卷积操作不会改变特征图尺度。因此,最后一层特征图中,每个点对应于原始图像的一个16×16的区域。为了训练网络,Faster R-CNN算法在每个位置生成若干个锚框(anchor),用于目标分类和边界框回归。在RPN网络层的训练过程中,需要为每个anchor打上标签,以指示它们是目标还是非目标。具体而言,如果某个anchor与真实边界框的IoU(交并比)最高,或者与任何真实边界框的IoU大于0.7,则将其打上正标签;如果某个anchor与所有真实边界框的IoU都小于0.3,则将其打上负标签;而其他的anchor则被丢弃。最终选择128个正样本和128个负样本进行训练。在进行RPN的训练时,需要进行前向传播,以计算出损失值。最后,根据损失值进行反向传播和梯度下降算法,以完成端到端的训练。
可以看到,RPN网络中anchor的选择对模型的训练很重要,尺寸合适的anchor能够加快网络收敛速度,并提高模型的识别率。在Faster R-CNN原始版本中,实验所用数据集是PASCAL VOC和MS COCO,以这些数据集的目标大小作为基础,设计了9种锚框,这些锚框对应了3种尺度(8、16、32)和3种长宽比(1:1、1:2、2:1)。这些锚框适用于上述公用数据集中的各种目标,并不适用于本发明采集的粪便数据。根据本实施例数据特点,计算anchor对应的原图面积,统计数据集中病鸡粪便的尺寸占比,如图3示。从图中可以看到,根据池化后的缩放比例对应到原图上时,病鸡粪便的样本面积主要集中在642到1282之间,而原锚框对应3种尺度(8,16,32)映射到原图后的面积是(1282,2562,5122),因此,本发明采用小锚框尺度方案(4,8,16)进行训练。
(2)RPN网络层实现了对anchor的粗分类和初步回归,感兴趣区域池化层和全连接层完成对anchor的细分类和最终回归。RPN网络层中每个点的anchor,经过前向传播得到所有anchor的Softmax分类分数和坐标回归值。将anchor根据分类分数从大到小排序和位置修正,保留前6000个anchor。之后将anchor映射到输入原图,剔除超出边界的anchor,然后进行非极大值抑制,去除重复的框。最后,提取前2000个用于感兴趣区域池化层和全连接层训练。感兴趣区域池化层将RPN生成的建议框从输入图像的坐标映射到conv_5,将对应区域水平和竖直方向各分成7等份,对每份进行最大值池化,得到7×7×512固定大小的结果。特征提取网络的最后一层是RPN网络的输入,而RPN网络的输出又会送入ROI Pooling层,因此特征提取网络和RPN网络至关重要。这里展示了特征提取网络VGG16中输入图、池化前的4个特征图和最后一层特征图,如图4示。
从可视化特征图中可以看到,随着池化层的操作,图像分辨率越来越小,浅层网络提取了纹理、细节特征,如蛋鸡粪便的轮廓、形状,深层网络更多是提取语义信息,比如conv_4中的病鸡粪便,层数越深,提取的特征越具有代表性。因此,结合FPN思想,将不同尺度的特征图加以融合利用,结合低层次的纹理特征和深层次的语义信息,来进一步定位目标位置,提升检测准确率。并将融合的特征图与RPN网络结合,共同进行最终的目标框回归。通过多分辨率特征融合,能够解决模型需要检测不同尺度目标信息的问题,即大尺度的粪便目标和部分被遮挡的小尺度目标。
具体改进操作如图2,首先将卷积特征提取网络的conv_3下采样并调整通道层,与conv_4以特征相加(add)的方式进行融合,通过1×1卷积之后再进行池化得到layer1。同理,将conv_4下采样并调整通道层,与conv_5以特征相加(add)的方式进行融合得到layer2。之后,将layer1、layer2和conv_5分别与RPN网络层输出特征图结合进行感兴趣区域池化,对得到的特征图以通道拼接concat的方式融合,最终得到7×7×1280的特征图,再通过1×1的卷积后与全连接层连接。
(3)深度学习中激活函数的作用是将神经网络中的输入信号进行非线性变换,从而增加神经网络的表达能力和非线性拟合能力。常用的激活函数包括Sigmoid、Tanh、ReLU等。本发明提出使用Mish激活函数作为特征提取网络的激活函数。与ReLU激活函数相比,具有以下特点:1)ReLU函数在原点附近不可导,而Mish函数在原点附近是光滑的,有效缓解了使用ReLU激活函数时产生的梯度消失问题;2)Mish函数有上界无下界,能够避免在训练速度急剧下降时产生的梯度饱和问题,并实现强正则化效果;3)Mish函数的单调性有助于保持较小的负梯度值,稳定网络梯度流,在梯度传播过程中,有助于梯度下降。
4.对F-Faster R-CNN模型进行训练
本实验所用的实验平台的软硬件配置如表1所示。本实施例中的所有的目标检测模型的参数设置一致:训练时,首先将特征提取网络在VOC2007数据集上进行预训练,在F-Faster RCNN网络中使用预训练的特征提取网络模型参数,迭代次数设置为500次,初始学习率设置为0.001,其余参数均与目标检测模型保持一致。
表1
| 配置名称 | 参数 |
| 操作系统 | Windows64位 |
| CPU | IntelCorei7-7700 |
| GPU | GTX1080 8G |
| CUDA | 10 |
| CUDNN | 7.4.1.5 |
| TensorFlow-GPU | 1.13.2 |
| Python | 3.6.13 |
5.模型性能指标评价
为了评价目标检测模型的识别效果,本文使用准确率P,召回率R、精度AP和F1值作为该模型的性能指标,其定义式如下:
其中,TP(true positive)表示正样本预测出正样本的数量,FP(false positive)表示负样本预测出正样本的数量,FN(false negative)表示正样本预测出负样本的数量。
为了验证所提出的结构的有效性,进行了消融实验。对照组是没有添加特征融合网络的模型;实验组1中加入了Mish激活函数;实验组2是添加了conv_4和conv_5特征图的融合;实验组3是添加了conv_3和conv_4的融合;实验组4是将多尺度conv_3、conv_4和conv_5一起融合,即本发明中的F-Faster R-CNN网络;实验组5则将实验组4的特征融合方式的concat换成add方式。将实验组与对照组在相同实验环境下进行对比,实验结果如表2示。
表2
| 特征融合 | P/% | R/% | F1 | AP/% |
| 对照组 | 94.43 | 90.80 | 0.93 | 95.82 |
| 实验组1 | 94.32 | 91.42 | 0.93 | 96.45 |
| 实验组2 | 94.65 | 94.51 | 0.95 | 95.91 |
| 实验组3 | 94.89 | 95.10 | 0.95 | 96.87 |
| 实验组4 | 97.27 | 93.14 | 0.95 | 97.08 |
| 实验组5 | 95.28 | 93.78 | 0.95 | 96.50 |
从表中可以看到实验组1采用Mish激活函数后,梯度下降的效果更好。实验组2和3的总体检测性能优于对照组,证实了实验中将不同尺度特征图融合的方式有利于检测尺度不一的目标,在后续卷积层中,网络能够共同学习低层次的细节信息和高层次的语义信息。而实验组4是本发明的F-Faster R-CNN网络,融入了3个尺度特征图后,将不同层次的语义信息结合起来,能够使ROI Pooling层对目标的定位更加精准。实验组5中,由于在特征提取阶段中已经使用了add的方式融合,当在后续的ROI层中继续使用add方式反而性能降低,没有充分利用到三个ROI层。而使用concat通道融合方式时,模型在通道上学习不同尺度的特征,进一步提高图像的检测精准率。
为了验证所提出模型的目标检测性能,将F-Faster R-CNN网络与原算法和其他目标检测网络SSD、YOLOv3进行对比,使用评价指标衡量算法效果,并增加了检测时间Time和漏检率MR这两个指标。实验结果如表3。
表3不同检测模型的性能比较
| 模型 | P/% | R/% | F1 | AP/% | Time/ms | MR/% |
| SSD | 79.10 | 98.56 | 0.88 | 98.87 | 98 | 5 |
| YOLOv3 | 98.84 | 60.71 | 0.75 | 92.88 | 38 | 18 |
| Faster RCNN | 94.77 | 88.51 | 0.92 | 95.57 | 154 | 6 |
| F-Faster RCNN | 97.27 | 93.14 | 0.95 | 97.08 | 216 | 2 |
从上表可以看到,SSD和YOLOv3模型的检测速度比较快,但其精准率和召回率的差值较大,不能将病鸡粪便准确检测到。改进网络F-Faster R-CNN的检测速度相比之前要慢一些,但其它性能均优于其他检测网络,相比Faster R-CNN网络,精准率提高了2.5%,召回率提升了4.63%,漏检率也有所提升。
Faster R-CNN是两阶段训练网络,先使用卷积网络产生区域建议框,然后再在建议框上做分类与回归,采用双重回归定位,先粗调再细调的方式能够提高定位准确度。本发明提出的F-Faster RCNN结合特征金字塔网络,将大小尺度的特征图融入到回归层中,并优化RPN的anchor,检测效果会更好。从测试集中选取了几张粪带图像,在直观上展示各算法的检测结果,实验结果如图5示,可以看到YOLOv3检测结果中第三幅图像漏检了一个目标,其他算法基本上都能检测到目标,F-Faster R-CNN网络相比于SDD、Faster R-CNN算法对目标的预测效果更好。
6.总结分析
鸡只在生病之后,各种生理表现都与正常鸡只有所不同。如在粪便方面,病鸡的粪便样式多为泡沫样和稀水样,并且粪便呈现绿色、红色、白色等颜色,而健康鸡只的粪便不软不硬,大多数呈现黄棕色,在粪便中有白色尿酸盐的沉淀。
本发明基于Faster R-CNN检测算法,结合FPN思想提出多分辨率特征融合的方法,将深层语义信息与低层位置信息结合,加强特征描述。融合后的特征图经过ROI Pooling层进行池化后,以concat的方式级联,有利于后续的回归层进行精确的定位。其次分析数据目标特点,优化了RPN网络中的锚框anchor尺度,选择小尺度框来检测目标。最后在特征提取网络中使用一种具备平滑特性的非线性激活函数Mish进行梯度下降。实验通过对比特征提取网络,选择性能较优的VGG16提取特征,并设计了消融实验、对比试验,进一步证明改进算法提升了粪便识别的有效性,有助于检测鸡只的健康状态。
7.基于上述方法所搭建的F-Faster R-CNN模型,本发明提出一种鸡只健康状态检测方法,包括以下过程:
通过摄像头获取现场环境中拍摄的鸡只粪便图像;
将获取的图像输入到如上述搭建方法所搭建完成的F-Faster R-CNN网络模型当中;
输出处理后的图像,图像中对患病鸡只粪便进行了相应的标注。
实施例2:
如图6所示,本发明同时提供了一种鸡只健康状态检测设备,设备包括至少一个处理器和至少一个存储器,同时还包括通信接口和内部总线;存储器中存储有如实施例1所述的搭建方法所搭建的鸡只健康状态检测模型的计算机执行程序;所述处理器执行存储器存储的计算机执行程序时,可以实现鸡只健康状态检测的方法。其中内部总线可以是工业标准体系结构(Industry Standard Architecture,ISA)总线、外部设备互连(PeripheralComponent,PCI)总线或扩展工业标准体系结构(.XtendedIndustry StandardArchitecture,EISA)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示,本申请附图中的总线并不限定仅有一根总线或一种类型的总线。其中存储器可能包含高速RAM存储器,也可能还包括非易失性存储NVM,例如至少一个磁盘存储器,还可以为U盘、移动硬盘、只读存储器、磁盘或光盘等。
设备可以被提供为终端、服务器或其它形态的设备。
图6是为示例性示出的一种设备的框图。设备可以包括以下一个或多个组件:处理组件,存储器,电源组件,多媒体组件,音频组件,输入/输出(I/O)的接口,传感器组件,以及通信组件。处理组件通常控制电子设备的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件可以包括一个或多个处理器来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件可以包括一个或多个模块,便于处理组件和其他组件之间的交互。例如,处理组件可以包括多媒体模块,以方便多媒体组件和处理组件之间的交互。
存储器被配置为存储各种类型的数据以支持在电子设备的操作。这些数据的示例包括用于在电子设备上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件为电子设备的各种组件提供电力。电源组件可以包括电源管理系统,一个或多个电源,及其他与为电子设备生成、管理和分配电力相关联的组件。多媒体组件包括在所述电子设备和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件包括一个前置摄像头和/或后置摄像头。当电子设备处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件被配置为输出和/或输入音频信号。例如,音频组件包括一个麦克风(MIC),当电子设备处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器或经由通信组件发送。在一些实施例中,音频组件还包括一个扬声器,用于输出音频信号。I/O接口为处理组件和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件包括一个或多个传感器,用于为电子设备提供各个方面的状态评估。例如,传感器组件可以检测到电子设备的打开/关闭状态,组件的相对定位,例如所述组件为电子设备的显示器和小键盘,传感器组件还可以检测电子设备或电子设备一个组件的位置改变,用户与电子设备接触的存在或不存在,电子设备方位或加速/减速和电子设备的温度变化。传感器组件可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件被配置为便于电子设备和其他设备之间有线或无线方式的通信。电子设备可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,电子设备可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
实施例3:
本发明还提供了一种计算机可读存储介质,计算机可读存储介质中存储有如实施例1所述的搭建方法所搭建的鸡只健康状态检测模型的计算机程序或指令,所述程序或指令被处理器执行时可以使处理器执行鸡只健康状态检测的方法。
具体地,可以提供配有可读存储介质的系统、装置或设备,在该可读存储介质上存储着实现上述实施例中任一实施例的功能的软件程序代码,且使该系统、装置或设备的计算机或处理器读出并执行存储在该可读存储介质中的指令。在这种情况下,从可读介质读取的程序代码本身可实现上述实施例中任何一项实施例的功能,因此机器可读代码和存储机器可读代码的可读存储介质构成了本发明的一部分。
上述存储介质可以是由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘(如CD-ROM、CD-R、CD-RW、DVD-20ROM、DVD-RAM、DVD-RW、DVD-RW)、磁带等。存储介质可以是通用或专用计算机能够存取的任何可用介质。
应理解,上述处理器可以是中央处理单元(英文:Central Processing Unit,简称:CPU),还可以是其他通用处理器、数字信号处理器(英文:Digital Signal Processor,简称:DSP)、专用集成电路(英文:Application Specific Integrated Circuit,简称:ASIC)等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合发明所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。
应理解存储介质耦合至处理器,从而使处理器能够从该存储介质读取信息,且可向该存储介质写入信息。当然,存储介质也可以是处理器的组成部分。处理器和存储介质可以位于专用集成电路(Application Specific Integrated Circuits,简称:ASIC)中。当然,处理器和存储介质也可以作为分立组件存在于终端或服务器中。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
以上所述仅为本申请的优选实施例而已,并不用于限制本申请,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
上述虽然对本发明的具体实施方式进行了描述,但并非对本发明保护范围的限制,所属领域技术人员应该明白,在本发明的技术方案的基础上,本领域技术人员不需要付出创造性劳动即可做出的各种修改或变形仍在本发明的保护范围以内。
Claims (9)
1.一种鸡只健康状态检测模型的搭建方法,其特征在于,包括以下步骤:
步骤1,获取现场环境中拍摄的鸡只粪便图像数据集并划分为训练集和测试集,对训练集中图像数据的粪便种类进行打标签处理;
步骤2,在Faster R-CNN基础上搭建一种针对鸡只粪便检测的F-Faster R-CNN模型;所述F-Faster R-CNN模型将Faster R-CNN中的特征提取网络的后三层特征图融合后,分别与RPN网络层结合,送入感兴趣区域池化层进行池化,输出特征图以concat的方式融合,送入分类和回归层中;并根据目标特点,改变了RPN网络层中的锚框尺度,选择小尺度框来检测目标;同时,在特征提取网络中使用一种具备平滑特性的非线性激活函数Mish进行梯度下降;
步骤3,使用训练集和测试集分别对搭建的F-Faster R-CNN模型进行训练与测试;
步骤4,获取完成测试且识别率符合要求的F-Faster R-CNN模型作为最终模型。
2.如权利要求1所述的一种鸡只健康状态检测模型的搭建方法,其特征在于:所述步骤1中,为了增强模型训练的鲁棒性,采用调节图像亮度、翻转和旋转的方式来增强所获取的图像数据集,并划分为训练集和测试集,所述打标签处理是用Labelimg软件进行目标框的标注。
3.如权利要求1所述的一种鸡只健康状态检测模型的搭建方法,其特征在于,所述步骤2中所搭建的F-Faster R-CNN模型包括以下四个部分:第一部分是特征提取网络,用来提取图像输入的浅层特征,之后用于后续的RPN网络层计算;第二部分是区域提议网络,这部分主要是生成较为准确的候选框,通过Softmax函数完成内容分类任务,判断候选框属于前景还是背景,然后对候选框回归得到候选框位置;第三部分是感兴趣区域池化层,用于收集RPN网络层生成的建议框,即框的坐标信息,并从特征提取网络得到的conv5提取出来,生成的建议框特征图进入后面的全连接层做分类与回归;第四部分是定位和分类,得到准确的检测框。
4.如权利要求1所述的一种鸡只健康状态检测模型的搭建方法,其特征在于,所述步骤2中根据目标特点,改变了RPN网络层中的锚框尺度,选择小尺度框来检测目标,具体为:根据目标特点,计算锚框对应的原图面积,统计数据集中病鸡粪便的尺寸占比,根据池化后的缩放比例对应到原图上,将原锚框对应3种尺度(8,16,32)改为小锚框尺度方案(4,8,16)。
5.如权利要求1所述的一种鸡只健康状态检测模型的搭建方法,其特征在于:所述步骤2中搭建的F-Faster R-CNN模型包括特征提取网络、RPN网络和池化层;在使用时,首先,将已经进行了数据增强和归一化处理的粪便图像数据集输入到F-Faster R-CNN的特征提取网络VGG16,其作用是提取特征图完成特征编码,然后,将编码后的特征图输入到RPN网络层中,对目标候选框进行粗略定位,最后,将RPN网络输出与VGG16的输出特征图结合,送入ROIPooling层进行池化,对候选目标框分类,并进行细致的回归。
6.如权利要求1所述的一种鸡只健康状态检测模型的搭建方法,其特征在于:所述步骤3在训练时,首先将特征提取网络在VOC2007数据集上进行预训练,在F-Faster RCNN网络中使用预训练的特征提取网络模型参数,迭代次数设置为500次,初始学习率设置为0.001。
7.一种鸡只健康状态检测方法,其特征在于,包括以下过程:
S1,通过摄像头获取现场环境中拍摄的鸡只粪便图像;
S2,将获取的图像输入到如权利要求1至6任意一项所述的搭建方法所搭建完成的F-Faster R-CNN网络模型当中;
S3,输出处理后的图像,图像中对患病鸡只粪便进行了相应的标注。
8.一种鸡只健康状态检测设备,其特征在于:所述设备包括至少一个处理器和至少一个存储器,所述处理器和存储器相耦合;所述存储器中存储有如权利要求1至6中任意一项所述的搭建方法所搭建的鸡只健康状态检测模型的计算机执行程序;所述处理器执行存储器中存储的计算机执行程序时,可以实现鸡只健康状态检测的方法。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有如权利要求1至6中任意一项所述的搭建方法所搭建的鸡只健康状态检测模型的计算机程序或指令,所述程序或指令被处理器执行时可以使处理器执行鸡只健康状态检测的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310475034.5A CN116484916A (zh) | 2023-04-27 | 2023-04-27 | 一种鸡只健康状态检测方法及其检测模型的搭建方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310475034.5A CN116484916A (zh) | 2023-04-27 | 2023-04-27 | 一种鸡只健康状态检测方法及其检测模型的搭建方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116484916A true CN116484916A (zh) | 2023-07-25 |
Family
ID=87213557
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310475034.5A Pending CN116484916A (zh) | 2023-04-27 | 2023-04-27 | 一种鸡只健康状态检测方法及其检测模型的搭建方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116484916A (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116681876A (zh) * | 2023-08-01 | 2023-09-01 | 北京市农林科学院智能装备技术研究中心 | 一种用于诊断动物肠胃健康的粪便状态评分装置 |
| CN119560145A (zh) * | 2024-11-04 | 2025-03-04 | 中国计量大学 | 基于梯度提升的xgboost宠物健康判别方法和装置 |
| TWI901364B (zh) * | 2024-09-25 | 2025-10-11 | 國立中興大學 | 雞隻疾病的檢測及預警系統 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2020181685A1 (zh) * | 2019-03-12 | 2020-09-17 | 南京邮电大学 | 一种基于深度学习的车载视频目标检测方法 |
| CN111709333A (zh) * | 2020-06-04 | 2020-09-25 | 南京农业大学 | 基于笼养鸡异常粪便的溯源预警系统及健康监测方法 |
| CN112040198A (zh) * | 2020-09-16 | 2020-12-04 | 南通天成现代农业科技有限公司 | 一种基于图像处理的智能水表读数识别系统与方法 |
| CN113052103A (zh) * | 2021-03-31 | 2021-06-29 | 株洲时代电子技术有限公司 | 一种基于神经网络的电气设备缺陷检测方法及装置 |
| CN114898405A (zh) * | 2022-05-27 | 2022-08-12 | 南京农业大学 | 基于边缘计算的便携式肉鸡异常监测系统 |
-
2023
- 2023-04-27 CN CN202310475034.5A patent/CN116484916A/zh active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2020181685A1 (zh) * | 2019-03-12 | 2020-09-17 | 南京邮电大学 | 一种基于深度学习的车载视频目标检测方法 |
| CN111709333A (zh) * | 2020-06-04 | 2020-09-25 | 南京农业大学 | 基于笼养鸡异常粪便的溯源预警系统及健康监测方法 |
| CN112040198A (zh) * | 2020-09-16 | 2020-12-04 | 南通天成现代农业科技有限公司 | 一种基于图像处理的智能水表读数识别系统与方法 |
| CN113052103A (zh) * | 2021-03-31 | 2021-06-29 | 株洲时代电子技术有限公司 | 一种基于神经网络的电气设备缺陷检测方法及装置 |
| CN114898405A (zh) * | 2022-05-27 | 2022-08-12 | 南京农业大学 | 基于边缘计算的便携式肉鸡异常监测系统 |
Non-Patent Citations (1)
| Title |
|---|
| 王飞95: "torchvision Faster-RCNN ResNet-50 FPN代码解析(总体结构)", pages 1 - 3, Retrieved from the Internet <URL:https://blog.csdn.net/defi_wang/article/details/108944282> * |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116681876A (zh) * | 2023-08-01 | 2023-09-01 | 北京市农林科学院智能装备技术研究中心 | 一种用于诊断动物肠胃健康的粪便状态评分装置 |
| CN116681876B (zh) * | 2023-08-01 | 2023-10-31 | 北京市农林科学院智能装备技术研究中心 | 一种用于诊断动物肠胃健康的粪便状态评分装置 |
| TWI901364B (zh) * | 2024-09-25 | 2025-10-11 | 國立中興大學 | 雞隻疾病的檢測及預警系統 |
| CN119560145A (zh) * | 2024-11-04 | 2025-03-04 | 中国计量大学 | 基于梯度提升的xgboost宠物健康判别方法和装置 |
| CN119560145B (zh) * | 2024-11-04 | 2026-01-02 | 中国计量大学 | 基于梯度提升的xgboost宠物健康判别方法和装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111178197B (zh) | 基于Mask R-CNN和Soft-NMS融合的群养粘连猪实例分割方法 | |
| CN111488921B (zh) | 一种全景数字病理图像智能分析系统及方法 | |
| CN116484916A (zh) | 一种鸡只健康状态检测方法及其检测模型的搭建方法 | |
| CN108416776B (zh) | 图像识别方法、图像识别装置、计算机产品和可读存储介质 | |
| CN108875732B (zh) | 模型训练与实例分割方法、装置和系统及存储介质 | |
| US20210118144A1 (en) | Image processing method, electronic device, and storage medium | |
| WO2022033150A1 (zh) | 图像识别方法、装置、电子设备及存储介质 | |
| US12481885B2 (en) | Systems and methods to train a cell object detector | |
| CN108229509A (zh) | 用于识别物体类别的方法及装置、电子设备 | |
| US20170083793A1 (en) | Method, electronic apparatus, and computer readable medium of constructing classifier for skin-infection detection | |
| CN112925938B (zh) | 一种图像标注方法、装置、电子设备及存储介质 | |
| CN110889421A (zh) | 目标物检测方法及装置 | |
| CN109344864B (zh) | 用于密集物体的图像处理方法及装置 | |
| CN115170464A (zh) | 肺图像的处理方法、装置、电子设备和存储介质 | |
| WO2021196390A1 (zh) | 声纹数据生成方法、装置、计算机装置及存储介质 | |
| CN114092450A (zh) | 一种基于胃镜检查视频的实时图像分割方法、系统、装置 | |
| CN111563550A (zh) | 基于图像技术的精子形态检测方法和装置 | |
| CN113780145A (zh) | 精子形态检测方法、装置、计算机设备和存储介质 | |
| CN116225212B (zh) | 人与无人机群手势、手形、语音协同多模态交互感知方法 | |
| CN111340213B (zh) | 神经网络的训练方法、电子设备、存储介质 | |
| Wang et al. | Semi-msst-gan: a semi-supervised segmentation method for corneal ulcer segmentation in slit-lamp images | |
| CN118609121A (zh) | 一种基于YOLOv8的细胞检测方法及电子设备 | |
| CN105893942A (zh) | 一种基于eSC和HOG的自适应HMM的手语识别方法 | |
| Hu et al. | A new, feasible, and convenient method based on semantic segmentation and deep learning for hemoglobin monitoring | |
| Lai et al. | Development of a metabolite-based deep learning algorithm for clinical precise diagnosis of the progression of diabetic kidney disease |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |