CN111783812A - 违禁图像识别方法、装置和计算机可读存储介质 - Google Patents

Abstract

本公开涉及一种违禁图像识别方法、装置和计算机可读存储介质，涉及计算机技术领域。本公开的方法包括：将待识别图像输入分类模型，得到输出的待识别图像的图像类别信息；根据待识别图像的图像类别信息确定待识别图像是否属于候选违禁图像；在待识别图像属于候选违禁图像的情况下，将待识别图像输入目标检测模型，得到待识别图像中各个目标的目标类别信息；根据待识别图像中各个目标的目标类别信息，确定待识别图像是否为违禁图像。

Description

违禁图像识别方法、装置和计算机可读存储介质

技术领域

本公开涉及计算机技术领域，特别涉及一种违禁图像识别方法、装置和计算机可读存储介质。

背景技术

随着互联网技术的发展，信息的传播越来越广泛越来越迅速。网络上充斥着各种各样的信息。为了维护网络秩序，净化网络环境，需要将一些非法的，不良的信息去除，例如，色情、暴力等违禁图像。由于违禁图像内容复杂，细节较多，目前，对于违禁图像一般由人工进行审核。

发明内容

发明人发现，人工对违禁图像进行审核效率较低。

本公开所要解决的一个技术问题是：如何提高违禁图像识别的效率。

根据本公开的一些实施例，提供的一种违禁图像识别方法，包括：将待识别图像输入分类模型，得到输出的待识别图像的图像类别信息；根据待识别图像的图像类别信息确定待识别图像是否属于候选违禁图像；在待识别图像属于候选违禁图像的情况下，将待识别图像输入目标检测模型，得到待识别图像中各个目标的目标类别信息；根据待识别图像中各个目标的目标类别信息，确定待识别图像是否为违禁图像。

在一些实施例中，根据待识别图像的图像类别信息确定待识别图像是否属于候选违禁图像包括：确定待识别图像的应用场景；将应用场景下候选违禁图像所属的预设图像类别与待识别图像的图像类别信息进行匹配；根据匹配结果确定待识别图像是否属于候选违禁图像；其中，不同应用场景下候选违禁图像所属的预设图像类别不同。

在一些实施例中，待识别图像的图像类别信息包括：待识别图像属于各个图像类别的概率；将应用场景下候选违禁图像所属的预设图像类别与待识别图像的图像类别信息进行匹配包括：将待识别图像属于各个图像类别的概率与应用场景对应的预设图像类别概率进行比对，确定待识别图像的图像类别；将应用场景下候选违禁图像所属的预设图像类别与待识别图像的图像类别进行匹配；其中，不同应用场景对应的预设图像类别概率不同。

在一些实施例中，根据待识别图像中各个目标的目标类别信息，确定待识别图像是否为违禁图像包括：确定待识别图像的应用场景；将应用场景下的预设违禁目标类别与待识别图像中各个目标的目标类别信息进行匹配；根据匹配结果确定待识别图像是否属于违禁图像；其中，不同应用场景下的预设违禁目标类别不同。

在一些实施例中，待识别图像中各个目标的目标类别信息包括：各个目标属于各个目标类别的概率；将应用场景下的预设违禁目标类别与待识别图像中各个目标的目标类别信息进行匹配包括：将待识别图像中各个目标属于各个目标类别的概率，与应用场景对应的预设目标类别概率进行比对，确定待识别图像中各个目标的目标类别；将应用场景下的预设违禁目标类别与待识别图像中各个目标的目标类别进行匹配；其中，不同应用场景对应的预设目标类别概率不同。

在一些实施例中，还包括：获取标注有图像类别的第一样本图像，作为第一训练样本集；利用第一训练样本集的图像对分类模型进行训练，得到分类模型的参数。

在一些实施例中，利用第一训练样本集的图像对分类模型进行训练包括：利用第一训练样本集的图像对分类模型进行初始训练；将第一训练样本集的图像输入初始训练后的分类模型，得到第一训练样本集的图像的分类结果；根据输出的第一训练样本集的图像的分类结果和准确分类结果之间的差异，确定难样本图像；利用难样本图像，对初始训练后的分类模型再次进行训练。

在一些实施例中，还包括：获取标注有目标的目标类别的第二样本图像，作为第二训练样本集；利用第二训练样本集的图像对目标检测模型进行训练，得到目标检测的参数。

在一些实施例中，获取标注有目标的目标类别的第二样本图像包括：将候选样本图像输入分类模型，得到输出的候选样本图像的图像类别信息；根据候选样本图像的图像类别信息确定候选样本是否属于候选违禁图像；将属于候选违禁图像的候选样本图像作为第二样本图像。

根据本公开的另一些实施例，提供的一种违禁图像识别装置，包括：图像类别确定模块，用于将待识别图像输入分类模型，得到输出的待识别图像的图像类别信息；图像筛选模块，用于根据待识别图像的图像类别信息确定待识别图像是否属于候选违禁图像；目标类别确定模块，用于在待识别图像属于候选违禁图像的情况下，将待识别图像输入目标检测模型，得到待识别图像中各个目标的目标类别信息；违禁图像确定模块，用于根据待识别图像中各个目标的目标类别信息，确定待识别图像是否为违禁图像。

在一些实施例中，图像筛选模块用于确定待识别图像的应用场景；将应用场景下候选违禁图像所属的预设图像类别与待识别图像的图像类别信息进行匹配；根据匹配结果确定待识别图像是否属于候选违禁图像；其中，不同应用场景下候选违禁图像所属的预设图像类别不同。

在一些实施例中，待识别图像的图像类别信息包括：待识别图像属于各个图像类别的概率；图像筛选模块用于将待识别图像属于各个图像类别的概率与应用场景对应的预设图像类别概率进行比对，确定待识别图像的图像类别；将应用场景下候选违禁图像所属的预设图像类别与待识别图像的图像类别进行匹配；其中，不同应用场景对应的预设图像类别概率不同。

在一些实施例中，违禁图像确定模块用于确定待识别图像的应用场景；将应用场景下的预设违禁目标类别与待识别图像中各个目标的目标类别信息进行匹配；根据匹配结果确定待识别图像是否属于违禁图像；其中，不同应用场景下的预设违禁目标类别不同。

在一些实施例中，待识别图像中各个目标的目标类别信息包括：各个目标属于各个目标类别的概率；违禁图像确定模块用于将待识别图像中各个目标属于各个目标类别的概率，与应用场景对应的预设目标类别概率进行比对，确定待识别图像中各个目标的目标类别；将应用场景下的预设违禁目标类别与待识别图像中各个目标的目标类别进行匹配；其中，不同应用场景对应的预设目标类别概率不同。

在一些实施例中，该装置还包括：第一训练模块，用于获取标注有图像类别的第一样本图像，作为第一训练样本集；利用第一训练样本集的图像对分类模型进行训练，得到分类模型的参数。

在一些实施例中，第一训练模块用于利用第一训练样本集的图像对分类模型进行初始训练；将第一训练样本集的图像输入初始训练后的分类模型，得到第一训练样本集的图像的分类结果；根据输出的第一训练样本集的图像的分类结果和准确分类结果之间的差异，确定难样本图像；利用难样本图像，对初始训练后的分类模型再次进行训练。

在一些实施例中，该装置还包括：第二训练模块，用于获取标注有目标的目标类别的第二样本图像，作为第二训练样本集；利用第二训练样本集的图像对目标检测模型进行训练，得到目标检测的参数。

在一些实施例中，第二训练模块用于将候选样本图像输入分类模型，得到输出的候选样本图像的图像类别信息；根据候选样本图像的图像类别信息确定候选样本是否属于候选违禁图像；将属于候选违禁图像的候选样本图像作为第二样本图像。

根据本公开的又一些实施例，提供的一种违禁图像识别装置，包括：处理器；以及耦接至处理器的存储器，用于存储指令，指令被处理器执行时，使处理器执行如前述任意实施例的违禁图像识别方法。

根据本公开的再一些实施例，提供的一种非瞬时性计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现前述任意实施例的违禁图像识别方法。

本公开提出一种机器自动识别违禁图像的方法，首先将待识别图像输入分类模型，得到待识别图像的粗分类的图像类别，根据粗分类类别筛选出候选违禁图像，进一步利用目标检测模型，对待识别图像中的目标进行识别，得到各个目标的目标类别信息，根据各个目标的目标类别信息确定待识别图像是否为违禁图像。本公开的方法通过将分类模型和目标检测模型结合应用，对待识别图像先进行粗分类对整体图像的特征进行识别，再进行细分类对图像中的目标细节特征进行精细识别，从整体和局部全方位识别违禁图像，提高了识别的准确率和效率。

通过以下参照附图对本公开的示例性实施例的详细描述，本公开的其它特征及其优点将会变得清楚。

附图说明

为了更清楚地说明本公开实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示出本公开的一些实施例的违禁图像识别方法的流程示意图。

图2示出本公开的另一些实施例的违禁图像识别方法的流程示意图。

图3示出本公开的一些实施例的违禁图像识别装置的结构示意图。

图4示出本公开的另一些实施例的违禁图像识别装置的结构示意图。

图5示出本公开的又一些实施例的违禁图像识别装置的结构示意图。

具体实施方式

下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本公开一部分实施例，而不是全部的实施例。以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。基于本公开中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。

针对现有技术中主要采用人工审核违禁图片效率低的问题，提出一种机器自动识别围巾图像的方法，下面结合图1描述本方案的一些实施例。

图1为本公开违禁图像识别方法一些实施例的流程图。如图1所示，该实施例的方法包括：步骤S102～S108。

在步骤S102中，将待识别图像输入分类模型，得到输出的待识别图像的图像类别信息。

从网络上获取待识别图像，待识别图像可以是从待识别视频中提取的图像帧。可以对待识别图像进行预处理，例如，对待识别图像进行旋转，缩放，颜色调整等，使后续对待识别图像的识别更加准确。将预处理后的待识别图像输入分类模型，提取待识别图像的特征(例如，CNN(卷积神经网络)特征)，根据特征确定待识别图像的图像类别信息。分类模型例如为神经网络模型，卷积神经网络模型，更具体的可以为现有的ResNeXt，ResNeXt50或SE-ResNeXt50等模型，可以根据实际需求选取分类效果更好更精确的模型。

分类模型可以根据实际需求配置划分的图像类别，经过预先训练之后，分类模型则可以确定待识别图像属于配置的图像类别中的一个或多个。例如，分类模型确定的图像类别包括两种图像类别，正常图像和违禁图像。又例如，分类模型确定的图像类别包括三种图像类别，正常图像，中间图像，违禁图像，中间图像属于正常和违禁之间的图像类别，例如，针对色情违禁图像识别，中间图像可以表示性感图像。又例如，分类模型确定的图像类别包括四种图像类别，正常图像，偏正常图像，偏违禁图像，违禁图像，例如，针对色情违禁图像识别，偏正常图像可以表示性感图像，偏违禁图像可以表示低俗图像。分类模型确定的图像类别是根据训练样本的标注和训练过程确定的，可以根据实际需求确定。后续将对训练过程进行描述。

分类模型可以确定待识别图像属于各个图像类别的概率，进一步根据待识别图像属于各个图像类别的概率确定待识别图像的一个或多个图像类别。

在步骤S104中，根据待识别图像的图像类别信息确定待识别图像是否属于候选违禁图像。

候选违禁图像表示很有可能是违禁图像的图像，需要利用后续的目标检测模型进行细分类的图像。在一些实施例中，确定待识别图像的应用场景；将应用场景下候选违禁图像所属的预设图像类别与待识别图像的图像类别信息进行匹配；根据匹配结果确定待识别图像是否属于候选违禁图像；其中，不同应用场景下候选违禁图像所属的预设图像类别不同。

不同应用场景下对于违禁图像的判别尺度不同，因此，候选违禁图像的判别尺度也不同。例如，在较为严肃的新闻类内容中，性感图像可能属于违禁图像，因此，属于性感图像类别的待识别图像可以被确定为候选违禁图像，而对于娱乐性内容，性感图像则不属于违禁图像，因此，属于性感图像类别的待识别图像可以不被确定为候选违禁图像。可以预设不同应用场景对应的候选违禁图像所属的预设图像类别，查找待识别图像的应用场景对应的预设图像类别，进而将待识别图像的图像类别信息与对应的预设图像类别进行比对。

进一步，在一些实施例中，待识别图像的图像类别信息包括：待识别图像属于各个图像类别的概率。将待识别图像属于各个图像类别的概率与应用场景对应的预设图像类别概率进行比对，确定待识别图像的图像类别。将应用场景下候选违禁图像所属的预设图像类别与待识别图像的图像类别进行匹配。如果待识别图像的图像类别包括所属应用场景对应的预设图像类别中的一种或多种，则待识别图像属于候选违禁图像。通过将待识别图像属于各个图像类别的概率与应用场景对应的预设图像类别概率进行比对，可能会将待识别图像同时确定为多个类别。即针对待识别图像属于每个图像类别的概率，在属于该图像类别的概率超过预设图像类别概率的情况下，则待识别图像属于该图像类别。

不同应用场景对应的预设图像类别概率不同。由于不同应用场景下对于违禁图像的判别尺度不同，通过调整不同应用场景下预设图像类别概率，可以调整待识别图像的图像类别，从而调整候选违禁图像的选择，能够使模型适应不同应用场景。

进一步，同一种应用场景下不同的图像类别可以对应不同的预设图像类别概率。针对待识别图像属于每个图像类别的概率，将属于该图像类别的概率，与所属应用场景下该图像类别对的预设图像类别概率进行比对，从而确定待识别图像是否属于该图像类别。

在步骤S106中，在待识别图像属于候选违禁图像的情况下，将待识别图像输入目标检测模型，得到待识别图像中各个目标的目标类别信息。

选取属于候选违禁图像的待识别图像输入目标检测进行细分类，进一步精确识别是否属于违禁图像。目标检测模型例如为现有模型，例如Faster-RCNN(更快的循环卷积神经网络)等，可以根据实际需求选取效果更好的模型。

在步骤S108中，根据待识别图像中各个目标的目标类别信息，确定待识别图像是否为违禁图像。

在一些实施例中，确定待识别图像的应用场景；将应用场景下的预设违禁目标类别与待识别图像中各个目标的目标类别信息进行匹配；根据匹配结果确定待识别图像是否属于违禁图像。不同应用场景下的预设违禁目标类别不同。可以预先设置不同应用场景对应的预设违禁目标类别。例如，泳装在某些应用场景(新闻场景)下属于违禁目标类别，在某些应用场景(购物平台场景)下则不属于违禁目标类别。通过调整不同应用场景下预设违禁目标类别，可以确定符合不同应用场景的违禁图像，根据应用场景灵活确定违禁图像。

进一步，在一些实施例中，待识别图像中各个目标的目标类别信息包括：各个目标属于各个目标类别的概率。目标检测模型可以确定待识别图像中各个目标属于各个目标类别的概率，将待识别图像中各个目标属于各个目标类别的概率，与应用场景对应的预设目标类别概率进行比对，确定待识别图像中各个目标的目标类别；将应用场景下的预设违禁目标类别与待识别图像中各个目标的目标类别进行匹配。如果待识别图像中的目标包括所属应用场景对应的预设违禁目标类别中的一种或多种，则待识别图像属于违禁图像。例如，待识别图像中包括某些裸露的人体部位或包括某些特定动作，可以确定为违禁图像。

通过将待识别图像中各个目标属于各个目标类别的概率，与应用场景对应的预设目标类别概率进行比对，可能会将目标同时确定为多个类别。即针对每个目标属于每个目标类别的概率，在该目标属于该目标类别的概率超过预设目标类别概率的情况下，则该目标属于该目标类别。

不同应用场景对应的预设目标类别概率不同。由于不同应用场景下对于违禁图像的判别尺度不同，通过调整不同应用场景下预设目标类别概率，可以调整待识别图像中各个目标的目标类别，从而调整违禁图像的选择，能够使模型适应不同应用场景。

进一步，同一种应用场景下不同的目标类别可以对应不同的预设目标类别概率。针对待识别图像中每个目标属于每个图像类别的概率，将该目标属于该目标类别的概率，与所属应用场景下该目标类别对的预设目标类别概率进行比对，从而确定该目标是否属于该目标类别。

上述实施例提出一种机器自动识别违禁图像的方法，首先将待识别图像输入分类模型，得到待识别图像的粗分类的图像类别，根据粗分类类别筛选出候选违禁图像，进一步利用目标检测模型，对待识别图像中的目标进行识别，得到各个目标的目标类别信息，根据各个目标的目标类别信息确定待识别图像是否为违禁图像。本公开的方法通过将分类模型和目标检测模型结合应用，对待识别图像先进行粗分类对整体图像的特征进行识别，再进行细分类对图像中的目标细节特征进行精细识别，从整体和局部全方位识别违禁图像，提高了识别的准确率和效率。此外，通过灵活配置不同应用场景下的预设图像类别，预设违禁目标类别，预设图像类别概率，预设目标类别概率等，可以调整对于候选违禁图像和违禁图像的确定，可以使上述方法适用于不同应用场景下图像的识别，使得违禁图像的识别更加准确，更加灵活。

下面结合图2描述本公开中分类模型和目标检测模型的训练过程。

图2为本公开违禁图像识别方法另一些实施例的流程图。如图2所示，该实施例的方法包括：步骤S202～S208。

在步骤S202中，获取标注有图像类别的第一样本图像，作为第一训练样本集。

如前述实施例，可以根据实际需求设置分类模型可以划分的图像类别，将各个第一样本图像标注对应的图像类别。为提高分类模型的准确性，可以获取多种场景，多种媒体介质，多种来源的第一样本图像。可以对第一样本图像进行预处理，例如，旋转，缩放，颜色调整等，使第一样本图像形成统一规格。

在步骤S204中，利用第一训练样本集的图像对分类模型进行训练，得到分类模型的参数。

在一些实施例中，将第一训练样本集中的图像输入分类模型，得到输出的各个图像的图像类别，根据输出各个图像的图像类别与标注的图像类别的差别计算第一损失函数值，根据第一损失函数调整分类模型的参数，重复上述过程直至达到预设条件，例如，第一损失函数值达到最小或达到阈值等。

每轮训练过程中抽取第一训练样本集中预设数量的图像输入分类模型，可以按照第一预设比例抽取属于各个图像类别的图像输入分类模型。例如，按照1:1:1:1分别抽取四种图像类别的图像。

在一些实施例中，利用第一训练样本集的图像对分类模型进行初始训练；将第一训练样本集的图像输入初始训练后的分类模型，得到第一训练样本集的图像的分类结果；根据输出的第一训练样本集的图像的分类结果和准确分类结果之间的差异，确定难样本图像；利用难样本图像，对初始训练后的分类模型再次进行训练。利用难样本图像对分类模型再次训练，可以增强分类模型的准确性和训练效率。

在步骤S206中，获取标注有目标的目标类别的第二样本图像，作为第二训练样本集。

在一些实施例中，将候选样本图像输入分类模型，得到输出的候选样本图像的图像类别信息；根据候选样本图像的图像类别信息确定候选样本是否属于候选违禁图像；将属于候选违禁图像的候选样本图像作为第二样本图像。在训练好分类模型后利用分类模型筛选出部分候选样本图像，作为第二样本图像。候选样本图像可以是第一训练样本集中的图像。这样可以去除很多的正常图片，所以会很大程度上减少可能的混淆，提高训练效率和准确率。

由于违禁图片的内容比较繁杂、特征比较分散，因此，标注的目标类别和前述实施例中应用时确定的目标类别会比较多。可以设置目标类别包括多级类别，例如，人体、动作等为高层类别，性别为中层类别，具体的部位或动作的描述为底层类别，这样一个目标通过多层级的标签确定目标类别，便于标签的管理以及根据目标类别进一步确定是否属于违禁图片。

在步骤S208中，利用第二训练样本集的图像对目标检测模型进行训练，得到目标检测的参数。

在一些实施例中，将第二训练样本集中的图像输入目标检测模型，得到输出的各个目标的目标类别，根据输出各个目标的目标类别与标注的目标类别的差别计算第二损失函数值，根据第二损失函数调整目标检测模型的参数，重复上述过程直至达到预设条件，例如，第二损失函数值达到最小或达到阈值等。每轮训练过程中抽取第二训练样本集中预设数量的图像输入目标检测模型，可以按照第二预设比例抽取属于各个目标类别的图像输入目标检测模型。

本公开还提供一种违禁图像识别装置，下面结合图3进行描述。

图3为本公开违禁图像识别装置的一些实施例的结构图。如图3所示，该实施例的装置30包括：图像类别确定模块310，图像筛选模块320，目标类别确定模块330，违禁图像确定模块340。

图像类别确定模块310，用于将待识别图像输入分类模型，得到输出的待识别图像的图像类别信息。

图像筛选模块320，用于根据待识别图像的图像类别信息确定待识别图像是否属于候选违禁图像。

在一些实施例中，图像筛选模块320用于确定待识别图像的应用场景；将应用场景下候选违禁图像所属的预设图像类别与待识别图像的图像类别信息进行匹配；根据匹配结果确定待识别图像是否属于候选违禁图像；其中，不同应用场景下候选违禁图像所属的预设图像类别不同。

在一些实施例中，待识别图像的图像类别信息包括：待识别图像属于各个图像类别的概率；图像筛选模块320用于将待识别图像属于各个图像类别的概率与应用场景对应的预设图像类别概率进行比对，确定待识别图像的图像类别；将应用场景下候选违禁图像所属的预设图像类别与待识别图像的图像类别进行匹配；其中，不同应用场景对应的预设图像类别概率不同。

目标类别确定模块330，用于在待识别图像属于候选违禁图像的情况下，将待识别图像输入目标检测模型，得到待识别图像中各个目标的目标类别信息。

违禁图像确定模块340，用于根据待识别图像中各个目标的目标类别信息，确定待识别图像是否为违禁图像。

在一些实施例中，违禁图像确定模块340用于确定待识别图像的应用场景；将应用场景下的预设违禁目标类别与待识别图像中各个目标的目标类别信息进行匹配；根据匹配结果确定待识别图像是否属于违禁图像；其中，不同应用场景下的预设违禁目标类别不同。

在一些实施例中，待识别图像中各个目标的目标类别信息包括：各个目标属于各个目标类别的概率；违禁图像确定模块340用于将待识别图像中各个目标属于各个目标类别的概率，与应用场景对应的预设目标类别概率进行比对，确定待识别图像中各个目标的目标类别；将应用场景下的预设违禁目标类别与待识别图像中各个目标的目标类别进行匹配；其中，不同应用场景对应的预设目标类别概率不同。

在一些实施例中，该装置30还包括：第一训练模块350，用于获取标注有图像类别的第一样本图像，作为第一训练样本集；利用第一训练样本集的图像对分类模型进行训练，得到分类模型的参数。

在一些实施例中，第一训练模块350用于利用第一训练样本集的图像对分类模型进行初始训练；将第一训练样本集的图像输入初始训练后的分类模型，得到第一训练样本集的图像的分类结果；根据输出的第一训练样本集的图像的分类结果和准确分类结果之间的差异，确定难样本图像；利用难样本图像，对初始训练后的分类模型再次进行训练。

在一些实施例中，该装置30还包括：第二训练模块360，用于获取标注有目标的目标类别的第二样本图像，作为第二训练样本集；利用第二训练样本集的图像对目标检测模型进行训练，得到目标检测的参数。

在一些实施例中，第二训练模块360用于将候选样本图像输入分类模型，得到输出的候选样本图像的图像类别信息；根据候选样本图像的图像类别信息确定候选样本是否属于候选违禁图像；将属于候选违禁图像的候选样本图像作为第二样本图像。

本公开的实施例中的违禁图像识别装置可各由各种计算设备或计算机系统来实现，下面结合图4以及图5进行描述。

图4为本公开违禁图像识别装置的一些实施例的结构图。如图4所示，该实施例的装置40包括：存储器410以及耦接至该存储器410的处理器420，处理器420被配置为基于存储在存储器410中的指令，执行本公开中任意一些实施例中的违禁图像识别方法。

其中，存储器410例如可以包括系统存储器、固定非易失性存储介质等。系统存储器例如存储有操作系统、应用程序、引导装载程序(BootLoader)、数据库以及其他程序等。

图5为本公开违禁图像识别装置的另一些实施例的结构图。如图5所示，该实施例的装置50包括：存储器510以及处理器520，分别与存储器410以及处理器420类似。还可以包括输入输出接口530、网络接口540、存储接口550等。这些接口530，540，550以及存储器510和处理器520之间例如可以通过总线560连接。其中，输入输出接口530为显示器、鼠标、键盘、触摸屏等输入输出设备提供连接接口。网络接口540为各种联网设备提供连接接口，例如可以连接到数据库服务器或者云端存储服务器等。存储接口550为SD卡、U盘等外置存储设备提供连接接口。

本领域内的技术人员应当明白，本公开的实施例可提供为方法、系统、或计算机程序产品。因此，本公开可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本公开可采用在一个或多个其中包含有计算机可用程序代码的计算机可用非瞬时性存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本公开是参照根据本公开实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解为可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

以上所述仅为本公开的较佳实施例，并不用以限制本公开，凡在本公开的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本公开的保护范围之内。

Claims (12)

1.一种违禁图像识别方法，包括：

将待识别图像输入分类模型，得到输出的所述待识别图像的图像类别信息；

根据所述待识别图像的图像类别信息确定所述待识别图像是否属于候选违禁图像；

在所述待识别图像属于候选违禁图像的情况下，将所述待识别图像输入目标检测模型，得到所述待识别图像中各个目标的目标类别信息；

根据所述待识别图像中各个目标的目标类别信息，确定所述待识别图像是否为违禁图像。

2.根据权利要求1所述的违禁图像识别方法，其中，

所述根据所述待识别图像的图像类别信息确定所述待识别图像是否属于候选违禁图像包括：

确定所述待识别图像的应用场景；

将所述应用场景下候选违禁图像所属的预设图像类别与所述待识别图像的图像类别信息进行匹配；

根据匹配结果确定所述待识别图像是否属于候选违禁图像；

其中，不同应用场景下候选违禁图像所属的预设图像类别不同。

3.根据权利要求2所述的违禁图像识别方法，其中，

所述待识别图像的图像类别信息包括：所述待识别图像属于各个图像类别的概率；

所述将所述应用场景下候选违禁图像所属的预设图像类别与所述待识别图像的图像类别信息进行匹配包括：

将所述待识别图像属于各个图像类别的概率与所述应用场景对应的预设图像类别概率进行比对，确定所述待识别图像的图像类别；

将所述应用场景下候选违禁图像所属的预设图像类别与所述待识别图像的图像类别进行匹配；

其中，不同应用场景对应的预设图像类别概率不同。

4.根据权利要求1所述的违禁图像识别方法，其中，

所述根据所述待识别图像中各个目标的目标类别信息，确定所述待识别图像是否为违禁图像包括：

确定所述待识别图像的应用场景；

将所述应用场景下的预设违禁目标类别与所述待识别图像中各个目标的目标类别信息进行匹配；

根据匹配结果确定所述待识别图像是否属于违禁图像；

其中，不同应用场景下的预设违禁目标类别不同。

5.根据权利要求4所述的违禁图像识别方法，其中，

所述待识别图像中各个目标的目标类别信息包括：各个目标属于各个目标类别的概率；

所述将所述应用场景下的预设违禁目标类别与所述待识别图像中各个目标的目标类别信息进行匹配包括：

将所述待识别图像中各个目标属于各个目标类别的概率，与所述应用场景对应的预设目标类别概率进行比对，确定所述待识别图像中各个目标的目标类别；

将所述应用场景下的预设违禁目标类别与所述待识别图像中各个目标的目标类别进行匹配；

其中，不同应用场景对应的预设目标类别概率不同。

6.根据权利要求1所述的违禁图像识别方法，还包括：

获取标注有图像类别的第一样本图像，作为第一训练样本集；

利用所述第一训练样本集的图像对所述分类模型进行训练，得到所述分类模型的参数。

7.根据权利要求5所述的违禁图像识别方法，其中，

所述利用所述第一训练样本集的图像对所述分类模型进行训练包括：

利用所述第一训练样本集的图像对所述分类模型进行初始训练；

将所述第一训练样本集的图像输入初始训练后的所述分类模型，得到所述第一训练样本集的图像的分类结果；

根据输出的所述第一训练样本集的图像的分类结果和准确分类结果之间的差异，确定难样本图像；

利用所述难样本图像，对初始训练后的所述分类模型再次进行训练。

8.根据权利要求1所述的违禁图像识别方法，还包括：

获取标注有目标的目标类别的第二样本图像，作为第二训练样本集；

利用所述第二训练样本集的图像对所述目标检测模型进行训练，得到所述目标检测的参数。

9.根据权利要求8所述的违禁图像识别方法，其中，

所述获取标注有目标的目标类别的第二样本图像包括：

将候选样本图像输入所述分类模型，得到输出的所述候选样本图像的图像类别信息；

根据所述候选样本图像的图像类别信息确定所述候选样本是否属于候选违禁图像；

将属于候选违禁图像的候选样本图像作为第二样本图像。

10.一种违禁图像识别装置，包括：

图像类别确定模块，用于将待识别图像输入分类模型，得到输出的所述待识别图像的图像类别信息；

图像筛选模块，用于根据所述待识别图像的图像类别信息确定所述待识别图像是否属于候选违禁图像；

目标类别确定模块，用于在所述待识别图像属于候选违禁图像的情况下，将所述待识别图像输入目标检测模型，得到所述待识别图像中各个目标的目标类别信息；

违禁图像确定模块，用于根据所述待识别图像中各个目标的目标类别信息，确定所述待识别图像是否为违禁图像。

11.一种违禁图像识别装置，包括：

处理器；以及

耦接至所述处理器的存储器，用于存储指令，所述指令被所述处理器执行时，使所述处理器执行如权利要求1-9任一项所述的违禁图像识别方法。

12.一种非瞬时性计算机可读存储介质，其上存储有计算机程序，其中，该程序被处理器执行时实现权利要求1-9任一项所述方法的步骤。

Images