CN115050029A - 一种图像检测方法、装置、电子设备及存储介质 - Google Patents

Abstract

本发明公开了一种图像检测方法、装置、电子设备及存储介质。该方法包括：获取待检测图像，确定待检测图像对应的文本描述语句；将文本描述语句与预确定的违规词词典进行匹配，确定违规语句；确定各违规语句所对应的违规权重，并根据各违规权重确定违规指数；当违规指数大于预确定的违规指数阈值时，确定待检测图像为违规图像，解决了图像检测过程中无法准确识别违规图像的问题，通过将待检测图像的文本描述语句与违规词词典进行匹配，确定违规语句，根据违规语句对应的违规权重确定违规指数，可以准确确定待检测图像的违规程度，通过比较违规指数与违规指数阈值判断待检测图像是否违规，提高了图像检测的准确率，对违规图像进行有效识别。

Description

一种图像检测方法、装置、电子设备及存储介质

技术领域

本发明涉及图像检测技术领域，尤其涉及一种图像检测方法、装置、电子设备及存储介质。

背景技术

随着互联网信息量的爆炸式增长，网络空间中的内容安全问题日渐严重，而图像作为网络空间内容中重要的一部分，对图像内容安全问题的关注也不容忽视。图像内容安全监控中的传统方法是建立审核小组进行人工审核，然而由于网络空间中的图像量大、审核时间长以及人工成本高等问题，审核效率非常低，再加上网络空间中有许多重复图像，导致审核过程中存在大量的重复性工作、工作量大，增加了审核的难度。因此，网络空间中的图像内容安全一直是网络空间安全问题中的难点和痛点，一个高效而智能化的图像内容监控方法是当前网络空间安全监控中所需要的。

近年来，基于卷积神经网络的深度学习图像分类网络模型被应用于敏感图像智能审核，例如，通过识别图像确定描述图像的文本描述语句，但是如何通过文本描述语句准确判断图像是否违规成为有待解决的问题。

发明内容

本发明提供了一种图像检测方法、装置、电子设备及存储介质，以实现对图像的准确检测。

根据本发明的一方面，提供了一种图像检测方法，包括：

获取待检测图像，并确定所述待检测图像对应的文本描述语句；

将所述文本描述语句与预确定的违规词词典进行匹配，确定违规语句；

确定各所述违规语句所对应的违规权重，并根据各所述违规权重确定违规指数；

当所述违规指数大于预确定的违规指数阈值时，确定所述待检测图像为违规图像。

根据本发明的另一方面，提供了一种图像检测装置，包括：

图像获取模块，用于获取待检测图像，并确定所述待检测图像对应的文本描述语句；

违规语句确定模块，用于将所述文本描述语句与预确定的违规词词典进行匹配，确定违规语句；

违规指数确定模块，用于确定各所述违规语句所对应的违规权重，并根据各所述违规权重确定违规指数；

违规图像检测模块，用于当所述违规指数大于预确定的违规指数阈值时，确定所述待检测图像为违规图像。

根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例所述的图像检测方法。

根据本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本发明任一实施例所述的图像检测方法。

本发明实施例的技术方案，通过获取待检测图像，并确定所述待检测图像对应的文本描述语句；将所述文本描述语句与预确定的违规词词典进行匹配，确定违规语句；确定各所述违规语句所对应的违规权重，并根据各所述违规权重确定违规指数；当所述违规指数大于预确定的违规指数阈值时，确定所述待检测图像为违规图像，解决了图像检测过程中无法准确识别违规图像的问题，通过将待检测图像的文本描述语句与违规词词典进行匹配，确定违规语句，进一步根据违规语句对应的违规权重确定违规指数，可以准确确定待检测图像的违规程度，然后通过比较违规指数与违规指数阈值判断待检测图像是否违规，提高了图像检测的准确率，对违规图像进行有效识别。

应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是根据本发明实施例一提供的一种图像检测方法的流程图；

图2是根据本发明实施例二提供的一种图像检测方法的流程图；

图3是根据本发明实施例三提供的一种图像检测装置的结构示意图；

图4是实现本发明实施例的图像检测方法的电子设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“目标”、“备选”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

实施例一

图1为本发明实施例一提供了一种图像检测方法的流程图，本实施例可适用于对图像进行违规检测的情况，该方法可以由图像检测装置来执行，该图像检测装置可以采用硬件和/或软件的形式实现，该图像检测装置可配置于电子设备中。如图1所示，该方法包括：

S101、获取待检测图像，并确定待检测图像对应的文本描述语句。

在本实施例中，待检测图像具体可以理解为具有违规检测需求的图像，待检测图像可以由用户选择并确定，也可以自动捕捉网络上的图像作为待检测图像。文本描述语句具体可以理解为用于描述待检测图像的语句，例如，一群小学生在看数学书。获取由用户输入的待检测图像，或者在网络中自动捕获待检测图像，通过对待检测图像进行图像识别和分析，确定描述待检测图像的文本描述语句。

S102、将文本描述语句与预确定的违规词词典进行匹配，确定违规语句。

在本实施例中，违规词词典具体可以理解为包括一个或者多个违规词的数据集，为保证图像检测的准确性，违规词词典中通常包括大量的违规词；违规语句为文本描述语句中不符合法规、道德规范等规范的语句。

具体的，违规词词典预先确定，可以由用户根据实际生活中所涉及到的违规词生成，通过收集整理违规词，将违规词存储到违规词词典中，违规词词典还可以实时进行更新，在出现新的违规词后，可以实时将违规词添加至违规词词典中。将文本描述语句与违规词词典中的违规词进行匹配，确定文本描述语句中与违规词词典匹配上的语句，将此部分语句作为违规语句。

S103、确定各违规语句所对应的违规权重，并根据各违规权重确定违规指数。

在本实施例中，违规权重具体可以理解为违规语句的权重值。违规指数具体可以理解为用于描述图像的违规程度的数值。违规语句的违规权重可以预先设置，即预先设置每个违规语句的权重值，在确定违规语句后可以相应确定其对应的违规权重，或者，通过对违规语句进行分析，例如，通过神经网络模型对各违规语句进行分析，通过违规语句之间的关系等信息确定每个违规语句对应的违规权重。在确定各违规权重后，可以通过计算平均值、最大值、最小值等方式确定违规指数。

S104、当违规指数大于预确定的违规指数阈值时，确定待检测图像为违规图像。

在本实施例中，违规指数阈值具体可以理解为用于判断违规指数是否符合要求的边界值。预先确定违规指数阈值，比较违规指数阈值和违规指数的大小，当违规指数大于违规指数阈值时，确定待检测图像为违规图像；当违规指数不大于违规指数阈值时，此时的待检测图像为正常图像。

本实施例提供了一种图像检测方法，通过获取待检测图像，并确定所述待检测图像对应的文本描述语句；将所述文本描述语句与预确定的违规词词典进行匹配，确定违规语句；确定各所述违规语句所对应的违规权重，并根据各所述违规权重确定违规指数；当所述违规指数大于预确定的违规指数阈值时，确定所述待检测图像为违规图像，解决了图像检测过程中无法准确识别违规图像的问题，通过将待检测图像的文本描述语句与违规词词典进行匹配，确定违规语句，进一步根据违规语句对应的违规权重确定违规指数，可以准确确定待检测图像的违规程度，然后通过比较违规指数与违规指数阈值判断待检测图像是否违规，提高了图像检测的准确率，对违规图像进行有效识别。

实施例二

图2为本发明实施例二提供的一种图像检测方法的流程图，本实施例在上述实施例的基础上进行细化。如图2所示，该方法包括：

S201、获取待检测图像。

S202、获取预确定的目标文本检测模型。

在本实施例中，目标文本检测模型具体可以理解为用于对图片进行检测并输出描述图像的文本的神经网络模型。预先训练神经网络模型，得到符合收敛条件的目标文本检测模型，目标文本检测模型在训练完成之后进行保存，在对待检测图像进行检测时，直接获取训练好的目标文本检测模型。

示例性的，本申请提供一种目标文本检测模型，目标文本检测模型中包括编码器、视觉注意力模型等。编码器可以采用Faster R-CNN模型，该模型的视觉特点类似于人类，能够关注到图像中最显著的、最容易被注意到的部分，用以提取这些区域的特征。假设有图像I，k个图像特征(V＝{v₁,…,v_k}，v_i∈R^d)是图像中特征的输出，这样每个图像特征都可以把图像的一个显著区域编码。图片特征V也就是显著注意力模型的结果。模型得到图像的特征V后，对图像特征进行解码。将本地数据分成n个batch，每个batch包含m个样本。每次的本地模型更新都利用一个batch的数据，而非整个本地训练集，因此每次的学习是非常快速的，并且可以进行在线更新。

利用基于soft-attention的自顶向下的注意力机制在描述文本生成过程中对每个特征进行加权，并将已有的输出序列用作上下文信息。在目标文本检测模型中，两个LSTM层用来选择性地处理空间图像特征。使用自顶向下的视觉注意力模型作为第一个LSTM层(Top-Down Attention LSTM)，第二个LSTM层则使用一个语言模型(Language LSTM)组成。第一层LSTM单元在每一步中的输入向量由第二层LSTM前一时刻的输出与均值池图像特征

和之前生成的单词连接而成，由此得到图像的文本描述语句。

S203、将待检测图像输入至目标文本检测模型，根据目标文本检测模型的输出确定文件描述语句。

将待检测图像输入至目标文本检测模型中，目标文本检测模型根据学习到的经验对待检测图像进行处理，确定待检测图像中显著区域对应的特征，进一步根据特征确定单词，根据各单词形成文件描述语句并输出，将目标文本检测模型的输出结果确定为待检测图像的文件描述语句。

S204、获取预确定的违规词词典，违规词词典中包括至少一个违规词。

预先生成违规词词典并存储，违规词词典中包含一个或者多个违规词，为提高识别准确率，更好的覆盖违规词，违规词词典中的违规词通常数量较大。

S205、将文本描述语句与各违规词进行正则匹配，确定匹配成功的违规语句。

本申请优选采用通过正则匹配的方式对文本描述语句进行违规内容识别，将文本描述语句与各违规词依次进行正则匹配，确定与各违规词匹配成功的语句，将其作为违规语句。

S206、根据各违规语句查询预确定的权重信息表，确定各违规语句所对应的违规权重。

在本实施例中，权重信息表具体可以理解为存储违规的语句与对应的权重值的数据表。预先生成权重信息表，权重信息表中对应存储语句和权重值，可以根据每个语句的违规程度为每个语句设置相应的权重值，本申请实施例中的权重值优选采用0-1之间的数值。针对每个违规语句，查询权重信息表，确定与违规语句匹配的语句，将此语句对应的权重值作为违规语句的违规权重。

S207、将各违规权重的平均值确定为违规指数。

计算各违规权重的平均值，将平均值作为违规指数。

S208、当违规指数大于预确定的违规指数阈值时，确定待检测图像为违规图像。

作为本实施例的一个可选实施例，本可选实施例进一步对违规指数阈值的确定步骤进行优化，包括如下步骤：

A1、获取预设数量的备选违规图像。

在本实施例中，预设数量可以根据实际需求设置，在设置时可以考虑数据量对结果的影响，数据量过少可能会造成结果不准确，数据量过多可能会影响效率。备选违规图像用于确定违规指数阈值。预先准备一定数量的违规图像，可以由用户从图像中筛选，也可以通过算法自动筛选。从违规图像中抽取预设数量的备选违规图像，可以是随机抽取，也可以是按照一定规则抽取，例如，将违规图像进行分类，按照一定比例分别抽取每类的违规图像；分类方式可以是按照大小、识别的难易程度、违规的特征的多少等。

A2、确定各备选违规图像对应的目标违规指数。

在本实施例中，目标违规指数具体可以理解为备选违规图像的违规指数，目标违规指数与待检测图像的违规指数的确定方式相同。采用与步骤S202到S207的方式分别确定每个备选违规图像对应的目标违规指数。

作为本实施例的一个可选实施例，本可选实施例进一步将确定各备选违规图像对应的目标违规指数优化为：

A21、确定每个备选违规图像对应的备选描述语句。

在本实施例中，备选描述语句具体可以理解为用于描述备选违规图像的文本语句。通过对备选违规图像进行图像识别和分析，确定描述备选违规图像的备选描述语句。

本申请实施例中的备选描述语句与文本描述语句采用相同的方式确定。确定每个备选违规图像对应的备选描述语句，包括：获取预确定的目标文本检测模型；将备选违规图像输入至目标文本检测模型，根据目标文本检测模型的输出确定备选描述语句。

A22、将备选描述语句与预确定的违规词词典进行匹配，确定备选语句。

在本实施例中，备选语句具体可以理解为备选描述语句中违规的语句。将备选描述语句与违规词词典中的违规词进行匹配，确定违规词中与备选描述语句匹配成功语句，将其确定为备选语句。

本申请实施例中的备选语句与违规语句采用相同的方式确定。将备选描述语句与预确定的违规词词典进行匹配，确定备选语句，包括：获取预确定的违规词词典，违规词词典中包括至少一个违规词；将备选描述语句与各违规词进行正则匹配，确定匹配成功的备选语句。

A23、确定各备选语句所对应的备选权重，并根据各备选权重确定目标违规指数。

在本实施例中，备选权重具体可以理解为备选语句所对应的权重值，用于描述备选语句的违规程度。预先设置每个语句的权重值，在确定备选语句后，其对应的备选权重相应确定，通过对各备选权重进行数学运算，例如，计算平均值、最大值、最小值等方式确定目标违规指数。

本申请实施例中的目标违规指数与待检测图像的违规指数采用相同的方式确定。确定各备选语句所对应的备选权重，并根据各备选权重确定目标违规指数，包括：根据各备选语句查询预确定的权重信息表，确定各备选语句所对应的备选权重；将各备选权重的平均值确定为目标违规指数。

A3、根据各目标违规指数确定违规指数阈值。

在确定每个备选违规图像的目标违规指数后，对目标违规指数进行分析，确定其分布情况，即目标违规指数大部分在什么范围内，根据其分布规律确定违规指数阈值。当违规指数阈值设定过低时，过多的非违规图像被判断为违规图像，因此，准确率的数值较低；而当违规指数阈值设定过高时，过多的违规图像无法被正确判断，因此，准确率会逐步下降，本申请通过分析目标违规指数的分布情况确定违规指数阈值，合理选择违规指数阈值，提高图像检测的准确率。

作为本实施例的一个可选实施例，本可选实施例进一步将根据各目标违规指数确定违规指数阈值优化为：

A31、对各目标违规指数按照从大到小的顺序进行排序，形成违规指数序列。

在本实施例中，违规指数序列具体可以理解为由目标违规指数按照一定规律排列得到的序列。将各目标违规指数按照从大到小的顺序进行排序，形成违规指数序列。

A32、根据预设数量结合预设比例确定目标排列位置。

在本实施例中，预设比例可以是10％、5％等，可以由用户自行设置，在图像检测过程中可以实时进行调整。其中，预设比例可以是舍弃的比例，也可以是保留的比例，例如预设比例为舍弃5％，在确定违规指数阈值时，通过舍弃5％的目标违规指数确定违规指数阈值，预设比例为保留95％，在确定违规指数阈值时，通过保留95％的目标违规指数确定违规指数阈值，其实质相同。目标排列位置具体可以理解为违规指数序列中的指定位置。计算预设数量与预设比例的乘积n，若预设比例为需要舍弃的目标违规指数，则按照从小到大的顺序舍弃较小的n个目标违规指数，将第n+1个目标违规指数所在位置确定为目标排列位置。

A33、从违规指数序列中筛选出与目标排列位置匹配的目标违规指数，并确定为违规指数阈值。

确定违规指数序列中与目标排列位置匹配的目标违规指数，将此目标违规指数确定为违规指数阈值。

示例性的，预设数量为100，预设比例为舍弃5％，则可以确定舍弃的数量为5个，舍弃最小的5个目标违规指数，将倒数第6个位置作为目标排列位置，确定违规指数序列中从小到大的第6个目标违规指数为违规指数阈值，或者确定违规指数序列中从大到小的第95个目标违规指数为违规指数阈值。

本申请所提供的图像检测方法可采用如下方式进行评价，将违规图像和非违规图像作为样本进行检测。本申请可采用准确率(Accuracy)、精确率(Precision)和召回率(Recall)来作为检测结果的评价标准，准确率的计算公式如下：

精确率的计算公式如下：

召回率的计算公式如下：

其中，TP为True Positive，表示正确的检测出样本中正例的数值，TN为TrueNegative，表示正确的检测出样本中反例的数值，FP为False Positive，表示错误的检测出样本中的正例数值，FN为False Negative，表示错误的检测出样本中反例的数值。可以看出，准确率表示的是样本中有多少被预测正确的例子，从而可以利用准确率来表示在进行图像的违规检测时，违规指数阈值设置为多少时能够有效地对违规图像进行准确识别。

本实施例提供了一种图像检测方法，通过获取待检测图像，并确定所述待检测图像对应的文本描述语句；将所述文本描述语句与预确定的违规词词典进行匹配，确定违规语句；确定各所述违规语句所对应的违规权重，并根据各所述违规权重确定违规指数；当所述违规指数大于预确定的违规指数阈值时，确定所述待检测图像为违规图像，解决了图像检测过程中无法准确识别违规图像的问题，通过将待检测图像的文本描述语句与违规词词典进行匹配，确定违规语句，进一步根据违规语句对应的违规权重确定违规指数，可以准确确定待检测图像的违规程度，然后通过比较违规指数与违规指数阈值判断待检测图像是否违规，提高了图像检测的准确率，对违规图像进行有效识别。通过分析目标违规指数的分布关系确定违规指数阈值，合理设置违规指数阈值，提高违规图像检测的准确率。

实施例三

图3为本发明实施例三提供的一种图像检测装置的结构示意图。如图3所示，该装置包括：图像获取模块31、违规语句确定模块32、违规指数确定模块33和违规图像检测模块34；

其中，图像获取模块31，用于获取待检测图像，并确定所述待检测图像对应的文本描述语句；

违规语句确定模块32，用于将所述文本描述语句与预确定的违规词词典进行匹配，确定违规语句；

违规指数确定模块33，用于确定各所述违规语句所对应的违规权重，并根据各所述违规权重确定违规指数；

违规图像检测模块34，用于当所述违规指数大于预确定的违规指数阈值时，确定所述待检测图像为违规图像。

本实施例提供了一种图像检测装置，解决了图像检测过程中无法准确识别违规图像的问题，通过将待检测图像的文本描述语句与违规词词典进行匹配，确定违规语句，进一步根据违规语句对应的违规权重确定违规指数，可以准确确定待检测图像的违规程度，然后通过比较违规指数与违规指数阈值判断待检测图像是否违规，提高了图像检测的准确率，对违规图像进行有效识别。

可选的，图像获取模块31包括：

模型获取单元，用于获取预确定的目标文本检测模型；

文本描述语句确定单元，用于将所述待检测图像输入至所述目标文本检测模型，根据所述目标文本检测模型的输出确定文件描述语句。

可选的，违规语句确定模块32包括：

词典获取单元，用于获取预确定的违规词词典，所述违规词词典中包括至少一个违规词；

违规语句确定单元，用于将所述文本描述语句与各所述违规词进行正则匹配，确定匹配成功的违规语句。

可选的，违规指数确定模块33包括：

违规权重确定单元，用于根据各所述违规语句查询预确定的权重信息表，确定各所述违规语句所对应的违规权重；

违规指数确定单元，用于将各所述违规权重的平均值确定为违规指数。

可选的，该装置还包括：

备选图像获取模块，用于获取预设数量的备选违规图像；

目标指数模块，用于确定各所述备选违规图像对应的目标违规指数；

阈值确定模块，用于根据各所述目标违规指数确定违规指数阈值。

可选的，目标指数模块，包括：

备选描述语句确定单元，用于确定每个备选违规图像对应的备选描述语句；

备选语句确定单元，用于将所述备选描述语句与预确定的违规词词典进行匹配，确定备选语句；

目标指数确定单元，用于确定各所述备选语句所对应的备选权重，并根据各所述备选权重确定目标违规指数。

可选的，阈值确定模块，包括：

指数序列形成单元，用于对各所述目标违规指数按照从大到小的顺序进行排序，形成违规指数序列；

目标位置确定单元，用于根据预设数量结合预设比例确定目标排列位置；阈值确定单元，用于从所述违规指数序列中筛选出与所述目标排列位置匹配的目标违规指数，并确定为违规指数阈值。

本发明实施例所提供的图像检测装置可执行本发明任意实施例所提供的图像检测方法，具备执行方法相应的功能模块和有益效果。

实施例四

图4示出了可以用来实施本发明的实施例的电子设备40的结构示意图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。

如图4所示，电子设备40包括至少一个处理器41，以及与至少一个处理器41通信连接的存储器，如只读存储器(ROM)42、随机访问存储器(RAM)43等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器41可以根据存储在只读存储器(ROM)42中的计算机程序或者从存储单元48加载到随机访问存储器(RAM)43中的计算机程序，来执行各种适当的动作和处理。在RAM 43中，还可存储电子设备40操作所需的各种程序和数据。处理器41、ROM 42以及RAM 43通过总线44彼此相连。输入/输出(I/O)接口45也连接至总线44。

电子设备40中的多个部件连接至I/O接口45，包括：输入单元46，例如键盘、鼠标等；输出单元47，例如各种类型的显示器、扬声器等；存储单元48，例如磁盘、光盘等；以及通信单元49，例如网卡、调制解调器、无线通信收发机等。通信单元49允许电子设备40通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

处理器41可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器41的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器41执行上文所描述的各个方法和处理，例如图像检测方法。

在一些实施例中，图像检测方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元48。在一些实施例中，计算机程序的部分或者全部可以经由ROM 42和/或通信单元49而被载入和/或安装到电子设备40上。当计算机程序加载到RAM 43并由处理器41执行时，可以执行上文描述的图像检测方法的一个或多个步骤。备选地，在其他实施例中，处理器41可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行图像检测方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在电子设备上实施此处描述的系统和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。

计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (10)

1.一种图像检测方法，其特征在于，包括：

获取待检测图像，并确定所述待检测图像对应的文本描述语句；

将所述文本描述语句与预确定的违规词词典进行匹配，确定违规语句；

确定各所述违规语句所对应的违规权重，并根据各所述违规权重确定违规指数；

当所述违规指数大于预确定的违规指数阈值时，确定所述待检测图像为违规图像。

2.根据权利要求1所述的方法，其特征在于，所述确定所述待检测图像对应的文本描述语句，包括：

获取预确定的目标文本检测模型；

将所述待检测图像输入至所述目标文本检测模型，根据所述目标文本检测模型的输出确定文件描述语句。

3.根据权利要求1所述的方法，其特征在于，所述将所述文本描述语句与预确定的违规词词典进行匹配，确定违规语句，包括：

获取预确定的违规词词典，所述违规词词典中包括至少一个违规词；

将所述文本描述语句与各所述违规词进行正则匹配，确定匹配成功的违规语句。

4.根据权利要求1所述的方法，其特征在于，所述确定各所述违规语句所对应的违规权重，并根据各所述违规权重确定违规指数，包括：

根据各所述违规语句查询预确定的权重信息表，确定各所述违规语句所对应的违规权重；

将各所述违规权重的平均值确定为违规指数。

5.根据权利要求1-4任一项所述的方法，其特征在于，所述违规指数阈值的确定步骤包括：

获取预设数量的备选违规图像；

确定各所述备选违规图像对应的目标违规指数；

根据各所述目标违规指数确定违规指数阈值。

6.根据权利要求5所述的方法，其特征在于，所述确定各所述备选违规图像对应的目标违规指数，包括：

确定每个备选违规图像对应的备选描述语句；

将所述备选描述语句与预确定的违规词词典进行匹配，确定备选语句；

确定各所述备选语句所对应的备选权重，并根据各所述备选权重确定目标违规指数。

7.根据权利要求5所述的方法，其特征在于，所述根据各所述目标违规指数确定违规指数阈值，包括：

对各所述目标违规指数按照从大到小的顺序进行排序，形成违规指数序列；

根据预设数量结合预设比例确定目标排列位置；

从所述违规指数序列中筛选出与所述目标排列位置匹配的目标违规指数，并确定为违规指数阈值。

8.一种图像检测装置，其特征在于，包括：

图像获取模块，用于获取待检测图像，并确定所述待检测图像对应的文本描述语句；

违规语句确定模块，用于将所述文本描述语句与预确定的违规词词典进行匹配，确定违规语句；

违规指数确定模块，用于确定各所述违规语句所对应的违规权重，并根据各所述违规权重确定违规指数；

违规图像检测模块，用于当所述违规指数大于预确定的违规指数阈值时，确定所述待检测图像为违规图像。

9.一种电子设备，其特征在于，所述电子设备包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的图像检测方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的图像检测方法。

Images