CN117236701B - 一种基于博弈分析的鲁棒风险识别方法 - Google Patents

Abstract

本发明公开了一种基于博弈分析的鲁棒风险识别方法，该方法基于专家经验得到风险识别模型相对于原始数据的属性的成本收益信息；根据成本收益信息构建基于属性的成本收益矩阵；基于成本收益矩阵得到混合策略均衡概率，并利用混合策略均衡概率和伯努利分布确定伯努利随机变量；利用预设算法采样伯努利随机变量以对原始数据进行处理得到处理后的数据，并利用处理后的数据对风险识别模型进行训练以得到鲁棒的风险识别模型。本发明通过对数据属性的攻击收益和成本分析，动态调节人工智能算法中的信息使用概率，以减小潜在攻击者的攻击收益，从而降低了攻击成功的概率，并提供了鲁棒的风险识别模型。

Description

一种基于博弈分析的鲁棒风险识别方法

技术领域

本发明涉及下一代互联网应用安全、网络空间安全、人工智能安全研究技术领域，特别是涉及一种基于博弈分析的鲁棒风险识别方法。

背景技术

人工智能技术的基础是优化技术（如基于梯度的随机梯度下降算法），其目的是在所选择的模型空间中搜索一个使得目标函数达到最小或最大（根据具体的任务确定）的模型，从而实现模型训练优化的目的。该技术一般使用反向传播算法来求取智能模型的梯度，随后使用随机梯度下降算法来改善模型。在这个过程中，数据信息不断进入模型，成为模型判断的信息基础。然而，由于单纯使用随机梯度下降算法的局限性，智能模型难以区分数据中存在的相关关系和因果关系（其中因果关系是相关关系的一部分，代表了二者存在直接的因果影响。除了因果关系之外，相关关系还包括了存在共同原因导致的混淆偏差以及存在共同结果导致的选择偏差，这些非因果的相关关系会导致风险识别存在不稳定性），导致我们无法克服数据收集阶段的局限性（比如仅收集单一企业产生的数据存在选择偏差，无法覆盖所面临攻击的所有细节）。因此，这种单纯的随机梯度下降算法会导致智能模型学习到一些非正常的相关关系，从而导致做出错误判断。这种非因果的相关关系正是潜在攻击者可能利用的目标。博弈论是分析不同行为主体之间彼此交互的数学工具，通过形式化交互的经济属性，在理性人的假设下对不同行为主体的行为进行判断，并根据预期行为作出最优的决策加以应对。在博弈论中，成本收益矩阵是一个基本的分析要素，由于理性人假设的存在，每个行为主体会选择收益更高的策略加以执行，这种合理的简化使得预测对手行为变得可能。在实践中，成本和收益可以在长期的社会实践中观察和收集，而博弈论帮助特定的行为主体将成本和收益转化为对对手行为的预期，从而客观上刻画对手的行为。

随着互联网技术的应用和普及，国家和企业愈发频繁地接触到互联网带来的长尾效应，导致依靠人工进行风险识别的传统方法无法应对互联网时代下的海量业务数据。为此，国家和企业开始引入人工智能技术进行智能风险识别，如基于多层感知机技术的网络赌博风险识别、基于集成树模型的洗钱风险识别。然而，智能风险识别技术也面临着潜在的攻击挑战：潜在的攻击者可以调整自己的行为模式绕过风险识别系统，从而获取巨大的经济利益。这种隐藏潜在攻击的行为一方面给企业带来了风险和经济损失；另一方面也给国家的监管防护带来了难度。因此，如何提高识别风险的鲁棒程度成为了经济社会发展的重要组成部分。

发明内容

本发明旨在至少在一定程度上解决相关技术中的技术问题之一。

本发明的目的是解决风险识别系统中的对抗性攻击问题。为此，提出了一种基于博弈分析的鲁棒风险识别方法，本发明借助博弈模型构建具有随机策略的模型训练方法，以训练的不确定性降低潜在攻击者的攻击收益，提高攻击成本，进而减少此类攻击的发生。

本发明的另一个目的在于提出一种基于博弈分析的鲁棒风险识别装置。

为达上述目的，本发明一方面提出一种基于博弈分析的鲁棒风险识别方法，包括：

基于专家经验得到风险识别模型相对于原始数据的属性的成本收益信息；

根据所述成本收益信息构建基于属性的成本收益矩阵；

基于所述成本收益矩阵得到混合策略均衡概率，并利用所述混合策略均衡概率和伯努利分布确定伯努利随机变量；

利用预设算法采样所述伯努利随机变量以对所述原始数据进行处理得到处理后的数据，并利用所述处理后的数据对所述风险识别模型进行训练以得到鲁棒的风险识别模型。

本发明实施例的基于博弈分析的鲁棒风险识别方法还可以具有以下附加技术特征：

在本发明的一个实施例中，所述成本收益信息，包括攻击所需的成本、攻击而模型使用属性进行训练时的收益、攻击而模型未使用属性进行训练时的收益、未攻击而模型未使用属性进行训练的收益以及未攻击而模型使用属性进行训练的收益。

在本发明的一个实施例中，根据所述成本收益矩阵得到混合策略均衡概率，包括：

确定属性的使用概率表达式和未使用概率表达式；

根据所述使用概率表达式和未使用概率表达式构建均衡方程；

求解所述均衡方程得到混合策略均衡概率，以根据所述混合策略均衡概率确定属性的使用概率。

在本发明的一个实施例中，利用预设算法采样所述伯努利随机变量以对所述原始数据进行处理得到处理后的数据，包括：

通过Monte Carlo算法对所述伯努利随机变量进行独立同分布采样以得到伯努利随机变量的采样值；

利用所述采样值对所述原始数据进行数据处理以得到所述处理后的数据。

在本发明的一个实施例中，在得到所述处理后的数据之后，所述方法，还包括：

预设模型优化停止条件；

利用所述处理后的数据进行模型训练优化，判断优化后的模型是否满足所述模型优化停止条件，若否，则继续采样数据并采用所述方法处理数据进行训练；若是，则判断所述专家经验是否更新。

为达上述目的，本发明另一方面提出一种基于博弈分析的鲁棒风险识别装置，包括：

成本收益信息获取模块，用于基于专家经验得到风险识别模型相对于原始数据的属性的成本收益信息；

成本收益矩阵构建模块，用于根据所述成本收益信息构建基于属性的成本收益矩阵；

概率计算变量确定模块，用于基于所述成本收益矩阵得到混合策略均衡概率，并利用所述混合策略均衡概率和伯努利分布确定伯努利随机变量；

数据优化模型训练模块，用于利用预设算法采样所述伯努利随机变量以对所述原始数据进行处理得到处理后的数据，并利用所述处理后的数据对所述风险识别模型进行训练以得到鲁棒的风险识别模型。

本发明实施例的基于博弈分析的鲁棒风险识别方法和装置，通过对数据属性的攻击收益和成本分析，动态调节人工智能算法中的信息使用概率，以减小潜在攻击者的攻击收益，从而降低攻击成功的概率，并提供鲁棒的风险识别模型。同时，可以有效地限制数据收集阶段的局限性，从而利用成本收益知识增强输入与输出之间的因果联系，为鲁棒识别提供支撑。

本发明附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。

附图说明

本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1是根据本发明实施例的基于博弈分析的鲁棒风险识别方法的流程图；

图2是根据本发明实施例的基于博弈分析的鲁棒风险识别逻辑图；

图3是根据本发明实施例的业务场景示意图；

图4是根据本发明实施例的基于博弈分析的鲁棒风险识别装置的结构示意图。

具体实施方式

需要说明的是，在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本发明。

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

下面参照附图描述根据本发明实施例提出的基于博弈分析的鲁棒风险识别方法和装置。

可以理解的是，本发明的基于博弈分析的鲁棒风险识别方法主要涉及风险识别场景，如图3所示，比如在一个风险识别任务中，防御者可以利用人工智能等技术手段进行风险识别；而攻击者则会通过观察防御者对不同数据作出的识别结果，修改自身的相应属性，从而规避风险识别，进而实施违规的风险行为。本发明的基本思想是通过引入博弈分析，获取输入属性使用或丢弃的最优概率分布，并根据相应的概率分布使用输入属性，从而控制该属性对模型决策的影响。由于在机器学习的优化过程中，从不同属性流入模型的信息量与该属性的使用频率强相关。当减少该属性在梯度下降中的使用频率时，可以相应地减少其在模型决策阶段的重要程度，从而影响决策结果。同时，由于攻击发生时会改变原本数据的概率分布，从而诱使模型作出错误的决策。因此，通过减少易受攻击属性的重要程度，可以增加风险识别的鲁棒程度。由于攻防双方的交互可以建模为一个二人博弈过程，通过引入成本收益的先验知识来刻画攻击者攻击特定属性的概率，并利用此概率分布指导模型训练，可以获取鲁棒的风险识别模型。基于这种思想，本发明提出了一种基于博弈分析的鲁棒风险识别模型训练方法，该方法可以将成本收益作为先验知识引入模型的训练过程，从而提高模型提取因果关系的能力，为互联网时代的风险识别训练更安全、更鲁棒的模型。

图1是本发明实施例的基于博弈分析的鲁棒风险识别方法的流程图，图2为本发明实施例的方法的逻辑流程图。

如图1和图2所示，该方法包括但不限于以下步骤：

S1，基于专家经验得到风险识别模型相对于原始数据的属性的成本收益信息。

具体地，根据历史信息和先验知识，获取攻击属性的成本与收益，为后续的博弈分析提供数据支撑。

在本发明的一个实施例中，对于d维数据D中的任意属性，，通过专家经验获取成本、收益变量：包括攻击所需的成本、攻击而模型使用进行训练时的收益、攻击而模型未使用进行训练时的收益、未攻击而模型未使用进行训练的收益和未攻击而模型使用进行训练的收益。

S2，根据成本收益信息构建基于属性的成本收益矩阵。

具体地，根据成本收益信息，构建成本收益矩阵。这种结构化的成本收益信息为可以简化均衡的求解过程。

在本发明的一个实施例中，对于任意属性，利用步骤S1中获取的信息，构建成本收益矩阵，如表1所示：

表1

S3，基于成本收益矩阵得到混合策略均衡概率，并利用混合策略均衡概率和伯努利分布确定伯努利随机变量。

具体地，利用步骤S2中获得的成本收益矩阵求取均衡概率，从而获取使用属性的概率。包括：

假设使用的概率为，则未使用的概率为

列出关于的均衡方程：

∙() +()∙() =∙+(∙

解出均衡概率：

S4，利用预设算法采样伯努利随机变量以对原始数据进行处理得到处理后的数据，并利用处理后的数据对风险识别模型进行训练以得到鲁棒的风险识别模型。

具体地，利用的使用概率构造mask随机变量的分布，从而可以使用mask对进入模型的信息进行调节，包括：

利用步骤S3中求得的概率构造mask。其中，对于属性来说，服从伯努利分布，如表2所示：

表2

当时，属性的信息可以用于模型训练；反之，属性的信息不可用于模型训练。

获取()，其中为上一步骤的伯努利随机变量。

在本发明的一个实施例中，利用Monte Carlo算法对mask进行采样，并作用于原始数据，以过滤数据信息，包括：

根据上一步骤中构造的d个伯努利分布（即），分别进行独立同分布采样，获取mask变量的采样值。

将采样值根据如下式子作用于原始数据D，以调节数据中的信息：

其中代表哈达玛积。

进一步地，利用处理后的数据代替原有数据D进行随机梯度下降，以训练鲁棒的风险识别模型。

进一步地，若未达到训练结束的条件，返回步骤S4采样重新进行下一轮训练。

进一步地，若先验知识以及历史信息发生变化，返回步骤S1重新获取信息，并计算相应使用概率。

综上，本发明通过对数据属性的攻击收益和成本分析，动态调节人工智能算法中的信息使用概率，以减小潜在攻击者的攻击收益，从而降低攻击成功的概率，并提供鲁棒的风险识别模型。同时，该方法是一种数据无关的方法，可以有效地限制数据收集阶段的局限性，从而利用成本收益知识增强输入与输出之间的因果联系，为鲁棒识别提供支撑。

根据本发明实施例的基于博弈分析的鲁棒风险识别方法，利用博弈分析建模了风险识别中的对抗攻击问题，通过专家经验和知识的引入，以数据无关且模型无关的方式改进了模型的训练过程，使得模型提取因果关系的能力大大提升。同时，这种利用掩码限制信息进入模型的训练方法理论上增加了攻击者面临的不确定性以及所需攻击成本，降低了受攻击的概率，提高了风险识别的鲁棒性。

为了实现上述实施例，如图4所示，本实施例中还提供了基于博弈分析的鲁棒风险识别装置10，该装置10包括，成本收益信息获取模块100、成本收益矩阵构建模块200、概率计算变量确定模块300和数据优化模型训练模块400；

成本收益信息获取模块100，用于基于专家经验得到风险识别模型相对于原始数据的属性的成本收益信息；

成本收益矩阵构建模块200，用于根据成本收益信息构建基于属性的成本收益矩阵；

概率计算变量确定模块300，用于基于成本收益矩阵得到混合策略均衡概率，并利用混合策略均衡概率和伯努利分布确定伯努利随机变量；

数据优化模型训练模块400，用于利用预设算法采样伯努利随机变量以对原始数据进行处理得到处理后的数据，并利用处理后的数据对所述风险识别模型进行训练以得到鲁棒的风险识别模型。

进一步地，成本收益信息，包括攻击所需的成本、攻击而模型使用属性进行训练时的收益、攻击而模型未使用属性进行训练时的收益、未攻击而模型未使用属性进行训练的收益以及未攻击而模型使用属性进行训练的收益。

进一步地，上述概率计算变量确定模块300，还用于：

确定属性的使用概率表达式和未使用概率表达式；

根据所述使用概率表达式和未使用概率表达式构建均衡方程；

求解所述均衡方程得到混合策略均衡概率，以根据所述混合策略均衡概率确定属性的使用概率。

进一步地，上述数据优化模型训练模块400，还用于：

通过Monte Carlo算法对所述伯努利随机变量进行独立同分布采样以得到伯努利随机变量的采样值；

利用所述采样值对所述原始数据进行数据处理以得到所述处理后的数据。

进一步地，在数据优化模型训练模块400之后，还包括：数据更新判断模块，用于：

预设模型优化停止条件；

利用处理后的数据进行模型训练优化，判断优化后的模型是否满足所述模型优化停止条件，若否，则继续采样数据并采用上述方法处理数据进行训练；若是，则判断专家经验是否更新。

根据本发明实施例的基于博弈分析的鲁棒风险识别装置，利用博弈分析建模了风险识别中的对抗攻击问题，通过专家经验和知识的引入，以数据无关且模型无关的方式改进了模型的训练过程，使得模型提取因果关系的能力大大提升。同时，增加了攻击者面临的不确定性以及所需攻击成本，降低了受攻击的概率，提高了风险识别的鲁棒性。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、 “示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

Claims (2)

1.一种基于博弈分析的鲁棒风险识别方法，其特征在于，所述方法包括：

基于专家经验得到风险识别模型相对于原始数据的属性的成本收益信息；

根据所述成本收益信息构建基于属性的成本收益矩阵；

基于所述成本收益矩阵得到混合策略均衡概率，并利用所述混合策略均衡概率和伯努利分布确定伯努利随机变量；

利用预设算法采样所述伯努利随机变量以对所述原始数据进行处理得到处理后的数据，并利用所述处理后的数据对所述风险识别模型进行训练以得到鲁棒的风险识别模型；

所述成本收益信息，包括攻击所需的成本、攻击而模型使用属性进行训练时的收益、攻击而模型未使用属性进行训练时的收益、未攻击而模型未使用属性进行训练的收益以及未攻击而模型使用属性进行训练的收益；

根据所述成本收益矩阵得到混合策略均衡概率，包括：

确定属性的使用概率表达式和未使用概率表达式；

根据所述使用概率表达式和未使用概率表达式构建均衡方程；

求解所述均衡方程得到混合策略均衡概率，以根据所述混合策略均衡概率确定属性的使用概率；

利用预设算法采样所述伯努利随机变量以对所述原始数据进行处理得到处理后的数据，包括：

通过Monte Carlo算法对所述伯努利随机变量进行独立同分布采样以得到伯努利随机变量的采样值；

利用所述采样值对所述原始数据进行数据处理以得到所述处理后的数据；

在得到所述处理后的数据之后，所述方法，还包括：

预设模型优化停止条件；

利用所述处理后的数据进行模型训练优化，判断优化后的模型是否满足所述模型优化停止条件，若否，则继续采样数据并处理数据进行训练；若是，则判断所述专家经验是否更新。

2.一种基于博弈分析的鲁棒风险识别装置，其特征在于，包括：

成本收益信息获取模块，用于基于专家经验得到风险识别模型相对于原始数据的属性的成本收益信息；

成本收益矩阵构建模块，用于根据所述成本收益信息构建基于属性的成本收益矩阵；

概率计算变量确定模块，用于基于所述成本收益矩阵得到混合策略均衡概率，并利用所述混合策略均衡概率和伯努利分布确定伯努利随机变量；

数据优化模型训练模块，用于利用预设算法采样所述伯努利随机变量以对所述原始数据进行处理得到处理后的数据，并利用所述处理后的数据对所述风险识别模型进行训练以得到鲁棒的风险识别模型；

所述成本收益信息，包括攻击所需的成本、攻击而模型使用属性进行训练时的收益、攻击而模型未使用属性进行训练时的收益、未攻击而模型未使用属性进行训练的收益以及未攻击而模型使用属性进行训练的收益；

所述概率计算变量确定模块，还用于：

确定属性的使用概率表达式和未使用概率表达式；

根据所述使用概率表达式和未使用概率表达式构建均衡方程；

求解所述均衡方程得到混合策略均衡概率，以根据所述混合策略均衡概率确定属性的使用概率；

所述数据优化模型训练模块，还用于：

通过Monte Carlo算法对所述伯努利随机变量进行独立同分布采样以得到伯努利随机变量的采样值；

利用所述采样值对所述原始数据进行数据处理以得到所述处理后的数据；

在所述数据优化模型训练模块之后，还包括：数据更新判断模块，用于：

预设模型优化停止条件；

利用所述处理后的数据进行模型训练优化，判断优化后的模型是否满足所述模型优化停止条件，若否，则继续采样数据并处理数据进行训练；若是，则判断所述专家经验是否更新。