CN121122603B - 一种数据批量处理方法及设备 - Google Patents

Abstract

本申请公开了一种数据批量处理方法及设备，涉及人工智能技术领域，包括：通过将激活函数拟合为目标多项式函数，并将医疗影像数据经预设影像分析模型中的线性层处理后得到的中间值集合作为该目标多项式函数的待求值点集合，接着分别基于目标多项式函数的系数和预设参数构建系数矩阵，并基于待求值点集合构建第一矩阵和第二矩阵，将原本需要逐元素、串行计算的非线性激活函数，通过多项式近似与张量分解，重构为由系数矩阵、第一矩阵和第二矩阵构成的批量矩阵运算序列，进而通过矩阵运算得到待求值点集合的函数值，并近似为激活函数的计算结果。由于矩阵运算可直接利用GPU的张量核心进行并行加速，大幅提升批量数据的处理速度。

Description

一种数据批量处理方法及设备

技术领域

本申请涉及人工智能安全领域，尤其涉及一种数据批量处理方法及设备。

背景技术

随着人工智能技术在医疗领域的深入应用，基于深度学习的医疗影像分析已成为辅助医生诊断的重要工具。这类应用通常依赖于复杂的卷积神经网络模型，模型中包含大量的非线性激活函数，其目的是引入非线性，使网络能够学习并拟合复杂的医学特征模式，而激活函数的计算效率也直接影响模型的实时性。

传统方案中，激活函数的计算多采用逐元素串行处理模式，即在得到线性层输出的中间值后，逐个代入激活函数求解。然而随着医疗影像分辨率的提升和模型深度的增加，中间值集合的规模急剧扩大，串行计算模式面临严重的性能瓶颈，难以满足批量处理需求，且这种串行计算模式难以充分利用现代GPU（Graphic Processing Unit，图形处理器）的大规模并行架构。为了提升效率，通常采用多项式函数来近似复杂的激活函数，多项式求值方法虽然在串行计算上高效，但其内在的数据依赖特性限制了并行计算潜力，因此这种方式在批量处理效率和充分利用GPU张量核心等高并行度硬件特性方面仍然存在不足。

综上，如何提高激活函数批量计算的效率，以提高神经网络的推理性能。

发明内容

本申请提供了一种数据批量处理方法及设备，以至少解决相关技术中神经网络推理过程中激活函数计算效率低下的问题。

本申请提供了一种数据批量处理方法，应用于服务端，包括：

获取医疗影像数据经预设影像分析模型中的线性层处理后得到的中间值集合，并将中间值集合作为目标多项式函数的待求值点集合；预设影像分析模型为基于神经网络构建的模型，目标多项式函数为对预设影像分析模型中的激活函数进行拟合后得到的；

基于目标多项式函数的系数和预设参数构建系数矩阵；

基于待求值点集合和第一类向量构建第一矩阵；第一类向量为关于每一待求值点的幂次增加步长为预设参数的幂次序列；

基于待求值点集合和第二类向量构建第二矩阵；第二类向量为关于每一待求值点的幂次增加步长为1的幂次序列；

对系数矩阵、第一矩阵和第二矩阵进行矩阵运算，以得到目标多项式函数关于待求值点集合的函数值；

将函数值作为预设影像分析模型的激活函数的计算结果，以基于计算结果确定医疗影像数据的处理结果。

本申请还提供了一种电子设备，包括：存储器，用于存储计算机程序；处理器，用于执行计算机程序时实现上述任一种数据批量处理方法的步骤。

本申请还提供了一种计算机可读存储介质，计算机可读存储介质中存储有计算机程序，其中，计算机程序被处理器执行时实现上述任一种数据批量处理方法的步骤。

本申请还提供了一种计算机程序产品，包括计算机程序，计算机程序被处理器执行时实现上述任一种数据批量处理方法的步骤。

有益效果：本申请通过将激活函数拟合为目标多项式函数，并将医疗影像数据经预设影像分析模型中的线性层处理后得到的中间值集合作为该目标多项式函数的待求值点集合，接着分别基于目标多项式函数的系数和预设参数构建系数矩阵，并基于待求值点集合构建第一矩阵和第二矩阵，将原本需要逐元素、串行计算的非线性激活函数，通过多项式近似与张量分解，重构为由系数矩阵、第一矩阵和第二矩阵构成的批量矩阵运算序列，进而通过矩阵运算得到目标多项式函数关于待求值点集合的函数值，并近似为激活函数的计算结果。由于矩阵运算可直接利用GPU的张量核心进行并行加速，因此可以大幅提升批量中间值的处理速度，并快速得到医疗影像数据的处理结果，从而解决传统激活函数计算模式在GPU上并行度不足、无法充分利用硬件性能而导致影像分析模型批量推理吞吐量低下的技术问题，达到显著提升模型推理效率与系统吞吐量的技术效果。

附图说明

为了更清楚地说明本申请实施例，下面将对实施例中所需要使用的附图做简单的介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本申请实施例提供的一种数据批量处理方法流程图；

图2为本申请实施例提供的一种多项式函数的张量化表示示例图；

图3为本申请实施例提供的一种哈达玛乘法的安全多方计算示例图；

图4为本申请实施例提供的一种数据批量处理装置结构示意图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下，所获得的所有其他实施例，都属于本申请保护范围。

需要说明的是，在本申请的描述中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。本申请中的术语“第一”、“第二”等是用于区别类似的对象，而不用于描述特定的顺序或先后次序。

为了使本技术领域的技术人员更好地理解本申请方案，下面结合附图和具体实施方式对本申请作进一步的详细说明。

首先对本申请实施例提供的一种数据批量处理方法涉及的一些术语概念做解释说明。

线性层：也叫全连接层，是神经网络中最基本、最常用的组件之一，其核心作用是将输入的特征进行线性组合，从而创造出新的、更高级或更具区分度的特征。多个线性层与非线性激活函数堆叠起来，就能让神经网络逼近任何复杂的函数，激活函数的输入，通常就来自于线性层的输出。

哈达玛乘法（Hadamard）：哈达玛乘法也称为逐元素乘法，是一种针对两个维度完全相同的矩阵（或向量）的元素级乘法运算，运算规则为两个矩阵对应位置的元素直接相乘，最终得到一个与原矩阵维度相同的新矩阵，通常用符号“”表示。也即Hadamard矩阵乘法是指具有相同行数和列数的两个矩阵之间的乘法，其乘积矩阵具有相同的行数和列数，且乘积矩阵的每个元素等于两个因式矩阵对应位置的元素乘积。该运算在本方案中用于实现多项式函数的批量求值，通过将第一矩阵与系数矩阵的经典乘法结果，与第二矩阵进行元素级相乘，高效完成多个待求值点的并行计算，且因运算规则简单、并行度高，非常适合GPU的张量核心加速。

安全多方计算：安全多方计算是一种密码学技术，允许多个参与方在不泄露各自私有数据的前提下，协同完成对某个函数的计算，最终仅获得计算结果，而无法获取其他参与方的原始数据。

其核心目标是解决数据可用不可见的问题，常见实现方式包括秘密分享、同态加密等。在本方案中，多个服务端分别持有医疗影像中间值的秘密份额（而非完整数据），通过协同执行矩阵运算、哈达玛乘法等操作，共同完成激活函数的批量计算，既保证了计算的准确性，又防止了单个服务端窃取敏感医疗数据，可适配医疗、金融等对数据隐私要求极高的场景。

参见图1所示，本申请的实施例提供了一种数据批量处理方法，应用于服务端，该方法包括：

步骤S11：获取医疗影像数据经预设影像分析模型中的线性层处理后得到的中间值集合，并将中间值集合作为目标多项式函数的待求值点集合；预设影像分析模型为基于神经网络构建的模型，目标多项式函数为对预设影像分析模型中的激活函数进行拟合后得到的。

本实施例中，基于深度学习的医疗影像分析已成为辅助医生诊断的重要工具，在这个过程中则主要利用到基于神经网络构建的预设影像分析模型，该预设影像分析模型可以是用于判断整张影像的类别的图像分类模型，也可以是用于对影像中的每个像素进行分类，从而勾画出病灶的精确轮廓的图像分割模型，还可以是用于定位并识别影像中的多个病灶，用边界框标出并给出类别的目标检测模型等等，本实施例对此不作限制。此外，本实施例对预设影像分析模型所使用的神经网络架构也不作限制，例如可以是ResNet（深度残差网络）、DenseNet（密集连接网络）等等。

本申请实施例通过将预设影像分析模型中的激活函数拟合为目标多项式函数，并将医疗影像数据经预设影像分析模型中的线性层处理后得到的中间值集合作为该目标多项式函数的待求值点集合。可以理解的是，医疗影像如CT扫描图像、核磁共振影像、病理切片图像等本身是像素矩阵，无法直接作为激活函数的输入，需要通过神经网络的前序层（如卷积层、池化层、全连接层等）进行特征提取，将图像的空间信息、纹理信息、病灶特征等转化为低维的数值型特征，这些特征值就是待求值点的直接来源。而在神经网络推理中，激活函数的作用是为模型引入非线性，增强模型对复杂特征的表达能力，待求值作为激活函数的输入，再将通过激活函数进行计算后得到的输出值作为下一层网络的输入，最终参与到病灶识别、病情分级、影像诊断等核心任务的推理过程中。

步骤S12：基于目标多项式函数的系数和预设参数构建系数矩阵。

本实施例中，服务端在对激活函数进行多项式拟合后，构造得到如下形式的目标多项式函数：

；

其中，x为目标多项式函数的自变量，a₀至a_n为多项式的系数，n为目标多项式函数的次数。

进一步的，服务端会选取一个预设参数k，再基于目标多项式函数的系数和预设参数k构建用于对多项式函数进行张量化转换的矩阵，即系数矩阵。

在具体实施方式中，上述基于目标多项式函数的系数和预设参数构建系数矩阵，包括：基于预设参数和目标多项式函数的当前次数对目标多项式函数进行扩充，以得到扩充后多项式函数；其中，扩充后多项式函数的次数为预设参数的整数倍，扩充后多项式函数中次数高于当前次数的单项式的系数为0；基于扩充后多项式函数的系数构建系数矩阵；系数矩阵用于对扩充后多项式函数进行张量化转换。

本实施例中，服务端需要根据选取的预设参数k和目标多项式函数的当前次数n对目标多项式函数进行扩充，具体通过添加若干系数为0的高次项，使得扩充后多项式函数的次数N能够被预设参数k整除，即N为k的整数倍。其中，扩充后多项式函数的表达式如下：

；

其中，对于，有；对于，有，N为不小于n的正整数。

具体的，基于扩充后多项式函数的系数构建系数矩阵，包括：从首个非常数项开始，对扩充后多项式函数中的系数依次进行分组，以得到各分组；每一分组中包括连续目标数量个按照对应次数从低到高的顺序进行排列的系数，目标数量的值与预设参数的值相同；将各分组按照从上到下的顺序进行排列，以得到系数矩阵。也即，服务端基于扩充后多项式函数的系数构造后续用于对多项式函数进行张量化转换的系数矩阵。

也即，服务端从扩充后多项式函数的首个非常数项（即第1项）的系数开始，对扩充后多项式函数中的系数依次进行分组，以得到各分组。其中，分组数量为r组，，且每一分组中包括连续k个按照对应次数从低到高的顺序进行排列的系数。也即，服务端第1项的系数开始，每k个相邻项的系数为一组，总共分成r组，然后再将r组系数按照既有顺序从上到下进行排列，从而得到系数矩阵。系数矩阵具体为如下形式的矩阵：

。

步骤S13：基于待求值点集合和第一类向量构建第一矩阵；第一类向量为关于每一待求值点的幂次增加步长为预设参数的幂次序列。

本实施例公开了一种第一类向量的构建方式，其具体为关于每一待求值点的幂次增加步长为预设参数k的幂次序列，再通过基于待求值点集合和第一类向量构建得到第一矩阵。

其中，第一类向量为从自变量的0次幂开始，并以幂次增加步长为预设参数进行排列的行向量。也即，服务端以幂次增加步长为k，将自变量的0次幂至次幂按照既有顺序排列成行向量，以得到第一类向量，其具体形式为：。

进一步的，上述基于待求值点集合和第一类向量构建第一矩阵，包括：将待求值点集合中的每一待求值点依次代入第一类向量中的自变量，并按照从上到下的顺序依次进行排列，以得到第一矩阵。也即，服务端基于第一类向量的形式构造用于计算多项式函数向量的第一矩阵，具体的，假设待求值点集合中的待求值数量为m，分别为，服务端则依次用m个待求值点代入第一类向量中的自变量，并按照既有顺序从上到下依次排列，即得到第一矩阵，其中第一矩阵的具体形式为：

。

步骤S14：基于待求值点集合和第二类向量构建第二矩阵；第二类向量为关于每一待求值点的幂次增加步长为1的幂次序列。

本实施例还公开了一种第二类向量的构建方式，其具体为关于每一待求值点的幂次增加步长为1的幂次序列，再通过基于待求值点集合和第二类向量构建得到第二矩阵。

其中，第二类向量为从自变量的1次幂开始，并以幂次增加步长为1进行排列的列向量。也即，服务端以幂次增加步长为1，将自变量的1次幂至k次幂按照既有顺序排列成列向量，以得到第二类向量，其具体形式为：。

进一步的，上述基于待求值点集合和第二类向量构建第二矩阵，包括：将待求值点集合中的每一待求值点依次代入第二类向量中的自变量，并对每一列向量取转置后，按照从上到下的顺序依次进行排列，以得到第二矩阵。也即，服务端基于第二类向量的形式构造用于计算多项式函数向量的第二矩阵，具体的，假设待求值点集合中的待求值数量为m，分别为，服务端则依次用m个待求值点代入第二类向量中的自变量，并对m个列向量取转置后，按照既有顺序从上到下依次排列，即得到第二矩阵，其中第二矩阵的具体形式为：

。

步骤S15：对系数矩阵、第一矩阵和第二矩阵进行矩阵运算，以得到目标多项式函数关于待求值点集合的函数值。

本实施例中，通过对构建的系数矩阵、第一矩阵和第二矩阵进行矩阵运算，可以得到目标多项式函数关于待求值点集合的函数值。也即，本申请将原本需要逐元素、串行计算的非线性激活函数，通过多项式近似与张量分解，重构为由系数矩阵、第一矩阵和第二矩阵构成的批量矩阵运算序列，进而通过矩阵运算得到目标多项式函数关于待求值点集合的函数值。

在具体实施方式中，对系数矩阵、第一矩阵和第二矩阵进行矩阵运算，以得到目标多项式函数关于待求值点集合的函数值，包括：对第一矩阵和系数矩阵进行矩阵乘法运算，以得到第一运算结果，并对第一运算结果与第二矩阵进行哈达玛乘法运算，以得到哈达玛乘积结果；对哈达玛乘积结果与‌全1列向量进行矩阵乘法运算，以得到第二运算结果，并获取对目标多项式函数中的常数项构建的常数项向量；基于第二运算结果和常数项向量的和值得到目标多项式函数关于待求值点集合的函数值。

也即，服务端基于系数矩阵、第一矩阵和第二矩阵将多项式函数向量转换成张量乘积的形式，具体的，对第一矩阵和系数矩阵进行矩阵乘法运算，以得到第一运算结果，此处的矩阵乘法指的是经典乘法运算，即将两个矩阵的行与列对应元素相乘后再求和，从而得到新矩阵的运算；接着再对第一运算结果与第二矩阵进行哈达玛乘法运算，以得到哈达玛乘积结果，然后再对哈达玛乘积结果与‌全1列向量进行矩阵乘法运算，以得到第二运算结果，此处的全1列向量指的是每个元素均为1的列向量，最后获取对目标多项式函数中的常数项构建的常数项向量，并将第二运算结果加上常数项向量从而得到目标多项式函数在m个待求值处的函数值。矩阵运算的详细过程如下：

；

其中符号“”表示矩阵乘法运算，符号“”表示哈达玛乘法运算。

需要指出的是，上述过程本质依赖于多项式函数的张量化运算，假设待求值点的数量只有一个，那么在计算目标多项式函数在该待求值处的函数值时，服务端执行以下计算：

逐步计算待求值点的2次幂至k次幂（幂次增加步长为1），以及2次幂至次幂（幂次增加步长为k）；对目标多项式函数进行扩充得到扩充后多项式函数，再将扩充后多项式函数的系数序列从1次项开始每连续k个系数为一组按行排列为矩阵，不足k个系数的行通过填充0的方式补齐，从而得到系数矩阵；将待求值点的0次幂、k次幂至次幂按既有顺序表示为行向量的形式得到第一类向量，将待求值点的1次幂、2次幂至k次幂按既有顺序表示为列向量的形式得到第二类向量。然后服务端对第一类向量与系数矩阵进行乘法运算，并将运算结果与第二类向量做内积运算得到扩充后多项式函数的最后N项，再将内积运算结果加上常数项即得到目标多项式函数在待求值点处的函数值，图2为本申请实施例公开的一种多项式函数的张量化表示示例，该图中预设参数k取值为4，其中，扩充后多项式函数的张量形式如下：

。

此外，本申请实施例还提供了一种扩充后多项式函数的等价形式，也即，第一类向量可以为将自变量的1次幂至k次幂（幂次增加步长为1）按照既有顺序排列成行向量；第二类向量可以为：将自变量的0次幂至次幂（幂次增加步长为k）按照既有顺序排列成列向量；系数矩阵可以为：从扩充后多项式函数的第1项（首个非常数项）的系数开始，每k个相邻项的系数为一组分成r组，然后将r组系数按照既有顺序从左到右排列即得到系数矩阵。其中，扩充后多项式函数的等价形式为：

。

步骤S16：将函数值作为预设影像分析模型的激活函数的计算结果，以基于计算结果确定医疗影像数据的处理结果。

本实施例中，将通过矩阵运算得到的目标多项式函数关于待求值点集合的函数值，近似为激活函数的计算结果。可以理解的是，由于矩阵运算可直接利用GPU的张量核心进行并行加速，因此可以大幅提升批量中间值的处理速度，并快速得到医疗影像数据的处理结果，从而解决传统激活函数计算模式在GPU上并行度不足、无法充分利用硬件性能而导致影像分析模型批量推理吞吐量低下的技术问题，达到显著提升模型推理效率与系统吞吐量的技术效果。

需要注意的是，本申请的方案仅是以医疗影像神经网络推理为例进行的说明，实际上，这种通过多项式近似与张量分解，重构为由系数矩阵、第一矩阵和第二矩阵构成的批量矩阵运算序列的方式可以应用于任何神经网络推理的应用场景中，用于对激活函数进行批量计算，从而提高神经网络的推理性能。例如对于金融风控领域，在基于神经网络的信贷风险评估中，需对用户的多维金融数据（如收入、负债、征信记录等）进行非线性特征转换，以将用户的金融特征值作为激活函数的输入，再通过激活函数输出风险评分。又例如对于自动驾驶领域，自动驾驶系统的神经网络需实时处理激光雷达、摄像头、毫米波雷达的多维感知数据（如障碍物距离、速度、车道线位置等），通过对这些多维感知数据进行预处理和特征提取后，作为激活函数的输入，再通过激活函数实现特征非线性映射，辅助车辆决策（如刹车、转向）。

可见，本申请通过将激活函数拟合为目标多项式函数，并将医疗影像数据经预设影像分析模型中的线性层处理后得到的中间值集合作为该目标多项式函数的待求值点集合，接着分别基于目标多项式函数的系数和预设参数构建系数矩阵，并基于待求值点集合构建第一矩阵和第二矩阵，将原本需要逐元素、串行计算的非线性激活函数，通过多项式近似与张量分解，重构为由系数矩阵、第一矩阵和第二矩阵构成的批量矩阵运算序列，进而通过矩阵运算得到目标多项式函数关于待求值点集合的函数值，并近似为激活函数的计算结果。由于矩阵运算可直接利用GPU的张量核心进行并行加速，因此可以大幅提升批量中间值的处理速度，并快速得到医疗影像数据的处理结果，从而解决传统激活函数计算模式在GPU上并行度不足、无法充分利用硬件性能而导致影像分析模型批量推理吞吐量低下的技术问题，达到显著提升模型推理效率与系统吞吐量的技术效果。

进一步还需要指出的是，在医疗、金融等敏感领域通常需要进行隐私保护，此时需确保计算过程中输入数据的不可见性。而在需要保护推理数据隐私的场景下，基于秘密分享的隐私计算协议是保护数据隐私的常用技术，传统方案中能够实现加法、乘法等基本的算术运算和比较运算的安全计算。对于神经网络推理中的激活函数，直接在秘密分享的数据上计算复杂激活函数或其精确多项式近似通常非常低效。虽然可以采取使用分段多项式或查表等方法在MPC（Secure Multi-Party Computation，安全多方计算）下近似激活函数，但这些方法往往缺乏对GPU架构的深度优化，因此，如何高效地、以高度数据并行的方式，在秘密分享状态下批量计算多项式函数，同时保持协议的安全性和最小化通信轮次，是当前面临的显著挑战。

因此，基于前述实施例公开的内容，在安全多方计算环境下，本申请中的各服务端则分别持有待求值点集合中每一待求值点的秘密份额。假设有t个服务端，那么则t个服务端联合持有m个待求值的加法秘密分享。可以理解的是，每一个待求值都会通过特定算法被分成t份（称为份额），然后分发给t个服务端，整个过程就是秘密分享，而每一个服务端则持有其中的一份数据，即持有每一个待求值点的一份秘密份额。

相应的，本申请的数据批量处理方法，还包括：确定第一类向量中的第一幂次信息，并确定第二类向量中的第二幂次信息，并基于每一待求值点的秘密份额计算得到每一待求值点关于第一幂次信息和第二幂次信息的秘密份额。可以理解的是，通过前述内容可知，第一类向量中的第一幂次信息为自变量的0次幂至次幂，第二类向量中的第二幂次信息，自变量的1次幂至k次幂，因此本申请实施例中，每一服务端需要基于每一待求值点的秘密份额计算得到每一待求值点关于第一幂次信息和第二幂次信息的秘密份额。也即，对于，各服务端由的加法秘密分享协作计算各幂次的加法秘密分享。

在安全多方计算场景下，基于待求值点集合和第一类向量构建第一矩阵，包括：将每一待求值点关于第一幂次信息和第二幂次信息的秘密份额依次代入第一类向量中的自变量，并按照从上到下的顺序依次进行排列，以得到第一矩阵的秘密份额；相应的，基于待求值点集合和第二类向量构建第二矩阵，包括：将每一待求值点关于第一幂次信息和第二幂次信息的秘密份额依次代入第二类向量中的自变量，并对每一列向量取转置后，按照从上到下的顺序依次进行排列，以得到第二矩阵的秘密份额。

可以理解的是，各服务端会基于待求值各幂次的秘密份额在本地构建第一矩阵和第二矩阵的秘密份额。具体的，服务端将每一待求值点关于第一幂次信息和第二幂次信息的秘密份额依次代入第一类向量中的自变量，并按照从上到下的顺序依次进行排列，即可得到第一矩阵的秘密份额；此外，服务端将每一待求值点关于第一幂次信息和第二幂次信息的秘密份额依次代入第二类向量中的自变量，并对每一列向量取转置后，按照从上到下的顺序依次进行排列，以得到第二矩阵的秘密份额。此外，也可以直接将每一待求值点关于第一幂次信息和第二幂次信息的秘密份额直接替换第一矩阵和第二矩阵中的待求值。

形式上，对于，服务端在本地构建的第一矩阵和第二矩阵的秘密份额如下：

；

；

需要指出的是，其中1的加法秘密分享可以由任意指定的服务端分发。例如，一种简单的分发方式为：服务端持有份额1，其他服务端持有份额0。

进一步的，在安全多方计算场景下，对系数矩阵、第一矩阵和第二矩阵进行矩阵运算，以得到目标多项式函数关于待求值点集合的函数值，包括：对第一矩阵的秘密份额和系数矩阵进行矩阵乘法运算，以得到第一运算结果的秘密份额，以便对所述第一运算结果的秘密分享与所述第二矩阵的秘密分享进行哈达玛乘法运算，以得到哈达玛乘积结果的秘密分享；其中，所述第一运算结果的秘密分享为各服务端对应的第一运算结果的秘密份额的集合；所述第二矩阵的秘密分享为各服务端对应的第二矩阵的秘密份额的集合；对所述哈达玛乘积结果的秘密分享与全1列向量进行矩阵乘法运算，以得到第二运算结果的秘密分享，并获取预设服务端对所述目标多项式函数中的常数项构建的常数项向量的秘密分享；基于所述第二运算结果的秘密分享和所述常数项向量的秘密分享的和值得到所述目标多项式函数关于所述待求值点集合的函数值的秘密分享。

也即，基于系数矩阵以及第一矩阵、第二矩阵的秘密分享，各服务端将多项式函数向量的安全多方计算任务转化为面向张量运算的安全多方计算任务。首先，各服务端在本地对第一矩阵的秘密份额和系数矩阵进行矩阵乘法运算，以得到第一运算结果的秘密份额，例如，对于，服务端在本地执行以下计算：

；

各服务端在得到第一运算结果的秘密份额后，所有秘密份额构成了第一运算结果的秘密分享。然后，所有服务端协作计算第一运算结果的秘密分享与第二矩阵的秘密分享的哈达玛乘积，以得到哈达玛乘积结果的秘密分享。

具体的，各服务端对第一运算结果的秘密分享与第二矩阵的秘密分享进行哈达玛乘法运算，以得到哈达玛乘积结果的秘密分享。形式上，各服务端在协作执行以下计算：

；

接下来，各服务端对哈达玛乘积结果的秘密分享与‌全1列向量进行矩阵乘法运算，以得到第二运算结果的秘密分享，形式上，各服务端在协作执行以下计算：

；

最后，由特定的预设服务端对各分量均为的列向量（即常数项向量）进行加法秘密分享，得到常数项向量的秘密分享，然后各服务端再在第二运算结果的秘密分享的基础上再加上常数项向量的秘密分享，从而得到目标多项式函数关于待求值点集合的函数值的秘密分享。形式上，各服务端在协作执行以下计算：

；

其中，一种简单的对常数项向量进行秘密分享的方法为，特定的服务端持有秘密分享份额1，其他服务端持有秘密分享份额0。

在具体实施方式中，上述对第一运算结果的秘密分享与第二矩阵的秘密分享进行哈达玛乘法运算，以得到哈达玛乘积结果的秘密分享的过程中，包括：获取预设的可信第三方发送的关于乘法三元组的秘密份额；其中，乘法三元组包括第一辅助矩阵、第二辅助矩阵以及辅助乘积矩阵，辅助乘积矩阵为第一辅助矩阵与第二辅助矩阵之间的哈达玛乘积；基于第一运算结果的秘密份额、第二矩阵的秘密份额和乘法三元组的秘密份额，计算并交互恢复出目标中间矩阵；基于目标中间矩阵和乘法三元组的秘密份额计算得到哈达玛乘积结果的秘密份额；哈达玛乘积结果为对第一运算结果的秘密份额与第二矩阵的秘密份额进行哈达玛乘法运算得到的结果。

首先需要指的是，本实施例涉及到两类参与对象，即服务端和可信第三方，具体释义如下：

服务端：提供计算服务的多个参与方，从数据提供方、可信第三方等数据端接收敏感数据或辅助数据的密态形式（如基于秘密分享技术的秘密份额等），拥有丰富的计算和带宽资源。多个服务端以交互的方式完成一系列计算任务，得到计算结果（如模型推理的最终结果或推理过程的中间结果等）的密态形式，以便进行下一步计算或由客户端恢复最终结果；

可信第三方：被所有参与方共同信任的中立实体，严格遵守系统执行流程，严格保护其接触到的所有秘密信息，不会泄露给任何未授权的第三方，从而促进算任务得以安全、正确地进行。在本方案中，可信第三方的主要任务在于分发用于协助服务端完成安全多方计算过程的辅助数据。

由于多项式函数向量的计算涉及到哈达玛乘法，为此提出基于加法秘密分享的哈达玛乘法安全多方计算技术。假设t个服务端联合持有阶矩阵的加法秘密分享，目的在于计算哈达玛矩阵乘积的加法秘密分享。其中，矩阵X则对应本方案中的第一运算结果，矩阵Y则对应本方案的中的第二矩阵，矩阵Z则对应本方案中的哈达玛乘积结果。

如图3所示，本申请实施例中，首先由预设的可信第三方生成面向哈达玛乘法的一组用于安全执行乘法运算的秘密共享值的Beaver三元组，也即乘法三元组，并将乘法三元组的秘密份额分发给不同的服务端；其中，乘法三元组具体包括第一辅助矩阵、第二辅助矩阵以及辅助乘积矩阵，辅助乘积矩阵为第一辅助矩阵与第二辅助矩阵之间的哈达玛乘积。具体的，可信第三方随机生成与第二矩阵相同阶数的第一辅助矩阵和第二辅助矩阵，并计算。然后，可信第三方随机生成的加法秘密分享：

；

并将秘密地发送给服务端。

进一步的，服务端基于第一运算结果的秘密份额、第二矩阵的秘密份额和乘法三元组的秘密份额，计算并交互恢复出目标中间矩阵。该过程具体为各服务端在本地计算第一运算结果和第二矩阵分别与乘法三元组对应矩阵之差的加法秘密分享，并交互恢复出目标中间矩阵，再基于目标中间矩阵和乘法三元组的秘密份额计算得到哈达玛乘积结果的秘密份额。通过前述内容可知，哈达玛乘积结果即对第一运算结果的秘密份额与第二矩阵的秘密份额进行哈达玛乘法运算得到的结果。

其中，目标中间矩阵包括第一中间矩阵和第二中间矩阵，第一中间矩阵为第一运算结果与第一辅助矩阵之间的差，第二中间矩阵为第二矩阵与第二辅助矩阵之间的差；相应的，基于第一运算结果的秘密份额、第二矩阵的秘密份额和乘法三元组的秘密份额，计算并交互恢复出目标中间矩阵，包括：对第一运算结果的秘密份额与第一辅助矩阵的秘密份额进行差值运算，以得到第一中间矩阵的秘密份额，并将第一中间矩阵的秘密份额发送至其余服务端；对第二矩阵的秘密份额与第二辅助矩阵的秘密份额进行差值运算，以得到第二中间矩阵的秘密份额，并将第二中间矩阵的秘密份额发送至其余服务端；对本地持有的各第一中间矩阵的秘密份额进行求和运算，以恢复得到第一中间矩阵，并对本地持有的各第二中间矩阵的秘密份额进行求和运算，以恢复得到第二中间矩阵。

也即，目标中间矩阵具体包括第一中间矩阵E和第二中间矩阵F，第一中间矩阵即为第一运算结果X与第一辅助矩阵A之间的差，即E=X-A；第二中间矩阵即为第二矩阵Y与第二辅助矩阵B之间的差，即F=Y-B。

第一中间矩阵和第二中间矩阵的具体恢复过程为：

对第一运算结果X的秘密份额与第一辅助矩阵A的秘密份额进行差值运算，以得到第一中间矩阵X-A的秘密份额，对第二矩阵Y的秘密份额与第二辅助矩阵B的秘密份额进行差值运算，以得到第二中间矩阵Y-B的秘密份额，具体的，服务端执行如下计算：

；

然后再将第一中间矩阵的秘密份额和第二中间矩阵的秘密份额发送至其余服务端，即将计算结果发送给且。

接下来，各服务端即可对本地持有的各第一中间矩阵的秘密份额以及各第二中间矩阵的秘密份额分别进行求和运算，以恢复得到第一中间矩阵和第二中间矩阵，即各服务端在本地执行如下计算：

；

进一步的，上述基于目标中间矩阵和乘法三元组的秘密份额计算得到哈达玛乘积结果的秘密份额，包括：对第一中间矩阵与第二辅助矩阵的秘密份额进行哈达玛乘法运算，以得到第一哈达玛乘积；对第二中间矩阵与第一辅助矩阵的秘密份额进行哈达玛乘法运算，以得到第二哈达玛乘积；基于第一哈达玛乘积、第二哈达玛乘积和辅助乘积矩阵的秘密份额得到哈达玛乘积结果的秘密份额。

也即，各服务端在本地计算第一中间矩阵与第二辅助矩阵的秘密份额的哈达玛乘法乘积，以得到第一哈达玛乘积，以及在本地计算第二中间矩阵与第一辅助矩阵的秘密份额的哈达玛乘积，以得到第二哈达玛乘积，然后对第一哈达玛乘积、第二哈达玛乘积和辅助乘积矩阵的秘密份额进行求和运算，从而得到哈达玛乘积结果的秘密份额。具体的，服务端执行如下计算：

；

需要注意的是，本实施例还需选定特定服务端，，由特定服务端在前述计算结果的基础上，再加上第一中间矩阵E与第二中间矩阵F的哈达玛乘积，即，服务端在本地执行如下计算：

。

最后，通过对所有服务端（包含特定服务端）的计算结果进行求和才等于哈达玛乘积结果Z。

还需要指出的是，本实施例中各服务端由的加法秘密分享协作计算各幂次的加法秘密分享时，也是通过面向哈达玛乘法的安全多方计算技术协作计算求值点向量各幂次的加法秘密分享。具体的，定义求值点向量，以及求值点向量的第j次幂，，其中，。

对于，各服务端依次协作计算：

；

对于，各服务端依次协作计算：

。

其中，关于哈达玛乘法的具体计算过程如前述原理一致，此处不再赘述。

可见，本申请针对神经网络推理场景中激活函数批量计算性能不足以及解决多项式函数求值过程中的性能瓶颈和数据隐私泄露问题，本发明以较小的计算成本将多项式函数求值转化为张量运算，以便利用张量运算的高并行性特点进行GPU异构加速计算，从而显著提升计算性能；为保护敏感数据在计算过程的隐私性，提出基于加法秘密分享的Hadamard乘法安全多方计算方案，并在此基础上提出多项式函数批量求值的张量化安全多方计算方案，以便利用GPU加速多项式函数批量的安全多方计算过程，在保护数据隐私性的同时显著提升计算性能。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。

参见图4所示，本申请的实施例提供了一种数据批量处理装置，应用于服务端，该装置包括：

待求值获取模块11，用于获取医疗影像数据经预设影像分析模型中的线性层处理后得到的中间值集合，并将中间值集合作为目标多项式函数的待求值点集合；预设影像分析模型为基于神经网络构建的模型，目标多项式函数为对预设影像分析模型中的激活函数进行拟合后得到的。

系数矩阵构建模块12，用于基于目标多项式函数的系数和预设参数构建系数矩阵。

第一矩阵构建模块13，用于基于待求值点集合和第一类向量构建第一矩阵；第一类向量为关于每一待求值点的幂次增加步长为预设参数的幂次序列。

第二矩阵构建模块14，用于基于待求值点集合和第二类向量构建第二矩阵；第二类向量为关于每一待求值点的幂次增加步长为1的幂次序列。

矩阵运算模块15，用于对系数矩阵、第一矩阵和第二矩阵进行矩阵运算，以得到目标多项式函数关于待求值点集合的函数值。

结果获取模块16，用于将函数值作为预设影像分析模型的激活函数的计算结果，以基于计算结果确定医疗影像数据的处理结果。

可见，本申请通过将激活函数拟合为目标多项式函数，并将医疗影像数据经预设影像分析模型中的线性层处理后得到的中间值集合作为该目标多项式函数的待求值点集合，接着分别基于目标多项式函数的系数和预设参数构建系数矩阵，并基于待求值点集合构建第一矩阵和第二矩阵，将原本需要逐元素、串行计算的非线性激活函数，通过多项式近似与张量分解，重构为由系数矩阵、第一矩阵和第二矩阵构成的批量矩阵运算序列，进而通过矩阵运算得到目标多项式函数关于待求值点集合的函数值，并近似为激活函数的计算结果。由于矩阵运算可直接利用GPU的张量核心进行并行加速，因此可以大幅提升批量中间值的处理速度，并快速得到医疗影像数据的处理结果，从而解决传统激活函数计算模式在GPU上并行度不足、无法充分利用硬件性能而导致影像分析模型批量推理吞吐量低下的技术问题，达到显著提升模型推理效率与系统吞吐量的技术效果。

数据批量处理装置所对应实施例中特征的说明可以参见数据批量处理方法所对应实施例的相关说明，这里不再一一赘述。

本申请的实施例还提供了一种电子设备，包括存储器和处理器，该存储器中存储有计算机程序，该处理器被设置为运行计算机程序以执行上述任一种数据批量处理方法实施例中的步骤。

本申请的实施例还提供了一种计算机可读存储介质，该计算机可读存储介质中存储有计算机程序，其中，该计算机程序被设置为运行时执行上述任一种数据批量处理方法实施例中的步骤。

在一个示例性实施例中，上述计算机可读存储介质可以包括但不限于：U盘、只读存储器（Read-Only Memory，简称为ROM）、随机存取存储器（Random Access Memory，简称为RAM）、移动硬盘、磁碟或者光盘等各种可以存储计算机程序的介质。

本申请的实施例还提供了一种计算机程序产品，上述计算机程序产品包括计算机程序，计算机程序被处理器执行时实现上述任一种数据批量处理方法实施例中的步骤。

本申请的实施例还提供了另一种计算机程序产品，包括非易失性计算机可读存储介质，非易失性计算机可读存储介质存储计算机程序，计算机程序被处理器执行时实现上述任一种数据批量处理方法实施例中的步骤。

专业人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。

以上对本申请所提供的一种数据批量处理方法及设备进行了详细介绍。本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想。应当指出，对于本技术领域的普通技术人员来说，在不脱离本申请原理的前提下，还可以对本申请进行若干改进和修饰，这些改进和修饰也落入本申请权利要求的保护范围内。

Claims (10)

1.一种数据批量处理方法，其特征在于，应用于服务端，包括：

获取医疗影像数据经预设影像分析模型中的线性层处理后得到的中间值集合，并将所述中间值集合作为目标多项式函数的待求值点集合；所述预设影像分析模型为基于神经网络构建的模型，所述目标多项式函数为对所述预设影像分析模型中的激活函数进行拟合后得到的；

基于所述目标多项式函数的系数和预设参数构建系数矩阵；

基于所述待求值点集合和第一类向量构建第一矩阵；所述第一类向量为关于每一待求值点的幂次增加步长为所述预设参数的幂次序列；

基于所述待求值点集合和第二类向量构建第二矩阵；所述第二类向量为关于每一待求值点的幂次增加步长为1的幂次序列；

对所述系数矩阵、所述第一矩阵和所述第二矩阵进行矩阵运算，以得到所述目标多项式函数关于所述待求值点集合的函数值；

将所述函数值作为所述预设影像分析模型的所述激活函数的计算结果，以基于所述计算结果确定所述医疗影像数据的处理结果。

2.根据权利要求1所述的数据批量处理方法，其特征在于，所述基于所述目标多项式函数的系数和预设参数构建系数矩阵，包括：

基于预设参数和所述目标多项式函数的当前次数对所述目标多项式函数进行扩充，以得到扩充后多项式函数；其中，所述扩充后多项式函数的次数为所述预设参数的整数倍，所述扩充后多项式函数中次数高于所述当前次数的单项式的系数为0；

基于所述扩充后多项式函数的系数构建系数矩阵；所述系数矩阵用于对所述扩充后多项式函数进行张量化转换；

其中，所述基于所述扩充后多项式函数的系数构建系数矩阵，包括：

从首个非常数项开始，对所述扩充后多项式函数中的系数依次进行分组，以得到各分组；每一所述分组中包括连续目标数量个按照对应次数从低到高的顺序进行排列的系数，所述目标数量的值与所述预设参数的值相同；

将各所述分组按照从上到下的顺序进行排列，以得到系数矩阵。

3.根据权利要求1所述的数据批量处理方法，其特征在于，所述第一类向量为从自变量的0次幂开始，并以幂次增加步长为所述预设参数进行排列的行向量，所述第二类向量为从自变量的1次幂开始，并以幂次增加步长为1进行排列的列向量；

相应的，所述基于所述待求值点集合和第一类向量构建第一矩阵，包括：

将所述待求值点集合中的每一待求值点依次代入所述第一类向量中的自变量，并按照从上到下的顺序依次进行排列，以得到第一矩阵；

相应的，所述基于所述待求值点集合和第二类向量构建第二矩阵，包括：

将所述待求值点集合中的每一待求值点依次代入所述第二类向量中的自变量，并对每一列向量取转置后，按照从上到下的顺序依次进行排列，以得到第二矩阵。

4.根据权利要求3所述的数据批量处理方法，其特征在于，所述对所述系数矩阵、所述第一矩阵和所述第二矩阵进行矩阵运算，以得到所述目标多项式函数关于所述待求值点集合的函数值，包括：

对所述第一矩阵和所述系数矩阵进行矩阵乘法运算，以得到第一运算结果，并对所述第一运算结果与所述第二矩阵进行哈达玛乘法运算，以得到哈达玛乘积结果；

对所述哈达玛乘积结果与‌全1列向量进行矩阵乘法运算，以得到第二运算结果，并获取对所述目标多项式函数中的常数项构建的常数项向量；

基于所述第二运算结果和所述常数项向量的和值得到所述目标多项式函数关于所述待求值点集合的函数值。

5.根据权利要求3所述的数据批量处理方法，其特征在于，在安全多方计算环境下各服务端分别持有所述待求值点集合中每一待求值点的秘密份额；

相应的，所述数据批量处理方法，还包括：

确定第一类向量中的第一幂次信息，并确定所述第二类向量中的第二幂次信息，并基于每一待求值点的秘密份额计算得到每一待求值点关于所述第一幂次信息和第二幂次信息的秘密份额；

所述基于所述待求值点集合和第一类向量构建第一矩阵，包括：

将每一待求值点关于所述第一幂次信息和第二幂次信息的秘密份额依次代入第一类向量中的自变量，并按照从上到下的顺序依次进行排列，以得到第一矩阵的秘密份额；

相应的，所述基于所述待求值点集合和第二类向量构建第二矩阵，包括：

将每一待求值点关于所述第一幂次信息和第二幂次信息的秘密份额依次代入第二类向量中的自变量，并对每一列向量取转置后，按照从上到下的顺序依次进行排列，以得到第二矩阵的秘密份额。

6.根据权利要求5所述的数据批量处理方法，其特征在于，所述对所述系数矩阵、所述第一矩阵和所述第二矩阵进行矩阵运算，以得到所述目标多项式函数关于所述待求值点集合的函数值，包括：

对所述第一矩阵的秘密份额和所述系数矩阵进行矩阵乘法运算，以得到第一运算结果的秘密份额，以便对所述第一运算结果的秘密分享与所述第二矩阵的秘密分享进行哈达玛乘法运算，以得到哈达玛乘积结果的秘密分享；其中，所述第一运算结果的秘密分享为各服务端对应的第一运算结果的秘密份额的集合；所述第二矩阵的秘密分享为各服务端对应的第二矩阵的秘密份额的集合；

对所述哈达玛乘积结果的秘密分享与‌全1列向量进行矩阵乘法运算，以得到第二运算结果的秘密分享，并获取预设服务端对所述目标多项式函数中的常数项构建的常数项向量的秘密分享；

基于所述第二运算结果的秘密分享和所述常数项向量的秘密分享的和值得到所述目标多项式函数关于所述待求值点集合的函数值的秘密分享。

7.根据权利要求6所述的数据批量处理方法，其特征在于，所述对所述第一运算结果的秘密分享与所述第二矩阵的秘密分享进行哈达玛乘法运算，以得到哈达玛乘积结果的秘密分享的过程中，还包括：

获取预设的可信第三方发送的关于乘法三元组的秘密份额；其中，所述乘法三元组包括第一辅助矩阵、第二辅助矩阵以及辅助乘积矩阵，所述辅助乘积矩阵为所述第一辅助矩阵与所述第二辅助矩阵之间的哈达玛乘积；

基于所述第一运算结果的秘密份额、所述第二矩阵的秘密份额和所述乘法三元组的秘密份额，计算并交互恢复出目标中间矩阵；

基于所述目标中间矩阵和所述乘法三元组的秘密份额计算得到哈达玛乘积结果的秘密份额；所述哈达玛乘积结果为对所述第一运算结果与所述第二矩阵进行哈达玛乘法运算得到的结果。

8.根据权利要求7所述的数据批量处理方法，其特征在于，所述目标中间矩阵包括第一中间矩阵和第二中间矩阵，所述第一中间矩阵为所述第一运算结果与所述第一辅助矩阵之间的差，所述第二中间矩阵为所述第二矩阵与所述第二辅助矩阵之间的差；

相应的，所述基于所述第一运算结果的秘密份额、所述第二矩阵的秘密份额和所述乘法三元组的秘密份额，计算并交互恢复出目标中间矩阵，包括：

对所述第一运算结果的秘密份额与所述第一辅助矩阵的秘密份额进行差值运算，以得到第一中间矩阵的秘密份额，并将所述第一中间矩阵的秘密份额发送至其余服务端；

对所述第二矩阵的秘密份额与所述第二辅助矩阵的秘密份额进行差值运算，以得到第二中间矩阵的秘密份额，并将所述第二中间矩阵的秘密份额发送至其余服务端；

对本地持有的各第一中间矩阵的秘密份额进行求和运算，以恢复得到所述第一中间矩阵，并对本地持有的各第二中间矩阵的秘密份额进行求和运算，以恢复得到所述第二中间矩阵。

9.根据权利要求8所述的数据批量处理方法，其特征在于，所述基于所述目标中间矩阵和所述乘法三元组的秘密份额计算得到哈达玛乘积结果的秘密份额，包括：

对所述第一中间矩阵与所述第二辅助矩阵的秘密份额进行哈达玛乘法运算，以得到第一哈达玛乘积；

对所述第二中间矩阵与所述第一辅助矩阵的秘密份额进行哈达玛乘法运算，以得到第二哈达玛乘积；

基于所述第一哈达玛乘积、所述第二哈达玛乘积和所述辅助乘积矩阵的秘密份额得到哈达玛乘积结果的秘密份额。

10.一种电子设备，其特征在于，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述计算机程序时实现如权利要求1至9任一项所述数据批量处理方法的步骤。