[go: up one dir, main page]

CN116248900B - 一种非线性跨分量预测模型的系数优化方法 - Google Patents

一种非线性跨分量预测模型的系数优化方法

Info

Publication number
CN116248900B
CN116248900B CN202310175173.6A CN202310175173A CN116248900B CN 116248900 B CN116248900 B CN 116248900B CN 202310175173 A CN202310175173 A CN 202310175173A CN 116248900 B CN116248900 B CN 116248900B
Authority
CN
China
Prior art keywords
prediction model
coefficient
component prediction
nonlinear cross
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310175173.6A
Other languages
English (en)
Other versions
CN116248900A (zh
Inventor
张坤
梁凡
孙伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sun Yat Sen University
Original Assignee
Sun Yat Sen University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sun Yat Sen University filed Critical Sun Yat Sen University
Priority to CN202310175173.6A priority Critical patent/CN116248900B/zh
Publication of CN116248900A publication Critical patent/CN116248900A/zh
Application granted granted Critical
Publication of CN116248900B publication Critical patent/CN116248900B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明公开了一种非线性跨分量预测模型的系数优化方法，包括：利用矩阵LDL分解求得非线性跨分量预测模型的二次项系数、一次项系数及常数项的比例系数；根据预设的参数调整步长、参考区域亮度值均值及预设的比例系数，调整二次项系数；将参考区域亮度值的均值作为固定点，利用旋转的固定点并保持常数项的比例系数不变，并根据预设的参数调整步长、参考区域亮度值均值、预设的比例系数及比特深度，调整一次项系数；将调整后的二次项系数与一次项系数代入非线性跨分量预测模型，得到参数调整后的非线性跨分量预测模型。本发明可以使非线性跨分量预测模型的预测结果更精准，可广泛应用于模型优化领域。

Description

一种非线性跨分量预测模型的系数优化方法
技术领域
本发明涉及模型优化技术领域，尤其是一种非线性跨分量预测模型的系数优化方法。
背景技术
视频编码标准VVC在帧内预测过程中新增了跨分量线性预测模型，可以有效降低编码过程中的空间冗余和分量冗余，节省了编码的比特率。跨分量预测模型可以降低分量间的冗余，利用参考区域的亮度值和色度值构建亮度与色度间的线性模型，再利用模型计算当前编码单元的色度值。跨分量预测最初使用最小二乘法计算模型参数，该方法准确性高，但带来较高的复杂度，而非线性跨分量预测模型的提出是因为一些预测单元的亮度值和色度值之间线性关系较弱，但可能存在较强的非线性关系，因此非线性模型能够进一步降低分量间的冗余。但现有的非线性跨分量预测模型预测结果还不够准确，现有的非线性跨分量预测模型还有待优化。
发明内容
有鉴于此，本发明实施例提供一种非线性跨分量预测模型的系数优化方法，以优化非线性跨分量预测模型的系数，提高非线性跨分量预测模型的预测性能。
本发明实施例的一方面提供了一种非线性跨分量预测模型的系数优化方法，包括：
利用矩阵LDL分解求得非线性跨分量预测模型的二次项系数、一次项系数及常数项的比例系数；
根据预设的参数调整步长、参考区域亮度值均值及预设的比例系数，调整二次项系数；
将参考区域亮度值的均值作为固定点，利用旋转的固定点并保持常数项的比例系数不变，并根据预设的参数调整步长、参考区域亮度值均值、预设的比例系数及比特深度，调整一次项系数；
将调整后的二次项系数与一次项系数代入非线性跨分量预测模型，得到参数调整后的非线性跨分量预测模型。
优选地，所述根据预设的参数调整步长、参考区域亮度值均值及预设的比例系数，调整二次项系数，包括：
根据第一表达式对二次项系数进行调整，其中第一表达式为：delta是预设的参数调整步长，AverVal是参考区域亮度值均值，C是预设的比例系数，α0是二次项系数。
优选地，所述将参考区域亮度值的均值作为固定点，利用旋转的固定点并保持常数项的比例系数不变，并根据预设的参数调整步长、参考区域亮度值均值、预设的比例系数及比特深度，调整一次项系数，包括：
根据第二表达式对一次项系数进行调整，其中第二表达式为： delta是预设的参数调整步长，AverVal是参考区域亮度值均值，C是预设的比例系数，bitDepth是比特深度，α1是一次项系数。
优选地，预设的参数调整步长delta步长为1，步长范围为-4到4。
优选地，还包括：
根据第三表达式计算参数调整后的非线性跨分量预测模型对应的RDO代价，其中第三表达式为：J＝D+λR，J是RDO代价，D是当前预测模式下的失真，R是编码当前预测模式下所有信息所用的比特数，λ是拉格朗日因子，RDO代价用于评估非线性跨分量预测模型总的编码性能。
优选地，还包括：
重复执行参数调整步长加1、调整二次项系数与一次项系数以及将调整后的二次项系数与一次项系数代入非线性跨分量预测模型的步骤；
每次调整参数后得到新的非线性跨分量预测模型，利用新的非线性跨分量预测模型计算新的RDO代价，直至新的RDO代价达到设定要求。
优选地，所述利用矩阵LDL分解求得非线性跨分量预测模型的二次项系数、一次项系数及常数项的比例系数，包括：
选择参考区域n个像素点，确定每个像素点的亮度值和色度值，每个像素点的亮度值和色度值满足非线性跨分量预测模型的对应关系；
根据n个像素点的亮度值和色度值，利用矩阵LDL分解求得非线性跨分量预测模型的二次项系数、一次项系数及常数项的比例系数。
本发明实施例的另一方面还提供了一种非线性跨分量预测模型的系数优化装置，包括：
参数求解单元，用于利用矩阵LDL分解求得非线性跨分量预测模型的二次项系数、一次项系数及常数项的比例系数；
第一参数调整单元，用于根据预设的参数调整步长、参考区域亮度值均值及预设的比例系数，调整二次项系数；
第二参数调整单元，用于将参考区域亮度值的均值作为固定点，利用旋转的固定点并保持常数项的比例系数不变，并根据预设的参数调整步长、参考区域亮度值均值、预设的比例系数及比特深度，调整一次项系数；
参数代入单元，用于将调整后的二次项系数与一次项系数代入非线性跨分量预测模型，得到参数调整后的非线性跨分量预测模型。
本发明实施例的另一方面还提供了一种电子设备，包括处理器以及存储器；
所述存储器用于存储程序；
所述处理器执行所述程序实现上述的方法。
本发明实施例的另一方面还提供了一种计算机可读存储介质，所述存储介质存储有程序，所述程序被处理器执行实现上述的方法。
本发明实施例还公开了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器可以从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行上述的方法。
本发明提供的一种非线性跨分量预测模型的系数优化方法，可以根据预设的参数调整步长、参考区域亮度值均值及预设的比例系数，调整二次项系数，并将参考区域亮度值的均值作为固定点，利用旋转的固定点并保持常数项的比例系数不变，并根据预设的参数调整步长、参考区域亮度值均值、预设的比例系数及比特深度，调整一次项系数；固定点是在用参考区域的亮度值与其对应的色度值构建出非线性跨分量预测模型后，将非线性跨分量预测模型进行旋转时的轴点，本发明可以选用参考区域亮度值的均值作为固定点，使旋转更有实际意义，基于此调整参数后的非线性跨分量预测模型的预测结果更精准。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种非线性跨分量预测模型的系数优化方法的流程示意图；
图2为本发明实施例提供的一种非线性跨分量预测模型系数调整前后的效果对比图；
图3至图6为本发明实施例提供的为dalta从1到4的调整效果图；
图7为本发明实施例提供的一种非线性跨分量预测模型的系数优化装置的结构框图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
首先，对本发明的非线性跨分量预测模型进行说明，其表达式为predC(i,j)＝α0·(((recL(i,j))2+midValue)>>bitDepth)+α1·recL(i,j)+α2·midValue；其中，midValue＝2bitDepth-1，predC(i,j)表示(i,j)位置的色度预测值，recL(i,j)表示(i,j)位置的亮度重建值，bitDepth是比特深度，α0是非线性跨分量预测模型的二次项系数，α1是非线性跨分量预测模型的一次项系数，α2·midValue是非线性跨分量预测模型的常数项。
参照图1，本发明实施例提供了一种非线性跨分量预测模型的系数优化方法，具体包括以下步骤：
步骤S100：利用矩阵LDL分解求得非线性跨分量预测模型的二次项系数、一次项系数及常数项的比例系数。
具体的，求解参数的过程可以包括以下步骤：
S1、选择参考区域n个像素点，确定每个像素点的亮度值和色度值，每个像素点的亮度值和色度值满足非线性跨分量预测模型的对应关系。
S2、根据n个像素点的亮度值和色度值，利用矩阵LDL分解求得非线性跨分量预测模型的参数α0,α1,α2。
步骤S110：根据预设的参数调整步长、参考区域亮度值均值及预设的比例系数，调整二次项系数。
具体的，可以根据表达式α0′＝α0+Δ调整参数α0得到α0′，其中delta是预设的参数调整步长，AverVal是参考区域亮度值均值，C是预设的比例系数。
步骤S120：将参考区域亮度值的均值作为固定点，利用旋转的固定点并保持常数项的比例系数不变，并根据预设的参数调整步长、参考区域亮度值均值、预设的比例系数及比特深度，调整一次项系数。
具体的，可以根据表达式调整参数α1得到α1′，其中delta是预设的参数调整步长，AverVal是参考区域亮度值均值，C是预设的比例系数，bitDepth是比特深度。
一种可选的实施方式下，预设的参数调整步长delta步长为1，步长范围为-4到4。
其中，固定点是在用参考区域的亮度值与其对应的色度值构建出非线性跨分量预测模型后，将非线性跨分量预测模型进行旋转时的轴点，为了使旋转更有实际意义，本发明可以选用参考区域亮度值的均值作为固定点。每个非线性跨分量预测模型在8次旋转中用到的轴点是固定的。
旋转的具体过程是通过调整delta，从而改变非线性跨分量预测模型的参数α0，同时利用旋转的固定点求解出α1，在非线性跨分量预测模型的二次项系数和一次项系数改变后，原始的非线性跨分量预测模型则被旋转一次，delta大于0时，原始模型进行逆时针旋转，delta小于0时，原始模型进行顺时针旋转。
由于，原始的非线性跨分量预测模型是通过参考区域求得的，并不一定是最适合当前编码区域的模型，所以通过多次旋转，找到最适合当前编码单元的模型。
步骤S130：将调整后的二次项系数与一次项系数代入非线性跨分量预测模型，得到参数调整后的非线性跨分量预测模型。
为了验证调整参数后非线性跨分量预测模型的性能是否达到设定要求，本发明好可以包括以下过程：
根据表达式J＝D+λR计算参数调整后的非线性跨分量预测模型对应的RDO代价，其中J是RDO代价，D是当前预测模式下的失真，R是编码当前预测模式下所有信息所用的比特数，λ是拉格朗日因子，RDO代价用于评估非线性跨分量预测模型总的编码性能。
考虑到，单次调整参数后，非线性跨分量预测模型的性能并不一定能够达到设定要求，本发明还可以包括多次调整参数的过程，具体如下：
S1、重复执行参数调整步长加1、调整参数α0得到α0′、调整参数α1得到α1′以及将α0′和α1′代入非线性跨分量预测模型的步骤。
S2、每次调整参数后得到新的非线性跨分量预测模型，利用新的非线性跨分量预测模型计算新的RDO代价，直至新的RDO代价达到设定要求。RDO代价越小则可以表示非线性跨分量预测模型的预测结果的准确率越高。
为了更详细描述本发明，接下来将以具体实例说明本发明的实际应用过程。
具体的，在计算得到α0,α1,α2后，在α2不变的条件下，不断调节α0，将非线性跨分量预测模型绕固定点进行旋转，为了对模型进行有意义的修改，选择参考区域亮度值均值为固定点，同时利用参考区域亮度均值是固定点以及α2不变的条件可以计算得到调整后的α1，从而得到一个新的模型，具体如下：
(1)利用矩阵LDL分解求得非线性跨分量预测模型的参数α0,α1,α2。
假定选择参考区域n个像素点，其对应的亮度值和色度值可表示为(x1，y1)，(x2，y2)，(x3，y3)…(xn，yn)，这些亮度值和色度值满足非线性模型的对应关系，即yn＝α0·((xn 2+midValue)＞＞bitDepth)+α1·xn+α2·midValue，为了方便表示，令Xn 2＝(xn 2+midValue)＞＞bitDepth，则上述表达式可表示为yn＝α0·Xn 2+α1·xn+α2·midValue，用矩阵表示为：
将上述矩阵表达式简写为Aα＝Y，其中：
为了求得模型的参数α0，α1，α2，将上述矩阵等式两边同时乘以矩阵A的转置矩阵AT，即ATAα＝ATY，由于ATA是一个对称矩阵，所以可以对ATA进行LDL分解，ATA＝LDLT，其中L是一个下三角矩阵，D是一个对角线矩阵，因此可以得到LDLTα＝ATY，从而可以求得模型的系数为α＝(LDLT)-1ATY，α＝(LT)-1D-1L-1ATY。
(2)对参数α0进行调整，即α0′＝α0+Δ，其中delta是每次调整的参数，从-4到4，步长为1，AverVal是参考区域亮度值均值，C是自定义的比例系数。
(3)利用旋转的固定点以及α2不变的条件，计算得到调整后的参数α1′。表达式如下：
(4)使用调整后的非线性跨分量预测模型计算编码区域色度的预测值，并计算新模型下的RDO代价，并比较是否为最优的代价。
RDO代价是在同时考虑编码失真程度和当前编码模式所需要的比特数的情况下，用来评估当前预测模式总的编码性能，其具体的表达式为J＝D+λR，其中J是RDO代价，D是当前预测模式下的失真，R是编码当前预测模式下所有信息，如变换系数、模式信息、划分方式等信息所用的比特数，λ是拉格朗日因子。
(5)对delta值加1，重复步骤(2)-(4)。
图2示出了计算得到的原始的非线性跨分量预测模型，与delta＝1时调整后的模型图，其中横坐标表示亮度值，纵坐标表示对应的色度值。图2中两条曲线有两个交点，第一个交点是因为模型的旋转过程中不改变常数项，所以曲线与纵坐标的交点是不变的。第二个交点则是参考区域亮度值的均值，也就是选择的旋转固定点。与线性模型在均值两侧变化趋势不同，非线性跨分量预测模型在均值左侧变化的缓慢，而在均值右侧变化较快，因此非线性跨分量预测模型的调整会导致一侧的预测值和真实值误差较大，因此为了提高调整后模型的准确度，引入自定义比例系数C，在模型变化快的一侧，令C＝4×108，在模型变化慢的一侧，令C＝7.2×108。比例系数可有效控制均值两侧的变化趋势，从而使调整后的模型准确度更高。图3至图6为delta从l到4的调整效果图。
参照图7，本发明实施例提供了一种非线性跨分量预测模型的系数优化装置，包括：
参数求解单元，用于利用矩阵LDL分解求得非线性跨分量预测模型的参数α0，α1，α2；
第一参数调整单元，用于根据预设的参数调整步长、参考区域亮度值均值及预设的比例系数，调整参数α0得到α0′；
第二参数调整单元，用于将参考区域亮度值的均值作为固定点，利用旋转的固定点并保持α2不变，并根据预设的参数调整步长、参考区域亮度值均值、预设的比例系数及比特深度，调整参数α1得到α1′；
参数代入单元，用于将α0′代入非线性跨分量预测模型的α0，将α1′代入非线性跨分量预测模型的α1，得到参数调整后的非线性跨分量预测模型；
非线性跨分量预测模型的表达式为predC(i，j)＝α0·(((recL(i，j))2+midValue)＞＞bitDepth)+α1·recL(i，j)+α2·midValue；其中，midValue＝2bitDepth-1，predC(i，j)表示(i，j)位置的色度预测值，recL(i，j)表示(i，j)位置的亮度重建值，bitDepth是比特深度，α0是非线性跨分量预测模型的二次项系数，α1是非线性跨分量预测模型的一次项系数，α2·midValue是非线性跨分量预测模型的常数项。
本发明实施例还公开了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器可以从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行图1所示的方法。
在一些可选择的实施例中，在方框图中提到的功能/操作可以不按照操作示图提到的顺序发生。例如，取决于所涉及的功能/操作，连续示出的两个方框实际上可以被大体上同时地执行或所述方框有时能以相反顺序被执行。此外，在本发明的流程图中所呈现和描述的实施例以示例的方式被提供，目的在于提供对技术更全面的理解。所公开的方法不限于本文所呈现的操作和逻辑流程。可选择的实施例是可预期的，其中各种操作的顺序被改变以及其中被描述为较大操作的一部分的子操作被独立地执行。
此外，虽然在功能性模块的背景下描述了本发明，但应当理解的是，除非另有相反说明，所述的功能和/或特征中的一个或多个可以被集成在单个物理装置和/或软件模块中，或者一个或多个功能和/或特征可以在单独的物理装置或软件模块中被实现。还可以理解的是，有关每个模块的实际实现的详细讨论对于理解本发明是不必要的。更确切地说，考虑到在本文中公开的装置中各种功能模块的属性、功能和内部关系的情况下，在工程师的常规技术内将会了解该模块的实际实现。因此，本领域技术人员运用普通技术就能够在无需过度试验的情况下实现在权利要求书中所阐明的本发明。还可以理解的是，所公开的特定概念仅仅是说明性的，并不意在限制本发明的范围，本发明的范围由所附权利要求书及其等同方案的全部范围来决定。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，“计算机可读介质”可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。
计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)、便携式计算机盘盒(磁装置)、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编辑只读存储器(EPROM或闪速存储器)、光纤装置以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。
应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如，如果用硬件来实现，和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
尽管已经示出和描述了本发明的实施例，本领域的普通技术人员可以理解：在不脱离本发明的原理和宗旨的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由权利要求及其等同物限定。
以上是对本发明的较佳实施进行了具体说明，但本发明并不限于所述实施例，熟悉本领域的技术人员在不违背本发明精神的前提下还可做出种种的等同变形或替换，这些等同的变形或替换均包含在本发明权利要求所限定的范围内。

Claims (9)

1.一种非线性跨分量预测模型的系数优化方法，其特征在于，包括：
利用矩阵LDL分解求得非线性跨分量预测模型的二次项系数、一次项系数及常数项的比例系数；
根据预设的参数调整步长、参考区域亮度值均值及预设的比例系数，调整二次项系数；
将参考区域亮度值的均值作为固定点，利用旋转的固定点并保持常数项的比例系数不变，并根据预设的参数调整步长、参考区域亮度值均值、预设的比例系数及比特深度，调整一次项系数；所述固定点是在用参考区域的亮度值与其对应的色度值构建出所述非线性跨分量预测模型后，将所述非线性跨分量预测模型进行旋转时的轴点；
将调整后的二次项系数与一次项系数代入非线性跨分量预测模型，得到参数调整后的非线性跨分量预测模型；
其中，所述非线性跨分量预测模型的表达式为：predC(i,j)＝α0·(((recL(i,j))2+midValue)>>bitDepth)+α1·recL(i,j)+α2·midValue；其中，midValue＝2bitDepth-1，predC(i,j)表示(i,j)位置的色度预测值，recL(i,j)表示(i,j)位置的亮度重建值，bitDepth是比特深度，α0是非线性跨分量预测模型的二次项系数，α1是非线性跨分量预测模型的一次项系数，α2·midValue是非线性跨分量预测模型的常数项；
根据第三表达式计算参数调整后的非线性跨分量预测模型对应的RDO代价，其中第三表达式为：J＝D+λR，J是RDO代价，D是当前预测模式下的失真，R是编码当前预测模式下所有信息所用的比特数，λ是拉格朗日因子，RDO代价用于评估非线性跨分量预测模型总的编码性能。
2.根据权利要求1所述的一种非线性跨分量预测模型的系数优化方法，其特征在于，所述根据预设的参数调整步长、参考区域亮度值均值及预设的比例系数，调整二次项系数，包括：
根据第一表达式对二次项系数进行调整，其中第一表达式为：α0 ′＝α0+Δ，delta是预设的参数调整步长，AverVal是参考区域亮度值均值，C是预设的比例系数，α0是二次项系数。
3.根据权利要求1所述的一种非线性跨分量预测模型的系数优化方法，其特征在于，所述将参考区域亮度值的均值作为固定点，利用旋转的固定点并保持常数项的比例系数不变，并根据预设的参数调整步长、参考区域亮度值均值、预设的比例系数及比特深度，调整一次项系数，包括：
根据第二表达式对一次项系数进行调整，其中第二表达式为： delta是预设的参数调整步长，AverVal是参考区域亮度值均值，C是预设的比例系数，bitDepth是比特深度，α1是一次项系数。
4.根据权利要求2或3任一项所述的一种非线性跨分量预测模型的系数优化方法，其特征在于，预设的参数调整步长delta为1，步长范围为-4到4。
5.根据权利要求1所述的一种非线性跨分量预测模型的系数优化方法，其特征在于，还包括：
重复执行参数调整步长加1、调整二次项系数与一次项系数以及将调整后的二次项系数与一次项系数代入非线性跨分量预测模型的步骤；
每次调整参数后得到新的非线性跨分量预测模型，利用新的非线性跨分量预测模型计算新的RDO代价，直至新的RDO代价达到设定要求。
6.根据权利要求1所述的一种非线性跨分量预测模型的系数优化方法，其特征在于，所述利用矩阵LDL分解求得非线性跨分量预测模型的二次项系数、一次项系数及常数项的比例系数，包括：
选择参考区域n个像素点，确定每个像素点的亮度值和色度值，每个像素点的亮度值和色度值满足非线性跨分量预测模型的对应关系；
根据n个像素点的亮度值和色度值，利用矩阵LDL分解求得非线性跨分量预测模型的二次项系数、一次项系数及常数项的比例系数。
7.一种非线性跨分量预测模型的系数优化装置，其特征在于，包括：
参数求解单元，用于利用矩阵LDL分解求得非线性跨分量预测模型的二次项系数、一次项系数及常数项的比例系数；
第一参数调整单元，用于根据预设的参数调整步长、参考区域亮度值均值及预设的比例系数，调整二次项系数；
第二参数调整单元，用于将参考区域亮度值的均值作为固定点，利用旋转的固定点并保持常数项的比例系数不变，并根据预设的参数调整步长、参考区域亮度值均值、预设的比例系数及比特深度，调整一次项系数；所述固定点是在用参考区域的亮度值与其对应的色度值构建出所述非线性跨分量预测模型后，将所述非线性跨分量预测模型进行旋转时的轴点；
参数代入单元，用于将调整后的二次项系数与一次项系数代入非线性跨分量预测模型，得到参数调整后的非线性跨分量预测模型；
其中，所述非线性跨分量预测模型的表达式为：predC(i,j)＝α0·(((recL(i,j))2+midValue)>>bitDepth)+α1·recL(i,j)+α2·midValue；其中，midValue＝2bitDepth-1，predC(i,j)表示(i,j)位置的色度预测值，recL(i,j)表示(i,j)位置的亮度重建值，bitDepth是比特深度，α0是非线性跨分量预测模型的二次项系数，α1是非线性跨分量预测模型的一次项系数，α2·midValue是非线性跨分量预测模型的常数项；
根据第三表达式计算参数调整后的非线性跨分量预测模型对应的RDO代价，其中第三表达式为：J＝D+λR，J是RDO代价，D是当前预测模式下的失真，R是编码当前预测模式下所有信息所用的比特数，λ是拉格朗日因子，RDO代价用于评估非线性跨分量预测模型总的编码性能。
8.一种电子设备，其特征在于，包括处理器以及存储器；
所述存储器用于存储程序；
所述处理器执行所述程序实现如权利要求1至6中任一项所述的方法。
9.一种计算机可读存储介质，其特征在于，所述存储介质存储有程序，所述程序被处理器执行实现如权利要求1至6中任一项所述的方法。
CN202310175173.6A 2023-02-24 2023-02-24 一种非线性跨分量预测模型的系数优化方法 Active CN116248900B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310175173.6A CN116248900B (zh) 2023-02-24 2023-02-24 一种非线性跨分量预测模型的系数优化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310175173.6A CN116248900B (zh) 2023-02-24 2023-02-24 一种非线性跨分量预测模型的系数优化方法

Publications (2)

Publication Number Publication Date
CN116248900A CN116248900A (zh) 2023-06-09
CN116248900B true CN116248900B (zh) 2025-09-02

Family

ID=86634621

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310175173.6A Active CN116248900B (zh) 2023-02-24 2023-02-24 一种非线性跨分量预测模型的系数优化方法

Country Status (1)

Country Link
CN (1) CN116248900B (zh)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114631313A (zh) * 2019-10-29 2022-06-14 北京字节跳动网络技术有限公司 使用亮度差值的跨分量自适应环路滤波器

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10778978B2 (en) * 2017-08-21 2020-09-15 Qualcomm Incorporated System and method of cross-component dynamic range adjustment (CC-DRA) in video coding
CN113766246A (zh) * 2020-06-05 2021-12-07 Oppo广东移动通信有限公司 图像编码方法、图像解码方法及相关装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114631313A (zh) * 2019-10-29 2022-06-14 北京字节跳动网络技术有限公司 使用亮度差值的跨分量自适应环路滤波器

Also Published As

Publication number Publication date
CN116248900A (zh) 2023-06-09

Similar Documents

Publication Publication Date Title
JP5711405B2 (ja) ビデオ・データを符号化するための符号化タイプおよび予測モードの選択
JP4885486B2 (ja) 画像の符号化および復号化
EP2081155B1 (en) Prediction-based image processing
CN108322749B (zh) Rdoq的系数优化方法、rdoq的加速方法及装置
Wang et al. Raw image reconstruction with learned compact metadata
US10972749B2 (en) Systems and methods for reconstructing frames
CN109819250A (zh) 一种多核全组合方式的变换方法和系统
WO2010005112A1 (en) Methods and systems for display correction
CN115868160A (zh) 用于视频编码的自适应量化器设计
CN116248900B (zh) 一种非线性跨分量预测模型的系数优化方法
CN101779461A (zh) 使用pixon方法的图像压缩和解压缩
CN116601944A (zh) 点云编解码方法、编码器、解码器及计算机存储介质
CN112715029A (zh) Ai编码设备及其操作方法和ai解码设备及其操作方法
US20130142266A1 (en) Co-compression and co-decompression of data values
CN118573878A (zh) 一种考虑率失真依赖关系的视频编码码率控制方法及设备
CN113747177A (zh) 基于历史信息的帧内编码速度优化方法、装置及介质
CN118297121A (zh) 一种混合专家模型量化方法、装置、设备及存储介质
TW202537275A (zh) 量化參數調整方法、裝置、設備及儲存介質
KR20240122844A (ko) 구성성분 기반 이미지 전처리를 위한 기계 학습 기술들
CN107896331A (zh) 选择编码选项的方法、数据处理装置、计算机可读存储介质
Isquierdo et al. Error resilience evaluation of approximate storage in the intra prediction of vvc decoders
CN117157973A (zh) 编解码方法及相关设备、存储介质
Jia et al. Bit rate matching algorithm optimization in JPEG-AI verification model
Váša et al. Efficient encoding of texture coordinates guided by mesh geometry
US20150003523A1 (en) Probability modeling of intra prediction modes

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant