[go: up one dir, main page]

TWI874342B - 用於視訊寫碼之以樹為基礎之轉換單元(tu)分區 - Google Patents

用於視訊寫碼之以樹為基礎之轉換單元(tu)分區 Download PDF

Info

Publication number
TWI874342B
TWI874342B TW108146396A TW108146396A TWI874342B TW I874342 B TWI874342 B TW I874342B TW 108146396 A TW108146396 A TW 108146396A TW 108146396 A TW108146396 A TW 108146396A TW I874342 B TWI874342 B TW I874342B
Authority
TW
Taiwan
Prior art keywords
block
residual
partition
blocks
type
Prior art date
Application number
TW108146396A
Other languages
English (en)
Other versions
TW202038617A (zh
Inventor
席爾米 伊恩斯 埃伊爾梅茲
法迪姆 塞瑞金
阿米爾 塞德
馬塔 卡茲維克茲
Original Assignee
美商高通公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商高通公司 filed Critical 美商高通公司
Publication of TW202038617A publication Critical patent/TW202038617A/zh
Application granted granted Critical
Publication of TWI874342B publication Critical patent/TWI874342B/zh

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96—Tree coding, e.g. quad-tree coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

一視訊解碼器可在包含視訊資料之一經編碼表示的一位元串流中接收指示一殘餘區塊是否進行分區之資訊及指示基於該殘餘區塊進行分區的用於該殘餘區塊之一分區樹類型的資訊，其中該殘餘區塊指示一當前區塊與一預測區塊之間的一差。該視訊解碼器可基於該殘餘區塊進行分區的所接收資訊及用於該殘餘區塊之該分區樹類型判定該殘餘區塊根據該分區樹類型被分區為的複數個殘餘子區塊。該視訊解碼器可至少部分基於該殘餘區塊根據該分區樹類型被分區為該複數個殘餘子區塊而產生用於該當前區塊的殘餘資料，且可使用該殘餘資料解碼該當前區塊。

Description

用於視訊寫碼之以樹為基礎之轉換單元(TU)分區
本發明係關於視訊編碼及視訊解碼。
數位視訊能力可併入至廣泛範圍之裝置中，該等裝置包括數位電視、數位直播系統、無線廣播系統、個人數位助理(PDA)、膝上型或桌上型電腦、平板電腦、電子書閱讀器、數位攝影機、數位記錄裝置、數位媒體播放機、視訊遊戲裝置、視訊遊戲主控台、蜂巢式或衛星無線電電話(所謂的「智慧型電話」)、視訊電傳會議裝置、視訊串流裝置及其類似者。數位視訊裝置實施視訊寫碼技術，諸如由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4第10部分進階視訊寫碼(AVC)、ITU-T H.265/高效視訊寫碼(HEVC)定義之標準，及此等標準的擴展中所描述之技術。視訊裝置可藉由實施此類視訊寫碼技術來更有效地傳輸、接收、編碼、解碼及/或儲存數位視訊資訊。
視訊寫碼技術包括空間(圖像內)預測及/或時間(圖像間)預測以減少或移除為視訊序列所固有的冗餘。對於基於區塊之視訊寫碼，視訊圖塊(例如，視訊圖像或視訊圖像的一部分)可分區為視訊區塊，視訊區塊亦可被稱作寫碼樹單元(CTU)、寫碼單元(CU)及/或寫碼節點。使用關於同一圖像中之相鄰區塊中之參考樣本的空間預測來編碼圖像之經框內寫碼(I)之圖塊中的視訊區塊。圖像之經框間寫碼(P或B)圖塊中之視訊區塊可使用關於同一圖像中之相鄰區塊中之參考樣本的空間預測或關於其他參考圖像中之參考樣本的時間預測。圖像可被稱作圖框，且參考圖像可被稱作參考圖框。
大體而言，本發明描述與轉換寫碼相關之技術，其為現代視訊壓縮標準之一元件。實例技術可提供諸如轉換單元(TU)之殘餘區塊之更靈活分區，且可改良寫碼增益。
在一個實例中，一種解碼視訊資料之方法包括：在包含該視訊資料之一經編碼表示的一位元串流中接收指示一殘餘區塊是否進行分區之資訊及指示基於該殘餘區塊進行分區的用於該殘餘區塊之一分區樹類型的資訊，其中該殘餘區塊指示一當前區塊與一預測區塊之間的一差。該方法進一步包括基於該殘餘區塊進行分區的所接收資訊及用於該殘餘區塊之該分區樹類型判定該殘餘區塊根據該分區樹類型被分區為的複數個殘餘子區塊。該方法進一步包括至少部分基於該殘餘區塊根據該分區樹類型被分區為該複數個殘餘子區塊而產生用於該當前區塊的殘餘資料。該方法進一步包括使用該殘餘資料解碼該當前區塊。
在另一實例中，一種用於解碼視訊資料之裝置包括經組態以儲存視訊資料之一記憶體。該裝置進一步包括一處理器，其實施於電路系統中且經組態以：在包含該視訊資料之一經編碼表示的一位元串流中接收指示一殘餘區塊是否進行分區之資訊及指示基於該殘餘區塊進行分區的用於該殘餘區塊之一分區樹類型的資訊，其中該殘餘區塊指示一當前區塊與一預測區塊之間的一差；基於該殘餘區塊進行分區的所接收資訊及用於該殘餘區塊之該分區樹類型判定該殘餘區塊根據該分區樹類型被分區為的複數個殘餘子區塊；至少部分基於該殘餘區塊根據該分區樹類型被分區為該複數個殘餘子區塊而產生用於該當前區塊的殘餘資料；及使用該殘餘資料解碼該當前區塊。
在另一實例中，一種上面儲存有指令之電腦可讀儲存媒體，該等指令當經執行時使得一處理器：在包含視訊資料之一經編碼表示的一位元串流中接收指示一殘餘區塊是否進行分區之資訊及指示基於該殘餘區塊進行分區的用於該殘餘區塊之一分區樹類型的資訊，其中該殘餘區塊指示一當前區塊與一預測區塊之間的一差；基於該殘餘區塊進行分區的所接收資訊及用於該殘餘區塊之該分區樹類型判定該殘餘區塊根據該分區樹類型被分區為的複數個殘餘子區塊；至少部分基於該殘餘區塊根據該分區樹類型被分區為該複數個殘餘子區塊而產生用於該當前區塊的殘餘資料；及使用該殘餘資料解碼該當前區塊。
在另一實例中，一種用於解碼視訊資料之裝置包括用於在包含該視訊資料之一經編碼表示的一位元串流中接收指示一殘餘區塊是否進行分區之資訊及指示基於該殘餘區塊進行分區的用於該殘餘區塊之一分區樹類型之資訊的構件，其中該殘餘區塊指示一當前區塊與一預測區塊之間的一差。該裝置進一步包括用於基於該殘餘區塊進行分區的所接收資訊及用於該殘餘區塊之該分區樹類型判定該殘餘區塊根據該分區樹類型被分區為之複數個殘餘子區塊的構件。該裝置進一步包括用於至少部分基於該殘餘區塊根據該分區樹類型被分區為該複數個殘餘子區塊而產生用於該當前區塊之殘餘資料的構件。該裝置進一步包括用於使用該殘餘資料解碼該當前區塊的構件。
在另一實例中，一種編碼視訊資料之方法包括判定用於視訊資料之一當前區塊的一殘餘區塊根據一分區樹類型被分區為複數個殘餘子區塊。該方法進一步包括將一位元串流編碼為視訊資料之一經編碼表示，其發信指示該殘餘區塊是否進行分區之資訊，且進一步發信指示用於進行分區之該殘餘區塊之該分區樹類型的資訊。
在另一實例中，一種用於編碼視訊資料之裝置包括經組態以儲存視訊資料之一記憶體。該裝置進一步包括一處理器，其實施於電路系統中且經組態以：判定用於該視訊資料之一當前區塊的一殘餘區塊根據一分區樹類型被分區為複數個殘餘子區塊；及將一位元串流編碼為視訊資料之一經編碼表示，其發信指示該殘餘區塊是否進行分區之資訊，且進一步發信指示用於進行分區之該殘餘區塊之該分區樹類型的資訊。
在以下隨附圖式及描述中闡述一或多個實例之細節。其他特徵、目標及優勢自實施方式、圖式及申請專利範圍將為顯而易見的。
本申請案主張2018年12月19日申請的美國臨時申請案第62/782,292號之權益，該申請案特此以全文引用之方式併入。
本發明涉及轉換寫碼。在轉換寫碼中，對於視訊編碼器，存在殘餘資料之區塊(例如，正編碼之當前區塊與預測區塊之間的殘餘)。殘餘資料自空間域經轉換至頻域，從而產生轉換係數之轉換係數區塊。視訊解碼器接收轉換係數區塊(或可能在量化之後，轉換係數區塊)且執行反量化(視需要)及反轉換以將殘餘資料重建構回至值之空間域。
轉換單元(TU)包括明度樣本之轉換區塊及對應色度樣本之轉換區塊。轉換區塊可為在解碼程序中由轉換產生的樣本之矩形M×N區塊，且轉換可為解碼程序之一部分，轉換係數之區塊藉由該轉換而被轉換成空間域值之區塊。因此，殘餘區塊可為TU之實例。殘餘區塊可為自樣本域經轉換至頻域，且包括複數個轉換係數的殘餘資料。轉換寫碼更詳細地描述於2015年柏林施普林格出版社的M.Wien的高效視訊寫碼：寫碼工具及規範 中。
如更詳細所描述，在本發明中描述之一或多個實例中，若干以樹為基礎之分區設計可用於轉換寫碼，其具有被稱作自適應多重(或多核)轉換(AMT)或多重轉換集合(MTS)之轉換方案。AMT及MTS可指相同轉換工具，因為歸因於視訊寫碼標準之間的名稱改變，AMT現被稱為MTS。
實例轉換方案描述於美國專利公開案第2016/0219290號及2015年1月X. Zhao、S. Lee、J. Chen、L. Zhang、X. Li、Y. Chen、M. Karczewicz及H. Liu的用於預測殘餘之增強型多重轉換 (Enhanced Multiple Transforms for Prediction Residuals)中，亦描述於美國專利公開案第2018/0020218號及2016年7月X. Zhao、V. Seregin、M. Karczewicz及J.Chen的用於增強型多重轉換之經改良查找表 (Improved Look - up Table for Enhanced Multiple Transform)中，且亦描述於2019年5月30日申請的美國申請案第16/426,749號及H. E. Egilmez、Y.-H. Chao、A. Said、V. Seregin及M. Karczewicz的具有經減少發信負擔之自適應多重轉換 (Adaptive multiple transforms with reduced signaling overhead)中。
如更詳細所描述，在一些實例中，殘餘區塊可分區為複數個殘餘子區塊(例如，子CU)。本發明描述視訊編碼器可用以發信且視訊解碼器可判定殘餘區塊被分區為殘餘子區塊的方法之實例技術及殘餘區塊進行分區之方式(例如，分區類型)。此外，可能存在視訊編碼器可用以將樣本域中之殘餘資料轉換至頻域的複數個轉換類型及視訊解碼器可用以將頻域資料轉換回(例如，反轉換)至樣本域中之殘餘資料的複數個轉換類型。本發明描述判定轉換類型之實例方法。
圖1為說明可執行本發明之技術的實例視訊編碼及解碼系統100的方塊圖。本發明之技術大體上係針對寫碼(編碼及/或解碼)視訊資料。大體而言，視訊資料包括用於處理視訊之任何資料。因此，視訊資料可包括原始未經編碼的視訊、經編碼視訊、經解碼(例如經重建構)視訊及視訊後設資料，諸如傳信資料。
如圖1中所示，在此實例中，系統100包括源裝置102，其提供待由目的地裝置116解碼及顯示之經編碼視訊資料。特定而言，源裝置102經由電腦可讀媒體110將視訊資料提供至目的地裝置116。源裝置102及目的地裝置116可包含廣泛範圍裝置中之任一者，包括桌上型電腦、筆記型(亦即，膝上型)電腦、平板電腦、機上盒、電話手機(此類智慧型手機)、電視、攝影機、顯示裝置、數字媒體播放器、視訊遊戲主控台、視訊串流裝置或其類似者。在一些狀況下，源裝置102及目的地裝置116可經裝備用於無線通信，且因此可被稱作無線通信裝置。
在圖1之實例中，源裝置102包括視訊源104、記憶體106、視訊編碼器200及輸出介面108。目的地裝置116包括輸入介面122、視訊解碼器300、記憶體120及顯示裝置118。根據本發明，源裝置102之視訊編碼器200及目的地裝置116之視訊解碼器300可經組態以應用用於視訊寫碼的以樹為基礎之轉換單元分區之技術。因此，源裝置102表示視訊編碼裝置之實例，而目的地裝置116表示視訊解碼裝置之實例。在其他實例中，源裝置及目的地裝置可包括其他組件或配置。舉例而言，源裝置102可自外部視訊源(諸如，外部攝影機)接收視訊資料。同樣地，目的地裝置116可與外部顯示裝置介接，而非包括整合式顯示裝置。
如圖1中所示的系統100僅為一個實例。大體而言，任何數位視訊編碼及/或解碼裝置可執行用於視訊寫碼的以樹為基礎之轉換單元分區的技術。源裝置102及目的地裝置116僅為源裝置102產生經寫碼視訊資料以供傳輸至目的地裝置116之此類寫碼裝置的實例。本發明將「寫碼」裝置稱為對資料執行寫碼(編碼及/或解碼)之裝置。因此，視訊編碼器200及視訊解碼器300表示寫碼裝置之實例，詳言之分別表示視訊編碼器及視訊解碼器之實例。在一些實例中，源裝置102及目的地裝置116可以實質上對稱之方式操作，使得源裝置102及目的地裝置116中之每一者包括視訊編碼及解碼組件。因此，系統100可支援源裝置102與目的地裝置116之間的單向或雙向視訊傳輸，例如用於視訊串流、視訊播放、視訊廣播或視訊電話。
大體而言，視訊源104表示視訊資料源(亦即，原始未經編碼的視訊資料)且將視訊資料之依序圖像(亦稱為「圖框」)提供至視訊編碼器200，該視訊編碼器編碼圖像之資料。源裝置102之視訊源104可包括視訊俘獲裝置，諸如視訊攝影機、含有先前俘獲之原始視訊的視訊存檔及/或用於自視訊內容提供者接收視訊的視訊饋入介面。作為另一替代，視訊源104可產生基於電腦圖形之資料作為源視訊，或實況視訊、存檔視訊及電腦產生之視訊的組合。在每一情況下，視訊編碼器200對所俘獲、所預先俘獲或電腦產生之視訊資料進行編碼。視訊編碼器200可將圖像之接收次序(有時被稱作「顯示次序」)重新配置成寫碼次序以供寫碼。視訊編碼器200可產生包括經編碼視訊資料之位元串流。源裝置102接著可經由輸出介面108將經編碼視訊資料輸出至電腦可讀媒體110上以供由例如目的地裝置116之輸入介面122接收及/或擷取。
源裝置102之記憶體106及目的地裝置116之記憶體120表示通用記憶體。在一些實例中，記憶體106、120可儲存原始視訊資料，例如來自視訊源104之原始視訊及來自視訊解碼器300之原始經解碼視訊資料。另外或替代地，記憶體106、120可儲存可分別由例如視訊編碼器200及視訊解碼器300執行之軟體指令。儘管在此實例中記憶體106及記憶體120展示為與視訊編碼器200及視訊解碼器300分開，但應理解，視訊編碼器200及視訊解碼器300亦可包括功能上類似或等效目的之內部記憶體。此外，記憶體106、120可儲存例如自視訊編碼器200輸出及輸入至視訊解碼器300的經編碼視訊資料。在一些實例中，可分配記憶體106、120之部分作為一或多個視訊緩衝器，以例如儲存原始、經解碼及/或經編碼視訊資料。
電腦可讀媒體110可表示能夠將經編碼視訊資料自源裝置102傳送至目的地裝置116的任何類型的媒體或裝置。在一個實例中，電腦可讀媒體110表示用以使源裝置102能即時例如經由射頻網路或基於電腦之網路直接傳輸經編碼視訊資料至目的地裝置116的通信媒體。根據諸如無線通信協定之通信標準，輸出介面108可調變包括經編碼視訊資料之傳輸信號，且輸入介面122可調變所接收之傳輸信號。通信媒體可包含任何無線或有線通信媒體，諸如射頻(RF)頻譜或一或多個實體傳輸線。通信媒體可形成基於封包之網路(諸如，區域網路、廣域網路或諸如網際網路之全域網路)之部分。通信媒體可包括路由器、交換器、基地台或可用於促進自源裝置102至目的地裝置116的通信之任何其他裝備。
在一些實例中，源裝置102可將經編碼資料自輸出介面108輸出至儲存裝置116。類似地，目的地裝置116可經由輸入介面122自儲存裝置112存取經編碼資料。儲存裝置112可包括各種分佈式或本端存取之資料儲存媒體中之任一者，諸如硬碟機、藍光光碟、DVD、CD-ROM、快閃記憶體、揮發性或非揮發性記憶體或用於儲存經編碼視訊資料之任何其他合適的數位儲存媒體。
在一些實例中，源裝置102可將經編碼視訊資料輸出至檔案伺服器114或另一中間儲存裝置，其可儲存由源裝置102產生之經編碼視訊。目的地裝置116可經由串流傳輸或下載而自檔案伺服器114存取所儲存之視訊資料。檔案伺服器114可為能夠儲存經編碼視訊資料並將該經編碼視訊資料傳輸至目的地裝置116的任何類型之伺服器裝置。檔案伺服器114可表示網頁伺服器(例如用於網站)、檔案傳送協定(FTP)伺服器、內容遞送網路裝置，或網路附接儲存(NAS)裝置。目的地裝置116可經由包括網際網路連接之任何標準資料連接自檔案伺服器114存取經編碼視訊資料。此可包括無線通道(例如Wi-Fi連接)、有線連接(例如DSL、有線電視數據機等)，或適用於存取儲存於檔案伺服器114上之經編碼視訊資料的兩者之組合。檔案伺服器114及輸入介面122可經組態以根據串流傳輸協定、下載傳輸協定或其組合操作。
輸出介面108及輸入介面122可表示無線傳輸器/接收器、數據機、有線網路連接組件(例如，乙太網卡)、根據各種IEEE 802.11標準中之任一者來操作的無線通信組件或其他實體組件。在輸出介面108及輸入介面122包含無線組件之實例中，輸出介面108及輸入介面122可經組態以根據蜂巢式通信標準(諸如4G、4G-LTE(長期演進)、LTE進階、5G，或其類似者)來傳送資料，諸如經編碼視訊資料。在輸出介面108包含無線傳輸器的一些實例中，輸出介面108及輸入介面122可經組態以根據諸如IEEE 802.11規範、IEEE 802.15規範(例如，ZigBee™)、Bluetooth™標準或其類似者的其他無線標準傳送資料(諸如經編碼視訊資料)。在一些實例中，源裝置102及/或目的地裝置116可包括各別晶片上系統(SoC)裝置。舉例而言，源裝置102可包括SoC裝置以執行歸於視訊編碼器200及/或輸出介面108之功能性，且目的地裝置116可包括SoC裝置以執行歸於視訊解碼器300及/或輸入介面122之功能性。
本發明之技術可應用於支援多種多媒體應用中之任一者的視訊寫碼，諸如，空中電視廣播、有線電視傳輸、衛星電視傳輸、網際網路串流視訊傳輸(諸如，經由HTTP之動態自適應串流(DASH))、經編碼至資料儲存媒體上之數位視訊、儲存於資料儲存媒體上的數位視訊之解碼或其他應用。
目的地裝置116之輸入介面122接收自電腦可讀媒體110 (例如，通信媒體、儲存裝置112、檔案伺服器114或類似者)之經編碼視訊位元串流。經編碼視訊位元串流可包括由視訊編碼器200定義之發信資訊(其亦由視訊解碼器300使用)，諸如具有描述視訊區塊或其他經寫碼單元(例如，圖塊、圖像、圖像群組、序列或其類似者)之特性及/或處理的值的語法元素。顯示裝置118向使用者顯示經解碼視訊資料之經解碼圖像。顯示裝置118可表示各種顯示裝置中之任一者，諸如陰極射線管(CRT)、液晶顯示器(LCD)、電漿顯示器、有機發光二極體(OLED)顯示器或另一類型之顯示裝置。
儘管圖1中未示出，但在一些實例中，視訊編碼器200及視訊解碼器300可各自與音訊編碼器及/或音訊解碼器整合，且可包括適合的MUX-DEMUX單元或其他硬體及/或軟體，以處置在共同資料串流中包括音訊及視訊兩者之多工串流。若適用，則MUX-DEMUX單元可遵照ITU H.223多工器協定或諸如使用者資料報協定(UDP)之其他協定。
視訊編碼器200及視訊解碼器300各自可被實施為各種合適編碼器及/或解碼器電路系統中之任一者，諸如一或多個微處理器、數位信號處理器(DSP)、特殊應用積體電路(ASIC)、場可程式化閘陣列(FPGA)、離散邏輯、軟體、硬體、韌體或其任何組合。當該等技術部分以軟體實施時，裝置可將用於軟體之指令儲存於合適之非暫時性電腦可讀媒體中，且在硬體中使用一或多個處理器執行指令以執行本發明之技術。視訊編碼器200及視訊解碼器300中之每一者可包括於一或多個編碼器或解碼器中，編碼器或解碼器中之任一者可整合為各別裝置中之組合式編碼器/解碼器(編碼解碼器)的部分。包括視訊編碼器200及/或視訊解碼器300之裝置可包含積體電路、微處理器及/或無線通信裝置(諸如蜂巢式電話)。
視訊編碼器200及視訊解碼器300可根據視訊寫碼標準操作，諸如ITU-T H.265，亦稱作高效視訊寫碼(HEVC)或其擴展，諸如多視圖及/或可調式視訊寫碼擴展。可替代地，視訊編碼器200及視訊解碼器300可根據其他專有或行業標準操作，諸如聯合勘探測試模型(JEM)或ITU-T H.266，其亦經稱作多功能視訊寫碼(VVC)。VVC標準之草案描述於2019年7月3日至12日於東南部哥德堡的ITU-T SG 16 WP 3及ISO/IEC JTC 1/SC 29/WG 11之聯合視訊專家小組(JVET)第15次會議JVET-O2001-vE上，Bross等人之「Versatile Video Coding (草案6)」中(在下文中「VVC草案6」)。VVC標準之較新草案描述於2019年10月1日至11日於CH日內瓦的ITU-T SG 16 WP 3及ISO/IEC JTC 1/SC 29/WG 11之聯合視訊專家小組(JVET)第16次會議JVET-P2001-v9上，Bross等人的「多功能視訊寫碼(草案7)」(下文中稱為「VVC草案7」)中。然而，本發明之技術不限於任何特定寫碼標準。
一般而言，視訊編碼器200及視訊解碼器300可執行圖像之基於區塊的寫碼。術語「區塊」一般係指包括待處理(例如編碼、解碼或以其他方式在編碼及/或解碼程序中使用)之資料的結構。舉例而言，區塊可包括明度及/或色度資料之樣本之二維矩陣。一般而言，視訊編碼器200及視訊解碼器300可寫碼以YUV (例如Y、Cb、Cr)格式表示之視訊資料。亦即，視訊編碼器200及視訊解碼器300可寫碼明度及色度分量，而非寫碼圖像之樣本的紅色、綠色及藍色(RGB)資料，其中該等色度分量可包括紅色調及藍色調色度分量兩者。在一些實例中，視訊編碼器200在編碼之前將所接收的RGB格式資料轉換成YUV表示，且視訊解碼器300將YUV表示轉換成RGB格式。可替代地，預處理單元及後處理單元(圖中未示)可執行此等轉換。
本發明大體上可指對圖像進行寫碼(例如編碼及解碼)以包括編碼或解碼圖像之資料的程序。類似地，本發明可指對圖像之區塊進行寫碼以包括編碼或解碼區塊之資料的過程，例如預測及/或殘餘寫碼。經編碼視訊位元串流一般包括表示寫碼決策(例如寫碼模式)及圖像至區塊之分區的語法元素的一系列值。因此，對寫碼圖像或區塊之提及一般應理解為寫碼形成該圖像或區塊之語法元素的值。
HEVC定義各種區塊，包括寫碼單元(CU)、預測單元(PU)，以及轉換單元(TU)。根據HEVC，視訊寫碼器(諸如視訊編碼器200)根據四元樹結構將寫碼樹單元(CTU)分區為CU。亦即，視訊寫碼器將CTU及CU分區為四個相同的非重疊正方形，且四元樹之每一節點具有零個或四個子節點。不具有子節點之節點可被稱作「葉節點」，且此類葉節點之CU可包括一或多個PU及/或一或多個TU。視訊寫碼器可將PU及TU進一步分區。舉例而言，在HEVC中，殘餘四元樹(RQT)表示TU之分區。在HEVC中，PU表示框間預測資料，而TU表示殘餘資料。經框內預測之CU包括框內預測資訊，諸如框內模式指示。
作為另一實例，視訊編碼器200及視訊解碼器300可經組態以根據JEM或VVC操作。根據JEM或VVC，視訊寫碼器(諸如視訊編碼器200)將圖像分區為複數個寫碼樹型單元(CTU)。視訊編碼器200可根據樹型結構將CTU分區，諸如四元樹二元樹型(QTBT)結構或多類型樹型(MTT)結構。QTBT結構移除多個分區類型之概念，諸如HEVC之CU、PU及TU之間的間距。然而，在一些實例中，TU及CU可以不同方式分區。亦即，TU可包括具有不同於CU之形狀及大小的形狀及大小的複數個子TU。QTBT結構包括兩個層級：根據四元樹分區進行分區的第一層級，及根據二元樹分區進行分區的第二層級。QTBT結構之根節點對應於CTU。二元樹之葉節點對應於寫碼單元(CU)。
在MTT分區結構中，區塊可使用四元樹(QT)分區、二元樹(BT)分區及一或多種類型之三元樹(TT) (亦稱為三元樹(TT))分區來分區。三元或三元樹分區為區塊分裂成三個子區塊的分區。在一些實例中，三元或三元樹分區在不經由中心劃分原始區塊情況下將區塊劃分成三個子區塊。MTT中之分區類型(例如QT、BT及TT)可為對稱或不對稱的。
在一些實例中，視訊編碼器200及視訊解碼器300可使用單一QTBT或MTT結構以表示明度及色度分量中之每一者，而在其他實例中，視訊編碼器200及視訊解碼器300可使用兩個或更多個QTBT或MTT結構，諸如用於明度分量之一個QTBT/MTT結構及用於兩個色度分量之另一QTBT/MTT結構(或用於各別色度分量之兩個QTBT/MTT結構)。
視訊編碼器200及視訊解碼器300可經組態以使用根據HEVC之四元樹分區、QTBT分區、MTT分區或其他分區結構。出於解釋之目的，關於QTBT分區呈現本發明之技術的描述。然而，應理解，本發明之技術亦可應用於經組態以使用四元樹分區亦或其他類型之分區的視訊寫碼器。
區塊(例如CTU或CU)可在圖像中以各種方式分組。作為一個實例，塊可指代圖像中之特定圖像塊內之CTU列的矩形區。圖像塊可為圖像中之特定圖像塊行及特定圖像塊列內的CTU之矩形區。圖像塊行係指具有等於圖像之高度的高度及藉由語法元素(例如，諸如在圖像參數集合中)指定之寬度的CTU之矩形區。圖像塊列係指具有藉由語法元素(例如，諸如在圖像參數集合中)指定之高度及等於圖像之寬度的寬度的CTU之矩形區。
在一些實例中，圖像塊可分區為多個塊，該多個塊中之每一者可包括圖像塊內之一或多個CTU列。未分區為多個塊之圖像塊亦可被稱作塊。然而，為圖像塊之真子集之塊可不稱作圖像塊。
在圖像中之塊亦可配置於圖塊中。圖塊可為可獨佔地含於單一網路抽象層(NAL)單元中之圖像之整數數目個塊。在一些實例中，圖塊包括多個完整圖像塊或僅包括一個圖像塊之完整塊的連續序列。
本發明可互換地使用「N×N」及「N乘N」以指區塊(諸如CU或其他視訊區塊)在豎直及水平尺寸方面之樣本尺寸，例如16×16樣本或16乘16樣本。大體而言，16×16 CU在豎直方向上將具有16個樣本(y = 16)且在水平方向上將具有16個樣本(x = 16)。同樣地，N×N CU大體在豎直方向上具有N個樣本且在水平方向上具有N個樣本，其中N表示非負整數值。可按列及行來配置CU中之樣本。此外，CU不一定在水平方向上及豎直方向上具有相同數目個樣本。舉例而言，CU可包含N×M個樣本，其中M未必等於N。
視訊編碼器200編碼CU之表示預測及/或殘餘資訊及其他資訊的視訊資料。預測資訊指示將如何對CU進行預測以便形成CU之預測區塊。殘餘資訊通常表示編碼前CU與預測區塊之樣本之間的逐樣本差。
為了預測CU，視訊編碼器200大體可經由框間預測或框內預測形成CU之預測區塊。框間預測一般係指自先前經寫碼圖像之資料預測CU，而框內預測一般係指自同一圖像之先前經寫碼資料預測CU。為了執行框間預測，視訊編碼器200可使用一或多個運動向量來產生預測區塊。視訊編碼器200可一般執行運動搜尋以識別緊密匹配CU的參考區塊(例如，在CU與參考區塊之間的差方面)。視訊編碼器200可使用絕對差總和(SAD)、平方差總和(SSD)、平均絕對差(MAD)、均方差(MSD)或其他此類差計算來計算差度量，以判定參考區塊是否緊密匹配當前CU。在一些實例中，視訊編碼器200可使用單向預測或雙向預測來預測當前CU。
JEM及VVC之一些實例亦提供仿射運動補償模式，其可經認為框間預測模式。在仿射運動補償模式中，視訊編碼器200可判定表示非平移運動(諸如放大或縮小、旋轉、透視運動或其他不規則運動類型)之兩個或大於兩個運動向量。
為了執行框內預測，視訊編碼器200可選擇框內預測模式以產生預測區塊。JEM及VVC之一些實例提供六十七種框內預測模式，包括各種定向模式以及平面模式及DC模式。一般而言，視訊編碼器200選擇描述當前區塊(例如，CU之區塊)的相鄰樣本的框內預測模式，其中自該當前區塊預測當前區塊之樣本。此類樣本一般可與當前區塊在同一圖像中，在當前區塊之上方、左上方或左側，假定視訊編碼器200以光柵掃描次序(左至右、上至下)寫碼CTU及CU。
視訊編碼器200編碼表示當前區塊之預測模式的資料。舉例而言，針對框間預測模式，視訊編碼器200可編碼表示使用多種可用框間預測模式中之何者以及對應模式之運動資訊的資料。舉例而言，對於單向或雙向框間預測，視訊編碼器200可使用進階運動向量預測(AMVP)或合併模式來編碼運動向量。視訊編碼器200可使用類似模式來對仿射運動補償模式之運動向量進行編碼。
在區塊之預測(諸如框內預測或框間預測)之後，視訊編碼器200可計算用於該區塊之殘餘資料。殘餘資料(諸如殘餘區塊)表示區塊與該區塊之使用對應預測模式所形成的預測區塊之間的逐樣本差。視訊編碼器200可將一或多個轉換應用於殘餘區塊，以在轉換域而非樣本域中產生經轉換資料。轉換至殘餘區塊之結果可為轉換域(亦被稱作頻域)中之殘餘區塊。殘餘區塊為TU之實例，且在一或多個實例中，TU可進一步分區為複數個子TU (例如，殘餘子區塊)。
作為一個實例，視訊編碼器200可將離散餘弦轉換(DCT)、整數轉換、小波轉換或概念上類似的轉換應用於殘餘視訊資料。另外，視訊編碼器200可在一級轉換之後應用二級轉換，諸如模式依賴不可分離二級轉換(MDNSST)、信號依賴轉換、Karhunen-Loeve轉換(KLT)或其類似者。視訊編碼器200在應用一或多個轉換之後產生轉換係數。DCT之使用經提供為一個實例且不應被視為限制性的。可能存在其他轉換類型，且本發明中描述之實例可利用該等轉換類型中之一或多者。舉例而言，視訊編碼器200可經組態以選擇待用於自樣本域轉換至轉換(例如，頻率)域之轉換類型，且視訊解碼器300可經組態以選擇待用於自轉換域轉換回(例如，反轉換)至樣本域之轉換類型。在一些實例中，基於各種準則，視訊編碼器200可經組態以選擇且視訊解碼器300可經組態以推斷待使用之轉換類型，從而使得視訊編碼器200及視訊解碼器300選擇同一轉換類型。藉由推斷轉換類型，視訊編碼器200可能不需要顯式地發信指示轉換類型之資訊，且視訊解碼器300可能不需要接收指示轉換類型之資訊。
如上文所提及，在任何轉換以產生轉換係數後，視訊編碼器200可執行轉換係數之量化。量化大體上係指將轉換係數量化以可能地減少用以表示轉換係數之資料之量從而提供進一步壓縮的處理程序。藉由執行量化程序，視訊編碼器200可減少與轉換係數中之一些或所有相關之位元深度。舉例而言，視訊編碼器200可在量化期間將n 位元值捨入至m 位元值，其中n 大於m 。在一些實例中，為了進行量化，視訊編碼器200可進行待量化值之按位元右移位。
在量化之後，視訊編碼器200可掃描轉換係數，從而自包括經量化轉換係數之二維矩陣產生一維向量。掃描可經設計以將較高能量(且因此較低頻率)係數置於向量前部，且將較低能量(且因此較高頻率)轉換係數置於向量後部。在一些實例中，視訊編碼器200可利用預定義掃描次序來掃描經量化轉換係數以產生串列化向量，且隨後熵編碼向量之經量化轉換係數。在其他實例中，視訊編碼器200可執行自適應掃描。在掃描經量化轉換係數以形成一維向量之後，視訊編碼器200可(例如)根據上下文適應性二進位算術寫碼(CABAC)對一維向量進行熵編碼。視訊編碼器200亦可對描述與經編碼視訊資料相關聯的後設資料之語法元素之值進行熵編碼，以供由視訊解碼器300用於對視訊資料進行解碼。
為執行CABAC，視訊編碼器200可將上下文模型內之上下文指派給待傳輸之符號。該上下文可能涉及(例如)符號之鄰近值是否為零值。機率判定可基於經指派至符號之上下文而進行。
視訊編碼器200可進一步例如在圖像標頭、區塊標頭、圖塊標頭或其他語法資料(諸如序列參數集(SPS)、圖像參數集(PPS)或視訊參數集(VPS))中向視訊解碼器300產生語法資料(諸如基於區塊之語法資料、基於圖像之語法資料以及基於序列之語法資料)。視訊解碼器300可同樣地解碼此類語法資料以判定如何對對應視訊資料進行解碼。
以此方式，視訊編碼器200可產生包括經編碼視訊資料(例如，描述圖像至區塊(例如，CU)之分區的語法元素及用於區塊之預測及/或殘餘資訊)之位元串流。最後，視訊解碼器300可接收位元串流並解碼經編碼視訊資料。
一般而言，視訊解碼器300執行與視訊編碼器200所執行之過程互逆的過程，以解碼位元串流之經編碼視訊資料。舉例而言，視訊解碼器300可使用CABAC以與視訊編碼器200之CABAC編碼程序實質上類似但互逆的方式解碼位元串流之語法元素的值。語法元素可定義圖像至CTU之分區資訊及每一CTU根據對應分區結構(諸如QTBT結構)之分區，以定義CTU之CU。語法元素可進一步定義視訊資料之區塊(例如，CU)的預測及殘餘資訊。
殘餘資訊可由例如經量化轉換係數表示。視訊解碼器300可反量化及反轉換區塊之經量化轉換係數，以再生區塊之殘餘區塊。視訊解碼器300使用經發信預測模式(框內或框間預測)及相關預測資訊(例如，用於框間預測之運動資訊)，以形成用於該區塊之預測區塊。隨後，視訊解碼器300可(在逐樣本基礎上)使經預測區塊與殘餘區塊組合以再生初始區塊。視訊解碼器300可執行額外處理，諸如執行解區塊程序以減少沿區塊邊界之視覺假影。
根據本發明之技術，可將殘餘區塊(例如，TU)分區以形成複數個殘餘子區塊(例如，子TU)。舉例而言，TU可分區為以下中之一者：四個正方形子TU (諸如，四元樹分區)、兩個矩形子TU (諸如，二元分區)，或三個矩形子TU (諸如，三元分區)。另一實例可為TU分區為四個矩形子TU。此外，可能存在複數個不同轉換類型(例如，不同類型的離散餘弦轉換(DCT)及離散正弦轉換(DST))。
本發明描述視訊編碼器200可發信且視訊解碼器300可判定殘餘區塊(例如，TU)是否進行分區及殘餘區塊進行分區之方式(例如，判定分區樹類型)的實例方法。又，本發明描述判定使用之轉換類型(亦被稱作轉換核心)的實例方法。
舉例而言，視訊解碼器300可在包含視訊資料之經編碼表示的位元串流中接收指示殘餘區塊是否進行分區之資訊及指示基於殘餘區塊進行分區的用於殘餘區塊之分區樹類型的資訊，其中該殘餘區塊指示當前區塊與預測區塊之間的差。視訊解碼器300可基於殘餘區塊進行分區的所接收資訊及用於殘餘區塊之分區樹類型，判定殘餘區塊根據分區樹類型被分區為的複數個殘餘子區塊。視訊解碼器300可至少部分基於殘餘區塊根據分區樹類型被分區為複數個殘餘子區塊而產生用於當前區塊之殘餘資料。視訊解碼器300可使用殘餘資料解碼當前區塊。
在另一實例中，視訊編碼器200可判定用於視訊資料之當前區塊的殘餘區塊根據分區樹類型被分區為複數個殘餘子區塊。視訊編碼器200可將位元串流編碼為視訊資料之經編碼表示，其發信指示殘餘區塊是否進行分區之資訊，且進一步發信指示用於進行分區之殘餘區塊的分區樹類型的資訊。
本揭示通常可指「發信」某些資訊，諸如語法元素。術語「發信」一般可指用於解碼經編碼視訊資料之語法元素及/或其他資料的值之傳達。亦即，視訊編碼器200可在位元串流中發信語法元素的值。一般而言，發信係指在位元串流中產生值。如上文所提及，源裝置102可實質上即時地將位元串流運送至目的地裝置116，或不即時運送，諸如可在將語法元素存儲至儲存裝置112以供目的地裝置116稍後擷取時發生。
圖2A及圖2B為說明實例四元樹二元樹(QTBT)結構130及對應寫碼樹型單元(CTU) 132之概念圖。實線表示四元樹分裂，且點線指示二元樹分裂。在二元樹之每一分裂(亦即，非葉)節點中，一個旗標經發信以指示使用哪一分裂類型(亦即，水平或豎直)，其中在此實例中，0指示水平分裂且1指示豎直分裂。對於四元樹分裂，不存在對於指示分裂類型之需要，此係由於四元樹節點將區塊水平地及豎直地分裂成具有相等大小之4個子區塊。因此，視訊編碼器200可編碼且視訊解碼器300可解碼用於QTBT結構130之區樹層級(亦即實線)的語法元素(諸如分裂資訊)及用於QTBT結構130之預測樹層級(亦即虛線)的語法元素(諸如分裂資訊)。視訊編碼器200可編碼，且視訊解碼器300可解碼用於由QTBT結構130之端葉節點表示之CU的視訊資料(諸如預測及轉換資料)。
一般而言，圖2B之CTU 132可與定義對應於在第一及第二層級處的QTBT結構130之節點的區塊之大小的參數相關聯。此等參數可包括CTU大小(表示樣本中之CTU 132之大小)、最小四元樹大小(MinQTSize，表示最小允許四元樹葉節點大小)、最大二元樹大小(MaxBTSize，表示最大允許二元樹根節點大小)、最大二元樹深度(MaxBTDepth，表示最大允許二元樹深度)，及最小二元樹大小(MinBTSize，表示最小允許二元樹葉節點大小)。
QTBT結構中對應於CTU之根節點可具有在QTBT結構之第一層級處的四個子節點，該等節點中之每一者可根據四元樹分區進行分區。亦即，第一層級之節點為葉節點(不具有子節點)或具有四個子節點。QTBT結構130之實例表示諸如包括具有用於分枝之實線之父節點及子節點的節點。若第一層級之節點不大於最大允許二元樹根節點大小(MaxBTSize)，則該等節點可藉由各別二元樹進一步分區。一個節點之二元樹分裂可重複，直至由分裂產生之節點達至最小允許之二元樹葉節點大小(MinBTSize)，或最大允許之二元樹深度(MaxBTDepth)為止。QTBT結構130之實例表示諸如具有用於分枝之虛線的節點。二元樹葉節點被稱作寫碼單元(CU)，其用於在無更進一步分區的情況下的預測(例如，圖像內或圖像間預測)及轉換。如上文所論述，CU亦可被稱作「視訊區塊」或「區塊」。
在QTBT分區結構之一個實例中，CTU大小經設定為128×128 明度樣本及兩個對應64×64色度樣本)，MinQTSize經設定為16×16，MaxBTSize經設定為64×64，MinBTSize (對於寬度及高度兩者)經設定為4，且MaxBTDepth經設定為4。四元樹分區首先應用於CTU以產生四元樹葉節點。四元樹葉節點可具有16×16 (亦即，MinQTSize)至128×128 (亦即，CTU大小)之大小。若葉四元樹節點為128×128，則葉四元樹節點不會藉由二元樹進一步分裂，因為大小超過MaxBTSize(亦即，在此實例中，64×64)。否則，葉四元樹節點將藉由二元樹進一步分區。因此，四元樹葉節點亦為二元樹之根節點並具有為0之二元樹深度。當二元樹深度達至MaxBTDepth (在此實例中為4)時，不准許進一步分裂。若二元樹節點具有等於MinBTSize (在此實例中，4)之寬度時，其暗示不准許進一步水平分裂。類似地，具有等於MinBTSize之高度的二元樹節點意指不准許對該二元樹節點進行進一步豎直分裂。如上文所提及，二元樹之葉節點被稱作CU，且根據預測及轉換來進一步處理而不進一步分區。
如上文所描述，視訊編碼器200可將一或多個轉換應用於殘餘區塊，以在轉換域中而非樣本域中產生經轉換資料(例如，以在轉換域中產生殘餘區塊)。以下描述諸如離散正弦轉換(DST)及離散餘弦轉換(DCT)之轉換之實例。亦描述用於HEVC中之轉換方案。
轉換指示導出輸入信號之替代表示之程序。給定N 點向量x =[ x0 , x1 ,…, xN-1 ]T 及給定向量集合{ ɸ 0 , ɸ 1 , …, ɸ M-1 }，x 可使用 ɸ 0 、 ɸ 1 、…、 ɸ M-1 之線性組合進行估算或精確表示，其可如下公式化：
在上述等式中，可為x 之近似值或等值。向量 f = [f i , f 2 , .., f M-1 ]被稱作轉換係數向量，且{ ɸ 0 , ɸ 1 , …, ɸ M-1 }為轉換基礎向量。
在視訊寫碼之情境中，轉換係數大致不相關且稀疏。舉例而言，輸入向量x之能量僅僅在幾個轉換係數上係緊密的，且剩餘大多數轉換係數通常接近於0。
由視訊編碼器200及視訊解碼器300使用的用於轉換之輸入資料可不同。舉例而言，對於視訊編碼器200，經轉換之輸入資料係藉由將殘餘之空間域值轉換至轉換係數區塊之頻域值(例如，係數值)產生轉換係數區塊的殘餘資料。對於視訊解碼器300，經轉換之輸入資料係藉由將轉換係數區塊之頻域值轉換至殘餘之空間域值以產生殘餘資料的轉換係數區塊(例如，可能在解量化之後)。因為視訊解碼器300執行視訊編碼器200之反程序，所以藉由視訊解碼器300執行之轉換可被視為反轉換。出於簡易性，本發明在理解對於視訊編碼器200及視訊解碼器300而言輸入資料係不同的，且藉由視訊解碼器300進行的轉換可為視訊編碼器200之轉換之反程序的情況下描述輸入資料之轉換。
給定特定的輸入資料，就能量集中性而言最優轉換為所謂的Karhunen-Loeve轉換(KLT)，其使用輸入資料之協方差矩陣之本徵向量作為轉換基礎向量。因此，KLT為資料獨立之轉換且不具有通用數學公式。然而，在某些假定下(例如，諸如其中輸入資料形成一階靜止馬爾可夫(Markov)程序)，對應KLT實際上為 單一轉換之正弦族 的成員，其在2019年5月30日申請的美國申請案第16/426,749號及H. E. Egilmez、Y.-H. Chao、A. Said、V. Seregin及M. Karczewicz的具有經減少發信負擔之自適應多重轉換(Adaptive multiple transforms with reduced signaling overhead )中予以介紹。 單一轉換之正弦族 可使用經公式化如下的轉換基礎向量指示轉換： ɸ m (k) =A ·e ikɵ +B ·e -ikɵ
在上述等式中，e 為大致等於2.71828的自然對數之底，A 、B 及ɵ 一般為複數，且取決於m 之值。
包括離散傅里葉(Fourier)、餘弦、正弦及KLT (用於一階靜止馬爾可夫程序)之若干公認轉換為單一轉換之正弦族之成員。根據IEEE圖案分析與機器智慧彙刊1,356頁，1979年，Jain、A.K.單一轉換之正弦族，整個離散餘弦轉換(DCT)及離散正弦轉換(DST)族總共包括基於不同類型(亦即，不同的A、B及ɵ值)之16個轉換，且下文給出不同類型之DCT及DST之完整定義。
假定輸入N 點向量表示為 x =[x 0 ,x 1 ,…,x N-1 ]T ，且其藉由乘以矩陣經轉換至被表示為 y =[y 0 ,y 1 ,…,y N-1 ]T 之另一N點轉換係數向量，此轉換之過程可根據以下轉換公式中之一者進一步說明，其中k 在(包括) 0至N-1之範圍：DCT 類型 I (DCT-1) ： ， 其中 DCT 類型 II (DCT-2) ： ， 其中
DCT 類型 III (DCT-3) ： ， 其中 DCT 類型 IV (DCT-4) ： ，DCT 類型 V(DCT-5) ： ， 其中 DCT 類型 VI (DCT-6) ： ， 其中 DCT 類型 VII (DCT-7) ： ， 其中 DCT 類型 VIII (DCT-8) ： ，DST 類型 I (DST-1) ： ，DST 類型 II (DST-2) ： ， 其中 DST 類型 III (DST-3) ： ， 其中 DST 類型 IV (DST-4) ： ，DST 類型 V (DST-5) ： ,DST 類型 VI (DST-6) ： ，DST 類型 VII (DST-7) ： ，DST 類型 VIII (DST-8) ： ， 其中
轉換類型由轉換基礎函數之數學公式來指定，舉例而言，4點DST-VII及8點DST-VII具有相同轉換類型，不管N之值如何。
在不損失一般性的情況下，所有上文轉換類型可使用下文的通用公式來表示：,
在上述等式中，T為藉由一個特定轉換(例如，DCT類型I～DCT類型VIII，或DST類型I～DST類型VIII)之定義所指定的 轉換矩陣 ，且T之列向量(例如，[Ti,0 , Ti,1 , Ti,2 , …, Ti,N-1 ])為第i轉換基礎向量。應用於N 點輸入向量上之轉換被稱作 N 點轉換 。
亦應注意，上文被應用於1-D輸入資料x之轉換公式可如下表示為矩陣乘法形式
在上述等式中，T 指示轉換矩陣，x 指示輸入資料向量，且y指示輸出轉換係數向量。
以下描述用於2維(2-D)輸入資料之轉換。上文描述之轉換可被應用於1-D輸入資料上，且轉換亦可經擴展以用於2-D輸入資料源。舉例而言，假設X 為輸入M×N資料陣列。於2-D輸入資料上應用轉換之一些方法包括可分離的及不可分離的2-D轉換。
可分離的2-D轉換連續應用X之水平向量及垂直向量之1-D轉換，公式如下：
在上文等式中，C及R分別指示給定M×M及N×N轉換矩陣。自該公式，C應用用於X之行向量之1-D轉換，而R應用用於X之列向量之1-D轉換。在本發明中，為簡單起見，將C及R表示為左(豎直)及右(水平)轉換，且其兩者形成轉換對。存在C等於R且為正交矩陣的情況。在此情況下，可分離的2-D轉換僅由一個轉換矩陣所判定。
非可分離的2-D轉換藉由進行作為一實例的下列數學映射首先將X之所有分量重組成單個向量，即X'：
隨後1-D轉換T'如下應用於X'：
在上述等式中，T'為(M*N)×(M*N)轉換矩陣。
在視訊寫碼中，始終應用可分離的2-D轉換，此係由於2-D轉換相較於1-D轉換需要的運算(加法、乘法)計數少得多。
以下描述應用於HEVC中之轉換類型。在一些實例視訊編解碼器中，諸如H.264/AVC，4點及8點離散餘弦轉換(DCT)類型II的整數估算始終用於框內及框間預測殘餘兩者。為更好地適應殘餘樣本之各種統計，除DCT類型II外之更可撓類型之轉換用於後一代視訊編解碼器中。舉例而言，在HEVC中，4點類型VII離散正弦轉換(DST)之整數近似值用於框內預測殘餘，其在理論上及實驗上均得以驗證(在IEEE信號處理彙刊SP-42, 1038-1051 (1994)，S.A.Martucci的「Symmetric convolution and the discrete sine and cosine transforms」中)，即對於沿框內預測方向產生的殘餘向量，DST類型VII比DCT類型II更高效(例如，對於藉由水平框內預測方向產生的列殘餘向量，DST類型VII比DCT類型II更高效)。在HEVC中，4點DST類型VII之整數近似值僅僅應用於4×4明度框內預測殘餘區塊。用於HEVC中之4點DST-VII在下文展示， 4×4 DST-VII： {29, 55, 74, 84} {74, 74,  0,-74} {84,-29,-74, 55} {55,-84, 74,-29}
在HEVC中，對於不為4×4明度框內預測殘餘區塊之殘餘區塊，亦可應用4點、8點、16點及32點DCT類型II之整數近似值，如下文所示： 4點DCT-II： {64, 64, 64, 64} {83, 36,-36,-83} {64,-64,-64, 64} {36,-83, 83,-36} 8點DCT-II： {64, 64, 64, 64, 64, 64, 64, 64} {89, 75, 50, 18,-18,-50,-75,-89} {83, 36,-36,-83,-83,-36, 36, 83} {75,-18,-89,-50, 50, 89, 18,-75} {64,-64,-64, 64, 64,-64,-64, 64} {50,-89, 18, 75,-75,-18, 89,-50} {36,-83, 83,-36,-36, 83,-83, 36} {18,-50, 75,-89, 89,-75, 50,-18} 16點DCT-II： {64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64} {90, 87, 80, 70, 57, 43, 25,  9, -9,-25,-43,-57,-70,-80,-87,-90} {89, 75, 50, 18,-18,-50,-75,-89,-89,-75,-50,-18, 18, 50, 75, 89} {87, 57,  9,-43,-80,-90,-70,-25, 25, 70, 90, 80, 43, -9,-57,-87} {83, 36,-36,-83,-83,-36, 36, 83, 83, 36,-36,-83,-83,-36, 36, 83} {80,  9,-70,-87,-25, 57, 90, 43,-43,-90,-57, 25, 87, 70, -9,-80} {75,-18,-89,-50, 50, 89, 18,-75,-75, 18, 89, 50,-50,-89,-18, 75} {70,-43,-87,  9, 90, 25,-80,-57, 57, 80,-25,-90, -9, 87, 43,-70} {64,-64,-64, 64, 64,-64,-64, 64, 64,-64,-64, 64, 64,-64,-64, 64} {57,-80,-25, 90, -9,-87, 43, 70,-70,-43, 87,  9,-90, 25, 80,-57} {50,-89, 18, 75,-75,-18, 89,-50,-50, 89,-18,-75, 75, 18,-89, 50} {43,-90, 57, 25,-87, 70,  9,-80, 80, -9,-70, 87,-25,-57, 90,-43} {36,-83, 83,-36,-36, 83,-83, 36, 36,-83, 83,-36,-36, 83,-83, 36} {25,-70, 90,-80, 43,  9,-57, 87,-87, 57, -9,-43, 80,-90, 70,-25} {18,-50, 75,-89, 89,-75, 50,-18,-18, 50,-75, 89,-89, 75,-50, 18} {9, -25, 43,-57, 70,-80, 87,-90, 90,-87, 80,-70, 57,-43, 25, -9} 32點DCT-II： {64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,6,64,64,64,64} {90,90,88,85,82,78,73,67,61,54,46,38,31,22,13,4,-4,-13,-22,-31,-38,-46,-54, -61,-67,-73,-78,-82,-85,-88,-90,-90} {90,87,80,70,57,43,25,9,-9,-25,-43,-57,-70,-80,-87,-90,-90,-87,-80,-70,-57,-43, -25,-9,9,25,43,57,70,80,87,90} {90,82,67,46,22,-4,-31,-54,-73,-85,-90,-88,-78,-61,-38,-13,13,38,61,78,88,90, 85,73,54,31,4,-22,-46,-67,-82,-90} {89,75,50,18,-18,-50,-75,-89,-89,-75,-50,-18,18,50,75,89,89,75,50,18,-18,-50, -75,-89,-89,-75,-50,-18,18,50,75,89} {88,67,31,-13,-54,-82,-90,-78,-46,-4,38,73,90,85,61,22,-22,-61,-85,-90,-73,-38,4,46,78,90,82,54,13,-31,-67,-88} {87,57,9,-43,-80,-90,-70,-25,25,70,90,80,43,-9,-57,-87,-87,-57,-9,43,80,90,70, 25,-25,-70,-90,-80,-43,9,57,87} {85,46,-13,-67,-90,-73,-22,38,82,88,54,-4,-61,-90,-78,-31,31,78,90,61,4,-54, -88,-82,-38,22,73,90,67,13,-46,-85} {83,36,-36,-83,-83,-36,36,83,83,36,-36,-83,-83,-36,36,83,83,36,-36,-83,-83,-36,36,83,83,36,-36,-83,-83,-36,36,83} {82,22,-54,-90,-61,13,78,85,31,-46,-90,-67,4,73,88,38,-38,-88,-73,-4,67,90,46, -31,-85,-78,-13,61,90,54,-22,-82} {80,9,-70,-87,-25,57,90,43,-43,-90,-57,25,87,70,-9,-80,-80,-9,70,87,25,-57,-90,-43,43,90,57,-25,-87,-70,9,80} {78,-4,-82,-73,13,85,67,-22,-88,-61,31,90,54,-38,-90,-46,46,90,38,-54,-90,-31, 61,88,22,-67,-85,-13,73,82,4,-78} {75,-18,-89,-50,50,89,18,-75,-75,18,89,50,-50,-89,-18,75,75,-18,-89,-50,50,89,18,-75,-75,18,89,50,-50,-89,-18,75} {73,-31,-90,-22,78,67,-38,-90,-13,82,61,-46,-88,-4,85,54,-54,-85,4,88,46,-61, -82,13,90,38,-67,-78,22,90,31,-73} {70,-43,-87,9,90,25,-80,-57,57,80,-25,-90,-9,87,43,-70,-70,43,87,-9,-90,-25,80,57,-57,-80,25,90,9,-87,-43,70} {67,-54,-78,38,85,-22,-90,4,90,13,-88,-31,82,46,-73,-61,61,73,-46,-82,31,88, -13,-90,-4,90,22,-85,-38,78,54,-67} {64,-64,-64,64,64,-64,-64,64,64,-64,-64,64,64,-64,-64,64,64,-64,-64,64,64,-64, -64,64,64,-64,-64,64,64,-64,-64,64} {61,-73,-46,82,31,-88,-13,90,-4,-90,22,85,-38,-78,54,67,-67,-54,78,38,-85,-22, 90,4,-90,13,88,-31,-82,46,73,-61} {57,-80,-25,90,-9,-87,43,70,-70,-43,87,9,-90,25,80,-57,-57,80,25,-90,9,87,-43, -70,70,43,-87,-9,90,-25,-80,57} {54,-85,-4,88,-46,-61,82,13,-90,38,67,-78,-22,90,-31,-73,73,31,-90,22,78,-67, -38,90,-13,-82,61,46,-88,4,85,-54} {50,-89,18,75,-75,-18,89,-50,-50,89,-18,-75,75,18,-89,50,50,-89,18,75,-75,-18,89,-50,-50,89,-18,-75,75,18,-89,50} {46,-90,38,54,-90,31,61,-88,22,67,-85,13,73,-82,4,78,-78,-4,82,-73,-13,85,-67, -22,88,-61,-31,90,-54,-38,90,-46} {43,-90,57,25,-87,70,9,-80,80,-9,-70,87,-25,-57,90,-43,-43,90,-57,-25,87,-70, -9,80,-80,9,70,-87,25,57,-90,43} {38,-88,73,-4,-67,90,-46,-31,85,-78,13,61,-90,54,22,-82,82,-22,-54,90,-61,-13, 78,-85,31,46,-90,67,4,-73,88,-38} {36,-83,83,-36,-36,83,-83,36,36,-83,83,-36,-36,83,-83,36,36,-83,83,-36,-36,83, -83,36,36,-83,83,-36,-36,83,-83,36} {31,-78,90,-61,4,54,-88,82,-38,-22,73,-90,67,-13,-46,85,-85,46,13,-67,90,-73, 22,38,-82,88,-54,-4,61,-90,78,-31} {25,-70,90,-80,43,9,-57,87,-87,57,-9,-43,80,-90,70,-25,-25,70,-90,80,-43,-9,57,-87,87,-57,9,43,-80,90,-70,25} {22,-61,85,-90,73,-38,-4,46,-78,90,-82,54,-13,-31,67,-88,88,-67,31,13,-54,82, -90,78,-46,4,38,-73,90,-85,61,-22} {18,-50,75,-89,89,-75,50,-18,-18,50,-75,89,-89,75,-50,18,18,-50,75,-89,89,-75,50,-18,-18,50,-75,89,-89,75,-50,18} {13,-38,61,-78,88,-90,85,-73,54,-31,4,22,-46,67,-82,90,-90,82,-67,46,-22,-4,31,-54,73,-85,90,-88,78,-61,38,-13} {9,-25,43,-57,70,-80,87,-90,90,-87,80,-70,57,-43,25,-9,-9,25,-43,57,-70,80,-87,90,-90,87,-80,70,-57,43,-25,9} {4,-13,22,-31,38,-46,54,-61,67,-73,78,-82,85,-88,90,-90,90,-90,88,-85,82,-78, 73,-67,61,-54,46,-38,31,-22,13,-4}
圖3A及圖3B為說明基於HEVC之殘餘四元樹的實例轉換方案之概念圖。在HEVC中，應用使用殘餘四元樹(RQT)之轉換寫碼結構以調適殘餘區塊之各種特性，其簡要地描述於IEEE聲學國際會議，話語及信號處理(ICASSP) 2010年3月第726至729頁上J.Han、A.Saxena及K.Rose的「Towards jointly optimal spatial prediction and adaptive transform in video/image coding」中。關於RQT之額外資訊可在http://www.hhi.fraunhofer.de/fields-of-competence/image-processing/research-groups/image-video-coding/hevc-high-efficiency-video-coding/transform-coding-using-the-residual-quadtree-rqt.html獲得。
在RQT中，每一圖像被劃分成寫碼樹型單元(CTU)，其針對特定圖像塊或圖塊以光柵掃描次序進行寫碼。CTU為方形區塊且表示四元樹(亦即，寫碼樹)之根。CTU大小可在8×8至64×64明度樣本範圍內，但通常使用64×64。每一CTU可進一步分裂成被稱作寫碼單元(CU)之更小方形區塊。在CTU以遞歸方式分裂成CU之後，每一CU經進一步劃分成預測單元(PU)及轉換單元(TU)。基於四元樹方法以遞歸方式進行將CU分區為TU，因此每一CU之殘餘信號藉由樹型結構(即，剩餘四元樹(RQT))來寫碼。RQT允許自4×4達32×32明度樣本之TU大小。
圖3A描繪其中CU 134包括10個TU (標記有字母a至j)及對應區塊分區之實例。圖3B中所示的RQT 136之每一節點實際上為對應於圖3A之轉換單元(TU)。以深度優先樹遍歷次序處理個別TU，該次序在圖3A中繪示為字母表次序，該次序之後為具有深度優先遍歷之遞歸Z掃描。四元樹方法使得能夠將調適轉換至殘餘信號之變化空間頻率特性。
通常，具有更大空間支援之更大轉換區塊大小提供更好的頻率解析度。然而，具有更小空間支援之更小轉換區塊大小提供更好的空間解析率。(例如)基於速率-失真最佳化技術藉由編碼器模式決策選擇兩個(空間及頻率)解析度之間的折衷。速率-失真最佳化技術針對每一寫碼模式(例如，特定RQT分裂結構)計算寫碼位元及重建構失真之加權總和(亦即，速率-失真成本)，並選擇具有最小速率-失真成本之寫碼模式作為最佳模式。
三個參數定義於RQT中：樹之最大深度、最小允許之轉換大小及最大允許之轉換大小。最小及最大轉換大小可在自4×4至32×32樣本範圍內變化，對應於先前段落中提到之所支援區塊轉換。RQT之最大允許之深度限制TU之數目。最大深度等於零意謂：若每一所包括TB達至最大允許轉換大小(例如，32×32)，則不能更進一步分裂寫碼區塊(CB)。
所有此等參數與RQT結構互相作用且影響RQT結構。考慮根CB大小為64×64，最大深度等於零及最大轉換大小等於32×32的情況。在此狀況下，CB不得不被分區至少一次，因為否則的話其將產生不被允許的64×64 TB。RQT參數(亦即，最大RQT深度、最小及最大轉換大小)於序列參數集層級處在位元串流中傳輸。考慮RQT深度，可針對經框內及框間寫碼CU指定且發信不同值。
四元樹轉換經應用於框內殘餘區塊及框間殘餘區塊兩者。通常，將當前殘餘四元樹分區之相同大小的DCT-II轉換應用於殘餘區塊。然而，若當前殘餘四元樹區塊為4×4且由框內預測產生，則應用上述4×4 DST-VII轉換。
在HEVC中，不採用更大的大小轉換(例如，64×64轉換)，主要因為其受限的益處考慮及對於相對較小解析度視訊之相對高的複雜度。
圖4為說明具有自適應轉換選擇的用於混合型視訊編碼之實例系統140的方塊圖。本發明中所描述之實例技術適用於圖4展示的典型自適應轉換寫碼方案，其中對於預測殘餘之每一區塊，可藉由編碼器選擇不同轉換，且轉換之選項經編碼為旁側資訊以供發信。
在此實例中，系統140包括區塊分隔單元142、區塊轉換單元144、量化單元146、區塊預測單元148、轉換組150、熵寫碼單元152、圖框緩衝器154、反轉換單元156、反量化單元158、殘餘產生單元160及區塊再生單元162。
一般而言，區塊分隔單元142自視訊資料之圖像(亦即，圖框)產生區塊。區塊預測單元148產生用於當前區塊之預測區塊(p)，且殘餘產生單元160自當前(未經寫碼)區塊及預測區塊(p)產生殘餘區塊(r)。圖框緩衝器154 (亦被稱作經解碼圖像緩衝器(DPB))儲存當前圖像及先前經解碼圖框之經解碼資料(若存在的話)。區塊預測單元148可自儲存於圖框緩衝器154中之一或多個圖像的先前經解碼資料產生預測區塊。
區塊轉換單元144將一或多個轉換(T(t) )應用於殘餘區塊(包括空間域中之殘餘資料)，以產生表示頻域中之殘餘資料的轉換區塊(T(t) r)。轉換(T(t) )可為(例如)離散餘弦轉換(DCT)、離散正弦轉換(DST)、水平及/或豎直轉換、Karhunen-Loeve轉換(KLT)或任何其他此類轉換。區塊轉換單元144將轉換區塊(T(t) r)提供至量化單元146，且將轉換(t)之一指示提供至轉換組150及熵寫碼單元152。轉換組150將一或多個轉換矩陣提供至區塊轉換單元144及反轉換單元156。
根據本發明之技術，區塊轉換單元144可如下文所論述，根據分區樹類型(諸如以下中之一者：四元樹分區、二元樹分區、三元樹分區或四-TU分區)將當前區塊之殘餘區塊分區為複數個殘餘子區塊，且區塊轉換單元可將殘餘區塊之分區的一指示提供至熵寫碼單元152。
量化單元146將轉換區塊之轉換係數量化且將經量化轉換區塊提供至熵寫碼單元152及反量化單元158。熵寫碼單元152對表示(例如)轉換指示(t)、經量化轉換係數、預測資訊(例如，預測模式及諸如待用於預測模式中之參考資料的位置的對應資訊，例如，用於框間預測之運動資訊)的語法元素進行編碼。
熵寫碼單元152可使用本發明之技術來熵編碼表示針對殘餘區塊，是否將殘餘區塊分區，及若將殘餘區塊分區，則如何將殘餘區塊分區的語法元素。熵寫碼單元152可針對殘餘區塊編碼發信殘餘區塊是否進行分區之旗標。當殘餘區塊被分區為複數個子區塊時，熵寫碼單元152亦可編碼指示用於殘餘區塊之分區類型的索引值。舉例而言，區塊轉換單元144可經組態以建構包括用於樹類型集合之資訊的清單。樹類型集合包括四元樹分區及二元樹分區中之一或多者。該樹類型集合亦可包括三元樹分區及四-TU分區。下文更詳細地描述不同樹類型之實例。區塊轉換單元144可判定自樹類型集合識別分區類型的索引值，且熵編碼單元152可編碼該索引值。熵寫碼單元152亦可編碼用於殘餘區塊之任何其他分區資訊，諸如水平地抑或豎直地將殘餘區塊分區、分區係對稱的抑或不對稱的，及其類似者。
反量化單元158可將自量化單元146接收之經量化轉換係數反量化(亦即，解量化)。反轉換單元156可基於指示是否將分區區塊進行分區及如何進行分區的熵寫碼語法元素判定殘餘區塊之分區，以判定殘餘區塊之分區，且可將反轉換方案應用於自反量化單元158接收之轉換係數以再生當前區塊之殘餘區塊(r')。區塊再生單元162進一步將來自區塊預測單元148之預測區塊(p)與經再生殘餘區塊(r')組合以形成經解碼區塊，該經解碼區塊被儲存於圖框緩衝器154中。
本發明之技術可由系統140或對應解碼系統執行。一般而言，本發明之技術適用於自適應轉換寫碼方案，其中對於預測殘餘之每一區塊，不同轉換可藉由視訊編碼器200選擇，作為旁側資訊予以發信，且藉由視訊解碼器300使用旁側資訊判定。旁側資訊為一個實例，且不應被視為限制性的。
實際上，為降低計算複雜度，通常以可分離方式計算區塊轉換，亦即，獨立地轉換水平線及豎直線，如圖5A及圖5B中所示。圖5A以及圖5B為將水平轉換及豎直轉換說明為單獨轉換實施的概念圖。圖5A表示一組H個水平轉換170，而圖5B表示一組W個豎直轉換172。特定而言，殘餘值之水平線及豎直線可分別使用水平轉換170及豎直轉換172進行獨立轉換。
在HEVC之前的視訊寫碼標準中，僅僅使用固定可分離轉換，其中既豎直地且亦水平地使用DCT-2。在HEVC中，除DCT-2之外，亦針對4×4區塊使用DST-7作為固定可分離轉換。美國專利公開案第2016/0219290號及美國專利公開案第2018/0020218號涵蓋彼等固定轉換之自適應擴展，且美國專利公開案第2016/0219290號中之AMT的實例已經採用於聯合視訊專家小組(JVET)之聯合實驗模型(JEM )中，2016年3月資料壓縮會議會刊 第73至82頁X. Zhao、J. Chen、M. Karczewicz、L. Zhang、X. Li及W.-J. Chien的「Enhanced multiple transform for video coding」。
美國專利公開案第2016/0219290號及美國專利公開案第2018/0020218號中所描述的AMT設計為編碼器200提供5個轉換選項以在每區塊之基礎上選擇(此選擇一般基於速率-失真度量進行)。。隨後，所選擇轉換索引被發信至視訊解碼器300。
圖6為說明轉換發信之概念圖。舉例而言，圖6說明經提議於美國專利公開案第2016/0219290號及美國專利公開案第2018/0020218號中之發信，其中使用1位元發信預設轉換且使用2個額外位元(亦即，總計3個位元)發信4個轉換。舉例而言，五個轉換(預設轉換)中之一者使用0 (亦即，1位元)發信，且其他四個轉換使用3位元(亦即，100、101、110及111)發信。
在美國專利公開案第2016/0219290號及美國專利公開案第2018/0020218號中，預設轉換經選擇為可分離的2-D DCT，其豎直地且亦水平地應用DCT-2。剩餘AMT係基於美國專利公開案第2016/0219290號中之框內模式資訊進行定義。美國專利公開案第2018/0020218號藉由基於預測模式及區塊大小資訊兩者定義該組彼等4個轉換來提議美國專利公開案第2016/0219290號之擴展。
在VVC參考軟體之一版本VTM 3.0中，使用圖6中所說明之發信方案。特定而言，對於每一寫碼單元(CU)，使用單個位元(一旗標)來判定：(i)是否在水平及垂直方向兩者中使用DCT2或(ii)是否使用兩個額外位元(被稱作AMT/MTS索引)指定水平地或豎直地應用之1-D轉換。此等4個轉換藉由指派DST-7/DCT-8以待應用於給定區塊之列/行來進行定義。舉例而言，MTS索引=0對應於水平地且亦豎直地應用DST-7之可分離轉換，且MTS索引=1對應於水平地應用DCT-8及豎直地應用DST-7。
當前在VVC (及參考軟體VTM-3.0)中，轉換方案可能不會具有用於轉換單元(TU)的靈活分區方法，其中轉換區塊大小與寫碼單元(CU)大小相同。實際上，可使用諸如RQT(上文所描述)之TU分區技術達成較佳壓縮效能，此係由於分區允許轉換經由更靈活的分區俘獲定位於不同區域中的能量。本發明揭示各種適應當前採用於VVC (VTM-3.0)中之AMT/MTS方案的以樹為基礎之分區設計。
本發明之態樣描述用於轉換單元(TU)的更靈活分區方案，其使得更大壓縮效能得以達成且描述可如何針對此等分區選擇轉換。實例技術可藉由視訊編碼器200及/或視訊解碼器300執行。出於簡易性，該等實例用圖7及圖8來描述。舉例而言，圖7為說明對區塊之各別以樹為基礎之分區的概念圖。同時，圖8為說明基於四元樹之分區、二元樹分區及三元樹分區之實例的概念圖。如圖8中所展示，在基於三元樹之分區中，諸如區塊192A或區塊192B之轉換單元(TU)分區為三個子TU (例如，P0、P1及P2)。在四元樹分區中，諸如區塊192C之TU分區為四個方形的子TU (例如，P0、P1、P2及P3)。在二元樹分區中，諸如區塊192D、區塊192E、區塊192F及或區塊192D之TU分區為兩個子TU(例如，P0及P1)。
TU可在一個層級或在多個層級中進行分區(深度＞0)。因此，TU可分區為複數個子TU，且複數個子TU中之一或多者自身可進一步分區，等等。或者，TU可能不會被分區，且TU之區塊大小可與CU之區塊大小相同(深度=0)。貫穿本發明，使用術語「殘餘區塊」及「殘餘子區塊」。應理解，TU為殘餘區塊之實例，且複數個子TU為複數個殘餘子區塊之實例，且本文關於殘餘區塊所論述之技術同樣適用於TU。類似地，本文關於TU所論述之技術亦同樣適用於殘餘區塊。
在某一分區層級下的TU可基於樹進行分區。樹及對應分區之實例包括根據圖7中所示之實例。舉例而言，四元樹分區181A為區塊的基於四元樹182之分區，其中方形或非方形TU藉由水平地且亦豎直地分區TU而被分區為四個子TU。舉例而言，區塊190A根據四元樹分區181A而分區為四個大小相等之方形區塊。四-TU分區181B為區塊的基於四元樹184之分區，其中方形或非方形TU藉由僅僅水平地將TU分區或藉由僅僅豎直地將TU分區而被分區為四個子TU。舉例而言，區塊190B根據四-TU分區而被豎直地分區為四個豎直矩形分區，且區塊190C根據四-TU分區而被水平地分區為四個水平矩形分區。因而，諸如TU之殘餘區塊可根據以下各者中之至少一者進行分區：四元樹分區181A、四-TU分區181B。
二元樹分區181C為區塊的基於二元樹186之分區，其中方形或非方形TU被分區為兩個子TU，該等子TU藉由水平地抑或豎直地將TU分區來獲得。區塊190D及190G根據二元樹分區181C而各自豎直地分區為兩個豎直矩形分區，而區塊190E及190F根據二元樹分區181C而各自水平地分區為兩個水平矩形分區。區塊190D及190E經對稱分區，以產生各自具有大小相同之兩個分區的區塊190D及190E。同時，區塊190F及190G經不對稱分區，以產生各自具有大小不同之兩個分區的區塊190F及190G。因而，諸如TU之殘餘區塊可根據二元樹分區181C進行分區。三元樹分區181D (亦被稱作三元樹分區)為區塊的基於三元樹188 (亦稱為三元樹)之分區，其中方形或非方形TU被分區為三個子TU，該等子TU藉由在兩個單獨位置處水平地抑或豎直地將TU分區來獲得。舉例而言，區塊190H根據三元樹分區而被水平地分區為三個水平矩形分區，而區塊190I根據三元樹分區而被豎直地分區為三個豎直矩形分區。因而，諸如TU之殘餘區塊可根據三元樹分區181D進行分區。
TU分區可應用於方形或非方形TU區塊。圖7說明方形區塊之實例分區，但該等技術同樣適用於非方形區塊，從而使得矩形且因此非方形TU可根據貫穿本發明描述之分區樹同等地進行分區。舉例而言，若方形TU根據二元樹被分區為兩個矩形TU，則矩形TU中之一者或兩者亦可根據分區樹中之一者進行分區。因而，諸如TU之殘餘區塊可為方形或非方形的，且方形及非方形殘餘區塊兩者均可根據本文所揭示之技術同等地進行分區。
對於發信分區資訊，可在位元串流中發信旗標(例如 ，分裂旗標)以判定TU中是否存在分裂。若TU被分區(亦即 ，若分裂旗標啟用)，則可發信額外分區/分裂資訊以指定分區之類型。此等額外索引資訊可為樹之類型(例如 ，四元樹、二元樹、三元樹及/或四-TU分裂)。
舉例而言，視訊編碼器200可判定用於視訊資料之當前區塊的殘餘區塊根據一分區樹類型被分區為複數個殘餘子區塊，且可將位元串流編碼為視訊資料之經編碼表示，該經編碼表示發信指示殘餘區塊是否進行分區之資訊，且進一步發信指示用於進行分區之殘餘區塊的分區樹類型的資訊。類似地，視訊解碼器可在包含視訊資料之經編碼表示的位元串流中接收指示殘餘區塊是否進行分區之資訊及基於殘餘區塊進行分區的指示用於殘餘區塊之分區樹類型的資訊，其中殘餘區塊指示當前區塊與預測區塊之間的差。
對於給定/經發信樹類型，可進一步發信分區類型。舉例而言，對於三元樹情況(例如，三元樹分區181D)，可使用單個位元指定TU經水平分裂(諸如區塊190H中)抑或經豎直分裂(諸如區塊190I中)。對於二元樹情況(例如，二元樹分區181C)，發信可指定TU經水平分裂(諸如在區塊190E及190F中)抑或經豎直分裂(諸如在區塊190D及190G中)，以及TU經對稱分裂(諸如在區塊190D及190E中)抑或經不對稱分裂(諸如在區塊190F及190G中)。 舉例而言，發信指示用於殘餘區塊之分區樹類型的資訊之位元串流可包括至樹類型集合中之索引資訊，且樹類型集合資訊可包括四元樹分區及二元樹分區中之一或多者。此外，當指示用於殘餘區塊之分區樹類型的資訊指示分區樹類型為二元樹分區中之一者時，位元串流進一步發信指示殘餘區塊經水平分裂抑或經豎直分裂之資訊。
在一些實例中，給定在將TU分區之後獲得的子TU之集合，經寫碼區塊旗標(在VVC中被稱作cbfs)可取決於預測模式、分區樹類型、分區類型或在位元串流中進行編碼之任何其他旁側資訊進行推斷及/或限定。舉例而言，在圖8之區塊192A及192B中表示為P1的子TU可受限於始終具有經停用cbf旗標(旗標=0)，從而使得無需針對P1發信cbf。亦可使用類似方案推斷或限定每一子TU之轉換跳過旗標。
在一些實例中，給定在將TU分區之後獲得的子TU之集合，可針對每一子TU發信AMT/MTS索引，以指定應用於彼子TU的可分離轉換。以此方式，可將多個轉換應用於每一子TU。
在一些實例中，可仍在TU層級，甚至TU分裂成子TU時發信諸如AMT/MTS索引及/或旗標之轉換選擇。在此等實例中，每一子TU可使用經發信轉換選項。在此情況下，可針對每一子TU節省負擔，且可仍利用更精細粒度轉換之優勢。
在一些實例中，給定在分區之後獲得的子TU之集合，可在水平方向、豎直方向或兩個方向上限定或推斷用於子TU之轉換核。限定或推斷之一個實例係基於預測模式、分區樹類型、分區類型或任何其他旁側資訊而完成。在此情況下，AMT/MTS索引(或轉換定義)可基於預測模式、分區樹類型、分區類型或任何其他旁側資訊進行限定或推斷。
在一些實例中，可基於限定/推斷規則應用上下文模型化，而非限定或推斷某一轉換基礎。在一個實例中，上下文經指派用於應用限定規則時的情況，在此情況下，轉換選擇仍係可能的(不同於此轉換選擇歸因於限定而不可能時)，但上下文經指派以發信此類轉換選擇，因此，轉換負擔可更有效地進行寫碼，且所有轉換選擇皆可用。經指派上下文可為不同於轉換選擇發信中已經存在之上下文的單獨上下文。
在限制之以下實例中，相同規則可用於轉換選擇負擔發信中之上下文指派。此等設計之實例包括以下者。
給定經四元樹分區之TU (如圖7中說明為區塊190A且如圖8中說明為區塊192C)，子TU P0之轉換可經限定使得豎直地且亦水平地使用DCT-8，子TU P1之轉換可經限定使得水平地應用DST-7且亦豎直地使用DST-8，子TU P2之轉換可經限定使得水平地應用DCT-8且亦豎直地使用DST -7，子TU P3之轉換可經限定使得豎直地且亦水平地使用DST-7。
給定經四元樹分區之TU (如圖7中說明為區塊190A且如圖8中說明為區塊192C)，所有子TU (P0、P1、P2及P3)可經限定使得豎直地且亦水平地使用DST-7。在另一實例中，可使用DCT-2代替DST-7或DCT-8。
給定經二元樹分區之TU (如圖7中說明為區塊190D至190G，且在圖8中說明為區塊192D至192G)，子TU之轉換可如下進行推斷/限定。對於水平分裂，諸如圖7中之區塊190E及190F及圖8中之區塊192E及192F，可水平地使用DCT-2且可豎直地使用DCT-8來轉換子TU P0，且可水平地使用DCT-2且可豎直地使用DST-7來轉換子TU P1。對於豎直分裂，諸如在圖7中被說明為區塊190D及190G且在圖8中被說明為區塊192D及192G，可水平地使用DCT-8且可豎直地使用DCT-2來轉換子TU P0，且可水平地使用DST-7且可豎直地使用DCT-2來轉換子TU P1。對於上文兩個情況，亦可使用DST-7或DCT-8作為轉換，而非DCT-2。
上文方法中之一者或組合可僅僅用於經框內預測之CU。上文方法中之一者或組合可僅僅用於經框間預測之CU。上文方法中之一者或組合可用於經框內及框間預測之CU。上文方法中之一者或組合可用於明度或色度通道或兩者。TU分區及相關聯轉換方案可基於上文方法中之一者或組合來定義。
圖9為說明可執行本發明之技術的實例視訊編碼器200之方塊圖。出於解釋之目的而提供圖9，且不應將其視為對如本發明中廣泛例示及描述之技術的限制。出於解釋之目的，本發明在諸如HEVC視訊寫碼標準及研發中之H.266視訊寫碼標準的視訊寫碼標準之情況下描述視訊編碼器200。然而，本發明之技術並不限於此等視訊寫碼標準，且通常適用於視訊編碼及解碼。
在圖9之實例中，視訊編碼器200包括視訊資料記憶體230、模式選擇單元202、殘餘產生單元204、轉換處理單元206、量化單元208、反量化單元210、反轉換處理單元212、重建構單元214、濾波器單元216、經解碼圖像緩衝器(DPB) 218及熵編碼單元220。視訊資料記憶體230、模式選擇單元202、殘餘產生單元204、轉換處理單元206、量化單元208、反量化單元210、反轉換處理單元212、重建構單元214、濾波器單元216、DPB 218及熵編碼單元220中之任一者或全部可實施於一或多個處理器或處理電路系統中。舉例而言，視訊編碼器200之單元可作為一或多個電路或邏輯元件實施為硬體電路系統之部分，或作為FPGA之處理器、ASIC之部分。此外，視訊編碼器200可包括額外或替代處理器或處理電路以執行此等及其他功能。
視訊資料記憶體230可儲存待由視訊編碼器200之組件編碼之視訊資料。視訊編碼器200可自例如視訊源104 (圖1)接收儲存於視訊資料記憶體230中之視訊資料。DPB 218可充當參考圖像記憶體，其儲存參考視訊資料以用於由視訊編碼器200預測後續視訊資料。視訊資料記憶體230及DPB 218可由各種記憶體裝置中之任一者形成，諸如動態隨機存取記憶體(DRAM)，包括同步DRAM (SDRAM)、磁阻式RAM (MRAM)、電阻式RAM (RRAM)或其他類型之記憶體裝置。視訊資料記憶體230及DPB 218可由相同記憶體裝置或單獨記憶體裝置提供。在各種實例中，視訊資料記憶體230可與視訊編碼器200之其他組件一起在晶片上，如所說明，或相對於彼等組件在晶片外。
在本發明中，對視訊資料記憶體230之參考不應解譯為將記憶體限於在視訊編碼器200內部(除非特定地如此描述)，或將記憶體限於在視訊編碼器200外部(除非特定地如此描述)。實情為，對視訊資料記憶體230之參考應理解為對儲存視訊編碼器200所接收以用於編碼的視訊資料(例如，待被編碼的當前區塊之視訊資料)記憶體的參考。圖1之記憶體106亦可提供來自視訊編碼器200之各種單元之輸出的臨時儲存。
圖9之各種單元經說明以輔助理解藉由視訊編碼器200執行的操作。單元可經實施為固定功能電路、可程式化電路或其組合。固定功能電路係指提供特定功能性，且在可執行之操作上預設定的電路。可程式化電路指可經程式化以執行各種任務並在可被執行之操作中提供可撓式功能性的電路。舉例而言，可程式化電路可實行使得可程式化電路以由軟體或韌體之指令定義的方式操作的軟體或韌體。固定功能電路可執行軟體指令(例如，以接收參數或輸出參數)，但固定功能電路執行的操作之類型一般為不可變的。在一些實例中，單元中之一或多者可為相異的電路區塊(固定功能或可程式化)，且在一些實例中，單元中之一或多者可為積體電路。
視訊編碼器200可包括由可程式化電路形成之算術邏輯單元(ALU)、基本功能單元(EFU)、數位電路、類比電路及/或可程式化核心。在視訊編碼器200之操作係使用由可程式化電路執行之軟體執行的實例中，記憶體106 (圖1)可儲存視訊編碼器200接收且實行的軟體之指令(例如，目標程式碼)，或視訊編碼器200內之另一記憶體(未展示)可儲存此類指令。
視訊資料記憶體230經組態以儲存所接收視訊資料。視訊編碼器200可自視訊資料記憶體230擷取視訊資料之圖像，並將視訊資料提供至殘餘產生單元204及模式選擇單元202。視訊資料記憶體230中之視訊資料可為待編碼之原始視訊資料。
模式選擇單元202包括運動估計單元222、運動補償單元224及框內預測單元226。模式選擇單元202可包括額外功能單元以根據其他預測模式執行視訊預測。作為實例，模式選擇單元202可包括調色板單元、區塊內複製單元(其可為運動估計單元222及/或運動補償單元224之部分)、仿射單元、線性模型(LM)單元或其類似者。
模式選擇單元202通常協調多個編碼遍次以測試編碼參數之組合，及用於此等組合之所得速率-失真值。編碼參數可包括CTU至CU之分區、用於CU之預測模式、用於CU之殘餘資料的轉換類型、用於CU之殘餘資料的量化參數等。模式選擇單元202可最終選擇相比其他所測試組合具有更佳速率-失真值的編碼參數之組合。
視訊編碼器200可將自視訊資料記憶體230擷取之圖像分區為一系列CTU，並將一或多個CTU囊封於圖塊內。模式選擇單元202可根據樹型結構(諸如上文所描述之HEVC的QTBT結構或四元樹結構)將圖像之CTU分區。如上文所描述，視訊編碼器200可藉由根據樹狀結構將CTU分區來形成一或多個CU。此CU大體亦可被稱作「視訊區塊」或「區塊」。
一般而言，模式選擇單元202亦控制其組件(例如，運動估計單元222、運動補償單元224及框內預測單元226)以產生用於當前區塊(例如，當前CU，或在HEVC中，PU與TU之重疊部分)之預測區塊。對於當前區塊之框間預測，運動估計單元222可執行運動搜尋以識別一或多個參考圖像(例如，儲存於DPB 218中之一或多個先前經寫碼圖像)中的一或多個緊密匹配之參考區塊。詳言之，運動估計單元222可(例如)根據絕對差總和(SAD)、平方差總和(SSD)、平均值絕對差(MAD)、均方差(MSD)或其類似者來計算表示潛在參考區塊與當前區塊之類似程度的值。運動估計單元222可大體使用當前區塊與所考慮之參考區塊之間的逐樣本差來執行此等計算。運動估計單元222可識別具有由此等計算產生之最小值的參考區塊，從而指示最緊密匹配當前區塊之參考區塊。
運動估計單元222可形成一或多個運動向量(MV)，其關於當前圖像中之當前區塊的位置界定參考圖像中之參考區塊的位置。運動估計單元222可接著將運動向量提供至運動補償單元224。舉例而言，對於單向框間預測，運動估計單元222可提供單個運動向量，而對於雙向框間預測，運動估計單元222可提供兩個運動向量。運動補償單元224可接著使用運動向量產生預測區塊。舉例而言，運動補償單元224可使用運動向量擷取參考區塊之資料。作為另一實例，若運動向量具有分數樣本精確度，則運動補償單元224可根據一或多個內插濾波器為預測區塊內插值。此外，對於雙向框間預測，運動補償單元224可擷取用於藉由各別運動向量識別之兩個參考區塊的資料，並(例如)經由逐樣本求平均值或經加權求平均值來組合所擷取之資料。
作為另一實例，對於框內預測，或框內預測寫碼，框內預測單元226可自鄰近當前區塊之樣本產生預測區塊。舉例而言，對於方向模式，框內預測單元226可在數學上大體組合相鄰樣本之值，且在橫跨當前區塊之所定義方向上填入此等計算值以產生預測區塊。作為另一實例，對於DC模式，框內預測單元226可計算與當前區塊相鄰之樣本的平均值，且產生預測區塊以針對預測區塊之每一樣本包括此所得平均值。
模式選擇單元202將預測區塊提供至殘餘產生單元204。殘餘產生單元204接收來自視訊資料記憶體230之當前區塊及來自模式選擇單元202之預測區塊的原始未經編碼版本。殘餘產生單元204計算當前區塊與預測區塊之間的逐樣本差。所得逐樣本差定義用於當前區塊之殘餘區塊。在一些實例中，殘餘產生單元204亦可判定殘餘區塊中之樣本值之間的差，以使用殘餘差分脈碼調變(RDPCM)產生殘餘區塊。在一些實例中，可使用執行二進位減法之一或多個減法器電路來形成殘餘產生單元204。
在模式選擇單元202將CU分區為PU之實例中，每一PU可與明度預測單元及對應色度預測單元相關聯。視訊編碼器200視訊解碼器300可支援具有各種大小之PU。如上文所指示，CU之大小可指CU之明度寫碼區塊的大小，且PU之大小可指PU之明度預測單元的大小。假定特定CU之大小為2N×2N，則視訊編碼器200可支援用於框內預測的2N×2N或N×N之PU大小，及用於框間預測的2N×2N、2N×N、N×2N、N×N或類似大小之對稱PU大小。視訊編碼器200及視訊解碼器300亦可支援用於框間預測的2N×nU、2N×nD、nL×2N以及nR×2N之PU大小的不對稱分區。
在模式選擇單元202未將CU進一步分區為PU的實例中，每一CU可與明度寫碼區塊及對應色度寫碼區塊相關聯。如上，CU之大小可指代CU之明度寫碼區塊的大小。視訊編碼器200及視訊解碼器300可支援2N×2N、2N×N或N×2N之CU大小。
對於諸如區塊內複製模式寫碼、仿射模式寫碼及線性模型(LM)模式寫碼之其他視訊寫碼技術，如少數實例，模式選擇單元202經由與寫碼技術相關聯之各別單元產生用於正編碼之當前區塊的預測區塊。在諸如調色板模式寫碼的一些實例中，模式選擇單元202可能不會產生預測區塊，而是產生指示基於所選擇調色板重建構區塊之方式的語法元素。在此等模式中，模式選擇單元202可將此等語法元素提供至熵編碼單元220以待編碼。
如上文所描述，殘餘產生單元204接收用於當前區塊及對應預測區塊之視訊資料。殘餘產生單元204隨後產生用於當前區塊之殘餘區塊。為產生殘餘區塊，殘餘產生單元204計算預測區塊與當前區塊之間的逐樣本差。
根據本發明之技術，作為產生用於當前區塊之殘餘區塊(亦即 ，轉換單元)之部分，殘餘產生單元204可根據分區樹類型將用於當前區塊之殘餘區塊分區為複數個殘餘子區塊(亦即 ，轉換單元)。殘餘產生單元204可針對方形殘餘區塊以及非方形殘餘區塊(例如，矩形殘餘區塊)執行此等分區，以產生方形以及非方形殘餘子區塊，且殘餘產生單元204亦可將殘餘子區塊中之一或多者分區。
如上文所論述，分區區塊可根據以下各項中之一或多者分區為殘餘子區塊：四元樹分區、二元樹分區、三元樹分區或四-TU分區，諸如圖7及圖8中所示。在一些實例中，分區區塊可根據以下各項中之一或多者分區為殘餘子區塊：四元樹分區或二元樹分區。
當殘餘產生單元204根據二元樹分區、三元樹分區或四-TU分區將殘餘區塊分區時，殘餘產生單元204可水平地分裂殘餘區塊或豎直地分裂殘餘區塊。舉例而言，圖7之區塊190C、190E、190F及190H說明水平分裂之實例，而圖7之區塊190B、190D、190G及190I說明豎直分裂之實例。
當殘餘產生單元204根據二元樹分區或三元樹分區將殘餘區塊分區以水平地分裂或豎直地分裂殘餘區塊時，殘餘產生單元204可對稱地分裂殘餘區塊或可不對稱地分裂殘餘區塊。舉例而言，圖7之區塊190D及190E說明對稱分裂之實例，而圖7之區塊190F及190G說明非對稱分裂之實例。
轉換處理單元206將一或多個轉換應用於殘餘區塊以產生轉換係數之區塊(在本文中被稱作「轉換係數區塊」)。轉換處理單元206可將各種轉換應用於殘餘區塊以形成轉換係數區塊。舉例而言，轉換處理單元206可將離散餘弦轉換(DCT)、方向轉換(directional transform)、Karhunen-Loeve轉換(KLT)或概念上類似之轉換應用於殘餘區塊。在一些實例中，轉換處理單元206可對殘餘區塊執行多重轉換，(例如)一級轉換及二級轉換，諸如旋轉轉換。在一些實例中，轉換處理單元206不將轉換應用於殘餘區塊。
在一些實例中，轉換處理單元206可將多重轉換(MT)方案之多個轉換應用於當前區塊之殘餘區塊，包括將MT方案之多個轉換應用於由殘餘區塊之分區而產生的複數個殘餘子區塊中之每一者。MT方案可定義(例如)待應用於殘餘區塊之一級轉換及二級轉換。另外地或替代性地，MT方案可定義水平轉換及豎直轉換，諸如如上文所論述的圖5A及圖5B中所示之彼等。在任何狀況下，轉換處理單元206可將MT方案之每一轉換應用於殘餘區塊以產生轉換係數區塊之轉換係數。
舉例而言，轉換處理單元206可針對複數個殘餘子區塊中之每一者選擇一轉換，其中針對複數個殘餘子區塊之一各別殘餘區塊的該轉換之選擇為用於該各別殘餘區塊的多重轉換選擇(MTS)索引。以此方式，可針對每一殘餘子區塊選擇一多重轉換。
在另一實例中，轉換處理單元206可針對一殘餘區塊選擇應用於由殘餘區塊之分區而產生的複數個殘餘子區塊中之每一者的轉換。舉例而言，可針對殘餘區塊選擇應用於由殘餘區塊之分區而產生的每一殘餘子區塊的多重轉換。在圖8中之區塊192C的實例中，用於區塊192C的所選擇多重轉換可應用於殘餘子區塊P0、P1、P2及P3中之每一者。
根據本發明之技術，轉換處理單元206可判定用於複數個殘餘子區塊中之每一者的經寫碼區塊旗標(cbf)及/或轉換跳過旗標。經寫碼區塊旗標可發信關於是否針對殘餘子區塊傳輸至少一個非零係數轉換層級之資訊。轉換跳過旗標可發信關於是否針對殘餘子區塊跳過轉換之資訊。
根據本發明之技術，轉換處理單元206可至少部分基於以下中之一者判定用於由將殘餘區塊分區而產生的複數個殘餘子區塊之轉換核：用於殘餘區塊之分區樹類型或用於殘餘區塊之分區類型。
根據本發明之技術，轉換處理單元206可至少部分基於以下中之一者判定用於複數個殘餘子區塊之上下文指派：用於殘餘區塊之分區樹類型或用於殘餘區塊之分區類型。在一些實例中，轉換處理單元206可針對當前區塊之明度分量及/或當前區塊之色度分量判定用於複數個殘餘子區塊的上下文指派。
在一個實例中，當轉換處理單元206判定殘餘區塊根據四元樹分區被分區為四個殘餘子區塊時，轉換處理單元206可判定：對於複數個殘餘子區塊之第一殘餘子區塊，DCT-8被用作水平轉換及豎直轉換兩者；對於複數個殘餘子區塊之第二殘餘子區塊，DST-7被用於水平轉換且DST-8被用作豎直轉換；對於複數個殘餘子區塊之第三殘餘子區塊，DCT-8被用於水平轉換且DST-7被用作豎直轉換；及對於複數個殘餘子區塊之第四殘餘子區塊，DST-7被用作水平轉換及豎直轉換兩者。
在另一實例中，當轉換處理單元206判定殘餘區塊根據四元樹分區被分區為四個殘餘子區塊時，轉換處理單元206可判定對於複數個殘餘子區塊中之每一者，DST-7被用作水平轉換及豎直轉換兩者。
在另一實例中，當轉換處理單元206判定殘餘區塊根據四元樹分區被分區為四個殘餘子區塊時，轉換處理單元206可判定對於複數個殘餘子區塊中之一或多者，DCT-2被用作水平轉換或豎直轉換中之至少一者。因此，舉例而言，對於複數個殘餘子區塊中之一或多者，DCT-2可被用作水平轉換，且DST-7或DCT-8可被用作豎直轉換，且對於複數個殘餘子區塊中之一或多者，DCT-2可被用作豎直轉換，且DST-7或DCT-8可被用作水平轉換。
在另一實例中，當轉換處理單元206判定殘餘區塊根據二元樹分區被分區為兩個殘餘子區塊，且用於殘餘區塊之分區類型為水平分裂時，轉換處理單元206可判定：對於複數個殘餘子區塊之第一殘餘子區塊，DCT-2被用作水平轉換且DCT-8被用作豎直轉換；及對於複數個殘餘子區塊之第二殘餘子區塊，DCT-2被用作水平轉換且DST-7被用作豎直轉換。
在另一實例中，當轉換處理單元206判定殘餘區塊根據二元樹分區被分區為兩個殘餘子區塊，且用於殘餘區塊之分區類型為豎直分裂時，轉換處理單元206可判定：對於複數個殘餘子區塊之第一殘餘子區塊，DCT-8被用作水平轉換且DCT-2被用作豎直轉換；及對於複數個殘餘子區塊之第二殘餘子區塊，DST-7被用作水平轉換且DCT-2被用作豎直轉換。
在另一實例中，當轉換處理單元206判定殘餘區塊根據二元樹分區被分區為兩個殘餘子區塊時，轉換處理單元206可針對複數個殘餘子區塊中之一或多者判定以下中之一者：DST-7或DCT-8被用作水平轉換或被用作豎直轉換中之至少一者。在上文所描述之二元樹分區之實例中，DST-7或DCT-8之使用可替換DCT-2。
在一些實例中，反轉換處理單元206可至少部分基於殘餘區塊之大小判定用於殘餘區塊之上下文指派。舉例而言，當殘餘區塊具有較小之大小，諸如小於或等於16個樣本(例如，具有16個樣本之大小的4×4區塊)時，且當殘餘區塊根據二元樹分區進行分區時，反轉換處理單元206可判定用於複數個殘餘子區塊之上下文指派，從而使得對於複數個殘餘子區塊中之每一者，DST-7被用作水平轉換及豎直轉換兩者。
在另一實例中，當殘餘區塊具有較大之大小，諸如大於或等於16個樣本(例如，具有32個樣本之大小的4×8區塊)時，且當殘餘區塊根據二元樹分區進行分區時，轉換處理單元206可判定用於複數個殘餘子區塊之上下文指派，從而使得：對於複數個殘餘子區塊之第一殘餘子區塊，DCT-2被用作水平轉換且DST-7被用作豎直轉換；及對於複數個殘餘子區塊之第二殘餘子區塊，DCT-2被用作豎直轉換且DST-7被用作水平轉換。
在另一實例中，當殘餘區塊具有小於或等於2個樣本之水平大小或豎直大小(例如，2×8區塊)時，轉換處理單元206可判定無轉換將被應用於複數個殘餘子區塊。
在一些實例中，轉換處理單元206可基於當前區塊為經框內預測之區塊而判定用於複數個殘餘子區塊之上下文指派。在一些實例中，轉換處理單元206可基於當前區塊為經框間預測之區塊而判定用於複數個殘餘子區塊之上下文指派。
量化單元208可量化轉換係數區塊中之轉換係數，以產生經量化轉換係數區塊。量化單元208可根據與當前區塊相關聯之量化參數(QP)值量化轉換係數區塊之轉換係數。視訊編碼器200 (例如，經由模式選擇單元202)可藉由調整與CU相關聯之QP值，來調整被應用於與當前區塊相關聯之轉換係數區塊的量化程度。量化可引入資訊之損耗，因此，經量化轉換係數可具有相比由轉換處理單元206產生之原始轉換係數低的精確度。
反量化單元210及反轉換處理單元212可將反量化及反轉換分別應用於經量化轉換係數區塊，以用轉換係數區塊重建構殘餘區塊。重建構單元214可基於經重建構殘餘區塊及藉由模式選擇單元202產生之預測區塊，產生對應於當前區塊之經重建構區塊(儘管可能具有一些程度的失真)。舉例而言，重建構單元214可將經重建構殘餘區塊之樣本添加至來自模式選擇單元202產生之預測區塊的對應樣本，以產生經重建構區塊。
濾波器單元216可對經重建區塊執行一或多個濾波操作。舉例而言，濾波器單元216可執行解區塊操作以沿CU之邊緣減少區塊效應假影。在一些實例中，可跳過濾波器單元216之操作。
視訊編碼器200將經重建區塊儲存於DPB 218中。舉例而言，在不需要濾波器單元216之操作的實例中，重建構單元214可將經重建構區塊儲存至DPB 218。在需要濾波器單元216之操作的實例中，濾波器單元216可將經濾波經重建構區塊儲存至DPB 218。運動估計單元222及運動補償單元224可自DPB 218擷取參考圖像，由經重建構(及可能經濾波)區塊形成，至隨後進行編碼之圖像的框間預測區塊。另外，框內預測單元226可使用當前圖像之DPB 218中的經重建構區塊，以對當前圖像中之其他區塊框內預測。
大體而言，熵編碼單元220可熵編碼自視訊編碼器200之其他功能組件接收的語法元素。舉例而言，熵編碼單元220可熵編碼來自量化單元208之經量化轉換係數區塊。作為另一實例，熵編碼單元220可熵編碼來自模式選擇單元202的預測語法元素(例如，用於框間預測之運動資訊或用於框內預測之框內模式資訊)。熵編碼單元220可對語法元素(其為視訊資料之另一實例)執行一或多個熵編碼操作以產生經熵編碼資料。舉例而言，熵編碼單元220可對資料執行上下文自適應性可變長度寫碼(CAVLC)操作、CABAC操作、可變至可變(V2V)長度寫碼操作、基於語法的上下文自適應性二進位算術寫碼(SBAC)操作、機率區間分區熵(PIPE)寫碼操作、指數-哥倫布編碼操作或另一類型之熵編碼操作。在一些實例中，熵編碼單元220可在旁路模式下操作，其中語法元素未經熵編碼。
根據本發明之技術，熵編碼單元220可針對殘餘區塊熵編碼與殘餘區塊相關聯之分區資訊。與殘餘區塊相關聯之此類分區資訊可指示殘餘區塊是否進行分區。若將殘餘區塊分區，則經熵編碼分區資訊可進一步指示殘餘區塊之分區樹類型。分區樹類型可為以下中之一者：四元樹分區、二元樹分區、三元樹分區或四-TU分區。為指示分區樹類型，經熵編碼分區資訊可包括至可能分區類型之清單的索引。若分區樹類型為以下中之一者：二元樹分區、三元樹分區或四-TU分區，則熵經編碼分區資訊可進一步發信指示殘餘區塊之分區類型的資訊，該分區類型指示殘餘區塊經水平分裂抑或經豎直分裂。此外，若殘餘區塊之分區樹類型為二元樹分區或三元樹分區，則熵經編碼資訊可進一步發信指示TU經對稱分裂抑或經不對稱分裂的資訊。
熵編碼單元220亦可針對殘餘區塊，熵編碼與殘餘區塊相關聯之其他資訊。舉例而言，熵編碼單元220可編碼針對由殘餘區塊之分區而產生的複數個殘餘子區塊中之每一者所選擇的轉換之一指示，諸如用於各別殘餘子區塊中之每一者的MTS索引。在另一實例中，熵編碼單元220可編碼針對殘餘區塊所選擇之轉換的一指示，其中該所選擇轉換應用於由殘餘區塊之分區而產生的複數個殘餘子區塊中之每一者。
根據本發明之一些態樣，熵編碼單元220可防止編碼與用於(由殘餘區塊之分區而產生的)複數個殘餘子區塊之上下文指派，或用於複數個殘餘子區塊之轉換核相關聯的資訊。實情為，視訊解碼器300可基於與藉由熵編碼單元220編碼之殘餘區塊相關聯的其他資訊推斷與殘餘區塊有關的此類資訊，諸如殘餘區塊是否進行分區、根據殘餘區塊得以分區的分區樹類型、殘餘區塊之分區類型，以及藉由熵編碼單元220進行熵編碼之其他旁側資訊。
視訊編碼器200可輸出位元串流，其包括重建構圖塊或圖像之區塊所需的經熵編碼語法元素。特定而言，熵編碼單元220可根據本發明之技術輸出位元串流，其包括(例如)與殘餘區塊相關聯之經熵編碼分區資訊。因而，一旦編碼器200已判定用於視訊資料之當前區塊的殘餘區塊根據一分區樹類型被分區為複數個殘餘子區塊，熵編碼單元220便可將位元串流編碼為視訊資料之經編碼表示，該經編碼表示發信指示殘餘區塊是否進行分區之資訊，且進一步發信指示用於進行分區之殘餘區塊的分區樹類型的資訊。
上文所描述之操作相對於區塊進行描述。此描述應理解為用於明度寫碼區塊及/或色度寫碼區塊之操作。如上文所描述，在一些實例中，明度寫碼區塊及色度寫碼區塊為CU之明度及色度分量。在一些實例中，明度寫碼區塊及色度寫碼區塊為PU之明度分量及色度分量。
在一些實例中，無需針對色度寫碼區塊重複相對於明度寫碼區塊進行之操作。作為一個實例，無需重複識別明度寫碼區塊之運動向量(MV)及參考圖像的操作用於識別色度區塊之MV及參考圖像。更確切而言，明度寫碼區塊之MV可經按比例調整以判定色度區塊之MV，且參考圖像可為相同的。作為另一實例，框內預測程序可針對明度寫碼區塊及色度寫碼區塊係相同的。
視訊編碼器200表示經組態以編碼視訊資料之裝置的實例，其包括：記憶體，其經組態以儲存視訊資料；及一或多個處理單元，其實施於電路系統中且經組態以：判定用於視訊資料之當前區塊的殘餘區塊根據一分區樹類型被分區為複數個殘餘子區塊；及將位元串流編碼為視訊資料之經編碼表示，其發信指示殘餘區塊是否進行分區之資訊，且進一步發信指示用於殘餘區塊之該分區樹類型的資訊。
圖10為說明可執行本發明之技術之實例視訊解碼器300的方塊圖。出於解釋之目的提供圖10，且其並不限制如本發明中廣泛例示及描述之技術。出於解釋之目的，本發明描述視訊解碼器300係根據JEM、VVC及HEVC之技術來描述的。然而，本發明之技術可由經組態為其他視訊寫碼標準的視訊寫碼裝置執行。
在圖10之實例中，視訊解碼器300包括經寫碼圖像緩衝器(CPB)記憶體320、熵解碼單元302、預測處理單元304、反量化單元306、反轉換處理單元308、重建構單元310、濾波器單元312及經解碼圖像緩衝器(DPB) 314。CPB記憶體320、熵解碼單元302、預測處理單元304、反量化單元306、反轉換處理單元308、重建構單元310、濾波器單元312及DPB 314中任一者之或全部可實施於一或多個處理器或處理電路系統中。舉例而言，視訊解碼器300之單元可作為一或多個電路或邏輯元件實施為硬體電路系統之部分，或FPGA之處理器、ASIC之部分。此外，視訊解碼器300可包括額外或替代處理器或處理電路系統以執行此等及其他功能。
預測處理單元304包括運動補償單元316及框內預測單元318。預測處理單元304可包括根據其他預測模式執行預測之額外單元。作為實例，預測處理單元304可包括調色板單元、區塊內複製單元(其可形成運動補償單元316之部分)、仿射單元、線性模型(LM)單元或其類似者。在其他實例中，視訊解碼器300可包括更多、更少或不同的功能組件。
CPB記憶體320可儲存待由視訊解碼器300之組件解碼之視訊資料，諸如經編碼視訊位元串流。可(例如)自電腦可讀媒體110 (圖1)獲得儲存於CPB記憶體320中之視訊資料。CPB記憶體320可包括儲存來自經編碼視訊位元串流之經編碼視訊資料(例如，語法元素)的CPB。又，CPB記憶體320可儲存除經寫碼圖像之語法元素之外的視訊資料，諸如表示來自視訊解碼器300之各種單元之輸出的臨時資料。DPB 314一般儲存經解碼圖像，視訊解碼器300可在解碼經編碼視訊位元串流之後續資料或圖像時輸出該等經解碼圖像及/或將其用作參考視訊資料。CPB記憶體320及DPB 314可藉由多種記憶體裝置中之任一者形成，諸如DRAM (包括SDRAM、MRAM、RRAM)或其他類型之記憶體裝置。CPB記憶體320及DPB 314可藉由同一記憶體裝置或獨立記憶體裝置提供。在各種實例中，CPB記憶體320可與視訊解碼器300之其他組件一起在晶片上，或相對於彼等組件在晶片外。
另外地或可替代地，在一些實例中，視訊解碼器300可自記憶體120 (圖1)擷取經寫碼視訊資料。亦即，記憶體120可利用CPB記憶體320存儲如上文所論述之資料。同樣，當視訊解碼器300之一些或所有功能性實施於軟體中以藉由視訊解碼器300之處理電路系統執行時，記憶體120可儲存待由視訊解碼器300執行之指令。因而，CPB記憶體320連同圖10之視訊解碼器300之其他組件表示用於接收位元串流的構件之實例。
圖10中所示之各種單元經說明為輔助理解由視訊解碼器300執行之操作。單元可經實施為固定功能電路、可程式化電路或其組合。類似於圖9，固定功能電路指代提供特定功能性，且在可執行之操作上預設定的電路。可程式化電路指可經程式化以執行各種任務並在可被執行之操作中提供可撓式功能性的電路。舉例而言，可程式化電路可實行使得可程式化電路以由軟體或韌體之指令定義的方式操作的軟體或韌體。固定功能電路可執行軟體指令(例如，以接收參數或輸出參數)，但固定功能電路執行的操作之類型一般為不可變的。在一些實例中，單元中之一或多者可為相異的電路區塊(固定功能或可程式化)，且在一些實例中，單元中之一或多者可為積體電路。
視訊解碼器300可包括ALU、EFU、數位電路、類比電路及/或由可程式化電路形成之可程式化核心。在由在可程式化電路上執行之軟體進行視訊解碼器300之操作的實例中，晶片上或晶片外記憶體可儲存視訊解碼器300接收及執行之軟體之指令(例如目標程式碼)。
熵解碼單元302可自CPB接收經編碼視訊資料且對視訊資料進行熵解碼以再生語法元素。預測處理單元304、反量化單元306、反轉換處理單元308、重建構單元310、及濾波器單元312可基於自位元串流提取之語法元素產生經解碼視訊資料。
一般而言，視訊解碼器300在逐區塊基礎上重建構圖像。視訊解碼器300可個別地對每一區塊執行重建構操作(其中，當前正重建構(亦即，解碼)之區塊可被稱作「當前區塊」)。
熵解碼單元302可熵解碼定義經量化轉換係數區塊之經量化轉換係數的語法元素，以及諸如量化參數(QP)及/或轉換模式指示之轉換資訊
根據本發明之技術，視訊解碼器300可在包含視訊資料之經編碼表示之位元串流中接收指示殘餘區塊是否進行分區之資訊及指示基於殘餘區塊進行分區的用於殘餘區塊之分區樹類型的資訊，其中該殘餘區塊指示當前區塊與預測區塊之間的差。指示殘餘區塊是否進行分區之資訊及指示用於殘餘區塊之分區樹類型的資訊可為語法元素，其發信殘餘區塊是否進行分區及在進行分區的情況下，用於殘餘區塊之分區樹類型。
在一些實例中，指示用於殘餘區塊之分區樹類型的資訊可為至樹類型集合中之索引資訊，且熵解碼單元302可基於所接收索引資訊判定分區樹類型。舉例而言，該樹類型集合資訊可包括四元樹分區及二元樹分區中之一或多者，
在一些實例中，藉由視訊解碼器300接收之位元串流可進一步包括指示殘餘區塊經水平分裂抑或經豎直分裂，及/或殘餘區塊經對稱分裂抑或經不對稱分裂的資訊。
舉例而言，位元串流可包括用於殘餘區塊的發信殘餘區塊是否進行分區之旗標。若旗標經啟用，則位元串流可包括至分區樹類型之清單的索引，以指示用於將殘餘區塊分區之分區樹類型，諸如經由多個位元索引至以下分區樹類型之清單：四元樹分區、二元樹分區、三元樹分區及四-TU分區。位元串流可接著亦包括(必要時)發信殘餘區塊經水平分裂抑或經豎直分裂，及殘餘區塊經對稱分裂抑或經不對稱分裂的旗標。
熵解碼單元302可熵解碼與正自位元串流解碼之資料之當前區塊的殘餘區塊相關聯之分區資訊。特定而言，熵解碼單元302可解碼分區資訊以判定是否將殘餘區塊分區。若位元串流中的用於殘餘資料之分區資訊發信殘餘區塊進行分區，則熵解碼單元302可進一步解碼分區資訊以判定用於殘餘區塊之分區樹類型。視用於殘餘區塊之分區樹類型而定，熵解碼單元302可解碼位元串流中的用於殘餘區塊之分區資訊，以判定殘餘區塊經水平分裂抑或經豎直分裂，以及殘餘區塊經對稱分裂抑或經不對稱分裂。因而，熵解碼單元302連同圖10之視訊解碼器300之其他組件表示用於判定殘餘區塊根據分區樹類型被分區為複數個殘餘子區塊的構件之實例。
另外，在一些實例中，熵解碼單元302亦可針對資料之當前區塊的殘餘區塊熵解碼與殘餘區塊相關聯之其他資訊。舉例而言，熵解碼單元302可解碼針對由殘餘區塊之分區而產生的複數個殘餘子區塊中之每一者所選擇的轉換之一指示，諸如用於各別殘餘子區塊中之每一者的MTS索引。
在另一實例中，熵解碼單元302可解碼針對殘餘區塊所選擇之轉換的一指示，其中該所選擇轉換應用於由殘餘區塊之分區而產生的複數個殘餘子區塊中之每一者。針對殘餘區塊所選擇的此轉換可在位元串流中在殘餘區塊層級下發信，由此節省負擔而無需指示用於殘餘子區塊中之每一者的單獨轉換，同時保持將殘餘區塊分區為複數個殘餘子區塊的能力。
根據本發明之技術，熵解碼單元302可基於諸如當前區塊之預測模式、殘餘區塊之分區樹類型、殘餘區塊之分區類型或包括於位元串流中之任何其他旁側資訊之資訊，推斷或限定用於複數個殘餘子區塊中之每一者的經寫碼區塊旗標(cbf)及/或轉換跳過旗標。經寫碼區塊旗標可發信關於是否針對殘餘子區塊傳輸至少一個非零係數轉換層級之資訊。轉換跳過旗標可發信關於是否針對殘餘子區塊跳過轉換之資訊。舉例而言，熵解碼單元302可將殘餘子區塊限定為始終具有經停用經寫碼區塊旗標(旗標=0)，從而使得殘餘子區塊無需cbf發信。
熵解碼單元302可提供與殘餘區塊相關聯之此類資訊以反轉換處理單元308。因此，在反量化單元306形成轉換係數區塊之後，反轉換處理單元308可使用與殘餘區塊相關聯之此類資訊連同藉由反量化單元306提供之一或多個轉換係數區塊來產生與當前區塊相關聯之殘餘區塊。
反量化單元306可使用與經量化轉換係數區塊相關聯之QP判定量化程度，且同樣判定反量化程度供反量化單元306應用。反量化單元306可例如執行按位元左移操作以將經量化轉換係數反量化。反量化單元306可由此形成包括轉換係數之轉換係數區塊。
在反量化單元306形成轉換係數區塊後，反轉換處理單元308可將一或多個反轉換應用於轉換係數區塊以產生與當前區塊相關聯的殘餘區塊。舉例而言，反轉換處理單元308可將反DCT、反整數轉換、反Karhunen-Loeve轉換(KLT)、反旋轉轉換、反定向轉換或另一反轉換應用於係數區塊。因而，反轉換處理單元308連同圖10之視訊解碼器300之其他組件表示用於至少部分基於殘餘區塊根據分區樹類型被分區為複數個殘餘子區塊而產生用於當前區塊之殘餘資料的構件之實例。
根據本發明之技術，反轉換處理單元308可自熵解碼單元302接收與資料之當前區塊的殘餘區塊相關聯之分區資訊，且可判定殘餘區塊至複數個殘餘子區塊之分區。如上文所論述，熵解碼單元302可解碼指示殘餘區塊是否進行分區、殘餘區塊經水平分裂抑或經豎直分裂，及殘餘區塊經對稱分裂抑或經不對稱分裂的用於當前區塊之殘餘區塊的分區資訊。反處理單元308可使用此類資訊判定由用於當前區塊資料之殘餘區塊之分區而產生的複數個殘餘子區塊。
反轉換處理單元308可至少部分基於分區資訊將一或多個反轉換應用於一或多個轉換係數區塊以產生用於視訊資料之當前區塊的殘餘區塊，包括產生由用於當前區塊資料之殘餘區塊之分區而產生的複數個殘餘子區塊。以此方式，反轉換處理單元308產生用於視訊資料之當前區塊的殘餘資料。
在一些實例中，反轉換處理單元308可應用藉由熵解碼單元302自位元串流解碼之資訊所指示的一或多個反轉換。舉例而言，若位元串流包括指示針對由殘餘區塊之分區而產生的複數個殘餘子區塊中之每一者所選擇之轉換的資訊，諸如用於各別殘餘子區塊中之每一者的MTS索引，則反轉換處理單元308可將所選擇轉換應用於複數個殘餘子區塊。在另一實例中，若位元串流包括指示針對殘餘區塊所選擇之轉換的資訊，則反轉換處理單元308可將所選擇轉換應用於殘餘區塊中之複數個殘餘子區塊中之每一者。
在一些實例中，反轉換處理單元308可至少部分基於包括於位元串流及/或其他旁側資訊中的殘餘區塊之分區資訊，將用於複數個殘餘子區塊之轉換核推斷或限定於水平方向或垂直方向中之至少一者。推斷或限定用於複數個殘餘子區塊之轉換核包括至少部分基於包括於位元串流及/或其他旁側資訊中之殘餘區塊的分區資訊，推斷或限定用於複數個殘餘子區塊之MTS索引或轉換界定。
推斷或限定轉換核意謂著轉換核未在位元串流中顯式地發信。實情為，轉換核可至少部分基於位元串流中之其他資訊進行推斷或限定。在一個實例中，轉換核可基於藉由位元串流發信之殘餘區塊之分區樹類型進行推斷或限定，諸如基於殘餘區塊係根據二元樹分區、四-TU分區抑或三元樹分區進行分區、基於殘餘區塊之分區類型，諸如基於殘餘樹經水平分裂抑或經豎直分裂，及/或基於在位元串流中發信之任何其他旁側資訊。反轉換處理單元308可至少部分基於所推斷或限定的用於複數個殘餘子區塊之轉換核而將一或多個反轉換應用於一或多個轉換係數區塊，以產生用於視訊資料之當前區塊的殘餘區塊。
在一些實例中，反轉換處理單元308可至少部分基於包括於位元串流及/或其他旁側資訊中的用於殘餘區塊之分區資訊而推斷或限定用於複數個殘餘子區塊之上下文指派，且反轉換處理單元308可至少部分基於用於複數個殘餘子區塊的所推斷或限定之上下文指派而將一或多個反轉換應用於一或多個轉換係數區塊，以產生用於視訊資料之當前區塊的殘餘區塊。
當上下文指派經推斷或限定時，用於複數個殘餘子區塊之轉換選擇可能仍係可能的，其中上下文經指派以發信此等轉換選擇。經指派上下文可為不同於轉換選擇發信中已經存在之上下文的單獨上下文。因此，轉換負擔可更有效地進行寫碼，且所有轉換選擇可為可用的。
推斷或限定用於複數個殘餘子區塊之上下文指派意謂著上下文指派未在位元串流中顯式地發信。實情為，上下文指派可至少部分基於位元串流中之其他資訊進行推斷或限定。在一個實例中，上下文指派可基於藉由位元串流發信之殘餘區塊之分區樹類型進行推斷或限定，諸如基於殘餘區塊係根據二元樹分區、四-TU分區抑或三元樹分區進行分區、基於殘餘區塊之分區類型，諸如基於殘餘樹經水平分裂抑或經豎直分裂，及/或基於在位元串流中發信之任何其他旁側資訊。在一些實例中，反轉換處理單元308可針對當前區塊之明度分量及/或當前區塊之色度分量推斷或限定用於複數個殘餘子區塊之上下文指派。
在一個實例中，當反轉換處理單元308判定殘餘區塊根據四元樹分區被分區為四個殘餘子區塊時，反轉換處理單元308可判定：對於複數個殘餘子區塊之第一殘餘子區塊，DCT-8被用作水平轉換及豎直轉換兩者；對於複數個殘餘子區塊之第二殘餘子區塊，DST-7被用於水平轉換且DST-8被用作豎直轉換；對於複數個殘餘子區塊之第三殘餘子區塊，DCT-8被用於水平轉換且DST-7被用作豎直轉換；及對於複數個殘餘子區塊之第四殘餘子區塊，DST-7被用作水平轉換及豎直轉換兩者。
在另一實例中，當反轉換處理單元308判定殘餘區塊根據四元樹分區被分區為四個殘餘子區塊時，反轉換處理單元308可推斷或限定用於複數個殘餘子區塊之上下文指派，從而使得針對複數個殘餘子區塊中之每一者，DST-7被用作水平轉換及豎直轉換兩者。
在另一實例中，當反轉換處理單元308判定殘餘區塊根據四元樹分區被分區為四個殘餘子區塊時，反轉換處理單元308可推斷或限定用於複數個殘餘子區塊之上下文指派，從而使得針對複數個殘餘子區塊中之一或多者，DCT-2被用作水平轉換或豎直轉換中之至少一者。因此，舉例而言，對於複數個殘餘子區塊中之一或多者，DCT -2可經推斷或限定為水平轉換，且DST-7或DCT-8可經推斷或限定為豎直轉換，且對於複數個殘餘子區塊中之一或多者，DCT-2可經推斷或限定為豎直轉換，且DST-7或DCT-8可經推斷或限定為水平轉換。
在另一實例中，當反轉換處理單元308判定殘餘區塊根據二元樹分區被分區為兩個殘餘子區塊，且用於殘餘區塊之分區類型為水平分裂時，反轉換處理單元308可推斷或限定用於複數個殘餘子區塊之上下文指派，從而使得對於複數個殘餘子區塊之第一殘餘子區塊，DCT-2被用作水平轉換且DCT-8被用作豎直轉換；及對於複數個殘餘子區塊之第二殘餘子區塊，DST-2被用作水平轉換且DCT-7被用作豎直轉換。
在另一實例中，當反轉換處理單元308判定殘餘區塊根據二元樹分區被分區為兩個殘餘子區塊，且用於殘餘區塊之分區類型為豎直分裂時，轉換反轉換處理單元308可推斷或限定用於複數個殘餘子區塊之上下文指派，從而使得對於複數個殘餘子區塊之第一殘餘子區塊，DCT-8被用作水平轉換且DCT-2被用作豎直轉換；及對於複數個殘餘子區塊之第二殘餘子區塊，DST-7被用作水平轉換且DCT-2被用作豎直轉換。
在另一實例中，當反轉換處理單元308判定殘餘區塊根據二元樹分區被分區為兩個殘餘子區塊時，反轉換處理單元308可推斷或限定用於複數個分區子區塊之上下文指派，從而使得針對複數個殘餘子區塊中之一或多者進行以下中之一者：DST-7或DCT-8被用作水平轉換或被用作豎直轉換中之至少一者。在上文所描述之二元樹分區之實例中，DST-7或DCT-8之使用可替換DCT-2。
在一些實例中，反轉換處理單元308可至少部分基於殘餘區塊之大小推斷或限定用於殘餘區塊之上下文指派。舉例而言，當殘餘區塊具有較小之大小，諸如小於或等於16個樣本(例如，具有16個樣本之大小的4×4區塊)時，且當殘餘區塊根據二元樹分區進行分區時，反轉換處理單元308可推斷或限定用於複數個殘餘子區塊之上下文指派，從而使得對於複數個殘餘子區塊中之每一者，DST-7被用作水平轉換及豎直轉換兩者。
在另一實例中，當殘餘區塊具有較大之大小，諸如大於或等於16個樣本(例如，具有32個樣本之大小的4×8區塊)時，且當殘餘區塊根據二元樹分區進行分區時，反轉換處理單元308可推斷或限定用於複數個殘餘子區塊之上下文指派，從而使得：對於複數個殘餘子區塊之第一殘餘子區塊，DCT-2被用作水平轉換且DST-7被用作豎直轉換；及對於複數個殘餘子區塊之第二殘餘子區塊，DCT-2被用作豎直轉換且DST-7被用作水平轉換。
在另一實例中，當殘餘區塊具有小於或等於2個樣本之水平大小或豎直大小(例如，2×8區塊)時，反轉換處理單元308可推斷或限定無轉換將被應用於複數個殘餘子區塊。
在一些實例中，反轉換處理單元308可基於當前區塊為經框內預測之視訊區塊而判定用於複數個殘餘子區塊之上下文指派。在其他實例中，反轉換處理單元308可基於當前區塊為經框間預測之視訊區塊而判定用於複數個殘餘子區塊之上下文指派。在另一實例中，反轉換處理單元308可基於當前區塊為經框間預測之視訊區塊或經框內預測之視訊區塊而推斷用於複數個殘餘子區塊之上下文指派。
此外，預測處理單元304根據藉由熵解碼單元302熵解碼之預測資訊語法元素產生預測區塊。舉例而言，若預測資訊語法元素指示當前區塊經框間預測，則運動補償單元316可產生預測區塊。在此情況下，預測資訊語法元素可指示DPB 314中之參考圖像(自其擷取參考區塊)，以及運動向量，其識別參考圖像中之參考區塊相對於當前圖像中之當前區塊之位置的位置。運動補償單元316可總體上以實質上類似於關於運動補償單元224所描述之方式的方式執行框間預測過程(圖9)。
作為另一實例，若預測資訊語法元素指示當前區塊經框內預測，則框內預測單元318可根據藉由預測資訊語法元素指示之框內預測模式來產生預測區塊。同樣，框內預測單元318可總體上以實質上類似於關於框內預測單元226所描述之方式的方式執行框內預測程序(圖9)。框內預測單元318可將相鄰樣本之資料自DPB 314擷取至當前區塊。
重建構單元310可使用預測區塊及殘餘區塊重建構當前區塊。舉例而言，重建構單元310可將殘餘區塊之樣本添加至預測區塊之對應樣本以重建構當前區塊。就此而論，重建構單元310連同圖10之視訊解碼器300的其他組件表示用於使用殘餘資料對當前區塊進行解碼之實例的構件。
濾波器單元312可對經重建構區塊執行一或多個濾波操作。舉例而言，濾波器單元312可執行解區塊操作以沿經重建構區塊之邊緣減少區塊效應假影。不一定在所有實例中執行濾波器單元312之操作。
視訊解碼器300可將經重建構區塊儲存於DPB 314中。舉例而言，在不執行濾波器單元312之操作的實例中，重建構單元310可將經重建構區塊儲存至DPB 314。在執行濾波器單元312之操作的實例中，濾波器單元312可將經濾波經重建構區塊儲存至DPB 314。如上文所論述，DPB 314可將參考資訊提供至預測處理單元304，諸如用於框內預測之當前圖像及用於後續運動補償之經先前解碼圖像的樣本。此外，視訊解碼器300可輸出來自DPB 314之經解碼圖像用於後續呈現於顯示裝置上，諸如圖1之顯示裝置118。
以此方式，視訊解碼器300表示視訊解碼裝置之實例，該視訊解碼裝置包括：記憶體，其經組態以儲存視訊資料；及一或多個處理單元，其實施於電路系統中且經組態以：在包含視訊資料之經編碼表示之位元串流中接收指示殘餘區塊是否進行分區之資訊及指示基於殘餘區塊進行分區的用於殘餘區塊之分區樹類型的資訊，其中該殘餘區塊指示當前區塊與預測區塊之間的差；基於殘餘區塊進行分區的所接收資訊及用於殘餘區塊之分區樹類型，判定殘餘區塊根據分區樹類型所分區為的複數個殘餘子區塊；至少部分基於殘餘區塊根據分區樹類型被分區為複數個殘餘子區塊而產生用於當前區塊之殘餘資料；及使用該殘餘資料解碼當前區塊。
圖11為說明用於編碼當前區塊之實例方法之流程圖。當前區塊可包含當前CU。儘管關於視訊編碼器200 (圖1及圖9)加以描述，但應理解，其他裝置可經組態以進行類似於圖11之方法的方法。
在此實例中，視訊編碼器200首先預測當前區塊(350)。舉例而言，視訊編碼器200可形成當前區塊之預測區塊。視訊編碼器200隨後可計算當前區塊之殘餘區塊(352)。為了計算殘餘區塊，視訊編碼器200可計算當前區塊的原始未經編碼區塊與預測區塊之間的差。作為計算殘餘區塊之部分，視訊編碼器200可根據以下中之至少一者將殘餘區塊分區為複數個殘餘子區塊：四元樹分區或二元樹分區。若視訊編碼器200根據二元樹分區將殘餘區塊分區，則視訊編碼器200可水平地或豎直地將殘餘區塊分區。此外，若視訊編碼器200根據二元樹分區將殘餘區塊分區，則視訊編碼器200可對稱地或不對稱地將殘餘區塊分區。
視訊編碼器200接著可轉換並量化殘餘區塊之係數(354)。接著，視訊編碼器200可掃描殘餘區塊之經量化轉換係數(356)。在掃描期間或在掃描之後，視訊編碼器200可熵編碼轉換係數(358)。舉例而言，視訊編碼器200可使用CAVLC或CABAC編碼係數。視訊編碼器200可接著輸出區塊之經熵編碼資料(360)。視訊編碼器200可將區塊之經熵編碼資料輸出為位元串流。位元串流可針對殘餘區塊發信殘餘區塊是否進行分區、用以將殘餘區塊分區之分區樹類型、指示殘餘區塊是否進行分區之資訊，及指示用於進行分區之殘餘區塊的分區樹類型的資訊。
圖12為說明用於解碼視訊資料之當前區塊之實例方法的流程圖。當前區塊可包含當前CU。儘管相對於視訊解碼器300 (圖1及圖10)加以描述，但應理解，其他裝置可經組態以進行類似於圖12之方法的方法。
視訊解碼器300可接收當前區塊之經熵編碼資料，諸如對應於當前區塊的殘餘區塊之係數的經熵編碼預測資訊及經熵編碼資料(370)。視訊解碼器300可對經熵編碼資料進行熵解碼，以判定當前區塊之預測資訊且再生殘餘區塊之係數(372)。視訊解碼器300可判定針對當前區塊之殘餘區塊，位元串流是否包括指示殘餘區塊是否進行分區之資訊及指示基於殘餘區塊進行分區的用於殘餘區塊之分區樹類型的資訊。
視訊解碼器300可例如使用如由當前區塊之預測資訊所指示的框內或框間預測來預測當前區塊(374)，以計算當前區塊之預測區塊。視訊解碼器300接著可反掃描經再生之係數(376)，以產生經量化轉換係數之區塊。視訊解碼器300接著可反量化及反轉換轉換係數以產生殘餘區塊(378)。視訊解碼器300可使用關於殘餘區塊之分區的此類資訊來推斷或限定殘餘區塊之上下文指派及轉換選擇，以便反轉換轉換係數以產生殘餘區塊。視訊解碼器300可最後藉由組合預測區塊及殘餘區塊來對當前區塊進行解碼(380)。
圖13為說明用於解碼具有根據分區樹類型進行分區之殘餘區塊的資料之當前區塊的實例方法之流程圖。儘管相對於視訊解碼器300 (圖1及圖10)加以描述，但應理解，其他裝置可經組態以進行類似於圖13之方法的方法。在一些實例中，視訊解碼器300可包括以下各者中之一或多者：攝影機、電腦、行動裝置、廣播接收器裝置或機上盒。在一些實例中，視訊解碼器300包括以下各者中之至少一者：積體電路、微處理器或無線通信裝置。在一些實例中，視訊解碼器300包括經組態以顯示經解碼視訊資料之顯示器。
視訊解碼器300可在包含視訊資料之經編碼表示的位元串流中接收指示殘餘區塊是否進行分區之資訊及指示基於殘餘區塊進行分區的用於殘餘區塊之分區樹類型的資訊，其中該殘餘區塊指示當前區塊與預測區塊之間的差(400)。
在一些實例中，接收指示分區樹類型之資訊可包括接收至樹類型集合中之索引資訊，且視訊解碼器300可基於所接收索引資訊判定分區樹類型。在一些實例中，該樹類型集合資訊包括四元樹分區及二元樹分區中之一或多者，在一些實例中，判定分區樹類型可包括判定分區樹類型為二元樹分區中之一者，且視訊解碼器300可接收指示殘餘區塊經水平分裂抑或經豎直分裂之資訊。
視訊解碼器300可基於殘餘區塊進行分區的所接收資訊及用於殘餘區塊之分區樹類型，判定殘餘區塊根據分區樹類型被分區為的複數個殘餘子區塊(402)。
視訊解碼器300可至少部分基於殘餘區塊根據分區樹類型被分區為複數個殘餘子區塊而產生用於當前區塊之殘餘資料(404)。在一些實例中，視訊解碼器300可至少部分基於以下中之一者，在水平方向或垂直方向中之至少一者上自位元串流推斷用於複數個殘餘子區塊之轉換核：殘餘區塊之分區樹類型或殘餘區塊之分區類型，其中產生當前區塊之殘餘資料可進一步包括至少部分基於用於複數個殘餘子區塊之轉換核產生殘餘資料。
視訊解碼器300可使用殘餘資料解碼當前區塊(406)。
在一些實例中，為使用殘餘資料解碼當前區塊，視訊解碼器300可解碼表示當前區塊之預測模式的資料，使用預測模式產生當前區塊之預測區塊，及將預測區塊與殘餘資料組合以再生當前區塊。
在一些實例中，當前區塊經框間預測或經框內預測。在一些實例中，當前區塊包含寫碼單元(CU)之明度區塊。在一些實例中，當前區塊為寫碼單元(CU)或CU之區塊，當前區塊之殘餘區塊為轉換單元(TU)或TU之區塊，且複數個殘餘子區塊為非方形子TU且具有不同於CU之大小。
圖14為說明用於編碼具有根據分區樹類型進行分區之殘餘區塊的資料之當前區塊的實例方法之流程圖。儘管關於視訊編碼器200 (圖1及圖9)加以描述，但應理解，其他裝置可經組態以進行類似於圖14之方法的方法。在一些實例中，視訊編碼器200可包括積體電路、微處理器或無線通信裝置中之至少一者。在一些實例中，視訊編碼器200可包括經組態以俘獲視訊資料之攝影機。在一些實例中，視訊編碼器200可包括以下各者中之一或多者：攝影機、電腦、行動裝置、廣播接收器裝置或機上盒。
視訊編碼器200可判定用於視訊資料之當前區塊的殘餘區塊根據分區樹類型分區為複數個殘餘子區塊(450)。視訊編碼器200可將位元串流編碼為視訊資料之經編碼表示，其發信指示殘餘區塊是否進行分區之資訊，且進一步發信指示用於進行分區之殘餘區塊的分區樹類型的資訊(452)。
在一些實例中，位元串流作為視訊資料之經編碼表示，其發信指示殘餘區塊是否進行分區之資訊，且進一步發信指示用於進行分區之殘餘區塊的分區樹類型的資訊。在一些實例中，該樹類型集合資訊包括四元樹分區及二元樹分區中之一或多者。在一些實例中，當指示用於殘餘區塊之分區樹類型的資訊指示分區樹類型為二元樹分區中之一者時，位元串流進一步發信指示殘餘區塊經水平分裂抑或經豎直分裂之資訊。
在一些實例中，當前區塊為寫碼單元(CU)或CU之區塊，當前區塊之殘餘區塊為轉換單元(TU)或TU之區塊，且複數個殘餘子區塊為非方形子TU且具有不同於CU之大小。
將認識到，取決於實例，本文中所描述之技術中之任一者的某些動作或事件可以不同次序經執行、可經添加、合併或完全省去(例如並非全部所描述動作或事件均為實踐該等技術所必要)。此外，在某些實例中，可(例如)經由多執行緒處理、中斷處理或多個處理器同時而非依序執行動作或事件。
在一或多個實例中，所描述之功能可實施於硬體、軟體、韌體或其任何組合中。若以軟體實施，則該等功能可作為一或多個指令或程式碼而儲存於電腦可讀媒體上或經由電腦可讀媒體傳輸，且由基於硬體之處理單元執行。電腦可讀媒體可包括電腦可讀儲存媒體，其對應於有形媒體(諸如，資料儲存媒體)，或包括有助於將電腦程式自一處傳送至另一處(例如，根據通信協定)的任何媒體之通信媒體。以此方式，電腦可讀媒體大體可對應於(1)為非暫時形的有形電腦可讀儲存媒體，或(2)通信媒體，諸如，信號或載波。資料儲存媒體可為可由一或多個電腦或一或多個處理器存取以擷取指令、程式碼及/或資料結構以用於實施本發明所描述之技術的任何可用媒體。電腦程式產品可包括電腦可讀媒體。
藉由實例而非限制，此等電腦可讀儲存媒體可包含RAM、ROM、EEPROM、CD-ROM或其他光碟儲存器、磁碟儲存器或其他磁性儲存裝置、快閃記憶體或可用於儲存呈指令或資料結構形式之所要程式碼且可由電腦存取的任何其他媒體。而且，任何連接被恰當地稱為電腦可讀媒體。舉例而言，若使用同軸纜線、光纜、雙絞線、數位用戶線(DSL)或無線技術(諸如紅外線、無線電及微波)自網站、伺服器或其他遠端源傳輸指令，則同軸纜線、光纜、雙絞線、DSL或無線技術(諸如紅外線、無線電及微波)包括於媒體之定義中。然而，應理解，電腦可讀儲存媒體及資料儲存媒體不包括連接、載波、信號或其他暫時性媒體，而實情為關於非暫時性有形儲存媒體。如本文中所使用，磁碟及光碟包括緊密光碟(CD)、雷射光碟、光學光碟、數位影音光碟(DVD)、軟碟及Blu-ray光碟，其中磁碟通常以磁性方式再生資料，而光碟藉由雷射以光學方式再生資料。以上之組合亦應包括於電腦可讀媒體之範疇內。
指令可由一或多個處理器執行，該一或多個處理器諸如一或多個數位信號處理器(DSP)、通用微處理器、特殊應用積體電路(ASIC)、場可程式化閘陣列(FPGA)或其他等效的整合或離散邏輯電路。因此，如本文中所使用之術語「處理器」及「處理電路」可指上述結構或適用於實施本文中所描述之技術之任何其他結構中的任一者。另外，在一些態樣中，本文所描述之功能可經提供於經組態以供編碼及解碼或併入於經組合編碼解碼器中之專用硬體及/或軟體模組內。又，可在一或多個電路或邏輯元件中充分實施該等技術。
本發明之技術可實施於廣泛多種裝置或設備中，包括無線手持機、積體電路(IC)或IC集合(例如，晶片組)。在本發明中描述各種組件、模組或單元以強調經組態以執行所揭示技術之裝置的功能態樣，但未必要求由不同硬體單元來實現。確切而言，如上文所描述，各種單元可與合適的軟體及/或韌體一起組合於編解碼器硬體單元中或由互操作性硬體單元之集合提供，該等硬體單元包括如上文所描述之一或多個處理器。
各種實例已予以描述。此等及其他實例在以下申請專利範圍之範疇內。
100:視訊編碼及解碼系統 102:源裝置 104:視訊源 106:記憶體 108:輸出介面 110:電腦可讀媒體 112:儲存裝置 114:檔案伺服器 116:目的地裝置 118:顯示裝置 120:記憶體 122:輸入介面 130:四元樹二元樹(QTBT)結構 132:對應寫碼樹型單元(CTU) 134:寫碼單元(CU) 136:殘餘四元樹(RQT) 140:系統 142:區塊分隔單元 144:區塊轉換單元 146:量化單元 148:區塊預測單元 150:轉換組 152:熵寫碼單元 154:圖框緩衝器 156:反轉換單元 158:反量化單元 160:殘餘產生單元 162:區塊再生單元 170:H個水平轉換 172:W個豎直轉換 181A:四元樹分區 181B:4-TU分區 181C:二元樹分區 181D:三元樹分區 182:四元樹 184:四元樹 186:二元樹 188:三元樹 190A:區塊 190B:區塊 190C:區塊 190D:區塊 190E:區塊 190F:區塊 190G:區塊 190H:區塊 190I:區塊 192A:區塊 192B:區塊 192C:區塊 192D:區塊 192E:區塊 192F:區塊 192G:區塊 200:視訊編碼器 202:模式選擇單元 204:殘餘產生單元 206:轉換處理單元 208:量化單元 210:反量化單元 212:反轉換處理單元 214:重建構單元 216:濾波器單元 218:經解碼圖像緩衝器(DPB) 220:熵編碼單元 222:運動估計單元 224:運動補償單元 226:框內預測單元 230:視訊資料記憶體 300:視訊解碼器 302:熵解碼單元 304:預測處理單元 306:反量化單元 308:反轉換處理單元 310:重建構單元 312:濾波器單元 314:經解碼圖像緩衝器(DPB) 316:運動補償單元 318:框內預測單元 320:經寫碼圖像緩衝器(CPB)記憶體 350:步驟 352:步驟 354:步驟 356:步驟 358:步驟 360:步驟 370:步驟 372:步驟 374:步驟 376:步驟 378:步驟 380:步驟 400:步驟 402:步驟 404:步驟 406:步驟 450:步驟 452:步驟
圖1為說明可執行本發明之技術的實例視訊編碼及解碼系統之方塊圖。
圖2A及圖2B為說明實例四元樹二元樹(QTBT)結構及對應寫碼樹型單元(CTU)之概念圖。
圖3A及圖3B為說明基於HEVC之殘餘四元樹的實例轉換方案之概念圖。
圖4為說明具有自適應轉換選擇的用於混合型視訊編碼之實例系統的方塊圖。
圖5A以及圖5B為將水平轉換及豎直轉換說明為單獨轉換實施的概念圖。
圖6為說明轉換發信之概念圖。
圖7為說明對區塊之各別以樹為基礎之分區的概念圖。
圖8為說明基於四元樹之分區、二元樹分區及三元樹分區之實例的概念圖。
圖9為說明可執行本發明之技術的實例視訊編碼器之方塊圖。
圖10為說明可執行本發明之技術之實例視訊解碼器的方塊圖。
圖11為說明用於編碼當前區塊之實例方法之流程圖。圖12為說明用於解碼視訊資料之當前區塊之實例方法的流程圖。
圖13為說明用於解碼具有根據分區樹類型進行分區之殘餘區塊的資料之當前區塊的實例方法之流程圖。
圖14為說明用於編碼具有根據分區樹類型進行分區之殘餘區塊的資料之當前區塊的實例方法之流程圖。
181A:四元樹分區
181B:4-TU分區
181C:二元樹分區
181D:三元樹分區
182:四元樹
184:四元樹
186:二元樹
188:三元樹
190A:區塊
190B:區塊
190C:區塊
190D:區塊
190E:區塊
190F:區塊
190G:區塊
190H:區塊
190I:區塊

Claims (38)

  1. 一種解碼視訊資料之方法，該方法包含：在包含該視訊資料之一經編碼表示的一位元串流中，接收指示一殘餘區塊是否進行分區之資訊，及指示基於該殘餘區塊進行分區的用於該殘餘區塊之一分區樹類型的資訊，其中指示該分區樹類型之該資訊只與該殘餘區塊相關聯，且其中該殘餘區塊指示一當前區塊與一預測區塊之間的一差；基於該殘餘區塊進行分區的所接收資訊及用於該殘餘區塊之該分區樹類型，根據該分區樹類型判定將該殘餘區塊分區為複數個殘餘子區塊；基於該所判定的將該殘餘區塊分區為該複數個殘餘子區塊且沒有在用於該殘餘區塊之該位元串流中接收一語法元素，推斷用於該複數個殘餘子區塊在水平方向或豎直方向中之至少一者之轉換核的轉換類型，其中該語法元素明確指示用於該複數個殘餘子區塊在水平方向或豎直方向中之至少一者之轉換核的轉換類型；至少部分基於該殘餘區塊根據該分區樹類型被分區為該複數個殘餘子區塊且使用該推論的轉換核，產生用於該當前區塊的殘餘資料；及使用該殘餘資料解碼該當前區塊。
  2. 如請求項1之方法，其中接收指示該分區樹類型之該資訊包含接收至一樹類型集合中之索引資訊，該方法進一步包含基於所接收索引資訊判定該分區樹類型。
  3. 如請求項2之方法，其中該樹類型集合包括一四元樹分區及一二元樹分區中之一或多者。
  4. 如請求項2之方法，其中判定該分區樹類型包含判定該分 區樹類型為一二元樹分區，該方法進一步包含接收指示該殘餘區塊經水平分裂抑或經豎直分裂之資訊。
  5. 如請求項1之方法，其中該轉換類型包括一離散正弦轉換類型7(DST-7)、一離散餘弦轉換類型8(DCT-8)，或一離散餘弦轉換類型2(DCT-2)。
  6. 如請求項1之方法，其中該當前區塊經框間預測或經框內預測。
  7. 如請求項1之方法，其中該當前區塊包含一寫碼單元(CU)之一明度區塊。
  8. 如請求項1之方法，其中：該當前區塊為一寫碼單元(CU)或該CU之一區塊；用於該當前區塊之該殘餘區塊為一轉換單元(TU)或該TU之一區塊；且該複數個殘餘子區塊為非方形子TU且具有不同於該CU之一大小。
  9. 如請求項1之方法，其中解碼該當前區塊包含：解碼表示該當前區塊之一預測模式的資料；使用該預測模式產生用於該當前區塊之該預測區塊；及將該預測區塊與該殘餘資料組合以再生該當前區塊。
  10. 一種用於解碼視訊資料之裝置，該裝置包含：一記憶體，其經組態以儲存視訊資料；及一處理器，其實施於電路系統中且經組態以執行以下操作：在包含該視訊資料之一經編碼表示的一位元串流中，接收指示一殘餘區塊是否進行分區之資訊及指示基於該殘餘區塊進行分區的用於該殘餘區塊之一分區樹類型的資訊，其中指示該分區樹類型之該資訊只與該殘 餘區塊相關聯，且其中該殘餘區塊指示一當前區塊與一預測區塊之間的一差；基於該殘餘區塊進行分區的所接收資訊及用於該殘餘區塊之該分區樹類型，根據該分區樹類型判定將該殘餘區塊分區為複數個殘餘子區塊；基於該所判定的將該殘餘區塊分區為該複數個殘餘子區塊且該處理器沒有在用於該殘餘區塊之該位元串流中接收一語法元素，推斷用於該複數個殘餘子區塊在水平方向或豎直方向中之至少一者之轉換核的轉換類型，其中該語法元素明確指示用於該複數個殘餘子區塊在水平方向或豎直方向中之至少一者之轉換核的轉換類型；至少部分基於該殘餘區塊根據該分區樹類型被分區為該複數個殘餘子區塊且使用該推論的轉換核，產生用於該當前區塊的殘餘資料；及使用該殘餘資料解碼該當前區塊。
  11. 如請求項10之裝置，其中：經組態以接收指示該分區樹類型之資訊的該處理器經進一步組態以接收至一樹類型集合中之索引資訊；且該處理器經進一步組態以基於所接收索引資訊判定該分區樹類型。
  12. 如請求項11之裝置，其中該樹類型集合包括一四元樹分區及一二元樹分區中之一或多者。
  13. 如請求項11之裝置，其中：經組態以判定該分區樹類型之該處理器經進一步組態以判定該分區樹類型為一二元樹分區；且該處理器經進一步組態以接收指示該殘餘區塊經水平分裂抑或經豎直 分裂之資訊。
  14. 如請求項10之裝置，其中該轉換類型包括一離散正弦轉換類型7(DST-7)、一離散餘弦轉換類型8(DCT-8)，或一離散餘弦轉換類型2(DCT-2)。
  15. 如請求項10之裝置，其中該當前區塊經框間預測或經框內預測。
  16. 如請求項10之裝置，其中該當前區塊包含一寫碼單元(CU)之一明度區塊。
  17. 如請求項10之裝置，其中：該當前區塊為一寫碼單元(CU)或該CU之一區塊；用於該當前區塊之該殘餘區塊為一轉換單元(TU)或該TU之一區塊；且該複數個殘餘子區塊為非方形子TU且具有不同於該CU之一大小。
  18. 如請求項10之裝置，其中經組態以解碼該當前區塊之該處理器經進一步組態以：解碼表示該當前區塊之一預測模式的資料；使用該預測模式產生用於該當前區塊之該預測區塊；及將該預測區塊與該殘餘資料組合以再生該當前區塊。
  19. 如請求項10之裝置，其進一步包含經組態以顯示經解碼當前區塊之一顯示器。
  20. 如請求項10之裝置，其中該裝置包含一攝影機、一電腦、一行動裝置、一廣播接收器裝置或一機上盒中之一或多者。
  21. 如請求項10之裝置，其中該裝置包含以下各者中之至少一者： 一積體電路；一微處理器；或一無線通信裝置。
  22. 一種上面儲存有指令之非暫時性電腦可讀儲存媒體，該等指令在執行時使得一處理器執行以下操作：在包含視訊資料之一經編碼表示的一位元串流中接收指示一殘餘區塊是否進行分區之資訊及指示基於該殘餘區塊進行分區的用於該殘餘區塊之一分區樹類型的資訊，其中指示該分區樹類型之該資訊只與該殘餘區塊相關聯，其中該殘餘區塊指示一當前區塊與一預測區塊之間的一差；基於該殘餘區塊進行分區的所接收資訊及用於該殘餘區塊之該分區樹類型，根據該分區樹類型判定將該殘餘區塊分區為複數個殘餘子區塊；基於該所判定的將該殘餘區塊分區為該複數個殘餘子區塊且該處理器沒有接收用於該殘餘區塊的一語法元素，推斷用於該複數個殘餘子區塊在水平方向或豎直方向中之至少一者之轉換核的轉換類型，其中該語法元素明確指示用於該複數個殘餘子區塊在水平方向或豎直方向中之至少一者之轉換核的轉換類型；至少部分基於該殘餘區塊根據該分區樹類型被分區為該複數個殘餘子區塊且使用該推論的轉換核，產生用於該當前區塊的殘餘資料；及使用該殘餘資料解碼該當前區塊。
  23. 一種用於解碼視訊資料之裝置，該裝置包含：用於在包含該視訊資料之一經編碼表示的一位元串流中接收指示一殘餘區塊是否進行分區之資訊及指示基於該殘餘區塊進行分區的用於該殘餘區塊之一分區樹類型之資訊的構件，其中指示該分區樹類型之該資訊只與 該殘餘區塊相關聯，且其中該殘餘區塊指示一當前區塊與一預測區塊之間的一差；用於基於該殘餘區塊進行分區的所接收資訊及用於該殘餘區塊之該分區樹類型，根據該分區樹類型判定將該殘餘區塊分區為複數個殘餘子區塊的構件；用於基於該所判定的將該殘餘區塊分區為該複數個殘餘子區塊且沒有在用於該殘餘區塊之該位元串流中接收一語法元素，推斷用於該複數個殘餘子區塊在水平方向或豎直方向中之至少一者之轉換核的轉換類型的構件，其中該語法元素明確指示用於該複數個殘餘子區塊在水平方向或豎直方向中之至少一者之轉換核的轉換類型；用於至少部分基於該殘餘區塊根據該分區樹類型被分區為該複數個殘餘子區塊且使用該推論的轉換核而產生用於該當前區塊之殘餘資料的構件；及用於使用該殘餘資料解碼該當前區塊的構件。
  24. 一種編碼視訊資料之方法，該方法包含：根據一分區樹類型，將用於視訊資料之一當前區塊的一殘餘區塊分區為複數個殘餘子區塊；基於將該殘餘區塊分區為複數個殘餘子區塊之該判定，判定用於該複數個殘餘子區塊在水平方向或豎直方向中之至少一者之轉換核的轉換類型；以及將一位元串流編碼為視訊資料之一經編碼表示，其發信指示該殘餘區塊是否進行分區之資訊，且進一步發信指示用於進行分區之該殘餘區塊之該分區樹類型的資訊，其中指示該分區樹類型之該資訊只與該殘餘區塊相 關聯，且其中在沒有用於該複數個殘餘子區塊的轉換類型的發信索引的情形下，對該位元串流進行編碼。
  25. 如請求項24之方法，其中：發信指示用於該殘餘區塊之該分區樹類型之該資訊的該位元串流包括至一樹類型集合中之索引資訊。
  26. 如請求項25之方法，其中該樹類型集合包括一四元樹分區及一二元樹分區中之一或多者。
  27. 如請求項25之方法，其中：當指示用於該殘餘區塊之該分區樹類型的該資訊指示該分區樹類型為該二元樹分區時，該位元串流進一步發信指示該殘餘區塊經水平分裂抑或經豎直分裂之資訊。
  28. 如請求項24之方法，其中：該當前區塊為一寫碼單元(CU)或該CU之一區塊；用於該當前區塊之該殘餘區塊為一轉換單元(TU)或該TU之一區塊；且該複數個殘餘子區塊為非方形子TU且具有不同於該CU之一大小。
  29. 如請求項24之方法，其中該轉換類型包括一離散正弦轉換類型7(DST-7)、一離散餘弦轉換類型8(DCT-8)，或一離散餘弦轉換類型2(DCT-2)。
  30. 一種用於編碼視訊資料之裝置，該裝置包含：一記憶體，其經組態以儲存視訊資料；及一處理器，其實施於電路系統中且經組態以執行以下操作：根據一分區樹類型，將用於視訊資料之一當前區塊的一殘餘區塊分區為複數個殘餘子區塊； 基於將該殘餘區塊分區為複數個殘餘子區塊，判定用於該複數個殘餘子區塊在水平方向或豎直方向中之至少一者之轉換核的轉換類型；以及將一位元串流編碼為視訊資料之一經編碼表示，其發信指示該殘餘區塊是否進行分區之資訊，且進一步發信指示用於進行分區之該殘餘區塊之該分區樹類型的資訊，其中指示該分區樹類型之該資訊只與該殘餘區塊相關聯，且其中在沒有用於該複數個殘餘子區塊的轉換類型的發信索引的情形下，對該位元串流進行編碼。
  31. 如請求項30之裝置，其中：發信指示用於該殘餘區塊之該分區樹類型之該資訊的該位元串流包括至一樹類型集合中之索引資訊。
  32. 如請求項31之裝置，其中該樹類型集合包括一四元樹分區及一二元樹分區中之一或多者。
  33. 如請求項32之裝置，其中：當該位元串流發信用於該殘餘區塊之該分區樹類型為該二元樹分區時，該位元串流進一步發信指示該殘餘區塊經水平分裂抑或經豎直分裂的用於該殘餘區塊之一分區類型。
  34. 如請求項30之裝置，其中：該當前區塊為一寫碼單元(CU)或該CU之一區塊；用於該當前區塊之該殘餘區塊為一轉換單元(TU)或該TU之一區塊；且該複數個殘餘子區塊為非方形子TU且具有不同於該CU之一大小。
  35. 如請求項30之裝置，其進一步包含經組態以俘獲該視訊資料之一攝影機。
  36. 如請求項30之裝置，其中該裝置包含一攝影機、一電腦、一行動裝置、一廣播接收器裝置或一機上盒中之一或多者。
  37. 如請求項30之裝置，其中該裝置包含以下各者中之至少一者：一積體電路；一微處理器；或一無線通信裝置。
  38. 如請求項30之裝置，其中該轉換類型包括一離散正弦轉換類型7(DST-7)、一離散餘弦轉換類型8(DCT-8)，或一離散餘弦轉換類型2(DCT-2)。
TW108146396A 2018-12-19 2019-12-18 用於視訊寫碼之以樹為基礎之轉換單元(tu)分區 TWI874342B (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201862782292P 2018-12-19 2018-12-19
US62/782,292 2018-12-19
US16/715,274 US11323748B2 (en) 2018-12-19 2019-12-16 Tree-based transform unit (TU) partition for video coding
US16/715,274 2019-12-16

Publications (2)

Publication Number Publication Date
TW202038617A TW202038617A (zh) 2020-10-16
TWI874342B true TWI874342B (zh) 2025-03-01

Family

ID=71097950

Family Applications (1)

Application Number Title Priority Date Filing Date
TW108146396A TWI874342B (zh) 2018-12-19 2019-12-18 用於視訊寫碼之以樹為基礎之轉換單元(tu)分區

Country Status (20)

Country Link
US (1) US11323748B2 (zh)
EP (1) EP3900337A1 (zh)
JP (1) JP7455840B2 (zh)
KR (1) KR20210103481A (zh)
CN (2) CN113170129B (zh)
AR (1) AR117456A1 (zh)
AU (1) AU2019402886B2 (zh)
BR (1) BR112021010946A2 (zh)
CA (1) CA3120045A1 (zh)
CL (1) CL2021001576A1 (zh)
CO (1) CO2021007864A2 (zh)
IL (1) IL283175B2 (zh)
MX (1) MX2021007190A (zh)
MY (1) MY207048A (zh)
PH (1) PH12021551118A1 (zh)
SA (1) SA521422205B1 (zh)
SG (1) SG11202105070SA (zh)
TW (1) TWI874342B (zh)
WO (1) WO2020131949A1 (zh)
ZA (1) ZA202105022B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020185027A1 (ko) * 2019-03-13 2020-09-17 현대자동차주식회사 데이터 블록에 변환 생략 모드를 효율적으로 적용하기 위한 방법 및 장치
US11172211B2 (en) * 2019-04-04 2021-11-09 Tencent America LLC Method and apparatus for video coding
US11546592B2 (en) * 2020-01-08 2023-01-03 Tencent America LLC Flexible block partitioning for chroma component
US11388401B2 (en) * 2020-06-26 2022-07-12 Google Llc Extended transform partitions for video compression
WO2022191554A1 (ko) * 2021-03-08 2022-09-15 현대자동차주식회사 임의 블록 분할을 이용하는 비디오 코딩방법 및 장치
WO2023191332A1 (ko) * 2022-03-28 2023-10-05 현대자동차주식회사 적응적 다중변환선택을 이용하는 비디오 코딩을 위한 방법 및 장치
CN121173957A (zh) * 2024-06-11 2025-12-19 浙江大华技术股份有限公司 视频解码方法、视频编码方法及相关装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130272381A1 (en) * 2012-04-16 2013-10-17 Qualcomm Incorporated Simplified non-square quadtree transforms for video coding
US20170208336A1 (en) * 2016-01-15 2017-07-20 Qualcomm Incorporated Multi-type-tree framework for video coding

Family Cites Families (181)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
BE1000643A5 (fr) 1987-06-05 1989-02-28 Belge Etat Procede de codage de signaux d'image.
JPH01155678A (ja) 1987-12-11 1989-06-19 Matsushita Electric Ind Co Ltd 半導体発光装置
JPH0270127A (ja) 1988-09-06 1990-03-09 Toshiba Corp 変換符号化方式
US5136371A (en) 1990-03-15 1992-08-04 Thomson Consumer Electronics, Inc. Digital image coding using random scanning
US5424778A (en) 1992-08-31 1995-06-13 Victor Company Of Japan, Ltd. Orthogonal transform coding apparatus and decoding apparatus
TW224553B (en) 1993-03-01 1994-06-01 Sony Co Ltd Method and apparatus for inverse discrete consine transform and coding/decoding of moving picture
TW297202B (zh) 1993-10-13 1997-02-01 Rca Thomson Licensing Corp
EP0729688A1 (en) 1993-11-15 1996-09-04 National Semiconductor Corporation Quadtree-structured walsh transform coding
KR0183688B1 (ko) 1994-01-12 1999-05-01 김광호 영상부호화방법 및 장치
JP3086396B2 (ja) 1995-03-10 2000-09-11 シャープ株式会社 画像符号化装置及び画像復号装置
KR0178198B1 (ko) 1995-03-28 1999-05-01 배순훈 영상 신호 부호화 장치
US5721822A (en) 1995-07-21 1998-02-24 Intel Corporation Run-length encoding/decoding video signals using scan patterns explicitly encoded into bitstreams
US5790706A (en) 1996-07-03 1998-08-04 Motorola, Inc. Method and apparatus for scanning of transform coefficients
KR100211050B1 (ko) 1996-11-05 1999-07-15 이계철 선택적 양자화 계수 전송 장치 및 방법
JP2002232887A (ja) 1996-11-07 2002-08-16 Matsushita Electric Ind Co Ltd 画像符号化方法および画像符号化装置並びに画像復号化方法および画像復号化装置
AU4884397A (en) 1996-11-07 1998-05-29 Matsushita Electric Industrial Co., Ltd. Image encoder and image decoder
US5974181A (en) 1997-03-20 1999-10-26 Motorola, Inc. Data compression system, method, and apparatus
JPH10271505A (ja) 1997-03-25 1998-10-09 Oki Electric Ind Co Ltd 信号処理装置、符号化回路および復号回路
US5995055A (en) 1997-06-30 1999-11-30 Raytheon Company Planar antenna radiating structure having quasi-scan, frequency-independent driving-point impedance
CN100459715C (zh) 1997-07-31 2009-02-04 日本胜利株式会社 数字视频信号块间预测编码/解码装置及编码/解码方法
CZ2001519A3 (cs) 1998-08-10 2001-08-15 Digital Accelerator Corporation Vlnky vloženého kvadrantového stromu při kompresi obrazů
EP0986026A1 (en) 1998-09-07 2000-03-15 STMicroelectronics S.r.l. Fractal coding of data in the DCT domain
JP4226172B2 (ja) 1998-11-24 2009-02-18 株式会社ハイニックスセミコンダクター 適応的変換方法を用いる映像圧縮符号化装置および復号化装置ならびにその方法
AU1115001A (en) 1999-10-22 2001-05-08 Activesky, Inc. An object oriented video system
US6476805B1 (en) 1999-12-23 2002-11-05 Microsoft Corporation Techniques for spatial displacement estimation and multi-resolution operations on light fields
US6654503B1 (en) 2000-04-28 2003-11-25 Sun Microsystems, Inc. Block-based, adaptive, lossless image coder
US6724818B1 (en) 2000-07-17 2004-04-20 Telefonaktiebolaget Lm Ericsson (Publ) Alternative block orders for better prediction
CN1142683C (zh) 2000-10-13 2004-03-17 清华大学 无转置行列分离二维离散余弦正反变换电路及其方法
JP2002135126A (ja) 2000-10-26 2002-05-10 Seiko Epson Corp 半導体装置及びこれを用いた電子機器
AU2002236659A1 (en) 2000-12-19 2002-07-01 Pulsent Corporation Adaptive transforms
US6856701B2 (en) 2001-09-14 2005-02-15 Nokia Corporation Method and system for context-based adaptive binary arithmetic coding
CN101448162B (zh) 2001-12-17 2013-01-02 微软公司 处理视频图像的方法
ES2664270T3 (es) 2001-12-17 2018-04-18 Microsoft Technology Licensing, Llc Codificación por omisión de macrobloques
KR100468844B1 (ko) 2002-01-07 2005-01-29 삼성전자주식회사 정지영상 및 동영상을 부호화/복호화하기 위한변환계수들의 최적주사방법
US7190840B2 (en) 2002-01-07 2007-03-13 Hewlett-Packard Development Company, L.P. Transform coefficient compression using multiple scans
JP4447197B2 (ja) 2002-01-07 2010-04-07 三菱電機株式会社 動画像符号化装置および動画像復号装置
BRPI0304545B1 (pt) 2002-01-14 2018-07-03 Nokia Technologies Oy Método de codificação das imagens em uma seqüência de vídeo digital para fornecer os dados de vídeo codificados, codificador de vídeo, método de decodificação dos dados indicativos de uma sequência de vídeo digital, decodificador de vídeo, e, sistema de codificação de vídeo
KR100953677B1 (ko) 2002-01-22 2010-04-20 노키아 코포레이션 이미지/비디오 부호기들 및/또는 복호기들에서 변환계수들의 부호화
US6757576B2 (en) 2002-02-05 2004-06-29 Gcc, Inc. System and method for drawing and manufacturing bent pipes
KR100508798B1 (ko) 2002-04-09 2005-08-19 엘지전자 주식회사 쌍방향 예측 블록 예측 방법
US20060218482A1 (en) 2002-04-19 2006-09-28 Droplet Technology, Inc. Mobile imaging application, device architecture, service platform architecture and services
US7170937B2 (en) 2002-05-01 2007-01-30 Texas Instruments Incorporated Complexity-scalable intra-frame prediction technique
ATE352826T1 (de) 2002-05-02 2007-02-15 Fraunhofer Ges Forschung Arithmetische codierung von transformationskoeffizienten
EP2290989B1 (en) 2002-05-28 2015-01-28 Sharp Kabushiki Kaisha Method and systems for image intra-prediction mode estimation, communication, and organization
US7145948B2 (en) 2002-05-29 2006-12-05 Koninklijke Philips Electronics N.V. Entropy constrained scalar quantizer for a Laplace-Markov source
US20030231795A1 (en) 2002-06-12 2003-12-18 Nokia Corporation Spatial prediction based intra-coding
RU2314656C2 (ru) 2002-06-11 2008-01-10 Нокиа Корпорейшн Внутреннее кодирование, основанное на пространственном прогнозировании
US7289674B2 (en) 2002-06-11 2007-10-30 Nokia Corporation Spatial prediction based intra coding
WO2004008775A1 (ja) 2002-07-15 2004-01-22 Hitachi, Ltd. 動画像符号化方法及び復号化方法
US6795584B2 (en) 2002-10-03 2004-09-21 Nokia Corporation Context-based adaptive variable length coding for adaptive block transforms
US7463782B2 (en) 2002-11-05 2008-12-09 Canon Kabushiki Kaisha Data encoding with an amplitude model and path between the data and corresponding decoding
US20040091047A1 (en) 2002-11-11 2004-05-13 Sony Corporation Method and apparatus for nonlinear multiple motion model and moving boundary extraction
FI116710B (fi) 2002-12-20 2006-01-31 Oplayo Oy Kuvien koodausmenetelmä ja -järjestely
CN1795680B (zh) 2003-03-03 2010-06-16 新加坡科技研究局 采用avc帧内预测以便对数字视频进行编码的方法和装置
KR100750110B1 (ko) 2003-04-22 2007-08-17 삼성전자주식회사 ４×４인트라 휘도 예측 모드 결정방법 및 장치
JP3756897B2 (ja) 2003-07-30 2006-03-15 株式会社東芝 動画像符号化装置及び動画像符号化方法
US7289562B2 (en) 2003-08-01 2007-10-30 Polycom, Inc. Adaptive filter to improve H-264 video quality
US20050036549A1 (en) 2003-08-12 2005-02-17 Yong He Method and apparatus for selection of scanning mode in dual pass encoding
US7688894B2 (en) 2003-09-07 2010-03-30 Microsoft Corporation Scan patterns for interlaced video content
US7782954B2 (en) 2003-09-07 2010-08-24 Microsoft Corporation Scan patterns for progressive video content
US7379608B2 (en) 2003-12-04 2008-05-27 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung, E.V. Arithmetic coding for transforming video and picture data units
JP4142563B2 (ja) 2003-12-12 2008-09-03 株式会社エヌ・ティ・ティ・ドコモ 動画像符号化装置、動画像符号化方法、及び動画像符号化プログラム
JP4127818B2 (ja) 2003-12-24 2008-07-30 株式会社東芝 動画像符号化方法及びその装置
US7142231B2 (en) 2003-12-29 2006-11-28 Nokia Corporation Method and apparatus for improved handset multi-tasking, including pattern recognition and augmentation of camera images
EP1558039A1 (en) 2004-01-21 2005-07-27 Deutsche Thomson-Brandt Gmbh Method and apparatus for generating/evaluating prediction information in picture signal encoding/decoding
CN100479527C (zh) 2004-02-26 2009-04-15 联合信源数字音视频技术（北京）有限公司 一种帧内预测模式选取方法
JP4542447B2 (ja) 2005-02-18 2010-09-15 株式会社日立製作所 画像の符号化／復号化装置、符号化／復号化プログラム及び符号化／復号化方法
JP5037938B2 (ja) 2004-04-28 2012-10-03 日立コンシューマエレクトロニクス株式会社 画像の符号化／復号化装置、符号化／復号化プログラム及び符号化／復号化方法
US8731054B2 (en) 2004-05-04 2014-05-20 Qualcomm Incorporated Method and apparatus for weighted prediction in predictive frames
US8369402B2 (en) 2004-06-17 2013-02-05 Canon Kabushiki Kaisha Apparatus and method for prediction modes selection based on image formation
US7664184B2 (en) 2004-07-21 2010-02-16 Amimon Ltd. Interpolation image compression
CN101053259B (zh) 2004-11-04 2015-03-04 汤姆森特许公司 一种用于编码可分成宏块的图像的视频数据的装置和方法
JP2006140758A (ja) 2004-11-12 2006-06-01 Toshiba Corp 動画像符号化方法、動画像符号化装置および動画像符号化プログラム
JP4763422B2 (ja) 2004-12-03 2011-08-31 パナソニック株式会社 イントラ予測装置
US8311119B2 (en) 2004-12-31 2012-11-13 Microsoft Corporation Adaptive coefficient scan order
US20060153295A1 (en) 2005-01-12 2006-07-13 Nokia Corporation Method and system for inter-layer prediction mode coding in scalable video coding
US7751478B2 (en) 2005-01-21 2010-07-06 Seiko Epson Corporation Prediction intra-mode selection in an encoder
US7706443B2 (en) 2005-03-11 2010-04-27 General Instrument Corporation Method, article of manufacture, and apparatus for high quality, fast intra coding usable for creating digital video content
JP2006295408A (ja) 2005-04-07 2006-10-26 Matsushita Electric Ind Co Ltd 画像符号化装置及び画像符号化プログラム
EP1711018A1 (en) 2005-04-08 2006-10-11 Thomson Licensing Method and apparatus for encoding video pictures, and method and apparatus for decoding video pictures
KR20080006607A (ko) 2005-04-12 2008-01-16 노키아 코포레이션 편차 제어를 통한 움직임 보상된 미세 입도 규모 가변성비디오 부호화를 위한 방법 및 시스템
EP1768415A1 (en) 2005-09-27 2007-03-28 Matsushita Electric Industrial Co., Ltd. Adaptive scan order of DCT coefficients and its signaling
KR100703200B1 (ko) 2005-06-29 2007-04-06 한국산업기술대학교산학협력단 인트라 부호화 장치 및 방법
KR101088375B1 (ko) 2005-07-21 2011-12-01 삼성전자주식회사 가변 블록 변환 장치 및 방법 및 이를 이용한 영상부호화/복호화 장치 및 방법
US20090123066A1 (en) 2005-07-22 2009-05-14 Mitsubishi Electric Corporation Image encoding device, image decoding device, image encoding method, image decoding method, image encoding program, image decoding program, computer readable recording medium having image encoding program recorded therein,
BRPI0611672A2 (pt) 2005-07-22 2009-01-13 Mitsubishi Electric Corp codificador e decodificador de imagem, mÉtodo de codificaÇço de imagem, programa de codificaÇço de imagem, meio de gravaÇço legÍvel por computador, mÉtodo de decodificaÇço de imagem, programa de decodificaÇço de imagem, e, corrente de bits codificada por imagem
US7933337B2 (en) 2005-08-12 2011-04-26 Microsoft Corporation Prediction of transform coefficients for image compression
JP2007053561A (ja) 2005-08-17 2007-03-01 Matsushita Electric Ind Co Ltd 画像符号化装置および画像符号化方法
JP4650173B2 (ja) 2005-09-05 2011-03-16 ソニー株式会社 符号化装置、符号化方法、符号化方法のプログラム及び符号化方法のプログラムを記録した記録媒体
US20070070082A1 (en) 2005-09-27 2007-03-29 Ati Technologies, Inc. Sample-level screen-door transparency using programmable transparency sample masks
WO2007046644A1 (en) 2005-10-21 2007-04-26 Electronics And Telecommunications Research Institute Apparatus and method for encoding and decoding moving picture using adaptive scanning
WO2007063472A2 (en) 2005-11-30 2007-06-07 Koninklijke Philips Electronics N.V. Encoding method and apparatus applying coefficient reordering
US7529484B2 (en) 2005-12-14 2009-05-05 Nec Laboratories America, Inc. Triplexer transceiver using parallel signal detection
CN1801940A (zh) 2005-12-15 2006-07-12 清华大学 整型变换电路和整型变换方法
US7944965B2 (en) 2005-12-19 2011-05-17 Seiko Epson Corporation Transform domain based distortion cost estimation
US8000539B2 (en) 2005-12-21 2011-08-16 Ntt Docomo, Inc. Geometrical image representation and compression
JP2007189276A (ja) 2006-01-11 2007-07-26 Victor Co Of Japan Ltd 画像圧縮装置及び画像圧縮プログラム
KR101246294B1 (ko) 2006-03-03 2013-03-21 삼성전자주식회사 영상의 인트라 예측 부호화, 복호화 방법 및 장치
JP2007267123A (ja) 2006-03-29 2007-10-11 Victor Co Of Japan Ltd 動画像符号化装置
US8036264B2 (en) 2006-05-23 2011-10-11 Lsi Corporation Memory management in video decoding systems
US20080008246A1 (en) 2006-07-05 2008-01-10 Debargha Mukherjee Optimizing video coding
JP2008022405A (ja) 2006-07-14 2008-01-31 Sony Corp 画像処理装置および方法、並びに、プログラム
KR100882949B1 (ko) 2006-08-17 2009-02-10 한국전자통신연구원 화소 유사성에 따라 적응적인 이산 코사인 변환 계수스캐닝을 이용한 부호화/복호화 장치 및 그 방법
RU2407221C1 (ru) 2006-10-10 2010-12-20 Ниппон Телеграф Энд Телефон Корпорейшн Способ и устройство управления кодированием с внутренним предсказанием, программа для них и запоминающий носитель, который хранит программу
JP4908180B2 (ja) 2006-12-20 2012-04-04 株式会社東芝 動画像符号化装置
KR101366086B1 (ko) 2007-01-03 2014-02-21 삼성전자주식회사 잔차 블록의 계수들에 대한 부호화 결정 방법, 장치,인코더 및 디코더
WO2008084817A1 (ja) 2007-01-09 2008-07-17 Kabushiki Kaisha Toshiba 画像符号化と復号化の方法及び装置
JP2008193627A (ja) 2007-01-12 2008-08-21 Mitsubishi Electric Corp 画像符号化装置、画像復号装置、および画像符号化方法、画像復号方法
KR101365570B1 (ko) 2007-01-18 2014-02-21 삼성전자주식회사 인트라 예측 부호화, 복호화 방법 및 장치
KR101175593B1 (ko) 2007-01-18 2012-08-22 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 화질 스케일러블 비디오 데이터 스트림
US8488672B2 (en) 2007-04-17 2013-07-16 Qualcomm Incorporated Mode uniformity signaling for intra-coding
US8571104B2 (en) 2007-06-15 2013-10-29 Qualcomm, Incorporated Adaptive coefficient scanning in video coding
US8428133B2 (en) 2007-06-15 2013-04-23 Qualcomm Incorporated Adaptive coding of video block prediction mode
CN103338364B (zh) 2007-06-29 2016-07-06 夏普株式会社 图像编码装置、图像编码方法、图像译码装置、图像译码方法
US8437564B2 (en) 2007-08-07 2013-05-07 Ntt Docomo, Inc. Image and video compression using sparse orthonormal transforms
TW200910971A (en) 2007-08-22 2009-03-01 Univ Nat Cheng Kung Direction detection algorithms for H.264 intra prediction
JP5004180B2 (ja) 2007-11-07 2012-08-22 Ｋｄｄｉ株式会社 動画像符号化装置および復号装置
WO2009080133A1 (en) 2007-12-21 2009-07-02 Telefonaktiebolaget Lm Ericsson (Publ) Adaptive intra mode selection
EP2081386A1 (en) 2008-01-18 2009-07-22 Panasonic Corporation High precision edge prediction for intracoding
US8024121B2 (en) 2008-01-25 2011-09-20 Smith International, Inc. Data compression method for use in downhole applications
CN101577605B (zh) 2008-05-08 2014-06-18 吴志军 基于滤波器相似度的语音lpc隐藏和提取算法
KR101549823B1 (ko) 2008-09-02 2015-09-04 삼성전자주식회사 적응적 이진화를 이용한 영상 부호화, 복호화 방법 및 장치
KR20100027384A (ko) 2008-09-02 2010-03-11 삼성전자주식회사 예측 모드 결정 방법 및 장치
US20100172409A1 (en) 2009-01-06 2010-07-08 Qualcom Incorporated Low-complexity transforms for data compression and decompression
JP5416271B2 (ja) 2009-04-20 2014-02-12 ドルビー ラボラトリーズ ライセンシング コーポレイション 多層映像配信のための適応補間フィルタ
CN102598667B (zh) 2009-09-14 2015-03-18 汤姆森特许公司 帧内预测模式的高效视频编码和解码的方法和装置
US20110116539A1 (en) 2009-11-13 2011-05-19 Freescale Semiconductor, Inc. Method and apparatus for video decoding with reduced complexity inverse transform
US20110317757A1 (en) 2010-06-25 2011-12-29 Qualcomm Incorporated Intra prediction mode signaling for finer spatial prediction directions
US9661338B2 (en) 2010-07-09 2017-05-23 Qualcomm Incorporated Coding syntax elements for adaptive scans of transform coefficients for video coding
US8885701B2 (en) 2010-09-08 2014-11-11 Samsung Electronics Co., Ltd. Low complexity transform coding using adaptive DCT/DST for intra-prediction
US9641846B2 (en) 2010-10-22 2017-05-02 Qualcomm Incorporated Adaptive scanning of transform coefficients for video coding
US10992958B2 (en) 2010-12-29 2021-04-27 Qualcomm Incorporated Video coding using mapped transforms and scanning modes
US9071851B2 (en) 2011-01-10 2015-06-30 Qualcomm Incorporated Adaptively performing smoothing operations
IL299953B2 (en) 2011-06-16 2024-01-01 Ge Video Compression Llc Context initialization in entropy coding
US9516316B2 (en) 2011-06-29 2016-12-06 Qualcomm Incorporated VLC coefficient coding for large chroma block
KR101606131B1 (ko) * 2011-08-08 2016-03-25 구글 테크놀로지 홀딩스 엘엘씨 변환 유닛 분할의 잔여 트리 구조
KR101549914B1 (ko) 2011-10-17 2015-09-03 주식회사 케이티 화면 내 예측 모드에 기초한 적응적인 변환 방법 및 이러한 방법을 사용하는 장치
CN107820080B (zh) * 2011-10-18 2021-05-14 株式会社Kt 视频信号解码方法
KR20130049526A (ko) 2011-11-04 2013-05-14 오수미 복원 블록 생성 방법
US9883203B2 (en) 2011-11-18 2018-01-30 Qualcomm Incorporated Adaptive overlapped block motion compensation
US9621894B2 (en) 2012-01-13 2017-04-11 Qualcomm Incorporated Determining contexts for coding transform coefficient data in video coding
US9131210B2 (en) * 2012-03-16 2015-09-08 Texas Instruments Incorporated Low-complexity two-dimensional (2D) separable transform design with transpose buffer management
EP2866443A4 (en) 2012-06-22 2016-06-15 Sharp Kk ARITHMETIC DECODING DEVICE, ARITHMETIC CODING DEVICE, IMAGE DECODING DEVICE AND IMAGE DEVICES
US20140044162A1 (en) * 2012-08-08 2014-02-13 Qualcomm Incorporated Adaptive inference mode information derivation in scalable video coding
US9319684B2 (en) 2012-08-21 2016-04-19 Qualcomm Incorporated Alternative transform in scalable video coding
US20140307780A1 (en) 2013-04-11 2014-10-16 Mitsubishi Electric Research Laboratories, Inc. Method for Video Coding Using Blocks Partitioned According to Edge Orientations
CN103402097B (zh) 2013-08-15 2016-08-10 清华大学深圳研究生院 一种自由视点视频深度图编码方法及其失真预测方法
US9445132B2 (en) 2013-09-09 2016-09-13 Qualcomm Incorporated Two level last significant coefficient (LSC) position coding
US10278767B2 (en) 2014-03-27 2019-05-07 Endomedical Concepts, Inc. Vaporization electrodes and electrosurgical devices equipped therewith
US10306229B2 (en) 2015-01-26 2019-05-28 Qualcomm Incorporated Enhanced multiple transforms for prediction residual
US10230980B2 (en) 2015-01-26 2019-03-12 Qualcomm Incorporated Overlapped motion compensation for video coding
WO2016195455A1 (ko) * 2015-06-04 2016-12-08 엘지전자(주) 그래프 기반 변환을 이용하여 비디오 신호를 처리하는 방법 및 장치
CN107925759B (zh) * 2015-06-05 2022-06-03 杜比实验室特许公司 用于编码和解码帧内预测的方法和设备
US20180192076A1 (en) * 2015-06-16 2018-07-05 Sharp Kabushiki Kaisha Image decoding device image coding device
US10123044B2 (en) * 2015-07-16 2018-11-06 Mediatek Inc. Partial decoding circuit of video encoder/decoder for dealing with inverse second transform and partial encoding circuit of video encoder for dealing with second transform
CN106658019B (zh) * 2015-10-31 2019-11-12 华为技术有限公司 参考帧编解码的方法与装置
US20170155905A1 (en) * 2015-11-30 2017-06-01 Intel Corporation Efficient intra video/image coding using wavelets and variable size transform coding
KR102143908B1 (ko) 2015-12-23 2020-08-28 후아웨이 테크놀러지 컴퍼니 리미티드 계층적 분할 내에서 블록 레벨 변환 선택 및 암시적 시그널링을 이용한 변환 코딩을 위한 방법 및 장치
CN107566848B (zh) * 2016-06-30 2020-04-14 华为技术有限公司 编解码的方法及装置
KR20180007680A (ko) * 2016-07-13 2018-01-23 한국전자통신연구원 영상 부호화/복호화 방법 및 장치
US10972733B2 (en) 2016-07-15 2021-04-06 Qualcomm Incorporated Look-up table for enhanced multiple transform
US10368107B2 (en) 2016-08-15 2019-07-30 Qualcomm Incorporated Intra video coding using a decoupled tree structure
WO2018045332A1 (en) * 2016-09-02 2018-03-08 Vid Scale, Inc. Methods and apparatus for coded block flag coding in quad-tree plus binary-tree block partitioning
WO2018054506A1 (en) 2016-09-23 2018-03-29 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Transform block coding
CN107888928B (zh) * 2016-09-30 2020-02-14 华为技术有限公司 运动补偿预测方法和设备
US10880564B2 (en) 2016-10-01 2020-12-29 Qualcomm Incorporated Transform selection for video coding
US11095893B2 (en) 2016-10-12 2021-08-17 Qualcomm Incorporated Primary transform and secondary transform in video coding
CN107959855B (zh) * 2016-10-16 2020-02-14 华为技术有限公司 运动补偿预测方法和设备
FR3058019A1 (fr) * 2016-10-21 2018-04-27 Orange Procede de codage et de decodage de parametres d'image, dispositif de codage et de decodage de parametres d'image et programmes d'ordinateur correspondants
CN108271023B (zh) * 2017-01-04 2021-11-19 华为技术有限公司 图像预测方法和相关设备
KR102559063B1 (ko) * 2017-02-24 2023-07-24 주식회사 케이티 비디오 신호 처리 방법 및 장치
WO2018164504A1 (ko) * 2017-03-09 2018-09-13 주식회사 케이티 비디오 신호 처리 방법 및 장치
US10523966B2 (en) 2017-03-31 2019-12-31 Mediatek Inc. Coding transform blocks
US20180288439A1 (en) 2017-03-31 2018-10-04 Mediatek Inc. Multiple Transform Prediction
WO2018212577A1 (ko) * 2017-05-17 2018-11-22 주식회사 케이티 비디오 신호 처리 방법 및 장치
WO2019076138A1 (en) 2017-10-16 2019-04-25 Huawei Technologies Co., Ltd. Encoding method and apparatus
US11297348B2 (en) * 2018-04-13 2022-04-05 Mediatek Inc. Implicit transform settings for coding a block of pixels
US10986340B2 (en) 2018-06-01 2021-04-20 Qualcomm Incorporated Coding adaptive multiple transform information for video coding
US11259052B2 (en) 2018-07-16 2022-02-22 Qualcomm Incorporated Transform variations of multiple separable transform selection
US10893286B2 (en) * 2018-10-09 2021-01-12 Tencent America LLC Methods and apparatus for low-complexity MTS
EP3918784A4 (en) * 2019-01-28 2022-04-13 OP Solutions, LLC FORMADAPTIVE DISCRETE COSINE TRANSFORMATION TO GEOMETRIC DIVISION WITH AN ADAPTIVE NUMBER OF REGIONS

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130272381A1 (en) * 2012-04-16 2013-10-17 Qualcomm Incorporated Simplified non-square quadtree transforms for video coding
US20170208336A1 (en) * 2016-01-15 2017-07-20 Qualcomm Incorporated Multi-type-tree framework for video coding

Also Published As

Publication number Publication date
TW202038617A (zh) 2020-10-16
CN113170129B (zh) 2024-12-10
CO2021007864A2 (es) 2021-06-21
SA521422205B1 (ar) 2024-05-14
US20200204833A1 (en) 2020-06-25
CN113170129A (zh) 2021-07-23
WO2020131949A1 (en) 2020-06-25
PH12021551118A1 (en) 2021-12-13
KR20210103481A (ko) 2021-08-23
AU2019402886B2 (en) 2024-08-15
MX2021007190A (es) 2021-07-21
AR117456A1 (es) 2021-08-04
CA3120045A1 (en) 2020-06-25
IL283175B1 (en) 2024-11-01
ZA202105022B (en) 2025-04-30
CN119544983A (zh) 2025-02-28
AU2019402886A1 (en) 2021-06-10
US11323748B2 (en) 2022-05-03
IL283175B2 (en) 2025-03-01
JP7455840B2 (ja) 2024-03-26
JP2022517908A (ja) 2022-03-11
SG11202105070SA (en) 2021-07-29
IL283175A (en) 2021-06-30
MY207048A (en) 2025-01-27
EP3900337A1 (en) 2021-10-27
CL2021001576A1 (es) 2022-01-07
BR112021010946A2 (pt) 2021-08-24

Similar Documents

Publication Publication Date Title
TWI815896B (zh) 寫碼用於視訊寫碼之自適應多重轉換資訊
TWI874342B (zh) 用於視訊寫碼之以樹為基礎之轉換單元(tu)分區
TWI857025B (zh) 視訊寫碼中之隱式變換選擇
JP2022526375A (ja) ビデオコーディングのための拡張されたマルチプル変換選択
US20230179776A1 (en) Secondary transform designs for partitioned transform units in video coding
TWI840427B (zh) 用於置零轉換之掃描及最後係數位置寫碼
CN112425164A (zh) 多个可分离变换选择的变换变体
RU2809181C2 (ru) Сегментация единиц преобразования (tu) на основе дерева для кодирования видео
HK40118858A (zh) 解码视频数据的方法和设备及编码视频数据的方法和设备
HK40051989B (zh) 用於视频编解码的基於树的变换单元(tu)分割
HK40051989A (zh) 用於视频编解码的基於树的变换单元(tu)分割
HK40119295A (zh) 用於视频译码的扩展的多变换选择
HK40058354A (zh) 视频译码中的隐式变换选择