[go: up one dir, main page]

TWI744618B - 圖像之精細化以區塊為基礎之預測式編碼及解碼技術 - Google Patents

圖像之精細化以區塊為基礎之預測式編碼及解碼技術 Download PDF

Info

Publication number
TWI744618B
TWI744618B TW108111032A TW108111032A TWI744618B TW I744618 B TWI744618 B TW I744618B TW 108111032 A TW108111032 A TW 108111032A TW 108111032 A TW108111032 A TW 108111032A TW I744618 B TWI744618 B TW I744618B
Authority
TW
Taiwan
Prior art keywords
block
signal
coefficients
prediction
version
Prior art date
Application number
TW108111032A
Other languages
English (en)
Other versions
TW201943273A (zh
Inventor
法恩 H T 尼古彥
葛哈德 泰克
強納森 帕雅夫
麥可 夏佛
珍妮佛 瑞奇
托比亞斯 辛茲
希克 史瓦茲
迪特利夫 馬皮
湯瑪士 威剛德
Original Assignee
弗勞恩霍夫爾協會
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 弗勞恩霍夫爾協會 filed Critical 弗勞恩霍夫爾協會
Publication of TW201943273A publication Critical patent/TW201943273A/zh
Application granted granted Critical
Publication of TWI744618B publication Critical patent/TWI744618B/zh

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/10Image enhancement or restoration using non-spatial domain filtering
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20052Discrete cosine transform [DCT]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20056Discrete and fast Fourier transform, [DFT, FFT]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

描述了使用額外經重構樣本或殘差的圖像之以區塊為基礎之預測式寫碼及解碼的精細化,其可應用於例如混合視訊編解碼器中。描述了一種用於一圖像的以區塊為基礎之預測式解碼的設備。該設備包括:一合併器,其經組配以合併該圖像之一預定區塊之一殘差信號與該預定區塊之一參考信號以便獲得一第一頻譜,該殘差信號校正該圖像之該預定區塊之一預測的一預測誤差;一消減器,其經組配以對該第一頻譜執行定限以獲得一第二頻譜,使得低於一臨限值之係數被設定成一預界定值;一提取器,其經組配以自該第二頻譜獲得該殘差信號之一經修改版本;以及一重構器區塊,其經組配以基於該殘差信號之該經修改版本而自資料流解碼該圖像之該預定區塊。亦描述了實施該精細化之不同態樣的其他設備。

Description

圖像之精細化以區塊為基礎之預測式編碼及解碼技術
發明領域 本發明係關於編碼/解碼圖像、影像或視訊之領域。本發明方法之實施例涉及諸如可應用於混合視訊編解碼器中的圖像之以區塊為基礎之預測式寫碼及解碼的精細化。本發明方法之更特定實施例係關於使用額外經重構樣本或殘差之精細化的各種態樣。
發明背景 現如今,許多視訊編解碼器及靜態圖像編解碼器使用以區塊為基礎之預測式寫碼將用以表示圖像內容之資料壓縮。預測愈好,寫碼預測殘差所需的資料愈少。使用預測之總體收益取決於保持預測在編碼器與解碼器之間同步所需的資料量,亦即,預測參數化所需的資料。諸如可應用於混合視訊編解碼器中的圖像之以區塊為基礎之預測式寫碼及解碼的實例描述於2017年12月20日申請之國際專利申請案PCT/EP2017/083789,「圖像之以區塊為基礎之預測式寫碼及解碼(Block-Based Predictive Coding and Decoding of a Picture)」中,該專利申請案特此以引用之方式併入。
發明概要 本發明之目標為提供圖像之以區塊為基礎之預測式寫碼及解碼的進一步精細化。
此目標係藉由如獨立申請專利範圍中所界定之主題來達成,且有利的進一步發展界定於在申請中之申請專利範圍中。
現在參考附圖更詳細地描述本發明之實施例,在隨附圖式中,相同或相似元件具有經指派之相同參考符號。
圖1展示用於對圖像12進行以區塊為基礎之預測式編碼以編碼至資料流14中的設備100,如描述於例如PCT/EP2017/083789中。圖1之設備包含預測提供器16、頻譜分解器18、雜訊消減器20、頻譜組合器22以及編碼級24。頻譜分解器18、雜訊消減器20及頻譜組合器22亦可為被稱作編碼器之精細化區塊84。以在下文更詳細地概述之方式,此等組件16至24按其被提及之次序串聯連接至編碼器100之預測迴路中。出於說明目的,圖1指示:在內部,編碼級24可包含加法器26、變換器28以及量化級或量化器30,該等組件按其被提及之次序串聯連接至前述預測迴路。詳言之,加法器26之反相輸入直接地或間接地經由如下文進一步概述之選擇器連接至頻譜組合器22之輸出,而加法器26之非反相輸入接收待編碼之信號,亦即,圖像12。如圖1中進一步指示,編碼級24可進一步包含連接於量化器30的輸出與設備100的輸出之間的熵編碼器32,表示圖像12之經寫碼資料流14係在設備100之輸出處輸出。如圖1中進一步說明,設備100可包含沿著前述預測迴路連接於編碼級24與預測提供器16之間的重構級34,該重構級將先前經編碼部分提供至預測提供器16,該等先前經編碼部分亦即先前已由編碼器100編碼的圖像12之部分或圖像12所屬之視訊,且詳言之,此等部分的一版本可在解碼器側重構,即使考慮到由量化級30內之量化引入的寫碼損耗亦如此。如圖1中所說明,重構級34可包含反量化器36、反變換器38以及加法器40,該等組件按其被提及之次序串聯連接至前述預測迴路中,其中反量化器之輸入連接至量化器之輸出。詳言之,當前除如下文更詳細地概述的連接至預測提供器16之輸出的頻譜分解器18之輸入以外,加法器40之輸出亦連接至預測提供器16之輸入且另外連接至頻譜分解器18之另一輸入。當加法器40之第一輸入連接至反變換器38之輸出時,加法器40之另一輸入直接地或任選地間接地經由頻譜組合器22之輸出接收最終預測信號。如圖1中所描繪,任擇地,編碼器100包含選擇器42,該選擇器經組配以在將由頻譜組合器22輸出之預測信號施加至加法器40之各別輸入或施加至預測提供器16之輸出之間做出選擇。
在已解釋了編碼器100之內部結構之後,應注意,編碼器100之實施以及解碼器結構及另外編碼器結構之實施可在軟體、韌體或硬體或其任何組合中進行。因此,圖1中所展示之任何區塊或模組及以下圖式可對應於運行於電腦上之電腦程式之某一部分、諸如場可規劃陣列之韌體的某一部分或諸如特殊應用IC之電子電路的某一部分。
圖1之設備100經組配以使用以區塊為基礎之預測將圖像12編碼至資料流14中。相應地,預測提供器16及後續模組18、20及22在此區塊基礎上進行操作。圖2中之區塊46為此預測區塊。然而,設備100亦可關於其他任務在區塊基礎上進行操作。舉例而言,由編碼級24執行之殘差編碼亦可在區塊基礎上進行執行。然而,由預測提供器16操作之預測區塊可不同於作為編碼級24之操作單位的殘差區塊。亦即,圖像12可再分成預測區塊,其方式不同於其再分成殘差區塊的方式。舉例而言,但非排他地,再分成殘差區塊可表示再分成預測區塊之擴展,使得各殘差區塊為對應預測區塊之部分,或與某一預測區塊一致,但不與相鄰預測區塊疊對。此外,預測提供器16可使用不同的寫碼模式以便執行其預測,且在此等模式之間切換可在可被稱作寫碼區塊之區塊中發生,該等寫碼區塊亦可不同於預測區塊及/或殘差區塊。舉例而言,將圖像12再分成寫碼區塊可使得各預測區塊僅與一個對應寫碼區塊疊對,但可小於此對應寫碼區塊。剛才所提及之寫碼模式可包括空間預測模式及時間預測模式。
為了進一步解釋設備100之功能性或操作模式,參考圖2,其說明圖像12可為屬於視訊之圖像,亦即,可為圖像44之時間序列中之一個圖像,但應注意,此僅為說明,且設備100亦可適用於靜態圖像12。圖2特定地指示圖像12內之一個預測區塊46。此預測區塊應為預測提供器16當前執行預測之區塊。為了預測區塊46,預測提供器16使用圖像12及/或視訊44之先前經編碼部分,或替代地,使用當嘗試對區塊46執行相同預測時解碼器可自資料流14重構之部分。為此目的,預測提供器16使用可重構版本,亦即,亦可在解碼器側重構之版本。不同寫碼模式可供使用。舉例而言,預測提供器16可藉助於時間預測來預測區塊46,諸如基於參考圖像48之運動補償預測。替代地,預測提供器16可使用空間預測來預測區塊46。舉例而言,預測提供器16可沿著某一外插方向將區塊46之先前經編碼鄰域外插至區塊46內。在運動補償預測之情況下,運動向量可針對區塊46在資料流14內傳信至解碼器以作為預測參數。同樣,在空間預測之情況下,外插方向可針對區塊46在資料流14內傳信至解碼器以作為預測參數。
亦即,預測提供器16輸出預定區塊46之預測填充。預測填充在圖1中用48說明。其實際上為此預測填充之第一版本48,此係因為該預測填充將藉由組件18、20以及22之後續序列「改良」,如下文將進一步解釋。亦即,預測提供器16預測區塊46內之各樣本50的預測樣本值,此預測填充表示第一版本48。
如圖1中所描繪,區塊46可為矩形或甚至正方形。然而,此僅為實例且不應被視為限制性的。
頻譜分解器經組配以在頻譜上分解由區塊46之預測填充的第一版本48及其擴展(即,區塊46之鄰域54之先前經編碼版本)構成的區52。亦即,幾何學上,頻譜分解器20對區52執行頻譜分解,除區塊46以外,該區亦包含區塊46之鄰域54,其中區52的對應於區塊46之部分係用區塊46之預測填充的第一版本48填充,且鄰域54係用在解碼側可自資料流14重構之樣本值填充。頻譜分解器18自預測提供器16接收預測填充48且自重構級34之鄰域54接收經重構樣本值。
舉例而言,圖2說明圖像12係根據某一寫碼/解碼次序58藉由設備100寫碼至資料流14中。舉例而言,此寫碼次序可自左上角至右下角遍歷圖像12。該遍歷可如圖2中所說明地逐列執行,但可替代地逐行或按對角線執行。然而,所有此等實例僅為說明性的且不應被視為限制性的。由於自圖像12之左上方至右下方的寫碼/解碼次序之此一般傳播,對於大部分預測區塊46,在區塊46之頂側461 頂部或鄰近於該頂側且在該區塊之左側464 左邊或鄰近於該左側的區塊46之鄰域已被編碼至資料流14中,且在執行區塊46之編碼/重構時已在解碼側自資料流14重構。因此,在圖2之實例中,鄰域54表示超出區塊46之側461 及464 的區塊46之空間擴展,由此描述L形區域,其與區塊46一起產生矩形區52,該矩形區之下側及右側與區塊46之左側462 及底側463 一致或共線。
亦即,頻譜分解器18對與區52對應之樣本陣列執行頻譜分解,其中對應於鄰域54之樣本係可使用由編碼級24寫碼至資料流14中的其預測殘差自資料流14重構的樣本值,而區塊46內之區52的樣本係預測提供器16之預測填充48的樣本值。頻譜分解器18對此區52執行之頻譜分解(亦即,其變換類型)可為DCT、DST或小波變換。任選地,但非排他地,頻譜分解器18所使用之變換T2 的類型可與變換器28用於將由減法器28輸出之預測殘差變換至譜域中的變換T1 相同。若該等變換類型相同,則頻譜分解器18及變換器28可共用負責或經設計用於執行彼類型之變換的某一電路系統及/或電腦程式碼。然而,替代地,由頻譜分解器18及變換器28執行之變換可不同。
因此,頻譜分解器18之輸出為第一頻譜60,亦被稱作係數集合60。頻譜60或係數集合可為頻譜係數之陣列。舉例而言,頻譜係數之數目可等於區52內之樣本的數目。頻譜分量所屬之空間頻率可逐行地增加,對於沿著水平軸x之空間頻率而言自左至右且對於沿著y軸的區52內之空間頻率而言自上至下。然而,應注意,T2 可替代地對於以上實例為「過完備」的,使得由T2 產生之變換係數的數目可甚至大於區52內之樣本的數目。
雜訊消減器20接著對頻譜60執行雜訊消減以獲得第二或雜訊消減之頻譜62或係數集合。將在下文中提供關於雜訊消減器20可如何執行雜訊消減的實例。詳言之,雜訊消減20可涉及頻譜係數之定限。小於某一臨限值之頻譜係數可設定成零,或可朝向零移位等於該臨限值之量。然而,所有此等實例僅為說明性的,且存在關於對頻譜60執行雜訊消減以得到頻譜62的許多替代例。
頻譜組合器22接著執行由頻譜分解器18執行之頻譜分解的反轉。亦即,與頻譜分解器18相比,頻譜組合器22使用反變換。作為可替代地被稱作合成之頻譜組合的結果,頻譜組合器22輸出區塊46之預測填充的第二版本,其在圖1中由64處之陰影線指示。應理解,組合器22之頻譜組合產生整個區52之經修改版本。然而,如所指示,一方面藉由區塊46之不同陰影線且另一方面藉由鄰域54,僅對應於區塊46之部分係感興趣的且形成區塊46之預測填充的第二版本。該部分在圖1中由網狀線指示。鄰域54內的區52之頻譜組合在圖1中使用簡單陰影線來說明且甚至可不藉由頻譜組合器22計算。此處簡要指出,當由頻譜組合器22執行之頻譜分解T2 -1 保持為T2 之反轉(亦即,T2 -1 ∙ T2 = 1)時,可能已經滿足「反相性(inversity)」。亦即,雙側反相性並非必需的。舉例而言,除以上變換實例以外,T2 亦可為剪切波(shearlet)或輪廓波(contourlet)變換。無論用於T2 之變換類型如何,T2 的所有基底函數擴展遍佈整個區52或所有基底函數涵蓋區52之至少一大部分係有利的。
值得注意地,由於頻譜62已藉由對亦涵蓋已經編碼且對於解碼側而言可重構之版本的區52進行變換、雜訊消減以及再變換而獲得的事實,預測填充之第二版本64有可能產生較低預測誤差,且因此可表示用於最後藉由編碼級24將區塊46寫碼至資料流14中,亦即用於執行殘差寫碼的經改良預測子。
如上文已經提及,選擇器42可任選地存在於編碼器100中。若選擇器不存在,則區塊46之預測填充的第二版本64必然表示進入加法器/減法器26之反相輸入的區塊46之最終預測子,該加法器/減法器因此藉由自區塊46內之圖像12的實際內容減去最終預測子來計算預測殘差或預測誤差。編碼級24接著將此預測殘差變換至譜域中,量化器30在譜域中對表示此預測殘差之各別頻譜係數執行量化。熵編碼器32特別地將此等經量化係數等級熵編碼至資料流14中。如上文已經提及,由於寫碼/解碼次序58,與鄰域54內之預測殘差有關的頻譜係數在對區塊46進行預測之前已存在於資料流14內。量化器36及反變換器28以亦可在解碼側重構的版本恢復區塊46之預測殘差,且加法器40將此預測殘差加至最終預測子,由此顯露已經編碼部分之重構版本,如上文已經說明,該重構版本亦包括鄰域54,亦即包含鄰域54之重構版本56,區域52之部分係使用該重構版本填充,該部分接著經受由頻譜分解器18進行之頻譜分解。
然而,若任選選擇器42存在,則選擇器42可執行在區塊46之預測填充的第一版本48與第二版本64之間的選擇,且使用此等二個版本中之任一者作為分別輸入加法器/減法器26之反相輸入及加法器40之各別輸入的最終預測子。
藉由區塊18至22及任選選擇42導出區塊46之預測填充的第二或經改良版本64所用的方式可針對編碼器100參數化。亦即,編碼器100可關於以下選項中之一或多者將此方式參數化,其中參數化係藉助於各別信號化而傳信至解碼器。舉例而言,編碼器100可決定選擇版本48或64,且藉助於信號化70在資料流中傳信選擇之結果。此外,執行選擇70所用之粒度可為子圖像粒度,且可例如在圖像12再分形成之區域或區塊中實現。詳言之,編碼器100可個別地對諸如區塊46之各預測區塊執行選擇,且針對各此預測區塊藉助於信號化70在資料流14中傳信該選擇。可針對各區塊,諸如資料流14中之區塊46,傳信簡單旗標。可使用空間預測,以便將信號化70寫碼在資料流14中。舉例而言,可針對相鄰區塊46中之相鄰區塊基於資料流14中所含之信號化70在空間上預測旗標。另外或替代地,可使用上下文自適應熵寫碼以便將信號化70寫碼至資料流中。用以將某一區塊46之信號化70熵寫碼至資料流14中的上下文可根據針對相鄰區塊46的資料流14中所含之屬性,諸如在此等相鄰區塊之資料流14中傳信的信號化70來判定。
另外或替代地,編碼器100之另一參數化選項可為區52之大小,或替代地鄰域54之大小。舉例而言,編碼器100可設定區52之角位置,該角與同區塊46之對應角共置的區塊46之角74相對。藉助於分別至可用角位置或大小之清單中的索引,信號化72可分別指示此角76之位置或區52之大小。角位置可相對於區塊46之左上角來指示,亦即作為關於與在區52與區塊46間共用的角相對的區塊46之角的向量。區52之大小之設定可由設備100亦以諸如圖像12再分成之區域或區塊的子圖像粒度進行,其中此等區域或區塊可與預測區塊一致,亦即,編碼器100可個別地針對各區塊46執行區52之大小之設定。類似於信號化70,信號化72可使用如關於信號化70所解釋的預測式寫碼及/或使用利用空間上下文之上下文自適應熵寫碼而寫碼至資料流14中。
替代或除信號化70及72之外,設備100亦可經組配以判定由雜訊消減器20執行的雜訊消減之強度。舉例而言,藉助於信號化78 (圖3),設備100可傳信經判定或所選取之強度。舉例而言,信號化78可指示一臨限值κ,該臨限值在以下在本文中所描述的更多地以數學方式呈現的植入實例中亦被提及。圖3說明雜訊消減器20可使用此臨限值κ以將頻譜60之所有頻譜分量或係數或接續κ之係數的集合設定成零以得到頻譜62,或將頻譜60限幅(clip)為低於臨限值κ且摺疊,或將頻譜60之超出臨限值κ的部分移位為零以便自零開始,如圖3中所說明。上文關於信號化70及72所指示之情況對信號化78亦成立。亦即,設備100可按圖像全局或子圖像粒狀方式進行雜訊消減強度或臨限值κ之設定。在後一情況下,編碼器100可任選地個別地執行各區塊46之設定。根據關於圖4所說明之特定實例,編碼器100可自κ的可能值之集合中選擇雜訊消減強度或臨限值κ,該集合本身係自多個集合80中選擇。在集合80間之選擇可基於量化參數Q而執行,基於該量化參數,量化器30執行預測殘差信號之量化且反量化器36執行預測殘差信號之反量化。接著藉由信號化78來傳信在選定集合80中的κ之可能值中選擇將實際使用的實際雜訊消減強度或臨限值κ。應理解,可以不同於用於在資料流14中傳信信號化78之粒度的粒度在資料流14中傳信量化參數Q。舉例而言,可基於圖塊或基於圖像而在資料流14中傳信量化參數Q,而如剛才所概述,可針對各區塊46在資料流14中傳信信號化78。類似於以上註解,信號化78可使用預測式寫碼及/或利用空間上下文之上下文自適應熵寫碼在資料流內傳送。
圖5展示自資料流14進行圖像12、圖像12之重構版本的以區塊為基礎之預測式解碼的設備,該設備適配於圖1之設備。對於關於彼等寫碼參數之任務而言,圖5之解碼器200的內部結構很大程度上與編碼器100的內部結構一致,寫碼參數最終由圖1之設備200來選擇。因此,圖5展示圖5之設備200包含預測迴路,組件40、16、18、20、22以及任選信號42係以上文關於圖1所展示及描述之方式串聯連接至該預測迴路中。頻譜分解器18、雜訊消減器20及頻譜組合器22亦可為被稱作解碼器之精細化區塊84。由於待重構的信號(亦即,圖像12)之重構部分係在加法器40之輸出處產生,因此此輸出表示解碼器200之輸出。任擇地,諸如後濾波器之圖像改良模組可定位於輸出之前。
應考慮到,只要設備100能夠自由地選擇某一寫碼參數,設備100即選擇此寫碼參數以用於最大化例如某一最佳化準則,諸如速率/失真成本度量。接著使用資料流14中之信號化使編碼器100及解碼器200所執行之預測保持同步。解碼器200之對應模組或組件可受藉由編碼器100包括至資料流14中且傳信所選取之寫碼參數的各別信號化控制。舉例而言,解碼器200之預測提供器16係經由資料流14中之寫碼參數來控制。舉例而言,此等寫碼參數指示例如預測模式,及用於所指示之預測模式的預測參數。寫碼參數係由設備100選取。上文已提及寫碼參數82之實例。剛才分別關於寫碼參數82及預測參數所概述的相同情形對於信號化70、72及78中之每一者皆成立,該等信號化皆為任選的,亦即,該等信號化皆不存在,存在一個、二個或所有信號化。在設備100之編碼側,選取各別信號化以最佳化某一準則,且所選取之參數係藉助於各別信號化來指示。信號化70、72以及78導引對關於在預測填充版本間做出選擇的任選選擇器42、關於區52之大小的頻譜分解器18 (諸如經由指示區52之左上方頂點的相對向量)以及關於雜訊消減之強度的雜訊消減器20 (諸如經由指示待使用之臨限值)的控制。剛才概述之迴路經由加法器40之另一輸入(亦即,未連接至選擇器42之輸入)而被連續地饋入新的殘差資料,重構器34之加法器40以及預測提供器16、頻譜分解器18、雜訊消減器20及頻譜組合器22及任選選擇器42被串聯連接至該迴路中。詳言之,熵解碼器85執行熵編碼器32之反轉,即該熵解碼器以一方式在譜域中熵解碼來自資料流14之殘差信號,即係數等級,使其係關於按上文所提及之寫碼/解碼次序58串聯的區塊46。熵解碼器85將此等係數等級轉送至重構級34,該重構級在反量化器36中解量化該等係數等級且藉由反變換器38將該等係數等級變換至空間域,之後,將因此獲得之殘差信號加至最終預測信號,該最終預測信號係預測填充之第二版本64或第一版本48。
總結上文,解碼器200可存取同一資訊基礎以用於執行由預測提供器16進行之預測,且已經使用經由區塊32、36以及38之序列自資料流14得到的預測信號重構當前預測區塊46之鄰域54內的樣本。信號化70、78以及72在存在時允許在編碼器與解碼器200之間進行同步。如上文所概述,解碼器200可經組配以按子圖像粒度改變對應參數,即改變選擇器42之選擇、頻譜分解器18處的區52之大小及/或雜訊消減器20中的雜訊消減強度,如上文已經闡述,子圖像粒度在此等參數間可不同。解碼器200按此粒度改變此等參數,此係因為信號化70、72及/或78係按彼粒度在資料流14中傳信。如上文所概述,空間解碼可由設備200使用以解碼來自資料流14的信號化70、72以及78中之任一者。另外或替代地,可使用利用空間上下文之上下文自適應熵解碼。此外,關於信號化78,亦即控制雜訊消減20之信號化,如上文關於圖4所概述,設備200可經組配以基於量化參數Q而選擇可能雜訊消減強度之若干子集中的一個,且接著基於自可能雜訊消減強度之預先選擇集合中選擇一個可能雜訊消減強度之信號化78而判定將實際上用於區塊46之雜訊消減的雜訊消減強度,該量化參數Q係設備200針對當前預測之區塊46定位所在之區域自資料流14判定。舉例而言,各集合80可包含八個可能雜訊消減強度。由於選擇了多於一個集合80,因此由所有集合80涵蓋的可能雜訊消減強度之總數目可為集合80之數目的八倍。然而,集合80可能重疊,亦即,一些可能雜訊消減強度可為多於一個集合80之成員。當然地,八在此僅用作一實例,且每集合80的可能雜訊消減強度之數目可不同於八且甚至可在集合80間改變。
關於上文所概述實例之許多變化係可能的。舉例而言,編碼級24及重構級34不必基於變換。亦即,預測殘差可以除使用譜域以外的方式寫碼在資料流14中。此外,可能地,概念可無損失地工作。如先前關於分解器18與變換器38之間的關係所描述,反變換器38之反變換在類型上可與組合器22之變換相同。
以上概念可以使得基於非線性變換域之預測依賴於初始預測子及周圍經重構樣本的方式實施。上文概述之概念可用於在視訊寫碼中產生預測信號。為此概念基礎之原理可按其他方式描述如下。在第一步驟中,圖像或視訊解碼器產生如在某一基礎圖像或視訊壓縮標準中(例如,藉由運動補償或框內或空間圖像預測)之起始預測信號。在第二步驟中,解碼器在以下步驟中繼續進行。首先,其界定由預測信號與已經重構信號之組合組成的擴展信號。接著,解碼器將線性分析變換應用於擴展預測信號。接著,解碼器將例如非線性定限應用於經變換之經擴展預測信號。在最終步驟中,解碼器將線性合成變換應用於前一步驟之結果且藉由限於預測信號之域的合成變換之結果來代替起始預測信號。
如例如描述於PCT/EP2017/083789中的圖像之以區塊為基礎之預測式寫碼/解碼利用待預測之預定區塊之鄰域之先前經編碼或經重構版本來得到預測區塊之更高效預測式寫碼。詳言之,由預定區塊之預測填充之此鄰域及第一版本構成的區之頻譜分解產生經受雜訊消減之第一頻譜或第一係數集合,且因此所得第二頻譜或第二係數集合可經受頻譜組合,由此產生包括預定區塊之預測信號之第二版本(如預測填充)的此區之經修改版本。由於利用預定區塊之已處理(亦即,經編碼/重構)鄰域,預定區塊之預測填充的第二版本往往會改良寫碼效率。
可在資料流中使用第一信號化以便在預測填充之第一版本與預測填充之第二版本之間做出選擇。儘管此第一信號化需要額外資料量,但能夠在預測填充之第一版本與第二版本之間做出選擇可改良寫碼效率。第一信號化可以子圖像粒度在資料流內傳送,使得第一版本與第二版本之間的選擇可以子圖像粒度進行。另外或替代地,可在資料流中提供第二信號化以設定用以擴展預定區塊之鄰域的大小且形成關於其執行頻譜分解、雜訊消減及頻譜組合之區。第二信號化亦可以子圖像粒度以變化方式在資料流內傳送。又進一步另外或替代地,可在資料流內提供另一信號化以傳信雜訊消減之量或強度,諸如藉由指示待應用於由頻譜分解產生之第一頻譜的臨限值。第三信號化亦可以子圖像粒度以變化方式在資料流內傳送。
上文所提及之第一、第二及/或第三信號化可使用空間預測及/或利用空間上下文之熵寫碼(亦即,使用針對取決於區之空間鄰域的可能信號化值之機率分佈估計,針對該區之各別信號化含於資料流中。
如用於高效率視訊寫碼(HEVC)中之混合影像及視訊寫碼器的混合影像及視訊寫碼器組合預測式寫碼及變換寫碼連同以區塊為基礎之分割。預測式寫碼部分為有限的,特定言之為可用預測子之集合,此係由於編碼器側之各選擇在位元流中作為旁側資訊來傳輸。此可導致速率增加。精細化可藉由利用來自信號之已經重構部分的額外資訊來改良預測信號或殘差信號。
在下文中,待改良或修改之信號(如預測信號或殘差信號)可被稱作所採用信號,信號之經重構部分(如經重構樣本或經重構殘差)可被稱作參考信號,且所採用信號與參考信號之組合可被稱作經合併信號。
本發明之實施例描述改良壓縮效率之精細化程序或精細化步驟之態樣。本發明方法利用所採用信號與參考信號之間的相關性或相似性,且由於參考信號之信號部分可能不相關,因此精細化程序可使得其不能修改所採用信號。在混合視訊及影像寫碼應用中,執行分割,其產生稱為「區塊」之結構。區塊可具有正方形形狀或矩形形狀。各區塊通常採用產生殘差信號之預測子。殘差信號充當用於寫碼架構之變換寫碼級的輸入。完美預測產生不顯著殘差信號,且此情況可出現在原始樣本完全平坦之情形中。然而,在常見情形中,殘差信號為顯著的且經歷變換及量化程序。最終結果-經變換及經量化殘差-被稱作變換係數等級。本發明之方法旨在預測信號或殘差信號之精細化,使得相比於在無精細化之情況下,最終經量化等級產生較低的速率-失真成本。
本發明之實施例係關於圖像之以區塊為基礎之預測式寫碼及解碼的精細化,例如,上文參考圖1至圖5所描述的以區塊為基礎之預測式寫碼/解碼方法的精細化。已發現,對空間上或時間上預測之信號的精細化可導致改良之壓縮效率。實施例可例如以如上文所描述之方式合併/比較預測信號及額外經重構樣本,且在空間域或頻域中應用精細化程序。其他實施例可擴展或修改圖像之以區塊為基礎之預測式寫碼及解碼的上述內容,使得除預測信號之外或作為預測信號之替代方案,當前殘差信號用作所採用信號且相鄰經重構殘差用作參考信號。此類實施例可合併/比較殘差信號與額外經重構殘差,且在空間及/或頻域中應用精細化程序。舉例而言,可使用適當變換將所得經合併信號變換至頻域,且接著消除具有可忽略小能量之頻率或係數位置。在精細化之後,將經合併信號變換回至空間域中。可接著自經合併信號之經修改版本提取經修改及改良之預測或殘差信號且將其用於變換寫碼目的。在信號(如殘差信號)已在頻域中之情況下,可能不需要變換。換言之,在預測域中或在殘差域中之所採用信號可與參考信號合併。經合併信號經歷精細化程序,使得可利用所採用信號與參考信號之間的相關性或相似性。最後,提取經修改之所採用信號且在寫碼鏈內經歷常規程序。
精細化程序可藉由考慮預測信號或殘差信號與額外經重構樣本或經重構殘差之相似性來改良預測信號或減小殘差信號。可將尚未完全用於預測之額外經重構樣本或經重構殘差與當前預測或當前殘差信號進行合併或比較。未完全用於預測之經重構樣本或經重構殘差可指來自當前預測樣本之鄰域(例如,來自圖像中之當前預測區塊至已經由編碼器處理之圖像之直接鄰近或偏移區域中的擴展)的樣本或殘差。
本發明方法之實施例係關於使用額外經重構樣本之預測精細化的各種態樣。
(1) 本發明方法之第一態樣提供一種將精細化程序應用於殘差信號的以區塊為基礎之預測式編碼器/解碼器。
(2) 本發明方法之第二態樣提供一種使用不具有所採用信號與參考信號之組合的預測信號精細化或殘差信號精細化的以區塊為基礎之預測式編碼器/解碼器。
(3) 本發明方法之第三態樣提供一種選擇性地或組合地使用例如用於框內寫碼之預測信號精細化及例如用於框間寫碼之殘差信號精細化的以區塊為基礎之預測式編碼器/解碼器。
(4) 本發明方法之第四態樣係關於用於在精細化程序中減小係數之臨限值的選擇。
(5) 本發明方法之第五態樣係關於當前預測區塊之鄰域的選擇,經重構樣本或經重構殘差係自該鄰域獲得以用於精細化程序。
(6) 本發明方法之第六態樣係關於僅藉由應用部分再變換來組合經修改信號。
(7) 本發明方法之第七態樣係關於組合經修改信號,而忽略低於臨限值但未設定成零或另一減小值之係數。
(8) 本發明方法之第八態樣係關於精細化資訊之傳信。 解碼器/編碼器
本發明之實施例可實施於包括一或多個編碼器及一或多個解碼器之系統中,該系統可實施於例如行動或靜止終端中。圖6為用於在編碼器100與解碼器200之間傳達視訊或圖像資訊的系統之示意性表示。編碼器100及解碼器200可經由有線或無線通訊鏈路通訊以用於傳輸包括視訊或圖像資訊之資料流14。編碼器100包括信號處理器100a且可根據本文中所描述之本發明教示操作。解碼器200包括信號處理器200a且可根據本文中所描述之本發明教示操作。
(1) 根據本發明方法之第一態樣,提供解碼器200。解碼器200接收資料流14作為輸入,例如來自編碼器100之經編碼資料流。解碼器200例如使用其信號處理器200a來實施用於對圖像進行以區塊為基礎之預測式解碼的設備,該設備包含:合併器,其經組配以合併圖像之預定區塊之殘差信號與該預定區塊之參考信號以便獲得第一頻譜或第一係數集合,該殘差信號校正圖像之預定區塊之預測的預測誤差;消減器,其經組配以對第一係數集合執行定限以獲得第二頻譜或第二係數集合,使得低於臨限值之係數被設定成預界定值;提取器,其經組配以自第二係數集合獲得殘差信號之經修改版本;以及重構器區塊,其經組配以基於殘差信號之經修改版本而自資料流解碼圖像之預定區塊。
根據本發明方法之第一態樣,提供編碼器100。編碼器100接收原始圖像12作為輸入,且例如使用其信號處理器100a來實施用於對圖像進行以區塊為基礎之預測式編碼的設備,該設備包含:編碼區塊,其經組配以將殘差信號編碼至資料流中,該殘差信號校正圖像之預定區塊之預測的預測誤差;合併器,其經組配以合併殘差信號與預定區塊之參考信號以便獲得第一頻譜或第一係數集合;消減器,其經組配以對第一係數集合執行定限以獲得第二頻譜或第二係數集合,使得低於臨限值之係數被設定成預界定值;以及提取器,其經組配以自第二係數集合獲得殘差信號之經修改版本;該編碼區塊其經組配以基於殘差信號之經修改版本而將預定區塊編碼至資料流中。
根據實施例,參考信號包含預定區塊之鄰域的先前殘差信號。
根據實施例,圖像之預定區塊為經框間預測區塊。
(2) 根據本發明方法之第二態樣,提供解碼器200。解碼器200接收資料流14作為輸入,例如來自編碼器100之經編碼資料流。解碼器200例如使用其信號處理器200a來實施用於對圖像進行以區塊為基礎之預測式解碼的設備,該設備包含:解碼區塊,其經組配以自資料流解碼殘差信號,該殘差信號校正圖像之預定區塊之預測信號的預測誤差;以及比較器,其經組配以針對預定區塊之參考信號內的各頻率位置(亦被稱作係數位置),比較係數與臨限值,且若係數值低於臨限值,則在所採用信號內之對應係數位置處將係數設定成預界定值,由此獲得經修改之所採用信號,其中所採用信號包含預測信號及/或殘差信號;該解碼區塊經組配以基於經修改之所採用信號而自資料流解碼預定區塊。
根據本發明方法之第二態樣,提供編碼器100。編碼器100接收原始圖像12作為輸入,且例如使用其信號處理器100a來實施用於對圖像進行以區塊為基礎之預測式編碼的設備,該設備包含:編碼區塊,其經組配以將殘差信號編碼至資料流中,該殘差信號校正圖像之預定區塊之預測的預測誤差;以及比較器,其經組配以針對預定區塊之參考信號內的各係數位置,比較係數與臨限值,且若係數值低於臨限值,則在所採用信號內之對應係數位置處將係數設定成預界定值,由此獲得經修改之所採用信號,其中所採用信號包含預測信號及/或殘差信號;該編碼區塊經組配以基於經修改之所採用信號而將預定區塊編碼至資料流中。
根據實施例,該設備包含:合併器,其經組配以合併所採用信號與參考信號以便獲得第一頻譜或第一係數集合,其中比較器經組配以在第一係數集合內之對應係數位置處將係數設定成預界定值,由此獲得經修改之第一係數集合;以及提取器,其經組配以自經修改之第一係數集合獲得經修改之所採用信號。
根據實施例,該設備包含:分解器,其經組配以對由預測信號及參考信號構成之區執行變換以便獲得該區之第一頻譜或第一係數集合;以及組合器,其經組配以使經修改之第一係數集合經受再變換以便獲得包括經修改預測信號的區之經修改版本。
(3) 根據本發明方法之第三態樣,提供解碼器200。解碼器200接收資料流14作為輸入,例如來自編碼器100之經編碼資料流。解碼器200例如使用其信號處理器200a來實施用於對圖像進行以區塊為基礎之預測式解碼的設備,該設備包含:重構器區塊,其經組配以基於殘差信號而自資料流解碼圖像之預定區塊,該殘差信號校正圖像之預定區塊之預測的預測誤差;預測提供器,其經組配以提供圖像之預定區塊之預測;第一精細化區塊,其用於對圖像之預定區塊之預測進行精細化;以及第二精細化區塊,其用於對殘差信號進行精細化。
根據本發明方法之第三態樣,提供編碼器100。編碼器100接收原始圖像12作為輸入,且例如使用其信號處理器100a來實施用於對圖像進行以區塊為基礎之預測式編碼的設備,該設備包含:編碼區塊,其經組配以將殘差信號編碼至資料流中,該殘差信號校正圖像之預定區塊之預測的預測誤差;預測提供器,其經組配以提供圖像之預定區塊之預測;第一精細化區塊,其用於對圖像之預定區塊之預測進行精細化;以及第二精細化區塊,其用於對殘差信號進行精細化。
根據實施例 當處理經框內預測區塊時使用第一精細化區塊,且當處理經框間預測區塊時使用第二精細化區塊,或 當處理經框間預測區塊時使用第一精細化區塊,且當處理經框內預測區塊時使用第二精細化區塊,或 當處理經框內預測區塊時使用第一精細化區塊,且當處理經框內預測區塊時使用第二精細化區塊,或 當處理經框間預測區塊時使用第一精細化區塊,且當處理經框間預測區塊時使用第二精細化區塊。
根據實施例,第一精細化區塊自預測提供器接收預定區塊之預測信號之第一版本,且第一精細化區塊包括分解器,該分解器經組配以對由預測信號之第一版本及預定區塊之參考信號構成的區執行變換以便獲得該區之第一頻譜或第一係數集合;消減器,其經組配以對第一係數集合執行定限以獲得第二頻譜或第二係數集合,使得低於臨限值之係數被設定成預界定值,該臨限值係基於預測信號之第一版本之係數或基於參考信號之係數;以及組合器,其經組配以使第二係數集合經受再變換以便獲得包括預測信號之第二版本的區之經修改版本,且向重構器區塊提供預測信號之第二版本。
根據實施例,第二精細化區塊自重構器區塊接收殘差信號,且第二精細化區塊包括合併器,該合併器經組配以合併殘差信號與預定區塊之參考信號以便獲得第一頻譜或第一係數集合;消減器,其經組配以對第一係數集合執行定限以獲得第二頻譜或第二係數集合,使得低於臨限值之係數被設定成預界定值;以及提取器,其經組配以自第二係數集合獲得殘差信號之經修改版本,且向重構器區塊提供殘差信號之經修改版本。
根據實施例,臨限值係基於預測信號之第一版本之係數或基於參考信號之係數或基於經合併信號之係數。
(4) 根據本發明方法之第四態樣,提供解碼器200。解碼器200接收資料流14作為輸入,例如來自編碼器100之經編碼資料流。解碼器200例如使用其信號處理器200a來實施用於對圖像進行以區塊為基礎之預測式解碼的設備,該設備包含:預測提供器,其經組配以預測圖像之預定區塊以獲得預定區塊之預測信號之第一版本;分解器,其經組配以對由預測信號之第一版本及預定區塊之參考信號構成的區執行變換以便獲得該區之第一頻譜或第一係數集合;消減器,其經組配以對第一係數集合執行定限以獲得第二頻譜或第二係數集合,使得低於臨限值之係數被設定成預界定值,該臨限值係基於預測信號之第一版本之係數或基於參考信號之係數或基於包括預測信號及參考信號之經合併信號之係數;組合器,其經組配以使第二係數集合經受再變換以便獲得包括預測信號之第二版本的區之經修改版本;以及重構器區塊,其經組配以基於預測信號之第二版本而自資料流解碼圖像之預定區塊。
根據本發明方法之第四態樣,提供編碼器100。編碼器100接收原始圖像12作為輸入,且例如使用其信號處理器100a來實施用於對圖像進行以區塊為基礎之預測式編碼的設備,該設備包含:預測提供器,其經組配以預測圖像之預定區塊以獲得預定區塊之預測信號之第一版本;分解器,其經組配以對由預測信號之第一版本及預定區塊之參考信號構成的區執行變換以便獲得該區之第一頻譜或第一係數集合;消減器,其經組配以對第一係數集合執行定限以獲得第二頻譜或第二係數集合,使得低於臨限值之係數被設定成預界定值,該臨限值係基於預測信號之第一版本之係數或基於參考信號之係數或基於包括預測信號及參考信號之經合併信號之係數;組合器,其經組配以使第二係數集合經受再變換以便獲得包括預測信號之第二版本的區之經修改版本;以及編碼區塊,其經組配以基於預測信號之第二版本而將預定區塊編碼至資料流中。
此外,本發明方法之第四態樣提供本文中所描述之解碼器或設備中的每一者,例如如前述態樣1至3中任一項或以下態樣5至8中任一項之設備,實施例係關於用於在精細化程序中減小係數之臨限值的選擇。
根據實施例,臨限值係基於預測信號之第一版本之係數或基於參考信號之係數或基於經合併信號之係數。
根據實施例,藉由定限將係數設定成預界定值包括: 將係數設定成取決於臨限值之某一值,例如臨限值之預設分數,如臨限值之一半,或預設絕對值,如零,及/或 將係數減小某一量,例如藉由將係數之值朝向如零之預設值移動,例如達減小等於臨限值或等於臨限值之分數,如臨限值之一半的量。
根據實施例,將係數設定成預界定值包含量化與預界定值相關聯之係數。
根據實施例,預測信號之第一版本的係數/殘差信號之係數或參考信號之係數界定臨限值之候選者清單,該候選者清單亦可在解碼器側導出。
根據實施例,重複及已為零之輸入項自候選者清單被移除。
根據實施例,來自候選者清單之用於定限的臨限值係由索引表示,該索引係在位元流中傳輸。
根據實施例,候選者清單之索引係例如使用截斷一元碼進行二進位化,且單一上下文模型或專用上下文模型可用於各二進位位置。
根據實施例,為了減少傳信額外負荷,量化候選者清單,量化步長係在位元流中或在標頭語法中傳信,其中量化步長取決於例如圖像量化參數。
根據實施例,候選者清單長度經限制使得僅某些臨限值保持於候選者清單中。
根據實施例,取決於預測模式及/或量化參數,在外部或在內部限制候選者清單長度,或自候選者清單移除候選者清單中以最大臨限值開始之臨限值,直至達成臨限值之所要數目,或藉由固定方案或取決於經合併信號及參考信號之係數之特性/分佈而作出保持哪些臨限值的決定。
根據實施例,臨限值係基於預測信號之第一版本的係數/殘差信號之係數,且其中各變換係數形成界定臨限值之限值。
根據實施例,消減器經組配以 針對參考信號內之各係數位置,比較係數與臨限值,且若係數值低於臨限值,則在預測信號之第一版本/殘差信號內之對應係數位置處將係數設定成預界定值,或 針對預測信號之經變換第一版本/殘差信號內之各係數位置,比較係數與臨限值,且若係數值低於臨限值,則在參考信號內之對應係數位置處將係數設定成預界定值。
(5) 本發明方法之第五態樣提供本文中所描述之解碼器或設備中的每一者,例如如前述態樣1至4中任一項或以下態樣6至8中任一項之設備,實施例係關於當前預測區塊之鄰域的選擇,經重構樣本或經重構殘差係自該鄰域獲得以用於精細化程序。
根據實施例,取決於預定區塊之大小選擇預定區塊之鄰域,使得最終區塊具有某一大小,例如,該某一大小為預定區塊之大小的整數倍數,如二倍。
根據實施例,預定區塊之鄰域包含圍繞預定區塊之較多側中之一者的空間區域,及/或相對於預定區塊偏移之空間區域,及/或圍繞參考區塊之較多側中之一者的空間區域。
根據實施例,圍繞預定區塊之較多側中之一者的空間區域包含預定區塊向左側之擴展,使得總寬度為N,且圍繞預定區塊之較多側中之一者的空間區域包含預定區塊向頂部之擴展,使得總高度為M,N與M二者較佳相等。
根據實施例,偏移作為圖像內運動向量傳信,使得參考信號包括在解碼器處可用之樣本,且其中圖像內運動向量可取決於選定量化參數而自預界定運動向量之候選者清單中選擇。
根據實施例,相對於預定區塊區域偏移之空間區域具有與預定區塊相同的大小,且偏移係藉由圖像內運動向量或藉由指向早先已處理之另一區塊之指標而傳信。
根據實施例,預定區塊之鄰域係取決於如框內預測或框間預測之預測模式及量化參數中之一或多者而組配。
根據實施例,鄰域之不同大小列於候選者清單中,且選定大小係由索引表示,該索引係在位元流中傳輸,其中在位元流中傳輸之各索引可表示大小增大,使得在解碼器處選擇下一可用擴展大小。
根據實施例,下一可用大小匹配可用變換且在二個方向上將區塊擴展至下一可用變換大小,使得所傳輸索引之增量導致二個大小皆增大至下一可用變換。
根據實施例,候選者清單之索引係例如使用截斷一元碼進行二進位化,且單一上下文模型或專用上下文模型可用於各二進位位置。
根據實施例,索引之數目歸因於在接近訊框之邊緣操作時對可用樣本數目之限制而在外部組配之情況下或在內部受到限制,或耦接至量化參數。
(6) 根據本發明方法之第六態樣,提供解碼器200。解碼器200接收資料流14作為輸入,例如來自編碼器100之經編碼資料流。解碼器200例如使用其信號處理器200a來實施用於對圖像進行以區塊為基礎之預測式解碼的設備,該設備包含:預測提供器,其經組配以預測圖像之預定區塊以獲得預定區塊之預測信號之第一版本;分解器,其經組配以對由預測信號之第一版本及預定區塊之參考信號構成的區執行變換以便獲得該區之第一頻譜或第一係數集合;消減器,其經組配以對第一係數集合執行定限以獲得第二頻譜或第二係數集合,使得低於臨限值之係數被設定成預界定值;組合器,其經組配以使第二係數集合經受再變換以便直接獲得預測信號之第二版本;以及重構器區塊,其經組配以基於預測信號之第二版本而自資料流解碼圖像之預定區塊。
根據本發明方法之第六態樣,提供編碼器100。編碼器100接收原始圖像12作為輸入,且例如使用其信號處理器100a來實施用於對圖像進行以區塊為基礎之預測式編碼的設備,該設備包含:預測提供器,其經組配以預測圖像之預定區塊以獲得預定區塊之預測信號之第一版本;分解器,其經組配以對由預測信號之第一版本及預定區塊之參考信號構成的區執行變換以便獲得該區之第一頻譜或第一係數集合;消減器,其經組配以對第一係數集合執行定限以獲得第二頻譜或第二係數集合,使得低於臨限值之係數被設定成預界定值;組合器,其經組配以使第二係數集合經受再變換以便直接獲得預測信號之第二版本;以及編碼區塊,其經組配以基於預測信號之第二版本而將預定區塊編碼至資料流中。
根據實施例,預測信號之第二版本係直接獲得而無需在空間域中對區進行完全重構。
根據實施例,預測信號之第二版本係藉由在空間域中對區進行部分重構來直接獲得。
(7) 根據本發明方法之第七態樣,提供解碼器200。解碼器200接收資料流14作為輸入,例如來自編碼器100之經編碼資料流。解碼器200例如使用其信號處理器200a來實施用於對圖像進行以區塊為基礎之預測式解碼的設備,該設備包含:預測提供器,其經組配以預測圖像之預定區塊以獲得預定區塊之預測信號之第一版本;分解器,其經組配以對由預測信號之第一版本及預定區塊之參考信號構成的區執行變換以便獲得該區之第一頻譜或第一係數集合;消減器,其經組配以對第一係數集合執行定限以判定低於臨限值之係數;組合器,其經組配以使第一係數集合經受再變換以便獲得包括預測信號之第二版本的區之經修改版本,其中在組合中不考慮具有低於臨限值之幅度的係數位置;以及重構器區塊,其經組配以基於預測信號之第二版本而自資料流解碼圖像之預定區塊。
根據本發明方法之第七態樣,提供編碼器100。編碼器100接收原始圖像12作為輸入,且例如使用其信號處理器100a來實施用於對圖像進行以區塊為基礎之預測式編碼的設備,該設備包含:預測提供器,其經組配以預測圖像之預定區塊以獲得預定區塊之預測信號之第一版本;分解器,其經組配以對由預測信號之第一版本及預定區塊之參考信號構成的區執行變換以便獲得該區之第一頻譜或第一係數集合;消減器,其經組配以對第一係數集合執行定限以判定低於臨限值之係數;組合器,其經組配以使第一係數集合經受再變換以便獲得包括預測信號之第二版本的區之經修改版本,其中在組合中不考慮具有低於臨限值之幅度的係數位置;以及編碼區塊,其經組配以基於預測信號之第二版本而將預定區塊編碼至資料流中。
根據實施例,參考信號包含預定區塊之鄰域之先前經解碼版本。
(8) 本發明方法之第八提供本文中所描述之解碼器或設備中的每一者,例如如前述態樣1至7中任一項之設備,實施例係關於精細化資訊之傳信。
根據實施例,該設備經組配以分別針對各分割結構或針對若干分割結構傳輸描述編碼程序之組配的旁側資訊,例如參考信號之位置、臨限值、指示臨限值之索引及類似者。
根據實施例,當針對若干分割結構傳輸編碼程序之組配時,設備經組配以應用迭代策略,該迭代策略包括基於含有若干分割結構之固定柵格而選擇編碼程序之參數,及使用運用選定參數的編碼程序之結果重新計算柵格。
應注意,根據其他實施例,提供用於實施第1至第8態樣之各別方法,且下文在設備之上下文中所描述的本發明教示亦表示對應方法之描述,其中區塊或裝置對應於方法步驟或方法步驟之特徵。 資料流
本發明提供一種資料流,其具有經編碼至其中之圖像,該資料流係藉由根據本發明之一或多種方法產生。 電腦程式產品
本發明提供一種電腦程式產品,其包含指令,該等指令在程式由電腦執行時致使電腦進行根據本發明之一或多種方法。 第一態樣之實施例
現描述本發明方法之第一態樣之實施例。根據第一態樣,以區塊為基礎之預測式編碼器/解碼器將精細化程序應用於殘差信號。圖7展示實施本發明方法之第一態樣的用於對圖像12進行以區塊為基礎之預測式編碼以編碼至資料流14中之設備100'的實施例。已經參考圖1描述之編碼器之元件已使相同參考符號相關聯且不再詳細地描述。
設備100'包含預測提供器16及編碼級24。編碼級24可包含加法器26、變換器28及量化級30。加法器26之反相輸入連接至預測提供器16之輸出,且加法器26之非反相輸入接收待編碼之信號,亦即,圖像12。編碼級24可進一步包含連接於量化器30之輸出與設備100'之輸出之間的熵編碼器32,表示圖像12之經寫碼資料流14係在設備之輸出處輸出。設備100'可包含連接於編碼級24與預測提供器16之間的重構級34,該重構級將先前經編碼部分提供至預測提供器16,該等先前經編碼部分亦即先前已由編碼器100'編碼的圖像12之部分或圖像12所屬之視訊,且詳言之,此等部分的一版本可在解碼器側重構,即使考慮到由量化級30內之量化引入的寫碼損耗亦如此。重構級34可具有如參考圖1描述之結構。設備100'包含連接於量化器30之輸出與編碼級24之額外加法器86之間的精細化區塊或級84。精細化區塊84自量化器30接收殘差信號88且將殘差信號之經修改版本90提供至額外加法器86之反相輸入。編碼區塊24基於殘差信號之經修改版本90將預定區塊編碼至資料流14中。
圖8說明用於實施圖7中之精細化區塊84的實施例。根據圖8a中所說明之實施例,精細化區塊84包括接收殘差信號88及參考信號94之合併器92。合併器92合併殘差信號88與預定區塊之參考信號94以便獲得第一頻譜96,亦被稱作第一係數集合。耦接至合併器92之消減器98對第一頻譜96執行定限,以獲得第二頻譜102 (亦被稱作第二係數集合),使得低於臨限值之頻譜係數設定成預界定值。在提取器104處接收第二頻譜102,該提取器自第二頻譜102獲得殘差信號88之經修改版本90。根據實施例,參考信號包含預定區塊之鄰域的先前殘差信號。根據其他實施例,圖像之預定區塊為經框間預測區塊。 第二態樣之實施例
圖8b說明用於實施圖7之精細化區塊84的另一實施例。圖8b說明在無所採用信號與參考信號之組合的情況下提供精細化的本發明方法之第二態樣之實施例。精細化區塊84'包括比較器106,其接收待修改之殘差信號88及參考信號90。比較器106針對預定區塊之參考信號94內的各頻率位置或係數位置,比較頻譜係數與臨限值T。若頻譜係數值低於臨限值,則比較器106在待修改之殘差信號88內的對應係數位置處將頻譜係數設定成預界定值,由此獲得經修改殘差信號94。
圖8c說明用於實施圖7之精細化區塊84的另一實施例。圖8c說明使用所採用信號與參考信號之組合來提供精細化的本發明方法之第二態樣之另一實施例。除比較器106之外,精細化區塊84''亦包括接收待修改之殘差信號88及參考信號90的合併器108。合併器108合併殘差信號88與參考信號90以便獲得應用於比較器106之第一頻譜或第一係數集合。比較器106針對預定區塊之參考信號94內的各係數位置,比較頻譜係數與臨限值T。若頻譜係數值低於臨限值,則比較器106在第一頻譜內之對應係數位置處將頻譜係數設定成預界定值,由此獲得經修改之第一頻譜或經修改之第一係數集合。經修改之第一頻譜應用於提取器110,該提取器自經修改之第一頻譜獲得經修改殘差信號90。
根據其他實施例,圖8b及圖8c中所描繪之精細化區塊84'或84''可用於圖1之編碼器中。精細化區塊84'或84''可代替區塊18、20及22且在此類實施例中自預測子16接收預測信號。在此類實施例中,在精細化區塊處接收之預測信號88及參考信號94在空間域中,且精細化區塊可進一步包括任選頻譜分解器或變換器112以將待修改之預測信號88及參考信號90變換至頻域中。另外,由比較器106或提取器110輸出之信號可應用於頻譜組合器或變換器114以獲得空間域中之經修改預測信號94。 第三態樣之實施例
現描述本發明方法之第三態樣之實施例。根據第三態樣,以區塊為基礎之預測式編碼器/解碼器組合地或選擇性地使用例如用於框內寫碼之預測信號精細化及例如用於框間寫碼之殘差信號精細化。圖9展示實施本發明方法之第三態樣的用於對圖像12進行以區塊為基礎之預測式編碼以編碼至資料流14中之設備100''的實施例。已經參考圖1、圖7及圖8描述之編碼器之元件已使相同參考符號相關聯且不再詳細地描述。
設備100''包含連接於量化器30之輸出與編碼級24之額外加法器86之間的第一精細化區塊84a (例如,圖7之精細化區塊),及連接於預測子16之輸出與編碼級24之額外加法器86之間的第二精細化區塊84a。各別精細化區塊84a、84b可直接或選擇性地分別耦接至量化器30及預測子16之輸出。在選擇性地耦接精細化區塊84a、84b之狀況下,設備100''包含分別耦接於各別精細化區塊84a、84b、量化器30及預測子16之輸出之間的各別選擇器116a、116b。根據實施例,設備100''可連續地採用預測信號精細化及殘差信號精細化(無需選擇器)。根據其他實施例,設備100''可連續地採用預測信號精細化或殘差信號精細化且經由選擇器中之一者選擇性地採用其他精細化、殘差信號精細化或預測信號精細化。根據又其他實施例,設備100''可例如經由選擇器選擇性地採用精細化、殘差信號精細化及/或預測信號精細化中之一者或二者。
可根據圖8a至圖8c之實施例實施第一精細化區塊84a。可根據圖8b及圖8c之實施例實施第二精細化區塊84b。根據其他實施例,可根據圖1例如藉由如上文更詳細地描述之區塊18、20及22實施第二精細化區塊84b。
圖10展示用於自資料流14對圖像12、圖像12之重構版本進行以區塊為基礎之預測式解碼的設備200',該設備適配或對應於圖7之設備。對於關於彼等寫碼參數之任務而言,圖10之解碼器200'的內部結構很大程度上與編碼器100'的內部結構一致,寫碼參數最終由圖7之設備100'來選擇。因此,圖10展示設備200'包含預測迴路,該預測迴路包括圖7之預測子16及精細化區塊84。由於待重構的信號(亦即,圖像12)之重構部分係在加法器40之輸出處獲得,且因此此輸出表示解碼器200'之輸出。任擇地,諸如後濾波器之圖像改良模組可設置於輸出之前。
圖11展示用於自資料流14對圖像12、圖像12之重構版本進行以區塊為基礎之預測式解碼的設備200'',該設備適配或對應於圖9之設備。對於關於彼等寫碼參數之任務而言,圖11之解碼器200''的內部結構很大程度上與編碼器100''的內部結構一致,寫碼參數最終由圖9之設備100''來選擇。因此,圖11展示設備200''包含預測迴路,該預測迴路包括圖9之預測子16及第一精細化區塊84a及第二精細化區塊84b以及任選選擇器116a、116b。由於待重構的信號(亦即,圖像12)之重構部分係在加法器40之輸出處獲得,且因此此輸出表示解碼器200''之輸出。任擇地,諸如後濾波器之圖像改良模組可設置於輸出之前。
如上文詳細地描述,可實施精細化區塊84、84a、84b。 第四態樣之實施例
上文參考圖6至圖11所描述之實施例以及圖1及圖5之編碼器/解碼器之雜訊消減器20基於在精細化程序期間減小頻譜係數之臨限值而進行操作。在下文中,描述本發明方法之第四態樣之實施例,其係關於用於在精細化程序中減小頻譜係數之臨限值的選擇。
如上所解釋,精細化程序修改所採用信號(如預測信號或殘差信號)或所採用信號與參考信號、經合併信號之組合以移除不相關資訊且獲得經修改之所採用信號。經修改之所採用信號產生較低的速率-失真成本。當使用當前區塊之擴展作為參考信號時,根據實施例,所採用信號及參考信號或經合併信號經變換至頻域中。變換可包含哈達馬德變換、DCT或小波近似。所採用信號及參考信號之相關或有關的信號部分係藉由移除不相關或無關的信號部分(例如,藉由將具有相對較低絕對幅度之係數位置設定成零)來提取。將經修改之經合併信號變換回至空間域中,且自經合併信號提取所採用信號。在此實施例中且在其他實施例中,對特定變換係數是否應量化成零之決定使用定限或臨限值。根據第四態樣之實施例,臨限值可如下導出。
變換係數可為已知的,此歸因於所採用信號(如預測信號)或經合併信號變換至頻域中或因為所採用信號(如殘差信號)已在頻域中,且各絕對變換係數形成界定臨限值t 之限值,且經合併信號該所採用信號中低於或等於臨限值之變換係數可藉由將變換係數減小等於臨限值或臨限值分數之量而量化成預界定值。根據實施例,預界定值可為零。舉例而言,對於4×4區塊,有序絕對係數可如下。4×4區塊可表示經合併信號,包括右下方區塊中之所採用或當前處理信號及剩餘區塊中之參考信號。t ∈ (81,32,16,12,11,9,7,2,1,1,1,1,0,0,0,0)
臨限值t 之候選者為絕對係數值。根據實施例,重複及已為零之輸入目可自以上候選者清單被移除,從而導致以下候選者清單僅留有九個候選者。t ∈ (81,32,16,12,11,9,7,2,1)
實際上用於當前處理區塊之臨限值可藉由應用來自候選者清單之臨限值中之一些或全部及評估哪一臨限值產生最佳結果來判定。最後使用之臨限值可由可在解碼器側導出的候選者清單之索引表示,且該索引係在位元流中傳輸。在以上實例中,九個臨限值係可能的,且此產生相同數目個索引。索引可使用截斷一元碼進行二進位化,且類似於參考信號之信號化,單一上下文模型或專用上下文模型可用於各二進位位置。
由於成本減少通常不與旁側資訊之成本增加成正比,因此實施例可採用折衷組配。舉例而言,對於較大區塊大小,不同係數之數目可較大,從而導致過度傳信額外負荷。為了解決此問題,實施例可應用量化。實際量化步長可在位元流或標頭語法中傳信。量化步長亦可取決於圖像量化參數,例如取決於恆定因數,如0.5。對於以上實例,當量化步長等於五時,所得候選者清單如下。t ∈ (16,6,3,2,1)
此外,取決於預測模式及/或量化參數,可在外部或在內部限制候選者清單長度。候選者清單可保持較小臨限值且移除較大臨限值。對於以上實例,當候選者清單長度應最大等於三時,自清單移除值16及六。可藉由固定方案或取決於經合併信號及參考信號之變換係數之特性/分佈而作出保持哪些臨限值之決定。 第五態樣之實施例
上文參考圖6至圖11所描述之實施例以及參考圖1至圖5所描述之編碼器/解碼器基於包含來自當前預測樣本或區塊之鄰域(例如來自圖像中之當前預測區塊之擴展)之經重構樣本或經重構殘差的參考信號而進行操作。在下文中,描述本發明方法之第五態樣的實施例,其係關於選擇自其中獲得參考信號(如經重構樣本或經重構殘差)以用於精細化程序的當前預測區塊之鄰域。根據實施例,參考信號與所採用信號合併以便獲得經合併信號,且現在此類經合併信號之上下文(亦即經合併信號之導出)中描述用於選擇鄰域之實施例。另一方面,應注意,下文所描述之實施例可同樣應用於上文所描述之在無所採用信號與參考信號之組合的情況下提供精細化的方法。同樣在此類方法中,可如下文所描述選擇界定參考信號之鄰域。
以下程序描述可應用於預測信號及殘差信號二者之精細化,此係由於二個信號之間的差異僅為線性操作。作為參考信號,可採用經重構樣本或經重構殘差。在編碼器側,當應用殘差信號之精細化時,可採用未經量化殘差,從而導致編碼器與解碼器之間的不對稱操作。當應用預測信號之精細化時,操作為對稱的。
參考信號之位置可在不傳信之情況下導出,或可為前向自適應的或在位元流中顯式地指定。圖12說明可自其中獲得參考信號之區域的實施例,其中白色區域表示當前區塊,陰影區域表示用於組合之參考信號,且黑色填充區域表示未考慮之樣本。圖12a說明參考信號為不具有偏移之當前區塊之擴展所根據的實施例,圖12b說明參考信號為當前區塊之頂部之擴展所根據的實施例,且圖12c說明參考信號為具有相對於當前區塊之偏移之擴展所根據的實施例。
舉例而言,如圖12a中所說明,當前區塊之周圍空間區域可用作參考信號。在HEVC之情況下,用於分區之處理次序為深度優先的Z次序,亦即,上方及左側經重構樣本在解碼器側可用。根據此實施例,當前區塊可經擴展以使得最終區塊大小為當前區塊大小之二倍。根據其他實施例,可界定不同的最終區塊大小,且只要經重構樣本可用,任何最終區塊大小皆為適合的。
根據其他實施例,並非左側或上方之所有經重構樣本/殘差皆可與當前區塊相關。在此類實施例中,可僅使用當前區塊上方(如圖12b中所說明)或左側之空間區域。
根據又其他實施例,參考信號可例如由相對於當前區塊之偏移指定,如圖12c中所說明。此組配可使用後向自適應技術來檢測,及/或可為前向自適應的或在位元流中顯式地指定。組配可取決於預測模式(亦即,框內或框間預測)及量化參數而變化。
當區塊採用框內預測或經框內預測區塊時,殘差能量通常高於框間預測。對於框內圖塊,亦即,唯一允許之預測模式為框內,相鄰殘差信號可具有高於框間圖塊之能量的能量。在此環境中,組配可採用相鄰經重構樣本作為參考信號且採用當前預測信號作為所採用信號。替代地,參考信號可例如由相對於當前區塊之偏移指定,參見圖12c。偏移可作為圖像內運動向量傳信,使得參考信號包括在解碼器處可用之樣本。此組配可適用於具有重複圖案之規則紋理。
由於重構品質需要較高量化階,因此可取決於選定量化參數而限制候選空間。舉例而言,包括預界定運動向量之候選者清單可經組配使得候選者清單之長度取決於選定量化參數。不具有偏移之簡單組配可為當前區塊向左側之擴展,使得總寬度為
Figure 02_image001
,且為當前區塊向頂部之擴展,使得總高度為
Figure 02_image003
。當採用包括變換之精細化時,
Figure 02_image001
Figure 02_image003
二者較佳相等。
在任何情況下,判定擴展之大小,無論為後向自適應抑或前向自適應,或二者之組合。假定大小列於候選者清單中,則可在位元流中傳輸索引,該索引表示大小增大以使得選擇下一可用擴展大小。舉例而言,下一可用大小可取決於精細化程序之組配。根據較佳實施例,組配可在二個方向上僅將當前處理區塊擴展至下一可用變換。
如上文所提及,精細化程序之一些實施例例如當基於作為參考信號之相鄰經重構樣本及作為所採用信號之當前預測信號而進行操作時,採用一或多個變換。在此類實施例中,下一可用大小可匹配可用變換,且較佳組配可在二個方向上僅將當前經處理區塊擴展至下一可用變換大小,亦即,所傳輸索引之增量導致二個大小(如圖12中之左側及頂部)增大至下一可用變換。
根據實施例,經合併信號可在精細化步驟之前分別向上及向下取樣以更好地適合可用變換。在精細化完成之後,恢復取樣。
根據實施例,索引之數目歸因於在接近訊框之邊緣操作時對可用樣本數目之限制而在外部組配之情況下或在內部受到限制,或可耦接至量化參數。大小索引可使用截斷一元碼進行二進位化,且各二進位位置可使用專用上下文模型來編碼,或可採用單一上下文模型。
根據又其他實施例,可指定具有相同大小之另一區域,而非增大圍繞當前區塊之區域。傳信可藉由圖像內運動向量或藉由指向早先已處理之另一區塊或區域來進行。在此設定中,參考信號具有與所採用信號相同的大小。
儘管已描述幀內預測將相鄰經重構樣本用作參考信號且將當前預測信號用作所採用信號,但應注意,本發明不限於此。實際上,根據其他實施例,幀內預測可將相鄰經重構殘差用作參考信號且將當前殘差信號用作所採用信號。
當區塊採用框間預測或經框間預測區塊時,相鄰信號可用作上文所描述之框內預測情況。然而,根據採用框間預測或經框間預測區塊之其他實施例,歸因於不同信號特性,可修改組配,使得相鄰殘差信號用作參考信號且當前殘差信號用作所採用信號。根據實施例,可使用將參考信號用作圍繞參考區塊而非當前區塊之相鄰信號的另一設定,而非使用來自區域(如圖12中所描繪之彼等區域)之殘差信號。此組配說明於圖13中,且圖13a說明針對經框間預測區塊使用參考區塊之擴展而非當前區塊,且圖13b說明參考信號完全圍繞參考區塊之實施例。
框間組配可被視為對該框內組配之擴展,使得當在框間圖塊中操作時,除了框內組配以外,其組配亦可用。另外,框內及框間組配二者之組合係可能的(參見圖9)。二個參考信號可首先合併及次取樣以使得產生新的參考信號。傳信可沿著如上文所描述之框內組配而組配。 第六及第七態樣之實施例
上文參考圖6至圖11所描述之實施例中的一些以及參考圖1至圖5所描述之編碼器/解碼器使經合併信號在頻域中經受定限,隨後再變換至空間域中。在下文中,描述了本發明方法之第六態樣之實施例,其係關於僅藉由應用經合併信號之部分再變換對經修改信號進行頻譜組合,並且描述了本發明方法之第七態樣之實施例,其係關於對經修改信號進行頻譜組合,而忽略低於臨限值但未設定成零或另一減小值之係數。
根據第六態樣,例如在無需在空間域中對經修改之經合併信號進行完全重構的情況下,但例如係藉由部分重構,所採用信號可直接自變換域中之經修改之經合併信號導出。
根據第七態樣,具有相對較低絕對幅度之係數位置在變換之前不設定成零,而僅僅在執行部分變換時不考慮該等係數位置。 第八態樣之實施例
上文參考圖6至圖11所描述之實施例以及參考圖1至圖5所描述之編碼器/解碼器將所描述之精細化程序應用於所採用信號,且傳信關於精細化程序之資訊。在下文中,本發明方法之第八態樣之實施例係關於精細化資訊之傳信,如傳信精細化資訊之等級。
當傳輸用於精細化程序之組配之旁側資訊時,存在可以哪一等級發送此資訊之若干選項。可針對各分割結構分別發送資訊,此導致成本較高,但在可更局部地調適精細化之意義上導致準確度較高。
另一選項為發送關於含有若干分割結構之高等級的資訊。此導致成本較低,但可能限制精細化程序之可能自適應。
為了降低複雜度,可採用迭代策略。舉例而言,可基於固定柵格(含有若干分割結構)而選擇精細化參數。接著,考慮到使用所選取之參數之精細化程序的應用,可重新計算柵格。此迭代可重複任何次。若精細化程序應用於某一分割結構上,則可局部地測試及發送該選擇。 其他實施例
在上文所描述之實施例中,已參考在頻譜上組合信號之頻譜組合器,或在頻譜上分解信號之頻譜分解器。應注意,根據本發明方法,頻譜組合器可將任何頻譜基本變換應用於信號,如奇異值分解(SVC)、FFT或DCT。同樣,頻譜分解器可將任何頻譜基本再變換應用於信號。
應進一步注意,本發明方法不限於使用頻譜分解器或頻譜組合器,或使用頻譜係數。根據實施例,可使用執行變換以獲得係數之任何分解器或執行再變換之任何組合器。
在上文所描述之實施例中,定限係對照臨限值,亦被稱作硬定限。應注意,根據本發明方法之其他實施例,亦可應用軟定限。此外,藉由定限將係數設定成預界定值可包括(a)將係數設定成取決於臨限值之某一值,例如臨限值之預設分數,如臨限值之一半,或預設絕對值,如零,及/或(b)將係數減小某一量,例如藉由將係數之值朝向如零之預設值移動,例如達等於臨限值或等於臨限值之分數,如臨限值之一半的量。
雖然已在設備之上下文中描述了所描述概念之一些態樣,但明顯地,此等態樣亦表示對應方法之描述,其中區塊或裝置對應於方法步驟或方法步驟之特徵。類似地,方法步驟之上下文中所描述的態樣亦表示對應區塊或項目或對應設備之特徵的描述。
本發明之各種元件及特徵可使用類比及/或數位電路以硬體實施,經由指令藉由一或多個通用或專用處理器的執行以軟體實施,或作為硬體與軟體之組合來實施。舉例而言,本發明之實施例可在電腦系統或另一處理系統之環境中實施。圖14說明電腦系統400之實例。單元或模組以及由此等單元執行之方法的步驟可在一或多個電腦系統400上執行。電腦系統400包括一或多個處理器402,如特殊用途或通用數位信號處理器。處理器402連接至通訊基礎架構404,如匯流排或網路。電腦系統400包括主記憶體406,例如隨機存取記憶體(RAM),及輔助記憶體408,例如硬碟驅動機及/或可移除儲存驅動機。輔助記憶體408可允許電腦程式或其他指令載入至電腦系統400中。電腦系統400可進一步包括通訊介面410以允許軟體及資料在電腦系統400與外部裝置之間傳送。通訊可呈能夠由通訊介面操控的電子、電磁、光學或其他信號之形式。通訊可使用導線或纜線、光纖、電話線、蜂巢式電話鏈路、RF鏈路及其他通訊通道412。
術語「電腦程式媒體」及「電腦可讀媒體」用以通常指有形儲存媒體,諸如可移除儲存單元或安設於硬碟機中的硬碟。此等電腦程式產品為向電腦系統400提供軟體之構件。電腦程式,亦被稱作電腦控制邏輯,儲存於主記憶體406及/或輔助記憶體408中。電腦程式亦可經由通訊介面410接收。電腦程式在經執行時使電腦系統400能夠實施本發明。特定言之,電腦程式在經執行時使處理器402能夠實施本發明之程序,諸如本文中所描述之方法中之任一者。因此,此類電腦程式可表示電腦系統400之控制器。在使用軟體實施本發明之情況下,軟體可儲存於電腦程式產品中且使用可移除儲存驅動機、介面(如通訊介面410)載入至電腦系統400中。
以硬體或以軟體之實施可使用上面儲存有電子可讀控制信號的數位儲存媒體執行,例如使用雲端儲存器、軟碟、DVD、Blue-Ray、CD、ROM、PROM、EPROM、EEPROM或FLASH記憶體執行,該等電子可讀控制信號與可規劃電腦系統協作(或能夠與可規劃電腦系統協作),使得各別方法得以執行。因此,數位儲存媒體可為電腦可讀的。
根據本發明之一些實施例包含具有電子可讀控制信號之資料載體,該等控制信號能夠與可規劃電腦系統協作,使得本文中所描述之方法中之一者得以執行。
大體而言,本發明之實施例可實施為具有程式碼之電腦程式產品,當電腦程式產品執行於電腦上時,程式碼操作性地用於執行該等方法中之一者。程式碼可例如儲存於機器可讀載體上。
其他實施例包含儲存於機器可讀載體上,用於執行本文中所描述之方法中之一者的電腦程式。換言之,本發明方法之實施例因此為電腦程式,其具有用於在電腦程式於電腦上執行時執行本文中所描述之方法中之一者的程式碼。
因此,本發明方法之另一實施例為資料載體(或數位儲存媒體,或電腦可讀媒體),其包含記錄於其上的用於執行本文中所描述之方法中之一者的電腦程式。因此,本發明方法之另一實施例為表示用於執行本文中所描述之方法中之一者之電腦程式的資料流或信號序列。資料流或信號序列可(例如)經組配以經由資料通訊連接(例如,經由網際網路)而傳送。另一實施例包含處理構件,例如經組配或經調適以執行本文中所描述之方法中之一者的電腦或可規劃邏輯裝置。另一實施例包含上面安裝有用於執行本文中所描述之方法中之一者的電腦程式之電腦。
在一些實施例中,可規劃邏輯裝置(例如,場可規劃閘陣列)可用以執行本文中所描述之方法的功能性中之一些或全部。在一些實施例中,場可規劃閘陣列可與微處理器協作,以便執行本文中所描述之方法中之一者。通常,該等方法較佳地由任何硬體設備來執行。
上述實施例僅說明本發明之原理。應理解,熟習此項技術者將顯而易見對本文中所描述之配置及細節的修改及變化。因此,意圖為僅受到接下來之申請專利範圍之範疇限制,而不受到藉由本文中之實施例之描述解釋所呈現的特定細節限制。
12‧‧‧圖像 14‧‧‧資料流 16‧‧‧預測子 18‧‧‧頻譜分解器 20‧‧‧雜訊消減器 22‧‧‧頻譜組合器 24‧‧‧編碼級 26‧‧‧加法器/減法器 28‧‧‧變換器/減法器 30‧‧‧量化器 32‧‧‧熵編碼器 34‧‧‧重構級 36‧‧‧反量化器 38‧‧‧反變換器 40、86‧‧‧加法器 42、116a、116b‧‧‧選擇器 44‧‧‧圖像/視訊 46‧‧‧區塊 461‧‧‧頂側 462、464‧‧‧左側 463‧‧‧底側 48‧‧‧參考圖像/預測填充之第一版本 50‧‧‧樣本 52‧‧‧區 54‧‧‧鄰域 56‧‧‧重構版本 58‧‧‧寫碼/解碼次序 60‧‧‧第一頻譜/係數集合 62‧‧‧頻譜 64‧‧‧預測填充之第二版本 70、72、78‧‧‧信號化 74、76‧‧‧角 80‧‧‧集合 82‧‧‧寫碼參數 84、84'、84''‧‧‧精細化區塊 84a‧‧‧第一精細化區塊 84b‧‧‧第二精細化區塊 85‧‧‧熵解碼器 88‧‧‧殘差信號 90‧‧‧參考信號/經修改版本/經修改殘差信號 92、108‧‧‧合併器 94‧‧‧參考信號 96‧‧‧第一頻譜 98‧‧‧消減器 100、100'、100''‧‧‧編碼器 100a、200a‧‧‧信號處理器 102‧‧‧第二頻譜 104、110‧‧‧提取器 106‧‧‧比較器 112、114‧‧‧變換器 200、200'、200''‧‧‧設備 400‧‧‧電腦系統 402‧‧‧處理器 404‧‧‧通訊基礎架構 406‧‧‧主記憶體 408‧‧‧輔助記憶體 410‧‧‧通訊介面 412‧‧‧通訊通道 Q‧‧‧量化參數 T‧‧‧臨限值 x、y‧‧‧軸
現將參考附圖進一步詳細描述本發明之實施例,在附圖中: 圖1 展示編碼設備之方塊圖,其說明圖像之以區塊為基礎之預測式寫碼的實例; 圖2 展示在左側說明含有待預測之區塊的圖像且在右側說明當前待預測之區塊及如何擴展以便產生一區的示意圖,該區接著為用於達成擴展區塊之預測之替代版本(如預測填充)的起點; 圖3 展示說明使用臨限值來消減雜訊之二個替代例的示意圖; 圖4 展示說明在可能雜訊消減強度間做出選擇之示意圖; 圖5 展示適配於圖1之設備之解碼設備的方塊圖; 圖6 為根據本發明之實施例的用於將圖像或視訊資料自傳輸器傳送至接收器之系統的示意性表示; 圖7 展示根據本發明方法之實施例的用於對圖像進行以區塊為基礎之預測式編碼以編碼至資料流中之設備的實施例; 圖8 說明用於實施用於圖1或圖7之以區塊為基礎之預測式編碼之設備之精細化區塊的實施例,其中圖8a說明精細化區塊之實施例,圖8b說明用於實施精細化區塊之另一實施例,且圖8c說明用於實施精細化區塊之又一實施例; 圖9 展示根據本發明方法之根據另一實施例的用於對圖像進行以區塊為基礎之預測式編碼以編碼至資料流中之設備的實施例; 圖10 展示適配於圖7之設備之解碼設備的方塊圖; 圖11 展示適配於圖9之設備之解碼設備的方塊圖; 圖12 說明可獲得參考信號之區域的實施例,其中圖12a說明一實施例,根據該實施例,參考信號為不具有偏移之當前區塊的擴展,圖12b說明一實施例,根據該實施例,參考信號為至當前區塊之頂部的擴展,且圖12c說明一實施例,根據該實施例,參考信號為具有相對於當前區塊之偏移的擴展; 圖13 說明用於圍繞參考區塊而非可自其中獲得參考信號之當前區塊之區域的另外實施例,其中圖13a說明使用參考區塊之擴展而非當前區塊,且圖13b說明參考信號完全圍繞參考區塊之實施例;且 圖14 說明上面可執行單元或模組以及根據本發明方法描述之方法之步驟的電腦系統之實例。
84‧‧‧精細化區塊
88‧‧‧殘差信號
90‧‧‧參考信號/經修改版本/經修改殘差信號
92‧‧‧合併器
94‧‧‧參考信號
96‧‧‧第一頻譜
98‧‧‧消減器
102‧‧‧第二頻譜
104‧‧‧提取器

Claims (79)

  1. 一種用於圖像的以區塊為基礎之預測式解碼的設備,其包含:一合併器,其組配來合併該圖像之一預定區塊之一殘差信號與該預定區塊之一參考信號,以獲得一第一係數集合,該殘差信號校正該圖像之該預定區塊之一預測的一預測誤差;一消減器,其組配來對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;一提取器,其組配來從該第二係數集合獲得該殘差信號之一經修改版本;以及一重構器區塊,其組配來基於該殘差信號之該經修改版本而自資料串流解碼該圖像之該預定區塊。
  2. 如請求項1之設備,其中該參考信號包含該預定區塊之一鄰域的先前殘差信號。
  3. 如請求項1之設備,其中該圖像之該預定區塊為一經框間預測區塊。
  4. 一種用於圖像的以區塊為基礎之預測式解碼的設備,其包含:一解碼區塊,其組配來從一資料串流解碼一殘差信號,該殘差信號校正該圖像之一預定區塊之一預測信號的一預測誤差;以及一比較器,其組配來進行下列動作: 針對該預定區塊之一參考信號內的各係數位置,比較一係數與一臨界值,且若係數值低於該臨界值,則在一所採用信號內之對應係數位置處將該係數設定成一預界定值,由此獲得一經修改之所採用信號,其中該所採用信號包含該預測信號及/或該殘差信號;該解碼區塊組配來基於該經修改之所採用信號而自該資料串流解碼該預定區塊。
  5. 如請求項4之設備,其包含:一合併器,其組配來合併該所採用信號與該參考信號,以獲得一第一係數集合,其中該比較器組配來在該第一係數集合內之對應係數位置處將該係數設定成該預界定值,由此獲得一經修改之第一係數集合;以及一提取器,其組配來從該經修改之第一係數集合獲得該經修改之所採用信號。
  6. 如請求項5之設備,其包含:一分解器,其組配來對由該預測信號及該參考信號構成之一區執行一變換,以獲得該區之一第一係數集合;以及一組合器,其組配來使該經修改之第一係數集合經受一再變換,以獲得包括該經修改預測信號的該區之一經修改版本。
  7. 一種用於圖像的以區塊為基礎之預測式解碼的設備,其包含: 一重構器區塊,其組配來基於一殘差信號而自一資料串流解碼一圖像之一預定區塊,該殘差信號校正該圖像之一預定區塊之一預測的一預測誤差;一預測提供器,其組配來提供該圖像之該預定區塊之該預測;一第一精細化區塊,其用於對該圖像之該預定區塊之該預測進行一精細化;以及一第二精細化區塊,其用於對該殘差信號進行一精細化。
  8. 如請求項7之設備,其中:當處理一經框內預測區塊時使用該第一精細化區塊,且當處理一經框間預測區塊時使用該第二精細化區塊,或當處理一經框間預測區塊時使用該第一精細化區塊,且當處理一經框內預測區塊時使用該第二精細化區塊,或當處理一經框內預測區塊時使用該第一精細化區塊,且當處理一經框內預測區塊時使用該第二精細化區塊,或當處理一經框間預測區塊時使用該第一精細化區塊,且當處理一經框間預測區塊時使用該第二精細化區塊。
  9. 如請求項7之設備,其中該第一精細化區塊自該預測提供器接收該預定區塊之一預測信號之一第一版本,且其中該第一精細化區塊包括:一分解器,其組配來對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合; 一消減器,其組配來對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;以及一組合器,其組配來使該第二係數集合經受一再變換,以獲得包括該預測信號之一第二版本的該區之一經修改版本,且向該重構器區塊提供該預測信號之該第二版本。
  10. 如請求項7之設備,其中該第二精細化區塊自該重構器區塊接收該殘差信號,且其中該第二精細化區塊包括:一合併器,其組配來合併該殘差信號與該預定區塊之一參考信號以獲得一第一係數集合;一消減器,其組配來對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;以及一提取器,其組配來從該第二係數集合獲得該殘差信號之一經修改版本,且向該重構器區塊提供該殘差信號之該經修改版本。
  11. 如請求項9之設備,其中該臨界值係基於該預測信號之該第一版本之係數、或基於該參考信號之係數、或基於經合併信號之係數。
  12. 如請求項7之設備,其中該第一精細化區塊自該預測提供器接收該預定區塊之一預測信號之一第一版本,且其中該第一精細化區塊包括:一分解器,其組配來對由該預測信號之該第一版本及 該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;一消減器,其組配來對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值,該臨界值係基於該預測信號之該第一版本之係數、或基於該參考信號之係數、或基於包括該預測信號及該參考信號之一經合併信號之係數;一組合器,其組配來使該第二係數集合經受一再變換,以獲得包括該預測信號之一第二版本的該區之一經修改版本;以及一重構器區塊,其組配來基於該預測信號之該第二版本而自該資料串流解碼該圖像之該預定區塊。
  13. 如請求項7之設備,其中該第一精細化區塊自該預測提供器接收該預定區塊之一預測信號之一第一版本,且其中該第一精細化區塊包括:一分解器,其組配來對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;一消減器,其組配來對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;一組合器,其組配來使該第二係數集合經受一再變換,以直接獲得該預測信號之一第二版本;以及一重構器區塊,其組配來基於該預測信號之該第二版 本而自該資料串流解碼該圖像之該預定區塊。
  14. 如請求項13之設備,其中該預測信號之該第二版本係直接獲得而無需在空間域中對該區進行完全重構。
  15. 如請求項13之設備,其中該預測信號之該第二版本係藉由在該空間域中對該區進行部分重構來直接獲得。
  16. 如請求項7之設備,其中該第一精細化區塊自該預測提供器接收該預定區塊之一預測信號之一第一版本,且其中該第一精細化區塊包括:一分解器,其組配來對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;一消減器,其組配來對該第一係數集合執行定限以判定低於一臨界值之係數;一組合器,其組配來使該第一係數集合經受一再變換,以獲得包括該預測信號之一第二版本的該區之一經修改版本,其中在組合中不考慮具有低於該臨界值之幅度的係數位置;以及一重構器區塊,其組配來基於該預測信號之該第二版本而自該資料串流解碼該圖像之該預定區塊。
  17. 一種用於圖像的以區塊為基礎之預測式解碼的設備,其包含:一預測提供器,其組配來預測該圖像之一預定區塊, 以獲得該預定區塊之一預測信號之一第一版本;一分解器,其組配來對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;一消減器,其組配來對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;一組合器,其組配來使該第二係數集合經受一再變換,以直接獲得該預測信號之一第二版本;以及一重構器區塊,其組配來基於該預測信號之該第二版本而自資料串流解碼該圖像之該預定區塊,其中該預測信號之該第二版本係:直接獲得而無需在空間域中對該區進行完全重構,或藉由在該空間域中對該區進行部分重構來直接獲得。
  18. 一種用於圖像的以區塊為基礎之預測式解碼的設備,其包含:一預測提供器,其組配來預測該圖像之一預定區塊,以獲得該預定區塊之一預測信號之一第一版本;一分解器,其組配來對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;一消減器,其組配來對該第一係數集合執行定限以獲 得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;一組合器,其組配來使該第二係數集合經受一再變換,以直接獲得該預測信號之一第二版本;以及一重構器區塊,其組配來基於該預測信號之該第二版本而自資料串流解碼該圖像之該預定區塊,其中藉由該定限將該等係數設定成該預界定值包括:將一係數設定成取決於該臨界值之某一值,例如該臨界值之一預設分數,譬如該臨界值之一半,或一預設絕對值,譬如零,及/或將一係數減小某一量,例如藉由將該係數之一值朝向譬如零之一預設值移動,例如減小等於該臨界值或等於該臨界值之一分數,譬如該臨界值之一半的一量。
  19. 一種用於圖像的以區塊為基礎之預測式編碼的設備,其包含:一編碼區塊,其組配來將一殘差信號編碼至一資料串流中,該殘差信號校正該圖像之一預定區塊之一預測的一預測誤差;一合併器,其組配來合併該殘差信號與該預定區塊之一參考信號,以獲得一第一係數集合;一消減器,其組配來對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;以及 一提取器,其組配來從該第二係數集合獲得該殘差信號之一經修改版本;該編碼區塊組配來基於該殘差信號之該經修改版本而將該預定區塊編碼至該資料串流中。
  20. 如請求項19之設備,其中該參考信號包含該預定區塊之一鄰域的先前殘差信號。
  21. 如請求項19之設備,其中該圖像之該預定區塊為一經框間預測區塊。
  22. 一種用於圖像的以區塊為基礎之預測式編碼的設備,其包含:一編碼區塊,其組配來將一殘差信號編碼至一資料串流中,該殘差信號校正該圖像之一預定區塊之一預測信號的一預測誤差;以及一比較器,其組配來進行下列動作:針對該預定區塊之一參考信號內的各係數位置,比較一係數與一臨界值,且若係數值低於該臨界值,則在一所採用信號內之對應係數位置處將該係數設定成一預界定值,由此獲得一經修改之所採用信號,其中該所採用信號包含該預測信號及/或該殘差信號;該編碼區塊組配來基於該經修改之所採用信號而將該預定區塊編碼至該資料串流中。
  23. 如請求項22之設備,其包含:一合併器,其組配來合併該所採用信號與該參考信 號,以獲得一第一係數集合,其中該比較器組配來在該第一係數集合內之對應係數位置處將該係數設定成該預界定值,由此獲得一經修改之第一係數集合;以及一提取器,其組配來從該經修改之第一係數集合獲得該經修改之所採用信號。
  24. 如請求項23之設備,其包含:一分解器,其組配來對由該預測信號及該參考信號構成之一區執行一變換,以獲得該區之一第一係數集合;以及一組合器,其組配來使該經修改之第一係數集合經受一再變換,以獲得包括該經修改預測信號的該區之一經修改版本。
  25. 一種用於圖像的以區塊為基礎之預測式編碼的設備,其包含:一編碼區塊,其組配來將一殘差信號編碼至一資料串流中,該殘差信號校正該圖像之一預定區塊之一預測的一預測誤差;一預測提供器,其組配來提供該圖像之該預定區塊之該預測;一第一精細化區塊,其用於對該圖像之該預定區塊之該預測進行一精細化;以及一第二精細化區塊,其用於對該殘差信號進行一精細化。
  26. 如請求項25之設備,其中當處理一經 框內預測區塊時使用該第一精細化區塊,且當處理一經框間預測區塊時使用該第二精細化區塊。
  27. 如請求項25之設備,其中該第一精細化區塊自該預測提供器接收該預定區塊之一預測信號之一第一版本,且其中該第一精細化區塊包括:一分解器,其組配來對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;一消減器,其組配來對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;以及一組合器,其組配來使該第二係數集合經受一再變換,以獲得包括該預測信號之一第二版本的該區之一經修改版本,且向該編碼區塊提供該預測信號之該第二版本。
  28. 如請求項25之設備,其中該第二精細化區塊自該編碼區塊接收該殘差信號,且其中該第二精細化區塊包括:一合併器,其組配來合併該殘差信號與該預定區塊之一參考信號,以獲得一第一係數集合;一消減器,其組配來對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;以及一提取器,其組配來從該第二係數集合獲得該殘差信號之一經修改版本,且向該編碼區塊提供該殘差信號之該 經修改版本。
  29. 如請求項27之設備,其中該臨界值係基於該預測信號之該第一版本之係數、或基於該參考信號之係數、或基於經合併信號之係數。
  30. 如請求項25之設備,其中該第一精細化區塊自該預測提供器接收該預定區塊之一預測信號之一第一版本,且其中該第一精細化區塊包括:一預測提供器,其組配來預測該圖像之一預定區塊,以獲得該預定區塊之一預測信號之一第一版本;一分解器,其組配來對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;一消減器,其組配來對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值,該臨界值係基於該預測信號之該第一版本之係數、或基於該參考信號之係數、或基於包括該預測信號及該參考信號之一經合併信號之係數;一組合器,其組配來使該第二係數集合經受一再變換,以獲得包括該預測信號之一第二版本的該區之一經修改版本;以及一編碼區塊,其組配來基於該預測信號之該第二版本而將該預定區塊編碼至一資料串流中。
  31. 如請求項25之設備,其中該第一精細化區塊自該預測提供器接收該預定區塊之一預測信號之一 第一版本,且其中該第一精細化區塊包括:一預測提供器,其組配來預測該圖像之一預定區塊,以獲得該預定區塊之一預測信號之一第一版本;一分解器,其組配來對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;一消減器,其組配來對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;一組合器,其組配來使該第二係數集合經受一再變換,以直接獲得該預測信號之一第二版本;以及一編碼區塊,其組配來基於該預測信號之該第二版本而將該預定區塊編碼至一資料串流中。
  32. 如請求項31之設備,其中該預測信號之該第二版本係直接獲得而無需在空間域中對該區進行完全重構。
  33. 如請求項31之設備,其中該預測信號之該第二版本係藉由在該空間域中對該區進行部分重構來直接獲得。
  34. 如請求項25之設備,其中該第一精細化區塊自該預測提供器接收該預定區塊之一預測信號之一第一版本,且其中該第一精細化區塊包括:一預測提供器,其組配來預測該圖像之一預定區塊,以獲得該預定區塊之一預測信號之一第一版本; 一分解器,其組配來對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;一消減器,其組配來對該第一係數集合執行定限以判定低於一臨界值之係數;一組合器,其組配來使該第一係數集合經受一再變換,以獲得包括該預測信號之一第二版本的該區之一經修改版本,其中在組合中不考慮具有低於該臨界值之幅度的係數位置;以及一編碼區塊,其組配來基於該預測信號之該第二版本而將該預定區塊編碼至一資料串流中。
  35. 一種用於圖像的以區塊為基礎之預測式編碼的設備,其包含:一預測提供器,其組配來預測該圖像之一預定區塊,以獲得該預定區塊之一預測信號之一第一版本;一分解器,其組配來對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;一消減器,其組配來對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;一組合器,其組配來使該第二係數集合經受一再變換,以直接獲得該預測信號之一第二版本;以及一編碼區塊,其組配來基於該預測信號之該第二版本 而將該預定區塊編碼至一資料串流中,其中該預測信號之該第二版本係:直接獲得而無需在空間域中對該區進行完全重構,或藉由在該空間域中對該區進行部分重構來直接獲得。
  36. 如請求項1、4、7、12、13、16、19、22、25、30、31或34之設備,其中該臨界值係基於該預測信號之該第一版本之該等係數、或基於該參考信號之該等係數、或基於該經合併信號之該等係數。
  37. 如請求項1、4、7、12、16、19、22、25、30、31或34之設備,其中藉由該定限將該等係數設定成該預界定值包括:將一係數設定成取決於該臨界值之某一值,例如該臨界值之一預設分數,譬如該臨界值之一半,或一預設絕對值,譬如零,及/或將一係數減小某一量,例如藉由將該係數之一值朝向譬如零之一預設值移動,例如減小等於該臨界值或等於該臨界值之一分數,譬如該臨界值之一半的一量。
  38. 如請求項1、4、7、12、13、16、19、22、25、30、31或34之設備,其中將一係數設定成該預界定值包含量化與該預界定值相關聯之該係數。
  39. 如請求項1、4、7、12、13、16、19、22、25、30、31或34之設備,其中該預測信號之該第一 版本之該等係數/該殘差信號之該等係數或該參考信號之該等係數或包括該預測信號及該參考信號之一經合併信號之該等係數或該第一係數集合,界定該臨界值之一候選者清單,該候選者清單亦可在一解碼器側導出。
  40. 如請求項39之設備,其中重複及已為零之項自該候選者清單被移除。
  41. 如請求項39之設備,其中來自該候選者清單之用於定限的一臨界值係由一索引表示,該索引係在位元串流中傳輸。
  42. 如請求項41之設備,其中該候選者清單之該等索引係例如使用一截斷一元碼進行二進位化,且一單一脈絡模型或一專用脈絡模型可用於各二進位位置。
  43. 如請求項39之設備,其中,為了減少傳信額外負荷,該候選者清單被量化,量化步長係在該位元串流中或在標頭語法中傳信,其中該量化步長取決於例如一圖像量化參數。
  44. 如請求項39之設備,其中候選者清單長度經限制使得僅某些臨界值保持於該候選者清單中。
  45. 如請求項44之設備,其中:取決於預測模式及/或該量化參數,在外部或在內部限制該候選者清單長度,或自該候選者清單移除該候選者清單中以一最大臨界值開始之臨界值,直至達成臨界值之一所要數目,或藉由一固定方案或取決於該經合併信號及該參考信號 之該等係數之特性/分佈而作出保持哪些臨界值的決定。
  46. 如請求項1、4、7、12、13、16、19、22、25、30、31或34之設備,其中該臨界值係基於該預測信號之該第一版本之該等係數/該殘差信號之該等係數,且其中各變換係數形成界定一臨界值之一限值。
  47. 如請求項1、4、7、12、13、16、19、22、25、30、31或34之設備,其中該消減器組配來進行下列動作:針對該參考信號內之各係數位置,比較一係數與該臨界值,且若係數值低於該臨界值,則在該預測信號之該第一版本/該殘差信號內之對應係數位置處將該係數設定成該預界定值,或針對該預測信號之經變換第一版本/該殘差信號內之各係數位置,比較一係數與該臨界值,且若係數值低於該臨界值,則在該參考信號內之對應係數位置處將該係數設定成該預界定值。
  48. 如請求項1、4、7、12、13、16、19、22、25、30、31或34之設備,其中取決於該預定區塊之大小選擇該預定區塊之該鄰域,使得最終區塊具有某一大小,例如,該某一大小為該預定區塊之該大小的一整數倍,譬如二倍。
  49. 如請求項1、4、7、12、13、16、19、22、25、30、31或34之設備,其中該預定區塊之該鄰域包含: 圍繞該預定區塊之多側中之一者的一空間區域,及/或相對於該預定區塊偏移之一空間區域,及/或圍繞一參考區塊之多側中之一者的一空間區域。
  50. 如請求項49之設備,其中圍繞該預定區塊之多側中之一者的該空間區域包含該預定區塊向左側之一擴展,使得總寬度為N,且圍繞該預定區塊之多側中之一者的該空間區域包含該預定區塊向頂部之一擴展,使得總高度為M,而N與M二者較佳相等。
  51. 如請求項49之設備,其中該偏移係作為一圖像內運動向量傳信,使得該參考信號包括在一解碼器處可用之樣本,且其中可取決於一選定量化參數而自預界定運動向量之一候選者清單選擇該圖像內運動向量。
  52. 如請求項49之設備,其中相對於該預定區塊區域偏移之該空間區域具有與該預定區塊相同的大小,且該偏移係藉由一圖像內運動向量或藉由指向早先已處理之另一區塊之一指標予以傳信。
  53. 如請求項1、4、7、12、13、16、19、22、25、30、31或34之設備,其中該預定區塊之該鄰域係取決於如框內預測或框間預測之一預測模式及一量化參數中之一或多者來組配。
  54. 如請求項1、4、7、12、13、16、19、22、25、30、31或34之設備,其中該鄰域之不同大小列於一候選者清單中,且一選定大小係由一索引表示,該索引係在位元串流中傳輸,其中在該位元串流中傳輸之各索 引可表示一大小增大,使得在一解碼器處選擇下一可用擴展大小。
  55. 如請求項54之設備,其中該下一可用大小匹配可用變換,且在二個方向上將該區塊擴展至下一可用變換大小,使得該所傳輸索引之一增量導致二個大小皆增大至下一可用變換。
  56. 如請求項54之設備,其中該候選者清單之該等索引係例如使用一截斷一元碼進行二進位化,且一單一脈絡模型或一專用脈絡模型可用於各二進位位置。
  57. 如請求項54之設備,其中索引之數目:歸因於在接近圖框邊緣操作時對可用樣本數目之限制而在外部組配之情況下或在內部受到限制,或耦接至該量化參數。
  58. 如請求項1、4、7、12、13、16、19、22、25、30、31或34之設備,其中該設備組配來分別針對各分割結構或針對若干分割結構傳輸描述編碼程序之一組態的旁側資訊,例如該參考信號之一位置、一臨界值、指示一臨界值之一索引及類似者。
  59. 如請求項58之設備,其中,當針對若干分割結構傳輸該編碼程序之該組態時,該設備組配來應用一迭代策略,該迭代策略包括:基於含有若干分割結構之一固定柵格而選擇該編碼程序之參數,及使用運用該等選定參數的該編碼程序之結果重新計算 該柵格。
  60. 如請求項1、4、7、12、13、16、19、22、25、30、31或34之設備,其中:該係數集合包含一頻譜,及/或該等係數位置包含頻譜位置,及/或該等係數包含頻譜係數,及/或該組合器包含一頻譜組合器,及/或該分解器包含一頻譜分解器,及/或該變換包含一基本變換,例如一頻譜變換及/或一基礎變更,如一奇異值分解(SVC)、一FFT或一DCT,及/或該再變換包含一反基本變換,例如一反頻譜基本變換。
  61. 一種用於圖像的以區塊為基礎之預測式解碼的方法,其包含:合併該圖像之一預定區塊之一殘差信號與該預定區塊之一參考信號以獲得一第一係數集合,該殘差信號校正該圖像之該預定區塊之一預測的一預測誤差;對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;自該第二係數集合獲得該殘差信號之一經修改版本;以及基於該殘差信號之該經修改版本而自資料串流解碼該圖像之該預定區塊。
  62. 一種用於圖像的以區塊為基礎之預測式解碼的方法,其包含: 自一資料串流解碼一殘差信號,該殘差信號校正該圖像之一預定區塊之一預測信號的一預測誤差;以及針對該預定區塊之一參考信號內的各係數位置,比較一係數與一臨界值;以及若係數值低於該臨界值,則在一所採用信號內之對應係數位置處將該係數設定成預界定值,由此獲得一經修改之所採用信號,其中該所採用信號包含該預測信號及/或該殘差信號;其中該解碼包括基於該經修改之所採用信號而自該資料串流解碼該預定區塊。
  63. 一種用於圖像的以區塊為基礎之預測式解碼的方法,其包含:提供該圖像之一預定區塊之一預測;基於一殘差信號而自一資料串流解碼一圖像之該預定區塊,該殘差信號校正該圖像之該預定區塊之該預測的一預測誤差;以及對該圖像之該預定區塊之該預測及該殘差信號進行精細化。
  64. 如請求項63之方法,其中回應於處理一經框內預測區塊而對該預定區塊之該預測進行精細化,且回應於處理一經框間預測區塊而對該殘差信號進行精細化。
  65. 如請求項63之方法,其中對該預定區塊之該預測進行精細化包括: 自預測提供器接收該預定區塊之一預測信號之一第一版本,對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值,該臨界值係基於該預測信號之該第一版本之係數、或基於該參考信號之係數;使該第二係數集合經受一再變換,以獲得包括該預測信號之一第二版本的該區之一經修改版本;以及提供該預測信號之該第二版本以用於重構。
  66. 如請求項63之方法,其中對該殘差信號進行精細化包括:自編碼區塊接收該殘差信號,合併該殘差信號與該預定區塊之一參考信號以獲得一第一係數集合;對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;自該第二係數集合獲得該殘差信號之一經修改版本;以及提供該殘差信號之該經修改版本以用於重構。
  67. 如請求項63之方法,其中對該預定區塊之該預測進行精細化包括: 自預測提供器接收該預定區塊之一預測信號之一第一版本,對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值,該臨界值係基於該預測信號之該第一版本之係數、或基於該參考信號之係數;使該第一係數集合經受一再變換,以獲得包括該預測信號之一第二版本的該區之一經修改版本;以及基於該預測信號之該第二版本而自該資料串流解碼該圖像之該預定區塊。
  68. 如請求項63之方法,其中對該預定區塊之該預測進行精細化包括:自預測提供器接收該預定區塊之一預測信號之一第一版本,對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;使該第二係數集合經受一再變換以直接獲得該預測信號之一第二版本;以及 基於該預測信號之該第二版本而自該資料串流解碼該圖像之該預定區塊。
  69. 如請求項63之方法,其中對該預定區塊之該預測進行精細化包括:自預測提供器接收該預定區塊之一預測信號之一第一版本,對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;對該第一係數集合執行定限以判定低於一臨界值之係數;使該第一係數集合經受一再變換,以獲得包括該預測信號之一第二版本的該區之一經修改版本,其中在組合中不考慮具有低於該臨界值之幅度的係數位置;以及基於該預測信號之該第二版本而自該資料串流解碼該圖像之該預定區塊。
  70. 一種用於圖像的以區塊為基礎之預測式編碼的方法,其包含:將一殘差信號編碼至一資料串流中,該殘差信號校正該圖像之一預定區塊之一預測的一預測誤差;合併該殘差信號與該預定區塊之一參考信號以獲得一第一係數集合;對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;以及 自該第二係數集合獲得該殘差信號之一經修改版本;其中編碼包括基於該殘差信號之該經修改版本而將該預定區塊編碼至該資料串流中。
  71. 一種用於圖像的以區塊為基礎之預測式編碼的方法,其包含:將一殘差信號編碼至一資料串流中,該殘差信號校正該圖像之一預定區塊之一預測信號的一預測誤差;針對該預定區塊之一參考信號內的各係數位置,比較一係數與一臨界值;以及若係數值低於該臨界值,則在一所採用信號內之對應係數位置處將該係數設定成預界定值,由此獲得一經修改之所採用信號,其中該所採用信號包含該預測信號及/或該殘差信號;其中該編碼包括基於該經修改之所採用信號而將該預定區塊編碼至該資料串流中。
  72. 一種用於圖像的以區塊為基礎之預測式編碼的方法,其包含:將一殘差信號編碼至一資料串流中,該殘差信號校正該圖像之一預定區塊之一預測的一預測誤差;提供該圖像之該預定區塊之該預測;對該圖像之該預定區塊之該預測及該殘差信號進行精細化。
  73. 如請求項72之方法,其中回應於處理一經框內預測區塊而對該預定區塊之該預測進行精細化, 且回應於處理一經框間預測區塊而對該殘差信號進行精細化。
  74. 如請求項72之方法,其中對該預定區塊之該預測進行精細化包括:接收該預定區塊之一預測信號之一第一版本,對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值,該臨界值係基於該預測信號之該第一版本之係數、或基於該參考信號之係數;以及使該第二係數集合經受一再變換,以獲得包括該預測信號之一第二版本的該區之一經修改版本;以及提供該預測信號之該第二版本以用於編碼程序。
  75. 如請求項72之方法,其中對該殘差信號進行精細化包括:接收該殘差信號,合併該殘差信號與該預定區塊之一參考信號以獲得一第一係數集合;對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;以及自該第二係數集合獲得該殘差信號之一經修改版本;以及 提供該殘差信號之該經修改版本以用於編碼程序。
  76. 如請求項72之方法,其中對該預定區塊之該預測進行精細化包括:接收該預定區塊之一預測信號之一第一版本,對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值,該臨界值係基於該預測信號之該第一版本之係數、或基於該參考信號之係數;使該第二係數集合經受一再變換,以獲得包括該預測信號之一第二版本的該區之一經修改版本;以及基於該預測信號之該第二版本而將該預定區塊編碼至一資料串流中。
  77. 如請求項72之方法,其中對該預定區塊之該預測進行精細化包括:接收該預定區塊之一預測信號之一第一版本,對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;對該第一係數集合執行定限以獲得一第二係數集合,使得低於一臨界值之係數被設定成一預界定值;使該第二係數集合經受一再變換以直接獲得該預測信 號之一第二版本;以及基於該預測信號之該第二版本而將該預定區塊編碼至一資料串流中。
  78. 如請求項72之方法,其中對該預定區塊之該預測進行精細化包括:接收該預定區塊之一預測信號之一第一版本,對由該預測信號之該第一版本及該預定區塊之一參考信號構成的一區執行一變換,以獲得該區之一第一係數集合;對該第一係數集合執行定限以判定低於一臨界值之係數;使該第一係數集合經受一基本再變換,以獲得包括該預測信號之一第二版本的該區之一經修改版本,其中在組合中不考慮具有低於該臨界值之幅度的係數位置;以及基於該預測信號之該第二版本而將該預定區塊編碼至一資料串流中。
  79. 一種包含指令之電腦程式產品,當由一電腦執行程式時,該等指令致使該電腦進行如請求項61、62、63、67、68、69、70、71、72、76、77或78之方法。
TW108111032A 2018-03-29 2019-03-28 圖像之精細化以區塊為基礎之預測式編碼及解碼技術 TWI744618B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP18165042.5 2018-03-29
EP18165042 2018-03-29

Publications (2)

Publication Number Publication Date
TW201943273A TW201943273A (zh) 2019-11-01
TWI744618B true TWI744618B (zh) 2021-11-01

Family

ID=61873317

Family Applications (1)

Application Number Title Priority Date Filing Date
TW108111032A TWI744618B (zh) 2018-03-29 2019-03-28 圖像之精細化以區塊為基礎之預測式編碼及解碼技術

Country Status (4)

Country Link
US (2) US12120321B2 (zh)
EP (1) EP3777192A1 (zh)
TW (1) TWI744618B (zh)
WO (1) WO2019185819A1 (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200110220A (ko) * 2019-03-12 2020-09-23 현대자동차주식회사 잔차블록을 효율적으로 코딩하는 방법 및 장치
US12058322B2 (en) * 2020-11-05 2024-08-06 Alibaba Group Holding Limited Methods and apparatuses for filtering intra predicted video blocks
KR102566798B1 (ko) * 2021-10-25 2023-08-11 에스케이텔레콤 주식회사 코드 레벨의 초해상화 방법 및 그를 위한 초해상화 모델 학습방법
US20240414097A1 (en) * 2024-08-23 2024-12-12 Beijing Youzhuju Network Technology Co., Ltd. Data delivery management across a plurality of channels

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090238276A1 (en) * 2006-10-18 2009-09-24 Shay Har-Noy Method and apparatus for video coding using prediction data refinement
WO2017133660A1 (en) * 2016-02-04 2017-08-10 Mediatek Inc. Method and apparatus of non-local adaptive in-loop filters in video coding

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5787209A (en) * 1996-02-05 1998-07-28 Hewlett-Packard Company Method of filtering images using image compressibility to determine threshold parameter
EP2938071B1 (en) * 2001-11-29 2017-11-15 Godo Kaisha IP Bridge 1 Coding distortion removal method
EP3035687A1 (en) * 2014-12-16 2016-06-22 Thomson Licensing A device and a method for encoding an image and corresponding decoding method and decoding device
EP3446480B1 (en) * 2016-04-22 2025-10-08 InterDigital VC Holdings, Inc. Prediction systems and methods for video coding based on filtering nearest neighboring pixels
EP3264769A1 (en) * 2016-06-30 2018-01-03 Thomson Licensing Method and apparatus for video coding with automatic motion information refinement
WO2018070914A1 (en) * 2016-10-12 2018-04-19 Telefonaktiebolaget Lm Ericsson (Publ) Residual refinement of color components
WO2018127418A1 (en) 2017-01-05 2018-07-12 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Block-based predictive coding and decoding of a picture
WO2019022568A1 (ko) * 2017-07-28 2019-01-31 한국전자통신연구원 영상 처리 방법, 그를 이용한 영상 부호화/복호화 방법 및 그 장치

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090238276A1 (en) * 2006-10-18 2009-09-24 Shay Har-Noy Method and apparatus for video coding using prediction data refinement
WO2017133660A1 (en) * 2016-02-04 2017-08-10 Mediatek Inc. Method and apparatus of non-local adaptive in-loop filters in video coding

Also Published As

Publication number Publication date
WO2019185819A1 (en) 2019-10-03
TW201943273A (zh) 2019-11-01
EP3777192A1 (en) 2021-02-17
US20210084313A1 (en) 2021-03-18
US12120321B2 (en) 2024-10-15
US20240430452A1 (en) 2024-12-26

Similar Documents

Publication Publication Date Title
US9628814B2 (en) Motion vector encoding/decoding method and device and image encoding/decoding method and device using same
US10939119B2 (en) Method and apparatus for encoding and decoding video using skip mode
US10116942B2 (en) Method and apparatus for decoding a video using an intra prediction
JP2023543985A (ja) 多用途ビデオコーディングのためのテンプレートマッチング予測
JP2023179682A (ja) 隣接サンプル減少を伴う線形またはアフィン変換を使用するイントラ予測
US20120269263A1 (en) Method for coding and method for reconstruction of a block of an image
TWI744618B (zh) 圖像之精細化以區塊為基礎之預測式編碼及解碼技術
JP2015508617A (ja) 映像の符号化における係数の符号化
CN103688543A (zh) 进行图像编码和解码的设备和方法
US11375191B2 (en) Method and apparatus for adaptive transform in video encoding and decoding
US9491480B2 (en) Motion vector encoding/decoding method and apparatus using a motion vector resolution combination, and image encoding/decoding method and apparatus using same
KR20210015810A (ko) 부분적으로 공유된 루마 및 크로마 코딩 트리들을 이용한 비디오 인코딩 및 디코딩을 위한 방법 및 장치
JP2025038219A (ja) 符号化/復号化におけるデータ依存関係
US11729426B2 (en) Block-based predictive coding and decoding of a picture
JP2017507538A (ja) 適応予測フィルタを用いて映像信号をエンコード、デコードするための方法及び装置
HK40082283A (zh) 图像的基於块的预测编码和解码