TWI910081B - 解碼方法、編碼方法、及產生位元流的方法 - Google Patents
解碼方法、編碼方法、及產生位元流的方法Info
- Publication number
- TWI910081B TWI910081B TW114129436A TW114129436A TWI910081B TW I910081 B TWI910081 B TW I910081B TW 114129436 A TW114129436 A TW 114129436A TW 114129436 A TW114129436 A TW 114129436A TW I910081 B TWI910081 B TW I910081B
- Authority
- TW
- Taiwan
- Prior art keywords
- block
- filter
- pixels
- filtering
- unit
- Prior art date
Links
Abstract
編碼裝置包含有處理器及記憶體,處理器是使用記憶體,根據量化參數,決定夾區塊邊界呈非對稱的濾波器特性,並進行具有已決定的濾波器特性的解區塊濾波處理。例如,在濾波器特性的決定上,也可以量化參數愈大,該解區塊濾波處理的影響變得愈大的方式,來決定濾波器特性。
Description
發明領域 本揭示是有關於編碼裝置、解碼裝置、編碼方法及解碼方法。
發明背景 被稱為HEVC(High Efficiency Video Coding/高效率視訊編碼)之影像編碼標準規格已藉由JCT-VC(Joint Collaborative Team on Video Coding)而被標準化。
先行技術文獻 非專利文獻 非專利文獻1:H.265(ISO/IEC 23008-2 HEVC(High Efficiency Video Coding))
發明概要 發明欲解決之課題 在如此的編碼及解碼技術中,尋求更進一步的改善。
於是,本揭示之目的在於提供能實現更進一步的改善之編碼裝置、解碼裝置、編碼方法或者解碼方法。 為解決課題的手段
本揭示一態樣之編碼裝置是包含有:處理器;及記憶體,前述處理器是使用前述記憶體,根據量化參數,決定夾區塊邊界呈非對稱的濾波器特性,並進行具有已決定的前述濾波器特性的解區塊濾波處理。
本揭示一態樣的解碼裝置是包含有:處理器;及記憶體,前述處理器是使用前述記憶體,根據量化參數,決定夾區塊邊界呈非對稱的濾波器特性,並進行具有已決定的前述濾波器特性的解區塊濾波處理。
另,該等概括性或者是具體性的態樣,可以透過系統、方法、積體電路、電腦程式或者電腦可讀取之CD-ROM等之記錄媒體來實現,也可以透過系統、方法、積體電路、電腦程式、及記錄媒體的任意組合來實現。 發明的效果
本揭示可提供能實現更進一步的改善之編碼裝置、解碼裝置、編碼方法或者解碼方法。
較佳實施例之詳細說明 在作為一種圖像編碼方式的H.265/HEVC之解區塊濾波處理中,適用著具有夾區塊邊界呈對稱的特性之濾波器。因此而造成如下情形,例如在像夾區塊邊界而位於其中一方的像素的誤差小,且夾區塊邊界而位於另一方的像素之誤差大的情況般之誤差分布不連續時,因為對稱地施行了濾波處理,而使誤差的減少效率降低。在此,誤差是指原圖像與再構成圖像的像素值之差。
本揭示一態樣之編碼裝置包含有處理器及記憶體,前述處理器是使用前述記憶體,決定夾區塊邊界呈非對稱的濾波器特性,並進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該編碼裝置進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。
例如,在前述濾波器特性的決定上,也可以是:以愈是與原圖像的誤差大的可能性高的像素,該解區塊濾波處理的影響變得愈大的方式,來決定前述非對稱的濾波器特性。
依此,該編碼裝置可使對於誤差大的像素的濾波處理的影響變大,因此有更能減少該像素的誤差的可能性。又,該編碼裝置可減少對於誤差小的像素的濾波處理的影響,因此有可抑制該像素的誤差增加的可能性。
例如,在前述濾波器特性的決定上,也可是:將基準濾波器的濾波係數變更成夾前述區塊邊界呈非對稱,藉此決定前述非對稱的濾波器特性。
例如,在前述濾波器特性的決定上,也可以是:決定夾前述區塊邊界呈非對稱的權重,在前述解區塊濾波處理中,進行使用有濾波係數的濾波運算,藉由已決定的前述非對稱的權重而對前述濾波運算前後的像素值的變化量進行加權。
例如,在前述濾波器特性的決定上,也可以是:決定夾前述區塊邊界呈非對稱的偏移值(offset),在前述解區塊濾波處理中,進行使用有濾波係數的濾波運算,在前述濾波運算之後的像素值加上已決定的前述非對稱的偏移值。
例如,在前述濾波器特性的決定上,也可以是:決定夾前述區塊邊界呈非對稱的基準值,在前述解區塊濾波處理中,進行使用有濾波係數的濾波運算,並於前述濾波運算前後的像素值的變化量超過前述基準值時,將前述變化量剪裁成前述基準值。
例如,在前述濾波器特性之決定上,也可以夾前述區塊邊界呈非對稱地,設定判定是否進行前述解區塊濾波處理的條件。
本揭示一態樣之解碼裝置包含有處理器及記憶體,前述處理器是使用前述記憶體,決定夾區塊邊界呈非對稱的濾波器特性,並進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該解碼裝置進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。
例如,在前述濾波器特性的決定上,也可以是:以愈是與原圖像的誤差大的可能性高的像素,該解區塊濾波處理的影響變得愈大的方式,來決定前述非對稱的濾波器特性。
依此,該解碼裝置可使對於誤差大的像素的濾波處理的影響變大,因此有更能減少該像素的誤差的可能性。又,該解碼裝置可減少對於誤差小的像素的濾波處理的影響,因此有可抑制該像素的誤差增加的可能性。
例如,在前述濾波器特性的決定上,也可以是:以使基準濾波器的濾波係數變更成夾前述區塊邊界呈非對稱的方式,來決定前述非對稱的濾波器特性。
例如,在前述濾波器特性的決定上,也可以是:決定夾前述區塊邊界呈非對稱的權重,在前述解區塊濾波處理中,進行使用有濾波係數的濾波運算,藉由已決定的前述非對稱的權重而對前述濾波運算前後的像素值的變化量進行加權。
例如,在前述濾波器特性的決定上,也可以是:決定夾前述區塊邊界呈非對稱的偏移值,在前述解區塊濾波處理中,進行使用有濾波係數的濾波運算,在前述濾波運算之後的像素值加上已決定的前述非對稱的偏移值。
例如,在前述濾波器特性的決定上,也可以是:決定夾前述區塊邊界呈非對稱的基準值,在前述解區塊濾波處理中,進行使用有濾波係數的濾波運算,並於前述濾波運算之前後的像素值的變化量超過前述基準值時,將前述變化量剪裁成前述基準值。
例如,在前述濾波器特性的決定上,也可以夾前述區塊邊界呈非對稱地,設定判定是否進行前述解區塊濾波處理的條件。
本揭示一態樣之編碼方法是進行以下步驟:決定夾區塊邊界呈非對稱的濾波器特性,並進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該編碼方法進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。
本揭示一態樣之解碼方法進行以下步驟:決定夾區塊邊界呈非對稱的濾波器特性,並進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該解碼方法進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。
本揭示一態樣之編碼裝置包含有處理器及記憶體,前述處理器是使用前述記憶體,根據夾區塊邊界的像素值,決定夾前述區塊邊界呈非對稱的濾波器特性,進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該編碼裝置進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。又,該編碼裝置可根據夾區塊邊界之像素值,決定適當的濾波器特性。
例如,在前述濾波器特性的決定上,也可根據前述像素值的差,來決定前述濾波器特性。
例如,在前述濾波器特性的決定上,也可以是:前述像素值的差愈大,將夾前述區塊邊界之前述濾波器特性的差愈加放大。
依此,該編碼裝置,例如有如下可能性,即,可抑制在區塊邊界與圖像內的物件的邊緣一致的時候等進行不必要的平滑化的情形。
例如,在前述濾波器特性的決定上,也可比較前述像素值的差與基於量化參數的閾值,當前述像素值的差大於前述閾值的時候,相較於前述像素值的差小於前述閾值的時候,將夾前述區塊邊界的前述濾波器特性的差放大。
依此,該編碼裝置可決定對於量化參數的誤差有所影響的濾波器特性。
例如,在前述濾波器特性的決定上,也可以是前述像素值的差愈大,將夾前述區塊邊界的前述濾波器特性的差愈加縮小。
依此,該解碼裝置,例如在主觀上區塊邊界易引人注意時,可抑制平滑化因非對稱而造成減弱的情況,有可抑制主觀功能劣化的可能性。
例如,在前述濾波器特性的決定上,也可根據前述像素值的分散,來決定前述濾波器特性。
本揭示一態樣的解碼裝置包含有:處理器及記憶體,前述處理器是使用前述記憶體,根據夾區塊邊界的像素值,決定夾前述區塊邊界呈非對稱的濾波器特性,進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該解碼裝置進行濾波處理,以此有能減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。又,該解碼裝置有可以根據夾區塊邊界的像素值的差,決定適當的濾波器特性的可能性。
例如,在前述濾波器特性的決定上,也可根據前述像素值的差,來決定前述濾波器特性。
例如,在前述濾波器特性的決定上,也可以是前述像素值的差愈大,將夾前述區塊邊界之前述濾波器特性的差愈加放大。
依此,該解碼裝置可將對於誤差大的像素的濾波處理的影響放大,因此有更能減少像素的誤差的可能性。又,該解碼裝置可降低對於誤差小的像素的濾波處理的影響,因此有能抑制使該像素的誤差增加的可能性。
例如,在前述濾波器特性的決定上,也可比較前述像素值的差與基於量化參數的閾值,當前述像素值的差大於前述閾值的時候,相較於前述像素值的差小於前述閾值的時候,將夾前述區塊邊界的前述濾波器特性的差放大。
依此,該解碼裝置可決定對於量化參數的誤差有所影響的濾波器特性。
例如,在前述濾波器特性的決定上,前述像素值的差愈大,將夾前述區塊邊界的前述濾波器特性的差愈加縮小也可。
依此,該解碼裝置,例如有如下可能性,即,可抑制在區塊邊界與圖像內的物件的邊緣一致的時候等進行不必要的平滑化的情形。
例如,在前述濾波器特性的決定上,也可根據前述像素值的分散,來決定前述濾波器特性。
本揭示一態樣之編碼方法是進行以下步驟:根據夾區塊邊界的像素值,決定夾前述區塊邊界呈非對稱的濾波器特性,並進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該編碼方法進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。又,該編碼方法可根據夾區塊邊界的像素值的差,來決定適當的濾波器特性。
本揭示一態樣的解碼方法是進行以下步驟:根據夾區塊邊界的像素值,決定夾前述區塊邊界呈非對稱的濾波器特性,並進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該解碼方法進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。又,該解碼方法可根據夾區塊邊界的像素值的差,來決定適當的濾波器特性。
本揭示一態樣的編碼裝置包含有處理器及記憶體,前述處理器是使用前述記憶體,根據內預測的預測方向與區塊邊界的角度,決定夾前述區塊邊界呈非對稱的濾波器特性,進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該編碼裝置進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。又,該編碼裝置可根據內預測的預測方向與區塊邊界的角度,來決定適當的濾波器特性。
例如,在前述濾波器特性的決定上,也可以是前述角度愈接近垂直,將夾前述區塊邊界的前述濾波器特性的差愈加放大。
依此,該編碼裝置可將對於誤差大的像素的濾波處理的影響放大,因此有能更減少該像素的誤差的可能性。又,該編碼裝置可降低對於誤差小的像素的濾波處理的影響,因此有可抑制該像素的誤差增加的可能性。
例如,在前述濾波器特性的決定上,也可以是前述角度愈接近水平,將夾前述區塊邊界的前述濾波器特性的差愈加縮小。
依此,該編碼裝置可將對於誤差大的像素的濾波處理的影響放大,因此有能更減少該像素的誤差的可能性。又,該編碼裝置可降低對於誤差小的像素的濾波處理的影響,因此有可抑制該像素的誤差增加的可能性。
本揭示一態樣的解碼裝置包含有處理器及記憶體,前述處理器是使用前述記憶體,根據內預測的預測方向與區塊邊界的角度,決定夾前述區塊邊界呈非對稱的濾波器特性,進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該解碼裝置進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。又,該解碼裝置具有如下可能性,即,可根據內預測的預測方向與區塊邊界的角度,來決定適當的濾波器特性。
例如,在前述濾波器特性的決定上,也可以是前述角度愈接近垂直,將夾前述區塊邊界的前述濾波器特性的差愈加放大。
依此,該解碼裝置可將對於誤差大的像素的濾波處理的影響放大,因此有能更減少該像素的誤差的可能性。又,該解碼裝置可降低對於誤差小的像素的濾波處理的影響,因此有可抑制該像素的誤差增加的可能性。
例如,在前述濾波器特性的決定上,也可以是前述角度愈接近水平,將夾前述區塊邊界的前述濾波器特性的差愈加縮小。
依此,該解碼裝置可將對於誤差大的像素的濾波處理的影響放大,因此有能更減少該像素的誤差的可能性。又,該解碼裝置可降低對於誤差小的像素的濾波處理的影響,因此有可抑制該像素的誤差增加的可能性。
本揭示一態樣的編碼方法是進行以下步驟:根據內預測的預測方向與區塊邊界的角度,決定夾前述區塊邊界呈非對稱的濾波器特性,並進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該編碼方法進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。又,該編碼方法可根據內預測的預測方向與區塊邊界的角度,來決定適當的濾波器特性。
本揭示一態樣之解碼方法是進行以下步驟:根據內預測的預測方向與區塊邊界的角度,決定夾區塊邊界呈非對稱的濾波器特性,進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該解碼方法進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。又,該解碼方法可根據內預測的預測方向與區塊邊界的角度,來決定適當的濾波器特性。
本揭示一態樣的編碼裝置包含有處理器及記憶體,前述處理器是使用前述記憶體,根據對象像素的區塊內的位置,決定夾區塊邊界呈非對稱的濾波器特性,對前述對象像素進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該編碼裝置進行濾波處理,以此有可減少誤差的可能性,該濾波處理具有夾區塊邊界呈非對稱的濾波器特性。又,該編碼裝置可根據對象像素的區塊內的位置,來決定適當的濾波器特性。
例如,在前述濾波器特性的決定上,也可以是以愈是離內預測的參考像素遠的像素,該濾波器處理的影響變得愈大的方式,來決定前述濾波器特性。
依此,該編碼裝置可將對於誤差大的像素的濾波處理的影響放大,因此有能更減少該像素的誤差的可能性。又,該編碼裝置可降低對於誤差小的像素的濾波處理的影響,因此有可抑制該像素的誤差增加的可能性。
例如,在前述濾波器特性的決定上,也能以右下的像素的前述解區塊濾波處理的影響大於左上方的像素的前述解區塊處理的影響的方式,來決定前述前述濾波器特性。
依此,該編碼裝置可放大對於誤差大的像素的濾波處理的影響,因此有更能減少像素的誤差的可能性。又,該編碼裝置可降低對於誤差小的像素的濾波處理的影響,因此有能抑制使該像素的誤差增加之可能性。
本揭示一態樣的解碼裝置包含有處理器及記憶體,前述處理器是使用前述記憶體,根據對象像素的區塊內的位置,決定夾區塊邊界呈非對稱的濾波器特性,對前述對象像素進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該解碼裝置進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。又,該解碼裝置可根據對象像素的區塊內的位置,來決定適當的濾波器特性。
例如,在前述濾波器特性的決定上,也可以是以愈是離內預測的參考像素遠的像素,該濾波處理的影響變得愈大的方式,來決定前述濾波器特性。
依此,該解碼裝置可將對於誤差大的像素的濾波處理的影響放大,因此有能更減少該像素的誤差的可能性。又,該解碼裝置可降低對於誤差小的像素的濾波處理的影響,因此有可抑制該像素的誤差增加的可能性。
例如,在前述濾波器特性的決定上,也可以是以右下的像素的前述解區塊濾波處理的影響大於左上方的像素的前述解區塊處理的影響的方式,來決定前述前述濾波器特性。
依此,該解碼裝置可放大對於誤差大的像素的濾波處理的影響,因此有更能減少像素的誤差的可能性。又,該解碼裝置可降低對於誤差小的像素的濾波處理的影響,因此有能抑制使該像素的誤差增加之可能性。
本揭示一態樣的編碼方法是進行以下步驟:根據對象像素的區塊內的位置,決定夾區塊邊界呈非對稱的濾波器特性,對前述對象像素進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該編碼方法進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。又,該編碼方法可根據夾區塊邊界之像素值,決定適當的濾波器特性。
本揭示一態樣的解碼方法是進行以下步驟:根據對象像素的區塊內的位置,決定夾區塊邊界呈非對稱的濾波器特性,對前述對象像素進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該解碼方法進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。又,該解碼方法可根據對象像素的區塊內的位置,來決定適當的濾波器特性。
本揭示一態樣的編碼裝置包含有處理器及記憶體,前述處理器是使用前述記憶體,根據量化參數,決定夾區塊邊界呈非對稱的濾波器特性,進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該編碼裝置進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。又,該編碼裝置可根據量化參數,來決定適當的濾波器特性。
例如,在前述濾波器特性的決定上,也可以是以量化參數愈大,前述解區塊濾波處理的影響變得愈大的方式,來決定前述濾波器特性。
依此,該編碼裝置可將對於誤差大的像素的濾波處理的影響放大,因此有能更減少該像素的誤差的可能性。又,該編碼裝置可降低對於誤差小的像素的濾波處理的影響,因此有可抑制該像素的誤差增加的可能性。
例如,在前述濾波器特性的決定上,也可以是以如下方式來決定前述濾波器特性,該方式為比起隨著右下方的像素的前述量化參數的變化之前述影響的變化來說,隨著左上方的像素的前述量化參數的變化之前述影響的變化較大。
依此,該編碼裝置可將對於誤差大的像素的濾波處理的影響放大,因此有能更減少該像素的誤差的可能性。
本揭示一態樣的解碼裝置包含有處理器及記憶體,前述處理器是使用前述記憶體,根據量化參數,決定夾區塊邊界呈非對稱的濾波器特性,進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該解碼裝置進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。又,該解碼裝置可根據量化參數,來決定適當的濾波器特性。
例如,在前述濾波器特性的決定上,也可以是以量化參數愈大,前述解區塊濾波處理的影響變得愈大的方式,來決定前述濾波器特性。
依此,該解碼裝置可將對於誤差大的像素的濾波處理的影響放大,因此有能更減少該像素的誤差的可能性。又,該解碼裝置可降低對於誤差小的像素的濾波處理的影響,因此有可抑制該像素的誤差增加的可能性。
例如,在前述濾波器特性的決定上,也可以是以如下方式來決定前述濾波器特性,該方式為比起隨著右下方的像素的前述量化參數的變化之前述影響的變化來說,隨著左上方的像素的前述量化參數的變化之前述影響的變化較大。
依此,該解碼裝置可將對於誤差大的像素的濾波處理的影響放大,因此有能更減少該像素的誤差的可能性。
本揭示一態樣的編碼方法也可進行以下步驟:根據量化參數,決定夾區塊邊界呈非對稱的濾波器特性,進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該編碼方法進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。又,該編碼方法可根據量化參數,來決定適當的濾波器特性。
本揭示一態樣的解碼方法也可進行以下步驟:根據量化參數,決定夾區塊邊界呈非對稱的濾波器特性,進行具有已決定的前述濾波器特性的解區塊濾波處理。
依此,該解碼方法進行濾波處理,以此有可減少誤差的可能性,該濾波處理是具有夾區塊邊界呈非對稱的濾波器特性。又,該解碼方法可根據量化參數,來決定適當的濾波器特性。
另,該等概括性或者是具體性的態樣,可以透過系統、方法、積體電路、電腦程式或者電腦可讀取之CD-ROM等之記錄媒體來實現,也可以透過系統、方法、積體電路、電腦程式、及記錄媒體的任意組合來實現。
以下,一邊參考圖式,一邊具體地說明實施形態。
另,在以下所說明的實施形態每一個都是顯示概括性或具體性的例子。在以下的實施形態中所示的數值、形狀、材料、構成要素、構成要素的配置位置及連接形態、步驟、步驟的順序等都只是例示罷了,其旨趣並非是來限定請求的範圍。又,以下的實施形態中之構成要素之中,針對未記載於顯示最上位概念的獨立請求項之構成要素,是當做為任意的構成要素來說明的。 (實施形態1)
首先針對可適用後述的本揭示之各態樣中所說明的處理及/或構成之編碼裝置及解碼裝置的一例,說明實施形態1的概要。惟,實施形態1只不過是可適用本揭示之各態樣所說明之處理及/或構成的編碼裝置及解碼裝置之一例罷了,在本揭示所說明的處理及/或構成也可實施於與實施形態1不同的編碼裝置及解碼裝置中。
對於實施形態1,適用在本揭示之各態樣所說明的處理及/或構成時,例如亦可以進行以下任一種方式。 (1)對於實施形態1之編碼裝置或者解碼裝置,在構成該編碼裝置或者解碼裝置之複數個構成要素之中,將與本揭示的各態樣中所說明的構成要素對應的構成要素,替換成本揭示的各態樣中所說明的構成要素; (2) 對於實施形態1之編碼裝置或者解碼裝置,針對構成該編碼裝置或者解碼裝置之複數個構成要素之中一部分的構成要素,先施予功能或者欲實施之處理的追加、替換、刪除等之任意的變更後,再將與本揭示之各態樣中所說明的構成要素對應的構成要素,替換成本揭示之各態樣中所說明的構成要素; (3) 對於實施形態1之編碼裝置或者解碼裝置所要實施的方法,針對處理的追加、及/或該方法所含的複數個處理之中一部分的處理,先施予替換、刪除等之任意的變更後,再將與本揭示的各態樣中所說明的處理相對應的處理,替換成本揭示的各態樣中所說明的處理; (4) 將構成實施形態1之編碼裝置或者解碼裝置之複數個構成要素之中一部分的構成要素,和本揭示之各態樣中所說明的構成要素、具有本揭示之各態樣中所說明的構成要素所具備的功能之一部分之構成要素、或者要實施本揭示之各態樣中所說明之構成要素所要實施的處理之一部分的構成要素組合而實施; (5)將具備構成實施形態1之編碼裝置或者解碼裝置之複數個構成要素之中一部分的構成要素所具備的功能之一部分的構成要素、或者實施構成實施形態1之編碼裝置或者解碼裝置之複數個構成要素之中一部分的構成要素所實施的處理之一部分的構成要素,和本揭示之各態樣中所說明之構成要素、具備在本揭示之各態樣中所說明之構成要素所具備的功能之一部分之構成要素、或者是實施本揭示之各態樣中所說明之構成要素所實施之處理之一部分的構成要素組合來實施; (6)對於實施形態1之編碼裝置或者解碼裝置所要實施的方法,在該方法所含的複數個處理之中,將對應於本揭示之各態樣中所說明之處理的處理,替換成本揭示之各態樣中所要說明的處理; (7)將實施形態1之編碼裝置或者解碼裝置所要實施的方法所含之複數個處理之中的一部分處理,和本揭示之各態樣中所說明之處理相組合來實施。
另,本揭示之各態樣中所說明之處理及/或構成的實施方式並不限於上述例子。例如,也可以實施在與實施形態1中所揭示之動態圖像/圖像編碼裝置或者是動態圖像/圖像解碼裝置不同的目的而被利用的裝置中,也可以單獨地實施已在各態樣中所說明之處理及/或構成。又,也可將已在不同的態樣中所說明的處理及/或構成組合來實施。 [編碼裝置的概要]
首先,說明實施形態1之編碼裝置之概要。圖1是顯示實施形態1之編碼裝置100之功能構成之方塊圖。編碼裝置100是將動態圖像/圖像,以區塊單位進行編碼之動態圖像/圖像編碼裝置。
如圖1所示,編碼裝置100為將圖像以區塊單位進行編碼之裝置,包含有:分割部102、減法部104、轉換部106、量化部108、熵編碼部110、反量化部112、反轉換部114、加法部116、區塊記憶體118、迴路濾波部120、訊框記憶體122、內預測部124、間預測部126、及預測控制部128。
編碼裝置100是例如藉由通用處理器及記憶體來實現。此時,當儲存在記憶體的軟體程式藉由處理器來執行時,處理器是作為分割部102、減法部104、轉換部106、量化部108、熵編碼部110、反量化部112、反轉換部114、加法部116、迴路濾波部120、內預測部124、間預測部126、及預測控制部128而發揮功能。又,編碼裝置100也可作為對應於分割部102、減法部104、轉換部106、量化部108、熵編碼部110、反量化部112、反轉換部114、加法部116、迴路濾波部120、內預測部124、間預測部126、及預測控制部128之專用的1個以上的電子電路來實現。
以下,針對編碼裝置100所含之各構成要素予以說明。 [分割部]
分割部102是將輸入動態圖像所含之各圖片分割成複數個區塊,並將各區塊輸出至減法部104。例如,分割部102,首先將圖片分割成固定尺寸(例如128×128)之區塊。該固定尺寸的區塊有時被稱為編碼樹單元(CTU)。接著,分割部102根據遞迴性的四元樹(quadtree)及/或二元樹(binary tree)區塊分割,將固定尺寸的區塊之每一個分割成可變尺寸(例如64×64以下)的區塊。這個可變尺寸的區塊有時被稱為編碼單元(CU)、預測單元(PU)或者轉換單元(TU)。另,在本實施形態中,沒有區別CU、PU及TU的必要,也可以是圖片內的一部分或者全部的區塊成為CU、PU、TU的處理單位。
圖2是顯示實施形態1中的區塊分割一例之圖。在圖2中,實線是表示透過四元樹區塊分割所得到的區塊邊界,虛線是表示透過二元樹區塊分割所得到的區塊邊界。
在此,區塊10是128×128像素的正方形區塊(128×128區塊)。該128×128區塊10,首先是被分割成4個正方形的64×64區塊(四元樹區塊分割)。
左上的64×64區塊是進一步被垂直分割成2個矩形的32×64區塊,左邊的32×64區塊是進一步被垂直分割成2個矩形的16×64區塊(二元樹區塊分割)。其結果,左上的64×64區塊是被分割成2個16×64區塊11、12、及32×64區塊13。
右上的64×64區塊是被水平分割成2個矩形的64×32區塊14、15(二元樹區塊分割)。
左下的64×64區塊是被分割成4個正方形的32×32區塊(四元樹區塊分割)。4個32×32區塊之中,左上的區塊及右下的區塊被進一步分割。左上的32×32區塊是被垂直分割成2個矩形的16×32區塊,右邊的16×32區塊是進一步被水平分割成2個16×16區塊(二元樹區塊分割)。右下的32×32區塊是被水平分割成2個32×16區塊(二元樹區塊分割)。其結果,左下的64×64區塊是被分割成1個16×32區塊16、2個16×16區塊17、18、2個32×32區塊19、20、及2個32×16區塊21、22。
右下的64×64區塊23不分割。
如上,在圖2中,區塊10是根據遞迴性的四元樹及二元樹區塊分割,而被分割成13個可變尺寸的區塊11至23。如此分割,有時被稱為QTBT(quad-tree plus binary tree)分割。
另,在圖2中,1個區塊是被分割成4個或者2個區塊(四元樹或者二元樹區塊分割),而分割並不限於此。例如,1個區塊也可被分割成3個區塊(三元樹區塊分割)。如此包括三元樹區塊分割的分割有時被稱為MBT(multi type tree)分割。 [減法部]
減法部104是以分割部102所分割的區塊單位,從原訊號(原樣本)減去預測訊號(預測樣本)。即,減法部104是算出編碼對象區塊(以下,稱為目前區塊)的預測誤差(也稱為殘差)。接著,減法部104將所算出的預測誤差輸出至轉換部106。
原訊號是編碼裝置100的輸入訊號,為表示構成動態圖像之各圖片的圖像之訊號(例如亮度(luma)訊號及2個色差(chroma)訊號)。在下面內容中,也將表示圖像的訊號稱為樣本。 [轉換部]
轉換部106是將空間區域的預測誤差轉換成頻率區域的轉換係數,且將轉換係數輸出至量化部108。具體來說,轉換部106,例如對於空間區域的預測誤差,進行已事先決定的離散餘弦轉換(DCT)或者離散正弦轉換(DST)。
另,轉換部106也可從複數個轉換型式之中適應性地選擇轉換型式,使用對應於所選擇的轉換型式之轉換基底函數(transform basis function),將預測誤差轉換成轉換係數。如此轉換有時被稱為EMT(explicit multiple core transform)或者AMT(adaptive multiple transform)。
複數個轉換型式,例如包括有DCT-II、DCT-V、DCT-VIII、DST-I及DST-VII。圖3是顯示對應於各轉換型式之轉換基底函數之表。在圖3中,N是顯示輸入像素的數量。從該等複數個轉換型式之中的轉換型式的選擇,例如也可依據預測的種類(內預測及間預測),也可依據內預測模式。
顯示是否適用如此的EMT或者AMT之資訊(例如被稱為AMT旗標)以及顯示所被選擇的轉換型式的資訊是以CU等級而被進行訊號化。另,該等資訊的訊號化沒有必要限定在CU等級,也可為其他等級(例如序列等級(sequence level)、圖片等級(picture level)、切片等級(slice level)、方塊(tile)等級或者CTU等級)。
又,轉換部106也可將轉換係數(轉換結果)再轉換。如此再轉換有時被稱為AST(adaptive secondary transform)或者NSST(non-separable secondary transform)。例如,轉換部106是依對應於內預測誤差之轉換係數的區塊所含之各個子區塊(例如4×4子區塊)進行再轉換。顯示是否適用NSST之資訊及有關於使用在NSST之轉換矩陣之資訊是以CU等級進行訊號化。另,該等資訊的訊號化沒有必要限定在CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、方塊等級或者CTU等級)。
在此,可分離(Separable)的轉換是指依方向分離輸入的維數,來進行數次轉換的方式,不可分離(Non-Separable)的轉換是指在輸入為多維時,將2以上的維度匯整,而視為1維,再一起進行轉換的方式。
例如,以不可分離的轉換之1例來說,可舉例有如下者:在輸入為4×4的區塊時,將該區塊視為具有16個要素之一個陣列,並對該陣列,以16×16的轉換矩陣進行轉換處理。
又,同樣地,將4×4的輸入區塊視為如同具有16個要素之一整個陣列,之後對該陣列進行數次吉文斯旋轉(Givens rotation)之構成(Hypercube Givens Transform/超立方體吉文斯轉換),也是不可分離(Non- Separable)性轉換的例子。 [量化部]
量化部108是將從轉換部106所輸出的轉換係數進行量化。具體來說,量化部108是以預定的掃描順序來掃描當前區塊的轉換係數,根據對應於所掃描的轉換係數的量化參數(QP),而將該轉換係數進行量化。然後,量化部108將當前區塊之業經量化的轉換係數(以下稱為量化係數)輸出至熵編碼部110及反量化部112。
預定的順序是轉換係數的量化/反量化之用的順序。例如,預定的掃描順序是以頻率的升冪排序(從低頻到高頻的順序)或者降冪排序(從高頻到低頻的順序)來定義。
量化參數是指定義量化步階(量化幅寬)的參數。例如,若量化參數的值增加時,量化步階也會增加。即,若量化參數的值增加,量化誤差也會變大。 [熵編碼部]
熵編碼部110是將從量化部108輸入的量化係數進行可變長度編碼,藉此產生編碼訊號(編碼位元流)。具體來說,熵編碼部110是例如將量化係數進行二值化,且將二值化訊號進行算術編碼。 [反量化部]
反量化部112是將來自量化部108的輸入之量化係數進行反量化。具體來說,反量化部112是以預定的掃描順序而將當前區塊的量化係數進行反量化。然後,反量化部112是將當前區塊的業經反量化的轉換係數輸出至反轉換部114。 [反轉換部]
反轉換部114是將來自反量化部112之輸入的轉換係數進行反轉換,藉此將預測誤差復原。具體來說,反轉換部114是對轉換係數進行與轉換部106所進行的轉換對應之反轉換,藉此將當前區塊的預測誤差進行復原。然後,反轉換部114是將已復原的預測誤差輸出至加法部116。
另,已復原的預測誤差是因為量化的進行而失去了資訊,因此和減法部104所算出的預測誤差不一致。即,在已復原的預測誤差中含有量化誤差。 [加法部]
加法部116是將來自反轉換部114之輸入的預測誤差、與來自預測控制部128之輸入的預測樣本相加,藉此再構成當前區塊。然後,加法部116將已再構成的區塊輸出至區塊記憶體118及迴路濾波部120。再構成區塊有時也被稱為局部解碼區塊。 [區塊記憶體]
區塊記憶體118是用以儲存區塊的記憶體,其中該區塊為於內預測被參考的區塊,且為編碼對象圖片(以下稱為當前圖片)內的區塊。具體來說,區塊記憶體118是儲存從加法部116所輸出的再構成區塊。 [迴路濾波部]
迴路濾波部120是對透過加法部116而再構成的區塊施加迴路濾波,且將已濾波的再構成區塊輸出至訊框記憶體122。迴路濾波是指在編碼迴路內所使用的濾波器(迴路內濾波器),例如包括解區塊濾波器(DF)、樣本適應性偏移(SAO)及適應性迴路濾波器(ALF)等。
在ALF中,適用用以移除編碼變形的最小平方誤差濾波器,例如按當前區塊內的各個2×2子區塊,根據局部性的梯度(gradient)的方向及活性度(activity),適用從複數個濾波器之中所選擇的1個濾波器。
具體來說,首先子區塊(例如2×2子區塊)被分類成複數個類別(例如15或者25類)。子區塊的分類是根據梯度的方向及活性度來進行。例如,使用梯度的方向值D(例如0至2或者0至4)與梯度的活性值A(例如0至4),而算出分類值C(例如C=5D+A)。然後,根據分類值C,使子區塊被分類成複數個類別(例如15或者25類)。
梯度的方向值D,例如是藉由比較複數個方向(例如水平、垂直及2個對角方向)的梯度導出。又,梯度的活性值A,例如是藉由將複數個方向的梯度相加,將加法結果進行量化來導出。
根據如此分類的結果,從複數個濾波器之中,決定子區塊用的濾波器。
以於ALF所使用的濾波器的形狀來說,例如利用圓對稱形狀。如圖4A至圖4C是顯示ALF所使用的濾波器的形狀的複數例之圖。圖4A顯示5×5菱形形狀濾波器,圖4B顯示7×7菱形形狀濾波器,圖4C是顯示9×9菱形形狀濾波器。顯示濾波器的形狀之資訊是以圖片等級來被進行訊號化。另,顯示濾波器的形狀之資訊的訊號化並不須限定在圖片等級,也可為其他等級(例如序列等級、切片等級、方塊等級、CTU等級或者是CU等級)。
ALF的開啟/關閉,例如是以圖片等級或者CU等級來決定。例如,針對亮度,是以CU等級來決定是否適用ALF,針對色差,是以圖片等級來決定是否適用ALF。顯示ALF的開啟/關閉的資訊,是以圖片等級或者CU等級來進行訊號化。另,顯示ALF的開啟/關閉的資訊,並無須限定在圖片等級或者CU等級,也可為其他等級(例如序列等級、切片等級、方塊等級、或者CTU等級)。
可選擇的複數個濾波器(例如迄至15或25的濾波器)的係數集是以圖片等級進行訊號化。另,係數集的訊號化並無須限定在圖片等級,也可為其他等級(例如序列等級、切片等級、方塊等級、CTU等級、CU等級或者是子區塊等級)。 [訊框記憶體]
訊框記憶體122是一種用以儲存被使用在間預測的參考圖片之記憶部,有時也被稱為訊框緩衝器。具體來說,訊框記憶體122是儲存已經由迴路濾波部120過濾的再構成區塊。 [內預測部]
內預測部124是藉由參考區塊記憶體118所儲存的當前圖片內的區塊,進行當前區塊的內預測(也稱為畫面內預測),以產生預測訊號(內預測訊號)。具體來說,內預測部124是藉由參考鄰接於當前區塊之區塊的樣本(例如亮度值、色差值)進行內預測,以產生內預測訊號,且將內預測訊號輸出至預測控制部128。
例如,內預測部124利用已事先規定的複數個內預測模式之中的1個,來進行內預測。複數個內預測模式是包括1個以上的非方向性預測模式、及複數個方向性預測模式。
1個以上的非方向性預測模式,例如包括以H.265/HEVC(High-Efficiency Video Coding/高效率視訊編碼)規格(非專利文獻1)所規定的平面(Planar)預測模式及直流(DC)預測模式。
複數個方向性預測模式,例如包括以H.265/ HEVC規格所規定的33種方向的預測模式。另,複數個方向性預測模式,除了33種方向外,也可進一步包括32種方向的預測模式(合計共65種方向性預測模式)。圖5A是顯示內預測中的67種內預測模式(2個非方向性預測模式及65個方向性預測模式)之圖。實線箭頭符號是表示以H.265/HEVC規格所規定的33種方向,虛線箭頭符號是表示所追加的32種方向。
另,在色差區塊的內預測中,亮度區塊也可被參考。即,根據當前區塊的亮度成分,當前區塊的色差成分也可被預測。如此之內預測有時被稱為CCLM (cross- component linear model)預測。像這種參考亮度區塊之色差區塊的內預測模式(例如被稱為CCLM模式),也可作為1種色差區塊的內預測模式而加入。
內預測部124,也可根據水平/垂直方向的參考像素的梯度,來補正內預測後的像素值。像這樣伴隨著補正的內預測有時被稱為PDPC(position dependent intra prediction combination)。顯示有無PDPC的適用之資訊(例如被稱為PDPC旗標),例如是以CU等級而被進行訊號化。另,該資訊的訊號化並無須限定在CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、方塊等級、或者CTU等級)。 [間預測部]
間預測部126是參考參考圖片,來進行當前區塊的間預測(也叫做畫面間預測),以此產生預測訊號(間預測訊號),其中該參考圖片是訊框記憶體122所儲存的參考圖片,且為與當前圖片相異的參考圖片。間預測是以當前區塊或者當前區塊內的子區塊(例如4×4區塊)的單位來進行。例如,間預測部126是針對當前區塊或者子區塊,在參考圖片內進行移動估測(motion estimation)。接著,間預測部126是利用藉由移動估測而得到的移動資訊(例如移動向量)來進行移動補償,以此產生當前區塊或者子區塊的間預測訊號。然後,間預測部126是將所產生的間預測訊號輸出至預測控制部128。
用於移動補償的移動資訊被進行訊號化。對於移動向量的訊號化,移動向量預測子(motion vector predictor)也可被使用。即,移動向量與移動向量預測子之間的差分也可被訊號化。
另,不僅使用透過移動估測所得到的當前區塊的移動資訊,也可使用鄰接區塊的移動資訊,來產生間預測訊號。具體來說,也可將根據透過移動估測所得到的移動資訊之預測訊號、與根據鄰接區塊的移動資訊之預測訊號予以加權加總,藉此以當前區塊內的子區塊單位來產生間預測訊號。如此之間預測(移動補償)有時被稱為OBMC (overlapped block motion compensation)。
在如此之OBMC模式中,顯示OBMC用的子區塊的尺寸之資訊(例如被稱為OBMC區塊尺寸)是以序列等級而被訊號化。又,顯示是否適用OBMC模式之資訊(例如被叫做OBMC旗標)是以CU等級而被訊號化。另,該等資訊的訊號化的等級並無須限定在序列等級及CU等級,也可為其他等級(例如圖片等級、切片等級、方塊等級、CTU等級、或者子區塊等級)。
針對OBMC模式,更具體地來進行說明。圖5B及圖5C是用以說明OBMC處理所進行的預測圖像補正處理的概要之流程圖及概念圖。
首先,使用被分配到編碼對象區塊之移動向量(MV),取得依通常的移動補償所得到之預測圖像(Pred)。
其次,將已編碼完畢的左鄰接區塊的移動向量(MV_L)適用在編碼對象區塊,取得預測圖像(Pred_L),將前述預測圖像與Pred_L加權、疊合,以此進行預測圖像的第1次補正。
以同樣方式,將已編碼完畢之上鄰接區塊的移動向量(MV_U)適用在編碼對象區塊,取得預測圖像 (Pred_U),將前述已進行第1次補正的預測圖像與Pred_U賦予權重、疊合,以此進行預測圖像的第2次補正,將此作為最後的預測圖像。
另,在此說明了使用左鄰接區塊與上鄰接區塊的2階段補正的方法,但也能作成如下構成,即,使用右鄰接區塊或下鄰接區塊,進行比2階段更多次數的補正之構成。
另,進行疊合的區域,也可為僅只區塊邊界附近之一部分的區域,而非區塊整體的像素區域。
另,在此雖是針對來自1張參考圖片的預測圖像補正處理進行說明,但是在從複數張參考圖片來補正預測圖像的情況也是同樣的方式,從各參考圖片取得已補正的預測圖像後,將所得到的預測圖像進一步疊合,以此作為最後的預測圖像。
另,前述處理對象區塊也可為預測區塊單位,也可為將預測區塊進一步加以分割的子區塊單位。
作為判定是否適用OBMC處理的方法,例如有一種使用obmc_flag之方法,該obmc_flag是顯示是否適用OBMC處理的訊號。以一具體例來說,在編碼裝置中,判定編碼對象區塊是否屬於移動為複雜的區域,在屬於移動為複雜的區域時,設定值為1來作為obmc_flag,適用OBMC處理進行編碼,在不屬於移動為複雜的區域時,則設定值為0來作為obmc_flag,不適用OBMC處理來進行編碼。另一方面,在解碼裝置中,將記述在串流的obmc_flag解碼,以此因應該值,切換是否適用OBMC處理,來進行解碼。
另,移動資訊可在不被訊號化,而在解碼裝置側導出。例如也可採用以H.265/HEVC規格所規定的合併(merge)模式。又,例如也可於解碼裝置側進行移動估測,藉此導出移動資訊。此時,不使用當前區塊的像素值而進行移動估測。
在此,針對在解碼裝置側進行移動估測之模式來說明。在該解碼裝置側進行移動估測的模式有時被稱為PMMVD(pattern matched motion vector derivation)模式或者FRUC(frame rate up-conversion)模式。
FRUC處理之一例是顯示在圖5D中。首先,參考空間上或時間上鄰接於當前區塊的編碼完畢區塊之移動向量,產生複數個候選的清單(也可與合併清單為共通),該複數個候選的清單各自具有移動向量預測子。其次,從已登錄在候選清單的複數個候選MV之中選擇最佳候選MV。例如,算出候選清單所含之各候選的評價值,根據評價值,而選擇1個候選。
接著,根據所選擇的候選之移動向量,導出當前區塊用的移動向量。具體來說,例如將所選擇的候選之移動向量(最佳候選MV),就這樣導出來作為當前區塊用的移動向量。又,例如在參考圖片內之位置的周邊區域中進行圖案匹配,藉此也可以導出當前區塊用的移動向量,其中該參考圖片是對應於所選擇之候選的移動向量。即,對於最佳候選MV之周邊的區域,以同樣的方法進行搜索,進而有評價值為好的數字之MV時,將最佳候選MV更新為前述MV,將該MV當做為當前區塊之最後的MV亦可。另,也可做成不實施該處理之構成。
在以子區塊單位進行處理時,也可構成為完全同樣的處理。
另,評價值是可透過對應於移動向量之參考圖片內的區域、與預定區域之間的圖案匹配,來求取再構成圖像的差分值,藉此而算出。另,除了差分值外,也可使用除此以外的資訊,來算出評價值。
對於圖案匹配,是使用第1圖案匹配或者第2圖案匹配。第1圖案匹配及第2圖案匹配,有時分別被稱為雙向匹配(bilateral matching)以及模板匹配(template matching)。
在第1圖案匹配中,是在2個區塊之間進行圖案匹配,該2個區塊是不同的2個參考圖片內的2個區塊,且是沿著當前區塊的移動軌跡(motion trajectory)。因此,在第1圖案匹配中,是使用沿著當前區塊的移動軌跡的其他參考圖片內之區域,來作為算出上述候選的評價值之用的預定區域。
圖6是用以說明在沿著移動軌跡的2個區塊間之圖案匹配(雙向匹配)一例之圖。如圖6所示,在第1圖案匹配下,在沿著當前區塊(Cur block)的移動軌跡之2個區塊,且為不同的2個參考圖片(Ref0、Ref1)內的2個區塊之配對(pair)之中,搜索最為相配的配對,藉此導出2個移動向量(MV0、MV1)。具體來說,對於當前區塊,導出以候選MV所指定的第1編碼完畢參考圖片(Ref0)內的指定位置中之再構成圖像、與已將前述候選MV以顯示時間間隔進行定標(scaling)的對稱MV所指定的第2編碼完畢參考圖片(Ref1)內的指定位置中之再構成圖像間之差分,使用所得到的差分值來算出評價值。在複數個候選MV之中,選擇評價值為最佳值的候選MV,作為最後MV,即可。
在連續的移動軌跡的假設之下,指示2個參考區塊的移動向量(MV0、MV1)相對於當前圖片(Cur Pic)與2個參考圖片(Ref0、Ref1)間之時間上的距離(TD0、TD1)成比例。例如,當前圖片是時間上位於2個參考圖片之間,在從當前圖片到2個參考圖片的時間上的距離相等時,在第1圖案匹配上,能導出鏡射對稱的雙向之移動向量。
在第2圖案匹配上,在當前圖片內的模板(在當前圖片內鄰接於當前區塊的區塊(例如上及/或左鄰接區塊))與參考圖片內的區塊之間,進行圖案匹配。因此,在第2圖案匹配上,使用鄰接於當前圖片內的當前區塊的區塊,以作為上述之候選的評價值之算出用的預定區域。
圖7是用以說明在當前圖片內的模板(Template)與參考圖片內的區塊之間的圖案匹配(模板匹配)一例之圖。如圖7所示,在第2圖案匹配中,在參考圖片(Ref0)內搜索在當前圖片(Cur Pic)內和鄰接於當前區塊(Cur block)之區塊最匹配的區塊,藉此導出當前區塊的移動向量。具體來說,對於當前區塊,導出:左鄰接及上鄰接兩邊或者任一邊的編碼完畢區域的再構成圖像、與以候選MV所指定的編碼完畢參考圖片(Ref0)內的同等位置中的再構成圖像間之差分,且使用所得到的差分值,算出評價值,在複數個候選MV之中選擇評價值為最佳之值的候選MV,作為最佳候選MV,即可。
如此之顯示是否適用FRUC模式之資訊(例如被稱為FRUC旗標)是以CU等級而被訊號化。又,在適用FRUC模式時(例如FRUC旗標為真時),顯示圖案匹配之方法(第1圖案匹配或者第2圖案匹配)之資訊(例如被稱為FRUC模式旗標)是以CU等級而被訊號化。另,該等資訊之訊號化並不須限定於CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、方塊等級、CTU等級或者子區塊等級)。
在此,針對根據模型來導出移動向量的模式進行說明,其中該模型為假設為等速直線運動之模型。該模式有時被稱為BIO (bi-directional optical flow,雙向光流)模式。
圖8是用以說明假設為等速直線運動的模型之圖。在圖8中,(vx,vy)是表示速度向量,τ0、τ1各表示為當前圖片 (Cur Pic)與2個參考圖片(Ref0,Ref1)間的時間上的距離。(MVx0,MVy0)是表示對應於參考圖片Ref0之移動向量,(MVx1、MVy1)是表示對應於參考圖片Ref1之移動向量。
此時,速度向量(vx,vy)在等速直線運動的假設之下,(MVx0,MVy0)及(MVx1,MVy1)各表示為(vxτ0,vyτ0)及(-vxτ1,-vyτ1),使以下的光流等式(1)成立。 (數1)
在此,I(k)是表示移動補償後之參考圖像k(k=0,1)的亮度值。該光流等式是顯示(i)亮度值的時間微分、(ii)水平方向的速度及參考圖像的空間梯度的水平成分的乘積、與(iii)垂直方向的速度及參考圖像的空間梯度的垂直成分的乘積之和等於零者。根據該光流等式與埃爾米特插值(Hermite interpolation)之組合,將從合併清單等所得到的區塊單位之移動向量以像素單位進行補正。
另,也能以異於根據假設等速直線運動之模型之移動向量的導出之方法,在解碼裝置側導出移動向量。例如,也可根據複數個鄰接區塊的移動向量,以子區塊單位導出移動向量。
在此,針對根據複數個鄰接區塊的移動向量,以子區塊單位導出移動向量的模式進行說明。該模式有時被稱為仿射移動補償預測(affine motion compensation prediction)模式。
圖9A是用以說明子區塊單位的移動向量之導出之圖,該導出是根據複數個鄰接區塊的移動向量來進行。在圖9A中,當前區塊含有16個4×4子區塊。在此,根據鄰接區塊的移動向量,導出當前區塊的左上角控制點的移動向量v0,且根據鄰接子區塊的移動向量,導出當前區塊的右上角控制點的移動向量v1。接著,使用2個移動向量v0及v1,經由以下的式(2),而導出當前區塊內的各子區塊的移動向量(vx,vy)。 (數2)
在此,x及y各表示子區塊的水平位置及垂直位置,w表示已事先訂定的權重係數。
在如此之仿射移動補償預測模式中,也可包括左上及右上角控制點的移動向量之導出方法相異之幾個模式。顯示如此之仿射移動補償預測模式之資訊(例如被稱為仿射旗標)是以CU等級而被進行訊號化。另,該顯示仿射移動補償預測模式之資訊的訊號化無須限定在CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、方塊等級、CTU等級或者子區塊等級)。 [預測控制部]
預測控制部128是選擇內預測訊號及間預測訊號之任一種,且將所選擇的訊號作為預測訊號,而輸出至減法部104及加法部116。
在此,說明經由合併模式而導出編碼對象圖片的移動向量之例。圖9B是用以說明藉合併模式進行之移動向量導出處理之概要之圖。
首先,產生已登錄預測MV之候選的預測MV清單。以預測MV的候選來說,包括有:空間鄰接預測MV,是編碼對象區塊之空間上位於周邊的複數個編碼完畢區塊所具有之MV;時間鄰接預測MV,是投影到編碼完畢參考圖片中的編碼對象區塊之位置的附近區塊所具有的MV;結合預測MV,是組合空間鄰接預測MV及時間鄰接預測MV之MV值而產生的MV;以及零預測MV,其值為零的MV等。
其次,從已登錄在預測MV清單的複數個預測MV之中,選擇1個預測MV,以此將之決定作為編碼對象區塊的MV。
進而,在可變長度編碼部中,將merge_idx記述在串流中,並進行編碼,其中該merge_idx是顯示已選擇哪一預測MV之訊號。
另,登錄在圖9B中所說明之預測MV清單之預測MV只是一個例子,也可為和圖中的個數不同的個數,或者不含圖中的預測MV之一部分的種類之構成,或者追加了圖中的預測MV之種類以外的預測MV之構成。
另,也可使用藉合併模式所導出之編碼對象區塊的MV,進行後述的DMVR處理,藉此來決定最後的MV。
在此,針對使用DMVR處理來決定MV之例進行說明。
圖9C是用以說明DMVR處理的概要之概念圖。
首先,以已設定於處理對象區塊的最適合的MVP作為候選MV來說,依照前述候選MV,從L0方向的處理完畢圖片即第1參考圖片、及L1方向之處理完畢圖片即第2參考圖片,分別取得參考像素,取各參考像素的平均,以此產生模板。
其次,使用前述模板,分別搜索第1參考圖片及第2參考圖片的候選MV之周邊區域,將成本為最小的MV決定作為最後的MV。另,成本值是利用模板的各像素值與搜索區域的各像素值之差分值及MV值等來算出。
另,在編碼裝置及解碼裝置中,在此所說明的處理之概要基本上是共通的。
另,就算不是在此所說明的處理內容,只要是能搜索候選MV的周邊而導出最後的MV之處理,也可使用其他處理。
在此,針對使用LIC處理來產生預測圖像的模式進行說明。
圖9D是用以說明使用依LIC處理之亮度補正處理的預測圖像產生方法之概要之圖。
首先,從參考圖片導出MV,其中該參考圖片是編碼完畢圖片,該MV是用以取得對應於編碼對象區塊之參考圖像。
其次,對於編碼對象區塊,利用左鄰接及上鄰接之編碼完畢周邊參考區域的亮度像素值、與位於以MV所指定的參考圖片內之同等位置之亮度像素值,擷取顯示亮度值在參考圖片與編碼對象圖片是如何變化的資訊,而算出亮度補正參數。
對於以MV所指定的參考圖片內之參考圖像,使用前述亮度補正參數,進行亮度補正處理,以此產生相對於編碼對象區塊之預測圖像。
另,圖9D中的前述周邊參考區域的形狀只是其中一例而已也可使用除此以外的形狀。
又,在此已針對從1張參考圖片來產生預測圖像的處理進行說明,但從複數張的參考圖片來產生預測圖像的情況也是同樣,先對已從各個參考圖片取得的參考圖像,以同樣的方法進行亮度補正處理,之後再產生預測圖像。
以判定是否適用LIC處理之方法來說,例如有使用lic_flag之方法,該lic_flag是顯示是否適用LIC處理的訊號。以具體的一例來說,在編碼裝置中,判定編碼對象區塊是否為屬於發生亮度變化之區域,若為屬於發生亮度變化的區域時,對lic_flag設定其值為1,適用LIC處理而進行編碼,若不屬於發生亮度變化之區域時,則對lic_flag設定其值為0,不適用LIC處理而進行編碼。另一方面,在解碼裝置中,將記述於串流之lic_flag進行解碼,以此因應該值來切換是否適用LIC處理,而進行解碼。
以判定是否適用LIC處理之另一方法來說,例如還有如下方法,該方法是依照在周邊區塊是否適用過LIC處理而判定。以具體的一例來說,編碼對象區塊為合併模式時,判定在於合併模式處理中的MV之導出時所選擇的周邊的編碼完畢區塊是否適用LIC處理而進行編碼,因應該結果,切換是否適用LIC處理,而進行編碼。另,在該例的情況,解碼中的處理也是完全相同。 [解碼裝置的概要]
其次,針對解碼裝置之概要進行說明,該解碼裝置可將從上述編碼裝置100所輸出的編碼訊號(編碼位元流)進行解碼。圖10是顯示實施形態1之解碼裝置200的功能構成之方塊圖。解碼裝置200是以區塊單位而將動態圖像/圖像進行解碼的動態圖像/圖像解碼裝置。
如圖10所示,解碼裝置200包含有:熵解碼部202、反量化部204、反轉換部206、加法部208、區塊記憶體210、迴路濾波部212、訊框記憶體214、內預測部216、間預測部218、及預測控制部220。
解碼裝置200,例如可透過通用處理器及記憶體來實現。此時,記憶體所儲存的軟體程式經由處理器來執行時,處理器是作為熵解碼部202、反量化部204、反轉換部206、加法部208、迴路濾波部212、內預測部216、間預測部218、及預測控制部220而運作。又,解碼裝置200也可作為對應於熵解碼部202、反量化部204、反轉換部206、加法部208、迴路濾波部212、內預測部216、間預測部218、及預測控制部220之專用的1個以上的電子電路而附諸實現。
以下,針對解碼裝置200所含之各構成要素予以說明。 [熵解碼部]
熵解碼部202是將編碼位元流進行熵解碼。具體來說,熵解碼部202是例如進行從編碼位元流變成二值訊號的算術解碼。接著,熵解碼部202將二值訊號進行多值化(debinarize)。藉此,熵解碼部202是以區塊單位而將量化係數輸出至反量化部204。 [反量化部]
反量化部204是將解碼對象區塊(以下稱為當前區塊)的量化係數進行反量化,其中該解碼對象區塊為來自熵解碼部202的輸入。具體來說,反量化部204是針對當前區塊的量化係數之各個,根據對應於該量化係數之量化參數,而將該量化係數進行反量化。然後,反量化部204是將當前區塊的業經反量化之量化係數(即轉換係數)輸出至反轉換部206。 [反轉換部]
反轉換部206是將轉換係數進行反轉換,藉此將預測誤差復原,其中該轉換係數為來自反量化部204之輸入。
例如已從編碼位元流解讀的資訊是顯示適用EMT或者AMT的時候(例如AMT旗標為真),反轉換部206是根據顯示所解讀的轉換型式的資訊,將當前區塊的轉換係數進行反轉換。
又,例如已從編碼位元流解讀的資訊是顯示適用NSST的時候,反轉換部206是對轉換係數適用反再轉換。 [加法部]
加法部208是將預測誤差與預測樣本相加,藉此再構成當前區塊,其中該預測誤差是來自反轉換部206之輸入,該預測樣本是來自預測控制部220之輸入。然後,加法部208是將業經再構成的區塊輸出至區塊記憶體210及迴路濾波部212。 [區塊記憶體]
區塊記憶體210是用以儲存在內預測中被參考的區塊且為解碼對象圖片(以下稱為當前圖片)內的區塊之記憶部。具體來說,區塊記憶體210是儲存從加法部208所輸出的再構成區塊。 [迴路濾波部]
迴路濾波部212是對已經由加法部208而再構成的區塊施行迴路濾波,且將業已濾波的再構成區塊輸出至訊框記憶體214及顯示裝置等。
顯示已從編碼位元流解讀之ALF之開啟/關閉的資訊是顯示ALF之開啟的時候,根據一部分的梯度的方向及活性度,從複數個濾波器之中,選擇1個濾波器,將所選擇的濾波器適用於再構成區塊。 [訊框記憶體]
訊框記憶體214是用以儲存使用在間預測的參考圖片之記憶部,有時候也被稱為訊框緩衝器。具體來說,訊框記憶體214是儲存經由迴路濾波部212所濾波的再構成區塊。 [內預測部]
內預測部216是根據已從編碼位元流解讀的內預測模式,參考區塊記憶體210所儲存的當前圖片內的區塊,來進行內預測,以此產生預測訊號(內預測訊號)。具體來說,內預測部216是參考鄰接於當前區塊的區塊之樣本(例如亮度值、色差值)來進行內預測,以此產生內預測訊號,且將內預測訊號輸出至預測控制部220。
另,在色差區塊的內預測中,選擇了參考亮度區塊的內預測模式時,內預測部216也可根據當前區塊的亮度成分,預測當前區塊的色差成分。
又,在已從編碼位元流解讀的資訊顯示PDPC的適用時,內預測部216是根據水平/垂直方向的參考像素的梯度,來補正內預測後的像素值。 [間預測部]
間預測部218是參考訊框記憶體214所儲存的參考圖片,來預測當前區塊。預測是以當前區塊或者當前區塊內的子區塊(例如4×4區塊)的單位進行。例如,間預測部218是使用已從編碼位元流解讀的移動資訊(例如移動向量)來進行移動補償,以此產生當前區塊或者子區塊的間預測訊號,且將間預測訊號輸出至預測控制部220。
另,在已從編碼位元流解讀的資訊是顯示適用OBMC模式時,間預測部218不只是利用經由移動估測而得到的當前區塊的移動資訊,還利用鄰接區塊的移動資訊,產生間預測訊號。
又,在已從編碼位元流解讀的資訊是顯示適用FRUC模式時,間預測部218是依照已從編碼流解讀的圖案匹配的方法(雙向匹配或者模板匹配)來進行移動估測,藉此導出移動資訊。然後,間預測部218是使用所導出的移動資訊,來進行移動補償。
又,間預測部218是適用BIO模式時,根據假設等速直線運動之模型,導出移動向量。又,在已從編碼位元流解讀的資訊顯示適用仿射移動補償預測模式時,間預測部218是根據複數個鄰接區塊的移動向量,而以子區塊單位導出移動向量。 [預測控制部]
預測控制部220是選擇內預測訊號及間預測訊號之任一個,且將所選擇的訊號作為預測訊號,而輸出至加法部208。 [解區塊濾波處理]
接著,一邊參考圖式,一邊具體地說明在如上構成的編碼裝置100及解碼裝置200中所進行的解區塊濾波處理。另,以下主要是說明編碼裝置100所包含的迴路濾波部120的動作,但解碼裝置200所包含的迴路濾波部212的動作也是是同樣的。
如上述,編碼裝置100是在將圖像進行編碼時,從原訊號減去內預測部124或者間預測部126所產生的預測訊號,以此算出預測誤差。編碼裝置100是對預測誤差施行正交轉換處理及量化處理等,以產生量化係數。進而,編碼裝置100是將所得到的量化係數進行反量化及反正交轉換,以復原預測誤差。在此,量化處理是不可逆的處理,因此復原的預測誤差相對於轉換前的預測誤差是具有誤差(量化誤差)。
在迴路濾波部120所進行的解區塊濾波處理是以減少該量化誤差等之目的而實施的濾波處理的一種。解區塊濾波處理是為了移除區塊雜訊而適用在區塊邊界。另,以下也把該解區塊濾波處理簡記為濾波處理。
圖11是顯示迴路濾波部120所實施的解區塊濾波處理的一例的流程圖。例如,圖11所示的處理是按每一區塊邊界進行。
首先,迴路濾波部120,為了決定解區塊處理的舉動,而計算區塊邊界強度(Bs)(S101)。具體來說,迴路濾波部120是使用成為濾波對象的區塊的預測模式或者移動向量的性質等,來決定Bs。例如,如果夾邊界的區塊之中至少其中一者是內預測區塊的話,就設定為Bs=2。又,如果滿足所謂(1)夾邊界的區塊之中至少其中一邊的區塊是含有優勢的正交轉換係數、(2)夾區塊邊界的兩區塊的移動向量的差分是閾值以上、及(3)夾區塊邊界的兩區塊的移動向量的條數或者參考圖像不同之(1)~(3)條件之中至少其中一個條件時,就設定為Bs=1。如果都不符合(1)~(3)條件時,就設定為Bs=0。
接著,迴路濾波部120判定所設定的Bs是否大於第1閾值(S102)。在Bs為第1閾值以下時(在S102中,否),迴路濾波部120便不進行濾波處理(S107)。
另一方面,所設定的Bs大於第1閾值時(在S102中,是),迴路濾波部120是使用區塊邊界的兩側的區塊內的像素值,來計算邊界區域的像素變動d(S103)。對於該處理,利用圖12來予以說明。如圖12來定義區塊邊界的像素值時,迴路濾波部120就計算例如d=|p30-2×p20+p10|+|p33-2×p23+p13|+|q30-2×q20+q10|+|q33-2×q23+q13|。
其次,迴路濾波部120判定已計算的d是否大於第2閾值(S104)。在d為第2閾值以下時(在S104中,否),迴路濾波部120不進行濾波處理(S107)。另,第1閾值與第2閾值是不同的。
在已計算的d大於第2閾值時(在S104中,是),迴路濾波部120是決定濾波器特性(S105),進行已決定的濾波器特性的濾波處理(S106)。例如採用所謂(1,2,2,2,1)/8之5個分接頭(tap)的濾波器。即,對於圖12所示的p10,進行(1×p30+2×p20+2×p10+2×q10+1×q20)/8的運算。在此,在濾波處理之時,為了不成為過度的平滑化,而進行剪裁(Clip)處理,俾使位置移動收斂在一定範圍內。在此所說的剪裁處理是指例如在剪裁處理的閾值為tc,濾波前的像素值為q時,濾波後的像素值只能取q±tc的範圍之閾值處理。
以下,在本實施形態之迴路濾波部120所進行的解區塊濾波處理中,針對適用夾區塊邊界呈非對稱的濾波器的例子予以說明。
圖13是顯示本實施形態之解區塊濾波處理一例的流程圖。另,圖13所示的處理也可就每區塊邊界進行,也可就包括1個以上的像素的每單位像素進行。
首先,迴路濾波部120取得編碼參數,且使用已取得的編碼參數,決定夾區塊邊界呈非對稱的濾波器特性(S111)。在本揭示中,已取得的編碼參數,例如是賦予誤差分布特徵。
在此,濾波器特性是指濾波係數及濾波處理控制所使用的參數等。又,編碼參數只要是可使用在濾波器特性的決定上的參數,就什麼都可以。編碼參數也可為顯示誤差本身的資訊,也可為與誤差關聯(例如可左右誤差的大小關係)的資訊或者參數。
又,以下是根據編碼參數,將被判定為誤差為大或小的像素,即,誤差大或小的可能性高的像素亦簡記為誤差大或小的像素。
在此,沒有必要在每次都進行判定處理,依照已事先訂定且對編碼參數與濾波器特性賦予關聯的規則,來進行處理也可。
另,以統計性的方式來看,就算是誤差小的可能性高的像素,就每個像素來看時,誤差也有可能變得比誤差大的可能性高的像素的誤差大。
其次,迴路濾波部120執行具有已決定的濾波器特性的濾波處理(S112)。
在此,在步驟S111中所決定的濾波器特性未必一定要非對稱,也能做到對稱的設計。另,以下亦將具有夾區塊邊界呈非對稱的濾波器特性的濾波器稱為非對稱濾波器,亦將具有夾區塊邊界呈對稱的濾波器特性的濾波器稱為對稱濾波器。
具體來說,考慮到為了使被判定為誤差為小的像素,很難受到周圍的誤差為大的像素的影響,且為了使被判定為誤差為大的像素,很容易受到周圍的誤差為小的像素的影響之2點,來決定濾波器特性。即,以愈是誤差大的像素,使濾波處理的影響變得愈大的方式,來決定濾波器特性。例如,以愈是誤差大的像素,使濾波處理的前後的像素值的變化量變得愈大的方式,來決定濾波器特性。藉此,針對誤差小的可能性高的像素,讓值有大幅變動,以此來防止脫離真值的情形。反之,可針對誤差大的可能性高的像素,使值大大地受到誤差小的像素的影響而變動,以此減少誤差。
另,以下將變化濾波器的變位的要素定義為濾波器的權重。換言之,權重是顯示對對稱像素的濾波處理的影響的程度。將權重放大是意指使對該像素的濾波處理的影響變大。換言之,是指稱經過濾波處理後的像素值容易受到其他像素的影響。具體來說,將權重放大是指為了使濾波處理的前後的像素值的變化量變大,或者,為了容易進行濾波處理,而決定濾波器特性。
即,迴路濾波部120,愈是誤差大的像素,將權重愈加放大。另,愈是誤差大的像素,使權重愈加放大,不限於根據誤差來連續地變更權重的情形,亦包括階段性地變更權重的情形。即,第1像素的權重,只要比誤差較第1像素大的第2像素的權重小即可。又,以下也是採用同樣的表現。
另,在最終決定的濾波器特性中,沒有必要愈是誤差大的像素,其權重愈大。即,迴路濾波部120,例如只要將透過習知的手法而被決定為基準的濾波器特性,修正為愈是誤差大的像素,其權重變大的趨勢即可。
以下,說明非對稱地變更權重的具體性的複數個手法。另,也可採用以下所示的手法任一種,也可採用組合複數個手法的手法。
作為第1手法,迴路濾波部120對於愈是誤差大的像素,將濾波係數愈加縮小。例如,迴路濾波部120將誤差大的像素的濾波係數縮小,且誤差小的像素的濾波係數放大。
例如,對圖12所示的像素p1進行的解區塊濾波處理之例予以說明。以下,將不適用本手法,而是例如將以習知的手法所決定的濾波器叫做基準濾波器。基準濾波器為垂直於區塊邊界的5個分接頭的濾波器,且令之作為跨越(p3,p2,p1,q1,q2)而延伸的濾波器。又,令濾波係數為(1,2,2,2,1)/8。又,令區塊P的誤差大的可能性為高,區塊Q的誤差小的可能性為高。此時,設定濾波係數,以使誤差大的區塊P容易受到誤差小的區塊Q的影響。具體來說,設定成使用在誤差小的像素的濾波係數為大,且設定使用在誤差大的像素的濾波係數為小。例如,以濾波係數來說,是使用(0.5,1.0,1.0,2.0,1.5)/6。
以另一例來說,對誤差小的像素的濾波係數,也可使用0。例如,以濾波係數來說,也可使用(0,0,1,2,2)/5。即,也可將濾波器分接頭變更。反之,也可將現在成為0的濾波係數設為0以外的值。例如,以濾波係數來說,也可使用(1,2,2,2,1,1)/9等。即,迴路濾波部120也可將濾波器分接頭延伸到誤差小之側。
另,基準濾波器是如同上述的(1,2,2,2,1)/8那樣,不過也可以不是那種以對象像素為中心而左右對稱的濾波器。在如此情形下,迴路濾波部120會更進一步調整該濾波器。例如,在Q區塊的左端的像素所使用的基準濾波器的濾波係數為(1,2,3,4,5)/15,在區塊P的右端的像素所使用的基準濾波器的濾波係數為(5,4,3,2,1)/15。即,此時,在夾區塊邊界的像素間,使用已左右反轉的濾波係數。像這樣夾區塊邊界呈反轉對稱的濾波器特性也可稱作為「夾區塊邊界呈對稱的濾波器特性」。即,夾區塊邊界呈非對稱的濾波器特性是一種非夾區塊邊界呈反轉對稱的濾波器特性。
又,與上述同樣,在區塊P的誤差大,且區塊Q的誤差小的時候,迴路濾波部120是例如將(5,4,3,2,1)/15變更為(2.5,2.0,1.5,2.0,1.0)/9,其中該(5,4,3,2,1)/15是使用在區塊P的右端的像素之基準濾波器的濾波係數。
如此,在解區塊濾波處理中,是使用濾波係數為夾區塊邊界而呈非對稱地變化的濾波器。例如,迴路濾波部120是依照已事先訂定的基準,決定具有夾區塊邊界呈對稱的濾波器特性的基準濾波器。迴路濾波部120將該基準濾波器變更成具有夾區塊邊界呈非對稱的濾波器特性。具體來說,迴路濾波部120是進行將基準濾波器的濾波係數之中誤差較小的至少1個像素的濾波係數放大、及、誤差較大的至少1個像素的濾波係數縮小之至少一方。
其次,針對非對稱地變更權重的第2手法予以說明。首先,迴路濾波部120進行使用了基準濾波器的濾波運算。接著,迴路濾波部120對基準變化量Δ0進行夾區塊邊界呈非對稱的加權,其中該基準變化量Δ0是使用了基準濾波器的濾波器之運算前後的像素值的變化量。另,以下,為了區別,將使用了基準濾波器的處理稱為濾波運算,將包括濾波運算及其後的補正處理(例如非對稱的加權)之一連串處理稱為濾波處理(解區塊濾波處理)。
例如,迴路濾波部120是對於誤差小的像素,對基準變化量Δ0乘以比1小的係數,以此算出補正後的變化量Δ1。又,迴路濾波部120是對於誤差大的像素,對基準變化量Δ0乘以比1大的係數,以此算出補正後的變化量Δ1。其次,迴路濾波部120對濾波運算前的像素值加上補正後的變化量Δ1,以此產生濾波處理後的像素值。另,迴路濾波部120也可只進行對誤差小的像素的處理與對誤差大的像素的處理之中其中一種處理。
例如,與上述同樣,令區塊P的誤差為大,區塊Q的誤差為小。此時,迴路濾波部120是對於誤差小的區塊Q所含的像素,例如將基準變化量Δ0變為0.8倍,以此算出補正後的變化量Δ1。又,迴路濾波部120是對於誤差大的區塊P所含的像素,例如將基準變化量Δ0變為1.2倍,以此算出補正後的變化量Δ1。以如此做法,可將誤差小的像素的值的變動縮小。又,可將誤差大的像素的值的變動放大。
另,也有如此情形,即,可選擇1:1,作為乘到誤差小的像素的基準變化量Δ0的係數,與乘到誤差大的像素的基準變化量Δ0的係數的比率。此時,濾波器特性是夾區塊邊界呈對稱。
又,迴路濾波部120也可透過將常數乘到基準係數,來算出乘到基準變化量Δ0的係數。此時,迴路濾波部120,針對誤差大的像素,是使用比誤差小的像素更大的常數。以結果來說,對於誤差大的像素之像素值的變化量會增加,對於誤差小的可能性高的像素的像素值的變化量會減少。例如,迴路濾波部120對於與區塊邊界鄰接的像素,是使用1.2或者0.8作為常數,對於從鄰接於區塊邊界的像素離開1個像素的像素,是使用1.1或者0.9作為常數。又,基準係數是例如藉由(A×(q1-p1)-B×(q2-p2)+C)/D來求得。在此,A、B、C、D是常數。例如A=9、B=3、C=8、D=16。又,p1、p2、q1、q2是相對於區塊邊界,圖12所示的位置關係的像素的像素值。
其次,針對非對稱地變更權重的第3手法予以說明。迴路濾波部120和第2手法同樣,進行使用了基準濾波器的濾波係數的濾波運算。接著,迴路濾波部120對濾波運算之後的像素值加上夾區塊邊界呈非對稱的偏移值。具體來說,迴路濾波部120是以誤差大的像素的值接近於誤差小的可能性高的像素的值,並且使該誤差大的像素的變位變大的方式,對誤差大的像素的像素值加上正的偏移值。又,迴路濾波部120是以誤差小的像素的值不接近誤差大的像素的值,並且使該誤差小的像素的變位變小的方式,對誤差小的像素的像素值加上負的偏移值。以結果來說,使對於誤差大的像素的像素值之變化量增加,且使對於誤差小的像素的像素值之變化量減少。另,迴路濾波部120也可只進行對於誤差小的像素的處理及對於誤差大的像素的處理之中其中一種處理。
例如,迴路濾波部120對於誤差大的區塊所包含的像素,在基準變化量Δ0的絕對值加上正的偏移值(例如1),以此算出補正後的變化量Δ1。又,迴路濾波部120對於誤差小的區塊所包含的像素,在基準變化量Δ0的絕對值加上負的偏移值(例如-1),以此算出補正後的變化量Δ1。其次,迴路濾波部120在濾波運算前的像素值加上補正後的變化量Δ1,以此產生濾波處理後的像素值。另,迴路濾波部120也可不在變化量加上偏移值,而是在濾波運算後的像素值加上偏移值。又,偏移值也可不是夾區塊邊界呈對稱。
又,迴路濾波部120,在濾波器分接頭從區塊邊界跨越複數個像素而延伸時,也可只變更對於某特定像素的權重,也可變更對於全部像素的權重。又,迴路濾波部120也可因應從區塊邊界迄至對象像素的距離,來變更權重。例如,迴路濾波部120也可將從區塊邊界到2個像素間相關的濾波係數設定為非對稱,且將在這之後的像素相關的濾波係數設定為對稱。又,濾波器的權重也可對於複數個像素是共通的,也可按照每個像素來設定。
其次,針對非對稱地變更權重的第4手法予以說明。迴路濾波部120進行使用了基準濾波器的濾波係數之濾波運算。接著,迴路濾波部120,在濾波運算前後的像素值的變化量Δ超過基準值的剪裁寬度時,將變化量Δ剪裁成剪裁寬度。迴路濾波部120夾區塊邊界呈非對稱地設定剪裁寬度。
具體來說,迴路濾波部120是放大對於誤差大的像素的剪裁寬度,使其大於誤差小的像素的剪裁寬度。例如,迴路濾波部120將對於誤差大的像素的剪裁寬度設定為誤差小的像素的剪裁寬度的常數倍。將剪裁寬度變化之結果,使誤差小的像素的值不能有大幅度的變化了。又,誤差大的像素的值能做大幅度的變化。
另,迴路濾波部120也可不指定剪裁寬度的比,而是調整剪裁寬度的絕對值。例如,迴路濾波部120將對於誤差大的像素之剪裁寬度固定於已事先訂定的基準剪裁寬度的倍數。迴路濾波部120將誤差小的像素的剪裁寬度與誤差小的像素的剪裁寬度的比設定為1.2:0.8。具體來說,例如令基準剪裁寬度為10,濾波運算前後的變化量Δ為12。此時,在不變地使用基準剪裁寬度時,藉由閾值處理,變化量Δ被補正成10。另一方面,在對象像素為誤差大的像素時,例如基準剪裁寬度變成1.5倍。藉此,剪裁寬度成為15,因此不進行閾值處理,變化量Δ成為12。
其次,針對非對稱地變更權重的第5手法予以說明。迴路濾波部102是夾區塊邊界呈非對稱地設定判定是否進行濾波處理的條件。在此,判定是否進行濾波處理的條件是指,例如圖11所示的第1閾值或者第2閾值。
具體來說,迴路濾波部120是以對於誤差大的像素容易進行濾波處理的方式設定條件,且以對於誤差小的像素很難進行濾波處理的方式設定條件。例如,迴路濾波部120提高對於誤差小的像素的閾值,使其大於誤差大的像素的閾值。例如,迴路濾波部120將對於誤差小的像素的閾值設定為誤差大的像素的閾值的常數倍。
又,迴路濾波部120不只可指定閾值的比,也可調整閾值的絕對值。例如,迴路濾波部120也可將對於誤差小的像素之閾值固定在已事先訂定的基準閾值的倍數,將誤差小的像素的閾值與誤差大的像素的閾值的比設定為1.2:0.8。
具體來說,令步驟104中的第2閾值的基準閾值為10,且從區塊內的像素值所計算的d為12。基準閾值不變地被用作為第2閾值時,就判定為進行濾波處理。另一方面,對象像素為誤差小的像素時,例如,是使用將基準閾值放大1.5倍的值,來作為第2閾值。此時,第2閾值成為15,變得比d更大。藉此,判定為不進行濾波處理。
又,顯示權重的常數等也可為在編碼裝置100及解碼裝置200中已事先預定的值,也可為可變,其中該權重是根據在上述第1至第5手法所使用的誤差。具體來說,該常數是指,乘到在第1手法中的濾波係數或者基準濾波器的濾波係數的係數、乘到第2手法中的基準變化量Δ0的係數或者乘到基準係數的常數、第3手法中的偏移值、乘到第4手法中的剪裁寬度或者基準剪裁寬度的常數、及乘到第5手法中的閾值或者基準閾值的常數等。
也可在常數為可變的時候,顯示該常數的資訊,例如作為序列或者切片單位的參數而包含在位元流中,從編碼裝置100發送到解碼裝置200。另,顯示常數的資訊也可為顯示常數本身的資訊,也可為顯示與基準值的比或者差的資訊。
又,以對應誤差而變更係數或常數的方法來說,例如有線性地變更的方法、二次函數地變更的方法、指數函數地變更的方法、或者、使用顯示誤差與常數的關係之查找表的方法等。
又,在誤差在基準以上的時候,或者是誤差在基準以下的時候,也可使用固定值來當作為常數。例如,迴路濾波部120也可以在誤差為預定的範圍以下的時候,將變數設定為第1值,在誤差為預定範圍以上的時候,將變數設定為第2值,誤差在預定範圍內時,因應誤差而從第1值迄至第2值來連續地變更變數。
又,迴路濾波部120在誤差超過預定的基準時,也可使用對稱濾波器(基準濾波器),而不使用非對稱濾波器。
又,迴路濾波部120,在使用查找表等的時候,也可保留誤差大的情形及小的情形兩邊的表格,也可只保留其中一邊的表格,從該表格的內容,依照已事先訂定的規則,來算出另一邊的常數。
如上,本實施形態之編碼裝置100及解碼裝置200利用非對稱濾波器,以此可減少再構成圖像的誤差,因此可提昇編碼效率。
也可以將本態樣與本揭示中的其他態樣之至少一部分組合來實施。又,也可以將本態樣的流程圖所記載的一部分處理、裝置的一部分構成、語法(syntax)的一部分等與其他態樣組合來實施。 (實施形態2)
在實施形態2至實施形態6中,針對賦予上述之誤差分布特徵之編碼參數的具體例予以說明。在本實施形態中,迴路濾波部120因應對象像素的區塊內的位置,來決定濾波器特性。
圖14是顯示本實施形態之解區塊濾波處理之一例的流程圖。首先,迴路濾波部120取得顯示對象像素的區塊內的位置之資訊,作為賦予誤差分布特徵的編碼參數。迴路濾波部120根據該位置,決定夾區塊邊界呈非對稱的濾波器特性(S121)。
其次,迴路濾波部120是執行具有已決定的濾波器特性的濾波處理(S122)。
在此,比起離內預測的參考像素近的像素,離內預測的參考像素遠的像素其誤差大的可能性為高。因此,迴路濾波部120決定濾波器特性,以使愈是離內預測的參考像素遠的像素,該濾波處理的前後的像素值的變化量變大。
例如,在H.265/HEVC或者JEM時,如圖15所示,離參考像素近的像素是指存在於區塊內的左上的像素,離參考像素近的像素是指存在於區塊內的右下的像素。依此,迴路濾波部120是以使區塊內的右下的像素的權重大於左上的像素的權重的方式,來決定濾波器特性。
具體來說,迴路濾波部120對於距離內預測的參考像素遠的像素,如實施形態1中所說明的,以使濾波處理的影響變大的方式,來決定濾波器特性。即,迴路濾波部120放大距離內預測的參考像素遠的像素的權重。在此,將權重放大是意指,如上述,實施以下之中至少一種:(1)將濾波係數縮小、(2)將夾邊界的像素(即距離內預測的參考像素近的像素)的濾波係數放大、(3)將乘到變化量的係數放大、(4)將變化量的偏移值放大、(5)將剪裁寬度放大、及(6)修正閾值,以使濾波處理容易執行。另一方面,迴路濾波部120是以對於距離內預測的參考像素近的像素,使濾波處理的影響變小的方式,來決定濾波器特性。即,迴路濾波部120縮小距離內預測的參考像素近的像素的權重。在此,將權重縮小是意指,如上述,實施以下之中至少一種:(1)將濾波係數放大、(2)將夾邊界的像素(即,離內預測的參考像素近的像素)的濾波係數縮小、(3)將乘到變化量的係數縮小、(4)將變化量的偏移值縮小、(5)將剪裁寬度縮小、及(6)修正閾值,以使濾波處理難以執行。
另,也可在使用內預測時,進行上述處理,對使用著間預測的區塊不進行上述處理。惟,內預測區塊的性質有時候也會被引用到間預測,因此對間預測區塊也可進行上述處理。
又,迴路濾波部120也可任意指定特定的區塊內的位置,變更權重。例如,迴路濾波部120也可如上述,將區塊內的右下的像素的權重放大,區塊內的左上的像素的權重縮小。另,迴路濾波部120,不限於左上及右下,也可任意指定區塊內的位置,變更權重。
又,如圖15所示,在左右方向的鄰接區塊邊界,左側的區塊的誤差變大,右側的區塊的誤差變大。因此,迴路濾波部120,也可相對於左右方向的鄰接區塊邊界,將左側的區塊的權重放大,且將右側的區塊的權重縮小。
同樣,在上下方向的鄰接區塊邊界,上側的區塊的誤差變大,下側的區塊的誤差變小。因此,迴路濾波部120,也可相對於上下方向的鄰接區塊邊界,將上側的區塊的權重放大,且將下側的區塊的權重縮小。
又,迴路濾波部120也可因應自內預測的參考像素的距離,來變化權重。又,迴路濾波部120也可以區塊邊界單位來決定權重,也可以像素單位來決定權重。距離參考像素愈遠,則誤差愈容易變大。因此,迴路濾波部120是以使距離參考像素愈遠,則權重的梯度變得愈陡峭的方式來決定濾波器特性。又,迴路濾波部120是以使區塊的右邊的上側中的權重的梯度比起下側中的權重的梯度較為緩和的方式來決定濾波器特性。
也可以將本態樣與本揭示中的其他態樣之至少一部分組合來實施。又,也可以將本態樣的流程圖所記載的一部分處理、裝置的一部分構成、語法(syntax)的一部分等與其他態樣組合來實施。 (實施形態3)
在本實施形態中,迴路濾波部120是因應正交轉換基底,來決定濾波器特性。
圖16是顯示本實施形態之解區塊濾波處理一例之流程圖。首先,迴路濾波部120取得資訊,作為賦予誤差分布特徵的編碼參數,其中該資訊顯示對象區塊所使用過的正交轉換基底。迴路濾波部120是根據該正交轉換基底,決定夾區塊邊界呈非對稱的濾波器特性(S131)。
其次,迴路濾波部120執行具有已決定的濾波器特性的濾波處理(S132)。
編碼裝置100從複數個候選之中選擇一個正交轉換基底,該正交轉換基底為進行正交轉換時的轉換基底。複數個候選,例如包括DCT-II等之0次的轉換基底為平坦的基底、及DST-VII等之0次的轉換基底不是平坦的基底。圖17是顯示DCT-II的轉換基底之圖。圖18是顯示DCT-VII的轉換基底的圖。
DCT-II之0次基底是與區塊內的位置無關而呈一定。即,在DCT-II被使用的時候,區塊內的誤差為固定。因此,迴路濾波部120,在夾區塊邊界的兩邊的區塊是以DCT-II進行轉換時,進行使用了對稱濾波器之濾波處理,而不使用非對稱濾波器。
另一方面,DST-VII的0次基底是隨著自左方或者上方的區塊邊界的距離愈大,而值也變得愈大。即,隨著自左方或者上方的區塊邊界的距離愈遠離,誤差變得愈大的可能性就高。因此,迴路濾波部120,在夾區塊邊界的二個區塊之中,至少其中一者是以DST-VII進行轉換時,是使用非對稱濾波器。具體來說,迴路濾波部120是以越是低次(例如0次)的基底的區塊內中之值小的像素,濾波處理的影響就越小的方式,來決定濾波器特性。
具體來說,在夾區塊邊界的兩邊的區塊是以DST-VII進行轉換時,迴路濾波部120,對於區塊內的右下方的像素,藉由上述之手法,以使濾波處理的影響變大的方式,來決定濾波器特性。又,迴路濾波部120,對於區塊內的左上方的像素,以使濾波處理的影響變大的方式,來決定濾波器特性。
又,在DST-VII與DCT-II是上下鄰接時,迴路濾波部120也是以如下方式來決定濾波器特性,即,鄰接於區塊邊界的DST-VII所使用的上區塊的下部的像素之濾波器的權重,比起DCT-II所使用的下區塊的上部的像素之濾波器的權重更大。然而,此時的低次的基底的振幅的差是小於DST-VII彼此鄰接時的低次的基底的振幅的差。因此,迴路濾波部120是以此時的權重的坡度小於DST-VII彼此鄰接時的權重的坡度的方式來設定濾波器特性。迴路濾波部120是例如,將DCT-II與DCT-II鄰接時的權重設定為1:1(對稱濾波器),將DST-VII與DST-VII鄰接時的權重設定為1.3:0.7,將DST-VII與DCT-II鄰接時的權重設定為1.2:0.8。
也可以將本態樣與本揭示中的其他態樣之至少一部分組合來實施。又,也可以將本態樣的流程圖所記載的一部分處理、裝置的一部分構成、語法(syntax)的一部分等與其他態樣組合來實施。 (實施形態4)
在本實施形態中,迴路濾波部120是因應夾區塊邊界的像素值,來決定濾波器特性。
圖19是顯示本實施形態之解區塊濾波處理一例之流程圖。首先,迴路濾波部120取得一資訊,作為賦予誤差分布特徵的編碼參數,其中該資訊顯示夾區塊邊界的區塊內的像素值。迴路濾波部120是根據該像素值,決定夾區塊邊界呈非對稱的濾波器特性(S141)。
其次,迴路濾波部120執行具有已決定的濾波器特性的濾波處理(S142)。
例如,迴路濾波部120是像素值的差d0愈大,就將夾區塊邊界的濾波器特性的差愈加放大。具體來說,迴路濾波部120是以濾波處理的影響的差變大的方式來決定濾波器特性。例如,迴路濾波部120在滿足d0>(量化參數)×(常數)時,將權重設定為1.4:0.6,在不滿足上述關係時,則將權重設定為1.2:0.8。即,迴路濾波部120比較像素值的差d0、及基於量化參數的閾值,當像素值的差d0大於閾值時,就將夾區塊邊界的濾波器特性的差放大比當像素值的差d0小於閾值的時候更大。
以另一例來說,例如迴路濾波部120是夾區塊邊界的兩區塊內的像素值的分散的平均值b0愈大,就愈將夾區塊邊界的濾波器特性的差愈加放大。具體來說,迴路濾波部120也可以濾波處理的影響的差變大的方式,來決定濾波器特性。例如,迴路濾波部120在滿足b0>(量化參數)×(常數)時,將權重設定為1.4:0.6,在不滿足上述關係時,則將權重設定為1.2:0.8。即,迴路濾波部120比較像素值的分散b0、及基於量化參數的閾值,當像素值的分散b0大於閾值時,就將夾區塊邊界的濾波器特性的差放大比當像素值的分散b0小於閾值的時候更大。
另,在鄰接的區塊之中,要將哪一個區塊的權重放大,即,哪一個區塊的誤差更大,可藉由上述的實施形態2或者3的手法,或者是後述的實施形態6的手法等來特定。即,迴路濾波部120是依照預定的規則(例如實施形態2、3或者6的手法),來決定夾區塊邊界呈非對稱的濾波器特性。其次,迴路濾波部120是以根據像素值的差d0,使夾區塊邊界的濾波器特性的差變大的方式,來變更該已決定的濾波器特性。即,迴路濾波部120是將誤差大的像素的權重與誤差小的像素的權重的比或差放大。
在此,像素值的差d0大時,有區塊邊界與圖像內的物件的邊緣一致的情形之可能性,因此在如此情況下,將夾區塊邊界的濾波器特性的差縮小,以此能抑制不必要的平滑化的進行。
另,迴路濾波部120亦可與上述相反,像素值的差d0愈大,夾區塊邊界的濾波器特性的差愈小。具體來說,迴路濾波部120是以將濾波處理的影響的差縮小的方式來決定濾波器特性。例如,迴路濾波部120,在滿足d0>(量化參數)×(常數)時,將權重設定為1.2:0.8,不滿足上述關係時,則將權重設定為1.4:0.6。另,在滿足上述關係時,也可將權重設定為1:1(對稱濾波器)。即,迴路濾波部120比較像素值的差d0、與基於量化參數的閾值,在像素值的差d0大於閾值時,比起像素值的差d0小於閾值時,夾區塊邊界的濾波器特性的差縮小。
例如,所謂像素值的差d0大是指區塊邊界較為顯眼,因此在如此事例中,將夾區塊邊界的濾波器特性的差縮小,以此藉由非對稱濾波器,就可抑制平滑化減弱的情況。
另,該等二種處理也可同時進行。例如,迴路濾波部120也可在像素值的差d0不到第1閾值時,使用第1權重,在像素值的差d0為第1閾值以上且不到第2閾值時,使用其差較第1權重大的第2權重,在像素值的差d0為第2閾值以上時,使用其差較第2權重小的第3權重。
又,像素值的差d0,也使夾邊界的像素值的差分為其本身,也可為像素值的差的平均或者分散。例如,像素值的差d0是經由(A×(q1-p1)-B×(q2-p2)+C)/D而求出。在此,A、B、C、D為常數。例如,A=9、B=3、C=8、D=16。又,p1、p2、q1、q2是夾區塊邊界,圖12所示的位置關係的像素的像素值。
另,該像素值的差d0及權重的設定也可以像素單位進行,也可以區塊邊界單位進行,也可以含有複數個區塊的區塊群單位(例如LCU(Largest Coding Unit))單位來進行。
也可以將本態樣與本揭示中的其他態樣之至少一部分組合來實施。又,也可以將本態樣的流程圖所記載的一部分處理、裝置的一部分構成、語法(syntax)的一部分等與其他態樣組合來實施。 (實施形態5)
在本實施形態中,迴路濾波部120因應內預測方向與區塊邊界方向,來決定濾波器特性。
圖20是顯示本實施形態之解區塊濾波處理一例的流程圖。首先,迴路濾波部120取得顯示內預測的預測方向與區塊邊界的角度之資訊,作為賦予誤差分布特徵的編碼參數。迴路濾波部120根據該角度,決定夾區塊邊界呈非對稱的濾波器特性(S151)。
其次,迴路濾波部120是執行具有已決定的濾波器特性的濾波處理(S152)。
具體來說,迴路濾波部120是在上述角度愈接近垂直,將夾區塊邊界的濾波器特性的差愈加放大,且上述角度愈接近水平,將夾區塊邊界的濾波器特性的差愈加縮小。更具體來說,是以如下方式來決定濾波器特性,即,在內預測方向相對於區塊邊界接近於垂直時,使對於夾區塊邊界的兩側的像素之濾波器的權重的差變大,在內預測方向相對於區塊邊界接近於水平時,使對於夾區塊邊界的兩側的像素之濾波器的權重的差變小。圖21是顯示權重的例之圖,該權重是對於內預測方向與區塊邊界的方向之關係。
另,在鄰接的區塊之中,要將哪一個區塊的權重放大,即,是哪一個區塊的誤差更大可藉由上述之實施形態2或3的手法,或者,後述之實施形態6的手法來特定。即,迴路濾波部120是依照預定的規則(例如實施形態2、3或6的手法),來決定夾區塊邊界呈非對稱的濾波器特性。其次,迴路濾波部120根據內預測方向與區塊邊界的方向,使夾區塊邊界的濾波器特性的差變大,來變更該已決定的濾波器特性。
又,編碼裝置100及解碼裝置200,例如使用內預測模式來特定內預測方向。
另,內預測模式是平面(Planar)模式或者直流(DC)模式時,迴路濾波部120也可不必考慮區塊邊界的方向。例如,迴路濾波部120在內預測模式為平面模式或者直流模式時,也可使用已事先訂定的權重或者權重的差,而不用管區塊邊界的方向。或者,迴路濾波部120在內預測模式為平面模式或者直流模式時,也可使用對稱濾波器。
也可以將本態樣與本揭示中的其他態樣之至少一部分組合來實施。又,也可以將本態樣的流程圖所記載的一部分處理、裝置的一部分構成、語法(syntax)的一部分等與其他態樣組合來實施。 (實施形態6)
在本實施形態中,迴路濾波部120是因應顯示量化的寬度的量化參數,來決定濾波器特性。
圖16是顯示本實施形態的解區塊濾波處理一例的流程圖。首先,迴路濾波部120取得資訊,作為賦予誤差分布特徵的編碼參數,其中該資訊顯示對象區塊的量化時所使用的量化參數。迴路濾波部120根據該量化參數,來決定夾區塊邊界呈非對稱的濾波器特性(S161)。
其次,迴路濾波部120執行具有已決定的濾波器特性的濾波處理(S162)。
在此,量化參數愈大,誤差變大的可能性愈高。因此,迴路濾波部120決定濾波器特性,以使量化參數愈大,濾波處理的影響會變得愈大。
圖23是顯示對於量化參數的權重之例的圖。如圖23所示,迴路濾波部120是將對於區塊的左上的像素的權重隨著量化參數的增加而增加。另一方面,迴路濾波部120是縮小對於區塊內的右下的像素的權重的增加,該權重的增加是隨量化參數的增加。即,迴路濾波部120是如此決定濾波器特性,即,隨著左上的像素的量化參數的變化之濾波處理的影響的變化,大於隨著右上的像素的量化參數的變化之濾波處理的影響的變化。
在此,區塊內的左上的像素比起區塊內的右下的像素,較容易受到量化參數的影響。因此,進行如上述的處理,以此便能適當地減少誤差。
又,迴路濾波部120也可對於夾邊界的二個區塊之各個,根據該區塊的量化參數,來決定該區塊的權重,也可以算出二個區塊的量化參數的平均值,根據該平均值,來決定二個區塊的權重。或者,迴路濾波部120也可根據其中一個區塊的量化參數,來決定二個區塊的權重。例如,迴路濾波部120使用上述手法,根據其中一個區塊的量化參數,來決定該其中一個區塊的權重。其次,迴路濾波部120是根據所決定的權重,依照已事先訂定的規則,來決定另一個區塊的權重。
又,迴路濾波部120在二個區塊的量化參數不同時,或者,2個區塊的量化參數的差超過閾值時,也可使用對稱濾波器。
又,在圖23中,是利用一次函數來設定權重,但也可以使用一次函數以外的任意函數、或者表格。例如,也可使用顯示量化參數與量化步驟(量化寬度)的關係的曲線。
又,迴路濾波部120在量化參數超過閾值時,也可使用對稱濾波器,而不使用非對稱濾波器。
又,在量化參數是以小數點精度記載時,迴路濾波部120也可對量化參數進行四捨五入、進位、或者捨去等運算,且將運算後的量化參數運用在上述處理。或者,迴路濾波部120也可考慮運算到小數點單位為止,再進行上述處理。
如上,在實施形態2至6中,已個別針對判定誤差的複數個手法說明,但也可組成該等手法之中2以上。此時,迴路濾波部120也可對於已經組合的2以上的要素進行加權。
以下針對變形例予以說明。
上述說明過的編碼參數的例以外也可使用。例如,編碼參數也可為顯示正交轉換的種類(Wavelet、DFT或者重複轉換等)、區塊尺寸(區塊的寬度及高度)、移動向量的方向、移動向量的長度、或者使用在間預測的參考圖片的張數、基準濾波器的特性之資訊。又,其等資訊也可組合使用。例如,迴路濾波部120是只有在區塊邊界的長度為16像素以下且濾波器對象像素是距離內預測的參考像素較近時,也可採用非對稱濾波器,在其他情況時,是採用對稱濾波器。以別的例子來說,只有在使用了在複數個濾波器候選之中的預定的任一者型式的濾波器時,也可進行非對稱處理。例如,以基準濾波器所得到的位置移動是只有在透過(A×(q1-p1)-B×(q2-p2)+C)/D所計算時,也可採用非對稱濾波器。在此,A、B、C、D為常數。例如,為A=9、B=3、C=8、D=16。又,p1、p2、q1、q2是夾區塊邊界呈圖12所示的位置關係的像素之像素值。
又,迴路濾波部120在亮度訊號與色差信號之間,可對其中一者進行上述處理,也可對兩者進行上述處理。又,迴路濾波部120對於亮度訊號與色差訊號可進行共通的處理,也可進行不同的處理。例如,迴路濾波部120對於亮度訊號與色差訊號,可使用不同的權重,也可依照不同的規則來決定權重。
又,在上述處理所使用的各種參數也可在編碼裝置100中來決定,也可為事先訂定好的固定值。
又,也可進行或不進行上述處理,或者上述處理的內容也可以預定單位來切換。預定單位係指,例如切片單位、方塊單位、波前(wavefront)分割單位、或者CTU單位。又,上述處理的內容係指顯示使用上述所示的複數個手法之任一者或者權重等的參數,或是用來決定該等的參數。
又,迴路濾波部120也可將進行上述處理的區域限定在CTU的邊界、切片的邊界、或者方塊的邊界。
又,在對稱濾波器與非對稱濾波器,也可使濾波器的分接頭數不同。
又,迴路濾波部120也可因應訊框類別(I框、P框、B框),是否進行上述處理,或者變更上述處理的內容。
又,迴路濾波部120也可因應是否已進行前段或者後段的特定的處理,來是否進行上述處理、或者決定上述處理的內容。
又,迴路濾波部120也可因應區塊所使用的預測模式的種類而進行不同的處理,也可只對於特定的預測模式所使用的區塊進行上述處理。例如,迴路濾波部120也可在內預測所使用的區塊、間預測所使用的區塊、與業已合併的區塊進行不同的處理。
又,編碼裝置100也可將濾波資訊進行編碼,其中該濾波資訊為顯示是否進行上述處理,或者上述處理的內容的參數。即,編碼裝置100也可產生包括濾波資訊的編碼位元流。該濾波資訊也可在亮度訊號包含顯示是否進行上述處理的資訊、在色差訊號包含顯示是否進行上述處理的資訊、或者、包含顯示是否對預測模式之每個進行不同處理的資訊。
又,解碼裝置200也可根據編碼位元流所含的濾波資訊,進行上述處理。例如,解碼裝置200也可根據濾波資訊,來決定是否進行上述處理,或者,決定上述處理的內容。
也可以將本態樣與本揭示中的其他態樣之至少一部分組合來實施。又,也可將記載於本態樣的流程圖的一部分的處理、裝置的一部分構成、語法的一部分等與其他態樣組合來實施。 (實施形態7)
在以上之各實施形態中,功能區塊每一個通常可藉MPU及記憶體等來實現。又,藉功能區塊每一個所進行的處理通常可以經由處理器等之程式執行部讀出ROM等之記錄媒體所記錄的軟體(程式)來執行,而予以實現。該軟體也可藉下載等來分發,也可記錄在半導體記憶體等之記錄媒體來分發。另,當然也可以將各功能區塊透過硬體(專用電路)來實現。
又,在各實施形態中所說明的處理也可以使用單一裝置(系統)進行集中處理來實現,或者也可以使用複數個裝置進行分散處理來實現。又,執行上述程式的處理器也可為單數個,也可為複數個。即,可進行集中處理,或者也可進行分散處理。
本揭示的態樣並不限於以上的實施例,可做各種變更,其等變更也包括在本揭示的態樣之範圍內。
進而在此,說明在上述各實施形態中所示之動態圖像編碼方法(圖像編碼方法)或動態圖像解碼方法(圖像解碼方法)之應用例及使用該方法之系統。該系統是以具有使用圖像編碼方法之圖像編碼裝置、使用圖像解碼方法之圖像解碼裝置、及具有兩者之圖像編碼解碼裝置為特徵所在。針對系統中的其他構成,配合情況的需要,可適當地變更。 [使用例]
圖24是顯示實現內容分發服務之內容供給系統ex100之整體構成圖。將通訊服務之提供領域分割成所期望之大小,在各胞元內分別設置有為固定無線台之基地台ex106、ex107、ex108、ex109、ex110。
在該內容供給系統ex100中,經由網際網路服務提供者ex102或通訊網ex104、及基地台ex106至ex110,而將電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、及智慧型手機ex115等各機器連接於網際網路ex101。該內容供給系統ex100可構成為組合上述任意要素而連接。也可不經過為固定無線台之基地台ex106至ex110,而是使各機器經由電話網路或者近距離無線等直接或間接地互相連接。又,串流伺服器ex103是經由網際網路ex101等而與電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、及智慧型手機ex115等之各機器連接。又,串流伺服器ex103是經由衛星ex116而與飛機ex117內之熱點內的終端機等連接。
另,也可利用無線存取點或熱點等,來替代基地台ex106至ex110。又,串流伺服器ex103也可以不經由網際網路ex101或者網際網路服務提供者ex102,而直接與通訊網ex104連接,也可不經由衛星ex116,而直接與飛機ex117連接。
攝像機ex113是數位相機等可進行靜態圖像攝影及動態圖像攝影之機器。又,智慧型手機ex115一般是指對應於2G、3G、3.9G、4G、以及今後被稱為5G之行動通訊系統的方式之智慧型話機、行動電話機、或者PHS(Personal Handyphone System)等。
家電ex118是包括在冰箱、或者家用燃料電池熱電共生系統之機器等。
在內容供給系統ex100中,讓具有攝影功能的終端機經由基地台ex106等而連接到串流伺服器ex103,以此可進行現場直播等。在現場直播中,終端機(電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、智慧型手機ex115、及飛機ex117内之終端機等)是將如下所得到的資料發送到串流伺服器ex103,該資料是對使用者使用該終端機所攝影的靜態圖像或者動態圖像內容進行在上述各實施形態所說明的編碼處理,且對藉編碼所得到的影像資料、及已將對應於影像的聲音編碼後的聲音資料進行多工而所得到者。即,各終端機是作為本揭示一態樣的圖像編碼裝置而發揮功能。
另一方面,串流伺服器ex103是對於有了請求的客戶端將被發送的內容資料進行串流分發。客戶端是指可將上述經過編碼處理的資料進行解碼之電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、智慧型手機ex115、或者飛機ex117內的終端機等。已接收到所分發的資料的各機器將所接收的資料進行解碼處理後進行播放。即,各機器是作為本揭示一態樣之圖像解碼裝置而發揮功能。 [分散處理]
又,串流伺服器ex103也可為複數個伺服器或者是複數個電腦,將資料分散處理或記錄分發者。例如,串流伺服器ex103也可藉由CDN(Contents Delivery Network)來實現,透過連接分散在世界各地的多數邊緣伺服器(edge server)與邊緣伺服器間的網路來實現內容分發。在CDN中,因應客戶端而動態地分配實體上接近的邊緣伺服器。然後,內容被該邊緣伺服器快取及分發,以此可減少延遲的情況。又,在發生有任何錯誤時或者因流量增加等而使通訊狀態改變時,可以複數個邊緣伺服器分散處理,或者將分發主體切換到其他邊緣伺服器,而對已發生障礙的網路部分進行迂迴,來繼續進行分發,因此可實現高速且穩定的分發。
又,不只是分發自身的分散處理,也可將所攝影的資料的編碼處理在各終端機進行,也可在伺服器側進行,也可互相分擔來進行。舉一例來說,一般在編碼處理中,進行處理循環2次。第1次的循環,會檢測以訊框或者場景單位的圖像之複雜度、或者編碼量。又,在第2次的循環,會進行維持畫質,並使編碼效率提高的處理。例如,終端機進行第1次的編碼處理,已收到內容的伺服器側進行第2次的編碼處理,以此可一邊減輕在各終端機的處理負擔,又能一邊提高內容的品質及效率。此時,若有幾乎以實時接收而要解碼的請求時,也可將終端機已進行過第1次的編碼完畢資料在其他終端機接收且進行播放,因此能達到更柔軟的實時分發。
舉另一例來說,攝像機ex113等是從圖像進行特徵量擷取,將有關於特徵量的資料作為詮釋(meta)資料進行壓縮,而發送到伺服器。伺服器是例如從特徵量來判斷物件的重要性,而切換量化精度等因應圖像的意義來進行壓縮。特徵量資料對於伺服器上之再次壓縮時的移動向量預測之精度及效率提昇特別有效。又,也可在終端機進行VLC(可變長度編碼)等之簡易性編碼,在伺服器進行CABAC(Context適應型二值算術編碼方式)等處理負荷大的編碼。
進而,以其他例來說,在體育場、購物商場、或者工廠等之中,會有經由複數個終端機而拍攝到幾乎相同的場景的複數個影像資料存在的情況。在該情況下,使用進行過拍攝的複數個終端機、及因應需要而未進行拍攝的其他終端機及伺服器,以例如GOP(Group of Picture)單位、圖片單位、或者將圖片分割之方塊單位等,分別分配編碼處理,來進行分散處理。藉此,可減少延遲,並實現更佳的實時性。
又,由於複數個影像資料為幾乎相同的場景,因此也可在伺服器進行管理及/或指示,將在各終端機所拍攝的影像資料相互參考。或者,也可使伺服器接收來自各終端機的編碼完畢資料,在複數個資料之間變更參考關係,或者將圖片本身進行補正或更換,來重新進行編碼。藉此,可產生將一個一個資料的品質及效率提高的串流。
又,伺服器也可先進行將影像資料的編碼方式變更的轉碼,再分發影像資料。例如,伺服器也可將MPEG系的編碼方式轉換成VP系,也可將H.264轉換成H.265。
如此,編碼處理可透過終端機或者是1個以上的伺服器來進行。藉此,在下文中,作為進行處理的主體是採用「伺服器」或者是「終端機」等的記述,但也可讓以伺服器所進行的處理的一部分或者全部在終端機來進行,也可讓以終端機所進行的處理的一部分或者全部在伺服器來進行。又,有關於該等部分,針對解碼處理也是同樣。 [3D、多視角]
近年來,將幾乎互相同步的複數個攝像機ex113及/或智慧型手機ex115等之終端機所攝影的不同場景、或者是相同場景以不同的視角拍攝的圖像或影像整合來利用的情形也變多了。以各終端機所拍攝的影像是根據另外取得的終端機間之相對的位置關係、或者影像所含的特徵點一致的區域等來整合。
伺服器不只將2維的動態圖像進行編碼,還可根據動態圖像的場景解析等,而自動或者是在使用者所指定的時刻,將靜態圖像進行編碼,再發送到接收終端機。伺服器進而在可取得攝影終端機之間的相對的位置關係時,不只是2維的動態圖像,還可根據從不同視角對相同場景拍攝的影像,來產生該場景的3維形狀。另,伺服器也可另外將透過點雲(point cloud)等所產生的3維的資料進行編碼,也可根據使用3維資料來辨識或者追蹤人物或物件的結果,從以複數個終端機拍攝的影像中選擇、或再構成,以產生要發送到接收終端機的影像。
如此進行後,使用者要任意選擇對應於各攝影終端機的各影像來觀賞場景也可,要觀賞從使用複數個圖像或者影像而再構成的3維資料剪出任意視點的影像的內容也可。進而,與影像同樣,也可從複數個不同視角收取聲音,令伺服器配合影像,與來自特定視角或空間的聲音和影像進行多工而發送。
又,近年來,Virtual Reality(VR/虛擬實境)及Augmented Reality(AR/擴增實境)等對現實世界與虛擬世界建立對應關係的內容也漸漸普及了。在VR的圖像的情況,也可使伺服器分別作出右眼用及左眼用的視點圖像,透過Multi-View Coding(MVC/多視角編碼)等,進行在各視點影像之間容許參考的編碼,也可不互相參考而作為不同串流來進行編碼。在解碼不同串流時,宜以因應使用者的視點而將虛擬的3維空間重現的方式,使其互相同步且播放。
在AR的圖像的情況,伺服器會根據3維上的位置或者使用者的視點的移動,而將虛擬空間上的虛擬物體資訊重疊在現實空間的攝像機資訊。解碼裝置也可取得或者保持虛擬物體資訊及3維資料,並因應使用者的視點的移動來產生2維圖像,而順利地接續,以此作成重疊資料。或者,解碼裝置也可除了虛擬物體資訊的請求指令外,將使用者的視點的移動也發送到伺服器,伺服器配合接收的視點的移動而從保持在伺服器的3維資料來作成重疊資料,且將重疊資料進行編碼,再分發到解碼裝置。另,也可以是:重疊資料除了RGB以外還具有顯示穿透度的α值,伺服器將從3維資料所作成的物件以外的部分之α值設定為0等,且使該部分為穿透的狀態下進行編碼。或者,伺服器也可如同色鍵(Chroma key)產生資料,該資料為將預定的值之RGB值設定為背景,物件以外的部份則設定為背景色。
同樣,被進行分發的資料的解碼處理也可在客戶端的各終端機進行,或是也可在伺服器側進行,或者也可相互分擔進行。以一例來說,某終端機也可先將接收請求送到伺服器,以其他終端機接收因應該請求的內容,進行解碼處理,並將已解碼完畢的訊號發送到具有顯示器的裝置。能在不依賴可通訊的終端機本身的性能之狀態下,將處理分散而選擇適合的內容,以此可播放畫質佳的資料。又,以另一例來說,也可一邊在TV等接收大尺寸的圖像資料,一邊將圖片分割後的方塊等一部分的區域在觀眾的個人終端進行解碼而顯示。藉此,可共享整體圖像,並可在身邊確認本身的負責領域或者想更加詳細確認的區域。
又,今後不管是室內或室外,在可使用近距離、中距離、或者長距離之數種無線通訊的狀況下,利用MPEG-DASH等之分發系統規格,一邊對於連線中的通訊切換適合的資料,一邊無縫地接收內容,這是可預想得到的。藉此,使用者不只是本身的終端機,也可一邊自由地選擇設在室內或室外之顯示器等之解碼裝置或者顯示裝置,一邊實時地進行切換。又,根據本身的位置資訊等,可一邊切換解碼的終端機及顯示的終端機,一邊進行解碼。藉此,使得如下方式也可變得可行,即:在往目的地的移動中,一邊讓埋設有可進行顯示的設備之旁邊的建築物的壁面或者是地面的一部分顯示地圖資訊,一邊移動。又,也可以基於網路上之對編碼資料的存取容易性,諸如有編碼資料會被可在短時間內從接收終端機進行存取的伺服器快取、或者是被複製到內容分發服務(Contents Delivery Service)中的邊緣伺服器等,來切換接收資料的位元率。 [可調式編碼]
有關於內容的切換,是利用顯示於圖25之可調式之串流來說明,該串流是應用在上述各實施形態所示的動態圖像編碼方法而被壓縮編碼的串流。伺服器雖然具有作為個別的串流,為內容相同但品質不同的複數個串流也無妨,但也可為如下構成,即:靈活運用時間型/空間型可調式的串流之特徵,來切換內容,其中該時間型/空間型可調式的串流是如圖所示藉由分層來進行編碼而實現。即,解碼側因應例如性能的內在因素及通訊頻帶的狀態等之外在因素,來決定要解碼到哪一層,以此解碼側可自由地切換低影像解析度的內容及高影像解析度的內容,而進行解碼。例如想要把曾在移動中於智慧型手機ex115收看的影像的後續部分放到回家後以網路TV等的機器收看時,該機器只要將相同的串流進行解碼到不同層即可,因此可減輕伺服器側的負擔。
進而,如上述,在每層將圖片進行編碼,且在基本層的上位有加強層存在之實現可調性(scalability)之構成以外,也可為加強層含有基於圖像的統計資訊等之詮釋資訊,解碼側根據詮釋資訊,將基本層的圖片進行超影像解析,以此產生已高畫質化的內容。所謂超影像解析也可是同一解析度下的SN比的提昇、以及解析度的擴大之任一者。詮釋資訊是包括用以特定超影像解析處理所使用的線性或者是非線性的濾波係數的資訊、或者、用以特定超影像解析處理所使用的濾波處理、機械學習或者是最小平方運算中的參數值的資訊等。
或者,也可為如下構成,即:因應圖像內的物件(object)等的意涵,將圖片分割成方塊等,解碼側選擇要解碼的方塊,以此只將一部分的區域進行解碼。又,把物件的屬性(人物、車、球等)與影像內的位置(同一圖像中的座標位置等),當做為詮釋資訊來儲存,以此,解碼側可根據詮釋資訊來特定所希望的物件的位置,並決定包含該物件的方塊。例如,如圖26所示,詮釋資訊是使用HEVC中的SEI訊息等與像素資料不同之資料儲存構造來儲存。該詮釋資訊是例如顯示主物件的位置、尺寸、或者色彩等。
又,也可以串流、序列或者隨機存取單位等由複數個圖片所構成的單位來儲存詮釋資訊。藉此,解碼側可取得特定人物出現在影像內的時刻等,配合圖片單位的資訊,以此便可特定物件存在的圖片、及在圖片內之物件的位置。 [網頁的最適化]
圖27是顯示電腦ex111等之中網頁(web page)的顯示畫面例之圖。圖28是顯示智慧型手機ex115等之網頁的顯示畫面例之圖。如圖27及圖28所示,網頁有包括複數個鏈接圖像的情況,其中該等鏈接圖像為朝圖像內容的鏈接,該等鏈接圖像的看到方式會依據閱覽的設備而有所不同。在於畫面上看得到複數個鏈接圖像時,迄至使用者明白表示選擇鏈接圖像為止,或者是迄至鏈接圖像靠近畫面的中央附近或者鏈接圖像整體進入畫面內為止,顯示裝置(解碼裝置)是顯示各內容所具有的靜態圖像或I圖片來作為鏈接圖像,或以複數個靜態圖像或I圖片等顯示像gif動畫般的影像,或只有接收基本層而將影像進行解碼及顯示。
在由使用者選擇了鏈接圖像時,顯示裝置會將基本層視為最優先,來進行解碼。另,若在構成網頁的HTML中,有顯示可調式的內容的資訊時,顯示裝置也可進行解碼迄至加強層為止。又,為了保證實時性,在被選擇之前或者通訊頻帶極窄時,顯示裝置只對參考前方的圖片(I圖片、P圖片、僅只參考前方的B圖片)進行解碼及顯示,以此可減少前頭圖片的解碼時刻與顯示時刻間的延遲(從內容的解碼開始迄至顯示開始之延遲)。又,顯示裝置也可硬是忽視圖片的參考關係,而使全部的B圖片及P圖片為參考前方,先粗略地進行解碼,然後經過一段時間,隨著所接收的圖片的增加,再進行正常的解碼。 [自動行駛]
又,為了汽車的自動行駛或者支援行駛,而發送及接收2維或者3維的地圖資訊等之靜態圖像或者是影像資料時,接收終端機除了屬於1層以上的層級之圖像資料以外,也可接收天氣或者施工的資訊等來作為詮釋資訊,並使該等資訊建立對應關係而進行解碼。另,詮釋資訊也可屬於層,也可只單純地與圖像資料進行多工。
此時,由於含有接收終端機的汽車、空拍機或者飛機等會移動,因此接收終端機會在請求接收時,發送該接收終端機的位置資訊,以此可一邊切換基地台ex106至ex110,一邊實現無縫的接收及解碼。又,接收終端機可因應使用者的選擇、使用者的狀況或者通訊頻帶的狀態,而動態地切換將詮釋資訊接收到哪一程度,或者將地圖資訊更新到何種程度。
如上進行,在內容供給系統ex100中,可讓客戶端實時接收使用者所發送的已編碼的資訊並將其解碼,且進行播放。 [個人內容的分發]
又,在內容供給系統ex100中,不只以透過影像分發業者所進行的高畫質進行長時間的內容,還能以透過個人所進行的低畫質進行短時間的內容的單點傳播(unicast)、或者多點傳播(multicast)進行分發。又,像這樣的個人的內容,認為今後也會增加。為了將個人內容做成更優異的內容,伺服器也可進行編輯處理,之後再進行編碼處理。這是例如可以如下的構成來實現。
在攝影時實時或者先儲存後於攝影後,伺服器從原圖或者編碼完畢資料,進行攝影錯誤、場景搜尋、意義的解析、及物件檢測等之辨識處理。接著,伺服器根據辨識結果,而以手動或者自動地進行補正失焦或手震等、或者是刪除亮度比其他圖片低或未對焦的場景等重要性低的場景、或者是強調物件的邊緣、或者是變化色調等之編輯。伺服器根據編輯結果,而將編輯後的資料進行編碼。又,已知道攝影時間太長時,收視率會下降,伺服器也可根據圖像處理結果,不只是對如上述般重要性低的場景,亦對動作少的場景等自動地進行剪輯,以因應撮影時間而成為特定的時間範圍內的內容。或者,伺服器也可根據場景的意義解析的結果,來產生摘要(digest),且進行編碼。
另,在個人內容中,若保持原狀,也有成為著作權、著作人格權、或者肖像權等侵害的東西被拍進去的事例,也有共享的範圍超過所意圖的範圍等,對個人來說是不宜的情況。因此,例如,伺服器也可刻意地將畫面的周邊部的人臉或者是家裡等,變更成不對焦的圖像,來進行編碼。又,伺服器也可辨識在編碼對象圖像內是否有拍到與事先登錄的人物不同之人物的臉,若有拍到時,對臉的部分進行加上馬賽克等之處理。或者,在編碼的前處理或者後處理上,從著作權等的觀點來看,使用者對圖像指定想要加工的人物或者背景區域,伺服器將所指定的區域替換成別的影像,或者進行模糊焦點等的處理也可。若是人物時,在動態圖像中,可一邊追蹤人物,一邊將臉的部分影像替換。
又,由於資料量小的個人內容的收看在實時性的要求高,因此雖然依頻帶寬度有所差異,但解碼裝置首先是以基本層最優先地接收,並進行解碼及播放。解碼裝置也可在這期間接收加強層,在有循環播放的情況等有播放2次以上的時候,連同加強層在內將高畫質的影像播放。若是已如此地進行有可調的編碼之串流的話,就能提供如下體驗,即,雖然在未選擇時或者剛開始看的階段,是粗糙的動畫,但會漸漸地串流變精緻了,圖像變好。除了可調式編碼以外,以在第1次播放的粗糙的串流、及參考第1次動畫來編碼的第2次的串流,當做為1個串流來構成,也可提供同樣的體驗。 [其他使用例]
又,該等編碼或者解碼處理,一般來說是在各終端機所具有的LSIex500中來處理。LSIex500可以是單晶片,也可以是由複數個晶片所構成。另,也可將動態圖像編碼或者解碼用的軟體裝入能以電腦ex111等讀取的某些記錄媒體(CD-ROM、軟碟、或者硬碟等),並使用該軟體來進行編碼或者解碼處理。進而,智慧型手機ex115是附有攝像機時,也可發送以該攝像機取得的動畫資料。此時的動畫資料是已經透過智慧型手機ex115所具有的LSIex500進行編碼處理的資料。
另,LSIex500也可為下載應用軟體程式來啟動之構成。此時,首先,終端機要判定該終端機是否支援內容的編碼方式,或者是否具有特定服務的執行能力。在終端機未支援內容的編碼方式時,或者不具有特定服務的執行能力時,終端機要下載編解碼器或者應用軟體程式,之後進行內容的取得及播放。
又,不限於經由網際網路ex101的內容供給系統ex100,在數位式廣播用系統也可裝入上述各實施形態之至少動態圖像編碼裝置(圖像編碼裝置)或者動態圖像解碼裝置(圖像解碼裝置)之任一者。由於是利用衛星等而在廣播用的電波乘載已將影像與聲音進行多工處理的多工資料,來進行傳送接收,所以相對於內容供給系統ex100的易於進行單點傳播的構成,數位式廣播用系統雖有利於多點播送的差異,但有關於編碼處理及解碼處理,仍可做同樣的應用。 [硬體構成]
圖29是顯示智慧型手機ex115的圖。又,圖30是顯示智慧型手機ex115的構成例之圖。智慧型手機ex115包含有:天線ex450,是用以於與基地台ex110之間收發電波;攝像機部ex465,是可拍攝影像及靜態圖像;以及顯示部ex458,是顯示已將以攝像機部ex465所拍攝的影像、及以天線ex450所接收的影像等進行解碼之資料。智慧型手機ex115更包含有:操作部ex466,為觸控面板等;聲音輸出部ex457,為用以輸出聲音或者音響的揚聲器等;聲音輸入部ex456,為用以輸入聲音之麥克風等;記憶部ex467,可保存所拍攝的影像或者靜態圖像、已錄取的聲音、已接收的影像或者靜態圖像、郵件等的已編碼的資料、或者已解碼的資料;及插槽部ex464,為與SIMex468之間的介面部,其中SIMex468為用以特定使用者,並以網路為首,實行對各種資料進行存取的認證。另,也可使用外接式記憶體代替記憶部ex467。
又,將顯示部ex458及操作部ex466等統合性地控制的主控制部ex460,與電源電路部ex461、操作輸入控制部ex462、影像訊號處理部ex455、攝像機介面部ex463、顯示器控制部ex459、調變/解調部ex452、多工/分離部ex453、聲音訊號處理部ex454、插槽部ex464、以及記憶部ex467是經由匯流排ex470來連接。
電源電路部ex461是藉由使用者的操作使電源開關成為開啟狀態時,從電池組對各部供應電力,藉此使智慧型手機ex115啟動成可動作的狀態。
智慧型手機ex115是基於具有CPU、ROM及RAM等之主控制部ex460的控制,進行通話及資料通訊等的處理。在通話時是將以聲音輸入部ex456所收音的聲音訊號在聲音訊號處理部ex454轉換成數位式聲音訊號,將該訊號在調變/解調部ex452進行頻譜擴散處理,在發送/接收部ex451實施數位類比轉換處理以及頻率轉換處理,之後再經由天線ex450進行發送。又,將接收資料放大,並實施頻率轉換處理以及類比數位轉換處理,在調變/解調部ex452進行頻譜反擴散處理,在聲音訊號處理部ex454轉換成類比聲音訊號,之後再將該訊號從聲音輸出部ex457進行輸出。在資料通訊模式時,透過本體部的操作部ex466等的操作,將正文、靜態圖像、或者影像資料經由操作輸入控制部ex462而送出至主控制部ex460,並同樣地被進行收發處理。在資料通訊模式時,於發送影像、靜態圖像、或者影像及聲音的情況,影像訊號處理部ex455是將記憶部ex467所保存的影像訊號、或者從攝像機部ex465所輸入的影像訊號透過上述各實施形態所示的動態圖像編碼方法進行壓縮編碼,且將業經編碼的影像資料送出至多工/分離部ex453。又,聲音訊號處理部ex454是將在以攝像機部ex465將影像或者靜態圖像等攝影中於聲音輸入部ex456所收音的聲音訊號進行編碼,且將業經編碼的聲音資料送出至多工/分離部ex453。多工/分離部ex453是將業經編碼完畢的影像資料及業經編碼完畢的聲音資料以預定的方式進行多工,且於調變/解調部(調變/解調電路部)ex452、及發送/接收部ex451實施調變處理及轉換處理,並經由天線ex450來發送。
在接收到電子郵件或者對話(chat)所附的影像、或者連結到網頁等的影像時,為了將經由天線ex450所接收到的多工資料進行解碼,多工/分離部ex453將多工資料進行分離,藉此把多工資料分成影像資料的位元串流及聲音資料的位元串流,經由同步匯流排ex470,而將業經編碼的影像資料供給至影像訊號處理部ex455,並將業經編碼的聲音資料供給至聲音訊號處理部ex454。影像訊號處理部ex455透過對應於上述各實施形態所示的動態圖像編碼方法之動態圖像解碼方法,而將影像訊號進行解碼,且透過顯示器控制部ex459,而從顯示部ex458,顯示被連結的動態圖像檔所含之影像或者靜態圖像。又,聲音訊號處理部ex454是將聲音訊號進行解碼,且從聲音輸出部ex457輸出聲音。另,由於實時串流傳輸(real-time streaming)已經普及了,依使用者的狀況,聲音的播放也可能會有對社會上不合適的場面發生。為此,作為初始值,聲音訊號不要播放,而只將影像資料播放的構成是較被希望的。也可以是只有在使用者進行了操作,如點選影像資料等的時候,將聲音同步地播放。
又,在此,是以智慧型手機ex115為例進行了說明,以終端機而言也可考慮如下3種安裝形式,除了具有編碼器及解碼器兩者的訊號收發型終端機之外,只具有編碼器的發訊終端機、及只具有解碼器的收訊終端機。進而,在數位廣播用系統中,是以接收或者發送在影像資料上已有聲音資料等進行多工處理之多工資料的情形來說明,但多工資料上除了聲音資料以外,也可有與影像有關聯的文字資料等進行多工處理,也可接收或者發送影像資料本身,而不是多工資料。
另,以含有CPU的主控制部ex460控制編碼處理或者解碼處理的情形來說明,但終端機具備GPU的情況也居多。因此,如後述構成也可,即,透過在CPU與GPU共通化的記憶體、或者有將位址加以管理以形成可以共通使用之狀態的記憶體,來靈活運用GPU的性能,並將廣大區域匯整來一起處理者。藉此,可縮短編碼時間,確保實時性,可實現低延遲。尤其,不是利用CPU,而是透過GPU,以圖片等的單位匯整來一起進行移動估測、解區塊濾波器、SAO(Sample Adaptive Offset)、及轉換、量化的處理時,是有效率的。
也可以將本態樣與本揭示中的其他態樣之至少一部分組合來實施。又,也可以將本態樣的流程圖所記載的一部分處理、裝置的一部分構成、語法(syntax)的一部分等與其他態樣組合來實施。 (產業利用性)
本揭示可適用於編碼裝置、解碼裝置、編碼方法及解碼方法。
100:編碼裝置 102:分割部 104:減法部 106:轉換部 108:量化部 110:熵編碼部 112,204:反量化部 114,206:反轉換部 116,208:加法部 118,210:區塊記憶體 120,212:迴路濾波部 122,214:訊框記憶體 124,216:內預測部 126,218:間預測部 128,220:預測控制部 200:解碼裝置 202:熵解碼部 ex100:內容供給系統 ex101:網際網路 ex102:網際網路服務提供者 ex103:串流伺服器 ex104:通訊網 ex106至ex110:基地台 ex111:電腦 ex112:遊戲機 ex113:攝像機 ex114:家電 ex115:智慧型手機 ex116:衛星 ex117:飛機 ex450:天線 ex451:發送/接收部 ex452:調變/解調部 ex453:多工/分離部 ex454:聲音訊號處理部 ex455:影像訊號處理部 ex456:聲音輸入部 ex457:聲音輸出部 ex458:顯示部 ex459:顯示器控制部 ex460:主控制部 ex461:電源電路部 ex462:操作輸入控制部 ex463:攝像機介面部 ex464:插槽部 ex465:攝像機部 ex466:操作部 ex467:記憶部 ex468:SIM ex470:匯流排
圖1是顯示實施形態1之編碼裝置之功能構成的方塊圖。
圖2是顯示實施形態1之區塊分割之一例之圖。
圖3是顯示對應於各轉換型式之轉換基底函數之表格。
圖4A是顯示ALF所使用之濾波器之形狀一例之圖。
圖4B是顯示ALF所使用之濾波器的形狀另一例之圖。
圖4C是顯示ALF所使用之濾波器的形狀另一例之圖。
圖5A是顯示內預測中之67個內預測模式之圖。
圖5B是用以說明藉OBMC處理之預測圖像補正處理之概要的流程圖。
圖5C是用以說明藉OBMC處理之預測圖像補正處理之概要的概念圖。
圖5D是顯示FRUC一例之圖。
圖6是用以說明在沿著移動軌跡的2個區塊間的圖案匹配(雙向匹配)之圖。
圖7是用以說明當前圖片內的模板與參考圖片內的區塊之間的圖案匹配(模板匹配)之圖。
圖8是用以說明假設等速直線運動之模型的圖。
圖9A是用以說明子區塊單位的移動向量之導出之圖,該子區塊單位的移動向量是基於複數個鄰接區塊的移動向量。
圖9B是用以說明合併模式之移動向量導出處理之概要之圖。
圖9C是用以說明DMVR處理之概要之概念圖。
圖9D是用以說明預測圖像產生方法之概要之圖,該預測圖像產生方法是使用了LIC處理的亮度補正處理。
圖10是顯示實施形態1之解碼裝置的功能構成的方塊圖。
圖11是實施形態1之解區塊濾波處理的流程圖。
圖12是顯示實施形態1之區塊邊界中的像素配置例的圖。
圖13是實施形態1之解區塊濾波處理的流程圖。
圖14是實施形態2之解區塊濾波處理的流程圖。
圖15是顯示實施形態2之區塊內的像素位置與誤差的關係之圖。
圖16是實施形態3之解區塊濾波處理的流程圖。
圖17是顯示實施形態3之DCT-II的轉換基底的圖。
圖18是顯示實施形態3之DST-VII的轉換基底的圖。
圖19是實施形態4之解區塊濾波處理的流程圖。
圖20是實施形態5之解區塊濾波處理的流程圖。
圖21是顯示權重之一例的圖,該權重是根據實施形態5之內預測方向與區塊邊界的方向。
圖22是實施形態6之解區塊濾波處理的流程圖。
圖23是顯示權重之一例之圖,該權重是根據實施形態6之量化參數。
圖24是實現內容分發服務之內容供給系統的整體構成圖。
圖25是顯示可調式編碼時之編碼構造一例之圖。
圖26是顯示可調式編碼時之編碼構成一例之圖。
圖27是顯示網頁的顯示畫面例之圖。
圖28是顯示網頁的顯示畫面例之圖。
圖29是顯示智慧型手機一例之圖。
圖30是顯示智慧型手機的構成例之方塊圖。
S161至S162:步驟
Claims (3)
- 一種解碼方法,包含: 決定是否對在第1區塊與鄰接前述第1區塊的第2區塊之間的第1邊界進行濾波, 利用各值的變化量在各亮度剪裁寬度之內的剪裁處理來改變前述第1區塊及前述第2區塊內的亮度像素的值,進而對在前述第1區塊與前述第2區塊之間的前述第1邊界進行濾波,前述第1區塊與前述第2區塊內的前述亮度像素沿著穿越前述第1邊界的第1列排列;及 利用各值的變化量在各色差剪裁寬度之內的剪裁處理來改變第3區塊及第4區塊內的色差像素的值,進而對在前述第3區塊與前述第4區塊之間的第2邊界進行濾波,前述第3區塊與前述第4區塊內的前述色差像素沿著穿越前述第2邊界的第2列排列, 其中適用於沿著前述第1列排列的前述亮度像素的前述亮度剪裁寬度被選擇是對前述第1邊界成非對稱, 其中適用於沿著前述第2列排列的前述色差像素的前述色差剪裁寬度被選擇是對前述第2邊界成對稱。
- 一種編碼方法包含: 決定是否對在第1區塊與鄰接前述第1區塊的第2區塊之間的第1邊界進行濾波, 利用各值的變化量在各亮度剪裁寬度之內的剪裁處理來改變前述第1區塊及前述第2區塊內的亮度像素的值,進而對在前述第1區塊與前述第2區塊之間的前述第1邊界進行濾波,前述第1區塊與前述第2區塊內的前述亮度像素沿著穿越前述第1邊界的第1列排列;及 利用各值的變化量在各色差剪裁寬度之內的剪裁處理來改變第3區塊及第4區塊內的色差像素的值,進而對在前述第3區塊與前述第4區塊之間的第2邊界進行濾波,前述第3區塊與前述第4區塊內的前述色差像素沿著穿越前述第2邊界的第2列排列, 其中適用於沿著前述第1列排列的前述亮度像素的前述亮度剪裁寬度被選擇是對前述第1邊界成非對稱, 其中適用於沿著前述第2列排列的前述色差像素的前述色差剪裁寬度被選擇是對前述第2邊界成對稱。
- 一種產生位元流的方法,前述位元流包含使解碼裝置執行濾波處理的濾波資訊,前述濾波處理包含以下步驟: 決定是否對在第1區塊與鄰接前述第1區塊的第2區塊之間的第1邊界進行濾波, 利用各值的變化量在各亮度剪裁寬度之內的剪裁處理來改變前述第1區塊及前述第2區塊內的亮度像素的值,進而對在前述第1區塊與前述第2區塊之間的前述第1邊界進行濾波,前述第1區塊與前述第2區塊內的前述亮度像素沿著穿越前述第1邊界的第1列排列;及 利用各值的變化量在各色差剪裁寬度之內的剪裁處理來改變第3區塊及第4區塊內的色差像素的值,進而對在前述第3區塊與前述第4區塊之間的第2邊界進行濾波,前述第3區塊與前述第4區塊內的前述色差像素沿著穿越前述第2邊界的第2列排列, 其中適用於沿著前述第1列排列的前述亮度像素的前述亮度剪裁寬度被選擇是對前述第1邊界成非對稱, 其中適用於沿著前述第2列排列的前述色差像素的前述色差剪裁寬度被選擇是對前述第2邊界成對稱。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US62/482,314 | 2017-04-06 | ||
| JP2017-106905 | 2017-05-30 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| TW202545185A TW202545185A (zh) | 2025-11-16 |
| TWI910081B true TWI910081B (zh) | 2025-12-21 |
Family
ID=
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2012118421A1 (en) | 2011-03-01 | 2012-09-07 | Telefonaktiebolaget L M Ericsson (Publ) | Deblocking filtering control |
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2012118421A1 (en) | 2011-03-01 | 2012-09-07 | Telefonaktiebolaget L M Ericsson (Publ) | Deblocking filtering control |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7710587B2 (ja) | 符号化方法及び復号方法 | |
| TWI902491B (zh) | 圖像編碼裝置、圖像解碼裝置及非暫時性記憶媒體 | |
| TWI832814B (zh) | 解碼裝置及編碼裝置 | |
| JP7559194B2 (ja) | 符号化装置及び復号装置 | |
| JP7551881B2 (ja) | 符号化装置及び復号装置 | |
| KR102296015B1 (ko) | 부호화 장치, 복호 장치, 부호화 방법 및 복호 방법 | |
| JP2024056965A (ja) | 符号化装置、復号装置及びビットストリーム生成装置 | |
| TWI910081B (zh) | 解碼方法、編碼方法、及產生位元流的方法 | |
| TW202545185A (zh) | 解碼方法、編碼方法、及產生位元流的方法 |