[go: up one dir, main page]

JP2006031003A - Method and system for improving display resolution using subpixel sampling and visual error compensation - Google Patents

Method and system for improving display resolution using subpixel sampling and visual error compensation Download PDF

Info

Publication number
JP2006031003A
JP2006031003A JP2005203546A JP2005203546A JP2006031003A JP 2006031003 A JP2006031003 A JP 2006031003A JP 2005203546 A JP2005203546 A JP 2005203546A JP 2005203546 A JP2005203546 A JP 2005203546A JP 2006031003 A JP2006031003 A JP 2006031003A
Authority
JP
Japan
Prior art keywords
image
luminance
error
sampling
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2005203546A
Other languages
Japanese (ja)
Inventor
Scott J Daly
ジェイ. ダリー スコット
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US10/890,871 external-priority patent/US7035476B2/en
Application filed by Sharp Corp filed Critical Sharp Corp
Publication of JP2006031003A publication Critical patent/JP2006031003A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)
  • Liquid Crystal Display Device Control (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a method for suitably converting a high-resolution image into a low-resolution image by using visible errors. <P>SOLUTION: The method comprises the following steps. Sub-pixel sampling simulation (72) is performed on a high-resolution image (70) to determine an error to be introduced into the high-resolution image as a result of sub-pixel sampling. The error may be isolated from the high-resolution image to create an error image. The error image may be modified with a visual model (76) to remove invisible errors, and thereby a visible error image is created. Then the visual error image may be combined with the high-resolution image to create a compensated image (82), and when sub-pixel sampling (80) occurs, the compensated image substantially cancels the introduced error as a result of subsequent sub-pixel sampling. <P>COPYRIGHT: (C)2006,JPO&NCIPI

Description

(関連出願の参照)
本出願は、Scott J.Dalyによる発明で2000年12月12日に出願された米国特許出願シリアルナンバー09/735,454の継続出願であり、本出願はまた、Dean Messing、Scott J.Daly、Rajesh Reddy Kovvuriによる発明で2003年5月27日に出願された米国特許出願シリアルナンバー10/447、186の継続出願であり、両出願は2000年6月12日に出願された米国仮特許出願番号60/211、020の利益を主張する。
(Refer to related applications)
This application is based on Scott J. et al. It is a continuation of US patent application serial number 09 / 735,454 filed December 12, 2000 with the invention by Daly, which is also incorporated by Dean Messaging, Scott J. et al. It is a continuation of US patent application serial number 10 / 447,186, filed May 27, 2003, invented by Dary, Rajesh Reddy Kovvuri, both of which are US provisional patents filed June 12, 2000 Claim the benefit of application number 60 / 211,020.

本発明の実施形態は、より低い解像度を用いてディスプレイに高解像度画像を表示する分野に関連する。この場合、ディスプレイは、画像のR,G,B構成成分を表示するためにトライアドを用いる。このトライアドは、たとえば、直視型LCDディスプレイにおいて一般的であり、そのような配置においては、単一ピクセルが3つの隣り合うサブピクセルを構成する。サブピクセルはそれぞれ3原色(つまり、R,G,B)の1つのみを制御し、通常デジタル画像表示の原色によって単独的に制御される。高解像度画像は、記憶装置において、またはアルゴリズム(ベクトル・グラフィックス、いくつかのフォント設計、コンピュータグラフィックス)から直接的に、利用可能であり得る。   Embodiments of the invention relate to the field of displaying high resolution images on a display using a lower resolution. In this case, the display uses a triad to display the R, G, B component of the image. This triad is common, for example, in direct view LCD displays, and in such an arrangement, a single pixel constitutes three adjacent subpixels. Each sub-pixel controls only one of the three primary colors (ie, R, G, B) and is typically controlled solely by the primary color of the digital image display. High resolution images may be available in storage or directly from algorithms (vector graphics, some font designs, computer graphics).

より低い解像度ディスプレイに高解像度を表示するのに用いられるもっとも一般的な方法は、図1に示されるように、高解像度4のピクセル2を低解像度ディスプレイ6の解像度にサンプリングすることである。そして、ダウンサンプルされたそれぞれのカラーピクセル8の値R,G,Bは、各ディスプレイピクセル16の別々のR,G,B要素10,12,14にマッピングされる。これらの、ディスプレイピクセルのR,G,B要素10,12,14はまた、サブピクセルと呼ばれる。ディスプレイ装置は、カラー要素のオーバーラップが不可能なのでサブピクセルのみが3つのR,G,Bカラーのうち1つを獲得できるが、カラーの振幅は全体のグレースケール範囲(たとえば、0〜255)を通して変わる。サブピクセルは通常1:3のアスペクト比(幅:高さ)を有する結果、ピクセル16は正方形になる。サブサンプリング/マッピング技術は、ディスプレイのR,G,Bサブピクセルが空間的に変位される事実を考慮に入れない。実際、それらのサブピクセルは、高解像度画像にあるのと同様にオーバーラップしていると考えられる。このサンプリングのタイプは、サブサンプリング、または従来のサブサンプリングと呼ばれ得る。   The most common method used to display high resolution on a lower resolution display is to sample the high resolution 4 pixels 2 to the resolution of the low resolution display 6, as shown in FIG. The downsampled values R, G, B of each color pixel 8 are then mapped to separate R, G, B elements 10, 12, 14 of each display pixel 16. These R, G, B elements 10, 12, 14 of the display pixel are also called subpixels. Since the display device cannot overlap the color elements, only the sub-pixel can acquire one of the three R, G, B colors, but the color amplitude is in the entire gray scale range (eg, 0-255). Change through. Subpixels typically have an aspect ratio (width: height) of 1: 3, resulting in pixels 16 being square. Subsampling / mapping techniques do not take into account the fact that the R, G, B subpixels of the display are spatially displaced. In fact, those subpixels are considered overlapping as in the high resolution image. This type of sampling may be referred to as sub-sampling or conventional sub-sampling.

高解像度画像4のピクセルは3つのわずかにオフセットして積み重ねられた正方形8として示され、RGB値が同一の空間的位置(つまり、ピクセル)と関連していることを示している。それぞれ1つのR,G,Bサブピクセル10,12,14から成る1つのディスプレイピクセル16が、暗い線を用いて図1のより低い解像度トライアドディスプレイ6の一部として示されている。他のディスプレイピクセルがより明るいグレイ線で示されている。   The pixels of the high resolution image 4 are shown as three slightly offset stacked squares 8, indicating that the RGB values are associated with the same spatial location (ie, pixel). One display pixel 16, each consisting of one R, G, B subpixel 10, 12, 14, is shown as part of the lower resolution triad display 6 of FIG. 1 using dark lines. Other display pixels are shown in lighter gray lines.

この例では、高解像度画像はディスプレイより3倍多い解像度を有する(平行および垂直の両方向において)。この直接サブサンプリング技術はエイリアシングアーティファクトの原因となるため、たとえば、サンプリングされたピクセルを用いて隣接するサンプリングされていないピクセルを平均する、などのさまざまな方法が用いられる。ここで留意すべきは、サブサンプリングしながら隣接する要素を平均化するという一般的な技術は、矩形(rect)フィルタを用いて高解像度画像をプレフィルタリングすることと数学的に等しいということである。また留意すべきは、一番左のピクセル(この図に示される)と異なるピクセルを選択する技術は、位相のみに影響を及ぼすプレフィルタリングと考えられるという点である。このように、エイリアシング防止に関連する処理のほとんどは、たとえカーネル(核)がサンプルされたピクセル位置のみに適用されたとしても、高解像度へのフィルタリング動作と考えられる。   In this example, the high resolution image has three times more resolution than the display (in both parallel and vertical directions). Since this direct sub-sampling technique causes aliasing artifacts, various methods are used, for example, using sampled pixels to average adjacent unsampled pixels. It should be noted that the general technique of averaging adjacent elements while subsampling is mathematically equivalent to pre-filtering a high resolution image using a rect filter. . It should also be noted that the technique of selecting a pixel different from the leftmost pixel (shown in this figure) is considered pre-filtering that only affects the phase. Thus, most of the processing related to anti-aliasing is considered a high resolution filtering operation even if the kernel is applied only to the sampled pixel location.

前述の技術は潜在的なディスプレイ解像度を利用しないということが認識される。この分野の背景情報は、R.Fiegenblatt著(1989年)「Full color imaging on amplitude color mosaic displays」 Proc.SPIE V.1075,19〜205;およびJ.Kranzおよび L.Silverstein著(1990年)「Color matrix display image quality:The effects of luminance and spatial sampling,」、SID Symp.Digest 29〜32を参照することによって得ることができる。この2つの著書は参考文献としてここに援用される。   It will be appreciated that the foregoing techniques do not take advantage of potential display resolution. For background information on this field, see R.A. Fiegenblatt (1989) “Full color imaging on amplicolor color displays” Proc. SPIE V. 1075, 19-205; Kranz and L.L. Silverstein (1990) "Color matrix display image quality: The effects of luminance and spatial sampling," SID Symp. Can be obtained by referring to Digest 29-32. These two books are hereby incorporated by reference.

たとえば、図1に示されるディスプレイでは、ディスプレイピクセル16解像度が高解像度画像(源画像)4の解像度の3分の1である一方、サブピクセル10、12および14の解像度は、源(水平方向)のサブピクセルの解像度に等しい。このディスプレイが色に鈍感な者のみに用いられる場合、サブピクセルの空間的位置を利用することは可能である。このアプローチは以下の図2に示される。ここで、ディスプレイのR、G、Bサブピクセル10、12、14は、高解像度画像の異なるピクセル11、13、15の対応するカラーから取り込まれている。これによって、水平解像度は、ディスプレイピクセル解像度の3倍であるサブピクセル解像度であることが可能になる。   For example, in the display shown in FIG. 1, the display pixel 16 resolution is one third of the resolution of the high resolution image (source image) 4, while the resolution of the subpixels 10, 12 and 14 is the source (horizontal). Equal to the resolution of the sub-pixel. If this display is used only for those who are insensitive to color, it is possible to take advantage of the spatial location of the subpixels. This approach is illustrated in FIG. 2 below. Here, the R, G, B subpixels 10, 12, 14 of the display are taken from the corresponding colors of the different pixels 11, 13, 15 of the high resolution image. This allows the horizontal resolution to be a sub-pixel resolution that is three times the display pixel resolution.

しかし、色に鈍感ではないディスプレイのビューアはどうであろう?つまり、ビューアの大多数である。幸いなことに、ディスプレイエンジニアは、完全な色覚を有する観察者でさえ、最高空間周波数では色に鈍感である。このことは以下の図3に示される。ここでは、人間の視覚系の理想的な空間周波数反応を示している。   But what about display viewers who are not insensitive to colors? That is, the majority of viewers. Fortunately, display engineers are insensitive to color at the highest spatial frequencies, even for observers with full color vision. This is shown in FIG. 3 below. Here, the ideal spatial frequency response of the human visual system is shown.

ここで、輝度17は表示された画像のアクロマティック接触に関連し、クロミナンス19はカラー含有に関連している。カラー含有は赤〜緑および青〜黄からの同等の輝きとして視覚系によって処理される。映像の色差信号R−YおよびB−Yはこれらの変調とおよそ等しい。ほとんどの観察者には、色周波数応答の帯域幅は輝度周波数応答の2分の1である。ときどき、青〜黄変調応答の帯域幅はより狭くなり、輝度のおよそ3分の1に減少する。異なる画像ピクセルからディスプレイピクセルトライアドのカラー要素のマッピングを構成するサンプリングは、サブピクセルサンプリングとして言及され得る。   Here, luminance 17 is associated with achromatic contact of the displayed image and chrominance 19 is associated with color content. The color content is processed by the visual system as an equivalent glow from red to green and blue to yellow. The image color difference signals RY and BY are approximately equal to these modulations. For most observers, the bandwidth of the color frequency response is half that of the luminance frequency response. Sometimes the bandwidth of the blue-yellow modulation response becomes narrower and decreases to approximately one third of the luminance. Sampling that constitutes the mapping of display pixel triad color elements from different image pixels may be referred to as sub-pixel sampling.

図4を参照すると、ディスプレイの水平方向では、ディスプレイピクセル16のナイキスト(ディスプレイピクセル=トライアドピクセルで、トライアドピクセルあたり0.5サイクルでトライアドナイキストを提供する)およびサブピクセル要素10、12、14のナイキスト周波数(サブピクセルあたり0.5サイクル=トライアドピクセルあたり1.5サイクル)の間に周波数範囲が置かれている。この部分は図4で長方形部分20として示されている。ディスプレイサンプルスペーシングに等しい幅を有するrect(矩形)関数を用いて高解像度画像を巻き込む結果生じるsinc関数が薄い破線−点曲線22として示される。これが、ディスプレイがLCDの場合にディスプレイMTF(変調伝達関数)を変調するのにとられる最も一般的なアプローチである。   Referring to FIG. 4, in the horizontal direction of the display, the Nyquist of display pixel 16 (display pixel = triad pixel, providing triad Nyquist at 0.5 cycles per triad pixel) and Nyquist of subpixel elements 10, 12, 14 There is a frequency range between the frequencies (0.5 cycles per subpixel = 1.5 cycles per triad pixel). This portion is shown as a rectangular portion 20 in FIG. The sinc function resulting from wrapping a high resolution image with a rect function having a width equal to the display sample spacing is shown as a thin dashed-dot curve 22. This is the most common approach taken to modulate the display MTF (Modulation Transfer Function) when the display is an LCD.

サブピクセルスペーシングに等しいrectを用いて高解像度源画像を巻き込む結果生じるsinc関数が、破線の曲線24として示されている。これはより広い帯域幅を有する。これは、サブピクセルは1Dにおいてrectであるという考えのもと、ディスプレイによって課せられた制限である。示される長方形部分20では、サブピクセルは輝度情報を表示できるが色情報は表示できない。実際、この部分での色情報は、エイリアスされている。このように、この部分に色エイリアシングを許容することで、トライアド(つまり、ディスプレイ)ピクセルよりもより高い周波数輝度情報を達成することができる。これはサブピクセルサンプリングを用いることで生じる「有利な」部分である。   The sinc function that results from wrapping the high resolution source image with rect equal to subpixel spacing is shown as a dashed curve 24. This has a wider bandwidth. This is a limitation imposed by the display, with the idea that subpixels are rect in 1D. In the rectangular portion 20 shown, the sub-pixel can display luminance information but not color information. In fact, the color information in this part is aliased. Thus, by allowing color aliasing in this part, higher frequency luminance information can be achieved than triad (ie, display) pixels. This is an “advantageous” part of using subpixel sampling.

フォントディスプレイを有するアプリケーションでは、図5に示されるように、白黒のフォントは典型的に前処理される。標準の前処理はヒンティングを含む。ヒンティングはピクセルの中心のフォントストロークの中心化に関連する。つまり、フォントストローク特異的位相シフトである。これは通常、低域通過フィルタリングに続いて起こる。低域通過フィルタリングはまたグレイスケールアンチエイリアス処理と呼ばれる。   In applications with a font display, black and white fonts are typically preprocessed, as shown in FIG. Standard preprocessing includes hinting. Hinting is related to the centering of the font stroke at the center of the pixel. That is, a font stroke specific phase shift. This usually occurs following low pass filtering. Low pass filtering is also referred to as grayscale anti-aliasing.

図3に示される視覚周波数応答(CSF)は理想化される。実際には、図6Aに示されるように有限フォールオフ勾配を有する。輝度CSF30は、cy/deg単位からディスプレイピクセルドメイン(1280ピクセルの見える距離と想定する)にマッピングされる。これは、ピクセル(ディスプレイピクセル)あたり1.5cy近くの最大周波数を有する実線30として示され、ピクセルトライアドあたり2cy近くのピークを有する帯域通過である。R:G CSF32が破線として示される。これは、ピクセルあたり0.5cy近くの最大周波数を有する低域通過である。B:Y変調CSF34が、R:G CSFと同様の最大周波数を有する破線−点LPF曲線として示されているが、より低い最大応答を有する。色度CSF32および34の遮断周波数と輝度CSF30の間の範囲は、輝度帯域幅を改善するために色エイリアシングを許可する部分である。   The visual frequency response (CSF) shown in FIG. 3 is idealized. In practice, it has a finite falloff gradient as shown in FIG. 6A. Luminance CSF 30 is mapped from cy / deg units to the display pixel domain (assuming a viewing distance of 1280 pixels). This is shown as a solid line 30 with a maximum frequency near 1.5 cy per pixel (display pixel) and is a band pass with a peak near 2 cy per pixel triad. R: G CSF32 is shown as a dashed line. This is a low pass with a maximum frequency near 0.5 cy per pixel. B: Y modulated CSF 34 is shown as a dashed-dot LPF curve with the same maximum frequency as R: G CSF, but with a lower maximum response. The range between the cutoff frequency of the chromaticity CSFs 32 and 34 and the luminance CSF 30 is the portion that allows color aliasing to improve the luminance bandwidth.

図6Aはまた、理想化した画像電力スペクトル36を1/f関数として示し、図で−1の勾配を有する直線として表される(図は対数軸を用いているため)。この範囲はサンプリング周波数で反復される。これらの反復は水平方向のピクセル38およびサブピクセル40のサンプリング率を示している。より低い周波数38での発生はピクセルサンプリングによって起こり、より高い周波数40での発生はサブピクセルサンプリングによって起こる。対数周波数軸にプロットするので形が変わるという点に留意すべきである。ナイキスト以下のより低い周波数にまで伸びるこれらの反復範囲の周波数はエイリアシングと呼ばれる。ピクセルサンプリング比のため、最も左は色エイリアシング38である。その一方で、より高いサブピクセルサンプリング比に関係するのでより高い周波数で輝度エイリアシング40が発生する。   FIG. 6A also shows the idealized image power spectrum 36 as a 1 / f function, represented in the figure as a straight line with a slope of −1 (since the figure uses a logarithmic axis). This range is repeated at the sampling frequency. These iterations show the sampling rate of horizontal pixels 38 and sub-pixels 40. Generation at the lower frequency 38 occurs by pixel sampling, and generation at the higher frequency 40 occurs by subpixel sampling. It should be noted that the shape changes because it is plotted on the logarithmic frequency axis. The frequency of these repeat ranges extending to lower frequencies below Nyquist is called aliasing. The leftmost color aliasing 38 is due to the pixel sampling ratio. On the other hand, luminance aliasing 40 occurs at higher frequencies as it relates to higher subpixel sampling ratios.

図6Aでは、源範囲にプレフィルタリングが適用されていない。したがって、ピクセルサンプリング(つまり、色エイリアシング)によるエイリアシングは低周波数35にまで伸びている。このように、色CSFが輝度CSFよりも狭い帯域幅を有していたとしても、カラーアーチファクトは依然可視であり得る(ノイズおよびディスプレイのコントラストによる)。   In FIG. 6A, no pre-filtering is applied to the source range. Therefore, aliasing due to pixel sampling (ie color aliasing) extends to the low frequency 35. Thus, even though the color CSF has a narrower bandwidth than the luminance CSF, color artifacts can still be visible (due to noise and display contrast).

図6Bでは、破線−点線22として図4に示されていたプレフィルター(3つの源画像ピクセルに等しいrect関数)を源電力スペクトルに適用した。そして、ピクセルあたり0.5cyを過ぎたベースバンド範囲42に影響を及ぼしているように見え、44で見られる−1よりも急な勾配スロープを引き起こす。反復はまたこのプレフィルターの効果を示す。このフィルタを用いてさえも、2つの色CSF 32aおよび34aの遮断周波数より低い周波数46で色エイリアシング(より低い周波数で反復された範囲)がいくつか発生するのが見られる。このように、ピクセルあたり0.5cy(つまり、「有利な」部分)を過ぎたすべての輝度周波数を取り除かなければ、単純な輝度プレフィルタリングは色エイリアシングを取り除くのに困難であるのが見てとれるであろう。   In FIG. 6B, the prefilter (rect function equal to three source image pixels), shown in FIG. 4 as dashed-dotted line 22, was applied to the source power spectrum. It then appears to affect the baseband range 42 past 0.5 cy per pixel, causing a steeper slope than the −1 seen at 44. The iteration also shows the effect of this prefilter. Even with this filter, it can be seen that some color aliasing (repeated range at lower frequencies) occurs at a frequency 46 that is lower than the cutoff frequency of the two colors CSF 32a and 34a. Thus, it can be seen that simple luminance pre-filtering is difficult to remove color aliasing unless all luminance frequencies past 0.5 cy per pixel (ie, the “favorable” portion) are removed. Will.

「有利な」部分20で輝度帯域幅を広げる輝度または色の関数としての帯域幅における視覚系の違いに依存しているため、視覚系モデルを基にプレフィルタリングを設計することが1つの可能性である。これは、ここに参考文献として援用され、図7に示される、C.Betriseyら著(2000年)”Displaced filtering for patterned displays”、SID Symposium digest、296〜299に記載されている。   One possibility is to design the pre-filtering based on the visual system model, as it depends on the visual system difference in bandwidth as a function of luminance or color that expands the luminance bandwidth in the “advantageous” part 20 It is. This is incorporated herein by reference and is shown in FIG. Betrisey et al. (2000) "Distributed filtering for patterned displays", SID Symposium digests, 296-299.

この技術は、カラー層の種類および画像がサンプリングされるカラーサブピクセルによって異なるフィルタを理想的に用いる。つまり9つのフィルタがある。これは、人間の視覚差異モデルを用いて設計された。このことは、ここに援用され、図7に示される、次の著作に記載される:X.ZhangおよびB.Wandell著(1996年)”A spatial extension of CIELAB for digital color image reproduction”、SID Symp.Digest 731−734。これは、画像は常に白黒であるという想定のもと、オフラインで行われた。最終的な実行段階で、結果として生じるフィルタではなくrect関数が用いられ、計算を保存する。さらに、依然としていくつかの残留色エラーが見られるのは、色エイリアシングが色CSF遮断(図6Bに見られるように)よりも低い周波数にまで伸びているからである。   This technique ideally uses different filters depending on the type of color layer and the color subpixel from which the image is sampled. That is, there are nine filters. It was designed using a human visual difference model. This is incorporated herein and described in the following work, shown in FIG. Zhang and B.H. Wandell (1996) "A spatial extension of CIELAB for digital color image re- production", SID Symp. Digest 731-734. This was done offline, assuming that the images were always black and white. In the final execution stage, the rect function is used instead of the resulting filter to save the calculation. Furthermore, some residual color errors are still seen because color aliasing extends to a lower frequency than color CSF cutoff (as seen in FIG. 6B).

しかしながら、用いられる視覚モデルは、輝度が中〜高のコントラストレベルの時に、輝度によって色のマスキングを引き起こす視覚系のプロパティのマスキングを考慮に入れていない。それゆえ、フォントのエッジに沿って設置されるより大きなフォントの色アーチファクトは、フォントの高輝度コントラストによってマスクされる。しかしながら、フォントサイズが縮小されるとフォント輝度が減少し、同一の色アーチファクトは非常に可視的になる(たとえば非常に小さなフォントでも、フォントのb/w部分はなくなり、ローカライズされたカラースペックルのみが残される)。   However, the visual model used does not take into account the masking of visual system properties that cause color masking by luminance when the luminance is at a medium to high contrast level. Therefore, larger font color artifacts placed along the edge of the font are masked by the high brightness contrast of the font. However, when the font size is reduced, the font brightness decreases, and the same color artifact becomes very visible (for example, even for very small fonts, the b / w portion of the font disappears, only localized color speckles Is left).

本発明の実施形態は、フィルタリングおよびその線形性の想定にほとんど依存しない方法およびシステムを構成する。これらの実施形態は、さまざまなフォントストロークまたは他の画像特性を特定的にローカライズした位相を考慮に入れている。本発明の実施形態の方法は補償を基にしていて、信号が画像に加えられ、画像がサブピクセルアドレシングによって引き起こされる色エラーを無効にする。いくつかの実施形態では、より低い周波数色アーチファクトのみが無効にされる。なぜなら、図6Aに示されるように、高周波アーチファクトは色CSFのより低い帯域幅によって見えないからである。   Embodiments of the present invention constitute methods and systems that are largely independent of filtering and its linearity assumptions. These embodiments take into account specific localized phases of various font strokes or other image characteristics. The method of embodiments of the present invention is based on compensation, where a signal is added to the image and the image nullifies color errors caused by sub-pixel addressing. In some embodiments, only lower frequency color artifacts are disabled. This is because, as shown in FIG. 6A, high frequency artifacts are not visible due to the lower bandwidth of color CSF.

本発明の実施形態は、ディスプレイが設計された仕様より近くで見られない場合には、特に、より高い解像度輝度信号を提供し、色エイリアシングの視感度は減少する。さらに、本発明のモデルは、白黒源画像またはテキスト文書の使用に制限されていない。これらの方法は通常カラー画像の水平解像度を高める。また、より進んだ実施形態を使用することで、人間のマスクングの視覚効果が考慮に入れられ、高コントラスト輝度エッジ近くのより多くの色エイリアシングが使用できることでより高い輝度エッジがいっそう高められる。   Embodiments of the present invention provide a higher resolution luminance signal, especially when the display is not viewed closer to the designed specification, and the visibility of color aliasing is reduced. Furthermore, the model of the present invention is not limited to the use of black and white source images or text documents. These methods usually increase the horizontal resolution of the color image. Also, by using more advanced embodiments, the visual effect of human masking is taken into account, and more color aliasing near the high contrast luminance edge can be used to further enhance the higher luminance edge.

本発明の実施形態は、元の高解像度画像をより正確に表すより低い解像度画像を生じるエラー減少方法によって、高解像度画像をより低い解像度画像に変換させる。高解像度画像は、サンプリングシミュレーションでサンプリングされ、サブピクセルサンプリングによって生じる可視エラーをシミュレートすることがあり得る。サンプリングはシミュレートされるのみであるため、解像度は変化する必要がない。エラーが決定されると、エラーは元の画像から引かれてエラー画像を作る。それから、エラー画像から不可視検知可能情報を取り除くために視覚モデルが用いられ得て、可視エラーを表す修正されたエラー画像を作る。   Embodiments of the present invention transform a high resolution image into a lower resolution image by an error reduction method that yields a lower resolution image that more accurately represents the original high resolution image. High resolution images can be sampled in a sampling simulation to simulate visible errors caused by subpixel sampling. Since sampling is only simulated, the resolution need not change. When an error is determined, the error is subtracted from the original image to create an error image. A visual model can then be used to remove invisible detectable information from the error image, creating a modified error image that represents the visible error.

それからこの補償画像が元の画像に加えられ得ることによって、そのエラーが元の画像に加えられる。そのエラーは引き続いてサブピクセルサンプリングの間取り除かれる。補償画像は、次いでサブピクセルサンプリング処理を用いてサンプリングされる。サブピクセルサンプリング処理では、処理の結果、および改善されたより低い解像度画像の結果によって加えられたエラーが取り除かれる。
(項目1)
画像を再サンプリングする方法であって、
a)該画像の輝度の少なくとも60%を備える該画像のチャンネルを提供するステップと、
b)該チャンネルのより高い周波数輝度情報の少なくとも一部に対してより低い周波数輝度情報の少なくとも一部を減衰するステップと、
c)該画像の輝度情報を再サンプリングするステップと
を包含する、方法。
The compensation image can then be added to the original image so that the error is added to the original image. The error is subsequently removed during subpixel sampling. The compensated image is then sampled using a subpixel sampling process. The sub-pixel sampling process removes errors added by the results of the process and the improved lower resolution image.
(Item 1)
A method of resampling an image,
a) providing a channel of the image comprising at least 60% of the brightness of the image;
b) attenuating at least a portion of the lower frequency luminance information relative to at least a portion of the higher frequency luminance information of the channel;
c) resampling the luminance information of the image.

(項目2)
上記輝度情報の再サンプリングの結果、より高い周波数色情報の少なくとも一部に対してより低い周波数色情報の少なくとも一部を減衰することをさらに包含する、項目1に記載の方法。
(Item 2)
The method of claim 1, further comprising attenuating at least a portion of the lower frequency color information relative to at least a portion of the higher frequency color information as a result of the resampling of the luminance information.

(項目3)
画像を再サンプリングする方法であって、
(a)該画像の輝度情報を再サンプリングするステップであって、該輝度情報は該画像の輝度の少なくとも60%である、ステップと、
(b)該輝度情報の再サンプリングの結果、より高い周波数色情報の少なくとも一部に対してより低い周波数色情報の少なくとも一部を減衰するステップと
を包含する、方法。
(Item 3)
A method of resampling an image,
(A) re-sampling the luminance information of the image, the luminance information being at least 60% of the luminance of the image;
And (b) attenuating at least a portion of the lower frequency color information with respect to at least a portion of the higher frequency color information as a result of the resampling of the luminance information.

(項目4)
上記輝度情報を再サンプリングすることがピクセルの再サンプリングを含む、項目3に記載の方法。
(Item 4)
4. The method of item 3, wherein resampling the luminance information includes pixel resampling.

(項目5)
上記減衰することが高域通過フィルタを用いることである、項目3に記載の方法。
(Item 5)
4. A method according to item 3, wherein the attenuating is using a high-pass filter.

(項目6)
上記輝度情報を再サンプリングすることにより、2つの色チャンネルを生じる結果となり、該色チャンネルのそれぞれは異なる様態で減衰する、項目3に記載の方法。
(Item 6)
4. The method of item 3, wherein re-sampling the luminance information results in two color channels, each of which decays in a different manner.

(項目7)
複数のチャンネルを備えた画像を再サンプリングする方法であって、該複数のチャンネルの第1のチャンネルは、該画像の輝度の少なくとも60%を備える輝度成分を有し、該複数のチャンネルの第2のチャンネルは、色成分を有し、該方法は、
(a)該画像の該第1のチャンネルを再サンプリングするステップと、
(b)該画像の該第1のチャンネルの再サンプリングの結果、高い周波数色情報の少なくとも一部に対してより低い周波数色情報の少なくとも一部を減衰するステップと、
(c)該画像の該第2のチャンネルを再サンプリングするステップと
を包含する方法。
(Item 7)
A method of resampling an image with a plurality of channels, wherein a first channel of the plurality of channels has a luminance component comprising at least 60% of the luminance of the image, and a second of the plurality of channels. Channel has a color component and the method includes:
(A) resampling the first channel of the image;
(B) attenuating at least a portion of the lower frequency color information relative to at least a portion of the higher frequency color information as a result of resampling of the first channel of the image;
(C) resampling the second channel of the image.

(項目8)
上記輝度成分が上記画像の輝度の少なくとも70%を備える、項目7に記載の方法。
(Item 8)
8. A method according to item 7, wherein the luminance component comprises at least 70% of the luminance of the image.

(項目9)
上記輝度成分が上記画像の輝度の少なくとも80%を備える、項目7に記載の方法。
(Item 9)
Item 8. The method of item 7, wherein the luminance component comprises at least 80% of the luminance of the image.

(項目10)
上記輝度成分が上記画像の輝度の少なくとも90%を備える、項目7に記載の方法。
(Item 10)
8. The method of item 7, wherein the luminance component comprises at least 90% of the luminance of the image.

(項目11)
上記複数のチャンネルがカラーの異なるチャンネルである、項目7に記載の方法。
(要約)
本発明の実施形態は、減少した可視エラーを用いて、高解像度画像を低解像度画像に変換するシステム及び方法提供する。これらのシステム及び方法は以下を含む:サブピクセルサンプリングシミュレーションは、サブピクセルサンプリングの結果として高解像度画像に導入されるエラーを決定する高解像度画像に実行される。このエラーは、不可視エラーを取り除くために視覚モデルを用いて修正され得ることで可視エラーイメージを作成する、エラー画像を作成するために高解像度画像から分離され得る。視覚エラー画像は、それから、高解像度画像と結合し得て補償画像を作成し、サブピクセルサンプリングが起こるときに、その後のサブピクセルサンプリングの結果として、補償画像は導かれるエラーを実質的にキャンセルする。
(Item 11)
Item 8. The method according to Item 7, wherein the plurality of channels are channels having different colors.
(wrap up)
Embodiments of the present invention provide a system and method for converting a high resolution image to a low resolution image using reduced visual error. These systems and methods include: A subpixel sampling simulation is performed on a high resolution image that determines errors introduced into the high resolution image as a result of subpixel sampling. This error can be isolated from the high resolution image to create an error image, which can be corrected using a visual model to remove the invisible error, creating a visible error image. The visual error image can then be combined with the high resolution image to create a compensated image, and when subpixel sampling occurs, the compensated image substantially cancels the introduced error as a result of subsequent subpixel sampling. .

本発明の好ましい実施形態は、同様の番号が同様の部分を示す図を参照することでもっともよく理解される。   Preferred embodiments of the present invention are best understood by referring to the figures, in which like numerals indicate like parts.

一般的にここに図示されるように、本発明の構成成分は多様な異なる構成で配置され設計されるということが容易に理解される。このように、本発明の方法およびシステムの実施形態の以下の詳細は、発明の範囲を制限する意図はなく、発明の現在の好ましい実施形態の代表的なものに過ぎない。   As generally illustrated herein, it is readily understood that the components of the present invention can be arranged and designed in a variety of different configurations. Thus, the following details of the method and system embodiments of the present invention are not intended to limit the scope of the invention, but are merely representative of the presently preferred embodiments of the invention.

本発明の実施形態の要素は、ハードウエア、ファームウエアおよび/またはソフトウエアに具体化され得る。ここに開示される例示的な実施形態はこれらの形の1つを記載するのみであり得て、当業者は、本発明の範囲内にとどまりながらも、これらの形式のいずれにおいてもこれらの要素を達成することができるであろうということを理解するべきである。   Elements of embodiments of the present invention may be embodied in hardware, firmware and / or software. The exemplary embodiments disclosed herein may only describe one of these forms, and those skilled in the art will recognize these elements in any of these forms, while remaining within the scope of the invention. It should be understood that could be achieved.

本発明のいくつかの実施形態は図8に示されるブロック図で要約される。ここでは、RGB高解像度画像70のような高解像度画像が修正される。高解像度画像70はサブピクセルサンプリングシミュレーション72でサンプリングされ、サブピクセルサンプリングによって引き起こされる可視エラーがシミュレートされる。サンプリングはシミュレートされるのみなので、解像度は変化しない。エラーが確認されると、エラーは元の画像70から引かれる(74)。次いで、視覚モデル76は、可視エラーを表す修正されたエラー画像を作るエラー画像から、検知不可情報を取り除く。この修正されたエラー画像は、補償画像(compensated image)と呼ばれ得、源画像70の0〜255R、G、B範囲に限定されていない。なぜなら、マイナス値の使用を認めるからである。   Some embodiments of the present invention are summarized in the block diagram shown in FIG. Here, a high resolution image such as the RGB high resolution image 70 is corrected. The high resolution image 70 is sampled in a subpixel sampling simulation 72 to simulate the visible error caused by subpixel sampling. Since sampling is only simulated, the resolution does not change. If an error is confirmed, the error is subtracted from the original image 70 (74). The visual model 76 then removes undetectable information from the error image that creates a modified error image that represents a visible error. This corrected error image may be referred to as a compensated image and is not limited to the 0-255R, G, B range of the source image 70. This is because it allows the use of negative values.

次いで、補償画像は元の画像70に加えられ、それによって元の画像70に、サブピクセルサンプリングの間に取り除かれるエラーを加える。補償画像82は、次いでサブピクセルサンプリング処理80を用いてサンプリングされる。サブピクセルサンプリング処理80では、処理の結果、および改善されたより低い解像度画像の結果、加えられたエラーが取り除かれる。   The compensated image is then added to the original image 70, thereby adding errors to the original image 70 that are removed during subpixel sampling. The compensated image 82 is then sampled using a subpixel sampling process 80. In the sub-pixel sampling process 80, the added error is removed as a result of the process and the improved lower resolution image.

サブピクセルサンプリングによって引き起こされる可視エラーがシミュレートされ、次いで高解像度源画像から切り離されることが、主要な観点である。シミュレーションは、より高い解像度源画像と同じ解像度で維持される。サブピクセルサンプリング処理によってそのようなエラーが加えられると、最終画像で無効にされる。   The main aspect is that the visible error caused by subpixel sampling is simulated and then separated from the high resolution source image. The simulation is maintained at the same resolution as the higher resolution source image. If such an error is added by the subpixel sampling process, it is invalidated in the final image.

本発明の実施形態の方法は、より低い周波数で発生する色エイリアシングを無効にする。色エイリアシング周波数はもともと非常に高いので、ナイキストで非常に低い周波数にフォールドオーバーする。色エイリアシング周波数は最も可視的なので、主要な懸念事項の1つである。   The method of embodiments of the present invention negates color aliasing that occurs at lower frequencies. The color aliasing frequency is originally very high, so it folds over to a very low frequency with Nyquist. Color aliasing frequency is one of the main concerns because it is the most visible.

本発明の実施形態の視覚モデル76は、Betriseyアプローチで用いられる周知のモデルとは異なる形態である。Betriseyのような周知のモデルにおいて、視覚モデルは、2つの画像が入力され、出力は視覚差異が発生する場所を示す画像であるという、異なった距離関数(metriic)である。Betriseyアプローチでは、この可視差異の画像は二乗の形態で積分され、単一の距離関数に到達する。これらの周知のモデルは次に記載される;X.ZhangおよびB Wandell著(1996年)、「A spatial extension of CIELAB for digital color image reproduction」,SID Symposium Digest 731−734;C.Batriseyら著(2000年)、「Displaced filtering for patterned displays」、SID Symposium Digest、296−299;S.Daly著(1993年)、「Visible Differences Predictor」、Ch.14 of Digital Images and Human Vision、A.B.Watson(編)、MIT Press。これらの文献は本明細書中に援用される。   The visual model 76 of an embodiment of the present invention is a different form than the well-known model used in the Betrisey approach. In a well-known model such as Betrisey, the visual model is a different distance function where two images are input and the output is an image showing where the visual difference occurs. In the Betrisey approach, this visible difference image is integrated in the form of a square to arrive at a single distance function. These well-known models are described next; Zhang and B Wandell (1996), "A spatial extension of CIELAB for digital color image re- production", SID Symposium Digest 731-734; Batrisey et al. (2000), "Distributed filtering for patterned displays", SID Symposium Digest, 296-299; Dally (1993), “Visible Differences Predictor”, Ch. 14 of Digital Images and Human Vision, A.M. B. Watson (eds.), MIT Press. These references are incorporated herein.

しかしながら、本発明の実施形態では、視覚モデル76の形態は、目にとって可視ではない画像内容を除去する。したがって、視覚モデルは画像間の可視差異を算出せずに、むしろ、単一画像に作用する。これを達成する1つの方法は、適切なCSFによるフィルタリングとしきい値によるコアリングである。図8では、視覚モデル76が一般的な形態で示されている。   However, in embodiments of the present invention, the form of visual model 76 removes image content that is not visible to the eye. Thus, the visual model does not calculate the visible difference between images, but rather operates on a single image. One way to achieve this is filtering with appropriate CSF and coring with thresholds. In FIG. 8, the visual model 76 is shown in a general form.

図9を参照すると、本発明の方法は、ヒンティングや低域通過フィルタといったより従来的な技術などの標準的前処理方法84と共に使用される。標準的前処理方法84が実行されると、画像は標準的前処理方法がない方法と同様に処理される。つまり、高解像度画像70が前処理(84)された後、サブピクセルサンプリングシミュレーション72においてサンプリングされて、サブピクセルサンプリングによって生じる可視エラーをシミュレートする。エラーが確認されると、エラーは元の画像70から引かれる(74)。それから、視覚モデル76はエラー画像から検出不可情報を取り除き、可視エラーを表す修正エラー画像を作る。そして、補償画像が元の画像70に加えられることで、実際のサブピクセルサンプリング80の間に取り除かれるエラーを加える。補償画像82は、次いでサブピクセルサンプリング処理80を用いてサンプリングされる。サブピクセルサンプリング処理80では、処理の結果、および改善されたより低い解像度画像の結果、加えられたエラーが取り除かれる。   Referring to FIG. 9, the method of the present invention is used in conjunction with standard preprocessing methods 84 such as more conventional techniques such as hinting and low pass filters. When the standard preprocessing method 84 is executed, the image is processed in a manner similar to the method without the standard preprocessing method. That is, after the high resolution image 70 has been preprocessed (84), it is sampled in a subpixel sampling simulation 72 to simulate visible errors caused by subpixel sampling. If an error is confirmed, the error is subtracted from the original image 70 (74). Then, the visual model 76 removes the non-detectable information from the error image and creates a corrected error image representing the visible error. The compensated image is then added to the original image 70 to add an error that is removed during the actual subpixel sampling 80. The compensated image 82 is then sampled using a subpixel sampling process 80. In the sub-pixel sampling process 80, the added error is removed as a result of the process and the improved lower resolution image.

視覚モデル76の多くの実施形態は、本発明の実施形態と共に用いられ得る。図10を参照すると、本発明の第1の実施形態が説明されている。高解像度画像70が処理されている。画像70は、必要に応じてユーザーによって前処理84され得るか、または前処理なしに直接処理され得る。画像70はサブピクセルサンプリングシミュレーション72に伝わり、サブピクセルサンプリングに関連するエラーが決定される。それからエラーが元の画像70から引かれ(74)、エラー画像が生成され、視覚モデル76を介して処理される。この実施形態において、視覚モデル76はRGBからLABへの変換90を含む。変換90の結果、3つのチャンネルで表現される画像が生じ、それによって、色特性から輝度特性を切り離す。いくつかのカラーモデルが使用され得る一方で、CIELABモデルは例示的であり、このシンプルな実施形態では同等のモデルが好まれる。線形Y、R−Y、B−Y信号を用いるよりシンプルな実施形態もまた可能である。   Many embodiments of the visual model 76 can be used with embodiments of the present invention. Referring to FIG. 10, a first embodiment of the present invention is described. A high resolution image 70 has been processed. The image 70 can be preprocessed 84 by the user as needed, or directly processed without preprocessing. Image 70 is passed to subpixel sampling simulation 72 to determine errors associated with subpixel sampling. The error is then subtracted 74 from the original image 70 and an error image is generated and processed via the visual model 76. In this embodiment, visual model 76 includes RGB to LAB conversion 90. The conversion 90 results in an image that is represented by three channels, thereby decoupling the luminance characteristic from the color characteristic. While several color models can be used, the CIELAB model is exemplary and in this simple embodiment an equivalent model is preferred. Simpler embodiments using linear Y, RY, BY signals are also possible.

エラー画像が変換されると、輝度チャンネル92、色チャンネル94および96はフィルターにかけられ、エラー画像から不可視エラーが取り除かれる。好ましい実施形態では、これらのフィルタリング作動は典型的にフィルタリングと空間的コアニング動作を備え、振幅が見えないほど小さいローカライズ化された周波数を取り除く。それぞれのチャンネルで異なるフィルターが使われ得る。所与のアプリケーションで必要とされるためフィルターにかけられないチャンネルもあるが、フィルタリングは一般的に周波数特定動作である。典型的に、輝度チャンネル92は、色チャンネル94および96とは別にフィルタにかけられる。   When the error image is converted, the luminance channel 92, color channels 94 and 96 are filtered to remove invisible errors from the error image. In the preferred embodiment, these filtering operations typically comprise filtering and spatial coring operations to remove localized frequencies that are so small that the amplitude is not visible. Different filters can be used for each channel. Filtering is generally a frequency specific operation, although some channels are not filtered because they are required in a given application. Typically, the luminance channel 92 is filtered separately from the color channels 94 and 96.

フィルタにかけられた後、チャンネル92、94および96は、結合されて(98)、サブピクセルサンプリングに関連する可視エラーを表す単一のLABフォーマット画像になる。このLAB可視エラー画像は、引き続いて再変換(100)されてRGBフォーマット可視エラー画像101に戻される。RGB可視エラー画像101は、次いで元の画像70と結合して(78)、サブピクセルサンプリングを介して導入されたエラーを補償する、補償画像82を形成する。次いで、この補償画像82はサブピクセルサンプリング80を用いてサンプリングされる。サブピクセルサンプリング80では、加えられた可視エラー補償101はサンプリング処理で無効にされ、単純なサブピクセルサンプリングのみを介して作られた画像より少ないエラーを有するより低い解像度画像を生成する。   After filtering, channels 92, 94, and 96 are combined (98) into a single LAB format image that represents the visible error associated with subpixel sampling. This LAB visible error image is subsequently reconverted (100) and returned to the RGB format visible error image 101. The RGB visible error image 101 is then combined with the original image 70 (78) to form a compensated image 82 that compensates for errors introduced through subpixel sampling. This compensated image 82 is then sampled using subpixel sampling 80. In sub-pixel sampling 80, the added visible error compensation 101 is disabled in the sampling process, producing a lower resolution image with fewer errors than an image created through simple sub-pixel sampling alone.

本発明の第2の実施形態では、図11に示されているように、エッジ効果またはマスキングおよび周波数効果が処理される。通常、本発明の実施形態の方法は、RGB高解像度画像110のような高解像度画像で実行される。前処理112は、本発明の実施形態の方法を適用する前に実行され得るが、要求されない。   In the second embodiment of the present invention, edge effects or masking and frequency effects are processed, as shown in FIG. Typically, the method of embodiments of the present invention is performed on a high resolution image, such as an RGB high resolution image 110. The pre-processing 112 can be performed before applying the method of the embodiment of the present invention, but is not required.

高解像度画像110はサブピクセルサンプリングシミュレーション114に伝わる。サブピクセルサンプリングシミュレーション114は、サブピクセルサンプリングの間にサンプリングシミュレーションを実行し、元の画像と比較するためにサンプリングされた画像を元の解像度に変換することで導入されるエラーを決定する。サンプリングされ変換された画像は元の画像と比較され(116)、サブピクセルサンプリングに関連するエラーを決定する。このエラーは、元の画像から減算して、さらなる処理のため視覚モデル76に送られるエラー画像118を作る。   The high resolution image 110 is transmitted to the subpixel sampling simulation 114. Sub-pixel sampling simulation 114 performs sampling simulation during sub-pixel sampling and determines errors introduced by converting the sampled image to the original resolution for comparison with the original image. The sampled and transformed image is compared (116) with the original image to determine errors associated with subpixel sampling. This error is subtracted from the original image to create an error image 118 that is sent to the visual model 76 for further processing.

視覚モデル76内で、RGBまたは同様のフォーマットのエラー画像はLABまたは同様のフォーマットに変換され(120)、それによって輝度データを色データから分離させる。LABのような輝度分離フォーマットに変換した後、輝度122、色124および126の別々のチャンネルは、他の実施形態のために上記されたように周波数に応じてフィルターにかけられる。   Within visual model 76, the error image in RGB or similar format is converted 120 to LAB or similar format, thereby separating the luminance data from the color data. After conversion to a luminance separation format such as LAB, the separate channels of luminance 122, colors 124 and 126 are filtered according to frequency as described above for other embodiments.

フィルタリング122、124および126の後に、本発明のこの実施形態はマスキングの可視特性、特に、輝度による色のマスキングを考慮に入れる。マスキング信号は、エラー画像からというよりは源画像110内容から得られる。源画像110は、輝度データが抽出される(130)LABのような輝度分離フォーマットに変換(128)される。一部の実施形態においては、輝度チャンネル136のみがマスキングされるが、色チャンネル134および132もまたマスキングされ得る。マスキングは、ピクセルに関した(pixel−wise)比較として、エッジ効果を生じるように実行される。コントラストはたとえば振幅差動信号で、L画像から全体のL画像の平均を引いたもので、その絶対値はコントラストに比例する。ある位置でのLにおけるより高いコントラスト信号レベルは、同じ位置のL、R/G、B/Y信号のより多いマスキングを生じる。マスキングは、ステップ130からのマスク信号出力によってこれらの信号を分離させ、次いでコアリングすることによってシミュレートされる。コアリングは、信号振幅の絶対値が特定のしきい値より小さくなる場合に、信号値がゼロに変化する処理である。   After filtering 122, 124 and 126, this embodiment of the present invention takes into account the visual properties of masking, in particular the masking of colors by luminance. The masking signal is obtained from the contents of the source image 110 rather than from the error image. The source image 110 is converted (128) into a luminance separation format such as LAB from which luminance data is extracted (130). In some embodiments, only the luminance channel 136 is masked, but the color channels 134 and 132 can also be masked. Masking is performed to produce an edge effect as a pixel-wise comparison. The contrast is, for example, an amplitude differential signal, which is obtained by subtracting the average of the entire L image from the L image, and its absolute value is proportional to the contrast. A higher contrast signal level at L at a location results in more masking of L, R / G, B / Y signals at the same location. Masking is simulated by separating these signals by the mask signal output from step 130 and then coring. Coring is a process in which the signal value changes to zero when the absolute value of the signal amplitude is smaller than a specific threshold value.

マスキングが生じると、分離されたチャンネルは138で結合して、LAB138のような結合されたフォーマットに戻され、結合されたフォーマットファイルはそれから変換され(140)たとえばRGBのような元の画像フォーマットに戻される。結果として生じる画像は、サブピクセルサンプリングに関連する可視エラー142を表す。   When masking occurs, the separated channels are combined at 138 and returned to a combined format such as LAB 138, and the combined format file is then converted (140) to the original image format such as RGB. Returned. The resulting image represents a visible error 142 associated with subpixel sampling.

この結果として生じるエラー画像142は、引き続いて元の高解像度画像144と結合し、補償画像146を生成する。補償画像146では、実質的に同様の訂正が導入されるが、サブピクセルサンプリング間に導入されるエラーとは逆である。この補償画像146は、実際にサンプリングされ(148)、その結果、エラー訂正なしに直接サンプリングされた画像よりも少ないエラーを含むディスプレイ画像150が生じる。これは、サンプリング148の前に導入される(144)可視エラー(142)によって、サンプリングエラーが無効になるためである。   This resulting error image 142 is subsequently combined with the original high resolution image 144 to produce a compensated image 146. In the compensated image 146, substantially similar corrections are introduced, but the opposite is the error introduced during subpixel sampling. This compensated image 146 is actually sampled (148), resulting in a display image 150 that contains fewer errors than the directly sampled image without error correction. This is because the sampling error is invalidated by the visible error (142) introduced before the sampling 148 (144).

実際の視覚マスキング処理では、同様のマスク周波数近くの制限された範囲内また制限された空間的部分内の信号のみがマスクされるので、図11に示されるように、本発明の第2の実施形態は、マスク効果をそのままモデル化できるのみである。しかしながら、エッジおよびラインからのみなる画像に対して1/fパワー(電力)スペクトルが想定され得る。このように特定の周波数および方向で、同じ方向でより高い周波数の信号成分はより少ない。このように、このアプローチはマスキングを過大評価するが、その結果、補償画像でより多くのエラーが生じるので、正味効果はより多くの色エイリアシングが必要以上に取り除かれる。この結果、輝度シャープネスは、より小さくなるが、マスキングを用いない方法よりは依然として大きい。   Since the actual visual masking process only masks signals within a limited range or a limited spatial portion near similar mask frequencies, the second implementation of the present invention as shown in FIG. The form can only model the mask effect as it is. However, a 1 / f power (power) spectrum can be assumed for an image consisting only of edges and lines. Thus, for a particular frequency and direction, there are fewer higher frequency signal components in the same direction. Thus, this approach overestimates the masking, but as a result, more errors are generated in the compensated image, so the net effect removes more color aliasing than necessary. As a result, the brightness sharpness is smaller but still greater than the method without masking.

図12を説明する。図12は複数の周波数チャンネルを用いてより正確にマスキングを予測できるより完全な視覚モデルを用いる本発明の第3の実施形態である。4つのチャンネルのみが示されているが、それらの実際の数は多いことも少ないこともあり得て、典型的に帯域通過で方向が制限されている。例示的なチャンネルが、S.Daly(1993年)、「Visible Differences Predictor」、Ch.14 Digital Images and Human Vision A.B.Watsonら(編)、MIT Press;J.Lubin(1995年)、「A Visual Discrimination Model for Imaging System Design and Evaluation」、Ch.10 Vision Models for Target Detection and Recognition E.Peli(編) World Scientific Pressに記載され、これらの文献は本明細書中で援用される。このバージョンは処理集中的であるが、計算技術の高まりによってより実用的になり得る。   FIG. 12 will be described. FIG. 12 is a third embodiment of the present invention that uses a more complete visual model that can more accurately predict masking using multiple frequency channels. Although only four channels are shown, their actual number can be large or small, and is typically bandpassed and direction limited. An exemplary channel is S.I. Daly (1993), “Visible Differences Predictor”, Ch. 14 Digital Images and Human Vision B. Watson et al. (Eds.), MIT Press; Lubin (1995), “A Visual Discrimination Model for Imaging System Design and Evaluation”, Ch. 10 Vision Models for Target Detection and Recognition Peli (ed.) World Scientific Press, which is incorporated herein by reference. This version is processing intensive, but can become more practical with increasing computing techniques.

第3の本実施形態では、高解像度画像110は、サブピクセルサンプリングシミュレーション(114)の前に随意的に前処理(112)され得る。既に記載された実施形態におけるように、サブピクセルサンプリングシミュレーション114は、サブピクセルサンプリングから導入されるエラー118を決定するのに用いられる。このエラー画像は、元の画像解像度において「処理された後の」画像と元の画像110を直接比較する画像から抽出される(116)。通常、より低い解像度の「処理された後の」画像は、比較のために解像度において増大される。このエラー画像118が獲得されると、エラー画像118は本実施形態の視覚モデル151で処理され得る。   In the third embodiment, the high resolution image 110 may optionally be preprocessed (112) prior to the subpixel sampling simulation (114). As in the previously described embodiments, the subpixel sampling simulation 114 is used to determine the error 118 introduced from the subpixel sampling. This error image is extracted from an image that directly compares the “processed” image with the original image 110 at the original image resolution (116). Typically, lower resolution “after processed” images are increased in resolution for comparison. Once this error image 118 is acquired, the error image 118 can be processed with the visual model 151 of the present embodiment.

他の実施形態におけるように、エラー画像118はRGBまたは同様のフォーマットからLAB152などの輝度分離フォーマットに変換される。このタイプのフォーマットを用いることで、輝度および色データはチャンネルに分離され、各チャンネルはフィルタバンク分割154,156,158を用いて周波数範囲に分割される。各チャンネル内のそれぞれの周波数範囲は、次いで帯域スケーリング160,162,164を用いてフィルタにかけられる。   As in other embodiments, the error image 118 is converted from an RGB or similar format to a luminance separation format such as LAB 152. By using this type of format, luminance and color data are separated into channels, and each channel is divided into frequency ranges using filter bank divisions 154, 156, and 158. The respective frequency range within each channel is then filtered using band scaling 160, 162, 164.

エッジ効果もまた次のように生じる。元の源画像をLAB166のような輝度分離フォーマットに変換させ、その後、源画像110から輝度チャンネル168をフィルタバンク分割することによる。一般的に、分離された色チャンネル165は、マスキング処理で使用されない。その後のフィルタバンク分割168で、周波数範囲は、メインエラー画像チャンネル160,162,164で実行されるように、帯域スケーリングまたは同様の手順を介して、フィルタリングされる。輝度チャンネル帯域スケーリング170を介して生成されるこれらの信号は、さまざまな輝度および色チャンネル172、174および176をマスキングするのに使用され得る。マスキング計算は図11に関連する記載に類似するが、本実施形態の計算では、特定の周波数帯域からのマスキング信号は、エラー画像の対応する周波数帯域に影響を及ぼすのみである。   Edge effects also occur as follows. By converting the original source image into a luminance separation format such as LAB 166 and then filter banking the luminance channel 168 from the source image 110. In general, the separated color channel 165 is not used in the masking process. In subsequent filter bank partitioning 168, the frequency range is filtered via band scaling or similar procedures, as performed on main error image channels 160, 162, 164. These signals generated via luminance channel band scaling 170 can be used to mask the various luminance and color channels 172, 174 and 176. Although the masking calculation is similar to that described with reference to FIG. 11, in the calculation of this embodiment, the masking signal from a particular frequency band only affects the corresponding frequency band of the error image.

それぞれのチャンネルのそれぞれの周波数範囲へのマスキングが完了すると、チャンネルは結合されて(178)、標準的LABまたは同様のフォーマットファイルを形成し得る。この結合されたファイルは、次いでRGB180のような元の画像フォーマットに変換され戻され得る。このRGBまたは同様のファイル180は、サブピクセルサンプリング間に導入された可視エラーを表す。可視エラー180は続いて元の高解像度源ファイル110から引かれるか(188)、そうでなければ元の高解像度源ファイル110を考慮し、それによって補償画像182が生成される。   Once masking of each channel to its respective frequency range is complete, the channels may be combined (178) to form a standard LAB or similar format file. This combined file can then be converted back to the original image format, such as RGB180. This RGB or similar file 180 represents the visible error introduced during subpixel sampling. The visible error 180 is then subtracted from the original high resolution source file 110 (188), or otherwise considers the original high resolution source file 110, thereby generating a compensated image 182.

補償画像182がサブピクセルサンプリング184を介して伝わるとき、サンプリング処理に導入されるエラーは、元の画像110に結合される(188)可視エラーを無効にし、訂正なしに直接サンプリングされる画像よりも少ないエラーを有するディスプレイ画像186を生じる。この第3の実施形態は、輝度によって色度のマスキングを提供するマルチチャンネル性能を有するより正確な視覚モデルを用いる。   When the compensated image 182 travels through the sub-pixel sampling 184, errors introduced into the sampling process are combined with the original image 110 (188), invalidating the visible error, than images directly sampled without correction. A display image 186 with fewer errors is produced. This third embodiment uses a more accurate visual model with multi-channel capability that provides chromaticity masking by luminance.

本発明は、本発明の精神または基本的な特性から逸脱することなく他の特定の形態で具体化され得る。記載された実施形態は、例証されたすべての観点で考慮されるべきであって、限定的に考慮されるべきではない。それゆえ、発明の範囲は、前述の記載ではなく、付属の請求項によって示される。請求項と均等の意味および範囲内の変更のすべてはそれらの範囲内に包含されるべきである。   The present invention may be embodied in other specific forms without departing from the spirit or basic characteristics of the invention. The described embodiments are to be considered in all respects illustrated and not restrictive. The scope of the invention is, therefore, indicated by the appended claims rather than by the foregoing description. All changes that come within the meaning and range of equivalency of the claims are to be embraced within their scope.

トライアドピクセル構成を有する表示に従来の画像サンプリングを示す図である。FIG. 6 illustrates conventional image sampling for a display having a triad pixel configuration. トライアドピクセル構成を有する表示にサブピクセル画像サンプリングを示す図である。FIG. 5 illustrates sub-pixel image sampling on a display having a triad pixel configuration. デジタル周波数平面にマッピングされた理想的なCSFを示すグラフである。Fig. 6 is a graph showing an ideal CSF mapped to a digital frequency plane. ピクセルナイキストおよび有利な部分を示すサブピクセルナイキスト部分の分析を示すグラフである。FIG. 6 is a graph illustrating an analysis of a pixel Nyquist and sub-pixel Nyquist portion showing an advantageous portion. 典型的な前処理技術を示す。A typical pretreatment technique is shown. ピクセルサンプリングで反復される1/f電力スペクトルおよびサブピクセルサンプリング周波数を用いる分析を示すグラフである。FIG. 6 is a graph showing an analysis using a 1 / f power spectrum and sub-pixel sampling frequency repeated with pixel sampling. ピクセルサンプリングで反復される1/f電力スペクトルおよび前処理によって改善されたサブピクセルサンプリング周波数を用いる分析を示すグラフである。FIG. 6 is a graph illustrating an analysis using a 1 / f power spectrum repeated with pixel sampling and a sub-pixel sampling frequency improved by preprocessing. 視覚モデルの周知の使用を示すブロック図である。FIG. 2 is a block diagram illustrating a known use of a visual model. 本発明の包括的な実施形態を示すブロック図である。FIG. 3 is a block diagram illustrating a generic embodiment of the present invention. 前処理を使用する本発明の実施形態を示すブロック図である。FIG. 3 is a block diagram illustrating an embodiment of the present invention that uses preprocessing. 分離した輝度および色チャンネルのフィルタリングを用いる本発明の実施形態を示すブロック図である。FIG. 6 is a block diagram illustrating an embodiment of the present invention using separate luminance and color channel filtering. 輝度による色度のマスキングを利用する視覚モデルを用いる本発明の実施形態のブロック図である。FIG. 4 is a block diagram of an embodiment of the present invention that uses a visual model that utilizes chromaticity masking by luminance. より正確なマルチチャンネル、分割された周波数範囲視覚モデルを備える輝度による色度のマスキングを利用する視覚モデルを用いる本発明の実施形態のブロック図である。FIG. 6 is a block diagram of an embodiment of the present invention using a visual model that utilizes luminance chromaticity masking with a more accurate multi-channel, divided frequency range visual model.

符号の説明Explanation of symbols

70 高解像度画像
72 サブピクセルサンプリングシミュレーション
76 視覚モデル(不可視エラーの除去)
80 サブピクセルサンプリング
82 補償画像
70 High-resolution image 72 Sub-pixel sampling simulation 76 Visual model (removal of invisible errors)
80 Subpixel sampling 82 Compensated image

Claims (11)

画像を再サンプリングする方法であって、
a)該画像の輝度の少なくとも60%を備える該画像のチャンネルを提供するステップと、
b)該チャンネルのより高い周波数輝度情報の少なくとも一部に対してより低い周波数輝度情報の少なくとも一部を減衰するステップと、
c)該画像の輝度情報を再サンプリングするステップと
を包含する、方法。
A method of resampling an image,
a) providing a channel of the image comprising at least 60% of the brightness of the image;
b) attenuating at least a portion of the lower frequency luminance information relative to at least a portion of the higher frequency luminance information of the channel;
c) resampling the luminance information of the image.
前記輝度情報の再サンプリングの結果、より高い周波数色情報の少なくとも一部に対してより低い周波数色情報の少なくとも一部を減衰することをさらに包含する、請求項1に記載の方法。   The method of claim 1, further comprising attenuating at least a portion of the lower frequency color information relative to at least a portion of the higher frequency color information as a result of the resampling of the luminance information. 画像を再サンプリングする方法であって、
(a)該画像の輝度情報を再サンプリングするステップであって、該輝度情報は該画像の輝度の少なくとも60%である、ステップと、
(b)該輝度情報の再サンプリングの結果、より高い周波数色情報の少なくとも一部に対してより低い周波数色情報の少なくとも一部を減衰するステップと
を包含する、方法。
A method of resampling an image,
(A) re-sampling the luminance information of the image, the luminance information being at least 60% of the luminance of the image;
(B) attenuating at least a portion of the lower frequency color information relative to at least a portion of the higher frequency color information as a result of re-sampling of the luminance information.
前記輝度情報を再サンプリングすることがピクセルの再サンプリングを含む、請求項3に記載の方法。   The method of claim 3, wherein resampling the luminance information comprises pixel resampling. 前記減衰することが高域通過フィルタを用いることである、請求項3に記載の方法。   The method of claim 3, wherein the attenuating is using a high pass filter. 前記輝度情報を再サンプリングすることにより、2つの色チャンネルを生じる結果となり、該色チャンネルのそれぞれは異なる様態で減衰する、請求項3に記載の方法。   4. The method of claim 3, wherein re-sampling the luminance information results in two color channels, each of which attenuates in a different manner. 複数のチャンネルを備えた画像を再サンプリングする方法であって、該複数のチャンネルの第1のチャンネルは、該画像の輝度の少なくとも60%を備える輝度成分を有し、該複数のチャンネルの第2のチャンネルは、色成分を有し、該方法は、
(a)該画像の該第1のチャンネルを再サンプリングするステップと、
(b)該画像の該第1のチャンネルの再サンプリングの結果、高い周波数色情報の少なくとも一部に対してより低い周波数色情報の少なくとも一部を減衰するステップと、
(c)該画像の該第2のチャンネルを再サンプリングするステップと
を包含する方法。
A method of resampling an image with a plurality of channels, wherein a first channel of the plurality of channels has a luminance component comprising at least 60% of the luminance of the image, and a second of the plurality of channels. Channel has a color component and the method includes:
(A) resampling the first channel of the image;
(B) attenuating at least a portion of the lower frequency color information relative to at least a portion of the higher frequency color information as a result of resampling of the first channel of the image;
(C) resampling the second channel of the image.
前記輝度成分が前記画像の輝度の少なくとも70%を備える、請求項7に記載の方法。   The method of claim 7, wherein the luminance component comprises at least 70% of the luminance of the image. 前記輝度成分が前記画像の輝度の少なくとも80%を備える、請求項7に記載の方法。   The method of claim 7, wherein the luminance component comprises at least 80% of the luminance of the image. 前記輝度成分が前記画像の輝度の少なくとも90%を備える、請求項7に記載の方法。   The method of claim 7, wherein the luminance component comprises at least 90% of the luminance of the image. 前記複数のチャンネルがカラーの異なるチャンネルである、請求項7に記載の方法。   The method of claim 7, wherein the plurality of channels are channels of different colors.
JP2005203546A 2004-07-12 2005-07-12 Method and system for improving display resolution using subpixel sampling and visual error compensation Pending JP2006031003A (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US10/890,871 US7035476B2 (en) 2000-06-12 2004-07-12 Methods and systems for improving display resolution using sub-pixel sampling and visual error compensation

Publications (1)

Publication Number Publication Date
JP2006031003A true JP2006031003A (en) 2006-02-02

Family

ID=35897346

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005203546A Pending JP2006031003A (en) 2004-07-12 2005-07-12 Method and system for improving display resolution using subpixel sampling and visual error compensation

Country Status (1)

Country Link
JP (1) JP2006031003A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100928371B1 (en) 2007-02-09 2009-11-23 가부시키가이샤 히타치 디스프레이즈 Display device
US8634464B2 (en) 2004-06-28 2014-01-21 Google, Inc. Video compression and encoding method

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8634464B2 (en) 2004-06-28 2014-01-21 Google, Inc. Video compression and encoding method
US8665951B2 (en) 2004-06-28 2014-03-04 Google Inc. Video compression and encoding method
US8705625B2 (en) 2004-06-28 2014-04-22 Google Inc. Video compression and encoding method
US8780992B2 (en) 2004-06-28 2014-07-15 Google Inc. Video compression and encoding method
KR100928371B1 (en) 2007-02-09 2009-11-23 가부시키가이샤 히타치 디스프레이즈 Display device

Similar Documents

Publication Publication Date Title
JP4688432B2 (en) System for improving display resolution
US6608632B2 (en) Methods and systems for improving display resolution in images using sub-pixel sampling and visual error filtering
US6775420B2 (en) Methods and systems for improving display resolution using sub-pixel sampling and visual error compensation
Betrisey et al. 20.4: Displaced filtering for patterned displays
US6681053B1 (en) Method and apparatus for improving the definition of black and white text and graphics on a color matrix digital display device
JP4002871B2 (en) Method and apparatus for representing color image on delta structure display
EP1866902B1 (en) Pre-subpixel rendered image processing in display systems
US6807319B2 (en) Methods and systems for improving display resolution in achromatic images using sub-pixel sampling and visual error filtering
JP2005505801A (en) Method for displaying an image, image processing unit, and display device having the display processing unit
CN101471063B (en) Color signal generating device
CN1267882C (en) Method and system for improving display resolution in images using sub-pixel sampling and visual error filtering
JP2006031003A (en) Method and system for improving display resolution using subpixel sampling and visual error compensation
US6720972B2 (en) Method and apparatus for remapping subpixels for a color display
CN113793249A (en) Method, device and storage medium for converting Pentile image into RGB image
JP4813787B2 (en) Image processing apparatus and method
KR100597156B1 (en) Method and system for improving the display resolution of an image using subpixel sampling and visible error filtering
CN103391416A (en) Image processing method
Fang et al. Subpixel-based down-sampling via Min-Max Directional Error
WO2012161208A1 (en) Noise reduction device, display device, noise reduction method, and noise reduction program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070822

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110908

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120104