KR100597156B1 - Method and system for improving the display resolution of an image using subpixel sampling and visible error filtering - Google Patents
Method and system for improving the display resolution of an image using subpixel sampling and visible error filtering Download PDFInfo
- Publication number
- KR100597156B1 KR100597156B1 KR1020037007876A KR20037007876A KR100597156B1 KR 100597156 B1 KR100597156 B1 KR 100597156B1 KR 1020037007876 A KR1020037007876 A KR 1020037007876A KR 20037007876 A KR20037007876 A KR 20037007876A KR 100597156 B1 KR100597156 B1 KR 100597156B1
- Authority
- KR
- South Korea
- Prior art keywords
- luminance
- channel
- sps
- chrominance
- picture
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/44—Receiver circuitry for the reception of television signals according to analogue transmission standards
- H04N5/57—Control of contrast or brightness
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
Abstract
본 발명은 고해상도의 컬러 화상을 저해상도의 화상으로 변환하는 방법 및 장치를 제공한다. 본 발명의 방법에 따르면 인간의 시각 시스템의 공간 주파수 응답의 특성에 기초하여, 저해상도의 화상(116)은, 루미넌스 채널(76) 및 크로미넌스 채널(98, 100) 각각에 대하여 적절한 샘플링 및 필터링을 수행하도록 고해상도의 화상(72)을 루미넌스 채널(76) 및 크로미넌스 채널(98, 100)로 분리하고, 샘플링 후에 루미넌스 채널(86) 및 크로미넌스 채널(98, 100)을 결합함으로써 형성된다. 크로미넌스 채널(98, 100)에 대해서는 크로마틱 에일리어싱을 피하기 위해 전형적인 서브 샘플링(101, 103)을 수행하는 한편, 루미넌스 채널(76)에 대해서는 루미넌스 성분의 해상도를 개선하기 위해 부화소 샘플링(80)을 수행한다.The present invention provides a method and apparatus for converting a high resolution color image into a low resolution image. According to the method of the present invention, based on the characteristics of the spatial frequency response of the human visual system, the low resolution image 116 is appropriately sampled and filtered for each of the luminance channel 76 and the chrominance channel 98, 100. Formed by separating the high resolution image 72 into the luminance channel 76 and the chrominance channels 98 and 100, and combining the luminance channel 86 and the chrominance channels 98 and 100 after sampling. do. Typical subsampling 101,103 is performed on chrominance channels 98 and 100 to avoid chromatic aliasing, while subchannel sampling 80 is performed on luminance channel 76 to improve the resolution of the luminance component. ).
해상도 변환, 크로미넌스 채널, 루미넌스 채널, 컬러 도메인Resolution Conversion, Chrominance Channel, Luminance Channel, Color Domain
Description
본 발명은 고 해상도 화상을 표시하는 것으로서, R, G, B 또는 그 화상의 다른 성분을 표시하도록 트라이어드 배열을 이용한다. 이러한 트라이어드 배열은 예를 들어 직접적인 관측 LCD 디스플레이에서 많이 보여지는 사항이며, 이러한 배열에서 단일 화소는 나란히 위치하는 3개의 부화소(sub-pixel)로 구성된다. 각 부화소는 3원색 (즉, R, G, B) 중 하나만을 제어하며, 즉 각 부화소는 일반적으로 디지털 화상 표현의 3원색에 의해서만 제어된다. 고 해상도 화상은 메모리에서 이용가능하고, 또는 알고리즘 (벡터 그래픽, 일부 폰트 설계, 및 컴퓨터 그래픽)으로부터 직접 이용가능하다.The present invention displays a high resolution image, which uses a triad arrangement to display R, G, B or other components of the image. This triad arrangement is much of what is seen, for example, in direct viewing LCD displays, where a single pixel consists of three sub-pixels located side by side. Each subpixel controls only one of the three primary colors (i.e., R, G, B), i.e. each subpixel is generally controlled only by the three primary colors of the digital image representation. High resolution images are available in memory, or directly from algorithms (vector graphics, some font designs, and computer graphics).
본 출원의 제목은 Scott Daly에 의한 "Methods and Systems for Improving Display Resolution using Sub-Pixel Sampling and Visual Error Compensation"이라는 명칭의 미국 특허출원번호 09/735,454(출원일 : 2000.12.12)에 관련된다. 이 출원은 본 명세서에서 참고로 인용된다.The title of the present application is related to US Patent Application No. 09 / 735,454 filed on December 12, 2000, entitled "Methods and Systems for Improving Display Resolution using Sub-Pixel Sampling and Visual Error Compensation" by Scott Daly. This application is incorporated herein by reference.
또한, 본 출원의 제목은 Rajesh Reddy K Kovvuri 및 Scott Daly에 의한 "Methods and Systems for Improving Display Resolution in achromatic Images using Sub-Pixel Sampling and Visual Error Filtering"이라는 명칭의 미국특허출원번호 09/735,425(출원일 : 2000.12.12)에 관련된다. 본 출원은 본 명세서에서 참고로 인용된다.Also, the title of the present application is US Patent Application No. 09 / 735,425 entitled "Methods and Systems for Improving Display Resolution in achromatic Images using Sub-Pixel Sampling and Visual Error Filtering" by Rajesh Reddy K Kovvuri and Scott Daly. 2000.12.12). This application is incorporated herein by reference.
저 해상도 디스플레이 상에서 고 해상도 화상을 표시하기 위해 가장 많이 사용하는 방법은, 도 1에 도시한 바와 같이 고 해상도 화상(4)의 화소(2)를 샘플링하는 것이다. 이후, 각 다운샘플링된 컬러 화소(8)의 R, G, B 값은 각 표시 화소(16)의 개별적인 R, G, B 소자(10, 12, 14)에 매핑된다. 디스플레이 장치는 컬러 요소의 오버래핑을 허용하지 않기 때문에, 부화소는 3개의 R, G, B 컬러중 하나만을 취할 수 있지만, 컬러의 진폭은 전체 그레이스케일 범위(즉, 0 ~ 255)에 걸쳐 변경될 수 있다. 부화소는 일반적으로 1:3(폭:높이)의 종횡비를 갖기에, 그 결과로 인한 화소(16)는 정사각형이다. 서브샘플링/매핑 기법은 디스플레이의 R, G, B 부화소가 공간적으로 이격되어 있는 것을 고려하지 않으며, 실제로는 도 1에 도시한 바와 같이 고 해상도 화상에서의 것과 동일한 방식으로 오버래핑된다고 가정된다. 이러한 종류의 샘플링은 서브샘플링 또는 전통적인 서브샘플링이라 칭한다.The most commonly used method for displaying a high resolution image on a low resolution display is to sample the
고 해상도 화상(4)의 화소들은, 자신들의 RGB 값이 동일한 공간 위치(즉, 화소)를 위해 관련된다는 것을 나타내기 위해 3개의 약간 오프셋된 적층 정사각형(8)으로 도시된다. R, G, B 부화소(10, 12, 14) 구성된 하나의 표시 화소(16)는 도 1에서 굵은 선을 이용하여 저해상도의 트라이어드 디스플레이(6)의 일부로서 도시된다.The pixels of the
이 예에서, 고 해상도 화상은 (수평 및 수직 치수에서) 디스플레이보다 3x 이상의 해상도를 갖는다. 이러한 직접적인 서브샘플링 기법으로 인하여 에일리어싱 인공물이 야기되기에, 이웃하는 샘플링되지 않은 화소들을 샘플링된 화소와 평균화하는 다양한 방법이 이용된다. 서브샘플링하는 동안 이웃하는 요소들을 평균화하는 통상의 기법은, 고 해상도 화상을 직각(rect) 필터로 프리필터링(prefiltering)하는 것과 수학적으로 동일하다는 점에 유의하기 바란다. 또한, (도 1에 도시한 바와 같이) 가장 좌측이 아닌 다른 화소를 선택하는 기법은 위상에만 영향을 주는 프리필터링으로서 고려될 수 있다는 것에 유의하기 바란다. 따라서, 에일리어싱을 방지하는 것과 관련된 처리의 대부분은, 커널(kernel)이 샘플링된 화소 위치에서만 적용될지라도, 고 해상도 화상에 대한 필터링 동작으로서 간주할 수 있다.In this example, the high resolution image has 3x or more resolution than the display (in horizontal and vertical dimensions). Since this direct subsampling technique causes aliasing artifacts, various methods of averaging neighboring unsampled pixels with sampled pixels are used. Note that the conventional technique of averaging neighboring elements during subsampling is mathematically equivalent to prefiltering a high resolution image with a rectangular filter. It should also be noted that the technique of selecting a pixel other than the leftmost (as shown in FIG. 1) can be considered as prefiltering that only affects phase. Thus, much of the processing associated with preventing aliasing can be considered as a filtering operation for high resolution images, even though the kernel is only applied at the sampled pixel positions.
본 명세서에서 정의되는 무채색 화상은 가시적인 색 변화를 갖지 않는다. 이 무채색 조건은 화상이 하나의 층 또는 컬러 채널만을 포함할 때, 또는 화상이 다중층 또는 복수의 컬러 채널을 포함할 때 발생할 수 있지만, 각 컬러 층이 동일하여 단일 색상을 생성하게 된다.Achromatic images as defined herein do not have visible color changes. This achromatic condition may occur when the image contains only one layer or color channel, or when the image includes multiple layers or multiple color channels, but each color layer is the same to produce a single color.
상기한 기법은 잠재적인 디스플레이 해상도를 이용하지 않는다는 것을 알게 되었다. 이 분야의 배경 정보는 R. Fiegenblatt의 "Full color imaging on amplitude color mosaic displays" Proc. SPIE V. 1075, 199-205(1989)와, J. Kranz 및 L. Silverstein의 "Color matrix display image quality : The effects of luminance and spatial sampling" SID Symp. Digest 29-32(1990)를 참고할 수 있으며, 이들은 본 명세서에 참조로서 인용되어 있다. 예를 들어, 도 1에 도시한 디스플레이에서, 표시 화소(16)의 해상도가 고 해상도 화상(소스 화상)(4)의 1/3인 경우, 부화소(10, 12, 14)는 (수평 차원에서) 소스의 해상도와 동일한 해상도를 갖는다. 이 디스플레이가 단지 색맹인 개개인에 의해서만 사용된다면, 그 부화소의 공간 위치를 이용하는 것이 가능할 것이다. 이 방식은 도 2에 도시되어 있으며, 디스플레이의 R, G, B 부화소(10, 12, 14)는 고 해상도 화상의 상이한 화소(11, 13, 15)의 대응하는 컬러로부터 취해진다. 이로 인해, 수평 해상도는 부화소 해상도로 되어, 표시 화소 해상도의 3x이다.It has been found that the above technique does not exploit the potential display resolution. Background information in this area can be found in R. Fiegenblatt's "Full color imaging on amplitude color mosaic displays" Proc. SPIE V. 1075, 199-205 (1989), and J. Kranz and L. Silverstein, "Color matrix display image quality: The effects of luminance and spatial sampling" SID Symp. See Digest 29-32 (1990), which is incorporated herein by reference. For example, in the display shown in FIG. 1, when the resolution of the
하지만 색맹인 아닌 디스플레이 관측자에 대해서는 어떠한가? 즉, 대부분의 관측자 말이다. 다행히, 디스플레이 엔지니어에 대해서, 완벽한 컬러 5 비전을 갖는 관측자라도 최고 공간 주파수에서는 색맹이다. 이것은 도 3의 아래에 나타나 있으며, 인간 시각계의 이상적인 공간 주파수 응답이 도시되어 있다.But what about display observers who are not color blind? That is, most observers. Fortunately for display engineers, even observers with full color 5 vision are color blind at the highest spatial frequencies. This is shown below in FIG. 3, which shows the ideal spatial frequency response of the human visual system.
여기서, 루미넌스(17)는 관측 화상의 무채색 컨택트를 나타내고, 크로미넌스(19)는 컬러 컨텐츠를 나타내며, 이것은 시각계에 의해 "레드"에서 "그린"으로 그리고 "블루"에서 "옐로우"로의 아이조루미넌트(isoluminant) 변조과 같이 처리된다. 비디오의 색차 신호 (R-G, B-Y)는 이러한 변조에 대략적으로 근사한 것이다. 대부분의 관측자에게 있어서, 크로마틱 주파수 응답의 대역폭은 루미넌스 주파수 응답의 대역폭의 1/2이다. 때때로, 블루-옐로우 변조 응답의 대역폭이 훨씬 더 작아서, 루미넌스의 약 1/3까지 작아진다. 도 2에 도시한 바와 같이, 상이한 화상 화소로부터 표시 화소 트라이어드의 부화소로의 색 요소의 매핑을 포함하 는 샘플링은 "부화소 샘플링"이라 칭할 수 있다.Here, the
도 4를 참조하면, 디스플레이의 수평 방향에서, 표시 화소(16)의 나이퀴스트 (표시 화소 = 트라이어드 화소, 이 때 트라이어드 나이퀴스트는 트라이어드 화소당 0.5 사이클임) 및 부화소 요소(10, 12, 14)의 나이퀴스트 주파수 (부화소당 0.5 사이클 = 1.5 사이클/트라이어드 화소) 사이에 있는 주파수 범위가 존재한다. 이 영역은 도 4에서 사각 영역(20)으로서 도시되어 있다. 고 해상도 화상을 디스플레이 샘플 간격과 동일한 폭의 직각 함수로 컨벌브(convolve)함으로써 발생하는 정현파 함수는 일점 쇄선(22)으로 도시되어 있다. 이것은 디스플레이가 LCD인 경우 디스플레이 MIF(변조 전달 함수)를 모델링하는 가장 일반적인 방식이다.Referring to FIG. 4, in the horizontal direction of the display, the Nyquist of the display pixel 16 (display pixel = triad pixel, wherein the triad Nyquist is 0.5 cycles per triad pixel) and the subpixel elements 10, 12. There is a frequency range between the Nyquist frequency (0.5 cycles per subpixel = 1.5 cycles / tried pixels). This area is shown as
고 해상도 소스 화상을 부화소 간격과 동일한 직각 함수로 컨벌브함으로써 발생하는 정현파 함수는 점선(24)으로 도시되며, 고 대역폭을 갖고 있다. 이것은 그 부화소가 1차원에서 직각인 것을 고려한 디스플레이에 의해 부과된 제한 사항이다. 도시한 사각 영역(20)에서, 부화소는 루미넌스 정보를 표시할 수 있지만, 크로미넌스 정보를 표시하지 못한다. 따라서, 이 영역에서, 크로미넌스 에일리어싱을 행함으로써, 트라이어드(즉, 디스플레이) 화소에 의해 허용되는 것고 주파수 크로미넌스 정보를 얻을 수 있다. 이것은 부화소 샘플링을 이용함으로써 얻어지는 이점 영역이다.The sinusoidal function resulting from convolving a high resolution source picture into a quadrature function equal to the subpixel spacing is shown by dashed
폰트 디스플레이를 갖는 어플리케이션에 있어서는, 전형적으로 블랙 & 화이트 폰트가 도 5에 도시한 바와 같이 전처리(preprocess)된다. 표준 전처리로서는 화소의 중심에 폰트 스트로크를 센터링하는 힌팅(hinting), 즉, 폰트-스트로크 특 정 위상 편이가 있다. 그 다음에는 일반적으로 저역통과 필터링이 행해지는 것으로, 그레이스케일 앤티에일리어싱 처리라고 한다.In applications with font displays, typically black & white fonts are preprocessed as shown in FIG. Standard preprocessing is a hint that centers the font stroke at the center of the pixel, i.e., a font-stroke specific phase shift. Subsequently, low pass filtering is generally performed, which is called grayscale antialiasing processing.
도 3에 도시한 시각 주파수 응답(CSFs)은 이상적인 것이다. 실제로, 그 응답은 도 6(a)에 도시한 바와 같이 유한 폴오프 기울기(finite falloff slope)를 갖는다. 루미넌스 CSF(30)는 cy/deg 단위로부터 (1280 화소의 관측 거리를 가정하는) 표시 화소 도메인으로 매핑되어 있다. 이것은, 1.5 cy/화소 (표시 화소) 근처에서 최대 주파수를 갖는 실선(30)으로 도시되어 있고, 0.2 cy/화소 트라이어드 근처의 피크를 갖는 형태로 대역통과된다. R:G CSF(32)는 점선으로 도시되어 있으며, 0.5cy/화소 근처의 최대 주파수로 저역통과된다. B:Y 변조 CSF(34)는 R:G CSF와 유사한 최대 주파수로 일점 쇄선 LPF로서 도시되어 있지만, 저 최대 응답(lower maximum response)을 갖는다. 크로미넌스 CSF(32, 34) 및 루미넌스 CSF(30)의 컷오프 주파수 간의 범위는, 루미넌스 대역폭을 개선하기 위해 크로마틱 에일리어싱을 허용할 수 있는 범위이다.The visual frequency responses (CSFs) shown in FIG. 3 are ideal. In practice, the response has a finite falloff slope as shown in Fig. 6 (a). The
또한, 도 6(a)는 이상적인 화상 전력 스펙트럼(36)을 1/f 함수로서 도시하며, 이 도에서는 (로그 좌표축을 사용하고 있기에) -1의 기울기를 갖는 직선으로서 도시된다. 이 스펙트럼은 샘플링 주파수에서 반복될 것이다. 이러한 반복은 수평 방향에 대한 부화소(40) 및 화소(38)의 샘플링 레이트에 대하여 도시되어 있다. 저 주파수(38)에서 발생하는 반복은 화소 샘플링으로 인한 것이고, 고 주파수(40)에서 발생하는 반복은 부화소 샘플링으로 인한 것이다. 로그 주파수 축 상에서 플로팅한 것이므로 그 형태가 변화하는 것에 주목하기 바란다. 나이퀴스트 아래의 저 주 파수까지 연장되는 이러한 반복 스펙트럼의 주파수들은 에일리어싱이라 칭한다. 제일 좌측의 것은 화소 샘플링 레이트로 인한 것이기에 크로마틱 에일리어싱(38)이고, 루미넌스 에일리어싱(40)은 고 부화소 샘플링 레이트에 관련되기 때문에 고 주파수에서 발생한다.6 (a) also shows the ideal
도 6a에서, 소스 스펙트럼에 대해서는 프리필터링을 적용하지 않았다. 결국, 화소 샘플링으로 인한 에일리어싱(즉, 크로마틱 에일리어싱)은 매우 낮은 주파수(35)까지 연장된다. 따라서, 크로마틱 CSF가 루미넌스 CSF보다 낮은 대역폭을 갖는다 하더라도, 컬러 인공물은 (디스플레이의 노이즈 및 콘트라스트에 의존하여) 여전히 보일 것이다.In FIG. 6A, no prefiltering is applied to the source spectrum. As a result, aliasing due to pixel sampling (ie, chromatic aliasing) extends to a very
도 6b에서, 도 4에서 사선(22)으로 도시한 (3개의 소스 화상 화소와 동일한 직각 함수) 프리필터를 소스 전력 스펙트럼에 적용하였으며, 0.5 cy/화소를 넘은 대역 스펙트럼(42)에 영향을 끼치는 것을 알 수 있으며, 부호(44)로 표시한 바와 같이 -1보다 더 급격한 기울기를 갖게 된다. 또한, 이러한 반복은 프리필터의 영향을 보여준다. 이 필터를 갖추더라도, 2개의 크로마틱 CSF(32a, 34a)의 컷오프 주파수저 주파수(46)에서 일부 크로마틱 에일리어싱 (저 주파수에서의 반복되는 스펙트럼)이 발생하는 경우가 있음을 알 수 있다. 따라서, 0.5 cy/화소를 넘은 모든 루미넌스 주파수(즉, 상기한 이점 영역)를 제거하지 않고 간단한 루미넌스 프리필터링으로는 크로마틱 에일리어싱을 제거하는데 어려움이 있다는 것을 알 수 있다.In FIG. 6B, a prefilter (shown as the
이점 영역(20)에서 루미넌스 대역폭 증가를 제공하기 위해 루미넌스 또는 크로마틱 함수로서 대역폭의 시각계 차이에 의존하기 때문에, 본 명세서에 그 내용이 참고로 인용되고 도 7에 도시된 C. Betrisey 등의 "Displaced filtering for patterned displays" SID Symposium Digest, 296-299 (2000)에 기재된 바와 같이 시각계 모델에 기초하여 프리필터링을 설계할 가능성이 있다.Since it depends on the visual system difference of the bandwidth as a luminance or chromatic function to provide an increase in the luminance bandwidth in the
이 기법은 이상적으로 컬러층 및 화상이 샘플링되고 있는 컬러 부화소에 따라 서로 다른 프리필터를 사용한다. 따라서, 9개의 필터가 존재한다. 이들은, 참고로 본 명세서에 그 내용이 참고로 인용되고 도 7에 도시된, X. Zhang 및 B. Wandell의 "A spatial extension of CIELab for digital color image reproduction", SID Symposium Digest 731-734 (1996)에 기재된 인간의 시각차 모델을 이용하여 설계되었다. 이것은 오프라인으로 수행되었으며, 그 화상이 항상 블랙 & 화이트라고 가정한다. 최종 구현에 있어서, 그 결과로서 생긴 필터보다는 직각 함수가 계산량을 줄이는데 사용된다. 또한, 크로마틱 에일리어싱이 (도 6b에서 알 수 있듯이) 크로마틱 CSF 컷오프저 주파수로 연장되기 때문에 보일 수 있는 약간의 잔여 크로마틱 에러가 여전히 존재한다. 그러나, 사용되는 시각 모델은, 루미넌스가 고 콘트라스트 레벨의 중간에 있을 때 루미넌스에 의한 크로미넌스의 마스킹을 야기하는 시각계의 마스킹 특성을 고려하지 않았다. 따라서, 폰트의 가장자리를 따라 존재하는 보다 큰 폰트 크로마틱 인공물은 그 폰트의 고 루미넌스 콘트라스트에 의해 마스킹된다. 그러나, 폰트 크기가 감소됨에 따라 그 폰트의 루미넌스도 감소하고, 그러면 동일한 크로마틱 인공물은 (예를 들어, 매우 작은 폰트에서) 매우 잘 보이게 된다. (그 폰트의 블랙/화이트 부분은 사라져, 국부적으로 작은 컬러 반점만 남게 된다.)This technique ideally uses different prefilters depending on the color layer and the color subpixel from which the image is being sampled. Thus, there are nine filters. These are described by X. Zhang and B. Wandell, "A spatial extension of CIELab for digital color image reproduction", SID Symposium Digest 731-734 (1996), the contents of which are incorporated herein by reference and incorporated by reference. It was designed using the human visual difference model described in. This was done offline and assumes that the picture is always black & white. In the final implementation, orthogonal functions are used to reduce the computation rather than the resulting filter. In addition, there is still some residual chromatic error that can be seen as chromatic aliasing extends to the chromatic CSF cutoff frequency (as can be seen in FIG. 6B). However, the visual model used did not take into account the masking properties of the visual system, which caused masking of chrominance by luminance when the luminance was in the middle of the high contrast level. Thus, larger font chromatic artifacts present along the edge of the font are masked by the high luminance contrast of that font. However, as the font size decreases, the luminance of the font also decreases, so that the same chromatic artifacts look very good (eg, in very small fonts). (The black / white portion of the font disappears, leaving only local small color spots.)
본 발명은 인간 시각계의 공간 주파수 응답의 상기한 특징, 즉, 루미넌스 CSF가 크로미넌스 CSF보다 높은 컷오프 주파수를 갖는다는 사실에 기초하여 발명되었다. 본 발명에서, 루미넌스 데이터 및 크로미넌스 데이터 각각에 대하여 적절한 샘플링 및 필터링을 수행하기 위해 저 해상도 화상은 고 해상도 화상을 루미넌스 데이터 및 크로미넌스 데이터로 분리하고, 샘플링 이후 루미넌스 데이터 및 크로미넌스 데이터를 결합함으로써 형성된다. 크로미넌스 데이터에 대하여, 크로마틱 에일리어싱을 피하기 위해 전통적인 서브 샘플링을 수행하는 한편, 루미넌스 성분의 해상도를 개선하기 위해 루미넌스 데이터에 대하여 부화소 샘플링을 수행한다. 또한, 루미넌스 데이터의 부화소 샘플링시에 발생하는 저 주파수 인공물을 제거하도록 샘플링된 부화소 루미넌스 데이터에 대하여 고역통과 필터링을 수행한다.The present invention has been invented on the basis of the above characteristics of the spatial frequency response of the human visual system, namely the luminance CSF has a higher cutoff frequency than the chrominance CSF. In the present invention, in order to perform appropriate sampling and filtering on each of the luminance data and chrominance data, the low resolution image is divided into a high resolution image into luminance data and chrominance data, and after sampling the luminance data and chrominance data. It is formed by combining. For chrominance data, traditional subsampling is performed to avoid chromatic aliasing, while subpixel sampling is performed on the luminance data to improve the resolution of the luminance component. In addition, high-pass filtering is performed on the sampled subpixel luminance data so as to remove low frequency artifacts generated during subpixel sampling of the luminance data.
본 발명의 개념을 이하 설명한다. 도 1 및 2에서, 하나의 표시 화소(16)에서의 R, G, B 부화소(10, 12, 14)의 R, G, B 값 각각은, 도 1에 도시한 서브 샘플링에 의해 고 해상도를 갖는 화상(4)의 컬러 화소(8)(즉, 11)의 R, G, B 값 각각에 반영된다. 그러나, 부화소(10, 12, 14)의 R, G, B 값 각각은 컬러 화소(8)(11)의 R, G, B 값과 동일하지 않다. 따라서, 루미넌스 성분이라는 점에서, 도 2에 도시한 부화소 샘플링을 수행하여 부화소(10, 12, 14)의 R, G, B 값 각각은 컬러 화소(11, 13, 15)의 루미넌스 성분을 반영한다.The concept of the present invention is explained below. 1 and 2, each of the R, G, and B values of the R, G, and B subpixels 10, 12, and 14 in one
본 발명의 실시예는 선형성 가정 및 필터링에 덜 의존하며 입력 컬러 화상에대하여 동작할 수 있는 방법 및 시스템을 포함한다. 이러한 실시예는 부화소 샘플 링에 의해 야기된 저 주파수 크로마틱 인공물을 직접 제거할 수 있다. 이것은, 루미넌스 및 크로마틱 에일리어싱 버전에 부가되는 그 화상의 크로마틱 콘텐츠의 LPF 버전을 생성함으로써 가능하다. 이것은, 부화소 샘플링에 의해 야기되는 컬러 인공물을 제거하기 위해 가색이 아닌 컬러 도미넌스, 즉 원색 도메인(즉, RGB)을 이용함으로써 행해진다. 실제로, 도 6a에 도시한 바와 같이 크로미넌스 CSF의 저 대역폭으로 인하여 고 주파수 크로마틱 인공물은 보이지 않기 때문에, 저 주파수 크로마틱 인공물만이 삭제될 필요가 있다. Embodiments of the present invention include methods and systems that are less dependent on linearity assumptions and filtering and can operate on input color pictures. This embodiment can directly remove low frequency chromatic artifacts caused by subpixel sampling. This is possible by creating an LPF version of the chromatic content of the picture that is added to the luminance and chromatic aliasing versions. This is done by using color dominance, i.e., primary color domain (i.e., RGB), rather than false color, to remove color artifacts caused by subpixel sampling. In fact, only the low frequency chromatic artifacts need to be deleted, as high frequency chromatic artifacts are not visible due to the low bandwidth of the chrominance CSF as shown in FIG. 6A.
본 발명의 방법 및 시스템은, 디스플레이가 설계 사양보다 가까운 거리에서 관측되지 않을 때, 크로마틱 에일리어싱이 보이지 않는 고해상도의 루미넌스 신호를 얻는데 이용할 수 있다. 이러한 기법은 소스 화상이 텍스트이거나 화상이 무채색이다라고 가정할 필요가 없다.The method and system of the present invention can be used to obtain a high resolution luminance signal in which no chromatic aliasing is seen when the display is not observed closer than the design specification. This technique need not assume that the source picture is text or the picture is achromatic.
본 발명의 실시예는 고해상도의 화상을 서브 샘플링 프로세스에 의해 야기된 감소된 에러를 갖는 저해상도의 화상으로 변환한다. 고해상도의 화상이 루미넌스 및 크로미넌스 데이터의 분리가 가능한 포맷으로 되어 있지 않은 경우, 그 화상은 그러한 포맷으로 변환된다. 많은 보색 도메인이 허용가능하다. 보색 도메인 화상은 분할되어 루미넌스 채널을 크로미넌스 채널로부터 분리함으로써 개별적인 처리가 가능해진다.Embodiments of the present invention convert high resolution pictures into low resolution pictures with reduced errors caused by the subsampling process. If the high resolution image is not in a format capable of separating luminance and chrominance data, the image is converted to such a format. Many complementary domains are acceptable. The complementary color domain image is divided so that separate processing is possible by separating the luminance channel from the chrominance channel.
이후, 루미넌스 채널은 RGB와 같은 가색 도메인(ACD)으로 변환되고, ACD 루미넌스 화상은 부화소 샘플링되어 해상도를 낮추면서 루미넌스 데이터를 유지한다. 부화소 샘플링 이후, 부화소 샘플링된(SPS) 화상은 다시 보색 도메인(OCD)으로 변 환되고 다시 개별적인 루미넌스 및 크로미넌스 채널로 분할된다. 이러한 분할에 의해 발생하는 SPS 크로미넌스 채널은 고역통과 필터링되어 부화소 샘플링에 의해 야기되는 저 주파수 인공물을 제거하게 된다. SPS 루미넌스 채널은 전형적으로 변경되지 않고 원래의 루미넌스 데이터를 유지한다.The luminance channel is then converted to a false color domain (ACD) such as RGB, and the ACD luminance image is subpixel sampled to maintain the luminance data while lowering the resolution. After subpixel sampling, the subpixel sampled (SPS) image is converted back into the complementary color domain (OCD) and divided into separate luminance and chrominance channels. The SPS chrominance channel caused by this division is highpass filtered to remove low frequency artifacts caused by subpixel sampling. The SPS luminance channel typically remains unchanged and retains the original luminance data.
원래 화상으로부터의 크로미넌스 채널은 저역통과 필터링된 후 서브 샘플링되어 저해상도의 화상에 대한 크로미넌스 데이터를 생성한다. 이러한 저역통과 필터링된 크로미넌스 채널은, 원래 루미넌스 채널로부터 생성된, 고역통과 필터링된 부화소 샘플링된 크로미넌스 채널과 결합된다. 이렇게 결합된 크로미넌스 채널은 또한 SPS 루미넌스 채널과 결합되어 일반적으로 보색 도메인내에 감소된 에러를 갖는 저해상도의 화상을 형성하게 된다. 그 후, 이 감소된 에러의 저해상도의 화상은 가색 도메인 또는 원하는 응용과 호환가능한 일부 다른 컬러 도메인으로 변환된다.The chrominance channel from the original picture is lowpass filtered and then subsampled to produce chrominance data for the low resolution picture. This lowpass filtered chrominance channel is combined with a highpass filtered subpixel sampled chrominance channel, originally generated from the luminance channel. This combined chrominance channel is also combined with the SPS luminance channel to form a low resolution image with generally reduced error in the complementary domain. The reduced resolution image of this reduced error is then converted into a false color domain or some other color domain compatible with the desired application.
본 발명의 상기한 이점 및 다른 이점 및 목적을 얻기 위해, 본 발명의 보다 상세한 설명을 첨부 도면에 예시되어 있는 특정 실시예를 참조하여 설명한다. 이들 도면은 본 발명의 일부 실시예를 나타낼 뿐이며 본 발명의 범위를 제한하는 것이 아니며, 본 발명은 첨부 도면을 참조하여 설명된다.BRIEF DESCRIPTION OF DRAWINGS To obtain the above and other advantages and objects of the present invention, a more detailed description of the present invention will be described with reference to specific embodiments illustrated in the accompanying drawings. These drawings illustrate only some embodiments of the invention and do not limit the scope of the invention, which is described with reference to the accompanying drawings.
도 1은 트라이어드 화소 구성을 갖는 디스플레이를 위한 전통적인 화상 샘플링을 나타내는 도면.1 illustrates traditional image sampling for a display having a triad pixel configuration.
도 2는 트라이어드 화소 구성을 갖는 디스플레이를 위한 부화소 화상 샘플링 을 나타내는 도면.2 shows subpixel image sampling for a display having a triad pixel configuration.
도 3은 디지털 주파수 도메인으로 매핑된 이상적인 CSF을 나타내는 그래프.3 is a graph showing an ideal CSF mapped to the digital frequency domain.
도 4는 이점 영역을 나타내는 화소 나이퀴스트 및 부화소 나이퀴스트의 영역 분석을 나타내는 그래프.4 is a graph showing region analysis of pixel Nyquist and subpixel Nyquist representing benefit regions.
도 5는 종래의 전처리 기법을 나타내는 도면.5 illustrates a conventional pretreatment technique.
도 6a는 화소 샘플링 및 부화소 샘플링 주파수에서 반복되는 1/f 전력 스펙트럼을 이용하는 분석을 나타내는 그래프.FIG. 6A is a graph showing analysis using 1 / f power spectrum repeated at pixel sampling and subpixel sampling frequencies. FIG.
도 6b는 전처리로 인하여 개선된 부화소 샘플링 주파수 및 화소 샘플링에서 반복되는 1/f 전력 스펙트럼을 이용하는 분석을 나타내는 그래프.FIG. 6B is a graph showing analysis using 1 / f power spectrum repeated at subpixel sampling frequency and pixel sampling due to improved preprocessing. FIG.
도 7은 공지된 시각 모델 사용을 실시하는 블록도.7 is a block diagram of using a known visual model.
도 8은 본 발명의 실시예를 나타내는 흐름도.8 is a flow diagram illustrating an embodiment of the invention.
도 9는 본 발명의 특정 실시예를 나타내는 흐름도.9 is a flow diagram illustrating a particular embodiment of the present invention.
도 10은 본 발명의 실시예에 의해 유지되는 신호를 나타내는 그래프.10 is a graph showing a signal maintained by an embodiment of the present invention.
본 발명의 바람직한 실시예는 도면을 참조하여 이해될 것이며, 전체 도면에 걸쳐 유사한 부분은 동일 번호로 지정되어 있다. 상기한 각 도면은 본 명세서의 일부로서 포함된다.Preferred embodiments of the present invention will be understood with reference to the drawings, wherein like parts are designated by like numerals throughout the drawings. Each of the above figures is included as part of this specification.
일반적으로 도면에서 나타내는 바와 같이 본 발명의 구성 요소는 다양하게 변경되어 구성될 수 있다. 따라서, 본 발명의 방법 및 시스템의 실시예에 대한 다음의 설명은 본 발명을 제한하려는 것이 아니며 단지 본 발명의 바람직한 실시예의 예일 뿐이다.In general, as shown in the drawings, the components of the present invention may be variously modified. Accordingly, the following description of embodiments of the methods and systems of the present invention is not intended to limit the present invention, but is merely an example of a preferred embodiment of the present invention.
본 발명의 실시예 요소들은 하드웨어, 펌웨어 및/또는 소프트웨어로서 구체화될 수 있다. 또한, 본 발명의 실시예의 특징이 구현되는 소프트웨어(프로그램)을 컴퓨터로 판독가능한 기록 매체내에 저장하여 제공할 수 있다. 이러한 매체의 예로는, 정보 저장 수단(반도체 메모리, 플로피 디스크, 하드 디스크 등) 및 광 저장 수단 (CD-ROM, DVD 등)과 같은 기록 매체뿐만 아니라 컴퓨터 네트워크(인터넷 등의 LAN, WAN, 및 무선 통신 네트워크) 시스템에 사용되는 통신 매체 (광섬유, 무선 통신 라인 등) 등이 있다. 또한, 본 발명의 실시예의 특징을 전자 전송에서 구체화되는 컴퓨터 신호로서 구현할 수 있다. 본 명세서에 기재된 예시적인 실시예는 단지 그러한 형태중의 하나를 설명한 것으로, 당업자라면 본 발명의 범위 내에서 이러한 요소들을 이들 형태중 임의의 것으로 하여 달성할 수 있음을 이해할 것이다.Embodiment elements of the invention may be embodied as hardware, firmware and / or software. In addition, the software (program) on which the features of the embodiments of the present invention are implemented can be stored and provided in a computer-readable recording medium. Examples of such media include computer media (LAN, WAN, and wireless as well as recording media such as information storage means (semiconductor memory, floppy disks, hard disks, etc.) and optical storage means (CD-ROM, DVD, etc.). Communication network) communication media (optical fibers, wireless communication lines, etc.) used in the system. In addition, features of embodiments of the present invention can be implemented as computer signals embodied in electronic transmission. The exemplary embodiments described herein have merely described one of such forms and those skilled in the art will understand that such elements may be achieved by any of these forms within the scope of the present invention.
본 발명의 실시예는 무채색(achromatic)이라는 용어에 대하여 설명되고 청구된다. 본 명세서 및 청구범위에서의 화상과 관련하여 사용되는 이 용어는, 가시적 색 변동이 없는 화상을 가르킨다. 무채색 화상은 하나의 층 또는 컬러 채널만을 포함하는 화상, 또는 다중층 또는 컬러 채널들을 포함하는 화상일 수 있으며, 여기서 각 컬러 층은 동일하고 이에 따라 단일 색상을 생성한다.Embodiments of the present invention are described and claimed with respect to the term achromatic. As used in connection with an image in the present specification and claims, this term refers to an image without visible color variation. An achromatic image may be an image comprising only one layer or color channel, or an image comprising multiple layers or color channels, where each color layer is the same and thus produces a single color.
본 발명의 실시예는 "RGB" 화상 또는 도메인, 또는 "가색 도메인", 또는 "가색 화상"과 관련하여 설명되며 청구된다. 본 명세서 및 청구범위에서 사용되는 이러한 용어들은, 다양한 RGB 도메인 및 CMYK 도메인을 포함하지만 이에 한정되지는 않는, 통합 루미넌스 및 크로미넌스 정보를 갖는 다중 성분의 화상 도메인중 임의 의 형태를 가르킬 수 있다.Embodiments of the present invention are described and claimed in the context of "RGB" pictures or domains, or "color domains," or "color gamut pictures." These terms, as used herein and in the claims, may refer to any form of a multi-component picture domain with integrated luminance and chrominance information, including but not limited to various RGB domains and CMYK domains. .
또한, 본 발명의 실시예는 "YCrCb" 화상 또는 도메인, "보색" 도메인, 화상 또는 채널, 또는 "색차" 도메인, 화상 또는 채널과 관련하여 설명되고 청구된다. 본 명세서 및 청구범위에서 사용되는 이러한 용어들은, YCrCb, LAB, YUV, 및 YIQ 를 포함하지만 이에 한정되지는 않는, 개별적인 루미넌스 채널 및 적어도 하나의 크로미넌스 채널을 포함하는 채널을 갖는 다중 성분 화상 도메인중 임의의 형태를 가르킬 수 있다.Embodiments of the invention are also described and claimed in the context of "YCrCb" pictures or domains, "Complementary" domains, pictures or channels, or "color difference" domains, pictures or channels. As used herein and in the claims, these terms include a multi-component picture domain having a channel comprising individual luminance channels and at least one chrominance channel, including but not limited to YCrCb, LAB, YUV, and YIQ. It can point to any form of.
본 발명의 실시예들은 고해상도의 화상을 변환 화상 내에서 가시적 에러가 보다 적은 저해상도의 화상으로 변환하는데 이용될 수 있다. 이러한 실시예들은 전형적으로 디스플레이고 해상도를 갖는 화상을 그 디스플레이에 의해 사용가능한 해상도로 낮추도록 변환하기 위해 디스플레이 장치와 관련하여 사용되지만, 그 밖의 응용도 가능하다.Embodiments of the present invention can be used to convert a high resolution image into a low resolution image with less visible error in the converted image. These embodiments are typically used in connection with a display device to convert an image having a display high resolution to lower to a resolution usable by the display, but other applications are possible.
본 발명의 실시예에 따라 변환된 화상은 다양한 포맷으로 존재할 수 있다. 이러한 포맷이 본 발명의 실시예의 프로세스와 호환되지 않을 때, 그 화상은 처리되기 이전에 호환가능한 포맷으로 변환되어, 필요에 따라 처리후 다시 변환될 수 있다.The converted image according to the embodiment of the present invention may exist in various formats. When such a format is not compatible with the process of the embodiment of the present invention, the image can be converted to a compatible format before being processed, and then converted again after processing as necessary.
본 발명의 실시예를 실시예의 개요를 보여주는 도 8을 참조하여 설명한다. 프로세스(70)는 YCrCb, LAB, YUV, YIQ와 같은 보색 도메인(OCD) 또는 그와 유사한 도메인 내에 존재하는 화상으로 시작한다. 화상이 RGB 또는 CMYK 도메인 또는 일부 다른 컬러 공간과 같은 가색 도메인(ACD) 내에 존재할 때, 그 화상은 본 발명의 실시예에 따라 처리되기 전에 보색 도메인으로 변환될 수 있다. 실시예 중에는, 화상을 처리전에 호환가능한 포맷으로 변환하는 단계를 포함하는 것도 있다.An embodiment of the present invention will be described with reference to FIG. 8 showing an overview of the embodiment.
일단 화상이 개별적인 루미넌스 채널 및 크로미넌스 채널을 갖는 보색 도메인(72) 내에 존재하면, 그 화상은 단계(74)의 분리 처리에 의해 루미넌스 채널 및 크로미넌스 채널로 분할된다. 분할 처리(단계 74)에는 원래의 OCD 화상(72)의 샘플링 또는 필터링, 또는 원래 화상(72)으로부터 루미넌스 및 크로미넌스 데이터를 분리하는 방법이 포함될 수 있다. 또한, 분할 처리에는 화상 변환을 포함할 수 있다.Once the picture is in the
분할 처리 이후, 초기 루미넌스 채널(76)은 RGB 화상과 같은 ACD 루미넌스 화상으로 변환된다(단계 78). 이것은 최종적으로 디스플레이되는 도메인 또는 포맷으로 루미넌스 화상의 샘플링을 가능하게 한다. 일단 루미넌스 화상이 변환되면 (단계 78), 결과로서 얻어지는 저해상도의 화상을 해상도 개선을 위해 그 화상에 대하여 부화소 샘플링을 수행한다(단계 80). 이러한 방식으로, 고해상도의 원래 화상에서의 연속적인 각 화소로부터의 루미넌스 데이터는 저해상도의 화상에서의 대응하는 각 부화소에 할당된다.After the division process, the
부화소 샘플링(단계 80)이 완료되면, 그 결과로 부화소 샘플링된(SPS) 루미넌스 화상이 얻어지며, 이 SPS 루미넌스 화상은, SPS-OCD 루미넌스 화상이라 칭할 수 있는 OCD화상으로 변환된다(단계 82). 이 변환이 수행되면 SPS 루미넌스 화상이 개별적인 루미넌스 채널 및 크로미넌스 채널로 추가 분할될 수 있다(단계 84). SPS 루미넌스 채널(86)은 전형적으로 다른 채널들과의 후속 결합(단계 88)이 있기까지 그대로 남게 된다. 그러나, SPS 크로미넌스 채널(90, 92)은 추가 결합 이전에 필터링된다.When subpixel sampling (step 80) is completed, a subpixel sampled (SPS) luminance image is obtained as a result, and this SPS luminance image is converted into an OCD image, which can be referred to as an SPS-OCD luminance image (step 82). ). When this conversion is performed, the SPS luminance picture may be further divided into separate luminance channels and chrominance channels (step 84). The
이러한 SPS 크로미넌스 채널(90,92)은 레드-투-그린(Red-to-Green) 채널(90) 및 블루-투-옐로우(Blue-to-Yellow) 채널(92)로 분리될 수 있다. 이러한 채널들은, 전형적으로 YCrCb 화상의 Cr 및 Cb 채널, LAB 화상의 "a" 및 "b" 채널, YUV 화상의 U 및 V 채널, YIQ 화상의 I 및 Q 채널, 또는 다른 컬러 공간 또는 도메인의 유사한 채널들을 포함한다. 이러한 크로미넌스 채널(90, 92)는 고역통과 필터링되어(단계 94, 96) 부화소 샘플링시에 발생하는 저 주파수 인공물을 제거하게 된다.These
본 발명의 실시예중에는, 고역통과 필터링(단계 94, 96)은 언샤프(unsharp) 마스크 방법에 의해 수행되는 것도 있을 수 있다. 언샤프 마스크는 저역통과 커널을 사용할 수 있다. 전형적으로, 원래 화상은 저역통과 커널로 처리되어 저역통과된 버전의 화상을 생성한다. 계속하여, 이 저역통과 버전은 그 화상의 평균값을 유지하면서 원래의 필터링되지 않은 화상으로부터 제거된다. 성공적인 실시예에서는 약 0.3 화소 내지 약 0.8 화소의 시그마를 갖는 가우스 저역통과 커널을 사용하였다. 특히 0.6 화소의 시그마 값은 성공적인 것으로 생각되며 그 결과 약 0.168 사이클/화소의 주파수 도메인에서 컷오프가 발생한다. 이것에 의해, 양호한 언샤프 마스크 필터를 제공한다. 가우스 커널을 전개하면 아래와 같다.In some embodiments of the present invention, high pass filtering (
일부 실시예에서 사용되는 1차원 가우스 함수는 다음과 같다.The one-dimensional Gaussian function used in some embodiments is as follows.
이 함수를 푸리에 변환하면 아래와 같다. Fourier transform this function:
여기서, 공간 도메인(화소 단위)에서의 σ는 주파수 도메인(화소/사이클 단위)에서의 1/π2σ에 대응함을 알 수 있다. 이 관계는, σ의 경우, 필터의 컷오프 주파수를 결정하거나, 그와 반대로 주파수의 경우 CSF 모델에 의해 유도될 수 있는 언샤프 마스크에 대한 공간 σ을 결정하는데 사용될 수 있다.Here, it can be seen that σ in the spatial domain (pixel unit) corresponds to 1 / π 2 σ in the frequency domain (pixel / cycle unit). This relationship can be used to determine the cutoff frequency of the filter in the case of sigma, or vice versa for the unsharp mask that can be derived by the CSF model in the case of frequency.
일부 실시예에서 사용되는 2차원 가우스 함수는 아래와 같다.The two-dimensional Gaussian function used in some embodiments is as follows.
이 가우스 함수는 분리가능한 데카르트 함수이기 때문에, 2차원 가우스 함수의 주파수 응답은, σ의 의미를 고려할 때 수학식 2와 유사하다. 즉, 시간 도메인에서의 σx는 주파수 도메인에서의 1/π2σx 이고, 시간 도메인에서의 σ
y는 주파수 도메인에서의 1/π2σy 이다.Since this Gaussian function is a separable Cartesian function, the frequency response of the two-dimensional Gaussian function is similar to
본 발명의 성공적인 실시예에서는 3x3 크기의 커널로 구현되며 0.6의 시그마 값을 갖는 가우스 언샤프 마스크 필터를 채용하여, 약 0.2 사이클/화소의 저역통과 필터의 컷오프 주파수를 얻었다.In a successful embodiment of the present invention, a Gaussian unsharp mask filter implemented with a 3x3 kernel and having a sigma value of 0.6 was employed to obtain a cutoff frequency of a lowpass filter of about 0.2 cycles / pixel.
본 발명의 다른 실시예는 보색 채널 각각에 대한 역 CSFs에 등가인 고역통과 필터를 사용할 수 있다. 이러한 CSFs는 (자신이 모델링되는) cy/deg의 도메인으로부터 cy/pix 의 디지털 도메인으로 매핑될 수 있다. 실제 매핑 프로세스는 관측 거리를 고려하며, 상이한 어플리케이션에 대하여 개별화할 수 있어, pixels/mm 단위의 특정한 디스플레이 해상도 및 상이한 예상 또는 의도 관측 거리를 갖는다. 본 발명의 방법의 결과로서, 크로마틱 인공물은 설계 관측 거리보다 가까운 거리에서 관측하지 않을 때 보이지 않을 것이다. 그러나, 루미넌스 해상도는 개선될 것이다.Another embodiment of the invention may use a highpass filter that is equivalent to the reverse CSFs for each of the complementary channels. These CSFs can be mapped from the domain of cy / deg (self modeled) to the digital domain of cy / pix. The actual mapping process takes into account the viewing distance and can be individualized for different applications, with specific display resolutions in pixels / mm and different expected or intended viewing distances. As a result of the method of the invention, the chromatic artifact will not be visible when not observed at a distance closer than the design observation distance. However, the luminance resolution will be improved.
이 필터링 처리(단계 94, 96)는, 특정한 샘플링 프로세스에서 발생한 인공물의 양 또는 강도, 또는 다른 일부 기준에 기초하여 모든 크로미넌스 채널(90, 92) 또는 선택한 채널들에 대하여 수행될 수 있다.This filtering process (steps 94, 96) may be performed for all
원래의 OCD 크로미넌스 채널(98, 100)의 저역통과 필터링 처리(단계 102, 104)는 루미넌스 경로(105) 처리와 동시에 수행되거나 다른 시간대에 수행될 수 있다. OCD 크로미넌스 채널의 저역통과 필터링 처리(단계 102, 104)를 수행하여 표시 화소 나이퀴스트 주파수를 넘는 상당한 크로마틱 주파수를 제거한다. 따라서, 이러한 채널들은 전통적인 방식으로 크로마틱 경로(110)에서의 크로마틱 에일리어싱의 생성없이 1:3 인수만큼 서브 샘플링될 수 있다(단계 101, 103).The low pass filtering process (
일단 필터링 동작이 완료되면, 분리되어 있던 채널이 결합될 수 있다. 크로미넌스 채널의 결합은 사용되는 컬러 도메인에 의존하여 변경될 것이다. 이 실시예에서, 고역통과 필터링되고 부화소 샘플링된 블루-투-옐로우(HPFSPS-B/Y) 크로미넌스 채널(97)은, 저역통과 필터링되고 전통적인 방식으로 서브 샘플링된 블루-투-옐로우(LPFSS-B/Y) 크로미넌스 채널(109)과 결합되어(단계 106), 단일 고역통과 필 터링된(HLF) B/Y 크로미넌스 채널(111)을 형성한다. 또한, 고역통과 필터링되고 부화소 샘플링된 레드-투-그린(HPFSPS-R/G) 채널(95)은 저역통과 필터링되고 전통적인 방식으로 서브 샘플링된 레드-투-그린(LPFSS-R/G) 채널(107)과 결합되어(단계 108), 단일 고역-저역 필터링된(HLF) R/G 채널(114)을 형성하게 된다.Once the filtering operation is completed, the separated channels can be combined. The combination of chrominance channels will change depending on the color domain used. In this embodiment, the highpass filtered and subpixel sampled blue-to-yellow (HPFSPS-B / Y)
본 발명의 실시예의 방법은, 루미넌스 또는 밝기 채널의 변동 뿐만 아니라 다른 컬러 채널 및 다른 양의 컬러 채널을 포함할 수도 있는, 다른 컬러 공간 및 도메인에서 사용될 수 있다는 것을 유의해야 한다. 결합된 HLF 크로미넌스 채널(111, 114)은 저해상도의 OCD 화상(116)을 형성하도록 SPS 루미넌스 채널(86)과 더 결합될 수 있다(단계 88). 이후, 저해상도의 OCD 화상(116)은 다양한 목적에 따라 다른 화상 포맷이나 도메인으로 변환되거나 전환될 수 있다.It should be noted that the method of embodiments of the present invention may be used in other color spaces and domains, which may include other color channels and different amounts of color channels as well as variations in luminance or brightness channels. The combined
이러한 실시예들의 방법 및 시스템은 보다 적은 가시적 크로마틱 인공물을 갖는 저해상도의 화상을 제공한다.The method and system of these embodiments provide a low resolution image with fewer visible chromatic artifacts.
또한, 상기한 실시예들은 다양한 방식으로 변경될 수 있다. 예를 들어, 일부 실시예에서, 크로미넌스 채널(98, 100)의 저역통과 필터링(단계 102, 104)은 생략될 수 있다. 또한, 단계 84에서 분리된 루미넌스 채널(76)만을 사용함으로써 저해상도의 화상(116)을 형성할 수 있다. 즉, 루미넌스 채널(76)에 대하여 루미넌스 경로(105)의 각 단계를 수행하면서, SPS 루미넌스 채널(86), HPFSPS-R/G 채널(95) 및 HPFSPS-B/Y 채널(97)을 결합하기 위해, 크로미넌스 경로(110)의 각 단계 및 크로미넌스 채널(98, 100)에 대하여 단계(106, 108)를 생략할 수 있다. 이러한 방식으로, 저해상도의 화상(116)을 형성할 수 있다.
In addition, the above-described embodiments may be changed in various ways. For example, in some embodiments, low pass filtering (
도 9를 참조하여, 본 발명의 특정 실시예를 설명한다. 이 실시예는 저해상도의 디스플레이 장치 상에 표시하기 위해 고해상도의 RGB 화상을 처리하는데 사용될 수 있다. 고해상도의 RGB 화상(120)은 사용자 또는 어플리케이션의 특정 필요에 따라 선택적으로 전처리될 수 있다(단계 122). 전처리(단계 122)는 힌팅, 저역통과 필터링의 종류, 또는 그 밖의 다른 처리 기법을 포함한다. 또한, 전처리(단계 122)는 완전히 바이패스될 수 있다.9, a specific embodiment of the present invention will be described. This embodiment can be used to process high resolution RGB images for display on low resolution display devices. The high
전처리(단계122) 이후, RGB는 LAB, YCrCb, YIQ, YUV 또는 그 밖의 화상 도메인과 같은 보색 도메인 화상으로 전환될 수 있다(단계 124). 이 예에서는, LAB 화상 도메인을 사용한다. 일단 이 도메인으로 전환되면, 화상은 이 도메인의 개별적인 L, a, b 채널로 분할되어 각 채널의 개별적인 처리를 받게 된다(단계 126). 이러한 방식으로, 크로미넌스 및 루미넌스 채널이 개별적으로 처리될 수 있다.After preprocessing (step 122), RGB may be converted to a complementary color domain picture such as LAB, YCrCb, YIQ, YUV or other picture domains (step 124). In this example, the LAB picture domain is used. Once switched to this domain, the picture is divided into individual L, a, b channels of this domain and subjected to individual processing of each channel (step 126). In this way, chrominance and luminance channels can be processed separately.
이후, L 채널(127)은 다시 RGB 도메인으로 전환되어 최종 디스플레이 포맷으로 샘플링될 수 있도록 한다. 이러한 전환은 L 층 또는 채널을 3개의 동일한 R, G, B층으로 간단히 복사하는 것을 포함한다. 또한, 단일 층을 사용할 수 있지만, 실제의 전환 방법은 선택된 컬러 변환에 의존한다.The
이후, 원래의 RGB 화상(120)의 수평 루미넌스 해상도를 유지하기 위해 부화소 샘플링 처리(단계 130)가 RGB 루미넌스 화상에 대하여 수행된다. 부화소 샘플링 처리 이후, 샘플링된 화상은 다시 LAB와 같은 보색 도메인으로 전환된다(단계 132). 이렇게 샘플링된 LAB 화상은 분할되어(단계 134) 크로미넌스 채널의 추가 처리를 위해 루미넌스 및 크로미넌스 채널을 분리시킨다. 여기서, 루미넌스 채널(136)은 전형적으로 처리되지 않고 원래의 루미넌스 데이터를 유지한다. 그러나, 부화소 샘플링되고 분할된 화상의 루미넌스 채널(150, 152)은 고역통과 필터링되어 (단계 146, 148), 부화소 샘플링시에 발생하는 저 주파수 크로마틱 에일리어싱을 제거한다.Then, a subpixel sampling process (step 130) is performed on the RGB luminance image to maintain the horizontal luminance resolution of the
상기한 다른 실시예에서처럼, 이 고역통과 필터링 처리가 가우스 저역통과 커널을 사용하는 언샤프 마스크 필터로 수행될 수 있다. 이 방법을 이용하는 실시예에서는 크로미넌스 채널이 필터링되어 고역통과 필터링된 (HPF) SPS 크로미넌스 화상 또는 채널(147, 149)을 생성하기 위해 SPS-RGB 크로미넌스 화상으로부터 걸러진 저역통과 필터링된 크로미넌스 화상을 생성한다. 고역통과 필터링 처리(단계 146, 148)는 전형적으로 "a" 및 "b" 채널에 대하여 수행되지만, 조건이 허락되는 경우 하나의 채널에 대해서만 수행될 수 있다.As in the other embodiments described above, this highpass filtering process can be performed with an unsharp mask filter using a Gaussian lowpass kernel. In an embodiment using this method, the chrominance channel is filtered to filter the lowpass filtered from the SPS-RGB chrominance picture to produce a highpass filtered (HPF) SPS chrominance picture or
원래의 "a" 및 "b" 크로미넌스 채널(154, 156)의 저역통과 필터링 처리(단계 138, 140)는 "L" 채널의 처리와 동시에 수행되거나 다른 시간대에 수행될 수 있다. "a" 및 "b" 크로미넌스 채널의 저역통과 필터링 처리(단계 138, 140)가 수행되어 표시 화소 나이퀴스트 주파수를 넘는 상당한 크로미넌스 채널을 제거한다. 저역통과 필터링 처리(단계 138, 140) 이후, 이 채널들은 전통적인 방식으로 크로마틱 에일리어싱 발생 없이 1:3 인수만큼 서브 샘플링될 수 있다(단계 142, 144).The low pass filtering process (
채널들이 필터링되고 샘플링되면, 이들은 결합되어 보다 적은 에러를 갖는 저해상도의 화상을 형성한다. 고역통과 필터링된 루미넌스 "a" 채널(147)은 서브 샘플링되고 저역통과 필터링된 "a"채널(143)과 결합하여(단계 160) 처리된 "a" 채 널(164)을 형성한다. 고역통과 필터링된 루미넌스 "b" 채널(149)은 서브 샘플링되고 저역통과 필터링된 "b"채널(145)과 결합하여(단계 158) 처리된 "b" 채널(162)을 형성한다. 이후, 이러한 크로미넌스 채널(162, 164)은 SPS 루미넌스 채널(136)과 결합하여(단계 166) 에러가 감소된 저해상도의 LAB 화상(168)을 형성한다.Once the channels are filtered and sampled, they are combined to form a low resolution picture with less error. The highpass filtered luminance "a"
이 에러가 감소된 화상은 RGB 도메인으로 전환되어(단계 170), 디스플레이 또는 그 밖의 장치로 출력될 수 있는, 에러 감소된 저해상도의 RGB 화상(172)을 생성할 수 있다.This error reduced image can be switched to the RGB domain (step 170) to produce an error reduced low
본 발명의 실시예의 프로세스 함수는 루미넌스 CSF(180) 및 크로미넌스 CSF(182)에 대하여 유지되는 신호를 도시하는 도 10을 참조하여 설명한다. 유지된 크로마틱 신호는, 화상의 유용한 크로마틱 콘텐츠를 포함하는 저역통과 영역(186) 뿐만 아니라 크로미넌스 CSF에 대하여 검출되지 않는 고역통과 영역(184)을 포함한다. 이상적으로, 이 저역통과 영역(186)으로부터 벗어나는 주파수는 RG 및 BY CSF의 제한된 대역폭 때문에 관측자에게 보이질 않을 것이다. HPF 크로마틱 신호(184)는 유효한 루미넌스 정보를 전달하는 크로마틱 에일리어싱이다. 저 주파수 크로마틱 정보가 유지되기 때문에, 이 기법은 컬러 화상에 대하여 잘 적용된다는 점에 유의하길 바란다. 도 10은 이들 2개의 크로마틱 신호 간의 오버랩을 도시하고 있지 않지만, 실제로 사용되는 필터에 따라 오버랩이 발생할 수도 있다. 다른 실시예에서는 도 10에 도시된 고역통과 영역(184) 및 저역통과 영역(186)의 크로마틱 신호들의 오버랩을 허용하는 필터를 사용할 수 있다. 오버랩에 의해, 크로마틱 에일리어싱의 발생을 감수하더라도 크로마틱 대역폭을 넓힐 수 있다.
The process function of an embodiment of the present invention is described with reference to FIG. 10, which shows the signal maintained for the
본 발명은 본 발명의 사상 또는 필수 특징을 벗어나지 않고 다른 특정 형태로 구현될 수 있다. 상기한 실시예는 모든 면에서 단지 예시적인 것일 뿐이며 본 발명이 이에 제한되는 것이 아니다. 따라서, 본 발명의 범위는 상기한 설명이 아닌 청구범위에 의해 제한된다. 청구범위의 등가물의 범위 및 의미내의 모든 변경은 본 발명의 범위내에 있는 것이다.The present invention can be embodied in other specific forms without departing from the spirit or essential features of the invention. The above embodiments are merely exemplary in all respects and the present invention is not limited thereto. Accordingly, the scope of the invention is limited by the claims rather than the foregoing description. All changes that come within the meaning and range of equivalency of the claims are to be embraced within their scope.
Claims (20)
Applications Claiming Priority (7)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US09/735,424 | 2000-12-12 | ||
| US09/735,454 | 2000-12-12 | ||
| US09/735,425 US6807319B2 (en) | 2000-06-12 | 2000-12-12 | Methods and systems for improving display resolution in achromatic images using sub-pixel sampling and visual error filtering |
| US09/735,424 US6608632B2 (en) | 2000-06-12 | 2000-12-12 | Methods and systems for improving display resolution in images using sub-pixel sampling and visual error filtering |
| US09/735,425 | 2000-12-12 | ||
| US09/735,454 US6775420B2 (en) | 2000-06-12 | 2000-12-12 | Methods and systems for improving display resolution using sub-pixel sampling and visual error compensation |
| PCT/JP2001/010915 WO2002048960A2 (en) | 2000-12-12 | 2001-12-12 | Methods and systems for improving display resolution in images using sub-pixel sampling and visual error filtering |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20030066707A KR20030066707A (en) | 2003-08-09 |
| KR100597156B1 true KR100597156B1 (en) | 2006-07-05 |
Family
ID=49989929
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020037007876A Expired - Fee Related KR100597156B1 (en) | 2000-12-12 | 2001-12-12 | Method and system for improving the display resolution of an image using subpixel sampling and visible error filtering |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR100597156B1 (en) |
-
2001
- 2001-12-12 KR KR1020037007876A patent/KR100597156B1/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| KR20030066707A (en) | 2003-08-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US6608632B2 (en) | Methods and systems for improving display resolution in images using sub-pixel sampling and visual error filtering | |
| KR100636658B1 (en) | System for improving display resolution | |
| US7035476B2 (en) | Methods and systems for improving display resolution using sub-pixel sampling and visual error compensation | |
| US6807319B2 (en) | Methods and systems for improving display resolution in achromatic images using sub-pixel sampling and visual error filtering | |
| Daly | 47.3: Analysis of subtriad addressing algorithms by visual system models | |
| Betrisey et al. | 20.4: Displaced filtering for patterned displays | |
| US6078307A (en) | Method for increasing luminance resolution of color panel display systems | |
| US7471843B2 (en) | System for improving an image displayed on a display | |
| US8326050B2 (en) | Method and apparatus for subpixel-based down-sampling | |
| US20100085452A1 (en) | new spatio-spectral sampling paradigm for imaging and a novel color filter array design | |
| JP2005505801A (en) | Method for displaying an image, image processing unit, and display device having the display processing unit | |
| Alleysson et al. | Color demosaicing by estimating luminance and opponent chromatic signals in the Fourier domain | |
| US8712191B2 (en) | Method for detecting directions of regularity in a two-dimensional image | |
| TW558899B (en) | Methods and systems for improving display resolution in images using sub-pixel sampling and visual error filtering | |
| CN101770759B (en) | Method and apparatus for sub-pixel based down-sampling | |
| US7133569B1 (en) | Aliasing artifact attenuation system | |
| Messing et al. | Subpixel rendering on nonstriped colour matrix displays | |
| KR100597156B1 (en) | Method and system for improving the display resolution of an image using subpixel sampling and visible error filtering | |
| Yoshiyama et al. | 19.5 L: LateNews Paper: A New Advantage of MultiPrimaryColor Displays | |
| JP2006031003A (en) | Method and system for improving display resolution using subpixel sampling and visual error compensation | |
| Yotam et al. | MTF for color Bayer pattern detector | |
| Atcheson | Subpixel rendering of Bayer-patterned images | |
| Fang et al. | Anti-aliasing filter for subpixel down-sampling based on frequency analysis | |
| Betrisey et al. | 20.4: Displaced Filtering for Patterned Displays | |
| Daly et al. | Improving color text sharpness in images with reduced chromatic bandwidth |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| PA0105 | International application |
St.27 status event code: A-0-1-A10-A15-nap-PA0105 |
|
| PA0201 | Request for examination |
St.27 status event code: A-1-2-D10-D11-exm-PA0201 |
|
| PG1501 | Laying open of application |
St.27 status event code: A-1-1-Q10-Q12-nap-PG1501 |
|
| E902 | Notification of reason for refusal | ||
| PE0902 | Notice of grounds for rejection |
St.27 status event code: A-1-2-D10-D21-exm-PE0902 |
|
| E13-X000 | Pre-grant limitation requested |
St.27 status event code: A-2-3-E10-E13-lim-X000 |
|
| P11-X000 | Amendment of application requested |
St.27 status event code: A-2-2-P10-P11-nap-X000 |
|
| P13-X000 | Application amended |
St.27 status event code: A-2-2-P10-P13-nap-X000 |
|
| E902 | Notification of reason for refusal | ||
| PE0902 | Notice of grounds for rejection |
St.27 status event code: A-1-2-D10-D21-exm-PE0902 |
|
| PN2301 | Change of applicant |
St.27 status event code: A-3-3-R10-R13-asn-PN2301 St.27 status event code: A-3-3-R10-R11-asn-PN2301 |
|
| T11-X000 | Administrative time limit extension requested |
St.27 status event code: U-3-3-T10-T11-oth-X000 |
|
| P11-X000 | Amendment of application requested |
St.27 status event code: A-2-2-P10-P11-nap-X000 |
|
| P13-X000 | Application amended |
St.27 status event code: A-2-2-P10-P13-nap-X000 |
|
| E701 | Decision to grant or registration of patent right | ||
| PE0701 | Decision of registration |
St.27 status event code: A-1-2-D10-D22-exm-PE0701 |
|
| GRNT | Written decision to grant | ||
| PR0701 | Registration of establishment |
St.27 status event code: A-2-4-F10-F11-exm-PR0701 |
|
| PR1002 | Payment of registration fee |
St.27 status event code: A-2-2-U10-U12-oth-PR1002 Fee payment year number: 1 |
|
| PG1601 | Publication of registration |
St.27 status event code: A-4-4-Q10-Q13-nap-PG1601 |
|
| R17-X000 | Change to representative recorded |
St.27 status event code: A-5-5-R10-R17-oth-X000 |
|
| PR1001 | Payment of annual fee |
St.27 status event code: A-4-4-U10-U11-oth-PR1001 Fee payment year number: 4 |
|
| PR1001 | Payment of annual fee |
St.27 status event code: A-4-4-U10-U11-oth-PR1001 Fee payment year number: 5 |
|
| FPAY | Annual fee payment |
Payment date: 20110527 Year of fee payment: 6 |
|
| PR1001 | Payment of annual fee |
St.27 status event code: A-4-4-U10-U11-oth-PR1001 Fee payment year number: 6 |
|
| LAPS | Lapse due to unpaid annual fee | ||
| PC1903 | Unpaid annual fee |
St.27 status event code: A-4-4-U10-U13-oth-PC1903 Not in force date: 20120629 Payment event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE |
|
| PC1903 | Unpaid annual fee |
St.27 status event code: N-4-6-H10-H13-oth-PC1903 Ip right cessation event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE Not in force date: 20120629 |
|
| R18-X000 | Changes to party contact information recorded |
St.27 status event code: A-5-5-R10-R18-oth-X000 |