KR101303877B1

KR101303877B1 - 얼굴 검출과 피부 영역 검출을 적용하여 피부의 선호색변환을 수행하는 방법 및 장치

Info

Publication number: KR101303877B1
Application number: KR1020050071887A
Authority: KR
Inventors: 오현화; 박두식; 김정배; 곽영신; 김창용; 기석철
Original assignee: 삼성전자주식회사
Priority date: 2005-08-05
Filing date: 2005-08-05
Publication date: 2013-09-04
Anticipated expiration: 2025-08-05
Also published as: KR20070016849A; US20070031032A1; US8139854B2

Abstract

본 발명은 얼굴 검출과 피부 영역 검출을 적용하여 피부의 선호색 변환을 수행하는 방법 및 장치에 관한 발명으로서 본 발명의 일 실시예에 따른 얼굴 검출과 피부 영역 검출을 적용하여 피부의 선호색 변환을 수행하는 방법은 입력된 영상에서 얼굴 영역을 검출하는 단계, 상기 입력된 영상에서 피부 영역을 검출하는 단계, 상기 얼굴 영역과 상기 피부 영역의 공통 영역을 얼굴로 판단하는 단계, 상기 판단하는 단계에서 판단한 얼굴에 존재하는 피부색을 참조하여 상기 입력된 영상에서 피부색을 추출하는 단계, 및 상기 추출한 피부색을 영상 적응적 피부색으로 변환하는 단계를 포함한다.

영상, 피부색, 얼굴 검출, 피부 영역 검출, 색상 변환

Description

얼굴 검출과 피부 영역 검출을 적용하여 피부의 선호색 변환을 수행하는 방법 및 장치{Method and apparatus for serving prefer color conversion of skin color applying face detection and skin area detection}

도 1은 본 발명의 일 실시예에 따른 입력 영상에서 피부색을 선호색으로 변환하는 장치의 구성도이다.

도 2는 본 발명의 일 실시예에 따른 피부색 변환부의 구성도이다.

도 3은 본 발명의 일 실시예에 따른 얼굴 영역을 검출하여 선호색으로 변환하는 과정을 보여주는 순서도이다.

도 4는 본 발명의 일 실시예에 따른 영상 적응적 선호 피부색 표현을 위해 색공간상에서 목표색을 재설정하는 과정을 보여주는 예시도이다.

도 5는 본 발명의 다른 실시예에 따른 영상 적응적 선호 피부색 표현을 위해 색공간상에서 목표색을 재설정하는 과정을 보여주는 예시도이다.

도 6은 본 발명의 일 실시예에 따른 목표색 재설정에 따른 색 변환을 보여주는 예시도이다.

도 7은 본 발명의 일 실시예에 따른 피부색을 영상에 적응적으로 변환시키는 영상 장치의 구성도이다.

도 8은 본 발명의 일 실시예에 따른 얼굴 영역과 피부색 영역을 검출하여 실 제 피부색 영역을 추출한 과정을 보여주는 예시도이다.

도 9는 본 발명의 다른 실시예에 따른 얼굴 영역과 피부색 영역을 검출하여 실제 피부색 영역을 추출한 과정을 보여주는 예시도이다.

<도면의 주요 부분에 대한 부호의 설명>

120: 얼굴 검출부 130: 피부 영역 검출부

150: 얼굴 영역 추출부 160: 피부색 변환부

본 발명은 피부색의 변환에 관한 것으로, 보다 상세하게는 얼굴 검출과 피부 영역 검출을 적용하여 피부의 선호색 변환을 수행하는 방법 및 장치에 관한 것이다.

디지털 장치의 발전과 더불어 영상작업은 아날로그에서 디지털로 빠르게 전환되고 있다. 디지털 카메라, 디지털 캠코더 등 디지털 방식으로 촬영하여 영상을 저장하는 장치들이 디지털로 저장된 영상을 인간의 시각적 인지성과 만족성을 충족시킬 수 있도록 하는 연구가 진행중이다.

디지털 카메라와 디지털 캠코더와 같이 영상을 포착하여 저장하는 장치에서 사람의 얼굴 또는 피부의 색인 피부색은 사람의 시선을 가장 먼저 끄는 요소 중의 하나이다. 따라서, 피부색을 적절히 변환하는 것은 디지털 영상 장치의 기능을 향상시키는 요소 중 하나이다. 디지털 영상 장치 외에도, 디지털 영상을 보다 자연스 럽게 변환하는 소프트웨어 또는 하드웨어에 있어서도 피부색의 변환은 중요하다.

그런데, 캡쳐 또는 포착된 영상의 피부색을 자연스러운 피부색으로 변환하기 위해서는 사람의 피부에 해당하는 색에 대해서 피부색을 적용하고, 사람의 피부와 유사한 색을 가지지만 피부는 아닌 배경 또는 다른 사물의 색에 대해서는 변환과정을 거치지 않도록 하는 것이 필요하다.

종래에는 미리 정의된 피부색을 이용하여 피부 영역을 검출하고 색을 변환하는 방법이 제안되었다. 영상에서 룩업 테이블 또는 기준색과 목표색 간의 색변환식을 통해 선호 피부색을 변환할 수 있다. 또한 얼굴에 해당하는 영역에 대해 색변환을 수행하는 방법도 제안되었다. 얼굴 윤곽을 추출하여 이 영역에 대해 색변환을 하는 것이다.

그러나, 피부색의 색상을 찾아서 해당 색상을 선호색으로 변환시에는 배경과 같이 피부가 아닌 색상을 선호색으로 변경하는 경우가 발생한다. 또한 얼굴 윤곽을 추출하여 색변환을 할 경우, 얼굴 영역의 경계부분에서 발생하는 색상 불연속성(color discontinuity)이 발생할 수 있다. 따라서 실제 피부 영역에 존재하는 피부색을 변환하는 방법이 필요하다.

본 발명은 상기한 문제점을 개선하기 위해 안출된 것으로, 본 발명은 입력된 영상의 피부색을 영상에 적응적으로 변환하는 방법과 장치를 제공하는데 목적이 있다.

본 발명의 또다른 목적은 피부색을 판단함에 있어서 얼굴 영역과 피부 영역 두 영역의 공통된 영역을 검출하는 방법을 적용하는 것이다.

본 발명의 목적들은 이상에서 언급한 목적들로 제한되지 않으며, 언급되지 않은 또 다른 목적들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.

본 발명의 일 실시예에 따른 얼굴 검출과 피부 영역 검출을 적용하여 피부의 선호색 변환을 수행하는 방법은 입력된 영상에서 얼굴 영역을 검출하는 단계, 상기 입력된 영상에서 피부 영역을 검출하는 단계, 상기 얼굴 영역과 상기 피부 영역의 공통 영역을 얼굴로 판단하는 단계, 상기 판단하는 단계에서 판단한 얼굴에 존재하는 피부색을 참조하여 상기 입력된 영상에서 피부색을 추출하는 단계, 및 상기 추출한 피부색을 영상 적응적 피부색으로 변환하는 단계를 포함한다.

본 발명의 일 실시예에 따른 영상 장치는 입력된 영상에서 얼굴 영역을 검출하는 얼굴 검출부, 상기 입력된 영상에서 피부 영역을 검출하는 피부 영역 검출부, 상기 얼굴 영역과 상기 피부 영역의 공통 영역을 얼굴로 판단하는 얼굴 영역 추출부, 상기 얼굴 영역 추출부가 판단한 얼굴에 존재하는 피부색을 참조하여 상기 입력된 영상에서 피부색을 추출하고, 상기 추출한 피부색을 영상 적응적 피부색으로 변환하는 피부색 변환부를 포함한다.

기타 실시예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다

이하, 본 발명의 실시예들에 의하여 얼굴 검출과 피부 영역 검출을 적용하여 피부의 선호색 변환을 수행하는 방법 및 장치를 설명하기 위한 블록도 또는 처리 흐름도에 대한 도면들을 참고하여 본 발명에 대해 설명하도록 한다. 이 때, 처리 흐름도 도면들의 각 블록과 흐름도 도면들의 조합들은 컴퓨터 프로그램 인스트럭션들에 의해 수행될 수 있음을 이해할 수 있을 것이다. 이들 컴퓨터 프로그램 인스트럭션들은 범용 컴퓨터, 특수용 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서에 탑재될 수 있으므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서를 통해 수행되는 그 인스트럭션들이 흐름도 블록(들)에서 설명된 기능들을 수행하는 수단을 생성하게 된다. 이들 컴퓨터 프로그램 인스트럭션들은 특정 방식으로 기능을 구현하기 위해 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 지향할 수 있는 컴퓨터 이용 가능 또는 컴퓨터 판독 가능 메모리에 저장되는 것도 가능하므로, 그 컴퓨터 이용가능 또는 컴퓨터 판독 가능 메모리에 저장된 인스트럭션들은 흐름도 블록(들)에서 설명된 기능을 수행하는 인스트럭션 수단을 내포하는 제조 품목을 생산하는 것도 가능하다. 컴퓨터 프로그램 인스트럭션들은 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에 탑제되는 것도 가능하므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에서 일련의 동작 단계들이 수행되어 컴퓨터로 실행되는 프로세스를 생성해서 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 수행하는 인스트럭션들은 흐름도 블록(들)에서 설명된 기능들을 실행하기 위한 단계들을 제공하는 것도 가능하다.

또한, 각 블록은 특정된 논리적 기능(들)을 실행하기 위한 하나 이상의 실행 가능한 인스트럭션들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있다. 또, 몇 가지 대체 실행예들에서는 블록들에서 언급된 기능들이 순서를 벗어나서 발생하는 것도 가능함을 주목해야 한다. 예컨대, 잇달아 도시되어 있는 두 개의 블록들은 사실 실질적으로 동시에 수행되는 것도 가능하고 또는 그 블록들이 때때로 해당하는 기능에 따라 역순으로 수행되는 것도 가능하다.

본 실시예에서 사용되는 '~부'라는 용어, 즉 '~모듈' 또는 '~테이블' 등은 소프트웨어, FPGA(Field Programmable Gate Array) 또는 주문형 반도체(Application Specific Integrated Circuit, ASIC)와 같은 하드웨어 구성요소를 의미하며, 모듈은 어떤 기능들을 수행한다. 그렇지만 모듈은 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. 모듈은 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있 다. 따라서, 일 예로서 모듈은 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들, 및 변수들을 포함한다. 구성요소들과 모듈들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 모듈들로 결합되거나 추가적인 구성요소들과 모듈들로 더 분리될 수 있다. 뿐만 아니라, 구성요소들 및 모듈들은 디바이스 내의 하나 또는 그 이상의 CPU들을 재생시키도록 구현될 수도 있다.

영상 장치(100)에는 디지털 카메라, 디지털 캠코더와 같이 디지털 영상을 처리하는 장치 외에도, TV, DVD 플레이어도 가능하며, 또한 컴퓨터, PDA, 휴대폰, PMP와 같은 영상 재생 장치들도 이에 해당한다. 그리고, 영상을 처리하는 소프트웨어에도 도 1과 같은 구성을 포함할 수 있다.

영상 입력부(110)는 저장된 파일 또는 디지털 카메라나 디지털 캠코더로부터 촬영한 영상을 입력받는다. 입력받은 영상은 얼굴 검출부(120)와 피부 영역 검출부(130)로 입력된다.

얼굴 검출부(120)는 입력 영상으로부터 얼굴을 검출한다. 영상에서 얼굴 영역의 공간적 위치 정보를 출력하는데, 얼굴을 검출하기 위해서 다양한 기법이 적용 가능하다. 일 실시예로 AdaBoost 방법, 신경망 기반 검출 방법(Neural Network based method), 통계적 방법(Statistical Method)이 존재한다. AdaBoost는 분류기(Weak classifier)로 구성된 여러 개의 단계(stage)가 캐스캐이드(cascade) 형태로 연결된 구조이다. 따라서 현 단계에서 검출에 실패하면 그 서브 윈도우(sub-window, 얼굴 후보)를 얼굴이 아닌 영상, 즉 '비 얼굴'로 판별한다. 그리고 현 단계에서 검출에 성공한 서브 윈도우만 다음 단계에 입력되며, 마지막 단계까지 검출에 성공하면 '얼굴'로 판별한다. 정면을 보는 얼굴이 아닌 옆모습 또는 고개를 돌리거나 기울인 얼굴을 판별하기 위해, X, Y, Z축으로 각각 기울어진 얼굴 모습을 이용하여 상기 분류기를 학습할 수 있다. 또한 다양한 크기의 얼굴을 검출하기 위해 윈도우 하나로 얼굴을 검출하는 것보다 XY축에 평행한 서브 윈도우의 크기를 변화시킨 것을 적용할 수 있다.

신경망 기반 검출 방법은 신경망으로 연결된 네트워크는 이미지의 작은 윈도우들을 검사하여 각각의 윈도우가 얼굴을 포함하는지 판단한다. 또한 다중 네트워크들을 조절하여 하나의 네트워크로 결정하는 것보다 높은 성능을 제공할 수 있다. 네가티브 예(negative example)을 추출하여 얼굴을 판명하는데 오류가 난 경우를 이용하여 신경망 회로를 교육시킬 수 있다.

이외에도 통계적 방법을 적용할 수 있다. 통계적 방법은 부분화된 파트(localized parts)의 통계치에 기반한 분류자(classifier)를 적용하여 사물을 인식할 수 있다. 분류자는 각 파트와 이미지를 매칭시킨 결과를 계산하고 해당 분류의 조건에 따라 확률을 구한다. 그리고 유사도(likelihood ratio) 테스트를 통해 인식된 사물에 대해 결정한다. 또한 이미지를 찾기 위해 저해상도에서 고해상도로 단계를 증가시키는 방안을 제시하고 있다.

피부 영역 검출부(130)는 색공간 상에서 사전에 정의된 표준 피부색 모델부 (140)를 이용하여 입력 영상으로부터 피부색에 해당하는 픽셀을 추출한다. 이때 추출되는 결과는 피부 영역에만 한정되지는 않는다. 왜냐하면, 피부색과 일정 범위 내의 오차를 가지는 픽셀을 추출하는 것이므로, 피부색과 유사한 색을 가지는 배경, 또는 다른 이미지의 픽셀 역시 추출할 수 있다.

한편 피부 영역 검출부(130)는 프로세싱의 속도를 향상시키기 위해 입력된 전체 영상이 아니라, 얼굴로 검출된 부분에 대해서 피부 영역을 추출하여, 얼굴로 검출된 영역에서 피부색을 가지는 부분이 어느정도인지를 검토하여 얼굴 영역을 추출하도록 할 수 있다.

얼굴 영역 추출부(150)는 얼굴 검출부(120)에서 판단한 얼굴과 피부 영역 검출부(130)에서 추출한 피부색이 존재하는 영역을 비교하여 공통으로 겹쳐지는 영역을 얼굴 영역으로 판단한다. 공통 영역이 존재한다면 해당 영역이 얼굴 영역인지 검증하는 과정을 더 포함할 수 있다. 즉, 얼굴 영역 내에서 피부색에 해당하는 픽셀이 차지하는 비율, 얼굴 영역의 크기 등에 근거하여 실제 얼굴에 해당하는지 판별하는 과정 등을 포함할 수 있다. 상기 판단 결과 얼굴 영역이 아니면 입력된 영상을 변환 과정 없이 출력할 수 있다.

얼굴 영역 추출부(150)에 판단한 얼굴 영역에 존재하는 피부색은 영상에 사용되는 피부색이라 할 수 있다. 따라서, 얼굴 영역에 존재하는 실제 피부색을 기반으로 하여 영상 전체에 대해 피부색을 변환한다.

피부색 변환부(160)는 얼굴 영역 추출부(150)에서 추출한 실제 피부색 정보를 기반으로 하여, 영상 전체에 대하여 실제 피부색 영역에 해당하는 픽셀을 재검 출하여 선호 피부색으로 변환한다. 즉, 얼굴 영역에 존재하는 피부색이 영상에 존재하는 피부색을 대표하는 것으로 하여, 영상 내에서 다시 해당 피부색을 가지는 픽셀을 재검출 하는 과정으로, 이 결과는 피부 영역 검출부(130)에서 산출한 결과와 다를 수 있다. 피부색 변환부(160)가 피부색을 변환하기 위한 구성요소를 살펴보면 도 2와 같다.

도 2는 본 발명의 일 실시예에 따른 피부색 변환부의 구성도이다. 피부색 변환부는 크게 얼굴영역 피부색 모델링부(161), 피부 픽셀 추출부(162), 추출 픽셀 피부색 변환부(163), 선호 피부색 모델부(164)를 포함한다. 피부색 모델링부(161)는 도 1의 얼굴 영역 추출부(150)에서 검출된 얼굴 영역에 해당하는 픽셀의 색을 입력영상에 존재하는 실제 피부색으로 판단하여 입력 영상의 색공간 상에서 상기 검출된 실제 피부색을 이용하여 피부색 영역을 재 모델링한다.

피부 픽셀 추출부(162)는 재모델링된 피부색 영역에 해당하는 픽셀을 전체 영상에서 추출한다. 얼굴 영역으로 인식된 영역의 색을 피부색으로 하여 이에 해당하는 색들을 영상에서 찾아, 이를 선호색으로 바꾸기 위함이다.

추출 픽셀 피부색 변환부(163)는 피부 픽셀 추출부(162)에서 추출한 피부색을 가지는 픽셀들을 선호 피부색으로 변환한다. 추출 픽셀 피부색 변환부(163)는 영상에서 추출된 실제 피부색 영역에 대한 정보를 바탕으로 하여 변한하고자 하는 목표색상을 영상에 적응적으로 변경하여 색변환에 이용할 수 있다. 색 변환 방법으로는 이차원 또는 3차원 피부색 모델에 기반하여 색을 변환시킬 수 있다. 이때, 두 색간에 매핑하는 함수 또는 색을 변환하기 위한 룩업 테이블(LUT)을 이용하여 가능 하다.

선호 피부색 모델부(164)는 사람의 선호도와 응용 대상 디바이스의 특성을 고려하여 사전에 선정된 색상을 제공한다.

얼굴 영역을 검출한다(S302). 얼굴 영역의 검출을 위해 젠틀 AdaBoost(Gentle AdaBoost)기반 얼굴 검출 방법, 신경망 방법, 통계적 방법 등을 적용할 수 있다. 특히 영상 획득 또는 출력 장치에 적용할 수 있도록 빠른 실행 속도와 낮은 FRR(False Rejection Rate)을 보장하는 것이 필요하다.

그리고 표준 피부색 모델을 기반으로 피부색 영역을 검출한다(S304). 표준 피부색부에서 정의한 피부색에 대한 정보를 바탕으로, 픽셀 중에서 피부색에 해당하는 픽셀을 검출한다. 그리고 S302 과정과 S304 과정에서 검출한 두 영역에서 공통 영역을 찾는다(S310). 얼굴의 윤곽을 가지는 영역 중에서 피부색을 가진다면 얼굴에 해당할 가능성이 높기 때문이다. 마찬가지로, 피부색을 가지는 영역 중에서 얼굴의 윤곽을 가진다면 해당 영역이 얼굴에 해당할 가능성이 높다. 따라서 공통된 영역이 존재한다면 해당 영역을 얼굴로 하여 피부색을 선호색으로 바꾸기 위한 작업을 수행한다. 반면 공통된 영역이 존재하지 않는다면, 피부에 해당하는 영역이 없는 것으로 판단하여 변환없이 입력된 영상을 출력한다(S330).

S310에서 공통된 영역이 존재한다면 해당 영역이 얼굴 영역인지 검증하는 과정을 더 포함할 수 있다(S312). 사각형과 같은 형태로 검출된 얼굴 영역에서 피부 색 이외의 색을 배제하기 위하여, 사각형의 크기와 그 내부에서 피부색에 해당하는 픽셀 개수의 비가 특정 값(Threshold) 이상이면 해당 영역을 실제 얼굴 영역으로 판별하는 과정을 통해 얼굴인지 검증한다. 검증결과 공통 영역이 얼굴이라면(S320) 해당 영역을 얼굴로 하여 피부색을 선호색으로 바꾸기 위한 작업을 수행한다. 반면 공통된 영역이 존재하지 않는다면, 역시 S330 과정으로 진행한다.

S306 과정에서 추출한 공통영역이 얼굴 영역이라면, 해당 영역의 피부색을 바탕으로 모델링을 수행한다(S322). 얼굴 영역의 색상을 피부색으로 간주하여 상기 얼굴 영역의 피부색을 색공간 상에 분포시켜 피부색 모델을 설정할 수 있다. 일 실시예로 2D 타원 형태로 영상 참조 피부색 모델을 설정할 수 있다. 그리고 상기 피부색 모델을 바탕으로 실제 피부 영역을 검출한다(S324). S324 과정은 입력된 영상에서 피부 영역을 추출하는 과정으로, 추출한 피부 영역은 S304 과정에서 추출한 피부 영역과 동일하지 않을 수 있다. 그리고, 추출한 피부색을 가지는 영역을 선호 피부색으로 변환한다(S326). 변환하는 방법의 일 실시예로, MMPE(Moving of Mass Point in Ellipse) 기반으로 2차원의 색변환 방법이 가능하다. 그리고 마지막으로 변환된 피부색으로 재현하여 영상을 출력한다(S328). 변환된 영상은 저장장치에 저장될 수도 있다.

도 4는 본 발명의 일 실시예에 따른 영상 적응적 선호 피부색 표현을 위해 색공간상에서 목표색을 재설정하는 과정을 보여주는 예시도이다. 도 4는 2차원의 색 공간(Cb, Cr)에서 표준 선호 피부색의 영역을 E_SSC로 표현하고 있으며, 입력된 영상의 피부색의 영역을 E_ISC로 표현하고 있다. 입력된 영상의 피부색의 영역은 입력된 영상에서 실제 피부색으로 간주되는 색들의 위치를 310과 같이 색좌표에 나타내고, 해당 좌표들을 모두 포함하는 타원을 생성하는 것을 통해 입력된 영상의 피부색 영역을 표현할 수 있다. 도 4에서는 타원으로 영역을 포함하고 있으나, 이는 일 실시예이며, 타원이 아니라 원, 사각형 등으로도 구현 가능하다. 또한 2차원이 아닌 3차원상의 영역을 피부색의 영역으로 선택할 수 있다.

표준 선호 피부 목표색의 좌표인 P_prf가 E_ISC의 내부에 위치하는 경우를 보여준다. P_prf는 표준 선호 피부 목표색의 중심점이 될 수 있고, 그외에도 타원의 특정 지점, 예를 들어 촛점을 P_prf로 할 수 있다. 한편 입력 영상의 피부색 영역인 E_ISC의 중심점을 P_ref라 할 때, P_ref를 P_prf와의 관계를 바탕으로 최종적으로 색변환의 목표가 되는 좌표인 P_tgt를 계산할 수 있다. P_tgt를 계산하는 식은 수학식 1과 같다.

P_tgt= rP_ref + (1-r) P_prf (0 < r < 1)

수학식 1에서 r의 값을 조절하면 최종 색변환 목표색의 좌표를 구할 수 있다. r의 크기를 0에 가까이 할수록 표준 선호 피부 목표색을 기준으로 변환이 가능하며, r의 크기를 1에 가까이 할수록 입력 영상의 피부색에 유사하게 변환이 이루어진다.

도 5는 본 발명의 다른 실시예에 따른 영상 적응적 선호 피부색 표현을 위해 색공간상에서 목표색을 재설정하는 과정을 보여주는 예시도이다. 도 4의 경우와 달리 P_prf가 E_ISC의 외부에 위치하는 경우를 보여준다.

P_prf가 E_ISC의 외부에 위치하는 경우, P_prf와 P_ref의 거리가 멀어진다. 이때, 목표로 하게 되는 색(P_tgt)을 P_prf에 너무 가까이하게 되면 원래의 색상을 과도하게 왜곡시킬 가능성이 있다. 따라서, 다음과 같은 과정을 거쳐 P_prf와 P_ref의 거리인 d와 P_prf와 P_tgt의 거리인 k를 조절하는 과정이 필요하다.

for i=0; i< N; i++

k=d/N * i

P_tgt=k/d * P_ref + (d-k)/d * P_prf

If (P_tgt ∈ E_ISC) stop

도 4, 5에서 목표로 하게 되는 색인 P_tgt를 구하면 영상 내의 피부색들을 상기 목표색을 기반으로 변환하는 과정이 필요하다. 이때, 모든 피부색들을 P_tgt으로 변환하면 피부색이 부자연스러울 수 있다. 따라서, 피부색과 P_tgt의 비율을 고려하여 도 6과 같이 변환할 수 있다. 이때 고려할 수 있는 것은 영상 내의 좌표(P_ref)와 다른 피부색의 색상과의 비율과 P_tgt의 상대적 위치를 고려하여 변환할 수 있다. P101과 P102를 비교할 때, P_tgt를 기준으로 하였을 때, 위치상의 차이가 존재한다. 따라서 P101과 P102를 동일한 방식으로 변환할 때, 원래의 색상이 가지는 고유의 속성을 왜곡할 수 있으므로, 각기 다른 변환을 적용할 수 있다. 그러나 전체적인 변환의 흐름이 P_ref에서 P_tgt으로 이동할 수 있도록 P_ref에서 P_tgt로 이동하는 비율을 참조하여 변환가능하다.

도 7은 본 발명의 일 실시예에 따른 피부색을 영상에 적응적으로 변환시키는 영상 장치의 구성도이다. 영상 장치(400)의 예로 디지털 카메라, 디지털 캠코더 등이 존재한다. 또한 휴대폰과 같은 디지털 장치에 부착된 디지털 카메라에도 적용 가능하다. 영상 촬영부(410)와 영상 저장부(420)의 구성 외에 다른 요소들에 대한 설명은 도 1의 설명으로 대신하고자 한다.

도 1에서 살펴본 구성에 영상 촬영을 위한 영상 촬영부(410)는 렌즈를 통해 감지된 영상을 영상 저장부(420)에 저장한다. 이 때, 영상 저장부(420)의 영상 정보는 영상 입력부(110)를 통해 피부색을 검출하는 과정을 거친다. 얼굴 검출부(120)와 피부 영역 검출부(130)은 촬영된 영상에서 얼굴과 피부 영역을 검출한다. 얼굴 영역 추출부(150)는 검출된 영역의 공통 영역을 얼굴 영역으로 추출하고 피부색 변환부(160)는 얼굴 영역의 피부색을 바탕으로 전체 영상에서 피부색을 재추출하여 영상에 적응적인 피부색으로 변환한다. 그리고 결과를 영상 저장부(420)에 저장하거나 또는 영상 출력부(170)를 통해 사용자에게 출력한다.

이외에도 영상을 재생하는 DVD, VTR, DTV 역시 입력된 영상에 대해서 피부색을 변환하는 과정을 수행할 수 있다. 이때 영상 재생 장치는 도 7의 영상 촬영부(410) 대신에 DVD 롬, 비디오 테이프, 또는 디지털 방송신호로부터 영상 신호를 수신하는 영상 수신부를 포함할 수 있다. 물론, 영상 입력부(110)가 영상을 수신하는 기능을 함께 제공할 수 있다.

도 8은 본 발명의 일 실시예에 따른 얼굴 영역과 피부색 영역을 검출하여 실제 피부색 영역을 추출한 과정을 보여주는 예시도이다.

입력된 영상(610)에서 얼굴 영역을 검출한 결과는 611이다. 얼굴 영역을 검출하기 위해서, AdaBoost 방법(AdaBoost Method), 신경망 기반 검출 방법(Neural Network based method), 통계적 방법(Statistical Method) 등을 적용할 수 있다. 도 8에서는 AdaBoost 방법을 적용하여, 얼굴 영역을 포함하는 사각형 영역이 얼굴 영역의 검출 결과이다.

입력된 영상(610)에서 표준 피부색 모델부에서 피부색으로 정의한 색상을 가지는 픽셀들을 검사하여 피부색 영역을 추출한 결과는 612이다. 색공간 상에서 사전에 정의된 표준 피부색 모델부를 이용하여 입력 영상으로부터 피부색에 해당하는 픽셀을 추출한다. 이때 추출되는 결과는 612에서 알 수 있듯이 피부 영역에만 한정되지는 않는다. 왜냐하면 피부색으로 정의한 색상을 가지는 픽셀들을 추출하는 것이므로 피부색에 해당하는 색상을 가진다면, 옷이나 배경에 포함된 픽셀도 피부색을 가진 것으로 판단하기 때문이다.

따라서 611에서 얼굴 영역과 612의 피부 영역 부분에 공통된 영역을 얼굴로 판단하여, 얼굴 내에 존재하는 피부색을 실제 피부색으로 판단하여 전체 영상에서 해당 피부색을 가지는 픽셀을 추출한다. 그 결과는 613이다. 실제 피부에 해당하는 영역들이 선택되어 있음을 알 수 있다.

입력된 영상(620)에서 얼굴 영역을 검출한 결과는 621이다. 얼굴 영역을 검출하기 위해서, AdaBoost 방법(AdaBoost Method), 신경망 기반 검출 방법(Neural Network based method), 통계적 방법(Statistical Method)등 다수의 방법이 존재하며 도 9에서는 AdaBoost 방법을 적용하여, 얼굴 영역을 포함하는 사각형 영역이 얼굴 영역의 검출 결과이다.

입력된 영상(620)에서 표준 피부색 모델부에서 피부색으로 정의한 색상을 가지는 픽셀들을 검사하여 피부색 영역을 추출한 결과는 622이다. 색공간 상에서 사전에 정의된 표준 피부색 모델부를 이용하여 입력 영상으로부터 피부색에 해당하는 픽셀을 추출한다. 이때 추출되는 결과는 622에서 알 수 있듯이 피부 영역에만 한정되지는 않고, 배경의 대부분이 피부색을 가지는 것으로 추출되었다. 피부색으로 정의한 색상을 가지는 픽셀들을 추출하는 것이므로 피부색에 해당하는 색상을 가진다면, 옷이나 배경에 포함된 픽셀도 피부색을 가진 것으로 판단하기 때문이다. 따라서 622와 같이 표준 피부색만을 바탕으로 추출할 경우, 배경 부분에 존재하는 색상도 모두 변환될 수 있다.

따라서 621에서 얼굴 영역과 622의 피부 영역 부분에 공통된 영역을 얼굴로 판단하여, 얼굴 내에 존재하는 피부색을 실제 피부색으로 판단하여 전체 영상에서 해당 피부색을 가지는 픽셀을 추출한다. 그 결과는 623이다. 실제 피부에 해당하는 영역들이 선택되어 있음을 알 수 있다. 배경의 피부색은 얼굴의 피부색과 다르기 때문에, 623에서는 실제 피부색을 가지는 영역으로 선택되지 않았다.

본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구의 범위에 의하여 나타내어지며, 특허청구의 범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

본 발명을 구현함으로써 입력된 영상의 피부색을 영상에 적응적으로 변환할 수 있다.

본 발명을 구현함으로써 피부색을 판단하기 위해 얼굴 영역과 피부색 영역의 공통된 영역을 검출하여 영상의 피부색 영역을 판단할 수 있다.

Claims

(a) 입력된 영상에서 얼굴 영역을 검출하는 단계;

(b) 상기 입력된 영상에서 제1 피부 영역을 검출하는 단계;

(c) 상기 얼굴 영역과 상기 제1 피부 영역의 공통 영역을 얼굴로 판단하는 단계;

(d) 상기 (c) 단계에서 판단한 얼굴에 존재하는 피부색을 참조하여 상기 입력된 영상에서 피부색을 추출하는 단계; 및

(e) 상기 추출한 피부색을 영상 적응적 피부색으로 변환하는 단계를 포함하되,

상기 (a) 단계와 상기 (b) 단계는 서로 독립적으로 수행되고,

상기 (e) 단계는 상기 추출한 피부색을 기초로 상기 입력된 영상의 픽셀 중 제2 피부 영역을 검출하는 단계, 및

상기 제2 피부 영역 내의 상기 추출한 피부색을 상기 영상 적응적 피부색으로 변환하는 단계를 포함하되,

상기 제1 피부 영역과 상기 제2 피부 영역은 서로 동일한 영역을 일부 포함하는, 얼굴 검출과 피부 영역 검출을 적용하여 피부의 선호색 변환을 수행하는 방법.
제 1항에 있어서,

상기 (a) 단계는

AdaBoost 방법을 사용하여 얼굴을 검출하는 단계를 포함하는, 얼굴 검출과 피부 영역 검출을 적용하여 피부의 선호색 변환을 수행하는 방법.
제 1항에 있어서,

상기 (b) 단계는

표준 피부색 모델을 참조하여 피부색을 가지는 픽셀을 검출하는 단계를 포함하는, 얼굴 검출과 피부 영역 검출을 적용하여 피부의 선호색 변환을 수행하는 방법.
제 1항에 있어서,

상기 (c) 단계는

상기 (a) 단계에서 추출한 얼굴 영역에서 상기 피부색을 가지는 영역이 존재하는지 검토하여 상기 얼굴 영역을 공통 영역으로 추출하는 단계; 및

상기 공통 영역 내에서 피부색에 해당하는 픽셀이 차지하는 비율을 계산하여 상기 계산한 결과가 일정 크기 이상인 경우 상기 공통 영역을 얼굴로 판단하는 단계를 포함하는, 얼굴 검출과 피부 영역 검출을 적용하여 피부의 선호색 변환을 수행하는 방법.
제 1항에 있어서,

상기 (d) 단계는

상기 (c) 단계에서 판단한 얼굴의 피부색을 바탕으로 모델링 하는 단계;

상기 모델링한 결과를 토대로 상기 입력된 영상에서 제3 피부 영역을 검출하는 단계; 및

상기 제3 피부 영역에 존재하는 피부색을 추출하는 단계를 포함하는, 얼굴 검출과 피부 영역 검출을 적용하여 피부의 선호색 변환을 수행하는 방법.
제 1항에 있어서,

상기 (e) 단계는

상기 (d) 단계에서 추출한 피부색을 색 영역에 분포시키는 단계;

표준 색 영역의 기준점과 상기 색 영역의 기준점을 구하여 상기 색 영역에 분포한 피부색을 변환하는 목표점을 산출하는 단계; 및

상기 산출된 목표점을 기준으로 상기 피부색을 변환하는 단계를 포함하는, 얼굴 검출과 피부 영역 검출을 적용하여 피부의 선호색 변환을 수행하는 방법.
입력된 영상에서 얼굴 영역을 검출하는 얼굴 검출부;

상기 입력된 영상에서 제1 피부 영역을 검출하는 피부 영역 검출부;

상기 얼굴 영역과 상기 제1 피부 영역의 공통 영역을 얼굴로 판단하는 얼굴 영역 추출부;

상기 얼굴 영역 추출부가 판단한 얼굴에 존재하는 피부색을 참조하여 상기 입력된 영상에서 피부색을 추출하고, 상기 추출한 피부색을 영상 적응적 피부색으로 변환하는 피부색 변환부를 포함하되,

상기 얼굴 검출부와 상기 피부 영역 검출부는 서로 독립적으로 동작하고,

상기 피부색 변환부는, 상기 추출한 피부색을 기초로 상기 입력된 영상의 픽셀 중 제2 피부 영역을 검출하고,

상기 피부색 변환부는 상기 제2 피부 영역 내의 상기 추출한 피부색을 상기 영상 적응적 피부색으로 변환하고,

상기 제1 피부 영역과 상기 제2 피부 영역은 서로 동일한 영역을 일부 포함하는, 영상 장치.
제 7항에 있어서,

상기 얼굴 검출부는

AdaBoost 방법을 사용하여 얼굴을 검출하는, 영상 장치.
제 7항에 있어서,

상기 피부 영역 검출부는

표준 피부색 모델을 참조하여 피부색을 가지는 픽셀을 검출하는, 영상 장치.
제 7항에 있어서,

상기 얼굴 영역 추출부는 상기 얼굴 검출부가 추출한 얼굴 영역에서 피부색을 가지는 영역을 추출하여, 상기 얼굴 영역의 특정 범위 이상 상기 피부색을 가지는 영역이 존재하는지 검토하여 상기 얼굴 영역을 공통 영역으로 추출하는, 영상 장치.
제 7항에 있어서,

상기 얼굴 영역 추출부는,

상기 검출된 얼굴 영역 내에서 피부색에 해당하는 픽셀이 차지하는 비율을 계산하여 상기 계산한 결과가 일정 크기 이상인 경우 상기 공통된 영역을 얼굴로 판단하는, 영상 장치.
제 7항에 있어서,

상기 피부색 변환부는

상기 얼굴 영역 추출부가 판단한 얼굴의 피부색을 바탕으로 모델링 하는 얼굴 영역 피부색 모델링부;

상기 모델링한 결과를 토대로 상기 입력된 영상에서 제3 피부 영역을 검출하여, 상기 제3 피부 영역에 존재하는 피부색을 추출하는 피부 픽셀 추출부를 포함하는, 영상 장치.
제 7항에 있어서,

상기 피부색 변환부는 상기 추출한 피부색을 색 영역에 분포시키는 선호 피부색 모델링부; 및

표준 색 영역의 기준점과 상기 색 영역의 기준점을 구하여 상기 색 영역에 분포한 피부색을 변환하는 목표점을 산출하고, 상기 산출된 목표점을 기준으로 상기 피부색을 변환하는 추출 픽셀 피부색 변환부를 포함하는, 영상 장치.
제 7항에 있어서,

상기 변환된 피부색을 포함하는 영상을 저장하는 저장부를 더 포함하는, 영상 장치.
제 7항에 있어서,

상기 변환된 피부색을 포함하는 영상을 출력하는 출력부를 더 포함하는, 영상 장치.
제 7항에 있어서,

상기 영상 장치는 디지털 영상을 촬영하는 장치인, 영상 장치.
제 7항에 있어서,

상기 영상 장치는 디지털 영상을 재생하는 장치인, 영상 장치.