KR20180109634A

KR20180109634A - 얼굴 인증 방법 및 장치

Info

Publication number: KR20180109634A
Application number: KR1020170071331A
Authority: KR
Inventors: 한승주; 고민수; 김덕상; 최창규; 한재준
Original assignee: 삼성전자주식회사
Priority date: 2017-03-28
Filing date: 2017-06-08
Publication date: 2018-10-08
Anticipated expiration: 2037-06-08
Also published as: KR102359558B1; US12087087B2; US20190332851A1; JP2018165980A; JP7046625B2; US11163982B2; US20220044009A1

Abstract

얼굴 인증 방법 및 장치가 개시된다. 일 실시예에 따른 얼굴 인증 방법은 입력 얼굴이 나타난 입력 영상에서 얼굴 영역을 검출하는 단계, 마스킹 영역에 기초하여 얼굴 영상과 기준 영상을 합성하는 것에 의해 합성 영상을 생성하는 단계, 얼굴 영상과 합성 영상에 기초하여 입력 얼굴에 대응하는 얼굴 특징을 결정하는 단계 및 결정된 얼굴 특징에 기초하여 인증 성공 여부를 결정하는 단계를 포함한다.

Description

얼굴 인증 방법 및 장치{FACE VERIFYING METHOD AND APPARATUS}

아래의 설명은 얼굴 인증 기술에 관한 것이다.

생체 인증 기술 중 하나인 얼굴 인증 기술은 정지 영상이나 동영상에 나타난 얼굴에 기초하여 사용자가 정당한 사용자인지 여부를 결정하는 인증 기술이다. 얼굴 인증 기술은 인증 대상자를 비접촉식으로 확인이 가능하다는 장점을 가지고 있다.

일 실시예에 따른 얼굴 인증 방법은, 입력 얼굴이 나타난 입력 영상에서 얼굴 영역을 검출하는 단계; 마스킹 영역에 기초하여 상기 얼굴 영역을 나타내는 얼굴 영상과 기준 영상을 합성하는 것에 의해 합성 영상을 생성하는 단계; 상기 얼굴 영상과 상기 합성 영상에 기초하여 상기 입력 얼굴에 대응하는 얼굴 특징을 결정하는 단계; 및 상기 결정된 얼굴 특징에 기초하여 인증 성공 여부를 결정하는 단계를 포함할 수 있다.

일 실시예에 따른 얼굴 인증 방법에서, 상기 합성 영상을 생성하는 단계는, 상기 기준 영상에서 상기 마스킹 영역에 대응하는 대응 영역의 영상 정보와 상기 얼굴 영상에서 상기 마스킹 영역을 제외한 나머지 영역의 영상 정보를 합성하는 것에 의해 상기 합성 영상을 생성할 수 있다.

일 실시예에 따른 얼굴 인증 방법에서, 상기 합성 영상을 생성하는 단계는, 상기 얼굴 영상에서 미리 정의된 마스킹 영역의 영상 정보를 상기 기준 영상의 영상 정보로 대체하는 것에 의해 상기 합성 영상을 생성할 수 있다.

일 실시예에 따른 얼굴 인증 방법에서, 상기 합성 영상을 생성하는 단계는, 상기 얼굴 영역에서 폐색 영역을 검출하고, 상기 폐색 영역의 타입을 결정하는 단계; 및 상기 얼굴 영상에서 상기 폐색 영역의 타입에 대응하는 마스킹 영역을 상기 기준 영상의 영상 정보로 대체하는 것에 의해 상기 합성 영상을 생성하는 단계를 포함할 수 있다.

일 실시예에 따른 얼굴 인증 방법에서, 상기 얼굴 특징을 결정하는 단계는, 뉴럴 네트워크 모델 기반의 특징 추출기를 이용하여 상기 얼굴 영상과 상기 합성 영상으로부터 상기 얼굴 특징을 획득하는 단계를 포함할 수 있다.

일 실시예에 따른 얼굴 인증 방법에서, 상기 얼굴 특징을 결정하는 단계는, 상기 얼굴 영상과 상기 기준 영상 간의 제1 차분 영상으로부터 제1 얼굴 특징을 결정하는 단계; 상기 합성 영상과 상기 기준 영상 간의 제2 차분 영상으로부터 제2 얼굴 특징을 결정하는 단계; 및 상기 제1 얼굴 특징 및 상기 제2 얼굴 특징에 기초하여 상기 입력 얼굴에 대응하는 상기 얼굴 특징을 결정하는 단계를 포함할 수 있다.

일 실시예에 따른 얼굴 인증 방법은, 얼굴 영상에서 폐색 영역이 존재할 가능성이 있는 영역을 다른 데이터로 대체하는 것에 의해 합성 영상을 생성하는 단계; 뉴럴 네트워크 모델을 이용하여 상기 얼굴 영상 및 상기 합성 영상으로부터 특징을 추출하는 단계; 및 상기 추출된 특징과 등록된 사용자 얼굴의 특징을 비교하여 인증 성공 여부를 결정하는 단계를 포함할 수 있다.

일 실시예에 따른 얼굴 인증 장치는, 프로세서를 포함하고, 상기 프로세서는, 입력 얼굴이 나타난 입력 영상에서 얼굴 영역을 검출하고, 마스킹 영역에 기초하여 상기 얼굴 영역을 나타내는 얼굴 영상과 기준 영상을 합성하는 것에 의해 합성 영상을 생성하고, 상기 얼굴 영상과 상기 합성 영상에 기초하여 상기 입력 얼굴에 대응하는 얼굴 특징을 결정하고, 상기 결정된 얼굴 특징에 기초하여 인증 성공 여부를 결정할 수 있다.

일 실시예에 따른 얼굴 인증 장치에서, 상기 프로세서는, 상기 기준 영상에서 상기 마스킹 영역에 대응하는 대응 영역의 영상 정보와 상기 얼굴 영상에서 상기 마스킹 영역을 제외한 나머지 영역의 영상 정보를 합성하는 것에 의해 상기 합성 영상을 생성할 수 있다.

일 실시예에 따른 컴퓨팅 장치는, 얼굴 영상을 획득하는 카메라; 및 상기 얼굴 영상에서 폐색 영역이 존재할 가능성이 있는 영역을 다른 데이터로 대체하는 것에 의해 합성 영상을 생성하고, 뉴럴 네트워크 모델을 이용하여 상기 얼굴 영상 및 상기 합성 영상으로부터 특징을 추출하고, 상기 추출된 특징과 등록된 사용자 얼굴의 특징을 비교하여 인증 성공 여부를 결정하는 프로세서를 포함할 수 있다.

도 1은 일 실시예에 따른 얼굴 인증을 설명하기 위한 도면이다.
도 2는 일 실시예에 따른 얼굴 인증 방법을 설명하기 위한 흐름도이다.
도 3은 다른 실시예에 따른 합성 영상의 생성 과정을 설명하기 위한 흐름도이다.
도 4a 내지 도 4d는 일 실시예에 따른 얼굴 등록 과정과 얼굴 인증 과정의 일례들을 설명하기 위한 도면들이다.
도 5는 일 실시예에 따른 합성 영상의 일례들을 도시하는 도면이다.
도 6a 내지 도 6d는 일 실시예에 따른 얼굴 특징을 결정하는 과정의 일례들을 설명하기 위한 도면들이다.
도 7은 일 실시예에 따른 얼굴 인증 장치의 구성을 도시하는 도면이다.
도 8은 일 실시예에 따른 컴퓨팅 장치의 구성을 도시하는 도면이다.
도 9는 일 실시예에 따른 학습 장치의 구성을 도시하는 도면이다.

실시예들에 대한 특정한 구조적 또는 기능적 설명들은 단지 예시를 위한 목적으로 개시된 것으로서, 다양한 형태로 변경되어 실시될 수 있다. 따라서, 실시예들은 특정한 개시 형태로 한정되는 것이 아니며, 본 명세서의 범위는 기술적 사상에 포함되는 변경, 균등물, 또는 대체물을 포함한다.

제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 해석되어야 한다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다. 또한, 어떤 구성요소가 다른 구성요소에 "연결되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다.

단수의 표현은 달리 명시되지 않는 한 일반적으로 "하나 이상의"를 의미하는 것으로 해석되어야 한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 설명된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

또한, 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.

이하, 실시예들을 첨부된 도면들을 참조하여 상세하게 설명한다. 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고, 이에 대한 중복되는 설명은 생략하기로 한다.

도 1은 일 실시예에 따른 얼굴 인증을 설명하기 위한 도면이다.

얼굴 인증(face verification)은 인증을 시도한 사용자의 얼굴에 기초하여 해당 사용자가 유효한(valid) 사용자인지 여부를 판단하는 인증 방법이다. 얼굴 인증은 예를 들어, 사용자 로그인, 결제 서비스 또는 출입 통제 등에서 유효한 사용자를 인증하는데 이용될 수 있다. 도 1을 참조하면, 얼굴 인증을 수행하는 장치인 얼굴 인증 장치는 컴퓨팅 장치(120)에 포함되어 동작할 수 있다. 컴퓨팅 장치(120)는 예를 들어, 스마트폰, 웨어러블 기기(wearable device), 태블릿 컴퓨터, 넷북, 랩탑, 데스크탑, PDA(personal digital assistant), 셋탑 박스, 가전 기기, 생체 도어락, 보안 장치 또는 차량 시동 장치일 수 있다.

컴퓨팅 장치(120)는 얼굴 인증을 통해 컴퓨팅 장치(120)에 액세스하려는 사용자(110)에 대한 인증 과정을 수행한다. 예를 들어, 사용자(110)가 컴퓨팅 장치(120)의 잠금 상태를 해제하고자 컴퓨팅 장치(120)에 얼굴 인증을 시도하는 경우, 컴퓨팅 장치(120)는 카메라(130)와 같은 영상 획득 장치를 이용하여 사용자(110)의 얼굴 영상을 획득하고, 획득된 얼굴 영상을 분석하여 잠금 상태를 해제할지 여부를 결정할 수 있다.

일 실시예에서, 컴퓨팅 장치(120)는 특징 추출기를 이용하여 얼굴 영상으로부터 얼굴 특징을 추출하고, 추출된 얼굴 특징과 얼굴 등록 절차에서 등록된 등록 특징 간의 비교 결과에 기초하여 얼굴 인증의 성공 여부를 결정할 수 있다. 특징 추출기는 입력된 정보에 기초하여 특징 정보(예를 들어, 특징 벡터 값 또는 확률 값)를 출력하는 모델로서, 일례로 학습 데이터(training data)에 의해 학습된 뉴럴 네트워크 모델일 수 있다. 일 실시예에서, 뉴럴 네트워크 모델은 단일 뉴럴 네트워크 모델일 수 있다. 얼굴 인증이 성공한 경우, 사용자(110)는 컴퓨팅 장치(120)의 잠금 상태를 성공적으로 해제시킬 수 있다. 반대로, 얼굴 인증이 실패한 경우, 사용자(110)는 컴퓨팅 장치(120)의 잠금 상태를 해제시킬 수 없고, 컴퓨팅 장치(120)는 계속 잠금 상태에서 동작한다.

얼굴 인증을 시도하기 위해, 사용자(110)는 카메라(130)를 통해 자신의 얼굴을 촬영한다. 이 때, 도면에 도시된 실시예와 같이, 사용자(110)가 안경(115)을 착용한 경우, 안경(115)은 얼굴 인증의 정확한 판단을 어렵게 하는 방해물이 될 수 있다. 다른 경우에 있어, 사용자(110)가 선글라스, 마스크 또는 모자를 착용한 경우, 이들도 얼굴 인증의 정확한 판단을 어렵게 만드는 요인이 될 수 있다. 안경(115), 선글라스, 마스크 또는 모자 등으로 인하여 얼굴이 가려진 폐색 영역(occlusion region)은 사용자(110)를 식별하기 위한 고유한 특징을 포함하고 있지 않기 때문이다. 안경(115), 선글라스, 마스크 또는 모자 등의 착용 여부뿐만 아니라 이들의 종류 및 형태도 얼굴 인증 결과에 영향을 줄 수 있다.

예를 들어, 사용자(110)가 안경(115)을 착용하지 않은 상태에서 얼굴 등록 절차를 수행한 이후에, 사용자(110)가 안경(115)을 착용하고 얼굴 인증을 시도하면, 안경(115)의 존재에 의해 오거부(false rejection)가 발생할 가능성이 존재한다. 안경(115)은 얼굴 등록 절차에서 등록 특징을 결정하는데 반영되지 않았기 때문이다. 반대로, 사용자(110)가 안경(115)을 착용한 상태에서 얼굴 등록 절차를 수행한 이후에, 사용자(110)가 안경(115)을 걸치지 않은 상태에서 얼굴 인증을 시도하면, 안경(115)의 부존재에 의해 오거부가 발생할 가능성이 있다. 이하에서 설명될 실시예들은 안경(115) 등과 같은 얼굴 가림 요소에 강인하게 또는 얼굴 가림 요소에 덜 민감하게 얼굴 인증을 수행하여 얼굴 인증의 인식률을 향상시키는 솔루션을 제안한다.

도 2는 일 실시예에 따른 얼굴 인증 방법을 설명하기 위한 흐름도이다.

도 2를 참조하면, 단계(210)에서 얼굴 인증 장치는 입력 영상을 수신한다. 입력 영상은 얼굴 인증 장치에 입력되는 영상으로, 얼굴 인증의 대상이 되는 입력 얼굴이 나타난 영상이다. 입력 영상은 예를 들어, 디지털 스틸 카메라, 비디오 카메라와 같은 영상 획득 장치에 의해 획득된다.

도면에는 도시되어 있지 않지만, 실시예에 따라 얼굴 인증 장치는 수신한 입력 영상에 대해 영상 전처리를 수행할 수 있다. 영상 전처리 과정은 입력 영상을 얼굴 인증에 보다 적합한 형태로 처리하는 하나 이상의 과정을 포함한다. 예를 들어, 전처리 과정은 입력 영상의 크기를 조정하는 과정, 입력 영상을 회전하는 과정, 입력 영상에 포함된 노이즈를 제거하는 과정, 입력 영상의 컨트라스트(contrast)를 증가시키는 과정, 입력 영상에 포함된 블러(blur)를 제거하는 디블러링(deblurring) 과정, 배경 영역(background region)을 제거하는 과정, 입력 영상에 포함된 왜곡(distortion)을 보정하는 와핑(warping) 과정, 입력 영상에서 특정 영역을 크롭핑(cropping)하는 과정 또는 입력 영상을 이진화(binarization)하는 과정 등을 포함할 수 있다. 영상 전처리가 수행되는 경우, 이하의 '입력 영상'은 '영상 전처리가 수행된 입력 영상'으로 대체될 수 있다.

단계(220)에서, 얼굴 인증 장치는 입력 영상에서 얼굴 영역을 검출한다. 예를 들어, 얼굴 인증 장치는 Haar 기반의 캐스케이드 에이다부스트 분류기(Haar-based cascade adaboost classifier) 또는 Viola-Jones 검출기 등을 이용하여 얼굴 영역을 검출할 수 있다. 다만, 실시예의 범위가 이에 한정되는 것은 아니고, 얼굴 인증 장치는 다양한 얼굴 영역 검출 기법을 이용하여 얼굴 영역을 검출할 수 있다.

단계(230)에서, 얼굴 인증 장치는 마스킹 영역(masking region)에 기초하여 얼굴 영역을 나타내는 얼굴 영상과 기준 영상을 합성하는 것에 의해 합성 영상을 생성한다. 마스킹 영역은 얼굴 영상에서 기준 영상의 영상 정보에 의해 대체되는 영역으로, 얼굴 영상에 존재할지 모르는 얼굴 가림 요소에 의한 영향을 줄이기 위하여 지정되는 영역이다. 일 실시예에서, 얼굴 인증 장치는 기준 영상에서 마스킹 영역에 대응하는 대응 영역의 영상 정보와 얼굴 영상에서 해당 마스킹 영역을 제외한 나머지 영역의 영상 정보를 합성하는 것에 의해 합성 영상을 생성할 수 있다. 이에 따라, 합성 영상에서 마스킹 영역에 해당하는 영역은 기준 영상의 영상 정보를 나타내고, 마스킹 영역을 제외한 다른 영역은 얼굴 영상의 영상 정보를 나타낸다. 영상 정보는 영상 픽셀의 픽셀 값(예를 들어, 컬러 값 또는 밝기 값)을 나타낸다. 이와 같이, 합성 영상은 입력되는 얼굴 영상과 다른 데이터를 조합하는 것, 예를 들어 얼굴 영상에서 폐색 영역이 존재할 가능성이 있는 영역을 다른 데이터로 대체하는 것에 의해 생성될 수 있다. 폐색 영역이 존재할 가능성이 있는 영역은, 예를 들어 안경, 선글라스, 모자 또는 마스크가 존재할 가능성이 있는 영역이다. 얼굴 인증 장치는 얼굴 영상에 폐색 영역이 실제로 존재하는지 여부를 판단하지 않고 합성 영상을 생성한다.

일 실시예에서, 마스킹 영역의 위치 및 형태는 얼굴 인증 결과에 대한 영향을 줄이고자 하는 얼굴 가림 요소(또는, 폐색이 존재할 가능성이 있는 영역)의 타입에 따라 미리 정의될 수 있다. 예를 들어, 얼굴 인증에서 안경(또는 선글라스)에 의한 영향을 줄이고자 하는 경우라면, 얼굴 영역에서 검출된 눈의 위치에 기초하여 마스킹 영역의 위치가 결정(안경 또는 선글라스가 존재할 것이라고 추정되는 위치로 결정)되고, 해당 마스킹 영역은 안경(또는 선글라스)과 유사한 형태를 가질 수 있다. 다른 예로, 얼굴 인증에서 마스크에 의한 영향을 줄이고자 하는 경우라면, 얼굴 영역에서 검출된 입이나 코의 위치에 기초하여 마스킹 영역의 위치가 결정(마스크가 존재할 것이라고 추정되는 위치로 결정)되고, 해당 마스킹 영역은 마스크와 유사한 형태를 가질 수 있다. 또 다른 예로, 얼굴 인증에서 모자에 의한 영향을 줄이고자 하는 경우라면, 얼굴 영역에서 검출된 눈이나 눈썹의 위치에 기초하여 마스킹 영역의 위치가 결정(모자가 존재할 것이라고 추정되는 위치로 결정)되고, 해당 마스킹 영역은 얼굴 영역에 나타날 모자의 형태와 유사한 형태를 가질 수 있다. 얼굴 인증 장치는 얼굴 영상에서 미리 정의된 마스킹 영역의 영상 정보를 기준 영상의 영상 정보로 대체하는 것에 의해 합성 영상을 생성할 수 있다. 본 실시예에서는, 얼굴 영역에 실제로 얼굴 가림 요소에 의한 폐색 영역이 존재하지 않더라도 검출된 눈, 눈썹, 코, 입, 턱, 귀, 헤어, 얼굴 윤곽 또는 다른 특징에 기초하여 미리 정의된 마스킹 영역을 다른 데이터, 예를 들어 기준 영상의 영상 정보로 대체함으로써 합성 영상이 생성된다.

실시예에 따라, 마스킹 영역은 복수 개(예를 들어, 안경에 대응하는 마스킹 영역과 모자에 대응하는 마스킹 영역)가 존재할 수도 있다. 이 경우, 얼굴 영상에서 마스킹 영역들은 기준 영상에서 대응하는 대응 영역들의 영상 정보로 대체된다.

다른 실시예에 따르면, 마스킹 영역의 위치 및 형태는 얼굴 영역에서 검출된 폐색 영역의 타입에 의해 결정될 수도 있다. 이에 대해서는 도 3을 참조하여 아래에서 자세히 설명한다.

기준 영상은 합성 영상을 생성하는데 이용되는 미리 정의된 영상이다. 얼굴 등록 과정에서도 위 기준 영상이 얼굴 등록을 위한 합성 영상을 생성하는데 이용된다. 일 실시예에서, 기준 영상은 특징 추출기를 학습시키는데 이용되는 학습 영상들에 기초하여 결정될 수 있다. 예를 들어, 기준 영상은 학습 영상들의 평균 영상 또는 평균 값 영상일 수 있다. 평균 영상은 학습 영상들 사이에서 서로 대응되는 위치에서 가지는 픽셀 값들을 평균하는 것에 의해 생성될 수 있다. 평균 값 영상은 학습 영상들에 포함된 전체 픽셀의 픽셀 값들을 평균하고, 평균 픽셀 값을 전체 픽셀들에 할당하는 것에 의해 생성될 수 있다. 평균 영상에서는 각 픽셀 위치에 따라 픽셀 값이 달라질 수 있어 형태가 나타날 수 있지만, 평균 값 영상에서는 전체 픽셀들이 모두 동일한 픽셀 값을 가지므로 형태가 나타나지 않는다. 다만, 기준 영상의 예가 위 실시예에 한정되지 않으며, 기준 영상의 형태는 다양할 수 있다. 예를 들어, 기준 영상은 학습 영상에 관계 없이 전체 영역에서 동일한 컬러를 가지는 영상일 수 있다.

단계(240)에서, 얼굴 인증 장치는 얼굴 영상과 합성 영상에 기초하여 입력 얼굴에 대응하는 얼굴 특징을 결정한다. 얼굴 인증 장치는 뉴럴 네트워크 모델 기반의 특징 추출기를 이용하여 얼굴 영상과 합성 영상으로부터 사용자의 얼굴에 대응하는 특징을 추출한다. 특징 추출기는 입력 정보에 대응하는 특징 값을 얼굴 특징으로서 출력할 수 있다. 일 실시예에서, 특징 추출기에는 얼굴 영상과 기준 영상 간의 제1 차분 영상(difference image)의 영상 정보와 합성 영상과 기준 영상 간의 제2 차분 영상의 영상 정보가 입력될 수 있다. 제1 차분 영상은 얼굴 영상의 각 픽셀 값에서 기준 영상의 대응되는 위치의 픽셀 값을 빼는 것에 의해 생성될 수 있고, 제2 차분 영상은 합성 영상의 각 픽셀 값에서 기준 영상의 대응되는 위치의 픽셀 값을 빼는 것에 의해 생성될 수 있다. 다른 실시예에서, 제1 차분 영상의 영상 정보와 제2 차분 영상의 영상 정보는 서로 다른 특징 추출기들에 입력될 수 있고, 각 특징 추출기들로부터 출력된 제1 얼굴 특징과 제2 얼굴 특징에 기초하여 입력 얼굴에 대응하는 얼굴 특징이 결정될 수 있다. 특징 추출기는 얼굴 인증 과정 이전에 미리 학습될 수 있다. 특징 추출기의 학습에 대해서는 도 9에서 나중에 보다 상세히 설명한다.

단계(250)에서, 얼굴 인증 장치는 결정된 얼굴 특징에 기초하여 인증 성공 여부를 결정한다. 얼굴 인증 장치는 단계(240)에서 결정된 얼굴 특징과 등록 특징(등록된 사용자 얼굴의 특징) 간의 비교 결과에 기초하여 인증 성공 여부를 결정한다. 얼굴 인증 장치는 결정된 얼굴 특징과 등록 특징 간의 유사도를 결정하고, 유사도에 기초하여 입력 얼굴에 나타난 사용자가 유효한 사용자인지 여부를 결정할 수 있다. 얼굴 특징과 등록 특징 간의 차이가 클수록 유사도는 작아지고, 해당 차이가 작을수록 유사도는 커질 수 있다. 일 예에서, 얼굴 인증 장치는 유사도가 임계 값보다 큰 경우에 인증이 성공한 것으로 결정하고, 유사도가 임계 값 이하인 경우에는 인증이 실패한 것으로 결정한다.

등록 특징은 얼굴 등록 과정에서 등록된 유효한 사용자에 대한 얼굴 특징을 나타낸다. 얼굴 등록 과정에서, 등록할 얼굴이 나타난 등록 영상에서 미리 정의된 마스킹 영역을 기준 영상의 영상 정보로 대체하는 것에 의해 합성 영상이 생성되고, 생성된 합성 영상과 등록 영상에 기초하여 등록 특징이 결정될 수 있다. 등록 특징이 결정되는 과정은 단계(220) 내지 단계(240)에서 얼굴 특징이 결정되는 과정과 유사하다. 단지, 얼굴 등록 과정에서는 단계(220) 내지 단계(240)에서의 '입력 영상'이 '등록 영상'으로 바뀔 뿐이다. 일 실시예에서, 등록 특징은 마스킹 영역의 각 타입들에 대응되는 등록 특징들을 포함할 수 있다. 예를 들어, 안경, 선글라스, 마스크 및 모자 각각의 타입에 대응하는 등록 특징들이 존재할 수 있다.

위와 같이, 마스킹 영역에 기초하여 합성 영상을 생성하고, 합성 영상과 얼굴 영상에 기초하여 얼굴 인증을 수행하는 것에 의해, 얼굴 가림 요소에 의한 폐색 영역이 얼굴 인증의 결과에 미치는 영향을 줄일 수 있다. 이에 따라, 얼굴 가림 요소의 존재 여부 및 얼굴 가림 요소의 형태/위치에 따라 얼굴 인증의 정확도가 저하되는 것이 방지될 수 있다.

도 3은 다른 실시예에 따른 합성 영상의 생성 과정을 설명하기 위한 흐름도이다.

실시예에 따라, 얼굴 인증 장치는 얼굴 영역의 폐색 영역의 존재 여부를 검출하고, 폐색 영역의 타입에 대응하는 마스킹 영역에 기초하여 얼굴 영상과 기준 영상 간의 합성 영상을 생성할 수도 있다. 해당 과정을 이하에서 설명한다.

도 3을 참조하면, 단계(310)에서 얼굴 인증 장치는 검출된 얼굴 영역에서 얼굴의 랜드마크들을 검출한다. 얼굴 인증 장치는 예를 들어, ACM(Active Contour Model), ASM(Active Shape Model), AAM(Active Appearance model), SDM(Supervised Descent Method) 또는 뉴럴 네트워크 모델 등에 기초한 랜드마크 검출 기법을 이용하여 얼굴 영역에서 얼굴의 랜드마크들을 검출할 수 있다. 얼굴의 랜드마크들은 주요 얼굴 부위에 대한 특징점들로서, 예를 들어 눈썹, 눈, 코, 입, 턱, 귀, 헤어 또는 얼굴의 윤곽 등을 식별하기 위한 특징점들이다.

단계(320)에서, 얼굴 인증 장치는 랜드마크들의 검출 결과에 기초하여 얼굴 영역에서 폐색 영역을 검출하고, 폐색 영역의 타입을 결정한다. 예를 들어, 얼굴 영역에서 눈 주변 영역 (눈썹 등)의 랜드마크가 검출되지 않은 경우, 폐색 영역의 타입이 안경인 것으로 결정될 수 있다. 또한, 눈 영역의 랜드마크가 검출되지 않은 경우에는 폐색 영역의 타입이 선글라스이고, 입과 입 주변 및/또는 코 끝 영역의 랜드마크가 검출되지 않은 경우에는 폐색 영역의 타입이 마스크인 것으로 결정될 수 있다. 또는, 헤어 영역에 대응하는 랜드마크가 검출되지 않은 경우, 폐색 영역의 타입은 모자인 것으로 결정될 수 있다.

얼굴 영역에서 폐색 영역이 검출되지 않은 경우, 도 2에서 설명한 것과 같이 미리 정의된 마스킹 영역에 기초하여 합성 영상이 생성될 수 있다.

단계(330)에서, 얼굴 인증 장치는 결정된 폐색 영역의 타입에 기초하여 얼굴 영상과 기준 영상 간의 합성 영상을 생성한다. 얼굴 인증 장치는 얼굴 영상에서 폐색 영역의 타입에 대응하는 마스킹 영역을 기준 영상의 영상 정보로 대체하는 것에 의해 합성 영상을 생성할 수 있다. 예를 들어, 폐색 영역의 타입이 안경이라고 결정된 경우, 얼굴 인증 장치는 얼굴 영상에서 안경에 대응하는 마스킹 영역을 기준 영상의 영상 정보로 대체하는 것에 의해 합성 영상을 생성할 수 있다. 다른 예로, 폐색 영역의 타입이 마스크라고 결정된 경우, 얼굴 인증 장치는 얼굴 영상에서 마스크에 대응하는 마스킹 영역을 기준 영상의 영상 정보로 대체하는 것에 의해 합성 영상을 생성할 수 있다.

도 4a 내지 도 4d는 일 실시예에 따른 얼굴 등록 과정과 얼굴 인증 과정의 일례들을 설명하기 위한 도면들이다.

도 4a를 참조하면, 얼굴 등록 과정(410)에서 등록된 사용자 얼굴의 특징은 폐색 영역을 포함하지 않는 얼굴 영상에 기초하여 추출되고, 얼굴 인증 과정(450)에서 얼굴 인증을 위해 추출되는 특징은 폐색 영역을 포함하는 얼굴 영상에서 기초하여 추출되는 실시예가 도시된다. 예를 들어, 얼굴 등록 과정(410)에서 사용자가 안경을 착용하지 않은 상태에서 얼굴 등록을 수행하고, 이에 반해 얼굴 인증 과정(450)에서는 사용자가 안경(462)을 착용한 상태에서 얼굴 인증을 수행하는 실시예이다.

얼굴 등록 과정(410)에서는 유효한 사용자의 얼굴이 등록된다. 일 실시예에서, 사용자가 얼굴 등록을 위해 카메라를 이용하여 자신의 얼굴을 촬영하는 것에 의해 등록 영상(420)이 획득될 수 있다. 등록 영상(420)에서 얼굴 영역이 검출되고, 검출된 얼굴 영역을 나타내는 얼굴 영상(425)이 획득될 수 있다. 실시예에 따라, 얼굴 영상(425)을 획득하기 위해 영상 크롭핑, 아핀 변환(affine transform) 또는 영상 스케일링 등과 같은 영상 정규화 과정이 수행될 수도 있다.

그 후, 얼굴 영상(425)에 기초하여 합성 영상(430)이 생성된다. 얼굴 영상(425)에서 마스킹 영역(435)에 대응하는 영역의 영상 정보가 기준 영상의 영상 정보로 대체되는 것에 의해 합성 영상(430)이 생성될 수 있다. 합성 영상(430)을 생성하는 과정은 도 2의 단계(230)의 처리 과정과 유사하다. 본 도면은 마스킹 영역(435)이 안경 타입으로 정의된 실시예를 도시한다. 등록 영상(420)에 나타난 것과 같이, 사용자가 안경을 착용하고 있지 않더라도, 미리 정의된 안경 타입의 마스킹 영역(435)에 기초하여 합성 영상(430)이 생성될 수 있다.

얼굴 영상(425)과 합성 영상(430)에 기초하여 등록 특징이 결정(440)되고, 결정된 등록 특징이 데이터베이스 등에 저장(445)된다. 등록 특징은 뉴럴 네트워크 모델 기반의 특징 추출기에 의해 결정될 수 있다. 등록 특징을 결정(440)하는 과정은 도 2의 단계(240)의 처리 과정과 유사하다. 다만, 도 2의 단계(240)에서는 등록 특징과 비교될 얼굴 특징이 결정되나, 얼굴 등록 과정(410)에서는 유효한 사용자의 얼굴을 등록하기 위한 등록 특징이 결정된다는 점에서 차이가 있다.

얼굴 인증 과정(450)에서는 얼굴 인증을 시도한 사용자가 유효한 사용자 인지 여부가 결정된다. 일 실시예에서, 사용자가 얼굴 인증을 위해 카메라를 이용하여 자신의 얼굴을 촬영하는 것에 의해 인증 대상이 나타난 영상(460)이 획득될 수 있다. 영상(460)에서 얼굴 영역이 검출되고, 검출된 얼굴 영역을 나타내는 얼굴 영상(465)이 획득될 수 있다. 실시예에 따라, 얼굴 영상(465)을 획득하기 위해 영상 정규화 과정이 수행될 수도 있다.

그 후, 도 2의 단계(230)의 처리 과정에 따라 합성 영상(470)이 생성될 수 있다. 얼굴 영상(465)에서 마스킹 영역(475)에 대응하는 영역의 영상 정보가 기준 영상의 영상 정보로 대체되는 것에 의해 합성 영상(470)이 생성될 수 있다. 마스킹 영역(475)에 의해 합성 영상(470)에서는 안경(462)이 나타나지 않는다.

도 2의 단계(240)의 처리 과정에 따라, 얼굴 영상(465)과 합성 영상(470)에 기초하여 얼굴 특징이 결정(480)된다. 이 때, 얼굴 특징을 결정하기 위해 특징 추출기가 이용될 수 있다. 얼굴 인증 과정(450)에서도 얼굴 등록 과정(410)에서 이용된 기준 영상 및 특징 추출기가 동일하게 이용된다. 그 후, 얼굴 특징과 얼굴 등록 과정(410)에서 등록된 등록 특징 간의 비교 결과에 기초하여 인증 성공 여부가 판단(490)된다. 예를 들어, 얼굴 특징과 등록 특징 간의 유사도가 임계 값보다 큰 경우에 인증이 성공한 것으로 결정되고, 유사도가 임계 값 이하인 경우에는 인증이 실패한 것으로 결정될 수 있다.

도 4b를 참조하면, 얼굴 등록 과정(410)에서도 사용자가 안경을 착용하지 않은 상태에서 얼굴 등록을 수행하고, 얼굴 인증 과정(450)에서도 사용자가 안경을 착용하지 않은 상태에서 얼굴 인증을 수행하는 실시예가 도시된다. 얼굴 인증 과정(450)에서 입력 영상(460)에 나타난 사용자가 안경을 착용하고 있지 않더라도, 미리 정의된 마스킹 영역(475)에 기초하여 합성 영상(470)이 생성되고, 합성 영상(470)과 얼굴 영상(465)에 기초하여 얼굴 특징이 결정(480)된다.

도 4c를 참조하면, 얼굴 등록 과정(410)에서 등록된 사용자 얼굴의 특징은 폐색 영역을 포함하는 얼굴 영상에 기초하여 추출되고, 얼굴 인증 과정(450)에서 얼굴 인증을 위해 추출되는 특징은 폐색 영역을 포함하지 않는 얼굴 영상에서 기초하여 추출되는 실시예가 도시된다. 예를 들어, 얼굴 등록 과정(410)에서 사용자가 안경(422)을 착용한 상태에서 얼굴 등록을 수행하고, 이에 반해 얼굴 인증 과정(450)에서는 사용자가 안경을 착용하지 않은 상태에서 얼굴 인증을 수행하는 실시예이다. 얼굴 등록 과정(410)에서, 얼굴 영상(425)에서 마스킹 영역(435)에 대응하는 영역의 영상 정보가 기준 영상의 영상 정보로 대체되는 것에 의해 합성 영상(430)이 생성된다. 마스킹 영역(435)에 의해 합성 영상(430)에서는 안경(422)이 나타나지 않는다. 이후에, 합성 영상(430)과 얼굴 영상(425)에 기초하여 등록 특징이 결정(440)된다.

도 4d를 참조하면, 얼굴 등록 과정(410)에서도 사용자가 안경(422)을 착용한 상태에서 얼굴 등록을 수행하고, 얼굴 인증 과정(450)에서도 사용자가 안경(462)을 착용한 상태에서 얼굴 인증을 수행하는 실시예가 도시된다. 본 실시예에서, 얼굴 등록 과정(410)은 도 4c의 실시예와 동일하고, 얼굴 인증 과정(450)은 도 4a의 실시예와 동일하다. 얼굴 등록 과정(410)에서는 마스킹 영역(435)에 의해 안경(422)이 가려진 합성 영상(430)이 생성되고, 얼굴 인증 과정(450)에서는 마스킹 영역(475)에 의해 안경(462)이 가려진 합성 영상(470)이 생성된다. 합성 영상(430)과 얼굴 영상(425)에 기초하여 등록 특징이 결정(440)되고, 합성 영상(470)과 얼굴 영상(465)에 기초하여 얼굴 특징(480)이 결정된다.

도 5는 일 실시예에 따른 합성 영상의 일례들을 도시하는 도면이다.

도 5에 도시된 것과 같이, 마스킹 영역의 타입에 따라 합성 영상의 형태는 다양할 수 있다. 영상들(510, 530, 550, 570)에서와 같이, 얼굴 인증(또는 얼굴 등록)의 대상이 되는 영상에는 안경, 선글라스, 마스크 또는 모자와 같은 얼굴 가림 요소에 의한 폐색 영역이 존재할 수 있다. 각각의 영상들(510, 530, 550, 570)로부터 얼굴 영역이 검출되고, 검출된 얼굴 영역을 나타내는 얼굴 영상(515, 535, 555, 575)이 획득된다. 얼굴 영상(515, 535, 555, 575)에서 폐색 영역의 타입에 대응되는 마스킹 영역(525, 545, 565, 585)이 결정되고, 결정된 마스킹 영역(525, 545, 565, 585)의 영상 정보가 기준 영상의 대응 영역의 영상 정보로 대체되는 것에 의해 합성 영상(520, 540, 560, 580)이 획득될 수 있다. 일 예에서, 마스킹 영역(525, 545, 565, 585)의 위치는 얼굴 영역에서 검출된 얼굴 주요 부위들(예를 들어, 눈, 코, 입 등)의 위치에 기초하여 결정될 수 있다. 얼굴 주요 부위들의 위치는 랜드마크들의 검출 결과에 기초하여 결정될 수 있다. 도면에 도시된 것과 같이, 합성 영상(520)에서 마스킹 영역(525)은 안경의 형태를 가지고, 합성 영상(540)에서 마스킹 영역(545)은 선글라스의 형태를 가진다. 합성 영상(560)에서 마스킹 영역(565)은 마스크의 형태를 가지고, 합성 영상(580)에서 마스킹 영역(585)은 모자의 형태를 가진다. 합성 영상(520, 540, 560, 580) 각각은 얼굴 영상(515, 535, 555, 575)의 영상 정보와 마스킹 영역(525, 545, 565, 585)에 할당된 기준 영상의 영상 정보로 구성된다.

도 6a 내지 도 6d는 일 실시예에 따른 얼굴 특징을 결정하는 과정의 일례들을 설명하기 위한 도면들이다.

도 6a를 참조하면, 얼굴 인증 장치는 얼굴 영상(610)에서 마스킹 영역(625)에 기준 영상(615)의 영상 정보를 할당하는 것에 의해 합성 영상(620)을 생성할 수 있다. 기준 영상(615)은 예를 들어, 특징 추출기(630)를 학습하는데 이용된 학습 영상들의 평균 영상, 평균 값 영상 또는 전체 영역에서 단일 컬러를 가지는 영상일 수 있다. 얼굴 영상(610), 합성 영상(620) 및 기준 영상(615)에 기초하여 얼굴 영상(610)에 나타난 입력 얼굴의 얼굴 특징이 추출된다. 이 때, 얼굴 영상(610)의 영상 정보와 합성 영상(620)의 영상 정보가 서로 결합된 후 그 결합의 결과가 특징 추출기(630)에 입력될 수 있다. 예를 들어, 얼굴 영상(610)과 합성 영상(620)에서 서로 대응되는 위치에 있는 픽셀의 픽셀 값이 서로 더해진(summation) 결과가 특징 추출기(630)에 입력될 수 있다. 다른 예로, 얼굴 영상(610)의 영상 정보와 합성 영상(620)의 영상 정보가 서로 연결(concatenation)된 결과가 특징 추출기(630)에 입력될 수 있다. 일 실시예에서, 특징 추출기(630)는 입력된 영상 정보에서 기준 영상(615)의 영상 정보를 빼는 것에 의해 제로 중심화된 데이터(zero-centered data)를 생성하고, 학습된 뉴럴 네트워크 모델의 수학적 모델에 기초하여 제로 중심화된 데이터에 대응되는 특징 정보를 출력할 수 있다.

도 6b를 참조하면, 일 실시예에서 얼굴 특징을 획득하기 위한 특징 추출기는 복수 개가 있을 수 있다. 제1 특징 추출기(635)는 얼굴 영상(610)과 기준 영상(615) 간의 제1 차분 영상으로부터 제1 얼굴 특징을 추출한다. 제2 특징 추출기(640)는 합성 영상(620)과 기준 영상(615) 간의 제2 차분 영상으로부터 제2 얼굴 특징을 추출한다. 제1 얼굴 특징과 제2 얼굴 특징 간의 결합 결과(합산(summation) 또는 연결(concatenation))가 입력 얼굴에 대응하는 최종 얼굴 특징으로 결정될 수 있다. 예를 들어, 제1 얼굴 특징과 제2 얼굴 특징이 서로 더해지거나 또는 연결된 결과가 최종 얼굴 특징이 될 수 있다.

다른 실시예로서, 도 6c에 도시된 것과 같이, 제1 얼굴 특징과 제2 얼굴 특징 간의 결합 결과는 제3 특징 추출기(645)에 입력될 수 있고, 제3 특징 추출기(645)로부터 출력된 결과가 최종 얼굴 특징으로 결정될 수 있다. 도 6c에 도시된 제1 특징 추출기(635), 제2 특징 추출기(640) 및 제3 특징 추출기(645)는, 도 6d에 도시된 것과 같이 뉴럴 네트워크 모델 기반의 특징 추출기(650)로 구현될 수 있다.

도 6d를 참조하면, 특징 추출기(650)의 제1 입력 레이어(655)에는 얼굴 영상(610)과 기준 영상(615) 간의 제1 차분 영상의 영상 정보가 입력되고, 제2 입력 레이어(660)에는 합성 영상(620)과 기준 영상(615) 간의 제2 차분 영상의 영상 정보가 입력된다. 일 실시예에서, 제1 입력 레이어(655) 및 제2 입력 레이어(660)는 컨볼루션 연산을 통해 특징들을 추출하는 컨볼루션 레이어(convolution layer)일 수 있다. 특징 추출기(650)의 뉴럴 네트워크 모델이 가지는 수학적 모델의 연산 과정에 따라 입력 레이어들(655, 660)에 입력된 영상 정보가 처리된다. 이 때, 도 6c의 실시예와 유사하게, 제1 차분 영상에 대응하는 특징과 제2 차분 영상에 대응하는 특징은 중간 단계에서 서로 결합될 수 있다. 특징 추출기(650)의 출력 레이어(665)는 특징 추출기(650)의 입력에 대응하는 출력으로서, 얼굴 특징을 출력한다. 도 6d에 도시된 특징 추출기(650)의 레이어 구조는 설명의 편의를 위해 간략화된 것으로, 도면에 도시된 것에 의해 특징 추출기(650)의 레이어 구조가 한정되는 것으로 해석되어서는 안된다.

도 7은 일 실시예에 따른 얼굴 인증 장치의 구성을 도시하는 도면이다.

도 7을 참조하면, 얼굴 인증 장치(700)는 얼굴 인증을 위한 입력 영상을 수신한다. 얼굴 인증 장치(700)는 입력 영상으로부터 추출된 얼굴 특징과 데이터베이스(730)에 미리 저장된 등록 특징 간의 비교 결과에 기초하여 인증 성공 여부를 결정할 수 있다. 유효한 사용자는 얼굴 등록 과정을 통해 자신의 얼굴을 미리 등록할 수 있고, 이렇게 등록된 얼굴에 대한 정보는 데이터베이스(730)에 저장될 수 있다

얼굴 인증 장치(700)는 얼굴 인증 방법과 관련하여 본 명세서에 기술되거나 또는 도시된 하나 이상의 동작을 수행할 수 있고, 얼굴 인증의 결과를 사용자에게 제공할 수 있다. 얼굴 인증 장치(700)는 하나 이상의 프로세서(710) 및 메모리(720)를 포함할 수 있다. 메모리(720)는 프로세서(710)에 연결되고, 프로세서(710)에 의해 실행가능한 인스트럭션들, 프로세서(710)가 연산할 데이터 또는 프로세서(710)에 의해 처리된 데이터를 저장할 수 있다. 메모리(720)는 비일시적인 컴퓨터 판독가능 매체, 예컨대 고속 랜덤 액세스 메모리 및/또는 비휘발성 컴퓨터 판독가능 저장 매체(예컨대, 하나 이상의 디스크 저장 장치, 플래쉬 메모리 장치, 또는 기타 비휘발성 솔리드 스테이트 메모리 장치)를 포함할 수 있다.

프로세서(710)는 도 1 내지 도 6을 참조하여 설명된 하나 이상의 동작을 실행하기 위한 인스트럭션들을 실행할 수 있다. 예를 들어, 프로세서(710)는 입력 영상에서 폐색 영역이 존재할 가능성이 있는 영역을 다른 데이터로 대체하는 것에 의해 합성 영상을 생성한다. 프로세서(710)는 입력 영상에서 얼굴 영역을 검출하고, 마스킹 영역에 기초하여 얼굴 영역을 나타내는 얼굴 영상과 기준 영상을 합성하는 것에 의해 합성 영상을 생성할 수 있다. 예를 들어, 프로세서(710)는 기준 영상에서 마스킹 영역에 대응하는 대응 영역의 영상 정보와 얼굴 영상에서 마스킹 영역을 제외한 나머지 영역의 영상 정보를 합성하는 것에 의해 합성 영상을 생성할 수 있다. 프로세서(710)는 얼굴 영상과 합성 영상에 기초하여 입력 얼굴에 대응하는 얼굴 특징을 결정할 수 있다. 예를 들어, 프로세서(710)는 얼굴 영상과 기준 영상 간의 제1 차분 영상으로부터 제1 얼굴 특징을 추출하고, 합성 영상과 기준 영상 간의 제2 차분 영상으로부터 제2 얼굴 특징을 추출한 후, 제1 얼굴 특징 및 제2 얼굴 특징에 기초하여 입력 얼굴에 대응하는 얼굴 특징을 결정할 수 있다. 프로세서(710)는 결정된 얼굴 특징과 등록 특징 간의 유사도에 기초하여 인증 성공 여부를 결정할 수 있다.

도 8은 일 실시예에 따른 컴퓨팅 장치의 구성을 도시하는 도면이다.

도 8을 참조하면, 컴퓨팅 장치(800)는 사용자의 얼굴이 나타난 영상을 획득하고, 획득된 영상에서 추출한 얼굴 특징을 미리 등록된 등록 특징과 비교하는 과정을 통해 얼굴 인증 과정을 수행할 수 있다. 컴퓨팅 장치(800)는 도 1의 컴퓨팅 장치(120)에 대응할 수 있고, 기능적으로 도 7의 얼굴 인증 장치(700)의 기능을 포함할 수 있다.

컴퓨팅 장치(800)는 프로세서(810), 메모리(820), 카메라(830), 저장 장치(840), 입력 장치(850), 출력 장치(860) 및 네트워크 인터페이스(870)를 포함할 수 있다. 프로세서(810), 메모리(820), 카메라(830), 저장 장치(840), 입력 장치(850), 출력 장치(860) 및 네트워크 인터페이스(870)는 통신 버스(880)를 통해 서로 통신할 수 있다.

프로세서(810)는 컴퓨팅 장치(800) 내에서 실행하기 위한 기능 및 인스트럭션들을 실행한다. 예를 들어, 프로세서(810)는 메모리(820) 또는 저장 장치(840)에 저장된 인스트럭션들을 처리할 수 있다. 프로세서(810)는 도 1 내지 도 7을 통하여 전술한 하나 이상의 동작을 수행할 수 있다.

메모리(820)는 얼굴 인증을 위한 정보를 저장한다. 메모리(820)는 컴퓨터 판독가능한 저장 매체 또는 컴퓨터 판독가능한 저장 장치를 포함할 수 있다. 메모리(820)는 프로세서(810)에 의해 실행하기 위한 인스트럭션들을 저장할 수 있고, 컴퓨팅 장치(800)에 의해 소프트웨어 또는 애플리케이션이 실행되는 동안 관련 정보를 저장할 수 있다.

카메라(830)는 정지 영상, 비디오 영상, 또는 이들 모두를 캡쳐할 수 있다. 카메라(830)는 사용자가 얼굴 인증을 시도하기 위해 입력하는 얼굴 영역을 캡쳐할 수 있다.

저장 장치(840)는 컴퓨터 판독가능한 저장 매체 또는 컴퓨터 판독가능한 저장 장치를 포함한다. 저장 장치(840)는 얼굴 등록 과정에서 등록된 정보(예를 들어, 등록 특징들)을 포함하는 데이터베이스를 저장할 수 있다. 일 실시예에 따르면, 저장 장치(840)는 메모리(820)보다 더 많은 양의 정보를 저장하고, 정보를 장기간 저장할 수 있다. 예를 들어, 저장 장치(840)는 자기 하드 디스크, 광 디스크, 플래쉬 메모리, 플로피 디스크 또는 이 기술 분야에서 알려진 다른 형태의 비휘발성 메모리를 포함할 수 있다.

입력 장치(850)는 촉각, 비디오, 오디오 또는 터치 입력을 통해 사용자로부터 입력을 수신할 수 있다. 예를 들어, 입력 장치(850)는 키보드, 마우스, 터치 스크린, 마이크로폰, 또는 사용자로부터 입력을 검출하고, 검출된 입력을 컴퓨팅 장치(800)에 전달할 수 있는 임의의 다른 장치를 포함할 수 있다.

출력 장치(860)는 시각적, 청각적 또는 촉각적인 채널을 통해 사용자에게 컴퓨팅 장치(800)의 출력을 제공할 수 있다. 출력 장치(860)는 예를 들어, 디스플레이, 터치 스크린, 스피커, 진동 발생 장치 또는 사용자에게 출력을 제공할 수 있는 임의의 다른 장치를 포함할 수 있다. 네트워크 인터페이스(870)는 유선 또는 무선 네트워크를 통해 외부 장치와 통신할 수 있다.

도 9는 일 실시예에 따른 학습 장치의 구성을 도시하는 도면이다.

도 9를 참조하면, 학습 장치(900)는 얼굴 인증에서 이용되는 특징 추출기(930)를 학습시키는 장치이다. 일례에서, 특징 추출기(930)는 입력 값에 대응하는 결과 값을 출력하는 뉴럴 네트워크 모델로, 학습 영상과 기준 영상에 기초하여 학습될 수 있다. 여기서, 기준 영상은 본 명세서에서 설명된 얼굴 등록 과정 및 얼굴 인증 과정에서 이용된 기준 영상과 동일하다.

학습 장치(900)는 하나 이상의 프로세서(910) 및 메모리(920)를 포함할 수 있다. 메모리(920)는 프로세서(910)에 연결되고, 프로세서(910)에 의해 실행가능한 인스트럭션들, 프로세서(910)가 연산할 데이터 또는 프로세서(910)에 의해 처리된 데이터를 저장할 수 있다.

학습 영상이 학습 장치(900)에 입력되면, 프로세서(910)는 학습 영상에서 얼굴 영역을 검출하고, 마스킹 영역에 기초하여 얼굴 영역을 나타내는 얼굴 영상과 기준 영상을 합성하는 것에 의해 합성 영상을 생성할 수 있다. 프로세서(910)는 얼굴 등록 및 얼굴 인증 과정에서와 유사하게, 기준 영상에서 마스킹 영역에 대응하는 대응 영역의 영상 정보와 얼굴 영상에서 마스킹 영역을 제외한 나머지 영역의 영상 정보를 합성하는 것에 의해 합성 영상을 생성할 수 있다. 프로세서(910)는 특징 추출기(930)를 이용하여 얼굴 영상과 합성 영상으로부터 얼굴 특징을 추출한다. 이 과정들에는 얼굴 인증 과정에 설명된 내용이 그대로 적용될 수 있다. 특징 추출기(930)의 구조 및 동작은 도 6a 내지 도 6d에 도시된 실시예들이 여기에 적용될 수 있다. 프로세서(910)는 특징 추출기(930)에 의해 추출된 특징과 목적하는 특징 간의 차이에 기초한 손실(loss)을 계산하고, 계산된 손실이 줄어들도록 특징 추출기(930)를 구성하는 파라미터들을 조정할 수 있다.

학습 장치(900)는 많은 수의 학습 영상들 각각에 대해 위 과정을 반복적으로 수행하여 특징 추출기(930)의 파라미터들을 점차 바람직한 방향으로 조정할 수 있다. 학습이 완료된 특징 추출기(930)는 얼굴 등록 및 얼굴 인증 과정에서 이용된다.

이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 컴퓨터 판독 가능 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.

이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.

Claims

입력 얼굴이 나타난 입력 영상에서 얼굴 영역을 검출하는 단계;
마스킹 영역에 기초하여 상기 얼굴 영역을 나타내는 얼굴 영상과 기준 영상을 합성하는 것에 의해 합성 영상을 생성하는 단계;
상기 얼굴 영상과 상기 합성 영상에 기초하여 상기 입력 얼굴에 대응하는 얼굴 특징을 결정하는 단계; 및
상기 결정된 얼굴 특징에 기초하여 인증 성공 여부를 결정하는 단계
를 포함하는 얼굴 인증 방법.
제1항에 있어서,
상기 합성 영상을 생성하는 단계는,
상기 기준 영상에서 상기 마스킹 영역에 대응하는 대응 영역의 영상 정보와 상기 얼굴 영상에서 상기 마스킹 영역을 제외한 나머지 영역의 영상 정보를 합성하는 것에 의해 상기 합성 영상을 생성하는, 얼굴 인증 방법.
제1항에 있어서,
상기 합성 영상을 생성하는 단계는,
상기 얼굴 영상에서 미리 정의된 마스킹 영역의 영상 정보를 상기 기준 영상의 영상 정보로 대체하는 것에 의해 상기 합성 영상을 생성하는, 얼굴 인증 방법.
제1항에 있어서,
상기 합성 영상을 생성하는 단계는,
상기 얼굴 영역에서 폐색 영역(occlusion region)을 검출하고, 상기 폐색 영역의 타입을 결정하는 단계; 및
상기 얼굴 영상에서 상기 폐색 영역의 타입에 대응하는 마스킹 영역을 상기 기준 영상의 영상 정보로 대체하는 것에 의해 상기 합성 영상을 생성하는 단계
를 포함하는 얼굴 인증 방법.
제4항에 있어서,
상기 폐색 영역의 타입을 결정하는 단계는,
상기 얼굴 영역에서 얼굴의 랜드마크들을 검출하는 단계; 및
상기 랜드마크들의 검출 결과에 기초하여 상기 폐색 영역의 타입을 결정하는 단계
를 포함하는 얼굴 인증 방법.
제1항에 있어서,
상기 마스킹 영역은,
안경, 선글라스, 마스크 또는 모자의 형태를 가지는, 얼굴 인증 방법.
제1항에 있어서,
상기 얼굴 특징을 결정하는 단계는,
뉴럴 네트워크 모델 기반의 특징 추출기를 이용하여 상기 얼굴 영상과 상기 합성 영상으로부터 상기 얼굴 특징을 획득하는 단계
를 포함하는 얼굴 인증 방법.
제7항에 있어서,
상기 특징 추출기의 제1 입력 레이어에는, 상기 얼굴 영상과 상기 기준 영상 간의 제1 차분 영상의 영상 정보가 입력되고,
상기 특징 추출기의 제2 입력 레이어에는, 상기 합성 영상과 상기 기준 영상 간의 제2 차분 영상의 영상 정보가 입력되고,
상기 특징 추출기의 출력 레이어는, 상기 얼굴 특징을 출력하는, 얼굴 인증 방법.
제1항에 있어서,
상기 얼굴 특징을 결정하는 단계는,
상기 얼굴 영상과 상기 기준 영상 간의 제1 차분 영상(difference image)으로부터 제1 얼굴 특징을 결정하는 단계;
상기 합성 영상과 상기 기준 영상 간의 제2 차분 영상으로부터 제2 얼굴 특징을 결정하는 단계; 및
상기 제1 얼굴 특징 및 상기 제2 얼굴 특징에 기초하여 상기 입력 얼굴에 대응하는 상기 얼굴 특징을 결정하는 단계
를 포함하는 얼굴 인증 방법.
제9항에 있어서,
상기 제1 얼굴 특징은, 제1 특징 추출기에 의해 결정되고,
상기 제2 얼굴 특징은, 제2 특징 추출기에 의해 결정되는, 얼굴 인증 방법.
제7항에 있어서,
상기 기준 영상은,
상기 특징 추출기를 트레이닝(training)하는데 이용된 학습 영상들에 기초하여 결정된 영상인, 얼굴 인증 방법.
제1항에 있어서,
상기 기준 영상은,
전체 영역에서 동일한 컬러를 가지는 영상인, 얼굴 인증 방법.
제1항에 있어서,
상기 인증 성공 여부를 결정하는 단계는,
상기 결정된 얼굴 특징과 등록 특징 간의 비교 결과에 기초하여 인증 성공 여부를 결정하는, 얼굴 인증 방법.
제13항에 있어서,
상기 등록 특징은,
얼굴 등록을 위한 등록 영상과 상기 등록 영상에서 미리 정의된 마스킹 영역을 기준 영상의 영상 정보로 대체하는 것에 의해 생성된 합성 영상에 기초하여 결정된 것인, 얼굴 인증 방법.
제13항에 있어서,
상기 등록 특징은,
상기 마스킹 영역의 각 타입들에 대응되는 등록 특징들을 포함하는, 얼굴 인증 방법.
제1항 내지 제15항 중 어느 하나의 항의 방법을 실행하기 위한 인스트럭션들을 저장하는 컴퓨터 판독 가능한 저장 매체.
프로세서를 포함하고,
상기 프로세서는,
입력 얼굴이 나타난 입력 영상에서 얼굴 영역을 검출하고,
마스킹 영역에 기초하여 상기 얼굴 영역을 나타내는 얼굴 영상과 기준 영상을 합성하는 것에 의해 합성 영상을 생성하고,
상기 얼굴 영상과 상기 합성 영상에 기초하여 상기 입력 얼굴에 대응하는 얼굴 특징을 결정하고,
상기 결정된 얼굴 특징에 기초하여 인증 성공 여부를 결정하는, 얼굴 인증 장치.
제17항에 있어서,
상기 프로세서는,
상기 기준 영상에서 상기 마스킹 영역에 대응하는 대응 영역의 영상 정보와 상기 얼굴 영상에서 상기 마스킹 영역을 제외한 나머지 영역의 영상 정보를 합성하는 것에 의해 상기 합성 영상을 생성하는, 얼굴 인증 장치.
제17항에 있어서,
상기 프로세서는,
상기 얼굴 영상과 상기 기준 영상 간의 제1 차분 영상으로부터 제1 얼굴 특징을 결정하고,
상기 합성 영상과 상기 기준 영상 간의 제2 차분 영상으로부터 제2 얼굴 특징을 결정하고,
상기 제1 얼굴 특징 및 상기 제2 얼굴 특징에 기초하여 상기 입력 얼굴에 대응하는 상기 얼굴 특징을 결정하는, 얼굴 인증 장치.
얼굴 영상에서 폐색 영역이 존재할 가능성이 있는 영역을 다른 데이터로 대체하는 것에 의해 합성 영상을 생성하는 단계;
뉴럴 네트워크 모델을 이용하여 상기 얼굴 영상 및 상기 합성 영상으로부터 특징을 추출하는 단계; 및
상기 추출된 특징과 등록된 사용자 얼굴의 특징을 비교하여 인증 성공 여부를 결정하는 단계
를 포함하는 얼굴 인증 방법.
제20항에 있어서,
상기 폐색 영역이 존재할 가능성이 있는 영역은,
안경, 선글라스, 모자 또는 마스크가 존재할 가능성이 있는 영역인, 얼굴 인증 방법.
제20항에 있어서,
상기 합성 영상을 생성하는 단계는,
상기 얼굴 영상에 폐색 영역이 실제로 존재하는지 여부를 판단하지 않는, 얼굴 인증 방법.
제20항에 있어서,
상기 뉴럴 네트워크 모델은 단일 뉴럴 네트워크 모델인 얼굴 인증 방법.
제20항에 있어서,
상기 얼굴 영상은 폐색 영역을 포함하지 않고,
상기 등록된 사용자 얼굴의 특징은 폐색 영역을 포함하는 얼굴 영상에 기초하여 추출된 것인, 얼굴 인증 방법.
제20항에 있어서,
상기 얼굴 영상은 폐색 영역을 포함하고,
상기 등록된 사용자 얼굴의 특징은 폐색 영역을 포함하지 않는 얼굴 영상에 기초하여 추출된 것인, 얼굴 인증 방법.
얼굴 영상을 획득하는 카메라; 및
상기 얼굴 영상에서 폐색 영역이 존재할 가능성이 있는 영역을 다른 데이터로 대체하는 것에 의해 합성 영상을 생성하고, 뉴럴 네트워크 모델을 이용하여 상기 얼굴 영상 및 상기 합성 영상으로부터 특징을 추출하고, 상기 추출된 특징과 등록된 사용자 얼굴의 특징을 비교하여 인증 성공 여부를 결정하는 프로세서
를 포함하는 컴퓨팅 장치.
제26항에 있어서,
상기 폐색 영역이 존재할 가능성이 있는 영역은,
안경, 선글라스, 모자 또는 마스크가 존재할 가능성이 있는 영역인, 컴퓨팅 장치.
제26항에 있어서,
상기 프로세서는,
상기 얼굴 영상에 폐색 영역이 실제로 존재하는지 여부를 판단하지 않고 상기 합성 영상을 생성하는, 컴퓨팅 장치.
제26항에 있어서,
상기 뉴럴 네트워크 모델은 단일 뉴럴 네트워크 모델인 컴퓨팅 장치.
제26항에 있어서,
상기 얼굴 영상은 폐색 영역을 포함하지 않고,
상기 등록된 사용자 얼굴의 특징은 폐색 영역을 포함하는 얼굴 영상에 기초하여 추출된 것인, 컴퓨팅 장치.
제26항에 있어서,
상기 얼굴 영상은 폐색 영역을 포함하고,
상기 등록된 사용자 얼굴의 특징은 폐색 영역을 포함하지 않는 얼굴 영상에 기초하여 추출된 것인, 컴퓨팅 장치.