[go: up one dir, main page]

KR20200107167A - Apparatus and Method for Making a Facial Image Suitable for Facial Recognition by Using Infraredat at Natural Lighting - Google Patents

Apparatus and Method for Making a Facial Image Suitable for Facial Recognition by Using Infraredat at Natural Lighting Download PDF

Info

Publication number
KR20200107167A
KR20200107167A KR1020190025871A KR20190025871A KR20200107167A KR 20200107167 A KR20200107167 A KR 20200107167A KR 1020190025871 A KR1020190025871 A KR 1020190025871A KR 20190025871 A KR20190025871 A KR 20190025871A KR 20200107167 A KR20200107167 A KR 20200107167A
Authority
KR
South Korea
Prior art keywords
image
face
infrared
image sensor
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
KR1020190025871A
Other languages
Korean (ko)
Inventor
백영현
신요식
Original Assignee
주식회사 유니온커뮤니티
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 유니온커뮤니티 filed Critical 주식회사 유니온커뮤니티
Priority to KR1020190025871A priority Critical patent/KR20200107167A/en
Publication of KR20200107167A publication Critical patent/KR20200107167A/en
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06K9/00234
    • G06K9/4661
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/162Detection; Localisation; Normalisation using pixel segmentation or colour matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • Image Input (AREA)
  • Collating Specific Patterns (AREA)

Abstract

적외선을 이용함으로써 자연광 환경에서도 얼굴 인식이 가능한 이미지를 획득할 수 있는 얼굴인식장치 및 그 인식방법이 개시된다. 본 발명의 얼굴인식장치는 종래에 사용하지 않는 파장의 적외선을 이용하여 얼굴 이미지를 획득함으로써 자연광이 비추는 환경하에서 얼굴 인증이 불가능했던 종래의 문제를 해결한다. 본 발명의 얼굴인식장치가 획득하는 적외선 얼굴 이미지는 자연광이 문제되는 주간에도 얼굴 인식에 적합할 뿐만 아니라, 다른 조명이 부족한 야간에도 필요한 적외선 엘이디를 비추는 방법으로 적외선 얼굴 이미지를 생성할 수 있다. Disclosed are a face recognition device capable of acquiring an image capable of face recognition even in a natural light environment by using infrared rays, and a recognition method thereof. The face recognition apparatus of the present invention solves a conventional problem in which face authentication is impossible in an environment illuminated by natural light by acquiring a face image using infrared rays having a wavelength that is not conventionally used. The infrared face image acquired by the face recognition device of the present invention is suitable for face recognition even in daytime when natural light is a problem, and it is possible to generate an infrared face image by illuminating an infrared LED required at night when other lighting is insufficient.

Description

자연광 환경에서 적외선을 이용하여 얼굴 인식이 가능한 이미지를 생성할 수 있는 얼굴인식장치 및 그 인식방법{Apparatus and Method for Making a Facial Image Suitable for Facial Recognition by Using Infraredat at Natural Lighting}Facial Recognition Device and Method for Making a Facial Image Suitable for Facial Recognition by Using Infraredat at Natural Lighting}

본 발명은 적외선을 이용함으로써 자연광 환경에서도 얼굴 인식이 가능한 이미지를 획득할 수 있는 얼굴인식장치 및 그 인식방법에 관한 것이다. The present invention relates to a face recognition apparatus capable of obtaining an image capable of face recognition even in a natural light environment by using infrared rays, and a recognition method thereof.

얼굴 인식(Face Recognition)도 지문이나 홍채와 마찬가지로 개인 인증 수단으로 주목받고 있는 것 중 하나로서, 카메라로 얼굴을 촬영하여 등록된 얼굴 이미지와 비교하는 방법으로 사용자를 인식한다. 얼굴 인식은 홍채 인식처럼 사용자의 다른 조작을 요구하지 않고 사용자의 신체가 기기와 접촉하지 않는다는 장점이 있어서, 최근에 컴퓨터나 이동전화기와 같은 개인용 디지털 기기 등에서 얼굴 인식이 접목되고 있다. Face Recognition, like fingerprints and irises, is one of the things that is attracting attention as a personal authentication method, and recognizes a user by photographing a face with a camera and comparing it with a registered face image. Face recognition has an advantage that the user's body does not contact the device without requiring other manipulations of the user like iris recognition, and thus, face recognition has recently been incorporated in personal digital devices such as computers or mobile phones.

얼굴 인식 기술은 2차원 영상을 이용하는 방법과 3차원 형상을 이용하는 방법으로 분류되는데, 3차원 인식 기술은 많은 연산량을 필요하기 때문에 2차원 얼굴 인식 시스템이 일반적으로 사용된다. 한편, 얼굴인식용 이미지의 생성방식으로 구분하면, 얼굴 인식에는 가시광선을 이용하여 일반적인 흑백이나 컬러 이미지를 촬영하여 인식하는 방식이 있고, 적외선을 이용하여 적외선 이미지를 촬영하여 인식하는 방식이 있으며, 필요에 따라 두 개 방식의 이미지를 모두 사용하기도 한다. Face recognition technology is classified into a method using a 2D image and a method using a 3D shape. Since the 3D recognition technology requires a large amount of computation, a 2D face recognition system is generally used. On the other hand, if divided into the method of generating an image for face recognition, for face recognition, there is a method of photographing and recognizing a general black and white or color image using visible light, and a method of photographing and recognizing an infrared image using infrared rays. If necessary, both types of images may be used.

흑백이나 컬러 이미지와 같은 가시광선을 이용하는 방식은 일정한 크기 이상의 조도가 있어야 하는 한계가 있다. 따라서 야간이나 어두운 실내처럼 충분한 조도가 제공되지 않는 환경에서는 얼굴 인식이 불가능하다. 또한, 일반적인 카메라처럼 피사체인 얼굴에 역광이 생기는 경우에 얼굴 부분만 어두운 이미지를 얻게 되는 문제도 있다. The method of using visible light such as black and white or color images has a limitation in that there must be a certain amount of illumination or more. Therefore, face recognition is impossible in environments where sufficient illumination is not provided, such as at night or in a dark room. In addition, there is a problem in that only a dark image is obtained when the subject face is backlit like a general camera.

따라서 얼굴인식에는 조도가 충분하지 않아도 사용할 수 있는 적외선 이미지를 주로 사용한다. 다만, 사용자를 적외선으로 조명하기 위한 적외선 엘이디가 필요하다. 적외선 방식의 얼굴인식장치는 적외선 엘이디로 사용자 얼굴을 비추고, 내장된 이미지 센서가 사용자 얼굴에서 반사되는 적외선 영상을 이용하여 적외선 얼굴 이미지를 생성한다. Therefore, for face recognition, infrared images that can be used without sufficient illumination are mainly used. However, an infrared LED is required to illuminate the user with infrared rays. An infrared-type face recognition device illuminates a user's face with an infrared LED, and an embedded image sensor generates an infrared face image using an infrared image reflected from the user's face.

적외선 방식의 얼굴인식도 적외선 방식도 빛을 사용하는 것이기 때문에 외부 환경에 영향을 받을 수밖에 없고, 외부 환경에 따른 다양한 문제가 있다. 그 중 하나는 외부 자연광이 직접 이미지 센서로 입사되는 경우에 얼굴을 인식할 수 있는 이미지를 생성할 수 없다는 점이다. 예를 들어 실외는 물론이고 실내에 설치된 경우라도 자연광이 영향을 주는 곳에 얼굴인식장치가 설치되면서 너무 많은 적외선이 입사되면, 대부분의 픽셀의 밝기가 포화되면서 얼굴의 윤곽조차 인식할 수 없는 적외선 이미지가 생성될 수 있다. 만약, 동일한 상황에서 적외선 엘이디를 끄면, 역광으로 얼굴 영역만 어두운 적외선 이미지를 얻게 된다. Since both the infrared method face recognition and the infrared method use light, they are inevitably affected by the external environment, and there are various problems depending on the external environment. One of them is that it is not possible to create an image that can recognize a face when external natural light is directly incident on the image sensor. For example, even if installed indoors as well as outdoors, if too much infrared rays are incident when a face recognition device is installed in a place affected by natural light, the brightness of most pixels is saturated and an infrared image that cannot even recognize the outline of the face is displayed. Can be created. If the infrared LED is turned off in the same situation, only the face area is darkened by backlighting.

특히, 해 질 녘 창문을 통해 입사되는 자연광에는 적외선이 많이 포함되어 있기 때문에, 사용자는 얼굴 인식이 집중적으로 발생하는 퇴근 시간에 얼굴 인식이 되지 않는 경험을 하게 된다. 얼굴인식장치가 출입통제와 같은 전문적인 개인인증 수단으로 널리 사용되지 않는 핵심적인 이유이다. In particular, since natural light incident through a window at sunset contains a lot of infrared rays, the user experiences faces in which faces are not recognized at work time when face recognition is concentrated. This is a key reason why face recognition devices are not widely used as professional personal authentication means such as access control.

종래에, 얼굴 인식에 사용하는 적외선 영역은 근적외선(Near Infrared) 대역 중에서도 대략 850nm 파장의 적외선을 주로 사용한다. 그것은 방범용 CCTV나 인터폰과 같이 사용자를 촬영하는데 사용되는 대부분의 적외선 카메라가 850nm 대역을 사용해 오고 있었기 때문이다. 또한, 850nm 대역의 적외선 필터가 상대적으로 매우 싼 가격에 용이하게 제작할 수 있기 때문이기도 하다. Conventionally, the infrared region used for face recognition mainly uses infrared rays having a wavelength of approximately 850 nm among the near infrared (Near Infrared) bands. This is because most of the infrared cameras used to photograph users, such as security CCTV or interphone, have been using the 850nm band. It is also because the infrared filter of the 850nm band can be easily manufactured at a relatively very low price.

[관련 발명][Related invention]

1. 얼굴인식 가능한 단말기 및 그의 얼굴인식 방법 (대한민국 공개특허 10-2009-0038110호) 이 발명은 종래에 컬러 이미지를 이용하는 종래의 얼굴 인식방법을 개시하고 있다.1. A terminal capable of face recognition and its face recognition method (Korea Patent Publication No. 10-2009-0038110) This invention discloses a conventional face recognition method using a color image.

본 발명의 목적은 적외선을 이용함으로써 자연광 환경에서도 얼굴 인식이 가능한 이미지를 획득할 수 있는 얼굴인식장치 및 그 인식방법을 제공함에 있다. It is an object of the present invention to provide a face recognition device and a recognition method for obtaining an image capable of face recognition even in a natural light environment by using infrared rays.

상기 목적을 달성하기 위한 본 발명에 따른 얼굴인식장치는 제1 엘이디부, 제1 이미지 센서 및 적외선 필터를 포함하여, 자연광에 노출된 상태에서도 상기 적외선 얼굴 이미지를 생성할 수 있다. 여기서, 제1 엘이디부는 30 nm 내지 950 nm 파장의 적외선 광을 출사하는 적어도 하나의 적외선 엘이디를 구비하여 인증을 시도하는 사용자를 향해 적외선을 출사한다. 제1 이미지 센서는 상기 사용자의 얼굴에서 반사되어 입사되는 광으로 상기 사용자에 대한 적외선 얼굴 이미지를 최종 생성한다. 한편, 적외선 필터는 상기 제1 이미지 센서로 입사되는 광에서 930 nm 내지 950 nm 파장의 적외선을 투과시킨다. The face recognition apparatus according to the present invention for achieving the above object includes a first LED unit, a first image sensor, and an infrared filter, and can generate the infrared face image even when exposed to natural light. Here, the first LED unit includes at least one infrared LED that emits infrared light having a wavelength of 30 nm to 950 nm and emits infrared rays toward a user who attempts to authenticate. The first image sensor finally generates an infrared face image of the user with light reflected and incident from the user's face. Meanwhile, the infrared filter transmits infrared rays having a wavelength of 930 nm to 950 nm in the light incident on the first image sensor.

실시 예에 따라, 본 발명의 얼굴인식장치는 상기 제1 이미지 센서와 나란히 배치되어 상기 사용자 얼굴의 컬러 이미지를 생성하는 제2 이미지 센서와; 적어도 하나의 엘이디를 구비하여 상기 제2 이미지 센서의 컬러 이미지 생성을 위한 가시광선 대역의 광을 상기 사용자 얼굴을 향해 출사하는 제2 엘이디부를 더 포함할 수 있다. According to an embodiment, the face recognition apparatus of the present invention includes: a second image sensor disposed in parallel with the first image sensor to generate a color image of the user's face; It may further include a second LED unit having at least one LED to emit light in a visible band for generating a color image by the second image sensor toward the user's face.

다른 실시 예에 따라, 본 발명의 얼굴인식장치는 외면에 설치되어 조도를 검출하는 조도 센서와, 상기 제1 이미지 센서와 제2 이미지 센서가 이미지를 생성하도로 제어하는 제어부를 더 포함한다. 제어부는 상기 조도 센서가 검출한 조도가 기준값 이상인 제1 모드에서는 상기 제1 이미지 센서와 제2 이미지 센서가 동시에 이미지를 생성하도록 제어하고, 상기 조도가 상기 기준값 미만인 제2 모드에서는 상기 제1 이미지 센서가 이미지를 생성하도록 제어한다. According to another embodiment, the face recognition device of the present invention further includes an illuminance sensor installed on an outer surface to detect illuminance, and a controller that controls the first and second image sensors to generate an image. The controller controls the first image sensor and the second image sensor to simultaneously generate an image in a first mode in which the illuminance detected by the illuminance sensor is greater than or equal to a reference value, and the first image sensor in a second mode in which the illuminance is less than the reference value. To create an image.

또 다른 실시 예에 따라, 본 발명의 얼굴인식장치는 상기 제2 이미지 센서가 촬영한 이미지를 사용자에게 표시하는 표시부를 더 포함할 수 있다. 상기 제어부는 상기 제1 모드에서 상기 제2 이미지 센서가 생성한 컬러 이미지를 상기 표시부에 표시하고, 상기 제2 모드에서 상기 제1 이미지 센서가 생성한 적외선 이미지를 상기 표시부에 표시할 수 있다. According to another embodiment, the face recognition apparatus of the present invention may further include a display unit that displays an image captured by the second image sensor to a user. The control unit may display a color image generated by the second image sensor in the first mode on the display unit, and display an infrared image generated by the first image sensor in the second mode on the display unit.

또 다른 실시 예에 따라, 상기 제1 엘이디부 및 제2 엘이디부는 상기 제1 이미지 센서와 제2 이미지 센서 주위에 마련되어 상기 제1 이미지 센서와 제2 이미지 센서의 화각의 가운데를 조명하도록 배치된다. 이 경우에, 본 발명의 얼굴인식장치는 제3 엘이디부를 더 포함할 수 있다. 제3 엘이디부는 상기 제1 엘이디부 및 제2 엘이디부로부터 이격된 상부에 배치되고, 적어도 하나의 적외선 엘이디와 적어도 하나의 가시광선을 출사하는 가시광선 엘이디를 구비하여 상기 제1 이미지 센서와 제2 이미지 센서의 화각의 상부를 조명한다. According to another embodiment, the first LED unit and the second LED unit are disposed around the first image sensor and the second image sensor to illuminate the center of the field of view of the first image sensor and the second image sensor. In this case, the face recognition device of the present invention may further include a third LED unit. The third LED unit is disposed above the first LED unit and the second LED unit, and includes at least one infrared LED and a visible light LED that emits at least one visible light. Illuminates the top of the image sensor's field of view.

본 발명의 다른 실시 예에 따른 얼굴인식장치의 얼굴 인식방법은, 930 nm 내지 950 nm 파장의 적외선 광을 출사하는 적어도 하나의 적외선 엘이디가 인증을 시도하는 사용자를 향해 적외선을 출사하는 단계와; 적외선 필터가 제1 이미지 센서로 입사되는 광에서 930 nm 내지 950 nm 파장의 적외선을 투과시키는 단계와; 상기 제1 이미지 센서가 상기 사용자의 얼굴에서 반사되어 상기 적외선 필터를 통과한 적외선으로 상기 사용자에 대한 적외선 얼굴 이미지를 생성하는 단계를 포함하는 적외선 얼굴 이미지 생성과정을 수행하여, 자연광에 노출된 상태에서도 상기 적외선 얼굴 이미지를 생성할 수 있다. A face recognition method of a face recognition device according to another embodiment of the present invention includes the steps of: at least one infrared LED emitting infrared light having a wavelength of 930 nm to 950 nm, emitting infrared rays toward a user attempting authentication; An infrared filter transmitting infrared rays having a wavelength of 930 nm to 950 nm in the light incident on the first image sensor; The first image sensor performs an infrared face image generation process including generating an infrared face image of the user with infrared rays reflected from the user's face and passed through the infrared filter, even when exposed to natural light The infrared face image may be generated.

본 발명에 따른 얼굴인식장치는 종래에 널리 사용되는 850 nm 파장 대역이 아닌 940nm 파장의 적외선을 얼굴 인식에 사용한다. 본 발명의 얼굴인식장치를 자연광이 비추는 환경에 설치하고 테스트한 경우에, 얼굴인식에 충분한 콘트라스트를 가진 적외선 얼굴 이미지를 획득할 수 있었으며, 적외선이 자연광에 의해 포화되는 일이 발생하지 않았다. 따라서 본 발명의 얼굴인식장치는 외부의 자연광이 비치는 환경에서도 얼굴 인식에 사용할 적외선 얼굴 이미지를 생성할 수 있다.The face recognition apparatus according to the present invention uses infrared rays having a wavelength of 940 nm rather than the conventionally widely used 850 nm wavelength band for face recognition. When the face recognition device of the present invention was installed and tested in an environment exposed to natural light, an infrared face image having sufficient contrast for face recognition was obtained, and the infrared ray was not saturated by natural light. Accordingly, the face recognition device of the present invention can generate an infrared face image to be used for face recognition even in an environment where external natural light is shining.

한편, 본 발명의 얼굴인식장치는 적외선 얼굴 이미지와 함께 컬러 얼굴 이미지도 생성할 수 있으며, 컬러 얼굴 이미지는 얼굴 인식과정을 사용자에게 표시하기 위한 사용자 인터페이스용으로 사용하거나, 사용자가 얼굴 인증을 수행한 사실을 기록하기 위한 인증 기록용 로그(Log) 데이터로 사용할 수 있다. On the other hand, the face recognition device of the present invention can generate a color face image as well as an infrared face image, and the color face image is used as a user interface for displaying the face recognition process to the user, or when the user performs face authentication. It can be used as log data for authentication records to record facts.

도 1은 본 발명의 얼굴인식장치를 도시한 도면,
도 2는 본 발명의 얼굴인식장치의 블록도,
도 3은 본 발명의 얼굴인식장치의 동작 설명에 제공되는 흐름도, 그리고
도 4는 본 발명의 얼굴인식장치에 적용되는 적외선 필터의 특성 그래프이다.
1 is a view showing a face recognition device of the present invention,
2 is a block diagram of a face recognition device of the present invention;
3 is a flowchart provided to explain the operation of the face recognition device of the present invention, and
4 is a graph of characteristics of an infrared filter applied to the face recognition device of the present invention.

이하 도면을 참조하여 본 발명을 더욱 상세히 설명한다.The present invention will be described in more detail below with reference to the drawings.

도 1 및 도 2를 참조하면, 본 발명의 얼굴인식장치(100)는 제1 엘이디부(111), 제2 엘이디부(113), 제3 엘이디부(115), 제1 카메라부(131), 제2 카메라부(133), 조도센서(151), 표시부(153) 및 제어부(210)를 포함하며, 이들을 수용하는 본체(155)를 포함한다. 1 and 2, the face recognition apparatus 100 of the present invention includes a first LED unit 111, a second LED unit 113, a third LED unit 115, and a first camera unit 131. , A second camera unit 133, an illuminance sensor 151, a display unit 153, and a control unit 210, and includes a body 155 for accommodating them.

본 발명의 얼굴인식장치(100)는 얼굴 인증을 위한 전용장치로 구현될 수도 있고, 출입통제 등과 같은 목적을 위한 출입통제장치의 형태로 구현될 수도 있고, 이동전화기나 컴퓨터 등과 같은 다른 장치에 내장되는 형태로 구현될 수도 있다. 따라서 얼굴인식장치(100)는 필요에 따라 앞서 제시된 구성 이외에 다양한 구성을 더 포함할 수 있다. 예컨대, 키보드(미도시)와 같은 사용자 인터페이스 또는 지문센서(미도시)와 같은 다른 인증 수단, 또는 무선랜(Wireless LAN, 미도시)과 같은 네트워킹 수단 등이 얼굴인식장치(100)에 포함될 수 있다. The face recognition device 100 of the present invention may be implemented as a dedicated device for face authentication, may be implemented in the form of an access control device for purposes such as access control, etc., or embedded in other devices such as a mobile phone or a computer. It can also be implemented in the form of Accordingly, the face recognition apparatus 100 may further include various configurations in addition to the configurations presented above as needed. For example, a user interface such as a keyboard (not shown) or other authentication means such as a fingerprint sensor (not shown), or a networking means such as a wireless LAN (not shown) may be included in the face recognition apparatus 100. .

제1 엘이디부(111), 제2 엘이디부(113), 제3 엘이디부(115), 제1 카메라부(131), 제2 카메라부(133)는 얼굴 인식을 수행하고자 하는 사용자의 얼굴을 촬영할 수 있도록 본체(155)의 전면(155a)에 배치된다. 제1 엘이디부(111)와 제2 엘이디부(113)는 제1 카메라부(131)와 제2 카메라부(133) 주위에 배치되어 제1 카메라부(131)와 제2 카메라부(133)의 촬영을 위한 조명을 제공한다. 제3 엘이디부(115)는 본체(155)의 전면(155a) 상부에, 제1 엘이디부(111) 및 제2 엘이디부(113)와 이격되어 배치된다. The first LED unit 111, the second LED unit 113, the third LED unit 115, the first camera unit 131, and the second camera unit 133 detect the face of a user who wants to perform face recognition. It is disposed on the front surface 155a of the main body 155 so as to take pictures. The first LED unit 111 and the second LED unit 113 are disposed around the first camera unit 131 and the second camera unit 133 to provide a first camera unit 131 and a second camera unit 133. Provides lighting for shooting. The third LED unit 115 is disposed above the front surface 155a of the main body 155 and spaced apart from the first LED unit 111 and the second LED unit 113.

제1 엘이디부(111)는 제1 카메라부(131)의 촬영을 위한 조명으로서 적어도 하나의 적외선 엘이디를 구비하며, 사용자의 얼굴을 비추는 적외선 광을 출사한다. 제1 엘이디부(111)가 사용하는 적외선은 930 내지 950nm 파장의 근적외선을 사용하며, 940nm 파장이 바람직하다. 태양의 복사조도는 가시광선 영역에서 제일 높고, 적외선 영역에서 파장이 길어질수록 조도가 낮아진다. 종래기술에서 설명한 것처럼, 종래에 적외선 얼굴 이미지 촬영에 사용되는 적외선 파장은 850nm 이었기 때문에, 900nm 이상의 파장에서보다 자연광에 영향을 더 많이 받았다. 따라서 자연광이 직접 또는 반사되어 비추는 환경에서, 850nm 대역의 적외선을 사용하여 촬영한 적외선 얼굴 이미지에서는 얼굴 윤곽을 인식할 수 없는 문제가 발생하였다. The first LED unit 111 includes at least one infrared LED as illumination for photographing the first camera unit 131 and emits infrared light that illuminates the user's face. The infrared rays used by the first LED part 111 are near infrared rays having a wavelength of 930 to 950 nm, and a wavelength of 940 nm is preferable. The sun's irradiance is highest in the visible region, and the longer the wavelength in the infrared region, the lower the illuminance. As described in the prior art, since the infrared wavelength used for photographing an infrared face image in the related art was 850 nm, it was more affected by natural light than at a wavelength of 900 nm or more. Therefore, in an environment in which natural light is directly or reflected, there is a problem that a facial contour cannot be recognized in an infrared face image photographed using an infrared ray of 850 nm band.

출원인은 900nm 이상 대역에서 자연광 조도가 급격히 낮아지는 점에 착안하여 900nm 이상의 대역에서 이미지 촬영에 적합한 적외선 파장을 찾기 위한 실험을 반복하였고, 940nm 파장이 자연광에 의한 영향이 작으면서 얼굴 인식에 충분한 얼굴 이미지를 획득할 수 있는 적외선 파장임을 확인하였다. The applicant repeated the experiment to find an infrared wavelength suitable for image shooting in a band of 900 nm or higher, focusing on the fact that the natural light illuminance in the band of 900 nm or higher was lowered. It was confirmed that it is an infrared wavelength that can be obtained.

제1 엘이디부(111)가 출사하는 940 nm(±10nm) 파장의 적외선은 사용자 얼굴에서 반사되면서 사용자 얼굴 영상으로 바뀐 다음, 제1 카메라부(131)로 다시 입사한다. Infrared rays having a wavelength of 940 nm (±10 nm) emitted from the first LED unit 111 are reflected from the user's face and converted into an image of the user's face, and then re-enter the first camera unit 131.

제2 엘이디부(113)는 제2 카메라부(133)를 위한 조명으로서 일반적인 백색광 엘이디 복수 개를 구비하며, 가시광선 대역의 백색광을 출사한다. 제2 엘이디부(113)가 출사하는 백색광은 사용자 얼굴에서 반사되면서 사용자 얼굴 영상이 되어 제2 카메라부(133)로 입사된다. 제2 엘이디부(113)는 제1 엘이디부(111)와 함께 제1 카메라부(131) 및 제2 카메라부(133)를 둘러싸는 형태로 배치된다. 제1 엘이디부(111)가 복수 개의 적외선 엘이디를 구비하고 제2 엘이디부(113)가 복수 개의 백색 엘이디를 구비한 경우에, 이들 엘이디들은 서로 섞인 형태로 배치된다. The second LED unit 113 is provided with a plurality of general white light LEDs as illumination for the second camera unit 133, and emits white light in a visible light band. The white light emitted from the second LED unit 113 is reflected from the user's face, becomes an image of the user's face, and is incident on the second camera unit 133. The second LED unit 113 is disposed to surround the first camera unit 131 and the second camera unit 133 together with the first LED unit 111. When the first LED unit 111 includes a plurality of infrared LEDs and the second LED unit 113 includes a plurality of white LEDs, these LEDs are disposed in a mixed form.

제3 엘이디부(115)는 제1 카메라부(131)와 제2 카메라부(133)의 촬영에 필수적인 조명은 아니지만, 일부 사용자를 위한 부가적인 조명을 제공한다. 얼굴 이미지 촬영에 적합한 사용자의 위치(얼굴의 위치)는 얼굴인식장치(100)의 전방이며, 그 중에서도 제1 카메라부(131)와 제2 카메라부(133)의 화각 범위 내이다. 본체(155)의 전면(155a)은 일정한 각도로 기울어져 있어서 대부분의 사용자는 약간 머리를 숙이면 촬영할 수 있도록 구현된다. 본체 전면(155a)의 기울기에도 불구하고 키가 큰 사용자의 경우에는 과도하게 허리를 숙여야 할 뿐만 아니라, 그럼에도 얼굴 부분에 그림자가 생긴 얼굴 이미지를 획득하는 경우가 생긴다. 제3 엘이디부(115)는 본체(155)의 전방 상부, 다시 말해 제1 이미지 센서(235)와 제2 이미지 센서(255)의 화각의 상부를 조명하기 위해 본체 전면(155a)의 상부에 마련된다. The third LED unit 115 is not essential for photographing the first camera unit 131 and the second camera unit 133, but provides additional illumination for some users. The user's position (face position) suitable for capturing a face image is in front of the face recognition apparatus 100, and among them, is within the field of view of the first camera unit 131 and the second camera unit 133. The front surface 155a of the main body 155 is inclined at a certain angle, so that most users can take pictures with their head slightly bowed. In spite of the inclination of the front surface 155a of the main body, a tall user not only has to bend his back excessively, but also acquires a face image with a shadow on the face. The third LED part 115 is provided on the front side of the body 155a to illuminate the upper front side of the main body 155, that is, the top of the field of view of the first image sensor 235 and the second image sensor 255 do.

제3 엘이디부(115)는 적어도 하나의 적외선 엘이디와 적어도 하나의 가시광선을 출사하는 가시광선 엘이디를 포함할 수 있다. The third LED unit 115 may include at least one infrared LED and a visible light LED that emits at least one visible light.

제1 카메라부(131)는 본 발명의 얼굴인식장치(100)의 얼굴 인식의 기본 장치로서, 적외선 필터(231), 제1 렌즈부(233) 및 제1 이미지 센서(235)를 포함하여 전방을 촬영한 적외선 이미지를 생성한다. 제1 카메라부(131)가 생성한 적외선 이미지는 제어부(210)에게 제공한다. The first camera unit 131 is a basic device for face recognition of the face recognition device 100 of the present invention, and includes an infrared filter 231, a first lens unit 233, and a first image sensor 235. Create an infrared image of the picture. The infrared image generated by the first camera unit 131 is provided to the controller 210.

아래에서 설명하는 것처럼, 제1 카메라부(131)는 대기모드와 인식모드에서 제어부(210)의 제어에 따라 촬영한다. 대기 모드 중에는 촬영 이벤트는 주기적으로 반복 발생하지만, 인식모드에서는 한 번의 촬영 이벤트가 있다. 인식모드에서 촬영이 완료되면 다시 대기모드로 전환되는 식이다. As described below, the first camera unit 131 takes a picture under the control of the controller 210 in the standby mode and the recognition mode. During the standby mode, the shooting event occurs periodically, but in the recognition mode, there is one shooting event. When shooting is completed in the recognition mode, it is switched back to the standby mode.

대기모드 상태에서, 제1 카메라부(131)는 사용자의 얼굴 인증 시도를 인식하기 위하여 전방을 주기적으로 촬영한다. 이때의 촬영은 사용자의 얼굴이 제대로 포착되지 않을 수도 있고 그래도 무방하므로, 얼굴 인증에 적절한 정도로 얼굴 영역이 촬영되지 않아도 무방하다. 또한, 주기적인 촬영 때마다 복수 개의 이미지를 촬영할 수도 있으나, 한 장의 스틸 이미지를 촬영하는 것으로도 족하다. In the standby mode, the first camera unit 131 periodically photographs the front in order to recognize the user's attempt to authenticate the face. In this case, the user's face may not be properly captured, or it is okay, so it is not necessary to capture the face area to an appropriate degree for face authentication. In addition, a plurality of images may be taken at each periodic shooting, but it is sufficient to take a single still image.

반면, 얼굴 인식을 위해 수행되는 인식모드 중에, 제1 카메라부(131)는 한 장의 적외선 얼굴 이미지를 촬영할 수 있지만, 얼굴 인증의 성공율을 높이기 위해 기설정된 프레임 속도로 복수 개의 적외선 얼굴 이미지를 한꺼번에 생성하는 것이 바람직하다. On the other hand, among the recognition modes performed for face recognition, the first camera unit 131 can capture a single infrared face image, but generates a plurality of infrared face images at a preset frame rate to increase the success rate of face authentication. It is desirable to do.

적외선 필터(231)는 제1 이미지 센서(235)로 입사되는 광에서 940 nm(± 10nm) 파장의 적외선 대역을 통과시키고 나머지 파장의 광을 차단한다. 따라서. 가시광선이나 940 nm(± 10nm) 보다 짧거나 긴 파장의 적외선은 제1 이미지 센서(235)로 입사되지 않게 차단한다. The infrared filter 231 passes an infrared band having a wavelength of 940 nm (± 10 nm) from the light incident to the first image sensor 235 and blocks light of the remaining wavelength. therefore. Visible light or infrared rays having a wavelength shorter or longer than 940 nm (± 10 nm) are blocked from being incident on the first image sensor 235.

적외선 필터(231)은 도 4에 예시적으로 도시된 것처럼, 그 통과시키는 파장의 대역이 비교적 명확하게 구현됨으로써 다른 파장의 광이 입사되지 않도록 하는 것이 바람직하다. 도 4를 참조하면, 가로축은 파장이고 세로축은 필터의 전송율이다. 도 4에 도시되고 본 발명에 적용된 적외선 필터(231)는 940 nm(± 10nm) 파장을 통과시키는 대역통과필터(Band Pass Filter)의 성능을 보인다. As illustrated by way of example in FIG. 4, it is preferable that the infrared filter 231 is relatively clearly implemented in a band of a wavelength it passes through so that light of another wavelength is not incident. 4, the horizontal axis represents the wavelength and the vertical axis represents the transmission rate of the filter. The infrared filter 231 shown in FIG. 4 and applied to the present invention shows the performance of a band pass filter that passes a wavelength of 940 nm (± 10 nm).

자연광은 가시광선의 조도가 가장 높고 840nm 대역에서도 상당한 조도를 가지지만, 940 nm 대역 근처가 되면 제1 엘이디부(111)의 조도와 비교될 만한 정도로 낮아진다. 따라서 940nm 대역을 사용하는 본 발명의 얼굴인식장치(100)는 외부 자연광의 영향을 배제시킬 수 있다. Natural light has the highest illuminance of visible light and has considerable illuminance even in the 840 nm band, but when it approaches the 940 nm band, it is lowered to a level comparable to that of the first LED unit 111. Therefore, the face recognition apparatus 100 of the present invention using the 940nm band can exclude the influence of external natural light.

제1 렌즈부(233)는 사용자의 얼굴 전체를 촬영할 수 있도록 초점 거리와 화각을 조정함으로써 사용자 얼굴에서 반사되어 입사되는 적외선 영상을 제1 이미지 센서(235)로 결상시킨다. 제1 렌즈부(233)는 적외선 필터(231)와 제1 이미지 센서(235) 사이에 마련되거나, 적외선 필터(231)의 전단에 마련될 수 있다. 제1 렌즈부(233)는 통상 하나의 렌즈를 사용하지만 복수 개의 렌즈 조합을 사용할 수도 있다. The first lens unit 233 forms an image of an infrared image reflected from the user's face and incident on the first image sensor 235 by adjusting the focal length and the angle of view so that the entire face of the user can be photographed. The first lens unit 233 may be provided between the infrared filter 231 and the first image sensor 235 or may be provided in front of the infrared filter 231. The first lens unit 233 generally uses one lens, but a combination of a plurality of lenses may be used.

제1 엘이디부(111)가 출사하는 940 nm(± 10nm) 파장의 적외선은 사용자 얼굴에서 반사되면서 사용자 얼굴 영상이 되어 제1 카메라부(131)로 입사된다. 이때 제1 카메라부(131)로 입사되는 얼굴 영상에는 외부 조명이나 자연광에 의한 영상뿐만 아니라 제2 엘이디부(113)에서 출사된 광에 의한 영상도 함께 포함될 수 있다. 제1 카메라부(131)로 입사된 얼굴 영상은 적외선 필터(231)를 통과하면서 적외선 얼굴 영상이 된 다음, 제1 렌즈부(233)에 의해 제1 이미지 센서(235)에 결상된다. Infrared rays having a wavelength of 940 nm (± 10 nm) emitted from the first LED unit 111 are reflected from the user's face, become an image of the user's face, and are incident on the first camera unit 131. In this case, the face image incident on the first camera unit 131 may include not only an image from external lighting or natural light, but also an image from light emitted from the second LED unit 113. The face image incident on the first camera unit 131 passes through the infrared filter 231 and becomes an infrared face image, and is then imaged on the first image sensor 235 by the first lens unit 233.

제1 이미지 센서(235)는 적외선 필터(231)와 제1 렌즈부(233)를 통과한 적외선 얼굴 영상으로부터 디지털 이미지, 즉 적외선 얼굴 이미지를 생성하여, 제어부(210)에 제공한다. The first image sensor 235 generates a digital image, that is, an infrared face image, from the infrared face image that has passed through the infrared filter 231 and the first lens unit 233 and provides it to the controller 210.

제1 이미지 센서(235)는 동작 대역폭에는 930 내지 950nm 파장이 포함되어야 한다. 930 내지 950nm 파장 영역이 제1 이미지 센서(235)의 중심 파장일 필요는 없다. 다만, 일반적인 CMOS(Complementary Metal-Oxide-Semiconductor) 이미지 센서는 가시광선 영역에 최적화되어 있을 뿐만 아니라, 적외선의 영향으로 화질이 나빠지는 것을 방지하기 위해 근적외선 영역을 포함한 적외선 영역의 양자효율을 상당히 낮게 설계되어 있기 때문에, 제1 이미지 센서(235)로 사용할 수 없다.The first image sensor 235 must include a wavelength of 930 to 950 nm in the operating bandwidth. The wavelength region of 930 to 950 nm need not be the center wavelength of the first image sensor 235. However, a general CMOS (Complementary Metal-Oxide-Semiconductor) image sensor is not only optimized for the visible light region, but also designed to significantly lower the quantum efficiency of the infrared region including the near infrared region to prevent image quality from deteriorating due to the influence of infrared rays. Therefore, it cannot be used as the first image sensor 235.

제2 카메라부(133)는 제2 렌즈부(253)와 제2 이미지 센서(255)를 포함하여, 사용자의 얼굴을 촬영하여 얼굴 인식에 사용할 컬러 얼굴 이미지를 생성한다. 본 발명의 얼굴인식장치(100)는 적외선 얼굴 이미지를 얼굴 인식에 사용하기 때문에, 제2 카메라부(133)는 얼굴 인식용이 아니고 따라서 필수 구성이 아니다. 제2 카메라부(133)가 생성하는 컬러 얼굴 이미지는 얼굴 인식과정을 사용자에게 표시하고 안내하기 위한 사용자 인터페이스용으로 사용하거나, 사용자가 얼굴 인증을 수행한 사실을 기록하기 위한 인증 기록용 로그(Log) 데이터로 사용한다. 따라서 아래에서 설명하는 인식모드로 진입하면 제2 카메라부(133)가 촬영하는 이미지가 표시부(153)를 통해 표시될 수 있다. The second camera unit 133 includes a second lens unit 253 and a second image sensor 255 to capture a user's face and generate a color face image to be used for face recognition. Since the face recognition apparatus 100 of the present invention uses an infrared face image for face recognition, the second camera unit 133 is not for face recognition and is therefore not an essential component. The color face image generated by the second camera unit 133 is used as a user interface for displaying and guiding the face recognition process to the user, or an authentication recording log for recording the fact that the user has performed face authentication. ) Used as data. Accordingly, when entering the recognition mode described below, an image captured by the second camera unit 133 may be displayed through the display unit 153.

제2 카메라부(133)는 제어부(210)의 제어에 따라 동작하며, 아래에서 설명하는 얼굴인식장치(100)의 동작모드 중에서 '제2 모드'에서는 동작하지 않으며, '대기모드'에서도 동작하지 않을 수 있다. The second camera unit 133 operates under the control of the controller 210, and does not operate in the'second mode' among the operation modes of the face recognition apparatus 100 described below, and does not operate in the'standby mode'. May not.

제2 카메라부(133)는 통상의 카메라 구성으로 가능하며, 피사체를 촬영하여 컬러 이미지를 생성할 수 있는 것으로 종래에 알려진 어떠한 구성이어도 무방하다. 제2 카메라부(133)의 컬러 얼굴 이미지 생성은 제어부(210)의 제어에 따라 수행되며, 생성한 컬러 얼굴 이미지는 제어부(210)에게 제공한다. The second camera unit 133 may have a conventional camera configuration, and any configuration known in the art as capable of generating a color image by photographing a subject may be used. The generation of the color face image by the second camera unit 133 is performed under the control of the controller 210, and the generated color face image is provided to the controller 210.

예를 들어, 제2 렌즈부(253)는 피사체에서 입사되는 얼굴 영상을 제2 이미지 센서(255)에 결상한다. 제2 이미지 센서(255)는 통상의 컬러 이미지 생성용 이미지 센서로서 제2 렌즈부(253)를 통과해 입사되는 얼굴 영상을 이용하여 디지털 컬러 얼굴 이미지를 생성한다. For example, the second lens unit 253 images a face image incident on the subject on the second image sensor 255. The second image sensor 255 is a conventional image sensor for generating a color image, and generates a digital color face image using a face image incident through the second lens unit 253.

조도센서(151)는 본체(155)의 전면(155a)에 장착되어, 인식대상이 되는 사용자 얼굴이 위치하는 본체(155) 전방의 조도를 검출한다.The illuminance sensor 151 is mounted on the front surface 155a of the main body 155 and detects the illuminance in front of the main body 155 where a user's face to be recognized is located.

표시부(153)는 사용자 인터페이스 수단의 하나로서, 제어부(210)의 제어에 따라 얼굴 인증에 필요한 각종 정보 또는 각종 제어명령을 표시하거나, 얼굴인식 과정 중에 제2 카메라부(133)가 생성하는 사용자의 컬러 얼굴 이미지를 표시한다. The display unit 153 is one of the user interface means, and displays various information or various control commands required for face authentication under the control of the control unit 210, or the user generated by the second camera unit 133 during the face recognition process. Display a color face image.

제어부(210)는 본 발명의 얼굴인식장치(100)의 전반적인 동작을 수행하며, 모드제어부(211), 얼굴검출부(213), 특징점추출부(215) 및 얼굴인식부(217)를 포함하여 본 발명의 얼굴 인식과정을 수행한다.The control unit 210 performs the overall operation of the face recognition apparatus 100 of the present invention, and includes a mode control unit 211, a face detection unit 213, a feature point extraction unit 215, and a face recognition unit 217. Perform the face recognition process of the invention.

모드제어부(211)는 얼굴인식장치(100)의 동작모드를 제어한다. 본 발명의 동작모드에는 사용자의 접근 정도를 확인하면서 사용자의 얼굴 인증 시도를 기다리는 대기모드와, 사용자의 얼굴 인증 시도에 따라 얼굴 인식을 위한 동작을 수행하는 인식모드가 있다. The mode control unit 211 controls an operation mode of the face recognition apparatus 100. The operation mode of the present invention includes a standby mode waiting for a user's face authentication attempt while checking the user's access degree, and a recognition mode performing an operation for face recognition according to the user's face authentication attempt.

얼굴인식장치(100)는 일반적으로 대기모드에서 동작하며, 사용자의 접근을 인식되면 인식모드로 전환하여 얼굴 인식 이벤트를 수행한다. 인식모드로의 전환은 사용자의 접근을 인식한 때에 이루어지는데, 사용자의 접근을 인식하기 위해 별도의 센서나 버튼 조작을 이용할 수도 있고 제1 카메라부(131) 또는 제2 카메라부(133)를 사용할 수도 있다. The face recognition apparatus 100 generally operates in a standby mode, and when a user's approach is recognized, it switches to a recognition mode to perform a face recognition event. The conversion to the recognition mode occurs when the user's access is recognized. In order to recognize the user's access, a separate sensor or button operation may be used, or the first camera unit 131 or the second camera unit 133 may be used. May be.

예를 들어, 사용자가 버튼 조작을 하거나 근접센서 등이 사용자의 접근을 확인하면 사용자의 접금으로 인식할 수 있다. 버튼 조작 방법은 다른 오류의 가능성이 상대적으로 적지만 사용자의 행동을 요구하기 때문에 불편하고, 센서를 이용하는 방법은 오동작의 가능성이 크다. 다른 방법으로, 대기모드 중에 얼굴검출부(213)는 제1 이미지 센서(235) 또는 제2 이미지 센서(255)로 하여금 주기적으로 전방을 촬영하여 얼굴 이미지를 생성하도록 하고. 생성한 얼굴 이미지에서 사람의 얼굴이 검출되면 그 검출정보를 모드제어부(211)에게 제공할 수 있다. 모드제어부(211)가 얼굴검출부(213)가 제공하는 검출정보를 이용하여 대기모드를 인식모드로 전환할 수 있다. For example, when a user operates a button or a proximity sensor confirms the user's access, it can be recognized as the user's contact. The button operation method is relatively less prone to other errors, but it is inconvenient because it requires a user's action, and the method using a sensor has a high possibility of malfunction. Alternatively, in the standby mode, the face detection unit 213 causes the first image sensor 235 or the second image sensor 255 to periodically photograph the front side to generate a face image. When a human face is detected in the generated face image, the detection information may be provided to the mode control unit 211. The mode control unit 211 may switch the standby mode to the recognition mode by using the detection information provided by the face detection unit 213.

또한, 인식모드는 조도센서(151)가 검출한 조도 값이 기설정된 기준값 이상인 상태인 제1 모드와, 조도가 기준값 미만인 상태인 제2 모드로 나눈다. 대기모드에서 인식모드로 전환될 때, 모드제어부(211)는 조도센서(151)가 검출한 조도값을 기초로 제1 모드와 제2 모드를 선택한다. Further, the recognition mode is divided into a first mode in which the illuminance value detected by the illuminance sensor 151 is equal to or greater than a preset reference value, and a second mode in which illuminance is less than the reference value. When switching from the standby mode to the recognition mode, the mode control unit 211 selects the first mode and the second mode based on the illuminance value detected by the illuminance sensor 151.

인식모드 중에 얼굴검출부(213)는 제1 이미지 센서(235)와 제2 이미지 센서(255)로 하여금 얼굴 이미지를 생성하도록 제어하는데, 제1 모드 중에는 제1 이미지 센서(235)와 제2 이미지 센서(255)가 동시에 얼굴 이미지를 생성하도록 제어하고, 제2 모드 중에는 제1 이미지 센서(235)만 얼굴 이미지를 생성하도록 제어한다. During the recognition mode, the face detection unit 213 controls the first image sensor 235 and the second image sensor 255 to generate a face image. In the first mode, the first image sensor 235 and the second image sensor Control 255 to simultaneously generate a face image, and in the second mode, only the first image sensor 235 is controlled to generate a face image.

얼굴검출부(213)는 제1 카메라부(131)가 제공하는 이미지에서 얼굴 영역을 검출한다. The face detection unit 213 detects a face area from an image provided by the first camera unit 131.

우선, 인식모드 중에, 얼굴검출부(213)는 얼굴 인식을 위한 전처리 과정을 수행하는데, 제1 엘이디부(111)를 점등한 상태에서 제1 카메라부(131)가 기설정된 프레임 속도로 제공하는 얼굴 이미지에서 사람의 얼굴을 추출한다. 얼굴 부분 추출에는 지식 기반 학습 방법, 특징 기반 방법, 템플릿 매칭 방법, 외형 기반 방법 등이 사용될 수 있으며, 종래에 알려진 어떠한 방법이라도 적용할 수 있다. First, in the recognition mode, the face detection unit 213 performs a pre-processing process for face recognition. A face provided by the first camera unit 131 at a preset frame rate while the first LED unit 111 is turned on. Extract the human face from the image. A knowledge-based learning method, a feature-based method, a template matching method, an appearance-based method, and the like may be used to extract the face part, and any conventionally known method may be applied.

외형 기반 방법은, 예컨대, 제1 카메라부(131)가 제공하는 적외선 얼굴 이미지에 종래의 이미지 처리방법을 적용하여 대략 원형에 해당하는 얼굴의 외곽선을 추출한 다음, 얼굴 외곽선에서 위치 기반으로 눈과 입을 검출함으로써 얼굴 윤곽을 인식한다. The appearance-based method is, for example, by applying a conventional image processing method to an infrared face image provided by the first camera unit 131 to extract an outline of a face corresponding to a roughly circular shape, and then extract the eyes and mouth based on the location from the face outline. By detecting, the face contour is recognized.

대기모드 중의 얼굴검출부(213)의 동작은 사용자의 인증 시도를 확인하는데 사용된다. 대기모드 중에 얼굴검출부(213)는 제1 엘이디부(111)를 소등한 상태에서 제1 카메라부(131)로 하여금 주기적으로 전방을 촬영하도록 제어한다. 제1 카메라부(131)가 전방을 촬영한 이미지를 제공하면, 얼굴검출부(213)는 이미지 내에 사람의 얼굴 부분이 있는지 정도를 확인함으로써 사용자의 인증시도 여부를 확인할 수 있다. 이때의 이미지 처리는 얼굴 이미지에서 특징점을 추출하기 위한 전처리 과정 정도가 아니어도 무방하다. 사용자의 얼굴인증 시도 여부를 확인하기 위해서는 많은 이미지가 필요한 것이 아니므로, 제1 카메라부(131)는 스틸 이미지를 촬영하거나, 얼굴 인식을 위한 프레임 속도보다 훨씬 낮은 프레임 속도로 이미지를 생성해도 충분하다. The operation of the face detection unit 213 in the standby mode is used to confirm the user's authentication attempt. During the standby mode, the face detection unit 213 controls the first camera unit 131 to periodically photograph the front side while the first LED unit 111 is turned off. When the first camera unit 131 provides an image photographed in front, the face detection unit 213 may check whether or not the user attempts to authenticate by checking the degree to which a person's face is present in the image. The image processing at this time does not need to be a preprocessing process for extracting feature points from the face image. Since many images are not required to check whether the user attempts to perform face authentication, it is sufficient for the first camera unit 131 to take a still image or generate an image at a frame rate much lower than the frame rate for face recognition. .

특징점추출부(215)는 얼굴 인식을 위하여 얼굴검출부(213)가 검출한 얼굴 영역에서 사용자 얼굴의 특징점을 추출한다. 추출된 특징점은 사용자 등록을 위해 사용될 수도 있고, 기등록된 사용자와 비교하기 위한 인증수단으로 사용될 수도 있다. The feature point extracting unit 215 extracts feature points of the user's face from the face area detected by the face detecting unit 213 for face recognition. The extracted feature points may be used for user registration or may be used as an authentication means for comparing with a previously registered user.

특징점추출부(215)가 추출하는 특징점에는 사용자에 특유한 얼굴의 형태 정보를 반영하는 특징으로서, 예컨대 얼굴, 턱, 눈, 눈썹, 코, 입 등의 형태, 길이 및 그 상대적 위치 등에 대한 정보 등이 포함된다. 그 밖에도 얼굴의 특징점은 종래에 알려진 다양한 정보와 그 추출방식을 적용하여 추출할 수 있다. 다만, 본 발명의 특징점추출부(215)는 적외선 얼굴 이미지를 사용하는 점에서 특징이 있다. The feature points extracted by the feature point extraction unit 215 are features that reflect the shape information of the face peculiar to the user, such as information on the shape, length, and relative position of the face, chin, eyes, eyebrows, nose, mouth, etc. Included. In addition, the feature points of the face can be extracted by applying various information and extraction methods known in the art. However, the feature point extracting unit 215 of the present invention is characterized in that it uses an infrared face image.

얼굴인식부(217)는 특징점추출부(215)가 추출한 특징점 데이터를 기등록된 '사용자 등록정보'와 비교하는 방법으로 얼굴 인증을 시도하는 사용자를 인증한다. 사용자 등록정보에는 사용자 얼굴 이미지로부터 추출한 특징점 데이터와 사용자 이미지(컬러 및/또는 적외선 이미지), 사용자에 대한 정보(이름 등) 등을 포함할 수 있다. 얼굴인식장치(100)는 자체적으로 사용자 등록과정을 수행하여 사용자 등록정보를 보유할 수도 있고, 다른 인증장치나 서버로부터 사용자 등록정보를 제공받아 보유할 수도 있다. The face recognition unit 217 authenticates a user who attempts face authentication by comparing the feature point data extracted by the feature point extracting unit 215 with previously registered'user registration information'. The user registration information may include feature point data extracted from a user's face image, a user image (color and/or infrared image), information about a user (name, etc.). The face recognition apparatus 100 may itself perform a user registration process to hold user registration information, or may receive and hold user registration information from another authentication device or server.

얼굴인식장치의 동작Face recognition device operation

이하에서는 제어부(210)의 동작을 중심으로 본 발명의 얼굴인식장치(100)의 동작을 설명한다. 본 발명의 기본적인 얼굴 인식방법은 사용자의 얼굴 인증 시도를 확인하는 단계와, 얼굴검출부(213)가 제1 카메라부(131)가 기설정된 프레임 속도로 생성하는 복수 개의 얼굴 이미지마다 얼굴 부분을 추출하고, 특징점추출부(215)가 복수 개의 얼굴 이미지마다 얼굴 특징점 데이터를 추출함으로써 수행된다. Hereinafter, the operation of the face recognition apparatus 100 of the present invention will be described centering on the operation of the control unit 210. The basic face recognition method of the present invention includes the step of confirming the user's attempt to authenticate the face, and the face detection unit 213 extracts a face portion for each of a plurality of face images generated by the first camera unit 131 at a preset frame rate. , The feature point extraction unit 215 is performed by extracting facial feature point data for each of a plurality of face images.

<얼굴 인증 시도의 확인: S301, S303><Confirmation of face authentication attempt: S301, S303>

얼굴인식장치(100)는 기본적으로 대기모드에서 동작한다. 대기모드 중에, 얼굴검출부(213)는 제1 카메라부(131)로 하여금 주기적으로 전방을 촬영하여 이미지를 생성하여 제어부(210)에게 제공한다. 이때 제1 엘이디부(111)를 점등할 수도 있으나, 제1 엘이디부(111)를 소등하여 외부 조명 또는 자연광 상태에서 사용자를 촬영하는 것이 바람직하다(S301). The face recognition device 100 basically operates in the standby mode. During the standby mode, the face detection unit 213 causes the first camera unit 131 to periodically photograph the front side to generate an image and provide it to the control unit 210. At this time, the first LED unit 111 may be turned on, but it is preferable to take a picture of the user in external lighting or natural light by turning off the first LED unit 111 (S301).

얼굴검출부(213)는 제1 카메라부(131)가 촬영한 이미지에 대한 이미지처리를 수행하여 사람의 얼굴을 검출한다. 모드제어부(211)는 얼굴검출부(213)가 사람의 얼굴을 인식하면 얼굴 인증 시도가 있는 것으로 판단한다. 얼굴검출부(213)는 얼굴 이미지에서 엣지(Edge) 검출을 통해 얼굴의 외곽을 검출하는 정도를 수행할 수도 있다(S303).The face detection unit 213 detects a human face by performing image processing on the image captured by the first camera unit 131. When the face detection unit 213 recognizes a person's face, the mode control unit 211 determines that there is a face authentication attempt. The face detection unit 213 may perform a degree of detecting the outer face of the face by detecting an edge in the face image (S303).

앞서 설명한 것처럼, 얼굴인식장치(100)는 근접센서나 버튼 등을 더 포함하고, 제어부(210)은 근접센서나 사용자의 버튼 조작을 기초로 얼굴 인증 시도를 확인할 수 있는 인증개시부(미도시)를 더 포함할 수 있다. As described above, the face recognition device 100 further includes a proximity sensor or a button, and the control unit 210 is an authentication initiating unit (not shown) that can confirm a face authentication attempt based on the proximity sensor or the user's button manipulation. It may further include.

<얼굴 인증을 위한 동작모드 선택: S305, S307><Selection of operation mode for face authentication: S305, S307>

S303 단계에서 사용자의 얼굴이 인식되면, 모드제어부(211)는 동작모드를 대기모드에서 인식모드로 전환하고, 조도센서(151)가 검출하는 조도를 확인한다(S305). When the user's face is recognized in step S303, the mode control unit 211 switches the operation mode from the standby mode to the recognition mode, and checks the illuminance detected by the illuminance sensor 151 (S305).

만약, 조도가 기준값 이상이면 제1 모드로 전환하고, 조도가 기준값 미만이면 제2 모드로 전환한다(S307). If the illuminance is higher than the reference value, the first mode is switched, and if the illuminance is less than the reference value, the second mode is switched (S307).

<인식모드에 따른 얼굴 이미지 생성: S309, S311><Create face image according to recognition mode: S309, S311>

모드제어부(211)의 모드 전환에 따라, 얼굴검출부(213)는 제1 카메라부(131)로 하여금 기설정된 프레임 속도로 복수 개의 적외선 얼굴 이미지를 생성하도록 제어한다. 얼굴검출부(213)는 제1 엘이디부(111)를 점등하고 제1 카메라부(131)로 하여금 기설정된 프레임 속도로 사용자를 촬영하여 적외선 얼굴 이미지를 생성하도록 제어한다.According to the mode change of the mode control unit 211, the face detection unit 213 controls the first camera unit 131 to generate a plurality of infrared face images at a preset frame rate. The face detection unit 213 turns on the first LED unit 111 and controls the first camera unit 131 to photograph the user at a preset frame rate to generate an infrared face image.

한편, 동작모드가 제1 모드이면, 얼굴검출부(213)는 제1 카메라부(131)와 동시에 제2 카메라부(133)로 하여금 기설정된 프레임 속도로 복수 개의 컬러 얼굴 이미지를 생성하도록 제어한다. 따라서 얼굴검출부(213)는 제2 엘이디부(113)를 점등하고 제2 카메라부(133)로 하여금 기설정된 프레임 속도로 사용자를 촬영하여 컬러 얼굴 이미지를 생성하도록 제어한다. 한편, 제1 모드 중에, 제2 카메라부(133)가 생성하는 컬러 얼굴 이미지는 표시부(153)를 통해 표시된다(S309). Meanwhile, when the operation mode is the first mode, the face detection unit 213 controls the second camera unit 133 to generate a plurality of color face images at a preset frame rate at the same time as the first camera unit 131. Accordingly, the face detection unit 213 turns on the second LED unit 113 and controls the second camera unit 133 to photograph the user at a preset frame rate to generate a color face image. Meanwhile, during the first mode, the color face image generated by the second camera unit 133 is displayed through the display unit 153 (S309).

동작모드가 제2 모드이면, 얼굴검출부(213)는 제2 카메라부(133)의 촬영을 진행하지 않는다. 표시부(153)에는 제1 카메라부(131)가 촬영한 적외선 얼굴 이미지가 출력된다(S311). When the operation mode is the second mode, the face detection unit 213 does not proceed to photograph the second camera unit 133. An infrared face image captured by the first camera unit 131 is output on the display unit 153 (S311).

<얼굴 인식 및 인증: S313> <Face Recognition and Authentication: S313>

얼굴검출부(213)는 제1 카메라부(131)가 촬영한 적외선 얼굴 이미지에서 얼굴 부분을 인식하고, 특징점추출부(215)는 얼굴의 특징점을 추출한다(S309). 추출된 특징점은 필요에 따라 사용자 등록에 사용되거나, 기등록된 사용자 정보와 비교됨으로써 사용자 인증에 사용된다. The face detection unit 213 recognizes a face part from the infrared face image captured by the first camera unit 131, and the feature point extraction unit 215 extracts feature points of the face (S309). The extracted feature points are used for user registration as necessary or used for user authentication by comparing with previously registered user information.

이상의 방법으로 본 발명의 얼굴인식장치(100)가 동작한다. The face recognition apparatus 100 of the present invention operates in the above manner.

이상에서는 본 발명의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안 될 것이다.In the above, preferred embodiments of the present invention have been illustrated and described, but the present invention is not limited to the specific embodiments described above, and is generally used in the technical field to which the present invention belongs without departing from the gist of the present invention claimed in the claims. Various modifications are possible by those skilled in the art of course, and these modifications should not be individually understood from the technical idea or perspective of the present invention.

Claims (10)

얼굴인식장치에 있어서,
930 nm 내지 950 nm 파장의 적외선 광을 출사하는 적어도 하나의 적외선 엘이디를 구비하여 인증을 시도하는 사용자를 향해 적외선을 출사하는 제1 엘이디부;
상기 사용자의 얼굴에서 반사되어 입사되는 광으로 상기 사용자에 대한 적외선 얼굴 이미지를 생성하는 제1 이미지 센서; 및
상기 제1 이미지 센서로 입사되는 광에서 930 nm 내지 950 nm 파장의 적외선을 투과시키는 적외선 필터를 포함하여, 자연광에 노출된 상태에서도 상기 적외선 얼굴 이미지를 생성할 수 있는 것을 특징으로 하는 얼굴인식장치.
In the face recognition device,
A first LED unit including at least one infrared LED emitting infrared light having a wavelength of 930 nm to 950 nm and emitting infrared rays toward a user attempting authentication;
A first image sensor generating an infrared face image of the user with light reflected from the user's face and incident; And
A face recognition device comprising an infrared filter that transmits infrared rays having a wavelength of 930 nm to 950 nm from light incident to the first image sensor, and generates the infrared face image even when exposed to natural light.
제1항에 있어서,
상기 제1 이미지 센서와 나란히 배치되어 상기 사용자 얼굴의 컬러 이미지를 생성하는 제2 이미지 센서; 및
적어도 하나의 엘이디를 구비하여 상기 제2 이미지 센서의 컬러 이미지 생성을 위한 가시광선 대역의 광을 상기 사용자 얼굴을 향해 출사하는 제2 엘이디부를 더 포함하는 것을 특징으로 하는 얼굴인식장치.
The method of claim 1,
A second image sensor disposed in parallel with the first image sensor to generate a color image of the user's face; And
A face recognition apparatus comprising: a second LED unit including at least one LED to emit light in a visible band for generating a color image by the second image sensor toward the user's face.
제2항에 있어서,
외면에 설치되어 조도를 검출하는 조도 센서; 및
상기 제1 이미지 센서와 제2 이미지 센서가 이미지를 생성하도로 제어하되, 상기 조도 센서가 검출한 조도가 기준값 이상인 제1 모드에서는 상기 제1 이미지 센서와 제2 이미지 센서가 동시에 이미지를 생성하도록 제어하고, 상기 조도가 상기 기준값 미만인 제2 모드에서는 상기 제1 이미지 센서가 이미지를 생성하도록 제어하는 제어부를 더 포함하는 것을 특징으로 하는 얼굴인식장치.
The method of claim 2,
An illuminance sensor installed on the outer surface to detect illuminance; And
The first image sensor and the second image sensor are controlled to generate an image, but in the first mode in which the illuminance detected by the illuminance sensor is equal to or greater than a reference value, the first image sensor and the second image sensor are controlled to simultaneously generate an image. And a controller configured to control the first image sensor to generate an image in a second mode in which the illuminance is less than the reference value.
제3항에 있어서,
상기 제2 이미지 센서가 촬영한 이미지를 사용자에게 표시하는 표시부를 더 포함하고,
상기 제어부는 상기 제1 모드에서 상기 제2 이미지 센서가 생성한 컬러 이미지를 상기 표시부에 표시하고, 상기 제2 모드에서 상기 제1 이미지 센서가 생성한 적외선 이미지를 상기 표시부에 표시하는 것을 특징으로 하는 얼굴인식장치.
The method of claim 3,
Further comprising a display unit for displaying the image captured by the second image sensor to the user,
Wherein the control unit displays a color image generated by the second image sensor on the display unit in the first mode, and displays an infrared image generated by the first image sensor on the display unit in the second mode Face recognition device.
제2항에 있어서,
상기 제1 엘이디부 및 제2 엘이디부로부터 이격된 상부에 배치되고, 적어도 하나의 적외선 엘이디와 적어도 하나의 가시광선을 출사하는 가시광선 엘이디를 구비하여 상기 제1 이미지 센서와 제2 이미지 센서의 화각의 상부를 조명하는 제3 엘이디부를 더 포함하고,
상기 제1 엘이디부 및 제2 엘이디부는 상기 제1 이미지 센서와 제2 이미지 센서 주위에 마련되어 상기 제1 이미지 센서와 제2 이미지 센서의 화각의 가운데를 조명하는 것을 특징으로 하는 얼굴인식장치.
The method of claim 2,
An angle of view of the first image sensor and the second image sensor by having at least one infrared LED and a visible light LED that is disposed above the first LED unit and spaced apart from the second LED unit and emits at least one visible light Further comprising a third LED to illuminate the upper portion of the,
The first LED unit and the second LED unit are provided around the first and second image sensors to illuminate a center of a field of view of the first and second image sensors.
얼굴인식장치의 얼굴 인식방법에 있어서,
930 nm 내지 950 nm 파장의 적외선 광을 출사하는 적어도 하나의 적외선 엘이디가 인증을 시도하는 사용자를 향해 적외선을 출사하는 단계;
적외선 필터가 제1 이미지 센서로 입사되는 광에서 930 nm 내지 950 nm 파장의 적외선을 투과시키는 단계; 및
상기 제1 이미지 센서가 상기 사용자의 얼굴에서 반사되어 상기 적외선 필터를 통과한 적외선으로 상기 사용자에 대한 적외선 얼굴 이미지를 생성하는 단계를 포함하는 적외선 얼굴 이미지 생성과정을 수행하여, 자연광에 노출된 상태에서도 상기 적외선 얼굴 이미지를 생성할 수 있는 것을 특징으로 하는 얼굴인식장치의 얼굴 인식방법.
In the face recognition method of the face recognition device,
At least one infrared LED emitting infrared light having a wavelength of 930 nm to 950 nm emitting infrared rays toward a user attempting authentication;
Transmitting infrared rays having a wavelength of 930 nm to 950 nm in the light incident on the first image sensor by the infrared filter; And
The first image sensor performs an infrared face image generation process including generating an infrared face image of the user with infrared rays reflected from the user's face and passed through the infrared filter, even when exposed to natural light Face recognition method of a face recognition device, characterized in that capable of generating the infrared face image.
제6항에 있어서,
상기 적외선 얼굴 이미지 생성과정 중에,
적어도 하나의 엘이디가 상기 사용자 얼굴을 향해 상기 제2 이미지 센서의 컬러 이미지 생성을 위한 가시광선 대역의 광을 출사하는 단계; 및
제2 이미지 센서가 상기 제1 이미지 센서와 나란히 배치되어 상기 사용자 얼굴의 컬러 이미지를 생성하는 단계를 포함하는 컬러 얼굴 이미지 생성과정을 수행하는 것을 특징으로 하는 얼굴인식장치의 얼굴 인식방법.
The method of claim 6,
During the process of generating the infrared face image,
At least one LED emitting light in a visible ray band toward the user's face to generate a color image by the second image sensor; And
A face recognition method of a face recognition apparatus, characterized in that a second image sensor is disposed in parallel with the first image sensor to perform a color face image generation process including generating a color image of the user's face.
제7항에 있어서,
본체 외면에 설치된 조도센서를 이용하여 조도를 검출하는 단계; 및
제어부가 상기 제1 이미지 센서와 제2 이미지 센서가 이미지를 생성하도로 제어하는 단계를 더 포함하고,
상기 제어부는 상기 조도 센서가 검출한 조도가 기준값 이상인 제1 모드에서는 상기 적외선 얼굴 이미지 생성과정과 컬러 얼굴 이미지 생성과정을 모두 수행하고, 상기 조도가 상기 기준값 미만인 제2 모드에서는 상기 컬러 얼굴 이미지 생성과정을 수행하지 않는 것을 특징으로 하는 얼굴인식장치의 얼굴 인식방법.
The method of claim 7,
Detecting illuminance using an illuminance sensor installed on the outer surface of the main body; And
The control unit further comprises controlling the first image sensor and the second image sensor to generate an image,
The controller performs both the infrared face image generation process and the color face image generation process in a first mode in which the illuminance detected by the illuminance sensor is greater than or equal to the reference value, and the color face image generation process in the second mode when the illuminance is less than the reference value Face recognition method of a face recognition device, characterized in that not performing.
제8항에 있어서,
상기 제1 모드에서는 상기 제2 이미지 센서가 촬영한 이미지를 표시부를 통해 사용자에게 표시하고, 상기 제2 모드에서는 상기 제1 이미지 센서가 생성한 적외선 이미지를 상기 표시부에 표시하는 것을 특징으로 하는 얼굴인식장치의 얼굴 인식방법.
The method of claim 8,
In the first mode, an image captured by the second image sensor is displayed to the user through a display unit, and in the second mode, an infrared image generated by the first image sensor is displayed on the display unit. Device face recognition method.
제7항에 있어서,
상기 제1 엘이디부 및 제2 엘이디부로부터 이격된 상부에 배치된 적어도 하나의 적외선 엘이디와 적어도 하나의 가시광선을 출사하는 가시광선 엘이디가 상기 제1 이미지 센서와 제2 이미지 센서의 화각의 상부를 조명하는 단계를 더 포함하고,
상기 제1 엘이디부 및 제2 엘이디부는 상기 제1 이미지 센서와 제2 이미지 센서 주위에 마련되어 상기 제1 이미지 센서와 제2 이미지 센서의 화각의 가운데를 조명하는 것을 특징으로 하는 얼굴인식장치의 얼굴 인식방법.
The method of claim 7,
At least one infrared LED disposed at an upper portion spaced apart from the first LED unit and the second LED unit, and a visible light LED emitting at least one visible light are positioned above the field of view of the first and second image sensors. Further comprising the step of lighting,
The first LED unit and the second LED unit are provided around the first image sensor and the second image sensor to illuminate the center of the field of view of the first image sensor and the second image sensor. Way.
KR1020190025871A 2019-03-06 2019-03-06 Apparatus and Method for Making a Facial Image Suitable for Facial Recognition by Using Infraredat at Natural Lighting Ceased KR20200107167A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190025871A KR20200107167A (en) 2019-03-06 2019-03-06 Apparatus and Method for Making a Facial Image Suitable for Facial Recognition by Using Infraredat at Natural Lighting

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190025871A KR20200107167A (en) 2019-03-06 2019-03-06 Apparatus and Method for Making a Facial Image Suitable for Facial Recognition by Using Infraredat at Natural Lighting

Publications (1)

Publication Number Publication Date
KR20200107167A true KR20200107167A (en) 2020-09-16

Family

ID=72669684

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190025871A Ceased KR20200107167A (en) 2019-03-06 2019-03-06 Apparatus and Method for Making a Facial Image Suitable for Facial Recognition by Using Infraredat at Natural Lighting

Country Status (1)

Country Link
KR (1) KR20200107167A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230068527A (en) 2021-11-11 2023-05-18 주식회사 유니온커뮤니티 Apparatus and Method for Recognizing Fake Face in Face Recognizing by Using Infrared

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230068527A (en) 2021-11-11 2023-05-18 주식회사 유니온커뮤니티 Apparatus and Method for Recognizing Fake Face in Face Recognizing by Using Infrared

Similar Documents

Publication Publication Date Title
KR101014325B1 (en) Infrared Face Recognition System and Method
US8514277B2 (en) Video infrared retinal image scanner
US20070189583A1 (en) Infrared face authenticating apparatus, and portable terminal and security apparatus including the same
CN104956377A (en) Device for capturing person-specific data
KR20030062377A (en) System and method for iris recognition using stereoscopic face recognition
JP3586456B2 (en) Personal authentication method and personal authentication device
WO2005057472A1 (en) A face recognition method and system of getting face images
JP2002092605A (en) Iris recognition device
JP2008181468A (en) Infrared face authentication apparatus, and portable terminal and security apparatus including the same
KR102160137B1 (en) Apparatus and Method for Recognizing Fake Face By Using Minutia Data Variation
JP2003016434A (en) Individual authentication device
JP2007319174A (en) Imaging device and authentication device using the same
US20210192205A1 (en) Binding of selfie face image to iris images for biometric identity enrollment
JP4811863B2 (en) Face photographing device and face matching device
KR101588225B1 (en) Iris data Registration and Authentication device and the method in the camera of a mobile
JP2008158597A (en) Face authentication device, its method, and mobile terminal therewith
KR20200107167A (en) Apparatus and Method for Making a Facial Image Suitable for Facial Recognition by Using Infraredat at Natural Lighting
CN213844156U (en) Biological characteristic acquisition and identification system and terminal equipment
JP3991042B2 (en) Personal authentication method and personal authentication device
CN113316781B (en) Authentication system, authentication device and authentication method
WO2022092305A1 (en) Biological information acquisition device, biological authentication device, and biological information acquisition method
JP2007319175A (en) Imaging device and authentication device using the same
JP2007094535A (en) Authentication system and authentication method
KR101636429B1 (en) Authentication system using biometric information
JP2008021072A (en) Imaging system, imaging apparatus, collation apparatus using the same, and imaging method

Legal Events

Date Code Title Description
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20190306

PA0201 Request for examination
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20200303

Patent event code: PE09021S01D

E601 Decision to refuse application
PE0601 Decision on rejection of patent

Patent event date: 20200916

Comment text: Decision to Refuse Application

Patent event code: PE06012S01D

Patent event date: 20200303

Comment text: Notification of reason for refusal

Patent event code: PE06011S01I

PG1501 Laying open of application
J201 Request for trial against refusal decision
PJ0201 Trial against decision of rejection

Patent event date: 20201019

Comment text: Request for Trial against Decision on Refusal

Patent event code: PJ02012R01D

Patent event date: 20200916

Comment text: Decision to Refuse Application

Patent event code: PJ02011S01I

Appeal kind category: Appeal against decision to decline refusal

Appeal identifier: 2020101002546

Request date: 20201019

J301 Trial decision

Free format text: TRIAL NUMBER: 2020101002546; TRIAL DECISION FOR APPEAL AGAINST DECISION TO DECLINE REFUSAL REQUESTED 20201019

Effective date: 20210722

PJ1301 Trial decision

Patent event code: PJ13011S01D

Patent event date: 20210722

Comment text: Trial Decision on Objection to Decision on Refusal

Appeal kind category: Appeal against decision to decline refusal

Request date: 20201019

Decision date: 20210722

Appeal identifier: 2020101002546