[go: up one dir, main page]

JP2014186580A - Authentication device, imaging device, registration method of authentication data, program, and storage medium - Google Patents

Authentication device, imaging device, registration method of authentication data, program, and storage medium Download PDF

Info

Publication number
JP2014186580A
JP2014186580A JP2013061384A JP2013061384A JP2014186580A JP 2014186580 A JP2014186580 A JP 2014186580A JP 2013061384 A JP2013061384 A JP 2013061384A JP 2013061384 A JP2013061384 A JP 2013061384A JP 2014186580 A JP2014186580 A JP 2014186580A
Authority
JP
Japan
Prior art keywords
feature information
image data
similarity
authentication
threshold
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013061384A
Other languages
Japanese (ja)
Inventor
Masahiro Yamashita
将弘 山下
Yuji Koide
裕司 小出
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013061384A priority Critical patent/JP2014186580A/en
Publication of JP2014186580A publication Critical patent/JP2014186580A/en
Pending legal-status Critical Current

Links

Landscapes

  • Collating Specific Patterns (AREA)
  • Image Input (AREA)
  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Abstract

【課題】ユーザが画像データを登録する際に、画像データが登録されるグループを容易に認識可能な認証装置を提供する。
【解決手段】認証装置は、同一被写体の複数の第1特徴情報および複数の第1画像データを複数のグループに分類して記憶する記憶手段と、撮像手段により取得された同一被写体の第2画像データから抽出された第2特徴情報と複数の第1特徴情報とを比較して、第2特徴情報と複数の第1特徴情報のそれぞれとの類似度を算出する算出処理手段と、第2画像データを、複数のグループのうち類似度の最も高いグループと関連付けて表示する表示手段とを有する。
【選択図】図2
An authentication apparatus capable of easily recognizing a group in which image data is registered when the user registers image data.
An authentication apparatus includes a storage unit that stores a plurality of first feature information and a plurality of first image data of the same subject in a plurality of groups, and a second image of the same subject acquired by an imaging unit. A calculation processing means for comparing the second feature information extracted from the data and the plurality of first feature information to calculate the similarity between the second feature information and each of the plurality of first feature information; and a second image Display means for displaying the data in association with the group having the highest similarity among the plurality of groups.
[Selection] Figure 2

Description

本発明は、認証用データを用いて個人認証を行う認証装置に関する。   The present invention relates to an authentication apparatus that performs personal authentication using authentication data.

従来から、複数の人物の顔などの認証用データを予め辞書データとして記憶し、新たに取得されたデータと、辞書データとして記憶されているデータとを比較することにより、個人認証を行う認証装置が知られている。個人認証の際に顔画像を用いる場合、個人認証の精度は、顔の向きや表情、撮影した光環境に応じて変化する。このため、個人認証の精度を向上させるには、複数種類の顔画像を予め記憶しておく必要がある。   2. Description of the Related Art Conventionally, an authentication device that performs personal authentication by storing authentication data such as a plurality of human faces in advance as dictionary data, and comparing newly acquired data with data stored as dictionary data It has been known. When a face image is used for personal authentication, the accuracy of the personal authentication varies depending on the orientation and expression of the face and the captured light environment. For this reason, in order to improve the accuracy of personal authentication, it is necessary to store a plurality of types of face images in advance.

特許文献1には、複数の異なる光環境下で顔画像を撮影し、撮影した顔画像を辞書データに予め記憶しておくことにより、使用環境が異なる場合でも高精度に個人認証を行うことが可能な個人認証システムが開示されている。特許文献2には、顔検出によって過去に検出された顔と過去の検出履歴を関連付けて顔情報を登録する方法が開示されている。   In Patent Document 1, a face image is taken under a plurality of different light environments, and the taken face image is stored in dictionary data in advance, so that personal authentication can be performed with high accuracy even in different use environments. A possible personal authentication system is disclosed. Patent Document 2 discloses a method of registering face information by associating a face detected in the past by face detection with a past detection history.

特許第04057501号Japanese Patent No. 04057501 特開2007−6033号公報JP 2007-6033 A

特許文献1、2の構成によれば、複数の顔画像を撮影して辞書データに登録することにより、個人認証の精度を向上させることが可能である。また、複数の顔画像の登録時、顔画像をサブグループに分類して誤認証を回避する方法も考えられる。しかしながら、特許文献1、2の構成では、顔画像の登録時において、登録対象の顔画像(顔情報)がどのように登録されるのか、すなわち、どのような顔画像を登録すればよいのか、ユーザにとって把握しにくい。   According to the configurations of Patent Documents 1 and 2, it is possible to improve the accuracy of personal authentication by photographing a plurality of face images and registering them in dictionary data. Further, when registering a plurality of face images, a method of classifying the face images into subgroups to avoid erroneous authentication is also conceivable. However, in the configurations of Patent Documents 1 and 2, how to register the face image (face information) to be registered at the time of registration of the face image, that is, what kind of face image should be registered, It is difficult for the user to grasp.

そこで本発明は、ユーザが画像データを登録する際に、画像データが登録されるグループを容易に認識可能な認証装置、撮像装置、認証用データの登録方法、プログラム、および、記憶媒体を提供する。   Therefore, the present invention provides an authentication device, an imaging device, an authentication data registration method, a program, and a storage medium that can easily recognize a group in which image data is registered when a user registers image data. .

本発明の一側面としての認証装置は、同一被写体の複数の第1特徴情報および複数の第1画像データを複数のグループに分類して記憶する記憶手段と、撮像手段により取得された前記同一被写体の第2画像データから抽出された第2特徴情報と前記複数の第1特徴情報とを比較して、該第2特徴情報と該複数の第1特徴情報のそれぞれとの類似度を算出する算出処理手段と、前記第2画像データを、前記複数のグループのうち前記類似度の最も高いグループと関連付けて表示する表示手段とを有する。   An authentication device according to one aspect of the present invention includes a storage unit that stores a plurality of first feature information and a plurality of first image data of the same subject in a plurality of groups, and the same subject acquired by an imaging unit The second feature information extracted from the second image data is compared with the plurality of first feature information, and the similarity between the second feature information and each of the plurality of first feature information is calculated. Processing means and display means for displaying the second image data in association with the group having the highest similarity among the plurality of groups.

本発明の他の側面としての撮像装置は、前記認証装置を有する。   An imaging device as another aspect of the present invention includes the authentication device.

本発明の他の側面としての認証用データの登録方法は、同一被写体の複数の第1特徴情報および複数の第1画像データを複数のグループに分類して記憶する記憶手段に認証用画像データを登録する認証用データの登録方法であって、撮像手段により前記同一被写体の第2画像データを取得するステップと、前記第2画像データから抽出された第2特徴情報と前記複数の第1特徴情報とを比較するステップと、前記第2特徴情報と前記複数の第1特徴情報のそれぞれとの類似度を算出するステップと、前記第2画像データを、前記複数のグループのうち前記類似度の最も高いグループと関連付けて表示するステップとを有する。   According to another aspect of the present invention, there is provided a method for registering authentication data, wherein the authentication image data is stored in a storage unit that stores a plurality of first feature information and a plurality of first image data of the same subject in a plurality of groups. A method of registering authentication data to be registered, the step of acquiring second image data of the same subject by an imaging unit, second feature information extracted from the second image data, and the plurality of first feature information Comparing the second feature information with each of the plurality of first feature information, and calculating the second image data with the highest similarity among the plurality of groups. And displaying in association with the higher group.

本発明の他の側面としてのプログラムは、前記認証用データの登録方法をコンピュータに実行させるように構成されている。   A program according to another aspect of the present invention is configured to cause a computer to execute the authentication data registration method.

本発明の他の側面の記憶媒体は、前記プログラムを記憶している。   A storage medium according to another aspect of the present invention stores the program.

本発明の他の目的及び特徴は、以下の実施例において説明される。   Other objects and features of the present invention are illustrated in the following examples.

本発明によれば、ユーザが画像データを登録する際に、画像データが登録されるグループを容易に認識可能な認証装置、撮像装置、認証用データの登録方法、プログラム、および、記憶媒体を提供することができる。   According to the present invention, an authentication device, an imaging device, an authentication data registration method, a program, and a storage medium that can easily recognize a group in which image data is registered when a user registers image data are provided. can do.

各実施形態における撮像装置のブロック図である。It is a block diagram of the imaging device in each embodiment. 第1の実施形態における認証用データの登録方法のフローチャートである。It is a flowchart of the registration method of the data for authentication in 1st Embodiment. 各実施形態における認証用データの登録方法の説明図である。It is explanatory drawing of the registration method of the data for authentication in each embodiment. 第2の実施形態における認証用データ登録方法のフローチャートである。It is a flowchart of the data registration method for authentication in 2nd Embodiment. 第3の実施形態における認証用データ登録方法のフローチャートである。It is a flowchart of the data registration method for authentication in 3rd Embodiment. 各実施形態における別の認証用データ登録方法の説明図である。It is explanatory drawing of another data registration method for authentication in each embodiment. 各実施形態におけるデータベースの説明図である。It is explanatory drawing of the database in each embodiment.

以下、本発明の実施形態について、図面を参照しながら詳細に説明する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.

(第1の実施形態)
まず、図1を参照して、本発明の第1の実施形態における撮像装置の構成について説明する。図1は、本実施形態における撮像装置100(デジタルカメラ)のブロック図である。撮像装置100は、認証装置(個人認証装置)としての機能を有する。
(First embodiment)
First, the configuration of the imaging apparatus according to the first embodiment of the present invention is described with reference to FIG. FIG. 1 is a block diagram of an imaging apparatus 100 (digital camera) in the present embodiment. The imaging device 100 has a function as an authentication device (personal authentication device).

図1において、103はフォーカスレンズを含む撮影レンズ、101は絞り機能を備えたシャッターである。122は撮像部である。撮像部122は、光学像(被写体像)を電気信号(アナログ信号)に変換するCCDやCMOS素子などの光電変換素子を有する。123はA/D変換器であり、アナログ信号をデジタル信号に変換する。A/D変換器123は、撮像部122から出力されるアナログ信号をデジタル信号に変換するために用いられる。102はバリアである。バリア102は、撮像装置100における撮影レンズ103および撮像部122を覆うことにより、撮影レンズ103、シャッター101、および、撮像部122を含む撮像系の汚れや破損を防止する。   In FIG. 1, reference numeral 103 denotes a photographing lens including a focus lens, and 101 denotes a shutter having an aperture function. Reference numeral 122 denotes an imaging unit. The imaging unit 122 includes a photoelectric conversion element such as a CCD or a CMOS element that converts an optical image (subject image) into an electrical signal (analog signal). Reference numeral 123 denotes an A / D converter that converts an analog signal into a digital signal. The A / D converter 123 is used to convert an analog signal output from the imaging unit 122 into a digital signal. Reference numeral 102 denotes a barrier. The barrier 102 covers the imaging lens 103 and the imaging unit 122 in the imaging apparatus 100, thereby preventing the imaging system including the imaging lens 103, the shutter 101, and the imaging unit 122 from being dirty or damaged.

124は画像処理部である。画像処理部124は、A/D変換器123からの画像データ、または、メモリ制御部115からの画像データに対して、所定の画素補間、縮小などのリサイズ処理、および、色変換処理などの各種画像処理を行う。また画像処理部124は、撮像した画像データを用いて所定の演算処理を行う。そしてシステム制御部150は、画像処理部124により得られた演算結果に基づいて、露光制御や測距制御を行う。これにより、TTL(スルー・ザ・レンズ)方式のAF(オートフォーカス)処理、AE(自動露出)処理、EF(フラッシュプリ発光)処理が行われる。更に画像処理部124は、撮像した画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてTTL方式のAWB(オートホワイトバランス)処理も行う。   Reference numeral 124 denotes an image processing unit. The image processing unit 124 performs various types of resizing processing such as predetermined pixel interpolation and reduction, and color conversion processing on the image data from the A / D converter 123 or the image data from the memory control unit 115. Perform image processing. The image processing unit 124 performs predetermined calculation processing using the captured image data. The system control unit 150 performs exposure control and distance measurement control based on the calculation result obtained by the image processing unit 124. Thereby, AF (autofocus) processing, AE (automatic exposure) processing, and EF (flash pre-emission) processing of the TTL (through-the-lens) method are performed. Further, the image processing unit 124 performs predetermined calculation processing using the captured image data, and also performs TTL AWB (auto white balance) processing based on the obtained calculation result.

A/D変換器123から出力されたデータ(画像データ)は、画像処理部124およびメモリ制御部115を介して、または、メモリ制御部115を介してメモリ132に直接書き込まれる。メモリ132は、撮像部122から得られてA/D変換器123によりデジタル信号に変換された画像データや、表示部128に表示するための画像データを格納する。メモリ132は、所定枚数の静止画像や所定時間の動画像および音声を格納するのに十分な記憶容量を備えている。またメモリ132は、画像表示用のメモリ(ビデオメモリ)を兼ねている。   Data (image data) output from the A / D converter 123 is directly written into the memory 132 via the image processing unit 124 and the memory control unit 115 or via the memory control unit 115. The memory 132 stores image data obtained from the imaging unit 122 and converted into a digital signal by the A / D converter 123 and image data to be displayed on the display unit 128. The memory 132 has a storage capacity sufficient to store a predetermined number of still images, a moving image and audio for a predetermined time. The memory 132 also serves as an image display memory (video memory).

113はD/A変換器である。D/A変換器113は、メモリ132に格納されている画像表示用のデータをアナログ信号に変換して表示部128に供給する。このような構成により、メモリ132に書き込まれた表示用の画像データは、D/A変換器113を介して表示部128にて表示される。表示部128は、LCDなどの表示器に、D/A変換器113からのアナログ信号に応じた表示を行う。また表示部128は、後述のように、第2画像データ(登録対象の画像データ)を、複数のグループのうち類似度の最も高いグループと関連付けて表示する。   Reference numeral 113 denotes a D / A converter. The D / A converter 113 converts the image display data stored in the memory 132 into an analog signal and supplies the analog signal to the display unit 128. With this configuration, the display image data written in the memory 132 is displayed on the display unit 128 via the D / A converter 113. The display unit 128 performs display in accordance with the analog signal from the D / A converter 113 on a display such as an LCD. As will be described later, the display unit 128 displays the second image data (image data to be registered) in association with the group having the highest similarity among the plurality of groups.

不揮発性メモリ156は、電気的に消去および記録可能なメモリである。不揮発性メモリ156としては、例えばEEPROMが用いられる。不揮発性メモリ156には、システム制御部150の動作用の定数やプログラムなどが記憶される。ここでプログラムとは、後述の認証用データの登録方法を実行するためのプログラムである。   The nonvolatile memory 156 is an electrically erasable and recordable memory. As the nonvolatile memory 156, for example, an EEPROM is used. The nonvolatile memory 156 stores constants and programs for operating the system control unit 150. Here, the program is a program for executing an authentication data registration method described later.

150はシステム制御部であり、撮像装置100の全体を制御する。システム制御部150は、不揮発性メモリ156に記憶されたプログラムを実行することにより、後述する本実施形態の各処理を実現する。152はシステムメモリである。システムメモリ152としては、例えばRAMが用いられる。システムメモリ152には、システム制御部150の動作用の定数、変数、不揮発性メモリ156から読み出されたプログラムなどが展開される。またシステム制御部150は、メモリ132、D/A変換器113、表示部128などを制御することにより、画像データなどの表示制御を行う。   Reference numeral 150 denotes a system control unit that controls the entire imaging apparatus 100. The system control unit 150 implements each process of this embodiment to be described later by executing a program stored in the nonvolatile memory 156. Reference numeral 152 denotes a system memory. For example, a RAM is used as the system memory 152. In the system memory 152, constants and variables for operation of the system control unit 150, programs read from the nonvolatile memory 156, and the like are expanded. Further, the system control unit 150 controls display of image data and the like by controlling the memory 132, the D / A converter 113, the display unit 128, and the like.

モード切替スイッチ160、シャッターボタン161、第一シャッタースイッチ162、第二シャッタースイッチ163、および、操作部170は、システム制御部150に各種の動作指示を入力するための操作手段である。モード切替スイッチ160は、システム制御部150の動作モードを、例えば、静止画記録モード、動画記録モード、または、再生モードのいずれかに設定するように切り替える。またモード切替スイッチ160は、後述の認証用顔画像の登録モードを選択するためにも用いられる。   The mode switch 160, the shutter button 161, the first shutter switch 162, the second shutter switch 163, and the operation unit 170 are operation means for inputting various operation instructions to the system control unit 150. The mode switch 160 switches the operation mode of the system control unit 150 so as to set, for example, one of a still image recording mode, a moving image recording mode, and a reproduction mode. The mode changeover switch 160 is also used for selecting a registration mode of an authentication face image described later.

第一シャッタースイッチ162は、撮像装置100に設けられたシャッターボタン161の操作途中、いわゆる半押し(撮影準備指示)でONとなり、第一シャッタースイッチ信号SW1を発生させる。シャッタースイッチ信号SW1により、AF(オートフォーカス)処理、AE(自動露出)処理、AWB(オートホワイトバランス)処理、EF(フラッシュプリ発光)処理などの動作が開始する。第2シャッタースイッチ163は、シャッターボタン161の操作完了、いわゆる全押し(撮影指示)でONとなり、第2シャッタースイッチ信号SW2を発生させる。システム制御部150は、第2シャッタースイッチ信号SW2により、撮像部122からの信号読み出しから記録媒体200に画像データを書き込むまでの一連の撮影処理の動作を開始する。   The first shutter switch 162 is turned on when a shutter button 161 provided in the imaging apparatus 100 is being operated, so-called half-press (shooting preparation instruction), and generates a first shutter switch signal SW1. The shutter switch signal SW1 starts operations such as AF (auto focus) processing, AE (auto exposure) processing, AWB (auto white balance) processing, and EF (flash pre-flash) processing. The second shutter switch 163 is turned on when the operation of the shutter button 161 is completed, so-called full press (shooting instruction), and generates a second shutter switch signal SW2. In response to the second shutter switch signal SW2, the system control unit 150 starts a series of shooting processing operations from reading a signal from the imaging unit 122 to writing image data on the recording medium 200.

操作部170の各操作部材は、表示部128に表示される種々の機能アイコンを選択操作することなどにより、場面ごとに適宜機能が割り当てられ、各種機能ボタンとして作用する。機能ボタンとしては、例えば、メニューボタン、終了ボタン、戻りボタン、画像送りボタン、ジャンプボタン、絞込みボタン、属性変更ボタンがある。例えばメニューボタンが押されると、各種の設定可能なメニュー画面が表示部128に表示される。ユーザは、表示部128に表示されたメニュー画面と、4方向ボタンやSETボタンとを用いて、直感的に各種設定を行うことができる。   Each operation member of the operation unit 170 is appropriately assigned a function for each scene by selecting and operating various function icons displayed on the display unit 128, and functions as various function buttons. Examples of the function buttons include a menu button, an end button, a return button, an image advance button, a jump button, a narrowing button, and an attribute change button. For example, when a menu button is pressed, various settable menu screens are displayed on the display unit 128. The user can make various settings intuitively by using the menu screen displayed on the display unit 128, the four-way button, and the SET button.

180は電源制御部である。電源制御部180は、電池検出回路、DC−DCコンバータ、通電するブロックを切り替えるスイッチ回路などにより構成され、電池の装着の有無、電池の種類、電池残量の検出を行う。また電源制御部180は、その検出結果およびシステム制御部150の指示に基づいてDC−DCコンバータを制御し、必要な電圧を必要な期間だけ記録媒体104を含む各部へ供給する。   Reference numeral 180 denotes a power control unit. The power supply control unit 180 includes a battery detection circuit, a DC-DC converter, a switch circuit that switches a block to be energized, and the like, and detects whether or not a battery is attached, the type of battery, and the remaining battery level. The power supply control unit 180 controls the DC-DC converter based on the detection result and an instruction from the system control unit 150, and supplies a necessary voltage to each unit including the recording medium 104 for a necessary period.

130は電源部である。電源部130は、アルカリ電池やリチウム電池などの一次電池、NiCd電池、NiMH電池、またはLi電池などの二次電池、または、ACアダプターを備えて構成される。118は、記録媒体104とのインターフェースである。記録媒体104は、メモリカードを備えた半導体メモリや、ハードディスクを備えた磁気ディスクなどである。172は電源スイッチであり、電源のオン、オフを切り替える。   Reference numeral 130 denotes a power supply unit. The power supply unit 130 includes a primary battery such as an alkaline battery or a lithium battery, a secondary battery such as a NiCd battery, a NiMH battery, or a Li battery, or an AC adapter. Reference numeral 118 denotes an interface with the recording medium 104. The recording medium 104 is a semiconductor memory having a memory card, a magnetic disk having a hard disk, or the like. Reference numeral 172 denotes a power switch that switches the power on and off.

本実施形態において、撮像装置100は、中央1点AFや顔AFを用いた撮影が可能である。ここで、中央1点AFとは、撮影画面内の中央位置1点に対してAFを行うことである。また、顔AFとは、顔検出機能により検出された撮影画面内の顔に対してAFを行うことである。   In the present embodiment, the imaging apparatus 100 can perform shooting using central one-point AF or face AF. Here, the central one-point AF is to perform AF with respect to one central position in the shooting screen. The face AF is to perform AF on the face in the shooting screen detected by the face detection function.

190は顔検出部である。顔検出部190は、画像データに含まれる被写体(人物)から目や口などのエッジを検出することにより、人物の顔の特徴部分を検出する。すなわち顔検出部190は、顔が占める画像データの画像領域(顔の位置と大きさ)、顔の確からしさ(顔の信頼度)から、その画像領域のデータを顔画像データとして検出する顔検出処理や識別処理を実行する。顔画像データは、表示部128に表示する画像としてメモリ132に記憶される。   Reference numeral 190 denotes a face detection unit. The face detection unit 190 detects a feature portion of a person's face by detecting edges such as eyes and mouth from a subject (person) included in the image data. That is, the face detection unit 190 detects the data of the image area as face image data from the image area (face position and size) of the image data occupied by the face and the likelihood of the face (facial reliability). Perform processing and identification processing. The face image data is stored in the memory 132 as an image to be displayed on the display unit 128.

191は特徴情報抽出処理部である。特徴情報抽出処理部191は、顔検出部190で検出された顔画像データから、認証(個人認証)のために必要な特徴情報(第2特徴情報)を抽出する。個人認証のために必要な特徴情報とは、顔領域から、目、鼻、口の器官を中心とする小領域を設定し、設定された小領域に対してLBP(Local Binary Pattern)を計算することにより取得される情報である。LBPに関しては、例えば特開2009−086926号公報で詳細に説明されているため、ここではその説明を省略する。なお本実施例において、特徴情報(第1特徴情報、第2特徴情報)は、同一被写体の顔の特徴情報である。   Reference numeral 191 denotes a feature information extraction processing unit. The feature information extraction processing unit 191 extracts feature information (second feature information) necessary for authentication (personal authentication) from the face image data detected by the face detection unit 190. The characteristic information necessary for personal authentication is to set a small area centered on the organs of eyes, nose, and mouth from the face area, and calculate an LBP (Local Binary Pattern) for the set small area. It is information acquired by this. Since LBP is described in detail in, for example, Japanese Patent Application Laid-Open No. 2009-086926, description thereof is omitted here. In this embodiment, the feature information (first feature information, second feature information) is feature information of the face of the same subject.

192は辞書データ記憶部(記憶手段)である。辞書データ記憶部192は、照合時(認証の際)に用いられる辞書データ(認証用データ)を記憶している。辞書データは、特徴情報抽出処理部191により算出される特徴情報(第1特徴情報)を含む。本実施形態において、辞書データ記憶部192は、同一被写体の複数の第1特徴情報および複数の第1画像データを複数のグループに分類して記憶している。ここで、辞書データ記憶部192は、複数の第1特徴情報と複数の第1画像データとを関連付けて記憶している。また、特徴情報を辞書データ記憶部192に新たに記憶する際、顔検出部190で検出された顔画像データ(第2画像データ)は、特徴情報(第2特徴情報)と関連付けられて記憶される。   Reference numeral 192 denotes a dictionary data storage unit (storage means). The dictionary data storage unit 192 stores dictionary data (authentication data) used at the time of collation (at the time of authentication). The dictionary data includes feature information (first feature information) calculated by the feature information extraction processing unit 191. In the present embodiment, the dictionary data storage unit 192 stores a plurality of first feature information and a plurality of first image data of the same subject in a plurality of groups. Here, the dictionary data storage unit 192 stores a plurality of first feature information and a plurality of first image data in association with each other. Further, when the feature information is newly stored in the dictionary data storage unit 192, the face image data (second image data) detected by the face detection unit 190 is stored in association with the feature information (second feature information). The

193は類似度算出処理部(算出処理手段)である。類似度算出処理部193は、顔検出部190で検出された顔画像データから特徴情報抽出処理部191にて抽出された特徴情報と、辞書データ記憶部192に記憶されている辞書データの特徴情報とをパターンマッチングで比較し、類似度を算出する。すなわち類似度算出処理部193は、撮像部122(撮像手段)により取得された同一被写体の画像データ(第2画像データ)から抽出された第2特徴情報と複数の第1特徴情報(辞書データ記憶部192に記憶された第1特徴情報)とを比較する。そして類似度算出処理部193は、第2特徴情報(登録対象である画像データの登録情報)と複数の第1特徴情報のそれぞれとの類似度を算出する。   Reference numeral 193 denotes a similarity calculation processing unit (calculation processing means). The similarity calculation processing unit 193 includes feature information extracted by the feature information extraction processing unit 191 from the face image data detected by the face detection unit 190, and feature information of dictionary data stored in the dictionary data storage unit 192. Are compared by pattern matching, and the similarity is calculated. That is, the similarity calculation processing unit 193 includes the second feature information extracted from the image data (second image data) of the same subject acquired by the imaging unit 122 (imaging unit) and a plurality of first feature information (dictionary data storage). The first feature information stored in the unit 192 is compared. Then, the similarity calculation processing unit 193 calculates the similarity between the second feature information (registration information of image data to be registered) and each of the plurality of first feature information.

194は認証判定部である。認証判定部194は、類似度算出処理部193で算出された類似度と、予め設定された認証用の閾値(所定の閾値)とを比較する。そして認証判定部194は、類似度が閾値以上の場合、顔検出部190で検出された顔画像が辞書データ記憶部192に記憶された人物であると識別、すなわち個人認証が成功したと判定する。   Reference numeral 194 denotes an authentication determination unit. The authentication determination unit 194 compares the similarity calculated by the similarity calculation processing unit 193 with a preset authentication threshold (predetermined threshold). When the similarity is equal to or greater than the threshold, the authentication determination unit 194 identifies that the face image detected by the face detection unit 190 is a person stored in the dictionary data storage unit 192, that is, determines that personal authentication has succeeded. .

195は分類情報設定部(判定制御手段)である。分類情報設定部195は、同一被写体(同一の人物)に関する複数の第1特徴情報および複数の第1画像データ(顔画像データ)を複数のグループ(複数のサブグループ)に分類するように制御する。辞書データ記憶部192に特徴情報を記憶させる際、分類情報設定部195は、類似度算出処理部193で算出された類似度(複数の類似度のそれぞれ)と分類用の閾値(所定の閾値)とを比較する。少なくとも一つの類似度が閾値以上である場合、分類情報設定部195は、類似度が最も高いサブグループに、辞書データ記憶部192に記憶させる特徴情報を関連付ける。一方、全ての類似度が閾値未満である場合、新規グループ(新規サブグループ)を作成し、その新規サブグループに、辞書データ記憶部192に登録させる特徴情報を関連付ける。   Reference numeral 195 denotes a classification information setting unit (determination control means). The classification information setting unit 195 controls to classify the plurality of first feature information and the plurality of first image data (face image data) related to the same subject (the same person) into a plurality of groups (a plurality of subgroups). . When the feature information is stored in the dictionary data storage unit 192, the classification information setting unit 195 includes the similarity (each of a plurality of similarities) calculated by the similarity calculation processing unit 193 and a threshold for classification (predetermined threshold). And compare. When at least one similarity is greater than or equal to the threshold, the classification information setting unit 195 associates the feature information to be stored in the dictionary data storage unit 192 with the subgroup having the highest similarity. On the other hand, when all the similarities are less than the threshold, a new group (new subgroup) is created, and feature information to be registered in the dictionary data storage unit 192 is associated with the new subgroup.

なお、図1を参照して説明した撮像装置100の構成は一例であり、以下に説明する動作を実行可能であれば、本実施形態は図1に示される構成に限定されるものではない。   The configuration of the imaging apparatus 100 described with reference to FIG. 1 is an example, and the present embodiment is not limited to the configuration illustrated in FIG. 1 as long as the operation described below can be performed.

次に、図2、図3、および図7を参照して、撮像装置100による辞書データ登録時の表示処理(認証装置の制御方法)について説明する。図2は、辞書データ登録時の表示処理(認証装置の制御方法)のフローチャートである。図2の各ステップは、主に、撮像装置100(認証装置)のシステム制御部150の指令に基づいて実行される。図3は、辞書データ登録時の表示処理の説明図である。図7は、辞書データ記憶部192に記憶されているデータベース700(辞書データ)の説明図である。   Next, with reference to FIG. 2, FIG. 3, and FIG. 7, the display processing (control method of the authentication device) at the time of dictionary data registration by the imaging device 100 will be described. FIG. 2 is a flowchart of the display process (control method of the authentication device) at the time of dictionary data registration. Each step in FIG. 2 is mainly executed based on a command from the system control unit 150 of the imaging apparatus 100 (authentication apparatus). FIG. 3 is an explanatory diagram of display processing at the time of dictionary data registration. FIG. 7 is an explanatory diagram of the database 700 (dictionary data) stored in the dictionary data storage unit 192.

本実施形態のデータベース700には、登録名701、サブグループ702(グループ)、特徴情報703、および顔画像データ704(画像データ)が記憶(登録)されている。図7において、登録名701として、二つの被写体(人物「A」、「B」)に関する情報が記憶されている。またデータベース700には、登録名701、顔検出部190で検出された顔画像データ704、特徴情報抽出処理部191で抽出された特徴情報703、および、分類情報設定部195で設定されたサブグループ702が互いに関連付けられて記憶されている。例えば、人物Aに関するデータとして、五つの特徴情報703および顔画像データ704の組みが記憶されている。また、特徴情報703の類似度に応じて、人物Aに関するデータは、三つのサブグループ(サブグループ1、2、3)に分類される。サブグループ1には二つの特徴情報、サブグループ2には一つの特徴情報、サブグループ3には二つの特徴情報がそれぞれ対応する顔画像データと関連付けられて記憶されている。   The database 700 of this embodiment stores (registers) a registered name 701, a subgroup 702 (group), feature information 703, and face image data 704 (image data). In FIG. 7, information regarding two subjects (persons “A” and “B”) is stored as a registered name 701. The database 700 also includes a registered name 701, face image data 704 detected by the face detection unit 190, feature information 703 extracted by the feature information extraction processing unit 191, and subgroups set by the classification information setting unit 195. 702 are stored in association with each other. For example, a set of five feature information 703 and face image data 704 is stored as data related to the person A. Further, the data related to the person A is classified into three subgroups (subgroups 1, 2, and 3) according to the similarity of the feature information 703. Sub-group 1 stores two feature information, sub-group 2 stores one feature information, and sub-group 3 stores two feature information in association with corresponding face image data.

まず、図2のステップS201において、ユーザが認証用顔画像の登録モードを選択することにより、登録モードが開始する。そしてステップS202において、ユーザに、辞書データに登録する被写体(人物)を、辞書データ記憶部192に記憶されたデータベース700の登録名701のなかから選択させる。   First, in step S201 in FIG. 2, when the user selects the registration mode of the authentication face image, the registration mode starts. In step S 202, the user is allowed to select a subject (person) to be registered in the dictionary data from among the registered names 701 in the database 700 stored in the dictionary data storage unit 192.

続いてステップS203において、辞書データ記憶部192からステップS202にて選択された登録名(人物)に関連付けられた顔画像データを読み出す。ただし、顔画像データがメモリ132に記憶されている場合には、メモリ132からその顔画像データを読み出す。読み出された画像(顔画像データ)は、メモリ制御部115および画像処理部124における処理により、EVF表示用画像と合成される。合成画像は、D/A変換部113を介して、図3(a)に示されるように、表示部128に表示される。   Subsequently, in step S203, face image data associated with the registered name (person) selected in step S202 is read from the dictionary data storage unit 192. However, when face image data is stored in the memory 132, the face image data is read from the memory 132. The read image (face image data) is combined with the EVF display image by processing in the memory control unit 115 and the image processing unit 124. The composite image is displayed on the display unit 128 via the D / A conversion unit 113 as shown in FIG.

図3(a)において、311、312、321、331、332は、それぞれ、辞書データ記憶部192(またはメモリ132)から読み出された顔画像データである。顔画像データ311、312はサブグループ310(ID1)、顔画像データ321はサブグループ320(ID2)、顔画像データ331、332はサブグループ330(ID3)にそれぞれ関連付けられている。本実施形態では、現在撮影中の被写体(人物300)とともに、辞書データ記憶部192(またはメモリ132)に登録された人物300の顔画像データが分類情報設定部195で関連付けられたサブグループ(グループ)ごとに表示される。   In FIG. 3A, 311, 312, 321, 331, and 332 are face image data read from the dictionary data storage unit 192 (or the memory 132), respectively. The face image data 311 and 312 are associated with the subgroup 310 (ID1), the face image data 321 is associated with the subgroup 320 (ID2), and the face image data 331 and 332 are associated with the subgroup 330 (ID3). In the present embodiment, the sub-group (group) in which the face image data of the person 300 registered in the dictionary data storage unit 192 (or the memory 132) is associated with the classification information setting unit 195 together with the subject (person 300) currently being photographed. ) Is displayed.

次に、ステップS204において、顔検出部190は、撮影画像(画像データ)に含まれる顔に対して顔検出処理を行う。このとき検出された顔は、辞書データ記憶部192に特徴情報と関連付けて記憶される顔となり、図3(b)に示されるように、人物300の顔を特徴情報とともに記憶させる顔として検出する。なお本実施形態において、顔検出部190により検出された顔に対して、図3(b)に示されるように顔枠340を表示させている。   Next, in step S204, the face detection unit 190 performs face detection processing on the face included in the captured image (image data). The face detected at this time becomes a face stored in association with the feature information in the dictionary data storage unit 192, and as shown in FIG. 3B, the face of the person 300 is detected as a face to be stored together with the feature information. . In the present embodiment, a face frame 340 is displayed on the face detected by the face detection unit 190 as shown in FIG.

続いてステップS205において、システム制御部150は、ユーザが所定の操作部材を用いて、検出した顔の登録指示を入力(指定)したか否かを判定する。ユーザにより登録指示が入力された場合、ステップS206に進む。一方、ユーザにより登録指示が入力されていな場合、ステップS204に戻り、再度、顔検出部190は顔検出処理を行う。ステップS206において、特徴情報抽出処理部191は、ユーザにより登録指示された顔画像データ(画像データ)から、辞書データ記憶部192に記憶させる特徴情報を抽出する。ここで、特徴情報抽出処理部191により抽出された特徴情報を、第2の特徴情報とする。   Subsequently, in step S205, the system control unit 150 determines whether or not the user has input (designated) a detected face registration instruction using a predetermined operation member. When a registration instruction is input by the user, the process proceeds to step S206. On the other hand, if the registration instruction is not input by the user, the process returns to step S204, and the face detection unit 190 performs the face detection process again. In step S206, the feature information extraction processing unit 191 extracts feature information to be stored in the dictionary data storage unit 192 from face image data (image data) instructed to be registered by the user. Here, the feature information extracted by the feature information extraction processing unit 191 is set as second feature information.

続いてステップS207において、辞書データ記憶部192に記憶されている人物300の顔から抽出された複数の特徴情報(複数の第1の特徴情報)のなかから一つの特徴情報を選択する。例えば図3(b)に示されるように、登録対象である人物300のサブグループ310、320、330のなかから、一つの特徴情報(第1の特徴情報)を選択する。   In step S207, one feature information is selected from a plurality of feature information (a plurality of first feature information) extracted from the face of the person 300 stored in the dictionary data storage unit 192. For example, as shown in FIG. 3B, one feature information (first feature information) is selected from the subgroups 310, 320, and 330 of the person 300 to be registered.

次に、ステップS208において、類似度算出処理部193は、辞書データ記憶部192から選択された一つの特徴情報(第1の特徴情報)とステップS206にて特徴情報抽出処理部191により算出された第2の特徴情報との類似度を算出する。類似度算出処理部193は、辞書データ記憶部192に記憶された人物300の顔から抽出された全ての第1の特徴情報のそれぞれと、ステップS206にて抽出された第2の特徴情報(登録対象の顔から抽出された特徴情報)との類似度を算出する。   Next, in step S208, the similarity calculation processing unit 193 calculates the one feature information (first feature information) selected from the dictionary data storage unit 192 and the feature information extraction processing unit 191 in step S206. The degree of similarity with the second feature information is calculated. The similarity calculation processing unit 193 includes all of the first feature information extracted from the face of the person 300 stored in the dictionary data storage unit 192 and the second feature information (registration) extracted in step S206. The similarity to the feature information extracted from the target face is calculated.

ステップS209において、システム制御部150は、辞書データ記憶部192に記憶されている人物300の全ての特徴情報(複数の第1の特徴情報)のそれぞれについて、第2の特徴情報との類似度が算出されたか否かを判定する。全ての類似度が算出されていない場合、全ての類似度を算出するまでステップS207〜S209を繰り返す。例えば図3(b)において、人物300の特徴情報(第2の特徴情報)とサブグループ310、320、330に分類されている複数の特徴情報(複数の第1の特徴情報)のそれぞれとの全ての類似度を算出する。   In step S209, the system control unit 150 has a similarity to the second feature information for each of all the feature information (a plurality of first feature information) of the person 300 stored in the dictionary data storage unit 192. It is determined whether or not it has been calculated. If all the similarities are not calculated, steps S207 to S209 are repeated until all similarities are calculated. For example, in FIG. 3B, the feature information of the person 300 (second feature information) and each of the plurality of feature information (plural first feature information) classified into the subgroups 310, 320, and 330 All similarities are calculated.

全ての類似度を算出した後、次にステップS210に進む。ステップS210において、システム制御部150は、ステップS208にて算出された複数の類似度の中から最も高い類似度を選択する。またシステム制御部150は、最も高い類似度が得られた特徴情報(最も高い類似度が得られた特徴情報に関連するサブグループ)を選択する。例えば、図3(b)において、ステップS206にて抽出された人物300の特徴情報(第2の特徴情報)と最も類似度が高い特徴情報は、サブグループ310に分類される画像データの特徴情報であるとする。   After calculating all the similarities, the process proceeds to step S210. In step S210, the system control unit 150 selects the highest similarity from the plurality of similarities calculated in step S208. In addition, the system control unit 150 selects the feature information with the highest similarity (the subgroup related to the feature information with the highest similarity). For example, in FIG. 3B, the feature information having the highest similarity with the feature information (second feature information) of the person 300 extracted in step S206 is the feature information of the image data classified into the subgroup 310. Suppose that

続いてステップS211において、分類情報設定部195は、ステップS210にて得られた類似度(最も高い類似度)と分類用閾値(第1閾値)とを比較する。最も高い類似度が分類用閾値(第1閾値)より大きいと判定された場合、ステップS212において、分類情報設定部195は、最も高い類似度の特徴情報を含むサブグループに、検出された顔(登録対象の第2画像データ)を登録する。すなわち第2画像データは、最も高い類似度の特徴情報を含むサブグループに関連付けて登録される。これにより表示部128には、第2画像データ(登録対象の画像データ)が複数のサブグループ(複数のグループ)のうち類似度の最も高いサブグループ(類似度の最も高いグループ)と関連付けて表示される。   Subsequently, in step S211, the classification information setting unit 195 compares the similarity (highest similarity) obtained in step S210 with the classification threshold (first threshold). If it is determined that the highest similarity is greater than the threshold for classification (first threshold), in step S212, the classification information setting unit 195 detects the detected face (in the subgroup including the feature information with the highest similarity ( Second image data to be registered) is registered. That is, the second image data is registered in association with the subgroup including the feature information having the highest similarity. Thereby, the display unit 128 displays the second image data (image data to be registered) in association with the subgroup having the highest similarity (the group having the highest similarity) among the plurality of subgroups (the plurality of groups). Is done.

そしてステップS213において、システム制御部150は、図3(c)、(d)に示されるように、検出された顔(登録対象の画像データ)がサブグループ310に登録されたことがユーザに認識可能であるように、表示部128に表示する。例えば図3(c)に示されるように、顔枠340に矢印341を付加して、矢印341がサブグループ310の方向を示すように表示する。または、図3(d)に示されるように、検出された顔を、サブグループ310を示す枠の中に挿入する。   In step S213, the system control unit 150 recognizes to the user that the detected face (image data to be registered) is registered in the subgroup 310, as shown in FIGS. 3 (c) and 3 (d). It is displayed on the display unit 128 as possible. For example, as shown in FIG. 3C, an arrow 341 is added to the face frame 340 so that the arrow 341 indicates the direction of the subgroup 310. Alternatively, as shown in FIG. 3D, the detected face is inserted into a frame indicating the subgroup 310.

一方、ステップS211にて最も高い類似度が分類用閾値以下(第1閾値以下)である場合、ステップS214において、分類情報設定部195は新規サブグループ(新規グループ)を作成する。そしてステップS215において、システム制御部150(分類情報設定部195)は、新規サブグループに検出した顔(登録対象の第2画像データ)を登録する。続いてステップS216において、システム制御部150は、図3(e)に示されるように、検出した顔が新規サブグループに登録されたことがユーザに認識可能であるように表示部128に表示する。   On the other hand, if the highest similarity is not more than the threshold for classification (below the first threshold) in step S211, the classification information setting unit 195 creates a new subgroup (new group) in step S214. In step S215, the system control unit 150 (classification information setting unit 195) registers the detected face (second image data to be registered) in the new subgroup. Subsequently, in step S216, the system control unit 150 displays on the display unit 128 so that the user can recognize that the detected face is registered in the new subgroup, as shown in FIG. .

そしてステップS217において、システム制御部150は、登録モードを終了するか否かを判定する。引き続き画像データを登録する場合、ステップS204に戻り、顔検出部190による顔検出処理を行う。一方、引き続き画像データを登録する必要がない場合、本フローを終了する。   In step S217, the system control unit 150 determines whether to end the registration mode. If image data is to be continuously registered, the process returns to step S204, and face detection processing by the face detection unit 190 is performed. On the other hand, if it is not necessary to register image data continuously, this flow ends.

本実施形態によれば、登録対象の画像データ(検出した顔)を複数のサブグループ(グループ)に分類して認証精度を向上させる認証装置において、ユーザはユーザ自身が登録指定したタイミングの顔がいずれのサブグループに登録されるかを容易に識別可能である。このため、ユーザは、登録指定した顔がいずれのサブグループに分類されるかについての傾向を把握することができ、認証精度向上に効果的な登録時の作業をより円滑に行うことが可能である。   According to the present embodiment, in an authentication apparatus that classifies image data to be registered (detected faces) into a plurality of subgroups (groups) to improve authentication accuracy, the user has a face at the timing designated by the user himself / herself. Which subgroup is registered can be easily identified. For this reason, the user can grasp the trend regarding which subgroup the face specified for registration is classified into, and can perform the registration process effective for improving the authentication accuracy more smoothly. is there.

(第2の実施形態)
次に、図4を参照して、本発明の第2の実施形態における辞書データ登録時の表示処理(認証装置の制御方法)について説明する。図4は、辞書データ登録時の表示処理(認証装置の制御方法)のフローチャートである。図4の各ステップは、主に、撮像装置100(認証装置)のシステム制御部150の指令に基づいて実行される。
(Second Embodiment)
Next, with reference to FIG. 4, a display process (control method of the authentication device) at the time of dictionary data registration according to the second embodiment of the present invention will be described. FIG. 4 is a flowchart of a display process (control method of the authentication device) at the time of dictionary data registration. Each step in FIG. 4 is mainly executed based on a command from the system control unit 150 of the imaging apparatus 100 (authentication apparatus).

なお本実施形態において、撮像装置100の概略構成、辞書データ登録時の表示、および、データベース700については、図1、図3、および、図7をそれぞれ参照して説明した第1の実施形態と同様であるため、これらの説明は省略する。また、本実施形態のステップS401〜S404およびステップS405〜S409は、図2を参照して説明した第1の実施形態のステップS201〜S204およびステップS206〜S210とそれぞれ同様であるため、これらの説明についても省略する。   In this embodiment, the schematic configuration of the imaging apparatus 100, the display at the time of registering dictionary data, and the database 700 are the same as those in the first embodiment described with reference to FIGS. 1, 3, and 7, respectively. Since these are the same, their description is omitted. Further, steps S401 to S404 and steps S405 to S409 of the present embodiment are the same as steps S201 to S204 and steps S206 to S210 of the first embodiment described with reference to FIG. Is also omitted.

ステップS410において、分類情報設定部195は、ステップS409にて選択された最も高い類似度と分類用閾値(第1閾値)とを比較する。最も高い類似度が分類用閾値(第1閾値)よりも大きい場合、ステップS411に進む。一方、最も高い類似度が分類用閾値以下(第1閾値以下)である場合、ステップS414に進む。   In step S410, the classification information setting unit 195 compares the highest similarity selected in step S409 with the classification threshold (first threshold). When the highest similarity is larger than the classification threshold (first threshold), the process proceeds to step S411. On the other hand, when the highest similarity is not more than the threshold for classification (below the first threshold), the process proceeds to step S414.

ステップS411において、システム制御部150は、最も高い類似度の特徴情報を含むサブグループ(グループ)に、検出された顔(登録対象の画像データ)を関連付けて表示部128に表示する。続いてステップS412において、システム制御部150は、ユーザが、検出された顔を関連付けられたサブグループに登録指定したか否かを判定する。ユーザが登録指定した場合、ステップS413において、関連付けられたサブグループに検出した顔を登録する。一方、ステップS412にてユーザにより登録指定されない場合、ステップS418に進む。   In step S411, the system control unit 150 displays the detected face (image data to be registered) on the display unit 128 in association with the subgroup (group) including the feature information having the highest similarity. Subsequently, in step S412, the system control unit 150 determines whether or not the user has designated and registered the detected face in the associated subgroup. When the user designates registration, in step S413, the detected face is registered in the associated subgroup. On the other hand, if registration is not designated by the user in step S412, the process proceeds to step S418.

ステップS414において、分類情報設定部195は、ステップS409にて選択された類似度(最も高い類似度)と登録用閾値(第2閾値)とを比較する。最も高い類似度が登録用閾値(第2閾値)よりも大きい場合、ステップS415において、分類情報設定部195は、新規サブグループ(新規グループ)を作成する。続いてステップS416において、システム制御部150は、新規サブグループに検出した顔を関連付けて表示部128に表示をさせる。そしてステップS417において、システム制御部150(分類情報設定部195)は、新規サブグループに検出した顔(第2画像データ)を自動的に登録する。一方、ステップS414にて最も高い類似度が登録用閾値以下(第2閾値以下)である場合、ステップS418に進む。   In step S414, the classification information setting unit 195 compares the similarity selected in step S409 (the highest similarity) with the registration threshold (second threshold). If the highest similarity is greater than the registration threshold (second threshold), the classification information setting unit 195 creates a new subgroup (new group) in step S415. Subsequently, in step S416, the system control unit 150 causes the display unit 128 to display the detected face in association with the new subgroup. In step S417, the system control unit 150 (classification information setting unit 195) automatically registers the detected face (second image data) in the new subgroup. On the other hand, if the highest similarity is equal to or lower than the registration threshold (second threshold or lower) in step S414, the process proceeds to step S418.

そしてステップS418において、システム制御部150は、登録モードを終了するか否かを判定する。引き続き画像データを登録する場合、ステップS404に戻り、顔検出部190による顔検出処理を行う。一方、引き続き画像データを登録する必要がない場合、本フローを終了する。   In step S418, the system control unit 150 determines whether to end the registration mode. If image data is to be continuously registered, the process returns to step S404, and face detection processing by the face detection unit 190 is performed. On the other hand, if it is not necessary to register image data continuously, this flow ends.

本実施形態によれば、登録対象の画像データ(検出した顔)を複数のサブグループ(グループ)に分類して認証精度を向上させる認証装置において、ユーザはユーザ自身が登録指定したタイミングの顔がいずれのサブグループに登録されるかを容易に識別可能である。このため、ユーザは、登録指定した顔がいずれのサブグループに分類されるかについての傾向を把握することができ、認証精度向上に効果的な登録時の作業をより円滑に行うことが可能である。また本実施形態によれば、新規サブグループに分類される顔は自動的に登録されるため、ユーザが登録指定するタイミングを逃した場合でも、認証精度の向上が期待できる。   According to the present embodiment, in an authentication apparatus that classifies image data to be registered (detected faces) into a plurality of subgroups (groups) to improve authentication accuracy, the user has a face at the timing designated by the user himself / herself. Which subgroup is registered can be easily identified. For this reason, the user can grasp the trend regarding which subgroup the face specified for registration is classified into, and can perform the registration process effective for improving the authentication accuracy more smoothly. is there. Further, according to the present embodiment, since the faces classified into the new subgroup are automatically registered, improvement in authentication accuracy can be expected even when the timing for registration designation by the user is missed.

(第3の実施形態)
次に、図5を参照して、本発明の第3の実施形態における辞書データ登録時の表示処理(認証装置の制御方法)について説明する。図5は、辞書データ登録時の表示処理(認証装置の制御方法)のフローチャートである。図5の各ステップは、主に、撮像装置100(認証装置)のシステム制御部150の指令に基づいて実行される。
(Third embodiment)
Next, with reference to FIG. 5, a display process (control method of the authentication apparatus) at the time of dictionary data registration according to the third embodiment of the present invention will be described. FIG. 5 is a flowchart of a display process (control method of the authentication device) at the time of dictionary data registration. Each step in FIG. 5 is mainly executed based on a command from the system control unit 150 of the imaging apparatus 100 (authentication apparatus).

なお本実施形態において、撮像装置100の概略構成、辞書データ登録時の表示、および、データベース700については、図1、図3、および、図7をそれぞれ参照して説明した第1の実施形態と同様であるため、これらの説明は省略する。また、本実施形態のステップS501〜S509は、図4を参照して説明した第2の実施形態のステップS401〜S409(図2のステップS201〜S204、S206〜S210)とそれぞれ同様であるため、これらの説明についても省略する。   In this embodiment, the schematic configuration of the imaging apparatus 100, the display at the time of registering dictionary data, and the database 700 are the same as those in the first embodiment described with reference to FIGS. 1, 3, and 7, respectively. Since these are the same, their description is omitted. Further, steps S501 to S509 of the present embodiment are the same as steps S401 to S409 (steps S201 to S204, S206 to S210 of FIG. 2) of the second embodiment described with reference to FIG. These descriptions are also omitted.

ステップS510において、分類情報設定部195は、ステップS509にて選択された類似度(最も高い類似度)と登録用閾値(第2閾値)とを比較する。最も高い類似度が登録用閾値(第2閾値)よりも大きい場合、ステップS511に進む。一方、ステップS510にて最も高い類似度が登録用閾値以下(第2閾値)である場合、ステップS504に戻る。このとき、類似度算出処理部193は、再度、類似度を算出する。   In step S510, the classification information setting unit 195 compares the similarity selected in step S509 (the highest similarity) with the registration threshold (second threshold). When the highest similarity is larger than the registration threshold (second threshold), the process proceeds to step S511. On the other hand, when the highest similarity is equal to or lower than the registration threshold (second threshold) in step S510, the process returns to step S504. At this time, the similarity calculation processing unit 193 calculates the similarity again.

ステップS211において、分類情報設定部195は、ステップS509にて得られた類似度(最も高い類似度)と分類用閾値(第1閾値)とを比較する。最も高い類似度が分類用閾値(第1閾値)より大きい場合、ステップS512において、システム制御部150(分類情報設定部195)は、最も高い類似度の特徴情報を含むサブグループに、検出された顔(登録対象の第2画像データ)を自動的に登録する。続いてステップS513において、システム制御部150は、検出された顔がサブグループに登録されたことがユーザに認識可能であるように表示部128に表示する。   In step S211, the classification information setting unit 195 compares the similarity obtained in step S509 (the highest similarity) with the classification threshold (first threshold). When the highest similarity is larger than the threshold for classification (first threshold), the system control unit 150 (classification information setting unit 195) is detected in the subgroup including the feature information with the highest similarity in step S512. The face (second image data to be registered) is automatically registered. Subsequently, in step S513, the system control unit 150 displays on the display unit 128 so that the user can recognize that the detected face has been registered in the subgroup.

一方、ステップS211にて最も高い類似度が分類用閾値以下である場合、ステップS514において、分類情報設定部195は、新規サブグループ(新規グループ)を作成する。続いてステップS515において、システム制御部150(分類情報設定部195)は、新規サブグループに検出した顔を自動的に登録する。そしてステップS516において、システム制御部150は、検出した顔が新規サブグループに関連付けられて登録されたことがユーザにとって認識可能であるように表示部128に表示をさせる。   On the other hand, if the highest similarity is not more than the threshold for classification in step S211, the classification information setting unit 195 creates a new subgroup (new group) in step S514. Subsequently, in step S515, the system control unit 150 (classification information setting unit 195) automatically registers the detected face in the new subgroup. In step S516, the system control unit 150 causes the display unit 128 to display so that the user can recognize that the detected face has been registered in association with the new subgroup.

本実施形態によれば、登録対象の画像データ(検出した顔)を複数のサブグループ(グループ)に分類して認証精度を向上させる認証装置において、類似度が登録用閾値を超えた場合、検出した顔が自動的にサブグループへ分類および登録される。このため、ユーザは複雑な操作を必要とすることなく認証精度向上のための登録作業が可能になる。   According to the present embodiment, in an authentication apparatus that classifies registration target image data (detected faces) into a plurality of subgroups (groups) to improve authentication accuracy, detection is performed when the similarity exceeds a registration threshold. The face is automatically classified and registered into subgroups. For this reason, the user can perform a registration operation for improving the authentication accuracy without requiring a complicated operation.

各実施形態において、辞書データ登録時には図3に示される表示方法が用いられているが、これに限定されるものではない。図3の表示方法に代えて、図6に示される表示方法を用いてもよい。図6は、各実施形態における別の表示方法の説明図である。   In each embodiment, the display method shown in FIG. 3 is used at the time of dictionary data registration, but the present invention is not limited to this. Instead of the display method of FIG. 3, the display method shown in FIG. 6 may be used. FIG. 6 is an explanatory diagram of another display method in each embodiment.

この場合、辞書データ記憶部192から読み出された特徴情報に関連した顔画像データ(複数の画像データ)のうち一つの画像データを、図6(a)に示されるように代表顔画像610として表示させる。本実施形態において、顔検出している画像(画像データ)と最も類似度の高い画像データ(登録情報)を含むサブグループの中から選択された一つの画像を代表顔画像610として設定する。代表顔画像610は、例えば、各々のサブグループにおいて決定された一つの画像から選択される。各々のサブグループの代表顔画像の選択方法は、ユーザが任意に決定することができる。また、辞書データ記憶部192に記憶された順などに応じて自動的に決定してもよい。   In this case, one of the face image data (a plurality of image data) related to the feature information read from the dictionary data storage unit 192 is used as a representative face image 610 as shown in FIG. Display. In the present embodiment, one image selected from a subgroup including image data (registration information) having the highest degree of similarity with the face-detected image (image data) is set as the representative face image 610. The representative face image 610 is selected from, for example, one image determined in each subgroup. The selection method of the representative face image of each subgroup can be arbitrarily determined by the user. Alternatively, it may be automatically determined according to the order stored in the dictionary data storage unit 192.

例えば図6(a)において、検出された顔画像611(登録対象の画像データ)と代表顔画像610とを関連付けて表示部128に表示させている。また、登録モードを継続して、同じサブグループに新しい顔画像が登録された場合、図6(b)に示されるように新規検出顔画像612とそれ以前に検出された顔画像611とを一覧表示させる。また、検出された顔画像が新規サブグループに関連付けられた場合、図6(c)に示されるように、新規サブグループが作成されたことが認識可能であるように表示させる。   For example, in FIG. 6A, the detected face image 611 (image data to be registered) and the representative face image 610 are displayed on the display unit 128 in association with each other. When a new face image is registered in the same subgroup by continuing the registration mode, a newly detected face image 612 and a face image 611 detected before that are listed as shown in FIG. 6B. Display. Further, when the detected face image is associated with a new subgroup, as shown in FIG. 6C, a display is made so that it can be recognized that a new subgroup has been created.

辞書データに関連付けられている顔画像データを全て表示させると、煩雑な表示になりユーザの登録作業を妨げる可能性がある。しかし、図6(a)、(b)に示されるように代表顔画像を選択して表示することにより、煩雑な表示を回避し、ユーザはサブグループの分類を確認しながら登録作業が可能となる。   If all the face image data associated with the dictionary data is displayed, the display becomes complicated and may hinder the user's registration work. However, by selecting and displaying the representative face images as shown in FIGS. 6A and 6B, complicated display can be avoided, and the user can perform registration while confirming the classification of the subgroups. Become.

(他の実施形態)
本発明の目的は以下のようにしても達成できる。すなわち、前述した各実施形態の機能を実現するための手順が記述されたソフトウェアのプログラムコードを記録した記憶媒体を、システムまたは装置に供給する。そしてそのシステムまたは装置のコンピュータ(またはCPU、MPU等)が記憶媒体に格納されたプログラムコードを読み出して実行する。この場合、記憶媒体から読み出されたプログラムコード自体が本発明の新規な機能を実現することになり、そのプログラムコードを記憶した記憶媒体およびプログラムは本発明を構成することになる。
(Other embodiments)
The object of the present invention can also be achieved as follows. That is, a storage medium in which a program code of software in which a procedure for realizing the functions of the above-described embodiments is described is recorded is supplied to the system or apparatus. A computer (or CPU, MPU, etc.) of the system or apparatus reads out and executes the program code stored in the storage medium. In this case, the program code itself read from the storage medium realizes the novel function of the present invention, and the storage medium and program storing the program code constitute the present invention.

また、プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスクなどが挙げられる。また、CD−ROM、CD−R、CD−RW、DVD−ROM、DVD−RAM、DVD−RW、DVD−R、磁気テープ、不揮発性のメモリカード、ROM等も用いることができる。   Examples of the storage medium for supplying the program code include a flexible disk, a hard disk, an optical disk, and a magneto-optical disk. Further, a CD-ROM, CD-R, CD-RW, DVD-ROM, DVD-RAM, DVD-RW, DVD-R, magnetic tape, nonvolatile memory card, ROM, or the like can also be used.

また、コンピュータが読み出したプログラムコードを実行可能とすることにより、前述した各実施形態の機能が実現される。さらに、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した各実施形態の機能が実現される場合も含まれる。   Further, by making the program code read by the computer executable, the functions of the above-described embodiments are realized. Furthermore, when the OS (operating system) running on the computer performs part or all of the actual processing based on the instruction of the program code, the functions of the above-described embodiments are realized by the processing. Is also included.

更に、以下の場合も含まれる。まず記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行う。   Furthermore, the following cases are also included. First, the program code read from the storage medium is written in a memory provided in a function expansion board inserted into the computer or a function expansion unit connected to the computer. Thereafter, based on the instruction of the program code, the CPU or the like provided in the function expansion board or function expansion unit performs part or all of the actual processing.

また、本発明はデジタルカメラのような撮影を主目的とした機器に限定されるものではない。携帯電話、パーソナルコンピュータ(ラップトップ型、デスクトップ型、タブレット型など)、ゲーム機など、撮像装置を内蔵もしくは外部接続する任意の機器に適用可能である。従って、本明細書における「撮像装置」は、撮像機能を備えた任意の電子機器を包含することが意図されている。   In addition, the present invention is not limited to an apparatus mainly intended for shooting such as a digital camera. The present invention can be applied to any device with a built-in or externally connected imaging device, such as a mobile phone, personal computer (laptop type, desktop type, tablet type, etc.), game machine, and the like. Therefore, the “imaging device” in this specification is intended to include any electronic device having an imaging function.

以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。   As mentioned above, although preferable embodiment of this invention was described, this invention is not limited to these embodiment, A various deformation | transformation and change are possible within the range of the summary.

100 撮像装置
128 表示部
192 辞書データ記録部
193 類似度算出処理部
100 imaging device 128 display unit 192 dictionary data recording unit 193 similarity calculation processing unit

Claims (10)

同一被写体の複数の第1特徴情報および複数の第1画像データを複数のグループに分類して記憶する記憶手段と、
撮像手段により取得された前記同一被写体の第2画像データから抽出された第2特徴情報と前記複数の第1特徴情報とを比較して、該第2特徴情報と該複数の第1特徴情報のそれぞれとの類似度を算出する算出処理手段と、
前記第2画像データを、前記複数のグループのうち前記類似度の最も高いグループと関連付けて表示する表示手段と、を有することを特徴とする認証装置。
Storage means for classifying and storing a plurality of first feature information and a plurality of first image data of the same subject into a plurality of groups;
The second feature information extracted from the second image data of the same subject acquired by the imaging means is compared with the plurality of first feature information, and the second feature information and the plurality of first feature information are compared. Calculation processing means for calculating the degree of similarity with each;
And a display unit configured to display the second image data in association with the group having the highest similarity among the plurality of groups.
前記第1特徴情報および前記第2特徴情報は、前記同一被写体の顔の特徴情報であることを特徴とする請求項1に記載の認証装置。   The authentication apparatus according to claim 1, wherein the first feature information and the second feature information are feature information of a face of the same subject. 前記記憶手段は、前記複数の第1特徴情報と前記複数の第1画像データとを関連付けて記憶していることを特徴とする請求項1または2に記載の認証装置。   The authentication apparatus according to claim 1, wherein the storage unit stores the plurality of first feature information and the plurality of first image data in association with each other. 最も高い前記類似度が第1閾値よりも大きいか否かを判定する判定制御手段を更に有し、
前記判定制御手段は、
前記類似度が前記第1閾値よりも大きい場合、前記第2画像データを、該類似度の最も高いグループに登録し、
前記類似度が前記第1閾値以下である場合、新規グループを作成して前記第2画像データを該新規グループに登録する、ことを特徴とする請求項1乃至3のいずれか1項に記載の認証装置。
A determination control means for determining whether or not the highest similarity is greater than a first threshold;
The determination control means includes
If the similarity is greater than the first threshold, register the second image data in the group with the highest similarity,
4. The method according to claim 1, wherein, when the similarity is equal to or less than the first threshold value, a new group is created and the second image data is registered in the new group. 5. Authentication device.
前記判定制御手段は、更に、前記類似度が第2閾値よりも大きいか否かを判定し、
前記判定制御手段は、前記類似度が前記第1閾値以下であって、かつ該類似度が前記第2閾値よりも大きい場合、前記新規グループを作成して前記第2画像データを該新規グループに自動的に登録することを特徴とする請求項4に記載の認証装置。
The determination control means further determines whether or not the similarity is greater than a second threshold value,
The determination control means creates the new group and assigns the second image data to the new group when the similarity is not more than the first threshold and the similarity is larger than the second threshold. The authentication apparatus according to claim 4, wherein the authentication apparatus is automatically registered.
前記判定制御手段は、更に、前記類似度が第2閾値よりも大きいか否かを判定し、
前記類似度が前記第2閾値よりも大きい場合、前記判定制御手段は、前記類似度が前記第1閾値よりも大きいか否かを判定し、
前記類似度が前記第2閾値以下である場合、前記算出処理手段は、再度、前記類似度を算出することを特徴とする請求項4に記載の認証装置。
The determination control means further determines whether or not the similarity is greater than a second threshold value,
If the similarity is greater than the second threshold, the determination control means determines whether the similarity is greater than the first threshold;
The authentication apparatus according to claim 4, wherein when the similarity is equal to or less than the second threshold, the calculation processing unit calculates the similarity again.
請求項1乃至6のいずれか1項に記載の認証装置を有することを特徴とする撮像装置。   An imaging apparatus comprising the authentication apparatus according to claim 1. 同一被写体の複数の第1特徴情報および複数の第1画像データを複数のグループに分類して記憶する記憶手段に認証用データを登録する認証用データの登録方法であって、
撮像手段により前記同一被写体の第2画像データを取得するステップと、
前記第2画像データから抽出された第2特徴情報と前記複数の第1特徴情報とを比較するステップと、
前記第2特徴情報と前記複数の第1特徴情報のそれぞれとの類似度を算出するステップと、
前記第2画像データを、前記複数のグループのうち前記類似度の最も高いグループと関連付けて表示するステップと、を有することを特徴とする認証用データの登録方法。
An authentication data registration method for registering authentication data in storage means for classifying and storing a plurality of first feature information and a plurality of first image data of the same subject into a plurality of groups,
Obtaining second image data of the same subject by an imaging means;
Comparing the second feature information extracted from the second image data with the plurality of first feature information;
Calculating a similarity between the second feature information and each of the plurality of first feature information;
And a step of displaying the second image data in association with the group having the highest similarity among the plurality of groups.
請求項8に記載の認証用データの登録方法をコンピュータに実行させるように構成されていることを特徴とするプログラム。   A program configured to cause a computer to execute the authentication data registration method according to claim 8. 請求項9に記載のプログラムを記憶していることを特徴とする記憶媒体。   A storage medium storing the program according to claim 9.
JP2013061384A 2013-03-25 2013-03-25 Authentication device, imaging device, registration method of authentication data, program, and storage medium Pending JP2014186580A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013061384A JP2014186580A (en) 2013-03-25 2013-03-25 Authentication device, imaging device, registration method of authentication data, program, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013061384A JP2014186580A (en) 2013-03-25 2013-03-25 Authentication device, imaging device, registration method of authentication data, program, and storage medium

Publications (1)

Publication Number Publication Date
JP2014186580A true JP2014186580A (en) 2014-10-02

Family

ID=51834078

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013061384A Pending JP2014186580A (en) 2013-03-25 2013-03-25 Authentication device, imaging device, registration method of authentication data, program, and storage medium

Country Status (1)

Country Link
JP (1) JP2014186580A (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017215894A (en) * 2016-06-02 2017-12-07 日本電気株式会社 Information processing device, information processing method, and program
JP2018169872A (en) * 2017-03-30 2018-11-01 グローリー株式会社 Face authentication system, face authentication method, and face authentication program
JP2019185384A (en) * 2018-04-10 2019-10-24 キヤノン株式会社 Image authentication device, image authentication method, computer program and storage medium
US20210311984A1 (en) * 2020-04-01 2021-10-07 Kabushiki Kaisha Toshiba Display control apparatus, display control method, and computer program product
WO2022037152A1 (en) * 2020-08-20 2022-02-24 合肥维信诺科技有限公司 Image acquisition method and system, and display panel

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017215894A (en) * 2016-06-02 2017-12-07 日本電気株式会社 Information processing device, information processing method, and program
JP2018169872A (en) * 2017-03-30 2018-11-01 グローリー株式会社 Face authentication system, face authentication method, and face authentication program
JP2019185384A (en) * 2018-04-10 2019-10-24 キヤノン株式会社 Image authentication device, image authentication method, computer program and storage medium
US20210311984A1 (en) * 2020-04-01 2021-10-07 Kabushiki Kaisha Toshiba Display control apparatus, display control method, and computer program product
JP2021163310A (en) * 2020-04-01 2021-10-11 株式会社東芝 Display control device, display control method and program
JP7419142B2 (en) 2020-04-01 2024-01-22 株式会社東芝 Display control device, display control method and program
US12032625B2 (en) 2020-04-01 2024-07-09 Kabushiki Kaisha Toshiba Display control apparatus, display control method, and computer program product
WO2022037152A1 (en) * 2020-08-20 2022-02-24 合肥维信诺科技有限公司 Image acquisition method and system, and display panel

Similar Documents

Publication Publication Date Title
JP6132490B2 (en) Authentication apparatus, authentication method, and program
JP5918996B2 (en) Subject recognition apparatus and dictionary data registration method
KR20090045870A (en) Imaging Device, Control Method and Program
US9569814B2 (en) Display control apparatus, image capture apparatus, display control method, and image capture apparatus control method
US9992405B2 (en) Image capture control apparatus and control method of the same
US11496670B2 (en) Electronic device with display screen capable of reliable detection of a user selected displayed eye region in a scene to be captured, and region selection method
JP5419585B2 (en) Image processing apparatus, image processing method, and program
US12142019B2 (en) Apparatus, method, and storage medium to detect second area based on previous detection information when first area of object becomes not detectable
JP2014186580A (en) Authentication device, imaging device, registration method of authentication data, program, and storage medium
JP2012044369A (en) Imaging apparatus, imaging method, image processing apparatus, and image processing method
JP6564275B2 (en) Image processing apparatus and image processing method
JP2014093639A (en) Imaging device, control method for imaging device, image processing device, image processing method, image processing program, and storage medium
JP5374612B2 (en) Image data identification method, imaging apparatus, program, and storage medium
US11954935B2 (en) Electronic device improved in object detection performance, image capturing apparatus, method of controlling electronic device, and storage medium
JP5943603B2 (en) Imaging apparatus and control method thereof
JP6598593B2 (en) Imaging device, control method thereof, and control program
JP6289107B2 (en) Image reproduction apparatus, control method thereof, and control program
JP5950571B2 (en) Imaging apparatus and control method thereof
JP5562479B2 (en) Image processing apparatus, image processing method, and program
JP5375943B2 (en) Imaging apparatus and program thereof
JP6161279B2 (en) Authentication device, imaging device, authentication method, and program
JP2008262305A (en) IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM
JP2017120942A (en) Imaging apparatus
JP5609367B2 (en) Electronic camera and image processing program
JP2013138314A (en) Imaging apparatus and control method for the same