[go: up one dir, main page]

JP2018197980A - Image display apparatus, image forming apparatus, control program, and control method - Google Patents

Image display apparatus, image forming apparatus, control program, and control method Download PDF

Info

Publication number
JP2018197980A
JP2018197980A JP2017102653A JP2017102653A JP2018197980A JP 2018197980 A JP2018197980 A JP 2018197980A JP 2017102653 A JP2017102653 A JP 2017102653A JP 2017102653 A JP2017102653 A JP 2017102653A JP 2018197980 A JP2018197980 A JP 2018197980A
Authority
JP
Japan
Prior art keywords
image
user
display
authentication
face
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017102653A
Other languages
Japanese (ja)
Other versions
JP6974032B2 (en
Inventor
田中 賢治
Kenji Tanaka
賢治 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2017102653A priority Critical patent/JP6974032B2/en
Publication of JP2018197980A publication Critical patent/JP2018197980A/en
Application granted granted Critical
Publication of JP6974032B2 publication Critical patent/JP6974032B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Collating Specific Patterns (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【構成】 画像形成装置(10)は、タッチパネル20が設けられたディスプレイ22および周囲に存在するユーザの像を含む撮影画像を撮影するカメラ52を備える。CPU(12)は、撮影画像から顔画像を検出する。複数の顔画像が検出された場合には、複数の顔画像を含む認証用画像が生成され、この認証用画像を含む認証画面100がディスプレイ22に表示される。そして、タッチ入力に応じて複数の顔画像の中から認証用の顔画像を特定して、認証用の顔画像に対応するユーザについてユーザ認証を行う。【効果】 複数の顔画像が検出された場合でも、適切かつ簡単にユーザ認証を行うことができる。【選択図】 図7[Structure] The image forming apparatus (10) includes a display 22 provided with a touch panel 20 and a camera 52 that captures a captured image including an image of a user existing in the surroundings. The CPU (12) detects a face image from the captured image. When a plurality of face images are detected, an authentication image including the plurality of face images is generated, and the authentication screen 100 including the authentication images is displayed on the display 22. Then, the face image for authentication is specified from the plurality of face images in response to the touch input, and user authentication is performed for the user corresponding to the face image for authentication. [Effect] Even when a plurality of face images are detected, user authentication can be appropriately and easily performed. [Selection diagram] Fig. 7

Description

この発明は、画像表示装置、画像形成装置、制御プログラムおよび制御方法に関し、特にたとえば、顔画像を用いたユーザ認証を行う、画像表示装置、画像形成装置、制御プログラムおよび制御方法に関する。   The present invention relates to an image display apparatus, an image forming apparatus, a control program, and a control method, and more particularly to an image display apparatus, an image forming apparatus, a control program, and a control method that perform user authentication using a face image, for example.

この種の背景技術の一例が特許文献1に開示される。背景技術の画像形成装置は、第1カメラおよび第2カメラを備える。背景技術の画像形成装置では、第1カメラの撮影画像を解析することによって、画像形成装置の正面側の検出範囲に存在する人物を検知する。そして、検出範囲に存在する人物が検知された場合に、第2カメラによってその人物の顔画像が撮影され、顔画像を用いたユーザ認証が行われる。   An example of this type of background art is disclosed in Patent Document 1. Background Art An image forming apparatus includes a first camera and a second camera. In the image forming apparatus of the background art, a person existing in the detection range on the front side of the image forming apparatus is detected by analyzing a captured image of the first camera. When a person existing in the detection range is detected, the face image of the person is taken by the second camera, and user authentication using the face image is performed.

特開2016−212624号公報Japanese Patent Laid-Open No. 2016-212624

しかしながら、背景技術の画像形成装置では、人物の存在を検知する検知手段としての第1カメラおよび認証用の顔画像を取得する顔画像取得手段としての第2カメラを備えるので、製造コストが増大するという問題がある。   However, since the image forming apparatus of the background art includes the first camera as the detection unit that detects the presence of a person and the second camera as the face image acquisition unit that acquires the face image for authentication, the manufacturing cost increases. There is a problem.

この問題を解決するために、検知手段および顔画像取得手段の両方の機能を持つカメラを用いることが考えられる。このようなカメラを用いる場合、人物の存在を検知するために広い範囲を撮像する必要があり、検出範囲に複数の人物が存在することがある。ここで、検出範囲に複数の人物が存在する場合、複数の顔画像が検出されるので、誰が使用者であるかを特定しなければユーザ認証ができないという問題がある。   In order to solve this problem, it is conceivable to use a camera having both functions of a detection unit and a face image acquisition unit. When such a camera is used, it is necessary to image a wide range in order to detect the presence of a person, and there may be a plurality of persons in the detection range. Here, when there are a plurality of persons in the detection range, a plurality of face images are detected. Therefore, there is a problem that user authentication cannot be performed unless it is specified who is a user.

それゆえに、この発明の主たる目的は、新規な、画像表示装置、画像形成装置、制御プログラムおよび制御方法を提供することである。   Therefore, a main object of the present invention is to provide a novel image display apparatus, image forming apparatus, control program, and control method.

この発明の他の目的は、複数の顔画像が検出された場合でも、適切かつ簡単にユーザ認証を行うことができる、画像表示装置、画像形成装置、制御プログラムおよび制御方法を提供することである。   Another object of the present invention is to provide an image display device, an image forming device, a control program, and a control method capable of performing user authentication appropriately and easily even when a plurality of face images are detected. .

第1の発明は、入力部およびディスプレイ、撮影手段、顔検出手段、表示手段および第1特定手段を備える画像表示装置である。撮影手段は、画像表示装置の周囲に存在するユーザの像を含む撮影画像を撮影する。顔検出手段は、撮影画像から、ユーザの顔画像に対応する第1画像を検出する。表示手段は、顔検出手段によって複数の第1画像が検出された場合に、複数の第1画像をディスプレイに表示させる。第1特定手段は、ディスプレイに表示された複数の第1画像の中から、入力部における操作入力に応じて認証用の第1画像を特定する。   1st invention is an image display apparatus provided with an input part, a display, an imaging | photography means, a face detection means, a display means, and a 1st specific means. The imaging unit captures a captured image including an image of the user existing around the image display device. The face detection means detects a first image corresponding to the user's face image from the captured image. The display unit displays the plurality of first images on the display when the plurality of first images are detected by the face detection unit. The first specifying means specifies the first image for authentication according to the operation input in the input unit from among the plurality of first images displayed on the display.

第2の発明は、第1の発明に従属する画像表示装置であって、複数の登録ユーザの各々に対応する登録用の顔画像を記憶する記憶手段、認証用の第1画像に対応するユーザに対応する登録ユーザの候補が複数存在する場合に、複数の登録ユーザの候補の各々に対応する複数の識別情報をディスプレイに表示させる候補提示手段、およびディスプレイに表示された複数の識別情報の中から、入力部における操作入力に応じて認証用の識別情報を特定する第2特定手段をさらに備える。   The second invention is an image display device subordinate to the first invention, wherein the storage means stores a registration face image corresponding to each of a plurality of registered users, and the user corresponds to the first image for authentication. When there are a plurality of registered user candidates corresponding to the candidate, the candidate presenting means for displaying a plurality of identification information corresponding to each of the plurality of registered user candidates on the display, and among the plurality of identification information displayed on the display And a second specifying means for specifying identification information for authentication in accordance with an operation input in the input unit.

第3の発明は、第2の発明に従属する画像表示装置であって、認証用の第1画像と、登録用の顔画像とに基づいて、複数の登録ユーザの候補の各々に優先度を設定する第1優先度設定手段をさらに備え、表示手段は、複数の登録ユーザの候補の各々の優先度に応じて、複数の識別情報を配置する。   A third invention is an image display device subordinate to the second invention, wherein a priority is assigned to each of a plurality of registered user candidates based on the first image for authentication and the face image for registration. First setting means for setting is further provided, and the display means arranges a plurality of pieces of identification information according to the respective priorities of the plurality of registered user candidates.

第4の発明は、入力部およびディスプレイ、記憶手段、撮影手段、顔検出手段、判断手段、表示手段および第1特定手段を備える画像表示装置である。記憶手段は、複数の登録ユーザの各々に対応する登録用の顔画像を記憶する。撮影手段は、画像表示装置の周囲に存在するユーザの像を含む撮影画像を撮影する。顔検出手段は、撮影画像から、ユーザの顔画像を検出する。判断手段は、顔検出手段によって検出されたユーザの顔画像と、記憶手段に記憶された登録用の顔画像とに基づいて、ユーザが登録ユーザであるかどうかを判断する。表示手段は、判断手段によって登録ユーザであると判断されたユーザの顔画像に対応する第1画像が複数存在する場合に、複数の第1画像をディスプレイに表示させる。第1特定手段は、ディスプレイに表示された複数の第1画像の中から、入力部における操作入力に応じて認証用の第1画像を特定する。   A fourth invention is an image display device including an input unit, a display, a storage unit, a photographing unit, a face detection unit, a determination unit, a display unit, and a first specifying unit. The storage means stores a registration face image corresponding to each of the plurality of registered users. The imaging unit captures a captured image including an image of the user existing around the image display device. The face detection means detects the user's face image from the captured image. The determination unit determines whether the user is a registered user based on the face image of the user detected by the face detection unit and the registration face image stored in the storage unit. The display unit displays a plurality of first images on the display when there are a plurality of first images corresponding to the face image of the user determined to be a registered user by the determination unit. The first specifying means specifies the first image for authentication according to the operation input in the input unit from among the plurality of first images displayed on the display.

第5の発明は、第4の発明に従属する画像表示装置であって、複数の第1画像の各々に対応する複数の特定用情報をディスプレイに表示させる特定用情報提示手段をさらに備える。第1特定手段は、ディスプレイに表示された複数の特定用情報の中から、入力部における操作入力に応じて選択された特定用情報に対応する第1画像を、認証用の第1画像として特定する。   A fifth invention is an image display device subordinate to the fourth invention, further comprising specifying information presenting means for displaying a plurality of specifying information corresponding to each of the plurality of first images on a display. The first specifying means specifies, as a first image for authentication, a first image corresponding to the specifying information selected according to the operation input in the input unit from among the plurality of specifying information displayed on the display. To do.

第6の発明は、第5の発明に従属する画像表示装置であって、複数の第1画像に対応するユーザの顔画像の各々が検出された位置に応じて、複数の第1画像の各々に優先度を設定する第2優先度設定手段をさらに備える。表示手段は、第1画像の優先度に応じて、複数の特定用情報を配置する。   A sixth invention is an image display device according to the fifth invention, wherein each of the plurality of first images is in accordance with the position where each of the user's face images corresponding to the plurality of first images is detected. And a second priority setting means for setting the priority. The display means arranges a plurality of pieces of identification information according to the priority of the first image.

第7の発明は、第4ないし第6のいずれかの発明に従属する画像表示装置であって、認証用の第1画像に対応するユーザに対応する登録ユーザの候補が複数存在する場合に、複数の登録ユーザの候補の各々に対応する複数の識別情報をディスプレイに表示させる候補提示手段およびディスプレイに表示された複数の識別情報の中から、入力部における操作入力に応じて認証用の識別情報を特定する第2特定手段をさらに備える。   A seventh invention is an image display device according to any one of the fourth to sixth inventions, and when there are a plurality of registered user candidates corresponding to the user corresponding to the first image for authentication, A plurality of identification information corresponding to each of a plurality of registered user candidates is displayed on the display and a plurality of identification information displayed on the display, and identification information for authentication according to an operation input in the input unit Second specifying means for specifying

第8の発明は、第7の発明に従属する画像表示装置であって、認証用の第1画像と、登録用の顔画像とに基づいて、複数の登録ユーザの候補の各々に優先度を設定する第1優先度設定手段をさらに備える。表示手段は、複数の登録ユーザの候補の各々の優先度に応じて、複数の識別情報を配置する。   An eighth invention is an image display device subordinate to the seventh invention, wherein a priority is assigned to each of a plurality of registered user candidates based on the first image for authentication and the face image for registration. First priority setting means for setting is further provided. The display means arranges a plurality of pieces of identification information in accordance with the respective priorities of the plurality of registered user candidates.

第9の発明は、第1ないし第8のいずれかの発明の画像表示装置を備える画像形成装置である。   A ninth invention is an image forming apparatus including the image display device according to any one of the first to eighth inventions.

第10の発明は、入力部、ディスプレイおよび周囲に存在するユーザの像を含む撮影画像を撮影する撮影手段を備える画像表示装置の制御プログラムであって、画像表示装置のプロセッサを、撮影画像から、ユーザの顔画像に対応する第1画像を検出する顔検出手段、顔検出手段によって複数の第1画像が検出された場合に、複数の第1画像をディスプレイに表示させる表示手段およびディスプレイに表示された複数の第1画像の中から、入力部における操作入力に応じて認証用の第1画像を特定する第1特定手段として機能させる。   A tenth aspect of the invention is a control program for an image display device including an input unit, a display, and a photographing unit that captures a photographed image including an image of a user existing around the processor. A face detection unit that detects a first image corresponding to the face image of the user, and a display unit that displays the plurality of first images on the display when the plurality of first images are detected by the face detection unit and the display. Among the plurality of first images, it is made to function as a first specifying unit that specifies a first image for authentication according to an operation input in the input unit.

第11の発明は、入力部、ディスプレイおよび周囲に存在するユーザの像を含む撮影画像を撮影する撮影手段を備える画像表示装置のプロセッサが、(a)撮影画像から、ユーザの顔画像に対応する第1画像を検出するステップ、(b)ステップ(a)によって複数の第1画像が検出された場合に、複数の第1画像をディスプレイに表示させるステップ、および(c)ステップ(b)によってディスプレイに表示された複数の第1画像の中から、入力部における操作入力に応じて認証用の第1画像を特定するステップを実行する制御方法である。   In an eleventh aspect of the invention, there is provided a processor of an image display device including an input unit, a display, and a photographing unit that captures a photographed image including an image of a user existing in the vicinity. Detecting a first image; (b) displaying a plurality of first images on a display when a plurality of first images are detected by step (a); and (c) displaying by a step (b). Is a control method for executing a step of identifying a first image for authentication in accordance with an operation input in an input unit from among a plurality of first images displayed on the screen.

第12の発明は、入力部、ディスプレイ、複数の登録ユーザの各々に対応する登録用の顔画像を記憶する記憶手段および周囲に存在するユーザの像を含む撮影画像を撮影する撮影手段を備える画像表示装置の制御プログラムであって、画像表示装置のプロセッサを、撮影画像から、ユーザの顔画像に対応する第1画像を検出する顔検出手段、顔検出手段によって検出されたユーザの顔画像と、記憶手段に記憶された登録用の顔画像とに基づいて、ユーザが登録ユーザであるかどうかを判断する判断手段、判断手段によって登録ユーザであると判断されたユーザの顔画像に対応する第1画像が複数存在する場合に、複数の第1画像をディスプレイに表示させる表示手段およびディスプレイに表示された複数の第1画像の中から、入力部における操作入力に応じて認証用の第1画像を特定する第1特定手段として機能させる。   A twelfth aspect of the present invention is an image including an input unit, a display, a storage unit that stores a registration face image corresponding to each of a plurality of registered users, and an imaging unit that captures a captured image including an image of the user existing around A control program for a display device, wherein a processor of the image display device detects a first image corresponding to the user's face image from a captured image, a user's face image detected by the face detection means, Based on the registration face image stored in the storage means, a determination means for determining whether the user is a registered user, a first corresponding to the face image of the user determined to be a registered user by the determination means. In the case where there are a plurality of images, display means for displaying the plurality of first images on the display and a plurality of the first images displayed on the display, the input unit To function as a first specifying means for specifying the first image for authentication in accordance with the work input.

第13の発明は、入力部、ディスプレイ、複数の登録ユーザの各々に対応する登録用の顔画像を記憶する記憶手段および周囲に存在するユーザの像を含む撮影画像を撮影する撮影手段を備える画像表示装置のプロセッサが、(a)撮影画像から、ユーザの顔画像に対応する第1画像を検出するステップ、(b)ステップ(a)によって検出されたユーザの顔画像と、記憶手段に記憶された登録用の顔画像とに基づいて、ユーザが登録ユーザであるかどうかを判断するステップ、(c)ステップ(b)によって登録ユーザであると判断されたユーザの顔画像に対応する第1画像が複数存在する場合に、複数の第1画像をディスプレイに表示させるステップ、および(d)ステップ(c)によってディスプレイに表示された複数の第1画像の中から、入力部における操作入力に応じて認証用の第1画像を特定するステップを実行する制御方法である。   A thirteenth aspect of the present invention is an image including an input unit, a display, a storage unit that stores a registration face image corresponding to each of a plurality of registered users, and an imaging unit that captures a captured image including an image of the user existing around. The processor of the display device (a) detects a first image corresponding to the user's face image from the captured image, (b) the user's face image detected in step (a), and is stored in the storage means. A step of determining whether or not the user is a registered user based on the registered face image, and (c) a first image corresponding to the face image of the user determined to be a registered user in step (b) A plurality of first images displayed on the display when there are multiple, and (d) among the plurality of first images displayed on the display by step (c) A control method for performing the step of identifying a first image for authentication in accordance with an input in the input section.

第1ないし第13の発明によれば、複数の顔画像が検出された場合でも、適切かつ簡単にユーザ認証を行うことができる。   According to the first to thirteenth inventions, user authentication can be performed appropriately and easily even when a plurality of face images are detected.

この発明によれば、複数の顔画像が検出された場合でも、適切かつ簡単にユーザ認証を行うことができる。   According to the present invention, even when a plurality of face images are detected, user authentication can be performed appropriately and easily.

この発明の上述の目的,その他の目的,特徴および利点は、図面を参照して行う以下の実施例の詳細な説明から一層明らかとなろう。   The above object, other objects, features and advantages of the present invention will become more apparent from the following detailed description of embodiments with reference to the drawings.

図1はこの発明の一実施例である画像形成装置の外観を示す斜視図である。FIG. 1 is a perspective view showing an appearance of an image forming apparatus according to an embodiment of the present invention. 図2は図1に示す画像形成装置の電気的な構成を示すブロック図である。FIG. 2 is a block diagram showing an electrical configuration of the image forming apparatus shown in FIG. 図3は画像形成装置の周囲に設定される範囲を説明するための平面図である。FIG. 3 is a plan view for explaining a range set around the image forming apparatus. 図4は範囲に人が存在する場合を示す平面図である。FIG. 4 is a plan view showing a case where a person is present in the range. 図5は撮影画像の一例を示す図解図である。FIG. 5 is an illustrative view showing an example of a photographed image. 図6は顔検出前の認証画面の一例を示す図解図である。FIG. 6 is an illustrative view showing an example of an authentication screen before face detection. 図7は顔検出後の認証画面の一例を示す図解図である。FIG. 7 is an illustrative view showing an example of an authentication screen after face detection. 図8は図2に示すRAMのメモリマップの一例を示す図解図である。FIG. 8 is an illustrative view showing one example of a memory map of the RAM shown in FIG. 図9は図2に示すCPUの認証処理の一例を示すフロー図である。FIG. 9 is a flowchart showing an example of the authentication process of the CPU shown in FIG. 図10は第2実施例の認証画面の一例を示す図解図である。FIG. 10 is an illustrative view showing one example of an authentication screen of the second embodiment. 図11は第2実施例の認証処理の一例を示すフロー図である。FIG. 11 is a flowchart showing an example of the authentication process of the second embodiment. 図12は第2実施例の認証画面の他の例を示す図解図である。FIG. 12 is an illustrative view showing another example of the authentication screen of the second embodiment. 図13は第3実施例のユーザ特定画面の一例を示す図解図である。FIG. 13 is an illustrative view showing one example of a user specifying screen of the third embodiment. 図14は第3実施例の認証処理の一例を示すフロー図である。FIG. 14 is a flowchart showing an example of the authentication process of the third embodiment.

[第1実施例]
図1はこの発明の一実施例である画像形成装置10の外観構成を示す正面図である。図1を参照して、第1実施例では、画像形成装置10は、複写機能、プリンタ機能、スキャナ機能およびファクシミリ機能などを有する複合機(MFP:Multifunction Peripheral)である。なお、この発明は複合機だけでなく、複写機(コピー機)、印刷装置(プリンタ)およびファクシミリのような他の画像形成装置に適用可能である。また、この発明は画像形成装置だけでなく、画像表示機能を備えていれば良いので、タブレット端末、スマートフォン、PCおよび電子机(デジタルテーブル)などの各種の画像表示機能を備える情報機器ないし電子機器に適用することも可能である。さらに、この発明は、インフォメーションディスプレイおよび電子黒板などの画像表示装置にも適用可能である。
[First embodiment]
FIG. 1 is a front view showing an external configuration of an image forming apparatus 10 according to an embodiment of the present invention. Referring to FIG. 1, in the first embodiment, image forming apparatus 10 is a multifunction peripheral (MFP) having a copying function, a printer function, a scanner function, a facsimile function, and the like. The present invention can be applied not only to a multifunction peripheral but also to other image forming apparatuses such as a copying machine (copying machine), a printing apparatus (printer), and a facsimile machine. In addition, since the present invention is not limited to an image forming apparatus, it is only necessary to have an image display function. Therefore, an information device or an electronic device having various image display functions such as a tablet terminal, a smartphone, a PC, and an electronic desk (digital table). It is also possible to apply to. Furthermore, the present invention is also applicable to image display devices such as information displays and electronic blackboards.

なお、この明細書では、ユーザの立ち位置に対向する面、つまり後述する操作パネル26が設けられる側の面を前面(正面)として画像形成装置10およびその構成部材の前後方向(奥行方向)を規定し、画像形成装置10およびその構成部材の左右方向(横方向)は、ユーザから画像形成装置10を見た状態を基準として規定する。   In this specification, the front surface (front surface) is the surface facing the user's standing position, that is, the surface on which the operation panel 26 described later is provided, and the front-rear direction (depth direction) of the image forming apparatus 10 and its constituent members is defined. The horizontal direction (lateral direction) of the image forming apparatus 10 and its constituent members is defined based on the state when the image forming apparatus 10 is viewed from the user.

画像形成装置10は、画像読取部30、画像形成部32、手差し給紙部34、給紙装置38および排紙トレイ40を含む装置本体36を備える。   The image forming apparatus 10 includes an apparatus main body 36 including an image reading unit 30, an image forming unit 32, a manual paper feed unit 34, a paper feed device 38, and a paper discharge tray 40.

画像読取部30は、透明材によって形成される原稿載置台を備え、装置本体36に内蔵される。原稿載置台の上方には、ヒンジ等を介して原稿押えカバー30aが開閉自在に取り付けられる。この原稿押えカバー30aには、手差し給紙部34が設けられる。また、原稿押えカバー30aには、手差し給紙部34に載置された原稿を自動的に給紙するADF(自動原稿送り装置)が設けられる。   The image reading unit 30 includes a document placing table formed of a transparent material, and is built in the apparatus main body 36. A document pressing cover 30a is attached to the upper side of the document placing table via a hinge or the like so as to be freely opened and closed. The document pressing cover 30a is provided with a manual sheet feeding unit 34. The document presser cover 30a is provided with an ADF (automatic document feeder) that automatically feeds a document placed on the manual sheet feeder 34.

また、画像読取部30は、光源、複数のミラー、結像レンズおよびラインセンサ等を備える。この画像読取部30は、原稿表面を光源によって露光し、原稿表面から反射した反射光を複数のミラーによって結像レンズに導く。そして、結像レンズによって反射光をラインセンサの受光素子に結像させる。ラインセンサでは、受光素子に結像した反射光の輝度または色度が検出され、原稿表面の画像に基づく読取画像データが生成される。ラインセンサとしては、CCD(Charge Coupled Device)またはCIS(Contact Image Sensor)等が用いられる。   The image reading unit 30 includes a light source, a plurality of mirrors, an imaging lens, a line sensor, and the like. The image reading unit 30 exposes the document surface with a light source, and guides reflected light reflected from the document surface to the imaging lens by a plurality of mirrors. Then, the reflected light is imaged on the light receiving element of the line sensor by the imaging lens. The line sensor detects the luminance or chromaticity of the reflected light imaged on the light receiving element, and generates read image data based on the image on the surface of the document. As the line sensor, a charge coupled device (CCD) or a contact image sensor (CIS) is used.

画像形成部32は、装置本体36に内蔵され、画像読取部30の下方に設けられる。この画像形成部32は、感光体ドラム、帯電装置、露光装置、現像装置、転写装置および定着装置などを備える。画像形成部32は、手差し給紙部34または給紙装置38等から搬送される記録媒体(用紙)上に電子写真方式によって画像を形成し、画像形成済みの用紙を排紙トレイ40に排出する。ただし、用紙上に画像を形成するための画像データとしては、画像読取部30で読み取った画像データ、または外部コンピュータから送信された画像データ等が利用される。また、記録媒体としては、紙からなる用紙に限定されず、OHPフィルムなどの紙以外のシートも用いられる。   The image forming unit 32 is built in the apparatus main body 36 and is provided below the image reading unit 30. The image forming unit 32 includes a photosensitive drum, a charging device, an exposure device, a developing device, a transfer device, and a fixing device. The image forming unit 32 forms an image on a recording medium (paper) conveyed from the manual paper feeding unit 34 or the paper feeding device 38 by an electrophotographic method, and discharges the image-formed paper to the paper discharge tray 40. . However, as image data for forming an image on a sheet, image data read by the image reading unit 30, image data transmitted from an external computer, or the like is used. Further, the recording medium is not limited to paper made of paper, and a sheet other than paper such as an OHP film is also used.

排紙トレイ40は、画像読取部30および画像形成部32の間に設けられる。排紙トレイ40の底面は、画像形成部32によって区画される。また、排紙トレイ40の天面は、画像読取部30によって区画される。さらに、排紙トレイ40の左側面(正面から見た左側面)は、連結筐体42の右側面で規定される。つまり、排紙トレイ40の前面側、背面側および左側面側は、開口する。排紙トレイ40の底面は、連結筐体42側に向かって下り勾配となる傾斜面を有する。   The paper discharge tray 40 is provided between the image reading unit 30 and the image forming unit 32. The bottom surface of the paper discharge tray 40 is partitioned by the image forming unit 32. The top surface of the paper discharge tray 40 is partitioned by the image reading unit 30. Further, the left side surface of the paper discharge tray 40 (the left side surface as viewed from the front) is defined by the right side surface of the connection housing 42. That is, the front side, the back side, and the left side of the paper discharge tray 40 are opened. The bottom surface of the paper discharge tray 40 has an inclined surface that is inclined downward toward the connection housing 42 side.

また、画像読取部30の前面側には、操作パネル(入力部に相当)26が設けられる。操作パネル26は、タッチパネル20付きのディスプレイ22および複数の操作ボタン26aを含む。   An operation panel (corresponding to an input unit) 26 is provided on the front side of the image reading unit 30. The operation panel 26 includes a display 22 with a touch panel 20 and a plurality of operation buttons 26a.

タッチパネル20付きのディスプレイ22には、各種設定または印刷指示などをユーザから受け付けるためのソフトウェアキーおよびメッセージ等が表示される。一例として、ディスプレイ22には、画像形成装置10が実行可能な各種のジョブから所望のジョブを選択するための画面であるホーム画面または後述する認証画面100(図6参照)等が表示される。ただし、この第1実施例では、ジョブは、コピー(原稿のスキャンを含む)、印刷およびファックスの送信などを意味する。   The display 22 with the touch panel 20 displays software keys and messages for receiving various settings or printing instructions from the user. As an example, the display 22 displays a home screen, which is a screen for selecting a desired job from various jobs that can be executed by the image forming apparatus 10, an authentication screen 100 (see FIG. 6) described later, or the like. However, in the first embodiment, the job means copying (including document scanning), printing, fax transmission, and the like.

操作ボタン26aは、ハードウェアキーであって、たとえば、ホームキー、省電力キーおよび主電源キーなどが含まれる。ホームキーは、ホーム画面をディスプレイ22に表示させるためのキーである。省電力キーは、消費電力が制限される省電力状態(省電力モード)と、消費電力が制限されない通常状態(通常モード)とを切り替えるためのキーである。   The operation button 26a is a hardware key, and includes, for example, a home key, a power saving key, a main power key, and the like. The home key is a key for displaying the home screen on the display 22. The power saving key is a key for switching between a power saving state (power saving mode) in which power consumption is restricted and a normal state (normal mode) in which power consumption is not restricted.

なお、ソフトウェアキーとは、たとえばタッチパネル20付きのディスプレイ22の表示面上にソフトウェア的に再現されたキー(アイコン)のことを言う。これに対して、ハードウェアキーとは、物理的な装置として設けられたキー(ボタン)のことを言う。また、操作パネル26における操作入力とは、ソフトウェアキーにおける操作入力(たとえばタッチパネル20へのタッチ入力)およびハードウェアキーにおける操作入力(操作ボタン26aのボタン操作)などの操作パネル26の各部への操作入力を意味する。   The software key refers to a key (icon) reproduced in software on the display surface of the display 22 with the touch panel 20, for example. On the other hand, a hardware key refers to a key (button) provided as a physical device. Further, the operation input on the operation panel 26 is an operation to each part of the operation panel 26 such as an operation input on a software key (for example, touch input on the touch panel 20) and an operation input on a hardware key (button operation on the operation button 26a). Means input.

また、操作パネル26の前面中央には、装置本体36の前方または近傍に存在する人を検出するための人検出センサ50および装置本体36の前方または近傍に存在する人の顔画像を撮影する撮影手段としてのカメラ52が設けられる。   Further, in the center of the front surface of the operation panel 26, a human detection sensor 50 for detecting a person existing in front of or near the apparatus main body 36 and a face image of a person existing in front of or near the apparatus main body 36 are photographed. A camera 52 is provided as means.

図2は図1に示す画像形成装置10の電気的な構成を示すブロック図である。図2を参照して、画像形成装置10はCPU12を含む。CPU12には、バス60を介してRAM14、HDD28、タッチパネル制御回路16、表示制御回路18、操作ボタン検出回路24、人検出センサ50、カメラ52、画像読取部30、画像形成部32および通信回路54が接続される。また、タッチパネル制御回路16にはタッチパネル20が接続され、表示制御回路18にはディスプレイ22が接続され、操作ボタン検出回路24には操作ボタン26aが接続される。   FIG. 2 is a block diagram showing an electrical configuration of the image forming apparatus 10 shown in FIG. Referring to FIG. 2, image forming apparatus 10 includes a CPU 12. The CPU 12 is connected to the RAM 14, the HDD 28, the touch panel control circuit 16, the display control circuit 18, the operation button detection circuit 24, the human detection sensor 50, the camera 52, the image reading unit 30, the image forming unit 32, and the communication circuit 54 via the bus 60. Is connected. A touch panel 20 is connected to the touch panel control circuit 16, a display 22 is connected to the display control circuit 18, and an operation button 26 a is connected to the operation button detection circuit 24.

CPU12は、画像形成装置10の全体的な制御を司る。RAM14は、CPU12のワーク領域およびバッファ領域として用いられる。   The CPU 12 governs overall control of the image forming apparatus 10. The RAM 14 is used as a work area and a buffer area for the CPU 12.

HDD28は、画像形成装置10の主記憶装置であって、CPU12が画像形成装置10の各部位の動作を制御するための制御プログラムおよびデータ等を適宜記憶する。また、HDD28は、登録されたユーザ(登録ユーザ)の認証情報を記憶する。登録ユーザの認証情報には、識別情報および比較画像が含まれる。識別情報は、たとえばユーザID、氏名等の登録ユーザを特定するための情報である。比較画像は、登録ユーザの顔画像(登録用の顔画像)である。   The HDD 28 is a main storage device of the image forming apparatus 10, and appropriately stores a control program and data for the CPU 12 to control the operation of each part of the image forming apparatus 10. The HDD 28 also stores authentication information of registered users (registered users). The registered user authentication information includes identification information and a comparative image. The identification information is information for specifying a registered user such as a user ID and a name. The comparative image is a registered user's face image (registration face image).

ただし、HDD28に代えて、またはHDD28とともに、SSD、フラッシュメモリ、EEPROMなどの他の不揮発性メモリが用いられてもよい。   However, another nonvolatile memory such as an SSD, a flash memory, or an EEPROM may be used instead of or together with the HDD 28.

タッチパネル制御回路16は、タッチパネル20に必要な電圧などを付与するとともに、タッチパネル20のタッチ有効範囲内でのタッチ操作(タッチ入力)を検出して、そのタッチ入力の位置を示すタッチ座標データをCPU12に出力する。   The touch panel control circuit 16 applies necessary voltage and the like to the touch panel 20, detects a touch operation (touch input) within the touch effective range of the touch panel 20, and outputs touch coordinate data indicating the position of the touch input to the CPU 12. Output to.

タッチパネル20は、汎用のタッチパネルであり、静電容量方式、電磁誘導方式、抵抗膜方式、赤外線方式など、任意の方式のものを用いることができる。この第1実施例では、タッチパネル20としては、静電容量方式のタッチパネルが用いられ、ディスプレイ22の表示面上にタッチパネル20が設けられる。ただし、タッチパネル20とディスプレイ22とが一体的に形成されたタッチパネルディスプレイが用いられてもよい。   The touch panel 20 is a general-purpose touch panel, and an arbitrary system such as an electrostatic capacity system, an electromagnetic induction system, a resistance film system, and an infrared system can be used. In the first embodiment, a capacitive touch panel is used as the touch panel 20, and the touch panel 20 is provided on the display surface of the display 22. However, a touch panel display in which the touch panel 20 and the display 22 are integrally formed may be used.

表示制御回路18は、GPUおよびVRAMなどを含んでおり、CPU12の指示の下、GPUは、RAM14に記憶された画像生成データ74b(図8参照)を用いてディスプレイ22に種々の画面を表示するための表示画像データをVRAMに生成し、生成した表示画像データをディスプレイ22に出力する。ディスプレイ22としては、たとえばLCDまたはEL(Electro-Luminescence)ディスプレイなどを用いることができる。   The display control circuit 18 includes a GPU, a VRAM, and the like. Under the instruction of the CPU 12, the GPU displays various screens on the display 22 using the image generation data 74b (see FIG. 8) stored in the RAM 14. Display image data is generated in the VRAM, and the generated display image data is output to the display 22. As the display 22, for example, an LCD or an EL (Electro-Luminescence) display can be used.

操作ボタン検出回路24は、上述した操作ボタン26aの操作に応じた操作信号ないし操作データをCPU12に出力する。   The operation button detection circuit 24 outputs an operation signal or operation data corresponding to the operation of the operation button 26a described above to the CPU 12.

人検出センサ50は、画像形成装置10の周囲に設定される範囲A(図3参照)に人(ユーザ)が存在するかどうかを検出するためのセンサであり、たとえば距離センサである。たとえば、距離センサとしては、赤外線センサ、超音波センサおよびレーザ距離センサ等が用いられる。この距離センサは、距離データをCPU12に出力する。CPU12は、人検出センサ50から出力された距離データが示す距離が範囲Aを規定する所定距離以内であるかどうかに応じて、画像形成装置10の前(前方)に人(ユーザ)が存在するかどうかを判断する。したがって、範囲Aは、画像形成装置10の前に人が存在するかどうかを判断するために設定された範囲ということができる。   The person detection sensor 50 is a sensor for detecting whether or not a person (user) exists in a range A (see FIG. 3) set around the image forming apparatus 10, and is a distance sensor, for example. For example, as the distance sensor, an infrared sensor, an ultrasonic sensor, a laser distance sensor, or the like is used. This distance sensor outputs distance data to the CPU 12. The CPU 12 has a person (user) in front of (in front of) the image forming apparatus 10 depending on whether the distance indicated by the distance data output from the person detection sensor 50 is within a predetermined distance that defines the range A. Determine whether or not. Accordingly, it can be said that the range A is a range set for determining whether a person is present in front of the image forming apparatus 10.

なお、人検出センサ50としては、距離センサに代えて、焦電センサまたは床センサ(圧力センサ)などを用いることもできる。焦電センサを用いる場合には、焦電センサが範囲Aにおける温度変化を検出し、CPU12は、焦電センサの出力に応じて、範囲Aに人が存在するかどうかを判断する。また、床センサを用いる場合には、画像形成装置10の範囲Aに対応する床面の範囲に床センサが設けられ、CPU12は、床センサの出力に応じて、範囲Aに人が存在するかどうかを判断する。   As the human detection sensor 50, a pyroelectric sensor or a floor sensor (pressure sensor) can be used instead of the distance sensor. When the pyroelectric sensor is used, the pyroelectric sensor detects a temperature change in the range A, and the CPU 12 determines whether or not a person exists in the range A according to the output of the pyroelectric sensor. When a floor sensor is used, a floor sensor is provided in the floor surface range corresponding to the range A of the image forming apparatus 10, and the CPU 12 determines whether a person exists in the range A according to the output of the floor sensor. Judge whether.

図3は、画像形成装置10の周囲に設定される範囲Aを説明するための平面図である。図4は範囲Aに人が存在する場合を示す平面図である。   FIG. 3 is a plan view for explaining a range A set around the image forming apparatus 10. FIG. 4 is a plan view showing a case where a person exists in the range A. FIG.

図3に示すように、範囲Aは、画像形成装置10を使用(操作)する可能性がある人が存在すると考えられる範囲であり、一例として、半径が第1距離L1の半円で定義される。ただし、第1距離L1は、画像形成装置10の装置本体36の前面の中央からの水平方向における距離であり、この第1実施例では、装置本体36の前面の中央から左右方向の両端部までの長さ以上に設定される。すなわち、第1実施例では、範囲Aは、画像形成装置10(装置本体36)の前面側(前方)であり、当該画像形成装置10を操作可能な位置(たとえば、操作パネル26に手が届く位置)に存在する人を検出可能な範囲に設定される。また、範囲Aは、複数の人が存在できる程度の大きさ(広さ)に設定される。   As shown in FIG. 3, the range A is a range in which there is a possibility that there is a person who may use (operate) the image forming apparatus 10. As an example, the range A is defined by a semicircle having a first distance L1. The However, the first distance L1 is a distance in the horizontal direction from the center of the front surface of the apparatus main body 36 of the image forming apparatus 10, and in this first embodiment, from the center of the front surface of the apparatus main body 36 to both ends in the left-right direction. It is set to be longer than. That is, in the first embodiment, the range A is the front side (front) of the image forming apparatus 10 (apparatus main body 36), and the position where the image forming apparatus 10 can be operated (for example, the operation panel 26 can be reached). Set to a range in which a person existing at (position) can be detected. The range A is set to a size (width) that allows a plurality of people to exist.

ただし、範囲Aの大きさおよび形状は、上記のように、画像形成装置10の前面側であり、当該画像形成装置10を操作可能な位置に存在する人を検出可能な範囲であれば、適宜変更可能である。また、詳細な説明は省略するが、人検出センサ50の個数は1つに限定される必要はなく、設定した範囲Aに存在する人を検出できれば2つ以上でもよい。   However, as long as the size and shape of the range A are on the front side of the image forming apparatus 10 as described above and can detect a person present at a position where the image forming apparatus 10 can be operated, the range A is appropriately selected. It can be changed. Although the detailed description is omitted, the number of the human detection sensors 50 is not limited to one, and may be two or more as long as a person existing in the set range A can be detected.

なお、人検出センサ50の検出可能範囲は、範囲Aを含んでいればよく、範囲Aと一致する必要はない。また、範囲Aに固定的な障害物が存在する場合は、当該障害物を検出結果から予め除外するようにしてもよい。   It should be noted that the detectable range of the human detection sensor 50 only needs to include the range A and does not need to coincide with the range A. Further, when a fixed obstacle exists in the range A, the obstacle may be excluded from the detection result in advance.

図4に示すように、範囲Aに人が存在する場合には、人検出センサ50は、第1距離L1よりも短い距離に対応する距離データをCPU12に出力する。CPU12は、第1距離L1よりも短い距離の距離データを受信(取得)すると、範囲Aに人が存在すると判断する。また、範囲Aに人が存在しない場合には、人検出センサ50は、第1距離L1よりも長い距離に対応する距離データをCPU12に出力する。CPU12は、第1距離L1よりも長い距離の距離データを受信すると、範囲Aに人が存在しないと判断する。   As shown in FIG. 4, when there is a person in the range A, the person detection sensor 50 outputs distance data corresponding to a distance shorter than the first distance L <b> 1 to the CPU 12. When the CPU 12 receives (acquires) distance data of a distance shorter than the first distance L1, the CPU 12 determines that there is a person in the range A. When no person is present in the range A, the human detection sensor 50 outputs distance data corresponding to a distance longer than the first distance L1 to the CPU 12. When the CPU 12 receives the distance data of a distance longer than the first distance L1, the CPU 12 determines that no person exists in the range A.

なお、詳細な説明は省略するが、第1実施例では、第1距離L1と等しい距離の距離データを受信した場合には、CPU12は、範囲Aに人が存在すると判断するようにしてある。ただし、この場合、CPU12は、範囲Aに人が存在しないと判断するようにしてもよい。   Although detailed description is omitted, in the first embodiment, the CPU 12 determines that there is a person in the range A when distance data having a distance equal to the first distance L1 is received. However, in this case, the CPU 12 may determine that no person exists in the range A.

また、詳細な説明は省略するが、CPU12は、第1距離L1よりも長い距離に対応する距離データを受信した後に、第1距離L1よりも短い距離に対応する距離データを受信すると、人が範囲A外から範囲A内に入ったと判断する。また、CPU12は、第1距離L1よりも短い距離に対応する距離データを受信した後に、第1距離L1よりも長い距離に対応する距離データを受信すると、人が範囲A内から範囲A外に出たと判断する。   Although detailed explanation is omitted, when the CPU 12 receives distance data corresponding to a distance shorter than the first distance L1 after receiving distance data corresponding to a distance longer than the first distance L1, It is determined that the range A is entered from outside the range A. Further, when the CPU 12 receives distance data corresponding to a distance longer than the first distance L1 after receiving distance data corresponding to a distance shorter than the first distance L1, the person moves from within the range A to outside the range A. Judge that it came out.

カメラ52は、画像形成装置10(装置本体36)の前方を撮像する。ただし、カメラ52の撮影範囲は、少なくとも範囲Aを含む。このカメラ52は、撮像素子(イメージセンサ)、レンズおよび駆動回路を有し、撮像素子から取り込んだ可視光としての撮像光を、電気信号へと変換することにより撮像を行う。この撮像素子の例としては、CCDイメージセンサ、またはCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の固体撮像素子が挙げられる。また、レンズは、イメージセンサの受光部に入射光を結像するための光学素子である。このレンズとしては、魚眼レンズが用いられる。魚眼レンズが用いられるのは、カメラ52の視野角を広げるためである。駆動回路は、CPU12の指示の下、イメージセンサを駆動する。イメージセンサは、範囲Aに人が存在する場合に駆動され、範囲Aに人が存在しない場合には駆動されない(停止される)。つまり、イメージセンサは、人が範囲A外から範囲A内に入ったと判断されたときに駆動され、人が範囲A内から範囲A外に出たと判断されたときに停止される。ただし、範囲Aに人が存在する場合であっても、後述するユーザ認証が終了した場合には、イメージセンサは停止される。   The camera 52 images the front of the image forming apparatus 10 (device main body 36). However, the shooting range of the camera 52 includes at least the range A. The camera 52 includes an image sensor (image sensor), a lens, and a drive circuit, and performs imaging by converting imaging light as visible light captured from the image sensor into an electrical signal. Examples of this image sensor include a solid-state image sensor such as a CCD image sensor or a complementary metal oxide semiconductor (CMOS) image sensor. The lens is an optical element for forming incident light on the light receiving portion of the image sensor. A fisheye lens is used as this lens. The fisheye lens is used to widen the viewing angle of the camera 52. The drive circuit drives the image sensor under the instruction of the CPU 12. The image sensor is driven when there is a person in the range A, and is not driven (stopped) when there is no person in the range A. That is, the image sensor is driven when it is determined that a person has entered the range A from outside the range A, and is stopped when it is determined that the person has moved out of the range A from outside the range A. However, even if there is a person in range A, the image sensor is stopped when user authentication described later is completed.

通信回路54は、インターネットなどのネットワークに接続するための通信回路である。この通信回路54は、有線通信回路または無線通信回路であり、CPU12からの指示に従って、ネットワークを介して、サーバ等の外部コンピュータと通信する。   The communication circuit 54 is a communication circuit for connecting to a network such as the Internet. The communication circuit 54 is a wired communication circuit or a wireless communication circuit, and communicates with an external computer such as a server via a network in accordance with an instruction from the CPU 12.

なお、図2に示す画像形成装置10の電気的な構成は単なる一例であり、これに限定される必要はない。   Note that the electrical configuration of the image forming apparatus 10 shown in FIG. 2 is merely an example, and is not limited to this.

このような構成の画像形成装置10では、ユーザ認証が行われることがある。たとえば、ユーザが画像形成装置10において提供される所定のアプリケーションの使用または所定のジョブの実行を希望する場合に、そのユーザがアプリケーションの使用またはジョブの実行を許可されている登録ユーザであるかどうかを判断するユーザ認証が行われる。   In the image forming apparatus 10 having such a configuration, user authentication may be performed. For example, when a user desires to use a predetermined application provided in the image forming apparatus 10 or execute a predetermined job, whether or not the user is a registered user permitted to use the application or execute the job User authentication is performed to determine

ユーザ認証の方法として、ユーザの顔画像を用いた認証処理(顔認証処理)が知られている。顔認証処理では、カメラ52によって撮影された撮影画像から範囲Aに存在する人の顔画像を検出して、その顔画像を用いて顔認証処理を行う。このとき、範囲Aに複数の人が存在する場合には、複数の顔画像が検出されることがある。複数の顔画像が検出された場合には、誰が使用者であるかを特定しなければ顔認証処理ができないという問題がある。   As a user authentication method, an authentication process using a user's face image (face authentication process) is known. In the face authentication process, a face image of a person existing in the range A is detected from a photographed image taken by the camera 52, and the face authentication process is performed using the face image. At this time, if there are a plurality of people in the range A, a plurality of face images may be detected. When a plurality of face images are detected, there is a problem that face authentication processing cannot be performed unless it is specified who is a user.

そこで、この第1実施例では、複数の顔画像が検出された場合に、タッチ入力に応じて複数の顔画像の中から認証用の顔画像を特定して、誰が使用者であるかを特定するようにした。   Therefore, in the first embodiment, when a plurality of face images are detected, a face image for authentication is specified from among the plurality of face images in response to touch input, and who is the user is specified. I tried to do it.

図5は撮影画像90の一例を示す図解図である。図6は顔検出前の認証画面100の一例を示す図解図である。図7は顔検出後の認証画面100の一例を示す図解図である。   FIG. 5 is an illustrative view showing an example of a photographed image 90. FIG. 6 is an illustrative view showing an example of an authentication screen 100 before face detection. FIG. 7 is an illustrative view showing an example of an authentication screen 100 after face detection.

以下、第1実施例の画像形成装置10の動作例を説明するが、登録ユーザが顔認証処理を実行する場合について説明する。ここでは、登録していないユーザが顔認証処理を実行する場合についての説明は省略することにする。   Hereinafter, an operation example of the image forming apparatus 10 according to the first embodiment will be described, but a case where a registered user executes face authentication processing will be described. Here, a description of a case where a non-registered user executes face authentication processing will be omitted.

範囲A内に人(登録ユーザ)が存在する場合、カメラ52のイメージセンサが駆動され、撮影が開始される。図5に示すように、撮影が開始されると、カメラ52は、画像形成装置10の周囲に設定された撮影範囲を撮影した撮影画像90をCPU12に出力する。図5に示す例では、カメラ52の撮影範囲に存在する人数は、3人(ユーザA〜C)である。このため、撮影画像90には、ユーザA〜Cの像が含まれる。ただし、ユーザA〜Cのそれぞれは、登録ユーザであるものとする。   When there is a person (registered user) in the range A, the image sensor of the camera 52 is driven and photographing is started. As shown in FIG. 5, when shooting is started, the camera 52 outputs a captured image 90 obtained by shooting a shooting range set around the image forming apparatus 10 to the CPU 12. In the example illustrated in FIG. 5, the number of persons existing in the shooting range of the camera 52 is three (users A to C). For this reason, the captured image 90 includes images of the users A to C. However, each of the users A to C is assumed to be a registered user.

上述したように、カメラ52は、魚眼レンズを有するので、撮影画像データ74cに対応する撮影画像90は、歪みを有する。このため、撮影画像データ74cに対応する撮影画像90の歪みを補正した認証用画像が生成される。図6に示すように、認証用画像が生成されると、この認証用画像を含む認証画面100がディスプレイ22に表示される。また、認証用画像から顔画像(第1画像に相当)が検出(識別)される。   As described above, since the camera 52 has a fisheye lens, the captured image 90 corresponding to the captured image data 74c has distortion. Therefore, an authentication image in which the distortion of the captured image 90 corresponding to the captured image data 74c is corrected is generated. As shown in FIG. 6, when an authentication image is generated, an authentication screen 100 including the authentication image is displayed on the display 22. Further, a face image (corresponding to the first image) is detected (identified) from the authentication image.

顔画像の検出方法としては、たとえば、所定サイズの領域単位で画像の特徴量を抽出し、Haar−Like特徴量を利用した顔画像の識別器に基づいて顔領域を検出(識別)する方法がある。顔領域は矩形で検出され、検出結果としては矩形の左上端の画像中の座標および矩形の立て幅と横幅(または矩形の右下端の画像中の座標)が出力される。この顔領域に含まれる画像が顔画像となる。また、顔画像の他の検出方法としては、Viola−Jones法など、様々な方法が提案されているが、本発明では特定の方法に限定することなく使用することができる。ただし、第1実施例のように、カメラ52の撮影範囲に複数の人が存在する場合は、それぞれの人に対応する複数の顔画像が検出される。   As a face image detection method, for example, there is a method of extracting (determining) a face area based on a face image discriminator using Haar-Like feature quantities by extracting image feature quantities in units of a predetermined size. is there. The face area is detected as a rectangle, and as detection results, the coordinates in the image at the upper left corner of the rectangle and the vertical and horizontal widths of the rectangle (or the coordinates in the image at the lower right corner of the rectangle) are output. An image included in this face area is a face image. In addition, various methods such as the Viola-Jones method have been proposed as other methods for detecting a face image, but the present invention can be used without being limited to a specific method. However, when there are a plurality of people in the shooting range of the camera 52 as in the first embodiment, a plurality of face images corresponding to each person are detected.

また、カメラ52の撮影範囲に、人物の顔を含むポスター等の、顔画像を誤検出するような物が存在する場合には、そのポスター等を顔画像の検出結果から予め除外するようにしてもよい。たとえば、異なる時刻に撮影された複数の撮影画像90において、同じ位置に顔画像が検出される場合に、自動的にその顔画像を検出結果から除外するようにしても良いし、認証画面100において顔画像の検出結果から除外する領域(範囲)をユーザが手動で設定するようにしても良い。   In addition, when there is an object that erroneously detects a face image such as a poster including a human face in the shooting range of the camera 52, the poster or the like is excluded from the detection result of the face image in advance. Also good. For example, when a face image is detected at the same position in a plurality of captured images 90 taken at different times, the face image may be automatically excluded from the detection result. An area (range) to be excluded from the detection result of the face image may be manually set by the user.

図7に示すように、複数の顔画像が検出されると、複数の顔画像の各々の顔領域を示す複数の枠画像102がディスプレイ22(認証画面100)に表示される。図7に示す例では、ユーザAの顔画像に対応する枠画像102A、ユーザBの顔画像に対応する枠画像102BおよびユーザCの顔画像に対応する枠画像102Cがディスプレイ22に表示される。   As shown in FIG. 7, when a plurality of face images are detected, a plurality of frame images 102 indicating the face areas of the plurality of face images are displayed on the display 22 (authentication screen 100). In the example illustrated in FIG. 7, a frame image 102 </ b> A corresponding to the face image of the user A, a frame image 102 </ b> B corresponding to the face image of the user B, and a frame image 102 </ b> C corresponding to the face image of the user C are displayed on the display 22.

これらの枠画像102A〜102Cのそれぞれは、ソフトウェアキーとして機能する。ただし、枠画像102A〜102Cのそれぞれの枠の内側が、タッチ有効範囲に設定される。つまり、認証画面100において複数の顔画像が検出されると、ユーザが自分の顔画像(枠画像102)を選択することができる画面をディスプレイ22に表示する。   Each of these frame images 102A to 102C functions as a software key. However, the inner side of each frame of the frame images 102A to 102C is set as the touch effective range. That is, when a plurality of face images are detected on the authentication screen 100, a screen on which the user can select his / her face image (frame image 102) is displayed on the display 22.

そして、枠画像102A〜102Cのいずれかがタッチ(選択)されると、選択された枠画像102に対応する顔画像が、認証用の顔画像として特定される。認証用の顔画像が特定されると、認証用の顔画像を用いた顔認証(認証用の顔画像に対応するユーザについての顔認証)が実行される。たとえば、枠画像102Cの範囲内が選択された場合には、枠画像102Cに対応する顔画像が認証用の顔画像として特定され、ユーザCについての顔認証が実行される。   When any of the frame images 102A to 102C is touched (selected), the face image corresponding to the selected frame image 102 is specified as the face image for authentication. When the face image for authentication is specified, face authentication using the face image for authentication (face authentication for the user corresponding to the face image for authentication) is executed. For example, when the range of the frame image 102C is selected, the face image corresponding to the frame image 102C is specified as the face image for authentication, and the face authentication for the user C is executed.

顔画像を用いた顔認証処理の具体的な方法としては、本出願人による特開2004−265267号公報に記載されているので、参照されたい。簡単に説明すると、まず、認証用の顔画像から特徴点(目、鼻、口等の顔の中の特定の部位の座標)を抽出し、各特徴点における特徴量を計算する。次に、認証用の顔画像の特徴量と、予めHDD28に記憶されている複数の比較画像の特徴量とを比較して、認証用の顔画像に対する複数の比較画像の各々の一致度を算出(設定)する。   A specific method of face authentication processing using a face image is described in Japanese Patent Application Laid-Open No. 2004-265267 filed by the present applicant. Briefly, first, feature points (coordinates of specific parts in the face such as eyes, nose, mouth, etc.) are extracted from the face image for authentication, and feature quantities at each feature point are calculated. Next, the feature amount of the authentication face image is compared with the feature amounts of a plurality of comparison images stored in advance in the HDD 28, and the degree of coincidence of each of the plurality of comparison images with respect to the authentication face image is calculated. (Set).

そして、複数の比較画像の中に、認証用の顔画像に対する一致度が所定の閾値以上である比較画像が存在するか否かに応じて、登録ユーザか否かが判断される。ここでは、或る比較画像の一致度が閾値以上である場合に、認証用の顔画像に対応するユーザと、その比較画像に対応する登録ユーザが同一人物であると判断される。すなわち、認証用の顔画像に対応するユーザが、登録ユーザであると判断される。   Then, whether or not the user is a registered user is determined depending on whether or not there is a comparison image having a matching degree with the authentication face image equal to or greater than a predetermined threshold among the plurality of comparison images. Here, when the degree of coincidence of a certain comparison image is greater than or equal to the threshold, it is determined that the user corresponding to the authentication face image and the registered user corresponding to the comparison image are the same person. That is, it is determined that the user corresponding to the face image for authentication is a registered user.

登録ユーザであると判断された場合、ユーザ認証は成功であり、画像形成装置10は認証用の顔画像に対応するユーザのログインを許可する。この場合、ユーザ認証に成功した旨がユーザに報知される。たとえば、ユーザ認証に成功した旨のメッセージなどがディスプレイ22に表示される。その後、ディスプレイ22には、ホーム画面が表示される。   If it is determined that the user is a registered user, the user authentication is successful, and the image forming apparatus 10 permits the login of the user corresponding to the face image for authentication. In this case, the user is notified that the user authentication is successful. For example, a message indicating that the user authentication is successful is displayed on the display 22. Thereafter, the home screen is displayed on the display 22.

一方、登録ユーザでないと判断された場合、ユーザ認証は失敗であり、画像形成装置10は認証用の顔画像に対応するユーザのログインを許可しない。この場合、ユーザ認証に失敗した旨がユーザに報知される。たとえば、ユーザ認証に失敗した旨のメッセージなどがディスプレイ22に表示される。その後、ディスプレイ22には、認証画面100が表示されても良いし、ホーム画面が表示されても良い。ただし、ユーザ認証に失敗した後にホーム画面が表示される場合には、画像形成装置10において提供される所定のアプリケーションおよび所定のジョブの一部が使用(実行)不可となっていることがある。   On the other hand, when it is determined that the user is not a registered user, the user authentication is unsuccessful, and the image forming apparatus 10 does not permit the user corresponding to the authentication face image to log in. In this case, the user is notified that the user authentication has failed. For example, a message indicating that the user authentication has failed is displayed on the display 22. Thereafter, the authentication screen 100 may be displayed on the display 22 or a home screen may be displayed. However, when the home screen is displayed after user authentication has failed, a predetermined application and a part of a predetermined job provided in the image forming apparatus 10 may not be used (executed).

なお、カメラ52の撮影範囲に存在する人数が1人の場合(検出された顔画像が1つの場合)は、検出された顔画像が自動的に認証用の顔画像として特定され、その顔画像に対応するユーザについての顔認証が実行される。なお、カメラ52の撮影範囲に存在する人数が1人の場合であっても、顔画像の検出方法および顔認証の方法は上述した方法を用いることができる。   When the number of persons existing in the shooting range of the camera 52 is one (when there is one detected face image), the detected face image is automatically specified as a face image for authentication, and the face image Face authentication for the user corresponding to is performed. Even when the number of persons existing in the shooting range of the camera 52 is one, the above-described methods can be used as the face image detection method and the face authentication method.

画像形成装置10の上記のような動作は、CPU12がRAM14に記憶された制御プログラムを実行することによって実現される。具体的な処理については、後でフロー図を用いて説明する。   The above-described operation of the image forming apparatus 10 is realized by the CPU 12 executing a control program stored in the RAM 14. Specific processing will be described later with reference to a flowchart.

図8は図2に示すRAM14のメモリマップ70の一例を示す図解図である。図8に示すように、RAM14は、プログラム記憶領域72およびデータ記憶領域74を含む。RAM14のプログラム記憶領域72には、上述したように、制御プログラムが記憶される。制御プログラムは、表示プログラム72a、操作検出プログラム72b、存在判断プログラム72c、撮影プログラム72d、歪み補正プログラム72e、顔検出プログラム72f、特定プログラム72g、特徴量算出プログラム72h、一致度設定プログラム72i、認証プログラム72jおよび通信プログラム72kを含む。   FIG. 8 is an illustrative view showing one example of a memory map 70 of the RAM 14 shown in FIG. As shown in FIG. 8, the RAM 14 includes a program storage area 72 and a data storage area 74. As described above, the control program is stored in the program storage area 72 of the RAM 14. The control program includes a display program 72a, an operation detection program 72b, a presence determination program 72c, a shooting program 72d, a distortion correction program 72e, a face detection program 72f, a specific program 72g, a feature amount calculation program 72h, a matching degree setting program 72i, and an authentication program. 72j and a communication program 72k.

表示プログラム72aは、後述する画像生成データ74bを用いて、ホーム画面または認証画面100などの各種の画面をディスプレイ22に表示するためのプログラムである。   The display program 72a is a program for displaying various screens such as a home screen or an authentication screen 100 on the display 22 using image generation data 74b described later.

操作検出プログラム72bは、画像形成装置10の各部への操作を検出するためのプログラムである。たとえば、操作検出プログラム72bは、タッチパネル20から出力されたタッチ座標データを取得して、ディスプレイ22に表示される各種の画面に含まれるソフトウェアキーが操作されたことを検出するためのプログラムである。また、操作検出プログラム72bは、操作ボタン26aからの操作入力を検出するためのプログラムでもある。さらに、操作検出プログラム72bは、タッチパネル20から出力されたタッチ座標データを取得して、複数の枠画像102の中から、ユーザに選択された枠画像102を検出するためのプログラムでもある。   The operation detection program 72b is a program for detecting an operation on each unit of the image forming apparatus 10. For example, the operation detection program 72b is a program for acquiring touch coordinate data output from the touch panel 20 and detecting that software keys included in various screens displayed on the display 22 have been operated. The operation detection program 72b is also a program for detecting an operation input from the operation button 26a. Further, the operation detection program 72b is a program for acquiring the touch coordinate data output from the touch panel 20 and detecting the frame image 102 selected by the user from the plurality of frame images 102.

存在判断プログラム72cは、人検出センサ50によって出力される距離データを取得して、当該距離データが示す距離が所定距離(第1実施例では、第1距離L1)以内であるかどうかに応じて、範囲Aに人が存在するかどうかを判断するためのプログラムである。   The presence determination program 72c acquires the distance data output by the human detection sensor 50, and depending on whether the distance indicated by the distance data is within a predetermined distance (the first distance L1 in the first embodiment). This is a program for determining whether or not a person exists in the range A.

撮影プログラム72dは、カメラ52のイメージセンサを駆動させて、撮影画像90を撮影(取得)するためのプログラムである。ただし、CPU12は、撮影プログラム72dに従って、範囲Aに人が存在すると判断された場合にカメラ52のイメージセンサを駆動させ、範囲Aに人が存在しないと判断された場合にカメラ52のイメージセンサを停止させる。   The shooting program 72d is a program for driving (acquiring) the shot image 90 by driving the image sensor of the camera 52. However, according to the shooting program 72d, the CPU 12 drives the image sensor of the camera 52 when it is determined that a person exists in the range A, and turns the image sensor of the camera 52 when it is determined that no person exists in the range A. Stop.

歪み補正プログラム72eは、撮影画像データ74cに対応する撮影画像90の歪みを補正した認証用画像に対応する認証用画像データ74dを生成するためのプログラムである。   The distortion correction program 72e is a program for generating authentication image data 74d corresponding to an authentication image in which distortion of the captured image 90 corresponding to the captured image data 74c is corrected.

顔検出プログラム72fは、認証用画像データ74dに対応する認証用画像から顔領域を検出して、顔領域に含まれる顔画像に対応する顔画像データ74eを生成するためのプログラムである。   The face detection program 72f is a program for detecting a face area from an authentication image corresponding to the authentication image data 74d and generating face image data 74e corresponding to the face image included in the face area.

特定プログラム72gは、操作検出プログラム72bに従って検出されたユーザに選択された枠画像102に応じて、認証用の顔画像を特定するためのプログラムである。   The identification program 72g is a program for identifying a face image for authentication according to the frame image 102 selected by the user detected according to the operation detection program 72b.

特徴量算出プログラム72hは、認証用の顔画像に対応する顔画像データ74eから、認証用の顔画像の特徴量を算出するためのプログラムである。また、特徴量算出プログラム72hは、後述する認証情報データ74fの各々に含まれる比較画像データから、その比較画像データに対応する複数の比較画像の特徴量を算出するためのプログラムである。ただし、比較画像の特徴量は、その比較画像に対応する登録ユーザが登録されたときに算出され、認証情報データ74fの一部としてHDD28に記憶される。   The feature amount calculation program 72h is a program for calculating the feature amount of the authentication face image from the face image data 74e corresponding to the authentication face image. The feature amount calculation program 72h is a program for calculating feature amounts of a plurality of comparison images corresponding to the comparison image data from comparison image data included in each of authentication information data 74f described later. However, the feature amount of the comparison image is calculated when a registered user corresponding to the comparison image is registered, and is stored in the HDD 28 as a part of the authentication information data 74f.

一致度設定プログラム72iは、認証用の顔画像の特徴量と、複数の比較画像の特徴量の各々とを比較して、複数の比較画像の各々に、認証用の顔画像に対する一致度を設定するためのプログラムである。   The degree-of-match setting program 72i compares the feature amount of the authentication face image with each of the feature amounts of the plurality of comparison images, and sets the degree of match for the authentication face image in each of the plurality of comparison images. It is a program to do.

認証プログラム72jは、複数の比較画像の各々に設定された認証用の顔画像に対する一致度に応じて、上述したような方法で、顔認証を行うためのプログラムである。   The authentication program 72j is a program for performing face authentication by the method described above according to the degree of coincidence with the authentication face image set in each of the plurality of comparison images.

通信プログラム72kは、外部のコンピュータなどと、ネットワークを介して通信するためのプログラムである。   The communication program 72k is a program for communicating with an external computer or the like via a network.

なお、図示は省略するが、プログラム記憶領域72には、画像読取プログラムおよび画像形成プログラムなども記憶される。画像読取プログラムは、画像読取部30を制御して、原稿の画像を読み取り、読み取った画像に対応する画像信号(画像データ)を出力するためのプログラムである。画像形成プログラムは、画像形成部32を制御して、多色または単色の画像を用紙に印刷するためのプログラムである。また、プログラム記憶領域72には、画像形成装置10が備える各種の機能を選択および実行するためのプログラムなども記憶される。   Although illustration is omitted, the program storage area 72 also stores an image reading program, an image forming program, and the like. The image reading program is a program for controlling the image reading unit 30 to read an image of a document and to output an image signal (image data) corresponding to the read image. The image forming program is a program for controlling the image forming unit 32 to print a multicolor or single color image on a sheet. The program storage area 72 also stores programs for selecting and executing various functions of the image forming apparatus 10.

RAM14のデータ記憶領域74には、操作入力データ74a、画像生成データ74b、撮影画像データ74c、認証用画像データ74d、顔画像データ74eおよび認証情報データ74fなどが記憶される。   The data storage area 74 of the RAM 14 stores operation input data 74a, image generation data 74b, captured image data 74c, authentication image data 74d, face image data 74e, authentication information data 74f, and the like.

操作入力データ74aは、たとえば操作検出プログラム72bに従って検出(取得)されたタッチ座標データまたは/および操作データである。検出されたタッチ座標データまたは/および操作データは、時系列に従って記憶される。   The operation input data 74a is, for example, touch coordinate data or / and operation data detected (acquired) according to the operation detection program 72b. The detected touch coordinate data and / or operation data is stored in time series.

画像生成データ74bは、ディスプレイ22に表示される、ホーム画面または認証画面100などの各種の画面に対応する表示画像データを生成するためのポリゴンデータまたはテクスチャデータ等のデータである。また、画像生成データ74bには、たとえば枠画像102等のソフトウェアキーの画像データ等も含まれる。   The image generation data 74 b is data such as polygon data or texture data for generating display image data displayed on the display 22 and corresponding to various screens such as the home screen or the authentication screen 100. The image generation data 74b also includes software key image data such as the frame image 102, for example.

撮影画像データ74cは、撮影プログラム72dに従ってカメラ52で撮影された撮影画像90についての画像データである。   The photographed image data 74c is image data regarding the photographed image 90 photographed by the camera 52 in accordance with the photographing program 72d.

認証用画像データ74dは、歪み補正プログラム72eに従って撮影画像90に歪み補正処理を施して生成した認証用画像についての画像データである。   The authentication image data 74d is image data for an authentication image generated by performing distortion correction processing on the captured image 90 in accordance with the distortion correction program 72e.

顔画像データ74eは、顔検出プログラム72fに従って生成した顔画像についての画像データである。この顔画像データ74eは、認証用画像データ74dの一部(認証用画像における顔領域に含まれる部分)をコピーしたデータである。   The face image data 74e is image data regarding a face image generated according to the face detection program 72f. The face image data 74e is data obtained by copying a part of the authentication image data 74d (part included in the face area in the authentication image).

認証情報データ74fは、複数の登録ユーザの各々の認証情報についてのデータであり、識別情報についての識別情報データ、比較画像についての比較画像データおよび比較画像の特徴量についてのデータを含む。この認証情報データ74fは、HDD28から読み出され、RAM14に記憶される。   The authentication information data 74f is data about each authentication information of a plurality of registered users, and includes identification information data about identification information, comparison image data about a comparison image, and data about a feature amount of the comparison image. The authentication information data 74 f is read from the HDD 28 and stored in the RAM 14.

なお、図示は省略するが、データ記憶領域74には、制御プログラムの実行に必要な他のデータが記憶されたり、制御プログラムの実行に必要なタイマ(カウンタ)およびレジスタが設けられたりする。   Although not shown, the data storage area 74 stores other data necessary for execution of the control program, and is provided with a timer (counter) and a register necessary for execution of the control program.

図9は図2に示すCPU12の認証処理の一例を示すフロー図である。この認証処理は、画像形成装置10の主電源がオンされたり、画像形成装置10がスタンバイ状態(省電力モード)から復帰されたりしたときに開始される。   FIG. 9 is a flowchart showing an example of the authentication process of the CPU 12 shown in FIG. This authentication process is started when the main power supply of the image forming apparatus 10 is turned on or when the image forming apparatus 10 is returned from the standby state (power saving mode).

図9に示すように、CPU12は、認証処理を開始すると、ステップS1で、範囲Aに人が存在するかどうかを判断する。ステップS1で“NO”であれば、つまり、範囲Aに人が存在しないと判断した場合は、ステップS1に戻る。また、ステップS1で“YES”であれば、つまり、範囲Aに人が存在すると判断した場合は、ステップS3で、認証情報をHDD28から読み出して、ステップS5に進む。   As shown in FIG. 9, when starting the authentication process, the CPU 12 determines whether or not a person exists in the range A in step S1. If “NO” in the step S1, that is, if it is determined that there is no person in the range A, the process returns to the step S1. If “YES” in the step S1, that is, if it is determined that there is a person in the range A, the authentication information is read from the HDD 28 in a step S3, and the process proceeds to the step S5.

続いて、ステップS5で、カメラ52による撮影を開始して、ステップS7で、カメラ52で撮影された撮影画像90から認証用画像を生成して、ステップS9で、認証用画像から顔画像を検出して、ステップS11に進む。   Subsequently, in step S5, photographing by the camera 52 is started. In step S7, an authentication image is generated from the photographed image 90 photographed by the camera 52. In step S9, a face image is detected from the authentication image. Then, the process proceeds to step S11.

ステップS11では、複数の顔画像が検出されたかどうかを判断する。ステップS11で“NO”であれば、つまり、複数の顔画像が検出されない場合は、検出された顔画像を認証用の顔画像として特定し、後述するステップS17に進む。一方、ステップS11で“YES”であれば、つまり、複数の顔画像が検出された場合は、ステップS13で、複数の顔画像を含む認証画面100をディスプレイ22に表示して、ステップS15で、認証用の顔画像が特定されたかどうかを判断する。   In step S11, it is determined whether a plurality of face images have been detected. If “NO” in the step S11, that is, if a plurality of face images are not detected, the detected face images are specified as authentication face images, and the process proceeds to a step S17 described later. On the other hand, if “YES” in the step S11, that is, if a plurality of face images are detected, the authentication screen 100 including the plurality of face images is displayed on the display 22 in a step S13, and in a step S15, It is determined whether an authentication face image has been specified.

ステップS15で“NO”であれば、つまり、認証用の顔画像が特定されない場合は、ステップS15に戻る。一方、ステップS15で“YES”であれば、つまり、認証用の顔画像が特定された場合は、ステップS17で、認証用の顔画像に対応するユーザについての顔認証を実行する。   If “NO” in the step S15, that is, if a face image for authentication is not specified, the process returns to the step S15. On the other hand, if “YES” in the step S15, that is, if a face image for authentication is specified, face authentication for the user corresponding to the face image for authentication is executed in a step S17.

続いて、ステップS19で、認証が成功したかどうかを判断する。ステップS19で“YES”であれば、つまり、認証が成功した場合は、ステップS21で、認証用の顔画像に対応するユーザのログインを許可し、認証に成功した旨をユーザに報知して、認証処理を終了する。一方、ステップS19で“NO”であれば、つまり、認証が失敗した場合は、ステップS23で、認証用の顔画像に対応するユーザのログインを不許可とし、認証に失敗した旨をユーザに報知して、認証処理を終了する。   Subsequently, in step S19, it is determined whether or not the authentication is successful. If “YES” in the step S19, that is, if the authentication is successful, in step S21, the user corresponding to the authentication face image is permitted to log in, and the user is notified that the authentication is successful, The authentication process ends. On the other hand, if “NO” in the step S19, that is, if the authentication fails, in step S23, the login of the user corresponding to the face image for authentication is not permitted, and the user is notified that the authentication has failed. Then, the authentication process ends.

この第1実施例によれば、複数の顔画像が検出されると、ユーザが自分の顔画像を選択することができる画面をディスプレイ22に表示するので、複数の顔画像が検出された場合でも、適切かつ簡単にユーザ認証を行うことができる。   According to the first embodiment, when a plurality of face images are detected, a screen on which the user can select his / her face image is displayed on the display 22, so even when a plurality of face images are detected. User authentication can be performed appropriately and easily.

また、第1実施例によれば、複数の顔画像を含む認証画面100をディスプレイ22に表示させ、複数の顔画像の中から、タッチ入力に応じて認証用の顔画像を特定するので、適切かつ簡単にユーザ認証を行うことができる。   Further, according to the first embodiment, the authentication screen 100 including a plurality of face images is displayed on the display 22, and the face image for authentication is specified from the plurality of face images according to the touch input. And user authentication can be performed easily.

なお、第1実施例では、人検出センサ50として距離センサを用いるようにしたが、これに限定される必要は無い。たとえば、人検出センサ50として、カメラ52を用いても良い。この場合には、カメラ52で撮影された撮影画像から人の有無を検出することができる。ただし、この場合には、カメラ52のイメージセンサは、画像形成装置10の主電源がオンされた状態では常に駆動される。   In the first embodiment, a distance sensor is used as the human detection sensor 50, but it is not necessary to be limited to this. For example, a camera 52 may be used as the human detection sensor 50. In this case, the presence or absence of a person can be detected from the captured image captured by the camera 52. However, in this case, the image sensor of the camera 52 is always driven when the main power supply of the image forming apparatus 10 is turned on.

また、第1実施例では、カメラ52のレンズが魚眼レンズである場合を例に挙げて説明したが、これに限定される必要は無い。たとえば、カメラ52のレンズとしては、広角レンズまたは標準レンズなどを用いることができる。なお、カメラ52のレンズが標準レンズである場合は、歪みを補正する処理を省略することができる。   In the first embodiment, the case where the lens of the camera 52 is a fisheye lens has been described as an example. However, the present invention is not limited to this. For example, as the lens of the camera 52, a wide-angle lens or a standard lens can be used. When the lens of the camera 52 is a standard lens, the process for correcting distortion can be omitted.

さらに、第1実施例では、カメラ52が1つである場合を例に挙げて説明したが、これに限定される必要は無い。たとえば、カメラが2つ以上設けられていても良いし、可動式のカメラを用いて異なる撮影範囲を撮影しても良い。これらの場合、複数の撮影画像が合成および補正されて認証用画像が生成される。   Furthermore, in the first embodiment, the case where there is one camera 52 has been described as an example, but it is not necessary to be limited to this. For example, two or more cameras may be provided, or different shooting ranges may be shot using a movable camera. In these cases, a plurality of captured images are combined and corrected to generate an authentication image.

さらにまた、第1実施例では、タッチパネル20へのタッチ入力によって認証用の顔画像が特定されるようにしたが、これに限定される必要は無い。たとえば、操作ボタン26aのボタン操作によって認証用の顔画像が特定されるようにしても良い。   Furthermore, in the first embodiment, the face image for authentication is specified by touch input to the touch panel 20, but it is not necessary to be limited to this. For example, an authentication face image may be specified by operating the operation button 26a.

また、第1実施例で示したフロー図の各ステップは、同じ結果が得られるのであれば、処理される順番は適宜変更することが可能である。たとえば、第1実施例ではステップS3で認証情報を読み出すようにしたが、認証情報は、ステップS17で顔認証を実行するときまでに読み出されていれば良い。このため、認証情報を読み出す処理は、ステップS17の前までの範囲で処理される順番を適宜変更することが可能である。
[第2実施例]
第2実施例の画像形成装置10は、顔認証処理において、認証用の顔画像に対応する登録ユーザの候補が複数存在すること以外は第1実施例と同じであるため、第1実施例と異なる内容について説明し、重複した説明については省略することにする。
In addition, each step of the flowchart shown in the first embodiment can be appropriately changed in order of processing as long as the same result is obtained. For example, in the first embodiment, the authentication information is read in step S3. However, the authentication information only needs to be read before the face authentication is executed in step S17. For this reason, in the process of reading the authentication information, it is possible to appropriately change the order of processing in the range up to step S17.
[Second Embodiment]
The image forming apparatus 10 according to the second embodiment is the same as the first embodiment except that there are a plurality of registered user candidates corresponding to the face image for authentication in the face authentication process. Different contents will be described, and redundant description will be omitted.

顔認証処理において、認証用の顔画像に対する一致度が所定の閾値以上である比較画像が複数存在することがある。つまり、認証用の顔画像に対応する登録ユーザの候補が複数存在することがある。この場合、どのユーザのログインを許可するかを特定する必要がある。以下、登録ユーザの候補を候補ユーザと呼ぶことがある。また、候補ユーザに対応する比較画像に設定された一致度のことを、単に候補ユーザの一致度と呼ぶことがある。   In the face authentication process, there may be a plurality of comparison images having a matching degree with a face image for authentication equal to or greater than a predetermined threshold. That is, there may be a plurality of registered user candidates corresponding to the authentication face image. In this case, it is necessary to specify which user is allowed to log in. Hereinafter, registered user candidates may be referred to as candidate users. In addition, the degree of coincidence set in the comparison image corresponding to the candidate user may be simply referred to as the degree of coincidence of the candidate user.

図10は第2実施例の認証画面100の一例を示す図解図である。図10に示すように、第2実施例では、複数の候補ユーザが存在する場合には、複数の候補ユーザの各々に対応する複数の識別情報に対応する画像(識別情報アイコン)104が認証画面100に設けられる(ディスプレイ22に表示される)。   FIG. 10 is an illustrative view showing one example of an authentication screen 100 of the second embodiment. As shown in FIG. 10, in the second embodiment, when there are a plurality of candidate users, an image (identification information icon) 104 corresponding to a plurality of pieces of identification information corresponding to each of the plurality of candidate users is displayed on the authentication screen. 100 (displayed on the display 22).

識別情報アイコン104は、HDD28に記憶される候補ユーザの識別情報を含む画像である。たとえば、候補ユーザの識別情報は、その候補ユーザの氏名、ユーザID、社員番号および登録用の顔画像などである。図10に示す例では、識別情報アイコン104には、その候補ユーザの氏名が表示される。   The identification information icon 104 is an image including candidate user identification information stored in the HDD 28. For example, the candidate user identification information includes the candidate user's name, user ID, employee number, registration face image, and the like. In the example illustrated in FIG. 10, the name of the candidate user is displayed on the identification information icon 104.

また、識別情報アイコン104は、略矩形状の枠で囲まれた画像であり、ソフトウェアキーとして機能する。ただし、複数の識別情報アイコン104の各々の枠の内側が、タッチ有効範囲に設定される。   The identification information icon 104 is an image surrounded by a substantially rectangular frame and functions as a software key. However, the inside of each frame of the plurality of identification information icons 104 is set as a touch effective range.

図10に示す例では、ユーザCの顔画像が、認証用の顔画像として特定されており、ユーザCの顔画像に対応する3人の候補ユーザの各々に対応する3つの識別情報アイコン104A〜104Cがディスプレイ22に表示される。識別情報アイコン104A〜104Cは、上下方向に並ぶように配置される。   In the example illustrated in FIG. 10, the face image of the user C is specified as the face image for authentication, and the three identification information icons 104 </ b> A to 104 </ b> A corresponding to each of the three candidate users corresponding to the face image of the user C are included. 104C is displayed on the display 22. The identification information icons 104A to 104C are arranged in the vertical direction.

また、識別情報アイコン104A〜104Cの各々には、対応する候補ユーザの一致度に応じて優先度が設定される。ただし、候補ユーザの一致度と識別情報アイコン104の優先度は対応しており、候補ユーザの一致度が高ければ識別情報アイコン104の優先度が高くなり、候補ユーザの一致度が低ければ識別情報アイコン104の優先度が低くなる。   In addition, each of the identification information icons 104A to 104C is set with a priority according to the matching degree of the corresponding candidate user. However, the matching degree of the candidate user and the priority of the identification information icon 104 correspond to each other. If the matching degree of the candidate user is high, the priority of the identification information icon 104 is high, and if the matching degree of the candidate user is low, the identification information is displayed. The priority of the icon 104 is lowered.

識別情報アイコン104A〜104Cは、優先度に応じて配置される。たとえば、図10に示す例では、識別情報アイコン104A〜104Cは、上側から優先度が高い順に配置される。したがって、最も上側に配置される識別情報アイコン104Aの優先度が最も高い。また、上から2番目に配置される識別情報アイコン104Bの優先度は2番目に高い。   The identification information icons 104A to 104C are arranged according to the priority. For example, in the example illustrated in FIG. 10, the identification information icons 104 </ b> A to 104 </ b> C are arranged in descending order of priority from the top. Therefore, the priority of the identification information icon 104A arranged on the uppermost side is the highest. The priority of the identification information icon 104B arranged second from the top is the second highest.

ただし、上述した複数の識別情報アイコン104の配列は一例であり、これに限定される必要は無く、適宜変更可能である。たとえば、複数の識別情報アイコン104は、下側から優先度が高い順に配置されても良い。また、優先度が最も高い識別情報アイコン104が上下方向の中央に配置されるようにしても良い。   However, the arrangement of the plurality of identification information icons 104 described above is merely an example, and is not limited thereto, and can be changed as appropriate. For example, the plurality of identification information icons 104 may be arranged in descending order of priority from the lower side. Further, the identification information icon 104 having the highest priority may be arranged at the center in the vertical direction.

なお、複数の識別情報アイコン104が左右方向に並ぶように配置されても良い。この場合、複数の識別情報アイコン104は、左側から優先度が高い順に配置されても良いし、右側から優先度が高い順に配置されても良い。また、優先度が最も高い候補ユーザに対応する識別情報アイコン104が左右方向の中央に配置されるようにしても良い。   A plurality of identification information icons 104 may be arranged in the left-right direction. In this case, the plurality of identification information icons 104 may be arranged in descending order of priority from the left side, or may be arranged in descending order of priority from the right side. In addition, the identification information icon 104 corresponding to the candidate user with the highest priority may be arranged in the center in the left-right direction.

また、複数の識別情報アイコン104の各々に優先度に応じて優先順位が設定され、複数の識別情報アイコン104の近傍に優先順位に対応する数字(番号)が表示されるようにしても良い。さらに、優先度が最も高い識別情報アイコン104が、優先度が低い識別情報アイコン104よりも大きく表示されるようにしても良い。   Further, a priority order may be set for each of the plurality of identification information icons 104 according to the priority, and a number (number) corresponding to the priority order may be displayed in the vicinity of the plurality of identification information icons 104. Furthermore, the identification information icon 104 with the highest priority may be displayed larger than the identification information icon 104 with the lower priority.

さらにまた、図10に示す例では、候補ユーザが3人である場合について説明したが、候補ユーザが4人以上存在する場合には、全ての候補ユーザの各々に対応する識別情報アイコン104を表示させても良いし、優先度が高い一部の識別情報アイコン104を抽出し、抽出された識別情報アイコン104を表示させても良い。   Furthermore, in the example illustrated in FIG. 10, the case where there are three candidate users has been described. However, when there are four or more candidate users, the identification information icons 104 corresponding to all the candidate users are displayed. Alternatively, a part of identification information icons 104 having a high priority may be extracted and the extracted identification information icons 104 may be displayed.

そして、識別情報アイコン104A〜104Cのいずれかがタッチ(選択)されると、選択された識別情報アイコン104に対応する識別情報が、認証用の識別情報として特定される。画像形成装置10は、認証用の識別情報に対応する候補ユーザについての顔認証を実行する。ただし、上述したように、複数の候補ユーザの各々は、いずれも登録ユーザである。このため、複数の識別情報のいずれが認証用の識別情報として特定されたとしても、ユーザ認証が成功する。   When any of the identification information icons 104A to 104C is touched (selected), the identification information corresponding to the selected identification information icon 104 is specified as authentication identification information. The image forming apparatus 10 performs face authentication for a candidate user corresponding to the identification information for authentication. However, as described above, each of the plurality of candidate users is a registered user. For this reason, even if any of a plurality of pieces of identification information is specified as identification information for authentication, user authentication is successful.

図示は省略するが、RAM14に記憶された制御プログラムは、候補ユーザの一致度に応じて識別情報アイコン104に優先度を設定する優先度設定プログラムを含む。   Although illustration is omitted, the control program stored in the RAM 14 includes a priority setting program for setting a priority for the identification information icon 104 according to the degree of coincidence of candidate users.

また、特定プログラム72gは、ユーザに選択された識別情報アイコン104に応じて、認証用の識別情報を特定するためのプログラムでもある。画像形成装置10の上記のような動作は、CPU12が制御プログラムを実行することによって実現される。   The identification program 72g is also a program for identifying identification information for authentication according to the identification information icon 104 selected by the user. The above-described operation of the image forming apparatus 10 is realized by the CPU 12 executing a control program.

以下、フロー図を用いて、第2実施例における認証処理について説明するが、第1実施例で説明した認証処理と同じ処理については同じ参照符号を付し、重複した内容については、説明を省略するまたは簡単に説明することにする。   Hereinafter, the authentication process in the second embodiment will be described with reference to the flowchart. The same processes as the authentication process described in the first embodiment are denoted by the same reference numerals, and the description of the duplicated contents is omitted. Will be or briefly explained.

図11は第2実施例の認証処理の一例を示すフロー図である。図11に示すように、CPU12は、認証処理を開始すると、ステップS17で認証用の顔画像に対応するユーザについての顔認証を実行すると、続くステップS31で、候補ユーザが複数存在するかどうかを判断する。   FIG. 11 is a flowchart showing an example of the authentication process of the second embodiment. As shown in FIG. 11, when starting the authentication process, the CPU 12 executes face authentication for the user corresponding to the face image for authentication in step S17, and then in step S31, determines whether there are a plurality of candidate users. to decide.

ステップS31で“NO”であれば、つまり、候補ユーザが複数存在しない場合は、ステップS19に進み、認証が成功したかどうかを判断する。一方、ステップS31で“YES”であれば、つまり、候補ユーザが複数存在する場合は、ステップS33で、複数の候補ユーザの各々に対応する複数の識別情報毎の識別情報アイコン104をディスプレイ22に表示して、ステップS35で、認証用の識別情報が特定されたかどうかを判断する。   If “NO” in the step S31, that is, if there are not a plurality of candidate users, the process proceeds to a step S19 to determine whether or not the authentication is successful. On the other hand, if “YES” in the step S31, that is, if there are a plurality of candidate users, the identification information icons 104 for a plurality of identification information corresponding to the plurality of candidate users are displayed on the display 22 in a step S33. In step S35, it is determined whether or not identification information for authentication has been specified.

ステップS35で“NO”であれば、つまり、認証用の識別情報が特定されない場合は、ステップS35に戻る。一方、ステップS35で“YES”であれば、つまり、認証用の識別情報が特定された場合は、ステップS37で、認証用の顔画像に対応するユーザのログインを許可し、認証に成功した旨をユーザに報知して、認証処理を終了する。   If “NO” in the step S35, that is, if the identification information for authentication is not specified, the process returns to the step S35. On the other hand, if “YES” in the step S35, that is, if identification information for authentication is specified, in step S37, the user corresponding to the authentication face image is permitted to log in, and the authentication is successful. Is notified to the user, and the authentication process is terminated.

この第2実施例では、認証用の顔画像に対応する登録ユーザの候補が複数存在する場合に、複数の候補ユーザの各々に対応する複数の識別情報毎の識別情報アイコン104をユーザに提示し、タッチ入力に応じて特定された認証用の識別情報に対応する候補ユーザについてのログインを許可する。このため、認証用の顔画像に対応する登録ユーザの候補が複数存在する場合でも、適切かつ簡単にユーザ認証を行うことができる。   In the second embodiment, when there are a plurality of registered user candidates corresponding to the face image for authentication, the identification information icon 104 for each of a plurality of pieces of identification information corresponding to each of the plurality of candidate users is presented to the user. The login of the candidate user corresponding to the identification information for authentication specified in response to the touch input is permitted. For this reason, even when there are a plurality of registered user candidates corresponding to the face image for authentication, user authentication can be performed appropriately and easily.

また、第2実施例によれば、複数の識別情報アイコン104の各々に対応する候補ユーザの一致度に応じて優先度を設定し、複数の識別情報アイコン104が優先度に応じて配置されるので、ユーザが識別情報アイコン104を認識および選択し易くなる。   Further, according to the second embodiment, the priority is set according to the matching degree of the candidate users corresponding to each of the plurality of identification information icons 104, and the plurality of identification information icons 104 are arranged according to the priority. Therefore, it becomes easy for the user to recognize and select the identification information icon 104.

なお、第2実施例では、識別情報アイコン104が認証画面100に設けられるようにしたが、これに限定される必要は無い。図12は第2実施例の候補選択画面120の一例を示す図解図である。図12に示すように、候補ユーザが複数存在する場合に、複数の候補ユーザの各々に対応する複数の識別情報毎の識別情報アイコン104を含む候補選択画面120がディスプレイ22に表示されるようにしても良い。   In the second embodiment, the identification information icon 104 is provided on the authentication screen 100. However, the present invention is not limited to this. FIG. 12 is an illustrative view showing one example of a candidate selection screen 120 of the second embodiment. As shown in FIG. 12, when there are a plurality of candidate users, a candidate selection screen 120 including identification information icons 104 for a plurality of pieces of identification information corresponding to the plurality of candidate users is displayed on the display 22. May be.

図12に示す例では、候補選択画面120が認証画面100の下側に重なるように表示される。この候補選択画面120には、識別情報アイコン104A〜104Gが含まれる。たとえば、識別情報アイコン104A〜104Gには、対応する候補ユーザの比較画像が含まれる。これらの識別情報アイコン104A〜104Gは、左右方向に並ぶように配置される。たとえば、識別情報アイコン104A〜104Gのうち、優先度が最も高い識別情報アイコン104Dが左右方向の中央に配置される。   In the example illustrated in FIG. 12, the candidate selection screen 120 is displayed so as to overlap the lower side of the authentication screen 100. The candidate selection screen 120 includes identification information icons 104A to 104G. For example, the identification information icons 104A to 104G include comparison images of corresponding candidate users. These identification information icons 104A to 104G are arranged so as to be arranged in the left-right direction. For example, among the identification information icons 104A to 104G, the identification information icon 104D having the highest priority is arranged at the center in the left-right direction.

ただし、候補選択画面120における複数の識別情報アイコン104の配置態様は、特に限定される必要は無く、適宜変更可能である。   However, the arrangement mode of the plurality of identification information icons 104 on the candidate selection screen 120 is not particularly limited and can be changed as appropriate.

この場合には、上述した第2実施例の認証処理のステップS33において複数の識別情報アイコン104を表示する場合に、複数の識別情報アイコン104を含む候補選択画面120をディスプレイ22に表示する。
[第3実施例]
第3実施例の画像形成装置10では、認証用画像から複数の登録ユーザの顔画像が検出された場合に、認証画面100に代えて認証用の顔画像を特定するための特定用画面130がディスプレイ22に表示されるようにした以外は第1実施例と同じであるため、第1実施例と異なる内容について説明し、重複した説明については省略することにする。
In this case, when a plurality of identification information icons 104 are displayed in step S33 of the authentication process of the second embodiment described above, a candidate selection screen 120 including a plurality of identification information icons 104 is displayed on the display 22.
[Third embodiment]
In the image forming apparatus 10 according to the third embodiment, when a plurality of registered user face images are detected from the authentication image, the specifying screen 130 for specifying the authentication face image is used instead of the authentication screen 100. Since it is the same as that of the first embodiment except that it is displayed on the display 22, the contents different from those of the first embodiment will be described, and redundant description will be omitted.

図13は第3実施例の特定用画面130の一例を示す図解図である。第3実施例では、複数の顔画像が検出された時点で、複数の顔画像の各々について顔認証が実行される。   FIG. 13 is an illustrative view showing one example of a specifying screen 130 of the third embodiment. In the third example, when a plurality of face images are detected, face authentication is performed for each of the plurality of face images.

ここで、複数の顔画像の中で、登録ユーザであると判断された顔画像が2つ以上存在する場合(認証用画像に2人以上の登録ユーザが含まれる場合)に、図13に示すような特定用画面130がディスプレイ22に表示される。   Here, when there are two or more face images determined to be registered users among a plurality of face images (when two or more registered users are included in the authentication image), it is shown in FIG. Such a specifying screen 130 is displayed on the display 22.

特定用画面130には、登録ユーザであると判断された顔画像に対応する複数の画像(特定用アイコン)106が設けられる(ディスプレイ22に表示される)。図13に示す例では、3人の登録ユーザの各々に対応する3つの特定用アイコン106A〜106Cが特定用画面130に設けられる。   A plurality of images (specific icons) 106 corresponding to face images determined to be registered users are provided on the specifying screen 130 (displayed on the display 22). In the example shown in FIG. 13, three specifying icons 106 </ b> A to 106 </ b> C corresponding to each of the three registered users are provided on the specifying screen 130.

特定用アイコン106は、顔画像に対応する登録ユーザの識別情報を含む画像である。たとえば、特定用アイコン106に含まれる識別情報は、その登録ユーザの氏名、ユーザID、社員番号および登録用の顔画像などである。図13に示す例では、特定用アイコン106には、登録ユーザの氏名および登録用の顔画像が表示される。   The identification icon 106 is an image including registered user identification information corresponding to the face image. For example, the identification information included in the specifying icon 106 is the name, user ID, employee number, and registered face image of the registered user. In the example illustrated in FIG. 13, the name of the registered user and a face image for registration are displayed on the specifying icon 106.

また、特定用アイコン106は、略矩形状の枠で囲まれた画像であり、ソフトウェアキーとして機能する。ただし、複数の特定用アイコン106の各々の枠の内側が、タッチ有効範囲に設定される。   The specifying icon 106 is an image surrounded by a substantially rectangular frame and functions as a software key. However, the inside of each frame of the plurality of identification icons 106 is set as a touch effective range.

また、図13に示す例では、特定用アイコン106A〜106Cは、上下方向に並ぶように配置される。ただし、特定用アイコン106A〜106Cは、対応する顔画像の各々が検出された位置(画像形成装置10に対する顔画像の位置)に応じて設定された優先度に応じて配置される。たとえば、特定用アイコン106A〜106Cの各々には、対応する顔画像の位置が画像形成装置10の左右方向の中央に近い順に優先度が設定される。そして、特定用アイコン106A〜106Cは、上側から優先度の高い順に配置される。   In the example shown in FIG. 13, the identifying icons 106A to 106C are arranged in the vertical direction. However, the identifying icons 106 </ b> A to 106 </ b> C are arranged according to the priority set according to the position where each corresponding face image is detected (the position of the face image with respect to the image forming apparatus 10). For example, the priority is set to each of the specifying icons 106 </ b> A to 106 </ b> C in the order in which the position of the corresponding face image is closer to the center in the left-right direction of the image forming apparatus 10. The identifying icons 106A to 106C are arranged in descending order of priority from the top.

ただし、顔画像の位置が画像形成装置10の左右方向の中央に近いかどうかは、認証用画像における顔画像の位置から判断される。ここで、カメラ52が設けられる位置によっては、認証用画像の左右方向の中央位置が画像形成装置10の左右方向の中央位置と一致しない場合がある。この場合には、画像形成装置10におけるカメラ52の位置に応じて、認証用画像における画像形成装置10の左右方向の中央位置が設定される。   However, whether or not the position of the face image is close to the center in the left-right direction of the image forming apparatus 10 is determined from the position of the face image in the authentication image. Here, depending on the position where the camera 52 is provided, the center position in the left-right direction of the authentication image may not match the center position in the left-right direction of the image forming apparatus 10. In this case, the center position in the left-right direction of the image forming apparatus 10 in the authentication image is set according to the position of the camera 52 in the image forming apparatus 10.

なお、特定用アイコン106の配置態様は、特に限定される必要は無く、適宜変更可能である。たとえば、特定用アイコン106が左右方向に並ぶように配置されても良い。   In addition, the arrangement | positioning aspect of the icon 106 for identification does not need to be specifically limited, It can change suitably. For example, the identification icons 106 may be arranged in the left-right direction.

そして、特定用アイコン106A〜106Cのいずれかがタッチ(選択)されると、選択された特定用アイコン106に対応する登録ユーザが、認証するユーザとして特定される。つまり、認証用の顔画像が特定される。認証するユーザが特定されると、画像形成装置10は、認証するユーザのログインを許可する。   When any one of the specifying icons 106A to 106C is touched (selected), the registered user corresponding to the selected specifying icon 106 is specified as the user to be authenticated. That is, a face image for authentication is specified. When the user to be authenticated is specified, the image forming apparatus 10 permits the login of the user to be authenticated.

なお、特定用画面130をディスプレイ22に表示せずに、登録ユーザであると判断された顔画像に対応する枠画像102が認証画面100に表示されるようにしても良い。この場合、選択された枠画像102に対応する登録ユーザが、認証するユーザとして特定される。   Instead of displaying the specifying screen 130 on the display 22, the frame image 102 corresponding to the face image determined to be a registered user may be displayed on the authentication screen 100. In this case, the registered user corresponding to the selected frame image 102 is specified as the user to be authenticated.

また、複数の顔画像の中で、登録ユーザであると判断された顔画像が1つの場合(認証用画像に含まれる登録ユーザが1人の場合)には、自動的に、その顔画像に対応するユーザのログインを許可する。なお、第1実施例と同様に認証画面100を表示して、その顔画像がタッチされた場合に、その顔画像に対応するユーザのログインを許可するようにしても良い。   Further, when there is one face image determined to be a registered user among a plurality of face images (when the number of registered users included in the authentication image is one), the face image is automatically changed to that face image. Allow the corresponding user to log in. As in the first embodiment, the authentication screen 100 may be displayed, and when the face image is touched, the user corresponding to the face image may be permitted to log in.

以下、フロー図を用いて、第3実施例における認証処理について説明するが、第1実施例で説明した認証処理と同じ処理については同じ参照符号を付し、重複した内容については、説明を省略するまたは簡単に説明することにする。   Hereinafter, the authentication process in the third embodiment will be described with reference to the flowchart. The same processes as the authentication process described in the first embodiment are denoted by the same reference numerals, and the description of the duplicated contents is omitted. Will be or briefly explained.

図14は第3実施例の認証処理の一例を示すフロー図である。図14に示すように、CPU12は、認証処理を開始すると、ステップS11で“YES”であれば、ステップS51で、複数の顔画像の各々について顔認証を実行し、ステップS53で、複数の登録ユーザが存在するかどうかを判断する。ここでは、登録ユーザであると判断された顔画像が2つ以上存在するかどうかを判断する。   FIG. 14 is a flowchart showing an example of the authentication process of the third embodiment. As shown in FIG. 14, when the CPU 12 starts the authentication process, if “YES” in the step S11, the CPU 12 executes face authentication for each of the plurality of face images in a step S51, and in step S53, the plurality of registrations are performed. Determine if the user exists. Here, it is determined whether or not there are two or more face images determined to be registered users.

ステップS53で“NO”であれば、つまり、登録ユーザが1人である場合は、ステップS21に進み、そのユーザのログインを許可し、認証に成功した旨をユーザに報知して、認証処理を終了する。一方、ステップS53で“YES”であれば、つまり、複数の登録ユーザが存在する場合は、ステップS55で、複数の登録ユーザの各々に対応する複数の特定用アイコン106をディスプレイ22に表示して、ステップS57で、認証するユーザが特定されたかどうかを判断する。   If “NO” in the step S53, that is, if there is one registered user, the process proceeds to a step S21 to permit the login of the user, notify the user that the authentication is successful, and perform the authentication process. finish. On the other hand, if “YES” in the step S53, that is, if there are a plurality of registered users, a plurality of specifying icons 106 corresponding to the plurality of registered users are displayed on the display 22 in a step S55. In step S57, it is determined whether the user to be authenticated has been specified.

ステップS57で“NO”であれば、つまり、認証するユーザが特定されない場合は、ステップS57に戻る。一方、ステップS57で“YES”であれば、つまり、認証するユーザが特定された場合は、ステップS21に進み、そのユーザのログインを許可し、認証に成功した旨をユーザに報知して、認証処理を終了する。   If “NO” in the step S57, that is, if the user to be authenticated is not specified, the process returns to the step S57. On the other hand, if “YES” in the step S57, that is, if a user to be authenticated is specified, the process proceeds to a step S21 to permit the user to log in, notify the user that the authentication is successful, and authenticate. The process ends.

なお、ステップS11までの処理およびステップS17以降の処理の内容については、第1実施例と同じであるので説明を省略する。   Note that the contents of the processing up to step S11 and the processing after step S17 are the same as those in the first embodiment, and thus the description thereof is omitted.

この第3実施例によれば、認証用画像から複数の登録ユーザの顔画像が検出された場合に、認証用の顔画像を特定し、特定した登録ユーザについてのログインを許可する。このため、認証用画像に複数の登録ユーザの顔画像が存在する場合でも、適切かつ簡単にユーザ認証を行うことができる。   According to the third embodiment, when a plurality of registered user face images are detected from the authentication image, the authentication face image is specified, and login of the specified registered user is permitted. For this reason, even when a plurality of registered user face images exist in the authentication image, user authentication can be performed appropriately and easily.

また、第3実施例によれば、複数の顔画像の各々に対応する複数の特定用アイコン106をユーザに提示し、選択された特定用アイコン106に対応する登録ユーザについてのログインを許可する。このため、認証用画像に複数の登録ユーザの顔画像が存在する場合でも、適切かつ簡単にユーザ認証を行うことができる。   Further, according to the third embodiment, a plurality of specifying icons 106 corresponding to each of a plurality of face images are presented to the user, and login for a registered user corresponding to the selected specifying icon 106 is permitted. For this reason, even when a plurality of registered user face images exist in the authentication image, user authentication can be performed appropriately and easily.

さらに、第3実施例によれば、複数の特定用アイコン106が、対応する顔画像の画像形成装置10に対する位置に応じて設定された優先度に応じて配置されるので、ユーザが特定用アイコン106を認識および選択し易くなる。   Further, according to the third embodiment, since the plurality of identification icons 106 are arranged according to the priority set according to the position of the corresponding face image with respect to the image forming apparatus 10, the user can specify the identification icon. 106 is easier to recognize and select.

なお、上述の実施例で挙げた具体的な構成等は一例であり、実際の製品に応じて適宜変更することが可能である。また、上述の実施例で示したフロー図の各ステップは、同じ結果が得られるのであれば、処理される順番は適宜変更することが可能である。   Note that the specific configuration and the like given in the above-described embodiments are examples, and can be appropriately changed according to the actual product. Moreover, as long as the same result is obtained for each step of the flowchart shown in the above-described embodiment, the processing order can be changed as appropriate.

10 …画像形成装置
12 …CPU
14 …RAM
28 …記憶部
30 …画像読取部
32 …画像形成部
50 …人検出センサ
52 …カメラ
DESCRIPTION OF SYMBOLS 10 ... Image forming apparatus 12 ... CPU
14 ... RAM
DESCRIPTION OF SYMBOLS 28 ... Memory | storage part 30 ... Image reading part 32 ... Image formation part 50 ... Human detection sensor 52 ... Camera

Claims (13)

入力部およびディスプレイを備える画像表示装置であって、
前記画像表示装置の周囲に存在するユーザの像を含む撮影画像を撮影する撮影手段、
前記撮影画像から、前記ユーザの顔画像に対応する第1画像を検出する顔検出手段、
前記顔検出手段によって複数の前記第1画像が検出された場合に、当該複数の第1画像を前記ディスプレイに表示させる表示手段、および
前記ディスプレイに表示された前記複数の第1画像の中から、前記入力部における操作入力に応じて認証用の第1画像を特定する第1特定手段を備える、画像表示装置。
An image display device comprising an input unit and a display,
Photographing means for photographing a photographed image including an image of a user existing around the image display device;
Face detection means for detecting a first image corresponding to the face image of the user from the captured image;
When a plurality of the first images are detected by the face detection means, display means for displaying the plurality of first images on the display, and the plurality of first images displayed on the display, An image display device comprising: a first specifying unit that specifies a first image for authentication according to an operation input in the input unit.
複数の登録ユーザの各々に対応する登録用の顔画像を記憶する記憶手段、
前記認証用の第1画像に対応する前記ユーザに対応する前記登録ユーザの候補が複数存在する場合に、当該複数の登録ユーザの候補の各々に対応する複数の識別情報を前記ディスプレイに表示させる候補提示手段、および
前記ディスプレイに表示された前記複数の識別情報の中から、前記入力部における操作入力に応じて認証用の識別情報を特定する第2特定手段をさらに備える、請求項1記載の画像表示装置。
Storage means for storing a face image for registration corresponding to each of a plurality of registered users;
Candidate for displaying a plurality of identification information corresponding to each of the plurality of registered user candidates on the display when there are a plurality of registered user candidates corresponding to the user corresponding to the first image for authentication 2. The image according to claim 1, further comprising: a presentation unit; and a second identification unit that identifies identification information for authentication according to an operation input in the input unit from the plurality of identification information displayed on the display. Display device.
前記認証用の第1画像と、前記登録用の顔画像とに基づいて、前記複数の登録ユーザの候補の各々に優先度を設定する第1優先度設定手段をさらに備え、
前記表示手段は、前記複数の登録ユーザの候補の各々の優先度に応じて、前記複数の識別情報を配置する、請求項2記載の画像表示装置。
A first priority setting unit configured to set a priority for each of the plurality of registered user candidates based on the first image for authentication and the face image for registration;
The image display apparatus according to claim 2, wherein the display unit arranges the plurality of pieces of identification information according to the priority of each of the plurality of registered user candidates.
入力部およびディスプレイを備える画像表示装置であって、
複数の登録ユーザの各々に対応する登録用の顔画像を記憶する記憶手段、
前記画像表示装置の周囲に存在するユーザの像を含む撮影画像を撮影する撮影手段、
前記撮影画像から、前記ユーザの顔画像を検出する顔検出手段、
前記顔検出手段によって検出された前記ユーザの顔画像と、前記記憶手段に記憶された前記登録用の顔画像とに基づいて、前記ユーザが前記登録ユーザであるかどうかを判断する判断手段、
前記判断手段によって前記登録ユーザであると判断された前記ユーザの顔画像に対応する第1画像が複数存在する場合に、当該複数の第1画像を前記ディスプレイに表示させる表示手段、および
前記ディスプレイに表示された前記複数の第1画像の中から、前記入力部における操作入力に応じて認証用の第1画像を特定する第1特定手段を備える、画像表示装置。
An image display device comprising an input unit and a display,
Storage means for storing a face image for registration corresponding to each of a plurality of registered users;
Photographing means for photographing a photographed image including an image of a user existing around the image display device;
Face detection means for detecting the user's face image from the captured image;
Determining means for determining whether or not the user is the registered user based on the face image of the user detected by the face detecting means and the face image for registration stored in the storage means;
Display means for displaying the plurality of first images on the display when there are a plurality of first images corresponding to the face image of the user determined to be the registered user by the determination means; and An image display device comprising: a first specifying unit that specifies a first image for authentication in accordance with an operation input in the input unit from among the plurality of displayed first images.
前記複数の第1画像の各々に対応する複数の特定用情報を前記ディスプレイに表示させる特定用情報提示手段をさらに備え、
前記第1特定手段は、前記ディスプレイに表示された前記複数の特定用情報の中から、前記入力部における操作入力に応じて選択された前記特定用情報に対応する前記第1画像を、前記認証用の第1画像として特定する、請求項4記載の画像表示装置。
A specifying information presenting means for displaying a plurality of specifying information corresponding to each of the plurality of first images on the display;
The first specifying unit is configured to authenticate the first image corresponding to the specifying information selected in accordance with an operation input in the input unit from the plurality of specifying information displayed on the display. The image display device according to claim 4, wherein the image display device is specified as a first image for use.
前記複数の第1画像に対応する前記ユーザの顔画像の各々が検出された位置に応じて、前記複数の第1画像の各々に優先度を設定する第2優先度設定手段をさらに備え、
前記表示手段は、前記第1画像の優先度に応じて、前記複数の特定用情報を配置する、請求項5記載の画像表示装置。
A second priority setting unit configured to set a priority for each of the plurality of first images according to a position where each of the user's face images corresponding to the plurality of first images is detected;
The image display device according to claim 5, wherein the display unit arranges the plurality of pieces of identification information according to a priority of the first image.
前記認証用の第1画像に対応する前記ユーザに対応する前記登録ユーザの候補が複数存在する場合に、当該複数の登録ユーザの候補の各々に対応する複数の識別情報を前記ディスプレイに表示させる候補提示手段、および
前記ディスプレイに表示された前記複数の識別情報の中から、前記入力部における操作入力に応じて認証用の識別情報を特定する第2特定手段をさらに備える、請求項4ないし6のいずれかに記載の画像表示装置。
Candidate for displaying a plurality of identification information corresponding to each of the plurality of registered user candidates on the display when there are a plurality of registered user candidates corresponding to the user corresponding to the first image for authentication The presenting means, and further comprising: a second specifying means for specifying identification information for authentication according to an operation input in the input unit from the plurality of identification information displayed on the display. The image display device according to any one of the above.
前記認証用の第1画像と、前記登録用の顔画像とに基づいて、前記複数の登録ユーザの候補の各々に優先度を設定する第1優先度設定手段をさらに備え、
前記表示手段は、前記複数の登録ユーザの候補の各々の優先度に応じて、前記複数の識別情報を配置する、請求項7記載の画像表示装置。
A first priority setting unit configured to set a priority for each of the plurality of registered user candidates based on the first image for authentication and the face image for registration;
The image display device according to claim 7, wherein the display unit arranges the plurality of pieces of identification information according to the priority of each of the plurality of registered user candidates.
請求項1ないし8のいずれかに記載の画像表示装置を備える、画像形成装置。   An image forming apparatus comprising the image display device according to claim 1. 入力部、ディスプレイおよび周囲に存在するユーザの像を含む撮影画像を撮影する撮影手段を備える画像表示装置の制御プログラムであって、
前記画像表示装置のプロセッサを、
前記撮影画像から、前記ユーザの顔画像に対応する第1画像を検出する顔検出手段、
前記顔検出手段によって複数の前記第1画像が検出された場合に、当該複数の第1画像を前記ディスプレイに表示させる表示手段、および
前記ディスプレイに表示された前記複数の第1画像の中から、前記入力部における操作入力に応じて認証用の第1画像を特定する第1特定手段として機能させる、画像表示装置の制御プログラム。
A control program for an image display device including an input unit, a display, and a photographing unit that captures a photographed image including an image of a user existing in the surroundings,
A processor of the image display device;
Face detection means for detecting a first image corresponding to the face image of the user from the captured image;
When a plurality of the first images are detected by the face detection means, display means for displaying the plurality of first images on the display, and the plurality of first images displayed on the display, A control program for an image display device that functions as a first specifying unit that specifies a first image for authentication according to an operation input in the input unit.
入力部、ディスプレイおよび周囲に存在するユーザの像を含む撮影画像を撮影する撮影手段を備える画像表示装置のプロセッサが、
(a)前記撮影画像から、前記ユーザの顔画像に対応する第1画像を検出するステップ、
(b)前記ステップ(a)によって複数の前記第1画像が検出された場合に、当該複数の第1画像を前記ディスプレイに表示させるステップ、および
(c)前記ステップ(b)によって前記ディスプレイに表示された前記複数の第1画像の中から、前記入力部における操作入力に応じて認証用の第1画像を特定するステップを実行する、制御方法。
A processor of an image display device including an input unit, a display, and a photographing unit that captures a captured image including an image of a user existing in the surrounding area,
(A) detecting a first image corresponding to the face image of the user from the captured image;
(B) displaying a plurality of first images on the display when a plurality of the first images are detected in the step (a); and (c) displaying on the display by the step (b). The control method of performing the step which specifies the 1st image for authentication according to the operation input in the said input part from the said some said 1st image.
入力部、ディスプレイ、複数の登録ユーザの各々に対応する登録用の顔画像を記憶する記憶手段および周囲に存在するユーザの像を含む撮影画像を撮影する撮影手段を備える画像表示装置の制御プログラムであって、
前記画像表示装置のプロセッサを、
前記撮影画像から、前記ユーザの顔画像に対応する第1画像を検出する顔検出手段、
前記顔検出手段によって検出された前記ユーザの顔画像と、前記記憶手段に記憶された前記登録用の顔画像とに基づいて、前記ユーザが前記登録ユーザであるかどうかを判断する判断手段、
前記判断手段によって前記登録ユーザであると判断された前記ユーザの顔画像に対応する第1画像が複数存在する場合に、当該複数の第1画像を前記ディスプレイに表示させる表示手段、および
前記ディスプレイに表示された前記複数の第1画像の中から、前記入力部における操作入力に応じて認証用の第1画像を特定する第1特定手段として機能させる、画像表示装置の制御プログラム。
A control program for an image display device comprising an input unit, a display, a storage means for storing a registration face image corresponding to each of a plurality of registered users, and a photographing means for photographing a photographed image including an image of a user existing around There,
A processor of the image display device;
Face detection means for detecting a first image corresponding to the face image of the user from the captured image;
Determining means for determining whether or not the user is the registered user based on the face image of the user detected by the face detecting means and the face image for registration stored in the storage means;
Display means for displaying the plurality of first images on the display when there are a plurality of first images corresponding to the face image of the user determined to be the registered user by the determination means; and A control program for an image display device that functions as a first specifying unit that specifies a first image for authentication in response to an operation input in the input unit from among the plurality of displayed first images.
入力部、ディスプレイ、複数の登録ユーザの各々に対応する登録用の顔画像を記憶する記憶手段および周囲に存在するユーザの像を含む撮影画像を撮影する撮影手段を備える画像表示装置のプロセッサが、
(a)前記撮影画像から、前記ユーザの顔画像に対応する第1画像を検出するステップ、
(b)前記ステップ(a)によって検出された前記ユーザの顔画像と、前記記憶手段に記憶された前記登録用の顔画像とに基づいて、前記ユーザが前記登録ユーザであるかどうかを判断するステップ、
(c)前記ステップ(b)によって前記登録ユーザであると判断された前記ユーザの顔画像に対応する第1画像が複数存在する場合に、当該複数の第1画像を前記ディスプレイに表示させるステップ、および
(d)前記ステップ(c)によって前記ディスプレイに表示された前記複数の第1画像の中から、前記入力部における操作入力に応じて認証用の第1画像を特定するステップを実行する、制御方法。
A processor of an image display device comprising: an input unit, a display, a storage unit that stores a registration face image corresponding to each of a plurality of registered users;
(A) detecting a first image corresponding to the face image of the user from the captured image;
(B) It is determined whether the user is the registered user based on the face image of the user detected in the step (a) and the registration face image stored in the storage unit. Step,
(C) when there are a plurality of first images corresponding to the face image of the user determined to be the registered user in the step (b), the step of displaying the plurality of first images on the display; And (d) executing a step of identifying a first image for authentication according to an operation input in the input unit from among the plurality of first images displayed on the display in the step (c). Method.
JP2017102653A 2017-05-24 2017-05-24 Image display device, image forming device, control program and control method Active JP6974032B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017102653A JP6974032B2 (en) 2017-05-24 2017-05-24 Image display device, image forming device, control program and control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017102653A JP6974032B2 (en) 2017-05-24 2017-05-24 Image display device, image forming device, control program and control method

Publications (2)

Publication Number Publication Date
JP2018197980A true JP2018197980A (en) 2018-12-13
JP6974032B2 JP6974032B2 (en) 2021-12-01

Family

ID=64663110

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017102653A Active JP6974032B2 (en) 2017-05-24 2017-05-24 Image display device, image forming device, control program and control method

Country Status (1)

Country Link
JP (1) JP6974032B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020189266A1 (en) * 2019-03-18 2020-09-24 ソニーセミコンダクタソリューションズ株式会社 Information processing device, information processing method, and information processing system
CN112016070A (en) * 2019-05-31 2020-12-01 佳能株式会社 Information processing device, control method, and storage medium
JP2021081880A (en) * 2019-11-15 2021-05-27 株式会社Patic Trust Information processing device, information processing method, program, and camera system
JPWO2021229717A1 (en) * 2020-05-13 2021-11-18
JPWO2022018973A1 (en) * 2020-07-22 2022-01-27
JP2022148719A (en) * 2021-03-24 2022-10-06 カシオ計算機株式会社 Image processing device, image processing method, and program

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007026316A (en) * 2005-07-20 2007-02-01 Yamaha Motor Co Ltd Image management apparatus, image management computer program, and recording medium recording the same
JP2007272811A (en) * 2006-03-31 2007-10-18 Toshiba Corp Face authentication device, face authentication method, and entrance / exit management device
US20110115877A1 (en) * 2009-11-17 2011-05-19 Kang Sung Suk Method for user authentication, and video communication apparatus and display apparatus thereof
JP2013141092A (en) * 2011-12-28 2013-07-18 Canon Inc Display control device and display control method
JP2015082729A (en) * 2013-10-22 2015-04-27 株式会社ニコン Portable terminal
JP2016043652A (en) * 2014-08-26 2016-04-04 シャープ株式会社 Image forming apparatus

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007026316A (en) * 2005-07-20 2007-02-01 Yamaha Motor Co Ltd Image management apparatus, image management computer program, and recording medium recording the same
JP2007272811A (en) * 2006-03-31 2007-10-18 Toshiba Corp Face authentication device, face authentication method, and entrance / exit management device
US20110115877A1 (en) * 2009-11-17 2011-05-19 Kang Sung Suk Method for user authentication, and video communication apparatus and display apparatus thereof
JP2013141092A (en) * 2011-12-28 2013-07-18 Canon Inc Display control device and display control method
JP2015082729A (en) * 2013-10-22 2015-04-27 株式会社ニコン Portable terminal
JP2016043652A (en) * 2014-08-26 2016-04-04 シャープ株式会社 Image forming apparatus

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020189266A1 (en) * 2019-03-18 2020-09-24 ソニーセミコンダクタソリューションズ株式会社 Information processing device, information processing method, and information processing system
US12307810B2 (en) * 2019-03-18 2025-05-20 Sony Semiconductor Solutions Corporation Information processing apparatus, information processing method, and information processing system
US20220172508A1 (en) * 2019-03-18 2022-06-02 Sony Semiconductor Solutions Corporation Information processing apparatus, information processing method, and information processing system
JP7330766B2 (en) 2019-05-31 2023-08-22 キヤノン株式会社 Information processing device, control method and program
CN112016070A (en) * 2019-05-31 2020-12-01 佳能株式会社 Information processing device, control method, and storage medium
JP2020197849A (en) * 2019-05-31 2020-12-10 キヤノン株式会社 Information processing device, control method and program
JP2021081880A (en) * 2019-11-15 2021-05-27 株式会社Patic Trust Information processing device, information processing method, program, and camera system
US11494942B2 (en) 2019-11-15 2022-11-08 Patic Trust Co., Ltd. Information processing device, information processing method, program, recording medium, and camera system
JPWO2021229717A1 (en) * 2020-05-13 2021-11-18
WO2021229717A1 (en) * 2020-05-13 2021-11-18 富士通株式会社 Authentication method, authentication program, and information processing device
JP7364965B2 (en) 2020-05-13 2023-10-19 富士通株式会社 Authentication method, authentication program, and information processing device
JPWO2022018973A1 (en) * 2020-07-22 2022-01-27
US12001031B2 (en) 2020-07-22 2024-06-04 Nidec Sankyo Corporation Input device and information processing device
WO2022018973A1 (en) * 2020-07-22 2022-01-27 日本電産サンキョー株式会社 Input device and information processing device
JP2022148719A (en) * 2021-03-24 2022-10-06 カシオ計算機株式会社 Image processing device, image processing method, and program

Also Published As

Publication number Publication date
JP6974032B2 (en) 2021-12-01

Similar Documents

Publication Publication Date Title
JP6974032B2 (en) Image display device, image forming device, control program and control method
US10757284B2 (en) Image forming apparatus, storage medium, and control method that switches from sleep mode to standby mode upon detecting a job data of a registered user
JP6439478B2 (en) Device with face recognition function
US11184490B2 (en) Image forming apparatus, non-transitory computer-readable medium, and control method
US20170041503A1 (en) Authentication device and authentication method
JP2016212624A (en) Authentication apparatus and image forming apparatus
JP7701509B2 (en) Image forming apparatus and method for controlling the image forming apparatus
CN108696662A (en) Image forming apparatus, image formation system, storage medium and control method
US9392141B2 (en) Image display apparatus, image processing apparatus, and non-transitory computer-readable medium
JP2010054559A (en) Display control device and image forming apparatus
JP2017033357A (en) Authentication device
JP6264445B2 (en) Image forming apparatus
JP2006344100A (en) Authentication device and image output device
JP2021193780A (en) Image reader, image reading method, and image reading program
JP2018061184A (en) Image forming apparatus, control program, and control method
JP2017034518A (en) Authentication device and processing device
JP6569386B2 (en) Image processing device
JP6516225B2 (en) Image forming apparatus and image forming method
US20190179578A1 (en) Information processing system, information terminal, non-transitory computer-readable storage medium, and control method
JP6038359B2 (en) Information processing apparatus and information processing method
EP4672064A1 (en) INFORMATION PROCESSING DEVICE, DISPLAY MODE SWITCHING PROGRAM AND DISPLAY MODE SWITCHING METHOD
JP5816655B2 (en) INPUT DEVICE, IMAGE READING DEVICE, AND IMAGE FORMING DEVICE
JP2021064872A (en) Image forming apparatus, image forming system, control program, and control method
JP2021072466A (en) Scan image generation program and scan image generation method
JP2018138373A (en) Image formation device, control program and control method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200325

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210412

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210617

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211012

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211104

R150 Certificate of patent or registration of utility model

Ref document number: 6974032

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150