[go: up one dir, main page]

JP2009092747A - Imaging apparatus and imaging method - Google Patents

Imaging apparatus and imaging method Download PDF

Info

Publication number
JP2009092747A
JP2009092747A JP2007260865A JP2007260865A JP2009092747A JP 2009092747 A JP2009092747 A JP 2009092747A JP 2007260865 A JP2007260865 A JP 2007260865A JP 2007260865 A JP2007260865 A JP 2007260865A JP 2009092747 A JP2009092747 A JP 2009092747A
Authority
JP
Japan
Prior art keywords
subject
focus
distance
face
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2007260865A
Other languages
Japanese (ja)
Inventor
Soroj Triteyaprasert
ソロジ トライティヤパサート
Takashi Kawai
崇史 川井
Fumihiro Kumagai
史裕 熊谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2007260865A priority Critical patent/JP2009092747A/en
Publication of JP2009092747A publication Critical patent/JP2009092747A/en
Withdrawn legal-status Critical Current

Links

Images

Landscapes

  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Studio Devices (AREA)

Abstract

【課題】意図する被写体に対して合焦し続ける。
【解決手段】被写体に合焦させ、合焦状態のフォーカスレンズ位置Fから当該被写体までの距離Dfを算出する。次に、被写体が移動する最大スピードVf_maxを想定し、単位時間(例えば、1秒間)に移動した当該被写体までの距離を仮定する。移動した当該被写体までの距離にそれぞれ対応するフォーカスレンズ位置を求め、これらの差に基づき、フォーカスレンズの遠(far)方向への最大駆動スピードVaf_max_farと、フォーカスレンズの至近(Near)方向への最大駆動スピードVaf_max_nearとを算出して、AF動作の追従スピードの最大値に設定する。本発明は、デジタルビデオカメラ、デジタルスチルカメラなどに適用できる。
【選択図】図2
To keep in focus on an intended subject.
A subject is focused, and a distance Df from the focused focus lens position F to the subject is calculated. Next, assuming the maximum speed Vf_max at which the subject moves, the distance to the subject that has moved per unit time (for example, 1 second) is assumed. The focus lens position corresponding to the distance to the subject moved is obtained, and based on these differences, the maximum drive speed Vaf_max_far in the far direction of the focus lens and the maximum in the near direction of the focus lens The drive speed Vaf_max_near is calculated and set to the maximum follow-up speed of the AF operation. The present invention can be applied to a digital video camera, a digital still camera, and the like.
[Selection] Figure 2

Description

本発明は、撮像装置、および撮像方法に関し、特に、画像内から人の顔などの被写体を検出し、検出した被写体に自動的に合焦させる場合に好適な撮像装置、および撮像方法に関する。   The present invention relates to an imaging apparatus and an imaging method, and more particularly to an imaging apparatus and an imaging method suitable for detecting a subject such as a human face from an image and automatically focusing on the detected subject.

従来、オートフォーカス機能を有するデジタルカメラが多数存在する。   Conventionally, there are many digital cameras having an autofocus function.

オートフォーカス機能を有するデジタルカメラでは、CCDなどの撮像素子によって生成された画像の中央に焦点検出エリアを設け、あるいは画像上に複数の焦点検出エリアを設け、焦点検出エリアの画像をハイパスフィルタに通すことによってコントラスト情報を抽出し、抽出したコントラスト情報を合焦評価値としてフォーカス制御を行っている。すなわち、デジタルカメラの焦点が被写体に合焦している場合、焦点検出エリアの画像のコントラストが急峻となることに基づき、コントラスト情報(合焦評価値)が最大となるようにフォーカスレンズを移動させることによりオートフォーカス機能を実現している。   In a digital camera having an autofocus function, a focus detection area is provided in the center of an image generated by an image sensor such as a CCD, or a plurality of focus detection areas are provided on the image, and the image in the focus detection area is passed through a high-pass filter. Thus, contrast information is extracted, and focus control is performed using the extracted contrast information as a focus evaluation value. That is, when the focus of the digital camera is focused on the subject, the focus lens is moved so that the contrast information (focus evaluation value) is maximized based on the sharp contrast of the image in the focus detection area. This realizes the autofocus function.

ところで、一般的なカメラ撮影においては人を主要な被写体とすることが多い。しかしながら、主要な被写体として人は必ずしも構図内の焦点検出エリアに存在しているわけではない。   By the way, in general camera photography, a person is often the main subject. However, a person as a main subject does not necessarily exist in the focus detection area in the composition.

そこで、画像を解析して人の顔を検出し、検出した顔に焦点検出エリアを設けることにより、被写体(人の顔)が画像内のどこに存在していても、被写体に合焦させることができる技術が提案されている(例えば、特許文献1参照)。   Therefore, by analyzing the image to detect the human face and providing a focus detection area on the detected face, it is possible to focus on the subject wherever the subject (human face) exists in the image. The technique which can be performed is proposed (for example, refer patent document 1).

しかしながら、実際には、人の顔はコントラストの変化が比較的少なく、顔のコントラスト情報に基づいてフォーカス制御することは困難である。そこで、検出した顔の輪郭を含むように焦点検出エリアを広げたり、検出した顔の下方に存在する首や肩までも含むように焦点検出エリアを広げたりして、被写体としての人に安定して合焦させる技術が提案されている(例えば、特許文献1参照)。   However, in reality, the contrast of a human face is relatively small, and it is difficult to perform focus control based on the contrast information of the face. Therefore, the focus detection area is expanded to include the detected face contour, or the focus detection area is expanded to include the neck and shoulders that exist below the detected face. A technique for focusing is proposed (for example, see Patent Document 1).

特開2003−107335号公報JP 2003-107335 A 特開2006−227080号公報JP 2006-227080 A

ところで、顔の輪郭などを含むように焦点検出エリアを設定する場合、顔を検出するために若干の処理時間を要するので、撮影者が急に撮影方向を変化させたり(急峻なパン、チルトなど)、あるいは被写体の人が素早く移動したりした場合、顔が存在するものとして設定された焦点検出エリアに顔が存在しないことがある。   By the way, when the focus detection area is set so as to include the outline of the face, it takes some processing time to detect the face, so the photographer suddenly changes the shooting direction (steep pan, tilt, etc.) ), Or when the subject person moves quickly, the face may not exist in the focus detection area set as the face is present.

このような場合、図1Aに示すように、背景に強いコントラストの大きい物体(図1Aの場合、ビルディング)が存在すると、その影響によって意図していない物体(図1Aの場合、ビルディング)に合焦してしまうことが発生し得る。   In such a case, as shown in FIG. 1A, when an object having a strong contrast (in the case of FIG. 1A) exists in the background, the influence is focused on an unintended object (in the case of FIG. 1A) Can occur.

あるいは、図1Bに示すように、追従対象の人の前を障害物(図1Bの場合、他の人)が一時的に通過したりすると、その影響によって意図していない障害物に合焦してしまうことが発生し得る。   Alternatively, as shown in FIG. 1B, when an obstacle (in the case of FIG. 1B, another person) passes temporarily in front of the person to be followed, it focuses on an unintended obstacle due to the influence. Can occur.

本発明はこのような状況に鑑みてなされたものであり、意図する被写体の背景にコントラストの大きい物体が存在したり、意図する被写体の前に障害物が出現したりしたとしても、その影響を受けることなく、意図する被写体に対して合焦し続けることを可能にするものである。   The present invention has been made in view of such a situation, and even if an object with a high contrast exists in the background of the intended subject or an obstacle appears in front of the intended subject, the effect is reduced. This makes it possible to continue focusing on the intended subject without receiving it.

本発明の一側面である撮像装置は、オートフォーカス機能を有する撮像装置において、撮像された画像上から被写体を検出する検出手段と、検出された前記被写体に合焦させるためにフォーカスレンズを駆動させるフォーカス制御手段と、検出された前記被写体の移動スピードを推定する推定手段と、検出された前記被写体までの距離を取得する取得手段と、推定された前記被写体の移動スピード、および取得された前記被写体までの距離に基づき、前記フォーカスレンズの駆動スピードの上限値を決定する決定手段とを含む。   An imaging apparatus according to an aspect of the present invention, in an imaging apparatus having an autofocus function, detects a subject from a captured image and drives a focus lens to focus the detected subject. Focus control means, estimation means for estimating the detected moving speed of the subject, acquisition means for acquiring the detected distance to the subject, estimated moving speed of the subject, and the acquired subject Determining means for determining an upper limit value of the driving speed of the focus lens based on the distance up to.

前記検出手段は、撮像された画像上から前記被写体の顔を検出するようにすることができる。   The detection means may detect the face of the subject from the captured image.

前記取得手段は、検出された前記被写体までの距離を、撮像された画像上から検出された前記被写体の顔の大きさに基づいて取得するようにすることができる。   The acquisition unit may acquire the detected distance to the subject based on the size of the face of the subject detected from the captured image.

前記取得手段は、検出された前記被写体までの距離を、前記フォーカスレンズの調整位置に基づいて取得するようにすることができる。   The acquisition unit may acquire the detected distance to the subject based on the adjustment position of the focus lens.

前記決定手段は、前記フォーカスレンズの駆動スピードの至近方向の上限値を、遠方向の上限値よりも大きい値に決定するようにすることができる。   The determining means may determine the upper limit value in the close direction of the driving speed of the focus lens to a value larger than the upper limit value in the far direction.

前記推定手段は、検出された前記被写体の特徴を判定し、判定した前記被写体の前記特徴を、予め用意されたテーブルと参照することにより、前記被写体の移動スピードを推定するようにすることができる。   The estimation means can determine the feature of the detected subject and estimate the movement speed of the subject by referring to the determined feature of the subject with a table prepared in advance. .

本発明の一側面である撮像方法は、撮像された画像上から被写体を検出する検出手段と、検出された前記被写体に合焦させるためにフォーカスレンズを駆動させるフォーカス制御手段とを備え、オートフォーカス機能を有する撮像装置の撮像方法において、検出された前記被写体の移動スピードを推定し、検出された前記被写体までの距離を取得し、推定された前記被写体の移動スピード、および取得された前記被写体までの距離に基づき、前記フォーカスレンズの駆動スピードの上限値を決定するステップを含む。   An imaging method according to an aspect of the present invention includes a detection unit that detects a subject from a captured image, and a focus control unit that drives a focus lens to focus the detected subject. In the imaging method of the imaging apparatus having a function, the movement speed of the detected subject is estimated, the distance to the detected subject is acquired, the estimated movement speed of the subject, and the acquired subject Determining an upper limit value of the driving speed of the focus lens based on the distance.

本発明の一側面においては、検出された被写体の移動スピードが推定されるとともに被写体までの距離が取得され、推定された被写体の移動スピード、および取得された被写体までの距離に基づき、フォーカスレンズの駆動スピードの上限値が決定される。   In one aspect of the present invention, the moving speed of the detected subject is estimated and the distance to the subject is acquired. Based on the estimated moving speed of the subject and the acquired distance to the subject, the focus lens An upper limit value of the driving speed is determined.

本発明の一側面によれば、焦点検出エリアのコントラスト情報に基づいてフォーカスを制御することができる。   According to one aspect of the present invention, focus can be controlled based on contrast information of a focus detection area.

また、本発明の一側面によれば、意図する被写体の背景にコントラストの大きい物体が存在したり、意図する被写体の前に障害物が出現したりしたとしても、その影響を受けることなく、意図する被写体に対して合焦し続けることが可能となる。   In addition, according to one aspect of the present invention, even if an object with high contrast exists in the background of the intended subject or an obstacle appears in front of the intended subject, the intention is not affected. It is possible to keep focusing on the subject to be focused.

以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書または図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書または図面に記載されていることを確認するためのものである。従って、明細書または図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。   Embodiments of the present invention will be described below. Correspondences between the constituent elements of the present invention and the embodiments described in the specification or the drawings are exemplified as follows. This description is intended to confirm that the embodiments supporting the present invention are described in the specification or the drawings. Therefore, even if there is an embodiment which is described in the specification or the drawings but is not described here as an embodiment corresponding to the constituent elements of the present invention, that is not the case. It does not mean that the form does not correspond to the constituent requirements. Conversely, even if an embodiment is described here as corresponding to a configuration requirement, that means that the embodiment does not correspond to a configuration requirement other than the configuration requirement. It's not something to do.

本発明の一側面である撮像装置は、オートフォーカス機能を有する撮像装置(例えば、図1のデジタルビデオカメラ10)において、撮像された画像上から被写体を検出する検出手段(例えば、図4の顔検出部51)と、検出された前記被写体に合焦させるためにフォーカスレンズを駆動させるフォーカス制御手段(例えば、図4のフォーカス制御部56)と、検出された前記被写体の移動スピードを推定する推定手段(例えば、図4の特徴判定部52)と、検出された前記被写体までの距離を取得する取得手段(例えば、図4の距離算出部53)と、推定された前記被写体の移動スピード、および取得された前記被写体までの距離に基づき、前記フォーカスレンズの駆動スピードの上限値を決定する決定手段(例えば、図4の追従スピード決定部54)とを含む。   An imaging apparatus according to one aspect of the present invention is a detection unit (for example, the face of FIG. 4) that detects a subject from an image captured in an imaging apparatus (for example, the digital video camera 10 of FIG. 1) having an autofocus function. A detection unit 51), a focus control means (for example, the focus control unit 56 in FIG. 4) for driving a focus lens to focus the detected subject, and an estimation for estimating the detected moving speed of the subject. Means (for example, the feature determination unit 52 in FIG. 4), acquisition means (for example, the distance calculation unit 53 in FIG. 4) for acquiring the detected distance to the subject, the estimated moving speed of the subject, and Determination means for determining an upper limit value of the driving speed of the focus lens based on the acquired distance to the subject (for example, the tracking speed in FIG. 4). Including a tough 54) and.

以下、本発明を適用した具体的な実施の形態について説明するが、その前に本発明の基本的な概要について説明する。   Hereinafter, specific embodiments to which the present invention is applied will be described. Before that, a basic outline of the present invention will be described.

本発明は、意図する被写体に合焦した後において、フォーカスレンズを駆動するスピード(以下、AF動作の追従スピードと称する)を制限する(AF動作の追従スピードを減少させる)ことにより、意図する被写体の背景にコントラストの大きい物体が存在したり、意図する被写体の前に障害物が出現したりしたとしても、その影響を受けることなく、意図する被写体に対して合焦し続けるようにするものである。   The present invention limits the speed at which the focus lens is driven (hereinafter referred to as the AF operation tracking speed) after focusing on the intended object (reducing the AF operation tracking speed), thereby reducing the intended object. Even if an object with a high contrast exists in the background of an object or an obstacle appears in front of the intended subject, it is not affected by this and continues to focus on the intended subject. is there.

このようなAF動作の追従スピードの制限は、意図する被写体となる人の移動速度には限界あり、また一般的な人物撮影においては、撮像装置と被写体となる人との相対速度はあまり大きくないので、AF動作の追従スピードを減少させても不都合はないと考えられることに基づいている。   Such limitation of the tracking speed of AF operation is limited in the movement speed of the person who is the intended subject, and the relative speed between the imaging device and the person who is the subject is not so high in general human photography. Therefore, it is based on the fact that there is no inconvenience even if the tracking speed of AF operation is reduced.

具体的には、意図する被写体に合焦させ、合焦状態のフォーカスレンズ位置Fに基づいて当該被写体までの距離Dfを算出する(あるいは、合焦している被写体までの距離Dfを光学的に測定する)。次に、当該被写体が移動する最大スピードVf_maxを想定し、単位時間(例えば、1秒間)に移動した当該被写体までの距離を仮定する。そして、図2に示すような、撮像装置の光学系特性曲線(横軸はフォーカスレンズ位置、縦軸は合焦距離を示す)を参照し、移動した当該被写体までの距離にそれぞれ対応するフォーカスレンズ位置を求め、これらの差に基づき、フォーカスレンズの遠(far)方向への最大駆動スピードVaf_max_farと、フォーカスレンズの至近(Near)方向への最大駆動スピードVaf_max_nearとを算出して、AF動作の追従スピードの最大値に設定する。   Specifically, the intended subject is focused, and the distance Df to the subject is calculated based on the focus lens position F in the focused state (or the distance Df to the focused subject is optically calculated). taking measurement). Next, assuming the maximum speed Vf_max at which the subject moves, the distance to the subject moved in unit time (for example, 1 second) is assumed. Then, referring to the optical system characteristic curve of the imaging apparatus (the horizontal axis indicates the focus lens position, and the vertical axis indicates the in-focus distance) as shown in FIG. 2, the focus lens corresponding to the distance to the moved subject, respectively. Determine the position, and based on these differences, calculate the maximum driving speed Vaf_max_far in the far direction of the focus lens and the maximum driving speed Vaf_max_near in the near direction of the focus lens to follow the AF operation Set to the maximum speed.

なお、図2からも明らかなように、フォーカスレンズのFar側への最大駆動スピードと、フォーカスレンズのNear側への最大駆動スピードVaf_max_nearとはその値が異なり、フォーカスレンズのNear側への最大駆動スピードVaf_max_nearの方がその値が大きくなる。   As is clear from FIG. 2, the maximum driving speed of the focus lens toward the Far side is different from the maximum driving speed Vaf_max_near of the focus lens toward the Near side, and the maximum driving speed of the focus lens toward the Near side is different. Speed Vaf_max_near has a larger value.

次に、本発明の一実施の形態であるデジタルビデオカメラの構成例について、図3を参照して説明する。このデジタルビデオカメラ10は、主に、被写体の光学像を撮像素子12に集光する撮像レンズ11、集光された光学像を電気的な画像信号に変換する撮像素子12、所定のアナログ画像処理を行うアナログ信号処理部13、画像信号をデジタル化するA/D変換部14、および所定のデジタル画像処理を行うデジタル信号処理部15から構成される。   Next, a configuration example of a digital video camera according to an embodiment of the present invention will be described with reference to FIG. The digital video camera 10 mainly includes an imaging lens 11 that condenses an optical image of a subject on an image sensor 12, an image sensor 12 that converts the collected optical image into an electrical image signal, and predetermined analog image processing. An analog signal processing unit 13 that performs digital image processing, an A / D conversion unit 14 that digitizes an image signal, and a digital signal processing unit 15 that performs predetermined digital image processing.

また、デジタルビデオカメラ10は、撮像した画像や各種の情報などを表示する液晶パネル16、構図の決定に使用されるビューファインダ17、および、撮像した画像信号が記録される記録デバイス18から構成される。   The digital video camera 10 includes a liquid crystal panel 16 that displays captured images and various types of information, a viewfinder 17 that is used for determining a composition, and a recording device 18 that records captured image signals. The

さらに、デジタルビデオカメラ10は、デジタルビデオカメラ10の各部を制御する制御部23、ユーザからの各種操作を受け付ける操作部24、および、被写体までの距離を光学的に測定する測距センサ28を備える。   Furthermore, the digital video camera 10 includes a control unit 23 that controls each unit of the digital video camera 10, an operation unit 24 that receives various operations from the user, and a distance measurement sensor 28 that optically measures the distance to the subject. .

撮像レンズ11は、焦点距離を連続的に変更可能なズームレンズ、被写体に合焦するために移動されるフォーカスレンズ、絞りの径を変化させるアイリス、NDフィルタを挿入するND機構、撮像時の手ぶれを補正するシフト防振式手ブレ補正レンズなどから構成されている。   The imaging lens 11 includes a zoom lens that can continuously change the focal length, a focus lens that is moved to focus on the subject, an iris that changes the diameter of the aperture, an ND mechanism that inserts an ND filter, and camera shake during imaging. It consists of a shift anti-shake type camera shake correction lens.

撮像素子12は、CCDあるいはCMOSによって構成され、集光された光学像を光電変換によってアナログの画像信号を生成してアナログ信号処理部13に出力する。アナログ信号処理部13は、撮像素子12からの画像信号にノイズ除去などのアナログ画像処理を行い、A/D変換部14に出力する。   The image sensor 12 is configured by CCD or CMOS, generates an analog image signal by photoelectric conversion of the collected optical image, and outputs the analog image signal to the analog signal processing unit 13. The analog signal processing unit 13 performs analog image processing such as noise removal on the image signal from the image sensor 12 and outputs the image signal to the A / D conversion unit 14.

デジタル信号処理部15は、A/D変換部14によってデジタル化される画像信号に、ガンマ補正などのデジタル画像処理を行う。   The digital signal processing unit 15 performs digital image processing such as gamma correction on the image signal digitized by the A / D conversion unit 14.

記録デバイス18は、半導体メモリ、ディスク状記録媒体、テープ状記録媒体などの着脱可能な記録媒体に対して画像信号を記録する。   The recording device 18 records an image signal on a removable recording medium such as a semiconductor memory, a disk-shaped recording medium, or a tape-shaped recording medium.

タイミングジェネレータ(TG)19は、撮像素子12に対して電荷の吐き出しタイミング(すなわち、画像信号の生成タイミング)を制御する。モータドライバ20は、撮像レンズ11に含まれるフォーカスレンズを駆動するモータ21、およびズームレンズを駆動するモータ22を制御する。   The timing generator (TG) 19 controls the charge discharge timing (that is, the image signal generation timing) to the image sensor 12. The motor driver 20 controls a motor 21 that drives a focus lens included in the imaging lens 11 and a motor 22 that drives a zoom lens.

操作部24は、デジタルビデオカメラ10の筐体に設けられたボタンやスイッチ、あるいは液晶パネル16に重畳して設けられるタッチパネルなどからなり、ユーザからの録画の開始/停止操作、ズーム操作などを受け付け、対応する操作信号を制御部23に出力する。   The operation unit 24 includes buttons and switches provided on the casing of the digital video camera 10 or a touch panel provided so as to be superimposed on the liquid crystal panel 16, and accepts a recording start / stop operation, a zoom operation, and the like from the user. The corresponding operation signal is output to the control unit 23.

制御部23は、内蔵するCPUがプログラムROM26に格納されたプログラムを実行することによって、デジタルビデオカメラ10による各種の処理を制御する。   The control unit 23 controls various processes performed by the digital video camera 10 by the built-in CPU executing programs stored in the program ROM 26.

具体的には、例えば、制御部23は、デジタル信号処理部15から供給される画像から被写体となる人の顔を検出する顔検出処理、検出した顔に合焦させるAF処理、明るさの調節を行うAE処理、ホワイトバランスを行うWB処理などを行う。さらに、制御部23は、AF動作の追従スピードを決定する追従スピード決定処理を行う。   Specifically, for example, the control unit 23 detects a face of a person who is a subject from an image supplied from the digital signal processing unit 15, an AF process for focusing on the detected face, and brightness adjustment AE processing for performing white balance and WB processing for performing white balance. Further, the control unit 23 performs a follow-up speed determination process for determining the follow-up speed of the AF operation.

不揮発性メモリであるEEPROM25には、画像信号、各種の補助情報、設定情報が格納される。プログラムROM26には、制御部23に内蔵されたCPUによって実行されるプログラムの他、各種の演算パラメータ等が格納される。RAM27には、制御部23に内蔵されたCPUによって実行されるプログラムや、そのプログラムの実行において適宜変化するパラメータ等が格納される。   The EEPROM 25, which is a non-volatile memory, stores image signals, various auxiliary information, and setting information. The program ROM 26 stores various calculation parameters and the like in addition to a program executed by the CPU built in the control unit 23. The RAM 27 stores a program executed by the CPU built in the control unit 23, parameters that change as appropriate in the execution of the program, and the like.

図4は、制御部23がプログラムを実行することによって実現される、上述した各種の処理を行うための機能ブロック図を示している。   FIG. 4 is a functional block diagram for performing the various processes described above, which is realized by the control unit 23 executing a program.

顔検出部51は、デジタル信号処理部15から供給される画像から被写体となる人の顔を検出し、その大きさ、位置、角度、および顔の画像を顔検出情報として出力する顔検出処理を行う。   The face detection unit 51 detects a face of a person as a subject from the image supplied from the digital signal processing unit 15, and performs face detection processing for outputting the size, position, angle, and face image as face detection information. Do.

画像から人の顔を検出するには、撮像された画像を異なる複数の縮小率で縮小した複数の縮小画像を生成し、予め用意した顔の輝度分布情報が記録されている複数のテンプレート群とマッチングすることにより実現できる。なお、テンプレート群には、顔を傾けた状態での輝度分布情報が記録されているテンプレートも含める。このテンプレートは、顔の3次元直交座標系のXYZ軸の各々に対して傾いたものであり、このテンプレートとのマッチングにより、画像における顔の傾きが判定できる。また、縮小画像を徐々にずらしながらテンプレートとマッチングさせることにより、顔の位置が判定できる。さらに、マッチした縮小画像の縮小率から顔の大きさを求めることができる。なお、画像から人の顔を検出する方法には、特開2004−133637に開示されている方法を適用してもよい。   In order to detect a human face from an image, a plurality of reduced images obtained by reducing the captured image at a plurality of different reduction ratios are generated, and a plurality of template groups in which brightness distribution information of the prepared face is recorded This can be realized by matching. Note that the template group includes a template in which luminance distribution information with the face tilted is recorded. This template is inclined with respect to each of the XYZ axes of the three-dimensional orthogonal coordinate system of the face, and the face inclination in the image can be determined by matching with this template. Further, the face position can be determined by matching the reduced image with the template while gradually shifting the reduced image. Furthermore, the face size can be obtained from the reduction rate of the matched reduced image. Note that a method disclosed in Japanese Patent Application Laid-Open No. 2004-133737 may be applied to a method for detecting a human face from an image.

なお、画像内から複数の顔が検出された場合、着目する被写体として、複数の顔のうちの1つをユーザが選択するようにするか、ユーザが予め設定した条件に合致するものを選択するようにするか、または顔検出部51によって1つを選択するようにする。   When a plurality of faces are detected in the image, the user selects one of the plurality of faces as the subject of interest, or selects a subject that matches a condition preset by the user. Alternatively, one is selected by the face detection unit 51.

ユーザが予め設定した条件とは、例えば、人種、選別、年齢などの優先順位を挙げることができる。   Examples of the conditions set in advance by the user include priority orders such as race, selection, and age.

顔検出部51が複数の顔のうちの1つを選択するには、例えば、各顔の大きさと画面中央からの距離を指標にする方法がある。すなわち、例えば、複数の顔のうち、その大きさが所定の閾値を越えるものを選抜し、選抜した顔のうちの最も大きい顔を選択するようにする。もっとも大きい顔が複数存在する場合、画像中央からの距離が最短の顔を選択するようにする。複数の顔のうち、その大きさが所定の閾値を越えるものが存在しない場合、画像中央からの距離が最短の顔を選択するようにする。   In order for the face detection unit 51 to select one of a plurality of faces, for example, there is a method using the size of each face and the distance from the center of the screen as indices. That is, for example, a plurality of faces whose size exceeds a predetermined threshold value is selected, and the largest face among the selected faces is selected. When there are a plurality of largest faces, the face with the shortest distance from the center of the image is selected. If there is no face whose size exceeds a predetermined threshold, the face with the shortest distance from the center of the image is selected.

特徴判定部52は、顔検出部51からの顔検出情報に基づき、顔の特徴量を抽出し、抽出した特徴量に基づいて、被写体となる人の人種、性別、年齢、体格を判別する。さらに、これらの判別結果に基づいて被写体となる人の移動スピードを推定する。   The feature determination unit 52 extracts a facial feature amount based on the face detection information from the face detection unit 51, and determines the race, sex, age, and physique of the person who becomes the subject based on the extracted feature amount. . Furthermore, the moving speed of the person who is the subject is estimated based on these determination results.

距離算出部53は、顔検出部51により検出された顔までの距離を算出する(詳細は後述する)。なお、測距センサ28によって測定された距離を採用するようにしてもよい。   The distance calculation unit 53 calculates the distance to the face detected by the face detection unit 51 (details will be described later). Note that the distance measured by the distance measuring sensor 28 may be adopted.

追従スピード決定部54は、距離算出部53により算出された検出された顔までの距離と、特徴判定部52により推定された被写体となる人の移動スピードに基づき、AF動作の追従スピードを決定する追従スピード決定処理を行う(詳細は後述する)。   The tracking speed determination unit 54 determines the tracking speed of the AF operation based on the distance to the detected face calculated by the distance calculation unit 53 and the moving speed of the person who is the subject estimated by the feature determination unit 52. Follow-up speed determination processing is performed (details will be described later).

合焦判定部55は、デジタル信号処理部15から供給される画像が合焦状態にあるか否かを判定する。具体的には、測距センサ28によって算出された距離と、撮像レンズ11などの現在の合焦距離との差が、被写界深度内にあれば合焦状態であると判定する。あるいは、検出された顔に焦点検出エリアを設定し、焦点検出エリアのコントラスト情報(合焦評価値)が最大となっている場合に合焦状態であると判定する。   The focus determination unit 55 determines whether the image supplied from the digital signal processing unit 15 is in focus. Specifically, if the difference between the distance calculated by the distance measuring sensor 28 and the current in-focus distance such as the imaging lens 11 is within the depth of field, it is determined that the in-focus state is reached. Alternatively, a focus detection area is set for the detected face, and when the contrast information (focus evaluation value) in the focus detection area is maximum, it is determined that the focus state is achieved.

フォーカス制御部56は、合焦判定部55による判定結果に基づき、フォーカスレンズを駆動するモータ21を制御するモータドライバ20を制御するが、その際、決定された追従スピードの最大値を越えないように従うように制御する。なお、フォーカス制御部56は、追従スピードを制限する状態であるか否かを示す制限モードフラグを保持しており、制限モードフラグが有効である場合には追従スピードを制限し、制限モードフラグが無効である場合には追従スピードを制限しない。初期状態において、制限モードフラグは無効とされている。なお、制限モードフラグの有効/無効の切り替えについては後述する。   The focus control unit 56 controls the motor driver 20 that controls the motor 21 that drives the focus lens based on the determination result by the focus determination unit 55, but at this time, the maximum value of the determined following speed is not exceeded. Control to follow. Note that the focus control unit 56 holds a restriction mode flag indicating whether or not the following speed is restricted, and restricts the following speed when the restriction mode flag is valid. If it is invalid, the tracking speed is not limited. In the initial state, the restriction mode flag is invalid. Note that the restriction mode flag valid / invalid switching will be described later.

ここで、距離算出部53による、顔検出部51で検出された顔までの距離を算出する2種類の方法について説明する。   Here, two types of methods for calculating the distance to the face detected by the face detection unit 51 by the distance calculation unit 53 will be described.

1種類目の方法では、顔検出部51で検出された顔に合焦状態であると合焦判定部55によって判定されたときのフォーカスレンズ位置Fを取得し、図5に示す撮像レンズ11の特性曲線(横軸はフォーカスレンズ位置、縦軸は合焦距離を示す)に基づいて合焦距離Dfを算出し、顔までの距離とするようにする。   In the first type of method, the focus lens position F when the focus determination unit 55 determines that the face detected by the face detection unit 51 is in focus is acquired, and the imaging lens 11 illustrated in FIG. The focus distance Df is calculated based on the characteristic curve (the horizontal axis indicates the focus lens position, and the vertical axis indicates the focus distance), and is set as the distance to the face.

2種類目の方法では、検出された顔の大きさWFと、焦点距離fと、図6に示す光学系の基本的な物理法則とを用いて、次式(1)のように顔までの距離Dfを求めることもできる。
Df=Wref×(f/Wi)×(Ww/Wf) ・・・(1)
Wref:人の顔の大きさ標準値
Wi:撮像素子の大きさ
f:焦点距離
Wf:顔の大きさ[ピクセル](検出値)
Ww:顔検出に使用した全画像の大きさ[ピクセル]
In the second type of method, using the detected face size WF, focal length f, and basic physical laws of the optical system shown in FIG. The distance Df can also be obtained.
Df = Wref × (f / Wi) × (Ww / Wf) (1)
Wref: Human face size standard value
Wi: Image sensor size f: Focal length
Wf: Face size [pixel] (detection value)
Ww: Size of all images used for face detection [pixels]

ただし、図6に示された光学系の基本的な物理法則を用いた方法では、顔までの距離Dfに誤差が生じてしまう問題がある。すなわち、図7に示すように、合焦評価値が最大となるときのフォーカスレンズ位置F、想定される至近方向へのずれをΔFn、遠方向へのずれをΔFfとし、フォーカスレンズ位置(F−ΔFf)に対応する合焦距離Dffが最も遠方向に誤差が広がるときである。反対に、フォーカスレンズ位置(F+ΔFn)に対応する合焦距離Dfnが最も至近方向に誤差が広がるときである。   However, the method using the basic physical law of the optical system shown in FIG. 6 has a problem that an error occurs in the distance Df to the face. That is, as shown in FIG. 7, the focus lens position F when the in-focus evaluation value is maximum, ΔFn is assumed to be the shift in the closest direction, ΔFf is the shift in the far direction, and the focus lens position (F− This is when the focus distance Dff corresponding to ΔFf) spreads out in the farthest direction. Conversely, the focus distance Dfn corresponding to the focus lens position (F + ΔFn) is when the error spreads in the closest direction.

なお、この誤差の要因は、被写界深度内に存在する全ての被写体は対して合焦するので、被写界深度が深いときには合焦評価値の変化が鈍り、合焦距離の分解能が低くなることと、フォーカスレンズの駆動単位以上の分解能が得られないことの2点である。   The cause of this error is that all subjects existing within the depth of field are in focus, so when the depth of field is deep, the change in the focus evaluation value becomes dull and the resolution of the focusing distance is low. There are two points, that is, that a resolution equal to or higher than the drive unit of the focus lens cannot be obtained.

さらに、図6に示された光学系の基本的な物理法則を用いた方法では、顔の大きさを利用していることから、以下のような問題もある。すなわち、顔の大きさは、その人の人種、性別、年齢、体格などによってばらつきがあることと、顔検出に用いるテンプレートマッチングに能力の限界(実画像縮小率の分解能など)があることが挙げられる。   Furthermore, the method using the basic physical laws of the optical system shown in FIG. 6 has the following problems because it uses the size of the face. That is, the size of the face may vary depending on the race, gender, age, physique, etc. of the person, and there are limits on the ability of template matching used for face detection (resolution of the actual image reduction ratio, etc.). Can be mentioned.

上述した1つ目の問題に対しては、顔大きさの標準値Wrefに適切な誤差範囲を持たせるような多次元テーブルデータを持つことによって対処できる。この多次元データテーブルは、図8に示すように、人種差、性別差、年齢差、体格差ごとにそれぞれ独立の次元でデータをもったテーブルの集合である。   The first problem described above can be dealt with by having multi-dimensional table data that gives an appropriate error range to the standard value Wref of the face size. As shown in FIG. 8, this multidimensional data table is a set of tables having data in independent dimensions for each race difference, sex difference, age difference, and physique difference.

特徴判定部52において、顔のパーツ認識や個別認証の技術を用いることにより、人種判別、性別判別、年齢(年代でもよい)判別、体格判別も可能となり、それらの情報を組み合わせることで、誤差範囲を小さく見積もることができる。なお、人種、性別、年齢、および体格の全てを判別することは必須ではなく、これらのうちの1項目以上を判別できれば、誤差範囲を小さくすることができる。   In the feature determination unit 52, it is possible to perform race discrimination, gender discrimination, age (may be age) discrimination, and physique discrimination by using facial part recognition and individual authentication techniques. The range can be estimated small. Note that it is not essential to discriminate all of race, sex, age, and physique. If one or more of these items can be discriminated, the error range can be reduced.

図8の場合、人種別テーブルを用いて顔の大きさの標準値Wrefの誤差範囲(ばらつき)を求め、人種をパラメータとした性別テーブルで標準値Wrefの誤差範囲(ばらつき)を求め、人種と性別をパラメータとした年齢別テーブルで標準値Wrefの誤差範囲(ばらつき)を求め、さらに、人種と性別と年齢をパラメータとした体格別テーブルで標準値Wrefの誤差範囲(ばらつき)を求める。   In the case of FIG. 8, the error range (variation) of the standard value Wref of the face size is obtained using the person type table, and the error range (variation) of the standard value Wref is obtained using the gender table with the race as a parameter. The error range (variation) of the standard value Wref is obtained from the age-specific table with the species and gender as parameters, and the error range (variation) of the standard value Wref is obtained from the physique-specific table with the race, gender and age as the parameters. .

上述した2つ目の問題に対しては、顔検出の誤差率のテーブルを持つことによって対処できる。顔検出の誤差は、人種、性別、年齢、体格などの拘わりなく独立して発生し得る問題である。テンプレートの数を増加させること、および縮小画像とテンプレートとのマッチングを確認する位置の数を増すことにより、顔検出の精度の向上は期待できるものの、限界がある。特に、顔が暗い場合には誤差が大きくなり、また顔の傾きが大きくなると誤差が大きくなる。   The second problem described above can be dealt with by having a face detection error rate table. Face detection error is a problem that can occur independently regardless of race, gender, age, or physique. Although an increase in the number of templates and an increase in the number of positions for confirming the matching between the reduced image and the template can be expected to improve the accuracy of face detection, there is a limit. In particular, when the face is dark, the error increases, and when the face tilt increases, the error increases.

したがって、顔の検出誤差についても、そもそもの性能の限界、検出に不利となる明るさ、顔の傾きの3項目に対応する、顔検出の誤差率テーブルを用意しておく必要がある。また、検出された顔の大きさの誤差も考慮する必要がある。よって、この誤差率テーブルでは、顔の明るさ、顔の傾き、顔の大きさをパラメータとする。   Accordingly, it is necessary to prepare a face detection error rate table corresponding to the three items of the limit of performance, the brightness that is disadvantageous for detection, and the tilt of the face. In addition, it is necessary to consider an error in the size of the detected face. Therefore, in this error rate table, face brightness, face tilt, and face size are used as parameters.

上述した2つの問題に対するそれぞれの対処を統合すると、図9に示すような関係となる。   When the countermeasures for the two problems described above are integrated, the relationship shown in FIG. 9 is obtained.

まず、検出された顔の大きさWfに対して、その顔の明るさ、傾き、大きさをパラメータとして、誤差として小さく判定してしまう時の顔の大きさWsmallと、誤差として大きく判定してしまう時の顔の大きさWbigを求める。   First, with respect to the detected face size Wf, the brightness, inclination, and size of the face are used as parameters, and the face size Wsmall when it is determined to be small as an error is determined to be large as an error. Find the big face size Wbig.

次に、顔の大きさの標準値Wrefのばらつきを求める。ずれなしの顔大きさの標準値をWref_default、想定される大きい方向へのずれをΔWref_big、小さい方向へのずれをΔWref_smallとする。   Next, the variation of the standard value Wref of the face size is obtained. The standard value of the face size without deviation is Wref_default, the deviation in the assumed large direction is ΔWref_big, and the deviation in the small direction is ΔWref_small.

そして式(1)のWrefとWfに、
Wref=Wref_default+ΔWref_big
Wf=Wsmall
を代入し、顔までの距離の遠方向の誤差が最も広がっているときの値Dffを算出する。
And in Wref and Wf of equation (1),
Wref = Wref_default + ΔWref_big
Wf = Wsmall
Is substituted to calculate the value Dff when the far-direction error of the distance to the face is most widened.

また、
Wref=Wref_default−ΔWref_small
Wf=Wbig
を代入し、顔までの距離の至近方向の誤差が最も広がっているときの値Dfnを算出する。
Also,
Wref = Wref_default−ΔWref_small
Wf = Wbig
Is substituted to calculate a value Dfn when the error in the closest direction of the distance to the face is most widened.

なお、検出された顔までの距離Dfを算出する2種類の方法を組み合わせて使用してよい。すなわち、1種類目の方法のように、合焦評価値が最大になっているフォーカスレンズ位置Fから距離Dfを推定する場合、特に広角側では被写界深度が深いことと、フォーカスレンズの駆動単位に対する合焦距離の分解能が低いことの影響を受け、正確な距離を推定することは困難である。   Note that a combination of two methods for calculating the distance Df to the detected face may be used. That is, when the distance Df is estimated from the focus lens position F at which the focus evaluation value is maximum as in the first type of method, the depth of field is deep particularly on the wide angle side, and the focus lens is driven. It is difficult to estimate an accurate distance under the influence of the low resolution of the focusing distance for the unit.

そこで、例えば、広角側では2種類目の方法を適用し、望遠側では1種類目の方法を適用するようにしてもよい。このように、2種類の方法を組み合わせて使用することにより、顔までの距離Dfをより精度よく算出することができる。   Therefore, for example, the second type method may be applied on the wide angle side, and the first type method may be applied on the telephoto side. Thus, by using a combination of two types of methods, the distance Df to the face can be calculated more accurately.

次に、追従スピード決定部54による、AF動作の追従スピードを決定する追従スピード決定処理について説明する。   Next, a tracking speed determination process for determining the tracking speed of the AF operation by the tracking speed determination unit 54 will be described.

追従スピード決定処理では、図2を参照して概説したように、被写体が移動する最大スピードVf_maxを想定し、単位時間(例えば、1秒間)に移動した当該被写体までの距離を仮定し、仮定された当該被写体までの距離にそれぞれ対応するフォーカスレンズ位置を求め、これらの差に基づき、フォーカスレンズの遠(far)方向への最大駆動スピードVaf_max_farと、フォーカスレンズの至近(Near)方向への最大駆動スピードVaf_max_nearとを算出する。   In the tracking speed determination process, as outlined with reference to FIG. 2, the maximum speed Vf_max at which the subject moves is assumed, and the distance to the subject that has moved per unit time (for example, 1 second) is assumed. The focus lens position corresponding to the distance to the subject is obtained, and based on these differences, the maximum drive speed Vaf_max_far in the far direction of the focus lens and the maximum drive in the near direction of the focus lens The speed Vaf_max_near is calculated.

なお、被写体が移動する最大スピードVf_maxは、図10に示すように、被写体となる人に対して判定された人種、性別、年齢、および体格にそれぞれ対応して予め用意されているテーブルと、飛車値の動きが推定される撮影モード(スノーモード、スポーツレッスンモード、ポートレートなど)に対応して予め用意されているテーブルを参照して特徴判定部52により決定(推定)される。   Note that the maximum speed Vf_max at which the subject moves, as shown in FIG. 10, is a table prepared in advance corresponding to the race, sex, age, and physique determined for the subject person, It is determined (estimated) by the feature determination unit 52 with reference to a table prepared in advance corresponding to the shooting mode (snow mode, sports lesson mode, portrait, etc.) in which the movement of the flying value is estimated.

図2からも明らかであったように、撮像光学系の特性により、至近側の合焦距離の変化に対するフォーカスレンズの変化量は、遠側よりも大きいため、至近方向の制限スピードVaf_max_nearを、遠方向の制限スピードVaf_max_farより大きい値に設定する。   As apparent from FIG. 2, due to the characteristics of the imaging optical system, the amount of change of the focus lens with respect to the change of the focus distance on the near side is larger than that on the far side, so the limit speed Vaf_max_near in the near direction is Set to a value greater than the direction limit speed Vaf_max_far.

また、同様の理由より、顔までの距離の誤差を考慮する際、至近側に最もバラつきが多い状態に対応する合焦距離Dfnに基づいて、AFの追従スピードを計算するようにすれば、バラつきが発生し得る全ての範囲に対応することができる。   For the same reason, when considering the error of the distance to the face, if the AF tracking speed is calculated based on the in-focus distance Dfn corresponding to the state with the most variation on the closest side, the variation will occur. It is possible to deal with all the ranges where can occur.

次に、制御部23による、AF動作の追従スピードを制限する処理(追従スピード制限処理と称する)について、図11のフローチャートを参照して説明する。   Next, a process of limiting the tracking speed of the AF operation (referred to as a tracking speed limiting process) by the control unit 23 will be described with reference to the flowchart of FIG.

ステップS1において、フォーカス制御部56は、自己が保持する制限モードフラグに基づき、AF動作の追従スピードを制限するか否かを判定し、制限しないと判定した場合、処理をステップS2に進める。反対に、制限すると判定した場合、処理をステップS7に進める。   In step S1, the focus control unit 56 determines whether or not to limit the follow-up speed of the AF operation based on the limit mode flag held by itself, and if it determines not to limit, the process proceeds to step S2. On the other hand, if it is determined to be restricted, the process proceeds to step S7.

この判定では、制限モードフラグが有効である場合、AF動作の追従スピードを制限すると判定され、制限モードフラグが無効である場合には、AF動作の追従スピードを制限しないと判定される。いまの場合、初期状態であるので、制限モードフラグは無効とされている。したがって、AF動作の追従スピードを制限しないと判定されて、処理はステップS2に進められる。   In this determination, when the restriction mode flag is valid, it is determined that the tracking speed of the AF operation is limited. When the restriction mode flag is invalid, it is determined that the tracking speed of the AF operation is not limited. In this case, since it is an initial state, the restriction mode flag is invalid. Therefore, it is determined not to limit the tracking speed of the AF operation, and the process proceeds to step S2.

ステップS2において、フォーカス制御部56は、撮像された画像から顔検出部51によって顔が検出されたか否かを判定する。顔が検出されたと判定された場合、処理はステップS3に進められる。ステップS3において、フォーカス制御部56は、検出された顔を追従対象(の被写体)に決定する。なお、複数の顔が検出された場合には、1つの顔を選択して追従対象に決定する。   In step S <b> 2, the focus control unit 56 determines whether or not a face is detected by the face detection unit 51 from the captured image. If it is determined that a face has been detected, the process proceeds to step S3. In step S3, the focus control unit 56 determines the detected face as a tracking target (subject). When a plurality of faces are detected, one face is selected and determined as a tracking target.

ステップS4において、合焦判定部55は、追従対象(検出された顔)に合焦しているか否かを判定して、判定結果をフォーカス制御部56に通知する。ここで、合焦していると判定された場合、処理はステップS5に進められる。ステップS5において、フォーカス制御部56は、保持する制限モードフラグを無効から有効に変更する。この後、処理はステップS11に進められて、追従スピードの上限(至近側と遠側の最大スピード)が決定される。   In step S4, the focus determination unit 55 determines whether or not the tracking target (detected face) is focused, and notifies the focus control unit 56 of the determination result. If it is determined that the subject is in focus, the process proceeds to step S5. In step S5, the focus control unit 56 changes the restriction mode flag held from invalid to valid. Thereafter, the process proceeds to step S11, and the upper limit of the following speed (maximum speed on the near side and the far side) is determined.

ステップS11の処理の詳細について、図12のフローチャートを参照して説明する。   Details of the process of step S11 will be described with reference to the flowchart of FIG.

ステップS31において、距離算出部53は、追従対象までの距離Dfを得る(算出または測定する)。ステップS32において、特徴判定部52は、追従対象(となった顔の人物)に対する最大移動スピードを被写体が移動する最大スピードVf_maxを想定する。ステップS33において、追従スピード決定部54は、追従対象までの距離Dfと最大スピードVf_maxに基づき、フォーカスレンズの遠(far)方向への最大駆動スピードVaf_max_farと、フォーカスレンズの至近(Near)方向への最大駆動スピードVaf_max_nearを算出する。   In step S31, the distance calculation unit 53 obtains (calculates or measures) a distance Df to the tracking target. In step S <b> 32, the feature determination unit 52 assumes a maximum speed Vf_max at which the subject moves with respect to the maximum movement speed with respect to the tracking target (the person with the face that became the face). In step S33, the tracking speed determination unit 54 determines the maximum driving speed Vaf_max_far in the far direction of the focus lens and the near direction of the focus lens based on the distance Df to the tracking target and the maximum speed Vf_max. The maximum drive speed Vaf_max_near is calculated.

この後、処理は図11のステップS12に進められてAF処理が行われる。そして、処理はステップS1に戻される。   Thereafter, the process proceeds to step S12 in FIG. 11 to perform the AF process. Then, the process returns to step S1.

なお、ステップS4において、追従対象に合焦していないと判定された場合、処理はステップS6に進められる。ステップS6において、フォーカス制御部56は、AF追従スピードを制限せず、最も速いスピードに設定する。この後、処理はステップS12に進められて、AF動作が行われる。   If it is determined in step S4 that the subject to be tracked is not in focus, the process proceeds to step S6. In step S6, the focus control unit 56 sets the fastest speed without limiting the AF tracking speed. Thereafter, the process proceeds to step S12, and an AF operation is performed.

再びステップS1において、AF動作の追従スピードを制限するか否かが判定される。ここで、制限モードフラグが有効である場合、AF動作の追従スピードを制限すると判定されて処理はステップS7に進められる。   In step S1 again, it is determined whether to limit the tracking speed of the AF operation. If the restriction mode flag is valid, it is determined that the follow-up speed of the AF operation is restricted, and the process proceeds to step S7.

ステップS7において、顔検出部51は、追従対象の認識(検出)できているか否かを判定し、判定結果をフォーカス制御部56に通知する。追従対象の認識(検出)できていると判定された場合、処理はステップS8に進められる。   In step S <b> 7, the face detection unit 51 determines whether or not the tracking target is recognized (detected), and notifies the focus control unit 56 of the determination result. If it is determined that the tracking target is recognized (detected), the process proceeds to step S8.

ステップS8において、フォーカス制御部56は、現在の追従対象に対する認識カウント値を所定の最大値にリセットする。ここで、認識カウント値とは、追従対象が一時的に認識できなくなった場合においても、追従スピートの制限を直ちにやめることなく、最速に戻すまでの時間的余裕を持つために設けられた値である。   In step S8, the focus control unit 56 resets the recognition count value for the current tracking target to a predetermined maximum value. Here, the recognition count value is a value provided in order to allow time to return to the fastest speed without immediately stopping the tracking speed limit even when the tracking target cannot be recognized temporarily. is there.

ステップS9において、合焦判定部55は、追従対象に合焦しているか否かを判定し、判定結果をフォーカス制御部56に通知する。追従対象に合焦していると判定された場合、処理はステップS10に進められる。   In step S <b> 9, the focus determination unit 55 determines whether or not the tracking target is focused, and notifies the focus control unit 56 of the determination result. If it is determined that the subject to be tracked is in focus, the process proceeds to step S10.

ステップS10において、フォーカス制御部56は、現在の追従対象に対する合焦カウント値を所定の最大値にリセットする。ここで、合焦カウント値とは、追従対象に一時的に合焦できなくなった場合においても、直ちに追従スピートの制限をやめることなく、最速に戻すまでの時間的余裕を持つために設けられた値である。   In step S10, the focus control unit 56 resets the focus count value for the current tracking target to a predetermined maximum value. Here, the in-focus count value is provided in order to allow time to return to the fastest speed without immediately stopping the limit of the follow-up speed even when the object to be followed cannot be focused temporarily. Value.

この後、処理はステップS11に進められ、追従対象までの最新の距離Dfと、最大スピードVf_maxに基づき、フォーカスレンズの遠(far)方向への最大駆動スピードVaf_max_farと、フォーカスレンズの至近(Near)方向への最大駆動スピードVaf_max_nearが更新される。   Thereafter, the process proceeds to step S11, and based on the latest distance Df to the tracking target and the maximum speed Vf_max, the maximum driving speed Vaf_max_far in the far direction of the focus lens and the focus lens near (Near) The maximum driving speed Vaf_max_near in the direction is updated.

なお、ステップS7において、追従対象の認識(検出)できていないと判定された場合、処理はステップS13に進められる。ステップS13において、フォーカス制御部56は、現在の追従対象に対する認識カウント値を1だけデクリメントする。そして、ステップS14において、フォーカス制御部56は、現在の追従対象に対する認識カウント値が0になったか否かを判定し、認識カウント値が0になっていない場合には処理をステップS11に進める。   If it is determined in step S7 that the tracking target cannot be recognized (detected), the process proceeds to step S13. In step S13, the focus control unit 56 decrements the recognition count value for the current tracking target by one. In step S14, the focus control unit 56 determines whether or not the recognition count value for the current tracking target has become 0. If the recognition count value has not become 0, the process proceeds to step S11.

反対に、認識カウント値が0になった場合には、処理をステップS15に進め、保持する制限モードフラグを有効から無効に変更する。この後、処理はステップS6に進められる。   On the other hand, when the recognition count value becomes 0, the process proceeds to step S15, and the retained restriction mode flag is changed from valid to invalid. Thereafter, the process proceeds to step S6.

また、ステップS9において、追従対象に合焦していないと判定された場合にも、処理はステップS13に進められる。ステップS13において、フォーカス制御部56は、現在の追従対象に対する合焦カウント値を1だけデクリメントする。そして、ステップS14において、フォーカス制御部56は、現在の追従対象に対する合焦カウント値が0になったか否かを判定し、合焦カウント値が0になっていない場合には処理をステップS11に進める。   Also, if it is determined in step S9 that the subject to be tracked is not in focus, the process proceeds to step S13. In step S13, the focus control unit 56 decrements the in-focus count value for the current tracking target by 1. In step S14, the focus control unit 56 determines whether or not the focus count value for the current tracking target has become 0. If the focus count value is not 0, the process proceeds to step S11. Proceed.

反対に、合焦カウント値が0になった場合には、処理をステップS15に進め、保持する制限モードフラグを有効から無効に変更する。この後、処理はステップS6に進められる。   On the other hand, when the focus count value becomes 0, the process proceeds to step S15, and the retained restriction mode flag is changed from valid to invalid. Thereafter, the process proceeds to step S6.

そして、この追従スピード制限処理は、撮影が行われている間、繰り返し実行される。以上で、追従スピード制限処理の説明を終了する。   This follow-up speed limiting process is repeatedly executed while shooting is being performed. This is the end of the description of the follow-up speed limiting process.

以上、説明したように、本発明を適用したデジタルビデオカメラ10によれば、人の顔に追従するオートフォーカス動作を安定、かつ、正確に行うことができる。   As described above, according to the digital video camera 10 to which the present invention is applied, an autofocus operation that follows the face of a person can be performed stably and accurately.

なお、本実施の形態においては、人の顔を検出して合焦し追従するようにしたが、顔以外の部位を検出して合焦し追従するようにしてもよい。   In this embodiment, a human face is detected and focused and followed. However, a part other than the face may be detected and focused and followed.

また、本発明は、動画像の撮像に限らず、静止画像の撮像する場合にも適用することができる。   Further, the present invention is not limited to capturing moving images, but can be applied to capturing still images.

なお、本発明を適用したデジタルビデオカメラ10によれば、画像内に複数の人が存在するような場合においても、意図する人に対して安定して合焦させることができる。   According to the digital video camera 10 to which the present invention is applied, even when there are a plurality of people in the image, it is possible to stably focus on the intended person.

なお、本実施の形態においては、人の顔を検出して追従させるようにしたが、顔以外の部位を検出して追従させるようにしてもよい。   In this embodiment, a human face is detected and followed, but a part other than the face may be detected and followed.

本発明は、デジタルビデオカメラの他、AF機能を有するデジタルスチルカメラなどの撮像装置にも適用することができる。   The present invention can be applied to an imaging apparatus such as a digital still camera having an AF function in addition to a digital video camera.

本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。   The embodiments of the present invention are not limited to the above-described embodiments, and various modifications can be made without departing from the scope of the present invention.

従来の問題点を説明するための図である。It is a figure for demonstrating the conventional problem. 光学系特性曲線を示す図である。It is a figure which shows an optical system characteristic curve. 本発明を適用したデジタルビデオカメラの構成例を示すブロック図である。It is a block diagram which shows the structural example of the digital video camera to which this invention is applied. 図3の制御部によって実現される機能ブロックの構成例を示す図である。It is a figure which shows the structural example of the functional block implement | achieved by the control part of FIG. 撮像レンズの特性曲線を示す図である。It is a figure which shows the characteristic curve of an imaging lens. 顔の大きさ、および焦点距離に基づいて、顔までの距離を求める方法を説明するための図である。It is a figure for demonstrating the method of calculating | requiring the distance to a face based on the magnitude | size of a face, and a focal distance. 図6における顔までの距離の誤差を説明するための図である。It is a figure for demonstrating the error of the distance to the face in FIG. 検出された顔の特徴に応じたばらつきテーブルの例を示す図である。It is a figure which shows the example of the dispersion | variation table according to the feature of the detected face. 遠側と至近側の顔までの距離の誤差を示す図である。It is a figure which shows the difference | error of the distance to the face of a far side and a near side. 被写体の最大スピードを推定する処理を説明するための図である。It is a figure for demonstrating the process which estimates the maximum speed of a to-be-photographed object. 追従スピード制限処理を説明するフローチャートである。It is a flowchart explaining a follow-up speed restriction process. 追従スピード上限決定処理を説明するフローチャートである。It is a flowchart explaining follow-up speed upper limit determination processing.

符号の説明Explanation of symbols

10 デジタルビデオカメラ, 11 撮像レンズ, 12 撮像素子, 13 アナログ信号処理部, 14 A/D変換部, 15 デジタル信号処理部, 20 モータドライブ, 23 制御部, 24 操作部, 28 測距センサ, 51 顔検出部, 52 特徴判定部, 53 距離算出部, 54 追従スピード決定部, 55 合焦判定部, 56 フォーカス制御部   DESCRIPTION OF SYMBOLS 10 Digital video camera, 11 Imaging lens, 12 Image sensor, 13 Analog signal processing part, 14 A / D conversion part, 15 Digital signal processing part, 20 Motor drive, 23 Control part, 24 Operation part, 28 Distance sensor, 51 Face detection unit, 52 feature determination unit, 53 distance calculation unit, 54 tracking speed determination unit, 55 focus determination unit, 56 focus control unit

Claims (7)

オートフォーカス機能を有する撮像装置において、
撮像された画像上から被写体を検出する検出手段と、
検出された前記被写体に合焦させるためにフォーカスレンズを駆動させるフォーカス制御手段と、
検出された前記被写体の移動スピードを推定する推定手段と、
検出された前記被写体までの距離を取得する取得手段と、
推定された前記被写体の移動スピード、および取得された前記被写体までの距離に基づき、前記フォーカスレンズの駆動スピードの上限値を決定する決定手段と
を含む撮像装置。
In an imaging device having an autofocus function,
Detection means for detecting a subject from the captured image;
Focus control means for driving a focus lens to focus on the detected subject;
Estimating means for estimating the moving speed of the detected subject;
Obtaining means for obtaining a distance to the detected subject;
An imaging apparatus comprising: a determining unit that determines an upper limit value of the driving speed of the focus lens based on the estimated moving speed of the subject and the acquired distance to the subject.
前記検出手段は、撮像された画像上から前記被写体の顔を検出する
請求項1に記載の撮像装置。
The imaging apparatus according to claim 1, wherein the detection unit detects a face of the subject from a captured image.
前記取得手段は、検出された前記被写体までの距離を、撮像された画像上から検出された前記被写体の顔の大きさに基づいて取得する
請求項2に記載の撮像装置。
The imaging apparatus according to claim 2, wherein the acquisition unit acquires the detected distance to the subject based on the size of the face of the subject detected from the captured image.
前記取得手段は、検出された前記被写体までの距離を、前記フォーカスレンズの調整位置に基づいて取得する
請求項1に記載の撮像装置。
The imaging apparatus according to claim 1, wherein the acquisition unit acquires the detected distance to the subject based on an adjustment position of the focus lens.
前記決定手段は、前記フォーカスレンズの駆動スピードの至近方向の上限値を、遠方向の上限値よりも大きい値に決定する
請求項1に記載の撮像装置。
The imaging apparatus according to claim 1, wherein the determining unit determines an upper limit value in a close direction of a driving speed of the focus lens to a value larger than an upper limit value in a far direction.
前記推定手段は、検出された前記被写体の特徴を判定し、判定した前記被写体の前記特徴を、予め用意されたテーブルと参照することにより、前記被写体の移動スピードを推定する
請求項1に記載の撮像装置。
The said estimation means determines the feature of the detected said subject, and estimates the moving speed of the said subject by referring the determined said feature of the said subject with the table prepared previously. Imaging device.
撮像された画像上から被写体を検出する検出手段と、
検出された前記被写体に合焦させるためにフォーカスレンズを駆動させるフォーカス制御手段とを備え、
オートフォーカス機能を有する撮像装置の撮像方法において、
検出された前記被写体の移動スピードを推定し、
検出された前記被写体までの距離を取得し、
推定された前記被写体の移動スピード、および取得された前記被写体までの距離に基づき、前記フォーカスレンズの駆動スピードの上限値を決定する
ステップを含む撮像方法。
Detection means for detecting a subject from the captured image;
Focus control means for driving a focus lens to focus on the detected subject,
In an imaging method of an imaging apparatus having an autofocus function,
Estimating the moving speed of the detected subject,
Get the distance to the detected subject,
An imaging method including a step of determining an upper limit value of the driving speed of the focus lens based on the estimated moving speed of the subject and the acquired distance to the subject.
JP2007260865A 2007-10-04 2007-10-04 Imaging apparatus and imaging method Withdrawn JP2009092747A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007260865A JP2009092747A (en) 2007-10-04 2007-10-04 Imaging apparatus and imaging method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007260865A JP2009092747A (en) 2007-10-04 2007-10-04 Imaging apparatus and imaging method

Publications (1)

Publication Number Publication Date
JP2009092747A true JP2009092747A (en) 2009-04-30

Family

ID=40664834

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007260865A Withdrawn JP2009092747A (en) 2007-10-04 2007-10-04 Imaging apparatus and imaging method

Country Status (1)

Country Link
JP (1) JP2009092747A (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014138290A (en) * 2013-01-17 2014-07-28 Sharp Corp Imaging device and imaging method
WO2015045683A1 (en) * 2013-09-27 2015-04-02 富士フイルム株式会社 Imaging device and focusing control method
JP6407372B1 (en) * 2017-08-14 2018-10-17 りんかい日産建設株式会社 Underwater ranging device and its ranging method
JP2019082552A (en) * 2017-10-30 2019-05-30 キヤノン株式会社 Imaging apparatus and dimming control method thereof, as well as program

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014138290A (en) * 2013-01-17 2014-07-28 Sharp Corp Imaging device and imaging method
WO2015045683A1 (en) * 2013-09-27 2015-04-02 富士フイルム株式会社 Imaging device and focusing control method
JP5942043B2 (en) * 2013-09-27 2016-06-29 富士フイルム株式会社 Imaging apparatus and focus control method
JP6407372B1 (en) * 2017-08-14 2018-10-17 りんかい日産建設株式会社 Underwater ranging device and its ranging method
JP2019082552A (en) * 2017-10-30 2019-05-30 キヤノン株式会社 Imaging apparatus and dimming control method thereof, as well as program

Similar Documents

Publication Publication Date Title
US8649574B2 (en) Imaging apparatus, control method of imaging apparatus, and computer program
US7860386B2 (en) Imaging apparatus, control method of imaging apparatus, and computer program
US7929042B2 (en) Imaging apparatus, control method of imaging apparatus, and computer program
US10827127B2 (en) Zoom control device, imaging apparatus, control method of zoom control device, and recording medium
JP5048468B2 (en) Imaging apparatus and imaging method thereof
US9781351B2 (en) Zooming control device and method for controlling zooming control device
US10270978B2 (en) Zoom control device with scene composition selection, and imaging apparatus, control method of zoom control device, and recording medium therewith
JP5789091B2 (en) IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
US8300137B2 (en) Image sensing apparatus providing driving direction of focus lens for attaining in-focus state and control method therefor
JP5380784B2 (en) Autofocus device, imaging device, and autofocus method
JP7036176B2 (en) Display control device, display control method and display control program
JP2008262001A (en) Imaging apparatus, main subject detection method thereof, and focus control method
JP2008009341A (en) Autofocus device, imaging device, and autofocus method
KR20130112036A (en) Continuous autofocus based on face detection and tracking
JP6577852B2 (en) Motion vector detection device and control method thereof
JP2008009340A (en) Autofocus device, imaging device, and autofocus method
JP2010091669A (en) Imaging device
JP2008052123A (en) Imaging apparatus
JP2008282031A (en) IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND COMPUTER PROGRAM
JP2009092747A (en) Imaging apparatus and imaging method
JP2007328360A (en) Autofocus camera and photographing method
JP2010109923A (en) Imaging apparatus
JP2007133301A (en) Auto focus camera
US20250024145A1 (en) Information processing device, information processing method, and program
JP2005338514A (en) Lens control device and imaging device

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20101207