[go: up one dir, main page]

JP2012244245A - Imaging apparatus, control method of imaging apparatus, image display apparatus, image display method, and program - Google Patents

Imaging apparatus, control method of imaging apparatus, image display apparatus, image display method, and program Download PDF

Info

Publication number
JP2012244245A
JP2012244245A JP2011109729A JP2011109729A JP2012244245A JP 2012244245 A JP2012244245 A JP 2012244245A JP 2011109729 A JP2011109729 A JP 2011109729A JP 2011109729 A JP2011109729 A JP 2011109729A JP 2012244245 A JP2012244245 A JP 2012244245A
Authority
JP
Japan
Prior art keywords
image
imaging
unit
shooting
captured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2011109729A
Other languages
Japanese (ja)
Inventor
Osamu Nonaka
修 野中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Imaging Corp
Original Assignee
Olympus Imaging Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Imaging Corp filed Critical Olympus Imaging Corp
Priority to JP2011109729A priority Critical patent/JP2012244245A/en
Priority to CN201510278287.9A priority patent/CN104869294B/en
Priority to CN201210152747.XA priority patent/CN102790852B/en
Publication of JP2012244245A publication Critical patent/JP2012244245A/en
Withdrawn legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Studio Circuits (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an imaging apparatus, a control method of the imaging apparatus, an image display apparatus, an image display method, and a program, which make it easier to express a situation where a photographer keeps moving, and a situation where the photographer performs imaging from a remote position, instead of only recording states of the photographer, in a scene in which the photographer carrying imaging equipment performs imaging while moving.SOLUTION: Imaging equipment 10 performs imaging a plurality of times in an opposite direction to a direction of movement. The imaging equipment 10 includes: an imaging section 5 to perform in order the plurality of imaging; and a combinability determination section 1f to determine whether or not a previously taken image among the plurality of imaging results can be combined with a later taken image by reducing the previously taken image by a reduction section 1c.

Description

本発明は、撮影装置、撮影装置の制御方法、およびプログラムに関し、詳しくは、デジタルカメラやビデオカメラ等の撮影装置で撮影した動画または連写のデジタル画像を、スライドショーや動画で再生表示する撮影装置、撮影装置の制御方法、画像表示装置、画像表示方法、およびプログラムに関する。   The present invention relates to a photographing device, a photographing device control method, and a program, and more particularly, a photographing device that reproduces and displays a moving image or a continuous-shot digital image photographed by a photographing device such as a digital camera or a video camera as a slide show or a moving image. The present invention relates to an imaging device control method, an image display device, an image display method, and a program.

近年、デジタル画像の撮影や画像処理の技術が向上し、デジタルカメラやビデオカメラの境界がなくなり、大量の画像を扱うことが容易になってきている。また、従来、単に撮影する道具であったカメラ等の撮影装置は、画像信号がデジタル化され、パーソナルコンピュータ、テレビを初め、多くの機器と間でデータの受け渡しが、簡単になってきている。   In recent years, techniques for taking digital images and image processing have been improved, the boundaries between digital cameras and video cameras have been eliminated, and it has become easier to handle a large number of images. Conventionally, a photographing apparatus such as a camera, which has been a simple photographing tool, has digitized image signals, and it has become easy to exchange data with many devices such as personal computers and televisions.

このような様々な再生機器で再生される状態を想定すると、それぞれの再生機器に適した効果的再生が求められるが、従来の機器は撮影したものをそのまま再生するのが普通であった。このため、単調な画像になりがちで、多くの鑑賞者の前でテレビ等の再生装置によって再生するのが相応しいとは限らなかった。結果的には、撮影装置内に画像が入ったままで、撮影画像が鑑賞されないといった状況もあった。   Assuming such a state of being played back by various playback devices, effective playback suitable for each playback device is required, but conventional devices usually play back the captured images as they are. For this reason, it tends to be a monotonous image, and it has not always been suitable for reproduction by a reproduction device such as a television in front of many viewers. As a result, there was a situation in which the photographed image was not viewed while the image remained in the photographing apparatus.

特開2004−147046JP 2004-147046 A

そこで、鑑賞時に様々な補助情報を利用して、画像表現を豊かにしようとする提案がある。特開2004−147046では、第一のカメラで自分の顔を撮影したり、第二のカメラで自分が見ている風景を撮影したり、両者を同時に撮影することができる。また、第一のカメラと第二のカメラで撮影したそれぞれの画像を合成するような提案もある。   Therefore, there is a proposal to enrich the image expression by using various auxiliary information during viewing. In Japanese Patent Application Laid-Open No. 2004-147046, it is possible to take a picture of one's face with a first camera, to take a picture of a landscape that he is looking at with a second camera, and to take both pictures simultaneously. There is also a proposal for combining the images taken by the first camera and the second camera.

しかし、上述の特許文献によれば、第一のカメラで撮影された撮影者自身の画像は、カメラを持つ自分が単に写っているだけであり、変化や臨場感に乏しかった。   However, according to the above-mentioned patent document, the photographer's own image photographed by the first camera is merely a photograph of himself / herself with the camera, and has little change and realism.

本発明は、このような事情を鑑みてなされたものであり、撮影機器を持って、移動しながら撮影しているシーンで、単に撮影者の様子が記録されるのではなく、撮影者が移動していく様子や離れた位置から撮影した様子を容易に表現することのできる撮影装置、撮影装置の制御方法、画像表示装置、画像表示方法、およびプログラムを提供することを目的とする。   The present invention has been made in view of such circumstances, and in a scene where a photographer is holding and photographing while moving, the state of the photographer is not simply recorded, but the photographer moves. It is an object of the present invention to provide a photographing apparatus, a photographing apparatus control method, an image display apparatus, an image display method, and a program capable of easily expressing a state of shooting and a state of photographing from a distant position.

上記目的を達成するため第1の発明に係わる撮影装置は、移動方向と反対方向の撮影を複数回行い、上記複数回の撮影を順次行う撮像部と、上記複数回の撮影結果のうち、前に撮影された画像を縮小して、後に撮影された画像に合成可能かどうかを判定する合成可否判定部と、を具備することを特徴とする。   In order to achieve the above object, an imaging apparatus according to a first invention includes: an imaging unit that performs imaging in a direction opposite to a moving direction a plurality of times, and sequentially performs the plurality of imaging operations; And a compositability determination unit that determines whether or not the image captured can be combined with an image captured later.

上記目的を達成するため第2の発明に係わる撮影装置は、上記撮像部が取得した撮影画面内の顔位置を検出する顔検出部と、上記顔検出部の検出結果に従って、上記撮影機器が適正な位置に構えられるように警告を行う警告部を具備することを特徴とする。   In order to achieve the above object, a photographing apparatus according to a second aspect of the present invention provides a face detection unit that detects a face position in a photographing screen acquired by the imaging unit, and the photographing device is appropriate according to the detection result of the face detection unit. It is characterized by having a warning section that gives a warning so that it can be held at a proper position.

上記目的を達成するため第3の発明に係わる撮影装置は、上記警告部は、上記移動時に行われる撮影の間隔に従って、上記撮影機器の適正な位置を決定する。   In order to achieve the above object, in the photographing apparatus according to the third aspect of the present invention, the warning unit determines an appropriate position of the photographing apparatus according to a photographing interval performed during the movement.

上記目的を達成するため第4の発明に係わる撮影装置は、上記警告部は、上記縮小画像に従って、上記撮影機器の適正な位置を決定することを特徴とする。   In order to achieve the above object, the photographing apparatus according to the fourth invention is characterized in that the warning unit determines an appropriate position of the photographing apparatus according to the reduced image.

上記目的を達成するため第5の発明に係わる撮影方法は、複数回の撮影を順次行い、上記複数回の撮影結果のうち、前に撮影された画像を縮小して、後に撮影された画像に合成可能かどうかを判定し、移動方向と反対方向の撮影を複数回行うことを特徴とする。   In order to achieve the above object, a photographing method according to a fifth aspect of the present invention sequentially performs a plurality of times of photographing, reduces a previously photographed image among the plurality of times of photographing results, and converts it into an image photographed later. It is characterized in that it is determined whether or not composition is possible, and photographing in the direction opposite to the moving direction is performed a plurality of times.

上記目的を達成するため第6の発明に係わるプログラムは、複数回の撮影を順次行う撮影ステップと、上記複数回の撮影結果のうち、前に撮影された画像を縮小して、後に撮影された画像に合成可能かどうかを判定する合成可否判定ステップと、をコンピュータに実行させることを特徴とする。   In order to achieve the above object, a program according to a sixth aspect of the present invention includes a shooting step for sequentially performing a plurality of shootings, and reducing a previously shot image out of the plurality of shooting results, and then shooting after that. And a composition feasibility judgment step for judging whether or not the image can be synthesized.

上記目的を達成するため第7の発明に係わる表示装置は、移動方向と反対方向の複数回のタイミングで撮影された撮影画像のうち、前に撮影された画像を縮小して、後に撮影された画像に合成可能かどうかを判定する合成可否判定部と、を具備することを特徴とする。   In order to achieve the above object, a display device according to a seventh aspect of the present invention reduces the previously captured image out of the captured images captured at a plurality of times in the direction opposite to the moving direction, and captures it later. A compositability determination unit that determines whether the image can be combined.

上記目的を達成するため第8の発明に係わる画像合成表示方法は、移動方向と反対方向の複数回のタイミングで撮影された撮影画像のうち、前に撮影された画像を縮小して、後に撮影された画像に合成可能かどうかを判定することを特徴とする。   In order to achieve the above object, an image composition display method according to an eighth aspect of the present invention is to reduce a previously captured image out of a plurality of captured images captured at a timing opposite to the moving direction, and to capture a subsequent image. It is characterized in that it is determined whether or not it is possible to synthesize the image.

本発明によれば、移動していく様子など、背面撮影に容易に変化をつけて表現することのできる撮影装置、撮影装置の制御方法、画像表示装置、画像表示方法、およびプログラムを提供することができる。   According to the present invention, it is possible to provide a photographing apparatus, a photographing apparatus control method, an image display apparatus, an image display method, and a program capable of easily expressing changes in rear photographing such as a moving state. Can do.

以下、図面に従って本発明を適用したカメラを用いて好ましい実施形態について説明する。本発明のカメラは、撮影者の画像取得のために、カメラ後方を撮像可能な撮像部を有し、レリーズ釦等の操作に応じて上記撮影の画像データ取得を開始し、これを記録媒体に仮記録する。この仮記録された撮影画像の中央部に撮影者の顔があり、前後の画像の背景部と合成可能かどうかを判定できるようになっている。この背景部の合成によって、上記撮影者が、あたかも背景画像の中で撮影者が移動しているような画像を得ることが出来る。   Hereinafter, a preferred embodiment will be described using a camera to which the present invention is applied according to the drawings. The camera of the present invention has an imaging unit capable of imaging the rear of the camera for acquiring a photographer's image, and starts acquiring the image data of the shooting in response to an operation of a release button or the like. Provisionally record. There is a photographer's face at the center of the temporarily recorded photographed image, and it can be determined whether it can be combined with the background part of the preceding and following images. By synthesizing the background portion, the photographer can obtain an image as if the photographer is moving in the background image.

図1は本発明の第1実施形態に係わるカメラの構成を示すブロック図であり、カメラ10は被写体を撮影し、画像を取得するデジタルカメラである。カメラ10は、正面撮像部2の他に、背面撮影を行う背面撮像部5、撮影画像の記録部4、撮影画像などを表示する表示部8を有する。また、撮影された画像データを分類したり、撮影時の条件を決定したりするために、カメラに加わる加速度を検出する加速度センサ、日時、時刻の情報取得用に時計7が具備されている。また、撮像部2、5から得られた画像信号は、処理シーケンスを実行する制御部1内の信号処理部で画像処理されて、表示、記録が可能となる。この信号処理として、顔検出部1a、縮小部1c、仮記録部1d、合成部1e、合成可否判定部(合成判定部)1fなどがある。また、警告部1bが制御部内に構成されていて、必要に応じて表示部8などに警告表示を行うなど、撮影者に対して警告を行う。   FIG. 1 is a block diagram showing the configuration of a camera according to the first embodiment of the present invention. A camera 10 is a digital camera that captures an image of a subject. In addition to the front imaging unit 2, the camera 10 includes a rear imaging unit 5 that performs rear imaging, a captured image recording unit 4, and a display unit 8 that displays captured images. In addition, an acceleration sensor for detecting acceleration applied to the camera and a timepiece 7 for acquiring date / time information are provided to classify captured image data and determine conditions at the time of shooting. The image signals obtained from the imaging units 2 and 5 are subjected to image processing by a signal processing unit in the control unit 1 that executes the processing sequence, and can be displayed and recorded. As this signal processing, there are a face detection unit 1a, a reduction unit 1c, a temporary recording unit 1d, a combining unit 1e, a combining possibility determining unit (combining determining unit) 1f, and the like. In addition, the warning unit 1b is configured in the control unit, and warns the photographer such as displaying a warning on the display unit 8 as necessary.

撮像部2や背面撮像部5は、撮影レンズと撮像素子からなるものを想定しており、被写体像を電気信号に変換するもので、信号処理部で処理され画像データとなる。撮像部2はカメラ10の本体の前面に、背面撮像部5はその反対の背面に配置されていることを想定している。もちろん、これは回動するなど、配置位置を限定するものではない。二つの撮像部を用意するのではなく、一つの撮像部をカメラ10の本体の前方と後方に回転可能としてもよい。この場合、撮像部が前方に向けられた際には主として被写体を、後方に向けられた際には主として撮影者の顔を撮影可能である。なお、背面の撮像部5の撮影レンズは、画角が狭いと撮影中の人物の一部しか撮影できないので、なるべく広い画角であることが好ましい。   The image capturing unit 2 and the rear image capturing unit 5 are assumed to be composed of a photographing lens and an image sensor, and convert a subject image into an electrical signal, which is processed by a signal processing unit to become image data. It is assumed that the imaging unit 2 is disposed on the front surface of the main body of the camera 10 and the rear imaging unit 5 is disposed on the opposite back surface. Of course, this does not limit the arrangement position, such as rotating. Instead of preparing two imaging units, one imaging unit may be rotatable forward and backward of the main body of the camera 10. In this case, it is possible to photograph mainly a subject when the imaging unit is directed forward and mainly a photographer's face when the imaging unit is directed backward. Note that the photographing lens of the imaging unit 5 on the back surface can capture only a part of the person being photographed when the angle of view is narrow.

信号処理部を有する制御部1は、記憶されているプログラムに従ってカメラ10の全体制御を行うと共に、撮像部2、5から出力される画像信号を処理して得られた画像データをメモリーカードなどの記録部4に記録する。顔検出部1aは、撮像部2、5からの撮影画像を入力し、この撮影画像の中に人物の顔が存在するか否かを判定し、人物の顔が存在した場合には、その位置や顔の大きさを検出する。   A control unit 1 having a signal processing unit performs overall control of the camera 10 in accordance with a stored program, and processes image data obtained by processing image signals output from the imaging units 2 and 5 into a memory card or the like. Record in the recording unit 4. The face detection unit 1a inputs captured images from the imaging units 2 and 5, determines whether or not a person's face exists in the captured images, and if a person's face exists, And detect face size.

操作部6は、カメラ10に設けられたレリーズ釦6a、ズーム釦等の操作部材である。十字キーやタッチパネルなどで、ユーザーは様々なモード設定が可能である。   The operation unit 6 is an operation member such as a release button 6a or a zoom button provided in the camera 10. The user can set various modes using the cross key or touch panel.

レリーズ釦6aは、図2(A)に示すように、カメラ10の本体上面に配置されており、レリーズ釦6aが操作されると、カメラ10は撮影を開始し、動画や連写モードの場合は、再度レリーズ釦が操作されると、撮影を停止する。   As shown in FIG. 2A, the release button 6a is arranged on the upper surface of the main body of the camera 10, and when the release button 6a is operated, the camera 10 starts shooting and is in a moving image or continuous shooting mode. When the release button is operated again, shooting is stopped.

表示部8は、図2(b)に示すように、カメラ10の背面等に配置された液晶モニタ、有機EL等の表示装置を含み、撮像部からの画像や記録部4に記録された画像の再生表示、または警告のメッセージ表示等を行う。   As shown in FIG. 2B, the display unit 8 includes a liquid crystal monitor and a display device such as an organic EL arranged on the back surface of the camera 10, and an image from the imaging unit or an image recorded in the recording unit 4. Playback display or warning message display.

画像処理部7は、撮像部2、5によって取得された画像信号の明るさや階調や色などを調整し、記録しやすいように圧縮し、所定のフォーマットにして、記録部4に記録する。このような画像処理には、画像のサイズを変更(リサイズ)するような処理も含まれ、縮小処理がこの発明では重要なので、ここでは縮小部1cを特に図中に記載している。   The image processing unit 7 adjusts the brightness, gradation, color, and the like of the image signals acquired by the imaging units 2 and 5, compresses them for easy recording, records them in a predetermined format, and records them in the recording unit 4. Such image processing includes processing for changing (resizing) the size of the image. Since reduction processing is important in the present invention, the reduction unit 1c is particularly illustrated in the drawing.

また、画像信号は、実際に記録するまでに仮記録部1dに仮記録してもよく、複数の画像をして記録、表示できるように画像合成部1eや合成判定部1fも信号処理の一環として、信号処理部を有する制御部1に内蔵している。   The image signal may be temporarily recorded in the temporary recording unit 1d until it is actually recorded, and the image composition unit 1e and the composition determination unit 1f are also part of the signal processing so that a plurality of images can be recorded and displayed. Are incorporated in the control unit 1 having a signal processing unit.

顔検出部1aは、人物の顔パーツによって得られる画像特徴に従って、画像に含まれる人物の顔画像を検出するが、この検出結果などを考慮して合成や警告を行う。ちなみに、合成判定部1fが、合成がうまく行くかを判定した場合も必要に応じて警告を行う。   The face detection unit 1a detects a person's face image included in the image according to the image feature obtained from the person's face part, and performs synthesis and warning in consideration of the detection result. Incidentally, even when the composition determination unit 1f determines whether the composition is successful, a warning is given as necessary.

この画像合成部7によって生成された合成画像は、表示部8に表示されるが、撮影された後の画像を記録部4から読み出して利用し合成表示を行う場合、表示機器の発明としても本発明は利用可能である。   The synthesized image generated by the image synthesizing unit 7 is displayed on the display unit 8. However, when the captured image is read out from the recording unit 4 and used for synthesizing display, the present invention is also applied to the display device. The invention is available.

次に、本実施形態における動作について説明するが、まず図3を用いて、本発明の特徴である背面合成画像を撮影する時の方法を説明する。この撮影機器10を用いると、図3のように、カメラ10を構え、撮影者カメラ背面の表示部で撮影状況を確認しながら、撮影者11が歩きながら撮影すると、前方に見えた被写体を撮影すると同時に、撮影者が自分の顔や背景をも記録することが出来る。   Next, the operation in the present embodiment will be described. First, a method for photographing a back composite image, which is a feature of the present invention, will be described with reference to FIG. When this photographing device 10 is used, as shown in FIG. 3, when the photographer 11 walks while photographing while holding the camera 10 and checking the photographing state on the display unit on the back of the photographer's camera, the subject seen forward is photographed. At the same time, the photographer can record his face and background.

このように定期的に撮影したり動画で撮影したりすると、正面撮影部2による前方の撮影は移動に伴って画像が変化するが、背面撮像部5で得られた画像は、撮影者11とカメラ10の位置関係はカメラを構えた状態で決まり、ほとんど変化しない。   When shooting regularly or taking a video in this way, the image taken by the front imaging unit 2 changes with the movement, but the image obtained by the rear imaging unit 5 is the same as the photographer 11. The positional relationship of the camera 10 is determined when the camera is held, and hardly changes.

つまり、図3のように、撮影者が、撮影機器をホールディングしながら歩いている時、定期的に背面の撮影を行うと、図4(a)から(e)のように示したような画像が得られる。撮影者の像は、構えている位置と顔の距離が大きく変わらないので、ほぼ同じ大きさで撮影されるのに対し、背景は次々に後方に過ぎ去っていくように変化していく。   That is, as shown in FIG. 3, when the photographer walks while holding the photographing device and periodically takes a picture of the back, an image as shown in FIGS. 4 (a) to 4 (e). Is obtained. The photographer's image is taken at almost the same size because the distance between the holding position and the face does not change greatly, but the background changes one after the other so that it passes away.

このような画像を図5のように合成することによって、撮影者の画像を実際の撮影画像より遠くで撮影されたような表現の画像にすることが出来る。つまり、図5(b)の画像の直前に撮影された画像、図5(a)の背景部分は、図のように(b)の画像の一部であるから、図5(b)の画像の相当する部分に、(a)の画像をはめ込んで、図5(c)のように背景に接ぎ目のない一つの画像として表現することが出来る。この画像の人物部とその上方の画像部(図5(d)参照)は、撮影者が自分で撮影したものであるにもかかわらず、あたかも撮影者から離れた位置の遠くから撮影された画像のように見える。それは、(b)の撮影がなされた位置から、(a)の位置にいる人物を撮影したような表現に等しい。   By synthesizing such an image as shown in FIG. 5, the photographer's image can be made to be an image as if it was photographed farther than the actual photographed image. That is, since the image taken immediately before the image of FIG. 5B and the background portion of FIG. 5A are part of the image of FIG. 5B as shown in FIG. 5, the image of FIG. The image shown in FIG. 5A is inserted into the corresponding portion, and can be expressed as a single image without a joint on the background as shown in FIG. The person portion of this image and the image portion above it (see FIG. 5 (d)) are images taken from a distance away from the photographer even though the photographer photographed himself / herself. looks like. It is equivalent to an expression in which the person at the position (a) is photographed from the position at which the photograph (b) was photographed.

このような合成を可能とするためには、(a)の画像が、(b)の画像の人物部の頭部を覆い隠すような画像になっていることが好ましい。そうでないと、(c)の画像の合成部から、(b)画像の頭がはみ出て不自然になってしまう。   In order to enable such composition, it is preferable that the image of (a) is an image that covers the head of the person portion of the image of (b). Otherwise, the head of the image (b) protrudes from the image synthesizing unit (c) and becomes unnatural.

従って、この発明では、このような合成時の不自然さを防止するように、(a)と(b)の画像の撮影間隔を適切に制御した。   Therefore, in the present invention, the photographing intervals of the images (a) and (b) are appropriately controlled so as to prevent such unnaturalness at the time of synthesis.

このように、このような合成機能を有することによって、この撮影機器は、前方の画像の変化のみならず、後方の画像に変化をつけて画像再現が出来るので、例えば動画撮影後に、前後の画像を適宜切り換えて、飽きの来ない画像表現で鑑賞者を楽しませることが出来る。風景の中を人物が近づいてくるように、スライドショーや動画で再生することが可能となる。このような表現形式を採用することにより、画像に変化がつけられ、楽しく鑑賞することができる。   Thus, by having such a compositing function, this imaging device can reproduce not only the change of the front image but also the change of the rear image. You can entertain the viewer with a timeless image expression. It can be played back as a slide show or video so that a person approaches the scene. By adopting such an expression format, the image can be changed and enjoyed.

例えば、図5(d)の画像を表示した後に、図5(a)の画像を表示すると、遠くから、撮影者が近づいて来たような表現が出来る。つまり、縮小合成した画像の合成を止めればよい。   For example, if the image of FIG. 5A is displayed after the image of FIG. 5D is displayed, it is possible to express the photographer as approaching from a distance. That is, it is only necessary to stop the synthesis of the reduced and synthesized image.

ここでは、二枚しか合成していないが、(d)の画像を縮小して、図4の(c)に合成すれば、さらに遠くに撮影者がいるような表現が可能となる。これらの合成を重ね、一番縮小されている画像から、順次合成をやめて行けば、どんどん撮影者が近づいて来る。さらに、これをもっと細かく行えば動画的な表現が可能であることは言うまでもない。   Here, only two images are combined, but if the image of (d) is reduced and combined as shown in (c) of FIG. 4, it is possible to express the photographer further away. If these composites are overlapped, and the composites are stopped sequentially from the image that has been reduced the most, the photographer approaches more and more. Furthermore, it goes without saying that if this is done in more detail, it can be animated.

次に、この合成表示時の不自然さを対策するために、撮影時に注意するべき点について説明する。   Next, points to be noted when photographing in order to take measures against unnaturalness at the time of composite display will be described.

図6は、撮影機器10と撮影者の顔11の位置関係を上から見たように表わしたものである。この図で明らかなように、例えば、撮影機器10の画角の半分の角度がΘであり、撮影機器10から顔11までの距離がD1である時、顔の幅がWfである場合、画面の幅W1は式1のように表現されるので、顔がそこに占める比率Rは、式2のように表わされる。   FIG. 6 shows the positional relationship between the photographing device 10 and the photographer's face 11 as seen from above. As is clear from this figure, for example, when the half angle of view of the photographing device 10 is Θ, the distance from the photographing device 10 to the face 11 is D1, and the face width is Wf, the screen Since the width W1 of the face is expressed as Expression 1, the ratio R of the face to the width W1 is expressed as Expression 2.

W1=2・D1・tanΘ・・(式1)
R=Wf/(2・D1・tanΘ)・・(式2)
例えば、Θが45°であり、機器を構えた時の手の位置から、D1を45cmとし、顔の幅を15cmとすると、式2の結果は1/6となる。しかし、一般に、画面の縦方向は、ここで示した横方向より短く、反対に顔の縦方向の高さは幅方向より長いので、画面内縦方向の1/3近くを顔が占有することになる。従って、このような条件の場合、図5の(a)は(b)の1/3程度で合成されることが好ましい。
W1 = 2 · D1 · tanΘ ·· (Formula 1)
R = Wf / (2.D1.tan.THETA.) (Equation 2)
For example, if Θ is 45 °, D1 is 45 cm and the face width is 15 cm from the position of the hand when holding the device, the result of Equation 2 is 1/6. However, in general, the vertical direction of the screen is shorter than the horizontal direction shown here, and conversely the height of the face in the vertical direction is longer than the width direction, so that the face occupies nearly 1/3 of the vertical direction in the screen. become. Therefore, in such a condition, it is preferable that (a) in FIG. 5 is synthesized at about 1/3 of (b).

ただし、画角の半分の角度Θを決める、撮影レンズの焦点距離などによっても、こうした条件は変わってくることが重要である。つまり、焦点距離が短い場合は、このΘが大きくなることによって、顔の占める割合Rが小さくなるので、背景の部分が増え、図5で示したような背景を繋げる合成はやりやすくなる。   However, it is important that these conditions change depending on the focal length of the taking lens, which determines the angle Θ which is half of the angle of view. That is, when the focal length is short, the ratio occupying the face is reduced by increasing this Θ, so that the background portion is increased and it is easy to combine the backgrounds as shown in FIG.

また、前述のように、この撮影機器10の画角の半分の角度がΘである場合、図7の矢印12の方向に動かされると、最初に位置P1で撮影された時、21の平面を考えると、W1の範囲が撮影され、これは前述の式1で表わされる。   Further, as described above, when the angle of half of the angle of view of the photographing apparatus 10 is Θ, when it is moved in the direction of the arrow 12 in FIG. Considering, the range of W1 is photographed, and this is expressed by the above-described equation 1.

カメラがD3だけ進んでP2の位置まで来ると、画角が同じだと、撮影される範囲は、平面21までの距離D2によって、式3で示されるW2の範囲が撮影される。W1は、W2の中に含まれるが、その比率W1/W2は、式1、式2により式4のようになる。   When the camera advances by D3 and reaches the position P2, if the angle of view is the same, the range to be captured is the range of W2 represented by Equation 3 by the distance D2 to the plane 21. W1 is included in W2, but the ratio W1 / W2 is represented by Equation 4 by Equation 1 and Equation 2.

W2=2・D2・tanΘ・・(式3)
W1/W2=D1/D2・・(式4)
つまり、図6で説明したような条件の場合、D1/D2は1/3となることが好ましく、D1が前述のように45cmだとすると、D2は45cm×3=135cmとなる。
W2 = 2 · D2 · tanΘ ·· (Formula 3)
W1 / W2 = D1 / D2 (Equation 4)
That is, in the condition described with reference to FIG. 6, D1 / D2 is preferably 1/3. If D1 is 45 cm as described above, D2 is 45 cm × 3 = 135 cm.

従って、D2以上離れて撮影すると、図5(a)を(b)に重ねて合成する時、縮小率が大きくなりすぎて、(b)の顔を隠すことが出来なくなってしまう。このように、このような画像合成では、顔の位置や大きさに注意が必要となる。   Accordingly, if the image is taken at a distance of D2 or more, when the image shown in FIG. 5A is superimposed on the image shown in FIG. 5B, the reduction ratio becomes too large to hide the face of FIG. Thus, in such image composition, attention must be paid to the position and size of the face.

D2が135cmだとすると、大人の歩幅の2歩分に相当するので、加速度センサ3の出力によって、歩数計のようにカメラに加わる振動を検知して、2歩に1回撮影するようなタイミングでの連写を行うような工夫をしてもよい。もちろん、これはΘが大きければ、式2によって、顔が画面内に占める割合が小さくなるので、さらに粗いタイミングでの連写でもよい。例えば、焦点距離が半分になり、画角が倍になるとRは1/6となり、式4のW1/W2は1/6となり、D2は45cm×6=270cmとなる。   If D2 is 135 cm, it corresponds to two steps of an adult's stride. Therefore, the acceleration sensor 3 detects the vibration applied to the camera like a pedometer and takes a picture once every two steps. It may be devised to perform continuous shooting. Of course, if Θ is large, the ratio of the face to the screen becomes small according to Equation 2, so that continuous shooting at coarser timing may be used. For example, when the focal length is halved and the angle of view is doubled, R becomes 1/6, W1 / W2 in Equation 4 becomes 1/6, and D2 becomes 45 cm × 6 = 270 cm.

例えば背面の撮像部の画角が変更できるシステムの場合、このような切り換えを行ってもよく、発明としてはこのような切り換えも包含しているが、ここでは単純化して、Θが45°の場合で説明を続ける。   For example, in the case of a system in which the angle of view of the imaging unit on the back side can be changed, such switching may be performed, and the invention includes such switching, but here it is simplified and Θ is 45 °. Continue to explain in case.

以上説明したような背面撮影部を使って、図5のような画面合成処理を行う撮影機器が、背面撮影時に実行するフローチャートを図8として示す。ここでは、特に、こうした合成を伴う撮影を「背面合成撮影」と呼んで説明する。実際には、正面の撮影も同時に行って、ある時は正面の撮影結果、ある時は背面の撮影結果を再生表示に利用して画像の変化を豊かにするが、ここでは単純化して背面撮影部での撮影に絞って説明する。ユーザーは、図3のような撮影を行うに際し、撮影機器のモード設定によって、「背面合成撮影モード」を選択してすでに撮影操作がレリーズSW(図2の6a)の押し込みなどで始まっているものとする。背面画像は複数枚を利用して図5(c)のような合成を行うので、この複数画像を管理するために、S101のステップでは、変数Nを初期化(0)する。撮影操作がレリーズSW(図2の6a)の押し込みなどが終って終了していると、S102をYに分岐してS109に行くが、まず、撮影中であるとして、S102をNに分岐してのS103の説明を行う。   FIG. 8 shows a flowchart executed by the photographing apparatus that performs the screen composition processing as shown in FIG. 5 using the rear photographing unit as described above at the time of rear photographing. Here, in particular, a description will be given by referring to such a shooting involving synthesis as “backside composite shooting”. Actually, the frontal shooting is also performed at the same time, and sometimes the frontal shooting results and the backside shooting results are used for playback display to enrich the change in the image, but here it is simplified and the backside shooting I will focus on shooting in the club. When the user performs shooting as shown in FIG. 3, the user selects “rear composite shooting mode” according to the mode setting of the shooting device, and the shooting operation has already started by pressing the release SW (6a in FIG. 2). And Since a plurality of back images are combined as shown in FIG. 5C, a variable N is initialized (0) in step S101 in order to manage the plurality of images. If the shooting operation is finished after the release SW (6a in FIG. 2) has been pushed in, S102 branches to Y and goes to S109. First, assuming that shooting is in progress, S102 is branched to N. S103 will be described.

S103では、後で説明する背面合成候補画像作成のサブルーチンを実行する。ここでは、連続して画像を取得し、取得された画像のうち、合成表示に適当なもの(合成候補画像)を図1の1fの合成判定部が判定し、Imとして仮記録部(図1の1d)に仮記録する。   In S103, a back synthesis candidate image creation subroutine, which will be described later, is executed. Here, images are continuously acquired, and among the acquired images, the one suitable for composite display (composite candidate image) is determined by the combination determination unit 1f in FIG. 1, and the temporary recording unit (FIG. 1) is determined as Im. 1d) is temporarily recorded.

こうして得られた背面の合成候補画像は、単独では合成に適切かどうか分からないので、まず、基本となる最初の一枚が得られたかどうかをS104で判定する。最初の1枚が取得されないと、次の画像との比較が出来ないので、Nに分岐、S103で候補画像が得られるのを待つ。   Since it is not known whether or not the back-side composition candidate image obtained in this way is suitable for composition alone, it is first determined in S104 whether or not the first basic image has been obtained. If the first image is not acquired, it cannot be compared with the next image. Therefore, the process branches to N and waits until a candidate image is obtained in S103.

最初の候補画像が得られると、S104をYに分岐し、S105において、図5(a)のような画像を(b)の点線部に収まるように縮小し(図1の縮小部1cによる)て、次の画像の中央部と比較する。ここで、縮小の割合は、仮に1/3とする。   When the first candidate image is obtained, S104 is branched to Y, and in S105, the image as shown in FIG. 5A is reduced so as to fit within the dotted line part of (b) (by the reduction part 1c of FIG. 1). Compare with the center of the next image. Here, the reduction ratio is assumed to be 1/3.

これは、図9のS114で説明するような条件で決められたもので、画角や、連写時に、次に撮影される画像やこのカメラの演算能力や消費電力などのバランスによって決まる。頻繁に画像を取得したり合成したりすると記録容量や消費電力的に無駄や無理を生じるので、ここでは、なるべく少ない撮影で繋げて行く例として図示している。図6、7で説明した数値を利用すると、1/3に縮小した画像を重ねて合成画像を作るのは、無理のない設計となる。これは、2歩進むごとに一枚撮影するペースであるが、さらに高速の処理回路や省エネ設計が出来れば、合成枚数を増加させても良い。撮影枚数を増加、合成枚数を増加させれば、動画的な表現に近づけられる。画角が広い場合は、撮影枚数を減らしての合成が可能となる。   This is determined under conditions such as those described in S114 of FIG. 9, and is determined by the angle of view, the image to be taken next during continuous shooting, and the balance of computing power and power consumption of this camera. If images are frequently acquired or combined, the recording capacity and power consumption are wasted and unreasonable, and here, the example is shown as an example of connecting with as few photographing as possible. When the numerical values described with reference to FIGS. 6 and 7 are used, it is a reasonable design to create a composite image by superimposing images reduced to 1/3. This is the pace at which one image is taken every two steps, but the number of combined images may be increased if a faster processing circuit or energy saving design is possible. If the number of shots is increased and the number of combined images is increased, it can be approximated to a moving image expression. When the angle of view is wide, it is possible to combine with a reduced number of shots.

図5(b)のように、前の画像を縮小した結果が、次の画像の顔の部分の上に顔を隠した形で背景が繋がるように合成されたかどうかを撮影者の頭上の画像のコントラストやエッジが一致するかで判定する(合成判定部1fによる)。この合成判定部は、制御部1のプログラムが実行する機能であるが、ハードウェアで設計されてもよい。顔を基準にして、顔の上部(頭上)には、通常、天井とか風景の一部が写るので、カメラを持って、略その光軸方向に沿って移動するとその背景部分は変化していく。その位置変化や移動に対して図7に示したように撮影範囲が変わっていくので、縮小等の処理によって複数の画像の合成が可能となる。ただし、顔の部分や顔の下は体があり、これらの部分は変化しないため、縮小すると図5(c)に明らかなように連続した合成がうまくいかない。このように複数画像を本発明の考え方で合成する場合、顔の下部は後から撮影した画像を、前に撮影した画像の縮小画像で隠すような合成が困難で有効活用できないので、顔画像は中央からなるべく下にある方が良い。ただし、あまり下になると、あごなどが欠けて不自然になるので、ほぼ画面中央に顔が来ることを前提に説明を続ける。   As shown in FIG. 5B, whether or not the result of reducing the previous image is synthesized so that the background is connected in such a manner that the face is hidden on the face portion of the next image. It is determined whether the contrast and edge match (by the combination determination unit 1f). The synthesis determination unit is a function executed by the program of the control unit 1, but may be designed by hardware. The upper part (over the head) of the face is usually a part of the ceiling or landscape, and the background changes as you move along the optical axis with the camera. . Since the shooting range changes as shown in FIG. 7 with respect to the position change or movement, a plurality of images can be combined by processing such as reduction. However, there is a body under the face part and under the face, and these parts do not change. Therefore, when it is reduced, continuous composition is not successful as is apparent in FIG. In this way, when compositing multiple images according to the concept of the present invention, the lower part of the face cannot be effectively used because it is difficult to compose and conceal an image captured later with a reduced image of the image captured earlier, It is better to be as low as possible from the center. However, if it goes too far down, the chin will be missing and it will become unnatural, so the explanation will continue assuming that the face is almost in the center of the screen.

従って、S105では、人物の一部がない画像の背景部分(ここでは画面上半分)を比較して、S106で、それが一致したかどうかを判断する。このような判定は合成判定部(図1の1f)が行う。一致した場合は、S105で比較したこれらの画像は用画像に使えるとして変数Nをインクリメント(S107)して、候補画像Imを記録画像Im(N)とする。   Therefore, in S105, the background portion (here, the upper half of the screen) of the image having no part of the person is compared, and in S106, it is determined whether or not they match. Such a determination is performed by the combination determination unit (1f in FIG. 1). If they match, the variable N is incremented (S107) because these images compared in S105 can be used as the image for use, and the candidate image Im is set as the recorded image Im (N).

撮影操作が終る(S102→Y)まで、このような画像判定は繰り返され、縮小画像の背景部分が、次に得られた画像の中央部と比較されることによって、移動しながら撮影した画像であって、かつ合成が可能な画像が得られたことを、図1の合成判定部1fが判定していく。   Such image determination is repeated until the shooting operation is completed (S102 → Y), and the background portion of the reduced image is compared with the center portion of the next obtained image, thereby moving the image taken while moving. Then, the composition determination unit 1f in FIG. 1 determines that an image that can be combined is obtained.

つまり、移動方向と反対方向の撮影を複数回行う撮影機器において、背面撮像部が複数回の撮影を順次行い、前に撮影された画像を縮小して、後に撮影された画像に合成可能かどうかを判定する合成可否判定を行うことにこの発明の特徴がある。   In other words, in a photographic device that shoots multiple times in the direction opposite to the moving direction, whether the rear imaging unit can shoot multiple times sequentially, reduce the previously captured image, and combine it with the later captured image It is a feature of the present invention that the determination of whether or not composition is possible is performed.

もちろん、この縮小画像を次の画像の所定部分と比較して、合成が可能であるかどうかということは、撮影機器以外にも、例えば、表示機器にも応用できる考え方である。ここでは、画面の中央部と縮小画像の連続性(エッジの向きやコントラスト変化部、さらには色の分布などが画像のつなぎ目で連続であるかどうかで合成判定部1fが判定)を比較したが、手持ち撮影では、必ずしも、撮影者はまっすぐに進んだり、カメラを同じ位置に構えたりは出来ないので、S105で比較する画像部分は、厳密に中央ではなく、上下左右に画面の20%程度ずれても良い。もちろん、この値も、画角が広くなれば余裕が大きくなる。   Of course, comparing this reduced image with a predetermined portion of the next image, whether or not it can be combined is an idea that can be applied to, for example, a display device in addition to a photographing device. Here, the continuity between the center of the screen and the reduced image is compared (the combination determining unit 1f determines whether the edge direction, the contrast changing unit, and the color distribution are continuous at the joint of the image). In hand-held shooting, the photographer cannot always go straight or hold the camera in the same position. Therefore, the image portion to be compared in S105 is not exactly the center, and is shifted by about 20% vertically and horizontally. May be. Of course, this value also has a larger margin as the angle of view increases.

S109で、仮記録されていた画像は、記録部4に移され本記録される。この時、各画像の前後関係を管理するために撮影した日時、時刻や、カメラが正しく構えられて移動したかどうかを示す加速度情報なども、各画像と関連付けて記録する(S110)。   In S109, the temporarily recorded image is moved to the recording unit 4 and recorded. At this time, the date and time when the image was taken in order to manage the context of each image, acceleration information indicating whether the camera was properly held and moved, and the like are also recorded in association with each image (S110).

たとえば、加速度センサが三軸であれば、カメラの上下が正しく構えられていたら、重力加速度が、この上下方向にしかかからず、歩いている場合は、光軸方向に加速度が周期的にかかるなどして変化するので、こうした情報によって、背面合成用の撮影が行われ、合成に相応しい画像かどうかを記録することが出来る。もちろん、変数Nを各画像に対応付けて記録してもよい。このような情報によって、複数の画像を正しく合成して、図5のような合成で、人物の距離感を変更することが可能となる。   For example, if the acceleration sensor has three axes, the gravitational acceleration will only be applied in the vertical direction if the camera is correctly positioned up and down, and when walking, the acceleration is periodically applied in the optical axis direction. Therefore, it is possible to record whether or not the image is suitable for the composition by taking a picture for the back composition by such information. Of course, the variable N may be recorded in association with each image. With such information, it is possible to correctly combine a plurality of images and change the sense of distance of the person by combining as shown in FIG.

なお、図5(d)のような画像は、さらに次の画像の上に縮小されて合成される。つまり、Nが小さい画像は、Nの大きい画像上に縮小して合成すれば、手持ち撮影であるにもかかわらず、遠くから撮影者を撮影したような画像が得られ、この遠さは合成回数によって変更することが可能である。   Note that the image as shown in FIG. 5D is further reduced and synthesized on the next image. In other words, if an image with a small N is reduced and combined on an image with a large N, an image as if the photographer was photographed from a distance can be obtained despite hand-held shooting. It is possible to change by.

次に、図8のS103のサブルーチンを図9のフローチャートを使って説明する。   Next, the subroutine of S103 of FIG. 8 will be described using the flowchart of FIG.

これは、前述のように、背面撮像部5で繰り返し撮影した結果が合成画像として使うのに相応しいかどうかを判定しながら候補画像化して仮記録していくためのプログラムである。   As described above, this is a program for making a candidate image and temporarily recording it while determining whether or not the result of repeated imaging by the rear imaging unit 5 is suitable for use as a composite image.

S111では、連続撮影を開始し、S112では、S111で得られた画像に顔のパーツによって生じる特有の陰影がないかを判定して顔検出を行う。   In S111, continuous shooting is started, and in S112, it is determined whether the image obtained in S111 has a peculiar shadow caused by facial parts, and face detection is performed.

この顔位置が画面中心、または画面下部にないと、先に図8のS105で説明したように、本発明の特徴たる重ね合せによる画像合成がうまくいかないので、S113でその旨の判定を行う。重要なのは、撮影者上部の背景がしっかり写っていることである。この条件を満たさないと、制御部1がそれを判定して、警告部1bを介して表示画像や音声にて警告を行う(S121)。具体的には、「撮影者の顔が画面中央に来るようにカメラを構えて下さい」という文字を表示したり、得られた画像を枠と一緒に表示して、枠内に顔を入れるように指示したりしてもよい。   If this face position is not at the center of the screen or at the bottom of the screen, as described above in S105 of FIG. 8, image composition by superimposing, which is a feature of the present invention, is not successful, so that determination is made in S113. What is important is that the background above the photographer is clearly visible. If this condition is not satisfied, the control unit 1 determines it and issues a warning with a display image or sound via the warning unit 1b (S121). Specifically, display the words "Please hold the camera so that the photographer's face is in the center of the screen", or display the resulting image along with the frame and put the face in the frame You may instruct.

このように、顔が画面中央部に来ると、撮影者の上方に背景が写りこむ空間を確保するために、顔の大きさが画面の縦サイズの1/3以下になっているかを判定する(S114)。   As described above, when the face comes to the center of the screen, it is determined whether the size of the face is 1/3 or less of the vertical size of the screen in order to secure a space where the background is reflected above the photographer. (S114).

もちろん、これは、撮影者の手の長さや顔のサイズなどで調整可能としてもよい。さらに、連写時に、次に撮影される画像がすぐに得られる場合は、顔の大きさは大きくても良い。何故なら、この画面内の顔の部分に、前の画像を縮小して重ねるので、背景の変化が小さい画像を合成する場合には背景を繋げやすいからである。ただし、あまり頻繁に画像を取得したり合成を行うと記録容量や消費電力的に無駄や無理を生じるので、ここでは、なるべく少ない撮影で繋げて行く例として図示している。図6、7で説明した数値を利用すると、2歩進むごとに一枚撮影するペースで、無理のない撮影や合成が可能となる。もちろん、さらに高速の処理回路や省エネ設計が出来れば、合成枚数を増加させても良い。撮影枚数を増加、合成枚数を増加させれば、動画的な表現に近づけられる。   Of course, this may be adjustable by the length of the photographer's hand and the size of the face. Furthermore, the face size may be large if an image to be photographed next is obtained immediately during continuous shooting. This is because the previous image is reduced and superimposed on the face portion in the screen, so that when the image with a small background change is synthesized, the background is easily connected. However, if images are acquired or combined too frequently, uselessness or impossibility occurs in terms of recording capacity and power consumption. Therefore, here, an example in which as few images as possible are connected is shown. When the numerical values described in FIGS. 6 and 7 are used, it is possible to perform comfortable shooting and composition at the pace of shooting one image every two steps. Of course, the number of composites may be increased if a faster processing circuit or energy saving design is possible. If the number of shots is increased and the number of combined images is increased, it can be approximated to a moving image expression.

また、背面撮像部の画角などによって変更可能である。画角が広いと背景の写る範囲が広がるので、さらに合成枚数を減らすことが出来る。この場合は、スライドショー的に、人物が近づいて来る表現になる。   Further, it can be changed depending on the angle of view of the rear imaging unit. If the angle of view is wide, the range in which the background appears is expanded, so the number of composites can be further reduced. In this case, it becomes an expression that a person approaches in a slide show.

このように、この条件を満たさないと、制御部1がそれを判定して、警告部1bを介して表示画像や音声にて警告を行う(S122)。具体的には、「撮影者の顔のサイズが適正になるようにカメラを構えて下さい」という文字を表示したり、得られた画像を画面1/3のサイズの枠と一緒に表示して、枠内に顔を入れるように指示したりしてもよい。   Thus, if this condition is not satisfied, the control unit 1 determines it and issues a warning with a display image or voice via the warning unit 1b (S122). Specifically, display the words “Please hold the camera so that the size of the photographer's face is appropriate”, or display the resulting image with a frame that is 1/3 the size of the screen. , It may be instructed to put a face in the frame.

これらの警告を出しても、例えば1分以上条件を満たさない場合は、S123でそれを合成判定部1fが判定し、S124に分岐して合成不可の警告を警告部1bに出させる。   Even if these warnings are issued, for example, if the condition is not satisfied for 1 minute or longer, the combination determination unit 1f determines that in S123, and branches to S124 to cause the warning unit 1b to issue a warning indicating that the combination is not possible.

このようにして、S113、S114の条件を満たした画像を候補画像とするが、最初の画像かどうかによってS115を分岐して、仮記録時の分類を行う。最初の画像が基準になるので、これは別扱いにして、S117でIm(0)とする。その他は、図8のフローで取捨選択され、選択されたものだけがS109で記録されるので、S116ではImとして仮記録する。   In this way, an image satisfying the conditions of S113 and S114 is set as a candidate image, but S115 is branched depending on whether it is the first image, and classification at the time of temporary recording is performed. Since the first image is the reference, this is handled separately, and Im (0) is set in S117. Others are selected in the flow of FIG. 8, and only the selected ones are recorded in S109. Therefore, in S116, they are temporarily recorded as Im.

S118では前述のように、撮影時刻情報や、カメラの姿勢や進行方向などを表わす加速度情報なども書き込んでおく。このような情報付きの画像なら、こうした複数画像の撮影はカメラで行って、PCやTVなど表示機器が、カメラから送られて得られた複数の画像に従って、図5で説明したような画像加工を行って、表示に変化をつけるようにしてもよい。もちろん、カメラの表示部が、画像再生時にこうした合成表示を行っても良い。   In S118, as described above, shooting time information, acceleration information indicating the posture of the camera, the traveling direction, and the like are also written. In the case of such an image with information, such a plurality of images are taken by a camera, and a display device such as a PC or a TV performs image processing as described with reference to FIG. 5 according to the plurality of images obtained from the camera. To change the display. Of course, the display unit of the camera may perform such composite display during image reproduction.

つまり、カメラの表示部を含む、PCやTV、携帯電話などの表示機器も、移動方向と反対方向の複数回のタイミングで撮影された撮影画像を利用して、本発明の特徴である、前に撮影された画像を縮小して、後に撮影された画像に合成可能かどうかを判定することが出来る。この合成可否判定によって、単なる連続撮影画像に変化をつけて再生することが可能かどうかを決定することができる。   That is, a display device such as a PC, a TV, or a mobile phone including a display unit of a camera also uses a captured image captured at a plurality of times in the direction opposite to the moving direction, and is a feature of the present invention. It is possible to reduce the size of the captured image and determine whether it can be combined with the image captured later. Whether or not it is possible to reproduce a continually captured image with a change can be determined by determining whether or not the image can be combined.

このような表示制御の例を図10のフローチャートで説明する。   An example of such display control will be described with reference to the flowchart of FIG.

S131では、再生表示する画像を選択するステップである。これは、サムネイルから特定画像を手動で選択してもよいし、他の画像(例えば、正面の撮像部2で撮影されたもの)を再生すると、付随して、対応する背面画像が選択されるようにしてもよい。   S131 is a step of selecting an image to be reproduced and displayed. In this case, a specific image may be manually selected from thumbnails, and when another image (for example, one taken by the imaging unit 2 on the front) is reproduced, a corresponding back image is selected. You may do it.

S132やS133で判定される、この画像に直前、直後の画像があるかどうかや、移動撮影であるかどうかは、各画像に添付された図8のS110で付けられた補助情報(時刻や加速度情報、変数Nなど)から判断可能である。   Whether or not there is an image immediately before and after this image, or whether or not the moving image is taken, is determined in S132 or S133. The auxiliary information (time and acceleration) attached in S110 of FIG. 8 attached to each image. Information, variable N, etc.).

このような画像がある場合、S134で前の画像(図4、図5の(a)に対応)を縮小し、その上部周辺部のパターンを後の画像(図4、図5の(b)に対応)に重ねて一致度を調べ、連続的であれば、重ねた状態で合成する。これによって、図5(c)のような画像が得られる。このうち、画面下方で一致しない部分を削除すれば、図5(d)のような画像が得られ、手持ちであるにもかかわらず、遠くから撮影されたような表現の画像が得られる。この合成をやめていけば、だんだん近づいて来るような連続画像が得られる。   If there is such an image, the previous image (corresponding to (a) in FIG. 4 and FIG. 5) is reduced in S134, and the pattern of the upper peripheral portion is changed to the subsequent image ((b) in FIG. 4 and FIG. 5). The degree of coincidence is checked and if it is continuous, it is synthesized in an overlapped state. As a result, an image as shown in FIG. 5C is obtained. If the non-matching portion is deleted in the lower part of the screen, an image as shown in FIG. 5D is obtained, and an image of an expression taken from a distance is obtained despite being held. If you stop this composition, you can get a series of images that gradually get closer.

ここでS134の縮小は、前述のように、ここで、縮小の割合は、仮に1/3とする。   Here, as described above, the reduction in S134 is assumed to be 1/3.

これは、図9のS114で説明するような条件で決められたもので、画角や、連写時に、次に撮影される画像やこのカメラの演算能力や消費電力などのバランスによって決まる。頻繁に画像を取得したり合成したりすると記録容量や消費電力的に無駄や無理を生じるので、ここでは、なるべく少ない撮影で繋げて行く例として図示している。図6、7で説明した数値を利用すると、1/3に縮小した画像を重ねて合成画像を作るのは、無理のない設計となる。これは、2歩進むごとに一枚撮影するペースであるが、さらに高速の処理回路や省エネ設計が出来れば、合成枚数を増加させても良い。撮影枚数を増加、合成枚数を増加させれば、動画的な表現に近づけられる。画角が広い場合は、撮影枚数を減らしての合成が可能となる。   This is determined under conditions such as those described in S114 of FIG. 9, and is determined by the angle of view, the image to be taken next during continuous shooting, and the balance of computing power and power consumption of this camera. If images are frequently acquired or combined, the recording capacity and power consumption are wasted and unreasonable, and here, the example is shown as an example of connecting with as few photographing as possible. When the numerical values described with reference to FIGS. 6 and 7 are used, it is a reasonable design to create a composite image by superimposing images reduced to 1/3. This is the pace at which one image is taken every two steps, but the number of combined images may be increased if a faster processing circuit or energy saving design is possible. If the number of shots is increased and the number of combined images is increased, it can be approximated to a moving image expression. When the angle of view is wide, it is possible to combine with a reduced number of shots.

なお、本実施形態において、前方撮影部2と後方撮影部5はカメラ10に一体に設けられているが、これに限らず、1つの撮影部を有するカメラを2台用意し、この2台のカメラを連携するようにしても良い。この場合には、第1のカメラの撮影部を前方撮影部2として使用し、第2のカメラの撮影部を後方撮影部5として使用し、一方のカメラの制御部(制御部1)が、他方のカメラの撮影部を制御するように構成する。この場合の制御通信は、有線でも無線でも良い。   In the present embodiment, the front photographing unit 2 and the rear photographing unit 5 are provided integrally with the camera 10. However, the present invention is not limited to this, and two cameras having one photographing unit are prepared. You may make it cooperate a camera. In this case, the imaging unit of the first camera is used as the front imaging unit 2, the imaging unit of the second camera is used as the rear imaging unit 5, and the control unit (control unit 1) of one camera is The imaging unit of the other camera is configured to be controlled. The control communication in this case may be wired or wireless.

また、背面撮像部で撮影された画像の人物は「撮影者」として表現したが、例えば、子供の自転車のハンドルにこのカメラをつけて、その走る様子を合成するような用途にも使える。この場合は、撮影者は子供の親であって、子供は被写体になるが、説明を単純化するために背面撮像部に撮影される人物は撮影者と表現することとした。   In addition, although the person in the image photographed by the rear imaging unit is expressed as “photographer”, for example, the camera can be attached to the handle of a child's bicycle to synthesize the running state. In this case, the photographer is the parent of the child, and the child is the subject, but in order to simplify the explanation, the person photographed on the rear imaging unit is expressed as the photographer.

以上、説明したように、本発明の実施形態によれば、画像データに基づいて、撮影位置の移動に伴って変化する背景画像の変化を判定し、この判定に基づいて、連続画像の大きさを変化させる画像処理を行ようにしている。このため、撮影者を遠くから撮影したような効果を得たり、順次、この合成画像の合成をやめて、移動していく様子を容易に表現したりすることができる。例えば、どこかの名所旧跡などを初めて訪れた時の感動などを、自分とその名所旧跡との位置関係、移動の様子などからも表現することができる。   As described above, according to the embodiment of the present invention, based on the image data, the change in the background image that changes as the shooting position moves is determined, and the size of the continuous image is determined based on this determination. The image processing that changes is performed. For this reason, it is possible to obtain an effect as if the photographer was photographed from a distance, or to easily express the state of moving by sequentially stopping the synthesis of the synthesized image. For example, it is possible to express the excitement when visiting a certain historic site for the first time based on the positional relationship between the historic site and the state of movement, and the like.

なお、本発明の各実施形態においては、カメラ10で撮影を行い、再生を楽しむ例を示したが、これに限らず、再生については、パーソナルコンピュータやテレビ等において楽しむことも可能である。パーソナルコンピュータやテレビ等で楽しむ場合には、カメラ10で撮影した動画の画像データを格納して行えば良い。   In each embodiment of the present invention, an example is shown in which shooting is performed with the camera 10 and playback is performed. However, the present invention is not limited thereto, and playback can also be performed on a personal computer, a television, or the like. In the case of enjoying with a personal computer, a TV, or the like, image data of a moving image taken with the camera 10 may be stored.

また、本発明の各実施形態においては、カメラ10は連写で撮影し、再生していたが、ビデオカメラのように、動画撮影の各コマに適用し、動画としての再生表示機能をもたせても良いことは勿論である。   In each embodiment of the present invention, the camera 10 was shot and played back by continuous shooting. However, like a video camera, the camera 10 is applied to each frame of moving image shooting and has a playback display function as a moving image. Of course, it is also good.

さらに、本発明の各実施形態においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話や携帯情報端末(PDA:Personal Digital Assist)等に内蔵されるカメラでも勿論構わない。   Furthermore, in each embodiment of the present invention, a digital camera has been described as an apparatus for photographing. However, the camera may be a digital single lens reflex camera or a compact digital camera, such as a video camera or a movie camera. A camera for moving images may be used, and a camera built in a mobile phone, a personal digital assistant (PDA), or the like may of course be used.

本発明は、上記各実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記各実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。

The present invention is not limited to the above-described embodiments as they are, and can be embodied by modifying the constituent elements without departing from the scope of the invention in the implementation stage. Moreover, various inventions can be formed by appropriately combining a plurality of constituent elements disclosed in the above embodiments. For example, you may delete some components of all the components shown by embodiment. Furthermore, constituent elements over different embodiments may be appropriately combined.

本発明に係わる撮影機器の構成を示すブロック図である。It is a block diagram which shows the structure of the imaging device concerning this invention. 本発明に係わる撮影機器の外観図を示し、(a)は正面からみた外観斜視図であり、(b)は背面からみた外観斜視図である。The external view of the imaging device concerning this invention is shown, (a) is the external appearance perspective view seen from the front, (b) is the external appearance perspective view seen from the back surface. 本発明の撮影方法を示す図である。It is a figure which shows the imaging | photography method of this invention. 本発明の撮影機器の背面撮影部で得られた連続画像を示した図である。It is the figure which showed the continuous image obtained in the back surface imaging | photography part of the imaging device of this invention. 本発明の撮影機器の背面撮影部で得られた連続画像を加工する時の説明図である。It is explanatory drawing when processing the continuous image obtained in the back surface imaging | photography part of the imaging device of this invention. 本発明の撮影機器と撮影者の位置関係を、撮影画角と共に説明するための図である。It is a figure for demonstrating the positional relationship of the imaging device and photographer of this invention with an imaging | photography angle of view. 本発明の撮影機器を持って移動させながら撮影する時の撮影範囲の変化を説明するための図である。It is a figure for demonstrating the change of the imaging | photography range at the time of imaging | photography while moving with the imaging device of this invention. 本発明の撮影機器が背面撮影時に実行するフローチャート例である。It is an example of the flowchart which the imaging device of this invention performs at the time of back surface photography. 本発明の撮影機器が背面撮影時に実行するフローのサブルーチンを示したフローチャート例である。It is the flowchart example which showed the subroutine of the flow which the imaging device of this invention performs at the time of back surface photography. 本発明の表示機器が合成表示時に実行するサブルーチンを示したフローチャートの例である。It is the example of the flowchart which showed the subroutine which the display apparatus of this invention performs at the time of a composite display.

1・・・信号処理、制御部、1a・・・顔検出部、1b・・・警告部、1c・・・画像縮小部、1d・・・仮記録部、1e・・・合成部、1f・・・合成判定部、2・・・撮像部、3・・・加速度センサ、4・・・記録部、5・・・背面撮影部、6・・・操作部、8・・・表示部、10・・・撮影機器、11・・・撮影者 DESCRIPTION OF SYMBOLS 1 ... Signal processing, control part, 1a ... Face detection part, 1b ... Warning part, 1c ... Image reduction part, 1d ... Temporary recording part, 1e ... Composition part, 1f. ..Synthesis determination unit, 2... Imaging unit, 3... Acceleration sensor, 4... Recording unit, 5. ... Shooting equipment, 11 ... Photographer

Claims (8)

移動方向と反対方向の撮影を複数回行う撮影機器において、
上記複数回の撮影を順次行う撮像部と、
上記複数回の撮影結果のうち、前に撮影された画像を縮小して、後に撮影された画像に合成可能かどうかを判定する合成可否判定部と、
を具備することを特徴とする撮影装置。
In a photographic device that shoots multiple times in the direction opposite to the moving direction,
An imaging unit that sequentially performs the plurality of times of imaging,
Among the plurality of shooting results, a composite possibility determination unit that determines whether a previously captured image is reduced and can be combined with an image captured later;
An imaging apparatus comprising:
上記撮像部が取得した撮影画面内の顔位置を検出する顔検出部と、
上記顔検出部の検出結果に従って、上記撮影機器が適正な位置に構えられるように警告を行う警告部を具備することを特徴とする請求項1に記載の撮影装置。
A face detection unit for detecting a face position in a shooting screen acquired by the imaging unit;
The imaging apparatus according to claim 1, further comprising a warning unit that issues a warning so that the imaging device is held at an appropriate position according to a detection result of the face detection unit.
上記警告部は、上記移動時に行われる撮影の間隔に従って、
上記撮影機器の適正な位置を決定することを特徴とする請求項2に記載の撮影装置。
The warning unit is in accordance with the interval of shooting performed during the movement.
The photographing apparatus according to claim 2, wherein an appropriate position of the photographing apparatus is determined.
上記警告部は、上記縮小画像に従って、
上記撮影機器の適正な位置を決定することを特徴とする請求項2に記載の撮影装置。
The warning section is in accordance with the reduced image.
The photographing apparatus according to claim 2, wherein an appropriate position of the photographing apparatus is determined.
複数回の撮影を順次行い、
上記複数回の撮影結果のうち、前に撮影された画像を縮小して、後に撮影された画像に合成可能かどうかを判定し、
移動方向と反対方向の撮影を複数回行う撮影方法。
Take multiple shots sequentially,
Of the above multiple shooting results, reduce the previously shot image and determine whether it can be combined with the later shot image,
A shooting method in which shooting in the direction opposite to the moving direction is performed multiple times.
上記複数回の撮影を順次行う撮影ステップと、
上記複数回の撮影結果のうち、前に撮影された画像を縮小して、後に撮影された画像に合成可能かどうかを判定する合成可否判定ステップと、
をコンピュータに実行させるためのプログラム。
A shooting step for sequentially performing the plurality of shootings;
Among the plurality of shooting results, a composite image determination step for determining whether or not a previously captured image is reduced and can be combined with an image captured later;
A program that causes a computer to execute.
移動方向と反対方向の複数回のタイミングで撮影された撮影画像のうち、前に撮影された画像を縮小して、後に撮影された画像に合成可能かどうかを判定する合成可否判定部と、
を具備することを特徴とする画像合成表示装置。
Among the captured images captured at a plurality of times in the direction opposite to the moving direction, a compositability determination unit that determines whether the previously captured image is reduced and can be combined with an image captured later,
An image composition display device comprising:
移動方向と反対方向の複数回のタイミングで撮影された撮影画像のうち、前に撮影された画像を縮小して、後に撮影された画像に合成可能かどうかを判定することを特徴とする画像合成表示方法。   Image composition characterized in that, among captured images taken at a plurality of times in the direction opposite to the moving direction, a previously taken image is reduced and it is determined whether or not it can be combined with an image taken later. Display method.
JP2011109729A 2011-05-16 2011-05-16 Imaging apparatus, control method of imaging apparatus, image display apparatus, image display method, and program Withdrawn JP2012244245A (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011109729A JP2012244245A (en) 2011-05-16 2011-05-16 Imaging apparatus, control method of imaging apparatus, image display apparatus, image display method, and program
CN201510278287.9A CN104869294B (en) 2011-05-16 2012-05-16 Camera and method for imaging
CN201210152747.XA CN102790852B (en) 2011-05-16 2012-05-16 Image synthesis and display device, image synthesis and display method, and photography equipment

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011109729A JP2012244245A (en) 2011-05-16 2011-05-16 Imaging apparatus, control method of imaging apparatus, image display apparatus, image display method, and program

Publications (1)

Publication Number Publication Date
JP2012244245A true JP2012244245A (en) 2012-12-10

Family

ID=47156146

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011109729A Withdrawn JP2012244245A (en) 2011-05-16 2011-05-16 Imaging apparatus, control method of imaging apparatus, image display apparatus, image display method, and program

Country Status (2)

Country Link
JP (1) JP2012244245A (en)
CN (2) CN104869294B (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2940989A1 (en) * 2014-05-02 2015-11-04 Samsung Electronics Co., Ltd Method and apparatus for generating composite image in electronic device
JP2024008639A (en) * 2022-07-08 2024-01-19 Lineヤフー株式会社 Information processing device, information processing method, and information processing program

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6639979B2 (en) * 2016-03-23 2020-02-05 オリンパス株式会社 Imaging equipment and moving objects for photography
CN110475058B (en) * 2018-05-10 2021-06-01 宏碁股份有限公司 Image synthesis method and intelligent device
CN114372167B (en) * 2021-12-31 2025-07-08 浙江大华技术股份有限公司 Image processing method and device

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002176478A (en) * 2000-09-29 2002-06-21 Mitsubishi Electric Corp Mobile phone
JP2003060765A (en) * 2001-08-16 2003-02-28 Nec Corp Portable communication terminal with camera
US7454707B2 (en) * 2002-09-30 2008-11-18 Canon Kabushiki Kaisha Image editing method, image editing apparatus, program for implementing image editing method, and recording medium recording program
JP3948387B2 (en) * 2002-10-24 2007-07-25 松下電器産業株式会社 Digital camera and mobile phone device with digital camera
JP5309291B2 (en) * 2005-04-25 2013-10-09 株式会社ジオ技術研究所 Shooting position analysis method
KR100840023B1 (en) * 2007-11-13 2008-06-20 (주)올라웍스 How to help frame your face when taking self-portraits
JP4944055B2 (en) * 2008-03-19 2012-05-30 富士フイルム株式会社 Imaging apparatus and imaging control method
JP2009272840A (en) * 2008-05-03 2009-11-19 Olympus Imaging Corp Image recording/reproducing device, image recording/reproducing method, image processing device, and image processing method
JP4623199B2 (en) * 2008-10-27 2011-02-02 ソニー株式会社 Image processing apparatus, image processing method, and program

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2940989A1 (en) * 2014-05-02 2015-11-04 Samsung Electronics Co., Ltd Method and apparatus for generating composite image in electronic device
US9774843B2 (en) 2014-05-02 2017-09-26 Samsung Electronics Co., Ltd. Method and apparatus for generating composite image in electronic device
JP2024008639A (en) * 2022-07-08 2024-01-19 Lineヤフー株式会社 Information processing device, information processing method, and information processing program

Also Published As

Publication number Publication date
CN104869294A (en) 2015-08-26
CN102790852A (en) 2012-11-21
CN102790852B (en) 2015-06-24
CN104869294B (en) 2018-06-01

Similar Documents

Publication Publication Date Title
US8970717B2 (en) Photographing apparatus
JP5814566B2 (en) IMAGING DEVICE, IMAGING METHOD, AND IMAGING DEVICE CONTROL PROGRAM
JP5564384B2 (en) Image generation program, imaging apparatus, imaging system, and image generation method
US8525894B2 (en) Camera and camera control method
US9332182B2 (en) Image recording and playback device, and image recording and playback method
JP6192940B2 (en) Photography equipment and cooperative photography method
US8547420B2 (en) Image pickup apparatus
CN102111542B (en) Image processing apparatus, imaging apparatus and image processing method
US11778330B2 (en) Image capture device with a spherical capture mode and a non-spherical capture mode
CN102045504A (en) Photography device, image processing device and image processing method
WO2013155804A1 (en) Photograph shooting method and electronic device
JP2012244245A (en) Imaging apparatus, control method of imaging apparatus, image display apparatus, image display method, and program
JP2009272840A (en) Image recording/reproducing device, image recording/reproducing method, image processing device, and image processing method
WO2020059327A1 (en) Information processing device, information processing method, and program
JP5509287B2 (en) Reproduction display device, reproduction display program, reproduction display method, and image processing server
JP5027069B2 (en) Imaging device
JP5106240B2 (en) Image processing apparatus and image processing server
JP2023136245A (en) Imaging apparatus and control method of the same
JP2014027691A (en) Camera, control method of camera, display control device, and display control method

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20140805