[go: up one dir, main page]

WO2012086326A1 - 立体パノラマ画像作成装置、立体パノラマ画像作成方法及び立体パノラマ画像作成プログラム並びに立体パノラマ画像再生装置、立体パノラマ画像再生方法及び立体パノラマ画像再生プログラム、記録媒体 - Google Patents

立体パノラマ画像作成装置、立体パノラマ画像作成方法及び立体パノラマ画像作成プログラム並びに立体パノラマ画像再生装置、立体パノラマ画像再生方法及び立体パノラマ画像再生プログラム、記録媒体 Download PDF

Info

Publication number
WO2012086326A1
WO2012086326A1 PCT/JP2011/075672 JP2011075672W WO2012086326A1 WO 2012086326 A1 WO2012086326 A1 WO 2012086326A1 JP 2011075672 W JP2011075672 W JP 2011075672W WO 2012086326 A1 WO2012086326 A1 WO 2012086326A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
stereoscopic
shift amount
panoramic
panorama
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2011/075672
Other languages
English (en)
French (fr)
Inventor
覚 若林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2012549683A priority Critical patent/JP5214826B2/ja
Priority to CN201180026719.7A priority patent/CN102918858B/zh
Publication of WO2012086326A1 publication Critical patent/WO2012086326A1/ja
Priority to US13/682,292 priority patent/US8687041B2/en
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • G03B35/10Stereoscopic photography by simultaneous recording having single camera with stereoscopic-base-defining system
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B37/00Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
    • G03B37/02Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with scanning movement of lens or cameras
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B37/00Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
    • G03B37/04Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with cameras or projectors providing touching or overlapping fields of view
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure

Definitions

  • the present invention relates to a stereoscopic panorama image creating apparatus, method and program, and stereoscopic panoramic image reproducing apparatus, method and program, and a recording medium, and more particularly to a stereoscopic panoramic image based on a plurality of stereoscopic images shot by panning a stereoscopic imaging apparatus.
  • the present invention relates to a stereoscopic panorama image creation apparatus, method, and program to be created, and a stereoscopic panorama image playback apparatus, method, program, and recording medium for scroll playback or frame-by-frame playback of a stereoscopic panorama image.
  • Patent Document 2 describes that the parallax of a stereoscopic image is adjusted. This adjustment adjusts the positional relationship between the parallax barrier and the pixels of the stereoscopic image in a parallax barrier viewer. It is.
  • the stereoscopic image correction apparatus described in Patent Literature 4 detects the amount of parallax between the left-eye image and the right-eye image that form the stereoscopic image, and adjusts the amount of parallax to adjust the amount of projection or pull-in of the stereoscopic image. I try to control the amount.
  • Patent Document 1 includes a description of creating panoramic images for left viewing and right viewing by combining slit images cut out in a slit shape from continuous captured images. However, in the specification of Patent Document 1, there is no description regarding creation of panoramic images for left viewing and right viewing.
  • the 3D panoramic image is larger than the aspect ratio (4: 3, 16: 9) of the screen of a normal 3D display
  • the screen of the 3D display The upper and lower sides are masked and displayed.
  • the 3D panoramic image is enlarged so that the vertical width of the 3D panoramic image matches the vertical width of the 3D display.
  • the enlarged 3D panoramic image is scroll-reproduced or divided into a plurality of frames so that the 3D panoramic image has the aspect ratio of the 3D display, and the divided frames are reproduced by frame-by-frame reproduction.
  • the present invention has been made in view of such circumstances, and a stereoscopic panorama image creation apparatus capable of automatically adjusting parallax for each scroll position or frame when a stereoscopic panoramic image is scroll-reproduced or frame-by-frame reproduced. It is an object of the present invention to provide a method, a program, a stereoscopic panorama image reproduction apparatus, a method, a program, and a recording medium.
  • a stereoscopic panorama image creating apparatus is a stereoscopic image composed of a left image and a right image photographed by a stereoscopic imaging apparatus, and the stereoscopic imaging apparatus is fixed.
  • a stereoscopic image acquisition unit that acquires a plurality of stereoscopic images that are continuously shot while swinging in a direction, and a left image of the plurality of stereoscopic images acquired by the stereoscopic image acquisition unit are combined with each other, and a right image
  • a stereoscopic panorama image creating unit that creates a stereoscopic panorama image composed of left and right panoramic images by combining them, and a left image and a right image of a plurality of stereoscopic images acquired by the stereoscopic image acquisition unit, or the created
  • Corresponding point detection means for detecting a plurality of corresponding points for parallax adjustment, which are corresponding points whose features match between the left and right panoramic images of the stereoscopic panorama image
  • Image shift amount calculating means for calculating a plurality of image shift amounts for setting the parallaxes of the detected corresponding points to a predetermined amount of parallax, and recording the created stereoscopic panoramic image on a recording medium
  • Recording means for as
  • a plurality of corresponding points for parallax adjustment are detected for a stereoscopic panoramic image. Then, together with the position information of each corresponding point on the stereoscopic panoramic image, the image shift amount for setting the parallax of each corresponding point to a predetermined parallax amount is recorded on the recording medium as the attached information of the stereoscopic panoramic image. For this reason, when the stereoscopic panorama image is played back by scrolling or frame-by-frame playback, the amount of parallax can be automatically adjusted for each scroll position or frame by using the attached information.
  • the corresponding point detecting unit is configured for each set of a left image and a right image of the stereoscopic image acquired by the stereoscopic image acquiring unit.
  • a pair of corresponding points is detected, and the image shift amount calculating means is configured to calculate an image shift amount for making the parallax of the detected corresponding points the predetermined amount of parallax.
  • the image shift amount is calculated and recorded by the number of stereoscopic images used for the synthesis of the stereoscopic panoramic image. Further, it is possible to calculate the image shift amount before creating the stereoscopic panoramic image.
  • the corresponding point detecting means is configured to detect from the vicinity of the center of the stereoscopic image for each set of the left image and the right image of the stereoscopic image.
  • the set of corresponding points is configured to be detected.
  • the image shift amount calculating means detects a required corresponding point from the vicinity of the center of the stereoscopic image by the corresponding point detecting means. If not, the image shift amount set in advance is used as the calculated value, or the image shift amount is calculated by interpolating adjacent image shift amounts. As a result, the image shift amount can be obtained even when a corresponding point having a characteristic near the center of the stereoscopic image is not detected.
  • the stereoscopic panorama image creation means includes a plurality of stereoscopic images acquired by the stereoscopic image acquisition means.
  • the three-dimensional panoramic image is formed by joining the strip-shaped slit images near the center of the image.
  • the stereoscopic panorama image creating apparatus is the above-described first aspect, wherein a plurality of stereoscopic images acquired by the stereoscopic image acquisition means or the generated stereoscopic panoramic image are included in the required one.
  • Object detection means for detecting an object is further provided, and the corresponding point detection means is configured to detect a corresponding point for each object detected by the object detection means.
  • the object detection means detects, for example, an object that is a main subject such as an artificial building such as a building or a wall in addition to a human face. This makes it possible to automatically perform parallax adjustment for each object detected in the stereoscopic panoramic image when the stereoscopic panoramic image is scrolled or frame-by-frame reproduced.
  • the stereoscopic panorama image creating apparatus is the stereoscopic panorama image creating apparatus according to any one of the first to sixth aspects, wherein each corresponding point is based on a plurality of image shift amounts calculated by the image shift amount calculation means.
  • Interpolation means for calculating a continuous pixel shift amount by interpolating the pixel shift amount between, and the recording means together with the plurality of image shift amounts calculated by the image shift amount calculation means The image shift amount calculated by the means is recorded on the recording medium. According to this, when the stereoscopic panorama image is scroll-reproduced, the parallax adjustment can be continuously performed using the image shift amount calculated by interpolation.
  • a stereoscopic panoramic image creation device is the one in any of the first to sixth aspects, wherein the predetermined amount of parallax is zero.
  • a stereoscopic panorama image reproducing apparatus comprises: a reading unit that reads a stereoscopic panorama image and attached information of the stereoscopic panorama image from the recording medium according to any one of the first to eighth aspects;
  • the read stereoscopic panorama image is enlarged to a predetermined magnification, and the enlarged stereoscopic panorama image is scrolled and reproduced on a stereoscopic display automatically or by manual input, or the stereoscopic panorama image is divided into a plurality of frames.
  • Playback unit for frame-by-frame playback for each frame, and the stereoscopic display from among a plurality of image shift amounts recorded as auxiliary information of the stereoscopic panorama image at the time of scroll playback or frame-by-frame playback of the stereoscopic panorama image by the playback unit
  • One image shift amount corresponding to the stereoscopic image in the screen is selected, and based on the selected image shift amount.
  • the stereoscopic panorama image recorded on the recording medium according to any one of the first to eighth aspects and the attached information (a plurality of image shift amounts, etc.) of the stereoscopic panorama image are read. . Then, the read stereoscopic panorama image is enlarged to a predetermined magnification, and the enlarged stereoscopic panorama image is scrolled and reproduced on the stereoscopic display automatically or by manual instruction input, or the stereoscopic panorama image is divided into a plurality of frames. When frame-by-frame playback is performed for each frame, parallax adjustment can be automatically performed for each scroll position or for each frame using the attached information.
  • the predetermined magnification is preferably a magnification in which the vertical width of the stereoscopic panorama image matches the vertical width of the stereoscopic display, but may be larger or smaller than this magnification. Further, the predetermined magnification may be adjusted as appropriate.
  • a stereoscopic panorama image reproduction device includes a stereoscopic panorama image acquisition unit that acquires a stereoscopic panorama image composed of left and right panoramic images, and the stereoscopic panorama image prior to reproduction of the acquired stereoscopic panorama image.
  • corresponding point detecting means for detecting a plurality of corresponding points for parallax adjustment, and parallax of the detected plurality of corresponding points
  • An image shift amount calculating means for calculating an image shift amount for obtaining a parallax amount, position information on the stereoscopic panorama image of the plurality of corresponding points for parallax adjustment, and the calculated plurality of image shift amounts are stored in association with each other.
  • Storage means for enlarging the acquired stereoscopic panorama image to a predetermined magnification, and automatically or manually inputting the enlarged stereoscopic panorama image by inputting a manual instruction.
  • Playback means for scrolling playback on the play or frame-by-frame playback for each divided frame obtained by dividing the stereoscopic panorama image into a plurality of frames, and the stereoscopic panorama image at the time of scroll playback or frame-by-frame playback of the stereoscopic panorama image by the playback means And selecting one image shift amount corresponding to the stereoscopic image in the screen of the stereoscopic display from among the plurality of image shift amounts stored in the storage means corresponding to the image, and based on the selected image shift amount Parallax adjusting means for adjusting parallax of the stereoscopic image.
  • the tenth aspect is a stereoscopic panorama image reproduction apparatus in the case where accessory information (attached information such as a plurality of image shift amounts) of a stereoscopic panorama image cannot be acquired from a recording medium.
  • the stereoscopic panorama image reproduction device Prior to the reproduction of the stereoscopic panorama image, the stereoscopic panorama image reproduction device detects corresponding points at which the features of the left and right panoramic images match, and detects a plurality of corresponding points for parallax adjustment. An image shift amount for setting the parallax to a predetermined parallax amount is calculated, and positional information on the stereoscopic panorama image of the plurality of corresponding points for parallax adjustment and the calculated plurality of image shift amounts are stored in association with each other.
  • parallax adjustment is performed during scroll playback or frame advance playback of a stereoscopic panoramic image. Note that the parallax adjustment during scroll reproduction or frame advance reproduction is performed in the same manner as in the ninth aspect.
  • the stereoscopic panorama image reproduction apparatus is such that the corresponding point detecting means corresponds to one set for each slit image obtained by dividing the panoramic image into strip-shaped slit images. It is configured to detect points.
  • the image shift amount calculating means detects a required corresponding point from the vicinity of the center of the stereoscopic image by the corresponding point detecting means. If not, the image shift amount set in advance is used as the calculated value, or the image shift amount is calculated by interpolating adjacent image shift amounts.
  • the stereoscopic panorama image reproduction device is the tenth aspect, further comprising object detection means for detecting a required object included in the acquired stereoscopic panorama image, and the corresponding point detection.
  • the means is configured to detect a corresponding point for each object detected by the object detection means.
  • the stereoscopic panoramic image reproduction device is the stereoscopic panoramic image reproduction device according to any one of the tenth to thirteenth aspects, wherein each corresponding point is based on a plurality of image shift amounts calculated by the image shift amount calculation means.
  • Interpolation means for calculating a continuous pixel shift amount by interpolating the pixel shift amount between, and the storage means, together with a plurality of image shift amounts calculated by the image shift amount calculation means, the interpolation calculation The image shift amount calculated by the means is stored.
  • a stereoscopic panoramic image reproduction device is the stereoscopic panorama image reproducing apparatus according to any one of the tenth to fourteenth aspects, wherein the predetermined amount of parallax is zero.
  • the parallax adjusting means shifts the image closest to the screen center of the stereoscopic display or the screen center. An amount is selected, and the parallax adjustment of the stereoscopic image is performed based on the selected image shift amount.
  • the parallax amount of the subject at or near the center of the screen of the stereoscopic display can be set to the predetermined parallax amount, and the subject can be easily viewed stereoscopically.
  • the predetermined amount of parallax when the predetermined amount of parallax is zero, the subject of interest is displayed in a two-dimensional manner and is most easily seen.
  • the predetermined amount of parallax may be set to an appropriate value, and the amount of parallax may be adjusted so that the subject of interest jumps out slightly forward.
  • the stereoscopic panorama image reproduction device is the stereoscopic panorama image reproduction device according to any one of the ninth to sixteenth aspects, wherein the reproduction means scrolls and reproduces the stereoscopic panorama image by manual instruction input.
  • the image shift amount corresponding to the three-dimensional image in the three-dimensional display screen displayed at the start of scrolling is selected until the scroll is stopped, and the three-dimensional display screen displayed at the stop of scrolling is selected.
  • One image shift amount corresponding to the three-dimensional image is selected, and the parallax adjustment of the stereoscopic image is performed based on the selected image shift amount. Since the parallax adjustment during scrolling is fixed in this way, eye strain due to parallax fluctuation can be reduced, and parallax adjustment corresponding to the stopped stereoscopic image can be performed when scrolling is stopped.
  • the stereoscopic panorama image reproduction device is the stereoscopic panoramic image reproduction apparatus according to any one of the ninth to sixteenth aspects, wherein the reproduction unit is configured to perform the left image and right image during scrolling by scroll reproduction based on manual instruction input. Only one image is displayed on the stereoscopic display, and a stereoscopic image is displayed on the stereoscopic display when scrolling is stopped, and the parallax adjusting means is displayed when the scrolling is stopped when the scrolling is stopped. One image shift amount corresponding to the stereoscopic image in the screen of the stereoscopic display is selected, and the parallax adjustment of the stereoscopic image is performed based on the selected image shift amount. As described above, since the planar image is displayed during the scrolling, it is possible to reduce eye strain and to adjust the parallax corresponding to the stopped stereoscopic image when the scrolling is stopped.
  • the reproducing means displays the entire stereoscopic panoramic image on the stereoscopic display,
  • the three-dimensional panoramic image is enlarged to a predetermined magnification and scrolled or frame-by-frame reproduced.
  • a stereoscopic panorama image creating method is a stereoscopic image composed of a left image and a right image captured by a stereoscopic imaging device, and the stereoscopic imaging device is swung in a certain direction and continuously.
  • 3D image acquisition step for acquiring a plurality of captured 3D images, and a 3D panorama image composed of left and right panorama images by combining left images of the acquired 3D images and combining the right images.
  • 3D panorama image creation step for creating an image and correspondence between the left image and the right image of the acquired plurality of 3D images, or between the left and right panorama images of the created 3D panorama image
  • An image shift amount calculating step for calculating an image shift amount, recording the created stereoscopic panoramic image on a recording medium, position information on the stereoscopic panoramic image of the plurality of corresponding points for parallax adjustment, and the calculated plural
  • the three-dimensional panoramic image creation method is the method according to the twentieth aspect, wherein the corresponding point detection step is performed for each pair of the left image and the right image of the acquired three-dimensional image. Detecting a point, and the image shift amount calculating step specifies a set of corresponding points from the corresponding points detected for each of the stereoscopic images, and sets the parallax of the corresponding points to the predetermined amount of parallax. The image shift amount is calculated.
  • the corresponding point detection step is performed from the vicinity of the center of the stereoscopic image for each set of the left image and the right image of the stereoscopic image.
  • the set of corresponding points is configured to be detected.
  • the image shift amount calculating step detects a required corresponding point from the vicinity of the center of the stereoscopic image by the corresponding point detecting step. If not, the image shift amount set in advance is used as the calculated value, or the image shift amount is calculated by interpolating adjacent image shift amounts.
  • the stereoscopic panoramic image creating step includes the vicinity of the center of the plurality of acquired stereoscopic images.
  • the three-dimensional panoramic image is formed by connecting the strip-shaped slit images.
  • the three-dimensional panoramic image creation method is the object according to the twentieth aspect, wherein the object detects a plurality of acquired three-dimensional images or a required object included in the created three-dimensional panoramic image.
  • the method further includes a detecting step, and the corresponding point detecting step is configured to detect a corresponding point for each object detected by the object detecting means.
  • the stereoscopic panoramic image creation method is the method for creating a stereoscopic panorama image according to any one of the twentieth to the twenty-fifth aspects, based on the plurality of image shift amounts calculated by the image shift amount calculation step.
  • An interpolation calculation step of calculating a continuous pixel shift amount by interpolating a pixel shift amount between the plurality of image shift amounts calculated by the image shift amount calculation step, and the interpolation calculation step The image shift amount calculated in the step is recorded on the recording medium.
  • the stereoscopic panoramic image creation method according to the twenty-seventh aspect of the present invention is the method according to any one of the twentieth to twenty-fifth aspects, wherein the predetermined amount of parallax is zero.
  • the three-dimensional panoramic image reproduction method includes a reading step of reading out the three-dimensional panoramic image and the attached information of the three-dimensional panoramic image from the recording medium according to any one of the twentieth to twenty-seventh aspects.
  • the read stereoscopic panorama image is enlarged to a predetermined magnification, and the enlarged stereoscopic panorama image is scrolled and reproduced on a stereoscopic display automatically or by manual input, or the stereoscopic panorama image is divided into a plurality of frames.
  • the 3D display is selected from among a playback step for frame-by-frame playback for each frame and a plurality of image shift amounts recorded as auxiliary information of the stereoscopic panorama image during scroll playback or frame-by-frame playback of the stereoscopic panorama image in the playback step. Select one image shift amount corresponding to the three-dimensional image in the screen of And a parallax adjustment step of performing parallax adjustment of the stereo image based on the image shift amount.
  • a stereoscopic panorama image reproduction method includes a stereoscopic panorama image acquisition step of acquiring a stereoscopic panorama image composed of left and right panoramic images, and prior to reproduction of the acquired stereoscopic panorama image, the stereoscopic panorama image.
  • a corresponding point detecting step for detecting a plurality of corresponding points for parallax adjustment, and the parallax of the detected plurality of corresponding points
  • An image shift amount calculating step for calculating an image shift amount for obtaining a parallax amount, the positional information on the stereoscopic panorama image of the plurality of corresponding points for parallax adjustment, and the calculated plurality of image shift amounts are stored in association with each other. And storing the obtained stereoscopic panoramic image at a predetermined magnification, and automatically or manually inputting the enlarged stereoscopic panoramic image.
  • One image shift amount corresponding to the stereoscopic image in the screen of the stereoscopic display is selected from a plurality of image shift amounts stored in the storage unit corresponding to the panoramic image, and the selected image shift amount is set as the selected image shift amount.
  • a parallax adjustment step for adjusting the parallax of the stereoscopic image based on the parallax.
  • the corresponding point detecting step includes one set of correspondence for each slit image obtained by dividing the panoramic image into strip-shaped slit images. It is configured to detect points.
  • the image shift amount calculating step detects a required corresponding point from the vicinity of the center of the stereoscopic image by the corresponding point detecting step. If not, the image shift amount set in advance is used as the calculated value, or the image shift amount is calculated by interpolating adjacent image shift amounts.
  • the stereoscopic panorama image reproduction method in the twenty-ninth aspect, further includes an object detection step of detecting a required object included in the acquired stereoscopic panorama image, and the corresponding point detection The step is configured to detect a corresponding point for each object detected by the object detection step.
  • the three-dimensional panoramic image reproduction method is based on a plurality of image shift amounts calculated by the image shift amount calculation step.
  • the method further includes an interpolation calculation step of interpolating the pixel shift amount to calculate a continuous pixel shift amount, and the storing step is calculated by the interpolation calculation step together with a plurality of image shift amounts calculated by the image shift amount calculation step.
  • the image shift amount is stored.
  • a stereoscopic panoramic image reproduction method is the method according to any one of the twenty-ninth to thirty-third aspects, wherein the predetermined amount of parallax is zero.
  • the parallax adjustment step is performed by shifting the image closest to the screen center of the three-dimensional display or the screen center. An amount is selected, and the parallax adjustment of the stereoscopic image is performed based on the selected image shift amount.
  • the parallax adjustment step scrolls and reproduces the stereoscopic panorama image by manual instruction input in the reproduction step.
  • one image shift amount corresponding to the three-dimensional image in the screen of the three-dimensional display displayed at the start of the scroll by the manual instruction input is selected until the scroll is stopped, and is displayed when the scroll is stopped when the scroll is stopped.
  • One image shift amount corresponding to a three-dimensional image in the screen of the three-dimensional display is selected, and the parallax adjustment of the three-dimensional image is performed based on the selected image shift amount.
  • the reproduction step includes the left image and the right image during scrolling by scroll reproduction based on manual instruction input. Only one image is displayed on the stereoscopic display, and a stereoscopic image is displayed on the stereoscopic display when scrolling is stopped. The parallax adjustment step is displayed when the scrolling is stopped when the scrolling is stopped. One image shift amount corresponding to the stereoscopic image in the screen of the stereoscopic display is selected, and the parallax adjustment of the stereoscopic image is performed based on the selected image shift amount.
  • the reproduction step displays the entire stereoscopic panoramic image on the stereoscopic display,
  • the three-dimensional panoramic image is enlarged to a predetermined magnification and scrolled or frame-by-frame reproduced.
  • the stereoscopic panoramic image reproduction program according to the thirty-ninth aspect of the present invention is configured to realize the stereoscopic panoramic image creation apparatus according to any one of the first to eighth aspects by a computer.
  • the stereoscopic panorama image creation program according to the 40th aspect of the present invention is configured so that the stereoscopic panorama image reproduction apparatus according to any one of the ninth to 19th aspects is realized by a computer.
  • the shift amount was calculated and recorded. For this reason, when the stereoscopic panorama image is scroll-played or frame-by-frame played, the parallax adjustment can be automatically performed for each scroll position or each frame using the recorded image shift amount. Thereby, scroll reproduction or frame advance reproduction of a stereoscopic panoramic image that is easily stereoscopically viewed can be performed.
  • FIG. 1 is a front perspective view of a stereoscopic imaging apparatus according to an embodiment of the present invention.
  • 1 is a rear perspective view of a stereoscopic imaging apparatus according to an embodiment of the present invention.
  • the block diagram which shows the internal structure of the three-dimensional imaging device of FIG.
  • the figure which shows the imaging
  • photography method of 3D image for 3D panorama composition A figure for explaining 3D panorama composition etc.
  • a figure for explaining 3D panorama composition etc. A figure for explaining 3D panorama composition etc.
  • a chart showing an example of attached information in which the CP amount ( ⁇ x) is recorded in association with the coordinates (x, y) of the cross point CP of each 3D image Flowchart showing a 3D panorama image creation 3D image acquisition and 3D panorama composition processing procedure
  • regeneration method of 3D panoramic image The figure which shows the display screen of the liquid crystal monitor which displays the whole 3D panoramic image
  • FIG. 1A and 1B are external views of a stereoscopic imaging apparatus according to an embodiment of the present invention.
  • FIG. 1A is a perspective view of the stereoscopic imaging device 1 as viewed obliquely from above
  • FIG. 1B is a perspective view of the stereoscopic imaging device 1 as viewed from the back.
  • the stereoscopic imaging apparatus 1 is provided with left and right imaging units L and R.
  • these image capturing units are referred to as a first image capturing unit L and a second image capturing unit R for distinction.
  • the first imaging unit L and the second imaging unit R are arranged side by side so as to be able to acquire an image signal for stereoscopic viewing.
  • these imaging units L and R the left imaging unit and the right imaging unit R are arranged.
  • Each image signal is created.
  • the power switch 10A on the upper surface of the stereoscopic imaging apparatus 1 in FIGS. 1A and 1B is operated, and the shooting mode dial 10B is set to a mode called, for example, a stereoscopic mode, and the shutter button 10C is operated, an image for stereoscopic viewing is displayed.
  • Data is created by both imaging units L and R.
  • the shutter button 10 ⁇ / b> C included in the stereoscopic imaging device 1 of this embodiment has two operation modes of half pressing and full pressing.
  • exposure adjustment and focus adjustment are performed when the shutter button 10C is half-pressed, and shooting is performed when the shutter button 10C is fully pressed.
  • a flash light emission window WD that emits a flash toward the subject when the field luminance is dark is provided above the imaging unit L.
  • a liquid crystal monitor DISP capable of three-dimensional display is provided on the back surface of the stereoscopic imaging device 1, and the same image captured by both imaging units L and R is provided on this liquid crystal monitor DISP.
  • the subject is displayed as a stereoscopic image.
  • the LCD monitor DISP those that use lenticular lenses and parallax barriers, and those that can see the right and left images separately by wearing special glasses such as polarized glasses and liquid crystal shutter glasses are applicable. it can.
  • operators such as a zoom switch 10D, a menu / OK button 10E, and a cross key 10F are also provided.
  • the operation switch group including the power switch 10A, the shooting mode dial 10B, the shutter button 10C, the zoom switch 10D, the menu / OK button 10E, and the cross key 10F may be collectively referred to as the operation unit 10.
  • FIG. 2 is a block diagram illustrating an internal configuration of the stereoscopic imaging apparatus 1 of FIGS. 1A and 1B. The internal configuration of the stereoscopic imaging apparatus 1 will be described with reference to FIG.
  • the operation of the stereoscopic imaging apparatus 1 is comprehensively controlled by a main CPU (Central Processing Unit) 100.
  • a main CPU Central Processing Unit
  • a ROM (read-only memory) 101 is connected to the main CPU 100 via a bus Bus.
  • the ROM 101 stores a program necessary for the operation of the stereoscopic imaging apparatus 1.
  • the main CPU 100 comprehensively controls the operation of the stereoscopic imaging apparatus 1 in accordance with a command from the operation unit 10.
  • the mode dial 10B of the operation unit 10 includes an auto shooting mode, a manual shooting mode, a scene position such as a person, a landscape, and a night view, a moving image mode for shooting a moving image, and a stereoscopic (3D) panoramic image shooting mode and 3D panorama according to the present invention.
  • This is a selection means for selecting an image reproduction mode.
  • a playback button (not shown) of the operation unit 10 is a button for switching to a playback mode in which a captured still image or moving image is displayed on the liquid crystal monitor DISP.
  • the menu / OK button 10E has a function as a menu button for instructing to display a menu on the screen of the liquid crystal monitor DISP and an operation as an OK button for instructing confirmation and execution of selection contents. Key.
  • the cross key 10F is an operation unit for inputting instructions in four directions, up, down, left, and right, and serves as a button (cursor moving operation means) for selecting an item from the menu screen or instructing selection of various setting items from each menu.
  • the up / down key of the cross key 10F functions as a zoom switch during shooting or a playback zoom switch in playback mode
  • the left / right key functions as a frame advance (forward / reverse feed) button in playback mode. To do.
  • the main CPU 100 controls the power supply control unit 1001 to supply power from the battery Bt to each unit in FIG. 2 through the power supply control unit 1001.
  • the stereoscopic imaging apparatus 1 is shifted to the operating state.
  • the main CPU 100 starts the photographing process.
  • the AF (automatic focus) detection unit 120, the AE / AWB (automatic exposure / automatic white balance) detection unit 130, the image input controller 114A, the digital signal processing unit 116A, and the 3D image creation unit 117 are a DSP (Digital Signal). It is assumed that the main CPU 100 executes processing in cooperation with the DSP.
  • DSP Digital Signal
  • the first imaging unit L includes a first imaging optical system 110A including a first focus lens FLA, and a first focus lens driving unit (hereinafter referred to as an optical axis direction) that moves the first focus lens FLA.
  • 104A (referred to as a first F lens driving unit) and a first image sensor 111A that receives subject light formed by the subject being imaged by the first photographing optical system and creates an image signal representing the subject. Is provided.
  • the first photographing optical system 110A is further provided with a first diaphragm IA and a first diaphragm driver 105A that changes the aperture diameter of the first diaphragm IA.
  • the first imaging optical system 100A includes a zoom lens ZLA. There is provided a Z lens driving unit 103A that performs control for setting the zoom lens ZLA to a predetermined focal length.
  • a single lens ZL schematically shows that the entire photographing optical system is a zoom lens.
  • the second imaging unit R also includes a photographing optical system including the second focus lens FLB and a second focusing lens FLB that moves the second focus lens FLB in the direction about the optical axis.
  • Two focus lens driving units hereinafter referred to as second F lens driving unit
  • the second image sensor 111B is provided.
  • the first imaging unit L and the second imaging unit R generate a stereoscopic image signal, that is, the first imaging unit L generates a left image signal, and the second imaging unit R generates a right image signal. Each image signal is created.
  • the first image pickup unit L and the second image pickup unit R have the same configuration only in whether a left image signal is generated or a right image signal is generated.
  • the first A / D The same applies to the signal processing after the image signal of both imaging units is converted into a digital signal by the conversion unit 113A and the second A / D conversion unit 113B and led to the bus Bus. Therefore, hereinafter, the configuration of the first imaging unit L will be described along the flow of the image signal.
  • the main CPU 100 controls the power supply control unit 1001 to supply power from the battery Bt to each unit to shift the stereoscopic imaging device 1 to the operating state. .
  • the main CPU 100 first controls the F lens driving unit 104A and the aperture driving unit 105A to start adjusting exposure and focus. Further, the timing generator (TG) 106A is instructed to cause the image sensor 111A to set the exposure time by the electronic shutter, and an image signal is sent from the image sensor 111A to the analog signal processor 112A every predetermined time (for example, 1/60 second). Output.
  • TG timing generator
  • the timing signal is supplied from the TG 106A, and the image signal is supplied from the image sensor 111A every predetermined time, and noise reduction processing is performed. Then, the analog image signal subjected to the noise reduction process is supplied to the A / D converter 113A in the next stage.
  • the A / D converter 113A also performs conversion processing from an analog image signal to a digital image signal every predetermined time in synchronization with the timing signal from the TG 106A.
  • the digital image signal thus converted and output by the A / D conversion unit 113A is guided to the bus Bus every predetermined time by the image input controller 114A.
  • the image signal guided to the bus Bus is stored in an SDRAM (Synchronous Dynamic Random Access Memory) 115. Since an image signal is output from the image sensor 111A every predetermined time, the contents of the SDRAM 115 are rewritten every predetermined time.
  • SDRAM Synchronous Dynamic Random Access Memory
  • the image signals stored in the SDRAM 115 are read at predetermined time intervals by the DSPs constituting the AF detection unit 120, the AE / AWB detection unit 130, and the digital signal processing unit 116A.
  • the high frequency component of the image signal in the focus area is extracted every predetermined time during which the main CPU 100 controls the F lens driving unit 104A to move the focus lens FLA, and the high frequency component is extracted.
  • the main CPU 100 acquires the AF evaluation value calculated by the AF detection unit 120, and moves the first focus lens FLA to the lens position (focus position) where the AF evaluation value is maximized via the F lens driving unit 104A. Let For this reason, the focus is immediately adjusted no matter which direction the first image pickup unit L is directed, and the focused subject is displayed almost always on the liquid crystal monitor DISP.
  • the AE / AWB detection unit 130 detects the subject luminance and calculates the gain set in the white balance amplifier in the digital signal processing unit 116A at predetermined time intervals.
  • the main CPU 100 changes the aperture diameter of the diaphragm IA by controlling the diaphragm driver 105A according to the luminance detection result of the AE / AWB detector 130.
  • the digital signal processing unit 116A receives the detection result from the AE / AWB detection unit 130 and sets the gain of the white balance amplifier.
  • the digital signal processing unit 116A processing is performed so as to obtain an image signal suitable for display. Then, the image signal converted into one suitable for display by the signal processing of the digital signal processing unit 116A is supplied to the 3D image creation unit 117, and the 3D image creation unit 117 displays the right image signal for display. Is created, and the created right image signal is stored in a VRAM (Video Random Access Memory) 118.
  • VRAM Video Random Access Memory
  • the VRAM 118 stores two types of image signals for right and left.
  • the main CPU 100 transfers the right image signal and the left image signal in the VRAM 118 to the display control unit 119 to display an image on the liquid crystal monitor DISP.
  • the image on the liquid crystal monitor DISP can be seen stereoscopically by human eyes. Since the image signals are continuously output from the first and second imaging elements 111A and 111B every predetermined time, the image signal in the VRAM 118 is rewritten every predetermined time, and the stereoscopic image on the liquid crystal monitor DISP is also displayed for the predetermined time.
  • the three-dimensional image is displayed as a moving image.
  • the main CPU 100 immediately before the shutter button 10C is fully pressed by the AE / AWB detection unit 130.
  • the detected AE value is received, and the first and second diaphragms IA and IB are made to have a diaphragm diameter corresponding to the AE value via the first and second diaphragm drivers 105A and 105B.
  • the main CPU 100 moves the first focus lens FLA and the second focus lens FLB to a predetermined level via the first F lens driving unit 104A and the second F lens driving unit 104B.
  • the AF evaluation value is calculated by the AF detection unit 120 while moving within the search range.
  • the main CPU 100 Based on the AF evaluation value calculated by the AF detection unit 120, the main CPU 100 detects the lens position of the first focus lens FLA and the lens position of the second focus lens FLB that maximize the AF evaluation value. The first focus lens FLA and the second focus lens FLB are moved to the first lens position and the second lens position, respectively.
  • the main CPU 100 When the shutter button 10C is fully pressed, the main CPU 100 exposes the first image sensor 111A and the second image sensor 111B through the first and second TG1006A and 106B at a predetermined shutter speed, Have a still image shot.
  • the main CPU 100 outputs image signals from the first and second imaging elements 111A and 111B to the first and second analog signal processing units 112A and 112B at the timing when the electronic shutter is turned off, so that the first and second analog signals are output.
  • the signal processing units 112A and 112B are caused to perform noise reduction processing. Thereafter, the first and second A / D converters 113A and 113B convert the analog image signal into a digital image signal.
  • the first and second image input controllers 114A send the digital image signals converted by the first and second A / D converters 113A and 113B via the bus Bus.
  • the digital signal processing units 116A and 116B read out the image signal of the SDRAM 115, R (Red), G (Green), B (according to white balance correction, gamma correction, and color filter array of a single CCD (Charge Coupled Device).
  • the main CPU 100 supplies the right image signal and the left image signal in the 3D image creation unit 117 to the compression / decompression processing unit 150 using the bus Bus.
  • the main CPU 100 causes the compression / decompression processing unit 150 to compress the image data, and then transfers the compressed image data to the media control unit using the bus Bus, and header information related to the compression and shooting.
  • Is supplied to the media control unit 160, and the media control unit 160 creates an image file of a predetermined format (for example, a 3D still image is an MP (multi-picture) format image file) and records the image file on the memory card 161.
  • a predetermined format for example, a 3D still image is an MP (multi-picture) format image file
  • the main CPU 100 When the 3D panoramic image shooting mode is selected by the mode dial 10B of the operation unit 10, the main CPU 100 performs processing for shooting a plurality of stereoscopic images necessary for 3D panoramic composition.
  • the 3D image creation unit 117 functions as an image processing unit that creates a 3D panoramic image from a plurality of 3D images (a plurality of left images and a plurality of right images) photographed in the 3D panorama image photographing mode. Details of the operation of the stereoscopic imaging device 1 in the 3D panoramic image shooting mode will be described later.
  • the corresponding point detection unit 170 detects corresponding points where the features of the 3D image (the left image and the right image) match, and matches the features between the images before and after the images continuously captured in the 3D panoramic image shooting mode. Detect points.
  • the former corresponding point detection is used to calculate an image shift amount used when adjusting the parallax of the 3D panoramic image, and the latter corresponding point detection is used to calculate an optical flow (translation component) when creating the 3D panoramic image. Is done.
  • a feature point is extracted using a Harris method or the like, and a feature point tracking is performed using a KLT (Kanade Lucas Tomasi) method or the like.
  • the face detection unit 172 detects the face of a person from the through image and outputs information on the position and size of the face to the main CPU 100. That is, the face detection unit 172 includes an image matching circuit and a face image template, and the image matching circuit matches the image of the target area and the face image template while moving the position of the target area on the through image screen. Then, the correlation between the two is examined. Then, when the correlation score exceeds a preset threshold, the face detection unit 172 recognizes the target area as a face area. Further, the face detection unit 172 can detect a face in the same manner from a captured image.
  • a known method such as a face detection method by edge detection or shape pattern detection, a face detection method by hue detection or skin color detection can be used as the face detection method.
  • the main CPU 100 When the main CPU 100 acquires information indicating the position and size of the face area from the face detection unit 172, the main CPU 100 synthesizes a face detection frame that surrounds the acquired face area of the person with a through image and displays it on the liquid crystal monitor DISP. Can be done. Further, the position and size of the face area detected in this way are used as an AF area for focusing on a person's face and an AE area so that the brightness of the person's face is appropriate. Further, the position of the face area detected from each 3D image can be used as a corresponding point detected by the corresponding point detection unit 170.
  • FIG. 2 includes a flash control unit 180 and a flash unit 181 that emits flash from the light emission window WD of FIG. 1A in response to an instruction from the flash control unit 180 and a clock unit W for detecting the current time. It is shown in the figure.
  • the stereoscopic imaging apparatus 1 is swung in a fixed direction and continuously shot (continuous shooting).
  • CP is a convergence point (hereinafter referred to as “cross point”) where the optical axes of the left and right imaging units L and R intersect, and ⁇ is an angle formed by the optical axes of the left and right imaging units L and R. (Convergence angle).
  • the cross point CP and the convergence angle ⁇ are fixed.
  • the distance from the stereoscopic imaging device 1 to the cross point CP is about 2 m.
  • the distance to the cross point CP can be virtually adjusted by relatively shifting the left image and the right image in the left-right direction.
  • the parallax of the subject is reduced to zero by relatively shifting the left image and the right image so that the amount of deviation of a specific corresponding point (subject) where the features of the left image and the right image match is zero. (The cross point CP is adjusted to the distance of the subject).
  • the main CPU 100 fixes the focus position, the exposure condition, and the white balance gain used for the first 3D image until shooting of a predetermined number of 3D images is completed. Control to do.
  • the main CPU 100 determines that shooting of 3D images for 3D panorama synthesis has ended, and subsequent 3D panoramas. The process proceeds to synthesis processing.
  • 4A to 4E are diagrams illustrating a 3D panoramic image composition processing sequence.
  • reference numerals 1 to 6 are time-series images taken during the swing of the stereoscopic imaging apparatus 1, and the upper and lower images are a left image and a right image, respectively.
  • the 3D image creation unit 117 functions as an image processing unit that creates a 3D panoramic image from a plurality of 3D images photographed in the 3D panoramic image photographing mode, but the time series detected by the corresponding point detection unit 170 in the panorama synthesis processing.
  • each of the images of the areas having overlapping pixels of the panoramic left image and right image is trimmed.
  • an image of the maximum rectangular area is cut out from each of the panoramic left image and right image.
  • These cut left and right images are stored in the memory card 161 as 3D panoramic images (FIG. 4E).
  • a multi-picture file (MP file: a file in which a plurality of images are connected) is generated from the left and right panoramic images, and the MP file is recorded on the memory card 161 via the media control unit 160.
  • MP file a file in which a plurality of images are connected
  • the left and right panoramic images are not limited to being stored in one MP file, but may be stored in separate image files as long as they are stored in association with each other.
  • the main CPU 100 selects a corresponding point near the center of the 3D image from the corresponding points detected for each 3D image by the corresponding point detection unit 170 (for example, a feature point in a strip-shaped slit image of the left image).
  • the corresponding point on the right image is specified, and the shift amount (number of pixels) of these corresponding points is calculated as the image shift amount (hereinafter referred to as “CP amount”).
  • the main CPU 100 associates the CP amount for each 3D image calculated as described above with the coordinates (x, y) of the cross point CP on the 3D panoramic image (left image), and associates the information with the 3D image. It is recorded in the header area of the MP file as ancillary information of the panoramic image.
  • FIG. 5 is a chart showing an example of attached information in which the CP amount ( ⁇ x) is recorded in association with the coordinates (x, y) of the cross point CP of each 3D image.
  • FIG. 6 is a flowchart showing a processing procedure for acquiring a 3D image for creating the 3D panoramic image and synthesizing the 3D panorama.
  • the 3D panoramic image shooting mode is selected by the mode dial 10B of the operation unit 10, and shooting is started while holding the stereoscopic imaging device 1 by hand and swinging in a certain direction (step S10).
  • the main CPU 100 determines whether or not the number of images necessary for panorama composition has been photographed (step S12), and when the necessary number of images has been photographed (in the case of “Yes”), the photographing in the 3D panorama image photographing mode is terminated. If the required number of images has not been taken (if “No”), the process proceeds to step S14.
  • step S14 corresponding points are detected from the captured 3D image. That is, one feature point is extracted from the vicinity of the center of the left image in the 3D image, and the corresponding point of the right image corresponding to this feature point is detected. Subsequently, a CP amount that is a shift amount between the detected corresponding points is calculated (step S16).
  • the calculated CP amount is stored for each 3D image from which the CP amount has been acquired (step S18). Note that the CP amount is stored in association with the coordinates (x, y) of the cross point CP on the 3D panoramic image (left image) as shown in FIG.
  • a strip-shaped slit image is cut out from the photographed 3D image based on the optical flow (translation vector) of the preceding and following 3D images, and the translation vector is shifted in the vertical and horizontal directions.
  • the strip-shaped slit images are synthesized (panoramic synthesis), and the process proceeds to step S12 (step S20).
  • a 3D panorama image is created and its associated information (CP amount, etc.) is calculated, and the 3D panorama image is stored in the memory card 161. Is saved, and its associated information is saved.
  • the calculation and storage of the CP amount and the synthesis of the panoramic image are performed for each 3D image taken during the swing of the stereoscopic imaging apparatus 1.
  • the present invention is not limited to this.
  • 3D images as many as necessary for panoramic composition may be taken, these 3D images may be temporarily stored in the SDRAM 115, and then the CP amount for each 3D image, panoramic composition, etc. may be performed. .
  • FIG. 7 is a flowchart showing a first embodiment of a 3D panoramic image reproduction method.
  • the 3D panoramic image playback mode is selected by the mode dial 10B of the operation unit 10 to start playback of the 3D panoramic image (step S30).
  • a predetermined 3D panoramic image is read from the memory card 161 and temporarily stored in the SDRAM 115.
  • the CP amount for each of a plurality of 3D images is stored as the attached information of the 3D panoramic image as shown in FIG.
  • a 3D image for display having the same aspect ratio as that of the screen of the liquid crystal monitor DISP (FIG. 2) is cut out from the left end of the read out 3D panoramic image, and the central portion (liquid crystal monitor) of the cut out 3D image is cut out.
  • the CP amount at the center of the DISP display screen is selected (step S32).
  • the CP amount is selected by obtaining the position (x coordinate) of the 3D panoramic image (on the left image) in the center of the 3D image (part of the 3D panoramic image) displayed on the liquid crystal monitor DISP, and using this x coordinate.
  • the CP amount corresponding to the cross point CP having the closest x coordinate is selected (see FIG. 5).
  • parallax adjustment is performed by shifting the right image with respect to the left image by the CP amount, and the left and right images (3D images) adjusted with the parallax are displayed on the liquid crystal monitor DISP ( Step S34).
  • step S36 it is determined whether or not a scroll instruction for the 3D panoramic image or a frame advance instruction for each divided frame obtained by dividing the 3D panoramic image into a plurality of frames has been generated.
  • a scroll instruction or a frame advance instruction is generated, the process proceeds to step S32.
  • the scroll instruction or the frame advance instruction is not generated within the predetermined period (that is, when the display to the right end of the 3D panoramic image is finished)
  • the reproduction of the read 3D panoramic image is ended. Note that it is possible to automatically perform scroll reproduction or frame advance reproduction by generating a scroll instruction continuously during scroll reproduction and generating a frame advance instruction at a fixed interval during frame advance reproduction.
  • step S32 When the CP amount corresponding to the next scroll position or the frame position is selected based on step S32, the parallax adjustment based on the selected CP amount is performed in the same manner as described above.
  • FIGS. 8A and 8B are image diagrams when the 3D panoramic image is played back by scroll and frame-by-frame playback, respectively.
  • a thick line frame indicates a display image displayed on the liquid crystal monitor DISP.
  • a CP amount near the center of the screen is selected for each scroll position of the 3D panoramic image, and parallax adjustment is performed.
  • the CP amount near the center of the screen is selected for each frame to be frame-adjusted, and parallax adjustment is performed.
  • the parallax adjustment is performed based on the CP amount near the center of the screen at the time of scroll playback or frame-by-frame playback of the 3D panoramic image as described above, the parallax of the image near the center of the screen can be made zero.
  • the cross-point portion (the portion where the parallax between the left and right images becomes zero) that greatly affects the appearance of the 3D image is always near the center of the screen, and stereoscopic viewing is facilitated during scroll playback or frame advance playback.
  • the 3D panoramic image is automatically scrolled or frame-by-frame played.
  • scroll reproduction or frame advance reproduction may be performed by manual operation of the cross key 10F of the operation unit 10.
  • the 3D panorama image can be arbitrarily stopped at the scroll position or the frame position at the time of scroll playback or frame advance playback.
  • parallax adjustment is performed during scrolling based on the CP amount immediately before the start of image feed. Then, when the image sending is stopped, the parallax adjustment may be performed based on the CP amount near the center of the stopped screen. According to this, parallax adjustment during scrolling can be fixed, and eye strain due to parallax fluctuation can be reduced.
  • the parallax adjustment may be performed based on the CP amount in the vicinity.
  • FIG. 9 is a flowchart showing a second embodiment of a 3D panoramic image reproduction method.
  • the second embodiment relates to a reproduction method when the CP amount is not stored as the attached information of the 3D panoramic image.
  • the same step number is attached
  • the 3D panoramic image playback mode is selected by the mode dial 10B of the operation unit 10 to start playback of the 3D panoramic image (step S40).
  • a predetermined 3D panoramic image is read from the memory card 161 and temporarily stored in the SDRAM 115, but the CP amount is not stored.
  • the CP amount is calculated prior to the playback of the 3D panoramic image.
  • a plurality of feature points are extracted from the 3D panoramic image (left image) read from the memory card 161, and corresponding points of the right image corresponding to these feature points are detected (step S42).
  • the extraction of a plurality of feature points is performed by dividing the 3D panoramic image with the same width as the strip-shaped slit image at the time of creating the 3D panoramic image, and extracting one feature point for each divided region. .
  • step S44 a CP amount that is a shift amount between corresponding points detected in step S42 is calculated (step S44), and the calculated CP amount is stored in the SDRAM 115 in association with the position coordinates of a plurality of feature points (step S44). S46).
  • scroll playback or frame advance playback of the 3D panoramic image using the CP amount is performed in the same manner as in the first embodiment shown in FIG.
  • the CP amount temporarily stored in the SDRAM 115 may be recorded as attached information in the MP file in which the 3D panoramic image is stored.
  • FIG. 10 is a flowchart showing a third embodiment of a 3D panoramic image reproduction method.
  • the third embodiment is a modification of the first embodiment shown in FIG. 7, and the processing of the portion surrounded by the alternate long and short dash line is added as compared with the first embodiment. It is different in point.
  • This third embodiment is different from the second embodiment in that the entire 3D panoramic image is first displayed on the liquid crystal monitor DISP.
  • step S10 when the 3D panoramic image playback mode is selected with the mode dial 10B of the operation unit 10 and playback of the 3D panoramic image is started (step S10), the CP amount at the center of the 3D panoramic image read from the memory card 161 is displayed. Is selected (step S50).
  • parallax adjustment is performed by shifting the right image with respect to the left image based on the selected CP amount based on the selected CP amount, and the entire 3D panoramic image adjusted with the parallax is displayed on the liquid crystal monitor DISP (step S52). .
  • FIG. 11 shows a display screen of the liquid crystal monitor DISP displaying the entire 3D panoramic image.
  • step S54 it is determined whether or not a zoom instruction for performing scroll playback or frame advance playback of the 3D panoramic image has occurred (step S54).
  • the process proceeds to step S52, where the entire 3D panoramic image is continuously displayed.
  • the process proceeds to step S32.
  • the zoom instruction may be automatically generated after a predetermined time has elapsed since the entire 3D panoramic image is displayed, or may be generated based on an instruction input from the user operation unit 10.
  • the zoom instruction is generated and the process proceeds to step S32, the 3D panorama image is zoomed, and the 3D panorama image is scrolled or frame-by-frame played from the left end of the zoomed 3D panorama image (see FIGS. 8A and 8B).
  • the CP amount is selected according to the scroll position or frame advance, and the selected The parallax adjustment using the CP amount is performed.
  • the enlarged zoomed 3D panoramic image can be scrolled or viewed while being sent in divided frames.
  • the second embodiment shown in FIG. 9 may be modified so that the entire 3D panoramic image is initially displayed on the liquid crystal monitor DISP in the same manner as the third embodiment.
  • the CP amount can be calculated during the period in which the entire 3D panoramic image is displayed on the liquid crystal monitor DISP.
  • the zoom magnification at the time of scroll reproduction or divided frame advance reproduction of the 3D panoramic image is preferably a magnification in which the vertical width of the 3D panoramic image matches the vertical width of the liquid crystal monitor DISP.
  • the scope of the present invention is not limited to this magnification. For example, it may be adjusted as appropriate by manual zoom operation.
  • CP amount is calculated from the corresponding point near the center of the 3D image.
  • CP amount is calculated from the corresponding point near the center of the 3D image.
  • a plurality of main subjects are detected from the 3D panoramic image, the shift amount between the left and right panoramic images of each subject is calculated, and this is referred to as the CP amount. To do.
  • the face detection unit 172 shown in FIG. 2 can be used as the detection means for detecting the main subject. According to this, the CP amount is calculated for each face image included in the 3D panoramic image, and the CP amount is stored in association with the position of each face image on the 3D panoramic image (left image).
  • the CP amount is calculated for each main subject (object such as a face, an artificial building, or a natural object) in the 3D panoramic image.
  • the amount of CP can be stored.
  • FIG. 12 is a flowchart showing a fourth embodiment of a 3D panoramic image reproduction method.
  • the same step number is attached
  • the 3D panoramic image reproduction mode is selected by the mode dial 10B of the operation unit 10, and the reproduction of the 3D panoramic image is started (step S30 ′).
  • a predetermined 3D panoramic image is read from the memory card 161 and temporarily stored in the SDRAM 115.
  • the CP amount is stored for each object in the 3D panoramic image as the attached information of the 3D panoramic image.
  • Step S60 When playback of the 3D panorama image is started, the CP amount corresponding to the object closest to the center of the display unit is selected in the 3D image (part of the 3D panorama image) displayed on the LCD monitor DISP (FIG. 2). (Step S60).
  • scroll playback or frame advance playback of the 3D panoramic image adjusted for parallax by the CP amount is performed in the same manner as in the first embodiment shown in FIG.
  • the parallax adjustment is performed so that the cross point coincides with the object closest to the center of the display unit at the time of scroll reproduction or frame advance reproduction of the 3D panoramic image. For this reason, the object (main subject) in the 3D panoramic image is easily stereoscopically viewed during scroll reproduction or frame advance reproduction.
  • the CP amount corresponding to the object closest to the center of the display unit of the liquid crystal monitor DISP is selected.
  • the present invention is not limited to this.
  • the priority order for example, face ⁇ building ⁇ other order
  • the object with the highest priority order It is also possible to select the CP amount corresponding to. In this case, information indicating the type of object must also be stored in association with the CP amount.
  • the first 3D image is taken by the stereoscopic imaging apparatus 1 (FIG. 13A).
  • the main CPU 100 determines the focus position used for the first 3D image, the exposure condition, and the white balance gain until the subsequent shooting of a predetermined number of 3D images is completed. Control to fix.
  • the photographer swings (pans) the stereoscopic imaging device 1 to change the photographing direction and shoots the second 3D image (FIG. 13B).
  • the photographer performs photographing by adjusting the photographing direction of the stereoscopic imaging device 1 so that a part of the first 3D image and the second 3D image overlap as shown in FIG.
  • the main CPU 100 preferably displays a part of the previously captured 3D image on the liquid crystal monitor DISP and assists the shooting direction in the next shooting. That is, the photographer can determine the shooting direction while viewing a part of the 3D image previously captured displayed on the liquid crystal monitor DISP and the through image.
  • the main CPU 100 determines that the shooting of 3D images for 3D panorama composition has ended, and thereafter The process proceeds to 3D panorama composition processing.
  • a known technique can be used for the panorama synthesizing method for synthesizing a 3D panoramic image from a plurality of 3D images acquired in this way.
  • one feature point is extracted from the vicinity of the center of the left image for each continuously acquired 3D image, and the corresponding point of the right image corresponding to this feature point is detected.
  • the CP amount is calculated from the detected shift amount between corresponding points, a feature point suitable for detection of the corresponding point may not be extracted in a region near the center of the left image depending on the shooting scene.
  • a CP amount corresponding to the scroll position is obtained by interpolation (linear interpolation) based on a plurality of calculated CP amounts so that the parallax can be adjusted for each scroll position.
  • the CP amount may also be recorded.
  • the CP amount between the objects may be obtained by interpolation in the same manner as described above, and these CP amounts may be recorded.
  • the CP amount is determined so that the shift amount of a specific corresponding point (subject) where the features of the left image and the right image match is zero.
  • the present invention is not limited to the case where the shift amount of the corresponding points is zero.
  • the image shift amount may be obtained so as to be a predetermined parallax amount (a parallax amount in which the subject of interest jumps out slightly forward). The predetermined amount of parallax may be set by the user as appropriate.
  • parallax adjustment can be continuously performed using the interpolated CP amount when scrolling playback of a 3D panoramic image.
  • the stereoscopic imaging apparatus 1 displays a 3D panoramic image on the liquid crystal monitor DISP on the back side, but may include an output interface for displaying a 3D panoramic image on an external 3D display.
  • a 3D panorama image creation device or a 3D panorama image playback device may be configured by a device such as a personal computer that does not have a shooting function.
  • a plurality of 3D images for 3D panorama synthesis captured by a general stereoscopic imaging device are used as input images.
  • the panorama image creation program and the panorama image playback program according to the present invention are installed in the computer via the recording medium storing the program, so that the computer is converted into a 3D panorama image creation device and a 3D panorama image playback device. It may be made to function as.
  • SYMBOLS 1 Stereoscopic imaging device, 10 ... Operation part, 100 ... Main CPU, 101 ... ROM, 102 ... Flash ROM, 110A ... 1st imaging

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Processing Or Creating Images (AREA)
  • Cameras In General (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

 本発明の一態様に係る立体パノラマ画像作成方法は、立体撮像装置1を一方向に移動させて連続的に撮影された左画像及び右画像からなる複数の立体画像を取得し、前記立体画像の左画像同士、右画像同士をそれぞれ合成して立体パノラマ画像を作成し、前記立体画像の間の対応点を検出し、前記対応点の視差を所定値にするための画像ずらし量を算出し、前記対応点の情報と前記画像ずらし量とを前記立体パノラマ画像に関連付けて記録する。

Description

立体パノラマ画像作成装置、立体パノラマ画像作成方法及び立体パノラマ画像作成プログラム並びに立体パノラマ画像再生装置、立体パノラマ画像再生方法及び立体パノラマ画像再生プログラム、記録媒体
 本発明は立体パノラマ画像作成装置、方法及びプログラム並びに立体パノラマ画像再生装置、方法及びプログラム、記録媒体に係り、特に立体撮像装置をパンニングして撮影された複数の立体画像に基づいて立体パノラマ画像を作成する立体パノラマ画像作成装置、方法及びプログラム、並びに立体パノラマ画像をスクロール再生又はコマ送り再生させる立体パノラマ画像再生装置、方法及びプログラム、記録媒体に関する。
 従来、ビデオカメラを三脚等に固定して回転させながら連続撮影し、この連続撮影した画像から短冊状に切り出したスリット画像を結合し、パノラマ画像を合成するパノラマ合成方法が知られている(特許文献1)。
 特許文献2には、立体視用画像の視差を調整する記載があるが、この調整は、パララックスバリア方式のビューアにおける、パララックスバリアと立体視用画像の画素との位置関係を調整するものである。
 特許文献3に記載の立体画像表示装置は、立体画像の視差量を調整するための情報を入力すると、その入力された情報に基づいて画像を拡大・縮小することにより立体画像の視差量を変化させるようにしている。
 特許文献4に記載の立体画像補正装置は、立体視画像を構成する左眼用画像と右眼用画像の視差量を検出し、この視差量を調整して立体視画像の飛出し量や引き込み量を制御するようにしている。
特開平11-164325号公報 特開2003-169351号公報 特開2005-73013号公報 特開2010-45584号公報
 特許文献1の要約書には、連続する撮影画像からスリット状に切り出したスリット画像を結合し、左目視用及び右目視用のパノラマ画像を作成する記載がある。しかしながら、特許文献1の明細書には、左目視用及び右目視用のパノラマ画像の作成に関する記載は一切ない。
 また、従来、立体パノラマ画像(3Dパノラマ画像)の視差を調整するものがないが、3Dパノラマ画像に対して、特許文献2から4の記載の視差量調整の技術を適用することは可能である。
 ところで、3Dパノラマ画像は、通常の3Dディスプレイの画面のアスペクト比(4:3、16:9)に比べて大きいため、3Dパノラマ画像の全体を3Dディスプレイに表示させる場合には、3Dディスプレイの画面の上下をマスクして表示することになる。一方、3Dディスプレイの画面全体を有効に利用する場合には、3Dパノラマ画像の縦方向の幅が、3Dディスプレイの縦方向の幅に一致するように3Dパノラマ画像を拡大する。そして、この拡大された3Dパノラマ画像をスクロール再生し、又は3Dパノラマ画像が3Dディスプレイのアスペクト比となるように複数コマに分割し、この分割コマをコマ送り再生させることになる。
 従来、3Dパノラマ画像をスクロール再生又はコマ送り再生させる場合、スクロール位置ごと、又はコマごとに最適な視差になるように自動的に視差を調整する3Dパノラマ画像再生装置がなかった。特に3Dパノラマ画像をスクロール再生又はコマ送り再生させると、3Dディスプレイ上に表示される3D画像中に、3D画像の見え方に大きく影響するクロスポイント部分(左右画像の視差が無くなる部分)がない場合が発生し、立体視しにくいという問題がある。
 本発明はこのような事情に鑑みてなされたもので、立体パノラマ画像をスクロール再生又はコマ送り再生させる際に、スクロール位置ごと又はコマごとに自動的に視差調整することができる立体パノラマ画像作成装置、方法及びプログラム並びに立体パノラマ画像再生装置、方法及びプログラム、記録媒体を提供することを目的とする。
 前記目的を達成するために、本発明の第1の態様に係る立体パノラマ画像作成装置は、立体撮像装置により撮影された左画像及び右画像からなる立体画像であって、前記立体撮像装置を一定方向にスイングさせて連続的に撮影された複数の立体画像を取得する立体画像取得手段と、前記立体画像取得手段により取得された複数の立体画像のうちの左画像同士を合成するとともに、右画像同士を合成して左右のパノラマ画像からなる立体パノラマ画像を作成する立体パノラマ画像作成手段と、前記立体画像取得手段により取得された複数の立体画像の左画像と右画像の間、又は前記作成された立体パノラマ画像の左右のパノラマ画像の間で特徴がそれぞれ一致する対応点であって、視差調整用の複数の対応点を検出する対応点検出手段と、前記検出された複数の対応点の視差をそれぞれ所定の視差量にするための複数の画像ずらし量を算出する画像ずらし量算出手段と、前記作成された立体パノラマ画像を記録媒体に記録するとともに、前記視差調整用の複数の対応点の立体パノラマ画像上の位置情報と前記算出した複数の画像ずらし量とを関連付けて前記立体パノラマ画像の付属情報として前記記録媒体に記録する記録手段とを備える。
 上記第1の態様に係る発明によれば、立体パノラマ画像に対して視差調整用の複数の対応点が検出される。そして、各対応点の立体パノラマ画像上の位置情報とともに、各対応点の視差を所定の視差量にするための画像ずらし量を、立体パノラマ画像の付属情報として記録媒体に記録するようにした。このため、立体パノラマ画像をスクロール再生又はコマ送り再生させる際に、前記付属情報を利用してスクロール位置ごと又はコマごとに自動的に視差量を調整することが可能になる。
 本発明の第2の態様に係る立体パノラマ画像作成装置は、上記第1の態様において、前記対応点検出手段は、前記立体画像取得手段により取得された立体画像の左画像と右画像の組ごとに1組の対応点を検出し、前記画像ずらし量算出手段は、前記検出された対応点の視差を前記所定の視差量にするための画像ずらし量を算出するように構成されている。これによれば、立体パノラマ画像の合成に使用した立体画像の枚数分だけ画像ずらし量が算出及び記録されることになる。また、立体パノラマ画像の作成前に画像ずらし量の算出が可能である。
 本発明の第3の態様に係る立体パノラマ画像作成装置は、上記第2の態様において、前記対応点検出手段は、前記立体画像の左画像と右画像の組ごとに該立体画像の中央付近から前記1組の対応点を検出するように構成されている。
 本発明の第4の態様に係る立体パノラマ画像作成装置は、上記第3の態様において、前記画像ずらし量算出手段は、前記対応点検出手段により前記立体画像の中央付近から所要の対応点が検出されない場合には、予め設定された画像ずらし量を算出値とし、又は隣接する画像ずらし量を補間して画像ずらし量を算出するように構成されている。これにより、立体画像の中央付近に特徴のある対応点が検出されない場合でも画像ずらし量を求めることができる。
 本発明の第5の態様に係る立体パノラマ画像作成装置は、上記第1から第4のいずれかの態様において、前記立体パノラマ画像作成手段は、前記立体画像取得手段により取得された複数の立体画像のうちの中央付近の短冊状のスリット画像を繋ぎ合わせて立体パノラマ画像を作成するように構成されている。
 本発明の第6の態様に係る立体パノラマ画像作成装置は、上記第1の態様において、前記立体画像取得手段により取得された複数の立体画像又は前記作成された立体パノラマ画像中に含まれる所要のオブジェクトを検出するオブジェクト検出手段を更に備え、前記対応点検出手段は、前記オブジェクト検出手段により検出されたオブジェクトごとに対応点を検出するように構成されている。前記オブジェクト検出手段は、例えば、人物の顔のほかに、建物、壁などの人工の建造物等の主要被写体となるものを検出する。これによれば、立体パノラマ画像をスクロール再生又はコマ送り再生させる際に、立体パノラマ画像中で検出されたオブジェクトごとに自動的に視差調整を行うことが可能になる。
 本発明の第7の態様に係る立体パノラマ画像作成装置は、上記第1から第6のいずれかの態様において、前記画像ずらし量算出手段により算出された複数の画像ずらし量に基づいて各対応点の間の画素ずらし量を補間して連続した画素ずらし量を算出する補間演算手段を更に備え、前記記録手段は、前記画像ずらし量算出手段により算出された複数の画像ずらし量とともに、前記補間演算手段により算出された画像ずらし量を前記記録媒体に記録するように構成されている。これによれば、立体パノラマ画像をスクロール再生させる際に、補間演算された画像ずらし量を使用して連続的に視差調整を行うことができる。
 本発明の第8の態様に係る立体パノラマ画像作成装置は、上記第1から第6のいずれかの態様において、前記所定の視差量をゼロとしたものである。
 本発明の第9の態様に係る立体パノラマ画像再生装置は、上記第1から第8のいずれかの態様に係る記録媒体から立体パノラマ画像と該立体パノラマ画像の付属情報とを読み出す読出手段と、前記読み出した立体パノラマ画像を所定の倍率に拡大させ、該拡大させた立体パノラマ画像を自動的に又は手動指示入力により立体ディスプレイ上でスクロール再生させ、又は前記立体パノラマ画像を複数コマに分割した分割コマごとにコマ送り再生させる再生手段と、前記再生手段による立体パノラマ画像のスクロール再生又はコマ送り再生時に、該立体パノラマ画像の付属情報として記録された複数の画像ずらし量のうちから、前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて該立体画像の視差調整を行う視差調整手段とを備える。
 上記第9の態様によれば、上記第1から第8のいずれかの態様に係る記録媒体に記録された立体パノラマ画像と該立体パノラマ画像の付属情報(複数の画像ずらし量等)が読み出される。そして、読み出した立体パノラマ画像を所定の倍率に拡大させ、該拡大させた立体パノラマ画像を自動的に又は手動指示入力により立体ディスプレイ上でスクロール再生させ、又は立体パノラマ画像を複数コマに分割した分割コマごとにコマ送り再生させる際に、前記付属情報を使用してスクロール位置ごと又はコマごとに自動的に視差調整を行うことができる。これにより、立体画像の見え方に大きく影響するクロスポイント部分(左右画像の視差が無くなる部分)を調整して立体視しやすくなるようにしている。尚、前記所定の倍率としては、立体パノラマ画像の縦方向の幅が、立体ディスプレイの縦方向の幅に一致する倍率が好ましいが、この倍率よりも大きくても又は小さくてもよい。また、所定の倍率は、適宜調整できるようにしてもよい。
 本発明の第10の態様に係る立体パノラマ画像再生装置は、左右のパノラマ画像からなる立体パノラマ画像を取得する立体パノラマ画像取得手段と、前記取得した立体パノラマ画像の再生に先立って、該立体パノラマ画像から左右のパノラマ画像の間で特徴がそれぞれ一致する対応点であって、視差調整用の複数の対応点を検出する対応点検出手段と、前記検出された複数の対応点の視差を所定の視差量にするための画像ずらし量を算出する画像ずらし量算出手段と、前記視差調整用の複数の対応点の立体パノラマ画像上の位置情報と前記算出した複数の画像ずらし量とを関連付けて記憶する記憶手段と、前記取得した立体パノラマ画像を所定の倍率に拡大させ、該拡大させた立体パノラマ画像を自動的に又は手動指示入力により立体ディスプレイ上でスクロール再生させ、又は前記立体パノラマ画像を複数コマに分割した分割コマごとにコマ送り再生させる再生手段と、前記再生手段による立体パノラマ画像のスクロール再生又はコマ送り再生時に、該立体パノラマ画像に対応して前記記憶手段に記憶された複数の画像ずらし量のうちから、前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行う視差調整手段とを備える。
 上記第10の態様は、記録媒体から立体パノラマ画像の付属情報(複数の画像ずらし量等の付属情報)が取得できない場合の立体パノラマ画像再生装置である。該立体パノラマ画像再生装置は、立体パノラマ画像の再生に先立って、左右のパノラマ画像の特徴がそれぞれ一致する対応点であって、視差調整用の複数の対応点を検出し、これらの対応点の視差を所定の視差量にするための画像ずらし量を算出し、前記視差調整用の複数の対応点の立体パノラマ画像上の位置情報と前記算出した複数の画像ずらし量とを関連付けて記憶しておき、その後、前記記憶した複数の画像ずらし量を使用して、立体パノラマ画像のスクロール再生又はコマ送り再生時の視差調整を行う。尚、スクロール再生又はコマ送り再生時の視差調整は、上記第9の態様と同様にして行われる。
 本発明の第11の態様に係る立体パノラマ画像再生装置は、上記第10の態様において、前記対応点検出手段は、前記パノラマ画像を短冊状のスリット画像に分割したスリット画像ごとに1組の対応点を検出するように構成されている。
 本発明の第12の態様に係る立体パノラマ画像再生装置は、上記第11の態様において、前記画像ずらし量算出手段は、前記対応点検出手段により前記立体画像の中央付近から所要の対応点が検出されない場合には、予め設定された画像ずらし量を算出値とし、又は隣接する画像ずらし量を補間して画像ずらし量を算出するように構成されている。
 本発明の第13の態様に係る立体パノラマ画像再生装置は、上記第10の態様において、前記取得した立体パノラマ画像中に含まれる所要のオブジェクトを検出するオブジェクト検出手段を更に備え、前記対応点検出手段は、前記オブジェクト検出手段により検出されたオブジェクトごとに対応点を検出するように構成されている。これにより、立体パノラマ画像をスクロール再生又は分割コマ送り再生時に、立体パノラマ画像中のオブジェクトごとに視差調整を行うことができる。
 本発明の第14の態様に係る立体パノラマ画像再生装置は、上記第10から第13のいずれかの態様において、前記画像ずらし量算出手段により算出された複数の画像ずらし量に基づいて各対応点の間の画素ずらし量を補間して連続した画素ずらし量を算出する補間演算手段を更に備え、前記記憶手段は、前記画像ずらし量算出手段により算出された複数の画像ずらし量とともに、前記補間演算手段により算出された画像ずらし量を記憶するように構成されている。
 本発明の第15の態様に係る立体パノラマ画像再生装置は、上記第10から第14のいずれかの態様において、前記所定の視差量をゼロとしたものである。
 本発明の第16の態様に係る立体パノラマ画像再生装置は、上記第9から第15のいずれかの態様において、前記視差調整手段は、前記立体ディスプレイの画面中央、又は画面中央に最も近い画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行うように構成されている。これによれば、立体ディスプレイの画面中央、又は中央付近の被写体の視差量を所定の視差量にすることができ、該被写体を立体視しやすくすることができる。尚、所定の視差量は、上記第15の態様に示したように、ゼロの場合には、注目被写体が平面的に表示され、最も見やすくなる。しかしながら、本発明はこれに限定されるものではない。例えば、前記所定の視差量を適宜の値に設定し、注目被写体が少し手前に飛び出すように視差量を調整するようにしてもよい。
 本発明の第17の態様に係る立体パノラマ画像再生装置は、上記第9から第16のいずれかの態様において、前記再生手段が手動指示入力により立体パノラマ画像をスクロール再生させる際に、手動指示入力によるスクロール開始時に表示されている前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量をスクロール停止まで選択するとともに、スクロール停止時に該スクロール停止時に表示されている前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行うように構成されている。このようにスクロール中の視差調整を固定するようにしたため、視差変動による眼精疲労を低減することができるとともに、スクロール停止時にはその停止した立体画像に対応する視差調整が可能になる。
 本発明の第18の態様に係る立体パノラマ画像再生装置は、上記第9から第16のいずれかの態様において、前記再生手段は、手動指示入力によるスクロール再生によるスクロール中は前記左画像及び右画像のうちのいずれか一方の画像のみを前記立体ディスプレイに表示させるとともに、スクロール停止時に立体画像を前記立体ディスプレイに表示させ、前記視差調整手段は、前記スクロール停止時に該スクロール停止時に表示されている前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行うように構成されている。このようにスクロール中は平面画像を表示するようにしたため、眼精疲労を低減することができるとともに、スクロール停止時にはその停止した立体画像に対応する視差調整が可能になる。
 本発明の第19の態様に係る立体パノラマ画像再生装置は、上記第9から第18のいずれかの態様において、前記再生手段は、前記立体パノラマ画像の全体を前記立体ディスプレイに表示させた後、該立体パノラマ画像を所定の倍率に拡大させてスクロール再生させ、又はコマ送り再生させるように構成されている。これにより、立体パノラマ画像全体を確認してから、拡大ズームされた立体パノラマ画像をスクロールさせ、又は分割コマ送りさせながら鑑賞することができる。
 本発明の第20の態様に係る立体パノラマ画像作成方法は、立体撮像装置により撮影された左画像及び右画像からなる立体画像であって、前記立体撮像装置を一定方向にスイングさせて連続的に撮影された複数の立体画像を取得する立体画像取得ステップと、前記取得された複数の立体画像のうちの左画像同士を合成するとともに、右画像同士を合成して左右のパノラマ画像からなる立体パノラマ画像を作成する立体パノラマ画像作成ステップと、前記取得された複数の立体画像の左画像と右画像の間、又は前記作成された立体パノラマ画像の左右のパノラマ画像の間で特徴がそれぞれ一致する対応点であって、視差調整用の複数の対応点を検出する対応点検出ステップと、前記検出された複数の対応点の視差を所定の視差量にするための画像ずらし量を算出する画像ずらし量算出ステップと、前記作成された立体パノラマ画像を記録媒体に記録するとともに、前記視差調整用の複数の対応点の立体パノラマ画像上の位置情報と前記算出した複数の画像ずらし量とを関連付けて前記立体パノラマ画像の付属情報として前記記録媒体に記録する記録ステップとを含んでいる。
 本発明の第21の態様に係る立体パノラマ画像作成方法は、上記第20の態様において、前記対応点検出ステップは、前記取得された立体画像の左画像と右画像の組ごとに1組の対応点を検出し、前記画像ずらし量算出ステップは、前記立体画像ごとに検出された対応点のうちから1組の対応点を特定し、該対応点の視差を前記所定の視差量にするための画像ずらし量を算出するように構成されている。
 本発明の第22の態様に係る立体パノラマ画像作成方法は、上記第21の態様において、前記対応点検出ステップは、前記立体画像の左画像と右画像の組ごとに該立体画像の中央付近から前記1組の対応点を検出するように構成されている。
 本発明の第23の態様に係る立体パノラマ画像作成方法は、上記第22の態様において、前記画像ずらし量算出ステップは、前記対応点検出ステップにより前記立体画像の中央付近から所要の対応点が検出されない場合には、予め設定された画像ずらし量を算出値とし、又は隣接する画像ずらし量を補間して画像ずらし量を算出するように構成されている。
 本発明の第24の態様に係る立体パノラマ画像作成方法は、上記第20から第23のいずれかの態様において、前記立体パノラマ画像作成ステップは、前記取得された複数の立体画像のうちの中央付近の短冊状のスリット画像を繋ぎ合わせて立体パノラマ画像を作成するように構成されている。
 本発明の第25の態様に係る立体パノラマ画像作成方法は、上記第20の態様において、前記取得された複数の立体画像又は前記作成された立体パノラマ画像中に含まれる所要のオブジェクトを検出するオブジェクト検出ステップを更に含み、前記対応点検出ステップは、前記オブジェクト検出手段により検出されたオブジェクトごとに対応点を検出するように構成されている。
 本発明の第26の態様に係る立体パノラマ画像作成方法は、上記第20から第25のいずれかの態様において、前記画像ずらし量算出ステップにより算出された複数の画像ずらし量に基づいて各対応点の間の画素ずらし量を補間して連続した画素ずらし量を算出する補間演算ステップを更に含み、前記記録ステップは、前記画像ずらし量算出ステップにより算出された複数の画像ずらし量とともに、前記補間演算ステップにより算出された画像ずらし量を前記記録媒体に記録するように構成されている。
 本発明の第27の態様に係る立体パノラマ画像作成方法は、上記第20から第25のいずれかの態様において、前記所定の視差量をゼロとしたものである。
 本発明の第28の態様に係る立体パノラマ画像再生方法は、上記第20から第27のいずれかの態様に係る記録媒体から立体パノラマ画像と該立体パノラマ画像の付属情報とを読み出す読出ステップと、前記読み出した立体パノラマ画像を所定の倍率に拡大させ、該拡大させた立体パノラマ画像を自動的に又は手動指示入力により立体ディスプレイ上でスクロール再生させ、又は前記立体パノラマ画像を複数コマに分割した分割コマごとにコマ送り再生させる再生ステップと、前記再生ステップによる立体パノラマ画像のスクロール再生又はコマ送り再生時に、該立体パノラマ画像の付属情報として記録された複数の画像ずらし量のうちから、前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて該立体画像の視差調整を行う視差調整ステップとを含んでいる。
 本発明の第29の態様に係る立体パノラマ画像再生方法は、左右のパノラマ画像からなる立体パノラマ画像を取得する立体パノラマ画像取得ステップと、前記取得した立体パノラマ画像の再生に先立って、該立体パノラマ画像から左右のパノラマ画像の間で特徴がそれぞれ一致する対応点であって、視差調整用の複数の対応点を検出する対応点検出ステップと、前記検出された複数の対応点の視差を所定の視差量にするための画像ずらし量を算出する画像ずらし量算出ステップと、前記視差調整用の複数の対応点の立体パノラマ画像上の位置情報と前記算出した複数の画像ずらし量とを関連付けて記憶する記憶ステップと、前記取得した立体パノラマ画像を所定の倍率に拡大させ、該拡大させた立体パノラマ画像を自動的に又は手動指示入力により立体ディスプレイ上でスクロール再生させ、又は前記立体パノラマ画像を複数コマに分割した分割コマごとにコマ送り再生させる再生ステップと、前記再生ステップによる立体パノラマ画像のスクロール再生又はコマ送り再生時に、該立体パノラマ画像に対応して前記記憶手段に記憶された複数の画像ずらし量のうちから、前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行う視差調整ステップとを含んでいる。
 本発明の第30の態様に係る立体パノラマ画像再生方法は、上記第29の態様において、前記対応点検出ステップは、前記パノラマ画像を短冊状のスリット画像に分割したスリット画像ごとに1組の対応点を検出するように構成されている。
 本発明の第31の態様に係る立体パノラマ画像再生方法は、上記第30の態様において、前記画像ずらし量算出ステップは、前記対応点検出ステップにより前記立体画像の中央付近から所要の対応点が検出されない場合には、予め設定された画像ずらし量を算出値とし、又は隣接する画像ずらし量を補間して画像ずらし量を算出するように構成されている。
 本発明の第32の態様に係る立体パノラマ画像再生方法は、上記第29の態様において、前記取得した立体パノラマ画像中に含まれる所要のオブジェクトを検出するオブジェクト検出ステップを更に含み、前記対応点検出ステップは、前記オブジェクト検出ステップにより検出されたオブジェクトごとに対応点を検出するように構成されている。
 本発明の第33の態様に係る立体パノラマ画像再生方法は、上記第29から第32の態様において、前記画像ずらし量算出ステップにより算出された複数の画像ずらし量に基づいて各対応点の間の画素ずらし量を補間して連続した画素ずらし量を算出する補間演算ステップを更に含み、前記記憶ステップは、前記画像ずらし量算出ステップにより算出された複数の画像ずらし量とともに、前記補間演算ステップにより算出された画像ずらし量を記憶するように構成されている。
 本発明の第34の態様に係る立体パノラマ画像再生方法は、上記第29から第33のいずれかの態様において、前記所定の視差量をゼロとしたものである。
 本発明の第35の態様に係る立体パノラマ画像再生方法は、上記第28から第34のいずれかの態様において、前記視差調整ステップは、前記立体ディスプレイの画面中央、又は画面中央に最も近い画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行うように構成されている。
 本発明の第36の態様に係る立体パノラマ画像再生方法は、上記第28から第35のいずれかの態様において、前記視差調整ステップは、前記再生ステップにおいて手動指示入力により立体パノラマ画像をスクロール再生する際に、手動指示入力によるスクロール開始時に表示されている前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量をスクロール停止まで選択するとともに、スクロール停止時に該スクロール停止時に表示されている前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行うように構成されている。
 本発明の第37の態様に係る立体パノラマ画像再生方法は、上記第28から第35のいずれかの態様において、前記再生ステップは、手動指示入力によるスクロール再生によるスクロール中は前記左画像及び右画像のうちのいずれか一方の画像のみを前記立体ディスプレイに表示させるとともに、スクロール停止時に立体画像を前記立体ディスプレイに表示させ、前記視差調整ステップは、前記スクロール停止時に該スクロール停止時に表示されている前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行うように構成されている。
 本発明の第38の態様に係る立体パノラマ画像再生方法は、上記第28から第37のいずれかの態様において、前記再生ステップは、前記立体パノラマ画像の全体を前記立体ディスプレイに表示させた後、該立体パノラマ画像を所定の倍率に拡大させてスクロール再生させ、又はコマ送り再生させるように構成されている。
 本発明の第39の態様に係る立体パノラマ画像再生プログラムは、上記第1から第8のいずれかの態様に係る立体パノラマ画像作成装置を、コンピュータにより実現させるように構成されている。
 本発明の第40の態様に係る立体パノラマ画像作成プログラムは、上記第9から第19のいずれかの態様に係る立体パノラマ画像再生装置を、コンピュータにより実現させるように構成されている。
 本発明では、立体パノラマ画像に対して視差調整用の複数の対応点を検出し、各対応点の立体パノラマ画像上の位置情報とともに、各対応点の視差を所定の視差量にするための画像ずらし量を算出して記録するようにした。このため、立体パノラマ画像をスクロール再生又はコマ送り再生させる際に、前記記録した画像ずらし量を利用してスクロール位置ごと又はコマごとに自動的に視差調整を行うことができる。これにより、立体視しやすい立体パノラマ画像のスクロール再生又はコマ送り再生を行うことができる。
本発明の一実施形態に係る立体撮像装置の正面斜視図 本発明の一実施形態に係る立体撮像装置の背面斜視図 図1の立体撮像装置の内部構成を示すブロック図 3Dパノラマ合成用の3D画像の撮影方法を示す図 3Dパノラマ合成等を説明するための図 3Dパノラマ合成等を説明するための図 3Dパノラマ合成等を説明するための図 3Dパノラマ合成等を説明するための図 3Dパノラマ合成等を説明するための図 各3D画像のクロスポイントCPの座標(x,y)に関連付けてCP量(Δx)が記録された付属情報の一例を示す図表 3Dパノラマ画像作成用の3D画像の取得及び3Dパノラマ合成の処理手順を示すフローチャート 3Dパノラマ画像の再生方法の第1の実施の形態を示すフローチャート 3Dパノラマ画像をスクロール再生、及びコマ送り再生する際のイメージ図 3Dパノラマ画像をスクロール再生、及びコマ送り再生する際のイメージ図 3Dパノラマ画像の再生方法の第2の実施の形態を示すフローチャート 3Dパノラマ画像の再生方法の第3の実施の形態を示すフローチャート 3Dパノラマ画像全体を表示している液晶モニタの表示画面を示す図 3Dパノラマ画像の再生方法の第4の実施の形態を示すフローチャート 3Dパノラマ合成用の3D画像の他の撮影方法を示す図 3Dパノラマ合成用の3D画像の他の撮影方法を示す図 3Dパノラマ合成用の3D画像の撮影時の画角合わせを説明するための図
 以下、添付図面にしたがって本発明に係る立体パノラマ画像作成装置、方法及びプログラム並びに立体パノラマ画像再生装置、方法及びプログラム、記録媒体の実施の形態について説明する。
 [立体撮像装置の外観]
 図1A及び図1Bは、本発明の一実施形態に係る立体撮像装置の外観図である。図1Aは、立体撮像装置1を斜め上方から見た斜視図であり、図1Bは、立体撮像装置1を背面から見た斜視図である。
 図1Aに示すように、立体撮像装置1には、左右の撮像部L,Rが設けられている。以下、これらの撮像部を第1の撮像部Lと第2の撮像部Rと記載して区別することにする。
 第1の撮像部Lと第2の撮像部Rとは、立体視用の画像信号を取得することが可能なように並べて配置されており、これらの撮像部L,Rで左用と右用の画像信号がそれぞれ作成される。図1A及び図1Bの立体撮像装置1の上面にある電源スイッチ10Aが操作され、撮影モードダイヤル10Bが、例えば立体モードというモードにセットされてシャッタボタン10Cが操作されると、立体視用の画像データが双方の撮像部L,Rで作成される。
 この実施形態の立体撮像装置1が備えるシャッタボタン10Cは半押しと全押しとの2つの操作態様を有している。この立体撮像装置1では、シャッタボタン10Cが半押しされたときに露出調整やピント調整が実施され、全押しされたときに撮影が実施される。また、被写界輝度が暗いときには被写体に向けてフラッシュを発光するフラッシュ発光窓WDが撮像部Lの上方に設けられている。
 また、図1Bに示すように、立体撮像装置1の背面には3次元表示が可能な液晶モニタDISPが設けられており、この液晶モニタDISPには双方の撮像部L,Rが捉えている同一の被写体が立体画像となって表示される。尚、液晶モニタDISPとしては、レンチキュラレンズやパララックスバリアを使用するもの、偏光メガネ、液晶シャッタメガネなどの専用メガネをかけることで右画像と左画像とを個別に見ることができるものなどが適用できる。更に、ズームスイッチ10D、メニュー/OKボタン10E、十字キー10Fなどの操作子も配設されている。以降においては、電源スイッチ10A、撮影モードダイヤル10B、シャッタボタン10C、ズームスイッチ10D、メニュー/OKボタン10E及び十字キー10Fを含む操作スイッチ群を総称して操作部10と記載することがある。
 [立体撮像装置の内部構成]
 図2は、図1A及び図1Bの立体撮像装置1の内部構成を示すブロック図である。図2を参照して立体撮像装置1の内部の構成を説明する。
 この立体撮像装置1の動作は、メインCPU(Central Processing Unit)100によって統括的に制御される。
 メインCPU100には、バスBusを介してROM(read-only memory)101が接続されている。そのROM101の中にはこの立体撮像装置1が動作するのに必要なプログラムが格納されている。このプログラムの手順にしたがってメインCPU100は、操作部10からの指令にしたがってこの立体撮像装置1の動作を統括的に制御する。
 操作部10のモードダイヤル10Bは、オート撮影モード、マニュアル撮影モード、人物、風景、夜景等のシーンポジション、動画を撮影する動画モード、及び本発明に係る立体(3D)パノラマ画像撮影モード、3Dパノラマ画像再生モードを選択する選択手段である。また、操作部10の図示しない再生ボタンは、撮影記録した静止画又は動画を液晶モニタDISPに表示させる再生モードに切り替えるためのボタンである。メニュー/OKボタン10Eは、液晶モニタDISPの画面上にメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行などを指令するOKボタンとしての機能とを兼備した操作キーである。十字キー10Fは、上下左右の4方向の指示を入力する操作部であり、メニュー画面から項目を選択したり、各メニューから各種設定項目の選択を指示したりするボタン(カーソル移動操作手段)として機能する。また、十字キー10Fの上/下キーは撮影時のズームスイッチあるいは再生モード時の再生ズームスイッチとして機能し、左/右キーは再生モード時のコマ送り(順方向/逆方向送り)ボタンとして機能する。
 まず、図1に示した操作部10内の電源スイッチ10Aが操作されると、メインCPU100は、電源制御部1001を制御してバッテリBtからの電力を電源制御部1001を通して図2の各部に供給させ、この立体撮像装置1を動作状態に移行させる。こうしてメインCPU100は撮影処理を開始する。尚、AF(automatic focus)検出部120、AE/AWB(automatic exposure/automatic white balance)検出部130、画像入力コントローラ114A、デジタル信号処理部116A、3D画像作成部117は、DSP(Digital Signal Processor)等のプロセッサで構成されているとし、メインCPU100はそのDSPと連携して処理を実行するとする。
 ここで、先に図1で説明した第1の撮像部Lと第2の撮像部Rの内部の構成を、図2を参照して説明する。尚、第1の撮像部Lの各構成部材には「第1の」という文言を付し、第2の撮像部Rの各構成部材には「第2」のという文言を付して説明する。
 第1の撮像部Lには、第1のフォーカスレンズFLAを含む第1の撮影光学系110Aと、その第1のフォーカスレンズFLAを光軸方向に移動させる第1のフォーカスレンズ駆動部(以降、第1のFレンズ駆動部という)104Aと、被写体が第1の撮影光学系で結像されてなる被写体光を受光して、その被写体を表わす画像信号を作成する第1の撮像素子111Aとが設けられている。この第1の撮影光学系110Aには、ほかに第1の絞りIAと、この第1の絞りIAの開口径を変更する第1の絞り駆動部105Aとが設けられている。
 また、第1の撮影光学系100AはズームレンズZLAを含んでいる。そのズームレンズZLAを所定の焦点距離にする制御を行うZレンズ駆動部103Aが設けられている。尚、図2には、撮影光学系全体がズームレンズであることが1枚のレンズZLで模式的に示されている。
 一方、第2の撮像部Rにも上記第1の撮像部Lと同じように、第2のフォーカスレンズFLBを含む撮影光学系と、第2のフォーカスレンズFLBを光軸に方向に移動させる第2のフォーカスレンズ駆動部(以降、第2のFレンズ駆動部という)104Bと、被写体が第2の撮影光学系で結像されてなる被写体光を受光して、その被写体を表わす画像信号を作成する第2の撮像素子111Bとが設けられている。
 これらの第1の撮像部Lと第2の撮像部Rとで立体視用の画像信号、つまり第1の撮像部Lでは左用の画像信号が作成され、第2の撮像部Rでは右用の画像信号がそれぞれ作成される。
 第1の撮像部Lと第2の撮像部Rとは左用の画像信号を作成するか、右用の画像信号を作成するかの違いだけで構成が全く同じであり、第1のA/D変換部113Aと第2のA/D変換部113Bで双方の撮像部の画像信号がデジタル信号に変換されてバスBusに導かれた後の信号処理も同じである。従って、以下、第1の撮像部Lについて画像信号の流れに沿ってその構成を説明していく。
 まず、第1の撮像部Lが捉えている被写体をそのままライブビュー画像(スルー画)として液晶モニタDISP上に表示する際の動作から説明する。
 操作部10内の電源スイッチ10Aが操作されたことを受けてメインCPU100は、電源制御部1001を制御し、各部にバッテリBtからの電力を供給させてこの立体撮像装置1を動作状態に移行させる。
 メインCPU100は、まず、Fレンズ駆動部104Aと絞り駆動部105Aとを制御して露出及びピントの調整を開始する。更に、タイミングジェネレータ(TG)106Aに指示して撮像素子111Aに電子シャッタによる露光時間を設定させ、所定時間(例えば、1/60秒)ごとに撮像素子111Aからアナログ信号処理部112Aに画像信号を出力させる。
 アナログ信号処理部112Aでは、TG106Aからのタイミング信号の供給を受け、撮像素子111Aからの所定時間ごとの画像信号の供給を受けてノイズの低減処理等が行われる。そして、ノイズの低減処理が行われたアナログの画像信号が次段のA/D変換部113Aへと供給される。このA/D変換部113AにおいてもTG106Aからのタイミング信号に同期して、所定時間ごとにアナログの画像信号からデジタルの画像信号への変換処理が行われる。こうしてA/D変換部113Aで変換され出力されてくるデジタルの画像信号が、画像入力コントローラ114Aによって所定時間ごとにバスBusに導かれる。このバスBusに導かれた画像信号はSDRAM(Synchronous Dynamic Random Access Memory)115に記憶される。撮像素子111Aからは所定時間ごとに画像信号が出力されるので、このSDRAM115の内容は所定時間ごとに書き換えられることになる。
 このSDRAM115に記憶された画像信号は、AF検出部120、AE/AWB検出部130、及びデジタル信号処理部116Aを構成するDSPによって所定時間ごとにそれぞれ読み出される。
 AF検出部120では、メインCPU100がFレンズ駆動部104Aを制御してフォーカスレンズFLAを移動させている最中の所定時間ごとに、フォーカスエリア内の画像信号の高周波成分を抽出し、その高周波成分を積算して画像のコントラストを示すAF評価値を算出する。メインCPU100は、AF検出部120により算出されたAF評価値を取得し、AF評価値が最大になるレンズ位置(合焦位置)にFレンズ駆動部104Aを介して第1のフォーカスレンズFLAを移動させる。このため、第1の撮像部Lがどの方向に向けられてもすぐにピントが調整されて、液晶モニタDISP上には、ほぼいつでもピントのあった被写体が表示される。
 また、AE/AWB検出部130では、被写体輝度の検出とデジタル信号処理部116A内のホワイトバランスアンプに設定するゲインの算出が所定時間ごとに行われる。メインCPU100は、このAE/AWB検出部130の輝度の検出結果に応じて絞り駆動部105Aを制御して絞りIAの開口径を変更させる。また、デジタル信号処理部116Aは、AE/AWB検出部130からの検出結果を受けてホワイトバランスアンプのゲインを設定する。
 このデジタル信号処理部116Aでは、表示に適した画像信号になるように処理が行われる。そして、そのデジタル信号処理部116Aの信号処理により表示に適したものに変換された画像信号が、3D画像作成部117へと供給されてその3D画像作成部117で表示用の右用の画像信号が作成され、作成された右用の画像信号がVRAM(Video Random Access Memory)118に記憶される。
 ここまでの動作と同じ動作が、同じタイミングで第2の撮像部Rによっても行われる。従って、VRAM118には、右用と左用との2種類の画像信号が記憶されることになる。
 メインCPU100は、表示制御部119にVRAM118内の右用の画像信号と左用の画像信号とを転送して液晶モニタDISP上に画像を表示させる。図1Bの液晶モニタDISPに右用の画像信号と左用の画像信号とが表示されると、人の眼には液晶モニタDISP上の画像が立体的に見えるようになる。第1、第2の撮像素子111A,111Bからは所定時間ごとに画像信号を出力させ続けているので、VRAM118内の画像信号は所定時間ごとに書き換えられ、液晶モニタDISP上の立体画像も所定時間ごとに切り替えられて表示され、立体画像が動画となって表示される。
 ここで、液晶モニタDISP上の被写体が参照され操作部10の中のシャッタボタン10Cが半押し操作されると、メインCPU100は、AE/AWB検出部130でシャッタボタン10Cが全押しされる直前に検出されたAE値を受け取り、第1、第2の絞り駆動部105A,105Bを介して第1、第2の絞りIA、IBをAE値に応じた絞り径にさせる。更に、メインCPU100は、上記半押し操作に応じて、第1のFレンズ駆動部104A、第2のFレンズ駆動部104Bを介して第1のフォーカスレンズFLA、第2のフォーカスレンズFLBを所定のサーチ範囲で移動させながら、AF検出部120によりAF評価値の算出を行わせる。
 メインCPU100は、AF検出部120により算出されたAF評価値に基づいてAF評価値が最大になる第1のフォーカスレンズFLAのレンズ位置、及び第2のフォーカスレンズFLBのレンズ位置を検出し、この第1のレンズ位置、第2のレンズ位置に第1のフォーカスレンズFLA、第2のフォーカスレンズFLBをそれぞれ移動させる。
 そして、シャッタボタン10Cが全押しされると、メインCPU100は、第1、第2のTGl06A,106Bを介して第1の撮像素子111A,第2の撮像素子111Bに所定のシャッタ速度だけ露光させ、静止画の撮影を行わせる。メインCPU100は、電子シャッタのオフタイミングで第1、第2の撮像素子111A,111Bから画像信号を第1、第2のアナログ信号処理部112A,112Bへと出力させ、第1、第2のアナログ信号処理部112A,112Bにノイズの低減処理を行わせる。その後、第1、第2のA/D変換部113A,113Bでアナログの画像信号をデジタルの画像信号に変換させる。
 ここで、メインCPU100の指示にしたがって第1、第2の画像入力コントローラ114Aが、第1、第2のA/D変換部113A,113Bで変換されたデジタルの画像信号をバスBusを経由して一旦SDRAM115に記憶させる。その後、デジタル信号処理部116A,116BがSDRAM115の画像信号を読み出し、ホワイトバランス補正、ガンマ補正、単板CCD(Charge Coupled Device)のカラーフィルタ配列に伴うR(Red),G(Green),B(Blue)などの色信号の空間的なズレを補間して各色信号の位置を合わせる同時化処理(色信号補間処理)、輪郭補正、輝度・色差信号(YC信号)作成を含む画像処理を行い、3D画像作成部117に送出する。
 続いて、メインCPU100は、3D画像作成部117内の右用の画像信号と左用の画像信号を、バスBusを使って圧縮・伸張処理部150に供給する。メインCPU100は、この圧縮・伸張処理部150に画像データの圧縮を行わせた後、その圧縮された画像データをメディア制御部にバスBusを使って転送するとともに、その圧縮や撮影に係るヘッダ情報をメディア制御部160に供給してメディア制御部160に所定形式の画像ファイル(例えば、3Dの静止画は、MP(マルチピクチャ)フォーマットの画像ファイル)を作成させメモリカード161にその画像ファイルを記録させる。
 操作部10のモードダイヤル10Bにより3Dパノラマ画像撮影モードが選択されると、メインCPU100は、3Dパノラマ合成に必要な複数の立体画像を撮影するための処理を行う。また、3D画像作成部117は、3Dパノラマ画像撮影モード時に撮影される複数の3D画像(複数の左画像、複数の右画像)から3Dパノラマ画像を作成する画像処理部として機能する。尚、3Dパノラマ画像撮影モード時の立体撮像装置1の動作の詳細については後述する。
 対応点検出部170は、3D画像(左画像と右画像)の特徴が一致する対応点を検出するとともに、3Dパノラマ画像撮影モード時に連続的に撮影される前後の画像間の特徴が一致する対応点を検出する。前者の対応点検出は、3Dパノラマ画像の視差調整時に使用される画像ずらし量の算出に使用され、後者の対応点検出は、3Dパノラマ画像の作成時のオプティカルフロー(並進成分)の算出に使用される。尚、対応点の検出方法としては、例えば、Harrisの手法等を用いて特徴点を抽出し、KLT(Kanade Lucas Tomasi)法等を用いて特徴点追尾を行う方法が挙げられる。
 顔検出部172は、スルー画から人物の顔を検出し、その顔の位置や大きさの情報をメインCPU100に出力する。即ち、顔検出部172は、画像照合回路及び顔画像テンプレートを含み、画像照合回路は、スルー画の画面内で、対象領域の位置を移動させながら、対象領域の画像と顔画像テンプレートとを照合し、両者の相関を調べる。そして、顔検出部172は、相関スコアが予め設定された閾値を越えると、その対象領域を顔領域として認定する。また、顔検出部172は、撮影した画像からも同様にして顔を検出することができる。
 尚、顔検出方法は、上記の方法の他に、エッジ検出又は形状パターン検出による顔検出方法、色相検出又は肌色検出による顔検出方法等の公知の方法を利用することができる。
 メインCPU100は、顔検出部172から顔領域の位置及び大きさを示す情報を取得すると、その取得した人物の顔領域を囲む顔検出枠をスルー画に合成して、液晶モニタDISPに表示させることができるようになっている。また、このようにして検出された顔領域の位置及び大きさは、人物の顔に合焦させるためのAFエリアや、人物の顔の明るさが適正になるようにAEエリアとして利用される。更に、3D画像からそれぞれ検出された顔領域の位置は、対応点検出部170により検出される対応点としても利用することができる。
 尚、図2には、フラッシュ制御部180とそのフラッシュ制御部180からの指示を受けて、図1Aの発光窓WDからフラッシュを発光するフラッシュ181や現在の時刻を検知するための時計部Wが図示されている。
 <3Dパノラマ画像作成用の3D画像の取得及び3Dパノラマ合成>
 3Dパノラマ合成用の3D画像を撮影する場合には、操作部10のモードダイヤル10Bにより3Dパノラマ画像撮影モードを選択する。
 その後、図3に示すように、立体撮像装置1を一定方向にスイングさせるとともに、連続的に撮影(連写)させる。
 図3上で、CPは、左右の撮像部L,Rの光軸が交わる輻輳点(以下、「クロスポイント」という)であり、θは、左右の撮像部L,Rの光軸のなす角度(輻輳角)である。この立体撮像装置1は、上記クロスポイントCP,輻輳角θは固定されており、例えば、立体撮像装置1からクロスポイントCPまでの距離は、約2mである。但し、左画像と右画像とを相対的に左右方向にずらすことにより、クロスポイントCPまでの距離を仮想的に調整することができる。
 ところで、クロスポイントCP上の被写体は、視差がない。従って、左画像と右画像の特徴が一致する特定の対応点(被写体)のずれ量がゼロになるように、左画像と右画像とを相対的にずらすことにより、その被写体の視差をゼロにすること(クロスポイントCPをその被写体の距離に合わせること)ができる。
 メインCPU100は、3Dパノラマ画像撮影モードが設定されている場合には、所定枚数の3D画像の撮影が終了するまで、1枚目の3D画像に使用したピント位置、露出条件及びホワイトバランスゲインを固定するように制御する。
 上記のようにして予め設定された3Dパノラマ合成に必要な枚数分の3D画像の撮影が終了すると、メインCPU100は、3Dパノラマ合成用の3D画像の撮影が終了したと判断し、以降の3Dパノラマ合成の処理等に移行する。
 図4Aから図4Eは、3Dパノラマ画像の合成処理シーケンスを示す図である。
 図4Aにおいて、1~6は、立体撮像装置1のスイング中に撮影された時系列の画像であって、上段側の画像及び下段側の画像は、それぞれ左画像及び右画像である。
 3D画像作成部117は、3Dパノラマ画像撮影モード時に撮影される複数の3D画像から3Dパノラマ画像を作成する画像処理部として機能するが、パノラマ合成処理において、対応点検出部170で検出した時系列の画像間の対応点から算出したオプティカルフローを使用することができる。図4Aに示す例では、隣接する各画像間1-2,2-3,3-4,…のオプティカルフロー(並進ベクトル)として、(x,y)=(19,2),(21,-1),(20,0),…が算出されている。
 続いて、図4Bに示すように、上記算出されたオプティカルフロー(並進ベクトル)(x,y)=(19,2),(21,-1),(20,0),…に基づいて、各3D画像を短冊状にトリミングする。そして、そのトリミングした短冊状のスリット画像を順次合成する。即ち、画像中央から並進ベクトルの水平成分xの1/2だけずらした位置から固定幅wの短冊状のスリット画像を切り出し、この切り出した短冊状のスリット画像を、図4Cに示すように、並進ベクトルだけ上下左右方向にずらしながら各短冊状のスリット画像を合成させる。これにより、3Dパノラマ合成が完了する。
 次に、パノラマ合成された左画像と右画像のうちの、互いに重複する画素を有する領域の画像をそれぞれトリミングする。図4Dに示す例では、パノラマ合成された左画像及び右画像からそれぞれ最大の矩形領域の画像を切り出すようにしている。
 これらの切り出した左画像及び右画像は、3Dパノラマ画像としてメモリカード161に保存される(図4E)。例えば、左右の2枚のパノラマ画像からマルチピクチャファイル(MPファイル:複数の画像が連結された形式のファイル)を生成し、このMPファイルをメディア制御部160を介してメモリカード161に記録する。尚、左右の2枚のパノラマ画像は、1つのMPファイルに保存する場合に限らず、互いに関連付けて保存されていれば、別々の画像ファイルで保存するようにしてもよい。
 また、メインCPU100は、対応点検出部170により3D画像ごとに検出された対応点のうちから、該3D画像の中央付近の対応点(例えば、左画像の短冊状のスリット画像内の特徴点と、それに対応する右画像上の対応点)を特定し、これらの対応点のずれ量(画素数)を、画像ずらし量(以下、「CP量」という)として算出する。
 即ち、メインCPU100は、上記のようにして算出した3D画像ごとのCP量と、3Dパノラマ画像(左画像)上のクロスポイントCPの座標(x,y)とを関連付け、これらの情報を、3Dパノラマ画像の付属情報としてMPファイルのヘッダ領域等に記録する。
 図5は、各3D画像のクロスポイントCPの座標(x,y)に関連付けてCP量(Δx)が記録された付属情報の一例を示す図表である。
 図6は、上記3Dパノラマ画像作成用の3D画像の取得及び3Dパノラマ合成の処理手順を示すフローチャートである。
 図6において、操作部10のモードダイヤル10Bにより3Dパノラマ画像撮影モードを選択し、立体撮像装置1を手で持ち、一定方向にスイングさせながら撮影を開始する(ステップS10)。
 メインCPU100は、パノラマ合成に必要な枚数を撮影したか否かを判別し(ステップS12)、必要な枚数の撮影が終了すると(「Yes」の場合)、3Dパノラマ画像撮影モードによる撮影を終了させ、必要な枚数の撮影が終了していない場合(「No」の場合)には、ステップS14に遷移させる。
 ステップS14では、撮影された3D画像から対応点を検出する。即ち、3D画像のうちの左画像の中央付近から1つの特徴点を抽出し、この特徴点に対応する右画像の対応点を検出する。続いて、上記検出された対応点間のずれ量であるCP量を算出する(ステップS16)。
 前記算出したCP量を、そのCP量を取得した3D画像ごとに保存する(ステップS18)。尚、CP量は、図5に示したように3Dパノラマ画像(左画像)上のクロスポイントCPの座標(x,y)に関連付けて保存される。
 また、撮影された3D画像から、図4Aから図4Eで説明したように、前後の3D画像のオプティカルフロー(並進ベクトル)に基づいて短冊状のスリット画像を切り出し、並進ベクトルだけ上下左右方向にずらしながら各短冊状のスリット画像を合成(パノラマ合成)し、ステップS12に遷移させる(ステップS20)。
 上記のようにしてパノラマ合成に必要な枚数分だけ上記ステップS12からステップS20を繰り返すことにより3Dパノラマ画像の作成及びその付属情報(CP量等)の算出が行われ、メモリカード161に3Dパノラマ画像が保存されるとともに、その付属情報が保存される。
 尚、図6では、立体撮像装置1のスイング中に撮影された3D画像ごとにCP量の算出・保存、及びパノラマ画像の合成を行うようにした。しかしながら、本発明はこれに限定されるものではない。例えば、パノラマ合成に必要な枚数分の3D画像を撮影し、これらの3D画像をSDRAM115に一時的に保存し、その後、3D画像ごとのCP量の算出、パノラマ合成等を行うようにしてもよい。
 <3Dパノラマ画像の再生>
 〔第1の実施の形態〕
 次に、上記のようにしてメモリカード161に保存された3Dパノラマ画像を再生する場合について説明する。
 図7は、3Dパノラマ画像の再生方法の第1の実施の形態を示すフローチャートである。
 図7において、操作部10のモードダイヤル10Bにより3Dパノラマ画像再生モードを選択し、3Dパノラマ画像の再生を開始させる(ステップS30)。尚、3Dパノラマ画像の再生開始時には、メモリカード161から所定の3Dパノラマ画像を読み出し、SDRAM115に一時的に保存する。また、第1の実施の形態では、3Dパノラマ画像の付属情報として、図5に示すように複数の3D画像ごとのCP量が保存されているものとする。
 まず、前記読み出した3Dパノラマ画像の左端から、液晶モニタDISP(図2)の画面のアスペクト比と同じアスペクト比となる表示用の3D画像を切り出すとともに、その切り出した3D画像の中央部(液晶モニタDISPの表示画面中央)のCP量を選択する(ステップS32)。このCP量の選択は、液晶モニタDISPに表示される3D画像(3Dパノラマ画像の一部)の中央部の、3Dパノラマ画像(左画像上)の位置(x座標)を求め、このx座標に最も近いx座標を有するクロスポイントCPに対応するCP量を選択する(図5参照)。
 続いて、前記選択したCP量に基づいてそのCP量だけ左画像に対して右画像をずらすことにより視差調整を行い、この視差調整した左右の画像(3D画像)を液晶モニタDISPに表示させる(ステップS34)。
 その後、3Dパノラマ画像のスクロール指示、又は3Dパノラマ画像を複数コマに分割した分割コマごとのコマ送り指示が発生したか否かを判別する(ステップS36)。スクロール指示又はコマ送り指示が発生すると、ステップS32に遷移させる。一方、所定期間内にスクロール指示、又はコマ送り指示が発生しない場合(即ち、3Dパノラマ画像の右端までの表示が終了すると)、読み出した3Dパノラマ画像の再生を終了させる。尚、スクロール再生時にスクロール指示を連続して発生させ、また、コマ送り再生時に一定のインターバルでコマ送り指示を発生させることにより、自動的にスクロール再生又はコマ送り再生を行うことができる。
 ステップS32に基づいて次のスクロール位置、又はコマ位置に対応するCP量が選択されると、上記と同様にして選択されたCP量に基づく視差調整が行われる。
 図8A及び図8Bは、それぞれ3Dパノラマ画像をスクロール再生、及びコマ送り再生する際のイメージ図である。図8A及び図8B上で、太線枠が液晶モニタDISPに表示される表示画像を示している。
 図8Aに示すように、3Dパノラマ画像のスクロール再生時には、その3Dパノラマ画像のスクロール位置ごとに画面中央付近のCP量が選択され、視差調整が行われる。図8Bに示すように、3Dパノラマ画像のコマ送り再生時には、コマ送りされるコマごとに画面中央付近のCP量が選択され、視差調整が行われる。
 上記のように3Dパノラマ画像のスクロール再生、又はコマ送り再生時に、画面中央付近のCP量に基づいて視差調整を行うようにしたため、画面中央付近の画像の視差をゼロにすることができる。これにより、3D画像の見え方に大きく影響するクロスポイント部分(左右画像の視差がゼロになる部分)が常に画面中央付近になり、スクロール再生又はコマ送り再生時に立体視しやすくなる。
 尚、上記の第1の実施の形態では、3Dパノラマ画像を自動的にスクロール再生又はコマ送り再生させている。しかしながら、本発明はこれに限定されるものではない。例えば、操作部10の十字キー10Fの手動操作によりスクロール再生又はコマ送り再生を行うようにしてもよい。これによれば、3Dパノラマ画像をスクロール再生時又はコマ送り再生時に、任意にスクロール位置又はコマ位置で3Dパノラマ画像を停止させることができる。
 また、手動操作によりスクロール再生を行わせる場合、スクロールの最中は画像の送りが開始される直前のCP量に基づいて視差調整を行う。そして、画像の送りが停止すると、その停止した画面中央付近のCP量に基づいて視差調整を行うようにしてもよい。これによれば、スクロールの最中の視差調整を固定することができ、視差変動による眼精疲労を低減することができる。
 また、スクロールの最中は、左画像及び右画像のうちのいずれか一方の画像のみ(平面(2D)パノラマ画像)を液晶モニタDISPに表示させ、画像の送りが停止すると、その停止した画面中央付近のCP量に基づいて視差調整を行うようにしてもよい。
 〔第2の実施の形態〕
 図9は、3Dパノラマ画像の再生方法の第2の実施の形態を示すフローチャートである。
 第2の実施の形態は、3Dパノラマ画像の付属情報として、CP量が保存されていない場合の再生方法に関する。尚、図7に示した第1の実施の形態と共通する部分には同一のステップ番号を付し、その詳細な説明は省略する。
 図9において、操作部10のモードダイヤル10Bにより3Dパノラマ画像再生モードを選択し、3Dパノラマ画像の再生を開始させる(ステップS40)。尚、3Dパノラマ画像の再生開始時には、メモリカード161から所定の3Dパノラマ画像を読み出し、SDRAM115に一時的に保存するが、CP量は保存されない。
 第2の実施の形態では、3Dパノラマ画像の再生に先立ってCP量の算出等を行う。
 即ち、メモリカード161から読み出した3Dパノラマ画像(左画像)から複数の特徴点を抽出し、これらの特徴点に対応する右画像の対応点を検出する(ステップS42)。尚、複数の特徴点の抽出は、3Dパノラマ画像の作成時の短冊状のスリット画像と同程度の幅で3Dパノラマ画像を分割し、分割した領域ごとに1つの特徴点を抽出することにより行う。
 続いて、ステップS42で検出された対応点間のずれ量であるCP量を算出し(ステップS44)、この算出したCP量を、複数の特徴点の位置座標に関連付けてSDRAM115に保存する(ステップS46)。
 その後、前記CP量を使用した3Dパノラマ画像のスクロール再生、又はコマ送り再生は、図7に示した第1の実施の形態と同様に行われる。
 尚、3Dパノラマ画像の再生終了後は、SDRAM115に一時的に保存したCP量を、3Dパノラマ画像が保存されているMPファイルに付属情報として記録するようにしてもよい。
 第2の実施の形態によれば、3Dパノラマ画像の付属情報としてCP量が保存されていない3Dパノラマ画像を入力した場合でも、スクロール位置又はコマ送りごとに視差調整された3Dパノラマ画像のスクロール再生、又はコマ送り再生を行うことができる。
 〔第3の実施の形態〕
 図10は、3Dパノラマ画像の再生方法の第3の実施の形態を示すフローチャートである。
 第3の実施の形態は、図7に示した第1の実施の形態を変形させたものであり、第1の実施の形態に比べて、一点鎖線で囲んだ部分の処理が追加されている点で相違する。
 この第3の実施の形態は、最初に3Dパノラマ画像全体を液晶モニタDISPに表示させる点で、第2の実施の形態と相違する。
 図10において、操作部10のモードダイヤル10Bにより3Dパノラマ画像再生モードを選択し、3Dパノラマ画像の再生を開始させると(ステップS10)、メモリカード161から読み出した3Dパノラマ画像の中央部のCP量を選択する(ステップS50)。
 続いて、前記選択したCP量に基づいてそのCP量だけ左画像に対して右画像をずらすことにより視差調整を行い、この視差調整した3Dパノラマ画像全体を液晶モニタDISPに表示させる(ステップS52)。
 図11は、3Dパノラマ画像全体を表示している液晶モニタDISPの表示画面を示している。
 次に、3Dパノラマ画像をスクロール再生又はコマ送り再生を行うためのズーム指示等が発生したか否かを判別する(ステップS54)。ズーム指示が発生しない場合には、ステップS52に遷移させ、引き続き3Dパノラマ画像全体を表示させ、ズーム指示が発生すると、ステップS32に遷移させる。前記ズーム指示は、3Dパノラマ画像全体が表示されてから一定時間経過後に自動的に発生させるようにしてもよいし、ユーザの操作部10での指示入力に基づいて発生させるようにしてもよい。
 ズーム指示が発生してステップS32に遷移すると、3Dパノラマ画像をズームし、ズームした3Dパノラマ画像の左端から3Dパノラマ画像をスクロール再生、又はコマ送り再生させる(図8A及び図8B参照)。尚、3Dパノラマ画像をスクロール再生、又はコマ送り再生時には、図7に示した第1の実施の形態で説明したように、スクロール位置又はコマ送りごとに応じてCP量を選択し、その選択したCP量を使用した視差調整が行われる。
 第3の実施の形態によれば、3Dパノラマ画像全体を確認してから、拡大ズームされた3Dパノラマ画像をスクロールさせ、又は分割コマ送りさせながら鑑賞することができる。
 尚、図9に示した第2の実施の形態を変形し、上記第3の実施の形態と同様に最初に3Dパノラマ画像全体を液晶モニタDISPに表示させるようにしてもよい。この場合、3Dパノラマ画像全体を液晶モニタDISPに表示させている期間にCP量の算出等を行うことができる。また、3Dパノラマ画像全体を液晶モニタDISPに表示させる場合には、予め設定されたCP量(CP量=0も含む)により視差調整してもよい。
 また、3Dパノラマ画像のスクロール再生又は分割コマ送り再生時のズーム倍率は、3Dパノラマ画像の縦方向の幅が、液晶モニタDISPの縦方向の幅に一致する倍率が好ましい。しかしながら、本発明の範囲はこの倍率に限定されるものではない。例えば、手動によるズーム操作により適宜調整できるようにしてもよい。
 <CP量の算出の他の実施の形態>
 図6で示した実施の形態では、パノラマ合成に使用した3D画像ごとに、その3D画像の中央付近の対応点からCP量を算出した。3Dパノラマ画像に対するCP量の算出のほかの実施の形態としては、3Dパノラマ画像中から主要な被写体を複数検出し、各被写体の左右のパノラマ画像間におけるずれ量を算出し、これをCP量とする。
 主要な被写体を検出する検出手段としては、図2に示した顔検出部172を使用することができる。これによれば、3Dパノラマ画像に含まれる顔画像ごとにCP量が算出され、3Dパノラマ画像(左画像)上の各顔画像の位置に関連付けてCP量が保存されることになる。
 また、3Dパノラマ画像中の主要な被写体としては、人物の顔のほか、建物、壁などの人工の建造物、樹木、林等の自然物が考えられる。これらの人工の建造物、樹木、林等の自然物は、公知のオブジェクト認識技術(例えば、オブジェクトごとの辞書データとの照合)により検知することができる。
 従って、立体撮像装置1にオブジェクト検出手段(顔検出部172を含む)を設けることにより、3Dパノラマ画像中の主要な被写体(顔、人工の建造物、自然物等のオブジェクト)ごとにCP量を算出し、そのCP量を保存することができる。
 〔第4の実施の形態〕
 図12は、3Dパノラマ画像の再生方法の第4の実施の形態を示すフローチャートである。尚、図7に示した第1の実施の形態と共通する部分には同一のステップ番号を付し、その詳細な説明は省略する。
 図12において、操作部10のモードダイヤル10Bにより3Dパノラマ画像再生モードを選択し、3Dパノラマ画像の再生を開始させる(ステップS30´)。尚、3Dパノラマ画像の再生開始時には、メモリカード161から所定の3Dパノラマ画像を読み出し、SDRAM115に一時的に保存する。また、第4の実施の形態では、3Dパノラマ画像の付属情報として、3Dパノラマ画像中のオブジェクトごとにCP量が保存されているものとする。
 3Dパノラマ画像の再生が開始されると、液晶モニタDISP(図2)に表示される3D画像(3Dパノラマ画像の一部)内で、その表示部中央に最も近いオブジェクトに対応するCP量を選択する(ステップS60)。
 その後、前記CP量により視差調整した3Dパノラマ画像のスクロール再生、又はコマ送り再生は、図7に示した第1の実施の形態と同様に行われる。
 第4の実施の形態によれば、3Dパノラマ画像のスクロール再生又はコマ送り再生時に、表示部中央に最も近いオブジェクトにクロスポイントが一致するように視差調整される。このため、スクロール再生又はコマ送り再生時に3Dパノラマ画像中のオブジェクト(主要な被写体)が立体視しやすくなる。
 尚、第4の実施の形態では、液晶モニタDISPの表示部中央に最も近いオブジェクトに対応するCP量を選択するようにした。しかしながら、本発明はこれに限定されるものではない。例えば、予めオブジェクトの種類に応じて優先順位(例えば、顔→建物→その他の順)を決めておき、表示画面中に種類の異なる複数のオブジェクトが存在する場合には、最も優先順位の高いオブジェクトに対応するCP量を選択するようにしてもよい。この場合、オブジェクトの種類を示す情報もCP量に関連付けて保存しておく必要がある。
 <3Dパノラマ画像作成用の3D画像の取得及び3Dパノラマ合成の他の実施の形態>
 図3及び図4Aから図4Eに示したように、3Dパノラマ合成用の3D画像を撮影する場合には、立体撮像装置1を一定方向にスイングさせるとともに、連続的に撮影(連写)させるようにした。しかしながら、本発明はこれに限定されるものではない。例えば、図13A及び図13Bに示すように撮影を行うようにしてもよい。
 即ち、図13A及び図13Bに示すように立体撮像装置1により1枚目の3D画像を撮影する(図13A)。3Dパノラマ画像撮影モードが設定されている場合には、メインCPU100は、以後の所定枚数の3D画像の撮影が終了するまで、1枚目の3D画像に使用したピント位置、露出条件及びホワイトバランスゲインを固定するように制御する。
 撮影者は、1枚目の3D画像の撮影が終了すると、立体撮像装置1をスイング(パンニング)させて撮影方向を変え、2枚目の3D画像の撮影を行う(図13B)。
 このとき、撮影者は、図14に示すように1枚目の3D画像と2枚目の3D画像との一部が重なるように立体撮像装置1の撮影方向を調整して撮影を行う。メインCPU100は、3Dパノラマ画像撮影モード時には、先に撮影された3D画像の一部を、液晶モニタDISPに表示させ、次の撮影時の撮影方向のアシストを行うようにすることが好ましい。即ち、撮影者は、液晶モニタDISPに表示されている先に撮影された3D画像の一部と、スルー画とを見ながら撮影方向を決定することができる。
 上記のようにして予め設定された枚数分、又はデフォルトで設定された枚数分の3D画像の撮影が終了すると、メインCPU100は、3Dパノラマ合成用の3D画像の撮影が終了したと判断し、以降の3Dパノラマ合成の処理に移行する。尚、このようにして取得した複数枚の3D画像から3Dパノラマ画像を合成するパノラマ合成方法は、公知の技術を使用することができる。
 〔その他〕
 図6に示した実施の形態では、連続的に取得した3D画像ごとに、左画像の中央付近から1つの特徴点を抽出し、この特徴点に対応する右画像の対応点を検出する。これらの検出した対応点間のずれ量からCP量を算出しているが、撮影シーンによっては左画像の中央付近の領域に対応点検出に適した特徴点が抽出できない場合がある。この場合には、予め設定されたCP量(CP量=0を含む)、隣接するCP量を補間して求めたCP量等を、その3D画像に対するCP量とする。
 また、3Dパノラマ画像をスクロール再生する際に、スクロール位置ごとに視差調整できるように、算出された複数のCP量に基づいてスクロール位置に対応するCP量を補間(線形補間)により求め、これらのCP量も記録しておくようにしてもよい。
 また、3Dパノラマ画像内のオブジェクトごとにCP量を算出する場合も上記と同様にして、オブジェクト間のCP量を補間演算により求め、これらのCP量も記録しておくようにしてもよい。
 更に、この実施の形態では、左画像と右画像の特徴が一致する特定の対応点(被写体)のずれ量がゼロになるCP量(画像ずらし量)を求めるようにした。しかしながら、本発明は対応点のずれ量をゼロにする場合に限定されるものではない。例えば、所定の視差量(注目被写体が少し手前に飛び出す視差量)になるように画像ずらし量を求めるようにしてもよい。また、この所定の視差量は、ユーザが適宜設定できるようにしてもよい。
 上記のようにしてスクロール位置ごとのCP量を補間して求めることにより、3Dパノラマ画像をスクロール再生させる際に、補間演算されたCP量を使用して連続的に視差調整を行うことができる。
 また、この立体撮像装置1は、背面の液晶モニタDISPに3Dパノラマ画像を表示させるようにしているが、外部の3Dディスプレイに3Dパノラマ画像を表示させるための出力インターフェースを備えたものでもよい。
 更に、撮影機能を有しないパーソナルコンピュータ等の機器により3Dパノラマ画像作成装置や3Dパノラマ画像再生装置を構成するようにしてもよい。この場合、一般の立体撮像装置により撮影された3Dパノラマ合成用の複数の3D画像を入力画像にする。
 更にまた、本発明に係るパノラマ画像作成プログラムやパノラマ画像再生プログラムを、該プログラムが格納された記録媒体を介してコンピュータにインストールすることにより、該コンピュータを3Dパノラマ画像作成装置や3Dパノラマ画像再生装置として機能させるようにしてもよい。
 また、本発明は上述した実施の形態に限定されず、各実施の形態を適宜組み合わせたり、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
 1…立体撮像装置、10…操作部、100…メインCPU、101…ROM、102…フラッシュROM、110A…第1の撮影光学系、110B…第2の撮影光学系、111A…第1の撮像素子、111B…第2の撮像素子、115…SDRAM、117…3D画像作成部、119…表示制御部、160…メディア制御部、161…メモリカード、170…対応点検出部、172…顔検出部、L…第1の撮像部、R…第2の撮像部、DISP…液晶モニタ

Claims (42)

  1.  立体撮像装置により撮影された左画像及び右画像からなる立体画像であって、前記立体撮像装置を一定方向にスイングさせて連続的に撮影された複数の立体画像を取得する立体画像取得手段と、
     前記立体画像取得手段により取得された複数の立体画像のうちの左画像同士を合成するとともに、右画像同士を合成して左右のパノラマ画像からなる立体パノラマ画像を作成する立体パノラマ画像作成手段と、
     前記立体画像取得手段により取得された複数の立体画像の左画像と右画像の間、又は前記作成された立体パノラマ画像の左右のパノラマ画像の間で特徴がそれぞれ一致する対応点であって、視差調整用の複数の対応点を検出する対応点検出手段と、
     前記検出された複数の対応点の視差をそれぞれ所定の視差量にするための複数の画像ずらし量を算出する画像ずらし量算出手段と、
     前記作成された立体パノラマ画像を記録媒体に記録するとともに、前記視差調整用の複数の対応点の立体パノラマ画像上の位置情報と前記算出した複数の画像ずらし量とを関連付けて前記立体パノラマ画像の付属情報として前記記録媒体に記録する記録手段と、
     を備える立体パノラマ画像作成装置。
  2.  前記対応点検出手段は、前記立体画像取得手段により取得された立体画像の左画像と右画像の組ごとに1組の対応点を検出し、
     前記画像ずらし量算出手段は、前記検出された対応点の視差を前記所定の視差量にするための画像ずらし量を算出する、請求項1に記載の立体パノラマ画像作成装置。
  3.  前記対応点検出手段は、前記立体画像の左画像と右画像の組ごとに該立体画像の中央付近から前記1組の対応点を検出する、請求項2に記載の立体パノラマ画像作成装置。
  4.  前記画像ずらし量算出手段は、前記対応点検出手段により前記立体画像の中央付近から所要の対応点が検出されない場合には、予め設定された画像ずらし量を算出値とし、又は隣接する画像ずらし量を補間して画像ずらし量を算出する、請求項3に記載の立体パノラマ画像作成装置。
  5.  前記立体パノラマ画像作成手段は、前記立体画像取得手段により取得された複数の立体画像のうちの中央付近の短冊状のスリット画像を繋ぎ合わせて立体パノラマ画像を作成する、請求項1から4のいずれか1項に記載の立体パノラマ画像作成装置。
  6.  前記立体画像取得手段により取得された複数の立体画像又は前記作成された立体パノラマ画像中に含まれる所要のオブジェクトを検出するオブジェクト検出手段を更に備え、
     前記対応点検出手段は、前記オブジェクト検出手段により検出されたオブジェクトごとに対応点を検出する、請求項1に記載の立体パノラマ画像作成装置。
  7.  前記画像ずらし量算出手段により算出された複数の画像ずらし量に基づいて各対応点の間の画素ずらし量を補間して連続した画素ずらし量を算出する補間演算手段を更に備え、
     前記記録手段は、前記画像ずらし量算出手段により算出された複数の画像ずらし量とともに、前記補間演算手段により算出された画像ずらし量を前記記録媒体に記録する、請求項1から6のいずれか1項に記載の立体パノラマ画像作成装置。
  8.  前記所定の視差量はゼロである、請求項1から6のいずれか1項に記載の立体パノラマ画像作成装置。
  9.  請求項1から8のいずれか1項に記載の記録媒体から立体パノラマ画像と該立体パノラマ画像の付属情報とを読み出す読出手段と、
     前記読み出した立体パノラマ画像を所定の倍率に拡大させ、該拡大させた立体パノラマ画像を自動的に又は手動指示入力により立体ディスプレイ上でスクロール再生させ、又は前記立体パノラマ画像を複数コマに分割した分割コマごとにコマ送り再生させる再生手段と、
     前記再生手段による立体パノラマ画像のスクロール再生又はコマ送り再生時に、該立体パノラマ画像の付属情報として記録された複数の画像ずらし量のうちから、前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて該立体画像の視差調整を行う視差調整手段と、
     を備える立体パノラマ画像再生装置。
  10.  左右のパノラマ画像からなる立体パノラマ画像を取得する立体パノラマ画像取得手段と、
     前記取得した立体パノラマ画像の再生に先立って、該立体パノラマ画像から左右のパノラマ画像の間で特徴がそれぞれ一致する対応点であって、視差調整用の複数の対応点を検出する対応点検出手段と、
     前記検出された複数の対応点の視差を所定の視差量にするための画像ずらし量を算出する画像ずらし量算出手段と、
     前記視差調整用の複数の対応点の立体パノラマ画像上の位置情報と前記算出した複数の画像ずらし量とを関連付けて記憶する記憶手段と、
     前記取得した立体パノラマ画像を所定の倍率に拡大させ、該拡大させた立体パノラマ画像を自動的に又は手動指示入力により立体ディスプレイ上でスクロール再生させ、又は前記立体パノラマ画像を複数コマに分割した分割コマごとにコマ送り再生させる再生手段と、
     前記再生手段による立体パノラマ画像のスクロール再生又はコマ送り再生時に、該立体パノラマ画像に対応して前記記憶手段に記憶された複数の画像ずらし量のうちから、前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行う視差調整手段と、
     を備える立体パノラマ画像再生装置。
  11.  前記対応点検出手段は、前記パノラマ画像を短冊状のスリット画像に分割したスリット画像ごとに1組の対応点を検出する、請求項10に記載の立体パノラマ画像再生装置。
  12.  前記画像ずらし量算出手段は、前記対応点検出手段により前記立体画像の中央付近から所要の対応点が検出されない場合には、予め設定された画像ずらし量を算出値とし、又は隣接する画像ずらし量を補間して画像ずらし量を算出する、請求項11に記載の立体パノラマ画像再生装置。
  13.  前記取得した立体パノラマ画像中に含まれる所要のオブジェクトを検出するオブジェクト検出手段を更に備え、
     前記対応点検出手段は、前記オブジェクト検出手段により検出されたオブジェクトごとに対応点を検出する、請求項10に記載の立体パノラマ画像再生装置。
  14.  前記画像ずらし量算出手段により算出された複数の画像ずらし量に基づいて各対応点の間の画素ずらし量を補間して連続した画素ずらし量を算出する補間演算手段を更に備え、
     前記記憶手段は、前記画像ずらし量算出手段により算出された複数の画像ずらし量とともに、前記補間演算手段により算出された画像ずらし量を記憶する、請求項10から13のいずれか1項に記載の立体パノラマ画像再生装置。
  15.  前記所定の視差量はゼロである、請求項10から14のいずれか1項に記載の立体パノラマ画像再生装置。
  16.  前記視差調整手段は、前記立体ディスプレイの画面中央、又は画面中央に最も近い画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行う、請求項9から15のいずれか1項に記載の立体パノラマ画像再生装置。
  17.  前記視差調整手段は、前記再生手段が手動指示入力により立体パノラマ画像をスクロール再生させる際に、手動指示入力によるスクロール開始時に表示されている前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量をスクロール停止まで選択するとともに、スクロール停止時に該スクロール停止時に表示されている前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行う、請求項9から16のいずれか1項に記載の立体パノラマ画像再生装置。
  18.  前記再生手段は、手動指示入力によるスクロール再生によるスクロール中は前記左画像及び右画像のうちのいずれか一方の画像のみを前記立体ディスプレイに表示させるとともに、スクロール停止時に立体画像を前記立体ディスプレイに表示させ、
     前記視差調整手段は、前記スクロール停止時に該スクロール停止時に表示されている前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行う、請求項9から16のいずれか1項に記載の立体パノラマ画像再生装置。
  19.  前記再生手段は、前記立体パノラマ画像の全体を前記立体ディスプレイに表示させた後、該立体パノラマ画像を所定の倍率に拡大させてスクロール再生させ、又はコマ送り再生させる、請求項9から18のいずれか1項に記載の立体パノラマ画像再生装置。
  20.  立体撮像装置により撮影された左画像及び右画像からなる立体画像であって、前記立体撮像装置を一定方向にスイングさせて連続的に撮影された複数の立体画像を取得する立体画像取得ステップと、
     前記取得された複数の立体画像のうちの左画像同士を合成するとともに、右画像同士を合成して左右のパノラマ画像からなる立体パノラマ画像を作成する立体パノラマ画像作成ステップと、
     前記取得された複数の立体画像の左画像と右画像の間、又は前記作成された立体パノラマ画像の左右のパノラマ画像の間で特徴がそれぞれ一致する対応点であって、視差調整用の複数の対応点を検出する対応点検出ステップと、
     前記検出された複数の対応点の視差を所定の視差量にするための画像ずらし量を算出する画像ずらし量算出ステップと、
     前記作成された立体パノラマ画像を記録媒体に記録するとともに、前記視差調整用の複数の対応点の立体パノラマ画像上の位置情報と前記算出した複数の画像ずらし量とを関連付けて前記立体パノラマ画像の付属情報として前記記録媒体に記録する記録ステップと、
     を含む立体パノラマ画像作成方法。
  21.  前記対応点検出ステップは、前記取得された立体画像の左画像と右画像の組ごとに1組の対応点を検出し、
     前記画像ずらし量算出ステップは、前記立体画像ごとに検出された対応点のうちから1組の対応点を特定し、該対応点の視差を前記所定の視差量にするための画像ずらし量を算出する、請求項20に記載の立体パノラマ画像作成方法。
  22.  前記対応点検出ステップは、前記立体画像の左画像と右画像の組ごとに該立体画像の中央付近から前記1組の対応点を検出する、請求項21に記載の立体パノラマ画像作成方法。
  23.  前記画像ずらし量算出ステップは、前記対応点検出ステップにより前記立体画像の中央付近から所要の対応点が検出されない場合には、予め設定された画像ずらし量を算出値とし、又は隣接する画像ずらし量を補間して画像ずらし量を算出する、請求項22に記載の立体パノラマ画像作成方法。
  24.  前記立体パノラマ画像作成ステップは、前記取得された複数の立体画像のうちの中央付近の短冊状のスリット画像を繋ぎ合わせて立体パノラマ画像を作成する、請求項20から23のいずれか1項に記載の立体パノラマ画像作成方法。
  25.  前記取得された複数の立体画像又は前記作成された立体パノラマ画像中に含まれる所要のオブジェクトを検出するオブジェクト検出ステップを更に含み、
     前記対応点検出ステップは、前記オブジェクト検出手段により検出されたオブジェクトごとに対応点を検出する、請求項20に記載の立体パノラマ画像作成方法。
  26.  前記画像ずらし量算出ステップにより算出された複数の画像ずらし量に基づいて各対応点の間の画素ずらし量を補間して連続した画素ずらし量を算出する補間演算ステップを更に含み、
     前記記録ステップは、前記画像ずらし量算出ステップにより算出された複数の画像ずらし量とともに、前記補間演算ステップにより算出された画像ずらし量を前記記録媒体に記録する、請求項20から25のいずれか1項に記載の立体パノラマ画像作成方法。
  27.  前記所定の視差量はゼロである、請求項20から25のいずれか1項に記載の立体パノラマ画像作成方法。
  28.  請求項20から27のいずれか1項に記載の記録媒体から立体パノラマ画像と該立体パノラマ画像の付属情報とを読み出す読出ステップと、
     前記読み出した立体パノラマ画像を所定の倍率に拡大させ、該拡大させた立体パノラマ画像を自動的に又は手動指示入力により立体ディスプレイ上でスクロール再生させ、又は前記立体パノラマ画像を複数コマに分割した分割コマごとにコマ送り再生させる再生ステップと、
     前記再生ステップによる立体パノラマ画像のスクロール再生又はコマ送り再生時に、該立体パノラマ画像の付属情報として記録された複数の画像ずらし量のうちから、前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて該立体画像の視差調整を行う視差調整ステップと、
     を含む立体パノラマ画像再生方法。
  29.  左右のパノラマ画像からなる立体パノラマ画像を取得する立体パノラマ画像取得ステップと、
     前記取得した立体パノラマ画像の再生に先立って、該立体パノラマ画像から左右のパノラマ画像の間で特徴がそれぞれ一致する対応点であって、視差調整用の複数の対応点を検出する対応点検出ステップと、
     前記検出された複数の対応点の視差を所定の視差量にするための画像ずらし量を算出する画像ずらし量算出ステップと、
     前記視差調整用の複数の対応点の立体パノラマ画像上の位置情報と前記算出した複数の画像ずらし量とを関連付けて記憶する記憶ステップと、
     前記取得した立体パノラマ画像を所定の倍率に拡大させ、該拡大させた立体パノラマ画像を自動的に又は手動指示入力により立体ディスプレイ上でスクロール再生させ、又は前記立体パノラマ画像を複数コマに分割した分割コマごとにコマ送り再生させる再生ステップと、
     前記再生ステップによる立体パノラマ画像のスクロール再生又はコマ送り再生時に、該立体パノラマ画像に対応して前記記憶手段に記憶された複数の画像ずらし量のうちから、前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行う視差調整ステップと、
     を含む立体パノラマ画像再生方法。
  30.  前記対応点検出ステップは、前記パノラマ画像を短冊状のスリット画像に分割したスリット画像ごとに1組の対応点を検出する、請求項29に記載の立体パノラマ画像再生方法。
  31.  前記画像ずらし量算出ステップは、前記対応点検出ステップにより前記立体画像の中央付近から所要の対応点が検出されない場合には、予め設定された画像ずらし量を算出値とし、又は隣接する画像ずらし量を補間して画像ずらし量を算出する、請求項30に記載の立体パノラマ画像再生方法。
  32.  前記取得した立体パノラマ画像中に含まれる所要のオブジェクトを検出するオブジェクト検出ステップを更に含み、
     前記対応点検出ステップは、前記オブジェクト検出ステップにより検出されたオブジェクトごとに対応点を検出する、請求項29に記載の立体パノラマ画像再生方法。
  33.  前記画像ずらし量算出ステップにより算出された複数の画像ずらし量に基づいて各対応点の間の画素ずらし量を補間して連続した画素ずらし量を算出する補間演算ステップを更に含み、
     前記記憶ステップは、前記画像ずらし量算出ステップにより算出された複数の画像ずらし量とともに、前記補間演算ステップにより算出された画像ずらし量を記憶する、請求項29から32のいずれか1項に記載の立体パノラマ画像再生方法。
  34.  前記所定の視差量はゼロである、請求項29から33のいずれか1項に記載の立体パノラマ画像再生方法。
  35.  前記視差調整ステップは、前記立体ディスプレイの画面中央、又は画面中央に最も近い画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行う、請求項28から34のいずれか1項に記載の立体パノラマ画像再生方法。
  36.  前記視差調整ステップは、前記再生ステップにおいて手動指示入力により立体パノラマ画像をスクロール再生する際に、手動指示入力によるスクロール開始時に表示されている前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量をスクロール停止まで選択するとともに、スクロール停止時に該スクロール停止時に表示されている前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行う、請求項28から35のいずれか1項に記載の立体パノラマ画像再生方法。
  37.  前記再生ステップは、手動指示入力によるスクロール再生によるスクロール中は前記左画像及び右画像のうちのいずれか一方の画像のみを前記立体ディスプレイに表示させるとともに、スクロール停止時に立体画像を前記立体ディスプレイに表示させ、
     前記視差調整ステップは、前記スクロール停止時に該スクロール停止時に表示されている前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行う、請求項28から35のいずれか1項に記載の立体パノラマ画像再生方法。
  38.  前記再生ステップは、前記立体パノラマ画像の全体を前記立体ディスプレイに表示させた後、該立体パノラマ画像を所定の倍率に拡大させてスクロール再生させ、又はコマ送り再生させる、請求項28から37のいずれか1項に記載の立体パノラマ画像再生方法。
  39.  立体撮像装置により撮影された左画像及び右画像からなる立体画像であって、前記立体撮像装置を一定方向にスイングさせて連続的に撮影された複数の立体画像を取得する立体画像取得機能と、
     前記立体画像取得機能により取得された複数の立体画像のうちの左画像同士を合成するとともに、右画像同士を合成して左右のパノラマ画像からなる立体パノラマ画像を作成する立体パノラマ画像作成機能と、
     前記立体画像取得機能により取得された複数の立体画像の左画像と右画像の間、又は前記作成された立体パノラマ画像の左右のパノラマ画像の間で特徴がそれぞれ一致する対応点であって、視差調整用の複数の対応点を検出する対応点検出機能と、
     前記検出された複数の対応点の視差をそれぞれ所定の視差量にするための複数の画像ずらし量を算出する画像ずらし量算出機能と、
     前記作成された立体パノラマ画像を記録媒体に記録するとともに、前記視差調整用の複数の対応点の立体パノラマ画像上の位置情報と前記算出した複数の画像ずらし量とを関連付けて前記立体パノラマ画像の付属情報として前記記録媒体に記録する記録機能と、
     をコンピュータにより実現させる立体パノラマ画像作成プログラム。
  40.  左右のパノラマ画像からなる立体パノラマ画像を取得する立体パノラマ画像取得機能と、
     前記取得した立体パノラマ画像の再生に先立って、該立体パノラマ画像から左右のパノラマ画像の間で特徴がそれぞれ一致する対応点であって、視差調整用の複数の対応点を検出する対応点検出機能と、
     前記検出された複数の対応点の視差を所定の視差量にするための画像ずらし量を算出する画像ずらし量算出機能と、
     前記視差調整用の複数の対応点の立体パノラマ画像上の位置情報と前記算出した複数の画像ずらし量とを関連付けて記憶する記憶機能と、
     前記取得した立体パノラマ画像を所定の倍率に拡大させ、該拡大させた立体パノラマ画像を自動的に又は手動指示入力により立体ディスプレイ上でスクロール再生させ、又は前記立体パノラマ画像を複数コマに分割した分割コマごとにコマ送り再生させる再生機能と、
     前記再生機能による立体パノラマ画像のスクロール再生又はコマ送り再生時に、該立体パノラマ画像に対応して前記記憶機能により記憶された複数の画像ずらし量のうちから、前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行う視差調整機能と、
     をコンピュータにより実現させる立体パノラマ画像再生プログラム。
  41.  コンピュータ読取可能な記録媒体であって、前記指令がプロセッサーによって読み取られて実行された場合に、前記プロセッサーが、
     立体撮像装置により撮影された左画像及び右画像からなる立体画像であって、前記立体撮像装置を一定方向にスイングさせて連続的に撮影された複数の立体画像を取得する立体画像取得ステップと、
     前記立体画像取得ステップにおいて取得された複数の立体画像のうちの左画像同士を合成するとともに、右画像同士を合成して左右のパノラマ画像からなる立体パノラマ画像を作成する立体パノラマ画像作成ステップと、
     前記立体画像取得ステップにおいて取得された複数の立体画像の左画像と右画像の間、又は前記作成された立体パノラマ画像の左右のパノラマ画像の間で特徴がそれぞれ一致する対応点であって、視差調整用の複数の対応点を検出する対応点検出ステップと、
     前記検出された複数の対応点の視差をそれぞれ所定の視差量にするための複数の画像ずらし量を算出する画像ずらし量算出ステップと、
     前記作成された立体パノラマ画像を記録媒体に記録するとともに、前記視差調整用の複数の対応点の立体パノラマ画像上の位置情報と前記算出した複数の画像ずらし量とを関連付けて前記立体パノラマ画像の付属情報として前記記録媒体に記録する記録ステップと、
     を実行するように構成された記録媒体。
  42.  コンピュータ読取可能な記録媒体であって、前記指令がプロセッサーによって読み取られて実行された場合に、前記プロセッサーが、
     左右のパノラマ画像からなる立体パノラマ画像を取得する立体パノラマ画像取得ステップと、
     前記取得した立体パノラマ画像の再生に先立って、該立体パノラマ画像から左右のパノラマ画像の間で特徴がそれぞれ一致する対応点であって、視差調整用の複数の対応点を検出する対応点検出ステップと、
     前記検出された複数の対応点の視差を所定の視差量にするための画像ずらし量を算出する画像ずらし量算出ステップと、
     前記視差調整用の複数の対応点の立体パノラマ画像上の位置情報と前記算出した複数の画像ずらし量とを関連付けて記憶する記憶ステップと、
     前記取得した立体パノラマ画像を所定の倍率に拡大させ、該拡大させた立体パノラマ画像を自動的に又は手動指示入力により立体ディスプレイ上でスクロール再生させ、又は前記立体パノラマ画像を複数コマに分割した分割コマごとにコマ送り再生させる再生ステップと、
     前記再生ステップにおける立体パノラマ画像のスクロール再生又はコマ送り再生時に、該立体パノラマ画像に対応して前記記憶ステップにおいて記憶された複数の画像ずらし量のうちから、前記立体ディスプレイの画面内の立体画像に対応する1つの画像ずらし量を選択し、該選択した画像ずらし量に基づいて前記立体画像の視差調整を行う視差調整ステップと、
     を実行するように構成された記録媒体。
PCT/JP2011/075672 2010-12-24 2011-11-08 立体パノラマ画像作成装置、立体パノラマ画像作成方法及び立体パノラマ画像作成プログラム並びに立体パノラマ画像再生装置、立体パノラマ画像再生方法及び立体パノラマ画像再生プログラム、記録媒体 Ceased WO2012086326A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012549683A JP5214826B2 (ja) 2010-12-24 2011-11-08 立体パノラマ画像作成装置、立体パノラマ画像作成方法及び立体パノラマ画像作成プログラム並びに立体パノラマ画像再生装置、立体パノラマ画像再生方法及び立体パノラマ画像再生プログラム、記録媒体
CN201180026719.7A CN102918858B (zh) 2010-12-24 2011-11-08 立体全景图像创建设备和方法、立体全景图像再现设备和方法
US13/682,292 US8687041B2 (en) 2010-12-24 2012-11-20 Stereoscopic panorama image creating apparatus, stereoscopic panorama image creating method, stereoscopic panorama image reproducing apparatus, stereoscopic panorama image reproducing method, and recording medium

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2010-288409 2010-12-24
JP2010288409 2010-12-24

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US13/682,292 Continuation US8687041B2 (en) 2010-12-24 2012-11-20 Stereoscopic panorama image creating apparatus, stereoscopic panorama image creating method, stereoscopic panorama image reproducing apparatus, stereoscopic panorama image reproducing method, and recording medium

Publications (1)

Publication Number Publication Date
WO2012086326A1 true WO2012086326A1 (ja) 2012-06-28

Family

ID=46313608

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2011/075672 Ceased WO2012086326A1 (ja) 2010-12-24 2011-11-08 立体パノラマ画像作成装置、立体パノラマ画像作成方法及び立体パノラマ画像作成プログラム並びに立体パノラマ画像再生装置、立体パノラマ画像再生方法及び立体パノラマ画像再生プログラム、記録媒体

Country Status (4)

Country Link
US (1) US8687041B2 (ja)
JP (1) JP5214826B2 (ja)
CN (1) CN102918858B (ja)
WO (1) WO2012086326A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI484285B (zh) * 2013-03-26 2015-05-11 Htc Corp 全景影像的拍攝方法
US10070048B2 (en) 2013-03-26 2018-09-04 Htc Corporation Panorama photographing method, panorama displaying method, and image capturing method

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103081455B (zh) * 2010-11-29 2017-03-08 快图有限公司 从手持设备所捕获的多个图像进行肖像图像合成
JP5367034B2 (ja) * 2011-08-24 2013-12-11 株式会社ソニー・コンピュータエンタテインメント 画像処理装置および画像処理方法
JP5773944B2 (ja) * 2012-05-22 2015-09-02 株式会社ソニー・コンピュータエンタテインメント 情報処理装置および情報処理方法
US9712746B2 (en) 2013-03-14 2017-07-18 Microsoft Technology Licensing, Llc Image capture and ordering
US9398215B2 (en) * 2013-04-16 2016-07-19 Eth Zurich Stereoscopic panoramas
JP6261187B2 (ja) * 2013-05-21 2018-01-17 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
CN105025193B (zh) 2014-04-29 2020-02-07 钰立微电子股份有限公司 手提式立体扫描仪和产生对应对象的立体扫描结果的方法
CN105282375B (zh) * 2014-07-24 2019-12-31 钰立微电子股份有限公司 附着式立体扫描模块
US10547825B2 (en) 2014-09-22 2020-01-28 Samsung Electronics Company, Ltd. Transmission of three-dimensional video
US11205305B2 (en) 2014-09-22 2021-12-21 Samsung Electronics Company, Ltd. Presentation of three-dimensional video
KR102249831B1 (ko) * 2014-09-26 2021-05-10 삼성전자주식회사 3d 파노라마 이미지 생성을 위한 영상 생성 장치 및 방법
TWI554103B (zh) * 2014-11-13 2016-10-11 聚晶半導體股份有限公司 影像擷取裝置及其數位變焦方法
JP5846549B1 (ja) * 2015-02-06 2016-01-20 株式会社リコー 画像処理システム、画像処理方法、プログラム、撮像システム、画像生成装置、画像生成方法およびプログラム
TWI610250B (zh) * 2015-06-02 2018-01-01 鈺立微電子股份有限公司 監測系統及其操作方法
KR102769027B1 (ko) * 2016-09-09 2025-02-18 삼성전자주식회사 전자 장치 및 그 제어 방법
US10419669B2 (en) 2017-01-17 2019-09-17 Disney Enterprises, Inc. Omnistereoscopic panoramic video
US11049218B2 (en) 2017-08-11 2021-06-29 Samsung Electronics Company, Ltd. Seamless image stitching
CN109600543B (zh) * 2017-09-30 2021-01-22 京东方科技集团股份有限公司 用于移动设备拍摄全景图像的方法以及移动设备
CN108009588A (zh) * 2017-12-01 2018-05-08 深圳市智能现实科技有限公司 定位方法及装置、移动终端
CN108805799B (zh) * 2018-04-20 2021-04-23 平安科技(深圳)有限公司 全景图像合成装置、方法及计算机可读存储介质
CN111193920B (zh) * 2019-12-31 2020-12-18 重庆特斯联智慧科技股份有限公司 一种基于深度学习网络的视频画面立体拼接方法和系统
CN111726500B (zh) * 2020-06-24 2021-12-03 维沃移动通信(杭州)有限公司 图像采集方法、装置、电子设备及可读存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11164326A (ja) * 1997-11-26 1999-06-18 Oki Electric Ind Co Ltd パノラマステレオ画像生成表示方法及びそのプログラムを記録した記録媒体
JP2003524927A (ja) * 1998-09-17 2003-08-19 イッサム リサーチ ディベロップメント カンパニー オブ ザ ヘブリュー ユニバーシティ オブ エルサレム パノラマ画像および動画を生成し表示するためのシステムおよび方法
JP2009103980A (ja) * 2007-10-24 2009-05-14 Fujifilm Corp 撮影装置、画像処理装置、及び撮影システム
JP2010278587A (ja) * 2009-05-27 2010-12-09 Sony Corp 撮像装置、電子機器、パノラマ画像記録方法およびプログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11164325A (ja) 1997-11-26 1999-06-18 Oki Electric Ind Co Ltd パノラマ画像生成方法及びそのプログラムを記録した記録媒体
US6023588A (en) * 1998-09-28 2000-02-08 Eastman Kodak Company Method and apparatus for capturing panoramic images with range data
US6795109B2 (en) 1999-09-16 2004-09-21 Yissum Research Development Company Of The Hebrew University Of Jerusalem Stereo panoramic camera arrangements for recording panoramic images useful in a stereo panoramic image pair
US6831677B2 (en) * 2000-02-24 2004-12-14 Yissum Research Development Company Of The Hebrew University Of Jerusalem System and method for facilitating the adjustment of disparity in a stereoscopic panoramic image pair
US7277121B2 (en) 2001-08-29 2007-10-02 Sanyo Electric Co., Ltd. Stereoscopic image processing and display system
JP4236428B2 (ja) 2001-09-21 2009-03-11 三洋電機株式会社 立体画像表示方法および立体画像表示装置
US20040001138A1 (en) * 2002-06-27 2004-01-01 Weerashinghe W.A. Chaminda P. Stereoscopic panoramic video generation system
JP4212987B2 (ja) 2003-08-26 2009-01-21 シャープ株式会社 立体画像表示装置、立体画像表示方法、その方法をコンピュータに実行させるためのプログラム及びそのプログラムを記録した記録媒体
US20070248260A1 (en) * 2006-04-20 2007-10-25 Nokia Corporation Supporting a 3D presentation
US20080298674A1 (en) * 2007-05-29 2008-12-04 Image Masters Inc. Stereoscopic Panoramic imaging system
JP2010045584A (ja) 2008-08-12 2010-02-25 Sony Corp 立体画像補正装置、立体画像補正方法、立体画像表示装置、立体画像再生装置、立体画像提供システム、プログラム及び記録媒体

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11164326A (ja) * 1997-11-26 1999-06-18 Oki Electric Ind Co Ltd パノラマステレオ画像生成表示方法及びそのプログラムを記録した記録媒体
JP2003524927A (ja) * 1998-09-17 2003-08-19 イッサム リサーチ ディベロップメント カンパニー オブ ザ ヘブリュー ユニバーシティ オブ エルサレム パノラマ画像および動画を生成し表示するためのシステムおよび方法
JP2009103980A (ja) * 2007-10-24 2009-05-14 Fujifilm Corp 撮影装置、画像処理装置、及び撮影システム
JP2010278587A (ja) * 2009-05-27 2010-12-09 Sony Corp 撮像装置、電子機器、パノラマ画像記録方法およびプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI484285B (zh) * 2013-03-26 2015-05-11 Htc Corp 全景影像的拍攝方法
US10070048B2 (en) 2013-03-26 2018-09-04 Htc Corporation Panorama photographing method, panorama displaying method, and image capturing method

Also Published As

Publication number Publication date
JP5214826B2 (ja) 2013-06-19
CN102918858A (zh) 2013-02-06
US20130076856A1 (en) 2013-03-28
JPWO2012086326A1 (ja) 2014-05-22
CN102918858B (zh) 2014-09-03
US8687041B2 (en) 2014-04-01

Similar Documents

Publication Publication Date Title
JP5214826B2 (ja) 立体パノラマ画像作成装置、立体パノラマ画像作成方法及び立体パノラマ画像作成プログラム並びに立体パノラマ画像再生装置、立体パノラマ画像再生方法及び立体パノラマ画像再生プログラム、記録媒体
EP2590421B1 (en) Single-lens stereoscopic image capture device
CN102959943B (zh) 立体全景图像合成装置和方法、以及图像捕获装置
JP5127787B2 (ja) 複眼撮影装置及びその制御方法
JPWO2012002046A1 (ja) 立体パノラマ画像合成装置及び複眼撮像装置並びに立体パノラマ画像合成方法
JP5371845B2 (ja) 撮影装置及びその表示制御方法並びに3次元情報取得装置
JP5269252B2 (ja) 単眼立体撮像装置
CN102511013A (zh) 摄像装置及其控制方法和程序
CN102860017B (zh) 立体摄像装置及其制造方法
JP2011259168A (ja) 立体パノラマ画像撮影装置
JP2008310696A (ja) 撮像装置、立体画像再生装置及び立体画像再生プログラム
WO2013065543A1 (ja) 視差調節装置及び方法、撮影装置、再生表示装置
JP5449551B2 (ja) 画像出力装置、方法およびプログラム
JP2008312058A (ja) 撮像装置、撮像方法及びプログラム
JP5580486B2 (ja) 画像出力装置、方法およびプログラム
JPWO2012043003A1 (ja) 立体画像表示装置および立体画像表示方法
JP5704885B2 (ja) 撮影機器、撮影方法及び撮影制御プログラム
JP2012220603A (ja) 3d映像信号撮影装置
JP2010200024A (ja) 立体画像表示装置および立体画像表示方法
JP2013046343A (ja) 画像撮像装置
WO2013136832A1 (ja) 立体画像表示制御装置および立体画像表示制御方法
JP2012165247A (ja) 画像処理装置、撮影装置および画像処理プログラム
JP2012215980A (ja) 画像処理装置、画像処理方法およびプログラム

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 201180026719.7

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 11851137

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2012549683

Country of ref document: JP

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 11851137

Country of ref document: EP

Kind code of ref document: A1