[go: up one dir, main page]

JP2019083389A - Information processing device, photographing system, and program - Google Patents

Information processing device, photographing system, and program Download PDF

Info

Publication number
JP2019083389A
JP2019083389A JP2017209160A JP2017209160A JP2019083389A JP 2019083389 A JP2019083389 A JP 2019083389A JP 2017209160 A JP2017209160 A JP 2017209160A JP 2017209160 A JP2017209160 A JP 2017209160A JP 2019083389 A JP2019083389 A JP 2019083389A
Authority
JP
Japan
Prior art keywords
obstacle
photographing
image
photographed
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017209160A
Other languages
Japanese (ja)
Inventor
賢人 渡邊
Kento Watanabe
賢人 渡邊
勝久 吉田
Katsuhisa Yoshida
勝久 吉田
由理 石原
Yuri Ishihara
由理 石原
隆裕 佐々木
Takahiro Sasaki
隆裕 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dai Nippon Printing Co Ltd
Original Assignee
Dai Nippon Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dai Nippon Printing Co Ltd filed Critical Dai Nippon Printing Co Ltd
Priority to JP2017209160A priority Critical patent/JP2019083389A/en
Publication of JP2019083389A publication Critical patent/JP2019083389A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Editing Of Facsimile Originals (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】障害物を挟んで前後に配置された2つの被写体を同じフレームに入れて撮影するようなシチュエーションで、撮影画像から障害物を除去する情報処理装置等を提供する。
【解決手段】撮影システムは、檻10の内外に鉄棒11を挟んで配置されたユーザ20と動物30を、予め定められた位置から撮影する複数の撮影装置5と、撮影装置5で撮影を行って得たユーザ20に鉄棒11が重畳した撮影画像から、鉄棒11の無い画像を作成する撮影管理装置と、を有する。撮影管理装置は、メインの撮影装置5が撮影した撮影画像の鉄棒11の領域を、サブの撮影装置5が撮影した撮影画像を用いて補完する。
【選択図】図2
An information processing apparatus and the like for removing an obstacle from a photographed image in a situation where two subjects arranged in front and back with an obstacle in between are put in the same frame and photographed.
SOLUTION: A photographing system performs photographing with a plurality of photographing devices 5 for photographing a user 20 and an animal 30 arranged on both sides of an iron rod 11 inside and outside an eyebrow 10 from a predetermined position, and the photographing device 5. And a photographing management device for creating an image without the iron rod 11 from the photographed image in which the iron rod 11 is superimposed on the user 20 obtained. The photographing management device complements the area of the iron rod 11 of the photographed image photographed by the main photographing device 5 using the photographed image photographed by the sub photographing device 5.
[Selected figure] Figure 2

Description

本発明は、撮影画像中の障害物を除去する情報処理装置、撮影システム、およびプログラムに関する。   The present invention relates to an information processing apparatus, an imaging system, and a program for removing an obstacle in a captured image.

日常生活では様々な写真が撮影されるが、その一つのシチュエーションとして、障害物を挟んで前後に配置された2つの被写体を同じフレームに入れて撮影することがある。例えば、動物園で檻の中にいる動物と檻の外にいるユーザを一緒に撮影するようなケースである。   In daily life, various photographs are taken, and as one situation, two subjects arranged in front and back with an obstacle in between may be put in the same frame and photographed. For example, in the zoo, an animal in a cage and a user outside the cage are photographed together.

この場合、上記の障害物は檻の内外を隔てる鉄棒等であり、檻の外から撮影する場合、動物の前に鉄棒等が映り込むことは避けられず、動物の姿を綺麗に撮影できない。   In this case, the obstacle is an iron rod or the like that separates the inside and outside of the cage. When photographing from the outside of the cage, it is inevitable that the steel rod or the like is reflected in front of the animal and the animal can not be photographed beautifully.

これに対し、例えば引用文献1では、ユーザが指定した不要領域を周囲の領域の画素を用いて補完することで、画像に映り込んだ不要な被写体を除去する画像処理方法が記載されている。   On the other hand, for example, in the cited reference 1, an image processing method is described in which an unnecessary area specified by the user is complemented using pixels in a surrounding area to remove an unnecessary subject appearing in an image.

国際公開第2013/179560号International Publication No. 2013/179560

しかしながら、引用文献1の方法は、前記したように障害物を挟んで前後に配置された2つの被写体を同じフレームに入れて撮影するようなシチュエーションについてのものではなかった。   However, the method of Patent Document 1 is not for the situation in which, as described above, two subjects placed in front of and behind the obstacle are put in the same frame and photographed.

本発明は上記の問題に鑑みてなされたものであり、障害物を挟んで前後に配置された2つの被写体を同じフレームに入れて撮影するようなシチュエーションで、撮影画像から障害物を除去する情報処理装置等を提供することを目的とする。   The present invention has been made in view of the above problems, and information for removing an obstacle from a photographed image in a situation in which two subjects arranged in front and back with an obstacle in between are put in the same frame and photographed. It aims at providing a processing device etc.

前述した課題を解決するための第1の発明は、固定された障害物を挟んで前後に配置された被写体を予め定められた位置にある撮影装置によって撮影して得られた撮影画像を、前記撮影装置から取得する取得手段と、いずれかの前記被写体に前記障害物が重畳した前記撮影画像において前記障害物の領域を補完することで、前記障害物が除去され前記領域に前記被写体が表示された画像を作成する障害物除去手段と、を有することを特徴とする情報処理装置である。   According to a first aspect of the present invention for solving the above-mentioned problems, a photographed image obtained by photographing an object arranged in front and back with a fixed obstacle in between by a photographing device at a predetermined position is The obstacle is removed and the subject is displayed in the area by complementing the area of the obstacle in the captured image in which the obstacle is superimposed on any of the subjects, and an acquisition unit acquired from an imaging device. And an obstacle removing unit for creating an image.

本発明では、上記のように障害物を挟んで前後に配置された2つの被写体を同じフレームに入れて撮影するようなシチュエーションにおいて、撮影画像から障害物を除去することにより、障害物が無い被写体のツーショット画像が得られる。ここで、「前」とは撮影装置に近い方をいい、「後」とはその逆である。本発明では撮影装置と障害物の位置が既知なので、これを利用して障害物の除去処理を簡単且つ自動的に行うものとでき、除去すべき障害物をユーザが指定する等の操作負担も無くすことができる。   In the present invention, as described above, in a situation where two subjects arranged in front and back with an obstacle in between are put in the same frame and photographed, the obstacle is removed from the photographed image, so that there is no obstacle A two-shot image of is obtained. Here, "front" refers to the one closer to the imaging device, and "rear" is the opposite. In the present invention, since the imaging device and the position of the obstacle are known, the obstacle removal processing can be performed simply and automatically using this, and also the operation load such as the user specifying the obstacle to be removed It can be eliminated.

前記撮影画像は複数の前記位置から撮影され、前記障害物除去手段は、一の前記位置で撮影された前記撮影画像の前記障害物の領域を、他の前記位置で撮影された前記撮影画像における前記障害物の無い領域を用いて補完することが望ましい。
障害物の除去方法としては、例えば上記のように複数の位置から撮影画像を撮影しておき、メインの撮影画像における障害物の領域を、他の撮影画像における障害物の無い領域の画像を用いて補完することで、障害物の除去処理を好適に行うことができる。
The photographed image is photographed from a plurality of the positions, and the obstacle removing means is configured to set the area of the obstacle of the photographed image photographed at the one position in the photographed image photographed at the other position. It is desirable to complement using the area without the obstacle.
As a method of removing an obstacle, for example, the photographed images are photographed from a plurality of positions as described above, and the area of the obstacle in the main photographed image is used as the image of the area without obstacles in the other photographed images. Thus, the obstacle removal process can be suitably performed by complementing the two.

前記障害物除去手段は、前記撮影画像の前記障害物の領域を、当該撮影画像における他の位置の画素の画素値を用いて補完することも望ましい。
障害物の除去方法としては、撮影画像内の障害物の領域を、当該撮影画像内の他の位置の画素値を用いて補完するいわゆるインペインティングと呼ばれる手法を適用することもできる。
It is also preferable that the obstacle removing means complements the area of the obstacle of the captured image using pixel values of pixels at other positions in the captured image.
As a method of removing the obstacle, a method called so-called in-painting may be applied, which complements the area of the obstacle in the captured image using pixel values at other positions in the captured image.

第1の発明の情報処理装置は、前記撮影装置で撮影を行うための撮影指示を、端末から受信する受信手段を有することも望ましい。また、前記撮影指示を受信する前に、前記撮影装置により撮影を行って得た動画を前記端末に送信する送信手段を有することも望ましい。
本発明では、遠隔の位置にある撮影装置に対する撮影指示を、スマートフォン等の端末により行うことができる。この時、情報処理装置から当該端末に撮影装置による動画を送信することで、動画を確認しながら被写体が好適な位置にあるタイミングで撮影指示を行うことができる。
It is also desirable that the information processing apparatus according to the first aspect of the present invention include a receiving unit that receives, from a terminal, an imaging instruction for performing imaging with the imaging apparatus. It is also desirable to have a transmitting means for transmitting to the terminal a moving image obtained by photographing with the photographing device before receiving the photographing instruction.
In the present invention, a photographing instruction to the photographing device at a remote position can be performed by a terminal such as a smartphone. At this time, by transmitting a moving image from the information processing apparatus to the terminal, it is possible to issue a shooting instruction at a timing when the subject is at a suitable position while checking the moving image.

第2の発明は、固定された障害物を挟んで前後に配置された被写体を予め定められた位置から撮影する撮影装置と、前記撮影装置で撮影を行って得たいずれかの前記被写体に前記障害物が重畳した撮影画像において前記障害物の領域を補完することで、前記障害物が除去され前記領域に前記被写体が表示された画像を作成する情報処理装置と、を有することを特徴とする撮影システムである。
第2の発明は、第1の発明の情報処理装置を含む撮影システムについての発明である。
According to a second aspect of the present invention, there is provided an image pickup apparatus for photographing an object arranged in front and back with a fixed obstacle at a predetermined position, and any one of the objects obtained by photographing with the image pickup apparatus. An information processing apparatus that creates an image in which the obstacle is removed and the subject is displayed in the area by complementing the area of the obstacle in the photographed image on which the obstacle is superimposed; It is a photographing system.
A second invention is an invention about a photographing system including the information processing apparatus of the first invention.

前記情報処理装置は、一の前記位置で撮影された前記撮影画像の前記障害物の領域を、他の前記位置で撮影された前記撮影画像における前記障害物の無い領域を用いて補完し、前記撮影装置は、複数の前記位置のそれぞれに配置されることが望ましい。
撮影装置を複数の位置のそれぞれに設けることで、メインとなる撮影画像における障害物の領域を、他の撮影画像における障害物の無い領域の画像を用いて好適に補完することが可能になる。
The information processing apparatus complements the area of the obstacle of the photographed image photographed at the one position using the area without the obstacle in the photographed image photographed at the other position, Preferably, the imaging device is disposed at each of the plurality of positions.
By providing the imaging device at each of the plurality of positions, it is possible to preferably complement the area of the obstacle in the main photographed image using the image of the area without the obstacle in the other photographed images.

第3の発明は、コンピュータを、固定された障害物を挟んで前後に配置された被写体を予め定められた位置にある撮影装置によって撮影して得られた撮影画像を、前記撮影装置から取得する取得手段と、いずれかの前記被写体に前記障害物が重畳した前記撮影画像において前記障害物の領域を補完することで、前記障害物が除去され前記領域に前記被写体が表示された画像を作成する障害物除去手段と、を有する情報処理装置として機能させるためのプログラムである。
第3の発明は、コンピュータを第1の発明の情報処理装置として機能させるプログラムについての発明である。
According to a third aspect of the present invention, a photographed image obtained by photographing a computer by a photographing device having a predetermined position at a predetermined position across a fixed obstacle and a fixed obstacle is obtained from the photographing device. An image is created in which the obstacle is removed and the subject is displayed in the area by complementing the area of the obstacle in the photographed image in which the obstacle is superimposed on any of the subjects, by acquisition means. It is a program for functioning as an information processor which has obstacle removal means.
A third invention is an invention of a program that causes a computer to function as the information processing apparatus of the first invention.

本発明により、障害物を挟んで前後に配置された2つの被写体を同じフレームに入れて撮影するようなシチュエーションで、撮影画像から障害物を除去する情報処理装置等を提供することができる。   According to the present invention, it is possible to provide an information processing apparatus and the like for removing an obstacle from a photographed image in a situation where two subjects arranged in front and back with an obstacle in between are put in the same frame and photographed.

撮影システム1の概略図。FIG. 1 is a schematic view of a photographing system 1; 撮影装置5の配置を示す図。FIG. 3 is a view showing the arrangement of the photographing device 5; 撮影管理装置3のハードウェア構成を示す図。FIG. 2 is a diagram showing a hardware configuration of a photographing management device 3. ユーザ端末7のハードウェア構成を示す図。FIG. 2 is a diagram showing a hardware configuration of a user terminal 7; 撮影システム1の処理について示すフローチャート。6 is a flowchart showing processing of the imaging system 1; 撮影画像100の例。An example of a photographed image 100. 障害物の除去後の画像101の例。The example of the image 101 after removal of an obstruction. 撮影装置5−3、5−4の配置を示す図。The figure which shows arrangement | positioning of imaging device 5-3, 5-4. 障害物の領域の補完について説明する図。The figure explaining complementation of the field of an obstacle. 撮影装置5の配置と撮影画像100aの例。The arrangement of the photographing device 5 and an example of the photographed image 100a. 撮影装置5の配置の例。The example of arrangement | positioning of the imaging device 5. FIG. ユーザ端末7の代わりに端末7aを用いた例。The example which used the terminal 7a instead of the user terminal 7. FIG. 撮影装置5の配置の例。The example of arrangement | positioning of the imaging device 5. FIG. 障害物の領域の補完について説明する図。The figure explaining complementation of the field of an obstacle. 撮影装置5の配置の例。The example of arrangement | positioning of the imaging device 5. FIG. 障害物の領域の補完について説明する図。The figure explaining complementation of the field of an obstacle.

以下、図面に基づいて本発明の好適な実施形態について詳細に説明する。   Hereinafter, preferred embodiments of the present invention will be described in detail based on the drawings.

(1.撮影システム1)
図1は本発明の実施形態に係る撮影システム1の概略図である。撮影システム1は、撮影管理装置3(情報処理装置)とユーザ端末7、複数の撮影装置5(5−1、5−2、5−3、5−4、5−5、…)が通信可能に接続された構成を有する。これらは無線により接続されるが、撮影管理装置3と撮影装置5は有線によって接続されてもよい。
(1. Shooting system 1)
FIG. 1 is a schematic view of a photographing system 1 according to an embodiment of the present invention. The imaging system 1 can communicate with the imaging management device 3 (information processing device), the user terminal 7, and the plurality of imaging devices 5 (5-1, 5-2, 5-3, 5-4, 5-5, ...) Have a configuration connected to Although these are connected by wireless, the photographing management device 3 and the photographing device 5 may be connected by wire.

この撮影システム1は、障害物を挟んで前後に配置された2つの被写体を同じフレームに入れて撮影するシチュエーションにおいて、撮影画像から障害物を除去するものである。なお、「前」とは撮影装置5に近い方をいい、「後」はその逆である。   The photographing system 1 removes an obstacle from a photographed image in a situation in which two subjects arranged in front and back with an obstacle in between are put in the same frame and photographed. Note that "front" means one closer to the photographing device 5, and "rear" is the opposite.

図2は撮影装置5の配置を模式的に示す図である。本実施形態の撮影システム1は動物園で用いられ、檻10の外のユーザ20と檻10の中の動物30を同じフレームに入れて撮影する。ユーザ20と動物30は檻10の内外を区画する複数の鉄棒11を挟んで前後に配置された被写体であり、これらの鉄棒11は固定され、動物30は檻10の中を移動する。撮影装置5は檻10に配置され、動物30側からユーザ20と動物30を撮影する。この際、上記の鉄棒11は撮影画像における障害物(遮蔽物)となる。   FIG. 2 is a view schematically showing the arrangement of the photographing device 5. The imaging system 1 of the present embodiment is used in a zoo, and images a user 20 outside the cage 10 and an animal 30 in the cage 10 in the same frame. The user 20 and the animal 30 are subjects placed back and forth with a plurality of iron rods 11 partitioning the inside and outside of the cage 10, these steel rods 11 are fixed, and the animal 30 moves in the cage 10. The imaging device 5 is disposed in the crucible 10, and images the user 20 and the animal 30 from the animal 30 side. At this time, the above-mentioned iron rod 11 becomes an obstacle (shield) in the photographed image.

図3は撮影管理装置3のハードウェア構成を示す図である。図3に示すように、撮影管理装置3は、制御部31、記憶部32、表示部33、入力部34、通信制御部35等をバス等により接続して構成されたコンピュータにより実現できる。ただしこれに限ることは無く、適宜様々な構成をとることができる。   FIG. 3 is a diagram showing a hardware configuration of the photographing management device 3. As shown in FIG. 3, the photographing management device 3 can be realized by a computer configured by connecting a control unit 31, a storage unit 32, a display unit 33, an input unit 34, a communication control unit 35 and the like by a bus or the like. However, the present invention is not limited to this, and various configurations can be taken as appropriate.

制御部31はCPU、ROM、RAMなどから構成される。CPUは、記憶部32、ROMなどの記憶媒体に格納された撮影管理装置3の処理に係るプログラムをRAM上のワークエリアに呼び出して実行する。ROMは不揮発性メモリであり、ブートプログラムやBIOSなどのプログラム、データなどを恒久的に保持している。RAMは揮発性メモリであり、記憶部32、ROMなどからロードしたプログラムやデータを一時的に保持するとともに、制御部31が各種処理を行うために使用するワークエリアを備える。   The control unit 31 includes a CPU, a ROM, a RAM, and the like. The CPU calls a program related to the processing of the photographing management device 3 stored in the storage unit 32 or a storage medium such as a ROM to a work area on the RAM and executes the program. The ROM is a non-volatile memory, which permanently holds a boot program, a program such as a BIOS, data and the like. The RAM is a volatile memory, and temporarily stores programs and data loaded from the storage unit 32 and the ROM, and includes a work area used by the control unit 31 to perform various processes.

記憶部32はハードディスクドライブやソリッドステートドライブ、フラッシュメモリ等であり、後述する処理に際し撮影管理装置3が実行するプログラム、プログラム実行に必要なデータ、OSなどが格納される。これらのプログラムやデータは、制御部31により必要に応じて読み出され実行される。   The storage unit 32 is a hard disk drive, a solid state drive, a flash memory or the like, and stores a program executed by the photographing management device 3 at the time of processing described later, data necessary for program execution, an OS and the like. These programs and data are read and executed by the control unit 31 as needed.

表示部33は液晶ディスプレイ等を備える。
入力部34は撮影管理装置3に各種の設定入力を行うものである。
通信制御部35は無線あるいは有線による通信を媒介する通信インタフェースであり、撮影装置5やユーザ端末7との間で通信を行う
The display unit 33 includes a liquid crystal display or the like.
The input unit 34 inputs various settings to the photographing management device 3.
The communication control unit 35 is a communication interface that mediates wireless or wired communication, and communicates with the imaging device 5 and the user terminal 7

撮影装置5はユーザ20と動物30を撮影するものである。撮影装置5は、例えば受光レンズ、CCD(Charged coupled devices)やCMOS(Complementary metal-oxide-semiconductor)などの撮像素子、A/D(Analog/digital)変換部等を有する既知のデジタルカメラを用いることができる。また、撮影装置5は、撮影を制御するための制御部や撮影管理装置3と通信を行うための通信部を備えている。   The photographing device 5 photographs the user 20 and the animal 30. The photographing device 5 uses, for example, a known digital camera having a light receiving lens, an imaging device such as a CCD (Charged coupled devices) or a Complementary metal-oxide-semiconductor (CMOS), an A / D (Analog / digital) converter, etc. Can. Further, the photographing device 5 includes a control unit for controlling photographing and a communication unit for communicating with the photographing management device 3.

図2に示すように、本実施形態では平面において複数の撮影装置5(5−1、5−2、5−3、5−4、5−5、…)が左右に並べて配置されており、各撮影装置5の向き(矢印参照)はほぼ1箇所に向かって集中している。この箇所を図2のAに示す。これにより、各撮影装置5から異なる角度でユーザ20と動物30を撮影することが可能である。   As shown in FIG. 2, in the present embodiment, a plurality of imaging devices 5 (5-1, 5-2, 5-3, 5-4, 5-5,...) Are arranged side by side in the plane, The orientations (see arrows) of the respective photographing devices 5 are concentrated toward substantially one place. This part is shown in A of FIG. Thereby, it is possible to image the user 20 and the animal 30 at different angles from each imaging device 5.

これらの撮影装置5の位置と向きは、後述する方法により撮影画像中の鉄棒11の除去を行うことを目的として、予め適切なものに定められている。なお、本実施形態では、複数の撮影装置5(5−1、5−2、5−3、5−4、5−5、…)が、箇所Aを中心とする円弧上にほぼ位置しており、各撮影装置5から箇所Aまでの距離はほぼ同じであるが、これに限ることはない。   The position and the orientation of the photographing device 5 are determined in advance as appropriate for the purpose of removing the iron rod 11 in the photographed image by a method described later. In the present embodiment, the plurality of photographing devices 5 (5-1, 5-2, 5-3, 5-4, 5-5,...) Are approximately positioned on a circular arc centered at the point A. Although the distances from the respective photographing devices 5 to the place A are substantially the same, the present invention is not limited thereto.

ユーザ端末7はユーザ20の所持するコンピュータ端末である。ユーザ端末7には、例えばスマートフォンやタブレット端末等の携帯端末を用いることができる。   The user terminal 7 is a computer terminal owned by the user 20. For the user terminal 7, for example, a portable terminal such as a smartphone or a tablet terminal can be used.

図4はユーザ端末7のハードウェア構成を示す図である。ユーザ端末7は、制御部71、記憶部72、表示部73、入力部74、通信制御部75、カメラ76、音声入出力部77等をバス等により接続して構成される。ただしこれに限ることは無く、適宜様々な構成をとることができる。   FIG. 4 is a diagram showing the hardware configuration of the user terminal 7. The user terminal 7 is configured by connecting a control unit 71, a storage unit 72, a display unit 73, an input unit 74, a communication control unit 75, a camera 76, an audio input / output unit 77, etc. by a bus or the like. However, the present invention is not limited to this, and various configurations can be taken as appropriate.

制御部71はCPU、ROM、RAMなどから構成される。CPUは、記憶部72、ROMなどの記憶媒体に格納されたユーザ端末7の処理に係るプログラムをRAM上のワークエリアに呼び出して実行する。ROMは不揮発性メモリであり、ブートプログラムやBIOSなどのプログラム、データなどを恒久的に保持している。RAMは揮発性メモリであり、記憶部72、ROMなどからロードしたプログラムやデータを一時的に保持するとともに、制御部71が各種処理を行うために使用するワークエリアを備える。   The control unit 71 includes a CPU, a ROM, a RAM, and the like. The CPU calls a program related to processing of the user terminal 7 stored in a storage medium such as the storage unit 72 and the ROM to a work area on the RAM and executes the program. The ROM is a non-volatile memory, which permanently holds a boot program, a program such as a BIOS, data and the like. The RAM is a volatile memory, and temporarily stores programs and data loaded from the storage unit 72, the ROM and the like, and includes a work area used by the control unit 71 to perform various processes.

記憶部72はフラッシュメモリ等であり、制御部71が実行するプログラム、プログラム実行に必要なデータ、OSなどが格納される。これらのプログラムやデータは、制御部71により必要に応じて読み出され実行される。   The storage unit 72 is a flash memory or the like, and stores a program executed by the control unit 71, data necessary for program execution, an OS, and the like. These programs and data are read and executed by the control unit 71 as needed.

表示部73は例えば液晶ディスプレイ等である。
入力部74はユーザ端末7に各種の設定入力を行うものであり、例えば表示部73に設けられたタッチパネルである。
通信制御部75はネットワーク等を介した通信を媒介する通信インタフェースであり、撮影管理装置3等との間で通信を行う。
The display unit 73 is, for example, a liquid crystal display.
The input unit 74 is used to input various settings to the user terminal 7 and is, for example, a touch panel provided in the display unit 73.
The communication control unit 75 is a communication interface that mediates communication via a network or the like, and communicates with the photographing management device 3 and the like.

カメラ76は、受光レンズ、CCDやCMOS等の撮像素子、A/D変換部などから構成される。
音声入出力部77はマイクやスピーカーを備え、入力された音声をデジタル音声データに変換したり、デジタル音声データを音声として出力したりする。
The camera 76 is configured of a light receiving lens, an imaging device such as a CCD or CMOS, an A / D converter, and the like.
The voice input / output unit 77 includes a microphone and a speaker, and converts input voice into digital voice data and outputs digital voice data as voice.

(2.撮影システム1が行う処理)
図5は撮影システム1の処理について示すフローチャートである。図5のS101〜S103、S110〜S111、S120はユーザ端末7の制御部71が実行する処理であり、S104〜S105、S108〜S109、S112〜S113、S117〜S119は撮影管理装置3の制御部31が実行する処理である。またS106〜S107、S114〜S116は撮影装置5の制御部が実行する。
(2. Processing performed by the photographing system 1)
FIG. 5 is a flowchart showing processing of the photographing system 1. S101 to S103, S110 to S111, and S120 in FIG. 5 are processes executed by the control unit 71 of the user terminal 7, and S104 to S105, S108 to S109, S112 to S113, and S117 to S119 are control units of the photographing management device 3. 31 is a process to be executed. The control unit of the photographing device 5 executes S106 to S107 and S114 to S116.

本実施形態では、まずユーザ20がユーザ端末7を操作し、ユーザ端末7を撮影管理装置3に接続する(S101)。ここでは、ユーザ端末7が例えばWi-Fi(登録商標)やBluetooth(登録商標)等の無線通信手段によって撮影管理装置3に通信可能に接続する。   In the present embodiment, first, the user 20 operates the user terminal 7 to connect the user terminal 7 to the photographing management device 3 (S101). Here, the user terminal 7 communicably connects to the photographing management device 3 by wireless communication means such as Wi-Fi (registered trademark) or Bluetooth (registered trademark).

この時、ユーザ端末7の表示部73には撮影管理装置3が提供する撮影装置5の選択ページ(不図示)が表示され、ユーザはユーザ端末7を操作して当該ページ上で撮影を行うメインの撮影装置5を選択する。ユーザ端末7はこの選択を受付けて(S102)、選択された撮影装置5の情報を含む映像取得要求を撮影管理装置3に送信する(S103)。ここでは、図2の撮影装置5−3が選択されたものとする。   At this time, a selection page (not shown) of the photographing device 5 provided by the photographing management device 3 is displayed on the display unit 73 of the user terminal 7, and the user operates the user terminal 7 to perform photographing on the page The photographing device 5 of is selected. The user terminal 7 receives this selection (S102), and transmits a video acquisition request including the information of the selected photographing device 5 to the photographing management device 3 (S103). Here, it is assumed that the imaging device 5-3 in FIG. 2 is selected.

撮影管理装置3は、映像取得要求を受信する(S104)と、映像提供のリクエストをS102で選択された撮影装置5に送信する(S105)。   When the imaging management device 3 receives the video acquisition request (S104), the imaging management device 3 transmits a video provision request to the imaging device 5 selected in S102 (S105).

撮影装置5は、このリクエストを受信する(S106)と、撮影装置5により撮影を行って得たリアルタイムの映像(動画)を撮影管理装置3に送信する(S107)。   When the imaging device 5 receives this request (S106), it transmits a real-time video (moving image) obtained by imaging with the imaging device 5 to the imaging management device 3 (S107).

撮影管理装置3は、この映像を受信する(S108)と、当該映像をユーザ端末7に送信する(S109;送信手段)。   When the imaging management device 3 receives this video (S108), it transmits the video to the user terminal 7 (S109; transmission means).

ユーザ端末7は当該映像を受信する(S110)と、この映像を表示部73に表示させる。ユーザはこの映像を見て適当なタイミングでユーザ端末7を操作し、撮影指示を撮影管理装置3に送信する(S111)。   When the user terminal 7 receives the video (S110), the user terminal 7 causes the display unit 73 to display the video. The user looks at this video and operates the user terminal 7 at an appropriate timing, and transmits a photographing instruction to the photographing management device 3 (S111).

撮影管理装置3は、ユーザ端末7から撮影指示を受信する(S112;受信手段)と、撮影装置5に撮影リクエストを送信する(S113)。S113では、メインの撮影装置5−3と、その両側の他の撮影装置5に対して撮影リクエストを送信する。ここでは、当該他の撮影装置5として、メインの撮影装置5−3の左右両側の撮影装置5−2、5−4(図2参照)に撮影リクエストが送信されるものとする。以降、撮影装置5−2、5−4を「サブの撮影装置」という。   When the photographing management device 3 receives a photographing instruction from the user terminal 7 (S112; receiving unit), the photographing management device 3 transmits a photographing request to the photographing device 5 (S113). In S113, a photographing request is transmitted to the main photographing device 5-3 and the other photographing devices 5 on both sides thereof. Here, it is assumed that a photographing request is transmitted to the photographing devices 5-2 and 5-4 (see FIG. 2) on the left and right sides of the main photographing device 5-3 as the other photographing device 5. Hereinafter, the photographing devices 5-2 and 5-4 are referred to as "sub photographing devices".

撮影装置5(5−2、5−3、5−4)は、撮影リクエストを受信する(S114)と、それぞれユーザ20と動物30を撮影し(S115)、撮影画像100を撮影管理装置3に送信する(S116)。S115では各撮影装置5が同時に撮影を行う。   When the photographing device 5 (5-2, 5-3, 5-4) receives the photographing request (S114), the photographing device 5 (S115) photographs the user 20 and the animal 30, respectively, and It transmits (S116). In S115, the respective photographing devices 5 simultaneously perform photographing.

図6はS115で撮影を行って得た撮影画像100の例であり、図6(a)はメインの撮影装置5−3によって撮影を行った撮影画像100、図6(b)はメインの撮影装置5−3の右側のサブの撮影装置5−2によって撮影を行った撮影画像100、図6(c)はメインの撮影装置5−3の左側のサブの撮影装置5−4によって撮影を行った撮影画像100の例を示す。なお上記の左側、右側はユーザ20から見た場合の方向を指す。これらの撮影画像100では、ユーザ20の前に鉄棒11が重畳している。   FIG. 6 shows an example of a photographed image 100 obtained by photographing in S115. FIG. 6 (a) is a photographed image 100 photographed by the main photographing device 5-3, and FIG. 6 (b) is a main photographing The captured image 100 captured by the sub imaging device 5-2 on the right side of the device 5-3, and FIG. 6C is captured by the sub imaging device 5-4 on the left side of the main imaging device 5-3. An example of the captured image 100 is shown. The left side and the right side indicate directions as viewed from the user 20. In these photographed images 100, the iron rod 11 is superimposed in front of the user 20.

撮影管理装置3は、各撮影装置5から撮影画像100を受信し取得すると(S117;取得手段)、メインの撮影装置5での撮影画像100において鉄棒11(障害物)を除去し、鉄棒11の無い画像を作成する処理を行う(S118;障害物除去手段)。   When the photographing management device 3 receives and acquires the photographed image 100 from each photographing device 5 (S117; acquisition means), the iron rod 11 (obstacle) is removed from the photographed image 100 in the main photographing device 5 and A process of creating a missing image is performed (S118; obstacle removing means).

S118における障害物除去処理については後述する。本実施形態では、鉄棒11を除去することにより図7に示すような鉄棒11の無いユーザ20と動物30のツーショットの画像101が得られる。この画像101では、鉄棒11が元あった領域に、当該鉄棒11によって遮られていたユーザ20や背景が表示されている。   The obstacle removal process in S118 will be described later. In the present embodiment, by removing the iron rod 11, a two-shot image 101 of the user 20 without the iron rod 11 and the animal 30 as shown in FIG. 7 is obtained. In the image 101, the user 20 and the background blocked by the iron rod 11 are displayed in the area where the iron rod 11 was originally.

撮影管理装置3は、鉄棒11を除去した後の画像101をユーザ端末7に送信し(S119)、ユーザ端末7は画像101を受信する(S120)。撮影管理装置3から受信した画像101は例えばユーザ端末7の表示部73に表示され、またユーザ端末7の記憶部72にも保存される。   The photographing management device 3 transmits the image 101 after removing the iron rod 11 to the user terminal 7 (S119), and the user terminal 7 receives the image 101 (S120). The image 101 received from the photographing management device 3 is displayed, for example, on the display unit 73 of the user terminal 7 and is also stored in the storage unit 72 of the user terminal 7.

(3.障害物の除去)
本実施形態では、S118において、サブの撮影装置5−2、5−4での撮影画像100(図6(b)、(c)参照)を用いてメインの撮影装置5−3での撮影画像100(図6(a)参照)における鉄棒11の領域を補完し、鉄棒11を除去した画像101を作成することが可能である。
(3. Removal of obstacles)
In this embodiment, in S118, the photographed image in the main photographing device 5-3 using the photographed image 100 (see FIGS. 6B and 6C) of the sub photographing devices 5-2 and 5-4. It is possible to complement the area of the iron rod 11 in 100 (see FIG. 6A) and create an image 101 from which the iron rod 11 is removed.

ここで、本実施形態では、メインの撮影装置5−3に対するサブの撮影装置5−2、5−4の位置や向きが、メインの撮影装置5−3での撮影画像100における鉄棒11の領域とサブの撮影装置5−2、5−4での撮影画像100における鉄棒11間の領域とが前後に対応するように定められている。すなわち、図8に模式的に示すように、メインの撮影装置5−3から見て鉄棒11の背後の領域Bが、サブの撮影装置5−4(5−2)によって鉄棒11間から撮影されるように定められている。   Here, in the present embodiment, the positions and the orientations of the sub imaging devices 5-2 and 5-4 with respect to the main imaging device 5-3 are areas of the iron rod 11 in the captured image 100 in the main imaging device 5-3. The areas between the iron rods 11 in the photographed image 100 by the sub photographing devices 5-2 and 5-4 are determined to correspond to the front and back. That is, as schematically shown in FIG. 8, the area B behind the iron rod 11 as viewed from the main photographing device 5-3 is photographed from between the iron rods 11 by the sub photographing device 5-4 (5-2) It is determined to

そのため、本実施形態では、図9の矢印に示すように、メインの撮影装置5−3での撮影画像100において鉄棒11を含む領域aを、サブの撮影装置5−2、5−4での撮影画像100において当該領域aに対応する鉄棒11間の領域b、cの画像で置き換えることで、鉄棒11が消去され、鉄棒11の領域aに当該鉄棒11によって遮られていたユーザ20や背景が表示された図7に示す画像101を得ることができる。   Therefore, in the present embodiment, as shown by the arrows in FIG. 9, the area a including the iron rod 11 in the photographed image 100 by the main photographing device 5-3 is divided by the sub photographing devices 5-2 and 5-4. By replacing the captured image 100 with the images of the areas b and c between the iron rods 11 corresponding to the area a, the iron rod 11 is erased, and the user 20 and the background blocked by the iron rod 11 in the area a of the iron rod 11 The displayed image 101 shown in FIG. 7 can be obtained.

ここで、上記したサブの撮影装置5−2、5−4での撮影画像100は、メインの撮影装置5−3とサブの撮影装置5−2、5−4の向きの違いを補うために、射影変換等の画像処理を行ったものであることが望ましい。撮影装置5の向きが違うと撮影画像100中でのユーザ20や動物30の大きさ等が変わるが、上記のように射影変換等を行うことにより、撮影装置5の向きの違いによって生じるユーザ20や動物30の大きさ等の違いを解消することができる。   Here, in order to compensate for the difference in the orientation of the main imaging device 5-3 and the sub imaging devices 5-2 and 5-4, the photographed image 100 in the above-described sub imaging devices 5-2 and 5-4 It is preferable that image processing such as projective transformation be performed. If the direction of the photographing device 5 is different, the size of the user 20 or the animal 30 in the photographed image 100 changes, but by performing the projective transformation as described above, the user 20 caused by the difference in the direction of the photographing device 5 And the size of the animal 30, etc. can be eliminated.

また、本実施形態ではメインの撮影装置5−3での撮影画像100における右半分の鉄棒11を含む領域aを、メインの撮影装置5−3の右側(ユーザから見て)の撮影装置5−2での撮影画像100における鉄棒11間の領域bの画像で置き換え、メインの撮影装置5−3での撮影画像100における左半分の鉄棒11を含む領域aを、メインの撮影装置5−3の左側の撮影装置5−4での撮影画像100における鉄棒11間の領域cの画像で置き換えているが、置き換え手法は撮影装置5の配置やメインの撮影装置5に対するサブの撮影装置5の設定方法等によって異なり、特に限定されない。   Further, in the present embodiment, the area a including the iron rod 11 in the right half of the photographed image 100 in the main photographing device 5-3 is a photographing device 5- on the right side of the main photographing device 5-3 (as viewed from the user). The area a including the iron rod 11 of the left half in the photographed image 100 in the photographed image 100 of the main photographing device 5-3 is replaced with the image of the region b between the iron rods 11 in the photographed image 100 in 2 and Although the image in the area c between the iron rods 11 in the photographed image 100 in the photographing device 5-4 on the left side is replaced, the replacement method is the arrangement of the photographing device 5 and the setting method of the sub photographing device 5 to the main photographing device 5 It differs depending on the case etc. and is not particularly limited.

以上説明したように、本実施形態によれば、檻10の鉄棒11(障害物)を挟んで前後に配置されたユーザ20と動物30を同じフレームに入れて撮影するようなシチュエーションにおいて、撮影画像100から鉄棒11を除去することにより、鉄棒11が無いユーザ20と動物30のツーショット画像が得られる。本実施形態では撮影装置5と鉄棒11の位置が既知なので、これを利用して鉄棒11の除去処理を簡単且つ自動的に行うものとでき、除去すべき障害物をユーザが指定する等の操作負担も無くすことができる。   As described above, according to the present embodiment, in the situation where the user 20 and the animal 30 arranged in front and back with the iron rod 11 (obstacle) of the rod 10 in the same frame and photographed, the photographed image By removing the iron rod 11 from 100, a two-shot image of the user 20 without the iron rod 11 and the animal 30 is obtained. In the present embodiment, since the positions of the photographing device 5 and the iron rod 11 are known, the removal processing of the iron rod 11 can be performed easily and automatically using this, and an operation such as the user specifying an obstacle to be removed The burden can also be eliminated.

また本実施形態では、前記のように複数の撮影装置5で撮影画像100を撮影しておき、メインの撮影装置5での撮影画像100における鉄棒11の領域を、サブの撮影装置5での撮影画像100における鉄棒11の無い領域の画像を用いて補完することで、鉄棒11の除去処理を好適に行うことができる。   Further, in the present embodiment, the photographed image 100 is photographed by the plurality of photographing devices 5 as described above, and the area of the iron rod 11 in the photographed image 100 by the main photographing device 5 is photographed by the sub photographing device 5 By complementing using the image of the area | region without the iron rod 11 in the image 100, the removal process of the iron rod 11 can be performed suitably.

本実施形態では、遠隔の位置にある撮影装置5に対する撮影指示を、スマートフォン等のユーザ端末7によりユーザから行うことができる。この時撮影管理装置3からユーザ端末7に撮影装置5による動画を送信することで、ユーザは動画を確認しながらユーザ20と動物30が好適な位置にあるタイミングで撮影指示を行うことができる。   In the present embodiment, the user can issue a photographing instruction to the photographing device 5 located at a remote position from the user via the user terminal 7 such as a smart phone. At this time, by transmitting a moving image by the imaging device 5 from the imaging management device 3 to the user terminal 7, the user can issue an imaging instruction at a timing when the user 20 and the animal 30 are at suitable positions while checking the moving image.

しかしながら、本発明はこれに限らない。例えば本実施形態ではユーザが選択したメインの撮影装置5での動画をユーザ端末7で見られるようになっているが、最初にS101において全ての撮影装置5での動画を撮影管理装置3からユーザ端末7に送信し、前記した撮影装置5の選択ページ(不図示)に表示させ、それらの動画を見ながら撮影を行うメインの撮影装置5を選択できるようにしてもよい。また、動画中のフレーム画像からユーザ20の部分を抽出しておき、これによって得た画像を鉄棒11の領域の補完に用いることも可能である。   However, the present invention is not limited to this. For example, in the present embodiment, the moving image in the main photographing device 5 selected by the user can be viewed on the user terminal 7, but first, in S101, the moving image in all the photographing devices 5 from the photographing management device 3 to the user It may be transmitted to the terminal 7 and displayed on the selection page (not shown) of the photographing device 5 described above so that the main photographing device 5 to be photographed may be selected while watching those moving images. Further, it is also possible to extract the portion of the user 20 from the frame image in the moving image and use the image obtained thereby for complementing the area of the iron rod 11.

また、撮影装置5の配置も特に限定されず、例えば図10(a)に示すように檻10の外側にあってもよい。この場合の撮影画像の例が図10(b)の撮影画像100aであり、先程とは異なりユーザ20が鉄棒11(障害物)の前にあり動物30の前に鉄棒11が重畳しているが、前記と同様の方法で鉄棒11の除去が可能である。   Further, the arrangement of the photographing device 5 is not particularly limited, and may be outside the weir 10 as shown in FIG. 10A, for example. An example of the photographed image in this case is the photographed image 100a of FIG. 10 (b), and unlike the above, although the user 20 is in front of the iron rod 11 (obstacle) and the iron rod 11 is superimposed in front of the animal 30 It is possible to remove the iron rod 11 in the same manner as described above.

また、本実施形態では鉛直方向の鉄棒11(障害物)が左右に間隔を空けて配置されているため、撮影装置5を平面上複数配置してメインの撮影装置5での撮影画像100における鉄棒11の領域をその左右の撮影装置5での撮影画像100を用いて補完しているが、例えば図11に示すように水平方向(図11の紙面法線方向)の鉄棒11が上下に間隔を空けて配置されている場合、撮影装置5を鉛直面内で複数配置してメインの撮影装置5での撮影画像における鉄棒11の領域をその上下の撮影装置5での撮影画像を用いて同様に補完することが可能である。前記と同様、これらの撮影装置5の向きは矢印に示すように1つの箇所A’に集中するようにしておく。   Further, in the present embodiment, since the iron rods 11 (obstacles) in the vertical direction are arranged at an interval to the left and right, iron rods in the photographed image 100 in the main photographing device 5 by arranging a plurality of photographing devices 5 on a plane Although the 11 regions are complemented using the photographed images 100 by the left and right photographing devices 5, for example, as shown in FIG. 11, the iron rods 11 in the horizontal direction (the normal direction of the paper surface of FIG. 11) In the case where a plurality of imaging devices 5 are arranged in a vertical plane, the regions of the iron rod 11 in the captured image of the main imaging device 5 are similarly arranged using the captured images of the upper and lower imaging devices 5. It is possible to complement. As described above, the directions of these photographing devices 5 are concentrated at one place A 'as shown by the arrows.

加えて、ユーザ端末7の代わりに図12に示すように檻10の外等に配置した端末7aを用い、端末7aから撮影管理装置3に撮影指示を送信してもよい。端末7aは制御部、表示部、通信部等を備え、ユーザ端末7と同様、前記のS101〜S103、S110〜S111、S120の処理を行う。この場合、前記の画像101はS120で端末7aが受信することになるが、ユーザはユーザ端末によって端末7aと通信等を行うことにより、端末7aから画像101を取得することが可能である。   In addition, as shown in FIG. 12 instead of the user terminal 7, the terminal 7a may transmit a photographing instruction from the terminal 7a to the photographing management device 3 using the terminal 7a disposed outside the crucible 10 or the like. The terminal 7a includes a control unit, a display unit, a communication unit, and the like, and performs the processes of S101 to S103, S110 to S111, and S120 in the same manner as the user terminal 7. In this case, the terminal 7a receives the image 101 in S120, but the user can acquire the image 101 from the terminal 7a by communicating with the terminal 7a by the user terminal.

さらに、本実施形態では複数の撮影装置5を用いているが、その代わりに、図13に示すように1つの撮影装置5を上記複数の撮影装置の位置5’、5”に移動可能とすることで、撮影装置5を1台のみの設置とすることも可能である。   Furthermore, although a plurality of imaging devices 5 are used in the present embodiment, instead, as shown in FIG. 13, one imaging device 5 can be moved to the positions 5 'and 5' 'of the plurality of imaging devices. Therefore, it is also possible to install only one photographing device 5.

この場合、前記のS102で説明した撮影装置5の選択は省略され、S113でこの1つの撮影装置5(例えば前記したメインの撮影装置5の位置に配置されている)に撮影リクエストが送信された後、当該撮影装置5が前記したメインの撮影装置5の位置とサブの撮影装置5の位置でそれぞれ撮影を行う。ただし、撮影装置5が移動する間に動物30が移動してしまう可能性があるので、この点では、前記の実施形態で説明したように複数の撮影装置5によって同じタイミングで撮影を行う方が好ましい。   In this case, the selection of the photographing device 5 described in S102 is omitted, and a photographing request is transmitted to the one photographing device 5 (for example, disposed at the position of the main photographing device 5 described above) in S113. After that, photographing is performed respectively at the position of the main photographing device 5 and the position of the sub photographing device 5 as the photographing device 5 described above. However, since there is a possibility that the animal 30 may move while the photographing device 5 moves, in this respect, it is better to perform photographing at the same timing by a plurality of photographing devices 5 as described in the above embodiment. preferable.

さらに、図14に示すように、ユーザ20が第1の位置にいる場合の撮影画像100と、当該第1の位置から左右方向にずれた第2の位置にいる場合の撮影画像100を同じ撮影装置5で撮影し、前者の撮影画像100における鉄棒11の領域a’を、後者の撮影画像100における鉄棒11間の領域b’の画像により補完することも可能である。   Furthermore, as shown in FIG. 14, the photographed image 100 when the user 20 is at the first position and the photographed image 100 when the user 20 is at the second position shifted from the first position in the left-right direction are photographed the same. It is also possible to take a picture with the device 5 and supplement the area a ′ of the iron rod 11 in the photographed image 100 of the former with the image of the area b ′ between the iron bars 11 in the photographed image 100 of the latter.

第1、第2の位置は例えば予め定めた既知の位置(上記の領域a’、b’に対応する位置)としておき、前者の撮影画像100における上記領域a’以外の鉄棒11の領域は、後述するインペインティングの技術等を用いて補完することができる。   The first and second positions are, for example, predetermined known positions (positions corresponding to the above areas a ′ and b ′), and the area of the iron rod 11 other than the above area a ′ in the photographed image 100 of the former is This can be complemented by using the in-painting technique described later.

この場合も撮影装置5の数を減らすことができ、図15に示すように撮影装置5を1台のみ設置することも可能である。またS102の撮影装置5の選択も省略され、S113でこの1つの撮影装置5に撮影リクエストが送信された後、当該撮影装置5が2回撮影を行う。ただし、ユーザ20には1回目と2回目の撮影の間、上記した第1の位置と第2の位置の間で移動してもらう必要があり、前記と同様、この間に動物30が移動してしまう可能性はある。   Also in this case, the number of imaging devices 5 can be reduced, and it is possible to install only one imaging device 5 as shown in FIG. Further, the selection of the photographing device 5 in S102 is also omitted, and after the photographing request is transmitted to the one photographing device 5 in S113, the photographing device 5 performs photographing twice. However, it is necessary for the user 20 to move between the first position and the second position described above during the first and second photographings, and in the same manner as described above, the animal 30 moves. There is a possibility of

障害物の除去方法も特に限定されず、例えば1つの撮影装置5での撮影画像100のみを用い、当該撮影画像100における鉄棒11の領域を、当該撮影画像100における他の位置の画素の画素値を用いて補完し、鉄棒11の除去を行うことも可能である。   The method for removing obstacles is not particularly limited, and, for example, using only the captured image 100 of one imaging device 5, the area of the iron rod 11 in the captured image 100 is the pixel value of the pixel at another position in the captured image 100 It is also possible to perform the removal of the iron rod 11 by using

この場合、例えば図16(a)に示すマスク画像200を用いる。マスク画像200は、上記した撮影装置5での撮影画像100における鉄棒11(障害物)の位置をマスク領域201として予め設定したものである。マスク画像200は、例えば各画素の画素値(輝度値)を最小値(黒)か最大値(白)とした白黒画像で表され、白の領域がマスク領域201として設定される。   In this case, for example, a mask image 200 shown in FIG. 16 (a) is used. The mask image 200 is one in which the position of the iron rod 11 (obstacle) in the photographed image 100 in the photographing device 5 described above is preset as the mask area 201. The mask image 200 is represented by a black and white image in which the pixel value (luminance value) of each pixel is, for example, the minimum value (black) or the maximum value (white), and a white area is set as the mask area 201.

上記した撮影装置5での撮影画像100(図16(b)参照)にマスク画像200を重ね、図16(c)に示すように撮影画像100上でマスク領域201(鉄棒11の領域)を設定する。そして、このマスク領域201の画像を他の位置の画素の画素値を用いて補完する。動物30の領域はその画素値などを利用して撮影画像100から別途抽出し、マスク領域201から除外しておく。   The mask image 200 is superimposed on the photographed image 100 (see FIG. 16B) by the photographing device 5 described above, and as shown in FIG. 16C, the mask area 201 (the area of the iron rod 11) is set on the photographed image 100. Do. Then, the image of the mask area 201 is complemented using pixel values of pixels at other positions. The area of the animal 30 is separately extracted from the photographed image 100 using its pixel value and the like, and excluded from the mask area 201.

補完方法は特に限定されず、いわゆるインペインティングと呼ばれる既知の画像処理技術が適用可能であり、その一例が前記の特許文献1に記載されている。インペインティング技術にはサポートベクターマシンやディープラーニングなどの既知の機械学習技術を用いたものもあり、本実施形態のように撮影画像100のパターンがある程度限られている場合に特に有効である。   The complementary method is not particularly limited, and a known image processing technique called so-called in-painting can be applied, and an example thereof is described in Patent Document 1 mentioned above. Some in-painting techniques use known machine learning techniques such as support vector machines and deep learning, which is particularly effective when the pattern of the captured image 100 is limited to a certain extent as in the present embodiment.

この場合でも図15に示したように撮影装置5を1台だけ設置することができる。またS102の撮影装置5の選択は省略され、S113でこの1つの撮影装置5に撮影リクエストが送信される。またこの例では前記したように動物30の移動が問題になることはない。   Even in this case, only one photographing device 5 can be installed as shown in FIG. Further, the selection of the photographing device 5 in S102 is omitted, and a photographing request is transmitted to the one photographing device 5 in S113. Also, in this example, the movement of the animal 30 is not a problem as described above.

さらに、本実施形態では撮影システム1の適用対象を動物園で檻10の内外のユーザ20と動物30を撮影するようなシチュエーションとしているが、撮影システム1の適用対象はこれに限らず、固定された障害物を挟んで前後に配置された被写体を撮影するようなシチュエーションであれば同様に適用可能である。そのため、動物園以外の各種のアミューズメント施設等に撮影システム1を設置してユーザーエクスペリエンスを向上することが可能である。   Furthermore, in the present embodiment, the application target of the imaging system 1 is a situation where the user 20 and animals 30 inside and outside the cage 10 are photographed at a zoo, but the application target of the imaging system 1 is not limited to this. The present invention is similarly applicable to any situation in which a subject placed in front of or behind the obstacle is photographed. Therefore, it is possible to install the imaging system 1 in various amusement facilities etc. other than a zoo and to improve the user experience.

以上、添付図面を参照して、本発明の好適な実施形態について説明したが、本発明は係る例に限定されない。当業者であれば、本願で開示した技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。   The preferred embodiments of the present invention have been described above with reference to the accompanying drawings, but the present invention is not limited to such examples. It is apparent that those skilled in the art can conceive of various modifications or alterations within the scope of the technical idea disclosed in the present application, and of course these also fall within the technical scope of the present invention. It is understood.

1:撮影システム
3:撮影管理装置
5:撮影装置
7:ユーザ端末
10:檻
11:鉄棒
20:ユーザ
30:動物
100、100a:撮影画像
101:(障害物の除去後の)画像
200:マスク画像
201:マスク領域
1: Shooting system 3: Shooting management device 5: Shooting device 7: User terminal 10: 檻 11: Bar 20: User 30: Animal 100, 100a: Shooting image 101: (after removal of obstacle) Image 200: Mask image 201: Mask area

Claims (8)

固定された障害物を挟んで前後に配置された被写体を予め定められた位置にある撮影装置によって撮影して得られた撮影画像を、前記撮影装置から取得する取得手段と、
いずれかの前記被写体に前記障害物が重畳した前記撮影画像において前記障害物の領域を補完することで、前記障害物が除去され前記領域に前記被写体が表示された画像を作成する障害物除去手段と、
を有することを特徴とする情報処理装置。
An acquisition unit configured to acquire, from the imaging device, a captured image obtained by capturing an image of an object placed in front of and behind the fixed obstacle with the imaging device at a predetermined position;
Obstacle removing means for creating an image in which the obstacle is removed and the subject is displayed in the area by complementing the area of the obstacle in the photographed image in which the obstacle is superimposed on any of the subjects When,
An information processing apparatus comprising:
前記撮影画像は複数の前記位置から撮影され、
前記障害物除去手段は、
一の前記位置で撮影された前記撮影画像の前記障害物の領域を、他の前記位置で撮影された前記撮影画像における前記障害物の無い領域を用いて補完することを特徴とする請求項1記載の情報処理装置。
The photographed image is photographed from a plurality of the positions,
The obstacle removing means is
The area of the obstacle of the photographed image photographed at one of the positions is complemented by using the area without the obstacle in the photographed image photographed at the other position. Information processor as described.
前記障害物除去手段は、
前記撮影画像の前記障害物の領域を、当該撮影画像における他の位置の画素の画素値を用いて補完することを特徴とする請求項1記載の情報処理装置。
The obstacle removing means is
The information processing apparatus according to claim 1, wherein the area of the obstacle of the captured image is complemented using pixel values of pixels at other positions in the captured image.
前記撮影装置で撮影を行うための撮影指示を、端末から受信する受信手段を有することを特徴とする請求項1から請求項3のいずれかに記載の情報処理装置。   The information processing apparatus according to any one of claims 1 to 3, further comprising a receiving unit configured to receive, from a terminal, an imaging instruction for performing imaging with the imaging device. 前記撮影指示を受信する前に、前記撮影装置により撮影を行って得た動画を前記端末に送信する送信手段を有することを特徴とする請求項4記載の情報処理装置。   5. The information processing apparatus according to claim 4, further comprising transmission means for transmitting a moving image obtained by photographing by the photographing device to the terminal before receiving the photographing instruction. 固定された障害物を挟んで前後に配置された被写体を予め定められた位置から撮影する撮影装置と、
前記撮影装置で撮影を行って得たいずれかの前記被写体に前記障害物が重畳した撮影画像において前記障害物の領域を補完することで、前記障害物が除去され前記領域に前記被写体が表示された画像を作成する情報処理装置と、
を有することを特徴とする撮影システム。
A photographing device for photographing a subject placed in front of and behind the fixed obstacle from a predetermined position;
The obstacle is removed and the subject is displayed in the area by complementing the area of the obstacle in the photographed image in which the obstacle is superimposed on any of the subjects obtained by the photographing device. An information processing apparatus for creating a different image;
A photographing system characterized by having:
前記情報処理装置は、
一の前記位置で撮影された前記撮影画像の前記障害物の領域を、他の前記位置で撮影された前記撮影画像における前記障害物の無い領域を用いて補完し、
前記撮影装置は、複数の前記位置のそれぞれに配置されることを特徴とする請求項6記載の撮影システム。
The information processing apparatus is
Complementing the area of the obstacle of the photographed image photographed at one of the positions using the area without the obstacle in the photographed image photographed at the other position;
The imaging system according to claim 6, wherein the imaging device is disposed at each of the plurality of positions.
コンピュータを、
固定された障害物を挟んで前後に配置された被写体を予め定められた位置にある撮影装置によって撮影して得られた撮影画像を、前記撮影装置から取得する取得手段と、
いずれかの前記被写体に前記障害物が重畳した前記撮影画像において前記障害物の領域を補完することで、前記障害物が除去され前記領域に前記被写体が表示された画像を作成する障害物除去手段と、
を有する情報処理装置として機能させるためのプログラム。
Computer,
An acquisition unit configured to acquire, from the imaging device, a captured image obtained by capturing an image of an object placed in front of and behind the fixed obstacle with the imaging device at a predetermined position;
Obstacle removing means for creating an image in which the obstacle is removed and the subject is displayed in the area by complementing the area of the obstacle in the photographed image in which the obstacle is superimposed on any of the subjects When,
A program for functioning as an information processing apparatus having
JP2017209160A 2017-10-30 2017-10-30 Information processing device, photographing system, and program Pending JP2019083389A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017209160A JP2019083389A (en) 2017-10-30 2017-10-30 Information processing device, photographing system, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017209160A JP2019083389A (en) 2017-10-30 2017-10-30 Information processing device, photographing system, and program

Publications (1)

Publication Number Publication Date
JP2019083389A true JP2019083389A (en) 2019-05-30

Family

ID=66670611

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017209160A Pending JP2019083389A (en) 2017-10-30 2017-10-30 Information processing device, photographing system, and program

Country Status (1)

Country Link
JP (1) JP2019083389A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022245177A1 (en) * 2021-05-20 2022-11-24 Samsung Electronics Co., Ltd. Method and electronic device for obtaining reconstructed image

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008117305A (en) * 2006-11-07 2008-05-22 Olympus Corp Image processor
JP2015139018A (en) * 2014-01-21 2015-07-30 株式会社ニコン Electronic apparatus and control program

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008117305A (en) * 2006-11-07 2008-05-22 Olympus Corp Image processor
JP2015139018A (en) * 2014-01-21 2015-07-30 株式会社ニコン Electronic apparatus and control program

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022245177A1 (en) * 2021-05-20 2022-11-24 Samsung Electronics Co., Ltd. Method and electronic device for obtaining reconstructed image
US12499563B2 (en) 2021-05-20 2025-12-16 Samsung Electronics Co., Ltd. Method and electronic device for obtaining reconstructed image

Similar Documents

Publication Publication Date Title
US9479706B2 (en) Brightness adjustment system
CN106575027B (en) Image pickup apparatus and subject tracking method thereof
EP3328064B1 (en) Method and device for controlling electronic device and computer-readable storage medium
US12316964B2 (en) Imaging apparatus and imaging method
US9628700B2 (en) Imaging apparatus, imaging assist method, and non-transitory recoding medium storing an imaging assist program
KR20190012465A (en) Electronic device for acquiring image using plurality of cameras and method for processing image using the same
JP6141137B2 (en) REMOTE CONTROL DEVICE AND ITS CONTROL METHOD, IMAGING DEVICE AND ITS CONTROL METHOD, SYSTEM, AND PROGRAM
KR20120005040A (en) How to choose the best viewing angle position for your camera
US11722771B2 (en) Information processing apparatus, imaging apparatus, and information processing method each of which issues a notification of blur of an object, and control method for the imaging apparatus
JP2018152787A (en) Imaging device, external device, imaging system, imaging method, operation method, and program
US9143763B2 (en) Imaging apparatus, imaging method, and computer-readable recording medium
US9264603B2 (en) Imaging apparatus and imaging method
JP2019083389A (en) Information processing device, photographing system, and program
JP2018067851A (en) Imaging control program, imaging control method, and information processing apparatus
JP2013143592A (en) Information processor, information processing method of information processor, and program
CN110933314B (en) Focus-following shooting methods and related products
JP2013162505A (en) Imaging apparatus
KR101610512B1 (en) Stereoscopic camera and method for operating the same
JP6885133B2 (en) Image processing equipment, imaging system, image processing method and program
KR101822169B1 (en) Electronic device for providing panorama image and control method thereof
JP7746114B2 (en) Image processing device, image processing method, image processing system, and program
US20180181801A1 (en) Human body detection apparatus, human body detection method, information processing apparatus, information processing method, and storage medium
EP3798968B1 (en) Image processing method and device, electronic device, computer apparatus, and storage medium
WO2012099174A1 (en) Autofocus system
JP2018067802A (en) IMAGING CONTROL DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200828

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211021

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220315