JP2019129378A - 情報処理装置、情報処理システム及びプログラム - Google Patents
情報処理装置、情報処理システム及びプログラム Download PDFInfo
- Publication number
- JP2019129378A JP2019129378A JP2018009006A JP2018009006A JP2019129378A JP 2019129378 A JP2019129378 A JP 2019129378A JP 2018009006 A JP2018009006 A JP 2018009006A JP 2018009006 A JP2018009006 A JP 2018009006A JP 2019129378 A JP2019129378 A JP 2019129378A
- Authority
- JP
- Japan
- Prior art keywords
- image
- overlap
- aerial image
- aerial
- information processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/388—Volumetric displays, i.e. systems where the image is built up from picture elements distributed through a volume
- H04N13/395—Volumetric displays, i.e. systems where the image is built up from picture elements distributed through a volume with depth sampling, i.e. the volume being constructed from a stack or sequence of 2D image planes
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/10—Beam splitting or combining systems
- G02B27/14—Beam splitting or combining systems operating by reflection only
- G02B27/144—Beam splitting or combining systems operating by reflection only using partially transparent surfaces without spectral selectivity
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B30/00—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
- G02B30/50—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images the image being built up from image elements distributed over a 3D volume, e.g. voxels
- G02B30/56—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images the image being built up from image elements distributed over a 3D volume, e.g. voxels by projecting aerial or floating images
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/20—Linear translation of whole images or parts thereof, e.g. panning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/60—Rotation of whole images or parts thereof
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
Description
請求項2に記載の発明は、前記検知手段は、撮像手段で撮像された画像を処理して重なりを検知する、請求項1に記載の情報処理装置である。
請求項3に記載の発明は、前記検知手段は、前記第1の像の少なくとも一部が前記第2の像を透過して撮像される場合、又は、前記第2の像の少なくとも一部が前記第1の像を透過して撮像される場合、当該第1の像と当該第2の像が重なっていると検知する、請求項2に記載の情報処理装置である。
請求項4に記載の発明は、前記検知手段は、前記第1の像と前記第2の像の両方を表示した状態で撮像された前記画像内での表示面までの距離が、当該画像内の一方向について単調に変化しないとき、当該第1の像と当該第2の像が重なっていると検知する、請求項2に記載の情報処理装置である。
請求項5に記載の発明は、前記検知手段は、前記第1の像を表示した状態で撮像された前記画像内での表示面までの第1の距離と、前記第2の像を表示した状態で撮像された前記画像内での表示面までの第2の距離との遠近の関係が前記画像内のある地点で入れ替わるとき、当該第1の像と当該第2の像が重なっていると検知する、請求項2に記載の情報処理装置である。
請求項6に記載の発明は、前記重なりの検知を報知する報知手段を更に有する、請求項1に記載の情報処理装置である。
請求項7に記載の発明は、前記重なりが検知された場合、前記第1の像を形成する第1の像形成手段及び前記第2の像を形成する第2の像形成手段の両方又は一方を制御して当該第1の像と当該第2の像の重なりを低減させる低減手段を更に有する、請求項1に記載の情報処理装置である。
請求項8に記載の発明は、前記低減手段は、前記第1の像及び前記第2の像の両方又は一方の表示面の床面に対する角度を変更する、請求項7に記載の情報処理装置である。
請求項9に記載の発明は、前記低減手段は、前記第1の像及び前記第2の像の両方又は一方を、表示面の床面に対する角度を保ったまま移動させる、請求項7に記載の情報処理装置である。
請求項10に記載の発明は、前記低減手段は、前記第1の像及び前記第2の像の両方又は一方の表示上の大きさを小さくする、請求項7に記載の情報処理装置である。
請求項11に記載の発明は、前記検知手段は、前記第1の像を形成する第1の像形成手段の取り付け位置の変化の情報と、前記第2の像を形成する第2の像形成手段の取り付け位置の変化の情報とに基づいて、当該第1の像と当該第2の像の重なりを検知する、請求項1に記載の情報処理装置である。
請求項12に記載の発明は、前記変化の情報は、初期の状態に対する変化の方向である、請求項11に記載の情報処理装置である。
請求項13に記載の発明は、前記変化の情報は、設計値に対する変化の方向である、請求項11に記載の情報処理装置である。
請求項14に記載の発明は、前記検知手段は、前記第1の像を形成する第1の像形成手段を構成する光学部品の取り付け位置の変化の情報と、前記第2の像を形成する第2の像形成手段を構成する光学部品の取り付け位置の変化の情報とに基づいて、当該第1の像と当該第2の像の重なりを検知する、請求項1に記載の情報処理装置である。
請求項15に記載の発明は、空気中で第1の像を形成する第1の像形成手段と、空気中で第2の像を形成する第2の像形成手段と、前記第1の像と前記第2の像の重なりを検知する検知装置とを有する情報処理システムである。
請求項16に記載の発明は、コンピュータを、空気中に形成される第1の像と空気中に形成される第2の像との重なりを検知する検知手段として機能させるプログラムである。
請求項2記載の発明によれば、空気中に形成される複数の像の重なりに対処できる。
請求項3記載の発明によれば、空気中に形成される複数の像の重なりに対処できる。
請求項4記載の発明によれば、空気中に形成される複数の像の重なりに対処できる。
請求項5記載の発明によれば、空気中に形成される複数の像の重なりに対処できる。
請求項6記載の発明によれば、ユーザによる対処を促すことができる。
請求項7記載の発明によれば、制御による対処を実現できる。
請求項8記載の発明によれば、制御による対処を実現できる。
請求項9記載の発明によれば、制御による対処を実現できる。
請求項10記載の発明によれば、制御による対処を実現できる。
請求項11記載の発明によれば、間接的に複数の像の重なりを検知できる。
請求項12記載の発明によれば、間接的に複数の像の重なりを検知できる。
請求項13記載の発明によれば、間接的に複数の像の重なりを検知できる。
請求項14記載の発明によれば、間接的に複数の像の重なりを検知できる。
請求項15記載の発明によれば、空気中に形成される複数の像の重なりに対処できる。
請求項16記載の発明によれば、空気中に形成される複数の像の重なりに対処できる。
<実施の形態1>
<空中ディスプレイの概略構成>
図1は、実施の形態1に係る空中画像形成システム1の概略構成を説明する図である。
本実施の形態において、空中画像10とは、物体からの反射光と同等の光の状態を再現するように空気中に形成される像をいう。空中画像10は、空気中に浮かぶように形成されるので、人は、空中画像10を通り抜けることができる。
本実施の形態では、1つの空間内に2つの空中画像10が形成される場合を想定する。
本実施の形態では、一方を空中画像11といい、他方を空中画像12という。なお、空中画像11は第1の像の一例であり、空中画像12は第2の像の一例である。
ここでの空中画像形成システム1は、情報処理システムの一例であり、重なり検知装置33は、情報処理装置の一例である。また、空中画像形成装置31、32は像形成手段の一例である。なお、空中画像形成装置31は第1の像形成手段の一例であり、空中画像形成装置32は第2の像形成手段の一例でもある。
本実施の形態の場合、空中画像11及び12には、案内用の画面や広告用の画面が表示される。なお、空中画像11及び12には、人20の操作に応じて表示の内容が変化する操作用の画面が表示されてもよい。ただし、表示される画面は、案内用の画面、広告用の画面、操作用の画面に限らない。
また、空中画像11及び12には静止画像が表示されてもよいし、動画像が表示されてもよい。
また、各実施の形態では、矩形形状の全体を空中画像10として表現するが、空中画像10の外縁を規定する形状は矩形に限らず、任意でよい。例えば物体(オブジェクト)の像が形成される空間を、空中画像10が形成される空間の全てとしてもよい。例えば操作用のボタンの像、人の像、動物の像、製品の像、果物の像なども、ここでの空中画像10の一例である。図1では、空中画像10が平面形状であるが、曲面、球体、立方体などの立体的な形状でもよい。
本実施の形態の場合、重なりとは、空中画像11の内容と空中画像12の内容が重なって見える状態をいう。重なりは、例えば空中画像11と空中画像12の少なくとも一部が空間内で交差することで発生する。以下では、空中画像11と空中画像12の空間内における交差の発見を重なりとして検知する場合について説明する。
重なり検知装置33は、空中画像11及び12が形成される空間の天井、壁、床面などに予め設置される場合と、検査のために空中画像11及び12が形成される空間に持ち込まれる場合がある。
図2〜図6を用いて、空中画像11及び12の形成原理を説明する。以下に説明する原理は、いずれも既知である。
本実施の形態の場合、空中画像11を形成する空中画像形成装置31の構成と、空中画像形成装置32の構成は共通である。従って、図2〜図6では、空中画像形成装置31の構成を表す。
なお、空中画像形成31と空中画像形成装置32とで異なる形成原理の装置を採用してもよい。
光学プレート42は、壁面を鏡として使用する短冊状のガラス42Aを配列したプレートと、ガラス42Aに対して直交する向きに短冊状のガラス42Bを配列したプレートを上下に重ねた構造を有する。
光学プレート42は、表示デバイス41から出力される光を短冊状のガラス42A及び42Bで2回反射して空気中で結像させることで、表示デバイス41に表示されている画像を空気中に再現する。なお、表示デバイス41と光学プレート42の距離と、光学プレート42と空中画像11との距離は同じである。また、表示デバイス41に表示される画像の寸法と空中画像11の寸法は同じである。
空中画像形成装置31Dの場合、表示デバイス45から出力される光は、ビームスプリッタ46によって再帰反射シート47の方向に反射され、次に再帰反射シート47で再帰反射され、ビームスプリッタ46を透過して空中で結像される。光が結像する位置に空中画像11が形成される。
空中画像形成装置31Eの場合、赤外パルスレーザ48がパルス状のレーザ光を出力し、XYZスキャナ49がパルス状のレーザ光を空気中で集光する。このとき、焦点近傍の気体が瞬間的にプラズマ化し、発光する。パルス周波数は、例えば100Hz以下であり、パルス発光時間は、例えばナノ秒オーダである。ここでの赤外パルスレーザ48とXYZスキャナ49は、光学部品の一例である。
図7は、実施の形態1に係る重なり検知装置33のハードウェア構成の一例を説明する図である。
重なり検知装置33は、ファームウェアやアプリケーションプログラムの実行を通じて各種の機能を提供するCPU(Central Processing Unit)51と、ファームウェアやBIOS(Basic Input Output System)を格納する記憶領域であるROM(Read Only Memory)52と、プログラムの実行領域であるRAM(Random Access Memory)53とを有している。ここでのCPU51、ROM52、RAM53は、いわゆるコンピュータの一例である。
また、重なり検知装置33は、空中画像11及び12に表示する情報を格納する記憶装置54を有している。記憶装置54は、例えば書き換え可能な不揮発性の記憶媒体を情報の格納に使用する。
また、重なり検知装置33は、重なりに関する情報を検知する重なり検知センサ56と、重なりの発生を報知する報知デバイス57とを有している。
もっとも、重なり検知センサ56は、可視光域の全てではなく、重なりが目立つ特定の波長域の像を選択的に撮影する撮像カメラでもよい。
また、重なり検知センサ56は、空中画像11及び12が表示される可能性がある全域を撮像の対象とするが、重なりが想定される空間部分だけを撮影してもよい。
ここで、CPU51と各部はバス58を通じて接続されている。なお、重なり検知センサ56及び報知デバイス57はインタフェース(IF)59を通じてバス58に接続される。
図8に示す機能構成は、CPU51によるプログラムの実行を通じて実現される。
CPU51は、重なり検知センサ56の出力信号(例えば画像データ)に基づいて空中画像11(図1参照)と空中画像12(図1参照)の重なりを検知する重なり検知部60と、検知された重なりに応じて空中画像形成装置31(図1参照)及び空中画像形成装置32(図1参照)の両方又は一方を重なりが低減されるように制御する重なり低減部61として機能する。
ここでの重なり検知部60は検知手段の一例であり、重なり低減部62は低減手段の一例である。
重なりが検知された場合、重なり検知部60は、報知デバイス57と重なり低減部61に重なりの検知を通知する。ここでの通知には、重なりが生じた位置や重なりの量に関する情報を含めてもよい。
撮像や検知が容易な表示は、空中画像11と空中画像12との関係に基づいて選択してもよいし、空中画像11及び12が形成される空間の環境に応じて定めてもよい。
例えば空中画像11と空中画像12には、互いに反対色(補色)を割り当ててもよい。反対色とは色相環上で反対に位置する色をいい、例えば赤に対する緑系から紺系の色、オレンジ色に対する青緑系から紫色などである。反対色を用いることで、空中画像11と空中画像12との境界が目立ちやすくなり、重なりの発見が容易になる。
また例えば背景(例えば床や壁)が白色である場合には、はっきりした発色が期待される色(例えば赤、緑、青、紫)を選択してもよい。なお、黄色系の色も背景との関係では見易い場合がある。
ここでの制御は、例えば空中画像11の表示位置の平行移動、回転移動、画面の寸法の縮小、又はこれらの組み合わせによって実行される。
<検知例1>
ここでは、図9〜図11を使用して、重なり検知部60(図8参照)による重なりの検知例1について説明する。
図9は、空中画像11及び12に対する重なり検知センサ56の位置の関係を説明する図である。
図10は、重なり検知センサ56により撮影された画像72を説明する図である。(A)は重なりが検知されない場合の画像72であり、(B)は重なりが検知される場合の画像72である。
図11は、重なり検知部60によって実行される処理を説明する図である。
なお、図9では、重なり検知センサ56が天井71に取り付けられている。もっとも、重なり検知センサ56を取り付けた台座や棒などの支持部材を空中画像11及び12の上空に配置してもよい。
図9に示すように、重なり検知センサ56としての撮像カメラは下向き(−Z方向)に撮影する。撮像カメラは、撮像手段の一例である。
(A)に示すように、空中画像11が形成されている範囲と空中画像12が形成されている範囲とが交差していない場合、重なり検知部60(図8参照)は重なりがないと判定する。一方、(B)に示すように、空中画像11が形成されている範囲と空中画像12が形成されている範囲に交点Pが認められる場合、重なり検知部60は重なりが有ると判定する。
このような、重なりは、空中画像形成装置31(図1参照)及び空中画像形成装置32(図1参照)の設定時の誤りや事後的な外力(例えば地震、振動、衝撃)によって設定にずれが生じることで発生する。なお、交点Pは、画像内のある地点の一例である。
次に、重なり検知部60は、重なり検知センサ56が撮影した画像72を画像処理して、複数の空中画像(空中画像11及び12)が形成されている位置を検知する(ステップ2)。
ステップ3で肯定結果が得られた場合、重なり検知部60は、報知デバイス57(図8参照)を通じて重なりの検知を報知する(ステップ4)。
一方、ステップ3で否定結果が得られた場合、重なり検知部60は、報知を行うことなく処理を終了する。もっとも、重なりがない旨の通知を行ってもよい。
この報知により、作業者による作業が促される。また、作業中における調整にも使用できる。
次に、図12〜図15を使用して、重なり検知部60による重なりの検知例2について説明する。
図12は、空中画像11及び12に対する重なり検知センサ56の位置の関係を説明する図である。
図13は、空中画像11及び12が重なっていない場合の位置関係と撮影された画像の例を説明する図である。(A)は重なりが無い状態を示し、(B)は画像の例を示す。
図14は、空中画像11及び12が重なっている場合の位置関係と撮影された画像の例を説明する図である。(A)は重なりが有る状態を示し、(B)は画像の例を示す。
図15は、重なり検知部60(図8参照)によって実行される処理を説明する図である。
図12の場合、重なり検知センサ56としての撮像カメラは、図中の左方向(−X方向)に向けられている。なお、空中画像11及び12に対して撮像カメラを図中の左側に配置する場合には、撮像カメラは図中の右方向(X方向)に向けられる。なお、撮像カメラは、観察者が空中画像11及び12の観察に用いる場所に配置してもよい。観察に用いる場所に撮像カメラを設置することで、観察時における視認性が低下する状態(重なり)が検知される。
空中画像11と空中画像12に交差がない場合、重なり検知センサ56で撮像される画像72には、空中画像11及び12が別々に配置される。この場合、重なり検知部60(図8参照)は、重なりが無いと判定する。
図14の場合、空中画像11と空中画像12は交差しているので、重なり検知センサ56で撮像される画像72のうち重なっている部分の色が混ざりあって見えている。例えば紫色に見える。紫色に見えるのは、空中画像11を透過して背景側の空中画像12が観察され、又は、空中画像12を透過して背景側の空中画像11が観察されるためである。
もっとも、重なり部分の色に着目するのではなく、画像72内での空中画像11及び12のあるべき寸法や形状を枠線などで確定し、重なりの有無を検知してもよい。換言すると、画像内における空中画像11及び12の外縁の位置を推定し、推定された位置の情報に基づいて重なりの有無を検知してもよい。
ここでの位置の関係は、画像72内における像の位置関係をいう。例えば画像処理で特定された空中画像11が表示される範囲と空中画像12が表示される範囲との位置の関係をいう。
表示の内容の変化の一例には、例えば空中画像11の表示色と空中画像12の表示色の混色がある。また、表示の内容の変化の一例には、例えば空中画像11の表示内容と空中画像12の表示内容の重複がある。
ステップ13で肯定結果が得られた場合、重なり検知部60は、報知デバイス57(図8参照)を通じて重なりの検知を報知する(ステップ14)。
一方、ステップ13で否定結果が得られた場合、重なり検知部60は、報知を行うことなく処理を終了する。もっとも、重なりがない旨の通知を行ってもよい。
この報知により、作業者による作業が促される。また、作業中における調整にも使用できる。
次に、図16〜図19を使用して、重なり検知部60による重なりの検知例3について説明する。
図16は、空中画像11及び12に対する重なり検知センサ56の位置の関係を説明する図である。
図17は、空中画像11及び12が重なっていない場合の位置関係と撮影された画像の例を説明する図である。(A)は重なりが無い状態を示し、(B)は画像の例を示す。
図18は、空中画像11及び12が重なっている場合の位置関係と撮影された画像の例を説明する図である。(A)は重なりが有る状態を示し、(B)は画像の例を示す。
図19は、重なり検知部60(図8参照)によって実行される処理を説明する図である。
図16の場合、2台の重なり検知センサ56が用意される。2台の重なり検知センサ56は、空中画像11及び12を側方から撮影し、検知センサ56を起点とした奥行き方向の距離を取得する。換言すると、ステレオ撮影により距離の情報を得ている。
重なり検知部60(図8参照)で視差を用いた深度(距離)を計算する。この場合、ステレオ撮影に用いた2台の水平距離(Y軸方向の距離)の情報が必要である。
ここでの重なり検知センサ56は、壁面に取り付けられていてもよいし、台車や台座に取り付けられていてもよいし、撮影者が手で支えてもよい。
なお、本実施の形態では、基本的に画像処理により距離を測定する方式を採用する。空中画像11及び12は、物体としては存在しないため、物体の表面で反射された光を受光する方式の測定技術は利用できないためである。
なお、空中画面11及び12の表示位置に反射のための物体を置き、この物体との距離を測定することで空中画面11及び12までの距離を測定してもよい。
空中画像11と空中画像12に交差がない場合、重なり検知部60(図8参照)は、2台の重なり検知センサ56で撮像される2枚の画像72を用いて手前側に位置する空中画像12に対応する画素の深度を計算する。ここで、ある高さに位置する画素列(図中の一点鎖線73)について測定される距離L2がY軸方向について単調に変化すれば、重なりがないことを意味する。図17の例では、Y軸の方向に距離L2が単調に増加している。
図18の場合、空中画像11と空中画像12は空間内で交差している。このため、交差する部分を境に手前側に位置する画像の入れ替わりが生じている。例えばY軸方向について、交差する部分までは空中画像11が空中画像12よりも手前に位置するが、交差する部分までは空中画像12が空中画像11よりも手前に位置することになる。このため、ある高さに位置する画素列(図中の一点鎖線73)について測定される距離L2は、Y軸方向について途中までは減少するが途中からは増加に転じる。この距離L2の変化を検知した重なり検知部60(図8参照)は、重なりが有ると判定する。
次に、重なり検知部60は、2台の重なり検知センサ56が撮影した画像72を画像処理して、画像72内の各画素の深度(距離)を測定する(ステップ22)。
なお、判定に用いる方向は複数でもよい。判定に用いる方向が複数ある場合、一方向でも単調な減少又は単調な増加が成立しないと、重なりがあると判定される。
ステップ23で肯定結果が得られた場合、重なり検知部60は、報知デバイス57(図8参照)を通じて重なりの検知を報知する(ステップ24)。
一方、ステップ13で否定結果が得られた場合、重なり検知部60は、報知を行うことなく処理を終了する。もっとも、重なりがない旨の通知を行ってもよい。
この報知により、作業者による作業が促される。また、作業中における調整にも使用できる。
次に、図20〜図21を使用して、重なり検知部60による重なりの検知例4について説明する。検知例4は、検知例3の場合と同様、空中画像11及び12に対応する画素の深度(距離)に応じて重なりを判定する。
図20は、空中画像11及び12に対応する画素の深度(距離)の測定の方法を説明する図である。(A)は測定を開始する前の状態を示し、(B)は空中画像11に対応する画素の深度(距離)の測定を示し、(C)は空中画像12に対応する画素の深度(距離)の測定を示す。
図21は、重なり検知部60(図8参照)によって実行される処理を説明する図である。
検知例4の場合も、重なり検知センサ56を2台用意し、奥行き方向の距離の情報を取得する。
このため、検知例4では、空中画像11が写っている画素についての深度(距離L31)と、空中画像12が写っている画素についての深度(距離L32)とが別々に測定される。ここでの距離L31は第1の距離の一例であり、距離L32は第2の距離の一例である。
空中画像11と空中画像12の間に重なりがなければ、同じ画素について測定された深度(距離L31、L32)の関係は入れ替わらないはずである。換言すると、全ての画素の位置で、距離L31は距離L32よりも長いはずである。すなわち、L31>L32を満たすはずである。
その後、重なり検知部60は、2台の重なり検知センサ56を用いて空中画像11をステレオ撮影し、画像内の各画素の深度(距離L31)を測定する(ステップ32)。
その後、重なり検知部60は、2台の重なり検知センサ56を用いて空中画像12をステレオ撮影し、画像内の各画素の深度(距離L32)を測定する(ステップ34)。
距離L31と距離L32が求まると、重なり検知部60は、同じ画素に対応する距離L31と距離L32に逆転があるか否かを判定する(ステップ35)。
ステップ35で肯定結果が得られた場合、重なり検知部60は、報知デバイス57(図8参照)を通じて重なりの検知を報知する(ステップ36)。
一方、ステップ35で否定結果が得られた場合、重なり検知部60は、報知を行うことなく処理を終了する。もっとも、重なりがない旨の通知を行ってもよい。
この報知により、作業者による作業が促される。また、作業中における調整にも使用できる。
以下では、重なりが検知された場合に実行される処理の例を説明する。なお、管理者が手動によって重なりを解消する場合にも同様の対応が可能である。
重なり低減部61(図8参照)による重なりの低減例1を図22〜図25を用いて説明する。
図22は、空中画像11と空中画像12の交差を解消する手法の一例を説明する図である。(A)は初期状態を示し、(B)は平行移動による解消の例を示す。
図23は、空中画像11と空中画像12の交差を解消する手法の他の例を説明する図である。(A)は初期状態を示し、(B)は平行移動による解消の例を示す。
図24は、重なり低減部61によって実行される処理を説明する図である。
図25は、空中画像11を平行移動させる手法を説明する図である。
図22に示す例では、空中画像12が形成される空間内の高さは変えずに、床面(XY平面)に対して平行に移動させることで、重なりを解消させている。図22では、空中画像12をX軸の方向に平行移動させているが、移動の方向は任意である。
図23に示す例では、床面(XY面)内における空中画像12の位置を変えずに、高さ方向に平行移動させている。図23では、空中画像12をZ軸方向(上向き)に平行移動させているが、下向きに移動させてもよい。
次に、重なり低減部61は、重なりを解消するように、一方の空中画像(例えば空中画像12)を平行に移動する(ステップ42)。移動の方向は、取得された情報に基づいて決定される。
続いて、重なり低減部61は、移動によって重なりが無くなったか否かを判定する(ステップ43)。
一方、ステップ43で肯定結果が得られた場合(重なりが無くなった場合)、重なり低減部61は、平行移動を終了する(ステップ44)。
図24の場合、平行移動の対象は、空中画像11及び12のうちの一方であるが、両方を互いに遠ざかる方向に移動させてもよい。
また、図24の場合、空中画像11と空中画像12の重なりが無くなるまで移動を継続しているが、初期状態よりも重なりが低減された段階で制御を停止してもよい。換言すると、重なりが低減されれば、重なりが無くなる前に制御を停止してもよい。
この例の場合、不図示の移動機構を用いて、表示デバイス41と光学プレート42を一体的に平行移動させる。ここでの移動機構には、例えば一軸アクチュエータを使用する。ここで、表示デバイス41と光学プレート42は、案内機構に沿うように一体的に移動される。また、移動の量や移動後の位置は、不図示の位置検出センサによって検知する。
重なり低減部61(図8参照)による重なりの低減例2を図26〜図28を用いて説明する。
図26は、空中画像11と空中画像12の交差を解消する手法の一例を説明する図である。(A)は初期状態を示し、(B)は回転移動による解消の例を示す。
図27は、重なり低減部61によって実行される処理を説明する図である。
図28は、空中画像11を回転移動させる手法を説明する図である。
図26に示す例では、Z軸に対して空中画像12を反時計周りに回転移動し、重なりを解消させている。図26では、空中画像12を反時計回りに回転移動させているが、時計周りに回転移動させてもよい。
次に、重なり低減部61は、重なりを解消するように、一方の空中画像(例えば空中画像12)を回転移動する(ステップ52)。回転移動の方向は、取得された情報に基づいて決定される。
続いて、重なり低減部61は、回転移動によって重なりが無くなったか否かを判定する(ステップ53)。
一方、ステップ53で肯定結果が得られた場合(重なりが無くなった場合)、重なり低減部61は、回転移動を終了する(ステップ54)。
図27の場合、回転移動の対象は、空中画像11及び12のうちの一方であるが、両方を互いに遠ざかる方向に回転移動させてもよい。
また、図27の場合も、空中画像11と空中画像12の重なりが無くなるまで移動を継続しているが、初期状態よりも重なりが低減された段階で制御を停止してもよい。換言すると、重なりが低減されれば、重なりが無くなる前であっても制御を停止してもよい。
この例の場合、不図示の回転機構を用いて、表示デバイス41と光学プレート42を一体的に回転移動させる。ここでの回転機構には、例えばモータを使用する。ここで、表示デバイス41と光学プレート42は、回転軸の周りに一体的に回転移動される。また、回転の量や回転の向きは、不図示の位置検出センサによって検知する。因みに、空中画像11及び12に与える回転の向きによっては、光学プレート42だけを回転させることも可能である。
重なり低減部61(図8参照)による重なりの低減例3を図29〜図30を用いて説明する。
図29は、空中画像11と空中画像12の交差を解消する手法の一例を説明する図である。(A)は初期状態を示し、(B)は寸法の縮小による解消の例を示す。
図30は、重なり低減部61によって実行される処理を説明する図である。
図29に示す例では、空中画像12の画像中心が不動点として寸法を縮小し、重なりを解消させている。
次に、重なり低減部61は、重なりを解消するように、一方の空中画像(例えば空中画像12)の寸法を縮小する(ステップ62)。本実施の形態では、寸法を対角方向の長さで規定する。
続いて、重なり低減部61は、寸法の縮小によって重なりが無くなったか否かを判定する(ステップ63)。
一方、ステップ63で肯定結果が得られた場合(重なりが無くなった場合)、重なり低減部61は、回転移動を終了する(ステップ64)。
図30の場合、寸法の縮小は、空中画像11及び12のうちの一方であるが、両方の寸法を縮小させてもよい。
また、図30の場合も、空中画像11と空中画像12の重なりが無くなるまで寸法の縮小を継続しているが、初期状態よりも重なりが低減されていれば、重なりが無くなる前に制御を停止してもよい。
以下では、実施の形態2について説明する。
実施の形態1においては、空中画像11及び12の重なりを検知の対象としているが、実施の形態2の場合には、空中画像形成装置31及び32やその構成部品の取り付け位置のずれを検知の対象とする。
従って、空中画像形成システム1(図1参照)の概略構成は実施の形態1と共通である。従って、実施の形態2に係る空中画像形成システム1も、空中画像11(図1参照)を形成する空中画像形成装置31(図1参照)と、空中画像12(図1参照)を形成する空中画像形成装置32(図1参照)と、重なり検知装置33(図1参照)とで構成される。
図31には、図7との対応部分に対応する符号を付して示している。
本実施の形態に係る重なり検知装置33では、重なり検知センサ56(図7参照)に代えて位置ずれ検知センサ70及び71を配置する。ここで、位置ずれ検知センサ70は、空中画像形成装置31を取り付ける台座側、又は、空中画像形成装置31の内部に設けられている。また、位置ずれ検知センサ71は、空中画像形成装置32を取り付ける台座側、又は、空中画像形成装置32の内部に設けられている。
図32に示す機能構成は、CPU51によるプログラムの実行を通じて実現される。
CPU51は、位置ずれ検知センサ70の出力信号に基づいて空中画像11(図1参照)を形成する空中画像形成装置31(図1参照)の取り付け位置のずれやその構成部品の取り付け位置のずれを検知する位置ずれ検知部80と、位置ずれ検知センサ71の出力信号に基づいて空中画像12(図1参照)を形成する空中画像形成装置32(図1参照)の取り付け位置のずれやその構成部品の取り付け位置のずれを検知する位置ずれ検知部81と、検知された位置ずれの情報に基づいて空中画像11と空中画像12の重なりを検知する重なり検知部82と、検知された重なりに応じて空中画像形成装置31及び空中画像形成装置32の両方又は一方を重なりが低減されるように制御する重なり低減部61として機能する。
ここでの重なり検知部82は検知手段の一例であり、重なり低減部61は低減手段の一例である。
位置ずれ検知部81は、空中画像形成装置32の取り付け位置のずれと、空中画像形成装置32の内部構造のうち空中画像12の形成位置に影響を当たる部材の取り付け位置のずれの両方又は一方に関する情報を取得する。
重なり検知部82は、位置ずれ検知部80及び81から与えられるずれに関する情報に基づいて、空中画像11が形成される空間座標と空中画像12が形成される空間座標に重なりが生じるか否かを検知する。重なりが検知された場合、重なり検知部82は、報知デバイス57と重なり低減部61に重なりの検知を通知する。
まず、重なり検知部82は、位置ずれ検知部80から空中画像形成装置31に関する位置ずれの情報を取得する(ステップ71)。位置ずれの情報には、装置全体としての位置ずれ、空中画像11が形成される位置に影響を与える部品の位置ずれがある。
次に、重なり検知部82は、取得した位置ずれの情報に基づき、空中画像11が形成される空間内の座標を推定する(ステップ72)。
重なり検知部82は、このずれ量Δ1に基づいて、空間内における空中画像11の位置(座標)を推定する。
ここでの基準位置は、初期の状態の一例であるとともに設計値の一例でもある。初期の状態とは、例えば調整が済んだ時点での状態で与えられる。従って、必ずしも設計値とは一致しない。また、ずれ量Δ1は、変化の情報の一例である。
重なり検知部82は、このずれ量Δ2に基づいて、空間内における空中画像11の位置(座標)を推定する。ここでの基準位置は、設計値から特定される位置の一例である。ここでの基準位置は、取り付け位置の一例である。また、ずれ量Δ2は、変化の情報の一例である。
重なり検知部82は、この回転量Φ2に基づいて、空間内における空中画像11の位置(座標)を推定する。ここでの基準位置は、設計値から特定される位置の一例である。ここでの基準位置は、取り付け位置の一例である。また、回転量Φ2は、変化の情報の一例である。
次に、重なり検知部82は、空中画像形成装置32に関する位置ずれの情報を取得し(ステップ73)、取得した位置ずれの情報に基づいて、空中画像12が形成される空間内の座標を推定する(ステップ74)。
ステップ75で肯定結果が得られた場合、重なり検知部82は、報知デバイス57(図32参照)を通じて重なりの検知を報知する(ステップ76)。
一方、ステップ75で否定結果が得られた場合、重なり検知部82は、報知を行うことなく処理を終了する。もっとも、重なりがない旨の通知を行ってもよい。
以上、本発明の実施の形態について説明したが、本発明の技術的範囲は上述の実施の形態に記載の範囲に限定されない。上述の実施の形態に、種々の変更又は改良を加えたものも、本発明の技術的範囲に含まれることは、特許請求の範囲の記載から明らかである。
前述の実施の形態では、重なり検知センサ56として撮像カメラを用いているが、空中画像11と空中画像12の重なりを検知できれば撮像カメラに限る必要はない。
Claims (16)
- 空気中に形成される第1の像と空気中で形成される第2の像との重なりを検知する検知手段
を有する情報処理装置。 - 前記検知手段は、撮像手段で撮像された画像を処理して重なりを検知する、請求項1に記載の情報処理装置。
- 前記検知手段は、前記第1の像の少なくとも一部が前記第2の像を透過して撮像される場合、又は、前記第2の像の少なくとも一部が前記第1の像を透過して撮像される場合、当該第1の像と当該第2の像が重なっていると検知する、請求項2に記載の情報処理装置。
- 前記検知手段は、前記第1の像と前記第2の像の両方を表示した状態で撮像された前記画像内での表示面までの距離が、当該画像内の一方向について単調に変化しないとき、当該第1の像と当該第2の像が重なっていると検知する、請求項2に記載の情報処理装置。
- 前記検知手段は、前記第1の像を表示した状態で撮像された前記画像内での表示面までの第1の距離と、前記第2の像を表示した状態で撮像された前記画像内での表示面までの第2の距離との遠近の関係が前記画像内のある地点で入れ替わるとき、当該第1の像と当該第2の像が重なっていると検知する、請求項2に記載の情報処理装置。
- 前記重なりの検知を報知する報知手段を更に有する、請求項1に記載の情報処理装置。
- 前記重なりが検知された場合、前記第1の像を形成する第1の像形成手段及び前記第2の像を形成する第2の像形成手段の両方又は一方を制御して当該第1の像と当該第2の像の重なりを低減させる低減手段を更に有する、請求項1に記載の情報処理装置。
- 前記低減手段は、前記第1の像及び前記第2の像の両方又は一方の表示面の床面に対する角度を変更する、請求項7に記載の情報処理装置。
- 前記低減手段は、前記第1の像及び前記第2の像の両方又は一方を、表示面の床面に対する角度を保ったまま移動させる、請求項7に記載の情報処理装置。
- 前記低減手段は、前記第1の像及び前記第2の像の両方又は一方の表示上の大きさを小さくする、請求項7に記載の情報処理装置。
- 前記検知手段は、前記第1の像を形成する第1の像形成手段の取り付け位置の変化の情報と、前記第2の像を形成する第2の像形成手段の取り付け位置の変化の情報とに基づいて、当該第1の像と当該第2の像の重なりを検知する、請求項1に記載の情報処理装置。
- 前記変化の情報は、初期の状態に対する変化の方向である、請求項11に記載の情報処理装置。
- 前記変化の情報は、設計値に対する変化の方向である、請求項11に記載の情報処理装置。
- 前記検知手段は、前記第1の像を形成する第1の像形成手段を構成する光学部品の取り付け位置の変化の情報と、前記第2の像を形成する第2の像形成手段を構成する光学部品の取り付け位置の変化の情報とに基づいて、当該第1の像と当該第2の像の重なりを検知する、請求項1に記載の情報処理装置。
- 空気中で第1の像を形成する第1の像形成手段と、
空気中で第2の像を形成する第2の像形成手段と、
前記第1の像と前記第2の像の重なりを検知する検知装置と
を有する情報処理システム。 - コンピュータを、
空気中に形成される第1の像と空気中に形成される第2の像との重なりを検知する検知手段
として機能させるプログラム。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018009006A JP7114909B2 (ja) | 2018-01-23 | 2018-01-23 | 情報処理装置、情報処理システム及びプログラム |
| US16/051,810 US11100674B2 (en) | 2018-01-23 | 2018-08-01 | Information processing apparatus, information processing system, and non-transitory computer readable medium |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018009006A JP7114909B2 (ja) | 2018-01-23 | 2018-01-23 | 情報処理装置、情報処理システム及びプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2019129378A true JP2019129378A (ja) | 2019-08-01 |
| JP7114909B2 JP7114909B2 (ja) | 2022-08-09 |
Family
ID=67300096
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2018009006A Active JP7114909B2 (ja) | 2018-01-23 | 2018-01-23 | 情報処理装置、情報処理システム及びプログラム |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US11100674B2 (ja) |
| JP (1) | JP7114909B2 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2024218977A1 (ja) * | 2023-04-21 | 2024-10-24 | 日本電信電話株式会社 | 空中像表示システム、表示制御装置、方法およびプログラム |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2017090464A1 (ja) * | 2015-11-25 | 2017-06-01 | 日本精機株式会社 | ヘッドアップディスプレイ |
| JP2017156469A (ja) * | 2016-02-29 | 2017-09-07 | 株式会社ニコン | 結像光学系、光学系、表示装置、電子機器、表示方法およびプログラム |
| WO2017221812A1 (ja) * | 2016-06-20 | 2017-12-28 | コニカミノルタ株式会社 | 反射型空中結像素子、空中映像表示装置及びこれらの製造方法 |
| WO2018003860A1 (ja) * | 2016-06-28 | 2018-01-04 | 株式会社ニコン | 表示装置、プログラム、表示方法および制御装置 |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2013109421A (ja) | 2011-11-17 | 2013-06-06 | Toshiba Corp | 電子機器、電子機器の制御方法、電子機器の制御プログラム |
| JP5696908B2 (ja) | 2013-02-15 | 2015-04-08 | コニカミノルタ株式会社 | 操作表示システム |
| JP6299124B2 (ja) * | 2013-09-13 | 2018-03-28 | 株式会社リコー | 投影システム、画像処理装置、投影方法およびプログラム |
| JP2016224172A (ja) * | 2015-05-28 | 2016-12-28 | 株式会社リコー | 投影システム、画像処理装置、校正方法およびプログラム |
| JP2017062709A (ja) | 2015-09-25 | 2017-03-30 | 新光商事株式会社 | ジェスチャー操作装置 |
| JP6428665B2 (ja) * | 2016-02-10 | 2018-11-28 | 三菱電機株式会社 | 空中映像表示装置 |
-
2018
- 2018-01-23 JP JP2018009006A patent/JP7114909B2/ja active Active
- 2018-08-01 US US16/051,810 patent/US11100674B2/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2017090464A1 (ja) * | 2015-11-25 | 2017-06-01 | 日本精機株式会社 | ヘッドアップディスプレイ |
| JP2017156469A (ja) * | 2016-02-29 | 2017-09-07 | 株式会社ニコン | 結像光学系、光学系、表示装置、電子機器、表示方法およびプログラム |
| WO2017221812A1 (ja) * | 2016-06-20 | 2017-12-28 | コニカミノルタ株式会社 | 反射型空中結像素子、空中映像表示装置及びこれらの製造方法 |
| WO2018003860A1 (ja) * | 2016-06-28 | 2018-01-04 | 株式会社ニコン | 表示装置、プログラム、表示方法および制御装置 |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2024218977A1 (ja) * | 2023-04-21 | 2024-10-24 | 日本電信電話株式会社 | 空中像表示システム、表示制御装置、方法およびプログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| US20190228542A1 (en) | 2019-07-25 |
| JP7114909B2 (ja) | 2022-08-09 |
| US11100674B2 (en) | 2021-08-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| AU2021200905B2 (en) | Synchronized spinning lidar and rolling shutter camera system | |
| EP3394600B1 (en) | System for feedback control in scanning projectors | |
| US9354494B2 (en) | Projection type image display apparatus and adjusting method | |
| US20160188123A1 (en) | Projection device | |
| CN107407727A (zh) | 用于光检测与测距光学对准的方法与系统 | |
| US11475583B2 (en) | Depth sensing systems and methods | |
| CN104503093B (zh) | 一种用于生成空间渐变过渡视图的光线互补拼接技术及基于该技术的三维显示系统 | |
| JP2022015633A (ja) | 測量装置 | |
| US12265235B2 (en) | Detection apparatus, detection method, and spatial projection apparatus | |
| JP2019128724A (ja) | 情報処理装置、情報処理システム及びプログラム | |
| TW201804366A (zh) | 圖像處理裝置、相關的深度估計系統及深度估計方法 | |
| JP2016103575A (ja) | レーザ光源装置 | |
| JP7114909B2 (ja) | 情報処理装置、情報処理システム及びプログラム | |
| JP3955582B2 (ja) | 表示装置及び撮像装置 | |
| US10789730B2 (en) | Method and apparatus for monitoring a position | |
| JP2019128723A (ja) | 情報処理装置、情報処理システム及びプログラム | |
| JP2017158037A (ja) | 投影装置及び投影システム | |
| JP2009260958A (ja) | リアプロジェクションのための自動幾何学的補正 | |
| JP2007304261A (ja) | プロジェクタ表示位置調整装置 | |
| JP2009239591A (ja) | 立体投影装置 | |
| JP2011107406A (ja) | 立体画像表示装置 | |
| JP2023003979A (ja) | 空中映像表示装置 | |
| HK40002993B (en) | Depth sensing systems and methods | |
| JP2020096243A (ja) | 投影装置、投影システム、及び、投影方法 | |
| JP2018093436A (ja) | 撮像システム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201218 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20211216 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211221 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220209 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220628 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220711 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7114909 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |