[go: up one dir, main page]

JP6280011B2 - 領域リクエストに基づいたデータ低減処理を行う画像送受信システム及び方法 - Google Patents

領域リクエストに基づいたデータ低減処理を行う画像送受信システム及び方法 Download PDF

Info

Publication number
JP6280011B2
JP6280011B2 JP2014197353A JP2014197353A JP6280011B2 JP 6280011 B2 JP6280011 B2 JP 6280011B2 JP 2014197353 A JP2014197353 A JP 2014197353A JP 2014197353 A JP2014197353 A JP 2014197353A JP 6280011 B2 JP6280011 B2 JP 6280011B2
Authority
JP
Japan
Prior art keywords
image
area
request
mask
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014197353A
Other languages
English (en)
Other versions
JP2016072686A (ja
Inventor
恒 河井
恒 河井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2014197353A priority Critical patent/JP6280011B2/ja
Publication of JP2016072686A publication Critical patent/JP2016072686A/ja
Application granted granted Critical
Publication of JP6280011B2 publication Critical patent/JP6280011B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、動画像や静止画像といった画像の情報を、無線ネットワーク等の伝送路を介して伝送する技術に関する。
現在、カメラ付き携帯端末や通信機能付きデジタルカメラ、さらにはリモートカメラ等の普及により、様々な場面で動画像や静止画像といった画像を、無線等の通信手段を介して取得し利用する機会が増えている。また、被災現場対応型のロボットや、会議や展示会を中継可能なロボットについても種々の形式のものが提案されている。これらのロボットはカメラを備えており、撮影した画像の情報を無線LAN(Local Area Network)等を介して視聴者に提供することができる。
一般に、遠隔操作されるロボットやリモートカメラから画像を伝送する場合、無線LAN等の無線伝送路が使用される場合が多い。ここで、安全な操作や詳細な観察を行うことを目的として、広い視野に対応する画像範囲と高い画像品質とがともに必要とされる場面も少なくない。しかしながら、無線伝送路では伝送レートの上限がそれほど高くないので、結局、広い視野及び高い画像品質の一方又は両方を犠牲にせざるを得ないことも多い。
この問題に対し、例えば特許文献1では、遠隔操作ロボットから映像データを伝送する際、移動方向や移動速度といった移動状態に応じて画面中における重要領域を決定し、当該重要領域以外の領域についてデータの圧縮率を上げることによって、伝送データ量を削減する技術を提案している。
さらに、特許文献2では、映像復号装置から改善要求データとして送信される、画質を改善させたい領域についての集計結果において、得票数が多い領域ほど量子化パラメータ値を小さく設定した符号化パラメータを生成して、符号化処理を制御する技術が提案されている。
特開2009−118072号公報 特開2014−57128号公報
しかしながら、特許文献1及び2に記載されたような従来技術では、画像を見る者によって要求された又は所望された画像範囲や画質を有する画像を提供することが、尚、困難である場合が生じる。
例えば、特許文献1に記載の技術では、ロボットの移動状態を参照してロボットの操作上で重要な領域を検出し、それ以外の領域についての画質を下げることによって伝送データ量を低減している。しかしながら、ロボットから取得された画像を見るのはロボットの操作者1名とは限らない。例えば、操作者の他に多数の観察者(画像を見る者)が存在し、各自が自身専用のスマートフォン又はウェアラブル端末を携帯又は装着し、ロボットから送信された動画像や静止画像といった画像における異なる領域を観察する状況も大いに想定される。
この状況において、特許文献1に記載の技術を適用することを考えると、操作者を含む複数の観察者の見る画像領域についての単純な和を求めたとしても、各自の希望に合致した適切な重要領域を決めた上で伝送データ量の低減を図ることは明らかに困難である。
一方、特許文献2に記載の技術は、1つの画像を複数の視聴者(観察者)に送信することを想定している。しかしながら、ここでの送信は不特定多数に向けた放送である。そのため、全ての視聴者からの画質改善要求は平等に取り扱われ、高画質で符号化される領域は、結局多数決によって決定される。
従って、特許文献2に記載の技術を例えば遠隔操作ロボットに適用したとすると、例えばロボットの進行方向と直交する方向にある特定の対象を見ることを希望する視聴者が多数を占める状況では、ロボット操縦者が進行方向の画像を十分に見ることができなかったり、観察希望の少ない対象を見たい視聴者が当該対象を観察することができなかったりする弊害が生じ得る。
そこで、本発明は、撮影される画像の少なくとも一部の領域に対するリクエストに対応した形で、撮影した画像の情報を、画像を伝送する伝送路における伝送レートの制限内で確実に伝送させることが可能なシステム及び方法を提供することを目的とする。
本発明によれば、撮影した画像の情報を送信可能な画像送信システムと、当該画像の情報を受信可能な画像受信システムとを備えた画像送受信システムであって、
本画像受信システムは、
撮影される画像の少なくとも一部の領域に対するリクエストである1つ又は複数の領域リクエストを生成する領域リクエスト管理手段と、
当該領域リクエストを画像送信システム宛てに送信する第1の通信制御手段と
を有し、
本画像送信システムは、
1つ又は複数の撮影部と、
当該画像の情報の送信におけるビットレートを計測するビットレート計測手段と、
受信された当該領域リクエストにおいてリクエストされた領域以外の画像部分のデータをより低率で通過させるマスクであって、計測された当該ビットレートに基づいて、ビットレートが所定値又は所定範囲内となるようにマスク値をスケーリングしたマスクを生成するマスク生成手段と、
撮影部から出力された画像信号に基づいて生成された画像情報に対し、生成されたマスクを用いて画像データ量を低減させるマスク処理を行うマスク処理手段と、
マスク処理された画像情報に基づいて生成された画像データを画像受信システム宛てに送信する第2の通信制御手段と
を有し、
本画像受信システムは、
撮影された画像の少なくとも一部を表示する1つ又は複数の表示部と、
受信された当該画像データに基づいて生成された撮影画像情報を、当該領域リクエストに応じて当該表示部に分配又は出力する撮影画像分配手段と
を更に有する画像送受信システムが提供される。
この本発明の画像送受信システムの一実施形態として、
画像送信システムは、撮影部の撮影位置及び撮影向きの一方又は両方を変更する駆動部を更に有し、
画像受信システムは、1つ又は複数の表示部のうちの少なくとも1つを視認しつつ実施可能な操作であって駆動部の駆動を制御するための操作を受け付け、当該操作に基づいて、画像送信システム宛てに送信する操作制御信号を生成する操作制御部を更に有し、
領域リクエスト管理手段は、駆動部の操作に係る撮影される画像内での視野領域の取得をリクエストする視野領域リクエストを生成し、
マスク生成手段は、受信された当該視野領域リクエストによってリクエストされた視野領域の画像部分のデータをより高率で又は最も高い優先度をもって通過させるマスクを生成することも好ましい。
また、本発明の画像送受信システムの他の実施形態として、
領域リクエスト管理手段は、生成する領域リクエストに対し、マスクの生成において採用される優先度を示す優先度情報を付与し、
マスク生成手段は、付与された優先度に基づいて、受信された当該領域リクエストをマスクの生成において採用するか否かを決定し、または、より高い優先度の付与された領域リクエストによってリクエストされた領域の画像部分のデータをより高率で通過させるマスクを生成することも好ましい。
さらに、本発明の画像送受信システムの更なる他の実施形態として、
画像送信システムは、撮影部の撮影位置及び撮影向きの一方又は両方を変更する駆動部を更に有し、
画像受信システムは、1つ又は複数の表示部のうちの少なくとも1つを視認しつつ実施可能な操作であって駆動部の駆動を制御するための操作を受け付け、当該操作に基づいて、画像送信システム宛てに送信する操作制御信号を生成する操作制御部を更に有し、
マスク生成手段は、受信された当該領域リクエストに基づいて、所定の度合い以上にリクエストが重畳した領域であるリクエスト重畳領域の画像部分のデータをより高率で通過させるマスクを生成し、
撮影画像分配手段は、生成された撮影画像情報のうち少なくとも当該リクエスト重畳領域の画像部分の情報を、駆動部の操作の際に視認される表示部に配信又は出力することも好ましい。
また、本発明の画像送受信システムの更なる他の実施形態として、
画像送信システムは、撮影部の撮影位置及び撮影向きの一方又は両方を変更する駆動部を更に有し、
画像受信システムは、1つ又は複数の表示部のうちの少なくとも1つを視認しつつ実施可能な操作であって駆動部の駆動を制御するための操作を受け付け、当該操作に基づいて、画像送信システム宛てに送信する操作制御信号を生成する操作制御部を更に有し、
撮影画像分配手段は、領域リクエスト管理手段で生成された当該領域リクエストに基づいて、所定の度合い以上にリクエストが重畳した領域であるリクエスト重畳領域の画像部分を決定し、生成された撮影画像情報のうち少なくとも当該画像部分が区別、明示又は強調された情報を、駆動部の操作の際に視認される表示部に配信又は出力することも好ましい。
本発明によれば、また、撮影した画像の情報を送信可能な画像送信システムと、当該画像の情報を受信可能な画像受信システムとを備えた画像送受信システムであって、
本画像受信システムは、
撮影される画像の少なくとも一部の領域に対するリクエストである1つ又は複数の領域リクエストを生成する領域リクエスト管理手段と、
当該領域リクエストを画像送信システム宛てに送信する第1の通信制御手段と
を有し、
本画像送信システムは、
1つ又は複数の撮影部と、
当該撮影部の撮影位置及び撮影向きの一方又は両方を変更する駆動部と、
受信された当該領域リクエストに基づいて、リクエストされた領域以外の画像部分のデータをより低率で通過させるマスクを生成するマスク生成手段と、
当該撮影部から出力された画像信号に基づいて生成された画像情報に対し、生成されたマスクを用いて画像データ量を低減させるマスク処理を行うマスク処理手段と、
マスク処理された画像情報に基づいて生成された画像データを画像受信システム宛てに送信する第2の通信制御手段と
を有し、
本画像受信システムは、
撮影された画像の少なくとも一部を表示する1つ又は複数の表示部と、
1つ又は複数の表示部のうちの少なくとも1つを視認しつつ実施可能な操作であって当該駆動部の駆動を制御するための操作を受け付け、当該操作に基づいて、画像送信システム宛てに送信する操作制御信号を生成する操作制御部と、
受信された当該画像データに基づいて生成された撮影画像情報を、当該領域リクエストに応じて当該表示部に分配又は出力する撮影画像分配手段であって、領域リクエスト管理手段で生成された当該領域リクエストに基づいて、所定の度合い以上にリクエストが重畳した領域であるリクエスト重畳領域の画像部分を決定し、生成された撮影画像情報のうち少なくとも当該画像部分が区別、明示又は強調された情報を、当該駆動部の操作の際に視認される表示部に配信又は出力する撮影画像分配手段と
を更に有する画像送受信システムが提供される。
また、本発明の画像送受信システムの更なる他の実施形態として、マスク処理手段は、当該画像情報に対し、マスク処理として、生成されたマスクのマスク値に応じた、空間方向の低域濾波処理、時間方向の低域濾波処理及び減色処理のうちの1つ又は複数の組合せを行うことも好ましい。
さらに、本発明の画像送受信システムとして、画像送信システムは、駆動可能なロボットであり、画像受信システムは、このロボットの駆動を制御可能な遠隔操縦端末を含むことも好ましい。また、画像送信システムは、ネットワークに接続された複数台の撮影部としてのカメラを含むカメラシステムであり、画像受信システムは、複数台の表示部としてのモニタディスプレイを含むモニタシステムであることも好ましい。
本発明によれば、また、撮影した画像の情報を送信可能な画像送信システムと、当該画像の情報を受信可能な画像受信システムとを備えた画像送受信システムにおける画像の送受信方法であって、
画像受信システムが、撮影される画像の少なくとも一部の領域に対するリクエストである1つ又は複数の領域リクエストを生成し、当該領域リクエストを画像送信システム宛てに送信する第1のステップと、
画像送信システムが、当該画像の情報の送信におけるビットレートを計測し、受信された当該領域リクエストにおいてリクエストされた領域以外の画像部分のデータをより低率で通過させるマスクであって、計測された当該ビットレートに基づいて、ビットレートが所定値又は所定範囲内となるようにマスク値をスケーリングしたマスクを生成する第2のステップと、
画像送信システムが、当該システム内に設けられた1つ又は複数の撮影部から出力された画像信号に基づいて生成された画像情報に対し、生成されたマスクを用いて画像データ量を低減させるマスク処理を行う第3のステップと、
画像送信システムが、マスク処理された画像情報に基づいて生成された画像データを画像受信システム宛てに送信する第4のステップと、
画像受信システムが、受信された当該画像データに基づいて生成された撮影画像情報を、当該領域リクエストに応じて、当該システム内に設けられた表示部に分配又は出力する第5のステップと
を有する画像送受信方法が提供される。
本発明の画像送受信システム及び方法によれば、撮影される画像の少なくとも一部の領域に対するリクエストに対応した形で、撮影した画像の情報を、画像を伝送する伝送路における伝送レートの制限内で確実に伝送させることができる。
本発明による画像送受信システムの一実施形態を示す概略図、及び本発明による画像送信システム及び画像受信システムの一実施形態における機能構成を示す機能ブロック図である。 領域リクエストに基づいてマスク値を決定する方法の一実施形態を示すマスクの模式図である。 領域リクエストに基づいてマスク値を決定する方法の他の実施形態を示すマスクの模式図である。 本発明による画像送受信方法におけるマスク生成及びマスク処理の一実施形態を示すフローチャートである。 本発明による画像送受信システムの他の実施形態を示す模式図である。
以下、本発明の実施形態について、図面を用いて詳細に説明する。
[画像送受信システム]
図1は、本発明による画像送受信システムの一実施形態を示す概略図、及び本発明による画像送信システム及び画像受信システムの一実施形態における機能構成を示す機能ブロック図である。
図1に示した実施形態の画像送受信システムは、
(a)撮影した画像の情報を、無線ネットワークを介して送信可能な画像送信システムとしての撮影ロボット1と、
(b)撮影された当該画像の情報を、当該無線ネットワークを介して受信可能な画像受信システム2と
を備えている。ここで、画像受信システム2は、
(b1)画像分配装置20と、
(b2)画像分配装置20と無線通信接続可能である複数の端末21と、
(b3)画像分配装置20と無線通信接続可能である1つの操縦端末22と
を備えている。
撮影ロボット(画像送信システム)1と画像分配装置20(画像受信システム2)との通信接続を担う伝送路である無線ネットワークは、例えばWi−Fi(登録商標)等の無線LAN(Local Area Network)とすることができる。変更態様として、無線ネットワークは、LTE(Long Term Evolution)、WiMAX(Worldwide Interoperability for Microwave Access)又は3G(3rd Generation)等の無線系アクセスネットワークを介し、インターネットを経由して撮影ロボット1と画像分配装置20とを通信接続させるものであってもよい。
いずれにしても、無線ネットワークは、伝送レート(通信速度)に上限を有する伝送データ量の限定された伝送路である。本実施形態では、撮影ロボット1から複数のカメラ101によって撮影された動画像データを、通常の符号化処理を行うだけで単純に伝送させた場合、当該伝送レートの上限が障害となって、リアルタイム性の確保された良好な映像を画像受信システム2に提供することが困難な状況にあるとする。
また、端末21及び操縦端末22は、スマートフォン、タブレット型コンピュータ、ウェアラブル端末、ノート型コンピュータ又はパーソナルコンピュータ(PC)といったユーザインタフェース装置とすることができる。端末21(操縦端末22)は、撮影ロボット1で撮影された画像の情報の少なくとも一部を、画像分配装置20を介して取得し、表示部201(表示部203)に表示させることができる。また、入力インタフェース202(入力インタフェース204)を用いて、後述する領域リクエストを生成するための情報を入力することが可能である。表示部201(表示部203)及び入力インタフェース202(入力インタフェース204)は、例えばタッチパネル・ディスプレイであってもよい。
さらに、操縦端末22は、操作制御部221を有し、撮影ロボット1の駆動部102の駆動を制御することができる。具体的には、撮影ロボット1の位置、向き、移動速度及び進行方向、並びにカメラの向き、高さ、撮影開始、撮影調整、及び撮影終了等のうち少なくとも1つを指示する制御信号を、画像分配装置20を介して撮影ロボット1に送信することができる。ここで、制御信号は、入力インタフェース204を介して行われたコマンド入力操作を受けて操作制御部221で生成される。また、操縦端末22の表示部203には、デフォルトとして撮影ロボット1における進行方向のロボット視野範囲の画像が表示されることも好ましい。
また、端末21及び操縦端末22と画像分配装置20との通信も、例えばWi−Fi(登録商標)等の無線LANを介した無線通信とすることができる。また、Bluetooth(登録商標)等の近距離無線通信とすることも可能である。但し、当然に、端末21及び操縦端末22と画像分配装置20との間を有線で接続して通信することも可能である。尚、端末21及び操縦端末22の台数には、本方式上での制限は存在しない。
以上に説明した画像送信システムと画像受信システムとを備えた本実施形態の画像送受信システムは、1つの画像における複数の注視される領域を、無線ネットワークを介して同時に伝送して画像を見る者(観察者又は視聴者)に分配することができる複数注視領域同時伝送視聴システムとなっている。具体的には、
画像受信システム2(画像分配装置20)は、
(a)撮影される画像の少なくとも一部の領域に対するリクエストである1つ又は複数の「領域リクエスト」を生成して、撮影ロボット(画像送信システム)1宛てに送信し、
撮影ロボット(画像送信システム)1は、
(b)1つ又は複数の撮影部であるカメラ101を有し、
(c)受信された「領域リクエスト」に基づいて、リクエストされた領域以外の画像部分のデータをより低率(より低い通過率)で通過させる「マスク」を生成し、
(d)撮影部から出力された画像信号に基づいて生成された画像情報に対し、生成された「マスク」を用いて画像データ量を低減させるマスク処理を行い、
(e)マスク処理された画像情報に基づいて生成された画像データを画像受信システム宛てに送信する。
ここで、「領域リクエスト」は、撮影される画像の少なくとも一部の領域の位置及び大きさ等を指定し、当該領域の取得を要求するリクエスト情報である。例えば、撮影される画像を小領域に区分し、そのうちの希望する又は必要とする小領域を指定して、要求するリクエスト領域としてもよい。
次いで、画像受信システム2は、
(f)撮影された画像の少なくとも一部を表示する1つ又は複数の表示部201及び203を有し、
(g)受信された画像データに基づいて生成された撮影画像情報を、「領域リクエスト」に応じて表示部201及び203に分配又は出力する。
例えば、端末21及び操縦端末22の各々のユーザは、画像における見ることを要求する領域(例えば興味のある領域や観察すべき領域)を指定する入力操作を行い、この入力情報を受信した画像分配装置20が当該入力情報に応じて「領域リクエスト」を生成する。ここで、撮影ロボット1で生成される「マスク」は、この個々の画像領域に対する要求(リクエスト)を一括して画像情報に反映させることを可能にするのである。その結果、1つのマスク処理によって、個々の「領域リクエスト」の内容が反映された1つの画像データを生成し、この画像データを、無線ネットワークを介して伝送させることにより、当該ネットワークにおける伝送レートの制限に対応することが非常に容易となる。
即ち、本画像送受信システムによれば、撮影される画像の少なくとも一部の領域に対する「領域リクエスト」に対応した形で、撮影した画像の情報を、画像を伝送する伝送路における伝送レートの制限内で確実に伝送させることが可能となるのである。
また、「領域リクエスト」に応じた伝送レートの調整は、「マスク」を使用して一括して実施することができるので、例えばマスク処理の後の符号化処理は、既存の無線通信で使用されてきた回路を使用して実行することができる。
さらに、「マスク」さえ適切に生成すれば、確実且つ良好な画像データの伝送を実施することができるので、「マスク」を生成するアルゴリズムを工夫することによって、様々な利用環境及び用途に好適な画像データの送受信を実現することが可能となる。
因みに、後に詳細に説明を行うが、「マスク」生成アルゴリズムの1つの実施例についての概略を、ここで簡単に説明する。最初に、撮影ロボット1の操縦に必要な視野を画像画面中に設定し、当該視野の一部または全部を含む領域リクエストを最優先で受け付ける。次に、優先順位(優先度)が付与された端末21からの「領域リクエスト」を当該優先順位順に受け付け、さらに、残る「領域リクエスト」を先着順に受け付ける。次いで、画像情報を通過させる小領域の総和が上限に達した時点で、それ以降の「領域リクエスト」を拒絶する。
ここで、受理済みの「領域リクエスト」が取り下げられ、通過可能な画像領域の総面積に余裕が生じた場合、この余裕の範囲内で新たな「領域リクエスト」を受け付ける。また、ロボット1の操縦に必要な視野は、「領域リクエスト」の有無にかかわらず画像情報を通過させる領域としてもよい。優先順位の付与されていない「領域リクエスト」を選定する場合、単純に先着順とするのではなく、重畳する小領域を共有する「領域リクエスト」を優先して選んでもよい。
[画像送信システム:撮影ロボット]
次いで、同じく図1に示した機能ブロック図を用いて、撮影ロボット1の機能構成を説明する。
図1によれば、撮影ロボット1は、1つ又は複数のカメラ101と、駆動部102と、第2通信インタフェース103と、センサ部104と、プロセッサ・メモリとを有する。ここで、プロセッサ・メモリは、撮影ロボット1のコンピュータを機能させるプログラムを実行することによって、画像送信機能を実現させる。
さらに、プロセッサ・メモリは、機能構成部として、リクエスト領域重畳判定部111aを含むマスク生成部111と、マスク処理部112と、ビットレート計測部113aを含む符号化部113と、画像合成部114と、速度・向き判定部115と、第2通信制御部116とを有する。尚、図1における撮影ロボット1の各機能構成部を矢印で接続した処理の流れは、本発明による画像送受信方法の一実施形態としても理解される。
1つ又は複数のカメラ101は、例えば、CCDイメージセンサ、CMOSイメージセンサ等の固体撮像素子を備えた可視光、近赤外線又は赤外線対応の撮影部である。
駆動部102は、カメラ101における撮影位置及び撮影向きの一方又は両方を変更することができる可動機構である。ここで、撮影ロボット1自体を移動、回転及び/又は変形させて当該変更を実現してもよく、カメラ101の位置、向きや高さ等を変化させて当該変更を実現してもよい。
第2通信インタフェース103は、撮影ロボット1と画像分配装置20との通信接続を担う無線ネットワークに接続され、マスク処理を施された画像データを送信したり、「領域リクエスト」情報や駆動部102に対する制御信号を受信したりするインタフェースである。
同じく図1によれば、マスク生成部111は、受信された「領域リクエスト」に基づいて、リクエストされた領域以外の画像部分のデータをより低率で通過させる「マスク」を生成する。この際、下記のような実施形態(a)〜(e)の1つ又は複数をもって適切な「マスク」を生成することも好ましい。即ち、マスク生成部111は、
(a)受信された「視野領域リクエスト」によってリクエストされた視野領域の画像部分のデータをより高率(より高い通過率)で又は最も高い優先度をもって通過させる「マスク」を生成することも好ましい。
ここで、「視野領域リクエスト」は、操縦端末22のユーザが、撮影ロボット1の操縦の際に必要となる、例えば進行方向の視認領域である視野に相当する画像領域の取得を要求する際に生成されるリクエストである。
また、マスク生成部111は、
(b)付与された優先度に基づいて、受信された「領域リクエスト」を「マスク」の生成において採用するか否かを決定し、または、より高い優先度の付与された「領域リクエスト」によってリクエストされた領域の画像部分のデータをより高率で通過させる「マスク」を生成することも好ましい。
ここで、「領域リクエスト」の優先度は、端末21及び操縦端末22の個々に予め割り当てられた優先順位とすることができる。または、撮影画像の中心位置により近い領域をリクエストする「領域リクエスト」の優先度をより高い値にする、といったように、リクエストされる領域の相対位置や大きさに基づいて優先度の値を決定することも可能である。このように、複数の端末からの「領域リクエスト」が競合した場合でも、優先度を利用して調停を行い、データ量を低減するマスク処理対象とすべき画像中の領域を適切に決定することができる。
さらに、マスク生成部111は、
(c)受信された「領域リクエスト」に基づいて、所定の度合い以上にリクエストが重畳した領域であるリクエスト重畳領域の画像部分のデータをより高率で通過させる「マスク」を生成することも好ましい。
ここで、リクエスト重畳領域は、マスク生成部111内のリクエスト領域重畳判定部111aで決定される。例えば、10個の「領域リクエスト」を受け付けた際に、これらの「領域リクエスト」の要求した領域のうち、5個以上が重畳した領域をリクエスト重畳領域とすることができる。
また、マスク生成部111は、
(d)後述するビットレート計測部113aで計測されたビットレートに基づいて、ビットレートが所定値又は所定範囲内となるように、生成する「マスク」におけるマスク値をスケーリングすることも好ましい。
尚、この実施形態の変更態様として、マスク生成部111は画像情報を通過させる領域(マスク値がゼロでない領域)である通過領域の全体の面積が所定の面積閾値以下となるようにマスク値をスケーリングすることも好ましい。また、さらに、高解像度のまま画像情報を通過させる領域(マスク値が1である領域)の全体の面積が所定の面積閾値以下となるようにマスク値をスケーリングすることも好ましい。
さらに、マスク生成部111は、
(e)撮影ロボット1の移動速度や進行方向の情報に基づいて、操縦に必要となる画像領域を決定し、当該画像領域を他の「領域リクエスト」の要求する領域よりも優先して「マスク」のマスク値に反映させることも好ましい。
ここで、操縦に必要となる画像領域は、例えば、ロボット1の進行方向の視野範囲に相当する領域とすることができる。このうち、視野範囲に相当する領域の面積は、ロボット1の移動速度が高いほど小さくなるように調整されることも好ましい。これにより、操縦のためにまさに必要となる画像情報だけが高解像度で伝送され、効率良く表示可能となる。このように、本実施形態(e)によれば、例えば、撮影ロボット1の進行方向を中心とする視野領域を無条件に送信対象の領域とするか、又は当該視野領域を含むリクエストされた領域を優先的に送信対象の領域として採用することも可能となる。
また、実施形態(e)において、移動速度や進行方向の情報は、センサ部104からの検出データを入力した速度・向き判定部115で生成され、マスク生成部111に出力されてよい。ここで、速度・向き判定部115は、センサ部104からの検出データ以外にも、例えばロボットの駆動輪の回転方向及び速度や向きの情報を取得して移動速度や進行方向の情報を決定してもよい。
また、センサ部104は、加速度センサ、地磁気センサ及びジャイロセンサのうちの少なくとも1つを有し、撮影ロボット1の移動速度(加速度)、ロボットの向いた方位及び仰角、並びに向きの変換量等の計測値を検出データとして出力することができる。さらに、図示していないが、センサ部104は、GPS(Global Positioning System)センサを備えていて、撮影ロボット1の位置情報(緯度及び経度)や位置の変化(移動速度ベクトル量)を出力してもよい。
図2は、領域リクエストに基づいてマスク値を決定する方法の一実施形態を示すマスクの模式図である。ここで、同図に示した実施形態では、領域リクエストに優先度は付与されていない。
図2(A)及び(B)に示すように、マスクは、典型例として、縦横方向にそれぞれ均等な高さ及び幅を有する小領域がメッシュ状に並び、各小領域に対して0から1までの値をとるマスク値が付与されたものとして表される。ここで、マスク値1は、この値の付与された小領域が、画像情報に対するマスク処理においてデータ量の低減を被らない小領域であることを示す。また、マスク値0は、この値の付与された小領域が、画像情報に対するマスク処理においてデータ量がゼロ又は所定の最小量まで低減させられる小領域であることを示す。
尚、マスクにおける小領域への区分けは、図2(A)及び(B)に示すような直線によるものに限定されるものではなく、例えば、曲線をもって小領域に区分けしてもよい。小領域の形状も種々のものが採用可能である。また、マスク値は、0及び1の2値とすることもでき、例えば0〜1の間のn個の離散値をとるn値としてもよい。さらには、0〜1の間の実数値とすることも可能である。いずれにしてもマスク値は、画像中の各小領域の重要度(伝送すべき程度)に対応しており、マスク値がより大きい小領域の画像情報ほどより高率で(より高い通過率で)通過させるように設定される。
図2(A)及び(B)に、簡単のため、3つのリクエスト領域に基づいてマスク値を決定した一例を示す。ここで、リクエスト領域とは、領域リクエストによって要求されている領域である。この実施例では、リクエスト領域を構成する小領域の全面積(全小領域数)が上限面積閾値Thsである15以内であれば、これらのリクエスト領域にマスク値1を付与する設定となっている。図2(A)では、3つのリクエスト領域の面積の総和、即ち3つのリクエスト領域に属する小領域数は15であり、上限面積閾値Ths以下となっている。従って、3つのリクエスト領域の全てを受け入れ、マスク値を1として対応する画像情報を全てそのまま通過させる。
一方、図2(B)では、3つのリクエスト領域の面積の総和(全小領域数)は18であり、上限面積閾値Thsを超えている。このため、
(a)互いに重畳する小領域を有する2つのリクエスト領域については、それらに属する小領域の全てを通過させ、
(b)残りの1つのリクエスト領域については、属する小領域のうちの2/3のみ(同図では6つの小領域のうちの4つのみ)を通過させる。または、このリクエスト領域に属する全ての小領域の各々に対して通過率2/3に相当するマスク値を付与してもよい。
尚、図2(A)及び(B)にいずれにおいても、リクエスト領域外の小領域に対するマスク値はゼロとしてもよいが、ゼロに近い値を付与することもできる。リクエスト領域外の小領域に小さい値のマスク値を付与することによって、最終的に、画像を見る者(観察者、視聴者)は要求又は希望した領域の画像以外の画像(映像)も低解像度ながら見ることができ、例えば、リクエスト領域を変更する際の手掛かりとして利用することができる。
以上説明したように、互いに重畳する領域部分を有するリクエスト領域を優先して通過領域に採用することによって、要求又は希望の集中する画像領域について、できるだけ優先して又はより高率で伝送し、要求又は希望元の端末に、所望の映像又は画像をより確実に提供することが可能となる。
図3は、領域リクエストに基づいてマスク値を決定する方法の他の実施形態を示すマスクの模式図である。
図3によれば、2つのリクエスト領域について、これらの領域に属する小領域のマスク値は1とし、当該小領域に係る画像情報は全て通過させる。さらに、これらの2つのリクエスト領域を取り囲む小領域を低通過率領域とし、この低通過率領域のマスク値を0と1との間の値、例えば0.3に設定する。即ち、この低通過率領域に係る画像情報は、より低い通過率で通過させる。さらに、残りの小領域ではマスク値をゼロとする。
このようにマスク値を設定して、要求又は希望のある画像領域だけでなく、その周辺領域の画像情報を通過させることによってし、伝送データ量は低減しつつ、要求又は希望元のユーザにとって役立ち得る画像情報をより有効に提示することができる。例えば、見たい対象物の周辺の様子も低解像度ながら視認することができたり、見たい対象物が移動する際、その移動方向を容易に識別することができたりするのである。
図1に戻って、画像合成部114は、カメラ101が複数ある場合に、それらからの出力である複数の画像信号を合成し、単一の画像に相当する画像情報を生成する。この際、画像信号の間に実空間に対応する画像領域について重畳する部分がある場合、当該部分を重畳させて両者を連結することにより画像情報を合成することも好ましい。また、いずれの画像信号においてもある実空間に対応する画像領域をカバーしていない場合、当該画像領域を単色で表現しつつ画像情報を合成することも可能である。
マスク処理部112は、カメラ101から出力された画像信号に基づいて生成された画像情報に対し、生成されたマスクを用いて画像データ量を低減させるマスク処理を行う。具体的にマスク処理としては、画像合成部114から入力した画像情報に対し、マスク生成部111から取得したマスクの小領域毎に、当該小領域のマスク値に応じた、(a)空間方向の低域濾波処理、(b)時間方向の低域濾波処理、及び(c)減色処理のうちの1つ又は複数の組合せを行うことも好ましい。また、上述した低域濾波処理の代わりに減色またはフレーム間引きを行ってもよく、減色処理として固定色で塗りつぶすことも可能である。さらに、マスク値が1の場合、当該小領域の画像情報には何ら加工せずそのまま通過させることも好ましい。
符号化部113は、マスク処理部112から入力した、マスク処理された画像情報に対し、符号化処理を行い、画像分配装置20に送信すべき画像データを生成する。符号化部113としては、従来汎用されてきた回路及びアルゴリズムを利用することができる。例えば、符号化アルゴリズムとして、広く普及しているMPEG4やH.264等を採用することができる。
また、符号化部113は、ビットレート計測部113aを有することも好ましい。ビットレート計測部113aは、第2通信制御部116による画像データの送信におけるビットレートを計測し、計測されたビットレート情報をマスク生成部111に出力する。マスク生成部111は、入力されたビットレート情報をフィードバック情報として用い、当該ビットレート計測値に基づいて、生成するマスクにおけるマスク値のスケーリングを行い、画像データ伝送におけるビットレートを調整する。
第2通信制御部116は、マスク処理された画像情報を符号化処理して生成した画像データを、無線ネットワークを介して画像分配装置20宛てに送信する。この際、例えば複数のカメラ101から出力された複数の画像信号に基づいた画像データであって、例えば複数の端末から要求された複数のリクエスト領域を反映した画像データを、例えば単一画面に表示される1つの画像に相当する1本の画像データとして無線ネットワークに流すことが可能となる。ここで、この画像データは、マスク処理によって画像データ量を適切に調整されているので、無線ネットワークにおける伝送レートの制限内で確実に伝送可能となるのである。
[画像送受信方法:マスク生成及びマスク処理]
図4は、本発明による画像送受信方法におけるマスク生成及びマスク処理の一実施形態を示すフローチャートである。尚、本実施形態では、マスク値は、上述した実施形態での0〜1の値とは異なり、0,1,2,・・・といった非負の整数値をとる。
(S401)受け付けた領域リクエストのリストをクリア(消去)する。
(S402)マスクにおける全小領域のマスク値をクリア(ゼロ化)する。
(S403〜S406)所定時間、端末21及び22からの(画像分配装置20を介した)通知を受け付けるループに入る。
(S404)通知の種類を判定する。ここで、通知が領域リクエストであると判定した場合、当該領域リクエストをリストに追加する(ステップS405a)。また、通知が領域リクエストの取下げ通知であると判定した場合、該当する領域リクエストをリストから削除する(ステップS405b)。さらに、通知が、領域リクエストでも領域リクエスト取下げ通知でもないその他の通知であると判定した場合、領域リクエストのリストについて何も行わない。
(S407)所定時間経過後、リスト内の領域リクエストの要求するリクエスト領域と進行方向の視野領域との重畳の有無、該当する領域リクエストの優先度(優先順位)、及び該当する領域リクエストの到着順位をキーとして、リスト内の領域リクエストをソートする。
(S408)リストの先頭から領域リクエストを取り出し、マスクについて、当該領域リクエストに係るリクエスト領域に属する小領域にマスク値1を加算する。例えば、既にマスク値として1が付与されていた場合、このマスク値を2とする。尚、取り出した領域リクエストは、リストの先頭から外される。従って、次にこのステップの処理を行う場合、当初この領域リクエストの次にリストされていた領域リクエストが、先頭のリクエストとして取り出されることになる。
(S409)マスク値が1以上である小領域の総面積(総数)が、上限面積閾値Ths以上であるか否かを判定する。ここで、上限面積閾値Ths以上ではないとの判定を行った場合、ステップS408に戻り、次の領域リクエストをリストから取り出して処理を行う。尚、リスト内の領域リクエストが全て取り出されている場合、ステップS410に移行し、マスク値全体のスケーリング処理に入る。
(S410)一方、ステップS409で上限面積閾値Ths以上であるとの判定を行った場合、マスク値全体をスケーリングするスケーリング処理を行う。典型的なスケーリング処理として、全てのマスク値に0.9等の係数を乗ずる処理が挙げられる。
このように、特定のマスク値を有する小領域の総面積の調整だけでは符号化処理後の伝送レートを的確に制御することは不可能であるが、ビットレートの実測値を利用したスケーリング処理を行うことによって当該制御が可能となる。
(S411)生成したマスクを用いてマスク処理、即ち画像データ量低減処理を行う。
次いで、マスク処理した画像情報に対し、符号化処理が行われる。
(S412)符号化処理後の画像データのビットレートが上限レート閾値以下であるか否かを判定する。ここで、上限レート閾値以下ではないとの判定を行った場合、ステップS410に戻って再度スケーリング処理を行い、ビットレートを低下させる処置を実施する。
(S413)一方、ステップS412で上限レート閾値以下であるとの判定を行った場合、次いで、生成した画像データにおけるリクエスト重畳領域を決定する。
ここで、リクエスト重畳領域は、所定の度合い以上にリクエストが重畳した画像領域であり、本実施形態の場合、マスク値が所定閾値以上、例えば5以上の小領域からなる画像領域とすることができる。
(S414)リクエスト重畳領域の位置や面積等の情報である重畳領域情報を、生成した画像データに付与する。
これにより、当該画像データを受信した画像分配装置20は、合わせて重畳領域情報を取得し、取得した画像データにおけるリクエスト重畳領域を認識することができる。ここで、画像分配装置20は、例えばこのリクエスト重畳領域を区別、明示又は強調して、操縦端末22に提供することも可能となる。
以上により、本実施形態におけるマスク生成・マスク処理1回分が終了する。
ここで、上記のステップS413及びS414におけるリクエスト重畳領域に係る処理は、マスク生成部111のリクエスト領域重畳判定部111a(図1)が実施してもよい。リクエスト領域重畳判定部111aは、言い換えれば希望集中領域判定手段として捉えられ、操縦端末22を使用するロボット1の操縦者に対し、他の端末21の観察者(視聴者)の大勢が画像のどの領域を見たがっているかを示唆し、例えば、当該操縦者が次にロボット1を移動させる方向を決めるための参考情報を提供する機能を果たす。
尚、このような希望集中領域判定機能は、後に詳細に説明するように、画像分配装置20における撮影画像分配部212のリクエスト領域重畳判定部212aが担当することも可能である。この場合、上述したように、マスク値が所定閾値以上の領域全体の輪郭を抽出するのではなく、画像を表示する際、リクエスト重畳領域を区別、明示又は強調した画像を操縦端末22に提供する形となる。また、当然に、希望集中領域判定機能をリクエスト領域重畳判定部111a(画像送信システム)にもリクエスト領域重畳判定部212a(画像受信システム)にも付与し、上記の両方の作用効果を奏させることも可能である。
[画像受信システム:画像分配装置及び端末]
次いで、同じく図1に示した機能ブロック図を用いて、画像分配装置20、端末21及び操縦端末22の機能構成を説明する。
図1によれば、画像分配装置20は、第1通信インタフェース205と、第3通信インタフェース206と、プロセッサ・メモリとを有する。ここで、プロセッサ・メモリは、画像分配装置2のコンピュータを機能させるプログラムを実行することによって、画像受信機能を実現させる。
さらに、プロセッサ・メモリは、機能構成部として、領域リクエスト管理部211と、リクエスト領域重畳判定部212aを含む撮影画像分配部212と、第1通信制御部213と、第3通信制御部214とを有する。尚、図1における画像分配装置2の各機能構成部を矢印で接続した処理の流れは、本発明による画像送受信方法の一実施形態としても理解される。
同じく図1によれば、端末21は、表示部201と、入力インタフェース202とを有する。また、操縦端末22は、表示部203と、入力インタフェース204と、機能構成部としての操作制御部221とを有する。
第1通信インタフェース205は、画像分配装置20と撮影ロボット1との通信接続を担う無線ネットワークに接続され、「領域リクエスト」情報や駆動部102に対する制御信号を送信したりマスク処理を施された画像データを受信したりするインタフェースである。また、第1通信制御部213は、これらの情報の送受信を制御する。
第3通信インタフェース206は、画像分配装置20と端末21及び操縦端末22との間の情報の送受信を担うインタフェースである。例えば、端末21及び操縦端末22から領域リクエストを生成するための情報や、駆動部102に対する制御信号を受信し、一方、端末21及び操縦端末22の各々へ、領域リクエストに応じた画像データを配信する。また、第3通信制御部214は、これらの情報の送受信を制御する。
領域リクエスト管理部211は、撮影される画像の少なくとも一部の領域の取得をリクエストする1つ又は複数の領域リクエストを生成する。領域リクエストは、端末21及び操縦端末22の各々からの要求に応じて生成される。また、領域リクエスト管理部211は、駆動部102の操作に係る撮影される画像内での視野領域の取得をリクエストする視野領域リクエストを生成することも好ましい。
さらに、領域リクエスト管理部211は、生成する領域リクエストに対し、マスクの生成において採用される優先度を示す優先度情報を付与することも好ましい。ここで、この優先度情報は、領域リクエストとともに撮影ロボット1に送信され、撮影ロボット1のマスク生成部111において、領域リクエストを反映したマスクの生成に利用される。
撮影画像分配部212は、受信された画像データに基づいて生成された撮影画像情報を、領域リクエストに応じて端末21及び端末22の各々に分配又は出力し、対応する表示部201及び203の各々に表示させる。ここで、撮影画像情報は、分配又は出力先の端末による領域リクエストを含む画像データを、受信された元の画像データから切り取ったものとすることができる。または、領域リクエストに応じた画像部分の切り取りを行わずに、受信された元の画像データそのものを撮影画像情報とすることも可能である。
具体的には、分配方法の実施形態として、
(a)撮影画像分配部212は、入力した画像データを複製し、同一のデータを端末21及び22に配布する。この場合、各端末は、自らが送信を要求したリクエスト領域を認識しているので、配布された映像データの中から当該リクエスト領域のみを抽出し、表示部201及び203に表示することができる。または、
(b)撮影画像分配部212は、入力した画像データにひとまず復号化処理を施して、復号した画像データの中から各端末が要求したリクエスト領域を抽出し、抽出された各画像データを再度符号化した上で、各端末に配布する。
また、撮影画像分配部212は、生成された撮影画像情報のうち少なくともリクエスト重畳領域の画像部分の情報を、操縦端末22に配信又は出力し、駆動部102の操作の際に視認される表示部203に表示させることも好ましい。
さらに、撮影画像分配部212は、領域リクエスト管理部211で生成された領域リクエストに基づいて、所定の度合い以上にリクエストが重畳した領域であるリクエスト重畳領域の画像部分を決定し、生成された撮影画像情報のうち少なくとも当該画像部分が区別、明示又は強調された情報を、操縦端末22に配信又は出力し、駆動部102の操作の際に視認される表示部203に表示させることも好ましい。
ここで、リクエスト重畳領域の画像部分の決定は、撮影画像分配部212内のリクエスト領域重畳判定部212aで行われてもよい。この場合、リクエスト領域重畳判定部212aは、言い換えれば希望集中領域判定手段として捉えられ、操縦端末22を使用するロボット1の操縦者に対し、他の端末21の観察者(視聴者)の大勢が画像のどの領域を見たがっているかを示唆し、例えば、当該操縦者が次にロボット1を移動させる方向を決めるための参考情報を提供する機能を果たす。具体的には、リクエスト重畳領域を区別、明示又は強調した画像データを操縦端末22に提供し、当該画像データを表示部203に表示させることができる。表示された画像データでは、例えばリクエスト領域における画像の明度が高くなったり点滅するように変動したり、またはリクエスト領域の位置や範囲を示すポインタや枠が表示されたりしてもよい。
操縦端末22の操作制御部221は、表示部203を視認しつつ実施可能な操作であって駆動部102の駆動を制御するための操作を受け付け、受け付けた操作に基づいて、撮影ロボット1宛てに送信する操作制御信号を生成する。
[画像送受信システムの他の実施形態]
図5は、本発明による画像送受信システムの他の実施形態を示す模式図である。
図5によれば、本実施形態の画像送受信システムにおける画像送信システム6は、ネットワークに接続された複数台の撮影部としてのリモートカメラ61と、画像処理送信装置64とを含むカメラシステムである。また、画像受信システム7は、画像分配装置71と、複数台の表示部としてのモニタディスプレイとを含むモニタシステムである。ここで、モニタディスプレイは、リモートカメラ61を操縦する端末73及び操縦端末74の備えているディスプレイとすることができる。端末73及び操縦端末74は、例えばAP72を介して、又はその他のネットワーク手段によって、画像分配装置71と通信接続可能となっている。
複数のリモートカメラ61は、それぞれ無線ネットワークを介しアクセスポイント(AP)62経由で、画像処理送信装置64と通信接続可能となっている。ここで、リモートカメラ61の少なくとも1つは、有線路を介して画像処理送信装置64と接続されてもよく、または、インターネット上に設置された、撮影信号処理用のサーバ63を経由して、画像処理送信装置64と通信接続可能となっていてもよい。また、リモートカメラ61の少なくとも1つは、所定の地点に固定されて設置されていてもよく、または、自動車や交通機関等の移動手段に設置されて移動可能となっていてもよい。
画像処理送信装置64は、図1に示した撮影ロボット1のうちカメラ101及び駆動部102を除く機能部を全て備えており、一方、画像分配装置71は、図1に示した画像分配装置20の有する機能部を全て備えている。また、両装置は、撮影ロボット1及び画像分配装置20と同様に、画像データを伝送するための無線ネットワークを介して通信接続可能となっている。
このような実施形態の画像送受信システムにおいても、端末73及び74による領域リクエストに対応した形で、リモートカメラ61で撮影された画像の情報を、画像データを伝送する無線ネットワークにおける伝送レートの制限内で確実に伝送させることができるのである。尚、本発明の画像送受信システムの取り得る実施形態は、以上に説明したものに限定されるものではない。1つ以上のカメラによって撮影された画像を、無線ネットワークを介して伝送し、1つ以上の表示部に表示させるシステムならば、本発明の技術を適用することが可能である。
以上詳細に説明したように、本発明によれば、撮影される画像の少なくとも一部の領域に対する領域リクエストを反映したマスクを利用することにより、当該領域リクエストに対応した形で、撮影した画像の情報を、画像を伝送する伝送路における伝送レートの制限内で確実に伝送させることができる。例えば、Wi−Fi(登録商標)等の無線LANにおけるデータ転送レートの上限を守りつつ、例えば遠隔操作ロボットによる撮影画像の中の特定の複数領域をそれぞれ、互いに異なる複数のスマートフォンで同時に視聴し、安定した所望の映像を享受することが可能になる。
さらに、本発明によれば、画角の広いカメラを使用し、4Kや8Kといった高解像度の規格で撮影を行った上で、観察者(視聴者)が必要とする部分だけの、又は当該部分を主とする映像信号を生成することによって、伝送レートの上限の低い伝送路においても、当該映像信号を送ることが可能になる。さらに、本発明の実施形態によっては、受信側の複数のスマートフォンからの映像伝送要求が競合する場合でも、カメラを搭載した担体の操縦に必要となる、進行方向の動画像を優先的に送信することも可能になる。
また、本発明の構成及び方法は、テレビ会議システム、展示会等案内システム、災害地等探索・調査システム、高放射線領域探索・調査システム、特定区域又は広域用の監視システム等、撮影画像を見るニーズの存在する様々な系にも適用可能である。
以上に述べた本発明の種々の実施形態において、本発明の技術思想及び見地の範囲の種々の変更、修正及び省略は、当業者によれば容易に行うことができる。前述の説明はあくまで例であって、何ら制約しようとするものではない。本発明は、特許請求の範囲及びその均等物として限定するものにのみ制約される。
1 撮影ロボット(画像送信システム)
101 カメラ(撮影部)
102 駆動部
103 第2通信インタフェース
104 センサ部
111 マスク生成部
111a リクエスト領域重畳判定部
112 マスク処理部
113 符号化部
113a ビットレート計測部
114 画像合成部
115 速度・向き判定部
116 第2通信制御部
2 画像受信システム
20、71 画像分配装置
201、203 表示部
202、204 入力インタフェース
205 第1通信インタフェース
206 第3通信インタフェース
21、73 端末
211 領域リクエスト管理部
212 撮影画像分配部
212a リクエスト領域重畳判定部
213 第1通信制御部
214 第3通信制御部
22、74 操縦端末
221 操作制御部
6 画像送信システム
61 リモートカメラ
62、72 アクセスポイント(AP)
63 サーバ
64 画像処理送信装置

Claims (10)

  1. 撮影した画像の情報を送信可能な画像送信システムと、当該画像の情報を受信可能な画像受信システムとを備えた画像送受信システムであって、
    前記画像受信システムは、
    撮影される画像の少なくとも一部の領域に対するリクエストである1つ又は複数の領域リクエストを生成する領域リクエスト管理手段と、
    当該領域リクエストを前記画像送信システム宛てに送信する第1の通信制御手段と
    を有し、
    前記画像送信システムは、
    1つ又は複数の撮影部と、
    当該画像の情報の送信におけるビットレートを計測するビットレート計測手段と、
    受信された当該領域リクエストにおいてリクエストされた領域以外の画像部分のデータをより低率で通過させるマスクであって、計測された当該ビットレートに基づいて、ビットレートが所定値又は所定範囲内となるようにマスク値をスケーリングしたマスクを生成するマスク生成手段と、
    当該撮影部から出力された画像信号に基づいて生成された画像情報に対し、生成されたマスクを用いて画像データ量を低減させるマスク処理を行うマスク処理手段と、
    マスク処理された画像情報に基づいて生成された画像データを前記画像受信システム宛てに送信する第2の通信制御手段と
    を有し、
    前記画像受信システムは、
    撮影された画像の少なくとも一部を表示する1つ又は複数の表示部と、
    受信された当該画像データに基づいて生成された撮影画像情報を、当該領域リクエストに応じて当該表示部に分配又は出力する撮影画像分配手段と
    を更に有することを特徴とする画像送受信システム。
  2. 前記画像送信システムは、当該撮影部の撮影位置及び撮影向きの一方又は両方を変更する駆動部を更に有し、
    前記画像受信システムは、前記1つ又は複数の表示部のうちの少なくとも1つを視認しつつ実施可能な操作であって当該駆動部の駆動を制御するための操作を受け付け、当該操作に基づいて、前記画像送信システム宛てに送信する操作制御信号を生成する操作制御部を更に有し、
    前記領域リクエスト管理手段は、当該駆動部の操作に係る撮影される画像内での視野領域の取得をリクエストする視野領域リクエストを生成し、
    前記マスク生成手段は、受信された当該視野領域リクエストによってリクエストされた視野領域の画像部分のデータをより高率で又は最も高い優先度をもって通過させるマスクを生成する
    ことを特徴とする請求項1に記載の画像送受信システム。
  3. 前記領域リクエスト管理手段は、生成する領域リクエストに対し、前記マスクの生成において採用される優先度を示す優先度情報を付与し、
    前記マスク生成手段は、付与された優先度に基づいて、受信された当該領域リクエストを前記マスクの生成において採用するか否かを決定し、または、より高い優先度の付与された領域リクエストによってリクエストされた領域の画像部分のデータをより高率で通過させるマスクを生成する
    ことを特徴とする請求項1又は2に記載の画像送受信システム。
  4. 前記画像送信システムは、当該撮影部の撮影位置及び撮影向きの一方又は両方を変更する駆動部を更に有し、
    前記画像受信システムは、前記1つ又は複数の表示部のうちの少なくとも1つを視認しつつ実施可能な操作であって当該駆動部の駆動を制御するための操作を受け付け、当該操作に基づいて、前記画像送信システム宛てに送信する操作制御信号を生成する操作制御部を更に有し、
    前記マスク生成手段は、受信された当該領域リクエストに基づいて、所定の度合い以上にリクエストが重畳した領域であるリクエスト重畳領域の画像部分のデータをより高率で通過させるマスクを生成し、
    前記撮影画像分配手段は、生成された撮影画像情報のうち少なくとも当該リクエスト重畳領域の画像部分の情報を、当該駆動部の操作の際に視認される表示部に配信又は出力する
    ことを特徴とする請求項1から3のいずれか1項に記載の画像送受信システム。
  5. 前記画像送信システムは、当該撮影部の撮影位置及び撮影向きの一方又は両方を変更する駆動部を更に有し、
    前記画像受信システムは、前記1つ又は複数の表示部のうちの少なくとも1つを視認しつつ実施可能な操作であって当該駆動部の駆動を制御するための操作を受け付け、当該操作に基づいて、前記画像送信システム宛てに送信する操作制御信号を生成する操作制御部を更に有し、
    前記撮影画像分配手段は、前記領域リクエスト管理手段で生成された当該領域リクエストに基づいて、所定の度合い以上にリクエストが重畳した領域であるリクエスト重畳領域の画像部分を決定し、生成された撮影画像情報のうち少なくとも当該画像部分が区別、明示又は強調された情報を、当該駆動部の操作の際に視認される表示部に配信又は出力する
    ことを特徴とする請求項1から4のいずれか1項に記載の画像送受信システム。
  6. 前記マスク処理手段は、当該画像情報に対し、当該マスク処理として、生成されたマスクのマスク値に応じた、空間方向の低域濾波処理、時間方向の低域濾波処理及び減色処理のうちの1つ又は複数の組合せを行うことを特徴とする請求項1からのいずれか1項に記載の画像送受信システム。
  7. 前記画像送信システムは、駆動可能なロボットであり、前記画像受信システムは、該ロボットの駆動を制御可能な遠隔操縦端末を含むことを特徴とする請求項1からのいずれか1項に記載の画像送受信システム。
  8. 前記画像送信システムは、ネットワークに接続された複数台の撮影部としてのカメラを含むカメラシステムであり、前記画像受信システムは、複数台の表示部としてのモニタディスプレイを含むモニタシステムであることを特徴とする請求項1からのいずれか1項に記載の画像送受信システム。
  9. 撮影した画像の情報を送信可能な画像送信システムと、当該画像の情報を受信可能な画像受信システムとを備えた画像送受信システムであって、
    前記画像受信システムは、
    撮影される画像の少なくとも一部の領域に対するリクエストである1つ又は複数の領域リクエストを生成する領域リクエスト管理手段と、
    当該領域リクエストを前記画像送信システム宛てに送信する第1の通信制御手段と
    を有し、
    前記画像送信システムは、
    1つ又は複数の撮影部と、
    当該撮影部の撮影位置及び撮影向きの一方又は両方を変更する駆動部と、
    受信された当該領域リクエストに基づいて、リクエストされた領域以外の画像部分のデータをより低率で通過させるマスクを生成するマスク生成手段と、
    当該撮影部から出力された画像信号に基づいて生成された画像情報に対し、生成されたマスクを用いて画像データ量を低減させるマスク処理を行うマスク処理手段と、
    マスク処理された画像情報に基づいて生成された画像データを前記画像受信システム宛てに送信する第2の通信制御手段と
    を有し、
    前記画像受信システムは、
    撮影された画像の少なくとも一部を表示する1つ又は複数の表示部と、
    前記1つ又は複数の表示部のうちの少なくとも1つを視認しつつ実施可能な操作であって当該駆動部の駆動を制御するための操作を受け付け、当該操作に基づいて、前記画像送信システム宛てに送信する操作制御信号を生成する操作制御部と、
    受信された当該画像データに基づいて生成された撮影画像情報を、当該領域リクエストに応じて当該表示部に分配又は出力する撮影画像分配手段であって、前記領域リクエスト管理手段で生成された当該領域リクエストに基づいて、所定の度合い以上にリクエストが重畳した領域であるリクエスト重畳領域の画像部分を決定し、生成された撮影画像情報のうち少なくとも当該画像部分が区別、明示又は強調された情報を、当該駆動部の操作の際に視認される表示部に配信又は出力する撮影画像分配手段と
    を更に有することを特徴とする画像送受信システム。
  10. 撮影した画像の情報を送信可能な画像送信システムと、当該画像の情報を受信可能な画像受信システムとを備えた画像送受信システムにおける画像の送受信方法であって、
    前記画像受信システムが、撮影される画像の少なくとも一部の領域に対するリクエストである1つ又は複数の領域リクエストを生成し、当該領域リクエストを前記画像送信システム宛てに送信する第1のステップと、
    前記画像送信システムが、当該画像の情報の送信におけるビットレートを計測し、受信された当該領域リクエストにおいてリクエストされた領域以外の画像部分のデータをより低率で通過させるマスクであって、計測された当該ビットレートに基づいて、ビットレートが所定値又は所定範囲内となるようにマスク値をスケーリングしたマスクを生成する第2のステップと、
    前記画像送信システムが、当該システム内に設けられた1つ又は複数の撮影部から出力された画像信号に基づいて生成された画像情報に対し、生成されたマスクを用いて画像データ量を低減させるマスク処理を行う第3のステップと、
    前記画像送信システムが、マスク処理された画像情報に基づいて生成された画像データを前記画像受信システム宛てに送信する第4のステップと、
    前記画像受信システムが、受信された当該画像データに基づいて生成された撮影画像情報を、当該領域リクエストに応じて、当該システム内に設けられた表示部に分配又は出力する第5のステップと
    を有することを特徴とする画像送受信方法。
JP2014197353A 2014-09-26 2014-09-26 領域リクエストに基づいたデータ低減処理を行う画像送受信システム及び方法 Expired - Fee Related JP6280011B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014197353A JP6280011B2 (ja) 2014-09-26 2014-09-26 領域リクエストに基づいたデータ低減処理を行う画像送受信システム及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014197353A JP6280011B2 (ja) 2014-09-26 2014-09-26 領域リクエストに基づいたデータ低減処理を行う画像送受信システム及び方法

Publications (2)

Publication Number Publication Date
JP2016072686A JP2016072686A (ja) 2016-05-09
JP6280011B2 true JP6280011B2 (ja) 2018-02-14

Family

ID=55864980

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014197353A Expired - Fee Related JP6280011B2 (ja) 2014-09-26 2014-09-26 領域リクエストに基づいたデータ低減処理を行う画像送受信システム及び方法

Country Status (1)

Country Link
JP (1) JP6280011B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6368418B1 (ja) * 2017-10-25 2018-08-01 尚紀 北村 情報提供システム
JP7015603B1 (ja) * 2018-07-06 2022-02-15 株式会社インキュビット 情報提供システム
JP7015604B1 (ja) * 2018-07-06 2022-02-15 株式会社インキュビット 情報提供システム
JP2019079491A (ja) * 2018-07-06 2019-05-23 尚紀 北村 情報提供システム
JP6982875B2 (ja) * 2018-07-30 2021-12-17 株式会社インキュビット 情報提供システム
EP3621310A1 (en) * 2018-09-10 2020-03-11 Panasonic Intellectual Property Corporation of America Video transmitting device, video transmitting method, and program
JP7439556B2 (ja) 2020-02-14 2024-02-28 オムロン株式会社 画像処理装置、画像センサ、画像処理装置の制御方法
JP6828205B1 (ja) 2020-05-14 2021-02-10 エヌ・ティ・ティ・コミュニケーションズ株式会社 遠隔作業装置とそのプログラム
JP7079541B2 (ja) * 2021-12-03 2022-06-02 株式会社インキュビット 情報提供システム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07288806A (ja) * 1994-04-20 1995-10-31 Hitachi Ltd 動画像通信システム
JP2003111050A (ja) * 2001-09-27 2003-04-11 Olympus Optical Co Ltd 映像配信サーバ及び映像受信クライアントシステム
JP2006067393A (ja) * 2004-08-27 2006-03-09 Tmsuk Co Ltd 鑑賞システム
JP4578197B2 (ja) * 2004-09-29 2010-11-10 三洋電機株式会社 画像表示装置
JP2008219484A (ja) * 2007-03-05 2008-09-18 Victor Co Of Japan Ltd 監視用カメラ、表示制御装置、および監視システム
JP5235746B2 (ja) * 2009-03-25 2013-07-10 三洋電機株式会社 画像送信装置、およびそれを搭載した撮像装置

Also Published As

Publication number Publication date
JP2016072686A (ja) 2016-05-09

Similar Documents

Publication Publication Date Title
JP6280011B2 (ja) 領域リクエストに基づいたデータ低減処理を行う画像送受信システム及び方法
US20200106818A1 (en) Drone real-time interactive communications system
CN108139799B (zh) 基于用户的兴趣区(roi)处理图像数据的系统和方法
EP2926552B1 (en) Window blanking for pan/tilt/zoom camera
US20200288105A1 (en) Selective culling of multi-dimensional data sets
JP6163899B2 (ja) 情報処理装置、撮像装置、情報処理方法、及びプログラム
US20170041530A1 (en) Information processing apparatus and control method therefor
US20170201689A1 (en) Remotely controlled communicated image resolution
WO2017164753A1 (en) Methods and apparatus for continuing a zoom of a stationary camera utilizing a drone
US20190356936A9 (en) System for georeferenced, geo-oriented realtime video streams
US20200288083A1 (en) Image capturing apparatus, image processing system, image processing method, and recording medium
CN108628337A (zh) 路径生成装置、路径控制系统以及路径生成方法
KR20130130544A (ko) 감시 영상 표시 방법 및 시스템
WO2014162554A1 (ja) 画像処理システムおよび画像処理用プログラム
US11818492B2 (en) Communication management apparatus, image communication system, communication management method, and recording medium
WO2017169369A1 (ja) 情報処理装置、情報処理方法、プログラム
CN108628439A (zh) 信息处理设备、信息处理方法及程序
KR101651152B1 (ko) 공간 모델과 결합하는 드론의 영상영역 모니터링 시스템
JP2019054369A (ja) 撮像装置、撮像装置の制御方法及びプログラム
EP3264380B1 (en) System and method for immersive and collaborative video surveillance
JP2018074420A (ja) 表示装置、表示システム及び表示装置の制御方法
JP6382772B2 (ja) 視線誘導装置、視線誘導方法、および視線誘導プログラム
KR101452372B1 (ko) 카메라 제어 방법 및 그 시스템
US20190080179A1 (en) Monitoring system and terminal device
KR20170055455A (ko) 초광각 카메라를 이용한 렌즈 왜곡 영상 보정 카메라 시스템 및 그가 적용된 tvi 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170929

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171101

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180118

R150 Certificate of patent or registration of utility model

Ref document number: 6280011

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees