以下、本実施形態について説明する。なお、以下に説明する本実施形態は、請求の範囲に記載された内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本開示の必須構成要件であるとは限らない。
1.システム構成例
内視鏡システムを用いた検査において、注目領域の見逃し抑制が重要である。なお注目領域とは、ユーザにとって観察の優先順位が他の領域よりも相対的に高い領域である。ユーザが診断や治療を行う医者である場合、注目領域は、例えば上述したように病変部を写した領域に対応する。ただし、医者が観察したいと欲した対象が泡や残渣であれば、注目領域は、その泡部分や残渣部分を写した領域であってもよい。即ち、ユーザが注目すべき対象は観察目的によって異なるが、その観察に際し、ユーザにとって観察の優先順位が他の領域よりも相対的に高い領域が注目領域となる。
以下、内視鏡システムが生体内を観察するシステムであり、観察対象が大腸である例について説明する。即ち、本実施形態において後述する管腔とは、狭義には腸管である。ただし、本実施形態の手法は、腸管以外の管腔を対象としてもよい。例えば、大腸以外の消化管を対象とすることや、生体の他の部位における管腔構造を対象としてもよい。また、内視鏡システムは、管腔状の部材の観察に用いられる工業用内視鏡であってもよい。また以下では注目領域が病変である例について説明するが、上述したとおり注目領域は病変以外に拡張が可能である。
病変の見逃しを抑制するためには、腸管等の管腔構造の表面全体を見逃すことなく撮像することが重要である。しかし従来、管腔構造のどの部分において内視鏡がどのように動かされているか、またそれによって管腔構造のどのような範囲をどのような撮像状態で撮像しているかといった、正確な状況が把握しにくかった。また、医師が内視鏡を手動で操作する場合、医師は操作と、撮像画像に基づく診断等を平行して実行する必要がある。そのため、例えば診断に集中した場合、正確な操作を実行できず、結果として大腸管腔の走査にムラが生じてしまう。また操作に集中した場合、撮像画像を十分に閲覧できず、病変が撮像されているにもかかわらず当該病変を見逃すおそれがある。
よって本実施形態の手法では、内視鏡システム1の捻り機構18と進退機構17を制御することによって、撮像部の視野の動きを制御する構成において、当該視野によって管腔の内壁の走査が行われるような制御が実行される。
ここでの撮像部の視野とは、当該撮像部の光軸方向と画角とによって決定される所与の空間を表す。例えば撮像部の視野は、撮像素子15に対応する位置を頂点とし、撮像部の光軸が当該頂点及び底面の中心を通過するような角錐状或いは円錐状の空間である。撮像部の光軸を病変の存在する方向、或いはそれに近い方向に向けることによって、病変を視野に捉えることが可能である。例えば、後述するように被写体光取得部20が被写体光を取得し、撮像部が当該被写体光を受光することによって撮像画像を出力する構成の場合、被写体光取得部20と被写体との相対的な位置関係が変化することによって、視野に捉えられる被写体が変化する。
また本実施形態における走査とは、上記視野を所定の規則に従って移動させていくことによって、管腔内面の所定の範囲を順次撮像していく動作を表す。ここでの所定の範囲とは、理想的には管腔内壁全体である。
本実施形態の手法によれば、管腔の内壁が網羅的に撮像されるように、内視鏡システムの制御が行われる。そのため、医師による内視鏡の操作負担を軽減しつつ、管腔構造の一部が撮像されないことによる見逃しの発生を抑制可能である。ただし、本実施形態の手法は、見逃し発生の蓋然性を抑制可能な制御を行う手法であり、見逃しを完全に抑制することを保証するものではない。なお、本実施形態では、管腔構造のうち、一度も撮像部の視野に入らない領域が存在する場合に見逃しのおそれがあると判定されてもよい。或いは第2の実施形態において後述するように、分析可能な状態で撮像されていない分析不可部分が存在する場合に、見逃しのおそれがあると判定されてもよい。
2.第1の実施形態
2.1 システム構成例
図1は、本実施形態に係る内視鏡システム1の構成図である。内視鏡システム1は、内視鏡2と、画像処理装置3と、光源装置4と、表示装置であるモニタ6と、を含む。医者は、内視鏡システム1を用いて、ベッド8上に仰向けで横になっている患者Paの大腸内の内視鏡検査を行うことができる。ただし、内視鏡システム1は図1の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。例えば後述するように、内視鏡システム1は管腔構造検出装置5や磁場発生装置7等を含んでもよい。
また図1においては、画像処理装置3が内視鏡2の近傍に設けられる例を示したがこれには限定されない。例えば、画像処理装置3の一部又は全部の機能は、ネットワークを介して接続可能なサーバシステム等によって構築されてもよい。換言すれば、画像処理装置3はクラウドコンピューティングによって実現されてもよい。ここでのネットワークは、イントラネット等のプライベートネットワークであってもよいし、インターネット等の公衆通信網であってもよい。またネットワークは有線、無線を問わない。
図2は、内視鏡2の斜視図である。内視鏡2は、操作部2aと、可撓性を有する挿入部2bと、信号線などを含むユニバーサルケーブル2cとを有する。内視鏡2は、管状の挿入部2bを体腔内に挿入する管状挿入装置である。ユニバーサルケーブル2cの先端にはコネクタが設けられ、内視鏡2は、そのコネクタにより光源装置4と画像処理装置3に着脱可能に接続される。ここでは、内視鏡2は、大腸内へ挿入可能な内視鏡である。さらに、図示しないが、ユニバーサルケーブル2c内には、ライトガイド22が挿通されており、内視鏡2は、光源装置4からの照明光を、ライトガイド22を通して挿入部2bの先端から出射する。
図2に示すように、挿入部2bは、挿入部2bの先端から基端に向かって、先端部11と、湾曲可能な湾曲部12と、可撓管部13とを有している。挿入部2bは、被写体となる患者Paの管腔に挿入される。先端部11の基端部は湾曲部12の先端に接続され、湾曲部12の基端部は可撓管部13の先端に接続されている。挿入部2bの先端部11は、内視鏡2の先端部であり、硬い先端硬質部である。
湾曲部12は、操作部2aに設けられた湾曲操作部材14に対する操作に応じて、所望の方向に湾曲可能である。湾曲操作部材14は、例えば左右湾曲操作ノブ14a及び上下湾曲操作ノブ14bを含む。湾曲部12を湾曲させ、先端部11の位置と向きを変え、被検体内の観察部位を視野内に捉えると、照明光は観察部位に照射される。湾曲部12は、挿入部2bの長手軸方向に沿って連結された複数の湾曲駒を有している。よって、医者は、挿入部2bを大腸内に押し込みながら、あるいは大腸内から引き抜きながら、湾曲部12を様々な方向に湾曲させることによって、患者Paの大腸内を観察できる。
左右湾曲操作ノブ14a及び上下湾曲操作ノブ14bは、湾曲部12を湾曲するために、挿入部2b内に挿通された操作ワイヤを牽引及び弛緩させる。湾曲操作部材14は、さらに、湾曲した湾曲部12の位置を固定する固定ノブ14cを有している。なお、操作部2aには、湾曲操作部材14の他にも、レリーズボタン、送気送水ボタン等の各種操作ボタンも設けられている。
可撓管部13は、可撓性を有しており、外力に応じて曲がる。可撓管部13は、操作部2aから延出されている管状部材である。
また、挿入部2bの先端部11には、撮像装置である撮像素子15が設けられている。光源装置4の照明光により照明された大腸内の観察部位は、撮像素子15により撮像される。すなわち、撮像素子15は、挿入部2bの先端部11に設けられ、被検体内を撮像して撮像画像を取得するための撮像部を構成する。撮像素子15により得られた撮像信号は、ユニバーサルケーブル2c内の信号線を経由して画像処理装置3に供給される。なお撮像素子15が設けられる位置は挿入部2bの先端部11に限定されない。例えば被写体からの光を導光することによって、先端部11よりも基端側の位置に撮像素子15が設けられてもよい。
画像処理装置3は、受信した撮像信号に対して所定の画像処理を行い、撮像画像を生成するビデオプロセッサである。生成された撮像画像の映像信号は、画像処理装置3からモニタ6へ出力され、ライブの撮像画像が、モニタ6上に表示される。検査を行う医者は、挿入部2bの先端部11を患者Paの肛門から挿入し、患者Paの大腸内を観察することができる。
光源装置4は、通常光観察モード用の通常光を出射可能な光源装置である。なお、内視鏡システム1が通常光観察モードの他に特殊光観察モードも有している場合は、光源装置4は、通常光観察モード用の通常光と、特殊光観察モード用の特殊光とを選択的に出射する。光源装置4は、画像処理装置3に設けられた観察モードを切り換えるための切換スイッチの状態に応じて、通常光と特殊光のいずれかを照明光として出射する。
図3は、画像処理装置3を含む内視鏡システム1の各部の構成を示す模式図である。画像処理装置3は、画像処理やシステム全体の制御を行う。画像処理装置3は、画像取得部31、画像処理部32、制御部33、記憶部34、フォーカス制御部35を含む。挿入部2bは、被写体光取得部20、撮像素子15、照明レンズ21、ライトガイド22を含む。被写体光取得部20とは、具体的には1又は複数のレンズを含む対物光学系である。例えば被写体光取得部20は、アクチュエータ20bによって駆動されるフォーカスレンズ20aを含む。
ライトガイド22は、光源装置4からの照明光を、挿入部2bの先端まで導光する。照明レンズ21は、ライトガイド22によって導光された照明光を被写体に照射する。被写体光取得部20は、被写体から反射した反射光である被写体光を取得する。被写体光取得部20は、フォーカスレンズ20aを含み、フォーカスレンズ20aの位置に応じて合焦物体位置を変更可能であってもよい。アクチュエータ20bは、フォーカス制御部35からの指示に基づいて、フォーカスレンズ20aを駆動する。ここで合焦物体位置とは、レンズ系、像面、物体からなる系が合焦状態にある場合の、物体の位置を表すものである。例えば、像面を撮像素子の面とした場合、合焦物体位置とは、当該撮像素子を用いて上記レンズ系を介した被写体像を撮像した場合に、撮像画像においてピントが理想的に合う被写体の位置を表す。
撮像部である撮像素子15はモノクロセンサであってもよいし、カラーフィルタを備えた素子であってもよい。カラーフィルタは、広く知られたベイヤフィルタであってもよいし、補色フィルタであってもよいし、他のフィルタであってもよい。補色フィルタとは、シアン、マゼンダ及びイエローの各色フィルタを含むフィルタである。
本実施形態の画像処理装置3は、下記のハードウェアによって構成される。ハードウェアは、デジタル信号を処理する回路及びアナログ信号を処理する回路の少なくとも一方を含むことができる。例えば、ハードウェアは、回路基板に実装された1又は複数の回路装置や、1又は複数の回路素子によって構成できる。1又は複数の回路装置は例えばIC、FPGA(field-programmable gate array)等である。1又は複数の回路素子は例えば抵抗、キャパシタ等である。
また画像処理装置3は、下記のプロセッサによって実現されてもよい。本実施形態の画像処理装置3は、情報を記憶するメモリと、メモリに記憶された情報に基づいて動作するプロセッサと、を含む。情報は、例えばプログラムと各種のデータ等である。プロセッサは、ハードウェアを含む。プロセッサは、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、DSP(Digital Signal Processor)等、各種のプロセッサを用いることが可能である。メモリは、SRAM(Static Random Access Memory)、DRAM(Dynamic Random Access Memory)などの半導体メモリであってもよいし、レジスタであってもよいし、ハードディスク装置(HDD:Hard Disk Drive)等の磁気記憶装置であってもよいし、光学ディスク装置等の光学式記憶装置であってもよい。例えば、メモリはコンピュータによって読み取り可能な命令を格納しており、当該命令をプロセッサが実行することによって、画像処理装置3の各部の機能が処理として実現される。画像処理装置3の各部とは、具体的には図3に示した制御部33を含む各部である。ここでの命令は、プログラムを構成する命令セットの命令でもよいし、プロセッサのハードウェア回路に対して動作を指示する命令であってもよい。
また、本実施形態の画像処理装置3の各部は、プロセッサ上で動作するプログラムのモジュールとして実現されてもよい。例えば制御部33は、内視鏡システム1の各部を制御する制御モジュールである。具体的には、制御部33は、図4~図7等を用いて後述する捻り機構18や進退機構17を制御する制御モジュールであってもよい。
また、本実施形態の画像処理装置3の各部が行う処理を実現するプログラムは、例えばコンピュータによって読み取り可能な媒体である情報記憶装置に格納できる。情報記憶装置は、例えば光ディスク、メモリーカード、HDD、或いは半導体メモリなどによって実現できる。半導体メモリは例えばROMである。画像処理装置3の制御部33等は、情報記憶装置に格納されるプログラムに基づいて本実施形態の種々の処理を行う。即ち情報記憶装置は、画像処理装置3の各部としてコンピュータを機能させるためのプログラムを記憶する。コンピュータは、入力装置、処理部、記憶部、出力部を備える装置である。プログラムは、画像処理装置3の各部の処理をコンピュータに実行させるためのプログラムである。
画像取得部31は、撮像部から順次出力される撮像画像を取得し、取得した撮像画像を画像処理部32、フォーカス制御部35に順次出力する。画像処理部32は、撮像画像に対して、ホワイトバランス処理、デモザイク(同時化)処理、ノイズ低減処理、色変換処理、階調変換処理、輪郭強調処理等の各種画像処理を行い、モニタ6に順次出力する。制御部33は、各種制御信号の入出力を行う。
フォーカス制御部35は、撮像画像に基づいて、フォーカスレンズ20aを制御する。フォーカス制御部35は、例えば公知のコントラストAFに基づいてフォーカスレンズ20aを制御する。ただし、本実施形態の内視鏡システム1ではAFは必須の構成ではなく、フォーカス制御部35を省略することが可能である。
光源装置4は、光源制御部41、光源42を含む。光源制御部41は、制御部33から順次出力される光源の目標光量に従って、光源42の光量を制御する。光源42は、照明光を発光する。光源42は、キセノン光源であってもよいし、LED(light emitting diode)であってもよいし、レーザー光源であってもよい。また光源42は他の光源であってもよく、発光方式は限定されない。
2.2 挿入部の詳細な構成例
図4は、挿入部2bの構成例を示す模式図である。図4に示すように、挿入部2bの長手方向を基準軸AX1とする。なお、基準軸AX1は、狭義には可撓管部13の長手方向である。湾曲部12が湾曲していない状態において、当該湾曲部12の長手方向と基準軸AX1とが略一致する。換言すれば、湾曲操作が行われることによって、湾曲部12の長手方向は基準軸AX1とは異なる方向に変化する。
図4に示すように、進退機構17は、例えば挿入部2bを基準軸AX1に対応する方向に移動させる進退ローラー17aと、進退ローラー17aを駆動する駆動部19を含む。対応する方向とは、同一の方向であってもよいし、略同一の方向であってもよい。略同一の方向とは、基準軸AX1となす角度が所定閾値以下の方向である。進退ローラー17aは、AX2を回転軸としてD1又はD2に示す方向に回転可能である。進退ローラー17aは、その一部が挿入部2bと接触している。そのため、進退ローラー17aがD1の方向へ回転することによって、挿入部2bが手前方向に移動する。ここでの手前方向とは挿入部2bの基端側へ向かう方向であって、挿入時においては肛門側に対応する。また進退ローラー17aがD2の方向へ回転することによって、挿入部2bが奥方向に移動する。ここでの奥方向とは挿入部2bを先端側へ押し込む方向であり、挿入時においては盲腸側に対応する。
また捻り機構18は、例えば挿入部2bを基準軸AX1を回転軸として回転させる回転ローラー18aと、回転ローラーを駆動する駆動部19を含む。なお、進退ローラー17aを駆動する駆動部と、回転ローラー18aを駆動する駆動部は別々に設けられてもよい。回転ローラー18aは、AX3を回転軸としてD3又はD4に示す方向に回転可能である。回転ローラー18aは、その一部が挿入部2bと接触している。そのため、回転ローラー18aが回転することによって、挿入部2bは回転ローラー18aとは逆方向に回転する。
また図4に示すように、湾曲部12は、基準軸AX1に対して湾曲可能である。具体的には、湾曲部12は、上下湾曲操作ノブ14bと左右湾曲操作ノブ14aの少なくとも一方に対する操作によって、基準軸AX1に対する湾曲角度を調整可能である。図4に示すθが湾曲角度を表す。
図5は、湾曲部12を基準軸AX1に対して湾曲させた状態において、回転ローラー18aを回転させた場合の先端部11の動きを説明する図である。図5のF1及びF2は湾曲部12が湾曲された状態における挿入部2bを表す。また図5のF3及びF4は、それぞれ挿入部2bがF1、F2の状態における撮像部の視野を表す。
図5に示すF2は、F1の状態を基準として、回転ローラー18aによって挿入部2bを基準軸AX1周りにφ1だけ回転させた状態に対応する。回転ローラー18aによる挿入部2bの回転に伴って、撮像部の視野も基準軸AX1周りにφ1だけ回転する。
例えば、湾曲部12を基準軸AX1に対して任意の湾曲角度θだけ湾曲させた状態において、回転ローラー18aを360°回転させることによって、管腔の周方向を網羅的に撮像することが可能になる。また進退ローラー17aを駆動することによって、撮像部の視野を管腔の長手方向に移動させることが可能である。即ち、捻り機構18と進退機構17の制御に基づいて、管腔内壁を走査するような視野の制御が可能になる。具体的な走査については図9(A)~図11を用いて後述する。
図6は、挿入部2bの他の構成を示す模式図である。図4においては、回転ローラー18aを用いて挿入部2b全体を基準軸AX1周りに回転させる構成を示した。これに対して図6に示す構成においては、捻り機構18は回転機構18bを有し、当該回転機構18bは、挿入部2bのうち、先端部11に近い一部のみを基準軸AX1周りに回転させる。図6に示す例においては、挿入部2bのうち、先端部11及び湾曲部12は回転機構18bによって基準軸AX1周りに回転可能であり、可撓管部13は基準軸AX1周りに回転しない。ただし、挿入部2bのうち、いずれの部分までを回転可能とするかは種々の変形実施が可能である。
図4~図6に示したように、捻り機構18は、例えば湾曲部12を基準軸AX1に対して湾曲させた状態において、挿入部2bの少なくとも一部を基準軸AX1周りに回転させる機構であり、挿入部2bは全体が回転してもよいし、先端側の一部が回転してもよい。
また捻り機構18は、撮像部の視野を回転可能であればよく、挿入部2bを基準軸AX1周りに回転させるものに限定されない。上述したように、湾曲部12は上下湾曲操作ノブ14bと左右湾曲操作ノブ14aを有し、基準軸AX1に対する湾曲角度θに加えて、湾曲方向を上下左右の4方向に調整可能である。例えば、上方向への湾曲を基準位置とした場合、右方向又は左方向の湾曲は、基準軸AX1周りの±90度の回転に対応する。また下方向は、基準軸AX1周りの±180度の回転に対応する。また、上下方向の湾曲度合いと左右方向の湾曲度合いを調整することによって、0°と±90°の間、±90°と±180°の間の回転も実現できる。
即ち、捻り機構18は湾曲部12を駆動する機構であって、当該捻り機構18は、湾曲部12の形状を変化させることによって、被写体光取得部20を基準軸AX1周りに回転させてもよい。例えば、捻り機構18は、左右湾曲操作ノブ14a及び上下湾曲操作ノブ14bを回転させるための不図示のモーター等を含む。制御部33は、当該モーターを制御することによって、左右湾曲操作ノブ14a及び上下湾曲操作ノブ14bを自動操作する。
図7は、湾曲部12の他の構成を示す模式図である。図7に示すように、湾曲部12は、個別の制御が可能な2以上の湾曲部を含んでもよい。図7の例においては、湾曲部12は第1湾曲部12a、第2湾曲部12b及び第3湾曲部12cを含む。第1湾曲部12a~第3湾曲部12cは、例えばそれぞれが上下方向及び左右方向の操作が可能である。このように、湾曲部12を複数の湾曲部に区分することによって、管腔に対する被写体光取得部20の位置姿勢を高精度に制御することが可能になる。例えば捻り機構18が回転ローラー18aや回転機構18bを有さない場合、湾曲部12を複数の湾曲部に区分することによって、回転量のギャップ量を細かく制御すること等が容易になる。
また図7に示す構成は、図4に示す挿入部2b全体を回転させる構成、図6に示す挿入部2bの先端部分を回転させる構成等、挿入部2bの一部又は全部を回転させる構成と組み合わせることも可能である。
図8(A)~図8(D)は、挿入部2bの他の構成を示す模式図である。図8(A)~図8(D)に示すように、被写体光取得部20は、挿入部2bの側面からの被写体光を受光可能であってもよい。
図8(A)、図8(B)に示す構成において、挿入部2bは、図4又は図6と同様の捻り機構18によって、その一部又は全部が回転可能である。挿入部2bの回転によって、側面に設けられる被写体光取得部20が、基準軸AX1周りに回転するため、撮像部の視野が基準軸AX1周りに回転する。即ち、捻り機構18は湾曲部12を湾曲させない構成によって実現が可能である。
また図8(C)に示すように、挿入部2bが回転しない構成であってもよい。図8(C)では、挿入部2bは透明部18cを有し、当該透明部18cの内部において、被写体光取得部20が、挿入部2bの軸周りに回転可能であってもよい。このように、挿入部2bの内部で、被写体光取得部20を回転させることでも、撮像部の視野を基準軸AX1周りに回転させることが可能である。
また図8(D)に示すように、被写体光取得部20は、被写体光の受光方向を変更可能な構成であってもよい。例えば捻り機構18は、被写体光取得部20である対物光学系を駆動する不図示の駆動部を含んでもよい。制御部33は、対物光学系を駆動することによって、撮像部の視野を変化させる。例えば被写体光の受光方向を上下方向及び左右方向に変更可能である場合、受光方向を順次変化させることによって、撮像部の視野を基準軸AX1周りに回転させることが可能である。或いは、被写体光の取得方向を基準軸AX1に対して所定方向に、所定角度だけ傾けた状態で固定し、当該状態において挿入部2bの一部又は全部を基準軸AX1周りに回転させることによって、撮像部の視野を基準軸AX1周りに回転させてもよい。
なお、図8(A)~図8(D)に示す構成を用いる場合、撮像部の光軸は挿入部2bの挿抜方向、即ち基準軸AX1に沿った方向とは異なる方向の軸となる。そのため、撮像画像は管腔内壁の診断等には適した画像となるが、挿抜には適さない画像となる。例えば、側面方向を撮像した撮像画像が表示されたとしても、医師が当該撮像画像に基づいて奥方向への挿入を行うことは容易でない。
よって内視鏡2は、側面観察用の構成と正面観察用の構成を含んでもよい。例えば内視鏡2は、側面観察用の被写体光取得部20と撮像部とは別に、正面観察用の第2被写体光取得部と第2撮像部を含む。このようにすれば、挿抜用の観察と診断用の観察を適切に行うことが可能である。
或いは、内視鏡2は、側面観察用の被写体光取得部20と、正面観察用の第2被写体光取得部を含み、撮像部を共通としてもよい。この場合、撮像部は、側面観察用の被写体光取得部20からの被写体光と、正面観察用の第2被写体光取得部からの被写体光のいずれか一方を選択的に受光可能である。例えば、被写体からの反射光が被写体光取得部20又は第2被写体光取得部を経由して撮像部に入射するまでの光路上に、挿抜可能に設けられる遮光部材を制御することによって、被写体光の選択が行われる。このようにすれば、1つの撮像部を、挿抜用の観察と診断用の観察とで切り替えて使用することが可能になる。また図8(D)に示す構成を用いる場合、被写体光の受光方向が、挿抜用の正面方向と、観察用の側面方向とで切り替えられてもよい。
2.3 走査の例
次に走査の例、即ち、捻り機構18と進退機構17に基づく視野の具体的な制御例について説明する。なお、上述したように挿入部2bの構成については種々の変形実施が可能であり、いずれの構成においても、撮像部の視野を管腔の長手方向に沿って移動させること、及び撮像部の視野を管腔の周方向に回転させることが可能である。よって以下では、挿入部2bの具体的な構成については省略し、撮像部の視野に着目して説明を行う。また、以下では説明を簡略化するため、管腔が円筒であるものとして説明を行う。
図9(A)は、らせん状の走査を行う場合の視野の移動を説明する図である。例えば腸管表面のうち、撮像部の視野に含まれる範囲を撮像範囲とした場合に、図9(A)は当該撮像範囲の基準点の時系列変化を説明する図である。撮像範囲の基準点とは、例えば撮像範囲の中心であって、撮像部の光軸と、腸管表面との交点に対応する。図9(B)は、撮像範囲の基準点がC1に位置する場合の撮像範囲と、C2に位置する場合の撮像範囲の位置関係を説明する図である。図9(B)のC3がC1に対応する撮像範囲を表し、C4がC2に対応する撮像範囲を表す。
撮像素子15は、撮像範囲に対応する被写体からの反射光を被写体光取得部20を介して取得することによって、当該撮像範囲に対応する撮像画像を生成する。以下では、撮像画像における縦方向が基準軸AX1に沿った方向であり、横方向が基準軸AX1周りの回転方向である例について説明する。ただし、撮像画像の縦横方向と基準軸AX1の方向との関係は任意である。また、説明の便宜上、撮像範囲が矩形である例について説明するが、実際の撮像範囲の形状は撮像角度や腸管の表面形状に応じて変化する。
図9(A)に示す例では、制御部33は、捻り機構18を制御することによって、撮像部の視野を基準軸AX1周りに回転させるとともに、進退機構17を制御することによって、撮像部の視野を基準軸AX1に沿った方向に移動させる。なお、ここでは基準軸AX1周りの回転速度、及び基準軸AX1に沿った方向の移動速度が一定である例を説明するが、速度は可変であってもよい。
この際、制御部33は、所与のフレームにおける撮像部の視野と、次のフレームにおける撮像部の視野が、管腔の周方向において重なりを有するように、捻り機構18を制御する。例えば、撮像部の撮像間隔をt(秒)とし、単位時間当たりの回転角度をvθ(度/秒)とし、撮像部の水平画角をθ1(度)とした場合に、制御部33は下式(1)が満たされるようにvθを設定する。このようにすれば、時系列的に連続する2枚の撮像画像は重複する領域を有する。即ち、管腔の周方向において、撮像されない領域が発生することを抑制できる。
t×vθ≦θ1…(1)
また制御部33は、捻り機構18に基づく視野の回転速度に応じて、進退機構17に基づく視野の移動速度を設定する。例えば、所与のフレームにおける撮像画像と、そこから視野が基準軸AX1周りに1回転したあとの撮像画像とが、基準軸AX1に沿った方向において重なりを有するように、進退機構17を制御する。図9(B)の例であれば、制御部33は、C3に示す撮像範囲の下側の領域と、1回転した後の撮像範囲であるC4の上側の領域を重複させる。例えば、捻り機構18による撮像部の視野の回転周期をT(秒)とし、進退機構17による撮像部の視野の移動速度をvz(cm/秒)とし、撮像範囲の縦方向の長さをH(cm)とした場合に、制御部33は下式(2)が満たされるようにvzを設定する。ここでT=360/vθである。またHは、撮像部の垂直画角θ2と、撮像部から被写体までの距離Lによって決定される。なお図9(A)に示すように管腔を円柱と仮定し、基準軸AX1が円柱の中心を通過する軸と一致する場合、距離Lは円柱の半径rに基づいて求められる。図8(A)~図8(D)のように湾曲部12を湾曲させない構成の場合、距離Lは半径rによって近似可能である。また湾曲部12を用いる場合、当該湾曲部12の長さや湾曲量等の既知の情報に基づいて、距離Lを推定できる。このようにすれば、管腔の長手方向においても、撮像されない隙間となる領域が発生することを抑制できる。
T×vz≦H…(2)
例えば画像処理装置3の記憶部34は、制御パラメータとして上式(1)を満たすvθ、及び上式(2)を満たすvzを記憶しておく。制御部33は、記憶部34から読み出したvθ及びvzに基づいて、捻り機構18及び進退機構17を制御する。これにより、撮像部の視野によって管腔の内壁の走査を行うような、捻り機構18と進退機構17の制御が実現される。
図10は、撮像部の視野の移動を説明する他の図である。図10に示すように、制御部33は、撮像部の視野を基準軸AX1周りに回転させる捻り機構18の制御と、撮像部の視野を基準軸AX1に沿った方向に移動させる進退機構17の制御とを交互に実行してもよい。図10の例であれば、制御部33は、まず捻り機構18を制御することによって視野を基準軸AX1周りに1回転させ(D1)、その後、進退機構17を制御することによって視野を基準軸AX1に沿った方向に移動させる(D2)。これ以降も同様であり、視野の基準軸AX1周りの回転と、基準軸AX1方向の移動が交互に繰り返される。
制御部33は、図9の例と同様に、例えば上式(1)を満たすvθに基づいて捻り機構18を制御する。ただし、進退機構17については捻り機構18と排他的に制御されるため、制御に関する制約が小さい。具体的には、進退機構17による視野の移動速度は任意であり、制御部33は、1回の移動による移動量を制御すればよい。例えば制御部33は、D2に示す1回の移動による移動量が撮像範囲の縦方向の長さであるH以下となるように、進退機構17を制御する。このようにすれば、管腔の長手方向において、撮像されない領域が発生することを抑制できる。
また図9(A)、図10においては、撮像部の視野が同じ方向に連続的に回転可能である場合の走査を説明した。しかし、捻り機構18の構成によっては、同じ方向への回転数が制限される場合も考えられる。例えば、図6に示すように挿入部2bの先端側に回転機構18bが設けられる場合、当該回転機構18bを含む部分が洗浄等の対象となるため、多回転を実現するには洗浄に耐えられるメカニカルシールが必要となる。これに対して、同一方向での回転数を制限することによって、シールの実現が容易になる。よって制御部33は、同じ方向への連続的な回転を含まない制御を行ってもよい。
図11は撮像部の視野の移動を説明する他の図である。図10に示す例と同様に、制御部33は、撮像部の視野を基準軸AX1周りに回転させる捻り機構18の制御と、撮像部の視野を基準軸AX1に沿った方向に移動させる進退機構17の制御とを交互に実行する。ただし、制御部33は、撮像部の視野の所定方向への回転と、逆方向への回転とを交互に行うように捻り機構18を制御する。
図11の例であれば、制御部33は、撮像部の視野を所定方向へ1回転させた後(E1)、基準軸AX1に沿った方向に所定量だけ移動させ(E2)、撮像部の視野をE1とは逆方向に1回転させる制御を行う(E3)。これ以降も同様であり、1回転ごとに回転方向が切り替えられる。またここでは所定方向への連続する回転数が1回転の例を示したが、回転数は2回転以上であってもよい。
この場合も制御部33は、管腔の周方向と長手方向の両方において、撮像されない領域が発生することを抑制するように、捻り機構18及び進退機構17を制御する。例えば制御部33は、例えば上式(1)を満たすvθに基づいて捻り機構18を制御し、且つ、E2に示す1回の移動量が撮像範囲の縦方向の長さであるH以下となるように進退機構17を制御する。
以上のように、本実施形態に係る内視鏡システム1は、管腔に挿入される挿入部2bと、被写体光取得部20と、撮像部と、捻り機構18と、進退機構17と、制御部33を含む。被写体光取得部20は、挿入部2bに設けられ、被写体からの光である被写体光を取得する。撮像部は、被写体光に基づいて撮像することによって、視野内の撮像画像を取得する。捻り機構18は、被写体光取得部20を回転させる。例えば捻り機構18は、挿入部2bの軸を基準軸AX1とした場合に、基準軸AX1を回転軸として被写体光取得部20を回転させる。進退機構17は、挿入部2bを挿入方向又は抜去方向へ移動させる。挿入方向とは、管腔の奥方向であって、管腔が腸管である場合、肛門から盲腸近傍へ向かう方向である。抜去方向とは、挿入方向とは反対の方向である。例えば進退機構17は、挿入部2bを基準軸AX1に対応する方向に移動させる。制御部33は、捻り機構18と進退機構17とを制御することによって、撮像部の視野の動きを制御する。そして制御部33は、視野によって管腔の内壁の走査を行うように捻り機構18と進退機構17とを制御する。
ここで、基準軸AX1に対応する方向とは、基準軸AX1と同一又は略同一の方向であって、当該方向と基準軸AX1とのなす角度が所与の角度閾値以下である方向を表す。
本実施形態の手法によれば、捻り機構18と進退機構17とを有することによって挿入部2bの自動制御が可能な内視鏡システム1において、管腔内壁を走査するように撮像を行うことが可能になる。内視鏡システム1を用いた観察において撮像されない部分の発生が抑制されるため、注目領域の見逃し抑制が可能である。
また制御部33は、進退機構17を用いた基準軸AX1に沿った方向における挿入部2bの移動と、捻り機構18を用いた管腔の周方向における被写体光取得部20の周期的な回転と、を組み合わせることによって、走査を行う。
ここでの周期的な回転とは、図9(A)のように同じ方向の回転の連続的な繰り返しであってもよい。また周期的な回転は、回転の間欠的な繰り返しであってもよい。間欠的な繰り返しとは、例えば図10のように所与の方向に所与の回転量の回転が行われた後、基準軸AX1に沿った方向の移動が行われる期間を挟んでから、再度、同方向、同回転量の回転が行われることを表す。また周期的な回転は、図11のように所与の方向への回転と逆方向への回転の両方を含むものであってもよい。
このようにすれば、周期的な制御を行うことによって、撮像されない部分の発生を抑制することが可能になる。即ち、1周期分の制御を実現できれば、それ以降は同様の制御を繰り返せばよいため、制御に必要な情報の量を削減でき、制御の自動化も容易である。制御に必要な情報とは、例えば上述したvθやvz等の制御パラメータや、当該制御パラメータに従った進退機構17及び捻り機構18の制御を制御部33に実行させるための制御プログラムを含む。
また所与のタイミングにおいて、撮像部によって撮像された撮像画像を第1撮像画像とする。第1撮像画像の撮像後に、被写体光取得部20を基準軸AX1周りに略1回転させる制御と、進退機構17によって挿入部2bを基準軸AX1に沿った方向に移動させる制御とを組み合わせた制御が制御部33によって行われ、当該制御後に、撮像部によって撮像された撮像画像を第2撮像画像とする。この場合、制御部33は、第1撮像画像を撮像した際の視野と、第2撮像画像を撮像した際の視野とが重複部分を有するように、捻り機構18と進退機構17とを制御する。換言すれば、制御部33は、第1撮像画像と第2撮像画像が重複部分を有するように、捻り機構18と進退機構17とを制御する。
管腔内面の全体をもれなく撮像することを考えた場合、撮像画像同士が重複することが重要である。例えば上式(1)に示したように、所与のフレームでの撮像画像と、次のフレームでの撮像画像とが重複するように、捻り機構18による回転速度を制御する必要がある。ただし撮像部の視野を回転させながら管腔内壁を観察する場合、所与の1回転と、次の1回転との間の重複も考慮する必要がある。具体的には、上式(2)に示したように、進退機構17による移動速度又は移動量を制御する必要がある。
第1撮像画像は例えばC3に示す撮像範囲を撮像した画像であり、第2撮像画像は例えばC4に示す撮像範囲を撮像した画像である。第1撮像画像と第2撮像画像が重複領域を有することによって、管腔の長手方向において、所与の撮像画像に撮像された撮像範囲と、異なる撮像画像に撮像された撮像範囲との間に隙間が生じることが抑制される。
なお、撮像のフレームレート及び捻り機構18による回転速度の設定によっては、第1撮像画像と第2撮像画像が必ずしも同じ方向からの被写体光を撮像したものになるとは限らない。即ち上記の略1回転における回転角度は、360°であってもよいがこれに限定されず、360°との差が所与の閾値以下となる他の角度であってもよい。
また図11の例を考慮すれば、第2撮像画像は、第1撮像画像を基準として視野が略1回転した状態で撮像された画像に限定されない。例えば、基準軸AX1周りの回転角度がφAである方向からの被写体光を撮像部が撮像した撮像画像を第1撮像画像とする。そして、第1撮像画像の撮像後に、制御部33によって、被写体光取得部20を基準軸AX1周りに回転させる制御と、進退機構17によって挿入部2bを基準軸AX1に沿った方向に移動させる制御とを組み合わせた制御が行われ、制御部33の当該制御後に、基準軸AX1周りの回転角度がφBである方向からの被写体光を撮像部が撮像した撮像画像を第2撮像画像としてもよい。φBは、φAとの差分が所定閾値以下となる角度を表す。即ち、第1撮像画像を撮像してから第2撮像画像を撮像するまでの撮像部の視野の具体的な動きは任意である。例えば、撮像部の視野が所与の方向に1回転してもよいし、途中で回転方向が切り替わってもよい。その場合であっても、基準軸AX1に垂直な方向のうちの所与の方向を撮像した第1撮像画像と、第1撮像画像の次に略同一の方向を撮像した第2撮像画像とが重複するような制御を行うことによって、管腔の長手方向において撮像されない部分が生じることが抑制される。
また制御部33は、図9(A)に示すように、捻り機構18による回転と進退機構17による移動を行うことによって、被写体光取得部20をらせん状に移動させる制御を行ってもよい。狭義には、捻り機構18による回転と進退機構17による移動は同時に行われる。また制御部33は、図10、図11に示すように、捻り機構18による回転と進退機構17による移動を交互に行う制御を行ってもよい。
捻り機構18による回転と進退機構17による移動を同時に行った場合、管腔の観察を高速化することが可能になる。そのため、医師や患者の負担軽減が可能になる。捻り機構18による回転と進退機構17による移動を交互に行った場合、撮像部の視野を重複させる制御が容易になる。そのため、撮像されない領域の発生をより抑制可能である。
また捻り機構18は、挿入部2bの先端を基準軸AX1周りに回転可能な機構を有してもよい。ここでの機構は、具体的には図6に示す回転機構18bに対応する。
このようにすれば、挿入部2bの全体を回転させる必要がないため、挿入部2bの回転に伴って操作部2aが動くことがなく、観察が容易となる。一方、図4に示すように挿入部2b全体を回転させる場合、回転機構のシールを考慮する必要がないという利点がある。
また本実施形態においては、挿入部2bが管腔の奥方向へ挿入された後、手前方向へ抜き出すことによって管腔の観察が行われてもよい。奥方向への挿入とは、通常、肛門から盲腸、または、盲腸までの挿入可能な最深部までの挿入である。そして制御部33は、少なくとも挿入部2bを手前方向へ抜き出す際に、捻り機構18と進退機構17とを制御する。
大腸等の管腔構造では、挿入部2bの挿入の際には、種々の屈曲部を超える必要がある。挿入中は、挿入を容易にするために管腔を脱気した上で、先端部11を管腔の壁面に押し当てる等の手法が用いられるため、管腔構造の観察が難しい。そのため、最奥部への挿入後に、管腔に送気を行った状態で管腔内壁の観察が行われる。
本実施形態の手法は、管腔構造の見逃しを抑制するための挿入部2bの制御に関するものであり、当該制御は抜き出し時に好適な制御である。
ただし、制御部33は、挿入部2bを管腔の奥方向へ挿入する際に、捻り機構18と進退機構17とを制御することは妨げられない。上述したように、挿入には屈曲部を超える等の操作が必要であり、軸保持短縮法等の種々の手法が知られている。制御部33が捻り機構18及び進退機構17を制御することによって、挿入部2bの挿入を適切にサポートすることが可能になる。例えば、医師の熟練度によらず適切な挿入を実行できるため、患者負担の軽減が可能である。
また本実施形態の手法は、以下の管腔操作方法に適用できる。管腔操作方法は、内視鏡システム1の挿入部2bを管腔に挿入することと、撮像部の視野によって管腔の内壁の走査を行うように、被写体光取得部20を回転させる捻り動作と、挿入部2bの挿入方向又は抜去方向に撮像部を移動させる進退動作とを行うことと、を含む。例えば捻り動作は、基準軸AX1を回転軸として被写体光取得部20を回転させる動作である。また進退動作は、基準軸AX1に沿った方向に挿入部2bを移動させる動作である。ここでの内視鏡システム1は、上述したように、挿入部2bと、当該挿入部2bに設けられ被写体からの戻り光である被写体光を取得する被写体光取得部20と、被写体光に基づいて撮像することによって視野内の撮像画像を取得する撮像部と、を有する。
また管腔操作方法は、進退動作と、管腔の周方向において被写体光取得部20を周期的に回転させる捻り動作と、を組み合わせることによって、走査を行ってもよい。
2.4 走査時の具体的な制御
以上で説明した捻り機構18及び進退機構17の制御を行うことによって、管腔構造の内面を網羅的に撮像することが可能になる。ただし、管腔が変形しやすい場合、管腔の状態によっては上記の制御を行ったとしても適切に撮像を行うことが難しい。例えば管腔が腸管である場合、腸管は伸縮するため、腸管内の気圧に応じて襞の状態等が変化する。送気が十分でない場合、図14を用いて後述する隠れ部分が発生しやすくなるため、見逃しも発生しやすくなる。
よって制御部33は、捻り機構18と進退機構17とを制御することによって管腔の内壁の走査を行う際に、管腔の状態を保つ制御を行う。このようにすれば、挿入部2bの先端部11、狭義には被写体光取得部20が管腔壁面に接触したり、管腔の一部によって他の部分が遮蔽されること等を抑制可能である。即ち、撮像画像に十分に撮像されない隠れ部分の発生を抑制すること等が可能になる。
より具体的には、制御部33は、管腔に対して気体を注入する送気及び管腔から気体を排出する脱気を行う制御を、管腔の状態を保つ制御として実行する。このようにすれば、管腔内の気圧を維持することが可能になるため、観察に適した状態を適切に維持できる。なお上述したように、腸管の観察においては送気を行うことによって腸管を膨らませる制御が重要である。ただし、送気が過剰に行われた場合、患者の負担が増大してしまう。送気と脱気の両方を行うことによって、適切な状態の維持が可能である。
また制御部33は、被検体の体位を調整する制御を、管腔の状態を保つ制御として実行してもよい。腸管等の生体内の部位を観察対象とする場合、被験体の体位によって腸管の状態が変化する。ここでの体位とは、例えば右側臥位、左側臥位、仰臥位等を含む。体位を制御することによって、腸管の観察を容易にすることが可能になる。
なお、ここでの「管腔の状態を保つ」とは、管腔が観察に適した状態を維持することを表す。即ち、観察に適した体位が一定である場合、管腔の状態を保つ制御とは、体位を一定に保つための制御に相当する。ただし腸管の部位ごとに好ましい体位が異なる場合、部位に応じた体位をとらせることによって、管腔の状態を観察に適した状態に保つことが可能になる。この場合、管腔の状態を保つ制御とは、部位に応じて体位変更を行わせる制御に相当する。
なお被検体の体位を調整する制御とは、体位変更を指示する情報を提示する制御であってもよい。或いは、被検体の体位を調整する制御とは、被験体が寝ているベッド8を制御するものであってもよい。例えばベッド8は傾きを変更するための駆動部を含み、制御部33は当該駆動部に対して駆動を指示する信号を出力することによって被検体の体位を調整してもよい。
なお、送気及び脱気を行う制御と、被検体の体位を調整する制御は、その両方が行われてもよいし、いずれか一方が行われてもよい。
2.5 再走査
また本実施形態では、撮像結果に基づいて走査に対するフィードバックが行われてもよい。具体的には、制御部33は、管腔のうちの走査が行われた部分において、撮像部の視野に入っていない部分が存在すると判定された場合に、再走査を行ってもよい。ここで視野に入っていないとは、具体的には走査の開始から処理対象タイミングまでの期間において、1度も撮像部の視野に入っていないことを表す。
例えば制御部33は、図9(B)のC3及びC4に示した2つの撮像範囲が重複しない場合に、撮像部の視野に入っていない部分が存在すると判定する。より具体的には、制御部33は、第1撮像画像と第2撮像画像との比較処理を行い、重複する部分があるか否かを判定する。例えば制御部33は、第1撮像画像の一部をテンプレート画像とするテンプレートマッチングを行う。或いは、第3の実施形態において後述するように管腔構造情報が取得可能であれば、制御部33は、管腔構造情報に欠落がある場合に、撮像部の視野に入っていない部分が存在すると判定してもよい。
再走査は、例えば挿入部2bを所定量だけ奥方向に再挿入した後、それまでと同様の走査条件を用いて行われてもよい。ここでの走査条件は、捻り機構18の制御条件及び進退機構17の制御条件を少なくとも含む。例えば走査条件は、捻り機構18による回転速度や、進退機構17による移動速度又は移動量を含む。或いは第2の実施形態において後述するように、再走査においては、走査条件が変更されてもよい。例えば制御部33は、進退機構17による基準軸AX1に沿った方向での先端部11の移動速度、又は移動量を抑制する。
3.第2の実施形態
図12は、本実施形態の画像処理装置3の構成例を示す図である。図12に示すように、画像処理装置3は、図3を用いて上述した構成に加えて、分析部36と、分析可否判定部37を含んでもよい。ただし画像処理装置3は図12の構成に限定されず、分析部36と分析可否判定部37のいずれか一方を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。以下、各部について詳細に説明する。また、分析部36と分析可否判定部37の少なくとも一方は、画像処理装置3とは異なる装置に設けられてもよい。
3.1 分析部
分析部36は、撮像画像に基づいて分析を行う。例えば注目領域が病変である場合、分析とは、撮像画像から病変を検出する検出処理であってもよいし、当該病変を悪性度に応じて分類する分類処理であってもよい。分析部36を含むことによって、挿入部2bの走査だけでなく、注目領域に関する分析についてもユーザをサポートすることが可能になる。
分析部36は、撮像画像に対する画像処理を行うことによって検出処理又は分類処理を行う。ここでの画像処理は、例えば画像に基づいて特徴量を求め、当該特徴量が所定の条件を満たすか否かを判定する処理である。特徴量は、画像の輝度であってもよいし、明度、色相、彩度であってもよいし、エッジ抽出処理の結果であってもよいし、所与のテンプレート画像を用いたマッチング処理の結果であってもよい。テンプレート画像とは、例えば注目領域が撮像された画像である。条件を満たすか否かの判定とは、例えば特徴量の値と所与の閾値との比較処理である。
或いは、分析部36は、学習済モデルを用いて分析を行ってもよい。例えば、学習装置は、学習用画像に対して正解データが付与された学習用データに基づいて学習済モデルを生成する処理を行う。学習用画像とは、管腔の内部を撮像した画像であり、狭義には腸管を撮像した生体内画像である。正解データとは、学習画像に含まれる注目領域を特定する情報である。ここでの正解データは、注目領域を内包する検出枠の位置と、当該検出枠に含まれる被写体の種類を特定する情報である。被写体の種類とは、例えば「正常粘膜」、「ポリープ」等を含む。或いは正解データは、学習用画像の各画素について、当該画素に撮像された被写体の種類を特定する情報であってもよい。
ここでのモデルは、例えば広く知られているニューラルネットワークである。学習装置は、ニューラルネットワークに学習用画像を入力し、その時点での重み付け係数を用いた演算を行うことによって出力を求める。学習装置は、出力と正解データとの誤差を表す誤差関数を求め、当該誤差関数を小さくするように重み付け係数を更新する。重み付け係数の更新には、例えば広く知られた誤差逆伝播法等を適用できる。学習装置は、多数の学習用データを用いて重み付け係数の更新を繰り返すことによって学習済モデルを生成する。
画像処理装置3の記憶部34は学習済モデルを記憶する。ここでの学習済モデルは、重み付け係数を含む。また学習済モデルは、重み付け係数に基づいて順方向の演算を行うための推論プログラムを含んでもよい。分析部36は、記憶部34から学習済モデルを取得する。分析部36は、画像処理部32から出力される撮像画像を学習済モデルに入力することによって、分析結果を取得する。分析結果は、上述したように検出枠と当該検出枠に含まれる被写体の種類とを特定する情報である。或いは、分析結果は、入力である撮像画像の各画素について、当該画素に撮像された被写体の種類を特定する情報である。また分析結果は、検出枠や被写体の種類の確からしさを表す情報を含んでもよい。
制御部33は、撮像画像に対応する視野のうち、分析部36による分析が可能な部分によって管腔の内壁の走査を行うように、捻り機構18と進退機構17とを制御する。
第1の実施形態において上述したように、撮像部の視野によって管腔の内壁を走査することによって、一度も視野に入ることなく見過ごされる部分の発生を抑制可能である。しかし、視野内に入った部分であったとしても、当該部分が分析可能な状態で撮像されていない場合、分析部36による分析を適切に実行できない。具体的には、上述した検出処理や分類処理の精度が低下することによって、注目領域が検出できなかったり、分類を誤るおそれがある。その点、視野全体ではなく、そのうちの分析可能な部分によって走査を行うことによって、分析を適切に実行できる蓋然性を高めることが可能になる。
具体的には、撮像画像のうち分析部36による分析が可能な領域を分析可能領域とした場合に、制御部33は、第1撮像画像に対応する分析可能領域と、第2撮像画像に対応する分析可能領域とが重複するように、捻り機構18と進退機構17とを制御する。上述したように、第1撮像画像は、例えば図9(B)のC3に示す撮像範囲を撮像した画像であり、第2撮像画像はC4に示す撮像範囲を撮像した画像である。このようにすれば、撮像画像に基づいて、視野のうち、分析が可能な部分による適切な走査が行われたか否かを判定できる。
例えば、撮像画像のうち、中央領域では明るく分析に適した画像が取得できるのに対して、周縁領域では暗く分析に適していない画像が取得されることが走査前に既知である場合、記憶部34は、中央領域同士が重複するように設定された回転速度vθ及び移動速度vzを記憶しておく。そして制御部33は、記憶部34に記憶された情報に基づいて、捻り機構18及び進退機構17を制御する。
ただし、撮像画像のいずれの領域が分析可能領域であるかは撮像画像が取得されなければわからないケースも考えられる。この場合、分析可否判定部37の判定結果に基づいて、分析可能領域が決定される。決定後の分析可能領域に基づいて、複数の撮像画像の分析可能領域が重複しないと判定された場合、制御部33は再走査を行ってもよい。
また分析部36が、撮像画像から注目領域を検出した場合に、制御部33は、注目領域に関する情報を記憶する処理、及び、注目領域に関する情報をユーザに提示する処理の少なくとも一方の処理を行ってもよい。
分析部36による分析は、例えば観察中にリアルタイムに実行されてもよい。この場合、注目領域に関する情報をユーザに提示する処理を行うことによって、ユーザによる注目領域の観察をサポートすることが可能になる。例えば注目領域が撮像されているにもかかわらず、ユーザが見逃すことを抑制できる。或いは、リアルタイムに検出された注目領域に関する情報を記憶することによって、観察終了後等の任意のタイミングにおいて、ユーザに提示すること等が可能になる。
また分析部36による分析は、例えば観察終了後に実行されてもよい。この場合、ユーザは記憶された注目領域に関する情報を取得、閲覧することによって、任意のタイミングにおいて注目領域の有無や悪性度を判定することが可能になる。
3.2 分析可否判定
次に分析可否判定部37が実行する判定処理について説明する。分析可否判定部37は、撮像画像に基づいて、当該撮像画像に撮像された被写体が分析可能な状態であるか否かを判定する。分析可否判定部37の出力する情報を、分析可否情報とも表記する。以下では、管腔構造のうち、分析可能状態で撮像された部分を分析可能部分と表記し、それ以外の部分を分析不可部分と表記する。
まず分析が可能/不可能とはどういうことであるかについて検討する。第1の実施形態においても上述したように、そもそも撮像部の視野に一度も入っていない部分については、分析不可である。例えば上述したように、第1撮像画像と第2撮像画像が重複しない場合に、視野に入っていない分析不可部分があると判定される。或いは第3の実施形態において後述するように、管腔構造情報取得の欠落に基づいて当該部分の有無が判定される。
視野に入っているが分析不可と判定される分析不可部分は、例えば以下の2つが考えられる。第1に、撮像部の視野内に位置し、撮像画像上にも見えているが撮像条件が悪い部分である。第2に、撮像部の視野内に位置するが撮像画像上に見えていない部分である。
撮像条件が悪いとは、例えば撮像部と病変との距離が遠い、或いは病変を斜め方向から撮像している等の要因によって、解像度が低い場合等に相当する。解像度が低いとは、具体的には病変の画像上でのサイズが非常に小さいことを表す。撮像条件が悪い部分は、撮像自体は行われているものの、病変検出、或いは、悪性度判定の精度が低く、所望の分析を実行できない。そのため本実施形態の手法においては、撮像条件が悪い部分が存在する場合、病変を見逃すおそれがあると判定される。
また撮像画像上に見えていない部分とは、例えば遮蔽物によって遮蔽された部分に相当する。ここでの遮蔽物は、残渣、泡、汚水、止血用のクリップ等、腸管以外の物体である。腸管のうち、遮蔽物によって遮蔽される部分は撮像画像上で視認できないため、当該遮蔽物の裏に存在する病変が見逃される。よって遮蔽物が存在する場合も、病変を見逃すおそれがあると判定される。また、撮像部の視野内に位置するが撮像画像上に見えていない部分には、襞等の管腔構造に起因して発生する隠れ部分も含まれる。隠れ部分とは例えば襞の裏面である。裏面とは襞の面のうち、撮像部と反対側に位置する面を表す。襞の裏面は当該襞の撮像部側の面に遮蔽されるため、視野内であっても撮像画像に撮像されない。
分析可否判定部37は、腸管のうち、撮像部の視野内に位置し、撮像画像上にも見えており、且つ、撮像条件がよい部分を分析可能部分と判定し、それ以外の部分を分析不可部分と判定する。
以上の説明からわかるように、分析不可部分には、以下の3つの態様が考えられる。本実施形態の手法では、分析不可部分を以下の(1)~(3)のいずれかに分類してもよい。説明の便宜上、(1)に分類される分析不可部分を第1分析不可部分とも表記する。同様に、(2)、(3)に分類される分析不可部分を、それぞれ第2分析不可部分、第3分析不可部分とも表記する。また分類が不要なケースにおいては、以下の(1)~(3)のいずれについても単に分析不可部分と表記する。また分類は以下の3つに限定されず、より細分化されてもよい。
(1)撮像部の視野内に位置し、撮像画像上にも見えているが撮像条件が悪い部分
(2)撮像部の視野内に位置するが撮像画像上に見えていない部分
(3)撮像部の視野内に一度も入っていない部分
分析可否判定部37は、撮像画像のうち、分析不可部分に対応する画像上の領域を分析不可領域として検出する。なお分析不可部分を細分化する場合、第1分析不可部分に対応する画像上の領域を第1分析不可領域とする。同様に、第2分析不可部分に対応する画像上の領域を第2分析不可領域とする。第3分析不可部分は撮像されていないため、第3分析不可領域については考慮する必要がない。
図13は、分析可否の判定処理を説明するフローチャートである。この処理が開始されると、まず分析可否判定部37は、画像処理部32から撮像画像を取得する(S21)。次に分析可否判定部37は、撮像画像の画質に基づいて分析可否を判定する(S22)。ここでの画質とは、具体的には撮像画像の明るさ、撮像角度、遮蔽度合いを表す情報である。遮蔽度合いとは、狭義には遮蔽物の有無である。
明るさを表す情報は、具体的には輝度の情報である。輝度は、RGBの3つ画素値の重み付け和であり、種々の重みを利用可能である。撮像画像のうち極端に明るい領域、例えば白飛びしている領域は、管腔の具体的な情報が含まれておらず、分析に適していない。管腔の情報とは、管腔表面の凹凸構造、管腔表面或いは内部の血管構造、粘膜の色味等の種々の情報を含む。よって分析可否判定部37は、撮像画像のうち、明るさが所定以上の領域を分析不可領域と判定する。例えば分析可否判定部37は、輝度が所与の第1輝度閾値以上の領域を分析不可領域と判定する。
また撮像画像のうち極端に暗い領域、例えば黒つぶれしている領域も、管腔の具体的な情報が含まれておらず、分析に適していない。よって分析可否判定部37は、撮像画像のうち、明るさが所定以下の領域を分析不可領域と判定する。例えば分析可否判定部37は、輝度が所与の第2輝度閾値以下の領域を分析不可領域と判定する。ここで、第1輝度閾値>第2輝度閾値である。また明るさを表す情報として明度等の他の情報が用いられてもよい。
なお白飛び、黒つぶれした領域については、管腔の情報が失われる蓋然性が高いため、分析可否判定部37は、当該領域を第2分析不可領域と判定する。ただし閾値の設定によっては、視認性は低いものの管腔の情報が残存する場合もある。よって分析可否判定部37は、明るさに基づいて分析不可領域と判定された領域を、第1分析不可領域としてもよい。また分析可否判定部37は、分析不可領域の分類を省略してもよい。
また分析可否判定部37は、管腔内の遮蔽物を検出し、管腔表面が当該遮蔽物によって覆われている領域を分析不可領域と判定する。残渣、汚水、泡、血液、止血用のクリップ等の遮蔽物は、粘膜等の管腔表面とは異なる色味をしている。よって分析可否判定部37は、例えば撮像画像に基づいてRGBの画素値からHSV色空間への変換処理を行い、撮像画像のうち、色相(Hue)や彩度(Saturation)が所与の範囲内の領域を遮蔽物によって遮蔽されている分析不可領域と判定する。また分析可否判定部37は、RGBの画素値からYCrCb色空間への変換処理を行い、色差信号であるCr,Cbの少なくとも一方に基づいて遮蔽物を検出してもよい。また分析可否判定部37は、明るさムラがある場合には濃淡補正等のフィルタリング処理を行った後に上記色味の判定処理を行ってもよい。濃淡補正処理とは、例えば領域ごとのガンマ補正処理である。また、止血用のクリップのように、遮蔽物の色や形状が既知である場合、分析可否判定部37は、当該遮蔽物のサンプル画像と撮像画像の比較処理を行うことによって遮蔽物を検出する処理を行ってもよい。
なお、遮蔽物に覆われている領域が存在したとしても、当該領域の面積が十分小さい場合、当該遮蔽物の下にポリープ等の注目領域が存在する蓋然性は低い。よって分析可否判定部37は、遮蔽物によって覆われている領域のうち、所定サイズ以上の領域を分析不可領域としてもよい。なお、ここでのサイズは画像上サイズであってもよいし、管腔上での実サイズであってもよい。画像上サイズから実サイズへの変換は、レンズや撮像素子等の光学特性情報と、被写体までの距離情報とに基づいて実行可能である。光学特性情報は、設計上、既知である。距離情報は、距離センサを用いて取得されてもよいし、ステレオカメラを用いたステレオ画像に基づいて算出されてもよい。また距離情報は、第3の実施形態において後述する管腔構造情報の算出結果を用いて求められてもよい。後述するように、管腔構造情報の算出処理においては、先端部11の3次元位置と特徴点の3次元位置が推定されるため、推定結果に基づいて、先端部11から撮像画像上の所与の画素までの距離を決定可能である。また分析可否判定部37は、撮像画像の明るさに基づいて距離情報を算出してもよい。この場合、明るい領域は距離が近く、暗い領域は距離が遠いと判定される。
なお遮蔽物が存在する領域については、管腔の情報が失われるため、分析可否判定部37は、当該領域を第2分析不可領域と判定する。
また分析可否判定部37は、被写体の撮像角度に基づいて分析可否を判定する。ここでの撮像角度とは、例えば先端部11と被写体を結ぶ直線と、被写体表面の法線方向とがなす角度を表す。例えば、挿入部先端と被写体が正対する場合、撮像角度は0°に近い小さい値となる。一方、光軸が管腔の長手方向に沿った方向になる場合、管腔壁面の撮像角度は0°に比べてある程度大きい値となる。撮像角度が大きい場合、被写体が斜め方向から撮像されることになるため、当該被写体の画像上でのサイズが非常に小さくなってしまい、微細な構造等の情報が失われるおそれがある。
分析可否判定部37は、例えば管腔構造情報の算出処理結果を取得し、撮像画像における各被写体の撮像角度を算出してもよい。この場合、分析可否判定部37は、撮像角度が所与の角度閾値以上となる領域を分析不可領域と判定する。或いは、分析可否判定部37は、距離情報に基づいて撮像角度を判定してもよい。例えば、撮像角度が大きい場合、画像上の狭い範囲において被写体までの距離が急激に変化する。よって分析可否判定部37は、処理対象画素を含む所与の領域における距離情報の変化度合いを判定し、変化度合いが大きい場合に、撮像角度が大きいと判定してもよい。距離情報は撮像画像の明るさ等、種々の情報に基づいて算出が可能である。例えば分析可否判定部37は、撮像画像を複数の領域に分割し、各領域の明るさ分布に基づいて撮像角度を求めてもよい。
なお分析可否判定部37は、撮像角度が大きい領域を第1分析不可領域と判定する。
以上では、画質に関する判定基準として明るさ、遮蔽度合い、撮像角度について説明した。図13のS22において、分析可否判定部37は、これらの全てを用いて判定を行ってもよい。例えば分析可否判定部37は、明るさ、遮蔽度合い、撮像角度の少なくとも1つの判定基準において分析不可と判定された領域を分析不可領域とする。ただし、分析可否判定部37は、明るさ、遮蔽度合い、撮像角度の一部の判定基準を用いて分析可否の判定を行ってもよい。
次に分析可否判定部37は、隠れ部分の有無を検出することによって分析可否の判定を行う(S23)。図14は、襞があるときの撮像画像の例を示す図である。図14に示すように、襞のように腸管の表面構造に起因して撮像されない隠れ部分が存在する場合、照明光が当たらずに暗い影となる部分SAが撮像される。暗い影の部分SAは、他の部分に比べて明るさが段階的に低くなる。そのため分析可否判定部37は、隣り合う画素あるいは隣り合う画素領域間において、輝度差が所定の輝度値以上であるとき、隠れ部分があると判定する。例えば分析可否判定部37は、暗い影の部分SAを含む所与の領域を分析不可領域と判定する。
より具体的には、分析可否判定部37は、撮像画像の明るさを表す情報を取得する。明るさを表す情報は、例えば上述した輝度である。そして分析可否判定部37は、画像中の所定の画素領域内において、隣り合う2つの画素の輝度値の差が所定値以上である、又は、暗い筋状部分がある場合に、対象の領域を分析不可領域と判定する。
或いは分析可否判定部37は、距離センサ等を用いた距離情報を取得してもよい。この場合、分析可否判定部37は、隣り合う2つの画素の距離の差が所定値以上である、又は、距離の変化が連続しない部分がある場合に、対象の領域を分析不可領域と判定する。
なお分析可否判定部37は、襞等に起因する隠れ部分が存在すると判定された領域を、第2分析不可領域であると判定する。
次に分析可否判定部37は、領域サイズに基づいて分析可否の判定を行う(S24)。ステップS22、S23の処理によって、撮像画像の各画素について、分析可能か分析不可かのいずれかの判定結果が取得されている。分析可否判定部37は、分析可能と判定された連続する画素を1つの分析可能領域に設定する。同様に、分析可否判定部37は、分析不可と判定された連続する画素を1つの分析不可領域に設定する。
分析可否判定部37は、分析可能領域のサイズが所与のサイズ閾値以下の場合に、当該分析可能領域を分析不可領域に変更する。ここでのサイズは、例えば画像上でのサイズであり、面積であってもよい。画像上での面積とは、例えば対象となる領域に含まれる画素の総数である。画質に問題がないとしても、対象となる領域の画像上での面積が極端に小さい場合、注目領域が十分な大きさで撮像されないため、適切な分析が難しい。よって面積が所定以下の領域を分析可能領域から除外することによって、分析可否を適切に判定できる。なお、面積がサイズ閾値より大きかったとしても、領域が極端に縦や横に長い場合も適切な分析が難しい。よって分析可否判定部37は、分析可能領域の縦の長さが所定以下、横の長さが所定以下の少なくとも一方が満たされる場合に、当該分析可能領域を分析不可領域に変更してもよい。また分析可否判定部37は、画像上でのサイズを実サイズに変換する処理を行い、変換後のサイズに基づいて分析可否を判定してもよい。
なお分析可否判定部37は、サイズが小さいことに起因して分析不可領域に変更された領域を、第1分析不可領域と判定する。
次に分析可否判定部37は、ユーザによって分析が実行されるかの判定を行う(S25)。ユーザによって分析が実行されない場合とは、例えば内視鏡システム1が上述した分析部36を含み、当該分析部36によって分析が行われる場合に相当する。ただし、分析部36は内視鏡システム1の外部に設けられてもよい。
分析部36が省略され、ユーザが分析を行う場合(S25でYes)、分析可否判定部37は、画像の安定性に基づいて分析可否を判定する(S26)。ここでの画像の安定性とは、時系列の撮像画像間における被写体の動きの大きさを表す。動きは、平行移動、回転、振動等を含み、先端部11と被写体とが相対的に移動することによって発生する。ユーザは動画像を見ながら注目領域の有無や悪性度等を判定することが想定される。そのため、所与のフレームにおける撮像画像が、画質や領域サイズに基づいて分析可能と判定された領域を含んでいたとしても、当該フレームを含む期間における画像の安定性が低い場合、画像上の被写体の状態が激しく変化してしまうためユーザによる分析は困難である。よって分析可否判定部37は、処理対象である撮像画像を含む時系列の画像に基づいて画像の安定性を判定し、動きが所定以上である場合に、当該処理対象である撮像画像に含まれる分析可能領域を分析不可領域に変更する。なお分析可否判定部37は、平行移動、回転、振動のそれぞれの動き量について判定を行ってもよいし、それらを総合して1つの動き量を求め、求めた動き量と閾値との比較を行ってもよい。なお動き量を求める手法は、動きベクトルやオプティカルフロー等の種々の手法が知られており、本実施形態ではそれらを広く適用可能である。動き量の大きさは、実際の寸法、または、撮像画像上での見かけ上の大きさで判断しても良い。
なお分析可否判定部37は、動きが大きいことに起因して分析不可領域と判定された領域を、第1分析不可領域と判定する。
一方、ユーザが分析を行わない場合(S25でNo)、画像の安定性が低い場合にも適切な分析が可能である。よって分析可否判定部37は、ステップS26の処理を省略する。
以上のように、内視鏡システム1は、撮像画像に基づいて、当該撮像画像に基づく分析が可能か否かを判定する分析可否判定部37を含む。このようにすれば、管腔が分析可能な状態で撮像されたか否かを適切に判定できる。
上述したように、分析可否判定部37は、撮像画像中の被写体の動きの大きさに基づいて、分析可否情報を出力してもよい。このようにすれば、例えば動きが大きいことによってユーザが画像上の被写体を観察できないおそれがある場合、分析不可と判定される。例えば、高い画質で撮像された被写体があったとしても、当該被写体が動画において常に動き続けているような場合、分析に不適であるという判定が可能になる。
また分析可否判定部37は、撮像画像の画質に基づいて、分析可否情報を出力する。このようにすれば、画質が悪いことに起因して分析ができない場合に、見逃しのおそれがあると判定することが可能になる。
また分析可否判定部37は、所与の基準に基づいて撮像画像を複数の領域に区分した後、複数の領域の各領域の大きさに基づいて、各領域における分析可否情報を出力してもよい。ここでの所与の基準とは、例えば上述したように画質である。また複数の領域とは、分析可能領域、又は分析不可領域である。1つの分析可能領域は分析可能と判定された連続する画素によって構成される。このようにすれば、分析に適さない程度に小さい領域を、分析可能領域と判定してしまうことを抑制できる。
また制御部33は、分析可否情報に基づいて、捻り機構18と進退機構17とを制御してもよい。例えば第1撮像画像の一部又は全部の領域、特に図9(B)のC3における下側の領域において分析不可領域が検出された場合、制御部33は進退機構17の移動速度又は移動量を小さくする制御を行う。この場合、図9(B)の例に比べて、第2撮像領域に対応する撮像範囲C4が上側へシフトするため、2つの撮像画像の分析可能領域を重複させやすくする制御が可能になる。即ち、管腔を網羅的に、且つ、分析可能な状態で撮像することが可能になる。
また制御部33は、管腔のうちの走査が行われた部分において、分析部36による分析が可能でない部分が存在すると判定された場合に、再走査を行ってもよい。ここでの再走査は、上述したように、挿入部2bの引き抜き量を抑制することによって同じ部分を撮像することであってもよいし、挿入部2bを奥方向に再挿入することによって同じ部分を撮像することであってもよい。このようにすれば、分析不可部分の発生を抑制できるため、見逃し抑制が可能になる。
再走査を行う際、制御部33は、走査条件を変更する制御を行ってもよい。具体的には、制御部33は、分析不可と判定された撮像画像が撮像された際の走査条件とは異なる走査条件を用いて、再走査を行う。ここでの走査条件とは、走査における先端部11の動きに関する条件、撮像画像を撮像する際の光源や光学系に関する条件、撮像画像に対して行われる画像処理の条件等を含む。
上述したように、分析不可部分が存在する場合、撮像時の画質や動き量が適切でなかった、或いは、対象とする部分は襞等、隠れ部分が発生する構造を有していると考えられる。そのため、走査条件を変更せずに再走査を行った場合、当該再走査でも同様に分析不可部分が発生するおそれがある。走査条件を変更することによって、分析不可部分の発生を抑制できる。
具体的には制御部33は、管腔に対して気体を注入する送気及び管腔から気体を排出する脱気を行う制御、管腔の内部にある遮蔽物を除去する制御、捻り機構18及び進退機構17の少なくとも一方による視野の動きを変更する制御、の少なくとも1つの制御を、走査条件を変更する制御として実行する。
例えば送気や脱気を行うことによって、襞が折りたたまれた状態を解消することが可能である。よって送気又は脱気により隠れ部分の撮像が可能になる。或いは、遮蔽物を除去することによって、遮蔽物の裏にあった被写体を撮像できる。遮蔽物の除去は、送水による洗浄によって行われてもよいし、吸引によって行われてもよい。また、遮蔽物は管腔の壁面ではなく先端部11に付着する場合もあるが、この場合も送水や吸引による除去が可能である。
また制御部33は、視野の動きを変更することによって、撮像角度や管腔までの距離を変更する。これにより、被写体を正面に近い位置から合焦した状態で撮像することができ、十分な解像度を確保することも可能になる。例えば制御部33は、挿入部2bを基準軸AX1に垂直な方向に移動させることによって、回転軸を調整してもよい。或いは制御部33は、湾曲部12の湾曲度合いを変更することによって、回転半径を変更する制御を行ってもよい。或いは、制御部33は、先端部11と管腔との距離情報を取得し、当該距離情報に応じて動的に回転半径を変更することによって、腸管表面に追従した走査を行ってもよい。距離情報は任意の手法により取得可能であり、例えば距離センサによって取得される。なお腸管表面に追従した走査を行う場合、距離情報を取得し、当該距離情報に応じて湾曲部12を制御する必要があるため、追従性を高めるためには回転速度を小さくすることが望ましい。また、撮像角度や管腔までの距離を変更することによって、撮像画像の明るさを調整することも可能である。
また制御部33は、画質を改善するために、光源部の光量を制御してもよいし、撮像信号に対するAGC(Auto Gain Control)における出力レベルを制御してもよいし、ノイズ低減等の画像処理のパラメータを制御してもよい。
また制御部33は、分析不可部分がこれから撮像する予定の範囲にあるか否かに応じて、制御を切り替えてもよい。これから撮像する予定の範囲とは、具体的には先端部11の現在位置よりも肛門側となる範囲である。例えば、制御部33は、進退機構17の制御履歴を表す情報に基づいて、先端部11の現在位置に対して、対象とする分析不可部分が手前側か奥側かを判定する。制御履歴を表す情報とは、例えば進退機構17を駆動する駆動部に含まれるエンコーダの、時系列の出力である。これから撮像する予定の範囲にない分析不可部分とは、そのままでは見逃してしまうおそれの高い部分であるため、以下では見逃し部分と表記する。
これから撮像する予定の範囲に上記第3分析不可部分が存在したとしても、それは単に未撮像なだけであって、走査を継続することによって分析可能な状態で撮像される可能性がある。よって、第3分析不可部分については走査条件を変更する必要性は低く、まずは通常の走査によって撮像を試みれば十分である。また、これから撮像する予定の範囲に存在する第1、第2分析不可部分については、走査条件を変えなくとも視野に入る蓋然性は高い。しかし上述したように、第1、第2分析不可部分とは、視野に入りながらも、撮像画像上に明確に撮像されなかった部分である。そのため制御部33は、分析不可と判定された要因を考慮した上で、走査条件を変更する。
また撮像する予定の範囲にない第1~第3分析不可部分については、いずれも奥方向への挿入という通常の走査とは異なる制御が必要となる可能性がある。よって制御部33は、挿入部2bを挿入する制御を行い、さらに走査条件を変更した上で再走査を実行する。なお挿入部2bを挿入する制御は、捻り機構18や進退機構17を用いて挿入部2bを自動挿入する制御であってもよいし、ユーザに挿入を要求する提示制御等であってもよい。
4.第3の実施形態
また内視鏡システム1は、管腔構造を示す管腔構造情報を取得してもよい。以下、管腔構造情報の取得処理について詳細に説明する。また管腔構造情報と、第2の実施形態において上述した分析可否情報とを関連付ける手法についても説明する。
4.1 管腔構造情報の取得処理
図15は本実施形態の内視鏡システム1の構成を示す図である。内視鏡システム1は、図1に示す構成に加えて、管腔構造検出装置5及び磁場発生装置7を含んでもよい。
挿入部2bの先端部11には、磁気センサ16が配置されている。具体的には、磁気センサ16は、先端部11の撮像素子15の近傍に配置され、撮像素子15の視点の位置と姿勢を検出するための検出装置である。磁気センサ16は、2つのコイル16a、16bを有する。例えば、円筒状の2つのコイル16a、16bの2つの中心軸は、互いに直交している。よって、磁気センサ16は、6軸のセンサであり、先端部11の位置座標と配向を検出する。ここでの配向とはオイラー角を表す。磁気センサ16の信号線2eが、内視鏡2から延出し、管腔構造検出装置5に接続されている。
磁場発生装置7が所定の磁場を発生し、磁気センサ16は、磁場発生装置7が発生する磁場を検出する。磁場発生装置7は、信号線7aにより管腔構造検出装置5と接続されている。磁場の検出信号は、信号線2eを経由して内視鏡2から管腔構造検出装置5へ供給される。なお、磁気センサ16に代えて先端部11に磁場発生素子を設け、磁場発生装置7に代えて、患者Paの外部に磁気センサを設けるようにして、先端部11の位置及び姿勢を検出するようにしてもよい。ここでは、磁気センサ16により、先端部11の位置及び姿勢、言い換えれば撮像素子15により取得される撮像画像の視点の位置及び向きがリアルタイムで検出される。
図16は管腔構造検出装置5の構成例である。管腔構造検出装置5は、プロセッサ51と、記憶装置52と、インターフェース53と、位置姿勢検出部55と、駆動回路56を含む。管腔構造検出装置5の各部は、バス58により互いに接続されている。
プロセッサ51は、CPUとメモリを有し、管腔構造検出装置5内の各部の処理を制御する制御部である。メモリは、ROM、RAMなどを含む記憶部である。ROMには、CPUにより実行される各種処理プログラム及び各種データが記憶されている。CPUは、ROM及び記憶装置52に格納された各種プログラムを読み出して実行することができる。
記憶装置52には、管腔構造算出プログラムが格納されている。管腔構造算出プログラムは、先端部11の位置及び姿勢の情報と、撮像画像とから管腔構造情報を算出するソフトウエアプログラムである。CPUが管腔構造算出プログラムを読み出して実行することにより、プロセッサ51は、撮像素子15により得られた撮像画像と磁気センサ16に検出された先端部11の3次元配置とに基づいて、管腔の3次元構造を算出する管腔構造算出部を構成する。
インターフェース53は、プロセッサ51によって算出された管腔構造情報を、画像処理装置3に出力する。インターフェース53は、例えば画像処理装置3との通信を行う通信インターフェースである。
またインターフェース53は、画像取込部を兼ねてもよい。画像取込部は、画像処理装置3において得られた撮像画像を、一定の周期で取り込む処理部である。例えば、内視鏡2から、フレームレートと同じ、1秒間に30枚の撮像画像を、画像処理装置3から取得する。なお、ここでは、画像取込部は、1秒間に30枚の撮像画像を取り込んでいるが、フレームレートよりも長い周期で撮像画像を取得するようにしてもよい。例えば画像取込部は、1秒間に3枚等の撮像画像を取り込んでもよい。
位置姿勢検出部55は、磁場発生装置7を駆動する駆動回路56を制御して、磁場発生装置7に所定の磁場を発生させる。位置姿勢検出部55は、その磁場を磁気センサ16により検出し、その検出された磁場の検出信号から、撮像素子15の位置座標(x、y、z)と配向(vx、vy、vz)のデータを生成する。配向とはオイラー角を表す。即ち、位置姿勢検出部55は、磁気センサ16からの検出信号に基づいて、撮像素子15の位置と姿勢を検出する検出装置である。
図17は、管腔構造の算出処理の流れの例を示すフローチャートである。はじめに、医者は、挿入部2bの先端部11を肛門の位置を配置した状態で、不図示の入力装置に対して所定の操作を行う。当該操作に基づいて、プロセッサ51は、位置姿勢検出部55からの位置と姿勢のデータを、管腔構造を算出するときの先端部11の基準位置と基準姿勢として設定する(S1)。例えば医者は、先端部11を肛門に当てた状態で、3次元空間内の肛門の位置における先端部11の基準位置と基準姿勢を初期値とする設定を行う。以下の処理で算出される管腔構造は、ここで設定された基準位置と基準姿勢に基づいて算出される。
基準位置と基準姿勢の設定後、医者は、先端部11を大腸の最奥部まで挿入する。挿入部2bの先端部11が大腸の最奥部にある状態から、空気を送気して大腸内を拡張しながら、医者は、挿入部2bを引きながら肛門に向かって移動させ、途中で挿入部2bの引き抜きを停止させたりしながら、湾曲部12を種々の方向に湾曲させて大腸の内壁を観察する。医者が大腸の内壁を観察しているときに、大腸の管腔構造が算出される。
画像取込部であるインターフェース53は、画像処理装置3から30分の1秒毎に供給される撮像画像から所定の周期Δt毎の撮像画像を取得する(S2)。周期Δtは、例えば0.5秒である。CPUは、撮像画像を取得したときの位置姿勢検出部55の出力する先端部11の位置と姿勢の情報を取得する(S3)。
プロセッサ51は、S2で取得した1枚の撮像画像とその前に取得済の1枚以上の撮像画像とにおける複数の特徴点等の3次元空間内の位置情報を算出する(S4)。算出された複数の特徴点等の位置情報の集合が、管腔構造の情報となる。後述するように、各特徴点の位置情報は、画像情報からSLAM(Simultaneous Localization and Mapping)、SfM(Structure from Motion)などの手法を用いて算出してもよいし、三角測量の原理を用いて算出してもよい。各特徴点の位置の算出方法については後述する。
なお、最初の1枚の撮像画像が取得されたときは、その前の取得済の撮像画像はないので、所定枚数の撮像画像が取得されるまでは、S4の処理は実行されない。
プロセッサ51は、算出された複数の特徴点等の位置情報を追加することによって、管腔構造情報を作成或いは更新する(S5)。
図18は、管腔構造情報の例である。S5で作成される管腔構造情報は、内視鏡2により観察した領域における1以上の特徴点等の集合から構成される。管腔構造情報は、3Dデータである。図18は、管腔構造情報を所与の視点から見たときの画像を表す。例えば管腔構造情報を表示する場合、ユーザは視点位置を変更する指示を入力することによって、360度の所望の方向から見たからときの管腔の構造を確認することができる。
また図18では管腔における凹凸まで考慮した管腔構造情報を例示した。ただし管腔構造情報はより簡略化された情報であってもよい。例えば、管腔構造情報は円筒モデルであってもよい。管腔を円筒であると仮定することによって、処理負荷を軽減することが可能になる。例えば後述するように磁気センサ16等のセンサを用いない実施形態においては、管腔の形状を円筒とすることによる計算量の削減効果が大きい。また、簡略化の仕方として、屈曲の無い直線状の管腔や単純な屈曲のみを想定したり、標準的な管腔構造の部位ごとの長さや径等のサイズのみ異なる構造モデルを想定しても良い。
管腔構造検出装置5のインターフェース53は、生成された管腔構造情報を画像処理装置3に出力する(S6)。またS6において、インターフェース53は、管腔構造情報をモニタ6に表示する制御を行ってもよい。次に、プロセッサ51は、挿入部2bが患者から抜去されたか否かを判定する(S7)。例えばユーザは、挿入部2bを抜去した場合に、不図示の入力装置を用いて観察終了を表すユーザ入力を行う。プロセッサ51は、当該ユーザ入力に基づいてS7に示す判定を行う。抜去が行われていない場合(S7でNo)、処理はS2に戻る。
S4の特徴点等の位置の算出は、種々の方法がある。以下に、いくつかの方法について説明する。プロセッサ51は、SLAM,SfMなどの手法を利用して、連続する複数の画像上の特徴点の位置を算出してもよい。
管腔構造情報の生成において、非線形最小二乗法を用いて、画像から、内部パラメータ、外部パラメータ及び世界座標点群を最適化するバンドル調整を適用可能である。例えば、推定された各パラメータを用いて、抽出された複数の特徴点の世界座標点を透視投影変換し、再投影誤差が最小になるように、各パラメータと各世界座標点群が求められる。
先端部11についての外部パラメータは、5点及び8点アルゴリズムを解くことによって算出される。特徴点の位置は、先端部11の位置と三角測量法に従って算出される。画像平面上に投影された3D点の座標と、再投影誤差による特徴点との誤差Eは、次の式(3)により表される。
ここで、Lは、K個の画像上の特徴点の数であり、Psjは、画像平面上に三角測量と先端部11のパラメータにより推定された3D点Piの座標位置であり、Piは、画像上の対応する特徴点の座標位置である。先端部11の位置座標は、LM(Levenberg-Marquartdt)法を用いて、式(3)の誤差Eの関数を最小化するように算出される。
図19は、各特徴点の3次元空間内の位置算出をバンドル調整により行う方法のフローチャートである。プロセッサ51は、肛門の位置が初期位置と設定されたときを、時刻tをt0とし、ソフトウエアカウンタのカウント値nを、0とする(S11)。
プロセッサ51は、時刻t0における撮像画像と、先端部11の位置と姿勢の情報を取得する(S12)。撮像画像は、画像処理装置3から取得される。先端部11の位置と姿勢の情報は、位置姿勢検出部55から取得される。
プロセッサ51は、初期位置すなわち肛門の位置における先端部11の位置と姿勢を決定する(S13)。例えば、肛門の位置(x、y、z)が(0,0,0)に、姿勢(vx、vy、vz)が(0,1,0)に決定される。S11とS13が、図17のS1に対応する。
プロセッサ51は、時刻(t0+nΔt)における撮像画像と、先端部11の位置と姿勢の情報を取得する(S14)。S12とS14が、図17のS2に対応する。なお、先端部11の位置と姿勢の情報は、修正してもよい。例えば、カルマンフィルタを用いて、先端部11が過去に通ったパスが修正され、その修正されたパスに基づいて、過去の先端部11の位置が修正される。
プロセッサ51は、nがkになると、各撮像画像における複数の特徴点の抽出し、k個の時点における先端部11の位置と姿勢すなわち先端部11の3次元配置を既知として、得られた撮像画像に含まれるm個の特徴点の位置を、上述したバンドル調整により算出する(S15)。
図20は、連続して取得された複数の撮像画像上の特徴点と、先端部11の位置と姿勢の関係を説明するための模式図である。図20において、白い三角形Pwは、先端部11の実際の位置と姿勢を示し、黒い三角形Pbは、先端部11の推定された位置と姿勢を示す。先端部11は、実線に沿って実際に移動したことを示している。推定された先端部11は、点線に沿って移動している。時間経過に伴って、先端部11の位置は移動し、先端部11の姿勢は変化している。
また、図20において、白い四角形pwは、特徴点の実際の位置を示し、黒い四角形pbは、特徴点の推定すなわち算出された位置を示す。特徴点は、例えば、撮像画像中において形状や色が特徴的で、判別あるいは追跡が容易な箇所である。
大腸の3次元管腔構造を得るには、大腸の腸管の内壁上の複数の特徴点の座標を求め、求めた複数の座標の集合により、あるいはそれらの座標を繋ぎ合わせることにより3次元モデルが生成される。すなわち、管腔の3次元構造は、3次元空間内の算出された各特徴点の位置から決定される。
図20において、各時点における先端部11の位置と姿勢の情報は、6軸分の情報を含むため、k個の時点における先端部11の位置と姿勢の情報は、6k個の情報を含む。各特徴点の位置は、3軸分の情報を含むため、m個の特徴点の位置の情報は、3m個の情報を含む。よって、SLAM、SfM等の手法を用いる場合、決定すべきパラメータの個数は(6k+3m)個となる。
本実施形態の手法においては、上述したとおり、内視鏡2の先端部11に磁気センサ16が設けられ、管腔構造検出装置5は、磁気センサ16によって検出された位置姿勢情報を取得する位置姿勢検出部55を含んでもよい。この場合、先端部11の位置及び姿勢に対応する6k個のパラメータは既知となる。プロセッサ51による最適化演算は、3m個のパラメータを算出に限定されるため、最適化演算の処理量を軽減できる。よって処理の高速化が可能である。またパラメータ数の削減によって検出誤差の蓄積が抑制されるため、生成される3次元モデル構造がずれていくことを抑制できる。
また、内視鏡2の挿入部2bの先端部11が管腔の内壁に押し当てられたり、汚れた洗浄水に浸ってしまったり、撮像画像がぶれるなどして適切な連続した撮像画像が得られないかった場合があっても、先端部11の位置と姿勢の情報は得られている。よって、連続した撮像画像が得られなかった場合が生じても、3m個のパラメータを算出できる可能性は高まる。結果として、管腔構造の算出のロバスト性が高まる。
図19に戻り説明を続ける。プロセッサ51は、作成済の管腔構造情報に、新たに算出された特徴点の位置情報を追加して、管腔構造情報を更新する(S16)。S16は、図17のS5に対応する。
プロセッサ51は、過去に算出した特徴点の位置情報を修正する(S17)。新たに算出して得られた3m個の特徴点のうち、過去に算出された特徴点の位置情報は、新たに算出された位置情報を用いて、例えば平均値演算により、過去に算出された位置情報を修正する。なお、S17の処理は、行わなくてもよく、新たに算出された特徴点の位置情報で、過去に算出された各特徴点の位置情報を更新するようにしてもよい。
S17の後、プロセッサ51は、nを1だけインクリメントし(S18)、検査終了のコマンドが入力されたかを判定する(S19)。検査終了のコマンドは、例えば、挿入部2bが大腸から抜去された後に、医者が入力装置に入力する所定のコマンドである。当該コマンドが入力されると(S19でYES)、処理が終了する。
検査終了のコマンドが入力されないとき(S19でNO)、処理はS14へ移行する。その結果、プロセッサ51は、撮像画像の最後の取得時刻から周期Δtだけ後の撮像画像を取得し(S14)、S14以降の処理を実行する。
以上の処理を行うことによって、管腔構造情報が出力される。本実施形態における管腔は、端部を除いて穴等がない連続する曲面であることが想定される。よって取得される管腔構造情報において、所与の特徴点と、その近傍の特徴点との距離はある程度小さいことが期待される。もし特徴点が粗となる部分、例えばある程度広い範囲において特徴点が所定閾値以下となる部分が存在する場合、当該部分が分析不可部分であると判定できる。より具体的には、分析不可部分のうち、上述した第3分析不可部分であると判定される。なお大腸の観察においては、まず挿入部2bを奥まで挿入し、引き抜きながら管腔構造情報の生成が行われる。よって、現在観察中の部位よりも肛門側の部分については、基本的に第3分析不可部分と判定される。
また、ここでの分析不可部分は、例えば図18のUIAに対応する。図18においては、分析不可部分が存在することによって、管腔構造情報が2つに分割されてしまう例を示した。挿入部2bの先端部11の位置と姿勢を検出するためのセンサが設けられる構成であれば、このように管腔構造情報が分割される場合でも、分割された複数の管腔構造情報の位置関係を特定できる。即ち、管腔構造情報が分割される場合にも、管腔全体の構造を推定可能である。
なおセンサを用いて位置姿勢が検出可能である場合、管腔構造情報を求める処理はバンドル調整に限定されない。例えばプロセッサ51は、2つの画像から三角測量を用いて管腔構造情報を求めてもよい。具体的には、プロセッサ51は、先端部11の位置及び姿勢の情報と、2枚の撮像画像とから、三角測量を用いて特徴点の位置を算出する。すなわち、撮像素子15の位置及び姿勢の情報と、撮像素子15により取得された2枚の撮像画像に含まれる特徴点の画素の位置情報から三角測量に基づき算出した画素の3次元空間内の位置情報から管腔の3次元構造が決定される。
また三角測量は、2つの時刻において得られた2枚の撮像画像に基づいて行われてもよいし、ステレオカメラを用いて同時刻に得られた2枚の撮像画像に基づいて行われてもよい。
またプロセッサ51は、各特徴点の位置を、照度差ステレオ画像を用いて算出してもよい。この場合、挿入部2bの先端部11には、複数の照明窓が設けられる。複数の照明窓から出射される複数の照明光は、光源装置4に設けられた照明用の複数の発光ダイオードの駆動が制御されることにより、切り替えられて選択的に出射可能となっている。
被写体の表面の画像中の影の部分は、照明光の切り替えにより状態が変化する。よって、その変化量に基づいて、被写体の表面上の影の部分までの距離を算出することができる。すなわち、選択的に動作させた複数の照明部により照明して得られた撮像画像中の影領域の画像から照度差ステレオに基づき、管腔の3次元構造を決定することができる。
またプロセッサ51は、距離センサを用いて管腔構造を算出してもよい。距離センサは、例えばTOF(Time Of Flight)により距離画像を検出するセンサである。距離センサは、光の飛行時間を計ることにより距離を計測する。距離センサは、挿入部2bの先端部11に設けられ、先端部11から管腔の内壁までの距離を画素ごとに検出する。距離センサにより検出された各画素についての距離と、先端部11の位置姿勢とから、大腸の内壁の各点の位置情報すなわち管腔の3次元構造が算出可能である。なお、距離センサは、LiDAR(Light Detection and Ranging/Laser Imaging Detection and Ranging)などの他の方式のセンサでもよい。また、先端部11に所定のパターン光を出射する照明部を設け、プロセッサ51はパターン光投影により先端部11から内壁までの測距を行ってもよい。
また本実施形態の手法においては、管腔構造情報の算出に磁気センサ16等の位置姿勢検出用のセンサを用いる構成は必須ではない。具体的には、図15に示した磁気センサ16及び磁場発生装置7を省略可能である。
この場合、プロセッサ51は、複数の撮像画像に基づいて、SLAM、SfMなどの手法を用いて管腔構造情報を算出する。例えばプロセッサ51は、上述した例において、先端部11の位置姿勢を含めた(6k+3m)個のパラメータを最適化する処理を実行する。
図15、図16に示したように、本実施形態の内視鏡システム1は、管腔構造情報取得部を含んでもよい。管腔構造情報取得部は、具体的にはプロセッサ51に対応する。管腔構造情報取得部は、撮像画像に基づいて、管腔の構造を示す管腔構造情報を求める。また内視鏡システム1は、管腔に挿入される挿入部2bの先端に設けられる位置センサから、管腔に対する被写体光取得部20の位置姿勢情報を取得する位置姿勢検出部55を含んでもよい。位置センサは、例えば磁気センサ16である。この場合、管腔構造情報取得部は、位置姿勢情報と撮像画像に基づいて、管腔の構造を示す管腔構造情報を求める。なお、図15及び図16においては管腔構造検出装置5が位置姿勢検出部55及び管腔構造情報取得部を含む例を説明したが、管腔構造検出装置5は画像処理装置3と一体として設けられてもよい。また、管腔構造検出装置5の一部又は全部の構成が、クラウドコンピューティングによって実現されてもよい。
管腔構造情報を取得しない場合であっても、進退機構17の制御量に基づいて挿入量を推定すること、及び捻り機構18の制御量に基づいて管腔のいずれの部分を撮像しているかを大まかに推定することが可能である。ここでの制御量は、例えばエンコーダの出力である。ただし管腔構造情報は撮像画像に基づいて取得されるため、エンコーダ出力を用いる場合に比べて、管腔のどの部分をどのように撮像しているかを高い精度で推定することが可能になる。特に位置姿勢情報を併用することによって、図18に示すように管腔構造が2以上に分断される場合であっても、当該2以上の管腔構造の位置関係を推定できるため、管腔の全体構造を高い精度で推定できる。これにより、走査が適切に行われているか否かの判定や、再走査を行う際の走査条件の設定等を適切に実行することが可能になる。
4.2 関連付け処理
図21は本実施形態の画像処理装置3の構成を示す図である。図21に示すように画像処理装置3は、図12に示す構成に加えて、関連付け処理部38と、見逃し判定部39を含む。ただし画像処理装置3は図21の構成に限定されず、一部の構成要素を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。
関連付け処理部38は、分析可否判定部37が求めた分析可否情報と、管腔構造情報とを関連付ける処理を行う。上述したように、分析可否の判定は、撮像画像を用いて実行される。撮像画像上の分析可能領域又は分析不可領域が、管腔構造のどの部分に位置するかを関連付けることによって、再走査を行うべき部分を適切に判定することが可能になる。なお、捻り機構18や進退機構17の制御履歴に基づいて再走査の対象部分を推定することが可能であるが、分析可否情報と管腔構造情報を対応付けることによって、対象部分を精度よく特定することが可能になる。また、再走査の際にユーザが挿入部2bを奥方向に挿入することも考えられる。その場合、関連付け結果を提示することによって、分析不可部分を撮像するための具体的な操作をユーザにわかりやすく提示することが可能になる。
なお管腔構造情報の算出処理において、先端部11の位置姿勢と、撮像画像における特徴点の3次元位置が推定される。即ち、内視鏡2を用いた撮像画像の撮像と、管腔構造情報の算出を平行して実行する場合、撮像画像上の特徴点と、管腔構造との対応付けは既に行われている。
よって関連付け処理部38は、管腔構造情報の算出処理結果を用いることによって、分析可否情報と管腔構造情報の関連付け処理を実行する。例えば関連付け処理部38は、特徴点の3次元位置に基づいて、撮像画像のうちの特徴点以外の点の3次元位置を推定可能である。よって撮像画像の分析可能領域を複数の点によって規定し、当該複数の点の3次元位置を推定することによって、管腔構造のうち、分析可能領域に対応する分析可能部分を決定する。ここでの複数の点は、例えば分析可能領域の輪郭上に設定される3つ以上の点である。
或いは、分析可能領域を規定する複数の点は、管腔構造情報の算出において用いられる特徴点であってもよい。例えば、分析可否判定部37は、あらかじめ管腔構造情報の算出処理において設定された特徴点の情報を取得しておき、当該特徴点に基づいて分析可否判定を行ってもよい。例えば図13のS22における画質に基づく判定は、3以上の特徴点によって囲まれる領域ごとに実行されてもよい。このようにすれば、管腔構造情報の取得に用いられた情報を直接的に利用することによって、分析可能領域や分析不可領域の3次元位置を特定できる。具体的には、関連付け処理部38は、2つ以上のタイミングにおいて撮像された複数の撮像画像上に、それぞれ複数の特徴点を設定する。そして、関連付け処理部38は、2つ以上のタイミングにおいて撮像された撮像画像上の、複数の特徴点同士の対応関係を判定することによって、管腔の構造上に分析可否情報を関連付ける。
図22は、分析可否情報を管腔構造に関連付ける処理を説明する模式図である。分析可否情報は、撮像画像上の分析可能領域と分析不可領域の少なくとも一方を特定する情報である。図22においては楕円形状の分析可能領域A2と分析不可領域A1を例示しているが、各領域は例えば3以上の特徴点によって規定される多角形である。関連付け処理部38は、3次元位置が特定された複数の特徴点の集合である管腔構造情報のうち、分析可能領域を規定する特徴点によって囲まれる閉領域を分析可能部分として特定する。例えば、分析可能領域A2に対応する部分を分析可能部分A4であると判定する。そして関連付け処理部38は、管腔構造のうち、分析可能部分として特定されなかった領域を分析不可部分として特定する。
或いは関連付け処理部38は、分析可能部分の特定とともに、管腔構造情報のうち、分析不可領域を規定する特徴点によって囲まれる閉領域を分析不可部分として特定してもよい。例えば、分析不可領域A1に対応する管腔上の部分を分析不可部分A3であると判定する。この場合、第1の撮像画像に基づいて分析不可部分と判定された管腔構造の所与の部分が、第2の撮像画像に基づいて分析可能部分と判定される場合がある。このように分析可能部分と分析不可部分が重複した場合、当該重複部分が分析可能部分と判定される。少なくとも1枚の撮像画像に基づいて分析可能と判定されていれば、当該撮像画像を用いることによって十分な精度での分析が可能なためである。
画像処理装置3は、関連付け結果を出力する。例えば画像処理装置3は、分析可能部分と分析不可部分が異なる態様で表示された管腔構造情報を、モニタ6等の表示部に表示する処理を行う。例えば、分析不可部分は、分析可能部分とは異なる色で表示されたり、点滅等のアニメーション表示が行われてもよい。図22におけるA3、A5、A6、A7が分析不可部分であり、当該分析不可部分はA4等の分析可能部分とは異なる色で表示される。また矢印等のオブジェクトやテキストを表示することによって、分析不可部分の視認性を向上させる表示処理が行われてもよい。
また分析不可部分を上述した第1~第3分析不可部分等に細分化する場合、関連付け処理部38は、撮像画像上の分析不可領域を管腔構造情報と関連付けることによって、分析不可部分を特定する。具体的には、第1分析不可領域に関連付けられた部分が第1分析不可部分であり、第2分析不可領域に関連付けられた部分が第2分析不可部分である。また、第3分析不可部分については、上述したように管腔構造情報の欠落に基づいて検出可能である。なお、第1分析不可部分と第2分析不可部分が重複した場合、関連付け処理部38は各分析不可部分のサイズや形状等に基づいて最終的な関連付け結果を求めてもよい。この場合、画像処理装置3は、分析可能部分、第1分析不可部分、第2分析不可部分、第3分析不可部分をそれぞれ異なる態様でモニタ6等に表示する処理を行う。
図22に示した処理によって、管腔構造情報と分析可否情報を関連付けることが可能である。さらに画像処理装置3は、分析不可部分のうち、挿入部2bの、管腔の奥方向への再挿入が必要な部分である見逃し部分を検出してもよい。
図23(A)、図23(B)は内視鏡2の先端部11と、分析不可部分との位置関係を例示する図である。図23(A)、図23(B)におけるB1及びB3は分析不可部分を表し、B2及びB4は撮像部の視野を表す。内視鏡システム1を用いた腸管の観察は、挿入部2bを最奥部まで挿入した後、挿入部2bを手前側に引き抜きながら行われる。最奥部とは、例えば盲腸の近傍であり、手前側とは肛門側である。分析不可部分が存在したとしても、図23(A)に示すように当該分析不可部分が先端部11の近傍に存在する場合、比較的簡単な操作によって当該分析不可部分を撮像できる。ここでの操作とは、例えば湾曲部12の向きを変えたり、挿入部2bをわずかに押す等の操作である。
これに対して図23(B)では、屈曲部の先に分析不可部分が存在する。屈曲部とは、例えばSDジャンクション等である。屈曲部よりも奥側の分析不可部分を観察するためには、屈曲部や襞を超える操作が必要となる。
本実施形態の見逃し判定部39は、図23(A)に示す分析不可部分は見逃し部分と判定せず、図23(B)に示す分析不可部分を見逃し部分と判定する。また、分析不可部分が先端部11の現在位置よりも手前側に存在する場合、それ以降の走査の中で観察できる蓋然性が高い。よって見逃し判定部39は、現在位置よりも手前側の分析不可部分は見逃し部分と判定しない。このようにすれば、ユーザが明確な操作を実行しない限り観察できない蓋然性が高い分析不可部分を、見逃し部分と判定することが可能になる。
例えば見逃し判定部39は、分析不可部分が存在する場合に、分析不可部分の位置と、先端部11の現在位置の比較処理を行うことによって、分析不可部分が先端部11の現在位置よりも腸管の奥方向にあるか否かを判定する。例えば、見逃し判定部39は、管腔構造情報の算出処理において取得された時系列の位置情報に基づいて、奥方向と手前方向を判定する。ここでの位置情報は、磁気センサ16等の位置姿勢検出センサによって取得される情報であってもよいし、SLAMやSfMを用いて最適化されるパラメータであってもよい。なお、加速度を検出するジャイロセンサのような、位置姿勢の変化量に関わるセンサも、検出結果の時間積分を適宜繰り返すことで位置姿勢を求めることができることから、位置姿勢検出センサとしてもよい。上述したように、観察開始時が管腔の最奥部であり、それ以降の先端部11の移動方向が手前方向である。或いは、磁気センサ16等を利用可能である場合、奥方向への挿入時に取得される位置姿勢情報に基づいて、奥方向と手前方向を判断してもよい。挿入時における移動方向が奥方向である。
分析不可部分が先端部11よりも奥方向である場合、見逃し判定部39は、湾曲部12の操作によって当該分析不可部分を撮像可能であるか否かを判定する。湾曲部12の現在の位置姿勢は、例えば左右湾曲操作ノブ14a及び上下湾曲操作ノブ14bの制御データに基づいて既知である。また、湾曲部12の最大湾曲角度等は設計から既知である。よって関連付け処理部38は、これらの情報に基づいて、湾曲部12の操作によって当該分析不可部分を撮像可能であるか否かを判定できる。
見逃し判定部39は、先端部11よりも奥方向にあり、且つ、湾曲部12の操作のみでは撮像できないと判定された分析不可部分を見逃し部分と判定する。また上述したように、屈曲部を超えないような短い距離の押し込み操作は比較的容易である。よって見逃し判定部39は、分析不可部分が先端部11よりも奥方向にあるか否かだけではなく、先端部11と分析不可部分の距離や、屈曲部の有無等に基づいて、分析不可部分を見逃し部分とするか否かを判定してもよい。
以上のように、内視鏡システム1は、分析可否情報と管腔構造情報に基づいて、管腔の構造上に分析可否情報を関連付ける関連付け処理部38を含んでもよい。関連付け処理部38は、管腔の構造のうち、少なくとも1枚の撮像画像に基づいて分析可能と判定された部分を分析可能部分と判定し、管腔の構造のうち、分析可能部分以外の部分を分析不可部分と判定する。
本実施形態の手法によれば、病変検出や悪性度判定等、所望の分析を実行可能な状態で管腔が撮像されたか否かを、当該管腔の構造と関連付けることが可能になる。そのため、管腔構造のうち、いずれの領域において見逃しが発生する可能性があるかを適切に判定することが可能になる。これにより、上述した再走査を適切に実行することが可能になる。或いは、内視鏡システム1は、関連付け結果を観察中のユーザに提示してもよい。
また内視鏡システム1は、管腔の奥方向へ挿入部2bを挿入しなければ観察できないと判定された分析不能部分を見逃し部分と判定してもよい。このようにすれば、見逃しが発生する蓋然性の高い部分を特定することが可能になる。例えば、再走査が必要であるか否か、その際に挿入部2bの再挿入が必要であるか否かを、精度よく判定することが可能になる。また、再挿入を行う場合に、挿入部2bをどのように移動させればよいかを推定することが可能になる。
制御部33は、見逃し部分が撮像部の視野内となるように、捻り機構18及び進退機構17の制御を行ってもよい。このようにすれば、再走査、狭義には挿入部2bの再挿入を伴う再走査を自動的に実行できるため、医師等の負担を軽減することが可能になる。ただし、制御部33は、見逃し部分を撮像するための情報をユーザに提示し、再挿入を行うための具体的な操作をユーザに委ねてもよい。
また挿入部2bが管腔の奥方向へ挿入された後、手前方向へ抜き出すことによって管腔の観察が行われる場合において、制御部33は、挿入部2bを手前方向へ抜き出す際に、撮像部の視野によって管腔の内壁の走査を行うような捻り機構18及び進退機構17の制御と、分析可能部分を特定する制御とを行ってもよい。管腔の内壁を撮像しやすい状況において、走査、及び関連付けの各制御を実行することが可能になる。
なお、上記のように本実施形態について詳細に説明したが、本実施形態の新規事項および効果から実体的に逸脱しない多くの変形が可能であることは当業者には容易に理解できるであろう。従って、このような変形例はすべて本開示の範囲に含まれるものとする。例えば、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。また本実施形態及び変形例の全ての組み合わせも、本開示の範囲に含まれる。また処理装置、内視鏡システム等の構成及び動作等も、本実施形態で説明したものに限定されず、種々の変形実施が可能である。