以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は、以下の順序で行うものとする。
(1)第1の実施形態
(1−1)顕微鏡画像管理システムの構成について
(1−2)顕微鏡の全体構成について
(1−3)顕微鏡制御装置の全体構成について
(1−4)統括制御部の構成について
(1−5)画像表示装置の構成について
(1−6)表示画面の一例について
(1−7)合焦位置情報生成方法の流れについて
(1−8)画像表示方法の流れについて
(2)第2の実施形態
(2−1)画像管理サーバの構成について
(2−2)画像表示装置の構成について
(2−4)顕微鏡画像の表示画面及び表示制御処理の一例について
(2−5)顕微鏡画像の表示制御方法の流れについて
(3)本発明の実施形態に係る顕微鏡制御装置及び画像表示装置のハードウェア構成について
(4)まとめ
なお、以下では、顕微鏡が撮像するサンプルとして、血液等の結合組織、上皮組織又はそれらの双方の組織などの組織切片又は塗抹細胞からなる生体サンプル(細胞組織サンプル)を例に挙げて説明を行うが、かかる場合に限定されるわけではない。
(第1の実施形態)
<顕微鏡画像管理システムの構成について>
まず、図1を参照しながら、本発明の第1の実施形態に係る顕微鏡画像管理システム1の構成について説明する。図1は、本実施形態に係る顕微鏡画像管理システム1の構成を示した説明図である。
本実施形態に係る顕微鏡画像管理システム1は、図1に示したように、顕微鏡10と、顕微鏡制御装置20と、画像管理サーバ30と、画像表示装置40とを有する。また、顕微鏡制御装置20、画像管理サーバ30及び画像表示装置40は、ネットワーク3を介して接続されている。
ネットワーク3は、本実施形態に係る顕微鏡制御装置20、画像管理サーバ30及び画像表示装置40を互いに双方向通信可能に接続する通信回線網である。このネットワーク3は、例えば、インターネット、電話回線網、衛星通信網、同報通信路等の公衆回線網や、WAN(Wide Area Network)、LAN(Local Area Network)、IP−VPN(Internet Protocol−Virtual Private Network)、Ethernet(登録商標)、ワイヤレスLAN等の専用回線網などで構成されており、有線/無線を問わない。また、このネットワーク3は、本実施形態に係る顕微鏡画像管理システム1に専用に設けられた通信回線網であってもよい。
顕微鏡10は、当該顕微鏡10のステージ上に載置されたサンプル(例えば生体サンプル)に対して所定の照明光を照射して、このサンプルを透過した光、又は、サンプルからの発光等を撮像する。本実施形態に係る顕微鏡10の全体構成については、以下で改めて詳細に説明する。
顕微鏡10は、顕微鏡制御装置20によって駆動制御されており、顕微鏡10が撮像したサンプル画像は、顕微鏡制御装置20を介して画像管理サーバ30に格納される。
顕微鏡制御装置20は、サンプルを撮像する顕微鏡10の駆動制御を行う装置である。顕微鏡制御装置20は、顕微鏡10を制御して、サンプルのデジタル画像を撮像するとともに、得られたサンプルのデジタル画像データに対して、所定のデジタル加工処理を実施する。また、顕微鏡制御装置20は、得られたサンプルのデジタル画像データを、画像管理サーバ30にアップロードする。
画像管理サーバ30は、顕微鏡10によって撮像されたサンプルのデジタル画像データを格納するとともに、これらデジタル画像データの管理を行う装置である。画像管理サーバ30は、顕微鏡制御装置20からサンプルのデジタル画像データが出力されると、取得したサンプルのデジタル画像データを所定の格納領域に格納して、閲覧者が利用可能なようにする。また、画像管理サーバ30は、閲覧者が操作する画像表示装置40(すなわち、ビューワーに対応する装置)から、あるサンプルのデジタル画像データの閲覧を要請されると、該当するサンプルのデジタル画像データを画像表示装置40に提供する。
画像表示装置40は、サンプルのデジタル画像データの閲覧を希望する閲覧希望者が操作する端末(すなわち、ビューワーに対応する装置)である。デジタル画像データの閲覧希望者は、画像管理サーバ30に格納されているデジタル画像データの一覧等を参照して、閲覧を希望するデジタル画像データを特定するとともに、特定したデジタル画像データを提供するように、画像管理サーバ30に対して要請する。画像管理サーバ30からデジタル画像データが提供されると、提供されたデジタル画像データに対応する画像を、画像表示装置40のディスプレイ等に表示して、閲覧希望者が閲覧できるようにする。
なお、本実施形態に係る顕微鏡制御装置20及び画像管理サーバ30の詳細な構成については、以下で改めて説明する。
また、図1では、システム1に属する顕微鏡10、顕微鏡制御装置20及び画像管理サーバ30がそれぞれ1台ずつ存在する場合について図示しているが、顕微鏡画像管理システム1に属する顕微鏡10、顕微鏡制御装置20及び画像管理サーバ30の台数は図1の例に限定されるわけではなく、それぞれ複数台ずつ存在していてもよい。
<顕微鏡の全体構成について>
続いて、図2を参照しながら、本実施形態に係る顕微鏡10の全体構成について説明する。図2は、本実施形態に係る顕微鏡10及び顕微鏡制御装置20の全体構成を示した説明図である。
[全体構成]
本実施形態に係る顕微鏡10は、図2に例示したように、生体サンプルSPLが配設されるプレパラートPRT全体の像(以下、この像をサムネイル像とも称する。)を撮像するサムネイル像撮像部110と、生体サンプルSPLが所定倍率で拡大された像(以下、この像を拡大像とも称する。)を撮像する拡大像撮像部120と、を有する。
プレパラートPRTは、血液等の結合組織、上皮組織又はそれらの双方の組織などの組織切片又は塗抹細胞からなる生体サンプルSPLを、所定の固定手法によりスライドガラスに固定したものである。これらの組織切片又は塗抹細胞には、必要に応じて各種の染色が施される。この染色には、HE(ヘマトキシリン・エオシン)染色、ギムザ染色又はパパニコロウ染色等に代表される一般染色のみならず、FISH(Fluorescence In−Situ Hybridization)や酵素抗体法等の蛍光染色が含まれる。
また、プレパラートPRTには、対応する生体サンプルSPLを特定するための付帯情報(例えば、サンプルを採取した人の氏名、採取日時、染色の種類等)が記載されたラベルが貼付されていてもよい。
本実施形態に係る顕微鏡10には、上述のようなプレパラートPRTが載置されるステージ130が設けられており、更に、ステージ130を様々な方向に移動させるためのステージ駆動機構135が設けられている。このステージ駆動機構135により、ステージ130を、ステージ面に対して平行となる方向(X軸−Y軸方向)と、直交する方向(Z軸方向)に自由に移動させることができる。
また、本実施形態に係る顕微鏡10には、サンプルSPLを含むプレパラートPRTをステージ140に搬送するサンプル搬送装置141が設けられていても良い。かかる搬送装置141を設けることで、ステージ140に、撮像予定のサンプルが自動的に設置されるようになり、サンプルSPLの入れ替えを自動化することが可能となる。
[サムネイル像撮像部]
サムネイル像撮像部110は、図2に示したように、光源111と、対物レンズ112と、撮像素子113と、を主に備える。
光源111は、ステージ130のプレパラート配置面とは逆の面側に設けられる。光源111は、一般染色が施された生体サンプルSPLを照明する光(以下、明視野照明光、又は、単に照明光とも称する。)と、特殊染色が施された生体サンプルSPLを照明する光(以下、暗視野照明光とも称する。)と、を切り換えて照射可能である。また、光源111は、明視野照明光又は暗視野照明光のいずれか一方だけを照射可能なものであってもよい。この場合、光源111として、明視野照明光を照射する光源と、暗視野照明光を照射する光源の2種類の光源が設けられることとなる。
更に、サムネイル像撮像部110には、プレパラートPRTに貼付されたラベルに記載されている付帯情報を撮像するための光を照射するラベル光源(図示せず。)が別途設けられていてもよい。
所定倍率の対物レンズ112は、プレパラート配置面におけるサムネイル像撮像部110の基準位置の法線を光軸SRAとして、ステージ130のプレパラート配置面側に配設される。ステージ130上に配設されたプレパラートPRTを透過した透過光は、この対物レンズ112によって集光されて、対物レンズ112の後方(すなわち、照明光の進行方向)に設けられた撮像素子113に結像する。
撮像素子113には、ステージ130のプレパラート配置面に載置されたプレパラートPRT全体を包括する撮像範囲の光(換言すれば、プレパラートPRT全体を透過した透過光)が結像する。この撮像素子113上に結像した像が、プレパラートPRT全体を撮像した顕微鏡画像であるサムネイル像となる。
[拡大像撮像部]
拡大像撮像部120は、図2に示したように、光源121と、コンデンサレンズ122と、対物レンズ123と、撮像素子124と、を主に備える。
光源121は、明視野照明光を照射するものであり、ステージ130のプレパラート配置面とは逆の面側に設けられる。また、光源121とは異なる位置(例えばプレパラート配置面側)には、暗視野照明光を照射する光源(図示せず。)が設けられる。
コンデンサレンズ122は、光源121から照射された明視野照明光や、暗視野照明用の光源から照射された暗視野照明光を集光して、ステージ130上のプレパラートPRTに導くレンズである。このコンデンサレンズ122は、プレパラート配置面における拡大像撮像部120の基準位置の法線を光軸ERAとして、光源121とステージ130との間に配設される。
所定倍率の対物レンズ123は、プレパラート配置面における拡大像撮像部120の基準位置の法線を光軸ERAとして、ステージ130のプレパラート配置面側に配設される。拡大像撮像部120では、この対物レンズ123を適宜交換することで、生体サンプルSPLを様々な倍率に拡大して撮像することが可能となる。ステージ130上に配設されたプレパラートPRTを透過した透過光は、この対物レンズ123によって集光されて、対物レンズ123の後方(すなわち、照明光の進行方向)に設けられた撮像素子124に結像する。
撮像素子124には、撮像素子124の画素サイズ及び対物レンズ123の倍率に応じて、ステージ130のプレパラート配置面上における所定の横幅及び縦幅からなる撮像範囲の像が結像される。なお、対物レンズ123により生体サンプルSPLの一部が拡大されるため、上述の撮像範囲は、撮像素子113の撮像範囲に比べて十分に狭い範囲となる。
ここで、サムネイル像撮像部110及び拡大像撮像部120は、図2に示したように、それぞれの基準位置の法線である光軸SRAと光軸ERAとがY軸方向に距離Dだけ離れるように配置される。この距離Dは、撮像素子113の撮像範囲に拡大像撮像部120の対物レンズ123を保持する鏡筒(図示せず)が写りこむことなく、かつ小型化のために近い距離に設定される。
なお、サムネイル像撮像部110及び拡大像撮像部120それぞれに設けられる撮像素子は、1次元撮像素子であってもよく、2次元撮像素子であってもよい。
<顕微鏡制御装置の全体構成について>
本実施形態に係る顕微鏡10には、図2に示したように、顕微鏡の様々な部位を制御するための顕微鏡制御装置20が接続されている。この顕微鏡制御装置20は、図2に示したように、統括制御部201と、照明制御部203と、ステージ駆動制御部205と、サムネイル像撮像制御部207と、拡大像撮像制御部209と、記憶部211と、を主に備える。
ここで、照明制御部203は、光源111及び光源121を含む、顕微鏡10が備える各種の光源を制御する処理部であり、ステージ駆動制御部205は、ステージ駆動機構135を制御する処理部である。また、サムネイル像撮像制御部207は、サムネイル像を撮像するための撮像素子113を制御する処理部であり、拡大像撮像制御部209は、生体サンプルSPLの拡大像を撮像するための撮像素子124を制御する処理部である。これらの制御部は、各種のデータ通信路を介して制御を行う部位に対して接続されている。
また、本実施形態に係る顕微鏡制御装置20には、顕微鏡全体の制御を行う制御部(統括制御部201)が別途設けられており、上述の各種の制御部に、各種のデータ通信路を介して接続されている。
これらの制御部は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、ストレージ装置、通信装置及び演算回路等により実現されるものである。
記憶部211は、本実施形態に係る顕微鏡制御装置20が備えるストレージ装置の一例である。記憶部211には、本実施形態に係る顕微鏡10を制御するための各種設定情報や、各種のデータベースや負荷予想テーブル等のルックアップテーブル等が格納される。また、記憶部211には、顕微鏡10におけるサンプルの撮像履歴など、各種の履歴情報が記録されていてもよい。さらに、記憶部211には、本実施形態に係る顕微鏡制御装置20が、何らかの処理を行う際に保存する必要が生じた様々なパラメータや処理の途中経過等、または、各種のデータベースやプログラム等が、適宜記録される。
この記憶部211は、顕微鏡制御装置20が備える各処理部が自由に読み書きを行うことが可能である。
以下では、統括制御部201を除く上記制御部について、その機能を簡単に説明するものとする。また、統括制御部201については、以下で改めて詳細に説明する。
[照明制御部]
照明制御部203は、本実施形態に係る顕微鏡10が備える各種の光源を制御する処理部である。照明制御部203は、統括制御部201から生体サンプルSPLの照明方法を示す情報が出力されると、取得した照明方法を示す情報に基づいて、対応する光源の照射制御を行う。
例えば、照明制御部203が、サムネイル像撮像部110に設けられた光源111の制御を行う場合について着目する。かかる場合、照明制御部203は、照明方法を示す情報を参照して、明視野像を取得すべきモード(以下、明視野モードとも称する。)又は暗視野像を取得すべきモード(以下、暗視野モードとも称する。)のどちらを実行するかを判断する。その後、照明制御部203は、各モードに応じたパラメータを光源111に対して設定し、光源111から、各モードに適した照明光を照射させる。これにより、光源111から照射された照明光が、ステージ130の開口部を介して、生体サンプルSPL全体に照射されることとなる。なお、照明制御部203が設定するパラメータとしては、例えば、照明光の強度や光源種類の選択等を挙げることができる。
また、照明制御部203が、拡大像撮像部120に設けられた光源121の制御を行う場合について着目する。かかる場合、照明制御部203は、照明方法を示す情報を参照して、明視野モード又は暗視野モードのどちらを実行するかを判断する。その後、照明制御部203は、各モードに応じたパラメータを光源121に対して設定し、光源121から、各モードに適した照明光を照射させる。これにより、光源121から照射された照明光が、ステージ130の開口部を介して、生体サンプルSPL全体に照射されることとなる。なお、照明制御部203が設定するパラメータとしては、例えば、照明光の強度や光源種類の選択等を挙げることができる。
なお、明視野モードにおける照射光は、可視光とすることが好ましい。また、暗視野モードにおける照射光は、特殊染色で用いられる蛍光マーカを励起可能な波長を含む光とすることが好ましい。また、暗視野モードでは、蛍光マーカに対する背景部分はカットアウトされることとなる。
[ステージ駆動制御部]
ステージ駆動制御部205は、本実施形態に係る顕微鏡10に設けられたステージを駆動するためのステージ駆動機構135を制御する処理部である。ステージ駆動制御部205は、統括制御部201から生体サンプルSPLの撮像方法を示す情報が出力されると、取得した撮像方法を示す情報に基づいて、ステージ駆動機構135の制御を行う。
例えば、本実施形態に係る顕微鏡10により、サムネイル像を撮像する場合に着目する。ステージ駆動制御部205は、統括制御部201から、生体サンプルSPLのサムネイル像を撮像する旨の情報が出力されると、プレパラートPRT全体が撮像素子113の撮像範囲に入るように、ステージ面方向(X―Y軸方向)にステージ130を移動させる。また、ステージ駆動制御部205は、プレパラートPRT全体に対物レンズ112の焦点が合うように、ステージ130をZ軸方向に移動させる。
また、本実施形態に係る顕微鏡10により、拡大像を撮像する場合について着目する。ステージ駆動制御部205は、統括制御部201から、生体サンプルSPLの拡大像を撮像する旨の情報が出力されると、ステージ駆動機構135を駆動制御し、光源111と対物レンズ112との間からコンデンサレンズ122と対物レンズ123との間に生体サンプルSPLが位置するよう、ステージ面方向にステージ130を移動させる。
また、ステージ駆動制御部205は、撮像素子124に撮像される撮像範囲に生体サンプルの所定の部位が位置するように、ステージ面方向(X−Y軸方向)にステージ130を移動させる。
更に、ステージ駆動制御部205は、ステージ駆動機構135を駆動制御して、所定の撮影範囲内に位置する生体サンプルSPLの部位が対物レンズ123の焦点に合うように、ステージ面に直交する方向(Z軸方向、組織切片の奥行方向)にステージ130を移動させる。
[サムネイル像撮像制御部]
サムネイル像撮像制御部207は、サムネイル像撮像部110に設けられた撮像素子113の制御を行う処理部である。サムネイル像撮像制御部207は、明視野モード又は暗視野モードに応じたパラメータを、撮像素子113に設定する。また、サムネイル像撮像制御部207は、撮像素子113から出力される、撮像素子113の結像面に結像した像に対応する出力信号を取得すると、取得した出力信号を、サムネイル像に対応する出力信号とする。サムネイル像撮像制御部207は、サムネイル像に対応する出力信号を取得すると、取得した信号に対応するデータ(RAWデータ)を統括制御部201に出力する。なお、サムネイル像撮像制御部207が設定するパラメータとして、例えば、露光の開始タイミング及び終了タイミング等を挙げることができる。
[拡大像撮像制御部]
拡大像撮像制御部209は、拡大像撮像部120に設けられた撮像素子124の制御を行う処理部である。拡大像撮像制御部209は、明視野モード又は暗視野モードに応じたパラメータを、撮像素子124に設定する。また、拡大像撮像制御部209は、撮像素子124から出力される、撮像素子124の結像面に結像した像に対応する出力信号を取得すると、取得した出力信号を、拡大像に対応する出力信号とする。拡大像撮像制御部209は、拡大像に対応する出力信号を取得すると、取得した信号に対応するデータ(RAWデータ)を統括制御部201に出力する。なお、拡大像撮像制御部209が設定するパラメータとして、例えば、露光の開始タイミング及び終了タイミング等を挙げることができる。
[統括制御部]
統括制御部201は、上述の各種制御部を含む顕微鏡全体の制御を行う処理部である。
統括制御部201は、顕微鏡10により撮像されたサムネイル像及び拡大像に関するデータを顕微鏡10から取得して、これらのデータを現像したり、所定のデジタル加工処理を施したりする。その後、統括制御部201は、サムネイル像及び拡大像からなる顕微鏡画像データを、ネットワーク3を介して画像管理サーバ30にアップロードする。これにより、顕微鏡10によって撮像されたサンプルの顕微鏡画像が、ネットワーク3に接続されたクライアント機器である画像表示装置40によって閲覧可能となる。
<統括制御部の構成について>
次に、図3を参照しながら、本実施形態に係る統括制御部201の構成について、詳細に説明する。図3は、本実施形態に係る統括制御部201の構成を示したブロック図である。
本実施形態に係る統括制御部201は、図3に示したように、統括駆動制御部221と、顕微鏡画像取得部223と、画像処理部225と、顕微鏡画像出力部227と、通信制御部229と、を主に備える。
統括駆動制御部221は、例えば、CPU、ROM、RAM等により実現される。統括駆動制御部221は、顕微鏡10の各部位を制御する制御部(照明制御部203、ステージ駆動制御部205、サムネイル像撮像制御部207及び拡大像撮像制御部209)を統括的に制御する駆動制御部である。統括駆動制御部221は、顕微鏡10の各部位に対して、各種の情報(例えば各種の設定パラメータ等)を設定したり、顕微鏡10の各部位から各種の情報を取得したりする。
細胞組織サンプルのスライドは、厚みが数ミクロン程度の薄くスライスされた組織がガラス製のスライドに固定されたものである。このスライドを、被写界深度が1μm程度の顕微鏡10を用いてデジタル画像化する際に、統括駆動制御部221は、組織の厚み方向(以下では、Z方向とする。)にステージ140を駆動させて、観察部位を奥行き方向に変えた複数枚のデジタル画像を撮像する。このとき、細胞組織の厚さムラや、細胞組織がガラス上に載せられた際のうねり、組織切片そのもののうねりなどの要因により、一枚の撮像画像の中で最も適切な合焦状態にある奥行き方向の位置は、画像の各領域によって異なったものになる。このことは、デジタル化する際に使用されるセンサ(撮像素子)が大型のものになるほど顕著になる。
統括駆動制御部221は、撮像された顕微鏡画像の全ての領域にて明瞭な合焦状態にある画像を提供するために、Z方向に複数枚の拡大像を撮影する撮影範囲の選択時に、全ての領域の最適合焦位置となる奥行きを含むように顕微鏡10の駆動制御を行う。
すなわち、図3に示したように、拡大像撮像部120が、プレパラートPRT上に載置された細胞組織サンプルSPLの領域AR(X0≦X≦X3、Y0≦Y≦Y1)を撮像する場合、サンプルの高さ(Z方向の高さ)は、各位置において異なっていることが多い。そこで、統括駆動制御部221は、厚みDのサンプルSPLを撮像する際、奥行き方向の位置をΔdずつずらしながら、奥行き方向の各位置毎にデジタル画像MIを撮像する。従って、あるサンプルに対する拡大像は、奥行き位置の異なる複数のデジタル画像群から構成されることとなる。これにより、全ての領域の最適合焦位置となる奥行きを含む複数のデジタル画像MIを撮像することが可能となる。ここで、移動幅Δdは、顕微鏡10の被写界深度等を考慮して決定することが好ましく、例えば、0.2μm程度とすることができる。
なお、顕微鏡10において例えばスキャン方式のオートフォーカス(AF)が実施される場合、検波窓を画像の一部領域だけに設けるのではなく、個々の領域毎に個別の検波窓を持ち、角窓毎に合焦点の判定を行うようになっていることが好ましい。これにより、最適合合焦位置となる奥行きを含む複数のデジタル画像MIを、より正確に撮像することが可能となる。また、顕微鏡10において例えば位相差方式のAFが実施される場合、拡大像全域の最適合焦位置を、デフォーカス面(換言すれば、起伏形状)として取得することができる。
顕微鏡画像取得部223は、例えば、CPU、ROM、RAM、通信装置等により実現される。顕微鏡画像取得部223は、サムネイル像撮像部110が撮像したサムネイル像に対応するデータ及び拡大像撮像部120が撮像した拡大像に対応するデータを、各撮像制御部を介して取得する。
顕微鏡画像取得部223は、サムネイル像に対応するデータ(サムネイル像データ)及び拡大像に対応するデータ(拡大像データ)を、各撮像制御部を介して取得すると、取得したこれらの画像データを、後述する画像処理部225に出力する。
なお、顕微鏡画像取得部223は、取得したこれらの画像データ(顕微鏡画像データ)を、取得した日時に関する情報等と関連付けて記憶部211等に格納してもよい。
画像処理部225は、例えば、CPU、GPU、ROM、RAM等により実現される。画像処理部225は、顕微鏡画像取得部223から出力された顕微鏡画像(特に、サムネイル像及び拡大像)に対して、所定の画像処理を実施する。画像処理部225は、所定の画像処理が実施されたサムネイル像及び拡大像からなる顕微鏡画像と、当該顕微鏡画像を特徴づける各種のメタデータとを、後述する顕微鏡画像出力部227に出力する。
なお、画像処理部225の詳細な構成については、以下で改めて詳細に説明する。
顕微鏡画像出力部227は、例えば、CPU、ROM、RAM等により実現される。顕微鏡画像出力部227は、画像処理部225から出力された顕微鏡画像及び当該顕微鏡画像に付随するメタデータ等の各種の情報を、後述する通信制御部229を介して画像管理サーバ30に出力する。これにより、顕微鏡10によって撮像されたサンプルの顕微鏡画像(デジタル顕微鏡画像)が、画像管理サーバ30によって管理されることとなる。
通信制御部229は、例えば、CPU、ROM、RAM、通信装置等により実現される。通信制御部229は、顕微鏡制御装置20と、顕微鏡制御装置20の外部に設けられた画像管理サーバ30との間で、ネットワーク3を介して行われる通信の制御を行う。
[画像処理部の構成について]
次に、図6を参照しながら、本実施形態に係る画像処理部225の構成について、詳細に説明する。図6は、本実施形態に係る画像処理部225の構成を示したブロック図である。
画像処理部225は、図4に示したように、デジタル加工部231と、領域分割部233と、合焦位置検出部235と、合焦位置情報生成部237と、全領域合焦画像生成部239と、を更に備える。
デジタル加工部231は、例えば、CPU、GPU、ROM、RAM等により実現される。デジタル加工部231は、顕微鏡画像取得部223から出力されたサムネイル像データや拡大像データ(より詳細には、これらの像のRAWデータ)を取得すると、これらRAWデータの現像処理を行う。また、デジタル加工部231は、画像データの現像処理とともに、これらの像を構成する複数の画像をつなぎ合わせる処理(スティッチング処理)を実施する。
また、デジタル加工部231は、必要に応じて、得られたデジタル画像データの変換処理(トランスコード)等を実施することも可能である。デジタル画像の変換処理としては、デジタル画像を圧縮してJPEG画像等を生成したり、JPEG画像等に圧縮されたデータを、異なる形式の圧縮画像(例えば、GIF形式等)に変換したりする処理を挙げることができる。また、デジタル画像の変換処理には、圧縮された画像データを一度解凍した上でエッジ強調などの処理を実施して、再度圧縮する処理や、圧縮画像の圧縮率を変更する処理等も含まれる。
デジタル加工部231は、このようにして得られた顕微鏡画像(サムネイル像及び拡大像)を、顕微鏡画像出力部227、並びに、後述する領域分割部233及び全領域合焦画像生成部239に出力する。また、デジタル加工部231は、得られた顕微鏡画像を、記憶部211に格納してもよい。
領域分割部233は、例えば、CPU、GPU、ROM、RAM等により実現される。領域分割部233は、サンプルの拡大像に対応するデータを取得すると、例えば図7に示したように、拡大像を構成する奥行き位置の異なる複数のデジタル画像MIそれぞれについて、デジタル画像MIに対応する平面領域を複数のサブ領域501に分割する。ここで、拡大像を構成する複数のデジタル画像MI間で、サブ領域501の大きさは統一しておく。ある拡大像を構成する複数のデジタル画像MIは、互いに同一の大きさを有するものであるため、これらデジタル画像MIは同一のサブ領域数に分割されることとなり、デジタル画像MI間でサブ領域の位置を対応させることが可能となる。
なお、図7において、各サブ領域501の大きさは、デジタル画像MIの大きさ(ピクセル数)の大きさに応じて適宜決定すればよい。例えば、デジタル画像MIの大きさが4064×6104ピクセル程度である場合には、サブ領域501の大きさを、例えば30×20ピクセル程度の大きさにすることができる。
また、領域分割部233は、デジタル画像MIを構成する各サブ領域501に対して、当該デジタル画像MI内で固有の識別情報(例えば、識別番号等)を付与しておくことが好ましい。かかる場合において、識別情報の付与方法は、デジタル画像MI間で統一しておく。そうすることで、それぞれのデジタル画像MIにおいて同一の識別情報が付与されたサブ領域501は、デジタル画像MI間で同一の領域を示すこととなり、デジタル画像MI間でのサブ領域の対比が容易となる。
領域分割部233は、各デジタル画像MIに対応する平面領域を複数のサブ領域501に分割すると、その分割結果を、後述する合焦位置検出部235に出力する。
なお、本実施形態では、領域分割部233が平面領域を矩形のサブ領域に分割していく場合を例にとって説明を行うが、サブ領域の形状は、かかる例に限定されるわけではなく、平面領域を隙間なく充填することが可能な形状であればよい。
合焦位置検出部235は、例えば、CPU、GPU、ROM、RAM等により実現される。合焦位置検出部235は、領域分割部233によって分割された各サブ領域について、合焦状態にあるデジタル画像を、顕微鏡画像を構成する複数のデジタル画像MIの中から検出する。
以下では、顕微鏡画像が、奥行き位置の異なるN枚のデジタル画像MIから構成されているものとする。また、これらN枚のデジタル画像MIは、対物レンズ側に位置するものから順に、デジタル画像の奥行き位置を特定するための番号(すなわち、特定情報)が付与されているものとする。
合焦位置検出部235は、例えば、あるサブ領域についてはp番目(1≦p≦N)のデジタル画像が合焦状態にあり、あるサブ領域についてはq番目(1≦q≦N)のデジタル画像が合焦状態にある、といったように、合焦状態にあるデジタル画像をサブ領域毎に検出していく。
ここで、合焦位置検出部235は、N枚存在するデジタル画像のコントラストに着目してコントラストの評価値を算出し、算出した評価値に基づいて合焦状態にあるデジタル画像をサブ領域毎に検出する。
図8は、4064×6104ピクセルの領域(デジタル画像に対応する領域)が30×20ピクセルのサブ領域に分割された場合について示した説明図である。図8では、サンプルの顕微鏡画像が、40枚(N=40)のデジタル画像MIから構成されている。かかる場合に、合焦位置検出部235は、着目しているサブ領域について、デジタル画像MIごとに、コントラストの評価値を算出する。その上で、合焦位置検出部235は、コントラストの評価値が最大値となっているデジタル画像を、合焦状態にあるデジタル画像とする。図8に示した例では、対物レンズ側から数えて27枚目に当たるデジタル画像においてコントラストの評価値が最大値となっているため、合焦位置検出部235は、着目しているサブ領域では、27枚目のデジタル画像が合焦状態にあるデジタル画像であると判断する。
コントラストを評価するための評価値としては任意のものを利用可能であるが、例えば、デジタル画像の輝度値の分散をコントラストの評価値として利用することが可能である。この場合、合焦位置検出部235は、各デジタル画像の各サブ領域について、デジタル画像の輝度値の平均を算出するとともに、以下の式101に基づいて、輝度値の分散の和Vを算出する。
ここで、上記式101において、パラメータnはサブ領域に含まれる画素数であり、Yjは、サブ領域に含まれるj番目の画素の輝度値であり、YAVEは、着目しているサブ領域の輝度値の平均を表している。
合焦位置検出部235は、算出した輝度値の分散の和の最大値を与えるデジタル画像を、N枚(図8の例では、40枚)のデジタル画像の中から抽出し、抽出したデジタル画像を、着目しているサブ領域において合焦状態にあるデジタル画像とする。
図9及び図10は、このようにして検出された合焦状態にあるデジタル画像の分布を図示したものである。図8に示した結果は、奥行き位置の違いを色の濃淡で表した2次元マップであり、図9に示した結果は、奥行き位置の違いを3次元的に示したものである。図8及び図9に示した結果からも明らかなように、一つの細胞組織サンプルにおいても、合焦状態にあるデジタル画像の奥行き位置は一定ではないことがわかる。また、図9に示したような、合焦状態にあるデジタル画像の奥行き位置の推移を示したグラフ図を参照することで、合焦状態が何枚目から何枚目に位置するデジタル画像に存在するかを明らかにすることができる。このような結果を利用して、例えば、ピントの合っていない画像やピントの合っていない部分については、画像を圧縮する際の圧縮率を高くするなど、更なる画像処理を施すことも可能となる。
合焦位置検出部235は、このようにして検出した合焦状態にあるデジタル画像の検出結果を、後述する合焦位置情報生成部237に出力する。また、合焦位置検出部235は、合焦状態にあるデジタル画像の検出結果を、記憶部211等に記録してもよい。
なお、サンプルである細胞組織切片に穴が開いている場合などには、合焦状態にあるデジタル画像を特定できない場合も生じうる。このような場合には、合焦位置検出部235は、着目しているサブ領域の近傍に位置するサブ領域(例えば、周囲8個のサブ領域)の合焦状態に着目し、これら近傍のサブ領域において合焦状態にあるデジタル画像を、着目しているサブ領域において合焦状態にあるデジタル画像とする。これは、着目しているサブ領域の近傍に位置しているサブ領域は、着目しているサブ領域と同じような奥行き位置で合焦している可能性が高いと考えられるからである。
また、サンプルによっては、合焦状態にあると判断されるデジタル画像が複数枚存在する場合も生じうる。このような場合、合焦位置検出部235は、得られた複数の検出結果をそのまま利用してもよく、いずれか一つの検出結果のみを利用してもよい。
更に、サンプルである細胞組織が染色処理により特定の色(色相)を呈している場合もある。このような場合、合焦位置検出部235は、輝度値の分散の代わりに、目的とする細胞の色情報を、合焦状態にあるデジタル画像の評価値として利用することも可能である。例えば、細胞組織に対してヘマトキシリン・エオジン(Hematoxilin−Eosin:HE)染色を実施すると、細胞質は赤く染色され、細胞核は青く染色される。そこで、細胞核に着目したい場合には青成分の色情報を利用し、細胞質に着目したい場合には赤成分の色情報を利用することで、着目したい組織に対してより効果的に合焦位置を検出することができる。この場合、例えば、着目しない方の色情報を有する画素値は利用しないなど、上記式101に対して改良を加えることで、評価値を算出することができる。
合焦位置情報生成部237は、例えば、CPU、ROM、RAM等により実現される。合焦位置情報生成部237は、合焦位置検出部235における検出結果に基づいて、合焦状態にあるデジタル画像を特定する特定情報がサブ領域毎に関連付けられた合焦位置情報を生成する。
合焦位置情報は、サブ領域を特定する識別情報と合焦状態にあるデジタル画像を特定する特定情報とが互いに関連付けられたものであれば、その形式は問わないが、合焦位置情報生成部237は、例えば図11に示したような合焦位置情報を生成する。図11に示した合焦位置情報は、サブ領域を特定する識別番号(ID)と、該当するサブ領域において合焦状態となるデジタル画像に付与された番号とが互いに関連付けられたルックアップテーブルとなっている。サブ領域を特定するための識別情報は、図11に示したようなサブ領域に付与された識別番号でもよいし、デジタル画像に対応する平面領域内でのサブ領域の位置を表す座標であってもよい。
また、合焦位置情報生成部237は、図11に示したようなルックアップテーブルではなく、図9に示したような色分布マップのような画像情報を、合焦位置情報として生成してもよい。
合焦位置情報生成部237は、生成した合焦位置情報を、顕微鏡画像出力部227と、後述する全領域合焦画像生成部239と、に出力する。また、合焦位置情報生成部237は、生成した合焦位置情報を、記憶部211等に格納してもよい。
全領域合焦画像生成部239は、例えば、CPU、GPU、ROM、RAM等により実現される。全領域合焦画像生成部239は、デジタル加工部231から出力された顕微鏡画像(デジタル画像)と、合焦位置情報生成部237から出力された合焦位置情報とを利用して、全領域合焦画像を生成する。全領域合焦画像は、デジタル画像に対応する平面全体が合焦状態にある顕微鏡画像(デジタル画像)である。
全領域合焦画像生成部239は、まず、合焦位置情報を参照して、サブ領域毎に合焦状態にあるデジタル画像(より詳細には、合焦状態にあるデジタル画像の、着目しているサブ領域に該当する部分)を抽出する。その後、全領域合焦画像生成部239は、抽出した合焦状態にあるデジタル画像をつなぎ合わせて、全領域合焦画像を生成する。
図12は、全領域合焦画像の生成方法の概略を示した説明図である。
全領域合焦画像生成部239は、合焦位置情報生成部237から出力された合焦位置情報を参照して、各サブ領域について、合焦状態にあるデジタル画像がどれかを特定する。図12に示した例では、全領域合焦画像生成部239は、サブ領域ID=1であるサブ領域については、対物レンズ側から20枚目のデジタル画像が合焦状態にあることを特定する。同様にして、全領域合焦画像生成部239は、全てのサブ領域について、合焦状態にあるデジタル画像がどれかを特定する。
次に、全領域合焦画像生成部239は、ID=1のサブ領域については、20枚目のデジタル画像のID=1のサブ領域に該当する部分を抽出し、ID=2のサブ領域については、18枚目のデジタル画像のID=2のサブ領域に該当する部分を抽出する。同様にして、全領域合焦画像生成部239は、全てのサブ領域について、全領域合焦画像の生成に利用する画像データを、該当するデジタル画像の中から抽出する。抽出したこれらのデジタル画像をつなぎ合わせることで、全領域合焦画像が生成されることとなる。
このようにして生成される全領域合焦画像と通常の合焦画像との違いについて、図13を参照しながら、簡単に説明する。
合焦画像は、画像全体として合焦度が高い画像である。顕微鏡画像の撮像対象であるサンプルは有限の厚みを有するものであり、前述のように、サンプルの部位毎に合焦状態にある奥行き位置は異なっている。そのため、図13上段に示したように、通常の合焦画像においてサブ領域Aは合焦状態にあったとしても、サブ領域B及びサブ領域Cが合焦状態にあるとは限らない。
他方、全領域合焦画像生成部239によって生成される全領域合焦画像は、全てのサブ領域が合焦している画像である。そのため、図13下段に示したように、サブ領域A、サブ領域B及びサブ領域Cを含む全領域合焦画像中の全てのサブ領域は、合焦した状態にある。従って、顕微鏡画像の閲覧者は、画像のピント調整を行うことなく、サンプルの顕微鏡画像の全ての平面領域が合焦状態にある画像を閲覧できる。これにより、閲覧者の利便性を飛躍的に向上させることが可能となる。
顕微鏡画像出力部227は、このようにして生成された合焦位置情報を、顕微鏡画像のデータに関連付ける。また、顕微鏡画像出力部227は、合焦位置情報を顕微鏡画像のデータに関連付けるだけでなく、データ内の所定の位置(例えば、画像データのヘッダ内など)に記録してもよい。更に、全領域合焦画像生成部239により全領域合焦画像が生成された場合には、顕微鏡画像出力部227は、かかる全領域合焦画像に関するデータを、顕微鏡画像データに更に関連付ける。
本実施形態に係る顕微鏡画像データは大容量であるため、何らかの圧縮フォーマットを用いて保存されることが好ましい。かかる場合において、本実施形態に係る合焦位置情報が存在しないとき、画像表示装置40は、顕微鏡画像を表示する際に、逐一選択された画像の全ての奥行き方向の枚数をデコードし、全枚数について最適合焦点を演算することとなる。しかしながら、かかる処理を実施するためには、画像表示装置40のCPUやメモリ等のリソースに関する負荷が大きくなると考えられる。このように、本実施形態に係る合焦位置情報を利用することで、画像表示装置40において顕微鏡画像を表示する際に、画像表示装置40の負荷を低減することが可能となる。なお、画像表示装置40の負荷を考慮しなくても良いのであれば、顕微鏡画像のデジタル化の時点で合焦位置情報が画像データ内、又は、画像データに関連付けられて生成保存されていなくともよい。
以上、本実施形態に係る顕微鏡制御装置20の機能の一例を示した。上記の各構成要素は、汎用的な部材や回路を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。また、各構成要素の機能を、CPU等が全て行ってもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用する構成を変更することが可能である。
なお、上述のような本実施形態に係る顕微鏡制御装置20の各機能を実現するためのコンピュータプログラムを作製し、パーソナルコンピュータ等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリなどである。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信してもよい。
<画像表示装置の構成について>
次に、図14を参照しながら、本実施形態に係る画像表示装置40の構成について、詳細に説明する。図14は、本実施形態に係る画像表示装置40の構成を示したブロック図である。
本実施形態に係る画像表示装置40は、図14に示したように、ユーザ操作情報取得部401と、顕微鏡画像取得部403と、表示制御部405と、表示画像選択部407と、通信制御部409と、記憶部411と、を主に備える。
ユーザ操作情報取得部401は、例えば、CPU、ROM、RAM、入力装置等により実現される。ユーザ操作情報取得部401は、キーボード、マウス、タッチパネル等といった入力装置から出力された、当該入力装置にユーザが行ったユーザ操作に対応する出力信号を取得して、ユーザが行った操作(ユーザ操作)を表すユーザ操作情報とを生成する。ユーザ操作情報取得部401は、生成したユーザ操作情報を、後述する顕微鏡画像取得部403、表示制御部405及び表示画像選択部407に出力する。また、ユーザ操作情報取得部401は、生成したユーザ操作情報を、後述する記憶部411に格納して、履歴情報としてもよい。
ここで、キーボード、マウス、タッチパネル等の入力装置にユーザが行う操作の一例として、例えば、顕微鏡画像の選択処理や、ある顕微鏡画像についての表示領域の変更処理等を挙げることができる。また、ユーザが行うユーザ操作は、これらの例に限定されるわけではなく、ユーザが行ったユーザ操作は、適宜当該ユーザ操作を表すユーザ操作情報へと変換され、各処理部へと出力される。
顕微鏡画像取得部403は、例えば、CPU、ROM、RAM等により実現される。顕微鏡画像取得部403は、ユーザ操作情報取得部401から出力された、顕微鏡画像の一覧の取得開始を示すユーザ操作情報に応じて、画像管理サーバ30から、当該画像管理サーバ30が管理している顕微鏡画像の一覧(リスト)を取得する。また、顕微鏡画像取得部403は、ユーザ操作により、あるサンプルの顕微鏡画像が選択されると、選択された顕微鏡画像の送信リクエストを、画像管理サーバ30に送信する。
顕微鏡画像取得部403は、画像管理サーバ30から出力された複数のデジタル画像からなる顕微鏡画像のデータを取得すると、取得した顕微鏡画像のデータを、後述する表示制御部405に出力する。また、顕微鏡画像取得部403は、取得した顕微鏡画像のデータを、記憶部411に格納してもよい。
表示制御部405は、例えば、CPU、ROM、RAM等により実現される。表示制御部405は、本実施形態に係る画像表示装置40が備えるディスプレイ等の表示装置に表示される表示画面の制御を行う。また、表示制御部405は、ユーザ操作情報取得部401から出力されるユーザ操作情報、及び、後述する表示画像選択部407から出力される選択画像情報の少なくとも何れかに応じて、表示画面に表示されている内容を変更する。
具体的には、表示制御部405は、顕微鏡画像取得部403から、顕微鏡画像の一覧に関する情報が出力されると、出力された情報に基づいて、ユーザが閲覧可能な顕微鏡画像のリストを、表示画面に表示する。また、表示制御部405は、ユーザ操作情報として顕微鏡画像の表示を開始する情報が出力された場合に、後述する表示画像選択部407から出力される選択画像情報に基づいて、当該選択画像情報により指定されたサンプルの拡大像を、表示画面に表示する。また、ユーザ操作情報として、表示画面に表示されている表示領域を変更する情報が出力された場合には、表示画面内で拡大像を上下左右に(平面内で)動かしたり、ズーム・パンなど拡大縮小表示したり、奥行き方向に焦点位置を変えるように動かしたりする。
この際、表示制御部405は、表示画面に表示されているデジタル画像の部位(領域)を特定し、この表示画面に表示されている領域に関する情報を、顕微鏡画像取得部403及び表示画像選択部407に出力する。また、表示制御部405は、マウスポインタ等の位置指定オブジェクトが表示されている位置(表示画面における位置)を特定し、この表示位置に関する情報を、表示画像選択部407に出力する。これにより、顕微鏡画像取得部403及び表示画像選択部407は、画像表示装置40内において表示画面に表示されている内容に関する各種の情報(以下、表示内容情報とも称する。)を把握することができる。
なお、表示制御部405は、画像表示装置40の表示画面に表示する内容として、記憶部411等に格納されている各種の情報を利用することが可能である。
表示画像選択部407は、例えば、CPU、GPU、ROM、RAM等により実現される。表示画像選択部407は、ユーザ操作情報取得部401から出力されたユーザ操作情報、及び、表示制御部405から出力された各種の表示内容情報に基づいて、指定されたサンプルを表示画面に表示する際に利用するデジタル画像を選択する。
具体的には、表示画像選択部407は、ユーザ操作情報取得部401から、顕微鏡画像の表示を開始するユーザ操作情報が出力された場合、表示画面に最初に表示するサンプルの拡大像として、全領域合焦画像を選択することができる。この際、表示を行うサンプルの顕微鏡画像に生成済みの全領域合焦画像が存在するのであれば、表示画像選択部407は、生成されている全領域合焦画像を利用する旨を示した選択画像情報を生成し、表示制御部405に生成した選択画像情報を出力する。ここで、選択画像情報は、表示画像選択部407が行った画像の選択処理の選択結果を示した情報である。また、全領域合焦画像が存在しないのであれば、表示画像選択部407は、顕微鏡制御装置20の全領域合焦画像生成部239と同様の方法を用いて、全領域合焦画像を生成することができる。
表示画像選択部407は、ユーザ操作情報取得部401から顕微鏡画像の表示を開始するユーザ操作情報が出力された場合、サンプルの拡大像が表示される表示領域の略中央部分に対応するサブ領域が合焦状態となっているように、デジタル画像を選択可能である。ユーザは、表示画面にある画像が表示される場合、その中央部分を最初に注視することが多い。そのため、拡大像が表示される表示領域の略中央部分が合焦状態となっているようなデジタル画像を選択することで、サンプルの拡大像の閲覧者は、ピント調整等の操作を行う手間を省くことができ、ユーザの利便性を向上させることが可能となる。
かかる場合、表示画像選択部407は、表示制御部405から、サンプルの拡大像が表示される領域の大きさに関する表示内容情報を取得し、この表示領域の略中央部分に位置するサブ領域が、デジタル画像に対応する表面領域のどの部分に対応するかを特定する。その後、表示画像選択部407は、顕微鏡画像に関連付けられている合焦位置情報を参照して、特定したサブ領域(表示領域の略中央部分に位置するサブ領域)が合焦状態となっているデジタル画像を選択する。次に、表示画面選択部407は、選択したデジタル画像を示す情報を、選択画像情報として表示制御部405に出力する。
表示画像選択部407は、ユーザ操作情報取得部401から顕微鏡画像の表示を開始するユーザ操作情報が出力された場合、位置指定オブジェクトが存在する位置に対応するサブ領域が合焦状態となっているように、デジタル画像を選択可能である。
かかる場合、表示画像選択部407は、表示制御部405から、位置指定オブジェクトの存在位置を表す表示内容情報を取得し、位置指定オブジェクトの存在位置が、どのサブ領域に対応するかを特定する。その後、表示画像選択部407は、顕微鏡画像に関連付けられている合焦位置情報を参照して、特定したサブ領域が合焦状態となっているデジタル画像を選択する。次に、表示画面選択部407は、選択したデジタル画像を示す情報を、選択画像情報として表示制御部405に出力する。
以上説明したような、3種類の初期表示画像の選択処理については、適宜オン・オフすることが可能である。すなわち、画像表示装置40のデフォルト動作設定機能等を利用して、初期表示画面としてどのようなデジタル画像を表示するかを指定することが可能である。また、初期表示画面に用いられるデジタル画像は上記のものに限定されるわけではない。
更に、表示画像選択部407は、ユーザ操作情報として表示画面に表示されている表示領域を変更する情報が出力された場合、ユーザ操作に応じて、表示に利用するデジタル画像を選択する。これにより、サンプルの拡大像の閲覧者が意図したデジタル画像が、表示画像選択部407により選択されることとなる。
このように、画像表示装置40では、マウスのホイール操作などによりユーザが任意の奥行き位置のデジタル画像を選択することで、顕微鏡のフォーカスの手動調整と同様の操作を行うことが可能である。しかし、前述のように、デジタル画像データの個々の奥行き位置の画像では、画像の表示領域によって合焦状態がまちまちとなり、観察位置を移動する度にユーザはフォーカスの手動調整をすることとなる。そこで、表示画像選択部407は、合焦位置情報を利用して、例えば、表示画像の中心に対応する領域やポインタ等の位置指定オブジェクトが停止している領域の合焦状態が最適状態になるように、奥行き方向の表示位置を自動的に合焦位置情報から選択する。これにより、本実施形態に係る画像表示装置40では、ユーザが観察したい領域にあたかもスライドステージがオートフォーカスされるような表示が可能となり、ユーザの操作の手間が簡略化される。また、表示領域の全てが最適合焦状態となっている全領域合焦画像を利用することで、奥行き方向のない一枚のデジタル画像により全領域をユーザが閲覧可能となる。
また、ユーザがサンプルの立体的な構造の変化(すなわち、奥行き位置の変化に伴うサンプル像の変化)を観察する場合も考えられる。かかる場合には、ユーザが手動で奥行き位置を変えるような操作が行われるため、前述の自動最適フォーカス表示や全領域合焦画像表示の機能は、オン・オフできることが好ましい。
通信制御部409は、例えば、CPU、ROM、RAM、通信装置等により実現される。通信制御部409は、画像表示装置40と、画像表示装置40の外部に設けられた画像管理サーバ30との間で、ネットワーク3を介して行われる通信の制御を行う。
記憶部411は、本実施形態に係る画像表示装置40が備えるストレージ装置の一例である。記憶部411には、画像管理サーバ30から取得した顕微鏡画像データや、当該顕微鏡画像データに関連付けられている合焦位置情報を含む各種のメタ情報等が格納される。また、記憶部411には、顕微鏡画像データの取得履歴など、各種の履歴情報が記録されていてもよい。さらに、記憶部411には、本実施形態に係る画像表示装置40が、何らかの処理を行う際に保存する必要が生じた様々なパラメータや処理の途中経過等、または、各種のデータベースやプログラム等が、適宜記録される。
以上、本実施形態に係る画像表示装置40の機能の一例を示した。上記の各構成要素は、汎用的な部材や回路を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。また、各構成要素の機能を、CPU等が全て行ってもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用する構成を変更することが可能である。
なお、上述のような本実施形態に係る画像表示装置40の各機能を実現するためのコンピュータプログラムを作製し、パーソナルコンピュータ等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリなどである。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信してもよい。
<表示画面の一例について>
次に、図15を参照しながら、本実施形態に係る画像表示装置40のディスプレイ等に表示される表示画面の一例について、簡単に説明する。図15は、本実施形態に係る画像表示装置の表示画面の一例を示した説明図である。
図15に示したように、画像表示装置40のディスプレイ等の表示画面601には、あるサンプルの拡大像が表示される拡大像表示領域603が設けられる。また、表示画面601には、例えば図11に示したような合焦位置情報や図9に示したような合焦位置を表した合焦マップ画像等が表示される副情報表示領域605が設けられていてもよい。副情報表示領域605が設けられることで、ユーザは、着目している拡大像の部分の合焦位置が、サンプルの厚みのどのあたりに該当するのかを的確に把握することが可能である。また、副情報表示領域605に表示される表示内容には、適宜編集が加えられても良い。例えば、あるサブ領域について合焦状態となる奥行き位置が複数存在する場合には、合焦状態となる奥行き位置が複数存在することを表すように、サブ領域の縁取りの色を変更するなどの編集が加えられても良い。また、合焦位置が複数存在するサブ領域が存在する場合には、合焦位置の組み合わせ毎に、副情報表示領域605に全領域合焦画像が表示されてもよい。
画像表示装置40のユーザが、マウス、キーボード、タッチパネル等の入力装置を操作して、サンプルの拡大像を表示画面601に表示させる操作を行った場合、拡大像表示領域603には、所定の初期表示画像が表示される。この初期表示画像は、前述のように、全領域合焦画像であったり、拡大像表示領域603の略中央部分が合焦状態となっているデジタル画像であったりしてもよい。また、図15に示した例では、位置指定オブジェクトの一例であるポインタ607が、サブ領域AR1に存在している場合を示している。この場合、表示画像選択部407は、表示制御部405から出力される表示内容情報に基づいてサブ領域AR1の位置を特定した上で合焦位置情報を参照し、領域AR1が合焦状態となっているデジタル画像を初期表示画像として選択する。その結果、拡大像表示領域603には、領域AR1が合焦状態となっているデジタル画像が表示されることとなる。
なお、図15に示した表示画面はあくまでも一例であって、本実施形態に係る画像表示装置40のディスプレイ等の表示装置に表示される表示画面が、図15に示した例に限定されるわけではない。
<合焦位置情報生成方法の流れについて>
次に、図16を参照しながら、本実施形態に係る顕微鏡制御装置20で実施される合焦位置情報生成方法について、その流れを説明する。図16は、本実施形態に係る合焦位置情報生成方法の流れを示した流れ図である。
顕微鏡制御装置20の顕微鏡画像取得部223は、まず、顕微鏡10により撮像されたサンプルの顕微鏡画像を、顕微鏡10から取得する(ステップS101)。この顕微鏡画像は、前述のように、サンプルの厚み方向(奥行き方向)に沿って撮像された複数のデジタル画像から構成されている。顕微鏡制御装置20の顕微鏡画像取得部223は、複数のデジタル画像からなる顕微鏡画像のデータを、画像処理部225のデジタル加工部231に出力する。
デジタル加工部231は、出力された複数のデジタル画像からなる顕微鏡画像に対して、画像データの現像処理、スティッチング処理、圧縮処理など、所定のデジタル加工処理を実施する(ステップS103)。その後、デジタル加工部231は、デジタル加工処理後の顕微鏡画像を、顕微鏡画像出力部227、領域分割部233及び全領域合焦画像生成部239に出力する。
続いて、領域分割部233は、デジタル画像に対応する平面領域(画像領域)を、複数のサブ領域へと分割し(ステップS105)、分割結果を示す情報を、合焦位置検出部235に出力する。
次に、合焦位置検出部235は、サブ領域毎に合焦状態にあるデジタル画像を特定することで、合焦している画像の奥行き位置を特定する(ステップS107)。合焦位置検出部235は、合焦状態にあるデジタル画像の検出結果を、合焦位置情報生成部237に出力する。
続いて、合焦位置情報生成部237は、合焦位置検出部235から出力された合焦状態にあるデジタル画像の検出結果に基づいて合焦位置情報を生成する(ステップS109)。その後、合焦位置情報生成部237は、得られた合焦位置情報を、顕微鏡画像出力部227及び全領域合焦画像生成部239に出力する。
次に、全領域合焦画像生成部239は、デジタル加工部231から出力されたデジタル画像と、合焦位置情報生成部237から出力された合焦位置情報とを利用して、全領域合焦画像を生成する(ステップS111)。その後、全領域合焦画像生成部239は、生成した全領域合焦画像を、顕微鏡画像出力部227に出力する。
続いて、顕微鏡画像出力部227は、デジタル加工部231から出力された顕微鏡画像と、合焦位置情報生成部237から出力された合焦位置情報と、全領域合焦画像生成部239から出力された全領域合焦画像とを、互いに関連付ける。その後、顕微鏡画像出力部227は、顕微鏡画像のデータを、合焦位置情報のデータ及び全領域合焦画像のデータとともに、顕微鏡制御装置20の外部に設けられたサーバ(例えば、画像管理サーバ30)に出力する(ステップS113)。
このような処理が行われることで、顕微鏡画像に対応する合焦位置情報が生成され、顕微鏡画像のデータとともに画像管理サーバ30にアップロードされることとなる。
<画像表示方法の流れについて>
続いて、図17を参照しながら、本実施形態に係る画像表示装置40で実施される画像表示方法について、その流れを説明する。図17は、本実施形態に係る画像表示方法の流れを示した流れ図である。
なお、以下の説明に先立ち、画像表示装置40の顕微鏡画像取得部403は、画像管理サーバ30から、当該サーバが管理している顕微鏡画像の一覧を取得しており、顕微鏡画像の閲覧者は、閲覧を希望するサンプルの拡大像を選択しているものとする。
画像表示装置40の顕微鏡画像取得部403は、まず、顕微鏡画像の選択結果を表すユーザ操作情報に基づいて、ユーザによって選択された顕微鏡画像のデータと合焦位置情報とを、画像管理サーバ30から取得する(ステップS201)。その後、顕微鏡画像取得部403は、取得した顕微鏡画像と合焦位置情報とを、記憶部411等に格納する。また、顕微鏡画像取得部403は、取得した顕微鏡画像及び合焦位置情報等を、直接表示制御部405及び表示画像選択部407に出力してもよい。
その後、画像表示装置40は、ユーザ操作情報を参照して、顕微鏡画像の閲覧を終了する操作がなされたか否かを判断する(ステップS203)。終了操作を表すユーザ操作情報が生成された場合には、画像表示装置40は、顕微鏡画像の表示処理を終了する。
他方、終了操作を表すユーザ操作が生成されなかった場合、表示画像選択部407は、ユーザ操作情報取得部401から出力されるユーザ操作情報と、表示制御部405から出力される表示内容情報に基づいて、デジタル画像を選択する(ステップS205)。具体的には、表示画像選択部407は、ユーザ操作情報に基づいて全領域合焦画像を選択したり、合焦位置情報に基づいて表示画面の略中央部分又はポインタ等が停止している部分が合焦状態となるデジタル画像を選択したりする。表示画像選択部407は、選択結果を示す情報を、表示制御部405に出力する。
表示制御部405は、表示画像選択部407から出力された選択結果を示す情報に基づいて、選択されたデジタル画像を取得し、取得したデジタル画像を表示する表示制御を実施する(ステップS207)。
このような処理が行われることで、画像表示装置40のディスプレイ等の表示装置には、ユーザにより選択されたサンプルの拡大像が、適切な合焦状態で表示されることとなる。
(第2の実施形態)
以下で説明する本発明の第2の実施形態では、図1に示したような構成を有する顕微鏡画像管理システム1において、画像管理サーバ30と画像処理装置40との間で互いに連携して実施される顕微鏡画像の表示制御処理について、詳細に説明する。
なお、以下で説明する第2の実施形態では、第1の実施形態とは異なり、画像表示装置40は、表示画面に表示させる顕微鏡画像の奥行き位置が変更となった場合に、その都度画像管理サーバ30に対して表示に利用する顕微鏡画像の提供を要請する場合について説明する。しかしながら、画像表示装置40による顕微鏡画像の取得方法は、以下の例に限定されるわけではなく、画像表示装置40の性能や利用可能な通信網の通信リソース等に応じて適宜設定することができる。
<画像管理サーバの構成について>
まず、図18を参照しながら、本実施形態に係る画像管理サーバ30の構成の一例について、簡単に説明する。図18は、本実施形態に係る画像管理サーバ30の構成の一例を示したブロック図である。
本実施形態に係る画像管理サーバ30は、図18に示したように、顕微鏡画像管理部301と、顕微鏡画像提供部303と、全領域合焦画像更新部305と、通信制御部307と、記憶部309と、を主に備える。
顕微鏡画像管理部301は、例えば、CPU、ROM、RAM等により実現される。顕微鏡画像管理部301は、サンプルの厚み方向に沿って撮像された複数のデジタル画像からなる顕微鏡画像と、デジタル画像に対応する平面を構成する複数のサブ領域毎に、当該サブ領域において合焦状態にあるデジタル画像を特定する特定情報が関連付けられた合焦位置情報と、デジタル画像に対応する平面が合焦状態にある全領域合焦画像と、を含む顕微鏡画像データ群を管理する。これらの顕微鏡画像データ群は、例えば、顕微鏡画像管理システム1内の顕微鏡制御装置20により生成されるものである。
顕微鏡画像管理部301は、顕微鏡制御装置20から上述のような顕微鏡画像データ群が提供されると、提供された顕微鏡画像データ群に固有の識別情報(例えば、ID番号等)を付与して、後述する記憶部309の所定の格納領域に格納する。また、顕微鏡画像管理部301は、記憶部309に格納されている顕微鏡画像データ群の識別情報や、顕微鏡画像に付随するメタデータ等に関する情報が記載されたデータベースを生成し、顕微鏡画像の管理に利用することができる。
顕微鏡画像提供部303は、例えば、CPU、ROM、RAM等により実現される。顕微鏡画像提供部303は、画像表示装置40から出力される顕微鏡画像提供要請に応じて、管理している顕微鏡画像データ群の中から提供要請のあった顕微鏡画像データ群を選択し、選択した顕微鏡画像データ群を画像表示装置40に提供する。
ここで、顕微鏡画像提供部303は、以下で具体的に説明するように、全領域合焦画像の所定の領域におけるサンプルの厚み方向の位置を変更したデジタル画像を画像表示装置40から要請された場合、要請されたサンプルの厚み方向の位置における少なくとも所定の領域のデジタル画像を、画像表示装置40に提供する。
また、顕微鏡画像提供部303は、以下で具体的に説明するように、所定の領域におけるデジタル画像が複数のサブ領域にまたがって構成されている場合、サブ領域ごとにサンプルの厚み方向の位置を変更したデジタル画像を、画像表示装置40に提供する。
なお、顕微鏡画像提供部303において実施される顕微鏡画像の提供処理については、以下で改めて具体的に説明する。
全領域合焦画像更新部305は、例えば、CPU、ROM、RAM等により実現される。全領域合焦画像更新部305は、全領域合焦画像の所定の領域における合焦位置が、画像表示装置40に対して実行された閲覧者の操作により変更された場合に、変更が行われた全領域合焦画像に対応する合焦位置情報を少なくとも更新する。また、全領域合焦画像更新部305は、更新後の合焦位置情報と、記憶部309に格納されている顕微鏡画像とを利用して、全領域合焦画像そのものを更に更新してもよい。
ここで、全領域合焦画像更新部305において実施される合焦位置情報及び全領域合焦画像の更新処理については、以下で改めて具体的に説明する。
通信制御部307は、例えば、CPU、ROM、RAM、通信装置等により実現される。通信制御部307は、画像管理サーバ30と、画像管理サーバ30の外部に設けられた顕微鏡制御装置20又は画像表示装置40との間で、ネットワーク3を介して行われる通信の制御を行う。
記憶部309は、本実施形態に係る画像管理サーバ30が備えるストレージ装置の一例である。記憶部309には、顕微鏡制御装置20から提供された、画像管理サーバ30が管理している顕微鏡画像データ群や、管理している顕微鏡画像データ群に関する各種のデータベース等が格納される。また、記憶部309には、顕微鏡画像データの登録履歴、更新履歴、削除履歴など、各種の履歴情報が記録されていてもよい。さらに、記憶部309には、本実施形態に係る画像管理サーバ30が、何らかの処理を行う際に保存する必要が生じた様々なパラメータや処理の途中経過等、または、各種のデータベースやプログラム等が、適宜記録される。
以上、本実施形態に係る画像管理サーバ30の機能の一例を示した。上記の各構成要素は、汎用的な部材や回路を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。また、各構成要素の機能を、CPU等が全て行ってもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用する構成を変更することが可能である。
なお、上述のような本実施形態に係る画像管理サーバ30の各機能を実現するためのコンピュータプログラムを作製し、パーソナルコンピュータ等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリなどである。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信してもよい。
<画像表示装置の構成について>
続いて、図19を参照しながら、本実施形態に係る画像表示装置40の構成の一例について、簡単に説明する。図19は、本実施形態に係る画像表示装置40の構成の一例を示したブロック図である。
本実施形態に係る画像表示装置40は、例えば図19に示したように、ユーザ操作情報取得部401、顕微鏡画像取得部403、表示制御部405、表示画像選択部407、通信制御部409、記憶部411及び合焦位置情報更新要請部451を主に備える。
ユーザ操作情報取得部401は、例えば、CPU、ROM、RAM、入力装置等により実現される。ユーザ操作情報取得部401は、キーボード、マウス、タッチパネル等といった入力装置から出力された、当該入力装置にユーザが行ったユーザ操作に対応する出力信号を取得して、ユーザが行った操作(ユーザ操作)を表すユーザ操作情報とを生成する。ユーザ操作情報取得部401は、生成したユーザ操作情報を、後述する顕微鏡画像取得部403、表示制御部405、表示画像選択部407及び合焦位置情報更新要請部451に出力する。また、ユーザ操作情報取得部401は、生成したユーザ操作情報を、後述する記憶部411に格納して、履歴情報としてもよい。
ここで、キーボード、マウス、タッチパネル等の入力装置にユーザが行う操作の一例として、例えば、顕微鏡画像の選択処理や、ある顕微鏡画像についての表示領域の変更処理や、全領域合焦画像における奥行き位置の調整処理等を挙げることができる。また、ユーザが行うユーザ操作は、これらの例に限定されるわけではなく、ユーザが行ったユーザ操作は、適宜当該ユーザ操作を表すユーザ操作情報へと変換され、各処理部へと出力される。
顕微鏡画像取得部403は、例えば、CPU、ROM、RAM等により実現される。顕微鏡画像取得部403は、ユーザ操作情報取得部401から出力された、顕微鏡画像の一覧の取得開始を示すユーザ操作情報に応じて、画像管理サーバ30から、当該画像管理サーバ30が管理している顕微鏡画像の一覧(リスト)を取得する。また、顕微鏡画像取得部403は、ユーザ操作により、あるサンプルの顕微鏡画像が選択されると、選択された顕微鏡画像の提供要請を、画像管理サーバ30に送信する。
顕微鏡画像取得部403は、画像管理サーバ30から提供されたデジタル画像(微鏡画像)のデータを取得すると、取得した顕微鏡画像のデータを、後述する表示制御部405に出力する。また、顕微鏡画像取得部403は、取得した顕微鏡画像のデータを、記憶部411に格納してもよい。
表示制御部405は、例えば、CPU、ROM、RAM等により実現される。表示制御部405は、本実施形態に係る画像表示装置40が備えるディスプレイ等の表示装置に表示される表示画面の制御を行う。また、表示制御部405は、ユーザ操作情報取得部401から出力されるユーザ操作情報、及び、後述する表示画像選択部407から出力される選択画像情報の少なくとも何れかに応じて、表示画面に表示されている内容を変更する。
具体的には、表示制御部405は、顕微鏡画像取得部403から、顕微鏡画像の一覧に関する情報が出力されると、出力された情報に基づいて、ユーザが閲覧可能な顕微鏡画像のリストを、表示画面に表示する。また、表示制御部405は、ユーザ操作情報として顕微鏡画像の表示を開始する情報が出力された場合に、後述する表示画像選択部407から出力される選択画像情報に基づいて、当該選択画像情報により指定されたサンプルの拡大像を、表示画面に表示する。また、ユーザ操作情報として、表示画面に表示されている表示領域を変更する情報が出力された場合には、表示画面内で拡大像を上下左右に(平面内で)動かしたり、ズーム・パンなど拡大縮小表示したり、奥行き方向に焦点位置を変えるように動かしたりする。
更に、本実施形態に係る表示制御部405は、表示しているデジタル画像(顕微鏡画像)の奥行き位置(サンプルの厚み方向に沿った位置)を表示画面上に表示させる。
この際、表示制御部405は、表示画面に表示されているデジタル画像の部位(領域)を特定し、この表示画面に表示されている領域に関する情報を、顕微鏡画像取得部403及び表示画像選択部407に出力する。また、表示制御部405は、マウスポインタ等の位置指定オブジェクトが表示されている位置(表示画面における位置)や、当該位置指定オブジェクトにより選択された領域(表示画面における領域)等を特定し、この表示位置に関する情報を、表示画像選択部407に出力する。これにより、顕微鏡画像取得部403及び表示画像選択部407は、画像表示装置40内において表示画面に表示されている内容に関する各種の情報(以下、表示内容情報とも称する。)を把握することができる。
また、表示画面に表示されている各種のオブジェクト(例えば、各種処理を実施するためのアイコンやスライドバー等)が位置指定オブジェクト等により選択されたり、ドラッグ処理等の各種操作がなされたりした場合に、表示制御部405は、ユーザ操作情報に基づいて、どのオブジェクトが選択されたり操作されたりしたのかを特定することができる。
なお、表示制御部405は、画像表示装置40の表示画面に表示する内容として、記憶部411等に格納されている各種の情報を利用することが可能である。
表示画像選択部407は、例えば、CPU、GPU、ROM、RAM等により実現される。表示画像選択部407は、ユーザ操作情報取得部401から出力されたユーザ操作情報、及び、表示制御部405から出力された各種の表示内容情報に基づいて、指定されたサンプルを表示画面に表示する際に利用するデジタル画像を選択する。
具体的には、表示画像選択部407は、ユーザ操作情報取得部401から、顕微鏡画像の表示を開始するユーザ操作情報が出力された場合、表示画面に最初に表示するサンプルの拡大像として、全領域合焦画像を選択することができる。この際、表示を行うサンプルの顕微鏡画像に生成済みの全領域合焦画像が存在するのであれば、表示画像選択部407は、生成されている全領域合焦画像を利用する旨を示した選択画像情報を生成し、表示制御部405に生成した選択画像情報を出力する。ここで、選択画像情報は、表示画像選択部407が行った画像の選択処理の選択結果を示した情報である。
表示画像選択部407は、ユーザ操作情報取得部401から顕微鏡画像の表示を開始するユーザ操作情報が出力された場合、サンプルの拡大像が表示される表示領域の略中央部分に対応するサブ領域が合焦状態となっているように、デジタル画像を選択可能である。ユーザは、表示画面にある画像が表示される場合、その中央部分を最初に注視することが多い。そのため、拡大像が表示される表示領域の略中央部分が合焦状態となっているようなデジタル画像を選択することで、サンプルの拡大像の閲覧者は、ピント調整等の操作を行う手間を省くことができ、ユーザの利便性を向上させることが可能となる。
かかる場合、表示画像選択部407は、表示制御部405から、サンプルの拡大像が表示される領域の大きさに関する表示内容情報を取得し、この表示領域の略中央部分に位置するサブ領域が、デジタル画像に対応する表面領域のどの部分に対応するかを特定する。その後、表示画像選択部407は、顕微鏡画像に関連付けられている合焦位置情報を参照して、特定したサブ領域(表示領域の略中央部分に位置するサブ領域)が合焦状態となっているデジタル画像を選択する。次に、表示画面選択部407は、選択したデジタル画像を示す情報を、選択画像情報として表示制御部405に出力する。
表示画像選択部407は、ユーザ操作情報取得部401から顕微鏡画像の表示を開始するユーザ操作情報が出力された場合、位置指定オブジェクトが存在する位置に対応するサブ領域が合焦状態となっているように、デジタル画像を選択可能である。
かかる場合、表示画像選択部407は、表示制御部405から、位置指定オブジェクトの存在位置を表す表示内容情報を取得し、位置指定オブジェクトの存在位置が、どのサブ領域に対応するかを特定する。その後、表示画像選択部407は、顕微鏡画像に関連付けられている合焦位置情報を参照して、特定したサブ領域が合焦状態となっているデジタル画像を選択する。次に、表示画面選択部407は、選択したデジタル画像を示す情報を、選択画像情報として表示制御部405に出力する。
以上説明したような、3種類の初期表示画像の選択処理については、適宜オン・オフすることが可能である。すなわち、画像表示装置40のデフォルト動作設定機能等を利用して、初期表示画面としてどのようなデジタル画像を表示するかを指定することが可能である。また、初期表示画面に用いられるデジタル画像は上記のものに限定されるわけではない。
更に、表示画像選択部407は、ユーザ操作情報として表示画面に表示されている表示領域を変更する情報が出力された場合、ユーザ操作に応じて、表示に利用するデジタル画像を選択する。これにより、サンプルの拡大像の閲覧者が意図したデジタル画像が、表示画像選択部407により選択されることとなる。
また、表示画像選択部407は、全領域合焦画像が表示画面に表示されており、かつ、当該全領域合焦画像の表示がユーザ操作により解除された場合に、全領域合焦画像の所定の領域が合焦状態にあるデジタル画像を、解除後の表示画面に表示する顕微鏡画像として選択することも可能である。
このように、画像表示装置40では、マウスのホイール操作などによりユーザが任意の奥行き位置のデジタル画像を選択することで、顕微鏡のフォーカスの手動調整と同様の操作を行うことが可能である。しかし、前述のように、デジタル画像データの個々の奥行き位置の画像では、画像の表示領域によって合焦状態がまちまちとなり、観察位置を移動する度にユーザはフォーカスの手動調整をすることとなる。そこで、表示画像選択部407は、合焦位置情報を利用して、例えば、表示画像の中心に対応する領域やポインタ等の位置指定オブジェクトが停止している領域の合焦状態が最適状態になるように、奥行き方向の表示位置を自動的に合焦位置情報から選択する。これにより、本実施形態に係る画像表示装置40では、ユーザが観察したい領域にあたかもスライドステージがオートフォーカスされるような表示が可能となり、ユーザの操作の手間が簡略化される。また、表示領域の全てが最適合焦状態となっている全領域合焦画像を利用することで、奥行き方向のない一枚のデジタル画像により全領域をユーザが閲覧可能となる。
また、ユーザがサンプルの立体的な構造の変化(すなわち、奥行き位置の変化に伴うサンプル像の変化)を観察する場合も考えられる。かかる場合には、ユーザが手動で奥行き位置を変えるような操作が行われるため、前述の自動最適フォーカス表示や全領域合焦画像表示の機能は、オン・オフできることが好ましい。
通信制御部409は、例えば、CPU、ROM、RAM、通信装置等により実現される。通信制御部409は、画像表示装置40と、画像表示装置40の外部に設けられた画像管理サーバ30との間で、ネットワーク3を介して行われる通信の制御を行う。
記憶部411は、本実施形態に係る画像表示装置40が備えるストレージ装置の一例である。記憶部411には、画像管理サーバ30から取得した顕微鏡画像データ群や、顕微鏡画像データに関連付けられている各種のメタ情報等が格納される。また、記憶部411には、顕微鏡画像データの取得履歴など、各種の履歴情報が記録されていてもよい。さらに、記憶部411には、本実施形態に係る画像表示装置40が、何らかの処理を行う際に保存する必要が生じた様々なパラメータや処理の途中経過等、または、各種のデータベースやプログラム等が、適宜記録される。
合焦位置情報更新要請部451は、例えば、CPU、ROM、RAM等により実現される。合焦位置情報更新要請部451は、ユーザ操作に応じて、全領域合焦画像の所定の領域における合焦位置がサンプルの厚み方向(すなわち、サンプルの奥行き方向)に沿って変更された場合に、所定の領域に対応する合焦位置情報の更新を画像管理サーバに要請する。
なお、合焦位置情報更新要請部451は、全領域合焦画像の所定の領域における合焦位置が変更された全ての場合において、画像管理サーバ30に対して合焦位置情報の更新要請を行ってもよい。また、合焦位置情報更新要請部451は、合焦位置情報の更新を要請するためのユーザ操作が実施された場合に、画像管理サーバ30に対して合焦位置情報の更新要請を行ってもよい。すなわち、合焦位置情報の更新要請処理をどのような条件下で画像管理サーバ30に対して送信するかについては、適宜設定することが可能である。
以上、本実施形態に係る画像表示装置40の機能の一例を示した。上記の各構成要素は、汎用的な部材や回路を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。また、各構成要素の機能を、CPU等が全て行ってもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用する構成を変更することが可能である。
なお、上述のような本実施形態に係る画像表示装置40の各機能を実現するためのコンピュータプログラムを作製し、パーソナルコンピュータ等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリなどである。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信してもよい。
<顕微鏡画像の表示画面及び表示制御処理の一例について>
続いて、図20〜図27を参照しながら、画像表示装置40の表示部に表示される表示画面の一例と、画像管理サーバ30及び画像表示装置40が互いに連携しながら実施する顕微鏡画像の表示制御処理の一例について、具体的に説明する。図20〜図27は、本実施形態に係る顕微鏡画像の表示画面の一例を示した説明図である。
図20は、表示画面601における拡大像表示領域603の一例を示した説明図である。図20に示したように、拡大像表示領域603には、ユーザの選択した顕微鏡画像が表示されるが、この拡大像表示領域603には、顕微鏡画像に加えて、操作用アイコンや操作用ツールバーといった、各種の操作用オブジェクトが更に表示される。例えば、図20に示した拡大像表示領域603には、位置指定オブジェクトの一例であるポインタ607に加えて、全領域合焦画像表示アイコン611や、奧行き情報表示領域613や、奥行き位置調整用スライドバー615等が表示されている。
ここで、全領域合焦画像表示アイコン611は、拡大像表示領域603に全領域合焦画像を表示させる全領域合焦画像表示モードへと表示モードを切り替えるためのアイコンである。ユーザ操作により全領域合焦画像表示アイコン611が選択されると、表示画像選択部407は、拡大像表示領域603に表示させるデジタル画像として全領域合焦画像を選択して、顕微鏡画像取得部403に、着目しているサンプルの全領域合焦画像の取得を要請する。顕微鏡画像取得部403は、通信制御部409を介して、画像管理サーバ30に全領域合焦画像の提供要請情報を送信する。画像管理サーバ30の顕微鏡画像提供部303は、通信制御部307を介して、画像表示装置40から送信された全領域合焦画像の提供要請情報を取得すると、要請のあった全領域合焦画像を画像表示装置40に提供する。画像表示装置40の表示制御部405は、提供された全領域合焦画像の表示制御を行い、拡大像表示領域603に全領域合焦画像を表示させる。
また、奧行き情報表示領域613には、ポインタ607が存在する位置や、ポインタ607により選択された領域等が合焦状態となる奥行き位置(すなわち、サンプルの厚み方向に沿った位置)に関する情報が表示される。この奥行き位置は、例えば図21に示したように、対物レンズ側からx枚目(又は、ステージ側からy枚目)といった枚数を単位とした表示であってもよく、対物レンズ側からp%の位置といった割合を表示したものであってもよい。画像表示装置40のユーザは、この奥行き情報表示領域613を参照することにより、ポインタ607が存在する位置や、ポインタ607により選択された領域等の奥行き位置がどこであるかを容易に把握することができる。
奥行き位置調整用スライドバー615は、表示されているデジタル画像(顕微鏡画像)の奥行き位置を調整するために操作されるオブジェクトである。このオブジェクトが操作されることにより、拡大像表示領域603に表示されているデジタル画像の奥行き位置を調整することが可能となる。また、後述するように、拡大像表示領域603に全領域合焦画像が表示されている際に奥行き位置調整用スライドバー615が操作された場合には、ポインタ607が存在する位置や、ポインタ607により選択された領域等の奥行き位置を調整することができる。
奥行き位置調整用スライドバー615が操作されると、かかる操作に対応して、奥行き情報表示領域613に表示される内容も変化することとなる。また、表示制御部405は、奥行き位置の変化に伴い拡大像表示領域603に表示されているポインタ607の大きさを変化させてもよい。例えば、表示制御部405は、奥行き位置が現在表示されている位置よりも更に奥側に変化した場合にはポインタ607の大きさを縮小させ、現在表示されている位置よりも更に手前側に変化した場合にはポインタ607の大きさを拡大させてもよい。かかる処理を行うことで、ユーザは、奥行き位置の変化を直感的に把握することが可能となる。
また、図21に示したように、全領域合焦画像表示アイコン611が選択された状態では、拡大像表示領域603には全領域合焦画像表示モードへと切り替わることとなる。この際に、ユーザがポインタ607を操作することによって、全領域合焦画像のある領域を選択した場合を考える。ここで、ユーザ操作によって選択された領域を、選択領域621と称することとする。この際、奧行き情報表示領域613には、選択領域621の奥行き位置情報が表示されることとなる。また、かかる場合において、ユーザ操作により奥行き位置調整用スライドバー615が操作されると、図21に示したように、選択領域21の範囲内において、奥行き位置が変化した顕微鏡画像(デジタル画像)が表示されることとなる。
かかる場合、画像表示装置40の表示制御部405は、まず、ユーザ操作によって選択された選択領域621の範囲を規定する座標を特定し、特定した座標に関する情報を表示画像選択部407に出力する。また、画像選択部407には、ユーザ操作情報取得部401から、奥行き位置調整用スライドバー615の操作量に関する情報が出力されている。画像選択部407は、特定された座標に関する情報と、奥行き位置調整用スライドバー615の操作量に関する情報に基づいて選択画像情報を生成し、顕微鏡画像取得部403に、選択画像情報に基づくデジタル画像の取得を要請する。顕微鏡画像取得部403は、通信制御部409を介して、画像管理サーバ30に対し選択領域621に表示させるデジタル画像の提供要請情報を送信する。
画像管理サーバ30の顕微鏡画像提供部303は、通信制御部307を介して、画像表示装置40から送信されたデジタル画像の提供要請情報を取得すると、スライドバー615の操作量に関する情報と、かかる範囲621を含むサブ領域の合焦位置情報に基づいて、ユーザが希望する奥行き位置がどこであるかを判断する。その後、画像管理サーバ30の顕微鏡画像提供部303は、要請のあったデジタル画像を画像表示装置40に提供する。画像表示装置40の表示制御部405は、提供されたデジタル画像の表示制御を行い、拡大像表示領域603の選択領域621に、取得したデジタル画像を表示させる。これにより、選択範囲621内に、奥行き位置が調整されたデジタル画像が表示されることとなる。
ここで、図22に示したように、表示制御部405は、奥行き位置調整用スライドバー615を、選択領域621の内部(例えば、選択領域621の上部)に個別に表示させてもよい。これにより、ユーザによるポインタ607の移動量を減らすことが可能となり、ユーザは、各選択領域621について、奥行き位置の調整を容易に実行することができるようになる。また、ユーザは、個別に表示された奥行き位置調整用スライドバー615を参照することで、各選択領域の奥行き位置を容易に把握することが可能となる。
また、図23に示したように、表示制御部405は、全領域合焦画像の奥行き位置を調整するための奥行き位置調整モードへと表示モードを切り替えるための奥行き位置調整アイコン623を、拡大像表示領域603に表示してもよい。表示制御部405は、この奥行き位置調整アイコン623を、拡大像表示領域603に常時表示しておいてもよいし、全領域合焦画像が拡大像表示領域603に表示されている際に表示するようにしてもよい。
ユーザ操作により奥行き位置調整アイコン623が選択され、表示モードが奥行き位置調整モードへと変更されると、ユーザ操作に応じて、選択領域621内の奥行き位置が調整されることとなる。奥行き位置を調整するためのユーザ操作は、特に限定されるわけではないが、例えば、ホイールマウスのホイール操作や、図23に斜線で示したように、選択領域621内の左端近傍や右端近傍のクリック操作等を挙げることができる。ここで、ホイール操作に応じて奥行き位置を調整する場合には、ホイールが手前に操作された際には奥行き位置を浅い方向に調整し、ホイールに対して逆の操作がなされた際には奥行き位置を深い方向に調整するといった処理を行うことができる。また、選択領域621内のクリック操作により奥行き位置を調整する場合には、左端近傍がクリックされた際には奥行き位置を浅い方向に調整し、右端近傍がクリックされた際には奥行き位置を深い方向に調整するといった処理を実行可能である。
これらのユーザ操作により奥行き位置の調整処理がなされた場合、ユーザ操作情報取得部401は、ユーザ操作情報として、奥行き位置の変化方向及び変化量(例えば、ホイールの操作方向及び操作量、クリック位置及びクリック回数)を表す情報を生成する。ユーザ操作情報取得部401は、生成したユーザ操作情報を、表示画像選択部407に出力する。表示画像選択部407は、表示制御部405から提供された選択領域621を表す座標情報と、提供されたユーザ操作情報とに基づいて選択画像情報を生成し、顕微鏡画像取得部403に、選択画像情報に基づくデジタル画像の取得を要請する。顕微鏡画像取得部403は、通信制御部409を介して、画像管理サーバ30に対し選択領域621に表示させるデジタル画像の提供要請情報を送信する。
画像管理サーバ30の顕微鏡画像提供部303は、通信制御部307を介して、画像表示装置40から送信されたデジタル画像の提供要請情報を取得すると、スライドバー615の操作量に関する情報と、かかる範囲621を含むサブ領域の合焦位置情報に基づいて、ユーザが希望する奥行き位置がどこであるかを判断する。その後、画像管理サーバ30の顕微鏡画像提供部303は、要請のあったデジタル画像を画像表示装置40に提供する。画像表示装置40の表示制御部405は、提供されたデジタル画像の表示制御を行い、拡大像表示領域603の選択領域621に、取得したデジタル画像を表示させる。これにより、選択範囲621内に、奥行き位置が調整されたデジタル画像が表示されることとなる。
また、図24に示したように、既に選択されている全領域合焦画像表示アイコン611が再度選択されることにより、全領域合焦画像表示モードが解除されることとなる。全領域合焦画像表示モードが解除されると、表示制御部405は、例えば、ポインタ607が存在する位置や、ポインタ607により選択された領域等が合焦状態にあるデジタル画像を拡大像表示領域603に表示させる。また、ユーザ操作によりポインタ607が存在する位置又はポインタ607により選択された選択領域621の奥行き位置が修正されている場合には、表示制御部405は、修正後の奥行き位置におけるデジタル画像を拡大像表示領域603に表示させる。なお、図23に示したような、既に選択されている奥行き位置調整アイコン623が再度選択された場合についても、同様の処理が実施される。
ここで、図25に示したように、全領域合焦画像の奥行き位置の調整が行われる際に、ユーザ操作により選択された選択領域621が、全領域合焦画像の複数のサブ領域にまたがって存在している場合も生じうる。かかる場合には、各サブ領域における選択領域621と重複する部分について、奥行き位置の調整処理が実施される。
また、全領域合焦画像の奥行き位置調整処理が実施され、現状の合焦位置から奥行き位置の変化量分だけ利用する画像を変更しようとした際に、かかる(合焦位置±奥行き位置変化量)の位置に対応する拡大像(デジタル画像)が存在しない場合が生じうる。この場合には、存在する拡大像のうち最善のもの(すなわち、合焦位置±奥行き位置変化量に最も近い奥行き位置を有するもの)を利用して、全領域合焦画像の調整が行われる。
以下では、図26及び図27を参照しながら、選択領域621が複数のサブ領域にまたがっている場合における全領域合焦画像の奥行き位置調整処理について、具体的に説明する。
以下の例では、あるサンプルの顕微鏡画像が4枚のデジタル画像から構成されており、ユーザ操作によって選択された選択領域621が4つのサブ領域にまたがって存在している場合について着目する。ここで、図26に示したように、選択領域621の右上部分が属するサブ領域の合焦位置は1枚目である旨が合焦位置情報に記載されており、左上部分が属するサブ領域の合焦位置は2枚目である旨が合焦位置情報に記載されているものとする。同様に、選択領域621の左下部分が属するサブ領域の合焦位置は3枚目である旨が合焦位置情報に記載されており、右下部分が属するサブ領域の合焦位置は4枚目である旨が合焦位置情報に記載されているものとする。
かかる場合において、選択領域621の奥行き位置を下方向(例えば、奥行き位置が深くなる方向)に1枚分修正する旨のユーザ操作が行われた場合を考える。かかるユーザ操作情報は、画像表示装置40から画像管理サーバ30に伝達され、画像管理サーバ30の顕微鏡画像提供部303において、画像表示装置40に提供する顕微鏡画像(デジタル画像)の選択が行われることとなる。
この場合、図27に示したように、選択領域の右上部分は、修正前には1枚目の画像に対応していたが、ユーザによる調整により、2枚目の画像が使用されることとなる。同様に、選択領域の左上部分は、修正前には2枚目の画像に対応していたが、ユーザによる調整により3枚目の画像が使用されることとなり、選択領域の左下部分は、修正前には3枚目の画像に対応していたが、ユーザによる調整により4枚目の画像が使用されることとなる。ここで、選択領域の右下部分は、修正前には4枚目の画像に対応しており、ユーザによる調整により本来5枚目の画像が使用されることとなるはずであるが、顕微鏡画像を構成するデジタル画像は4枚しか存在しないため、5枚目の画像を使用することはできない。そこで、顕微鏡画像提供部303は、選択領域の右下部分については、現状のまま4枚目の画像を使用することを選択する。
このようにして選択された複数のデジタル画像が、画像管理サーバ30から画像表示装置40に提供され、画像表示装置40において選択領域621の奥行き位置が調整された画像が表示されることとなる。
以上説明したような全領域合焦画像の奥行き位置調整処理が実施された場合、表示制御部405は、表示画面に対して、合焦位置情報の更新を実施するかを確認する表示や、全領域合焦画像の更新を実施するかを確認する表示を表示することができる。
ユーザ操作により、合焦位置情報の更新を実施する旨が選択された場合、かかるユーザ操作は、合焦位置情報更新要請部451に出力される。合焦位置情報更新要請部451は、かかるユーザ操作情報を受けて、通信制御部409を介して、画像管理サーバ30に対して合焦位置情報の更新を要請する。また、全領域合焦画像の更新を行う場合についても、合焦位置情報更新要請部451は、通信制御部409を介して、画像管理サーバ30に対して全領域合焦画像の更新を要請する。
画像管理サーバ30の合焦位置情報更新部305は、通信制御部307を介して合焦位置情報の更新要請を取得すると、要請のあったサンプルの合焦位置情報を更新し、更新後の合焦位置情報を改めて記憶部309に格納する。なお、サンプルのデジタル画像の合焦位置は、顕微鏡画像を参照するユーザによっても異なる場合が考えられる。そのため、合焦位置情報更新部305は、合焦位置情報の更新処理をユーザ別に実施してもよい。
また、画像管理サーバ30の合焦位置情報更新部305は、全領域合焦画像の更新が要請された場合に、更新後の合焦位置情報に基づいて、全領域合焦画像の更新処理を実施する。また、合焦位置情報更新部305は、合焦位置情報の更新処理を実施した際に、全領域合焦画像の更新要請がなかった場合であっても、全領域合焦画像の更新処理を実施してもよい。
<顕微鏡画像の表示制御方法の流れについて>
続いて、図28〜図31を参照しながら、画像管理サーバ30及び画像表示装置40が互いに連携しながら実施される顕微鏡画像の表示制御処理の流れの一例について、簡単に説明する。図28〜図31は、本実施形態に係る顕微鏡画像の表示制御処理の流れの一例を示した流れ図である。
なお、以下の説明に先立ち、ユーザ操作により顕微鏡画像の閲覧を行うサンプルが特定され、拡大像表示領域603に表示される拡大像(デジタル画像)、及び、全領域合焦画像の画像データが提供されているものとする。
[奥行き位置情報の表示制御処理]
まず、図28に示した奥行き位置情報の表示制御処理に関する流れについて説明する。
画像表示装置40のユーザ操作情報取得部401はユーザ操作の待ち受けを行っており、画像表示装置40は、全領域合焦画像の表示操作がなされたか否かを判断している(ステップS301)。全領域合焦画像の表示操作がなされると、表示制御部405は、全領域合焦画像の画像データを利用して、拡大像表示領域603に全領域合焦画像を表示させる(ステップS303)。
その後、表示制御部405は、所定領域(例えば、ポインタ607が表示されている位置や、ポインタ607により選択された選択領域)に表示されている画像の座標を特定し(ステップS305)、表示画像選択部407に出力する。表示画像選択部407は、特定した座標を含む選択画像情報を生成して顕微鏡画像取得部403に奥行き位置情報の取得を要請し、顕微鏡画像取得部403は、選択画像情報を利用して、奥行き位置情報の提供を画像管理サーバ30に要請する(ステップS307)。
画像管理サーバ30の顕微鏡画像提供部303は、奥行き位置情報の提供要請に含まれる座標に関する情報(座標情報)と、記憶部309に格納されている合焦位置情報とを利用して、要請のあった座標での奥行き位置に関する情報を取得する(ステップS309)。その後、顕微鏡画像提供部303は、取得した奥行き位置情報を、画像表示装置40に提供する(ステップS311)。
画像表示装置40の顕微鏡画像取得部403は、画像管理サーバ30から提供された奥行き位置情報を取得すると、取得した奥行き位置情報を表示制御部405に出力する。表示制御部405は、得られた奥行き位置情報に基づいて、表示画面の奧行き情報表示領域613に、奥行き位置情報を表示する(ステップS313)。
その後、画像表示装置40は、所定領域に表示された画像に変更があったか否かを判断し(ステップS315)、変更があった場合には、画像表示装置40は、ステップS305を実施する。
[全領域合焦画像の奥行き位置調整処理]
次に、図29を参照しながら、全領域合焦画像の奥行き位置調整処理の流れについて説明する。
画像表示装置40のユーザ操作情報取得部401はユーザ操作の待ち受けを行っており、画像表示装置40は、全領域合焦画像の表示操作がなされたか否かを判断している(ステップS321)。全領域合焦画像の表示操作がなされると、表示制御部405は、全領域合焦画像の画像データを利用して、拡大像表示領域603に全領域合焦画像を表示させる(ステップS323)。
その後、表示制御部405は、所定領域(例えば、ポインタ607が表示されている位置や、ポインタ607により選択された選択領域)に表示されている画像の座標を特定する(ステップS325)。
その一方で、ユーザ操作情報取得部401はユーザ操作の待ち受けを行っており、画像表示装置40は、奥行き調整操作がユーザによってなされたか否かを判断している(ステップS327)。ユーザにより奥行き調整装置がなされた場合には、表示画像選択部407は、ユーザ操作情報に基づいて指定された奥行き位置を特定し、奥行き位置情報として記憶する(ステップS329)。その後、表示画像選択部407は、特定した座標と、記憶した奥行き位置情報とを含む選択画像情報を生成して、顕微鏡画像取得部403に顕微鏡画像の取得を要請し、顕微鏡画像取得部403は、選択画像情報を利用して、顕微鏡画像の提供を画像管理サーバ30に要請する(ステップS331)。
画像管理サーバ30の顕微鏡画像提供部303は、顕微鏡画像の提供要請に含まれる座標に関する情報(座標情報)及び奥行き位置情報を利用して、要請のあった座標及び奥行き位置での顕微鏡画像を取得する(ステップS333)。その後、顕微鏡画像提供部303は、取得した顕微鏡画像を、画像表示装置40に提供する(ステップS335)。
画像表示装置40の顕微鏡画像取得部403は、画像管理サーバ30から提供された顕微鏡画像を取得すると、取得した顕微鏡画像を表示制御部405に出力する。表示制御部405は、得られた顕微鏡画像のデータを利用して、表示画面の拡大像表示領域603に、顕微鏡画像を表示する(ステップS337)。
その後、画像表示装置40は、更なる奥行き調整操作がなされたか否かを判断し(ステップS339)、かかる操作が行われた場合には、画像表示装置40は、ステップS329を実施する。また、更なる奥行き調整操作がなされていない場合には、画像表示装置40は、全領域合焦画像の奥行き更新操作がなされたか否かを判断する(ステップS341)。かかる更新操作が実施されていない場合には、画像表示装置40は、ステップS339を実施する。
また、奥行き更新操作がなされた場合、画像表示装置40の合焦位置情報更新要請部451は、記憶している奥行き位置情報を、画像管理サーバに送信する(ステップS343)。画像管理サーバ30の合焦位置情報更新部305は、取得した奥行き位置情報に基づいて、管理している合焦位置情報を更新する(ステップS345)。
ここで、選択領域621が複数のサブ領域にまたがって存在している場合には、図30A及び図30Bに示した流れで処理が行われることとなる。
かかる場合においても、画像表示装置40のユーザ操作情報取得部401はユーザ操作の待ち受けを行っており、画像表示装置40は、全領域合焦画像の表示操作がなされたか否かを判断している(ステップS351)。全領域合焦画像の表示操作がなされると、表示制御部405は、全領域合焦画像の画像データを利用して、拡大像表示領域603に全領域合焦画像を表示させる(ステップS353)。
その後、表示制御部405は、所定領域(例えば、ポインタ607が表示されている位置や、ポインタ607により選択された選択領域)に表示されている画像の座標を特定する(ステップS355)。
その一方で、ユーザ操作情報取得部401はユーザ操作の待ち受けを行っており、画像表示装置40は、奥行き調整操作がユーザによってなされたか否かを判断している(ステップS357)。ユーザにより奥行き調整装置がなされた場合には、表示画像選択部407は、ユーザ操作情報に基づいて指定された奥行き位置を特定し、奥行き位置情報として記憶する(ステップS359)。その後、表示画像選択部407は、特定した座標と、記憶した奥行き位置情報に基づいて算出した奥行き位置の変化量とを含む選択画像情報を生成して、顕微鏡画像取得部403に顕微鏡画像の取得を要請し、顕微鏡画像取得部403は、選択画像情報を利用して、顕微鏡画像の提供を画像管理サーバ30に要請する(ステップS361)。
画像管理サーバ30の顕微鏡画像提供部303は、顕微鏡画像の提供要請に含まれる座標に関する情報(座標情報)及び奥行き位置の変化量と、管理している合焦位置情報とを利用して、サブ領域毎に要請のあった座標及び奥行き位置での顕微鏡画像を取得する(ステップS363)。その後、顕微鏡画像提供部303は、取得した複数の顕微鏡画像を、画像表示装置40に提供する(ステップS365)。
画像表示装置40の顕微鏡画像取得部403は、画像管理サーバ30から提供された顕微鏡画像を取得すると、取得した顕微鏡画像を表示制御部405に出力する。表示制御部405は、得られた顕微鏡画像のデータを利用して、表示画面の拡大像表示領域603に、顕微鏡画像を表示する(ステップS367)。
その後、画像表示装置40は、更なる奥行き調整操作がなされたか否かを判断し(ステップS369)、かかる操作が行われた場合には、画像表示装置40は、ステップS359を実施する。また、更なる奥行き調整操作がなされていない場合には、画像表示装置40は、全領域合焦画像の奥行き更新操作がなされたか否かを判断する(ステップS371)。かかる更新操作が実施されていない場合には、画像表示装置40は、ステップS369を実施する。
また、奥行き更新操作がなされた場合、画像表示装置40の合焦位置情報更新要請部451は、記憶している奥行き位置情報や奥行き位置の変化量を、画像管理サーバに送信する(ステップS373)。画像管理サーバ30の合焦位置情報更新部305は、取得した奥行き位置情報に基づいて、管理している合焦位置情報を更新する(ステップS375)。
[全領域合焦画像の表示解除処理]
次に、図31を参照しながら、全領域合焦画像の表示解除処理の流れについて説明する。
画像表示装置40のユーザ操作情報取得部401はユーザ操作の待ち受けを行っており、画像表示装置40は、全領域合焦画像の表示操作がなされたか否かを判断している(ステップS381)。全領域合焦画像の表示操作がなされると、表示制御部405は、全領域合焦画像の画像データを利用して、拡大像表示領域603に全領域合焦画像を表示させる(ステップS383)。
その一方で、ユーザ操作情報取得部401はユーザ操作の待ち受けを行っており、画像表示装置40は、全領域合焦画像の表示解除操作がユーザによってなされたか否かを判断している(ステップS385)。かかる操作が行われていない場合には、画像表示装置40は、ステップS383を実施する。
他方、全領域合焦画像の表示解除操作が行われた場合、表示画像選択部407は、記憶している奥行き位置情報を利用して選択画像情報を生成し、顕微鏡画像取得部403に顕微鏡画像の取得を要請する。顕微鏡画像取得部403は、生成された選択画像情報を利用して、顕微鏡画像の提供を画像管理サーバ30に要請する(ステップS387)。
画像管理サーバ30の顕微鏡画像提供部303は、顕微鏡画像の提供要請に含まれる座標に関する情報(座標情報)及び奥行き位置情報を利用して、要請のあった座標及び奥行き位置での顕微鏡画像を取得する(ステップS389)。その後、顕微鏡画像提供部303は、取得した顕微鏡画像を、画像表示装置40に提供する(ステップS391)。
画像表示装置40の顕微鏡画像取得部403は、画像管理サーバ30から提供された顕微鏡画像を取得すると、取得した顕微鏡画像を表示制御部405に出力する。表示制御部405は、得られた顕微鏡画像のデータを利用して、表示画面の拡大像表示領域603に、顕微鏡画像を表示する(ステップS393)。
本実施形態に係る画像管理サーバ30及び画像表示装置40の間では、以上説明したような顕微鏡画像の表示制御処理が実施されている。このような処理が行われることにより、ユーザは、全領域合焦画像を閲覧している際であっても、任意の領域の奥行き位置情報を把握することが可能となり、サンプルの厚みを容易に把握することが可能となる。また、本実施形態に係る画像管理サーバ30及び画像表示装置40では、ユーザによる全領域合焦画像の合焦位置の調整が可能となるため、全領域合焦画像の精度を向上させることが可能となる。
(ハードウェア構成について)
次に、図32を参照しながら、本発明の実施形態に係る顕微鏡制御装置20のハードウェア構成について、詳細に説明する。図32は、本発明の実施形態に係る顕微鏡制御装置20のハードウェア構成を説明するためのブロック図である。
顕微鏡制御装置20は、主に、CPU901と、ROM903と、RAM905と、GPU(Graphics Processing Unit)906と、を備える。また、顕微鏡制御装置20は、更に、ホストバス907と、ブリッジ909と、外部バス911と、インターフェース913と、入力装置915と、出力装置917と、ストレージ装置919と、ドライブ921と、接続ポート923と、通信装置925とを備える。
CPU901は、演算処理装置及び制御装置として機能し、ROM903、RAM905、ストレージ装置919、またはリムーバブル記録媒体927に記録された各種プログラムに従って、顕微鏡制御装置20内の動作全般またはその一部を制御する。ROM903は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM905は、CPU901が使用するプログラムや、プログラムの実行において適宜変化するパラメータ等を一次記憶する。また、GPU906は、顕微鏡制御装置20内で実施される各種の画像処理に関する演算処理を実施する演算処理装置及び制御装置として機能する。GPU906は、ROM903、RAM905、ストレージ装置919、又はリムーバブル記録媒体927に記録された各種プログラムに従って、顕微鏡制御装置20内の画像処理の動作全般又はその一部を制御する。これらはCPUバス等の内部バスにより構成されるホストバス907により相互に接続されている。
ホストバス907は、ブリッジ909を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス911に接続されている。
入力装置915は、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチおよびレバーなどユーザが操作する操作手段である。また、入力装置915は、例えば、赤外線やその他の電波を利用したリモートコントロール手段(いわゆる、リモコン)であってもよいし、顕微鏡制御装置20の操作に対応した携帯電話やPDA等の外部接続機器929であってもよい。さらに、入力装置915は、例えば、上記の操作手段を用いてユーザにより入力された情報に基づいて入力信号を生成し、CPU901に出力する入力制御回路などから構成されている。顕微鏡制御装置20のユーザは、この入力装置915を操作することにより、顕微鏡制御装置20に対して各種のデータを入力したり処理動作を指示したりすることができる。
出力装置917は、取得した情報をユーザに対して視覚的または聴覚的に通知することが可能な装置で構成される。このような装置として、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、ELディスプレイ装置およびランプなどの表示装置や、スピーカおよびヘッドホンなどの音声出力装置や、プリンタ装置、携帯電話、ファクシミリなどがある。出力装置917は、例えば、顕微鏡制御装置20が行った各種処理により得られた結果を出力する。具体的には、表示装置は、顕微鏡制御装置20が行った各種処理により得られた結果を、テキストまたはイメージで表示する。他方、音声出力装置は、再生された音声データや音響データ等からなるオーディオ信号をアナログ信号に変換して出力する。
ストレージ装置919は、顕微鏡制御装置20の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置919は、例えば、HDD(Hard Disk Drive)等の磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス、または光磁気記憶デバイス等により構成される。このストレージ装置919は、CPU901が実行するプログラムや各種データ、および外部から取得した各種データなどを格納する。
ドライブ921は、記録媒体用リーダライタであり、顕微鏡制御装置20に内蔵、あるいは外付けされる。ドライブ921は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記録媒体927に記録されている情報を読み出して、RAM905に出力する。また、ドライブ921は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記録媒体927に記録を書き込むことも可能である。リムーバブル記録媒体927は、例えば、DVDメディア、HD−DVDメディア、Blu−rayメディア等である。また、リムーバブル記録媒体927は、コンパクトフラッシュ(登録商標)(CompactFlash:CF)、フラッシュメモリ、または、SDメモリカード(Secure Digital memory card)等であってもよい。また、リムーバブル記録媒体927は、例えば、非接触型ICチップを搭載したICカード(Integrated Circuit card)または電子機器等であってもよい。
接続ポート923は、機器を顕微鏡制御装置20に直接接続するためのポートである。接続ポート923の一例として、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)ポート等がある。接続ポート923の別の例として、RS−232Cポート、光オーディオ端子、HDMI(High−Definition Multimedia Interface)ポート等がある。この接続ポート923に外部接続機器929を接続することで、顕微鏡制御装置20は、外部接続機器929から直接各種のデータを取得したり、外部接続機器929に各種のデータを提供したりする。
通信装置925は、例えば、通信網931に接続するための通信デバイス等で構成された通信インターフェースである。通信装置925は、例えば、有線または無線LAN(Local Area Network)、Bluetooth(登録商標)、またはWUSB(Wireless USB)用の通信カード等である。また、通信装置925は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、または、各種通信用のモデム等であってもよい。この通信装置925は、例えば、インターネットや他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。また、通信装置925に接続される通信網931は、有線または無線によって接続されたネットワーク等により構成され、例えば、インターネット、家庭内LAN、赤外線通信、ラジオ波通信、各種の専用通信又は衛星通信等であってもよい。
以上、本発明の実施形態に係る顕微鏡制御装置20の機能を実現可能なハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用するハードウェア構成を変更することが可能である。
また、本実施形態に係る画像管理サーバ30及び画像表示装置40は、本実施形態に係る顕微鏡制御装置20と同様のハードウェア構成を有しており、詳細な説明は省略する。
(まとめ)
以上説明したように、本発明の実施形態に係る顕微鏡制御装置20では、奥行き方向に連続して撮像されるサンプルの記録画像(顕微鏡画像)について、局所的な合焦位置を表す情報である合焦位置情報が生成される。画像表示装置40は、かかる合焦位置情報を利用することで、サンプルの拡大像を表示画面に表示する際に、低負荷にて各部分又は任意部分が最適な合焦状態にあるサンプルの拡大像を表示することが可能となる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
例えば、上記実施形態では、本発明の実施形態に係る合焦位置情報の生成処理を顕微鏡制御装置20が実施している場合について説明したが、本発明はかかる例に限定されない。例えば、本発明の実施形態に係る合焦位置情報の生成処理を、画像管理サーバが実施してもよく、顕微鏡自体に十分なリソースが存在するのであれば顕微鏡自体が実施してもよい。合焦位置情報の生成処理を例えば画像管理サーバにおいて実施することで、本発明の実施形態に係る顕微鏡とは異なる顕微鏡で撮像された顕微鏡画像に対しても、合焦位置情報を生成することが可能となる。また、本発明の実施形態に係る合焦位置情報の生成処理は、顕微鏡画像の閲覧用端末である画像表示装置において実施されてもよい。