以下、図面を参照して、医用情報処理装置及び医用情報処理システムの実施形態について詳細に説明する。
(第1の実施形態)
まず、第1の実施形態について説明する。第1の実施形態では、図1に示す医用情報処理システム1を例として説明する。図1は、第1の実施形態に係る医用情報処理システム1の構成の一例を示すブロック図である。
図1に示すように、第1の実施形態に係る医用情報処理システム1は、医用画像診断装置10、医用情報処理装置20、医用情報処理装置30、医用情報処理装置40、及び、端末装置50を備える。医用画像診断装置10、医用情報処理装置20、医用情報処理装置30、医用情報処理装置40、及び、端末装置50は、ネットワークNWを介して相互に接続される。
医用画像診断装置10は、患者から医用画像を収集する装置である。なお、データとして処理される画像については、画像データとも記載する。医用画像診断装置10は、患者から医用画像データを収集し、収集した医用画像データを医用情報処理装置20又は医用情報処理装置30に対して出力する。例えば、医用画像診断装置10は、X線CT(Computed Tomography)装置やX線診断装置、超音波診断装置、SPECT(Single Photon Emission Computed Tomography)装置、SPECT装置とX線CT装置とが一体化されたSPECT−CT装置等である。なお、図1においては、医用画像診断装置10を1つのみ示すが、医用情報処理システム1は医用画像診断装置10を複数備えてもよい。
例えば、医用画像診断装置10がX線CT装置である場合、医用画像診断装置10は、患者に対するCTスキャンを実行して投影データを収集する。次に、医用画像診断装置10は、投影データに基づいてCT画像データ(複数の断層画像)を生成する。具体的には、医用画像診断装置10は、投影データに対してフィルタ補正逆投影法や逐次近似再構成法等を用いた再構成処理を行うことにより、CT画像データを再構成する。ここで、CT画像データは、医用画像データの一例である。また、医用画像診断装置10は、生成したCT画像データを医用情報処理装置20に対して出力する。
医用情報処理装置20は、医用画像診断装置10によって収集された医用画像データを保管する装置である。例えば、医用情報処理装置20は、ネットワークNWを介して、医用画像診断装置10から医用画像データを収集し、収集した医用画像データを装置内又は装置外に設けられた記憶回路に記憶させる。例えば、医用情報処理装置20は、サーバ装置等のコンピュータ機器によって実現される。一例を挙げると、医用情報処理装置20は、PACS(Picture Archiving and Communication System)における画像サーバである。
また、医用情報処理装置20は、医用画像診断装置10から収集した医用画像データに関連する関連画像データを、医用情報処理装置30から収集する。また、医用情報処理装置20は、医用画像診断装置10から収集した医用画像データを、医用情報処理装置40に対して出力する。また、医用情報処理装置20は、医用情報処理装置40による画像処理後の医用画像データを、医用情報処理装置40から収集する。また、医用情報処理装置20は、端末装置50からの要求に応じた画像データを、端末装置50に対して出力する。なお、医用情報処理装置20による処理については後述する。
医用情報処理装置30は、医用画像診断装置10によって収集された医用画像データを保管する装置である。例えば、医用情報処理装置30は、ネットワークNWを介して、医用画像診断装置10から医用画像データを収集し、収集した医用画像データを装置内又は装置外に設けられた記憶回路に記憶させる。ここで、医用情報処理装置30は、医用情報処理装置20とは異なる種類の医用画像データを保管する。一例を挙げると、医用情報処理装置20はCT画像データ等の静止画像を保管し、医用情報処理装置30は超音波画像データ等の動画像を保管する。例えば、医用情報処理装置30は、サーバ装置等のコンピュータ機器によって実現される。一例を挙げると、医用情報処理装置30は、PACSにおける画像サーバである。
医用情報処理装置40は、医用画像診断装置10によって収集された医用画像データに基づいて、各種の画像処理を実行する。一例を挙げると、医用情報処理装置40は、CT画像データ(複数の断層画像)に基づいて3次元画像データを生成し、3次元画像データに基づく2次元画像データを更に生成する。別の例を挙げると、医用情報処理装置40は、医用画像診断装置10によって収集された医用画像データに基づく解析処理を実行する。なお、医用情報処理装置40による画像処理については後述する。
端末装置50は、読影医に対して、各種の画像データを提示する装置である。端末装置50は、読影医から受け付けた入力操作に応じて医用情報処理装置20から画像データを収集し、収集した画像データをディスプレイに表示させる。即ち、医用情報処理装置20は各種の画像データを表示可能な状態としておき、端末装置50は、医用情報処理装置20から収集した画像データをディスプレイに表示させる。例えば、端末装置50は、読影医に対して、医用画像診断装置10によって収集された医用画像データを提示する。即ち、読影医は、端末装置50により医用画像データの読影を行なう。端末装置50は、例えば、読影医により操作されるパーソナルコンピュータ(PC:Personal Computer)やタブレット式PC等によって実現される。
次に、図2を用いて、医用情報処理装置20の構成について説明する。図2は、第1の実施形態に係る医用情報処理装置20の構成の一例を示すブロック図である。例えば、医用情報処理装置20は、図2に示すように、記憶回路210と、画像記憶回路220と、モデル記憶回路230と、処理回路240とを備える。
記憶回路210は、処理回路240によって読み出されて実行される各種機能に対応するプログラムを記憶する。また、画像記憶回路220は、各種の画像データを記憶する。例えば、画像記憶回路220は、医用画像診断装置10から収集された医用画像データを記憶する。また、例えば、画像記憶回路220は、医用情報処理装置30から収集された関連画像データを記憶する。また、例えば、画像記憶回路220は、医用情報処理装置40から収集された画像処理後の医用画像データを記憶する。また、モデル記憶回路230は、医用画像データ及び検査情報を含む入力情報に基づいて関連画像データ及び画像処理を特定するように機能付けられた学習済みモデルを記憶する。なお、画像記憶回路220が記憶する画像データ、及び、モデル記憶回路230が記憶する学習済みモデルについては後述する。
記憶回路210、画像記憶回路220及びモデル記憶回路230は、例えば、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等により実現される。なお、画像記憶回路220は、画像記憶部の一例である。また、モデル記憶回路230は、モデル記憶部の一例である。
処理回路240は、収集機能241、評価機能242、特定機能243、モデル生成機能244、制御機能245及び出力機能246を実行することで、医用情報処理装置20全体の動作を制御する。ここで、収集機能241は、収集部の一例である。また、評価機能242は、評価部の一例である。また、特定機能243は、特定部の一例である。また、モデル生成機能244は、モデル生成部の一例である。また、制御機能245は、制御部の一例である。
例えば、処理回路240は、収集機能241に対応するプログラムを記憶回路210から読み出して実行することにより、医用画像診断装置10から医用画像データを収集する。また、収集機能241は、医用情報処理装置30から、関連画像データを収集する。また、収集機能241は、医用情報処理装置40から、画像処理後の医用画像データを収集する。また、例えば、処理回路240は、評価機能242に対応するプログラムを記憶回路210から読み出して実行することにより、入力情報に基づいて学習済みモデルが特定した関連画像データ及び画像処理に対して、評価を付与する。また、例えば、処理回路240は、特定機能243に対応するプログラムを記憶回路210から読み出して実行することにより、入力情報と評価とを学習データとして特定する。また、例えば、処理回路240は、モデル生成機能244に対応するプログラムを記憶回路210から読み出して実行することにより、学習データに基づいて学習済みモデルを生成し、モデル記憶回路230に記憶させる。また、例えば、処理回路240は、制御機能245に対応するプログラムを記憶回路210から読み出して実行することにより、医用画像データ及び検査情報を含む入力情報に基づいて、学習済みモデルに関連画像データ及び画像処理を特定させる。また、例えば、処理回路240は、出力機能246に対応するプログラムを記憶回路210から読み出して実行することにより、画像記憶回路220が記憶する画像データのうち端末装置50からの要求に応じた画像データを、端末装置50に対して出力する。なお、処理回路240による処理については後述する。
図2に示す医用情報処理装置20においては、各処理機能がコンピュータによって実行可能なプログラムの形態で記憶回路210へ記憶されている。処理回路240は、記憶回路210からプログラムを読み出して実行することで各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の処理回路240は、読み出したプログラムに対応する機能を有することとなる。
なお、図2においては、単一の処理回路240にて収集機能241、評価機能242、特定機能243、モデル生成機能244、制御機能245及び出力機能246が実現するものとして説明したが、複数の独立したプロセッサを組み合わせて処理回路240を構成し、各プロセッサが各プログラムを実行することにより各処理機能を実現するものとしても構わない。また、処理回路240が有する各処理機能は、単一又は複数の処理回路に適宜に分散又は統合されて実現されてもよい。
次に、図3を用いて、医用情報処理装置40の構成について説明する。図3は、第1の実施形態に係る医用情報処理装置40の構成の一例を示すブロック図である。例えば、医用情報処理装置40は、図3に示すように、入力インターフェース410と、ディスプレイ420と、記憶回路430と、画像記憶回路440と、処理回路450とを備える。
入力インターフェース410は、操作者からの各種の入力操作を受け付け、受け付けた入力操作を電気信号に変換して処理回路450に出力する。例えば、入力インターフェース410は、マウスやキーボード、トラックボール、スイッチ、ボタン、ジョイスティック、操作面へ触れることで入力操作を行なうタッチパッド、表示画面とタッチパッドとが一体化されたタッチスクリーン、光学センサを用いた非接触入力回路、音声入力回路等により実現される。なお、入力インターフェース410は、医用情報処理装置40本体と無線通信可能なタブレット端末等で構成されることにしても構わない。また、入力インターフェース410は、マウスやキーボード等の物理的な操作部品を備えるものだけに限られない。例えば、医用情報処理装置40とは別体に設けられた外部の入力機器から入力操作に対応する電気信号を受け取り、この電気信号を処理回路450へ出力する電気信号の処理回路も入力インターフェース410の例に含まれる。
ディスプレイ420は、各種の情報を表示する。例えば、ディスプレイ420は、処理回路450による制御の下、医用情報処理装置20から収集された医用画像や、画像処理機能452による画像処理後の医用画像を表示する。また、ディスプレイ420は、入力インターフェース410を介して操作者から各種指示や各種設定等を受け付けるためのGUI(Graphical User Interface)を表示する。例えば、ディスプレイ420は、液晶ディスプレイやCRT(Cathode Ray Tube)ディスプレイである。ディスプレイ420は、デスクトップ型でもよいし、医用情報処理装置40本体と無線通信可能なタブレット端末等で構成されることにしても構わない。
記憶回路430は、処理回路450によって読み出されて実行される各種機能に対応するプログラムを記憶する。また、画像記憶回路440は、各種の画像データを記憶する。例えば、画像記憶回路440は、医用情報処理装置20から収集された医用画像データを記憶する。また、例えば、画像記憶回路440は、画像処理機能452による画像処理後の医用画像データを記憶する。記憶回路430及び画像記憶回路440は、例えば、RAM、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等により実現される。
処理回路450は、収集機能451、画像処理機能452、表示制御機能453及び出力機能454を実行することで、医用情報処理装置40全体の動作を制御する。例えば、処理回路450は、収集機能451に対応するプログラムを記憶回路430から読み出して実行することにより、医用情報処理装置20から医用画像データを収集する。また、例えば、処理回路450は、画像処理機能452に対応するプログラムを記憶回路430から読み出して実行することにより、医用情報処理装置20から収集された医用画像データに基づいて画像処理を実行する。また、例えば、処理回路450は、表示制御機能453に対応するプログラムを記憶回路430から読み出して実行することにより、医用情報処理装置20から収集された医用画像データや、画像処理機能452による画像処理後の医用画像データを、ディスプレイ420に表示させる。また、例えば、処理回路450は出力機能454に対応するプログラムを記憶回路430から読み出して実行することにより、画像処理機能452による画像処理後の医用画像データを医用情報処理装置20に対して出力する。なお、処理回路450による処理については後述する。
図3に示す医用情報処理装置40においては、各処理機能がコンピュータによって実行可能なプログラムの形態で記憶回路430へ記憶されている。処理回路450は、記憶回路430からプログラムを読み出して実行することで各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の処理回路450は、読み出したプログラムに対応する機能を有することとなる。
なお、図3においては、単一の処理回路450にて収集機能451、画像処理機能452、表示制御機能453及び出力機能454が実現するものとして説明したが、複数の独立したプロセッサを組み合わせて処理回路450を構成し、各プロセッサが各プログラムを実行することにより各処理機能を実現するものとしても構わない。また、処理回路450が有する各処理機能は、単一又は複数の処理回路に適宜に分散又は統合されて実現されてもよい。
次に、図4を用いて、端末装置50の構成について説明する。図4は、第1の実施形態に係る端末装置50の構成の一例を示すブロック図である。例えば、端末装置50は、図4に示すように、入力インターフェース510と、ディスプレイ520と、記憶回路530と、処理回路540とを備える。
入力インターフェース510は、操作者からの各種の入力操作を受け付け、受け付けた入力操作を電気信号に変換して処理回路540に出力する。例えば、入力インターフェース510は、マウスやキーボード、トラックボール、スイッチ、ボタン、ジョイスティック、操作面へ触れることで入力操作を行なうタッチパッド、表示画面とタッチパッドとが一体化されたタッチスクリーン、光学センサを用いた非接触入力回路、音声入力回路等により実現される。
ディスプレイ520は、各種の情報を表示する。例えば、ディスプレイ520は、処理回路540による制御の下、医用情報処理装置20の画像記憶回路220に記憶された各種の画像を表示する。また、ディスプレイ520は、入力インターフェース410を介して操作者から各種指示や各種設定等を受け付けるためのGUIを表示する。例えば、ディスプレイ520は、液晶ディスプレイやCRTディスプレイである。
記憶回路530は、処理回路540によって読み出されて実行される各種機能に対応するプログラムを記憶する。記憶回路530は、例えば、RAM、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等により実現される。
処理回路540は、制御機能541及び表示制御機能542を実行することで、端末装置50全体の動作を制御する。例えば、処理回路540は、制御機能541に対応するプログラムを記憶回路530から読み出して実行することにより、入力インターフェース510を介して操作者から受け付けた入力操作に基づいて、端末装置50全体の動作を制御する。また、例えば、処理回路540は、表示制御機能542に対応するプログラムを記憶回路530から読み出して実行することにより、医用情報処理装置20の画像記憶回路220に記憶された医用画像データをディスプレイ520に表示させる。また、表示制御機能542は、画像記憶回路220に記憶された関連画像データ、及び、画像処理機能452による画像処理後の医用画像データをディスプレイ520に表示させる。なお、表示制御機能542が表示させる画像データについては後述する。
図4に示す端末装置50においては、各処理機能がコンピュータによって実行可能なプログラムの形態で記憶回路530へ記憶されている。処理回路540は、記憶回路530からプログラムを読み出して実行することで各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の処理回路540は、読み出したプログラムに対応する機能を有することとなる。
なお、図4においては、単一の処理回路540にて制御機能541及び表示制御機能542が実現するものとして説明したが、複数の独立したプロセッサを組み合わせて処理回路540を構成し、各プロセッサが各プログラムを実行することにより各処理機能を実現するものとしても構わない。また、処理回路540が有する各処理機能は、単一又は複数の処理回路に適宜に分散又は統合されて実現されてもよい。
上記説明において用いた「プロセッサ」という文言は、例えば、CPU、GPU(Graphics Processing Unit)、あるいは、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等の回路を意味する。プロセッサは、記憶回路210、記憶回路430又は記憶回路530に保存されたプログラムを読み出し実行することで機能を実現する。
なお、図2、図3及び図4においては、単一の記憶回路210、記憶回路430又は記憶回路530が各処理機能に対応するプログラムを記憶するものとして説明した。しかしながら、複数の記憶回路210を分散して配置し、処理回路240は、個別の記憶回路210から対応するプログラムを読み出す構成としても構わない。同様に、複数の記憶回路430を分散して配置し、処理回路450は、個別の記憶回路430から対応するプログラムを読み出す構成としても構わない。同様に、複数の記憶回路530を分散して配置し、処理回路540は、個別の記憶回路530から対応するプログラムを読み出す構成としても構わない。また、記憶回路210、記憶回路430又は記憶回路530にプログラムを保存する代わりに、プロセッサの回路内にプログラムを直接組み込むよう構成しても構わない。この場合、プロセッサは回路内に組み込まれたプログラムを読み出し実行することで機能を実現する。
また、処理回路240、処理回路450及び処理回路540は、ネットワークNWを介して接続された外部装置のプロセッサを利用して、機能を実現することとしてもよい。例えば、処理回路240は、記憶回路210から各機能に対応するプログラムを読み出して実行するとともに、医用情報処理装置20とネットワークNWを介して接続されたサーバ群(クラウド)を計算資源として利用することにより、図2に示す各機能を実現する。
以上、医用情報処理システム1の構成の一例について説明した。かかる構成の下、医用情報処理システム1における医用情報処理装置20は、医用画像データの収集から読影に至るまでのワークフローを改善する。
ここで、医用画像データの収集から読影に至るまでのワークフローについて、図5を用いて説明する。図5は、第1の実施形態に係るワークフローの一例を示す図である。図5に示す場合、まず、医用画像診断装置10は、患者から医用画像データI1を収集する。次に、医用情報処理装置20における収集機能241は、医用画像診断装置10から医用画像データI1を収集する。例えば、収集機能241は、医用画像診断装置10から出力された医用画像データI1を受け付けて、画像記憶回路220に記憶させる。
次に、医用情報処理装置20における収集機能241は、医用画像データI1に関連する関連画像データI2を医用情報処理装置30から収集する。ここで、関連画像データI2は、例えば、医用画像データI1と同一患者の画像や、医用画像データI1の患者と同一又は類似の症例を有する患者の画像である。
一例を挙げると、医用画像データI1が患者P1から収集された画像である場合において、関連画像データI2は、患者P1から過去に収集された画像である。別の例を挙げると、医用画像データI1が患者P1から収集された画像である場合において、関連画像データI2は、患者P1と同一又は類似の症例を有する患者P2から収集された画像である。なお、医用画像データI1と関連画像データI2とは異なる種類の画像データであってもよい。例えば、医用画像データI1がCT画像データである場合において、関連画像データI2は超音波画像データであってもよい。
例えば、収集機能241は、医用情報処理装置20の操作者(検査技師等)による入力操作に応じて、関連画像データI2を収集する。具体的には、操作者は、医用画像データI1と同一患者の画像や、医用画像データI1の患者と同一又は類似の症例を有する患者の画像等を検索し、医用画像データI1の読影において参考になりそうな画像を選択する。そして、収集機能241は、選択された画像を関連画像データI2として収集し、収集した関連画像データI2を画像記憶回路220に記憶させる。
また、出力機能246は、医用情報処理装置40に対して、医用画像データI1を出力する。ここで、医用情報処理装置40における収集機能451は、出力機能246によって出力された医用画像データI1を受け付けて、画像記憶回路440に記憶させる。即ち、収集機能451は、医用情報処理装置20から医用画像データI1を収集する。次に、画像処理機能452は、医用画像データI1に基づいて、画像処理を実行する。なお、以下では、医用画像データI1に基づいて実行される画像処理を、画像処理A1と記載する。
例えば、画像処理機能452は、医用情報処理装置40の操作者(検査技師等)による入力操作に応じて、画像処理A1を実行する。具体的には、操作者は、医用画像データI1の読影において参考となる画像が生成されるように、画像処理A1の種類やパラメータを選択する。そして、画像処理機能452は、医用画像データI1に基づいて、選択された種類やパラメータに応じた画像処理A1を実行する。
一例を挙げると、画像処理機能452は、画像処理A1として、2次元の医用画像データI1に基づいて3次元画像データを生成し、3次元画像データに基づいて2次元画像データを生成する処理を実行する。以下、医用画像データI1がCT画像データ(複数の断層画像)である場合を例として説明する。まず、収集機能451は、医用情報処理装置20から複数の断層画像を収集する。次に、画像処理機能452は、複数の断層画像に基づいて、3次元画像データを生成する。例えば、画像処理機能452は、複数の断層画像を3次元空間に配置するとともに、断層画像の間の補間処理を行なうことで、3次元画像データを生成する。次に、画像処理機能452は、生成した3次元画像データに対する各種レンダリング処理を行なって、2次元画像データを生成する。ここで、レンダリング処理としては、断面再構成法(MPR:Multi Planar Reconstruction)により、3次元画像データから任意断面の2次元画像データを再構成する処理がある。また、レンダリング処理としては、ボリュームレンダリング(Volume Rendering)処理や、最大値投影法(MIP:Maximum Intensity Projection)により、3次元画像データから3次元の情報を反映した2次元画像データを生成する処理がある。
例えば、画像処理機能452は、医用情報処理装置40の操作者(検査技師等)からの入力操作に応じて3次元画像データから種々の2次元画像データを生成する。また、表示制御機能453は、生成された2次元画像データをディスプレイ420に表示させる。ここで、操作者は、種々の2次元画像データを参照し、読影用の2次元画像データを選択する。例えば、操作者は、種々の断面の2次元画像データのうち、検査対象部位や病変が特に明瞭に現れている2次元画像データを、読影用の2次元画像データとして選択する。
なお、3次元画像データに基づく読影用の2次元画像データについては、セカンダリキャプチャー(SC:Secondary Capture)画像とも記載する。3次元画像データについては装置によって表示ができない場合があるものの、SC画像については、通常、任意の装置において表示が可能である。即ち、3次元画像データについては、3次元画像表示用のアプリケーションを有さない装置において表示ができないものの、2次元画像データであるSC画像については、通常、任意の装置において表示が可能である。
また、画像処理機能452は、医用画像データI1に基づく3次元画像データとして、フュージョン画像を生成してもよい。例えば、医用画像診断装置10は、まず、医用画像データI1として、複数の相のCT画像データを収集する。一例を挙げると、医用画像診断装置10は、造影剤を患者の血管内に注入して収集されたCT画像データであって、動脈内の造影剤濃度が最も高くなるタイミングのCT画像データ(以下、第1のCT画像データとする)と、静脈内の造影剤濃度が最も高くなるタイミングのCT画像データ(以下、第2のCT画像データとする)とを収集する。
この場合、収集機能241は、医用画像データI1として、第1のCT画像データ及び第2のCT画像データを医用画像診断装置10から収集する。次に、収集機能451は、第1のCT画像データ及び第2のCT画像データを医用情報処理装置20から収集する。次に、画像処理機能452は、第1のCT画像データ及び第2のCT画像データに基づいて、フュージョン画像を生成する。
具体的には、画像処理機能452は、第1のCT画像データに基づく3次元画像データ(以下、動脈相画像とする)と、第2のCT画像データに基づく3次元画像データ(以下、静脈相画像とする)とを生成する。次に、画像処理機能452は、動脈相画像と静脈相画像とを合成することで、フュージョン画像を生成する。次に、画像処理機能452は、生成したフュージョン画像に対する各種レンダリング処理を行なって2次元画像データを生成し、操作者から読影用の2次元画像データの選択を受け付ける。即ち、画像処理機能452は、フュージョン画像に基づくSC画像を生成する。
別の例を挙げると、画像処理機能452は、画像処理A1として、医用画像データI1に基づく解析処理を実行する。例えば、画像処理機能452は、医用画像データI1に基づいて病変の解析を行なう。一例を挙げると、画像処理機能452は、医用画像データI1に基づいて病変の位置を検出したり、検出した病変の体積や面積、長さ等を測定したりする。
また、例えば、画像処理機能452は、医用画像データI1に基づく解析処理として、パーフュージョン解析を実行する。一例を挙げると、医用画像診断装置10は、まず、医用画像データI1として、患者の心臓のSPECT画像データであって、時間的間隔を置いた複数のSPECT画像データを収集する。次に、収集機能241は、複数のSPECT画像データを医用画像診断装置10から収集する。次に、収集機能451は、複数のSPECT画像データを医用情報処理装置20から収集する。次に、画像処理機能452は、複数のSPECT画像データ間の比較に基づいて、患者の心臓の血管における血流動態を求める。例えば、虚血領域においては放射性医薬品の集積が遅くなることから、画像処理機能452は、複数のSPECT画像データの比較において画素値の変化が小さい位置を、虚血領域として特定する。
また、画像処理機能452は、解析処理の結果を示す画像を生成する。例えば、画像処理機能452は、医用画像データI1において検出した病変の位置にマーカを付した画像を生成する。また、例えば、画像処理機能452は、医用画像データI1において特定した虚血領域にマーカを付した画像を生成する。
次に、医用情報処理装置20における収集機能241は、医用情報処理装置40から、画像処理A1を施された後の医用画像データI1を収集する。なお、以下では、画像処理A1を施された後の医用画像データI1を、医用画像データI3と記載する。即ち、収集機能241は、図5に示すように、医用情報処理装置40から、医用画像データI3を収集する。医用画像データI3は、例えば、SC画像や、解析処理の結果を示す画像である。そして、収集機能241は、収集した医用画像データI3を、画像記憶回路220に記憶させる。
ここで、医用情報処理装置20における出力機能246は、画像記憶回路220が記憶する画像データ(医用画像データI1、関連画像データI2、医用画像データI3等)のうち、端末装置50からの要求に応じた画像データを、端末装置50に対して出力する。以下、この点について図6を用いて説明する。なお、図6においては、医用画像データI1の例として、医用画像データI11a及び医用画像データI11bについて説明する。また、図6においては、関連画像データI2の例として関連画像データI21a及び関連画像データI21bについて説明する。また、図6においては、医用画像データI3の例として医用画像データI31について説明する。図6は、第1の実施形態に係る画像表示の一例を示す図である。
まず、端末装置50における表示制御機能542は、ディスプレイ520の領域R1に、画像記憶回路220が記憶する画像データに基づくサムネイルを表示させる。例えば、表示制御機能542は、図6に示すように、医用画像データI11aに基づくサムネイル画像I11a’、医用画像データI11bに基づくサムネイル画像I11b’、関連画像データI21aに基づくサムネイル画像I21a’、関連画像データI21bに基づくサムネイル画像I21b’、及び、医用画像データI31に基づくサムネイル画像I31’を表示させる。
次に、端末装置50の操作者(読影医)は、サムネイル表示を参照して、読影に用いる画像を選択する。例えば、読影医は、読影に用いる画像として、医用画像データI11a、医用画像データI11b及び関連画像データI21aを選択する。この場合、表示制御機能542は、医用情報処理装置20の画像記憶回路220から、医用画像データI11a、医用画像データI11b及び関連画像データI21aを収集して、ディスプレイ520に表示させる。
具体的には、表示制御機能542は、医用情報処理装置20に対して、医用画像データI11a、医用画像データI11b及び関連画像データI21aを要求する。次に、医用情報処理装置20における出力機能246は、要求に応じた画像データ(医用画像データI11a、医用画像データI11b及び関連画像データI21a)を画像記憶回路220から読み出して、端末装置50に対して出力する。
次に、表示制御機能542は、図5に示すように、医用画像データI11a、医用画像データI11b及び関連画像データI21aを表示させる。なお、図5に示す医用画像データI11a及び医用画像データI11bは、CT画像データである。また、関連画像データI21aは、超音波画像データである。読影医は、関連画像データI21aを参考としつつ、医用画像データI11a及び医用画像データI11bを読影して、所見の作成を行なう。
上述したように、医用情報処理装置20によれば、医用画像データI1に加えて、関連画像データI2や医用画像データI3を読影医に提供することが可能である。これにより、読影医は、医用画像データI1のみを用いる場合と比較して、より適切に所見を作成することができる。しかしながら、上述したように、関連画像データI2の収集及び画像処理A1は医用情報処理装置20や医用情報処理装置40の操作者による入力操作に基づいて行われており、医用画像データI1の収集から読影に至るまでのワークフローは複雑である。
ここで、医用画像データI1の収集から読影に至るまでのワークフローについて、ルールベースによる自動化が考えられる。例えば、「過去3年分の同一患者の画像を関連画像データI2として収集する」というように、予めルールを設定しておくことで、医用画像データI1の収集から読影に至るまでのワークフローの一部を自動化することができる。しかしながら、このようなルールは症例や患者情報、画像データの種類等に応じてパターン毎に作成する必要があり、ルールの作成は容易でない。更に、作成したルールについても適宜見直しが必要である。例えば、新たな医用画像診断装置10が導入されたり、検査プロトコルが変更されたり、新たな臨床アプリケーションが開発されて医用情報処理装置40にて実行可能な画像処理が増えたりする度に、ルールの見直しが必要である。
また、関連画像データI2の収集及び医用画像データI1に基づく画像処理A1について不足があれば、関連画像データI2の収集や画像処理A1を再度行なうこととなり、読影医や検査技師にとっての負担となる。一方で、関連画像データI2の収集及び医用画像データI1に基づく画像処理を過剰に行なうと、関連画像データI2の収集及び画像処理A1に要する時間が長くなることで待ち時間が発生する可能性がある。
そこで、医用情報処理装置20は、関連画像データ及び画像処理を特定するように機能付けられた学習済みモデルを用いて、医用画像データI1の収集から読影に至るまでのワークフローを改善する。以下、医用情報処理装置20による学習済みモデルの生成、及び、学習済みモデルを用いたワークフローの改善について説明する。
まず、モデル生成機能244は、学習済みモデルM1を生成して、モデル記憶回路230に記憶させる。例えば、モデル生成機能244は、過去に実施されたワークフローに基づく教師付き学習により、学習済みモデルM1を生成する。
具体的には、モデル生成機能244は、まず、過去に実施されたワークフローにおいて、収集機能241が医用画像診断装置10から収集した医用画像データI12と、医用画像データI12に関する検査情報T12とを取得する。なお、医用画像データI12は、医用画像データI1の一例である。また、検査情報T12は、医用画像データI1に関する検査情報T1の一例である。
ここで、検査情報T12は、例えば、医用画像データI12の収集時におけるオーダ情報である。即ち、医用画像診断装置10は、オーダ情報に従って撮像を実行することで、医用画像データI12を収集する。オーダ情報には、例えば、患者情報(患者ID、氏名、性別、生年月日等)や依頼科、依頼医師、緊急区分、撮像の日時、モダリティ名、撮像方法、検査対象部位などが含まれる。モデル生成機能244は、例えば、ネットワークNWを介して電子カルテシステムと接続することにより、医用画像データI12の収集時におけるオーダ情報を取得することができる。
別の例を挙げると、検査情報T12は、医用画像データI12の付帯情報である。例えば、医用画像データI12がDICOM(Digital Imaging and Communications in Medicine)形式のデータである場合、医用画像データI12のDICOMタグには、患者情報や依頼科、依頼医師、撮像の日時、モダリティ名、撮像方法、検査対象部位などの付帯情報が記録される。モデル生成機能244は、DICOMタグを参照することにより、医用画像データI12の付帯情報を取得することができる。
また、モデル生成機能244は、医用情報処理装置20の操作者による入力操作に応じて収集された、医用画像データI12に関連する関連画像データI2(以下、関連画像データI22とする)を取得する。即ち、モデル生成機能244は、操作者が選択した関連画像データI22を取得する。また、モデル生成機能244は、医用情報処理装置40の操作者による入力操作に応じて実行された画像処理A1(以下、画像処理A12とする)を取得する。即ち、モデル生成機能244は、操作者が選択した画像処理A12の種類やパラメータを取得する。
次に、モデル生成機能244は、医用画像データI12及び検査情報T12と、関連画像データI22及び画像処理A12とを学習データとした教師付き学習により、学習済みモデルM1を生成する。具体的には、モデル生成機能244は、医用画像データI12及び検査情報T12を入力側データ、関連画像データI22及び画像処理A12を出力側データとして、機械学習エンジンに入力する。次に、機械学習エンジンは、入力側データと出力側データとの関係を学習する。例えば、機械学習エンジンは、ディープラーニング(Deep Learning)や、ニューラルネットワーク(Neural Network)、ロジスティック(Logistic)回帰分析、非線形判別分析、サポートベクターマシン(Support Vector Machine:SVM)、ランダムフォレスト(Random Forest)、ナイーブベイズ(Naive Bayes)等の各種のアルゴリズムを用いて、入力側データと出力側データとの関係を学習する。そして、モデル生成機能244は、生成した学習済みモデルM1をモデル記憶回路230に記憶させる。
なお、入力側データについては、医用画像データI12及び検査情報T12の他、種々の情報を用いることも可能である。例えば、モデル生成機能244は、医用画像データI12及び検査情報T12の他、読影医の情報や、関連画像データI22を選択した検査技師、画像処理A12を選択した検査技師等の情報を、入力側データとして用いてもよい。即ち、モデル生成機能244は、医用画像データI12及び検査情報T12を含む入力情報と、関連画像データI22及び画像処理A12とを学習データとした教師付き学習により、学習済みモデルM1を生成する。これにより、学習済みモデルM1は、医用画像データI1及び検査情報T1を含む入力情報に基づいて、関連画像データI2及び画像処理A1を特定するように機能付けられる。
また、モデル生成機能244が学習済みモデルM1を生成する場合について説明したが、学習済みモデルM1については、医用情報処理装置20以外の他の装置が生成してもよい。この場合、モデル生成機能244は、ネットワークNWを介して学習済みモデルM1を取得し、取得した学習済みモデルM1をモデル記憶回路230に記憶させる。
モデル記憶回路230が学習済みモデルM1を記憶した後、医用画像診断装置10によって医用画像データI13が更に収集された場合、収集機能241は、医用画像診断装置10から医用画像データI13を収集して、画像記憶回路220に記憶させる。ここで、制御機能245は、学習済みモデルM1をモデル記憶回路230から読み出して、医用画像データI13に関連する関連画像データ(以下、関連画像データI23とする)、及び、医用画像データI13に基づいて実行される画像処理(以下、画像処理A13とする)を特定させる。なお、医用画像データI13は、医用画像データI1の一例である。また、関連画像データI23は、関連画像データI2の一例である。また、画像処理A13は、画像処理A1の一例である。
具体的には、制御機能245は、図7に示すように、医用画像データI13、及び、医用画像データI13に関する検査情報T13を、学習済みモデルM1に対して入力する。なお、制御機能245は、医用画像データI13及び検査情報T13の他、種々の情報を学習済みモデルM1に入力する場合であってもよい。即ち、制御機能245は、医用画像データI13及び検査情報T13を含む入力情報を学習済みモデルM1に対して入力する。これにより、制御機能245は、学習済みモデルM1に関連画像データI23及び画像処理A13を特定させる。なお、図7は、第1の実施形態に係る学習済みモデルについて説明するための図である。
次に、収集機能241は、学習済みモデルM1が特定した関連画像データI23を医用情報処理装置30から収集して、画像記憶回路220に記憶させる。また、出力機能246は、医用画像データI13を医用情報処理装置40に対して出力する。次に、医用情報処理装置40における画像処理機能452は、医用画像データI13に基づいて、学習済みモデルM1が特定した画像処理A13を実行する。次に、収集機能241は、画像処理A13が施された後の医用画像データI13(以下、医用画像データI33とする)を医用情報処理装置40から収集して、画像記憶回路220に記憶させる。なお、医用画像データI33は、医用画像データI3の一例である。
次に、端末装置50における表示制御機能542は、収集機能241が収集した医用画像データI13をディスプレイ520に表示させる。また、表示制御機能542は、収集機能241が収集した関連画像データI23及び医用画像データI33をディスプレイ520に表示させる。具体的には、表示制御機能542は、読影医による入力操作に応じて、医用情報処理装置20に対して画像データを要求する。次に、出力機能246は、画像記憶回路220が記憶する画像データ(医用画像データI13、関連画像データI23、医用画像データI33等)のうち、要求に応じた画像データを端末装置50に対して出力する。次に、表示制御機能542は、出力機能246により出力された画像データを受け付けて、ディスプレイ520に表示させる。そして、読影医は、関連画像データI23や医用画像データI33を参考としつつ医用画像データI13を読影し、所見の作成を行なう。
上述したように、医用情報処理装置20は、学習済みモデルM1を用いて関連画像データI23及び画像処理A13を特定する。即ち、医用情報処理装置20によれば、関連画像データI23の収集及び医用画像データI13に基づく画像処理A13を自動化し、医用画像データI13の収集から読影に至るまでのワークフローを単純化することができる。
次に、評価機能242は、学習済みモデルM1が特定した関連画像データI23及び画像処理A13に対して、評価を付与する。具体的には、評価機能242は、医用画像データI13の読影において、学習済みモデルM1が特定した関連画像データI23及び画像処理A13がどの程度適切なものであったかを示す評価を付与する。
ここで、評価機能242による評価の付与について、図8を用いて説明する。図8は、第1の実施形態に係る評価の一例を示す図である。図8に示す「過不足なし」は、医用画像データI13の読影において、関連画像データI23、及び、画像処理A13に基づく医用画像データI33の各々が使用され、且つ、関連画像データI23及び医用画像データI33の他に使用された画像データがないことを示す。また、「過剰」は、医用画像データI13の読影において、関連画像データI23及び医用画像データI33の他に使用された画像データはなかったものの、関連画像データI23及び医用画像データI33の中に使用されなかった画像データがあることを示す。また、「遅延」は、医用画像データI13の読影において、関連画像データI23及び医用画像データI33を使用するための待ち時間が生じたことを示す。また、「不足」は、関連画像データI23及び医用画像データI33の各々が使用されたものの、関連画像データI23及び医用画像データI33の他に使用された画像データがあったことを示す。
評価機能242は、学習済みモデルM1が特定した関連画像データI23及び画像処理A13について、「過不足なし」、「過剰」、「遅延」及び「不足」のいずれに該当するかを判定し、判定の結果に応じた評価を付与する。例えば、「過不足なし」に該当すると判定した場合、評価機能242は、関連画像データI23及び画像処理A13に対して、評価「+2」を付与する。また、「過剰」に該当すると判定した場合、評価機能242は、関連画像データI23及び画像処理A13に対して、評価「+1」を付与する。また、「遅延」に該当すると判定した場合、評価機能242は、関連画像データI23及び画像処理A13に対して、評価「−1」を付与する。また、「不足」に該当すると判定した場合、評価機能242は、関連画像データI23及び画像処理A13に対して、評価「−2」を付与する。
一例を挙げると、評価機能242は、まず、医用画像データI13の読影において、関連画像データI23及び医用画像データI33の各々が使用されたか否かを判定する。ここで、関連画像データI23及び医用画像データI33の各々が使用されたか否かについては、例えば、端末装置50にて表示が行われたか否かにより判定することができる。例えば、評価機能242は、関連画像データI23及び医用画像データI33のうち、図5の領域R1にサムネイル表示はされたものの読影医によって選択されなかった画像データについて、医用画像データI13の読影において使用されなかったと判定する。
更に、評価機能242は、表示された時間の長さや表示回数を考慮して、関連画像データI23及び医用画像データI33の各々が使用されたか否かを判定してもよい。例えば、評価機能242は、図5の領域R1にサムネイル表示されて読影医により選択された画像データのうち、所定の閾値未満の時間内に選択が取り消された画像データについて、医用画像データI13の読影において使用されなかったと判定する。即ち、評価機能242は、表示期間が閾値以下となる画像データについて、医用画像データI13の読影において使用されなかったと判定する。また、例えば、評価機能242は、表示回数が閾値以下となる画像データについて、医用画像データI13の読影において使用されなかったと判定する。
更に、評価機能242は、読影医の視線方向を考慮して、関連画像データI23及び医用画像データI33の各々が使用されたか否かを判定してもよい。例えば、評価機能242は、関連画像データI23及び医用画像データI33のうち端末装置50にて表示が行われた画像データについて、その画像データが表示されている期間の読影医の視線方向が端末装置50のディスプレイを向いていなかった場合、その画像データは医用画像データI13の読影において使用されなかったと判定する。
例えば、端末装置50は視線識別装置を備え、読影医の視線を識別して、読影医の視線がディスプレイ上に位置しているか否かを判定する。なお、視線識別装置は、例えば、読影医を撮影するカメラ等を有した装置である。視線識別装置は、例えば、ディスプレイの表示面と視線との交点を表示面上の2次元座標系における点座標に変換して、処理回路240に送信する。
更に、評価機能242は、読影医が作成した検査レポートに基づいて、関連画像データI23及び医用画像データI33の各々が使用されたか否かを判定してもよい。具体的には、評価機能242は、関連画像データI23及び医用画像データI33のうち、検査レポート中で使用された使用された画像データについて、医用画像データI13の読影において使用されたと判定する。
関連画像データI23及び医用画像データI33の中に、医用画像データI13の読影において使用されなかった画像データがあると判定した場合、評価機能242は、関連画像データI23及び医用画像データI33が「過剰」に該当すると判定する。即ち、評価機能242は、医用画像データI13の読影において関連画像データI23及び医用画像データI33の各々が使用されたか否かに応じて、関連画像データI23及び画像処理A13に評価「+1」を付与する。
また、評価機能242は、医用画像データI13の読影において、関連画像データI23及び医用画像データI33の他に使用された画像データがあったか否かを判定する。ここで、関連画像データI23及び医用画像データI33の他に使用された画像データとは、例えば、医用情報処理装置20の操作者による入力操作に応じて収集された関連画像データI2、又は、医用情報処理装置40の操作者による入力操作に応じた画像処理A1に基づく医用画像データI3である。
なお、以下では、医用画像データI13に関連する関連画像データI2であって、医用情報処理装置20の操作者による入力操作に応じて収集される関連画像データI2を、関連画像データI23aと記載する。また、以下では、医用画像データI13に基づく画像処理A1であって、医用情報処理装置40の操作者による入力操作に応じて実行される画像処理A1を、画像処理A13aと記載する。また、以下では、画像処理A13aに基づく医用画像データI3を、医用画像データI33aと記載する。
具体的には、まず、読影医は、関連画像データI23及び医用画像データI33を参考としつつ医用画像データI13を読影する。ここで、関連画像データI23の他に参考とするべき関連画像データI2があると判断した場合、読影医は、例えば、検査技師に対して関連画像データI2の追加収集を依頼する。或いは、読影医は、医用情報処理装置20を自ら操作して、関連画像データI2の追加収集を実施する。そして、収集機能241は、検査技師又は読影医による入力操作に応じて、関連画像データI23aを追加収集し、追加収集した関連画像データI23aを画像記憶回路220に記憶させる。
また、医用画像データI33の他に参考とするべき医用画像データI3があると判断した場合、読影医は、例えば、検査技師に対して、医用画像データI13に基づく追加の画像処理A13aを依頼する。或いは、読影医は、医用情報処理装置20を自ら操作して、追加の画像処理A13aを実行する。次に、画像処理機能452は、検査技師又は読影医による入力操作に応じて、医用画像データI13に基づく画像処理A13aを実行する。そして、収集機能241は、医用情報処理装置40から画像処理A13aに基づく医用画像データI33aを収集して、画像記憶回路220に記憶させる。
医用画像データI13の読影において関連画像データI23aや医用画像データI33aが使用された場合、評価機能242は、関連画像データI23及び医用画像データI33の他に使用された画像データがあったと判定する。この場合、評価機能242は、関連画像データI23及び医用画像データI33が「不足」に該当すると判定する。即ち、評価機能242は、医用画像データI13の読影において関連画像データI23及び医用画像データI33の他に使用された画像データがあるか否かに応じて、関連画像データI23及び画像処理A13に評価「−2」を付与する。
また、評価機能242は、医用画像データI13の読影において、関連画像データI23及び医用画像データI33を使用するための待ち時間が生じたか否かを判定する。ここで、待ち時間とは、読影医が読影を開始しようとした時から、関連画像データI23及び医用画像データI33を使用できるようになるまでの時間である。例えば、待ち時間とは、読影医が読影を行なうために端末装置50の画像表示アプリケーション(ビューア)を起動した後、図6に示す領域R1に関連画像データI23及び医用画像データI33が表示されるまでの時間である。
即ち、医用情報処理装置30から関連画像データI23を収集する際の検索の方法や、画像処理A13のパラメータ設定によっては、読影医が読影を開始しようとした時点で、関連画像データI23及び医用画像データI33の収集が完了していない可能性がある。この場合、評価機能242は、医用画像データI13の読影において関連画像データI23及び医用画像データI33を使用するための待ち時間が生じたと判定し、関連画像データI23及び医用画像データI33が「遅延」に該当すると判定する。即ち、評価機能242は、医用画像データI13の読影において関連画像データI23及び医用画像データI33を使用するための待ち時間が生じたか否かに応じて、関連画像データI23及び画像処理A13に評価「−1」を付与する。
また、医用画像データI13の読影において、関連画像データI23及び医用画像データI33の各々が使用されており、且つ、関連画像データI23及び医用画像データI33の他に使用された画像データがなく、且つ、関連画像データI23及び医用画像データI33を使用するための待ち時間が生じていない場合、評価機能242は、関連画像データI23及び医用画像データI33が「過不足なし」に該当すると判定する。そして、評価機能242は、関連画像データI23及び画像処理A13に対して、評価「+2」を付与する。
なお、図8においては、評価の例として、「+2」や「+1」、「−1」、「−2」といった離散値を示したが、実施形態はこれに限定されるものではない。例えば、関連画像データI23及び医用画像データI33が「過剰」に該当すると判定した場合において、評価機能242は、医用画像データI13の読影において使用されなかった画像データの数に応じて、評価「+1」を連続的に増減させてもよい。また、例えば、関連画像データI23及び医用画像データI33が「不足」に該当すると判定した場合において、評価機能242は、関連画像データI23及び医用画像データI33の他に使用された画像データ(関連画像データI23aや医用画像データI33a等)の数に応じて、評価「−2」を連続的に増減させてもよい。また、例えば、関連画像データI23及び医用画像データI33が「遅延」に該当すると判定した場合において、評価機能242は、生じた待ち時間の長さに応じて、評価「−1」を連続的に増減させてもよい。
また、評価機能242は、関連画像データI23及び画像処理A13に対して、医用画像データI13の読影の結果に基づく評価を更に付与してもよい。具体的には、評価機能242は、関連画像データI23及び医用画像データI33を参考とすることで読影医が医用画像データI13を適切に読影することができたか否かに応じて、関連画像データI23及び画像処理A13に対して評価を付与する。
例えば、読影医は、関連画像データI23及び医用画像データI33を参考としつつ、医用画像データI13を読影して、所見の作成を行なう。ここで、作成された所見については、通常、他の医師等によるダブルチェックが行われ、不備がある場合には読影医に差し戻される。そして、ダブルチェック時に所見の差し戻しがあった場合、評価機能242は、読影医が適切に読影をすることができなかったと判定し、関連画像データI23及び画像処理A13に対して評価「−1」を付与する。
また、作成された所見に誤りがあった場合には、通常、再検査が発生する。そして、再検査が発生した場合、評価機能242は、読影医が適切に読影をすることができなかったと判定し、関連画像データI23及び画像処理A13に対して評価「−1」を付与する。一方で、ダブルチェック時に所見の差し戻しがなく、且つ、再検査が発生しなかった場合、評価機能242は、読影医が適切に読影をすることができたと判定し、関連画像データI23及び画像処理A13に対して評価「+1」を付与する。
なお、医用画像データI13の読影の結果に基づく評価については、図8に示した評価(「過不足なし」、「過剰」、「遅延」及び「不足」に応じた評価)と合算してもよい。
即ち、評価機能242は、「過不足なし」、「過剰」、「遅延」及び「不足」に応じた評価と、読影の結果に基づく評価と合算し、合算した評価を関連画像データI23及び画像処理A13に対して付与してもよい。
また、上述したように、評価機能242は、関連画像データI23及び画像処理A13の個々に評価を付与するのではなく、関連画像データI23及び画像処理A13の組み合わせに対して評価を付与する。換言すると、評価機能242は、関連画像データI23の収集及び画像処理A13の実行を含む一連のワークフローに対して評価を付与する。
次に、特定機能243は、制御機能245が学習済みモデルM1に入力した入力情報と、評価機能242が関連画像データI23及び画像処理A13に対して付与した評価とを、後述する学習済みモデルM2の学習データとして特定する。次に、モデル生成機能244は、特定機能243が特定した学習データに基づいて、学習済みモデルM2を生成する。具体的には、モデル生成機能244は、特定機能243が特定した学習データを用いた強化学習により、学習済みモデルM2を生成する。
より具体的には、モデル生成機能244は、図7に示すように、評価機能242が関連画像データI23及び画像処理A13に対して付与した評価を学習済みモデルM1に対して入力する。これにより、学習済みモデルM1は、医用画像データI1及び検査情報T1を含む入力情報を入力側データ、関連画像データI2及び画像処理A1を出力側データとして、出力側データに付与される評価が最大化されるように、入出力の関係を学習する。即ち、モデル生成機能244は、評価機能242が関連画像データI23及び画像処理A13に対して付与した評価を「報酬」とした強化学習により学習済みモデルM1を最適化することで、学習済みモデルM2を生成する。学習済みモデルM2は、学習済みモデルM1と同様、医用画像データI1及び検査情報T1を含む入力情報に基づいて関連画像データI2及び画像処理A1を特定するように機能付けられる。そして、モデル生成機能244は、生成した学習済みモデルM2をモデル記憶回路230に記憶させる。
モデル記憶回路230が学習済みモデルM2を記憶した後、医用画像診断装置10によって医用画像データI14が更に収集された場合、収集機能241は、医用画像診断装置10から医用画像データI14を収集して、画像記憶回路220に記憶させる。次に、制御機能245は、学習済みモデルM2をモデル記憶回路230から読み出し、医用画像データI14及び医用画像データI14に関する検査情報T14を含む入力情報に基づいて、医用画像データI14に関連する関連画像データ(以下、関連画像データI24とする)、及び、医用画像データI14に基づいて実行される画像処理(以下、画像処理A14とする)を特定させる。なお、医用画像データI14は、医用画像データI1の一例である。また、検査情報T14は、検査情報T1の一例である。また、関連画像データI24は、関連画像データI2の一例である。また、画像処理A14は、画像処理A1の一例である。
次に、収集機能241は、学習済みモデルM2が特定した関連画像データI24を医用情報処理装置30から収集して、画像記憶回路220に記憶させる。また、出力機能246は、医用画像データI14を医用情報処理装置40に対して出力する。次に、医用情報処理装置40における画像処理機能452は、医用画像データI14に基づいて、学習済みモデルM2が特定した画像処理A14を実行する。次に、収集機能241は、画像処理A14が施された後の医用画像データI14(以下、医用画像データI34とする)を医用情報処理装置40から収集して、画像記憶回路220に記憶させる。なお、医用画像データI34は、医用画像データI3の一例である。
次に、端末装置50における表示制御機能542は、収集機能241が収集した医用画像データI14をディスプレイ520に表示させる。また、表示制御機能542は、収集機能241が収集した関連画像データI24及び医用画像データI34をディスプレイ520に表示させる。具体的には、表示制御機能542は、読影医による入力操作に応じて、医用情報処理装置20に対して画像データを要求する。次に、出力機能246は、画像記憶回路220が記憶する画像データ(医用画像データI14、関連画像データI24、医用画像データI34等)のうち、要求に応じた画像データを端末装置50に対して出力する。次に、表示制御機能542は、出力機能246により出力された画像データを受け付けて、ディスプレイ520に表示させる。そして、読影医は、関連画像データI24や医用画像データI34を参考としつつ医用画像データI14を読影し、所見の作成を行なう。
上述したように、医用情報処理装置20は、学習済みモデルM2を用いて関連画像データI24及び画像処理A14を特定する。即ち、医用情報処理装置20によれば、関連画像データI24の収集及び医用画像データI14に基づく画像処理A14を自動化し、医用画像データI14の収集から読影に至るまでのワークフローを単純化することができる。
更に、学習済みモデルM2は、医用画像データI1及び検査情報T1を含む入力情報と、関連画像データI2及び画像処理A1に対して付与された評価とを学習データとする強化学習により生成される。従って、学習済みモデルM2によれば、医用情報処理装置20は、関連画像データI2の収集及び画像処理A1を過剰に行なったり、関連画像データI2の収集及び画像処理A1について不足を生じたり、関連画像データI2の収集及び画像処理A1のための待ち時間を発生させたりといった事態を回避して、関連画像データI2及び医用画像データI3を適切に提供することができる。
また、評価機能242は、学習済みモデルM2が特定した関連画像データI24及び画像処理A14に対して、評価を付与する。次に、特定機能243は、制御機能245が学習済みモデルM2に入力した入力情報と、評価機能242が関連画像データI24及び画像処理A14に対して付与した評価とを、学習済みモデルM2の学習データとして特定する。次に、モデル生成機能244は、特定機能243が特定した学習データに基づいて、学習済みモデルM2を再度生成する。換言すると、モデル生成機能244は、医用画像データI1の収集から読影に至るまでのワークフローが実施される度に、学習済みモデルM2を更新する。これにより、医用情報処理装置20は、学習済みモデルM2の精度を次第に向上させて、関連画像データI2及び医用画像データI3をより適切に提供することができる。
次に、医用情報処理装置20による処理の手順の一例を、図9を用いて説明する。図9は、第1の実施形態に係る医用情報処理装置20の処理の一連の流れを説明するためのフローチャートである。ステップS101、ステップS103、ステップS105及びステップS106は、収集機能241に対応するステップである。ステップS107は、評価機能242に対応するステップである。ステップS108は、特定機能243に対応するステップである。ステップS109は、モデル生成機能244に対応するステップである。ステップS102は、制御機能245に対応するステップである。ステップS104は、出力機能246に対応するステップである。なお、図9においては、学習済みモデルM2の例として、学習済みモデルM21及び学習済みモデルM22について説明する。
まず、処理回路240は、医用画像診断装置10から医用画像データI1を収集して、画像記憶回路220に記憶させる(ステップS101)。次に、処理回路240は、モデル記憶回路230に記憶された学習済みモデルM21を読み出し、医用画像データI1及び検査情報T1を含む入力情報に基づいて、医用画像データI1に関連する関連画像データI2及び医用画像データI1に基づいて実行される画像処理A1を特定させる(ステップS102)。
次に、処理回路240は、医用情報処理装置30から、学習済みモデルM21が特定した関連画像データI2を収集する(ステップS103)。次に、処理回路240は、医用情報処理装置40に対して、医用画像データI1を出力する(ステップS104)。ここで、医用情報処理装置40における画像処理機能452は、医用画像データI1に基づいて、学習済みモデルM21が特定した画像処理A1を実行する。また、処理回路240は、医用情報処理装置40から、画像処理A1が施された後の医用画像データI1(医用画像データI3)を収集する(ステップS105)。なお、ステップS103と、ステップS104及びステップS105とを行なう順序は任意であり、並行して行なってもよい。
次に、処理回路240は、端末装置50からの要求に応じた画像データを、端末装置50に対して出力する(ステップS106)。これにより、端末装置50における表示制御機能542は、医用画像データI1や関連画像データI2、医用画像データI3をディスプレイ520に表示させる。また、読影医は、関連画像データI2や医用画像データI3を参考としつつ医用画像データI1を読影し、所見の作成を行なう。
次に、処理回路240は、学習済みモデルM21が入力情報に基づいて特定した関連画像データI2及び画像処理A1に対して、評価を付与する(ステップS107)。次に、処理回路240は、入力情報と評価とを学習データとして特定する(ステップS108)。次に、処理回路240は、特定した学習データに基づいて、学習済みモデルM22を生成する(ステップS109)。即ち、処理回路240は、学習データに基づいて、学習済みモデルM2を更新する。そして、生成した学習済みモデルM22をモデル記憶回路230に記憶させた後、処理を終了する。
なお、図9のステップS102においては、強化学習により生成された学習済みモデルM2に基づいて関連画像データI2及び画像処理A1を特定する場合について説明した。しかしながら、ステップS102においては、学習済みモデルM2以外の他の学習済みモデルを用いてもよい。例えば、処理回路240は、ステップS102において、教師付き学習により生成された学習済みモデルM1に基づいて関連画像データI2及び画像処理A1を特定してもよい。
上述したように、第1の実施形態によれば、評価機能242は、学習済みモデルM1又は学習済みモデルM2が入力情報に基づいて特定した関連画像データI2及び画像処理A1に対して評価を付与する。また、特定機能243は、入力情報と評価とを、学習済みモデルM2の学習データとして特定する。従って、第1の実施形態に係る医用情報処理装置20は、医用画像データI1の収集から読影に至るまでのワークフローを改善することができる。
即ち、特定機能243が特定した学習データによれば、モデル生成機能244は学習済みモデルM2を生成し、制御機能245は、学習済みモデルM2に関連画像データI2及び画像処理A1を特定させることができる。ひいては、医用情報処理装置20は、関連画像データI2の収集及び医用画像データI1に基づく画像処理A1を自動化し、医用画像データI1の収集から読影に至るまでのワークフローを単純化することができる。
また、特定機能243が特定した学習データによれば、モデル生成機能244は、入力情報と評価とを学習データとする強化学習により、学習済みモデルM2を生成することができる。ひいては、医用情報処理装置20は、学習済みモデルM2が特定する関連画像データI2及び画像処理A1の精度を向上させ、医用画像データI1の読影において、関連画像データI2及び医用画像データI3を適切に提供することができる。
また、上述したように、第1の実施形態によれば、評価機能242は、医用画像データI1の読影において、学習済みモデルM1又は学習済みモデルM2が特定した関連画像データI2、及び、学習済みモデルM1又は学習済みモデルM2が特定した画像処理A1に基づく医用画像データI3の各々が使用されたか否かに応じて、評価を付与する。従って、医用情報処理装置20は、関連画像データI2の過剰な収集、及び、過剰な画像処理A1を回避するように学習済みモデルM2を学習させて、関連画像データI2及び医用画像データI3を適切に提供することができる。
また、上述したように、第1の実施形態によれば、評価機能242は、医用画像データI1の読影において、学習済みモデルM1又は学習済みモデルM2が特定した関連画像データI2、及び、学習済みモデルM1又は学習済みモデルM2が特定した画像処理A1に基づく医用画像データI3の他に使用された画像データがあるか否かに応じて、評価を付与する。従って、医用情報処理装置20は、関連画像データI2の収集及び画像処理A1について不足を生じないように学習済みモデルM2を学習させて、関連画像データI2及び医用画像データI3を適切に提供することができる。
また、上述したように、第1の実施形態によれば、評価機能242は、医用画像データI1の読影において、学習済みモデルM1又は学習済みモデルM2が特定した関連画像データI2、及び、学習済みモデルM1又は学習済みモデルM2が特定した画像処理A1に基づく医用画像データI3を使用するための待ち時間が生じたか否かに応じて、評価を付与する。従って、医用情報処理装置20は、読影医に待ち時間が発生しないように学習済みモデルM2を学習させて、関連画像データI2及び医用画像データI3を適切に提供することができる。
(第2の実施形態)
これまで第1の実施形態について説明したが、上述した第1の実施形態以外にも、種々の異なる形態にて実施されてよいものである。
上述した実施形態では、収集機能241は、医用情報処理装置30から関連画像データI2を収集するものとして説明した。しかしながら、実施形態はこれに限定されるものではない。例えば、画像記憶回路220が複数の階層を有するストレージである場合において、収集機能241は、学習済みモデルM1又は学習済みモデルM2が特定した関連画像データI2を、画像記憶回路220における低速の階層から収集して、画像記憶回路440における高速の階層に記憶させてもよい。
以下、画像記憶回路220が、高速の階層H1と、低速の階層H2とを有するストレージである場合について説明する。高速の階層H1は、例えば、SSD(Solid State Drive)により実現される。また、低速の階層H2は、例えば、HDD(Hard Disc Drive)により実現される。階層H1は、階層H2より高速でデータを入出力することができる。一方で、階層H2は、データ量当たりのコストが階層H1よりも安価であり、通常、階層H1より大容量となるように構成される。
例えば、読影等での使用が予定される画像データについては、階層H1にて記憶される。例えば、医用画像診断装置10により患者P1から医用画像データI1が収集された場合、収集機能241は、医用画像診断装置10から医用画像データI1を収集して、画像記憶回路220における階層H1に記憶させる。一方、患者P1から過去に収集された画像データや、患者P1と異なる患者P2から過去に収集された画像データについては、階層H2にて記憶される。ここで、低速の階層H2にて記憶された画像データを読み出し、端末装置50にて表示させるためには時間を要する。即ち、端末装置50を操作する読影医が低速の階層H2にて記憶された画像データを参照しようとした場合、読影医に待ち時間が生じる場合がある。
そこで、収集機能241は、読影医が参照する可能性のある画像データについて、予め、低速の階層H2から高速の階層H1に移動させる。即ち、収集機能241は、読影医が参照する可能性のある画像データについてプリフェッチ(prefetch)を行なう。具体的には、収集機能241は、学習済みモデルM1又は学習済みモデルM2が特定した関連画像データI2を、低速の階層H2から収集して、高速の階層H1に記憶させる。これにより、医用情報処理装置20は、医用画像データI1の読影において、関連画像データI2を使用するために読影医に待ち時間が生じる事態を回避することができる。
また、上述した実施形態では、医用情報処理装置20における処理回路240が、収集機能241、評価機能242、特定機能243、モデル生成機能244、制御機能245及び出力機能246を有するものとして説明した。しかしながら、これらの機能については、複数の装置に適宜に分散することが可能である。
例えば、医用情報処理システム1は、図示しない医用情報処理装置60を更に備える。また、医用情報処理装置60は、図示しない処理回路610を備え、処理回路610は、モデル生成機能244に相当する機能(以下、モデル生成機能611とする)を実行する。この場合、評価機能242は、学習済みモデルM1又は学習済みモデルM2が入力情報に基づいて特定した関連画像データI2及び画像処理A1に対して評価を付与する。また、特定機能243は、入力情報と評価とを、学習済みモデルM2の学習データとして特定する。次に、出力機能246は、特定機能243により特定された学習データを、医用情報処理装置60に対して出力する。次に、医用情報処理装置60におけるモデル生成機能611は、学習データに基づいて学習済みモデルM2を生成し、生成した学習済みモデルM2を医用情報処理装置20に対して出力する。次に、収集機能241は、医用画像診断装置10から医用画像データI1を収集する。そして、制御機能245は、医用画像データI1及び検査情報T1を含む入力情報に基づいて、モデル生成機能611が生成した学習済みモデルM2に関連画像データI2及び画像処理A1を特定させる。
また、例えば、医用情報処理システム1は、図示しない医用情報処理装置70を更に備える。また、医用情報処理装置70は、図示しない処理回路710と、モデル記憶回路230に相当するモデル記憶回路720を備える。また、処理回路710は、制御機能245に相当する機能(以下、制御機能711とする)を実行する。この場合、収集機能241は、医用画像診断装置10から医用画像データI1を収集する。次に、出力機能246は、医用画像データI1及び医用画像データI1に関する検査情報T1を医用情報処理装置70に対して出力する。次に、医用情報処理装置70における制御機能711は、医用画像データI1及び検査情報T1を含む入力情報に基づいて、モデル記憶回路720が記憶する学習済みモデルM2に関連画像データI2及び画像処理A1を特定させる。そして、収集機能241は、学習済みモデルM2が特定した関連画像データI2を収集して画像記憶回路220に記憶させる。また、画像処理機能452は、医用画像データI1に基づいて、学習済みモデルM2が特定した画像処理A1を実行する。
上述した実施形態に係る各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。即ち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的又は物理的に分散・統合して構成することができる。更に、各装置にて行われる各処理機能は、その全部又は任意の一部が、CPU及び当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現されうる。
また、上述した実施形態で説明した処理方法は、予め用意されたプログラムをパーソナルコンピュータやワークステーション等のコンピュータで実行することによって実現することができる。このプログラムは、インターネット等のネットワークを介して配布することができる。また、このプログラムは、ハードディスク、フレキシブルディスク(FD)、CD−ROM、MO、DVD等のコンピュータで読み取り可能な非一過性の記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行することもできる。
以上説明した少なくとも1つの実施形態によれば、医用画像の収集から読影に至るまでのワークフローを改善することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行なうことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。