[go: up one dir, main page]

JP4584575B2 - 3d画像に表示される3dサーフェイスとインタラクトする画像処理方法 - Google Patents

3d画像に表示される3dサーフェイスとインタラクトする画像処理方法 Download PDF

Info

Publication number
JP4584575B2
JP4584575B2 JP2003511191A JP2003511191A JP4584575B2 JP 4584575 B2 JP4584575 B2 JP 4584575B2 JP 2003511191 A JP2003511191 A JP 2003511191A JP 2003511191 A JP2003511191 A JP 2003511191A JP 4584575 B2 JP4584575 B2 JP 4584575B2
Authority
JP
Japan
Prior art keywords
view
image
model
organ
views
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2003511191A
Other languages
English (en)
Other versions
JP2004534584A (ja
JP2004534584A5 (ja
Inventor
ルウェ,ジャン‐ミシェル
フラドカン,マキシム
マクラム‐エベイド,シェリフ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2004534584A publication Critical patent/JP2004534584A/ja
Publication of JP2004534584A5 publication Critical patent/JP2004534584A5/ja
Application granted granted Critical
Publication of JP4584575B2 publication Critical patent/JP4584575B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/003Navigation within 3D models or images
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/028Multiple view windows (top-side-front-sagittal-orthogonal)
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20Indexing scheme for editing of 3D models
    • G06T2219/2016Rotation, translation, scaling

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Architecture (AREA)
  • Processing Or Creating Images (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Generation (AREA)
  • Image Processing (AREA)

Description

発明の詳細な説明
本発明は、2次元表示手段を用いて3次元(3D)オブジェクトの処理画像を表示し、表示された3Dオブジェクトのサーフェイスとインタラクトするための画像処理方法に係る。本発明は更に、医療撮像装置又はシステムと、この装置又はシステムにより生成された医療用3次元画像を処理し、人体の臓器である3Dオブジェクトのサーフェイスとインタラクトするためのプログラムプロダクトに係る。
本発明は、医療撮像方法及びプログラムプロダクトの分野、及び、医療撮像装置又はシステムにおいて特に適用される。
人体内の管状構造を2次元及び3次元撮像するシステムは、米国特許第5,891,030号(ジョンソン外)により既に公知である。このシステムは、例えば、生きている人の消化管を撮像するために、例えば、コンピュータ断層撮影(CT)スキャナ、及び、コンピュータワークステーションといった医療撮像装置と共に用いられる。CTスキャナを用いて、人間の結腸の軸方向の断面画像が生成され、これらの画像は、コンピュータワークステーションに転送される。結腸の内腔に従う結腸の中線が画成される。コンピュータワークステーションは、リフォーマット化された断面画像、ボリュームレンダリングされたスカウト(scout)、及び、管腔内(interluminal)ビューを生成し且つ表示することにより結腸の中線の画成をサポートする。半自動の中線画成ツールも有する。中線が画成された後、画像のモンタージュが、診断目的のために表示される。画像には、横断面、経管的な(transluminal)断面、管腔内ボリュームレンダリング画像がある。
従って、容積測定の画像データは、2Dリフォーマット化されたビューと3Dレンダリングの生成に用いられ、更に、データを検索するためにも用いられる。この特許は、円筒状又は管状のサーフェイスのみに焦点を当てる。リフォーマット化された2D画像及びレンダリングされた画像は、画成された中線に従って予め生成され、そして、次に検索に用いられる。この検索は、所定の中線の経路の周りの領域に制限される。モデルとの直接的な3Dインタラクションは困難である。何故なら、視野は制限され、従って、サーフェイスの一部は隠れる場合があるからである。ユーザが、3Dサーフェイス上で線、輪郭、及び領域を指示し且つ描き、また、一般的に、3D画像データとインタラクトすることが困難であり得る。
本発明は、2D表示手段を用いて3Dオブジェクトを表示し、その表示された3Dオブジェクトのサーフェイス上を検索し且つサーフェイスとインタラクトするための画像処理方法に関する。より具体的には、本発明は、2D表示手段を用いて、管状形状に制限されず、その代わりに多数の丸み及び曲がりくねりを有し得る3D人体臓器である3Dオブジェクトを表示し、その表示された3D人体臓器のサーフェイス上を検索し且つサーフェイスとインタラクトするための画像処理方法に関する。
3次元オブジェクトを表す3次元画像は、一般的に、計算手段と、スクリーン上に見られる3D画像に作用するための、計算手段に接続されるマウスのような2Dインタフェース装置とに関連付けられる2Dスクリーン上に表示される。2Dマウスを用いて、2Dスクリーン上に表示される3D画像に作用する際に発生する問題は、操作者が、3D環境において回転する又は検索する際に、3Dデータをインタラクティブに操作することが困難であることである。例えば、マウスを用いて3Dオブジェクトを動かす又は回転する、或いは、視点を変える際に、領域を選択する、輪郭を描く等を行うことが困難である。3D画像に表示される3Dオブジェクトがメッシュモデルを用いてセグメント化される場合でも、メッシュモデルを扱うことが困難であることに注意されたい。更なる問題としては、医療画像において、臓器を表す3Dオブジェクトは、そのサーフェイスの視覚化と、そのサーフェイスにおける検索を困難にする曲がりくねりを示す場合があるということである。特に、曲がりくねりは、3Dデータの処理と、3Dサーフェイスの2D表示を非常に困難にしてしまう。
本発明は、3D画像に示される3Dオブジェクトのサーフェイス上の容易な検索を可能にする方法を提案することを目的とする。本発明によると、この方法は、3Dオブジェクトのサーフェイスの少なくとも2つの組合わせにされるビューを構成及び表示する段階を有する。少なくとも2つの組合わせにされるビューは、局所的なインタラクションが行われる3Dオブジェクトのサーフェイスのグローバル3Dビューと関連のあるローカル2Dビューを有する。
提案する画像処理方法は、請求項1に記載する。
本発明の方法の利点は、モデルは、オリジナルの画像データと一致する前に、抽出され且つ確認される点である。医療分野において、関連性のある医療情報を、モデルサーフェイス上に写像することができる。この医療情報は、画像テクスチャ、カラー符号化、又は、任意の他の視覚的な手段(例えば、潅流、動作、変形)を表し得る。
本発明は更に、2つのビューのうちの1つにおいてそのビューにおけるデータを処理するために、オブジェクトのサーフェイス上をインタラクティブに検索し、もう1つの組合わせにされるビューにおける対応するデータを自動更新する段階を有する方法を提供することを目的とする。
本発明は更に、画像を表示する表示手段と、画像データに作用するインタフェース手段を有し、更に、上述した方法を実行する処理手段を有する撮像システムを提供することを目的とする。3Dオブジェクトのサーフェイスの、組合わせにされるグローバル3Dビューとローカル2Dビューは、この撮像システムを用いて表示される。操作者は、例えば、マウスクリックボタンを用いて3Dサーフェイス上にカーソルを位置付けることにより、3Dビューにおける焦点と称する検索開始点を選択することができる。焦点の周りの領域は、2Dビューに自動的に投影される。3D環境においてインタラクティブに検索するには、ユーザは、2Dビュー内を検索し、2Dビューにおけるデータを処理さえすればよい。このことは、3Dビューにおけるよりも容易である。2Dビューと3Dビューとのつながりを用いて、データ野処理は、3Dビューにおいて自動的且つ同時に更新される。更に、両方のビューは同時に更新されるので、焦点は、両方のビューの中心に、常に設定され得る。従って、操作者は、2Dビューを、以下に「バーチャルマウスパッド」と称するツールとして用いることができる。操作者は、バーチャルマウスパッド上をスライドすることによって2Dビュー内を検索する。バーチャルマウスパッド上をスライドすることは、結果として、操作者が、3Dサーフェイス上を実際に連続的にスライドすることができることをもたらす。操作者は、2Dビューにおける所与のタスクを完了するために3Dビューにおける焦点を再び再位置付けることができる。
本発明は、画像処理手段を有するX線医療検査装置と、本発明の方法を実行するプログラムプロダクト又はプログラムパッケージに関する。
本発明を、図面を参照しながら、以下に詳細に説明する。
本発明は、例えば、グレイレベルで表現される3次元画像に適用される画像処理方法に関する。この画像は、医療検査装置により供給され、オブジェクトと称する臓器の3次元サーフェイスを表し得る。このオブジェクトは、管状の臓器に制限されない。ユーザがこのオブジェクトを、例えば、背景に対しよりよく見えるようにするために、このオブジェクトは、セグメント化され得る。
3Dオブジェクトを表す3D画像は、計算手段と、3D画像上を検索し且つ3D画像に作用するためのマウスといった2Dインタフェース装置とに関連付けられる、2Dスクリーンといった表示手段を有する撮像システムを用いて表示される。
この画像処理方法は、3Dオブジェクトサーフェイスの少なくとも2つの組合わせにされるビューを更なる同時表示を考慮して構成する段階を有する。3Dオブジェクトサーフェイスの少なくとも2つの組合わせにされるビューは、3Dオブジェクトのサーフェイスのグローバル3Dビューとローカル2Dビューとを有し、ローカル2Dビューに局所的なインタラクションが行われ3Dビュー上に自動的に更新される。
本発明の方法は、2つの組合わせにされるビューの静的及び動的表示のための手段を有する。操作者は、例えば、マウスクリックボタンといったユーザインタフェースを用いて3Dサーフェイス上にカーソルを位置付けることによって、焦点と示される検索開始点を、3Dビューにおいて選択することができる。焦点の周りの領域が画成され、その領域は2Dビューに自動的に投影される。本発明の方法によると、この領域の振幅は、自動的に範囲が決められ、それにより、素子の歪みが所定の閾値を越えることを阻止する。その領域の部分に、異なる色が、その歪みに応じて付され得る。一般的に、この領域の所与の点における歪みは、この点を焦点から隔てる距離の逆関数である。更に、本発明の方法によると、ビューは更に、対応するランドマークを形成する方向付け手段を有する。3Dビューに重ねられる方向軸は、第1のランドマークを形成し、2Dビューに重ねられる対応する方向軸は、対応する第2のランドマークを形成する。異なる軸に異なる色が付けられ、対応する軸は、同じ色が付けられ、それにより、操作者が、2つのビューの夫々においてそれらを容易に認識することができるようにすることが好適である。
本発明の方法は更に、組合わせにされるビューの動的表示のための手段を有する。この方法は、2つのビューのうちの1つにおいてそのビューにおけるデータを処理するために、オブジェクトサーフェイス上をインタラクティブに検索し、組合わせにされるビューにおける対応するデータが自動更新される段階を有する。3D環境においてインタラクティブに検索するには、ユーザは、2Dビューにおいて検索し、3Dビューにおけるよりも容易である2Dビューにおけるデータを処理するだけでよい。2Dビューと3Dビューとのつながりにより、データの処理は、3Dビューに自動的且つ同時に更新される。更に、両方のビューは同時に更新されるので、焦点及びランドマークは、両方のビューの中心に常に設定され得る。従って、操作者は、2Dビューを以下に「バーチャルマウスパッド」と称する物として用いることができる。2Dビューにおいて検索することにより、操作者は、3Dサーフェイス上を連続的にスライドすることができる。操作者は、2Dビューにおける所与のタスクを完了するために、3Dビューにおける焦点及びランドマークを再位置付けすることができる。その代わりに、2Dビュー上を指し示すことにより、操作者は、3Dビューを更新することができる。
本発明の画像処理方法は、以下の段階を有する。
1)関心のオブジェクトの3D画像の獲得
3次元画像を獲得する方法は、本発明の一部ではない。本発明の方法は、超音波システム又はX線装置、或いは、当業者に知られる他のシステムによって獲得することのできる臓器の3次元画像に適用することができる。3次元オブジェクトを図1Aに示す。この例では、3Dオブジェクトは、1994年6月20−24日の間、米国シアトルで開催されたコンピュータ・ビジョン及びパターン認識の国際会議(CVPR‘94)のプロシーディングスにおける「シンプレックス・メッシュ:ジェネラル・レプレゼンテーション・フォ・3Dシェイプ・リコンストラクション(Simplex Meshes: a General Representation for 3-D shape Reconstruction)」という名称の発行物において、H.デリンゲッテ(Delingette)により開示されるセグメンテーション技術に従いセグメント化される。この文書では、3次元オブジェクトを再生するための物理ベースのアプローチが提示される。このアプローチは、「シンプレックスメッシュ」の幾何学に基づいている。メッシュの柔軟性のある挙動は、各頂点(メッシュのノード)において抽出されるシンプレックスの角度によって平均曲率を制御する局所安定化関数によりモデル化される。この関数は、視点‐不変であり、固有、且つ、スケールに敏感である。従って、シンプレックスメッシュは、非常に適応性のある構造である。非常に湾曲した又は不正確な部分におけるメッシュ分解能を増加するための改善処理は、より単純な形状を有する部分から複雑なモデルを再生するようシンプレックスメッシュを接続することにある。シンプレックスメッシュは、一定の頂点の連結度を有し、各頂点は、3つの隣接する頂点に接続される。これは、全てのタイプの方向付け可能なサーフェイスを表すことができる。4つの独立した変換を決定して、可能なメッシュ変換の全てのレンジが達成される。これらは、フェースにおけるエッジを挿入する又は削除することにある。変換は、内力及び外力を示唆する。内力は、外部制約に対する物理ベースのモデルの応答を決定する。内力は、それらが固有の視点不変であり、スケールに依存するよう表現される。同様の種類の制約が、輪郭に対しても成り立つ。従って、引用した発行物は、所与の3Dオブジェクトを表す単純なモデルを供給する。これは、モデルを再整形し且つ調節するために関心の3Dオブジェクトに加えられる力を決める。「シンプレックスメッシュ技術」は、ロバストにセグメント化される画像を供給する反復法である。
2)2つの組合わせにされるビューの静的表示
図1A及び図1Bを参照するに、2つの組合わせにされるビューウィンドウからなるセットが構成され、スクリーン上に表示される。図1Aに示すように、この組合わせにされるビューウィンドウのセットは、関心のオブジェクトの3Dグローバルビューを表示する第1のビューウィンドウ32Aを有する。この3Dグローバルビューはセグメント化され、従って、シンプレックスメッシュモデルのフェース及びエッジを有する3Dオブジェクトを示すことが好適である。図1Aにおいて、例として、セグメント化されたオブジェクトは、球形又は円形のオブジェクト10である。このビューが3Dグローバルオブジェクトを表すという指示は、第1のウィンドウ32Aのサブウィンドウ31Aに与えられることが好適である。図1Bに示すように、この組合わせにされるビューのセットは更に、関心のオブジェクトの局所領域の2D投影ビューを表示する第2のウィンドウ32Bを有する。第2のウィンドウ32Bは、それが、ローカル2Dビューを表すことを示す指示を、サブウィンドウ31Bに有する。
ユーザは、例えば、メッシュモデルのサーフェイス10上にマウスカーソルを位置付け、マウスボタンをクリックすることにより、3Dグローバルビュー32Aにおける検索開始点P0を選択する。以下、ユーザによりクリックされた点は、焦点と称する。この例では、焦点P0は、メッシュモデルのフェース11Aに位置付けられる。焦点P0周りの開いた領域12Aは、当業者には周知である平滑化技術を用いて、第2のウィンドウ32Bにおける2Dビューに投影され、投影されたサーフェイス12Bを形成する。投影されたサーフェイス12Bの領域の寸法は、投影歪みを阻止するために、制限される。
焦点P0、及び、投影される領域12A、12Bの視覚化を容易にするために、関心のゾーンに異なる色を付し得る。例えば、焦点P0が位置付けられる、組合わせにされる第1及び第2のウィンドウにおけるメッシュモデルのフェース11A、11Bは、図1A及び図1Bにおいて第1のグレイレベルにより示す第1の色が付けられる。焦点の周りのリングゾーンは、そのゾーン内で見つけられる歪み値に関連付けられた異なる色が付せられ得る。一般的に、歪みは、焦点への距離と共に増加する。選択された投影領域12Bは、平滑化の歪みに応じて範囲が決められる。
第2のウィンドウ32Bに示す2Dローカルビューは、第1のウィンドウ32Aに示す3Dグローバルビューと組合わせにされる。2Dビューと3Dビューとの直接的な1対1の写像は、モデルセルを介して間接的に知られるので、2つのビューの間には直接的な対応がある。インタフェース手段により2Dローカル投影ビュー32Bに行われる任意の動作は、3Dグローバルビュー32Aにおいて自動的に更新される。
図3A及び図3Bを参照するに、組合わせにされるビューには、対応するランドマークが与えられる。図3Aに示すように、3Dグローバルビューは、スクリーンの平面にある第1の軸1Aと第2の直交軸2Aと、スクリーンの平面に直交する第3の軸3Aを有する。図3Bに示すように、2Dローカルビューは、スクリーンの平面にある第1の対応軸1Bと第2の直交対応軸2Bと、スクリーンの平面に直交する第3の対応軸3Bを有する。第1の対応する軸1A、1Bは、図面では実線として示す第1の色を有し得る。第2の対応軸2A、2Bは、図面では破線として示す第2の色を有し得る。第3の対応軸3A、3Bは、図面では×印として表す第3の色を有し得る。従って、ユーザは、組合わせにされるビューにおける対応する軸を容易に認識することができる。
2Dビューと3Dビューとの直接的な1対1の写像は、平滑化処理から受け継がれるので、2つのビューにおける各画素間に直接的な対応がある。インタフェース手段により、2Dローカル投影ビュー32Bの画素に行われる任意の動作は、3Dグローバルビュー32Aの対応する画素上に自動的に更新される。この特性は、ユーザインタフェースに接続される計算手段により行われる連結計算により得られる。この特性は、メッシュモデルの3Dサーフェイスに医療情報を容易に写像するのに特に有用である。この情報は、2Dサーフェイスビューにおいて取り入れられる。この医療情報は、画像テクスチャ、カラー符号化、又は、臓器に関連する潅流、動作、変形といった任意の他の視覚的な手段を表し得る。この特性は更に、3Dサーフェイスでの設計に特に有用である。設計は、2Dサーフェイスビューで非常に容易に行われる。設計は、特定の臓器の一部をマークするために描かれる線、臓器の一部を画成する又は強調するための輪郭であり得る。
3)組合わせにされるビューにおけるインタラクティブ検索のための動的表示
2Dマウスを用いて、2Dスクリーン上に表示される3Dサーフェイス上を直接検索する際の問題は、操作者が、3D環境において回転する又は検索する際に、3Dデータをインタラクティブに操作することが困難であることである。例えば、マウスを用いて3Dオブジェクトを動かす又は回転させ、そして、同時に領域を選択すること、オブジェクトの前の部分から始まりオブジェクト又は臓器の背後に位置する部分まで続く輪郭を描くこと等は困難である。3D画像に表示される3Dオブジェクトがメッシュモデルを用いてセグメント化される場合でも、メッシュモデルを扱うことが困難であることに注意されたい。更なる問題としては、医療画像では、臓器を表す3Dオブジェクトは、そのサーフェイスの視覚化とそのサーフェイスにおける検索を困難にする曲がりくねりを示す場合があることである。特に、曲がりくねりは、3Dデータの処理と、3Dサーフェイスの2D表示を非常に困難にしてしまう。
3Dビュー32Aにおいてインタラクティブに検索するには、ユーザは、2Dビュー32Bにマウスボタンを置いてクリックさえすればよい。図1Bに示すように、ユーザは、開始点P0に対し上方向に検索したいと希望するかも知れない。その場合、ユーザは、例えば、2Dローカルビュー32Bのフェース21Bに置かれる新しい焦点P1を選択する。自動的に、焦点は、矢印100に沿って移動し、点P1となる。
図2A及び図2Bを参照するに、グローバルビュー及びローカルビューは共に、自動的且つ同時に更新される。本発明によると、新しい焦点は、更新されたウィンドウ32A及び32Bの中心に、自動的且つ同時に設定される。従って、新しい焦点は、常に、更新されたウィンドウの中心に位置付けられる。この特性は、ユーザに、2Dビュー上を連続的にスライドするためのバーチャルマウスパッドとして2Dビューを用い、3Dビュー上を自動的且つ同時にスライドすることを可能にする。図2Aは、グローバルビューウィンドウ32Aの中心、及び、ローカルビューウィンドウ32Bの中心における新しい焦点P1を示す。この新しい焦点は、フェース21Bに置かれる。新しく計算された投影領域は、ローカルビュー32Bにおいて22Bである。対応する3D領域22Aは、3Dビュー32Aにおいて、自動的且つ同時に見つけられる。この手順は、検索タスクが完了するまで繰り返すことが可能である。
図4A及び図4Bを参照するに、2つの組合わせにされる画像のうちの1つの画像上をスライドすることにより焦点及び画像点が更新されるだけでなく、ランドマークも更新される。従って、ユーザは、迷うことなく複雑なサーフェイス上を容易に検索することができる。ユーザは、領域選択、サーフェイスモデルの周りに曲線を描くこと、モデルの一部を切り出すこと、複雑なサーフェイス上の領域を区分すること、測地線領域エリア等の曲線のある輪郭を測定することといったような3Dサーフェイスモデルとの連続的なインタラクションを行うことが可能である。テクスチャが利用可能であり、モデル上に写像される場合、ユーザは、写像されたテクスチャに対し、エッジ検出、特徴抽出、及び、他の測定を行うことができる。例えば、ガイドワイヤの動作を追跡すること、ステントを検出することは、2Dローカルビュー上で行うことがより容易である可能な作業である。モデルとのインタラクションは、引用した例に制限されるものではない。本発明は、本発明が心室のモデルに適用可能である心臓学の分野や、本発明が脊椎のモデルに適用可能である脊椎病理学の分野や、動脈学及び静脈学等の分野等において特に興味深い。
4)投影技術
当業者に周知である、ローカルサーフェイス平滑化をもたらす任意の投影技術を用いることができる。例えば、図5A及び図5Bを参照して説明する当業者に周知である投影技術を用いることが可能である。この技術は、図5Aに示すように、平面Pを3DオブジェクトSに関連付ける作業を有する。図5Bは、3Dオブジェクトと平面の横断面を示す。横断面の輪郭の各点は、矢印方向Dに沿って平面の横断面に投影される。オブジェクトの断面は、平面の各カラムに対応するよう設計され、オブジェクトの横断面の対応する輪郭の点が、平面上に投影される。従って、オブジェクトの輪郭の投影が得られる。投影を行うための様々な方法は、例えば、アカデミック・プレスのアンドリュー S.グラスナー(Glassner)により編集された「グラフィックス・ジェムズ(Graphics gems)」(ゼロックス・パロ・アルト・リサーチ・センタ,パロ・アルト,カリフォルニア)の307−317ページに説明される。
5)本発明の方法を実行するシステム
図6を参照するに、医療診断撮像装置150は、3次元デジタル画像データを獲得する手段と、上述した処理方法に応じて3次元デジタル画像データを処理するデジタル処理システム120を有する。医療検査装置は、画像データを処理システム120に供給する手段を有し、処理システム120は、画像データを表示手段130及び/又は記憶手段140に供給する少なくとも1つの出力106を有する。表示手段は、ワークステーション110のスクリーン140であり、記憶手段は、ワークステーション110のメモリであり得る。記憶手段は、或いは、外部の記憶手段であってもよい。画像処理システム120は、ワークステーション130の好適にプログラムされたコンピュータか、又は、本発明の方法段階の機能を実行するよう構成されるLUT、メモリ、フィルタ、論理演算子といった回路手段を有する特殊目的プロセッサであり得る。ワークステーション130の命令は、プログラムプロダクトにより与えられる。ワークステーション130は、キーボード131及びマウス132も有し得る。
画像処理方法により処理される、2Dスクリーン上の第1のウィンドウにおける3Dオブジェクトのグローバル3Dビューを示す図である。 画像処理方法により処理される、2Dスクリーン上の第2のウィンドウにおける2D投影されたローカルビューを示す図である。 図1Bの矢印に従った移動の後に更新されたグローバル3Dビューを示す図である。 図1Bの矢印に従って移動の後に更新された投影されたローカルビューを示す図である。 ランドマークを有する図1Aのグローバル3Dビューを示す図である。 ランドマークを有する図1Bの投影されたローカルビューを示す図である。 ランドマークを有する図2Aのグローバル3Dビューを示す図である。 ランドマークを有する図2Bの投影されたローカルビューを示す図である。 3Dオブジェクトの領域を投影し、ローカル2Dビューを形成する投影の技術を説明する図である。 3Dオブジェクトの領域を投影し、ローカル2Dビューを形成する投影の技術を説明する図である。 画像処理方法を実行するシステムを有する装置を示す図である。

Claims (14)

  1. 2次元表示手段を用いて3次元(3D)オブジェクトの処理画像を表示し、表示された3Dオブジェクトのサーフェイスとインタラクトするための画像処理方法であって、
    前記3Dオブジェクトの前記サーフェイスの少なくとも2つの組合せにされるビューを構築し且つ表示する段階を有し、
    前記少なくとも2つの組合せにされるビューは、前記3Dオブジェクトの前記サーフェイスのグローバルな3Dビューと、局所的なインタラクションが行われる前記3Dオブジェクトのサーフェイスの関連のローカルな2Dビューとを有し、
    当該画像処理方法は、更に、
    前記3Dビューと前記2Dビューとの直接的な1対1の写像を得るための平滑化処理を行う段階と、
    前記3Dビューにおいて前記3Dオブジェクトの前記サーフェイス上の焦点となる開始点を選択する段階と、
    投影歪が所定の閾値を超えることを阻止するために寸法が制限された前記2Dビューのサーフェイス領域に投影サーフェイス領域を形成するために、前記3Dビューの前記焦点の周りの、前記平滑化処理に基づく歪に応じて範囲が決められた領域を前記2Dビューに投影する段階と、
    を備えた画像処理方法。
  2. 前記2つの組合せにされるビューは、対応するランドマークを形成する方向付け手段を更に有する請求項1記載の方法。
  3. 第1のランドマークを形成するよう方向軸が前記3Dビュー上に重ねられ、対応する方向軸は、対応する第2のランドマークを形成するよう前記2Dビュー上に重ねられ、
    異なる軸には異なる色が付けられ、前記対応する方向軸には、前記2つのビューの夫々において前記対応する軸を認識できるよう同じ色が付けられる請求項2記載の方法。
  4. 前記組合せにされるビューの更なる動的表示のために、
    前記3Dオブジェクトのサーフェイス上をインタラクティブに検索する段階を有し、
    前記段階は、前記2Dビューにおいて新しい場所に前記焦点をスライドし、前記3Dビューにおいて新しい焦点を自動更新し、前記新しい焦点の周りの新しい領域を画成し、前記2Dビューに前記領域を自動的に投影するサブ段階と、前記2Dビューの前記新しい領域におけるデータを処理し、前記組合せにされる3Dビューにおける対応するデータを自動的及び同時に更新するサブ段階とを有する請求項1乃至3のうちいずれか一項記載の方法。
  5. 両方のビューが同時に更新され、前記焦点及び前記ランドマークは、両方のビューの中心に常に設定される請求項2乃至4のうちいずれか一項記載の方法。
  6. 異なる軸に対して異なる色、及び、異なる領域に対して異なる色になるように前記3Dビューにおける各要素に対して異なる色が付けられ、前記2Dビューにおける対応する要素に対しては対応する色が付けられ、
    前記異なる色は、両方のビューにおいて、同時且つ自動的に更新される請求項1乃至5のうちいずれか一項記載の方法。
  7. 関心の前記3Dオブジェクトは、メッシュモデル技術を用いてセグメント化される請求項1乃至6のうちいずれか一項記載の方法。
  8. 臓器を表す3D医療画像におけるデータを処理するために、
    医療情報が、3Dメッシュモデル上に対応付けられ、
    前記医療情報は、前記2Dビューに取り込まれ、
    前記医療情報は、画像テクスチャ、色分け又は他の視覚的手段の形式で示される視覚的な医療指示を含み、他の視覚的手段は、臓器に関連する潅流、動作若しくは変形を表す請求項7記載の方法。
  9. 設計が、前記2Dビュー上で行われ、前記3Dビューにおいて自動的且つ同時に更新され、
    前記設計には、特定の臓器の一部をマークするために描かれる線、臓器の一部を画成する輪郭、臓器又は臓器の一部を強調する特定のデザインが含まれる請求項8記載の方法。
  10. 検査段階の間に、バーチャルマウスパッドにより前記2Dビュー上をスライドすることで3Dサーフェイスモデルとの連続的なインタラクションが行われ、
    インタラクションには、領域を選択すること、前記サーフェイスモデルの任意の部分に曲線を描くこと、モデルの一部を切り出すこと、複雑なサーフェイス上の領域を区分すること、曲線のある輪郭を測定することが含まれ、前記画像テクスチャが利用可能であり前記モデルに写像される場合には、インタラクションには、前記写像される前記画像テクスチャに対し、エッジ検出、特徴抽出、及び/又は医療測定が含まれ、前記医療測定は、ガイドワイヤの動作を追跡すること及び/又はステントを検出することである請求項8又は9記載の方法。
  11. 臓器の前記モデルは、心臓学における心室のモデル、背骨における脊椎のモデル、動脈学及び静脈学における血管モデルを含む請求項8乃至10のうちいずれか一項記載の方法。
  12. 請求項1乃至11のうちいずれか一項記載の方法に従って画像データを処理するように、構築された回路手段を有する特殊用途プロセッサ又はプログラムされたコンピュータを有するシステム。
  13. 人体の臓器の3次元画像を獲得する手段と、
    組合せにされる3Dビューと2Dビューを表示する表示手段と、
    前記2Dビュー及び前記3Dビューに作用するインタフェース手段と、
    請求項1乃至11のうちいずれか一項記載の方法を実行する処理手段と、
    を有する医療診断撮像装置。
  14. 請求項1乃至11のうちいずれか一項記載の方法をコンピュータに実行させるための命令セットを有するコンピュータプログラム。
JP2003511191A 2001-07-06 2002-07-05 3d画像に表示される3dサーフェイスとインタラクトする画像処理方法 Expired - Lifetime JP4584575B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP01401821 2001-07-06
PCT/IB2002/002818 WO2003005298A2 (en) 2001-07-06 2002-07-05 Image processing method for interacting with a 3-d surface represented in a 3-d image

Publications (3)

Publication Number Publication Date
JP2004534584A JP2004534584A (ja) 2004-11-18
JP2004534584A5 JP2004534584A5 (ja) 2006-01-05
JP4584575B2 true JP4584575B2 (ja) 2010-11-24

Family

ID=8182800

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003511191A Expired - Lifetime JP4584575B2 (ja) 2001-07-06 2002-07-05 3d画像に表示される3dサーフェイスとインタラクトする画像処理方法

Country Status (5)

Country Link
US (1) US7450749B2 (ja)
EP (1) EP1451671A2 (ja)
JP (1) JP4584575B2 (ja)
CN (1) CN1639675B (ja)
WO (1) WO2003005298A2 (ja)

Families Citing this family (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7689014B2 (en) * 2000-01-18 2010-03-30 Z-Kat Inc Apparatus and method for measuring anatomical objects using coordinated fluoroscopy
FI117986B (fi) * 2003-06-17 2007-05-15 Onesys Oy Menetelmä ja järjestelmä navigoimiseksi tosiaikaisesti kolmiulotteisessa lääketieteellisessä kuvamallissa
US7623250B2 (en) * 2005-02-04 2009-11-24 Stryker Leibinger Gmbh & Co. Kg. Enhanced shape characterization device and method
JP4213135B2 (ja) * 2005-04-22 2009-01-21 ザイオソフト株式会社 展開画像投影方法、展開画像投影プログラム、展開画像投影装置
US7773074B2 (en) * 2005-06-28 2010-08-10 Siemens Medical Solutions Usa, Inc. Medical diagnostic imaging three dimensional navigation device and methods
JP5123182B2 (ja) * 2005-08-17 2013-01-16 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 臨床作業ワークフローによるシンプルクリックスタイルインタラクションを特徴とする方法及び装置
US8314792B2 (en) * 2006-07-05 2012-11-20 Koninklijke Philips Electronics N.V. Prediction of cardiac shape by a motion model
US7643662B2 (en) * 2006-08-15 2010-01-05 General Electric Company System and method for flattened anatomy for interactive segmentation and measurement
WO2009006273A2 (en) * 2007-06-29 2009-01-08 3M Innovative Properties Company Synchronized views of video data and three-dimensional model data
US9826919B2 (en) * 2007-10-01 2017-11-28 Orthosoft, Inc. Construction of a non-imaged view of an object using acquired images
US10217282B2 (en) * 2007-11-02 2019-02-26 Koninklijke Philips N.V. Automatic movie fly-path calculation
EP2380140B1 (en) * 2008-12-18 2019-04-03 Koninklijke Philips N.V. Generating views of medical images
WO2010132606A1 (en) * 2009-05-12 2010-11-18 Edda Technology, Inc. System, method, apparatus, and computer program for interactive pre-operative assessment
US20120051608A1 (en) * 2010-08-27 2012-03-01 Gopal Biligeri Avinash System and method for analyzing and visualizing local clinical features
WO2012117366A1 (en) 2011-03-02 2012-09-07 Koninklijke Philips Electronics N.V. Visualization for navigation guidance
US20120259224A1 (en) * 2011-04-08 2012-10-11 Mon-Ju Wu Ultrasound Machine for Improved Longitudinal Tissue Analysis
US9678620B2 (en) * 2011-10-11 2017-06-13 Koninklijke Philips N.V. Workflow for ambiguity guided interactive segmentation of lung lobes
US9498182B2 (en) 2012-05-22 2016-11-22 Covidien Lp Systems and methods for planning and navigation
US9439627B2 (en) 2012-05-22 2016-09-13 Covidien Lp Planning system and navigation system for an ablation procedure
US9439623B2 (en) 2012-05-22 2016-09-13 Covidien Lp Surgical planning system and navigation system
US8750568B2 (en) 2012-05-22 2014-06-10 Covidien Lp System and method for conformal ablation planning
US9439622B2 (en) 2012-05-22 2016-09-13 Covidien Lp Surgical navigation system
US9275302B1 (en) * 2012-08-24 2016-03-01 Amazon Technologies, Inc. Object detection and identification
US9595135B2 (en) * 2013-03-05 2017-03-14 Autodesk, Inc. Technique for mapping a texture onto a three-dimensional model
US9965887B2 (en) 2013-03-05 2018-05-08 Autodesk, Inc. Technique for mapping a texture onto a three-dimensional model
DE102013108115A1 (de) * 2013-07-30 2015-02-05 gomtec GmbH Verfahren und Vorrichtung zum Festlegen eines Arbeitsbereichs eines Roboters
CA2961980A1 (en) * 2014-09-24 2016-03-31 Koninklijke Philips N.V. Visualizing volumetric image of anatomical structure
EP3882867A1 (en) 2016-05-03 2021-09-22 Affera, Inc. Anatomical model displaying
EP3454734B1 (en) 2016-05-11 2024-04-17 Affera, Inc. Anatomical model generation
WO2017197294A1 (en) 2016-05-12 2017-11-16 Affera, Inc. Three-dimensional cardiac representation
CN106373188B (zh) * 2016-08-31 2019-02-01 正元地理信息有限责任公司 一种地下管网三维模型的生成方法及系统
US10999602B2 (en) 2016-12-23 2021-05-04 Apple Inc. Sphere projected motion estimation/compensation and mode decision
US10395382B2 (en) * 2016-12-30 2019-08-27 Biosense Webster (Israel) Ltd. Visualization of distances on an electroanatomical map
US11259046B2 (en) 2017-02-15 2022-02-22 Apple Inc. Processing of equirectangular object data to compensate for distortion by spherical projections
US10924747B2 (en) 2017-02-27 2021-02-16 Apple Inc. Video coding techniques for multi-view video
CN107233134B (zh) * 2017-05-15 2020-01-17 青岛海信医疗设备股份有限公司 显示三维医学模型内部标记点的方法、装置和医疗设备
US11093752B2 (en) 2017-06-02 2021-08-17 Apple Inc. Object tracking in multi-view video
US20190005709A1 (en) * 2017-06-30 2019-01-03 Apple Inc. Techniques for Correction of Visual Artifacts in Multi-View Images
US10754242B2 (en) 2017-06-30 2020-08-25 Apple Inc. Adaptive resolution and projection format in multi-direction video
CN107812325A (zh) * 2017-07-17 2018-03-20 张坤 采用磁共振成像对体内目标的运动进行跟踪的方法
CN112566581B (zh) 2018-08-10 2024-03-19 柯惠有限合伙公司 用于消融可视化的系统
EP3914183A4 (en) 2019-01-23 2022-10-05 Affera, Inc. THERAPY ANNOTATION SYSTEMS AND METHODS
US12161422B2 (en) 2020-05-29 2024-12-10 Affera, Inc. Medical device visualization

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63150768A (ja) * 1986-12-16 1988-06-23 Fujitsu Ltd 表示装置
JP2657212B2 (ja) * 1987-08-11 1997-09-24 株式会社 日立メディコ 三次元医用画像の表示方法
FR2652180B1 (fr) * 1989-09-20 1991-12-27 Mallet Jean Laurent Procede de modelisation d'une surface et dispositif pour sa mise en óoeuvre.
US5150457A (en) * 1990-05-02 1992-09-22 International Business Machines Corporation Enhanced visualization using translucent contour surfaces
JPH0591997A (ja) * 1991-09-30 1993-04-16 Shimadzu Corp 画像処理装置
JP3206047B2 (ja) * 1991-11-14 2001-09-04 株式会社日立製作所 グラフィックデータ処理システム
NO924390L (no) * 1991-11-20 1993-05-21 Exxon Research Engineering Co Fremgangsmaate og system for fremskaffelse av volumgjengivelse
US5528735A (en) * 1993-03-23 1996-06-18 Silicon Graphics Inc. Method and apparatus for displaying data within a three-dimensional information landscape
JPH0816815A (ja) * 1994-06-28 1996-01-19 Ge Yokogawa Medical Syst Ltd 画像処理方法及び画像処理装置
JP3608225B2 (ja) * 1994-08-11 2005-01-05 株式会社日立製作所 3次元画像データを用いた展開図作成方法
US5673377A (en) * 1994-09-02 1997-09-30 Ray Dream, Inc. Method and system for displaying a representation of a three-dimensional object with surface features that conform to the surface of the three-dimensional object
US5920319A (en) * 1994-10-27 1999-07-06 Wake Forest University Automatic analysis in virtual endoscopy
US5782762A (en) * 1994-10-27 1998-07-21 Wake Forest University Method and system for producing interactive, three-dimensional renderings of selected body organs having hollow lumens to enable simulated movement through the lumen
US5835692A (en) * 1994-11-21 1998-11-10 International Business Machines Corporation System and method for providing mapping notation in interactive video displays
US5611025A (en) * 1994-11-23 1997-03-11 General Electric Company Virtual internal cavity inspection system
US6151404A (en) * 1995-06-01 2000-11-21 Medical Media Systems Anatomical visualization system
JP2991088B2 (ja) * 1995-06-30 1999-12-20 株式会社島津製作所 医用画像表示装置
JP3356617B2 (ja) * 1996-03-27 2002-12-16 株式会社日立製作所 3次元空間における視界移動方法
JP3620918B2 (ja) * 1996-04-18 2005-02-16 株式会社日立製作所 ナビゲーション装置の地図表示方法およびナビゲーション装置
US6097393A (en) * 1996-09-03 2000-08-01 The Takshele Corporation Computer-executed, three-dimensional graphical resource management process and system
US6175655B1 (en) * 1996-09-19 2001-01-16 Integrated Medical Systems, Inc. Medical imaging system for displaying, manipulating and analyzing three-dimensional images
JP3375258B2 (ja) * 1996-11-07 2003-02-10 株式会社日立製作所 地図表示方法及び装置並びにその装置を備えたナビゲーション装置
US5891030A (en) * 1997-01-24 1999-04-06 Mayo Foundation For Medical Education And Research System for two dimensional and three dimensional imaging of tubular structures in the human body
US6008814A (en) * 1997-05-23 1999-12-28 International Business Machines Corporation Method and system for providing network navigation aids
JPH11283055A (ja) * 1998-01-29 1999-10-15 Hitachi Medical Corp 三次元画像表示装置

Also Published As

Publication number Publication date
WO2003005298A2 (en) 2003-01-16
CN1639675B (zh) 2015-12-09
EP1451671A2 (en) 2004-09-01
US7450749B2 (en) 2008-11-11
JP2004534584A (ja) 2004-11-18
US20040171922A1 (en) 2004-09-02
WO2003005298A3 (en) 2004-06-17
CN1639675A (zh) 2005-07-13

Similar Documents

Publication Publication Date Title
JP4584575B2 (ja) 3d画像に表示される3dサーフェイスとインタラクトする画像処理方法
EP1588325B1 (en) Image processing method for automatic adaptation of 3-d deformable model onto a subtantially tubular surface of a 3-d object
JP5078609B2 (ja) 画像表示装置及びプログラム
US8351670B2 (en) Region data editing apparatus, region data editing method, and recording medium
JP4152648B2 (ja) 対象物に含まれる三次元画像をセグメント化する方法
RU2711140C2 (ru) Редактирование медицинских изображений
US20080094389A1 (en) Image Processing System for Automatic Segmentation of a 3-D Tree-Like Tubular Surface of an Object, Using 3-D Deformable Mesh Models
US9552672B2 (en) Dynamic graphical user interfaces for medical workstations cross-reference to related applications
EP1917645B1 (en) Method and apparatus featuring simple click style interactions according to a clinical task workflow
JP2000182078A (ja) 三次元(3d)イメ―ジングシステム及び三次元(3d)イメ―ジにおける境界を決定する方法
JP7038377B2 (ja) 生体モデル生成装置、生体モデル生成方法、および生体モデル生成プログラム
JP2010528750A (ja) 管状構造の検査
US20070116334A1 (en) Method and apparatus for three-dimensional interactive tools for semi-automatic segmentation and editing of image objects
CN114693838A (zh) 用于调整描绘的轮廓的绘制方法、设备及介质
JP5194138B2 (ja) 画像診断支援装置およびその動作方法、並びに画像診断支援プログラム
EP1685534A1 (en) Three-dimensional segmentation using deformable surfaces
WO2017180097A1 (en) Deformable registration of intra and preoperative inputs using generative mixture models and biomechanical deformation
Sørensen et al. A new virtual reality approach for planning of cardiac interventions
CN1870054B (zh) 处理医学图像数据的方法和系统
Preim et al. Visualization, visual analytics and virtual reality in medicine: State-of-the-art Techniques and Applications
US20080084415A1 (en) Orientation of 3-dimensional displays as a function of the regions to be examined
JP2007518484A (ja) 変形可能な表面のセグメント化のリアルタイムなユーザ対話処理
JP2025509706A (ja) 患者の3dモデルを表示するための方法
Bornik et al. Interactive editing of segmented volumetric datasets in a hybrid 2D/3D virtual environment
de Araujo Buck et al. 3-D segmentation of medical structures by integration of raycasting with anatomic knowledge

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050701

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050701

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080722

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081021

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20090424

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090428

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090728

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100318

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100413

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100709

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100803

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100902

R150 Certificate of patent or registration of utility model

Ref document number: 4584575

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130910

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term