[go: up one dir, main page]

JP5061306B2 - Client device, server device, and volume data transmission system - Google Patents

Client device, server device, and volume data transmission system Download PDF

Info

Publication number
JP5061306B2
JP5061306B2 JP2008089917A JP2008089917A JP5061306B2 JP 5061306 B2 JP5061306 B2 JP 5061306B2 JP 2008089917 A JP2008089917 A JP 2008089917A JP 2008089917 A JP2008089917 A JP 2008089917A JP 5061306 B2 JP5061306 B2 JP 5061306B2
Authority
JP
Japan
Prior art keywords
transmission
volume data
type image
determination unit
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008089917A
Other languages
Japanese (ja)
Other versions
JP2009246634A (en
Inventor
真幸 橋本
弘樹 林
晃敏 吉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2008089917A priority Critical patent/JP5061306B2/en
Publication of JP2009246634A publication Critical patent/JP2009246634A/en
Application granted granted Critical
Publication of JP5061306B2 publication Critical patent/JP5061306B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Processing Or Creating Images (AREA)
  • Facsimiles In General (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To display a high-quality image as much as possible when there are restrictions on an available transmission band obtained from a network side and a display request time that a user specifies. <P>SOLUTION: A client device includes: a transmission protocol determination section 201b which selects one of a file transmission type image transmission system and a partial transmission type image transmission system; a transmission request block determination section 201e which predicts a time needed to transmit volume data to be displayed when the partial transmission type image transmission system is selected, and determines maximum resolution for transmission and display within the predicted time; and a partial transmission block requesting/reception section 201f which requests a server device to transmit all of selected volume data when the file transmission type image transmission system is selected, and requests the server device to transmit volume data having the determined resolution to be displayed when the partial transmission type image transmission system is selected. <P>COPYRIGHT: (C)2010,JPO&amp;INPIT

Description

本発明は、本発明は、CTやMRIなどの医療用ボリュームデータ(3次元画像データ)をネットワーク上で利用する際に、複数のサムネイル(縮小画像)を利用者の要求時間内に表示する技術に関する。   The present invention is a technique for displaying a plurality of thumbnails (reduced images) within a user's requested time when medical volume data (three-dimensional image data) such as CT or MRI is used on a network. About.

従来から、医療用ボリュームデータの圧縮として、3次元ウェーブレット変換を用いた符号化方式が知られている。一例として、静止画像符号化の国際標準であるJPEG2000では、3次元ボリュームデータの符号化に関する検討が進んでいる。   Conventionally, an encoding method using three-dimensional wavelet transform is known as compression of medical volume data. As an example, in JPEG 2000, which is an international standard for still image coding, studies on coding of three-dimensional volume data are in progress.

ボリュームデータの伝送方式としては、単純にファイルを伝送するもののほかに、上記3次元ウェーブレット変換符号化ファイルの一部を伝送して、受信側でこれを復号することにより、部分的な3次元ウェーブレット変換係数を再生し、これを逆変換することにより、画像を再生することができる。ただし、低周波数成分に相当するウェーブレット変換係数しか送っていない場合は、解像度の低い画像が再生される。また、空間的に画像の一部に相当するウェーブレット変換係数しか送っていない場合は、画像の一部が再生される。
Schelkens, P. Munteanu, A. Tzannes, A. Brislawn, C. “JPEG2000. Part 10. Volumetric data encoding”, Proceedings of IEEE International Symposium on Circuits and Systems, pp.3874−3877, May. 2006.
As a volume data transmission method, in addition to simple file transmission, a part of the above three-dimensional wavelet transform encoded file is transmitted and decoded on the receiving side, whereby a partial three-dimensional wavelet is transmitted. An image can be reproduced by reproducing the conversion coefficient and inversely transforming it. However, when only the wavelet transform coefficient corresponding to the low frequency component is sent, an image with a low resolution is reproduced. Further, when only a wavelet transform coefficient corresponding to a part of the image is sent spatially, a part of the image is reproduced.
Schelkens, P.M. Munteanu, A.M. Tzannes, A.M. Brislawn, C.I. “JPEG2000. Part 10. Volumetric data encoding”, Proceedings of IEEE International Symposium on Circuits and Systems, pp. 3874-3877, May. 2006.

CT、MRIにより取得される医療用ボリュームデータは、データ量が膨大であるため、それらをネットワーク上で利用する際に遅延を生じる。データ量を圧縮するための符号化を行なったとしても、すべてのデータを送るとすると多大な時間を要する。画質に関して階層化をおこなう階層符号化を行なったとしても、一般に伝送帯域の制約下において、送りたいボリュームデータファイル、そこに含まれる画像枚数、伝送する品質階層(解像度など)が決まれば、自動的にデータ伝送・表示に要する時間が決まる。医療のアプリケーションを考えた場合、画像伝送装置の利用者である医師の要求を満足させるための表示時間のようなものがあると考えられる。利用者が表示要求時間を指定しても、その要求を満たせない場合がある。   Since medical volume data acquired by CT and MRI has a huge amount of data, a delay occurs when they are used on the network. Even if encoding for compressing the amount of data is performed, it takes a lot of time to send all the data. Even if hierarchical coding is used to make hierarchies related to image quality, it is generally automatic if the volume data file to be sent, the number of images contained in it, and the quality hierarchy (resolution, etc.) to be transmitted are determined under the restriction of transmission bandwidth. The time required for data transmission and display is determined. When considering a medical application, it is considered that there is a display time for satisfying a request of a doctor who is a user of an image transmission apparatus. Even if the user specifies the display request time, the request may not be satisfied.

本発明は、このような事情に鑑みてなされたもので、ネットワーク側から取得する利用可能伝送帯域、利用者が指定する表示要求時間の制約がある条件下で、できるだけ高画質の画像を表示することができるクライアント装置、サーバ装置およびボリュームデータ伝送システムを提供することを目的とする。   The present invention has been made in view of such circumstances, and displays as high-quality images as possible under the conditions that there are restrictions on the available transmission band acquired from the network side and the display request time specified by the user. An object of the present invention is to provide a client device, a server device, and a volume data transmission system.

(1)上記の目的を達成するために、本発明は、以下のような手段を講じた。すなわち、本発明のクライアント装置は、クライアント装置が、記録媒体に記録されているボリュームデータの伝送をサーバ装置に対して要求し、サーバ装置が、前記要求されたボリュームデータを前記クライアント装置へ伝送するボリュームデータ伝送システムに適用されるクライアント装置であって、伝送を要求するボリュームデータを選択するファイル選択部と、前記選択したボリュームデータを前記サーバ装置から取得する際の方式として、予め定められた基準に基づいて、前記選択したボリュームデータのすべてを伝送するファイル伝送型画像伝送方式または前記選択したボリュームデータの一部を伝送する部分伝送型画像伝送方式のいずれか一方を選択する伝送プロトコル決定部と、前記伝送プロトコル決定部が前記部分伝送型画像伝送方式を選択した場合、表示対象となるボリュームデータの伝送に要する時間を予測し、予測した時間内で伝送および表示可能な最大の解像度を決定する伝送要求ブロック決定部と、前記伝送プロトコル決定部がファイル伝送型画像伝送方式を選択した場合は、前記選択したボリュームデータのすべてを伝送する旨の要求を前記サーバ装置に対して行なう一方、前記伝送プロトコル決定部が前記部分伝送型画像伝送方式を選択した場合は、前記決定された解像度を有する表示対象となるボリュームデータを伝送する旨の要求を前記サーバ装置に対して行なう伝送要求部と、を備えることを特徴としている。   (1) In order to achieve the above object, the present invention takes the following measures. That is, in the client device of the present invention, the client device requests the server device to transmit the volume data recorded on the recording medium, and the server device transmits the requested volume data to the client device. A client device applied to a volume data transmission system, a file selection unit for selecting volume data for which transmission is requested, and a predetermined standard as a method for acquiring the selected volume data from the server device A transmission protocol determination unit for selecting either a file transmission type image transmission method for transmitting all of the selected volume data or a partial transmission type image transmission method for transmitting a part of the selected volume data, The transmission protocol determination unit is the partial transmission type When an image transmission method is selected, a transmission request block determining unit that predicts a time required for transmitting volume data to be displayed and determines a maximum resolution that can be transmitted and displayed within the predicted time, and determines the transmission protocol. When the unit selects the file transmission type image transmission method, a request for transmitting all of the selected volume data is made to the server device, while the transmission protocol determination unit is configured to transmit the partial transmission type image transmission method. A transmission request unit that makes a request to the server device to transmit volume data to be displayed having the determined resolution.

この構成により、ボリュームデータ表示装置のサムネイル画面の初期表示において、利用者の設定する表示要求時間内に、可能な限り高解像度のサムネイル画像を表示することができる。   With this configuration, in the initial display of the thumbnail screen of the volume data display device, it is possible to display a thumbnail image with the highest possible resolution within the display request time set by the user.

(2)また、本発明のクライアント装置において、前記伝送プロトコル決定部は、前記選択したボリュームデータのすべてを伝送するために要する時間を予測し、要求時間内に前記選択したボリュームデータのすべてを伝送可能である場合は、前記ファイル伝送型画像伝送方式を選択する一方、要求時間内に前記選択したボリュームデータのすべてを伝送可能でない場合は、前記部分伝送型画像伝送方式を選択することを特徴としている。   (2) In the client device of the present invention, the transmission protocol determination unit predicts a time required to transmit all of the selected volume data, and transmits all of the selected volume data within a requested time. When it is possible, the file transmission type image transmission method is selected, and when the selected volume data cannot be transmitted within the required time, the partial transmission type image transmission method is selected. Yes.

この構成により、利用者の設定する表示要求時間内に、可能な限り高解像度のサムネイル画像を表示することができる。   With this configuration, it is possible to display thumbnail images with the highest possible resolution within the display request time set by the user.

(3)また、本発明のクライアント装置において、前記伝送要求ブロック決定部は、前記選択したボリュームデータに関心領域(ROI:Region Of Interest)が設定されている場合は、前記関心領域に含まれるボリュームデータが、前記関心領域に含まれないボリュームデータよりも高解像度または高ビット精度で伝送されるように、伝送の階層を決定することを特徴としている。   (3) Further, in the client device of the present invention, the transmission request block determination unit, when a region of interest (ROI) is set in the selected volume data, the volume included in the region of interest The transmission hierarchy is determined so that data is transmitted with higher resolution or higher bit accuracy than volume data not included in the region of interest.

この構成により、ボリュームデータにROIが設定されている場合には、ROI内の画像をより高解像度に表示することが可能となる。   With this configuration, when the ROI is set in the volume data, the image in the ROI can be displayed with higher resolution.

(4)また、本発明のクライアント装置において、前記伝送要求ブロック決定部は、前記選択したボリュームデータのうち、初期表示で必要なボリュームデータのみを要求対象に決定することを特徴としている。   (4) Further, in the client device of the present invention, the transmission request block determination unit determines only volume data required for initial display among the selected volume data as a request target.

この構成により、初期表示時に表示されない画像に対する符号化ブロックを伝送する必要が無くなり、逆に、表示対象とする画像に対しては、表示要求時間内により多くの符号化ブロックを伝送することができ、より高解像度での表示が可能となる。   With this configuration, there is no need to transmit an encoding block for an image that is not displayed at the time of initial display, and conversely, for an image to be displayed, more encoding blocks can be transmitted within the display request time. Higher resolution display is possible.

(5)また、本発明のクライアント装置において、前記伝送要求ブロック決定部は、前記選択したボリュームデータのうち、初期表示以降で必要なボリュームデータを、最低解像度で要求する決定を行なうことを特徴としている。   (5) Further, in the client device of the present invention, the transmission request block determination unit makes a determination to request volume data required after initial display at the minimum resolution among the selected volume data. Yes.

この構成により、初期表示後、例えば、画面のスクロール操作があった場合にも、初期表示画像以外の画像については、最低解像度のサムネイル(ボリュームデータ)を瞬時に表示することができる。これにより、利用者が待機させられることによるストレスを軽減させることができる。   With this configuration, after the initial display, for example, even when a screen scroll operation is performed, thumbnails (volume data) with the lowest resolution can be instantaneously displayed for images other than the initial display image. As a result, it is possible to reduce the stress caused by the user being on standby.

(6)また、本発明のクライアント装置において、前記伝送要求ブロック決定部は、前記最低解像度のボリュームデータを要求した後、ユーザインタフェース部からの要求に応じて、バックグラウンドで前記最低解像度のボリュームデータと同じボリュームデータをより高い解像度で要求する決定を行なうことを特徴としている。   (6) In the client device of the present invention, after the transmission request block determination unit requests the minimum resolution volume data, the minimum resolution volume data in the background in response to a request from the user interface unit. It is characterized by making a decision to request the same volume data at a higher resolution.

この構成により、当初は解像度の低い画像が表示されるが、次第に解像度の高い画像を表示することができる。これにより、利用者が待機させられることによるストレスを軽減させることができる。   With this configuration, an image with a low resolution is initially displayed, but an image with a high resolution can be gradually displayed. As a result, it is possible to reduce the stress caused by the user being on standby.

(7)また、本発明のクライアント装置において、前記伝送要求部は、前記サーバ装置との間で、前記選択したボリュームデータの送受信を行なった時間を測定し、前記伝送要求ブロック決定部は、前記測定された時間に基づいて、表示対象となるボリュームデータの伝送に要する時間を予測することを特徴としている。   (7) Further, in the client device of the present invention, the transmission request unit measures a time when the selected volume data is transmitted / received to / from the server device, and the transmission request block determination unit Based on the measured time, the time required for transmitting the volume data to be displayed is predicted.

この構成により、予め測定した伝送時間を利用することができるので、伝送要求ブロック決定部における伝送時間の予測を迅速に行なうことが可能となる。   With this configuration, since the transmission time measured in advance can be used, it is possible to quickly estimate the transmission time in the transmission request block determination unit.

(8)また、本発明のサーバ装置は、請求項1から請求項7のいずれかに記載のクライアント装置からの要求に応じて、前記記録媒体からボリュームデータを読み出して、要求されたボリュームデータのすべてを伝送するファイル伝送型画像伝送方式または要求されたボリュームデータの一部を伝送する部分伝送型画像伝送方式のいずれか一方で、ボリュームデータのすべてまたは一部を前記クライアント装置へ伝送することを特徴としている。   (8) Further, the server device of the present invention reads volume data from the recording medium in response to a request from the client device according to any one of claims 1 to 7, and stores the requested volume data. Either the file transmission type image transmission method for transmitting all or the partial transmission type image transmission method for transmitting a part of the requested volume data is used to transmit all or part of the volume data to the client device. It is a feature.

この構成により、ボリュームデータ表示装置のサムネイル画面の初期表示において、利用者の設定する表示要求時間内に、可能な限り高解像度のサムネイル画像を表示することができる。   With this configuration, in the initial display of the thumbnail screen of the volume data display device, it is possible to display a thumbnail image with the highest possible resolution within the display request time set by the user.

(9)また、本発明のボリュームデータ伝送システムは、請求項1から請求項7のいずれかに記載のクライアント装置と、請求項8記載のサーバ装置と、から構成されることを特徴としている。   (9) Further, the volume data transmission system of the present invention is characterized by comprising the client device according to any one of claims 1 to 7 and the server device according to claim 8.

この構成により、ボリュームデータ表示装置のサムネイル画面の初期表示において、利用者の設定する表示要求時間内に、可能な限り高解像度のサムネイル画像を表示することができる。   With this configuration, in the initial display of the thumbnail screen of the volume data display device, it is possible to display a thumbnail image with the highest possible resolution within the display request time set by the user.

本発明によれば、ボリュームデータ表示装置のサムネイル画面の初期表示において、利用者の設定する表示要求時間内に、可能な限り高解像度のサムネイル画像を表示することができる。   According to the present invention, in the initial display of the thumbnail screen of the volume data display device, it is possible to display a thumbnail image with the highest possible resolution within the display request time set by the user.

本実施形態では、セキュリティや信頼性を考慮し、アプリケーションが通信を開始する際に、ネットワーク側が伝送に必要な伝送帯域を確保するタイプの医療専用のネットワークを想定する。本ネットワークにおいては、毎回利用可能なネットワーク帯域が異なる可能性があるが、ネットワーク側から、ほぼリアルタイムで使える伝送帯域幅の情報が取得できるものとする。   In the present embodiment, in consideration of security and reliability, a medical-dedicated network in which the network side secures a transmission band necessary for transmission when an application starts communication is assumed. In this network, there is a possibility that the network bandwidth that can be used every time is different, but it is assumed that information on the transmission bandwidth that can be used almost in real time can be acquired from the network side.

図1は、本実施形態に係るボリュームデータ伝送システムの概略構成を示す図である。ネットワークNを介して、サーバ装置100とクライアント装置200とが接続されている。サーバ装置100は、符号化部101、記憶媒体102、およびサーバ伝送部103を備える。クライアント装置200は、クライアント伝送部201、復号部202、および表示部203を備える。なお、表示部203は、ユーザインタフェース部を含む。サーバ装置100の符号化部101は、ボリュームデータを3次元ウェーブレット変換符号化する。   FIG. 1 is a diagram showing a schematic configuration of a volume data transmission system according to the present embodiment. The server device 100 and the client device 200 are connected via the network N. The server device 100 includes an encoding unit 101, a storage medium 102, and a server transmission unit 103. The client device 200 includes a client transmission unit 201, a decryption unit 202, and a display unit 203. The display unit 203 includes a user interface unit. The encoding unit 101 of the server apparatus 100 performs three-dimensional wavelet transform encoding on the volume data.

(3次元ウェーブレット変換)
ボリュームデータは、2次元画像(xy平面画像:スライス画像)の複数の集合であると考える。スライス画像の重なりの方向をz方向とする。3次元ウェーブレット変換は、ボリュームデータに対し、図2に示すxy方向のウェーブレット変換および図3に示すz方向のウェーブレット変換を施すものとする。3次元ウェーブレット変換符号化においては、図4に示すように、3次元ウェーブレット変換されたサブバンドブロック内の変換係数を、符号化の単位である小領域の直方体ブロックに分割する。この直方体ブロックを符号化ブロックと呼ぶ。この符号化ブロックごとに、エントロピー符号化により符号を生成し情報量の圧縮を行なう。
(3D wavelet transform)
Volume data is considered to be a plurality of sets of two-dimensional images (xy planar images: slice images). The direction in which slice images overlap is the z direction. In the three-dimensional wavelet transform, it is assumed that the xy direction wavelet transform shown in FIG. 2 and the z direction wavelet transform shown in FIG. 3 are performed on the volume data. In the three-dimensional wavelet transform coding, as shown in FIG. 4, the transform coefficients in the subband block subjected to the three-dimensional wavelet transform are divided into small-area rectangular parallelepiped blocks that are coding units. This rectangular parallelepiped block is called a coding block. For each coding block, a code is generated by entropy coding and the amount of information is compressed.

xy方向の低周波数サブバンドに対応する符号を伝送・復号してxy方向の低周波数サブバンド内の変換係数が再生される。これをz方向に逆ウェーブレット変換することでxyの低周波数のみを含んだ画像、つまり解像度の小さい画像が再生される。図5に示すように、これをサムネイル(縮小画像)として利用することが可能である。   A code corresponding to the low frequency subband in the xy direction is transmitted and decoded to reproduce the transform coefficient in the low frequency subband in the xy direction. By performing inverse wavelet transform on this in the z direction, an image including only the low frequency of xy, that is, an image having a low resolution is reproduced. As shown in FIG. 5, this can be used as a thumbnail (reduced image).

一番低い周波数成分だけではなく、より高い周波数成分を加えて伝送し、同様にz方向に逆ウェーブレット変換し、さらにこれを低周波数成分と併せてxy方向に逆ウェーブレット変換することにより、より解像度の高いサムネイルが得られる。   By transmitting not only the lowest frequency component but also a higher frequency component, and similarly performing inverse wavelet transform in the z direction, and further performing inverse wavelet transform in the xy direction together with the low frequency component, further resolution is achieved. High thumbnails can be obtained.

(表示装置のユーザインタフェース)
CT、MRIなどのボリュームデータ表示装置の一般的なユーザインタフェースを、図6に示す。複数枚の画像を同時に一画面に表示する画面があり、この画面をサムネイル画面と呼ぶ。ここでは、表示画像としてサムネイルを表示することを想定する。利用者の一般的な操作としては、表示されているサムネイルの範囲をスクロールにより変更したり、特定のサムネイルを指定して画像を拡大したりするものである。ここでは、サムネイル画面の最初の表示において、利用者が要求する表示要求時間をあらかじめ設定しておき、その時間内に出来るだけ解像度の高いサムネイル画面の表示を完了することを本発明の目的とする。
(User interface of display device)
FIG. 6 shows a general user interface of a volume data display device such as CT and MRI. There is a screen that displays a plurality of images simultaneously on one screen, and this screen is called a thumbnail screen. Here, it is assumed that thumbnails are displayed as display images. As a general operation of the user, the range of the displayed thumbnail is changed by scrolling, or the image is enlarged by designating a specific thumbnail. Here, it is an object of the present invention to set a display request time required by a user in advance at the initial display of a thumbnail screen and complete the display of a thumbnail screen with a resolution as high as possible within that time. .

画像の伝送方式としては、ファイル転送型画像伝送方式と部分伝送型画像伝送方式の2つを適応的に切り替えて用いる。   As an image transmission method, a file transfer type image transmission method and a partial transmission type image transmission method are adaptively switched and used.

(ファイル転送型画像伝送方式)
ファイル転送型画像伝送方式では、対象のボリュームデータの符号ファイルをすべて転送した後、符号ファイルの復号を行ない、画像を再生・表示する。一般的な画像システムでは、このタイプの伝送表示が行われる。伝送処理と復号処理が分離できるため実装も簡単である。しかし、再生ファイルの転送が終わるまで画像の再生・表示が行われないので、ファイルサイズが大きい場合には、表示までに時間を要する。前述の3次元ウェーブレット変換を施したボリュームデータでは、特定検査のすべてのCT画像が1つのファイルにまとめられるため、1つのファイルサイズが大きい。このため、ファイル転送型画像伝送方式を用いた場合は、伝送に時間を要し、表示までに時間がかかる結果となる。
(File transfer type image transmission system)
In the file transfer type image transmission method, after all the code files of the target volume data are transferred, the code files are decoded, and the images are reproduced and displayed. In a general image system, this type of transmission display is performed. Since the transmission process and the decoding process can be separated, the implementation is simple. However, since the reproduction / display of the image is not performed until the transfer of the reproduction file is completed, it takes time until the display when the file size is large. In the volume data subjected to the above-described three-dimensional wavelet transform, all the CT images of the specific examination are collected into one file, so that one file size is large. For this reason, when the file transfer type image transmission method is used, it takes time for transmission, and it takes time to display.

以上より、ファイル転送型画像伝送方式は、十分な伝送帯域がとれる場合、または要求されている表示時間が十分長い場合に利用可能である。   As described above, the file transfer type image transmission method can be used when a sufficient transmission band can be obtained or when a required display time is sufficiently long.

(部分伝送型画像伝送方式)
部分伝送型画像伝送方式では、サーバに蓄積されたファイルに関して、ファイルすべてを伝送するのではなく、ファイル中の必要な部分データのみを伝送する。クライアントのユーザが表示させたい解像度、表示させたい部分を表示するために必要な部分データのみを、サーバに蓄積されたファイル内より抽出して伝送することができるため、データ伝送量が低減される。
(Partial transmission type image transmission system)
In the partial transmission type image transmission system, only the necessary partial data in the file is transmitted instead of transmitting all the files stored in the server. Since only the partial data necessary for displaying the resolution and the portion to be displayed can be extracted and transmitted from the file stored in the server, the data transmission amount is reduced. .

ユーザが要求したすべてのデータの伝送が終了する前の伝送途中段階において、クライアントが受信したデータだけを使って復号処理を行なうことにより、所望の品質(解像度)よりも、低い品質の画像を再生できる。この再生処理をある時間間隔で繰り返すことにより、毎回の再生処理のタイミングで受信データが増えていくため、ユーザからは階層的に画像が高品質化していくように見える。低品質の画像でも、長時間待つことなく表示されていれば、最終の画像品質になるまで何も表示されない場合に比べて、ユーザの待ち時間に対するストレスが軽減する。   In the middle of the transmission before the transmission of all data requested by the user is completed, decoding is performed using only the data received by the client, thereby reproducing an image having a quality lower than the desired quality (resolution). it can. By repeating this reproduction process at certain time intervals, the received data increases at the timing of each reproduction process, so that it seems to the user that the quality of the image is hierarchically improved. Even if a low-quality image is displayed without waiting for a long time, the user's stress on the waiting time is reduced compared to a case where nothing is displayed until the final image quality is reached.

以上より、部分伝送型画像伝送方式は、十分な伝送帯域が取れない場合、またはサムネイル表示に要求される時間が短い場合に有効である。   As described above, the partial transmission type image transmission method is effective when a sufficient transmission band cannot be obtained or when the time required for thumbnail display is short.

図7は、本実施形態に係るボリュームデータ伝送システムの概略構成を示すブロック図である。図7に示すように、サーバ伝送部103は、ファイル情報送信部103a、ファイル転送送信部103b、部分伝送ブロック送信部103c、およびブロック抽出部103dを備えている。また、クライアント伝送部201は、ファイル選択部201a、伝送プロトコル決定部201b、パラメータ予測・記憶部201c、ファイル転送要求・受信部201d、伝送要求ブロック決定部201e、および部分伝送ブロック要求・受信部201fを備えている。以下、本実施形態に係るボリュームデータ伝送システムの特徴的な構成について説明する。   FIG. 7 is a block diagram showing a schematic configuration of the volume data transmission system according to the present embodiment. As shown in FIG. 7, the server transmission unit 103 includes a file information transmission unit 103a, a file transfer transmission unit 103b, a partial transmission block transmission unit 103c, and a block extraction unit 103d. The client transmission unit 201 includes a file selection unit 201a, a transmission protocol determination unit 201b, a parameter prediction / storage unit 201c, a file transfer request / reception unit 201d, a transmission request block determination unit 201e, and a partial transmission block request / reception unit 201f. It has. Hereinafter, a characteristic configuration of the volume data transmission system according to the present embodiment will be described.

(伝送プロトコル決定部201b)
伝送プロトコル決定部201bは、ファイル転送型画像伝送方式と部分伝送型画像伝送方式とを適応的に切り替えて、ユーザの要求した時間内で画像の初期表示を可能とする。本発明では、伝送前にファイル転送型で伝送すべきか部分伝送型で伝送すべきかを決定する。
(Transmission protocol determination unit 201b)
The transmission protocol determination unit 201b adaptively switches between the file transfer type image transmission method and the partial transmission type image transmission method, and enables the initial display of the image within the time requested by the user. In the present invention, it is determined whether the file transfer type or the partial transmission type should be transmitted before transmission.

まず、ファイル転送型での伝送・表示時間に要する時間を推定し、ユーザが指定した初期表示要求時間よりも小さい場合はファイル転送型画像伝送方式で伝送・表示を行ない、推定時間がユーザの所望時間よりも大きい場合は部分伝送型画像伝送方式で伝送・表示を行なう。伝送・表示時間を推定するにあたり、ファイル転送型画像伝送処理をモデル化し、次の処理から構成されるものと仮定する。
(1)サーバ、クライアント間のコマンド通信等、直接的な画像データ伝送ではない伝送処理
(2)符号化画像データの伝送処理
(3)復号処理
(4)表示処理
上記モデル化に基づき、次式により使用可能伝送帯域での伝送表示終了までに要する時間(Ttotal)を伝送前に予測する。
First, the time required for transmission / display time in the file transfer type is estimated, and if it is shorter than the initial display request time specified by the user, transmission / display is performed in the file transfer type image transmission method. If it is longer than the time, transmission and display are performed by the partial transmission type image transmission method. In estimating the transmission / display time, it is assumed that the file transfer type image transmission processing is modeled and configured by the following processing.
(1) Transmission processing that is not direct image data transmission, such as command communication between server and client, etc. (2) Transmission processing of encoded image data (3) Decoding processing (4) Display processing Based on the above modeling, By this, the time (Ttotal) required to end transmission display in the usable transmission band is predicted before transmission.

Ttotal = Toh + Ttrans + Tdec + Tdisp (*)
ここで、
Toh :コマンド通信等のオーバーヘッド
Ttrans :符号データの伝送に要する時間
= 全データ量/使用可能伝送帯域(Wa)
Tdec :復号時間
Tdisp :表示処理時間、である。
Ttotal = Toh + Ttrans + Tdec + Tdisp (*)
here,
Toh: Overhead such as command communication
Ttrans: Time required for transmission of code data
= Total data amount / usable transmission bandwidth (Wa)
Tdec: Decoding time
Tdisp: display processing time.

全データ量は、ファイルを蓄積しているサーバが事前に情報を収集しておき、クライアントがこの時間推定処理を行なう前に、全データ量の情報をサーバからクライアントへ伝送する。使用可能伝送帯域(Wa)は、オンデマンドネットワークにおいて実際に取得できた伝送パスの伝送帯域であり、本時間推定(画像伝送方式の適応的切り替え判定)を行なうのに先がけ取得しておく。復号時間(Tdec)に関しては、クライアントの性能により大きく異なるが、基本的に、全データ量が大きくなれば復号処理を行なう時間が増えるため、復号時間も長くなることが予想できる。表示時間(Tdisp)に関しては、これもクライアントの性能(ビデオボードやディスプレイなどの表示ハードウェア関連の性能)により大きく異なるが、他の時間に比べると非常に短時間であることが予想できる。また、コマンド通信等のオーバーヘッド(Toh)は、通信環境やサーバ、クライアントの性能に依存すると考えられる。上記により伝送時間を推定した後は、利用者の表示要求時間(Treq)とTtotalを比較し、伝送・表示プロトコルを決定する。
Treq ≧ Ttotalならばファイル転送型画像伝送方式
Treq < Ttotalならば部分伝送型画像伝送方式
The total data amount is collected in advance by the server that stores the files, and the information on the total data amount is transmitted from the server to the client before the client performs this time estimation process. The usable transmission band (Wa) is a transmission band of a transmission path actually acquired in the on-demand network, and is acquired before performing this time estimation (adaptive switching determination of the image transmission method). Although the decoding time (Tdec) varies greatly depending on the performance of the client, basically, the decoding time increases as the total data amount increases, so that it can be expected that the decoding time will also increase. Regarding the display time (Tdisp), this also varies greatly depending on the performance of the client (performance related to display hardware such as a video board and a display), but it can be expected to be very short compared to other times. In addition, overhead (Toh) such as command communication is considered to depend on the communication environment, the performance of the server, and the client. After the transmission time is estimated as described above, the display request time (Treq) of the user and Ttotal are compared to determine the transmission / display protocol.
If Treq ≥ Ttotal, file transfer type image transmission method
Partial transmission type image transmission system if Treq <Ttotal

図8にTtotalのグラフと画像伝送方式の選択の関係を示す。Ttotalを利用可能な帯域の関数とし、実際に取得された利用可能な伝送帯域Waと、利用者の表示要求時間Treqでプロットされるポイントが、その関数の上にあればファイル転送型の画像伝送方式を使用し、下にあれば部分伝送型の画像伝送方式を使用する。   FIG. 8 shows the relationship between the Ttotal graph and the image transmission method. If Ttotal is a function of the available bandwidth, and the points that are plotted with the actually obtained available transmission bandwidth Wa and the user's display request time Treq are on that function, file transfer type image transmission Use the partial transmission type image transmission method if it is below.

符号データの伝送に要する時間(Ttrans)は伝送帯域と伝送するデータ量が分かれば推定可能であるが、実際のスループットは指定された伝送帯域値と若干異なる可能性がある。この課題については次節にて議論する。また、Ttrans以外の時間についても精度よく推定する必要がある。   The time (Ttrans) required to transmit the code data can be estimated if the transmission band and the amount of data to be transmitted are known, but the actual throughput may be slightly different from the designated transmission band value. This issue will be discussed in the next section. Also, it is necessary to accurately estimate the time other than Ttrans.

(パラメータ予測・記憶部201c)
上記のような適応的画像伝送方式では、伝送時間の高精度の推定が必要となる。概して、伝送時間と伝送帯域は反比例の関係にあるが、実際のスループットは、指定された伝送帯域とは若干異なる可能性がある。そこで、事前にダミーデータによりいくつかの条件で伝送時間を求めておき、実際に画像を伝送する際には、この情報をもとに非線形予測により伝送時間を予測する。
(Parameter prediction / storage unit 201c)
The adaptive image transmission method as described above requires highly accurate estimation of the transmission time. In general, the transmission time and the transmission band are inversely related, but the actual throughput may be slightly different from the designated transmission band. Therefore, the transmission time is obtained in advance using dummy data under some conditions, and when the image is actually transmitted, the transmission time is predicted by nonlinear prediction based on this information.

予測式として次式を用い、Marquardt法により非線形予測を行なう。Marquardt法は、最急降下法とGauss-Newton法を折衷した方法で、推定する変数が解から遠く離れ、非線形性の影響が大きい場合には最急降下法的な推定を行ない、解に近づくにつれてGauss-Newton法的な推定となる推定方式である。   Nonlinear prediction is performed by the Marquardt method using the following equation as a prediction equation. The Marquardt method is a compromise between the steepest descent method and the Gauss-Newton method. When the estimated variable is far from the solution and the influence of nonlinearity is large, the steepest descent method is estimated. -It is an estimation method that is Newton's method of estimation.

Figure 0005061306
ここで、Transはデータの伝送時間、Wはオンデマンド型ネットワークで設定された伝送帯域、Lは伝送するデータ量、A,B,…,Eは定数である。WとしてW1,W2,…,WM(bit/sec)のM種類、LとしてL1,L2,…,LN(バイト)のN種類の計M×N種類の条件において、それぞれ複数回ずつ伝送を行ない、サンプルデータを取得する。これらのサンプルデータから、非線形予測によりA,B,…,Eを決定する。これにより、求まった定数により伝送時間を予測することができる。
Figure 0005061306
Here, Trans is the data transmission time, W is the transmission band set in the on-demand network, L is the amount of data to be transmitted, and A, B,..., E are constants. Transmission is performed a plurality of times under the conditions of M types of W1, W2,..., WM (bit / sec) as W and N types of L1, L2,. Get sample data. From these sample data, A, B,..., E are determined by nonlinear prediction. As a result, the transmission time can be predicted from the obtained constant.

但し、ここでは、ネットワークの伝送帯域は定常であることを仮定する。つまり、事前測定時と実際のデータ伝送時で、ネットワークの伝送特性はほぼ等しいことを仮定する。様々な通信コネクションが個々の要求に応じて張られる一般的なインターネット環境ではこの仮定は成り立たない場合が多い。一方、セキュリティや信頼性を考慮し、アプリケーションが通信を開始する際にはネットワーク側が伝送に必要な伝送帯域を確保する方式をとるタイプの医療専用のネットワークにおいては、すべての通信コネクションは管理される。   However, here, it is assumed that the transmission band of the network is stationary. In other words, it is assumed that the transmission characteristics of the network are almost equal between the preliminary measurement and the actual data transmission. This assumption often does not hold in a general Internet environment where various communication connections are established in response to individual requests. On the other hand, in consideration of security and reliability, all communication connections are managed in a medical-dedicated network where the network side secures the necessary transmission bandwidth when the application starts communication. .

つまり、一旦帯域が確保できると、その後中断要求など他の通信からの影響を受けない限りは、伝送帯域の状態はほぼ定常であると考えてよい。コアネットワークが複雑化し、多数のコアルータが存在するネットワークを経由する場合には、コネクションを張るタイミングによりルートが異なる場合も考えられるが、事前測定を複数回行なうことで、伝送時間の期待値が統計的に算出できる。   In other words, once the bandwidth can be secured, it can be considered that the state of the transmission bandwidth is almost steady unless it is subsequently influenced by other communications such as an interruption request. When the core network becomes complicated and passes through a network with a large number of core routers, the route may differ depending on the timing at which the connection is established. Can be calculated automatically.

さらに、実際に伝送にかかった時間をフィードバックし、その情報によりパラメータを更新することにより、予測の高精度化を行なう。   Furthermore, the time taken for actual transmission is fed back, and the parameters are updated with the information, thereby improving the prediction accuracy.

(伝送要求ブロック決定部201e)
(1)伝送階層決定
部分伝送型においては、画像ファイルすべてのデータを伝送するのではなく、サムネイル表示の際に必要な低周波数成分だけを伝送する。ここでは、初期表示時間がユーザにより決められている場合に、その時間内に伝送・表示できる最大の解像度の画像を決定する方式を示す。具体的には、各解像度でのサムネイル伝送時間を推定し、要求時間内に伝送・表示可能なサムネイルの解像度のうち、最大の解像度に決定する。各解像度でのサムネイルの伝送時間の推定には、前節と同様の時間推定方法を用いる。この際、全データ量(Wa)の変わりに、各階層(解像度)の画像を復号するのに必要な符号データ量を用いる。このデータ量は事前にサーバに蓄積されており、クライアントが本時間推定処理(サムネイル解像度決定処理)を行なう前に、各階層のデータ量の情報をサーバからクライアントへ伝送する。
(Transmission request block determination unit 201e)
(1) Determination of transmission layer In the partial transmission type, not all image file data is transmitted, but only low frequency components necessary for thumbnail display are transmitted. Here, when the initial display time is determined by the user, a method of determining an image with the maximum resolution that can be transmitted and displayed within that time is shown. Specifically, the thumbnail transmission time at each resolution is estimated, and the maximum resolution among the resolutions of thumbnails that can be transmitted and displayed within the requested time is determined. To estimate the thumbnail transmission time at each resolution, the same time estimation method as in the previous section is used. At this time, instead of the total data amount (Wa), the code data amount necessary for decoding the image of each layer (resolution) is used. This amount of data is stored in advance in the server, and before the client performs this time estimation process (thumbnail resolution determination process), information on the data amount of each layer is transmitted from the server to the client.

例えば、解像度64画素×64画素のサムネイルの伝送表示の推定時間をTtotal64、解像度128画素×128画素のサムネイルの伝送表示の推定時間をTtotal128、解像度256画素×256画素のサムネイルの伝送表示の推定時間をTtotal256とすると、次の不等式が成り立つ。
Ttotal64 < Ttotal128 < Ttotal256
ユーザが要求する初期画像表示時間Treqgより推定伝送表示時間が短く、かつその中でサムネイル解像度が大きいものを、初期表示画像とする。この選択の様子を図9に示す。
For example, an estimated time for transmission display of a thumbnail of resolution 64 pixels × 64 pixels is Ttotal64, an estimated time of transmission display of a thumbnail of resolution 128 pixels × 128 pixels is Ttotal128, and an estimated time of transmission display of a thumbnail of resolution 256 pixels × 256 pixels Let Ttotal256 be the following inequality:
Ttotal64 <Ttotal128 <Ttotal256
An image whose estimated transmission display time is shorter than the initial image display time Treqg requested by the user and whose thumbnail resolution is large is set as an initial display image. This selection is shown in FIG.

(2)表示対象画像のみ伝送
サムネイル表示画面に一度に表示できる画像枚数は有限(10数枚〜20数枚程度)であり、一般にボリュームデータのすべての画像を表示することは不可能である。そこで、初期表示時に表示される画像の再生に必要な符号化ブロックのみを伝送ブロックとする。初期表示時に表示されない画像に対する符号化ブロックを送る必要がなくなり、逆に表示対象となる画像に対しては、表示要求時間内により多くの符号化ブロックが送れるようになり、より高解像度での表示が可能となる。
(2) Transmission of only display target images The number of images that can be displayed on the thumbnail display screen at a time is limited (about 10 to 20 and so on), and it is generally impossible to display all images of volume data. Therefore, only a coding block necessary for reproducing an image displayed at the time of initial display is set as a transmission block. There is no need to send coding blocks for images that are not displayed at the time of initial display. Conversely, for images to be displayed, more coding blocks can be sent within the display request time and display at a higher resolution. Is possible.

(3)初期表示対象外画像の伝送
しかし、初期表示時に表示対象になっていない画像の情報を全く送らないと、初期表示後に利用者がスクロール操作を行ない、他の画像のサムネイルを閲覧しようとしたときに、その時点では画像は何も表示できず、サーバから新たに符号化ブロックを伝送しなければならない。これにより、サムネイル表示が遅れることにより、利用者に対して、ストレスを与える虞がある。そこで、初期表示対象外画像についても、すべての画像の最低周波数サブバンドだけは送るようにする。
(3) Transmission of images not subject to initial display However, if information on images that are not displayed at the time of initial display is not sent at all, the user performs a scroll operation after initial display and tries to view thumbnails of other images. At that time, no image can be displayed, and a new encoded block must be transmitted from the server. As a result, the thumbnail display is delayed, which may cause stress to the user. Therefore, only the lowest frequency subbands of all the images are sent even for images that are not initially displayed.

この最低周波数サブバンドを用いて、初期表示対象外画像については最低解像度のサムネイル画像を作成しておく。これにより、初期表示後、スクロール操作があった場合にも、初期表示画像以外の画像については最低解像度のサムネイルを瞬時に表示でき、利用者へのストレスを低く抑えることができる。なお、該スクロール操作があった際には、最低解像度サムネイルを表示すると同時に、バックグラウンドで新規表示対象画像のより高い周波数成分の伝送を開始し、伝送・復号が完了し、より高い解像度のサムネイルが作成でき次第、該高解像度サムネイルを表示するようにする。   Using this lowest frequency subband, a thumbnail image with the lowest resolution is created for images that are not initially displayed. Thereby, even when a scroll operation is performed after the initial display, thumbnails with the lowest resolution can be displayed instantaneously for images other than the initial display image, and the stress on the user can be kept low. When the scroll operation is performed, the lowest resolution thumbnail is displayed, and at the same time, transmission of a higher frequency component of the new display target image is started in the background, transmission / decoding is completed, and the higher resolution thumbnail is displayed. As soon as it is created, the high-resolution thumbnail is displayed.

(4)ROI伝送階層決定
図10に示すように、画像に注目領域(Region Of Interest : ROI)が設定されている場合がある。この場合は、符号化ファイルのヘッダ情報として、ROIの位置情報が記録されている。この情報から、どの符号化ブロックがROIに対応するかが算出できる。図11にROIに対応する符号化ブロックの概念図を示す。ROI中の画像はすべての周波数成分を持つため、実際には、ROIに対応する符号化ブロックは、すべてのサブバンドに存在する。
(4) ROI Transmission Hierarchy Determination As shown in FIG. 10, a region of interest (ROI) may be set in an image. In this case, ROI position information is recorded as header information of the encoded file. From this information, it can be calculated which coding block corresponds to the ROI. FIG. 11 shows a conceptual diagram of a coding block corresponding to ROI. Since the image in the ROI has all the frequency components, actually, the coding blocks corresponding to the ROI exist in all the subbands.

ROIに含まれる符号化ブロックか、そうでないかによって伝送する階層を制御する。表示要求時間に伝送・表示が終わる範囲で、予め分かっている各符号化ブロックの符号量情報から、ROIに対して伝送可能な最大解像度をもとめ、残った時間でROI以外の領域の低解像度成分の伝送を行なう。   The hierarchy to be transmitted is controlled depending on whether the encoded block is included in the ROI or not. The maximum resolution that can be transmitted to the ROI is obtained from the code amount information of each coding block that is known in advance within the range where the transmission / display ends at the display request time, and the low resolution component of the area other than the ROI in the remaining time Is transmitted.

(ファイル伝送)
図12に、ファイル転送型画像伝送の処理の概念図を示す。クライアント装置200のファイル転送要求・受信部201dからサーバ装置100に対してファイル転送の要求を行ない、それに対応したファイルをサーバ装置100のファイル転送送信部103bが送信する。
(File transmission)
FIG. 12 shows a conceptual diagram of file transfer type image transmission processing. The file transfer request / reception unit 201d of the client device 200 issues a file transfer request to the server device 100, and the file transfer transmission unit 103b of the server device 100 transmits a corresponding file.

(部分伝送)
図13に、部分伝送の処理の概念図を示す。伝送要求ブロック決定部201eにおいて決定した伝送要求ブロックを、クライアント装置200の部分伝送ブロック要求・受信部201fからサーバ装置100の部分伝送ブロック送信部103cに伝送要求する。サーバ装置100では、受信した要求に基づき、ブロック抽出部103dにおいて、要求のあった符号化ブロックを記憶媒体102より抽出する。抽出した符号化ブロックに対し、ウェーブレット変換係数領域のどの位置の符号化ブロック化がわかるようにヘッダ情報を付加し、部分伝送ブロック送信部103cからクライアント装置200の部分伝送ブロック要求・受信部201fに対して送信する。クライアント装置200の部分伝送ブロック要求・受信部201fは、符号化ブロックを受信し、これらを復号部202に転送する。復号部202では、ウェーブレット変換係数を復号し、ヘッダ情報を元にウェーブレット変換係数領域での適切な係数位置に配置して、逆変換を行ない、画像を再生する。
(Partial transmission)
FIG. 13 shows a conceptual diagram of partial transmission processing. The transmission request block determined by the transmission request block determination unit 201e is requested to be transmitted from the partial transmission block request / reception unit 201f of the client device 200 to the partial transmission block transmission unit 103c of the server device 100. In the server apparatus 100, based on the received request, the block extraction unit 103d extracts the requested encoded block from the storage medium 102. Header information is added to the extracted encoded block so that the position of the encoded block in the wavelet transform coefficient region can be identified, and the partial transmission block transmission unit 103c sends the header block information to the partial transmission block request / reception unit 201f of the client device 200. Send to. The partial transmission block request / reception unit 201 f of the client device 200 receives the encoded blocks and transfers them to the decoding unit 202. The decoding unit 202 decodes the wavelet transform coefficient, arranges it at an appropriate coefficient position in the wavelet transform coefficient area based on the header information, performs inverse transform, and reproduces the image.

なお、符号化ブロックが小さい場合は、大量の符号化ブロックに対して、要求処理、抽出処理、ヘッダ付加、送受信を行わなければならず、処理の負荷が増大することが考えられる。そこで、複数の符号化ブロックをまとめて一つの伝送単位とし、上記処理を行なう最小単位として処理を行なうことで、処理量の低減を図ることができる。   If the coding block is small, request processing, extraction processing, header addition, and transmission / reception must be performed for a large number of coding blocks, which may increase the processing load. Therefore, the processing amount can be reduced by combining a plurality of encoded blocks into one transmission unit and performing the processing as the minimum unit for performing the above processing.

図14は、本実施形態に係るボリュームデータ伝送システムの動作を示すフローチャートである。まず、図7に示したファイル選択部201aおよびファイル情報送信部103aにおいて、ボリュームデータを含む画像ファイルを指定する(ステップS1)。次に、伝送プロトコル決定部201bおよびパラメータ予測・記憶部201cにおいて、上記指定した画像ファイルを伝送するために必要な時間を予測する(ステップS2)。そして、利用者から求められている「要求時間内」に画像ファイルの伝送が可能であるかどうかを判断する(ステップS3)。この判断の結果、要求時間内に画像ファイルの伝送が可能である場合は、ファイル転送送信部103bおよびファイル転送要求・受信部201dにおいて、ファイル転送型画像伝送方式によって画像ファイルの要求および転送を行なう(ステップS4)。そして、クライアント装置200では、受信した画像ファイルを復号部202で復号し(ステップS5)、表示部203において、画像ファイル(ボリュームデータ)が表示される(ステップS6)。   FIG. 14 is a flowchart showing the operation of the volume data transmission system according to this embodiment. First, the file selection unit 201a and the file information transmission unit 103a shown in FIG. 7 designate an image file including volume data (step S1). Next, the transmission protocol determination unit 201b and the parameter prediction / storage unit 201c predict the time required to transmit the designated image file (step S2). Then, it is determined whether or not the image file can be transmitted within “request time” requested by the user (step S3). If it is determined that the image file can be transmitted within the requested time, the file transfer transmitting unit 103b and the file transfer request / reception unit 201d request and transfer the image file by the file transfer type image transmission method. (Step S4). In the client device 200, the received image file is decoded by the decoding unit 202 (step S5), and the image file (volume data) is displayed on the display unit 203 (step S6).

一方、ステップS3において、要求時間内に画像ファイルの伝送が可能でない場合は、ボリュームデータ中にROIが設定されているかどうかを判断する(ステップS7)。ボリュームデータ中にROIが設定されている場合は、伝送要求ブロック決定部201eは、ROIと非ROIの伝送階層を決定する(ステップS8)。一方、ステップS7において、ボリュームデータ中にROIが設定されていない場合は、伝送要求ブロック決定部201eは、伝送階層を決定し(ステップS9)、部分伝送ブロック送信部103cおよび部分伝送ブロック要求・受信部201fは、部分伝送型画像伝送方式で画像ファイルの要求および転送を行なう(ステップS10)。そして、クライアント装置200では、受信した画像ファイルを復号部202で部分復号し(ステップS11)、表示部203において、画像ファイル(ボリュームデータ)が表示される(ステップS6)。   On the other hand, if it is determined in step S3 that the image file cannot be transmitted within the required time, it is determined whether ROI is set in the volume data (step S7). If ROI is set in the volume data, the transmission request block determination unit 201e determines ROI and non-ROI transmission layers (step S8). On the other hand, if the ROI is not set in the volume data in step S7, the transmission request block determining unit 201e determines the transmission layer (step S9), and the partial transmission block transmitting unit 103c and the partial transmission block request / reception. The unit 201f requests and transfers an image file by the partial transmission type image transmission method (step S10). In the client device 200, the received image file is partially decoded by the decoding unit 202 (step S11), and the image file (volume data) is displayed on the display unit 203 (step S6).

以上説明したように、本実施形態によれば、ボリュームデータ表示装置のサムネイル画面の初期表示において、利用者の設定する表示要求時間内に可能な限り高解像度のサムネイル画像を表示することができる。また、ROIが設定されている場合には、ROI内の画像をより高解像度に表示することが可能である。さらに、サムネイル画面の初期表示時に表示される画像以外の画像の最低解像度画像伝送を行なうことでサムネイル画面の初期表示後のスクロール処理を高速に行なうことができる。   As described above, according to the present embodiment, in the initial display of the thumbnail screen of the volume data display device, it is possible to display a thumbnail image with the highest possible resolution within the display request time set by the user. Further, when the ROI is set, it is possible to display an image in the ROI with higher resolution. Furthermore, scrolling after the initial display of the thumbnail screen can be performed at high speed by transmitting the lowest resolution image of an image other than the image displayed at the initial display of the thumbnail screen.

本実施形態に係るボリュームデータ伝送システムの概略構成を示す図である。It is a figure which shows schematic structure of the volume data transmission system which concerns on this embodiment. xy方向のウェーブレット変換の様子を示す図である。It is a figure which shows the mode of the wavelet transformation of xy direction. z方向のウェーブレット変換の様子を示す図である。It is a figure which shows the mode of the wavelet transformation of az direction. 3次元ウェーブレット変換されたサブバンドブロック内の変換係数を、符号化の単位である小領域の直方体ブロックに分割する様子を示す図である。It is a figure which shows a mode that the transform coefficient in the subband block by which the three-dimensional wavelet transform was carried out is divided | segmented into the rectangular block of the small area | region which is an encoding unit. xy方向の低周波数サブバンド内の変換係数をz方向に逆ウェーブレット変換してxyの低周波数のみを含んだ画像が再生される様子を示す図である。It is a figure which shows a mode that the image containing only the low frequency of xy is reproduced | regenerated by carrying out the inverse wavelet transform to the z direction of the conversion factor in the low frequency subband of xy direction. CT、MRIなどのボリュームデータ表示装置の一般的なユーザインタフェースを示す図である。It is a figure which shows the general user interface of volume data display apparatuses, such as CT and MRI. 本実施形態に係るボリュームデータ伝送システムの概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the volume data transmission system which concerns on this embodiment. Ttotalのグラフと画像伝送方式の選択の関係を示す図である。It is a figure which shows the relationship between the graph of Ttotal, and selection of an image transmission system. 初期画像表示時間Treqgより推定伝送表示時間が短く、かつその中でサムネイル解像度が大きいものを、初期表示画像とした様子を示す図である。It is a figure which shows a mode that the estimated transmission display time is shorter than the initial image display time Treqg, and the thumbnail resolution among them is used as the initial display image. 画像に注目領域(Region Of Interest : ROI)が設定されている様子を示す図である。It is a figure which shows a mode that the attention area (Region Of Interest: ROI) is set to the image. ROIに対応する符号化ブロックの概念を示す図である。It is a figure which shows the concept of the encoding block corresponding to ROI. ファイル転送型画像伝送の処理の概念を示す図である。It is a figure which shows the concept of a process of file transfer type image transmission. 部分伝送の処理の概念を示す図である。It is a figure which shows the concept of the process of partial transmission. 本実施形態に係るボリュームデータ伝送システムの動作を示すフローチャートである。It is a flowchart which shows operation | movement of the volume data transmission system which concerns on this embodiment.

符号の説明Explanation of symbols

100 サーバ装置
101 符号化部
102 記憶媒体
103 サーバ伝送部
103a ファイル情報送信部
103b ファイル転送送信部
103c 部分伝送ブロック送信部
103d ブロック抽出部
200 クライアント装置
201 クライアント伝送部
201a ファイル選択部
201b 伝送プロトコル決定部
201c パラメータ予測・記憶部
201d ファイル転送要求・受信部
201e 伝送要求ブロック決定部
201f 部分伝送ブロック要求・受信部
202 復号部
203 表示部
DESCRIPTION OF SYMBOLS 100 Server apparatus 101 Encoding part 102 Storage medium 103 Server transmission part 103a File information transmission part 103b File transfer transmission part 103c Partial transmission block transmission part 103d Block extraction part 200 Client apparatus 201 Client transmission part 201a File selection part 201b Transmission protocol determination part 201c Parameter prediction / storage unit 201d File transfer request / reception unit 201e Transmission request block determination unit 201f Partial transmission block request / reception unit 202 Decoding unit 203 Display unit

Claims (8)

クライアント装置が、記録媒体に記録されているボリュームデータの伝送をサーバ装置に対して要求し、サーバ装置が、前記要求されたボリュームデータを前記クライアント装置へ伝送するボリュームデータ伝送システムに適用されるクライアント装置であって、
伝送を要求するボリュームデータを選択するファイル選択部と、
前記選択したボリュームデータを前記サーバ装置から取得する際の方式として、予め定められた基準に基づいて、前記選択したボリュームデータのすべてを伝送するファイル伝送型画像伝送方式または前記選択したボリュームデータの一部を伝送する部分伝送型画像伝送方式のいずれか一方を選択する伝送プロトコル決定部と、
前記伝送プロトコル決定部が前記部分伝送型画像伝送方式を選択した場合、表示対象となるボリュームデータの伝送に要する時間を予測し、予測した時間内で伝送および表示可能な最大の解像度を決定する伝送要求ブロック決定部と、
前記伝送プロトコル決定部がファイル伝送型画像伝送方式を選択した場合は、前記選択したボリュームデータのすべてを伝送する旨の要求を前記サーバ装置に対して行なう一方、前記伝送プロトコル決定部が前記部分伝送型画像伝送方式を選択した場合は、前記決定された解像度を有する表示対象となるボリュームデータを伝送する旨の要求を前記サーバ装置に対して行なう伝送要求部と、を備え
前記伝送要求ブロック決定部は、前記選択したボリュームデータのうち、初期表示で必要なボリュームデータのみを要求対象に決定することを特徴とするクライアント装置。
Client applied to a volume data transmission system in which a client device requests transmission of volume data recorded on a recording medium to a server device, and the server device transmits the requested volume data to the client device A device,
A file selector for selecting volume data to be transmitted;
As a method for acquiring the selected volume data from the server device, a file transmission type image transmission method for transmitting all of the selected volume data based on a predetermined standard or one of the selected volume data. A transmission protocol determination unit for selecting one of the partial transmission type image transmission methods for transmitting the unit;
When the transmission protocol determination unit selects the partial transmission type image transmission method, the transmission time predicts the time required to transmit the volume data to be displayed, and determines the maximum resolution that can be transmitted and displayed within the predicted time. A request block determination unit;
When the transmission protocol determination unit selects the file transmission type image transmission method, the transmission protocol determination unit requests the server device to transmit all of the selected volume data, while the transmission protocol determination unit performs the partial transmission. A transmission request unit for requesting the server device to transmit volume data to be displayed having the determined resolution when the selected type image transmission method is selected ,
The transmission request block determination unit determines only the volume data required for initial display among the selected volume data as a request target .
クライアント装置が、記録媒体に記録されているボリュームデータの伝送をサーバ装置に対して要求し、サーバ装置が、前記要求されたボリュームデータを前記クライアント装置へ伝送するボリュームデータ伝送システムに適用されるクライアント装置であって、
伝送を要求するボリュームデータを選択するファイル選択部と、
前記選択したボリュームデータを前記サーバ装置から取得する際の方式として、予め定められた基準に基づいて、前記選択したボリュームデータのすべてを伝送するファイル伝送型画像伝送方式または前記選択したボリュームデータの一部を伝送する部分伝送型画像伝送方式のいずれか一方を選択する伝送プロトコル決定部と、
前記伝送プロトコル決定部が前記部分伝送型画像伝送方式を選択した場合、表示対象となるボリュームデータの伝送に要する時間を予測し、予測した時間内で伝送および表示可能な最大の解像度を決定する伝送要求ブロック決定部と、
前記伝送プロトコル決定部がファイル伝送型画像伝送方式を選択した場合は、前記選択したボリュームデータのすべてを伝送する旨の要求を前記サーバ装置に対して行なう一方、前記伝送プロトコル決定部が前記部分伝送型画像伝送方式を選択した場合は、前記決定された解像度を有する表示対象となるボリュームデータを伝送する旨の要求を前記サーバ装置に対して行なう伝送要求部と、を備え
前記伝送要求ブロック決定部は、前記選択したボリュームデータのうち、初期表示以降で必要なボリュームデータを、最低解像度で要求する決定を行なうことを特徴とするクライアント装置。
Client applied to a volume data transmission system in which a client device requests transmission of volume data recorded on a recording medium to a server device, and the server device transmits the requested volume data to the client device A device,
A file selector for selecting volume data to be transmitted;
As a method for acquiring the selected volume data from the server device, a file transmission type image transmission method for transmitting all of the selected volume data based on a predetermined standard or one of the selected volume data. A transmission protocol determination unit for selecting one of the partial transmission type image transmission methods for transmitting the unit;
When the transmission protocol determination unit selects the partial transmission type image transmission method, the transmission time predicts the time required to transmit the volume data to be displayed, and determines the maximum resolution that can be transmitted and displayed within the predicted time. A request block determination unit;
When the transmission protocol determination unit selects the file transmission type image transmission method, the transmission protocol determination unit requests the server device to transmit all of the selected volume data, while the transmission protocol determination unit performs the partial transmission. A transmission request unit for requesting the server device to transmit volume data to be displayed having the determined resolution when the selected type image transmission method is selected ,
The transmission request block determination unit determines a request for volume data required after initial display from the selected volume data at a minimum resolution .
前記伝送プロトコル決定部は、前記選択したボリュームデータのすべてを伝送するために要する時間を予測し、要求時間内に前記選択したボリュームデータのすべてを伝送可能である場合は、前記ファイル伝送型画像伝送方式を選択する一方、要求時間内に前記選択したボリュームデータのすべてを伝送可能でない場合は、前記部分伝送型画像伝送方式を選択することを特徴とする請求項1または請求項2記載のクライアント装置。 The transmission protocol determining unit predicts a time required to transmit all of the selected volume data, and when the selected volume data can be transmitted within a requested time, the file transmission type image transmission 3. The client device according to claim 1, wherein the partial transmission type image transmission method is selected when not all of the selected volume data can be transmitted within a requested time while the method is selected. . 前記伝送要求ブロック決定部は、前記選択したボリュームデータに関心領域(ROI:Region Of Interest)が設定されている場合は、前記関心領域に含まれるボリュームデータが、前記関心領域に含まれないボリュームデータよりも高解像度または高ビット精度で伝送されるように、伝送の階層を決定することを特徴とする請求項1から請求項3のいずれかに記載のクライアント装置。 When the region of interest (ROI) is set in the selected volume data, the transmission request block determination unit determines that the volume data included in the region of interest is not included in the region of interest. 4. The client device according to claim 1, wherein a transmission layer is determined so that transmission is performed with higher resolution or higher bit accuracy. 前記伝送要求ブロック決定部は、前記最低解像度のボリュームデータを要求した後、ユーザインタフェース部からの要求に応じて、バックグラウンドで前記最低解像度のボリュームデータと同じボリュームデータをより高い解像度で要求する決定を行なうことを特徴とする請求項2記載のクライアント装置。 The transmission request block determination unit requests the volume data having the lowest resolution after requesting the volume data having the lowest resolution and requests the same volume data as the volume data having the lowest resolution in the background in response to a request from the user interface unit. The client device according to claim 2, wherein: 前記伝送要求部は、前記サーバ装置との間で、前記選択したボリュームデータの送受信を行なった時間を測定し、
前記伝送要求ブロック決定部は、前記測定された時間に基づいて、表示対象となるボリュームデータの伝送に要する時間を予測することを特徴とする請求項1から請求項5のいずれかに記載のクライアント装置。
The transmission request unit measures a time when the selected volume data is transmitted to and received from the server device;
6. The client according to claim 1, wherein the transmission request block determination unit predicts a time required for transmitting the volume data to be displayed based on the measured time. apparatus.
請求項1から請求項6のいずれかに記載のクライアント装置からの要求に応じて、前記記録媒体からボリュームデータを読み出して、要求されたボリュームデータのすべてを伝送するファイル伝送型画像伝送方式または要求されたボリュームデータの一部を伝送する部分伝送型画像伝送方式のいずれか一方で、ボリュームデータのすべてまたは一部を前記クライアント装置へ伝送することを特徴とするサーバ装置。 7. A file transmission type image transmission method or request for reading volume data from the recording medium and transmitting all of the requested volume data in response to a request from the client device according to claim 1. A server apparatus that transmits all or part of volume data to the client apparatus in one of the partial transmission type image transmission systems for transmitting a part of the volume data. 請求項1から請求項6のいずれかに記載のクライアント装置と、
請求項7記載のサーバ装置と、から構成されることを特徴とするボリュームデータ伝送システム。
A client device according to any one of claims 1 to 6 ;
A volume data transmission system comprising the server device according to claim 7 .
JP2008089917A 2008-03-31 2008-03-31 Client device, server device, and volume data transmission system Expired - Fee Related JP5061306B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008089917A JP5061306B2 (en) 2008-03-31 2008-03-31 Client device, server device, and volume data transmission system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008089917A JP5061306B2 (en) 2008-03-31 2008-03-31 Client device, server device, and volume data transmission system

Publications (2)

Publication Number Publication Date
JP2009246634A JP2009246634A (en) 2009-10-22
JP5061306B2 true JP5061306B2 (en) 2012-10-31

Family

ID=41308076

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008089917A Expired - Fee Related JP5061306B2 (en) 2008-03-31 2008-03-31 Client device, server device, and volume data transmission system

Country Status (1)

Country Link
JP (1) JP5061306B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8446411B2 (en) * 2010-06-11 2013-05-21 Microsoft Corporation Adaptive image rendering and use of imposter

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3256298B2 (en) * 1992-11-19 2002-02-12 富士通株式会社 Image data encoding method and apparatus
US7581027B2 (en) * 2001-06-27 2009-08-25 Ricoh Co., Ltd. JPEG 2000 for efficent imaging in a client/server environment
JP2004140654A (en) * 2002-10-18 2004-05-13 Nec Engineering Ltd Method and system for image data transfer
JP2006094240A (en) * 2004-09-24 2006-04-06 Ricoh Co Ltd Image processing apparatus, image processing method, information recording medium, and computer program
JP4716949B2 (en) * 2005-09-02 2011-07-06 株式会社リコー Image processing apparatus and image processing method
US7996495B2 (en) * 2006-04-06 2011-08-09 General Electric Company Adaptive selection of image streaming mode

Also Published As

Publication number Publication date
JP2009246634A (en) 2009-10-22

Similar Documents

Publication Publication Date Title
JP4377103B2 (en) Image processing for JPEG2000 in a server client environment
JP4709493B2 (en) Method and product for communicating compressed digital images
CA2584431C (en) Adaptive selection of image streaming mode
US9749713B2 (en) Budget encoding
CN101401434B (en) Method and device for changing the temporal frequency of a sequence of video images
JP7024106B2 (en) High speed DST-7
US8588292B2 (en) Methods and devices for coding and decoding an image sequence represented with the aid of motion tubes, corresponding computer program products and signal
US9258530B2 (en) Method for accessing a spatio-temporal part of a compressed video sequence using decomposed access request
JP2004274758A (en) Method and apparatus for converting jpp-stream into jpeg-2000 code stream
EP2337306A1 (en) Transmitting apparatus and method, and receiving apparatus and method
JP2004274759A (en) Method and apparatus for communicating compressed digital images with limited access and server / client handover
KR20230137459A (en) Point cloud encoding method and apparatus, point cloud decoding method and apparatus, and computer-readable media, and electronic devices
JP2012209673A (en) Information processing apparatus, information processing method, image provision system, image provision method, and program
CN108696505A (en) Video distribution apparatus, video reception apparatus, method of video distribution and recording medium
JP5061306B2 (en) Client device, server device, and volume data transmission system
JP6594966B2 (en) Method and apparatus for encoding and decoding a video signal using an improved prediction filter
JP5739079B1 (en) Movie compression apparatus and movie compression / decompression system
JP4756665B2 (en) Image compression apparatus, restoration apparatus, compression method, restoration method, and program
JP4111367B2 (en) Hierarchical encoding method and hierarchical transmission decoding method of 3D image
JP3759538B2 (en) Image signal processing method and image signal transmission apparatus
JPH0879537A (en) Picture information encoding processor and picture information communication equipment
Nandyal DCT BASED AN EFFICIENT VIDEO COMPRESSION TECHNIQUE FOR ENDOSCOPIC IMAGE ANALYSIS
CN116489410A (en) A method for processing cloud VR video streams, edge-cloud collaboration system, and storage medium
Müller et al. An Efficient Prefetching Strategy for Remote Browsing of JPEG 2000 Image Sequences Juan Pablo García Ortiz, Vicente González Ruiz, Inmaculada García
JP2019197973A (en) Image processing device, control method thereof, program, and image processing system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101029

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20101029

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120206

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120403

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120601

TRDD Decision of grant or rejection written
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20120618

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120619

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20120618

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120626

R150 Certificate of patent or registration of utility model

Ref document number: 5061306

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150817

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees