JP2009175692A - 計測用内視鏡装置およびプログラム - Google Patents
計測用内視鏡装置およびプログラム Download PDFInfo
- Publication number
- JP2009175692A JP2009175692A JP2008281474A JP2008281474A JP2009175692A JP 2009175692 A JP2009175692 A JP 2009175692A JP 2008281474 A JP2008281474 A JP 2008281474A JP 2008281474 A JP2008281474 A JP 2008281474A JP 2009175692 A JP2009175692 A JP 2009175692A
- Authority
- JP
- Japan
- Prior art keywords
- measurement
- image
- measurement result
- point
- determination
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000005259 measurement Methods 0.000 claims abstract description 345
- 238000000034 method Methods 0.000 claims abstract description 188
- 238000012545 processing Methods 0.000 claims abstract description 57
- 238000003384 imaging method Methods 0.000 claims abstract description 43
- 238000012937 correction Methods 0.000 claims description 12
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 claims description 7
- 238000005314 correlation function Methods 0.000 claims description 3
- 238000006243 chemical reaction Methods 0.000 abstract description 2
- 230000003287 optical effect Effects 0.000 description 77
- 238000012790 confirmation Methods 0.000 description 33
- 238000004458 analytical method Methods 0.000 description 20
- 238000003780 insertion Methods 0.000 description 10
- 230000037431 insertion Effects 0.000 description 10
- 230000005540 biological transmission Effects 0.000 description 8
- 238000005452 bending Methods 0.000 description 4
- 239000002131 composite material Substances 0.000 description 4
- 239000006059 cover glass Substances 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 4
- 230000002093 peripheral effect Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 238000005260 corrosion Methods 0.000 description 1
- 230000007797 corrosion Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000004141 dimensional analysis Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 238000007789 sealing Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Landscapes
- Automatic Focus Adjustment (AREA)
- Endoscopes (AREA)
- Measurement Of Optical Distance (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
Abstract
【解決手段】内視鏡内の撮像素子28は被写体像を光電変換し撮像信号を生成する。CCU9は撮像信号を処理し画像データを生成する。CPU18は、画像データを用いて三角測量の原理による計測を実行する。映像信号処理回路12、計測結果を表示するための表示信号を生成する。また、CPU18は計測結果の信頼性を判定し、判定結果に応じた制御を実行する。
【選択図】図2
Description
(a2)像伝送光学系の幾何学歪み補正テーブル
(b)左右の結像光学系それぞれの焦点距離
(c)左右の結像光学系の主点間の距離
(d)左右の結像光学系それぞれの画像上での光軸位置座標
(e)左右の結像光学系それぞれの画像がマスタの撮像素子上に結像するときの位置情報
(2)計測用内視鏡装置1を用いて白い被写体を撮像する。
(3)上記(e)のデータおよび上記(2)の撮像データを用いて、光学アダプタ46と内視鏡2との組み合わせによる画像位置のずれを求める。
(4)上記(3)のデータおよび上記(1)のデータを用いて、内視鏡2に対する幾何学的歪み補正を行う変換テーブルを作成する。
(5)内視鏡2にて被写体である被計測物を撮像し、画像を取り込む。
(6)上記の取り込んだ画像を上記(3)で作成したテーブルを基に座標変換する。
(7)座標変換された画像を基に、上記(2)の撮像データのマッチングにより任意の点の3次元座標を求める。
(8)上記3次元座標を基に各種寸法計測を行う。
次に、計測処理についての第1の動作例として2点間距離計測時の動作を説明する。図6に示すように、まず、第1計測点が設定される(ステップS100)。このとき、モニタ4の表示画面を見ながらユーザが操作部6を操作し、被写体上の第1計測点を入力する。CPU18は、操作部6から出力され、RS−232C I/F17を介して入力される信号に基づいて、第1計測点の画像内位置(2次元座標)を計算する。以上がステップS100の処理である。
x/xR={y−(L/2)}/{yR−(L/2)}=z/(−f) ・・・(1)
また、直線QL−OLから(2)式が成立する。
x/xL={y+(L/2)}/{yL+(L/2)}=z/(−f) ・・・(2)
この式をx,y,zについて解けば、点Pの三次元座標が得られる。これにより、内視鏡2の撮像面から被写体までの距離(物体距離)が求まる。実際は像伝送光学系27の効果により、左右2つの像の光線は折り曲げられて右結像面28Rと左結像面28Lの間隔はもっと小さくなるが、ここでは図を簡略にするために像伝送光学系27の効果を省いて図示している。
k=1ではパターンエリアを35×35(ピクセル)、
k=2ではパターンエリアを23×23(ピクセル)、
k=3ではパターンエリアを11×11(ピクセル)、
とし、値kを小から大へ切り換えて領域を大から小へ絞り込んでいき、対応点検出の精度を上げるようにする。
M(u,v)={ΣΣS(g(x+u,y+v)−g’)(t(x,y)−t’)}/{ΣΣS(g(x+u,y+v)−g’)2×ΣΣS(t(x,y)−t’)2}1/2 ・・・(3)
(lx−L_WIDTH/2,ly−L_HEIGHT/2)
となる。また、右画像66の取得範囲RAREAは、図11に示すように、エピポーラライン77の近傍の画像である。
(esx,esy)=(rsx,ly−oly+ory)
となる。また、エピポーララインの終点EEの座標(eex,eey)は、取得幅をR_WIDTHとすると、
(eex,eey)=(rsx+R_WIDTH,ly−oly+ory)
となる。
(esx,esy−R_HEIGHT/2)
となる。なお、エピポーララインの求め方は、上記に限られるものではなく、一般的なステレオビジョンの分野で公知である他の求め方によってもよい。
次に、計測処理についての第2の動作例として物体距離計測時の動作を説明する。図12に示すように、まず、計測点が設定され(ステップS400)、3次元座標解析処理が実行されて計測点の3次元座標が計算される(ステップS410)。3次元座標解析処理は第1の動作例と同様である。続いて、CPU18は、マッチング確認用フラグの値に基づいて、マッチング処理が成功したか否かを判定する(ステップS420)。マッチング確認用フラグの値が1であった場合には、ステップS410の一部として実行されるマッチング処理が成功していることになり、処理がステップS430に進む。また、マッチング確認用フラグが0であった場合には、ステップS410の一部として実行されるマッチング処理が失敗していることになり、処理がステップS440に進む。
次に、計測処理についての第3の動作例を説明する。以下では、第1の動作例で示した2点間距離計測時の動作を説明するが、第2の動作例で示した物体距離計測時の動作も同様である。図14は第3の動作例の処理を示している。図6に示した処理と同一の処理には同一の符号を付与している。図14に示す処理では、ステップS140でマッチング確認用フラグの値を確認した結果、2種類のマッチング確認用フラグの少なくとも一方の値が0であった場合には、CPU18は、計測点を修正する修正モードに移行する制御を実行する(ステップS500)。
次に、計測処理についての第4の動作例を説明する。以下では、第1の動作例で示した2点間距離計測時の動作を説明するが、第2の動作例で示した物体距離計測時の動作も同様である。第4の動作例では、マッチング処理の信頼性に関する判定(以下、マッチング信頼性判定と記載)を行うモードと判定を行わないモードとを選択することが可能となっている。計測処理の開始前に2つのモードのいずれかが予め設定される。あるいは計測処理の開始直後に設定を行ってもよい。
次に、計測処理についての第5の動作例を説明する。上記の動作例の記載では、マッチング処理の結果が信頼できないと判定された場合に計測結果などを表示する順番については規定されていない。しかし、ユーザの作業効率を向上するためには、マッチング処理の失敗を示す計測結果をより早く表示することが望ましい。そこで、第5の動作例では、マッチング処理の結果が信頼できないと判定された場合に、計測結果が他よりも先に表示される。以下では、第1の動作例で示した2点間距離計測時の動作を説明するが、第2の動作例で示した物体距離計測時の動作も同様である。
次に、計測処理についての第6の動作例を説明する。以下では、第2の動作例で示した物体距離計測時の動作を説明するが、第1の動作例で示した2点間距離計測時の動作も同様である。第6の動作例では、3次元座標解析処理の前にマッチング信頼性判定が行われる。
次に、計測処理についての第7の動作例を説明する。以下では、第2の動作例で示した物体距離計測時の動作を説明するが、第1の動作例で示した2点間距離計測時の動作も同様である。第7の動作例では、ユーザが計測点の位置を指定するためのポインタが移動している間、マッチング信頼性判定が行われる。
Claims (18)
- 被写体像を光電変換し撮像信号を生成する内視鏡と、
前記撮像信号を処理し画像データを生成する撮像信号処理手段と、
前記画像データを用いて三角測量の原理による計測を実行する計測手段と、
計測結果を表示するための表示信号を生成する表示信号生成手段と、
前記画像データに基づいて前記計測結果の信頼性を判定する判定手段と、
判定結果に応じた制御を実行する制御手段と、
を備えたことを特徴とする計測用内視鏡装置。 - 前記制御手段は、前記判定結果に応じて前記計測結果の表示形態を制御することを特徴とする請求項1に記載の計測用内視鏡装置。
- 前記制御手段は、被写体上の計測位置から前記内視鏡の結像面までの距離の値に応じて前記計測結果の表示形態を制御することを特徴とする請求項2に記載の計測用内視鏡装置。
- 前記制御手段は、同一被写体に関する複数の被写体像の相関関数の値に応じて前記計測結果の表示形態を制御することを特徴とする請求項2または請求項3に記載の計測用内視鏡装置。
- 前記制御手段は、同一被写体に関する複数の被写体像のテクスチャのコントラスト値に応じて前記計測結果の表示形態を制御することを特徴とする請求項2〜請求項4のいずれかに記載の計測用内視鏡装置。
- 前記制御手段は、同一被写体に関する一の被写体像における計測点に対応した他の被写体像における対応点のエピポーララインからのずれ量に応じて前記計測結果の表示形態を制御することを特徴とする請求項2〜請求項5のいずれかに記載の計測用内視鏡装置。
- 前記制御手段は、前記計測結果の信頼性が低いと判定した場合に、同一被写体に関する一の被写体像における計測点に対応した他の被写体像における対応点を修正する修正モードに移行する制御を実行することを特徴とする請求項1〜請求項6のいずれかに記載の計測用内視鏡装置。
- 前記計測手段は、第1の被写体像上の計測点と、第2の被写体像上において前記計測点に対応した対応点とに基づいて前記計測を実行し、
前記制御手段は、前記計測結果の信頼性が低いと判定した場合に、前記対応点を含む領域よりも先に前記計測結果を表示する制御を実行する
ことを特徴とする請求項1〜請求項7のいずれかに記載の計測用内視鏡装置。 - 前記判定手段は、前記計測手段が前記計測を実行する前に、前記画像データに基づいて前記計測結果の信頼性を判定することを特徴とする請求項1〜請求項8のいずれかに記載の計測用内視鏡装置。
- 前記判定手段は、前記計測手段が前記計測を実行する前に、前記画像データに基づいて前記計測結果の信頼性を判定する第1の判定処理を実行し、前記計測手段が前記計測を実行した後に、前記画像データに基づいて前記計測結果の信頼性を判定する第2の判定処理を実行することを特徴とする請求項1〜請求項8のいずれかに記載の計測用内視鏡装置。
- 被写体像上の計測点の位置を示すポインタの移動指示および前記計測の開始指示をユーザが入力するための入力手段をさらに備え、
前記表示信号生成手段は、前記画像データに基づく画像、前記計測結果、および前記ポインタを表示するための表示信号を生成し、
前記判定手段は、前記入力手段に前記ポインタの移動指示が入力されてから前記計測の開始指示が入力されるまでの間に、前記計測点の位置における前記計測結果の信頼性を判定する
ことを特徴とする請求項1〜請求項8のいずれかに記載の計測用内視鏡装置。 - 前記表示信号生成手段は、前記画像データに基づく画像および前記計測結果を表示するための表示信号を生成し、
前記制御手段は、前記判定結果を画像上の計測可能領域の外側に表示する制御を実行する
ことを特徴とする請求項1〜請求項11のいずれかに記載の計測用内視鏡装置。 - 被写体像を光電変換し撮像信号を生成する内視鏡と、
前記撮像信号を処理し画像データを生成する撮像信号処理手段と、
前記画像データを用いて三角測量の原理による計測を実行する計測手段と、
計測結果を表示するための表示信号を生成する表示信号生成手段と、
前記画像データに基づいて前記計測結果の信頼性を判定する判定手段と、
判定結果に応じた制御を実行する制御手段と、
として計測用内視鏡装置を機能させるためのプログラム。 - 前記計測手段は、第1の被写体像上の計測点と、第2の被写体像上において前記計測点に対応した対応点とに基づいて前記計測を実行し、
前記制御手段は、前記計測結果の信頼性が低いと判定した場合に、前記対応点を含む領域よりも先に前記計測結果を表示する制御を実行する
ことを特徴とする請求項13に記載のプログラム。 - 前記判定手段は、前記計測手段が前記計測を実行する前に、前記画像データに基づいて前記計測結果の信頼性を判定することを特徴とする請求項13または請求項14に記載のプログラム。
- 前記判定手段は、前記計測手段が前記計測を実行する前に、前記画像データに基づいて前記計測結果の信頼性を判定する第1の判定処理を実行し、前記計測手段が前記計測を実行した後に、前記画像データに基づいて前記計測結果の信頼性を判定する第2の判定処理を実行することを特徴とする請求項13〜請求項15のいずれかに記載のプログラム。
- 被写体像上の計測点の位置を示すポインタの移動指示および前記計測の開始指示をユーザが入力するための入力手段として前記計測用内視鏡装置を機能させ、
前記表示信号生成手段は、前記画像データに基づく画像、前記計測結果、および前記ポインタを表示するための表示信号を生成し、
前記判定手段は、前記入力手段に前記ポインタの移動指示が入力されてから前記計測の開始指示が入力されるまでの間に、前記計測点の位置における前記計測結果の信頼性を判定する
ことを特徴とする請求項13〜請求項15のいずれかに記載のプログラム。 - 前記表示信号生成手段は、前記画像データに基づく画像および前記計測結果を表示するための表示信号を生成し、
前記制御手段は、前記判定結果を画像上の計測可能領域の外側に表示する制御を実行する
ことを特徴とする請求項13〜請求項17のいずれかに記載のプログラム。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2008281474A JP5231173B2 (ja) | 2007-12-27 | 2008-10-31 | 計測用内視鏡装置およびプログラム |
| US12/340,891 US8248465B2 (en) | 2007-12-27 | 2008-12-22 | Measuring endoscope apparatus and program |
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2007338002 | 2007-12-27 | ||
| JP2007338002 | 2007-12-27 | ||
| JP2008281474A JP5231173B2 (ja) | 2007-12-27 | 2008-10-31 | 計測用内視鏡装置およびプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2009175692A true JP2009175692A (ja) | 2009-08-06 |
| JP5231173B2 JP5231173B2 (ja) | 2013-07-10 |
Family
ID=41030795
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2008281474A Expired - Fee Related JP5231173B2 (ja) | 2007-12-27 | 2008-10-31 | 計測用内視鏡装置およびプログラム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5231173B2 (ja) |
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2011182977A (ja) * | 2010-03-09 | 2011-09-22 | Olympus Corp | 内視鏡装置およびプログラム |
| JP2012163598A (ja) * | 2011-02-03 | 2012-08-30 | Ricoh Co Ltd | 撮像装置および撮像方法 |
| JP2014026217A (ja) * | 2012-07-30 | 2014-02-06 | Olympus Corp | 内視鏡装置およびプログラム |
| JP2015002788A (ja) * | 2013-06-19 | 2015-01-08 | 株式会社フジクラ | 撮像モジュール、測距モジュール、絶縁チューブ付き撮像モジュール、レンズ付き撮像モジュール、および内視鏡 |
| JP2016186662A (ja) * | 2016-07-20 | 2016-10-27 | オリンパス株式会社 | 内視鏡装置およびプログラム |
| WO2017209153A1 (ja) * | 2016-05-30 | 2017-12-07 | シャープ株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
| WO2018061925A1 (ja) * | 2016-09-30 | 2018-04-05 | 日本電気株式会社 | 情報処理装置、長さ測定システム、長さ測定方法およびプログラム記憶媒体 |
| WO2018061927A1 (ja) * | 2016-09-30 | 2018-04-05 | 日本電気株式会社 | 情報処理装置、情報処理方法およびプログラム記憶媒体 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2001075019A (ja) * | 1999-09-01 | 2001-03-23 | Olympus Optical Co Ltd | 内視鏡装置 |
| JP2006136706A (ja) * | 2004-10-12 | 2006-06-01 | Olympus Corp | 計測用内視鏡装置及び内視鏡用プログラム |
-
2008
- 2008-10-31 JP JP2008281474A patent/JP5231173B2/ja not_active Expired - Fee Related
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2001075019A (ja) * | 1999-09-01 | 2001-03-23 | Olympus Optical Co Ltd | 内視鏡装置 |
| JP2006136706A (ja) * | 2004-10-12 | 2006-06-01 | Olympus Corp | 計測用内視鏡装置及び内視鏡用プログラム |
Cited By (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2011182977A (ja) * | 2010-03-09 | 2011-09-22 | Olympus Corp | 内視鏡装置およびプログラム |
| US8913110B2 (en) | 2010-03-09 | 2014-12-16 | Olympus Corporation | Endoscope apparatus and measurement method |
| JP2012163598A (ja) * | 2011-02-03 | 2012-08-30 | Ricoh Co Ltd | 撮像装置および撮像方法 |
| JP2014026217A (ja) * | 2012-07-30 | 2014-02-06 | Olympus Corp | 内視鏡装置およびプログラム |
| JP2015002788A (ja) * | 2013-06-19 | 2015-01-08 | 株式会社フジクラ | 撮像モジュール、測距モジュール、絶縁チューブ付き撮像モジュール、レンズ付き撮像モジュール、および内視鏡 |
| WO2017209153A1 (ja) * | 2016-05-30 | 2017-12-07 | シャープ株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
| JPWO2017209153A1 (ja) * | 2016-05-30 | 2019-04-04 | シャープ株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
| US10922841B2 (en) | 2016-05-30 | 2021-02-16 | Sharp Kabushiki Kaisha | Image processing device, image processing method, and image processing program |
| JP2016186662A (ja) * | 2016-07-20 | 2016-10-27 | オリンパス株式会社 | 内視鏡装置およびプログラム |
| WO2018061925A1 (ja) * | 2016-09-30 | 2018-04-05 | 日本電気株式会社 | 情報処理装置、長さ測定システム、長さ測定方法およびプログラム記憶媒体 |
| WO2018061927A1 (ja) * | 2016-09-30 | 2018-04-05 | 日本電気株式会社 | 情報処理装置、情報処理方法およびプログラム記憶媒体 |
| JPWO2018061927A1 (ja) * | 2016-09-30 | 2019-06-24 | 日本電気株式会社 | 情報処理装置、情報処理方法およびプログラム記憶媒体 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP5231173B2 (ja) | 2013-07-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US8248465B2 (en) | Measuring endoscope apparatus and program | |
| JP5231173B2 (ja) | 計測用内視鏡装置およびプログラム | |
| US8004560B2 (en) | Endoscope apparatus | |
| US7443488B2 (en) | Endoscope apparatus, method of operating the endoscope apparatus, and program to be executed to implement the method | |
| US8913110B2 (en) | Endoscope apparatus and measurement method | |
| US11669997B2 (en) | Image processing system, image processing method, and storage medium | |
| JP4873794B2 (ja) | 画像処理計測装置及び計測内視鏡装置 | |
| JP2009258273A (ja) | 計測用内視鏡装置およびプログラム | |
| US20090043161A1 (en) | Measuring endoscope apparatus, program and recording medium | |
| JP7116925B2 (ja) | 観察装置の作動方法、観察装置、およびプログラム | |
| JP5186286B2 (ja) | 計測用内視鏡装置およびプログラム | |
| US10432916B2 (en) | Measurement apparatus and operation method of measurement apparatus | |
| CN110858397A (zh) | 测量装置、测量装置的工作方法以及存储介质 | |
| JP5976436B2 (ja) | 内視鏡装置およびプログラム | |
| US8372002B2 (en) | Endoscope apparatus | |
| JP2006325741A (ja) | 計測用内視鏡装置及び内視鏡用プログラム | |
| JP5153381B2 (ja) | 内視鏡装置 | |
| JP6081209B2 (ja) | 内視鏡装置およびプログラム | |
| JP2011170276A (ja) | 内視鏡装置およびプログラム | |
| JP6400767B2 (ja) | 計測内視鏡装置 | |
| JP5791989B2 (ja) | 内視鏡装置およびプログラム | |
| JP5361517B2 (ja) | 内視鏡装置および計測方法 | |
| JP6426215B2 (ja) | 内視鏡装置およびプログラム | |
| JP2016186662A (ja) | 内視鏡装置およびプログラム | |
| US20120107780A1 (en) | Inspection apparatus and inspection method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111024 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120316 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20121109 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121218 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130215 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20130218 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130312 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130321 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160329 Year of fee payment: 3 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 5231173 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| LAPS | Cancellation because of no payment of annual fees |