[go: up one dir, main page]

JP5057665B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP5057665B2
JP5057665B2 JP2005312521A JP2005312521A JP5057665B2 JP 5057665 B2 JP5057665 B2 JP 5057665B2 JP 2005312521 A JP2005312521 A JP 2005312521A JP 2005312521 A JP2005312521 A JP 2005312521A JP 5057665 B2 JP5057665 B2 JP 5057665B2
Authority
JP
Japan
Prior art keywords
image data
processing
pixel
data
partial area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005312521A
Other languages
English (en)
Other versions
JP2007124198A (ja
Inventor
史紀 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nitto Optical Co Ltd
Original Assignee
Nitto Optical Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nitto Optical Co Ltd filed Critical Nitto Optical Co Ltd
Priority to JP2005312521A priority Critical patent/JP5057665B2/ja
Publication of JP2007124198A publication Critical patent/JP2007124198A/ja
Application granted granted Critical
Publication of JP5057665B2 publication Critical patent/JP5057665B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Studio Devices (AREA)

Description

本発明は、画像処理装置に関する。
従来から、撮像部にCCD(Charge Cupied Devices)などの撮像素子を使用するカメラにより撮影を行った撮影画像は、撮影時の手ぶれ、撮影光学系の各種の収差、あるいは撮影光学系を構成するレンズの歪み等がある場合は、これが要因となり、撮影画像が劣化することが知られている。
このような撮影画像の劣化を防ぐ手段として、撮影画像の劣化の要因のうち、撮影時の手ぶれに関しては、レンズを動かす方式と撮影した画像を回路処理する方式とが知られている。たとえば、レンズを動かす方式としては、カメラの手ぶれを検出し、撮影光学系の中の所定のレンズを、検出した手ぶれによるカメラの移動に合わせて動かすことにより、撮像素子上における結像位置の移動を抑制する方式が知られている(特許文献1参照)。
また、回路処理する方式としては、カメラの撮影光学系の光軸の変動を角加速度センサ等により検出し、検出した角速度等から撮影時のぼけ状態を表す伝達関数を取得し、撮影画像に対し、取得した伝達関数の逆変換を行い、劣化のない画像を復元する方式が知られている(特許文献2参照)。
特開平6−317824号公報(要約書参照) 特開平11−24122号公報(要約書参照)
特許文献1記載の手ぶれ補正を採用したカメラは、モータ等のレンズを駆動するハードウェアのスペースが必要となり大型化してしまう。また、そのようなハードウェア自体やそのハードウェアを動かす駆動回路が必要となり、コストアップとなってしまう。
また、特許文献2記載の手ぶれ補正の場合は、上述した問題点はなくなるものの、撮影画像のコントラストが低い場合には、伝達関数が不安定になり、結果的に画像の復元を行えないという問題がある。
そこで、本発明の課題は、撮影画像のコントラストが低くても、画像の復元を行うことができる画像処理装置を提供することである。
上記課題を解決するために、本発明の画像処理装置は、画像を処理する処理部を有する画像処理装置において、処理部は、互いに異なる複数の処理用画像データであって、これら各処理用画像データの互いに同じ画素位置にある画素のいずれか1つの画素画像データを、復元対象画像データの同じ画素位置の画素の画素画像データと同じとし、各処理用画像データの画素のうち、復元対象画像データの画素画像データを有しない画素の画素画像データを、コントラスト生成用画素画像データとし、復元対象画像データの画素画像データを有する画素とコントラスト生成用画素画像データを有する画素が交互に配列される処理用画像データを生成し、処理用画像データのそれぞれについて処理用原画像データを生成する処理用原画像データ生成処理を行い、処理用原画像データから、原画像データに近似する復元原画像データを生成する原画像データ復元処理を行い、コントラスト生成用画素画像データは、このコントラスト生成用画素画像データと隣接する画素の画素画像データとの輝度差が高くなるように設定される画素画像データであり、処理用原画像データ生成処理は、処理用画像データと、任意の画像のデータを変化要因情報のデータにより変化させて生成した比較用画像データとを比較し、得られた差分のデータを変化要因情報のデータに基づく配分比で任意の画像のデータに配分することで処理用復元画像データを生成し、この処理用復元画像データを任意の画像のデータの代わりに使用し、同様の処理を差分のデータが所定値より小さくなるまで繰り返すことで、処理用復元画像データを処理用原画像データとして生成する処理であり、原画像データ復元処理は、各処理用画像データについての処理用原画像データ同士を各画素が重なるように加算し、各画素についてコントラスト生成用画素画像データについての処理用原画像データを減ずる処理であることとする。
この発明によれば、処理用画像データがコントラストの高い画像データとなるので、復元対象画像のコントラストが低くても、画像の復元を行うことができる。
また、他の発明は、上述の発明に加え、処理用原画像データ生成処理は、比較用画像データを、画像変化の要因となる変化要因情報のデータにより任意の画像のデータを変化させて生成する処理を行うこととする。
この発明によれば、画像変化の要因情報を利用して、所定のデータを生成することにより処理用復元原画像データを生成しているので、ノイズやブレ情報誤差等に弱い伝達関数を用いることなく、処理用原画像データを求めることができる。
また、他の発明は、上述の発明に加え、複数の処理用画像データは、2つの処理用画像データであり、2つの各処理用画像データは、復元対象画像データの画素画像データを有する画素とコントラスト生成用画素画像データを有する画素とは、1画素毎に交互に配列されることとする。
このように構成することにより、各画素データの間に、コントラスト生成画素画像データが配置されることになり、処理用画像データをよりコントラストの高い画像データとすることができる。
上記課題を解決するために、本発明の画像処理装置は、画像を処理する処理部を有する画像処理装置において、処理部は、復元対象画像データの一部の領域に対して生成する互いに異なる複数の一部領域処理用画像データであって、これら各一部領域処理用画像データの互いに同じ画素位置にある画素のいずれか1つの画素画像データを、復元対象画像データの一部の領域内の同じ画素位置の画素の画素画像データと同じとし、各一部領域処理用画像データの画素のうち、復元対象画像データの画素画像データを有しない画素の画素画像データを、コントラスト生成用画素画像データとし、復元対象画像データの画素画像データを有する画素とコントラスト生成用画素画像データを有する画素が交互に配列される一部領域処理用画像データを生成し、一部領域処理用画像データのそれぞれについて一部領域処理用原画像データを生成する一部領域処理用原画像データ生成処理を行い、一部領域処理用画像データと一部領域処理用原画像データとから、一部領域処理用画像データと一部領域処理用原画像データの間の一部領域伝達関数を求め、この一部領域伝達関数を利用して復元対象画像データの復元原画像データを生成する原画像データ復元処理を行い、コントラスト生成用画素画像データは、このコントラスト生成用画素画像データと隣接する画素の画素画像データとの輝度差が高くなるように設定される画素画像データであり、一部領域処理用原画像データ生成処理は、一部領域処理用画像データと、任意の画像のデータを変化要因情報のデータにより変化させて生成した比較用画像データとを比較し、得られた差分のデータを変化要因情報のデータに基づく配分比で任意の画像のデータに配分することで一部領域処理用復元画像データを生成し、この一部領域処理用復元画像データを任意の画像のデータの代わりに使用し、同様の処理を差分のデータが所定値より小さくなるまで繰り返すことで、一部領域処理用復元画像データを一部領域処理用原画像データとして生成する処理であることとする。
この発明によれば、一部の領域についての処理用原画像データを求めることとしているので、処理速度を高速にすることができる。
また、他の発明は、上述の発明に加え、一部領域処理用原画像データ生成処理は、比較用画像データを、画像変化の要因となる変化要因情報のデータにより任意の画像のデータを変化させて生成する処理を行うこととする。
この発明によれば、画像変化の要因情報を利用して、所定のデータを生成することにより一部領域処理用復元原画像データを生成しているので、ノイズやブレ情報誤差等に弱い伝達関数を用いることなく、一部領域処理用原画像データを求めることができる。
また、他の発明は、上述の発明に加え、複数の一部領域処理用画像データは、2つの一部領域処理用画像データであり、2つの各一部領域処理用画像データは、復元対象画像データの画素画像データを有する画素とコントラスト生成用画素画像データを有する画素とは、1画素毎に交互に配列されることとする。
このように構成することにより、各画素データの間に、コントラスト生成画素画像データが配置されることになり、処理用画像データをよりコントラストの高い画像データとすることができる。
また、他の発明は、上述の発明に加え、コントラスト生成画素画像データは、輝度が0または高輝度の画像データであることとする。
このように構成することにより、コントラスト生成画素画像データを、輝度が0または高輝度の画像データとすることにより、複数の画像データをコントラストの高い画像データとすることができる。
本発明によれば、復元対象画像のコントラストが低くても、画像の復元を行うことができる。
以下、本発明の第1の実施の形態に係る画像処理装置1について図を参照しながら説明する。なお、この画像処理装置1は、撮像部にCCDを使用した民生用のいわゆるデジタルカメラとしているが、撮像部にCCD等の撮像素子を用いる監視用カメラ、テレビ用カメラ用、内視鏡用カメラ等、他の用途のカメラとしたり、顕微鏡用、双眼鏡用、さらにはNMR撮影用等の画像診断装置等、カメラ以外の機器にも適用できる。
画像処理装置1は、人物等の被写体を撮影する撮像部2と、その撮像部2を駆動する制御系部3と、撮像部2で撮影された画像を処理する処理部4と、を有している。また、この実施の形態に係る画像処理装置1は、さらに処理部4で処理された画像を記録する記録部5と、角速度センサ等からなり、画像劣化等の変化の要因となる変化要因情報を検知する検出部6と、画像劣化等を生じさせる既知の変化要因情報を保存する要因情報保存部7を有する。
撮像部2は、レンズを有する撮影光学系やレンズを通過した光を電気信号に変換するCCDやC−MOS(Compiementary Metai Oxide Semiconductor)等の撮像素子を備える部分である。制御系部3は、撮像部2,処理部4、記録部5、検出部6および要因情報保存部7等、画像処理装置1内の各部を制御するものである。
処理部4は、画像処理プロセサで構成されており、ASIC(Appiication Specific Integrated Circuit)のようなハードウェアで構成されている。この処理部4は図示外の記録部を備え、この記録部に後述する処理用画像データにおける虚数部の高周波成分を有する画像データや、比較用画像データを生成する際の元となる任意の画像の画像データが保存されている。処理部4は、ASICのようなハードウェアとして構成されるのではなく、ソフトウェアで処理する構成としても良い。記録部5は、半導体メモリで構成されているが、ハードディスクドライブ等の磁気記録手段や、DVD(Digitai Versatiie Disk)等を使用する光記録手段等を採用しても良い。
検出部6は、図2に示すように、画像処理装置1の光軸であるZ軸に対して垂直方向となるX軸、Y軸の回りの速度を検出する2つの角速度センサを備えるものである。ところで、カメラで撮影する際の手ぶれは、X方向、Y方向、Z方向の各方向への移動やZ軸回りの回動も生ずるが、各変動により最も大きな影響を受けるのは、Y軸回りの回転とX軸回りの回転である。これら2つの変動は、ほんのわずかに変動しただけで、その撮影された画像は大きくぼける。このため、この実施の形態では、図2のX軸回りとY軸回りの2つの角速度センサのみを配置している。しかし、より完全を期すためZ軸回りの角速度センサをさらに付加したり、X方向やY方向への移動を検出するセンサを付加しても良い。また、使用するセンサとしては、角速度センサではなく、角加速度センサとしても良い。
要因情報保存部7は、既知の劣化要因情報などの変化要因情報、たとえば撮影光学系の収差等を保存しておく記録部である。なお、この実施の形態では、要因情報保存部7には、撮影光学系の収差やレンズのひずみの情報が保存されているが、後述する手ぶれによる画像の劣化を補正する際にはそれらの情報は、利用していない。
次に、以上のように構成された画像処理装置1の処理部4の処理方法について説明する。
処理部4は、画像の復元を最適化問題として扱うことにより復元画像を求める処理手法を有している。そこで、先ず、この処理手法について説明する。
画像の復元を最適化問題として扱うということは、「(1)入力に対する出力は、一意に決まる。」、「(2)出力が同じであれば、入力は同じである。」、「(3)出力が同じになるように、入力を更新しながら反復処理することにより、解を収束させていく。」、という3の条件を前提に、画像の復元を行うことである。
すなわち、図3(A)に示すように、原画像データ「img」が画像を変化させる要因となる変化要因情報データ「g」により変化させられて復元対象画像データとしての撮影画像データ「img’」(復元の対象の画像データ)に変化すると考えると、任意の画像データ「i」を変化要因情報データ「g」により変化させた画像データ「i’」が、撮影画像データ「img’」に近似するように、画像データ「i」を「i0+n」(nは、1以上の整数)として反復して更新する。すなわち、画像データ「i0+n」が変化要因情報データ「g」により変化した画像データ「i0+n’」が、撮影画像データ「img’」に近似するような画像データ「i0+n」を生成する(求める)ことができれば、図3(B)に示すように、画像データ「i’(=i0+n’)」の生成の元データとなる画像データ「i(=i0+n)」は、変化前の原画像データ「img」に近似した復元された画像であると言える。
また、復元の対象である画像データ「img’」から復元画像の画像データ「i(=i0+n)」への伝達関数「G」を、G=i0+n/img’として求めることができる。
なお、原画像データ「img」は、撮影画像データ「img’」の元となった原画像の画像データである。つまり、撮影画像データ「img’」が変化する前の画像、または正しく撮影されたなら得られたはずの本来の画像のことであり、例えば、撮影操作時に手ぶれ等による画像の劣化がない状態で撮影したと仮定したときの撮影画像のデータである。
上記の基本的な手法について、図4から図12に基づいてさらに詳しく説明する。
図4中、「i」は、処理部4の記録部に予め保存されている任意の初期画像データである。「g」は、検出部6で検出された変化要因情報(劣化要因情報(点像関数))のデータであり、処理部4の記録部に保存されるものである。「i’」は、初期画像データ「i」が変化要因情報データ「g」により変化した比較用画像データである。「img’」は、復元の対象となる変化した画像の画像データである。ここでは、撮像部2に撮像された撮影画像データとする。
「δ」は、撮影画像データ「img’」と、比較用画像データ「i’」との差分のデータである。「h」は、変化要因情報データ「g」に基づく配分比を表すフィードバック関数である。「i0+n」(nは、1以上の整数)は、初期画像データ「i」に、差分のデータδを配分比「h」に従って配分して新たに生成した復元画像データである。
ここで、「img」と「img’」の関係は、次の(1)式で表されるとする。
img’=img*g …(1)
「*」は、重畳積分を表わす演算子である。
なお、差分のデータ「δ」は、対応する画素の単純な差分でも良い場合もあるが、一般的には、変化要因情報データ「g」により異なり、次の(2)式で現される。
δ=f(img’,img,g)…(2)
処理部4の処理ルーチンは、まず、初期画像データ「i」を用意する(ステップS101)ことから始まる。この初期画像データ「i」としては、撮影画像データ「img’」を用いても良く、また、黒ベタ、白ベタ、灰色ベタ、市松模様等どのような画像のデータを用いても良い。ステップS102で、(1)式の「img」の代わりに初期画像となる任意画像のデータ「i」を入れ、劣化画像である比較用画像データ「i’」を求める。次に、撮影画像データ「img’」と比較用画像データ「i’」と比較し、差分のデータ「δ」を算出する(ステップS103)。
次に、ステップS104で、この差分のデータ「δ」が所定値以上であるか否かを判断し、所定値以上であれば、ステップS105で新たな復元画像データ(=復元画像データ)を生成する処理を行う。すなわち、差分のデータ「δ」を変化要因情報データ「g」に基づいて、任意の初期画像データ「i」に配分し、新たな復元画像データ「i0+n」を生成する。その後、ステップS102,S103,S104,S105を繰り返す。
ステップS104において、差分のデータ「δ」が所定値より小さい場合、処理を終了する(ステップS106)。そして、処理を終了した時点での復元画像データ「i0+n」を原画像データ「img」と推定する。
次に、図3および図4に示す処理方法の詳細を、図5,図6,図7,図8,図9,図10,図11および図12に基づいて説明する。
(手ぶれの復元アルゴリズム)
手ぶれが無いとき、所定の画素に対応する光エネルギーは、露光時間中、その画素に集中する。また、手ぶれがある場合、光エネルギーは、露光時間中にぶれた画素に分散する。さらに、露光時間中のブレがわかれば、露光時間中のエネルギーの分散の仕方がわかるため、ぶれた画像からブレの無い画像を作ることが可能となる。
以下、簡単のため、横一次元で説明する。画素を左から順に、n−1,n,n+1,n+2,n+3,…,とし、ある画素nに注目する。ブレが無いとき、露光時間中のエネルギーは、その画素に集中するため、エネルギーの集中度は「1.0」である。この状態を図5に示す。このときの撮影結果を、図6の表に示す。図6に示すものが、劣化しなかった場合の正しい画像データ「img」となる。なお、各データは、8ビット(0〜255)のデータで現している。
露光時間中にブレがあり、露光時間中の50%の時間はn番目の画素に、30%の時間はn+1番目の画素に、20%の時間はn+2番目の画素に、それぞれぶれていたとする。エネルギーの分散の仕方は、図7に示す表のとおりとなる。これが変化要因情報データ「g」となる。
ブレは、全ての画素で一様であるので、上ぶれ(縦ぶれ)が無いとすると、ブレの状況は、図8に示す表のとおりとなる。図8中の「撮影結果」として示されるデータが、原画像データ「img」で、「ブレ画像」として示されるデータが、撮影画像データ「img’」となる。具体的には、たとえば「n−3」の画素の「120」は、ぶれ情報である変化要因情報データ「g」の「0.5」「0.3」「0.2」の配分比に従い、「n−3」の画素に「60」、「n−2」の画素に「36」、「n−1」の画素に「24」というように分散する。同様に、「n−2」の画素のデータである「60」は、「n−2」に「30」、「n−1」に「18」、「n」に「12」として分散する。この撮影画像データ「img’」と、図7に示す変化要因情報データ「g」からぶれの無い撮影結果を算出することとなる。
ステップS101に示す任意の初期画像データ「i」としては、どのようなものでも採用できるが、この説明に当たっては、撮影画像データ「img’」を用いる。すなわち、i=img’として処理を開始する。図9の表中に「入力」とされたものが初期画像データ「i」に相当する。この初期画像データ「i」すなわち「img’」に、ステップS102で変化要因情報データ「g」を作用させる。すなわち、たとえば、初期画像データ「i」の「n−3」の画素の「60」は、「n−3」の画素に「30」が、「n−2」の画素に「18」が、「n−1」の画素に「12」がそれぞれ割り振られる。他の画素についても同様に配分され、出力「i’」として示される比較用画像データ「i’」が生成される。このため、ステップS103の差分のデータ「δ」は、図9の最下欄に示すようになる。
この後、ステップS104にて差分のデータ「δ」の大きさを判断する。具体的には、差分のデータ「δ」が全て絶対値で5以下となった場合に処理を終了するが、図9に示す差分のデータ「δ」は、この条件に合わないため、ステップS105に進む。すなわち、差分のデータ「δ」を変化要因情報データ「g」を使用して、任意の初期画像データ「i」に配分して、図10中の「次回入力」として示される復元画像データ「i0+n」を生成する。この場合、第1回目であるため、図10では、「i0+1」と表している。
差分のデータ「δ」の配分は、たとえば「n−3」の画素のデータ「30」に自分の所(=「n−3」の画素)の配分比である0.5をかけた「15」を「n−3」の画素に配分し、また「n−2」の画素のデータ「15」にその「n−2」の画素にきているはずの配分比である「0.3」をかけた「4.5」を配分し、さらに、「n−1」の画素のデータ「9.2」に、その「n−1」の画素にきているはずの配分比である「0.2」をかけた「1.84」を配分する。「n−3」の画素に配分された総量は、「21.34」となり、この値を初期画像データ「i」(ここでは撮影画像データ「img’」を使用)にプラスして、復元画像データ「i0+1」を生成している。
図11に示すように、この復元画像データ「i0+1」がステップS102の入力画像のデータ(=初期画像データ「i」)になり、ステップS102が実行され、ステップS103へと移行し、新しい差分のデータ「δ」を得る。その新しい差分のデータ「δ」の大きさをステップS104で判断し、所定値より大きい場合、ステップS105で新しい差分のデータ「δ」を前回の復元画像データ「i0+1」に配分し、新しい復元画像データ「i+2」を生成する(図12参照)。その後、ステップS102の遂行により、復元画像データ「i0+2」から新しい比較用画像データ「i0+2’」が生成される。このように、ステップS102,S103が実行された後、ステップS104へ行き、そこでの判断によりステップS105へ行ったり、ステップS106へ移行する。このような処理を繰り返す。
以上のようにして求めた復元画像データ「i0+n」と復元の対象である撮影画像データ「img’」とから、撮影画像データ「img’」から復元画像データ「i0+n」への伝達関数Gを、G=i0+n/img’として求めることができる。
ところで、撮影画像データが、手ぶれ等により劣化し輪郭部がぼけたものとなっている場合には、画像データの高周波成分が失われてしまっている。この影響からか、上述の復元処理を行ってもそれほど良い復元原画像データを得ることができない。また、高周波成分が失われていることにより、伝達関数が不安定になると考えられる。そこで、以上に述べた処理手法を前提として、以下に説明する処理手法を採ることにより、よりよい復元原画像データを求めることができるとともに、安定した伝達関数を求めることができる。
図13に示すよう、撮影画像データ「img’」から、2つの処理用画像データ「img’(1)」,「img’(2)」を生成する。処理用画像データ「img’(1)」,「img’(2)」は、次のような考え方に基づいて生成される。
撮影画像データ「img’」は、例えば、図13の(A)に示すように、1番から32番の画素位置の画素に、それぞれ、「aa」から「dh」までの画素画像データを有するものする。
この撮影画像データ「img’」に対して、処理用画像データ「img’(1)」を、図13の(B1)に示すように、画素番号「1,3,5,…,32」に、それぞれ、「aa」,「ac」,「ae」,…,「dh」の画素画像データを有し、これらの画素の間の画素にあたる画素番号「2,4,6,…,31」に、コントラスト生成用画素画像データとして輝度0の画素画像データ「z」を有するように生成する。輝度0の画素画像データとは、例えば、画素画像データの輝度を8ビットで暗い方から順に255段階で表したときの最も暗い、例えば、黒ベタのような明るさが無い画像データとする。
また、処理用画像データ「img’(2)」を、図13の(B2)に示すように、画素番号「2,4,6,…,31」に、それぞれ、「ab」,「ad」,「af」,…,「dg」の画素画像データを有し、これらの画素の間の画素にあたる画素番号「1,3,5,…,32」に、画素画像データ「z」を有するように生成する。
つまり、処理用画像データ「img’(1)」,「img’(2)」の互いに同じ画素位置にある画素のいずれか1つの画素画像データは、撮影画像データ「img’」の同じ画素位置の画素の画素画像データと同じになっている。また、各処理用画像データ「img’(1)」,「img’(2)」の撮影画像データ「img’」の画素画像データを有しない画素の画素画像データは、輝度0の画素画像データ「z」となっている。このように生成された処理用画像データ「img’(1)」,「img’(2)」は、コントラストの高い画像データとして生成されている。
なお、ここでは、コントラスト生成用画素画像データとして画素画像データ「z」を輝度0(輝度がない)のデータとしたが、必ずしも0に限らず、例えば、輝度の高いデータとして、輝度255としてもよい。コントラスト生成用画素画像データは、コントラスト生成用画素画像データを入れる画素に隣接する画素に対して、できるだけ多くの画素について、できるだけ高いコントラストを生ずるデータとすることが適切である。
このような、処理用画像データ「img’(1)」に対して、図4で説明した処理を、撮影画像データ「img’」の代わりに行う。つまり、図4のステップS103における撮影画像データ「img’」の代わりに、処理用画像データ「img’(1)」を処理対象として処理を行い、処理用画像データ「img’(1)」と比較用画像データ「i’」とを比較し、差分のデータ「δ」を算出する。
次いで、ステップS104で、この差分のデータ「δ」が所定値以上であるか否かを判断し、所定値以上であれば、ステップS105で新たな復元画像データとして処理用復元画像データを生成する処理を行う。すなわち、差分のデータ「δ」を変化要因情報データ「g」に基づいて、任意の初期画像データ「i」に配分し、処理用復元画像データ「i0+n」を生成する。その後、ステップS102,S103,S104,S105を繰り返す。
ステップS104において、差分のデータ「δ」が所定値より小さい場合、処理を終了する(ステップS106)。そして、処理を終了した時点での処理用復元画像データ「i0+n」を処理用原画像データ「i0+n(1)」とする。
すなわち、処理用画像データ「img’(1)」に対して、図4で説明した処理を、撮影画像データ「img’」の代わりに行うことにより、処理用原画像データ「i0+n(1)」の生成処理を行っている。
この処理用原画像データ「i0+n(1)」の概念を図13の(C1)に示す。つまり、処理用画像データ「img’(1)」の各画素画像データ「aa」,「z」,「ac」,「z」,「ae」,「z」,…,「z」,「dh」は、図4の処理により「aa’」,「z’」,「ac’」,「z’」,「ae’」,「z’」,…,「z’」,「dh’」のように復元される。なお、各「z’」は、互いに等しいとは限らない。この処理用原画像データ「i0+n(1)」は、変化要因情報データ「g」が作用すると処理用画像データ「img’(1)」となるものである。
処理用画像データ「img’(2)」に対しても、処理用画像データ「img’(1)」と同じように、図4で説明した処理を行い、処理用原画像データ「i0+n(2)」を生成する。そして、この処理用原画像データ「i0+n(2)」の概念を図13の(C2)に示す。つまり、処理用画像データ「img’(2)」の各画素画像データ「z」,「ab」,「z」,「ad」,「z」,「af」,「z」,…,「z」,「dg」,「z」は、図4の処理により「z’」,「ab’」,「z’」,「ad’」,「z’」,「af’」,「z’」,…,「z’」,「dg’」,「z’」のように復元される。なお、各「z’」は、上記と同様に互いに等しいとは限らない。この処理用画像データ「img’(2)」についての処理用原画像データ「i0+n(2)」も、変化要因情報データ「g」が作用すると処理用画像データ「img’(2)」となるものである。
そして、処理用原画像データ「i0+n(1)」,「i0+n(2)」の、撮影画像データの画素画像に係る各画素画像データ、つまり、「aa’」,「ac’」,「ae’」,…,「dh’」と、「ab’」,「ad’」,「af’」,…,「dg’」は、それぞれ、原画像データ「img」の対応する画素位置の画素画像データに近似しているものと言える。したがって、処理用原画像データ「i0+n(1)」,「i0+n(2)」の「z’」以外の各画素画像データ(撮影画像データ「img’」の画素画像に係る各画素画像データ)に基づいて、図13の(D)に示す復元原画像データ「i0+n」を生成する。つまり、処理用原画像データ「i0+n(1)」と処理用原画像データ「i0+n(2)」とを各画素が重なるように加算し、各画素について「z’」を減ずることにより復元原画像データ「i0+n」を生成することができる。
上述したように、処理用画像データ「img’(1)」,「img’(2)」をコントラストの高い画像データとすると、図4で基本的な処理手法として説明した撮影画像データ「img’」を直接処理対象とするよりも、原画像データ「img」に近い復元原画像復元原画像データ「i0+n」を生成することができる。すなわち、原画像によりちかい復元原画像を得ることができる。
また、処理用画像データ「img’(1)」から処理用原画像データ「i0+n(1)」への伝達関数「G1」を、G1=i0+n(1)/img’(1)として求める場合において、処理用画像データ「img’(1)」が、コントラストの高い画像データであり高周波成分を十分に含んでいるため、安定した伝達関数G1を求めることができる。処理用画像データ「img’(2)」から処理用原画像データ「i0+n(2)」への伝達関数「G2」についても、同様に安定した伝達関数G2を求めることができる。
なお、求めた各伝達関数「G1」,「G2」は撮影画像データ「img’」とともに記録部5に記録する。そして、後日改めて、撮影画像データ「img’」を再生する際に、撮影画像データ「img’」から処理用画像データ「img’(1)」,「img’(2)」を生成し、この処理用画像データ「img’(1)」,「img’(2)」に伝達関数G1,G2を作用させて、直ちに、処理用原画像データ「i0+n(1)」,「i0+n(2)」を生成し、撮影画像データ「img’」の復元原画像データ「i0+n」を求めることができる。つまり、図4の処理手法を経ることなく、短時間で撮影画像データ「img’」の復元原画像データ「i0+n」を求めることができる。
ところで、図4の処理ルーチンに示す処理手法においては、ステップS104において、差分のデータ「δ」の大きさを判断する代わりに、S102からS105の処理ルーチンの処理回数を設定し、設定した回数の処理ルーチンを実行したときの復元画像データ「i0+n」を原画像データ「img」に近似したものとすることもできる。つまり、処理回数を、復元画像データ「i0+n」が原画像データ「img」に近似したと推定できる回数以上に設定することにより、差分のデータ「δ」の大きさの判断を行うことなく復元画像データ「i0+n」を求めることができる。
そして、このように設定した回数の処理ルーチンを実行したときの復元画像データ「i0+n」を原画像データ「img」に近似したものとする処理の考え方を数式で表現すると次のようになる。なお、図4は、処理部4の処理方法の考え方を簡便に判りやすく説明するものである。そのため、この図4では、1つの画素に着目して説明しているものであるが、撮像部2の全撮像領域における復元画像データを求めるには、撮像領域の全画素について図4の処理ルーチンを実行する必要がある。
先ず、S101における初期画像データを「i」とすると、S102において、比較用画像データ「i′」は、初期画像データ「i」と変化要因関数「g」の重畳積分として(1)式のように表される。
Figure 0005057665
S103の差分のデータ「δ」は、(2)式のように表される。
Figure 0005057665
S105の復元画像データ「i0+1」は、初期画像データ「i」に差分のデータ「δ」をフィードバック関数「h」に基づいて配分したものとして(3)式のように表される。
Figure 0005057665
そして次回の処理ルーチンでは、この(3)式の復元画像データ「i0+1」が、S102の「i」の代わりに入り、比較用画像データ「i0+1′」が、(4)式に表される形で生成される。
Figure 0005057665
そうして、S103において、差分のデータ「δ」が、(5)式で表される。
Figure 0005057665
そうすると、S105の復元画像データ「i0+2」は、(6)式のように表される。
Figure 0005057665
以下同様に、「i+3」,…を計算していくと、復元画像データ「i0+n」は、(7)式のように表される。
Figure 0005057665
つまり、上記(7)式を用いると、図4の処理ルーチンを実行することなく、所定の設定回数のルーチンを行ったときと同じ復元画像データを計算により求めることができる。例えば、(7)式において、k=20のときの計算値は、図4の処理ルーチンを20回繰り返したときの復元画像データと等しくなる。
図4の処理ルーチンの回数を多くすれば多くするほど、復元画像データ「i0+n」は、原画像データ「img」に近づくが、処理に時間が長くなる。一方、上記の(7)式においては「k」を大きくすることが、図4の処理ルーチンの回数を多くすることに相当することになる。しかしながら、「k」を大きくしても計算時間は、「k」に相当する回数の処理ルーチンを実行するのに比べて短いものとなる。
ところで、図4の処理ルーチンにおいて、初期画像データ「i」を黒ベタの画像、つまり、画像データを入力しない状態で開始することは、(7)式において、「i」を「0」にすることに相当する。
つまり、(7)式において、「i」=「0」とすると、(7)式は、(9)式のように表される。
Figure 0005057665
つまり、上記(9)式を用いても、図4の処理ルーチンを実行することなく、所定の設定回数のルーチンを行ったときと同じ復元画像データを計算により求めることができる。
なお、フィードバック関数「h」については、例えば、手ぶれによるカメラの移動軌跡が図13の線L(変化要因関数が「g(x,y)」)で表されるとしたときに、フィードバック関数「h」は、h(−x,−y)=g(x,y)となる関数とすると、効率よく差分のデータ「δ」を小さくすることができる。
ところで、(7)式と(9)式をフーリエ変換すると、(7)式は、(10)式のように表され、また(9)式は、(11)式のように表される。
Figure 0005057665
ただし、「I0+n」は、復元画像データ「i0+n」をフーリエ変換した周波数空間における復元画像データを表わす。「I」は、初期画像データ「i」をフーリエ変換した周波数空間における初期画像データを表わす。「IMG′」は、撮影画像データ「img′」をフーリエ変換した周波数空間における撮影画像データを表わす。「H」は、フィードバック関数「h」をフーリエ変換した周波数空間におけるフィードバック関数を表わす。「G」は、変化要因「g」をフーリエ変換した周波数空間における変化要因を表わす。
このように、(7)式、(9)式についてフーリエ変換を行った(10)式、(11)式を用いて周波数空間において計算をすることにより、(7)式、(9)式のような重畳積分を行うことなく、積算(掛け算)と加減算(加算と減算)により復元画像データ「I0+n」を算出することができる。このため、計算速度を先に示した重畳積分を行う場合に比べて早くすることができる。
なお、(10)式あるいは(11)式により算出した復元画像データ「I0+n」については逆フーリエ変換により空間領域における画像データを求める。
以上に説明した(7)式、(9)式、(10)式あるいは(11)式を用いて、処理用画像データ「img’(1)」,「img’(2)」から、処理用原画像データ「i0+n(1)」,「i0+n(2)」を生成するようにしてもよい。
なお、処理用画像データは2つに限らず、3つ以上生成してもよい。例えば、図14に示すように、図14の(A)の撮影画像データ「img’」から、図14の(B1),(B2),(B3)に示す3つの処理用画像データ「img’(1)」,「img’(2)」,「img’(3)」を生成するようにしてもよい。
また、図15に示すように、図15の(A)の撮影画像データ「img’」から、図15の(B1),(B2)に示す処理用画像データ「img’(1)」,「img’(2)」ように、2以上の画素に連続して撮影画像データ「img’」の画素画像データが入るようにしてもよい。例えば、図15(B)の1,2の画素には、連続して画素画像データ「aa」,「ab」が入っている。しかし、撮影画像データ「img’」の画素画像データとコントラスト生成用画素画像データ「z」を交互に配列するようにすると、コントラストが高い処理用画像データとすることができる。
また、コントラストの低下する方向が、一方向である場合は、この一方向のみに、撮影画像データの画素画像データとコントラスト生成用画素画像データが交互に配列されるようにし、コントラストが低下していない他方の方向については、撮影画像データの画素画像データの配列のままにしておくようにしてもよい。
ところで、以上に説明した伝達関数「G1」,「G2」を求める処理は、撮像部2の全撮像領域のうちの一部の領域、つまり、撮像画像データ「img’」の一部の領域を対象として、この一部の領域について行うのが処理の高速化を図る点で好適である。
例えば、図16の(A)に示す1から32の画素のうちから、4分の1の画素数にあたる1,2,3,4,5,9,10,11,12,13の画素番号の画素から構成される一部の領域について、図16の(B1),(B2)に示す一部領域処理用画像データ「img’(1s)」,「img’(2s)」を生成する。そして、図4の処理手法あるいは(7)式,(9)式,(10)式,(11)式により、一部領域処理用画像データ「img’(1s)」,「img’(2s)」のそれぞれについて、図16の(C1),(C2)に示す一部処理用原画像データ「i0+n(1s)」,「i0+n(2s)」生成すする。そうして、一部領域処理用画像データ「img’(1s)」,「img’(2s)」と一部領域処理用原画像データ「i0+n(1s)」,「i0+n(2s)」との間の伝達関数を一部領域伝達関数「G1s」,「G2s」として求める。
そして、一部の撮像領域について求めた一部領域伝達関数「G1s」,「G2s」を拡大、補間し、処理用画像データ「img’(1)」,「img’(2)」と処理用原画像データ「i0+n(1)」,「i0+n(2)」との間の伝達関数「G1」,「G2」として求める。このようにすることにより、図4に示す処理を一部の領域について行えば済むため、大きな画像の処理を行う際の処理速度の向上を図ることができる。
求めた各伝達関数「G1」,「G2」は撮影画像データ「img’」とともに記録部5に記録する。そして、後日改めて、撮影画像データ「img’」を再生する際に、撮影画像データ「img’」から処理用画像データ「img’(1)」,「img’(2)」を生成し、この処理用画像データ「img’(1)」,「img’(2)」に伝達関数G1,G2を作用させて、直ちに、処理用原画像データ「i0+n(1)」,「i0+n(2)」を生成し、撮影画像データ「img’」の復元原画像データ「i0+n」を求める。
本発明の実施の形態に係る画像処理装置の主要構成を示すブロック図である。 図1に示す画像処理装置の概要を示す外観斜視図で、角速度センサの配置位置を説明するための図である。 復元画像を最適化問題として扱って求める処理手法についての概念を説明するための図である。 図3で説明する概念の具体的な手法(処理ルーチン)を説明するための処理フロー図である。 図4に示す処理方法を、手ぶれを例にして具体的に説明するための図で、手ぶれのないときのエネルギーの集中を示す表である。 図4に示す処理方法を、手ぶれを例にして具体的に説明するための図で、手ぶれのないときの画像データを示す図である。 図4に示す処理方法を、手ぶれを例にして具体的に説明するための図で、手ぶれが生じたときのエネルギーの分散を示す図である。 図4に示す処理方法を、手ぶれを例にして具体的に説明するための図で、任意の画像から比較用データを生成する状況を説明するための図である。 図4に示す処理方法を、手ぶれを例にして具体的に説明するための図で、比較用データと、処理対象となるぶれた原画像とを比較して、差分のデータを生成する状況を説明するための図である。 図4に示す処理方法を、手ぶれを例にして具体的に説明するための図で、差分のデータを配分し任意の画像に加えることで復元データを生成する状況を説明するための図である。 図4に示す処理方法を、手ぶれを例にして具体的に説明するための図で、生成された復元データから新たな比較用データを生成し、そのデータと処理対象となるぶれた原画像とを比較して差分のデータを生成する状況を説明するための図である。 図4に示す処理方法を、手ぶれを例にして具体的に説明するための図で、新たに生成された差分のデータを配分し、新たな復元データを生成する状況を説明するための図である。 図1の画像処理装置における処理用画像データの生成について説明するための図である。 図1の画像処理装置における処理用画像データの生成についての他の例を説明するための図である。 図1の画像処理装置における処理用画像データの生成についての他の例を説明するための図である。 図1の画像処理装置における処理用画像データの生成についての他の例を説明するための図である。
符号の説明
1 画像処理装置
2 撮影部
3 制御系部
4 処理部
5 記録部
6 検出部
7 要因情報保存部
img 原画像のデータ
img’ 撮影画像データ
img’(1),img’(2),img’(3) 処理用画像データ
0+n 復元原画像データ
0+n(1),i0+n(2) 処理用原画像データ
img’(1s),img’(2s) 一部領域処理用画像データ
0+n(1s),i0+n(2s) 一部領域処理用原画像データ
z コントラスト生成用画素画像データ
δR 差分のデータ
δi・i 差分のデータ
h フィードバック関数(配分比)
G1,G2 伝達関数
g 変化要因情報データ

Claims (7)

  1. 画像を処理する処理部を有する画像処理装置において、
    上記処理部は、
    互いに異なる複数の処理用画像データであって、これら各処理用画像データの互いに同じ画素位置にある画素のいずれか1つの画素画像データを、復元対象画像データの同じ画素位置の画素の画素画像データと同じとし、上記各処理用画像データの画素のうち、上記復元対象画像データの画素画像データを有しない画素の画素画像データを、コントラスト生成用画素画像データとし、上記復元対象画像データの画素画像データを有する画素とコントラスト生成用画素画像データを有する画素が交互に配列される処理用画像データを生成し、
    上記処理用画像データのそれぞれについて処理用原画像データを生成する処理用原画像データ生成処理を行い、
    上記処理用原画像データから、原画像データに近似する復元原画像データを生成する原画像データ復元処理を行い、
    上記コントラスト生成用画素画像データは、このコントラスト生成用画素画像データと隣接する画素の画素画像データとの輝度差が高くなるように設定される画素画像データであり、
    上記処理用原画像データ生成処理は、上記処理用画像データと、任意の画像のデータを変化要因情報のデータにより変化させて生成した比較用画像データとを比較し、得られた差分のデータを上記変化要因情報のデータに基づく配分比で上記任意の画像のデータに配分することで処理用復元画像データを生成し、この処理用復元画像データを上記任意の画像のデータの代わりに使用し、同様の処理を上記差分のデータが所定値より小さくなるまで繰り返すことで、上記処理用復元画像データを上記処理用原画像データとして生成する処理であり、
    上記原画像データ復元処理は、上記各処理用画像データについての上記処理用原画像データ同士を各画素が重なるように加算し、各画素について上記コントラスト生成用画素画像データについての処理用原画像データを減ずる処理である、
    ことを特徴とする画像処理装置。
  2. 前記処理用原画像データ生成処理は、
    前記比較用画像データを、画像変化の要因となる変化要因情報のデータにより前記任意の画像のデータを変化させて生成する、
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記複数の処理用画像データは、2つの処理用画像データであり、
    上記2つの各処理用画像データは、前記復元対象画像データの画素画像データを有する画素と前記コントラスト生成用画素画像データを有する画素とは、1画素毎に交互に配列されることを特徴とする請求項1または請求項2のいずれか1つに記載の画像処理装置。
  4. 画像を処理する処理部を有する画像処理装置において、
    上記処理部は、
    復元対象画像データの一部の領域に対して生成する互いに異なる複数の一部領域処理用画像データであって、これら各一部領域処理用画像データの互いに同じ画素位置にある画素のいずれか1つの画素画像データを、上記復元対象画像データの一部の領域内の同じ画素位置の画素の画素画像データと同じとし、上記各一部領域処理用画像データの画素のうち、上記復元対象画像データの画素画像データを有しない画素の画素画像データを、コントラスト生成用画素画像データとし、上記復元対象画像データの画素画像データを有する画素とコントラスト生成用画素画像データを有する画素が交互に配列される一部領域処理用画像データを生成し、
    上記一部領域処理用画像データのそれぞれについて一部領域処理用原画像データを生成する一部領域処理用原画像データ生成処理を行い、
    上記一部領域処理用画像データと上記一部領域処理用原画像データとから、上記一部領域処理用画像データと上記一部領域処理用原画像データの間の一部領域伝達関数を求め、
    この一部領域伝達関数を利用して上記復元対象画像データの復元原画像データを生成する原画像データ復元処理を行い、
    上記コントラスト生成用画素画像データは、このコントラスト生成用画素画像データと隣接する画素の画素画像データとの輝度差が高くなるように設定される画素画像データであり、
    上記一部領域処理用原画像データ生成処理は、上記一部領域処理用画像データと、任意の画像のデータを変化要因情報のデータにより変化させて生成した比較用画像データとを比較し、得られた差分のデータを上記変化要因情報のデータに基づく配分比で上記任意の画像のデータに配分することで一部領域処理用復元画像データを生成し、この一部領域処理用復元画像データを上記任意の画像のデータの代わりに使用し、同様の処理を上記差分のデータが所定値より小さくなるまで繰り返すことで、上記一部領域処理用復元画像データを上記一部領域処理用原画像データとして生成する処理である、
    ことを特徴とする画像処理装置。
  5. 前記一部領域処理用原画像データ生成処理は、
    前記比較用画像データを、画像変化の要因となる変化要因情報のデータにより前記任意の画像のデータを変化させて生成する、
    ことを特徴とする請求項4に記載の画像処理装置。
  6. 前記複数の一部領域処理用画像データは、2つの一部領域処理用画像データであり、
    上記2つの各一部領域処理用画像データは、前記復元対象画像データの画素画像データを有する画素と前記コントラスト生成用画素画像データを有する画素とは、1画素毎に交互に配列されることを特徴とする請求項4または請求項5のいずれか1つに記載の画像処理装置。
  7. 前記コントラスト生成画素画像データは、輝度が0または高輝度の画像データであることを特徴とする請求項1から請求項6のいずれか1項に記載の画像処理装置。
JP2005312521A 2005-10-27 2005-10-27 画像処理装置 Expired - Fee Related JP5057665B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005312521A JP5057665B2 (ja) 2005-10-27 2005-10-27 画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005312521A JP5057665B2 (ja) 2005-10-27 2005-10-27 画像処理装置

Publications (2)

Publication Number Publication Date
JP2007124198A JP2007124198A (ja) 2007-05-17
JP5057665B2 true JP5057665B2 (ja) 2012-10-24

Family

ID=38147565

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005312521A Expired - Fee Related JP5057665B2 (ja) 2005-10-27 2005-10-27 画像処理装置

Country Status (1)

Country Link
JP (1) JP5057665B2 (ja)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002300459A (ja) * 2001-03-30 2002-10-11 Minolta Co Ltd 反復法による画像復元装置、画像復元方法、プログラム及び記録媒体
JP4519434B2 (ja) * 2003-09-24 2010-08-04 株式会社東芝 超解像処理装置及び医用画像診断装置

Also Published As

Publication number Publication date
JP2007124198A (ja) 2007-05-17

Similar Documents

Publication Publication Date Title
WO2007119680A1 (ja) 撮像装置
JP2006295626A (ja) 魚眼像処理装置及びその方法並びに魚眼像撮像装置
JP5184574B2 (ja) 撮像装置、画像処理装置、および画像処理方法
JP2018207413A (ja) 撮像装置
JP5007241B2 (ja) 画像処理装置
JP4885150B2 (ja) 画像処理装置
JP5057665B2 (ja) 画像処理装置
JP4965179B2 (ja) 画像処理装置
JP4606976B2 (ja) 画像処理装置
JP2007048257A (ja) 信号処理装置
JP4763419B2 (ja) 画像処理装置
JP5247169B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP4975644B2 (ja) 画像処理装置
JP2009153046A (ja) ぶれ補正装置及び方法並びに撮像装置
JP4598623B2 (ja) 画像処理装置
JP4499686B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP4602860B2 (ja) 画像処理装置
JP4629537B2 (ja) 画像処理装置
JP4718618B2 (ja) 信号処理装置
JP2007129354A (ja) 画像処理装置
JP4449777B2 (ja) 撮像装置、画像処理装置および方法、記録媒体、並びにプログラム
JP4629622B2 (ja) 画像処理装置
JP4853746B2 (ja) 撮像装置、画像処理装置および方法、記録媒体、並びにプログラム
JP4894937B2 (ja) 画像処理装置および方法
JPWO2008090858A1 (ja) 画像処理装置および画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080922

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100824

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100831

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110721

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120315

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120717

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120731

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150810

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees