[go: up one dir, main page]

JP2000261719A - Image processing method, its system and recording medium - Google Patents

Image processing method, its system and recording medium

Info

Publication number
JP2000261719A
JP2000261719A JP11061651A JP6165199A JP2000261719A JP 2000261719 A JP2000261719 A JP 2000261719A JP 11061651 A JP11061651 A JP 11061651A JP 6165199 A JP6165199 A JP 6165199A JP 2000261719 A JP2000261719 A JP 2000261719A
Authority
JP
Japan
Prior art keywords
image data
image
image processing
photographing
luminance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP11061651A
Other languages
Japanese (ja)
Other versions
JP4426009B2 (en
Inventor
Hideyuki Sakaida
英之 境田
Wataru Ito
渡 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Holdings Corp
Original Assignee
Fuji Photo Film Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Photo Film Co Ltd filed Critical Fuji Photo Film Co Ltd
Priority to JP06165199A priority Critical patent/JP4426009B2/en
Publication of JP2000261719A publication Critical patent/JP2000261719A/en
Application granted granted Critical
Publication of JP4426009B2 publication Critical patent/JP4426009B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Studio Circuits (AREA)
  • Television Signal Processing For Recording (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

PROBLEM TO BE SOLVED: To apply image processing to image data so as to obtain an impression of brightness at photographing. SOLUTION: A digital camera 1 acquires image data S0 receiving AE processing and a luminance meter 6 measures luminance at photographing to obtain absolute luminance information K and they are recorded in a recording medium 2. A gradation processing means 8 in a lab 3 applies gradation processing to adjust the contrast of the image data S0 in a way that the contrast is more increased as the luminance at photographing is higher on the basis of the absolute luminance information K to obtain processed image data S1, and an output means 9 prints out the data S1.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、撮影時の輝度を考
慮して撮影により取得された画像データに対して画像処
理を施す画像処理方法および装置並びに画像処理方法を
コンピュータに実行させるためのプログラムを記録した
コンピュータ読取り可能な記録媒体に関するものであ
る。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image processing method and apparatus for performing image processing on image data obtained by photographing in consideration of luminance at the time of photographing, and a program for causing a computer to execute the image processing method. The present invention relates to a computer-readable recording medium having recorded therein.

【0002】[0002]

【従来の技術】デジタル電子スチルカメラ(以下デジタ
ルカメラとする)において取得したデジタル画像データ
や、フイルムに記録された画像を読み取ることにより得
られたデジタル画像データを、プリント等のハードコピ
ーとしてあるいはディスプレイ上にソフトコピーとして
再現することが行われている。このように、デジタル画
像データを再現する場合においては、ネガフイルムから
プリントされた写真と同様の高品位な画質を有するもの
とすることが期待されている。
2. Description of the Related Art Digital image data obtained by a digital electronic still camera (hereinafter referred to as a digital camera) or digital image data obtained by reading an image recorded on a film can be converted into a hard copy such as a print or displayed. Above is being reproduced as a soft copy. As described above, when reproducing digital image data, it is expected to have the same high-quality image quality as a photograph printed from a negative film.

【0003】一方、デジタルカメラにおいて得られた画
像データを記録媒体に記録するに際し、カメラのガンマ
特性、レンズの焦点距離、レンズのF値、カメラ内にて
行われたAE処理の内容等の撮影条件を記録媒体に記録
するようにした方法が提案されている(特開平10−1
91246号)。この方法によれば、画像データをプリ
ントするに際して、記録媒体に記録された撮影条件を参
照して画像データの画質を高めるための処理を施すこと
ができ、これにより良好な仕上がりのプリントを得るこ
とができる。
On the other hand, when recording image data obtained by a digital camera on a recording medium, photographing such as gamma characteristics of the camera, focal length of the lens, F-number of the lens, and the contents of AE processing performed in the camera are performed. A method of recording conditions on a recording medium has been proposed (Japanese Patent Laid-Open No. 10-1).
No. 91246). According to this method, when printing the image data, it is possible to perform processing for improving the image quality of the image data with reference to the photographing conditions recorded on the recording medium, thereby obtaining a print with a good finish. Can be.

【0004】ところで、デジタルカメラの場合はカメラ
自体に自動露出(AE)機能が設けられており、このA
E機能により画像データの階調や周波数特性を調整する
ことにより露出補正処理が行われる。また、フイルムか
ら画像を読み取る場合は、ラボにおいて同様の露出補正
処理が行われる。このように露出補正処理を行うことに
より、撮影時の輝度が100倍も異なるような日向のシ
ーンと日陰のシーンであっても、プリント出力された画
像においては、画像が真っ白になったり真っ黒になった
りすることなく、撮影時のシーンを再現することができ
る。
In the case of a digital camera, the camera itself has an automatic exposure (AE) function.
Exposure correction processing is performed by adjusting the gradation and frequency characteristics of image data using the E function. When reading an image from a film, a similar exposure correction process is performed in a laboratory. By performing the exposure correction process in this manner, even in the case of a sunlit scene and a shaded scene in which the luminance at the time of shooting differs by 100 times, the image that is printed out becomes white or black. The scene at the time of shooting can be reproduced without becoming dull.

【0005】[0005]

【発明が解決しようとする課題】このようなAE機能に
よって露出補正処理を施すことにより、どのような輝度
のシーンであっても、明るさが極端に変更することなく
画像を再現することができる。しかしながら、このよう
なAE機能は撮影したシーンの輝度に拘わらず一律の明
るさとなるように露出補正処理を施すものであるため、
例えば真夏の砂浜のように非常に明るくぎらぎらしたシ
ーンであっても、AE機能による一律の露出補正によ
り、撮影時のぎらぎらした印象が損なわれてしまう。
By performing exposure correction processing using such an AE function, an image can be reproduced without any extreme change in brightness, regardless of the brightness of the scene. . However, since such an AE function performs an exposure correction process so as to have a uniform brightness regardless of the brightness of a captured scene,
For example, even in a very bright and crisp scene such as a midsummer sandy beach, the uniform exposure correction by the AE function impairs the crisp impression during shooting.

【0006】本発明は上記事情に鑑みなされたものであ
り、撮影時の印象を損なうことなく画像データに対して
画像処理を施すことができる画像処理方法および装置並
びに画像処理方法をコンピュータに実行させるためのプ
ログラムを記録したコンピュータ読取り可能な記録媒体
を提供することを目的とするものである。
The present invention has been made in view of the above circumstances, and causes a computer to execute an image processing method and apparatus and an image processing method capable of performing image processing on image data without impairing the impression at the time of photographing. It is an object to provide a computer-readable recording medium on which a program for recording is recorded.

【0007】[0007]

【課題を解決するための手段】本発明による画像処理方
法は、撮影により取得された画像を表す画像データに対
して画像処理を施す画像処理方法において、撮影時にお
けるシーンの絶対輝度に関する絶対輝度情報を取得し、
該絶対輝度情報に基づいて、前記画像データに対して階
調および/または周波数特性を変更する画像処理を施し
て処理済み画像データを得ることを特徴とするものであ
る。
An image processing method according to the present invention is directed to an image processing method for performing image processing on image data representing an image obtained by photographing, the image processing method comprising: And get
On the basis of the absolute luminance information, the image data is subjected to image processing for changing gradation and / or frequency characteristics to obtain processed image data.

【0008】なお、前記画像処理は、前記処理済み画像
データにより表される画像が、撮影時において知覚され
る階調および/または周波数特性に近づくように、前記
画像データの階調および/または周波数特性を変更する
処理であることが好ましい。
In the image processing, the gradation and / or frequency of the image data is adjusted so that the image represented by the processed image data approaches the gradation and / or frequency characteristics perceived during photographing. Preferably, the process is for changing the characteristics.

【0009】ここで、「絶対輝度情報」は、カメラに輝
度計を設けこの輝度計により撮影時の輝度を測定するこ
とにより取得してもよく、撮影により取得された画像デ
ータが露出補正を施したものでない場合には、画像デー
タや撮影時の絞り値等の情報から得るようにしてもよ
い。また、カメラが輝度計を有するデジタルカメラの場
合には、画像データを記録する記録メディアに絶対輝度
情報を記録して出力を行うラボに受け渡せばよく、磁気
情報を記録可能ないわゆるAPSフイルムを使用するカ
メラの場合には、APSフイルムの磁気記録部に絶対輝
度情報を記録してラボに受け渡せばよい。また、絶対輝
度情報KをFD等の記録媒体に記録してラボに受け渡し
てもよい。また、「絶対輝度情報」としては撮影時にお
けるシーンの絶対輝度を数値で表したもののみならず、
下記の表1に示すように、絶対輝度の範囲の代表値や、
絶対輝度の範囲を記号で表したものであってもよい。
Here, the "absolute luminance information" may be obtained by providing a luminance meter in a camera and measuring the luminance at the time of photographing with the luminance meter. The image data obtained by photographing is subjected to exposure correction. If not, it may be obtained from information such as image data and aperture value at the time of shooting. If the camera is a digital camera having a luminance meter, the absolute luminance information may be recorded on a recording medium for recording image data and passed to a laboratory for outputting the information. A so-called APS film capable of recording magnetic information may be used. In the case of a camera to be used, absolute brightness information may be recorded in a magnetic recording section of the APS film and passed to the laboratory. Further, the absolute luminance information K may be recorded on a recording medium such as an FD and transferred to a laboratory. In addition, the “absolute luminance information” includes not only a numerical value of the absolute luminance of the scene at the time of shooting, but also
As shown in Table 1 below, representative values of the range of the absolute luminance,
The range of the absolute luminance may be represented by a symbol.

【0010】[0010]

【表1】 [Table 1]

【0011】本発明による画像処理装置は、撮影により
取得された画像を表す画像データに対して画像処理を施
す画像処理装置において、撮影時におけるシーンの絶対
輝度に関する絶対輝度情報を取得する輝度情報取得手段
と、該絶対輝度情報に基づいて、前記画像データに対し
て階調および/または周波数特性を変更する画像処理を
施して処理済み画像データを得る処理手段とを備えたこ
とを特徴とするものである。
An image processing apparatus according to the present invention is an image processing apparatus for performing image processing on image data representing an image acquired by photographing, wherein the luminance information acquiring unit acquires absolute luminance information relating to the absolute luminance of a scene at the time of photographing. Means, and processing means for performing image processing for changing gradation and / or frequency characteristics on the image data based on the absolute luminance information to obtain processed image data. It is.

【0012】なお、前記処理手段は、前記処理済み画像
データにより表される画像が、撮影時において知覚され
る階調および/または周波数特性に近づくように、前記
画像データの階調および/または周波数特性を変更する
処理を行う手段であることが好ましい。
[0012] The processing means may control the gradation and / or frequency of the image data so that the image represented by the processed image data approaches the gradation and / or frequency characteristics perceived during photographing. Preferably, it is a means for performing a process of changing characteristics.

【0013】なお、本発明による画像処理方法を、コン
ピュータに実行させるためのプログラムとして、コンピ
ュータ読取り可能な記録媒体に記録して提供してもよ
い。
[0013] The image processing method according to the present invention may be provided by being recorded on a computer-readable recording medium as a program for causing a computer to execute the method.

【0014】[0014]

【発明の効果】本発明によれば、撮影時におけるシーン
の絶対輝度に関する絶対輝度情報に基づいて、画像デー
タに対して階調および/または周波数特性を変更する処
理を施すようにしたため、撮影時のシーンの輝度を反映
した画像を表す処理済み画像データを得ることができ、
処理済み画像データを再生することにより、撮影時の輝
度の印象に応じた画像を得ることができる。
According to the present invention, the processing for changing the gradation and / or frequency characteristics is performed on the image data based on the absolute luminance information relating to the absolute luminance of the scene at the time of photographing. It is possible to obtain processed image data representing an image reflecting the brightness of the scene of
By reproducing the processed image data, it is possible to obtain an image according to the luminance impression at the time of shooting.

【0015】[0015]

【発明の実施の形態】以下図面を参照して本発明の実施
形態について説明する。図1は本発明の第1の実施形態
による画像処理装置を適用した画像出力システムの構成
を示す概略ブロック図である。図1に示すように、第1
の実施形態による画像出力システムは、デジタルカメラ
1において取得された画像データS0を記録メディア2
に記録し、この記録メディア2をラボ3に受け渡してこ
こでプリント出力を行うものである。
Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 is a schematic block diagram showing a configuration of an image output system to which an image processing device according to a first embodiment of the present invention is applied. As shown in FIG.
The image output system according to the embodiment stores the image data S0 acquired by the digital camera 1 on the recording medium 2
The recording medium 2 is transferred to the laboratory 3 and printed out there.

【0016】デジタルカメラ1は、CCD、撮影に必要
な光学系、オートフォーカス機能等を有する撮像手段4
と、撮像手段4において取得された原画像データS′に
対して自動露出補正処理を施して画像データS0を得る
自動露出補正(AE)手段5と、撮影時のシーンの輝度
を測定する輝度計6とを有する。AE手段5は、撮影時
のシーンの輝度に拘わらず、画像が真っ白になったり真
っ黒になったりしないように、原画像データS′の露出
を補正して画像データS0を得るものである。したがっ
て、デジタルカメラ1において取得されて記録メディア
2に記録される画像データS0は、すでに露出補正がな
されているものである。なお、輝度計6による輝度の測
定結果は絶対輝度情報Kとして記録メディア2に記録さ
れる。
The digital camera 1 has a CCD, an optical system necessary for photographing, an image pickup means 4 having an autofocus function and the like.
An automatic exposure correction (AE) means 5 for performing an automatic exposure correction process on the original image data S 'obtained by the imaging means 4 to obtain image data S0, and a luminance meter for measuring the luminance of the scene at the time of shooting 6. The AE means 5 obtains image data S0 by correcting the exposure of the original image data S 'so that the image does not become white or black, regardless of the luminance of the scene at the time of shooting. Therefore, the image data S0 acquired by the digital camera 1 and recorded on the recording medium 2 has already been subjected to exposure correction. The measurement result of the luminance by the luminance meter 6 is recorded on the recording medium 2 as absolute luminance information K.

【0017】記録メディア2は、スマートメディア、コ
ンパクトフラッシュ、メモリスティック等の画像データ
S0および絶対輝度情報Kを記録するデジタルメディア
である。
The recording medium 2 is a digital medium for recording image data S0 and absolute luminance information K such as a smart media, a compact flash, a memory stick, and the like.

【0018】ラボ3は、記録メディア2に記録された画
像データS0および絶対輝度情報Kを読み出す読出手段
7と、絶対輝度情報Kに基づいて画像データS0のコン
トラストを調節して処理済み画像データS1を得る階調
処理手段8と、処理済み画像データS1をプリント出力
するプリンタ等の出力手段9とを備える。
The laboratory 3 reads out the image data S0 and the absolute luminance information K recorded on the recording medium 2, and adjusts the contrast of the image data S0 based on the absolute luminance information K to process the processed image data S1. And output means 9 such as a printer for printing out the processed image data S1.

【0019】階調処理手段8は以下のようにして画像デ
ータS0のコントラストを調節する。図2は輝度と輝度
に対する見かけの明るさとの関係を表すグラフ、図3は
図2において輝度のコントラストを表す部分のみを示す
グラフである。図2に示すように、撮影時のシーンおい
ては輝度が高くなるほど白いものはより明るく、黒いも
のはより暗く見えるようになる。このため、図3に示す
ように室内のように暗い所ではコントラストが低く、晴
天の屋外のように明るい所ではコントラストが高く感じ
られる。したがって、階調処理手段8においては、撮影
時の絶対輝度情報Kに基づいて、絶対輝度が高い場合に
はコントラストをより高くし、絶対輝度が低い場合には
コントラストをより低くするように、画像データS0の
コントラストを調節して処理済み画像データS1を得る
ものである。なお、この場合のコントラストはグレーの
コントラストのみならず、RGB各成分に関するコント
ラストも含まれるものである。また、階調処理手段8に
おいては、プリントを観察する観察光源や出力手段9の
色再現範囲等を考慮した色変換処理を施してもよい。
The gradation processing means 8 adjusts the contrast of the image data S0 as follows. FIG. 2 is a graph showing the relationship between the luminance and the apparent brightness with respect to the luminance, and FIG. 3 is a graph showing only the portion showing the luminance contrast in FIG. As shown in FIG. 2, in a scene at the time of shooting, the higher the luminance is, the brighter the white thing looks and the darker the black thing looks. For this reason, as shown in FIG. 3, the contrast is low in a dark place such as indoors, and the contrast is high in a bright place such as outdoors in fine weather. Therefore, based on the absolute luminance information K at the time of photographing, the gradation processing means 8 increases the contrast when the absolute luminance is high, and lowers the contrast when the absolute luminance is low. The contrast of the data S0 is adjusted to obtain the processed image data S1. Note that the contrast in this case includes not only the gray contrast but also the contrast related to each of the RGB components. Further, the gradation processing unit 8 may perform a color conversion process in consideration of an observation light source for observing a print, a color reproduction range of the output unit 9, and the like.

【0020】次いで、本実施形態の動作について説明す
る。図4は第1の実施形態の動作を示すフローチャート
である。まず、デジタルカメラ1により撮影を行い(ス
テップS1)、撮影により取得された原画像データS′
に対してAE手段4において露出補正を施して画像デー
タS0を得る(ステップS2)。また、輝度計により撮
影時の輝度が測定され(ステップS3)、この輝度を表
す絶対輝度情報Kおよび得られた画像データS0が記録
メディア2に記録される(ステップS4)。以上がデジ
タルカメラ1において行われる処理である。
Next, the operation of this embodiment will be described. FIG. 4 is a flowchart showing the operation of the first embodiment. First, photographing is performed by the digital camera 1 (step S1), and the original image data S 'obtained by photographing is taken.
Is subjected to exposure correction by the AE means 4 to obtain image data S0 (step S2). The luminance at the time of shooting is measured by the luminance meter (step S3), and the absolute luminance information K representing the luminance and the obtained image data S0 are recorded on the recording medium 2 (step S4). The above is the processing performed in the digital camera 1.

【0021】記録メディア2はラボ3に受け渡され、読
出手段7において絶対輝度情報Kおよび画像データS0
が記録メディア2から読み出される(ステップS5)。
そして、階調処理手段8において、読み出された絶対輝
度情報Kに基づいて画像データS0のコントラストを調
節する階調処理が施されて処理済み画像データS1が得
られる(ステップS6)。処理済み画像データS1は出
力手段9においてプリント出力されて(ステップS
7)、処理を終了する。
The recording medium 2 is transferred to the laboratory 3 and read by the reading means 7 with the absolute luminance information K and the image data S0.
Is read from the recording medium 2 (step S5).
Then, the gradation processing means 8 performs gradation processing for adjusting the contrast of the image data S0 based on the read absolute luminance information K, and obtains processed image data S1 (step S6). The processed image data S1 is printed out by the output means 9 (Step S
7), the process ends.

【0022】このように、本実施形態によれば、撮影時
におけるシーンの絶対輝度に関する絶対輝度情報Kに基
づいて、画像データに対してコントラストを調節する階
調処理を施すようにしたため、撮影時の輝度が大きいほ
どよりコントラストが高くなり、撮影時のシーンの輝度
を反映した画像を表す処理済み画像データS1を得るこ
とができる。したがって、処理済み画像データS1を再
生することにより、撮影時の輝度の印象に応じた画像を
得ることができる。
As described above, according to the present embodiment, the gradation processing for adjusting the contrast is performed on the image data based on the absolute luminance information K relating to the absolute luminance of the scene at the time of shooting. The higher the luminance of the image, the higher the contrast, and it is possible to obtain processed image data S1 representing an image reflecting the luminance of the scene at the time of shooting. Therefore, by reproducing the processed image data S1, it is possible to obtain an image according to the luminance impression at the time of shooting.

【0023】次いで、本発明の第2の実施形態について
説明する。図5は本発明の第2の実施形態による画像処
理装置を適用した画像出力システムの構成を示す概略ブ
ロック図である。なお、第2の実施形態においては、デ
ジタルカメラ1の構成、ラボ3における読出手段7およ
び出力手段9は第1の実施形態におけるデジタルカメラ
1、読出手段7および出力手段9と同一であるため、詳
細な説明は省略する。第2の実施形態においては、ラボ
3において絶対輝度情報Kに基づいて画像データS0に
対して周波数処理を施すものであり、絶対輝度情報Kに
基づいてデータベース12を参照して周波数処理を行う
際の強調度を算出する強調度算出手段11と、強調度算
出手段11において算出された強調度に基づいて画像デ
ータS0に対して周波数処理を施して処理済み画像デー
タS1を得る周波数処理手段13とを備える。
Next, a second embodiment of the present invention will be described. FIG. 5 is a schematic block diagram showing a configuration of an image output system to which the image processing device according to the second embodiment of the present invention is applied. In the second embodiment, the configuration of the digital camera 1 and the reading means 7 and the output means 9 in the laboratory 3 are the same as the digital camera 1, the reading means 7 and the output means 9 in the first embodiment. Detailed description is omitted. In the second embodiment, the frequency processing is performed on the image data S0 based on the absolute luminance information K in the laboratory 3, and the frequency processing is performed with reference to the database 12 based on the absolute luminance information K. And a frequency processing unit 13 that performs frequency processing on the image data S0 based on the enhancement calculated by the enhancement calculation to obtain processed image data S1. Is provided.

【0024】図6は輝度別の空間周波数と目の感度すな
わち目の周波数応答特性との関係を表すグラフである。
なお、図6に示す複数の曲線は下側が低輝度のものであ
り、上側が高輝度のものである。図6に示すように、撮
影時のシーンにおいては、輝度が低いほど低周波数成分
に対する感度が相対的に高くなり、輝度が高いほど10
cycle/mm付近の中間周波数成分に対する感度が相対的に
高くなる。しかしながら、デジタルカメラ1に設けられ
たAE手段5においては、撮影時のシーンの輝度に拘わ
らず原画像データS′に対して一律の明るさの画像が得
られるように露出補正が施されるものである。このた
め、真夏の砂浜のようなぎらぎらした印象のシーン(目
の周波数応答特性は例えば図6の曲線1に対応する)を
撮影したものであっても、露出補正がなされた画像デー
タS0をプリント出力したものを室内(目の周波数応答
特性は図6の曲線2に対応する)において観察すると、
低周波数成分が他の周波数成分と比較して強調されて見
えるものとなり、撮影時の印象が損なわれてしまう。第
2の実施形態においては、撮影時の絶対輝度情報Kに基
づいて、撮影時の印象を損なわないように画像データS
0に対して周波数処理を施すようにしたものである。以
下、その具体的な方法について説明する。
FIG. 6 is a graph showing the relationship between the spatial frequency for each luminance and the eye sensitivity, that is, the frequency response characteristic of the eye.
In addition, the lower side of the plurality of curves shown in FIG. 6 is for low luminance, and the upper side is for high luminance. As shown in FIG. 6, in the scene at the time of shooting, the sensitivity to low frequency components becomes relatively higher as the luminance is lower, and 10
The sensitivity to intermediate frequency components around cycle / mm becomes relatively high. However, in the AE means 5 provided in the digital camera 1, exposure correction is performed so that an image of uniform brightness can be obtained for the original image data S 'regardless of the luminance of the scene at the time of shooting. It is. For this reason, even if a scene with a glaring impression like a sandy beach in midsummer (the frequency response characteristic of the eye corresponds to, for example, curve 1 in FIG. 6) is taken, the image data S0 subjected to the exposure correction is printed. When the output is observed indoors (the frequency response characteristic of the eyes corresponds to curve 2 in FIG. 6),
The low-frequency components appear to be emphasized as compared with other frequency components, and the impression at the time of photographing is impaired. In the second embodiment, based on the absolute luminance information K at the time of shooting, the image data S
0 is subjected to frequency processing. Hereinafter, a specific method thereof will be described.

【0025】データベース12には図6に示す輝度別の
目の周波数応答特性を表すデータが記憶されている。強
調度算出手段11は、記録メディア2から読み出した絶
対輝度情報K、画像データS0およびデータベース12
のデータに基づいて、周波数処理の際を強調度を算出す
る。具体的には以下のようにして行う。まず、絶対輝度
情報Kにより表される輝度すなわち撮影時の輝度に基づ
く目の周波数応答特性が図6の曲線1であり、画像デー
タS0のプリント画像を室内において観察する際の輝度
に基づく目の周波数応答特性が図6の曲線2である場
合、図7(a)に示すように、各曲線1,2を全周波数
帯域に亘って値を有するものと仮定し、曲線2を上方へ
移動して0点の位置を合わせる(図7(b))。そし
て、曲線1と曲線2とにおける周波数応答特性の差を
(斜線部分)を補完すべく、画像データS0のある限ら
れた周波数帯域毎に、その周波数帯域における曲線1の
周波数応答特性を曲線2の周波数応答特性により除した
値を強調度として求める。
The database 12 stores data representing the frequency response characteristics of the eyes for each luminance shown in FIG. The emphasis degree calculating means 11 includes the absolute luminance information K read from the recording medium 2, the image data S0, and the database 12
Based on the above data, the degree of emphasis at the time of frequency processing is calculated. Specifically, this is performed as follows. First, the frequency response characteristic of the eyes based on the luminance represented by the absolute luminance information K, that is, the luminance at the time of shooting is curve 1 in FIG. When the frequency response characteristic is curve 2 in FIG. 6, as shown in FIG. 7A, it is assumed that each of curves 1 and 2 has a value over the entire frequency band, and curve 2 is moved upward. To adjust the position of the zero point (FIG. 7B). Then, in order to complement the difference between the frequency response characteristics of the curve 1 and the curve 2 (shaded portion), the frequency response characteristic of the curve 1 in the frequency band is changed to the curve 2 for each limited frequency band of the image data S0. Is obtained as the degree of emphasis.

【0026】周波数処理手段13においては強調度算出
手段11において算出された強調度に基づいて、画像デ
ータS0に対して周波数強調処理を施して処理済み画像
データS1を得る。この周波数強調処理としては、例え
ば特開平10−75395号に記載された周波数処理方
法を用いることができる。この方法は、画像データS0
に基づいてまず鮮鋭度の異なる、すなわち周波数特性の
異なる複数のボケ画像信号を作成し、そのボケ画像信号
および画像データS0の中の2つの信号の差分を求める
ことにより、画像データS0のある限られた周波数帯域
の周波数成分を表す複数の帯域制限画像信号(以下バン
ドパス信号とする)を作成し、さらにそのバンドパス信
号を強調度算出手段11において算出された強調度によ
って変換してから、その複数のバンドパス信号を積算す
ることにより加算信号を作成し、この加算信号を画像デ
ータS0に加算して処理済み画像データS1を得るもの
である。この処理は例えば下記の式(1)により表すこ
とができる。
The frequency processing means 13 performs a frequency emphasis process on the image data S0 based on the emphasis degree calculated by the emphasis degree calculation means 11 to obtain processed image data S1. As the frequency emphasis processing, for example, a frequency processing method described in JP-A-10-75395 can be used. This method uses the image data S0
First, a plurality of blurred image signals having different sharpness levels, that is, different frequency characteristics, are generated based on the above, and a difference between the blurred image signal and two signals in the image data S0 is obtained. A plurality of band-limited image signals (hereinafter referred to as band-pass signals) representing frequency components of the obtained frequency band, and further converting the band-pass signals by the emphasis degree calculated by the emphasis degree calculation means 11, An addition signal is created by integrating the plurality of band-pass signals, and the addition signal is added to the image data S0 to obtain processed image data S1. This processing can be represented, for example, by the following equation (1).

【0027】 S1=S0+β(S0)×Fusm(S0,Sus1,Sus2,…SusN) Fusm(S0,Sus1,Sus2,…SusN) =f1(S0−Sus1)+f2(Sus1−Sus2)+… +fk(Susk-1−Susk)+…+fN(SusN-1−SusN) …(1) (但し、Susk(k=1〜N):ボケ画像信号 fk(k=1〜N):各バンドパス信号を変換する強調度 β(S0):画像データS0に基づいて定められる強調
係数) このように、強調度算出手段11において算出された強
調度に基づいて周波数処理を行うことにより、撮影時の
シーンが曲線1で示すように高輝度である場合には、1
0cycle/mm付近の中間周波数成分が他の周波数成分と比
較して強調されることとなるため、処理済み画像データ
S1を再生することにより得られる画像は、撮影時の高
輝度のシーンの印象を表すものとなる。
S1 = S0 + β (S0) × Fusm (S0, Sus1, Sus2,... SusN) Fusm (S0, Sus1, Sus2,... SusN) = f 1 (S0−Sus1) + f 2 (Sus1-Sus2) +. k (Susk-1−Susk) +... + f N (SusN−1−SusN) (1) (however, Susk (k = 1 to N): blurred image signal f k (k = 1 to N): each band Emphasis degree β (S0) for converting pass signal: emphasis coefficient determined based on image data S0 As described above, frequency processing is performed based on the emphasis degree calculated by emphasis degree calculation means 11, so that a photographing time can be obtained. Is high brightness as shown by curve 1,
Since the intermediate frequency component around 0 cycle / mm is emphasized in comparison with other frequency components, an image obtained by reproducing the processed image data S1 has an impression of a high-luminance scene at the time of shooting. To represent.

【0028】次いで、第2の実施形態の動作について説
明する。図8は第2の実施形態の動作を示すフローチャ
ートである。なお、図8におけるステップS11からス
テップS15までの処理は、上記第1の実施形態におけ
るステップS1からステップS5までの処理と同一であ
るため、ここでは詳細な説明は省略し、ステップS16
以降の処理についてのみ説明する。強調度算出手段11
において、読出手段7にて読み出された絶対輝度情報K
および画像データS0、さらにはデータベース12に記
憶されたデータに基づいて、周波数処理を行う際の強調
度が算出され(ステップS16)、周波数処理手段13
に入力される。周波数処理手段13においては、強調度
算出手段11において算出された強調度に基づいて、上
記式(1)で示す周波数処理が行われ処理済み画像デー
タS1が得られる(ステップS17)。処理済み画像デ
ータS1は出力手段9においてプリント出力されて(ス
テップS18)、処理を終了する。
Next, the operation of the second embodiment will be described. FIG. 8 is a flowchart showing the operation of the second embodiment. Since the processing from step S11 to step S15 in FIG. 8 is the same as the processing from step S1 to step S5 in the first embodiment, detailed description is omitted here, and step S16 is omitted.
Only the subsequent processing will be described. Emphasis degree calculating means 11
, The absolute luminance information K read by the reading means 7
Based on the image data S0 and the data stored in the database 12, the degree of emphasis when performing frequency processing is calculated (step S16), and the frequency processing unit 13
Is input to The frequency processing means 13 performs the frequency processing represented by the above equation (1) based on the emphasis degree calculated by the emphasis degree calculation means 11, and obtains processed image data S1 (step S17). The processed image data S1 is printed out by the output means 9 (step S18), and the processing is terminated.

【0029】このように、第2の実施形態においては、
撮影時におけるシーンの絶対輝度に関する絶対輝度情報
Kに基づいて、画像データに対して周波数処理を施すよ
うにしたため、撮影時の輝度に応じた周波数成分が強調
されることとなり、撮影時のシーンの輝度を反映した画
像を表す処理済み画像データS1を得ることができる。
したがって、処理済み画像データS1を再生することに
より、撮影時の輝度の印象に応じた画像を得ることがで
きる。
As described above, in the second embodiment,
Since the frequency processing is performed on the image data based on the absolute luminance information K relating to the absolute luminance of the scene at the time of shooting, the frequency component corresponding to the luminance at the time of shooting is emphasized, The processed image data S1 representing the image reflecting the luminance can be obtained.
Therefore, by reproducing the processed image data S1, it is possible to obtain an image according to the luminance impression at the time of shooting.

【0030】なお、上記第1の実施形態においては階調
処理を、第2の実施形態においては周波数処理を行うこ
とにより、撮影時の輝度を反映した処理済み画像データ
S1を得ているが、階調処理および周波数処理の双方を
行うことにより処理済み画像データS1を得るようにし
てもよい。
The processed image data S1 reflecting the luminance at the time of photographing is obtained by performing the gradation processing in the first embodiment and the frequency processing in the second embodiment. The processed image data S1 may be obtained by performing both the gradation processing and the frequency processing.

【0031】また、上記各実施形態においては、デジタ
ルカメラ1に輝度計6を設けて撮影時の輝度を測定し、
これを絶対輝度情報Kとしているが、撮像手段4におい
て取得された露出補正前の原画像データS′に基づい
て、撮像手段4に用いられているCCDの特性、絞りの
値等を考慮して撮影時の輝度を求め、これを絶対輝度情
報Kとしてもよい。また、AE手段5を有さないデジタ
ルカメラ1の場合は、撮像手段4において得られた原画
像データS′が記録メディア2に記録されてラボ3に受
け渡されるが、この場合にCCDの特性や絞り値に関す
る情報を記録メディア2に記録し、ラボ3においてこれ
らの情報および原画像データS′に基づいて撮影時の輝
度を求め、これを絶対輝度情報Kとしてもよい。具体的
には以下のようにして求めることができる。CCDにお
ける露光量をE、絞り値(Fナンバー)をF、シーンの
絶対輝度をIとすると、これらの関係は下記の式(2)
で表すことができる。なお、式(2)においてkは定数
である。
Further, in each of the above embodiments, the digital camera 1 is provided with the luminance meter 6 to measure the luminance at the time of photographing.
This is referred to as the absolute luminance information K. However, based on the original image data S ′ before the exposure correction acquired by the imaging unit 4, the characteristics of the CCD used in the imaging unit 4, the aperture value, and the like are considered. The luminance at the time of shooting may be obtained, and this may be used as the absolute luminance information K. In the case of the digital camera 1 without the AE means 5, the original image data S 'obtained by the imaging means 4 is recorded on the recording medium 2 and transferred to the laboratory 3, but in this case, the characteristics of the CCD Alternatively, information about the aperture value and the aperture value may be recorded on the recording medium 2, and the luminance at the time of photographing may be obtained in the laboratory 3 based on the information and the original image data S ′. Specifically, it can be obtained as follows. Assuming that the exposure amount in the CCD is E, the aperture value (F number) is F, and the absolute luminance of the scene is I, these relations are expressed by the following equation (2).
Can be represented by Note that, in equation (2), k is a constant.

【0032】E=k・I/F2 (2) また、CCDにおける露光量とCCDからの出力値すな
わち画素値との関係はCCDの特性により決まってお
り、CCDからの出力値をQとすると下記の式(3)で
表すことができる。
E = k · I / F 2 (2) The relationship between the exposure amount of the CCD and the output value from the CCD, that is, the pixel value is determined by the characteristics of the CCD. It can be represented by the following equation (3).

【0033】Q=f(E) (3) したがって、式(2)および(3)より絶対輝度Iは、
絞り値FおよびCCDからの出力値Qにより下記の式
(4)のように表すことができ、このようにして求めら
れた絶対輝度Iを絶対輝度情報Kとすればよい。
Q = f (E) (3) Therefore, from equations (2) and (3), the absolute luminance I is
The aperture value F and the output value Q from the CCD can be expressed as the following equation (4), and the absolute luminance I obtained in this way may be used as the absolute luminance information K.

【0034】I=F2・f-1(Q)/k (4) さらに、上記各実施形態においては、デジタルカメラ1
により取得された画像データS0に対して処理を行って
いるが、フイルムに記録された画像を読み取ることによ
り得られた画像データに対しても、上記と同様に絶対輝
度情報Kに基づいて、階調処理および/または周波数処
理を施すことができる。この場合、画像データはラボ3
において露出補正を施したものであってもよく、露出補
正を施さないものであってもよい。さらにこの場合、絶
対輝度情報KはFD等の記録媒体に記録してラボ3に受
け渡せばよい。また、フイルムが磁気情報を記録可能な
いわゆるAPSフイルムである場合には、APSフイル
ムの磁気記録部に絶対輝度情報Kを記録してもよい。さ
らに、撮影時の絞り値等の情報をラボ3に受け渡し、ラ
ボ3において得られた画像データとこれらの情報とに基
づいて撮影時の輝度を求め、これを絶対輝度情報Kとし
てもよい。
I = F 2 · f −1 (Q) / k (4) In each of the above embodiments, the digital camera 1
Is performed on the image data S0 obtained by the above-described method, but the image data obtained by reading the image recorded on the film is also processed based on the absolute luminance information K in the same manner as described above. Keying and / or frequency processing can be performed. In this case, the image data is
The exposure correction may be performed, or the exposure correction may not be performed. Further, in this case, the absolute luminance information K may be recorded on a recording medium such as an FD and transferred to the laboratory 3. When the film is a so-called APS film capable of recording magnetic information, the absolute luminance information K may be recorded in a magnetic recording section of the APS film. Further, information such as an aperture value at the time of photographing may be transferred to the laboratory 3, and the luminance at the time of photographing may be obtained based on the image data obtained at the laboratory 3 and the information, and may be used as the absolute luminance information K.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の第1の実施形態による画像処理装置を
適用した画像出力システムの構成を示す概略ブロック図
FIG. 1 is a schematic block diagram illustrating a configuration of an image output system to which an image processing device according to a first embodiment of the present invention has been applied.

【図2】輝度と輝度に対する見かけの明るさとの関係を
表すグラフ
FIG. 2 is a graph showing a relationship between luminance and apparent luminance with respect to luminance.

【図3】図2において輝度のコントラストを表す部分の
みを示すグラフ
FIG. 3 is a graph showing only a portion representing luminance contrast in FIG. 2;

【図4】第1の実施形態の動作を示すフローチャートFIG. 4 is a flowchart showing the operation of the first embodiment;

【図5】本発明の第2の実施形態による画像処理装置を
適用した画像出力システムの構成を示す概略ブロック図
FIG. 5 is a schematic block diagram illustrating a configuration of an image output system to which an image processing device according to a second embodiment of the present invention is applied.

【図6】輝度別の空間周波数と目の周波数応答特性との
関係を表すグラフ
FIG. 6 is a graph showing a relationship between a spatial frequency for each luminance and a frequency response characteristic of an eye.

【図7】強調度の算出を説明するための図FIG. 7 is a diagram for explaining calculation of a degree of emphasis;

【図8】第2の実施形態の動作を示すフローチャートFIG. 8 is a flowchart showing the operation of the second embodiment.

【符号の説明】[Explanation of symbols]

1 デジタルカメラ 2 記録メディア 3 ラボ 4 撮像手段 5 AE手段 6 輝度計 7 読出手段 8 階調処理手段 9 出力手段 11 強調度算出手段 12 データベース 13 周波数処理手段 DESCRIPTION OF SYMBOLS 1 Digital camera 2 Recording medium 3 Lab 4 Imaging means 5 AE means 6 Luminance meter 7 Reading means 8 Gradation processing means 9 Output means 11 Emphasis degree calculation means 12 Database 13 Frequency processing means

───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5B057 CE06 CE11 5C023 AA01 AA37 BA07 BA08 CA01 DA04 DA08 5C053 FA08 FA23 FA27 GB40 HA40 KA01 KA24 LA01 LA03 5C077 PP03 PP15 PP43 TT09  ──────────────────────────────────────────────────続 き Continued on the front page F term (reference) 5B057 CE06 CE11 5C023 AA01 AA37 BA07 BA08 CA01 DA04 DA08 5C053 FA08 FA23 FA27 GB40 HA40 KA01 KA24 LA01 LA03 5C077 PP03 PP15 PP43 TT09

Claims (6)

【特許請求の範囲】[Claims] 【請求項1】 撮影により取得された画像を表す画像デ
ータに対して画像処理を施す画像処理方法において、 撮影時におけるシーンの絶対輝度に関する絶対輝度情報
を取得し、 該絶対輝度情報に基づいて、前記画像データに対して階
調および/または周波数特性を変更する画像処理を施し
て処理済み画像データを得ることを特徴とする画像処理
方法。
1. An image processing method for performing image processing on image data representing an image acquired by photographing, comprising: acquiring absolute luminance information regarding an absolute luminance of a scene at the time of photographing; An image processing method, comprising: performing image processing for changing gradation and / or frequency characteristics on the image data to obtain processed image data.
【請求項2】 前記画像処理は、前記処理済み画像デー
タにより表される画像が、撮影時において知覚される階
調および/または周波数特性に近づくように、前記画像
データの階調および/または周波数特性を変更する処理
であることを特徴とする請求項1記載の画像処理方法。
2. The image processing according to claim 1, wherein the image represented by the processed image data has a gradation and / or frequency that is close to a gradation and / or frequency characteristic perceived during photographing. 2. The image processing method according to claim 1, wherein the process is a process of changing characteristics.
【請求項3】 撮影により取得された画像を表す画像デ
ータに対して画像処理を施す画像処理装置において、 撮影時におけるシーンの絶対輝度に関する絶対輝度情報
を取得する輝度情報取得手段と、 該絶対輝度情報に基づいて、前記画像データに対して階
調および/または周波数特性を変更する画像処理を施し
て処理済み画像データを得る処理手段とを備えたことを
特徴とする画像処理装置。
3. An image processing apparatus for performing image processing on image data representing an image acquired by photographing, comprising: luminance information acquiring means for acquiring absolute luminance information relating to absolute luminance of a scene at the time of photographing; An image processing apparatus comprising: a processing unit configured to perform image processing for changing gradation and / or frequency characteristics on the image data based on information to obtain processed image data.
【請求項4】 前記処理手段は、前記処理済み画像デー
タにより表される画像が、撮影時において知覚される階
調および/または周波数特性に近づくように、前記画像
データの階調および/または周波数特性を変更する処理
を行う手段であることを特徴とする請求項3記載の画像
処理装置。
4. The image processing apparatus according to claim 1, wherein the processing unit is configured to adjust a gradation and / or a frequency of the image data so that an image represented by the processed image data approaches a gradation and / or a frequency characteristic perceived during photographing. 4. The image processing apparatus according to claim 3, wherein said means is a means for performing a process of changing characteristics.
【請求項5】 撮影により取得された画像を表す画像デ
ータに対して画像処理を施す画像処理方法をコンピュー
タに実行させるためのプログラムを記録したコンピュー
タ読取り可能な記録媒体において、 前記プログラムは、撮影時におけるシーンの絶対輝度に
関する絶対輝度情報を取得する手順と、 該絶対輝度情報に基づいて、前記画像データに対して階
調および/または周波数特性を変更する画像処理を施し
て処理済み画像データを得る手順とを有することを特徴
とするコンピュータ読取り可能な記録媒体。
5. A computer-readable recording medium in which a program for causing a computer to execute an image processing method for performing image processing on image data representing an image obtained by photographing is provided. Acquiring the absolute luminance information relating to the absolute luminance of the scene in the above, and performing image processing for changing gradation and / or frequency characteristics on the image data based on the absolute luminance information to obtain processed image data And a computer-readable recording medium.
【請求項6】 前記画像処理を施して処理済み画像デー
タを得る手順は、前記処理済み画像データにより表され
る画像が、撮影時において知覚される階調および/また
は周波数特性に近づくように、前記画像データの階調お
よび/または周波数特性を変更する処理を施す手順であ
ることを特徴とする請求項5記載のコンピュータ読取り
可能な記録媒体。
6. The step of obtaining the processed image data by performing the image processing, wherein the image represented by the processed image data approaches a tone and / or frequency characteristic perceived at the time of shooting. 6. The computer-readable recording medium according to claim 5, wherein the step of performing a process of changing a gradation and / or a frequency characteristic of the image data.
JP06165199A 1999-03-09 1999-03-09 Image processing method and apparatus, and recording medium Expired - Fee Related JP4426009B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP06165199A JP4426009B2 (en) 1999-03-09 1999-03-09 Image processing method and apparatus, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP06165199A JP4426009B2 (en) 1999-03-09 1999-03-09 Image processing method and apparatus, and recording medium

Publications (2)

Publication Number Publication Date
JP2000261719A true JP2000261719A (en) 2000-09-22
JP4426009B2 JP4426009B2 (en) 2010-03-03

Family

ID=13177353

Family Applications (1)

Application Number Title Priority Date Filing Date
JP06165199A Expired - Fee Related JP4426009B2 (en) 1999-03-09 1999-03-09 Image processing method and apparatus, and recording medium

Country Status (1)

Country Link
JP (1) JP4426009B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003047023A (en) * 2001-07-31 2003-02-14 Sanyo Electric Co Ltd Digital camera and image-outputting apparatus, and image-processing system
WO2004008754A1 (en) * 2002-07-12 2004-01-22 Seiko Epson Corporation Output image adjustment of image data
US7301566B2 (en) 2003-07-11 2007-11-27 Seiko Epson Corporation Adjustment for output image of image data

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003047023A (en) * 2001-07-31 2003-02-14 Sanyo Electric Co Ltd Digital camera and image-outputting apparatus, and image-processing system
WO2004008754A1 (en) * 2002-07-12 2004-01-22 Seiko Epson Corporation Output image adjustment of image data
CN100359938C (en) * 2002-07-12 2008-01-02 精工爱普生株式会社 Image processing apparatus and method
JP2009141966A (en) * 2002-07-12 2009-06-25 Seiko Epson Corp Output image adjustment of image data
US7719574B2 (en) 2002-07-12 2010-05-18 Seiko Epson Corporation Output image adjustment of image data
US7301566B2 (en) 2003-07-11 2007-11-27 Seiko Epson Corporation Adjustment for output image of image data

Also Published As

Publication number Publication date
JP4426009B2 (en) 2010-03-03

Similar Documents

Publication Publication Date Title
US10412296B2 (en) Camera using preview image to select exposure
JP4826028B2 (en) Electronic camera
CN101090458B (en) Image processing device, imaging device, image output device and methods thereof
CN101527860B (en) White balance control apparatus, control method therefor, and image sensing apparatus
JP3668014B2 (en) Image processing method and apparatus
WO2020034737A1 (en) Imaging control method, apparatus, electronic device, and computer-readable storage medium
US8059187B2 (en) Image capturing apparatus
JP3733165B2 (en) Image data conversion method for digital printer
WO2020034701A1 (en) Imaging control method and apparatus, electronic device, and readable storage medium
JP2003348438A (en) Image photographing method and apparatus, image selecting method and apparatus, and program
JP2019047169A (en) Apparatus, method, and program for creating high dynamic range image
JP4066803B2 (en) Image processing apparatus, image processing program, image processing method, and electronic camera
JP2002300402A (en) Image processor, processing method and recording medium
WO2019124289A1 (en) Device, control method, and storage medium
JP2011228807A (en) Image processing program, image processing apparatus, and image processing method
JP5076650B2 (en) Imaging apparatus and image processing program
JP4104904B2 (en) Image processing method, apparatus, and program
JP2003244620A (en) Image processing method and apparatus, and program
CN102090054B (en) Imaging device, image processing device and image processing method
JP2002092607A (en) Image processing apparatus, image state determination method, and recording medium
US20090207285A1 (en) Image capturing system, image processing method, and computer- readable recording medium having image processing program recorded thereon
JP4006590B2 (en) Image processing apparatus, scene determination apparatus, image processing method, scene determination method, and program
JP4426009B2 (en) Image processing method and apparatus, and recording medium
JP5561389B2 (en) Image processing program, image processing apparatus, electronic camera, and image processing method
JP5282533B2 (en) Image processing apparatus, imaging apparatus, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040823

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060811

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060822

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061020

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20061130

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070403

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070529

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20070625

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20070803

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091210

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121218

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees