JP3876932B2 - 画像処理方法 - Google Patents

画像処理方法 Download PDF

Info

Publication number
JP3876932B2
JP3876932B2 JP15719596A JP15719596A JP3876932B2 JP 3876932 B2 JP3876932 B2 JP 3876932B2 JP 15719596 A JP15719596 A JP 15719596A JP 15719596 A JP15719596 A JP 15719596A JP 3876932 B2 JP3876932 B2 JP 3876932B2
Authority
JP
Japan
Prior art keywords
value
image
maximum value
film
reference maximum
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP15719596A
Other languages
English (en)
Other versions
JPH0968764A (ja
Inventor
学 兵藤
宏志 田中
Original Assignee
富士フイルムホールディングス株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルムホールディングス株式会社 filed Critical 富士フイルムホールディングス株式会社
Priority to JP15719596A priority Critical patent/JP3876932B2/ja
Publication of JPH0968764A publication Critical patent/JPH0968764A/ja
Application granted granted Critical
Publication of JP3876932B2 publication Critical patent/JP3876932B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Control Of Exposure In Printing And Copying (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Analysis (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は画像処理方法に係り、特にフイルム画像の露光アンダー、オーバー等の露光状態を判定し、その判定結果に対応して画像処理する画像処理方法に関する。
【0002】
【従来の技術】
図11はネガフイルムの特性曲線を示すグラフであり、A、B及びCはそれぞれ標準、露光アンダー及びオーバーの露光域を示している。同図に示すように、撮影時の露光がアンダーもしくはオーバーなネガ画像は、標準露光のネガ画像と階調特性が異なり、ガンマ特性も異なる。尚、種々の階調特性をもった画像信号に対応できるように、可変ガンマを用いた信号処理回路としては、特開平4−107083号公報に記載のものがある。この信号処理回路は、アナログ処理で、ニー特性をもつガンマ補正回路の前段及び後段にそれぞれ可変ゲイン増幅回路を設け、これらの可変ゲイン増幅回路のゲインを調整することによりガンマを変えるようにしている。
【0003】
また、露光アンダー及びオーバーのネガ画像は、図11からも明らかなように濃度域が標準露光のものよりも狭い。特願平6−274946号明細書には、軟調な画像や硬調な画像の調子を整える画像処理方法が提案されている。
一方、従来、カラー画像を撮像して得たR,G,Bの画像信号のホワイトバランス、ブラックバランスを調整する画像処理方法として、R,G,Bの画像信号からそれぞれ基準最大値及び基準最小値を求め、これらの基準最大値及び基準最小値がそれぞれ所定の階調となるようにオフセット及びホワイトバランスゲインを求め、これらのオフセット及びホワイトバランスゲインによってR,G,Bの画像信号のオフセット及びゲイン制御を行う方法がある。尚、上記基準最大値及び基準最小値は、画像信号の各階調に対するヒストグラムを求め、そのヒストグラムから基準最大値及び基準最小値を決定するようにしている。
【0004】
【発明が解決しようとする課題】
ところで、対数変換を用いないで画像信号のガンマ補正等を行う場合には、アンダーもしくはオーバーなネガ画像は、標準露光のネガ画像とガンマ特性が異なるため、露光状態に応じたガンマ補正を行う必要がある。標準露光のネガ画像と同様なガンマ補正を行うと、アンダーなネガ画像は暗くなり、オーバーなネガ画像は明るすぎて調子が好ましくないという問題がある。
【0005】
また、軟調な画像や硬調な画像の調子を整える際に、アンダーもしくはオーバーなネガ画像に対して、標準露光のネガ画像と同様にして画像の調子を整えると、調子が変わり過ぎて不自然になるという問題がある。
更に、極端に彩度の高い領域が存在するカラー画像においては、R,G,B毎の基準最大値、基準最小値がばらつく傾向にあり、例えば、図12に示すように、Bの基準最小値が他の色の基準最小値よりも極端に大きくなる場合がある。
【0006】
このような場合に、R,G,Bの画像信号から得られた基準最大値及び基準最小値をそのまま使用して、R,G,Bの画像信号のオフセット及びゲイン制御を行うと、ホワイトバランスもしくはブラックバランスを崩し、良好な色再現が実現できないという問題が生じる。
即ち、図12に示すようなシーンでは、Bの画像信号のホワイトバランスゲインが他の色の画像信号よりも極端に強くかけられてしまうため、全体的に青くなってしまうという問題(カラーフェリア)が生じる。
【0007】
本発明の目的は、フイルム画像の露光アンダー、オーバー等の露光状態を簡単に且つ精度よく判定することができる画像処理方法を提供することにある。
本発明の他の目的は、フイルム画像の露光状態がばらついていても、良好な調子再現ができる画像処理方法を提供することにある。
本発明の更に他の目的は、極端に彩度の高い領域が存在し、各色別の基準最大値、基準最小値が大きくばらつくようなカラー画像であっても、良好な色再現が実現できる画像処理方法を提供することにある。
【0008】
【課題を解決するための手段】
本発明は前記目的を達成するために、現像済み写真フイルムに写し込まれたフイルム画像を撮像し、前記撮像時に得られた画像信号の基準最大値及び前記画像信号の平均値を求め、前記求めた基準最大値を用いて前記フイルム画像の露光状態を判定し、前記求めた基準最大値が、当該基準最大値に基づく前記フイルム画像の露光状態の判定精度が保証される値以上になると、前記基準最大値に代えて前記平均値に基づいて前記フイルム画像の露光状態を判定し、これにより精度の高い露光状態の判定を可能にしている。
例えば、ネガフイルムの露光状態の判定は基準最大値を用い、この基準最大値がオーバー露光判定ための基準値以下の場合には、オーバー露光とみなし、アンダー露光判定ための基準値以上の場合には、アンダー露光とみなし、アンダー露光の場合には基準最大値に代えて平均値に基づいてネガフイルム画像の露光状態を判定する。
【0009】
尚、これらの判定に用いる基準最大値及び基準最小値は、もともと画像処理に利用されるもので、露光状態の判定のために別途検出する必要がなく、露光状態の判定を簡便に行うことができる。更に、複数回の撮像によって得た複数の基準最大値等を平均した値に基づいてフイルム画像の露光状態を判定し、これにより精度の高い露光状態の判定を可能にしている。更にまた、フイルムの未露光部分の撮像時に得られる画像信号の平均値に基づいて前記基準最大値等を正規化し、これによりフイルムベースの濃度やアンプゲイン等の影響を受けない値を得るようにしている。
【0010】
また、本発明は、フイルム画像を撮像して得た画像信号の基準最大値及び基準最小値を求め、該基準最大値及び基準最小値がそれぞれ所定の階調となるように前記画像信号を補正した後、ガンマ補正する画像処理方法において、前記フイルム画像の露光状態を判定し、前記露光状態の判定結果に基づいてアンダー露光と判定すると、前記ガンマ補正時のガンマを標準露光時に比べて小さくし、これにより中間調が暗くならないようにし、また、オーバー露光と判定すると、前記ガンマ補正時のガンマを標準露光時に比べて大きくし、これにより中間調が明るすぎないように調子を整えるようにしている。
【0011】
更に、本発明は、フイルム画像を撮像して得た画像信号の基準最大値及び基準最小値を求め、前記基準最大値と基準最小値との比又は差が、所望の調子が得られるように予め設定した第1の閾値と第2の閾値との範囲に入るように前記基準最大値及び基準最小値のうちの少なくとも一方を補正し、その補正した基準最大値及び基準最小値がそれぞれ所定の階調となるように前記画像信号を補正し、これにより硬調及び硬調の画像が所望の調子となるように整えるようにしている。このとき、前記基準最大値及び基準最小値のうちの少なくとも一方を補正する時の前記第1の閾値及び第2の閾値を、フイルム画像の露光状態によって変更するようにしている。即ち、アンダー露光又はオーバー露光と判定すると、前記第1の閾値及び第2の閾値を、それらよりもそれぞれ低い第3の閾値及び第4の閾値に変更し、これにより、アンダー露光又はオーバー露光のフイルム画像の調子が不自然に変わらず、良好な調子再現ができるようにしている。
【0012】
また、本発明は、カラー画像を撮像して各色別の画像信号を得、この撮像時に得られた各色別の画像信号の基準最大値及び基準最小値を求め、該基準最大値及び基準最小値がそれぞれ所定の階調となるように前記画像信号を補正し、これにより各色別の基準最大値、基準最小値が大きくばらつくようなカラー画像であっても良好な色再現が実現できるようにしている。即ち、各色別の基準最大値の比又は差を求め、この比又は差が所望のホワイトバランス調整が可能な所定の範囲内か否かを判別し、前記所定の範囲を越えている場合には、各基準最大値及び/又は各基準最小値が互いに近づくように各色別の基準最大値及び/又は基準最小値を補正する。これにより、各基準最大値、基準最小値のバラツキが抑制され、良好な色再現が実現できるようになる。尚、基準最大値の代わりに基準最小値を用いて上記と同様な判別を行うようにしてもよい。
【0013】
【発明の実施の形態】
以下添付図面に従って本発明に係る画像処理方法の好ましい実施の形態に付いて詳説する。
図1は本発明が適用されるフイルムスキャナの実施の形態を示す要部ブロック図である。このフイルムスキャナは、主として照明用の光源10、撮影レンズ12、CCDラインセンサ14、アナログアンプ16、A/Dコンバータ18、デジタル信号処理回路20、モータ31、キャプスタン32及びピンチローラ33を含むフイルム駆動装置、中央処理装置(CPU)40、積算ブロック41等を備えている。
【0014】
光源10は、フイルムカートリッジ50内から引き出される現像済みのネガフイルム52を図示しない赤外カットフィルタを介して照明し、フイルム52を透過した透過光は、撮影レンズ12を介してCCDラインセンサ14の受光面に結像される。
CCDラインセンサ14は、フイルム搬送方向と直交する方向に1024画素分の受光部が配設されており、CCDラインセンサ14の受光面に結像された画像光は、R,G,Bフィルタが設けられた各受光部で電荷蓄積され、光の強さに応じた量のR,G,Bの信号電荷に変換される。このようにして蓄積されたR,G,Bの電荷は、CCD駆動回路15から加えられる1ライン周期のリードゲートパルスが加えられると、シフトレジスタに転送されたのちレジスタ転送パルスによって順次電圧信号として出力される。また、このCCDラインセンサ14は、各受光部に隣接してシャッターゲート及びシャッタードレインが設けられており、このシャッターゲートをシャッターゲートパルスによって駆動することにより、受光部に蓄積された電荷をシャッタードレインに掃き出すことができる。即ち、このCCDラインセンサ14は、CCD駆動回路15から加えられるシャッターゲートパルスに応じて受光部に蓄積する電荷を制御することができる、いわゆる電子シャッター機能を有している。
【0015】
上記CCDラインセンサ14から読み出されたR,G,B電圧信号は、図示しないCDSクランプによってクランプされてアナログアンプ16に加えられ、ここで後述するようにゲインが制御される。アナログアンプ16から出力される1コマ分のR,G,B電圧信号は、A/Dコンバータ18によって点順次のR,G,Bデジタル画像信号に変換されたのち、デジタル信号処理回路20によって後述する白バランス、黒バランス、ネガポジ反転、ガンマ補正等が行われたのち、図示しない画像メモリに記憶される。
【0016】
尚、画像メモリに記憶された1コマ分の画像信号は、繰り返し読み出され、D/Aコンバータによってアナログ信号に変換されたのち、エンコーダでNTSC方式の複合映像信号に変換されてモニタTVに出力される。これにより、モニタTVよってフイルム画像を見ることができるようになる。
フイルム駆動装置は、フイルムカートリッジ50のスプール50Aと係合し、そのスプール50Aを正転/逆転駆動するフイルム供給部と、このフイルム供給部から送出されるフイルム52を巻き取るフイルム巻取部と、フイルム搬送路に配設され、フイルム52をモータ31によって駆動されるキャプスタン32とピンチローラ33とで挟持してフイルム52を所望の速度で搬送する手段とから構成されている。尚、上記フイルム供給部は、フイルムカートリッジ50のスプール50Aを図1上で時計回り方向に駆動し、フイルム先端がフイルム巻取部によって巻き取られるまでフイルムカートリッジ50からフイルム52を送り出すようにしている。また、CPU40は、モータ回転数/方向制御回路34を通じてモータ31の正転/逆転、起動/停止、パルス幅変調によるフイルム搬送速度の制御を行うことができる。
【0017】
次に、図2に示すフローチャートを参照しながら画像処理の手順を説明する。まず、フイルムカートリッジ50がカートリッジ収納部(図示せず)にセットされ、フイルムカートリッジ50からフイルム52が送り出されてフイルム先端がフイルム巻取部の巻取軸に巻き付けられると(フイルムローディングが完了すると)、以下に示すキャリブレーションを実行する(ステップS10)。
【0018】
即ち、CCDラインセンサ14の電子シャッタ値T1 を規定値(例えば40%)に設定し、フイルム52の未露光部分(例えば、フイルム先端のネガベース)を撮像する。そして、R,G,Bの各信号がそれぞれ所定の最大値(即ち、A/Dコンバータ18の入力レンジが最大)になるようにアナログアンプ16のゲインを決定する。
【0019】
このようにしてアナログアンプ16のゲインを調整したのち、フイルム52を一定速度で搬送し、フイルム画像のスキャン(プリスキャン)を実行する(ステップS20)。このプリスキャン中に、CCDラインセンサ14、アナログアンプ16及びA/Dコンバータ18を介して積算ブロック41に点順次のR,G,Bデジタル画像信号が取り込まれる。
【0020】
積算ブロック41は、R,G,Bデジタル画像信号毎に所定の積算エリアのデジタル画像信号の階調(この実施の形態では、8ビット(0〜255)の階調)を積算し、その積算エリアの平均階調を求め、1画面に付き5000〜10000点数の積算エリアの各階調データを作成する。更に、積算ブロック41は、順次作成される階調データに基づいて各階調毎の度数をカウントし、この度数が階調データの総点数に対して設定された閾値TH(この実施の形態では総点数の1%)を越えた場合にはカウントを停止する。
【0021】
即ち、積算ブロック41は、図3に示すように0〜255までの全ての階調に対して最大閾値THまでカウントした簡易ヒストグラム(図3中の斜線で示すヒストグラム)を作成する(ステップS21)。尚、上記閾値THを越える度数をカウントしないことにより、カウンタのビット数を大幅に低減することができる。また、図3上で2点鎖線は、総点数をカウントした場合の本来のヒストグラムである。
【0022】
CPU40は、図3に示した簡易ヒストグラムの階調の小さい方から度数を順次累算し、その累算度数が前記閾値THと一致又は最初に越えたときの階調を基準最小値としてR,G,B毎に求めるとともに、簡易ヒストグラムの階調の大きい方から度数を順次累算し、その累算度数が前記閾値THと一致又は最初に越えたときの階調を基準最大値としてR,G,B毎に求める。更に、簡易ヒストグラムより、R,G,B中の最大値Dmax を求める(ステップS22)。
【0023】
次に、上記のようにして求めた基準最大値及び基準最小値に基づいてフイルム画像の露光アンダー、オーバー等の露光状態の判定、及び軟調、硬調等の調子判定を行い、また、最大値Dmax により電子シャッタ値T2 を決定する(ステップS23)。即ち、露光状態の判定は基準最大値を用い、この基準最大値がオーバー露光判定のための基準値以下の場合には、オーバー露光とみなし、アンダー露光判定のための基準値以上の場合には、アンダー露光とみなす。
【0024】
尚、フイルム画像の露光状態の判定は、アンダー露光、標準露光、及びオーバー露光の判定に限らず、より細かく露光状態を判定するようにしてもよい。また、露光状態の判定は基準最大値を用いる場合に限らず、上記基準最小値や前述した全階調データの平均値を用いるようにしてもよく、更には基準最大値、基準最小値及び平均値のうちの任意の2つ又は3つを使用して露光状態の判定を行うようにしてもよい。
【0025】
図4はフイルム画像の露光状態に対応する基準最大値と平均値とを示す折れ線グラフである。
ここで、図4に示す基準最大値及び平均値は、それぞれステップS10でのキャリブレーション後に、ネガベースを撮像して得られた画像信号の平均値によって、次式に示すように正規化した値である。
【0026】
【数1】
Figure 0003876932
【0027】
【数2】
Figure 0003876932
尚、上記のように正規化した値を使用することにより、キャリブレーション時の最大値に若干変動幅(アナログゲインの決定にある幅)があっても、その影響を受けない基準最大値及び平均値が得られる。
【0028】
図4に示す基準最大値の3本の折れ線グラフは、標準露光のフイルム画像と、−1EV〜−3EVのアンダー露光のフイルム画像と、ネガベースと、1EV〜6EVのオーバー露光のフイルム画像をそれぞれ30回撮像し、この撮像によって求めた30個の基準最大値の平均値(図4上の◆)から作成した折れ線グラフと、30個の基準最大値の最大値(図4上の■)から作成した折れ線グラフと、30個の基準最大値の最小値(図4上の▲)から作成した折れ線グラフである。同様に、図4に示す平均値の折れ線グラフは、或る1回の撮像によって求めたフイルム画像の平均値から作成した折れ線グラフである。
【0029】
同図に示すように、アンダー露光(−1EV〜−3EV)のフイルム画像は、露光状態の変化に対する基準最大値の変化が小さく(即ち、折れ線グラフの勾配が小さく)、式(1)によって求めた正規化した基準最大値に基づいてフイルム画像の露光状態を正確に判定することができない。例えば、−2EVのフイルム画像の30個の基準最大値のうちの最大値(図4上の■)は、−3EVのフイルム画像の30個の基準最大値のうちの最小値(図4上の▲)よりも大きくなり、基準最大値の大きさとフイルム画像の露光状態との関係が逆になる場合がある。
【0030】
そこで、本発明の他の実施の形態では、基準最大値以外にフイルム画像の平均値を用い、アンダー露光のフイルム画像の露光状態は、平均値に基づいて判定するようにしている。
即ち、正規化した基準最大値が所定の値(基準最大値に基づくフイルム画像の露光状態の判定精度が保証される値で、図4に示す実施の形態では110)以上になると、前記正規化した基準最大値に代えて、式(2)によって求めた正規化した平均値に基づいてフイルム画像の露光状態を判定するようにしている。
【0031】
正規化した平均値は、フイルム画像がアンダー露光の場合には図4に示すように正規化した基準最大値よりも勾配が大きい。従って、フイルム画像がアンダー露光の場合に、正規化した平均値に基づいてフイルム画像の露光状態を判定することにより、精度の良い判定ができる。
また、夜間に人物をフラッシュ撮影したフイルム画像の場合、そのフイルム画像の最大基準値は、フラッシュの届かない背景に依存した値となるが、平均値はフラッシュによって照明された人物の明るさが加味される。従って、正規化した平均値を用いてフイルム画像の露光状態を判定することにより、人物(主要被写体)を重視した露光状態の判定ができるという利点がある。
【0032】
尚、上記実施の形態では、基準最大値と平均値とを切り替えて使用するようにしたが、これに限らず、基準最大値、基準最小値及び平均値のうち、フイルム画像の露光状態に応じてフイルム画像の露光状態の判定精度が高くなる値を適宜選択し、その選択した値に基づいてフイルム画像の露光状態を判定するようにしてもよい。
【0033】
また、フイルム画像の露光状態を判定するためのフイルム画像から得られる情報として、同一のフイルム画像を複数回撮像して得られた複数の基準最大値を平均した値(図4上の◆で示した折れ線グラフ参照)を使用してもよい。この場合には、アンダー露光のフイルム画像でも高精度に基準最大値を求めることができるため、フイルム画像の露光状態を正確に判定することができる。尚、上記平均化した基準最大値に限らず、平均化した基準最小値、平均化したフイルム画像の平均値等を用いてフイルム画像の露光状態を判定してもよい。
【0034】
一方、フイルム画像の軟調、硬調等の調子判定は、基準最大値と基準最小値との比(以下、輝度比という)に基づいて行う。即ち、Gの輝度比Gmax /Gmin と、硬調を示す所定の閾値Th1 及び軟調を示す所定の閾値Th2 とを比較する。そして、輝度比Gmax /Gmin が閾値Th1 以下の場合には硬調とみなし、輝度比Gmax /Gmin が閾値Th2 以上の場合には軟調とみなす。ここで、上記閾値Th1 及び閾値Th2 は、標準露光と判定されたネガ画像に対して設定されたものであり、前述したオーバー露光又はアンダー露光と判定されたネガ画像に対しては、上記閾値Th1 及び閾値Th2 よりもそれぞれ低く設定された閾値Th3 及び閾値Th4 に基づいて調子判定を行う。
【0035】
また、電子シャッタ値T2 の決定は、簡易ヒストグラムより求めた最大値Dmax を用い、後述するファインスキャン時における最大値が所定値(例えば8ビット系の場合には255)になるように電子シャッタ値T2 を決定する。即ち、電子シャッタ値T2 を、次式、
【0036】
【数3】
2 =255*T1 /Dmax …(3)
により決定する。ここで、T1 は、プリスキャン時の電子シャッタ値である。
次に、R,G,B毎に求めた基準最大値Rmax , max ,Bmax 及び基準最小値Rmin , min ,Bmin を、上記露光状態、調子の判定結果及び電子シャッタ値T2 に基づいて補正する(ステップS24)。
【0037】
先ず、上記調子判定によって硬調あるいは軟調と判定されると、標準露光のネガ画像では、輝度比Gmax /Gmin が上記閾値Th1 〜閾値Th1 の範囲に入るように、オーバー露光又はアンダー露光のネガ画像では、輝度比Gmax /Gmin が上記閾値Th3 〜閾値Th4 の範囲に入るように基準最大値Gmax 及び基準最小値Gmin のうちの少なくとも一方を補正する。また、基準最大値Rmax , max 及び基準最小値Rmin , min も基準最大値Gmax 及び基準最小値Gmin の補正に対応して補正する。尚、輝度比が上記閾値の範囲に入っている場合には、基準最大値及び基準最小値の補正は行わない。また、この実施の形態では、基準最大値と基準最小値との比に基づいて軟調、硬調等の調子判定を行うようにしたが、これに限らず、基準最大値と基準最小値との差に基づいて調子判定を行うようにしてもよい。
【0038】
次に、ファインスキャン時にはプリスキャン時に比べて、T2 /T1 倍だけ露出量が大きくなるため、プリスキャン時とファインスキャン時との電子シャッタ値の変更量だけ基準最大値及び基準最小値を補正する。
このようにして最終的に求めた基準最大値及び基準最小値に基づいて、白バランス及び黒バランスを合わせるために使用するオフセット、ホワイトバランスゲイン(WBゲイン)を決定する(ステップS25)。
【0039】
即ち、CPU40は、最終的に求めた基準最大値に基づいてR,G,B毎のオフセットを次式、
【0040】
【数4】
オフセット=255−Gmax …(4)
により算出するとともに、基準最大値及び基準最小値に基づいてR,G,B毎のゲインを、次式、
【0041】
【数5】
WBゲイン=255/(Gmax −Gmin ) …(5)
により算出する。尚、式(4)、(5)は、Gに関するものであるが、他の色チャンネルも同様にして算出する。
また、ステップS25では、ネガ画像の露光状態に基づいてR,G,B毎のガンマゲインを決定するが、その詳細については後述する。
【0042】
次に、上記決定された電子シャッタ値T2 、オフセット、WBゲイン及びガンマゲインに基づいてネガ画像のファインスキャンを実行する(ステップS30)。
即ち、ファインスキャン時には、CCDラインセンサ14の電子シャッタ値をT2 に設定し、フイルム52を一定速度で搬送し、フイルム画像のスキャン(ファインスキャン)を実行する。このファインスキャン中に、CCDラインセンサ14、アナログアンプ16及びA/Dコンバータ18を介してデジタル信号処理回路20に点順次のR,G,Bデジタル画像信号が出力される。
【0043】
次に、デジタル信号処理回路20における信号処理について説明する。
ファインスキャン時にA/Dコンバータ18から出力されるオリジナルGorg に対して、次式、
【0044】
【数6】
G1=Gorg +オフセット …(6)
に示すようにGのオフセットを加算することによって黒点オフセットされたデジタル画像信号G1を得ることができる。R,Bのオリジナルについても同様の処理を行うことににより、R,G,Bデジタル画像信号のピーク値(ポジ画像の黒)が一致させられる(図5(A)参照)。
【0045】
続いて、上記オフセットされたデジタル画像信号G1に対して、次式、
【0046】
【数7】
G2=255−G1 …(7)
の演算を実行することにより、ネガポジ反転が行われる(図5(B)参照)。
次に、ネガポジ反転されたデジタル画像信号G2に対して、式(5)で求めたWBゲインを、次式に示すように乗算することにより、
【0047】
【数8】
G3=G2×WBゲイン …(8)
R,G,Bデジタル画像信号の他方のピーク値(ポジ画像の白)が一致させられる(図5(C)参照)。
最後に、5Bゲインが乗算されたR,G,Bデジタル画像信号にそれぞれ異なるガンマ補正を行うことにより、グレーが合わせられる(図5(D)参照)。
【0048】
次に、上記ガンマ補正について更に詳細に説明する。
先ず、ガンマ補正をする際の基準となるルックアップテーブル(以下、ベースLUTという)を準備する。
このベースLUTは、ネガフイルムがもっているガンマの曲線とブラウン管に出力される映像信号がもっているガンマ(一般的にはγ=0.45)の曲線との差分を示すガンマ補正値が各階調毎に記憶されている。尚、入出力特性を示す実際のルックアップテーブル(以下、実際のLUTという)は、図6(A)に示すように関数y=xからベースLUT(ガンマ補正値)を差し引いたものである。
【0049】
また、ベースLUTに対して、ガンマゲインを乗算することにより、ベースLUTを変化させることができる(図6(B)参照)。これにより1つのベースLUTから適宜のガンマゲインを乗算することにより、R,G,B毎にガンマ補正値が伸長又は圧縮されたLUTを得ることができる。尚、図6(C)は、関数y=xからそれぞれR,G,B毎にガンマ補正値が伸長又は圧縮されたLUTを差し引くことにより得られるR,G,B毎の実際のLUTである。
【0050】
従って、前述した式(6)〜(8)によって白バランス及び黒バランスが合わされ、ネガポジ反転された点順次のR,G,Bデジタル画像信号に対してガンマ補正を行う場合には、点順次のR,G,Bデジタル画像信号に基づいて前記ベースLUTから順次ガンマ補正値を読み出し、そのガンマ補正値にR,G,B毎のガンマゲインを乗算して適宜伸長又は圧縮したガンマ補正値を求め、点順次のR,G,Bデジタル画像信号から色別に伸長又は圧縮したガンマ補正値を減算することにより点順次で各色別にガンマ補正を行うことができる。
【0051】
ところで、R,G,B毎の上記ガンマゲインは、予め標準露光のネガフイルムの階調特性に応じて設定されているが、図7(A)に示すように撮影時の露光状態の異なるネガは、階調特性が異なり、図7(B)に示すようにガンマ特性も異なる。従って、図7(C)に示すようにネガの露光量に応じてベースLUTを変化させる必要がある。
【0052】
そこで、ネガ画像の露光状態の判定結果を利用し、色別のガンマゲイン(Rgamgain,gamgain,gamgain )を露光状態に応じて変化させ、ネガ画像の露光状態に応じたガンマ補正を行うようにしている。即ち、ネガ画像がアンダー露光状態と判定された場合には、標準露光のガンマゲインよりもガンマゲインを小さくし、一方、オーバー露光状態と判定された場合には、標準露光のガンマゲインよりもガンマゲインを大きくし、これにより調子を整えるようにしている。
【0053】
図8は図1に示したデジタル信号処理回路20の内部構成を含むブロック図である。このデジタル信号処理回路20は上述したデジタル信号処理を行うもので、主として加算器21、22、24、乗算器23、26、及びベースLUT25から構成されている。加算器21には、A/Dコンバータ18から点順次のR,G,Bデジタル画像信号CMPAD が入力している。尚、デジタル画像信号CMPAD は、所定のクロックにしたがって時系列的にR,G,B,Gと流れている。
【0054】
一方、CPU40は、式(4)及び(5)に示したようにR,G,B毎にオフセット(Roffset, offset,Boffset)及びWBゲイン(Rwbgain, wbgain,Bwbgain)を算出して記憶するとともに、R,G,B毎にガンマゲイン(Rgamgain,gamgain,gamgain )を記憶している。また、これらのオフセット等は、各コマ毎に記憶されている。そして、アドレスデコーダ42によってスキャンしようとするコマに対応するオフセット等が選択され、図8中のINTDATA によってR,G,Bのオフセットはレジスタ43R,43G,43Bに格納され、R,G,Bのゲインはレジスタ44R,44G,44Bに格納され、R,G,Bのガンマゲインはレジスタ45R,45G,45Bに格納される。尚、これらのレジスタには、1コマ分のR,G,Bデジタル画像信号が処理されるまで保持される。
【0055】
レジスタ43R,43G,43Bに格納されたオフセット(Roffset, offset,Boffset)はマルチプレクサ46に加えられており、マルチプレクサ46の他の入力には、前記所定のクロックを分周して作成されたタイミング信号INTCOLSL0,1が加えられている。マルチプレクサ46は、タイミング信号INTCOLSL0,1によって3つのオフセットからいずれか1つのオフセットを選択し、この選択したオフセットをデジタル信号処理回路20の加算器21の他の入力に出力する。
【0056】
同様にして、マルチプレクサ47は、レジスタ44R,44G,44Bから入力する3つのWBゲイン(Rwbgain, wbgain,Bwbgain)のうちの1つのゲインを選択し、この選択したWBゲインを乗算器23に出力し、また、マルチプレクサ48は、レジスタ45R,45G,45Bから入力する3つのガンマゲイン(Rgamgain,gamgain,gamgain )からいずれか1つのガンマゲインを選択し、この選択したガンマゲインを乗算器26に出力する。
【0057】
一方、加算器21には前述したようにデジタル画像信号CMPAD が入力しており、加算器21はデジタル画像信号CMPAD とオフセットとを加算する。これにより、黒点オフセットされたデジタル画像信号が得られる(式(6)、図5(A)参照)。
加算器21から出力される黒点オフセットされたデジタル画像信号は、加算器22の負入力に加えられ、加算器22の正入力には白ピークレベルを示す値(255)が加えられており、加算器22は255から黒点オフセットされたデジタル画像信号を減算する。これによりネガポジ反転されたデジタル画像信号が得られる(式(7)、図5(B)参照)。
【0058】
続いて、ネガポジ反転されたデジタル画像信号は、乗算器23に加えられる。乗算器23の他の入力にはマルチプレクサ47からWBゲインが加えられており、乗算器23は2入力を乗算することにより、R,G,Bデジタル画像信号のポジ画像の白を合わせる(式(8)、図5(C)参照)。
次に、乗算器23から出力されるデジタル画像信号は、加算器24及びベースLUT25に加えられる。ベースLUT25は、図6(A)に示したように入力信号の階調に応じたガンマ補正値を有しており、入力するデジタル画像信号の階調に応じたガンマ補正値を読み出し、このガンマ補正値を乗算器26に出力する。乗算器26の他の入力にはマルチプレクサ48からネガ画像の露光状態に応じたガンマゲイン(ネガ画像の露光状態がアンダーになるにしたがって小さく、オーバーになるにしたがって大きいガンマゲイン)が加えられており、乗算器23は2入力を乗算することにより、R,G,Bデジタル画像信号の色別のガンマ補正値を生成し、これを加算器24の負入力に出力する。
【0059】
加算器24は入力するR,G,Bデジタル画像信号から各色別に伸長又は圧縮されたガンマ補正値を減算する。これによりガンマ補正された正規のR,G,Bデジタル画像信号RGBGgam が得られる。
尚、ガンマ補正方法は、この実施の形態に示すベースLUTを使用する方法に限らず、可変ガンマが可能なガンマ補正方法であれば、いかなる方法でもよい。例えば、ネガ画像の露光状態に応じた複数のガンマ補正用のLUTを設け、ネガ画像の露光状態の判定結果に基づいて前記複数のガンマ補正用のLUTから最適なLUTを選択し、その選択したLUTを用いてガンマ補正を行うようにしてもよい。
【0060】
次に、良好な色再現を可能にする画像処理方法について、図9に示すフローチャートを参照しながら説明する。
まず、プリスキャンを実行し(ステップS110)、簡易ヒストグラム(図3参照)を作成して基準最小値Rmin , min ,Bmin 及び基準最大値Rmax , max ,Bmax を求める(ステップS112)。尚、ここまでの処理は、図2のフローチャートで示した処理と同様なため、その詳細な説明は省略する。
【0061】
次に、上記のようにして求めた基準最大値Rmax , max ,Bmax から、各基準最大値の比X及びYを、次式、
X=Rmax /Gmax
Y=Bmax /Gmax
により求める(ステップS114)。そして、これらの比X、Yに基づいて各色別の基準最大値のバラツキが、所望のホワイトバランス調整が可能な所定の範囲内か否かを判別する(ステップS116)。
【0062】
即ち、図10に示すようにカラーフェリア検出枠を設定し、上記比X、Yによって定まる図10上の座標が、このカラーフェリア検出枠から外れた場合には、カラーフェリアシーンと判断する。そして、カラーフェリアシーンと判断すると、R,Bの基準最大値Rmax , max をGの基準最大値Gmax に近づけるように補正するとともに、R,Bの基準最小値Rmin ,Bmin をGの基準最小値Gmin に近づけるように補正する(ステップS118)。
【0063】
このステップS118では、例えば上記比X、Yに対する基準の比をそれぞれXref =K1、Yref =K2とすると、R,Bの基準最大値Rmax , max は、それぞれ、次式に示すRmax , max ′に補正される。
max ′=K1*Gmax
max ′=K2*Gmax
また、基準最小1Rmin ,Bmin も同様に補正する。即ち、R,Bの基準最小値Rmin ,Bmin は、それぞれ、予め決められた基準の比K3、K4及びGの基準最小値Gmin により、次式に示すRmin ′,Bmin ′に補正される。
【0064】
min ′=K3*Gmin
min ′=K4*Gmin
次に、カラーフェリアシーンと判断すると、上記補正した基準最小値、基準最大値を使用し、カラーフェリアシーンでないと判断すると、ステップS112で求めた基準最小値、基準最大値をそのまま使用して、前述した式(4)、(5)により白バランス及び黒バランスを合わせるために使用するオフセット、ホワイトバランスゲイン(WBゲイン)を決定する(ステップS120)。
【0065】
次に、上記決定されたオフセット及びWBゲインに基づいてネガ画像のファインスキャンを実行する(ステップS122)。
即ち、ファインスキャン時には、フイルム52を一定速度で搬送し、フイルム画像のスキャン(ファインスキャン)を実行する(ステップS122)。このファインスキャン中に、CCDラインセンサ14、アナログアンプ16及びA/Dコンバータ18を介してデジタル信号処理回路20に点順次のR,G,Bデジタル画像信号が出力される。
【0066】
尚、この実施の形態では、各色別の基準最大値の比に基づいて基準最大値、基準最小値を補正するか否かを判別するようにしたが、これに限らず、各色別の基準最大値の差を求め、この差から基準最大値、基準最小値を補正するか否かを判別してもよい。また、基準最大値の代わりに基準最小値を用いて、上記と同様な判別を行うようにしてもよい。また、この実施の形態では、基準最大値と基準最小値の両方を補正するようにしたが、基準最大値及び基準最小値のいずれか一方を補正するようにしてもよい。更に、R,Bの基準最大値及び基準最小値を、Gの基準最大値、基準最小値に近づけるように補正するようにしたが、これに限らず、各色別の基準最大値及び/又は各色別の基準最小値を、各値が近づくように補正する方法であれば如何なる方法でもよい。
【0067】
【発明の効果】
以上説明したように本発明に係る画像処理方法によれば、フイルム画像の撮像時に得られる画像信号の基準最大値及び基準最小値に基づいて画像処理する際に、フイルム画像の露光状態に応じて画像処理を行うため、良好な調子再現が可能となる。特に、フイルム画像の露光状態の判定に前記基準最大値又は基準最小値を用いると、露光状態の判定に必要な回路やソフトの負荷を最小限にすることができ、露光状態の判定を簡便に行うことができる。また、複数回の撮像によって得た複数の基準最大値等を平均した値に基づいてフイルム画像の露光状態を判定し、あるいはフイルム画像の基準最大値、基準最小値及び平均値からフイルム画像の露光状態の判定精度が高い値を当該フイルム画像の露光状態に応じて適宜選択し、その選択した値に基づいてフイルム画像の露光状態を判定しているため、露光アンダー、オーバーのフイルム画像であっても精度の高い露光状態の判定ができる。更にまた、フイルムの未露光部分の撮像時に得られる画像信号の平均値に基づいて前記基準最大値等を正規化するようにしているため、フイルムベースの濃度やアンプゲイン等の影響を受けないフイルム画像の露光状態の判定ができる。
【0068】
また、本発明によれば、フイルム画像の露光状態がアンダー露光時には、ガンマ補正時のガンマを小さくし、また、オーバー露光時には、ガンマを大きくするようにしたため、アンダー露光及びオーバー露光時の中間調の明るさを適正にすることができる。また、フイルム画像の基準最大値と基準最小値との比又は差が、予め設定した第1、第2の閾値の範囲に入るように基準最大値及び基準最小値のうちの少なくとも一方を補正し、これにより硬調及び硬調の画像の調子を整えるようにしているが、更にフイルム画像の露光状態がアンダー露光又はオーバー露光時には、前記第1、第2の閾値をそれらよりもそれぞれ低い第3、第4の閾値に変更するようにしたため、フイルム画像の調子が不自然に変わらず、良好な調子再現ができる。
【0069】
更に、本発明によれば、極端に彩度の高い領域が存在し、各色別の基準最大値、基準最小値が大きくばらつくようなカラーフェリアシーンであっても、このようなシーンの場合には各色別の基準最大値及び/又は基準最小値のバラツキを補正するようにしたため、所望のホワイトバランス調整が可能となり、良好な色再現が実現できる。
【図面の簡単な説明】
【図1】図1は本発明が適用されるフイルムスキャナの実施の形態を示す要部ブロック図である。
【図2】図2は図1に示したフイルムスキャナでの画像処理手順を説明するために用いたフローチャートである。
【図3】図3は基準最大値及び基準最小値の求め方を説明するために用いたヒストグラムである。
【図4】図4はフイルム画像の露光状態に対応する基準最大値と平均値とを示す折れ線グラフである。
【図5】図5(A)乃至(D)はそれぞれ図1のデジタル信号処理回路の各部における処理内容を示すグラフである。
【図6】図6(A)乃至(C)はそれぞれガンマ補正方法の一例を説明するために用いたグラフである。
【図7】図7(A)乃至(C)はそれぞれ露光状態の異なるネガの階調特性、ガンマ特性及びベースLUTを示すグラフである。
【図8】図8は図1のデジタル信号処理回路の詳細な構成を示すブロック図である。
【図9】図9は図1に示したフイルムスキャナでの他の画像処理手順を説明するために用いたフローチャートである。
【図10】図10はカラーフェリアシーンの判別等を説明するために用いたグラフである。
【図11】図11はネガフイルムの特性曲線を示すグラフである。
【図12】図12はBの基準最小値が他の色の基準最小値よりも極端に大きい場合のR,G,Bのヒストグラムである。
【符号の説明】
10…光源
12…撮影レンズ
14…CCDラインセンサ
15…CCD駆動回路
18…A/Dコンバータ
20…デジタル信号処理回路
21、22、24…加算器
23、26…乗算器
25…ベースLUT
40…中央処理装置(CPU)
41…積算ブロック
50…フイルムカートリッジ
52…ネガフイルム

Claims (10)

  1. 現像済み写真フイルムに写し込まれたフイルム画像を撮像し、前記撮像時に得られた画像信号の基準最大値及び前記画像信号の平均値を求め、
    前記求めた基準最大値を用いて前記フイルム画像の露光状態を判定し、前記求めた基準最大値が、当該基準最大値に基づく前記フイルム画像の露光状態の判定精度が保証される値以上になると、前記基準最大値に代えて前記平均値に基づいて前記フイルム画像の露光状態を判定することを特徴とする画像処理方法。
  2. 前記フイルム画像の露光状態を判定するための前記基準最大値又は平均値として、同一のフイルム画像を複数回撮像して得られた複数の基準最大値又は複数の平均値を平均した値を使用することを特徴とする請求項1に記載の画像処理方法。
  3. 前記撮像時に得られた画像信号から1コマ分の全ての階調データを求め、前記1コマ分の全ての階調データを階調毎にカウントしてヒストグラムを作成する際に、所定の度数を上限とした簡易ヒストグラムを作成し、前記基準最大値は、前記簡易ヒストグラムの階調の大きい方からカウントした累積度数が前記階調データの総点数に対する所定の割合を超えた点に基づいて求めるようにしたことを特徴とする請求項1に記載の画像処理方法。
  4. 前記階調データは、複数画素単位で分割されたエリアにおける平均の階調データである請求項3に記載の画像処理方法。
  5. 前記フイルム画像を撮像する前に、前記現像済み写真フイルムの未露光部分を所定の露出状態で撮像し、前記未露光部分の撮像時に得られた画像信号が所定の信号レベルとなるように前記所定の露出状態を修正し、前記修正した露出状態で前記フイルム画像を撮像するようにしたことを特徴とする請求項1に記載の画像処理方法。
  6. 前記フイルム画像の露光状態を判定するための前記基準最大値又は平均値は、前記未露光部分の撮像時に得られた画像信号の平均値に基づいて正規化された値である請求項1に記載の画像処理方法。
  7. フイルム画像を撮像して得た画像信号の基準最大値及び基準最小値を求め、該基準最大値及び基準最小値がそれぞれ所定の階調となるように前記画像信号を補正するとともに、ガンマ補正する画像処理方法において、前記フイルム画像の露光状態を請求項1に記載の方法で判定し、前記露光状態の判定結果に基づいてアンダー露光と判定すると、前記ガンマ補正時のガンマを標準露光時に比べて小さくし、オーバー露光と判定すると、前記ガンマ補正時のガンマを標準露光時に比べて大きくするようにしたことを特徴とする画像処理方法。
  8. フイルム画像を撮像して得た画像信号の基準最大値及び基準最小値を求め、前記基準最大値と基準最小値との比又は差が、所望の調子が得られるように予め設定した第1の閾値と第2の閾値との範囲に入るように前記基準最大値及び基準最小値のうちの少なくとも一方を補正し、その補正した基準最大値及び基準最小値がそれぞれ所定の階調となるように前記画像信号を補正する画像処理方法において、前記フイルム画像の露光状態を請求項1に記載の方法で判定し、前記露光状態の判定結果に基づいてアンダー露光又はオーバー露光と判定すると、前記第1の閾値及び第2の閾値を、該第1の閾値及び第2の閾値よりもそれぞれ低い第3の閾値及び第4の閾値に変更するようにしたことを特徴とする画像処理方法。
  9. カラー画像を撮像して各色別の画像信号を得、前記撮像時に得られた各色別の画像信号の基準最大値及び基準最小値を求め、各色別の基準最大値の比又は差、及び各色別の基準最小値の比又は差のうちの少なくとも一方の比又は差を求め、前記求めた比又は差が、所望のホワイトバランス調整が可能な所定の範囲内か否かを判別し、前記求めた比又は差が前記範囲を超えている場合には、前記各色別の基準最大値及び/又は各色別の基準最小値を、各値が近づくように補正し、前記求めた比又は差が前記範囲を超えていない場合には、前記補正前の基準最大値及び基準最小値がそれぞれ所定の階調となるように前記画像信号を補正し、前記求めた比又は差が前記範囲を超えている場合には、前記補正した基準最大値及び基準最小値がそれぞれ所定の階調となるように前記画像信号を補正することを特徴とする画像処理方法。
  10. 前記各色別の画像信号はR、G、Bの画像信号であり、前記求めた比又は差が前記範囲を超えている場合には、Gの基準最大値及び/又は基準最小値に近づくように、他の色の基準最大値及び/又は基準最小値を補正することを特徴とする請求項に記載の画像処理方法。
JP15719596A 1995-06-23 1996-06-18 画像処理方法 Expired - Fee Related JP3876932B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP15719596A JP3876932B2 (ja) 1995-06-23 1996-06-18 画像処理方法

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
JP7-158006 1995-06-23
JP7-158004 1995-06-23
JP15800495 1995-06-23
JP15800595 1995-06-23
JP15800695 1995-06-23
JP7-158005 1995-06-23
JP15719596A JP3876932B2 (ja) 1995-06-23 1996-06-18 画像処理方法

Publications (2)

Publication Number Publication Date
JPH0968764A JPH0968764A (ja) 1997-03-11
JP3876932B2 true JP3876932B2 (ja) 2007-02-07

Family

ID=27473471

Family Applications (1)

Application Number Title Priority Date Filing Date
JP15719596A Expired - Fee Related JP3876932B2 (ja) 1995-06-23 1996-06-18 画像処理方法

Country Status (1)

Country Link
JP (1) JP3876932B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6694051B1 (en) 1998-06-24 2004-02-17 Canon Kabushiki Kaisha Image processing method, image processing apparatus and recording medium
JP4941444B2 (ja) * 2006-02-21 2012-05-30 セイコーエプソン株式会社 露出判別に用いるプログラム、および、画像処理装置
JP2007259411A (ja) 2006-02-21 2007-10-04 Seiko Epson Corp 露出判別装置およびその方法
JP2008124890A (ja) * 2006-11-14 2008-05-29 Seiko Epson Corp 露出判別装置およびその方法
JP5025457B2 (ja) 2007-12-28 2012-09-12 キヤノン株式会社 画像処理装置およびその方法

Also Published As

Publication number Publication date
JPH0968764A (ja) 1997-03-11

Similar Documents

Publication Publication Date Title
US5926562A (en) Image processing method using reference values to determine exposure state
US7483064B2 (en) Imaging apparatus
US7358988B1 (en) Image signal processor for performing image processing appropriate for an output device and method therefor
US8704911B2 (en) Image processing apparatus, image processing method, and recording medium
JP2001298619A (ja) 画像処理方法及び画像処理装置
JP3487361B2 (ja) フイルムスキャナの露出制御装置並びに画像信号処理方法及びガンマ補正方法
JP3456032B2 (ja) 画像処理方法
US6181880B1 (en) Image data recording method and frame image regenerating method
JP3967510B2 (ja) ディジタルカメラ
JP3876932B2 (ja) 画像処理方法
JPH11191871A (ja) 画像処理装置
JP3575113B2 (ja) フイルム画像処理方法
JPH0638043A (ja) 量子化回路
JP3605856B2 (ja) 画像処理装置
JP3534273B2 (ja) フイルムスキャナのプリスキャン方法
JP3714491B2 (ja) 輪郭強調方法
JP3823865B2 (ja) 画像処理方法、画像処理プログラムおよび画像処理プログラムを記録した記録媒体
JP2000354250A (ja) 撮像装置
JP3958708B2 (ja) ガンマ補正方法
JP3896424B2 (ja) フイルムスキャナの画像信号処理方法及びガンマ補正方法
JP3446843B2 (ja) ガンマ補正方法
JP3605813B2 (ja) フイルムスキャナの露出制御装置及び方法
JPH07322282A (ja) ガンマ補正方法
JPH1023324A (ja) 撮像装置
JPH1013680A (ja) 画像処理方法および画像処理装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060310

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20060530

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060727

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20060905

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20061011

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20061024

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091110

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091110

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees