JP3932919B2 - 信号処理方法および装置 - Google Patents

信号処理方法および装置 Download PDF

Info

Publication number
JP3932919B2
JP3932919B2 JP2002024118A JP2002024118A JP3932919B2 JP 3932919 B2 JP3932919 B2 JP 3932919B2 JP 2002024118 A JP2002024118 A JP 2002024118A JP 2002024118 A JP2002024118 A JP 2002024118A JP 3932919 B2 JP3932919 B2 JP 3932919B2
Authority
JP
Japan
Prior art keywords
signal
luminance
bit
long
long bit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002024118A
Other languages
English (en)
Other versions
JP2003230153A (ja
Inventor
圭司 馬渕
浩一 塩野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2002024118A priority Critical patent/JP3932919B2/ja
Publication of JP2003230153A publication Critical patent/JP2003230153A/ja
Application granted granted Critical
Publication of JP3932919B2 publication Critical patent/JP3932919B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理方法および信号処理装置に関する。
【0002】
【従来の技術】
従来より、広ダイナミックレンジ撮像信号を処理する方法として、例えば特開2001−94999号公報に開示されるものが知られている。
この信号処理方法では、標準輝度映像信号と高輝度映像信号のそれぞれを、まず輝度信号と色信号に分解して4つの信号とし、それぞれのホワイトバランスをとる。そして、各輝度信号からニー係数を演算して各色信号に乗算し、最後に各輝度信号同士を合成して出力し、各色信号同士を合成して出力している。
【0003】
【発明が解決しようとする課題】
しかしながら、上記従来の信号処理方法では、輝度信号や色信号を最後に合成するまで4つの信号を扱うので回路が大規模化し、チップ面積が大きくなるという問題があった。これは、低輝度、標準、高輝度といった3つ以上の信号を扱う場合に、さらに顕著な問題となる。
また、上記従来の信号処理方法では、0以上、1以下のニー係数を用いており、このようなニー係数を乗算するとき、それぞれの信号の値が小さくなるので、デジタル処理では信号のbit幅、すなわち階調が落ちてしまい、データが損失するという問題があった。
また、上記従来の信号処理方法で開示されたニー係数の線形な処理では、ニー係数の切り替わる点よりもはるかに明るいところに対応できない。
また、輝度信号と色信号がどのように合成されるのかは明示されていないが、いずれにしても光量に比例した長いbit幅の信号か、ディスプレイに表示するため高輝度領域を圧縮した短いbit幅の信号のいずれかしか得ることができない。
【0004】
そこで本発明の目的は、露光量の異なる複数のデジタル撮像信号から広ダイナミックレンジデジタル撮像信号を生成する場合の演算処理を簡易化することが可能な信号処理方法および信号処理装置を提供することにある。
【0005】
【課題を解決するための手段】
本発明は前記目的を達成するため、互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理方法において、前記複数のデジタル信号から1つの長bit信号を生成し、前記長bit信号から長bit輝度信号と長bit色信号を生成し、前記長bit輝度信号をノンリニアに変換してbit幅を削減して出力し、前記ノンリニア変換前後の輝度信号の比を前記長bit色信号に乗算して出力することを特徴とする。
【0006】
また本発明は、互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理方法において、前記複数のデジタル信号から1つの長bit信号を生成し、前記長bit信号から長bit輝度信号を生成し、前記長bit輝度信号をノンリニアに変換してbit幅を削減し、前記ノンリニア変換前後の輝度信号の比を前記長bit信号に乗算して出力することを特徴とする。
【0007】
また本発明は、互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理装置において、前記複数のデジタル信号から1つの長bit信号を生成する長bit信号生成手段と、前記長bit信号から長bit輝度信号と長bit色信号を生成する輝度信号/色信号生成手段と、前記長bit輝度信号をノンリニアに変換してbit幅を削減して出力する短bit化手段と、前記ノンリニア変換前後の輝度信号の比を前記長bit色信号に乗算して出力する掛け算手段とを有することを特徴とする。
【0008】
また本発明は、互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理装置において、前記複数のデジタル信号から1つの長bit信号を生成する長bit信号生成手段と、前記長bit信号から長bit輝度信号を生成する輝度信号生成手段と、前記長bit輝度信号をノンリニアに変換してbit幅を削減して出力する短bit化手段と、前記ノンリニア変換前後の輝度信号の比を前記長bit信号に乗算して出力する掛け算手段とを有することを特徴とする。
【0009】
本発明の信号処理方法および信号処理装置では、複数のデジタル信号から1つの長bit信号を生成して長bit輝度信号と長bit色信号を生成し、この長bit輝度信号をノンリニアに変換して短bit化し、ノンリニア変換前後の輝度信号の比を長bit色信号に乗算して出力することにより、短bit化された色ずれのない画像を簡易な演算によって得ることができる。また、従来例のようなニー係数演算を使うことなく、ノンリニアな演算を用いて撮像画像を自在に変換でき、視覚特性に近い自然な画像を生成することができる。
【0010】
また本発明の信号処理方法および信号処理装置では、複数のデジタル信号から1つの長bit信号を生成して長bit輝度信号を生成し、この長bit輝度信号をノンリニアに変換してbit幅を削減して短bit化し、ノンリニア変換前後の輝度信号の比を長bit信号に乗算して出力することにより、短bit化された色ずれのない画像を簡易な演算によって得ることができる。また、従来例のようなニー係数演算を使うことなく、ノンリニアな演算を用いて撮像画像を自在に変換でき、視覚特性に近い自然な画像を生成することができる。また、これ以降の信号処理は、広D信号を扱わない既製の信号処理回路をそのまま用いることができる。
【0011】
【発明の実施の形態】
以下、本発明による信号処理方法および信号処理装置の実施の形態例について説明する。
本発明の第1の実施の形態例は、通常露光による通常信号と短時間露光による広ダイナミックレンジ信号(以下、広Dレンジ信号という)の2系統の出力を持つ固体撮像装置に対する信号処理方法を提供するものであり、通常信号と広Dレンジ信号の2つのデジタル撮像信号から長bit信号を生成し、輝度信号を分離し、輝度信号をノンリニア(非線形)に変換して短bit化し、その変換比を色信号に乗算することによって短bit化された色ずれのない広Dレンジ撮像信号を得るようにしたものである。
【0012】
図1は、本発明の第1の実施の形態例による信号処理装置の構成を示すブロック図である。図示のように、本実施の形態例の信号処理装置は、長bit信号生成回路10と、輝度信号/色信号生成回路20と、短bit化回路30と、掛け算回路40とを有する。
長bit信号生成回路10は、上述した通常信号と広Dレンジ信号の2つのデジタル撮像信号から長bit信号を生成する回路である。
輝度信号/色信号生成回路20は、長bit信号生成回路10で生成された長bit信号から輝度信号と色信号を生成する回路である。
短bit化回路30は、輝度信号/色信号生成回路20によって生成された輝度信号をノンリニアに変換してbit幅を削減して出力する回路である。また、短bit化回路30は、ノンリニア変換前の輝度信号とノンリニア変換後の輝度信号との比(変換比)を算出し、掛け算回路40に出力する。
掛け算回路40は、短bit化回路30から受け取った変換比を、輝度信号/色信号生成回路20で生成された長bit信号の色信号に乗算して出力する回路である。
【0013】
以下、このような構成の信号処理回路によって実行される本実施の形態例の信号処理方法について説明する。
まず、通常信号は、例えば通常露光によって撮像したカラーのデジタル信号であり、広Dレンジ信号は、例えば露光時間を数十分の1に設定して、感度を落とす代わりに、数十倍明るい領域まで撮像したカラーのデジタル信号である。
この2つのデジタル信号は、まず、長bit信号生成回路10でbit幅の大きい1つの信号に合成される。この処理は、ほとんどの場合、画素毎の演算で、隣接画素信号値は参照しなくて良い。本実施の形態例では、通常信号と広Dレンジ信号が共に8bitであり、広Dレンジ信号は露光時間が1/64の信号であるものとする。
そして、長bit信号は14bitの信号となる。この長bit信号は、光信号に比例した値であるので、画像信号の原型として出力、保持、および信号処理を行えるものである。
【0014】
次に、この長bit信号から、輝度信号/色信号生成回路20によって長bit輝度信号と長bit色信号を作成する。この処理は、単板式(1個の固体撮像装置に画素毎に色フィルタを貼り分けて信号を出力する方式)のカメラでは、隣接画素間の演算を行うものであり、三板式(プリズムで3原色を分離し、3個の固体撮像装置で信号を出力する方式)のカメラでは、3個の固体撮像装置の同一位置画素間(場合によってはその近傍)の演算を行うものである。これらは例えば15bitの信号となる。
【0015】
次に、その長bit輝度信号を短bit化回路30によってノンリニアに変換して短bit化する。なお、ノンリニアな変換とは、図6(A)に示すように、低輝度の信号領域よりも高輝度の信号領域を圧縮する変換である。この変換は、図6(A)に示す低輝度領域の傾きaと、高輝度領域の傾きbと、その間をつなぐ関数形cが重要なパラメータである。
具体的には、例えば本件の発明者等が試した範囲で、mbitの長bit輝度信号Xをnbitの短bit輝度信号Yに変換する場合、
低輝度端の傾きaが、dY/dX=1 ……(1)
高輝度端の傾きbが、dY/dX=1/22(m-n) ……(2)
であることが好ましい。
【0016】
これは、低輝度領域ではデジタル信号値をそのまま出力し、高輝度領域では、mbitをnbitに変換する時の単純比1/2(m-n) を高輝度領域でさらに同じ比率で圧縮するものである。
また、関数形cは種々用いることが可能であるが、例えば、
Y=X/(1+2-n・X) ……(3)
としたものが、上記式(1)(2)による条件を近似的に満たし、見え方が自然であった。
なお、このようなノンリニア変換は、計算で算出しても良いし、予め計算結果を格納したテーブルを設けておき、このテーブルを参照して求めるようにしても良い。
【0017】
また、変換比は、短bit輝度信号/長bit輝度信号で定義される。
例えば上記式(3)の関数形では、
変換比 Z=1/(1+2-n・X) ……(4)
である。
なお、この変換比は上述した従来例(特開2001−94999号公報)に開示されているニー係数と似ているが、本質的には全く異なるものである。例えば、上記従来例に開示されるニー係数は0と1の間の値をとるが、本実施の形態における変換比は0と2n−m の間の値をとる。そして、上記従来例に開示されるニー係数は、例えば低輝度領域で一定値をとるが、本実施の形態における変換比は上記のような傾きを持つものである。
【0018】
次に、色信号は、掛け算回路40によって、変換比を乗算される。そして、短bit化された輝度信号と色信号が出力される。
例えば、8bit等に短bit化された画像信号は、この後、通常の8bit信号用の処理(ホワイトバランス、データ圧縮など)をそのまま施すことができるし、階調が8bitの表示装置に適した信号となる。
なお、輝度信号と色信号に対して同一のノンリニアな変換を行うと、色がずれるという問題が起こる。
したがって、本実施の形態のように、輝度信号はノンリニアな変換を行い、色信号は同じ変換ではなく、変換比をかけることで、色をずらさないようにすることができる。
さらに、この短bit化された輝度信号と色信号に対し、ホワイトバランス、γ補正、エッジ強調などの各種信号処理を施すことが可能である。また、長bitの輝度信号や色信号を途中で出力し、これに対する処理処理を行うことも、もちろん可能である。
【0019】
次に、本発明の第2の実施の形態例について説明する。
上述した第1の実施の形態例では、短bit化した輝度信号と色信号の双方を出力したが、輝度信号と色信号の生成を含めた従来の信号処理回路をそのまま使うためには少し構成を変える必要があり、本実施の形態例では、その具体的構成例について説明する。
図2は、本発明の第2実施の形態例による信号処理装置の構成を示すブロック図である。図示のように、本実施の形態例の信号処理装置は、長bit信号生成回路110と、輝度信号生成回路120と、短bit化回路130と、掛け算回路140とを有する。
【0020】
長bit信号生成回路110は、上述した通常信号と広Dレンジ信号の2つのデジタル撮像信号から長bit信号を生成する回路である。
輝度信号生成回路120は、長bit信号生成回路110で生成された長bit信号から輝度信号を生成する回路である。
短bit化回路130は、輝度信号生成回路120によって生成された輝度信号をノンリニアに変換した場合のノンリニア変換前の輝度信号とノンリニア変換後の輝度信号との比(変換比)を算出し、掛け算回路140に出力する。
掛け算回路140は、短bit化回路130から受け取った変換比と、長bit信号生成回路110で生成された長bit信号を乗算して出力する回路である。
【0021】
以下、このような構成の信号処理回路によって実行される本実施の形態例の信号処理方法について説明する。
まず、通常信号と広Dレンジ信号から長bit信号を生成するのは図1に示す例と同じであるが、本例では、その長bit信号から長bit輝度信号のみを生成する。そして、この長bit輝度信号は、短bit化回路130に入力されるが、ここでは実際に短bit輝度信号を生成する必要は無く、変換比のみを算出する。そして、この変換比を掛け算回路140で長bit信号に乗算し、出力する。なお、ここで例えば長bit信号が14bit、長bit輝度信号が15bitの場合には、両方とも14bitの場合のものに対して変換比は2倍の補正をする。
これにより、広いダイナミックレンジを持った信号を、明るいところの階調を圧縮した1つの短いbit幅にまとめることができる。
また、図示の例では、2系統の出力を持った広ダイナミックレンジの固体撮像装置に対し、あたかも1系統の8bit幅の出力をもった固体撮像装置であるように見せ、その信号処理回路をそのまま使うことができる。
【0022】
次に、本発明の第3の実施の形態例について説明する。
上述した第1、第2の実施の形態において、ホワイトバランスは最後の短bit出力を受けて後段で取ることができる。これは全体で1つのホワイトバランスを設定することに相当する。
しかし、初めに通常信号と広Dレンジ信号に別々にホワイトバランスを設定することもできる。
図3は、このように2つの信号について別々にホワイトバランスを設定する場合の信号処理装置の構成を示すブロック図である。図示のように、本実施の形態例の信号処理装置は、通常信号と広Dレンジ信号に対応して2つの輝度信号/色信号生成回路210A、210Bと、ホワイトバランス回路220A、220Bとを有し、その後段に長bit輝度信号生成回路230と、長bit色信号生成回路240と、短bit化回路250と、掛け算回路260とを有する。
【0023】
輝度信号/色信号生成回路210Aは、通常信号から輝度信号と色信号を生成するものであり、ホワイトバランス回路220Aは輝度信号/色信号生成回路210Aによって生成された通常信号の輝度信号と色信号のホワイトバランスをとるものである。
また、輝度信号/色信号生成回路210Bは、広Dレンジ信号から輝度信号と色信号を生成するものであり、ホワイトバランス回路220Bは輝度信号/色信号生成回路210Bによって生成された広Dレンジ信号の輝度信号と色信号のホワイトバランスをとるものである。
長bit輝度信号生成回路230は、2つのホワイトバランス回路220A、220Bから輝度信号を入力し、長bit輝度信号を生成するものである。
長bit色信号生成回路240は、2つのホワイトバランス回路220A、220Bから色信号を入力し、長bit色信号を生成するものである。
【0024】
短bit化回路250は、長bit輝度信号生成回路230からの長bit輝度信号のノンリニアな短bit化を行い、輝度信号出力を行うとともに、その変換比を掛け算回路260に出力する。
掛け算回路260は、短bit化回路250から受け取った変換比と、長bit色信号生成回路240で生成された長bit色信号を乗算し、色信号出力を行うものである。
なお、以上のような信号処理装置において、ホワイトバランス回路220A、220Bと、長bit輝度生成回路230および長bit色信号生成回路240との間に、上記従来例(特開2001−94999号公報)に開示されるニー係数演算回路を設けてもよい。
【0025】
次に、本発明の第4の実施の形態例について説明する。
例えばマシンビジョンのような光量と信号が比例する状態で信号処理をする必要がある場合には、長bit信号のままで信号処理を行う。
図4は、このように長bit信号のままで処理を行う場合の信号処理装置の構成を示すブロック図である。図示のように、本実施の形態例の信号処理装置は、図1に示す輝度信号/色信号生成回路20の次段に長bitのままでホワイトバランス、γ補正、エッジ強調等の信号処理を行うための信号処理回路50を設けたものである。
この信号処理回路50によって処理された長bit輝度信号を短bit化回路30に出力し、長bit色信号を掛け算回路40に出力する。この処理は、上述した図1に示すものと同様である。また、その他は上述した図1に示すものと同様であるので説明は省略する。
なお、信号処理回路50によって処理した信号を一旦出力するような構成としてもよい。
【0026】
次に、本発明の第5の実施の形態例について説明する。
上述した通常信号と広Dレンジ信号に別々にホワイトバランスを設定する構成において、さらに長bit信号のまま信号処理を行うような構成とすることが可能である。
図5は、この場合の信号処理装置の構成を示すブロック図である。図示のように、本実施の形態例の信号処理装置は、図3に示す長bit輝度信号生成回路230および長bit色信号生成回路240の次段に長bitのままでホワイトバランス、γ補正、エッジ強調等の信号処理を行うための信号処理回路270を設けたものである。すなわち、本例では信号処理回路270で再度ホワイトバランスを行ってもよい。
そして、この信号処理回路270によって処理された長bit輝度信号を短bit化回路250に出力し、長bit色信号を掛け算回路260に出力する。この処理は、上述した図3に示すものと同様である。また、その他は上述した図3に示すものと同様であるので説明は省略する。
なお、信号処理回路270によって処理した信号を一旦出力するような構成としてもよい。
【0027】
以上のような各実施の形態では、次のような種々の効果を得ることが可能である。
まず、通常信号と広Dレンジ信号の情報を途中で欠落させずに高輝度領域の輝度差を圧縮して所望の短いbit幅の信号を出力することができるので、ディスプレイに表示するのに適した信号を得ることができ、また、信号処理の負荷を減らすことができ、さらに、既存の信号処理回路を使うことが可能となるなどの利点を得ることができる。
また、光量に忠実なリニアな信号を途中で得ることも可能であるので、これを同時に出力することが可能である。また、いずれの信号も色ずれを起こさない状態で得ることが可能である。
【0028】
また、上記従来例のようにニー係数演算を使うのと異なり、非線形な変換により高輝度領域ほど輝度差を圧縮して、人間の目の特性に近い自然な出力を得ることができる。非線形な変換を用いるのは、1つの輝度信号に対してのみであり、複数の信号を1つに合成するときでもなく、複数箇所あるわけでもないので、例えば1つのテーブルを持つなど、非常に簡単な処理で済む。
また、得られた信号は通常の広Dレンジでない固体撮像装置の信号処理回路で処理することができる。特に第2の実施の形態例では、広Dレンジのために複数系統出力を持つ固体撮像装置を通常の1系統出力の固体撮像装置に見せかけながら広Dレンジ化できる。
また、ホワイトバランスを全体で取る第1、第2、第4の実施の形態例では、輝度信号と色信号をそれぞれ2系統の信号から合成する必要が無く、回路が小規模化できる。また、輝度信号は2つの信号を合成するのではなく、1つの信号をノンリニアな関数で変換するだけであり、色信号も単に変換比を乗算するだけである。それでいて色ずれが生じないという効果がある。
【0029】
以上、本発明の実施の形態について説明したが、本発明は以上の例に限定されず、さらに種々の変形が可能である。
例えば、上述の例では、通常信号と広Dレンジ信号の2つの信号を扱う場合について説明したが、3つ以上の信号も扱えることは明らかである。なお、上述した実施の形態による効果は、3つ以上の感度の異なる信号に対して処理する場合にも同様である。
また、ただのニー係数演算処理ではなく、ノンリニアな演算と広Dレンジ信号を所望のbit幅に短bit化する演算を行うものであり、その課程で、光量をリニアに再現した長bit信号も同時に出力するような構成とすることも可能である。
また、長bitおよび短bitのbit幅についても上述した例に限定されるものではなく、少なくとも短bit化回路による変換直前のbit幅に対して変換後のbit幅が小さくなるような関係を有するものであればよい。
すなわち、本発明における長bitおよび短bitとは特定のbit幅を指すものではなく、本発明の信号処理方法および装置が適用されるシステムのデータ形式等に応じて様々なbit幅を有するデータの処理に広く適用し得るものである。
また、上述のような各実施の形態例による信号処理回路は、例えばCMOS型イメージセンサを用いた固体撮像装置に組み込まれるものであり、上述のような各実施の形態による信号処理回路を搭載した固体撮像装置も本発明の範囲に含まれるものである。また、固体撮像装置の後段に設けられた信号処理回路についても本発明の範囲に含まれるものである。
【0030】
【発明の効果】
以上説明したように本発明の信号処理方法によれば、複数のデジタル信号から1つの長bit信号を生成して長bit輝度信号と長bit色信号を生成し、この長bit輝度信号をノンリニアに変換して短bit化し、ノンリニア変換前後の輝度信号の比を長bit色信号に乗算して出力するようにした。
したがって、簡単な演算により、短bit化された色ずれのない画像を得ることができ、また、従来例のようなニー係数演算を使うことなく、ノンリニアな演算を用いて撮像画像を自在に変換でき、視覚特性に近い自然な画像を生成することができる。
【0031】
また本発明の信号処理方法によれば、複数のデジタル信号から1つの長bit信号を生成して長bit輝度信号を生成し、この長bit輝度信号をノンリニアに変換してbit幅を削減して短bit化し、ノンリニア変換前後の輝度信号の比を長bit信号に乗算して出力するようにした。
したがって、簡単な演算により、短bit化された色ずれのない画像を得ることができ、また、従来例のようなニー係数演算を使うことなく、ノンリニアな演算を用いて撮像画像を自在に変換でき、視覚特性に近い自然な画像を生成することができる。また、これ以降の信号処理は、広D信号を扱わない既製の信号処理回路をそのまま用いることができる。
【0032】
また本発明の信号処理装置によれば、複数のデジタル信号から1つの長bit信号を生成して長bit輝度信号と長bit色信号を生成し、この長bit輝度信号をノンリニアに変換して短bit化し、ノンリニア変換前後の輝度信号の比を長bit色信号に乗算して出力するようにした。
したがって、簡単な演算により、短bit化された色ずれのない画像を得ることができ、また、従来例のようなニー係数演算を使うことなく、ノンリニアな演算を用いて撮像画像を自在に変換でき、視覚特性に近い自然な画像を生成することができる。
【0033】
また本発明の信号処理装置によれば、複数のデジタル信号から1つの長bit信号を生成して長bit輝度信号を生成し、この長bit輝度信号をノンリニアに変換してbit幅を削減して短bit化し、ノンリニア変換前後の輝度信号の比を長bit信号に乗算して出力するようにした。
したがって、簡単な演算により、短bit化された色ずれのない画像を得ることができ、また、従来例のようなニー係数演算を使うことなく、ノンリニアな演算を用いて撮像画像を自在に変換でき、視覚特性に近い自然な画像を生成することができる。また、これ以降の信号処理は、広D信号を扱わない既製の信号処理回路をそのまま用いることができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態例による信号処理装置の構成を示すブロック図である。
【図2】本発明の第2の実施の形態例による信号処理装置の構成を示すブロック図である。
【図3】本発明の第3の実施の形態例による信号処理装置の構成を示すブロック図である。
【図4】本発明の第4の実施の形態例による信号処理装置の構成を示すブロック図である。
【図5】本発明の第5の実施の形態例による信号処理装置の構成を示すブロック図である。
【図6】図1に示す信号処理装置に設けられる短ビット化回路の変換特性の一例を示す説明図である。
【符号の説明】
10、110……長bit信号生成回路、20……長bit輝度信号/色信号生成回路、210A、210B……輝度信号/色信号生成回路、30、130、250……短bit化回路、40、140、260……掛け算回路、50、270……信号処理回路、120、230……長bit輝度信号生成回路、220A、220B……ホワイトバランス回路、240……長bit色信号生成回路。

Claims (48)

  1. 互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理方法において、
    前記複数のデジタル信号から1つの長bit信号を生成し、
    前記長bit信号から長bit輝度信号と長bit色信号を生成し、
    前記長bit輝度信号をノンリニアに変換してbit幅を削減して出力し、
    前記ノンリニア変換前後の輝度信号の比を前記長bit色信号に乗算して出力することを特徴とする信号処理方法。
  2. 前記ノンリニア変換前後の輝度信号の変化比が、変換前のbit幅をmとし、変換後のbit幅をnとした場合に、輝度信号の低輝度側の端部で、ほぼ1であり、高輝度側の端部で、ほぼ1/22(m-n)であることを特徴とする請求項1記載の信号処理方法。
  3. 前記輝度信号の関数形が変換前信号をX、変換後信号をYとした場合に、ほぼ、Y=X/(1+2-n・X)の関係を有することを特徴とする請求項2記載の信号処理方法。
  4. 互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理方法において、
    前記複数のデジタル信号から1つの長bit信号を生成し、
    前記長bit信号から長bit輝度信号を生成し、
    前記長bit輝度信号をノンリニアに変換してbit幅を削減し、
    前記ノンリニア変換前後の輝度信号の比を前記長bit信号に乗算して出力することを特徴とする信号処理方法。
  5. 前記ノンリニア変換前後の輝度信号の変化比が、変換前のbit幅をmとし、変換後のbit幅をnとした場合に、輝度信号の低輝度側の端部で、ほぼ1であり、高輝度側の端部で、ほぼ1/22(m-n)であることを特徴とする請求項4記載の信号処理方法。
  6. 前記輝度信号の関数形が変換前信号をX、変換後信号をYとした場合に、ほぼ、Y=X/(1+2-n・X)の関係を有することを特徴とする請求項5記載の信号処理方法。
  7. 互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理方法において、
    前記複数のデジタル信号の複数の輝度信号と複数の色信号のホワイトバランスをとり、
    前記ホワイトバランスをとった複数の輝度信号から1つの長bit輝度信号を生成し、
    前記ホワイトバランスをとった複数の色信号から1つの長bit色信号を生成し、
    前記長bit輝度信号をノンリニアに変換してbit幅を削減して出力し、
    前記ノンリニア変換前後の輝度信号の比を前記長bit色信号に乗算して出力することを特徴とする信号処理方法。
  8. 前記ノンリニア変換前後の輝度信号の変化比が、変換前のbit幅をmとし、変換後のbit幅をnとした場合に、輝度信号の低輝度側の端部で、ほぼ1であり、高輝度側の端部で、ほぼ1/22(m-n)であることを特徴とする請求項7記載の信号処理方法。
  9. 前記輝度信号の関数形が変換前信号をX、変換後信号をYとした場合に、ほぼ、Y=X/(1+2-n・X)の関係を有することを特徴とする請求項8記載の信号処理方法。
  10. 互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理方法において、
    前記複数のデジタル信号から1つの長bit信号を生成し、
    前記長bit信号から長bit輝度信号と長bit色信号を生成し、
    前記長bit輝度信号と長bit色信号に対して所定の信号処理を行い、
    前記信号処理した長bit輝度信号をノンリニアに変換してbit幅を削減して出力し、
    前記ノンリニア変換前後の輝度信号の比を前記信号処理した長bit色信号に乗算して出力することを特徴とする信号処理方法。
  11. 前記所定の信号処理には、ホワイトバランス調整、γ補正、エッジ強調を含むことを特徴とする請求項10記載の信号処理方法。
  12. 前記ノンリニア変換前後の輝度信号の変化比が、変換前のbit幅をmとし、変換後のbit幅をnとした場合に、輝度信号の低輝度側の端部で、ほぼ1であり、高輝度側の端部で、ほぼ1/22(m-n)であることを特徴とする請求項10記載の信号処理方法。
  13. 前記輝度信号の関数形が変換前信号をX、変換後信号をYとした場合に、ほぼ、Y=X/(1+2-n・X)の関係を有することを特徴とする請求項12記載の信号処理方法。
  14. 互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理方法において、
    前記複数のデジタル信号の複数の輝度信号と複数の色信号のホワイトバランスをとり、
    前記ホワイトバランスをとった複数の輝度信号から1つの長bit輝度信号を生成し、
    前記ホワイトバランスをとった複数の色信号から1つの長bit色信号を生成し、
    前記長bit輝度信号と長bit色信号に対して所定の信号処理を行い、
    前記信号処理した長bit輝度信号をノンリニアに変換してbit幅を削減して出力し、
    前記ノンリニア変換前後の輝度信号の比を前記信号処理した長bit色信号に乗算して出力することを特徴とする信号処理方法。
  15. 前記所定の信号処理には、ホワイトバランス調整、γ補正、エッジ強調を含むことを特徴とする請求項14記載の信号処理方法。
  16. 前記ノンリニア変換前後の輝度信号の変化比が、変換前のbit幅をmとし、変換後のbit幅をnとした場合に、輝度信号の低輝度側の端部で、ほぼ1であり、高輝度側の端部で、ほぼ1/22(m-n)であることを特徴とする請求項14記載の信号処理方法。
  17. 前記輝度信号の関数形が変換前信号をX、変換後信号をYとした場合に、ほぼ、Y=X/(1+2-n・X)の関係を有することを特徴とする請求項14記載の信号処理方法。
  18. 互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理装置において、
    前記複数のデジタル信号から1つの長bit信号を生成する長bit信号生成手段と、
    前記長bit信号から長bit輝度信号と長bit色信号を生成する輝度信号/色信号生成手段と、
    前記長bit輝度信号をノンリニアに変換してbit幅を削減して出力する短bit化手段と、
    前記ノンリニア変換前後の輝度信号の比を前記長bit色信号に乗算して出力する掛け算手段とを有することを特徴とする信号処理装置。
  19. 前記ノンリニア変換前後の輝度信号の変化比が、変換前のbit幅をmとし、変換後のbit幅をnとした場合に、輝度信号の低輝度側の端部で、ほぼ1であり、高輝度側の端部で、ほぼ1/22(m-n)であることを特徴とする請求項18記載の信号処理装置。
  20. 前記輝度信号の関数形が変換前信号をX、変換後信号をYとした場合に、ほぼ、Y=X/(1+2-n・X)の関係を有することを特徴とする請求項19記載の信号処理装置。
  21. 互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理装置において、
    前記複数のデジタル信号から1つの長bit信号を生成する長bit信号生成手段と、
    前記長bit信号から長bit輝度信号を生成する輝度信号生成手段と、
    前記長bit輝度信号をノンリニアに変換してbit幅を削減する短bit化手段と、
    前記ノンリニア変換前後の輝度信号の比を前記長bit信号に乗算して出力する掛け算手段とを有することを特徴とする信号処理装置。
  22. 前記ノンリニア変換前後の輝度信号の変化比が、変換前のbit幅をmとし、変換後のbit幅をnとした場合に、輝度信号の低輝度側の端部で、ほぼ1であり、高輝度側の端部で、ほぼ1/22(m-n)であることを特徴とする請求項21記載の信号処理装置。
  23. 前記輝度信号の関数形が変換前信号をX、変換後信号をYとした場合に、ほぼ、Y=X/(1+2-n・X)の関係を有することを特徴とする請求項22記載の信号処理装置。
  24. 互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理装置において、
    前記複数のデジタル信号の複数の輝度信号と複数の色信号のホワイトバランスをとるホワイトバランス手段と、
    前記ホワイトバランスをとった複数の輝度信号から1つの長bit輝度信号を生成する長bit輝度信号生成手段と、
    前記ホワイトバランスをとった複数の色信号から1つの長bit色信号を生成する長bit色信号生成手段と、
    前記長bit輝度信号をノンリニアに変換してbit幅を削減して出力する短bit化手段と、
    前記ノンリニア変換前後の輝度信号の比を前記長bit色信号に乗算して出力する掛け算手段とを有することを特徴とする信号処理装置。
  25. 前記ノンリニア変換前後の輝度信号の変化比が、変換前のbit幅をmとし、変換後のbit幅をnとした場合に、輝度信号の低輝度側の端部で、ほぼ1であり、高輝度側の端部で、ほぼ1/22(m-n)であることを特徴とする請求項24記載の信号処理装置。
  26. 前記輝度信号の関数形が変換前信号をX、変換後信号をYとした場合に、ほぼ、Y=X/(1+2-n・X)の関係を有することを特徴とする請求項25記載の信号処理装置。
  27. 互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理装置において、
    前記複数のデジタル信号から1つの長bit信号を生成する長bit信号生成手段と、
    前記長bit信号から長bit輝度信号と長bit色信号を生成する輝度信号/色信号生成手段と、
    前記長bit輝度信号と長bit色信号に対して所定の信号処理を行う信号処理手段と、
    前記信号処理した長bit輝度信号をノンリニアに変換してbit幅を削減して出力する短bit化手段と、
    前記ノンリニア変換前後の輝度信号の比を前記信号処理した長bit色信号に乗算して出力する掛け算手段とを有することを特徴とする信号処理装置。
  28. 前記所定の信号処理には、ホワイトバランス調整、γ補正、エッジ強調を含むことを特徴とする請求項10記載の信号処理装置。
  29. 前記ノンリニア変換前後の輝度信号の変化比が、変換前のbitをmとし、変換後のbit幅をnとした場合に、輝度信号の低輝度側の端部で、ほぼ1であり、高輝度側の端部で、ほぼ1/22(m-n)であることを特徴とする請求項27記載の信号処理装置。
  30. 前記輝度信号の関数形が変換前信号をX、変換後信号をYとした場合に、ほぼ、Y=X/(1+2-n・X)の関係を有することを特徴とする請求項29記載の信号処理装置。
  31. 互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理装置において、
    前記複数のデジタル信号の複数の輝度信号と複数の色信号のホワイトバランスをとるホワイトバランス手段と、
    前記ホワイトバランスをとった複数の輝度信号から1つの長bit輝度信号を生成する長bit輝度信号生成手段と、
    前記ホワイトバランスをとった複数の色信号から1つの長bit色信号を生成する長bit色信号生成手段と、
    前記長bit輝度信号と長bit色信号に対して所定の信号処理を行う信号処理手段と、
    前記信号処理した長bit輝度信号をノンリニアに変換してbit幅を削減して出力する短bit化手段と、
    前記ノンリニア変換前後の輝度信号の比を前記信号処理した長bit色信号に乗算して出力する掛け算手段とを有することを特徴とする信号処理装置。
  32. 前記所定の信号処理には、ホワイトバランス調整、γ補正、エッジ強調を含むことを特徴とする請求項31記載の信号処理装置。
  33. 前記ノンリニア変換前後の輝度信号の変化比が、変換前のbit幅をmとし、変換後のbit幅をnとした場合に、輝度信号の低輝度側の端部で、ほぼ1であり、高輝度側の端部で、ほぼ1/22(m-n)であることを特徴とする請求項31記載の信号処理装置。
  34. 前記輝度信号の関数形が変換前信号をX、変換後信号をYとした場合に、ほぼ、Y=X/(1+2-n・X)の関係を有することを特徴とする請求項33記載の信号処理装置。
  35. 互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理回路を有する固体撮像装置において、
    前記信号処理回路は、
    前記複数のデジタル信号から1つの長bit信号を生成する長bit信号生成手段と、
    前記長bit信号から長bit輝度信号と長bit色信号を生成する輝度信号/色信号生成手段と、
    前記長bit輝度信号をノンリニアに変換してbit幅を削減して出力する短bit化手段と、
    前記ノンリニア変換前後の輝度信号の比を前記長bit色信号に乗算して出力する掛け算手段とを有することを特徴とする固体撮像装置。
  36. 互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理回路を有する固体撮像装置において、
    前記信号処理回路は、
    前記複数のデジタル信号から1つの長bit信号を生成する長bit信号生成手段と、
    前記長bit信号から長bit輝度信号を生成する輝度信号生成手段と、
    前記長bit輝度信号をノンリニアに変換してbit幅を削減する短bit化手段と、
    前記ノンリニア変換前後の輝度信号の比を前記長bit信号に乗算して出力する掛け算手段とを有することを特徴とする固体撮像装置。
  37. 互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理回路を有する固体撮像装置において、
    前記信号処理回路は、
    前記複数のデジタル信号の複数の輝度信号と複数の色信号のホワイトバランスをとるホワイトバランス手段と、
    前記ホワイトバランスをとった複数の輝度信号から1つの長bit輝度信号を生成する長bit輝度信号生成手段と、
    前記ホワイトバランスをとった複数の色信号から1つの長bit色信号を生成する長bit色信号生成手段と、
    前記長bit輝度信号をノンリニアに変換してbit幅を削減して出力する短bit化手段と、
    前記ノンリニア変換前後の輝度信号の比を前記長bit色信号に乗算して出力する掛け算手段とを有することを特徴とする固体撮像装置。
  38. 互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理回路を有する固体撮像装置において、
    前記信号処理回路は、
    前記複数のデジタル信号から1つの長bit信号を生成する長bit信号生成手段と、
    前記長bit信号から長bit輝度信号と長bit色信号を生成する輝度信号/色信号生成手段と、
    前記長bit輝度信号と長bit色信号に対して所定の信号処理を行う信号処理手段と、
    前記信号処理した長bit輝度信号をノンリニアに変換してbit幅を削減して出力する短bit化手段と、
    前記ノンリニア変換前後の輝度信号の比を前記信号処理した長bit色信号に乗算して出力する掛け算手段とを有することを特徴とする固体撮像装置。
  39. 前記所定の信号処理には、ホワイトバランス調整、γ補正、エッジ強調を含むことを特徴とする請求項38記載の固体撮像装置。
  40. 互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理回路を有する固体撮像装置において、
    前記信号処理回路は、
    前記複数のデジタル信号の複数の輝度信号と複数の色信号のホワイトバランスをとるホワイトバランス手段と、
    前記ホワイトバランスをとった複数の輝度信号から1つの長bit輝度信号を生成する長bit輝度信号生成手段と、
    前記ホワイトバランスをとった複数の色信号から1つの長bit色信号を生成する長bit色信号生成手段と、
    前記長bit輝度信号と長bit色信号に対して所定の信号処理を行う信号処理手段と、
    前記信号処理した長bit輝度信号をノンリニアに変換してbit幅を削減して出力する短bit化手段と、
    前記ノンリニア変換前後の輝度信号の比を前記信号処理した長bit色信号に乗算して出力する掛け算手段とを有することを特徴とする固体撮像装置。
  41. 前記所定の信号処理には、ホワイトバランス調整、γ補正、エッジ強調を含むことを特徴とする請求項40記載の固体撮像装置。
  42. 固体撮像装置の後段に配置され、前記固体撮像装置から出力される互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理装置において、
    前記複数のデジタル信号から1つの長bit信号を生成する長bit信号生成手段と、
    前記長bit信号から長bit輝度信号と長bit色信号を生成する輝度信号/色信号生成手段と、
    前記長bit輝度信号をノンリニアに変換してbit幅を削減して出力する短bit化手段と、
    前記ノンリニア変換前後の輝度信号の比を前記長bit色信号に乗算して出力する掛け算手段とを有することを特徴とする信号処理装置。
  43. 固体撮像装置の後段に配置され、前記固体撮像装置から出力される互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理装置において、
    前記複数のデジタル信号から1つの長bit信号を生成する長bit信号生成手段と、
    前記長bit信号から長bit輝度信号を生成する輝度信号生成手段と、
    前記長bit輝度信号をノンリニアに変換してbit幅を削減する短bit化手段と、
    前記ノンリニア変換前後の輝度信号の比を前記長bit信号に乗算して出力する掛け算手段とを有することを特徴とする信号処理装置。
  44. 固体撮像装置の後段に配置され、前記固体撮像装置から出力される互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理装置において、
    前記複数のデジタル信号の複数の輝度信号と複数の色信号のホワイトバランスをとるホワイトバランス手段と、
    前記ホワイトバランスをとった複数の輝度信号から1つの長bit輝度信号を生成する長bit輝度信号生成手段と、
    前記ホワイトバランスをとった複数の色信号から1つの長bit色信号を生成する長bit色信号生成手段と、
    前記長bit輝度信号をノンリニアに変換してbit幅を削減して出力する短bit化手段と、
    前記ノンリニア変換前後の輝度信号の比を前記長bit色信号に乗算して出力する掛け算手段とを有することを特徴とする信号処理装置。
  45. 固体撮像装置の後段に配置され、前記固体撮像装置から出力される互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理装置において、
    前記複数のデジタル信号から1つの長bit信号を生成する長bit信号生成手段と、
    前記長bit信号から長bit輝度信号と長bit色信号を生成する輝度信号/色信号生成手段と、
    前記長bit輝度信号と長bit色信号に対して所定の信号処理を行う信号処理手段と、
    前記信号処理した長bit輝度信号をノンリニアに変換してbit幅を削減して出力する短bit化手段と、
    前記ノンリニア変換前後の輝度信号の比を前記信号処理した長bit色信号に乗算して出力する掛け算手段とを有することを特徴とする信号処理装置。
  46. 前記所定の信号処理には、ホワイトバランス調整、γ補正、エッジ強調を含むことを特徴とする請求項45記載の信号処理装置。
  47. 固体撮像装置の後段に配置され、前記固体撮像装置から出力される互いに異なる露光量によって得られた複数のデジタル撮像信号に基づいて1つの広ダイナミックレンジのデジタル撮像信号を生成する信号処理装置において、
    前記複数のデジタル信号の複数の輝度信号と複数の色信号のホワイトバランスをとるホワイトバランス手段と、
    前記ホワイトバランスをとった複数の輝度信号から1つの長bit輝度信号を生成する長bit輝度信号生成手段と、
    前記ホワイトバランスをとった複数の色信号から1つの長bit色信号を生成する長bit色信号生成手段と、
    前記長bit輝度信号と長bit色信号に対して所定の信号処理を行う信号処理手段と、
    前記信号処理した長bit輝度信号をノンリニアに変換してbit幅を削減して出力する短bit化手段と、
    前記ノンリニア変換前後の輝度信号の比を前記信号処理した長bit色信号に乗算して出力する掛け算手段とを有することを特徴とする信号処理装置。
  48. 前記所定の信号処理には、ホワイトバランス調整、γ補正、エッジ強調を含むことを特徴とする請求項47記載の信号処理装置。
JP2002024118A 2002-01-31 2002-01-31 信号処理方法および装置 Expired - Fee Related JP3932919B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002024118A JP3932919B2 (ja) 2002-01-31 2002-01-31 信号処理方法および装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002024118A JP3932919B2 (ja) 2002-01-31 2002-01-31 信号処理方法および装置

Publications (2)

Publication Number Publication Date
JP2003230153A JP2003230153A (ja) 2003-08-15
JP3932919B2 true JP3932919B2 (ja) 2007-06-20

Family

ID=27746648

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002024118A Expired - Fee Related JP3932919B2 (ja) 2002-01-31 2002-01-31 信号処理方法および装置

Country Status (1)

Country Link
JP (1) JP3932919B2 (ja)

Also Published As

Publication number Publication date
JP2003230153A (ja) 2003-08-15

Similar Documents

Publication Publication Date Title
JP3948229B2 (ja) 画像撮像装置及び方法
US5818525A (en) RGB image correction using compressed flat illuminated files and a simple one or two point correction algorithm
US5473373A (en) Digital gamma correction system for low, medium and high intensity video signals, with linear and non-linear correction
EP1998571A1 (en) Image signal processing device and image signal processing method
JP5034436B2 (ja) 画像処理装置および画像処理方法、並びにカメラシステム
JP3134784B2 (ja) 画像合成回路
JP4479527B2 (ja) 画像処理方法、画像処理装置、画像処理プログラム、および電子カメラ
CN101009851A (zh) 一种图像处理方法及其装置
JP4217041B2 (ja) フィルタ処理
JP7020417B2 (ja) 映像信号処理装置、映像信号処理方法および映像信号処理システム
US8305468B2 (en) Image acquisition apparatus and image acquisition program
JP2003304549A (ja) カメラ及び画像信号処理システム
JP2020145553A (ja) 画像処理装置、画像処理方法、及びプログラム
US10387999B2 (en) Image processing apparatus, non-transitory computer-readable medium storing computer program, and image processing method
US8102446B2 (en) Image capturing system and image processing method for applying grayscale conversion to a video signal, and computer-readable recording medium having recorded thereon an image processing program for applying grayscale conversion to a video signal
JP3932919B2 (ja) 信号処理方法および装置
JP5365881B2 (ja) 画像処理装置、画像処理方法
JP2000354250A (ja) 撮像装置
JP4028395B2 (ja) デジタルカメラ
JPH11155108A (ja) 映像信号処理装置と処理方法、それを用いたビデオカメラ
JP5085243B2 (ja) 画像処理装置及び画像処理方法
CN100521799C (zh) 彩色噪声抑制系统
JP2008288896A (ja) 撮像装置、撮像方法および集積回路
JP3540567B2 (ja) 電子的撮像装置
JP2006157453A (ja) 画像処理装置、画像処理方法及び撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041129

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070227

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070312

LAPS Cancellation because of no payment of annual fees