JP3994721B2 - Image capturing apparatus and method - Google Patents
Image capturing apparatus and method Download PDFInfo
- Publication number
- JP3994721B2 JP3994721B2 JP2001356528A JP2001356528A JP3994721B2 JP 3994721 B2 JP3994721 B2 JP 3994721B2 JP 2001356528 A JP2001356528 A JP 2001356528A JP 2001356528 A JP2001356528 A JP 2001356528A JP 3994721 B2 JP3994721 B2 JP 3994721B2
- Authority
- JP
- Japan
- Prior art keywords
- ratio
- image
- exposure control
- exposure
- range
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【0001】
【発明の属する技術分野】
本発明は、CCD(Charge Coupled Device)イメージセンサやC−MOSイメージセンサ等の光電変換素子を用いて電子的に静止画像等を撮像する画像撮像装置及び画像撮像方法に関するものである。
【0002】
【従来の技術】
CCDイメージセンサやC−MOSイメージセンサを光電変換素子として用いたいわゆるデジタルスチルカメラと呼ばれる電子式の画像撮像装置が広く用いられている。
【0003】
このようなデジタルスチルカメラには、一般的に、自動的に露光量を調整するAE(自動露出)機能が設けられている。デジタルスチルカメラの露出制御は、視野内の光量をセンサなどで測光し、その測光結果に基づき、レンズの開口度、電子シャッタ量及びCCDイメージセンサ等から出力される電気信号の利得を調整することにより行われる。
【0004】
【発明が解決しようとする課題】
しかしながら、CCDイメージセンサ等の光電変換素子は、銀塩写真フィルムに比べて、撮影可能な輝度領域のダイナミックレンジが非常に狭い。そのため、視野内に含まれる明るい部分と暗い部分の輝度差が大きい場合には、適正露出の範囲が非常に狭くなり、単純なセンサによる測光結果に基づき露出制御したのでは、最適な露出制御をすることが困難であった。例えば、明るい部分に露出を合わせた場合には、暗い部分は黒つぶれした画像となってしまい、暗い部分に露出を合わせた場合には、明るい部分が白くとんだ画像となってしまう。また、被写体によっては全体的に薄暗い画像(いわゆる眠い画像)となってしまう可能性もある。
【0005】
このような問題を解決するため、近年、実際に撮像して得られた画像から光量を測定して、撮影時の露出が制御されるようになってきた。実際の撮像画面から光量を測定する方式としては、画面全体の平均の輝度を測定する全面平均測光方式、画面内の中央部分の輝度を重点的に測定する中央部重点測光方式、画面内を分割してそれぞれの領域で平均の輝度を測定する多分割測光方式、画面内の任意の位置の輝度を測定するスポット測光方式等がある。
【0006】
しかしながら、以上のような実際の撮像画像から光量を測定する方式を用いたとしても、単に平均の輝度量を算出していたり、部分的な輝度測定でしかないので、被写体の特徴に応じて細やかに露出を制御することは困難であった。
【0007】
本発明は、このような実情を鑑みてなされたものであり、白とびや黒つぶれをすることなく、被写体の特徴に応じた細やかな露出制御を行うことが可能な画像撮像装置及び画像撮像方法を提供することを目的とする。
【0008】
【課題を解決するための手段】
本発明にかかる画像撮像装置は、被写体からの撮像光が入射され、この撮像光を撮像素子により電気信号に変換し、変換した電気信号を画素単位又は画素ブロック単位でデジタル化して撮像信号を生成することによって、被写体画像を撮像するカメラ撮像部と、上記カメラ撮像部を制御する制御部とを備え、上記制御部は、上記カメラ撮像部の露出を任意の露出制御量に制御し、上記任意の露出制御量で撮像された被写体画像から、輝度レベルの範囲を高輝度範囲、中輝度範囲、低輝度範囲の3つの範囲に分割して、該輝度レベルに対する画素の度数を示すヒストグラムを生成し、上記高輝度範囲の画素数をN H 、上記中輝度範囲の画素数をN M 、上記低輝度範囲の画素数をN L としたときに、下記演算式に基づき第1の比率、第2の比率、第3の比率及び/又は第4の比率を求め、各比率を乗算した総合比率に基づき補正量を算出し、当該補正量に基づき上記任意の露出制御量を補正することにより上記新たな露出制御量を算出し、上記カメラ撮像部の露出を上記新たな露出制御量に制御して被写体画像を撮像することを特徴とする。
第1の比率=|N H −N L |/(N H +N M +N L )
第2の比率=N M /(N H +N M +N L )
第3の比率=N H /(N H +N M +N L )
第4の比率=N L /(N H +N M +N L )
【0009】
この画像撮像装置では、任意の露出制御量で撮像された被写体画像から輝度レベルに対する画素の度数を示すヒストグラムを生成し、このヒストグラムに基づき上記被写体画像の特徴を検出する。そして、その特徴に応じて任意の露出制御量を補正して新たな露出制御量を算出し、露出を新たな露出制御量に制御して被写体画像を撮像する。
【0011】
また、本発明にかかる画像撮像方法は、被写体からの撮像光が入射され、この撮像光を撮像素子により電気信号に変換し、変換した電気信号を画素単位又は画素ブロック単位でデジタル化して撮像信号を生成することによって、被写体画像を撮像する画像撮像方法であって、任意の露出制御量に応じた露出で被写体画像を撮像し、上記任意の露出制御量で撮像された被写体画像から、輝度レベルの範囲を高輝度範囲、中輝度範囲、低輝度範囲の3つの範囲に分割して、輝度レベルに対する画素の度数を示すヒストグラムを生成し、上記高輝度範囲の画素数をN H 、上記中輝度範囲の画素数をN M 、上記低輝度範囲の画素数をN L としたときに、下記演算式に基づき第1の比率、第2の比率、第3の比率及び/又は第4の比率を求め、各比率を乗算した総合比率に基づき補正量を算出し、当該補正量に基づき上記任意の露出制御量を補正することにより上記新たな露出制御量を算出し、露出を新たな露出制御量に制御して被写体画像を撮像することを特徴とする。
第1の比率=|N H −N L |/(N H +N M +N L )
第2の比率=N M /(N H +N M +N L )
第3の比率=N H /(N H +N M +N L )
第4の比率=N L /(N H +N M +N L )
【0012】
この画像撮像方法では、任意の露出制御量で撮像された被写体画像から輝度レベルに対する画素の度数を示すヒストグラムを生成し、このヒストグラムに基づき上記被写体画像の特徴を検出する。そして、その特徴に応じて上記任意の露出制御量を補正して新たな露出制御量を算出し、露出を上記新たな露出制御量に制御して被写体画像を撮像する。
【0014】
【発明の実施の形態】
以下、本発明の実施形態として、本発明が適用された電子的に静止画像を撮像する撮像装置(デジタルスチルカメラ)について説明をする。図1に、本発明の実施の形態のデジタルスチルカメラ1の構成図を示す。
【0015】
デジタルスチルカメラ1は、図1に示すように、カメラ部11と、CCD12と、タイミング信号発生回路(TG)13と、S/H・GC(Sampling Hold Gain Control)回路13と、ADコンバータ15と、デジタル信号処理回路16と、ファインダ17と、記録回路18と、検波回路19と、シャッタレリーズボタン20と、シャッタ判定回路21と、制御部30とを備えている。
【0016】
CCD12は、レンズ部11介して受光面に結像された被写体の撮像光を、画素毎に電気信号に変換し、画像信号を出力する。CCD12により蓄積された画像信号は、所定のタイミング(画像更新周期)で、S/H・GC回路14に供給される。
【0017】
タイミング信号発生回路13は、CCD12が1画面毎の画像信号の読み出しに必要とする各種の駆動パルス、並びに、CCD12に蓄積される電荷の蓄積時間を制御する電子シャッタパルスを発生する。タイミング信号発生回路13から発生された各種パルスは、CCD12に供給され、画像信号の撮像処理や出力処理のタイミング信号として用いられる。また、タイミング信号発生回路13は、電子シャッタのシャッタスピードを、制御部30からの制御命令に従い制御する。
【0018】
S/H・GC回路14は、CCD12から供給された画像信号に対して、サンプリング処理や増幅処理等のアナログ処理を行う。S/H・GC回路14から出力されたアナログの画像信号は、ADコンバータ15に供給される。また、CCD12から供給された画像信号の増幅度は、制御部30により制御される。
【0019】
ADコンバータ15は、S/H・GC回路14から供給されたアナログの画像信号を所定のサンプリングレートでサンプリングして、デジタルの画像信号に変換する。ADコンバータ15から出力されたデジタル画像信号は、デジタル信号処理回路16に供給される。
【0020】
デジタル信号処理回路16は、ADコンバータ15から供給されたデジタル画像信号から、例えば、NTSCフォーマットや記録メディアに必要なフォーマット等のデジタルの映像信号を生成し、外部に出力する。デジタル信号処理回路16は、フレーミング時には、デジタル画像信号から表示画像信号を生成し、ファインダ17に供給する。デジタル信号処理回路16は、静止画像撮像時には、デジタル画像信号から1枚の静止画像信号を生成し、それを圧縮等した後、記録回路18に供給する。
【0021】
ファインダ17は、例えば液晶パネル等から構成された電子式の表示装置である。ファインダ17には、フレーミング時に、デジタル信号処理回路16から表示画像信号が入力され、その画像信号を表示する。
【0022】
記録回路18は、静止画像撮像時に、デジタル信号処理回路16から出力される静止画像信号を、例えばメモリカード等の記憶メディアに記録する。
【0023】
検波回路19は、デジタル信号処理回路16から供給され映像信号から、オートフォーカス(AF)、自動露出(AE)等に必要となる各種検波信号を生成する。各種検波信号は、制御部30により例えば1フレーム毎に読み出される。制御部30は、読み出した各種検波信号に基づき、適切な画像が撮像できるようにレンズ部11等を制御する。具体的に、検波回路19が検出する検波信号としては、例えばオートフォーカスに関する検波信号や自動露出制御に関する検波信号等がある。検波回路19は、オートフォーカスに関する検波信号として、撮像画像上の所定の位置に設定されたAF検波エリア内における輝度のエッジ成分を検出し、そのエッジ成分を積算して得られるコントラスト値を出力する。また、検波回路19は、自動露出制御に関する検波信号として、撮像画像から輝度レベルに対する画素の度数を示すヒストグラムを生成し、このヒストグラムに基づき被写体画像の特徴を検出し、その特徴に応じて算出した露出制御量を出力する。なお、この露出制御に関する検波信号の詳細については、後で説明する。
【0024】
シャッタレリーズボタン20は、ユーザにより操作されるモーメンタリ型の押圧スイッチである。このシャッタレリーズボタン20は、スイッチを全く押さない状態(オフ)と、スイッチを押しきった状態(全押し)と、スイッチを半分程度まで押した状態(半押し)との3つの状態を区別してスイッチングする機能が設けられている。このシャッタレリーズボタン20の3つの押圧状態(オフ、半押し、全押し)は、シャッタ判別回路20により判別がされ、その判別情報が制御部30に供給される。
【0025】
レンズ部11は、ズームレンズ22と、フォーカスレンズ23と、絞り羽根24と、絞り羽根24を駆動する絞り羽根駆動部25とを備えている。また、レンズ部11は、これらの他に、例えば、入射光の赤外線をカットする赤外カットフィルタ、入射光を遮光するシャッタ羽根等の光学系や、ズームレンズ22を駆動するズームレンズ駆動部、フォーカスレンズを駆動するフォーカスレンズ駆動部、シャッタ羽根を駆動するシャッタ駆動部等も備えている。
【0026】
レンズ部11内のズームレンズ22は、その光軸が、CCD12の受光面の略中心から延ばした鉛直線と一致する位置に設けられている。ズームレンズ22は、光軸上を前後に直線移動可能に設けられ、その移動位置に応じてCCD12の受光面上の結像画像の撮像倍率を変える。ズームレンズ22は、その移動位置が、ズームレンズ駆動部を介して制御部30により制御される。
【0027】
レンズ部11内のフォーカスレンズ23は、その光軸が、CCD12の受光面の略中心から延ばした鉛直線と一致する位置に設けられている。フォーカスレンズ23は、光軸上を前後に直線移動可能に設けられ、その移動位置に応じてCCD12上の受光面上の結像画像の焦点位置を変える。フォーカスレンズ23は、その移動位置が、絞り羽根駆動部25を介して制御部30により制御される。
【0028】
絞り羽根24は、CCD12の受光面に結像される撮像光の光の量を調整する。絞り羽根24は、レンズ部11の光学系の光軸を中心とした孔を形成し、その孔径を変化させることにより、光の量を制御する。すなわち、この絞り羽根24は、カメラの絞り値(F値)を制御する。絞り羽根24は、その孔径が、絞り駆動部25を介して制御部30により制御される。
【0029】
制御部30は、デジタルスチルカメラ1の各部の制御を行う。例えば、シャッタレリーズボタン20の押圧状態に基づき、フレーミング処理制御(オフ)、オートフォーカス処理制御(半押し)、静止画像記録制御(全押し)を行う。
【0030】
フレーミング処理とは、画面内の被写体の位置や画面の構図を、ユーザが撮影前に確認することができるように、CCD12に撮像されている画像をファインダ17に表示する処理である。このフレーミング処理時には、一定の画像更新周期毎(例えば1/30秒毎)にCCD12が1画面分の撮像処理を行い、撮像して得られた画像信号が出力される。そのため、ファインダ17に表示される画像も、一定時間毎(例えば1/30秒毎)に更新され、ユーザはファインダ17に表示されている撮像画像を、動画で確認することができる。このフレーミング処理は、デジタルスチルカメラ1自体が撮影可能な状態になっており、且つ、シャッタレリーズボタン20がオフの状態のとき、つまりユーザがシャッタレリーズボタン20を押していない状態のときに行われる。
【0031】
オートフォーカス処理とは、静止画の撮像対象となる被写体画像のフォーカスを、自動的に設定する処理である。つまり、オートフォーカス処理は、自動的にフォーカスレンズ23の移動位置を調整して、撮像画像のピント調整を行う処理である。デジタルスチルカメラ1は、フレーミング処理を行いながら、シャッタレリーズボタン20を半押し状態とすると、撮像画像に基づき合焦点位置を検出するオートフォーカス処理を開始する。具体的に、オートフォーカス処理時には、制御部30は、フォーカスレンズ23を移動させながら各位置におけるこのコントラスト値を検波回路19から取得し、フォーカスレンズ23の各移動位置に対するコントラスト値の増減を判断する。そして、制御部30は、そのコントラスト値の増減から、フォーカスレンズ23の移動位置に対する画像のフォーカスの合焦の度合いを判断し、もっともその合焦度合いが高い位置にフォーカスレンズ23を移動する。
【0032】
また、このデジタルスチルカメラ1では、このオートフォーカス処理時に、静止画像記録時の絞り羽根の開度や電子シャッタのスピード等の設定、つまり、F値やシャッタスピードの設定も行うことができる。ただし、オートフォーカス時に特別なF値やシャッタスピード等を設定する時には、オートフォーカス処理後に静止画像記録時のF値やシャッタスピードの再設定を行う。
【0033】
静止画像撮影処理とは、被写体画像を1画面分撮像して、その1画面分の被写体画像をメディアに記録する処理である。デジタルスチルカメラ1は、オートフォーカス処理を完了したのちに、シャッタレリーズボタン20が全押しされると、フォーカスレンズ23の移動位置、並びに、絞り羽根の開度、電子シャッタ時間及びS/H・GC14の利得を設定して、1画面分の静止画像をCCD12で取り込む。取り込まれた静止画像は、デジタル信号処理回路16等により圧縮等の処理がされたのち、メディアに保存される。
【0034】
つぎに、自動露出制御処理について説明をする。
【0035】
自動露出制御処理は、フレーミング処理時やオートフォーカス処理時において、撮影した被写体画像が最適な露出となるように、絞り羽根24の開口度、CCD12の電子シャッタスピード、及び、S/H・GC回路14の増幅度が設定される。
【0036】
これらの各設定は、制御部30の内部メモリ内に格納される露出制御パラメータに応じて、行われる。露出制御パラメータに基づく露出制御は、例えば、露出制御パラメータの各値に対する絞り羽根24の開口度数、電子シャッタスピード量、画像信号の増幅度数等が示されたテーブルや、露出制御パラメータからこれらのデータを算出する演算数式を用いて行われる。
【0037】
制御部30は、露出制御パラメータの値が大きくなれば画像を明るくする方向に露出を制御し、露出制御パラメータの値が小さくなれば画像を暗くする方向に露出を制御する。つまり、制御部30は、露出制御パラメータが大きくなれば、絞り羽根24の開口度を大きくする(絞り羽根34を開く)、電子シャッタスピードを遅くする(CCD12の露光時間を長くする)、CCD12から出力される画像信号の増幅度を大きくする(S/H・GC回路14の利得を大きくする)といった方向に制御をする。反対に、制御部30は、露出制御パラメータが小さくなれば、絞り羽根24の開口度を小さくする(絞り羽根34を閉じる)、電子シャッタスピードを早くする(CCD12の露光時間を短くする)、CCD12から出力される画像信号の増幅度を小さくする(S/H・GC回路14の利得を小さくする)といった方向に制御をする。
【0038】
また、制御部30の内部メモリに格納される露出制御パラメータは、実際に撮像された画像から検出された輝度レベルや、輝度レベルのヒストグラムに基づき、例えば1フレーム毎に逐次補正がされていく。以下説明をする自動露出制御処理は、輝度レベルのヒストグラムに基づき、露出制御パラメータを補正するものである。
【0039】
撮像画像の輝度レベルのヒストグラムは、検波回路19により算出される。具体的にヒストグラムの一例を示すと、図2に示すようになる。すなわち、横軸に画素の輝度レベルが示され、縦軸には、1つの撮像画像内の画素数つまり度数が示される。従って、輝度レベルが高い画素が多く含まれている撮像画像の場合には、図2(a)に示すように、高輝度レベル部分がピークとなるヒストグラムとなる。また、輝度レベルが低い画素が多く含まれている撮像画像の場合には、図2(b)に示すように、低輝度レベル部分がピークとなるヒストグラムとなる。
【0040】
制御部30は、ある任意の露出制御パラメータにより露出制御がされた状態の被写体画像から、ヒストグラムを検出する。制御部30は、そのヒストグラムから、上記任意の露出制御パラメータで撮像された画像の特徴を検出する。制御部30は、その特徴に基づき、露出をどのように補正すれば最適な露出を得ることができるかを判断し、その判断結果から上記任意の露出制御パラメータを補正して、新たな露出制御パラメータを求める。例えば、ヒストグラムから高輝度成分の画素数が非常に少ないといった撮像画像の特徴が得られれば、露出制御パラメータを小さくして、露出が暗くなる方向に制御する。反対に、ヒストグラムから低輝度成分の画素数が非常に少ないといった撮像画像の特徴が得られれば、露出制御パラメータを大きくして、露出が明るくなる方向に制御する。
【0041】
そして、制御部30は、その新たな露出制御パラメータで露出制御を行って被写体を撮像し、さらにこの新たな露出制御パラメータで撮像された画像からヒストグラムを検出して、露出制御パラメータの追従補正を行っていく。
【0042】
従って、本デジタルスチルカメラ1では、常に、被写体の特徴に応じた最適な露出で、被写体を撮像することができる。
【0043】
つぎに、このデジタルスチルカメラ1に適用される露出制御処理の具体的な処理例について、図3に示すフローチャートを用いて説明をする。
【0044】
デジタルスチルカメラ1では、電源が投入されてフレーミングモードの動作を開始すると、露出制御処理を以下のステップS1から開始する。
【0045】
まず、制御部30は、内部メモリ内に保持している露出制御パラメータに基づき露出制御を行い、被写体画像を撮像する(ステップS1)。内部メモリ内には、本フロー制御の開始時には、例えば、通常の測光に基づき検出した被写体の反射光量等から算出された露出制御パラメータ、或いは、予めメモリ等にプリセットしておいた露出制御パラメータが格納される。また、本フロー制御が一回以上ループ処理された後には、前ループにおけるステップS11での処理で求められた新たな露出制御パラメータが格納されている。
【0046】
続いて、検波回路30は、ステップS1で露出制御がされた被写体画像からヒストグラムを求める(ステップS2)。
【0047】
続いて、制御部30は、ステップS2で得られたヒストグラムを、検波回路30から取得する(ステップS3)。
【0048】
続いて、制御部30は、取得したヒストグラムの輝度レベルを、高輝度範囲と、中期度範囲と、低輝度範囲の3段階に分割し、各範囲での画素数を算出する(ステップS4)。ここでは、高輝度範囲の画素数をNH、中輝度範囲の画素数をNM、低輝度範囲の画素数をNLとする。また、高輝度範囲、中輝度範囲、低輝度範囲を分割するスレッショルドは、例えば、図4に示すように、0 〜 1/4×Ymaxを低輝度範囲とし、1/4×Ymax 〜 3/4×Ymaxを中輝度範囲とし、3/4×Ymax 〜 Ymaxを高輝度範囲とする。なお、Ymaxは、輝度レベルの最大値である。また、輝度レベルを分割する際には、ガンマ補正処理を考慮することが望ましい。もし、ガンマ補正前の輝度データを用いてヒストグラムを生成する場合には、図5に示すように、ガンマ補正後の輝度レベルに対応する値から、スレッショルドを算出するようにする。また、ここでは、輝度レベルを4分割して上位1/4を高輝度範囲とし下位1/4を低輝度範囲としたが、輝度レベルをN分割して、上位1/Nを高輝度範囲とし、下位1/Nを低輝度範囲としてもよい。ただし、この場合、Nは3以上の整数とする必要がある。
【0049】
続いて、制御部30は、下記演算を行い、第1の補正比率R1を算出する(ステップS5)。
R1=|NH−NL|/(NH+NM+NL)
【0050】
続いて、制御部30は、下記演算を行い、第2の補正比率R2を算出する(ステップS6)。
R2=NM/(NH+NM+NL)
【0051】
続いて、制御部30は、下記演算を行い、第3の補正比率R3を算出する(ステップS7)。
R3=NH/(NH+NM+NL)
【0052】
続いて、制御部30は、下記演算を行い、第4の補正比率R4を算出する(ステップS8)。
R4=NL/(NH+NM+NL)
【0053】
続いて、制御部30は、第1の補正比率R1、第2の補正比率R2、第3の補正比率R3、第4の補正比率R4を乗算し、合計補正比率Rを算出する(ステップS9)。
【0054】
続いて、制御部30は、合計補正比率Rに基づき、内部メモリ内に格納されている露出制御パラメータを補正して、新たな露出制御パラメータを求める(ステップS10)。例えば、合計補正比率Rと係数kとを乗算し、内部メモリ内に格納されている露出制御パラメータからこの乗算結果を加算或いは減算することによって、新たな露出制御パラメータを算出する。
【0055】
続いて、制御部30は、新たな露出制御パラメータを内部メモリ内に格納する(ステップS11)。
【0056】
そして、制御部30は、ステップS1からステップS11までの処理を、例えば1フレーム毎に行い、次のフレームに対する処理を行う際には、再度ステップS1から処理を開始する。
【0057】
なお、ステップS5〜S8において求められた第1の補正比率R1、第2の補正比率R2、第3の補正比率R3、第4の補正比率R4は、合計補正比率Rに対して、それぞれ以下のような影響を与えることになる。
【0058】
第1の補正比率R1は、高輝度範囲の画素が多く低輝度範囲の画素が少ない場合、或いは、高輝度範囲の画素が少なく高輝度範囲の画素が多い場合に、値が大きくなる。つまり、第1の補正比率R1は、画像が白とびしている場合、或いは、画像が黒つぶれしている場合に、値が大きくなる。従って、第1の補正比率R1は、例えば、被写体画像が低輝度範囲或いは高輝度範囲の一方に偏り、CCDの感応レンジ幅を広く活用できていない場合には、合計補正比率が大きくなるように影響を与えることができる。そのため、このような第1の補正比率R1に基づき露出制御パラメータを補正することによって、白とび、黒つぶれ、或いは、薄暗い画像(いわゆる眠い画像)のときに、露出補正パラメータに与える補正量を大きくすることが可能となる。
【0059】
第2の補正比率R2は、ヒストグラムの形状が、中輝度範囲の画素数が多い例えば山形のときに値が大きくなり、中輝度範囲の画素数が少ない例えば谷型のときに値が小さくなる。つまり、第2の補正比率R2は、高輝度範囲又は低輝度範囲に画素が多く中輝度範囲に画素が少なく、被写体が高輝度側にあるのか低輝度側にあるのかが不明な場合には、値が小さくなる。従って、第2の補正比率R2は、誤った補正を行う可能性がある場合には、露出制御パラメータに与える補正量を小さくなるように影響を与えることが可能となる。
【0060】
第3の補正比率R3は、全画素数に対して高輝度範囲の画素が多い場合に値が大きくなる。そのため、第3の補正比率R3は、例えば、人物を撮影した場合に、顔が白とびしているような場合、露出制御パラメータに与える補正量を大きくすることが可能となる。
【0061】
第4の補正比率R4は、全画素数に対して低輝度範囲の画素が多い場合に値が大きくなる。そのため、第4の補正比率R4は、例えば、黒い車等を撮影したような場合等に生じる、黒い部分の階調がなくなっているような画像に対して、露出制御パラメータに与える補正量を大きくすることが可能となる。
【0062】
なお、本例では、第1〜第4の補正比率R1〜R4を全て乗算して、合計補正比率Rを求めているが、全ての補正利率を用いることなく、例えばこれら一つの補正比率だけを用いて合計補正比率Rを算出してもよいし、これらの組み合わせを用いても良い。
【0063】
本発明の実施の形態のデジタルスチルカメラ1では、以上のように、任意の露出制御パラメータで撮像された被写体画像から得られるヒストグラムに基づきその被写体画像の特徴を検出し、その特徴から任意の露出制御パラメータを補正して、新たな露出制御パラメータを算出し、露出を新たな露出制御量に制御して被写体画像を撮像する。
【0064】
このため、本発明の実施の形態のデジタルスチルカメラ1では、白とびや黒つぶれといったことなく被写体の特徴に応じた細やかな露出制御を行うことが可能となる。例えば、図6(A)に示すような低輝度側に偏った画像が撮像された場合であっても、以上の露出制御を行って補正をすることによって、図6(B)に示すように、低輝度から高輝度までCCDの感応レンジを効率的に用いたダイナミックレンジの広い画像を撮像することができる。
【0065】
【発明の効果】
本発明にかかる画像撮像装置及び画像撮像方法では、任意の露出制御量で撮像された被写体画像から、輝度レベルの範囲を高輝度範囲、中輝度範囲、低輝度範囲の3つの範囲に分割して、輝度レベルに対する画素の度数を示すヒストグラムを生成し、上記高輝度範囲の画素数をN H 、上記中輝度範囲の画素数をN M 、上記低輝度範囲の画素数をN L としたときに、第1の比率、第2の比率、第3の比率及び/又は第4の比率を求め、各比率を乗算した総合比率に基づき補正量を算出し、当該補正量に基づき上記任意の露出制御量を補正することにより上記新たな露出制御量を算出し、露出を新たな露出制御量に制御して被写体画像を撮像する。
【0066】
このため本発明では、白とびや黒つぶれといったことなく被写体の特徴に応じた細やかな露出制御を行うことが可能となる。
【図面の簡単な説明】
【図1】本発明の実施の形態のデジタルスチルカメラのブロック構成図である。
【図2】被写体画像のヒストグラムを示す図である。
【図3】露出制御のタスクを示すフローチャートである。
【図4】被写体画像のヒストグラムの輝度レベルの分割範囲を説明するための図である。
【図5】ガンマ補正カーブを考慮した輝度レベルの分割閾値を説明するための図である。
【図6】本発明の露出補正を行ったのちのヒストグラムを示す図である。
【符号の説明】
1 デジタルスチルカメラ、11 カメラ部、12 CCDイメージセンサ、13 タイミングジェネレータ、14 S/H・GC、15 ADコンバータ、16 デジタル信号処理回路、17 ファインダ、18 記録回路 19 検波回路 20 シャッタレリーズボタン、21 シャッタ判定回路、22 ズームレンズ、23 フォーカスレンズ、24 絞り羽根、25 絞り駆動部、30 制御部[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image capturing apparatus and an image capturing method for electronically capturing a still image or the like using a photoelectric conversion element such as a CCD (Charge Coupled Device) image sensor or a C-MOS image sensor.
[0002]
[Prior art]
An electronic image pickup device called a so-called digital still camera using a CCD image sensor or a C-MOS image sensor as a photoelectric conversion element is widely used.
[0003]
Such a digital still camera is generally provided with an AE (automatic exposure) function for automatically adjusting an exposure amount. In digital still camera exposure control, the amount of light in the field of view is measured with a sensor, and the aperture of the lens, the amount of electronic shutter, and the gain of the electrical signal output from the CCD image sensor, etc. are adjusted based on the photometric result. Is done.
[0004]
[Problems to be solved by the invention]
However, a photoelectric conversion element such as a CCD image sensor has a very narrow dynamic range of a luminance region that can be photographed, as compared with a silver salt photographic film. For this reason, when the brightness difference between the bright and dark parts included in the field of view is large, the appropriate exposure range becomes very narrow.If exposure control is performed based on the result of light metering by a simple sensor, optimal exposure control is achieved. It was difficult to do. For example, when the exposure is adjusted to the bright part, the dark part is an image that is blacked out, and when the exposure is adjusted to the dark part, the bright part is an image that is whitened. Also, depending on the subject, there is a possibility that the entire image becomes a dim image (so-called sleepy image).
[0005]
In order to solve such a problem, in recent years, the amount of light is measured from an image obtained by actually capturing an image, and exposure at the time of photographing has been controlled. As a method of measuring the light intensity from the actual imaging screen, the whole surface average metering method that measures the average brightness of the entire screen, the center-weighted metering method that focuses on the brightness of the central part of the screen, and the inside of the screen is divided Then, there are a multi-division photometry method for measuring the average luminance in each area, a spot photometry method for measuring the luminance at an arbitrary position in the screen, and the like.
[0006]
However, even if the method of measuring the amount of light from the actual captured image as described above is used, the average luminance amount is simply calculated or only partial luminance measurement is performed. It was difficult to control the exposure.
[0007]
The present invention has been made in view of such circumstances, and an image imaging apparatus and an image imaging method capable of performing fine exposure control according to the characteristics of the subject without overexposure or underexposure. The purpose is to provide.
[0008]
[Means for Solving the Problems]
The imaging apparatus according to the present invention receives imaging light from a subject, converts the imaging light into an electrical signal by an imaging device, and digitizes the converted electrical signal in pixel units or pixel block units to generate an imaging signal. And a control unit that controls the camera imaging unit. The control unit controls the exposure of the camera imaging unit to an arbitrary exposure control amount. From the subject image captured with the exposure control amount ofThe luminance level range is divided into three ranges, a high luminance range, a medium luminance range, and a low luminance range,Generate a histogram showing the frequency of the pixel against the luminance level,N is the number of pixels in the high luminance range. H , The number of pixels in the medium luminance range is N M , The number of pixels in the low luminance range is N L Then, the first ratio, the second ratio, the third ratio, and / or the fourth ratio are obtained based on the following arithmetic expression, the correction amount is calculated based on the total ratio obtained by multiplying each ratio, The new exposure control amount is calculated by correcting the arbitrary exposure control amount based on the correction amount,A subject image is picked up by controlling the exposure of the camera image pickup unit to the new exposure control amount.
First ratio = | N H -N L | / (N H + N M + N L )
Second ratio = N M / (N H + N M + N L )
Third ratio = N H / (N H + N M + N L )
Fourth ratio = N L / (N H + N M + N L )
[0009]
In this image capturing apparatus, a histogram indicating the frequency of a pixel with respect to a luminance level is generated from a subject image captured with an arbitrary exposure control amount, and the feature of the subject image is detected based on the histogram. Then, an arbitrary exposure control amount is corrected according to the feature to calculate a new exposure control amount, and the subject is imaged by controlling the exposure to the new exposure control amount.
[0011]
In addition, the imaging method according to the present invention receives imaging light from a subject, converts the imaging light into an electrical signal by an imaging device, digitizes the converted electrical signal in pixel units or pixel block units, and captures the imaging signal. The image capturing method for capturing a subject image by generating an image of a subject with an exposure according to an arbitrary exposure control amount, and from the subject image captured with the arbitrary exposure control amount,The brightness level range is divided into three ranges: a high brightness range, a medium brightness range, and a low brightness range.Generate a histogram showing the frequency of the pixel against the luminance level,N is the number of pixels in the high luminance range. H , The number of pixels in the medium luminance range is N M , The number of pixels in the low luminance range is N L Then, the first ratio, the second ratio, the third ratio, and / or the fourth ratio are obtained based on the following arithmetic expression, the correction amount is calculated based on the total ratio obtained by multiplying each ratio, The new exposure control amount is calculated by correcting the arbitrary exposure control amount based on the correction amount,The subject image is captured by controlling the exposure to a new exposure control amount.
First ratio = | N H -N L | / (N H + N M + N L )
Second ratio = N M / (N H + N M + N L )
Third ratio = N H / (N H + N M + N L )
Fourth ratio = N L / (N H + N M + N L )
[0012]
In this image capturing method, a histogram indicating the frequency of a pixel with respect to a luminance level is generated from a subject image captured with an arbitrary exposure control amount, and the feature of the subject image is detected based on the histogram. Then, according to the feature, the arbitrary exposure control amount is corrected to calculate a new exposure control amount, and the subject image is captured by controlling the exposure to the new exposure control amount.
[0014]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, as an embodiment of the present invention, an imaging apparatus (digital still camera) that electronically captures still images to which the present invention is applied will be described. FIG. 1 shows a configuration diagram of a digital
[0015]
As shown in FIG. 1, the
[0016]
The
[0017]
The timing signal generation circuit 13 generates various drive pulses necessary for the
[0018]
The S / H •
[0019]
The
[0020]
The digital
[0021]
The
[0022]
The recording circuit 18 records the still image signal output from the digital
[0023]
The detection circuit 19 generates various detection signals necessary for autofocus (AF), automatic exposure (AE), and the like from the video signal supplied from the digital
[0024]
The
[0025]
The
[0026]
The
[0027]
The
[0028]
The
[0029]
The
[0030]
The framing process is a process for displaying the image captured by the
[0031]
The autofocus process is a process for automatically setting the focus of a subject image to be captured of a still image. That is, the autofocus process is a process for automatically adjusting the moving position of the
[0032]
The digital
[0033]
The still image shooting process is a process of capturing a subject image for one screen and recording the subject image for one screen on a medium. When the
[0034]
Next, the automatic exposure control process will be described.
[0035]
In the automatic exposure control process, the aperture of the
[0036]
Each of these settings is performed according to an exposure control parameter stored in the internal memory of the
[0037]
The
[0038]
Further, the exposure control parameters stored in the internal memory of the
[0039]
A histogram of the brightness level of the captured image is calculated by the detection circuit 19. A specific example of the histogram is shown in FIG. That is, the horizontal axis indicates the luminance level of the pixel, and the vertical axis indicates the number of pixels in one captured image, that is, the frequency. Therefore, in the case of a captured image including many pixels with a high luminance level, as shown in FIG. 2A, the histogram has a peak at the high luminance level portion. Further, in the case of a captured image including many pixels with a low luminance level, as shown in FIG. 2B, a histogram having a peak at the low luminance level portion is obtained.
[0040]
The
[0041]
Then, the
[0042]
Therefore, the digital
[0043]
Next, a specific processing example of the exposure control processing applied to the digital
[0044]
In the digital
[0045]
First, the
[0046]
Subsequently, the
[0047]
Subsequently, the
[0048]
Subsequently, the
[0049]
Subsequently, the
R1= | NH-NL| / (NH+ NM+ NL)
[0050]
Subsequently, the
R2= NM/ (NH+ NM+ NL)
[0051]
Subsequently, the
R3= NH/ (NH+ NM+ NL)
[0052]
Subsequently, the
R4= NL/ (NH+ NM+ NL)
[0053]
Subsequently, the
[0054]
Subsequently, the
[0055]
Subsequently, the
[0056]
And the
[0057]
The first correction ratio R obtained in steps S5 to S8.1, Second correction ratio R2, Third correction ratio R3, Fourth correction ratio R4Affects the total correction ratio R as follows.
[0058]
First correction ratio R1The value increases when there are many pixels in the high luminance range and few pixels in the low luminance range, or when there are few pixels in the high luminance range and many pixels in the high luminance range. That is, the first correction ratio R1The value increases when the image is blown out or when the image is blown out. Accordingly, the first correction ratio R1For example, when the subject image is biased to one of the low luminance range and the high luminance range and the sensitivity range width of the CCD cannot be widely used, the total correction ratio can be increased. Therefore, such a first correction ratio R1By correcting the exposure control parameter based on the above, it is possible to increase the amount of correction given to the exposure correction parameter in the case of overexposure, underexposure, or a dark image (so-called sleepy image).
[0059]
Second correction ratio R2The value of the histogram is large when the number of pixels in the medium luminance range is large, for example, a mountain shape, and the value is small when the number of pixels in the medium luminance range is small, for example, a valley shape. That is, the second correction ratio R2The value is small when there are many pixels in the high luminance range or low luminance range and few pixels in the medium luminance range, and it is unclear whether the subject is on the high luminance side or the low luminance side. Therefore, the second correction ratio R2If there is a possibility of erroneous correction, it is possible to influence the exposure control parameter so as to reduce the correction amount.
[0060]
Third correction ratio R3Is larger when the number of pixels in the high luminance range is larger than the total number of pixels. Therefore, the third correction ratio R3For example, when a person is photographed and the face is overexposed, the amount of correction given to the exposure control parameter can be increased.
[0061]
Fourth correction ratio R4Increases when the number of pixels in the low luminance range is large with respect to the total number of pixels. Therefore, the fourth correction ratio R4For example, it is possible to increase the amount of correction given to the exposure control parameter for an image in which the gradation of the black portion is lost, for example, when a black car is photographed.
[0062]
In this example, the first to fourth correction ratios R1~ R4However, the total correction ratio R may be calculated without using all the correction interest rates, for example, using only one of these correction ratios, or a combination thereof. May be used.
[0063]
In the digital
[0064]
For this reason, in the digital
[0065]
【The invention's effect】
In the image capturing apparatus and the image capturing method according to the present invention, an object image captured with an arbitrary exposure control amount is used.The brightness level range is divided into three ranges, a high brightness range, a medium brightness range, and a low brightness range,Generate a histogram showing the frequency of the pixel against the luminance level,N is the number of pixels in the high luminance range. H , The number of pixels in the medium luminance range is N M , The number of pixels in the low luminance range is N L Then, the first ratio, the second ratio, the third ratio and / or the fourth ratio are obtained, the correction amount is calculated based on the total ratio obtained by multiplying the respective ratios, and the correction amount is calculated based on the correction amount. The new exposure control amount is calculated by correcting an arbitrary exposure control amount,A subject image is captured by controlling the exposure to a new exposure control amount.
[0066]
Therefore, in the present invention, it is possible to perform fine exposure control according to the characteristics of the subject without overexposure or underexposure.
[Brief description of the drawings]
FIG. 1 is a block diagram of a digital still camera according to an embodiment of the present invention.
FIG. 2 is a diagram illustrating a histogram of a subject image.
FIG. 3 is a flowchart showing a task of exposure control.
FIG. 4 is a diagram for explaining a division range of luminance levels of a histogram of a subject image.
FIG. 5 is a diagram for explaining a division threshold of a luminance level in consideration of a gamma correction curve.
FIG. 6 is a diagram showing a histogram after performing exposure correction of the present invention.
[Explanation of symbols]
DESCRIPTION OF
Claims (6)
上記カメラ撮像部を制御する制御部とを備え、
上記制御部は、
上記カメラ撮像部の露出を任意の露出制御量に制御し、
上記任意の露出制御量で撮像された被写体画像から、輝度レベルの範囲を高輝度範囲、中輝度範囲、低輝度範囲の3つの範囲に分割して、該輝度レベルに対する画素の度数を示すヒストグラムを生成し、
上記高輝度範囲の画素数をN H 、上記中輝度範囲の画素数をN M 、上記低輝度範囲の画素数をN L としたときに、下記演算式に基づき第1の比率、第2の比率、第3の比率及び/又は第4の比率を求め、各比率を乗算した総合比率に基づき補正量を算出し、当該補正量に基づき上記任意の露出制御量を補正することにより上記新たな露出制御量を算出し、
上記カメラ撮像部の露出を上記新たな露出制御量に制御して被写体画像を撮像することを特徴とする画像撮像装置。
第1の比率=|N H −N L |/(N H +N M +N L )
第2の比率=N M /(N H +N M +N L )
第3の比率=N H /(N H +N M +N L )
第4の比率=N L /(N H +N M +N L ) Imaging light from a subject is incident, the imaging light is converted into an electrical signal by an imaging device, and the converted electrical signal is digitized in pixel units or pixel block units to generate an imaging signal, thereby capturing a subject image. A camera imaging unit;
A control unit for controlling the camera imaging unit,
The control unit
Control the exposure of the camera imaging unit to an arbitrary exposure control amount,
From the captured subject image in the arbitrary amount of exposure control, the high luminance range range of luminance levels, medium luminance range is divided into three ranges of low luminance range, a histogram indicating the frequency of pixels for the luminance level Generate and
The number of pixels in the high luminance range is N H , The number of pixels above in luminance range N M , Let N L be the number of pixels in the low luminance range Then, the first ratio, the second ratio, the third ratio, and / or the fourth ratio are obtained based on the following arithmetic expression, the correction amount is calculated based on the total ratio obtained by multiplying each ratio, The new exposure control amount is calculated by correcting the arbitrary exposure control amount based on the correction amount,
An image pickup apparatus for picking up a subject image by controlling exposure of the camera image pickup unit to the new exposure control amount.
First ratio = | N H -N L | / (N H + N M + N L )
Second ratio = N M / (N H + N M + N L )
Third ratio = N H / (N H + N M + N L )
Fourth ratio = N L / (N H + N M + N L )
任意の露出制御量に応じた露出で被写体画像を撮像し、
上記任意の露出制御量で撮像された被写体画像から、輝度レベルの範囲を高輝度範囲、中輝度範囲、低輝度範囲の3つの範囲に分割して、該輝度レベルに対する画素の度数を示すヒストグラムを生成し、
上記高輝度範囲の画素数をN H 、上記中輝度範囲の画素数をN M 、上記低輝度範囲の画素数をN L としたときに、下記演算式に基づき第1の比率、第2の比率、第3の比率及び/又は第4の比率を求め、各比率を乗算した総合比率に基づき補正量を算出し、当該補正量に基づき上記任意の露出制御量を補正することにより上記新たな露出制御量を算出し、
露出を上記新たな露出制御量に制御して被写体画像を撮像することを特徴とする画像撮像方法。
第1の比率=|N H −N L |/(N H +N M +N L )
第2の比率=N M /(N H +N M +N L )
第3の比率=N H /(N H +N M +N L )
第4の比率=N L /(N H +N M +N L ) Imaging light from a subject is incident, the imaging light is converted into an electrical signal by an imaging device, and the converted electrical signal is digitized in pixel units or pixel block units to generate an imaging signal, thereby capturing a subject image. In the image capturing method,
Take a subject image with an exposure according to the desired exposure control amount,
From the captured subject image in the arbitrary amount of exposure control, the high luminance range range of luminance levels, medium luminance range is divided into three ranges of low luminance range, a histogram indicating the frequency of pixels for the luminance level Generate and
The number of pixels in the high luminance range is N H , The number of pixels above in luminance range N M When the number of pixels in the low luminance range is N L , the first ratio, the second ratio, the third ratio, and / or the fourth ratio are obtained based on the following calculation formula, and each ratio is multiplied: Calculating a correction amount based on the overall ratio, calculating the new exposure control amount by correcting the arbitrary exposure control amount based on the correction amount,
An image capturing method comprising capturing a subject image while controlling exposure to the new exposure control amount.
First ratio = | N H -N L | / (N H + N M + N L )
Second ratio = N M / (N H + N M + N L )
Third ratio = N H / (N H + N M + N L )
Fourth ratio = N L / (N H + N M + N L )
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001356528A JP3994721B2 (en) | 2001-11-21 | 2001-11-21 | Image capturing apparatus and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001356528A JP3994721B2 (en) | 2001-11-21 | 2001-11-21 | Image capturing apparatus and method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003158673A JP2003158673A (en) | 2003-05-30 |
JP3994721B2 true JP3994721B2 (en) | 2007-10-24 |
Family
ID=19168037
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001356528A Expired - Fee Related JP3994721B2 (en) | 2001-11-21 | 2001-11-21 | Image capturing apparatus and method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3994721B2 (en) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005295498A (en) * | 2004-03-10 | 2005-10-20 | Seiko Epson Corp | Digital camera, file outputting method, file outputting program, structure of image data and image quality display device |
JP4360318B2 (en) | 2004-11-29 | 2009-11-11 | 株式会社ニコン | Digital still camera |
JP4306750B2 (en) * | 2007-03-14 | 2009-08-05 | ソニー株式会社 | Imaging apparatus, imaging method, exposure control method, program |
ES2396318B1 (en) * | 2007-07-25 | 2013-12-16 | Tay HIOK NAM | EXPOSURE CONTROL FOR AN IMAGE FORMATION SYSTEM |
JP2010141454A (en) * | 2008-12-10 | 2010-06-24 | Sanyo Electric Co Ltd | Image processing apparatus |
KR101633460B1 (en) * | 2009-10-21 | 2016-06-24 | 삼성전자주식회사 | Method and Apparatus for controlling multi-exposure |
CN114125280B (en) * | 2021-11-15 | 2024-02-13 | 北京字跳网络技术有限公司 | Camera exposure control method, device, equipment and storage medium |
-
2001
- 2001-11-21 JP JP2001356528A patent/JP3994721B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003158673A (en) | 2003-05-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4770907B2 (en) | Imaging apparatus, imaging method, and program | |
TWI287928B (en) | Image pickup apparatus, exposure control method, and medium for computer program installed in the image pickup apparatus | |
JP4561912B2 (en) | Imaging apparatus, imaging method, and program | |
JP4533860B2 (en) | Imaging apparatus and exposure control method | |
US9596400B2 (en) | Image pickup apparatus that periodically changes exposure condition, a method of controlling image pickup apparatus, and storage medium | |
US7590346B2 (en) | Digital camera | |
JP2007027967A (en) | Photographing apparatus | |
JP2010130231A (en) | Imaging apparatus | |
JP3994721B2 (en) | Image capturing apparatus and method | |
JP2018098649A (en) | Imaging apparatus, control method therefor, program, and storage medium | |
JP4360011B2 (en) | Image processing apparatus, image processing method, and recording medium | |
US8345150B2 (en) | Imaging apparatus | |
JP5048599B2 (en) | Imaging device | |
JP4458194B2 (en) | Imaging apparatus, exposure control method thereof, and recording medium | |
JP5257487B2 (en) | Imaging apparatus, imaging method, and program | |
JP4547465B2 (en) | Imaging apparatus and exposure control method | |
JP4553570B2 (en) | Auto focus camera | |
JP2000184272A (en) | Digital still camera | |
JP2015050733A (en) | Exposure control apparatus, exposure control method, control program, and imaging apparatus | |
JP4095630B2 (en) | Imaging device | |
JPH0670226A (en) | Camera and its preliminary method for photometory and equipment therefor and method | |
JP4789776B2 (en) | Imaging apparatus and imaging method | |
JP2020072392A (en) | Imaging apparatus, control method of imaging apparatus, and program | |
US8121473B2 (en) | Imaging apparatus | |
JP2971477B2 (en) | Exposure control method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20041013 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20061222 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070417 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070618 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070710 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070723 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100810 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100810 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |