JP4081609B2 - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP4081609B2 JP4081609B2 JP2003084407A JP2003084407A JP4081609B2 JP 4081609 B2 JP4081609 B2 JP 4081609B2 JP 2003084407 A JP2003084407 A JP 2003084407A JP 2003084407 A JP2003084407 A JP 2003084407A JP 4081609 B2 JP4081609 B2 JP 4081609B2
- Authority
- JP
- Japan
- Prior art keywords
- exposure
- exposure correction
- face
- image
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003384 imaging method Methods 0.000 title claims description 44
- 238000012937 correction Methods 0.000 claims description 98
- 238000000605 extraction Methods 0.000 claims description 34
- 230000006866 deterioration Effects 0.000 claims description 12
- 230000003287 optical effect Effects 0.000 claims description 10
- 230000004044 response Effects 0.000 claims description 9
- 238000012544 monitoring process Methods 0.000 claims description 5
- 230000015556 catabolic process Effects 0.000 claims description 4
- 238000006731 degradation reaction Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 description 50
- 239000004973 liquid crystal related substance Substances 0.000 description 26
- 238000004364 calculation method Methods 0.000 description 12
- 230000000875 corresponding effect Effects 0.000 description 12
- 230000006870 function Effects 0.000 description 10
- 238000000034 method Methods 0.000 description 8
- 238000004383 yellowing Methods 0.000 description 8
- 238000001514 detection method Methods 0.000 description 7
- 230000007246 mechanism Effects 0.000 description 7
- 238000007781 pre-processing Methods 0.000 description 7
- 239000003086 colorant Substances 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 5
- 230000006835 compression Effects 0.000 description 5
- 238000007906 compression Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 229920006395 saturated elastomer Polymers 0.000 description 4
- 230000006837 decompression Effects 0.000 description 2
- 230000002950 deficient Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 241000593989 Scardinius erythrophthalmus Species 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 201000005111 ocular hyperemia Diseases 0.000 description 1
- 238000005375 photometry Methods 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- WFKWXMTUELFFGS-UHFFFAOYSA-N tungsten Chemical compound [W] WFKWXMTUELFFGS-UHFFFAOYSA-N 0.000 description 1
- 229910052721 tungsten Inorganic materials 0.000 description 1
- 239000010937 tungsten Substances 0.000 description 1
Images
Landscapes
- Studio Devices (AREA)
- Exposure Control For Cameras (AREA)
- Indication In Cameras, And Counting Of Exposures (AREA)
- Color Television Image Signal Generators (AREA)
- Processing Of Color Television Signals (AREA)
Description
【発明の属する技術分野】
本発明は撮像装置に係り、特に露出補正機能を備えたデジタルスチルカメラにおいて露出補正を容易に行う技術に関する。
【0002】
【従来の技術】
一般的にダイナミックレンジの狭いCCDを撮像素子とするデジタルスチルカメラでは高精度オート露出機能を備えることで失敗写真を減少させてきた。しかし、逆光シーンなど、主要被写体が暗くなりがちなシーンと、主要被写体が明るくなるハイコントラストシーンとの切り分けは容易でなく、現在は、アンダーめの露出(暗めにする露出)とすることで白飛びを防いでいることが多い。
【0003】
逆光シーン等では、撮影された画像データの階調上で変化させ、人物を適正な明るさにするような後処理を行っている。上述した後処理を施すと、S/N比の劣化を招くことがあり、本来好ましくない処理である。
【0004】
特許文献1に開示された撮像装置は、露出補正実行キーが押下されると、露出状態を検出し適正露出になるような制御が行われ、また、現在の露出状態と、適正な露出状態との差を電子ビューファインダー表示させている。また、現在の露出状態と、適正な露出状態との差が所定の大きさを越えたときには警告を発するよう構成されている。
【0005】
【特許文献1】
特開平9−37146号公報
【0006】
【発明が解決しようとする課題】
しかしながら、一般撮影者にとって、撮影時に黒つぶれや白飛びを警戒しながら露出補正を加えることは高度なテクニックであり、中でもR信号が先に飽和し易いために、黄変などのさらに好ましくない画像の劣化を生むことがある。
【0007】
特許文献1に撮像装置では、設定された測光エリアから得られる測光結果によって露出を制御しているので、非常に明るい光が測光エリアに存在する場合、即ち、CCDの出力が飽和してしまう光量に対しては正確な測光ができないために適正な露出を設定することができない。
【0008】
本発明はこのような事情を鑑みてなされたもので、露出補正操作を容易にし逆光シーンやハイコントラストシーンなどにおいて好ましい画像を得ることができる撮像装置を提供することを目的とする。
【0009】
【課題を解決するための手段】
前記目的を達成するために本発明に係る撮像装置は、被写体の光学像を電気信号に変換する撮像手段と、前記被写体の明るさに応じて前記撮像手段の露出を制御する自動露出制御手段と、前記自動露出制御手段の制御結果を表示する手段と、前記自動露出制御手段によって決定される露出の補正を行う露出補正手段と、前記撮像手段を介して取得された画像内の人物の顔に相当する領域を抽出する顔抽出手段と、前記自動露出制御手段の制御結果を表示する手段の表示結果を参照した撮影者によって前記露出補正手段の露出補正の操作が行われると、前記顔抽出手段により抽出された顔領域から得られる情報を撮影者に対して提供するアシスト情報提供手段と、を備えたことを特徴としている。
【0010】
本発明によれば、被写体から人物の顔に相当する領域を抽出し、抽出された顔領域から得られた情報に基づいて露出補正のアシスト情報が提供されるので、提供されたアシスト情報により露出補正の適否と補正量を判断することができる。したがって、逆光シーンにおける黒つぶれやハイコントラストシーンにおける白飛びや黄変等による画像劣化が少なく、主要被写体が適正な明るさや色で再現される良好な画像を得ることができる。
【0011】
撮像手段には、CCDイメージセンサやMOS型イメージセンサ等の固体撮像素子がよく用いられる。
【0012】
被写体の明るさに応じて露出制御を行うために被写体の明るさを検出する手段が必要である。被写体の明るさを検出する手段は、撮像手段に内蔵してもよいし、別に設けた測光手段でもよい。
【0013】
自動露出制御では絞りおよびシャッタースピードの少なくとも一方が自動決定される。また自動露出調整には、シャッタースピード優先、絞り優先、フルオート等の制御があり、これらの制御のうち何れの制御を適用してもよい。
【0014】
アシスト情報には、ヒストグラムや、数値、文字、記号による情報がある。さらに、アシスト情報には音声出力手段による提供も含まれる。
【0015】
アシスト情報は撮影者が知覚できればよく、視覚でもよいし聴覚でもよい。またはこれらの組み合わせでもよい。また、前記目的を達成するために本発明に係る撮像装置は、被写体の光学像を電気信号に変換する撮像手段と、前記被写体の明るさに応じて前記撮像手段の露出を制御する自動露出制御手段と、前記自動露出制御手段によって決定される露出の補正を行う露出補正手段と、前記撮像手段を介して取得された画像内の人物の顔に相当する領域を抽出する顔抽出手段と、前記顔抽出手段により抽出された顔領域から得られる情報を撮影者に対して提供するアシスト情報提供手段と、を具備し、前記露出補正手段は、露出補正の状況を監視する露出補正監視手段と、前記露出補正手段により指定された露出補正によって前記顔領域の色劣化が発生するか否かを判定する劣化判定手段と、前記劣化判定手段により前記顔領域の色劣化が発生すると判定されたときに警告を発する警告手段と、を備えたことを特徴としている。本発明によれば、露出補正を監視し、露出補正によって顔領域の色劣化が発生すると判断されたときには警告を発するようにしたので、露出補正を行ったにも関わらず劣化した画像が生成されたり、補正過剰のために再現画像が劣化したりすることを避けることができる。
【0016】
本発明の一態様に係る撮像装置は、前記アシスト情報提供手段は前記顔領域から得られる情報を表示する表示手段を備えたことを特徴としている。
【0017】
表示手段には、液晶モニタ、有機EL、小型CRT、LED表示装置などの表示装置やLEDやランプ等の点灯/消灯による表示でもよい。また、液晶モニタにはカラー液晶モニタやドットマトリクス液晶モニタ等がある。また、表示手段はカラー表示でもよいしモノクロ表示でもよい。
【0018】
一般的にはLEDやランプ等の色は赤や緑がよく用いられるが、LEDやランプ等の色がこれらに限定されない。また、複数の色を組み合わせてもよい。
【0019】
表示手段を電子ビューファインダーと兼用させると、撮像装置の小型化に寄与することができる。電子ビューファインダー等の表示装置の一部に前記表示手段を設けてもよい。
【0020】
本発明の他の態様に係る撮像装置は、前記表示手段は前記顔抽出手段により抽出された顔領域の色相のヒストグラムが表示されることを特徴としている。
【0021】
かかる態様によれば、表示装置に表示された主要被写体から黒つぶれや白飛び等の画質劣化を撮影者が判断することは難しく、アシスト情報として顔領域の色相のヒストグラムを表示すれば、黒つぶれや白飛び等の画質劣化の判断を撮影者が容易に行うことができる。
【0022】
撮像手段に備えられたカラーフィルタに対応した色相のヒストグラムを表示することができる。撮像手段にR、G、Bカラーフィルタが備えられている場合には、R信号、G信号、B信号のヒストグラムを表示することができる。
【0023】
色相のヒストグラムはR、G、Bの3色すべてを表示してもよいし、何れか1色または2色を選択して表示してもよい。複数のヒストグラムを表示するときには、2色または3色同時に表示してもよいし、1色ずつ表示し一定時間毎に表示する色相を切り換えてもよい。
【0024】
R信号がG信号およびB信号より先に飽和すると、肌色が黄色みがかった色に変色する現象(黄変)があるので、少なくともR信号のヒストグラムを表示するとよい。
【0025】
本発明の更に他の態様に係る撮像装置は、前記露出補正手段の露出補正の操作が行われると、前記顔抽出手段による顔抽出を行うことを特徴としている。
【0026】
また、本発明の他の態様に係る撮像装置は、前記アシスト情報提供手段は、前記露出補正手段による露出補正の結果を反映させたアシスト情報をリアルタイムに表示することを特徴としている。更にまた、本発明の他の態様に係る撮像装置は、前記露出補正手段は、スルー画を対象として露出補正を行うことを特徴としている。本発明の他の態様に係る撮像装置は、記録開始操作に応じて画像を記録する記録メディアを備え、撮像開始操作に応じて、前記自動露出制御手段は前記撮像手段の露出を制御するとともに、撮影者によって前記露出補正手段の露出補正の操作が行われると前記露出補正手段は露出補正を行い、記録開始操作に応じて露出補正後の条件で撮像した画像を前記記録メディアに記録することを特徴としている。
【0027】
【発明の実施の形態】
以下、添付図面に従って本発明に係る撮像装置の好ましい実施の形態について説明する。
【0028】
図1は本発明の実施形態に係るデジタルカメラの構成を示すブロック図である。このカメラ10は、被写体の光学像をデジタル画像データに変換して記録メディア12に記録するデジタルカメラである。
【0029】
カメラ10全体の動作は、カメラ内蔵の中央処理装置(CPU)14によって統括制御される。 CPU14は、所定のプログラムに従って本カメラシステムを制御する制御手段として機能するとともに、自動露出(以下AEと記載)演算、自動焦点調節(以下AFと記載)演算、およびオートホワイトバランス(以下AWBと記載)制御、顔領域抽出演算など各種演算を実施する演算手段として機能する。
【0030】
CPU14はバス16を介してROM20およびメモリ(RAM)22と接続されている。ROM20にはCPU14が実行するプログラムおよび制御に必要な各種データ等が格納されている。メモリ22はプログラムの展開領域およびCPU14の演算作業用領域として利用されるとともに、画像データの一時記憶領域として利用される。
【0031】
また、CPU14にはEEPROM24が接続されている。EEPROM24は、AE、AFおよびAWB等の制御に必要なデータあるいはユーザが設定したカスタマイズ情報などを記憶している不揮発性の記憶手段であり、電源OFF時においても記憶内容が保持される。CPU14は必要に応じてEEPROM24のデータを参照して演算等を行う。なお、ROM20は書き換え不能なものであってもよいし、EEPROM(フラッシュメモリ)のように書き換え可能なものでもよい。
【0032】
カメラ10にはユーザが各種の指令を入力するための操作部30が設けられている。操作部30は、露出補正ダイヤル31、レリーズボタン32、ズームスイッチ33など各種操作部を含む。
【0033】
露出補正ダイヤル31は、オート露出機能によって設定された露出に撮影者が補正を加える操作手段である。主要被写体の黒つぶれや白飛びを避けるために露出補正が行われる。本実施形態では、露出補正ダイヤル31の回動操作によって1/2EV毎に±3EVの範囲で露出補正ができるものとする。露出補正範囲および露出補正の分解能はカメラの設計によって自由に設定可能である。
【0034】
また、露出補正ダイヤル31は押しボタンスイッチとすることもできる。露出補正操作機構を押しボタンスイッチで構成したときの一例を示す。前記押しボタンスイッチを1回押下すると1ステップずつ前述した露出値が変わり、露出手段補正範囲の上端で前記押しボタンが押下されると露出値は1ステップずつ減少し、下端で前記押しボタンが押下されると露出値は1ステップずつ増加する。
【0035】
シャッターボタン32は撮影開始の指示を入力する操作手段であり、半押し時にONするS1 スイッチと、全押し時にONするS2スイッチとを有する二段ストローク式のスイッチで構成されている。S1オンにより、AEおよびAF処理が行われ、S2オンによって記録用の露光が行われる。ズームスイッチ33は、撮影倍率や再生倍率を変更するための操作手段である。
【0036】
また、図示しないが、操作部30には、撮影モードと再生モードとを切り換えるためのモード選択手段、液晶モニタ40にメニュー画面を表示させるメニューボタン、メニュー画面から所望の項目を選択する十字ボタン(カーソル移動操作手段)、選択項目の確定や処理の実行を指令するOKボタン、選択項目など所望の対象の消去や指示内容の取消し、あるいは1つ前の操作状態に戻らせる指令を入力するキャンセルボタンなどの操作手段も含まれる。なお、操作部30の中には、プッシュ式のスイッチ部材、ダイヤル部材、レバースイッチなどの構成によるものに限らず、メニュー画面から所望の項目を選択するようなユーザインターフェースによって実現されるものも含まれている。
【0037】
操作部30からの信号はCPU14に入力される。CPU14は操作部30からの入力信号に基づいてカメラ10の各回路を制御し、例えば、レンズ駆動制御、撮影動作制御、画像処理制御、画像データの記録/再生制御、液晶モニタ40の表示制御などを行う。
【0038】
液晶モニタ40は、撮影時に画角確認用の電子ファインダーとして使用できるとともに、記録済み画像を再生表示する手段として利用される。また、液晶モニタ40は、ユーザインターフェース用表示画面としても利用され、必要に応じてメニュー情報や選択項目、設定内容などの情報が表示される。なお、液晶ディスプレイに代えて、有機ELなど他の方式の表示装置(表示手段)を用いることも可能である。
【0039】
次に、カメラ10の撮影機能について説明する。
【0040】
カメラ10は撮影光学系としての撮影レンズ42、絞り機構43およびCCD固体撮像素子(以下CCDと記載)44とを備えている。なお、CCD44に代えて、MOS型固体撮像素子など他の方式の撮像素子を用いることも可能である。撮影レンズ42は、電動式のズームレンズで構成されており、詳細な光学構成については図示しないが、主として倍率変更(焦点距離可変)作用をもたらす変倍レンズ群および補正レンズ群と、フォーカス調整に寄与するフォーカスレンズとを含む。
【0041】
撮影者によってズームスイッチ33が操作されると、そのスイッチ操作に応じてCPU14からズーム駆動部46に対して制御信号が出力される。ズーム駆動部46は、動力源となるモータ(ズームモータ)とその駆動回路とを含む電動駆動手段である。ズーム駆動部46のモータ駆動回路は、CPU14からの制御信号に基づいてレンズ駆動用の信号を生成し、ズームモータに与える。こうして、モータ駆動回路から出力されるモータ駆動電圧によってズームモータが作動し、撮影レンズ42内の変倍レンズ群および補正レンズ群が光軸に沿って前後移動することにより、撮影レンズ42の焦点距離(光学ズーム倍率)が変更される。
【0042】
本実施形態では、ワイド(広角)端からテレ(望遠)端までのズーム動作範囲内において撮影レンズ42の焦点距離を10段階で可変できるものとする。撮影者は撮影目的に応じて所望の焦点距離を選択して撮影を行うことができる。
【0043】
撮影レンズ42のズーム位置(焦点距離に相当)は、ズーム位置検出センサ48によって検出され、その検出信号はCPU14に通知される。CPU14はズーム位置検出センサ48からの信号によって現在のズーム位置(すなわち、焦点距離)を把握できる。ズーム位置検出センサ48は、ズームモータ等の回転によりパルスを発生する回路であってもよいし、レンズ鏡胴の外周に位置検出エンコード板を配置した構成などであってもよく、本発明の実施に際しては、特に限定されるものではない。
【0044】
撮影レンズ42を通過した光は、絞り機構43を介して光量が調節された後、CCD44に入射する。CCD44の受光面には多数のフォトセンサ(受光素子)が平面的に配列され、各フォトセンサに対応して赤(R)、緑(G)、青(B)の原色カラーフィルタが所定の配列構造(ベイヤー、Gストライプなど)で配置されている。
【0045】
CCD44の受光面に結像された被写体像は、各フォトセンサによって入射光量に応じた量の信号電荷に変換される。CCD44は、シャッターゲートパルスのタイミングによって各フォトセンサの電荷蓄積時間(シャッタースピード)を制御する電子シャッター機能を有している。
【0046】
CCD44の各フォトセンサに蓄積された信号電荷は、CCDドライバ50から与えられるパルスに基づいて信号電荷に応じた電圧信号(画像信号)として順次読み出される。CCD44から出力された画像信号は、アナログ処理部52に送られる。アナログ処理部52は、CDS(相関二重サンプリング)回路およびゲイン調整回路を含む先行処理部であり、このアナログ処理部52において、サンプリング処理並びにR,G,Bの各色信号に色分離処理され、各色信号の信号レベルの調整(プリホワイトバランス処理)が行われる。
【0047】
アナログ処理部52から出力された画像信号はA/D変換器54によってデジタル信号に変換された後、信号処理部56を介してメモリ22に格納される。このときメモリ22に記憶される画像データは、CCD44から出力された画像信号のA/D変換出力をそのまま(未加工のまま)記録したものであり、ガンマ変換や同時化などの信号処理が行われていない画像データであり、以下、CCDRAWデータという。ただし、「未加工のデータ」といっても、一切の信号処理を排除するものではなく、例えば、撮像素子の欠陥画素(キズ)のデータを補間する欠陥画素補正処理を行って得られた画像データなどについては汎用フォーマットに展開されていないという点でCCDRAWデータの概念に含まれるものとする。
【0048】
タイミングジェネレータ(TG)58は、CPU14の指令に従ってCCDドライバ50、アナログ処理部52およびA/D変換器54に対してタイミング信号を与えており、このタイミング信号によって各回路の同期がとられている。
【0049】
信号処理部56は、メモリ22の読み書きを制御するメモリコントローラを兼ねたデジタル信号処理ブロックである。信号処理部56は、AE/AF/AWB処理を行うオート演算部と、同時化回路(単板CCDのカラーフィルタ配列に伴う色信号の空間的なズレを補間して各点の色を計算する処理回路)、ホワイトバランス回路、ガンマ変換回路、輝度・色差信号生成回路、輪郭補正回路、コントラスト補正回路等を含む画像処理手段であり、CPU14からのコマンドに従ってメモリ22を活用しながら画像信号を処理する。
【0050】
メモリ22に格納されたCCDRAWデータは、バス16を介して信号処理部56に送られる。信号処理部56に入力された画像データは、ホワイトバランス調整処理、ガンマ変換処理、輝度信号(Y信号)および色差信号(Cr,Cb 信号)への変換処理(YC処理)など、所定の信号処理が施された後、メモリ22に格納される。
【0051】
撮影画像をモニタ出力する場合、メモリ22から画像データが読み出され、表示回路60に転送される。表示回路60に送られた画像データは表示用の所定方式の信号(例えば、NTSC方式のカラー複合映像信号)に変換された後、液晶モニタ40に出力される。CCD44から出力される画像信号によってメモリ22内の画像データが定期的に書き換えられ、その画像データから生成される映像信号が液晶モニタ40に供給されることにより、撮像中の映像(スルー画)がリアルタイムに液晶モニタ40に表示される。撮影者は液晶モニタ40に表示される映像(いわゆるスルームービー)によって画角(構図)を確認できる。
【0052】
撮影者が画角を決めてシャッターボタン32を押下すると、CPU14はこれを検知し、シャッターボタン32の半押し(S1オン)に応動してAE処理およびAF処理を行い、シャッターボタン32の全押し(S2オン)に応動して記録用の画像を取り込むためのCCD露光および読み出し制御を開始する。
【0053】
本カメラ10におけるAE制御は、AE演算部は1画面を複数のエリア(例えば、8×8)に分割し、分割エリアごとにRGB信号を積算する回路を含み、その積算値をCPU14に提供する。CPU14は、AE演算部から得た積算値に基づいて被写体の明るさ(被写体輝度)を検出し、撮影に適した露出値(撮影EV値)を算出する。求めた露出値と所定のプログラム線図に従い、絞り値とシャッタースピードが決定される。そして、アイリスモータを含む絞り機構駆動部62およびCCD44の電子シャッターを制御して最適な露光量を得る。
【0054】
シャッターボタン32の全押し(S2オン)に応動して取り込まれた画像データは、信号処理部56においてAWB、γ処理、YC処理その他の所定の信号処理を経た後、圧縮伸張回路64において所定の圧縮フォーマット(例えば、JPEG方式) に従って圧縮される。圧縮された画像データは、メディアインターフェース部66を介して記録メディア12に記録される。圧縮形式はJPEGに限定されず、MPEGその他の方式を採用してもよい。
【0055】
画像データを保存する手段は、xD-Pictuer Card 、スマートメディア(商標)、コンパクトフラッシュ(商標)などで代表される半導体メモリカード、磁気ディスク、光ディスク、光磁気ディスクなど、種々の媒体を用いることができる。また、リムーバブルメディアに限らず、カメラ10に内蔵された記録媒体(内部メモリ)であってもよい。
【0056】
モード選択手段によって再生モードが選択されると、記録メディア12に記録されている最終の画像ファイル(最後に記録したファイル)が読み出される。記録メディア12から読み出された画像ファイルのデータは、圧縮伸張回路64によって伸張処理され、表示回路60を介して液晶モニタ38に出力される。
【0057】
再生モードの一コマ再生時に十字ボタンを操作することにより、順方向又は逆方向にコマ送りすることができ、コマ送りされた次のファイルが記録メディア12から読み出され、上記と同様にして画像が再生される。
【0058】
主要被写体が暗い場合に起こる黒つぶれやハイコントラストシーンで起こる白飛び等のように、AEによって得られた露光量で撮影を行うと再現画像が劣化してしまうことがある。上述したような再現画像の劣化を防ぐために、カメラ10は露出補正機能を有している。
【0059】
カメラ10が有している露出補正機能は、人物の顔や人物の顔に相当する部分(以下、人物の顔および人物の顔に相当する部分を合わせて顔領域と記載)を抽出し、抽出された顔領域のヒストグラムを液晶モニタ40に表示させる。撮影者は、液晶モニタ40に表示された顔領域のヒストグラムによって露出補正の状況を判断することができる。
【0060】
撮影者は、露出補正ダイヤル31を回動操作してAEによって得られた露出に補正を加えることができる。
【0061】
次に、上述した露出補正における顔領域の抽出(以下顔抽出と記載)について詳述する。まず、顔抽出処理における信号処理を説明すると、積算回路70とホワイトバランス回路72は、通常のオートホワイトバランス処理に使用している処理系である。また、その下段に示した、積算回路74、ホワイトバランス回路76および同時化回路78は、顔抽出アルゴリズムの前処理を実施するための処理部(以下、前処理系という。)である。
【0062】
A/D変換器54にてデジタル信号に変換されたCCDRAWデータはメモリ22に格納され、メモリ22から積算回路70に送られる。積算回路70は、1画面内を複数のエリア(例えば、8×8の64ブロック)に分割し、エリアごとにRGB信号の色別の平均積算値を算出する回路を含み、その算出結果は基準光源(デイライト)を想定したホワイトバランス回路72に送られる。ホワイトバランス回路72でゲイン調整された信号はCPU14に提供される。
【0063】
CPU14は、Rの積算値、Bの積算値、Gの積算値を得て、R/G、B/Gの比を求め、これらR/G、B/Gの値と、AE演算による撮影EV値の情報に基づいてシーン判別(光源種の判別)を行い、シーンに適した所定のホワイトバランス調整値(光源の雰囲気を残すような設定)に従って、信号処理部56内のホワイトバランス回路80および前処理系のホワイトバランス回路76のアンプゲインを制御し、各色チャンネルの信号に補正をかける。なお、シーン判別においては、R/G、B/Gの値を利用するのに代えて、R−Y、B−Yなど色温度情報を用いてもよい。
【0064】
その後、シャッターボタン32の全押し(S2オン)に応動して記録用の画像を取り込む。S2オンに応じて取得されたCCDRAWデータは一旦メモリ22に格納され、その後、信号処理部56および顔抽出用の前処理系の積算回路74に送られる。
【0065】
図2は顔抽出の一例を示すイメージ図である。本実施形態に示す顔抽出は、原画像(A)から肌色領域の抽出を行い(B)、同時にエッジの抽出を行う(C)。(A)と(B)から顔候補領域を抽出し(D)、形状、大きさから顔として妥当なモデル形状をもとに顔領域を抽出する(E)。
【0066】
図3は、顔抽出におけるシーケンスを示すフローチャートである。
【0067】
まず、シャッターボタン32のS1オンを経て、CCDRAWデータをメモリ22に記録する(ステップS110)。図1で説明した前処理系(74、76、78)による処理を行い、記録したCCDRAWデータから積算処理、ホワイトバランス処理および同時化処理を行う(図3のステップS114)。
【0068】
CPU14は、EEPROM24に記録されている肌色テーブルを取得する(ステップS116)。肌色テーブルは、所定の色空間において「肌色」として認識される色相の範囲を定めたデータである。CPU14は、前処理系の同時化回路78から取得したRGBの3面データ(リニアな系のデータ)をもとに、肌色テーブル内の色相を検出する(ステップS118)。
【0069】
図4は、肌色として抽出されるべき色相の範囲(肌色抽出エリア)を例示した図である。図示した色空間はガンマをかける前のリニアな系であり、横軸をR/G、縦軸をB/Gとした座標系である。
【0070】
図4において、符号88の矩形枠で囲まれた範囲が肌色抽出エリアとして設定されている。すなわち、Gに対してRが少し多く、また、BはGに対して少し低い値を示す範囲を「肌色」と定めておき、この範囲内に入ったものを肌色として判定する。
【0071】
更に、肌色抽出エリア88は、彩度によって更に複数のエリアに分割されている。図4において、「彩度」は原点O(1,1)からの距離によって表され、原点Oから離れるほど彩度が高くなる。同図の例では、原点を中心とする同心円状の境界線(破線により図示)によって肌色検出エリア88が6つの領域に区分けされている。
【0072】
CPU14は、前処理系の同時化回路78から取得したRGBの三面データから肌色領域を検出した後、更に、当該肌色検出された部分を、彩度を基準に領域分割する(図3のステップS118)。
【0073】
画像内で対象物が異なるとその彩度も異なり、一般に人物の顔の肌色は、タングステン光源下の白色物や机などの木よりも彩度が高い傾向がある。したがって、肌色検出された領域を彩度によって細かく分けてその領域形状を把握することにより顔領域であるか、顔以外の領域であるかを判別することが容易になる。
【0074】
ステップS120において彩度による領域分割を行った後は、ステップS122に進む。ステップS122では、ステップS110で入手した画像データの高周波成分を検出して、エッジ抽出を行う。
【0075】
そして、彩度によって分割された肌色領域とステップS122で抽出したエッジを合成し、顔領域の候補を抽出する(ステップS124)。
【0076】
ステップS124で絞り込まれた顔領域候補の中から、更に各領域について形状検出を行い、形状から顔領域を特定する(ステップS126)。すなわち、顔として妥当なモデル形状(楕円や円)から定められた縦横比の規定値と、顔候補の形状とを対比し、検出された形状の縦横比が規定値から大きく外れるものについては、顔以外の領域であると判断する。この形状判定によって顔候補が更に絞り込まれ、所定の縦横比を有する形状の領域部分が「顔」として判定される。
【0077】
こうして、顔領域が抽出され、その抽出結果は露出補正に利用される。また、顔抽出は露出補正以外に、ホワイトバランス補正、肌色をベストの色(目標値)に近づける色補正、赤目補正などに利用される。
【0078】
また、上述した顔抽出に顔の大きさを判断し、明らかに顔の大きさでない領域を除外し、顔抽出の精度を上げることが可能である。
【0079】
撮影距離、視野角(焦点距離、CCDサイズ)と焦点距離とから、当該焦点距離におけるCCD44上での顔のサイズを求めることができる。ワイド端からテレ端までのいくつかの焦点距離についてCCD44上での顔サイズの最大値をデータテーブルとして、カメラ10内のEEPROM24に記憶させておく。
【0080】
図3のステップ120における彩度による領域分割後に、焦点距離情報に従いEEPROM24から顔領域の最大値テーブルを入手し、当該焦点距離における顔領域の予測最大値を求め、この最大値を顔領域の判断基準に設定する。この最大値より極端に大きい領域は顔でないと判断して顔領域の候補から排除することができる。
【0081】
顔抽出には他の形態を適用することが可能であり、主要被写体である顔領域を精度よく抽出できればよい。
【0082】
図5は、本実施形態における露出補正の制御の流れを示すフローチャートである。
【0083】
撮影スタンバイ状態(ステップS200)ではレリーズボタン32半押し(以下S1オンと記載)を監視し(ステップS202)、S1オンにならない場合には(NO判定)S1オンの監視を継続し、S1オンになると(YES判定)、取得した画像にはAE、AF、AWB等の所定の信号処理が行われる(ステップS204)。
【0084】
ステップS204において所定の信号処理が終了すると、液晶モニタ40にAEの結果求められた撮影条件が表示される(ステップS206)。液晶モニタ40に表示される撮影条件には絞り値、シャッタースピード、露出値が含まれている。
【0085】
撮影者は液晶モニタ40に表示された撮影条件から露出補正を行うか否かを判断し(ステップS208)、露出補正の必要があれば露出補正ダイヤル31を回動操作して露出補正を行うことができる。
【0086】
ステップS208において、露出補正ダイヤル31が操作されない場合には(NO判定)、カメラ10の制御はレリーズボタン32全押し(以下S2オンと記載)待ちに遷移し(ステップS222)、露出補正ダイヤル31が操作されると(YES判定)、図2乃至4に示した顔抽出を実行する(ステップS210)。
【0087】
ステップS210において、顔領域が抽出されると、抽出された顔領域の色相のヒストグラムが液晶モニタ40に表示される。液晶モニタ40に表示される再現画像からは、主要被写体に黒つぶれや白飛びが起こっているかを判断することは難しく、撮影者が黒つぶれや白飛びを確認する情報としてヒストグラムは便利である。図6はヒストグラムの表示例を示している。
【0088】
液晶モニタ40には、S1オン時に取得した画像が表示されている。符号100は主要被写体である人物であり、符号102は図5のステップS210において抽出された顔領域を示している。
【0089】
図6において、液晶モニタ40の右端には図5のステップS212に示した顔領域の色相のヒストグラムが表示されている。上からR信号のヒストグラム104、B信号のヒストグラム106、G信号のヒストグラム108である。
【0090】
図6には、再現画像の表示領域とヒストグラムの表示領域を分けて表示する形態を示したが、ヒストグラムの表示形態はこれに限定されない。画像とヒストグラムとを重ねて表示する形態(オーバーレイ表示)でもよい。
【0091】
また、図6ではヒストグラムを画面右端に表示したが、ヒストグラムの表示位置は画面内の何れの領域でもよい。さらに、ヒストグラム等の情報表示装置を液晶モニタ40と別に備えてもよい。
【0092】
本実施形態におけるカメラ10では、顔領域の色相のヒストグラムは、R信号、G信号、B信号のヒストグラムを表示させる。
【0093】
顔領域の色相のヒストグラムは3種類をすべて表示させてもよいし、1種類または2種類を選択して表示させてもよい。また、本実施形態では3種類をすべて表示させる形態としたが、3種類同時に表示させてもよいし、1種類ずつ切り換えながら表示させてもよい。
【0094】
表示させるヒストグラムは、色相のヒストグラムに限定されず、顔領域の輝度信号やその他の信号のヒストグラムを表示してもよい。
【0095】
図5のステップS212にて、顔領域のヒストグラムが液晶モニタ40に表示されると、カメラ10の撮影条件が変更される(ステップS214)。ステップS214においてカメラ10の撮影条件が変更されると、新たに設定された撮影条件にて顔領域の黄変が起こるか否かを判断する(ステップS216)。
【0096】
黄変とは、R信号がG信号およびB信号より先に飽和してしまい、本来肌色である顔領域が再現画像では黄色がかった色に変色してしまう再生画像の劣化のことである。黄変が起こるか否かはR信号から判断することができる。
【0097】
ステップS216において、顔領域の黄変が起こらないと判断された場合には(NO判定)、カメラ10の制御はS2オン待ちに遷移し(ステップS222)、顔領域の黄変が起こると判断された場合には(YES判定)、カメラ10は再現画像に黄変が起こる旨の警告を発し(ステップS218)、ステップS220に進む。
【0098】
ステップS220では、露出補正ダイヤル31が操作されるか否かを監視し、露出補正ダイヤル31が操作されないと(NO判定)、カメラ10の制御はS2オン待ちに遷移し(ステップS222)、露出補正ダイヤル31が操作されると(YES判定)、露出補正ダイヤル31の操作に合わせてカメラ10の撮影条件が変更される(ステップS214)。
【0099】
ステップS222において、S2オンとならない場合には(NO判定)、ステップS224に進み、ステップS224ではS1オンの解除を監視する。S1オンが解除されないと(NO判定)、カメラ10の制御はS2オン待ちに遷移し(ステップS222)、S1オンが解除されるとカメラ10の制御はスタンバイに遷移する(ステップS200)。
【0100】
ステップS222において、S2オンとなると(YES判定)、撮影画像が記録され(ステップS226)、カメラ10の制御はスタンバイに戻る(ステップS200)。
【0101】
ステップS210の顔抽出およびステップS212のヒストグラム表示では、S1オンが保持されることが必要であり、S1オンの状態が保持される機構や制御があることが好ましい。S1オンを保持する形態はレリーズボタン32を半押ししながら露出補正ダイヤル31を操作する形態でもよい。
【0102】
露出補正を行った結果を反映させたヒストグラムや再現画像をリアルタイムに表示させ、露出補正によるヒストグラムや再現画像の変化を撮影者が確認できることが好ましい。
【0103】
また、露出補正の際にヒストグラムを表示したが、S1オンでは常にヒストグラムを表示させてもよいし、ヒストグラム表示ボタンを設けてヒストグラムの表示/非表示を撮影者が切り換えてもよい。
【0104】
主要被写体の黒つぶれや白飛びを容易に判断できる情報形態には、レベルメータ表示や数値表示、記号を含む文字表示等の可視情報や、可聴領域の伝播信号を含む音声情報がある。また、上述した可視情報と可聴情報を組み合わせて撮影者に提供してもよい。
【0105】
本実施形態では、S1オンにより信号処理を施された画像を露出補正の対象画像としたが、露出補正の対象画像はスルー画でもよい。
【0106】
上記の如く構成されたカメラ10は、AEによって設定された露出値(撮影条件)をもとに露出補正ダイヤル31を操作して露出補正を行うことができ、露出補正を行うときには顔抽出を行い抽出された顔領域の色相のヒストグラムを液晶モニタ40に表示させる。さらに、補正された撮影条件によって顔領域に黄変が起こるときには警告を発するように構成したので、取得した画像に適した露出補正を行うことができ、良好な再現画像を得ることができる。また主要被写体の不自然さから露出補正に関する警告が行われる。
【0107】
本実施形態ではデジタルカメラによる静止画撮影について開示したが、本発明は動画撮影にも適用可能である。
【0108】
【発明の効果】
本発明によれば、露出補正の際に、被写体から人物の顔に相当する領域を抽出し、抽出された顔領域から得られた情報に基づいて露出補正のアシスト情報が提供されるので、提供されたアシスト情報により露出補正の適否と補正量を判断し易い。これにより適切な露出補正が可能になり、逆光シーンにおける黒つぶれやハイコントラストシーンにおける白飛びや黄変等による画像劣化が少なく、主要被写体が適正な明るさや色で再現される良好な画像を得ることができる。
【0109】
アシスト情報としてヒストグラムを表示すれば、黒つぶれや白飛び等の画質劣化の判断を撮影者が容易に行うことができる。さらに、撮像手段に備えられたカラーフィルタに対応した色相のヒストグラムを表示することができ、撮像手段にR、G、Bカラーフィルタが備えられている場合には、R信号、G信号、B信号のうち少なくとも1つのヒストグラムを表示することができる。
【0110】
特に、R信号がG信号およびB信号より先に飽和すると、再現画像に黄変が発生するので、少なくともR信号のヒストグラムを表示することが好ましい。
【0111】
露出補正を監視し、露出補正が適正でないと判断されたときには警告を発するようにしたので、露出補正を行ったにも関わらず劣化した画像が生成されたり、補正過剰のために再現画像が劣化したりすることを避けることができる。
【図面の簡単な説明】
【図1】本発明の実施形態に係るデジタルカメラのブロック図
【図2】本発明の実施形態に係るデジタルカメラの顔抽出の概念図
【図3】本発明の実施形態に係るデジタルカメラの顔抽出制御の流れを示したフローチャート図
【図4】顔抽出において肌色として抽出されるべき色相の範囲(肌色抽出エリア)を例示した図
【図5】本実施形態に係るデジタルカメラの露出補正制御の流れを示したフローチャート
【図6】ヒストグラムの表示例
【符号の説明】
10…デジタルカメラ、14…CPU、31…露出補正ダイヤル、40…液晶モニタ、43…絞り機構、56…信号処理部、62…絞り機構駆動部、102…顔領域、104…R信号のヒストグラム、106…G信号のヒストグラム、108…B信号のヒストグラム
Claims (8)
- 被写体の光学像を電気信号に変換する撮像手段と、
前記被写体の明るさに応じて前記撮像手段の露出を制御する自動露出制御手段と、
前記自動露出制御手段の制御結果を表示する手段と、
前記自動露出制御手段によって決定される露出の補正を行う露出補正手段と、
前記撮像手段を介して取得された画像内の人物の顔に相当する領域を抽出する顔抽出手段と、
前記自動露出制御手段の制御結果を表示する手段の表示結果を参照した撮影者によって前記露出補正手段の露出補正の操作が行われると、前記顔抽出手段により抽出された顔領域から得られる情報を撮影者に対して提供するアシスト情報提供手段と、
を備えたことを特徴とする撮像装置。 - 被写体の光学像を電気信号に変換する撮像手段と、
前記被写体の明るさに応じて前記撮像手段の露出を制御する自動露出制御手段と、
前記自動露出制御手段によって決定される露出の補正を行う露出補正手段と、
前記撮像手段を介して取得された画像内の人物の顔に相当する領域を抽出する顔抽出手段と、
前記顔抽出手段により抽出された顔領域から得られる情報を撮影者に対して提供するアシスト情報提供手段と、
を具備し、
前記露出補正手段は、露出補正の状況を監視する露出補正監視手段と、
前記露出補正手段により指定された露出補正によって前記顔領域の色劣化が発生するか否かを判定する劣化判定手段と、
前記劣化判定手段により前記顔領域の色劣化が発生すると判定されたときに警告を発する警告手段と、
を備えたことを特徴とする撮像装置。 - 前記アシスト情報提供手段は前記顔領域から得られる情報を表示する表示手段を備えたことを特徴とする請求項1又は2記載の撮像装置。
- 前記表示手段は前記顔抽出手段により抽出された顔領域の色相のヒストグラムが表示されることを特徴とする請求項1、2又は3記載の撮像装置。
- 前記露出補正手段の露出補正の操作が行われると、前記顔抽出手段による顔抽出を行うことを特徴とする請求項1乃至4のうち何れか1項に記載の撮像装置。
- 前記アシスト情報提供手段は、前記露出補正手段による露出補正の結果を反映させたアシスト情報をリアルタイムに表示することを特徴とする請求項1乃至5のうち何れか1項に記載の撮像装置。
- 前記露出補正手段は、スルー画を対象として露出補正を行うことを特徴とする請求項1乃至6のうち何れか1項に記載の撮像装置。
- 記録開始操作に応じて画像を記録する記録メディアを備え、
撮像開始操作に応じて、前記自動露出制御手段は前記撮像手段の露出を制御するとともに、撮影者によって前記露出補正手段の露出補正の操作が行われると前記露出補正手段は露出補正を行い、記録開始操作に応じて露出補正後の条件で撮像した画像を前記記録メディアに記録することを特徴とする請求項1乃至7のうち何れか1項に記載の撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003084407A JP4081609B2 (ja) | 2003-03-26 | 2003-03-26 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003084407A JP4081609B2 (ja) | 2003-03-26 | 2003-03-26 | 撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004297269A JP2004297269A (ja) | 2004-10-21 |
JP4081609B2 true JP4081609B2 (ja) | 2008-04-30 |
Family
ID=33399583
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003084407A Expired - Fee Related JP4081609B2 (ja) | 2003-03-26 | 2003-03-26 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4081609B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5050141B2 (ja) * | 2004-12-01 | 2012-10-17 | 国立大学法人徳島大学 | カラー画像の露出評価方法 |
JP2007188126A (ja) * | 2006-01-11 | 2007-07-26 | Fujifilm Corp | 画像明るさ算出装置および方法並びにプログラム |
JP4600684B2 (ja) * | 2006-08-18 | 2010-12-15 | 日本ビクター株式会社 | 撮影装置及び撮影方法 |
JP4957580B2 (ja) * | 2008-02-19 | 2012-06-20 | カシオ計算機株式会社 | 撮像装置及びプログラム |
JP2011044803A (ja) * | 2009-08-19 | 2011-03-03 | Canon Inc | 撮像装置及び撮像装置の制御方法 |
US9648249B2 (en) * | 2013-11-20 | 2017-05-09 | Canon Kabushiki Kaisha | Image capturing apparatus, method of controlling the same, and storage medium |
-
2003
- 2003-03-26 JP JP2003084407A patent/JP4081609B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2004297269A (ja) | 2004-10-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7301571B2 (en) | Method and imaging apparatus for correcting defective pixel of solid-state image sensor, and method for creating pixel information | |
JP4158592B2 (ja) | オートホワイトバランス調整方法及びこの方法が適用されたカメラ | |
JP4791331B2 (ja) | 撮像装置及び露出制御方法 | |
JP4126721B2 (ja) | 顔領域抽出方法及び装置 | |
JP5660341B2 (ja) | 撮像装置、撮像方法 | |
JP4730553B2 (ja) | 撮影装置及び露出制御方法 | |
US20060176379A1 (en) | White balance control method, white balance control apparatus and image-taking apparatus | |
JP4200428B2 (ja) | 顔領域抽出方法及び装置 | |
JP2009219020A (ja) | 撮影装置、撮像装置の制御方法及び撮像装置の制御プログラム | |
US8228423B2 (en) | Imaging apparatus and method for controlling flash emission | |
JP4796007B2 (ja) | 撮像装置 | |
JP2004201228A (ja) | 顔領域抽出方法及び装置 | |
JP2005323162A (ja) | 撮像装置及び画像記録方法 | |
JP4081609B2 (ja) | 撮像装置 | |
US7570294B2 (en) | Digital camera | |
JP2008298847A (ja) | 撮影方法及びデジタルカメラ | |
JP2008109221A (ja) | 撮像装置 | |
JP2013192121A (ja) | 撮像装置及び撮像方法 | |
US8041206B2 (en) | Imaging apparatus and method for controlling flash emission | |
JP2004222134A (ja) | 撮像装置 | |
JP2004304695A (ja) | ホワイトバランス調整方法 | |
JP2004222178A (ja) | 撮像装置 | |
JP2002185972A (ja) | 撮像装置 | |
JP2009218641A (ja) | 撮像装置、撮像方法及び撮像装置が備えるコンピュータに撮像方法を実行させるためのプログラム | |
JP4155023B2 (ja) | 電子カメラ、画像処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050330 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20061211 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20071017 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071022 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071218 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080115 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080128 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4081609 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110222 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120222 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120222 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130222 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140222 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |