JP5191251B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP5191251B2
JP5191251B2 JP2008056486A JP2008056486A JP5191251B2 JP 5191251 B2 JP5191251 B2 JP 5191251B2 JP 2008056486 A JP2008056486 A JP 2008056486A JP 2008056486 A JP2008056486 A JP 2008056486A JP 5191251 B2 JP5191251 B2 JP 5191251B2
Authority
JP
Japan
Prior art keywords
luminance
image information
light
detecting
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008056486A
Other languages
English (en)
Other versions
JP2009211001A (ja
Inventor
一紀 田村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2008056486A priority Critical patent/JP5191251B2/ja
Priority to US12/372,267 priority patent/US8373766B2/en
Publication of JP2009211001A publication Critical patent/JP2009211001A/ja
Application granted granted Critical
Publication of JP5191251B2 publication Critical patent/JP5191251B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means

Description

本発明は、撮像装置に関し、特に非発光露光とプリ発光露光を行う撮像装置に関する。
CCD(Charge Coupled Device)イメージセンサ等の固体撮像素子を用いて、フラッシュ撮影する場合にフラッシュの発光量を調整する調光を行う撮像装置において、非発光露光及びプリ発光露光を行うものがある。
このような撮像装置において、非発光露光時に調光の対象となった被写体とプリ発光露光に調光の対象となった被写体とが手ぶれによりずれてしまうと、正しい調光を行うことができなくなるという問題点がある。
この手ぶれに関する技術として、特許文献1には、ぶれ補正機能を有するカメラにおいて、ぶれ補正時はフラッシュ発光輝度レベルを変更し、フラッシュが光ってしまうような明るさであっても周囲光を生かした自然な撮影を可能なカメラが開示されている。
特開平8−313958号公報
上述した問題点は、特に日中屋外など高輝度な被写体が含まれる場合は特に顕著となる。そして、上記特許文献1に開示された技術は、調光時の手ぶれによる上記不具合を解決するものではない。
このように、従来の技術では、非発光露光及びプリ発光露光を用いて調光を行う撮像装置において、非発光露光時に調光の対象となった被写体とプリ発光露光に調光の対象となった被写体とが手ぶれによりずれてしまうと、正しい調光を行うことができなくなるという問題点があった。
本発明は上記問題点に鑑み、非発光露光及びプリ発光露光を用いて調光を行う撮像装置において、非発光露光時に調光の対象となった被写体とプリ発光露光に調光の対象となった被写体とが手ぶれによりずれた場合でも正しく調光を行うことを可能とする撮像装置を提供することを目的とする。
上記目的を達成するために請求項1の発明は、被写体を撮像することにより得られる前記被写体を示す画像情報を出力する撮像手段と、前記撮像手段により出力された画像情報のうち、検出対象となる前記被写体内の領域である検出対象領域に対応する対象領域画像情報から輝度を検出する輝度検出手段と、前記被写体に対して発光する発光手段と、手ぶれにより生じた前記画像情報が示す被写体のずれ量を検出するずれ検出手段と、前記発光手段によって発光されていない状態で前記輝度検出手段が輝度を検出する対象領域画像情報と、前記発光手段によって発光されている状態で前記輝度検出手段が輝度を検出する対象領域画像情報とが各々対応する検出対象領域が略等しくなるように、前記ずれ検出手段により検出されたずれ量に基づき前記輝度検出手段を制御する制御手段と、前記輝度検出手段により検出された輝度に基づき、前記発光手段の発光量を決定する発光量決定手段と、を有する。
請求項1の発明では、撮像手段が、被写体を撮像することにより得られる前記被写体を示す画像情報を出力し、輝度検出手段が、前記撮像手段により出力された画像情報のうち、検出対象となる前記被写体内の領域である検出対象領域に対応する対象領域画像情報から輝度を検出し、発光手段が前記被写体に対して発光し、ずれ検出手段が手ぶれにより生じた前記画像情報が示す被写体のずれ量を検出し、制御手段が、前記発光手段によって発光されていない状態で前記輝度検出手段が輝度を検出する対象領域画像情報と、前記発光手段によって発光されている状態で前記輝度検出手段が輝度を検出する対象領域画像情報とが各々対応する検出対象領域が略等しくなるように、前記ずれ検出手段により検出されたずれ量に基づき前記輝度検出手段を制御し、発光量決定手段が前記輝度検出手段により検出された輝度に基づき、前記発光手段の発光量を決定するので、検出対象領域が手ぶれによりずれても補正される結果、非発光露光及びプリ発光露光を用いて調光を行う撮像装置において、非発光露光時に調光の対象となった被写体とプリ発光露光に調光の対象となった被写体とが手ぶれによりずれた場合でも正しく調光を行うことを可能とする撮像装置を提供することができる。
なお、請求項2の発明は、請求項1の発明において、前記制御手段は、前記輝度検出手段を制御する際のずれ量として、前記発光手段によって発光されていない状態での被写体の位置と発光されている状態での被写体の位置とのずれ量を求め、求めた被写体の位置のずれ量に基づき前記輝度検出手段を制御するようにしても良い。
請求項2の発明によれば、前記輝度検出手段を制御する際のずれ量として、前記発光手段によって発光されていない状態での被写体の位置と発光されている状態での被写体の位置とのずれ量を求め、求めた被写体の位置のずれ量に基づくことにより、検出対象領域のずれを少なくすることが可能となる。
また、請求項3の発明は、請求項1又は請求項2の発明において、前記輝度検出手段は、複数の前記検出対象領域に対応する複数の対象領域情報の各々から輝度を検出する。
請求項3の発明によれば、複数の対象領域情報から輝度を検出することにより、より正確に輝度を検出することができる。
更に、請求項4の発明は、請求項1〜請求項3のいずれか1項の発明において、前記撮像手段により出力された前記画像情報から、当該画像情報が示す被写体に含まれる人の顔を検出する顔検出手段を更に有し、前記輝度検出手段が輝度を検出する前記領域画像情報は前記顔検出手段により検出された人の顔を含む領域を示す領域画像情報であるようにしてもよい。
請求項4の発明によれば、主被写体となることの多い人の顔から輝度を検出することができる。
なお、請求項5の発明は、請求項1〜請求項4のいずれか1項の発明において、前記撮像手段が、前記ずれ検出手段により検出されたずれ量に基づき、前記画像情報が示す被写体がずれないように補正された画像情報を出力する場合には、前記制御手段は、前記ずれ検出手段により検出されたずれ量に基づかずに、前記発光手段によって発光されていない状態で前記輝度検出手段が輝度を検出する対象領域画像情報と、前記発光手段によって発光されている状態で前記輝度検出手段が輝度を検出する対象領域画像情報とが各々対応する検出対象領域が略等しくなるように前記輝度検出手段を制御するようにしても良い。
請求項5の発明によれば、手ぶれ補正された画像情報を出力可能な撮像装置の場合は、ずれ量に基づかずにそのまま輝度を検出することができる。
また、請求項6の発明は、請求項1〜請求項5のいずれか1項の発明において、前記撮像手段が、前記ずれ検出手段により検出されたずれ量に基づき、前記画像情報が示す被写体がずれないように所定の範囲内の補正量で補正された画像情報を出力する場合には、前記制御手段は、前記発光手段によって発光されていない状態で前記輝度検出手段が輝度を検出する対象領域画像情報と、前記発光手段によって発光されている状態で前記輝度検出手段が輝度を検出する対象領域画像情報とが各々対応する検出対象領域が略等しくなるように、前記ずれ検出手段により検出されたずれ量及び前記撮像手段により補正された前記画像情報の補正量に基づき、前記輝度検出手段を制御するようにしても良い。
請求項6の発明によれば、手ぶれ補正された画像情報を出力可能であってもその補正量が所定の範囲のみで可能な撮像装置の場合は、ずれ量と撮像手段により補正された前記画像情報の補正量に基づいて輝度を検出するため、正しく調光を行うことを可能とする撮像装置を提供することができる。
更に、請求項7の発明は、請求項1〜請求項6のいずれか1項の発明において、前記制御手段による前記輝度検出手段への制御を禁止する禁止手段を更に有するようにしても良い。
請求項7の発明によれば、輝度検出手段への制御を禁止することができ、この場合は消費電力を抑制できる。
なお、請求項8の発明は、請求項7の発明において、表示手段を更に有し、前記禁止手段により前記制御が禁止されていることを前記表示手段に表示するように制御する禁止表示制御手段を更に有するようにしても良い。
請求項7の発明によれば、制御が禁止されていることをユーザに明示することができる。
また、請求項9の発明は、請求項1〜請求項8のいずれか1項の発明において、前記発光手段によって発光されていない状態で前記輝度検出手段が輝度を検出する対象領域画像情報が示す対象領域と、前記発光手段によって発光されている状態で前記輝度検出手段が輝度を検出する対象領域画像情報が示す対象領域との相対位置を示す位置情報を記録する記録手段を更に有するようにしても良い。
請求項9の発明によれば、撮影することで得られた画像情報に対して後に画像処理を行う際の各種パラメータの調整が可能となる。
本発明によれば、非発光露光及びプリ発光露光を用いて調光を行う撮像装置において、非発光露光時に調光の対象となった被写体とプリ発光露光に調光の対象となった被写体とが手ぶれによりずれた場合でも正しく調光を行うことを可能とする撮像装置を提供することができるという効果が得られる。
以下、図面を参照して、本発明の実施の形態について詳細に説明する。
次に、図1を参照して、本実施の形態に係るデジタルカメラ10の外観上の構成を説明する。デジタルカメラ10の正面には、被写体像を結像させるための光学部材であるレンズ21と、撮影する被写体の構図を決定するために用いられるファインダ20と、被写体に対して発光するフラッシュ44と、が備えられている。また、デジタルカメラ10の上面には、撮影を実行する際に押圧操作されるレリーズボタン(所謂シャッターボタン)56Aと、電源スイッチ56Bと、が備えられている。
なお、本実施の形態に係るデジタルカメラ10のレリーズボタン56Aは、中間位置まで押下される状態(以下、「半押し状態」という。)と、当該中間位置を超えた最終押下位置まで押下される状態(以下、「全押し状態」という。)と、の2段階の押圧操作が検出可能に構成されている。
そして、デジタルカメラ10では、レリーズボタン56Aを半押し状態にすることにより被写体の明るさが測光され、測光された被写体の明るさに基づきAE(Automatic Exposure、自動露出)機能が働いて露出状態(シャッタースピード、及び絞りの状態)が設定された後、AF(Auto Focus、自動合焦)機能が働いて合焦制御され、その後、引き続き全押し状態にすると露光(撮影)が行われる。
一方、デジタルカメラ10の背面には、前述のファインダ20の接眼部と、撮影された被写体像やメニュー画面等を表示するための上記LCD38と、撮影を行うモードである撮影モード及び撮影によって得られた被写体像をLCD38に再生表示するモードである再生モードの何れかのモードに設定する際にスライド操作されるモード切替スイッチ56Cと、が備えられている。
また、デジタルカメラ10の背面には、十字カーソルボタン56Dと、撮影時にフラッシュ44を強制的に発光させるモードである強制発光モードを設定する際に押圧操作される強制発光スイッチ56Eと、が更に備えられている。
なお、十字カーソルボタン56Dは、LCD38の表示領域における上・下・左・右の4方向の移動方向を示す4つの矢印キーと、それら矢印キーの中央に存在する決定キーとを含んで構成されている。
次に、図2を参照して、本実施の形態に係るデジタルカメラ10の電気系の構成を説明する。
デジタルカメラ10は、前述のレンズ21を含んで構成された光学ユニット22と、レンズ21の光軸後方に配設された撮像素子である電荷結合素子(以下、「CCD」という。)24と、入力されたアナログ信号に対して各種のアナログ信号処理を行うアナログ信号処理部26と、を含んで構成されている。
また、デジタルカメラ10は、入力されたアナログ信号をデジタルデータに変換するアナログ/デジタル変換器(以下、「ADC」という。)28と、入力されたデジタルデータに対して各種のデジタル信号処理を行うデジタル信号処理部30と、を含んで構成されている。
なお、デジタル信号処理部30は、所定容量のラインバッファを内蔵し、入力されたデジタルデータを後述するメモリ48の所定領域に直接記憶させる制御も行う。
CCD24の出力端はアナログ信号処理部26の入力端に、アナログ信号処理部26の出力端はADC28の入力端に、ADC28の出力端はデジタル信号処理部30の入力端に、各々接続されている。従って、CCD24から出力された被写体像を示すアナログ信号はアナログ信号処理部26によって所定のアナログ信号処理が施され、ADC28によってデジタル画像データ(画像情報)に変換された後にデジタル信号処理部30に入力される。このように撮像系は、被写体を撮像することにより得られる前記被写体を示すデジタル画像データを出力するものである。
一方、デジタルカメラ10は、被写体像やメニュー画面等をLCD38に表示させるための信号を生成してLCD38に供給するLCDインタフェース36と、デジタルカメラ10全体の動作を司るCPU40と、撮影により得られたデジタル画像データ等を記憶するメモリ48と、メモリ48に対するアクセスの制御を行うメモリインタフェース46と、を含んで構成されている。
更に、デジタルカメラ10は、可搬型のメモリカード52をデジタルカメラ10でアクセス可能とするための外部メモリインタフェース50と、デジタル画像データに対する圧縮処理及び伸長処理を行う圧縮・伸長処理回路54と、手ぶれにより生じたデジタル画像データが示す被写体のずれ量を検出するずれ検出部58と、撮像系により出力されたデジタル画像データから、当該デジタル画像データが示す被写体に含まれる人の顔を検出する顔検出部60と、を含んで構成されている。上記ずれ検出部58は、ジャイロセンサ等のハードウェアによるものでも良いし、特徴点抽出、動き検出等ソフトウェアによるものでも良い。
なお、本実施の形態のデジタルカメラ10では、メモリ48としてVRAM(Video RAM)、SRAM又はDRAM、フラッシュメモリのうちのいずれか1つ以上が用いられ、メモリカード52としてスマートメディア(Smart Media(登録商標))が用いられている。本実施の形態では、種々の画像情報が記録されるが、それらはこのメモリ48に記録される。
デジタル信号処理部30、LCDインタフェース36、CPU40、メモリインタフェース46、外部メモリインタフェース50、及び圧縮・伸長処理回路54はシステムバスBUSを介して相互に接続されている。従って、CPU40は、デジタル信号処理部30の作動の制御、圧縮・伸長処理回路54の作動の制御、LCD38に対するLCDインタフェース36を介した各種情報の表示、メモリ48及びメモリカード52へのメモリインタフェース46、及び外部メモリインタフェース50を介したアクセスを各々行うことができる。
一方、デジタルカメラ10には、主としてCCD24を駆動させるためのタイミング信号を生成してCCD24に供給するタイミングジェネレータ32が備えられており、CCD24の駆動はCPU40によりタイミングジェネレータ32を介して制御される。また後述する電子シャッタの直接的な制御は、このタイミングジェネレータ32により行われる。
更に、デジタルカメラ10にはモータ駆動部34が備えられており、光学ユニット22に備えられた図示しない焦点調整モータ、ズームモータ及び絞り駆動モータの駆動もCPU40によりモータ駆動部34を介して制御される。
すなわち、本実施の形態に係るレンズ21は複数枚のレンズを有し、焦点距離の変更(変倍)が可能なズームレンズとして構成されており、図示しないレンズ駆動機構を備えている。このレンズ駆動機構に上記焦点調整モータ、ズームモータ、及び絞り駆動モータは含まれるものであり、これらのモータは各々CPU40の制御によりモータ駆動部34から供給された駆動信号によって駆動される。
更に、前述のレリーズボタン56A、電源スイッチ56B、モード切替スイッチ56C、十字カーソルボタン56D、及び強制発光スイッチ56E(同図では、「操作部56」と総称。)はCPU40に接続されており、CPU40は、これらの操作部56に対する操作状態を常時把握できる。
また、デジタルカメラ10には、フラッシュ44とCPU40との間に介在されると共に、CPU40の制御によりフラッシュ44を発光させるための電力を充電する充電部42が備えられている。更に、フラッシュ44はCPU40にも接続されており、フラッシュ44の発光はCPU40によって制御される。
次に、本実施の形態に係るデジタルカメラ10の撮影時における全体的な動作について簡単に説明する。
まず、CCD24は、光学ユニット22を介した撮影を行い、被写体像を示すR(赤)、G(緑)、B(青)毎のアナログ信号をアナログ信号処理部26に順次出力する。アナログ信号処理部26は、CCD24から入力されたアナログ信号に対して相関二重サンプリング処理等のアナログ信号処理を施した後にADC28に順次出力する。
ADC28は、アナログ信号処理部26から入力されたR、G、B毎のアナログ信号を各々12ビットのR、G、Bの信号(デジタル画像データ)に変換してデジタル信号処理部30に順次出力する。デジタル信号処理部30は、内蔵しているラインバッファにADC28から順次入力されるデジタル画像データを蓄積して一旦メモリ48の所定領域に直接格納する。
メモリ48の所定領域に格納されたデジタル画像データは、CPU40による制御に応じてデジタル信号処理部30により読み出され、所定の物理量に応じたデジタルゲインをかけることでホワイトバランス調整を行なうと共に、ガンマ処理及びシャープネス処理を行なって所定ビット、例えば8ビットのデジタル画像データを生成する。
そして、デジタル信号処理部30は、生成した所定ビットのデジタル画像データに対しYC信号処理を施して輝度信号Yとクロマ信号Cr、Cb(以下、「YC信号」という。)を生成し、YC信号をメモリ48の上記所定領域とは異なる領域に格納する。従って、デジタル信号処理部30は、デジタル画像データのうち、検出対象となる被写体内の領域である検出対象領域に対応する対象領域画像情報から輝度を検出し、このデジタル信号処理部30をCPU40が制御することによって輝度を検出することができる。
なお、LCD38は、CCD24による連続的な撮影によって得られた動画像(スルー画像)を表示してファインダとして使用することができるものとして構成されており、LCD38をファインダとして使用する場合には、生成したYC信号を、LCDインタフェース36を介して順次LCD38に出力する。これによってLCD38にスルー画像が表示されることになる。
ここで、レリーズボタン56Aがユーザによって半押し状態とされた場合、前述のようにAE機能が働いて露出状態が設定された後、AF機能が働いて合焦制御され、その後、引き続き全押し状態とされた場合、この時点でメモリ48に格納されているYC信号を、圧縮・伸長処理回路54によって所定の圧縮形式(本実施の形態では、JPEG形式)で圧縮した後に外部メモリインタフェース50を介してメモリカード52に記録する。
以上が本実施の形態に係るデジタルカメラ10の構成となっている。以下、上記デジタルカメラ10のCPU40により実行される処理について説明する。
まず、本実施の形態に係るデジタルカメラ10では、フラッシュ撮影する場合のフラッシュの発光量を調整する調光を、非発光露光及びプリ発光露光(以下、単に発光露光と記す)の2度の露光により行うものである。
非発光露光及び発光露光した際に、撮像系により出力されたデジタル画像データのうち、検出対象となる被写体内の領域である検出対象領域に対応する対象領域画像情報から輝度を検出するが、その場合、非発光露光での検出対象領域と発光露光での検出対象領域とが手ぶれによりずれてしまうと、正しい調光を行うことができなくなる。
従って、本実施の形態では、図3に示されるように非発光露光時の検出対象領域と、発光露光時の検出対象領域とがほぼ等しくなるように制御する。同図に示される複数の矩形が検出対象領域である。図3の場合は、発光露光時の検出対象領域を、非発光露光時を基準に補正した場合の被写体を示す模式図となっている。補正した検出対象領域は、同図に示されるように、非発光露光時の検出対象領域と略等しくなっている。
同図では、上述したように検出対象領域が複数の矩形で構成されている。この場合、各矩形が示す検出対象領域毎に輝度を検出するので、複数の輝度が得られることとなるが、もちろん1つの領域から輝度を検出するようにしても良い。
以下、ユーザによりレリーズボタン56Aを押下されてから、撮影するまでの一連の処理である手ぶれ対応調光処理の基本的な流れについて、フローチャートを用いて説明する。
図4に示されるフローチャートは、手ぶれ対応調光処理全体の流れを示すものである。まず、ステップ101で、ユーザにより上述した半押し状態とされたか否か判断し、半押し状態となると、ステップ102で、上述したAE/AF機能を実行する。
その後、ステップ103で上述した全押し状態とされたか否か判断し、全押し状態となると、ステップ104でずれ検出部58により手ぶれ検出を開始する。
次のステップ105で、フラッシュ44によって発光されていない状態で調光露光する非発光調光露光処理(以下、処理Aと記す)を実行する。次のステップ106で、フラッシュ44によって発光されていない状態で調光露光した際に得られたデジタル画像データのうち、検出対象となる被写体内の領域である検出対象領域に対応する対象領域画像情報から輝度を検出する非発光測光処理を実行する。
次のステップ107で、フラッシュ44によって発光されている状態で調光露光する発光調光露光処理(以下、処理Cと記す)を実行し、ステップ108でずれ検出部58により手ぶれ検出を終了する。
次に、ステップ109で、位置あわせ禁止又は手ぶれ補正ありか否か判断する。この位置あわせ禁止とは、非発光露光時の検出対象領域と、発光露光時の検出対象領域とが略等しくなるようにする制御を禁止することを示す。また、手ぶれ補正ありとは、撮像系が、ずれ検出部58により検出されたずれ量に基づき、デジタル画像データが示す被写体がずれないように補正されたデジタル画像データを出力することを示す。
このステップ109で否定判断した場合には、ステップ110で、非発光露光時の検出対象領域と、発光露光時の検出対象領域とが略等しくなるように、検出対象となる被写体内の領域である検出対象領域に対応する対象領域画像情報から輝度を検出する発光測光処理1(以下、処理D1と記す)を実行し、ステップ112へ処理が進む。
一方、ステップ109で肯定判断した場合には、非発光露光時の検出対象領域と、発光露光時の検出対象領域とが結果的に略等しくなるように、検出対象となる被写体内の領域である検出対象領域に対応する対象領域画像情報から輝度を検出する発光測光処理2(以下、処理D2と記す)を実行し、ステップ112へ処理が進む。
ここで、結果的に略等しくなるとは、手ぶれ補正がある場合、対象領域のずれは生じないため、ステップ110で補正を行わなくても、結果的に検出対象領域は略等しいものとなる。
次のステップ112で、ステップ106、ステップ110又はステップ111により検出された輝度に基づき、フラッシュ44の発光量を決定し、ステップ113で撮影を実行して処理を終了する。
このように、本実施の形態に係る手ぶれ対応調光処理では、フラッシュ44によって発光されていない状態でずれ検出部58により検出されたずれ量、及びフラッシュ44によって発光されている状態でずれ検出部58により検出されたずれ量に基づきデジタル信号処理部30を制御するようになっている。また、図3に示したように、デジタル信号処理部30は、複数の検出対象領域に対応する複数の対象領域情報の各々から輝度を検出するようになっている。
以下、上記処理A〜Eの詳細を、フローチャートを用いて説明する。まず、処理A(その1)を、図5のフローチャートを用いて説明する。
この処理Aは、非発光露光処理であるので、フラッシュ44による発光は行われない。最初のステップ201で、調光露光し、次のステップ202で、非発光露光調光時における位置を算出し、次のステップ203で、調光露光で得られた画像情報(非発光画像情報)を記録し、処理を終了する。なお、上記位置の算出は、単に基準となる位置を定める処理とするようにしても良い。
次に、処理B(その1)を、図6のフローチャートを用いて説明する。この処理B(その1)では、ステップ301で対象領域画像情報から輝度を検出するものである。
次に、処理C(その1)を、図7のフローチャートを用いて説明する。この処理Cは、発光露光処理であるので、フラッシュ44による発光が行われる。従って、ステップ401で、フラッシュ44による発光を行い、ステップ402で調光露光をし、ステップ403で発光を終了し、ステップ404で、発光露光調光時における位置を算出し、ステップ405で、調光露光で得られた画像情報(発光画像情報)を記録し、処理を終了する。
上記ステップ404の位置の算出は、上記ステップ202における位置から、ずれ検出部58によってどれだけずれたかが分かるので、そのずれを用いて行うことが出来る。
次に発光測光処理である処理D1(その1)を、図8のフローチャートを用いて説明する。まず、ステップ501で、発光露光時における位置と、非発光露光時における位置から、ずれ量を検出し、ステップ502で、対象領域画像情報が示す検出対象領域をずれ量に応じてずらし、ステップ503で、対象領域画像情報から輝度を検出し、処理を終了する。
次に発光測光処理である処理D2(その1)を、図9のフローチャートを用いて説明する。この処理は、位置あわせ禁止又は手ぶれ補正がある場合の処理であるので、検出対象領域の位置をずらすことなく、ステップ601で、発光調光露光で得られた画像情報が示す被写体の通常の検出対象領域で測光し、処理を終了する。
このように、撮像系が、ずれ検出部58により検出されたずれ量に基づき、画像情報が示す被写体がずれないように補正された画像情報を出力する場合には、ずれ検出部58により検出されたずれ量に基づかずに、フラッシュ44によって発光されていない状態でデジタル信号処理部30が輝度を検出する対象領域画像情報と、フラッシュ44によって発光されている状態でデジタル信号処理部30が輝度を検出する対象領域画像情報とが各々対応する検出対象領域が略等しくなるようにデジタル信号処理部30を制御するようになっている。
次に、処理Eを、図10のフローチャート、及び図11を用いて説明する。図11(A)は、被写体と検出対象領域との対応を示す図であり、図11(B)は、検出対応領域で得られた輝度を用いて加重平均する際に用いられる重み係数を示す図である。
まず、ステップ701で、非発光測光で得られた各検出対象領域毎の輝度を取得する。次のステップ702で、非発光測光で得られた各検出対象領域毎の輝度に対して上述した重み係数で重みづけを行い、非発光測光における輝度(非発光輝度)を検出する。次に、ステップ703で、発光測光で得られた各検出対象領域毎の輝度を取得する。
次のステップ704で、各検出対象領域毎の輝度の差分を取得する。具体的には、非発光露光時の検出対象領域に対応する発光露光時の検出対象領域で得られた2つの輝度の差分を各検出対象領域毎に取得する。次に、ステップ705で、差分に対して重みづけを行い、非発光測光と発光測光での反射輝度を検出する。
そして、ステップ706で発光倍率演算をし、ステップ707で、発光時間演算をすることにより、フラッシュ44の発光量を決定する。
なお、上記発光倍率演算は、(目標輝度−非発光輝度)/反射輝度であり、これにより発光倍率を求めることができる。
以上説明したフローチャートにおいて、検出対象領域を図12に示されるように人の顔とするようにしても良い。この場合、同図(A)、(B)では、非発光露光時と発光露光時とで被写体にずれが生じているが、検出対象領域を顔検出部60で検出された人の顔として、非発光露光時と発光露光時との検出対象領域を略等しくする。
このように、本実施の形態に係る手ぶれ対応調光処理では、デジタル信号処理部30が輝度を検出する領域画像情報は顔検出部60により検出された人の顔を含む領域を示す領域画像情報とするようにしても良い。
この場合、顔検出処理は比較的時間を要する処理であるので、露光時に検出されていない可能性があるが、露光時以前に検出された顔の位置と、ずれ検出部58によるずれ量により、検出されていない場合でも顔の位置がどこなのかを知ることができる。
次に、調光時の平均位置を用いて非発光露光時と発光露光時との検出対象領域を略等しくする平均処理について説明する。
まず、処理A(その2)を図13のフローチャートを用いて説明する。最初にステップ801で、調光露光し、ステップ802で、非発光露光調光時における平均位置を算出し、ステップ803で、調光露光で得られた画像情報(非発光画像情報)を記録して、処理を終了する。
次の行われる処理Bは、この平均処理においても処理B(その1)がそのまま適用される。次の処理C(その2)を、図14のフローチャートを用いて説明する。ステップ901で、フラッシュ44による発光を行い、ステップ902で調光露光をし、ステップ903で発光を終了し、ステップ904で、発光露光調光時における平均位置を算出し、ステップ905で、調光露光で得られた画像情報(発光画像情報)を記録し、処理を終了する。
次の処理D1(その2)を、図15のフローチャートを用いて説明する。まず、ステップ1001で、非発光露光時における平均位置と発光露光時における平均位置のずれ量を検出し、ステップ1002で、対象領域画像情報が示す検出対象領域をずれ量に応じてずらし、ステップ1003で、対象領域画像情報から輝度を検出して処理を終了する。
なお、処理D2は、この平均処理においても処理D2(その1)がそのまま適用される。このように平均位置を用いることで、より正確に非発光露光時と発光露光時との検出対象領域を略等しくすることができる。
上述した処理では、非発光露光調光時及び発光露光調光時の平均値を用いたものであったが、更に細かく平均値を算出し、その平均値を用いるようにしても良い。具体的には、図16に示されるように、非発光露光調光時及び発光露光調光時のいずれも例えば4つの平均位置を用いるようにしたものである。4つの平均位置とは、調光露光に要する時間をtとしたとき、0〜t/4、t/4〜t/2、t/2〜3t/4、3t/4〜tのそれぞれの時間帯における平均位置を示す。
以下、非発光露光調光時及び発光露光調光時にN回の平均位置を求めるN回平均処理について説明する。まず、処理A(その3)を、図17のフローチャートを用いて説明する。最初に、ステップ1101で平均位置を求めるためのカウンタkに0を代入する。次のステップ1102で、k回目の調光露光を行う。そして、ステップ1103で、k回目の非発光露光調光時における平均位置Xkを算出する。
そして、ステップ1104で、調光露光で得られた画像情報(非発光画像情報k)を記録し、ステップ1105でkを1つ増分する。次のステップ1106で、kがNを超えたか否か判断し、超えていない場合には、ステップ1102の処理に戻り、超えた場合には処理を終了する。
次に、処理B(その3)を、図18のフローチャートを用いて説明する。なお、本来は順番からいって処理B(その2)とするところであるが、分かりやすくするために、その3としている。
まず、ステップ1201でカウンタkに1を代入する。次のステップ1202で、非発光画像情報kのうちの0番目である非発光画像情報0の対象領域画像情報から輝度Z0を検出する。
次のステップ1203で、対象領域画像情報が示す検出対象領域を画像情報k−1から画像情報kへのずれ量に応じてずらす。そして、ステップ1204で、画像情報kの対象領域画像情報から輝度Zkを検出し、ステップ1205でkを1つ増分する。次のステップ1206で、kがNを超えたか否か判断し、超えていない場合には、ステップ1203の処理に戻り、超えた場合にはステップ1207で、輝度Z0〜Z(N−1)の平均値又は重み付け平均値を非発光露光時の輝度として、処理を終了する。
なお、N個の画像情報のうち、位置が同じものは1つだけ代表させて輝度を検出するようにしても良い。
次に、処理C(その3)を、図19のフローチャートを用いて説明する。最初に、ステップ1301で平均位置を求めるためのカウンタkにNを代入する。次のステップ1302で、フラッシュ44による発光を行い、ステップ1303で、k回目の調光露光を行う。次のステップ1304で、k回目の非発光露光調光時における平均位置Xkを算出する。
そして、ステップ1305で、調光露光で得られた画像情報(発光画像情報k)を記録し、ステップ1306でkを1つ増分する。次のステップ1307で、kが2Nを超えたか否か判断し、超えていない場合には、ステップ1303の処理に戻り、超えた場合には、ステップ1308で発光を終了し、処理を終了する。
次に、処理D1(その3)を、図20のフローチャートを用いて説明する。まず、ステップ1401でカウンタkにNを代入する。次のステップ1402で、対象領域画像情報が示す検出対象領域を画像情報k−1から画像情報kへのずれ量に応じてずらす。そして、ステップ1403で、画像情報kの対象領域画像情報から輝度Zkを検出し、ステップ1404でkを1つ増分する。次のステップ1405で、kが2Nを超えたか否か判断し、超えていない場合には、ステップ1402の処理に戻り、超えた場合にはステップ1406で、輝度ZN〜Z(2N−1)の平均値又は重み付け平均値を発光露光時の輝度として、処理を終了する。
なお、N個の画像情報のうち、位置が同じものは1つだけ代表させて輝度を検出するようにしても良い。
また、処理EはこのN回平均処理でもそのまま適用される。また、処理D2は、このN回平均処理でも処理D2(その1)が適用される。
次に、処理D2(その2)を、図21のフローチャートを用いて説明する。この処理は、上述した図4のステップ109で、位置合わせ禁止又は手ぶれ補正ありで肯定判断した場合に行われる処理であり、この処理D2は、特に手ぶれ補正ある場合の処理を示している。また、撮像系が、ずれ検出部58により検出されたずれ量に基づき、画像情報が示す被写体がずれないように所定の範囲内の補正量で補正された画像情報を出力する場合の処理である。この場合、ずれが大きい場合には、所定の範囲内の補正量では完全に補正されずに、未補正となることが考えられる。
従って、フラッシュ44によって発光されていない状態でデジタル信号処理部30が輝度を検出する対象領域画像情報と、フラッシュ44によって発光されている状態でデジタル信号処理部30が輝度を検出する対象領域画像情報とが各々対応する検出対象領域が略等しくなるように、ずれ検出部58により検出されたずれ量及び撮像系により補正された画像情報の補正量に基づき、デジタル信号処理部30を制御する必要がある。
まずステップ1501で、手ぶれ補正があるか否か判断する。このステップ1501で肯定判断した場合には、ステップ1502で、手ぶれ補正による補正量を検出し、ステップ1503で、対象領域画像情報が示す検出対象領域を、ずれ量と手ぶれ補正量との差分に応じてずらした検出対象領域で測光し、処理を終了する。
一方、ステップ1501で否定判断した場合には、ステップ1504で、発光調光露光で得られた画像情報が示す被写体の通常の検出対象領域で測光して処理を終了する。
以上説明した手ぶれ対応調光処理にユーザが設定する場合は、例えば図22に示されるような画面により行うようにしても良い。同図に示されるように、この画面には、調光設定として、「通常」、「顔検出」、「手ぶれ対応調光」の3つ設定が可能なようになっている。
このような画面でユーザにより設定された場合、図23に示される処理が行われる。まず、ステップ1601で、ユーザの選択内容により分岐し、「通常」を選択された場合には、ステップ1603で位置あわせを禁止する設定とし、ステップ1605で、手ぶれ対応調光処理で動作していないことを警告としてLCD38に表示して処理を終了する。「手ぶれ対応調光」を選択された場合には、ステップ1602で、上述した手ぶれ対応調光処理で動作する設定とし、処理を終了する。一方、ステップ1601で「顔検出」を選択された場合には、ステップ1604で検出対象領域を人の顔とした手ぶれ対応調光処理で動作するように設定し、処理を終了する。
なお、LCD38には、手ぶれ対応調光処理で動作していることを示すアイコンや、動作していないことを示すアイコン等で表示するようにしても良い。
以上説明した手ぶれ対応調光処理の後に撮影した画像情報が記録されるが、そのとき手ぶれ対応調光処理に関する情報を記録するようにしても良い。この記録する処理を、図24のフローチャートを用いて説明する。
まず、ステップ1701は上述した手ぶれ対応調光処理であり、次のステップ1702で、撮影した画像情報を、図25に示されるように、手ぶれ補正の有無、未補正量、非発光測光エリア位置、発光測光位置とともに記録する。未補正量とは、手ぶれ補正によっても補正されなかった補正量を示し、非発光測光エリア位置、及び発光測光位置は各々例えば被写体を矩形の一点の座標を示している。矩形の大きさは一定なので、一点が定まればよい。図25に示される構造で上述したメモリ48に記録される。また、この座標は、フラッシュ44によって発光されていない状態でデジタル信号処理部30が輝度を検出する対象領域画像情報が示す対象領域と、フラッシュ44によって発光されている状態でデジタル信号処理部30が輝度を検出する対象領域画像情報が示す対象領域との相対位置を示す位置情報である。
これらの情報により、撮影することで得られた画像情報に対して後に画像処理を行う際の各種パラメータの調整が可能となる。
なお、以上説明した各フローチャートの処理の流れは一例であり、本発明の主旨を逸脱しない範囲内で処理順序を入れ替えたり、新たなステップを追加したり、不要なステップを削除したりすることができることは言うまでもない。
本実施の形態に係るデジタルカメラの外観上の構成を示す図である。 本実施の形態に係るデジタルカメラの電気系の構成を示す図である。 発光露光時の検出対象領域を、非発光露光時を基準に補正した場合の被写体を示す模式図である。 手ぶれ対応調光処理全体の流れを示すフローチャートである。 処理A(その1)の流れを示すフローチャートである。 処理B(その1)の流れを示すフローチャートである。 処理C(その1)の流れを示すフローチャートである。 処理D1(その1)の流れを示すフローチャートである。 処理D2(その1)の流れを示すフローチャートである。 処理Eの流れを示すフローチャートである。 被写体と検出対象領域との対応、及び検出対応領域で得られた輝度を用いて加重平均する際に用いられる重み係数を示す図である。 検出対象領域を人の顔とした場合の非発光露光時及び発光露光時の画像情報を示す図である。 処理A(その2)の流れを示すフローチャートである。 処理C(その2)の流れを示すフローチャートである。 処理D1(その2)の流れを示すフローチャートである。 非発光露光調光時及び発光露光調光時のいずれも4つの平均位置を用いるようにした場合の位置ずれを示す模式図である。 処理A(その3)の流れを示すフローチャートである。 処理B(その3)の流れを示すフローチャートである。 処理C(その3)の流れを示すフローチャートである。 処理D1(その3)の流れを示すフローチャートである。 処理D2(その3)の流れを示すフローチャートである。 設定画面を示す図である。 設定時の処理の流れを示すフローチャートである。 手ぶれ対応調光処理に関連する情報を記録する処理の流れを示すフローチャートである。 記録される情報の内容及び構造を示す図である。
符号の説明
10 デジタルカメラ
30 デジタル信号処理部
40 CPU
44 フラッシュ
48 メモリ
52 メモリカード
56A レリーズボタン
58 ずれ検出部
60 顔検出部

Claims (9)

  1. 被写体を撮像することにより得られる前記被写体を示す画像情報を出力する撮像手段と、
    前記撮像手段により出力された画像情報のうち、検出対象となる前記被写体内の領域である検出対象領域に対応する対象領域画像情報から輝度を検出する輝度検出手段と、
    前記被写体に対して発光する発光手段と、
    手ぶれにより生じた前記画像情報が示す被写体のずれ量を検出するずれ検出手段と、
    前記発光手段によって発光されていない状態で前記輝度検出手段が輝度を検出する対象領域画像情報と、前記発光手段によって発光されている状態で前記輝度検出手段が輝度を検出する対象領域画像情報とが各々対応する検出対象領域が略等しくなるように、前記ずれ検出手段により検出されたずれ量に基づき前記輝度検出手段を制御する制御手段と、
    前記輝度検出手段により検出された輝度に基づき、前記発光手段の発光量を決定する発光量決定手段と、
    を有する撮像装置。
  2. 前記制御手段は、前記輝度検出手段を制御する際のずれ量として、前記発光手段によって発光されていない状態での被写体の位置と発光されている状態での被写体の位置とのずれ量を求め、求めた被写体の位置のずれ量に基づき前記輝度検出手段を制御する請求項1に記載の撮像装置。
  3. 前記輝度検出手段は、複数の前記検出対象領域に対応する複数の対象領域情報の各々から輝度を検出する請求項1又は請求項2に記載の撮像装置。
  4. 前記撮像手段により出力された前記画像情報から、当該画像情報が示す被写体に含まれる人の顔を検出する顔検出手段を更に有し、
    前記輝度検出手段が輝度を検出する前記領域画像情報は前記顔検出手段により検出された人の顔を含む領域を示す領域画像情報である請求項1〜請求項3のいずれか1項に記載の撮像装置。
  5. 前記撮像手段が、前記ずれ検出手段により検出されたずれ量に基づき、前記画像情報が示す被写体がずれないように補正された画像情報を出力する場合には、前記制御手段は、前記ずれ検出手段により検出されたずれ量に基づかずに、前記発光手段によって発光されていない状態で前記輝度検出手段が輝度を検出する対象領域画像情報と、前記発光手段によって発光されている状態で前記輝度検出手段が輝度を検出する対象領域画像情報とが各々対応する検出対象領域が略等しくなるように前記輝度検出手段を制御する請求項1〜請求項4のいずれか1項に記載の撮像装置。
  6. 前記撮像手段が、前記ずれ検出手段により検出されたずれ量に基づき、前記画像情報が示す被写体がずれないように所定の範囲内の補正量で補正された画像情報を出力する場合には、前記制御手段は、前記発光手段によって発光されていない状態で前記輝度検出手段が輝度を検出する対象領域画像情報と、前記発光手段によって発光されている状態で前記輝度検出手段が輝度を検出する対象領域画像情報とが各々対応する検出対象領域が略等しくなるように、前記ずれ検出手段により検出されたずれ量及び前記撮像手段により補正された前記画像情報の補正量に基づき、前記輝度検出手段を制御する請求項1〜請求項5のいずれか1項に記載の撮像装置。
  7. 前記制御手段による前記輝度検出手段への制御を禁止する禁止手段を更に有する請求項1〜請求項6のいずれか1項に記載の撮像装置。
  8. 表示手段を更に有し、
    前記禁止手段により前記制御が禁止されていることを前記表示手段に表示するように制御する禁止表示制御手段を更に有する請求項7に記載の撮像装置。
  9. 前記発光手段によって発光されていない状態で前記輝度検出手段が輝度を検出する対象領域画像情報が示す対象領域と、前記発光手段によって発光されている状態で前記輝度検出手段が輝度を検出する対象領域画像情報が示す対象領域との相対位置を示す位置情報を記録する記録手段を更に有する請求項1〜請求項8のいずれか1項に記載の撮像装置。
JP2008056486A 2008-03-06 2008-03-06 撮像装置 Expired - Fee Related JP5191251B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008056486A JP5191251B2 (ja) 2008-03-06 2008-03-06 撮像装置
US12/372,267 US8373766B2 (en) 2008-03-06 2009-02-17 Image shooting device and image shooting method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008056486A JP5191251B2 (ja) 2008-03-06 2008-03-06 撮像装置

Publications (2)

Publication Number Publication Date
JP2009211001A JP2009211001A (ja) 2009-09-17
JP5191251B2 true JP5191251B2 (ja) 2013-05-08

Family

ID=41053187

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008056486A Expired - Fee Related JP5191251B2 (ja) 2008-03-06 2008-03-06 撮像装置

Country Status (2)

Country Link
US (1) US8373766B2 (ja)
JP (1) JP5191251B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5395512B2 (ja) * 2009-05-26 2014-01-22 オリンパスイメージング株式会社 撮影装置
JP5728498B2 (ja) * 2011-01-06 2015-06-03 富士フイルム株式会社 撮像装置及びその発光量制御方法
CN107343156B (zh) * 2017-07-10 2020-03-13 Oppo广东移动通信有限公司 人脸区域自动曝光控制的调整方法和装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0961898A (ja) * 1995-08-21 1997-03-07 Canon Inc カメラシステムおよびこれに用いるストロボ装置
JP2874651B2 (ja) 1996-06-21 1999-03-24 ミノルタ株式会社 カメラ
JP2005077886A (ja) * 2003-09-02 2005-03-24 Canon Inc 撮影装置
JP4593900B2 (ja) * 2003-10-15 2010-12-08 キヤノン株式会社 撮像装置及びその制御方法、並びにプログラム及び記憶媒体
JP4321265B2 (ja) * 2004-01-06 2009-08-26 株式会社ニコン 電子カメラ
JP2006126479A (ja) * 2004-10-28 2006-05-18 Olympus Corp カメラ
JP4379918B2 (ja) * 2004-11-29 2009-12-09 富士フイルム株式会社 撮影装置及び撮影方法
US7697062B2 (en) * 2006-11-08 2010-04-13 Sony Ericsson Mobile Communications Ab Camera and method in a camera

Also Published As

Publication number Publication date
US20090225182A1 (en) 2009-09-10
US8373766B2 (en) 2013-02-12
JP2009211001A (ja) 2009-09-17

Similar Documents

Publication Publication Date Title
JP4845832B2 (ja) 撮像装置および制御方法
JP5007523B2 (ja) 撮像装置及びそのプログラム
JP4615458B2 (ja) 露出制御方法及び撮像装置
JP2007019973A (ja) 撮像装置及び撮像方法
US8125535B2 (en) Imaging apparatus, continuous shooting control method, and program therefor
JP2007036978A (ja) デジタルカメラ、撮影方法、および撮影制御プログラム。
JP2017022610A (ja) 画像処理装置、画像処理方法
JPWO2012093519A1 (ja) 撮像装置及びその発光量制御方法
US11838648B2 (en) Image processing device, imaging apparatus, image processing method, and program for determining a condition for high dynamic range processing
JP5191251B2 (ja) 撮像装置
JP2006217505A (ja) 撮影装置
JP2005086488A (ja) 電子スチルカメラおよび画像処理プログラム
JP2009288657A (ja) ストロボ撮影装置
JP2009218689A (ja) 測光装置、及び撮像装置
JP2006119264A (ja) 撮影装置
JP2009033386A (ja) 撮影装置及び撮影方法
JP2007096950A (ja) デジタルカメラ及び発光制御方法
JP4335648B2 (ja) デジタルカメラ及びデジタルカメラの撮像方法
JP2008035243A (ja) 撮像装置
JP2006171315A (ja) ストロボ制御装置、ストロボ制御プログラム、ストロボ制御方法
JP4761039B2 (ja) 撮像装置
JP2006311345A (ja) デジタルカメラ
KR20100112788A (ko) 손떨림 방지 기능과 플래쉬 기능의 제어 방법, 이를 이용한 촬영 방법 및 디지털 카메라 모듈
JP5444026B2 (ja) 撮影装置
JP2008124793A (ja) 撮像装置、撮像方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100705

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121011

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121016

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121206

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130129

R150 Certificate of patent or registration of utility model

Ref document number: 5191251

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160208

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees