JP4571617B2 - 撮像装置及び撮像方法 - Google Patents

撮像装置及び撮像方法 Download PDF

Info

Publication number
JP4571617B2
JP4571617B2 JP2006356163A JP2006356163A JP4571617B2 JP 4571617 B2 JP4571617 B2 JP 4571617B2 JP 2006356163 A JP2006356163 A JP 2006356163A JP 2006356163 A JP2006356163 A JP 2006356163A JP 4571617 B2 JP4571617 B2 JP 4571617B2
Authority
JP
Japan
Prior art keywords
face
subject
area data
distance
face area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006356163A
Other languages
English (en)
Other versions
JP2008167295A (ja
Inventor
芳治 五反田
Original Assignee
三星デジタルイメージング株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 三星デジタルイメージング株式会社 filed Critical 三星デジタルイメージング株式会社
Priority to JP2006356163A priority Critical patent/JP4571617B2/ja
Priority to KR1020070035731A priority patent/KR101278241B1/ko
Priority to US11/981,180 priority patent/US7844175B2/en
Priority to CN2007101960588A priority patent/CN101210995B/zh
Publication of JP2008167295A publication Critical patent/JP2008167295A/ja
Application granted granted Critical
Publication of JP4571617B2 publication Critical patent/JP4571617B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/77Determining position or orientation of objects or cameras using statistical methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Description

本発明は、撮像装置及び撮像方法に関する。
撮像装置を用いた撮影では、一般に、位相差検出方式の測距装置を用いて、被写体までの距離を検出した後、焦点を調節して被写体に対してピントを合わせている。一方、写真撮影で被写体となるのは、人物であることが実際上多いことから、人物を中心に自動的に焦点を調節し、露光を調節したいというニーズが高かった。
ディジタルスチルカメラ等の撮像装置では、撮影時に人物の顔を捉えて、焦点を調節し、顔部分を中心に確実にピントを合わせる技術や、顔の明るさをもとに露出を調節する技術が実用化されてきた。例えば、特許文献1には、被写体までの距離を検出し、撮像装置の焦点調節に応用する技術が開示されている。
特開2003−75717号公報
特許文献1では、標準的な人物の顔の大きさに関する情報を撮像装置内に保持し、撮像装置が取得した撮像画像の領域内の顔の大きさと比較した上で、計算を行い、撮像装置から被写体までの距離を検出し、焦点調節に応用している。
しかし、上述の距離検出方法は、撮像画像領域内の顔を認識する際、人物の顔と類似したデータパターンを有する被写体、例えば樹木などを人物の顔と誤認するという問題があった。このような誤認が生じると、ピントを合わせる必要のない被写体に対して焦点調節をするという問題や、焦点調節に余計な時間がかかり、撮影時間が遅延するという問題があった。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、撮像画像領域内から人物の顔を確実に認定することが可能な、新規かつ改良された撮像装置及び撮像方法を提供することにある。
上記課題を解決するために、本発明のある観点によれば、焦点調節が可能なフォーカスレンズを有する結像光学系と、光情報を電気信号に変換する光電変換素子と、電気信号を画像信号として出力する画像信号処理部と、画像信号から人物の顔に該当する顔領域データを検出し、当該顔領域データを予め記憶手段に記憶されている標準顔データと比較して、前記顔領域データの被写体までの第1の被写体距離を取得する第1の測距部と、顔領域データの被写体の合焦位置を検出し、当該顔領域データの被写体までの第2の被写体距離を取得する第2の測距部と、第1の被写体距離と前記第2の被写体距離とを比較し、前記顔領域データの被写体を前記顔であると認定する顔認定部と、を備えることを特徴とする、撮像装置が提供される。
かかる構成により、第1の測距部で取得された第1の被写体距離と、第2の測距部で取得された第2の被写体距離とを比較し、顔認定部で顔領域データの被写体が、顔であるかどうか認定される。そして、撮影時、人物の顔に該当する顔領域データの被写体について、顔であると正確に認定できる場合が増加し、人物の顔が表示されていない領域について、顔であると認定する誤認を低減させることができる。その結果、誤認による撮影の失敗を減少させることができる。
上記第1の測距部は、顔領域データ内の被写体の面積データを検出する顔検出部と、結像光学系の焦点距離と、前記顔の標準面積データと、前記顔までの標準距離との関係を前記記憶手段に格納するデータベースと、を備え、データベースから読み出した前記焦点距離と前記検出された被写体の面積データとに基づいて、前記第1の被写体距離を取得することができる。かかる構成により、第1の被写体距離は、焦点距離毎の顔の標準面積データと、検出された被写体の面積データとを対比して、顔までの標準距離に基づいて取得される。
上記第2の測距部は、顔領域データの被写体の合焦位置を検出する合焦位置検出部と、を備え、合焦位置時の前記結像光学系の前記フォーカスレンズの位置と前記焦点距離とに基づいて、前記第2の被写体距離を取得することができる。かかる構成により、第2の被写体距離は、被写体の合焦位置を検出する際に変化するフォーカスレンズの位置に基づいて取得される。
上記第1の被写体距離と、前記第2の被写体距離とを比較し、前記顔領域データの信頼性値を算出する信頼性値算出部を更に備え、前記顔認定部は、前記信頼性値に基づいて、前記顔領域データの被写体を前記顔であると認定することができる。かかる構成により、第1の被写体距離と第2の被写体距離とを比較し、信頼性値算出部で算出された信頼性値に基づいて、顔検出部で検出された顔領域データの被写体が、顔であるかどうか認定される。
上記顔認定部で前記顔と認定された被写体に対して、焦点調節、露出調節及びカラーバランス調節のうち少なくともいずれかの調節をする調節部を更に備えることができる。かかる構成により、顔領域データの被写体を確実に顔であると認定できることから、人物を含めた撮影時に、人物に対して合焦させる性能を向上させ、人物顔面に対して、最適な露出を獲得する性能を向上させることができる。また、人物を含めた撮影時に、人物顔面に対するカラーバランス性能を向上させることができる。
撮像画像の領域内において、前記顔認定部で前記顔と認定された被写体を明示する顔表示部を更に備えることができる。かかる構成により、撮像画像の領域内で、顔と認定された被写体のみを明示することができる。
また、上記課題を解決するために、本発明の別の観点によれば、結像光学系で結像された光束を電気信号に変換し、前記電気信号を画像信号として出力する第1のステップと、画像信号から人物の顔に該当する顔領域データを検出し、当該顔領域データを予め記憶されている標準顔データと比較して、前記顔領域データの被写体までの第1の被写体距離を取得する第2のステップと、顔領域データの被写体の合焦位置を検出し、当該顔領域データの被写体までの第2の被写体距離を取得する第3のステップと、第1の被写体距離と前記第2の被写体距離とを比較し、前記顔領域データの被写体を前記顔であると認定する第4のステップと、を備えることを特徴とする、撮像方法が提供される。
かかる構成により、第1の測距部で取得された第1の被写体距離と、第2の測距部で取得された第2の被写体距離とを比較し、顔認定部で顔領域データの被写体が、顔であるかどうか認定される。そして、撮影時、人物の顔に該当する顔領域データの被写体について、顔であると正確に認定できる場合が増加し、人物の顔が表示されていない領域について、顔であると認定する誤認を低減させることができる。その結果、誤認による撮影の失敗を減少させることができる。
上記第2のステップでは、顔領域データ内の被写体の面積データを検出し、前記結像光学系の焦点距離と、前記顔の標準面積データと、前記顔までの標準距離との関係が予め格納されたデータベースから、前記焦点距離と前記検出した被写体の面積データとに基づいて、前記第1の被写体距離を取得することができる。かかる構成により、第1の被写体距離は、焦点距離毎の顔の標準面積データと、検出された被写体の面積データとを対比して、顔までの標準距離に基づいて取得される。
上記第3のステップでは、顔領域データの被写体の合焦位置を検出し、当該合焦位置時の前記結像光学系の前記フォーカスレンズの位置と前記焦点距離とに基づいて、前記第2の被写体距離を取得することができる。かかる構成により、第2の被写体距離は、被写体の合焦位置を検出する際に変化するフォーカスレンズの位置に基づいて取得される。
上記第4のステップでは、第1の被写体距離と、前記第2の被写体距離とを比較し、前記顔領域データの信頼性値を算出した後、当該信頼性値に基づいて、前記顔領域データの被写体を前記顔であると認定することができる。かかる構成により、第1の被写体距離と第2の被写体距離とを比較し、算出された信頼性値に基づいて、顔検出部で検出された顔領域データの被写体が、顔であるかどうか認定される。
上記第4のステップにおいて前記顔と認定された被写体に対して、焦点調節、露出調節及びカラーバランス調節のうちいずれかの調節をする第5のステップを更に備えることができる。かかる構成により、顔領域データの被写体を確実に顔であると認定できることから、人物を含めた撮影時に、人物に対して合焦させる性能を向上させ、人物顔面に対して、最適な露出を獲得する性能を向上させることができる。また、人物を含めた撮影時に、人物顔面に対するカラーバランス性能を向上させることができる。
撮像画像の領域内において、前記第4のステップにおいて前記顔と認定された被写体を明示する第6のステップを更に備えることかできる。かかる構成により、撮像画像の領域内で、顔と認定された被写体のみを明示することができる。
本発明によれば、撮像画像領域内から人物の顔を確実に認定することができる。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
(本実施形態の構成)
まず、本発明の第1の実施形態に係る撮像装置の構成について説明する。図1は、本実施形態に係る撮像装置を示すブロック図である。
図1に示すように、本実施形態に係る撮像装置は、結像光学系102と、モータドライバ104と、CCD(charge coupled device)106と、タイミングジェネレータ108と、CPU(central processing unit)110と、CDS/AMP124と、A/D変換機126と、画像入力コントローラ128と、圧縮処理回路130と、画像信号処理回路132と、メモリ134と、メディアコントローラ136と、記録メディア138と、VRAM140と、ビデオエンコーダ142と、画像表示装置144と、顔検出回路150と、顔面距離演算回路152と、AF検出回路154と、焦点→被写体距離演算回路156とを備える。
結像光学系102は、外部の光情報をCCD106に結像させる光学系システムである。結像光学系102は、例えば、レンズユニット(図示せず。)と、ズーム機構(図示せず。)と、フォーカスレンズ103を有するフォーカス機構(図示せず。)と、開口の大きさを変えて、光束の方向や範囲を限定できる絞り機構(図示せず。)と、レンズを取り付ける筒状の鏡胴(図示せず。)を有している。結像光学系102は、例えば、単焦点レンズ又はズームレンズとすることができる。モータドライバ104は、例えば、結像光学系102のズーム機構、フォーカス機構、絞り機構を駆動する。
CCD106は、結像光学系102を経由して入射した光情報を電気信号に変換する光電変換が可能な素子から構成され、各素子が受光した光に応じた電気信号を生成する。なお、本実施形態では、光電変換素子の一例としてCCD106を適用した場合を示したが、この例に限定されず、例えば、CMOS(complementary metal oxide semiconductor)等を適用することができる。CCD106の露光時間を制御するため、非撮影時に光を遮って撮影時のみ光が当たるように、メカニカルシャッター(図示せず。)を適用することができる。また、これに限定されず、電子シャッター(図示せず。)を適用してもよい。なお、メカニカルシャッター又は電子シャッターの動作は、CPU110に接続されたシャッターボタン122のスイッチによって行われる。
タイミングジェネレータ108は、CCD106にタイミング信号を入力し、CCD106を構成している各画素の露光期間の制御や、電荷の読み出し制御を行う。CDS/AMP(相関二重サンプリング回路(correlated double sampling)/増幅器(amplifier))124は、CCD106から出力された電気信号に含まれる低周波ノイズを除去すると共に、電気信号を任意のレベルまで増幅する。A/D変換機126は、アナログの電気信号をデジタル信号に変換する。画像入力コントローラ128は、画像音声処理をするためデジタル信号の処理を行う。圧縮処理回路130は、デジタル信号からなる入力画像データをJPEG圧縮形式、またはLZW圧縮形式などの圧縮形式で圧縮されたデータへと変換する。画像信号処理回路132は、画像を合成し、合成された画像は、メモリ134に出力される。上記のCDS/AMP124、A/D変換機126、画像入力コントローラ128、圧縮処理回路130、画像信号処理回路132から構成される処理部は、画像信号処理部の一例である。
メモリ134は、例えばSDRAM(synchronous DRAM)等の半導体記憶素子から構成され、時分割撮影された画像が一時的に保存される。また、メモリ134には、CPU110の動作プログラムが保存される。メディアコントローラ136は、記録メディア138への画像データの書き込み、又は記録メディア138に記録された画像データや設定情報などの読み出しを制御する。記録メディア138は、例えば、光学式記録媒体、光磁気ディスク、磁気ディスク、半導体記憶媒体などから構成され、撮影された画像データを記録する。記録メディア138は、撮像装置から着脱可能に構成されてもよい。VRAM140は、画像表示用のメモリであり、表示画像の書き込みと画像表示装置144への表示を同時に実行できるように、複数のチャネルを有するメモリから構成される。ビデオエンコーダ142は、動画像の圧縮処理をし、圧縮されたフレームを画像表示装置144へ出力する。画像表示装置144は、例えばLCD等の表示手段から構成され、VRAM140から読み出された画像が表示される。
顔検出回路150は、撮像装置100が取得した撮像画像の画像信号から人物の顔に該当する顔領域データを検出する。顔領域データは、例えば、撮像画像内の被写体の相対的な位置や、被写体の大きさといった属性を有する。顔検出回路150は、更に顔領域データ内の被写体の面積データを検出する。顔検出回路150は、顔検出部の一例である。
顔面距離演算回路152は、顔検出回路150で検出された顔領域データ内の被写体の大きさと、結像光学系102の焦点距離と、顔の標準面積データが記録されたTable120によって、撮像装置100から被写体までの被写体距離D1を取得する。顔検出回路150及び顔面距離演算回路152は、第1の測距部の一例である。なお、図1では、顔検出回路150及び顔面距離演算回路152は、別のものとして図示したが、この例に限定されず、顔検出回路150は、顔面距離演算回路152に含まれるとしてもよい。また、顔検出回路150及び顔面距離演算回路152は、CPU110に含まれるとしてもよい。
AF検出回路154は、顔検出回路150で検出された顔領域データの被写体の合焦位置を検出する。AF検出回路154は、合焦位置検出部の一例である。合焦位置の検出は、フォーカスレンズ103を駆動してAF評価値を取得することによって行う。合焦位置は、フォーカスレンズ103を移動させて、画像信号中の高周波成分を抽出し、撮像画像領域のうち例えば合焦を目的とする所定の領域について抽出された信号を積分することによって算出される。当該所定の領域のAF評価値は、最大値を1つ有する曲線からなり、AF評価値が最大となるフォーカスレンズ103の位置が最も合焦している位置とみなすことができる。
焦点→被写体距離演算回路156は、フォーカスレンズ103の合焦位置時の相対的な位置と、結像光学系102の焦点距離とに基づいて、撮像装置100から被写体までの被写体距離D2を取得する。AF検出回路154及び焦点→被写体距離演算回路156は、第2の測距部の一例である。なお、図1では、AF検出回路154及び焦点→被写体距離演算回路156は、別のものとして図示したが、この例に限定されず、AF検出回路154は、焦点→被写体距離演算回路156に含まれるとしてもよい。また、AF検出回路154及び焦点→被写体距離演算回路156は、CPU110に含まれるとしてもよい。
CPU110は、撮像装置100の各構成部品に対して信号の送受信を行って、各構成部品を制御する。CPU110は、信頼性算出部112と、顔認定部114と、調節部116と、顔表示部118とを有する。
CPU110は、Table120を読み込む。Table120は、結像光学系102の焦点距離と、顔の標準面積データと、顔までの標準距離との関係が記録されている。Table120は、データベースの一例である。結像光学系102の焦点距離は、結像光学系102が単焦点レンズである場合は、固定され、結像光学系102がズームレンズである場合は、可変である。なお、上述では、Table1は、CPU110に読み込まれるとしたが、顔面距離演算回路152がTable1を備えているとしてもよい。
信頼性算出部112は、被写体距離D1と被写体距離D2とを比較し、顔領域データの信頼性値を算出する。顔認定部114は、信頼性算出部112で算出された信頼性値に基づいて、顔領域データの被写体を顔であると認定する機能を有する。
調節部116は、顔認定部114で顔と認定された被写体について、撮影条件についての所定の調節をする。具体的には、調節部116は、モータドライバ104に信号を出力してフォーカスレンズ103を駆動し、被写体に対して焦点調節をする。また、調節部116は、モータドライバ104に信号を出力して絞り機構を駆動し、被写体に対して露出調節をする。調節部116は、CPU110に信号を送ることにより、撮像画像内の被写体に対してカラーバランス調節をする。
顔表示部118は、撮像画像が画像表示装置144の画面に表示される際、撮像画像の領域内において、顔認定部114で顔と認定された被写体を明示する。顔表示部118は、例えば、被写体の周囲に顔表示枠として、四角形状の枠を表示する。
(本実施形態の動作)
次に、本実施形態に係る撮像装置の動作について説明する。図2は、本実施形態に係る撮像装置の動作を示すフロー図である。
まず、撮像装置を用いて、撮影をする際、撮影準備状態では、結像光学系102からCCD106に入射した光情報が、CCD106で電気信号に変換される。そして、CDS/AMP124で、電気信号は、低周波ノイズが除去されて、任意のレベルまで増幅される。次に、A/D変換機126で、電気信号はデジタル信号に変換され、画像入力コントローラ128、圧縮処理回路130、画像信号処理回路132、ビデオエンコーダ142を介して、圧縮化されたデータが画像表示装置144に出力される。
撮影準備状態では、画像表示装置144に動画像(スルー画像)が表示される。このとき、撮像装置100は、スルー画像を表示しながら、シャッターボタン122の押下を待機している状態にある。VRAM140には、画像を表示する面と取り込む面で分けられた2面分の領域が保持される。これらをフレーム単位で切り替えて繰り返すことで、スルー画像が形成される(ステップS102)。
シャッターボタン122が押下されたら、顔検出回路150が、押下直前に表示した撮像画像の画像信号から人物の顔に該当する顔領域データを検出し、更に顔領域データから被写体の大きさを検出する(ステップS104)。次に、顔面距離演算回路152が、顔検出回路150で検出された顔領域データ内の被写体の大きさと、Table120を照合することによって、撮像装置100から被写体までの被写体距離D1を算出する(ステップS106)。
一方、AF検出回路154は、顔検出回路150で取得された顔領域データ内の被写体の合焦位置、及び画像中央領域の合焦位置を検出する(ステップS108)。そして、焦点→被写体距離演算回路156が、合焦点位置時の結像光学系102におけるフォーカスレンズ103の相対的な位置と、焦点距離とに基づいて、撮像装置100から被写体までの被写体距離D2を取得する(ステップS110)。
次に、信頼性算出部112が、被写体距離D1と被写体距離D2を比較し、顔領域データの信頼性値を算出する(ステップS112)。更に、顔認定部114は、信頼性算出部112で算出された信頼性値に基づいて、顔領域データの被写体を顔であると認定する(ステップS114)。
顔認定部114が、顔領域データの被写体を顔であると認定した場合(ステップS116)は、顔表示部118は、撮像画像の領域内において、顔と認定された被写体の周囲に顔表示枠を表示する(ステップS118)。更に、CPU110は、顔と認定された被写体を焦点領域と決定する。(ステップS120)。
一方、顔認定部114が、顔領域データの被写体を顔ではないと判定した場合(ステップS116)は、顔表示部118は、当該被写体に対して、顔表示枠を表示しない。または、被写体の周囲に顔表示枠が表示されていた場合には、その顔表示枠を消去する(ステップS122)。そして、撮像画像内に顔と認定できる領域がないと認定されたとき、CPU110は、撮像画像の中央領域を焦点領域と決定する(ステップS124)。
そして、調節部116は、顔領域データの被写体又は撮像画像の中央領域に設けられた焦点領域に対して焦点調節をする。即ち、CPU110がモータドライバ104を駆動し、フォーカスレンズ103を移動させて、焦点領域にピントを合わせる(ステップS126)。
以上より、フォーカスレンズ103の合焦点位置が決定すると、CCD106を露光させる。そして、CCD106で、光情報が光電変換されて電気信号が出力される。更に電気信号は、YC変換やJPEG方式の圧縮がされ、記録メディア138に画像データが記録される。
次に、本実施形態に係る撮像装置の各動作の詳細について説明する。
まず、図3を参照して、人物の顔を検出し(ステップS102)、被写体までの被写体距離D1を算出する動作(ステップS104)について説明する。図3は、本実施形態に係る撮像装置による被写体距離算出を示す説明図である。
図3に示す3つの図は、同一の焦点距離における撮像画像を示している。図3の中段の図には、当該焦点距離の標準となる顔の大きさを示す標準顔領域160が表されている。標準顔領域160の面積は、当該焦点距離の顔面標準面積Aとして、単位がピクセル(pixel)で、Table120に保存されている。また、Table120には、撮像画像内で顔の大きさが顔面標準面積Aと同一であるときの、顔から撮像装置100までの距離が定義距離P(m)として保存されている。
下記にTable120の一例を示す。
Figure 0004571617
図3の上段の図には、撮像画像内に人物170が捉えられている状態を示している。撮像画像内に人物170の顔172があることから、顔検出回路150は、データパターンを照合して、顔172の部分に顔領域162を検出する。そして、顔検出回路150は、顔領域162から顔172の面積を検出する。
次に、被写体距離D1を算出する動作(ステップS106)について説明する。
顔面距離演算回路152が、顔検出回路150で検出された顔領域162の面積と、Table120を照合することによって、撮像装置100から被写体までの被写体距離D1を算出する。具体的には、顔面距離演算回路152は、撮影時の焦点距離fを判断し、Table120から焦点距離fに該当する顔面標準面積A及び定義距離Pを取得する。
次に、顔面距離演算回路152は、下記の数式1を用いて、撮像装置100から被写体までの被写体距離D1を算出する。
Figure 0004571617
ここで、D1:被写体距離(m)、A:顔面標準面積(pixel)、B:顔検出回路で検出された顔領域の面積、P:定義距離(m)、K:調整係数である。なお、調整係数Kは、撮像装置100の特性などに依存する係数である。
顔領域162の面積は、標準顔領域160に比べて小さい。従って、数式1によれば、被写体距離D1は、定義距離Pよりも大きい値が得られ、撮像装置100から顔172までの距離は定義距離Pよりも遠くにあるという結果が得られる。
一方、図3の下段の図にも、撮像画像内に人物170が捉えられている状態を示している。撮像画像内に人物170の顔172があることから、顔検出回路150は、データパターンを照合して、顔172の部分に顔領域164を検出する。そして、顔検出回路150は、顔領域164から顔172の面積を検出する。そして、上述と同様に、顔面距離演算回路152が、顔検出回路150で検出された顔領域164の面積と、Table120を照合することによって、撮像装置100から被写体までの被写体距離D1を算出する。
顔領域164の面積は、標準顔領域160に比べて大きい。従って、数式1によれば、被写体距離D1は、定義距離Pよりも小さい値が得られ、撮像装置100から顔172までの距離は定義距離Pよりも近くにあるという結果が得られる。
次に、AF検出回路154が、顔領域162内の被写体の合焦位置を検出する動作(ステップS108)について説明する。図4は、本実施形態に係る合焦位置検出動作を示すフローチャートである。図5は、本実施形態に係る合焦位置検出動作の概念を示す説明図である。図6は、本実施形態に係る画像内で焦点領域及び顔表示枠が表示された状態を示す説明図である。
合焦位置の検出は、図4に示すように、フォーカスレンズ103を駆動し(ステップS202)、その段階のAF評価値を取得し(ステップS204)、合焦位置の探索が完了したかどうかを判断して(ステップS206)、探索が完了するまでフォーカスレンズを段階的に駆動してAF評価値を取得するという動作を繰り返すことで行われる。
具体的には、フォーカスレンズ103は、結像光学系102に対して、フォーカスレンズ103の焦点面の相対的な位置0(μm)からm(μm)まで駆動される。なお、焦点面の位置が0(μm)であるとき、被写界深度は無限遠であり、焦点面の位置がm(μm)であるとき、被写体深度はM(m)である。
フォーカスレンズ103は、モータドライバ104によって段階的に駆動され、各段階で、AF検出回路154が、顔検出回路150で検出された顔領域データ、及び画像中央領域について、AF評価値を取得する。
図6は、画像内で、人物170の顔172で検出された顔領域に顔表示枠166が表示され、樹木190で検出された顔領域に顔表示枠168が表示されている状態を示している。このとき、AF検出回路154は、人物170の顔172で検出された顔領域に対応する焦点領域182と、樹木190で検出された顔領域に対応する焦点領域184と、画面中央領域に対応する焦点領域180とで、AF評価値を取得する。
図5に示すように、各焦点領域でのAF評価値が取得されることによって、フォーカスレンズ103がどの位置にあるときに最も合焦するかを判断することができる。なお、フォーカスレンズ103が段階的に移動し、各焦点領域で取得されたAF評価値は、メモリに保存される。従って、AF検出回路154は、AF評価値が最大であるときのフォーカスレンズ103の位置を最も合焦している位置とみなすことができ、AF検出回路154は、そのときのフォーカスレンズ103の相対的な位置を取得する。
次に、焦点→被写体距離演算回路156が、フォーカスレンズ103の相対的な位置と、焦点距離とに基づいて、撮像装置100から被写体までの被写体距離D2を取得する動作(ステップS110)について説明する。
焦点→被写体距離演算回路156は、下記の数式2を用いて、撮像装置100から被写体までの被写体距離D2を算出する。
Figure 0004571617
ここで、D2:被写体距離(m)、f:焦点距離(mm)、x:合焦位置のフォーカスレンズの位置である。
数式2によれば、焦点→被写体距離演算回路156は、結像光学系102の焦点距離fと、合焦位置のフォーカスレンズ103の位置から、被写体距離D2が算出される。
次に、信頼性算出部112が、被写体距離D1と被写体距離D2を比較し、顔領域データの信頼性値を算出する動作(ステップS112)について説明する。ここで、信頼性算出部112は、まず、下記の数式3を用いて、撮像装置100から被写体までの被写体距離D1と被写体距離D2を比較し、顔領域データの相関値(%)を算出する。
Figure 0004571617
ここで、S:相関値(%)である。
相関値は、100%に近いほど、被写体距離D1と被写体距離D2が近い値であることを示し、100%から離れるほど、被写体距離D1と被写体距離D2が相互に離れた値であることを示す。
そして、信頼性算出部112は、図8に示すような信頼性値と相関値との関係から、信頼性値を算出する。図8は、本実施形態に係る信頼性値算出式を示す説明図である。図8に示す信頼性算出式は、相関値が100%前後であるとき、信頼性値が1であり、相関値の100%前後の領域から離れると信頼性値が減少する。なお、信頼性値が1であるときの相関値の値は、撮像装置100の条件に応じて変えることができる。
次に、顔認定部114が、信頼性算出部112で算出された信頼性値に基づいて、顔領域データの被写体を顔であると認定する動作(ステップS114)について説明する。図7は、本実施形態に係る画像内で顔表示枠が表示された状態を示す説明図である。
顔認定部114は、予め信頼性値について閾値を決定しておき、信頼性値が当該閾値以上であれば、顔検出回路150で検出された顔領域データの被写体を顔であると認定し、信頼性値が当該閾値未満であれば、顔領域データの被写体を顔ではないと認定する。
以上より、顔面距離演算回路152で取得された被写体距離D1と、焦点→被写体距離演算回路156で取得された被写体距離D2とを比較し、相互に近い値であれば、顔検出回路150で検出された顔領域データの被写体が顔であると認定される。そして、顔認定部114が、顔領域データの被写体を顔であると認定した場合(ステップS116)は、図7に示すように、顔表示部118は、撮像画像の領域内において、顔と認定された被写体の周囲に顔表示枠166を表示する(ステップS118)。一方、顔認定部114が、顔領域データの被写体を顔ではないと判定した場合(ステップS116)は、図6に示すように、被写体の周囲に顔表示枠168が表示されていた場合には、その顔表示枠168を消去し(ステップS122)、結果的に顔表示枠166のみが画像上に表示される。
本実施形態によれば、撮像装置によって撮影する際、人物の顔が表示された領域について、顔であると正確に認識することができる場合が増加し、樹木などの人物の顔が表示されていない領域について、顔であるとする誤認を低減させることができる。その結果、誤認による撮影の失敗を減少させることができる。また、確実に顔であると認識することができることから、人物を含めた撮影時に、人物に対して合焦させる撮像装置の性能を向上させることができ、また、人物顔面に対して、最適な露出を獲得する性能やカラーバランス性能を向上させることができる。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
本発明の第1の実施形態に係る撮像装置を示すブロック図である。 同実施形態に係る撮像装置の動作を示すフロー図である。 同実施形態に係る撮像装置による被写体距離算出を示す説明図である。 同実施形態に係る合焦位置検出動作を示すフローチャートである。 同実施形態に係る合焦位置検出動作の概念を示す説明図である。 同実施形態に係る画像内で焦点領域及び顔表示枠が表示された状態を示す説明図である。 同実施形態に係る画像内で顔表示枠が表示された状態を示す説明図 同実施形態に係る信頼性値算出式を示す説明図である。
符号の説明
100 撮像装置
102 結像光学系
104 モータドライバ
106 CCD
108 タイミングジェネレータ
110 CPU
112 信頼性算出部
114 顔認定部
116 調節部
118 顔表示部
120 Table
124 CDS/AMP
126 A/D変換機
128 画像入力コントローラ
130 圧縮処理回路
132 画像信号処理回路
134 メモリ
136 メディアコントローラ
138 記録メディア
140 VRAM
142 ビデオエンコーダ
144 画像表示装置
150 顔検出回路
152 顔面距離演算回路
154 AF検出回路
156 焦点→被写体距離演算回路

Claims (12)

  1. 焦点調節が可能なフォーカスレンズを有する結像光学系と、
    光情報を電気信号に変換する光電変換素子と、
    前記電気信号を画像信号として出力する画像信号処理部と、
    前記画像信号から人物の顔に該当する顔領域データを検出し、当該顔領域データを予め記憶手段に記憶されている標準顔データと比較して、前記顔領域データの被写体までの第1の被写体距離を取得する第1の測距部と、
    前記顔領域データの被写体の合焦位置を検出し、当該顔領域データの被写体までの第2の被写体距離を取得する第2の測距部と、
    前記第1の被写体距離と前記第2の被写体距離とを比較し、前記顔領域データの被写体を前記顔であると認定する顔認定部と、
    を備えることを特徴とする、撮像装置。
  2. 前記第1の測距部は、
    前記顔領域データ内の被写体の面積データを検出する顔検出部と、
    前記結像光学系の焦点距離と、前記顔の標準面積データと、前記顔までの標準距離との関係を前記記憶手段に格納するデータベースと、
    を備え、
    前記データベースから読み出した前記焦点距離と前記検出された被写体の面積データとに基づいて、前記第1の被写体距離を取得することを特徴とする、請求項1に記載の撮像装置。
  3. 前記第2の測距部は、
    前記顔領域データの被写体の合焦位置を検出する合焦位置検出部と、
    を備え、
    前記合焦位置時の前記結像光学系の前記フォーカスレンズの位置と前記焦点距離とに基づいて、前記第2の被写体距離を取得することを特徴とする、請求項2に記載の撮像装置。
  4. 前記第1の被写体距離と、前記第2の被写体距離とを比較し、前記顔領域データの信頼性値を算出する信頼性値算出部を更に備え、
    前記顔認定部は、前記信頼性値に基づいて、前記顔領域データの被写体を前記顔であると認定することを特徴とする、請求項1〜3のいずれかに記載の撮像装置。
  5. 前記顔認定部で前記顔と認定された被写体に対して、焦点調節、露出調節及びカラーバランス調節のうち少なくともいずれかの調節をする調節部を更に備えることを特徴とする、請求項1〜4のいずれかに記載の撮像装置。
  6. 撮像画像の領域内において、前記顔認定部で前記顔と認定された被写体を明示する顔表示部を更に備えたことを特徴とする、請求項1〜5のいずれかに記載の撮像装置。
  7. 結像光学系で結像された光束を電気信号に変換し、前記電気信号を画像信号として出力する第1のステップと、
    前記画像信号から人物の顔に該当する顔領域データを検出し、当該顔領域データを予め記憶されている標準顔データと比較して、前記顔領域データの被写体までの第1の被写体距離を取得する第2のステップと、
    前記顔領域データの被写体の合焦位置を検出し、当該顔領域データの被写体までの第2の被写体距離を取得する第3のステップと、
    前記第1の被写体距離と前記第2の被写体距離とを比較し、前記顔領域データの被写体を前記顔であると認定する第4のステップと、
    を備えることを特徴とする、撮像方法。
  8. 前記第2のステップでは、
    前記顔領域データ内の被写体の面積データを検出し、前記結像光学系の焦点距離と、前記顔の標準面積データと、前記顔までの標準距離との関係が予め格納されたデータベースから、前記焦点距離と前記検出した被写体の面積データとに基づいて、前記第1の被写体距離を取得することを特徴とする、請求項7に記載の撮像方法。
  9. 前記第3のステップでは、
    前記顔領域データの被写体の合焦位置を検出し、当該合焦位置時の前記結像光学系の前記フォーカスレンズの位置と前記焦点距離とに基づいて、前記第2の被写体距離を取得することを特徴とする、請求項8に記載の撮像方法。
  10. 前記第4のステップでは、
    前記第1の被写体距離と、前記第2の被写体距離とを比較し、前記顔領域データの信頼性値を算出した後、当該信頼性に基づいて、前記顔領域データの被写体を前記顔であると認定することを特徴とする、請求項7〜9のいずれかに記載の撮像方法。
  11. 前記第4のステップにおいて前記顔と認定された被写体に対して、焦点調節、露出調節及びカラーバランス調節のうちいずれかの調節をする第5のステップを更に備えることを特徴とする、請求項7〜10のいずれかに記載の撮像方法。
  12. 撮像画像の領域内において、前記第4のステップにおいて前記顔と認定された被写体を明示する第6のステップを更に備えたことを特徴とする、請求項7〜11のいずれかに記載の撮像方法。
JP2006356163A 2006-12-28 2006-12-28 撮像装置及び撮像方法 Expired - Fee Related JP4571617B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2006356163A JP4571617B2 (ja) 2006-12-28 2006-12-28 撮像装置及び撮像方法
KR1020070035731A KR101278241B1 (ko) 2006-12-28 2007-04-11 촬상 장치 및 촬상 방법
US11/981,180 US7844175B2 (en) 2006-12-28 2007-10-31 Photographing apparatus and method
CN2007101960588A CN101210995B (zh) 2006-12-28 2007-11-30 摄影设备和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006356163A JP4571617B2 (ja) 2006-12-28 2006-12-28 撮像装置及び撮像方法

Publications (2)

Publication Number Publication Date
JP2008167295A JP2008167295A (ja) 2008-07-17
JP4571617B2 true JP4571617B2 (ja) 2010-10-27

Family

ID=39583340

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006356163A Expired - Fee Related JP4571617B2 (ja) 2006-12-28 2006-12-28 撮像装置及び撮像方法

Country Status (4)

Country Link
US (1) US7844175B2 (ja)
JP (1) JP4571617B2 (ja)
KR (1) KR101278241B1 (ja)
CN (1) CN101210995B (ja)

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4697606B2 (ja) * 2007-01-24 2011-06-08 富士フイルム株式会社 撮影装置及び合焦制御方法
JP2009003003A (ja) * 2007-06-19 2009-01-08 Hoya Corp 自動焦点調節装置を備えたカメラ
KR20090052677A (ko) * 2007-11-21 2009-05-26 삼성디지털이미징 주식회사 포커스 조정 장치 및 방법
WO2009116242A1 (ja) * 2008-03-18 2009-09-24 パナソニック株式会社 運転者監視装置、運転者監視方法及び車両
JP5043736B2 (ja) * 2008-03-28 2012-10-10 キヤノン株式会社 撮像装置及びその制御方法
KR101511783B1 (ko) * 2008-10-31 2015-04-14 삼성전자주식회사 자동초점조절 방법 및 자동초점조절 기능을 구비한 카메라
KR20100058280A (ko) * 2008-11-24 2010-06-03 삼성전자주식회사 휴대 단말기를 이용한 영상 촬영 방법 및 장치
US8325980B1 (en) * 2008-12-16 2012-12-04 Sprint Communications Company L.P. Providing indications of object attributes
JP5105550B2 (ja) * 2009-03-19 2012-12-26 カシオ計算機株式会社 画像合成装置及びプログラム
JP4784678B2 (ja) * 2009-04-22 2011-10-05 カシオ計算機株式会社 撮像装置、撮像方法及びプログラム
JP4724242B2 (ja) * 2009-10-05 2011-07-13 株式会社東芝 電子機器および画像表示方法
JP5789091B2 (ja) 2010-08-20 2015-10-07 キヤノン株式会社 撮像装置および撮像装置の制御方法
TW201236448A (en) * 2011-02-24 2012-09-01 Hon Hai Prec Ind Co Ltd Auto-focusing camera and method for automatically focusing of the camera
US8830378B2 (en) * 2011-03-29 2014-09-09 Olympus Corporation Image capturing system and image capturing method, involving image restoration processing
US10377926B2 (en) 2012-10-10 2019-08-13 Samsung Sdi Co., Ltd. Adhesive film, adhesive composition for the same, and display member including the same
US9894269B2 (en) * 2012-10-31 2018-02-13 Atheer, Inc. Method and apparatus for background subtraction using focus differences
US9338345B2 (en) * 2014-06-13 2016-05-10 Intel Corporation Reliability measurements for phase based autofocus
US9804392B2 (en) 2014-11-20 2017-10-31 Atheer, Inc. Method and apparatus for delivering and controlling multi-feed data
CN105550631B (zh) * 2015-08-25 2019-03-22 宇龙计算机通信科技(深圳)有限公司 一种虹膜图像采集方法及装置
CN105611142B (zh) * 2015-09-11 2018-03-27 广东欧珀移动通信有限公司 一种拍照方法及装置
CN105423998A (zh) * 2015-11-07 2016-03-23 陕西科技大学 一种透镜测距装置及其测量方法
KR20180068578A (ko) * 2016-12-14 2018-06-22 삼성전자주식회사 복수의 센서를 이용하여 객체를 인식하는 전자 기기 및 방법
US10070042B2 (en) 2016-12-19 2018-09-04 Intel Corporation Method and system of self-calibration for phase detection autofocus
US20210263136A1 (en) 2018-07-09 2021-08-26 Lg Innotek Co., Ltd. Method and device for outputting light
CN112136312A (zh) * 2019-10-21 2020-12-25 深圳市大疆创新科技有限公司 一种获取目标距离的方法、控制装置及移动平台
US11580657B2 (en) 2020-03-30 2023-02-14 Snap Inc. Depth estimation using biometric data
CN111879235A (zh) * 2020-06-22 2020-11-03 杭州思看科技有限公司 弯管的三维扫描检测方法、三维扫描系统和计算机设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003075717A (ja) * 2001-09-06 2003-03-12 Nikon Corp 距離検出装置
JP2004185555A (ja) * 2002-12-06 2004-07-02 Fuji Photo Film Co Ltd 顔領域抽出方法及び装置
JP2006025238A (ja) * 2004-07-08 2006-01-26 Fuji Photo Film Co Ltd 撮像装置
JP2006201282A (ja) * 2005-01-18 2006-08-03 Nikon Corp デジタルカメラ

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6922494B1 (en) * 1999-09-24 2005-07-26 Eye Web, Inc. Automated image scaling
JP3849517B2 (ja) * 2001-12-14 2006-11-22 ソニー株式会社 写真ブース、画像処理方法、記録媒体、並びにプログラム
US7733412B2 (en) * 2004-06-03 2010-06-08 Canon Kabushiki Kaisha Image pickup apparatus and image pickup method
JP2006145629A (ja) 2004-11-16 2006-06-08 Fuji Photo Film Co Ltd 撮像装置
JP4644883B2 (ja) * 2006-02-27 2011-03-09 富士フイルム株式会社 撮像装置
JP4444927B2 (ja) * 2006-03-30 2010-03-31 富士フイルム株式会社 測距装置及び方法
JP2008042616A (ja) * 2006-08-08 2008-02-21 Eastman Kodak Co 撮像装置
JP2008052123A (ja) * 2006-08-25 2008-03-06 Eastman Kodak Co 撮像装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003075717A (ja) * 2001-09-06 2003-03-12 Nikon Corp 距離検出装置
JP2004185555A (ja) * 2002-12-06 2004-07-02 Fuji Photo Film Co Ltd 顔領域抽出方法及び装置
JP2006025238A (ja) * 2004-07-08 2006-01-26 Fuji Photo Film Co Ltd 撮像装置
JP2006201282A (ja) * 2005-01-18 2006-08-03 Nikon Corp デジタルカメラ

Also Published As

Publication number Publication date
CN101210995B (zh) 2011-10-05
US20080158409A1 (en) 2008-07-03
CN101210995A (zh) 2008-07-02
JP2008167295A (ja) 2008-07-17
KR20080063013A (ko) 2008-07-03
KR101278241B1 (ko) 2013-06-24
US7844175B2 (en) 2010-11-30

Similar Documents

Publication Publication Date Title
JP4571617B2 (ja) 撮像装置及び撮像方法
JP4702441B2 (ja) 撮像装置及び撮像方法
JP4420909B2 (ja) 撮像装置
JP5206494B2 (ja) 撮像装置、画像表示装置と、撮像方法及び画像表示方法並びに合焦領域枠の位置補正方法
JP4674471B2 (ja) デジタルカメラ
US9489747B2 (en) Image processing apparatus for performing object recognition focusing on object motion, and image processing method therefor
JP5609270B2 (ja) 撮像装置、撮像システム、撮像装置の制御方法およびプログラム
JP5623915B2 (ja) 撮像装置
KR20110056099A (ko) 디지털 촬영장치, 그 제어방법 및 이를 실행시키기 위한 프로그램을 저장한 기록매체
JP2007178543A (ja) 撮像装置
JP4635739B2 (ja) 撮像装置
EP1860871A1 (en) Image pickup apparatus and image pickup control method
JP5045538B2 (ja) 撮像装置、及び、プログラム
JP2009069740A (ja) 撮像装置
US20080316351A1 (en) Photographing apparatus and photographing method
JP2010060810A (ja) 撮像装置及び撮像方法
JP4681899B2 (ja) 撮像装置及び撮像方法
JP5030883B2 (ja) ディジタル・スチル・カメラおよびその制御方法
JP5772849B2 (ja) 撮像装置
KR20110104748A (ko) 디지털 촬영장치 및 그 제어방법
JP4779383B2 (ja) デジタルカメラ
JP2010130590A (ja) 撮像装置及び撮像方法
JP2004191892A (ja) 撮像装置
KR101654671B1 (ko) 촬상 장치 및 촬상 방법
JP2013172313A (ja) 情報処理装置及び情報処理プログラム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20090811

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091209

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100708

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100727

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100812

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130820

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4571617

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130820

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130820

Year of fee payment: 3

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130820

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130820

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees