JP4329694B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP4329694B2
JP4329694B2 JP2005002726A JP2005002726A JP4329694B2 JP 4329694 B2 JP4329694 B2 JP 4329694B2 JP 2005002726 A JP2005002726 A JP 2005002726A JP 2005002726 A JP2005002726 A JP 2005002726A JP 4329694 B2 JP4329694 B2 JP 4329694B2
Authority
JP
Japan
Prior art keywords
unit
information
distance information
distance
reliability
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005002726A
Other languages
English (en)
Other versions
JP2006191467A (ja
Inventor
宏 竹内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2005002726A priority Critical patent/JP4329694B2/ja
Publication of JP2006191467A publication Critical patent/JP2006191467A/ja
Application granted granted Critical
Publication of JP4329694B2 publication Critical patent/JP4329694B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Studio Devices (AREA)

Description

本発明は、被写界を撮像して画像を生成する撮像装置に関する。
従来より、撮像装置において、被写体像の画像を分割し、分割した領域ごとに被写体までの距離情報などを検出して付加し、この情報を用いて画像に画像処理を施す技術が考えられている(例えば、特許文献1参照)。特許文献1の発明では、距離に応じて画像にぼかし処理を施している。
特開2000−259823号公報
しかし、上述した発明では、距離情報などを検出する際に、撮影レンズの焦点距離が長い場合は比較的精度良く検出可能であるのに対し、撮影レンズの焦点距離が短い場合は精度良く検出することができないという問題がある。そのため、一眼レフカメラのようにレンズ交換可能な撮像装置や、ズームレンズを備えたカメラの場合、撮影レンズの焦点距離が短い場合には適切な制御を行うことができない場合がある。
本発明は、撮影レンズの焦点距離に応じた距離情報の精度の変化を考慮して、被写体の状況を適切に解析することができる撮像装置を提供することを目的とする。
請求項1に記載の撮像装置は、撮影レンズと、前記撮影レンズの焦点距離を検出する焦点距離検出部と、被写界の複数点における被写体までの距離情報を検出する距離情報検出部と、前記被写界の情報を取得する取得部と、前記撮影レンズを介して前記被写界を撮像し、画像を生成する撮像部と、前記取得部により取得した前記被写界の情報に基づいて、前記取得部により取得した前記被写界の情報または前記撮像部により生成された前記画像を複数の領域にグループ化するグループ化部と、前記焦点距離に応じて前記距離情報の信頼度を決定し、前記距離情報検出部により検出された前記距離情報と、前記信頼度を示す情報とを、前記グループ化部によりグループ化された前記領域ごとに付加する情報付加部と、前記グループ化部によるグループ化の結果と、前記情報付加部により付加された前記距離情報および前記信頼度を示す情報とに基づいて、前記取得部により取得した前記被写界の情報または前記撮像部により生成された前記画像における被写体の状況を解析する解析部とを備えたことを特徴とする。
請求項2に記載の撮像装置は、撮影レンズと、前記撮影レンズの焦点距離を検出する焦点距離検出部と、被写界の複数点における被写体までの距離情報を検出する距離情報検出部と、前記撮影レンズを介して前記被写界を撮像し、画像を生成する撮像部と、前記撮像部により生成された前記画像に基づいて、その画像を複数の領域にグループ化するグループ化部と、前記焦点距離に応じて前記距離情報の信頼度を決定し、前記距離情報検出部により検出された前記距離情報と、前記信頼度を示す情報とを、前記グループ化部によりグループ化された前記領域ごとに付加する情報付加部と、前記グループ化部によるグループ化の結果と、前記情報付加部により付加された前記距離情報および前記信頼度を示す情報とに基づいて、前記取得部により取得した前記被写界の情報または前記撮像部により生成された前記画像における被写体の状況を解析する解析部とを備えたことを特徴とする。
請求項3に記載の撮像装置は、請求項1または請求項2に記載の撮像装置において、前記撮影レンズは繰出し可能なレンズであり、前記撮影レンズのレンズ繰出し量を検出する繰出し量検出部と、前記被写界の複数点における焦点調節状態を示す焦点検出値を検出する焦点検出部とを備え、前記距離情報検出部は、前記被写界の複数点における前記焦点検出値と、前記繰出し量検出部により検出された前記レンズ繰出し量とに基づいて、前記距離情報を検出することを特徴とする。
請求項4に記載の撮像装置は、請求項3に記載の撮像装置において、前記解析部は、前記グループ化の結果と、前記距離情報と、前記信頼度を示す情報とに加えて、前記焦点検出値に基づいて、前記取得部により取得した前記被写界の情報または前記撮像部により生成された前記画像における被写体の状況を解析することを特徴とする。
請求項5に記載の撮像装置は、請求項1または請求項2に記載の撮像装置において、前記撮影レンズは繰出し可能なレンズであり、前記撮影レンズのレンズ繰出し量を検出する繰出し量検出部と、前記被写界の複数点において、前記取得部により取得された前記被写界の情報または前記撮像部により生成された前記画像のコントラストに基づいて、焦点調節を行う焦点調節部とを備え、前記距離情報検出部は、前記焦点調節部による焦点調節によって合焦状態になった際に前記繰出し量検出部により検出された前記レンズ繰出し量に基づいて、前記距離情報を検出することを特徴とする。
請求項6に記載の撮像装置は、請求項3または請求項5に記載の撮像装置において、前記繰出し量検出部により検出された前記レンズ繰出し量ごとの誤差を検出する誤差検出部をさらに備え、前記情報付加部は、前記誤差検出部により検出された誤差が大きいほど、前記信頼度を小さくすることを特徴とする。
請求項7に記載の撮像装置は、請求項1または請求項2に記載の撮像装置において、前記情報付加部は、前記焦点距離検出部により検出された前記焦点距離が長いほど、前記信頼度を大きくし、前記焦点距離が短いほど、前記信頼度を小さくすることを特徴とする。
請求項8に記載の撮像装置は、請求項1または請求項2に記載の撮像装置において、前記情報付加部は、前記距離情報検出部により検出された前記距離情報が示す距離が短いほど、前記信頼度を大きくし、前記距離情報が示す距離が長いほど、前記信頼度を小さくすることを特徴とする。
請求項9に記載の撮像装置は、請求項1または請求項2に記載の撮像装置において、前記情報付加部は、前記グループ化部によりグループ化された前記領域のうち、前記距離情報検出部により前記距離情報を検出する点を含まない領域については、所定の距離情報を付加するとともに、前記信頼度を、前記焦点距離に応じて決定する信頼度よりも小さくすることを特徴とする。
請求項10に記載の撮像装置は、請求項1または請求項2に記載の撮像装置において、前記情報付加部は、前記グループ化部によりグループ化された前記領域のうち、前記距離情報検出部による前記距離情報の検出が不可能である領域については、所定の距離情報付加するとともに、前記信頼度を、前記焦点距離に応じて決定する信頼度よりも小さくすることを特徴とする。
本発明によれば、撮影レンズの焦点距離に応じた距離情報の精度の変化を考慮して、被写体の状況を適切に解析することができる撮像装置を提供することができる。
以下、図面を用いて本発明の実施形態について説明する。以下の各実施形態では、本発明の撮像装置の一例として、デジタルカメラを用いて説明を行う。なお、本発明の技術を銀塩カメラや動画撮影機能を備えたカメラに適用するようにしても良い。
《第1実施形態》
図1は、第1実施形態のカメラ100の機能ブロック図である。カメラ100は一眼レフデジタルカメラである。図1に示すように、カメラ100は、レンズ部分と本体部分とからなり、レンズ部分は、繰出し可能な撮影レンズ1、絞り2、撮影レンズ1を駆動するレンズ駆動部3、撮影レンズ1の焦点距離を検出する距離検出部4、絞り2を制御する絞り制御部5、レンズ部分の各部を制御するレンズ側マイコン6を備える。また、カメラ100は、レンズ部分と本体部分とを電気的に接続する電気接点7を備える。
レンズ駆動部3は、焦点調節のために撮影レンズ1を繰出し、距離検出部4は、撮影レンズ1のレンズ繰出し量を検出し、撮影レンズ1が像を結ぶ距離を検出する。以上説明した各機能は、レンズ側マイコン6によって制御される。
また、カメラ部分は、撮影レンズ1からの光束を分岐するためのクイックリターンミラー11、焦点板12、ペンタプリズム13を備えるとともに、ペンタプリズム13からの光束を分岐するためのハーフミラー14を備える。さらに、ハーフミラー14からの光束を構図確認に用いるための接眼レンズ15、後述する被写体の情報の取得するための再結像レンズ16、撮像素子17を備える。
また、カメラ部分は、画像を撮像するための撮像素子18、シャッタ19を備えるとともに、焦点検出に用いる光束を導くサブミラー20を備える。また、各部の制御に関わるボディ側マイコン21、焦点検出部22、シャッタ19を制御するシャッタ制御部23、ROM24、RAM25を備えるとともに、画像を記録するための外部記憶装置26を備える。また、撮像素子17により取得した情報をA/D変換するA/D変換器27、撮像素子17を駆動する撮像素子駆動部28を備えるとともに、撮像素子18により得られた画像に画像処理を施すための画像処理部29、撮像素子18により取得した情報をA/D変換するA/D変換器30、撮像素子18を駆動する撮像素子駆動部31を備える。
被写体からの光束は撮影レンズ1および絞り2を通過して、クイックリターンミラー11に導かれる。撮影時にはクイックリターンミラー11が跳ね上がるとともに、シャッタ19が開放され、被写体からの光束は撮影レンズ1により撮像素子18の撮像面上に結像される。そして、撮像素子18からの画像信号はA/D変換器30によってデジタル信号化され、画像処理部29によって画像処理が施された後に、RAM25に記憶される。
撮影時以外、すなわち構図確認中などには、クイックリターンミラー11は下がり、被写体からの光束の一部は、クイックリターンミラー11により反射され、焦点板12上に結像する。この像はペンタプリズム13を介してハーフミラー14に導かれ、ハーフミラー14を透過した光束は接眼レンズ15に到達する。ユーザは、接眼レンズ15を介してこの像を観察することにより、構図を確認することができる。一方、ハーフミラー14により反射された光束は、再結像レンズ16を介して撮像素子17上に結像する。
撮像素子17は、画像撮像用の撮像素子18とは別に設けられ、被写体の画像を生成することが可能なCCDエリアセンサやCMOSエリアセンサである。なお、撮像素子17は、1万画素から数十万画素程度の画素数を持つカラーイメージセンサである。この撮像素子17は、クイックリターンミラー11が下がり、シャッタ19が閉じていて撮像素子18による撮像が行われていない状態でも、被写体の画像を生成することができる。さらに、撮像素子17は、露出制御用センサ、ホワイトバランス制御用センサなどの測光/測色センサおよび後述する被写体解析用センサを兼ねる。被写体解析用センサとして人物など被写体を識別するためには、従来からある千画素程度の露出制御用センサでは画素数が不足しており、上記画素数が必要である。
撮像素子17からの画像信号はA/D変換器27によってデジタル信号化され、RAM25に記憶される。なお、撮像素子17により生成される画像の測光値および測色値は、請求項の「被写界の情報」に対応する。
ところで、撮影時以外、すなわち構図確認中などに、下がった状態のクイックリターンミラー11を透過した、被写体からの光束の一部は、サブミラー20によって焦点検出部22に導かれる。焦点検出部22は、撮影レンズ1を通過する光束を用いて、視差を有する被写体の2像を1対のイメージセンサアレー上に導き、イメージセンサアレーの画像出力から像の相対的ずれ量を算出して合焦状態を判別する、いわゆる位相差方式の焦点検出を行う。焦点検出部22は、焦点検出値として、被写体像がカメラ100の像面からどの程度ずれているかを示すデフォーカス量を、被写界の複数の測距点(請求項の「被写界の複数点」に対応する。)において検出する。図2Aに複数の測距点T1〜T11を示す。
ここまで説明した各部は、基本的に、ボディ側マイコン21によって制御される。ボディ側マイコン21の各制御プログラムは、ROM24に記憶されている。また撮像素子18により生成されて、RAM25に記憶された画像は、メモリカードなどの外部記憶装置26などにファイルとして出力され、ユーザの利用に供される。また、ボディ側マイコン21は、電気接点7を介して、レンズ側マイコン6と相互に接続される。そして、ボディ側マイコン21は、電気接点7を介して、レンズ側マイコン6を制御する。
なお、撮影レンズ1およびレンズ駆動部3は、請求項の「撮影レンズ」に対応し、距離検出部4、レンズ側マイコン6は、請求項の「焦点距離検出部」および「繰出し量検出部」に対応する。また、ボディ側マイコン21は、請求項の「距離情報検出部」、「グループ化部」、「情報付加部」、「解析部」および「誤差検出部」に対応し、撮像素子17、ボディ側マイコン21、A/D変換器27、撮像素子駆動部28は、請求項の「取得部」に対応する。また、絞り2、絞り制御部5、レンズ側マイコン6、撮像素子18、シャッタ19、ボディ側マイコン21、シャッタ制御部23、画像処理部29、A/D変換器30、撮像素子駆動部31は、請求項の「撮像部」に対応し、ボディ側マイコン21、焦点検出部22は、請求項の「焦点検出部」に対応する。なお、この対応付けは一例である。
以上説明した構成のカメラ100の動作について、図3に示すフローチャートを用いて説明する。
ステップS1において、ボディ側マイコン21は、ユーザにより不図示のレリーズボタンが半押しされたか否かを判定する。
ボディ側マイコン21は、不図示のレリーズボタンが半押しされるまで待機し、半押しされると、ステップS2において、焦点検出部22を介して焦点検出を行う。具体的には、前述した位相差方式の焦点検出を行い、図2に示した複数の測距点T1〜T11においてデフォーカス量を検出する。
ステップS3において、ボディ側マイコン21は、オートフォーカス演算を行う。具体的には、ステップS1において検出したデフォーカス量を基に、撮影レンズ1をどれだけ駆動すれば合焦するかを演算する。
ステップS4において、ボディ側マイコン21は、レンズ側マイコン6を介してレンズ駆動部3を制御し、ステップS3の演算結果にしたがって焦点調節を行う。
ステップS5において、ボディ側マイコン21は、焦点距離を検出する。すなわち、ボディ側マイコン21は、距離検出部4を介して、ステップS4における撮影レンズ1の繰出し量を検出して、その時点で撮影レンズ1が像を結ぶ距離を算出する。なお、レンズのなかには、一部のレンズ群を移動させて焦点調節を行うものもあり、この場合には、移動するレンズ群の移動量を検出して像を結ぶ距離を算出する。本明細書中では、この移動量も繰出し量と呼ぶこととする。
ボディ側マイコン21は、繰出し量と焦点距離との関係を予めテーブルとして記憶しておき、テーブル参照によって焦点距離を検出するようにすれば良い。なお、繰出し量は、撮影レンズ1の距離環にエンコーダなどを設けて検出する。
なお、ステップS5の時点では、焦点の合っている被写体までの距離が求められるだけで、背景など他の距離にある被写体までの距離は求められていない。
ステップS6において、ボディ側マイコン21は、各測距点における被写体距離を検出する。ボディ側マイコン21は、以下の手順で被写体距離を検出する。すなわち、撮影レンズ1の焦点距離をf、ステップS5において距離検出部4の出力に基づいて検出した焦点距離をL、求めたい測距点での被写体距離をX、求めたい測距点において、ステップS2で検出したデフォーカス量をD、撮影レンズ1のレンズ像空間主点から撮像面までの距離をKとおくと、薄肉レンズの結像式から以下の式が成り立つ。
Figure 0004329694
この(式1)からKを消去して、距離Xを求める。
Figure 0004329694
以上の演算を行うことにより各測距点における被写体距離を検出することができる。なお、この被写体距離Xは、請求項の「被写体までの距離情報」に対応する。
ステップS7において、ボディ側マイコン21は、撮像素子駆動部28および撮像素子17を介して、被写界の情報を取得する。すなわち、撮像素子17により画像を生成し、A/D変換器30によってA/D変換をした後、RAM25に記録する。
ステップS8において、ボディ側マイコン21は、ステップS7で取得した被写界の情報に対してグループ化を行う。すなわち、ステップS7生成した画像に基づいて、この画像を複数の領域にグループ化する。具体的には、画像から、色情報や輝度情報を抽出し、似た色の被写体のある領域、あるいは近い輝度の被写体の存在する領域をグループ化する。これにより画像内において、異なる被写体と推定される部分ごとに概ねグループ化することができる。図2Bにグループ化の例を示す。図2Bでは、背景上部分のグループA1、人物の顔部分のグループA2、背景左下部分のグループA3、人物の体部分のグループA4、背景右下部分のグループA5にグループ化された例を示す。
ステップS9において、ボディ側マイコン21は、情報を付加する。ボディ側マイコン21は、まず、ステップS8でグループ化した領域ごとに、付加情報として、その領域に存在する測距点(例えば、図2BのグループA4であれば、測距点T10)においてステップS6で求めた被写体距離を付加する。
そして、付加した情報がどの程度信頼できるかを示す信頼度を示す情報を付加する。このとき撮影レンズ1の焦点距離が長いほど信頼度を大きくし、撮影レンズ1の焦点距離が短いほど信頼度を小さくする。これは、撮影レンズ1の焦点距離が短い場合には、被写界深度が深くなって、位相差方式による焦点検出が難しく精度が低くなり、また、逆に撮影レンズ1の焦点距離が長い場合には、焦点検出の精度が高くなることを考慮するためである。
また、ステップS6で検出した被写体距離が短いほど信頼度を大きくし、ステップS6で検出した被写体距離が短いほど信頼度を小さくする。これは、同じ焦点距離であれば被写体距離が長い場合よりも短い場合のほうが、焦点検出が容易なため、被写体距離の検出の精度が高くなることを考慮するためである。
このように焦点距離および被写体距離を考慮して、精度良く被写体距離を検出できる条件では、信頼度を大きくし、被写体距離を検出できる精度が低くなる条件では、信頼度を小さくして、グループ化した領域ごとに情報を付加する。
また、もしある測距点において、被写体にコントラストが無い(例えば、空の部分など)などの原因で、焦点検出が不可能な場合、被写体距離の検出も不可能である。グループ化した領域のうち、このような測距点が存在する領域については、同じ領域に他の測距点が存在すれば、その情報を用いる。また、グループ化した領域に存在する測距点の全てにおいて焦点検出が不可能な場合は、予め決められた値を被写体距離として代入し、信頼度を、前述した手順で求められる信頼度よりも小さくする。
また、グループ化した領域に測距点が存在しない場合は、予め決められた値を被写体距離として代入し、信頼度を、前述した手順で求められる信頼度よりも小さくする。
また、前述した距離検出部4に付随して、検出された繰出し量がどの程度の誤差を含んでいるかをテーブルとして記憶しておき、この誤差が大きいほど、前述した信頼度を小さくするようにしても良い。このように誤差を加味することにより、エンコーダ誤差や被写界深度の変化に伴う誤差など、撮影レンズ1に固有の誤差を加味して信頼度を決めることができる。
ステップS10において、ボディ側マイコン21は、ステップS8におけるグループ化の結果と、ステップS9において付加された情報とに基づいて、被写体の状況を解析する。まず、ボディ側マイコン21は、ステップS5で検出した焦点距離に基づいて、グループ化した領域のうち、主要被写体が含まれる領域を推定する。そして、その領域に隣接しており、かつ、被写体距離が近い領域も主要被写体の一部と認識して、グループ化した領域を主要被写体を含む部分と含まない部分とに分ける。
例えば、ステップS8のグループ化の結果、人物の顔部分のグループA2と人物の体部分のグループA4は別のグループにグループ化されたが、被写体距離を用いて解析を行うことにより、人物の顔部分のグループA2も人物の体部分のグループA4も主要被写体であると認識することができる。
また、被写体距離に基づいて解析を行うことで、グループ化した領域のうち、他の領域より被写体距離が短い領域を前景として認識し、他の領域より被写体距離が長い領域を背景として認識することができる。
なお、これらの解析をするときに、付加された信頼度が大きい場合には、解析結果を重視する制御を行い、付加された信頼度が小さい場合には、解析結果に依存しない制御の比重を高くするようにする。
ステップS11において、ボディ側マイコン21は、解析の結果を各部に出力する。すなわち、ボディ側マイコン21は、後述する撮影時のオートフォーカス演算、露出演算、ホワイトバランス制御、階調制御などの動作を行う各部に出力する。
ステップS12において、ボディ側マイコン21は、露出演算を行って絞りとシャッタ速度とを決定する。なお、露出演算に用いる測光値はステップS7で取得した被写界の情報(画像)を用いて演算する。この際、ステップS10における解析の結果に基づいて、被写体の状況に応じた最適な制御を行う。ステップS10における解析の結果、主要被写体の領域を推定可能であるので、この領域に対して、特に良好な露出を与えるような露出制御値を計算する。また背景の領域を推定可能であるので、この領域に対して、背景に向いた露出制御値を計算する。
ステップS13において、ボディ側マイコン21は、ユーザにより不図示のレリーズボタンが全押しされたか否かを判定する。
ボディ側マイコン21は、不図示のレリーズボタンが全押しされない場合には、ステップS2に戻り、ステップS2からステップS12までの動作を繰り返し行う。なお、2回目以降については、それまでに得られた情報も用いて各演算を行う。このようにして変化する被写体状況に追従して、適切な制御を行う。ただし、ステップS2からステップS12の順番は厳密なものでなく、必要な情報が得られていれば順番の一部が前後しても良い。
一方、不図示のレリーズボタンが全押しされると、ステップS14において、ボディ側マイコン21は、各部を介して撮像を行う。すなわち、ボディ側マイコン21は、クイックリターンミラー11を跳ね上げるとともに、レンズ側マイコン6および絞り制御部5を介して絞り2を絞り込み、さらに、シャッタ制御部23を介してシャッタ19を開放し、撮像素子駆動部31を介して撮像素子18による撮像を行う。そして、撮像素子18により生成した画像を、A/D変換器30によりデジタル化して、RAM25に記録するとともに、シャッタ制御部23を介してシャッタ19を閉じる。なお、シャッタ19は、機械的なシャッタでも良いし、電子シャッタでも良い。そして、ボディ側マイコン21は、クイックリターンミラー11を下げる。
ステップS15において、ボディ側マイコン21は、画像処理部29を介して、画像処理を行う。このとき、ステップS11において、画像処理部29に出力された解析結果に基づいて画像処理を行う。したがって、被写体の状況に応じた最適な画像処理を行うことができる。例えば、ステップS10における解析の結果、主要被写体の領域を推定可能であるので、この領域が良好に再現されるようホワイトバランスゲイン、階調カーブを採用することができる。また背景の領域を推定可能であるので、この領域に対して、背景として好ましいホワイトバランス、階調カーブを採用することができる。
ステップS16において、ボディ側マイコン21は、画像を圧縮して外部記憶装置26に記録する。
以上説明したように、第1実施形態によれば、撮影レンズの焦点距離を検出するとともに、被写界の複数点における被写体までの距離情報を検出する。そして、被写界の情報を取得するとともに、撮影レンズを介して被写界を撮像し、画像を生成する。さらに、被写界の情報に基づいて、被写界の情報または撮像により生成した画像を複数の領域にグループ化するとともに、焦点距離に応じて距離情報の信頼度を決定して、グループ化した領域ごとに付加する。そして、グループ化の結果と、距離情報および信頼度を示す情報とに基づいて、被写界の情報または撮像により生成した画像における被写体の状況を解析する。したがって、撮影レンズの焦点距離に応じた距離情報の精度の変化を考慮して、被写体の状況を適切に解析することができる。そして、解析結果を各部の制御に反映させることにより、レンズ交換やズーミングによる焦点距離の変化に応じて、各部において最適な制御を行うことができ、良好な画像を生成することができる。
また、第1実施形態によれば、繰出し可能なレンズである撮影レンズのレンズ繰出し量を検出するとともに、被写界の複数点における焦点調節状態を示す焦点検出値を検出する。そして、被写界の複数点における焦点検出値と、レンズ繰出し量とに基づいて、距離情報を検出する。したがって、より精度良く距離情報を検出することができる。
また、第1実施形態によれば、グループ化の結果と、距離情報と、信頼度を示す情報とに加えて、焦点検出値に基づいて、被写界の情報または撮像により生成した画像における被写体の状況を解析する。したがって、被写体の状況をより適切に解析することができる。
また、第1実施形態によれば、レンズ繰出し量ごとの誤差を検出し、検出した誤差が大きいほど、信頼度を小さくする。したがって、撮影レンズに固有の誤差を加味して適切な解析を行うことができる。
また、第1実施形態によれば、検出した焦点距離が長いほど、信頼度を大きくし、検出した焦点距離が短いほど、信頼度を小さくするとともに、検出した距離情報が示す距離が短いほど、信頼度を大きくし、距離情報が示す距離が長いほど、信頼度を小さくする。したがって、撮影レンズの焦点距離に応じた距離情報の精度の変化を考慮して、被写体の状況を適切に解析することができる。
また、第1実施形態によれば、グループ化した領域のうち、距離情報を検出する点を含まない領域については、所定の距離情報を付加するとともに、信頼度を、焦点距離に応じて決定する信頼度よりも小さくする。したがって、グループ化により距離情報を検出する点を含まない領域が存在する場合でも、被写体の状況を適切に解析することができる。
また、第1実施形態によれば、グループ化した領域のうち、距離情報の検出が不可能である領域については、所定の距離情報付加するとともに、信頼度を、焦点距離に応じて決定する信頼度よりも小さくする。したがって、グループ化により距離情報の検出が不可能である領域が存在する場合でも、被写体の状況を適切に解析することができる。
《第2実施形態》
以下、図面を用いて本発明の第2実施形態について説明する。第2実施形態のカメラ200はコンパクトタイプのデジタルカメラである。図4に示すように、カメラ200は、第1実施形態のカメラ100と同様の構成を備える。したがって、以下では、第1実施形態と同様の部分については、第1実施形態と同様の符号を用いて説明を行う。
第2実施形態のカメラ200は、図4に示すように、第1実施形態と同様の繰出し可能な撮影レンズ1、絞り2、撮影レンズ1を駆動するレンズ駆動部3、撮影レンズ1の焦点距離を検出する距離検出部4、絞り2を制御する絞り制御部5を備える。また、第1実施形態と同様に、画像を撮像するための撮像素子18、撮像素子18により得られた画像に画像処理を施すための画像処理部29、撮像素子18により取得した情報をA/D変換するA/D変換器30、撮像素子18を駆動する撮像素子駆動部31を備える。また、第1実施形態と同様に、ROM24、RAM25、外部記憶装置26を備えるとともに、各部を制御するマイコン50を備える。
カメラ200は、第1実施形態のカメラ100と異なり、露出制御用センサ、ホワイトバランス制御用センサおよび後述する被写体解析用センサを兼ねるセンサ(第1実施形態の撮像素子17)を備えないので、露出制御やオートフォーカス、および被写体解析用の情報を、撮像素子18により生成される画像に基づいて得る構成である。
また、カメラ200は、撮影レンズ1の繰出し量を変化させながら、撮像素子18により画像を生成し、その画像のコントラストを、被写界のなかの複数点において評価する、いわゆる山登り方式の焦点検出を行う。
被写体からの光束は撮影レンズ1および絞り2を通過して、撮像素子18上に結像する。そして、撮像素子18からの画像信号はA/D変換器30によってデジタル信号化され、画像処理部29によって画像処理が施された後に、RAM25に記憶される。そして、RAM25に記憶された画像は、メモリカードなどの外部記憶装置26などにファイルとして出力され、ユーザの利用に供される。
ここまで説明した各部は、マイコン50によって制御される。マイコン50の各制御プログラムは、ROM24に記憶されている。
なお、撮影レンズ1およびレンズ駆動部3は、請求項の「撮影レンズ」に対応し、距離検出部4、マイコン50は、請求項の「焦点距離検出部」および「繰出し量検出部」に対応する。また、マイコン50は、請求項の「距離情報検出部」、「グループ化部」、「情報付加部」、「解析部」および「焦点調節部」に対応し、絞り2、絞り制御部5、撮像素子18、画像処理部29、A/D変換器30、撮像素子駆動部31、マイコン50は、請求項の「撮像部」に対応する。なお、この対応付けは一例である。
以上説明した構成のカメラ200の動作について、図5に示すフローチャートを用いて説明する。
ステップS21において、マイコン50は、ユーザにより不図示のレリーズボタンが半押しされたか否かを判定する。
マイコン50は、不図示のレリーズボタンが半押しされるまで待機し、半押しされると、ステップS22において、撮像素子18を介して、予備撮像を開始する。すなわち、撮像素子18は、垂直方向に画素を間引いた画像を所定の速度(例えば30フレーム/1秒)で連続して出力する。出力された画像は、A/D変換器30でデジタル化されRAM25に記録される。なお、この予備撮像により生成された画像は、後述するオートフォーカス演算、露出制御、画像処理などの制御に用いられる。また、この画像を、不図示の表示部にスルー画として表示するようにしても良い。
ステップS23において、マイコン50は、予備撮像により生成された画像のコントラスト評価値を算出する。すなわち、画像内の測距点に対応する部分のコントラスト評価値を算出する。
ステップS24において、マイコン50は、ステップS23で算出したコントラスト評価値を、それ以前に算出したコントラスト評価値と比較する。
ステップS25において、マイコン50は、合焦状態であるか否かを判定する。コントラスト評価値が最大になる状態が合焦状態であり、マイコン50は、ステップS24における比較結果に基づいて、合焦状態であるか否かの判定と行う。
合焦状態でない場合、ステップS26において、マイコン50は、レンズ駆動部3を制御し、ステップS24における比較結果にしたがって焦点調節を行う。そして、ステップS23に戻り、最新の予備撮像により生成された画像におけるコントラスト評価値の算出を行う。以上説明したステップS23からステップS26の動作を繰り返して、合焦状態に至るまで焦点調節を行う。
そして、合焦状態であると判定されると、ステップS27において、マイコン50は、焦点距離を検出する。すなわち、マイコン50は、距離検出部4を介して、合焦状態における撮影レンズ1の繰出し量を検出して、その時点で撮影レンズ1が像を結ぶ距離(焦点距離)を算出する。なお、繰出し量と焦点距離との関係を予めテーブルとして記憶しておき、テーブル参照によって焦点距離を検出するようにすれば良い。なお、繰出し量は、レンズ駆動部3として例えばステッピングモータを用いた場合は、マイコン50からレンズ駆動部3に送った信号パルス数などから求めるようにすれば良い。
ステップS28において、マイコン50は、各測距点における被写体距離を検出する。マイコン50は、各測距点において、ステップS23で求めたコントラスト評価値が最大になる状態であるときの焦点距離をステップS27と同様に求め、被写体距離とする。
ステップS29において、マイコン50は、最新の予備撮像により生成された画像に対してグループ化を行う。すなわち、最新の予備撮像により生成された画像に基づいて、この画像を第1実施形態のステップS8と同様に、複数の領域にグループ化する。
ステップS30において、マイコン50は、情報を付加する。マイコン50は、まず、ステップS29でグループ化した領域ごとに、付加情報として、その領域に存在する測距点においてステップS28で求めた被写体距離を付加する。
そして、付加した情報がどの程度信頼できるかを示す信頼度を示す情報を付加する。このとき撮影レンズ1の焦点距離が長いほど信頼度を大きくし、撮影レンズ1の焦点距離が短いほど信頼度を小さくする。これは、撮影レンズ1の焦点距離が短い場合には、被写界深度が深くなって、山登り方式による焦点検出が難しく精度が低くなり、また、逆に撮影レンズ1の焦点距離が長い場合には、被写界深度が浅くなって、合焦状態でないときの画像のボケ量が大きいため、焦点検出の精度が高くなることを考慮するためである。
また、ステップS28で検出した被写体距離が短いほど信頼度を大きくし、ステップS28で検出した被写体距離が短いほど信頼度を小さくする。これは、被写体距離が長い場合よりも短い場合のほうが、合焦状態でないときの画像のボケ量が大きくなり、焦点検出が容易なため、被写体距離の検出の精度が高くなることを考慮するためである。
このように焦点距離および被写体距離を考慮して、精度良く被写体距離を検出できる条件では、信頼度を大きくし、被写体距離を検出できる精度が低くなる条件では、信頼度を小さくして、グループ化した領域ごとに情報を付加する。
ステップS31において、マイコン50は、ステップS29におけるグループ化の結果と、ステップS30において付加された情報とに基づいて、被写体の状況を解析する。まず、マイコン50は、ステップS27で検出した焦点距離に基づいて、グループ化した領域のうち、主要被写体が含まれる領域を推定する。そして、第1実施形態のステップS10と同様に、その領域に隣接しており、かつ、被写体距離が近い領域も主要被写体の一部と認識して、グループ化した領域を主要被写体を含む部分と含まない部分とに分ける。
また、被写体距離に基づいて解析を行うことで、グループ化した領域のうち、他の領域より被写体距離が短い領域を前景として認識し、他の領域より被写体距離が長い領域を背景として認識することができる。
なお、これらの解析をするときに、付加された信頼度が大きい場合には、解析結果を重視する制御を行い、付加された信頼度が小さい場合には、解析結果に依存しない制御の比重を高くするようにする。
ステップS32において、マイコン50は、解析の結果を各部に出力する。すなわち、マイコン50は、後述する撮影時のオートフォーカス演算、露出演算、ホワイトバランス制御、階調制御などの動作を行う各部に出力する。
ステップS33において、マイコン50は、ユーザにより不図示のレリーズボタンが全押しされたか否かを判定する。
マイコン50は、不図示のレリーズボタンが全押しされない場合には、ステップS23に戻り、ステップS23からステップS32までの動作を繰り返し行う。なお、2回目以降については、それまでに得られた情報も用いて各演算を行う。このようにして変化する被写体状況に追従して、適切な制御を行う。ただし、ステップS23からステップS32の順番は厳密なものでなく、必要な情報が得られていれば順番の一部が前後しても良い。
一方、不図示のレリーズボタンが全押しされると、ステップS34において、マイコン50は、各部を介して本撮像を行う。すなわち、マイコン50は、撮像素子駆動部31を介して撮像部18による撮像を行う。そして、撮像素子18により生成した画像を、A/D変換器30によりデジタル化して、RAM25に記録する。
このとき、マイコン50は、ステップS32において出力された解析結果に基づいて露出制御を行う。すなわち、ステップS31における解析の結果、主要被写体の領域を推定可能であるので、この領域に対して、特に良好な露出を与えるような露出制御を行う。また背景の領域を推定可能であるので、この領域に対して、背景に向いた露出制御を行う。また、マイコン50は、ステップS32において出力された解析結果に基づいて本撮影時のオートフォーカスを行う。すなわち、ステップS31における解析の結果、背景領域がどのように拡がっているかを考慮し、背景の部分をオートフォーカスに採用しないようにすることで、背景にオートフォーカスが引張られて主要被写体がピンぼけしてしまうことを防ぐようにする。
ステップS35において、マイコン50は、画像処理部29を介して、画像処理を行う。このとき、ステップS32において、画像処理部29に出力された解析結果に基づいて画像処理を行う。したがって、被写体の状況に応じた最適な画像処理を行うことができる。例えば、ステップS31における解析の結果、主要被写体の領域を推定可能であるので、この領域が良好に再現されるようホワイトバランスゲイン、階調カーブを採用することができる。また背景の領域を推定可能であるので、この領域に対して、背景として好ましいホワイトバランス、階調カーブを採用することができる。
ステップS36において、マイコン50は、画像を圧縮して外部記憶装置26に記録する。
以上説明したように、第2実施形態によれば、撮影レンズの焦点距離を検出するとともに、被写界の複数点における被写体までの距離情報を検出する。そして、撮影レンズを介して被写界を撮像し、画像を生成する。さらに、撮像により生成した画像に基づいて、その画像を複数の領域にグループ化するとともに、焦点距離に応じて距離情報の信頼度を決定し、グループ化した領域ごとに付加する。そして、グループ化の結果と、距離情報および信頼度を示す情報とに基づいて、撮像により生成した画像における被写体の状況を解析する。したがって、撮影レンズの焦点距離に応じた距離情報の精度の変化を考慮して、被写体の状況を適切に解析することができる。そして、解析結果を各部の制御に反映させることにより、レンズ交換やズーミングによる焦点距離の変化に応じた距離情報の精度の変化を考慮して、各部において最適な制御を行うことができ、良好な画像を生成することができる。
また、第2実施形態によれば、繰出し可能なレンズである撮影レンズのレンズ繰出し量を検出するとともに、被写界の複数点において、撮像により生成した画像のコントラストに基づいて、焦点調節を行う。そして、焦点調節によって合焦状態になった際に検出したレンズ繰出し量に基づいて、距離情報を検出する。したがって、より精度良く距離情報を検出することができる。
第1実施形態の電子カメラ100の構成を示すブロック図である。 測距点およびグループ化について説明する図である。 第1実施形態の電子カメラ100の動作を示すフローチャートである。 第2実施形態の電子カメラ200の構成を示すブロック図である。 第2実施形態の電子カメラ200の動作を示すフローチャートである。
符号の説明
1 撮影レンズ
2 絞り
3 レンズ駆動部
4 距離検出部
5 絞り制御部
6 レンズ側マイコン
7 電気接点
11 クイックリターンミラー
12 焦点板
13 ペンタプリズム
14 ハーフミラー
15 接眼レンズ
16 再結像レンズ
17,18 撮像素子
19 シャッタ
20 サブミラー
21 ボディ側マイコン
22 焦点検出部
23 シャッタ制御部
24 ROM
25 RAM
26 外部記憶装置
27,30 A/D変換器
28,31 撮像素子駆動部
29 画像処理部
50 マイコン
100,200 カメラ




Claims (10)

  1. 撮影レンズと、
    前記撮影レンズの焦点距離を検出する焦点距離検出部と、
    被写界の複数点における被写体までの距離情報を検出する距離情報検出部と、
    前記被写界の情報を取得する取得部と、
    前記撮影レンズを介して前記被写界を撮像し、画像を生成する撮像部と、
    前記取得部により取得した前記被写界の情報に基づいて、前記取得部により取得した前記被写界の情報または前記撮像部により生成された前記画像を複数の領域にグループ化するグループ化部と、
    前記焦点距離に応じて前記距離情報の信頼度を決定し、前記距離情報検出部により検出された前記距離情報と、前記信頼度を示す情報とを、前記グループ化部によりグループ化された前記領域ごとに付加する情報付加部と、
    前記グループ化部によるグループ化の結果と、前記情報付加部により付加された前記距離情報および前記信頼度を示す情報とに基づいて、前記取得部により取得した前記被写界の情報または前記撮像部により生成された前記画像における被写体の状況を解析する解析部と
    を備えたことを特徴とする撮像装置。
  2. 撮影レンズと、
    前記撮影レンズの焦点距離を検出する焦点距離検出部と、
    被写界の複数点における被写体までの距離情報を検出する距離情報検出部と、
    前記撮影レンズを介して前記被写界を撮像し、画像を生成する撮像部と、
    前記撮像部により生成された前記画像に基づいて、その画像を複数の領域にグループ化するグループ化部と、
    前記焦点距離に応じて前記距離情報の信頼度を決定し、前記距離情報検出部により検出された前記距離情報と、前記信頼度を示す情報とを、前記グループ化部によりグループ化された前記領域ごとに付加する情報付加部と、
    前記グループ化部によるグループ化の結果と、前記情報付加部により付加された前記距離情報および前記信頼度を示す情報とに基づいて、前記取得部により取得した前記被写界の情報または前記撮像部により生成された前記画像における被写体の状況を解析する解析部と
    を備えたことを特徴とする撮像装置。
  3. 請求項1または請求項2に記載の撮像装置において、
    前記撮影レンズは繰出し可能なレンズであり、
    前記撮影レンズのレンズ繰出し量を検出する繰出し量検出部と、
    前記被写界の複数点における焦点調節状態を示す焦点検出値を検出する焦点検出部とを備え、
    前記距離情報検出部は、前記被写界の複数点における前記焦点検出値と、前記繰出し量検出部により検出された前記レンズ繰出し量とに基づいて、前記距離情報を検出する
    ことを特徴とする撮像装置。
  4. 請求項3に記載の撮像装置において、
    前記解析部は、前記グループ化の結果と、前記距離情報と、前記信頼度を示す情報とに加えて、前記焦点検出値に基づいて、前記取得部により取得した前記被写界の情報または前記撮像部により生成された前記画像における被写体の状況を解析する
    ことを特徴とする撮像装置。
  5. 請求項1または請求項2に記載の撮像装置において、
    前記撮影レンズは繰出し可能なレンズであり、
    前記撮影レンズのレンズ繰出し量を検出する繰出し量検出部と、
    前記被写界の複数点において、前記取得部により取得された前記被写界の情報または前記撮像部により生成された前記画像のコントラストに基づいて、焦点調節を行う焦点調節部とを備え、
    前記距離情報検出部は、前記焦点調節部による焦点調節によって合焦状態になった際に前記繰出し量検出部により検出された前記レンズ繰出し量に基づいて、前記距離情報を検出する
    ことを特徴とする撮像装置。
  6. 請求項3または請求項5に記載の撮像装置において、
    前記繰出し量検出部により検出された前記レンズ繰出し量ごとの誤差を検出する誤差検出部をさらに備え、
    前記情報付加部は、前記誤差検出部により検出された誤差が大きいほど、前記信頼度を小さくする
    ことを特徴とする撮像装置。
  7. 請求項1または請求項2に記載の撮像装置において、
    前記情報付加部は、前記焦点距離検出部により検出された前記焦点距離が長いほど、前記信頼度を大きくし、前記焦点距離が短いほど、前記信頼度を小さくする
    ことを特徴とする撮像装置。
  8. 請求項1または請求項2に記載の撮像装置において、
    前記情報付加部は、前記距離情報検出部により検出された前記距離情報が示す距離が短いほど、前記信頼度を大きくし、前記距離情報が示す距離が長いほど、前記信頼度を小さくする
    ことを特徴とする撮像装置。
  9. 請求項1または請求項2に記載の撮像装置において、
    前記情報付加部は、前記グループ化部によりグループ化された前記領域のうち、前記距離情報検出部により前記距離情報を検出する点を含まない領域については、所定の距離情報を付加するとともに、前記信頼度を、前記焦点距離に応じて決定する信頼度よりも小さくする
    ことを特徴とする撮像装置。
  10. 請求項1または請求項2に記載の撮像装置において、
    前記情報付加部は、前記グループ化部によりグループ化された前記領域のうち、前記距離情報検出部による前記距離情報の検出が不可能である領域については、所定の距離情報付加するとともに、前記信頼度を、前記焦点距離に応じて決定する信頼度よりも小さくする
    ことを特徴とする撮像装置。
JP2005002726A 2005-01-07 2005-01-07 撮像装置 Expired - Fee Related JP4329694B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005002726A JP4329694B2 (ja) 2005-01-07 2005-01-07 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005002726A JP4329694B2 (ja) 2005-01-07 2005-01-07 撮像装置

Publications (2)

Publication Number Publication Date
JP2006191467A JP2006191467A (ja) 2006-07-20
JP4329694B2 true JP4329694B2 (ja) 2009-09-09

Family

ID=36798158

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005002726A Expired - Fee Related JP4329694B2 (ja) 2005-01-07 2005-01-07 撮像装置

Country Status (1)

Country Link
JP (1) JP4329694B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5098259B2 (ja) 2006-09-04 2012-12-12 株式会社ニコン カメラ
JPWO2008044524A1 (ja) 2006-10-10 2010-02-12 株式会社ニコン 画像分類プログラム、画像分類装置および電子カメラ
JP2011109502A (ja) * 2009-11-19 2011-06-02 Nikon Corp 画像追尾装置、撮像装置、及び、画像追尾方法
JP5589527B2 (ja) * 2010-04-23 2014-09-17 株式会社リコー 撮像装置および追尾被写体検出方法
JP5857567B2 (ja) * 2011-09-15 2016-02-10 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
JP6218378B2 (ja) * 2012-12-27 2017-10-25 キヤノン株式会社 画像処理装置及び画像処理方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2881790B2 (ja) * 1988-12-29 1999-04-12 株式会社ニコン 焦点検出装置
JPH0875993A (ja) * 1994-09-07 1996-03-22 Nikon Corp 自動焦点調節装置
JP2000259823A (ja) * 1999-03-12 2000-09-22 Canon Inc 画像処理装置、画像処理方法及び記憶媒体
JP2004264827A (ja) * 2003-02-10 2004-09-24 Chinon Ind Inc 焦点距離検出方法及び合焦装置

Also Published As

Publication number Publication date
JP2006191467A (ja) 2006-07-20

Similar Documents

Publication Publication Date Title
JP5911531B2 (ja) 光学機器
JP3992992B2 (ja) 被写体像取得装置
JP4674471B2 (ja) デジタルカメラ
JP4910462B2 (ja) カメラ
JP4998308B2 (ja) 焦点調節装置および撮像装置
JP5789091B2 (ja) 撮像装置および撮像装置の制御方法
JP5003529B2 (ja) 撮像装置および対象物の検出方法
JP5070728B2 (ja) カメラ
JP2010015024A (ja) 撮像装置、その制御方法、プログラム及び記憶媒体
JP2006319596A (ja) 撮像装置および撮像方法
JP5095519B2 (ja) 撮像装置及び撮像方法
JP2006053545A (ja) 光学機器
JP4329694B2 (ja) 撮像装置
JP4923587B2 (ja) 焦点検出装置、方法およびカメラ
US8644698B2 (en) Focusing-state detection apparatus, imaging apparatus, and its control method
JP2007133301A (ja) オートフォーカスカメラ
JP4567538B2 (ja) 露出量算出システムならびにその制御方法およびその制御プログラム
JP4996568B2 (ja) 撮像装置および撮像装置の制御方法
JP5359150B2 (ja) 撮像装置
JP2005173254A (ja) カメラシステム
JP2006023653A (ja) 光学機器
JP5420034B2 (ja) 撮像装置、その制御方法、プログラム及び記憶媒体
JP2012108281A (ja) 焦点検出装置および撮像装置
JP2012128343A (ja) カメラ
JP2005164669A (ja) デジタルカメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071211

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090520

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090526

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090608

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4329694

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120626

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150626

Year of fee payment: 6

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150626

Year of fee payment: 6

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150626

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees