JP2006058421A - 自動焦点制御方法及び自動焦点制御装置 - Google Patents

自動焦点制御方法及び自動焦点制御装置 Download PDF

Info

Publication number
JP2006058421A
JP2006058421A JP2004238065A JP2004238065A JP2006058421A JP 2006058421 A JP2006058421 A JP 2006058421A JP 2004238065 A JP2004238065 A JP 2004238065A JP 2004238065 A JP2004238065 A JP 2004238065A JP 2006058421 A JP2006058421 A JP 2006058421A
Authority
JP
Japan
Prior art keywords
focus
area
focus area
areas
linearity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004238065A
Other languages
English (en)
Other versions
JP4520792B2 (ja
Inventor
Yoshiharu Gotanda
芳治 五反田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hanwha Techwin Co Ltd
Original Assignee
Samsung Techwin Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Techwin Co Ltd filed Critical Samsung Techwin Co Ltd
Priority to JP2004238065A priority Critical patent/JP4520792B2/ja
Priority to KR1020050014090A priority patent/KR100673958B1/ko
Publication of JP2006058421A publication Critical patent/JP2006058421A/ja
Application granted granted Critical
Publication of JP4520792B2 publication Critical patent/JP4520792B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/02Mountings, adjusting means, or light-tight connections, for optical elements for lenses
    • G02B7/04Mountings, adjusting means, or light-tight connections, for optical elements for lenses with mechanism for focusing or varying magnification
    • G02B7/09Mountings, adjusting means, or light-tight connections, for optical elements for lenses with mechanism for focusing or varying magnification adapted for automatic focusing or varying magnification
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Automatic Focus Adjustment (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)

Abstract

【課題】 複数のフォーカスエリアの合焦点を使ってフォーカス制御を行う場合に、光学系の偏心や撮像素子のアオリによって発生する合焦点の変化により、被写体のあるフォーカスエリアを誤認識し、周辺部に合焦することを防止する。
【解決手段】 隣接するフォーカスエリアの合焦点を二次微分し、二次微分した合焦点を絶対値加算して、隣接するフォーカスエリアの間の合焦点の変化の直線性を示す値を算出する。直線性が弱い場合には、何れかのフォーカスエリアに主要な被写体があると判断し、主要な被写体があるフォーカスエリアを特定し、特定されたフォーカスエリアの合焦点に合焦させる。直線性が強い場合には、何れのフォーカスエリアにも主要な被写体がないと判断し、中央付近のフォーカスエリアの合焦点に合焦させる。
【選択図】 図6

Description

本発明は、画像の高周波成分を抽出して合焦の度合いを評価する評価値を取得して合焦点を求めるようにした自動焦点制御方法及び自動焦点制御装置に関するもので、特に、フォーカスエリアを複数に分割して主要な被写体に合焦できるようにしたものに係わる。
ディジタルカメラにおいては、合焦点では画像信号の高周波成分レベルが最大となることを利用して、画像信号の高周波成分レベルを抽出してAF(Automatic Focus)評価値を得、このAF評価値が最大となるフォーカスレンズの位置を合焦点として検索し、この合焦点の位置に合焦させるようにしている。
このようなオートフォーカス機構において、主要な被写体にピントが合うように、フォーカスエリアを複数に分割し、これらのフォーカスエリアの中で、主要な被写体のあるフォーカスエリアを特定し、この主要な被写体のあるフォーカスエリアの合焦点に合焦させるものが提案されている。この場合、従来では、複数のフォーカスエリアの合焦点のうち、最も近距離になるフォーカスエリアに主要な被写体のあるというアルゴリズムによりフォーカスエリアを特定している。
また、例えば特許文献1には、主被写体度を像の大きさと画面中心からの距離に比例して被写体距離に反比例する特性の算出式を用いて算出し、その結果に基づいて、ピント合わせを行う方法が記載されている。
特開平10−142490号公報
ところが、ディジタルカメラの中には、製造上のバラツキにより、光学系の偏心や撮像素子に傾きがある(撮像素子のアオリ)があるものがある。このように、光学系の偏心や撮像素子のアオリのあるカメラを用いた場合には、画面の周辺部と画面の中心部とでは、合焦点が異なってくる。このため、被写体のない風景だけのような撮影シーンで、周辺部のフォーカスエリアの合焦点が中心部に比べて近距離を示すことがある。上述のように、複数のフォーカスエリアの合焦点のうち、最も近距離になるフォーカスエリアを主要な被写体のあるフォーカスエリアと特定して、合焦させるようにすると、周辺部のフォーカスエリアが中心部に比べて近距離示す場合には、周辺部に主要な被写体があると誤認識し、周辺部のフォーカスエリアで合焦してしまい、所謂片ボケが発生する。
また、特許文献1に示されるものでは、被写体距離に反比例する特質から、像面の傾き(片ボケ)に対して貧弱であり、傾き度によっては片ボケ部にピント合わせして、片ボケを助長するような結果を招く危険がある。
本発明は、上述の従来の課題を鑑み、複数のフォーカスエリアの合焦点を使ってフォーカス制御を行う場合に、光学系の偏心や撮像素子のアオリによって発生するフォーカスエリアの誤認識を防止し、光学系の偏心や撮像素子のアオリがある場合にも、周辺部のフォーカスエリアで合焦することがないようにした自動焦点制御方法及び自動焦点制御装置を提供することを目的とする。
請求項1に係わる自動焦点制御方法は、画像信号の高周波成分を抽出して合焦の度合いを評価する評価値を取得して合焦点を求めるようにした自動焦点制御方法であって、複数のフォーカスエリアを設定し、各フォーカスエリア毎にフォーカスレンズを移動させながら評価値を取得し、各フォーカスエリア毎に取得した評価値から各フォーカスエリア毎の合焦点を求め、各フォーカスエリア毎に求められた合焦点から、隣接するフォーカスエリアの合焦点の変化の直線性を演算により算出し、隣接するフォーカスエリアの合焦点の変化の直線性が弱い場合には、何れかのフォーカスエリアに主要な被写体があると判断し、隣接するフォーカスエリアの合焦点の変化の直線性が強い場合には、何れのフォーカスエリアにも主要な被写体がないと判断するようにしたことを特徴とする。
請求項2の発明では、請求項1の自動焦点制御方法において、連続するフォーカスエリアの合焦点の変化の直線性を求める演算は、各フォーカスエリアの合焦点を二次微分し、この二次微分した合焦点を絶対値加算するものであることを特徴とする。
請求項3の発明では、請求項1の自動焦点制御方法において、何れかのフォーカスエリアに主要な被写体があると判断した場合には、主要な被写体があるフォーカスエリアを特定し、特定されたフォーカスエリアの合焦点に合焦させるようにしたことを特徴とする。
請求項4の発明では、請求項1の自動焦点制御方法において、何れのフォーカスエリアにも主要な被写体がないと判断した場合には、中央付近のフォーカスエリアの合焦点に合焦させるようにしたことを特徴とする。
請求項5の発明に係わる自動焦点制御装置は、撮像素子からの画像信号の高周波成分を抽出して合焦の度合いを評価する評価値を取得して合焦点を求めるようにした自動焦点制御装置であって、フォーカスレンズを移動させるレンズ駆動手段と、画像信号の高周波成分を抽出して合焦の度合いを評価する評価値を取得する評価値検出手段と、複数のフォーカスエリアを設定するフォーカスエリア設定手段と、各フォーカスエリア毎にフォーカスレンズを移動させながら評価値を取得する手段と、各フォーカスエリア毎に取得した評価値から各フォーカスエリア毎の合焦点を求める手段と、各フォーカスエリア毎に求められた合焦点から、隣接するフォーカスエリアの合焦点の変化の直線性を演算により算出する手段と、隣接するフォーカスエリアの合焦点の変化の直線性が弱い場合には、各フォーカスエリアに主要な被写体があると判断し、主要な被写体があるフォーカスエリアを特定し、特定されたフォーカスエリアの合焦点に合焦させ、隣接するフォーカスエリアの合焦点の変化の直線性が強い場合には、各フォーカスエリアに主要な被写体がないと判断し、中央付近のフォーカスエリアの合焦点に合焦させる手段とを備えるようにしたことを特徴とする。
請求項6の発明では、請求項5の自動焦点制御装置において、各フォーカスエリアの合焦点の変化の直線性を求める演算は、隣接するフォーカスエリアの合焦点を二次微分し、この二次微分した合焦点を絶対値加算するものであることを特徴とする。
本発明によれば、画像信号の高周波成分を抽出して合焦の度合いを評価する評価値を取得し、複数のフォーカスエリアを設定し、各フォーカスエリア毎にフォーカスレンズを移動させながら評価値を取得し、各フォーカスエリア毎に取得した評価値から各フォーカスエリア毎の合焦点を求めている。そして、各フォーカスエリア毎に求められた合焦点から、隣接するフォーカスエリアの合焦点の変化の直線性を演算により算出している。
すなわち、隣接するフォーカスエリアの合焦点を二次微分し、この二次微分した合焦点を絶対値加算して、隣接するフォーカスエリアの合焦点の変化の直線性を示す値を算出している。
そして、隣接するフォーカスエリアの合焦点の変化の直線性が弱い場合には、何れかのフォーカスエリアに主要な被写体があると判断し、主要な被写体があるフォーカスエリアを特定し、特定されたフォーカスエリアの合焦点に合焦させ、隣接するフォーカスエリアの合焦点の変化の直線性が強い場合には、何れのフォーカスエリアにも主要な被写体がないと判断し、中央付近のフォーカスエリアの合焦点に合焦させるようにしている。
これにより、光学系の偏心や撮像素子にアオリがあっても、被写体のあるフォーカスエリアを誤認識し、周辺部のフォーカスエリアで合焦してしまうことが防止できる。
以下、本発明の実施形態について図面を参照しながら説明する。図1は、本発明が適用できるディジタルカメラの全体構成を示すブロック図である。図1において、1はズームレンズ、2はアイリス、3はフォーカスレンズである。
ズームレンズ1の位置は、ズームモータ5により移動可能とされている。アイリス2の開度は、アイリスモータ6により制御可能とされている。フォーカスレンズ3の位置は、フォーカスモータ7により制御可能とされている。ズームレンズ1、アイリス2、フォーカスレンズ3を介された被写体像光は、撮像素子4の受光面に結像される。
撮像素子4は、その受光面に結像された被写体像光を光電変換する。撮像素子4としては、CCD(Charge Coupled Device) 撮像素子や、CMOS(Complementary MOS)撮像素子が用いられる。撮像素子の前面には、色フィルタが配列されている。色フィルタの配列の構成としては、R(赤)、G(碧)、B(青)の原色系フィルタを用いる場合と、Cy(シアン)、Mg(マゼンタ)、Ye(黄色)の補色系フィルタを用いる場合とがある。撮像素子4は、タイミング発生器8からのタイミング信号により駆動される。
撮像素子4の出力信号は、CDS(Corelated Double Sampling)及びAGC(Automatic Gain Control)回路9を介して、A/D(Analog to Digital)コンバータ10に供給される。A/Dコンバータ10で画像信号がディジタル化される。A/Dコンバータ10の出力信号は、画像入力コントローラ11を介して取り込まれる。
制御回路15は、ディジタルカメラ全体の制御を行っている。制御回路15には、シャッタースイッチ16、ズームスイッチ17、記録/再生スイッチ18等から入力信号が与えられる。また、制御回路15からは、ズームレンズ1を移動させるためのズーム駆動信号、フォーカスレンズ3を移動させるためのフォーカス駆動信号、アイリス2を開閉させるためのアイリス駆動信号、CDS及びAGC回路のゲインを制御するためのゲイン制御信号が出力される。
AF(Automatic Focus)検出回路19は、フォーカス制御を行うために、画像信号の高周波成分レベルを検出するものである。つまり、合焦点では、画像信号の高周波成分レベルが大きくなる。したがって、画像信号の高周波成分レベルを検出すれば、合焦状態が判断できる。AF検出回路19により、画像信号の高周波成分レベルが検出され、この画像信号の高周波成分レベルが所定のフォーカスエリアの間積分されて、AF評価値が求められる。求められたAF評価値が制御回路15に供給される。制御回路15は、このAF評価値に応じて、モータドライバ21を介してフォーカスモータ7にフォーカス駆動信号を与え、フォーカスレンズ3を合焦点の位置に制御する。なお、フォーカス制御については、後に詳述する。
AE(Automatic Exposure)及びAWB(Automatic White Balance)検出回路20は、露光及びホワイトバランスを行うために、画像信号レベルを検出するものである。AE及びAWB検出回路20により画像信号レベルが検出され、露光制御信号及びホワイトバランス制御信号が形成される。この露光制御信号及びホワイトバランス制御信号が制御回路15に供給される。この露光制御信号に応じて、制御回路15からアイリス駆動信号が出力されると共に、ゲイン設定信号が出力される。制御回路15からのアイリス駆動信号がモータドライバ22を介してアイリスモータ6に供給され、所定の信号レベルとなるように、アイリス2の開度が制御される。また、制御回路15からのゲイン制御がCDS及びAGC回路9に供給され、所定の信号レベルとなるように、CDS及びAGC回路9のゲインが制御される。また、AE及びAWB検出回路20からのホワイトバランス制御信号に応じて、画像信号処理回路24で3原色信号のゲインが制御される。
ズームスイッチ17を操作することにより、ズームレンズ1を移動させることができる。すなわち、ズームスイッチ17が操作されると、これに応じて、制御回路15からズーム駆動信号が出力される。このズーム駆動信号がモータドライバ23を介してズームモータ5に供給され、ズームレンズ1が移動される。
記録/再生スイッチ18を操作することにより、記録モードと再生モードとが設定できる。記録モードに設定されているときには、撮像素子4の出力信号は、CDS及びAGC回路9を介して、A/Dコンバータ10でディジタル化された後に、画像信号処理回路24に供給される。画像信号処理回路24で、ガンマ補正、エッジ強調、ホワイトバランス等の画像処理が行われる。この画像信号は、ビデオエンコーダ25に供給される。ビデオエンコーダ25で、コンポーネントカラービデオ信号が形成され、このカラービデオ信号がVRAM(Video RAM)30に展開される。このカラービデオ信号がLCD(Liquid Crystal Display)等の画像表示装置29に供給され、画像表示装置29に、撮影中のモニタ画像が映出される。
画像を撮影する場合には、シャッタースイッチ16が押される。シャッタースイッチ16が押されると、タイミング発生器8にシャッター信号が送られ、そのときの画像が撮像素子4に取り込まれる。そして、このときの1画面分の画像信号がメモリ12に蓄積される。
メモリ12に取り込まれた1画面分の画像信号は、画像信号処理回路24で画像処理が施された後に、画像圧縮/伸長回路26に供給される。画像圧縮/伸長回路26で、画像データが圧縮符号化される。画像データの圧縮方式としては、例えば、JPEG(Joint Photographic Experts Group)が用いられる。JPEGはDCT(Discrete Cosine Transform)を用いて画像圧縮するための規格である。なお、画像データの圧縮方式は、JPEGに限定されるものではない。
圧縮符号化された画像信号は、メディアコントローラ31を介して、記録メディア32に供給され、記録メディア32に記録される。記録メディア32そていは、フラッシュメモリを使ったカード型の着脱自在のメモリが用いられる。なお、この例では、記録メディア32としてメモリカードを使っているが、これに限定されるものではない。画像信号を内蔵の不揮発メモリに記録したり、磁気テープや磁気ディスク、光ディスク等に記録したりしてもよい。
再生時には記録/再生スイッチ18が再生側に操作される。記録/再生スイッチ18が再生側に操作されると、再生モードに設定される。再生モードでは、記録メディア32の画像ファイルが開かれ、画像データが読み出される。記録メディア32から読み出された画像データは、画像圧縮/伸長回路26に供給される。画像圧縮/伸長回路26により、画像信号の伸長処理が行われる。画像圧縮/伸長回路26の出力がビデオエンコーダ25に供給される。ビデオエンコーダ25の出力信号が画像表示装置29に供給され、画像表示装置29に再生画像が映出される。
次に、本発明が適用されたディジタルカメラにおけるフォーカス制御について説明する。前述したように、本発明が適用されたディジタルカメラでは、オートフォーカス制御を行うために、AF検出回路19が設けられている。AF検出回路19により、画像信号の高周波成分レベルが検出され、この画像信号の高周波成分レベルが所定のフォーカスエリアの間積分されて、AF評価値が求められる。
フォーカスエリアは、図2に示すように、水平方向に複数のフォーカスエリアA0〜A6に分割されている。このように、複数に分割されたフォーカスエリアA0〜A6を用いてフォーカス制御を行う場合、通常、主要被写体にピントが合うように、複数のフォーカスエリアA0〜A6の合焦点のうち、最も近距離になるフォーカスエリアを主要な被写体のあるフォーカスエリアと特定して、合焦させるようにしている。
ところが、光学系の偏心や撮像素子にアオリがある場合には、主要被写体がない例えば風景のような撮影シーンで、周辺部のフォーカスエリアの合焦点が中心部に比べて近距離を示すことがある。上述のように、複数のフォーカスエリアA0〜A6の合焦点のうち、最も近距離になるフォーカスエリアを主要な被写体のあるフォーカスエリアと特定して、合焦させるようにすると、周辺部のフォーカスエリアが中心部に比べて近距離示す場合には、周辺部に主要な被写体があると誤認識し、周辺部のフォーカスエリアで合焦してしまう。
そこで、本発明の実施形態では、隣接するフォーカスエリアの合焦点の変化の直線性を示す値を演算により求めるようにしている。つまり、光学系の偏心や撮像素子にアオリがある場合には、隣接するフォーカスエリアから得られる合焦点は直線的に変化する。これに対して、主要な被写体の場合には、その被写体のあるフォーカスエリアから得られる合焦点のみが大きく異なる。したがって、隣接するフォーカスエリアの合焦点の変化の直線性を示す値を求めれば、各フォーカスエリアから得られる合焦点の変化が光学系の偏心や撮像素子にアオリによるものか、主要な被写体によるものかが判断できる。
隣接するフォーカスエリアの合焦点の変化の直線性を示す値は、隣接するフォーカスエリアの合焦点を二次微分し、この二次微分した合焦点を絶対値加算することにより求められる。すなわち、隣接する合焦点が直線的に変化する場合には、隣接するフォーカスエリアの合焦点を微分すると(隣接するフォーカスエリアの合焦点の差分をとる)、その値は殆ど同じになる。したがって、隣接するフォーカスエリアの合焦点を二次微分すれば(隣接するフォーカスエリアの合焦点の差分をとり、更に、その差分値の差分をとる)、その値は小さい値になる。
これに対して、隣接するフォーカスエリアの合焦点の変化が直線的でない場合には、隣接するフォーカスエリアの合焦点を微分しても、その値は殆ど同じ値にはなならず、隣接するフォーカスエリアの合焦点を二次微分しても、その値は小さい値にならない。
このことから、隣接するフォーカスエリアの合焦点を二次微分し、この二次微分した合焦点を絶対値加算した値は、隣接するフォーカスエリアの間の合焦点の変化の直線性を示す値となる。この隣接するフォーカスエリアの合焦点を二次微分し、二次微分した合焦点を絶対値加算した値が小さければ、隣接するフォーカスエリアの間の合焦点の変化の直線性は強く、この値が大きければ、隣接するフォーカスエリアの間の合焦点の変化の直線性は弱い。
そして、この演算値から隣接するフォーカスエリアの合焦点の変化の直線性が強いと判断されれば、主要な被写体は何れもフォーカスエリアにもないと判断し、中央のフォーカスエリアを使って合焦させ、この演算値から隣接するフォーカスエリアの直線性が弱いと判断されれば、主要な被写体が何れかのフォーカスエリアにあると判断して、その被写体のあるフォーカスエリアを特定し、特定されたフォーカスエリアの合焦点を使って合焦させるようにしている。
図3は、本発明が適用されたディジタルカメラにおけるAF検出回路19の構成を示すものである。
図3に示すように、AF検出回路19は、ハイパスフィルタ51と、レベル検波回路52と、エリア積分回路53とからなる。入力端子50に撮像素子4の撮像出力から得られた画像信号が供給される。この画像信号がハイパスフィルタ51に供給され、ハイパスフィルタ51により、画像信号の高周波成分が抽出される。ハイパスフィルタ51の出力信号がレベル検波回路52に供給され、レベル検波回路52により、画像信号の高周波成分レベルが検出される。レベル検波回路52の出力信号がエリア積分回路53に供給される。また、エリア積分回路53には、端子54からフォーカスエリア設定信号が供給される。エリア積分回路53により、画像信号の高周波成分レベルが所定のフォーカスエリアの間積分される。この画像信号の高周波成分レベルを所定のフォーカスエリアの間積分した信号がAF評価値として出力端子55から出力される。
端子54には、図2に示すような7つのフォーカスエリアA0〜A6を設定するためのフォーカスエリア設定信号が供給される。これにより、各フォーカスエリアA0〜A6毎に、AF評価値が得られる。合焦点では、画像信号の高周波成分レベルが最大となることから、各フォーカスエリアA0〜A6毎に、AF評価値が最大となるフォーカスレンズ3の位置を検索することにより、各フォーカスエリアA0〜A6毎の合焦点を求めることができる。
フォーカスレンズ3を位置制御させるフォーカスモータ7としては、ステップモータが用いられる。フォーカスモータ7としてステップモータを用いると、フォーカスモータ7にパルスを与える毎にフォーカスレンズ3がステップ的に移動するので、フォーカスレンズ3の位置をフォーカスモータ7に与えるパルス数により管理できる。
図4は、フォーカスレンズ3の位置とフォーカスモータ7に与えるパルス数との関係の一例を示すものである。図4において、横軸はフォーカスレンズ3の位置を示し、縦軸はパルス数を示している。フォーカスレンズ3が初期位置の無限遠の位置(Far)にあるときには、パルス数は例えば「0」になる。フォーカスレンズ3を最近距離の位置(MOD(minimum object distance))まで移動させると、パルス数は例えば「120」となる。図4に示すように、フォーカスレンズ3の位置はフォーカスモータ7に与えられるパルス数と対応した関係にあり、フォーカスモータ7に与えられたパルス数が分かれば、そのときのフォーカスレンズ3の位置が一義的に決まる。
各フォーカスエリアA0〜A6の合焦点は、フォーカスモータ7により、フォーカスレンズ3を無限遠の位置(Far)から最近距離の位置(MOD)までステップ的に移動させ、その間に、AF評価値を取り込み、AF評価値が最大となるレンズ位置を検索することにより取得できる。
例えば、フォーカスモータ7によりフォーカスレンズ3を無限遠の位置(Far)から最近距離の位置(MOD)までステップ的に移動させ、その間に、AF評価値を取り込んだときに、図5に示すようなAF評価値が得られたとする。図5において、横軸はフォーカスレンズ3の位置(フォーカスモータ7に与えられたパルス数)を示し、縦軸はAF評価値を示す。この場合には、パルス数が30の位置で、AF評価値が最大となる。よって、パルス数が30の位置が合焦点となる。
ここで、合焦点となるフォーカスレンズ3の位置をxaとし、被写体までの距離をx、レンズの焦点距離をfとすると、(xa×x)は、fに略等しく、合焦点となるフォーカスレンズ3の位置は、被写体の距離と反比例の関係にある。
図6は、本発明が適用されたオートフォーカス制御の全体処理を示すフローチャートである。図6に示すように、先ず、フォーカスレンズ3が初期位置である無限遠の位置(Far)に移動される(ステップS1)。そして、各フォーカスエリアA0〜A6毎に、AFサーチが行われる(ステップS2)。
AFサーチでは、図7に示すように、フォーカスモータ7により、フォーカスレンズ3が無限遠の位置(Far)から最近距離の位置(MOD)まで、ステップ的に移動される(ステップS21)。その間に、各位置でのAF評価値が取り込まれる(ステップS22)。無限遠の位置(Far)から最近距離の位置(MOD)までAF評価値の取り込みが終了したかどうかが判断され(ステップS23)、取り込みが終了していなければ、ステップS11にリターンされる。ステップS23で、無限遠の位置(Far)から最近距離の位置(MOD)までAF評価値の取り込みが終了したと判断されたら、AF評価値が最も大きくなるフォーカスレンズ3の位置(フォーカスモータ7に与えられたパルス数)がそのフォーカスエリアでの合焦点として、取り込まれる(ステップS24)。
図6において、ステップS2で、AFサーチを行い、各エリアA0〜A6での合焦点が検索されたら、各エリアA0〜A6での合焦点が呼び出される(ステップS3)。そして、各エリアA0〜A6での合焦点を用いて、隣接するフォーカスエリアの合焦点の変化の直線性を示す値AFsaddが演算により求められる(ステップS4)。隣接するフォーカスエリアの合焦点の変化の直線性を示す値AFsaddは、前述したように、各フォーカスエリアA0〜A6の合焦点を二次微分し、この二次微分した合焦点を絶対値加算することにより行われる。
つまり、図8に示すように、フォーカスエリアA0〜A6のうち隣接するフォーカスエリアの合焦点の差分により微分値が求められる(ステップS31)。更に、隣接するフォーカスエリアの合焦点の微分値の差分により二次微分値が求められる(ステップS32)。求められた二次微分値が絶対値加算され、隣接するフォーカスエリアの合焦点の変化の直線性を示す値AFsaddが求められる(ステップS33)。
図6において、ステップS4で、隣接するフォーカスエリアの合焦点の変化の直線性を示す値AFsaddが求められたら、この隣接するフォーカスエリアの合焦点の変化の直線的性を示す値AFsaddが所定の値Pより小さいかどうかが判断される(ステップS5)。
隣接するフォーカスエリアの合焦点の変化の直線性を示す値AFsaddが所定の値Pより小さければ、直線性が強いことを示し、この場合には、何れのフォーカスエリアA0〜A6にも、主要な被写体はないと判断される(ステップS6)。そして、この場合には、光学系の偏心や撮像素子にアオリによる合焦点の変化により片ボケが生じないように、中央のフォーカスエリアA3の合焦点、又は中央部分のフォーカスエリアA2、A3、A4の合焦点の平均位置に、合焦される(ステップS7)。
隣接するフォーカスエリアの合焦点の変化の直線性を示す値AFsaddが所定の値Pより大きければ、直線性が弱いことを示し、何れかのフォーカスエリアA0〜A6に、主要な被写体があると判断される(ステップS8)。そして、この場合には、フォーカスエリアA0〜A6の中から、被写体のあるフォーカスエリアが特定される(ステップS9)。被写体のあるフォーカスエリアは、例えば各フォーカスエリアA0〜A6の間の合焦点の中で、最も近距離のものに被写体があるというアルゴリズムにより特定できる。そして、特定されたフォーカスエリアの合焦点に、合焦される(ステップS10)。
以上説明したように、本発明の実施形態では、隣接するフォーカスエリアA0〜A6の合焦点を二次微分し、この二次微分した合焦点を絶対値加算して、隣接するフォーカスエリアの合焦点の変化の直線性を示す値AFsaddを算出し、この隣接するフォーカスエリアの合焦点の変化の直線性を示す値AFsaddが所定の値Pより小さいかどうかにより、主要な被写体があるかどうかを判断している。隣接するフォーカスエリアの合焦点の変化の直線性を示す値AFsaddが所定の値Pより小さい場合(直線性が強い場合)には、何れのフォーカスエリアA0〜A6にも主要な被写体がないと判断され、光学系の偏心や撮像素子にアオリによる合焦点の変化により片ボケが生じないように、中央のフォーカスエリアの合焦点に、合焦される。隣接するフォーカスエリアA0〜A6の間の合焦点の変化の直線性を示す値AFsaddが所定の値Pより大きい場合(直線性が弱い場合)には、主要な被写体があると判断され、主要な被写体に合焦するように、被写体のあるフォーカスエリアが特定され、特定されたフォーカスエリアの中央のフォーカスエリアの合焦点に、合焦される。このため、光学系の偏心や撮像素子にアオリがあるような場合でも、周辺部にピントが合って、片ボケが生じるということがない。
このことについて図9〜図11を用いて説明する。図9(A)は、主要な被写体101のある画面を撮影したものである。図9(B)は、主要な被写体がなく、風景だけのような画面を、光学系の偏心や撮像素子にアオリがないカメラで撮影したものである。図9(C)は、主要な被写体がなく、風景だけのような画面を、光学系の偏心や撮像素子にアオリのあるディジタルカメラで撮影したものである。
図10(A)は、図9(A)に示したような主要な被写体101のある画面を撮影した場合の、各フォーカスエリア毎の合焦点を示すものである。図10(B)は、図9(B)に示したような主要な被写体のない画面を光学系の偏心や撮像素子にアオリがないカメラで撮影した場合の、各フォーカスエリア毎の合焦点を示すものである。図10(C)は、図9(C)に示したような主要な被写体のない画面を光学系の偏心や撮像素子にアオリのあるカメラで撮影した場合の、各フォーカスエリア毎の合焦点を示すものである。
図10(A)に示すように、主要な被写体101のある画面を撮影した場合には、各フォーカスエリアA0〜A6の合焦点は、被写体101のあるフォーカスエリアA4、A5、A6の付近から、大きく変化する。
図10(B)に示すように、主要な被写体のない画面を撮影した場合には、
光学系の偏心や撮像素子にアオリがなければ、各フォーカスエリアA0〜A6の合焦点は略等しくなる。
図10(C)に示すように、主要な被写体のない画面を撮影した場合には、光学系の偏心や撮像素子にアオリがあると、各フォーカスエリアA0〜A6の合焦点は直線的に変化する。
図11(A)は、主要な被写体101のある画面を撮影した場合の、隣接するフォーカスエリアの合焦点の直線性を示す値を求めるための演算処理を示すものである。図11(A)に示すように、フォーカスエリアA0での合焦点は78パルス、フォーカスエリアA1での合焦点は80パルス、フォーカスエリアA2での合焦点は76パルス、フォーカスエリアA3での合焦点は82パルス、フォーカスエリアA4での合焦点は106パルス、フォーカスエリアA5での合焦点は116パルス、フォーカスエリアA6での合焦点は112パルスである。
隣接するフォーカスエリアA0〜A6の合焦点を微分すると、(80−78=2)、(76−80=−4)、(82−76=6)、(106−82=24)、(116−106=10)、(112−116=−4)となる。
更に微分すると、(−4−2=−6)、(6−(−4)=10)、(24−6=18)、(10−24=−14)、(−4−10=−14)となる。
この二次微分した合焦点の絶対値をとって累積加算すると、(6+10+18+14+14=62)となる。このように、主要な被写体があるようなシーンを撮影したと場合には、隣接するフォーカスエリアの合焦点を二次微分し、この二次微分した合焦点を絶対値加算した値は「62」と大きな値になる。
隣接するフォーカスエリアの合焦点を二次微分し、この二次微分した合焦点を絶対値加算した値が大きい場合(直線性が弱い場合)には、主要な被写体があると判断され、主要な被写体があるフォーカスエリアが特定される。主要なフォーカスエリアの特定には、複数のフォーカスエリアの合焦点のうち、最も近距離になるフォーカスエリアを主要な被写体のあるとするアルゴリズムが用いられる。このアルゴリズムから、この場合、フォーカスエリアA5が被写体のあるフォーカスエリアと特定され、フォーカスエリアA5の合焦点を使って合焦制御が行われる。
これに対して、従来では、隣接するフォーカスエリアの合焦点の直線性を示す値を求めるための演算処理を行わずに、複数のフォーカスエリアの合焦点のうち、最も近距離になるフォーカスエリアを主要な被写体のあるとするアルゴリズムから、被写体のあるフォーカスエリアが特定される。図9(A)に示すような主要な被写体101がある場合には、フォーカスエリアA5が最も近距離にあるので(図10(A)参照)、従来の方法でも、フォーカスエリアA5が被写体のあるフォーカスエリアと特定され、フォーカスエリアA5の合焦点が使われることになる。
図11(B)は、主要な被写体のない画面を、光学系の偏心や撮像素子にアオリがないカメラで撮影した場合の、各フォーカスエリアの合焦点の直線性を示す値を求めるための演算処理を示すものである。図11(B)に示すように、フォーカスエリアA0での合焦点は80パルス、フォーカスエリアA1での合焦点は78パルス、フォーカスエリアA2での合焦点は84パルス、フォーカスエリアA3での合焦点は82パルス、フォーカスエリアA4での合焦点は80パルス、フォーカスエリアA5での合焦点は82パルス、フォーカスエリアA6での合焦点は80パルスである。
連続するフォーカスエリアA0〜A6の合焦点を微分すると、(78−80=−2)、(84−78=6)、(82−84=−2)、(80−82=−2)、(82−80=2)。(80−82=−2)となる。
更に微分すると、(6−(−2)=8)、(−2−6=−8)、(−2−(−2)=0)、(2−(−2)=4)、(−2−2=−4)となる。
この二次微分した合焦点の絶対値をとって累積加算すると、(8+8+0+4+4=24)となる。このように、主要な被写体がない場合には、複数のフォーカスエリアA0〜A6の合焦点を二次微分し、この二次微分した複数のフォーカスエリアの合焦点を絶対値加算した値は「24」と小さい値となる。
隣接するフォーカスエリアA0〜A6の合焦点を二次微分し、この二次微分した合焦点を絶対値加算した値が小さい場合(直線性が弱い場合)には、主要な被写体はないと判断され、中央のフォーカスエリアA3の合焦点、又は中央付近にあるフォーカスエリアA2、A3,A4の合焦点の平均を使って合焦制御が行われる。
これに対して、従来では、隣接するフォーカスエリアの合焦点の直線性を示す値を求めるための演算処理を行わずに、複数のフォーカスエリアの合焦点のうち、最も近距離になるフォーカスエリアを主要な被写体のあるとするアルゴリズムから、被写体のあるフォーカスエリアが特定される。図9(B)に示すような場合には、フォーカスエリアA2が最も近距離になるので(図10(B)参照)、従来の方法では、フォーカスエリアA2が被写体のあるフォーカスエリアと特定され、フォーカスエリアA2の合焦点が使われることになる。本発明では、フォーカスエリアA3の合焦点、又は中央付近にあるフォーカスエリアA2、A3,A4の合焦点の平均を使ってフォーカス制御が行われる。しかしながら、どちらの合焦点も、その値は殆ど同じである。よって、図9(B)に示すように、光学系の偏心や撮像素子にアオリがないカメラで撮影した場合には、本発明による方法でも、従来の方法でも、合焦点は殆ど同じになる。
図11(C)は、主要な被写体のない画面を、光学系の偏心や撮像素子にアオリがあるカメラで撮影した場合の、隣接するフォーカスエリアの合焦点の直線性を示す値を求めるための演算処理を示すものである。図11(C)に示すように、フォーカスエリアA0での合焦点は80パルス、フォーカスエリアA1での合焦点は84パルス、フォーカスエリアA2での合焦点は96パルス、フォーカスエリアA3での合焦点は100パルス、フォーカスエリアA4での合焦点は104パルス、フォーカスエリアA5での合焦点は112パルス、フォーカスエリアA6での合焦点は116パルスである。
隣接するフォーカスエリアA0〜A6の合焦点を微分すると、(84−80=4)、(96−84=12)、(100−96=4)、(104−100=4)、(112−104=8)、(116−112=4)となる。
更に微分すると、(12−4=8)、(4−12=−8)、(4−4=0)、(8−4=4)、(4−8=−4)となる。
この二次微分した合焦点の絶対値をとって、累積加算すると、(8+8+0+4+4=24)となる。このように、主要な被写体がない場合には、光学系の偏心や撮像素子にアオリがある場合でも、隣接するフォーカスエリアの合焦点を二次微分し、この二次微分した合焦点を絶対値加算した値は「24」と小さな値になる。
隣接するフォーカスエリアの合焦点を二次微分し、この二次微分した合焦点を絶対値加算した値が小さい場合には、主要な被写体はないと判断され、中央のフォーカスエリアA3の合焦点、又は中央付近にあるフォーカスエリアA2、A3,A4の合焦点の平均を使ってフォーカス制御が行われる。
これに対して、従来では、隣接するフォーカスエリアの合焦点の直線性を示す値を求めるための演算処理を行わずに、複数のフォーカスエリアの合焦点のうち、最も近距離になるフォーカスエリアを主要な被写体のあるとするアルゴリズムから、フォーカスエリアが特定される。図9(C)に示すような画面の場合には、フォーカスエリアA6が最も近距離になるので(図10(C)参照)、従来の方法では、フォーカスエリアA6が被写体のあるフォーカスエリアと特定され、フォーカスエリアA6の合焦点が使われることになる。このため、画面の周辺部にピントが合い、中央の部分がピントが外れるような、所謂片ボケの状態となる。本発明では、フォーカスエリアA3の合焦点、又は中央付近にあるフォーカスエリアA2、A3,A4の合焦点の平均を使ってフォーカス制御が行われる。このため、画面の中央の部分でピントが合うようになる。
本発明は、上述した実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
本発明は、ディジタルカメラやディジタルビデオカメラのフォーカス制御に用いて好適である。
本発明が適用されたディジタルビデオカメラの全体構成を示すブロック図である。 本発明が適用されたディジタルビデオカメラにおけるフォーカスエリアの説明図である。 本発明が適用されたディジタルビデオカメラにおけるAF検出回路の一例のブロック図である。 フォーカスレンズの位置とパルス数との関係を説明したグラフである。 AF評価値の説明に用いるグラフである。 本発明が適用されたオートフォーカス制御の説明に用いるフローチャートである。 本発明が適用されたオートフォーカス制御の説明に用いるフローチャートである。 本発明が適用されたオートフォーカス制御の説明に用いるフローチャートである。 各撮影画面におけるオートフォーカス制御の説明図である。 各撮影画面における評価値の説明に用いるグラフである。 隣接するフォーカスエリアの合焦点の直線性を示す値を求めるための演算処理の説明図である。
符号の説明
3 フォーカスレンズ
4 撮像素子
7 フォーカスモータ
8 タイミング発生器
12 メモリ
15 制御(回路)
19 AF検出(回路)
24 画像信号処理回路

Claims (6)

  1. 画像信号の高周波成分を抽出して合焦の度合いを評価する評価値を取得して合焦点を求めるようにした自動焦点制御方法であって、
    複数のフォーカスエリアを設定し、各フォーカスエリア毎にフォーカスレンズを移動させながら評価値を取得し、
    各フォーカスエリア毎に取得した評価値から各フォーカスエリア毎の合焦点を求め、
    各フォーカスエリア毎に求められた合焦点から、隣接するフォーカスエリアの合焦点の変化の直線性を演算により算出し、
    隣接するフォーカスエリアの合焦点の変化の直線性が弱い場合には、何れかのフォーカスエリアに主要な被写体があると判断し、
    隣接するフォーカスエリアの合焦点の変化の直線性が強い場合には、何れのフォーカスエリアにも主要な被写体がないと判断する
    ようにしたことを特徴とする自動焦点制御方法。
  2. 前記連続するフォーカスエリアの合焦点の変化の直線性を求める演算は、各フォーカスエリアの合焦点を二次微分し、この二次微分した合焦点を絶対値加算するものであることを特徴とする請求項1に記載の自動焦点制御方法。
  3. 前記何れかのフォーカスエリアに主要な被写体があると判断した場合には、主要な被写体があるフォーカスエリアを特定し、特定されたフォーカスエリアの合焦点に合焦させるようにしたことを特徴とする請求項1に記載の自動焦点制御方法。
  4. 前記何れのフォーカスエリアにも主要な被写体がないと判断した場合には、中央付近のフォーカスエリアの合焦点に合焦させるようにしたことを特徴とする請求項1に記載の自動焦点制御方法。
  5. 撮像素子からの画像信号の高周波成分を抽出して合焦の度合いを評価する評価値を取得して合焦点を求めるようにした自動焦点制御装置であって、
    フォーカスレンズを移動させるレンズ駆動手段と、
    画像信号の高周波成分を抽出して合焦の度合いを評価する評価値を取得する評価値検出手段と、
    複数のフォーカスエリアを設定するフォーカスエリア設定手段と、
    各フォーカスエリア毎にフォーカスレンズを移動させながら評価値を取得する手段と、
    各フォーカスエリア毎に取得した評価値から各フォーカスエリア毎の合焦点を求める手段と、
    各フォーカスエリア毎に求められた合焦点から、隣接するフォーカスエリアの合焦点の変化の直線性を演算により算出する手段と、
    隣接するフォーカスエリアの合焦点の変化の直線性が弱い場合には、各フォーカスエリアに主要な被写体があると判断し、主要な被写体があるフォーカスエリアを特定し、特定されたフォーカスエリアの合焦点に合焦させ、隣接するフォーカスエリアの合焦点の変化の直線性が強い場合には、各フォーカスエリアに主要な被写体がないと判断し、中央付近のフォーカスエリアの合焦点に合焦させる手段と
    を備えるようにしたことを特徴とする自動焦点制御装置。
  6. 前記各フォーカスエリアの合焦点の変化の直線性を求める演算は、隣接するフォーカスエリアの合焦点を二次微分し、この二次微分した合焦点を絶対値加算するものであることを特徴とする請求項5に記載の自動焦点制御装置。

JP2004238065A 2004-08-18 2004-08-18 自動焦点制御方法及び自動焦点制御装置 Expired - Fee Related JP4520792B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004238065A JP4520792B2 (ja) 2004-08-18 2004-08-18 自動焦点制御方法及び自動焦点制御装置
KR1020050014090A KR100673958B1 (ko) 2004-08-18 2005-02-21 자동 초점 제어 방법 및 자동 초점 제어장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004238065A JP4520792B2 (ja) 2004-08-18 2004-08-18 自動焦点制御方法及び自動焦点制御装置

Publications (2)

Publication Number Publication Date
JP2006058421A true JP2006058421A (ja) 2006-03-02
JP4520792B2 JP4520792B2 (ja) 2010-08-11

Family

ID=36105950

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004238065A Expired - Fee Related JP4520792B2 (ja) 2004-08-18 2004-08-18 自動焦点制御方法及び自動焦点制御装置

Country Status (2)

Country Link
JP (1) JP4520792B2 (ja)
KR (1) KR100673958B1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008017659A (ja) * 2006-07-07 2008-01-24 Canon Inc ステッピングモータ駆動装置、ステッピングモータ駆動方法、及びプログラム
KR100806690B1 (ko) 2006-03-07 2008-02-27 삼성전기주식회사 자동초점 수행 방법 및 이를 이용한 자동초점 조정장치
KR101082048B1 (ko) 2010-07-01 2011-11-10 엘지이노텍 주식회사 카메라 모듈의 오토 포커싱 탐색 범위 설정 방법

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101133024B1 (ko) * 2010-11-11 2012-04-09 고려대학교 산학협력단 트레이닝 기반의 자동 초점 장치 및 방법

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63266434A (ja) * 1987-04-24 1988-11-02 Canon Inc 焦点調節信号形成装置
JPH0338607A (ja) * 1989-07-05 1991-02-19 Asahi Optical Co Ltd オートフォーカスカメラ
JPH09127405A (ja) * 1995-10-27 1997-05-16 Canon Inc 光学装置
JPH09318870A (ja) * 1996-05-24 1997-12-12 Ricoh Co Ltd 測距装置、撮影装置および背景処理装置
JP2003195156A (ja) * 2001-10-18 2003-07-09 Olympus Optical Co Ltd カメラの測距装置及びカメラ
JP2003222787A (ja) * 2002-01-29 2003-08-08 Fuji Photo Film Co Ltd デジタルカメラ
JP2006030984A (ja) * 2004-06-15 2006-02-02 Canon Inc 撮影装置および焦点調節方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63266434A (ja) * 1987-04-24 1988-11-02 Canon Inc 焦点調節信号形成装置
JPH0338607A (ja) * 1989-07-05 1991-02-19 Asahi Optical Co Ltd オートフォーカスカメラ
JPH09127405A (ja) * 1995-10-27 1997-05-16 Canon Inc 光学装置
JPH09318870A (ja) * 1996-05-24 1997-12-12 Ricoh Co Ltd 測距装置、撮影装置および背景処理装置
JP2003195156A (ja) * 2001-10-18 2003-07-09 Olympus Optical Co Ltd カメラの測距装置及びカメラ
JP2003222787A (ja) * 2002-01-29 2003-08-08 Fuji Photo Film Co Ltd デジタルカメラ
JP2006030984A (ja) * 2004-06-15 2006-02-02 Canon Inc 撮影装置および焦点調節方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100806690B1 (ko) 2006-03-07 2008-02-27 삼성전기주식회사 자동초점 수행 방법 및 이를 이용한 자동초점 조정장치
JP2008017659A (ja) * 2006-07-07 2008-01-24 Canon Inc ステッピングモータ駆動装置、ステッピングモータ駆動方法、及びプログラム
KR101082048B1 (ko) 2010-07-01 2011-11-10 엘지이노텍 주식회사 카메라 모듈의 오토 포커싱 탐색 범위 설정 방법

Also Published As

Publication number Publication date
JP4520792B2 (ja) 2010-08-11
KR100673958B1 (ko) 2007-01-24
KR20060043025A (ko) 2006-05-15

Similar Documents

Publication Publication Date Title
JP5005570B2 (ja) 画像処理装置およびプログラム
US7916182B2 (en) Imaging device and method which performs face recognition during a timer delay
JP4127491B2 (ja) オートフォーカス機能付きカメラ
JP4042710B2 (ja) オートフォーカス装置及びそのプログラム
JP5206494B2 (ja) 撮像装置、画像表示装置と、撮像方法及び画像表示方法並びに合焦領域枠の位置補正方法
US20080181460A1 (en) Imaging apparatus and imaging method
US20070230933A1 (en) Device and method for controlling flash
US7145598B2 (en) Image pickup apparatus capable of making effective depiction by reducing pixel signals
JP4645413B2 (ja) 撮像装置
JP2003307669A (ja) カメラ
JP4516035B2 (ja) 合焦位置決定方法および装置
JP5092673B2 (ja) 撮像装置及びそのプログラム
JP2007057974A (ja) 撮影装置
US8040429B2 (en) Electronic apparatus having autofocus camera function
KR100673958B1 (ko) 자동 초점 제어 방법 및 자동 초점 제어장치
KR100651817B1 (ko) 자동초점 제어장치 및 자동초점 제어방법
JP2007279333A (ja) 合焦位置決定装置及び方法
JP2007171807A (ja) 焦点検出装置およびカメラ
JP2007256463A (ja) オートフォーカス装置およびカメラ
JP2006215105A (ja) 撮像装置
JP2006157604A (ja) カメラ装置及び自動撮影制御プログラム
JP5597942B2 (ja) 電子カメラ
JP2006243609A (ja) オートフォーカス装置
JP2009021893A (ja) 撮像装置及び撮像方法
JP4744253B2 (ja) オートフォーカスカメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070608

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20090804

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090918

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091110

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100210

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100310

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100423

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100521

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130528

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130528

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130528

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees