JP5398182B2 - 撮像装置、自動焦点検出方法及びプログラム - Google Patents

撮像装置、自動焦点検出方法及びプログラム Download PDF

Info

Publication number
JP5398182B2
JP5398182B2 JP2008175619A JP2008175619A JP5398182B2 JP 5398182 B2 JP5398182 B2 JP 5398182B2 JP 2008175619 A JP2008175619 A JP 2008175619A JP 2008175619 A JP2008175619 A JP 2008175619A JP 5398182 B2 JP5398182 B2 JP 5398182B2
Authority
JP
Japan
Prior art keywords
face
detection result
face detection
value
reliability
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008175619A
Other languages
English (en)
Other versions
JP2010015023A (ja
Inventor
和憲 石井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2008175619A priority Critical patent/JP5398182B2/ja
Priority to US12/487,232 priority patent/US8259214B2/en
Priority to CN2009101507008A priority patent/CN101621626B/zh
Publication of JP2010015023A publication Critical patent/JP2010015023A/ja
Application granted granted Critical
Publication of JP5398182B2 publication Critical patent/JP5398182B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/675Focus control based on electronic image sensor signals comprising setting of focusing regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators

Description

本発明は、撮像装置、自動焦点検出方法及びプログラムに係り、特に、自動焦点検出を行なう撮像装置に関するものである。
ビデオカメラ等の撮像装置におけるオートフォーカス(以下、単に「AF」という。)制御では、撮像素子により生成された映像信号の鮮鋭度、コントラスト状態等を示すAF評価値信号を生成し、このAF評価値信号が最大となるようにフォーカスレンズの位置を調整するTV−AF方式が主流である。
このようなAF制御を行なう撮像装置において人物を撮影する場合、例えば、主被写体である人物とその背景とのコントラスト状態によって、人物ではなく背景にピントが合うことがある。この場合、撮影者の所望するピント合わせが行なわれず、撮影者に不快感を与えることになる。
そこで、撮像画像中に存在する顔を認識し、認識した顔を含む焦点検出領域を設定し、設定した焦点検出領域に基づいて焦点検出を実行する撮像装置が提案されている(例えば、特許文献1参照。)。また、撮像画像中の人物の顔、特に目を検出し、検出した目に基づいて焦点検出を行なう撮像装置が提案されている(例えば、特許文献2参照。)。
特開2006−227080号公報 特開2001−215403号公報
しかしながら、撮像画像の解像感は撮影状態に影響される傾向にあるため、上述の撮像装置のいずれにおいても、例えば、高いズーム倍率での撮影時に手ぶれが生じることで撮像画像の解像感が低下し、これにより撮影された顔を顔として検出できない場合がある。
顔が検出できない場合には、上述の撮像装置による顔に対するピント合わせが実行できないため、撮影画面上に主被写体の顔が表されているにもかかわらず、主被写体に対するピント合わせを行なうことができないという問題がある。
また、例えば、撮影状態に応じて顔の検出と非検出とが不規則に繰り返される場合、顔検出時には顔に対してピント合わせが行われ、顔非検出時には顔以外の背景等に対してピント合わせが行われることになる。この場合にも、上述の場合と同様に、被写体に対する安定したピント合わせを行なうことができないという問題がある。
本発明の目的は、認識された被写体領域を用いてピント合わせを行う場合であっても、被写体に対して安定してピント合わせを行なうことのできる撮像装置、自動焦点検出方法及びプログラムを提供することにある。
上記目的を達成するために、請求項1記載の撮像装置は、フォーカスレンズを含む撮像光学系によって形成された像を電気信号に変換して映像信号を出力する撮像手段と、前記撮像手段から出力された前記映像信号に基づいて、撮影画面内の領域及び前記領域について顔検出結果の信頼度を検出する検出手段と、焦点距離、シャッタースピード及びズーム動作中か否かの少なくともいずれかに対応して変動する閾値を有し、前記顔検出手段によって検出された前記顔検出結果の信頼度が、前記閾値よりも高いか否かを判定する判定手段と、前記判定手段によって前記顔検出結果の信頼度が前記閾値よりも高いと判定された場合に、前記領域に基づいて焦点調節を制御する制御手段とを有することを特徴とする。
請求項6記載の自動焦点検出方法は、撮像装置における自動焦点検出方法であって、フォーカスレンズを含む撮像光学系によって形成された像を電気信号に変換して映像信号を出力する撮像ステップと、前記撮像ステップで出力された前記映像信号に基づいて、撮影画面内の領域及び前記領域について顔検出結果の信頼度を検出する検出ステップと、焦点距離、シャッタースピード及びズーム動作中か否かの少なくともいずれかに対応して変動する閾値を有し、前記顔検出ステップで検出された前記顔検出結果の信頼度が、前記閾値よりも高いか否かを判定する判定ステップと、前記判定ステップで前記顔検出結果の信頼度が前記閾値よりも高いと判定された場合に、前記領域に基づいて焦点調節を制御する制御ステップとを有することを特徴とする。
請求項11記載のプログラムは、撮像装置における自動焦点検出方法をコンピュータに実行させるコンピュータで読み取り可能なプログラムであって、前記自動焦点検出方法は、フォーカスレンズを含む撮像光学系によって形成された像を電気信号に変換して映像信号を出力する撮像ステップと、前記撮像ステップで出力された前記映像信号に基づいて、撮影画面内の領域及び前記領域について顔検出結果の信頼度を検出する検出ステップと、焦点距離、シャッタースピード及びズーム動作中か否かの少なくともいずれかに対応して変動する閾値を有し、前記顔検出ステップで検出された前記顔検出結果の信頼度が、前記閾値よりも高いか否かを判定する判定ステップと、前記判定ステップで前記顔検出結果の信頼度が前記閾値よりも高いと判定された場合に、前記領域に基づいて焦点調節を制御する制御ステップとを有することを特徴とする。
請求項28記載のコンピュータで読み取り可能な記憶媒体は、請求項27記載のプログラムを格納したことを特徴とする。
本発明によれば、被写体領域に被写体が現されている信頼度が撮影状態に対応して変動する所定の条件を満たしているか否かに応じて、被写体領域に基づいた焦点調節を行うか否かが制御されるので、被写体に対して安定したピント合わせを行なうことができる。
以下、本発明の実施の形態を図面を参照しながら説明する。
[第1の実施の形態]
まず、第1の実施の形態に係る撮像装置について説明する。
図1は、本発明の実施の形態に係る撮像装置としてのビデオカメラの全体構成を概略的に示すブロック図である。
図1において、ビデオカメラ100は、第1固定レンズ101、光軸方向に移動して変倍を行なうズームレンズとしての変倍レンズ102、絞り103、第2固定レンズ104及びフォーカスレンズ105を備える。フォーカスレンズ105は、変倍に伴う焦点面の移動を補正する機能とフォーカシングの機能とを兼ね備えた、いわゆるフォーカスコンペンセータレンズである。第1固定レンズ101、変倍レンズ102、絞り103、第2固定レンズ104及びフォーカスレンズ105によって構成される撮像光学系は被写界の光学像を形成し、撮像部としての撮像素子106に結像させる。
撮像素子106は、CCDセンサやCMOSセンサにより構成される光電変換素子であり、結像された光学像を電気信号に変換してCDS/AGC回路107に出力する。CDS/AGC回路107は、撮像素子106の出力をサンプリングしてゲイン調整する。
また、ビデオカメラ100は、カメラ信号処理回路108、モニタ部109、ズーム駆動源110、フォーカシング駆動源111、AFゲート112、AF信号処理回路113、カメラ/AFマイクロコンピュータ114、記録部115及び顔検出処理回路116を備える。
カメラ信号処理回路108は、CDS/AGC回路107からの出力信号に対して各種の画像処理を施して映像信号を生成する。モニタ部109は、LCD等により構成されるモニタであり、カメラ信号処理回路108から出力された映像信号を撮像画像として表示する。記録部115は、カメラ信号処理回路108から出力された映像信号を磁気テープ、光ディスク、半導体メモリ等の記録媒体に記録する。
AFゲート112は、CDS/AGC回路107からの全画素の出力信号のうち焦点調節に用いられる領域の信号のみをAF信号処理回路113に通過させる。AF信号処理回路113は、AFゲート112を通過した信号から高周波成分、輝度差成分等を抽出してAF評価値信号を生成し、生成したAF評価値信号をカメラ/AFマイクロコンピュータ114(以下、単に「コンピュータ」という。)に出力する。
輝度差成分は、例えば、AFゲート112を通過した信号の輝度レベルの最大値と最小値の差分である。また、AF評価値信号は、撮像素子106からの出力信号に基づいて生成される映像の鮮鋭度を表すものである。鮮鋭度は撮像光学系の焦点状態によって変化するので、AF評価値信号は、撮像光学系の焦点状態を表す信号となる。
制御部としてのコンピュータ114は、ビデオカメラ100全体を制御する。コンピュータ114は、変倍レンズ102を駆動させるズーム駆動源110を制御することによるズーム制御、及びフォーカスレンズ105を駆動させるためのフォーカシング駆動源111を制御することによるフォーカス制御を行なう。ズーム駆動源110及びフォーカシング駆動源111は、ステッピングモータ、DCモータ、振動型モータ、ボイスコイルモータ等のアクチュエータにより構成される。ここで、コンピュータ114によるフォーカス制御には、公知のTV−AF方式(以下、単に「TV−AF」という。)による制御を用いることができる。
また、コンピュータ114は、撮影状態を示す情報として、カメラパラメータ、カメラ動作及び被写体情報を取得する。カメラパラメータとは、ズーム倍率、焦点距離、合焦度等であり、カメラ動作とは、シャッタースピード、ズーム動作等であり、被写体情報とは、被写体の明るさ(照度)等である。
被写体検出部としての顔検出処理回路116は、カメラ信号処理回路108から出力された映像信号に対して公知の顔認識処理を施し、被写体領域として、撮影画面内の主被写体の顔領域を検出し、被写体位置情報を含む検出結果をコンピュータ114に送信する。被写体位置情報とは、撮影画面内での被写体領域の位置に関する情報である。コンピュータ114は、受信した検出結果に基づき、撮影画面内の顔領域を含む位置に対して焦点検出に用いられる領域を追加すべく、AFゲート112へ情報を送信する。
公知の顔認識処理としては、例えば、映像信号に対応した画像データで表される各画素の階調色から肌色領域を抽出し、あらかじめ用意する顔の輪郭プレートとのマッチング度で顔領域を検出する方法がある。また、周知のパターン認識技術を用いて、目、鼻、口等の顔の特徴点を抽出することで顔領域を検出する方法がある。本実施の形態における顔認識処理は、上述に述べた方法に限るものではなく、公知のいずれの方法でも良い。
また、コンピュータ114は、顔検出処理回路116で認識された顔領域を撮影者に通知するために、顔領域の位置、サイズ等の情報をカメラ信号処理回路108へ送信し、これらの情報に対応した枠表示を映像信号に重畳させてモニタ部109に表示させる。
また、ビデオカメラ100にはズームキー117が設けられており、撮影者はズームキー117を操作することができる。ズームキー117の操作に対応して、コンピュータ114がズーム駆動源110を制御することにより変倍レンズ102が移動し、これによりズーム倍率が変倍される。
次に、第1の実施の形態に係るビデオカメラ100で実行される焦点調節としてのピント合わせ処理について、図2を用いて説明する。
図2は、第1の実施形態に係るビデオカメラ100で実行されるピント合わせ処理の手順を示すフローチャートであり、本処理は、ズーム倍率に応じてAF制御及び枠表示制御を行なうものである。このピント合わせ処理は、コンピュータ114内に格納されたコンピュータプログラムに基づいて不図示のCPUによって実行される。なお、本処理は、例えば、1フィールド毎のフィールド画像を生成するための撮像素子106からの電気信号の読み出し周期に対応して繰り返し実行される。
図2において、例えば、ビデオカメラ100の不図示の電源が投入されることにより、本処理が開始される。電源が投入されると、まず、コンピュータ114の命令に基づいて、顔検出処理回路116が映像信号に応じた撮像画像から公知の顔認識処理を実行し、コンピュータ114は、この顔認識処理による顔検出結果を取得する(ステップS201)。
次いで、コンピュータ114は、顔認識処理が成功したか否かを、取得した顔検出結果に顔領域が有るか否かにより判断する(ステップS202)。顔認識処理が成功したと判断された場合(ステップS202でYES)にはステップ203に進み、顔認識処理が失敗したと判断された場合(ステップS202でNO)にはステップS209に進む。
顔認識処理が成功したと判断された場合(ステップS202でYES)、コンピュータ114は、現在のズーム倍率を取得する(ステップS203)。次いで、コンピュータ114は、取得したズーム倍率を用いて、顔検出結果がAF制御及び枠表示制御にて使用可能な検出結果であるか否かを判定する信頼度判定ステップ(ステップS204)を経て使用可能な顔検出結果であるか否かを決定する(ステップS205)。ステップS205において、使用可能な顔検出結果である場合(ステップ205でYES)にはステップ206に進み、使用不可能な顔検出結果である場合(ステップ205でNO)には、ステップ209に進む。
使用可能な顔検出結果である場合(ステップ205でYES)、認識された顔領域を含む主被写体に追従して移動する所定のAF枠(以下、単に「顔枠」という。)をAFゲート112に設定する(ステップS206)。次いで、コンピュータ114は、顔枠におけるAF評価値を取得し(ステップS207)、その後、枠表示出力ONフラグを設定する(ステップS208)。
枠表示出力ONフラグが設定されると、モニタ部109が表示する撮影画面において、主人物である主被写体の顔領域の位置に枠が表示され、これにより、撮影者は撮像画像のどの位置でピント合わせが行われているかを認識できる。本実施の形態では、コンピュータ114は、顔検出部116での顔認識処理によって認識された顔領域の撮影画面上での位置情報を取得してAF枠や枠表示の位置を設定するが、位置情報としては、顔領域の中心位置や、目、鼻、口等の顔の特徴点の位置でも良い。枠表示出力ONフラグの設定後、ステップS212に進む。
一方、顔認識処理が失敗したと判断された場合(ステップS202でNO)、コンピュータ114は、通常のピント合わせ制御を行なうために設定される主被写体に追従しない所定のAF枠(以下、単に「通常枠」という。)をAFゲート112に設定する(ステップS209)。また、使用不可能な顔検出結果である場合(ステップ205でNO)にも、同様に、通常枠をAFゲート112に設定する。なお、通常枠は1つに限られず、複数であってもよい。次いで、コンピュータ114は、通常枠におけるAF評価値を取得し(ステップS210)、さらに、枠表示出力ONフラグを解除して(ステップS211)、ステップS212に進む。
ステップS212において、コンピュータ114は、取得したAF評価値を用いて公知のTV−AF制御を実行する。この公知のTV−AF制御とは、AF評価値が最大になるように、AF評価値をモニタしつつフォーカスレンズ105を駆動して合焦を得る制御方法である。また、このTV−AF制御には、合焦が得られている状態において、フォーカスレンズ105を再駆動する必要性の有無を判断するために、AF評価値の低下があったか否かを判定する等、合焦を維持するための制御も含まれる。
コンピュータ114は、TV−AF制御の実行後、次回実行されるTV−AF制御のために、AF評価値の履歴を残すべくAF評価値を記憶し(ステップS213)、その後、本処理を終了する。
図3は、図2のステップ204において実行される、顔検出結果がAF制御及び枠表示制御で使用可能な顔検出結果であるか否かを判定する処理(以下、単に「判定処理」という。)の手順を示すフローチャートである。本処理は、検出された顔領域について顔である確からしさの度合いを判定するものであり、特に、ズーム倍率に対応させて、AF制御及び枠表示で使用可能な顔検出結果か否かの判定基準である閾値を変動させて、判定の条件を変動させるものである。
図3において、コンピュータ114は、まず、ビデオカメラ100のズーム倍率が所定倍率以上か否かを判定する(ステップS301)。ズーム倍率が所定倍率よりも低い、いわゆるワイド側である場合(ステップ301でNO)にはステップ302へ進み、ズーム倍率が所定倍率以上である、いわゆるテレ側である場合(ステップS301でYES)にはステップ305に進む。
ズーム倍率が所定倍率よりも低い場合(ステップS301でNO)、コンピュータ114は、信頼度判定部として顔検出部116で認識された顔検出結果の信頼度の数値が第1の閾値以下であるか否かを判定する(ステップS302)。
ここで、信頼度とは、顔検出部116で認識された顔検出結果において顔領域と認識された領域に主被写体の顔が存在する確からしさの指標である。図4は、被写体領域の信頼度の数値を設定するための基準の一例を示す表である。図4において、信頼度の数値が小さいほど、顔領域と認識された領域に主被写体の顔が存在する確からしさが十分であって信頼度が高いことを示している。
図3に戻り、顔検出結果の信頼度の数値が第1の閾値以下である場合(ステップS302でYES)には、顔検出結果は使用可能な顔検出結果と判定される(ステップS303)。顔検出結果の信頼度の数値が第1の閾値よりも大きい場合(ステップS302でNO)には、顔検出結果は使用不可能な顔検出結果と判定される(ステップS304)。
一方、ズーム倍率が所定倍率以上である場合(ステップS301でYES)、コンピュータ114は、顔検出結果の信頼度の数値が、第1の閾値よりも大きい数値に設定された第2の閾値以下であるか否かを判定する(ステップS305)。
顔検出結果の信頼度の数値が第2の閾値以下である場合(ステップS305でYES)には、顔検出結果は使用可能な顔検出結果と判定される(ステップS306)。顔検出結果の信頼度の数値が第2の閾値よりも大きい場合(ステップS305でNO)には、顔検出結果は使用不可能な顔検出結果と判定される(ステップS307)。
このようにして、コンピュータ114がいずれかの判定結果を出すことによって本処理が終了する。
以上より、図2の処理によれば、図3のズーム倍率を用いた判定処理による判定結果に基づいて、AF枠に用いる枠を顔枠、通常枠のいずれかに決定するので、ズーム倍率に応じたAF制御を行なうことができる。
ここで、第1の閾値と第2の閾値の関係について、図5を用いて説明する。
図5は、ズーム倍率と第1の閾値及び第2の閾値との関係の一例を示す表であり、ステップS301における所定倍率を10倍とした場合を示している。
本処理において図5に示す表を適用すると、ズーム倍率が10倍未満の場合には1〜3のいずれかの数値が第1の閾値として用いられ、ズーム倍率が10倍以上の場合には1〜6のいずれかの数値が第2の閾値として用いられることになる。また、第2の閾値は第1の閾値よりも大きい数値に設定されるので、例えば、第1の閾値を2に設定した場合には、第2の閾値は2よりも大きい3〜6のいずれかに設定される。信頼度の数値が大きいほど信頼度が低いことから、このような設定により、ズーム倍率が低い(10倍未満)ときよりも、ズーム倍率が高い(10倍以上)ときのほうが閾値に対応する第1の変動信頼度が低くなるように設定されることになる。
一般的に、ズーム倍率が高倍率になるほど撮像画像に与える撮影者の手ぶれの影響が大きく、撮像画像の解像感が低下する傾向にある。このため、例えば、ズーム倍率が低倍率のときに最適な信頼度の数値を閾値とした撮像装置では、高倍率での撮影時において要求される信頼度が高すぎることになる。これにより、高倍率での撮影時の顔検出確率が低下し、主被写体に対する安定したピント合わせを行なうことができなくなる。
また、例えば、ズーム倍率が高倍率のときに最適な信頼度の数値を閾値とした撮像装置では、高解像度の映像が取得できる低倍率での撮影時に、主被写体以外の被写体に対しても顔検出が行われ、やはり、主被写体に対する安定したピント合わせを行なうことができなくなる。さらに、AF制御に伴って枠表示を行なう場合、撮影画面上での枠表示が過剰に存在するために撮影画面が見づらくなり、また、撮影者は、どこにピントが合わされているのか判断しづらい。
しかし、第1の実施の形態によれば、ズーム倍率に応じて、AF制御に必要な顔検出結果が使用可能と判定するための条件が変動する。具体的には、判定の基準値として、ズーム倍率が所定の倍率よりも低い場合には第1の閾値が、ズーム倍率が所定の倍率以上の場合には第1の閾値よりも低い信頼度を示す第2の閾値が設定される。このような設定により、顔検出回路116により認識された顔検出結果が使用可能な顔検出結果と判定されるためには、ズーム倍率が低いときよりもズーム倍率が高いときのほうが高い信頼度を必要とするので、ズーム倍率に応じて、最適な信頼度の数値を閾値として設定することができる。
したがって、第1の実施の形態によれば、撮影時の解像感が高い場合には高精度な顔検出を保ち、撮影時の解像感が低い場合にも安定した顔検出を可能とするので、被写体に対して安定してピント合わせを行なうことができる。また、正確なAF制御に対して枠表示制御が行なわれるので、上述のような、撮影画面上に枠表示が過剰に存在すること、及びどこにピントが合わされているのか撮影者が判断しづらいということを防ぐことができる。
本実施の形態はこれに限られず、例えば、撮影状態情報として、ズーム倍率の代わりに焦点距離を用いて判定しても良い。
[第2の実施の形態]
次に、第2の実施の形態に係る撮像装置について説明する。
本実施の形態に係る撮像装置の全体構成は、第1の実施の形態に係るビデオカメラ100と同様であるので説明を省略する。
図6は、第2の実施形態に係る撮像装置で実行されるピント合わせ処理の手順を示すフローチャートであり、シャッタースピードに応じてAF制御及び枠表示制御を行なうものである。本処理は第1の実施の形態におけるピント合わせ処理と基本的に同じであるので、図2と共通する動作については下2桁を図2と同数字にして説明に代え、異なる動作についてのみ説明する。
図6において、コンピュータ114は、ステップS602で顔認識処理が成功したと判断した場合に、現在のシャッタースピードを取得する(ステップS615)。次いで、コンピュータ114は、取得したシャッタースピードを用いて、顔検出結果がAF制御及び枠表示制御にて使用可能な検出結果であるか否かを判定する信頼度判定ステップ(ステップS616)を経て使用可能な顔検出結果であるか否かを決定する(ステップ605)。そして、コンピュータ114は、第1の実施の形態と同様に、この決定をもとに以降の各ステップを実行して本処理を終了する。
図7は、図6のステップS616で実行される判定処理の手順を示すフローチャートであり、シャッタースピードに対応させて判定の条件を変動させるものである。
図7において、コンピュータ114は、まず、撮像装置のシャッタースピードが所定スピード以上か否かを判定する(ステップS701)。シャッタースピードが所定スピード以上の場合(ステップS701でNO)にはステップS702に進み、シャッタースピードが所定スピードよりも遅い場合(ステップS701でYES)にはステップS705に進む。
シャッタースピードが所定スピード以上の場合(ステップS701でNO)、コンピュータ114は、顔検出結果の信頼度の数値が第3の閾値以下であるか否かを判定する(ステップS702)。なお、信頼度の数値の設定については、第1の実施の形態と同様に、例えば、図4に示す表を用いることができる。
顔検出結果の信頼度の数値が第3の閾値以下である場合(ステップS702でYES)には、顔検出結果は使用可能な顔検出結果と判定される(ステップS703)。顔検出結果の信頼度の数値が第3の閾値よりも大きい場合(ステップS702でNO)には、顔検出結果は使用不可能な顔検出結果と判定される(ステップS704)。
一方、シャッタースピードが所定スピードよりも遅い場合(ステップS701でYES)、コンピュータ114は、顔検出結果の信頼度の数値が、第3の閾値よりも大きい数値に設定された第4の閾値以下であるか否かを判定する(ステップS705)。
顔検出結果の信頼度の数値が第4の閾値以下である場合(ステップS705でYES)には、顔検出結果は使用可能な顔検出結果と判定される(ステップS706)。顔検出結果の信頼度の数値が第4の閾値よりも大きい場合(ステップS705でNO)には、顔検出結果は使用不可能な顔検出結果と判定される(ステップS707)。
このようにして、コンピュータ114がいずれかの判定結果を出すことによって本処理が終了する。
以上より、図6の処理によれば、図7のシャッタースピードを用いた判定処理による判定結果に基づいて、AF枠に用いる枠を顔枠、通常枠のいずれかに決定するので、シャッタースピードに応じたAF制御を行なうことができる。
ここで、第3の閾値と第4の閾値との関係について、図8を用いて説明する。
図8は、シャッタースピードと第3の閾値及び第4の閾値との関係の一例を示す表であり、ステップS701における所定スピードを1/15sとした場合を示している。
本処理において図8に示す表を適用すると、シャッタースピードが1/15s以上の場合には1〜3のいずれかの数値が第3の閾値として用いられ、シャッタースピードが1/15sよりも遅い場合には1〜6のいずれかの数値が第4の閾値として用いられることになる。また、第4の閾値は第3の閾値よりも大きい数値に設定されるので、例えば、第3の閾値を2に設定した場合には、第4の閾値は2よりも大きい3〜6のいずれかに設定される。信頼度の数値が大きいほど信頼度が低いことから、このような設定により、シャッタースピードが速い(1/15s以上)ときよりも、シャッタースピードが遅い(1/15s未満)ときのほうが閾値に対応する第1の変動信頼度が低くなるように設定されることになる。
一般的に、シャッタースピードが遅くなるほど撮像画像に与える撮影者の手ぶれの影響が大きく、撮像画像の解像感が低下する傾向にある。このため、例えば、シャッタースピードが速いときに最適な信頼度の数値を閾値とした撮像装置では、遅いシャッタースピードでの撮影時において要求される信頼度が高すぎることになる。これにより、遅いシャッタースピードでの撮影時の顔検出確率が低下し、主被写体に対する安定したピント合わせを行なうことができなくなる。
また、例えば、シャッタースピードが遅いときに最適な信頼度の数値を閾値とした撮像装置では、速いシャッタースピードでの撮影時に、主被写体以外の被写体に対しても顔検出が行われ、やはり、主被写体に対する安定したピント合わせを行なうことができなくなる。さらに、AF制御に伴って枠表示を行なう場合、撮影画面上での枠表示が過剰に存在するために撮影画面が見づらくなり、また、撮影者はどこにピントが合わされているのか判断しづらい。
しかし、第2の実施の形態によれば、シャッタースピードに応じて、AF制御に必要な顔検出結果が使用可能と判定するための条件が変動する。具体的には、判定の基準値として、シャッタースピードが所定速度以上である場合には第3の閾値が、シャッタースピードが所定速度よりも遅い場合には第3の閾値よりも低い信頼度を示す第4の閾値が設定される。このような設定により、顔検出回路116により認識された顔検出結果が使用可能な顔検出結果と判定されるためには、シャッタースピードが速いときよりもシャッタースピードが遅いときのほうが高い信頼度を必要とするので、シャッタースピードに応じて、最適な信頼度の数値を閾値として設定することができる。
したがって、第2の実施の形態によれば、撮影時の解像感が高い場合には高精度な顔検出を保ち、撮影時の解像感が低い場合にも安定した顔検出を可能とするので、被写体に対して安定してピント合わせを行なうことができる。また、正確なAF制御に対して枠表示制御が行なわれるので、撮影画面上に枠表示が過剰に存在すること、どこにピントが合わされているのか撮影者が判断しづらいということを防ぐことができる。
[第3の実施の形態及び第4の実施形態]
次に、第3の実施の形態及び第4の実施の形態について説明する。
各実施の形態に係る撮像装置の全体構成は、第1の実施の形態に係るビデオカメラ100と同様であるので説明を省略する。また、各実施の形態に係る撮像装置で実行されるピント合わせ処理は第1の実施の形態と基本的に同じであるので、図2に相当する図を省略する。
まず、第3の実施の形態について説明する。
本実施の形態に係る撮像装置が実行するピント合わせ処理では、図2に示す処理においてステップS203で現在のズーム倍率を取得する代わりに現在の合焦度を取得し、取得した合焦度を用いたピント合わせ処理が実行される。
ここで、合焦度とは、撮像画像の輝度信号を用いて、コントラストがあるにも関わらず高周波成分が取得できない場合に合焦していないと判定する程度の簡易的なものでよい。例えば、「各ラインの高周波成分の出力結果の最大値」を「((各ラインの輝度信号の最大値)−(各ラインの輝度信号の最小値))のうちの最大値」で除算し、その結果を1〜10の段階に分割した値で表すことができる。本実施の形態では、合焦度の値が高いほど合焦していると判定する。また、本実施の形態において、コンピュータ114は、被写体合焦度検出部として上述の合焦度を検出する。
図9は、第3の実施の形態に係る撮像装置が実行する判定処理の手順を示すフローチャートであり、合焦度に対応させて判定の条件を変動させるものである。本処理は第1の実施の形態における判定処理と基本的に同じであるので、図3と共通する動作については下2桁を図3と同数字にして説明に代え、以下に異なる動作についてのみ説明する。
図9において、コンピュータ114は、まず、合焦度が所定の合焦度よりも低いか否かを判定する(ステップS901)。合焦度が所定合焦度以上である場合(ステップS901でNO)にはステップS902に進み、合焦度が所定合焦度よりも低い場合(ステップS901でYES)にはステップS905に進む。
合焦度が所定合焦度以上である場合(ステップS901でNO)、コンピュータ114は、顔検出結果の信頼度の数値が第5の閾値以下であるか否かを判定する(ステップS902)。なお、信頼度の数値の設定については、第1の実施の形態と同様、例えば、図4に示す表を用いることができる。
一方、合焦度が所定合焦度よりも低い場合(ステップS901でYES)、コンピュータ114は、顔検出結果の信頼度の数値が、第5の閾値よりも大きい数値に設定された第6の閾値以下であるか否かを判定する(ステップS905)。
このようにして、コンピュータ114がいずれかの判定結果を出すことによって本処理が終了する。
図9の判定処理を用いたピント合わせ処理によれば、合焦度を用いた判定処理による判定結果に基づいて、AF枠に用いる枠を顔枠、通常枠のいずれかに決定するので、合焦度に応じたAF制御を行なうことができる。
ここで、第5の閾値と第6の閾値との関係について、図10を用いて説明する。
図10は、合焦度と第5の閾値及び第6の閾値との関係の一例を示す表であり、ステップS901における所定合焦度を6とした場合を示している。
本処理において図10に示す表を適用すると、合焦度が6以上の場合には1〜3のいずれかの数値が第5の閾値として用いられ、合焦度が6未満の場合には1〜6のいずれかの数値が第6の閾値として用いられることになる。また、第6の閾値は第5の閾値よりも大きい数値に設定されるので、例えば、第5の閾値を2に設定した場合には、第6の閾値は2よりも大きい3〜6のいずれかに設定される。信頼度の数値が大きいほど信頼度が低いことから、このような設定により、合焦度が高い(6以上)ときよりも、合焦度が低い(6未満)ときのほうが閾値に対応する第1の変動信頼度が低くなるように設定されることになる。
次に、第4の実施の形態について説明する。
本実施の形態に係る撮像装置が実行するピント合わせ処理では、図2に示す処理において、ステップS203で現在のズーム倍率を取得する代わりに現在の被写体の明るさを示す照度を取得し、取得した照度を用いたピント合わせ処理が実行される。また、本実施の形態において、コンピュータ114は、被写体明るさ検出部として被写体の照度を検出する。
図11は、第4の実施の形態に係る撮像装置が実行する判定処理の手順を示すフローチャートであり、照度に対応させて判定の条件を変動させるものである。本処理は第1の実施の形態における判定処理と基本的に同じであるので、図3と共通する動作については下2桁を図3と同数字にして説明に代え、以下に異なる動作についてのみ説明する。
図11において、コンピュータ114は、まず、照度が低照度か否かを判定する(ステップS1101)。低照度でない場合(ステップS1101でNO)にはステップS1102に進み、低照度である場合(ステップS1101でYES)にはステップS1105に進む。
低照度でない場合(ステップS1101でNO)、コンピュータ114は、顔検出結果の信頼度の数値が第7の閾値以下であるか否かを判定する(ステップS1102)。なお、信頼度の数値は、第1の実施の形態と同様、例えば、図4に示す表を用いることができる。
一方、低照度である場合(ステップS1101でYES)、コンピュータ114は、顔検出結果の信頼度の数値が、第7の閾値よりも大きい数値に設定された第8の閾値以下であるか否かを判定する(ステップS1105)。
このようにして、コンピュータ114がいずれかの判定結果を出すことによって本処理が終了する。
図11の判定処理を用いたピント合わせ処理によれば、照度を用いた判定処理による判定結果に基づいて、AF枠に用いる枠を顔枠、通常枠のいずれかに決定するので、照度に応じたAF制御を行なうことができる。
ここで、第7の閾値と第8の閾値との関係について、図12を用いて説明する。
図12は、明るさと第7の閾値及び第8の閾値との関係の一例を示す表である。
本処理において図12に示す表を適用すると、低照度でない場合には1〜3のいずれかの数値が第7の閾値として用いられ、低照度である場合には1〜6のいずれかの数値が第8の閾値として用いられることになる。また、第8の閾値は第7の閾値よりも大きい数値に設定されるので、例えば、第7の閾値を2に設定した場合には、第8の閾値は2よりも大きい3〜6のいずれかに設定される。信頼度の数値が大きいほど信頼度が低いことから、このような設定により、照度が高い(低照度ではない)ときよりも、照度が低い(低照度)ときのほうが閾値に対応する第1の変動信頼度が低くなるように設定されることになる。
一般的に、合焦度が低いほど、又は低照度であるほど、撮像画像の解像感が低下する傾向にある。このため、合焦度が高いとき又は低照度でないときに最適な信頼度の数値を閾値とした撮像装置、並びに合焦度が低いとき又は低照度のときに最適な信頼度の数値を閾値とした撮像装置では、主被写体に対する安定したピント合わせを行なうことができなくなる。また、AF制御に伴って枠表示を行なう場合、撮影画面上での枠表示が過剰に存在するために撮影画面が見づらくなり、また、撮影者はどこにピントが合わされているのか判断しづらい。
しかし、第3の実施の形態及び第4の実施の形態によれば、それぞれ合焦度及び照度に応じて、AF制御及び枠表示に必要な顔検出結果が使用可能と判定するための条件が変動する。具体的には、判定の基準値として、合焦度が所定の合焦度以上の場合には第5の閾値が、合焦度が所定の合焦度よりも低い場合には第5の閾値よりも低い信頼度を示す第6の閾値が設定される。また、低照度でない場合には第7の閾値が、低照度の場合には第5の閾値よりも低い信頼度を示す第8の閾値が設定される。
このような設定により、顔検出回路116により認識された顔検出結果が使用可能な顔検出結果と判定されるためには、合焦度が高い又は低照度ではないときよりも合焦度が低い又は低照度のときのほうが高い信頼度を必要とするので、合焦度又は照度に応じて、最適な信頼度の数値を閾値として設定することができる。
したがって、第3の実施形態及び第4の実施形態によれば、撮影時の解像感が高い場合には高精度な顔検出を保ち、撮影時の解像感が低い場合にも安定した顔検出を可能とするので、被写体に対して安定してピント合わせを行なうことができる。また、正確なAF制御に対して枠表示制御が行なわれるので、撮影画面上に枠表示が過剰に存在すること、どこにピントが合わされているのか撮影者が判断しづらいということを防ぐことができる。
[第5の実施の形態及び第6の実施の形態]
次に、第5の実施の形態及び第6の実施の形態に係る撮像装置について説明する。
各実施の形態に係る撮像装置の全体構成は、第1の実施の形態に係るビデオカメラ100と同様であるので説明を省略する。また、第5の実施の形態及び第6の実施の形態に係る撮像装置で実行されるピント合わせ処理は、それぞれ第1の実施の形態及び第2の実施の形態と基本的に同じであり、ピント合わせ処理中の判定処理が異なるのみであるので、図2及び図6に相当する図は省略する。
まず、第5の実施の形態について説明する。
図13は、第5の実施の形態に係る撮像装置で実行される判定処理の手順を示すフローチャートであり、ズーム倍率と撮影画面上での顔領域の位置とに対応させて判定の条件を変動させるものである。本処理において、図3と共通する動作については下2桁を図3と同数字にして説明に代え、以下に異なる動作についてのみ説明する。
図13において、コンピュータ114は、ズーム倍率が所定倍率よりも低く、かつ、顔検出結果の信頼度の数値が第1の閾値以下の場合(ステップS1302でYES)に、検出された顔領域が撮影画面上の所定の範囲にあるか否かを判定する(ステップS1310)。なお、信頼度の数値の設定については、第1の実施の形態と同様に、例えば、図4に示す表を用いることができる。
ここで、撮影画面上の所定の範囲としては、例えば、図14において楕円状の実線で囲んだ撮影画面中央付近を設定する。このように設定するのは、一般的に、撮影者は、主人物である主被写体を撮影画面中央に配置して撮影することが多いためである。
図13に戻り、検出された顔領域が撮影画面上の所定の範囲にある場合(ステップS1310でYES)には、顔検出結果は使用可能な顔検出結果であると判定される(ステップS1303)。
検出された顔領域が撮影画面上の所定の範囲にない場合(ステップS1310でNO)には、コンピュータ114は、顔検出結果の信頼度の数値が第1の閾値よりも小さい数値に設定された第9の閾値以下か否かを判定する(ステップS1311)。顔検出結果の信頼度の数値が第9の閾値以下である場合(ステップS1311でYES)には、顔検出結果は使用可能な顔検出結果であると判定する(ステップS1303)。顔検出結果の信頼度の数値が第9の閾値よりも大きい場合(ステップS1311でNO)には、顔検出結果は使用不可能な顔検出結果であると判定する(ステップS1304)。
一方、ズーム倍率が所定倍率以上であり、かつ、顔検出結果の信頼度の数値が第2の閾値以下の場合(ステップS1305でYES)にも、検出された顔領域が撮影画面上の所定の範囲にあるか否かが判定される(ステップS1312)。
検出された顔領域が撮影画面上の所定の範囲にある場合(ステップS1312でYES)には、顔検出結果はAF制御及び枠表示で使用可能な顔検出結果であると判定される(ステップS1306)。
検出された顔領域が所定の範囲にない場合(ステップS1312でNO)には、コンピュータ114は、顔検出結果の信頼度の数値が第2の閾値よりも小さい数値に設定された第10の閾値以下か否かを判定する(ステップS1313)。顔検出結果の信頼度の数値が第10の閾値以下である場合(ステップS1313でYES)には、顔検出結果は使用可能な顔検出結果であると判定される(ステップS1306)。顔検出結果の信頼度の数値が第10の閾値よりも大きい場合(ステップS1313でNO)には、顔検出結果は使用不可能な顔検出結果であると判定される(ステップS1307)。
図13の判定処理を用いたピント合わせ処理によれば、ズーム倍率及び検出された顔の位置情報を用いた判定処理による判定結果に基づいて、AF枠に用いる枠を決定するので、ズーム倍率及び顔の位置情報に応じたAF制御を行なうことができる。
ここで、第9の閾値と第10の閾値の関係について、図15を用いて説明する。
図15は、ズーム倍率と第9の閾値及び第10の閾値との関係の一例を示す表であり、ステップS1301における所定倍率を10倍とした場合を示している。
本処理において図15に示す表を適用すると、ズーム倍率が10倍未満の場合であって検出された顔が撮影画面の所定の範囲にないときには、1又は2の数値が第9の閾値として用いられることになる。一方、ズーム倍率が10倍以上の場合であって検出された顔領域が撮影画面上の所定の範囲にないときには、1〜5のいずれかの数値が第10の閾値として用いられることになる。
また、第9の閾値は第1の閾値(図5参照)よりも小さい数値に設定されるので、例えば、第1の閾値を3に設定した場合には、第9の閾値は3よりも小さい2に設定される。同様に、第10の閾値は第2の閾値(図5参照)よりも小さい数値に設定されるので、例えば、第2の閾値を6に設定した場合には、第10の閾値は6よりも小さい5に設定される。このような設定により、検出された顔領域が撮影画面上の所定の範囲にあるときよりも、検出された顔領域が撮影画面上の所定の範囲にないときに第2の変動信頼度が高くなるように設定されることになる。
次に、第6の実施の形態について説明する。
図16は、第6の実施の形態に係る撮像装置で実行される判定処理の手順を示すフローチャートであり、シャッタースピードと撮影画面上での顔領域の位置とに対応させて判定の条件を変動させるものである。本処理において、図7と共通する動作については下2桁を図3と同数字にして説明に代え、以下に異なる動作についてのみ説明する。
図16において、コンピュータ114は、シャッタースピードが所定スピード以上であり、かつ、顔検出結果の信頼度の数値が第3の閾値以下の場合(ステップS1602でYES)に、検出された顔領域が撮影画面上の所定の範囲にあるか否かを判定する(ステップS1610)。なお、信頼度の数値の設定については、第2の実施の形態と同様に、例えば、図4に示す表を用いることができる。また、撮影画面上の所定の範囲としては、例えば、第5の実施の形態と同様に、図14において楕円状の実線で囲んだ撮影画面中央付近を設定することができる。
検出された顔領域が撮影画面上の所定の範囲にある場合(ステップS1610でYES)には、顔検出結果は使用可能な顔検出結果であると判定される(ステップS1603)。
検出された顔領域が撮影画面上の所定の範囲にない場合(ステップS1610でNO)には、コンピュータ114は、顔検出結果の信頼度の数値が第3の閾値よりも小さい数値に設定された第11の閾値以下か否かを判定する(ステップS1611)。顔検出結果の信頼度の数値が第11の閾値以下である場合(ステップS1611でYES)には、顔検出結果は使用可能な顔検出結果であると判定される(ステップS1603)。顔検出結果の信頼度の数値が第11の閾値よりも大きい場合(ステップS1611でNO)には、顔検出結果は使用不可能な顔検出結果であると判定される(ステップS1604)。
一方、コンピュータ114は、シャッタースピードが所定スピードよりも遅く、かつ、顔検出結果の信頼度の数値が第4の閾値以下の場合(ステップS1605でYES)にも、検出された顔領域が撮影画面上の所定の範囲にあるか否かを判定する(ステップS1612)。
検出された顔領域が撮影画面上の所定の範囲にある場合(ステップS1612でYES)には、顔検出結果は使用可能な顔検出結果であると判定される(ステップS1606)。
検出された顔領域が撮影画面上の所定の範囲にない場合(ステップS1612でNO)には、コンピュータ114は、顔検出結果の信頼度の数値が第4の閾値よりも小さい数値に設定された第12の閾値以下か否かを判定する(ステップS1613)。顔検出結果の信頼度の数値が第12の閾値以下である場合(ステップS1613でYES)には、顔検出結果は使用可能な顔検出結果であると判定される(ステップS1606)。顔検出結果の信頼度の数値が第12の閾値よりも大きい場合(ステップS1613でNO)には、顔検出結果は使用不可能な顔検出結果であると判定される(ステップS1607)。
図16の判定処理を用いたピント合わせ処理によれば、シャッタースピード及び検出された顔の位置情報を用いた判定処理による判定結果に基づいて、AF枠に用いる枠を決定するので、シャッタースピード及び顔の位置情報に応じたAF制御を行なうことができる。
ここで、第11の閾値と第12の閾値の関係について、図17を用いて説明する。
図17は、シャッタースピードと第11の閾値及び第12の閾値との関係の一例を示す表であり、ステップS1601における所定スピードを1/15sとした場合を示している。
本処理において図17に示す表を適用すると、シャッタースピードが1/15s以上の場合であって検出された顔領域が撮影画面上の所定の範囲にないときには、1又は2の数値が第11の閾値として用いられることになる。一方、シャッタースピードが1/15s未満の場合であって検出された顔領域が撮影画面上の所定の範囲にないときには、1〜5のいずれかの数値が第12の閾値として用いられることになる。
第11の閾値は第3の閾値(図8参照)よりも小さい数値に設定されるので、例えば、第3の閾値を2に設定した場合には、第11の閾値は2よりも小さい数値である1に設定される。また、第12の閾値は第4の閾値(図8参照)よりも小さい数値に設定されるので、例えば、第4の閾値を5に設定した場合には、第12の閾値は5よりも小さい数値である1〜4のいずれかに設定される。このような設定により、検出された顔領域が撮影画面上の所定の範囲にあるときよりも、検出された顔領域が撮影画面上の所定の範囲にないときに第2の変動信頼度が高くなるように設定されることになる。
一般的に、撮影者は、主人物である主被写体を撮影画面中央に配置して撮影することが多い。このため、撮影画面上の中央付近に主被写体が存在する確率は高く、ここで検出された顔領域は主被写体の顔である可能性が高く、この顔検出結果が誤検出である可能性は低い。一方、撮影画面上の中央付近以外に主被写体が存在する確率は撮影画面中央付近と比較して低く、ここで検出された顔領域は主被写体の顔である可能性が低く、撮影画面中央付近での顔検出結果と比較して、誤検出である可能性は高い。
しかし、第5の実施の形態及び第6の実施の形態によれば、ズーム倍率及びシャッタースピードに応じて、顔検出結果が使用可能か否かを判定するための条件が変動し、さらに検出された顔領域が撮影画面上の所定の範囲にあるか否かに応じて、顔検出結果が使用可能か否かを判定するための第2の条件が変動する。具体的には、第5の実施の形態では、検出された顔領域が撮影画面上の所定の範囲にない場合には、第1の閾値よりも高い信頼度を示す第9の閾値、及び第2の閾値よりも高い信頼度を示す第10の閾値が、第2の判定基準値として設定される。また、第6の実施の形態では、検出された顔領域が撮影画面上の所定の範囲にない場合には、第3の閾値よりも高い信頼度を示す第11の閾値、及び第4の閾値よりも高い信頼度を示す第12の閾値が、第2の判定基準値として設定される。
このような設定により、顔検出回路116により認識された顔検出結果が使用可能な顔検出結果と判定されるためには、検出された顔領域が撮影画面上の所定の範囲内にあるときよりも所定の範囲外にあるときのほうが高い信頼度を必要とするので、誤検出された顔領域に対してAF制御や枠表示が行なわれることを防ぐことができる。したがって、第5の実施の形態及び第6の実施の形態によれば、被写体に対してさらに安定してピント合わせを行なうことができる。
また、第5の実施の形態及び第6の実施の形態において、ズーム倍率及びシャッタースピードのそれぞれと検出された顔領域の撮影画面上での位置とに基づいて閾値を変動させたが、これは第3の実施の形態及び第4の実施の形態にも適用することができる。例えば、第5の実施の形態のズーム倍率に関する部分を、第3の実施の形態及び第4の実施の形態に対応させて、合焦度及び照度にそれぞれ置き換えることで実現できる。
[第7の実施の形態]
次に、第7の実施の形態について説明する。
本実施の形態に係る撮像装置の全体構成は、第1の実施の形態に係るビデオカメラ100と同様であるので説明を省略する。
図18は、第7の実施の形態に係る撮像装置で実行されるピント合わせ処理の手順を示すフローチャートであり、ズーム動作に応じて、ズーム/AF制御及び枠表示制御を行なうものである。本処理は、他の実施の形態と同様に、コンピュータ114内に格納されたコンピュータプログラムに基づいて不図示のCPUによって実行される。また、例えば、1フィールド毎のフィールド画像を生成するための撮像素子106からの電気信号の読み出し周期に対応して繰り返し実行される。
図18において、例えば、撮像装置の不図示の電源が投入されることにより、本処理が開始される。電源が投入されると、まず、コンピュータ114の命令に基づいて、顔検出部116が映像信号に応じた撮像画像から公知の顔認識処理を実行し、コンピュータ114は、顔認識処理の結果を取得する(ステップS1801)。
次いで、コンピュータ114は、顔認識処理が成功したか否かを、取得した顔検出結果に顔領域が有るか否かにより判断する(ステップS1802)。顔認識処理が成功したと判断された場合(ステップS1802でYES)にはステップ1803へ進み、顔認識処理が失敗したと判断された場合(ステップS1802でNO)にはステップS1807に進む。
顔認識が成功したと判断された場合(ステップS1802でYES)、コンピュータ114は、この顔検出結果がAF制御及び枠表示制御にて使用可能な顔検出結果であるか否かを判定する信頼度判定ステップ(ステップS1803)を経て使用可能な顔検出結果であるか否かを決定する(ステップS1804)。ステップS1804において、使用可能な顔検出結果である場合(ステップ1804でYES)はステップ1805に進み、使用不可能な顔検出結果である場合(ステップ1804でNO)には、ステップ1807に進む。
使用可能な顔検出結果である場合(ステップ1804でYES)、コンピュータ114は、顔枠をAFゲート112に設定し(ステップS1805)、枠表示出力ONフラグを設定する(ステップS1806)。枠表示出力ONフラグが設定されると、モニタ部109が表示する撮影画面において、主人物である主被写体の顔領域の位置に枠が表示され、これにより、撮影者は撮像画像のどの位置でピント合わせが行われているかを認識できる。なお、枠表示の設定の方法は、他の実施の形態と同様である。枠表示出力ONフラグの設定後、ステップS1809に進む。
一方、顔認識処理が失敗したと判断された場合(ステップS1802でNO)、及び使用不可能な顔検出結果である場合(ステップ1804でNO)、コンピュータ114は、通常枠をAFゲート112に設定する(ステップS1807)。次いで、コンピュータ114は、枠表示出力ONフラグを解除して(ステップS1808)、ステップS1809に進む。
ステップS1809において、コンピュータ114は、顔枠又は通常枠におけるAF評価値を取得し、撮像状態がズーム動作中か否かを判定する(ステップS1810)。ズーム動作中である場合(ステップS1810でYES)には、取得したAF評価値を用いて公知のズーム制御を行なう(ステップS1811)。ズーム動作中でない場合(ステップS1810でNO)には、取得したAF評価値を用いて上述のTV−AF制御を実行する。
コンピュータ114は、ズーム制御又はTV−AF制御の実行後、次回実行されるズーム制御又はTV−AF制御のために、AF評価値の履歴を残すべくAF評価値を記憶し(ステップS1813)、その後、本処理を終了する。
図19は、図18のステップS1803における判定処理の手順を示すフローチャートであり、ズーム動作中か否かに対応させて、ズーム/AF制御及び枠表示で使用可能な顔検出結果か否かの判定基準である閾値を変動させるものである。
図19において、コンピュータ114は、撮像装置がズーム動作中か否かを判定する(ステップS1901)。ズーム動作中でない場合(ステップS1901でNO)には、ステップ1902に進み、ズーム動作中である場合(ステップS1901でYES)には、ステップS1905に進む。
ズーム動作中でない場合(ステップS1901でNO)、コンピュータ114は、顔検出結果の信頼度の数値が第13の閾値以下であるか否かを判定する(ステップS1902)。なお、信頼度の数値の設定については、他の実施の形態と同様に、例えば、図4に示す表を用いることができる。
顔検出結果の信頼度の数値が第13の閾値以下の場合(ステップS1902でYES)には、顔検出結果は使用可能な顔検出結果と判定される(ステップS1903)。顔検出結果の信頼度の数値が第13の閾値よりも大きい場合(ステップS1902でNO)には、顔検出結果は使用不可能な顔検出結果と判定される(ステップS1904)。
一方、ズーム動作中の場合(ステップS1901でYES)、コンピュータ114は、顔検出結果の信頼度の数値が、第13の閾値よりも大きい数値に設定された第14の閾値以下であるか否かを判定する(ステップS1905)。顔検出結果の信頼度数値が第14の閾値以下の場合(ステップS1905でYES)には、顔検出結果は使用可能な顔検出結果と判定される(ステップS1906)。顔検出結果の信頼度の数値が第14の閾値よりも大きい場合(ステップS1905でNO)には、顔検出結果は使用不可能な顔検出結果と判定される(ステップS1907)。
このようにして、コンピュータ114がいずれかの判定結果を出すことによって本処理が終了する。
図18の処理によれば、図19のズーム動作を用いた判定処理による判定結果に基づいてAF枠に用いる枠を顔枠、通常枠のいずれかに決定するので、ズーム動作に応じたAF制御を行なうことができる。
ここで、第13の閾値と第14の閾値の関係について、図20を用いて説明する。
図20は、ズーム動作と第13の閾値及び第14の閾値との関係の一例を示す表である。
本処理において図20に示す表を適用すると、ズーム動作中でない場合には1〜3のいずれかの数値が第13の閾値として用いられ、ズーム動作中である場合には1〜6のいずれかの数値が第14の閾値として用いられることになる。また、第14の閾値は第13の閾値よりも大きい数値に設定されるので、例えば、第13の閾値を2に設定した場合には、第14の閾値は2よりも大きい3〜6のいずれかに設定される。信頼度の数値が大きいほど信頼度が低いことから、このような設定により、ズーム動作中でないときよりもズーム動作中であるときのほうが閾値に対応する第1の変動信頼度が低くなるように設定されることになる。
一般的に、ズーム動作中は、撮影画面中央の映像が拡大されていき、撮影画面の中央から端になるほど像の流れた映像になる傾向にある。特に高速ズーム動作中には、撮影画面においてズーム動作の影響が顕著に表れ、例えば、ズーム動作中の手ぶれの影響が加わると、撮像画像の解像感が顕著に低下する。このため、例えば、ズーム動作中でない場合に最適な信頼度を閾値とした撮像装置では、ズーム動作中の撮影時において要求される信頼度が高すぎることになる。これにより、ズーム動作中の顔検出確率が低下し、主被写体に対する安定したピント合わせを行なうことができなくなる。
また、例えば、ズーム動作中の場合に最適な信頼度を閾値とした撮像装置では、ズーム動作中でない場合の撮影時に、主被写体以外の被写体に対しても顔検出が行われ、やはり、主被写体に対する安定したピント合わせを行なうことができなくなる。さらに、ズーム/AF制御に伴って枠表示を行なう場合、撮影画面上での枠表示が過剰に存在するために撮影画面が見づらくなり、また、撮影者はどこにピントが合わされているのか判断しづらい。
しかし、第7の実施の形態によれば、ズーム動作中か否かに応じて、ズーム/AF制御及び枠表示制御に必要な顔検出結果が使用可能か否かを判定するための条件が変動する。具体的には、判定の基準値として、ズーム動作中である場合に設定される第14の閾値が、ズーム動作中でない場合に設定される第13の閾値よりも大きい数値に設定される。このような設定により、顔検出回路116により認識された顔検出結果が使用可能な顔検出結果と判定されるためには、ズーム動作中ではないときよりもズーム動作中のときのほうが高い信頼度を必要とするので、ズーム動作中か否かに応じて、最適な信頼度の数値を閾値として設定することができる。
したがって、第7の実施の形態によれば、撮影時の解像感が高い場合には高精度な顔検出を保ち、撮影時の解像感が低い場合にも安定した顔検出を可能とするので、被写体に対して安定してピント合わせを行なうことができる。
また、正確なAF制御に対して枠表示制御が行なわれるので、上述のような、撮影画面上に枠表示が過剰に存在すること、及びどこにピントが合わされているのか撮影者が判断しづらいということを防ぐことができる。
また、本発明は、上述した各実施の形態を組合わせることによって、さらに確実に被写体に対し、安定してピント合わせを行なうことができるものである。
本発明は、上述した各実施の形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても実現できる。
この場合、記憶媒体から読み出されたプログラムコード自体が上述した各実施形態の機能を実現することになり、そのプログラムコード及び該プログラムコードを記憶した記憶媒体は本発明を構成することになる。
また、プログラムコードを供給するための、コンピュータで読み取り可能な記憶媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光磁気ディスク、CD−ROM、CD−R、CD−RWなどの光ディスク、DVD−ROM、DVD−RAM、DVD−RW、DVD+RW、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。または、プログラムコードを、ネットワークを介してダウンロードしてもよい。
また、コンピュータが読み出したプログラムコードを実行するだけではなく、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって上述した実施の形態の機能が実現される場合も含まれる。
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その拡張機能を拡張ボードや拡張ユニットに備わるCPU等が実際の処理の一部または全部を行い、その処理によって上述した実施の形態の機能が実現される場合も含まれる。
本発明の実施の形態であるビデオカメラの全体の構成を概略的に示すブロック図である。 第1の実施の形態に係るビデオカメラで実行されるピント合わせ処理の手順を示すフローチャートである。 図2のステップ204において実行される、顔検出結果がAF制御及び枠表示制御で使用可能な顔検出結果であるか否かを判定する処理の手順を示すフローチャートである。 被写体領域の信頼度を設定するための基準の一例を示す表である。 ズーム倍率と第1の閾値及び第2の閾値との関係の一例を示す表である。 第2の実施形態に係る撮像装置で実行されるピント合わせ処理の手順を示すフローチャートである。 図6のステップS616で実行される判定処理の手順を示すフローチャートである。 シャッタースピードと第3の閾値及び第4の閾値との関係の一例を示す表である。 第3の実施の形態に係る撮像装置で実行される判定処理の手順を示すフローチャートである。 合焦度と第5の閾値及び第6の閾値との関係の一例を示す表である。 第4の実施の形態に係る撮像装置で実行される判定処理の手順を示すフローチャートである。 明るさと第7の閾値及び第8の閾値との関係の一例を示す表である。 第5の実施の形態に係る撮像装置で実行される判定処理の手順を示すフローチャートである。 撮影画面上の所定の範囲の一例を示す図である。 ズーム倍率と第9の閾値及び第10の閾値との関係の一例を示す表である。 第6の実施の形態に係る撮像装置で実行される判定処理の手順を示すフローチャートである。 シャッタースピードと第11の閾値及び第12の閾値との関係の一例を示す表である。 第7の実施の形態に係る撮像装置で実行されるピント合わせ処理の手順を示すフローチャートである。 図18のステップS1803で実行される判定処理の手順を示すフローチャートである。 ズーム動作と第13の閾値及び第14の閾値との関係の一例を示す表である。
符号の説明
100 ビデオカメラ
102 変倍レンズ
105 フォーカスレンズ
106 撮像素子
108 カメラ信号処理回路
110 ズーム駆動源
111 フォーカス駆動源
112 AFゲート
113 AF信号処理回路
114 カメラ/AFマイクロコンピュータ
115 記録部
116 顔検出処理回

Claims (12)

  1. フォーカスレンズを含む撮像光学系によって形成された像を電気信号に変換して映像信号を出力する撮像手段と、
    前記撮像手段から出力された前記映像信号に基づいて、撮影画面内の領域及び前記領域について顔検出結果の信頼度を検出する検出手段と
    点距離、シャッタースピード及びズーム動作中か否かの少なくともいずれかに対応して変動する閾値を有し、前記顔検出手段によって検出された前記顔検出結果の信頼度が、前記閾値よりも高いか否かを判定する判定手段と、
    前記判定手段によって前記顔検出結果の信頼度が前記閾値よりも高いと判定された場合に、前記領域に基づいて焦点調節を制御する制御手段とを有することを特徴とする撮像装置。
  2. 記閾値は、焦点距離が第1の焦点距離のときよりも、前記第1の焦点距離よりも長い第2の焦点距離のときに低くなることを特徴とする請求項1記載の撮像装置。
  3. 記閾値は、シャッタースピードが第1のシャッタースピードのときよりも、前記第1のシャッタースピードよりも遅い第2のシャッタースピードのときに低くなることを特徴とする請求項1記載の撮像装置。
  4. 記閾値は、ズーム動作中でないときよりも、前記ズーム動作中であるときに低くなることを特徴とする請求項1記載の撮像装置。
  5. 前記制御手段は、さらに、ズーム制御、前記撮影画面に枠表示を行なう表示制御の少なくとも1つを制御することを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 撮像装置における自動焦点検出方法であって、
    フォーカスレンズを含む撮像光学系によって形成された像を電気信号に変換して映像信号を出力する撮像ステップと、
    前記撮像ステップで出力された前記映像信号に基づいて、撮影画面内の領域及び前記領域について顔検出結果の信頼度を検出する検出ステップと
    点距離、シャッタースピード及びズーム動作中か否かの少なくともいずれかに対応して変動する閾値を有し、前記顔検出ステップで検出された前記顔検出結果の信頼度が、前記閾値よりも高いか否かを判定する判定ステップと、
    前記判定ステップで前記顔検出結果の信頼度が前記閾値よりも高いと判定された場合に、前記領域に基づいて焦点調節を制御する制御ステップとを有することを特徴とする自動焦点検出方法。
  7. 記閾値は、焦点距離が第1の焦点距離のときよりも、前記第1の焦点距離よりも長い第2の焦点距離のときに低くなることを特徴とする請求項6記載の自動焦点検出方法。
  8. 記閾値は、シャッタースピードが第1のシャッタースピードのときよりも、前記第1のシャッタースピードよりも遅い第2のシャッタースピードのときに低くなることを特徴とする請求項6記載の自動焦点検出方法。
  9. 記閾値は、前記撮像装置が前記ズーム動作中でないときよりも、前記ズーム動作中であるときに低くなることを特徴とする請求項6記載の自動焦点検出方法。
  10. 前記制御ステップでは、さらに、ズーム制御、前記撮影画面に枠表示を行なう表示制御の少なくとも1つが制御されることを特徴とする請求項6乃至9のいずれか1項に記載の自動焦点検出方法。
  11. 撮像装置における自動焦点検出方法をコンピュータに実行させるコンピュータで読み取り可能なプログラムであって、前記自動焦点検出方法は、
    フォーカスレンズを含む撮像光学系によって形成された像を電気信号に変換して映像信号を出力する撮像ステップと、
    前記撮像ステップで出力された前記映像信号に基づいて、撮影画面内の領域及び前記領域について顔検出結果の信頼度を検出する検出ステップと
    点距離、シャッタースピード及びズーム動作中か否かの少なくともいずれかに対応して変動する閾値を有し、前記顔検出ステップで検出された前記顔検出結果の信頼度が、前記閾値よりも高いか否かを判定する判定ステップと、
    前記判定ステップで前記顔検出結果の信頼度が前記閾値よりも高いと判定された場合に、前記領域に基づいて焦点調節を制御する制御ステップとを有することを特徴とするプログラム。
  12. 請求項11記載のプログラムを格納したことを特徴とするコンピュータで読み取り可能な記憶媒体。
JP2008175619A 2008-07-04 2008-07-04 撮像装置、自動焦点検出方法及びプログラム Expired - Fee Related JP5398182B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008175619A JP5398182B2 (ja) 2008-07-04 2008-07-04 撮像装置、自動焦点検出方法及びプログラム
US12/487,232 US8259214B2 (en) 2008-07-04 2009-06-18 Image pickup apparatus and auto-focus detection method
CN2009101507008A CN101621626B (zh) 2008-07-04 2009-07-06 摄像设备和自动焦点检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008175619A JP5398182B2 (ja) 2008-07-04 2008-07-04 撮像装置、自動焦点検出方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2010015023A JP2010015023A (ja) 2010-01-21
JP5398182B2 true JP5398182B2 (ja) 2014-01-29

Family

ID=41464065

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008175619A Expired - Fee Related JP5398182B2 (ja) 2008-07-04 2008-07-04 撮像装置、自動焦点検出方法及びプログラム

Country Status (3)

Country Link
US (1) US8259214B2 (ja)
JP (1) JP5398182B2 (ja)
CN (1) CN101621626B (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5159532B2 (ja) * 2008-09-16 2013-03-06 キヤノン株式会社 撮像装置とその制御方法
KR101594298B1 (ko) 2009-11-17 2016-02-16 삼성전자주식회사 디지털 영상 처리기에서 포커스 조정 장치 및 방법
US8447132B1 (en) * 2009-12-09 2013-05-21 CSR Technology, Inc. Dynamic range correction based on image content
JP5607458B2 (ja) * 2010-08-27 2014-10-15 キヤノン株式会社 撮像装置、及びその制御方法
JP5697429B2 (ja) * 2010-12-17 2015-04-08 キヤノン株式会社 撮像装置及びその制御方法、並びにプログラム
JP4988057B1 (ja) * 2011-10-11 2012-08-01 アキュートロジック株式会社 全焦点画像生成方法、全焦点画像生成装置、全焦点画像生成プログラム、被写体高さ情報取得方法、被写体高さ情報取得装置及び被写体高さ情報取得プログラム
JP5418657B2 (ja) * 2012-10-26 2014-02-19 カシオ計算機株式会社 画像処理装置及びプログラム
CN103364933A (zh) * 2013-07-22 2013-10-23 中国科学院西安光学精密机械研究所 数字凸轮连续变焦系统
JP6338353B2 (ja) * 2013-11-01 2018-06-06 キヤノン株式会社 自動焦点調節装置、自動焦点調節装置の制御方法、自動焦点調節装置の制御プログラムおよび記憶媒体
JP2014102517A (ja) * 2014-01-20 2014-06-05 Nikon Corp 電子機器
CN105872363A (zh) * 2016-03-28 2016-08-17 广东欧珀移动通信有限公司 人脸对焦清晰度的调整方法及调整装置
JP6878736B2 (ja) * 2018-07-13 2021-06-02 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、移動体、制御方法、及びプログラム
JP7121568B2 (ja) * 2018-07-13 2022-08-18 キヤノン株式会社 焦点調節装置、撮像装置、焦点調節方法、及びプログラム
EP3955562A4 (en) 2019-05-05 2022-06-15 Huawei Technologies Co., Ltd. CAMERA MODULE, TERMINAL DEVICE, IMAGE GENERATING METHOD AND IMAGE GENERATING EQUIPMENT
CN115334237B (zh) * 2022-07-26 2024-01-23 广州紫为云科技有限公司 基于usb相机的人像对焦方法、装置及介质

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001215403A (ja) 2000-02-01 2001-08-10 Canon Inc 撮像装置および焦点の自動検出方法
JP4185740B2 (ja) * 2002-09-12 2008-11-26 キヤノン株式会社 自動焦点調整装置、撮像装置、信頼性判定方法、プログラム、及び記憶媒体
JP4221577B2 (ja) * 2003-03-18 2009-02-12 富士ゼロックス株式会社 画像処理装置
JP4639837B2 (ja) 2005-02-15 2011-02-23 株式会社ニコン 電子カメラ
US20060182433A1 (en) * 2005-02-15 2006-08-17 Nikon Corporation Electronic camera
JP2007081682A (ja) * 2005-09-13 2007-03-29 Canon Inc 画像処理装置、画像処理方法、及び、情報処理装置が実行可能なプログラム
JP4777143B2 (ja) * 2006-05-19 2011-09-21 キヤノン株式会社 画像処理装置及び画像処理方法
JP4172507B2 (ja) * 2006-07-13 2008-10-29 ソニー株式会社 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム
JP4904108B2 (ja) * 2006-07-25 2012-03-28 富士フイルム株式会社 撮影装置及び画像表示制御方法
JP2008040008A (ja) * 2006-08-03 2008-02-21 Olympus Imaging Corp デジタルカメラ
JP2008042616A (ja) * 2006-08-08 2008-02-21 Eastman Kodak Co 撮像装置
JP2008052123A (ja) * 2006-08-25 2008-03-06 Eastman Kodak Co 撮像装置
JP2008070562A (ja) * 2006-09-13 2008-03-27 Canon Inc 撮像装置および露出制御方法
JP4732397B2 (ja) * 2007-04-11 2011-07-27 富士フイルム株式会社 撮像装置及びその合焦制御方法
JP2009059326A (ja) * 2007-08-06 2009-03-19 Nikon Corp 撮像装置
JP4998308B2 (ja) * 2008-02-14 2012-08-15 株式会社ニコン 焦点調節装置および撮像装置

Also Published As

Publication number Publication date
JP2010015023A (ja) 2010-01-21
CN101621626A (zh) 2010-01-06
US8259214B2 (en) 2012-09-04
CN101621626B (zh) 2011-08-17
US20100002127A1 (en) 2010-01-07

Similar Documents

Publication Publication Date Title
JP5398182B2 (ja) 撮像装置、自動焦点検出方法及びプログラム
JP5517435B2 (ja) 自動合焦装置および自動合焦方法、ならびに、撮像装置
JP5623915B2 (ja) 撮像装置
JP6184189B2 (ja) 被写体検出装置およびその制御方法、撮像装置、被写体検出装置の制御プログラムおよび記憶媒体
US20090322934A1 (en) Focus detection apparatus and control method therefor
JP2007304280A (ja) 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP2009071666A (ja) 撮像装置、その制御方法およびプログラム
US8610812B2 (en) Digital photographing apparatus and control method thereof
JP2011182252A (ja) 撮像装置および画像撮影方法
KR20110032250A (ko) 자동 초점 조절 방법, 상기 방법을 기록한 기록 매체, 및 상기 방법을 실행하는 자동 초점 조절 장치
JP5335408B2 (ja) 焦点調節装置及び方法
JP2009244431A (ja) 撮像装置
JP2012238016A (ja) 自動合焦装置および自動合焦方法、ならびに、撮像装置
JP5322629B2 (ja) 自動焦点検出装置及びその制御方法、撮像装置
JP2010156850A (ja) 焦点調節装置及び方法
JP2014149541A (ja) 自動合焦装置および自動合焦方法、ならびに、撮像装置
JP2010008711A (ja) 撮像装置、撮像方法及びプログラム
JP2010072121A (ja) 撮影装置及びその制御方法
JP4981758B2 (ja) 焦点調節装置及び方法
JP6381416B2 (ja) 撮像装置、撮像装置の制御方法、プログラムおよび記録媒体
JP6274779B2 (ja) 焦点調節装置、撮像装置及び焦点調節方法
JP5017195B2 (ja) 焦点調節装置及び方法
JP5210084B2 (ja) 撮像装置及びその制御方法、プログラム
JP2004085797A (ja) 自動合焦装置、その制御方法、プログラム及び記録媒体
JP5932340B2 (ja) 焦点調節装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110609

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120626

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120824

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130422

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20130501

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130702

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130902

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130924

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131022

R151 Written notification of patent or utility model registration

Ref document number: 5398182

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees