JP2008205915A - 撮像装置、撮像方法、及びプログラム - Google Patents

撮像装置、撮像方法、及びプログラム Download PDF

Info

Publication number
JP2008205915A
JP2008205915A JP2007040782A JP2007040782A JP2008205915A JP 2008205915 A JP2008205915 A JP 2008205915A JP 2007040782 A JP2007040782 A JP 2007040782A JP 2007040782 A JP2007040782 A JP 2007040782A JP 2008205915 A JP2008205915 A JP 2008205915A
Authority
JP
Japan
Prior art keywords
correction amount
correction
image
image blur
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007040782A
Other languages
English (en)
Other versions
JP4840731B2 (ja
Inventor
Hiroshi Shimizu
博 清水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2007040782A priority Critical patent/JP4840731B2/ja
Publication of JP2008205915A publication Critical patent/JP2008205915A/ja
Application granted granted Critical
Publication of JP4840731B2 publication Critical patent/JP4840731B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Abstract

【課題】 機械的振れ検出手段と電子的振れ検出手段とを光学ズーム倍率に応じて適切に切り換えて使用することにより、振れ検出の精度低下を防止する。
【解決手段】 光学ズームの倍率が低い場合には「機械的振れ検出手段」に相当する第1の補正量算出手段(30)によって算出された補正量を用いて画振れ補正手段(11c又は22)による画振れの補正を行わせて省電力化を図る一方、光学ズームの倍率が高い場合には「電子的振れ検出手段」に相当する第2の補正量算出手段(21)によって算出された補正量を用いて画振れ補正手段(11c又は22)による画振れの補正を行わせて精度の向上を図る制御手段(38)を備える。
【選択図】 図1

Description

本発明は、撮像装置、撮像方法、及びプログラムに関し、特に、画振れを補正する撮像装置、撮像方法、及びプログラムに関する。
電子的な振れ補正と機械的な振れ補正とを併用して画振れを補正する画振れ防止技術としては、たとえば、下記の特許文献1に記載のもの(以下、第1従来技術という。)が知られている。この第1従来技術では、振れ検出手段として、カメラ本体の角速度を検出する角速度センサを備えており、さらに、この振れ検出手段から出力される振れ検出信号に基づいて撮影画像の振れ(画振れ又は手振れともいう。)を補正する二つの振れ補正手段を備えている。
第一の振れ補正手段は、CCD等の撮像素子の撮像画像切り出し位置を制御することによって電子的に画振れを補正するもの(以下、この第一の振れ補正手段を「電子的振れ補正手段」ということにする。)であり、第二の振れ補正手段は、撮影レンズの光軸を調節することによって機械的又は光学的に画振れを補正するもの(以下、この第二の振れ補正手段を「機械的振れ補正手段」ということにする。)である。この第1の従来技術では、電子ズーム(画像処理によってズーム効果を得るようにしたもの。)に連動して、これら二つの振れ補正手段(電子的振れ補正手段と機械的振れ補正手段)の動作配分を変化させるとしている。
さて、上記の第1従来技術は、電子的振れ補正手段と機械的振れ補正手段で一つの「振れ検出手段」を兼用している。前記のとおり、この振れ検出手段は「カメラ本体の角速度を検出する角速度センサ(ジャイロセンサともいう。)」によって構成されており、この角速度センサは、たとえば、水晶振動子や圧電セラミック素子を用いて角速度を検出するので、便宜上、機械的なセンサといって差し支えないから、以下、この角速度センサを用いた振れ検出手段を「機械的振れ検出手段」ということにする。
振れ検出手段は、上記の「機械的振れ検出手段」だけでなく、電子的に画振れの検出を行う「電子的振れ検出手段」も知られている。たとえば、下記の特許文献2(以下、第2従来技術)には、撮像素子によって撮像された連続するフレーム間の画像比較によって電子的に振れを検出するものが記載されている。以下、これを「電子的振れ検出手段」ということにする。
このように、従来技術によれば、次のとおり、振れを“検出”するための二つの手段と、振れを“補正”するための二つの手段が知られている。
(1)振れ検出手段
・機械的振れ検出手段:ジャイロセンサ等によって振れを検出するもの。
・電子的振れ検出手段:連続する複数フレーム間の画像比較によって振れを検出するもの。
(2)振れ補正手段
・機械的振れ補正手段:撮影レンズの光軸を調節して振れを補正するもの。
・電子的振れ補正手段:撮像素子の画像切り出し位置を変更して振れを補正するもの。
特開2002−182260号公報 特開2006−33462号公報
ところで、第1従来技術にあっては、「機械的振れ検出手段」と「機械的振れ補正手段」の組み合わせ、及び、「機械的振れ検出手段」と「電子的振れ補正手段」の組み合わせしか開示されておらず、また、第2従来技術にあっては、「機械的振れ検出手段」と「機械的振れ補正手段」の組み合わせ、及び、「電子的振れ検出手段」と「電子的振れ補正手段」の組み合わせしか開示されておらず、しかも、いずれの従来技術にあっても、光学的なズーム動作(つまり、ズームレンズによる画角変更動作)に応じて、上記の組み合わせを適応的に変化させるという思想については一切開示されていない。
ここで、二つの振れ検出手段を消費電力で比較した場合、「機械的振れ検出手段」<「電子的振れ検出手段」である。すなわち、「機械的振れ検出手段」の場合は、もっぱらセンサでごく僅かな電力しか消費されないのに対して、「電子的振れ検出手段」の場合は、画像処理やメモリアクセス等で相当量の電力を消費するからである。したがって、省電力化の点からは、「機械的振れ検出手段」を使用すべきであるということができる。
しかし、光学ズーム使用時の振れ検出精度を考慮した場合、必ずしも「機械的振れ検出手段」の使用がふさわしくない状況があり得る。つまり、光学ズームの倍率が大きいとき(望遠側:撮影レンズの画角が狭くなったとき)に、「機械的振れ検出手段」で振れの検出を行った場合、振れの検出精度が低下するという不都合がある。これは、画角が狭いときには、ごく僅かな振れであっても、その画角に対する振れの影響が大きくなるからである。
そこで、本発明の目的は、振れ検出の精度低下を防止することにある。
請求項1記載の発明は、光学ズーム付きの撮影レンズを通して撮像面に結像した被写体像を画像信号に変換する撮像手段と、指定された補正量に基づいて前記画像信号の画振れを補正する画振れ補正手段と、前記撮影レンズを含む撮像装置本体の動き検出に基づいて前記画振れ補正手段に与える補正量を算出する第1の補正量算出手段と、前記撮影レンズを通した被写体像の撮像面に対する移動検出に基づいて前記画振れ補正手段に与える補正量を算出する第2の補正量算出手段と、前記光学ズームの倍率が低い場合には前記第1の補正量算出手段によって算出された補正量を用いて前記画振れ補正手段による画振れの補正を行わせる一方、前記光学ズームの倍率が高い場合には前記第2の補正量算出手段によって算出された補正量を用いて前記画振れ補正手段による画振れの補正を行わせる制御手段とを備えたことを特徴とする撮像装置である。
請求項2記載の発明は、前記第1の補正量算出手段は、ジャイロセンサが出力する角速度または角加速度に基づいて前記撮影レンズを含む撮像装置本体の動き検出を行うことを特徴とする請求項1記載の撮像装置である。
請求項3記載の発明は、前記第2の補正量算出手段は、前記撮像手段によって連続して撮像された複数の画像信号の比較に基づいて前記撮影レンズを通した被写体像の撮像面に対する移動検出を行うことを特徴とする請求項1記載の撮像装置である。
請求項4記載の発明は、前記画振れ補正手段は、指定された補正量に基づいて、前記撮影レンズの光軸を調整することにより画振れを補正することを特徴とする請求項1記載の撮像装置である。
請求項5記載の発明は、前記画振れ補正手段は、指定された補正量に基づいて、前記撮像手段から出力される画像信号の画像の切り出し位置を移動させることにより画振れを補正することを特徴とする請求項1記載の撮像装置である。
請求項6記載の発明は、前記制御手段は、前記第1の補正量算出手段が算出する補正量の誤差や信頼性を示す精度と、第2の補正量算出手段が算出する補正量の誤差や信頼性を示す精度とが所定の関係となる光学ズームの倍率を基準として、前記第1の補正量算出手段によって算出された補正量と、前記第2の補正量算出手段によって算出された補正量とのどちらを用いるかを判定する判定手段を含むことを特徴とする請求項1記載の撮像装置である。
請求項7記載の発明は、前記判定手段は、前記光学ズームの倍率が高くなるにつれて低下する前記第1の補正量算出手段による補正量の算出精度が、前記第2の補正量算出手段による補正量の算出精度よりも低下した場合に、前記第2の補正量算出手段によって算出された補正量を用いるように判定することを特徴とする請求項6記載の撮像装置である。
請求項8記載の発明は、前記判定手段は、被写体の動きの複雑度が高くなるにつれて低下する前記第2の補正量算出手段による補正量の算出精度が、前記第1の補正量算出手段による補正量の算出精度よりも低下した場合に、前記第1の補正量算出手段によって算出された補正量を用いるように判定することを特徴とする請求項6または7記載の撮像装置である。
請求項9記載の発明は、前記判定手段は、消費電力の低減に対する優先度がより高くなった場合に、前記第1の補正量算出手段による補正量がより多く用いられるように判定することを特徴とする請求項6乃至8記載の撮像装置である。
請求項10記載の発明は、光学ズーム付きの撮影レンズを通して撮像面に結像した被写体像を画像信号に変換する撮像工程と、指定された補正量に基づいて前記画像信号の画振れを補正する画振れ補正工程と、前記撮影レンズを含む撮像装置本体の動き検出に基づいて前記画振れ補正工程に与える補正量を算出する第1の補正量算出工程と、前記撮影レンズを通した被写体像の撮像面に対する移動検出に基づいて前記画振れ補正工程に与える補正量を算出する第2の補正量算出工程と、前記光学ズームの倍率が低い場合には前記第1の補正量算出工程によって算出された補正量を用いて前記画振れ補正工程による画振れの補正を行わせる一方、前記光学ズームの倍率が高い場合には前記第2の補正量算出工程によって算出された補正量を用いて前記画振れ補正工程による画振れの補正を行わせる制御工程とを含むことを特徴とする撮像方法である。
請求項11記載の発明は、コンピュータを、光学ズーム付きの撮影レンズを通して撮像面に結像した被写体像を画像信号に変換する撮像手段と、指定された補正量に基づいて前記画像信号の画振れを補正する画振れ補正手段と、前記撮影レンズを含む撮像装置本体の動き検出に基づいて前記画振れ補正手段に与える補正量を算出する第1の補正量算出手段と、前記撮影レンズを通した被写体像の撮像面に対する移動検出に基づいて前記画振れ補正手段に与える補正量を算出する第2の補正量算出手段と、前記光学ズームの倍率が低い場合には前記第1の補正量算出手段によって算出された補正量を用いて前記画振れ補正手段による画振れの補正を行わせる一方、前記光学ズームの倍率が高い場合には前記第2の補正量算出手段によって算出された補正量を用いて前記画振れ補正手段による画振れの補正を行わせる制御手段として機能させるためのプログラムである。
本発明では、機械的振れ検出手段に相当する「第1の補正量算出手段」と、電子的振れ検出手段に相当する「第2の補正量算出手段」とによって算出された二つの振れ補正量を、光学ズーム倍率に応じて選択的に切り換えながら、画振れ補正手段による画振れの補正を行うので、光学ズーム倍率の変更に伴う振れ検出の精度低下を防止することができる。
本発明の実施形態を、画振れ防止機能を備えた撮像装置、たとえば、デジタルカメラへの適用を例にして、図面を参照しながら説明する。なお、以下の説明における様々な細部の特定ないし実例および数値や文字列その他の記号の例示は、本発明の思想を明瞭にするための、あくまでも参考であって、それらのすべてまたは一部によって本発明の思想が限定されないことは明らかである。また、周知の手法、周知の手順、周知のアーキテクチャおよび周知の回路構成等(以下「周知事項」)についてはその細部にわたる説明を避けるが、これも説明を簡潔にするためであって、これら周知事項のすべてまたは一部を意図的に排除するものではない。かかる周知事項は本発明の出願時点で当業者の知り得るところであるので、以下の説明に当然含まれている。
図1は、本実施形態に係るデジタルカメラ10の構成図である。この図において、デジタルカメラ10は、撮影レンズ部11、レンズ駆動部12、撮像素子13、ADC回路14、TG回路15、撮像素子駆動回路16、バス17、画像処理部18、JPEG変換部19、MPEG変換部20、画像間動き検出部21、振れ補正部22、ビデオ部23、ビデオ信号入出力端子24、表示部25、外部メモリI/F26、外部メモリ27、SDRAM28、フラッシュメモリ29、ジャイロセンサ30、増幅部31、アナログデジタル変換部32、キー操作入力部33、オーディオ部34、オーディオ信号入出力端子35、I/Oポート36、デジタルデータ入出力端子37、制御部38、及び、不図示の電源部などを備える。
撮影レンズ部11は、AF(オートフォーカス)や絞り機構、ズーム機構及び光学的な画振れ補正機構を備える。AFと絞り機構は周知の構成であるので、図示を省略するが、ズーム機構は、テレ端(望遠端)からワイド端(広角端)までの間の任意のズーム倍率で画角αを変更することができる撮影レンズ群11aを主たる要素として構成されている。また、画振れ補正機構は、必要に応じてこの撮影レンズ群11aの光軸11bを微妙に調整して光学的に画振れを補正する画振れ補正レンズ(又は手振れ補正レンズともいう。)11cを主たる要素として構成されている。これらの構成を有する撮影レンズ部11は、制御部38によって適宜にコントロールされるレンズ駆動部12からの制御を受けて、AFや絞り、ズーム及び画振れの各動作が制御される。
撮像素子13は、撮影レンズ部11を透過した被写体像を撮像信号に変換して出力する、たとえば、CCDやCMOS等の二次元光電変換素子で構成されており、撮像素子13の撮像動作は撮像素子駆動回路16によって制御される。ADC回路14は、撮像素子13から出力された撮像信号を相関二重サンプリングして増幅し、増幅後の撮像信号をデジタル信号に変換してTG回路15及びバス17を介して、画像処理部18に出力する。
バス17には、上記のTG回路15や画像処理部18の他に、外部メモリI/F26、SDRAM28、フラッシュメモリ29及び制御部38などが接続されており、上記の画像処理部18は、このバス17を介して制御部38のコントロールを受けながら所要の画像処理を実行する。
制御部38は、ワンチップマイクロコンピュータ(以下、単にマイコン又はコンピュータという。)を主たる要素として構成されており、フラッシュメモリ29に予め格納されているOS(オペレーティングシステム)や各種制御プログラム等のソフトウェアリソースをSDRAM28にロードし、それらのソフトウェアリソースを実行することによって、上記の画像処理部18を含むデジタルカメラ10の各部の動作を統括制御する。
具体的には、制御部38は、撮像素子13から周期的に取り出される(たとえば、毎秒数十フレームの周期で取り出される)撮像信号を、液晶パネル等で構成された表示部25に出力することにより、ユーザに対して構図確認用のファインダ画像(スルー画像ともいう。)を提供するという処理を実行する。また、制御部38は、ユーザによるシャッタボタン33aの“半押し”を検出して撮影レンズ部11のAF及び絞りを制御するという処理を実行する。また、制御部38は、ユーザによるシャッタボタン33aの“全押し”を検出したときに、撮像素子13からの撮像信号をJPEG変換部19(静止画記録の場合)やMPEG変換部20(動画記録の場合)で圧縮処理した後、その圧縮画像を外部メモリI/F26を介して外部メモリ27に記録するという処理を実行する。また、制御部38は、ユーザによる再生ボタン33bの操作時に、外部メモリI/F26を介して外部メモリ27から記録済みの画像を読み出し、JPEG変換部19(静止画読み出しの場合)やMPEG変換部20(動画読み出しの場合)で伸張処理した後、その伸張画像を表示部25に出力して再生表示するという処理を実行する。また、制御部38は、必要に応じて、外部メモリI/F26を介して外部メモリ27から読み出した画像をI/Oポート36及びデジタルデータ入出力端子37を介して外部に出力したり、外部から取り込んだ画像を外部メモリI/F26を介して外部メモリ27に保存したりする処理を実行する。また、制御部38は、必要に応じて、ビデオ部23やビデオ信号入出力端子24及びオーディオ部34やオーディオ信号入出力端子35を介してスルー画像又は再生画像を外部に出力したり、或いは、外部から取り込んだビデオ信号やオーディオ信号を表示部25に出力して再生表示したりする処理を実行する。また、制御部38は、ユーザによってズームボタン33cのズーム操作(テレ側への操作又はワイド側への操作)が行われたとき、その操作に対応したズーム信号を生成し、そのズーム信号をレンズ駆動部12に出力して、撮影レンズ部11の画角αを変更するという処理を実行する。
加えて、制御部38は、デジタルカメラ10の画振れを検出するという処理を実行する。ここで、本実施形態のデジタルカメラ10は二つの画振れ検出手段を備えている。その一つは、ジャイロセンサ30の検出信号に基づいて行われるものであり、他の一つは、画像処理部18の画像間動き量検出部21で行われるものである。以下、前者を「機械的振れ検出手段」、後者を「電子的振れ検出手段」ということにする。
図2は、本実施形態における機械的振れ検出手段と電子的振れ検出手段の概念図である。まず、機械的振れ検出手段は、(a)に示すように、デジタルカメラ10の本体10aに加えられる角速度又は角加速度をジャイロセンサ30で検出して、振れの方向と大きさを判定するというものである。ジャイロセンサ30は、好ましくはX、Y及びZ方向の3軸加速度(角速度又は角加速度)を検出するものである。画振れが発生した場合、X、Y及びZの各加速度のうち、画振れの方向に対応した加速度の値が大きく変化する。
電子的振れ検出手段は、(b)に示すように、撮像素子13によって撮像された連続する二つのフレーム39、40の間の画像の動き量に基づいて振れの方向と大きさを判定するというものである。たとえば、この図では、二つのフレーム39、40に同一の被写体41が写っているが、時間的に後に写された右側のフレーム40の被写体41は、左側のフレーム39の同じ被写体41に対して、位置が若干ずれている(ここでは左にずれている)。この“ずれ”の方向と大きさから、画振れを判定することができる。なお、右側のフレーム40の破線で示す被写体41aは、比較のための元の被写体41である。
ここで、機械的振れ検出手段と電子的振れ検出手段を対比すると、純粋な画振れ成分のみを検出するという点で、機械的振れ検出手段の方が優れている。これは、電子的振れ検出手段は、画像の動きから振れを検出するため、純粋な画振れ成分のみならず、被写体の動き(つまり、被写体振れ)も一緒に検出してしまうからである。また、省電力の点でも機械的振れ検出手段の方が優れている。機械的振れ検出手段のジャイロセンサ30がほとんど電力を消費しないのに対し、電子的振れ検出手段は、画像処理のために、相当量の電力(画像処理部18の動作電力やSDRAM28等のメモリアクセスで消費される電力)を消費するからである。
このように、純粋な画振れ成分のみを検出し、且つ、電力消費が少ないという利点を持つ機械的振れ検出手段ではあるが、一方で、特定の条件下、たとえば、ズーム倍率が高い場合に電子的振れ検出手段に対して振れの検出精度が劣るという欠点がある。
図3は、ズーム倍率を変化させた場合の機械的振れ検出手段の検出精度を示す図である。この図において、θ1、θ2は機械的振れ検出手段(ジャイロセンサ30)によって検出された広角側と望遠側の振れ量(光軸11bとのなす角)である。θ1=θ2とした場合、撮像素子13の撮像面13aにおける画振れ補正量L1、L2は「L1<L2」になる。
図4は、振れ量が同じ(θ1=θ2)場合の画像の振れ幅を示す図である。この図において、(a)は広角側(たとえば、1倍)の画像、(b)は望遠側(たとえば、3倍)の画像である。この図に示すように、1倍の画像でL画素の振れ量は、3倍の画像で3×L画素の振れ量になる。したがって、機械的振れ検出手段の検出解像度を等倍でA画素、電子的振れ検出手段の振れ解像度をB画素、光学ズームの倍率をZ倍とすれば、「A×Z>B」の関係になったときに、機械的振れ検出手段の検出解像度が電子的振れ検出手段の解像度を上回り、電子的振れ検出手段の解像度の方が優位に立つことになる。
図5は、機械的振れ検出手段と電子的振れ検出手段の選択概念図である。この図において、縦軸は振れ量の検出解像度、横軸は光学ズームの倍率である。図示のとおり、電子的振れ検出手段の解像度特性線42は、光学ズームの倍率にかかわらず一定であるが、機械的振れ検出手段の解像度特性線43は、光学ズームの倍率に応じて線形的に変化し、あるポイント(以下、クロスポイントという。)を境にして、電子的振れ検出手段の解像度特性線42を下回ってしまう。このクロスポイントは上記の関係(A×Z>B)に相当し、このクロスポイントの左側の領域(広角側)で機械的振れ検出手段が有利となり、このクロスポイントの右側の領域(望遠側)で電子的振れ検出手段が有利となる。
したがって、光学ズームの倍率が、クロスポイントよりも右側の領域(望遠側)に入った場合に、機械的振れ検出手段から電子的振れ検出手段に切り換えるようにすれば、ジャイロセンサ30(機械的振れ検出手段)の検出結果に基づく振れ補正量よりも細かな分解能で振れ補正を行うことができ、振れ検出と振れ補正の精度を向上することができる。一方、光学ズームの倍率が、クロスポイントよりも左側の領域(広角側)に入った場合に、電子的振れ検出手段から機械的振れ検出手段に切り換えるようにすれば、この機械的振れ検出手段の電力消費の方が少ないので、省電力化を図ることができる。
制御部38は、これら二つの振れ検出手段(機械的振れ検出手段と電子的振れ検出手段)を選択的に使用して画振れを“検出”すると共に、以下に説明する二つの画振れ補正手段(機械的振れ補正手段と電子的振れ補正手段)のいずれか一方を使用して画振れを“補正”する。
機械的振れ補正手段は、撮影レンズ部11に備えられた画振れ補正レンズ11cを用いて光学的又は機械的に画振れを補正するというものであり、電子的振れ補正手段は、画像処理部18の振れ補正部22によって電子的に行われるものである。本実施形態においては、このうちのいずれの補正手段を用いても構わない。すなわち、いずれの補正手段を使用するかは、もっぱら補正精度や消費電力の観点から適宜に決定すればよく、当然ながら、使用しない方の補正手段をデジタルカメラ10に組み込む必要はない。
図6は、本実施形態における機械的振れ補正手段と電子的振れ補正手段の概念図である。機械的振れ補正手段は、(a)に示すように、撮影レンズ群11aの光軸11bを画振れ補正レンズ11cによって調節することにより、画振れを補正するものである。また、電子的振れ補正手段は、(b)に示すように、撮像素子13の画像の切り出し位置をずらす(撮像面13a上の波線で示す範囲13bがずらされた切り出し位置である。)ことにより、画振れを補正するものである。いずれか一方の補正手段をデジタルカメラ10に組み込めばよい。なお、本実施形態では、説明の便宜上、これら二つの補正手段をデジタルカメラ10に組み込んでいるものとする。
すなわち、本実施形態のデジタルカメラは、二つの振れ検出手段(機械的振れ検出手段/電子的振れ検出手段)と、二つの振れ補正手段(機械的振れ補正手段/電子的振れ補正手段)とを備え、これらを選択的に組み合わせることにより、振れの“検出”と“補正”とを行うものであるが、重要な点は、二つの振れ検出手段(機械的振れ検出手段/電子的振れ検出手段)を選択的に使用することにある。
図7は、振れ検出手段と振れ補正手段の組み合わせを示す図である。上記のとおり、本実施形態のデジタルカメラ10は、振れ検出と振れ補正の手段を二つずつ備えているから、その組み合わせは2×2=4通りになる。各組み合わせにM1〜M4の番号を付すことにする。M1は機械的振れ検出手段と機械的振れ補正手段の組み合わせ、M2は電子的振れ検出手段と機械的振れ補正手段の組み合わせ、M3は機械的振れ検出手段と電子的振れ補正手段の組み合わせ、M4は電子的振れ検出手段と電子的振れ補正手段の組み合わせである。
前記のとおり、本実施形態において重要な点は、二つの振れ検出手段(機械的振れ検出手段/電子的振れ検出手段)を選択的に使用することにあるから、これらの組み合わせのうち、振れ検出手段の「機械的」(M1、M3)と「電子的」(M2、M4)のいずれを選択するかがポイントであり、振れ補正手段のいずれを組み合わせても構わない。すなわち、発明の思想上、M1とM3、M2とM4は同等であり、M1とM3、M2とM4のどちらを選択してもよい。
図8は、制御部38で実行される本実施形態における振れ検出と振れ補正の処理フローを示す図である。このフローでは、まず、ユーザによって撮影シーン(モード)が指示されているか否かを判定する(ステップS11)。撮影シーンとは、風景や人物のスナップ撮影等のように、予め決まった撮影スタイルに対してAFや露出及びシャッタ速度等の撮影条件をプログラムしたオート撮影モードのことをいう。
図9は、撮影シーンのリスト図である。このリストは、予めフラッシュメモリ29に格納され、必要に応じ、ユーザによって選択されるものである。撮影シーンは、たとえば、「風景撮影」、「人物のスナップ撮影」、「サッカー試合の撮影」・・・・などである。一般的に風景撮影の場合は被写界深度を深くするために絞りを小さくする。また、人物のスナップ撮影では、背景や全景をぼかして被写体(この場合、人物)にピントを合わせるために絞りを開き気味にする。また、サッカー試合の撮影のように動きを伴う被写体を撮影する場合には、早めのシャッタ速度を選択する。
撮影シーンのリストには、図示を略すが、これらの絞りやシャッタ速度等の撮影条件がシーンごとに格納されている他、図示のとおり、被写体の動きの複雑度を表す指数(以下、被写体の動きの複雑度指数、又は、単に複雑度指数という。)がシーンごとに格納されている。たとえば、動きがほとんどない「風景撮影」の複雑度指数として“0”、多少の動きがある「人物のスナップ撮影」の複雑度指数として“10”、相当の動きがある「サッカー試合の撮影」の複雑度指数として“80”が格納されている。もちろん、これらの複雑度指数の値は一例に過ぎない。
ちなみに、「風景撮影」は、ユーザによって意図的に指定された場合のみならず、自動判定が指示されたときに画角内に動く被写体が存在しない場合も、この「風景撮影」とみなすようになっている。同様に、自動判定が指示されたときに、全画角のある割合(たとえば10%)を占める少ない数(たとえば1つ)の移動体が低速(たとえば毎秒5画素の速度)で移動している場合は、「人物のスナップ撮影」とみなし、また、画角内の小領域(たとえば5%)を占める多くの(たとえば15個程度)の移動体が速めの速度(たとえば毎秒20画素の速度)で移動している場合は、「サッカー試合の撮影」とみなすようになっている。
ステップS11の判定結果が“YES”の場合、すなわち、ユーザによって撮影シーン(モード)が指示されている場合は、図9の撮影シーンのリストを参照して、その撮影シーンに対応した複雑度指数を推定し(ステップS12)、ステップS11の判定結果が“NO”の場合、すなわち、ユーザによって撮影シーン(モード)が指示されていない場合は、次に、被写体自動判定が指示されているか否かを判定する(ステップS13)。そして、被写体自動判定が指示されている場合は、撮影記録を開始する前の段階でモニタ表示用に逐次撮像して得られる画像データに基づいて被写体の状態(撮影シーン)を自動判定する。具体的には、前後の画像データの比較により画像内の各部の動きベクトルを求め、同じ動きベクトルを持つ連続領域を1つにまとめることにより、画像内を複数の領域に区分し、最も大きい領域を背景、その他の領域を動く物体とみなす。そして、動く物体に対応する各領域の面積や背景部分に対する動きを特定し、この特定された被写体の状態を、図9の撮影シーンのリストの自動判定条件と照らし合わせて、合致した撮影シーンに対応した複雑度指数を推定する(ステップS15)。また、被写体自動判定が指示されていない場合は、予め定められた所定の複雑度指数に設定する(ステップS14)。
このようにして、複雑度指数の推定又は設定を完了すると、次に、現在のズーム倍率(撮影レンズ部11のズーム倍率)を取得し(ステップS16)、そのズーム倍率と先の複雑度指数とを適用した場合の二つの振れ検出手段(機械的振れ検出手段/電子的振れ検出手段)のいずれ(図7のM1又はM3とM2又はM4)の検出精度が高いかを所定の判定テーブル(以下、振れ検出手段切り換え判定テーブル)を参照しながら判定する(ステップS17)。所定のテーブルについては後述する。
次いで、ステップS17の判定結果に従って振れ検出手段を切り換え(ステップS18)、シャッタボタンの半押しまで待機し(ステップS19)、シャッタボタンが半押しされると、ステップS18で切り換えられた振れ検出手段(機械的振れ検出手段又は電子的振れ検出手段)を用いて振れ検出を開始する。このとき、機械的振れ検出手段が選択されている場合には、例えば「5°」のように角度が振れ検出結果として出力される。また、電子的振れ検出手段が選択されている場合には、例えば「10ドット」のように画素数が振れ検出結果として出力される。また、この検出結果に従って、二つの振れ補正手段(機械的振れ補正手段/電子的振れ補正手段)のいずれかを用いて振れ補正を開始する。このとき、電子的振れ補正手段を用いる場合であれば、撮像画像の切り出し位置の調整値を画素数で与える必要があるため、振れ検出結果として角度が出力されている場合には、この角度を画素数に変換する。なお、この変換処理は、例えば、予めズーム倍率が1倍のときの角度と画素数の対応関係を記憶しておけば、任意のズーム倍率の場合でも演算により求めることができる。同様にして、機械的振れ補正手段を用いる場合であれば、レンズの光軸の傾きの調整値を角度で与える必要があるため、振れ検出結果として画素数が出力されている場合には、この画素数を角度に変換する。なお、この変換処理は、上記角度から画素数への変換と逆の変換を行えばよい(ステップS20)。そして、シャッタボタンの全押しまで待機し(ステップS21)、シャッタボタンが全押しされると、撮影を開始する(ステップS23)という処理を実行する。
図10は、振れ検出手段切り換え判定テーブルの概念図である。この図において、(a)はズーム倍率と二つの振れ検出手段の検出精度との対応関係を示す図であり、(b)は被写体の動きの複雑度指数と二つの振れ検出手段の検出精度との対応関係を示す図である。
(a)の縦軸は振れ検出精度、横軸はズーム倍率であり、ステップS16で取得した現在のズーム倍率を横軸に当てはめ、そのズーム倍率と、機械的振れ検出手段の検出精度特性線44、電子的振れ検出手段の検出精度特性線45、46との各交点に対応する縦軸(検出精度)の値のうち最も高精度を示す振れ検出手段を、そのズーム倍率に適合する振れ検出手段であるとして判定する。ただし、検出精度特性線45は、被写体の動きの複雑度指数“50”に対応するもの、検出精度特性線46は、被写体の動きの複雑度指数“0”に対応するものである。
(b)の縦軸は振れ検出精度、横軸は複雑度指数であり、ステップS12、ステップS14又はステップS15で推定又は設定した複雑度指数を横軸に当てはめ、その複雑度指数と、電子的振れ検出手段の検出精度特性線47、機械的振れ検出手段の検出精度特性線48、49との各交点に対応する縦軸(検出精度)の値のうち最も高精度を示す振れ検出手段を、その複雑度指数に適合する振れ検出手段であるとして判定する。ただし、検出精度特性線48は、ズーム倍率3倍に対応するもの、検出精度特性線49は、ズーム倍率1倍に対応するものである。
(a)及び(b)で示す振れ検出手段切り換え判定テーブルは、以下の考え方に従って設定されたものである。
振れ検出処理と振れ補正処理とに分けて見た場合、補正処理においては、機械的振れ補正手段よりも電子的振れ補正手段の方が消費電力が低いが、検出処理においては、逆に機械的振れ検出手段の方が消費電力が低くなる。このように、省電力性の点では、機械的振れ検出手段と電子的振れ補正手段との組み合わせ(図7のM3)とすべきであるが、光学ズームの倍率によっては必ずしもそうなるとは言い切れない。機械的振れ検出手段では、高倍率時に振れ検出精度が低下することがあるからである。したがって、ズーム倍率が低い場合は機械的振れ検出手段を選択(図7のM1又はM3)する一方、ズーム倍率が高くなった場合は電子的振れ検出手段を選択(図7のM2又はM4)することにより、省電力性と振れ補正精度の向上とを両立させることができる。
また、電子的振れ検出手段は、移動する被写体の存在により振れ検出精度が低下するという欠点がある。したがって、実用上は、ズーム倍率だけでなく、移動する被写体の有無に応じても、機械的振れ検出手段と電子的振れ検出手段とを切り換えるようにすべきである。図9の振れ検出手段切り換え判定テーブルは、このような考え方に従って設定されたものである。
また、機械的振れ検出手段の振れ検出精度と電子的振れ検出手段の振れ検出精度とが釣り合うときの光学ズーム倍率は一概に決まらず、機器の性能や撮影状況などに応じて変化する。このため、振れ検出手段を切り換える光学ズーム倍率の閾値の設定を、予め記憶している情報(状況に応じた検出精度の変化曲線のデータ)に基づいて動的に設定することにより、どのような状況でも振れ補正精度が大きく変化してしまうことを防止することができる。
また、低消費電力と振れ補正精度のどちらを優先するかを、ユーザが任意に指定できるようにしてもよい。この指定に応じて光学ズーム倍率を切り換える閾値を変化させることで、低消費電力と振れ補正精度の向上とを状況に応じてバランス良く設定することができる。
また、低消費電力を優先する場合、その優先度に段階を設けてもよい。
図11は、低消費電力優先の段階テーブルを示す図である。この図に示すように、ズーム倍率に対して、消費電力の優先度が低い場合の切り換え点P1、消費電力の優先度が標準の場合の切り換え点P2、及び、消費電力の優先度が高い場合の切り換え点P3を設け、ユーザによって指定された消費電力優先度(低/標準/高)に対応した切り換え点(P1〜P3のいずれか)を選択して、電子的振れ検出手段と機械的振れ検出手段の切換を行うようにしてもよい。
なお、以上の説明では、振れ補正手段について、光学的振れ補正手段と電子的振れ補正手段の二つを備えるものとしたが、この補正手段に関しては、「機械的」又は「電子的」のいずれか一方を備えるものであってもよい。つまり、本件発明の本質は、光学ズーム倍率や被写体の動きの複雑度指数に基づいて、二つの振れ検出手段(機械的振れ検出手段/電子的振れ検出手段)を切り換えて用いることにあり、振れ検出後の“補正”については、「機械的」又は「電子的」のいずれを用いて行っても構わないからである。
本実施の形態の主要な機能は、マイクロコンピュータ(制御部38)を含むハードウェア資産と、フラッシュメモリ29に格納されたOSや各種プログラムなどのソフトウェア資産との有機的結合によって機能的に実現されるものであるが、ハードウェア資産およびOSは汎用のものを利用できるから、本発明にとって欠くことのできない必須の事項は、実質的に、前記の「振れ検出と振れ補正の処理フロー」(図8参照)や、前記の「振れ検出手段切り換え判定テーブル」(図10参照)に集約されているということがいえる。したがって、本発明は、これらの処理プログラムやテーブルのすべてまたはその要部、さらには、それらを格納した、フロッピー(登録商標)ディスク、MO、CD、ハードディスク、半導体メモリなどの記録媒体(それ自体が流通経路に乗るものはもちろん、ネットワーク上にあって記録内容だけを提供するものも含む)を包含するものである。
本実施形態に係るデジタルカメラ10の構成図である。 本実施形態における機械的振れ検出手段と電子的振れ検出手段の概念図である。 ズーム倍率を変化させた場合の機械的振れ検出手段の検出精度を示す図である。 振れ量が同じ(θ1=θ2)場合の画像の振れ幅を示す図である。 機械的振れ検出手段と電子的振れ検出手段の選択概念図である。 本実施形態における機械的振れ補正手段と電子的振れ補正手段の概念図である。 振れ検出手段と振れ補正手段の組み合わせを示す図である。 制御部38で実行される本実施形態における振れ検出と振れ補正の処理フローを示す図である。 撮影シーンのリスト図である。 振れ検出手段切り換え判定テーブルの概念図である。 低消費電力優先の段階テーブルを示す図である。
符号の説明
10 デジタルカメラ(撮像装置)
10a 本体(撮像装置本体)
11 撮影レンズ部(撮影レンズ)
11c 画振れ補正レンズ(画振れ補正手段)
13 撮像素子(撮像手段)
13a 撮像面
21 画像間動き検出部(第2の補正量算出手段)
22 振れ補正部(画振れ補正手段)
30 ジャイロセンサ(第1の補正量算出手段)
38 制御部(制御手段)
S17 ステップ(判定手段)

Claims (11)

  1. 光学ズーム付きの撮影レンズを通して撮像面に結像した被写体像を画像信号に変換する撮像手段と、
    指定された補正量に基づいて前記画像信号の画振れを補正する画振れ補正手段と、
    前記撮影レンズを含む撮像装置本体の動き検出に基づいて前記画振れ補正手段に与える補正量を算出する第1の補正量算出手段と、
    前記撮影レンズを通した被写体像の撮像面に対する移動検出に基づいて前記画振れ補正手段に与える補正量を算出する第2の補正量算出手段と、
    前記光学ズームの倍率が低い場合には前記第1の補正量算出手段によって算出された補正量を用いて前記画振れ補正手段による画振れの補正を行わせる一方、前記光学ズームの倍率が高い場合には前記第2の補正量算出手段によって算出された補正量を用いて前記画振れ補正手段による画振れの補正を行わせる制御手段と
    を備えたことを特徴とする撮像装置。
  2. 前記第1の補正量算出手段は、ジャイロセンサが出力する角速度または角加速度に基づいて前記撮影レンズを含む撮像装置本体の動き検出を行うことを特徴とする請求項1記載の撮像装置。
  3. 前記第2の補正量算出手段は、前記撮像手段によって連続して撮像された複数の画像信号の比較に基づいて前記撮影レンズを通した被写体像の撮像面に対する移動検出を行うことを特徴とする請求項1記載の撮像装置。
  4. 前記画振れ補正手段は、指定された補正量に基づいて、前記撮影レンズの光軸を調整することにより画振れを補正することを特徴とする請求項1記載の撮像装置。
  5. 前記画振れ補正手段は、指定された補正量に基づいて、前記撮像手段から出力される画像信号の画像の切り出し位置を移動させることにより画振れを補正することを特徴とする請求項1記載の撮像装置。
  6. 前記制御手段は、前記第1の補正量算出手段が算出する補正量の誤差や信頼性を示す精度と、第2の補正量算出手段が算出する補正量の誤差や信頼性を示す精度とが所定の関係となる光学ズームの倍率を基準として、前記第1の補正量算出手段によって算出された補正量と、前記第2の補正量算出手段によって算出された補正量とのどちらを用いるかを判定する判定手段を含むことを特徴とする請求項1記載の撮像装置。
  7. 前記判定手段は、前記光学ズームの倍率が高くなるにつれて低下する前記第1の補正量算出手段による補正量の算出精度が、前記第2の補正量算出手段による補正量の算出精度よりも低下した場合に、前記第2の補正量算出手段によって算出された補正量を用いるように判定することを特徴とする請求項6記載の撮像装置。
  8. 前記判定手段は、被写体の動きの複雑度が高くなるにつれて低下する前記第2の補正量算出手段による補正量の算出精度が、前記第1の補正量算出手段による補正量の算出精度よりも低下した場合に、前記第1の補正量算出手段によって算出された補正量を用いるように判定することを特徴とする請求項6または7記載の撮像装置。
  9. 前記判定手段は、消費電力の低減に対する優先度がより高くなった場合に、前記第1の補正量算出手段による補正量がより多く用いられるように判定することを特徴とする請求項6乃至8記載の撮像装置。
  10. 光学ズーム付きの撮影レンズを通して撮像面に結像した被写体像を画像信号に変換する撮像工程と、
    指定された補正量に基づいて前記画像信号の画振れを補正する画振れ補正工程と、
    前記撮影レンズを含む撮像装置本体の動き検出に基づいて前記画振れ補正工程に与える補正量を算出する第1の補正量算出工程と、
    前記撮影レンズを通した被写体像の撮像面に対する移動検出に基づいて前記画振れ補正工程に与える補正量を算出する第2の補正量算出工程と、
    前記光学ズームの倍率が低い場合には前記第1の補正量算出工程によって算出された補正量を用いて前記画振れ補正工程による画振れの補正を行わせる一方、前記光学ズームの倍率が高い場合には前記第2の補正量算出工程によって算出された補正量を用いて前記画振れ補正工程による画振れの補正を行わせる制御工程と
    を含むことを特徴とする撮像方法。
  11. コンピュータを、
    光学ズーム付きの撮影レンズを通して撮像面に結像した被写体像を画像信号に変換する撮像手段と、
    指定された補正量に基づいて前記画像信号の画振れを補正する画振れ補正手段と、
    前記撮影レンズを含む撮像装置本体の動き検出に基づいて前記画振れ補正手段に与える補正量を算出する第1の補正量算出手段と、
    前記撮影レンズを通した被写体像の撮像面に対する移動検出に基づいて前記画振れ補正手段に与える補正量を算出する第2の補正量算出手段と、
    前記光学ズームの倍率が低い場合には前記第1の補正量算出手段によって算出された補正量を用いて前記画振れ補正手段による画振れの補正を行わせる一方、前記光学ズームの倍率が高い場合には前記第2の補正量算出手段によって算出された補正量を用いて前記画振れ補正手段による画振れの補正を行わせる制御手段と
    して機能させるためのプログラム。
JP2007040782A 2007-02-21 2007-02-21 撮像装置、撮像方法、及びプログラム Expired - Fee Related JP4840731B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007040782A JP4840731B2 (ja) 2007-02-21 2007-02-21 撮像装置、撮像方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007040782A JP4840731B2 (ja) 2007-02-21 2007-02-21 撮像装置、撮像方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2008205915A true JP2008205915A (ja) 2008-09-04
JP4840731B2 JP4840731B2 (ja) 2011-12-21

Family

ID=39782900

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007040782A Expired - Fee Related JP4840731B2 (ja) 2007-02-21 2007-02-21 撮像装置、撮像方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP4840731B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010061627A1 (ja) * 2008-11-28 2010-06-03 パナソニック株式会社 振れ量測定システム、振れ量測定方法および撮像装置
JP2014182209A (ja) * 2013-03-18 2014-09-29 Canon Inc 撮像装置及びその制御方法
KR20150096902A (ko) * 2014-02-17 2015-08-26 삼성전기주식회사 이미지 보정 장치 및 그 방법
JP2016045471A (ja) * 2014-08-26 2016-04-04 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
CN113170039A (zh) * 2018-11-29 2021-07-23 富士胶片株式会社 抖动校正控制装置、摄像装置、摄像装置的抖动校正方法及程序

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07123317A (ja) * 1993-10-21 1995-05-12 Canon Inc 防振機能付き撮影装置
JP2002016836A (ja) * 2000-06-29 2002-01-18 Toshiba Corp 撮像装置の揺れ補正装置及び方法
JP2006128781A (ja) * 2004-10-26 2006-05-18 Konica Minolta Photo Imaging Inc 撮影装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07123317A (ja) * 1993-10-21 1995-05-12 Canon Inc 防振機能付き撮影装置
JP2002016836A (ja) * 2000-06-29 2002-01-18 Toshiba Corp 撮像装置の揺れ補正装置及び方法
JP2006128781A (ja) * 2004-10-26 2006-05-18 Konica Minolta Photo Imaging Inc 撮影装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010061627A1 (ja) * 2008-11-28 2010-06-03 パナソニック株式会社 振れ量測定システム、振れ量測定方法および撮像装置
US8754949B2 (en) 2008-11-28 2014-06-17 Panasonic Corporation Shake measurement system, shake measurement method, and imaging device
JP2014182209A (ja) * 2013-03-18 2014-09-29 Canon Inc 撮像装置及びその制御方法
KR20150096902A (ko) * 2014-02-17 2015-08-26 삼성전기주식회사 이미지 보정 장치 및 그 방법
KR102163045B1 (ko) * 2014-02-17 2020-10-08 삼성전기주식회사 이미지 보정 장치 및 그 방법
JP2016045471A (ja) * 2014-08-26 2016-04-04 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
CN113170039A (zh) * 2018-11-29 2021-07-23 富士胶片株式会社 抖动校正控制装置、摄像装置、摄像装置的抖动校正方法及程序
US11528418B2 (en) 2018-11-29 2022-12-13 Fujifilm Corporation Shake correction control device, imaging apparatus, shake correction method of imaging apparatus, and program
CN113170039B (zh) * 2018-11-29 2022-12-16 富士胶片株式会社 抖动校正控制装置及摄像装置
US11758270B2 (en) 2018-11-29 2023-09-12 Fujifilm Corporation Shake correction control device, imaging apparatus, shake correction method of imaging apparatus, and program
US12081870B2 (en) 2018-11-29 2024-09-03 Fujifilm Corporation Shake correction control device, imaging apparatus, shake correction method of imaging apparatus, and program

Also Published As

Publication number Publication date
JP4840731B2 (ja) 2011-12-21

Similar Documents

Publication Publication Date Title
US9607361B2 (en) Image processing apparatus and image processing method
JP4761146B2 (ja) 撮像装置及びそのプログラム
EP2211306B1 (en) Imaging apparatus, subject tracking method and storage medium
US9253403B2 (en) Image stabilization apparatus, control method therefor, storage medium storing control program therefor, and image pickup apparatus equipped with image stabilization apparatus
US20120176505A1 (en) Method and apparatus for capturing moving picture
JP2008129554A (ja) 撮像装置及びオートフォーカス制御方法
JP4985251B2 (ja) 撮像装置、フォーカス制御方法、フォーカス制御プログラム
JP5623256B2 (ja) 撮像装置、その制御方法及びプログラム
JP2007134991A (ja) 画像信号処理装置、撮像装置、および画像信号処理方法
JP2009164847A (ja) 撮像装置及びその制御方法
US11435550B2 (en) Camera for limiting shifting of focus adjustment optical system
JP2007300581A (ja) 動画撮影装置および動画撮影プログラム
JP2009130577A (ja) 撮像装置及びそのプログラム
JP2009225027A (ja) 撮像装置、撮像制御方法、及びプログラム
JP4840731B2 (ja) 撮像装置、撮像方法、及びプログラム
US10554891B2 (en) Image stabilization apparatus, image stabilization method, image capturing apparatus, image capturing system and non-transitory storage medium
JP2008160770A (ja) 撮影装置、方法およびプログラム
JP2005198148A (ja) 固体撮像素子、撮像装置、および固体撮像素子の駆動方法
JP2005012423A (ja) 撮像装置及び信号処理装置
JP2005303492A (ja) 撮像装置
JP5179859B2 (ja) 撮像装置及び撮像方法
JP5455485B2 (ja) 撮像装置
JP6663217B2 (ja) 撮像装置およびその制御方法
JP2006243609A (ja) オートフォーカス装置
JP2011029719A5 (ja)

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110527

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110629

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110823

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110912

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110925

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141014

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees