JP2011119846A - 撮像装置、撮像方法、およびプログラム - Google Patents

撮像装置、撮像方法、およびプログラム Download PDF

Info

Publication number
JP2011119846A
JP2011119846A JP2009273516A JP2009273516A JP2011119846A JP 2011119846 A JP2011119846 A JP 2011119846A JP 2009273516 A JP2009273516 A JP 2009273516A JP 2009273516 A JP2009273516 A JP 2009273516A JP 2011119846 A JP2011119846 A JP 2011119846A
Authority
JP
Japan
Prior art keywords
camera shake
optical
image
zoom
electronic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009273516A
Other languages
English (en)
Other versions
JP5521518B2 (ja
JP2011119846A5 (ja
Inventor
Fumihiro Kumagai
史裕 熊谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2009273516A priority Critical patent/JP5521518B2/ja
Priority to US12/952,322 priority patent/US8576287B2/en
Priority to CN201010570460.XA priority patent/CN102082910B/zh
Publication of JP2011119846A publication Critical patent/JP2011119846A/ja
Publication of JP2011119846A5 publication Critical patent/JP2011119846A5/ja
Application granted granted Critical
Publication of JP5521518B2 publication Critical patent/JP5521518B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B5/00Adjustment of optical system relative to image or object surface other than for focusing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B2205/00Adjustment of optical system relative to image or object surface other than for focusing
    • G03B2205/0007Movement of one or more optical elements for control of motion blur
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B2205/00Adjustment of optical system relative to image or object surface other than for focusing
    • G03B2205/0046Movement of one or more optical elements for zooming
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B2217/00Details of cameras or camera bodies; Accessories therefor
    • G03B2217/005Blur detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Lens Barrels (AREA)
  • Adjustment Of Camera Lenses (AREA)

Abstract

【課題】ズームをテレ端側にした場合にも従来の光学手振れ補正に比較してより大きな補正角を確保する。
【解決手段】ワイド端では撮像画像の解像度を重視して3(deg)程度の補正角を確保するようにし、その後テレ側に移動するまでは、手振れ補正性能を重視して1(deg)程度の補正角が維持されるようにし、テレ端側ではズーム倍率を重視しつつも0.6(deg)以上の補正角を確保するように設計するためには、光学手振れ補正に組み合わせる電子手振れ補正については、曲線L1との比較により、同図の横軸値1乃至4付近は補正量をゼロとし、同図の横軸値4乃至11付近は補正量を徐々に増すようにし、同図の横軸値11付近以降は補正量が一定となるように設計すればよい。本発明は、デジタルビデオカメラに適用できる。
【選択図】図2

Description

本発明は、撮像装置、撮像方法、およびプログラムに関し、特に、光学手振れ補正と電子手振れ補正の両方を行うようにした撮像装置、撮像方法、およびプログラムに関する。
従来、デジタルビデオカメラやデジタルスチルカメラ(以下、単にカメラとも称する)には、ユーザ(撮像者)の手振れに起因した画像のブレを補正するための手振れ補正機能を有するものがある。手振れ補正機能は、光学手振れ補正と電子手振れ補正に大別することができる(例えば、特許文献1参照)。
光学手振れ補正には、レンズ群全体を移動させるジンバルメカを用いる方式、レンズ群の端に光学シフトレンズを設ける方式、VAP(variable angle prism)を用いる方式、光学シフトレンズとVAPの両方を用いる方式などが存在し、いずれの方式においても、ジャイロセンサにより検知した手振れ量に応じ、レンズ群を介して撮像素子に入射される光軸をシフトすることにより、手振れを相殺するようになされている。
電子手振れ補正は、撮像素子から出力される画像の全領域(撮像領域)をそのまま撮像画像とするのではなく、当該撮像領域上の、ジャイロセンサにより検知した手振れ量に応じて移動させる切り出し領域を撮像画像とすることにより、手振れを相殺するようになされている。撮像領域における切り出し領域の移動可能な範囲を、以下、電子手振れ余剰と称する。
特開2004−88567
図1は、光学手振れ補正と電子手振れ補正の特性を示している。同図に示すように、光学手振れ補正は、電子手振れ補正に比較して概ね優れてはいるものの、サイズやコスト面で劣り、ズームを望遠端(以下、テレ端とも称する)側にした場合に補正角が少なくなってしまうという欠点がある。
これに対して、電子手振れ補正は、ズームをテレ端側にした場合、画質が劣化するものの電子手振れ余剰を確保できるのである程度の補正角を確保することができる。
本発明はこのような状況に鑑みてなされたものであり、光学手振れ補正と電子手振れ補正とを組み合わせることにより、ズームをテレ端側にした場合にも従来の光学手振れ補正に比較してより大きな補正角を確保できるようにするものである。
本発明の一側面である撮像装置は、光学ズームレンズと、前記光学ズームレンズを駆動するアクチュエータと、前記光学ズームレンズを介して入射される被写体の光学像を電気信号としての画像信号に変換する撮像素子とを備える撮像装置において、前記撮像装置に生じた手振れ量を検出する検出手段と、検出された前記手振れ量に応じ、前記撮像素子に入射される前記光学像をシフトすることにより光学手振れ補正を行う光学手振れ補正手段と、変換された前記画像信号に対する画像上に設けられる所定サイズの切り出し領域を、予め設計されている電子手振れ余剰の範囲で、検出された前記手振れ量に応じて移動させ、前記画像の前記切り出し領域を抽出することにより電子手振れ補正を行う電子手振れ補正手段と、前記アクチュエータを制御して、予め設計されている前記電子手振れ余剰の変化に対応付けて、前記光学ズームレンズによるズーム倍率の変化の速度を変調させる光学ズーム速度変調手段とを含む。
前記光学ズーム速度変調手段は、ユーザのズーム操作に対応したズームポジションx、予め設計されている電子手振れ余剰の変化に連動する電子ズーム倍率k、および前記光学ズームレンズの焦点距離Eから得られる減速変調量Jを、予め決定されている前記光学ズームレンズによるズーム倍率の変化の速度Vとその最高速度Vmaxに乗算することにより、前記光学ズームレンズによるズーム倍率の変化の速度を変調させるようにすることができる。
前記光学ズーム速度変調手段は、ユーザのズーム操作に対応したズームポジションx、予め設計されている電子手振れ余剰の変化に連動する電子ズーム倍率k、および前記光学ズームレンズの焦点距離Eを用いた微分演算または差分演算により前記減速変調量Jを逐次算出するようにすることができる。
前記光学ズーム速度変調手段は、ユーザのズーム操作に対応したズームポジションx、予め設計されている電子手振れ余剰の変化に連動する電子ズーム倍率k、および前記光学ズームレンズの焦点距離Eの組み合わせに、予め算出された前記減速変調量Jが対応付けられている減速変調量テーブルを参照することにより、前記減速変調量Jを取得するようにすることができる。
前記電子手振れ余剰は、ズームポジションがワイド側からテレ側に移動するにつれて、ゼロの区間、徐々に増加する区間、最大値を維持する区間を順に推移して変化するように予め設計されているようにすることができる。
本発明の一側面である撮像方法は、光学ズームレンズと、前記光学ズームレンズを駆動するアクチュエータと、前記光学ズームレンズを介して入射される被写体の光学像を電気信号としての画像信号に変換する撮像素子とを備える撮像装置の撮像方法において、前記撮像装置に生じた手振れ量を検出する検出ステップと、検出された前記手振れ量に応じ、前記撮像素子に入射される前記光学像をシフトすることにより光学手振れ補正を行う光学手振れ補正ステップと、変換された前記画像信号に対する画像上に設けられる所定サイズの切り出し領域を、予め設計されている電子手振れ余剰の範囲で、検出された前記手振れ量に応じて移動させ、前記画像の前記切り出し領域を抽出することにより電子手振れ補正を行う電子手振れ補正ステップと、前記アクチュエータを制御して、予め設計されている前記電子手振れ余剰の変化に対応付けて、前記光学ズームレンズによるズーム倍率の変化の速度を変調させる光学ズーム速度変調ステップとを含む。
本発明の一側面であるプログラムは、光学ズームレンズと、前記光学ズームレンズを駆動するアクチュエータと、前記光学ズームレンズを介して入射される被写体の光学像を電気信号としての画像信号に変換する撮像素子とを備える撮像装置の制御用のプログラムであって、前記撮像装置に生じた手振れ量を検出する検出ステップと、検出された前記手振れ量に応じ、前記撮像素子に入射される前記光学像をシフトすることにより光学手振れ補正を行う光学手振れ補正ステップと、変換された前記画像信号に対する画像上に設けられる所定サイズの切り出し領域を、予め設計されている電子手振れ余剰の範囲で、検出された前記手振れ量に応じて移動させ、前記画像の前記切り出し領域を抽出することにより電子手振れ補正を行う電子手振れ補正ステップと、前記アクチュエータを制御して、予め設計されている前記電子手振れ余剰の変化に対応付けて、前記光学ズームレンズによるズーム倍率の変化の速度を変調させる光学ズーム速度変調ステップとを含む処理を撮像装置のコンピュータに実行させる。
本発明の一側面においては、
撮像装置に生じた手振れ量が検出され、検出された手振れ量に応じ、撮像素子に入射される光学像がシフトされることにより光学手振れ補正が行われる。また、変換された画像信号に対する画像上に設けられる所定サイズの切り出し領域が、予め設計されている電子手振れ余剰の範囲で、検出された手振れ量に応じて移動されて、画像の切り出し領域が抽出されることにより電子手振れ補正が行われる。さらに、光学ズームレンズを駆動するアクチュエータが制御されて、予め設計されている電子手振れ余剰の変化に対応付けて、光学ズームレンズによるズーム倍率の変化の速度が変調される。
本発明の一側面によれば、ズームをテレ端側にした場合にも従来の光学手振れ補正に比較してより大きな補正角を確保することができる。
また、本発明の一側面によれば、ユーザに違和感を与えることなく、ズーム倍率を滑らかに変化させることができる。
電子手振れ補正、光学手振れ補正、およびハイブリッド手振れ補正の特性を示す図である。 トータルズーム倍率と補正角の関係を示す図である。 電子手振れ補正の電子手振れ余剰を説明するための図である。 トータルズーム倍率と電子手振れ余剰の関係を示す図である。 電子ズームと切り出しサイズの関係を説明する図である。 ズームポジションと、トータルズーム倍率に対応する焦点距離Eの対数値logEとの関係を示す図である。 トータルズーム倍率の光学ズーム寄与分と電子ズーム寄与分を分けて示す図である。 電子ズーム倍率kの変化に対する光学ズーム速度V’の関係を示す図である。 本発明の適用したデジタルビデオカメラの構成例を示すブロック図である。 手振れ補正モード設定画面の表示例を示す図である。 光学ズーム速度制御処理を説明するフローチャートである。
以下、発明を実施するための最良の形態(以下、実施の形態と称する)について、図面を参照しながら詳細に説明する。なお、説明は、以下の順序で行なう。
1.発明の概要
2.実施の形態
<1.発明の概要>
本発明は、ズームレンズによる光学ズーム機能と電子ズーム機能のうち、少なくとも光学ズーム機能を備えたカメラにおいて、光学手振れ補正と電子手振れ補正とを組み合わせることによりハイブリッド手振れ補正を実現し、図1に示すように、光学手振れ補正と電子手振れ補正とが相互の欠点を補うことにより、ズームをテレ端側にした場合にもある程度の補正角を確保できるようにするものである。
ここで、ズームをテレ端側にした場合にもある程度の補正角を確保するとは、必ずしもズームの広角端(以下、ワイド端とも称する)における補正角と同じ補正角をテレ端側に要求していないことを意味する。すなわち、カメラを保持して撮像するユーザの移動を考慮した場合、ユーザが移動しながら撮像するような状況ではズームをワイド端側に設定しており、反対に、ズームをテレ端側に設定して撮像しているような状況ではユーザは静止していることが多い。当然、ユーザが移動しながら撮像すれば手振れ量は大きくなり、静止して撮像すれば手振れ量を小さくなるので、ワイド端側ほど手振れに対する補正角を大きく設計し、テレ端側はワイド端側よりも少ない補正角に設計すればよいことになる。
図2は、トータルズーム倍率(光学ズームと電子ズームを組み合わせた倍率)と補正角の関係を示している。同図の曲線L1は、光学手振れ補正のみによる補正角の変化を示している。すなわち、光学手振れ補正の補正角は、ワイド端側ほど大きく、テレ端側になるほど小さいことがわかる。
なお、補正角の値については、3(deg)付近は、ユーザが歩きながら撮像したときの手振れに対応可能な値である。また、1(deg)付近の補正角は、ユーザが止まった状態でカメラを意識的に固定することなく気軽に保持して撮像したときの手振れに対応可能な値である。さらに、0.3(deg)付近は、ズームをテレ端側にしたときの既存の光学手振れ補正により確保されている値である。
したがって、本発明を適用したカメラにおいては、テレ端側でのより大きな補正角の確保を目的として、同図の曲線L2に示すような補正角の変化を、光学手振れ補正と電子手振れ補正の組み合わせにより実現する。
すなわち、ワイド端では撮像画像の解像度を重視して3(deg)程度の補正角を確保するようにし、その後テレ側に移動するまでは、手振れ補正性能を重視して1(deg)程度の補正角が維持されるようにし、テレ端側ではズーム倍率を重視しつつも0.6(deg)以上の補正角を確保するように設計する。
なお、曲線L2に示された補正角の変化を実現するに際しての光学手振れ補正に組み合わせる電子手振れ補正については、曲線L1との比較により、同図の横軸値1乃至4付近は補正量をゼロとし、同図の横軸値4乃至11付近は補正量を徐々に増すようにし、同図の横軸値11付近以降は補正量が一定となるように設計すればよいことがわかる。
ここで、電子手振れ補正の補正量の設定について説明するが、その前に改めて電子手振れ補正について簡単に説明する。
図3は、手振れが発生している動画像を構成する連続した2枚の画像を示している。同図に示すように、手振れが発生すると画像上における被写体の位置がずれてしまう。これを補正するためには、撮像素子から出力される画像の全領域(撮像領域10)から、ジャイロセンサにより検知した手振れ量に応じて移動させる切り出し領域12を切り出すことにより、電子手振れ補正後の画像(撮像画像)とする。
この切り出し領域12の移動可能な範囲が電子手振れ余剰11であるので、電子手振れ余剰11のサイズ(以下、電子手振れ余剰サイズと称する)が、電子手振れ補正による補正量を決定づけるパラメータとなる。
したがって、上述したように電子手振れ補正の補正量を設計するとは、すなわち、図4に示す曲線L11のように、同図の横軸値1乃至4付近は電子手振れ余剰サイズをゼロとし、同図の横軸値4乃至11付近は電子手振れ余剰サイズを徐々に増すようにし、同図の横軸値11付近以降は電子手振れ余剰サイズが一定となるように設計することになる。これにより、トータルズーム率に対する補正角の変化を、図2に示された曲線L2の形状に推移させることができる。
なお、図3からも明らかなように、電子手振れ余剰サイズは、切り出し領域12のサイズと相反する変化をする。つまり、切り出し領域12のサイズが小さければ、電子手振れ余剰サイズを大きくとることができるが、切り出し領域12のサイズが大きければ、電子手振れ余剰サイズを小さくせざるを得ない。一方、切り出し領域12のサイズN(%)は、図5に示すように、電子ズームの倍率kにも連動している。
N=100/k(%)
したがって、図4に示された曲線L11のように電子手振れ余剰を変化させるためには、これに伴って電子ズームの倍率kも複雑に変化させる必要が生じる。具体的には、例えば後述する図7の曲線L32のように変化させる必要が生じる。ただし、電子ズームを光学ズームのテレ側に連結させたり併走させたりする場合には、ユーザに対しズーミング時に違和感を生じさせないようトータルズーム倍率の変化が滑らかとなるようにする必要がある。
ここで、トータルズーム倍率の変化について説明する。
図6および図7は、ズームポジションと、トータルズーム倍率に対応する焦点距離Eの対数値logEとの関係を示しており、横軸がズームポジション、縦軸がトータルズーム倍率に対応する焦点距離の対数値logEとされている。ズームポジションは、ユーザからのズーム操作に応じて等速で増減される値とする。
図6Aは、ズームポジションに対するトータルズーム倍率の理想的な変化として挙げることができるトータルズーム倍率に対応する焦点距離Eの対数値logEを示す曲線L21の傾き(対数焦点距離Eの微分量)が一定である状態を示している。このような理想的な変化であれば、撮像される画像を見ているユーザに対して、トータルズーム倍率が滑らかに変化していると感じさせることができる。
図6Bでは、ズームポジションに対するトータルズーム倍率に対応する焦点距離Eの対数値logEを示す曲線L22が、ワイド端側から中間付近までは傾きが一定であるものの、テレ端側でその傾きが増している。これはズーム速度がテレ端側になるに従って加速していることを意味する。このような変化は、上述した同図Aのような理想形ではないものの、ユーザに対して違和感をあまり与えることがない。
これらに対して、図6Cでは、ズームポジションに対するトータルズーム倍率に対応する焦点距離の対数値を示す曲線L23に段差が生じている。これはズーム速度が等速である状態からいったん加速して再び元の等速に戻ったことを意味する。このような変化は、ユーザに対して違和感を与えるので好ましくない。
しかしながら、電子ズーム倍率kを、図7の曲線L32(図4の曲線L11で示された電子手振れ余剰を変化させる場合に対応する)のように変化させることを前提とした場合、光学ズームを図7の曲線L31に示すようにほぼ一定の速度で駆動させると、トータルズーム倍率は図7の曲線L33に示されるようになってしまう。これは、図6Cの曲線L23と同様に、ユーザに対して違和感を与えるので好ましくない。
よってトータルズーム倍率に対応する焦点距離Eの対数値logEを示す曲線の傾きが一定となるように、光学ズーム側の倍率変化を高精度に制御して、その変化の速度を変調させる必要がある。
[設計手法1]
具体的には、電子ズーム倍率kが加味される前の光学ズームのみによるトータルズーム倍率の変化の速度δlog(E)/δx(=一定)と、電子ズーム倍率kが加味されたときのトータルズーム倍率の変化の速度δlog(kE)/δxとが一定となるように制御する。ただし、Eはトータルズーム倍率に対応する焦点距離、xはズームポジション、kは電子ズーム倍率である。
電子ズーム倍率kが加味される前の光学ズームのみによるトータルズーム倍率の変化の速度δlog(E)/δxは、次式(1)に示すように変形できる。
δlog(E)/δx=(δE/δx)/E
・・・(1)
これに対して、電子ズーム倍率kが加味されたときのトータルズーム倍率の変化の速度δlog(kE)/δxは、次式(2)に示すように変形できる。
δlog(kE)/δx=(δk/δx)/k+(δE/δx)/E
・・・(2)
したがって、電子ズーム倍率kを加味する前の速度(式(1)の右辺)と、電子ズーム倍率kを加味したときの速度(式(2)の右辺)とが一定となるためには、電子ズーム倍率の変化の速度Vと、その最高速度Vmaxに次式(3)に示す減速変調量Jを乗算して変調すればよいことになる。
J={(δE/δx)/E}/{(δk/δx)/k+(δE/δx)/E}
・・・(3)
このような変調により、図8に示すように、電子ズーム倍率kの値(曲線L41)が増すにつれて、変調後の光学ズーム倍率の変化の速度V(曲線L42)を減少させることになる。
なお、減速変調量Jは逐次計算するようにしてもよいが、ズームポジションx、電子ズーム倍率k、および焦点距離Eの様々な組み合わせに、予め計算された減速変調量Jが対応付けられている減速変調量テーブルを保持するようにし、それを参照するようにしてもよい。
減速変調量Jを逐次計算する場合、式(3)に示されたような微分演算を行う代わりに差分演算を適用してもよい。
[設計手法2]
ところで、上記の設定手法1では、光学ズームの焦点距離の変化が等速であることを前提としていたが、光学ズームの焦点距離の変化が等速ではない場合、減速変調量Jとして次式(4)を用いればよい。
J={(δE/δx(x_def))/E(x_def)}
/{(δk/δx)/k+(δE/δx)/E}
・・・(4)
ここで、x_defは、光学ズームの焦点距離の変化の速度が等速なる境界条件付近の速度である。
[設計手法3]
ところで、電子ズーム倍率kの変化の形状を任意に設計したい場合には、次式(5)に基づいて電子ズーム倍率kを算出し、その結果得られる電子ズーム倍率kを式(3)に代入すればよい。
{(δE/δx)/E}/{(δk/δx)/k+(δE/δx)/E}
=(δE_calc/δx)/E_calc

∫{((δE/δx)/E)/((δE_calc/δx)/E_calc)}
−(δE/δx)/E dx
=log(k)+C
・・・(5)
このように、電子ズーム倍率kの変化の形状を任意に設計できれば、以下のような問題を解決することができる。
例えば、フォーカスレンズの速度をズームの最高速時に追従させるために、ズームの速度を減速する処理が必要な場合があり、これは一般に「テレ端落とし」と称されている。高倍率のズームレンズでは、望遠側のズーム方向の移動量に対するフォーカス方向の移動量が大きいため、このテレ端落としの傾向が顕著であるが、ズーム速度が高速である時と低速である時で見た目が異なり、加えて、対数軸上で線形に焦点距離が変化しないため、ユーザに多少の違和感を与えてしまっている。そこで、最高速度で、このテレ端落としの速度よりも低い速度に制御された焦点距離カーブを設計して、その焦点距離カーブから、電子ズームカーブを設計するようにすれば、テレ端落とし自体を回避して自然なズームを実現することが可能である。
[設計手法4]
電子ズームの速度Vのみならず、その最高速度Vmaxも変調することにより、最大速度制御の様々な問題を回避することができる。例えば、設計上の不都合から、焦点距離の形状に回避しづらいばらつきがある場合には、
(δk/δx)/k ∝ (δE/δx)/E
log(k)=A exp(logE)+B
つまり
log(k)=E(0) E^A
ただし、焦点距離EのAのべき乗、光学ワイド端(x=0)でk=1となり、E(0)は光学Wide端の焦点距離として、この状態に近い形状に電子ズーム倍率kの変化の形状を設計する。
この様に、焦点距離Eを基準にして電子ズーム倍率kを設計することにより、光学ズーム速度をできるだけ変調させないようにすることができる。
上述した設計手法1と4の一方または、両方を組み合わせることにより、滑らかな制御と自由な電子手振れ余剰の設計の両立が可能になる。なお、ズームレンズの性能によっては、設計手法1の制御ができないことがあり、その場合に設計手法4のみを採用するようにする。
<2.実施の形態>
[デジタルビデオカメラの構成例]
図9は、本発明の実施の形態であるデジタルビデオカメラの構成例を示している。このデジタルビデオカメラ100は、ズームレンズによる光学ズーム機能と電子ズーム機能を備えており、さらに、光学シフトレンズによる光学手振れ補正機能と電子手振れ補正機能とを組み合わせたハイブリッド手振れ補正機能を有している。なお、以下の説明においては、画像に対応する音声に関する記載を省略している。
このデジタルビデオカメラ100は、制御系として、制御部101、操作部102、ROM103、RAM104、ジャイロセンサ118を有している。また、デジタルビデオカメラ100は、撮像系として、モータドライバ105、光学シフトレンズ106とそのアクチュエータ107、ズームレンズ108とそのアクチュエータ109、フォーカスレンズ110とそのアクチュエータ111を有している。また、撮像系にはタイミングジェネレータ112、および撮像素子113が含まれる。
さらに、デジタルビデオカメラ100は、画像処理系として、画像処理部114、ビューファインダ115、記録部116、およびモニタ117を有している。
制御部101は、CPUなどから成り、ROM103に記録されている制御用プログラムを実行することによりデジタルビデオカメラ100の各部を制御する。操作部102は、各種のボタンやモニタ117に積層されたタッチパネルなどから成り、ユーザの操作入力を受け付けて対応する操作信号を制御部101に通知する。ROM103には、制御用プログラムの他、減速変調量テーブルなどが予め記録されている。RAM104には、各種のデータが一時的に保持される。ジャイロセンサ118は、デジタルビデオカメラ100に生じた手振れを検知し、手振れ量を示す検知信号を制御部101に通知する。
モータドライバ105は、制御部101からの制御にしたがって、各アクチュエータ107,109,111を駆動させる。光学シフトレンズ106は、アクチュエータ107に駆動されることにより光学手振れ補正を行う。ズームレンズ108は、アクチュエータ109に駆動されることにより光学ズーム倍率を変化させる。フォーカスレンズ110は、アクチュエータ111に駆動されることにより合焦距離を変化させる。タイミングジェネレータ112は、撮像素子113における画素の取得タイミングを制御する。CMOSまたはCCDなどから成る撮像素子113は、レンズ群を介して入射される光学像を電子データである画像信号に変換して画像処理部114に出力する。
画像処理部114は、撮像時において、撮像素子113から入力される画像信号に基づいてファインダ用動画像を生成し、ビューファインダ115またはモニタ117に出力する。また、画像処理部114は、記録時において、撮像素子113から入力される画像信号を符号化し、その結果得られる符号化ビデオ信号を記録部116に出力する。さらに、画像処理部114は、再生時において、記録部116から入力される符号化ビデオ信号を復号し、その結果得られる画像信号に基づいてモニタ用動画像を生成し、ビューファインダ115またはモニタ117に出力する。
さらに、画像処理部114は、撮像時および記録時において、撮像素子113から入力される画像信号の全領域(図3の撮像領域10)から所定の範囲(図3の切り出し領域12)を切り出すことにより、電子手振れ補正または電子ズームを実現する。
ビューファインダ115は、撮像時においてファイン用動画像を、再生時においてモニタ用動画像を表示する。記録部116は、記録時において、画像処理部114から入力される符号化ビデオ信号を記録メディア(不図示)に記録する。また、記録部116は、再生時において、記録メディアから符号化ビデオ信号を読み出して画像処理部114に出力する。モニタ117は、液晶ディスプレイなどから成り、撮像時においてファイン用動画像を、再生時においてモニタ用動画像を表示する。さらに、モニタ117は、ユーザに対して各種の設定画面を表示する。
図10は、モニタ117に表示される手振れ補正モード設定画面の表示例を示している。手振れ補正モード設定画面150には、オフボタン151、スタンダードボタン152、およびアクティブボタン153が設けられている。オフボタン151が選択された場合、手振れ補正機能が無効とされる。スタンダードボタン152が選択された場合、光学手振れ補正機能が有効、電子手振れ補正機能が無効とされるスタンダード手振れ補正モードとなる。アクティブボタン153が選択された場合、光学手振れ補正機能と電子手振れ補正機能の両方が有効とされるハイブリッド手振れ補正モードとなる。
ハイブリッド手振れ補正モードは、スタンダード手振れ補正モードに比較して、テレ端側における手振れ補正角を大きく確保することができる。したがって、より活発に移動しながらの撮像が可能となる。ただし、電子手振れ補正により撮像領域10の切り出しが行われるので、切り出し領域12のサイズが記録する動画像の画角サイズよりも小さい場合には切り出し領域12の画像を拡大する処理などにより画質が劣化することがある。あるいは、記録する動画像の画角サイズを制限する必要が生じる。
[動作説明]
次に、デジタルビデオカメラ100がハイブリッド手振れ補正モードとされている場合において、ズームレンズ108による光学ズーム倍率の変化の速度を制御する処理(以下、光学ズーム速度制御処理と称する)について説明する。
図11は、光学ズーム速度制御処理を説明するフローチャートである。
ステップS1において、制御部101は、操作部102を用いたユーザによるズーム操作に基づいて、ズームレンズ108の現在のズームポジションxを取得する。ステップS2において、制御部101は、モータドライバ105からズームレンズ108の焦点距離Eを取得する。ステップS3において、制御部101は、現在の電子ズーム倍率kを取得する。
ステップS4において、制御部101は、前回のステップS1乃至S3で取得したズームポジションx、焦点距離E、および電子ズーム倍率kと、直前のステップS1乃至S3で取得したズームポジションx、焦点距離E、および電子ズーム倍率kを用い、式(3)に従って減速変調量Jを算出する。または、式(3)の代わりに同等の差分演算を適用して減速変調量Jを算出する。もしくは、予め用意されている減速変調量テーブルを参照することにより、対応する減速変調量Jを取得するようにしてもよい。
ステップS5において、制御部101は、予め決定されている光学ズーム倍率の変化の最大速度Vmaxに減速変調量Jを乗算することによりその最大速度をV’max(=JVmax)に変調する。ステップS6において、制御部101は、予め決定されている光学ズーム倍率の変化の速度Vに減速変調量Jを乗算することによりその速度をV’(=JV)に変調する。変調結果の最大速度V’maxおよび速度V’はモータドライバ105に通知され、モータドライバ105は、通知された変調結果の最大速度V’maxおよび速度V’に基づいてアクチュエータ109を駆動させることにより、ズームレンズ108によるズーム倍率の変化の速度が制御される。この後、処理はステップS1に戻されて、それ以降が繰り返される。以上で、光学ズーム速度制御処理の説明を終了する。
なお、以上に説明した光学ズーム速度制御処理では、上述した設計手法1を適用した場合についてのみ説明したが、デジタルビデオカメラ100に設計手法2乃至4を適用することもできる。
[変形例]
ところで、ズームレンズ108を駆動させるに際してはその駆動音が大きく、速度が高速になったときにズームレンズ108とレンズ鏡筒の共振音が発生してユーザに聞こえてしまう場合がある。これを避けるためには、速度の遷移過程を除き固定段階速度として、その固定速度に対して変調をかけ、ズームの全域に対して、共振速度が発生されない速度に、固定速度を限定するようにしてもよい。
この固定速度の中で、非常に低速な速度選択時に、速度変調のズーム方向の解像度だけでなく、ズームの速度の変化点が目立つという懸念があるが一般的には目立たない。仮に、その様な症状が出た場合には、超低速時のみ変調を解除するようにすればよい。
[まとめ]
本発明を適用したデジタルビデオカメラによれば、ハイブリッド手振れ補正を実現しつつ、ユーザに対して、画像内の被写体のサイズの変化に違和感を与えないようにすることができる。
本発明を適用したデジタルビデオカメラなどに対しては、電子手振れ余剰の変化の形状を任意に設計することができる。したがって、電子ズームと光学ズームを組み合わせたハイブリットズームについてもその組み合わせ方を任意に設計することができる。さらに、テレ端落としによる不自然な画面遷移をなくし、且つ、ズーム速度を高速に制御することができる。また、自在な遷移カーブで画面の拡大/縮小スピードを設計することができる。
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
100 デジタルビデオカメラ, 101 制御部, 105 モータドライバ, 106 光学シフトレンズ, 107 アクチュエータ, 108 ズームレンズ, 109 アクチュエータ, 114 画像処理部

Claims (7)

  1. 光学ズームレンズと、
    前記光学ズームレンズを駆動するアクチュエータと、
    前記光学ズームレンズを介して入射される被写体の光学像を電気信号としての画像信号に変換する撮像素子と
    を備える撮像装置において、
    前記撮像装置に生じた手振れ量を検出する検出手段と、
    検出された前記手振れ量に応じ、前記撮像素子に入射される前記光学像をシフトすることにより光学手振れ補正を行う光学手振れ補正手段と、
    変換された前記画像信号に対する画像上に設けられる所定サイズの切り出し領域を、予め設計されている電子手振れ余剰の範囲で、検出された前記手振れ量に応じて移動させ、前記画像の前記切り出し領域を抽出することにより電子手振れ補正を行う電子手振れ補正手段と、
    前記アクチュエータを制御して、予め設計されている前記電子手振れ余剰の変化に対応付けて、前記光学ズームレンズによるズーム倍率の変化の速度を変調させる光学ズーム速度変調手段と
    を含む撮像装置。
  2. 前記光学ズーム速度変調手段は、ユーザのズーム操作に対応したズームポジションx、予め設計されている電子手振れ余剰の変化に連動する電子ズーム倍率k、および前記光学ズームレンズの焦点距離Eから得られる減速変調量Jを、予め決定されている前記光学ズームレンズによるズーム倍率の変化の速度Vとその最高速度Vmaxに乗算することにより、前記光学ズームレンズによるズーム倍率の変化の速度を変調させる
    請求項1に記載の撮像装置。
  3. 前記光学ズーム速度変調手段は、ユーザのズーム操作に対応したズームポジションx、予め設計されている電子手振れ余剰の変化に連動する電子ズーム倍率k、および前記光学ズームレンズの焦点距離Eを用いた微分演算または差分演算により前記減速変調量Jを逐次算出する
    請求項2に記載の撮像装置。
  4. 前記光学ズーム速度変調手段は、ユーザのズーム操作に対応したズームポジションx、予め設計されている電子手振れ余剰の変化に連動する電子ズーム倍率k、および前記光学ズームレンズの焦点距離Eの組み合わせに、予め算出された前記減速変調量Jが対応付けられている減速変調量テーブルを参照することにより、前記減速変調量Jを取得する
    請求項2に記載の撮像装置。
  5. 前記電子手振れ余剰は、ズームポジションがワイド側からテレ側に移動するにつれて、ゼロの区間、徐々に増加する区間、最大値を維持する区間を順に推移して変化するように予め設計されている
    請求項2に記載の撮像装置。
  6. 光学ズームレンズと、
    前記光学ズームレンズを駆動するアクチュエータと、
    前記光学ズームレンズを介して入射される被写体の光学像を電気信号としての画像信号に変換する撮像素子と
    を備える撮像装置の撮像方法において、
    前記撮像装置に生じた手振れ量を検出する検出ステップと、
    検出された前記手振れ量に応じ、前記撮像素子に入射される前記光学像をシフトすることにより光学手振れ補正を行う光学手振れ補正ステップと、
    変換された前記画像信号に対する画像上に設けられる所定サイズの切り出し領域を、予め設計されている電子手振れ余剰の範囲で、検出された前記手振れ量に応じて移動させ、前記画像の前記切り出し領域を抽出することにより電子手振れ補正を行う電子手振れ補正ステップと、
    前記アクチュエータを制御して、予め設計されている前記電子手振れ余剰の変化に対応付けて、前記光学ズームレンズによるズーム倍率の変化の速度を変調させる光学ズーム速度変調ステップと
    を含む撮像方法。
  7. 光学ズームレンズと、
    前記光学ズームレンズを駆動するアクチュエータと、
    前記光学ズームレンズを介して入射される被写体の光学像を電気信号としての画像信号に変換する撮像素子と
    を備える撮像装置の制御用のプログラムであって、
    前記撮像装置に生じた手振れ量を検出する検出ステップと、
    検出された前記手振れ量に応じ、前記撮像素子に入射される前記光学像をシフトすることにより光学手振れ補正を行う光学手振れ補正ステップと、
    変換された前記画像信号に対する画像上に設けられる所定サイズの切り出し領域を、予め設計されている電子手振れ余剰の範囲で、検出された前記手振れ量に応じて移動させ、前記画像の前記切り出し領域を抽出することにより電子手振れ補正を行う電子手振れ補正ステップと、
    前記アクチュエータを制御して、予め設計されている前記電子手振れ余剰の変化に対応付けて、前記光学ズームレンズによるズーム倍率の変化の速度を変調させる光学ズーム速度変調ステップと
    を含む処理を撮像装置のコンピュータに実行させるプログラム。
JP2009273516A 2009-12-01 2009-12-01 撮像装置、撮像方法、およびプログラム Expired - Fee Related JP5521518B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2009273516A JP5521518B2 (ja) 2009-12-01 2009-12-01 撮像装置、撮像方法、およびプログラム
US12/952,322 US8576287B2 (en) 2009-12-01 2010-11-23 Methods and apparatus for jiggling correction in images
CN201010570460.XA CN102082910B (zh) 2009-12-01 2010-11-24 图像拍摄设备、图像拍摄方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009273516A JP5521518B2 (ja) 2009-12-01 2009-12-01 撮像装置、撮像方法、およびプログラム

Publications (3)

Publication Number Publication Date
JP2011119846A true JP2011119846A (ja) 2011-06-16
JP2011119846A5 JP2011119846A5 (ja) 2012-11-22
JP5521518B2 JP5521518B2 (ja) 2014-06-18

Family

ID=44068568

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009273516A Expired - Fee Related JP5521518B2 (ja) 2009-12-01 2009-12-01 撮像装置、撮像方法、およびプログラム

Country Status (3)

Country Link
US (1) US8576287B2 (ja)
JP (1) JP5521518B2 (ja)
CN (1) CN102082910B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016045471A (ja) * 2014-08-26 2016-04-04 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP2016167099A (ja) * 2016-06-08 2016-09-15 株式会社ニコン レンズ鏡筒およびカメラ

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6046931B2 (ja) * 2011-08-18 2016-12-21 キヤノン株式会社 撮像装置およびその制御方法
FR2982678B1 (fr) * 2011-11-14 2014-01-03 Dxo Labs Procede et systeme de capture de sequence d'images avec compensation des variations de grandissement
US20130176463A1 (en) * 2012-01-09 2013-07-11 Nokia Corporation Method and Apparatus for Image Scaling in Photography
JP2014006340A (ja) * 2012-06-22 2014-01-16 Sony Corp 像振れ補正装置と像振れ補正方法および撮像装置
KR101984701B1 (ko) * 2012-11-13 2019-05-31 삼성전자주식회사 전기습윤 렌즈 어레이를 포함하는 3차원 영상 디스플레이 장치 및 3차원 영상 획득 장치
JP5644882B2 (ja) * 2013-03-07 2014-12-24 カシオ計算機株式会社 撮像装置、画角補正方法、及びプログラム
JP6302341B2 (ja) * 2014-04-23 2018-03-28 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
US10158808B2 (en) * 2014-07-02 2018-12-18 Sony Corporation Zoom control device, zoom control method, and program
KR102352681B1 (ko) * 2015-07-27 2022-01-18 삼성전자주식회사 동영상 안정화 방법 및 이를 위한 전자 장치
CN107113376B (zh) 2015-07-31 2019-07-19 深圳市大疆创新科技有限公司 一种图像处理方法、装置及摄像机
WO2017091957A1 (en) * 2015-11-30 2017-06-08 SZ DJI Technology Co., Ltd. Imaging system and method
WO2017170165A1 (ja) * 2016-03-30 2017-10-05 富士フイルム株式会社 撮像装置、作動方法、画像処理装置及び画像処理方法
WO2018072353A1 (zh) * 2016-10-17 2018-04-26 华为技术有限公司 获取图像的方法和终端设备
CN106454105A (zh) * 2016-10-28 2017-02-22 努比亚技术有限公司 图像处理装置及方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003259194A (ja) * 2002-03-06 2003-09-12 Tamron Co Ltd 画像安定化装置
JP2009164847A (ja) * 2007-12-28 2009-07-23 Canon Inc 撮像装置及びその制御方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3387135B2 (ja) * 1993-01-21 2003-03-17 ソニー株式会社 ビデオカメラ
DE69423430T2 (de) * 1993-12-02 2000-09-07 Canon Kk Vorrichtung zur Bildzitterkorrektur
JP2004088567A (ja) 2002-08-28 2004-03-18 Sony Corp 撮像装置および方法、記録媒体、並びにプログラム
JP4636887B2 (ja) * 2005-01-11 2011-02-23 キヤノン株式会社 光学機器
JP4530961B2 (ja) * 2005-06-30 2010-08-25 オリンパスイメージング株式会社 電子的ぶれ補正装置
JP2007215114A (ja) * 2006-02-13 2007-08-23 Sony Corp 撮像画像の歪み補正方法、撮像画像の歪み補正装置および撮像装置
JP4400611B2 (ja) * 2006-10-26 2010-01-20 カシオ計算機株式会社 撮像装置、ブレ補正方法、およびプログラム
JP4956401B2 (ja) * 2007-12-18 2012-06-20 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
JP5259172B2 (ja) * 2007-12-19 2013-08-07 セミコンダクター・コンポーネンツ・インダストリーズ・リミテッド・ライアビリティ・カンパニー 手振れ補正制御回路およびそれを搭載した撮像装置
US8284275B2 (en) * 2008-09-11 2012-10-09 Panasonic Corporation Lens barrel and imaging apparatus

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003259194A (ja) * 2002-03-06 2003-09-12 Tamron Co Ltd 画像安定化装置
JP2009164847A (ja) * 2007-12-28 2009-07-23 Canon Inc 撮像装置及びその制御方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016045471A (ja) * 2014-08-26 2016-04-04 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP2016167099A (ja) * 2016-06-08 2016-09-15 株式会社ニコン レンズ鏡筒およびカメラ

Also Published As

Publication number Publication date
JP5521518B2 (ja) 2014-06-18
US8576287B2 (en) 2013-11-05
CN102082910A (zh) 2011-06-01
CN102082910B (zh) 2014-03-26
US20110128392A1 (en) 2011-06-02

Similar Documents

Publication Publication Date Title
JP5521518B2 (ja) 撮像装置、撮像方法、およびプログラム
JP5020805B2 (ja) 撮像装置及びその制御方法
US8248518B2 (en) Optical apparatus
JP4022595B2 (ja) 撮影装置
KR20100039430A (ko) 화상 처리기, 화상 처리 방법, 디지털 카메라 및 촬영 장치
JP2011188481A (ja) 撮像装置
JP2015130612A (ja) 撮像装置及びその制御方法
JP4435228B2 (ja) 撮像装置、およびその制御方法
JP6932531B2 (ja) 像ブレ補正装置、撮像装置および撮像装置の制御方法
US10911686B2 (en) Zoom control device, zoom control method, and program
JP2007329689A (ja) 撮像装置および撮影方法
JP6188474B2 (ja) ズーム制御装置、ズーム制御装置の制御方法、ズーム制御装置の制御プログラムおよび記憶媒体
JP2016080918A (ja) 像振れ補正装置及びその制御方法
JP2007104198A (ja) 撮像装置およびプログラム
JP2007336257A (ja) フォーカスアシスト機能付撮像装置
JP2016050973A (ja) 撮像装置及びその制御方法
JP2015233211A (ja) 撮像装置およびその制御方法ならびにプログラム
JP5153183B2 (ja) 画像振れ補正装置および撮像装置
JP5455485B2 (ja) 撮像装置
JP5615031B2 (ja) 撮像装置
JP2007274031A (ja) 動画撮影装置および動画撮影プログラム
JP2016032180A (ja) 撮像装置、制御方法およびプログラム
JP2011029719A5 (ja)
JP2017224940A (ja) 画像処理方法および画像処理装置
JP2012034309A (ja) 撮像装置及びその制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121009

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121009

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131010

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131017

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140311

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140324

LAPS Cancellation because of no payment of annual fees