JP4005098B2 - 撮影装置、製品パッケージおよび半導体集積回路 - Google Patents

撮影装置、製品パッケージおよび半導体集積回路 Download PDF

Info

Publication number
JP4005098B2
JP4005098B2 JP2005516659A JP2005516659A JP4005098B2 JP 4005098 B2 JP4005098 B2 JP 4005098B2 JP 2005516659 A JP2005516659 A JP 2005516659A JP 2005516659 A JP2005516659 A JP 2005516659A JP 4005098 B2 JP4005098 B2 JP 4005098B2
Authority
JP
Japan
Prior art keywords
unit
swing
image
trajectory
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2005516659A
Other languages
English (en)
Other versions
JPWO2005064921A1 (ja
Inventor
光昭 大嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Application granted granted Critical
Publication of JP4005098B2 publication Critical patent/JP4005098B2/ja
Publication of JPWO2005064921A1 publication Critical patent/JPWO2005064921A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6815Motion detection by distinguishing pan or tilt from motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/684Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
    • H04N23/6842Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by controlling the scanning position, e.g. windowing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Structures Or Materials For Encapsulating Or Coating Semiconductor Devices Or Solid State Devices (AREA)
  • Wire Bonding (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、手振れ補正に必要な軌跡情報を得ることが可能な撮影装置、その撮影装置とプログラムを記録した記録媒体とを含む製品パッケージおよび半導体集積回路に関する。
撮影された画像の手振れを補正する方式には、光学手振れ補正方式と電子手振れ補正方式とがある(例えば、特許文献1参照)。
光学手振れ補正方式を用いた技術は、撮影された静止画像の手振れ補正技術として知られている。
電子手振れ補正方式を用いた技術は、撮影された動画像の手振れ補正技術として知られている。この技術は、光学駆動部を必要としないため、装置の小型化が可能である。
特開昭60−143330号公報
しかし、光学手振れ補正方式を用いた技術は、画質が劣化することはなく静止画の撮影に有効であるが、光学駆動部を必要とするため、装置の小型化に限界がある。
電子手振れ補正方式を用いた技術は、光学駆動部を必要としないため、装置の小型化が可能であるが、静止画像の手振れ補正には、有効でないと考えられていた。この技術はフレーム間の補正を行うのみで、1フレームからなる静止画の手振れ補正は原理的に不可能だからである。
本発明は、手振れ補正に必要な軌跡情報を得ることが可能な撮影装置、その撮影装置とプログラムを記録した記録媒体とを含む製品パッケージおよび半導体集積回路を提供することを目的とする。
本発明の撮影装置は、撮影装置の揺動を検出し、前記撮影装置の揺動を示す揺動検出信号を出力する揺動検出部と、前記撮影装置に入射する光を結像することにより光学像を形成する結像部と、前記結像部によって形成された前記光学像を電気的な映像情報に変換する撮像部と、前記揺動検出部から出力される前記揺動検出信号に少なくとも基づいて、前記撮影装置の揺動の軌跡を示す軌跡情報を取得する軌跡演算部とを備えている。
前記軌跡演算部は、前記揺動検出信号の一定期間内の変化を示す情報を前記軌跡情報として取得してもよい。
前記揺動検出部は、角速度センサを含み、前記軌跡演算部は、前記角速度センサの出力を積分することにより角度情報を取得し、前記角度情報の一定期間内の変化を示す情報を前記軌跡情報として取得してもよい。
前記角速度センサは、互いに異なる複数の振動周波数を有する振動ジャイロであってもよい。
前記軌跡演算部は、前記撮影装置の揺動による重みづけ軌跡を示す情報を前記軌跡情報
として取得してもよい。
前記軌跡演算部は、点光源分布関数PSFを前記軌跡情報として取得してもよい。
前記軌跡演算部は、前記撮影装置の揺動の時間的変化量が所定のしきい値より大きいか否かを判定し、その判定結果に応じてサンプル数を決定してもよい。
前記軌跡情報を前記映像情報に付加することによりExif形式のデータを生成し、前記Exif形式のデータを出力する出力部をさらに備えていてもよい。
前記軌跡演算部は、焦点の情報とズームの情報と前記揺動検出信号とに少なくとも基づいて、前記軌跡情報を取得してもよい。
前記軌跡情報と前記映像情報とを演算処理することにより、前記映像情報の揺動を補正した補正映像情報を取得する電子的揺動補正部をさらに備えていてもよい。
前記電子的揺動補正部は、前記揺動検出信号が所定のしきい値より大きいか否かを判定し、前記揺動検出信号が前記所定のしきい値より大きいと判定された場合には前記映像情報の揺動を補正しなくてもよい。
前記演算処理は、フーリエ変換もしくはフーリエ逆変換もしくは二次元フィルタを用いた処理を含んでいてもよい。
前記軌跡情報は軌跡関数hを含み、前記演算処理は、前記hのフーリエ変換の演算もしくは前記hをフーリエ変換した結果を使う演算を含むか、前記hのフーリエ変換の逆数のフーリエ逆変換の演算もしくは前記hのフーリエ変換の逆数のフーリエ逆変換の演算結果を使う演算を含んでいてもよい。
前記映像情報の揺動を補正するのに必要な演算処理量を求める処理量演算部をさらに備えていてもよい。
前記演算処理量もしくは揺動量が一定の値を超過した場合は、表示部に超過状況を示す表示を行うおよび/またはスピーカから超過状況を示す音を発してもよい。
前記演算処理量が一定の値を超過した場合は、前記揺動を補正しない映像情報を出力し、前記演算処理量が一定の値の範囲内にある場合は、前記映像情報の揺動を補正した補正映像情報を出力してもよい。
前記映像情報を表示部に表示した後の特定時点において前記補正映像情報を前記表示部に表示してもよい。
前記特定時点として、前記電子的揺動補正部における揺動補正の演算処理が完了した時点を用いてもよい。
前記揺動補正部からの前記補正映像情報を受けて、前記揺動のそれぞれの方向の最大揺動量を求める最大揺動量演算部と、前記最大揺動量に応じて前記補正映像情報をトリミングすることにより、トリミング補正映像情報を生成するトリミング部とをさらに備えていてもよい。
第1トリミングモードもしくは第2トリミングモードを設定可能な設定部をさらに備え
、前記トリミング部は、前記第1トリミングモードにおいて、前記最大揺動量に応じて前記補正映像情報をトリミングすることにより、第1トリミング補正映像情報を生成し、前記トリミング部は、前記第2トリミングモードにおいて、前記映像情報の各方向の中心となる画素を中心画素とすると、第1トリミング補正映像情報の前記中心画素に相当する画素を中心として再度トリミングすることにより、第2トリミング補正映像情報を生成してもよい。
前記揺動検出信号に応じて前記撮影装置の揺動を機械的に補正することにより、現実の揺動補正量だけ前記映像情報の揺動を補正した補正映像情報を取得する機械的揺動補正部をさらに備え、前記軌跡演算部は、前記揺動検出信号と前記現実の揺動補正量との差分の一定期間内の変化を示す情報を前記軌跡情報として取得してもよい。
前記軌跡情報がExif形式であってもよい。
前記機械的揺動補正部は、前記揺動検出信号に応じて前記撮影装置の揺動を機械的に補正することにより、第1揺動補正量だけ前記映像情報の揺動を補正した第1補正映像情報を取得し、前記軌跡演算部は、前記現実の揺動補正量と前記第1揺動補正量との差分量を示す残留揺動量の一定期間内の変化を示す情報を前記軌跡情報として取得し、前記撮影装置は、前記軌跡情報と前記第1補正映像情報とに演算処理することにより、第2揺動補正量だけ前記第1補正映像情報の揺動を補正した第2補正映像情報を取得する電子的揺動補正部をさらに備えていてもよい。
前記演算処理は、フーリエ変換もしくはフーリエ逆変換もしくは2次元フィルタを用いた処理を含んでいてもよい。
前記軌跡情報は軌跡関数hを含み、前記演算処理は、前記hのフーリエ変換の演算もしくは前記hをフーリエ変換した結果を使う演算を含むか、前記hのフーリエ変換の逆数のフーリエ逆変換の演算もしくは前記hのフーリエ変換の逆数のフーリエ逆変換の演算結果を使う演算を含んでいてもよい。
前記機械的揺動補正部は、前記結像部の一部であるレンズの位置情報に基づいて、前記第1揺動補正量を求めてもよい。
前記機械的揺動補正部は、前記揺動検出信号と前記機械的揺動補正部の揺動制御特性とに基づいて、前記第1揺動補正量を求めてもよい。
前記揺動検出部は、前記撮影装置の揺動のうちピッチ方向およびヨー方向の揺動を検出する第1揺動検出部と、前記撮影装置の揺動のうちロール方向の揺動を検出する第2揺動検出部とを含み、前記軌跡演算部は、前記第2揺動検出部から出力される検出信号の一定期間内の変化を示す情報を前記軌跡情報として取得し、前記撮影装置は、前記第1揺動検出部から出力される検出信号に応じてピッチ方向およびヨー方向の揺動を補正した第1補正映像情報を取得する機械的揺動補正部をさらに備えていてもよい。
前記軌跡情報を前記補正映像情報に付加して出力し、もしくは、記録媒体に記録する手段をさらに備えていてもよい。
前記軌跡情報がExif形式もしくはExif形式に類する形式であってもよい。
ロール方向の軌跡情報と前記第1補正映像情報とに演算処理することにより、前記第1補正映像情報の揺動を補正した第2補正映像情報を取得する電子的揺動補正部をさらに備
えていてもよい。
前記演算処理は、フーリエ変換もしくはフーリエ逆変換もしくは二次元フィルタを用いた処理を含んでいてもよい。
前記軌跡情報は軌跡関数hを含み、前記演算処理は、前記hのフーリエ変換の演算もしくは前記hをフーリエ変換した結果を使う演算を含むか、前記hのフーリエ変換の逆数のフーリエ逆変換の演算もしくは前記hのフーリエ変換の逆数のフーリエ逆変換の演算結果を使う演算を含んでいてもよい。
本発明の方法は、撮影装置の揺動の軌跡を示す軌跡情報と映像情報とを含む画像情報を受け取ることと、前記画像情報を前記軌跡情報と前記映像情報とに分離することと、前記軌跡情報と前記映像情報とに演算処理することにより、前記映像情報の揺動を補正した補正映像情報を得ることとを包含する。
前記軌跡情報がExif形式であってもよい。
前記演算処理は、フーリエ変換もしくはフーリエ逆変換を含んでいてもよい。
前記軌跡情報が重みづけ軌跡もしくは点光源分布関数であってもよい。
本発明の製品パッケージは、撮影装置と記録媒体とを備えた製品パッケージであって、前記撮影装置は、前記撮影装置の揺動を検出し、前記撮影装置の揺動を示す揺動検出信号を出力する揺動検出部と、前記撮影装置に入射する光を結像することにより光学像を形成する結像部と、前記結像部によって形成された前記光学像を電気的な映像情報に変換する撮像部と、前記揺動検出部から出力される前記揺動検出信号に少なくとも基づいて、前記撮影装置の揺動の軌跡を示す軌跡情報を取得する軌跡演算部と、前記軌跡情報を前記映像情報に付加して画像情報として出力する出力部とを備え、前記記録媒体には処理をコンピュータに実行させるためのプログラムが記録されており、前記処理は、前記画像情報を受け取ることと、前記画像情報を前記軌跡情報と前記映像情報とに分離することと、前記軌跡情報と前記映像情報とに演算処理することにより、前記映像情報の揺動を補正した補正映像情報を得ることとを包含する。
前記軌跡情報がExif形式であってもよい。
前記演算処理は、フーリエ変換もしくはフーリエ逆変換もしくは二次元フィルタを用いる処理を含んでいてもよい。
前記軌跡情報は軌跡関数hを含み、前記演算処理は、前記hのフーリエ変換の演算もしくは前記hをフーリエ変換した結果を使う演算を含むか、前記hのフーリエ変換の逆数のフーリエ逆変換の演算もしくは前記hのフーリエ変換の逆数のフーリエ逆変換の演算結果を使う演算を含んでいてもよい。
前記軌跡情報が重みづけ軌跡もしくは点光源分布関数であってもよい。
本発明の製品パッケージは、撮影装置と記録媒体とを備えた製品パッケージであって、前記撮影装置は、前記撮影装置の揺動を検出し、前記撮影装置の揺動を示す揺動検出信号を出力する揺動検出部と、前記撮影装置に入射する光を結像することにより光学像を形成する結像部と、前記結像部によって形成された前記光学像を電気的な映像情報に変換する撮像部と、前記揺動検出部から出力される前記揺動検出信号に少なくとも基づいて、前記
撮影装置の揺動の軌跡を示す軌跡情報を取得する軌跡演算部と、前記揺動検出信号に応じて前記撮影装置の揺動を機械的に補正することにより、現実の揺動補正量だけ前記映像情報の揺動を補正した補正映像情報を取得する機械的揺動補正部と、前記軌跡情報を前記補正映像情報に付加して画像情報として出力する出力部とを備え、前記軌跡演算部は、前記揺動検出信号と前記現実の揺動補正量との差分の一定期間内の変化を示す情報を前記軌跡情報として取得し、前記記録媒体には処理をコンピュータに実行させるためのプログラムが記録されており、前記処理は、前記画像情報を受け取ることと、前記画像情報を前記軌跡情報と前記映像情報とに分離することと、前記軌跡情報と前記映像情報とに演算処理することにより、前記映像情報の揺動を補正した補正映像情報を得ることとを包含する。
前記軌跡情報がExif形式であってもよい。
前記演算処理は、フーリエ変換もしくはフーリエ逆変換もしくは二次元フィルタを用いる処理を含んでいてもよい。
前記軌跡情報が重みづけ軌跡もしくは点光源分布関数であってもよい。
本発明の半導体集積回路は、撮影装置の揺動を検出する揺動検出部から出力される揺動検出信号に少なくとも基づいて、前記撮影装置の揺動の軌跡を示す軌跡情報を取得する軌跡演算部を備えている。
前記軌跡情報と映像情報とを演算処理することにより、前記映像情報の揺動を補正した補正映像情報を取得する電子的揺動補正部をさらに備えていてもよい。
前記揺動検出信号に応じて前記撮影装置の揺動を機械的に補正することにより、現実の揺動補正量だけ前記映像情報の揺動を補正した補正映像情報を取得する機械的揺動補正部をさらに備え、前記軌跡演算部は、前記揺動検出信号と前記現実の揺動補正量との差分の一定期間内の変化を示す情報を前記軌跡情報として取得してもよい。
前記揺動検出部は、前記撮影装置の揺動のうちピッチ方向およびヨー方向の揺動を検出する第1揺動検出部と、前記撮影装置の揺動のうちロール方向の揺動を検出する第2揺動検出部とを含み、前記軌跡演算部は、前記第2揺動検出部から出力される検出信号の一定期間内の変化を示す情報を前記軌跡情報として取得し、前記半導体集積回路は、前記第1揺動検出部から出力される検出信号に応じてピッチ方向およびヨー方向の揺動を補正した第1補正映像情報を取得する機械的揺動補正部をさらに備えていてもよい。
本発明の撮影装置によれば、手振れ補正に必要な軌跡情報を得ることができる。軌跡情報は、撮影装置の外部にある機器(例えば、コンピュータ)に出力され得る。これにより、処理量の大きい手振れ補正を撮影装置の外部にある機器(例えば、コンピュータ)で行うことが可能になる。
本発明の製品パッケージおよび半導体集積回路によっても同様の効果が得られる。
以下、図を参照して本発明の実施の形態を説明する。
1.撮影装置
図1は、本発明の実施の形態の撮影装置100を示す。
撮影装置100は、所定の露光期間に静止像を撮影する。撮影装置100は、撮影装置100の外部から光を入射するためのレンズ部2と、光3を自動焦点調整する自動焦点部4と、レンズ部2のズーム比を設定するズーム部6と、撮像部5とを含む。撮像部5には、光学像が結像される。撮像部5は、結像された光学像を示す出力データを出力する。撮像部5は、例えば、CCDもしくはMOS型撮像装置である。レンズ部2から入射した光3は、自動焦点部4により焦点調整される。ズーム部6により、レンズ部2のズーム比が設定され、撮像部5上に光学像7が結像される。
撮影装置100は、表示切替部10と、表示回路11と、表示部12と、記録部13と、記録媒体14とをさらに含む。静止像を表す静止画の揺動を補正することなく静止像を撮影する場合は、撮像部5から出力された出力データは表示切替部10に直接送られる。静止画像を表示する場合は、撮像部5から出力された出力データは、表示回路11によって表示部12に表示される。静止画像を記録する場合は、撮像部5から出力された出力データは、記録部13によって記録媒体14に記録される。
撮影装置100は、シャッターボタン25と、データを記憶する副画像メモリ8と、撮影された静止像を表す複数の画像(フレーム)間の揺動量を検出する揺動検出手段15と、検出された揺動量に応じて、複数の画像(フレーム)を示す複数の画像情報を補正する揺動補正部9と、揺動補正制御部21と、タテ方向の揺動を除去するように制御されるトリミング部22と、画面データによって示される画像の解像度を変更する解像度変更部24と、間引き制御部25aと、画素転送部23と、揺動量に応じてフレームレートを変更するフレームレート変更部40とをさらに含む。揺動検出手段15は、揺動検出手段15に入力されたデータを演算する演算部18と、第1メモリ16と、第2メモリ17とを含む。揺動補正制御部21は、検出された揺動量に応じて撮像部5から出力された出力データを補正するために、各構成要素を制御する。
静止像を表す静止画の揺動を補正して静止像を撮影する場合(揺動補正設定がONである場合)には、シャッタボタン25を押す前に、撮像部5から出力された出力データが一旦副画像メモリ8に蓄積される。撮像部5から出力された出力データは、揺動検出手段15に入力される。演算部18は、入力された複数の出力データ(例えば、n−1番目の画面データ(即ち、前の画面のデータ)とn番目の画像データ(即ち、現在の画面のデータ))を演算し、揺動情報を求める。揺動情報は、動きベクトル19である。なお、撮影装置100がタテ用振動ジャイロとヨコ用振動ジャイロとを備える場合にも、タテの揺動量とヨコの揺動量とを検出することができる。この場合には、揺動情報は、タテの揺動量およびヨコの揺動量である。
揺動補正制御部21が、トリミング部22と画素転送部23とを制御することによって、タテ方向の揺動が除去される。揺動補正制御部21が揺動補正部9を制御することによって、ヨコ方向の揺動が除去される。したがって、画像データのタテの揺動および画像データのヨコの揺動を補正することができ、揺動補正された画像データを得ることができる。
揺動補正された画像データは、順次、表示切替部10を介して表示部12に出力される。ユーザは、表示部12から、揺動補正された連続画像を所定のフレームレートで視認できる。
なお、表示部12に、揺動補正された画像データによって示された全画像のうち、一部の領域の画像を表示することができる。したがって、被写体のフレーミングを正確にできる。この場合、解像度は解像度変更部24および間引き制御部25aによって、静止画撮影時より低い解像度に設定される。したがって、フレームレートを高くすることが可能に
なり、1秒間の表示枚数を多くすることができる。その結果、ユーザは、よりスムーズに被写体の画像を視認できる。
記録部13は、フレームレートの高い複数の画像を動画として記録媒体14に記録してもよい。
解像度変更部24は、例えば、明るさ、揺動量、ズーム比のうちの少なくとも1つに応じて、複数のフレームの解像度を変更する。
撮影装置100は、クロック制御手段27と、転送クロック供給部32と、処理クロック供給部28と、CPU26とをさらに含む。ユーザがシャッターボタン25を半押しにすると、処理クロック供給部28が演算部29等のクロックの動作開始又はクロック速度の向上を実行するように、CPU26はクロック制御手段27に指令を与える。
撮影装置100は、揺動補正された複数の画像情報を記憶する主画像メモリ30と、記憶手段に記憶された複数の画像情報に基づいて、静止像を示す静止画像情報を生成する演算部29と、副演算部29aとをさらに含む。なお、演算部29の機能、主画像メモリ30の機能、および副演算部29aの機能の詳細は、後述される。
撮影装置100は、マスキング部20と、明部抽出部39とをさらに含む。マスキング部20の機能および明部抽出部39の機能の詳細は、後述される。
撮影装置100は、バイブレータ36と、スピーカ37とをさらに含む。バイブレータ36の機能およびスピーカ37の機能の詳細は、後述される。
図2は、揺動検出手段15の構成を示す。揺動検出手段15は、演算部18と第1メモリ16と第2メモリ17とを含む。
第1メモリ16には、時刻t=tn−1に撮影された画像Dn−1を示す画像データが格納されている。第2メモリ17には、時刻t=tに撮影された画像Dを示す画像データが格納されている。2枚の画像を示すデータ(画像Dn−1を示す画像データおよび画像Dを示す画像データ)に基づいて、画像Dn−1と画像Dとの間の揺動量(例えば、動きベクトル(x、y))が検出され、揺動量を示すデータが出力される。
2.手振れ補正の動作
図3は、本発明の実施の形態の手振れ補正の動作を示す。
画像Dn=1は、時刻n=1に撮影された画像を示し、画像Dn=2は、時刻n=2に撮影された画像を示し、画像Dn=3は、時刻n=3に撮影された画像を示し、画像Dn=4は、時刻n=4に撮影された画像を示す。
画像Dn=1を示す画像データが主画像メモリ部30に蓄積される。
画像Dn=2を示す画像データは、揺動量M(M=(x+x、y+y))に応じて補正される。演算部29によって、補正された画像データは、主画像メモリ部30に蓄積されている画像Dn=1を示す画像データに加算される。加算結果を示すデータは主画像メモリー部30に蓄積される。補正された画像データを画像Dn=1を示す画像データに加算するため、被写体の静止部は正確に重なり、画像のSN比は向上する。
画像Dn=3を示す画像データは、揺動量M(M=(x+x+x、y+y
+y))に応じて補正される。演算部29によって、この補正された画像データは、主画像メモリ部30に蓄積されている加算結果を示すデータに加算される。加算結果を示すデータは主画像メモリー部30に蓄積される。
画像Dn=4を示す画像データは、揺動量M(M=(x+x+x+x、y+y+y+y))に応じて補正される。演算部29によって、この補正された画像データは、主画像メモリ部30に蓄積されている加算結果を示すデータに加算される。加算結果を示すデータは主画像メモリー部30に蓄積される。
このように、データの加算を繰り返すことによって、主画像メモリ部30には、加算された4枚のほぼ同じ画像を示す画像データが格納され、1枚の静止画を示すデータが生成される。したがって、露光期間中にシャッターを100%開けていた場合には、時刻n=1から時刻n=4の期間中にシャッターを継続して開けていた場合とほぼ同じ明るさの画像が得られるとともに、各画面毎に手振れが補正される。
なお、手振れの程度(揺動量)やズーム比に応じて、例えばシャッタ開時間(露光時間)、フレームレートを適切に設定することによって、SNを劣化させることなく電子的に手振れを補正することができる。なお、各画像を撮影する時のシャッタ開時間を短くすると手振れ補正に起因する画像劣化は減少するが光量が減る。この場合には、撮影するフレームの枚数を増やす。
本発明の実施の形態では、転送クロックを上げることによってフレームレートを上げたり、解像度を下げることによってフレームレートを上げたりして最適なフレームレートを得ることができる。したがって、適用範囲が広いという効果がある。
なお、演算部29によって為される演算は、加算に限らない。複数の画像データ(フレーム情報)に基づいて1枚の静止画を示すデータを生成することができる限り、演算は、例えば積分でもよい。
3.マスキングの動作
図4は、本発明の実施の形態のマスキングの動作を示す。
画像Dn=1は、時刻n=1に撮影された画像を示し、画像Dn=2は、時刻n=2に撮影された画像を示し、画像Dn=3は、時刻n=3に撮影された画像を示し、画像Dn=4は、時刻n=4に撮影された画像を示す。
時刻n=1で、ストロボが発光する。したがって、例えば、画像35eに表された人物は背景(例えば、夜景)に比べて明るくなる。ここで画像35eに表された人物を明部38aと定義する。明部抽出部39は、画像35eを示すデータから明部38aを示すデータを抽出し、抽出された明部aを示すデータに基づいて、マスキングデータ31を生成する。
時刻n=2で、画像Dn=2を示す画像データからマスキングデータ31を切り出す。明部38bの画像がとり去られ、かつ手振れが補正された補正画像33aを示すデータが生成される。補正画像33aを示すデータが画像35eを示すデータに加算され、積分画像35aを示すデータが生成される。
時刻n=3で、画像Dn=3を示す画像データからマスキングデータ31を切り出す。明部38cの画像がとり去られ、かつ手振れが補正された補正画像33bを示すデータが生成される。補正画像33bを示すデータが積分画像35aを示すデータに加算され、積
分画像35bを示すデータが生成される。
時刻n=4で、画像Dn=4を示す画像データからマスキングデータ31を切り出す。明部38dの画像がとり去られ、かつ手振れが補正された補正画像33cを示すデータが生成される。補正画像33cを示すデータが積分画像35bを示すデータに加算され、積分画像35cを示すデータが生成される。
積分画像35cを示すデータがリサイズされ、積分画像35dを示すデータが生成される。
上述したように、時刻n=1で、ストロボの発光により明るくなった人物等の明部をとり込み、時刻n=2、3、4で、撮影された画像のうち、明部以外の領域の画像をとり込む。夜景撮影等で人物を対象にスローシャッタでストロボ撮影を行う場合には、例えば、ストロボ発光時の人物の顔の画像にスローシャッタ期間中に露光された人物の顔の画像が重なり(二重露光)、画像がぼける。しかし本発明の実施の形態のマスキングの動作によれば、手振れ補正によって、明部である人物の顔等が二重露光されない。その結果、明部を明瞭に撮影できる。
4.フレームレートの変更
図5は、画素数とフレーム周波数との関係を示す。
解像度変更部24(図1参照)によって、撮像部5(図1参照)での解像度を下げると、フレームレート(fps)を上げることができる。また、クロック制御手段27、処理クロック供給部28および転送クロック供給部32によって、転送クロック速度を上げた場合にも、フレームレート(fps)を上げることができる。
本発明の実施の形態では、手振れ補正を目的として画像をとり出す時に転送クロックを上げたり、解像度を下げることにより、実質的にフレームレートを上げて、電子的手振れ補正に特有の残像(画像劣化)をなくすことができる。この場合、通常の撮像部は200万画素であり、フレームレートは7.5fps程度であるため、残像の影響が残ってしまう。フレームレートは20fps以上でないと電子的手振れ補正に特有の残像をなくすことは困難である。
図6は、4分割された画素領域を含む撮像部5の構成を示す。
撮像部5は、画素領域40を含む。画素領域40は、4つの画素領域(画素領域40a、画素領域40b、画素領域40cおよび画素領域40d)に分割されている。撮像部5は、4分割された水平方向転送部(水平方向転送部41a、水平方向転送部41b、水平方向転送部41cおよび水平方向転送部41d)と、4分割された垂直方向転送部(垂直方向転送部42a、垂直方向転送部42b、垂直方向転送部42cおよび垂直方向転送部42d)とをさらに含む。したがって、全画素の掃き出し時間は1/4に、フレームレートは4倍になり、210万画素のCCD型の撮像素子およびクロック速度=18MHzの条件で、フレームレートは30fpsになる。その結果、手振れ補正に起因する画像劣化を目立たなくできる。撮像部5は左右に2分割してもよい。
図7は、本発明の実施の形態におけるフレームレートを速くした場合の動作図である。
露出時間=1/4秒の場合、1/8秒毎にフレームを得る。このとき、x方向の手振れ量=∫(x+xi+1)dt≒((x+x)+(x+x))/2である。
露出時間=1/2秒の場合、フレームレートを高くすることにより、1/16秒毎にフレームを得る。このとき、x方向の手振れ量≒(x+x+x+x+x+x+x+x)/8≒((x+x+x+x)/2+(x+x+x+x)/2)/4である。
露出時間が長い場合は、フレームレートを速くし、多くのフレームを得るようにする。その結果、手振れ量を詳細に検出することが可能になり、手振れ補正に起因した画像劣化を減少することが出来る。
このように、本発明の撮影装置によれば、複数のフレームを示す情報を揺動補正し、静止画を示す情報を生成することができるため、手ぶれ補正された1枚の静止画像を得ることができる。
以上、(1.撮影装置)〜(4.フレームレートの変更)において、図1〜図7を参照して本発明の実施の形態の一例を説明した。
例えば、図1〜図7に示される実施の形態では、揺動量検出手段15が「撮影された静止像を表す複数のフレーム間の揺動量を検出する揺動量検出手段」に対応し、揺動補正部9が「検出された揺動量に応じて、複数のフレームを示す複数のフレーム情報を補正する揺動補正手段」に対応し、主画像メモリ30が「揺動補正された複数のフレーム情報を記憶する記憶手段」に対応し、演算部29が「記憶手段に記憶された複数のフレーム情報に基づいて、静止像を示す静止画像情報を生成する情報生成手段」に対応する。
しかし、本発明の撮影装置が図1〜図7に示される実施の形態に限定されるわけではない。撮影装置が備える各構成要素が、上述した「撮影された静止像を表す複数のフレーム間の揺動量を検出する揺動量検出手段」、「検出された揺動量に応じて、複数のフレームを示す複数のフレーム情報を補正する揺動補正手段」、「揺動補正された複数のフレーム情報を記憶する記憶手段」および「記憶手段に記憶された複数のフレーム情報に基づいて、静止像を示す静止画像情報を生成する情報生成手段」の各々の機能を有する限りは、任意の構成を有し得る。
5.撮影方法1
図8は、本発明の実施の形態の撮影処理の手順(ステップ50a〜ステップ50f)を示す。
図9は、本発明の実施の形態の撮影処理の手順(ステップ51a〜ステップ51y)を示す。
図10は、本発明の実施の形態の撮影処理の手順(ステップ52a〜ステップ52t)を示す。
以下、図1および図8〜図10を参照して、本発明の実施の形態の撮影処理の手順をステップごとに説明する。
図8を参照して、ステップ50a〜ステップ50fを説明する。
ステップ50a:操作者が、静止画の撮影を準備する。
ステップ50b:操作者が、シャッターボタン25を半押しにすると、処理クロック供給部28が演算部29等のクロックの動作開始又はクロック速度を向上するように、CP
U26がクロック制御手段27に指令を与える。処理クロック供給部28が演算部29等のクロックの動作開始又はクロック速度を向上すると、処理はステップ50cに進む。
ステップ50c:撮像部5は、設定解像度より小さい画像、または間引きした画像を取り出す。n−1番目の画像を示すデータとn番目の画像を示すデータとに基づいて、n−1番目の画像とn番目の画像との特定点または特定領域の位置の差情報を生成し、揺動情報(揺動量)を得る。
ステップ50d:撮影場所の明るさが暗く設定解像度が一定値以上の条件下で、揺動情報(揺動量)が所定の値より大きいか否かを判定する。所定の値より大きい場合(Yes)には、処理はステップ50eに進む。所定の値と同じまたは所定の値より小さい場合(No)には、処理はステップ50fに進む。
ステップ50e:揺動情報の値に応じて表示部12に“手振れ注意”の警告を表示する。
ステップ50f:操作者はシャッターボタン25を押すか否かを判断する。押す(Yes)場合には、処理はステップ51a(図7参照)に進む。押さない(No)場合には、ステップ50fの処理が繰り返される。
以下、図9を参照して、ステップ51a〜ステップ51yを説明する。
ステップ51a:シャッター速度(露光時間)がtより長いか否かが判定される。例えば、CPU26が、シャッター速度(露光時間)がtより長いか否かを判定する。
ズーム部6のズーム比が一定値以下で、シャッター速度(露光時間)がtと同じまたはtより短い場合(No)には、処理はステップ51bに進む。シャッター速度(露光時間)がtより長い場合(Yes)には、処理はステップ51dに進む。
ステップ51b:揺動補正なし(手振れ補正なし)で撮影する。
ステップ51c:撮影が完了し、処理が終了する。
ステップ51d:手段振れ補正優先スイッチをONにする。
ステップ51e:シャッター速度(露光時間)がtより長いか否かが判定される。
シャッター速度(露光時間)がtと同じまたはtより短い場合(No)には、処理はステップ51fに進む。シャッター速度(露光時間)がtより長い場合(Yes)には、処理はステップ51hに進む。
ステップ51f:手振れが激しいか否か、ズーム比が一定値より大きいか否かが判定される。
手振れが激しくなく、ズーム比が一定値より大きい場合(No)には、処理はステップ51gに進む。手振れが激しく、ズーム比が一定値以下である場合(Yes)には、処理はステップ51iに進む。
ステップ51g:解像度を予め設定されている解像度Nに設定したままで手振れ補正ルーチン(ステップ51r)に進む。
ステップ51h:設定解像度Nが所定解像度Nより高いか否かが判定される。
設定解像度Nが所定解像度Nであるか所定解像度Nより低い場合(No)には、処理はステップ51rに進む。設定解像度Nが所定解像度Nより高い場合(Yes)には、処理はステップ51iに進む。
ステップ51i:クロック制御手段27によって画素転送部23の転送クロックを速くする。こうしてフレームレートを上げる。
ステップ51j:手振れが激しいか否かを判定する。
手振れが激しくなく、ズーム比が所定値以下、つまり手振れが非常に少ない場合(No)には、処理はステップ51kに進む。手振れが激しい時や、ズーム比等の値が所定値より大きい場合、つまり手振れがある程度ある場合(Yes)には、処理はステップ51mへ進む。
ステップ51k:所定解像度Nのまま、処理はステップ51rに進む。
ステップ51m:設定解像度が所定解像度Nより高いか否か、またはフレームレートが所定値fnより低いか否かが判定される。
設定解像度が所定解像度Nと同じ、または所定解像度Nより低い場合、あるいは、フレームレートが所定値fnと同じ、または所定値fnより高い場合(No)には、処理はステップ51rに進む。
設定解像度が所定解像度Nより高い場合、またはフレームレートが所定値fnより低い場合(Yes)には、処理はステップ51nに進む。
ステップ51n:解像度を所定解像度Nより低い解像度Nに設定するために、処理はステップ51pに進む。
ステップ51p:解像度変更部24および間引き制御部25aによって、撮像部5からの画素出力を間引くか、面内方向の複数の画素を示す情報を加算して一つの画素を示す情報を生成し、画素数(即ち、解像度)を下げる(解像度Nに設定)。
ステップ51q:解像度を所定解像度Nより低い解像度Nに設定した結果、フレームレートの最高速度の値が上がる。フレームレートを上げる。
ステップ51r:複数のフレーム(画像)を撮影装置100にとり込むために、手振れ補正ルーチンのための撮影画像の入力を開始するか否かを判定する。撮影画像の入力を開始する場合(Yes)には、処理はステップ51yに進む。
ステップ51y:露出時間(即ち、シャッター時間)、絞り値およびフレームレートに基づいて、分割露光するために必要な総枚数nlastを演算する。手振れの激しい時は各静止画のシャッター時間を短くする。
ステップ51s:n=0に設定する。
ステップ51t:nを1つインクリメントする(n=n+1)。
ステップ51u:n枚目の画像を撮影し、撮像部5からn枚目の静止画像を副メモリ8にとり込む(n枚目の静止画像データを得る)。
ステップ51v:静止画像データが1枚目の静止画像データであるか否かを判定する。
静止画像データが1枚目の静止画像データである場合(Yes)には、処理はステップ51wに進む。静止画像データが1枚目の静止画像データでない場合(No)には、処理はステップ52a(図10参照)に進む。
ステップ51w:撮像部5の画像の一部を切り出し、画像データIを得る。
ステップ51x:画像データIを主画像メモリ30に保存する。
以下、図8を参照して、ステップ52a〜ステップ52tを説明する。
ステップ52a:揺動検出手段15によって、1枚目の画像データと2枚目の画像データとの特定点の動きを演算し、揺動量Mnを算出する(図2参照)。
揺動検出手段15に含まれる第1メモリ16に、時刻t=tに撮影された1枚目の画像Dを示す画像データが格納されており、かつ揺動検出手段15に含まれる第2メモリ17に、時刻t=tに撮影された2枚目の画像Dを示す画像データが格納されている場合には、揺動検出手段15は、2枚の画像を示すデータ(画像Dを示す画像データおよび画像Dを示す画像データ)に基づいて、画像Dと画像Dとの間の揺動量M(例えば、動きベクトル(x1、y1))を検出し、揺動量を示すデータを出力する。
ステップ52b:揺動量Mnの積分値が一定値以上か否かを判定する。
揺動量Mnの積分値が一定値以上である場合(Yes)には、撮影画像が特定領域をはみ出したと判定され、処理はステップ52cに進む。揺動量Mnの積分値が一定値より小さい場合(No)には、処理はステップ52sに進む。
ステップ52c:エラーレジスタに1が追加される。n番目の画像を主画像メモリ30に保存しないで、処理はステップ52hに進む。
ステップ52s:揺動量Mnの積分値が別の一定値以上か否かが判定され、揺動量Mnの積分値が別の一定値以上である場合には、第2エラーレジスタに1が追加される。
ステップ52d:撮像部5から出力された画像データのうち、揺動量Mnに応じてタテ方向に切り出された画像データIを副画像メモリ8に保存する。
ステップ52e:ストロボをONにするか否かを判定する。ストロボをONにする場合(Yes)には、処理はステップ52fに進む。ストロボをONにしない場合(No)には、処理はステップ52gに進む。
ステップ52f:マスキング部20によって、画像データIを予めマスキングする(図4および(3.マスキングの動作)参照)。
ステップ52g:揺動補正部9からヨコ方向の揺動とタテ方向の揺動とが補正された画像データIを得る。
例えば、画像データIを演算部29に送り、主画像メモリ30の画像データと画像データIとを演算(例えば、加算、積分)し、再び、演算結果を主画像メモリ30に保存する。
ステップ52h:揺動補正制御部21は、n=nlast(即ち、最後の値)であるか否かを判定する。
n=nlastである場合(Yes)には、処理はステップ52iに進む。n=nlastでない場合(No)には、もう1枚画像データを取り込むために、処理はステップ51t(図9参照)に進む。
ステップ52i:クロック制御手段27によって撮像部5の転送クロックを下げる。または、省電力のために、撮像部5の転送クロックを停止させる。
ステップ52j:第2エラーレジスタの値が一定値以上であるか否かを判定する。
第2エラーレジスタの値が一定値より小さい場合(No)には、処理はステップ52nに進む。第2エラーレジスタの値が一定値以上である場合(Yes)には、処理はステップ52kに進む。
ステップ52k:積分画像をリサイズすることによって、欠除部を排除可能か否か(欠除部の範囲が排除可能な範囲内であるか否か)を判定する。
例えば、補正画像33cには欠除部34aが生じている(図4参照)。この場合には、積分画像35cにも欠除部34bが生じてしまう。したがって、欠除部34bを排除するために、積分画像35cをリサイズする必要がある。この場合に、積分画像35cをリサイズすることによって欠除部34bを排除可能か否か(欠除部34bの範囲が排除可能な範囲内であるか否か)を判定する。
排除可能な場合(Yes)には、処理はステップ52mに進む。排除可能でない場合(No)には、処理はステップ52pに進む。
ステップ52m:積分画像35cをリサイズすることによって欠除部34bを排除し、欠除部のない積分画像35dを得る(図4参照)。
ステップ52n:積分画像35dを示すデータを記録媒体14に記録する。
ステップ52p:手振れ補正しても欠除部を排除不可能であるため、操作者に手振れ補正の失敗を伝える。例えば、表示部12に“手振れ補正エラー(範囲外である)”との意味の表示をする(図1参照)。また、スピーカー37からエラー警告音を出力する。また、バイブレーター36を振動させる。
ステップ52q:主表示設定がONか否か判定する。
主表示設定がONである場合(Yes)には、処理はステップ52rに進む。主表示設定がONでない場合(No)には、処理はステップ52tに進む。
ステップ52r:主画像メモリ30に格納されている手振れ補正された積分画像、またはリサイズされた画像を表示部12に表示する。
ステップ52t:手振れ補正された画像を記録媒体14に記録する。一定時間経過後、別の手振れ補正された画像を撮影する場合には、再び最初のステップ50aに戻る(図8参照)。
このように、本発明の撮影方法によれば、複数のフレームを示す情報を揺動補正し、静止画を示す情報を生成することができるため、手振れ補正された1枚の静止画像を得ることができる。
以上、(5.撮影方法1)において、図1および図8〜図10を参照して、本発明の実施の形態の一例を説明した。
例えば、図8〜図10に示される実施の形態では、ステップ52aが「撮影された静止像を表す複数のフレーム間の揺動量を検出するステップ」に対応し、ステップ52b〜ステップ52gが「検出された揺動量に応じて、複数のフレームを示す複数のフレーム情報を補正するステップ」に対応し、ステップ52gが「揺動補正された複数のフレーム情報を記憶するステップ」に対応し、ステップ52gまたはステップ52mが「記憶手段に記憶された複数のフレーム情報に基づいて、静止像を示す静止画像情報を生成するステップ」に対応する。
しかし、本発明の撮影方法が図8〜図10に示される実施の形態に限定されるわけではない。撮影方法に包含される各ステップが、上述した「撮影された静止像を表す複数のフレーム間の揺動量を検出するステップ」、「検出された揺動量に応じて、複数のフレームを示す複数のフレーム情報を補正するステップ」、「揺動補正された複数のフレーム情報を記憶するステップ」および「記憶手段に記憶された複数のフレーム情報に基づいて、静止像を示す静止画像情報を生成するステップ」の各々が有する機能を有する限りは、任意の手順を有し得る。
例えば、図8〜図10を参照して説明したように、演算部29は、主画像メモリ30に記憶された複数の画像データ(フレーム情報)の各々を順次演算することによって、静止画像情報を生成する。また、演算部29は、主画像メモリ30に記憶された複数の画像データ(フレーム情報)を一括して演算することによって、静止画像情報を生成してもよい。
6.撮影方法1(順次演算)
図11は、本発明の実施の形態の順次演算処理手順を示す。順次演算処理手順は、複数の画像データ(フレーム情報)の各々を順次演算することによって、静止画像情報を生成する手順である。
以下、図1と図11とを参照して、撮影準備終了後(図9のステップ51s以降)の順次演算処理手順をステップごとに説明する。
ステップ10a:n=0に設定する。
ステップ10b:nを1つインクリメントする(n=n+1)。
ステップ10c:n枚目の画像を撮影し、副メモリ8にとり込む。
ステップ10d:n枚目の画像を手振れ補正し、手振れ補正された画像Pを得る。
ステップ10e:演算部29は、手振れ補正された画像Pを示すデータをm倍する(P×m)。
ステップ10f:演算部29は、m倍された画像Pを示すデータを主画像メモリ30の画像データに加算する(Σn−1 i=1(P×m)+(P×m))。
ステップ10g:加算結果を主画像メモリ30に蓄積する。
ステップ10h:n=nlast(即ち、最後の値)であるか否かを判定する。
n=nlastである場合(Yes)には、処理はステップ10iに進む。n=nlastでない場合(No)には、もう1枚の画像データを取り込むために、処理はステップ10bに進む。
ステップ10i:副演算部29aは、m倍され、順次加算された画像データを1/s倍し、静止画を示す画像データPを生成する(P=(Σ i=1(P×m))/s)。
ステップ10j:生成された画像データPを記録部13に出力する。
記録部13に出力した後、処理は終了する。
このように、順次演算処理手順によれば、複数の画像データ(フレーム情報)の各々を順次演算することによって、静止画像情報を生成するため、静止画像情報の生成時間を短縮することができる。
また、演算部29が、m倍された画像Pを示すデータを主画像メモリ30の画像データに加算し、副演算部29aが、m倍され、順次加算された画像データを1/s倍し、静止画を示す画像データPを生成するため、mの値とsの値とを任意に設定することによって、所望の明るさを有する1枚の静止画を得ることができる。
7.撮影方法1(一括演算)
図12は、本発明の実施の形態の一括演算処理手順を示す。一括演算処理手順は、複数の画像データ(フレーム情報)を一括して演算することによって、静止画像情報を生成する手順である。
以下、図1と図12とを参照して、撮影準備終了後(図9のステップ51s以降)の一括演算処理手順をステップごとに説明する。
ステップ20a:n=0に設定する。
ステップ20b:nを1つインクリメントする(n=n+1)。
ステップ20c:n枚目の画像を撮影する。
ステップ20d:n枚目の画像を示すデータを主画像メモリ30に蓄積する。
ステップ20e:演算部29は、n=nlast(即ち、最後の値)であるか否かを判定する。
n=nlastである場合(Yes)には、処理はステップ20fに進む。n=nlastでない場合(No)には、もう1枚の画像データを取り込むために、処理はステップ20bに進む。
ステップ20f:n枚の画像を手振れ補正する。手振れ補正されたn枚の画像の各々を画素積分し、1枚の静止画を示す画像データPを生成する。
ステップ20g:生成された画像データPを記録部13に出力する。
記録部13に出力した後、処理は終了する。
このように、一括演算処理手順によれば、複数の画像データ(フレーム情報)を一括演算することによって、静止画像情報を生成するため、演算部29の負荷を低減することができる。
なお、上述の(6.撮影方法1(順次演算))で説明したように、副演算部29aによって、画像データを適宜m倍、1/s倍することができるため、所望の明るさを有する1枚の静止画を得ることができる。
8.撮影方法2
図13は、撮影場所の明るさや、シャッター速度(露光時間)に応じて、複数の画像(分割画像)を積分することによって、手振れ補正を行うための処理手順を示す。
以下、この処理手順をステップごとに説明する。
ステップ99a:解像度、画素数および分割画像数を設定する。
ステップ99b:手段振れ補正優先スイッチがONであるか否かを判定する。
ONでない場合(No:解像度優先モード)には、例えば、処理はステップ80c(後述される図19参照)に進む。ONである場合(Yes:手段振れ補正優先モード)には、処理はステップ99cに進む。
ステップ99c:撮影場所の明るさが、解像度に応じて定められた所定値より小さいか否かが判定される。
所定値より小さい場合(Yes)には、処理はステップ99fに進む。所定値と同じか所定値より大きい場合(No)には、処理はステップ99dに進む。
ステップ99d:シャッタ開口時間(露光時間)Sが、解像度に応じて定められた所定値より大きいか否かが判定される。
所定値より大きい場合(Yes)には、処理はステップ99fに進む。所定値と同じか所定値より小さい場合(No)には、処理はステップ99eに進む。
ステップ99e:手振れ量が所定値より大きいか否かが判定される。
所定値より大きい場合(Yes)には、処理はステップ99fに進む。所定値と同じか所定値より小さい場合(No)には、通常撮影(時間方向の画素加算をしない撮影)を行う(ステップ99m)。
ステップ99f:撮影場所の明るさ、シャッタ開口時間(露光時間)およびフレームレートのうちの少なくとも1つに応じて、手振れが目立たない解像度(限界解像度)Nを設定する。
設定後、処理はステップ99gに進む。
ステップ99g:解像度Nが初期解像度Nより大きいか否かを判定する。
大きい場合(Yes)には、通常撮影(時間方向の画素加算をしない撮影)を行う(ステップ99m)。同じか小さい場合(No)には、処理はステップ99hに進む。
ステップ99h:解像度Nを初期解像度Nより小さい解像度Nに変更する。
ステップ99i:水平方向の画素加算(水平加算処理)および垂直方向の画素加算(垂直加算処理)のうちの少なくとも一方を実施し、解像度をNに設定する。水平加算処理および垂直加算処理の詳細は、後述される。
ステップ99j:フレームレートを上げる。
ステップ99k:多重撮影を行う(時間方向、画素加算モード)。次に、処理は、例えば、ステップ51y(図9参照)に進む。
9.解像度の変更
図14は、面内画素加算と時間軸内画素加算とによって解像度を変更する手順を示す。
以下、図14を参照して面内画素加算と時間軸内画素加算とによって解像度を変更する手順をステップごとに説明する。
ステップ70a:撮像素子内の9個の画素(画素60a〜画素60i)を示すデータを面内方向に加算して、1つの画素62を示すデータを生成する。
ステップ70b:実際のアドレスより多い仮想アドレスを設定する(実際のアドレスの量を拡大することによって、仮想アドレスを設定する)。手振れ補正情報(揺動情報)に応じて仮想的な切り出し部65を設定する。
ステップ70c:手振れ補正情報に応じて、仮想アドレス上で、画像61を示すデータをシフトする。この場合、元の画素62を示すデータと周囲の画素を示すデータとに基づいて、新たな画素66を示すデータを生成する。
図15は、本発明の実施の形態による実際の画素数より多い画素数を設定して手振れを補正する原理を示す。手振れ補正量は画素の1/10の分解能をもつため、精密に補正するために、画素62を10分割した仮想画素67を生成し、仮想画素67をシフトする。
仮想画素67を仮想空間上でシフトした後、処理はステップ70dに進む。
ステップ70d:画像を切り出す。
ステップ70e:切り出し画像64を示すデータを得る。はみ出した部分68を示すデータは捨てる。
ステップ70f:主画像メモリ30に切り出し画像64を示すデータを記録する。この時の手振れ補正量は、主画像メモリ30に記録される。
ステップ70g:新たな画像61aを示すデータが入力されると、ステップ70a〜ステップ70dと同様の処理を行う。
ステップ70h:手振れ補正量に基づいて、切り出し画像64aを示すデータを得る。
ステップ70i:切り出し画像64の画素を示すデータと切り出し画像64aの画素を示すデータとを時間軸方向に加算(または積分)することによって、合成画像71を示すデータを得る。
ステップ70j:合成画像71を示すデータを主画像メモリ30に記録する。
ステップ70k:新たな画像61bを示すデータが入力されると、ステップ70a〜ステップ70eと同様の処理を行う。切り出し画像64bを示すデータを得る。
ステップ70m:合成画像71の画素を示すデータと切り出し画像64bの画素を示すデータを時間軸方向に加算することにより、合成画像71aを示すデータを得る。
ステップ70n:1回目の手振れ補正量69、2回目の手振れ補正量69aおよび3回目の手振れ補正量69bを演算することにより、手振れ補正量72を生成する。手振れ補正量72に基づいて、3枚の画像が重複して加算された重複領域73を合成画像71aから特定する。
ステップ70p:重複領域73を示すデータに対してズーミング演算を行うことにより、拡大補間し、拡大画像74を示すデータを得る。拡大補間および縮小補間の詳細は後述される。
手振れ補正された静止画74を示すデータを得て、処理は終了する。
図14を参照して説明された実施の形態では、3枚の画像を積分する例を説明したが、積分される画像の枚数は3枚に限らない。例えば、露光時間が長くなると、より多くの画像を積分する。より多くの画像を積分することによって、暗い場所の撮影が可能となる。
図16は、面内方向の加算方法を示す。面内方向の加算は、垂直方向の加算と水平方向の加算とを含む。
図16(a)は、垂直方向の加算方法を示す。垂直方向の読み出し時にR(赤)(m、n+1)とR(m、n)とを垂直加算処理し、R(m、n+1)+R(m、n)を生成する。
図16(b)は、水平方向の加算方法を示す。同じ色同志の画素を水平方向に加算する。例えば、G(m、n+1)+G(m、n)とG(m+1、n+1)+G(m+1、n)とを水平加算処理し、G(m、n+1)+G(m、n)+G(m+1、n+1)+G(m+1、n)を生成する。
図16を参照して説明したように、面内方向の加算によって、4画素を示すデータから1画素を示すデータを生成することができる。
なお、以下に説明するように、面内方向の加算処理において、画像の切り出し位置をシフトすることによって、さらに正確に画像を切り出すことができる。
図17は、画像の切り出し位置のシフトを説明するための図である。
加算切り換え手段102aと加算切り換え手段102bとは、揺動検出手段15(図1参照)から出力された補正信号または検出信号(揺動情報)に応じて、加算モードをAモード103とBモード104との間で切り替える。このように、面内方向の加算処理(図16参照)において、画像の切り出し位置を1画素分シフトすることによって、さらに正確に画像を切り出すことができる。
図18は、縮小補間の原理、拡大補間の原理、および高分解能の手振れ補正の原理を示す。図18(a)は、縮小補間の原理を示す。元の画素(8個)から縮小補間された画素(6個)を得ることができる。図18(b)は、拡大補間の原理を示す。元の画素(6個)から拡大補間された画素(8個)を得ることができる。図18(c)は、高分解能の手振れ補正の原理を示す。
10.手振れ検出に失敗した画像の除去
図19は、手振れ検出に失敗した画像を除去する手順を示す。
以下、図19を参照して手振れ検出に失敗した画像を除去する手順をステップごとに説明する。
ステップ80a:シャッター速度(露光時間)がt’より長いか否かが判定される。
シャッター速度(露光時間)がt’より長い場合(Yes)には、処理はステップ80bに進む。
ステップ80b:手振れが激しいか否かが判定される。
手振れが激しくない場合(No)には、処理はステップ80cに進む。手振れが激しい場合(Yes)には、処理はステップ80dに進む。
ステップ80c:解像度を予め設定されている解像度に設定したままで、撮影を行う。
ステップ80d:手振れ補正を優先的に行うか否かを判定する。手振れ補正を優先的に行うための設定がONである場合(Yes)には、処理はステップ80eに進む。手振れ補正を優先的に行うための設定がONでない場合(No)には、処理はステップ80cに進む。
ステップ80e:手振れ補正モードが表示される。
ステップ80f:露光時間tがt<t<tであるか否かを判定する。
露光時間tがt<t<tである場合(Yes)には、処理はステップ81dに進み、面内画素が加算され(ステップ81d)、露光時間tをt<tに設定し(ステップ81e)、撮影が開始される(ステップ81f)。
露光時間tがt<t<tでない場合(No)には、処理はステップ80gに進み、
<t<tであるか否かを判定し、t<t<tでない場合(No)には、処理を停止する(ステップ81g)。t<t<tである場合(Yes)には、処理はステップ80hに進む。
ステップ80h:面内の画素加算の設定を行う。
ステップ80i:露光時間tをt<tにし、手振れ補正用に撮影する画像数Pを求める。
ステップ80j:撮影を開始する。R=0に設定する。
ステップ80k:n=0に設定する。
ステップ80m:n=n+1に設定する。
ステップ80n:第n番目の画像の面内方向の画素加算を行う。
ステップ80p:手振れの検出を行う。
ステップ80q:手振れの検出に成功したか否かを判定する。
手振れの検出に失敗した場合(No)には、R=R+1とし(ステップ80r)、R<Rであるか否か(Rが設定値Rより小さいか否か)を判定し、R<Rでない場合(No)には、処理が停止される(ステップ80t)。R<Rである場合(Yes)には、動きベクトルの検出点および動きベクトルの検出数のうちの少なくとも一方を変更し(ステップ80v)、最初から補正作業をやり直すために、処理はステップ80kに進む。
手振れの検出に成功した場合(Yes)には、処理はステップ80uに進む。
ステップ80u:主画像メモリ30に補正後の画像を蓄積する。
ステップ80w:n=Pであるか否かを判定する。
n=Pでない場合(No)には、処理はステップ80mに進む。n=Pである場合(Yes)には、手振れ補正用に撮影する全ての画像(全分割画像)の処理が終ったと判断され、処理はステップ80xに進む。
ステップ80x:主画像メモリ30の中の複数の補正画像を時間軸方向に加算もしくは積分する。
ステップ80y:1枚の画像を示すデータを生成する。
ステップ80z:生成された1枚の画像を示すデータに対して間引き処理等を行い、表示部12に表示する。
ステップ81a:操作者が画像保存スイッチをONにするか否かを判断する。
ステップ81b:画像を示すデータに対して圧縮処理(JPEG等)を行い、画像データの容量を小さくする。
ステップ81c:記録媒体14(例えば、ICカード)に記録する。
図19を参照して説明したように、本発明の実施の形態によれば、手振れの検出に失敗した補正画像データの加算(積分)を防止できる。例えば、時間軸方向に加算(積分)した検出に失敗するような検出困難な画像の場合でも、手振れ補正された画像を得ることができる。また手振れの検出に失敗した画像の次の画像から時間軸方向の積分を開始することができるため、時間利用効率が良い。
11.手振れ量の表示
図20は、本発明の実施の形態の撮影装置200の構成を示す。
撮影装置200は、撮影装置100と同様に、手振れ量の表示を行うことができる。撮影装置200は、手振れ量演算部92と、軌跡演算部91と、表示部95と、スピーカ97と、バイブレータ98と、CPU99と、振動ジャイロ101aと、振動ジャイロ101bとを含む。
手振れ量演算部92(揺動検出手段15:図1参照)は、手振れ量(揺動量)を演算し、表示回路を介して表示部95に出力する。軌跡演算部91は、手振れ補正しても補正しきれなかった手振れの軌跡を演算し、表示回路を介して表示部95に出力する。
CPU99は、手振れ量が所定の値より大きいか否かを判定し、所定の値より大きい場合には、表示部95、スピーカ97およびバイブレータ98のうちの少なくとも1つに、判定結果を出力するよう指示する。
表示部95は、CPU99の指示に従って、判定結果を表示する。スピーカ97は、CPU99の指示に従って、警告音を発生する。バイブレータ98は、CPU99の指示に従って、振動する。
図21は、撮影装置200に含まれる表示部95の一例を示す。
表示部95では、手振れ量が、インジケーター93、93a、93b、93cによって、表示される。撮影者がこの表示を目視することによって、撮影者は手振れ量と手振れ方向とを確認することができる。手振れ量と手振れ方向とを確認することによって、撮影者はカメラの固定方法を変更する。その結果、人間の操作により通常より手振れの少ない静止画を得ることができる。
図22は、撮影装置200に含まれる表示部95の別の例を示す。
表示部95では、手振れ補正しても補正しきれなかった手振れの軌跡が、軌跡94bおよび軌跡94dのように表示される。撮影者がこの表示を目視することによって、撮影後に、その静止画がどの程度手振れしているかを確認することができる。手振れの失敗をカメラの小さな表示部で確認できるので、撮影者は、手振れ補正の失敗をチェックできる。流し撮りモード(例えばパンニング、パノラマ撮影)の場合には、タテ方向の手振れのみをチェックしてもよい。
なお、表示部95では、手段振れ量(x、y)が所定の値(x、y)より大きい場合((x>x、またはy>y)あるいは(x>x、かつy>y))には、警告表示を行ってもよい。また、スピーカは警告音を発生してもよい。所定の値(x、y)は、例えば、ズーム比に応じて設定される。
さらに、表示部95では、手段振れ量(x、y)が所定の値(x、y)より小さい場合((x<x、またはy<y)あるいは(x<x、かつy<y))には、表示(例えば「OK」)を行ってもよい。また、スピーカは音を発生してもよい。所定の値(x、y)は、例えば、ズーム比に応じて設定される。
図23は、パンニングまたはパノラマ撮影時の境界インジケーター97の表示を示す。
図23(a)は、3つのフレームに分けて撮影するための風景を示す。
図23(b)は、フレーム98aを示す。図23(c)は、フレーム98bを示す。図23(d)は、フレーム98cを示す。図23(e)は、フレーム98dを示す。
図23(a)に示された風景を右方向へパノラマ撮影する場合、手振れ補正用の動きベクトルの検出用の代表点である検出点96a、96b、96c(図23(b)参照)のうちの検出点96aは、フレーム上を移動し、フレーム98bの左端にくる(図23(c)参照)。この時、L1だけ画面が右にシフトしたことを動き検出のための揺動検出手段15が検出し、図23(b)のフレームの右端の境界を示す境界インジケーター97aをフレーム右端からL1に位置に表示する(図23(c)参照)。
同様にして、揺動検出手段15が、L2だけ画面が右にシフトしたことを検出し、境界インジケーター97bをフレーム右端からL2に位置に表示する(図23(d)参照)。
同様にして、図23(e)では境界インジケーター97cは画面左端にくる。この段階で撮影者は次の撮影位置にきたことを知ることができる。必要ならスピーカー37(図1参照)により通知音を発生させ撮影者に知らせることができる。この時、撮影者がシャッターボタンを押すことにより、ほぼ完全なパノラマ撮影をすることができる。
以上、検出点を画面上に複数個設定し、その検出点の動きベクトルから撮影者の移動をフレームの動きと見なして判別する方法を述べた。
この方法では、手振れ補正のための手振れ検出手段によってパンニング検出を行う。しかし、図20に示すように、振動ジャイロ101aおよび振動ジャイロ101bを用いて手振れ検出を行う撮影装置では、振動ジャイロにより撮影者のパンニング回転角を検出し、1フレーム分の左右方向のパンニングに必要な回転角θをズーム検出部のズーム比に応じて求めることもできる。
まず、図23(b)の状態では、右端に境界インジケータ97を表示させる。この状態で撮影者は、パノラマ撮影の最初の1枚目を撮影する。次に、撮影者がカメラを右方向に回転角θパンニング(つまり回転)した場合、撮影者はカメラが2枚目のフレームの撮影位置にきたことがわかる。
回転角θに達した時点で、左端に境界インジケータ97cを表示する(図23(e)参照)。この時点で、回転角θに達したことをスピーカーもしくは表示によって撮影者に通知する。撮影者に次のシャッターを切らせることにより左右方向に正確なパノラマ撮影ができる。
左右方向だけでなく、上下方向の境界インジケータ99a、99bを表示部12に表示することにより、撮影者が容易に、上下と左右とが一致したパノラマ撮影をすることができる(図23(b)参照)。この場合、パンニング方向を表示画面上に矢印で示し、正しいパンニング方向を表示することによって、撮影者は矢印通りにカメラを向けるだけで容
易にパノラマ撮影ができる。一般に、撮影者はカメラを手持ちして撮影するため、正確に撮影方向を定めることができない。しかし、カメラの手振れ補正機能を用いて画面の左右上下を自動的に調整することによって、極めて正確なパノラマ撮影が可能となる。
なお、カメラの手振れ補正機能を用いて画面の左右上下を自動的に調整する場合でも、撮影したパノラマ画面と理想的なパノラマ画面との誤差が発生する。撮影状態の属性を示す属性データ(Exif等)に、この誤差を追加記録することによって、複数の画像を合成して1枚のパノラマ画像に変換する時に左右上下の位置合わせをより正確に行うことが可能になる。この誤差情報に基づて、誤差を修正できるからである。
以上述べたことは、手振れ検出方式が電子検出方式である場合でも、同様に実現できる。
図24は、フレーム内の手振れ検出のための検出点を示す。手振れ検出の失敗が多い場合、またはフレームレートが遅い場合に、フレーム98内での、検出点96の位置の変更、または、検出点96の数の増加によって、手振れ検出の成功率を上げることができる。
このように、本発明の撮影装置によれば、撮影者は手振れの程度を確認することができる。手振れの程度を確認することによって、撮影者はカメラの固定方法を変更することができ、その結果、人間の操作により通常より手振れの少ない静止画を得ることができる。
以上、(11.手振れ量の表示)において、図1および図20〜図23を参照して本発明の実施の形態の一例を説明した。
例えば、図1および図20〜図23に示される実施の形態では、揺動検出手段15(手振れ量演算部92)が「撮影された静止像を表す複数のフレーム間の揺動量を検出する揺動量検出手段」に対応し、CPU99が「揺動量が所定の値より大きいか否かを判定する判定手段」に対応し、表示部95、スピーカ97およびバイブレータ98が「判定結果を出力する出力手段」に対応する。
しかし、本発明の撮影装置が図1および図20〜図23に示される実施の形態に限定されるわけではない。撮影装置が備える各構成要素が、上述した「撮影された静止像を表す複数のフレーム間の揺動量を検出する揺動量検出手段」、「揺動量が所定の値より大きいか否かを判定する判定手段」および「判定結果を出力する出力手段」の各々の機能を有する限りは、任意の構成を有し得る。
12.軌跡演算部の動作
図25を用いて本発明の軌跡演算部91の動作を詳しく説明する。
撮影装置(カメラ)1に生じた手振れに基づく揺動は、例えば、角速度検出部101a、101bによって検出される。角速度検出部101a、101bは、撮影装置1の揺動を示す揺動検出信号を出力する。
角速度検出部101a、101bは、例えば、角速度センサであり得る。角速度センサは、例えば、互いに異なる複数の振動周波数を有する振動ジャイロであり得る。
角速度検出部101a、101bから出力される揺動検出信号は、サンプリング周波数発生部104によって生成されるサンプリング周波数fでサンプリング回路102によってサンプリングされる。その結果、角速度を表すアナログデータがデジタルデータに変換される。
このように、角速度検出部101a、101bは、撮影装置1の揺動を検出し撮影装置1の揺動を示す揺動検出信号を出力する揺動検出部として機能する。ただし、角速度検出部101a、101bは揺動検出部の単なる一例にすぎない。撮影装置1の揺動を検出し撮影装置1の揺動を示す揺動検出信号を出力するという機能を有する限り、揺動検出部は任意の構成を有し得る。
軌跡演算部91は、揺動検出部(例えば、角速度検出部101a、101b)から出力される揺動検出信号に少なくとも基づいて、撮影装置1の揺動の軌跡を示す軌跡情報を取得する。例えば、軌跡演算部91は、揺動検出信号の一定期間内の変化を示す情報を軌跡情報として取得し得る。例えば、揺動検出部が角速度センサを含む場合には、その角速度センサの出力を積分することにより角度情報を取得し、その角度情報の一定期間内の変化を示す情報を軌跡情報として取得してもよい。
手振れ補正部115は、撮像部5から出力され、撮影映像メモリ120に格納される映像情報と軌跡情報とに演算処理することにより、その映像情報の揺動を補正した補正映像情報を取得する電子的揺動補正部として機能する。
なお、電子的揺動補正部に代えて、揺動検出部(例えば、角速度検出部101a、101b)から出力される揺動検出信号に応じて撮影装置1の揺動を機械的に補正することにより、現実の揺動補正量だけ映像情報の揺動を補正した補正映像情報を取得する機械的揺動補正部を設けるようにしてもよい。この場合には、軌跡演算部91は、例えば、揺動検出信号と現実の揺動補正量との差分の一定期間内の変化を示す情報を軌跡情報として取得する。
あるいは、第1揺動補正量だけ映像情報の揺動を補正した第1補正映像情報を取得する機械的揺動補正部に加えて、第2揺動補正量だけ第1補正映像情報の揺動を補正した第2補正映像情報を取得する電子的揺動補正部を設けるようにしてもよい。この場合には、軌跡演算部91は、例えば、現実の揺動補正量と第1揺動補正量との差分量を示す残留揺動量の一定期間内の変化を示す情報を軌跡情報として取得する。
なお、図25、図30〜図33に示される撮影装置1の構成の一部もしくは全部を単一の半導体チップ上に集積することができる。例えば、軌跡演算部91、手振れ補正部115(電子的揺動補正部)および手振れ補正制御部141(機械的揺動補正部)のうちの少なくとも1つを単一の半導体チップ(半導体集積回路)上に集積してもよい。
12.1 最適サンプリングと圧縮
図26(a)は、通常の均等な時間間隔(すなわち、一定のサンプリング周波数f)で全てのサンプルを取得する場合を示す。ズーム手段6のズーム比が大きい時又はカメラの揺動が大きい期間、つまり角速度検出部101a、bの出力値の時間変位量の大きい期間においては、図26(b)の点103a、103bに示すように2倍のサンプル周波数2fで細かいサンプリングを行う。逆に時間変位量の小さい期間においては点103c、103dに示すように、半分のサンプル周波数f/2で粗いサンプリングを行う。通常の期間においては、点103eのようにfで標準のサンプリングを行う。
このように、図26(b)では、ズーム比や角速度量又は角速度の変化量の大小に応じてサンプリング周波数発生部104のサンプリング周波数を変化させる。最適のサンプリングができるため、軌跡の手振れ補正に必要な軌跡データを情報量を増やすことなく得ることができる。外部記憶媒体105に軌跡データ113を記録する場合、記憶データを最小にできるという効果がある。また、全期間のサンプリング周波数を増やす必要がないた
め、省電力効果もある。
別の方法として、サンプリング周波数を最高速度にしておき、揺動検出量をサンプリングしデジタル変換を行うとともに、軌跡演算部91の内部処理によって手振れ変化量に応じてサンプリング数を増減させるようにしてもよい。この方法によっても軌跡データを圧縮できる。
12.2 撮影情報の付加
データ圧縮部105は、軌跡演算部91から出力された軌跡データを圧縮する。圧縮方法は、上述した圧縮方法と同一である。撮影情報付加部106は、データ圧縮部105によって圧縮された軌跡データにExifデータ107のような撮影情報のファイル形式のデータを付加する。出力データ生成部110は、補正画像出力部108から出力された手振れ補正された画像Pもしくは切換部109から直接出力された手振れ補正されていない画像データP’に撮影情報付加部106から出力されるデータを付加することにより、出力データを生成する。
手振れ量測定部111は、手振れ量を測定し、測定された手振れ量に応じて切換部109を切り換えるための制御信号を生成する。軌跡演算部91は、手振れ補正部115における処理量を演算し、演算された処理量に応じて切換部109を切り換えるための制御信号を生成する処理量演算部116を含む。
切換部109は、手振れ量測定部111からの制御信号および処理量演算部116からの制御信号のうちの少なくとも一方に応じて、撮像部5からの映像データを手振れ補正部115に出力するか出力データ部110に出力するかを切り換える。
手振れ量測定部111によって測定された手振れ量が所定の量より大きい場合には、手振れ量測定部111は、撮像部5からの映像データが手振れ補正部115をバイパスして出力データ生成部110に直接的に出力されるように切換部109を切り換える。例えば、処理量演算部116によって演算された手振れ量補正部115における処理量が所定の処理量より大きい場合(すなわち、手振れ補正部115における処理量が手振れ補正部115の処理能力を超える場合)には、処理量演算部116は、撮像部5からの映像データが手振れ補正部115をバイパスして出力データ生成部110に直接的に出力されるように切換部109を切り換える。この場合、出力データ生成部110は、切換部109から出力された手振れ補正されていない画像P’に撮影情報付加部106から出力されるデータ(例えば、点光源分布関数(PSF)Point Spread Function等の手振れの軌跡データ113を含むExifデータ107)を付加することにより、出力データを生成する。
撮像部5からの映像データが手振れ補正部115に出力される場合には、出力データ生成部110は、補正画像出力部108から出力された手振れ補正された画像Pに撮影情報付加部106から出力されるデータ(点光源分布関数(PSF)Point Spread Function等の手振れの軌跡データ113を含むExifデータ107)を付加することにより、出力データを生成する。
出力データは、出力データ出力部によって外部記憶媒体114に記録される。この記録された映像データと手振れの軌跡データ113とをカメラ1の外部にある処理能力の高いパソコンにおいて処理することにより、手振れ量が大きく、補正処理量が大きな映像データでも手振れ補正の後処理ができるという効果がある。
図25を参照して、撮影装置(カメラ)1の動作を説明する。
カメラ1に入射した光は、レンズ部2、ズーム部2a、フォーカス部2bを通り、撮像部5上に結像する。シャッターボタン119が押されるとシャッター開時間制御部118によりシャッター117が一旦閉じられ、撮影開始とともに再び開く。露光が完了するとシャッター117が再び閉じられ、撮像データの取得が完了すると再び開状態になる。この撮像データは一旦撮影映像メモリ120に蓄えられ、前述のように切換部109により切り換えられる。
をカメラの限界処理能力とし、hをデータ処理方式の限界処理能力とすると、手振れ量hがh<h<hの場合は、カメラの手振れ補正部115では処理できないため、出力データ生成部110に直接送られる。h<hの場合は高速のCPUを用いても手振れ補正ができないため、映像データを出力データ生成部110に送るとともに、警告部145から「もう一度撮影せよ」を示す警告音や警告表示をスピーカ37や表示部12に送る。そして、使用者がもう一度撮影することにより手振れによる失敗が減る。
は補正可能な手振れ量であるから、h<hの場合にはカメラ内で補正できるため、映像データは手振れ補正部115に送られる。手振れ補正部115では重み付けした手振れの軌跡データ113と、手振れした映像P’とを用いてフーリエ逆変換部121でフーリエ逆変換を施すことにより手振れが補正された映像Pが得られる。
最大手振れ量演算部122は、撮影画像112、112a、112bに基づいて、x方向の最大の手振れ量x、xと、y方向の最大の手振れ量y、yとを演算する(図27(b))。
トリミング部123は、x方向の最大の手振れ量x、xと、y方向の最大の手振れ量y、yとに基づいて、撮像画像112の周辺部をx、x、y、y分だけトリミングすることにより、トリミング画像129を生成する(図27(c))。トリミング画像129の画素数は撮像画像112の画素数より小さい。
拡大部122は、拡大処理を行い、所定の画素数に画像を拡大する(図27(d))。
図27(a)に示される元の画像112のセンター126aと図27(c)に示されるトリミング画像129のセンター126とは一致しない。図27(c)に示される例では、(x、y)分だけずれている。撮影者が元の画像112のセンター126aを選択するスイッチを設定していた場合には、図27(a)に示される元の画像112のセンター126aと図27(e)に示されるトリミング画像129aのセンター126aとが一致するように、トリミング画像129がトリミング画像129aに変換される(図27(e))。図27(e)に示されるトリミング画像129aは、図27(d)に示される出力画像147に拡大される。その結果、元の画像112のセンター126aに一致するセンター126bを有する補正画像が得られる。
このようにして得られた手振れ補正画像は、補正画像出力部108を介して出力データ生成部110に送られると同時に、切換部124に送られる。
切換部124は、手振れ補正されていない画像P’を縮小部125に出力するか、補正画像出力部108から出力される手振れ補正された画像Pを縮小部125に出力するかを切り換える。
縮小部125は、切換部124から出力される画像P’もしくは画像Pの画素数を減らすことにより、画像P’もしくは画像Pを縮小し、縮小された画像P’もしくは画像Pを
表示部12に表示する。軌跡表示部126によって生成される手振れの軌跡を画像P’もしくは画像Pにオーバレイして表示部12に表示するようにしてもよい。
切換部124は、例えば、撮影直後には、縮小された画像P’を表示部12にを表示し、撮影直後から一定時間が経過して手振れ補正が完了すると、縮小された画像Pを表示部12に表示するように動作する。この方式により使用者が撮影直後に撮影画像を見ることができるという効果がある。この切り換えがないと手振れ補正処理が終わるまで、数秒間、撮影画像を確認できなくなる。
12.3 画像表示の方法
図28、図29を参照して、画像表示の手順を説明する。
まずステップ127でn番目の画像を表示し、ステップ127aでn番目の画像を撮影する。ステップ127bで、処理量演算部116は、手振れ補正演算に要する時間tを求める。tが処理可能な基準値を超えている場合にはステップ127cに進み「再撮影せよ」との警告を発する。そしてステップ127aで撮影者が再撮影をすると、ステップ127bへ進み、手振れ量が規定値以内であれば、ステップ127dに進み、撮影画面表示がONになっていればステップ127kへ進み、手振れ補正する前の撮影画像と撮影期間中に発生した手振れの軌跡129を表示部12に表示する。この時、処理状況インジケータ130も表示する。この処理状況インジケータ130は処理量演算部116で得た予測処理時間をtとすると、処理状況インジケータ130のフルスケールをtとして補正処理開始後の経過時間を表示させる。処理開始直後は処理状況インジケータ130のように表示され、終了間近には130aのように表示されるので、あとどの位で処理が終わるかをユーザーが知ることができる。これにより、待ち時間を知りたいというユーザーの希望に応えることができる。
そして、ステップ127mで手振れ補正が完了すると、ステップ127nで図25の切換部124により手振れ補正してない画像P’から手振れ補正した画像Pに切り換えられ、表示部12に表示される。
ステップ127eに戻り、手振れ軌跡表示スイッチがOFFの場合はステップ127fで手振れしている画像を表示する。この場合は手振れ軌跡を表示しない。ステップ127g、127hは、説明したステップ127m、127nと同じであるため説明は省略する。ステップ127iで撮像部からの映像を縮小部125で縮小した画像を作成し表示部12に表示する。ステップ127jでは次の撮影に備える。
ここでステップ127dに戻り、撮影画面表示SWがOFFの時は図29のステップ128aに進む。ステップ128aでは、撮像部のn番目の映像を表示している。ステップ128bでシャッターボタンが押され、撮影されるとステップ128cでn番の画像の手振れ補正を開始し、ステップ128dで「n番目の画像の手振れ補正処理中」のマーク131aを表示画面132jに出す。ステップ128eにおいてn+1番目の撮像部の映像を表示画面132jに表示するとともに、処理状況インジケータ130bを表示する。n番目の映像の手振れ補正が終わっていない状況にあるステップ128fにおいてn+1番目の撮影がなされると、ステップ128gでまずメモリ120に余裕があるかをチェックし余裕がなければ表示画面132kのようにステップ128hで「撮影待機」の表示133を出してユーザーの次の撮影を中止させる。ステップ128gでメモリー120に余裕があると、ステップ128jに進み、手振れ軌跡データを撮影映像メモリ120に記憶させ、ステップ128kで「n+1番目の画像手振れ補正中」を示すマーク131bとn+2番目の画像を表示画面132mのように表示させる。ステップ128mでn番目の処理が完了するとステップ128nで「n番目の手振れ処理中」のマーク131aを表示画面
132nのように消し、ステップ128Pでn+1番目の補正処理が完了するとステップ128qで表示画面132Pのように「n+1番目の手振れ補正処理中」を示すマーク131bを消す。そしてn+2番目の撮影に備える。
図25に示される手振れ補正部115により補正処理が正しく行われるためには手振れの軌跡情報が正確であることが重要である。軌跡データの経路を追うと振動ジャイロ等の角速度検出部101a、101bのデータを積分器136で積分角度θを得る。ズーム部6からズーム比情報を入手するとともに、焦点調整部137から焦点データを入手し、焦点fを算出し、f×tanθを求め、軌跡演算を行う。図26(b)で説明したように角度θの変位に応じてサンプリング数を変えることによりデータを正確に取得できる。軌跡情報は関数に変換することが最も好ましい。
この軌跡データを用いて手振れの補正部115においては手振れした画像P’に軌跡関数を逆フーリエ変換した関数をかけることにより、補正された元の画像Pが得られる。この演算は二次元フィルタ137で行うこともできる。本発明の方式は振動ジャイロ等により、手振れ軌跡データを正確に入手できるため精密に手振れが補正できる。また手振れの補正をカメラ1の中で行わない場合は、Exifデータのような撮影情報データに手振れの軌跡情報を付加した画像を出力する。図35に示すようにカメラ1のパッケージ152には撮影装置1と手振れの補正処理プログラム153の入ったCD−ROM等の記録媒体151が入っている。使用者は記録媒体151をコンピュータ150に装着し、補正処理プログラムを移動させる。カメラ1か5撮影画像データと手振れ軌跡情報を含むExifデータを得て、これらを演算することにより手振れを補正する。なお、この場合、撮影情報はExif形式には限定されず他の撮影情報データ形式でも同様の効果が得られる。
手振れ補正時間を処理量演算部116で予測するため、カメラ本体内で処理可能かどうかの判断が事前にできる。また補正処理時間を表示部に表示するとともに、処理の進行度を表示するためユーザーとのインターフェースが向上するという効果がある。
12.4 手振れ補正残渣の軌跡
図30参照して、光学補正等のx、y2軸の手振れ補正部をもつカメラにおいて、手振れ補正後に残る手振れをExifデータとして付加して出力する方法を説明する。
図30において検出された手振れデータに応じて、手振れ補正制御部141は手振れ補正信号を出力し、レンズ駆動部140により補正レンズ2cはx方向とy方向に駆動し、手振れを補正する。
実際には、この制御系は応答周波数特性をもつため、完全には手振れが補正されず、補正残渣が残る。また通常の光学補正方式やCCD駆動方式であるとx、y方向の補正のみでz方向(Roll方向)の補正はできない。量、補正残渣を求めるには、まずレンズ駆動部140から実際の補正量を手振れ補正亮算出部142が得て、差分部143の差分器143a、143bに入力する。角速度検知部101はZ方向(Roll方向)の角速度検知部101Cを持つ。角速度検出部101より得たx方向とy方向の成分を差分部143に入力させる。
x、y方向は、実際の手振れ量−実際の手振れ補正量=補正残渣で計算できる。x、y方向の補正残渣とz方向の角度情報を軌跡演算部144に入力させることにより、x、y方向の手振れ残渣の軌跡情報が得られる。z方向の角速度検出手段101cのデータは差分をとらずに積分され軌跡演算部の91に送られ軌跡情報が得られる。この軌跡情報113を表示部12に撮影画像の上にオーバレイして表示させる。同時に軌跡情報をデータ圧縮部105に送りデータを圧縮する。このデータを撮影情報付加部106において、Ex
ifデータ107として画像データに付加して出力データを生成し、データ出力部146においてICカードのような外部記憶媒体114に記録する。
この映像データにはExifデータ中にx、y方向の補正残渣とz方向の手振れの軌跡情報が含まれているため、コンピュータにおいて軌跡情報113と画像データと軌跡情報を用いてフーリエ逆変換とを行うことにより、x、y、z(ヨー、ピッチ、ロール)の3軸の手振れがデータ処理により補正できるという効果がある。光学補正では周波数応答特性がある。普通の写真サイズなら手振れが目立たないが、大判写真の場合目立つ。このような場合、本方式により後処理することにより、ほぼ完全に手振れが補正されるため効果は大きい。
半導体の処理能力が高くなった場合には、x、y、z方向のソフトウェアによる手振れ補正をカメラ1の内部に含めることも可能である。しかし、高い計算処理能力が要求されるため、カメラ内の3軸の補正は当分の間現実的でない。時代に応じていくつかのステップを踏むことが考えられる。第1の方法は、図30のように手振れの軌跡データx、y、zをカメラ内で算出し、Exifファイルで出力し、外部のコンピュータでデータ処理を用いて補正処理することである。第2の方法は図31のように光学式手振れ補正付カメラにおいて、x、y方向は手振れ補正制御部141を用いて光学補正で行い、z方向(Roll方向)の軌跡データを軌跡演算部144により求めてExifデータ107として画像データに添付する方式である。z方向の光学補正は困難なためz方向の手振れ補正を外部のコンピュータでソフトを用いて行うことによりカメラ側の部品を増やすことなくz方向の手振れ補正を行える。このため3軸全ての手振れを補正することができる。
第3の方法は、図32に示すようにx、y方向は光学補正を行い、角速度検出部101cより得たz方向(Roll方向)の軌跡データを軌跡演算部144により求め、フーリエ逆変換部121もしくはフーリエ変換部を含む手振れ補正部115によりz方向の手振れ補正を行い、外部記憶媒体114に記録する方式である。明細書にはフーリエ逆変換部と記述しているが、フーリエ変換部を用いて同様の効果が得られることはいうまでもない。x、y方向の手振れはズームによって拡大されるため動きが激しい。これに対してz(Roll)方向の手振れは動きが緩やかで安定している。従って、処理能力の低いCPUでもz方向の手振れ補正が処理可能である。第3の方法としては、z方向のみ手振れをデータ処理で補正する方法が現実的である。
第4の方法は、図30で示したような、x、y方向は光学補正を行い、補正できなかった残渣の軌跡データを求め撮影映像にExifデータとして付加する方法である。この場合、光学補正により高域の手振れ成分はなくなっているので、補正残渣の軌跡データは低域成分のみであるため演算処理による手振れ補正がより容易になるという効果がある。
第5の方法は、図25に示す手振れ補正を全てデータ処理でカメラ内で行う方式であるが、激しい手振れの場合はデータ処理では対応できない。従って、図33に示すようにx、y方向は手振れ補正制御部141により光学補正方式等で補正し、その残渣を図30と同様の方法で差分部143により求め、その軌跡データを軌跡演算部91により求め、その軌跡データとx、y方向を光学補正した映像を用いて、手振れ補正部115によりデータ処理によりx、y、z方向の手振れを補正する。これにより、3軸ともカメラ内で手振れ補正可能となる。この方式では手振れの高域成分を光学補正により除去してあるため、補正残渣のデータ処理による補正が容易になるという効果が得られる。また光学補正では補正が困難なz方向(Roll方向)の補正が実現するという効果がある。
ここで、手振れ補正時の演算について説明する。図34に示すように元の画像iは手振れ軌跡情報の軌跡関数をhとすると手振れhにより、手振れした画像i’はiコンボルー
ションhとなる。そして各項をフーリエ変換するとI×H=I’となり、I=I’/HとなりこれをCとする。各項をフーリエ逆変換するとiはフーリエ逆変換(C)となり、iはフーリエ逆変換(I’/H)・・・(4)となる。iはi’コンボルーション(フーリエ逆変換(I/H))となるためフーリエ逆変換(I/H)をh’と置くとI=I’コンボルーションhとなる。毎回演算するとデジタルカメラ等の静止画の撮影装置に搭載している演算器の処理能力が低い為演算時間が長時間となり次の撮影が困難となる。次の撮影ができなくなることを避けるため画像メモリー120を設け、次に撮影した画像をこの画像メモリー120に次々と複数枚蓄える。しかし、撮影した画像を長時間経っても確認できないことも撮影者にとって好ましくない。この対策として実施例で説明したように撮影後、まず手振れの補正前の撮影画像を表示部12に表示する。これにより撮影者がおおよその撮影画像を確認できる。表示して一定時間後、具体的には手振れ補正の演算が完了した時点で手振れつまり揺動が補正された補正画像を表示部12に表示する。こうして撮影者はまずn番目の撮影画像を撮影直後に確認でき、次に手振れが補正されたn番目の補正映像を確認できるため、中断なくシームレスに撮影画像を目で確認できる。n番目の画像の補正演算が完了する前にn+1番目以降の画像が撮影された場合はn+1番目以降の画像を図25等の撮影画像メモリ(120)に退避させるとともに最新の撮影したn+1番目もしくはn+1番目以降の画像を表示部に次々と表示させていく。
ここで演算時間を短縮させる方法について述べると図34の(3)(4)のように元の画像を復元するには、フーリエ変換の演算が必要である。しかしデジタルカメラ内でフーリエ変換の演算を行うためには演算の超高速化が必要となり、このようなCPUの実現にはかなりの年月が必要となる。このため図34の(5)のように軌跡情報の重みづけ軌跡であるPSF(点光源分布関数)hのフーリエ変換Hの逆数のフーリエ逆変換h’を予め求めておく。このh’を手振れに応じて選択する。演算部148ではh’と手振れした画像i’を畳み込むつまりコンボルーションすることにより、元の画像iを得ることができる。このようにh’を予め準備しておくことにより演算処理時間を少なくすることができる。このため撮影装置に演算回路を内蔵することができる。
揺動補正量の検出方法を述べる。図36(a)に示すように揺動補正レンズ155は駆動モーター156によって駆動される。近傍にレンズ位置検出手段157としてホール素子158が取り付けられ磁気により揺動補正レンズ155の位置が検出され、揺動補正量159が求まる。別の方法としては図36(b)に示すように揺動補正手段の制御周波数特性160もしくは伝達関数161を予め求めておく。揺動量をこの系に入力すると電気的に揺動補正量162を求めることができる。この場合機械系を介さず電子回路だけで求まるためコストが安くなり構成も簡単になる。
また揺動の検出に複数の振動ジャイロを用いる場合、各振動ジャイロの周波数を揺動補正特性の周波数帯域分だけ互いに離すことにより、より安定に揺動を検出できる。
また図35のパッケージ152に示す、同一のパッケージに入れる際の効果について述べる。データ処理における揺動補正の場合、カメラのレンズ毎に、揺動の軌跡関数が異なる。従って図34に示したHとh’が異なる。第1の方法としてこのHとh’をExifデータとして撮影画像とともにカメラから出力する方法がある。この方法は確実であるが、1枚毎に付加するExifデータの容量が大きくなり、無駄が多い。第2の方法としてはカメラと同梱する記録媒体151にカメラ固有の軌跡関数の情報やHやh’を記録しておく方法がある。この場合はカメラ毎に異なる軌跡情報やHやh’を外部コンピュータに記録できるので、コンピュータで手振れ補正処理をする時、最適な手振れ補正が確実に行えるという効果がある。
以上のように、本発明の好ましい実施形態を用いて本発明を例示してきたが、本発明は、この実施形態に限定して解釈されるべきものではない。本発明は、特許請求の範囲によ
ってのみその範囲が解釈されるべきであることが理解される。当業者は、本発明の具体的な好ましい実施形態の記載から、本発明の記載および技術常識に基づいて等価な範囲を実施することができることが理解される。本明細書において引用した特許、特許出願および文献は、その内容自体が具体的に本明細書に記載されているのと同様にその内容が本明細書に対する参考として援用されるべきであることが理解される。
本発明は、手振れ補正に必要な軌跡情報を得ることが可能な撮影装置、その撮影装置とプログラムを記録した記録媒体とを含む製品パッケージおよび半導体集積回路等を提供するために有用である。軌跡情報は、撮影装置の外部にある機器(例えば、コンピュータ)に出力され得る。これにより、処理量の大きい手振れ補正を撮影装置の外部にある機器(例えば、コンピュータ)で行うことが可能になる。
図1は、本発明の実施の形態の撮影装置100を示す図 図2は、揺動検出手段15の構成を示す図 図3は、本発明の実施の形態の手振れ補正の動作を示す図 図4は、本発明の実施の形態のマスキングの動作を示す図 図5は、画素数とフレーム周波数との関係を示す図 図6は、4分割された画素領域を含む撮像部5の構成を示す図 図7は、本発明の実施の形態におけるフレームレートを速くした場合の動作図 図8は、本発明の実施の形態の撮影処理の手順(ステップ50a〜ステップ50f)を示すフローチャート 図9は、本発明の実施の形態の撮影処理の手順(ステップ51a〜ステップ51y)を示すフローチャート 図10は、本発明の実施の形態の撮影処理の手順(ステップ52a〜ステップ52t)を示すフローチャート 図11は、本発明の実施の形態の順次演算処理手順を示すフローチャート 図12は、本発明の実施の形態の一括演算処理手順を示すフローチャート 図13は、撮影場所の明るさや、シャッター速度(露光時間)に応じて、複数の画像(分割画像)を積分することによって、手振れ補正を行うための処理手順を示すフローチャート 図14は、面内画素加算と時間軸内画素加算とによって解像度を変更する手順を示すフローチャート 図15は、本発明の実施の形態による実際の画素数より多い画素数を設定して手振れを補正する原理を示す図 図16は、面内方向の加算方法を示す図 図17は、画像の切り出し位置のシフトを説明するための図 図18は、縮小補間の原理、拡大補間の原理、および高分解能の手振れ補正の原理を示す図 図19は、手振れ検出に失敗した画像を除去する手順を示すフローチャート 図20は、本発明の実施の形態の撮影装置200の構成を示す図 図21は、撮影装置200に含まれる表示部95の一例を示す図 図22は、撮影装置200に含まれる表示部95の別の例を示す図 図23は、パンニングまたはパノラマ撮影時の境界インジケーター97の表示を示す図 図24は、フレーム内の手振れ検出のための検出点を示す図 図25は、本発明の実施の形態の撮影装置1を示す図 図26は、本発明の実施の形態の手振れ検出信号のサンプリングを示す図 図27は、本発明の実施の形態の撮影画像のトリミングと拡大を示す図 図28は、本発明の実施の形態の撮影処理の手順(ステップ127〜127j)を示すフローチャート 図29は、本発明の実施の形態の撮影処理の手順(ステップ128a〜128g)を示すフローチャート 図30は、本発明の実施の形態の撮影装置1を示す図 図31は、本発明の実施の形態の撮影装置(Z方向の軌跡データ出力)1を示す図 図32は、本発明の実施の形態の撮影装置(Z方向の手振れ補正)1を示す図 図33は、本発明の実施の形態の撮影装置(光学補正とデータ処理補正)1を示す図 図34は、本発明の実施の形態の手振れ補正の演算を示す図 図35は、本発明の実施の形態の撮影装置と補正処理プログラムの組み合わせと補正処理用のコンピュータを示す図 図36は、本発明の実施の形態の撮影装置における補正量の検出手段の構成を示す図
符号の説明
2 レンズ部
4 自動焦点部
5 撮像部
6 ズーム部
8 副画像メモリ
9 揺動補正部
10 表示切替部
11 表示回路
12 表示部
13 記録部
14 記録媒体
15 揺動検出手段
16 第1メモリ
17 第2メモリ
18 演算部
20 マスキング部
21 揺動補正制御部
22 トリミング部
23 画素転送部
24 解像度変更部
25 シャッターボタン
25a 間引き制御部
26 CPU
27 クロック制御手段
28 処理クロック供給部
29 演算部
29a 副演算部
30 主画像メモリ
32 転送クロック供給部
36 バイブレータ
37 スピーカ
39 明部抽出部
40 フレームレート変更部
100 撮影装置
101 角速度検出部
102 サンプリング回路
103 点
104 サンプル周波数発生部
105 データ圧縮部
106 撮影情報付加部
107 Exifデータ
108 補正画像出力部
109 切換部
110 出力データ生成部
111 手振れ量測定部
112 撮影画像
113 軌跡データ
114 外部記憶媒体
115 手振れ補正部
116 処理量演算部
117 シャッタ
118 シャッタ開時間制御部
119 シャッターボタン
120 撮影映像メモリ
121 フーリエ逆変換部
122 拡大部(本文修正のこと)
123 トリミング部
125 縮小部
126 センター(トリミング後)
126a センター(元の画像)
127 ステップ(図28)
128 ステップ(図29)
129 トリミング画像
130 処理状況インジケータ
131 マーク(補正処理中)
132 表示部2の表示画面
133 Waitの表示
134 軌跡マーク
135 二次元フィルタ
136 積分器
137 焦点調整部
140 レンズ駆動部
141 手振れ補正制御部
142 手振れ補正量算出部
143 差分部
145 警告部
146 データ出力部
147 出力画像
148 演算部
150 コンピュータ
151 記録媒体
152 パッケージ
153 補正処理プログラム
155 揺動補正レンズ
156 駆動モーター
157 レンズ位置検出手段
158 ホール素子
159 揺動補正量
160 揺動補正手段の制御周波数特性
161 伝達関数
162 揺動補正量

Claims (14)

  1. 撮影装置の揺動を検出し、前記撮影装置の揺動を示す揺動検出信号を出力する揺動検出部と、
    前記撮影装置に入射する光を結像することにより光学像を形成する結像部と、
    前記結像部によって形成された前記光学像を電気的な映像情報に変換する撮像部と、
    前記揺動検出部から出力される前記揺動検出信号に少なくとも基づいて、前記撮影装置の揺動の軌跡を示す軌跡情報を取得する軌跡演算部とを備え
    前記軌跡演算部は、前記撮影装置の揺動の時間的変化量が所定のしきい値より大きいか否かを判定し、その判定結果に応じてサンプル数を決定する、撮影装置。
  2. 前記軌跡演算部は、前記撮影装置の揺動による重みづけ軌跡を示す情報を前記軌跡情報として取得する、請求項1に記載の撮影装置。
  3. 撮影装置の揺動を検出し、前記撮影装置の揺動を示す揺動検出信号を出力する揺動検出部と、
    前記撮影装置に入射する光を結像することにより光学像を形成する結像部と、
    前記結像部によって形成された前記光学像を電気的な映像情報に変換する撮像部と、
    前記揺動検出部から出力される前記揺動検出信号に少なくとも基づいて、前記撮影装置の揺動の軌跡を示す軌跡情報を取得する軌跡演算部と、
    前記軌跡情報と前記映像情報とを演算処理することにより、前記映像情報の揺動を補正した補正映像情報を取得する電子的揺動補正部とを備え、
    前記電子的揺動補正部は、前記揺動検出信号が所定のしきい値より大きいか否かを判定し、前記揺動検出信号が前記所定のしきい値より大きいと判定された場合には前記映像情報の揺動を補正しない、撮影装置。
  4. 撮影装置の揺動を検出し、前記撮影装置の揺動を示す揺動検出信号を出力する揺動検出部と、
    前記撮影装置に入射する光を結像することにより光学像を形成する結像部と、
    前記結像部によって形成された前記光学像を電気的な映像情報に変換する撮像部と、
    前記揺動検出部から出力される前記揺動検出信号に少なくとも基づいて、前記撮影装置の揺動の軌跡を示す軌跡情報を取得する軌跡演算部と、
    前記軌跡情報と前記映像情報とを演算処理することにより、前記映像情報の揺動を補正した補正映像情報を取得する電子的揺動補正部と、
    前記映像情報の揺動を補正するのに必要な演算処理量を求める処理量演算部とを備えた、撮影装置。
  5. 前記演算処理量もしくは揺動量が一定の値を超過した場合は、表示部に超過状況を示す表示を行うおよび/またはスピーカから超過状況を示す音を発する、請求項4に記載の撮影装置。
  6. 前記演算処理量が一定の値を超過した場合は、前記揺動を補正しない映像情報を出力し、前記演算処理量が一定の値の範囲内にある場合は、前記映像情報の揺動を補正した補正映像情報を出力する、請求項4または請求項5に記載の撮影装置。
  7. 撮影装置の揺動を検出し、前記撮影装置の揺動を示す揺動検出信号を出力する揺動検出部と、
    前記撮影装置に入射する光を結像することにより光学像を形成する結像部と、
    前記結像部によって形成された前記光学像を電気的な映像情報に変換する撮像部と、
    前記揺動検出部から出力される前記揺動検出信号に少なくとも基づいて、前記撮影装置の揺動の軌跡を示す軌跡情報を取得する軌跡演算部と、
    前記軌跡情報と前記映像情報とを演算処理することにより、前記映像情報の揺動を補正した補正映像情報を取得する電子的揺動補正部と、
    前記電子的揺動補正部からの前記補正映像情報を受けて、前記揺動のそれぞれの方向の最大揺動量を求める最大揺動量演算部と、
    前記最大揺動量に応じて前記補正映像情報をトリミングすることにより、トリミング補正映像情報を生成するトリミング部と、
    第1トリミングモードもしくは第2トリミングモードを設定可能な設定部とを備え、
    前記トリミング部は、前記第1トリミングモードにおいて、前記最大揺動量に応じて前記補正映像情報をトリミングすることにより、第1トリミング補正映像情報を生成し、
    前記トリミング部は、前記第2トリミングモードにおいて、前記映像情報の各方向の中心となる画素を中心画素とすると、第1トリミング補正映像情報の前記中心画素に相当する画素を中心として再度トリミングすることにより、第2トリミング補正映像情報を生成する撮影装置。
  8. 撮影装置の揺動を検出し、前記撮影装置の揺動を示す揺動検出信号を出力する揺動検出部と、
    前記撮影装置に入射する光を結像することにより光学像を形成する結像部と、
    前記結像部によって形成された前記光学像を電気的な映像情報に変換する撮像部と、
    前記揺動検出部から出力される前記揺動検出信号に少なくとも基づいて、前記撮影装置の揺動の軌跡を示す軌跡情報を取得する軌跡演算部とを備え
    前記揺動検出部は、前記撮影装置の揺動のうちピッチ方向およびヨー方向の揺動を検出する第1揺動検出部と、前記撮影装置の揺動のうちロール方向の揺動を検出する第2揺動検出部とを含み、
    前記軌跡演算部は、前記第2揺動検出部から出力される検出信号の一定期間内の変化を示す情報を前記軌跡情報として取得し、
    前記撮影装置は前記第1揺動検出部から出力される検出信号に応じてピッチ方向およびヨー方向の揺動を補正した第1補正映像情報を取得する機械的揺動補正部をさらに備えた、撮影装置。
  9. 前記軌跡情報を前記補正映像情報に付加して出力し、もしくは、記録媒体に記録する手段をさらに備えた、請求項8に記載の撮影装置。
  10. 前記軌跡情報がExif形式もしくはExif形式に類する形式である、請求項9に記載の撮影装置。
  11. ロール方向の軌跡情報と前記第1補正映像情報とに演算処理することにより、前記第1補正映像情報の揺動を補正した第2補正映像情報を取得する電子的揺動補正部をさらに備えた、請求項8に記載の撮影装置。
  12. 前記演算処理は、フーリエ変換もしくはフーリエ逆変換もしくは二次元フィルタを用いた処理を含む、請求項11に記載の撮影装置。
  13. 前記軌跡情報は軌跡関数hを含み、前記演算処理は、前記hのフーリエ変換の演算もしくは前記hをフーリエ変換した結果を使う演算を含むか、前記hのフーリエ変換の逆数のフーリエ逆変換の演算もしくは前記hのフーリエ変換の逆数のフーリエ逆変換の演算結果を使う演算を含む、請求項11に記載の撮影装置。
  14. 撮影装置の揺動を検出する揺動検出部から出力される揺動検出信号に少なくとも基づいて、前記撮影装置の揺動の軌跡を示す軌跡情報を取得する軌跡演算部を備え、
    前記揺動検出部は、前記撮影装置の揺動のうちピッチ方向およびヨー方向の揺動を検出する第1揺動検出部と、前記撮影装置の揺動のうちロール方向の揺動を検出する第2揺動検出部とを含み、
    前記軌跡演算部は、前記第2揺動検出部から出力される検出信号の一定期間内の変化を示す情報を前記軌跡情報として取得し、
    前記半導体集積回路は、
    前記第1揺動検出部から出力される検出信号に応じてピッチ方向およびヨー方向の揺動を補正した第1補正映像情報を取得する機械的揺動補正部をさらに備えた半導体集積回路。
JP2005516659A 2003-12-26 2004-12-24 撮影装置、製品パッケージおよび半導体集積回路 Active JP4005098B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2003435934 2003-12-26
JP2003435934 2003-12-26
JP2004366913 2004-12-17
JP2004366913 2004-12-17
PCT/JP2004/019403 WO2005064921A1 (ja) 2003-12-26 2004-12-24 撮影装置、製品パッケージおよび半導体集積回路

Publications (2)

Publication Number Publication Date
JP4005098B2 true JP4005098B2 (ja) 2007-11-07
JPWO2005064921A1 JPWO2005064921A1 (ja) 2007-12-20

Family

ID=34742163

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005516659A Active JP4005098B2 (ja) 2003-12-26 2004-12-24 撮影装置、製品パッケージおよび半導体集積回路

Country Status (6)

Country Link
US (1) US8208017B2 (ja)
EP (1) EP1703721B1 (ja)
JP (1) JP4005098B2 (ja)
KR (1) KR100859431B1 (ja)
AT (1) ATE545275T1 (ja)
WO (1) WO2005064921A1 (ja)

Families Citing this family (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7983835B2 (en) 2004-11-03 2011-07-19 Lagassey Paul J Modular intelligent transportation system
JP2006140971A (ja) 2004-11-15 2006-06-01 Canon Inc 画像処理装置及び画像処理方法
JP4541860B2 (ja) * 2004-12-08 2010-09-08 キヤノン株式会社 画像形成装置及び画像形成方法
WO2007023663A1 (ja) * 2005-08-22 2007-03-01 Matsushita Electric Industrial Co., Ltd. 撮像装置、画像処理プログラム、それが記録された情報記録媒体、画像処理装置、及び画像処理方法
US7509038B2 (en) * 2005-09-29 2009-03-24 Seiko Epson Corporation Determining maximum exposure time to limit motion blur during image capture
KR100758632B1 (ko) * 2006-03-29 2007-09-14 삼성전자주식회사 파노라마 사진촬영 장치 및 방법
JP4823743B2 (ja) * 2006-04-03 2011-11-24 三星電子株式会社 撮像装置,及び撮像方法
US20090115860A1 (en) * 2006-04-11 2009-05-07 Matsushita Electric Industrial Co., Ltd. Image pickup device
JP4666264B2 (ja) * 2006-07-13 2011-04-06 富士フイルム株式会社 像振れ補正装置及びその補正方法
JP4878320B2 (ja) * 2007-03-27 2012-02-15 キヤノン株式会社 撮像装置および携帯機器
JP5102552B2 (ja) * 2007-07-25 2012-12-19 イーストマン コダック カンパニー 画像処理システム、撮像装置及び出力装置
US20090135295A1 (en) * 2007-11-20 2009-05-28 Keiji Kunishige Imaging device and control method for imaging device
JP5199736B2 (ja) * 2008-06-06 2013-05-15 シャープ株式会社 画像撮像装置
US8187897B2 (en) * 2008-08-19 2012-05-29 International Business Machines Corporation Fabricating product chips and die with a feature pattern that contains information relating to the product chip
JP5241403B2 (ja) * 2008-09-25 2013-07-17 三洋電機株式会社 撮像装置
KR101643600B1 (ko) * 2009-02-13 2016-07-29 삼성전자주식회사 디지털 동영상 촬영장치 및 디지털 동영상 처리장치
WO2011043024A1 (ja) * 2009-10-07 2011-04-14 パナソニック株式会社 撮影装置、方法、プログラムおよび回路
JP5003769B2 (ja) * 2010-01-18 2012-08-15 株式会社Jvcケンウッド 撮像装置および画像振れ補正方法
US8743219B1 (en) 2010-07-13 2014-06-03 Marvell International Ltd. Image rotation correction and restoration using gyroscope and accelerometer
JP2013017165A (ja) * 2011-06-10 2013-01-24 Panasonic Corp 撮像装置
KR101843450B1 (ko) * 2011-08-23 2018-03-29 엘지전자 주식회사 이동 단말기 및 이동 단말기의 제어 방법
JP5911298B2 (ja) * 2011-12-27 2016-04-27 キヤノン株式会社 撮像装置及びその制御方法
WO2014065127A1 (ja) * 2012-10-22 2014-05-01 ソニー株式会社 情報処理端末、撮像機、情報処理方法、プログラム、および遠隔撮像システム
EP2938060A4 (en) * 2012-12-24 2016-07-20 Yulong Comp Telecomm Scient DEVICE FOR THE DYNAMIC ADAPTATION OF A RECORDING RESOLUTION AND METHOD FOR DYNAMIC ADAPTATION AND FINAL DEVICE
JP6135391B2 (ja) * 2013-08-16 2017-05-31 ソニー株式会社 撮像装置、画像処理装置、および画像処理方法、並びにプログラム
JP6056774B2 (ja) * 2014-01-17 2017-01-11 ソニー株式会社 撮像装置と撮像方法およびプログラム。
CN106161911A (zh) * 2015-03-24 2016-11-23 联想(北京)有限公司 一种信息处理方法及电子设备
US10812854B2 (en) * 2015-05-19 2020-10-20 Sony Corporation Image processing device, image processing method, reception device, and transmission device
US11202011B2 (en) 2016-07-25 2021-12-14 Canon Kabushiki Kaisha Control apparatus, image capturing apparatus, lens apparatus, image capturing system, control method, and storage medium
US10148964B2 (en) * 2016-11-03 2018-12-04 Ujet, Inc. Image quality management
KR102105510B1 (ko) * 2017-08-17 2020-04-28 주식회사 케이티 타임 슬라이스 영상을 제공하는 서버, 방법 및 사용자 단말
JP6541835B2 (ja) * 2018-04-25 2019-07-10 キヤノン株式会社 画像処理装置及びその制御方法、プログラム、記憶媒体
WO2020111177A1 (ja) 2018-11-29 2020-06-04 富士フイルム株式会社 ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム
JP2020096301A (ja) * 2018-12-13 2020-06-18 オリンパス株式会社 撮像装置
JP2021144121A (ja) * 2020-03-11 2021-09-24 キヤノン株式会社 表示制御装置およびその制御方法、プログラム、並びに記憶媒体
JP7302045B1 (ja) 2022-01-24 2023-07-03 キヤノン株式会社 ブレ補正制御装置、撮像装置、レンズ装置、及びそれらの制御方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5218442A (en) * 1989-12-21 1993-06-08 Minolta Camera Kabushiki Kaisha Camera with camera-shake detection apparatus
US5237365A (en) * 1990-10-15 1993-08-17 Olympus Optical Co., Ltd. Exposure control apparatus for camera with shake countermeasure
JP2803072B2 (ja) 1990-10-18 1998-09-24 富士写真フイルム株式会社 手振れ補正装置
US5825415A (en) * 1993-12-17 1998-10-20 Canon Kabushiki Kaisha Electronic image-movement correcting device with a variable correction step feature
JP3444005B2 (ja) * 1995-02-24 2003-09-08 ミノルタ株式会社 撮像装置
JP3610167B2 (ja) * 1996-07-30 2005-01-12 キヤノン株式会社 レンズ制御方法及び装置
JP3462880B2 (ja) 1997-03-19 2003-11-05 株式会社日立製作所 ジャイロセンサ及びそれを用いたビデオカメラ
JP3864500B2 (ja) * 1997-06-27 2006-12-27 株式会社ニコン カメラシステム、及び、カメラの像ブレ補正方法
JPH1195274A (ja) * 1997-09-24 1999-04-09 Olympus Optical Co Ltd ブレ検出機能付きカメラ
JPH11134481A (ja) * 1997-10-30 1999-05-21 Canon Inc 画像復元装置及び画像復元方法
JP2001346093A (ja) 2000-05-31 2001-12-14 Matsushita Electric Ind Co Ltd ぶれ画像補正装置、ぶれ画像補正方法、およびぶれ画像補正プログラム記録媒体
JP2002027326A (ja) * 2000-07-05 2002-01-25 Minolta Co Ltd デジタルカメラ
JP2002300460A (ja) 2001-03-30 2002-10-11 Minolta Co Ltd 画像処理装置および画像処理プログラム
JP2004186901A (ja) 2002-12-02 2004-07-02 Sony Corp 撮像装置及び方法、プログラム及び記録媒体
JP2004239962A (ja) * 2003-02-03 2004-08-26 Nikon Corp ブレ補正カメラシステム、ブレ補正カメラ、画像回復装置及びブレ補正プログラム
JP2004354878A (ja) 2003-05-30 2004-12-16 Minolta Co Ltd 撮像装置

Also Published As

Publication number Publication date
EP1703721B1 (en) 2012-02-08
JPWO2005064921A1 (ja) 2007-12-20
KR20070005576A (ko) 2007-01-10
EP1703721A4 (en) 2011-02-16
WO2005064921A1 (ja) 2005-07-14
EP1703721A1 (en) 2006-09-20
ATE545275T1 (de) 2012-02-15
US20070291114A1 (en) 2007-12-20
KR100859431B1 (ko) 2008-09-23
US8208017B2 (en) 2012-06-26

Similar Documents

Publication Publication Date Title
JP4005098B2 (ja) 撮影装置、製品パッケージおよび半導体集積回路
EP1641246A1 (en) Information generating apparatus, image pickup apparatus and image pickup method
JP4118867B2 (ja) パノラマ画像の生成方法およびパノラマ画像用カメラ
US7432953B2 (en) Image-taking apparatus detecting vibration and correcting image blurring
JP4015646B2 (ja) 情報生成装置、撮影装置および撮影方法
US7693406B2 (en) Image capturing apparatus, method of controlling the same, and storage medium
JP4434939B2 (ja) 撮像装置及びその制御方法
JP2001203930A (ja) 撮像装置
JP2006317848A (ja) 静止画撮像装置
US7692715B2 (en) Digital camera
JP2007135133A (ja) 撮像装置
JP2009225027A (ja) 撮像装置、撮像制御方法、及びプログラム
JP2015053741A (ja) 画像再生装置
JP2006211378A (ja) 動画記録再生装置、動画記録装置、動画再生装置及びプログラム
US7724283B2 (en) Electronic camera
JP2013110754A (ja) カメラ装置、及びその撮影方法とプログラム
JP2007133810A (ja) 画像処理装置
JP4351270B2 (ja) 撮影装置および撮影方法
JP2005136760A (ja) デジタルスチルカメラ
JP4888829B2 (ja) 動画処理装置、動画撮影装置および動画撮影プログラム
JP3887861B2 (ja) 画像信号記録装置、記録再生装置および記録方法
JP5041050B2 (ja) 撮像装置および画像処理プログラム
JP2007306199A (ja) 撮像装置および画像処理プログラム
JP2007096481A (ja) 撮像装置および撮像システム
JP2004158905A (ja) デジタルカメラの撮影方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070731

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070822

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4005098

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100831

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110831

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110831

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120831

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130831

Year of fee payment: 6