JP4873523B2 - 画像処理装置および方法、並びにプログラム - Google Patents

画像処理装置および方法、並びにプログラム Download PDF

Info

Publication number
JP4873523B2
JP4873523B2 JP2005143083A JP2005143083A JP4873523B2 JP 4873523 B2 JP4873523 B2 JP 4873523B2 JP 2005143083 A JP2005143083 A JP 2005143083A JP 2005143083 A JP2005143083 A JP 2005143083A JP 4873523 B2 JP4873523 B2 JP 4873523B2
Authority
JP
Japan
Prior art keywords
vibration
image
correction
magnification
amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005143083A
Other languages
English (en)
Other versions
JP2006319912A (ja
Inventor
甚洋 熊木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005143083A priority Critical patent/JP4873523B2/ja
Priority to US11/417,243 priority patent/US7627237B2/en
Priority to EP06009857A priority patent/EP1725022A1/en
Priority to KR1020060043376A priority patent/KR101231494B1/ko
Priority to CNB2006100803829A priority patent/CN100442826C/zh
Publication of JP2006319912A publication Critical patent/JP2006319912A/ja
Application granted granted Critical
Publication of JP4873523B2 publication Critical patent/JP4873523B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本発明は画像処理装置および方法、並びにプログラムに関し、特に、携帯可能な撮像装置で撮像する際、振動による影響を軽減させる画像処理装置および方法、並びにプログラムに関する。
携帯可能なビデオカメラやデジタルスチルカメラ(以下、ビデオカメラを例に挙げて説明を続ける)は、一般的に使用されるようになってきている。このようなビデオカメラに用いられる個体撮像素子としては、例えば、CCD(Charge Coupled Device)センサに代表される電荷転送型の個体撮像素子や、CMOS(Complementary Metal Oxide Semiconductor)センサに代表されるX−Yアドレス型の個体撮像素子がある。
CMOSセンサは、CCDセンサに比べて消費電力が小さく、単一の低電圧で駆動され、周辺回路との一体化も容易であることから、ビデオカメラなどの画像処理装置に用いられることがある。
しかしながら、ビデオカメラなどの画像処理装置の撮像素子としてCMOSセンサを用いて高画質な動画像や静止画像を記録することは困難であった。その理由の1つとして、手振れにより撮像される画像に歪みが発生してしまうことが挙げられる。画像処理装置の撮像素子として既に用いられているCCDセンサの場合、手振れによる影響を低減させるための処理を実行する上で必要とされる補正量は、1フィールドまたは1フレーム内で得られた手振れ情報に基づいて算出された単一の値が用いられる。これは、全ての画素の露光期間が等しく、画像の歪みが生じないために、単一の値で手振れの補正ができる。
CCDセンサに対して、CMOSセンサは、以下のような仕組みにより、被写体の画像を撮像し、処理するため、その画像には、手振れによる歪みが生じる。その歪みは、以下のようにして生じると考えられる。
CCDセンサのような電荷転送型の固体撮像素子は、全画素を同時期に露光して、画素データを読み出すことが可能であるが、CMOSセンサのようなX−Yアドレス型の固体撮像素子は、1画素単位あるいは1ライン単位で順番に読み出される。1ライン単位で順次画素データが読み出される場合、例えば、1画像が1乃至Nラインから構成され、1ラインの読み出しにt秒かかるとき、1画像のデータを読み出すのには、N×t秒の時間が必要となる。
このことを換言するならば、1ライン目が読み出されてから、約N×t秒経過後に、Nライン目が読み出されることになる。この時間差のために、画像が撮像されているとき(ライン毎のデータの読み出しが行われているとき)に、手振れなどの振動が加えられた場合、1ライン目とNライン目とで、画像が存在する位置がずれてしまい、その撮像されている画像に歪みが生じてしまうことがあった。
このような画像の歪みを低減するために、手振れなどの振動が加えられたときに、その振動を打ち消すような補正を行うこと提案されている。(例えば、特許文献1参照)
特開2004−266322号公報
ところで、手ぶれ補正以外の処理も、ビデオカメラなどの装置では勿論行われている。近年のビデオカメラは、画素数の増加、高精細化などにより、扱うデータ量、処理量が多くなってきている。そのために、必要とされるメモリの容量が増大し、処理能力を向上させなくてはならない。
特に動画像を扱う場合、静止画像を扱う場合と異なり、リアルタイム性が重要となり、そのために、より大きなメモリ容量が必要となり、高度な処理能力が必要とされる。行われる信号処理が膨大な規模になると、コスト高になり、消費電力が増してしまう。しかしながら、コストは低い方が良く、消費電力も低い方が駆動時間を長くできるので良い。よって、コストを低減させ、消費電力を低減させること、またそのような低減させることに影響を与える処理を効率化することが、望まれている。
本発明はこのような状況に鑑みてなされたものであり、処理の効率化をはかり、コストの低減や消費電力を低減させるようにする。
本発明の第の画像処理装置は、X−Yアドレス型の固体撮像素子により画像を撮像する撮像手段と、加えられた振動を検出し、その振動の大きさを示す振動量を出力する振動量出力手段と、振動による前記画像への影響を低減するための補正量の1画面における点数を電子的なズームのズーム倍率に対応して設定する設定手段と、前記設定手段により設定された前記点数だけ、補正量を算出する算出手段と、前記算出手段により算出された前記補正量に基づいて前記撮像手段により撮像された前記画像をライン単位で補正する補正手段とを備える。
前記撮像手段により画像が撮像されたときのズーム倍率が、所定の閾値以上である場合、設定手段は点数を設定するようにすることができる。
本発明の第の画像処理方法は、X−Yアドレス型の固体撮像素子により画像を撮像する撮像ステップと、加えられた振動を検出し、その振動の大きさを示す振動量を出力する振動量出力ステップと、振動による前記画像への影響を低減するための補正量の1画面における点数を電子的なズームのズーム倍率に対応して設定する設定ステップと、前記設定ステップの処理で設定された前記点数だけ、補正量を算出する算出ステップと、前記算出ステップの処理で算出された前記補正量に基づいて前記撮像ステップにより撮像された前記画像をライン単位で補正する補正ステップとを含む。
本発明の第の画像処理装置および方法おいては、加えられた振動による影響を低減させるための補正量が算出される。その補正量が算出されるとき、電子的なズームのズーム倍率が所定の閾値以上である場合、所定の閾値以下のときよりも少ない点数の補正量が算出され、その補正量が用いられて、加えられた振動による影響を低減させるための処理が、X−Yアドレス型の固体撮像素子により撮像された画像に対して、ライン単位で行われる
本発明の第の画像処理装置は、X−Yアドレス型の固体撮像素子により画像を撮像する撮像手段と、加えられた振動を検出し、その振動の大きさを示す振動量を出力する振動量出力手段と、前記振動量出力手段により出力された前記振動量から、前記振動による前記画像への影響を低減するための補正量を算出する算出手段と、前記撮像手段により撮像された前記画像のうち、処理する領域を電子的なズームのズーム倍率に応じて設定する設定手段と、前記設定手段により設定された領域内だけ処理する処理手段とを備え、前記処理手段は、補正量に基づいて前記撮像手段により撮像された前記画像をライン単位で補正する。
前記撮像手段により画像が撮像されたときのズーム倍率が、所定の閾値以上である場合、設定手段は処理する領域を設定するようにすることができる。
本発明の第の画像処理方法は、X−Yアドレス型の固体撮像素子により画像を撮像する撮像ステップと、加えられた振動を検出し、その振動の大きさを示す振動量を出力する振動量出力ステップと、前記振動量出力ステップの処理で出力された前記振動量から、前記振動による前記画像への影響を低減するための補正量を算出する算出ステップと、前記撮像ステップの処理で撮像された前記画像のうち、処理する領域を電子的なズームのズーム倍率に応じて設定する設定ステップと、前記設定ステップの処理で設定された領域内だけ処理する処理ステップとを含み、前記処理ステップは、補正量に基づいて前記撮像手段により撮像された前記画像をライン単位で補正する。
本発明の第の画像処理装置および方法おいては、X−Yアドレス型の固体撮像素子により撮像された画像のうち、処理すべき領域が、ズーム倍率により設定され、その設定された領域内の画像のみが処理対象とされて、加えられた振動による影響を低減させるための処理がライン単位で行われる
本発明によれば、状況に応じた手ぶれ補正(振動による影響を低減させる補正)を行うことができる。
本発明によれば、ズームの倍率に応じた適切な手ぶれ補正を行うことができる。また本発明によれば、ズーム時の手ぶれ補正に係わる処理を低減させることができる。
以下に、本発明の実施の形態について図面を参照して説明する。
[画像処理装置の構成例]
図1は、本発明を適用した画像処理装置の一実施の形態の構成を示す図である。画像処理装置10の撮像素子11は、例えば、X−Yアドレス型の固体撮像素子(CMOSなど)により構成される。撮像素子11により撮像された被写体の画像のデータは、AFE(Analog Front End)12に供給される。
AFE12は、供給された画像データをデジタル信号の画像データに変換し、信号処理部13に供給する。信号処理部13は、供給された画像データから、輝度信号と色差信号を算出し、その算出したそれぞれの信号を、画像補間部14に供給する。
画像補間部14に供給される画像データは、撮像素子11により撮像された被写体の画像のデータであるが、撮像素子11により撮像された画像の全てのデータが、画像補間部14に供給されるわけではなく、TG(Timing Generator)15からのタイミングに従って読み出されたデータのみが、画像補間部14に供給される。
画像補間部14に供給されたデータは、一旦、メモリコントローラ16の制御の基、メモリ17に供給される。逆にメモリ17に記憶されたデータは、メモリコントローラ16の指示により読み出され、画像補間部14に供給される。画像補間部14は、供給されたデータに対して、振動による悪影響を低減するための補間処理など(詳細は後述する)を施し、図示されていない記録媒体に出力し、記録させたり、図示されていないディスプレイなどに出力し、表示させたりする。なお、画像処理装置10に加えられる振動としては、ユーザの手ぶれなどがある。
画像補間部14、TG15、およびメモリコントローラ16は、振動検出部18により検出された振動量に応じ、補正量算出部19により算出された補正量に基づいた制御を行う。
振動検出部18は、例えば、角速度センサなどのセンサを用いた方法や、画像処理等によるセンサレスの振動検出の方法などが用いられ、撮影中に画像処理装置10に加えられた振動を検出する。例えば、振動検出部18が、角速度センサにより構成されていた場合、その角速度センサは、ピッチング方向、ヨーイング方向、それぞれの方向に加えられた角速度のデータを補正量算出部19に供給する。
その検出された振動量に基づき、補正量算出部19は、振動に伴う動きを補正するための補正量のデータを算出する。補正量算出部19は、補正量を算出する際、ズーム倍率取得部20により取得されるズーム倍率に関する情報を参照して行う。
なお、ズームとは、被写体を拡大撮影することを意味し、ズーム倍率とは、どのくらい拡大して撮影するかを表す値を意味する。画像処理装置10が、例えば、デジタルカメラなどと称され、デジタルデータとして撮影される被写体の画像のデータを扱う場合、ズームには、光学的なズーム(光学ズーム)と電子的なズーム(電子ズーム)が、一般的にある。
光学ズームでは、撮像素子11に含まれるレンズを駆動させることにより、撮影される被写体の画を拡大するための処理が行われる。電子ズームでは、撮影された被写体の画を、電子的に処理することにより、拡大処理するための処理が行われる。ズーム倍率とは、特に説明が無い限り、電子ズームのときの倍率を意味するとして説明を続ける。
図1の画像処理装置10の構成の説明に戻り、補正量算出部19は、供給されたデータを用いて、何ピクセル移動させれば加えられた振動による影響を低減できるかという補正量を、1ライン毎に算出する。ここで、1ライン毎にというのは、CMOSなどの個体撮像素子においては、1ライン単位で画像データが順次読み出される。そのため、1ライン毎に補正量が基本的に算出される。ここで、“基本的に算出される”と記載したのは、後述するように、ズーム倍率により、1ライン毎に補正量が算出されないように設定できるからである。
ここで、図2を参照し、電子ズームにおけるズーム倍率と、補正量について説明する。図2は、X−Yアドレス型の固体素子で撮影したときに、その撮影時に加えられた振動を打ち消すための補正量と、ズーム倍率毎に、処理される領域との関係を示した図である。
図2において、“×”との表記は、電子ズームの倍率が“”倍であることを示す同様に、“×2”との表記は、電子ズームの倍率が“2”倍であることを示し、“×4”との表記は、電子ズームの倍率が“4”倍であることを示し、“×8”との表記は、電子ズームの倍率が“8”倍であることを示し、“×16”との表記は、電子ズームの倍率が“16”倍であることを示す。
倍率が倍のときは、ズームに関して、電子ズームに係わる処理は行われていない状態であり、光学ズームによる処理のみが行われている状態である。光学ズームによる処理のみが行われている状態ときに1画面を構成するライン数をN本とする。電子ズームの倍率がのときには、1画面を構成するライン数はN本であり、光学ズームの倍率により、その本数が変化することはない。
光学ズーム時の処理に対し、電子ズーム時の処理は、1画面を構成するライン数は倍率により変化する。電子ズーム時には、光学ズーム時に1画面を構成するライン数が減少され、倍率に応じた所定のライン数が用いられて、1画面が構成される。すなわち、倍率に応じ、1画面は、N本以下のライン数で構成される。
図2において、斜線を付した部分は、それぞれの倍率における1画面を示している。X−Yアドレス型の固体素子においては、ライン毎(または画素単位)で読み出しが行われるため、各ラインの読み出し開始のタイミングが異なる。よって、図2に示すように、1画面の読み出しをライン毎に、時間経過と共に図示すると、1画面分のデータが読み出される部分は、平行四辺形となる。
電子ズームの倍率が“×”のときの1画面のライン数(N本)を基準とすると、電子ズームの倍率が“×2”のときの1画面は、基準のライン数の半分のライン数(1/2N本)で構成される。また、電子ズームの倍率が“×4”のときの1画面は、基準のライン数の1/4のライン数(1/4N本)で構成される。
また、電子ズームの倍率が“×8”のときの1画面は、基準のライン数の1/8のライン数(1/8N本)で構成され、電子ズームの倍率が“×16”のときの1画面は、基準のライン数の1/16のライン数(1/16N本)で構成される。
このように、電子ズームの処理が行われている場合、その電子ズームの倍率に応じて、1画面を構成するライン数は異なる数とされる。
画像処理装置10には、さまざまな振動が加えられる可能性があるが、ユーザが保持しているときの手による振動、すなわち、手ぶれが、加えられる振動のもっとも大きな要因である。主に手ぶれにより発生する振動で、画像に与えられる悪影響を軽減するための処理を行うために、その振動に関する情報(振動量)が取得される。その振動量について説明を加える。
図2の下図に示した振動量に関する情報は、振動検出部18(図1)により検出され、補正量算出部19に供給される。図2に示した例では、振動検出部18により、1画面で3つの振動量が取得される場合を示している。図2の下図においては、1画面の最初のライン、中央のライン、最後のラインの、3つのラインで、それぞれ振動量が取得される場合を示している。また、図2下図における曲線は、加えられた振動量の変化を示している。
倍率“×”のときに取得される振動量は、振動量P−1,P−2,P−3である。“振動量P−1”との表記において、ハイフン(―)の前の数字は、ズーム時の倍率を示し(この場合、)、ハイフンの後の数字は、説明のための識別子を示す(この場合、1)とする。他の表記も同様の意味であるとする。
倍率“×2”のときに取得される振動量は、振動量P2−1,P2−2,P2−3である。倍率“×4”のときに取得される振動量は、振動量P4−1,P4−2,P4−3である。倍率“×8”のときに取得される振動量は、振動量P8−1,P8−2,P8−3である。倍率“×16”のときに取得される振動量は、振動量P16−1,P16−2,P16−3である。
なお、ここでは、説明の都合上、3点の振動量が1画面から取得されるとして説明するが、実際には3点以上の振動量が取得される。
[画像処理装置の動作について]
図3乃至図5のフローチャートを参照し、図1に示した構成を有する画像処理装置10の動作について説明する。画像処理装置10は、上記したように、加えられた振動による影響を軽減するための処理を実行し、特に、電子ズームの処理が実行されるときに加えられた振動の影響を軽減するための処理に特徴がある。
以下の説明においては、高倍率時の処理として、3つの実施の形態を説明する。まず、第1の実施の形態について以下に説明を加える。
[倍率に応じた係数を乗算する形態]
ステップS11において、補正量算出部19は、振動検出部18から検出された振動量のデータを取得する。例えば、図2の下図に示したような情報が、振動検出部18により検出され、補正量算出部19に供給される。
このように、所定のラインで振動量が取得されると、補正量算出部19は、ステップS12において、補正量の算出を行う。補正量とは、振動量を、振動のない状態(振動による影響が低減された状態)にするために、どれだけの補正を行えば良いのかを表すピクセル単位の値である。
例えば、図2の下図に示したように、最初のラインに関する振動量P−1が、(P−1)ピクセルであった場合、その振動量が(P−1)ピクセルである状態を、振動のない状態にするためには、符号の異なる絶対値、すなわちこの場合、―(P−1)ピクセルが補正量として算出されるようにすれば良い。他のラインに関しても同様に、それぞれのラインに関する振動量から補正量が算出される。
なお、補正量はライン毎に算出される。ここでは、上記したように、最初、中央、および、最後の3本のラインから振動量が取得されるとしているが、それらのライン以外の振動量が取得されないラインに関する補正量は、これらの3本のラインから取得された振動量から算出される。
その算出の仕方は、どのような方法でも良い。また、ここでは、3個の振動量が取得されるとしているが、1画面を構成する全てのラインから振動量が取得されるようにし、取得された振動量から、全てのラインに対して補正量が算出されるようにしても良い。
このように、補正量が算出されると、ステップS13(図3)において、ズーム倍率が取得される。ズーム倍率に関する情報は、ズーム倍率取得部20により取得され、補正量算出部19に供給される。補正量算出部19は、ステップS14において、供給されたズーム倍率が、第1の閾値以上であるか否か(ズーム倍率>第1の閾値という条件が満たされるか否か)を判断する。
本実施の形態においては、ズーム倍率を、低倍率と高倍率とに分ける。そして、低倍率のときと高倍率のときとでは、振動に対する影響を低減するための処理(補正)を異なる処理とする。そこで、ステップS14において、その時点(ステップS14の処理が実行される時点)では、低倍率であるか高倍率であるかを判断するための処理が実行される。
ステップS14の処理で用いられる第1の閾値とは、ここでは、低倍率と高倍率とを分けるために設けられた値である。ステップS14において、ズーム倍率は、第1の閾値より小さいと判断された場合、換言すれば、低倍率であると判断された場合、ステップS15に処理が進められ、低倍率時の処理が実行される。一方、ステップS14において、ズーム倍率は、第1の閾値より大きいと判断された場合、換言すれば、高倍率であると判断された場合、ステップS16に処理が進められ、高倍率時の処理が実行される。
ステップS15において実行される低倍率時の処理と、ステップS16において実行される高倍率時の処理について、それぞれ説明する。まず、図4のフローチャートを参照し、ステップS15において実行される低倍率時の処理について説明する。
ステップS31において、読み出し開始位置の決定が行われる。読み出し開始位置の決定は、ステップS12において算出された補正量に基づいて決定される。補正量は、1ライン毎に算出されているが、その1ライン毎の補正量に基づき、すなわち、何ピクセル分、読み出す位置をずらすかのデータに基づき、それぞれのラインの読み出し開始位置が決定される。
読み出し開始位置が決定されると、ステップS32において、その決定された読み出し開始位置からデータの読み出しが行われる。このようにライン毎に、補正量を算出し、その算出された補正量を基に、データの読み出しを開始するライン上の位置を決定することにより、ライン毎に、振動による影響を補正することができる。よって、ユーザ側に提供される画像は、振動による悪影響が低減された画像とすることが可能となる。
なお、上記した補正に関する処理には、本出願人が先に出願した特開2004−266322号公報に記載されている発明を適用することが可能である。
次に、図5のフローチャートを参照し、ステップS16(図3)において実行される高倍率時の処理について説明する。ステップS51において、代表量の選択が行われる。図2の下図を参照するに、所定のラインの振動量が取得され、ライン毎に補正量が算出されるわけだが、そのうちの、少なくとも1ライン分の補正量が、代表量として選択される。
なお、以下に説明するように、高倍率のときには、ライン毎に算出される補正量を、ライン毎に用いるのではなく、少なくとも1つのラインの補正量が代表量として用いられるようにする。すなわち、例えば、1画面が10ラインから構成されている場合、10個の補正量が算出されるわけだが、その10個のうちの少なくとも1つの補正量が用いられ、後述する補正の処理が実行される。
代表量としては、例えば、1画面内において、一番初めに補正量が算出されるラインの補正量を代表量とする。例えば、図2において、倍率が×2のとき、振動量P2−1から算出される補正量(以下、単に、補正量P2−1と記載する。他の補正量も同様に記載する)を代表量とする。この場合、1つのラインの補正量が用いられることになる。
または、1画面内において、一番初めに補正量が算出されるラインの補正量(図2においては、補正量P2−1)と、一番後に補正量が算出されるラインの補正量(図2においては、補正量P2−3)の平均値を算出し、その平均値を代表量としても良い。この場合、2つのラインの補正量が用いられることになる。
または、画像の中央に位置するラインにおいて取得される補正量(例えば、図2の倍率×2においては、振動量P2−2から算出される補正量P2−2)が、代表量と設定されるようにしても良い。
代表量の選択の仕方に関しては、上記したような方法が考えられ、どの方法を用いても良いし、上記した以外の方法を用いるようにしても良い。
ここでは、一番初めに算出される補正量を代表量とする場合を例に挙げて説明を続ける。一番初めに算出される補正量を代表量とすることにより、以下のような利点がある。仮に、代表量として、一番後の補正量を用いる(一番後の補正量も用いる)ようにした場合、代表量を決定するためには、最後のラインの振動量のデータが取得されなくてはならない。よって、代表量を決定するために、最初のラインの振動量のデータから最後のラインのデータまでを記憶できる容量を有するメモリ、すなわち、1画面分のデータを記憶できる容量を有するメモリが必要となる。
しかしながら、一番初めに算出される補正量を代表量として用いることにより、少なくとも、代表量を決定する処理においては、1画面分のデータを記憶できる容量を有するメモリは必要なく、1画面内の1ライン分のデータを記憶できる容量を有するメモリがあれば良い。すなわち、メモリの容量を削減することができる。
図5のフローチャートの説明に戻り、ステップS51において、代表量が決定されると、ステップS52において、係数の算出が行われる。ここで、この係数について説明を加える。代表量以外の補正量に関しては、各ラインから算出された補正量に、所定の係数を乗算した値を、新たな補正量とし、そのラインにおける補正量として用いるようにする。
換言すれば、低倍率時の処理においては、ライン毎に、または所定のラインで取得される振動量から、ライン毎に補正量を算出し、その補正量が用いられて補正が行われたが、高倍率時の処理においては、ライン毎に補正量を算出し、代表量以外の補正量に関しては、さらに、係数が乗算され、その係数が乗算された補正量が用いられて補正が行われる。
係数は、ズーム倍率に依存して決定される。図6を参照して説明する。図6は、ズーム倍率と、係数との関係を示す図である。第1の閾値は、上記したように、ステップS14(図3)において、低倍率と高倍率とを識別するために設けられた閾値である。ズーム倍率が第1の閾値以上になると、高倍率として処理され、補正量に乗算される係数が設定される。例えば、第1の閾値を、×2と設定することができる。
ズーム倍率が、第1の閾値以下の時間であるときには、すなわち、低倍率のときには、係数として1が設定されている。係数が1なので、計算上は乗算しても値は変わらないため、低倍率のときには、図4を参照して説明したように、係数を算出し、補正量に乗算するといったような処理は行われない。
ズーム倍率が、第1の閾値から第2の閾値の間の倍率であるときには、図6に示した例では、一次関数的にズーム倍率に比例して係数が決定(算出)される。
ズーム倍率が第2の閾値以上になると、係数は0と設定される。係数が0ということは、結果的には、補正量は0ということで処理されることを意味する。このことは、代表量以外の補正量に関しての補正は行われないことを意味している。
図6に示したズーム倍率と係数との関係は一例であり、本発明が、このような係数の決定に限定されることを意味するのではない。係数の他の算出の仕方として、ズーム倍率が、第1の閾値を超えた時点で、係数を0にしても良い。すなわち、このような場合、第1の閾値を境に、係数が1か0になるため、補正を行うか、行わないかになる。または、ズーム倍率が、第1の閾値以上のときには、偶数のラインは係数を1(または1以下)とし、奇数のラインは係数を0とするなど、ライン毎に異なる係数を設定するようにしても良い。
また、ズーム倍率が第2の閾値より大きくなった場合、係数は0とする例を挙げたが、0以外の値、例えば、0.5などに設定されるようにしても良い。換言すれば、ズーム倍率が第2の閾値以上のときには、全く補正を行わないのではなく、通常(低倍率時)のときよりも弱い補正が実行されるように設定しても良い。
このように、係数の算出の仕方は、どのような方法でも良いが、高倍率のときには、ライン毎に算出される補正量を、そのまま用いて補正が行われるのではなく、係数が乗算されることにより行われる。ここでは、まず図6に示したように、係数が、ズーム倍率に応じて設定(算出)されるとして説明を続け、他の補正量に係わる処理については後述する。
ステップS52において、係数が算出されると、ステップS53において、補正量の算出が行われる。補正量は、ステップS12(図3)において既に算出されているが、このステップS52における処理で、既に算出されている補正量に、設定された係数を乗算することにより、新たな補正量が算出される。
例えば、所定の倍率であり、その倍率のときの1画像は、10ラインから構成される場合、10個の補正量が算出されるが、そのうち、一番初めに算出される補正量、例えば、図2の倍率が×2のときの振動量P2−1から算出される補正量P2−1が代表量とされ、それ以外のラインの補正量に対して、ステップS52において算出された係数が乗算される。その係数が乗算された補正量が、新たな補正量として設定される。
本実施の形態においては、代表量として設定された補正量は、そのまま補正に用いられ、代表量以外の補正量は、係数が乗算されて補正に用いられる。
係数が乗算される際、既に算出されている補正量自体に乗算されるようにしても良いし、補正量が何らかの方式で加工された後に乗算されるようにしても良い。例えば、各ラインの補正量と代表量との差分が算出され、その差分に対して係数が乗算されるようにしても良い。このようにした場合、代表量はその値のままであるが、他のラインの補正量は、代表量との差に係数が乗算された値とされる。
また、代表量自体も、他の補正量と同様に係数が乗算されるようにしても良い。
ステップS54において、設定された補正量に基づいて読み出し開始位置の決定が行われる。そして、その決定された読み出し開始位置からのデータの読み出しが、ステップS55において実行される。
上記したように、係数としては、0乃至1の範囲の値が割り当てられる。よって、係数が乗算された補正量(ステップS53の処理で算出される補正量)は、係数が乗算される前の補正量(ステップS12で算出される補正量)と比べて小さい値となる。
すなわち、ステップS12で算出される補正量は、低倍率のときには、そのまま補正に用いられるが、高倍率のときには、係数が乗算されることにより、小さい補正量に変換されて補正に用いられる。よって、仮に同じ大きさの振動が加えられたとしても、低倍率のときと比べ、高倍率のときは、補正量が小さいものとされる。
しかしながら、一般的には、低倍率のときと比べ、高倍率のときの方が、手ぶれ(振動)が加えられている時間が短く、その結果、振動量が蓄積されづらい。図2を再度参照するに、振動量P16−1が取得されてから、振動量P16−3が取得されるまでの時間は、振動量P−1が取得されてから、振動量P−3が取得されるまでの時間に比べて短い。よって、高倍率のときの方が、低倍率のときに比べて、振動量が蓄積されずらいことになる。
振動量が蓄積されづらいということは、振動による影響を受けづらいことを意味していると考えられる。仮に倍率が×のときと、倍率が×16のときで、同じ大きさの振動が加えられたとしても、倍率が×16のときに振動量が取得される時間の方が、倍率が×のときに振動量が取得される時間よりも短いため、手ぶれによる影響を受けている時間が短い。手ぶれによる影響を受けている時間が短いために、手ぶれによる影響が少ないと考えられる。
よって、上記したように、高倍率のときに、低倍率のときと比べて弱い補正を行ったとしても、高倍率時に補正の性能が低下するといったこともなく、適切な手ぶれ補正を行うことが可能である。
高倍率のときには補正量が低倍率時よりも小さくなるように、補正量に係数が乗算されるということについて、さらに図を参照して説明を加える。図7は、図2に示したような振動量が取得されたときに算出される補正量を示している。
なお、補正量は、振動量の影響を打ち消す方向に加えられる量であるため、図7が、図2に対応しているとすると、振動量の方向と補正量の方向は、それぞれ逆方向になるため、図7の補正量は、逆向きに図示すべきである。また、ライン毎の補正量の方向も、振動量の方向に依存しているため、ライン毎に異なる方向になる可能性もある。しかしながら、ここでは、説明の都合上、同じ方向に図示してある。他の図面においても、同様であるとする。
また、上記したように、電子ズーム時には、倍率により、1画面を構成するライン数が変化するが、ここでは、説明の都合上、異なる倍率であっても(以下の説明で必要となるのは、第1の閾値以下の倍率、第1の閾値と第2の閾値の間の倍率、および、第2の閾値以上の倍率の3つの異なる倍率であっても)、1画面を構成するラインは、ライン0乃至8の9ラインであるとして説明を続ける。また、最初のライン(図2において、例えば、振動量P−1が取得されるライン)は、ライン8であるとする。
図7において、ライン8の補正量は補正量C8である。この補正量C8を代表量とする。図7のような補正量が算出されたときのズーム倍率は、第1の閾値より小さいときである。すなわち低倍率のときに算出された補正量を示している。この場合、代表量以外の補正量C7乃至C0に対しては、係数として“1”が乗算される(または、係数が乗算されるといった処理が省略され、算出された補正量がそのまま用いられる)。
図8Aと図8Bは、図7と同様な補正量が算出されたときであるが、ズーム倍率が第1の閾値より大きいとき、すなわち、高倍率のときに算出されたときの補正量を示している。また、図8Aは、倍率が第1の閾値から第2の閾値の間の値であるときの補正量を示し、図8Bは、倍率が第2の閾値以上であるときの補正量を示している。
このような高倍率のときには、上記したように、一旦算出された補正量(第1の補正量とする)に、さらに係数が乗算されることにより、実際に補正に用いられる補正量(第2の補正量とする)が算出される。図8Aと図8Bにおいて、白丸(円内が塗りつぶされていない円)は第1の補正量を表し、黒丸(円内が塗りつぶされている円)は第2の補正量を表す。
図8Aに示した第2の補正量は、係数として0.5が乗算されたときを示し、図8Bに示した第2の補正量は、係数として0が乗算されたときを示す。図中、第1の補正量を表す白丸と、第2の補正量を表す黒丸とを比較することにより、高倍率のときには、低倍率時よりも補正量が小さくなっていることがわかる。すなわち、高倍率のときの補正に用いられる第2の補正量(黒丸)は、低倍率のときの補正に用いられる第1の補正量(白丸)と比較し、小さい値となっていることが、図8Aや図8Bを参照することによりわかる。
なお、図8Bのように、係数として“0”を乗算する場合、第1の補正量に0を乗算し、第2の補正量を算出することになるが、0を乗算することにより、その算出される値は、0となる。よって、係数として0が乗算されるズーム倍率であると判断された時点で、第1の補正量や第2の補正量を算出するといった処理を省略するようにしても良い。
例えば、図3において、ステップS12、ステップS13、ステップS14の処理を入れ換え、先に、ズーム倍率情報の取得し、係数として0が乗算されるズーム倍率であると判断された場合(すなわち、ズーム倍率が第2のズーム倍率以上であると判断された場合)、その後の処理(第1の補正量や第2の補正量を算出する処理)を省略するようにしても良い。ただし、この場合、代表量を算出する必要はあるため、代表量のみは算出する必要はある。
このようなことは、係数として“0”を乗算するときには適用することができるため、適宜、図3に示したフローチャートの処理の順番を入れ換え、効率良く補正を行えるようにすることは本発明の適用範囲内での変更である。
なお、図示はしないが、代表量と第1の補正量との差分を算出し、その差分に対して係数を乗算し、第2の補正量を算出するなど、第2の補正量の算出の仕方は、適宜変更可能である。
なお電子ズームのときには、図2の上図に示したように、倍率により1画面を構成するライン数が減少する。倍率が高倍率の方に変化すると、実際にユーザに提供される1画面を構成するためのライン数は、その倍率に応じて減少する。よって、高倍率のときには、ユーザに提供される1画面を構成するためのライン数だけが、処理されるようにしても良い。このようにすれば、高倍率時に、1画面を構成する画像データにより占有されるメモリの容量を削減することが可能となる。
また、メモリに記憶させなくても良いデータは、すなわち、処理しなくても良いデータである。よって、メモリに記憶させないと共に、そのようなデータに関しては処理を行わないようにすることも可能である。例えば、図2の下図の倍率が“×16”の図を参照するに、斜線を付していない部分は、必要の無いデータであるので、その部分に関する処理を行う必要はない。よって、高倍率時における処理を軽減させることが可能となる。
s [倍率に応じて補正量の点数を変更する形態]
次に、電子ズーム時の倍率に応じ、補正量の数を変更する形態について説明する。図9乃至図11のフローチャートを参照し、補正量の点数を変更する場合における補正の処理について説明する。なお、図9乃至図11のフローチャートにおいて、図3乃至図6のフローチャートと同様な処理に関する説明は、適宜省略する。
ステップS71において、電子ズームの倍率に関する情報が取得される。ステップS72において、取得された情報が示す電子ズームの倍率が、第1の閾値以上であるか否かが判断される。ステップS72において、倍率は第1の閾値以上ではないと判断された場合、ステップS73に処理が進められ、電子ズーム低倍率時の処理が実行される。一方、ステップS72において、倍率は、第1の閾値以上であると判断された場合、ステップS74に処理が進められ、電子ズーム高倍率時の処理が実行される。
ステップS71乃至S74の処理は、図3のステップS13乃至S16の処理と、基本的に同様に行われる。
ステップS73において実行される電子ズーム低倍率時の処理2について、図10のフローチャートを参照して説明する。ステップS81において、振動量が取得され、ステップS82において、その振動量から補正量が算出される。ステップS83において、算出された補正量に基づき、読み出し位置が決定され、その決定された読み出し位置からの読み出しが、ステップS84において実行される。
ステップS81とステップS82の処理は、図3のステップS11とステップS12の処理と同様に行われる。ステップS83とステップS84の処理は、図4のステップS31とステップS32の処理と同様に行われる。すなわち、低倍率のときには、取得された振動量から、1画面を構成するライン毎に、補正量が算出され、その補正量に基づくデータの読み出しが実行されるという処理であり、この処理は、光学ズームのときの処理と同様に行うことができる。
次に、ステップS74(図9)において実行される電子ズーム高倍率時の処理2について、図11のフローチャートを参照して説明する。ステップS91において、補正量算出部19により補正点数の設定が行われる。例えば、低倍率のときには、上記したように1画面が10ラインで構成される場合、それらのライン毎に補正量が算出され、10個の補正量が算出されることになるが、高倍率のときには、1画面を構成する全てのライン毎に補正量が算出されるのではなく、それらより少ない数の補正量で、1画面の補正が行われるようにする。このことについて、図12を参照して説明する。
倍率が×のときには、図12の上図と下図に示すように、8点(ここでは、補正点数aとする)において補正量が算出される。倍率が×2のときには、図12の上図と下図に示すように、6点において補正量が算出される。倍率が×4のときには、図12の上図と下図に示すように、3点において補正量が算出される。倍率が×8のときには、図12の上図と下図に示すように、3点において補正量が算出される。倍率が×16のときには、図12の上図と下図に示すように、1点において補正量(ここでは、補正点数bとする)が算出される。
ここでは、補正点数a>補正点数bの関係が満たされるとして説明を進める。また、補正点数aより少なく、補正点数bより大きい値を補正点数tとする(すなわち、補正点数a>補正点数t>補正点数bという関係が満たされる)。
補正点数として、例えば、3点と表記したときには、1画面内において、補正量が3個算出されることを意味する。このことは、1画面を構成する複数のラインのうち、所定の3本のラインから取得される振動量から算出される補正量が用いられて補正が行われることを意味する。または、1画面を構成する複数のラインから、複数の振動量が取得され、その複数の振動量から、3個の補正量が算出されることを意味する。
また、1画面から補正点数として設定された点数分だけ、補正量が算出されるが、その算出される補正量の間隔は、できる限り等間隔に算出されるようにする。例えば、補正点数が3点と設定された場合には、1個目の補正量が算出されるラインと2個目の補正量が算出されるラインとの間に位置するラインの数と、2個目の補正量が算出されるラインと3個目の補正量が算出されるラインとの間に位置するラインの数とは、ほぼ同数になるように設定される。すなわち、等間隔で補正量が算出されるように、補正点数は設定される。
このように、電子ズームの倍率に応じて、算出する補正量の点数が設定される。補正点数の設定の処理が、ステップS91(図11)において実行される。この補正点数の設定について、さらに、図13を参照して説明する。補正点数は、電子ズーム時の倍率に依存して決定される。図13は、倍率と、補正点数との関係を示す図である。第1の閾値は、上記したように、ステップS14(図3)において、低倍率と高倍率とを識別するために設けられた閾値である。ズーム倍率が第1の閾値以上になると、高倍率として処理され、補正点数が設定される。例えば、第1の閾値を、×2と設定することができる。
ズーム倍率が、第1の閾値以下の倍率であるときには、すなわち、低倍率のときには、補正点数は、補正点数a個と設定されている。この補正点数aは、電子ズームの倍率が×のときの補正点数と同じ数に設定することができる。すなわち、光学ズームのみの処理のときの補正点数と同じ数であり、1画面を構成するライン数と同等数にすることができる。
なお、電子ズームの倍率が、第1の閾値以下であれば、低倍率の処理(図10のフローチャートに基づく処理)が実行されるため、基本的に、光学ズーム時の処理と同等な処理が実行される。よって、補正点数aは、光学ズーム時の処理のときに用いられる補正量の点数と同等数に設定される。
電子ズームの倍率が、第1の閾値から第2の閾値の間の倍率であるときには、図13に示した例では、一次関数的にズーム倍率に比例して補正点数tが決定(算出)される。
ズーム倍率が第2の閾値以上になると、補正点数は、補正点数bと設定される。仮に、補正点数bが0と設定されている場合、補正量が算出される点がないことになるため、補正は行われないことになる。このような場合には、補正に係わる処理を省略するようにしても良い(倍率が第2の閾値以上であると判断された時点で、その後の補正に係わる処理を省略するようにしても良い)。
図13に示したズーム倍率と補正点数との関係は一例であり、本発明が、このような関係に限定されることを意味するのではない。補正点数の他の算出の仕方として、ズーム倍率が、第1の閾値を超えた時点で、補正点数が補正点数bに設定されるようにしても良い。すなわち、このような場合、第1の閾値を境に、補正点数が補正点数aか補正点数bになる。
また、補正点数と倍率が関連付けられたテーブルを用意し、そのテーブルが参照されることにより、補正点数が決定されるようにしても良い。図13を参照した説明では、第1の閾値から第2の閾値の間の倍率であるときには、一次関数的にズーム倍率に比例して補正点数tが決定(算出)されるとしたが、倍率と補正点数が関連付けられたテーブルを保持するようにし、補正点数を設定するための演算を省略できるように構成しても良い。
図11のフローチャートの説明に戻り、ステップS91において、補正点数が設定されると、ステップS92において、振動量が取得される。この振動量は、補正点数に応じた数(設定された点数の補正量を算出するために必要となる数)だけ、取得されるようにしても良い。このような設定は、振動量を取得するタイミングを示すサンプリング周波数を、補正点数に応じて変更できる場合に適用することができる。
または、振動量は、補正点数に関係なく取得されるようにしておき、取得された振動量から、必要となる振動量だけが選択されるようにしても良い。このような設定は、振動量を取得するタイミングを示すサンプリング周波数が一定に設定されている場合(倍率によりサンプリング周波数が変化しない場合)に適用することができる。
ステップS92における振動量の取得の処理は、取得される補正量の数が、補正点数と関わりがある場合には、補正点数の設定の処理(ステップS91)が終了した後に行われるが、補正点数に関わりがない場合には、必ずしも、ステップS91の後に、振動量の取得の処理が行われる必要はなく、適宜、処理の流れを入れ換えることは可能である。ステップS92の処理に限らず、複数のステップの処理が並列的に行われたり、処理の順番が入れ換えられたりすることは適宜可能である。
ステップS92において、振動量が取得されると、ステップS93において、補正量の算出が行われる。ステップS93においては、ステップS91において設定された補正点数分だけ、補正量が算出される。そして、その算出された補正量を用いたデータの読み出しが、ステップS94以降で行われる。ステップS94,S95の処理は、図5のステップS54,S55の処理と基本的に同様に行われる。
高倍率時には、図2や図12を参照して説明したように、1画面を構成するデータを取得する時間が低倍率時より短いために、振動量が蓄積されづらく、振動による影響を受けづらいと考えられる。よって、高倍率時に補正量の点数を少なくしても、補正は適切に行うことができると考えられる。
また、補正点数を少なくすることにより、補正に係わる処理を軽減させることができる。さらに、補正に係わるデータを削減することができるので、補正のために必要となるメモリの容量を削減することが可能となる。
また、高倍率時には、1画面を構成するライン数が、低倍率時に比べて少なくなるため、そのままのライン数でユーザ側に画像を提供すると、低倍率時の画像に比べて小さくなってしまう(図2参照)。高倍率時においても、低倍率時にユーザに提供される画像と同じ大きさの画像を、ユーザに提供するために、高倍率時には、画像の拡大の処理も行われる。その処理についての詳細な説明はここでは省略するが、1ラインを複数のライン分のデータに加工することにより、少ないライン数の画像が、低倍率時の画像と同程度の大きさにされ、ユーザ側に提供される。
このような低倍率時には行われない処理が、高倍率時には行われるため、高倍率時の処理は、低倍率時の処理と比べて処理負担が大きくなる。しかしながら、上記したように、高倍率時には補正点数を少なくし、補正に係わる処理を軽減させることにより、高倍率時に行われる処理負担を、低倍率時と同程度、または、それ以下に軽減させることが可能となる。
[倍率に応じて処理区間を変更する形態]
上述したように、電子ズームの高倍率のときには、1画面を構成するライン数が少ない。そこで、高倍率のときには、処理区間自体を、倍率に応じて変化させるようにすることも可能である。処理区間について、図14を参照して説明する。
撮像素子11(図1)では、図14Aに示すような有効領域31で被写体を撮像(撮影)している。有効領域31のうち、出力領域32内の画像がユーザに提供される。出力領域32は、上記したような補正が施されたあとの領域であり、振動量による影響が軽減された画像が存在する領域である。
このように、有効領域31内に存在する画像のうちの一部の出力領域32内に存在する画像が、ユーザ側に提供される。図14Aにおいて、斜線を付した補正前領域33は、補正前の画像が存在している領域を表している。出力領域32内の画像を生成するために、その補正前領域33より大きな領域が処理対象とされる。すなわち、図14Aにおいては、上下方向のゆがみ(振動による影響)を補正するための余剰な領域として、ゆがみ補正余剰領域34が設けられている。
上下方向だけれなく、左右方向にもそのようなゆがみ補正余剰領域は設けられている。よって、ゆがみなど(振動などにより悪影響)を補正するための余剰な領域(出力領域32に対して余剰な領域)は、図14Aに示すように、補正余剰領域35となる。
このようなことを、電子ズームの低倍率のときと高倍率のときとに当てはめて説明する。低倍率のときの出力領域32(補正前領域33)(図14A)と、高倍率のときの出力領域32(補正前領域33)(図14C)を比較すると、高倍率のときの出力領域32の方が、低倍率のときの出力領域32より小さい領域とされる。これは、上述しているように、電子ズーム時には、高倍率になると、1画面を構成するライン数が少なくなるからである。
処理区間とは、ここでは、出力領域32(補正前領域33)と補正余剰領域35までを含めた領域を意味するとする。また、図14A(低倍率)における処理区間の縦方向(図中縦方向)の大きさ(長さ)を、区間幅Aとする。図示はしない(定義はしない)が、区間幅Aに対応する横幅の区間幅も、勿論設定されている。
ここでは、電子ズーム時の倍率に応じて、区間幅(処理区間)を変更する。具体的には、図15に示すように、倍率が第1の閾値以下であるとき(図14Aのような状態のとき)には、処理区間が区間幅Aに設定され、その区間内が処理対象とされる。倍率が第1の閾値以上で、第2の閾値以下のとき(図14Bのような状態のとき)には、処理区間が区間幅Tに設定され、その区間内が処理対象とされる。
倍率が第2の閾値以上のとき(図14Cのような状態のとき)には、処理区間が区間幅Bに設定され、その区間内が処理対象とされる。区間幅A、区間幅T、区間幅Bは、区間幅A>区間幅T>区間幅Bという関係を満たす。また、それぞれの区間幅は、ライン単位(ピクセル単位)で設定される。
このように、倍率により処理区間を変更するようにした場合、補正に係わる処理のうち、全体の処理は、図9に示したフローチャートの処理と、基本的に同じ処理の流れで行われる。また、低倍率時における処理は、図10に示したフローチャートの処理と、基本的に同じ処理の流れで行われる。よって、ここでは、その説明を省略し、異なる処理である、高倍率時の処理について、図16のフローチャートを参照して説明する。なおここでは、電子ズーム高倍率時の処理3として説明を続ける。
ステップS101において、区間幅の設定が行われる。この区間幅の設定に関しては、図14と図15を参照して説明したように行われる。区間幅が設定されると、その区間幅の範囲内での処理が実行される。すなわち、ステップS102において、振動量が取得される。この振動量の取得に関しては、図11のステップS92の場合と同様に、設定された区間幅に依存して行われる場合(設定された区間幅内の領域のみから振動量を取得する場合)には、ステップS101の処理の後に行われるが、設定される区間幅に依存せずに行われる場合には、必ずしもステップS101の処理の後に行われなくても良い。
ステップS103において、補正量の算出が行われる。ステップS103においては、設定された区間幅内で必要とされる補正量だけが算出される。このようにして算出された補正量が用いられ、ステップS104において、データの読み出し位置が決定され、ステップS105において、決定された読み出し位置からデータの読み出しが行われる。
なお、ここでは補正量の算出など、補正に係わる処理を例に挙げて説明したが、補正に係わる処理のみではなく、他の処理も、設定された処理区間内(領域内)のみを、処理すれば良い。よって、倍率により処理区間を設定することにより、処理負担を軽減させることが可能となる。
このように、倍率に応じて処理する領域(処理区間)を設定することにより、以下のような効果を期待することができる。すなわち、処理区間を限定することで、処理に必要のない余分なデータを、メモリ等の記憶部に保持させる必要がなくなるため、メモリの容量を削減することが可能となる。また、処理区間を限定し、その区間内のみを処理することで、その処理、例えば、上記した補正量の算出に係わる処理に必要となるリソース(例えば、電力や、その処理に必要なデータを一旦記憶させる為の記憶部の容量(メモリ17(図1))など)を削減することが可能となる。
さらに、処理区間を限定することで、処理するデータ量が削減されることになるので、その処理に係わる駆動周波数の低減や処理リソースの削減が可能となる。
上記した実施の形態では、電子ズーム時の倍率に応じた処理を例に挙げて説明したが、電子ズーム時以外の、例えば、光学ズーム時においても、上述した実施の形態を適用することは勿論可能である。
また、上記した実施の形態においては、ズーム倍率に応じ、係数を設定したり、補正点数を設定したり、処理区間を設定したりする例を、それぞれ個別に説明した。しかしながら、これらを組み合わせて適用することも可能である。例えば、ズーム倍率に応じて、補正点数を設定し、その設定された補正点数分の補正量を算出し、さらに、その算出された補正量に、ズーム倍率に応じた係数を乗算するといったような実施の形態であっても良い。
[記録媒体について]
上述した一連の処理、例えば、補正に係わる処理は、それぞれの機能を有するハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。
図17は、汎用のパーソナルコンピュータの内部構成例を示す図である。パーソナルコンピュータのCPU(Central Processing Unit)101は、ROM(Read Only Memory)102に記憶されているプログラムに従って各種の処理を実行する。RAM(Random Access Memory)103には、CPU101が各種の処理を実行する上において必要なデータやプログラムなどが適宜記憶される。入出力インタフェース105は、キーボードやマウスから構成される入力部106が接続され、入力部106に入力された信号をCPU101に出力する。また、入出力インタフェース105には、ディスプレイやスピーカなどから構成される出力部107も接続されている。
さらに、入出力インタフェース105には、ハードディスクなどから構成される記憶部108、および、インターネットなどのネットワークを介して他の装置とデータの授受を行う通信部109も接続されている。ドライブ110は、磁気ディスク121、光ディスク122、光磁気ディスク123、半導体メモリ124などの記録媒体からデータを読み出したり、データを書き込んだりするときに用いられる。
記録媒体は、図17に示すように、パーソナルコンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク121(フレキシブルディスクを含む)、光ディスク122(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク123(MD(Mini-Disc)(登録商標)を含む)、若しくは半導体メモリ124などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記憶されているROM102や記憶部108が含まれるハードディスクなどで構成される。
なお、本明細書において、媒体により提供されるプログラムを記述するステップは、記載された順序に従って、時系列的に行われる処理は勿論、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
本発明を適用した画像処理装置の一実施の形態の構成を示す図である。 振動量について説明するための図である。 画像処理装置の動作について説明するためのフローチャートである。 低倍率時の処理について説明するためのフローチャートである。 高倍率時の処理について説明するためのフローチャートである。 閾値について説明するための図である。 補正量と係数について説明するための図である。 補正量と係数について説明するための図である。 画像処理装置の他の動作について説明するためのフローチャートである。 低倍率時の他の処理について説明するためのフローチャートである。 高倍率時の他の処理について説明するためのフローチャートである。 補正点数について説明するための図である。 閾値について説明するための図である。 処理区間について説明するための図である。 閾値について説明するための図である。 高倍率時のさらに他の処理について説明するためのフローチャートである。 媒体を説明する図である。
符号の説明
10 画像処理装置, 11 撮像素子, 12 AFE, 13 信号処理部, 14 画像補間部, 15 TG, 16 メモリコントローラ, 17 メモリ, 18 振動検出部, 19 補正量算出部, 20 ズーム倍率取得部

Claims (6)

  1. X−Yアドレス型の固体撮像素子により画像を撮像する撮像手段と、
    加えられた振動を検出し、その振動の大きさを示す振動量を出力する振動量出力手段と、
    振動による前記画像への影響を低減するための補正量の1画面における点数を電子的なズームのズーム倍率に対応して設定する設定手段と、
    前記設定手段により設定された前記点数だけ、補正量を算出する算出手段と、
    前記算出手段により算出された前記補正量に基づいて前記撮像手段により撮像された前記画像をライン単位で補正する補正手段と
    を備える画像処理装置。
  2. 前記撮像手段により前記画像が撮像されたときのズーム倍率が、所定の閾値以上である場合、前記設定手段は前記点数を設定する
    請求項に記載の画像処理装置。
  3. X−Yアドレス型の固体撮像素子により画像を撮像する撮像ステップと、
    加えられた振動を検出し、その振動の大きさを示す振動量を出力する振動量出力ステップと、
    振動による前記画像への影響を低減するための補正量の1画面における点数を電子的なズームのズーム倍率に対応して設定する設定ステップと、
    前記設定ステップの処理で設定された前記点数だけ、補正量を算出する算出ステップと、
    前記算出ステップの処理で算出された前記補正量に基づいて前記撮像ステップにより撮像された前記画像をライン単位で補正する補正ステップと
    を含む画像処理方法。
  4. X−Yアドレス型の固体撮像素子により画像を撮像する撮像手段と、
    加えられた振動を検出し、その振動の大きさを示す振動量を出力する振動量出力手段と、
    前記振動量出力手段により出力された前記振動量から、前記振動による前記画像への影響を低減するための補正量を算出する算出手段と、
    前記撮像手段により撮像された前記画像のうち、処理する領域を電子的なズームのズーム倍率に応じて設定する設定手段と、
    前記設定手段により設定された領域内だけ処理する処理手段と
    を備え、
    前記処理手段は、補正量に基づいて前記撮像手段により撮像された前記画像をライン単位で補正する
    画像処理装置。
  5. 前記撮像手段により前記画像が撮像されたときのズーム倍率が、所定の閾値以上である場合、前記設定手段は前記処理する領域を設定する
    請求項に記載の画像処理装置。
  6. X−Yアドレス型の固体撮像素子により画像を撮像する撮像ステップと、
    加えられた振動を検出し、その振動の大きさを示す振動量を出力する振動量出力ステップと、
    前記振動量出力ステップの処理で出力された前記振動量から、前記振動による前記画像への影響を低減するための補正量を算出する算出ステップと、
    前記撮像ステップの処理で撮像された前記画像のうち、処理する領域を電子的なズームのズーム倍率に応じて設定する設定ステップと、
    前記設定ステップの処理で設定された領域内だけ処理する処理ステップと
    を含み、
    前記処理ステップは、補正量に基づいて前記撮像手段により撮像された前記画像をライン単位で補正する
    画像処理方法。
JP2005143083A 2005-05-16 2005-05-16 画像処理装置および方法、並びにプログラム Expired - Fee Related JP4873523B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2005143083A JP4873523B2 (ja) 2005-05-16 2005-05-16 画像処理装置および方法、並びにプログラム
US11/417,243 US7627237B2 (en) 2005-05-16 2006-05-04 Image processing apparatus and method and program
EP06009857A EP1725022A1 (en) 2005-05-16 2006-05-12 Image processing apparatus and method and program
KR1020060043376A KR101231494B1 (ko) 2005-05-16 2006-05-15 화상 처리 장치 및 방법과 프로그램을 기록한 컴퓨터로 판독 가능한 기록 매체
CNB2006100803829A CN100442826C (zh) 2005-05-16 2006-05-16 图像处理设备和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005143083A JP4873523B2 (ja) 2005-05-16 2005-05-16 画像処理装置および方法、並びにプログラム

Publications (2)

Publication Number Publication Date
JP2006319912A JP2006319912A (ja) 2006-11-24
JP4873523B2 true JP4873523B2 (ja) 2012-02-08

Family

ID=36737126

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005143083A Expired - Fee Related JP4873523B2 (ja) 2005-05-16 2005-05-16 画像処理装置および方法、並びにプログラム

Country Status (5)

Country Link
US (1) US7627237B2 (ja)
EP (1) EP1725022A1 (ja)
JP (1) JP4873523B2 (ja)
KR (1) KR101231494B1 (ja)
CN (1) CN100442826C (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004229002A (ja) * 2003-01-23 2004-08-12 Sony Corp 撮像装置
JP4804398B2 (ja) * 2007-03-30 2011-11-02 三洋電機株式会社 撮像装置及び撮影方法
JP4924896B2 (ja) * 2007-07-05 2012-04-25 アイシン精機株式会社 車両の周辺監視装置
KR101506479B1 (ko) * 2007-09-12 2015-03-30 삼성전자주식회사 굴절면으로 구성된 굴곡 프리즘의 구동을 통한 광경로 보정시스템 및 방법
JP5598033B2 (ja) * 2010-03-15 2014-10-01 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
JP5183715B2 (ja) * 2010-11-04 2013-04-17 キヤノン株式会社 画像処理装置及び画像処理方法
US9025040B2 (en) * 2012-06-30 2015-05-05 Trackingpoint, Inc. Electronic user interface and method for controlling precision guided firing of a rifle
JP6332996B2 (ja) * 2013-04-17 2018-05-30 キヤノン株式会社 動画像処理装置および撮像装置、動画像処理方法
US20140333808A1 (en) * 2013-05-10 2014-11-13 BAE Systems Imaging Solutions, Inc. Customizable Image Acquisition Sensor and Processing System
US9997081B2 (en) * 2013-09-20 2018-06-12 Bose Corporation Audio demonstration kit
JP6738906B2 (ja) * 2016-10-31 2020-08-12 Eizo株式会社 画像処理装置、画像表示装置及びプログラム
JP7354300B2 (ja) 2020-01-31 2023-10-02 富士フイルム株式会社 撮像素子、撮像装置、撮像素子の作動方法、及びプログラム
KR20210118622A (ko) 2020-03-23 2021-10-01 삼성전자주식회사 고배율에서 흔들림을 보정하는 방법 및 그 전자 장치

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0611125B1 (en) * 1993-02-12 2000-11-22 Sony Corporation Electronic zoom control and image stabilization
US6236431B1 (en) * 1993-05-27 2001-05-22 Canon Kabushiki Kaisha Video camera apparatus with distance measurement area adjusted based on electronic magnification
JPH07123317A (ja) 1993-10-21 1995-05-12 Canon Inc 防振機能付き撮影装置
US5825415A (en) 1993-12-17 1998-10-20 Canon Kabushiki Kaisha Electronic image-movement correcting device with a variable correction step feature
US6263162B1 (en) * 1998-08-25 2001-07-17 Canon Kabushiki Kaisha Image-shake preventing apparatus
JP2002049068A (ja) 2000-08-04 2002-02-15 Canon Inc 防振ズームレンズ装置及びカメラシステム
JP3925415B2 (ja) 2003-01-22 2007-06-06 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
JP4478422B2 (ja) 2003-09-18 2010-06-09 キヤノン株式会社 像振れ補正装置、交換レンズおよび撮影装置

Also Published As

Publication number Publication date
US20060262193A1 (en) 2006-11-23
CN100442826C (zh) 2008-12-10
KR20060118350A (ko) 2006-11-23
EP1725022A1 (en) 2006-11-22
CN1867047A (zh) 2006-11-22
JP2006319912A (ja) 2006-11-24
KR101231494B1 (ko) 2013-02-07
US7627237B2 (en) 2009-12-01

Similar Documents

Publication Publication Date Title
JP4873523B2 (ja) 画像処理装置および方法、並びにプログラム
JP3925415B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP4446193B2 (ja) 画像処理装置および方法、並びにプログラム
JP4518197B2 (ja) 撮像装置、及び像振れ補正方法並びにプログラム
JP2007228019A (ja) 撮像装置
JP2008005048A (ja) 撮像装置及び信号処理装置
CN101616263A (zh) 摄像装置
JP4433883B2 (ja) ホワイトバランス補正装置及びホワイトバランス補正方法、プログラム、電子カメラ装置
JP2009111596A (ja) 撮像装置
JP2005175581A (ja) 画像処理装置
JP2007274504A (ja) デジタルカメラ
JP2009135713A (ja) 撮像装置のブレで生じる画像歪みの補正方法及び装置
JP2008021271A (ja) 画像処理装置、画像復元方法、およびプログラム
JP4499686B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP2006253970A (ja) 撮像装置、シェーディング補正データ作成方法およびプログラム
JP3925560B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP4697094B2 (ja) 画像信号出力装置及びその制御方法
JP3925559B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP4836500B2 (ja) デジタルカメラ、及びその画像処理方法
JP4449777B2 (ja) 撮像装置、画像処理装置および方法、記録媒体、並びにプログラム
JP2004363869A (ja) 画像歪み補正機能付き撮像装置
JP2007312284A (ja) 撮像装置および撮像装置におけるノイズ除去方法
JP4853746B2 (ja) 撮像装置、画像処理装置および方法、記録媒体、並びにプログラム
WO2023218980A1 (ja) 撮像装置、センサチップ、および処理回路
JP4894937B2 (ja) 画像処理装置および方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090326

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090521

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090721

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090911

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20091006

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091218

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20100112

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20100402

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111117

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141202

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees