JP4254969B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP4254969B2
JP4254969B2 JP2007526010A JP2007526010A JP4254969B2 JP 4254969 B2 JP4254969 B2 JP 4254969B2 JP 2007526010 A JP2007526010 A JP 2007526010A JP 2007526010 A JP2007526010 A JP 2007526010A JP 4254969 B2 JP4254969 B2 JP 4254969B2
Authority
JP
Japan
Prior art keywords
image
imaging
luminance information
unit
preview
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007526010A
Other languages
English (en)
Other versions
JPWO2007010891A1 (ja
Inventor
健晴 村松
孝義 能勢
良雄 萩野
伸治 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Publication of JPWO2007010891A1 publication Critical patent/JPWO2007010891A1/ja
Application granted granted Critical
Publication of JP4254969B2 publication Critical patent/JP4254969B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/684Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
    • H04N23/6845Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by combination of a plurality of images sequentially taken
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B5/00Adjustment of optical system relative to image or object surface other than for focusing
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • G03B7/093Digital circuits for control of exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/684Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00281Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a telecommunication apparatus, e.g. a switched network of teleprinters for the distribution of text-based information, a selective call terminal
    • H04N1/00307Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a telecommunication apparatus, e.g. a switched network of teleprinters for the distribution of text-based information, a selective call terminal with a mobile telephone apparatus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00Still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0084Digital still camera

Description

本発明は、静止画を撮像する撮像装置に関し、さらに詳しくは手ぶれ補正技術に関する。
通常、デジタルカメラやカメラ付携帯電話等の撮像装置によって被写体を撮像する際は、その撮像装置を人が手で支えて撮像する場合が多い。そのため、被写体を撮像する際に、いわゆる「手ぶれ」などによって撮像した画像の品質が低下するという問題が存在していた。このような問題を解決するために、例えば、特許文献1においては、ぶれが無視しうる程度の短い露光時間によって撮像した複数の画像を、位置を合わせて重ね合わせることにより明るさを補正してぶれのない画像を取得する発明が開示されている。
特開平9−261526号公報
しかしながら、特許文献1のような方法は、デジタルカメラのように処理速度やメモリ容量が十分確保できるカメラであれば適用可能であるが、カメラ付携帯電話などでは、高速で複数の画像を取り込むのに十分な処理能力はなく、またメモリ容量にも制限があるため、複数のサイズの大きい画像を一時的に蓄積しておくことも困難である。
そこで、本発明においては、プレビュー表示に用いられるプレビュー画像などのサイズの小さい画像と、撮像装置のユーザ等がシャッターを切ることによって得ることを目的とする画像(以下、「目的画像」と呼ぶ)とを利用して手ぶれ補正が可能である撮像装置を提案する。ここで、「プレビュー表示」とは、ユーザが撮像装置により被写体を撮像しようとする際にファインダーとして利用するための表示である。例えば、撮像装置がカメラ付携帯電話である場合、被写体を撮像する際にはカメラが捉えている被写体が携帯電話の液晶画面等に表示されユーザはこの表示を見ながらシャッターを切るが、この時の表示を意味する。また、プレビュー画像はプレビュー表示の際に液晶画面等に表示される画像であり、目的画像よりもサイズが小さい。
通常の撮像装置においては、撮像時の周辺の明るさなどから露出制御が行なわれ、適正な露出にて撮像が行なわれるようになっている。しかしながら、露出制御によりシャッタースピードが長くなると手ぶれが発生する可能性が高くなる。それに対し、本発明の撮像装置においては、プレビュー画像などのサイズの小さい画像は、露出は適切であるが手ぶれが発生することを想定しており、一方、目的画像は手ぶれが軽減されるようにシャッタースピードを短くする。これにより、目的画像は、手ぶれはしていないものの露出不足の画像となるため、プレビュー画像などの適正露出の画像の輝度情報を利用して目的画像の輝度情報を補正する。なお、上記の説明においてはサイズの小さい画像を利用することを前提としているが、カメラの処理能力やメモリ容量が十分であれば必ずしもサイズの小さい画像を利用しなくても、本発明の撮像装置における手ぶれ補正技術は適用可能である。つまり、サイズの同じ、手ぶれしている可能性のある適正露出の画像と、手ぶれしている可能性の低い露出不足の画像とを利用して手ぶれ補正を行なうようになっていてもよい。また、サイズの小さい画像としてプレビュー画像以外の画像を利用しても勿論かまわない。さらに、プレビュー画像や目的画像などの撮像順番とは無関係に適用可能である。また、本発明の撮像装置において補正可能であるのは、いわゆる「手ぶれ」以外にも撮像装置を揺らしうる諸々の要因により発生する「ぶれ」が対象である。例えば、撮像装置を載せた台が揺れたことによるぶれなども含まれる。
本発明の撮像装置においては、手ぶれを補正するために適正露出である画像と露出不足であるが手ぶれの軽減された画像の両方を利用するため、露出不足の画像の画像情報を適正露出の画像の画像情報に基づいて補正するのみによって手ぶれの軽減された画像を得ることができる。
本発明を実施するための最良の形態について図面を用いて詳細に説明する。なお、本発明はこれら実施の形態に何ら限定されるものではなく、その要旨を逸脱しない範囲において、種々なる態様で実施しうる。なお、以下の実施形態と請求項の関係は次の通りである。実施形態1は、主に請求項1、5、7などについて説明する。実施形態2は、主に請求項2、8などについて説明する。実施形態3は、主に請求項3などについて説明する。実施形態4は、主に請求項4などについて説明する。実施形態5は、主に請求項6などについて説明する。
なお、本発明の特許請求の範囲には含まれないが、実施形態1は、これらを包含する発明(具体的には、撮像部と、撮像部での撮像条件を制御する制御部と、制御部によって異なる撮像条件に制御されて短時間内に撮像された複数画像の画像情報を保持する保持部と、前記複数の画像の画像情報を部分的に利用して一の画像の画像情報を合成する合成部とを有する撮像装置)についても説明する。このため、実施形態1の説明中では、制御部の第一制御手段及び第二制御手段ならびに合成部の第一輝度情報取得手段、第二輝度情報取得手段及び第二輝度情報補正手段は、任意的な手段として記載されているが、本発明の特許請求の範囲に含まれる撮像装置においては必須構成要素であることはいうまでもない。同様に、他の実施形態において実施形態1に言及している場合においても、これら各手段が任意的な手段として記載されている場合があるが、やはり本発明の特許請求の範囲に含まれる撮像装置においては必須構成要素であることはいうまでもない。
(実施形態1:概要)本実施形態は、異なる撮像条件にて撮像された複数の画像を利用して手ぶれのない画像を合成するための撮像装置に関する。
(実施形態1:構成)本実施形態に係る撮像装置の機能ブロックを図1、図2に例示する。図1に例示する撮像装置(0100)は、「撮像部」(0101)と、「制御部」(0102)と、「保持部」(0103)と、「合成部」(0104)と、を有する。
また、図2に例示するように撮像装置(0200)は、「撮像部」(0201)と、「制御部」(0202)と、「保持部」(0203)と、「合成部」(0204)と、を有しており、さらに、前記制御部(0202)は、「第一制御手段」(0205)と、「第二制御手段」(0206)と、を有しており、前記合成部(0204)は、「第一輝度情報取得手段」(0207)と、「第二輝度情報取得手段」(0208)と、「第二輝度情報補正手段」(0209)と、を有していてもよい。すなわち、図1に例示した撮像装置の構成に、「第一制御手段」(0205)と、「第二制御手段」(0206)と、「第一輝度情報取得手段」(0207)と、「第二輝度情報取得手段」(0208)と、「第二輝度情報補正手段」(0209)とを加えた構成である。
なお、本件発明の構成要素である各部は、ハードウェア、ソフトウェア、ハードウェアとソフトウェアの両方のいずれかによって構成される。例えば、これらを実現する一例として、コンピュータを利用する場合には、CPU、バス、メモリ、インタフェース、周辺装置などで構成されるハードウェアと、それらハードウェア上で実行可能なソフトウェアがある。ソフトウェアとしては、メモリ上に展開されたプログラムを順次実行することで、メモリ上のデータや、インタフェースを介して入力されるデータの加工、保存、出力などにより各部の機能が実現される。さらに具体的には、図17は撮像装置のより具体的な構成を示す図であり、一例として、レンズ(1701)、CCD(1702)、A/D変換器(1703)、CPU(1704)、一時記憶メモリ(1705)、記憶装置(1706)、画像出力ユニット(1707)、モニタ(1708)等から構成されることを示している。(明細書の全体を通じて同様である。)
「撮像部」(0101)は、被写体を撮像する機能を有する。「撮像」とは、具体的には図17を例として、被写体からの光をレンズ(1701)などの光学系を通してCCD(1702)等の撮像素子で受光し、電気信号に変換する。さらに、電気信号をA/D変換器(1703)によりデジタル信号に変換して、画像処理プロセッサ(1704)で画像情報とすることを意味する。また、撮像部は、このような処理を実行するためのプログラムを含んでいてもよい。また、撮像部は制御部(0102)によって制御される撮像条件に基づいて撮像を実行する。「撮像条件」とは、具体的には、露光時間(「シャッタースピード」と同義)、複数画像間を撮像する撮像間隔、などが該当する。
「制御部」(0102)は、撮像部(0101)での撮像条件を制御する機能を有する。「撮像条件を制御する」とは、具体的には、露光時間や撮像間隔を決定することを意味する。例えば、従来のカメラのように周辺の明るさ等により適正露出の露光時間を算出して撮像時の露光時間として設定することや、適正露光時間の長さによって手ぶれを起こす可能性が高いと思われる場合には露光時間を短く設定すること等が想定される。撮像部の具体的な処理としては、例えば、図17における一時記憶メモリ(1705)や記憶装置(1706)などの所定の記憶領域に露光時間、撮像間隔などの値が格納されており、この所定の記憶領域に設定値を書込むことにより各条件の設定が実現されることになる。また、撮像部は、このような処理をCPU(1704)に実行させるためのプログラムを含んでいてもよい。
また、制御部は、図2に例示するように「第一制御手段」(0205)と、「第二制御手段」(0206)と、を有していてもよい。
「第一制御手段」(0205)は、撮像する複数画像の一の画像である第一画像を、適正露出の画像となるように制御する機能を有する。露出が適正露出となるように制御した場合には、手ぶれ等によってぶれが発生する可能性が高い。なぜならば、シャッタースピードが遅くなるほど手ぶれ等が発生する可能性は高くなり、適正露出の場合には、シャッタースピードは周辺の明るさが不足している場合には、ある程度遅くなることが通常だからである。すなわち、第一制御手段は、ぶれが発生している可能性は高いが露出は適正であるような画像を得られるように撮像条件を制御する役目を果たす。
「第二制御手段」(0206)は、撮像する複数画像の他の一の画像である第二画像を、比較的シャッタースピードを速くして撮像するように制御する機能を有する。「比較的シャッタースピードを速くして」とは、第一制御手段(0205)で制御されるシャッタースピードと比較して速い、という意味であり、より具体的には、適正露出となるシャッタースピードよりも速いシャッタースピードである。シャッタースピードが速くなるにつれて、手ぶれ等によるぶれが発生する可能性はより低くなり手ぶれが軽減された画像を得ることができるようになるが、露出はより不足していくため、第二画像は適正露出にて撮像された第一画像よりも暗い画像となる。すなわち、第二制御手段は、露出は不足しているが、手ぶれが軽減された画像を得られるように撮像条件を制御する役目を果たす。なお、第一画像と第二画像の撮像の順番は問わない。
図3は、第一制御手段と第二制御手段にて制御される露光時間について示す図である。一番上のグラフが適正露出の場合の露光時間を示しているとすると、(a)は第一画像の露光時間、すなわち第一制御手段にて制御される露光時間を示す。適正露出の場合の露光時間と同様となるので第一画像は適正露出にて撮像される。(b)は第二画像の露光時間、すなわち第二制御手段にて制御される露光時間を示す。適正露出の場合の露光時間よりも短くなるため第二画像は露出不足となる。
「保持部」(0103)は、制御部(0102)によって異なる撮像条件に制御されて短時間内に撮像された複数画像の画像情報を保持する機能を有する。「異なる撮像条件に制御されて短時間内に撮像された複数画像」とは、例えば、第一制御手段(0205)にて制御されて撮像された第一画像と第二制御手段(0206)にて制御されて撮像された第二画像、等が該当する。「短時間内に」とは、手ぶれ等が発生しない時間内、という意味である。複数画像間の撮像間隔が短いほどその間に手ぶれ等のぶれが発生する可能性が低くなるため、画像と画像の撮像位置のずれも軽減されるというメリットがある。例えば、一般的には撮像間隔が約1/60秒(約16ミリ秒)以下であれば画像間の位置ずれはなくなるとされている。また、合成部(0104)では、複数画像の撮像位置がずれた場合には位置を合わせてから複数画像の合成を行なう必要があるが、例えば、撮像間隔を約1/60秒(約16ミリ秒)以下とすれば合成処理において位置ずれを考慮する必要がなくなり、連続して撮像された画像は同一のものであるとすることができ(ただし、明るさは異なる)、合成における処理が軽減される。また、「画像情報」とは、画像を実現するための情報であって、具体的には、各画素のRGB値やYUV値などの数値で表される情報が挙げられる。ところで、輝度情報(Y)はRGBの値により表されることが一般的に知られており、おおよそ「Y=0.299R+0.587G+0.114B」(以下、「数式1」と呼ぶ)という式により求められる。よって、輝度情報も画像情報に含まれると言うことができる。保持部は、具体的には、主に図17に例示した一時記憶メモリ(1705)や記憶装置(1706)などによって実現される。さらに、保持部は、画像情報を保持する処理をCPU(1704)に実行させるためのプログラムを含んでいてもよい。
「合成部」(0104)は、前記複数の画像の画像情報を部分的に利用して一の画像の画像情報を合成する機能を有する。「前記複数の画像の画像情報を部分的に利用して」とは、合成する場合に画像情報のすべてを利用しなくともよい、という意味である。例えば、画像中のある一部分のみのRGB値を補正して合成する場合などが想定される。また、「一の画像」とは、最終的に得ることを目的としている画像であり、ぶれの軽減された適正露出の画像のことである。
図4を用いて、合成部にて第一画像と第二画像を用いて合成を行なう場合の概略を説明する。図4では、第一画像(0401)と第二画像(0402)の大きさが異なる場合を一例として示す。また、(a)は第一画像と第二画像との間で位置ずれが無い場合、(b)は第一画像と第二画像との間で位置ずれがある場合を例示する。第一画像(0401)の高さをPh、幅をPwで表し、第二画像(0402)の高さをSh、幅をSwで表すとする。まず、(a)において、第一画像(0401)の画素(x’,y’)に対応する点が第二画像(0402)の画素(x,y)であるとすると、(a)においては位置ずれがないので、x’=αx,y’=βyと表すことができる。ここで、αとβは第一画像と第二画像の水平方向、垂直方向の縮小率であり、α=Pw/Sw、β=Ph/Shである。また、(b)においては、位置ずれの動き量を(Mx、My)とし、第一画像(0401)の画素(x’’,y’’)に対応する点が第二画像(0402)の画素(x,y)であるとすると、x’’=αx+Mx,y’’=βy+Myと表すことができる。このようにして、第一画像と第二画像における各画素同士の対応関係を求めることができる。よって、この対応関係を利用することにより、例えば、対応する各画素の輝度情報を比較して明るさを補正するなどして合成を行なうことができる。なお、位置ずれの動き量(Mx、My)は、ブロックマッチングやエッジ検出などによって検出することができる。また、合成部における処理は、さらに具体的には、例えば、前記保持部(0103)によって図17における一時記憶メモリ(1705)や記憶装置(1706)などの所定の記憶領域に格納されている第一画像と第二画像の画像情報を読出し、位置ずれの検出を行なう。位置ずれの検出結果は、一時記憶メモリ(1705)などの所定の記憶領域に格納される。また、読出した画像情報や検出した位置ずれの情報から前述のように各画素同士の対応関係を算出し、算出した結果も一時記憶メモリ(1705)などの所定の記憶領域に格納される。この算出結果に基づいて、輝度情報を補正するなどして合成を行ない、合成することにより生成された画像の画像情報は、一時記憶メモリ(1705)や記憶装置(1706)などの所定の記憶領域に格納される。また、合成部は、このような処理をCPU(1704)に実行させるためのプログラムを含んでいてもよい。
また、合成部は、図2に例示するように「第一輝度情報取得手段」(0207)と、「第二輝度情報取得手段」(0208)と、「第二輝度情報補正手段」(0209)と、を有していてもよい。
「第一輝度情報取得手段」(0207)は、前記第一画像の第一輝度情報を取得する機能を有する。「前記第一画像の第一輝度情報」は、第一画像を構成するすべての画素における輝度情報であってもよいし、一部の画素のみの輝度情報であってもよい。また、輝度情報は数式1のようにRGBの各値を用いて表されるので、輝度情報として、Yの値ではなくRGBの値の組み合わせを輝度情報としてもよい。
「第二輝度情報取得手段」(0208)は、前記第二画像の第二輝度情報を取得する機能を有する。「前記第二画像の第二輝度情報」は、第二画像を構成するすべての画素における輝度情報であってもよいし、一部の画素のみの輝度情報であってもよい。
「第二輝度情報補正手段」(0209)は、前記第二輝度情報を、前記第一輝度情報にて補正する機能を有する。第一輝度情報は適正露出の画像であるが手ぶれしている可能性の高い第一画像から取得され、第二輝度情報は露出不足の画像であるが手ぶれの軽減された第二画像から取得される輝度情報である。よって、露出不足である第二画像の第二輝度情報を、適正露出である第一画像の第一輝度情報で補正すれば、手ぶれの軽減された、かつ適正露出の画像を得ることができる。
図5は、第二輝度情報補正手段における補正方法の具体例を示す。図4にて説明のように、位置ずれの動き量を(Mx、My)、α=Pw/Sw、β=Ph/Shとすると、第一画像の画素(x’,y’)と第二画像の画素(x,y)との関係は、x’=αx+Mx,y’=βy+My(以下、「数式2」と呼ぶ)と表すことができる。通常、画素の明るさは露光時間の長さに比例して変化する(例えば、露光時間が2倍になれば、画素の明るさも2倍になる)ので、第一画像と第二画像の露光時間の比に応じて、第二画像の画像情報にて示される各画素における画素値(RGB値など)を増加させれば、第二画像の明るさは第一画像と同じになる。しかしながら、ノイズも増幅されてしまうため、ここでは線形補間により第一画像の画素値との平均を取ってノイズ成分を減少させる方法にて画素値の補正を行なう場合を例示する。なお、数式1のように輝度情報はRGBの値で決定されるので、画素値の補正とは、輝度情報を補正することと同義である。また、線形補間に関しては一般的によく知られているのでここでは詳述しない。数式2にて算出されるx’の整数部をk、小数部をu、y’の整数部をl、小数部をvとし、第一画像の画素(x’,y’)における画素値をPp(x’,y’)とすると、Pp(x’,y’)=Pp(k+u,l+v)=Pp(k,l)(l−u)(l−v)+Pp(k+1,l)u(l−v)+Pp(k,l+1)(l−u)l+Pp(k+1,l+1)kl、という式にて画素値Pp(x’,y’)が求められる。また、第二輝度情報を補正する際の補正量は以下のように算出する。第一制御手段にてほぼ適正露出に制御された露光時間(第一画像の露光時間)をTo、第二制御手段にて手ぶれが発生しにくく制御された露光時間(第二画像の露光時間)をTxとし、Tr=Tx/Toとする。第二画像の画素(x,y)における画素値をPs(x,y)とすると、第二輝度情報補正手段にて補正する画素値Pa(x,y)は、Pa(x,y)=(Pp(x’,y’)+Ps(x,y)・Tr)/2、という式で表される。これにより、第一輝度情報である画素値Pp(x’,y’)と第二輝度情報である画素値Ps(x,y)によって、第二輝度情報を画素値Pa(x,y)で補正することができる。
また、第一制御手段と、第二制御手段とは、第一画像情報が第二画像情報よりもデータ量が少なくなるように制御するようになっていてもよい。「データ量が少なくなる」とは、第一画像のサイズが第二画像のサイズよりも小さい場合等を意味するが、データ量が少なくなることにより第一画像情報を保持するためのメモリ量が少なくても済むため、特にカメラ付携帯電話等のようにメモリ容量に制限のある撮像装置において効を奏する。また、データ量が少なくなる場合として、第一画像としてサイズの小さいプレビュー画像を利用したり、後述の画素加算によってサイズを小さくする等の方法がある。
(実施形態1:処理の流れ)図6、図7は、本実施形態に係る撮像装置における処理の流れを示すフロー図を例示する。撮像装置は、例えばユーザによりシャッターが切られる等して被写体を撮像する度に、図6、図7のような処理を行なう。図6は、撮像装置の構成が図1の構成である場合の処理の流れを示し、図7は撮像装置の構成が図2の構成である場合の処理の流れを示す。
まず、図6について説明する。最初に、撮像条件を制御する。この処理は、制御部によって実行される(制御ステップ S0601)。次に、前記制御ステップ(S0601)にて制御された撮像条件にて撮像を行なう。この処理は、撮像部によって実行される(撮像ステップ S0602)。次に、前記撮像ステップ(S0602)にて異なる撮像条件に制御されて短時間内に撮像された複数画像の画像情報を保持する。この処理は、保持部によって実行される(保持ステップ S0603)。最後に、前記保持ステップ(S0603)にて保持される複数画像の画像情報を部分的に利用して一の画像の画像情報を合成する。この処理は、合成部によって実行される(合成ステップ S0604)。
次に、図7について説明する。最初に、第一画像を、適正露出の画像となるように制御する。この処理は、第一制御手段によって実行される(第一制御ステップ S0701)。次に、前記第一制御ステップ(S0701)にて制御された撮像条件にて撮像を行なう。この処理は、撮像部によって実行される(第一画像撮像ステップ S0702)。次に、前記第一画像撮像ステップ(S0702)にて撮像された第一画像の画像情報を保持する。この処理は、保持部によって実行される(第一画像情報保持ステップ S0703)。次に、第二画像を、比較的シャッタースピードを速くして撮像するように制御する。この処理は、第二制御手段によって実行される(第二制御ステップ S0704)。次に、前記第二制御ステップ(S0704)にて制御された撮像条件にて撮像を行なう。この処理は、撮像部によって実行される(第二画像撮像ステップ S0705)。次に、前記第二画像撮像ステップ(S0705)にて撮像された第二画像の画像情報を保持する。この処理は、保持部によって実行される(第二画像情報保持ステップ S0706)。なお、前記第一制御ステップ(S0701)から前記第一画像情報保持ステップ(S0703)までと、前記第二制御ステップ(S0704)から前記第二画像情報保持ステップ(S0706)までの順番は逆であってもよい。すなわち、第一画像の撮像と第二画像の撮像の順番は問わない。次に、第一画像の第一輝度情報を取得する。この処理は、第一輝度情報取得手段によって実行される(第一輝度情報取得ステップ S0707)。次に、第二画像の第二輝度情報を取得する。この処理は、第二輝度情報取得手段によって実行される(第二輝度情報取得ステップ S0708)。最後に、前記第二輝度情報取得ステップ(S0708)にて取得された第二輝度情報を、前記第一輝度情報取得ステップ(S0707)にて取得された第一輝度情報にて補正する。この処理は、第二輝度情報補正手段によって実行される(第二輝度情報補正ステップ S0709)。
(実施形態1:効果)本実施形態に係る撮像装置においては、異なる撮像条件にて撮像された複数の画像を利用して手ぶれの軽減された画像を得ることができる。特に、適正露出である第一画像と、露出不足であるが手ぶれが軽減された第二画像とを利用することにより、第二画像の輝度情報を第一画像の輝度情報を利用して補正することのみによって手ぶれの軽減された画像を得ることができる。
(実施形態2)
(実施形態2:概要)本実施形態は、サイズの小さいプレビュー画像を用いて合成を行なうことにより、処理速度や記憶容量に制限のあるカメラ付携帯電話のカメラ等にも適用可能な撮像装置に関する。
(実施形態2:構成)本実施形態に係る撮像装置の機能ブロックを図8に例示する。撮像装置(0800)は、「撮像部」(0801)と、「制御部」(0802)と、「保持部」(0803)と、「合成部」(0804)と、「プレビュー表示部」(0810)と、を有している。また、前記撮像部(0801)は、「プレビュー出力手段」(0811)を有する。また、前記制御部(0802)は、「第一制御手段」(0805)と、「第二制御手段」(0806)と、を有する。また、前記合成部(0804)は、「第一輝度情報取得手段」(0807)と、「第二輝度情報取得手段」(0808)と、「第二輝度情報補正手段」(0809)と、を有する。すなわち、図2に例示した撮像装置の構成に、「プレビュー表示部」(0810)と、「プレビュー出力手段」(0811)とを加えた構成となっている。
「プレビュー表示部」(0810)は、ファインダーとして利用する機能を有する。「ファインダーとして利用する」とは、ユーザが撮像装置により被写体を撮像する際にカメラを被写体に向けて視認するために利用することである。よって、「ファインダー」はデジタルカメラ等のファインダーのみならず、例えば、撮像装置がカメラ付携帯電話である場合、被写体を撮像する際にはカメラが捉えている被写体が携帯電話の液晶画面等に表示されるが、このような場合における液晶画面などをも指す。プレビュー表示部は、図17においてはモニタ(1708)が該当する。
「プレビュー出力手段」(0811)は、所定の時間間隔でプレビューのためにプレビュー表示部(0810)に対してプレビュー画像を出力する機能を有する。「所定の時間間隔」とは、撮像装置の規格にも依存するが、例えば、カメラ付携帯電話であれば30〜60ミリ秒程度の間隔である。「プレビュー」とは、ユーザが撮像装置により被写体を撮像する際にカメラを被写体に向けて視認することである。また、「プレビュー画像」とは、その際に表示される画像である。例えば、撮像装置がカメラ付携帯電話である場合、被写体を撮像するためにカメラを被写体に向けた際に液晶画面等に表示される画像である。通常、目的画像よりもサイズの小さい画像である。また、プレビュー画像は、目的画像と同様に、例えば図17におけるレンズ(1701)を通して被写体からの光をCCD(1702)で受光し電気信号に変換し、電気信号をA/D変換器(1703)によりデジタル信号に変換して得られる画像である。また、プレビュー出力手段は、得られた画像を画像出力ユニット(1707)を介して前記プレビュー表示部(0810)に該当するモニタ(1708)に出力する。また、プレビュー出力手段は、このような処理をCPU(1704)に実行させるためのプログラムを含んでいてもよい。
また、前記第一制御手段(0805)によって制御されて撮像される第一画像は、前記プレビュー画像であることを特徴とする。プレビュー画像は目的画像よりもサイズが小さいため、合成を行なうために撮像装置内に保持する画像の画像情報が少なくて済む。特に、カメラ付携帯電話等のようにメモリ容量に制限があるような撮像装置であっても、手ぶれの軽減された画像を得ることが可能となる。なお、プレビュー画像と第二画像の撮像の順番は問わない。
(実施形態2:処理の流れ)図9は、本実施形態に係る撮像装置における処理の流れを示すフロー図を例示する。撮像装置は、例えばユーザによりシャッターが切られる等して被写体を撮像する度に、図9のような処理を行なう。最初に、プレビュー画像を、適正露出の画像となるように制御する。この処理は、第一制御手段によって実行される(プレビュー第一制御ステップ S0901)。次に、前記プレビュー第一制御ステップ(S0901)にて制御された撮像条件にてプレビュー画像の撮像を行なう。この処理は、プレビュー出力手段によって実行される(プレビュー画像撮像ステップ S0902)。次に、前記プレビュー画像撮像ステップ(S0902)にて撮像されたプレビュー画像の画像情報を保持する。この処理は、保持部によって実行される(プレビュー画像情報保持ステップ S0903)。次に、第二画像を、比較的シャッタースピードを速くして撮像するように制御する。この処理は、第二制御手段によって実行される(第二制御ステップ S0904)。次に、前記第二制御ステップ(S0904)にて制御された撮像条件にて撮像を行なう。この処理は、撮像部によって実行される(第二画像撮像ステップ S0905)。次に、前記第二画像撮像ステップ(S0905)にて撮像された第二画像の画像情報を保持する。この処理は、保持部によって実行される(第二画像情報保持ステップ S0906)。なお、前記プレビュー第一制御ステップ(S0901)から前記プレビュー画像情報保持ステップ(S0903)までと、前記第二制御ステップ(S0904)から前記第二画像情報保持ステップ(S0906)までの順番は逆であってもよい。すなわち、プレビュー画像の撮像と第二画像の撮像の順番は問わない。次に、第一輝度情報としてプレビュー画像の輝度情報を取得する。この処理は、第一輝度情報取得手段によって実行される(プレビュー画像輝度情報取得ステップ S0907)。次に、第二画像の第二輝度情報を取得する。この処理は、第二輝度情報取得手段によって実行される(第二輝度情報取得ステップ S0908)。最後に、前記第二輝度情報取得ステップ(S0908)にて取得された第二輝度情報を、前記プレビュー画像輝度情報取得ステップ(S0907)にて取得されたプレビュー画像の輝度情報にて補正する。この処理は、第二輝度情報補正手段によって実行される(プレビュー画像輝度情報依存第二輝度情報補正ステップ S0909)。なお、本実施形態に係る撮像装置は、撮像装置の撮像機能使用時は常に、前記プレビュー第一制御ステップ(S0901)から前記プレビュー画像情報保持ステップ(S0903)を実行し、さらに前記プレビュー画像情報保持ステップ(S0903)にて保持するプレビュー画像の画像情報に基づいて、プレビュー表示部へプレビュー画像を出力し表示する処理を実行する。
(実施形態2:効果)本実施形態に係る撮像装置においては、第一画像としてサイズの小さいプレビュー画像を利用することができるので、例えば、カメラ付携帯電話等のように処理能力やメモリ容量に制限があるような撮像装置であっても、手ぶれの軽減された画像を得ることが可能である。
(実施形態3)
(実施形態3:概要)本実施形態は、第二画像を撮像する制御として、シャッタースピードを手ぶれ画像となりにくいシャッタースピードに制御することが可能であるため、第二画像の輝度情報を補正するのみによって手ぶれの軽減された画像を得ることが可能な撮像装置に関する。
(実施形態3:構成)本実施形態に係る撮像装置の機能ブロックを図10に例示する。本実施形態に係る撮像装置の構成は、実施形態1にて説明の図2又は実施形態2に係る撮像装置の構成に「手ぶれ防止制御器」(1012)を加えた構成となる。図10においては、実施形態2にて説明の撮像装置の構成に前記手ぶれ防止制御器(1012)を加えた構成を例示している。撮像装置(1000)は、「撮像部」(1001)と、「制御部」(1002)と、「保持部」(1003)と、「合成部」(1004)と、「プレビュー表示部」(1010)と、を有する。また、前記撮像部(1001)は、「プレビュー出力手段」(1011)を有する。また、前記制御部(1002)は、「第一制御手段」(1005)と、「第二制御手段」(1006)と、を有する。また、前記合成部(1004)は、「第一輝度情報取得手段」(1007)と、「第二輝度情報取得手段」(1008)と、「第二輝度情報補正手段」(1009)と、を有する。また、前記第二制御手段(1006)は、「手ぶれ防止制御器」(1012)を有する。
「手ぶれ防止制御器」(1012)は、第二画像を撮像する制御として、シャッタースピードを手ぶれ画像となりにくいシャッタースピードに制御する機能を有する。「手ぶれ画像となりにくいシャッタースピード」とは、一般的には16ミリ秒程度以下のシャッタースピードである。ただし、この値に限定するものではない。手ぶれ防止制御器における具体的な処理を例示するフロー図を図11に示す。通常の撮像装置においては周辺の明るさなどから適正露出となる露光時間を決定して撮像するが、この露光時間をToとする。また、手ぶれ画像となりにくいシャッタースピードをTxとする。最初に、周辺の明るさ等から適正露光時間Toを検出する(ステップS1101)。次に、ステップS1101にて検出した適正露光時間ToがTxよりも長い時間であるか判断する(ステップS1102)。ステップS1102での判断がToのほうが長い時間であるとの判断であった場合には、第二画像の露光時間をTxに決定する(ステップS1103)。ステップS1102での判断がToがTx以下の時間であるとの判断であった場合には、第二画像の露光時間をToに決定する(ステップS1104)。また、手ぶれ防止制御器の処理についてさらに具体的には、例えば、レンズ(1701)を通してCCD(1702)に当たる光量を測定することにより自動的に適正露光時間Toが決定され一時記憶メモリ(1705)などの所定の記憶領域に格納される。また、予め手ぶれ画像となりにくいシャッタースピードであるTxの値が一時記憶メモリ(1705)や記憶装置(1706)の所定の記憶領域に格納されている。このToとTxの値を格納されている所定の記憶領域から読出し比較した結果が一時記憶メモリ(1705)などの所定の記憶領域に格納される。格納された比較結果を読出し、比較結果がTo>Txを示す情報であれば、第二画像の露光時間の値を格納している所定の記憶領域にTxの値を書込み、比較結果がTo<=Txを示す情報であれば、第二画像の露光時間の値を格納している所定の記憶領域にToの値を書込む。これにより、第二画像の露光時間が手ぶれ画像となりにくいシャッタースピードに制御されたことになる。また、手ぶれ防止制御器は、このような処理をCPU(1704)に実行させるためのプログラムを含んでいてもよい。
(実施形態3:処理の流れ)本実施形態に係る撮像装置における処理の流れは、実施形態1にて説明の図7又は実施形態2に係る撮像装置の処理の流れと同様である。ただし、第二制御ステップにて第二画像を撮像する制御として、シャッタースピードを手ぶれ画像となりにくいシャッタースピードに制御することを特徴とする。
(実施形態3:効果)本実施形態に係る撮像装置においては、シャッタースピードを手ぶれ画像となりにくいシャッタースピードに制御して第二画像を撮像することが可能であるため、第二画像の輝度情報を補正するのみによって手ぶれのない画像を得ることができる。
(実施形態4)
(実施形態4:概要)本実施形態は、画素加算により第一画像を撮像することにより第一画像情報のデータ量を少なくすることが可能な撮像装置に関する。
(実施形態4:構成)本実施形態に係る撮像装置の機能ブロックを図12に例示する。本実施形態に係る撮像装置の構成は、実施形態1にて説明の図2又は実施形態2に係る撮像装置又は実施形態3に係る撮像装置の構成に「画素加算撮像制御器」(1213)を加えた構成となる。図12においては、実施形態3にて説明の撮像装置の構成に前記画素加算撮像制御器(1213)を加えた構成を例示している。撮像装置(1200)は、「撮像部」(1201)と、「制御部」(1202)と、「保持部」(1203)と、「合成部」(1204)と、「プレビュー表示部」(1210)と、を有する。また、前記撮像部(1201)は、「プレビュー出力手段」(1211)を有する。また、前記制御部(1202)は、「第一制御手段」(1205)と、「第二制御手段」(1206)と、を有する。また、前記合成部(1204)は、「第一輝度情報取得手段」(1207)と、「第二輝度情報取得手段」(1208)と、「第二輝度情報補正手段」(1209)と、を有する。また、前記第一制御手段(1205)は、「画素加算撮像制御器」(1213)を有する。また、前記第二制御手段(1206)は、「手ぶれ防止制御器」(1212)を有する。
「画素加算撮像制御器」(1213)は、画素加算により第一画像を撮像するように制御する機能を有する。画素加算とは、例えば、図13に示すように4つの画素を1画素に変換する方法であり、変換する際には4つの画素の画素値を足し合わせた値を1画素の画素値にする。例えば、400×400画素の画像において画素加算を行なうと200×200画素の画像となる。この画素加算のメリットは、元の画像は明るさが不足している画像であっても4つの画素の画素値を足し合わせて1画素の画素値とするため、画素加算により生成された画像は明るさが確保された画像となる。すなわち、元の画像はシャッター時間が短く露出不足の画像であってよい。また、例えば、高画素化CCDの場合、CCD全体の大きさが大きくなるにつれて一つ一つの画素の大きさは小さくなっていくため一つ一つの画素に当たる光は少なくなっていく。すなわち、感度が低くなっていく。また、これを補正するために信号を増幅するとノイズも大きくなってしまうが、画素加算によれば、画像のサイズは小さくなるが信号を増幅することなく明るさを確保することができる。
(実施形態4:処理の流れ)本実施形態に係る撮像装置における処理の流れは、実施形態1にて説明の図7又は実施形態2又は実施形態3に係る撮像装置の処理の流れと同様である。ただし、第一制御ステップ又はプレビュー第一制御ステップにて画素加算により第一画像を撮像するように制御することを特徴とする。
(実施形態4:効果)本実施形態に係る撮像装置においては、画素加算により第一画像を撮像することが可能であるため、第一画像のデータ量が少なくなり、第一画像情報を保持するためのメモリ容量が少なくて済む。
(実施形態5)
(実施形態5:概要)本実施形態は、複数画像間の動きベクトルを検出することが可能な撮像装置に関する。これにより、複数画像間に位置ずれがある場合に、位置ずれを検出し合成を行なうことが可能である。
(実施形態5:構成)本実施形態に係る撮像装置の機能ブロックを図14に例示する。本実施形態に係る撮像装置の構成は、実施形態1にて説明の図2、実施形態2に係る撮像装置、実施形態3に係る撮像装置又は実施形態4に係る撮像装置の構成に「ベクトル検出手段」(1414)と、「ベクトル利用合成手段」(1415)とを加えた構成となる。図14においては、実施形態4にて説明の撮像装置の構成に前記ベクトル検出手段(1414)と、前記ベクトル利用合成手段(1415)とを加えた構成を例示している。撮像装置(1400)は、「撮像部」(1401)と、「制御部」(1402)と、「保持部」(1403)と、「合成部」(1404)と、「プレビュー表示部」(1410)と、を有する。また、前記撮像部(1401)は、「プレビュー出力手段」(1411)を有する。また、前記制御部(1402)は、「第一制御手段」(1405)と、「第二制御手段」(1406)と、を有する。また、前記合成部(1404)は、「第一輝度情報取得手段」(1407)と、「第二輝度情報取得手段」(1408)と、「第二輝度情報補正手段」(1409)と、「ベクトル検出手段」(1414)と、「ベクトル利用合成手段」(1415)とを有する。また、前記第一制御手段(1405)は、「画素加算撮像制御器」(1413)を有する。また、前記第二制御手段(1406)は、「手ぶれ防止制御器」(1412)を有する。
「ベクトル検出手段」(1414)は、前記複数画像間の動きベクトルを検出する機能を有する。「複数画像間の動きベクトルを検出する」とは、複数画像が撮像される間隔が広いとその間に手ぶれ等により画像どうしの位置がずれるため、その位置ずれの方向と量(動きベクトル)を検出するということである。検出した動きベクトルは、ベクトル利用合成手段(1415)にて複数画像により合成を行なう際に画像どうしの位置を合わせるために利用される。動きベクトルを検出する方法の一例として、例えば、ブロックマッチングなどの技術を利用するとよい。ブロックマッチングは一般的によく知られている画像マッチング処理技術であるが、図15を用いてその仕組みを簡単に説明する。ブロックマッチングは、連続する二つの静止画像における部分画像の位置変化を求める手法の一つである。例えば、(a)の画像情報1の画像における斜線で示す格子状領域(1501)内の被写体画像が、(b)の画像情報2の画像においてどの位置に移動しているか、を判断する場合を例示する。まず図15(b)の画像情報2の画像内から、前記格子状領域(1501)と同じ位置のブロックを中心として周囲所定個のブロック群で構成される探索範囲(1502)を決定する。そして探索範囲の中から画素値やその分布情報などを利用して、図15(a)の格子状領域(1501)内の被写体画像と最も近似しているブロック(1503)を検出する。そしてその移動量を水平、垂直成分として、格子状領域(1501)における動きベクトル(1501n)が検出される、という具合である。また、動きを検出する格子状領域(1501)を決定する方法として、エッジ抽出を行ない、輪郭のはっきりしている画像をより多く含むブロックを格子状領域(1501)として決定してもよい。また、前記複数画像の大きさが異なる場合には、大きい画像を小さい画像に合わせて縮小してからブロックマッチング等により動きベクトルを検出すればよい。
「ベクトル利用合成手段」(1415)は、前記ベクトル検出手段(1414)にて検出された動きベクトルを用いて前記合成をする機能を有する。すなわち、前記ベクトル検出手段にて検出された動きベクトルは数式2に含まれる位置ずれの動き量(Mx、My)を表すので、複数画像間の位置ずれをも考慮して合成を行なうことができる。
(実施形態5:処理の流れ)図16は、本実施形態に係る撮像装置における処理の流れを示すフロー図を例示する。撮像装置は、例えばユーザによりシャッターが切られる等して被写体を撮像する度に、図16のような処理を行なう。最初に、画素加算により第一画像を撮像するように制御する。この処理は、画素加算撮像制御器によって実行される(画素加算第一制御ステップ S1601)。次に、前記画素加算第一制御ステップ(S1601)にて制御された撮像条件にて第一画像としてプレビュー画像の撮像を行なう。この処理は、プレビュー出力手段によって実行される(画素加算制御プレビュー画像撮像ステップ S1602)。次に、前記画素加算プレビュー画像撮像ステップ(S1602)にて撮像されたプレビュー画像の画像情報を保持する。この処理は、保持部によって実行される(画素加算制御プレビュー画像情報保持ステップ S1603)。次に、第二画像を撮像する制御として、シャッタースピードを手ぶれ画像となりにくいシャッタースピードに制御する。この処理は、手ぶれ防止制御器によって実行される(手ぶれ防止第二制御ステップ S1604)。次に、前記手ぶれ防止第二制御ステップ(S1604)にて制御された撮像条件にて撮像を行なう。この処理は、撮像部によって実行される(手ぶれ防止制御第二画像撮像ステップ S1605)。次に、前記手ぶれ防止制御第二画像撮像ステップ(S1605)にて撮像された第二画像の画像情報を保持する。この処理は、保持部によって実行される(手ぶれ防止制御第二画像情報保持ステップ S1606)。なお、前記画素加算第一制御ステップ(S1601)から前記画素加算制御プレビュー画像情報保持ステップ(S1603)までと、前記手ぶれ防止第二制御ステップ(S1604)から前記手ぶれ防止制御第二画像情報保持ステップ(S1606)までの順番は逆であってもよい。すなわち、プレビュー画像の撮像と第二画像の撮像の順番は問わない。次に、第一輝度情報としてプレビュー画像の輝度情報を取得する。この処理は、第一輝度情報取得手段によって実行される(プレビュー画像輝度情報取得ステップ S1607)。次に、第二画像の第二輝度情報を取得する。この処理は、第二輝度情報取得手段によって実行される(第二輝度情報取得ステップ S1608)。次に、第一画像と第二画像の動きベクトルを検出する。この処理は、ベクトル検出手段によって実行される。また、この処理は、前記プレビュー画像輝度情報取得ステップ(S1607)又は第二輝度情報取得ステップ(S1608)よりも先に実行されてもよい(ベクトル検出ステップ S1609)。最後に、前記第二輝度情報取得ステップ(S1608)にて取得された第二輝度情報を、前記ベクトル検出ステップ(S1609)にて検出された動きベクトルを利用して、前記プレビュー画像輝度情報取得ステップ(S1607)にて取得されたプレビュー画像の輝度情報にて補正する。この処理は、ベクトル利用合成手段によって実行される(ベクトル利用合成ステップ S1610)。なお、本実施形態に係る撮像装置は、撮像装置の撮像機能使用時は常に、前記画素加算プレビュー第一制御ステップ(S1601)から前記画素加算制御プレビュー画像情報保持ステップ(S1603)を実行し、さらに前記画素加算制御プレビュー画像情報保持ステップ(S1603)にて保持するプレビュー画像の画像情報に基づいて、プレビュー表示部へプレビュー画像を出力し表示する処理を実行する。
(実施形態5:効果)本実施形態に係る撮像装置においては、複数画像間の動きベクトルを検出することが可能であるので、複数画像間に位置ずれがある場合であっても位置ずれを検出し合成を行なうことが可能である。
実施形態1に係る撮像装置の機能ブロック図 実施形態1に係る撮像装置の機能ブロック図 第一制御手段と第二制御手段にて制御される露光時間を示す図 合成部にて第一画像と第二画像を用いて合成を行なう場合の概略を示す図 第二輝度情報補正手段における補正方法の具体例 実施形態1に係る撮像装置の処理の流れを示すフロー図 実施形態1に係る撮像装置の処理の流れを示すフロー図 実施形態2に係る撮像装置の機能ブロック図 実施形態2に係る撮像装置の処理の流れを示すフロー図 実施形態3に係る撮像装置の機能ブロック図 手ぶれ防止制御器における具体的な処理を例示するフロー図 実施形態4に係る撮像装置の機能ブロック図 画素加算を説明する図 実施形態5に係る撮像装置の機能ブロック図 ブロックマッチングを説明する図 実施形態5に係る撮像装置の処理の流れを示すフロー図 撮像装置の具体的な構成を例示する図
符号の説明
0100 撮像装置
0101 撮像部
0102 制御部
0103 保持部
0104 合成部
0205 第一制御手段
0206 第二制御手段
0207 第一輝度情報取得手段
0208 第二輝度情報取得手段
0209 第二輝度情報補正手段

Claims (8)

  1. 撮像部と、
    撮像部での撮像条件を制御する制御部と、
    制御部によって異なる撮像条件に制御されて短時間内に撮像された複数画像の画像情報を保持する保持部と、
    前記複数の画像の画像情報を部分的に利用して一の画像の画像情報を合成する合成部と、
    を有し、
    前記制御部は、
    撮像する複数画像の一の画像である第一画像を、適正露出の画像となるように制御する第一制御手段と、
    撮像する複数画像の他の一の画像である第二画像を、比較的シャッタースピードを速くして撮像するように制御する第二制御手段と、
    を有し、
    前記合成部は、
    前記第一画像の第一輝度情報を取得する第一輝度情報取得手段と、
    前記第二画像の第二輝度情報を取得する第二輝度情報取得手段と、
    前記第二輝度情報を、前記第一輝度情報にて補正する第二輝度情報補正手段と、
    を有する撮像装置。
  2. ファインダーとして利用するためのプレビュー表示部を有し、
    撮像部は、所定の時間間隔でプレビューのためにプレビュー表示部に対してプレビュー画像を出力するプレビュー出力手段を有し、
    前記第一制御手段によって制御されて撮像される第一画像は、前記プレビュー画像である請求項1に記載の撮像装置。
  3. 第二制御手段は、第二画像を撮像する制御として、シャッタースピードを手ぶれ画像となりにくいシャッタースピードに制御する手ぶれ防止制御器を有する請求項1又は2に記載の撮像装置。
  4. 第一制御手段は、画素加算により第一画像を撮像するように制御する画素加算撮像制御器を有する請求項1から3のいずれか一に記載の撮像装置。
  5. 第一制御手段と、第二制御手段とは、第一画像情報が第二画像情報よりもデータ量が少なくなるように制御する請求項1から4のいずれか一に記載の撮像装置。
  6. 前記合成部は、
    前記複数画像間の動きベクトルを検出するベクトル検出手段と、
    前記ベクトル検出手段にて検出された動きベクトルを用いて前記合成をするベクトル利用合成手段と、
    を有する請求項1から5のいずれか一に記載の撮像装置。
  7. 撮像ステップと、
    撮像ステップでの撮像条件を制御する制御ステップと、
    制御ステップによって異なる撮像条件に制御されて短時間内に撮像された複数画像の画像情報を保持する保持ステップと、
    前記複数の画像の画像情報を部分的に利用して一の画像の画像情報を合成する合成ステップと、
    を有し、
    前記制御ステップは、
    撮像する複数画像の一の画像である第一画像を、適正露出の画像となるように制御する第一制御ステップと、
    撮像する複数画像の他の一の画像である第二画像を、比較的シャッタースピードを速くして撮像するように制御する第二制御ステップと、
    を有し、
    前記合成ステップは、
    前記第一画像の第一輝度情報を取得する第一輝度情報取得ステップと、
    前記第二画像の第二輝度情報を取得する第二輝度情報取得ステップと、
    前記第二輝度情報を、前記第一輝度情報にて補正する第二輝度情報補正ステップと、
    を有する撮像方法。
  8. ファインダーとして利用するためのプレビュー表示ステップを有し、
    撮像ステップは、所定の時間間隔でプレビュー表示ステップにおけるプレビューのためにプレビュー画像を出力するプレビュー出力ステップを有し、
    前記第一制御ステップによって制御されて撮像される第一画像は、前記プレビュー画像である請求項7に記載の撮像方法。
JP2007526010A 2005-07-19 2006-07-18 撮像装置 Expired - Fee Related JP4254969B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2005209249 2005-07-19
JP2005209249 2005-07-19
PCT/JP2006/314159 WO2007010891A1 (ja) 2005-07-19 2006-07-18 撮像装置

Publications (2)

Publication Number Publication Date
JPWO2007010891A1 JPWO2007010891A1 (ja) 2009-01-29
JP4254969B2 true JP4254969B2 (ja) 2009-04-15

Family

ID=37668771

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007526010A Expired - Fee Related JP4254969B2 (ja) 2005-07-19 2006-07-18 撮像装置

Country Status (5)

Country Link
US (1) US20080259175A1 (ja)
EP (1) EP1914982A1 (ja)
JP (1) JP4254969B2 (ja)
KR (1) KR20080023745A (ja)
WO (1) WO2007010891A1 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7738015B2 (en) 1997-10-09 2010-06-15 Fotonation Vision Limited Red-eye filter method and apparatus
US8199222B2 (en) * 2007-03-05 2012-06-12 DigitalOptics Corporation Europe Limited Low-light video frame enhancement
US8698924B2 (en) 2007-03-05 2014-04-15 DigitalOptics Corporation Europe Limited Tone mapping for low-light video frame enhancement
US7639889B2 (en) 2004-11-10 2009-12-29 Fotonation Ireland Ltd. Method of notifying users regarding motion artifacts based on image analysis
US8417055B2 (en) 2007-03-05 2013-04-09 DigitalOptics Corporation Europe Limited Image processing method and apparatus
US8989516B2 (en) 2007-09-18 2015-03-24 Fotonation Limited Image processing method and apparatus
JP4341613B2 (ja) * 2005-11-29 2009-10-07 セイコーエプソン株式会社 制御装置、撮影装置、撮影装置の制御方法、および、制御プログラム
JP4916268B2 (ja) * 2006-09-29 2012-04-11 キヤノン株式会社 撮像装置、及びその制御方法
US9307212B2 (en) 2007-03-05 2016-04-05 Fotonation Limited Tone mapping for low-light video frame enhancement
JP2008227840A (ja) * 2007-03-12 2008-09-25 Fujifilm Corp 撮影装置
US7773118B2 (en) 2007-03-25 2010-08-10 Fotonation Vision Limited Handheld article with movement discrimination
KR100793284B1 (ko) * 2007-05-11 2008-01-10 주식회사 코아로직 디지털 영상의 손떨림 보정 장치, 방법 및 상기 방법을프로그램화하여 수록한 컴퓨터로 읽을 수 있는 기록매체
JP2009089228A (ja) * 2007-10-02 2009-04-23 Sanyo Electric Co Ltd 撮像装置
JP5181294B2 (ja) * 2008-03-31 2013-04-10 富士フイルム株式会社 撮像システム、撮像方法、およびプログラム
US8436907B2 (en) * 2008-05-09 2013-05-07 Honeywell International Inc. Heterogeneous video capturing system
JP5183297B2 (ja) * 2008-05-19 2013-04-17 三洋電機株式会社 画像処理装置、撮像装置及び画像処理方法
JP5268433B2 (ja) * 2008-06-02 2013-08-21 キヤノン株式会社 撮像装置、及び撮像装置の制御方法
JP2010141653A (ja) 2008-12-12 2010-06-24 Sanyo Electric Co Ltd 画像処理装置及び撮像装置
JP5261765B2 (ja) * 2008-12-12 2013-08-14 株式会社ザクティ 撮像装置及び撮像方法
JP2010166558A (ja) 2008-12-19 2010-07-29 Sanyo Electric Co Ltd 撮像装置
US8988578B2 (en) 2012-02-03 2015-03-24 Honeywell International Inc. Mobile computing device with improved image preview functionality
CN110062165B (zh) * 2019-04-22 2021-09-14 联想(北京)有限公司 电子设备的视频处理方法、装置和电子设备
TWI723435B (zh) * 2019-06-24 2021-04-01 聚晶半導體股份有限公司 影像輸出方法與電子裝置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5420635A (en) * 1991-08-30 1995-05-30 Fuji Photo Film Co., Ltd. Video camera, imaging method using video camera, method of operating video camera, image processing apparatus and method, and solid-state electronic imaging device
JP3630905B2 (ja) * 1997-02-28 2005-03-23 キヤノン株式会社 撮像方法及び撮像装置
US6778210B1 (en) * 1999-07-15 2004-08-17 Olympus Optical Co., Ltd. Image pickup apparatus with blur compensation
US7176962B2 (en) * 2001-03-01 2007-02-13 Nikon Corporation Digital camera and digital processing system for correcting motion blur using spatial frequency
JP5298396B2 (ja) * 2001-03-01 2013-09-25 株式会社ニコン 電子カメラおよび画像処理システム
US7379094B2 (en) * 2002-04-18 2008-05-27 Olympus Corporation Electronic still imaging apparatus and method having function for acquiring synthesis image having wide-dynamic range
JP4024581B2 (ja) * 2002-04-18 2007-12-19 オリンパス株式会社 撮像装置
US7639888B2 (en) * 2004-11-10 2009-12-29 Fotonation Ireland Ltd. Method and apparatus for initiating subsequent exposures based on determination of motion blurring artifacts

Also Published As

Publication number Publication date
KR20080023745A (ko) 2008-03-14
US20080259175A1 (en) 2008-10-23
JPWO2007010891A1 (ja) 2009-01-29
EP1914982A1 (en) 2008-04-23
WO2007010891A1 (ja) 2007-01-25

Similar Documents

Publication Publication Date Title
JP4254969B2 (ja) 撮像装置
JP5574423B2 (ja) 撮像装置、表示制御方法及びプログラム
JP5525703B2 (ja) 画像再生表示装置
JP4446193B2 (ja) 画像処理装置および方法、並びにプログラム
JP5764740B2 (ja) 撮像装置
US7671892B2 (en) Image sensing apparatus, and control method, program, and storage medium of image sensing apparatus
KR20110126053A (ko) 촬상 장치, 손떨림 보정 방법 및 기록 매체
KR101109532B1 (ko) 촬상 장치, 촬상 방법 및 촬상 프로그램이 기록된 기록 매체
JP2009194700A (ja) 画像処理装置及び画像処理プログラム
JP2006352715A (ja) デジタルカメラ、及びその露出制御方法
JP2013165487A (ja) 画像処理装置、撮像装置、およびプログラム
JP2007243917A (ja) 撮像装置および画像処理プログラム
JP4807582B2 (ja) 画像処理装置、撮像装置及びそのプログラム
JP2006148550A (ja) 画像処理装置及び撮像装置
JP2007036363A (ja) 撮像装置
JP5179859B2 (ja) 撮像装置及び撮像方法
CN114554041A (zh) 摄像装置、摄像方法和存储介质
JP5831492B2 (ja) 撮像装置、表示制御方法及びプログラム
JP2017212698A (ja) 撮像装置、撮像装置の制御方法およびプログラム
JP4687619B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2008072428A (ja) 画像処理装置、電子カメラ、および画像処理プログラム
JPH11224324A (ja) 画像信号処理方法及び装置
JP2006352717A (ja) デジタルカメラ、及びその画像処理方法
JP2007036750A (ja) 撮像装置
JP2007036654A (ja) 撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090106

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090121

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120206

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120206

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130206

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130206

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140206

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees