JP2021118466A - 撮像装置およびその制御方法 - Google Patents

撮像装置およびその制御方法 Download PDF

Info

Publication number
JP2021118466A
JP2021118466A JP2020011299A JP2020011299A JP2021118466A JP 2021118466 A JP2021118466 A JP 2021118466A JP 2020011299 A JP2020011299 A JP 2020011299A JP 2020011299 A JP2020011299 A JP 2020011299A JP 2021118466 A JP2021118466 A JP 2021118466A
Authority
JP
Japan
Prior art keywords
imaging
image
image pickup
main subject
movement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020011299A
Other languages
English (en)
Other versions
JP7532040B2 (ja
JP2021118466A5 (ja
Inventor
剛 内藤
Takeshi Naito
剛 内藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020011299A priority Critical patent/JP7532040B2/ja
Priority to US17/158,764 priority patent/US11330179B2/en
Publication of JP2021118466A publication Critical patent/JP2021118466A/ja
Publication of JP2021118466A5 publication Critical patent/JP2021118466A5/ja
Application granted granted Critical
Publication of JP7532040B2 publication Critical patent/JP7532040B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/663Remote control of cameras or camera parts, e.g. by remote control devices for controlling interchangeable camera parts based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/48Increasing resolution by shifting the sensor relative to the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/583Control of the dynamic range involving two or more exposures acquired simultaneously with different integration times

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Adjustment Of Camera Lenses (AREA)

Abstract

【課題】 複数回の撮像で得られた画像を合成するときに、画角変動を抑制しながら被写体の動きによる合成画像の画質劣化を抑制できる撮像装置を提供する。【解決手段】 撮像装置は、撮像光学系を通過した光束による像を撮像する撮像素子と、撮像光学系の一部または撮像素子を移動させるぶれ補正部と、主被写体の動きを検出する移動検出部と、合成対象となる複数の画像を得るために異なる撮像条件で主被写体を複数回撮像する制御を行う撮像制御部と、を備える。撮像制御部は、複数回の撮像において、移動検出部が検出した主被写体の動きを抑制するようにぶれ補正部を駆動させる。【選択図】図1

Description

本発明は、撮像装置およびその制御方法に関する。
従来から、複数枚の画像から1枚の画像を合成して作成する技術が種々提案されている。例えば、露光期間の異なる複数の画像を合成し、画像のダイナミックレンジを拡大するハイダイナミックレンジ撮像(以下、HDR撮像と呼ぶ)が知られている。また、例えば、複数枚の画像を取得する際に、撮像素子を微小に平行移動させて撮像することで、高解像度の画像を合成するハイレゾナンス撮像(以下、ハイレゾ撮像と呼ぶ)も知られている。
HDR撮像やハイレゾ撮像では複数回の撮像を行うので、HDR撮像やハイレゾ撮像で全ての撮像が終了するまでの所要時間は通常の撮像と比べて一般的に長くなる。そのため、複数枚の画像を取得している際に被写体が動いてしまい、合成画像において被写体の解像度が低下してしまう事象が生じ得る。
これに対し、例えば特許文献1では、HDR撮像において複数枚の画像間の動きを検出し、検出された動き量にあわせて合成時に各画素の合成比率を変更する技術を開示する。
特開2018−64201号公報
しかしながら、特許文献1のように動き量に応じて合成比率を変化させると、画像内の動きの大きな箇所ほど短秒露光で得られた画像を用いるように合成される。そのため、動いている被写体を適正露光で撮像したい状況に場合など、ユーザの意図に反する合成画像が作成されてしまう可能性がある。また、同様の被写体の動きを検出する技術を用いて、被写体の動きに合わせて複数枚の撮像画像の位置合わせ合成を行う場合、取得した画像に比べて合成時に得られる画像の画角が狭くなってしまう。
本発明は、上記の状況に鑑みてなされたものであって、複数回の撮像で得られた画像を合成するときに、画角変動を抑制しながら被写体の動きによる合成画像の画質劣化を抑制できる撮像装置を提供する。
本発明の一例である撮像装置は、撮像光学系を通過した光束による像を撮像する撮像素子と、撮像光学系の一部または撮像素子を移動させるぶれ補正部と、主被写体の動きを検出する移動検出部と、合成対象となる複数の画像を得るために異なる撮像条件で主被写体を複数回撮像する制御を行う撮像制御部と、を備える。撮像制御部は、複数回の撮像において、移動検出部が検出した主被写体の動きを抑制するようにぶれ補正部を駆動させる。
本発明の一例である撮像装置によれば、複数回の撮像で得られた画像を合成するときに、画角変動を抑制しながら被写体の動きによる合成画像の画質劣化を抑制できる。
(A)は第1実施形態における撮像装置の光学系の構成例を示す図であり、(B)は第1実施形態における撮像装置の電気的構成を示すブロック図である。 (A)、(B)は表示部に提示される画像の例を示す図であり、(C)は第1実施形態の合成画像の例を示す図である。 主被写体移動検出部の動作例を示す図である。 第1実施形態における撮像装置の動作例を示す流れ図である。 第2実施形態における撮像装置の動作例を示す流れ図である。
以下、本発明の実施形態を図面などに基づいて詳細に説明する。各図において、同一の要素については同一の参照番号を付し、重複する説明はいずれも省略する。
<第1実施形態>
以下、図1〜図4を参照して、第1実施形態における撮像装置を説明する。
図1(A)は、第1実施形態における撮像装置の光学系の構成例を示す図であり、図1(B)は、第1実施形態における撮像装置の電気的構成を示すブロック図である。
第1実施形態の撮像装置はレンズ交換式の電子カメラであって、カメラ本体1と、カメラ本体1に着脱可能なレンズ鏡筒2とを備える。第1実施形態ではレンズ交換式カメラの構成例について説明するが、本発明の撮像装置はレンズ交換を前提としない構成であってもよい。
まず、レンズ鏡筒2の構成について説明する。
レンズ鏡筒2は、撮像光学系3と、レンズシステム制御部12と、レンズ側ぶれ補正部13と、レンズ側ぶれ検出部16とを備える。
撮像光学系3は、ズーム、フォーカシング等の動作を行う複数のレンズを含み、後述する撮像素子6の撮像面に被写体からの光束による光学像を結像させる。撮像光学系3は、ぶれ補正を行うぶれ補正レンズ3aを有している。なお、図1において、撮像光学系3の光軸を符号4で示す。
レンズシステム制御部12は、レンズ鏡筒2側の制御を担うプロセッサである。カメラ本体1にレンズ鏡筒2が装着された状態では、レンズシステム制御部12は、電気接点11を介してカメラ本体1と通信を行う。これにより、カメラ本体1とレンズ鏡筒2が連携して撮像装置の撮像時の制御が行われる。
レンズ側ぶれ補正部13は、光軸4に直交する面内でぶれ補正レンズ3aを駆動させる。レンズ側ぶれ補正部13は、例えばボイスコイルモータ(VCM)や、リードスクリュを組み合わせたステッピングモータ等のリニアアクチュエータなどで構成される。かかるレンズ側ぶれ補正部13の移動により、撮像素子6の撮像面に生じる像ぶれを補正することができる。
レンズ側ぶれ検出部16は、レンズ鏡筒2の内部に配置されたジャイロセンサであり、撮像装置のぶれ量として各方向のぶれの角速度を検出する。
続いて、カメラ本体1の構成について説明する。
カメラ本体1は、カメラシステム制御部5と、撮像素子6と、画像処理部7と、メモリ部8と、表示部9と、操作検出部10と、カメラ側ぶれ補正部14と、カメラ側ぶれ検出部15とを備える。
カメラシステム制御部5は、撮像制御部の一例であって、カメラ本体1側の制御を担うプロセッサである。カメラシステム制御部5は、撮像の際のタイミング信号を生成して撮像装置の各部に出力する。例えば、カメラシステム制御部5は、操作検出部10による不図示のレリーズ釦の押下の検出に応じて、撮像素子6および画像処理部7の動作などを制御して撮像処理を実行する。また、カメラシステム制御部5は、表示部9において情報表示を行う各セグメントの表示状態を制御する。
また、カメラシステム制御部5は、画像処理部7の画像信号に基づいて、画像内に含まれる主被写体の動きを検出する主被写体移動検出部5aを有している。主被写体移動検出部5aは、移動検出部の一例である。
撮像素子6は、撮像光学系3を通過した光束による被写体の像を撮像して画像信号を出力する。撮像素子6は、例えば、XYアドレス方式のCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等で構成される。撮像素子6から出力された画像信号は、画像処理部7で画像処理され、その後にメモリ部8に記録される。
画像処理部7は、内部にA/D変換器、ホワイトバランス調整回路、ガンマ補正回路、補間演算回路等を有し、撮像素子6から出力された画像信号に各種の信号処理を施す。また、画像処理部7は、予め定められた方法を用いて画像、音声などの圧縮を行う。
さらに、画像処理部7は、カメラシステム制御部5にも画像信号を出力する。これにより、カメラシステム制御部5は、撮像素子6からの画像信号に基づきピント評価量や露光量の情報を得ることができる。また、カメラシステム制御部5は、ユーザに提示するための画像を表示部9に出力することができる。
なお、画像処理部7は、撮像素子6から得られた複数の画像間の比較に基づいてぶれ検出信号を生成することもできる。そのため、撮像素子6と画像処理部7でカメラ側ぶれ検出部15の機能を担うようにしてもよい。
メモリ部8は、記録媒体(不図示)に対して各種のデータの記録または読み出しを行う。メモリ部8は、例えば、画像の記録が指示されたときに、画像処理部7から供給された動画像データや静止画像データを記録媒体に記録する。なお、上記の記録媒体は、例えば、半導体メモリ等の記録媒体や、ハードディスク等で構成される。記録媒体は、カメラ本体1に着脱可能に取り付けられてもよく、カメラ本体1に内蔵されていてもよい。
表示部9は、画像表示が可能な表示素子を含み、いわゆるライブビュー画像、設定メニュー画像、記録済みの画像などを表示してユーザに提示する機能を担う。例えば、表示部9は、図1(A)に示すように、カメラ本体1の背面に設けられた背面表示装置9aと、カメラ本体1のファインダ内に設けられたEVF(電子ビューファインダー)9bを有する。なお、背面表示装置9aはタッチパネルを備えていてもよく、この場合には背面表示装置9aは操作部としても機能する。
操作検出部10は、例えば、不図示のレリーズ釦などを含む操作部からの信号を受け、ユーザの各種操作を検出する。
カメラ側ぶれ補正部14は、ぶれ補正部の一例であって、撮像素子6を光軸4と直交する面内で移動させる。かかる撮像素子6の移動により、撮像装置のぶれで撮像素子6の撮像面に生じる像ぶれを補正することができる。
カメラ側ぶれ検出部15は、カメラ本体1の内部に配置されたジャイロセンサであり、レンズ側ぶれ検出部16と同様に撮像装置のぶれ量として各方向のぶれの角速度を検出する。
ここで、撮像装置における撮像光学系3の調整動作は、以下のようにして行われる。
カメラシステム制御部5およびレンズシステム制御部12は、カメラ本体1およびレンズ鏡筒2に設けられた各種の操作部(不図示)の操作に応じて、撮像装置の各部の動作を制御する。これにより、静止画や動画の撮像を行うことができる。
撮像装置の撮像動作時には、撮像素子6により所定のフレームレートで被写界の画像が遂次取得される。カメラシステム制御部5は、撮像素子6および画像処理部7から画像信号を受ける。
カメラシステム制御部5は、例えば、上記の画像信号を用いてコントラスト検出方式のオートフォーカス演算を行うことで、ピント評価量を得る。そして、カメラシステム制御部5は、上記のピント評価量を用いて撮像面近傍で被写体像が結像するように、レンズシステム制御部12を介して撮像光学系3の焦点位置を調整する。
また、カメラシステム制御部5は、例えば、上記の画像信号を用いて露出演算を行う。そして、カメラシステム制御部5は、露光演算の結果に基づき、レンズシステム制御部12を介して撮像光学系3に含まれる絞りを制御する。なお、カメラシステム制御部5は、露光演算の結果に基づき、シャッタースピードやISO感度などを調整してもよい。
さらに、ぶれ補正を行う撮像モードでのカメラシステム制御部5は、カメラ側ぶれ検出部15の信号に基づいてカメラ側ぶれ補正部14を制御する。同様に、カメラシステム制御部5は、レンズ側ぶれ検出部16の信号に基づいて、レンズ側ぶれ補正部13を制御する。
具体的には、カメラシステム制御部5は、カメラ側ぶれ検出部15によって検出されたぶれの角速度から手ぶれ信号を生成する。同様に、レンズシステム制御部12は、レンズ側ぶれ検出部16によって検出されたぶれの角速度から手ぶれ信号を生成する。
カメラシステム制御部5およびレンズシステム制御部12は、上記の手ぶれ信号を用いて、手ぶれを補正するための撮像素子6およびぶれ補正レンズ3aの駆動量をそれぞれ算出する。その後、算出された各駆動量は、カメラ側ぶれ補正部14およびレンズ側ぶれ補正部13へ指令値としてそれぞれ送出される。これにより、カメラ側ぶれ補正部14の駆動によって撮像素子6が移動され、レンズ側ぶれ補正部13の駆動によってぶれ補正レンズ3aが移動される。
また、実施形態では、主被写体の動きを抑制するようにカメラ側ぶれ補正部14を用いて撮像素子6を動かすことで、合成時の画角変動を抑制しながら被写体の動きによる合成画像の画質劣化を防ぐ場合について説明する。しかし、本発明はその限りではなく、レンズ側ぶれ補正部13を用いてぶれ補正レンズ3aを駆動させてもよい。この場合には、レンズシステム制御部12が撮像制御部の一部として機能し、レンズ側ぶれ補正部13もぶれ補正部として機能しうる。
次に、HDR撮像について説明する。本実施形態でHDR撮像を行う際、まずカメラシステム制御部5は、撮像準備のときに撮像素子6から得られる露光量の情報に基づき、適切な露光条件(シャッタースピード、絞り値、ISO感度等)を決定する。そして、カメラシステム制御部5は、ダイナミックレンジを拡大するためにシャッタースピードを変えて複数回撮像し、オーバー露出、適正露出、アンダー露出の各画像を得る。
このとき、カメラシステム制御部5は、主被写体移動検出部5aにより主被写体の移動を検出し、各々の撮像において画角内の被写体位置が一定になるように、カメラ側ぶれ補正部14を用いて撮像素子6を移動させる。上記の撮像で得られた3枚の画像を用いてカメラシステム制御部5がHDR合成処理を行うことで、ダイナミックレンジを拡大した画像が生成される。
次に、ハイレゾ撮像について説明する。本実施形態でハイレゾ撮像を行う際、まずカメラシステム制御部5は、撮像準備のときに撮像素子6から得られる露光量の情報に基づき、適切な露光条件(シャッタースピード、絞り値、ISO感度等)を決定する。そして、カメラシステム制御部5は、合成前よりも解像度を向上させるためにカメラ側ぶれ補正部14を用いて、撮像素子6の位置を微小に移動させながら、同一の撮像条件で複数回撮像する。
このとき、カメラシステム制御部5は、主被写体移動検出部5aにより主被写体の移動を検出し、各々の撮像において画角内の被写体位置が一定になるような撮像素子6の移動量を算出する。カメラシステム制御部5は、上記の算出された撮像素子6の移動量を、ハイレゾ撮像での撮像素子6の微小移動分を加えて補正する。そして、カメラシステム制御部5は、カメラ側ぶれ補正部14を用いて補正後の移動量で撮像素子6を移動させる。上記の撮像で得られた複数枚の画像を用いてカメラシステム制御部5が合成処理を行うことで、被写体の解像度を向上させた画像が生成される。
次に図2を用いて、第1実施形態の撮像動作について説明する。
図2(A)は、複数枚の撮像を開始した時刻での被写体像を示す。図2(B)は、複数枚の撮像中において任意の時刻の被写体像を示す。また、図2(C)は、被写体の位置が一定となるように撮像素子の位置を制御して複数枚の撮像を行い、その結果を合成した画像の例を示す。
図2(A)、(B)は、それぞれEVF9bで提示される画像21を示す。画像21は、主被写体(本実施形態では人物)22と、背景(本実施形態では建物)23を含む。図2(A)、(B)の画像21には、撮像時にピント合わせを行うフォーカスポイント24が重畳して表示されている。フォーカスポイント24の位置はユーザが任意に変更可能であり、図2(A)、(B)は、フォーカスポイント24として主被写体22の顔が選択されている状態を示している。
本実施形態では、フォーカスポイント24近辺における被写体を主被写体22として、主被写体22の動きを検出する場合について説明する。しかし、視線検出機能を有する撮像装置の場合、フォーカスポイント24の代わりにユーザの見ている点(注視点)に基づいて主被写体22を設定し、その被写体の動きを検出してもよい。
図2の例では、一例として、HDR撮像の場合の撮像動作について説明する。HDR撮像を行うモードをユーザが選択して撮像装置による撮像が開始されると、例えば、図2(A)と同様の構図の画像が取得される。次の撮像が行われるまでに主被写体22が動いてしまうと、図2(B)に示すように、主被写体22がぶれた画像が取得される。
しかし、本実施形態では、カメラシステム制御部5が、主被写体移動検出部5aが検出した主被写体22の動きに合わせて、カメラ側ぶれ補正部14により撮像素子6を移動させた後に撮像を行う。このときの主被写体移動検出部5aの動作に関しては図3を用いて後述する。主被写体22の位置が一定になるように、合成に用いる複数枚の撮像が行われた後、それらの画像の合成を行うと、図2(C)のように主被写体22の位置があった状態で合成された画像が得られる。
ここで、複数枚の撮像を行う際に、カメラ側ぶれ補正部14により撮像素子6を移動させずに、撮像後に主被写体22の位置が一定となるように位置合わせ合成を行う場合を考える。この場合には、主被写体22の位置を合わせる代わりに、画像の周辺部において、画像を重ね合わせることができない箇所が発生する。さらに合成時に画像が適切に重ねあわされた部分のみ切り出して合成画像を作成する場合、撮像時との画角が変化するという事象が生じる。
これに対して、本実施形態のように、各々の撮像の際に主被写体22の位置が一定になるように撮像を行い合成するので、画角変動を抑制しながら被写体の動きによる合成画像の画質劣化を防ぐことが可能となる。
なお、本実施形態において、背景23の建物は微小にずれた状態で合成される可能性がある。しかし、主被写体と比較して建物が被写界深度外にある場合など、微小にずれた状態で合成されても大きな問題とならない場合も考えられる。
また、HDR撮像の場合、カメラシステム制御部5は、複数枚の撮像を行う際の撮像条件に応じて主被写体の動きによって撮像素子6を移動させるか否かを変更してもよい。例えば、カメラシステム制御部5は、背景23の領域の輝度を参照し、背景23の領域の露出が適正な撮像条件で撮像を行う際には、主被写体22の動きに合わせて撮像素子6を移動させないようにしてもよい。
さらに、カメラシステム制御部5は、主被写体移動検出部5aで検出された主被写体の動き量を参照し、カメラ側ぶれ補正部14により撮像素子6を移動させるか否かを判断してもよい。例えば、カメラシステム制御部5は、検出された主被写体の動き量が所定の閾値よりも大きいときに、撮像素子6を移動させるようにしてもよい。
本実施形態では、合成に用いる複数枚の撮像を行うときに、各々の撮像の間に表示部9に表示させる画像を取得し、この表示用の画像を用いて、主被写体移動検出部5aが主被写体の移動を検出するものとする。しかし、本発明の構成は上記に限定されるものではなく、主被写体移動検出部5aが撮像素子6以外から主被写体の動きを検出する画像を取得するようにしてもよい。
次に、図3を用いて、主被写体移動検出部5aの動作を説明する。
図3(A)、(B)は、それぞれEVF9bで提示される画像31をそれぞれ示す。図3(B)の画像は、図3(A)よりも後に取得される画像である。各々の画像31は、主被写体(本実施形態では人物)32を含む。
図3(A)、(B)の画像31においては、時刻変化により主被写体32に微小な動きが生じている。図3(B)ではその差をわかりやすくするため、主被写体32の動く前後の状態(32a、32b)を重ねて表すが、図3(B)の時刻においてEVF9aで実際に提示されている画像は主被写体32bのみを含む。また、図3(B)では、主被写体32の移動方向および移動量を示す動きベクトル33も示している。
また、図3では、図2で説明したフォーカスポイント24の図示は省略しているが、図3においても主被写体32の顔にフォーカスポイントが設定されているものとする。つまり、図3においてもユーザの選択した主被写体は人物の顔である。
主被写体移動検出部5aは、主被写体32aおよび主被写体32bの撮像された画像31に基づいて、図3(B)に示すように、主被写体32の動きベクトル33を算出する。例えば、主被写体移動検出部5aは、所謂テンプレートマッチングのように2つの画像から類似する特徴的な箇所を検出し、2画像間の動きを検出することで動きベクトル33を算出する。主被写体移動検出部5aによって算出された動きベクトル33の方向と移動量に従って撮像素子6を移動させることで、撮像画像における主被写体32の位置を一定に保ちながら、複数枚の撮像を行うことが可能となる。
なお、主被写体移動検出部5aによる動きの検出は上記の例に限定されず、異なる時間に取得された画像間から主被写体の移動が検出できるものであれば、他の手法を用いてもよい。
図4は、第1実施形態における撮像装置の動作例を示す流れ図である。
図4の処理は、例えば、HDR撮像もしくはハイレゾ撮像のための撮像準備指示(所謂レリーズ釦半押し、S1操作)に応じて開始される。
ステップS4001にて、カメラシステム制御部5は、ユーザによる撮像開始指示(所謂レリーズ釦押下、S2操作)を受け付けたか否かを判断する。撮像開始指示を受け付けた場合、処理はステップS4002に移行する。一方、撮像開始指示を受け付けていない場合、カメラシステム制御部5は、ユーザによる撮像開始指示を待機する。
ステップS4002にて、カメラシステム制御部5は、撮像準備状態のときに取得した露光量の情報に基づいて、HDR撮像もしくはハイレゾ撮像における複数回の全撮像条件を決定する。なお、HDR撮像もしくはハイレゾ撮像の合成に用いられる撮像画像を第1の画像とも称する。そして、カメラシステム制御部5は、撮像装置を1枚目の撮像条件に設定する。ここで、上記の撮像条件は、例えば、露光時間(シャッタースピード)、ISO感度、絞り値、ハイレゾ撮像時での撮像素子6の位置の各設定を含む。その後、処理はステップS4003に移行する。
ステップS4003にて、カメラシステム制御部5は1枚目の撮像を開始する。このとき、カメラシステム制御部5は、フォーカスポイントの位置等に基づいて1枚目の撮像時点での主被写体の位置を検出する。この主被写体の位置の検出は、主被写体移動検出部5aが主被写体の移動量を求めるときの情報として用いられる。なお、S4003での主被写体の位置の検出は、第1の画像を用いて行われるものでもよく、第1の画像の撮像前に取得されたライブビュー画像に基づくものであってもよい。
その後、処理はステップS4004に移行する。
なお、ステップS4003から開始される複数枚の撮像では、カメラ側ぶれ補正部14による通常の手ぶれ補正が実行されてもよい。例えば、HDR撮像もしくはハイレゾ撮像におけるシャッタースピードが比較的遅い場合には、手ぶれ補正を行うことが好ましい。
ステップS4004にて、カメラシステム制御部5は、1枚目の撮像が終了したか否かを判断する。撮像が終了している場合、処理はステップS4005に移行する。一方、撮像が終了していない場合、カメラシステム制御部5は撮像の終了を待機する。
ステップS4005にて、カメラシステム制御部5は、表示部9に提示するための画像(ライブビュー画像)を撮像する。このライブビュー画像は、第2の画像の一例である。このとき、カメラシステム制御部5は、フォーカスポイントの位置等に基づいて主被写体の位置を検出する。そして、主被写体移動検出部5aは、前回の主被写体の位置と、上記のライブビュー画像を用いて得た現在の主被写体の位置とから、主被写体の動きベクトル(主被写体の移動方向および移動量)を算出する。その後、処理はステップS4006に移行する。
ステップS4006にて、カメラシステム制御部5は、算出した主被写体の移動量(S4005)から、画像合成時の主被写体のぶれ抑制のためにカメラ側ぶれ補正部14を駆動させるか否かを判断する。例えば、カメラシステム制御部5は、主被写体の移動量が所定量(例えば、合成後に主被写体のぶれが目立つ程度の移動量)よりも大きい場合、カメラ側ぶれ補正部14を駆動させると判断する。主被写体のぶれ抑制のためにカメラ側ぶれ補正部14を駆動させる場合、処理はステップS4007に移行する。一方、主被写体のぶれ抑制のためにカメラ側ぶれ補正部14を駆動させない場合、処理はステップS4008に移行する。
ステップS4007にて、カメラシステム制御部5は、算出した主被写体の動きベクトル(S4005)に基づいて、主被写体の動きが抑制されるようにカメラ側ぶれ補正部14を駆動させる。その後、処理はステップS4008に移行する。
ステップS4008にて、カメラシステム制御部5は、撮像装置を次回の撮像条件に設定する。例えば、例えばHDR撮像の場合、カメラシステム制御部5は、シャッタースピードを前回の撮像のシャッタースピードと異なる値に設定する。また、ハイレゾ撮像の場合、カメラシステム制御部5は、撮像素子6の位置を前回の撮像時とは微小に異なる位置に移動させる。その後、処理はステップS4009に移行する。
ステップS4009にて、カメラシステム制御部5はステップS4008で設定された撮像条件で撮像を行う。その後、処理はステップS4010に移行する。
ステップS4010にて、カメラシステム制御部5は、所定の撮像枚数分の撮像が完了したか否かを判断する。撮像が完了している場合、処理はステップS4011に移行する。
一方、撮像が完了していない場合、処理はステップS4005に戻る。この場合には、再度主被写体の検出(S4005)が行われ、必要に応じてカメラ側ぶれ補正部14の駆動が行われる(S4006、S4007)。そして、撮像装置が次回の撮像条件に設定(S4008)された後に撮像(S4009)が行われる。
ステップS4011にて、カメラシステム制御部5は、取得した各撮像画像を用いて、HDR合成処理もしくはハイレゾ合成処理を実行する。本実施形態では、複数回の撮像の間に主被写体が動く場合であっても、カメラ側ぶれ補正部14の駆動により、各画像内での主被写体の位置は画角内においておおよそ一定になる。そのため、上記の合成処理を行った場合において、重ね合わせることができずに失われる画角が少なくなる。
その後、処理はステップS4012に移行する。
ステップS4012にて、カメラシステム制御部5は、ユーザの設定等に基づいて、撮像素子6の位置を中央に戻すセンタリング動作を行うか否かを判断する。センタリング動作を行う場合には処理はステップS4013に移行し、センタリング動作を行わない場合には処理はステップS4014に移行する。
ステップS4013にて、カメラシステム制御部5はセンタリング動作を行い、カメラ側ぶれ補正部14を駆動させて撮像素子6の位置を中央に戻す。その後、処理はステップS4012に移行する。
一般には、ステップS4013でセンタリング動作を行い、次の撮像時にカメラ側ぶれ補正部14の駆動範囲を広い状態にしておくほうが好ましい。しかし、センタリング動作は画角の変動を伴う。例えば、HDR撮像もしくはハイレゾ撮像の連写を行う状況では、センタリング動作の前後で合成後の被写体の位置ずれが生じる可能性があるためセンタリング動作を実施しないほうが好ましい。このように、センタリング動作に関しては、ユーザの意図や撮像の状況などに応じてニーズが異なるので、上記のステップS4012においてカメラシステム制御部5が要否判断を行っている。
ステップS4014にて、カメラシステム制御部5は、ユーザの入力等に基づいて、撮像装置の動作を終了するか否かを判断する。動作を終了する場合には図4の処理は終了し、動作を終了しない場合にはステップS4001に戻って上記の処理が繰り返される。
以上のように、第1実施形態の撮像装置では、HDR撮像もしくはハイレゾ撮像の際に、主被写体移動検出部5aによって算出された主被写体の動きを抑制するように、カメラ側ぶれ補正部14が撮像素子6を移動させる。これにより、合成前の各画像における主被写体の位置が一定に保たれるので、HDR撮像もしくはハイレゾ撮像のときに画角の変動が抑制され、しかも被写体の動きによって合成画像に含まれる主被写体の画質劣化も抑制できる。
<第2実施形態>
第2実施形態の撮像装置は、後述の撮像素子6を除いて第1実施形態と同様の構成である。そのため、第2実施形態において、第1実施形態と同様の要素についての重複説明はいずれも省略する。
第2実施形態の撮像素子6は、HDR撮像もしくはハイレゾ撮像のための第1の画像と、主被写体の位置の検出のための第2の画像とを、同一の撮像面でそれぞれ独立して取得可能な構成である。例えば、第2実施形態の撮像素子6は、第1の画像を取得する第1画素群とは別に、第2の画像を取得する第2画素群を備え、第1画素群と第2画素群とをそれぞれ独立して読み出し可能に構成されている。
上記の構成によれば、HDR撮像もしくはハイレゾ撮像のための第1の画像の撮像と並行して第2の画像としてライブビュー画像を取得でき、第2の画像を用いて主被写体の動きを検出することができる。
図5は、第2実施形態における撮像装置の動作例を示す流れ図である。
図5の処理も、図4の処理と同様に、例えば、HDR撮像もしくはハイレゾ撮像のための撮像準備指示(所謂レリーズ釦半押し、S1操作)に応じて開始される。なお、図5の説明では、図4と同様の処理については同じステップ番号を付して重複説明を省略する。
図5の処理においては、ステップS4001、S4002の後にステップS5001の処理が行われる。
ステップS5001にて、カメラシステム制御部5は1枚目の撮像を開始する。このとき、主被写体移動検出部5aは、主被写体の移動を検出する処理を開始する。第2実施形態では、HDR撮像もしくはハイレゾ撮像のための第1の画像の撮像と並行して、第2の画像としてライブビュー画像を取得できる。そのため、カメラシステム制御部5は、HDR撮像もしくはハイレゾ撮像のための撮像中にも、主被写体の位置を画角内で一定に保つようにカメラ側ぶれ補正部14を駆動させることができる。なお、主被写体の移動を検出する処理は、所定の撮像枚数分の撮像が完了するまで(S4010のYES)実行される。
ステップS5001の処理の後、処理はステップS4004に移行する。ステップS5001以降、主被写体の位置は常に取得可能となるので、図5においてはステップS4005の処理は実行されない。そのため、図5のステップS4004において1枚目の撮像が終了している場合、処理はステップS4006に移行する。以降のステップS4006〜S4014の処理は、図4と同様である。
以上の第2実施形態においても、第1実施形態と同様の効果を得ることができる。特に、第2実施形態では、HDR撮像もしくはハイレゾ撮像のための撮像中にも、主被写体の位置を画角内で一定に保つようにカメラ側ぶれ補正部14を駆動できるので、より主被写体の動きを抑制した合成画像を生成しやすくなる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上、本発明の好ましい実施形態について説明したが、本発明は、これらの実施形態に限定されず、その要旨の範囲内で種々の変形および変更が可能である。
例えば、上記実施形態の主被写体移動検出部5aは、HDR撮像もしくはハイレゾ撮像の合成に用いる第1の画像を用いて主被写体の動きを検出し、以降に行われる第1の画像の撮像でカメラ側ぶれ補正部14を駆動させてもよい。また、上記実施形態では、カメラで画像合成を行う例を説明したが、カメラで複数回の撮影を行い得られた複数の画像を外部機器へ出力し、カメラから出力された複数の画像を外部機器で画像合成するシステムであってもよい。
1…カメラ本体、2…レンズ鏡筒、3…撮像光学系、3a…ぶれ補正レンズ、5…カメラシステム制御部、5a…主被写体移動検出部、6…撮像素子、13…レンズ側ぶれ補正部、14…カメラ側ぶれ補正部

Claims (9)

  1. 撮像光学系を通過した光束による像を撮像する撮像素子と、
    前記撮像光学系の一部または前記撮像素子を移動させるぶれ補正部と、
    主被写体の動きを検出する移動検出部と、
    合成対象となる複数の画像を得るために異なる撮像条件で前記主被写体を複数回撮像する制御を行う撮像制御部と、を備え、
    前記撮像制御部は、前記複数回の撮像において、前記移動検出部が検出した前記主被写体の動きを抑制するように前記ぶれ補正部を駆動させる
    ことを特徴とする撮像装置。
  2. 前記撮像制御部は、合成前よりもダイナミックレンジが拡大された合成画像が得られるように前記複数回の撮像でそれぞれ露出の異なる画像を取得することを特徴とする
    請求項1に記載の撮像装置。
  3. 前記撮像制御部は、前記主被写体を除いた背景の領域の露出に基づいて、前記複数回の撮像における前記ぶれ補正部の駆動を変更することを特徴とする
    請求項2に記載の撮像装置。
  4. 前記撮像制御部は、合成前よりも解像度の高い合成画像が得られるように前記複数回の撮像でそれぞれ前記撮像素子を微小移動させることを特徴とする
    請求項1に記載の撮像装置。
  5. 前記撮像制御部は、前記複数回の撮像のときに、撮像ごとの前記撮像素子の微小移動分を補正して前記ぶれ補正部による前記撮像素子の移動量を算出することを特徴とする
    請求項4に記載の撮像装置。
  6. 前記主被写体は、フォーカスポイントまたはユーザの注視点に基づき設定されることを特徴とする請求項1から請求項5のいずれか一項に記載の撮像装置。
  7. 前記撮像制御部は、前記複数回の撮像において前記主被写体の動きが所定量よりも大きいときに、前記主被写体の動きを抑制するように前記ぶれ補正部を駆動させることを特徴とする請求項1から請求項6のいずれか一項に記載の撮像装置。
  8. 前記移動検出部は、前記複数回の撮像で前記撮像素子から得られる第1の画像、または前記第1の画像とは別に前記撮像素子から得られる第2の画像を用いて前記主被写体の動きを検出することを特徴とする請求項1から請求項7のいずれか一項に記載の撮像装置。
  9. 撮像光学系を通過した光束による像を撮像する撮像素子と、前記撮像光学系の一部または前記撮像素子を移動させるぶれ補正部と、を備える撮像装置の制御方法であって、
    主被写体の動きを検出する移動検出工程と、
    合成対象となる複数の画像を得るために異なる撮像条件で前記主被写体を複数回撮像する制御を行う撮像制御工程と、を有し、
    前記撮像制御工程では、前記複数回の撮像において、前記移動検出工程で検出された前記主被写体の動きを抑制するように前記ぶれ補正部を駆動させる
    ことを特徴とする撮像装置の制御方法。

JP2020011299A 2020-01-28 2020-01-28 撮像装置およびその制御方法 Active JP7532040B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020011299A JP7532040B2 (ja) 2020-01-28 2020-01-28 撮像装置およびその制御方法
US17/158,764 US11330179B2 (en) 2020-01-28 2021-01-26 Imaging device and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020011299A JP7532040B2 (ja) 2020-01-28 2020-01-28 撮像装置およびその制御方法

Publications (3)

Publication Number Publication Date
JP2021118466A true JP2021118466A (ja) 2021-08-10
JP2021118466A5 JP2021118466A5 (ja) 2023-02-03
JP7532040B2 JP7532040B2 (ja) 2024-08-13

Family

ID=76970594

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020011299A Active JP7532040B2 (ja) 2020-01-28 2020-01-28 撮像装置およびその制御方法

Country Status (2)

Country Link
US (1) US11330179B2 (ja)
JP (1) JP7532040B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022155134A (ja) * 2021-03-30 2022-10-13 キヤノン株式会社 撮像装置

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3788714B2 (ja) 2000-02-14 2006-06-21 株式会社リコー 撮像装置及びデジタルカメラ
JP5407547B2 (ja) 2009-05-20 2014-02-05 リコーイメージング株式会社 撮像装置
US20130258089A1 (en) * 2011-11-03 2013-10-03 Intel Corporation Eye Gaze Based Image Capture
JP5713885B2 (ja) 2011-12-26 2015-05-07 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム、並びに記憶媒体
JP2014138259A (ja) 2013-01-16 2014-07-28 Olympus Imaging Corp 撮影機器
JP6351321B2 (ja) * 2013-05-28 2018-07-04 キヤノン株式会社 光学機器、その制御方法、および制御プログラム
US9363438B2 (en) * 2013-07-23 2016-06-07 Michael BEN ISRAEL Digital image processing
JP6336341B2 (ja) * 2014-06-24 2018-06-06 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP6395506B2 (ja) * 2014-08-22 2018-09-26 キヤノン株式会社 画像処理装置および方法、プログラム、並びに撮像装置
JP5914716B1 (ja) 2015-02-19 2016-05-11 オリンパス株式会社 撮像装置
JP6495126B2 (ja) * 2015-07-13 2019-04-03 オリンパス株式会社 撮像装置、画像処理方法
JP2017046301A (ja) * 2015-08-28 2017-03-02 オリンパス株式会社 撮像装置
JP6529879B2 (ja) * 2015-09-29 2019-06-12 オリンパス株式会社 撮像装置、及び撮像装置の制御方法
JP6600232B2 (ja) * 2015-11-05 2019-10-30 キヤノン株式会社 像ブレ補正装置及び方法
JP6635816B2 (ja) 2016-02-05 2020-01-29 キヤノン株式会社 撮像装置、撮像装置の制御方法およびプログラム
US10313605B2 (en) * 2016-06-15 2019-06-04 Canon Kabushiki Kaisha Image processing apparatus and control method thereof for generating high dynamic range image data
JP2018006827A (ja) 2016-06-27 2018-01-11 オリンパス株式会社 撮像装置、撮像プログラム、撮像方法
JP6697684B2 (ja) 2016-10-13 2020-05-27 パナソニックIpマネジメント株式会社 画像処理装置、画像処理方法、及び画像処理回路
US11012633B2 (en) * 2018-03-22 2021-05-18 Ricoh Company, Ltd. Image capturing apparatus, image capturing method, and image processing apparatus
JP2019207611A (ja) * 2018-05-30 2019-12-05 オリンパス株式会社 画像処理装置、画像処理プログラム、画像処理方法

Also Published As

Publication number Publication date
JP7532040B2 (ja) 2024-08-13
US20210235017A1 (en) 2021-07-29
US11330179B2 (en) 2022-05-10

Similar Documents

Publication Publication Date Title
JP5019939B2 (ja) 撮像装置及び撮像方法
KR101528860B1 (ko) 디지털 촬영 장치의 흔들림 보정 방법 및 장치
JP4974704B2 (ja) 撮像装置
JP6486656B2 (ja) 撮像装置
EP3836540A1 (en) Image processing apparatus and image capturing apparatus
JP7532040B2 (ja) 撮像装置およびその制御方法
US12022208B2 (en) Imaging apparatus with multiple frame recording and control shooting period
JP6606838B2 (ja) 撮像装置および撮像方法
JP2010233188A (ja) 撮像装置、その制御方法及びプログラム
JP2013192270A (ja) 撮像装置、撮像装置の制御方法及びプログラム
JP2013218031A (ja) 撮像装置
JP2005176050A (ja) 撮像装置
JP2019095630A (ja) 像振れ補正装置を有する光学機器
JP7346076B2 (ja) 制御装置、レンズ装置、撮像装置、制御方法、および、プログラム
JP2019109271A (ja) 撮像装置
JP2023071092A (ja) 制御装置、撮像装置、レンズ装置、制御方法、およびプログラム
JP7110078B2 (ja) 撮像装置、撮像方法
JP2017219697A (ja) 撮像装置及び撮像装置の制御方法
JP4845653B2 (ja) カメラシステム、カメラ本体、交換レンズユニットおよび像ブレ補正方法
JP2006050139A (ja) 光学機器
JP7401278B2 (ja) 撮像装置およびその制御方法
JP5385428B2 (ja) 撮像装置
JP2019109270A (ja) 撮像装置
WO2019203147A1 (ja) 撮像装置
WO2020012960A1 (ja) 撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230125

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230125

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240313

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240702

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240731

R150 Certificate of patent or registration of utility model

Ref document number: 7532040

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150