JP2022083147A - 撮像装置、撮像方法、プログラムおよび記録媒体 - Google Patents
撮像装置、撮像方法、プログラムおよび記録媒体 Download PDFInfo
- Publication number
- JP2022083147A JP2022083147A JP2020194436A JP2020194436A JP2022083147A JP 2022083147 A JP2022083147 A JP 2022083147A JP 2020194436 A JP2020194436 A JP 2020194436A JP 2020194436 A JP2020194436 A JP 2020194436A JP 2022083147 A JP2022083147 A JP 2022083147A
- Authority
- JP
- Japan
- Prior art keywords
- images
- image
- correction
- image pickup
- focus position
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 50
- 238000012937 correction Methods 0.000 claims abstract description 50
- 230000008859 change Effects 0.000 claims abstract description 22
- 239000002131 composite material Substances 0.000 claims description 23
- 230000003287 optical effect Effects 0.000 claims description 17
- 230000015572 biosynthetic process Effects 0.000 claims description 16
- 238000003786 synthesis reaction Methods 0.000 claims description 15
- 238000005096 rolling process Methods 0.000 claims description 5
- 230000002194 synthesizing effect Effects 0.000 claims 2
- 238000004590 computer program Methods 0.000 claims 1
- 239000000284 extract Substances 0.000 claims 1
- 238000012545 processing Methods 0.000 description 25
- 238000000034 method Methods 0.000 description 13
- 239000000203 mixture Substances 0.000 description 13
- 238000006243 chemical reaction Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 238000001308 synthesis method Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/958—Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging
- H04N23/959—Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging by adjusting depth of field during image capture, e.g. maximising or setting range based on scene characteristics
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B7/00—Mountings, adjusting means, or light-tight connections, for optical elements
- G02B7/28—Systems for automatic generation of focusing signals
- G02B7/36—Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
- G02B7/38—Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals measured at different points on the optical axis, e.g. focussing on two or more planes and comparing image data
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/675—Focus control based on electronic image sensor signals comprising setting of focusing regions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/531—Control of the integration time by controlling rolling shutters in CMOS SSIS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/533—Control of the integration time by using differing integration times for different sensor regions
Abstract
Description
本発明は、ピント位置の異なる複数の画像を撮像する撮像装置に関するものである。
デジタルカメラなどからの距離が互いに大きく異なる複数の被写体を撮像する場合や、奥行き方向に長い被写体を撮像する場合に、被写界深度が足りないために被写体の一部にしかピントを合わせられない場合がある。これを解決するため、特許文献1には、ピント位置の異なる複数の画像を撮像し、各画像から合焦領域のみを抽出して1枚の画像に合成し、撮像領域全体に合焦している合成画像を生成する、所謂、深度合成の技術が開示されている。
また、深度合成の処理時間をなるべく低減するために、特許文献2に記載のような、露光中にピント位置を変え続ける技術が開示されている。
しかし、上述したように露光中にピント位置を動かす撮像を行うと、撮像素子の上部と下部を露光したタイミングでの実効絞り値の変化に伴い、画像の面内での輝度ムラが発生する。このように撮像した複数画像を合焦領域のみを抽出して1枚の画像に合成すると、輝度ムラによって合成境界が目立ってしまい、合成画像に粗が出てしまうことがあるという課題がある。
本発明は、上述した課題を鑑みてなされたものであり、深度合成のための撮像において露光中にピント位置を動かす場合、合成画像における粗を低減することを目的とする。
上記課題を解決するため、本願発明は、ピント位置の異なる複数の画像を撮像し、かつ、前記複数の画像のそれぞれの画像を撮像する間でも前記ピント位置を変更し続ける撮像手段と、前記撮像手段が、1枚の前記画像を撮像する間に前記ピント位置の変更に起因する露出差を補正する補正手段と、を有し、前記補正手段が補正した後の前記複数の画像の間の前記露出差が、補正する前によりも低減することを特徴とする撮像装置ことを特徴とする撮像装置を提供する。
本発明の構成によれば、ピントの異なる複数の画像を撮像する撮像時間を短縮しつつ、輝度ムラとノイズ感の違いに伴う合成境界の粗を低減した深度合成画像を得ることができる。
以下、添付図面を参照して本発明の実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る本発明を限定するものでなく、また本実施形態で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。
図1は本実施形態に係る撮像装置としてのデジタルカメラの構造を示すブロック図の一例である。デジタルカメラ100は、静止画を撮像することができ、かつ、合焦位置の情報を記録し、コントラスト値の算出および画像の合成が可能なものである。さらに、デジタルカメラ100は、撮像して保存した画像、または、外部から入力した画像に対して、拡大処理または縮小処理を行うことができる。
制御部101は、例えばCPUやMPUなどのシグナルプロセッサであり、後述するROM105に予め内蔵されたプログラムを読み出しながら、デジタルカメラ100の各部分を制御する。たとえば、後述するように、制御部101が、後述する撮像部104に対して撮像の開始と終了について指令を出す。または、後述する画像処理部107に対して、ROM105に内蔵されたプログラムに基づいて、画像処理の指令を出す。ユーザによる指令は、後述する操作部110によってデジタルカメラ100に入力され、制御部101を通して、デジタルカメラ100の各部分に達する。
駆動部102は、モーターなどによって構成され、制御部101の指令の下で、後述する光学系103を機械的に動作させる。たとえば、制御部101の指令に基づいて、駆動部102が光学系103に含まれるフォーカスレンズの位置を移動させ、光学系103の焦点距離を調整する。
光学系103は、ズームレンズ、フォーカスレンズ、および絞りなどにより構成される。絞りは、透過する光量を調整する機構である。レンズの位置を変えることによって、合焦位置を変えることができる。
撮像部104は、撮像素子であり、入射された光信号を電気信号に変換する光電変換を行うものである。たとえば、撮像部104に、CCDセンサやCMOSセンサなどを適用することができる。撮像部104は、動画撮像モードを設け、時間的に連続する複数の画像を動画の各々のフレームとして、撮像することができる。撮像部104は、光学系103を通した被写体の輝度を測光することができる。撮像部104での測光の代わりに、AEセンサなどを用いてもよい。
ROM105は、記録媒体としての読み出し専用の不揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作プログラムに加え、各ブロックの動作に必要なパラメータ等を記憶している。
RAM106は、書き換え可能な揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作において出力されたデータの一時的な記憶領域として用いられる。
画像処理部107は、撮像部104から出力された画像、あるいは後述する内蔵メモリ109に記録されている画像信号のデータに対して、ホワイトバランス調整、色補間、フィルタリング、合成処理など、様々な画像処理を行う。また、撮像部104が撮像した画像信号のデータに対して、JPEGなどの規格で、圧縮処理を行う。
画像処理部107は、特定の処理を行う回路を集めた集積回路(ASIC)で構成される。あるいは、制御部101がROM105から読み出したプログラムに従って処理することで、制御部101が画像処理部107の機能の一部または全部を兼用するようにしてもよい。制御部101が画像処理部107の全ての機能を兼用する場合には、画像処理部107をハードウェアとして有する必要はなくなる。
表示部108は、RAM106に一時保存されている画像、または、後述する内蔵メモリ109に保存されている画像、あるいは、デジタルカメラ100の設定画面などを表示するための液晶ディスプレイや有機ELディスプレイなどである。
内蔵メモリ109は、撮像部104が撮像した画像や画像処理部107の処理を得た画像、および、画像撮像時の合焦位置の情報などを記録する場所である。内蔵メモリの代わりに、メモリカードなどを用いてもよい。
操作部110は、たとえば、デジタルカメラ100につけるボタンやスイッチ、キー、モードダイアルなど、あるいは、表示部108に兼用されるタッチパネルなどである。ユーザによる指令は、操作部110を経由して、制御部101に達する。
次に、図を用いながら、ローリングシャッターによる露光中にピント位置を動かす撮像を行った場合に面内に輝度ムラが発生する理由について説明する。
デジタルカメラ100がマニュアル露出モードまたは絞り優先露出モードであるとき、ユーザは操作部110を用いてデジタルカメラ100に対し絞り値を設定することができる。また、デジタルカメラ100がオートモードやシャッター速度優先であるときは、デジタルカメラ100が自動的に絞り値を決定する。ユーザがデジタルカメラ100に設定する絞り値は「表示絞り値」または「公称絞り値」などと呼ばれる。
デジタルカメラ100は制御部101を通して駆動部102に対し、光学系103の絞りをユーザが設定した絞りまたはデジタルカメラが自動的に決定した絞り値になるように指示する。しかしながら、光学系103の絞りが表示絞り値になったとしても、実際に光学系103を通して撮像部104が受光する光量は光学系103と撮像部104との位置関係に依存するので、撮像部104は表示絞り値相当の光量を受光することができない場合がある。撮像部104が実際に受光する光量を絞り値で表現したものが「実効絞り値」である。実際の絞り値が「実効絞り値」と呼ばれる。
しかし、一般的にレンズはピント位置を動かすと実効絞り値が変化するという特徴があり、レンズの実際の絞り値はレンズの状態によって表示絞り値とは異なる値になる場合がある。表示絞り値と実効絞り値の差はフォーカスレンズの位置、つまりピント位置に依存する。また、深度合成撮像では大量の画像を撮像するため、ローリングシャッターを用いることが多い。ローリングシャッターによる撮像では、行ごとに画素リセット、画素読み出しを順次実効するため、各行の露光タイミングが少しずつずれていくという特徴がある。各行のなかの画素の露光時間が基本的に同じである。
図2は、本実施形態における表示絞り値、実効絞り値とピント位置との関係を説明するためのグラフである。図2に示したグラフのように、本実施形態における光学系では、ピント位置が最至近にある場合は実効絞り値が表示絞り値より大きく、ピント位置を無限遠に近づくに従い実効絞り値が表示絞り値に近づく関係を持つこととする。ただし、ピント位置による実効絞り値の変化が線形成か非線形か、単調増加か単調減少か、表示絞り値との差の絶対量などはレンズの種類によって異なる。図2に示すような実効絞り値とピント位置との関係が一例に過ぎない。
図3は、本実施形態における露光時間を補正しない場合でのピント位置変化による実効絞り値変化と露光タイミングとの関係を説明するためのグラフである。図4は、本実施形態における露光時間を補正しない場合での複数枚の画像のピント位置変化による実効絞り値変化と露光タイミングとの関係を説明するためのグラフである。撮像部104がローリングシャッターによって露光中に、駆動部102を用いてピント位置を無限遠側へ動かし続ける撮像を行った場合、実効絞り値が小さくなっていく。そのため、図3では、画素配列の1行目よりもN行目(最終行目)の方が明るくなるなり、面内にピント位置の変更に起因する輝度ムラが発生する。また、図4では、深度合成のための複数の画像を撮像する場合、複数の画像のいずれも図3に示したような面内の輝度ムラの発生の様子を示している。輝度ムラが発生した複数画像を合焦領域を抽出して1枚の画像に合成すると、輝度ムラによって合成境界が目立ってしまい、合成画像に粗が出てしまう。
次に、本実施形態における露光時間を補正しない場合での深度合成の処理について説明する。図5は、本実施形態における深度合成の処理について説明するためのフローチャートである。
ステップS501で、ユーザが操作部110を操作し、露出設定やフォーカスブラケット設定など撮像のための各パラメータの設定を行う。制御部101は、ユーザの操作に応じて、シャッター速度から露光時間を算出し、フォーカスブラケット設定に基づいて、光軸方法でのピント位置の移動量を算出する。または、制御部101は、撮像の直前のユーザの操作でなく、デフォルト設定など、あらかじめ定められた設定に基づいて、撮像のための各パラメータの設定を行ってもよい。
ステップS502で、制御部101は、輝度ムラを低減する露光時間補正量を算出する。以下では、図面を用いながら、露光時間補正量の算出方法について説明する。制御部101は、ステップS501で設定されたピント位置の移動量と図2に示すようなピント位置と実効絞り値との関係とから、1枚の画像の撮像において実効絞り値の変化量を算出する。なお、図2に示したようなピント位置と実効絞り値との関係に関する情報は、あらかじめROM105などに記憶されてよい。または、レンズ装着式のカメラの場合、レンズに保存された情報を撮像開始時制御部101が読みだしてもよい。
図6は、本実施形態における行ごとの画素リセットタイミングと実効絞り値との関係を説明するためのグラフである。制御部101は、ステップS501で設定した露光時間とステップS502で算出した1枚目の撮像における光学系103の実効絞り値変化量から、1行目とN行目の実効絞り値の差分量を算出し、実効絞り値の差分量を露光時間に換算する。ここで制御部101が換算で得られた結果が、1枚目の面内における輝度ムラ低減のための露光時間補正量となる。制御部101は、1行目と2行目~N行目(図6では「最終行目」と記載)のそれぞれとの間の露出差を使って、2行目~N行目と1行目との露出の差を低減するための露光時間補正量を算出する。そして、制御部101は、2行目~N行目のそれぞれに対して算出された露光時間補正量を適用し、補正された露光時間で撮像することにより、1枚の画像内の輝度ムラを低減することが期待できる。
ただし、ここでもし実効絞り値の差分量が極めて小さければ、補正による効果が僅少だと考えられる。したがって、ここで制御部101が実効絞り値の差分量とあらかじめ定められた閾値とを比較し、実効絞り値の差分量が閾値以下であれば、露光時間の補正を行わないように実施してもよい。
図7は、本実施形態における露光時間を補正した後の行ごとの画素リセットタイミングと実効絞り値との関係を説明するためのグラフである。図7に示したように、制御部101は、2行目~N行目と1行目との露出の差を低減するために、露光時間を補正することによって、各行の露光時間が同一でなくなる。本実施形態の図7に示したような状況では、1行目からN行目まで、制御部101は、露光時間を順次に減らすが、これに限らない。また、制御部101は、行ごとに露光時間を補正するのに、図7に示したように画素のリセットタイミングを変更してもよく、画素の読み出しタイミングを変更してもよい。さらに、図7では、制御部101は、1行目の露光時間を基準にし、ほかの行を1行目の実効絞り値に合わせるように補正するが、これに限らず、どの行の露光時間を基準にしてもよい。
図8は、本実施形態における露光時間を補正した後の複数の画像の行ごとの画素リセットタイミングと実効絞り値との関係を説明するためのグラフである。図8に示した場合では、制御部101は、すべての画像のすべての行の実効絞り値を、1枚目の1行目と合わせるように、露光時間の補正を行う。このような補正により、合成画像における輝度ムラが低減されると期待できる。
ステップS503で、制御部101は、ユーザから撮像指示があるかどうかを検出する。ユーザから操作部110での操作を通して撮像指示がされれば、ステップS504に進み、ユーザから撮像指示がなければ、ステップS502に戻る。
ステップS504で、制御部101は、ステップS501で決定した撮像条件に基づいて、ピント位置を次のステップS505で撮像されるピント位置まで、駆動部102を駆動させ、フォーカス駆動を行わせる。
ステップS505で、撮像部104が、ステップS502で決定した補正量で補正された露光時間を用いて、ステップS504で設定した光軸方向でのピント位置で、撮像を行う。前述した通り、本実施形態における撮像は、撮像中においてもピント位置を動かす(フォーカス駆動を停止しない)。図8に示したように、本実施形態では、露光時間の補正をしながら、ピント位置を動かし、撮像を行う。
ステップS506で、制御部101は、撮像終了かどうかを判断する。ここで、制御部101が撮像終了の判断の基準として、たとえば、あらかじめ定められた撮像枚数を達したかどうかを使う。また、たとえば、あらかじめ定められた画像の保存用の容量に達したかどうかを基準にする。また、あらかじめ定められたフォーカスの範囲に達したかどうかを基準にする。
撮像終了の後、ステップS507で、駆動部102がフォーカス駆動を停止する。
ステップS508で、画像処理部107が撮像した画像に対して深度合成の処理を行い、合成画像を生成する。深度合成の方法の一例について説明する。まず、制御部101は、合成の対象となる2つの画像の位置のずれ量を算出する。算出方法の一例は、以下に述べる。まず、制御部101は、片方の画像に、複数のブロックを設定する。制御部101は、各々のブロックのサイズが同じになるように設定することが好ましい。次に、制御部101は、もう片方の画像に、設定したそれぞれのブロックと同じ位置に、該ブロックよりも広い範囲を、探索範囲を設定する。最後に、制御部101は、もう片方の画像のそれぞれの探索範囲に、最初に設定したブロックとの輝度の差分絶対値和(Sum of Absolute Difference、以下、SADをいう)が最小となる対応点を算出する。システム制御部210は、最初に設定したブロックの中心と前述した対応点から、位置のずれをベクトルとして算出する。制御部210は、前述する対応点の算出において、SADのほかに、差分二乗和(Sum of Squared Difference、以下SSDをいう)や正規化相互相関(Normalized Cross Correlation、以下NCCをいう)などを用いてもよい。次に、制御部101は位置のずれ量から変換係数を算出する。制御部101は、変換係数として、例えば射影変換係数を用いる。ただし、変換係数として射影変換係数だけに限定するわけではなく、アフィン変換係数や水平垂直シフトのみの簡略化した変換係数を用いてもよい。次に、画像処理部107は、位置合わせを行った後のそれぞれの画像に対してコントラスト値を算出する。コントラスト値の算出方法の一例としては、たとえば、まず、画像処理部107は、それぞれの画素の色信号Sr、Sg、Sbから、下記の(式7)を用いて輝度Yを算出する。
Y=0.299Sr+0.587Sg+0.114Sb・・・式(1)
Y=0.299Sr+0.587Sg+0.114Sb・・・式(1)
また、上述のコントラスト値の計算方法は一例にすぎず、たとえば、使用するフィルタをラプラシアンフィルタ等のエッジ検出フィルタや所定の帯域を通過するバンドパスフィルタを用いることも可能である。次に、画像処理部107は、合成マップを生成する。合成マップの生成方法としては、画像処理部107は、それぞれの画像の同じ位置にある画素のコントラスト値を比較し、コントラスト値の最も高い画素の合成比率を100%とし、同じ位置にあるほかの画素の合成比率を0%とする。画像処理部107は、こうした合成比率の設定を、画像のすべての位置に対して行う。最後に、画像処理部107は、合成マップに従い画素の置き換えを行い、合成画像を生成する。なお、このようにして算出した合成比率に対して、隣接画素間で合成比率が0%から100%に変化(あるいは100%から0%に変化)すると、合成境界での不自然さが目立つようになる。そのため、合成マップに対して所定の画素数(タップ数)を持つフィルタをかけ、隣接画素間で合成比率が急激に変化しないようにする。
本実施形態によれば、露光中にピント位置を動かしながら撮像することで撮像時間を短縮しつつ、輝度ムラの違いに伴う合成境界の粗を低減した深度合成画像を得ることができる。
(その他の実施形態)
以上に説明した実施形態では、デジタルカメラ100が深度合成を行う前提に説明した。多くの場合、デジタルカメラ100が深度合成以外、1枚の画像のみ撮像し、撮像した1枚の画像を記録するという機能も搭載されている。本発明を実施するための別の実施形態としては、1枚の画像のみ記録または深度合成を行うかによって、露光時間を補正するか決定すると考えられる。
以上に説明した実施形態では、デジタルカメラ100が深度合成を行う前提に説明した。多くの場合、デジタルカメラ100が深度合成以外、1枚の画像のみ撮像し、撮像した1枚の画像を記録するという機能も搭載されている。本発明を実施するための別の実施形態としては、1枚の画像のみ記録または深度合成を行うかによって、露光時間を補正するか決定すると考えられる。
デジタルカメラ100が露光中にピント位置を動かす撮像を行うと、深度合成を行わず、たとえ1枚の画像だけを撮像するとしても、1枚の画像の面内でも、輝度ムラが発生してしまう。しかしながら、1枚の画像の面内で輝度ムラが発生しても、深度合成の合成画像の輝度ムラと比べて少ない。したがって、デジタルカメラ100が露光中にピント位置を動かす撮像を行う場合では、1枚の画像のみ記録するとき、前述したような露光時間を補正せず、深度合成を行う場合、前述したような露光時間の補正を行うようにしてもよい。
なお、上記実施形態においては、個人向けのデジタルカメラをもとに説明を行ったが、深度合成の機能を搭載していれば、携帯機器やスマートフォン、あるいは、サーバーに接続されたネットワークカメラなどに適用することも可能である。または、前述した処理の一部を、携帯機器やスマートフォン、あるいは、サーバーに接続されたネットワークカメラなどに行わせてもよい。
なお、本発明は、上述の実施形態の1つ以上の機能を実現するプログラムを、ネットワークまたは記録媒体を介してシステムまたは装置に供給し、そのシステムまたは装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読み出し作動させる処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 デジタルカメラ
101 制御部
102 駆動部
103 光学系
104 撮像部
105 ROM
106 RAM
107 画像処理部
108 表示部
109 内蔵メモリ
110 操作部
101 制御部
102 駆動部
103 光学系
104 撮像部
105 ROM
106 RAM
107 画像処理部
108 表示部
109 内蔵メモリ
110 操作部
Claims (20)
- ピント位置の異なる複数の画像を撮像し、かつ、前記複数の画像のそれぞれの画像を撮像する間でも前記ピント位置を変更し続ける撮像手段と、
前記撮像手段が、1枚の前記画像を撮像する間に前記ピント位置の変更に起因する露出差を補正する補正手段と、を有し、
前記補正手段が補正した後の前記複数の画像の間の前記露出差が、補正する前によりも低減することを特徴とする撮像装置。 - 前記ピント位置の変更に起因する露出差があらかじめ定められた閾値以下であれば、
前記補正手段が補正しないことを特徴とする請求項1に記載の撮像装置。 - さらに、前記複数の画像に対して合成を行い、合成画像を生成する合成手段を有し、
前記合成画像の被写界深度は、前記複数の画像の前記被写界深度よりも深いことを特徴とする請求項1または2に記載の撮像装置。 - 前記合成手段は、前記複数の画像のそれぞれの合焦している領域を抽出して前記合成を行うことを特徴とする請求項3に記載の撮像装置。
- 前記補正手段は、前記撮像手段が撮像する間での露光時間を変更させることにより補正することを特徴とする請求項1ないし4のいずれか1項に記載の撮像装置。
- 前記補正手段は、前記撮像手段のそれぞれの画素のリセットのタイミングと読み出しのタイミングとの少なくともどちらかを変更させることにより前記露光時間を変更させることを特徴とする請求項5に記載の撮像装置。
- 前記補正手段は、前記複数の画像のそれぞれを撮像するときの実効絞り値が同じになるように補正し、かつ前記複数の画像の前記実効絞り値が同じになるように補正することを特徴とする請求項1ないし6のいずれか1項に記載の撮像装置。
- 前記撮像手段が撮像するとき、撮像素子から一部ずつ順次に画像信号を読み出し、
前記補正手段は、前記撮像手段が前記複数の画像のそれぞれの前記画像信号を読み出すとき、前記一部ずつの画像信号を読み出すときの実効絞り値を揃えるように補正することを特徴とする前記請求項7に記載の撮像装置。 - 前記撮像素子の前記一部に含まれる画素のそれぞれは、前記露光時間が同じであることを特徴とする請求項8に記載の撮像装置。
- 前記撮像素子の一部は、撮像素子の画素配列の行であることを特徴とする請求項8または9に記載の撮像装置。
- 前記補正手段は、前記複数の画像の実効絞り値を、前記複数の画像のうちのいずれかの画像のいずれかの行の前記実効絞り値を基準にして合わせ、前記露光時間を補正することを特徴とする請求項10に記載の撮像装置。
- 前記補正手段は、前記複数の画像のうち、1枚目の画像の1行目の前記実効絞り値を前記基準とすることを特徴とする請求項11に記載の撮像装置。
- ローリングシャッターを含む光学系を有し、
前記撮像手段は、前記光学系を通して受光して撮像することを特徴とする請求項1ないし12のいずれか1項に記載の撮像装置。 - ピント位置の異なる複数の画像を撮像し、かつ、前記複数の画像のそれぞれの画像を撮像する間でも前記ピント位置を変更し続ける撮像手段と、
前記複数の画像に対して合成を行い、合成画像を生成する合成手段と、
前記撮像手段が、1枚の前記画像を撮像する間に前記ピント位置の変更に起因する露出差の補正を行う補正手段と、を有し、
前記補正手段が前記補正を行った後の前記複数の画像の間の前記露出差が、前記補正を行う前によりも低減し、
前記合成画像の被写界深度は、前記複数の画像の前記被写界深度よりも深く、
前記合成手段が前記合成を行う場合に、前記補正手段が前記補正を行い、
前記合成手段が前記合成を行わない場合に、前記補正手段が前記補正を行わないことを特徴とする撮像装置。 - 撮像素子から行ごとに画像信号を読み出し、ピント位置の異なる複数の画像を撮像する撮像手段と、
前記ピント位置を変更する駆動手段と、
前記複数の画像の前記行のうち、少なくとも一部の前記行の実効絞り値が同じになるように、前記複数の画像を撮像するときの前記行に対する露光時間を補正し、前記ピント位置の変更による露出差を低減する補正手段と、を有することを特徴とする撮像装置。 - ピント位置の異なる複数の画像を撮像し、かつ、前記複数の画像のそれぞれの画像を撮像する間でも前記ピント位置を変更し続ける撮像ステップと、
前記撮像ステップにおいて、1枚の前記画像を撮像する間に前記ピント位置の変更に起因する露出差を補正する補正ステップと、を有し、
前記補正ステップにおいて補正した後の前記複数の画像の間の前記露出差が、補正する前によりも低減することを特徴とする撮像方法。 - ピント位置の異なる複数の画像を撮像し、かつ、前記複数の画像のそれぞれの画像を撮像する間でも前記ピント位置を変更し続ける撮像ステップと、
前記複数の画像に対して合成を行い、合成画像を生成する合成ステップと、
前記撮像ステップにおいて1枚の前記画像を撮像する間に前記ピント位置の変更に起因する露出差の補正を行う補正ステップと、を有し、
前記補正ステップにおいて前記補正を行った後の前記複数の画像の間の前記露出差が、前記補正を行う前によりも低減し、
前記合成画像の被写界深度は、前記複数の画像の前記被写界深度よりも深く、
前記合成ステップにおいて前記合成を行う場合に、前記補正ステップにおいて前記補正を行い、前記合成を行わない場合に、前記補正ステップにおいて前記補正を行わないことを特徴とする撮像方法。 - 撮像素子から行ごとに画像信号を読み出し、ピント位置の異なる複数の画像を撮像する撮像ステップと、
前記ピント位置を変更する駆動ステップと、
前記複数の画像の前記行のうち、少なくとも一部の前記行の実効絞り値が同じになるように、前記複数の画像を撮像するときの前記行に対する露光時間を補正し、前記ピント位置の変更による露出差を低減する補正ステップと、を有することを特徴とする撮像方法。 - コンピュータに動作させるコンピュータのプログラムであって、
前記請求項16ないし18のいずれかに記載の撮像方法の各ステップをコンピュータに行わせるプログラム。 - 請求項19に記載のプログラムを記録したコンピュータが読み出し可能な記録媒体。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020194436A JP2022083147A (ja) | 2020-11-24 | 2020-11-24 | 撮像装置、撮像方法、プログラムおよび記録媒体 |
EP21207864.6A EP4002830A3 (en) | 2020-11-24 | 2021-11-11 | Image pick up apparatus, image pick up method, and storage medium |
US17/455,390 US11653107B2 (en) | 2020-11-24 | 2021-11-17 | Image pick up apparatus, image pick up method, and storage medium |
CN202111368219.3A CN114554041A (zh) | 2020-11-24 | 2021-11-18 | 摄像装置、摄像方法和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020194436A JP2022083147A (ja) | 2020-11-24 | 2020-11-24 | 撮像装置、撮像方法、プログラムおよび記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022083147A true JP2022083147A (ja) | 2022-06-03 |
JP2022083147A5 JP2022083147A5 (ja) | 2023-11-28 |
Family
ID=78617227
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020194436A Pending JP2022083147A (ja) | 2020-11-24 | 2020-11-24 | 撮像装置、撮像方法、プログラムおよび記録媒体 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11653107B2 (ja) |
EP (1) | EP4002830A3 (ja) |
JP (1) | JP2022083147A (ja) |
CN (1) | CN114554041A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024038677A1 (ja) * | 2022-08-17 | 2024-02-22 | 富士フイルム株式会社 | 撮像支援装置、撮像装置、撮像支援方法、及びプログラム |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7646977B2 (en) * | 2007-01-17 | 2010-01-12 | Gateway, Inc. | Depth of field bracketing |
US9083880B2 (en) * | 2011-03-02 | 2015-07-14 | Panasonic Corporation | Imaging device, semiconductor integrated circuit, and imaging method |
CN103168271B (zh) * | 2011-10-12 | 2017-03-08 | 松下知识产权经营株式会社 | 摄像装置、半导体集成电路以及摄像方法 |
JP6325885B2 (ja) | 2014-05-12 | 2018-05-16 | オリンパス株式会社 | 撮像装置、撮像方法、及びプログラム |
JP2017098631A (ja) * | 2015-11-18 | 2017-06-01 | オリンパス株式会社 | 画像合成処理装置 |
JP2017142356A (ja) * | 2016-02-10 | 2017-08-17 | ソニー株式会社 | 撮像装置、および、撮像装置の制御方法 |
US20180191935A1 (en) * | 2016-12-30 | 2018-07-05 | Eosmem Corporation | Image sensing method and image sensor with rolling exposure time compensation |
-
2020
- 2020-11-24 JP JP2020194436A patent/JP2022083147A/ja active Pending
-
2021
- 2021-11-11 EP EP21207864.6A patent/EP4002830A3/en active Pending
- 2021-11-17 US US17/455,390 patent/US11653107B2/en active Active
- 2021-11-18 CN CN202111368219.3A patent/CN114554041A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024038677A1 (ja) * | 2022-08-17 | 2024-02-22 | 富士フイルム株式会社 | 撮像支援装置、撮像装置、撮像支援方法、及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
CN114554041A (zh) | 2022-05-27 |
EP4002830A2 (en) | 2022-05-25 |
EP4002830A3 (en) | 2022-09-14 |
US11653107B2 (en) | 2023-05-16 |
US20220166929A1 (en) | 2022-05-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7825969B2 (en) | Image stabilization using multi-exposure pattern | |
JP6906947B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびコンピュータのプログラム | |
JP5950678B2 (ja) | 撮像装置、制御方法、及びプログラム | |
JP6529533B2 (ja) | 撮像装置、撮像装置の制御方法、及び、プログラム | |
JP6786311B2 (ja) | 画像処理装置、画像処理方法、コンピュータプログラムおよび記憶媒体 | |
JP2021185689A (ja) | 撮像装置、プログラム、記録媒体、及び制御方法 | |
JP7077156B2 (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP2022083147A (ja) | 撮像装置、撮像方法、プログラムおよび記録媒体 | |
JP2006148550A (ja) | 画像処理装置及び撮像装置 | |
JP4934617B2 (ja) | 撮像装置及び撮像方法 | |
JP5387341B2 (ja) | 撮像装置 | |
JP2019080261A (ja) | 撮像装置 | |
JP6157274B2 (ja) | 撮像装置、情報処理方法及びプログラム | |
JP6961423B2 (ja) | 画像処理装置、撮像装置、画像処理装置の制御方法、プログラムおよび記録媒体 | |
JP7458769B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体 | |
JP2020160773A (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP7409604B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体 | |
JP6828069B2 (ja) | 撮像装置、撮像方法およびプログラム | |
US11044396B2 (en) | Image processing apparatus for calculating a composite ratio of each area based on a contrast value of images, control method of image processing apparatus, and computer-readable storage medium | |
JP6953594B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体 | |
JP2023026997A (ja) | 撮像装置、撮像方法、プログラムおよび記録媒体 | |
JP2024036872A (ja) | 撮像装置、撮像方法、プログラムおよび記録媒体 | |
US20210352216A1 (en) | Image capturing apparatus capable of performing omnifocal photographing, method of controlling same, and storage medium | |
JP2022077591A (ja) | 画像処理装置、画像処理方法、撮像装置、プログラムおよび記録媒体 | |
JP2024002631A (ja) | 画像処理装置、撮像装置、画像処理方法、コンピュータのプログラムおよび記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20201209 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231117 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231117 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20231213 |