JPWO2019021626A1 - 撮像装置、および画像処理方法、並びにプログラム - Google Patents

撮像装置、および画像処理方法、並びにプログラム Download PDF

Info

Publication number
JPWO2019021626A1
JPWO2019021626A1 JP2019532414A JP2019532414A JPWO2019021626A1 JP WO2019021626 A1 JPWO2019021626 A1 JP WO2019021626A1 JP 2019532414 A JP2019532414 A JP 2019532414A JP 2019532414 A JP2019532414 A JP 2019532414A JP WO2019021626 A1 JPWO2019021626 A1 JP WO2019021626A1
Authority
JP
Japan
Prior art keywords
image
pixel
display
recording
exposure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019532414A
Other languages
English (en)
Other versions
JP7176518B2 (ja
Inventor
健三郎 関
健三郎 関
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2019021626A1 publication Critical patent/JPWO2019021626A1/ja
Application granted granted Critical
Publication of JP7176518B2 publication Critical patent/JP7176518B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/587Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields
    • H04N25/589Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields with different integration times, e.g. short and long exposures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/42Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by switching between different modes of operation using different resolutions or aspect ratios, e.g. switching between interlaced and non-interlaced mode
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/02Viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/445Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by skipping some contiguous pixels within the read portion of the array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Viewfinders (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

記録用画像の露光期間内においても表示用画像を出力し、かつ高画質の記録用画像を生成可能とした装置、方法を提供する。撮像素子は、高画素数の記録用画像の露光期間中、撮像素子の構成画素を間引きした低画素数の表示用画像の出力を実行する。記録用画像補正部は、フレームメモリから露光期間経過後の記録用画像を入力し、記録用画像の構成画素中、撮像素子からの表示用画像出力に起因して発生する欠陥画素の画素値を、記録用画像の露光期間内に出力された表示用画像の画素値の加算値を利用して補正することで、記録用画像の露光期間の露光処理を行ったと同様の画素値に補正する。

Description

本開示は、撮像装置、および画像処理方法、並びにプログラムに関する。特に、撮像装置の表示部に対する画像表示を継続させながら高画質の撮影画像を取得可能とした撮像装置、および画像処理方法、並びにプログラムに関する。
カメラ(撮像装置)を用いて画像撮影を行う場合、多くのユーザ(撮影者)はカメラのLCD表示部やEVF(electric viewfinder)等の表示部に表示された画像を確認する。
例えば、ユーザ(撮影者)は、この表示部に表示される画像を観察して、撮影タイミングを決定して、レリーズボタン(シャッターボタン)を押下することができる。
また、ユーザ(撮影者)は、撮影した画像を表示部に表示して、撮影画像の確認を行うことができる。
撮影を行っていない場合、撮像装置の表示部には、撮像装置の撮像素子に入射している現在の画像、すなわちライブビュー画像(LV画像)が表示される。ライブビュー画像(LV画像)はスルー画とも呼ばれ、ユーザ(撮影者)は、この表示部に表示されるライブビュー画像(LV画像)を確認して、撮影タイミングを決定することができる。
ユーザ(撮影者)が撮影処理を行う場合、レリーズボタン(シャッターボタン)を押下する。このレリーズボタン操作処理に伴い、撮像素子では、記録用画像の露光処理が開始される。
しかし、多くの撮像装置では、この記録用画像の露光処理の開始により、撮像素子からのライブビュー画像(LV画像)の読み出しが停止され、この結果、表示部に何も表示されない期間が発生する。いわゆる表示部のブラックアウトが発生する。なお、表示部のブラックアウトについては、例えば、特許文献1(特開2015−186234号公報)等に記載がある。
ブラックアウトが発生すると、ユーザ(撮影者)は表示画像の確認ができなくなる。
また、レリーズボタンの押下に伴い発生する表示部のブラックアウトが影響して、ユーザは、違和感や、操作ミスを行ったと勘違いする等の問題が発生する恐れがある。
特開2008−186234号公報
本開示は、例えば、上記の問題点に鑑みてなされたものであり、撮像装置の表示部に対する画像表示を継続させながら高画質の撮影画像を取得可能とした撮像装置、および画像処理方法、並びにプログラムを提供することを目的とする。
本開示の第1の側面は、
第1画素数の第1画像を取得するための露光期間中、前記第1画素数よりも少ない第2画素数の第2画像を出力する撮像素子と、
前記第1画像を構成する画素中、前記第2画像を構成する画素に対応する画素の画素値を補正する画像補正部と、
を備える撮像装置にある。
さらに、本開示の第2の側面は、
撮像装置において実行する画像処理方法であり、
撮像素子が、第1画素数の第1画像を取得するための露光期間中、前記第1画素数よりも少ない第2画素数の第2画像を出力し、
画像補正部が、前記第1画像を構成する画素中、前記第2画像を構成する画素に対応する画素の画素値を補正する、
画像処理方法にある。
さらに、本開示の第3の側面は、
撮像装置において画像処理を実行させるプログラムであり、
撮像素子に、第1画素数の第1画像を取得するための露光期間中、前記第1画素数よりも少ない第2画素数の第2画像を出力させ、
画像補正部に、前記第1画像を構成する画素中、前記第2画像を構成する画素に対応する画素の画素値を補正させる、
プログラムにある。
なお、本開示のプログラムは、例えば、様々なプログラム・コードを実行可能な情報処理装置やコンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、情報処理装置やコンピュータ・システム上でプログラムに応じた処理が実現される。
本開示のさらに他の目的、特徴や利点は、後述する本開示の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
本開示の一実施例の構成によれば、記録用画像の露光期間内においても表示用画像を出力し、かつ高画質の記録用画像を生成可能とした装置、方法が実現される。
具体的には、例えば、撮像素子は、高画素数の記録用画像の露光期間中、撮像素子の構成画素を間引きした低画素数の表示用画像の出力を実行する。記録用画像補正部は、フレームメモリから露光期間経過後の記録用画像を入力し、記録用画像の構成画素中、撮像素子からの表示用画像出力に起因して発生する欠陥画素の画素値を、記録用画像の露光期間内に出力された表示用画像の画素値の加算値を利用して補正することで、記録用画像の露光期間の露光処理を行ったと同様の画素値に補正する。
これらの処理により、記録用画像の露光期間内においても表示用画像を出力し、かつ高画質の記録用画像を生成可能とした装置、方法が実現される。
なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
撮像装置における画像の撮影、および表示処理におけるデータ処理シーケンスについて説明する図である。 撮像装置の表示部に表示用画像(LV画像)を表示する場合の処理シーケンスを説明するタイミングチャートを示す図である。 撮像装置の表示部に表示用画像(LV画像)を表示し、その間に、撮影処理を行い、記録用画像(CAP画像)の記録処理を行った場合の処理シーケンスを説明するタイミングチャートを示す図である。 本開示の撮像装置の実行する処理の概要について説明する図である。 撮像装置の表示部に表示用画像(LV画像)を表示しながら、撮影処理を行い、記録用画像(CAP画像)の記録処理を行った場合の問題点について説明する図である。 本開示の撮像装置の構成例について説明する図である。 本開示の撮像装置の信号処理部の構成と処理例について説明する図である。 本開示の撮像装置の信号処理部の構成と処理例について説明する図である。 本開示の撮像装置の信号処理部の構成と処理例について説明する図である。 本開示の撮像装置の信号処理部の構成と処理例について説明する図である。 本開示の撮像装置の信号処理部の構成と処理例について説明する図である。 本開示の撮像装置の信号処理部の構成と処理例について説明する図である。 本開示の撮像装置の信号処理部の構成と処理例について説明する図である。 本開示の撮像装置の信号処理部の構成と処理例について説明する図である。 本開示の撮像装置の信号処理部の構成と処理例について説明する図である。 記録用画像(CAP画像)の露光開始タイミングが、規定の表示用画像(LV)の露光処理期間の途中に設定される例について説明する図である。 記録用画像(CAP画像)の露光開始タイミングが、規定の表示用画像(LV)の露光処理期間の途中に設定される場合の信号処理部の処理例について説明する図である。 撮像装置の実行する処理シーケンスを説明するフローチャートを示す図である。 メカシャッターを有する撮像装置の処理について説明する図である。 記録用画像の欠陥画素を周囲画素の画素値に基づいて補正する構成例について説明する図である。 記録用画像の欠陥画素を周囲画素の画素値に基づいて補正する処理例について説明する図である。 撮像装置の構成例について説明する図である。
以下、図面を参照しながら本開示の撮像装置、および画像処理方法、並びにプログラムの詳細について説明する。なお、説明は以下の項目に従って行う。
1.撮像装置における画像の撮影、および表示処理の概要について
2.本開示の撮像装置の実行する処理の概要について
3.本開示の撮像装置の構成例について
4.信号処理部の構成と処理について
5.メカシャッターを有する撮像装置の場合の処理例について
6.記録用画像の欠陥画素を周囲画素の画素値に基づいて補正する実施例について
7.その他の実施例について
8.本開示の構成のまとめ
[1.撮像装置における画像の撮影、および表示処理の概要について]
まず、図1以下を参照して、一般的な撮像装置(カメラ)における画像の撮影、および表示処理の概要について説明する。
図1には、一般的な撮像装置における以下の処理例を示している。
(1)撮影処理非実行時(ライブビュー画像(LV)表示処理実行時)のデータ処理例
(2)撮影処理実行時(キャプチャ画像(CAP)記録処理実行時)のデータ処理例
なお、ライブビュー画像(LV)とは、撮像装置の表示部、例えばLCDや、EVF等、ユーザ(撮影者)が確認可能な表示部に表示される画像である。スルー画とも呼ばれ、撮影処理の実行、非実行に関わらず、継続的に表示部に表示される画像である。
一方、キャプチャ画像(CAP)とは、ユーザ(撮影者)が、撮像装置のレリーズボタン(シャッターボタン)を操作することで撮影される画像である。キャプチャ画像(CAP)は、撮像措置の記録部(メディア)に記録される。
なお、一般的に、キャプチャ画像(CAP)は、撮像素子の画素数を反映した高画素数の高解像度画像として取得され、記録されるが、ライブビュー画像(LV)は、表示部の表示可能な画素数に合わせた低画素の画像として取得されて表示される。
ライブビュー画像(LV)は、撮像素子の構成画素を間引いた一部画素のみからなる画像(間引き画像)が利用される。
すなわち、ライブビュー画像(LV)は、キャプチャ画像(CAP)より低画素の画像となる。
図1に示す(1)撮影処理非実行時(ライブビュー画像(LV)表示処理実行時)のデータ処理例について説明する。
光学レンズ11を介して入射される光は撮像部、例えばCMOSイメージセンサなどによって構成される撮像素子12に入射し、光電変換による画像データを出力する。なお、この場合の出力画像は、表示部21に表示するための表示用画像(LV画像)である。
以下において、表示部に表示するための画像を、表示用画像、またはLV画像と呼ぶ。一方、撮影記録用の画像を記録用画像、またはキャプチャ画像、またはCAP画像と呼ぶ。
撮像素子12は、表示部に表示するための表示用画像(LV画像)を出力する際は、撮像素子の全画素データの出力を行うことなく、一部を間引いた低画素数の画像出力を行う。
撮影処理が実行された場合には、高画素数の記録用画像を生成する必要があるため、撮像素子のほぼ全画素データの出力を行う。
図1に示す(1)撮影処理非実行時(ライブビュー画像(LV)表示処理実行時)には、撮像素子12は、低画素数の出力画像(LV画像)をAD変換部13に入力する。
AD変換部13は、入力信号のA/D変換、すなわちアナログ信号をデジタル信号に変換する処理を実行して、変換後のデジタル値を、フレームメモリ14に格納する。
フレームメモリ14に格納された画像は、信号処理部(信号処理LSI)15に出力される。
なお、表示部に表示するための表示用画像(LV画像)は、フレームメモリ14に格納することなく、AD変換部13から直接、信号処理部15に入力する構成としてもよい。
信号処理部15は、例えばホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理を実行して出力画像、すなわち、表示部21に表示するための画像(LV画像)を生成してメモリ16に格納する。
表示部21は、メモリ16に格納されたLV画像を表示する。
表示部21は、例えばLCDやEVF等によって構成され、撮影者が確認することができる。
次に、図1に示す(2)撮影処理実行時(キャプチャ画像(CAP)記録処理実行時)のデータ処理例について説明する。
撮影者が、レリーズボタン(シャッターボタン)を操作(押下)すると、この(2)の処理が行われることになる。
撮影者が、レリーズボタン(シャッターボタン)を操作(押下)すると、光学レンズ11を介して入射される光は撮像部、例えばCMOSイメージセンサなどによって構成される撮像素子12に入射し露光処理が開始される。
撮像素子12における露光処理が終了すると、撮像素子12は、光電変換による画像データをAD変換部13に出力する。なお、この場合の出力画像は、記録部22に記録、保存するための記録用画像(CAP画像)である。
記録用画像(CAP画像)は、撮像素子12の画素数を反映した高画素の画像である。(1)を参照して説明した表示用画像(LV画像)より画素数の多い高画素画像となる。
図1では、(1)に示すLV画像の矢印を細く、(2)に示すCAP画像の矢印を太く示し、画素数の高低を矢印の太さで示している。
AD変換部13は、入力信号のA/D変換、すなわちアナログ信号をデジタル信号に変換する処理を実行して、変換後のデジタル値を、フレームメモリ14に格納する。
フレームメモリ14に格納された画像は、信号処理部(信号処理LSI)15に出力される。
信号処理部15は、例えばホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理を実行して出力画像を生成する。
この場合、信号処理部15は、記録部22に格納するための高画素の記録用画像(CAP画像)を生成してメモリ16に格納する。
記録部22には、メモリ16に格納された高画素の記録用画像(CAP画像)を格納する。
以上が、撮像装置における撮影実行時と非実行時の処理の概要である。
次に、これらの処理の時間的な流れについて、図2以下に示すタイミングチャートを参照して説明する。
図2は、ユーザ(撮影者)による撮影処理、すなわちレリーズボタン(シャッターボタン)の押下処理が行われていない期間における処理、すなわち、撮像装置の表示部に表示用画像(LV画像)が表示される場合の処理シーケンスを説明するタイミングチャートである。
左から右に時間が経過する。
図2には、以下の(a)〜(g)の処理タイミングを個別に示している。
(a)撮像素子入力同期信号
(b)撮像素子の露光処理とフレームメモリに対する出力
(c)フレームメモリ(FM)の格納画像
(d)撮影操作(レリーズ(シャッター)操作)
(e)制御部の処理
(f)表示部入力同期信号
(g)表示部表示画像
(a)撮像素子入力同期信号は、撮像装置の制御部の制御によって撮像素子12に入力される同期信号である。本例では16.7msecごとの同期信号が、撮像素子12に入力される設定である。
撮像素子12は、この同期信号の入力に応じて、様々な処理の開始や、処理の切り換え等の実行する処理の更新を行う。
(b)撮像素子の露光処理とフレームメモリに対する出力は、撮像素子12における露光処理と、露光結果に対するAD変換後の画像のフレームメモリ14に対する格納処理を示す。
図に示すLV1、LV2、LV3・・は、表示部21に表示する表示用画像(LV画像)の露光処理を示している。
これらの各画像の露光処理は、16.7msecごとの同期信号ごとに実行される。
(c)フレームメモリ(FM)の格納画像は、フレームメモリ14の格納画像のシーケンスを示している。
(d)撮影操作(レリーズ(シャッター)操作)は、ユーザ(撮影者)による撮影操作、すなわちレリーズボタン(シャッターボタン)の押下処理を示す。
図2は、ユーザ(撮影者)による撮影操作が行われていない場合の処理シーケンスであるので、撮影操作タイミングは図示していない。
なお、撮影処理が実行された場合の処理については、図3を参照して後段で説明する。
(e)制御部の処理は、撮像装置の制御部において実行する制御処理のシーケンスを説明している。なお、先に説明した図1には制御部を示していないが、撮像装置は、例えば記憶部に格納されたプログラムに従って撮像装置の実行する処理の制御を行う制御部を有している。制御部は、図1に示す各構成部の実行する処理の制御を行う。
図2の(e)制御部の処理には、制御部が実行する様々な処理の一部の処理を示している。図2には、主として表示部に表示する画像の制御に関する処理のシーケンスを示している。
図2では、(e)制御部の処理のシーケンスとしてFMの矩形ボックスを示している。
FMは、フレームメモリ(FM)に格納される最新画像の表示予約処理と、フレームメモリ(FM)に格納された最新画像を表示部21に表示する表示処理の制御を意味する。
この制御処理により、表示部21には、フレームメモリ14の格納画像が、順次、表示されることになる。
(f)表示部入力同期信号は、撮像装置の制御部の制御によって表示部21に入力される同期信号である。表示部21は、この同期信号の入力に応じて、表示画像の切り換え等の処理を行う。
(g)表示部表示画像は、表示部21に表示される画像を示したものである。
LV1,LV2・・は、表示画像の画像フレーム1,2に対応し、表示部入力同期信号の信号間隔で表示フレームが切り換えられることを意味する。すなわち、表示部21には、ライブビュー画像(スルー画像)による動画像の表示がなされる。
次に、図3を参照して、ユーザ(撮影者)による撮影処理、すなわちレリーズボタン(シャッターボタン)の押下処理が行われた場合の処理、すなわち、撮像装置の表示部に表示用画像(LV画像)が表示されている期間に、ユーザ(撮影者)による撮影処理が実行された場合の処理シーケンスについて説明する。
左から右に時間が経過する。
図3には、図2と同様、以下の(a)〜(g)の処理タイミングを個別に示している。
(a)撮像素子入力同期信号
(b)撮像素子の露光処理とフレームメモリに対する出力
(c)フレームメモリ(FM)の格納画像
(d)撮影操作(レリーズ(シャッター)操作)
(e)制御部の処理
(f)表示部入力同期信号
(g)表示部表示画像
図3の(d)撮影操作(レリーズ(シャッター)操作)のライン上の中央付近に示すように、ステップS01においてユーザによる撮影操作、すなわち、レリーズボタン(シャッターボタン)の押下処理が行われたものとする。
このユーザによる撮影操作、すなわち、レリーズボタン(シャッターボタン)の押下処理が行われると、制御部は、ステップS02において、撮像素子12における表示用画像(LV画像)の露光処理の停止と、モード切り換えの開始を要求し、さらに、ステップS03において、撮像素子側で、記録用画像(CAP)画像の露光処理を開始する。
これらの処理において、制御部は、撮像素子や信号処理部に対する制御信号の出力処理や、撮像素子や信号処理部における制御信号に基づく設定処理等の処理を行う。
この処理には、例えば撮像素子(イメージセンサ)12のモード切り換え処理が含まれる。
前述したように、撮像素子12は、表示部21に表示するための表示用画像(LV画像)を出力する際は、撮像素子の全画素データの出力を行うことなく、一部を間引いた低画素数の画像出力を行う。
しかし、撮影処理が実行された場合には、高画素数の記録用画像を生成する必要があるため、撮像素子のほぼ全画素データの出力を行う。
記録用画像の露光を開始する際には、この撮像素子12の出力データを変更するためのモード切り換え処理等を行うことになる。
撮像素子12は、出力データを変更するためのモード切り換え処理を開始すると、表示用画像(LV画像)の露光処理、メモリ出力処理を停止せざる得なくなる。
図に示すように、制御部は、ステップS04において、表示部21に対する表示画像の供給を停止する。すなわち、表示部21に何も表示されないブラックアウトが発生する。
このように、撮像素子12における記録用画像(CAP画像)の露光期間は、撮像素子12からの表示用画像(LV画像)の取得ができなくなり、表示部21に何も表示されないブラックアウト(黒画出力)が発生する。
なお、ステップS03における撮像素子12による記録用画像(CAP画像)の露光処理の露光期間は、例えばユーザの設定した期間、すなわちシャッタースピードに対応して設定される。
ステップS03における撮像素子12による記録用画像(CAP画像)の露光処理によって得られた記録用画像(CAP画像)は、ステップS05においてフレームメモリ(FM)に格納される。
制御部は、ステップS06において、フレームメモリ(FM)から記録用画像(CAP画像)を読み取り、表示部21に記録用画像(CAP画像)を表示する処理を実行する。
図3に示すシーケンス図から理解されるように、ユーザ(撮影者)による撮影処理、すなわちレリーズボタン(シャッターボタン)の押下がなされると、撮像素子12による記録用画像(CAP画像)の露光処理が開始され、この露光期間においては、撮像素子12から、表示用画像(LV画像)をフレームメモリ14に格納することができず、これに伴い、表示部21への表示用画像(LV画像)の表示処理ができなくなる。
すなわち、表示部21に何も表示されないブラックアウトが発生する。
以下、このような表示部のブラックアウトの発生を防止した構成を有する本開示の実施例について説明する。
[2.本開示の撮像装置の実行する処理の概要について]
まず、図4、図5を参照して、本開示の撮像装置の実行する処理の概要について説明する。
本開示の撮像装置は、撮像素子による記録用画像(CAP画像)の露光処理が実行されている間も、表示部に対する表示用画像(LV画像)の表示を継続して実行する。さらに、記録用画像(CAP画像)についても、撮像素子の全画素を利用した高画素の記録画像を生成して記録することを可能としている。
すなわち、本開示の撮像装置の撮像素子は、高画素(第1画素数)の記録用画像(第1画像)を取得するための露光期間中、第1画素数よりも少ない低画素(第2画素数)の表示用画像(第2画像)を出力する。
図4は、本開示の撮像装置の実行する処理の概要について説明する図である。
図4には、先に図3を参照して説明したと同様、ユーザ(撮影者)による撮影処理、すなわちレリーズボタン(シャッターボタン)の押下処理が行われた場合の処理、すなわち、撮像装置の表示部に表示用画像(LV画像)が表示されている期間に、ユーザ(撮影者)による撮影処理が実行された場合の処理シーケンスについて説明する図である。
左から右に時間が経過する。
図4には、以下の(a)〜(g)の処理タイミングを個別に示している。
(a)撮像素子入力同期信号
(b)撮像素子の露光処理とフレームメモリに対する出力
(c)フレームメモリ(FM)の格納画像
(d)撮影操作(レリーズ(シャッター)操作)
(g)表示部表示画像
図4の(d)撮影操作(レリーズ(シャッター)操作)のライン上に示すように、ステップS11においてユーザによる撮影操作、すなわち、レリーズボタン(シャッターボタン)の押下処理が行われたものとする。
このユーザによる撮影操作、すなわち、レリーズボタン(シャッターボタン)の押下処理が行われると、
図4の「(b)撮像素子の露光処理とフレームメモリに対する出力」に示すように、ステップS12において、撮像素子における記録用画像(CAP)画像の露光処理が開始される。
本開示の撮像装置では、この撮像素子における記録用画像(CAP)画像の露光処理を行っている期間においても、撮像素子からフレームメモリに対する表示用画像(LV画像)の供給、格納処理を継続する。
図4の「(b)撮像素子の露光処理とフレームメモリに対する出力」に示すように、記録用画像(CAP画像)は、同期信号ta2〜ta6の間の露光処理として実行されるが、この期間内において、規定の露光期間(例えば16.7ms)の露光期間単位で、表示用画像(LV画像)を撮像素子からフレームメモリに出力する。
図4に示すステップS13の「LV画像(間引き画像)のメモリ出力」がこの処理に相当する。
前述したように、表示用画像(LV画像)は、撮像素子の全画素の画素値出力ではなく、一部の画素のみからなる低画素の画像である。
本開示の撮像装置は、記録用画像(CAP)画像の露光処理を行っている期間においても、表示用画像(LV画像)を構成する画素の画素値を、LV画像規定の露光期間(例えば16.7ms)の露光期間単位で、撮像素子からフレームメモリに出力する。
図4の「(c)フレームメモリ」には、同期信号ta2〜ta6の間の記録用画像(CAP画像)の露光期間内に撮像素子から出力された複数の表示用画像(LV画像)(LV1〜LV4)を示している。
図4のステップS14「LV画像(間引き画像)の表示部出力」に示すように、これら、(c)フレームメモリに格納された複数の表示用画像(LV画像)(LV1〜LV4)は、順次、「(g)表示部表示画像」として、表示部に出力される。
このように、本開示の撮像装置は、撮像素子における記録用画像(CAP画像)の露光期間においても、撮像素子からの表示用画像(LV画像)の取得を行い、表示部に対する表示処理を継続する構成であり、ブラックアウト(黒画出力)が発生しない。
なお、図4に示すステップS12の記録用画像(CAP画像)の露光期間が終了すると、ステップS15に示すように、記録用画像(CAP画像)は、フレームメモリに格納される。
しかし、このような処理を行うと、フレームメモリに格納される記録用画像(CAP画像)の画素値は、記録用画像の露光期間内における表示用画像(LV画像)の画素値出力により、露光期間の異なる画素が混在してしまうことになる。
図5を参照して、この問題について説明する。
図5には、フレームメモリに格納される以下の2つの画像を示している。
表示用画像(LV画像)、
記録用画像(CAP画像)、
図5は、これら2つの画像の構成について説明する図である。
先に説明したように、記録用画像(CAP画像)は、撮像素子の構成画素のほぼ全画素の画素値を出力した高画素の画像、すなわち高画質画像である。
これに対して、表示用画像(LV画像)は、撮像素子の構成画素の一部の画素のみを間引いて出力した低画素の画像、すなわち低画質画像である。
図5に示す例において、LV画像構成画素51は、撮像素子を構成する全画素から選択される表示用画像(LV画像)の構成画素である。
フレームメモリ50に格納される表示用画像(LV画像)であるLV1〜LV4は、これらLV画像構成画素51のみによって構成された低画素の画像である。
これらLV画像構成画素51のみによって構成された低画素の表示用画像(LV画像)LV1〜LV4が、撮像素子における表示用画像の露光期間単位(例えば16.7msec単位)で、撮像素子から順次、読み出されて、フレームメモリ50に格納され、表示部に表示される。
なお、この低画素の表示用画像(LV画像)LV1〜LV4の出力期間は、記録用画像(CAP画像)の露光期間でもある。
従って、撮像素子のLV画像構成画素51以外の構成画素は、記録用画像(CAP画像)の露光期間中、継続して露光処理が実行される。
記録用画像(CAP画像)の露光期間が終了すると、記録用画像(CAP画像)がフレームメモリ50に格納される。
フレームメモリ50に格納される記録用画像(CAP画像)は、撮像素子のほぼ全画素の画素値から構成されるが、その一部は、表示用画像(LV画像)の出力に利用されており、これらの画素には、記録用画像(CAP画像)の露光期間中、継続した露光処理による画素値が設定されていない。
すなわち、図に示す記録用画像(CAP画像)60の一部を構成するLV画像構成画素51は、記録用画像(CAP画像)の露光期間中、表示用画像(LV画像)の出力に利用されており、記録用画像(CAP画像)の露光期間中、継続して露光された画素値に設定されていない。
なお、記録用画像(CAP画像)60のLV画像構成画素51以外の画素は、表示用画像(LV画像)の出力に利用されておらず、記録用画像(CAP画像)の露光期間中、継続して露光された画素値に設定されている。
このように、フレームメモリ50に格納される記録用画像(CAP画像)は、
(a)正常露光画素(LV画像構成画素51以外の画素)=記録用画像の露光期間の露光処理による画素値の設定された画素、
(b)欠陥画素(LV画像構成画素51)=記録用画像の露光期間の露光処理による画素値ではない誤った画素値の設定された画素、
これら、2種類の露光期間対応の画素値が設定された欠陥画素を含む画像となる。
本開示の撮像装置は、このような欠陥画素を含む記録用画像を補正して、欠陥画素に、正常な画素値、すなわち、記録用画像の露光期間の露光処理による画素値を設定する補正処理を行い、補正を行った記録用画像を生成して記録する処理を行う。
以下、本開示の撮像装置の具体的構成と処理の詳細について説明する。
[3.本開示の撮像装置の構成例について]
まず、図6を参照して本開示の撮像装置100の構成例について説明する。
図6に示す撮像装置100は、光学レンズ101、撮像素子102、AD変換部103、フレームメモリ104、信号処理部(信号処理LSI)105、メモリ106、表示部(LCD/EVF)107、記録部108、操作部109、制御部110を有する。
操作部109は、例えばレリーズボタン(シャッターボタン)や、撮影態様、撮影モードの設定、表示部107の表示画像の設定などのユーザ入力を行うための操作部である。
なお、表示部107をタッチパネル形式としてユーザ操作部として利用することも可能である。
制御部110は、撮像素子102〜記録部108に対する制御信号や同期信号を入力し、各構成部の処理の実行タイミングの制御等、様々な処理制御を実行する。
例えば、撮像素子102の処理タイミングを規定する同期信号の出力制御や、表示部107の表示画像の切り換えタイミングを規定する同期信号の出力制御等を実行する。
制御部110は、具体的には、図示しない記憶部に格納されたプログラムに従った処理を実行するCPU等によって構成される。
プログラムは、例えば、画像撮影、画像記録、画像表示処理の制御プログラム、同期信号出力制御プログラム等によって構成される。
光学レンズ101を介して入射される光は撮像部、例えばCMOSイメージセンサなどによって構成される撮像素子102に入射し、光電変換による画像データを出力する。なお、撮像素子102の出力画像は、撮影処理が実行されていない場合は、表示部107に表示するための低画素の表示用画像(LV画像)であり、撮影処理が実行された場合は、記録部108に格納するための高画素の記録用画像(CAP画像)となる。
なお、前述したように、本開示の撮像装置100においては、撮像素子102において記録用画像(CAP画像)の露光処理が実行されている間も、表示部に対する表示用画像(LV画像)の表示を継続して実行する。すなわち、撮像素子102は、高画素(第1画素数)の記録用画像(第1画像)を取得するための露光期間中、第1画素数よりも少ない低画素(第2画素数)の表示用画像(第2画像)を出力する。
撮像素子102からの出力画像はAD変換部103に入力される。
AD変換部103は、入力信号のA/D変換、すなわちアナログ信号をデジタル信号に変換する処理を実行して、変換後のデジタル値を、フレームメモリ104に格納する。
フレームメモリ104に格納された画像は、順次、信号処理部(信号処理LSI)105に出力される。
信号処理部105は、例えばホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理を実行するとともに、先に図5を参照して説明した記録用画像の欠陥画素の補正処理を実行する。
すなわち、高画素(第1画素数)の記録用画像(第1画像)を構成する画素中、第1画素数よりも少ない低画素(第2画素数)の表示用画像(第2画像)を構成する画素に対応する画素の画素値を補正する処理を行う。
なお、本開示の撮像装置においては、様々な異なる態様の補正処理が行われる。例えば、補正対象画素に設定済みの画素値を利用した補正処理や、補正対象画素に設定済みの画素値を一旦キャンセルして、新たに画素値を設定する処理等が行われる。これらの補正処理の具体例については、後述する。
信号処理部105は、表示部107に表示するための表示用画像(LV画像)、または、記録部108に格納するための記録用画像(CAP画像)の少なくともいずれかを生成してメモリ106に格納する。
表示部107は、メモリ106に格納された表示用画像(LV画像)を表示する。
表示部107は、例えばLCDやEVF等によって構成され、撮影者が確認することができる。
また、記録部108は、メモリ106に格納された記録用画像(CAP画像)を格納する。
[4.信号処理部の構成と処理について]
次に、図6に示す撮像装置100の信号処理部105の具体的構成と処理について説明する。
図7は、図6に示す撮像装置100の信号処理部105の具体的構成例を示す図である。
図7に示すように、信号処理部105は、記録用画像補正部121と、画像補正部122を有する。
記録用画像補正部121は、先に図5を参照して説明した記録用画像の欠陥画素の補正処理を実行する。
画像補正部122は、例えばホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理を実行する。
図7に示すように、信号処理部105の記録用画像補正部121には、
欠陥画素を含む記録用画像(CAP画像)211、または、
表示用間引き画像(LV画像)221、
これらのいずれかの画像がフレームメモリ104から入力される。
記録用画像補正部121は、欠陥画素を含む記録用画像(CAP画像)211に対する補正処理を実行し、欠陥画素に正常画素値を設定する処理を実行して、欠陥画素補正済み記録用画像(CAP画像)212を生成する。
すなわち、先に図5を参照して説明した記録用画像の欠陥画素の補正処理を実行する。
記録用画像補正部121は、欠陥画素に正常画素値を設定する処理を実行して、欠陥画素補正済み記録用画像(CAP画像)212を生成して、画像補正部122に出力する。
なお、記録用画像補正部121は、表示用間引き画像(LV画像)221に対する処理は実行せず、表示用間引き画像(LV画像)221は、そのまま画像補正部122に出力する。
画像補正部122は、欠陥画素補正済み記録用画像(CAP画像)212、および、表示用間引き画像(LV画像)221に対して、例えばホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理を実行して、補正後記録用画像(CAP画像)213、および、補正後表示用画像(LV画像)222を生成して、図6に示す撮像装置100のメモリ106に格納する。
図7に示す信号処理部105の記録用画像補正部121の具体的構成と処理例について、図8以下を参照して説明する。
図8に示すように、記録用画像補正部121は、加算器301、メモリ302、セレクタ303、加算器304、欠陥補正部305、セレクタ306を有する。
図9以下を参照して、この図8に示す記録用画像補正部121を用いた具体的な処理例について説明する。
まず、図9を参照して、記録用画像(CAP画像)の撮影、すなわち露光処理が行われていない期間における表示用画像(LV画像)の処理について説明する。
図9は、記録用画像(CAP画像)の撮影、すなわち露光処理が行われていない期間における表示用画像(LV画像)の入出力経路を示す図である。
図9に示すLV0,230inは、フレームメモリ104から入力する表示用画像(LV)である。
なお、表示用画像(LV画像)は、図5を参照して説明したように、撮像素子の一部の画素のみを選択抽出する間引き処理後の低画素の画像である。
記録用画像(CAP画像)の露光処理が行われていない場合、フレームメモリ104から入力する表示用画像(LV0)230inは、セレクタ303を介して、そのまま出力される。記録用画像補正部121は、図に示す表示用画像(LV0)230outを信号処理部105内の画像補正部122に出力する。
画像補正部122において、例えばホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理が実行され、表示部107に表示される。
次に、図10以下を参照して、記録用画像(CAP画像)の撮影、すなわち露光処理が実行されている期間における表示用画像(LV画像)の処理について説明する。
図10は、記録用画像(CAP画像)の露光開始時点と同一タイミングで、所定期間の露光が開始された表示用画像(LV画像)の入出力経路を示す図である。
図10に示すLV1,231inは、フレームメモリ104から入力する表示用画像(LV)である。
記録用画像(CAP画像)の露光処理が開始された場合においても、フレームメモリ104から入力する表示用画像(LV1)231inは、セレクタ303を介して、そのまま出力される。記録用画像補正部121は、図に示す表示用画像(LV1)231outを信号処理部105内の画像補正部122に出力する。
画像補正部122において、例えばホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理が実行され、表示部107に表示される。
記録用画像(CAP画像)の露光処理が開始された場合は、上記の処理に加え、さらに、フレームメモリ104から入力する表示用画像(LV1)231inは、加算器301において、メモリ302に先行して格納された表示用画像(LV)と画素値加算処理を行い、その加算結果をメモリ302に格納する。
なお、この時点で、メモリ302に先行して格納された表示用画像(LV)はなく、メモリ302には、入力する表示用画像(LV1)231inと同じ表示用画像(LV1)231mが格納される。
なお、メモリ302に格納される表示用画像(LV画像)は、図5を参照して説明したように、撮像素子の一部の画素のみを選択抽出する間引き処理後の低画素の画像である。
さらに、記録用画像(CAP画像)の露光開始後の最初の表示用画像(LV1)231の次の表示用画像(LV2)の処理について、図11を参照して説明する。
この表示用画像(LV2)の露光期間も記録用画像(CAP画像)の露光期間内の期間である。
フレームメモリ104から入力する表示用画像(LV2)232inは、セレクタ303を介して、そのまま出力される。記録用画像補正部121は、図に示す表示用画像(LV2)232outを信号処理部105内の画像補正部122に出力する。
画像補正部122において、例えばホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理が実行され、表示部107に表示される。
さらに、上記処理に加え、フレームメモリ104から入力する表示用画像(LV2)232inは、加算器301において、メモリ302に先行して格納された表示用画像(LV1)と画素値加算処理を行い、その加算結果をメモリ302に格納する。
なお、この時点で、メモリ302に先行して格納された表示用画像(LV)は、LV1である。
加算器301では、メモリ302に先行して格納された表示用画像(LV1)231mと、新たにフレームメモリ104から入力した表示用画像(LV2)232inとの対応画素の画素値加算を実行した画像(LV1+LV2)232mを生成してメモリに格納する。
次にフレームメモリ104から入力する表示用画像(LV3)についても、図11を参照して説明した処理と同様の処理が行われる。
表示用画像(LV3)に対する処理の結果として、メモリ302には、画素値加算を実行した画像(LV1+LV2+LV3)が格納される。
次に、記録用画像(CAP画像)の露光期間内に含まれる最後の表示用画像(LV4)に対する処理について、図12を参照して説明する。
フレームメモリ104から入力する表示用画像(LV4)234inは、セレクタ303を介して、そのまま出力される。記録用画像補正部121は、図に示す表示用画像(LV4)234outを信号処理部105内の画像補正部122に出力する。
画像補正部122において、例えばホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理が実行され、表示部107に表示される。
さらに、上記処理に加え、フレームメモリ104から入力する表示用画像(LV4)234inは、加算器301において、メモリ302に先行して格納された表示用画像(LV1+LV2+LV3)233mと画素値加算処理を行い、その加算結果をメモリ302に格納する。
この結果、画素値加算画像(LV1+LV2+LV3+LV4)234mがメモリ302に格納される。
図4を参照して説明した設定では、この表示用画像(LV4)の露光終了タイミングと同じタイミングで記録用画像(CAP画像)の露光が終了する。
記録用画像(CAP画像)の露光が終了すると、記録用画像(CAP画像)がフレームメモリ104に格納される。
ただし、フレームメモリ104に格納される記録用画像(CAP画像)は、先に図5を参照して説明したように、表示用画像(LV画像)として利用された画素の画素値が記録用画像(CAP画像)の露光期間に対応した画素値を有していない欠陥画素を含む画像である。
信号処理部105の記録用画像補正部121が、この欠陥画素を補正する。すなわち、欠陥画素の画素値を、記録用画像(CAP画像)の露光期間に対応した画素値に設定する処理を行う。
図13を参照して、フレームメモリ104に格納された欠陥画素を含む記録用画像(CAP画像)を入力して、欠陥画素の補正を行う信号処理部105の記録用画像補正部121の処理について説明する。
図13に示すように、シャッタースピードに応じた露光期間が終了し、フレームメモリ104に格納された欠陥あり記録用画像(CAP1)241inが信号処理部105の記録用画像補正部121に入力される。
欠陥あり記録用画像(CAP1)241inは、加算器304において、メモリ302に格納された表示用画像加算画像(LV1+LV2+LV3+LV4)234mと加算される。
表示用画像加算画像(LV1+LV2+LV3+LV4)234mは、欠陥あり記録用画像(CAP1)241inの露光期間内の露光処理によって生成された表示用画像の画素値の総和であり、図5を参照して説明したLV画素出力画素51のみによって構成された画像である。
すなわち、この表示用画像加算画像(LV1+LV2+LV3+LV4)234mの構成画素値は、欠陥あり記録用画像(CAP1)241inの露光期間と同じ露光期間の露光処理によって生成された画素値を持つ。
ただし、この表示用画像加算画像(LV1+LV2+LV3+LV4)234mは、図5を参照して説明したLV画素出力画素51のみを構成画素としている。
一方、欠陥あり記録用画像(CAP1)241inは、図5を参照して説明したLV画素出力画素51以外の画素は、シャッタースピードに応じた記録画像(CAP画像)の露光期間に応じた画素値が設定されているが、LV画素出力画素51の画素値は、シャッタースピードに応じた記録画像(CAP画像)の露光期間に応じた画素値が設定されていない。
加算器304は、欠陥あり記録用画像(CAP1)241inのLV画素出力画素51位置の画素値に、メモリ302から読み出した表示用画像加算画像(LV1+LV2+LV3+LV4)234mの画素値を加算する処理を行う。
この処理により、欠陥あり記録用画像(CAP1)241inのLV画素出力画素51位置の画素値は、シャッタースピードに応じた記録画像(CAP画像)の露光期間に応じた画素値に補正される。
この加算処理によって補正処理が行われた記録用画像(CAP画像)がセレクタ306を介して出力される。
図13に示す欠陥なし記録用画像(CAP1)241outである。
図13に示す欠陥なし記録用画像(CAP1)241outは、信号処理部105内の画像補正部122に出力され、画像補正部122において、例えばホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理が実行され、その後、記録部108に格納される。
本開示の撮像装置は、このように、記録用画像(CAP画像)の露光期間においても、表示部に対する表示用画像(LV画像)を生成して表示するとともに、記録用画像(CAP画像)の露光期間内の表示用画像(LV画像)の加算画素値をメモリに格納する。
記録用画像(CAP画像)の露光期間が終了すると、メモリに格納した表示用画像(LV画像)の加算画素値を利用して、記録用画像(CAP画像)の補正を行う。
これらの一連の処理により、記録用画像(CAP画像)の露光期間内に表示部に表示用画像(LV画像)を継続して表示し、さらに、記録用画像(CAP画像)の画素値もすべて、シャッタースピードに応じた露光期間の露光処理が実行されたと同様の画素値に設定した高品質な記録用画像を生成して記録することが可能となる。
図10〜図12を参照して表示用画像(LV1〜LV4)のメモリ302への格納処理と、表示部107への表示処理例を説明した。上記処理例において、表示部107に対する表示用画像(LVn)は、記録用画像補正部121に対する入力画像を、セレクタ303を介してそのまま出力するものとして説明した。
上記処理とは異なる画像表示を行う処理例について説明する。
以下に説明する処理例は、メモリ302に格納した加算画像を表示部107に表示するものである。この処理例について、図14以下を参照して説明する。
図14は、先に図11を参照して説明した表示用画像(LV2)の処理タイミングと同様の処理タイミングの加算画像表示例である。
先に図11を参照して説明した例では、フレームメモリ104から入力する表示用画像(LV2)232inが、セレクタ303を介して、そのまま出力され、表示部107に表示される。
一方、図14に示す処理例では、フレームメモリ104から入力する表示用画像(LV2)232inは、加算器301において、メモリ302に先行して格納された表示用画像(LV1)と画素値加算処理が行われ、この加算結果(LV1+LV2)を、表示用画像として、セレクタ303を介して出力する。
記録用画像補正部121は、図に示す表示用画像(LV1+LV2)232out'を信号処理部105内の画像補正部122に出力する。
画像補正部122において、例えばホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理が実行され、表示部107に表示される。
このように、本処理例では、フレームメモリ104から入力する表示用画像(LV2)232inを表示部107に表示する構成ではなく、メモリ302に先行して格納された表示用画像(LV1)231mとの画素値加算を行って生成した加算結果を表示用画像(LV1+LV2)232out'として出力し、表示部107に表示する。
後続して、記録用画像補正部121に入力する表示用画像(LV3,LV4)に対しても同様の処理を行う。
例えば、先に説明した図12の設定では、フレームメモリ104から入力する表示用画像(LV4)234inが、セレクタ303を介して、そのまま出力され、表示部107に表示される。
図15は、先に図12を参照して説明した表示用画像(LV4)の処理タイミングと同様の処理タイミングの加算画像表示処理例である。
図15に示す処理例では、フレームメモリ104から入力する表示用画像(LV4)234inは、加算器301において、メモリ302に先行して格納された表示用画像(LV1+LV2+LV3)233mと画素値加算処理が行われ、この加算結果(LV1+LV2+LV3+LV4)を、表示用画像として、セレクタ303を介して出力する。
このように、加算結果を表示部に出力する表示用画像として利用する構成としてもよい。
なお、先に図10〜図12を参照して説明したように、表示用画像(LV1〜LV4)を個別に表示部107に出力する設定と、図14〜図15を参照して説明したように、表示用画像(LV1〜LV4)の加算結果を表示部107に出力する設定とをユーザの入力により切り替え可能な構成としてもよい。
いずれの処理を選択した場合でも、記録用画像(CAP画像)の露光期間内に表示部に表示用画像(LV画像)を継続して表示し、さらに、記録用画像(CAP画像)の画素値もすべて、シャッタースピードに応じた露光期間の露光処理が実行されたと同様の画素値に設定した高品質な記録用画像を生成して記録することが可能となる。
なお、図4や、図9〜図15を参照して説明した記録用画像補正部121の処理例は、記録用画像(CAP画像)の露光開始タイミングと露光終了タイミングが、表示用画像(LV画像)の露光開始タイミングと露光終了タイミングに一致する例として説明したが、必ずしもこれらのタイミングが一致するとは限らない。
例えば、図16に示すように、記録用画像(CAP画像)の露光開始タイミングが、規定の表示用画像(LV1)の露光処理期間の途中に設定されることもある。
同様に、記録用画像(CAP画像)の露光終了タイミングが、規定の表示用画像(LV1)の露光処理期間の途中に設定されることもある。
このような場合は、図10〜図13を参照して説明した処理では、正しい画素値設定ができなくなる。
この問題を解決する構成例について、図17を参照して説明する。
図17は、図16に示す表示用画像(LV1)に対する記録用画像補正部121の処理を説明する図である。
図16に示すように、記録用画像(CAP画像)の露光開始タイミングは、規定の表示用画像(LV1)の露光処理期間の途中に設定されている。
この場合、表示用画像(LV1)の画素値をメモリ302に格納し、その後の表示用画像(LV2,3・・)の画素値と加算してしまうと、図16に示す記録用画像(CAP画像)の露光期間より長い露光処理の結果としての画素値がメモリ302に格納されてしまう。
このような状況を防止するため、図17に示す制御部110は、フレームメモリ104から入力する表示用画像(LV1)231inの露光期間と、記録用画像(CAP画像)の露光期間の重複率に相当する乗算パラメータα(α=0〜1)を算出し、乗算器311において、フレームメモリ104から入力する表示用画像(LV1)231inの画素値に乗算パラメータα(α=0〜1)を乗算して、加算器301〜メモリ302に出力する。
乗算パラメータαは、0〜1の範囲の値に設定される。
表示用画像(LV)の露光期間と、記録用画像(CAP画像)の露光期間の重複率が100%の場合は、α=1、0%の場合は、α=0となる。
このような乗算処理を行うことで、メモリ302に格納される表示用画像の加算値の画素値を記録用画像(CAP画像)の露光期間に一致した露光処理の結果として得られる画素値に調整することができる。
次に、上述した記録用画像(CAP画像)の欠陥画素の補正処理を、メモリに格納した表示用画像(LV画像)の加算画素値にを利用して実行する処理のシーケンスについて、図18に示すフローチャートを参照して説明する。
なお、図18に示すフローチャートに従った処理は、例えば撮像装置の記憶部に格納されたプログラムに従って、プログラム実行機能を有するCPU等を有する制御部の制御の下で実行される。
以下、図18に示すフローチャートの各ステップの処理について、順次、説明する。
(ステップS101)
まず、撮像装置の制御部は、ステップS101において、撮影が実行された(レリーズボタンが押下された)か否かを判定する。
撮影が実行された(レリーズボタンが押下された)と判定した場合は、ステップS102に進む。
一方、撮影が実行されていないと判定した場合は、ステップS111に進む。
(ステップS102)
ステップS101で、撮影が実行された(レリーズボタンが押下された)と判定した場合は、ステップS102に進む。
ステップS102では、表示部に出力する表示用画像(LV画像)を規定出力間隔で表示部に表示し、さらに、表示用画像(LV画像)の加算画像をメモリに格納する処理を実行する。
この処理は、先に図8〜図17を参照して説明した記録用画像補正部121の構成を利用した処理である。
(ステップS103)
次に、ステップS103において、制御部は、記録用画像(CAP画像)の露光期間が終了したか否かを判定する。
記録用画像(CAP画像)の露光期間が終了していないと判定した場合は、ステップS102の処理を継続する。
一方、記録用画像(CAP画像)の露光期間が終了したと判定した場合は、ステップS104に進む。
(ステップS104)
ステップS103で、記録用画像(CAP画像)の露光期間が終了したと判定した場合は、ステップS104に進む。ステップS104では、血管画素を含む記録用画像(CAP画像)と、メモリに格納された表示用画像(LV画像)の加算画像との合成処理を実行して、欠陥画素の画素値を補正した欠陥なし記録用画像(CAP画像)を生成して、画像記録処理を実行する。
この処理は、先に図8〜図17を参照して説明した記録用画像補正部121の構成を利用した処理である。
(ステップS111)
ステップS101において、撮影が実行されていない(レリーズボタンが押下されていない)と判定した場合は、ステップS111に進む。
ステップS111では、表示部に対する表示用画像(LV画像)の表示処理を実行する。
この処理は、先に図9を参照して説明した記録用画像補正部121の構成を利用した処理である。
[5.メカシャッターを有する撮像装置の場合の処理例について]
次に、メカシャッターを有する撮像装置の場合の処理例について説明する。
撮像装置には、撮像実行時のシャッター動作を電子的に行う電子シャッター方式の撮像装置と、シャッター動作をメカニカル動作として実行するメカシャッター方式の撮像装置がある。
電子シャッター方式、メカシャッター方式、いずれの撮像装置も、撮像素子の露光処理と、露光済み画素の読み出し処理は、撮像素子の上部ラインから下部ラインに向かって順次、実行する。
電子シャッター方式の場合は、撮像素子の露光処理開始前のリセット処理(撮像素子の電荷掃出し処理)後の電子シャッター駆動による撮像素子上部ラインから下部ラインまでの露光開始(または終了)速度と、露光済み画素の読み出し(リード)処理の速度を一致させることが可能となる。
すなわち、先に説明した図4や図16の(b)撮像素子露光&メモリ出力処理の欄に示す記録用画像(CAP)の露光処理の上部ラインから下部ラインの傾斜と、各表示用画像(LVn)の読み出し処理に相当する上部ラインから下部ラインの傾斜を一致させることが可能となる。
しかし、メカシャッター方式の場合は、撮像素子の露光処理開始前のリセット処理(撮像素子の電荷掃出し処理)後の電子シャッター駆動による撮像素子上部ラインから下部ラインまでの露光開始(または終了)速度と、露光済み画素の読み出し(リード)処理の速度を一致させることは困難である。
図19を参照して、メカシャッター方式の撮像装置における記録用画像(CAP)の露光処理例について説明する。
図19は、先に説明した電子シャッター方式の撮像装置の記録用画像(CAP)の露光処理、すなわち、図4や図16の(b)撮像素子露光&メモリ出力処理の欄に示す記録用画像(CAP)の露光処理と同様の処理を、メカシャッター方式の撮像装置で実行した場合の処理例を示す図である。
記録用画像(CAP)の露光処理は、時間Tcsに開始し、Tceに終了する。
ただし、これらの時間Tcs、Tceは、撮像素子の最上部の画素ラインの露光開始時間と、露光終了時間である。図に示すメカ先幕の処理である。
撮像素子の最下部の画素ラインの露光開始時間と、露光終了時間は、それぞれメカシャッターの駆動時間によって、時間(tm)だけ遅延し、露光開始時間=Tcs+tm、露光終了時間=Tce+tmとなる。図に示すメカ後幕の処理である。
さらに、この記録用画像(CAP)の露光期間内に、複数の表示用画像(LV1〜LV4)を順次、読み出す処理を行うと仮定する。
撮像素子から露光済み画素を読み出す(リード)処理は、図19に示す[読み出し処理]の点線ラインに従って、撮像素子の最上部の画素ラインから最下部の画素ラインに向かった順次行われる。
この図19から理解されるように、[読み出し処理]の点線ラインの傾斜は、記録用画像(CAP)の[露光開始]時、および[露光終了]時の実線で示す傾斜(Tcs〜Tcs+m、およびTce〜Tce+m)より、緩やかな傾斜となっている。
すなわち、撮像素子上部ラインから下部ラインまでの露光開始(終了)速度と、露光済み画素の読み出し(リード)処理の速度が一致していない。
このような状況において、記録用画像(CAP)の露光処理の開始直後の表示用画像(LV1)を読み出すと、図19に示すように、表示用画像(LV1)の最上部画素ラインの露光時間はtpであるが、最下部画素ラインの露光時間はtpより長いtqとなる。このように画素位置によって露光時間が異なる画像となってしまう。
さらに、記録用画像(CAP)の露光処理の終了直前の表示用画像(LV4)も同様の問題、すなわち、画素位置によって露光時間が異なる画像となってしまう。
メカシャッターの場合、このような問題が生じる。
従って、メカシャッターを用いた撮像装置では、記録用画像(CAP)の露光処理の開始直後の表示用画像(LV1)と、終了直前の表示用画像(LV4)の表示処理は行わず、これら両サイド以外の表示用画像を選択して表示処理を行う。
図19から理解されるように、記録用画像(CAP)の露光処理の開始後の2番目以降の表示用画像(LV2)は、すべての画素位置において同じ露光時間trとなり、正常な画像となる。
なお、メカシャッターを用いた撮像装置においても、上記の記録用画像(CAP)の露光処理の開始直後の表示用画像(LV1)と、終了直前の表示用画像(LV4)の表示処理を行わないことを除いては、先に図9〜図18を参照して説明した電子シャッターを用いた撮像装置の処理と同様の処理を行う。
すなわち、メモリ302に対して、記録用画像(CAP)の露光処理期間の全ての表示用画像(LV1〜LV4)の画素値加算結果をメモリ302に格納し、メモリ302に格納された画素値加算結果を用いて、記録用画像(CAP)の補正処理を行って記録用画像(CAP)を出力する。
[6.記録用画像の欠陥画素を周囲画素の画素値に基づいて補正する実施例について]
上述した実施例は、記録用画像の露光期間における表示用画像の画素値を蓄積加算して、記録用画像の欠陥画素の画素値補正を実行する処理を行う実施例である。
次に、記録用画像の露光期間における表示用画像の画素値の蓄積加算結果を用いることなく、記録用画像の欠陥画素の補正処理を行う実施例について説明する。
具体的には、記録用画像の欠陥画素を周囲画素の画素値に基づいて補正する十例である。
なお、本実施例においても、撮像装置の構成は、図6を参照して説明した構成を有し、信号処理部105の構成も、先に図7を参照して説明したと同様、記録用画像補正部121と、画像補正部122を有する。
記録用画像補正部121の構成は、図8を参照して説明した構成と同様の構成である。
図20を参照して、本実施例における記録用画像補正部121を適用した処理、すなわち、記録用画像の欠陥画素を周囲画素の画素値に基づいて補正する処理について説明する。
記録用画像(CAP画像)の露光が終了すると、記録用画像(CAP画像)がフレームメモリ104に格納される。
ただし、フレームメモリ104に格納される記録用画像(CAP画像)は、先に図5を参照して説明したように、表示用画像(LV画像)として利用された画素の画素値が記録用画像(CAP画像)の露光期間に対応した画素値を有していない欠陥画素を含む画像である。
本実施例では、記録用画像補正部121の欠陥補正部305が、この欠陥画素を補正する。すなわち、欠陥画素の画素値を、記録用画像(CAP画像)の露光期間に対応した画素値に設定する処理を行う。
図20に示すように、シャッタースピードに応じた露光期間が終了し、フレームメモリ104に格納された欠陥あり記録用画像(CAP1)241inが信号処理部105の記録用画像補正部121に入力される。
欠陥あり記録用画像(CAP1)241inは、欠陥補正部305に入力される。
欠陥補正部305は、欠陥画素を周囲画素の画素値に基づいて補正する処理を実行する。
この補正処理の具体例について、図21を参照して説明する。
図21には、欠陥あり記録用画像350を示している。
欠陥あり記録用画像350には、表示用画像(LV画像)の出力に利用された欠陥画素、すなわち記録用画像の露光期間に応じた画素値に設定されていない欠陥画素351が含まれる。
欠陥補正部305は、この欠陥画素の画素値を欠陥画素351の周囲の画素の画素値に基づいて推定して補正する。具体的には、図21の下部の図に示すように、欠陥画素351の周囲の8画素を参照画素352とし、参照画素352の画素値に基づいて、欠陥画素351の画素値を推定して、推定値を欠陥画素351の画素値として設定する。
例えば、欠陥画素351の周囲の8画素の平均値を欠陥画素351の画素値として設定する。
なお、図21に示す例では、欠陥画素の周囲8画素を参照画素とした例であるが、これは一例であり、参照画素の範囲は、様々な設定が可能である。
図20に示す欠陥補正部305は、欠陥あり記録用画像(CAP1)241inの欠陥画素の画素値を全て補正して、欠陥なし記録用画像(CAP1)241outを生成して、セレクタ306を介して出力する。
セレクタ306を介して出力された欠陥なし記録用画像(CAP1)241outは、信号処理部105内の画像補正部122に出力され、画像補正部122において、例えばホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理が実行され、その後、記録部108に格納される。
このように、本実施例では、記録用画像(CAP画像)の露光期間においても、表示部に対する表示用画像(LV画像)を生成して表示するとともに、記録用画像(CAP画像)の露光期間後、記録用画像(CAP画像)の欠陥画素を、周囲の正常画素を利用して補正する処理を行う。
これらの一連の処理により、記録用画像(CAP画像)の露光期間内に表示部に表示用画像(LV画像)を継続して表示し、さらに、記録用画像(CAP画像)の画素値もすべて、シャッタースピードに応じた露光期間の露光処理が実行されたと同様の画素値に設定した高品質な記録用画像を生成して記録することが可能となる。
[7.その他の実施例について]
次に、その他の実施例について説明する。
先に図6を参照して本開示の処理を実行する撮像装置の一例について説明した。
本開示の処理は、図6に示す撮像装置100の構成と異なる構成を有する撮像装置においても適用可能である。
図22に本開示の処理を実行可能な図6に示す構成とは異なる構成を有する撮像装置400の構成例を示す。
図22に示す撮像装置400は、光学レンズ101、撮像素子デバイス410、信号処理部(信号処理LSI)105、メモリ106、表示部(LCD/EVF)107、記録部108、操作部109、制御部110を有する。
撮像素子デバイス410以外の構成は、先に図6を参照して説明した構成と同様である。
図22に示す撮像装置400の撮像素子デバイス410は、撮像素子411、AD変換部412、フレームメモリ413、記録用画像補正部414を有する。
光学レンズ101を介して入射される光は撮像素子デバイス410の撮像素子411、例えばCMOSイメージセンサなどによって構成される撮像素子411に入射し、撮像素子411は、光電変換による画像データを同じ撮像デバイス410内に構成されたAD変換部412に出力する。
撮像デバイス410内のAD変換部412は、入力信号のA/D変換、すなわちアナログ信号をデジタル信号に変換する処理を実行して、変換後のデジタル値を、同じ撮像デバイス410内に構成されたフレームメモリ413に格納する。
フレームメモリ413に格納された画像フレームは、同じ撮像デバイス410内に構成された記録用画像補正部414に入力される。
記録用画像補正部414は、先に図8を参照して説明した記録用画像補正部121と同様の構成を有し、同様の処理を実行する。
すなわち、図22に示す撮像装置400は、撮像デバイス410の内部で、記録用画像(CAP画像)の欠陥画素の補正処理を実行する。
信号処理部(信号処理LSI)105は、撮像デバイス410の記録用画像補正部414から画像データを入力して信号処理を行う。
記録用画像補正部414は、先に図7を参照して説明した信号処理部105の画像補正部122の機能のみを有する。
すなわち、例えばホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理を実行して出力画像を生成する。
以下の処理は、先に図6を参照して説明した撮像装置100の処理と同様の処理となる。
図22に示す撮像装置400は、撮像デバイス410内に、撮像素子411、AD変換部412、フレームメモリ413、記録用画像補正部414を有する点が特徴である。
この撮像デバイス410には、制御部110から制御信号、同期信号が入力され、同期信号に基づいて処理の開始、変更、終了等、更新処理が行われる。
この図22に示す撮像装置400の構成においても、先に説明した図6の撮像装置100と同様、記録用画像(CAP画像)の露光期間内に表示部に表示用画像(LV画像)を継続して表示し、さらに、記録用画像(CAP画像)の画素値もすべて、シャッタースピードに応じた露光期間の露光処理が実行されたと同様の画素値に設定した高品質な記録用画像を生成して記録することが可能となる。
[8.本開示の構成のまとめ]
以上、特定の実施例を参照しながら、本開示の実施例について詳解してきた。しかしながら、本開示の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本開示の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
なお、本明細書において開示した技術は、以下のような構成をとることができる。
(1) 第1画素数の第1画像を取得するための露光期間中、前記第1画素数よりも少ない第2画素数の第2画像を出力する撮像素子と、
前記第1画像を構成する画素中、前記第2画像を構成する画素に対応する画素の画素値を補正する画像補正部と、
を備える撮像装置。
(2) 前記画像補正部は、前記第1画像を構成する画素の画素値を、前記第1画像を取得する露光期間の露光処理を行ったと同様の画素値に補正する、
(1)に記載の撮像装置。
(3) 前記画像補正部は、前記第2画像を構成する画素の画素値に基づいて、前記第1画像を構成する画素の画素値を補正する、
(1)または(2)に記載の撮像装置。
(4) 前記撮像装置は、
前記撮像素子による撮影画像を格納するフレームメモリを有し、
前記画像補正部は、前記フレームメモリの格納画像を入力して画素値を補正する、
(1)〜(3)いずれかに記載の撮像装置。
(5) 前記第1画像は、記録用画像であり、前記第2画像は、表示用画像である、
(1)〜(4)いずれかに記載の撮像装置。
(6) 前記画像補正部は、
前記第1画像を構成する画素中、前記第2画像の出力に起因して発生する欠陥画素の画素値を、前記第1画像の露光期間の露光処理を行ったと同様の画素値に補正する、
(1)〜(5)いずれかに記載の撮像装置。
(7) 前記画像補正部は、
前記前記第1画像の露光期間中に、前記撮像素子から出力された前記第2画像の画素値の加算値を、前記第1画像の補正対象画素の画素値に加算する処理を行う、
(1)〜(6)いずれかに記載の撮像装置。
(8) 前記画像補正部は、
前記第1画像の露光期間中に、前記撮像素子から出力された前記第2画像の画素値の加算値を格納するメモリを有し、
前記メモリに格納された値を、前記第1画像の補正対象画素の画素値に加算する処理を行う、
(1)〜(7)いずれかに記載の撮像装置。
(9) 前記画像補正部は、
前記第2画像が、前記第1画像の露光期間内に撮影された画像である場合、前記第2画像像の画素値を前記メモリに格納する処理を行う、
(8)に記載の撮像装置。
(10) 前記画像補正部は、
前記第2画像が、前記第1画像の露光期間内に撮影された画像である場合、前記第2画像の画素値を前記メモリに格納するとともに、表示部に対する表示用画像として出力する処理を行う、
(8)に記載の撮像装置。
(11) 前記画像補正部は、
前記第2画像の露光期間が、前記第1画像の露光期間の一部に重複する場合、前記第2画像の画素値に対して、前記第2画像の露光期間と、前記第1画像の露光期間の重複率を乗算した値を前記メモリに格納する処理を行う、
(8)に記載の撮像装置。
(12) 前記画像補正部は、
前記第1画像の補正対象画素に対して、該補正対象画素の周囲画素を参照画素とし、参照画素の画素値に基づく画素値補正を実行する、
(1)〜(11)いずれかに記載の撮像装置。
(13) 前記参照画素は、前記補正対象画素の周囲の8画素である、
(12)に記載の撮像装置。
(14) 前記画像補正部は、
前記第1画像、および前記第2画像を生成する信号処理部内に構成されている、
(1)〜(13)ていずれかに記載の撮像装置。
(15) 前記画像補正部は、
前記撮像素子と、前記撮像素子の出力信号に対するAD変換処理を実行するAD変換部と、前記AD変換部の生成したデジタル信号を格納するフレームメモリを構成要素とする撮像デバイス内に構成されている(1)〜(13)いずれかに記載の撮像装置。
(16) 撮像装置において実行する画像処理方法であり、
撮像素子が、第1画素数の第1画像を取得するための露光期間中、前記第1画素数よりも少ない第2画素数の第2画像を出力し、
画像補正部が、前記第1画像を構成する画素中、前記第2画像を構成する画素に対応する画素の画素値を補正する、
画像処理方法。
(17) 撮像装置において画像処理を実行させるプログラムであり、
撮像素子に、第1画素数の第1画像を取得するための露光期間中、前記第1画素数よりも少ない第2画素数の第2画像を出力させ、
画像補正部に、前記第1画像を構成する画素中、前記第2画像を構成する画素に対応する画素の画素値を補正させる、
プログラム。
また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。例えば、プログラムは記録媒体に予め記録しておくことができる。記録媒体からコンピュータにインストールする他、LAN(Local Area Network)、インターネットといったネットワークを介してプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
以上、説明したように、本開示の一実施例の構成によれば、記録用画像の露光期間内においても表示用画像を出力し、かつ高画質の記録用画像を生成可能とした装置、方法が実現される。
具体的には、例えば、撮像素子は、高画素数の記録用画像の露光期間中、撮像素子の構成画素を間引きした低画素数の表示用画像の出力を実行する。記録用画像補正部は、フレームメモリから露光期間経過後の記録用画像を入力し、記録用画像の構成画素中、撮像素子からの表示用画像出力に起因して発生する欠陥画素の画素値を、記録用画像の露光期間内に出力された表示用画像の画素値の加算値を利用して補正することで、記録用画像の露光期間の露光処理を行ったと同様の画素値に補正する。
これらの処理により、記録用画像の露光期間内においても表示用画像を出力し、かつ高画質の記録用画像を生成可能とした装置、方法が実現される。
11 光学レンズ
12 撮像素子
13 AD変換部
14 フレームメモリ
15 信号処理部
16 メモリ
21 表示部
22 記録部
50 フレームメモリ
51 LV画像出力画素
60 記録用画像(CAP画像)
101 光学レンズ
102 撮像素子
103 AD変換部
104 フレームメモリ
105 信号処理部
106 メモリ
107 表示部
108 記録部
109 操作部
110 制御部
121 記録用画像補正部
122 画像補正部
301,304 加算器
302 メモリ
303,306 セレクタ
305 欠陥補正部
350 欠陥あり記録用画像
351 欠陥画素(LV画像出力画素)
400 撮像装置
410 撮像デバイス
411 撮像素子
412 AD変換部
413 フレームメモリ
414 記録用画像補正部

Claims (17)

  1. 第1画素数の第1画像を取得するための露光期間中、前記第1画素数よりも少ない第2画素数の第2画像を出力する撮像素子と、
    前記第1画像を構成する画素中、前記第2画像を構成する画素に対応する画素の画素値を補正する画像補正部と、
    を備える撮像装置。
  2. 前記画像補正部は、前記第1画像を構成する画素の画素値を、前記第1画像を取得する露光期間の露光処理を行ったと同様の画素値に補正する、
    請求項1に記載の撮像装置。
  3. 前記画像補正部は、前記第2画像を構成する画素の画素値に基づいて、前記第1画像を構成する画素の画素値を補正する、
    請求項1に記載の撮像装置。
  4. 前記撮像装置は、
    前記撮像素子による撮影画像を格納するフレームメモリを有し、
    前記画像補正部は、前記フレームメモリの格納画像を入力して画素値を補正する、
    請求項1に記載の撮像装置。
  5. 前記第1画像は、記録用画像であり、前記第2画像は、表示用画像である、
    請求項1に記載の撮像装置。
  6. 前記画像補正部は、
    前記第1画像を構成する画素中、前記第2画像の出力に起因して発生する欠陥画素の画素値を、前記第1画像の露光期間の露光処理を行ったと同様の画素値に補正する、
    請求項1に記載の撮像装置。
  7. 前記画像補正部は、
    前記前記第1画像の露光期間中に、前記撮像素子から出力された前記第2画像の画素値の加算値を、前記第1画像の補正対象画素の画素値に加算する処理を行う、
    請求項1に記載の撮像装置。
  8. 前記画像補正部は、
    前記第1画像の露光期間中に、前記撮像素子から出力された前記第2画像の画素値の加算値を格納するメモリを有し、
    前記メモリに格納された値を、前記第1画像の補正対象画素の画素値に加算する処理を行う、
    請求項1に記載の撮像装置。
  9. 前記画像補正部は、
    前記第2画像が、前記第1画像の露光期間内に撮影された画像である場合、前記第2画像像の画素値を前記メモリに格納する処理を行う、
    請求項8に記載の撮像装置。
  10. 前記画像補正部は、
    前記第2画像が、前記第1画像の露光期間内に撮影された画像である場合、前記第2画像の画素値を前記メモリに格納するとともに、表示部に対する表示用画像として出力する処理を行う、
    請求項8に記載の撮像装置。
  11. 前記画像補正部は、
    前記第2画像の露光期間が、前記第1画像の露光期間の一部に重複する場合、前記第2画像の画素値に対して、前記第2画像の露光期間と、前記第1画像の露光期間の重複率を乗算した値を前記メモリに格納する処理を行う、
    請求項8に記載の撮像装置。
  12. 前記画像補正部は、
    前記第1画像の補正対象画素に対して、該補正対象画素の周囲画素を参照画素とし、参照画素の画素値に基づく画素値補正を実行する請求項1に記載の撮像装置。
  13. 前記参照画素は、前記補正対象画素の周囲の8画素である、
    請求項12に記載の撮像装置。
  14. 前記画像補正部は、
    前記第1画像、および前記第2画像を生成する信号処理部内に構成されている、
    請求項1に記載の撮像装置。
  15. 前記画像補正部は、
    前記撮像素子と、前記撮像素子の出力信号に対するAD変換処理を実行するAD変換部と、前記AD変換部の生成したデジタル信号を格納するフレームメモリを構成要素とする撮像デバイス内に構成されている、
    請求項1に記載の撮像装置。
  16. 撮像装置において実行する画像処理方法であり、
    撮像素子が、第1画素数の第1画像を取得するための露光期間中、前記第1画素数よりも少ない第2画素数の第2画像を出力し、
    画像補正部が、前記第1画像を構成する画素中、前記第2画像を構成する画素に対応する画素の画素値を補正する、
    画像処理方法。
  17. 撮像装置において画像処理を実行させるプログラムであり、
    撮像素子に、第1画素数の第1画像を取得するための露光期間中、前記第1画素数よりも少ない第2画素数の第2画像を出力させ、
    画像補正部に、前記第1画像を構成する画素中、前記第2画像を構成する画素に対応する画素の画素値を補正させる、
    プログラム。
JP2019532414A 2017-07-24 2018-05-31 撮像装置、および画像処理方法、並びにプログラム Active JP7176518B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017142599 2017-07-24
JP2017142599 2017-07-24
PCT/JP2018/020909 WO2019021626A1 (ja) 2017-07-24 2018-05-31 撮像装置、および画像処理方法、並びにプログラム

Publications (2)

Publication Number Publication Date
JPWO2019021626A1 true JPWO2019021626A1 (ja) 2020-05-28
JP7176518B2 JP7176518B2 (ja) 2022-11-22

Family

ID=65039539

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019532414A Active JP7176518B2 (ja) 2017-07-24 2018-05-31 撮像装置、および画像処理方法、並びにプログラム

Country Status (4)

Country Link
US (1) US11394907B2 (ja)
JP (1) JP7176518B2 (ja)
CN (1) CN110915196B (ja)
WO (1) WO2019021626A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7612805B2 (en) * 2006-07-11 2009-11-03 Neal Solomon Digital imaging system and methods for selective image filtration
JP7545238B2 (ja) 2019-07-23 2024-09-04 キヤノン株式会社 撮像装置およびその制御方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000224490A (ja) * 1999-02-03 2000-08-11 Fuji Photo Film Co Ltd 撮像制御装置および撮像制御方法
JP2005117494A (ja) * 2003-10-09 2005-04-28 Konica Minolta Photo Imaging Inc 撮像装置
JP2013255188A (ja) * 2012-06-08 2013-12-19 Sony Corp 撮像素子、撮像装置、撮像方法およびプログラム
WO2014006785A1 (ja) * 2012-07-06 2014-01-09 富士フイルム株式会社 撮像装置及び画像処理方法
JP2015103945A (ja) * 2013-11-25 2015-06-04 キヤノン株式会社 撮像装置及び画像信号処理方法

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1243635A (zh) * 1997-01-10 2000-02-02 松下电器产业株式会社 图像处理方法、图像处理装置及数据记录媒体
US6529618B1 (en) * 1998-09-04 2003-03-04 Konica Corporation Radiation image processing apparatus
JP4415024B2 (ja) 2007-01-30 2010-02-17 株式会社ソニー・コンピュータエンタテインメント 文字入力装置、その制御方法、プログラム及び情報記憶媒体
KR20090013101A (ko) * 2007-07-31 2009-02-04 가부시키가이샤 니콘 촬상 장치
JP2009076978A (ja) * 2007-09-18 2009-04-09 Fujifilm Corp 電子カメラおよびその撮影方法
JP4424403B2 (ja) * 2007-09-28 2010-03-03 ソニー株式会社 撮像装置、撮像方法及び撮像プログラム
JP2009296134A (ja) * 2008-06-03 2009-12-17 Olympus Imaging Corp 撮像装置
JP5180687B2 (ja) * 2008-06-03 2013-04-10 キヤノン株式会社 撮像装置及び補正方法
JP4661922B2 (ja) * 2008-09-03 2011-03-30 ソニー株式会社 画像処理装置、撮像装置、固体撮像素子、画像処理方法およびプログラム
WO2010030287A1 (en) * 2008-09-15 2010-03-18 Hewlett-Packard Development Company, L .P. Minimally processing displayed images captured from a burst
JP5400406B2 (ja) * 2009-02-06 2014-01-29 キヤノン株式会社 撮像装置
US8531537B2 (en) * 2010-09-08 2013-09-10 Olympus Corporation Imaging apparatus for processing still picture signals and live view signals output from an image sensor
US8891866B2 (en) * 2011-08-31 2014-11-18 Sony Corporation Image processing apparatus, image processing method, and program
JP5740054B2 (ja) * 2012-07-06 2015-06-24 富士フイルム株式会社 撮像装置及び画像処理方法
WO2014006783A1 (ja) * 2012-07-06 2014-01-09 富士フイルム株式会社 撮像装置及び画像処理方法
JP5931206B2 (ja) * 2012-09-19 2016-06-08 富士フイルム株式会社 画像処理装置、撮像装置、プログラム及び画像処理方法
JP6474737B2 (ja) * 2014-02-03 2019-02-27 オリンパス株式会社 固体撮像装置および撮像システム
JP6289184B2 (ja) * 2014-03-14 2018-03-07 オリンパス株式会社 画像認識装置および画像認識方法
CN109196857B (zh) * 2016-06-01 2020-10-27 富士胶片株式会社 成像元件及摄像装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000224490A (ja) * 1999-02-03 2000-08-11 Fuji Photo Film Co Ltd 撮像制御装置および撮像制御方法
JP2005117494A (ja) * 2003-10-09 2005-04-28 Konica Minolta Photo Imaging Inc 撮像装置
JP2013255188A (ja) * 2012-06-08 2013-12-19 Sony Corp 撮像素子、撮像装置、撮像方法およびプログラム
WO2014006785A1 (ja) * 2012-07-06 2014-01-09 富士フイルム株式会社 撮像装置及び画像処理方法
JP2015103945A (ja) * 2013-11-25 2015-06-04 キヤノン株式会社 撮像装置及び画像信号処理方法

Also Published As

Publication number Publication date
CN110915196A (zh) 2020-03-24
CN110915196B (zh) 2023-01-10
US11394907B2 (en) 2022-07-19
US20200177828A1 (en) 2020-06-04
WO2019021626A1 (ja) 2019-01-31
JP7176518B2 (ja) 2022-11-22

Similar Documents

Publication Publication Date Title
JP5574423B2 (ja) 撮像装置、表示制御方法及びプログラム
JP5889323B2 (ja) 撮像装置及び撮像装置の制御方法
US9241109B2 (en) Image capturing apparatus, control method, and recording medium for moving image generation
EP2863626A1 (en) Imaging device and control method for imaging device
JP5889324B2 (ja) 撮像装置及び撮像装置の制御方法
CN107547801B (zh) 能够间歇地拍摄图像的摄像设备及其控制方法和记录介质
JP6370207B2 (ja) 撮像装置、画像処理装置、撮像方法、およびプログラム
US10230899B2 (en) Image capturing apparatus capable of intermittently capturing images, method for controlling the same, and storage medium
JP5482799B2 (ja) 電子カメラ
JP6333095B2 (ja) 撮像装置およびその制御方法ならびにプログラム
JP7014222B2 (ja) 撮像装置、および画像処理方法、並びにプログラム
JP6250098B2 (ja) 撮像装置および撮像方法
US10839497B2 (en) Image processing apparatus and method
JP5661351B2 (ja) 撮像装置
JP7176518B2 (ja) 撮像装置、および画像処理方法、並びにプログラム
JP7014221B2 (ja) 撮像装置、および画像撮影制御方法、並びにプログラム
JP2013146110A (ja) 撮像装置及び方法、並びにプログラム
JP2019041399A (ja) 画像処理装置、画像処理方法及びプログラム
JP6107882B2 (ja) 撮像装置、表示制御方法及びプログラム
JP5945389B2 (ja) 撮影装置、撮影方法、およびプログラム
JP2012230260A (ja) 撮像装置及び制御方法
JP2010141551A (ja) 撮影装置および撮影装置の制御方法並びにプログラム
JP2017135732A (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220721

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221011

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221024

R151 Written notification of patent or utility model registration

Ref document number: 7176518

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151