JP6680377B2 - 撮像装置、撮像方法及びプログラム - Google Patents

撮像装置、撮像方法及びプログラム Download PDF

Info

Publication number
JP6680377B2
JP6680377B2 JP2019043923A JP2019043923A JP6680377B2 JP 6680377 B2 JP6680377 B2 JP 6680377B2 JP 2019043923 A JP2019043923 A JP 2019043923A JP 2019043923 A JP2019043923 A JP 2019043923A JP 6680377 B2 JP6680377 B2 JP 6680377B2
Authority
JP
Japan
Prior art keywords
transmittance
image data
imaging
imaging device
mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2019043923A
Other languages
English (en)
Other versions
JP2019097213A (ja
Inventor
崇 寺澤
崇 寺澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JP2019097213A publication Critical patent/JP2019097213A/ja
Application granted granted Critical
Publication of JP6680377B2 publication Critical patent/JP6680377B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • GPHYSICS
    • G02OPTICS
    • G02FOPTICAL DEVICES OR ARRANGEMENTS FOR THE CONTROL OF LIGHT BY MODIFICATION OF THE OPTICAL PROPERTIES OF THE MEDIA OF THE ELEMENTS INVOLVED THEREIN; NON-LINEAR OPTICS; FREQUENCY-CHANGING OF LIGHT; OPTICAL LOGIC ELEMENTS; OPTICAL ANALOGUE/DIGITAL CONVERTERS
    • G02F1/00Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics
    • G02F1/01Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour 
    • G02F1/13Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour  based on liquid crystals, e.g. single liquid crystal display cells
    • G02F1/133Constructional arrangements; Operation of liquid crystal cells; Circuit arrangements
    • G02F1/13306Circuit arrangements or driving methods for the control of single liquid crystal cells
    • G02F1/13318Circuits comprising a photodetector
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B11/00Filters or other obturators specially adapted for photographic purposes
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/587Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array

Description

本技術は、撮像素子により撮像を行う撮像装置などの技術に関する。
従来から、静止画及び動画を撮像可能な撮像装置が広く知られている(例えば、下記特許文献1参照)。
特許文献1に記載の撮像装置では、撮像素子において取得されたアナログ画像データがアナログ信号処理部へ出力される。アナログ信号処理部へ出力されたアナログ画像データは、アナログ信号処理(増幅等)が施された後、A/D変換部へ出力されてデジタル画像データへ変換される。このデジタル画像データは、デジタル信号処理部へ出力されて、デジタル信号処理部において、ノイズ除去処理、ホワイトバランス処理、色補正処理、エッジ強調処理、ガンマ補正処理等が施される。そして、これらの処理が施されたデジタル画像データがデジタル信号処理部から出力され、この画像データが液晶パネル上に表示され、また、記録デバイスに記憶される。
撮像素子から出力された画像データを適切な露光量の画像データとしてデジタル信号処理部から出力させるために、デジタル信号処理部内において露光量を調整するといった方法が用いられる場合がある。しかしながら、A/D変換部によるA/D変換の時点で明るすぎるような画像データは、その一部の諧調がA/D変換時に損なわれてしまう場合がある。このため、A/D変換の時点で損なわれてしまった部分については、デジタル信号処理部において復元することができないといった問題がある。
このため、一般的には、電子シャッターを調整する(撮像素子における露光時間を調整する)方法や、絞りの開度を調整する方法などが用いられる。
特開2012−104994号公報(段落[0038]、[0055]図3参照)
しかしながら、電子シャッターを調整する方法では、動解像度が乱れてしまい画像データの画質が劣化しまうといった問題がある。また、絞りの開度を調整する方法では、絞りボケが発生してしまったり、被写体深度が変動してしまったりするといった問題がある。このように、画質劣化などの観点から、従来においては、撮像素子から出力された画像データを適切な露光量の画像データとして出力することができないといった問題がある。
以上のような事情に鑑み、本技術の目的は、撮像素子から出力された画像データを適切な露光量の画像データとして出力することができる撮像装置などの技術を提供することにある。
本技術に係る撮像装置は、透過率調整部と、撮像素子と、制御部とを具備する。
前記透過率調整部は、印加電圧に応じて光の透過率を調整可能とされる。
前記撮像素子は、前記透過率調整部を透過した光を露光することにより撮像を行う。
前記制御部は、前記透過率調整部の透過率を第1の透過率に設定して前記撮像素子に撮像を行わせることによって第1の画像データを取得し、前記第1の画像データに基づいて、前記撮像素子において適切な露光量で撮像を行わせるため第2の透過率を算出し、前記透過率調整部の透過率を前記第2の透過率に設定して前記撮像素子に撮像を行わせることによって第2の画像データを取得し、取得された前記第2の画像データを出力する。
本技術に係る撮像装置では、透過率調整部の透過率が第1の透過率に設定されて撮像素子により撮像が行われ、第1の画像データが取得される。この第1の画像データは、撮像素子において適切な露光量で撮像を行わせるため第2の透過率を算出することに用いられる。この第1の画像データは、第2の透過率を算出することに用いられるデータであるため、このデータは、制御部からは出力されない。
第2の透過率が算出されると、透過率調整部の透過率が第2の透過率(適切な透過率)に設定されて撮像素子により撮像が行われ、第2の画像データが取得される。そして、この第2の画像データが制御部から出力される。このようにして、第2の画像データを制御部から出力することによって、撮像素子から出力された画像データを適切な露光量の画像データとして出力することができる。制御部から出力された第2の画像データは、例えば、表示用のデータや、記録用のデータとして用いられる。
上記撮像装置において、前記制御部は、前記透過率調整部の透過率を前記第2の透過率に設定して前記撮像部に撮像を行わせることによって前記第2の画像データ及び第3の画像データを取得し、前記第2の画像データ及び前記第3の画像データを加算し、加算された画像データを出力してもよい。
この撮像装置では、透過率調整部の透過率が第2の透過率(適切な透過率)に設定されている状態で2枚の画像データが取得される。そして、これらの2枚の画像が加算されて、ハイダイナミックレンジ(HDR:high Dynamic Range)画像データとして出力される。これにより、例えば、高輝度信号の諧調を保持したハイダイナミックレンジ画像データを出力することができる。
上記撮像装置において、前記制御部は、前記第1の透過率を可変に制御してもよい。
このように、第1の透過率を可変に制御することで、第1の透過率を適切に調整することができる。
上記撮像装置において、前記撮像素子は、複数の画素を有していてもよい。
この場合、前記制御部は、前記第1の画像データに基づいて前記第2の透過率を算出するとき、第1の画像データにおける全画素数に対する、飽和信号量に達している画素数の比率を判定し、前記比率に基づいて、第2の透過率を算出してもよい。
上記撮像装置において、前記制御部は、前記第1の画像データを取得し、前記第2の透過率を算出し、前記第2の画像データを取得し、前記第2の画像データを出力する一連の処理を繰り返して実行してもよい。
このような一連の処理を繰り返すことによって、撮像素子から出力された画像データを適切な露光量の画像データとして、常時、出力することができる。
上記撮像装置において、前記制御部は、前記第1の画像データを取得し、前記第2の透過率を算出し、前記第2の画像データ及び前記第3の画像データを取得し、前記第2の画像データ及び第3の画像データを加算し、加算された画像データを出力する一連の処理を繰り返して実行してもよい。
このような一連の処理を繰り返すことによって、例えば、高輝度信号の諧調を保持したハイダイナミックレンジ画像を、常時、出力することができる。
上記撮像装置において、前記透過率調整部は、液晶NDフィルタ(ND:Neutral Density)であってもよい。
透過率調整部として液晶NDフィルタを用いることによって、第1の透過率と、第2の透過率との間で、高速に透過率を切替えることができる。
本技術に係る画像データの出力方法は、印加電圧に応じて光の透過率を調整可能な透過率調整部の透過率を第1の透過率に設定して、前記透過率調整部を透過した光を露光する撮像素子に撮像を行わせることによって第1の画像データを取得することを含む。
前記第1の画像データに基づいて、前記撮像素子において適切な露光量で撮像を行わせるため第2の透過率が算出される。
前記透過率調整部の透過率が前記第2の透過率に設定されて前記撮像素子に撮像を行わせることによって第2の画像データが取得される。
取得された前記第2の画像データが出力される。
本技術に係るプログラムは、撮像装置に、
印加電圧に応じて光の透過率を調整可能な透過率調整部の透過率を第1の透過率に設定して、前記透過率調整部を透過した光を露光する撮像素子に撮像を行わせることによって第1の画像データを取得するステップと、
前記第1の画像データに基づいて、前記撮像素子において適切な露光量で撮像を行わせるため第2の透過率を算出するステップと、
前記透過率調整部の透過率を前記第2の透過率に設定して前記撮像素子に撮像を行わせることによって第2の画像データを取得するステップと
取得された前記第2の画像データを出力するステップと
を実行させる。
以上のように、本技術によれば、撮像素子から出力された画像データを適切な露光量の画像データとして出力することができる撮像装置などの技術を提供することができる。
本技術の第1実施形態に係る撮像装置を示すブロック図である。 本技術の第1実施形態に係る撮像装置の処理を示すフローチャートである。 1フレーム目の画像データにおける検波結果の一例を示す図である。 デジタル信号処理部に入力される2フレーム目の画像データの一例を示す図である。 本技術の第2実施形態に係る撮像装置の処理を示すフローチャートである。 2フレーム目の画像データと、3フレーム目の画像データとが加算されるときの様子を示す図である。
以下、本技術に係る実施形態を、図面を参照しながら説明する。
<第1実施形態>
[撮像装置1の全体構成及び各部の構成]
図1は、本技術の第1実施形態に係る撮像装置1を示すブロック図である。図1に示す撮像装置1は、静止画及び動画を撮像可能なデジタルカメラ(デジタルスチルカメラ、デジタルビデオカメラ)である。また、この撮像装置1は、記録された画像データを再生可能とされている。
図1に示すように、撮像装置1は、レンズ系10と、絞り11と、液晶NDフィルタ12(ND:Neutral Density)(透過率調整部)と、撮像素子13と、制御部14と、画像表示部15と、画像保存部16と、操作部17と、記憶部18とを備えている。制御部14は、システムコントローラ19と、レンズドライバ20と、液晶NDドライバ21と、タイミングジェネレータ22(TG)と、アナログ信号処理部23と、A/D変換部24と、デジタル信号処理部25とを含む。
レンズ系10は、ズームレンズ、フォーカスレンズ等の各種のレンズを含み、これらのレンズによって、被写体光を撮像素子13の露光面に結像させる。絞り11は、その開度を調整することにより機械的に被写体光の光量を調整することが可能に構成されている。図1に示す例では、絞り11は、レンズ系10の後方に配置されているが、絞り11は、レンズ系10の内部における光路内(例えば、ズームレンズとフォーカスレンズとの間)に配置されていてもよい。
レンズドライバ20は、システムコントローラ19からの指示に応じて、ズームレンズ、フォーカスレンズ及び絞り11の位置を制御したり、絞り11の開度を制御したりする。
液晶NDフィルタ12は、印加される電圧に応じて、光の透過率を調整(濃度を調整)することが可能に構成されており、印加される電圧に応じて透過率が調整されることによって、撮像素子13に入射される被写体光の光量を調整する。
液晶NDドライバ21は、システムコントローラ19からの指示に応じて、液晶NDフィルタ12に印加される電圧を制御することによって液晶NDフィルタ12の透過率(濃度)を制御する。
撮像素子13は、CMOS(Complementary Metal Oxide Semiconductor)センサや、CCD(Charge Coupled Device)センサなどにより構成されている。撮像素子13は、液晶NDフィルタ12を透過して入射された被写体光を露光することによって撮像を行う。具体的には、撮像素子13は、複数の画素(R画素、G画素、B画素)を有しており、露光面に入射された被写体光を画素毎に光電変換により電子信号に変換し、得られた3原色信号(R、G、B)をアナログ画像データとしてアナログ信号処理部23へ出力する。
タイミングジェネレータ22(TG:Timing Generator)は、システムコントローラ19からの指示に応じて撮像素子13の駆動に必要な駆動パルスを生成して撮像素子13に供給する。このタイミングジェネレータ22によって撮像素子13が駆動されることで被写体像が撮像され(電子シャッター)、被写体像の画像が取得される。また、タイミングジェネレータ22によって撮像素子13のシャッタースピードが調整されることによって画像撮像時の露光時間が制御される。
アナログ信号処理部23は、撮像素子13から出力された画像信号に対して、CDS処理(CDS:Correlated Double Sampling)や、ゲイン処理などを実行する。
A/D変換部24は、アナログ信号処理部23から出力されたアナログ画像データをデジタル画像データに変換して、デジタル信号処理部25へ出力する。
デジタル信号処理部25は、A/D変換部24から出力されたデジタル画像データに対して、ノイズ除去処理、ホワイトバランス調整処理、色補正処理、エッジ強調処理、ガンマ補正処理などの各種のデジタル信号処理を実行し、画像表示部15、画像保存部16に出力する。また、デジタル信号処理部25は、後述のハイフレームレートモードにおいては、A/D変換部24から出力された、1フレーム目のデジタル画像データ(第1の画像データ)を検波してシステムコントローラ19に出力する。
画像表示部15は、液晶ディスプレイや、有機EL(EL:Electro luminescence)ディスプレイなどにより構成される。画像表示部15は、その画面上に各種の画像を表示させる。例えば、画像表示部15は、デジタル信号処理部25から出力された画像データをリアルタイムで表示することによって、その画面上にスルー画像を表示する。また、画像表示部15は、画像保存部16に記録された画像を再生する処理を実行する。上記スルー画像は、静止画や、動画を撮像するときにユーザが画角を合わせることができるようにするために画面上に表示される。
画像保存部16は、デジタル信号処理部25から出力された画像データや、その画像データに関連するメタデータ(例えば、その画像データが取得された日時等)を記憶する。画像保存部16は、例えば、半導体メモリ、光ディスク、HD(hard Disc)などにより構成される。画像保存部16は、撮像装置1の内部に固定されていてもよいし、撮像装置1に対して着脱可能に構成されていてもよい。
システムコントローラ19は、例えば、CPU(Central Processing Unit)などにより構成されており、撮像装置1の各部を統括的に制御する。このシステムコントローラ19の具体的な処理については、動作説明の欄において後に詳述する。
ここで、本実施形態においては、静止画を撮像する静止画撮像モードと、動画を撮像する動画撮像モード(録画モード)と、画像保存部16に記録された画像を再生する再生モードとが用意されている。さらに、本実施形態においては、静止画撮像モード及び動画撮像モードにおいて、それぞれノーマルモード及びハイフレームレートモード(HFR:high Frame rate)の2つのモードが用意されている。
ノーマルモードは、通常のフレームレート(例えば、30fps)で撮像を行うモードである。一方、ハイフレームレートモードは、通常のフレームレートの倍のフレームレート(例えば、60fps)で撮像を行い、1フレーム目の画像データ(第1の画像データ)を、2フレーム目の画像データ(第2の画像データ)を撮像するときの撮像素子13の露光量を推定するため(液晶NDフィルタ12の透過率を算出するため)の画像として用いるモードである。
記憶部18は、各種のプログラムや、各種のデータが固定的に記憶される不揮発性のメモリ(例えば、ROM(Read Only memory))と、システムコントローラ19の作業領域として用いられる揮発性のメモリ(例えば、RAM(Random Access Memory))とを含む。上記プログラムは、光ディスク、半導体メモリ等の可搬性の記録媒体から読み取られてもよし、ネットワーク上のサーバ装置からダウンロードされてもよい。
不揮発性のメモリには、上記各種のデータとして、透過率対電圧テーブルと、飽和画素素比対露光量テーブルと、露光量対透過率テーブルとが記憶されている。
透過率対電圧テーブルは、液晶NDフィルタ12の透過率と、印加電圧との関係が示されたテーブルである。システムコントローラ19は、液晶NDフィルタ12の透過率を制御するとき、この透過率対電圧テーブルを参照して、目的の透過率に対応する印加電圧を読み出し、読み出した印加電圧を印加するように、液晶NDドライバ21に指示を出す。
飽和画素比対露光量テーブルは、ハイフレームレートモードにおいて用いられるテーブルである。飽和画素比対露光量テーブルにおいては、1フレーム目の画像データにおける全画素数に対する飽和画素数の比率と、2フレーム目の画像データを撮像するときの撮像素子13の露光量との関係が示されている。具体的には、飽和画素比対露光量テーブルにおいては、全画素数に対する飽和画素数の比率が大きくなるほど、撮像素子13の露光量が少なくなるように両者の関係が関連付けられている。
システムコントローラ19は、ハイフレームレートモードにおいて、1フレーム目の画像データに基づいて、2フレーム目の画像データの取得時における撮像素子13の露光量を推定するとき、この飽和画素比対露光量テーブルを参照して撮像素子13の露光量を推定する。
露光量対透過率テーブルは、飽和画素比対露光量テーブルと同様に、ハイフレームレートモードにおいて用いられるテーブルである。露光量対透過率テーブルにおいては、推定された露光量と、第2の画像データ取得時における液晶NDフィルタ12の透過率である第2の透過率との関係が示されている。具体的には、露光量対透過率テーブルにおいては、推定された露光量が多くなるほど、第2の透過率が大きくなるように、両者の関係が関連付けられている。
システムコントローラ19は、推定された撮像素子13の露光量に基づいて、第2の透過率を算出するとき、この露光量対透過率テーブルを参照して第2の透過率を算出する。
操作部17は、例えば、電源スイッチ、シャッターボタン、録画ボタン、設定ボタン、モード切替えボタンなどを含む。電源スイッチは、撮像装置1の電源のON/OFFを切替えるための操作部17である。また、シャッターボタンは、静止画撮像モードにおいて、画像データを静止画データとして記録するための操作部17であり、録画ボタンは、動画撮像モードにおいて、画像データを動画データとして記録するための操作部17である。
設定ボタンは、例えば、ズームレンズ、フォーカスレンズ、絞り11の位置を調整したり、絞り11の開度を調整したりするために用いられる。また、この設定ボタンは、電子シャッターを調整したり、アナログ信号処理部23のゲイン処理におけるゲイン値を変更したり、デジタル信号処理部25による各種の処理の設定値を変更したりするために用いられる。モード切替えボタンは、ノーマルモードと、ハイフレームレートモードとを切替えるための操作部17である。
操作部17は、機械的な押しボタン形式の操作部17によって実現されていてもよいし、画像表示部15上に設けられた静電容量方式、抵抗膜方式等のタッチセンサによって実現されてもよい。
[動作説明]
次に、第1実施形態に係る撮像装置1による処理について具体的に説明する。図2は、第1実施形態に係る撮像装置1の処理を示すフローチャートである。
まず、システムコントローラ19は、現在のモードがハイフレームレートモードであるかどうかを判定する(ステップ101)。なお、ノーマルモードと、ハイフレームレートモードとの切替えは、モード切替えボタンによって切替えることができる。
現在のモードがハイフレームレートモードではない場合(ステップ101のNO)、つまり、現在のモードがノーマルモードである場合、システムコントローラ19は、撮像レートを通常のフレームレート(例えば、30fps)に設定する(ステップ102)。
そして、システムコントローラ19は、撮像素子13に通常のフレームレートで撮像を行わせるように、タイミングジェネレータ22に指示を出す。
一方、現在のモードがハイフレームレートモードである場合(ステップ101のYES)、システムコントローラ19は、撮像レートを通常のフレームレートの倍のフレームレート(ハイフレームレート:例えば、60fps)に設定する(ステップ103)。そして、システムコントローラ19は、撮像素子13に通常のフレームレートの倍のフレームレートで撮像を行わせるように、タイミングジェネレータ22に指示を出す。
次に、システムコントローラ19は、ハイフレームレート撮像における1フレーム目の撮像タイミングにおいて、液晶NDフィルタ12の透過率を第1の透過率に設定するように、液晶NDドライバ21に指示を出す(ステップ104)。
具体的には、システムコントローラ19は、記憶部18に記憶された透過率対電圧テーブルを参照して、第1の透過率に対応する印加電圧を読み出し、読み出した印加電圧を印加するように、液晶NDドライバ21に指示を出す。本実施形態においては、第1の透過率は予め設定されている一定の値とされている。なお、システムコントローラ19は、テーブルを参照する代わりに、プログラムに従ってリアルタイムに電圧を算出してもよい。
液晶NDフィルタ12の透過率が第1の透過率に設定されると、第1の透過率に設定された液晶NDフィルタ12を透過した被写体像が撮像素子13の露光面に結合され、撮像素子13により1フレーム目の画像が撮像される(ステップ105)。この1フレーム目の画像データ(第1の画像データ)は、アナログ信号処理部23によって、CDS処理やゲイン処理が施された後、A/D変換部24によってデジタル信号へ変換される。
デジタル信号処理部25は、デジタル信号に変換された1フレーム目の画像データを検波して、検波結果をシステムコントローラ19に出力する。
なお、1フレーム目の画像データは、表示用及び/または記録用に用いられるデータではないので、この1フレーム目の画像データは、画像表示部15、画像保存部16に対しては出力されない。
次に、システムコントローラ19は、1フレーム目の画像データの検波結果に基づいて、2フレーム目の画像を撮像するときの撮像素子13における露光量をどの程度の露光量にすれば適切な露光量となるかを推定する(ステップ106)。
図3は、1フレーム目の画像データにおける検波結果の一例を示す図である。図3では、横軸が各画素の位置を示しており、縦軸がデジタル信号処理部25への入力信号量を示している。
図3に示す例では、撮像素子13の露光量が多すぎて、一部の画素における入力信号量が飽和信号量に達してしまっており、飽和信号量に達した部分について諧調が損なわれてしまっている場合の一例が示されている。なお、このように諧調が損なわれてしまった部分については、デジタル信号処理部25において復元することができない。
ステップ106における適切な露光量の推定においては、まず、システムコントローラ19は、1フレーム目の画像データの検波結果に基づいて、飽和信号量に達している画素数を判定する。次に、システムコントローラ19は、全画素数に対する、飽和信号量に達している画素数の比率を算出する。そして、この比率に基づいて、2フレーム目の画像を撮像するときの露光量を推定する。典型的には、システムコントローラ19は、1フレーム目において上記比率が高いほど、2フレーム目において少ない露光量で撮像を行うべきであると推定する。
この推定においては、システムコントローラ19は、記録部に記憶された飽和画素比対露光量テーブルを参照して、飽和画素比に対応する露光量を読み出すことによって、2フレーム目の画像を撮像するときの適切な露光量がどの程度の露光量であるかを推定する。なお、露光量の推定においては、システムコントローラ19は、テーブルを参照する代わりに、プログラムに従ってリアルタイムに露光量を算出してもよい。
2フレーム目の画像を撮像するときの適切な露光量がどの程度の露光量であるかを推定すると、次に、システムコントローラ19は、推定された露光量に基づいて、2フレーム目の画像を撮像するときの液晶NDフィルタ12の透過率である第2の透過率を算出する(ステップ107)。
具体的には、システムコントローラ19は、露光量対透過率テーブルを参照して、推定された露光量に対応する第2の透過率を読み出すことによって、第2の透過率を算出する。なお、システムコントローラ19は、テーブルを参照する代わりに、プログラムに従ってリアルタイムに第2の透過率を算出してもよい。
第2の透過率を算出すると、次に、システムコントローラ19は、ハイフレームレート撮像における2フレーム目の撮像タイミングにおいて、液晶NDフィルタ12の透過率を第2の透過率に設定するように、液晶NDドライバ21に指示を出す(ステップ108)。
具体的には、システムコントローラ19は、記憶部18に記憶された透過率対電圧テーブルを参照して、第2の透過率に対応する印加電圧を読み出し、読み出した印加電圧を印加するように、液晶NDドライバ21に指示を出す。
なお、本実施形態では、ハイフレームレート撮像において、撮像が行われてから次の撮像を行うまでの期間内(例えば、16.7ms)に、液晶NDフィルタ12の透過率を1の透過率から第2の透過率へと変化させる必要がある。このような短期間での透過率の変化は、高速な応答性を有する液晶NDフィルタ12を用いることによって実現することができる。
液晶NDフィルタ12の透過率が第2の透過率に設定されると、第2の透過率に設定された液晶NDフィルタ12を透過した被写体像が撮像素子13の露光面に結合され、撮像素子13により2フレーム目の画像が撮像される(ステップ109)。
2フレーム目の画像データ(第2の画像データ)は、アナログ信号処理部23によって、CDS処理やゲイン処理が施された後、A/D変換部24によってデジタル信号に変換される。デジタル信号処理部25は、デジタル信号に変換された2フレーム目の画像データを取得する。
図4は、デジタル信号処理部25に入力される2フレーム目の画像データの一例を示す図である。図4では、図3と同様に、横軸が各画素の位置を示しており、縦軸がデジタル信号処理部25への入力信号量を示している。
また、図4では、液晶NDフィルタ12の透過率が第1の透過率である場合の波形が破線で示されており、液晶NDフィルタ12の透過率が第2の透過率である場合の波形が実線で示されている。
ここで、本実施形態では、2フレーム目の画像を撮像するときに、液晶NDフィルタ12の透過率が適切な透過率(第2の透過率)に設定されており、撮像素子13の露光量が適切な露光量に設定されている。従って、撮像素子13から出力される各画素の信号が飽和信号量に達してしまうことを防止することができる。
従って、図4の実線で示すように、デジタル信号処理部25へ入力される入力信号量が飽和信号量に達してしまうことを防止することができる。このため、本実施形態では、撮像素子13のダイナミックレンジを最大限に生かした画像データを出力することができる。
デジタル信号処理部25は、デジタル信号に変換された2フレーム目の画像データを取得すると、ノイズ除去処理、ホワイトバランス調整処理、色補正処理、エッジ強調処理、ガンマ補正処理などの各種のデジタル信号処理を実行する。そして、デジタル信号出力部は、デジタル信号処理が施された2フレーム目の画像データを出力する(ステップ110)。
なお、本実施形態では、1フレーム目の画像データは出力されず2フレーム目の画像データのみが出力されるため、デジタル信号処理部25から出力される画像データの出力レート(例えば、30fps)は、撮像素子13による撮像レート(例えば、60fps)の半分になる。この点で、ステップ103においては、システムコントローラ19は、画像データを出力する出力レートの倍のレートに撮像レートを設定する処理を実行している。
デジタル信号処理部25は、2フレーム目の画像データを出力するとき、現在のモードが静止画撮像モードであるか、動画撮像モードであるかに応じて異なる処理を実行する。
すなわち、現在のモードが静止画撮像モードである場合、デジタル信号処理部25は、画像表示部15に2フレーム目の画像データを出力して画像表示部15の画面上にスルー画像を表示させる。そして、デジタル信号処理部25は、シャッターボタンが操作されたタイミングに合わせて画像保存部16に2フレーム目の画像データを出力して静止画として保存させる。
現在のモードが動画撮像モードである場合、デジタル信号処理部25は、モードが静止画撮像モードである場合と同様に、画像表示部15に2フレーム目の画像データを出力して画像表示部15の画面上にスルー画像を表示させる。一方、デジタル画像処理部は、モードが静止画撮像モードである場合とは異なり、画像保存部16に対して、2フレーム目の画像データを必ず出力する。この2フレーム目の画像は、動画の一部を構成する画像として画像保存部16に保存される。
デジタル信号出力部から2フレーム目の画像データが出力されると、システムコントローラ19は、再びステップ101へもどり、現在のモードがハイフレームレートモードであるか否かを判定する。
そして、現在のモードがハイフレームレートモードであれば(ステップ101のYES)、ステップ103からステップ110までの一連の処理が繰り返して実行される。
なお、2周目以降のステップ104では、所定の期間内(例えば、16.7ms)に、液晶NDフィルタ12の透過率を2の透過率から第1の透過率へと変化させる必要があるが、これは、高速な応答性を有する液晶NDフィルタ12を用いることによって実現することができる。
[作用等]
以上のように、本実施形態では、1フレーム目の画像データが、2フレーム目の画像データを撮像するときの露光量(適切な露光量)を推定するための画像データとして用いられている。また、1フレーム目の画像データが、2フレーム目の画像データを撮像するときの液晶NDフィルタ12の透過率である第2の透過率(適切な透過率)を算出すための画像データとして用いられている。そして、液晶NDフィルタ12の透過率が第2の透過率に設定されて2フレーム目の画像データが取得され、1フレーム目の画像データが出力されることなく、2フレーム目の画像が出力される。これにより、本実施形態では、撮像素子13から出力された画像データを適切な露光量の画像データとして出力することができる。
さらに、本実施形態では、撮像素子13の露光量が適切な露光量となるように第2の透過率が設定される。このため、2フレーム目の画像データにおいて、撮像素子13から出力される各画素の信号が飽和信号量に達してしまうことを防止することができる(図4参照)。このため、本実施形態では、撮像素子13のダイナミックレンジを最大限に生かした画像データを出力することができる。
特に、本実施形態では、第2の透過率を算出するとき、1フレーム目の画像データにおける全画素数に対する、飽和信号量に達している画素数の比率に基づいて、第2の透過率が算出される。このため、2フレーム目の画像データにおいて、撮像素子13から出力される各画素の信号が飽和信号量に達してしまうことを効果的に防止することができる。
また、本実施形態では、ステップ103〜ステップ110の一連の処理を繰り返すことによって、撮像素子13から出力された画像データを適切な露光量の画像データとして、常時、出力することができる。
さらに、本実施形態では、電子シャッターによる露光調整を行う必要がないため、動解像度が乱れてしまうことを防止することができる。また、本実施形態では、絞り11の開度によって露光調整を行う必要がないので、絞り11ボケによって画質が低下してしまったり、被写界深度に影響を及ぼしてしまったりすることを防止することができる。なお、絞り11は、応答速度が遅く、所定の期間内(例えば、16.7ms)に、開度を他の開度へ変化させることが困難であるといった問題もある。一方、液晶NDフィルタ12であれば、所定の期間内(例えば、16.7ms)に、透過率を他の透過率へと変化させることが可能である。
ここで、露光量を調整するために、アナログ信号処理部23のゲイン処理においてマイナスゲインを設定するような方法も考えられる。しかしながら、一般的には、アナログ信号処理部23におけるマイナスゲインの幅は、−3dB程度しかないため露光量を調整する方法としては有効ではない。また、ノイズがフレーム間で変動してしまう場合もある。一方、本実施形態では、このような方法を採用する必要がないので、ノイズが発生してしまうことを防止することができる。
また、露光量を調整するために、複数のNDフィルタ(液晶NDフィルタ12とは異なり、透過率が可変ではないフィルタ)を採用する場合も考えられる。しかしながら、このようなNDフィルタの場合、応答速度が遅いといった問題があり、また、濃度が有限であるため、適切な露光量の調整ができないといった問題もある。さらに、NDフィルタを他のNDフィルタへと切替える際に、無効フレームが発生してしまう問題もある。一方、本実施形態では、液晶NDフィルタ12を用いているため、これらの問題が発生してしまうようなこともない。
なお、電子シャッター、絞り11、アナログ信号処理、NDフィルタによる露光調整を排除するといった趣旨ではなく、本技術に係る露光調整と、これらの露光調整とを組み合わせることもできる。
[第1実施形態変形例]
第1実施形態の説明では、1フレーム目の画像データに基づいて、2フレーム目の画像データを撮像するときの適切な露光量を推定し、推定された露光量に基づいて第2の透過率を算出する場合について説明した。一方、1フレーム目の画像データに基づいて、直接的に、第2の透過率が算出されてもよい。
以上の説明では、ステップ103〜ステップ110の一連の処理が繰り返して実行される場合について説明した。一方、ステップ103〜ステップ110の処理は、必ずしも繰り返して実行されなくてもよく、1回で終了してもよい。
一例を挙げて説明すると、例えば、静止画撮像モードにおいて、シャッターボタンが操作されるタイミング以外のタイミングでは、撮像素子13において通常のフレームレートでの撮像が行われ、通常のフレームレートでデジタル信号処理部25から画像データが出力される。この画像データは、画像表示部15に出力されてスルー画像として画像表示部15の画面上に表示される。
そして、シャッターボタンが操作されると、このタイミングに合わせて、撮像素子13においてハイフレームレートでの撮像が行われる。このとき、1フレーム目の画像データは、2フレーム目の画像データを撮像するときの露光量を推定するため(第2の透過率を算出するため)に用いられ、2フレーム目の画像データのみが出力される。この2フレーム目の画像データは、画像表示部15に出力されてスルー画像として画像表示部15の画面上に表示され、また、画像保存部16に出力されて静止画データとして画像保存部16に保存される。
ここで、例えば、所定の周期でハイフレームレート撮像を行い、それ以外は、通常のフレームレートで撮像を行うこともできる。この場合、例えば、5回に1回の周期でハイフレームレートで撮像が行われる。
第1実施形態の説明では、モード切替えボタンによって、ノーマルモードとハイフレームレートモードとが切替えられる場合について説明した。一方、システムコントローラ19が自動的にノーマルモードとハイフレームレートモードとを切替えてもよい。
一例を挙げて説明すると、例えば、システムコントローラ19は、ノーマルモードにおいて、通常のフレームレートで撮像を行い、このフレームレートで撮像された画像データにおいて、飽和信号量に達している画素の比率が所定の閾値を超えているかどうかを判定する。そして、閾値を超えている画像データが連続した場合(例えば、10枚程度)に、ノーマルモードをハイフレームレートモードに切替える。
第1実施形態の説明では、第1の透過率が一定である場合について説明した。一方、第1の透過率は、可変に制御されてもよい。この場合、例えば、システムコントローラ19は、1フレーム目の画像データを取得する度に、飽和信号量に達している画素の比率を判定し、この比率を記憶部18に記憶することによって、比率の履歴を生成する。
そして、システムコントローラ19は、この比率の変化の傾向に基づいて、第1の透過率を変化させる。例えば、システムコントローラ19は、上記比率の変化の傾向が増加傾向である場合には、第1の透過率を小さくするように、第1の透過率を変化させ、上記比率の変化の傾向が減少傾向である場合には、第1の透過率を大きくするように、第1の透過率を変化させる。
他の一例として、例えば、システムコントローラ19は、第2の透過率に基づいて、第1の透過率を変化させてもよい。この場合、システムコントローラ19は、第2の透過率を算出する度に、第2の透過率を記憶部18に記憶させて、第2の透過率の履歴を生成する。
そして、システムコントローラ19は、第2の透過率の変化の傾向に基づいて、第1の透過率を変化させる。例えば、システムコントローラ19は、第2の透過率の変化の傾向が増加傾向である場合には、第1の透過率を大きくするように、第1の透過率を変化させ、第2の透過率の変化の傾向が減少傾向である場合には、第1の透過率を小さくするように、第1の透過率を変化させる。
このように、第1の透過率を可変に制御することによって、第1の透過率と、第2の透過率との差が小さくなるため、ハイフレームレート撮像におけるフレームレートを更に高速するような場合にも対応することが可能となる。
第1実施形態の説明では、一例として、1フレーム目の画像データを撮像したときの露光量が多いような場合に、これに応じて、2フレーム目の画像データを撮像するときの露光量を少なくする(第2の透過率を小さくする)場合について説明した。一方、1フレーム目の画像データを撮像するときの露光量が少ないような場合に、これに応じて、2フレーム目の画像データを撮像するときの露光量を多くする(第2の透過率を大きくする)こともできる。
<第2実施形態>
次に、本技術の第2実施形態について説明する。第2実施形態以降の説明では、上述の第1実施形態と同様の構成及び機能を有する各部については同一符号を付し、説明を省略又は簡略化する。また、第2実施形態以降の説明では、上述の第1実施形態(及び第1実施形態変形例)と異なる点を中心に説明する。
特に、第2実施形態では、液晶NDフィルタ12の透過率が第2の透過率に設定されているときに、2フレーム目の画像データの他に、3フレーム目の画像データが撮像される点で上述の第1実施形態と異なっている。また、第2実施形態では、2フレーム目の画像データと、3フレーム目の画像データが加算(合成)され、この加算された画像データがハイダイナミックレンジ画像データとしてデジタル信号出力部から出力される点で、上述の第1実施形態とは異なっている。従って、この点を中心に説明する。
なお、第2実施形態では、モードとして、ノーマルモードと、ハイダイナミックレンジモードとが用意されている。また、第2実施形態では、モード切替えボタンは、これらの2つのモードを切替えることが可能とされている。なお、ここでの説明では、ノーマルモード及びハイダイナミックレンジモードの2つのモードの切替えについて説明するが、ノーマルモード、ハイフレームレートモード、及びハイダイナミックレンジモードの3つのモードを切替えることも可能である。
[動作説明]
図5は、第2実施形態に係る撮像装置1の処理を示すフローチャートである。図5に示すように、まず、システムコントローラ19は、現在のモードがハイダイナミックレンジモードであるかどうかを判定する(ステップ201)。
現在のモードがハイダイナミックレンジモードではない場合(ステップ201のNO)、つまり、現在のモードがノーマルモードである場合、システムコントローラ19は、撮像レートを通常のフレームレート(例えば、30fps)に設定する(ステップ202)。
一方、現在のモードがハイダイナミックレンジモードである場合(ステップ201のYES)、システムコントローラ19は、撮像レートを通常のフレームレートの3倍のフレームレート(ハイフレームレート:例えば、90fps)に設定する(ステップ203)。つまり、システムコントローラ19は、画像データを出力する出力レートの3倍のレートに撮像レートを設定する。
次に、システムコントローラ19は、ハイフレームレート撮像における1フレーム目の撮像タイミングにおいて、液晶NDフィルタ12の透過率を第1の透過率に設定するように、液晶NDドライバ21に指示を出す(ステップ204)。
そしてシステムコントローラ19は、撮像素子13により1フレーム目の画像を撮像させる(ステップ205)。デジタル信号処理部25は、デジタル信号に変換された1フレーム目の画像データを検波して、検波結果をシステムコントローラ19に出力する。なお、1フレーム目の画像データは、画像表示部15、画像保存部16に対しては出力されない。
次に、システムコントローラ19は、1フレーム目の画像データの検波結果に基づいて、2フレーム目、3フレーム目の画像を撮像するときの撮像素子13における適切な露光量を推定する(ステップ206)。
2フレーム目、3フレーム目の画像を撮像するときの適切な露光量を推定すると、次に、システムコントローラ19は、推定された露光量に基づいて、第2の透過率を算出する(ステップ207)。
第2の透過率を算出すると、次に、システムコントローラ19は、ハイフレームレート撮像における2フレーム目の撮像タイミングにおいて、液晶NDフィルタ12の透過率を第2の透過率に設定するように、液晶NDドライバ21に指示を出す(ステップ208)。
次に、システムコントローラ19は、撮像素子13により2フレーム目の画像を撮像させる(ステップ209)。
次に、システムコントローラ19は、ハイフレームレート撮像における3フレーム目の撮像タイミングにおいて、撮像素子13により3フレーム目の画像を撮像させる(ステップ210)。
次に、デジタル信号出力部は、2フレーム目の画像データと、3フレーム目の画像データとを加算する(ステップ211)。そして、デジタル信号出力部は、加算された画像データを、ハイダイナミックレンジ画像データとして、画像表示部15、画像保存部16に対して出力する(ステップ212)。
なお、第2実施形態では、画像データの出力レート(例えば、30fps)は、撮像素子13による撮像レート(例えば、90fps)の1/3になる。
デジタル信号出力部からハイダイナミック画像データが出力されると、システムコントローラ19は、再びステップ101へもどり、現在のモードがハイダイナミックレンジモードであるか否かを判定する。
そして、現在のモードがハイダイナミックレンジモードであれば(ステップ201のYES)、ステップ203からステップ212までの一連の処理が繰り返して実行される。
図6は、2フレーム目の画像データと、3フレーム目の画像データとが加算されるときの様子を示す図である。
2フレーム目の画像データ、3フレーム目の画像データにおいては、これらの画像データが撮像されるとき、撮像素子13の露光量が適切な露光量となるように第2の透過率が設定される。このため、図6に示すように、デジタル信号処理部25に2フレーム目の画像データ、3フレーム目の画像データが入力される時点において、各画素の信号が飽和信号量に達してしまうことを防止することができる。このため、第2実施形態では、図6に示すように、本来は撮像素子13の飽和信号量の制限によって出力することができなかった高輝度信号の諧調を保持したハイダイナミックレンジ画像データをデジタル信号処理部25から出力することができる。
[第2実施形態変形例]
第2の実施形態の説明では、ND液晶フィルタの透過率が第2の透過率に設定されている状態で、2枚の画像データが撮像され、この2枚の画像データが加算されてデジタル信号処理部25から出力される場合について説明した。一方、ND液晶フィルタの透過率が第2の透過率に設定されている状態で、3枚以上の画像データが撮像され、この3枚以上の画像データが加算されてデジタル信号処理部25から出力されてもよい。
第2実施形態においても第1実施形態変形例と同様に、第1の透過率が可変に制御されてもよい。また、第2実施形態においても、第1実施形態変形例と同様に、1フレーム目の画像データを撮像したときの露光量が少ないような場合に、これに応じて、2フレーム目、3フレーム目(あるいはそれ以上)の画像データを撮像するときの露光量を多くする(第2の透過率を大きくする)こともできる。
本技術は、以下の構成をとることもできる。
(1) 印加電圧に応じて光の透過率を調整可能な透過率調整部と、
前記透過率調整部を透過した光を露光することにより撮像を行う撮像素子と、
前記透過率調整部の透過率を第1の透過率に設定して前記撮像素子に撮像を行わせることによって第1の画像データを取得し、前記第1の画像データに基づいて、前記撮像素子において適切な露光量で撮像を行わせるため第2の透過率を算出し、前記透過率調整部の透過率を前記第2の透過率に設定して前記撮像素子に撮像を行わせることによって第2の画像データを取得し、取得された前記第2の画像データを出力する制御部と
を具備する撮像装置。
(2) 上記(1)に記載の撮像装置であって、
前記制御部は、前記透過率調整部の透過率を前記第2の透過率に設定して前記撮像部に撮像を行わせることによって前記第2の画像データ及び第3の画像データを取得し、前記第2の画像データ及び前記第3の画像データを加算し、加算された画像データを出力する
撮像装置。
(3) 上記(1)又は(2)に記載の撮像装置であって、
前記制御部は、前記第1の透過率を可変に制御する
撮像装置。
(4) 上記(1)〜(3)のうちいずれか1つに記載の撮像装置であって、
前記撮像素子は、複数の画素を有し、
前記制御部は、前記第1の画像データに基づいて前記第2の透過率を算出するとき、第1の画像データにおける全画素数に対する、飽和信号量に達している画素数の比率を判定し、前記比率に基づいて、第2の透過率を算出する
撮像装置。
(5) 上記(1)〜(4)のうちいずれか1つに記載の撮像装置であって、
前記制御部は、前記第1の画像データを取得し、前記第2の透過率を算出し、前記第2の画像データを取得し、前記第2の画像データを出力する一連の処理を繰り返して実行する
撮像装置。
(6) 上記(2)〜(5)のうちいずれか1つに記載の撮像装置であって、
前記制御部は、前記第1の画像データを取得し、前記第2の透過率を算出し、前記第2の画像データ及び前記第3の画像データを取得し、前記第2の画像データ及び第3の画像データを加算し、加算された画像データを出力する一連の処理を繰り返して実行する
撮像装置。
(7) 上記(1)〜(6)のうちいずれか1つに記載の撮像装置であって、
前記透過率調整部は、液晶NDフィルタ(ND:Neutral Density)である
撮像装置。
(8) 印加電圧に応じて光の透過率を調整可能な透過率調整部の透過率を第1の透過率に設定して、前記透過率調整部を透過した光を露光する撮像素子に撮像を行わせることによって第1の画像データを取得し、
前記第1の画像データに基づいて、前記撮像素子において適切な露光量で撮像を行わせるため第2の透過率を算出し、
前記透過率調整部の透過率を前記第2の透過率に設定して前記撮像素子に撮像を行わせることによって第2の画像データを取得し、
取得された前記第2の画像データを出力する
画像データの出力方法。
(9) 撮像装置に、
印加電圧に応じて光の透過率を調整可能な透過率調整部の透過率を第1の透過率に設定して、前記透過率調整部を透過した光を露光する撮像素子に撮像を行わせることによって第1の画像データを取得するステップと、
前記第1の画像データに基づいて、前記撮像素子において適切な露光量で撮像を行わせるため第2の透過率を算出するステップと、
前記透過率調整部の透過率を前記第2の透過率に設定して前記撮像素子に撮像を行わせることによって第2の画像データを取得するステップと
取得された前記第2の画像データを出力するステップと
を実行させるプログラム。
1…撮像装置
10…レンズ系
12…液晶NDフィルタ
13…撮像素子
14…制御部
15…画像表示部
16…画像保存部
17…操作部
18…記憶部
19…システムコントローラ
20…レンズドライバ
21…NDドライバ
22…タイミングジェネレータ
23…アナログ信号処理部
24…A/D変換部
25…デジタル信号処理部

Claims (25)

  1. 複数の画素を有し、印加電圧に応じて光の透過率を調整可能な透過率調整部を透過した光を露光することにより撮像を行う撮像素子と、
    前記撮像素子による撮像モードとして、第1のフレームレートで前記撮像素子に撮像を行わせる第1のモードと、前記第1のフレームレートよりも高い第2のフレームレートで前記撮像素子に撮像を行わせる第2のモードとを切り替え可能に構成されるとともに、
    前記第1のモードにおいて、複数フレームにわたって前記撮像素子が飽和している飽和状態と判定された場合に、前記第1のモードから前記第2のモードに切り替える切替え部と、
    前記第2のモードにおいて、前記透過率調整部の透過率を調整し、前記透過率が調整された状態で前記撮像素子に撮像を行わせる制御部と
    を具備する撮像装置。
  2. 請求項1に記載の撮像装置であって、さらに、
    前記透過率調整部を具備する
    撮像装置。
  3. 請求項1又は2に記載の撮像装置であって、
    前記制御部は、前記第1のモードにおいて、前記第1のフレームレートで前記撮像素子に撮像を行わせることによって画像データを取得し、
    前記切替え部は、前記第1のモードにおいて、前記画像データにおける全画素数に対する、飽和信号量に達している画素数の比率が所定の閾値を超えている場合に、前記撮像素子が前記飽和状態であると判定する
    撮像装置。
  4. 請求項1から3のうちいずれか1項に記載の撮像装置であって、
    前記制御部は、前記第2のモードにおいて、
    記撮像素子に撮像を行わせることによって第1の画像データを取得し、
    記第1の画像データに基づいて調整透過率を算出し、
    前記第1の画像データが取得されたフレームの次のフレームで、前記透過率調整部の透過率を前記調整透過率に設定した状態において前記撮像素子に撮像を行わせることによって第2の画像データを取得し、
    前記第1の画像データを出力せずに、前記第2の画像データを出力する
    撮像装置。
  5. 請求項4に記載の撮像装置であって、
    前記第2のフレームレートは、前記第1のフレームレートの2倍である
    撮像装置。
  6. 請求項1から3のうちいずれか1項に記載の撮像装置であって、
    前記制御部は、前記第2のモードにおいて、
    記撮像素子に撮像を行わせることによって第1の画像データを取得し、
    記第1の画像データに基づいて調整透過率を算出し、
    前記第1の画像データが取得されたフレームに続く複数の連続するフレームで、前記透過率調整部の透過率を前記調整透過率に設定した状態において前記撮像素子に撮像を行わせることによって複数の第2の画像データを取得し、
    前記第1の画像データを出力せずに、前記複数の第2の画像データが加算された加算画像データを出力する
    撮像装置。
  7. 請求項6に記載の撮像装置であって、
    前記第2のフレームレートは、前記第1のフレームレートの3倍である
    撮像装置。
  8. 請求項4から7のうちいずれか1項に記載の撮像装置であって、
    前記制御部は、前記第1の画像データを撮像する際の透過率を可変に制御する
    撮像装置。
  9. 請求項4から8のうちいずれか1項に記載の撮像装置であって、
    前記制御部は、前記第1の画像データにおける全画素数に対する、飽和信号量に達している画素数の比率に基づいて、前記調整透過率を設定する
    撮像装置。
  10. 請求項1から9のうちいずれか1項に記載の撮像装置であって、
    前記切替え部は、ユーザの操作によって前記撮像モードを切替え可能である
    撮像装置。
  11. 請求項1から10のうちいずれか1項に記載の撮像装置であって、
    前記透過率調整部は、液晶NDフィルタ(ND:Neutral Density)である
    撮像装置。
  12. 複数の画素を有し、印加電圧に応じて光の透過率を調整可能な透過率調整部を透過した光を露光することにより撮像を行う撮像素子に第1のフレームレートで撮像を行わせる第1のモードと、前記第1のフレームレートよりも高い第2のフレームレートで前記撮像素子に撮像を行わせる第2のモードとを切り替え可能に制御し
    前記第1のモードにおいて、複数フレームにわたって前記撮像素子が飽和している飽和状態と判定された場合に、前記第1のモードから前記第2のモードに切り替え、
    前記第2のモードにおいて、前記透過率調整部の透過率を調整し、
    前記第2のモードにおいて、前記透過率が調整された状態で前記撮像素子に撮像を行わせ
    撮像方法。
  13. 複数の画素を有し、印加電圧に応じて光の透過率を調整可能な透過率調整部を透過した光を露光することにより撮像を行う撮像素子に第1のフレームレートで撮像を行わせる第1のモードと、前記第1のフレームレートよりも高い第2のフレームレートで前記撮像素子に撮像を行わせる第2のモードとを切り替え可能に制御するステップと、
    前記第1のモードにおいて、複数フレームにわたって前記撮像素子が飽和している飽和状態と判定された場合に、前記第1のモードから前記第2のモードに切り替えるステップと、
    前記第2のモードにおいて、前記透過率調整部の透過率を調整するステップと、
    前記第2のモードにおいて、前記透過率が調整された状態で前記撮像素子に撮像を行わせるステップと
    コンピュータに実行させるプログラム。
  14. 複数の画素を有し、印加電圧に応じて光の透過率を調整可能な透過率調整部を透過した光を露光することにより撮像を行う撮像素子と、
    前記撮像素子による撮像モードとして、第1のフレームレートで前記撮像素子に撮像を行わせる第1のモードと、前記第1のフレームレートよりも高い第2のフレームレートで前記撮像素子に撮像を行わせる第2のモードとを所定の周期で切り替える切替え部と、
    前記第2のモードにおいて、前記透過率調整部の透過率を調整し、前記透過率が調整された状態で前記撮像素子に撮像を行わせる制御部と
    を具備する撮像装置。
  15. 請求項14に記載の撮像装置であって、さらに、
    前記透過率調整部を具備する
    撮像装置。
  16. 請求項14又は15に記載の撮像装置であって、
    前記制御部は、前記第2のモードにおいて、
    記撮像素子に撮像を行わせることによって第1の画像データを取得し、
    記第1の画像データに基づいて調整透過率を算出し、
    前記第1の画像データが取得されたフレームの次のフレームで、前記透過率調整部の透過率を前記調整透過率に設定した状態において前記撮像素子に撮像を行わせることによって第2の画像データを取得し、
    前記第1の画像データを出力せずに、前記第2の画像データを出力する
    撮像装置。
  17. 請求項16に記載の撮像装置であって、
    前記第2のフレームレートは、前記第1のフレームレートの2倍である
    撮像装置。
  18. 請求項14又は15に記載の撮像装置であって、
    前記制御部は、前記第2のモードにおいて、
    記撮像素子に撮像を行わせることによって第1の画像データを取得し、
    記第1の画像データに基づいて調整透過率を算出し、
    前記第1の画像データが取得されたフレームに続く複数の連続するフレームで、前記透過率調整部の透過率を前記調整透過率に設定した状態において前記撮像素子に撮像を行わせることによって複数の第2の画像データを取得し、
    前記第1の画像データを出力せずに、前記複数の第2の画像データが加算された加算画像データを出力する
    撮像装置。
  19. 請求項18に記載の撮像装置であって、
    前記第2のフレームレートは、前記第1のフレームレートの3倍である
    撮像装置。
  20. 請求項16から19のうちいずれか1項に記載の撮像装置であって、
    前記制御部は、前記第1の画像データを撮像する際の透過率を可変に制御する
    撮像装置。
  21. 請求項16から20のうちいずれか1項に記載の撮像装置であって、
    前記制御部は、前記第1の画像データにおける全画素数に対する、飽和信号量に達している画素数の比率に基づいて、前記調整透過率を設定する
    撮像装置。
  22. 請求項14から21のうちいずれか1項に記載の撮像装置であって、
    前記切替え部は、ユーザの操作によって前記撮像モードを切替え可能である
    撮像装置。
  23. 請求項14から22のうちいずれか1項に記載の撮像装置であって、
    前記透過率調整部は、液晶NDフィルタ(ND:Neutral Density)である
    撮像装置。
  24. 複数の画素を有し、印加電圧に応じて光の透過率を調整可能な透過率調整部を透過した光を露光することにより撮像を行う撮像素子に第1のフレームレートで撮像を行わせる第1のモードと、前記第1のフレームレートよりも高い第2のフレームレートで前記撮像素子に撮像を行わせる第2のモードとを所定の周期で切り替え、
    前記第2のモードにおいて、前記透過率調整部の透過率を調整し、
    前記第2のモードにおいて、前記透過率が調整された状態で前記撮像素子に撮像を行わせ
    撮像方法。
  25. 複数の画素を有し、印加電圧に応じて光の透過率を調整可能な透過率調整部を透過した光を露光することにより撮像を行う撮像素子に第1のフレームレートで撮像を行わせる第1のモードと、前記第1のフレームレートよりも高い第2のフレームレートで前記撮像素子に撮像を行わせる第2のモードとを所定の周期で切り替えるステップと、
    前記第2のモードにおいて、前記透過率調整部の透過率を調整するステップと、
    前記第2のモードにおいて、前記透過率が調整された状態で前記撮像素子に撮像を行わせるステップと
    コンピュータに実行させるプログラム。
JP2019043923A 2014-03-31 2019-03-11 撮像装置、撮像方法及びプログラム Expired - Fee Related JP6680377B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2014074389 2014-03-31
JP2014074389 2014-03-31

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2016511341A Division JP6497382B2 (ja) 2014-03-31 2015-02-13 撮像装置、画像データの出力方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2019097213A JP2019097213A (ja) 2019-06-20
JP6680377B2 true JP6680377B2 (ja) 2020-04-15

Family

ID=54239742

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2016511341A Active JP6497382B2 (ja) 2014-03-31 2015-02-13 撮像装置、画像データの出力方法及びプログラム
JP2019043923A Expired - Fee Related JP6680377B2 (ja) 2014-03-31 2019-03-11 撮像装置、撮像方法及びプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2016511341A Active JP6497382B2 (ja) 2014-03-31 2015-02-13 撮像装置、画像データの出力方法及びプログラム

Country Status (4)

Country Link
US (1) US9930263B2 (ja)
EP (1) EP3128740B1 (ja)
JP (2) JP6497382B2 (ja)
WO (1) WO2015151386A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6866149B2 (ja) * 2016-12-21 2021-04-28 キヤノン株式会社 撮像装置、その制御方法、および制御プログラム
US10467733B2 (en) * 2017-07-27 2019-11-05 Raytheon Company Multiplexed high dynamic range images
WO2019021412A1 (ja) * 2017-07-27 2019-01-31 日本電気株式会社 位置推定装置、位置推定方法及びプログラム記録媒体
JP2019128380A (ja) * 2018-01-22 2019-08-01 キヤノン株式会社 撮像装置及びその制御方法
KR101955847B1 (ko) * 2018-01-23 2019-03-11 한국표준과학연구원 위상천이 편향측정법에서 비선형 응답특성을 보상하기 위한 시스템 및 방법
TWM580195U (zh) * 2018-07-17 2019-07-01 先進光電科技股份有限公司 可調變進光量光學成像系統
US11199735B2 (en) * 2019-03-28 2021-12-14 Lumcolor Smart optical filter for pixel-selectively adjusting light intensity
CN110809122A (zh) * 2019-11-11 2020-02-18 中国电子科技集团公司第四十四研究所 应用于cmos图像传感器的动态扩展方法
CN110830697A (zh) * 2019-11-27 2020-02-21 Oppo广东移动通信有限公司 控制方法、电子装置和存储介质
US11537027B2 (en) * 2020-01-19 2022-12-27 Blue River Technology Inc. Methods and apparatus for using a controllable physical light filter as part of an image capture system and for processing captured images
JPWO2021255975A1 (ja) * 2020-06-17 2021-12-23
US20220232156A1 (en) * 2021-01-19 2022-07-21 Semiconductor Components Industries, Llc Imaging system with an electronic shutter
CN114554050B (zh) * 2022-02-08 2024-02-27 维沃移动通信有限公司 图像处理方法、装置和设备
WO2023248589A1 (ja) * 2022-06-23 2023-12-28 株式会社ジャパンディスプレイ カメラモジュール

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000092383A (ja) * 1998-09-16 2000-03-31 Konica Corp 画像入力装置、画像入力方法、透過フィルタ調整方法、透過フィルタ測定方法及び画像出力方法
US6702483B2 (en) * 2000-02-17 2004-03-09 Canon Kabushiki Kaisha Optical element
US7245325B2 (en) * 2000-03-17 2007-07-17 Fujifilm Corporation Photographing device with light quantity adjustment
JP2008242230A (ja) 2007-03-28 2008-10-09 Fujifilm Corp 撮影装置、撮影システム、および撮影方法
WO2010118177A1 (en) * 2009-04-08 2010-10-14 Zoran Corporation Exposure control for high dynamic range image capture
JP5412953B2 (ja) * 2009-05-20 2014-02-12 リコーイメージング株式会社 撮像装置
JP2012019337A (ja) * 2010-07-07 2012-01-26 Olympus Corp 画像処理装置及び方法並びにプログラム
JP2012084814A (ja) * 2010-10-14 2012-04-26 Panasonic Corp 固体撮像装置、半導体装置及びカメラ
JP2012104994A (ja) 2010-11-09 2012-05-31 Sony Corp 入力装置、入力方法、プログラム及び記録媒体
JP5701664B2 (ja) * 2011-04-07 2015-04-15 オリンパス株式会社 撮像装置
CN103890651B (zh) * 2011-08-31 2015-01-21 富士胶片株式会社 镜头装置、相机系统和曝光控制方法
JP5910852B2 (ja) * 2011-10-18 2016-04-27 ソニー株式会社 動作制御装置および動作制御方法、撮像装置、並びにプログラム
JP5948788B2 (ja) 2011-10-18 2016-07-06 ソニー株式会社 動作制御装置および動作制御方法、撮像装置、並びにプログラム
JP2013251724A (ja) * 2012-05-31 2013-12-12 Olympus Imaging Corp 撮影機器
TWI464526B (zh) * 2013-08-08 2014-12-11 Quanta Comp Inc 高動態範圍影像曝光時間控制方法
JP2015198292A (ja) * 2014-03-31 2015-11-09 ソニー株式会社 撮像装置、フリッカの補正方法及びプログラム

Also Published As

Publication number Publication date
EP3128740B1 (en) 2020-04-01
EP3128740A4 (en) 2017-12-06
US20170078550A1 (en) 2017-03-16
JP2019097213A (ja) 2019-06-20
EP3128740A1 (en) 2017-02-08
WO2015151386A1 (ja) 2015-10-08
JPWO2015151386A1 (ja) 2017-04-13
US9930263B2 (en) 2018-03-27
JP6497382B2 (ja) 2019-04-10

Similar Documents

Publication Publication Date Title
JP6680377B2 (ja) 撮像装置、撮像方法及びプログラム
TWI360349B (en) Digital imaging apparatus with camera shake compen
US9681060B2 (en) Imaging apparatus, method of correcting flicker, and program
JP6355454B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP5123137B2 (ja) 撮像装置および撮像方法
JP5746521B2 (ja) 撮像装置及びその制御方法、プログラム並びに記憶媒体
JP2010054730A (ja) 合焦位置検出装置、撮像装置及び合焦位置検出方法
JP4958635B2 (ja) 撮像装置及びその制御方法
JP2020109924A (ja) 画像処理装置および画像処理方法
JP2015207809A (ja) 撮像装置
JP2013192121A (ja) 撮像装置及び撮像方法
JP2006253970A (ja) 撮像装置、シェーディング補正データ作成方法およびプログラム
WO2021251260A1 (ja) 撮像装置、及び撮像方法
JP6498175B2 (ja) 撮像装置およびその制御方法
JP5947625B2 (ja) 撮像装置、及びその制御方法
JP6090565B2 (ja) 撮像装置、撮像方法及びプログラム
JP5455485B2 (ja) 撮像装置
JP2011035740A (ja) 撮像装置及び撮像方法
WO2015182021A1 (ja) 撮像制御装置、撮像装置および撮像制御方法
JP2010226314A (ja) 動画処理装置、動画処理方法及び動画処理プログラム
JP2010148045A (ja) 撮像装置および撮像方法
JP2004336245A (ja) 補正装置
JP2016134900A (ja) 撮像装置
JP4906605B2 (ja) 撮像装置及びその制御方法
JP2009147436A (ja) 撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190410

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190410

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191021

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191029

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200302

R151 Written notification of patent or utility model registration

Ref document number: 6680377

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees