JP6534780B2 - 撮像装置、撮像方法、およびプログラム - Google Patents

撮像装置、撮像方法、およびプログラム Download PDF

Info

Publication number
JP6534780B2
JP6534780B2 JP2018543865A JP2018543865A JP6534780B2 JP 6534780 B2 JP6534780 B2 JP 6534780B2 JP 2018543865 A JP2018543865 A JP 2018543865A JP 2018543865 A JP2018543865 A JP 2018543865A JP 6534780 B2 JP6534780 B2 JP 6534780B2
Authority
JP
Japan
Prior art keywords
exposure
pixels
ratio
luminance
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018543865A
Other languages
English (en)
Other versions
JPWO2018066454A1 (ja
Inventor
智紀 増田
智紀 増田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Application granted granted Critical
Publication of JP6534780B2 publication Critical patent/JP6534780B2/ja
Publication of JPWO2018066454A1 publication Critical patent/JPWO2018066454A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • G03B7/093Digital circuits for control of exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/75Circuitry for compensating brightness variation in the scene by influencing optical camera components

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)

Description

本発明は、撮像装置、撮像方法、およびプログラムに関し、特に露出制御を行う撮像装置、撮像方法、およびプログラムに関する。
従来より、撮影されるシーンや被写体に合わせて露出制御を行う技術が提案されている。
例えば特許文献1では、人物の顔の画質を向上させることを目的とした技術が提案されている。具体的には特許文献1では、設定された目標輝度範囲と人物の顔の輝度のヒストグラムが比較されて露出制御を行う技術が提案されている(請求項1)。
特開2007−201979号公報
特許文献1では、目標輝度範囲の設定を決定する1つの要素として白とび量および黒つぶれ量が記載されている(図13、段落0080)。すなわち特許文献1には、目標輝度範囲を黒つぶれ量が大きいほど高輝度側にシフトさせ、白とび量が大きいほど低輝度側にシフトさせることが記載されている(段落0080)。ここで、特許文献1における白とび量は白とびの発生度合いを示すものであり、例えば、所定の高輝度領域における頻度が、閾値よりどれだけ高いかにより計算することができ、黒つぶれ量は、黒つぶれの発生度合いを示すものであり、例えば、所定の低輝度領域における頻度が、閾値よりどれだけ高いかにより計算することができる(段落0080)。
ここで、特許文献1に記載された技術では、白とび量および黒つぶれ量に基づいて目標輝度範囲を設定し露出制御を行っている。しかし、このように単純な白とび量(白とび発生度合)および黒つぶれ量(黒つぶれ発生度合)に基づいて露出制御を行うと、ヒストグラムにおける頻度が高輝度側または低輝度側に偏っている場合に、高輝度側および低輝度側の双方において階調を残すことができなくなる場合がある。すなわち、単純に白とび画素の画素数および黒つぶれ画素の画素数を評価値として露出制御を行ってしまうと、一方的に偏っている高輝度側または低輝度側に階調が割りつけられてしまい、他方側の階調が極端に縮小されてしまう場合が発生する。その結果、白とび画素の画素数および黒つぶれ画素の画素数を評価値として露出制御を行った場合には、ダイナミックレンジが広いシーンであって撮影画像のヒストグラムに偏りがあると、高輝度側および低輝度側の階調に関する情報を上手く残せない場合が発生する。
本発明はこのような事情に鑑みてなされたもので、その目的は、ダイナミックレンジが広いシーンであって撮影画像のヒストグラムに偏りがある場合であっても高輝度側および低輝度側の階調に関する情報を可能な限り残すことができる撮像装置、撮像方法、およびプログラムを提供することである。
上記目的を達成するために本発明の一の態様である撮像装置は、第1の露出または第2の露出を設定する露出設定部と、第1の露出で撮影された撮影画像を取得する画像取得部と、撮影画像を構成する各画素の輝度に関する情報を取得する輝度情報取得部と、輝度に関する情報に基づいて、所定の黒つぶれ領域に含まれる黒つぶれ画素の画素数、所定の黒つぶれ領域よりも広い低輝度領域に含まれる低輝度画素の画素数、所定の白とび領域に含まれる白とび画素の画素数、および所定の白とび領域よりも広い高輝度領域に含まれる高輝度画素の画素数をそれぞれカウントするカウント部と、黒つぶれ画素の画素数と低輝度画素の画素数との第1の比、および白とびの画素の画素数と高輝度画素の画素数との第2の比を算出する算出部と、算出部で算出された第1の比および第2の比に基づいて、第1の露出を第2の露出に調整する露出調整部と、を備える。
本態様によれば、露出調整部は、黒つぶれ画素の画素数と低輝度画素の画素数との第1の比、および白とびの画素の画素数と高輝度画素の画素数との第2の比に基づいて、露出の調整を行う。ここで第1の比は低輝度画素に対しての黒つぶれ画素の割合を表しており、第2の比は高輝度画素に対しての白とび画素の割合を表している。このように、第1の比および第2の比に基づいて露出調整を行うことにより、単に黒つぶれ画素の画素数および白とび画素の画素数に基づいて露出調整が行われる場合よりも、高輝度側および低輝度側の階調に関する情報をより残す露出制御を行うことができる。
好ましくは、露出調整部は、第1の比と第2の比との大小関係を判定し、第1の比が第2の比よりも大きい場合には、第1の露出に対して所定量の露出を上げた第2の露出に調整し、第2の比が第1の比よりも大きい場合には、第1の露出に対して所定量の露出を下げた第2の露出に調整する。
本態様によれば、露出調整部は、低輝度画素に対する黒つぶれ画素の割合が高輝度画素に対する白とび画素の割合よりも大きい場合には露出を上げる調整を行い、高輝度画素に対する白とび画素の割合が低輝度画素に対する黒つぶれ画素の割合よりも大きい場合には露出を下げる調整を行う。これにより本態様は、低輝度画素に対する黒つぶれ画素の割合と高輝度画素に対する白とび画素の割合との大小関係に基づいて調整が行われるので、高輝度側および低輝度側の階調に関する情報を可能な限り残すことができる。
好ましくは、露出調整部は、第1の比が第2の比よりも大きく且つ第1の比が第1の閾値よりも大きい場合には、第1の露出に対して所定量の露出を上げた第2の露出に調整し、第2の比が第1の比よりも大きく且つ第2の比が第2の閾値よりも大きい場合には、第1の露出に対して所定量の露出を下げた第2の露出に調整する。
本態様によれば、露出調整部は、低輝度画素に対する黒つぶれ画素の割合が高輝度画素に対する白とび画素の割合よりも大きく且つ第1の閾値よりも大きい場合には、露出を上げて黒つぶれ画素の割合を減らすように露出を調整する。また露出調整部は、高輝度画素に対する白とび画素の割合が低輝度画素に対する黒つぶれの画素の割合よりも大きく且つ第2の閾値よりも大きい場合には、露出を下げて白とび画素の割合を減らすように露出を調整する。これにより、本態様は、黒つぶれ画素の割合または白とび画素の割合が大きい場合に、その大きい割合を修正するので高輝度側および低輝度側の階調に関する情報を可能な限り残すことができる。
好ましくは、第2の露出で撮影した場合に得られると予測される予測撮影画像を構成する各画素の輝度に関する情報を取得し、予測された輝度に関する情報に基づいて、黒つぶれ画素、低輝度画素、白とび画素、および高輝度画素の画素数をカウントし、カウントされた黒つぶれ画素の画素数と低輝度画素の画素数との第3の比、およびカウントされた白とび画素の画素数と高輝度画素の画素数との第4の比を算出するシミュレーション部を更に備え、露出調整部は、第1の比が第2の比よりも大きい場合には、シミュレーション部が算出した第4の比に応じて第1の露出を第2の露出に調整し、第2の比が第1の比よりも大きい場合には、シミュレーション部が算出した第3の比に応じて第1の露出を第2の露出に調整する。
本態様によれば、シミュレーション部により、露出が調整された後に撮影されると予測される予測撮影画像の輝度情報が取得され、取得された輝度情報に基づいて黒つぶれ画素、低輝度画素、白とび画素、および高輝度画素の画素数がカウントされる。更に本態様によれば、シミュレーション部によりカウントされた画素数に基づいて、予測撮影画像における低輝度画素に対する黒つぶれ画素の割合および高輝度画素に対する白とび画素の割合が算出される。そして本態様の露出調整部は、低輝度画素に対する黒つぶれ画素の割合が高輝度画素に対する白とび画素の割合よりも大きい場合は、予測撮影画像における白とび画素の画素数と高輝度画素の画素数との比(第4の比)に基づいて露出制御が行われ、高輝度画素に対する白とび画素の割合が低輝度画素に対する黒つぶれ画素の割合よりも大きい場合には、予測撮影画像における黒つぶれ画素の画素数と低輝度画素の画素数との比(第3の比)に基づいて露出制御が行われる。これにより、本態様は、露出を上げる調整がされた後に直ぐに露出を下げる調整がされたり、逆に露出を下げる調整がされた後に直ぐに露出を上げる調整がされたりするハンチングの発生を防ぐことができる。
好ましくは、露出調整部は、第3の比が第3の閾値以下である場合には、第1の露出に対して所定量の露出を下げた第2の露出に調整し、第4の比が第4の閾値以下である場合には、第1の露出に対して所定量の露出を上げた第2の露出に調整する。
本態様によれば、露出調整部により、予測撮影画像における黒つぶれ画素の画素数と低輝度画素の画素数との比(第3の比)が第3の閾値以下である場合には、第1の露出に対して所定量の露出を下げた第2の露出に調整される。また本態様によれば、露出調整部により、予測撮影画像における白とび画素の画素数と高輝度画素の画素数との比(第4の比)が第4の閾値以下である場合には、第1の露出に対して所定量の露出を上げた第2の露出に調整される。これにより、本態様は、露出を上げる調整された後に直ぐに露出を下げる調整がされたり、逆に露出を下げる調整された後に直ぐに露出を上げる調整がされたりするハンチングの発生をより適切に防ぐことができる。
好ましくは、カウント部は、撮影画像の位置に応じて重み付けを行い、黒つぶれ画素の画素数および白とび画素の画素数をカウントする。
本態様によれば、カウント部は撮影画像の位置に応じて重み付けを行った、黒つぶれ画素の画素数および白とび画素の画素数をカウントする。これにより本態様は、撮影画像の位置に応じて、黒つぶれ画素と白とび画素の重み付けを行ったカウント結果を用いて露出制御を行うことができる。
好ましくは、カウント部は、撮影画像の中央領域の黒つぶれ画素の画素数および白とび画素の画素数、撮影画像における主要被写体の領域の黒つぶれ画素の画素数および白とび画素の画素数、または撮影画像の焦点が合っている領域の黒つぶれ画素の画素数および白とび画素の画素数に対して重み付けを行う。
本態様によれば、カウント部は、撮影画像の中央領域の黒つぶれ画素の画素数および白とび画素の画素数、撮影画像における主要被写体の領域の黒つぶれ画素の画素数および白とび画素の画素数、または撮影画像の焦点が合っている領域の黒つぶれ画素の画素数および白とび画素の画素数に対して重み付けを行う。これにより、本態様は、撮影画像において重要な領域の黒つぶれ画素および白とび画素の情報を有効に用いているので、撮影画像において重要な領域の露出を適切に設定することができる。
好ましくは、画像取得部は、撮影画像をカラーイメージセンサにより取得し、輝度情報取得部は、カラーイメージセンサからの出力値に基づいてデモザイク処理された画素毎のR、G、およびBの値に基づいて輝度を取得し、カウント部は、輝度に基づいて高輝度画素を判定し、判定された高輝度画素の輝度を構成するR、G、およびBの値のうちの最大値が第5の閾値よりも大きい画素を白とび画素としてカウントする。
本態様によれば、画像取得部により撮影画像がカラーイメージセンサで取得され、輝度情報取得部によりカラーイメージセンサからの出力値に基づいてデモザイク処理された画素毎のR、G、およびBの値に基づいて輝度が取得される。また本態様によれば、カウント部により、輝度に基づいて高輝度画素を判定し、判定された高輝度画素の輝度を構成するR、G、およびBの値のうちの最大値が第5の閾値よりも大きい画素を白とび画素としてカウントされる。これにより、本態様は、白とび画素のカウントがR、G、およびBの値のうちの最大値に基づいてカウントされるので色の飽和が抑制される露出制御を行うことができる。
本発明の他の態様である撮像方法は、第1の露出または第2の露出を設定する露出設定ステップと、第1の露出で撮影された撮影画像を取得する画像取得ステップと、撮影画像を構成する各画素の輝度に関する情報を取得する輝度情報取得ステップと、輝度に関する情報に基づいて、所定の黒つぶれ領域に含まれる黒つぶれ画素の画素数、所定の黒つぶれ領域よりも広い低輝度領域に含まれる低輝度画素の画素数、所定の白とび領域に含まれる白とび画素の画素数、および所定の白とび領域よりも広い高輝度領域に含まれる高輝度画素の画素数をそれぞれカウントするカウントステップと、黒つぶれ画素の画素数と低輝度画素の画素数との第1の比、および白とびの画素の画素数と高輝度画素の画素数との第2の比を算出する算出ステップと、算出ステップで算出された第1の比および第2の比に基づいて、第1の露出を第2の露出に調整する露出調整ステップと、を含む。
本発明の他の態様であるプログラムは、第1の露出または第2の露出を設定する露出設定ステップと、第1の露出で撮影された撮影画像を取得する画像取得ステップと、撮影画像を構成する各画素の輝度に関する情報を取得する輝度情報取得ステップと、輝度に関する情報に基づいて、所定の黒つぶれ領域に含まれる黒つぶれ画素の画素数、所定の黒つぶれ領域よりも広い低輝度領域に含まれる低輝度画素の画素数、所定の白とび領域に含まれる白とび画素の画素数、および所定の白とび領域よりも広い高輝度領域に含まれる高輝度画素の画素数をそれぞれカウントするカウントステップと、黒つぶれ画素の画素数と低輝度画素の画素数との第1の比、および白とびの画素の画素数と高輝度画素の画素数との第2の比を算出する算出ステップと、算出ステップで算出された第1の比および第2の比に基づいて、第1の露出を第2の露出に調整する露出調整ステップと、をコンピュータに実現させる。
本発明によれば、黒つぶれ画素の画素数と低輝度画素の画素数との第1の比、および白とびの画素の画素数と高輝度画素の画素数との第2の比に基づいて、露出の調整が行われるので、単に黒つぶれ画素の画素数および白とび画素の画素数に基づいて露出調整が行われる場合よりも、高輝度側および低輝度側の階調に関する情報をより残す露出制御を行うことができる。
撮像装置の構成例を示すブロック図である。 AE検出回路の機能構成例を示すブロック図である。 輝度のヒストグラムを示す図である。 露出調整の動作フローを示す図である。 AE検出回路の機能構成例を示すブロック図である。 シミュレーション部の機能構成例を示すブロック図である。 露出調整の動作フローを示す図である。 撮影画像の位置において画素数のカウントに重み付けを行う一例を概念的に示す図である。 撮影画像の位置において画素数のカウントに重み付けを行う一例を概念的に示す図である。 撮影画像の位置において画素数のカウントに重み付けを行う一例を概念的に示す図である。 カウント部が各画素のカウントを行う場合の動作フローを示す図である。 コンピュータを搭載するスマートフォンの外観を示す斜視図である。 スマートフォンの構成を示すブロック図である。
以下、添付図面にしたがって本発明に係る撮像装置、撮像方法、およびプログラムの好ましい実施の形態について説明する。
<撮像装置の全体構成>
図1は本発明が適用された撮像装置の構成例を示すブロック図である。同図に示すように、本実施の形態の撮像装置10は、撮影光学系12、CCD等の固体撮像素子からなるカラーイメージセンサ14(以下「CCD(charge coupled device)」という)、タイミングジェネレータ(TG(timing generator)16、A/D(analog/digital)変換器18、画像入力コントローラ20、画像信号処理回路22、圧縮伸張処理回路24、ビデオエンコーダ26、画像表示装置28、中央処理装置(CPU(central processing unit))30、AE(automatic exposure:自動露出)検出回路36、AF(auto focus:自動焦点合わせ)検出回路38、メモリ(SDRAM(synchronous dynamic random access memory))40、メディアコントローラ42、記録メディア44、および操作部46等から構成されている。
撮像装置10の全体の動作は、CPU30によって統括制御される。即ち、CPU30は、操作部46からの入力に基づき所定のプログラムにしたがって撮像装置10の各部を制御するもので、このプログラムをメモリ40に展開し、メモリ40を作業メモリとして使用しながら各種処理を実行する。
撮影光学系12は、ズームレンズ12z、フォーカスレンズ12f、絞り(例えば、虹彩絞り)12iを含み、CPU30からの指令によりそれぞれモータドライバ48、49、50を介して駆動される。即ち、ズームレンズ12zは、モータドライバ48に駆動されて撮影光軸上を前後移動し、これにより、焦点距離を変化させる。フォーカスレンズ12fは、モータドライバ50に駆動されて撮影光軸上を前後移動し、これにより結像位置を変化させる。また、絞り12iは、モータドライバ49に駆動されて開口量が段階的または連続的に変化し、これにより絞り値を変化させる。
CCD(画像取得部)14は、各画素ごとにR(赤:red)、G(緑:green)、およびB(青:blue)フィルタが配列(例えば、GストライプR/B市松、ベイヤ配列)されたカラーCCD(カラーイメージセンサ)で構成されている。撮影光学系12を介してCCD14の受光面に入射した光は、その受光面に配列された各フォトダイオードによって入射光量に応じた量の信号電荷に変換される。そして、各フォトダイオードに蓄積された信号電荷は、タイミングジェネレータ(TG)16から加えられるタイミング信号にしたがって読み出され、電圧信号(画像信号)としてCCD14から順次出力される。
なお、このCCD14は、シャッタゲートとシャッタドレインを備えており、シャッタゲートにシャッタゲートパルスを印加することで各フォトダイオードに蓄積された信号電荷をシャッタドレインに掃き出すことができるようにされている。CPU30は、TG16を介してシャッタゲートへのシャッタゲートパルスの印加を制御することにより、各フォトダイオードに蓄積される信号電荷の電荷蓄積時間(シャッタ速度)を制御する(いわゆる電子シャッタ機能)。
CCD14から順次出力される画像信号は、A/D変換器18によってデジタルの画像信号に変換され、画像入力コントローラ20を介してメモリ40に一時格納される。
画像信号処理回路22は、ホワイトバランス補正回路、ガンマ補正回路、輪郭補正回路、輝度および色差信号生成回路等を含み、CPU30からの指令にしたがってメモリ40に格納された画像信号を処理し、輝度信号と色差信号とからなるYCbCr信号またはYUV信号を生成する。
画像表示装置28にスルームービー画像(ライブビュー画像)を表示させる場合は、CCD14で画像を連続的に撮影し、得られた画像信号を連続的に処理してYUV信号を生成する。生成されたYUV信号は、メモリ40を介してビデオエンコーダ26に加えられ、表示用の信号形式に変換されて画像表示装置28に出力される。これにより、画像表示装置28にスルームービー画像が表示される。
画像を記録する場合は、操作部46からの撮影指令に応じてCCD14で画像を撮像し、得られた画像信号を処理してYUV信号を生成する。生成されたYUV信号は、圧縮伸張処理回路24に加えられ、所定の圧縮画像データとされたのち、メディアコントローラ42を介して記録メディア44に格納される。
記録メディア44に格納された圧縮画像データは、再生指令に応じて記録メディア44から読み出され、圧縮伸張処理回路24で非圧縮のYUV信号とされたのち、ビデオエンコーダ26を介して画像表示装置28に出力される。これにより、記録メディア44に記録された画像が画像表示装置28に再生表示される。
AE検出回路36は、CPU30からの指令に従い、入力された画像信号からAE制御に必要な物理量を算出する。このAE検出回路36は、例えば、AE制御に必要な物理量として分割された各エリアごとにR、G、およびBの画像信号の積算値を算出する。CPU30は、このAE検出回路36から得た積算値に基づいて被写体の明るさを検出して適正露出値(EV(Exposure Value)値)を求め、求めたEV値に基づいて露出制御を行う。なお、この露出制御については、のちに詳述する。
AF検出回路38は、CPU30からの指令に従い、入力された画像信号からAF制御に必要な物理量を算出する。本実施の形態の撮像装置10では、画像のコントラストによりAF制御を行うものとし、AF検出回路38は、入力された画像信号から画像の鮮鋭度を示す焦点評価値を算出する。CPU30は、このAF検出回路38で算出される焦点評価値が極大となるように、モータドライバ50を介してフォーカスレンズ12fの移動を制御する。
本実施の形態の撮像装置10は以上のように構成される。
<第1の実施形態>
次に、本発明の第1の実施形態に関して説明をする。
図2は、本実施形態のAE検出回路36の機能構成例を示すブロック図である。AE検出回路36は、露出設定部101、輝度情報取得部103、カウント部105、算出部107、および露出調整部109により構成される。
輝度情報取得部103は、撮影画像を構成する各画素の輝度に関する情報を取得する。ここで輝度に関する情報とは、輝度または輝度に関連する情報である。例えば輝度は、画像信号処理回路22において以下の式(1)に基づいて算出されるYの値が用いられる。
Y=0.3R+0.6G+0.1B・・・・・(1)
上述の(1)式において、R、G、およびBは出力値であり、カラーイメージセンサ(CCD14)から出力値をデモザイク処理(同時化処理)した後の値が使用される。ここでデモザイク処理とは、単板式のカラーイメージセンサ(CCD14)のカラーフィルタ配列に対応したモザイク画像から画素毎に全ての色情報を算出する処理であり、同時化処理ともいう。例えば、R、G、およびBの3色のカラーフィルタからなるCCD14の場合、R、G、およびBからなるモザイク画像から画素毎にR、G、およびB全ての色情報を算出する処理である。なお、本例ではデモザイク処理は画像信号処理回路22で行われている。
また輝度に関する情報とは、例えばGの信号の出力値が使用される。上述の(1)式のように輝度にGの信号の出力値が最も寄与するので、輝度に関する情報としてGの信号の出力値が使用されてもよい。
図3は、輝度情報取得部103が取得した撮影画像を構成する各画素の輝度に関する情報を図示したものであり、いわゆる輝度のヒストグラムを示す図である。
図3は、Y軸が画素の個数(頻度)でありX軸が輝度を示している。ここで低輝度領域および高輝度領域は、撮影画像を構成する全画素において低輝度側の領域および高輝度側の領域のことをいう。例えば、撮影画像の全画素の輝度領域を4分割した場合に最も低輝度側(1/4の低輝度側)を低輝度領域とし、撮影画像の全画素の輝度領域を4分割した場合に最も高輝度側(1/4の高輝度側)を高輝度領域とする。
更に、黒つぶれ領域は、低輝度領域内の領域であり、所定の輝度よりも低い輝度の領域のことである。例えば黒つぶれ領域は、低輝度領域を4分割した場合に最も低輝度側(低輝度領域における1/4の低輝度側)の領域であるまた白とび領域は、高輝度領域内の領域であり、所定の輝度よりも高い輝度の領域のことである。例えば白とび領域は、高輝度領域を4分割した場合に最も高輝度側(高輝度領域における1/4の高輝度側)の領域である。本願では黒つぶれ領域に含まれる画素を黒つぶれ画素とし、白とび領域に含まれる画素を白とび画素と呼ぶ。また本願では、低輝度領域に含まれる画素を低輝度画素とし、高輝度領域に含まれる画素を高輝度画素と呼ぶ。
図2に戻ってカウント部105は、黒つぶれ画素の画素数、低輝度画素の画素数、白とび画素の画素数、および高輝度画素の画素数をそれぞれカウントする。カウント部105は、1画素を1カウントとしても良いし、撮影画像における画素の位置に応じて画素に重み付けを行ってカウントしても良い。カウント部105が、画素に重み付けを行う場合に関しては後で説明をする。
算出部107は、カウント部105のカウント結果に基づいて、低輝度画素の画素数に対する黒つぶれ画素の割合(第1の比)、および高輝度画素の画素数に対する白とび画素の割合(第2の比)を算出する。そして、算出部107は算出結果を露出調整部109に送る。
露出設定部101は、撮像装置10で撮影画像が撮影される場合の露出を設定する。露出設定部101は、第1に公知の技術により露出を設定する。ここで例えば公知の技術による露出の設定は、従来からの一般的な処理によって露出制御量を演算する処理のことであり、基本的には、画面全体の撮影画像の信号から取得した輝度に関する情報などに基づいて露出制御が行われる。また露出設定部101は、上述のように公知の技術で設定された露出、および後で説明する露出調整部109で調整された露出の設定をCPU30に送信する。露出の設定を受信したCPU30は、絞り12i、不図示のシャッタのシャッタスピード、およびCCD14の感度を制御して露出制御を行う。なお本願では、本発明の露出調整が行われる前の露出を第1の露出とし、本発明の露出調整が行われた後の露出を第2の露出とする。
また露出設定部101は露出調整部109を含み、露出調整部109は以下で説明する算出部107で算出された黒つぶれ画素の割合および白とび画素の割合に基づいて、現在の露出の設定を調整後の露出に調整する。露出調整部109で調整された露出は露出設定部101で設定され、撮像装置10は調整された露出により撮影を行う。露出調整部109は、露出の調整を行う場合には、露出を上げたり、露出を下げたりして調整を行う。ここで露出調整部109は、所定量の露出を上げる場合には例えば1/3Ev毎に+3Evまでの露出を所定の露出として設定することが可能であり、所定量の露出を下げる場合には例えば1/3Ev毎に−3Evまでの露出を所定の露出として設定することが可能である。
また露出調整部109は、黒つぶれ画素の割合と白とび画素の割合との大小関係を判定し、黒つぶれ画素の割合が大きい場合には露出を上げる調整を行い、白とび画素の割合が黒つぶれ画素の割合より大きい場合には露出を下げる調整を行う。なお、露出調整部109は黒つぶれ画素の割合と白とび画素の割合いが等しい場合には、露出の調整を行わないようにしてもよい。
露出調整部109は、黒つぶれ画素の割合が白とび画素の割合よりも大きく、且つ黒つぶれ画素の割合が黒つぶれ画素割合閾値(第1の閾値)よりも大きい場合には、露出を上げる調整を行う。一方、露出調整部109は、高輝度領域における白とび画素の割合いが低輝度領域における黒つぶれ画素よりも大きい場合であり、且つ白とび画素の割合いが白とび画素割合閾値(第2の閾値)よりも大きい場合には、露出を下げる調整を行う。例えば、黒つぶれ画素割合閾値は1/2であり、白とび画素割合閾値は1/2である。
図4は、第1の実施形態の露出調整の動作フローを示す図である。
先ず、露出設定部101により公知の露出制御で制御された露出に設定されて、ライブビュー画像が撮影される(露出設定ステップおよび画像取得ステップ)。次に、輝度情報取得部103は、CCD14で撮像されて出力されるライブビュー画像に基づいて、生成された輝度のヒストグラムを取得する(ステップS10:輝度情報取得ステップ)。このライブビュー画像は、調整前の露出により撮影されたものである。次にカウント部105は、上述のヒストグラムに基づいて低輝度領域の画素数(低輝度画素の画素数)Nlと高輝度領域の画素数(高輝度画素の画素数)Nhをカウントする(ステップS11:カウントステップ)。その後カウント部105は、黒つぶれ領域の画素数(黒つぶれ画素の画素数)Nlsと白とび領域の画素数(白とび画素の画素数)Nhsをカウントする(ステップS12:カウントステップ)。
次に算出部107は、低輝度画素の画素数Nlと黒つぶれ領域の画素数Nlsとで黒つぶれ画素の割合(Nls/Nl)を算出し、高輝度領域の画素数Nhと白とび領域の画素数Nhsとで白とび画素の割合(Nhs/Nh)を算出する(ステップS13:算出ステップ)。
露出調整部109は、黒つぶれ画素の割合と白とび画素の割合とを比較し(ステップS14)、白とび画素の割合より黒つぶれ画素の割合が大きい場合には、黒つぶれ画素の割合が黒つぶれ画素割合閾値Thよりも大きいか否かを判定する(ステップS15)。そして、黒つぶれ画素の割合が黒つぶれ画素割合閾値Thよりも大きい場合には、現在の露出から所定量の露出を上げる調整を行う(ステップ16)。一方露出調整部109は、黒つぶれ画素の割合が黒つぶれ画素割合閾値Thよりも小さい場合には、現在の露出からの変更を行わない(ステップS19)。
更に露出調整部109は、黒つぶれ画素の割合と白とび画素の割合とを比較し(ステップS14)、黒つぶれ画素の割合が白とび画素の割合以下である場合には、白とび画素の割合が白とび画素割合閾値Thよりも大きいか否かを判定する(ステップS17)。そして、白とび画素の割合が白とび画素割合閾値Thよりも大きい場合には、現在の露出から所定量の露出を下げる調整を行う(ステップS18)。一方露出調整部109は、白とび画素の割合が白とび画素割合閾値Thよりも小さい場合には、現在の露出からの変更を行わない(ステップS19)。なおステップS16、ステップS18、およびステップS19が露出調整ステップに相当する。
上述の各構成および機能は、任意のハードウェア、ソフトウェア、或いは両者の組み合わせによって適宜実現可能である。例えば、上述の処理ステップ(処理手順)をコンピュータに実行させるプログラム、そのようなプログラムを記録したコンピュータ読み取り可能な記録媒体(非一時的記録媒体)、或いはそのようなプログラムをインストール可能なコンピュータに対しても本発明を適用することが可能である。
以上で説明したように、本実施形態では、低輝度画素の画素数に対する黒つぶれ画素の割合および高輝度画素の画素数に対する白とび画素の割合に基づいて露出調整を行うことにより、単に黒つぶれ画素の画素数および白とび画素の画素数に基づいて露出調整が行われる場合よりも、高輝度側および低輝度側の階調に関する情報を残すことができる。
<第2の実施形態>
次に、本発明の第2の実施形態に関して説明をする。
図5は、本実施形態のAE検出回路36の機能構成例を示すブロック図である。AE検出回路36は、露出設定部101、輝度情報取得部103、カウント部105、算出部107、露出調整部109、およびシミュレーション部111により構成される。なお、図2で既に説明を行った箇所は同じ番号の符号を付し説明を省略する。
シミュレーション部111は、露出調整部109で調整された露出により撮影画像が撮影された場合の黒つぶれ画素の割合(予測黒つぶれ画素の割合:第3の比)および白とび画素の割合(予測白とび画素の割合:第4の比)を算出する。
図6は、シミュレーション部111の機能構成例を示すブロック図である。シミュレーション部111は、シミュレーション輝度情報取得部121、シミュレーションカウント部122、およびシミュレーション算出部123から構成される。
シミュレーション輝度情報取得部121は、調整後の露出で撮像した場合に得られると予測される予測撮影画像を構成する各画素の輝度に関する情報を生成および取得する。シミュレーション輝度情報取得部121は、取得した輝度に関する情報をシミュレーションカウント部122に送る。シミュレーション輝度情報取得部121は、公知の技術により予測撮影画像の輝度に関する情報を生成する。
シミュレーションカウント部122は、シミュレーション輝度情報取得部121から取得した輝度に関する情報に基づいて、予測黒つぶれ画素、予測低輝度画素、予測白とび画素、および予測高輝度画素の画素数をカウントする。シミュレーションカウント部122はカウント結果をシミュレーション算出部123に送信する。なお、予測黒つぶれ画素、予測低輝度画素、予測白とび画素、および予測高輝度画素は、上述した黒つぶれ画素、低輝度画素、白とび画素、および高輝度画素と同様に、それぞれ黒つぶれ領域、低輝度領域、白とび領域、高輝度領域に含まれる画素のことである。
シミュレーション算出部123は、シミュレーションカウント部122から受信した予測黒つぶれ画素の画素数と予測低輝度画素の画素数との比である予測黒つぶれ画素の割合を算出する。更にシミュレーション算出部123は、シミュレーションカウント部122から受信した予測白とび画素の画素数と予測高輝度画素の画素数との比である予測白とび画素の割合を算出する。
図5に戻って、露出調整部109は、黒つぶれ画素の割合が白とび画素の割合よりも大きい場合には、シミュレーション算出部123で算出される予測高輝度画素の画素数に対する予測白とび画素の割合に応じて露出を調整する。また、露出調整部109は、白とび画素の割合が黒つぶれ画素の割合よりも大きい場合には、シミュレーション算出部123で算出される予測低輝度画素の画素数に対する予測黒つぶれ画素の割合に応じて露出を調整する。
また露出調整部109は、予測黒つぶれ画素の割合が予測黒つぶれ画素割合閾値(第3の閾値)以下である場合には、所定量の露出を下げた露出に調整する。また露出調整部109は、予測白とび画素の割合が予測白とび画素割合閾値(第4の閾値)より大きい場合には、所定量の露出を上げた露出に調整する。例えば、予測黒つぶれ画素割合閾値は1/2であり、予測白とび画素割合閾値は1/2である。なお上述した黒つぶれ画素割合閾値、白とび画素割合閾値、予測黒つぶれ画素割合閾値、および予測白とび画素割合閾値はそれぞれ等しくてもよいし、異なっていてもよい。
図7は、本実施形態の露出調整の動作フローを示す図である。
先ず輝度情報取得部103は、CCD14で撮像されて出力されるライブビュー画像に基づいて、生成された輝度のヒストグラムを取得し(ステップS20)、次にカウント部105が、低輝度領域の画素数(低輝度画素)Nlと高輝度領域の画素数(高輝度画素)Nhをカウントし(ステップS21)、黒つぶれ領域の画素数Nlsと白とび領域の画素数Nhsをカウントする(ステップS22)。
その後算出部107は、低輝度領域の画素数(低輝度画素の画素数)Nlと黒つぶれ領域の画素数(黒つぶれ画素の画素数)Nlsとで黒つぶれ画素の割合(Nls/Nl)を算出し、高輝度領域の画素数(高輝度画素の画素数)Nhと白とび領域の画素数(白とび画素の画素数)Nhsとで白とび画素の割合(Nhs/Nh)を算出する(ステップS23)。
露出調整部109は、黒つぶれ画素の割合と白とび画素の割合とを比較し(ステップS24)、白とび画素の割合より黒つぶれ画素の割合が大きい場合には、黒つぶれ画素の割合が黒つぶれ画素割合閾値Thよりも大きいか否かを判定する(ステップS25)。
その後黒つぶれ画素の割合が黒つぶれ画素割合閾値Thよりも大きい場合には、シミュレーション輝度情報取得部121は、露出を所定量上げた場合の輝度のヒストグラムを作成する(ステップS26)。そして、シミュレーションカウント部122は、予測高輝度領域の画素数Nhおよび予測白とび領域の画素数Nhsをカウントする(ステップS27およびステップS28)。そして露出調整部109は、予測白とび画素の割合と予測白とび閾値とを比較して(ステップS29)、予測白とび画素の割合が予測白とび閾値よりも大きい場合には、露出の調整を行わない(ステップS30)。一方、露出調整部109は、予測白とび画素の割合と予測白とび閾値とを比較して、予測白とび画素の割合が予測白とび閾値以下の場合には、露出を上げてもハンチングの発生が起こらないので、露出を所定量上げる調整を行う(ステップS31)。
なお露出調整部109は、黒つぶれ画素の割合が黒つぶれ画素割合閾値以下の場合には(ステップS25)、露出の調整は行わない。
一方露出調整部109は、黒つぶれ画素の割合と白とび画素の割合とを比較し(ステップS24)、黒つぶれ画素割合が白とび画素の割合以下である場合には、白とび画素の割合が白とび画素割合閾値Thよりも大きいか否かを判定する(ステップS32)。
その後黒つぶれ画素の割合が黒つぶれ画素割合閾値以下の場合には、シミュレーション輝度情報取得部121は、露出を所定量下げた場合の輝度のヒストグラムを作成する(ステップS33)。そして、シミュレーションカウント部122は、予測低輝度領域の画素数Nlおよび予測黒つぶれ領域の画素数Nlsをカウントする(ステップS34およびステップS35)。そして露出調整部109は、予測黒つぶれ画素の割合と予測黒つぶれ閾値とを比較して(ステップS36)、予測黒つぶれ画素の割合が予測黒つぶれ閾値よりも大きい場合には、露出の調整を行わない(ステップS30)。一方、露出調整部109は、予測白とび画素の割合と予測白とび閾値(第4の閾値)とを比較して、予測白とび画素の割合が予測白とび閾値以下の場合には、露出を下げてもハンチングの発生が抑制されるので、露出を所定量下げる調整を行う(ステップS37)。なお、図7に示された動作フローは繰り返し行われてもよい。すなわち、露出を上げる(ステップS31)または露出を下げる(ステップS37)の調整が行われた後に、露出の調整量を変えて再び露出制御が行われてもよい。そして、例えば黒つぶれ画素の割合と白とび画素の割合とがほぼ等しくなるまで、図7に示した露出調整の動作が行われてもよい。
以上のように、本実施形態ではシミュレーション部111の予測された出力値に基づいて、露出調整部109が予測黒つぶれ画素の割合または予測白とび画素の割合の算出結果により、露出の調整を行っているので、ハンチングの発生が抑制される。
<第3の実施形態>
次に、本発明の第3の実施形態に関して説明をする。本実施形態のカウント部105は、撮影画像における画素の位置に応じて重み付けを行い、黒つぶれ画素の画素数および白とび画素の画素数をカウントする。
図8は、撮影画像51の位置において画素数のカウントに重み付けを行う一例を概念的に示す図である。図8に示した場合にはカウント部105は、撮影画像51の中央領域53の黒つぶれ画素および白とび画素に重み付けを行ってカウントする。
撮影画像51は、全領域を5×5の25の領域に分割されている。そしてカウント部105は、中央領域53に含まれる黒つぶれ画素の画素数と白とび画素の画素数とを4倍にカウントする。またカウント部105は、準中央領域52に含まれる黒つぶれ画素の画素数と白とび画素の画素数とを2倍にカウントする。このように、撮影画像51の中央領域53および/または準中央領域52に位置する黒つぶれ画素および白とび画素に重み付けを行ってカウントすることにより、撮影画像51の中央に位置する被写体に応じた露出制御を行うことができる。
図9は、撮影画像51の位置において画素数のカウントに重み付けを行う一例を概念的に示す図である。図9に示した場合にはカウント部105は、撮影画像51における主要被写体54の領域の黒つぶれ画素および白とび画素に重み付けを行いカウントする。
撮影画像51において、主要被写体54が位置する領域である主要被写体領域55の黒つぶれ画素および白とびの画素は4倍でカウントされる。このように、撮影画像51の主要被写体領域55に位置する黒つぶれ画素および白とび画素に重み付けを行ってカウントすることにより、撮影画像51の主要被写体54に応じた露出制御を行うことができる。
図10は、撮影画像51の位置において画素数のカウントに重み付けを行う一例を概念的に示す図である。図10に示した場合にはカウント部105は、撮影画像51の焦点が合っている領域の黒つぶれ画素および白とび画素に対して重み付けを行いカウントする。
撮影画像51において、焦点は人57に合焦しており、木58および山59には合焦はしていない(図中では点線表記)。そして合焦している人57を構成する黒つぶれ画素および白とび画素は4倍にカウントされ、その他の合焦していない領域を構成する黒つぶれ画素および白とび画素は1倍にカウントされる。このように撮影画像51において、焦点があった領域の黒つぶれ画素および白とび画素に重みを付けてカウントすることにより、ピントの合った被写体に応じた露出制御を行うことができる。
<第4の実施形態>
次に、本発明の第4の実施形態に関して説明をする。本実施形態のカウント部105は、輝度に基づいて高輝度画素を判定し、判定された高輝度画素の輝度を構成するR、G、およびBの値のうちの最大値が白とび閾値(第5の閾値)よりも大きい画素を白とび画素としてカウントする。例えば白とび閾値は、輝度の全範囲を1とした場合に高輝度側からの1/16の輝度である。
前述したように輝度Yは式(1)で求められるので、輝度に対してRGBの寄与は同一ではない。したがって、例えばBの成分が飽和に近い値となっていても、RとGがBに比べて低い値を取っていた時に、輝度でみると白とび領域には入っていない画素とカウントされるため、露出を下げる方向に判断されない場合がある。そうすると、露出制御が適切に行われないのでB成分が飽和して色が変わってしまうという問題が発生してしまう。そこで本実施形態ではカウント部105は、低輝度画素、黒つぶれ画素、高輝度画素、および白とび画素カウントを、画素毎に検出する方法を採用する。
前述のようにCCD14は、カラーイメージセンサ(CCD14)であり撮影画像を取得する。そして輝度情報取得部103は、カラーイメージセンサ(CCD14)からの出力値に基づいてデモザイク処理された画素毎のR、G、およびBの値に基づいて上述した式(1)を使用して輝度Yを取得する。
図11は、本実施形態の撮像装置10におけるカウント部105が各画素のカウントを行う場合の動作フローを示す図である。すなわち、カウント部105は撮影画像を構成する各画素に対して図11に示す動作フローに沿ってカウントを行う。
先ずカウント部105は、画素が有する輝度Yが黒つぶれ閾値より小さいか否かを判定する(ステップS41)。輝度Yが黒つぶれ閾値より小さい場合には、カウント部105は、黒つぶれ画素としてカウントし(ステップS42)、低輝度画素としてカウントする(ステップS43)。
一方、輝度Yが黒つぶれ閾値以上の場合には、カウント部105は、輝度Yが低輝度閾値より小さいか否かを判定する(ステップS44)。そして輝度Yが低輝度閾値より小さい場合には、カウント部105は、低輝度画素としてカウントする。
また、輝度Yが低輝度閾値以上である場合には、カウント部105は、輝度Yが高輝度閾値より大きいか否かを判定する(ステップS45)。輝度Yが高輝度閾値以下である場合には、カウント部105はカウントを行わない。一方、輝度Yが高輝度閾値より大きい場合には、カウント部105は、高輝度画素としてカウントする(ステップS46)。その後、カウント部105は輝度Yを構成するR、G、およびBの値の最大値を取得する(ステップS47)。次にカウント部105は、R、G、およびBの値のうち最大値が白とび閾値より大きいか否かを判定する(ステップS48)。そしてカウント部105は、その最大値が白とび閾値よりも大きい場合には、白とび画素としてカウントする(ステップS49)。一方最大値が白とび閾値以下の場合には、カウント部105は白とび画素としてカウントしない。
以上のように、カウント部105は白とび領域の画素を輝度Yを構成するR、G、およびBの最大値により判定することにより、色の飽和を抑制した露出制御を行うことができる。
<スマートフォンの構成例>
本発明をスマートフォンに適用した場合に関して説明する。
図12は、コンピュータを搭載するスマートフォン300の外観を示すものである。図12に示すスマートフォン300は、平板状の筐体302を有し、筐体302の一方の面に表示部としての表示パネル321と、入力部としての操作パネル322とが一体となった表示入力部320を備えている。また、係る筐体302は、スピーカ331と、マイクロホン332、操作部340と、カメラ部341とを備えている。なお、筐体302の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用することもできる。
図13は、図12に示すスマートフォン300の構成を示すブロック図である。図13に示すように、スマートフォンの主たる構成要素として、無線通信部310と、表示入力部320と、通話部330と、操作部340と、カメラ部341と、記憶部350と、外部入出力部360と、GPS(global positioning system)受信部370と、モーションセンサ部380と、電源部390と、主制御部301とを備える。また、スマートフォン300の主たる機能として、基地局装置BSと移動通信網とを介した移動無線通信を行う無線通信機能を備える。
無線通信部310は、主制御部301の指示にしたがって、移動通信網に収容された基地局装置BSに対し無線通信を行うものである。係る無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
表示入力部320は、主制御部301の制御により、画像(静止画像および動画像)や文字情報などを表示して視覚的にユーザに情報を伝達するとともに、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル321と、操作パネル322とを備える。
表示パネル321は、LCD(liquid crystal display)、OELD(organic electro-luminescence display)などを表示デバイスとして用いたものである。操作パネル322は、表示パネル321の表示面上に表示される画像を視認可能に載置され、ユーザの指やペン型入力装置によって操作される一または複数の座標を検出するデバイスである。係るデバイスをユーザの指やペン型入力装置によって操作すると、操作に起因して発生する検出信号を主制御部301に出力する。次いで、主制御部301は、受信した検出信号に基づいて、表示パネル321上の操作位置(座標)を検出する。
図12に示すように、スマートフォン300の表示パネル321と操作パネル322とは一体となって表示入力部320を構成しているが、操作パネル322が表示パネル321を完全に覆うような配置となっている。係る配置を採用した場合、操作パネル322は、表示パネル321外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル322は、表示パネル321に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル321に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
なお、表示領域の大きさと表示パネル321の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル322が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体302の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル322で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
通話部330は、スピーカ331やマイクロホン332を備え、マイクロホン332を通じて入力されたユーザの音声を主制御部301にて処理可能な音声データに変換して主制御部301に出力したり、無線通信部310あるいは外部入出力部360により受信された音声データを復号してスピーカ331から出力するものである。また、図12に示すように、例えば、スピーカ331を表示入力部320が設けられた面と同じ面に搭載し、マイクロホン332を筐体302の側面に搭載することができる。
操作部340は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図12に示すように、操作部340は、スマートフォン300の筐体302の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部350は、主制御部301の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶し、またストリーミングデータなどを一時的に記憶するものである。また、記憶部350は、スマートフォン内蔵の内部記憶部351と着脱自在な外部メモリ用のスロットを有する外部記憶部352により構成される。なお、記憶部350を構成するそれぞれの内部記憶部351と外部記憶部352は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(random access memory)、ROM(read only memory)などの格納媒体を用いて実現される。
外部入出力部360は、スマートフォン300に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)など)またはネットワーク(例えば、インターネット、無線LAN(local area network)、ブルートゥース(bluetooth)(登録商標)、RFID(radio frequency identification)、赤外線通信(infrared data association:IrDA)(登録商標)、UWB(ultra wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的または間接的に接続するためのものである。
スマートフォン300に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(memory card)やSIM(subscriber identity module)/UIM(user identity module)カード、オーディオビデオI/O(input/output)端子を介して接続される外部オーディオビデオ機器、無線接続される外部オーディオビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA(personal digital assistant)、イヤホンなどがある。外部入出力部は、このような外部機器から伝送を受けたデータをスマートフォン300の内部の各構成要素に伝達することや、スマートフォン300の内部のデータが外部機器に伝送されるようにする。
GPS受信部370は、主制御部301の指示にしたがって、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、スマートフォン300の緯度、経度、高度を含む位置を検出する。GPS受信部370は、無線通信部310や外部入出力部360(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部380は、例えば、3軸の加速度センサなどを備え、主制御部301の指示にしたがって、スマートフォン300の物理的な動きを検出する。スマートフォン300の物理的な動きを検出することにより、スマートフォン300の動く方向や加速度が検出される。係る検出結果は、主制御部301に出力されるものである。
電源部390は、主制御部301の指示にしたがって、スマートフォン300の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
主制御部301は、マイクロプロセッサを備え、記憶部350が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン300の各部を統括して制御するものである。また、主制御部301は、無線通信部310を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
アプリケーション処理機能は、記憶部350が記憶するアプリケーションソフトウェアにしたがって主制御部301が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部360を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
また、主制御部301は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部320に表示する等の画像処理機能を備える。画像処理機能とは、主制御部301が、上記画像データを復号し、係る復号結果に画像処理を施して、画像を表示入力部320に表示する機能のことをいう。
更に、主制御部301は、表示パネル321に対する表示制御と、操作部340、操作パネル322を通じたユーザ操作を検出する操作検出制御を実行する。
表示制御の実行により、主制御部301は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成するためのウィンドウを表示する。なお、スクロールバーとは、表示パネル321の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
また、操作検出制御の実行により、主制御部301は、操作部340を通じたユーザ操作を検出したり、操作パネル322を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
更に、操作検出制御の実行により主制御部301は、操作パネル322に対する操作位置が、表示パネル321に重なる重畳部分(表示領域)か、それ以外の表示パネル321に重ならない外縁部分(非表示領域)かを判定し、操作パネル322の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、主制御部301は、操作パネル322に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部341は、CMOS(complementary metal oxide semiconductor)撮像センサやCCD(charge coupled device)撮像センサなどの撮像素子を用いて電子撮影するデジタルカメラである。また、カメラ部341は、主制御部301の制御により、撮像によって得た画像データを例えばJPEG(joint photographic coding experts group)などの圧縮した画像データに変換し、記憶部350に記録したり、外部入出力部360や無線通信部310を通じて出力することができる。図12に示すスマートフォン300において、カメラ部341は表示入力部320と同じ面に搭載されているが、カメラ部341の搭載位置はこれに限らず、表示入力部320の背面に搭載されてもよいし、あるいは、複数のカメラ部341が搭載されてもよい。なお、複数のカメラ部341が搭載されている場合には、撮影に供するカメラ部341を切り替えて単独にて撮影したり、あるいは、複数のカメラ部341を同時に使用して撮影することもできる。
また、カメラ部341はスマートフォン300の各種機能に利用することができる。例えば、表示パネル321にカメラ部341で取得した画像を表示することや、操作パネル322の操作入力のひとつとして、カメラ部341の画像を利用することができる。また、GPS受信部370が位置を検出する際に、カメラ部341からの画像を参照して位置を検出することもできる。更には、カメラ部341からの画像を参照して、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン300のカメラ部341の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部341からの画像をアプリケーションソフトウェア内で利用することもできる。
なお、スマートフォン300において上述したAE検出回路36は、主制御部301に含まれている。
以上で本発明の例に関して説明してきたが、本発明は上述した実施の形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
10 撮像装置
12 撮影光学系
12f フォーカスレンズ
12i 絞り
12z ズームレンズ
14 CCD
16 TG
18 A/D変換器
20 画像入力コントローラ
22 画像信号処理回路
24 圧縮伸張処理回路
26 ビデオエンコーダ
28 画像表示装置
30 CPU
36 AE検出回路
38 AF検出回路
40 メモリ
42 メディアコントローラ
44 記録メディア
46 操作部
48 モータドライバ
49 モータドライバ
50 モータドライバ
51 撮影画像
52 準中央領域
53 中央領域
54 主要被写体
55 主要被写体領域
57 人
58 木
59 山
101 露出設定部
103 輝度情報取得部
105 カウント部
107 算出部
109 露出調整部
111 シミュレーション部
121 シミュレーション輝度情報取得部
122 シミュレーションカウント部
123 シミュレーション算出部
300 スマートフォン
301 主制御部
302 筐体
310 無線通信部
320 表示入力部
321 表示パネル
322 操作パネル
330 通話部
331 スピーカ
332 マイクロホン
340 操作部
341 カメラ部
350 記憶部
351 内部記憶部
352 外部記憶部
360 外部入出力部
370 GPS受信部
380 モーションセンサ部
390 電源部

Claims (10)

  1. 第1の露出または第2の露出を設定する露出設定部と、
    前記第1の露出で撮影された撮影画像を取得する画像取得部と、
    前記撮影画像を構成する各画素の輝度に関する情報を取得する輝度情報取得部と、
    前記輝度に関する情報に基づいて、所定の黒つぶれ領域に含まれる黒つぶれ画素の画素数、前記所定の黒つぶれ領域よりも広い低輝度領域に含まれる低輝度画素の画素数、所定の白とび領域に含まれる白とび画素の画素数、および前記所定の白とび領域よりも広い高輝度領域に含まれる高輝度画素の画素数をそれぞれカウントするカウント部と、
    前記黒つぶれ画素の画素数と前記低輝度画素の画素数との第1の比、および前記白とびの画素の画素数と前記高輝度画素の画素数との第2の比を算出する算出部と、
    前記算出部で算出された前記第1の比および前記第2の比に基づいて、前記第1の露出を前記第2の露出に調整する露出調整部と、
    を備える撮像装置。
  2. 前記露出調整部は、前記第1の比と前記第2の比との大小関係を判定し、前記第1の比が前記第2の比よりも大きい場合には、前記第1の露出に対して所定量の露出を上げた前記第2の露出に調整し、前記第2の比が前記第1の比よりも大きい場合には、前記第1の露出に対して所定量の露出を下げた前記第2の露出に調整する請求項1に記載の撮像装置。
  3. 前記露出調整部は、前記第1の比が前記第2の比よりも大きく且つ前記第1の比が第1の閾値よりも大きい場合には、前記第1の露出に対して所定量の露出を上げた前記第2の露出に調整し、前記第2の比が前記第1の比よりも大きく且つ前記第2の比が第2の閾値よりも大きい場合には、前記第1の露出に対して所定量の露出を下げた前記第2の露出に調整する請求項2に記載の撮像装置。
  4. 前記第2の露出で撮影した場合に得られると予測される予測撮影画像を構成する各画素の輝度に関する情報を取得し、前記予測された輝度に関する情報に基づいて、前記黒つぶれ画素、前記低輝度画素、前記白とび画素、および前記高輝度画素の画素数をカウントし、前記カウントされた前記黒つぶれ画素の画素数と前記低輝度画素の画素数との第3の比、および前記カウントされた前記白とび画素の画素数と前記高輝度画素の画素数との第4の比を算出するシミュレーション部を更に備え、
    前記露出調整部は、前記第1の比が前記第2の比よりも大きい場合には、前記シミュレーション部が算出した前記第4の比に応じて前記第1の露出を前記第2の露出に調整し、前記第2の比が前記第1の比よりも大きい場合には、前記シミュレーション部が算出した前記第3の比に応じて前記第1の露出を前記第2の露出に調整する請求項2または3に記載の撮像装置。
  5. 前記露出調整部は、前記第3の比が第3の閾値以下である場合には、前記第1の露出に対して所定量の露出を下げた前記第2の露出に調整し、前記第4の比が第4の閾値以下である場合には、前記第1の露出に対して所定量の露出を上げた前記第2の露出に調整する請求項4に記載の撮像装置。
  6. 前記カウント部は、前記撮影画像の位置に応じて重み付けを行い、前記黒つぶれ画素の画素数および前記白とび画素の画素数をカウントする請求項1から5のいずれか1項に記載の撮像装置。
  7. 前記カウント部は、前記撮影画像の中央領域の前記黒つぶれ画素の画素数および前記白とび画素の画素数、前記撮影画像における主要被写体の領域の前記黒つぶれ画素の画素数および前記白とび画素の画素数、または前記撮影画像の焦点が合っている領域の前記黒つぶれ画素の画素数および前記白とび画素の画素数に対して重み付けを行う請求項6に記載の撮像装置。
  8. 前記画像取得部は、前記撮影画像をカラーイメージセンサにより取得し、
    前記輝度情報取得部は、前記カラーイメージセンサからの出力値に基づいてデモザイク処理された画素毎のR、G、およびBの値に基づいて輝度を取得し、
    前記カウント部は、前記輝度に基づいて前記高輝度画素を判定し、前記判定された前記高輝度画素の前記輝度を構成するR、G、およびBの値のうちの最大値が第5の閾値よりも大きい画素を前記白とび画素としてカウントする請求項1から7のいずれか1項に記載の撮像装置。
  9. 第1の露出または第2の露出を設定する露出設定ステップと、
    前記第1の露出で撮影された撮影画像を取得する画像取得ステップと、
    前記撮影画像を構成する各画素の輝度に関する情報を取得する輝度情報取得ステップと、
    前記輝度に関する情報に基づいて、所定の黒つぶれ領域に含まれる黒つぶれ画素の画素数、前記所定の黒つぶれ領域よりも広い低輝度領域に含まれる低輝度画素の画素数、所定の白とび領域に含まれる白とび画素の画素数、および前記所定の白とび領域よりも広い高輝度領域に含まれる高輝度画素の画素数をそれぞれカウントするカウントステップと、
    前記黒つぶれ画素の画素数と前記低輝度画素の画素数との第1の比、および前記白とびの画素の画素数と前記高輝度画素の画素数との第2の比を算出する算出ステップと、
    前記算出ステップで算出された前記第1の比および前記第2の比に基づいて、前記第1の露出を前記第2の露出に調整する露出調整ステップと、
    を含む撮像方法。
  10. 第1の露出または第2の露出を設定する露出設定ステップと、
    前記第1の露出で撮影された撮影画像を取得する画像取得ステップと、
    前記撮影画像を構成する各画素の輝度に関する情報を取得する輝度情報取得ステップと、
    前記輝度に関する情報に基づいて、所定の黒つぶれ領域に含まれる黒つぶれ画素の画素数、前記所定の黒つぶれ領域よりも広い低輝度領域に含まれる低輝度画素の画素数、所定の白とび領域に含まれる白とび画素の画素数、および前記所定の白とび領域よりも広い高輝度領域に含まれる高輝度画素の画素数をそれぞれカウントするカウントステップと、
    前記黒つぶれ画素の画素数と前記低輝度画素の画素数との第1の比、および前記白とびの画素の画素数と前記高輝度画素の画素数との第2の比を算出する算出ステップと、
    前記算出ステップで算出された前記第1の比および前記第2の比に基づいて、前記第1の露出を前記第2の露出に調整する露出調整ステップと、
    をコンピュータに実現させるプログラム。
JP2018543865A 2016-10-04 2017-09-28 撮像装置、撮像方法、およびプログラム Active JP6534780B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016196547 2016-10-04
JP2016196547 2016-10-04
PCT/JP2017/035300 WO2018066454A1 (ja) 2016-10-04 2017-09-28 撮像装置、撮像方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP6534780B2 true JP6534780B2 (ja) 2019-06-26
JPWO2018066454A1 JPWO2018066454A1 (ja) 2019-07-25

Family

ID=61831418

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018543865A Active JP6534780B2 (ja) 2016-10-04 2017-09-28 撮像装置、撮像方法、およびプログラム

Country Status (4)

Country Link
US (1) US10778903B2 (ja)
JP (1) JP6534780B2 (ja)
CN (1) CN109845241B (ja)
WO (1) WO2018066454A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114258673A (zh) * 2019-08-19 2022-03-29 谷歌有限责任公司 相机系统中的双曝光控制
CN110784659B (zh) * 2019-10-31 2022-01-11 Oppo广东移动通信有限公司 一种曝光控制方法及装置、存储介质
CN110661983B (zh) 2019-11-12 2021-03-19 腾讯科技(深圳)有限公司 图像采集方法、装置、设备及存储介质
CN113038040B (zh) * 2021-03-03 2023-03-24 深圳市丛矽微电子科技有限公司 一种事件相机、阈值调整方法及系统

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6906745B1 (en) * 1998-04-23 2005-06-14 Micron Technology, Inc. Digital exposure circuit for an image sensor
US6859230B2 (en) * 2001-11-07 2005-02-22 Omnivision Technologies, Inc. Method of fast automatic exposure or gain control in a MOS image sensor
US7489352B2 (en) * 2002-11-15 2009-02-10 Micron Technology, Inc. Wide dynamic range pinned photodiode active pixel sensor (APS)
US7430011B2 (en) * 2003-01-22 2008-09-30 Omnivision Technologies, Inc. Image sensor having dual automatic exposure control
US8199222B2 (en) * 2007-03-05 2012-06-12 DigitalOptics Corporation Europe Limited Low-light video frame enhancement
JP4867365B2 (ja) 2006-01-30 2012-02-01 ソニー株式会社 撮像制御装置、撮像装置および撮像制御方法
JP2007259411A (ja) * 2006-02-21 2007-10-04 Seiko Epson Corp 露出判別装置およびその方法
JP4600684B2 (ja) * 2006-08-18 2010-12-15 日本ビクター株式会社 撮影装置及び撮影方法
JP2008131530A (ja) * 2006-11-24 2008-06-05 Sony Corp 撮像装置、画像処理装置、および方法、並びにコンピュータ・プログラム
KR100944595B1 (ko) * 2007-04-24 2010-02-25 가부시끼가이샤 르네사스 테크놀로지 표시 장치, 표시 장치 구동 회로, 화상 표시 방법, 전자기기 및 화상 표시 장치 구동 회로
JP4341691B2 (ja) * 2007-04-24 2009-10-07 ソニー株式会社 撮像装置、撮像方法、露光制御方法、プログラム
US20090002530A1 (en) * 2007-06-27 2009-01-01 Texas Instruments Incorporated Apparatus and method for processing images
JP4986747B2 (ja) * 2007-07-09 2012-07-25 キヤノン株式会社 撮像装置及び撮像方法
CN101399924B (zh) * 2007-09-25 2010-05-19 展讯通信(上海)有限公司 基于亮度直方图的自动曝光方法和装置
WO2010088465A1 (en) * 2009-02-02 2010-08-05 Gentex Corporation Improved digital image processing and systems incorporating the same
US8013911B2 (en) * 2009-03-30 2011-09-06 Texas Instruments Incorporated Method for mixing high-gain and low-gain signal for wide dynamic range image sensor
CN101566889B (zh) * 2009-05-22 2012-03-28 埃派克森微电子(上海)股份有限公司 光学指示装置图像质量控制参数的调整方法
JP5610762B2 (ja) 2009-12-21 2014-10-22 キヤノン株式会社 撮像装置及び制御方法
JP5520038B2 (ja) * 2009-12-25 2014-06-11 キヤノン株式会社 映像処理装置及び映像処理方法
CN102196153B (zh) * 2010-03-03 2013-07-03 鸿富锦精密工业(深圳)有限公司 图像场景亮度差判断装置及亮度差判断方法
CN102262330B (zh) * 2010-05-25 2016-05-11 北京中星微电子有限公司 自动曝光的方法及装置
JP5520863B2 (ja) * 2011-03-25 2014-06-11 株式会社日立製作所 画像信号処理装置
CN103248828B (zh) * 2012-02-13 2017-04-26 宏达国际电子股份有限公司 曝光值调整装置及曝光值调整方法
JP6120500B2 (ja) * 2012-07-20 2017-04-26 キヤノン株式会社 撮像装置およびその制御方法
US8866928B2 (en) * 2012-12-18 2014-10-21 Google Inc. Determining exposure times using split paxels
JP6259185B2 (ja) * 2012-12-21 2018-01-10 キヤノン株式会社 撮像装置及びその制御方法、プログラム並びに記憶媒体
EP2869023B1 (en) * 2013-10-30 2018-06-13 Canon Kabushiki Kaisha Image processing apparatus, image processing method and corresponding computer program
US20150130967A1 (en) * 2013-11-13 2015-05-14 Nvidia Corporation Adaptive dynamic range imaging
WO2015105643A1 (en) * 2014-01-13 2015-07-16 Marvell World Trade Ltd. System and method for tone mapping of images
CN103826006A (zh) 2014-02-14 2014-05-28 可牛网络技术(北京)有限公司 移动终端的提示方法、装置以及提高信号覆盖率的方法
CN103826066B (zh) * 2014-02-26 2017-05-03 芯原微电子(上海)有限公司 一种自动曝光调整方法及系统
JP2016006930A (ja) 2014-06-20 2016-01-14 ソニー株式会社 撮像装置および撮像方法
EP3334150B1 (en) * 2016-12-06 2022-09-07 Canon Kabushiki Kaisha Image processing apparatus

Also Published As

Publication number Publication date
CN109845241B (zh) 2020-12-15
WO2018066454A1 (ja) 2018-04-12
US10778903B2 (en) 2020-09-15
JPWO2018066454A1 (ja) 2019-07-25
US20190215433A1 (en) 2019-07-11
CN109845241A (zh) 2019-06-04

Similar Documents

Publication Publication Date Title
US9710895B2 (en) Image processing device, image capture device, image processing method, and program
JP5833794B2 (ja) 撮像装置
US9906732B2 (en) Image processing device, image capture device, image processing method, and program
US9699427B2 (en) Imaging device, imaging method, and image processing device
JP6534780B2 (ja) 撮像装置、撮像方法、およびプログラム
US20180007292A1 (en) Imaging device, imaging method, and image processing device
US9799105B2 (en) Image processing device, imaging device, image processing method, and program for restoration processing based on a point spread function and a frame after a frame to be processed
US11032483B2 (en) Imaging apparatus, imaging method, and program
JP7112529B2 (ja) 撮像装置、撮像方法、及びプログラム
JP5768193B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム
JP5897769B2 (ja) 撮像装置、キャリブレーションシステム、及びプログラム
JP6998454B2 (ja) 撮像装置、撮像方法、プログラム及び記録媒体
JP6941744B2 (ja) 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム
US10778880B2 (en) Imaging device, imaging method, and imaging program

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190402

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190402

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190402

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190415

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190508

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190529

R150 Certificate of patent or registration of utility model

Ref document number: 6534780

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250