JP2015192222A - 撮像装置及び撮像制御方法 - Google Patents

撮像装置及び撮像制御方法 Download PDF

Info

Publication number
JP2015192222A
JP2015192222A JP2014066689A JP2014066689A JP2015192222A JP 2015192222 A JP2015192222 A JP 2015192222A JP 2014066689 A JP2014066689 A JP 2014066689A JP 2014066689 A JP2014066689 A JP 2014066689A JP 2015192222 A JP2015192222 A JP 2015192222A
Authority
JP
Japan
Prior art keywords
image
imaging
image data
exposure condition
recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014066689A
Other languages
English (en)
Inventor
利章 篠原
Toshiaki Shinohara
利章 篠原
秀雄 斉藤
Hideo Saito
秀雄 斉藤
東澤 義人
Yoshito Tosawa
義人 東澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2014066689A priority Critical patent/JP2015192222A/ja
Priority to PCT/JP2015/001170 priority patent/WO2015146006A1/ja
Publication of JP2015192222A publication Critical patent/JP2015192222A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/587Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields
    • H04N25/589Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields with different integration times, e.g. short and long exposures

Abstract

【課題】周囲の環境の変化の有無に拘わらず、適正な露光条件を用いて映像を撮像する。
【解決手段】撮像装置は、映像を撮像する撮像部と、複数の異なる露光条件を用いて、各露光条件に応じて、撮像部により撮像された映像の画像データを生成する信号処理部と、露光条件毎に、信号処理部により生成された映像の画像データを画像認識する画像認識部と、画像認識部における露光条件毎の映像の画像データの画像認識結果を基に、撮像部における映像の撮像に適する露光条件を選択する選択部と、を備える。
【選択図】図1

Description

本発明は、露光条件を用いて撮像する撮像装置及び撮像制御方法に関する。
従来から、撮像装置(例えばデジタルカメラ)が被写体を撮像する際に、露光条件(即ち、カメラパラメータ)の異なる複数の画像を撮像して合成し、合成後の画像のダイナミックレンジを広げるための技術としてHDR(High Dynamic Range)技術が知られている。HDR技術により、単一の露光条件では再現が困難な階調特性を有する画像が得られる。例えば、日中の屋外で撮像装置が被写体を撮像する際、撮像装置が撮像可能なダイナミックレンジよりも撮像環境のダイナミックレンジが広い場合がある。このような場合には、撮像装置が撮像可能なダイナミックレンジ外の階調情報が得られないので、撮像により得られた画像には白飛びや黒潰れという現象が発生する。HDR技術により、このような現象の発生を抑制できる。
ここで、HDR技術に関する先行技術として、例えば特許文献1に示す撮像装置が提案されている。
特許文献1に示す撮像装置は、露光条件の異なる複数の画像を撮像し、撮像により得られた複数の画像データをHDR合成してダイナミックレンジを広げたHDR画像データを生成する。また、撮像装置は、HDR合成前の少なくとも1つの画像データから特徴量を抽出し、抽出された特徴量を基に、HDR画像データに対して特殊効果を付加する。これにより、特許文献1に示す撮像装置は、HDR効果、即ちダイナミックレンジが広がり、更に、特殊効果が付加された画像を得ることができる。
特開2013−90095号公報
特許文献1に示す撮像装置は、HDRモード撮像では、同一のタイミングに階調の異なる複数の画像を撮像し、これらの複数の画像を用いてHDR合成を行うことによってHDR画像データを生成する。このため、ある瞬間において撮像された複数の画像に基づいて生成されたHDR画像データは、ダイナミックレンジが広がり、白飛びや黒潰れの発生が抑制されていると考えられる。
しかし、例えば特許文献1に示す撮像装置が動画を撮像している場合には、周囲の環境の変化に応じて、適正な露光条件が得られた状態で撮像することが困難な場合がある。例えば、特許文献1の構成では、撮像装置を把持しているユーザが急に明るい場所に移動した場合、又は、ユーザの近くでランプ若しくは照明が急に点灯した場合等には、直前の状態と適正な露光条件が異なるので、適正な露光条件を用いた動画の撮像が困難となる場合がある。
本発明は、上述した従来の課題を解決するために、周囲の環境の変化の有無に拘わらず、適正な露光条件を用いて映像を撮像する撮像装置及び撮像制御方法を提供することを目的とする。
本発明は、映像を撮像する撮像部と、複数の異なる露光条件を用いて、各露光条件に応じて、前記撮像部により撮像された前記映像の画像データを生成する信号処理部と、前記露光条件毎に、前記信号処理部により生成された前記映像の画像データを画像認識する画像認識部と、前記画像認識部における前記露光条件毎の前記映像の画像データの画像認識結果を基に、前記撮像部における映像の撮像に適する露光条件を選択する選択部と、を備える、撮像装置である。
また、本発明は、撮像装置における撮像制御方法であって、映像を撮像するステップと、複数の異なる露光条件を用いて、各露光条件に応じて、撮像された前記映像の画像データを生成するステップと、前記露光条件毎に生成された前記映像の画像データを画像認識するステップと、前記露光条件毎の前記映像の画像データの画像認識結果を基に、前記映像の撮像に適する露光条件を選択するステップと、を有する、撮像制御方法である。
また、本発明は、ネットワークを介して接続された撮像装置と画像認識装置とにおける撮像制御方法であって、映像を撮像するステップと、複数の異なる露光条件を用いて、各露光条件に応じて、撮像された前記映像の画像データを生成するステップと、前記露光条件毎に生成された前記映像の画像データを前記撮像装置から送信するステップと、前記露光条件毎に生成された前記映像の画像データを前記画像認識装置において受信するステップと、前記露光条件毎に生成された前記映像の画像データを画像認識するステップと、前記露光条件毎の前記映像の画像データの画像認識結果を基に、前記映像の撮像に適する露光条件を選択するステップと、を有する、撮像制御方法である。
本発明によれば、周囲の環境の変化の有無に拘わらず、適正な露光条件を用いて映像を撮像することができる。
本実施形態の撮像装置の内部構成の一例を詳細に示すブロック図 3つの露光条件のセットに関する概念説明図 各露光条件を用いた認識用画像データと、露光条件に対応するカメラパラメータのシャッター速度とイメージセンサのゲインとの調整幅の最大値及び最小値の一例とを示す説明図 本実施形態の撮像装置の詳細な動作手順の一例を示すフローチャート 本実施形態の撮像装置の詳細な動作手順の一例を示すタイムチャート 本変形例の撮像制御システムのシステム構成の一例を詳細に示すブロック図
以下、本発明に係る撮像装置及び撮像制御方法の実施形態(以下、「本実施形態」という)について、図面を参照して説明する。以下、本実施形態の撮像装置について説明し、必要に応じて、本発明に係る撮像制御方法について説明する。なお、本発明は、撮像装置の装置カテゴリの発明、撮像制御方法の方法カテゴリの発明に限定されず、撮像装置と後述する画像認識装置(例えばPC(Personal Computer))とを含む撮像制御システムのシステムカテゴリの発明としても良い。
本実施形態の撮像装置は、所定位置(例えば天井面)に固定され、又は所定面から吊り下げられて支持される監視カメラである。また、本実施形態の撮像装置は、ユーザにより把持されて使用されるデジタルカメラでも良い。また、本実施形態の撮像装置は、移動体(例えば鉄道、飛行機、バス、船舶、自動車、バイク、自転車)に搭載された車載カメラとして使用されても良い。
本実施形態の撮像装置は、映像を撮像する撮像部と、複数の異なる撮像時の露光条件を用いて、各露光条件に応じて、撮像部により撮像された映像の画像データを生成する信号処理部と、露光条件毎に信号処理部が生成した映像の画像データを画像認識する画像認識部と、画像認識部が露光条件毎に映像の画像データを画像認識した画像認識結果を基に、撮像部における映像の撮像に適する露光条件を選択する。
以下、具体的な構成について、図1を参照して詳細に説明する。
図1は、本実施形態の撮像装置10の内部構成の一例を詳細に示すブロック図である。図1に示す撮像装置10は、撮像部IMと、信号処理部13と、出力切換部15と、伝送用画像記憶バッファ17と、認識用画像記憶バッファ19と、画像圧縮部21と、画像伝送部23と、動き検出部25と、画像認識部27と、カメラパラメータ制御ドライバ29とを含む構成である。なお、本実施形態の撮像装置10の使用状況に応じて、動き検出部25は必ずしも必要ではなく、省略されても良い。例えば、LPR(Licensed Plate Recognition:ナンバープレート認識)処理のように撮像装置10が車両に取り付けられた場合又は移動中のユーザが撮像装置10を所持している場合等、撮像装置10自身が静止していない状況で使用される場合には、動き検出部25は省略されても良い。なお、車両に取り付けられた撮像装置10がLPR処理する場合には、UI(User Interface)操作信号により設定された範囲又は検出した前方の車両の下方範囲(例えばリアゲートガラスから下方の範囲)が対象となる。
撮像部IMは、レンズLSと、絞り部IRと、シャッター部SHと、イメージセンサ11とを含む。レンズLSは、被写体像をイメージセンサ11の撮像面に向けて形成するために1つ以上の光学レンズを用いて構成され、例えば単焦レンズ、ズームレンズ、魚眼レンズ、又は所定度以上の広角な画角が得られるレンズである。
レンズLSの光軸の後方(図1の紙面右側。以下同様。)には、絞り部IRが配置されている。絞り部IRは、絞り値(口径)が可変であり、レンズLSを通過した被写体光の光量を制限する。絞り部IRの絞り値は、本実施形態の撮像装置10の撮像時の露光条件を構成するカメラパラメータの一例であり、後述するカメラパラメータ制御ドライバ29により変更される。カメラパラメータと信号処理部13との関係の詳細については後述する。
絞り部IRの後方には、シャッター部SHが配置されている。シャッター部SHは、撮像装置10の撮像時に所定のシャッター速度で開動作及び閉動作を交互に行って、絞り部IRを通過した被写体光をイメージセンサ11に通過させる。シャッター部SHのシャッター速度は、本実施形態の撮像装置10の撮像時の露光条件を構成するカメラパラメータの一例であり、後述するカメラパラメータ制御ドライバ29により変更される。
イメージセンサ11は、例えばCCD(Charged Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)の固体撮像素子を用いて構成され、イメージセンサ11のゲインを用いて、イメージセンサ11の撮像面に結像された被写体像を電気信号に光電変換する。イメージセンサ11の出力は、信号処理部13に入力される。
信号処理部13は、露光条件A信号処理部13aと、露光条件B信号処理部13bと、露光条件C信号処理部13cと、HDR(High Dynamic Range)処理部13dとを含む。信号処理部13は、複数の異なる露光条件を用いて、各露光条件に応じて、イメージセンサ11の光電変換により生成された被写体像の電気信号を用いて、所定フォーマットに従った映像の画像データとして、伝送用画像データと認識用画像データとを生成する。
伝送用画像データは、例えば撮像装置10とネットワークを介して接続された外部機器に伝送(送信)されて、外部機器を操作するユーザの閲覧に供される。一方、認識用画像データは、後述する複数の異なる露光条件に従って個々に生成された画像データであり、画像認識部27における画像認識に供される。なお、詳細は後述するが、画像認識部27は、複数の異なる露光条件に従って生成された認識用画像データの画像認識結果を基に、撮像装置10の周囲に適する露光条件を選択する。
具体的には、信号処理部13は、例えば3つの異なる露光条件A,B,Cを用いて、各露光条件A,B,Cに従った認識用画像データを生成し、更に、これらの露光条件A,B,Cに従って生成した認識用画像データを合成(所謂、HDR合成)して伝送用画像データを生成する。なお、本実施形態では、説明を分かり易くするために、3つの異なる露光条件A,B,Cを用いて説明するが、露光条件は3つに限定されず、2つ以上であれば良い。
露光条件A信号処理部13a,露光条件B信号処理部13b,露光条件C信号処理部13cは、それぞれ同一の動作開始タイミングでは信号処理を行うのではなく、図5に示すように、パイプライン処理として、異なる動作開始タイミングで並列に信号処理を行う。また、本実施形態では、露光条件A,B,C毎に、撮像装置10のカメラパラメータ(例えば絞り値、シャッター速度、イメージセンサ11のゲインのうち1つ又は複数の組み合わせ)が、カメラパラメータ制御ドライバ29によりセット(設定)される。
従って、信号処理部13では、露光条件A信号処理部13aが露光条件Aに従った認識用画像データを生成すると、カメラパラメータ制御ドライバ29により、露光条件Aに対応するカメラパラメータは露光条件Bに対応するカメラパラメータに変更される。
同様に、露光条件B信号処理部13bが露光条件Bに従った認識用画像データを生成すると、カメラパラメータ制御ドライバ29により、露光条件Bに対応するカメラパラメータは露光条件Cに対応するカメラパラメータに変更される。
更に、露光条件C信号処理部13cが露光条件Cに従った認識用画像データを生成すると、カメラパラメータ制御ドライバ29により、露光条件Cに対応するカメラパラメータは露光条件Cに対応するカメラパラメータに変更される。信号処理部13では、このようなカメラパラメータのセットが繰り返し行われる。
露光条件A信号処理部13aは、露光条件Aに対応するカメラパラメータを用いて、露光条件Aに従った認識用画像データ、即ち、所定の画像処理が施されていないRGB(Red Green Blue)形式又はYUV(輝度・色差)形式のRAWデータと言われる画像データのフレームを生成する。
露光条件B信号処理部13bは、露光条件Bに対応するカメラパラメータを用いて、露光条件Bに従った認識用画像データ、即ち、所定の画像処理が施されていないRGB(Red Green Blue)形式又はYUV(輝度・色差)形式のRAWデータと言われる画像データのフレームを生成する。
露光条件C信号処理部13cは、露光条件Cに対応するカメラパラメータを用いて、露光条件Cに従った認識用画像データ、即ち、所定の画像処理が施されていないRGB(Red Green Blue)形式又はYUV(輝度・色差)形式のRAWデータと言われる画像データのフレームを生成する。
HDR処理部13dは、露光条件A信号処理部13a,露光条件B信号処理部13b,露光条件C信号処理部13cにより生成された認識用画像データのフレームを合成し、例えば撮像装置10とネットワークを介して接続された外部機器に対する伝送用画像データを生成する。HDR処理部13dにより生成された伝送用画像データは、HDR効果により、単一の露光条件(例えば露光条件A)に従って生成された認識用画像データに比べて、ダイナミックレンジが高くなっている。
これにより、信号処理部13は、例えばHDR処理部13dにより生成された伝送用画像データが外部機器のディスプレイに表示された場合には、人の視覚が有するダイナミックレンジにおいてカバーできるので、人の閲覧に適する明瞭性の高い画像データを得ることができる。
切換部の一例としての出力切換部15は、外部信号(例えば撮像装置10のユーザの入力操作によって生成されたUI操作信号)に応じて、信号処理部13の出力、即ち、単一の露光条件に従って生成された認識用画像データ又はHDR処理部13dにより生成された伝送用画像データの出力を、伝送用画像記憶バッファ17又は認識用画像記憶バッファ19に切り換える。
なお、出力切換部15は、上述した外部信号(例えば撮像装置10のユーザの入力操作によって生成されたUI操作信号)以外に、例えば時分割(異なるタイムスロット)で、認識用画像データ又は伝送用画像データの出力を伝送用画像記憶バッファ17又は認識用画像記憶バッファ19に切り換えても良い。ここでいうタイムスロットは、認識用画像データを用いた画像処理に供されるタイムスロットと、伝送用画像データを用いた画像伝送に供されるタイムスロットとの2つがある。
例えば、出力切換部15は、単一の露光条件に従って生成された認識用画像データを伝送用画像記憶バッファ17に出力して記憶させる。また、出力切換部15は、HDR処理部13dにより生成された認識用画像データを認識用画像記憶バッファ19に出力して記憶させる。なお、出力切換部15は、単一の露光条件に従って生成された認識用画像データを伝送用画像記憶バッファ17に出力して記憶させても良い。
第2の記憶部の一例としての伝送用画像記憶バッファ17は、例えばRAM(Random Access Memory)又はフラッシュメモリ等の半導体メモリを用いて構成され、出力切換部15から出力された伝送用画像データを記憶する。なお、伝送用画像記憶バッファ17は、出力切換部15から出力された認識用画像データを記憶しても良い。また、伝送用画像記憶バッファ17は、撮像装置10に内蔵されたハードディスク装置、又は、例えばUSB(Universal Serial Bus)端子を介して接続可能な外部接続媒体(例えばフラッシュメモリ等の半導体メモリ)でも良い。
第1の記憶部の一例としての認識用画像記憶バッファ19は、例えばRAM又はフラッシュメモリ等の半導体メモリを用いて構成され、出力切換部15から出力された認識用画像データを記憶する。この認識用画像データは、露光条件A信号処理部13a,露光条件B信号処理部13b,露光条件C信号処理部13cにより生成された画像データ(RAWデータ)である。なお、認識用画像記憶バッファ19は、撮像装置10に内蔵されたハードディスク装置、又は、例えばUSB端子を介して接続可能な外部接続媒体(例えばフラッシュメモリ等の半導体メモリ)でも良い。
画像圧縮部21は、例えばコーデックを用いて構成され、伝送用画像記憶バッファ17に記憶された伝送用画像データ(又は認識用画像データ)を用いて、伝送用画像データ(又は認識用画像データ)の保存及び送信が可能なデータフォーマットに変換するための符号化データを生成する。画像圧縮部21は、符号化データを画像伝送部23に出力する。
画像伝送部23は、画像圧縮部21により生成された伝送用画像データ(又は認識用画像データ)の符号化データを用いて、例えば送信先である外部機器(不図示)に送信するためのパケット生成処理を行い、ネットワークを介して、符号化データのパケットを外部機器に送信する。これにより、撮像装置10は、伝送用画像データ(又は認識用画像データ)の符号化データを外部機器に送信できる。
動き検出部25は、例えばDSP(Digital Signal Processor)を用いて構成され、複数の異なる露光条件A,B,Cに従って生成された認識用画像データを認識用画像記憶バッファ19から読み出して、VMD(Video Motion Detector)処理し、認識用画像データにおける動きの有無を検出する。
動き検出部25は、VMD処理を行った認識用画像データを認識用画像記憶バッファ19に書き込み、認識用画像記憶バッファ19の書き込み位置(アドレス)に関する情報を画像認識部27に出力する。なお、上述したように、露光条件A,B,Cに従った認識用画像データは異なるタイミングで並列な信号処理によって生成されるので、動き検出部25におけるVMD処理も並列に行われる(図5参照)。
画像認識部27は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSPを用いて構成され、動き検出部25から出力されたアドレスに関する情報を基に、認識用画像記憶バッファ19から、複数の異なる露光条件A,B,Cに従って生成された認識用画像データを読み出して画像認識(例えばFD(顔検出:Face Detection)、FR(顔認識:Face Recognition))を行う。なお、画像認識部27は、動き検出部25のVMD処理結果を用いて、認識用画像データの画像認識を行っても良い。
また、選択部の一例としての画像認識部27は、複数の異なる露光条件A,B,Cに従って生成された認識用画像データの画像認識結果を基に、最も良好な画像認識結果が得られた1つの認識用画像データに対応する露光条件を、撮像装置10の周囲に適する露光条件として選択する。画像認識部27は、選択された露光条件に関する情報をカメラパラメータ制御ドライバ29に出力する。
カメラパラメータ制御ドライバ29は、画像認識部27の出力に応じて、絞り部IRの絞り量とシャッター部SHのシャッター速度とイメージセンサ11のゲインとをそれぞれ調整する制御回路を有する。露光条件制御部の一例としてのカメラパラメータ制御ドライバ29は、例えば画像認識部27から出力された露光条件に関する情報を用いて、複数の異なる露光条件A,B,Cに対応する各カメラパラメータを、絞り部IR,シャッター部SH,イメージセンサ11に対してセットする。
なお、上述したように、本実施形態のカメラパラメータは、絞り部IRの絞り量、シャッター部SHのシャッター速度、及びイメージセンサ11のゲインとするが、これらのうちいずれか1つだけでも良いし、複数のカメラパラメータからなる組み合わせ(例えば絞り量とシャッター速度、シャッター速度とゲイン、ゲインと絞り量)でも良い。
図2は、3つの露光条件A,B,Cのセットに関する概念説明図である。詳細は図3を参照して説明するが、例えばシャッター速度は30から300まで調整可能であって、例えばイメージセンサ11のゲインは0から40まで調整可能とする。図2の下段において、点線BTLは、画像認識部27における認識用画像データの画像認識が行われる度に選択された最も良好な露光条件を示す。このため、第1回目の画像認識では、最も良好な画像認識結果が得られた露光条件は露光条件Bであり、第2回目の画像認識では、最も良好な画像認識結果が得られた露光条件は露光条件Aであり、以降同様にして、第n回目の画像認識では、最も良好な画像認識結果が得られた露光条件は露光条件Bとする。
図2において、カメラパラメータ制御ドライバ29は、例えば第1回目の画像認識によって露光条件Bが画像認識部27により選択された場合には(時刻t1)、露光条件A,B,Cのうち、最良の露光条件Bが中心となるようにカメラパラメータをセットし、更に、露光条件Bに対応するカメラパラメータの一部又は全部について少し値を変更(調整)して他の露光条件(時刻t1では露光条件A,C)をセットする。時刻t1,t2,t3,…,tnは、カメラパラメータ制御ドライバ29における露光条件のセットタイミングを示す。
また、例えばカメラパラメータ制御ドライバ29は、例えば第2回目の画像認識によって露光条件Aが画像認識部27により選択された場合には(時刻t2)、露光条件A,B,Cのうち、最良の露光条件Aが中心となるようにカメラパラメータをセットし、更に、露光条件Aに対応するカメラパラメータの一部又は全部について少し値を変更(調整)して他の露光条件(時刻t2では露光条件B,C)をセットする。以降、同様にして、露光条件A,B,Cがセットされていく。
図3は、各露光条件A,B,Cを用いた認識用画像データと、露光条件に対応するカメラパラメータのシャッター速度とイメージセンサ11のゲインとの調整幅の最大値及び最小値の一例とを示す説明図である。
図3の中段に示すように、例えばシャッター速度は30から300まで調整可能であって、例えば調整幅の最大値は30とし、調整幅の最小値は10とする。即ち、シャッター速度は、30から300の間で、10から30の値毎に調整可能である。同様に、例えばイメージセンサ11のゲインは0から40まで調整可能であって、例えば調整幅の最大値は3とし、調整幅の最小値は1とする。即ち、イメージセンサ11のゲインは、0から40の間で、1から3の値毎に調整可能である。
また、図3の下段に示すように、露光条件Aに対応するカメラパラメータは、イメージセンサ11のゲインが0、シャッター速度が200である。露光条件Bに対応するカメラパラメータは、イメージセンサ11のゲインが0、シャッター速度が30である。露光条件Cに対応するカメラパラメータは、イメージセンサ11のゲインが40、シャッター速度が30である。
また、図3の上段には、露光条件Aに対応するカメラパラメータの撮像によって生成された認識用画像データIM2と、露光条件Bに対応するカメラパラメータの撮像によって生成された認識用画像データIM3と、露光条件Cに対応するカメラパラメータの撮像によって生成された認識用画像データIM4とが示されている。また、図3の上段には、露光条件A,B,C以外の露光条件に対応するカメラパラメータ(例えば、シャッター速度が300、イメージセンサ11のゲインが0)の撮像によって生成された認識用画像データIM1も示されている。
認識用画像データIM1,IM2は、画像としての明度が低く、更に、コントラストが小さいので、画像認識部27において良好な画像認識結果が得られる可能性は低い。一方、認識用画像データIM4は、画像としての明度が高く、更に、コントラストが大きいので、画像認識部27において良好な画像認識結果が得られる可能性はある。認識用画像データIM3は、画像としての明度、コントラストがともに適正値であり、画像認識部27において最も良好な画像認識結果が得られる。
次に、本実施形態の撮像装置10の詳細な動作手順の一例について、図4を参照して説明する。図4は、本実施形態の撮像装置10の詳細な動作手順の一例を示すフローチャートである。図4の説明では、撮像装置10は、時分割(異なるタイムスロット)で、認識用画像データ又は伝送用画像データの出力を伝送用画像記憶バッファ17又は認識用画像記憶バッファ19に切り換えるとする。
図4において、認識用画像データを用いた画像認識に供されるタイムスロットではない場合には(S1、NO)、伝送用画像データを用いた画像伝送に供されるタイムスロットであるため、カメラパラメータ制御ドライバ29は、伝送用画像データを得るための露光条件A,B,Cのカメラパラメータを、絞り部IR、シャッター部SH及びイメージセンサ11にセットする(S2)。伝送用画像データを用いた画像伝送に供されるタイムスロットでは、露光条件A,B,Cのカメラパラメータは所定値(固定値)とする。ステップS2におけるカメラパラメータのセットが完了して、カメラパラメータの内容が絞り部IR、シャッター部SH及びイメージセンサ11に反映されるまで、撮像装置10は待機する(S3)。
ステップS3の後、撮像装置10は、露光条件A,B,Cに従って生成された認識用画像データを合成(HDR合成)することによって伝送用画像データを生成し(S4)、出力切換部15を介して、伝送用画像データを伝送用画像記憶バッファ17に書き込む(S5)。更に、撮像装置10は、伝送用画像記憶バッファ17に書き込んだ伝送用画像データを圧縮して伝送用画像データの符号化データを生成して外部機器に伝送(送信)する(S6)。伝送用画像データを用いた画像伝送に供されるタイムスロットは、ステップS2からステップS6までの動作が完結する程度に予め設けられている。ステップS6の後、撮像装置10の動作はステップS1に戻る。
一方、認識用画像データを用いた画像認識に供されるタイムスロットである場合には(S1、YES)、カメラパラメータ制御ドライバ29は、認識用画像データを得るための露光条件A,B,Cのカメラパラメータを、絞り部IR、シャッター部SH及びイメージセンサ11にセットする(S7)。認識用画像データを用いた画像伝送に供されるタイムスロットでは、図2を参照して説明したように、露光条件A,B,Cのカメラパラメータは可変値とする。ステップS7におけるカメラパラメータのセットが完了して、カメラパラメータの内容が絞り部IR、シャッター部SH及びイメージセンサ11に反映されるまで、撮像装置10は待機する(S8)。
ステップS8の後、撮像装置10は、露光条件A,B,Cに従った認識用画像データをそれぞれ生成し(S9)、出力切換部15を介して、認識用画像データを認識用画像記憶バッファ19に書き込む(S10)。撮像装置10は、露光条件A,B,Cに従って生成されたそれぞれの認識用画像データを用いてVMD処理を行い、更に、露光条件A,B,Cに従って生成されたそれぞれの認識用画像データを用いて画像認識を行う(S11)。
撮像装置10は、ステップS11における画像認識において、露光条件A,B,Cに従って生成されたそれぞれの認識用画像データのうち最も良好な画像認識結果が得られた認識用画像データに対応する露光条件のカメラパラメータを選択する(S12)。ステップS12の後、撮像装置10の動作はステップS1に戻り、撮像装置10の電源がOFFされるまで、ステップS1において判断されたタイムスロット毎の動作が繰り返される。
図5は、本実施形態の撮像装置10の詳細な動作手順の一例を示すタイムチャートである。図5では、イメージセンサ11と、動き検出部25と、カメラパラメータ制御ドライバ29(図5では、単に「制御ドライバ」記載)と、画像認識部27との時系列な動作手順が示されている。なお、図5に示す説明の前提として、イメージセンサ11のゲインとシャッター部SHのシャッター速度との各初期値が予めセットされているとする。また、図5では、信号処理部13が伝送用画像データの1フレームを生成する時間を33.3msとしている。
図5において、カメラパラメータ制御ドライバ29は、認識用画像データを用いた画像認識に供される前回のタイムスロットにおいて選択された露光条件のカメラパラメータに応じて、複数の異なる3つの露光条件のカメラパラメータをセットする。矢印FDBaは、例えばカメラパラメータ制御ドライバ29が露光条件Aのカメラパラメータ(例えばゲイン)をイメージセンサ11にセットするタイミングを示す。イメージセンサ11では、区間IMaにおいて、矢印FDBaによってセットされた露光条件Aのカメラパラメータに応じた撮像が行われる。これにより、露光条件Aに従った認識用画像データが生成される。
また、区間IMaが終了する前に、カメラパラメータ制御ドライバ29は、露光条件Bのカメラパラメータ(例えばゲイン)をイメージセンサ11にセットする。矢印FDBbは、例えばカメラパラメータ制御ドライバ29が露光条件Bのカメラパラメータ(例えばゲイン)をイメージセンサ11にセットするタイミングを示す。イメージセンサ11では、区間IMbにおいて、矢印FDBbによってセットされた露光条件Bのカメラパラメータに応じた撮像が行われる。これにより、露光条件Bに従った認識用画像データが生成される。
また、区間IMbが終了する前に、カメラパラメータ制御ドライバ29は、露光条件Cのカメラパラメータ(例えばゲイン)をイメージセンサ11にセットする。矢印FDBcは、例えばカメラパラメータ制御ドライバ29が露光条件Cのカメラパラメータ(例えばゲイン)をイメージセンサ11にセットするタイミングを示す。イメージセンサ11では、区間IMcにおいて、矢印FDBcによってセットされた露光条件Cのカメラパラメータに応じた撮像が行われる。これにより、露光条件Cに従った認識用画像データが生成される。
区間IMaの後、動き検出部25は、区間VDa(例えば66.6ms)において、区間IMaの撮像によって生成された認識用画像データをVMD処理し、区間VDaの終了後に、VMD処理後の認識用画像データを認識用画像記憶バッファ19に書き込むとともに、認識用画像記憶バッファ19の書き込み位置(アドレス)に関する情報をカメラパラメータ制御ドライバ29に出力する(矢印Bfa参照)。
区間IMbの後、動き検出部25は、区間VDb(同様に例えば66.6ms)において、区間IMbの撮像によって生成された認識用画像データをVMD処理し、区間VDbの終了後に、VMD処理後の認識用画像データを認識用画像記憶バッファ19に書き込むとともに、認識用画像記憶バッファ19の書き込み位置(アドレス)に関する情報をカメラパラメータ制御ドライバ29に出力する(矢印Bfb参照)。
区間IMcの後、動き検出部25は、区間VDc(同様に例えば66.6ms)において、区間IMcの撮像によって生成された認識用画像データをVMD処理し、区間VDcの終了後に、VMD処理後の認識用画像データを認識用画像記憶バッファ19に書き込むとともに、認識用画像記憶バッファ19の書き込み位置(アドレス)に関する情報をカメラパラメータ制御ドライバ29に出力する(矢印Bfc参照)。
区間VDaの後、画像認識部27は、区間Dfaにおいて、カメラパラメータ制御ドライバ29が保持するアドレスに関する情報を参照し、露光条件Aに従って生成された認識用画像データを認識用画像記憶バッファ19から取得する。画像認識部27は、区間Dfaの後に、区間FDaにおいて、露光条件Aに従って生成された認識用画像データの画像認識を行う。
区間FDaの後、画像認識部27は、区間Dfbにおいて、カメラパラメータ制御ドライバ29が保持するアドレスに関する情報を参照し、露光条件Bに従って生成された認識用画像データを認識用画像記憶バッファ19から取得する。画像認識部27は、区間Dfbの後に、区間FDbにおいて、露光条件Bに従って生成された認識用画像データの画像認識を行う。
更に、区間FDbの後、画像認識部27は、区間Dfcにおいて、カメラパラメータ制御ドライバ29が保持するアドレスに関する情報を参照し、露光条件Cに従って生成された認識用画像データを認識用画像記憶バッファ19から取得する。画像認識部27は、区間Dfcの後に、同様な区間において、露光条件Cに従って生成された認識用画像データの画像認識を行う。
以上により、本実施形態の撮像装置10は、複数の異なる露光条件A,B,Cを用いて、各露光条件A,B,Cのカメラパラメータに応じて、撮像部IMにより撮像された認識用画像データを生成する。撮像装置10は、露光条件A,B,C毎に、信号処理部13により生成された認識用画像データを画像認識し、露光条件A,B,C毎の認識用画像データの画像認識結果を基に、撮像部IMにおける映像の撮像に適する露光条件のカメラパラメータを選択して撮像部IMにおけるカメラパラメータの変更(調整)のためにフィードバックする。
これにより、撮像装置10は、複数の異なる露光条件A,B,Cに従って撮像されたそれぞれの認識用画像データの画像認識結果の中で最も画像認識結果が良好な露光条件を選択するので、撮像装置10を操作するユーザの周囲の環境が急に変化した場合でも急な変化が生じていない場合でも、適正な露光条件を用いて映像を撮像することができる。
また、撮像装置10は、複数の異なる露光条件A,B,C毎に生成された映像の認識用画像データを認識用画像記憶バッファ19に個別に記憶することができる。
また、撮像装置10は、複数の異なる露光条件A,B,C毎に映像の認識用画像データを生成して認識用画像記憶バッファ19に記憶し、また、映像の伝送用画像データを生成して伝送用画像記憶バッファ17に記憶するので、認識用画像データと伝送用画像データとを区別して記憶する複数の記憶部を保持できる。
また、撮像装置10は、複数の異なる露光条件A,B,C毎に生成された映像の認識用画像データを合成(例えばHDR合成)することにより、映像の伝送用画像データを生成するので、単一の露光条件に従って生成された映像の画像データに比べて、ダイナミックレンジが拡大された画像データを生成して外部機器に伝送することができる。
また、撮像装置10は、所定の入力操作(例えばユーザの入力操作)に応じて、認識用画像データを認識用画像記憶バッファ19又は伝送用画像記憶バッファ17への出力を簡易に切り換えることができる。例えばユーザがデータ容量の大きい認識用画像データを外部機器に伝送することを選んだ場合には、撮像装置10は、ユーザの簡易な入力操作(例えばUI(UI:User Interface)操作)により、認識用画像データを伝送用画像記憶バッファ17に出力できる。
また、撮像装置10は、周囲の環境の急な変化が生じた場合でも、複数の異なる露光条件A,B,Cに従って生成された認識用画像データの画像認識結果を基に選択された露光条件(例えば露光条件B)に従って、撮像部IMにおけるカメラパラメータを調整するので、周囲の環境に合った適正な露光条件を用いて、映像を撮像することができる。
また、撮像装置10は、選択された露光条件(例えば露光条件B)に従って、所定のカメラパラメータとして、例えば絞り部IRの絞り量、シャッター部SHのシャッター速度及びイメージセンサ11のゲインのうち、いずれか又は複数の組み合わせを調整することができる。
(本実施形態の変形例)
なお、本実施形態では、認識用画像データのサイズは非常に大きいので、認識用画像データを直接、ネットワークを介して送受信することは、撮像装置10と外部機器との間のネットワークに相当の負荷がかかることになり、大きな伝送レートによる伝送が困難となり好ましくない。しかし、ネットワークの伝送技術が将来的に進歩してくると、非常に大きな認識用画像データを直接、ネットワークを介して送受信しても相当の負荷がかからないことも十分に考えられる。
そこで、本実施形態の変形例(以下、「本変形例」という)では、上述した本実施形態の撮像装置10の動き検出部25及び画像認識部27の構成を、撮像装置10とは異なる外部機器(例えば図6に示す画像認識装置50)に設けた撮像制御システム100について、図6を参照して説明する。図6は、本変形例の撮像制御システム100のシステム構成の一例を詳細に示すブロック図である。
図6に示す撮像制御システム100は、撮像装置10Aと、画像認識装置50とがネットワークNW1,NW2を介して接続された構成である。
図6に示す撮像装置10Aは、図1に示す撮像装置10の構成のうち、動き検出部25及び画像認識部27が省略された構成であり、具体的には、撮像部IMと、信号処理部13と、出力切換部15と、伝送用画像記憶バッファ17と、認識用画像記憶バッファ19と、画像圧縮部21と、画像伝送部23と、動き検出部25と、画像認識部27と、カメラパラメータ制御ドライバ29とを含む構成である。
画像認識装置50は、通信部31と、動き検出部25Aと、画像認識部27Aとを含む構成である。本変形例では、撮像装置10A及び画像認識装置50の各部の動作のうち、撮像装置10の対応する各部の動作と同一の内容については説明を簡略化又は省略し、異なる内容について説明する。
具体的には、撮像装置10Aでは、画像伝送部23Aは、伝送用画像データ又は認識用画像データを伝送用画像記憶バッファ17又は認識用画像記憶バッファ19から読み出し、ネットワークNW1を介して画像認識装置50に伝送(送信)する。
画像認識装置50では、通信部31は、画像伝送部23Aから伝送(送信)された伝送用画像データ又は認識用画像データを受信して動き検出部25Aに出力する。画像認識部27Aは、上述した本実施形態と同様に、複数の異なる露光条件A,B,C毎に生成されたそれぞれの認識用画像データを画像認識し、画像認識結果の中で最も良好な画像認識結果が得られた認識用画像データに対応する露光条件を選択し、選択された露光条件に関する情報を通信部31に出力する。
通信部31は、画像認識部27Aにより選択された露光条件に関する情報を、ネットワークNW2を介して撮像装置10Aのカメラパラメータ制御ドライバ29に送信する。なお、図6の複雑化を避けるために、通信部31とカメラパラメータ制御ドライバ29との間に、撮像装置10A内に設けられる通信部の図示を省略している。カメラパラメータ制御ドライバ29の動作は上述した本実施形態のカメラパラメータ制御ドライバ29と同一のため、説明を省略する。なお、ネットワークNW1,NW2は同一のネットワークでも良いし、異なるネットワークでも良く、無線ネットワーク(例えば無線LAN(Local Area Network)、無線WAN(Wide Area Network))である。
以上により、本変形例の撮像制御システム100では、撮像装置10Aは、複数の異なる露光条件A,B,Cを用いて、各露光条件A,B,Cに応じて、撮像部IMにより撮像された認識用画像データを生成し、ネットワークNW1を介して画像認識装置50に送信する。画像認識装置50は、露光条件A,B,C毎に、撮像装置10Aから受信した認識用画像データを画像認識する。また、画像認識装置50は、露光条件A,B,C毎の認識用画像データの画像認識結果を基に、撮像装置10Aにおける映像の撮像に適する露光条件を選択して撮像部IMにおけるカメラパラメータの変更(調整)のためにフィードバックする。
これにより、撮像装置10Aは、複数の異なる露光条件A,B,Cに従って撮像されたそれぞれの認識用画像データの画像認識処理を画像認識装置50に行わせることができるので、画像認識処理に要する回路構成を削減できる。
また、画像認識装置50は、ネットワークNW1を介して接続された撮像装置10Aから送信された複数の認識用画像データに対する画像認識結果の中で最も画像認識結果が良好な露光条件を選択し、選択結果(即ち、選択された露光条件に関する情報)を撮像装置10Aに返信する。従って、撮像制御システム100では、撮像装置10Aは、周囲の環境が急に変化した場合でも急な変化が生じていない場合でも、例えば遠隔地に設置された画像認識装置50により選択された適正な露光条件に関する情報をリアルタイムに受信すれば、周囲の環境に合わせた露光条件を用いて映像を撮像することができる。
以下、上述した本発明に係る撮像装置及び撮像制御方法の構成、作用及び効果を説明する。
本発明の一実施形態は、映像を撮像する撮像部と、複数の異なる露光条件を用いて、各露光条件に応じて、前記撮像部により撮像された前記映像の画像データを生成する信号処理部と、前記露光条件毎に、前記信号処理部により生成された前記映像の画像データを画像認識する画像認識部と、前記画像認識部における前記露光条件毎の前記映像の画像データの画像認識結果を基に、前記撮像部における映像の撮像に適する露光条件を選択する選択部と、を備える、撮像装置である。
この構成では、信号処理部は、複数の異なる露光条件を用いて、各露光条件に応じて、撮像部により撮像された映像の画像データを生成する。画像認識部は、露光条件毎に、信号処理部により生成された映像の画像データを画像認識する。選択部は、画像認識部における露光条件毎の画像データの画像認識結果を基に、撮像部における映像の撮像に適する露光条件を選択する。
これにより、撮像装置は、複数の異なる露光条件に従って撮像されたそれぞれの画像データの画像認識結果の中で最も画像認識結果が良好な露光条件を選択するので、周囲の環境が急に変化した場合でも急な変化が生じていない場合でも、適正な露光条件を用いて映像を撮像することができる。
また、本発明の一実施形態は、前記露光条件毎に、前記信号処理部により生成された前記映像の画像データを記憶する第1の記憶部、を更に備える、撮像装置である。
この構成によれば、撮像装置は、複数の異なる露光条件毎に生成された映像の画像データを第1の記憶部(認識用画像記憶バッファ19)に記憶できる。
また、本発明の一実施形態は、前記信号処理部は、前記露光条件毎に、前記映像の認識用画像データを生成して第1の記憶部に記憶し、前記撮像部により撮像された前記映像の伝送用画像データを生成して前記第1の記憶部とは異なる第2の記憶部に記憶する、撮像装置である。
この構成によれば、撮像装置は、複数の異なる露光条件毎に映像の認識用画像データを生成して第1の記憶部(認識用画像記憶バッファ19)に記憶し、また、映像の伝送用画像データを生成して第2の記憶部(伝送用画像記憶バッファ17)に記憶するので、認識用画像データと伝送用画像データとを区別して記憶する複数の記憶部を保持できる。
また、本発明の一実施形態は、前記信号処理部は、前記露光条件毎に生成された前記映像の認識用画像データを合成することで、前記映像の伝送用画像データを生成する、撮像装置である。
この構成によれば、撮像装置は、複数の異なる露光条件毎に生成された映像の認識用画像データを合成(例えばHDR合成)することにより、映像の伝送用画像データを生成するので、単一の露光条件に従って生成された映像の画像データに比べて、ダイナミックレンジが拡大された画像データを生成することができる。
また、本発明の一実施形態は、所定の入力操作に応じて、前記映像の認識用画像データの前記第1の記憶部又は前記第2の記憶部への出力を切り換える切換部、を更に備える、撮像装置である。
この構成によれば、撮像装置は、所定の入力操作(例えばユーザの入力操作)に応じて、映像の認識用画像データを第1の記憶部(認識用画像記憶バッファ19)又は第2の記憶部(伝送用画像記憶バッファ17)への出力を簡易に切り換えることができる。例えばユーザがデータ容量の大きい認識用画像データを外部機器に伝送することを選んだ場合には、撮像装置は、ユーザの簡易な入力操作(例えばUI操作)により、認識用画像データを第2の記憶部(伝送用画像記憶バッファ17)に出力できる。
また、本発明の一実施形態は、前記選択部により選択された前記露光条件に応じて、前記撮像部における所定の撮像パラメータを調整する露光条件制御部、を更に備える、撮像装置である。
この構成によれば、撮像装置は、周囲の環境の急な変化が生じた場合でも、複数の異なる露光条件に従って生成された認識用画像データの画像認識結果を基に選択された露光条件に従って、撮像部における所定の撮像パラメータを調整するので、周囲の環境に合った適正な露光条件を用いて、映像を撮像することができる。
また、本発明の一実施形態は、前記撮像部は、レンズと、前記レンズを通過する光量を調整する絞り部と、撮像時に開動作及び閉動作を交互に行うシャッター部と、前記シャッターを通過した光が撮像面に結像された光学像を光電変換するイメージセンサと、を含み、前記所定の撮像パラメータは、前記絞り部の絞り量、前記シャッター部のシャッター速度及び前記イメージセンサの光電変換時のゲインのうち、いずれか又は複数の組み合わせである、撮像装置である。
この構成によれば、撮像装置は、選択された露光条件に従って、所定の撮像パラメータとして、例えば絞り部の絞り量、シャッター部のシャッター速度及びイメージセンサのゲインのうち、いずれか又は複数の組み合わせを調整することができる。
また、本発明の一実施形態は、撮像装置における撮像制御方法であって、映像を撮像するステップと、複数の異なる露光条件を用いて、各露光条件に応じて、撮像された前記映像の画像データを生成するステップと、前記露光条件毎に生成された前記映像の画像データを画像認識するステップと、前記露光条件毎の前記映像の画像データの画像認識結果を基に、前記映像の撮像に適する露光条件を選択するステップと、を有する、撮像制御方法である。
この方法によれば、信号処理部は、複数の異なる露光条件を用いて、各露光条件に応じて、撮像部により撮像された映像の画像データを生成する。画像認識部は、露光条件毎に、信号処理部により生成された映像の画像データを画像認識する。選択部は、画像認識部における露光条件毎の画像データの画像認識結果を基に、撮像部における映像の撮像に適する露光条件を選択する。
これにより、撮像装置は、複数の異なる露光条件に従って撮像されたそれぞれの画像データの画像認識結果の中で最も画像認識結果が良好な露光条件を選択するので、周囲の環境が急に変化した場合でも急な変化が生じていない場合でも、適正な露光条件を用いて映像を撮像することができる。
また、本発明の一実施形態は、ネットワークを介して接続された撮像装置と画像認識装置とにおける撮像制御方法であって、映像を撮像するステップと、複数の異なる露光条件を用いて、各露光条件に応じて、撮像された前記映像の画像データを生成するステップと、前記露光条件毎に生成された前記映像の画像データを前記撮像装置から送信するステップと、前記露光条件毎に生成された前記映像の画像データを前記画像認識装置において受信するステップと、前記露光条件毎に生成された前記映像の画像データを画像認識するステップと、前記露光条件毎の前記映像の画像データの画像認識結果を基に、前記映像の撮像に適する露光条件を選択するステップと、を有する、撮像制御方法である。
この方法によれば、撮像装置は、複数の異なる露光条件を用いて、各露光条件に応じて、撮像部により撮像された映像の画像データを生成して画像認識装置に送信する。画像認識装置は、露光条件毎に、撮像装置から受信した映像の画像データを画像認識する。また、画像認識装置は、露光条件毎の画像データの画像認識結果を基に、撮像部における映像の撮像に適する露光条件を選択する。
これにより、撮像装置は、複数の異なる露光条件に従って撮像されたそれぞれの画像データの画像認識処理を画像認識装置に行わせることができるので、画像認識処理に要する回路構成を削減できる。また、画像認識装置は、ネットワークを介して接続された撮像装置から送信された複数の認識用画像データに対する画像認識結果の中で最も画像認識結果が良好な露光条件を選択し、選択結果を撮像装置に返信する。従って、撮像制御システムでは、撮像装置は、周囲の環境が急に変化した場合でも急な変化が生じていない場合でも、例えば遠隔地に設置された画像認識装置により選択された適正な露光条件に関する情報をリアルタイムに受信すれば、周囲の環境に合わせた露光条件を用いて映像を撮像することができる。
本発明は、周囲の環境の変化の有無に拘わらず、適正な露光条件を用いて映像を撮像する撮像装置及び撮像制御方法として有用である。
10、10A 撮像装置
11 イメージセンサ
13 信号処理部
13a 露光条件A信号処理部
13b 露光条件B信号処理部
13c 露光条件C信号処理部
13d HDR処理部
15 出力切換部
17 伝送用画像記憶バッファ
19 認識用画像記憶バッファ
21 画像圧縮部
23 画像伝送部
25、25A 動き検出部
27、27A 画像認識部
29 カメラパラメータ制御ドライバ
31 通信部
50 PC
100 撮像制御システム
IR 絞り部
LS レンズ
SH シャッター

Claims (9)

  1. 映像を撮像する撮像部と、
    複数の異なる露光条件を用いて、各露光条件に応じて、前記撮像部により撮像された前記映像の画像データを生成する信号処理部と、
    前記露光条件毎に、前記信号処理部により生成された前記映像の画像データを画像認識する画像認識部と、
    前記画像認識部における前記露光条件毎の前記映像の画像データの画像認識結果を基に、前記撮像部における映像の撮像に適する露光条件を選択する選択部と、を備える、
    撮像装置。
  2. 請求項1に記載の撮像装置であって、
    前記露光条件毎に、前記信号処理部により生成された前記映像の画像データを記憶する第1の記憶部、を更に備える、
    撮像装置。
  3. 請求項1に記載の撮像装置であって、
    前記信号処理部は、
    前記露光条件毎に、前記映像の認識用画像データを生成して第1の記憶部に記憶し、
    前記撮像部により撮像された前記映像の伝送用画像データを生成して前記第1の記憶部とは異なる第2の記憶部に記憶する、
    撮像装置。
  4. 請求項3に記載の撮像装置であって、
    前記信号処理部は、
    前記露光条件毎に生成された前記映像の認識用画像データを合成することで、前記映像の伝送用画像データを生成する、
    撮像装置。
  5. 請求項3又は4に記載の撮像装置であって、
    所定の入力操作に応じて、前記映像の認識用画像データの前記第1の記憶部又は前記第2の記憶部への出力を切り換える切換部、を更に備える、
    撮像装置。
  6. 請求項1〜5のうちいずれか一項に記載の撮像装置であって、
    前記選択部により選択された前記露光条件に応じて、前記撮像部における所定の撮像パラメータを調整する露光条件制御部、を更に備える、
    撮像装置。
  7. 請求項6に記載の撮像装置であって、
    前記撮像部は、
    レンズと、前記レンズを通過する光量を調整する絞り部と、撮像時に開動作及び閉動作を交互に行うシャッター部と、前記シャッター部を通過した光が撮像面に結像された光学像を光電変換するイメージセンサと、を含み、
    前記所定の撮像パラメータは、
    前記絞り部の絞り量、前記シャッター部のシャッター速度及び前記イメージセンサの光電変換時のゲインのうち、いずれか又は複数の組み合わせである、
    撮像装置。
  8. 撮像装置における撮像制御方法であって、
    映像を撮像するステップと、
    複数の異なる露光条件を用いて、各露光条件に応じて、撮像された前記映像の画像データを生成するステップと、
    前記露光条件毎に生成された前記映像の画像データを画像認識するステップと、
    前記露光条件毎の前記映像の画像データの画像認識結果を基に、前記映像の撮像に適する露光条件を選択するステップと、を有する、
    撮像制御方法。
  9. ネットワークを介して接続された撮像装置と画像認識装置とにおける撮像制御方法であって、
    映像を撮像するステップと、
    複数の異なる露光条件を用いて、各露光条件に応じて、撮像された前記映像の画像データを生成するステップと、
    前記露光条件毎に生成された前記映像の画像データを前記撮像装置から送信するステップと、
    前記露光条件毎に生成された前記映像の画像データを前記画像認識装置において受信するステップと、
    前記露光条件毎に生成された前記映像の画像データを画像認識するステップと、
    前記露光条件毎の前記映像の画像データの画像認識結果を基に、前記映像の撮像に適する露光条件を選択するステップと、を有する、
    撮像制御方法。
JP2014066689A 2014-03-27 2014-03-27 撮像装置及び撮像制御方法 Pending JP2015192222A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014066689A JP2015192222A (ja) 2014-03-27 2014-03-27 撮像装置及び撮像制御方法
PCT/JP2015/001170 WO2015146006A1 (ja) 2014-03-27 2015-03-05 撮像装置及び撮像制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014066689A JP2015192222A (ja) 2014-03-27 2014-03-27 撮像装置及び撮像制御方法

Publications (1)

Publication Number Publication Date
JP2015192222A true JP2015192222A (ja) 2015-11-02

Family

ID=54194560

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014066689A Pending JP2015192222A (ja) 2014-03-27 2014-03-27 撮像装置及び撮像制御方法

Country Status (2)

Country Link
JP (1) JP2015192222A (ja)
WO (1) WO2015146006A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10375316B2 (en) 2016-10-03 2019-08-06 Denso Corporation Imaging device provided with high dynamic range rendering function
JP2019146058A (ja) * 2018-02-22 2019-08-29 三菱電機株式会社 撮影システム、撮影ユニット及び撮影装置
WO2020230660A1 (ja) * 2019-05-10 2020-11-19 ソニーセミコンダクタソリューションズ株式会社 画像認識装置、固体撮像装置、および画像認識方法
US11394889B2 (en) 2018-10-26 2022-07-19 Panasonic Intellectual Property Management Co., Ltd. Image recognition apparatus and image recognition method
WO2023090067A1 (ja) * 2021-11-17 2023-05-25 株式会社日立製作所 画像認識システム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200117695A (ko) * 2019-04-05 2020-10-14 삼성전자주식회사 외부 전자 장치를 이용하여 카메라를 제어하는 전자 장치 및 방법
CN114500870A (zh) * 2021-12-30 2022-05-13 北京罗克维尔斯科技有限公司 图像处理方法、装置及电子设备

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4579169B2 (ja) * 2006-02-27 2010-11-10 富士フイルム株式会社 撮影条件設定方法およびこれを用いた撮影装置
JP2007235640A (ja) * 2006-03-02 2007-09-13 Fujifilm Corp 撮影装置及び方法
JP6124538B2 (ja) * 2012-09-06 2017-05-10 キヤノン株式会社 撮像装置、撮像装置の制御方法、およびプログラム

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10375316B2 (en) 2016-10-03 2019-08-06 Denso Corporation Imaging device provided with high dynamic range rendering function
JP2019146058A (ja) * 2018-02-22 2019-08-29 三菱電機株式会社 撮影システム、撮影ユニット及び撮影装置
US11394889B2 (en) 2018-10-26 2022-07-19 Panasonic Intellectual Property Management Co., Ltd. Image recognition apparatus and image recognition method
WO2020230660A1 (ja) * 2019-05-10 2020-11-19 ソニーセミコンダクタソリューションズ株式会社 画像認識装置、固体撮像装置、および画像認識方法
US11805330B2 (en) 2019-05-10 2023-10-31 Sony Semiconductor Solutions Corporation Image recognition device, solid-state imaging device, and image recognition method
WO2023090067A1 (ja) * 2021-11-17 2023-05-25 株式会社日立製作所 画像認識システム

Also Published As

Publication number Publication date
WO2015146006A1 (ja) 2015-10-01

Similar Documents

Publication Publication Date Title
WO2015146006A1 (ja) 撮像装置及び撮像制御方法
JP6238184B2 (ja) 撮像装置
JP7316809B2 (ja) 画像処理装置、画像処理装置の制御方法、システム、及び、プログラム
KR102157675B1 (ko) 촬영 장치 및 그 촬영 방법
JP6471953B2 (ja) 撮像装置、撮像システム、及び撮像方法
JP6317577B2 (ja) 映像信号処理装置及びその制御方法
JP6659162B2 (ja) 撮像装置、撮像装置の制御方法及びプログラム
JP6732726B2 (ja) 撮像装置、撮像方法、およびプログラム
EP3402179B1 (en) Image-capturing system, image-capturing method, and program
US20130176460A1 (en) Image processing apparatus, image capturing apparatus, and computer program
US20190098274A1 (en) Desaturation Control
US11238285B2 (en) Scene classification for image processing
JP7403242B2 (ja) 画像処理システム、画像処理方法、及びプログラム
US20160112640A1 (en) Imaging apparatus and imaging method
US10600170B2 (en) Method and device for producing a digital image
WO2023219466A1 (en) Methods and systems for enhancing low light frame in a multi camera system
JP2017092850A (ja) 撮像装置、撮像方法および会議端末装置
JP2012134745A (ja) 画像信号処理装置
JP2016173777A (ja) 画像処理装置
JP2015080157A (ja) 画像処理装置、画像処理方法及びプログラム
JP7277236B2 (ja) 撮像装置、撮像システム、プログラム、記録媒体、及び制御方法
JP2017092876A (ja) 撮像装置、撮像システム、及び撮像方法
US20190052803A1 (en) Image processing system, imaging apparatus, image processing apparatus, control method, and storage medium
US11270421B2 (en) Image processing apparatus and image processing method that reduce image noise, and storage medium
JP7231598B2 (ja) 撮像装置