JP2019078880A - 制御装置、撮像装置、制御方法、及びプログラム - Google Patents

制御装置、撮像装置、制御方法、及びプログラム Download PDF

Info

Publication number
JP2019078880A
JP2019078880A JP2017205546A JP2017205546A JP2019078880A JP 2019078880 A JP2019078880 A JP 2019078880A JP 2017205546 A JP2017205546 A JP 2017205546A JP 2017205546 A JP2017205546 A JP 2017205546A JP 2019078880 A JP2019078880 A JP 2019078880A
Authority
JP
Japan
Prior art keywords
imaging
subject
control
unit
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017205546A
Other languages
English (en)
Other versions
JP6994901B2 (ja
JP2019078880A5 (ja
Inventor
憲太朗 小暮
Kentaro Kogure
憲太朗 小暮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017205546A priority Critical patent/JP6994901B2/ja
Priority to US16/161,251 priority patent/US10863090B2/en
Priority to CN201811212639.0A priority patent/CN109698905B/zh
Publication of JP2019078880A publication Critical patent/JP2019078880A/ja
Publication of JP2019078880A5 publication Critical patent/JP2019078880A5/ja
Application granted granted Critical
Publication of JP6994901B2 publication Critical patent/JP6994901B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6815Motion detection by distinguishing pan or tilt from motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time

Abstract

【課題】高速移動被写体をパンチルト可能な監視カメラにより撮像する際の撮像条件を適切に自動設定する。【解決手段】制御装置は、被写体の移動速度を取得し、被写体の移動速度に基づいて、その被写体を撮像するための撮像部を、パンチルトによる被写体の追従を行わずに第1の露光時間にて撮像する第1の撮像と、パンチルトによる被写体の追従を行って第2の露光時間にて撮像する第2の撮像とのいずれかを行うように制御する。【選択図】図5

Description

本発明は、被写体の撮像時の適応設定技術に関する。
近年、パンニング(横方向の駆動)、チルティング(縦方向の駆動)、ズーミングによって任意の撮像方向を選択することができる監視カメラが多く利用されている。また、このような監視カメラの類型として、360°のパンニングと180°のチルティングとによって旋回しながら撮像を行うことができる監視カメラも増加している。監視においては逃走する人物や走り去る車などの特徴を画像から判断するために、移動する被写体(以下では、「移動被写体」と呼ぶ。)を鮮明に捉えることが重要である。これに対し、特許文献1には、移動被写体の移動速度を算出して、算出された移動速度に応じて露光時間を変更することによって移動被写体を鮮明に撮像する、自動露出制御技術が記載されている。
特開2011−041186号公報
特許文献1に記載の技術では、高速移動する移動被写体を撮像する際には、露光時間を短く設定する。しかしながら、低照度時に高速移動する移動被写体を撮像するために自動露出制御の露光時間を短くすると、感度不足によって輝度が低くノイズの多い視認性の不良な撮像画像が得られる場合があり、移動被写体を鮮明に撮像することができなくなりうる。
本発明は、撮像条件に応じて自動で適切な撮像手法を設定するための技術を提供する。
本発明の一態様による制御装置は、被写体の移動速度を取得する取得手段と、前記被写体の移動速度に基づいて前記被写体を撮像するための撮像手段を、前記被写体に追従せずに撮像する第1の撮像と、前記被写体に追従して撮像する第2の撮像とのいずれかを行うように制御する制御手段と、を有することを特徴とする。
本発明によれば、撮像条件に応じて自動で適切な撮像手法を設定することができる。
カメラの第1の構成例を示す図である。 カメラの撮像部の構成例を示す図である。 処理の流れの第1の例を示すフローチャートである。 カメラの第2の構成例を示す図である。 処理の流れの第2の例を示すフローチャートである。 被写体速度と露光時間の対応関係の一例を示す図である。 図6の露光時間を設定した場合の、画像のノイズおよび輝度の数値と露光時間の対応関係の一例を示す図である。 カメラの第3の構成例を示す図である。 処理の流れの第3の例を示すフローチャートである。 第1の撮像部および雲台と第2の撮像部の配置の例を示す図である。 制御部のハードウェア構成例を示す図。
以下、本発明の実施の形態について、図面を参照しながら説明する。なお、以下の各実施形態では、静止画を撮像するカメラが用いられる場合について説明するが、例えば動画を撮像するカメラが用いられてもよいし、他の任意の撮像装置が用いられてもよい。なお、カメラはデジタルスチルカメラやデジタルビデオカメラでありうる。
<実施形態1>
(カメラの構成)
図1に、本実施形態に係るカメラの構成を示す。カメラは、撮像部101において外部から光を取り込んで撮像を行う。撮像部101は、制御部102に接続され、撮像した画像を制御部102に対して出力し、制御部102からの制御に従って、例えば撮像範囲(パン・チルト・ズーム)や露光時間等の設定を変更可能に構成される。制御部102は、撮像部101から、撮像部101において撮像された画像の入力を受け付け、撮像部101の制御を行う。制御部102は、例えば、CPUやMPU等のプロセッサとメモリ等の記憶装置とを含む制御装置でありうる。この場合の制御部102のハードウェアの構成の一例を図11に示す。制御部102は、例えば、CPU111、RAM112、ROM113、外部記憶装置114、外部I/F115を有する。一例において、CPU111が、ROM113や外部記憶装置114に記憶されたプログラムを、RAM112をワークメモリとして用いて実行することにより、後述する制御部102による処理が実行される。なお、制御部102は、外部I/F115を介して、撮像部101と通信可能に接続されうる。
撮像部101は、一例において、図2のような構成を有する。撮像部101は、数枚のレンズ群による光学系を構成するレンズ201と、CCDやCMOS等の撮像素子202とを含んで構成される。また、撮像部101は、雑音軽減を行うCDS(Correlated Double Sampling、相関二重サンプリング)回路203と、カメラの利得制御を自動で行うAGC(Automatic Gain Control)増幅器204を有する。また、撮像部101は、アナログ信号をデジタル信号へと変換を行うアナログ−デジタル変換器(ADC、Analog/Digital Converter)205と、デジタル信号に対して信号処理を行う信号処理部206を有する。撮像部101では、撮像素子202は、レンズ201を介して結像された被写体像を電気信号に変換する。そして、CDS回路203は、撮像素子202から出力された電気信号に対して相関二重サンプリング処理等を実行し、AGC増幅器204は、CDS回路203から出力された電気信号に対して増幅処理等を行う。A/D変換205は、AGC増幅器204によって増幅されたアナログ信号をデジタル信号へと変換する。信号処理部206は、A/D変換205から得られたデジタル信号に対して、例えば、色変換、WB処理、信号処理された画像の階調変換を行うガンマ処理等の画像処理など、所定の信号処理を行う。
制御部102は、その機能として、被写体速度検出部103、撮像可否判定部104、及びパンチルト駆動制御部105を有する。これらの機能部は、例えば、制御部102内のメモリ等に記憶されたプログラムが制御部102内のプロセッサによって実行されることによって実現されうる。なお、これらの機能部の一部または全部が、専用の回路等のハードウェアによって実現されてもよい。すなわち、制御部102は、専用のハードウェアの集合体であってもよい。例えば、制御部102として、所定のプログラムによって上述の各機能部の一部または全部の機能が実装されたFPGA(フィールドプログラマブルゲートアレイ)が用いられてもよい。
被写体速度検出部103は、撮像部101で撮像された画像から、被写体の移動速度を検出する。撮像可否判定部104は、被写体速度検出部103で検出された被写体の移動速度に基づいて、撮像部101の撮像範囲を固定した状態で、品質(画質や映像品質)に関する所定の条件を満たしながらその被写体の撮像が可能であるか否かを判定する。パンチルト駆動制御部105は、撮像可否判定部104による判定結果に基づいて、撮像部101においてパンニングとチルティングとの少なくともいずれかを行わせるための駆動信号を生成して、その駆動信号に基づいて撮像部101を制御する。
(処理の流れ)
続いて、本実施形態に係る撮像部101及び制御部102によって実行される処理の流れについて、図3を用いて説明する。
まず、撮像部101が、例えば露光時間や撮像範囲等に関する所定の設定を用いた周期的な第1の撮像によって画像を取得し、制御部102は、その画像中に移動被写体が含まれているかの判定処理を実行する(S301)。例えば、制御部102は、特徴量抽出やパターン認識により、特定の被写体のみを移動被写体として検出および認識しうる。なお、特定の被写体は、例えばユーザ操作による被写体の選択結果を受け付けることによって指定されてもよいし、他の手法で指定されてもよい。例えば、制御部102は、被写体が画像内の所定の位置を通過した場合または所定の領域に侵入した場合に、この被写体を特定の移動被写体として指定してもよい。制御部102は、移動被写体を検出しなかった場合は(S301でNO)、それ以降の処理を実行せずに、そのまま撮像を継続する。一方、制御部102は、移動被写体を検出すると(S301でYES)、その移動被写体の移動速度を算出する(S302)。例えば、制御部102は、時間的に連続して撮像された複数の画像から、移動被写体の動きベクトルと移動方向とを特定しうる。制御部102は、例えば、動きベクトルのノルムに基づいて、移動被写体の移動速度を特定することができる。なお、制御部102は、これら以外の手法によって、移動被写体の移動速度を特定してもよい。
続いて、制御部102は、S302で特定した移動被写体の移動速度に基づいて、S301での撮像条件を用いた第1の撮像により、品質(画質や映像品質)に関する所定の条件を満たしながら対象の被写体の撮像を行うことができるかを判定する(S303)。制御部102は、例えば、S302で特定された移動被写体の移動速度が所定の閾値以下の場合は、その被写体を所定の条件を満たしながら撮像可能であると判定する。一方、制御部102は、移動速度がその所定の閾値を超える場合は、その被写体を所定の条件を満たしながら撮像できないと判定する。このとき、この所定の閾値は、固定値であってもよいし、又は、例えばユーザによる設定等によって可変な変動値であってもよい。また、制御部102は、撮像部101の露光時間と移動速度との関係によって、被写体を所定の条件を満たしながら撮像できるか否かの判定を行ってもよい。例えば、制御部102は、現在の露光時間によって定まる上述の閾値を移動被写体の移動速度が超えるか否かの判定によって、移動被写体を像ぶれなく撮像できるか否かを判定しうる。
制御部102は、第1の撮像により所定の条件を満たしながら被写体が可能であると判定した場合(S303でYES)は、それ以降の処理を実行せずに、そのまま撮像を継続する。一方、制御部102は、第1の撮像により所定の条件を満たしながら被写体が可能でないと判定した場合(S303でNO)は、所定の条件を満たしながらその被写体を撮像するために、パンチルト駆動信号を生成する(S304)。例えば、制御部102は、移動被写体の移動に合わせて流し撮りを実行するように、換言すれば露光時間中に移動被写体が撮像範囲の所定位置に固定されるように、撮像部101の撮像範囲を移動させるためのパンチルト駆動信号を生成する。すなわち、制御部102は、撮像部101の撮像範囲を移動被写体に追従させるためのパンチルト駆動信号を生成する。このため、移動被写体の移動速度が速いほど、高速にパンニングまたはチルティングさせるために、例えば信号レベルの高いパンチルト駆動信号が生成される。なお、このような移動被写体への追従制御を行うためのパンチルト駆動信号が生成される限りにおいて、どのような手法で又はどのような内容のパンチルト駆動信号が生成されてもよい。その後、制御部102は、生成したパンチルト駆動信号に従って、撮像部101のパンニングまたはチルティングの駆動制御を行いながら第2の撮像を行う(S305)。
このように、本実施形態では、制御部102は、移動速度が十分に遅く、第1の撮像で所定の条件を満たしながら撮像が可能な被写体に対してはそのまま第1の撮像を続行するように制御を行う。一方、制御部102は、移動速度が速く、第1の撮像によっては所定の条件を満たしながら撮像を行うことができない被写体に対しては、パンチルト制御によって追従して被写体を撮像する第2の撮像を行う。これにより、被写体を高品質で撮像することができる。また、高速移動中の移動被写体に対して露光時間を短くするのではなく被写体に追従して撮像を行うため、視認性の良好な撮像画像を得ることができる確率を向上させることができる。
<実施形態2>
上述の実施形態1では、カメラが、露光時間等の設定を一定として、移動被写体の移動速度に応じてパンチルト制御を行うか否かを決定する例について説明した。本実施形態では、カメラが、さらに、移動被写体の移動速度に応じて露光時間を設定する場合の例について説明する。
(カメラの構成)
図4に、本実施形態に係るカメラの構成例を示す。本実施形態に係るカメラは、撮像部101と制御部102とを含む点で図1と同様である。ただし、本実施形態に係る制御部102は、第1露光時間特定部401、ノイズ量推定部402、輝度推定部403、及び第2露光時間特定部404をさらなる機能として実現する。なお、図4において、図1と同様の機能ブロックについては、共通の参照番号を付して説明を省略している。
第1露光時間特定部401は、被写体速度に対して、像ぶれせずに撮像することが可能な露光時間を、例えば算出によって特定する。ノイズ量推定部402は、第1露光時間特定部401によって特定された第1の露光時間を設定した際に自動露出により現在の露出を維持して撮像部101のAGC増幅器204によってゲインを上げた場合の、画像のノイズ量を推定する。輝度推定部403は、第1露光時間特定部401によって特定された第1の露光時間を設定した際に自動露出制御を行った場合の、画像の輝度を推定する。第2露光時間特定部404は、所定の条件を満たしながら被写体の撮像が可能でないと判定されて移動被写体に追従するパンチルト駆動が行われる条件での撮像に適した第2の露光時間を、例えば算出によって特定する。
(処理の流れ)
続いて、本実施形態に係る撮像部101及び制御部102によって実行される処理の流れについて、図5を用いて説明する。なお、図3と同様の処理ステップについては、共通の参照番号を付して説明を省略する。
本処理では、制御部102は、撮像部101が現在の露光時間を用いた第1の撮像によって所定の条件を満たしながら被写体を撮像することができない場合(S303でNO)、その移動被写体を像ぶれなく撮像可能な第1の露光時間を特定する(S501)。制御部102は、例えば移動被写体が所定距離(例えば0.05メートル)移動するのに要する時間を、第1の露光時間として特定しうる。このとき、制御部102は、撮像部101において露光時間として設定可能な数値を保持しておき、移動速度に基づいて算出した露光時間以下の最大の設定可能な露光時間を、第1の露光時間として特定しうる。また、制御部102は、例えば、図6のような被写体の移動速度ごとにその被写体を像ぶれなく撮像することが可能な露光時間のテーブルを予め保持しておき、このテーブルを参照することによって第1の露光時間を特定しうる。このとき、制御部102は、例えば、図6のテーブルに従って、被写体の移動速度が10メートル/秒以下の場合、露光時間を1/250秒に設定する。また、制御部102は、例えば、被写体の移動速度が10メートル/秒より早く25メートル/秒以下である場合、露光時間を1/500秒に設定する。
制御部102は、S501で特定された第1の露光時間を設定して自動露出制御を用いて第3の撮像を行う場合の画像のノイズ量と輝度とをそれぞれ推定し、ノイズ量が所定値以下であるか否か及び輝度が所定値を超えるか否かを判定する(S502)。ノイズ量は、画像の一部または全体の平均輝度と標準偏差とから得られるS/N比に基づいて推定されうる。また、制御部102は、撮像部101のAGC増幅器204の現在のゲインの値、撮像素子202の温度、画像処理(ノイズリダクション、シャープネス、彩度)のレベル等を考慮してノイズ量を推定してもよい。輝度は、画像の一部の輝度や平均輝度等に基づいて特定される。ノイズ量が例えば移動被写体を認識可能な所定の閾値以下で、かつ、輝度が例えば移動被写体を認識可能な所定の閾値を超える場合(S502でYES)は、制御部102は、第1の露光時間での第3の撮像を行うように撮像部101を設定する(S503)。一方、ノイズ量が上述の所定の閾値を超える場合又は輝度が所定の閾値以下の場合(S502でNO)は、制御部102は、ノイズ量を抑制し、十分な輝度で移動被写体を撮像するために、パンチルト駆動信号を生成する(S504)。このパンチルト駆動信号は、図3のS304と同様にして生成される。続いて、制御部102は、S504で生成されたパンチルト駆動信号によって撮像部101の撮像範囲を移動させる場合に設定されるべき第2の露光時間を決定し、撮像部101の設定を行う(S505)。第2の露光時間は、S501で決定された第1の露光時間よりも長く設定されうる。制御部102は、例えば図7のようにノイズ量または推定された輝度の少なくともいずれかに対応する露光時間のテーブルを用意しておき、そのテーブルに基づいて、第2の露光時間の値を決定しうる。例えば、制御部102は、ノイズ量に対応する露光時間と、輝度に対応する露光時間とのうち、長い方の時間を、第2の露光時間として設定しうる。また、制御部102は、撮像部101において露光時間として設定可能な数値を保持しておき、移動速度に基づいて算出した露光時間以下の最大の設定可能な露光時間を、第2の露光時間として特定してもよい。その後、制御部102は、S504で生成されたパンチルト駆動信号に基づいて、撮像部101の撮像範囲を移動させながら、第2の露光時間を用いた第4の撮像を実行する(S506)。
なお、上述の説明では、ノイズ量と輝度との両方を推定して、第1の露光時間での撮像を行うか否かを判定したが、ノイズ量と輝度のいずれか一方のみに従って、この判定が行われてもよい。すなわち、輝度値によらずノイズ量が所定値以下である場合に第1の露光時間での第3の撮像が行われるようにしてもよいし、ノイズ量によらず輝度値が所定値以下である場合に第1の露光時間での第3の撮像が行われるようにしてもよい。
このように、本実施形態では、移動速度が速い移動被写体に対して、まず、その移動速度に対応する第1の露光時間の設定を行う。そして、その第1の露光時間による撮像におけるノイズ量と輝度とを推定し、所定の条件を満たしながら移動被写体を撮像することができるか否かを判定し、必要に応じてパンチルト制御を実行すると共に露光時間を第2の露光時間に設定しなおす。これにより、照度等の環境に合わせて、適切な露光時間を設定して、また必要に応じてパンチルト制御を実行して、移動被写体を鮮明に撮像することができる。すなわち、高照度時には、第1の露光時間によってパンチルト制御を実行せずに移動被写体を撮像する。これは、照度が十分であれば、パンチルト制御を実行せずとも、短い露光時間によって移動被写体を鮮明に撮像することができるからである。一方、低照度時には、パンチルト制御を実行しながら移動被写体を撮像する。これにより、低いノイズ量と十分な輝度で、移動被写体を撮像することができるようになる。
なお、第1の露光時間の設定及び第3の撮像は、実際に行われなくてもよい。例えば、制御部102は、移動被写体が検出される際に用いられている初期設定等の所定の設定での撮像によって輝度やノイズ量の情報を事前に取得しておく。そして、制御部102は、事前に取得した輝度やノイズ量と上述の所定の設定に基づいて、露光時間を移動被写体の速度に応じて第1の露光時間に変更したと仮定した場合の輝度やノイズ量を推定しうる。すなわち、実際に第1の露光時間を用いることなく、第1の露光時間が用いられた場合のノイズ量及び輝度が推定されうる。
<実施形態3>
上述の実施形態は、1つの撮像装置を用いて移動被写体を撮像する構成について説明した。本実施形態では、2つ以上の撮像装置を用いて移動被写体を撮像する場合の例について説明する。
(システムの構成)
図8に、本実施形態に係るカメラを含んだシステムの構成例を示す。本実施形態に係るシステムは、第1撮像部801、第2撮像部802、雲台部803を含んで構成される。第1撮像部801及び第2撮像部802は、いずれも図2のような共通の構成を有しうる。また、第1撮像部801及び第2撮像部802は、例えば一定の方向のみを撮像可能な撮像装置でありうる。このため、第1撮像部801は、例えば、第1撮像部801が取り付けられている雲台部803によってパンニング又はチルティングされる点で撮像部101と異なりうる。このため、本実施形態では、制御部102は、パンチルト駆動制御部105を通じて、第1撮像部801ではなく雲台部803を制御し、それによって、第1撮像部801のパンニング又はチルティングを実現する。なお、上述の実施形態1および2に係る撮像部101のパンニング又はチルティングも、本実施形態のような雲台部803によって制御されてもよい。
本実施形態では、制御部102は、第2撮像部802による撮像に基づいて、移動被写体の検出等の処理を実行し、その結果に応じて第1撮像部801及び雲台部803を制御する。ここで、第2撮像部802が撮像した移動被写体は、その後に第1撮像部801の撮像範囲に移動するものとする。このような状況は、例えば、建物内において第2撮像部802が配置された位置から外へ脱出する際には、第1撮像部801の撮像範囲を通過しなければならないような構造において生じうる。また、例えば図10のように、一方通行の道路を走行する車両を撮像するような撮像画角および撮像方向で第2撮像部802および第1撮像部801が配置される場合にも、このような状況が生じうる。
なお、第1撮像部801及び第2撮像部802は1つずつでなくてもよい。例えば1つの第1撮像部801の周囲に配置された複数の第2撮像部802のうちのいずれかにおいて移動被写体が検出されたことに応じて、その1つの第1撮像部801及び対応する雲台部803が制御されてもよい。さらに、1つの第2撮像部802において移動被写体が検出されたことに応じて、その第2撮像部802の周囲に存在する複数の第1撮像部801及び雲台部803が制御されてもよい。また、第2撮像部802は、電磁波などを用いて移動体の速度を検出するための他の装置によって置き換えられてもよい。
第2撮像部802は、通常状態において、例えば周期的に撮像を行い、移動被写体を検出した場合に、被写体速度および移動方向や移動被写体の特徴量等の移動被写体に関する情報を、制御部102(撮像可否判定部104)に送信する。なお、第2撮像部802は、撮像によって得られた画像を制御部102に入力し、制御部102が、移動被写体の検出、被写体速度及び移動方向や移動被写体の特徴量の特定を行ってもよい。制御部102は、この第2撮像部802から取得した情報に基づいて、第1撮像部801及び雲台部803を制御する。なお、制御部102は、パンチルト駆動制御部105が雲台部803を制御するのに加え、ズーム駆動制御部804によって第1撮像部801を制御するようにした点で、上述の各実施形態と異なる。ここで、ズーム駆動制御部804は、第1撮像部801のレンズ201のズーム倍率を変更するために用いる駆動信号を生成し、その駆動信号に応じて、第1撮像部801のレンズ201のズーミングの制御を行う。なお、実施形態1および2では、撮像部101のズーミング制御について特に触れなかったが、本実施形態と同様に撮像部101のズーミング制御が行われてもよい。例えば、実施形態1および2において、移動被写体が判別可能かつ全体像を把握できる程度の大きさで撮像されるように、ズーミング制御が行われうる。
(処理の流れ)
続いて、本実施形態に係る第1撮像部801、第2撮像部802、雲台部803、及び制御部102によって実行される処理の流れについて、図9を用いて説明する。
まず、制御部102は、第2撮像部802を通じて移動被写体を検出したかどうかを判定する(S901)。このとき、制御部102は、特徴量抽出やパターン認識によって、特定の特徴を有する被写体のみを移動被写体として検出および認識し、その特徴を有しない被写体については、移動していても検出対象としなくてもよい。また、制御部102は、被写体が第2撮像部802が撮像した画像内の所定の位置を通過した場合または所定の領域に侵入した場合に、その被写体を移動被写体として検出してもよい。制御部102は、移動被写体を検出したと判定した場合(S901でYES)、その検出された移動被写体の移動速度を特定する(S902)。この移動速度の特定は、上述の実施形態と同様にして行われる。
そして制御部102は、第1撮像部801が第2撮像部802で撮像された移動被写体を、所定の条件を満たしながら撮像可能な状態であるか否かを判定する(S903)。例えば、制御部102は、第2撮像部802からの情報を受け取り、第1撮像部801が、現在の露光時間を用いた第1の撮像により、所定の条件を満たしながら、第2撮像部802で検出された移動被写体を撮像可能か否かを判定する。ここで、第2撮像部802から受け取る情報は、例えば、移動被写体の大きさや移動速度、画角および露出条件を含む第2撮像部802の現在の撮像条件等を含みうるが、これに限られず、他の任意のパラメータを含んでもよい。制御部102は、第1の撮像により所定の条件を満たしながら被写体の撮像が可能であると判定した場合(S903でYES)は、それ以降の処理を実行せずに、そのまま第1撮像部801に第1の撮像による被写体の撮像を継続させる。一方、制御部102は、第1の撮像によっては所定の条件を満たしながら被写体の撮像が可能でないと判定した場合(S903でNO)は、その移動被写体を第1撮像部801によって像ぶれなく撮像可能な第1の露光時間を特定する(S904)。そして、制御部102は、S904で特定された第1の露光時間を設定して自動露出制御を用いた第3の撮像を行う際の画像のノイズ量と輝度とをそれぞれ推定し、ノイズ量が所定値以下であるか否か及び輝度が所定値を超えるか否かを判定する(S905)。ノイズ量が所定の閾値以下であって、かつ、輝度が所定の閾値を超える場合(S905でYES)は、制御部102は、第1の露光時間での第3の撮像を行うように第1撮像部801を設定する(S906)。なお、S901〜S906の処理は、第2撮像部802による移動被写体の検出に従って行われる制御の対象が第1撮像部801である点で実施形態2に係る処理と異なるが、それ以外の点では図5のS301〜S303及びS501〜S503と同様である。
一方、第3の撮像を行うとノイズ量が上述の所定の閾値を超える又は輝度が所定の閾値以下となる場合(S905でNO)は、制御部102は、ノイズ量の抑制と十分な輝度の確保のために、パンチルト駆動信号及びズーム駆動信号を生成する(S907)。このパンチルト駆動信号は、図3のS304と同様にして、移動被写体に第1撮像部801の撮像範囲を追従させるような信号として生成される。また、ズーム駆動信号は、例えば画面内において移動被写体が認識可能な一定の大きさとなるように第1撮像部801に移動被写体を撮像させる信号として生成される。制御部102は、例えば、第2撮像部802から取得した移動被写体の大きさと撮像条件の情報に基づいて、第1撮像部801で撮像した際のその移動被写体の大きさが所定の範囲内の大きさとなるように、ズーム駆動信号を生成する。その後、制御部102は、S907で生成された各信号に基づいて第1撮像部801及び雲台部803が制御される場合に設定されるべき第2の露光時間を決定し、第1撮像部801に設定する(S908)。この処理は、図5のS505の処理と同様である。その後、制御部102は、S907で生成されたパンチルト駆動信号に基づいて、雲台部803を制御し、第1撮像部801の撮像範囲を移動させ、また、S907で生成されたズーム駆動信号により第1撮像部801のズーミング制御を行う(S909)。この結果、撮像部101は、パンチルト駆動信号に応じて撮像範囲を移動させると共にズーム駆動信号によってズーミングを行いながら、第2の露光時間を用いて撮像を行うこととなる。
このように、本実施形態では、移動被写体の撮像を行う第1撮像部とは別に、移動被写体の検出や移動速度の判定を行う装置(第2撮像部)を用意し、その検出結果に応じて第1撮像部による撮像のための設定制御を行う。これによれば、撮像を行いながら設定制御を行う場合と比して、事前に設定準備を行うことができるため、非常に高速移動する移動被写体であっても、移動被写体の撮像開始前に適切な設定を用意することができる。この結果、撮像を行うことが可能な時間(例えば露光時間)を十分に確保することができ、様々な状況において移動被写体を鮮明に撮像することができる。
なお、移動被写体の検出や移動速度の判定を行う装置は、例えば、一般的な道路設備として車両速度を計測するようなセンサでありうる。例えば、車両進行方向に沿って2か所に設置した近接センサ間を通過した時間で移動速度を測定する方式(光電管式、ループコイル式)や、レーダーを照射し被写体を反射して戻ってくる時間を測定する方式(レーダー方式)が用いられうる。また他のIoTセンサを利用し、移動速度や輝度値を取得することもできる。なお、第2撮像部によって検出されなかった被写体を第1撮像部によって検出した場合、上述の実施形態1又は2の技術を適用して、第1撮像部による被写体の撮像を実行することができる。すなわち、本実施形態では、複数の撮像部が連携して処理を行うこともできるし、1つの撮像部のみで処理を完結させることもできる。
<その他の実施形態>
上述の説明では、撮像部と制御部とからなるカメラを用いる例について説明したが、これに限られない。例えば、撮像部101と制御部102とが別個の装置として構成されてもよく、例えば、1つ以上の撮像部101と接続されると共にこれらの撮像部101を統括的に制御する1つの制御部102が存在するシステムが構成されてもよい。また、制御部102が複数の装置によって構成されてもよく、例えば、上述の機能ブロックや処理ステップが複数の装置において分担して実現されてもよい。例えば、制御部102と撮像部101とは別に、撮像部101の撮像範囲が固定された状態で品質に関する所定の条件を満たしながら被写体の撮像が可能であるか否かを判定する装置が実装されてもよい。そして、制御部102は、被写体の移動速度を取得することなく、判定結果をその装置から取得することによって、撮像部101の撮像範囲が固定された状態で品質に関する所定の条件を満たしながら被写体の撮像が可能であるか否かを特定しうる。このとき、制御部102は、例えばユーザ操作による指定を受け付けて、取得した情報のうち特定の被写体の情報のみに基づいて、撮像部101の撮像範囲が固定された状態で品質に関する所定の条件を満たしながら被写体の撮像が可能であるか否かを特定しうる。このように、様々な形態で、上述の手法を適用することができる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
101:撮像部、102:制御部、103:被写体速度検出部、104:撮像可否判定部、105:パンチルト駆動制御部

Claims (21)

  1. 被写体の移動速度を取得する取得手段と、
    前記被写体の移動速度に基づいて前記被写体を撮像するための撮像手段を、前記被写体に追従せずに撮像する第1の撮像と、前記被写体に追従して撮像する第2の撮像とのいずれかを行うように制御する制御手段と、
    を有することを特徴とする制御装置。
  2. 被写体の移動速度に少なくとも基づいて、撮像手段が前記被写体を追従せずに撮像する第1の撮像により画質に関する所定の条件を満たすことができるか否かを特定する特定手段と、
    前記第1の撮像によって前記所定の条件を満たすことができないと特定された場合に、前記撮像手段が当該被写体に追従して当該被写体を撮像する第2の撮像を行うように、当該撮像手段のパンニングとチルティングとの少なくともいずれかを行うための制御を行う制御手段と、
    を有することを特徴とする制御装置。
  3. 前記被写体の前記移動速度を検出する検出手段をさらに有し、
    前記特定手段は、前記検出手段によって検出された前記移動速度に少なくとも基づいて、前記第1の撮像により前記所定の条件を満たすことができるか否かを特定する、
    ことを特徴とする請求項2に記載の制御装置。
  4. 前記特定手段は、前記移動速度が所定の閾値以下である場合に、前記第1の撮像により前記所定の条件を満たすことができると特定し、前記移動速度が所定の閾値を超える場合に、前記第1の撮像により前記所定の条件を満たすことができないと特定する、
    ことを特徴とする請求項2又は3に記載の制御装置。
  5. 前記特定手段は、前記移動速度と前記撮像手段における現在の露光時間とに基づいて、前記第1の撮像により前記所定の条件を満たすことができるか否かを特定する、
    ことを特徴とする請求項2から4のいずれか1項に記載の制御装置。
  6. 前記特定手段は、前記第1の撮像により前記所定の条件を満たすことができない場合に、前記移動速度に応じた第1の露光時間を前記撮像手段に設定することによって行われる第3の撮像により画質に関する第2の条件を満たすことができるか否かを特定し、
    前記制御手段は、前記第3の撮像により前記第2の条件を満たすことができる場合、さらに、前記撮像手段の露光時間を前記第1の露光時間に設定するための制御を行う、
    ことを特徴とする請求項2から5のいずれか1項に記載の制御装置。
  7. 前記制御手段は、前記第3の撮像により前記第2の条件を満たすことができない場合に前記撮像手段のパンニングとチルティングとの少なくともいずれかを行うための前記制御を行う、
    ことを特徴とする請求項6に記載の制御装置。
  8. 前記制御手段は、前記第3の撮像により前記第2の条件を満たすことができない場合に、さらに、前記第1の露光時間より長い第2の露光時間を前記撮像手段に設定するための制御を行う、
    ことを特徴とする請求項7に記載の制御装置。
  9. 前記第2の条件は、前記第3の撮像により得られる画像の輝度とノイズ量との少なくともいずれかに関する、
    ことを特徴とする請求項6から8のいずれか1項に記載の制御装置。
  10. 前記特定手段は、前記輝度が輝度に関する所定値を超え、かつ、前記ノイズ量がノイズ量に関する所定値以下である場合に、前記第3の撮像により前記第2の条件を満たすことができると判定する、
    ことを特徴とする請求項9に記載の制御装置。
  11. 前記特定手段は、他の装置によって検出された前記被写体の移動速度に基づいて、前記撮像手段による前記第1の撮像によって前記所定の条件を満たすことができるか否かを特定する、
    ことを特徴とする請求項2から10のいずれか1項に記載の制御装置。
  12. 前記他の装置は、前記撮像手段と異なる第2の撮像手段である、
    ことを特徴とする請求項11に記載の制御装置。
  13. 前記制御手段は、前記第1の撮像によって前記所定の条件を満たすことができないと特定された場合に、前記撮像手段にズーミングを行わせるための制御を行う、
    ことを特徴とする請求項2から12のいずれか1項に記載の制御装置。
  14. 前記特定手段は、指定された被写体についての前記特定を実行し、指定されていない被写体については前記特定を実行しない、
    ことを特徴とする請求項2から13のいずれか1項に記載の制御装置。
  15. 前記特定手段は、画像内の所定の位置を通過した被写体または所定の領域に侵入した被写体を、前記特定を実行する被写体として指定する、
    ことを特徴とする請求項14に記載の制御装置。
  16. 前記特定手段は、ユーザ操作によって選択された被写体を、前記特定を実行する被写体として指定する、
    ことを特徴とする請求項14又は15に記載の制御装置。
  17. 前記制御手段は、前記撮像手段が取り付けられている雲台を制御することによって、前記撮像手段のパンニングとチルティングとの少なくともいずれかを行わせる、
    ことを特徴とする請求項2から16のいずれか1項に記載の制御装置。
  18. 前記撮像手段と請求項1から17のいずれか1項に記載の制御装置とを含むことを特徴とする撮像装置。
  19. 制御装置の制御方法であって、
    被写体の移動速度を取得する取得工程と、
    前記被写体の移動速度に基づいて前記被写体を撮像するための撮像手段を、前記被写体に追従せずに撮像する第1の撮像と、前記被写体に追従して撮像する第2の撮像とのいずれかを行うように制御する制御工程と、
    を有することを特徴とする制御方法。
  20. 制御装置の制御方法であって、
    特定手段が、被写体の移動速度に少なくとも基づいて、撮像手段が前記被写体を追従せずに撮像する第1の撮像により画質に関する所定の条件を満たすことができるか否かを特定する特定工程と、
    制御手段が、前記第1の撮像によって前記所定の条件を満たすことができないと特定された場合に、前記撮像手段が当該被写体に追従して当該被写体を撮像する第2の撮像を行うように、当該撮像手段のパンニングとチルティングとの少なくともいずれかを行うための制御を行う制御工程と、
    を有することを特徴とする制御方法。
  21. コンピュータを、請求項1から17のいずれか1項に記載の制御装置が備える各手段として機能させるためのプログラム。
JP2017205546A 2017-10-24 2017-10-24 制御装置、制御方法、及びプログラム Active JP6994901B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017205546A JP6994901B2 (ja) 2017-10-24 2017-10-24 制御装置、制御方法、及びプログラム
US16/161,251 US10863090B2 (en) 2017-10-24 2018-10-16 Control apparatus, image capturing apparatus, control method, and computer-readable storage medium
CN201811212639.0A CN109698905B (zh) 2017-10-24 2018-10-18 控制设备、摄像设备、控制方法和计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017205546A JP6994901B2 (ja) 2017-10-24 2017-10-24 制御装置、制御方法、及びプログラム

Publications (3)

Publication Number Publication Date
JP2019078880A true JP2019078880A (ja) 2019-05-23
JP2019078880A5 JP2019078880A5 (ja) 2020-11-26
JP6994901B2 JP6994901B2 (ja) 2022-01-14

Family

ID=66169556

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017205546A Active JP6994901B2 (ja) 2017-10-24 2017-10-24 制御装置、制御方法、及びプログラム

Country Status (3)

Country Link
US (1) US10863090B2 (ja)
JP (1) JP6994901B2 (ja)
CN (1) CN109698905B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021052231A (ja) * 2019-09-20 2021-04-01 キヤノン株式会社 制御装置、制御方法、プログラム及び記憶媒体

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6973298B2 (ja) * 2018-05-31 2021-11-24 トヨタ自動車株式会社 物体監視装置
US11436823B1 (en) 2019-01-21 2022-09-06 Cyan Systems High resolution fast framing infrared detection system
JP2020150417A (ja) * 2019-03-13 2020-09-17 ソニー株式会社 情報処理装置、方法、および記録媒体
JP7283005B2 (ja) * 2019-03-28 2023-05-30 株式会社トプコン 点群データ処理方法および点群データ処理装置
US11448483B1 (en) 2019-04-29 2022-09-20 Cyan Systems Projectile tracking and 3D traceback method
WO2021061245A2 (en) * 2019-06-28 2021-04-01 Cyan Systems Fast framing moving target imaging system and method

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009008164A1 (ja) * 2007-07-09 2009-01-15 Panasonic Corporation デジタル一眼レフカメラ
JP2010154391A (ja) * 2008-12-26 2010-07-08 Panasonic Corp 自動追尾カメラ装置
JP2014135683A (ja) * 2013-01-11 2014-07-24 Sumitomo Electric Ind Ltd 撮像制御装置、撮像制御方法および撮像制御プログラム
JP2014220622A (ja) * 2013-05-07 2014-11-20 オリンパス株式会社 撮影機器、撮影支援方法、表示装置及び表示方法
JP2015014672A (ja) * 2013-07-04 2015-01-22 住友電気工業株式会社 カメラ制御装置、カメラシステム、カメラ制御方法、及びプログラム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7256817B2 (en) * 2000-10-26 2007-08-14 Fujinon Corporation Following device
JP4525089B2 (ja) 2004-01-27 2010-08-18 フジノン株式会社 オートフォーカスシステム
JP2011041186A (ja) 2009-08-18 2011-02-24 Nikon Corp 電子カメラ
JP5586918B2 (ja) 2009-10-30 2014-09-10 キヤノン株式会社 移動検出装置および記録装置
JP5235910B2 (ja) 2010-01-06 2013-07-10 キヤノン株式会社 カメラ雲台システム
JP5589548B2 (ja) 2010-05-14 2014-09-17 株式会社リコー 撮像装置、画像処理方法、及びプログラム記憶媒体
JP2014206640A (ja) 2013-04-12 2014-10-30 キヤノン株式会社 撮像装置およびその制御方法
EP2819395B1 (en) 2013-06-27 2015-08-12 Axis AB Method and apparatus for setting a camera exposure time
JP6205072B2 (ja) 2014-09-10 2017-09-27 富士フイルム株式会社 撮像制御装置、撮像制御方法、カメラ、カメラシステム及びプログラム
CN105847662A (zh) 2015-06-19 2016-08-10 维沃移动通信有限公司 一种基于移动终端的运动物体拍摄方法和移动终端
CN105898143B (zh) 2016-04-27 2019-05-17 维沃移动通信有限公司 一种运动物体的抓拍方法及移动终端
CN106303223A (zh) 2016-07-29 2017-01-04 努比亚技术有限公司 一种图片处理方法及设备
CN106254783B (zh) 2016-09-29 2020-08-28 上海剧浪影视传媒有限公司 运动物体拍摄方法及装置
CN106331511A (zh) 2016-11-16 2017-01-11 广东欧珀移动通信有限公司 智能终端跟踪拍摄的方法和装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009008164A1 (ja) * 2007-07-09 2009-01-15 Panasonic Corporation デジタル一眼レフカメラ
JP2010154391A (ja) * 2008-12-26 2010-07-08 Panasonic Corp 自動追尾カメラ装置
JP2014135683A (ja) * 2013-01-11 2014-07-24 Sumitomo Electric Ind Ltd 撮像制御装置、撮像制御方法および撮像制御プログラム
JP2014220622A (ja) * 2013-05-07 2014-11-20 オリンパス株式会社 撮影機器、撮影支援方法、表示装置及び表示方法
JP2015014672A (ja) * 2013-07-04 2015-01-22 住友電気工業株式会社 カメラ制御装置、カメラシステム、カメラ制御方法、及びプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021052231A (ja) * 2019-09-20 2021-04-01 キヤノン株式会社 制御装置、制御方法、プログラム及び記憶媒体
JP7433820B2 (ja) 2019-09-20 2024-02-20 キヤノン株式会社 制御装置、制御方法、プログラム及び記憶媒体

Also Published As

Publication number Publication date
US10863090B2 (en) 2020-12-08
CN109698905B (zh) 2021-01-05
US20190124264A1 (en) 2019-04-25
CN109698905A (zh) 2019-04-30
JP6994901B2 (ja) 2022-01-14

Similar Documents

Publication Publication Date Title
JP6994901B2 (ja) 制御装置、制御方法、及びプログラム
US9542754B2 (en) Device and method for detecting moving objects
US11089228B2 (en) Information processing apparatus, control method of information processing apparatus, storage medium, and imaging system
KR20130010875A (ko) 화상 조정 파라미터를 결정하기 위한 방법 및 카메라
JP6914007B2 (ja) 情報処理装置および情報処理方法
US9906724B2 (en) Method and device for setting a focus of a camera
JP7150462B2 (ja) 情報処理装置、情報処理方法およびプログラム
US20120188437A1 (en) Electronic camera
JP6602286B2 (ja) 画像処理装置、画像処理方法およびプログラム
US11727716B2 (en) Information processing apparatus, imaging apparatus, which determines exposure amount with respect to face detection and human body detection
EP3886429A1 (en) Information processing apparatus, image capturing apparatus, method, program and storage medium
JP2019057240A (ja) 撮像装置
US10943103B2 (en) Human body detection apparatus, human body detection method, information processing apparatus, information processing method, and storage medium
JP7250433B2 (ja) 撮像装置、制御方法及びプログラム
WO2013175837A1 (ja) カメラ制御装置、カメラ制御方法、プログラムおよびカメラ装置
US20230276134A1 (en) Information processing apparatus, imaging apparatus, method, and storage medium
EP4090007A1 (en) Imaging control apparatus for controlling exposure of imaging apparatus based on subject authentication result, imaging control method, and storage medium
JP2019192155A (ja) 画像処理装置、撮影装置、画像処理方法およびプログラム
JP7353864B2 (ja) 情報処理装置、情報処理装置の制御方法およびプログラム、撮像システム
EP3965073A2 (en) Apparatus, method, and storage medium
JP2005070450A (ja) ビデオカメラ
JP2021022783A (ja) 制御装置、追尾システム、制御方法、及びプログラム
JP2021150947A (ja) 情報処理装置、撮像装置、方法、プログラム及び記憶媒体
JP5883141B2 (ja) 電子撮像システムを合焦させるシステム及び方法
JP2023026185A (ja) 撮像装置、制御方法、プログラム及び記憶媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201015

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201015

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210728

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210806

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210930

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211214

R151 Written notification of patent or utility model registration

Ref document number: 6994901

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151