JP2022093913A - 撮像制御装置、撮像制御方法およびプログラム - Google Patents
撮像制御装置、撮像制御方法およびプログラム Download PDFInfo
- Publication number
- JP2022093913A JP2022093913A JP2020206643A JP2020206643A JP2022093913A JP 2022093913 A JP2022093913 A JP 2022093913A JP 2020206643 A JP2020206643 A JP 2020206643A JP 2020206643 A JP2020206643 A JP 2020206643A JP 2022093913 A JP2022093913 A JP 2022093913A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- movement
- image pickup
- image
- moving body
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Exposure Control For Cameras (AREA)
- Accessories Of Cameras (AREA)
- Studio Devices (AREA)
Abstract
【課題】移動に伴う撮像条件の設定の適正化を図る。【解決手段】1つの態様による撮像制御装置は、撮像部の光軸に対する移動方向に基づいて、1以上の画素を含む撮像領域の撮像条件を設定する画像処理手段と、前記画像処理手段で設定された撮像条件に基づいて、前記撮像領域の撮像を制御する撮像制御手段と、を備える。【選択図】 図1
Description
本発明は、撮像制御装置、撮像制御方法およびプログラムに関する。
特許文献1には、画像保存領域に保存された2画像データを比較(減算処理)して、被写体の移動量を算出し、その時系列の比較結果に基づいて、絞り値及びシャッタスピードを決定する技術が開示されている。
本発明が解決しようとする課題は、移動に伴う撮像条件の設定の適正化を図ることである。
本発明の1つの態様による撮像制御装置は、撮像部の光軸に対する移動方向に基づいて、1以上の画素を含む撮像領域の撮像条件を設定する画像処理手段と、前記画像処理手段で設定された撮像条件に基づいて、前記撮像領域の撮像を制御する撮像制御手段と、を備える。
移動に伴う撮像条件の設定の適正化を図ることができる。
以下、添付図面を参照して本発明の実施形態を詳細に説明する。なお、以下の実施形態は本発明を限定するものではなく、また、実施形態で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。実施形態の構成は、本発明が適用される装置の仕様や各種条件(使用条件、使用環境等)によって適宜修正または変更され得る。本発明の技術的範囲は、特許請求の範囲によって確定され、以下の個別の実施形態によって限定されない。
<第1実施形態>
図1は、第1実施形態に係る移動体に搭載された撮像装置の構成例を示すブロック図である。
図1に示す各機能ブロックのうち、ソフトウェアにより実現される機能については、各機能ブロックの機能を提供するためのプログラムがROM(Read Only Memory)等のメモリに記憶される。そして、そのプログラムをRAM(Random Access Memory)に読み出してCPUCentral Processing Unit)が実行することにより実現される。ハードウェアにより実現される機能については、例えば、所定のコンパイラを用いることで、各機能ブロックの機能を実現するためのプログラムからFPGA上に自動的に専用回路を生成すればよい。FPGAとは、Field Programmable Gate Arrayの略である。また、FPGAと同様にしてゲートアレイ回路を形成し、ハードウェアとして実現するようにしてもよい。また、ASIC(Application Specific Integrated Circuit)により実現するようにしてもよい。なお、図1に示した機能ブロックの構成は一例であり、複数の機能ブロックが1つの機能ブロックを構成するようにしてもよいし、いずれかの機能ブロックが複数の機能を行うブロックに分かれてもよい。
図1は、第1実施形態に係る移動体に搭載された撮像装置の構成例を示すブロック図である。
図1に示す各機能ブロックのうち、ソフトウェアにより実現される機能については、各機能ブロックの機能を提供するためのプログラムがROM(Read Only Memory)等のメモリに記憶される。そして、そのプログラムをRAM(Random Access Memory)に読み出してCPUCentral Processing Unit)が実行することにより実現される。ハードウェアにより実現される機能については、例えば、所定のコンパイラを用いることで、各機能ブロックの機能を実現するためのプログラムからFPGA上に自動的に専用回路を生成すればよい。FPGAとは、Field Programmable Gate Arrayの略である。また、FPGAと同様にしてゲートアレイ回路を形成し、ハードウェアとして実現するようにしてもよい。また、ASIC(Application Specific Integrated Circuit)により実現するようにしてもよい。なお、図1に示した機能ブロックの構成は一例であり、複数の機能ブロックが1つの機能ブロックを構成するようにしてもよいし、いずれかの機能ブロックが複数の機能を行うブロックに分かれてもよい。
図1において、移動体11には、撮像装置12が装着されている。移動体11は、3次的空間を移動可能なドローン、ヘリコプタ、偵察機または偵察衛星などの飛翔体であってもよいし、地上を2次元的に動く車両またはラジコンカーなどの走行装置であってもよいし、ロボットまたはベルトコンベアなどの搬送装置であってもよい。移動体11の移動に伴って撮像装置12も同様に移動する。
撮像装置12は、移動検出部13、移動算出部14、撮像部15、撮像制御部16、画像処理部17、画像配信部18および画像保存部19を備える。
移動検出部13は、撮像部15の光軸に対する移動体11の移動を検出する。なお、移動体11の移動に伴って撮像装置12も同様に移動するので、移動検出部13は、撮像部15の光軸に対する撮像装置12の移動を検出するようにしてもよい。移動検出部13は、加速度センサまたは角速度センサ、地磁気センサあるいはこれらのセンサを組み合わせで実現してもよい。ただし、移動検出部13は、撮像部15の光軸に対する移動体11の移動を検出できれば、これらに限定されない。
移動算出部14は、移動検出部13による移動の検出結果に基づいて、移動体11の移動距離および光軸に対する移動方向を算出する。移動算出部14は、移動体11の移動速度も算出するようにしてもよい。移動算出部14は、撮像部15の移動距離および移動方向を算出するようにしてもよい。
撮像部15は、被写体からの光を画素ごとに電気信号に変換した画像を生成する。撮像制御部16は、画像処理部17で設定された撮像条件に基づいて、1以上の画素を含む撮像領域の撮像を制御する。この撮像条件は露光条件を含む。このとき、撮像制御部16は、撮像領域ごとに個別に撮像を制御することができる。
撮像領域は、撮像部15の撮像画面を分割した分割領域から構成することができる。撮像部15および撮像制御部16は、イメージセンサ内に設けるようにしてもよいし、撮像部15をイメージセンサ内に設け、撮像制御部16をイメージセンサ外に設けるようにしてもよい。イメージセンサは、例えば、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)センサである。
画像処理部17は、ホワイトバランス、ディベイヤー、ノイズリダクション、シャープネスおよび補正などの現像処理を行う。画像処理部17は、例えば、現像エンジンである。画像処理部17は、移動算出部14にて算出された移動情報に基づいて、画像の各領域の輝度値を算出する。画像処理部17は、1以上の画素を含む撮像領域ごとに撮像条件を制御することができる。この撮像条件は、露光条件を含む。ここで、画像処理部17は、撮像部15の光軸に対する移動方向に基づいて、1以上の画素を含む撮像領域の撮像条件を設定することができる。例えば、画像処理部17は、光軸に対して垂直方向の移動に対しては前フレームの輝度情報および撮像領域の遷移量に基づいて、撮像領域の露光条件を決定することができる。また、画像処理部17は、光軸に対して平行方向の移動に対しては前フレームの輝度情報および撮像領域の縮尺率に基づいて、撮像領域の露光条件を決定することができる。移動方向は、光軸に対して平行方向の移動、光軸に対して垂直方向の移動および回転方向の移動のいずれか少なくとも1つを含む。回転方向の移動は、光軸に対して垂直な回転、撮像部15のチルト方向の回転および撮像部15のパン方向の回転いずれか少なくとも1つを含む。画像処理部17は、移動体11の移動を伴わない輝度値の変化に対しては、撮像領域の輝度情報に基づいて露光時間を制御することができる。
このとき、画像処理部17は、各撮像領域の輝度値に基づいて、撮像領域ごとに適切な明るさで撮像できるように撮像部15の露光条件を制御することができる。そして、撮像部15は、適切な露光条件で撮像された画像を画像処理部17に出力する。
画像処理部17は、輝度取得部17A、変位量取得部17B、遷移量算出部17Cおよび縮尺率算出部17Dを備える。
輝度取得部17Aは、撮像領域の輝度情報を取得する。また、輝度取得手段17Aは、F(Focal)値が変化するときに撮像領域の輝度値を再取得する。変位量算出部17Bは、移動算出部14で算出された移動体11の移動距離および移動方向に基づいて、移動体11の変位量および変位方向を算出する。遷移量算出部17Cは、移動体11の変位量および変位方向に基づいて、撮像領域の遷移量および移動方向を算出する。縮尺率算出部17Dは、移動体11の変位量および変位方向に基づいて、撮像領域の縮尺率を算出する。なお、画像から縮尺率を計算方法は、例えば、いくつかの特徴点を画像から検出し、特徴点の移動から検出する方法を用いてもよいし、測距センサを用いて対象物からの距離から計算する方法を用いてもよい。
画像配信部18は、映像出力系インタフェースであり、不図示の外部のディスプレイなどの表示装置に映像を出力する。映像出力系インタフェースは、例えば、IP(Internet Protocol)またはコンポジット信号である。映像出力系インタフェースは、映像出力系インタフェースは、HDMI(High-Definition Multimedia Interface)(登録商標)またはSDI(Serial Digital Interface)であってもよい。
画像保存部19は、画像処理部17にて処理された画像を保存する。画像保存部19は、撮像装置12に内蔵されたハードディスクまたはSSD(Solid State Drive)であってもよい。画像保存部19は、撮像装置12に装着可能なSDカードまたはUSB(Universal Serial Bus)メモリなどの記録媒体であってもよい。
図2は、第1実施形態に係る撮像装置が搭載された移動体の一例を示す平面図である。
図2において、移動体11が空中を移動している場合、例えば、Z軸が地面方向、X軸が移動体11の横移動方向、Y軸が移動体11の前進方向および後退方向に設定される。また、図2の例では、撮像部15の光軸LAがY軸方向に設定され、撮像部15は、移動体11の前進方向を撮像する。ただし、本実施形態の制御は、必ずしもこの方向を撮像している場合に限らない。
図2において、移動体11が空中を移動している場合、例えば、Z軸が地面方向、X軸が移動体11の横移動方向、Y軸が移動体11の前進方向および後退方向に設定される。また、図2の例では、撮像部15の光軸LAがY軸方向に設定され、撮像部15は、移動体11の前進方向を撮像する。ただし、本実施形態の制御は、必ずしもこの方向を撮像している場合に限らない。
図3は、第1実施形態に係る撮像領域の遷移の一例を示す図である。なお、図3では、撮像装置12が図2の移動体11の前進方向を撮像しているときに、移動体11の高さ方向(光軸に対して垂直方向)、すなわちZ軸方向の移動に伴う制御方法を示す。
図3において、移動体11がZ軸方向の負の向きに移動したものとする。Z軸方向の負の向きの移動体11の移動に伴って、移動体11の移動前の分割領域22の被写体は、撮像領域21内を上にシフトし、分割領域23に移動する。このとき、分割領域22、23の撮像条件が互いに異なる場合、移動体11の移動に伴って分割領域22、23は適切な撮像条件で撮像できなくなる。この撮像条件は、被写体の輝度値から算出された適切な露光条件を含む。
図3において、移動体11がZ軸方向の負の向きに移動したものとする。Z軸方向の負の向きの移動体11の移動に伴って、移動体11の移動前の分割領域22の被写体は、撮像領域21内を上にシフトし、分割領域23に移動する。このとき、分割領域22、23の撮像条件が互いに異なる場合、移動体11の移動に伴って分割領域22、23は適切な撮像条件で撮像できなくなる。この撮像条件は、被写体の輝度値から算出された適切な露光条件を含む。
移動体11の移動に伴って、移動検出部13にて検出された移動情報は、移動算出部14に出力される。移動算出部14は、移動検出部13からの移動情報に基づいて、移動体11の移動量を積算し、初期位置からの差分を算出する。そして、画像処理部17は、移動体11の変位量に基づいて、分割領域22の遷移量を算出し、分割領域22が所定の閾値以上の遷移を行った場合、分割領域22の撮像条件を分割領域23に適用する。この閾値は、ユーザが自由に定めることができ、移動体11の移動によって1つの分割領域の割合、例えば50%以上が他の分割領域に移動した場合などに設定することができる。この分割領域の割合は50%としたが、これ以外の設定でもよい。
また、画像処理部17は、シャッタスピードおよび移動算出部14からの移動情報に基づいて、1フレーム間における分割領域22の移動距離を算出する。そして、画像処理部17は、次フレームにおいて分割領域22の輝度値に閾値を超える変化があると判断した場合、分割領域22の撮像条件を分割領域23に適用する。これにより、撮像装置12は、移動体11の移動前に分割領域22で撮像していた画像を、分割領域23においても適切な撮像条件で撮像することが可能になる。
図4は、第1実施形態に係る撮像領域の遷移のその他の例を示す図である。なお、図4では、撮像装置12が図2の移動体11の前進方向を撮像しているときに、移動体11の水平方向(光軸に対して垂直方向)、すなわちX軸方向の移動に伴う制御方法を示す。
図4において、移動体11がX軸方向の正の向きに移動したものとする。X軸方向の正の向きの移動体11の移動に伴って、移動体11の移動前の分割領域22の被写体は、撮像領域21内を右にシフトし、分割領域24に移動する。このとき、分割領域22、24の撮像条件が互いに異なる場合、移動体11の移動に伴って分割領域22、24は適切な撮像条件で撮像できなくなる。
図4において、移動体11がX軸方向の正の向きに移動したものとする。X軸方向の正の向きの移動体11の移動に伴って、移動体11の移動前の分割領域22の被写体は、撮像領域21内を右にシフトし、分割領域24に移動する。このとき、分割領域22、24の撮像条件が互いに異なる場合、移動体11の移動に伴って分割領域22、24は適切な撮像条件で撮像できなくなる。
移動体11の移動に伴って、移動検出部13にて検出された移動情報は、移動算出部14に出力される。移動算出部14は、移動検出部13からの移動情報に基づいて、移動体11の移動量を積算し、初期位置からの差分を算出する。そして、画像処理部17は、移動体11の変位量に基づいて、分割領域22の遷移量を算出し、分割領域22が所定の閾値以上の遷移を行った場合、分割領域22の撮像条件を分割領域24に適用する。
また、画像処理部17は、シャッタスピードおよび移動算出部14からの移動情報に基づいて、1フレーム間における移動距離を算出する。そして、画像処理部17は、次フレームにおいて分割領域22の輝度値に閾値を超える変化があると判断した場合、分割領域22の撮像条件を分割領域24に適用する。これにより、撮像装置12は、移動体11の移動前に分割領域22で撮像していた画像を、分割領域24においても適切な撮像条件で撮像することが可能になる。
図5は、第1実施形態に係る撮像領域の遷移のさらにその他の例を示す図である。なお、図5では、撮像装置12が図2の移動体11の前進方向を撮像しているときに、移動体11の前進方向(光軸に対して平行方向)、すなわちY軸方向の移動に伴う制御方法を示す。
図5において、移動体11がY軸方向の正の向き(紙面表から裏へ貫く向き)に移動したものとする。Y軸方向の正の向きの移動体11の移動に伴って、撮像装置12が被写体に近づく。このため、移動体11の移動前の分割領域22の被写体は、画角内に拡大される。すなわち、画像が分割領域22から分割領域25へと同心円状に拡大される。
図5において、移動体11がY軸方向の正の向き(紙面表から裏へ貫く向き)に移動したものとする。Y軸方向の正の向きの移動体11の移動に伴って、撮像装置12が被写体に近づく。このため、移動体11の移動前の分割領域22の被写体は、画角内に拡大される。すなわち、画像が分割領域22から分割領域25へと同心円状に拡大される。
このとき、分割領域22、25の撮像条件が異なる場合、分割領域22の被写体が適切な撮像条件で撮像されず、視認性が悪化する。視認性に悪化を防止するため、画像処理部17は、撮像装置12の移動量に応じて、分割領域22の撮像条件を分割領域25に適用する。このとき、画像処理部17は、画像の縮尺率の算出結果に基づいて分割領域25の撮像条件を制御する。すなわち、画像処理部17は、移動体11の移動に伴う画像の拡大によって分割領域22から周辺の分割領域25へ入り込む撮像対象の撮像条件に分割領域22の撮像条件を適用する。これにより、撮像装置12は、移動体11の移動前に分割領域22で撮像していた画像を、移動体11の移動後も適切な撮像条件で撮像することが可能になる。
図6は、第1実施形態に係る撮像領域の遷移のさらにその他の例を示す図である。なお、図6では、撮像装置12が図2の移動体11の前進方向を撮像しているときに、光軸に対して移動体11の垂直な回転、すなわちY軸周りの回転に伴う制御方法を示す。
図6において、移動体11の回転には大きく分けて3方向があり、光軸に対して垂直な回転と、カメラのチルト方向、すなわちピッチ方向の回転と、パン方向、すなわちヨー方向の回転がある。
図6において、移動体11の回転には大きく分けて3方向があり、光軸に対して垂直な回転と、カメラのチルト方向、すなわちピッチ方向の回転と、パン方向、すなわちヨー方向の回転がある。
移動体11の回転に伴う移動体11の移動量の検出方法および計算方法などは上記した方法と同様である。ただし、光軸に対して垂直な回転については、イメージセンサの中心から同心円状の軌道26、27を描いて画像が動く。このため、上記と同様の制御を行うため、画像処理部17は、回転に伴って同心円が通る軌道26、27上で撮像条件を切り替える。
しかしながら、図6に示すように、X軸方向およびZ軸方向に沿って格子状に分割された分割領域22に対しては、光軸に対して垂直な回転は、単純なシフト移動および拡大移動と比較して不向きな分割方法である。その理由は、撮像領域21内の分割領域によっては、回転後の分割領域の移動方向が互いに異なるからである。そのため、画像処理部17は、光軸に対して垂直な回転に伴う制御を行うときに、その回転によって描く軌跡26、27が通る分割領域を、移動算出部14が算出した移動情報に基づいて処理し、その分割領域の露光条件を決定する。
一方、画像処理部17は、ピッチ方向の回転については、Z軸方向の移動と同様の動きをするため、Z軸方向の移動に伴う処理と同様の制御を行う。また、画像処理部17は、ヨー方向の回転については、X軸方向の移動と同様の動きをするため、X軸方向の移動に伴う処理と同様の制御を行う。
3次的空間を移動可能な移動体11に撮像装置12が搭載されている場合、画像処理部17は、上記の移動方向を組み合わせた制御を行う。そのため、移動算出部14は、移動検出部13からの移動情報を逐次積算し、移動体11の移動方向と移動量を計算し、画像処理部17は、上記の処理を組み合わせて用いる。
また、撮像装置12が不図示のズームレンズを有している場合、ズーム動作による画像の拡大または縮小も考えられる。この場合、例えば、絞りを開放していると、撮像装置12の設定によってズーム動作前後でF値が切り替わることがある。ズーム前の画像と、ズーム後の画像で同一の対象物を撮像している範囲の領域においても適切な露光時間が変わるため、画像処理部17は、適切な撮像条件の再計算を行う。ズームなどの動作を行った際でも、F値の変化が伴わない場合は、画像処理部17は、撮像条件の再計算は行わない。
ここで、3次的空間を移動可能な移動体11に撮像装置12が搭載されている場合、移動体11の移動に伴って撮像領域21の画像が激しく変化する。明暗差が大きい場所が存在する環境下では、撮像領域21の画像の変化に伴って分割領域内の明暗の切り替わりが頻繁に生じる。
例えば、照明または太陽光などが当たる輝度が高い領域と、影になった場所または暗い屋内などの輝度が低い領域とを含む輝度差が大きな環境下で撮像が行われるものとする。このとき、移動体11の上下移動、左右の移動または回転移動などにより、画角内の明暗の領域が激しく移り変わる。その際、適切な露光条件にて撮像を行うために、分割領域ごとに輝度値から計算して処理を行うと、撮像領域の切り替わりに計算が間に合わない。このため、AE機能によって画像が明るくなったり暗くなったりするハンチング現象が発生する。また、特許文献1に記載の方法では、画像内に固定箇所がなく、画像全体が移動しているように見えてしまい、露光計算を適切に行うことができない。
例えば、照明または太陽光などが当たる輝度が高い領域と、影になった場所または暗い屋内などの輝度が低い領域とを含む輝度差が大きな環境下で撮像が行われるものとする。このとき、移動体11の上下移動、左右の移動または回転移動などにより、画角内の明暗の領域が激しく移り変わる。その際、適切な露光条件にて撮像を行うために、分割領域ごとに輝度値から計算して処理を行うと、撮像領域の切り替わりに計算が間に合わない。このため、AE機能によって画像が明るくなったり暗くなったりするハンチング現象が発生する。また、特許文献1に記載の方法では、画像内に固定箇所がなく、画像全体が移動しているように見えてしまい、露光計算を適切に行うことができない。
これに対し、上述した第1実施形態では、撮像装置12は、移動体11の光軸に対する移動方向に基づいて、分割領域22ごとに撮像条件を制御することができる。このため、適切な露光の設定に入力画像を不要とすることができ、移動するオブジェクトが撮像領域21にない場合でも、撮像条件の制御の高速化を図ることができる。
また、撮像装置12は、フィードバック制御ではなくオープンループで撮像条件を制御することができるので、入力画像を基にオート設定を行うAE(Automatic Exposure)制御に比較して処理負荷を減らすことができる。また、撮像装置12は、移動体11の移動に基づく撮像条件の制御と、AE制御を併用することで、ハンチング現象を減らすことができる。
図7は、第1実施形態に係る移動体に移動に伴う撮像制御方法を示すフローチャートである。
なお、図7の各ステップは、図1の撮像装置12の記憶部に記憶されたプログラムを画像処理部17が読み出し、実行することで実現される。また、図7に示すフローチャートの少なくとも一部をハードウェアにより実現してもよい。ハードウェアにより実現する場合、例えば、所定のコンパイラを用いることで、各ステップを実現するためのプログラムからFPGA上に自動的に専用回路を生成すればよい。また、FPGAと同様にしてGate Array回路を形成し、ハードウェアとして実現するようにしてもよい。また、ASICにより実現するようにしてもよい。
この場合、図7に示すフローチャートにおける各ブロックは、ハードウェアブロックと見做すことができる。なお、複数のブロックをまとめて1つのハードウェアブロックとして構成してもよく、1つのブロックを複数のハードウェアブロックとして構成してもよい。
なお、図7の各ステップは、図1の撮像装置12の記憶部に記憶されたプログラムを画像処理部17が読み出し、実行することで実現される。また、図7に示すフローチャートの少なくとも一部をハードウェアにより実現してもよい。ハードウェアにより実現する場合、例えば、所定のコンパイラを用いることで、各ステップを実現するためのプログラムからFPGA上に自動的に専用回路を生成すればよい。また、FPGAと同様にしてGate Array回路を形成し、ハードウェアとして実現するようにしてもよい。また、ASICにより実現するようにしてもよい。
この場合、図7に示すフローチャートにおける各ブロックは、ハードウェアブロックと見做すことができる。なお、複数のブロックをまとめて1つのハードウェアブロックとして構成してもよく、1つのブロックを複数のハードウェアブロックとして構成してもよい。
図7において、画像処理部17は、移動前の画像について各分割領域の輝度情報を取得し(S11)、分割領域ごとの適切な露光条件を算出し(S12)、撮像制御部16に送信する。そして、撮像制御部16は、イメージセンサの撮像部15を制御して撮像を行う。
次に、画像処理部17は、移動体11から移動検出部13に送られる情報に基づいて、移動体11が空間を移動しているかどうかを判断する(S13)。画像処理部17は、移動体11が移動していなければ、画像から適切な露光時間を計算するAE制御または露光時間の固定などの制御を行う。
一方、移動算出部14は、移動体11が移動していれば、移動体11の移動量を算出する。そして、画像処理部17は、移動体11の移動によって各分割領域に隣接する分割領域との境界を超え、かつ閾値よりも大きな輝度値の変化があるかどうかを判断する(S14)。なお、輝度値の閾値はユーザが任意に設定することができ、ユーザの設定後、不図示の画像処理部17の記憶部に格納する。
ここで、画像処理部17は、移動体11の移動によって移動する分割領域の輝度値の変化が閾値以下の場合、制御を行わずに終了する。
一方、移動体11の移動によって閾値を超える画像の輝度値の変化がある場合、画像処理部17は、その移動が光軸に対して垂直方向、すなわち画像内の拡大縮小を伴う移動かどうかを判断する(S15)。
一方、移動体11の移動によって閾値を超える画像の輝度値の変化がある場合、画像処理部17は、その移動が光軸に対して垂直方向、すなわち画像内の拡大縮小を伴う移動かどうかを判断する(S15)。
画像処理部17は、光軸に対して垂直方向のみの移動の場合、X軸方向およびZ軸方向移動の制御方法に基づいて各分割領域の露光条件を決定する(S16)。
画像処理部17は、光軸に対して垂直な回転の場合、上述した同心円状の軌道上の領域移動の際の制御を行う。画像処理部17は、ピッチ方向またはヨー方向の回転に対しては、上述したように、Z軸方向およびX軸方向の移動の制御と同様の制御を行う。
画像処理部17は、光軸に対して垂直な回転の場合、上述した同心円状の軌道上の領域移動の際の制御を行う。画像処理部17は、ピッチ方向またはヨー方向の回転に対しては、上述したように、Z軸方向およびX軸方向の移動の制御と同様の制御を行う。
画像処理部17は、光軸に対して垂直方向以外の移動も伴う場合、つまり画像内の拡大縮小を伴う移動の場合は、縮尺率の算出結果に応じて各分割領域の露光条件を決定する(S17)。また、画像処理部17は、移動量の算出結果に応じて上述のY方向の移動の制御も行う(S18)。
<第2実施形態>
図8は、第2実施形態に係る移動体に移動に伴う撮像制御方法を示すフローチャートである。上述した第1実施形態では、分割領域の輝度値の変化に基づいて、分割領域の露光条件を決定したが、第2実施形態では、分割領域の輝度値の変化および移動体の移動速度に基づいて、分割領域の露光条件を決定する。
図8は、第2実施形態に係る移動体に移動に伴う撮像制御方法を示すフローチャートである。上述した第1実施形態では、分割領域の輝度値の変化に基づいて、分割領域の露光条件を決定したが、第2実施形態では、分割領域の輝度値の変化および移動体の移動速度に基づいて、分割領域の露光条件を決定する。
図8の処理では、S21およびS23からS25の処理が図7の処理に追加されるとともに、図7のS14の処理の代わりにS22の処理が設けられている。S23からS25の処理は、AEによる露出制御である。
ここで、S13において、画像処理部17は、移動体11が移動していれば、移動体11の移動速度が閾値以上かどうか判断する(S21)。なお、移動速度の閾値はユーザが任意に設定することができ、ユーザの設定後、不図示の画像処理部17の記憶部に格納する。また、本制御に用いる移動速度の閾値および輝度値の閾値は、使用環境または使用用途によってユーザが自由に定めてもよいし、撮像装置12の持つ処理能力によって一意に定めてもよい。例えば、移動体11の移動速度が設定値より速いときに輝度値の閾値を上げ、移動体11の移動速度が設定値よりも遅いときに輝度値の閾値を下げるようにしてもよい。なお、移動速度の閾値は、AE機能で追随可能な速度範囲の最大値以下に設定することができる。
ここで、S13において、画像処理部17は、移動体11が移動していれば、移動体11の移動速度が閾値以上かどうか判断する(S21)。なお、移動速度の閾値はユーザが任意に設定することができ、ユーザの設定後、不図示の画像処理部17の記憶部に格納する。また、本制御に用いる移動速度の閾値および輝度値の閾値は、使用環境または使用用途によってユーザが自由に定めてもよいし、撮像装置12の持つ処理能力によって一意に定めてもよい。例えば、移動体11の移動速度が設定値より速いときに輝度値の閾値を上げ、移動体11の移動速度が設定値よりも遅いときに輝度値の閾値を下げるようにしてもよい。なお、移動速度の閾値は、AE機能で追随可能な速度範囲の最大値以下に設定することができる。
画像処理部17は、移動体11の移動速度が閾値未満の場合、移動算出部14から受信した移動速度の情報に基づき、入力画像を取得する(S23)。
次に、画像処理部17は、画像エンジンにて各分割領域の輝度値を取得し(S24)、その輝度値の情報から各分割領域の露光時間を決定し(S25)、AE機能にて輝度調整を行う。
次に、画像処理部17は、画像エンジンにて各分割領域の輝度値を取得し(S24)、その輝度値の情報から各分割領域の露光時間を決定し(S25)、AE機能にて輝度調整を行う。
一方、画像処理部17は、移動体11の移動速度が閾値以上の場合(AE機能の制御では処理が追い付かず、画角内の画像の変化に追随できない高速の移動の場合)、分割領域の輝度値が閾値以上かどうかを判断する(S22)。
画像処理部17は、分割領域の輝度値が閾値未満の場合、その輝度値を持った対象が他の分割領域に移動してもハンチングなどを起こす懸念がないため、AE制御を行う(S23からS25)。
一方、画像処理部17は、分割領域の輝度値が閾値以上の場合、その輝度値を持った対象が他の分割領域に移動するとハンチングなどを起こす懸念があるため、移動体11の移動に基づく撮像条件の制御を実施する(S15からS18)。
一方、画像処理部17は、分割領域の輝度値が閾値以上の場合、その輝度値を持った対象が他の分割領域に移動するとハンチングなどを起こす懸念があるため、移動体11の移動に基づく撮像条件の制御を実施する(S15からS18)。
上述した第2実施形態では、第1実施形態の制御に加え、移動速度により、移動体11の移動に基づく撮像条件の制御を行うかどうか判断することができる。このため、AEを用いることができる速度領域では、AEによって露出の制御ができ、AEを用いることができない高速な速度領域では、移動体11の移動に基づく撮像条件の制御ができる。このため、実施形態1による制御と比較して、時間による被写体の輝度値の変化がある場合にも対応した制御を行うことができ、視認性の向上が見込める。
<その他の実施形態>
図9は、実施形態に係る画像処理部のハードウェア構成例を示すブロック図である。
図9は、実施形態に係る画像処理部のハードウェア構成例を示すブロック図である。
図9において、画像処理部30は、プロセッサ31、通信制御部32、通信インタフェース33、主記憶部34、補助記憶部35および入出力インタフェース37を備える。プロセッサ31、通信制御部32、通信インタフェース33、主記憶部34、補助記憶部35および入出力インタフェース37は、内部バス36を介して相互に接続されている。主記憶部34および補助記憶部35は、プロセッサ31からアクセス可能である。
また、画像処理部30の外部には、入力装置40および表示装置41が設けられている。入力装置40および表示装置41は、入出力インタフェース37を介して内部バス36に接続されている。入力装置40は、例えば、キーボード、マウス、タッチパネル、カードリーダ、音声入力装置等である。表示装置41は、例えば、液晶モニタ、有機ELディスプレイ、マイクロLEDディスプレイである。
プロセッサ31は、画像処理部30全体の動作制御を司る。プロセッサ31は、CPUであってもよいし、GPU(Graphics Processing Unit)であってもよい。プロセッサ31は、シングルコアプロセッサであってもよいし、マルチコアプロセッサであってもよい。プロセッサ31は、処理の一部を高速化するアクセラレータなどのハードウェア回路(例えば、FPGAまたはASIC)を備えていてもよい。
主記憶部34は、例えば、SRAM(Static Randam Access Memory)またはDRAM(Dynamic Randam Access Memory)などの半導体メモリから構成することができる。主記憶部34には、プロセッサ31が実行中のプログラムを格納したり、プロセッサ31がプログラムを実行するためのワークエリアを設けたりすることができる。
補助記憶部35は、不揮発性記憶デバイスであり、例えば、ROM、ハードディスク装置またはSSD(Solid State Drive)である。補助記憶部35は、各種プログラムの実行ファイルやプログラムの実行に用いられるデータを保持することができる。
通信制御部32は、外部との通信を制御する機能を備えるハードウェアである。通信制御部32は、通信インタフェース33を介してネットワーク39に接続される。ネットワーク39は、インターネットであってもよいし、WANであってもよいし、WiFiまたはイーサネット(登録商標)などのLANであってもよいし、インターネットとWANとLANが混在していてもよい。
入出力インタフェース37は、入力装置40から入力されるデータをプロセッサ31が処理可能なデータ形式に変換したり、プロセッサ31から出力されるデータを表示装置41が処理可能なデータ形式に変換したりする。
プロセッサ31は、補助記憶部35に記憶されたプログラムを主記憶部34に読み出して実行することにより、図7および図8の処理を実現することができる。
なお、図7および図8の処理を実現するためのプログラムの実行は、複数のプロセッサやコンピュータに分担させてもよい。あるいは、プロセッサ31は、図7および図8の処理を実現するためのプログラムの全部または一部の実行を、ネットワーク39を介してクラウドコンピュータなどに指示し、その実行結果を受け取るようにしてもよい。
なお、図7および図8の処理を実現するためのプログラムの実行は、複数のプロセッサやコンピュータに分担させてもよい。あるいは、プロセッサ31は、図7および図8の処理を実現するためのプログラムの全部または一部の実行を、ネットワーク39を介してクラウドコンピュータなどに指示し、その実行結果を受け取るようにしてもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワークまたは記憶媒体を介してシステムまたは装置に供給してもよい。そして、上述の実施形態の1以上の機能は、そのシステムまたは装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、FPGAまたはASIC)でも実現可能である。
11 移動体、12 撮像装置、13 移動検出部、14 移動算出部、15 撮像部、16 撮像制御部、17 画像処理部、18 画像配信部、19 画像保存部
Claims (13)
- 撮像部の光軸に対する移動方向に基づいて、1以上の画素を含む撮像領域の撮像条件を設定する画像処理手段と、
前記画像処理手段で設定された撮像条件に基づいて、前記撮像領域の撮像を制御する撮像制御手段と、
を備えることを特徴とする撮像制御装置。 - 前記移動方向は、前記光軸に対して平行方向の移動、前記光軸に対して垂直方向の移動および回転方向の移動のいずれか少なくとも1つを含むことを特徴とする請求項1に記載の撮像制御装置。
- 前記回転方向の移動は、前記光軸に対して垂直な回転、前記撮像部のチルト方向の回転および前記撮像部のパン方向の回転いずれか少なくとも1つを含むことを特徴とする請求項2に記載の撮像制御装置。
- 前記撮像部を有する撮像装置は、3次元空間を移動可能な移動体に搭載されていることを特徴とする請求項1から3のいずれか1項に記載の撮像制御装置。
- 前記画像処理手段は、
前記撮像領域の輝度情報を取得する輝度取得手段と、
前記移動体の変位量を算出する変位量算出手段と、
前記移動体の変位量に基づいて、前記撮像領域の遷移量を算出する遷移量算出手段と、
前記移動体の変位量に基づいて、前記撮像領域の縮尺率を算出する縮尺率算出手段とを備え、
前記光軸に対して垂直方向の移動に対しては前フレームの輝度情報および前記遷移量に基づいて、前記撮像領域の露光条件を決定し、
前記光軸に対して平行方向の移動に対しては前フレームの輝度情報および前記縮尺率に基づいて、前記撮像領域の露光条件を決定することを特徴とする請求項4に記載の撮像制御装置。 - 前記画像処理手段は、前記チルト方向の回転および前記パン方向の回転においては、前記光軸に対して垂直方向の移動に伴う処理と同様の制御を行うことを特徴とする請求項5に記載の撮像制御装置。
- 前記画像処理手段は、前記光軸に対して垂直な回転においては、前記回転によって描く軌跡が通る領域を処理し、前記領域の露光条件を決定することを特徴とする請求項5または6に記載の撮像制御装置。
- 前記露光条件を制御する輝度値の閾値を設定する設定手段をさらに備え、
前記移動体の移動速度が設定値より速いときに前記閾値を上げ、前記移動体の移動速度が前記設定値よりも遅いときに前記閾値を下げることを特徴とする請求項5から7のいずれか1項に記載の撮像制御装置。 - 前記撮像領域に閾値以上の輝度が存在するかどうか検出する検出手段をさらに備え、
前記画像処理手段は、前記閾値未満の輝度値のみの画像に対しては前記輝度値から算出した撮像条件を用いることなく、前記撮像領域の露光を制御することを特徴とする請求項5から8のいずれか1項に記載の撮像制御装置。 - 前記輝度取得手段は、F(Focal)値が変化するときに前記撮像領域の輝度値を再取得することを特徴とする請求項5から9のいずれか1項に記載の撮像制御装置。
- 前記画像処理手段は、前記移動体の移動を伴わない輝度値の変化に対しては、前記輝度情報に基づいて露光時間を制御することを特徴とする請求項5から10のいずれか1項に記載の撮像制御装置。
- 撮像部の光軸に対する移動方向に基づいて、1以上の画素を含む撮像領域の撮像条件を設定するステップと、
前記撮像条件に基づいて、前記撮像領域の撮像を制御するステップと、
を備えることを特徴とする撮像制御方法。 - コンピュータを請求項1から11のいずれか1項に記載の撮像制御装置として動作させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020206643A JP2022093913A (ja) | 2020-12-14 | 2020-12-14 | 撮像制御装置、撮像制御方法およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020206643A JP2022093913A (ja) | 2020-12-14 | 2020-12-14 | 撮像制御装置、撮像制御方法およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022093913A true JP2022093913A (ja) | 2022-06-24 |
Family
ID=82091549
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020206643A Pending JP2022093913A (ja) | 2020-12-14 | 2020-12-14 | 撮像制御装置、撮像制御方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2022093913A (ja) |
-
2020
- 2020-12-14 JP JP2020206643A patent/JP2022093913A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109194876B (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 | |
ES2810812T3 (es) | Dispositivo y método de procesamiento de imágenes | |
US10491832B2 (en) | Image capture device with stabilized exposure or white balance | |
JP6261187B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP5321540B2 (ja) | 画像補正処理装置、画像補正処理方法、及び画像補正処理プログラム | |
EP3163346B1 (en) | Autofocusing a macro object by an imaging device | |
TW202123678A (zh) | 用於基於與影像感測器相關聯之運動特性而控制曝光設定之系統及方法 | |
JP6716015B2 (ja) | 撮影制御装置、撮影システム、および撮影制御方法 | |
US9729798B2 (en) | Image-capturing apparatus which controls image-capturing direction | |
US11895403B2 (en) | Imaging support device that performs registration control for setting a detected subject image position, imaging support system, imaging system, imaging support method, and program | |
US11678055B2 (en) | Imaging support device, imaging support system, imaging system, imaging support method, and program | |
US10362231B2 (en) | Head down warning system | |
US11968448B2 (en) | Imaging support device, imaging apparatus, imaging system, imaging support system, imaging support method, and program | |
KR20230041602A (ko) | 장치, 이것의 제어방법, 및 기억매체 | |
KR102592745B1 (ko) | 자세 추정 장치, 자세 추정 방법 및 기록 매체에 저장된 컴퓨터 프로그램 | |
JP2015014672A (ja) | カメラ制御装置、カメラシステム、カメラ制御方法、及びプログラム | |
JP5387341B2 (ja) | 撮像装置 | |
US20230333401A1 (en) | Lens device, imaging apparatus, operation method of lens device, operation method of imaging apparatus, and program | |
JP5393877B2 (ja) | 撮像装置および集積回路 | |
JP2022093913A (ja) | 撮像制御装置、撮像制御方法およびプログラム | |
JP7442989B2 (ja) | 撮像装置、該撮像装置の制御方法、及びプログラム | |
US11838645B2 (en) | Image capturing control apparatus, image capturing control method, and storage medium | |
US11917297B2 (en) | Imaging support device, imaging apparatus, imaging system, imaging support system, imaging support method, and program | |
JP2022154347A (ja) | 撮像制御装置、撮像制御方法およびプログラム | |
JP2023067250A (ja) | 制御装置、制御方法、プログラム及び記憶媒体 |