JP2023080960A - 撮像装置、制御方法、プログラム及び記憶媒体 - Google Patents
撮像装置、制御方法、プログラム及び記憶媒体 Download PDFInfo
- Publication number
- JP2023080960A JP2023080960A JP2021194555A JP2021194555A JP2023080960A JP 2023080960 A JP2023080960 A JP 2023080960A JP 2021194555 A JP2021194555 A JP 2021194555A JP 2021194555 A JP2021194555 A JP 2021194555A JP 2023080960 A JP2023080960 A JP 2023080960A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- image
- unit
- distortion
- optical system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 166
- 238000000034 method Methods 0.000 title claims description 27
- 230000003287 optical effect Effects 0.000 claims abstract description 54
- 230000008859 change Effects 0.000 claims description 18
- 238000010586 diagram Methods 0.000 description 15
- 230000010365 information processing Effects 0.000 description 11
- 230000006870 function Effects 0.000 description 8
- 230000007704 transition Effects 0.000 description 6
- 230000004075 alteration Effects 0.000 description 5
- 230000035945 sensitivity Effects 0.000 description 4
- 230000003321 amplification Effects 0.000 description 3
- 238000003199 nucleic acid amplification method Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 241000226585 Antennaria plantaginifolia Species 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Landscapes
- Exposure Control For Cameras (AREA)
- Studio Devices (AREA)
Abstract
Description
撮像装置、制御方法、プログラム及び記憶媒体に関する。
特許文献1には、画素又は画素グループ毎に露光条件を設定可能なイメージセンサにおいて、画像内の(水平ラインを1つの画素グループとして)水平ライン毎に露光条件を決定する技術が開示されている。
本発明が解決しようとする課題は、魚眼レンズのように像が歪む光学特性を有する撮像光学系によって歪んだ被写体の像を上記イメージセンサが撮像する場合において、被写体の視認性を向上させることである。
上記課題を解決するために、本発明の一態様に係る撮像装置は、撮像光学系による被写体の像を撮像する撮像部であって、撮像面上の複数の画素からなる画素グループ毎に露光パラメータを設定可能な撮像部と、前記撮像光学系による像の歪みに関する情報である歪情報を取得する取得部と、前記取得部が取得した前記歪情報に基づいて、前記画素グループ毎の大きさまたは形状を決定する決定部と、を有する。
本発明によれば、歪曲率を有する撮像光学系によって結像した像を上記イメージセンサ撮像する場合に、適切な画素グループの形状又はサイズを設定することができる。
以下、添付図面を参照して、本発明を実施するための形態について詳細に説明する。以下に説明する実施形態は、本発明の実現手段としての一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施形態に限定されるものではない。また、後述する各実施形態の一部を適宜組み合わせて構成してもよい。
<実施形態1>
(システム構成)
図1は本実施形態に係る撮像システムの構成の一例を示す図である。撮像システム100は撮像装置101、ネットワーク102、情報処理装置103、表示装置104及び入力装置105を有する。
(システム構成)
図1は本実施形態に係る撮像システムの構成の一例を示す図である。撮像システム100は撮像装置101、ネットワーク102、情報処理装置103、表示装置104及び入力装置105を有する。
撮像装置101は情報処理装置103とネットワーク102を介して通信可能である。撮像装置101は被写体を撮像して画像データを生成し、ネットワーク102を介して情報処理装置103へと画像データを送信する。
情報処理装置103には表示装置104及び入力装置105が接続されており、撮像装置101から受信した画像データは情報処理装置103を介して表示装置104へと出力され、撮像装置101が撮像した画像が表示装置104の表示部に表示される。また、入力装置105はキーボードやマウス等であり、情報処理装置103あるいは撮像装置101の操作情報を入力するためのインターフェースである。操作情報とは、例えば撮像装置101の撮像条件の指示やPTZ(Pan Tilt Zoom)の操作の指示などを含む。
本実施形態では、情報処理装置103、表示装置104及び入力装置105が別体としているが、タッチパネルディスプレイを有するノートPCのように情報処理装置103、表示装置104及び入力装置105が一体となった構成でもよい。また、ネットワーク102を介して接続されている必要はなく、監視カメラ101と情報処理装置103が直接接続される構成でもよい。さらに言えば、タッチパネルディスプレイを有するコンシューマカメラのように撮像装置101、情報処理装置103、表示装置104及び入力装置105の全てが一体となった構成でもよい。
(装置構成)
図2は本実施形態に係る撮像装置の構成の一例を示す図である。撮像装置101は、撮像部201、エンコーダ202、ネットワークI/F203、CPU(Central Processing Unit)204、RAM(Random Access Memory)205及びROM(Read Only Memory)206を有する。
図2は本実施形態に係る撮像装置の構成の一例を示す図である。撮像装置101は、撮像部201、エンコーダ202、ネットワークI/F203、CPU(Central Processing Unit)204、RAM(Random Access Memory)205及びROM(Read Only Memory)206を有する。
撮像光学系200は被写体からの光を撮像素子201の撮像面に集光するレンズであり、例えばズームレンズ、フォーカルレンズ及びぶれ補正レンズ等で構成される。本実施形態において、撮像光学系200は撮像装置101と別体であり、着脱可能に設けられている。一方で、撮像光学系200と撮像装置101とが一体となった構成でもよい。また、本実施形態では、撮像光学系200は魚眼レンズのように中心射影方式でない射影方式を採用したレンズを前提とし、射影方式によって意図的に歪ませた像を撮像部201の撮像面へと導くものとする。しかしながら、本発明は、本実施形態に限定されるものではなく、そのほかの要因で像が歪んでいるようなケースにおいて適用可能である。
撮像部201は撮像光学系200による被写体の像を撮像し、画像を生成する。撮像部201は、撮像素子201a、増幅器201b及び画像処理部201cを有している。
撮像素子201aは撮像光学系200によって撮像面に集光された被写体からの光を画素毎に電気信号に変換して出力する。撮像素子201aは、CCD(Charge Coupled Device)センサ又はCMOS(Complementary Metal Oxide Semiconductor)センサなどの光電変換素子からなる画素がマトリクス状に配列されたICチップである。また、撮像面上の複数の画素(例えば、128×128の画素群)からなる画素グループを1単位として、画素グループ毎に露光パラメータを設定可能である。ここで露光パラメータとは、露光時間やアナログゲインなどの露光に関するパラメータであり、本実施形態においては、撮像素子201aの画素グループ毎に異なる露光時間(電荷蓄積時間)を設定可能である。
増幅器201bは、撮像素子201aから出力された電気信号を増幅して出力する。増幅器201bは画素毎に設けられる増幅回路(アンプ)であり、光電変換した信号電荷を増幅してから電気信号として出力する。また、増幅器201bの増幅率(アナログゲイン)は露光パラメータに含まれ、画素グループ毎に異なるアナログゲインで信号電荷を増幅させることができる。本実施形態において、撮像素子201aと201bとを別体として記載しているが、撮像素子201aと増幅器201bとは一体であってもよい。
画像処理部201cは、増幅器201bから出力されたアナログ信号である電気信号をデジタル信号へとA/D変換を行い、デモザイキング処理、ホワイトバランス処理、ガンマ処理などを含む画像処理を行って、電子画像を生成する。画像処理部201cは、A/D変換されたデジタル信号を画素または画素グループ毎に増幅・減退させることで、画像の明るさ補正を行う。なお、その増幅率(デジタルゲイン)も露光パラメータに含まれる。また、画像処理部201cは、撮像光学系200によって歪んだ画像を補正する役割を果たす。
エンコーダ202は、撮像部201から出力された画像のデータを、Motiоn JpegやH264、H265などの所定のファイルフォーマットに符号化処理を行う。
ネットワークI/F203は、エンコーダ202から符号化処理されたデータを、ネットワーク102を介して情報処理装置103へと送信する。なお、符号化処理されたデータは撮像装置101内の記憶装置(例えばRAM205やROM206)や、SDカードのような着脱可能な記憶媒体に記憶されてもよい。また、画像処理部201cで出力された後に送信/記憶されてもよく、その場合、画像データは符号化前のRAW(Read After Write)データが保存される。
CPU204は監視カメラ101を統括制御する中央処理装置である。
RAM205はCPU204実行するコンピュータプログラムを一時的に記憶する。また、RAM205はCPU204が処理を実行する際に用いるワークエリアを提供する。またRAM205は、フレームメモリとして機能したり、バッファメモリとして機能したりする。
ROM206は、CPU204が監視カメラ101を制御するためのプログラムなどを記憶する。
(機能構成)
図3は、本実施形態に係る撮像装置の機能の構成の一例を示す図である。図3に示す各機能ブロックのうち、ソフトウェアにより実現される機能については、各機能ブロックの機能提供するためのプログラムがROM206等のメモリに記憶される。そして、そのプログラムをRAM205に読み出してCPU204が実行することにより実現される。ハードウェアにより実現される機能については、例えば、所定のコンパイラを用いることで、各機能ブロックの機能を実現するためのプログラムからFPGA上に自動的に専用回路を生成すればよい。FPGAとは、Field Programmable Gate Arrayの略である。また、FPGAと同様にしてゲートアレイ回路を形成し、ハードウェアとして実現するようにしてもよい。また、ASIC(Application Specific Integrated Circuit)により実現するようにしてもよい。なお、図1に示した機能ブロックの構成は一例であり、複数の機能ブロックが1つの機能ブロックを構成するようにしてもよいし、いずれかの機能ブロックが複数の機能を行うブロックに分かれてもよい。
図3は、本実施形態に係る撮像装置の機能の構成の一例を示す図である。図3に示す各機能ブロックのうち、ソフトウェアにより実現される機能については、各機能ブロックの機能提供するためのプログラムがROM206等のメモリに記憶される。そして、そのプログラムをRAM205に読み出してCPU204が実行することにより実現される。ハードウェアにより実現される機能については、例えば、所定のコンパイラを用いることで、各機能ブロックの機能を実現するためのプログラムからFPGA上に自動的に専用回路を生成すればよい。FPGAとは、Field Programmable Gate Arrayの略である。また、FPGAと同様にしてゲートアレイ回路を形成し、ハードウェアとして実現するようにしてもよい。また、ASIC(Application Specific Integrated Circuit)により実現するようにしてもよい。なお、図1に示した機能ブロックの構成は一例であり、複数の機能ブロックが1つの機能ブロックを構成するようにしてもよいし、いずれかの機能ブロックが複数の機能を行うブロックに分かれてもよい。
撮像装置101は、撮像部201、取得部301、決定部302および制御部303を有する。
撮像部201は、撮像光学系200による被写体の像を撮像する。また、撮像面上の複数の画素からなる画素グループ毎に露光パラメータを設定可能な撮像部である。露光パラメータは露光時間、アナログゲイン、デジタルゲイン及び露出値の少なくとも1つを含む露光に関するパラメータである。また、撮像部201に設定可能な画素グループの数には上限と下限を設定することができる。
取得部301は、撮像光学系200による像の歪みに関する情報である歪情報を取得する。本実施形態において、歪情報は、撮像光学系200による像の歪みをモデル化した際の歪係数や画像処理部201cによって、像の歪みを補正する際に用いられる補正係数のうち少なくとも1つを含む。例えば、撮像光学系200のレンズ半径方向の歪みモデルにおいて、画像平面上の点(x、y)における半径方向の歪みによる移動量dx、dyは以下の式で表される。
dx = (k1r2 + k2r2 + k3r2)x (1)
dy = (k1r2 + k2r2 + k3r2)y (2)
ここで、rは撮像光学系200の光軸から:(x、y)までの距離、k1、k2、k3は半径方向の歪係数である。本実施形態では、このような歪係数を歪情報として用いる。歪情報は、撮像光学系200から取得してもよいし、不図示の記憶部に記憶された歪情報を参照して取得してもよい。さらに、取得部301は、撮像部に設定されている画素グループの数の上限と下限との少なくとも1つを取得する。
dx = (k1r2 + k2r2 + k3r2)x (1)
dy = (k1r2 + k2r2 + k3r2)y (2)
ここで、rは撮像光学系200の光軸から:(x、y)までの距離、k1、k2、k3は半径方向の歪係数である。本実施形態では、このような歪係数を歪情報として用いる。歪情報は、撮像光学系200から取得してもよいし、不図示の記憶部に記憶された歪情報を参照して取得してもよい。さらに、取得部301は、撮像部に設定されている画素グループの数の上限と下限との少なくとも1つを取得する。
決定部302は、取得部301が取得した歪情報と、画素グループの数の上限と下限との少なくとも1つと、に基づいて、撮像部201の画素グループ毎の大きさまたは形状を決定する。具体的に、どのような形状または大きさとするかは後述する。
制御部303は、決定部302が決定した各画素グループにそれぞれ適用される露光パラメータを制御する。より具体的には、各画素グループから出力される輝度に基づいて、露光パラメータを算出して制御する。
(動作説明)
図4、図5および図6を用いて、本実施形態に係る撮像装置の動作を説明する。図4は、本実施形態に係る撮像装置の撮像部における撮像面の一例を模式的に表した図である。図4(a)と図4(b)とは、決定部302によって画素グループの大きさと形状とが決定する前と決定した後との撮像面をそれぞれ示している。撮像面401上の格子線は撮像部の各画素グループの境界線を示しており、画素グループ402は複数の画素から構成され、画素グループの1つで、斜線で示されている。本実施形態では、歪情報は撮像光学系200による像の歪みをモデル化した際の歪係数である。従って、画素グループを画像平面上の点(x,y)とすると、式(1)および式(2)により像の歪みによる画素の移動量が得られるため、図4(b)のような歪情報に基づいて、画素グループの大きさと形状とを決定することができる。
図4、図5および図6を用いて、本実施形態に係る撮像装置の動作を説明する。図4は、本実施形態に係る撮像装置の撮像部における撮像面の一例を模式的に表した図である。図4(a)と図4(b)とは、決定部302によって画素グループの大きさと形状とが決定する前と決定した後との撮像面をそれぞれ示している。撮像面401上の格子線は撮像部の各画素グループの境界線を示しており、画素グループ402は複数の画素から構成され、画素グループの1つで、斜線で示されている。本実施形態では、歪情報は撮像光学系200による像の歪みをモデル化した際の歪係数である。従って、画素グループを画像平面上の点(x,y)とすると、式(1)および式(2)により像の歪みによる画素の移動量が得られるため、図4(b)のような歪情報に基づいて、画素グループの大きさと形状とを決定することができる。
図5は本実施形態に係る撮像装置が撮像した画像の一例を示す図である。図5(a)と図5(b)とは、決定部302によって画素グループの大きさと形状とが決定する前と決定した後との撮像される画像を示している。画像501および画像505上の格子線は撮像部の各画素グループに対応する画像領域を示している。この格子線は画像に表示されてもよいし、表示されなくてもよい。画像領域502と画像領域506とは撮像面上の画素グループに対応する画像領域の1つを示している。また、被写体503と被写体504とは実空間上では同じ大きさである。本実施形態では、魚眼レンズのように意図的に像を歪ませる射影方式によって、被写体の像の大きさが異なるように見えている。したがって、中心射影方式によって撮像された場合には、同じ大きさの被写体の像が撮像される。
図6は、本実施形態に係る撮像装置の動作の一例を示すフローチャートである。本フローチャートに示す動作は、RAM205やROM206のような記憶媒体に記憶されたプログラムをCPU204が読み出すことによって開始される。
ステップS601では、取得部301が、撮像光学系200の歪情報と画素グループの数の上限と下限とを取得する。画素グループの数の上限はユーザまたは設計者によって自由に設定・変更が可能である。本実施形態では、歪情報として撮像光学系200による被写体の像の歪み(光学特性)をモデル化し、その歪係数を取得する。画像処理部201cが被写体の像の歪みを補正する歪曲補正を行う場合は、歪曲補正における座標変換の変換行列から補正係数を歪情報として取得してもよい。また、取得部301は、歪曲補正前後の画像を比較し、画像内の被写体の像高の変化から、画像内の各位置における像高の変化率を歪情報と算出して取得し得る。なお、本実施形態では歪の形状を樽型歪曲としているが、糸巻型歪曲など、撮像光学系200の光学特性により生じる像の歪みであればどのような形状でもよい。歪情報が撮像面全体に対して得られない場合、歪情報を得られた位置間で、線形あるいは非線形で補完処理を行ってもよい。例えば、歪曲補正前後の画像を比較し、画像内の物体の像高変化を得る場合、歪情報を得られた位置間で補完処理を行うことで、画素グループの大きさの分布を算出することができる。これにより、1つの画素グループの大きさを指定することで、算出した画素グループの大きさの分布を用いて、撮像面全体の画素グループを作成することが可能である。
ステップS602では、決定部302が、取得部301が取得した歪情報と画素グループの数の上限と下限とに基づいて、画素グループの形状と大きさとを決定する。図5(a)と図5(b)において、被写体503と被写体504とに対応する画素グループの数を比較する。図5(a)では、被写体503に対応する画素グループの数が被写体504に対応する画素グループの数よりも多い。すなわち被写体に割り当てられている画素グループの数が、画像内の画素位置によって異なることがわかる。これに対し、図5(b)では、被写体503と被写体504に割り当てられている画素グループの数が同じになっている。このように、撮像光学系200の歪情報に基づいて、画素グループの数、形状および大きさを変更する。なお、歪情報として画像平面内の各位置における像高の変化率が取得された場合には、画素グループの大きさのみについて変形させてもよい。加えて、歪情報を乗算後の画素グループに、撮像領域に応じて切り出しを行う場合、歪情報を反映後の画素グループを拡大・縮小して切り出してもよい。また、撮像素子は縦、横のアレイ上に構成されているため、画素グループの形状をアレイ形状に合わせた長方形とすることで、処理がしやすくなる。このように、歪情報に基づいて、画素グループの数、形状および大きさの少なくとも1つを決定部302が決定する。
撮像領域の端にある画素を含む画素グループにおいては、画素が足りずに歪情報を反映できない場合がある。このとき、撮像領域を境界として画素グループを切り出す。このときの被写体に対する画素グループの比率を算出する場合は、撮像領域の外に十分な仮想的な画素を用意して、仮想的な画素を含めて画素グループの面積を決定部302が算出して決定する。
図5(a)と図5(b)の画素グループの数が異なっているが、取得部301が取得した画素グループの上限および下限の範囲内であれば一致させなくてもよい。また、上限、下限を超えない範囲で、歪情報が反映された画素グループを結合および分裂して画素グループの大きさおよび形状を変更することや、隣接する画素グループ同士で画素の再分配を行って画素グループの大きさおよび形状を変更することが可能である。
ステップS603では、決定部302が決定した画素グループ毎に制御部303が露光パラメータを制御する。例えば、各画素グループの輝度の平均値、あるいは輝度の分布に基づいて、各画素グループに適用する露光パラメータを算出して制御する。
ステップS604では、制御部303が制御した画素グループ毎の露光パラメータを撮像部201に適用して撮像部201が撮像する。
本実施形態に係る撮像装置によれば、被写体の像が歪む光学特性を有する撮像光学系による被写体の像を撮像する場合であっても、適切な画素グループの数、形状およびサイズを設定することができるため、被写体の像の視認性を向上させることができる。
<実施形態2>
実施形態1では、同一の露光パラメータを設定する画素グループの形状を決定する場合について述べた。本実施形態では、画像領域毎に動体検知における動体と判定する閾値を変更する場合について述べる。本実施形態に係る撮像装置の装置構成は実施形態1と同様であるため、説明は省略する。
実施形態1では、同一の露光パラメータを設定する画素グループの形状を決定する場合について述べた。本実施形態では、画像領域毎に動体検知における動体と判定する閾値を変更する場合について述べる。本実施形態に係る撮像装置の装置構成は実施形態1と同様であるため、説明は省略する。
(機能構成)
本実施形態に係る撮像装置の機能構成は実施形態1の構成に加え、判定部701を更に有する構成である。
本実施形態に係る撮像装置の機能構成は実施形態1の構成に加え、判定部701を更に有する構成である。
決定部302は、歪情報に基づいて、撮像部201が撮像した画像の閾値領域の数、大きさおよび形状と動体と判定する所定の閾値を決定する。動体と判定する閾値は、移動体により輝度変化が生じた領域の画素数とする。魚眼レンズでは、被写体は、画像の端部から中央に向かい引き延ばされて撮像される。すなわち、歪曲収差がないレンズで、異なる二つの被写体が、画像内における大きさおよびフレーム間の遷移量が同一となる条件で撮影した場合に対し、歪曲収差があるレンズでは被写体の画素位置によって画像内の大きさおよび遷移量が異なる。画像中央では大きく撮影され、画像端部では小さく撮影される。被写体が大きく撮影される領域では、輝度変化する画素が多くなり、感度が高くなる。小さく撮影される領域では輝度変化する画素が少なくなり、感度が低くなる。同様に中央では大きく遷移し、端部では小さく遷移する。大きく遷移する領域では、輝度変化する画素が多くなり、感度が高くなる。小さく遷移する領域では、輝度変化する画素が少なくなり、感度が低くなる。したがって、魚眼レンズで撮像された画像を用いて動体検知をする場合、動体と判定する閾値を撮像領域一律の値に設定すると、画像の中央では、背景の微小な変化を動体と誤認識する可能性あり、画像の端部では、動体が検知されない可能性がある。したがって本実施形態では、歪曲収差が生じるレンズで画素位置に依らない認識精度を得るために、動体と判定する閾値を、歪情報に基づいて決定する。
判定部701は、決定部302で決定した動体と判定する所定の閾値に基づいて、撮像部201が撮像した画像に動体が存在するかを判定する。判定部701の判定方法について説明する。連続する同一画角の画像の差分を取り、差分画像を得る。差分画像では、2フレーム間での各画素における輝度変化が得られる。画素または画素グループごとに、輝度閾値以上で輝度変化あり、それ以外で輝度変化なしとする閾値処理を施し、二値化する。輝度閾値が設定されることにより、画素の微小変化が、動体と誤検知されることを防ぐことができる。二値化した差分画像において、所定の領域毎に輝度変化ありとされた画素数が、決定部302が決定した所定の閾値以上であれば、その領域にある被写体を動体と判定する。また、輝度変化ありとされた領域における画素数が、所定の閾値以下であれば、その領域にある被写体を動体と判定しない。所定の閾値を動体閾値と呼称する。また、同一の動体閾値を設定する所定の領域を閾値領域と呼称する。
(動作説明)
図8および図9を参照して、本実施形態に係る撮像装置の動体検知における閾値領域および動体閾値の設定方法を説明する。
図8および図9を参照して、本実施形態に係る撮像装置の動体検知における閾値領域および動体閾値の設定方法を説明する。
図8は動体が存在する場合の、連続する同一画角の画像を重ねて表示した模式図である。図8(a)は、中心射影方式の光学特性のレンズによる被写体の像を撮像した画像に、一律の大きさに設定された閾値領域を重ねて表示した模式図である。図8(b)は、撮像光学系200による被写体の像を撮像した画像に、歪情報が反映された閾値領域を重ねて表示した模式図である。撮像領域801、撮像領域806は、撮像面全体を指している。格子線は、閾値領域の境界を示している。被写体802、804、807および809は移動前の被写体である。被写体803、805、808および810は移動後の被写体である。被写体808と被写体810は、中心射影方式の光学特性のレンズで撮像された場合、画像上で同一の大きさとなる。しかし、被写体808と被写体810は、撮像光学系200の光学特性による像の歪みによって画像上で異なる大きさとなっている。
図9は、図8の連続する同一画角の画像から求めた二値化画像である。図8と同様に、閾値領域を重ねて表示している。撮像領域801および撮像領域806内の、黒い部分は輝度変化があった部分、白い部分は輝度変化がなかった部分である。輝度変化の有無は輝度閾値を基に判定される。領域901~904は、被写体803と805および被写体808と被写体810の移動により生じた輝度変化を表した領域を示している。領域910~904が含む画素数が、決定部302が決定した所定の閾値以上であれば動体と判定する。被写体808と被写体810が、撮像光学系200による像の歪により画像上で異なる大きさとなっているため、領域903と領域904は異なる大きさとなっている。
図10は、本実施形態に係る撮像装置の動作の一例を示すフローチャートである。本フローチャートに示す動作は、RAM205やROM206のような記憶媒体に記憶されたプログラムをCPU204が読み出すことによって開始される。
ステップS1001では、撮像光学系200の歪情報と閾値領域の画素数の上限を取得部301が取得する。
ステップS1002では、取得部301が取得した歪情報と閾値領域の画素数の上限に基づいて、閾値領域の画素数、大きさ、形状のうち少なくとも1つを決定部302が決定する。
ステップS1003では、決定部302が、各閾値領域の動体閾値を決定する。動体閾値は、各閾値領域の画素数に基づいて決定される。例えば、領域903に対応する閾値領域に含まれる画素数が100個、領域904に対応する閾値領域に含まれる画素数が500個であった場合を考える。この場合、領域903に対応する閾値領域の動体閾値は、領域904に対応する閾値領域の5倍になる。動体閾値を閾値領域に含まれる画素数の比率にすることで、画像中央では画素数が多く、画像端部では画素数が少なくなる。
ステップS1004では、決定部302によって決定された閾値領域毎に判定部701が動体判定を行う。
本実施形態に係る撮像装置によれば、撮影領域のどこに移動体がいたとしても、画素位置ごとに動体閾値が適正化される。すなわち、歪曲収差が生じるレンズを用いた場合でも、画像内の画素位置に依らず動体の判定することが可能となる。
動体判定の方法として、連続する同一画角の画像の輝度変化から動体を判定する方法を述べた。この手法は動体と判定する閾値を、移動体により輝度変化が生じた領域の画素数としているため、人や車など、ある程度の大きさ以上の被写体を判定する場合に有効である。また、他の手法として、オプティカルフローを算出する方法もある。オプティカルフローでは、被写体の動きベクトルが算出され、オプティカルフローを用いた動体判定では、動きベクトルの大きさが一定値以上で動体と判定する。動体と判定する閾値が動きベクトルの大きさであるため、被写体の大きさによらず、被写体の移動量により移動体を判定する。歪曲収差が大きいレンズでオプティカルフローを用いた動体判定をする場合には、動体閾値に歪曲収差の情報を反映することで、被写体の移動量の観点で撮像面全体において等しい判定基準により動体判定を行うことができる。
また、複数の動体を判定するために、領域同士の画素位置が座標閾値よりも小さい(近い)場合には、同一の領域であるとして、動体閾値と画素数と比較する。逆に、領域同士の画素位置が座標閾値よりも大きい(遠い)場合には、異なる被写体としてそれぞれ動体閾値の画素数と比較する。
<その他の実施形態>
本発明は、上述の実施形態1の1以上の機能を実現するプログラムを読み出し実行する処理によって実現可能である。このプログラムは、ネットワークまたは記憶媒体を介してシステム又は装置に供給され、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサによって読み出され、実行される。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態1の1以上の機能を実現するプログラムを読み出し実行する処理によって実現可能である。このプログラムは、ネットワークまたは記憶媒体を介してシステム又は装置に供給され、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサによって読み出され、実行される。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
101 撮像装置
200 撮像光学系
201 撮像部
301 取得部
302 決定部
303 制御部
200 撮像光学系
201 撮像部
301 取得部
302 決定部
303 制御部
Claims (19)
- 撮像光学系による被写体の像を撮像する撮像部であって、撮像面上の複数の画素からなる画素グループ毎に露光パラメータを設定可能な撮像部と、
前記撮像光学系による像の歪みに関する情報である歪情報を取得する取得部と、
前記取得部が取得した前記歪情報に基づいて、前記画素グループの数、大きさおよび形状のうち少なくとも1つを決定する決定部と、
を有する撮像装置。 - 前記撮像光学系による像の歪みを補正する処理を行う画像処理部を更に有し、
前記歪情報は、前記撮像光学系の歪係数、前記画像処理部の補正係数および前記撮像光学系による像高の変化率のうち少なくとも1つを含む、
ことを特徴とする請求項1に記載の撮像装置。 - 前記決定部が決定した前記画素グループ毎に露光パラメータを制御する制御部を更に有する、
ことを特徴とする請求項1または2に記載の撮像装置。 - 前記取得部は、前記画素グループの数の上限と下限とを更に取得し、
前記決定部は、前記取得部が取得した前記歪情報と、前記上限と下限とのうち少なくとも1つと、に基づいて、前記画素グループの数、大きさおよび形状のうち少なくとも1つを決定する、
ことを特徴とする請求項1から3のいずれか1項に記載の撮像装置。 - 前記取得部は、前記歪情報を記憶した記憶部から前記歪情報を取得する、
ことを特徴とする請求項1から4のいずれか1項に記載の撮像装置。 - 前記記憶部を有することを特徴とする請求項1から5のいずれか1項に記載の撮像装置。
- 前記露光パラメータは、露光時間、アナログゲイン、デジタルゲインおよび露出値のうち少なくとも1つを含むことを特徴とする請求項1から6のいずれか1項に記載の撮像装置。
- 前記撮像部が撮像した画像における所定の領域に動体が存在するかを所定の閾値に基づいて判定する判定部を更に有し、
前記決定部は、前記所定の領域の数、大きさおよび形状のうち少なくとも1つを決定する、
ことを特徴とする請求項1から7のいずれか1項に記載の撮像装置。 - 前記決定部は、前記所定の領域に含まれる画素数に基づいて、前記所定の閾値を決定する、
ことを特徴とする請求項1から8のいずれか1項に記載の撮像装置。 - 撮像部の撮像面上の複数の画素からなる画素グループ毎に露光パラメータを設定可能な撮像装置の制御方法であって、
撮像光学系による被写体の像を撮像する撮像工程と、
前記撮像光学系による像の歪みに関する情報である歪情報を取得する取得工程と、
前記取得工程で取得した前記歪情報に基づいて、前記画素グループの数、大きさおよび形状のうち少なくとも1つを決定する決定工程と、
を有する撮像装置の制御方法。 - 前記撮像光学系による像の歪みを補正する処理を行う画像処理工程を更に有し、
前記歪情報は、前記撮像光学系の歪係数、前記画像処理工程における補正係数および前記撮像光学系による像高の変化率のうち少なくとも1つを含む、
ことを特徴とする請求項10に記載の撮像装置の制御方法。 - 前記決定工程で決定した前記画素グループ毎に露光パラメータを制御する制御工程を更に有する、
ことを特徴とする請求項10または11に記載の撮像装置の制御方法。 - 前記取得工程では、前記画素グループの数の上限と下限とを更に取得し、
前記決定工程では、前記取得工程で取得した前記歪情報と、前記上限と下限とのうち少なくとも1つと、に基づいて、前記画素グループの数、大きさおよび形状のうち少なくとも1つを決定する、
ことを特徴とする請求項10から12のいずれか1項に記載の撮像装置の制御方法。 - 前記取得工程では、前記歪情報を記憶した記憶部から前記歪情報を取得する、
ことを特徴とする請求項10から13のいずれか1項に記載の撮像装置の制御方法。 - 前記露光パラメータは、露光時間、アナログゲイン、デジタルゲインおよび露出値のうち少なくとも1つを含むことを特徴とする請求項10から14のいずれか1項に記載の撮像装置の制御方法。
- 前記撮像工程が撮像した画像における所定の領域に動体が存在するかを所定の閾値に基づいて判定する判定工程を更に有し、
前記決定工程は、前記所定の領域の数、大きさおよび形状のうち少なくとも1つを決定する、
ことを特徴とする請求項10から15のいずれか1項に記載の撮像装置の制御方法。 - 前記決定工程は、前記所定の領域に含まれる画素数に基づいて、前記所定の閾値を決定する、
ことを特徴とする請求項10から16のいずれか1項に記載の撮像装置の制御方法。 - 請求項10から17のいずれか1項に記載の撮像装置の制御方法をコンピュータに実行させるためのプログラム。
- 請求項18に記載のプログラムを記憶したコンピュータ読み取り可能な記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021194555A JP2023080960A (ja) | 2021-11-30 | 2021-11-30 | 撮像装置、制御方法、プログラム及び記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021194555A JP2023080960A (ja) | 2021-11-30 | 2021-11-30 | 撮像装置、制御方法、プログラム及び記憶媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023080960A true JP2023080960A (ja) | 2023-06-09 |
Family
ID=86656288
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021194555A Pending JP2023080960A (ja) | 2021-11-30 | 2021-11-30 | 撮像装置、制御方法、プログラム及び記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023080960A (ja) |
-
2021
- 2021-11-30 JP JP2021194555A patent/JP2023080960A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8442347B2 (en) | Information processing apparatus, information processing method, program, and imaging apparatus including optical microscope | |
KR101441786B1 (ko) | 피사체 판정 장치, 피사체 판정 방법, 및 기록 매체 | |
JP2010045770A (ja) | 画像処理装置及び画像処理方法 | |
JP2006295626A (ja) | 魚眼像処理装置及びその方法並びに魚眼像撮像装置 | |
JP5882789B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
US8295609B2 (en) | Image processing apparatus, image processing method and computer readable-medium | |
CN102542251B (zh) | 被摄体检测装置以及被摄体检测方法 | |
US20110235866A1 (en) | Motion detection apparatus and method | |
JP6353233B2 (ja) | 画像処理装置、撮像装置、及び画像処理方法 | |
JP2007184720A (ja) | 画像撮影装置 | |
KR101599885B1 (ko) | 디지털 촬영 장치 및 촬영 방법 | |
JP6153318B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP2023080960A (ja) | 撮像装置、制御方法、プログラム及び記憶媒体 | |
JP5754931B2 (ja) | 画像解析装置、画像解析方法及びプログラム | |
JP6105960B2 (ja) | 画像処理装置、画像処理方法、および撮像装置 | |
JP2018160024A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5526984B2 (ja) | 画像処理装置、画像処理方法及び画像処理用コンピュータプログラムならびに撮像装置 | |
JP6556033B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6041523B2 (ja) | 画像処理装置及び方法 | |
JP5631181B2 (ja) | 画像処理装置及びその制御方法、及びプログラム | |
JP7458769B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体 | |
JP6314281B1 (ja) | 画像処理方法及び前景領域取得方法 | |
US20240031683A1 (en) | Image capturing apparatus, control method, and storage medium | |
JP5092958B2 (ja) | 画像処理装置、及び、プログラム | |
JP2023026185A (ja) | 撮像装置、制御方法、プログラム及び記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20231213 |