JP2022188990A - 情報処理装置、情報処理方法およびプログラム - Google Patents

情報処理装置、情報処理方法およびプログラム Download PDF

Info

Publication number
JP2022188990A
JP2022188990A JP2021097309A JP2021097309A JP2022188990A JP 2022188990 A JP2022188990 A JP 2022188990A JP 2021097309 A JP2021097309 A JP 2021097309A JP 2021097309 A JP2021097309 A JP 2021097309A JP 2022188990 A JP2022188990 A JP 2022188990A
Authority
JP
Japan
Prior art keywords
information processing
moving object
shape
processing apparatus
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021097309A
Other languages
English (en)
Inventor
祥子 内藤
Shoko Naito
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2021097309A priority Critical patent/JP2022188990A/ja
Priority to US17/835,826 priority patent/US11778341B2/en
Publication of JP2022188990A publication Critical patent/JP2022188990A/ja
Priority to US18/457,968 priority patent/US20230412937A1/en
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/443Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by reading pixels from selected 2D regions of the array, e.g. for windowing or digital zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】イベントベースセンサを用いた場合に、停止した被写体の外形を検出できる。【解決手段】 上記課題を解決する本発明にかかる情報処理装置は、輝度の変化が発生した画素の位置と時刻とを示すアドレスイベント信号に基づいて、撮影範囲における動体を検出する動き検出手段と、前記アドレスイベント信号に基づいて生成したフレーム画像から、前記動体の形状を検出する形状検出手段と、前記撮影範囲を変更させる制御手段と、を有し、前記形状検出手段は、前記動き検出手段で検出された動体が検出されなくなった場合に、前記制御手段によって前記撮影範囲を所定の値だけ変化させることにより、前記動体の形状を検出することを特徴とする。【選択図】 図1

Description

本発明は、イベントベースセンサを用いた被写体検知に関する。
画素ごとの輝度の変化をアドレスイベント信号としてリアルタイムに出力するイベントベースセンサが知られている(特許文献1参照)。
特開2020-72317号公報
本発明が解決しようとする課題は、イベントベースセンサを用いた場合に、停止した被写体の外形を検出することを目的とする。
上記課題を解決する本発明にかかる情報処理装置は、輝度の変化が発生した画素の位置と時刻とを示すアドレスイベント信号に基づいて、撮影範囲における動体を検出する動き検出手段と、前記アドレスイベント信号に基づいて生成したフレーム画像から、前記動体の形状を検出する形状検出手段と、前記撮影範囲を変更させる制御手段と、を有し、前記形状検出手段は、前記動き検出手段で検出された動体が検出されなくなった場合に、前記制御手段によって前記撮影範囲を所定の値だけ変化させることにより、前記動体の形状を検出することを特徴とする。
本発明によれば、イベントベースセンサを用いた場合に、停止した被写体の外形を検出できる。
情報処理装置のハードウェア構成例を示すブロック図 イベントベースセンサの構成例を示す図 情報処理装置の機能構成例を示すブロック図 被写体の検知方法を説明する模式図 情報処理装置が実行する処理を説明するフローチャート 情報処理装置が実行する処理を説明するフローチャート
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。なお、以下の実施形態に示す構成は一例にすぎず、本発明は図示された構成に限定されるものではない。
<実施形態1>
従来、垂直同期信号などの同期信号に同期して画像データ(フレーム)を撮像する同期型の光電変換素子が撮像装置などにおいて用いられている。この一般的な同期型の光電変換素子では、同期信号の周期(例えば、1/60秒)ごとにしか画像データを取得することができないため、高速な処理が要求された場合に対応することが困難になる。そこで、画素アドレスごとに、輝度の変化をアドレスイベントとしてリアルタイムに検出する非同期型の光電変換素子が提案されている(例えば特許文献1)。このような画素アドレスごとにイベントを検出する光電変換素子はDynamic Vision Sensor(DVS,以下イベントベースセンサ)と呼ばれている。このようなイベントベースセンサを用いた撮像装置は、被写体の動きを検出することが得意であるため、車両や人など様々な動体を監視する路上監視などに使用するユースケースが考えられる。
<撮像装置100のハードウェア構成:図1>
図1は、撮像装置(情報処理装置)100のハードウェア構成例を示す模式図である。なお、撮像装置100は具体的にはイベントベースセンサを有する撮像装置であるが、画像処理を行う機能と画像に対する解析処理(動き検出)を実行する機能は別々の装置が備えていても良い。撮像装置100は、撮像光学系1010と光電変換素子1011とから成る撮像部101、CPU102、メモリ103、表示部104、操作部105とを有する。光電変換素子1011は、受光した入射光に応じたアドレスイベント信号を出力するイベントベースセンサである。イベントベースセンサは、画素毎に輝度の変化をイベントとして検出し、アドレスイベント信号は、輝度の変化が発生した画素の位置と時刻とを示す。撮像光学系1010は、具体的には受光レンズであって、入射光を受光し、光電変換素子1011に結像する。CPU102は、メモリ103に格納されたOSやその他プログラムを読みだして実行し、接続された各構成を制御して、各種処理の演算や論理判断などを行う。CPU102が実行する処理には、本実施形態にかかる情報処理が含まれる。また、CPU102は、撮像光学系1010のフォーカスの駆動や絞りの駆動、光電変換素子1011の駆動等の制御を行う。メモリ103は、例えば、ハードディスクドライブや外部記憶装置などであり、実施形態の情報処理にかかるプログラムや各種データを記憶する。表示部104は、例えば、CPU102からの指示に従って情報処理装置100の演算結果等を表示する表示装置である。なお、表示装置は液晶表示装置やプロジェクタ、LEDインジケータなど、種類は問わない。操作部105は、例えば、タッチパネルやキーボード、マウス、ロボットコントローラーであり、ユーザーによる入力指示を受け付けるユーザーインターフェースである。なお、情報処理装置100は、ここに挙げたハードウェア構成以外の機構を有していてもよい。
<光電変換素子1011:図2>
本実施形態にかかる光電変換素子(イベントベースセンサ)の一例を説明する。イベントベースセンサは、入射した光子の数をカウントし、カウントした光子の数が所定の閾値を超えたタイミングを判定する。またイベントベースセンサは、画素毎に光子の数が第1の閾値以上になるまでの所要時間(クロック数)を計測しており、その所要時間を比較することによって輝度の変化を検出する。具体的には、前回計測された所要時間をT0、最新の所要時間をTとしたとき、差分T-T0が第2の閾値以上の場合は、マイナス方向の輝度の変化を検出する。差分T0-Tが第2の閾値以上の場合は、プラス方向の輝度の変化を検出する。そして、TとT0の差分が第2の閾値未満であれば輝度の変化を検出しない。なお、第2の閾値はゼロ以上の値で、予め設定された値や他のパラメータに応じて設定される値を用いる。
以下に、詳細な構成を説明する。図2(A)は、光電変換素子1011の構成例を示す図である。光電変換素子1011は、画素部110と周辺回路120から構成される。周辺回路120は、垂直調停回路121、水平読み出し回路122を備える。
図2(B)は、イベントベースセンサを構成する各画素部の構成例を示す図である。画素部110は、光電変換部111、画素カウンタ112、時間カウンタ113、第1の判定回路114、メモリ115、比較器116、第2の判定回路117、応答回路118、選択回路119を備える。光電変換部111は、ガイガーモードで動作するアバランシェフォトダイオード(SPAD)を備えており、光電変換部111に入射した光子の数を、画素カウンタ112でカウントするように構成される。時間カウンタ113では、光子が光電変換部111に入射した時間をカウントしている。SPADを用いてイベントベースセンサを構成することによって、光子1個レベルの輝度変化を検出することができる。光子1個レベルの輝度変化を検出することで、夜間などの暗視状態においても、アドレスイベント信号を取得することができる。
画素カウンタ112でカウントした光子の数が第1の閾値に達すると、第1の判定回路114によって、時間カウンタ113での時間のカウントを止める。メモリ115には、過去の時間カウンタ113のカウント値が記憶されており、比較器116を用いて、現在の時間カウンタ113のカウント値と、過去の時間カウンタ113のカウント値の差分のカウント値を求める。
第2の判定回路117は、差分のカウント値が第2の閾値以上の場合に、応答回路118を介して垂直調停回路121に、リクエスト信号を送る。応答回路118は、垂直調停回路121から、アドレスイベントデータの出力の許可または不許可を表す応答を受ける。差分のカウント値が第2の閾値未満の場合には、リクエスト信号を送付しない。
応答回路118が出力の許可を表す応答を受けると、選択回路119により時間カウンタ回路113のカウント値が、水平出力回路122に出力される。水平出力回路122は、受け取ったカウント値を出力信号として光電変換素子1011から検知部201に出力する。
比較器116によって算出された差分のカウント値は、光子の入射頻度の逆数に相当するため、本実施形態にかかる光電変換素子1011は、「光子の入射頻度の変化」、すなわち輝度の変化を計測する機能を有している。また、第2の判定回路117を用いて、入射した光子の数が第1の閾値に達した時間の間隔の差異が、第2の閾値以上の場合のみ、アドレスイベントを出力している。即ち、入射頻度の差異が第2の閾値以上の場合には入射頻度を出力し、差異が閾値未満の場合には入射頻度を出力しない、光電変換素子となっている。以上のような構成とすることで、画素アドレスごとに、輝度の変化をアドレスイベントとしてリアルタイムに検出する非同期型の光電変換素子が実現できる。
<光電変換素子のバリエーション>
以上では、光電変換部にSPADを用い、光子が入射した時間を計測することで、光子の入射頻度の変化を検出する光電変換素子を使用する場合を示した。しかし、輝度の変化をアドレスイベントとしてリアルタイムに検出する非同期型の光電変換素子であれば、図2の構成でなくてもよい。例えば、特許文献1に記載されているように、輝度の変化を電圧変化として検出する光電変換素子を使用してもよい。
<撮像装置100の機能構成例:図3>
図3は、撮像装置100の機能構成例を示す図である。撮像装置(情報処理装置)100は、撮像部101、画像取得部201、制御部202、動き検出部203、外形検出部204、通信部205、駆動部206、ネットワーク207、外部装置208を有する。
撮像部101は、撮像光学系1010と光電変換素子1011とを有し、撮像光学系1010を透過した光は個体撮像素子1011で結像して電気的な信号に変換され、画像取得部201によって画像信号として出力される。撮像部101は特にレンズ筐体を指す。撮像光学系1010は、複数のレンズや保持部材から構成され、絞り、ズーム、フォーカス制御のための機械的な構造を有し、不図示の撮像光学系制御部にて制御される構成を有してもよい。光電変換素子1011は、被写体の輝度値変化を画素毎に検出し、変化があった画素についてアドレスイベント信号を出力する。つまり、アドレスイベント信号は、画素ごとに単位時間当たりの輝度変化を検出するセンサによって出力され、輝度変化が検出されない場合には、アドレスイベント信号は出力されない、または、輝度変化がないことを示す。
画像取得部201は、アドレスイベント信号に基づいて、所定の期間において輝度の変化が発生した画素を示すフレームデータを取得する。すなわち、光電変換素子1011で変換された電気信号に対して補正処理や現像処理を行うことで、フレームデータに変換した画像信号を出力する。動き検出部203は、この画像信号により被写体が動いている状態から停止したことを検出する。被写体が動くと、まとまった領域に対して輝度値変化が生じるため、輝度値が変化した領域の面積に閾値を設け、領域の面積が閾値以上の場合は被写体が動いている状態であると判断し、その後閾値以下に遷移した場合に被写体が停止したと判断する。
制御部202は、被写体が停止したことを検出した場合、駆動部206に制御信号を送信し、その制御信号に応じて撮像装置100を一定周期の動きを行うように駆動させる。駆動部206は、撮像装置100の撮影方向を変更可能な少なくとも一軸の駆動機構を有する。駆動部206が駆動させる対象は撮像装置100に限らず、撮影方向を変更可能であるならば撮像部101を駆動させるなどしてもよい。外形検出部108は、画像取得部201で取得した画像信号に対して輝度値の変化を検出する既存のエッジ解析処理などによって画像信号から被写体の外形を抽出し、機械学習などの画像認識処理によって被写体を認識する。解析の際に使用する画像は、画像取得部201にてフレームデータに変換された積分画像乃至加算画像である。撮像装置100は、さらに、検出した形状に基づいて、被写体のクラスを認識する認識部を有していても良い。
通信部205は、画像取得部201から出力された画像信号を、ネットワーク207を介して外部装置208に送信する。また、外部装置205からの撮像装置100に対する各種パラメータを受信し、制御部202などに出力することも可能である。各種パラメータとは、駆動部206の制御信号や形状検出が完了したこと示す信号などである。
ネットワーク207は、Ethernet(登録商標)などの通信規格を満足するルータやケーブルなどから構成され、撮像装置100と外部装置207との接続が可能になる。
外部装置208はPCや携帯端末など表示部を持つ機器を指し、ネットワーク207を経由して撮像装置500と相互に通信が可能な状態にある。外部装置208は、画像取得部201によって出力された画像を表示できる。また、外部装置208は、ユーザーインターフェイスを持ち、ユーザーの操作に応じたコマンドを撮像装置100に送信し、撮像装置500を制御することができる。特に、表示画面上のユーザーインターフェイスを操作することで、被写体の外形が検出できなかったものに対して駆動部206の駆動の開始や停止を制御することができる。また、駆動部206の振幅や駆動速度を調整可能なユーザーインターフェイスを有してもよい。
<動き検出部203>
動き検出部203にて被写体の動きの有無を検出する方法について詳細に述べる。動き検出部203は、フレームデータに基づいて、輝度の変化が発生した画素の連結数を検出することによって、フレームデータにおける動体を検出する。
まず画像取得部によって取得されたフレームデータに含まれる画素の位置に基づいて動き情報に関する第一の閾値N1以上の連結数であるかどうかを比較する。アドレスイベント信号に基づいて検出された輝度の変化が発生した画素の集合(連結数)が動き情報に関する第一の閾値N1以上である場合にはノイズではない(フレームデータに動体が含まれる)と判断し、特徴点データとの照合処理へと進む。ここで連結数とは、同一タイムスタンプ(任意の期間としても良い)における画素出力を有する画素が二次元平面において結合(隣接)している個数を指す。
<具体例:図4>
図4は、実施形態1における被写体の検知方法を説明する模式図を示す。まず図4(a)を参照して、被写体401が停止した場合の出力について説明する。被写体401を撮影する撮像装置100の撮影方向を破線402で示す。フレームデータ403は、動き検出部203によって被写体が検出されていない場合に、画像取得部201で取得される画像信号のフレームデータを示す。光電変換素子1011は被写体の輝度値変化があった場合にのみ信号を出力するため、被写体が停止状態になった場合には、フレームデータ403のように被写体が検出されない。そこで図4(b)に示すように、駆動部206によって撮像装置100の撮影方向を402-1から402-3の方向に駆動を繰り返す。つまり、フレームデータ403-1、2、3に示すように撮影範囲を変化させ、停止した被写体が映るように強制的に輝度の変化を生じさせる。この制御によって停止中の被写体を検出することが可能となる。
被写体に対して駆動の振幅が小さすぎると輝度値変化が小さく、大きすぎると一方向への単調な輝度変化時間が長くなってしまうことで被写体の形状検出が困難になるため、駆動部206の振幅は被写体の大きさと同等程度となるように駆動することが望ましい。ここで、被写体の大きさとは、駆動部の軸方向に対する被写体の長さと定義し、被写体が停止する前、または停止後に駆動部206を駆動させてから、輝度値変化が発生した領域の軸方向の画素数によって求める。また、被写体の大きさを、面積として定義してもよい。振幅は、被写体の大きさに対してあらかじめ保持していた画素数の差分内あるいは被写体大きさに対する割合内で駆動するように制御することが好ましい。また、外形検出部204での演算処理を簡易化するために、駆動部206の駆動周期は一定であることが望ましい。
以下、駆動部206の駆動方法のバリエーションを記述する。
駆動部206の振幅は、被写体の大きさが大きい場合は小さい場合と比較して相対的に振幅を大きくしてもよい。駆動部206は駆動開始時点から徐々に振幅を大きくするように駆動させてもよい。こうすることで被写体が大きい場合でも、振幅を大きくすることで輝度変化を十分に生じさせることができるため、形状検出が容易になる。
撮像装置100は電子ズームあるいは光学ズームの機構を有していてもよく、ズーム倍率が高い場合はズーム倍率が低いときと比較して相対的に振幅を小さくしたり、駆動速度を遅くしたり、してもよい。ズーム倍率が高い場合に上記の処理を行うことで、被写体がフレームアウトしないように制御することができる。
図4(c)に示すように、駆動部206は、被写体401が画角の中心となるように、駆動軸402-3を中心として402-2から402-4の方向に駆動を繰り返すように制御してもよい。被写体を中心に駆動させることで、被写体がフレームアウトする可能性を軽減しつつ輝度変化を十分に生じさせることが可能であり、かつ被写体に対して周期的に駆動するため形状検出の演算が容易になる。
駆動部206は二軸の駆動機構を有すると好ましい。更に、一軸だと軸に対して垂直方向の被写体エッジが検出しにくいが、複数の方向に動かすことで被写体のすべてのエッジが検出しやすくなるため、駆動部を水平垂直方向に動かすことが好ましい。また、例えば水平方向への駆動時間が長いと垂直方向への駆動によって検出されるエッジの検出頻度が下がるため、水平垂直交互に動かすことが更に好ましい。駆動方向は水平垂直に限らず、斜め方向であってもよいし、回転するように動作させてもよい。
<フローチャート>
図5には実施形態1を実現するフローチャートの一例を示す。図5のフローチャートに示した処理は、コンピュータである図1のCPU101によりメモリ103に格納されているコンピュータプログラムに従って実行される。以下の説明では、各工程(ステップ)について先頭にSを付けて表記することで、工程(ステップ)の表記を省略する。
S501では、画像取得部201が、アドレスイベント信号に基づいて、フレームデータ(画像)を取得する。S502では、動き検出部203が、フレームデータに基づいて、被写体を検出する。被写体の検出は、上述した動き検出処理の方法を用いて、輝度の変化があった画素の連結数が所定閾値以上である場合に被写体を検出する。被写体が検出された場合はS503に進み、被写体が検出されない場合はS501に戻る。S503では、動き検出部503が、検出された被写体が停止したか否かを検出する。動体を検出したフレームデータより後に生成されたフレームデータに基づいて、輝度の変化があった画素の連結数が所定閾値未満である場合は、被写体が停止したと判断し、S504に進む。輝度の変化があった画素の連結数が所定閾値以上である場合に動きがある(停止していない)と判断し、S505に進む。S504では、駆動部206が、駆動を開始する。すなわち、制御部202が、駆動部206を所定の動きをするように制御する。S505では、外形検出部204が、フレームデータに基づいて、被写体の外形を検出する。被写体の外形が検出できた場合は、S506に進む。被写体の外形が検出されなかった場合は、再び被写体を検出するためにS503に戻る。S506では、制御部202の制御によって駆動部206が駆動を停止し、フローを終了する。
以上によって、イベントベースセンサを用いた撮像装置において、停止した被写体の外形を検出することができる。
<実施形態2>
実施形態2では、被写体が動作しているときから形状検出を開始し、被写体が停止した時点で被写体の外形が検出できなかったら駆動部206を駆動させる方法について説明する。
図6は、動作時に外形を検出できなった被写体が停止した際に駆動部206を駆動させるように制御する場合のフローチャートを示す。S601では、画像取得部201が、アドレスイベント信号に基づいて、フレームデータ(画像)を取得する。S602では、動き検出部203が、フレームデータに基づいて、被写体を検出する。S603では、外形検出部204が、フレームデータに基づいて被写体の外形を検出する。S604では、動き検出部203が、被写体が停止したことを検出した場合、S605に進む。被写体の停止を検出するまでS603を繰り返す。S605は、外形検出部204が、被写体停止前までに被写体の外形を検出できていたかを判断する。検出できていた場合S405に進み、検出できていなかった場合S404に進む。輝度の変化があった画素の連結数が所定閾値以上であれば、被写体の外形を検出できている可能性が高いため、被写体の外形を検出できたと判断する。また、外形検出部204は、例えば、外形検出処理時に得られる尤度に基づいて、外形検出の成否を判断してもよい。S606では、制御部202が、駆動部206を駆動させる。駆動させたらS603に戻り、外形が検出できたかを判断する。)S605にて外形が検出できていた場合、駆動部の駆動を停止させ、フローを終了する。
駆動部を駆動させる条件を、被写体の停止のみではなく、被写体の停止前に外形を検出できていない場合に限定することで、駆動の頻度を抑えることが可能になる。
<実施形態3>
実施形態3では、ユーザーが外形判断及び駆動部206の駆動指示を行うことができる場合について述べる。
撮像装置100は、ユーザーからの制御指示等の入力を受け付ける受付部を有する。ユーザーは、フレームデータの表示を目視することによって、外形の検出ができたか否かの判定結果を入力する。さらに、ユーザーは、駆動部206の駆動指示を入力できる。ユーザーは、撮像装置100または外部装置208が有するユーザーインターフェイスによって、各種入力を行える。例えば、ユーザーが被写体に対して駆動部206の駆動開始や停止を制御できる。被写体の外形検出を機械的に行うのではなく、ユーザーが目で見て確認できなかった場合にユーザーインターフェイスを介して駆動部206の駆動を指示することで、ユーザーが視覚的に被写体外形を確認することが可能になる。また、駆動部206の動きをユーザーが指定してもよい。
表示方法について、駆動部206を駆動している期間の表示は、対象の被写体が表示画面の中心に映るように切り出し表示してもよい。また、被写体の外形を検出できた場合には、表示枠や分類のポップアップなどを表示してもよい。
フローについては図5で説明したフローと基本的には同様であるが、外部装置208が加わったことによるバリエーションが考えられる。例えば、ユーザーが停止中の被写体の外形を視覚的に確認したい場合に駆動部206の駆動を開始することが可能となる。同様に駆動部206の停止のタイミングも、ユーザーが決定することができる。
以上より、イベントベースセンサを用いた撮像装置において、ユーザーが必要とした場合に、停止した被写体の外形を検出することができる。
また、以下に外形を検出したい対象が複数である場合について述べる。対象が複数である場合でも、被写体が停止した場合に駆動部206を駆動させることで解決できる。バリエーションとしては、動き検出部203にて被写体が動いていることを検出した場合に外形検出部204にて外形を検出し、検出ができなかった被写体が停止した場合に、駆動部206の駆動を開始する。または、外形を検出したい被写体についてユーザーが選択し、駆動部206を駆動させてもよい。更に、まずは停止を検出した被写体に対して被写体の大きさと同等程度の振幅で駆動部206を駆動させ、外形を検出後、振幅を大きく動かして他の停止被写体を検出してもよい。
以上より、イベントベースセンサを用いた撮像装置において、被写体が複数であっても、停止した被写体の外形を検出することができる。
本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、データ通信用のネットワーク又は各種記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。また、そのプログラムをコンピュータが読み取り可能な記録媒体に記録して提供してもよい。
100 情報処理装置
101 撮像部
1010 撮像光学系
1011 光電変換素子
201 画像取得部
202 制御部
206 駆動部
203 動き検出部
204 形状検出部
205 受付部
206 駆動部
207 ネットワーク
208 外部装置

Claims (20)

  1. 輝度の変化が発生した画素の位置と時刻とを示すアドレスイベント信号に基づいて、撮影範囲における動体を検出する動き検出手段と、
    前記アドレスイベント信号に基づいて生成したフレームデータから、前記動体の形状を検出する形状検出手段と、
    前記撮影範囲を変更させる制御手段と、を有し、
    前記形状検出手段は、前記動き検出手段で検出された動体が検出されなくなった場合に、前記制御手段によって前記撮影範囲を所定の値だけ変化させることにより、前記動体の形状を検出することを特徴とする情報処理装置。
  2. 前記アドレスイベント信号は、画素ごとに輝度の変化を検出するセンサによって出力され、輝度の変化が検出されない場合には、前記アドレスイベント信号は出力されない、または、輝度の変化がないことを示すことを特徴とする請求項1に記載の情報処理装置。
  3. 前記アドレスイベント信号に基づいて、所定の期間において輝度の変化が発生した画素を示す前記フレームデータを取得する画像取得手段を更に有し、
    前記形状検出手段は、前記取得されたフレームデータに基づいて、前記動体の形状を検出することを特徴とする請求項1または2に記載の情報処理装置。
  4. 前記動き検出手段は、前記フレームデータに基づいて、輝度の変化が発生した画素の連結数を検出することによって、前記フレームデータにおける動体を検出することを特徴とする請求項2に記載の情報処理装置。
  5. 前記動き検出手段は、前記フレームデータにおける連結数が閾値以上の場合は動体を検出し、該動体を検知した後に生成されたフレームデータにおける連結数が前記閾値以下に遷移した場合に該動体が停止したことを検出することを特徴とする請求項4に記載の情報処理装置。
  6. 前記形状検出手段は、エッジ解析処理によって前記フレームデータから前記動体の形状を検出することを特徴とする請求項1乃至5のいずれか1項に記載の情報処理装置。
  7. 前記形状検出手段によって検出した形状に基づいて、前記動体のクラスを認識する認識手段を更に有することを特徴とする請求項1乃至6のいずれか1項に記載の情報処理装置。
  8. 前記制御手段によって制御される少なくとも1軸の駆動部を更に有し、
    前記制御手段は、前記駆動部に対して一定周期の振幅をするように制御することを特徴とする請求項1乃至7のいずれか1項に記載の情報処理装置。
  9. 前記制御手段は、前記動体の大きさに応じて振幅を調整すること特徴とする請求項8に記載の情報処理装置。
  10. 前記制御手段は、電子ズームあるいは光学ズームが可能な機構に対して、ズーム倍率が高い場合はズーム倍率が低い場合よりも相対的に前記駆動部の振幅を小さく調整することを特徴とする請求項8または9に記載の情報処理装置。
  11. 前記制御手段は、前記動体が前記撮影範囲の中心となるように前記駆動部の中心軸を調整することを特徴とする請求項8乃至10のいずれか1項に記載の情報処理装置。
  12. 前記駆動部は、2軸の駆動機構をさらに有し、
    前記制御手段は、該駆動部を動かす方向が時間的に変化するように駆動させることを特徴とする請求項8乃至11のいずれか1項に記載の情報処理装置。
  13. 前記制御手段は、前記形状検出手段によって前記動体の形状を検出した場合に、前記制御手段による前記撮影範囲の変化を停止させることを特徴とする請求項1乃至12のいずれか1項に記載の情報処理装置。
  14. 前記検出された形状を表示装置に出力する出力手段を更に有することを特徴とする請求項1乃至13のいずれか1項に記載の情報処理装置。
  15. 前記出力手段は、前記検出された形状を前記フレームデータと重畳して表示するように出力ことを特徴とする請求項14に記載の情報処理装置。
  16. 前記制御手段は、ユーザーによって設定された動きに基づいて前記撮影範囲の変化を制御することを特徴とする請求項1乃至15のいずれか1項に記載の情報処理装置。
  17. 前記動き検知手段は、前記アドレスイベント信号に含まれる特定の信号を有する画素の位置に基づいて、前記動体を検知することを特徴とする、請求項1乃至16のいずれか1項に記載の情報処理装置。
  18. 前記アドレスイベント信号は、光子の入射に応じて信号を出力する画素を備えた光電変換素子によって出力されることを特徴とする、請求項1乃至17のいずれか1項に記載の情報処理装置。
  19. コンピュータを、請求項1乃至18のいずれか1項に記載の情報処理装置が有する各手段として機能させるためのプログラム。
  20. 輝度の変化が発生した画素の位置と時刻とを示すアドレスイベント信号に基づいて、撮影範囲における動体を検出する動き検出工程と、
    前記アドレスイベント信号に基づいて生成したフレームデータから、前記動体の形状を検出する形状検出工程と、
    前記撮影範囲を変更させる制御工程と、を有し、
    前記形状検出工程は、前記検出された動体が検出されなくなった場合に、前記撮影範囲を所定の値だけ変化させることにより、前記動体の形状を検出することを特徴とする情報処理方法。
JP2021097309A 2021-06-10 2021-06-10 情報処理装置、情報処理方法およびプログラム Pending JP2022188990A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2021097309A JP2022188990A (ja) 2021-06-10 2021-06-10 情報処理装置、情報処理方法およびプログラム
US17/835,826 US11778341B2 (en) 2021-06-10 2022-06-08 Information processing apparatus, information processing method, and storage medium
US18/457,968 US20230412937A1 (en) 2021-06-10 2023-08-29 Information processing apparatus, information processing method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021097309A JP2022188990A (ja) 2021-06-10 2021-06-10 情報処理装置、情報処理方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2022188990A true JP2022188990A (ja) 2022-12-22

Family

ID=84390712

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021097309A Pending JP2022188990A (ja) 2021-06-10 2021-06-10 情報処理装置、情報処理方法およびプログラム

Country Status (2)

Country Link
US (2) US11778341B2 (ja)
JP (1) JP2022188990A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022188982A (ja) * 2021-06-10 2022-12-22 キヤノン株式会社 情報処理装置、情報処理方法およびプログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003296711A (ja) * 2002-03-29 2003-10-17 Nec Corp 顔画像識別方法、装置およびプログラム
KR20140056986A (ko) * 2012-11-02 2014-05-12 삼성전자주식회사 모션 센서 어레이 장치, 상기 모선 센서 어레이를 이용한 거리 센싱 시스템, 및 거리 센싱 방법
JPWO2017013806A1 (ja) * 2015-07-23 2018-05-10 オリンパス株式会社 固体撮像装置
JP6340147B2 (ja) * 2015-09-30 2018-06-06 富士フイルム株式会社 撮像システム、画角調整方法、及び画角調整プログラム
KR102181951B1 (ko) * 2017-10-30 2020-11-23 소니 세미컨덕터 솔루션즈 가부시키가이샤 고체 촬상 소자
WO2019167483A1 (ja) * 2018-03-01 2019-09-06 富士フイルム株式会社 焦点調節操作検出装置、焦点調節操作検出方法及び焦点調節操作検出プログラム、並びに、撮像装置本体及び撮像装置
JP2020072317A (ja) * 2018-10-30 2020-05-07 ソニーセミコンダクタソリューションズ株式会社 センサ及び制御方法

Also Published As

Publication number Publication date
US20220400219A1 (en) 2022-12-15
US11778341B2 (en) 2023-10-03
US20230412937A1 (en) 2023-12-21

Similar Documents

Publication Publication Date Title
US20190109979A1 (en) Multiple lenses system, operation method and electronic device employing the same
US8300137B2 (en) Image sensing apparatus providing driving direction of focus lens for attaining in-focus state and control method therefor
WO2016118313A1 (en) Method and apparatus for multiple technology depth map acquisition and fusion
US8648960B2 (en) Digital photographing apparatus and control method thereof
KR20150085710A (ko) 디스플레이 장치 및 그 제어 방법
JP2011018056A (ja) 撮像装置、および撮像装置制御方法、並びにプログラム
US20230412937A1 (en) Information processing apparatus, information processing method, and storage medium
WO2016197494A1 (zh) 对焦区域调整方法和装置
JP7371076B2 (ja) 情報処理装置、情報処理システム、情報処理方法及びプログラム
JP2010170051A (ja) レンズ駆動制御装置、撮像装置、レンズ駆動制御方法およびコンピュータプログラム
US11095824B2 (en) Imaging apparatus, and control method and control program therefor
CN107667522B (zh) 形成活动图像的方法和装置
JP2012142809A (ja) 画像処理装置、および画像処理方法
US20220400198A1 (en) Imaging apparatus, control method for imaging apparatus, and storage medium
US20220400209A1 (en) Imaging apparatus, control method for imaging apparatus, and storage medium
US11832002B2 (en) Information processing apparatus, information processing method, and storage medium for displaying a measurement result in accordance with a direction of luminance changes
WO2019220890A1 (ja) 画像処理装置、および画像処理方法、並びにプログラム
US10944899B2 (en) Image processing device and image processing method
US11805334B2 (en) Apparatus and method for information processing and storage medium
US11575841B2 (en) Information processing apparatus, imaging apparatus, method, and storage medium
WO2017114252A1 (zh) 一种采集静态图像的方法及装置
JP2013009039A (ja) 撮像装置及びその制御方法
TW201642008A (zh) 影像擷取裝置及其動態對焦方法
US20220398770A1 (en) Information processing apparatus, information processing method, and storage medium
EP4243402A1 (en) Information processing device, image capturing device, program, storage medium, and method

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213