JP2022076837A - 情報処理装置、情報処理方法およびプログラム - Google Patents

情報処理装置、情報処理方法およびプログラム Download PDF

Info

Publication number
JP2022076837A
JP2022076837A JP2020187449A JP2020187449A JP2022076837A JP 2022076837 A JP2022076837 A JP 2022076837A JP 2020187449 A JP2020187449 A JP 2020187449A JP 2020187449 A JP2020187449 A JP 2020187449A JP 2022076837 A JP2022076837 A JP 2022076837A
Authority
JP
Japan
Prior art keywords
change
information processing
measurement result
luminance
brightness
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020187449A
Other languages
English (en)
Inventor
愛彦 沼田
Aihiko Numata
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020187449A priority Critical patent/JP2022076837A/ja
Priority to US17/506,301 priority patent/US11832002B2/en
Publication of JP2022076837A publication Critical patent/JP2022076837A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/47Image sensors with pixel address output; Event-driven image sensors; Selection of pixels to be read out based on image data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Photometry And Measurement Of Optical Pulse Characteristics (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 イベントが発生した時刻を表示できる。【解決手段】 輝度の変化が発生した画素のアドレスと時刻とを示すアドレスイベント信号に基づいて、輝度の変化が発生した数である計測結果を取得する取得手段と、時刻と前記計測結果の関係を表示させる制御手段と、を有し、前記制御手段は、輝度の変化の方向に応じた前記計測結果を表示させることを特徴とする。【選択図】 図4

Description

本発明は、イベントベースセンサに関する。
画素ごとの輝度の変化をアドレスイベント信号としてリアルタイムに出力するイベントベースセンサが知られている(特許文献1参照)。
特開2019-134271号公報
本発明が解決しようとする課題は、イベントが発生した時刻を表示することである。
上記課題を解決する本発明にかかる情報処理装置は、輝度の変化が発生した画素のアドレスと時刻とを示すアドレスイベント信号に基づいて、輝度の変化が発生した数である計測結果を取得する取得手段と、時刻と前記計測結果の関係を表示させる制御手段と、制御手段と、を有し、前記制御手段は、輝度の変化の方向に応じた前記計測結果を表示させることを特徴とする。
イベントが発生した時刻を表示できる。
情報処理装置のハードウェア構成の一例を示したブロック図 イベントベースセンサを含む情報処理装置の機能構成例を示すブロック図 イベントベースセンサの構成例を示す図 イベントベースセンサの出力を模式的に説明した図 表示の一例を示す図である。 表示の一例を示す図である。 表示の一例を示す図である。 イベントベースセンサの出力を模式的に説明した図 表示の一例を示す図である。 情報処理装置が実行する処理を説明するフローチャート
以下、図を用いて、本発明の実施形態における情報処理装置について説明する。その際、全ての図において同一の機能を有するものは同一の数字を付け、その繰り返しの説明は省略する。
<実施形態1>
<情報処理装置:図1>
情報処理装置のハードウェア構成の一例を示したブロック図を図1に示す。図1において、情報処理装置100は、結像光学系1010、光電変換素子1011からなるイベントベースセンサ101、CPU102、メモリ103から成る。イベントベースセンサ101は、受光した入射光に応じたアドレスイベント信号を出力する。結像光学系1010は、具体的には受光レンズであって、入射光を受光し、光電変換素子1011に結像する。光電変換素子1011は、具体的にはSPADセンサやCMOSセンサであって、受光した入射光に応じたアドレスイベント信号を出力する。CPU102は、メモリ103に格納されたOSやその他プログラムを読みだして実行し、接続された各構成を制御して、各種処理の演算や論理判断などを行う。CPU102が実行する処理には、本実施形態にかかる情報処理が含まれる。また、CPU102は、結像光学系1010のフォーカスの駆動や絞りの駆動、光電変換素子1011の駆動等の制御を行う。メモリ103は、例えば、ハードディスクドライブや外部記憶装置などであり、実施形態の情報処理にかかるプログラムや各種データを記憶する。
次に、図2を用いて、本実施形態にかかる情報処理装置の機能構成例を説明する。情報処理装置100は、イベントベースセンサ101、計測部201、表示制御部202、判定部203、表示部104、操作部105を有する。イベントベースセンサ101は、受光した入射光に応じたアドレスイベント信号を出力する。より具体的には、イベントベースセンサ101は、輝度の変化が発生した画素のアドレスと時刻を示すアドレスイベント信号を出力する。計測部201は、イベントベースセンサによって出力されたアドレスイベント信号から、輝度の変化が発生した数を計測した計測結果を取得する。表示制御部202は、アドレスイベント信号に基づいて、横軸に時刻、縦軸に輝度の変化が発生した数を示したグラフを表示部104に表示させる。ここでは、輝度の変化の方向に応じて計測結果を別々に表示させる。具体的には、横軸(X=0)を基準としてY>0となる象限に輝度がプラス方向に変化した画素の数をカウントした計測結果を示す。また、Y<0となる象限に輝度がマイナス方向に変化した画素の数をカウントした計測結果を示す。判定部203は、ある時刻で輝度の変化が発生した計測結果に基づいて所定の条件を満たすか否かを判定する。例えば、予め閾値を設定しておき、所定方向の輝度の変化が閾値以上発生したか否かを判断する。表示部104は、横軸に時刻、縦軸に輝度の変化が発生した画素数を示したグラフを表示する。例えば、表示部104は情報処理装置の外部にある装置であってもよく、例えばディスプレイ等の表示装置やプロジェクター等の投影装置であってもよい。なお、アドレスイベント信号の出力は、表示以外であってもよく、例えば、音声を出力する構成であってもよい。その場合は、スピーカーを情報処理装置に内蔵もしくは接続するとよい。操作部106は、ユーザーによって入力された撮像や表示等の各種指示を受け付ける。なお、表示部104や操作部105は情報処理装置と異なる外部装置によって構成されていてもよい。また、情報処理装置の機能構成はここに挙げた構成以外も含んでよい。
<イベントベースセンサ:図3>
本実施形態にかかるイベントベースセンサの一例を説明する。イベントベースセンサは、入射した光子の数をカウントし、カウントした光子の数が所定の閾値を超えたタイミングを判定する。またイベントベースセンサは、光子の数が第1の閾値以上になるまでの所要時間(クロック数)を計測しており、その所要時間を比較することによって輝度の変化を検出する。具体的には、前回計測された所要時間をT、最新の所要時間をTとしたとき、差分T-Tが第2の閾値以上の場合は、マイナス方向の輝度の変化を検出する。差分T-Tが第2の閾値以上の場合は、プラス方向の輝度の変化を検出する。そして、TとT0の差分が第2の閾値未満であれば輝度の変化を検出しない。なお、第2の閾値はゼロ以上の値で、予め設定された値や他のパラメータに応じて設定される値を用いる。
以下に、詳細な構成を説明する。図3aは、光電変換素子1011の構成例を示す図である。光電変換素子1011は、画素部110と周辺回路120から構成される。周辺回路120は、垂直調停回路121、水平読み出し回路122を備える。
図3bは、イベントベースセンサを構成する各画素部の構成例を示す図である。画素部110は、光電変換部111、画素カウンタ112、時間カウンタ113、第1の判定回路114、メモリ115、比較器116、第2の判定回路117、応答回路118、選択回路119を備える。光電変換部111は、ガイガーモードで動作するアバランシェフォトダイオード(SPAD)を備えており、光電変換部111に入射した光子の数を、画素カウンタ112でカウントするように構成される。時間カウンタ113では、光子が光電変換部111に入射した時間をカウントしている。SPADを用いてイベントベースセンサを構成することによって、光子1個レベルの輝度変化を検出することができる。光子1個レベルの輝度変化を検出することで、夜間などの暗視状態においても、アドレスイベント信号を取得することができる。
画素カウンタ112でカウントした光子の数が第1の閾値に達すると、第1の判定回路114によって、時間カウンタ113での時間のカウントを止める。メモリ115には、過去の時間カウンタ113のカウント値が記憶されており、比較器116を用いて、現在の時間カウンタ113のカウント値と、過去の時間カウンタ113のカウント値の差分のカウント値を求める。
第2の判定回路117は、差分のカウント値が第2の閾値以上の場合に、応答回路118を介して垂直調停回路121に、リクエスト信号を送る。応答回路118は、垂直調停回路121から、アドレスイベントデータの出力の許可または不許可を表す応答を受ける。差分のカウント値が第2の閾値未満の場合には、リクエスト信号を送付しない。
応答回路118が出力の許可を表す応答を受けると、選択回路119により時間カウンタ回路113のカウント値が、水平出力回路122に出力される。水平出力回路122は、受け取ったカウント値を出力信号として光電変換素子1011から検知部103に出力する。
比較器116によって算出された差分のカウント値は、光子の入射頻度の逆数に相当するため、本実施形態にかかる光電変換素子1011は、「光子の入射頻度の変化」、すなわち輝度の変化を計測する機能を有している。また、第2の判定回路117を用いて、入射した光子の数が第1の閾値に達した時間の間隔の差異が、第2の閾値以上の場合のみ、アドレスイベントを出力している。即ち、入射頻度の差異が第2の閾値以上の場合には入射頻度を出力し、差異が閾値未満の場合には入射頻度を出力しない、光電変換素子となっている。以上のような構成とすることで、画素アドレスごとに、輝度の変化をアドレスイベントとしてリアルタイムに検出する非同期型の光電変換素子が実現できる。
<光電変換素子のバリエーション>
以上では、光電変換部にSPADを用い、光子が入射した時間を計測することで、光子の入射頻度の変化を検出する光電変換素子を使用する場合を示した。しかし、輝度の変化をアドレスイベントとしてリアルタイムに検出する光電変換素子であれば、図2の構成でなくてもよい。例えば、特許文献1に記載されているように、輝度の変化を電圧変化として検出する光電変換素子を使用してもよい。
<計測部201>
計測部201では、イベントベースセンサによって出力されたアドレスイベント信号から、ある時刻で輝度変化が発生した画素数を計測する。具体的には、特定の時間範囲で、輝度がプラス方向に変化した延べ画素数と、輝度がマイナス方向に変化した延べ画素数を、各々独立に計測した計測結果を取得する。
特定の時間範囲は、予め設定されるパラメータであって、光電変換素子1011の垂直調停回路121の時間分解能で決まる最小時間幅としてもよいし、それより長い時間範囲をユーザーによって指定してもよい。時間幅が短いほうが異常現象を高速にとらえることができるが、時間幅が長いほうがランダムノイズなどによる誤差の影響を低減することができ、異常現象か否かを区別する精度が向上する。
<表示制御部:202>
表示制御部202は、アドレスイベント信号に基づいて生成された横軸に時刻、縦軸に輝度変化が発生した画素数を示したグラフを表示部104に表示させる。この時、本実施形態にかかる情報処理装置100は、プラス方向の輝度の変化の発生数y1と、マイナス方向の輝度の変化の発生数y2を、別々に表示する。これにより、異常が発生した時刻をユーザーが把握することが容易になる。
図4は、+X軸方向に沿って移動する、背景よりも明るい被写体を、イベントベースセンサを用いた情報処理装置を用いて撮影した際の出力を、フレーム画像形式で模式的に説明したものである。図4で、白は輝度が閾値以上プラスに変化した画素、黒は輝度が閾値以上マイナスに変化した画素、灰は輝度の変化が閾値未満である画素、を示している。図3からわかるように、被写体の移動に伴って、被写体と背景の境界部分の輝度が変化している。被写体の前方(+X側)の画素では、背景よりも明るい被写体が移動してくるため、境界部分の画素の輝度値はプラスに変化している。一方、被写体の後方(-X側)の画素では、被写体が移動することで、被写体よりも暗い背景が撮影されることになるため、境界部分の画素の輝度値はマイナスに変化している。即ち、被写体が移動した場合、フォトンショットノイズなどを無視した理想的な環境下では、プラス方向およびマイナス方向の輝度の変化が発生した画素の数が両方同じくらい検出される。また、撮像している画面全体の明るさが変化した場合は、輝度が変化した方向の方が輝度の変化が多く検出されることになる。一方で、単に、横軸に時間、縦軸に画面全体の輝度変化の積分値を表示した場合、動体検出と、画面全体の明るさの変化との区別がユーザーにとって困難である。
図5は、本発明の情報処理装置100の表示部104を説明する図である。横軸に時間、縦軸には、プラス方向の輝度の変化の発生数y(点線)と、マイナス方向の輝度の変化の発生数y(破線)が、別々に表示されている。イベントベースセンサの出力は、被写体の移動がない場合には、プラス方向の変化もマイナス方向の変化も発生しないが、被写体の移動がある場合には、プラス方向の変化とマイナス方向の変化が同時に発生する。従って、図5のように、プラス方向の輝度の変化の発生数y1と、マイナス方向の輝度の変化の発生数y2を別々に表示することで、ユーザーは被写体の移動の有無を把握することが容易になる。例えば、定常監視用にイベントベースセンサを利用する場合に、侵入や盗難などで動体が検出された時刻を特定することを容易にすることができる。なお、図5では、時間を横軸、輝度の変化の発生数を縦軸に表示したが、縦軸と横軸を入れ替えてもよい。また、直交座標系ではなく斜めの座標系を使用してもよい。即ち、表示部に、時刻と、輝度の変化の発生数、との関係が表示されていればよい。
<ROIの輝度変化のみを表示>
プラス方向の輝度の変化の発生数yとマイナス方向の輝度の変化の発生数yとして、画面全体の画素の輝度変化をすべて計数して表示してもよいし、一部の画素の輝度変化のみを表示してもよい。侵入検知や盗難検知に使用する場合、侵入経路など、特定の領域の輝度変化のみに着目して、異常現象の発生の有無を特定したい場合がある。このようなユースケースにおいては、ユーザーがあらかじめ指定した領域内の輝度変化のみを計数し、表示部に表示するほうが好ましい。これにより、注目領域で発生した異常のみを、効率よく把握することができる。注目領域の指定を行う場合、情報処理装置100はユーザーが注目領域を指定するためのユーザーインターフェースを備えていればよい。
<ランダムノイズ除去>
また、フォトンショットノイズによる輝度変化と、被写体の移動による輝度変化を区別するために、ある程度まとまった画素の輝度変化のみを検出し、孤立した画素の輝度変化を検出しないようにすると好ましい。すなわち、計測部は、アドレスイベント信号に基づいて、所定の大きさより大きい領域において輝度の変化が発生したことを計測する。フォトンショットノイズによる輝度変化はランダムに発生するため、孤立した画素の輝度変化を検出しないようにすることで、被写体の移動によって発生した輝度変化と、ノイズによって発生した輝度変化を区別できる。
孤立した画素の輝度変化であるか、まとまった画素数の輝度変化であるかは、連結数で判定すればよい。アドレスイベント信号から、輝度の変化が発生した画素のアドレスが特定できる。例えば、注目画素で輝度変化が発生していた場合、4近傍画素内に同じ方向の輝度変化が発生している画素数が2以上あった場合、それら二つの画素は連結していると判定する。そして、互いに連結している画素の塊が、所定の画素数(例えば25画素)以上ある場合に、まとまった画素の輝度変化が発生していると判定する。
(変形例1)
イベントベースセンサを用いた情報処理装置を、侵入検知や盗難検知などに使用するユースケースが考えられる。イベントベースセンサを用いた場合、侵入や盗難などが発生していないときには、大部分の画素では輝度の変化が発生せず、侵入や盗難などの異常が発生した場合にのみ、輝度の変化が発生することから、低消費電力の侵入、盗難検知の監視システムとして使用することができる。このようなユースケースにおいては、輝度の変化が発生している時が、動体が検出されたことを意味するため、異常発生時であると推測できる。
<実施形態2>
実施形態2に示す情報処理装置100は、実施形態1に対し、表示部に表示される輝度変化の情報が異なる。これにより、イベントが発生した時刻を更に把握しやすくなる。
<閾値以上の輝度変化のみ表示;図6>
図6は、表示部104における表示の一例である。図6では、プラス方向の輝度の変化の発生数yの絶対値が第1の閾値以上であって、マイナス方向の輝度の変化の発生数yの絶対値が第1の閾値以上であるイベントが生じている時刻の輝度の変化の発生数を表示する。これにより、ランダムノイズなどによって発生する輝度変化を除外し、被写体が大きく動いた時刻のみを把握することができるため、イベントが発生した時刻が更に把握しやすくなるため、好ましい。
プラス方向の輝度の変化の発生数yの絶対値が第3の閾値以上、マイナス方向の輝度の変化の発生数yの絶対値が第3の閾値以上、の少なくとも一つを満たす輝度変化のみを表示してもよい。但し、プラス方向の輝度の変化の発生数yの絶対値、および、マイナス方向の輝度の変化の発生数yの絶対値、の両方で判定したほうが、イベントが発生した時刻を把握しやすくなるため、好ましい。
<プラスとマイナスの差分も表示;図7>
図7は、表示部104における表示の一例である。図7では、プラス方向の輝度の変化の発生数yと、マイナス方向の輝度の変化の発生数yの差分Δyを表示した一例である。プラス方向の輝度の変化の発生数yと、マイナス方向の輝度の変化の発生数yに加えて、更にプラス方向の輝度の変化の発生数yとマイナス方向の輝度の変化の発生数yの差分を表示している。これにより、被写体の移動によって発生した輝度変化と、環境光の照度変化(屋外であれば昼夜の移り変わり、屋内であれば照明のONとOFFなど)によって生じた撮像範囲における輝度変化を、わかりやすく区別することができる。その結果、ユーザーが被写体の移動が発生した時刻を把握しやすくなるため、好ましい。以下で、説明を行う。
図8は、被写体の移動が発生せず、環境光の照度が徐々に変化した場合の出力を、図4と同様に、フレーム画像形式で模式的に説明したものである。図7からわかるように、ノイズ成分を除けば、環境光の照度が明るくなった場合にはすべての画素の輝度値がプラスに変化し、環境光の照度が暗くなった場合にはすべての画素の輝度値がマイナスに変化する。従って、環境光の照度が変化した場合には、プラス方向の輝度の変化の発生数yとマイナス方向の輝度の変化の発生数yの差分が、大きく変化することになる。
一方、図4で示したように、被写体が移動した場合には、ノイズ成分を除けば、画面全体のプラス方向の輝度の変化の発生数yとマイナス方向の輝度の変化の発生数yの差分が0に近似できる。
このように、環境光の照度が変化した場合と、被写体が移動した場合では、プラス方向の輝度の変化の発生数y、マイナス方向の輝度の変化の発生数yがともに大きく発生する、という共通点があるが、プラス方向の輝度の変化の発生数yとマイナス方向の輝度の変化の発生数yの差分は大きく異なる。従って、プラス方向の輝度の変化の発生数yとマイナス方向の輝度の変化の発生数yの差分を表示することで、被写体の移動によって発生した輝度変化と、環境光の照度変化によって生じた輝度変化を、ユーザーが区別することができるため、好ましい。
<プラスとマイナスの差分による閾値;図9>
侵入検知、盗難検知などのユースケースでは、環境光の照度変化によって発生した輝度変化は検知せず、被写体の移動によって発生した出力を特定のイベントとして検知する場合がある。そこで、図9のように、プラス方向の輝度の変化の発生数yとマイナス方向の輝度の変化の発生数yの差分が第2の閾値未満であって、プラス方向の輝度の変化の発生数y、マイナス方向の輝度の変化の発生数yの絶対値が第1の閾値以上の輝度変化のみを表示する。これにより、環境光の照度変化によって発生した輝度変化は検知せず、被写体の移動によって発生した輝度変化を異常現象として検知することができるため、好ましい。
<輝度変化が生じていない時間帯は省略>
なお、図6や図9のように、表示する輝度変化を閾値で制限する場合、ユーザーが注目するのは、輝度変化が表示されている時間帯のみである。そこで、輝度変化が生じている時間帯の時間スケールよりも、輝度変化が生じていない時間帯の時間スケールを圧縮して表示するほうが好ましい。つまり、輝度変化の発生数が所定の値より小さい場合は、時間軸のスケールの間隔を大きくして表示する。また、輝度変化の発生数が所定の値より小さい時間帯は省略して表示してもよい。これにより、輝度変化が生じており、異常現象が発生している可能性がある時刻を、ユーザーが把握することが容易になる。
<山型とところてん型>
また、輝度の変化の割合に注目して、表示方法を変更してもよい。図4より分かるように、画面内を一定の速度で通過する物体があった場合、プラス方向の輝度の変化、マイナス方向の輝度の変化が、ともに時間的に一定の発生数だけ発生する。一方、物体の速度が一定ではない場合、プラス方向の輝度の変化、マイナス方向の輝度の変化の発生数が、時間的に変化する。従って、プラス方向の輝度の変化の割合、マイナス方向の輝度の変化の割合も同時に表示することで、どのような異常があったかを更に特定しやすくすることができる。
<フローチャート>
以上に説明したアドレスイベント信号の表示を行うために情報処理装置100が実行する処理を説明する。図10は、情報処理装置100が実行する処理を説明するフローチャートである。図10のフローチャートに示した処理は、コンピュータであるCPU102によりメモリ103に格納されているコンピュータプログラムに従って実行される。以下の説明では、各工程(ステップ)について先頭にSを付けて表記することで、工程(ステップ)の表記を省略する。ただし、情報処理装置100はこのフローチャートで説明するすべてのステップを必ずしも行わなくても良い。
S1001では、情報処理装置100が、各種設定を初期化する。例えば、輝度の変化の発生数を計測する際の時間範囲を設定する。また、フォトンカウントノイズに応じて第1の閾値を設定する。例えば、監視領域に何も動体がない状態で輝度の変化を計測した結果を取得し、アドレスイベント信号が観測された値を取得する。このとき観測されたアドレスイベント信号はノイズである可能性が高いため、そのノイズの発生数を第1の閾値として設定する。第1の閾値の設定方法はこれ以外の方法であってもよい。任意の値をユーザーによって設定してもよい。次に、S1002では、計測部201が、イベントベースセンサによって出力されたアドレスイベント信号を取得する。このアドレスイベント信号には、輝度の変化が発生した画素のアドレス、輝度の変化の方向、輝度の変化が発生した時刻を特定可能な時刻情報が含まれる。S1003では、アドレスイベント信号に基づいてプラス方向の輝度の変化の発生数(第1の計測値)yとマイナス方向の輝度の変化の発生数(第2の計測値)yをそれぞれ計測する。S1004では、判定部203が、計測結果と予め設定された第1の閾値とを比較することによって、プラス方向の輝度の変化の発生数(第1の計測値)yとマイナス方向の輝度の変化の発生数(第2の計測値)yのそれぞれが第1の閾値より大きいか否かを判定する。例えば、ラス方向の輝度の変化の発生数(第1の計測値)yとマイナス方向の輝度の変化の発生数(第2の計測値)yのいずれか一方が閾値より大きいである場合は、YesとしてS1005に進む。ラス方向の輝度の変化の発生数(第1の計測値)yとマイナス方向の輝度の変化の発生数(第2の計測値)yの両方が閾値以下である場合は、NoとしてS1006に進む。この時は、ノイズ以外の輝度の変化が発生していないと考えられるため、輝度の変化の発生数がない時刻の表示をスキップして、次の時刻の計測結果を取得してもよい。この場合はS1002に戻る。次に、S1005では、表示制御部102が、プラス方向の輝度の変化の発生数(第1の計測値)yとマイナス方向の輝度の変化の発生数(第2の計測値)yを計測した時刻に対応付けてグラフにプロットする。輝度の変化の方向に応じて別々に表示させることによって、イベントの発生がわかりやすい。S1006では、情報処理装置100が、処理を終了するか否かを判定する。ユーザーの終了指示に基づいて、終了を判定してもよいし、予め設定された処理対象をすべて処理したか否かで判定してもよい。終了しない場合はS1002に戻る。
<その他の実施形態>
本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、データ通信用のネットワーク又は各種記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。また、そのプログラムをコンピュータが読み取り可能な記録媒体に記録して提供してもよい。
100 情報処理装置
101 イベントベースセンサ
201 計測部
202 表示制御部
203 判定部
104 表示部
105 操作部

Claims (16)

  1. 輝度の変化が発生した画素のアドレスと時刻とを示すアドレスイベント信号に基づいて、輝度の変化が発生した数である計測結果を取得する取得手段と、
    時刻と前記計測結果の関係を表示させる制御手段と、を有し、
    前記制御手段は、輝度の変化の方向に応じた前記計測結果を表示させることを特徴とする情報処理装置。
  2. 前記計測結果は、プラス方向の輝度の変化が起きた第1の計測値と、マイナス方向の輝度の変化が起きた第2の計測値とを含み、
    前記制御手段は、前記第1の計測値と、前記第2の計測値とをそれぞれ表示させることを特徴とする請求項1に記載の情報処理装置。
  3. 前記制御手段は、横軸に時刻、縦軸に前記計測結果を示したグラフであって、
    前記第1の計測値を縦軸のプラス方向に、前記第2の計測値を縦軸のマイナス方向に表示させることを特徴とする請求項2に記載の情報処理装置。
  4. 前記制御手段は、前記第1の計測値と前記第2の計測値との差分を表示することを特徴とする請求項2または3に記載の情報処理装置。
  5. 前記制御手段は、前記第1の計測値または前記第2の計測値が第1の閾値以上であるときに前記計測結果を表示することを特徴とする請求項2乃至4のいずれか1項に記載の情報処理装置。
  6. 前記制御手段は、前記第1の計測値と前記第2の計測値との差分が、第2の閾値未満であるときに前記計測結果を表示することを特徴とする請求項2乃至5のいずれか1項に記載の情報処理装置。
  7. ユーザーによって指定された注目領域を受け付ける受け付け手段を更に有し、
    前記取得手段は、前記アドレスイベント信号のうち前記注目領域に含まれる画素に対応する前記アドレスイベント信号から前記計測結果を取得することを特徴とする請求項1乃至6のいずれか1項に記載の情報処理装置。
  8. 前記計測結果は、前記アドレスイベント信号に基づいて画素毎に前記輝度の変化を計測した数であることを特徴とする請求項1乃至7のいずれか1項に記載の情報処理装置。
  9. 前記計測結果は、前記アドレスイベント信号に基づいて所定の大きさより大きい領域において輝度の変化が発生したことを計測した数であることを特徴とする請求項1乃至8のいずれか1項に記載の情報処理装置。
  10. 前記制御手段は、前記計測結果に応じて前記時刻のスケールを変更して表示することを特徴とする請求項1乃至9のいずれか1項に記載の情報処理装置。
  11. 前記制御手段は、前記計測結果が所定の値より小さい場合は、前記時刻のスケールの間隔を大きくして表示することを特徴とする請求項10に記載の情報処理装置。
  12. 前記制御手段は、前記計測結果が第3の閾値未満であるときに前記計測結果を計測した時刻を省略して表示する、することを特徴とする請求項10に記載の情報処理装置。
  13. 前記取得手段は、予め設定された時間範囲において、輝度の変化が発生した数を計測した前記計測結果を取得することを特徴とする請求項1乃至12のいずれか1項に記載の情報処理装置。
  14. 前記取得手段は、入射した光子の数に応じて信号を出力するイベントベースセンサに基づいて前記アドレスイベント信号を取得することを特徴とする請求項1乃至13のいずれか1項に記載の情報処理装置。
  15. コンピュータを、請求項1乃至14のいずれか1項に記載の情報処理装置が有する各手段として機能させるためのプログラム。
  16. 輝度の変化が発生した画素のアドレスと時刻とを示すアドレスイベント信号に基づいて、輝度の変化が発生した数である計測結果を取得する取得工程と、
    時刻と前記計測結果の関係を表示させる制御工程と、を有し、
    前記制御工程は、輝度の変化の方向に応じた前記計測結果を表示させることを特徴とする情報処理方法。
JP2020187449A 2020-11-10 2020-11-10 情報処理装置、情報処理方法およびプログラム Pending JP2022076837A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020187449A JP2022076837A (ja) 2020-11-10 2020-11-10 情報処理装置、情報処理方法およびプログラム
US17/506,301 US11832002B2 (en) 2020-11-10 2021-10-20 Information processing apparatus, information processing method, and storage medium for displaying a measurement result in accordance with a direction of luminance changes

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020187449A JP2022076837A (ja) 2020-11-10 2020-11-10 情報処理装置、情報処理方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2022076837A true JP2022076837A (ja) 2022-05-20

Family

ID=81453759

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020187449A Pending JP2022076837A (ja) 2020-11-10 2020-11-10 情報処理装置、情報処理方法およびプログラム

Country Status (2)

Country Link
US (1) US11832002B2 (ja)
JP (1) JP2022076837A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024150773A1 (ja) * 2023-01-11 2024-07-18 テルモ株式会社 情報処理装置及びその制御方法、プログラム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022188990A (ja) * 2021-06-10 2022-12-22 キヤノン株式会社 情報処理装置、情報処理方法およびプログラム
TWI822527B (zh) * 2022-05-30 2023-11-11 神盾股份有限公司 感測像素電路、影像感測器和電子裝置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019134271A (ja) 2018-01-31 2019-08-08 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
JP2022076241A (ja) * 2020-11-09 2022-05-19 キヤノン株式会社 情報処理装置、情報処理方法およびプログラム
JP2022089017A (ja) * 2020-12-03 2022-06-15 キヤノン株式会社 情報処理装置、情報処理方法およびプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024150773A1 (ja) * 2023-01-11 2024-07-18 テルモ株式会社 情報処理装置及びその制御方法、プログラム

Also Published As

Publication number Publication date
US20220150424A1 (en) 2022-05-12
US11832002B2 (en) 2023-11-28

Similar Documents

Publication Publication Date Title
US10070053B2 (en) Method and camera for determining an image adjustment parameter
JP2022076837A (ja) 情報処理装置、情報処理方法およびプログラム
KR20210103440A (ko) 움직임 영역 검출 장치 및 방법
KR20220143967A (ko) 이벤트 카메라를 이용한 정적 이미지들의 생성
US20230412937A1 (en) Information processing apparatus, information processing method, and storage medium
JP2011049980A (ja) 画像処理プログラムおよび画像処理装置
CN108989638B (zh) 成像装置及其控制方法、电子装置和计算机可读存储介质
US10594938B2 (en) Image processing apparatus, imaging apparatus, and method for controlling image processing apparatus
JP5610106B1 (ja) 撮像装置の異物情報検出装置および異物情報検出方法
US20220400198A1 (en) Imaging apparatus, control method for imaging apparatus, and storage medium
US11838627B2 (en) Imaging apparatus, control method for imaging apparatus, and storage medium
TW201340687A (zh) 相機檢測方法與相機
JP2008232837A (ja) 欠陥強調・欠陥検出の方法および装置、プログラム
JP7302596B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
US11735140B2 (en) Information processing apparatus, information processing method, and storage medium
JP2015233202A (ja) 画像処理装置および画像処理方法、並びにプログラム
JP2022188982A (ja) 情報処理装置、情報処理方法およびプログラム
JP2022076241A (ja) 情報処理装置、情報処理方法およびプログラム
JP2014150409A (ja) 画像処理装置、撮像装置および画像処理プログラム
US20220398770A1 (en) Information processing apparatus, information processing method, and storage medium
JP4329677B2 (ja) 動き検出装置
US11838645B2 (en) Image capturing control apparatus, image capturing control method, and storage medium
US20230067332A1 (en) Image capturing apparatus, control method of image capturing apparatus, and storage medium
JP2019022028A (ja) 撮像装置、その制御方法およびプログラム
WO2023093986A1 (en) A monolithic image sensor, a camera module, an electronic device and a method for operating a camera module

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20201209

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231108

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240821

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240903