JP2023135357A - 変位量測定装置、変位量測定システム、非接触入力装置、および生体微動測定装置 - Google Patents

変位量測定装置、変位量測定システム、非接触入力装置、および生体微動測定装置 Download PDF

Info

Publication number
JP2023135357A
JP2023135357A JP2022040520A JP2022040520A JP2023135357A JP 2023135357 A JP2023135357 A JP 2023135357A JP 2022040520 A JP2022040520 A JP 2022040520A JP 2022040520 A JP2022040520 A JP 2022040520A JP 2023135357 A JP2023135357 A JP 2023135357A
Authority
JP
Japan
Prior art keywords
displacement
brightness change
measured
coordinate
measuring device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022040520A
Other languages
English (en)
Inventor
優樹 阿部
Yuki Abe
俊 三宮
Takashi Sannomiya
俊輝 山中
Toshiteru Yamanaka
涼 齋藤
Ryo Saito
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2022040520A priority Critical patent/JP2023135357A/ja
Priority to US18/168,781 priority patent/US20230296369A1/en
Priority to EP23158278.4A priority patent/EP4246085A1/en
Publication of JP2023135357A publication Critical patent/JP2023135357A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/002Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/16Measuring arrangements characterised by the use of optical techniques for measuring the deformation in a solid, e.g. optical strain gauge
    • G01B11/161Measuring arrangements characterised by the use of optical techniques for measuring the deformation in a solid, e.g. optical strain gauge by interferometric means
    • G01B11/162Measuring arrangements characterised by the use of optical techniques for measuring the deformation in a solid, e.g. optical strain gauge by interferometric means by speckle- or shearing interferometry
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/62Extraction of image or video features relating to a temporal dimension, e.g. time-based feature extraction; Pattern tracking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

【課題】演算負荷を低減させ被測定物の変位量を高速に検出することが可能な変位量測定装置を実現すること。【解決手段】変位量測定装置は、被測定物に対してコヒーレント光を照射する照射手段と、被測定物による反射光に基づいて、輝度変化が生じた輝度変化座標を検出し、当該輝度変化座標に関するデータを出力する輝度変化座標検出手段と、輝度変化座標検出手段から出力された、輝度変化座標に関するデータに基づいて、被測定物の変位量を推定する変位量推定手段とを備え、変位量推定手段は、データから抽出された輝度変化座標の位置を表す第1の要素の集合からなる第1の数値列の演算処理を行うことにより、被測定物の第1の要素の変位量を算出する第1の数値列処理系統と、データから抽出された輝度変化座標の位置を表す第2の要素の集合からなる第2の数値列の演算処理を行うことにより、被測定物の第2の要素の変位量を算出する第2の数値列処理系統とを有する。【選択図】図9

Description

本発明は、変位量測定装置、変位量測定システム、非接触入力装置、および生体微動測定装置に関する。
下記非特許文献1には、被測定物の微小変位量を計測する目的で、スペックルパターンをイベントベースビジョンセンサにより取得し、スペックルパターン画像を生成した上で画像処理を施すことで、被測定物の微小変位量を測定する技術が開示されている。
しかしながら、従来のイベントベースビジョンセンサとスペックルパターン画像とを用いた被測定物の変位測定技術では、光検出素子から非同期に出力されるイベント情報を一定時間蓄え、画像化することで従来の画像処理を適用し、スペックルパターン画像の並進量を算出していたため、イベントベースビジョンセンサを用いているにも関わらず、演算処理量が比較的多く、被測定物の変位量を高速に検出することができない。
本発明は、上述した従来技術の課題を解決するため、演算負荷を低減させ被測定物の変位量を高速に検出することが可能な変位量測定装置を実現することを目的とする。
上述した課題を解決するために、一実施形態に係る変位量測定装置は、被測定物に対してコヒーレント光を照射する照射手段と、被測定物による反射光に基づいて、輝度変化が生じた輝度変化座標を検出し、当該輝度変化座標に関するデータを出力する輝度変化座標検出手段と、輝度変化座標検出手段から出力された、輝度変化座標に関するデータに基づいて、被測定物の変位量を推定する変位量推定手段とを備え、変位量推定手段は、データから抽出された輝度変化座標の位置を表す第1の要素の集合からなる第1の数値列の演算処理を行うことにより、被測定物の第1の要素の変位量を算出する第1の数値列処理系統と、データから抽出された輝度変化座標の位置を表す第2の要素の集合からなる第2の数値列の演算処理を行うことにより、被測定物の第2の要素の変位量を算出する第2の数値列処理系統とを有する。
一実施形態に係る変位量測定装置によれば、演算負荷を低減させ被測定物の変位量を高速に検出することが可能な変位量測定装置を実現することができる。
第1実施形態に係る変位量測定装置の全体構成を示す図 第1実施形態に係る変位量測定装置が備える輝度変化座標検出手段の構成の一例を示す図 第1実施形態に係る変位量測定装置が備える輝度変化座標検出手段の構成の他の一例を示す図 第1実施形態に係る変位量測定装置が備える輝度変化座標検出手段によるイベントデータの出力例を示す図 第1実施形態に係る変位量測定装置が備える変位量推定手段による変位量の推定の原理を説明するための図 一実施形態に係る変位量推定手段による、被測定物の変位量の推定方法の原理を説明するための図 一実施形態に係る変位量測定装置が備える変位量推定手段による、被測定物の変位量の算出方法の一例を説明するための図 一実施形態に係る変位量測定装置が備える変位量推定手段によって算出された複数の差分値の度数分布を表すヒストグラム 一実施形態に係る変位量測定装置が備える変位量推定手段の機能構成の一例を示す図 一実施形態に係る変位量測定装置が備える変位量推定手段による処理の手順の一例を示すフローチャート 一実施形態に係る変位量測定装置が備える変位量推定手段による計算量の一例を示すグラフ 一実施形態に係る変位量測定装置が備える変位量推定手段による、被測定物の変位量の算出方法の他の一例を説明するための図 一実施形態に係る変位量測定装置が備える変位量推定手段による計算量の他の一例を示すグラフ 一実施形態に係る変位量測定装置が備える変位量推定手段の機能構成の他の一例を示す図 一実施形態に係る変位量測定装置が備える変位量推定手段の機能構成のさらなる他の一例を示す図 一実施形態に係る変位量測定装置が備える情報処理部のハードウェア構成図 一実施形態に係る変位量測定装置の第1実施例である非接触入力装置の概略図 一実施形態に係る変位量測定装置の第1実施例である非接触入力装置の断面構成図 一実施形態に係る変位量測定装置の第2実施例である振戦測定装置の概略図 一実施形態に係る変位量測定装置の第2実施例である振戦測定装置の断面構成図
以下、図面を参照して、一実施形態について説明する。
〔第1実施形態〕
(変位量測定装置100の全体構成)
図1は、第1実施形態に係る変位量測定装置100の全体構成を示す図である。図1に示す変位量測定装置100は、被測定物10(例えば、人間の手)に対してコヒーレント光を照射し、被測定物10からの反射光に基づいて、輝度変化座標を検出し、検出された輝度変化座標に関するイベントデータに基づいて、被測定物10の微小な変位量を測定することができる装置である。
なお、「輝度変化座標」とは、イメージセンサにおける一定以上の輝度変化が生じた画素である。また、「イベントデータ」とは、一定以上の輝度変化が生じた画素に関し、輝度変化の発生時刻(T)、発生位置(X,Y)、および極性(P)を含むデータである。
変位量測定装置100によって測定された被測定物10の微小な変位量は、例えば、変位量測定装置100の外部の装置に出力され、当該外部の装置において、利用者への表示、外部被制御装置の制御等に用いられる。
図1に示すように、変位量測定装置100は、照射手段110(「投光手段」と呼ぶ場合もある)、干渉像形成手段120、輝度変化座標検出手段130、および情報処理部150を備える。
照射手段110は、被測定物10に対してコヒーレント光を照射する。照射手段110は、被測定物10による反射光による干渉像を、輝度変化座標検出手段130の受光面上に形成できるようにするために、コヒーレンスの高いレーザ光源が用いられることが好ましい。照射手段110としては、例えば、レーザダイオード(LD)、垂直共振器型面発光レーザ(VCSEL)、小型のガスレーザ、固体レーザ等を用いることができる。
干渉像形成手段120は、被測定物10による反射光(すなわち、被測定物10によって反射されたコヒーレント光)から干渉像を形成する。本実施形態では、干渉像形成手段120は、被測定物10と輝度変化座標検出手段130との間における、被測定物10からの反射光の光路上に配置されている。干渉像形成手段120は、被測定物10の変位量が適切に取得できるように、輝度変化座標検出手段130の受光面に受光される干渉像の特性を調整する機能を有する。例えば、干渉像形成手段120は、レンズ、開口、位相シフト素子、空間光変調素子(SLM)等のいわゆる波面制御素子を有して構成される。
干渉像形成手段120によって形成される干渉像の一例として、被測定物10の表面の粗さに起因したランダムな干渉像である、スペックル像が用いられる。スペックル像は、光の波動としての特性を反映したものであり、被測定物10の動きに対して極めて鋭敏にその像の輝度分布を変化させる。すなわち、スペックル像は、被測定物10の微小な変位を輝度変化座標検出手段130における受光面で捉えられるレベルに感度をスケール変換したものとなっている。
輝度変化座標検出手段130は、干渉像形成手段120によって形成された干渉像を受光面において受光し、受光された干渉像に基づいて、一定以上の輝度変化が生じた輝度変化座標を検出する。そして、輝度変化座標検出手段130は、検出された輝度変化座標に関するイベントデータを出力する。なお、輝度変化座標検出手段130の構成例については、図2および図3を用いて後述する。
情報処理部150は、変位量推定手段151および変位推定値出力手段152を有する。
変位量推定手段151は、輝度変化座標検出手段130から出力されたイベントデータに基づいて、被測定物10の実空間における変位量の推定値を算出する。
変位推定値出力手段152は、変位量推定手段151によって算出された、被測定物10の変位量の推定値を出力する。
ここで、第1実施形態に係る変位量測定装置100は、変位量推定手段151が、輝度変化座標の位置を表す2つの要素(X座標およびY座標)の2つの数値列に対し、ハードウェア的に並列に設けられた2つの数値列処理系統を用いて、被測定物10の実空間における変位量の推定値を算出することができる。
すなわち、変位量推定手段151は、第1の数値列処理系統P1による、X座標値の数値列に基づく被測定物10のX軸の変位量の算出と、第2の数値列処理系統P2による、Y座標の数値列に基づく被測定物10のY軸の変位量の算出とを、並列に行うことができる。なお、本書における「並列」とは、独立して行うことができることを意味し、一部期間が同時期になる場合も含む。
これにより、第1実施形態に係る変位量測定装置100は、演算負荷を低減させ、被測定物10の変位量を高速に検出することができる。
なお、情報処理部150の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
(輝度変化座標検出手段130の構成の一例)
図2は、第1実施形態に係る変位量測定装置100が備える輝度変化座標検出手段130の構成の一例を示す図である。
図2に示す例では、輝度変化座標検出手段130は、イベントベースビジョンカメラ131を有して構成される。
イベントベースビジョンカメラ131は、イベントベースビジョンセンサを搭載している。イベントベースビジョンセンサは、干渉像を受光することにより、2次元配列された画素集合において、一定以上の輝度変化が生じた輝度変化座標を瞬時に(すなわち、極めて短時間且つ極めて高速に)検出して、検出された輝度変化座標に関し、輝度変化の発生時刻(T)、発生位置(X,Y)、および極性(P)を含むイベントデータを出力することができる。これにより、イベントベースビジョンカメラ131は、イベントデータを直接生成することができる。
変位量測定装置100は、輝度変化座標検出手段130にイベントベースビジョンカメラ131を用いることにより、鋭敏に変化するスペックル像を高速に取得し、被測定物10の微小な変位を確実に捉えることができる。
(輝度変化座標検出手段130の構成の他の一例)
図3は、第1実施形態に係る変位量測定装置100が備える輝度変化座標検出手段130の構成の他の一例を示す図である。
図3に示す例では、輝度変化座標検出手段130は、フレームカメラ132、連続フレーム間輝度差演算手段133、および輝度変化座標抽出手段134を有して構成される。
フレームカメラ132は、干渉像が写し出されている通常のフレーム画像を撮像し、当該フレーム画像を出力する。連続フレーム間輝度差演算手段133は、フレームカメラ132から出力された連続する2つのフレーム画像における各画素の輝度差を算出する。輝度変化座標抽出手段134は、輝度変化座標抽出手段134によって一定以上の輝度差が算出された画素を、輝度変化座標として抽出する。そして、輝度変化座標抽出手段134は、抽出された輝度変化座標に関し、輝度変化の発生時刻(T)、発生位置(X,Y)、および極性(P)を含むイベントデータを出力する。
(輝度変化座標検出手段130によるイベントデータの出力例)
図4は、第1実施形態に係る変位量測定装置100が備える輝度変化座標検出手段130によるイベントデータの出力例を示す図である。
図4(a)および図4(b)は、イベントベースビジョンカメラ131が備えるイベントベースビジョンセンサの受光面上に形成されるスペックル像の一例を示す図である。但し、図4(a)は、時刻tにおけるスペックル像400Aを示す。また、図4(b)は、時刻t+Δtにおけるスペックル像400Bを示す。図4(c)は、イベントベースビジョンカメラ131によって出力されるイベントデータの一例であり、図4(a)に示すスペックル像と、図4(b)に示すスペックル像とに基づいて生成されるイベントデータ410である。
イベントベースビジョンカメラ131が有するイベントベースビジョンセンサは、2次元配列された画素集合において、輝度変化が所定の閾値を超えた画素(すなわち、輝度変化座標)が検出されたとき(すなわち、イベント発生時)、発生時刻(T)、発生位置(X,Y)、および極性(P)を含むデータを、イベントデータとして出力する光検出素子である。極性(P)は、「1:増加」または「0:減少」の2値を採り得る。
例えば、図4(a)に示す時刻tにおけるスペックル像400Aが、Δt後に、図4(b)に示す時刻t+Δtにおけるスペックル像400Bへと、水平方向に並進した場合、時刻t+Δtにおけるイベントベースビジョンセンサの輝度変化の極性は、図4(c)のイベントデータ410に示すように、輝度値が一定値以上の減少した減少成分410A(図中薄い網掛けがなされた領域)と、輝度値が一定値以上の増加した増加成分410B(図中濃い網掛けがなされた領域)とを有して、空間的に分布する。
この場合、イベントベースビジョンセンサは、増加成分410B内の全ての画素に関し、信号検出の時刻(T)、画素位置(X,Y)、および極性(1:増加)を含む信号の時系列データ群を出力する。また、イベントベースビジョンセンサは、減少成分410A内の全ての画素について、信号検出の時刻(T)、画素位置(X,Y)、および極性(0:減少)を含む信号の時系列データ群を出力する。この際、イベントベースビジョンセンサは、減少成分410Aおよび増加成分410Bの領域のいずれにも該当しない他の領域(図中網掛けが成されていない領域)の全ての画素について、データ出力を行わない。このため、イベントベースビジョンセンサから出力されるイベントデータ410は、フレーム画像データと比較して極めてデータ量が少ない。
このように、イベントベースビジョンセンサは、フレームレートによる制約がなく、フレーム画像データを出力するイメージセンサと比較して、高速にスペックル像のシフト情報を、イベントデータとして出力することができる。
例えば、イベントベースビジョンセンサは、センサ面内の全イベントデータのサンプリング時間は1~200us程度であり、通常のビデオカメラなどのフレームレートに対して極めて高速である。したがって、輝度変化座標検出手段130が有するイベントベースビジョンセンサは、被測定物10の変位に対して鋭敏に変化するスペックル像のシフト量を、高速且つ確実に検知することができる。
(変位量推定手段151による変位量の推定の原理)
図5は、第1実施形態に係る変位量測定装置100が備える変位量推定手段151による変位量の推定の原理を説明するための図である。
図5(a)および図5(b)は、イベントベースビジョンカメラ131から出力されるイベントデータに基づくフレーム画像の一例である。但し、図5(a)は、時刻tにおけるフレーム画像500Aを示す。また、図5(b)は、時刻t+Δtsにおけるフレーム画像500Bを示す。なお、フレーム画像500A,500Bでは、輝度値が一定値以上増加した増加成分のみを示している。また、図5(c)は、フレーム画像500A,500Bに基づいて算出された相互相関関数の一例を示す。
まず、本推定原理は、イベントベースビジョンカメラ131から出力されるイベントデータの時系列データから、図5(a)のようなフレーム画像500Aを得るために、単位フレームを算出する積算時間を設定し、画像を表す2次元行列を用意し、積算時間内に画素位置に対応する行列番号が出現する回数をカウントする。
次に、本推定原理は、図5(b)に示すように、図5(a)のフレーム画像500Aの時刻、例えば、積算開始時刻(t)よりΔtsだけ離れた時間を積算の開始点として、同様に積分時間内に出現する行列番号の出現回数をカウントする。
図5(b)のフレーム画像500Bにおける点線は、図5(a)のフレーム画像500Aのパターンを示しており、これらのパターンは、図5(b)のフレーム画像500Bにおいては、薄い網掛けで示す位置に並進している。
次に、本推定原理は、フレーム画像500Aとフレーム画像500Bとの間の相互相関関数(図5(c)参照)を算出する。
図5(c)に示すように、相関関数の変数、すなわち変位量をΔX軸、ΔY軸とした場合に、スペックルパターンの並進量に対応した距離および位置(画像上のピクセル変位量)に相互相関関数のピーク値が得られる。例えば、本推定原理は、フレーム画像500A,500BのいずれかをX軸方向およびY軸方向にずらして画像の重なり領域について積算することで、図5(c)に示す相互相関関数を算出できる。
また、本推定原理は、相互相関関数の算出に、フレーム画像500A,500Bをフーリエ変換して、一方の複素共役を他方に乗じた後に、逆フーリエ変換を施すことにより算出する方法(ウィーナー=ヒンチンの定理)を用いることもできる。
(変位量推定手段151による変位量推定方法の原理)
図6は、一実施形態に係る変位量推定手段151による、被測定物10の変位量の推定方法の原理を説明するための図である。
図6(a)は、一実施形態に係る変位量測定装置100が備える光学系を示す図である。図6(b)は、一実施形態に係る変位量測定装置100が備えるイベントベースビジョンカメラ131から出力されるイベントデータ群の一例を示す図である。図6(c)は、異なる2つの時刻のイベントデータ群の画像イメージを示す図である。
図6(a)に示すように、変位量測定装置100は、照射手段110からコヒーレント光を被測定物10である粗面10Aに照射し、その反射光を輝度変化座標検出手段130の受光面で受光することで、イベントベースビジョンカメラ131の受光面上に形成されるスペックル像を測定することができる。
ここで、図6(a)に示すように、粗面10Aが変位すると、輝度変化座標検出手段130の受光面上のスペックル像も同一方向に並進する。また、粗面10Aの変位量と輝度変化座標検出手段130の受光面上のスペックル像の並進量との比は、同一条件下では一定である。このことから、変位量測定装置100は、輝度変化座標検出手段130の受光面上のスペックル像の並進に基づいて、被測定物10の変位を推定することができる。
図6(b)に示すイベントデータ群600は、粗面10Aの変位前の時刻にて取得された、時系列に連続する100個のイベントデータを含むイベントデータ群である。図6(b)に示すイベントデータ群601は、粗面10Aの変位後に時刻にて取得された、時系列に連続する100個のイベントデータを含むイベントデータ群である。図6(b)に示すように、イベントデータ群600,601を構成する各イベントデータは、輝度変化の発生した時刻、座標、および極性を含んでいる。
このため、図6(b)に示すイベントデータ群600に含まれる100個のイベントデータを合算すると、図6(c)に示す複数のスペックル像610が求められる。
また、図6(b)に示すイベントデータ群601に含まれる100個のイベントデータを合算すると、図6(c)に示す複数のスペックル像610'が求められる。
すなわち、複数のスペックル像610は、粗面10Aの変位に伴って、複数のスペックル像610'へと並進する。したがって、複数のスペックル像610'と、複数のスペックル像610との差分は、すなわち、粗面10Aの変位量を推定できるものとなる。
なお、イベントデータ群601とイベントデータ群601との間の時間は極めて短いことから、粗面10Aおよび複数のスペックル像610は、等速運動しているものと仮定しても問題ない。したがって、複数のスペックル像610のパターンと、複数のスペックル像610'のパターンとは、略同一である。
(変位量推定手段151による変位量算出方法の一例)
図7は、一実施形態に係る変位量測定装置100が備える変位量推定手段151による、被測定物10の変位量の算出方法の一例を説明するための図である。
図7では、イベントデータ群に含まれる5つの輝度変化座標を代表的に用いて、被測定物10の変位量の算出方法を説明する。
図7(a)~(c)に示す輝度変化座標700は、粗面10Aの変位前の時刻にて検出された輝度変化座標である。図7(a)~(c)に示す輝度変化座標700'は、粗面10Aの変位後の時刻にて検出された輝度変化座標であり、輝度変化座標700が並進したものである。
まず、図7(a)に示すように、変位量推定手段151は、時系列における1番目の輝度変化座標700に着目し、当該1番目の輝度変化座標700と、5つの輝度変化座標700'の各々との、座標値の差分値を算出する。
次に、図7(b)に示すように、変位量推定手段151は、時系列における2番目の輝度変化座標700に着目し、当該2番目の輝度変化座標700と、5つの輝度変化座標700'の各々との、座標値の差分値を算出する。
同様に、変位量推定手段151は、時系列における3番目の輝度変化座標700に着目し、当該3番目の輝度変化座標700と、5つの輝度変化座標700'の各々との、座標値の差分値を算出する。
同様に、変位量推定手段151は、時系列における4番目の輝度変化座標700に着目し、当該4番目の輝度変化座標700と、5つの輝度変化座標700'の各々との、座標値の差分値を算出する。
最後に、図7(c)に示すように、変位量推定手段151は、時系列における5番目の輝度変化座標700に着目し、当該5番目の輝度変化座標700と、5つの輝度変化座標700'の各々との、座標値の差分値を算出する。
すなわち、変位量推定手段151は、粗面10Aの変位前のイベントデータ群に含まれる全ての輝度変化座標700について、粗面10Aの変位後のイベントデータ群に含まれる全ての輝度変化座標700'の各々との、座標値の差分値を算出する。
したがって、例えば、変位量推定手段151は、粗面10Aの変位前のイベントデータ群と、粗面10Aの変位後のイベントデータ群とが、それぞれ100個のイベントデータを含む場合、100×100=10000個の差分値を算出する。
ここで、変位前のイベントデータ群に含まれる、ある1つの輝度変化座標700に着目した場合、算出された複数の差分値の中には、スペックル全体の並進と同方向且つ同距離の差分値(Δx,Δy)が、必ず1つ存在している。このことは、全ての輝度変化座標700にも当てはまる。
このため、変位量推定手段151によって算出された差分値の中には、最終的に、スペックル全体の並進と同方向且つ同距離の差分値(Δx,Δy)が、変位前のイベントデータ群に含まれるイベントデータ数と同数存在することとなる。
したがって、変位量推定手段151によって算出された複数の差分値の度数分布をヒストグラム化すると、当該ヒストグラムは、スペックル全体の並進と同方向且つ同距離の差分値(Δx,Δy)において、ピークを有するものとなる。
(変位量推定手段151によって算出された複数の差分値の度数分布)
図8は、一実施形態に係る変位量測定装置100が備える変位量推定手段151によって算出された複数の差分値の度数分布を表すヒストグラムである。
図8に示すヒストグラムは、変位量推定手段151によって図7で説明した方法を用いて算出された複数の差分値の度数分布を表すものであり、横軸を座標値(X座標またはY座標)の差分値とし、縦軸を度数とするものである。
図8に示すように、複数の差分値の度数分布を表すヒストグラムは、ある差分値にピークを持つものとなる。このピークとなる差分値は、実際のスペックル像の並進量(実移動量)と同値である。
このことから、変位量推定手段151は、複数の差分値のうちの最頻値を、実際のスペックル像の並進量として特定することができ、当該最頻値に基づいて、被測定物10粗面10Aの変位量を推定することができる。
このように、変位量推定手段151は、2つのイベントデータ群のそれぞれの積算により2枚のスペックル像を生成することなく、直接的な数値列の差分演算により、スペックル像の並進量を算出できるため、被測定物10の変位量を、演算負荷を低減させ高速に算出することができる。
(変位量推定手段151の機能構成)
図9は、一実施形態に係る変位量測定装置100が備える変位量推定手段151の機能構成の一例を示す図である。
図9に示すように、変位量推定手段151は、イベントデータ群生成手段171および要素別数値列生成手段172を備える。
イベントデータ群生成手段171は、輝度変化座標検出手段130から出力された所定数のイベントデータを取得して、当該所定数のイベントデータを含むイベントデータ群を生成する。
要素別数値列生成手段172は、イベントデータ群生成手段171によって生成されたイベントデータ群における要素別の数値列を生成する。具体的には、要素別数値列生成手段172は、X座標(「第1の要素」の一例)の集合からなる第1の数値列と、Y座標(「第2の要素」の一例)の集合からなる第2の数値列とを生成する。
また、変位量推定手段151は、第1の数値列処理系統P1と、第2の数値列処理系統P2とを備える。
第1の数値列処理系統P1は、イベントデータから抽出された輝度変化座標の位置を表すX座標(「第1の要素」の一例)の集合からなる第1の数値列の演算処理を行うことにより、被測定物10のX座標の変位量を算出する。
第2の数値列処理系統P2は、イベントデータから抽出された輝度変化座標の位置を表すY座標(「第2の要素」の一例)の集合からなる第2の数値列の演算処理を行うことにより、被測定物10のY座標の変位量を算出する。
第1の数値列処理系統P1および第2の数値列処理系統P2の各々は、数値列補正手段173、演算組み合わせ選定手段174、および変位量導出手段175を有する。
数値列補正手段173は、第1の数値列または第2の数値列に対する所定の補正を行う。所定の補正とは、例えば、正負いずれかの極性を有するイベントデータの輝度変化座標のみを抽出する処理、ソート処理等である。
演算組み合わせ選定手段174は、数値列補正手段173によって補正された第1の数値列または第2の数値列について、演算対象とする輝度変化座標の組み合わせを選定する。具体的には、演算組み合わせ選定手段174は、一方のイベントデータ群に含まれる輝度変化座標と、他方のイベントデータ群に含まれる輝度変化座標との組み合わせ(例えば、総当たりの組み合わせ、同一降下順同士の組み合わせ等)を選定する。
変位量導出手段175は、演算組み合わせ選定手段174によって選定された全ての輝度変化座標の組み合わせについて、座標値の差分値を算出する。そして、変位量導出手段175は、算出された複数の差分値のうちの最頻値を、実際のスペックル像のX軸またはY軸の並進量として特定し、当該最頻値に基づいて、被測定物10のX軸またはY軸の変位量を推定する。さらに、変位量導出手段175は、推定された被測定物10のX軸またはY軸の変位量を、変位推定値出力手段152へ出力する。
なお、変位量推定手段151は、数値列補正手段173および演算組み合わせ選定手段174を有しなくともよい。すなわち、変位量推定手段151は、数値列の補正と、演算対象とする輝度変化座標の組み合わせの選定とを行わなくともよい。この場合、変位量推定手段151は、「総当たりの組み合わせ」を自動的に選定してもよい。
(変位量推定手段151による処理の手順の一例)
図10は、一実施形態に係る変位量測定装置100が備える変位量推定手段151による処理の手順の一例を示すフローチャートである。
まず、イベントデータ群生成手段171が、輝度変化座標検出手段130から出力されたイベントデータを取得する(ステップS101)。次に、イベントデータ群生成手段171は、ステップS101で取得されたイベントデータを、変位量測定装置100が備えるメモリに記憶させる(ステップS102)。
そして、イベントデータ群生成手段171は、ステップS101およびS102を繰り返し実行することによって、所定数(例えば、100個)のイベントデータがメモリに記憶されると、当該所定数のイベントデータから、イベントデータ群を生成する(ステップS103)。
また、イベントデータ群生成手段171は、ステップS101~S103を2回実行することにより、異なる2つの時刻のイベントデータ群を生成する。
続いて、要素別数値列生成手段172は、生成された2つのイベントデータ群各々について、X座標の集合からなる第1の数値列と、Y座標の集合からなる第2の数値列とを生成する(ステップS104)。
次に、第1の数値列処理系統P1において、数値列補正手段173は、第1の数値列に対する所定の補正(例えば、極性による分類、ソート処理等)を行う(ステップS105)。また、演算組み合わせ選定手段174が、ステップS105で補正された第1の数値列について、演算対象とする輝度変化座標の組み合わせを選定する(ステップS106)。そして、変位量導出手段175が、ステップS106で選定された全ての輝度変化座標の組み合わせについて、座標値の差分値を算出し、算出された複数の差分値のうちの最頻値を、実際のスペックル像のX軸の並進量として特定し、当該最頻値に基づいて、被測定物10のX軸の変位量を推定する(ステップS107)。
また、ステップS105~ステップS107と並行して、第2の数値列処理系統P2において、数値列補正手段173が、第2の数値列に対する所定の補正(例えば、極性による分類、ソート処理等)を行う(ステップS108)。また、演算組み合わせ選定手段174が、ステップS108で補正された第2の数値列について、演算対象とする輝度変化座標の組み合わせを選定する(ステップS109)。そして、変位量導出手段175が、ステップS109で選定された全ての輝度変化座標の組み合わせについて、座標値の差分値を算出し、算出された複数の差分値のうちの最頻値を、実際のスペックル像のY軸の並進量として特定し、当該最頻値に基づいて、被測定物10のY軸の変位量を推定する(ステップS110)。
さらに、変位量導出手段175が、ステップS107で推定された被測定物10のX軸の変位量と、ステップS110で推定された被測定物10のY軸の変位量とを、変位推定値出力手段152へ出力する(ステップS111)。
その後、変位量推定手段151は、図10に示す一連の処理を終了する。なお、変位量推定手段151は、図10に示す一連の処理を繰り返し実行することにより、被測定物10の変位量を高速に推定し続けることができる。
(変位量推定手段151による計算量の一例)
図11は、一実施形態に係る変位量測定装置100が備える変位量推定手段151による計算量の一例を示すグラフである。
図11に示すグラフは、320×240pxの画像素子を備えたイベントベースビジョンカメラ131において、1秒間に10000個のイベントデータが出力される場合の、変位量測定装置100による必要計算量を示す。
図11に示すグラフにおいて、横軸は、変位の速度分解能を表すイベントデータ群毎秒を示す。イベントデータ群毎秒の値が大きいほど、被測定物10の速い変位を追従可能となる。イベントデータ群に含まれるイベントデータの数をnとした場合、イベントデータ群毎秒は1秒に出力されたイベントデータにnを除算した値である。
図11に示すグラフでは、凡例として、三角実線で示される「総当たり方式」と、丸点線で示される「画像相関方式」とを含んでいる。なお、「総当たり方式」は、一実施形態に係る変位量測定装置100に用いられる方式である。一方、「画像相関方式」は、従来の変位量測定装置に用いられる方式である。
「総当たり方式」とは、一方のイベントデータ群に含まれる全ての輝度変化座標と、他方のイベントデータ群に含まれる全ての輝度変化座標との、全ての組み合わせについて、差分値を算出し、算出された複数の差分値のうちの最頻値を、被測定物10の変位量として算出する方式である。
「画像相関方式」とは、2つのイベントデータ群により生成される2つの画像の相関から、被測定物10の変位量を求める方式である。
「総当たり方式」では、全ての組み合わせの差分値の算出が必要であり、総当たりで差分値を求める計算量はO(n2)、度数分布を求める計算量はO(n2)であるので、全体の計算量はO(n2)である。よって、「総当たり方式」では、被測定物10の変位量を求めるために必要な計算量は、下記式(1)で表すことができる。
Figure 2023135357000002
このため、「総当たり方式」では、1回の計算量は、イベントデータ群に含まれるイベントデータの数nに比例する。また、イベントデータ群毎秒は、イベントデータ群に含まれるイベントデータの数nと反比例の関係である。よって、イベントデータ群毎秒に対する計算量は、反比例関係にある。
「画像相関方式」では、2つの画像をフーリエ変換し、合成画像を生成し、逆フーリエ変換する必要がある。フーリエ変換および逆フーリエ変換に必要な計算量は、画素数Nに対して、NlogNで表すことができる。また、合成画像生成に必要な計算量はNである。よって、「画像相関方式」では、被測定物10の変位量を求めるために必要な計算量は、下記式(2)で表すことができる。
Figure 2023135357000003
このため、「画像相関方式」では、1回の計算量は、イベントデータ群に含まれるイベントデータの数nに依存しない。よって、イベントデータ群毎秒に対する計算量は、概ね比例する。
図11に示すグラフによれば、イベントデータ群毎秒が約275を超える状況(被測定物10が高速に変位する状況)では、一実施形態に係る変位量測定装置100に用いられる「総当たり方式」が、従来の変位量測定装置に用いられる「画像相関方式」に比べて、少ない計算量で被測定物10の変位量を推定できることがわかる。
(変位量推定手段151による変位量算出方法の他の一例)
図12は、一実施形態に係る変位量測定装置100が備える変位量推定手段151による、被測定物10の変位量の算出方法の他の一例を説明するための図である。
図12では、イベントデータ群に含まれる5つの輝度変化座標を代表的に用いて、被測定物10の変位量の算出方法を説明する。
図12(a)~(b)に示す輝度変化座標700は、粗面10Aの変位前の時刻にて検出された輝度変化座標である。図12(a)~(b)に示す輝度変化座標700'は、粗面10Aの変位後の時刻にて検出された輝度変化座標であり、輝度変化座標700が並進したものである。
輝度変化座標700,700'に付されている番号は、Y軸の座標値を降順にソートしたときの順番である。また、図12(b)は、図12(a)を、輝度変化座標700,700'を、Y軸の座標値の降順に、同一直線上(Y軸上)に配列したものである。
変位量推定手段151は、「ソート方式」として、5つの輝度変化座標700の各々について、同一番号を有する輝度変化座標700'との、座標値の差分値を算出する。
例えば、変位量推定手段151は、「1」が付与されている輝度変化座標700については、「1」が付与されている輝度変化座標700'との、座標値の差分値を算出する。
また、例えば、変位量推定手段151は、「2」が付与されている輝度変化座標700については、「2」が付与されている輝度変化座標700'との、座標値の差分値を算出する。
同様に、変位量推定手段151は、他の番号が付与されている輝度変化座標700についても、同じ番号が付与されている輝度変化座標700'との、座標値の差分値を算出する。
これにより、変位量推定手段151は、複数の輝度変化座標700の各々について、同番号が付与された輝度変化座標700'との差分値のみ(すなわち、全体並進量と等しい差分値のみ)を算出することができる。したがって、変位量推定手段151は、図7に示す「総当たり方式」と比較して、差分値の算出処理に係る演算処理量を軽減することができる。
変位量推定手段151は、「ソート方式」を用いる場合、複数の輝度変化座標700の各々について、同番号が付与された1つの輝度変化座標700'との差分値だけでなく、同番号の周辺の番号が付与された複数の輝度変化座標700'との差分値も算出してもよい。
例えば、変位量推定手段151は、「2」が付与されている輝度変化座標700については、「2」が付与されている輝度変化座標700'との差分値だけでなく、「1」が付与されている輝度変化座標700'との差分値と、「3」が付与されている輝度変化座標700'との差分値とを算出してもよい。
これにより、変位量推定手段151は、ノイズ、イベントデータの重複等に起因して、輝度変化座標700と輝度変化座標700'との間で、番号のずれが生じた場合であっても、実際に対応する輝度変化座標700と輝度変化座標700'との差分値を算出することができる。
(変位量推定手段151による計算量の一例)
図13は、一実施形態に係る変位量測定装置100が備える変位量推定手段151による計算量の他の一例を示すグラフである。
図13に示すグラフは、320×240pxの画像素子を備えたイベントベースビジョンカメラ131において、1秒間に10000個のイベントデータが出力される場合の、変位量測定装置100による必要計算量を示す。
図13に示すグラフでは、凡例として、三角実線で示される「総当たり方式」と、丸点線で示される「画像相関方式」と、四角一点鎖線で示される「ソート方式」とを含んでいる。なお、「ソート方式」は、一実施形態に係る変位量測定装置100に用いられる他の方式である。
また、ここでは、「ソート方式」において、各算出元の輝度変化座標(図12の輝度変化座標700に相当)について、算出相手の輝度変化座標(図12の輝度変化座標700'に相当)の範囲を、「同番号±3」としており、すなわち、算出相手の輝度変化座標の数(周辺領域数)を「7」としている。
「ソート方式」では、イベントデータ群の数列をソートするため、nlog(n)の計算量が必要であり、この計算を2つの数列に対して実施するため、2nlog(n)の計算量が必要となる。
また、ここでは、「ソート方式」において、イベントデータ群に含まれるイベントデータの数をnとし、算出相手の輝度変化座標の数(周辺領域数)を「7」としていることから、7nの計算量が必要となる。
さらに、「ソート方式」では、イベントデータ群の数列をソートするためにO(n logn)、座標差分計算にO(n)、度数分布の算出にO(n)だけの計算量がかかり、全体としてはO(n logn)の計算量がかかる。
よって、「ソート方式」では、被測定物10の変位量を求めるために必要な計算量は、下記式(3)で表すことができる。
Figure 2023135357000004
このため、「ソート方式」では、1回の計算量は、nlog(n)に比例する。また、イベントデータ群毎秒は、イベントデータ群に含まれるイベントデータの数nと反比例の関係である。よって、イベントデータ群毎秒に対する計算量はlog(n)比例であり、nが大きい場合、計算量はほとんど一定となる。
図13に示すグラフによれば、「ソート方式」は、「総当たり方式」と比べて、少ない計算量で被測定物10の変位量を推定できることがわかる。
(変位量推定手段151の機能構成の他の一例)
図14は、一実施形態に係る変位量測定装置100が備える変位量推定手段151の機能構成の他の一例を示す図である。
図14に示す変位量測定装置100においては、輝度変化座標検出手段130が備えるイベントベースビジョンカメラ131の受光素子131Aに対し、露光領域131Bを設定する。この露光領域131Bは、時間とともにX軸方向に走査する。これにより、イベントベースビジョンカメラ131から出力されるイベントデータのX座標値は、予め周期的にソートされた状態となる。
このため、変位量推定手段151は、Y軸に関する第2の数値列のみソートのみを行えばよく、第1の数値列処理系統P1の数値列補正手段173が不要となる。したがって、図14に示す変位量測定装置100は、変位量推定手段151の演算処理量をさらに軽減することができる。
(変位量推定手段151の機能構成のさらなる他の一例)
図15は、一実施形態に係る変位量測定装置100が備える変位量推定手段151の機能構成のさらなる他の一例を示す図である。
図15に示す変位量測定装置100は、第1の数値列処理系統P1および第2の数値列処理系統P2の各々が、数値列補正手段173の代わりに、度数分布配列生成手段176を有する点で、図9に示す変位量測定装置100と異なる。度数分布配列生成手段176は、時刻の異なる2つのイベントデータ群から、2つの度数分布配列を生成する。
また、図15に示す変位量測定装置100は、第1の数値列処理系統P1および第2の数値列処理系統P2の各々において、変位量導出手段175が、「総当たり方式」の代わりに、「畳み込み演算方式」を用いて、被測定物10の変位量を算出する点で、図9に示す変位量測定装置100と異なる。
また、図15に示す変位量測定装置100は、第1の数値列処理系統P1および第2の数値列処理系統P2の各々が、演算組み合わせ選定手段174を有しない点で、図9に示す変位量測定装置100と異なる。
以下、図15に示す変位量測定装置100が備える変位量導出手段175による、「畳み込み演算方式」を用いた、被測定物10の変位量の算出方法を、イベントデータ群のX軸座標要素に着目して説明する。
なお、以下の説明において、なおX軸方向のイベントカメラのセンサ数をMとし、時系列的に早いイベントデータ群をAとし、時系列的に遅いイベントデータ群をBとする。
イベントデータ群Aには、N個のイベントデータが含まれており、そのX座標はそれぞれAx0,Ax1,Ax2・・・AxN-1と表される。
また、イベントデータ群Bには、N個のイベントデータが含まれており、そのX座標はそれぞれBx0、Bx1、Bx2・・・BxN-1と表される。
また、AxiおよびBxi(i=0,1,・・・,N-1)は、X座標が持てる区間(0~M-1)の整数である。
ここでイベントデータ分A,Bの座標情報であるAx、Bxのうち同一座標が何個あるかに注目した数列として、s(イベントデータ群Aのうち、AxがM-1-iであるものの個数をs[i]として定義される数列)、t(イベントデータ群Bのうち、Bxがiであるものの個数をt[i]として定義される数列)を設定する。この配列s,tからは、下記数式(4)によって求められる配列dを定義できる。
Figure 2023135357000005
なお、d[k]は、「Bxj-Ax_i=k-(M-1)を満たす整数の組(i,j)(0≦i,j≦N-1)の個数」に等しい。
上記数式(4)の右辺を式変形すると、下記数式(5)となり、畳み込みの形式で表すことができる。
Figure 2023135357000006
このことから、配列s,t,dを離散フーリエ変換することにより得られる配列をそれぞれS,T,Dとした場合、配列Dは、
D[k]=S[k]・T[k] (k=0,1,…,2M-2)
として計算することができ、さらにD(第1の配列)を逆離散フーリエ変換することで、d(第2の配列)を求めることができる。このdは差分座標の頻度を示していることから、dの最頻値を抽出することで、スペックルの並進量を推定できる。
なお、「畳み込み演算方式」は、数列同士の差分の頻度を離散フーリエ変換を用いて求めることから、第1の数値列処理系統P1および第2の数値列処理系統P2の各々は、高度な演算処理を実施できるFPGA、GPU等を備えることが好ましい。
(情報処理部150のハードウェア構成)
図16は、一実施形態に係る変位量測定装置100が備える情報処理部150のハードウェア構成図である。図16は、情報処理部150がパーソナルコンピュータで実現される場合の、情報処理部150のハードウェア構成の一例を表している。
図16に示されているように、情報処理部150は、コンピュータによって構築されており、CPU201A、CPU201B、ROM202、RAM203、HD204、HDD(Hard Disk Drive)コントローラ205、ディスプレイ206、外部機器接続I/F(Interface)208、ネットワークI/F209、データバス210、キーボード211、ポインティングデバイス212、DVD-RW(Digital Versatile Disk Rewritable)ドライブ214、メディアI/F216を備えている。
これらのうち、CPU201AおよびCPU201Bは、情報処理部150全体の動作を制御する。ROM202は、IPL等のCPU201の駆動に用いられるプログラムを記憶する。RAM203は、CPU201のワークエリアとして使用される。HD204は、プログラム等の各種データを記憶する。HDDコントローラ205は、CPU201の制御にしたがってHD204に対する各種データの読み出し又は書き込みを制御する。ディスプレイ206は、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示する。外部機器接続I/F208は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USB(Universal Serial Bus)メモリやプリンタ等である。ネットワークI/F209は、通信ネットワークを利用してデータ通信をするためのインターフェースである。データバス210は、図16に示されているCPU201AおよびCPU201B等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
また、キーボード211は、文字、数値、各種指示などの入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス212は、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行う入力手段の一種である。DVD-RWドライブ214は、着脱可能な記録媒体の一例としてのDVD-RW213に対する各種データの読み出し又は書き込みを制御する。なお、DVD-RWに限らず、DVD-R等であってもよい。メディアI/F216は、フラッシュメモリ等の記録メディア215に対するデータの読み出し又は書き込み(記憶)を制御する。
上記のとおり、情報処理部150は、2つのCPU(CPU201AおよびCPU201B)を有する。例えば、CPU201Aは、第1の数値列処理系統P1の処理を実行する。また、例えば、CPU201Bは、第2の数値列処理系統P2の処理を実行する。CPU201AおよびCPU201Bは、互いに並列して処理を実行することができる。これにより、情報処理部150は、CPU201A(第1の数値列処理系統P1)による第1の数値列の演算処理と、CPU201B(第2の数値列処理系統P2)による第2の数値列処理系統とを、並列して実行することができる。
なお、第1の数値列処理系統P1および第2の数値列処理系統P2は、互いに並列して処理を実行することが可能なものであれば、如何なるハードウェアの組み合わせであってもよく、2つのCPUの組み合わせに限らず、2つの演算回路の組み合わせ、2つのコンピュータの組み合わせ、等であってもよい。
(第1実施例)
図17は、一実施形態に係る変位量測定装置100の第1実施例である非接触入力装置1100の概略図である。図18は、一実施形態に係る変位量測定装置100の第1実施例である非接触入力装置1100の断面構成図である。
図17および図18に示すように、非接触入力装置1100は、筐体1101、画像表示手段1102、結像プレート1103、光学窓1104、非接触入力識別手段1105、および変位量測定装置100を備える。非接触入力装置1100が備える変位量測定装置100としては、一実施形態に係る変位量測定装置100を用いることができる。また、図17および図18では、変位量測定装置100が備える干渉像形成手段120の図示を省略している。
非接触入力装置1100において、変位量測定装置100が備える照射手段110は、筐体1101の上方且つ前方(画像表示手段1102および結像プレート1103によって形成される虚像の近傍)に向けて、コヒーレント光をシート光として照射する。そして、虚像に対する被測定物10(操作者の指)の非接触操作に伴って、被測定物10がシート光を横切ると、被測定物10によるシート光の反射光が、光学窓1104を介して筐体1101内の変位量測定装置100が備える輝度変化座標検出手段130に干渉像として入射されるようになっている。
これにより、変位量測定装置100が備える情報処理部150(図示省略)は、被測定物10の微小変位量を検出し、検出された被測定物10の微小変位量を示す情報を、非接触入力識別手段1105へ出力することができる。
非接触入力識別手段1105は、変位量測定装置100から出力された微小変位量を示す情報に基づいて、被測定物10による非接触操作(例えば、指の押し込み動作、手書き動作、スワイプ動作等)を高精度に検出し、その検出結果を、被操作装置(図示省略)へ出力したり、操作者へフィードバックしたりすることができる。
なお、非接触入力装置1100では、操作性向上のため、結像プレート1103を用いて、画像表示手段1102に表示される画像や映像情報から虚像を形成し、当該虚像を筐体1101の上方且つ前方に表示することができる。結像プレート1103とは、図18に示すように、光線の透過偏向特性を有する部材であり、積層された反射構造により実現できる。
非接触入力装置1100は、一実施形態に係る変位量測定装置100を備えることにより、当該変位量測定装置100によって被測定物10(操作者の指)の非接触操作の微小な動きを高速且つ確実に捉えることができ、すなわち、被測定物10(操作者の指)の非接触操作を高精度に検出することができる。
(第2実施例)
図19は、一実施形態に係る変位量測定装置100の第2実施例である振戦測定装置1200の概略図である。図20は、一実施形態に係る変位量測定装置100の第2実施例である振戦測定装置1200の断面構成図である。
図19および図20に示すように、振戦測定装置1200は、「生体微動測定装置」の一例であり、筐体1201、円筒レンズ1202、折り返しミラー1203、光学窓1204、支持台1205、表示デバイス1206、および変位量測定装置100を備える。振戦測定装置1200が備える変位量測定装置100としては、一実施形態に係る変位量測定装置100を用いることができる。また、図19および図20では、変位量測定装置100が備える干渉像形成手段120の図示を省略している。
図19および図20に示す振戦測定装置1200は、被測定物10である生体の小刻みな振動(例えば、振戦)を検知することが可能な装置である。振戦とは、筋肉の収縮、弛緩が繰り返される際に起こる不随意運動であり、手の震えなどが代表的である。振戦は、例えば、ストレス、不安、疲労、甲状腺機能亢進症、アルコールの離脱症状等を原因として生じ得る。また、安静時振戦はパーキンソン病の主症状の一つとされる。
振戦の測定は従来、筋電位計測や加速度センサを用いて行われている。図19および図20に示す振戦測定装置1200は、変位量測定装置100を用いたことにより、マイクロメートルレベルの被測定物10の微振動を捉えることができるため、非接触環境で振戦を高精度に測定することが可能である。
図19に示すように、振戦測定装置1200による振戦の測定は、肘から前腕の角度が水平な支持台1205に対して45°となるようにして測定する。そして、振戦測定装置1200は、照射手段110から手の甲にコヒーレント光を照射し、手の甲によるコヒーレント光の反射光が、輝度変化座標検出手段130に干渉像として入射されるようになっている。
これにより、変位量測定装置100が備える情報処理部150は、被測定物10の微小変位量を検出することができ、すなわち、被測定物10の振戦を高精度に測定することができる。変位量測定装置100によって測定された振戦データは周波数解析等を施すことにより、人の状態理解や医療データとして利用可能となる。
以上、本発明の好ましい実施形態について詳述したが、本発明はこれらの実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形又は変更が可能である。
なお、「変位量測定装置」の各機能は、「変位量測定システム」によって実現されてもよい。この場合、「変位量測定システム」は、物理的に1つの装置によって実現されてもよく、物理的に複数の装置によって実現されてもよい。
また、本発明は、「生体微動測定装置」および「非接触入力装置」への適用に限らない。例えば、本発明は、ゲーム機器、入出力機器等にも適用可能である。また、例えば、本発明は、微小な検出を利用するものに限らず、微小な移動誤差を除外するような機器にも適用可能である。
10 被測定物
10A 粗面
100 変位量測定装置
110 照射手段
120 干渉像形成手段
130 輝度変化座標検出手段
131 イベントベースビジョンカメラ
131A 受光素子
131B 露光領域
132 フレームカメラ
133 連続フレーム間輝度差演算手段
134 輝度変化座標抽出手段
150 情報処理部
151 変位量推定手段
152 変位推定値出力手段
171 イベントデータ群生成手段
172 要素別数値列生成手段
173 数値列補正手段
174 演算組み合わせ選定手段
175 変位量導出手段
176 度数分布配列生成手段
400A,400B スペックル像
410 イベントデータ
410A 減少成分
410B 増加成分
500A,500B フレーム画像
600,601 イベントデータ群
610,610' スペックル像
700,700' 輝度変化座標
1100 非接触入力装置
1101 筐体
1102 画像表示手段
1103 結像プレート
1104 光学窓
1105 非接触入力識別手段
1200 振戦測定装置(生体微動測定装置)
1201 筐体
1202 円筒レンズ
1203 折り返しミラー
1204 光学窓
1205 支持台
1206 表示デバイス
P1 第1の数値列処理系統
P2 第2の数値列処理系統
Zhou Ge,Yizhao Gao,Hayden K.-h. So,Edmund Y. Lam,"Event-based laser speckle correlation for micro motion estimation",Optics Letters 46 (2021) 3885-3888

Claims (12)

  1. 被測定物に対してコヒーレント光を照射する照射手段と、
    前記被測定物による反射光に基づいて、輝度変化が生じた輝度変化座標を検出し、当該輝度変化座標に関するデータを出力する輝度変化座標検出手段と、
    前記輝度変化座標検出手段から出力された、前記輝度変化座標に関するデータに基づいて、前記被測定物の変位量を推定する変位量推定手段と
    を備え、
    前記変位量推定手段は、
    前記データから抽出された前記輝度変化座標の位置を表す第1の要素の集合からなる第1の数値列の演算処理を行うことにより、前記被測定物の前記第1の要素の前記変位量を算出する第1の数値列処理系統と、
    前記データから抽出された前記輝度変化座標の位置を表す第2の要素の集合からなる第2の数値列の演算処理を行うことにより、前記被測定物の前記第2の要素の前記変位量を算出する第2の数値列処理系統と
    を有する
    ことを特徴とする変位量測定装置。
  2. 前記第1の数値列処理系統による前記第1の数値列の演算処理と、前記第2の数値列処理系統による前記第2の数値列の演算処理とを、並列して行う
    ことを特徴とする請求項1に記載の変位量測定装置。
  3. 前記輝度変化座標検出手段は、
    前記反射光に基づいて前記輝度変化座標を検出し、当該輝度変化座標に関するデータを出力するイベントベースビジョンカメラを有する
    ことを特徴とする請求項1または2に記載の変位量測定装置。
  4. 前記輝度変化座標検出手段は、
    前記反射光による前記被測定物のフレーム画像を撮像するフレームカメラと、
    前記フレームカメラから出力された複数の前記フレーム画像における各画素の輝度差を算出する連続フレーム間輝度差演算手段と、
    前記連続フレーム間輝度差演算手段によって一定以上の前記輝度差が算出された画素を、前記輝度変化座標として抽出する輝度変化座標抽出手段と
    を有することを特徴とする請求項1または2に記載の変位量測定装置。
  5. 前記第1の数値列処理系統および前記第2の数値列処理系統の各々は、
    時刻の異なる2つのデータ群のうちの、一方のデータ群に含まれる複数の輝度変化座標と、他方のデータ群に含まれる複数の輝度変化座標との組み合わせについて、座標値の差分値を算出し、算出された複数の前記差分値のうちの最頻値を、前記被測定物の変位量として導出する変位量導出手段を有する
    ことを特徴とする請求項1から4のいずれか一項に記載の変位量測定装置。
  6. 前記第1の数値列処理系統および前記第2の数値列処理系統の各々は、
    時刻の異なる2つのデータ群のうちの、一方のデータ群に含まれる複数の輝度変化座標と、他方のデータ群に含まれる複数の輝度変化座標と、をそれぞれ座標値に基づいてソートする、数値列補正手段と、
    前記一方のデータ群に含まれる複数の輝度変化座標と、前記他方のデータ群に含まれる複数の輝度変化座標とにおける、前記ソート後の順番が同一である全ての組み合わせについて、座標値の差分値を算出し、算出された複数の前記差分値のうちの最頻値を、前記被測定物の変位量として導出する変位量導出手段と
    を有することを特徴とする請求項1から4のいずれか一項に記載の変位量測定装置。
  7. 前記変位量導出手段は、
    前記一方のデータ群に含まれる複数の輝度変化座標と、前記他方のデータ群に含まれる複数の輝度変化座標とにおける、前記ソート後の順番が同一である全ての組み合わせと、前記ソート後の順番の差が所定値以下である全ての組み合わせとについて、座標値の差分値を算出し、算出された複数の前記差分値のうちの最頻値を、前記被測定物の変位量として導出する
    ことを特徴とする請求項6に記載の変位量測定装置。
  8. 前記輝度変化座標検出手段は、
    前記データの所定の軸方向の座標値を周期的にソートして出力し、
    前記第1の数値列処理系統および前記第2の数値列処理系統のいずれか一方は、
    前記数値列補正手段による前記ソートを行う代わりに、前記輝度変化座標検出手段による周期的なソート後の複数の前記座標値を含む前記一方のデータ群と、前記輝度変化座標検出手段による周期的なソート後の複数の前記座標値を含む前記他方のデータ群とを取得する
    ことを特徴とする請求項6または7に記載の変位量測定装置。
  9. 前記第1の数値列処理系統および前記第2の数値列処理系統の各々は、
    時刻の異なる2つのデータ群から、2つの度数分布配列を生成する度数分布配列生成手段と、
    変位量導出手段と
    を備え、
    前記変位量導出手段は、
    前記2つの度数分布配列を離散フーリエ変換することによって第1の配列を取得し、
    取得された前記第1の配列の積を逆フーリエ変換することにより第2の配列を生成し、
    生成された前記第2の配列における最頻値を、前記被測定物の変位量として導出する
    ことを特徴とする請求項1から4のいずれか一項に記載の変位量測定装置。
  10. 被測定物に対してコヒーレント光を照射する照射手段と、
    前記被測定物による反射光に基づいて、輝度変化が生じた輝度変化座標を検出し、当該輝度変化座標に関するデータを出力する輝度変化座標検出手段と、
    前記輝度変化座標検出手段から出力された、前記輝度変化座標に関するデータに基づいて、前記被測定物の変位量を推定する変位量推定手段と
    を備え、
    前記変位量推定手段は、
    前記データから抽出された前記輝度変化座標の位置を表す第1の要素の集合からなる第1の数値列の演算処理を行うことにより、前記被測定物の前記第1の要素の前記変位量を算出する第1の数値列処理系統と、
    前記データから抽出された前記輝度変化座標の位置を表す第2の要素の集合からなる第2の数値列の演算処理を行うことにより、前記被測定物の前記第2の要素の前記変位量を算出する第2の数値列処理系統と
    を有する
    ことを特徴とする変位量測定システム。
  11. 請求項1から9のいずれか一項に記載の変位量測定装置を備える
    ことを特徴とする非接触入力装置。
  12. 請求項1から9のいずれか一項に記載の変位量測定装置を備える
    ことを特徴とする生体微動測定装置。
JP2022040520A 2022-03-15 2022-03-15 変位量測定装置、変位量測定システム、非接触入力装置、および生体微動測定装置 Pending JP2023135357A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2022040520A JP2023135357A (ja) 2022-03-15 2022-03-15 変位量測定装置、変位量測定システム、非接触入力装置、および生体微動測定装置
US18/168,781 US20230296369A1 (en) 2022-03-15 2023-02-14 Displacement measurement device, non-contact input apparatus, and biological micromotion measurement apparatus
EP23158278.4A EP4246085A1 (en) 2022-03-15 2023-02-23 Displacement measurement device, non-contact input apparatus, and biological micromotion measurement apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022040520A JP2023135357A (ja) 2022-03-15 2022-03-15 変位量測定装置、変位量測定システム、非接触入力装置、および生体微動測定装置

Publications (1)

Publication Number Publication Date
JP2023135357A true JP2023135357A (ja) 2023-09-28

Family

ID=85381046

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022040520A Pending JP2023135357A (ja) 2022-03-15 2022-03-15 変位量測定装置、変位量測定システム、非接触入力装置、および生体微動測定装置

Country Status (3)

Country Link
US (1) US20230296369A1 (ja)
EP (1) EP4246085A1 (ja)
JP (1) JP2023135357A (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160044267A (ko) * 2014-10-15 2016-04-25 삼성전자주식회사 생체 정보 획득 장치 및 방법
EP3690736A1 (en) * 2019-01-30 2020-08-05 Prophesee Method of processing information from an event-based sensor
EP3962069A1 (en) * 2020-08-31 2022-03-02 IniVation AG Event sensor and method for generating a signal stream comprising event data

Also Published As

Publication number Publication date
US20230296369A1 (en) 2023-09-21
EP4246085A1 (en) 2023-09-20

Similar Documents

Publication Publication Date Title
JP5174684B2 (ja) スペックル・パターンを用いた三次元検出
US7433024B2 (en) Range mapping using speckle decorrelation
US7675020B2 (en) Input apparatus and methods having diffuse and specular tracking modes
JP2009531655A5 (ja)
US20180293739A1 (en) Systems, methods and, media for determining object motion in three dimensions using speckle images
JP2005302036A (ja) デバイスと表面との間の距離を測定する光学デバイス
JP2006105983A (ja) 物体の形状測定方法および装置
JP4515445B2 (ja) コンピュータ・マウス内の光信号処理のための方法及びデバイス
JP6314688B2 (ja) 入力装置
CN110462688B (zh) 使用基于模型的峰值选择的三维轮廓确定系统及方法
JP5007069B2 (ja) 移動体情報取得装置
WO2009077779A2 (en) Method and apparatus for providing image data
JP2023135357A (ja) 変位量測定装置、変位量測定システム、非接触入力装置、および生体微動測定装置
JP4565243B2 (ja) テレセントリック撮像を用いた光学位置決めデバイス
US7884801B1 (en) Circuit and method for determining motion with redundant comb-arrays
JP2018049498A (ja) 画像処理装置、操作検出方法、コンピュータプログラム、及び記憶媒体
JP2023098158A (ja) 変位量測定装置、非接触入力装置、および生体微動測定装置
US20210243411A1 (en) System and method for monitoring a sample
Hagara et al. Stress Analysis Performed in the Near Surrounding of Small Hole by a Digital Image Correlation Method
US9354719B2 (en) Optical navigation devices
JP2024077451A (ja) 光学装置、変位量測定装置、入力装置、および振動モニタリング装置
Liao et al. Robust technique of analyzing and locating laser speckle patterns for optical computer mice
US20230345142A1 (en) Three-dimensional-measurement device and three-dimensional-measurement method
Chen et al. A new method for uncertainty evaluation of centroid detection
KR20180065896A (ko) 3차원 정보 생성 장치