JP6338242B2 - 距離画像生成装置 - Google Patents
距離画像生成装置 Download PDFInfo
- Publication number
- JP6338242B2 JP6338242B2 JP2014081980A JP2014081980A JP6338242B2 JP 6338242 B2 JP6338242 B2 JP 6338242B2 JP 2014081980 A JP2014081980 A JP 2014081980A JP 2014081980 A JP2014081980 A JP 2014081980A JP 6338242 B2 JP6338242 B2 JP 6338242B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- eye stereo
- unit
- circular vibration
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Description
たとえば、両眼ステレオ法による距離画像生成は特許文献1に、レーザレーダによる距離計測は特許文献2に開示されている。
請求項8に記載の距離画像生成装置は、計測対象からの光を円周上に配置した複数の受光部で受光し、複眼ステレオ画像の信号を生成する複眼ステレオ画像信号生成部と、複眼ステレオ画像の信号を荷重積分して複眼ステレオ画像の各画素に対応する3種類以上の円周方向フーリエ係数を算出する円周方向フーリエ係数算出部と、3種類以上の円周方向フーリエ係数を、円振動ステレオ偏微分方程式を荷重積分した行列方程式の係数に代入して行列方程式を解くことにより複眼ステレオ画像の各画素に対応する画像円振動速度半径を算出する画像円振動速度半径算出部と、複眼ステレオ画像信号生成部の幾何学配置により定義される演算式および画像円振動速度半径から複眼ステレオ画像の各画素に対応する距離を算出する距離算出部とを備える。
本発明は、計測対象からの光を受光して得られた画像を用いて、各画素に対応する距離を算出し、それら複数の距離情報を距離画像として生成するものであり、受動光しか使用しないが高密度、高精度、高信頼性であり、さらに処理が高速という特徴を有する。
図1は、本発明の実施の形態の概要を示すものである。計測対象からの光を光学系を通して、複数の撮像素子により受光して、撮影画像信号を生成する。円周方向フーリエ係数算出部は、撮影画像信号と参照信号との積を一定時間にわたり蓄積、すなわち荷重積分することにより円周方向フーリエ係数を算出する。
画像振動速度半径算出部は、円周方向フーリエ係数を後述する数式38の係数に代入して画像円振動速度半径を算出する。距離算出部は、光学系およびイメージセンサの幾何学配置により定義される、後述する数式42または数式47から撮影画像の各画素に対応する距離を算出し、距離画像を生成する。
本発明による距離画像生成は、計測対象が静止している場合だけでなく移動している場合にも適用することができるが、以下の実施の形態においては計測対象が静止している場合を対象とし、計測対象が移動している場合の計算式は後の数式の説明の項目において示す。
本明細書において「距離画像」とは、複数の距離情報を色情報に変換した画像をいう。たとえば、算出された複数の距離を正規化して0〜255の輝度に変換し、距離の変化を輝度の違いとして表現したモノクロ画像である。色情報は輝度に限定されず、彩度、明度、色彩などを用いてもよい。なお、距離画像は、ある基準面からの奥行き方向の深度を表すとも考えることができることから、デプスマップ(Depth Map)とも呼ばれる。
本明細書において「平行型円振動眼ステレオ瞬時画像」とは、光学系による光路の変動を考慮しない場合に、ある円周上を移動する撮像面に到来する光の分布であって、その撮像面はその円を含む面と平行な画像をいう。本明細書において「輻輳型円振動眼ステレオ瞬時画像」とは、光学系による光路の変動を考慮しない場合に、ある円周上を移動する撮像面に到来する光の分布であって、その撮像面の光軸がその円を含む面と一定の角度をなす画像、またはレンズの光軸が撮像面の光軸からシフトした画像をいう。なお、平行型円振動眼ステレオ瞬時画像と輻輳型円振動眼ステレオ瞬時画像とを特に区別する必要がない場合は、両者をまとめて「円振動眼ステレオ瞬時画像」という。円振動眼ステレオ瞬時画像とはたとえば、A)受光部を光軸と垂直な面内で公転運動をさせて撮影した画像、B)光路を所定距離シフトさせるプリズムを回転させてそのプリズムにより反射された被写体からの光を撮影して得られる画像である。
本明細書において「1周分の円振動眼ステレオ画像」とは、特定の期間に撮影された1または複数の円振動眼ステレオ画像をいう。たとえば、Aの例における公転運動を1周する間に撮影した円振動眼ステレオ画像、Bの例におけるプリズムが一回転する間に撮影した円振動眼ステレオ画像、である。
本明細書において「1周分の複眼ステレオ画像」とは、円周上に配置された所定の複数の受光部から撮影された複眼ステレオ画像をいう。たとえば、Cの例における全ての受光部から撮影された複眼ステレオ画像である。
本明細書において「画像円振動速度半径」とは、円振動眼ステレオ瞬時画像のある座標の近傍おけるパターンの円振動速度ベクトルの終点が描く軌跡の半径をいう。
本明細書において「複素円振動速度半径」とは、上記「画像円振動速度半径」を絶対値とし、その基準時刻での円上の角度からの当該カメラの角度を位相で表したものをいう。
図2〜4を参照して、本発明にかかる第1の実施の形態を説明する。図2は第1の実施の形態にかかる距離画像生成装置1の構成を示す図である。距離画像生成装置1は、時間相関カメラ20と、中空モータ21と、ロンボイドプリズム22と、演算処理装置23と、偏光フィルタ24と、シェード25と、台座26と、撮像レンズ27とを備える。中空モータ21は、ロンボイドプリズム22を所定の角速度で回転させる。図2の左側から到来する計測対象からの光は、偏光フィルタ24により円偏光され、ロンボイドプリズム22により反射され、中空モータ21の中空部と撮像レンズ27を通過し、時間相関カメラ20の受光素子151に到達する。
時間相関カメラ20および演算処理装置23のブロック図を図3に示す。時間相関カメラ20は、複数の受光素子151からなる撮像素子150と、画像生成部103と、参照信号生成器107とを備える。ただし、図3では、時間相関カメラ20が備える複数の受光素子151のうちの1つの撮像素子の構成を示しており、他の受光素子151の構成も同様である。
画像円振動速度半径算出部104は、強度画像g0、および相関画像g1、g2を以下の数式5に代入して画像円振動速度半径aを算出し、距離算出部105に出力する。ただし、数式5ではg0、g1、g2、およびaについて(x、y)を省略している。また、数式5に使用している算術記号の定義は数式6のとおりである。以後、数式6の右項のようにコンジゲート(指数部の*)は共役な複素数を表すこととする。
偏光フィルタ24は、シェード25の先端に取り付けられている。光路をシフトさせる光学素子、すなわちロンボイドプリズム22が、入射光の変更の影響でその透過率が変化することを防止するために、あらかじめ入射光の中の特定の直線偏光成分のみを取り出し、その円偏光化を行う。
台座26は、時間相関カメラ20、中空モータ21、およびシェード25を固定する。
撮像レンズ27は、時間相関カメラ20のマウント部に固定されており、ロンボイドプリズム22で反射された測定対象からの光を、時間相関カメラ20の撮像素子150の表面に結像させる。
(1)距離画像生成装置1は、中空モータ21、ロンボイドプリズム22、および時間相関カメラ20のフォトダイオードとにより構成されて計測対象からの光を受光し円振動眼ステレオ瞬時画像の信号を繰り返し生成する円振動眼ステレオ瞬時画像信号生成部と、トランジスタT1〜T3、コンデンサC1〜C3、およびA/D変換器102とにより構成されて円振動眼ステレオ瞬時画像の信号を荷重積分して円振動眼ステレオ瞬時画像の各画素に対応する円周方向フーリエ係数g0、g1、g2を算出する円周方向フーリエ係数算出部と、画像円振動速度半径算出部104と、距離算出部105とを備える。画像円振動速度半径算出部104は、円周方向フーリエ係数g0、g1、g2を、円振動ステレオ偏微分方程式を荷重積分した行列方程式(数式5)の係数に代入して行列方程式(数式5)を解くことにより円振動眼ステレオ瞬時画像の各画素に対応する画像円振動速度半径aを算出する。距離算出部105は、円振動眼ステレオ瞬時画像信号生成部の幾何学配置により定義される演算式(数式7)および画像円振動速度半径aから円振動眼ステレオ瞬時画像の各画素に対応する距離を算出する。
数式5に示すように、本発明においては数学的に厳密な閉形式により測定対象の距離を算出することができるので、従来の両眼ステレオ法のような多大な計算が不要なだけでなく、計算手法には誤差要因がない。そのため、受動光のみで高密度、高精度、高信頼性な距離画像を高速に生成することができる。また、能動的な電磁波の照射を行わないので非侵襲で計測をすることができる。
そのため、円振動させる対象が小型のロンボイドプリズム22なので、光路をシフトさせる回転速度、すなわち中空モータ21の回転数を容易に上げることができる。
そのため、荷重積分演算がAD変換前のアナログ信号の領域で行われることになり、センサのサンプリング周波数、すなわち時間相関カメラ20のフレーム周波数を超える周波数の信号情報も有効に利用することができる。
第1の実施の形態において、測定対象からの光をシフトさせるために、平行型のロンボイドプリズム22を用いたが、輻輳型のロンボイドプリズム22aを用いてもよい。輻輳型のロンボイドプリズム22aは、入射光と出射光が平行ではなく、回転する輻輳型のロンボイドプリズム22aを通過した光を撮影しても、撮像レンズ27から奥行きHの面(以後、この面を「基準面」と呼ぶ)で円振動が生じない。
図5は、輻輳型のロンボイドプリズム22aを示す図である。平行型のロンボイドプリズム22とはギャップを設けている点が異なり、ギャップの厚さを調整することにより、輻輳の基準面の位置を変更することができる。
輻輳型の場合は、数式7に代えて数式8を使用することにより、測定対象までの距離を算出することができる。
また、基準面付近にある計測対象の像は、ロンボイドプリズム22aが回転しても円振動が生じないため、鮮明な像が得られる。
第1の実施の形態において、中空モータ21は測定対象からの光を円振動させるためにロンボイドプリズム22を回転させたが、ロンボイドプリズム22の代わりに傾斜平面ガラス31を回転させてもよい。
図6は、ロンボイドプリズム22の代わりに傾斜平面ガラス31を使用する場合の、測定対象からの光の光路を示す図である。また、傾斜平面ガラス31の入出射平面を非平行とすることにより、輻輳型として用いることができる。
この変形例2によれば、距離画像生成装置1を安価に作成することができる。
第1の実施の形態において、測定対象からの光を円振動させるために、中空モータ21を用いてロンボイドプリズム22を回転させたが、カセグレン光学系またはニュートン光学系および斜角振動鏡により中空モータ21を用いずに測定対象からの光を円振動させてもよい。
図7は、カセグレン光学系32の構成を示している。カセグレン光学系32は、補償レンズ32aと、球面鏡32bと、斜角振動鏡32cとから構成される。測定対象からの光は、補償レンズ32aを通過して球面鏡32bで反射され、斜角振動鏡32cで反射されて時間相関カメラ20に入射する。斜角振動鏡32cがその中心軸を中心にすりこぎ運動をすることにより、測定対象からの光を回転させることができる。
この変形例3によれば、中空モータ21が不要なため距離画像生成装置1を安価に作成することができる。また大口径の中空モータは入手が困難であるが、中空モータが不要なため大口径の距離画像生成装置1を作成することができる。
図8を参照して、本発明による距離画像生成装置の第2の実施の形態を説明する。以下の説明では、第1の実施の形態と同じ構成要素には同じ符号を付して相違点を主に説明する。特に説明しない点については、第1の実施の形態と同じである。本実施の形態では、主に、光学素子すなわちロンボイドプリズム22を回転させるのではなく時間相関カメラ20が円振動を行う点で、第1の実施の形態と異なる。
図8は、第2の実施の形態にかかる距離画像生成装置1bの構成を示す図である。距離画像生成装置1bは、時間相関カメラ20と、距離画像生成用の演算処理装置23と、時間相関カメラ20を公転させる公転装置33とを備える。測定対象は図8の手前側に位置しており、時間相関カメラ20は紙面の手前側を撮影する。
時間相関カメラ20を公転させる公転装置33による公転の周波数ω2は、第1の実施の形態における中空モータ21の回転周波数ωに相当する。そのため、第1の実施の形態における中空モータ21の回転周波数ωを公転装置33による公転の周波数ω2におきかえることにより、同一の計算手法により測定対象の距離を測定することができる。
(1)円振動眼ステレオ瞬時画像信号生成部は、計測対象からの光を受光するフォトダイオードPDすなわち受光部と、フォトダイオードPDを含む時間相関カメラ20を計測対象と対向する面内で公転運動させる公転装置33とを含む。
そのため、中空モータ21が不要であり、距離画像生成装置1を安価に作成することができる。また大口径の中空モータは入手が困難であるが、中空モータが不要なため大口径の距離画像生成装置1bを作成することができる。
第1の実施の形態および第2の実施の形態において、時間相関カメラ20により測定対象からの光を撮影したが、ハイスピードカメラにより撮影してもよい。
図9は、ハイスピードカメラを用いる距離画像生成装置1cのブロック図である。距離画像生成装置1cは、第1の実施の形態で説明したように中空モータ21により回転する光学素子であるロンボイドプリズム22を有する光学装置41と、ハイスピードカメラ40と、演算装置43とを備える。また、第2の実施の形態と同様に、光学装置41の代わりにハイスピードカメラ40を公転運動させる公転装置33を用いてもよい。
A/D変換器111は、一定時間ごとに各受光素子161のコンデンサに蓄積された電荷を順次取り込み、デジタル信号として撮像信号データバッファ112に出力する。
撮像信号データバッファ112は、A/D変換器111から順次出力されたデジタル信号を、それぞれの受光素子161の物理的な配置に基づき整列させて円振動眼ステレオ瞬時画像ファイルを生成し、ファイル保存部113に出力する。ただし、円振動眼ステレオ瞬時画像ファイルのファイル名には通し番号を付加しており、ファイル名により撮影開始から何枚目の画像であるかが判断できる。ファイル保存部113は、フラッシュメモリにより構成され、撮像信号データバッファ112から出力された円振動眼ステレオ瞬時画像ファイルを保存し、演算装置43からの要求に応じて円振動眼ステレオ瞬時画像ファイルを出力する。
データ読み出し部114は、ハイスピードカメラ40のファイル保存部113から円振動眼ステレオ瞬時画像ファイルを読み出し、荷重積分演算部115に出力する。
荷重積分演算部115は、データ読み出し部114から出力された円振動眼ステレオ瞬時画像に対して以下の数式10〜12に示す処理を行い、生成した強度画像g0および相関画像g1、g2を画像円振動速度半径算出部104に出力する。なお、荷重積分演算部115により生成される強度画像g0および相関画像g1、g2は、第1の実施の形態とは受光した信号の処理は異なるが、その後の処理は第1の実施の形態と同様である。
画像円振動速度半径算出部104と、距離算出部105と、距離画像保存部106は、第1の実施の形態と同様の処理を行う。
(1)受光部は、アナログ信号を生成するフォトダイオードと、フォトダイオードの生成するアナログ信号を蓄積するコンデンサとが実装された受光素子161である。円振動眼ステレオ瞬時画像信号生成部は、受光部のコンデンサの蓄積したアナログ信号をデジタル信号に変換することにより円振動眼ステレオ瞬時画像の信号を生成するA/D変換器111を有する。円周方向フーリエ係数算出部は、中空モータ21が1回転する期間、または公転装置33の1公転周期の期間に出力された複数の円振動眼ステレオ瞬時画像の信号と、変数kで表される当該円振動眼ステレオ瞬時画像の撮影開始からの枚数に応じた参照信号との積を積算し、強度画像g0および相関画像g1、g2、すなわち円周方向フーリエ係数として出力する。
そのため、市販の撮影装置であるハイスピードカメラを用いて、距離画像生成装置を作成することができる。こうしてハイスピードカメラの撮影画像から作成された強度画像および相関画像は、フレーム周波数が当該ハイスピードカメラのn倍、参照信号の周波数が回転周波数のm倍の時間相関カメラから得られる強度画像および相関画像と似た特徴を有するが、時間情報が離散的なので精度が劣る。なお、撮影対象の動作が十分に低速であり、かつ距離画像の更新周期が長くてもよい場合には、ハイスピードカメラの代わりに通常のカメラを用いてもよい。
図10を参照して、本発明による距離画像生成装置の第3の実施の形態を説明する。以下の説明では、第1の実施の形態と同じ構成要素には同じ符号を付して相違点を主に説明する。特に説明しない点については、第1の実施の形態と同じである。本実施の形態では、主に、複数の撮像装置を用いて測定対象からの光を撮影し円振動眼ステレオ瞬時画像を生成する点で、第1の実施の形態と異なる。
図10は、第3の実施の形態にかかる距離画像生成装置1dの構成を示す図である。距離画像生成装置1dは、半径R3の円周上に等しい角度ピッチで配置されたN個の撮像装置50と、演算装置43aとを備える。測定対象は図10の手前側に位置しており、撮像装置50は紙面の手前側を撮影する。撮像装置50は、複数の受光素子161を有する撮像素子160と、A/D変換器とを備える。
演算装置43aは、変形例4における演算装置43の機能に加えて、撮像装置50に対してリモート撮影の信号を送信する撮影指令部121を有する。データ読み出し部114aは、各撮像装置50から要素画像を読み出して、複眼ステレオ画像を得る。そのため、演算装置43aは各撮像装置50にリモート撮影の信号およびデータ読み出しを順次行うこともできるし、全ての撮像装置50に同時にリモート撮影の信号を送信してデータ読み出しを順次行うこともできる。
(1)距離画像生成装置1dは、計測対象からの光を円周上に配置されて要素画像、すなわち複眼ステレオ画像を構成する信号を生成する複数の撮像装置50と、荷重積分演算部115aと、画像円振動速度半径算出部104と、距離算出部105とを備える。荷重積分演算部115aは、複眼ステレオ画像の信号を荷重積分して複眼ステレオ画像の各画素に対応する円周方向フーリエ係数g0、g1、g2を算出する。画像円振動速度半径算出部104は、円周方向フーリエ係数g0、g1、g2を、円振動ステレオ偏微分方程式を荷重積分した行列方程式(数式5)の係数に代入して行列方程式(数式5)を解くことにより複眼ステレオ画像の各画素に対応する画像円振動速度半径aを算出する。距離算出部105は、複眼ステレオ画像信号生成部の幾何学配置により定義される演算式(数式7)および画像円振動速度半径aから複眼ステレオ画像の各画素に対応する距離を算出する。
第3の実施の形態の距離画像生成装置1dにおいても、可動部を備えていないため故障が起きにくく、回転動作などに起因した不具合の恐れがなく寿命、信頼性が高い。また、撮像装置50は市販品で足りるため安価に距離画像生成装置1dを製作することができる。
(3)距離画像生成装置1dは、複数の撮像装置50に同時にリモート撮影の信号を送信し、複数の撮像装置50に測定対象からの光を受光させる撮影指令部121を備える。そのため、複数の撮像装置50に同時にリモート撮影の信号を送信することにより、測定対象が動きを有する場合に動きの影響を低減させることができる。
第3の実施の形態では、円周上に複数の撮像装置50を配置したが、撮像装置50の代わりにカメラモジュール50aを配置してもよい。カメラモジュール50aは、撮像装置50からファイル保存機能を省略した、たとえば携帯電話用カメラモジュールである。
この変形例5においては、演算装置43aの撮影指令部121が複数のカメラモジュール50aに次々に撮影指令を出力し、カメラモジュール50aから受信する撮像信号を荷重積分演算部115aにおいて処理する。それ以後の処理は第3の実施の形態と同様である。
この変形例5によれば、カメラモジュール50aは撮像装置50よりも小型で安価であるため、距離画像生成装置1dの製作が容易である。
第3の実施の形態では、円周上に配置された全ての撮像装置50の光軸は互いに平行で、撮像装置50が配置されている円を含む面に直角であったが、撮像装置50の配置はこれに限定されない。撮像装置50の光軸が、撮像装置50が配置された円を含む面と一定の角度をなし、複数の撮像装置50により輻輳型複眼ステレオ画像を撮影してもよい。
上述した実施の形態、および変形例では、平行型円振動眼ステレオ瞬時画像と輻輳型円振動眼ステレオ瞬時画像を得るための物理的な構成が異なっていた。しかし、演算によって以下のように、平行型円振動眼ステレオ瞬時画像から輻輳型円振動眼ステレオ瞬時画像を作成する、輻輳画像生成部を距離画像生成装置に設けてもよい。そして、輻輳画像生成部が生成した画像を、荷重積分演算部115以下が第1の実施の形態と同様に処理する。
たとえば、撮影して得られた平行型円振動眼ステレオ瞬時画像のサイズが横sピクセル、縦tピクセルの場合に、シフト量をuピクセルとする。このとき、それらの平行型円振動眼ステレオ瞬時画像から、以下のように横(s−2u)ピクセル、縦(t−2u)ピクセルの領域を抜き出して補間処理を行うことにより、輻輳型円振動眼ステレオ瞬時画像を作成することができる。
この変形例7によれば、作成が容易な平行型の構成により輻輳型の算出を行うことができる。また、ハイスピードカメラ40のように撮影した円振動眼ステレオ瞬時画像が保存されている場合には、撮影後にシフト量uを任意に複数変更させて基準面の異なる複数の輻輳型の距離画像を得ることができる。
第3の実施の形態では、円周上に配置した撮像装置50から得られた複眼ステレオ画像C0〜Cn-1を用いて数式13〜15、および第1の実施の形態において説明した数式5〜7を用いて距離画像を生成した。ここで処理を終了させず、複眼ステレオ画像C0〜Cn-1を多眼ステレオの入力画像とし、得られた距離画像の情報を多眼ステレオの初期値として与え、ここからさらに複眼画像を用いた多眼ステレオのアルゴリズムにより距離画像や形状情報の高精度化を行ってもよい。
本発明では、複眼ステレオ画像の入射光の強度情報は用いるが、その幾何情報は用いていない。そのため、円振動半径の中で奥行きが変化する場合であっても、円振動半径の中で奥行きが変化しないとして距離を算出している。そこで、本発明による手法により算出した距離情報を初期値とし、たとえば幾何情報を考慮して、検出したエッジが円振動半径と交差する場合には別の処理を行うなど、複雑な条件を考慮に入れた多眼ステレオのアルゴリズムを導入し、距離推定の精度をさらに向上することができる。
多眼ステレオでは、適切な初期値を与えなければ、複雑な条件を設定するためのアルゴリズムが複雑になりすぎ、計算が膨大になって現実的に実現不可能となってしまう。本発明による計算を前処理として用いることで、複雑な条件の設定が可能になり、距離推定の精度も向上させることができる。
上述した実施の形態、および変形例では、距離画像生成装置は距離画像を生成したが、生成物はこれに限定されない。算出した距離情報を、対応する撮像素子の並んでいた順番で、一定のフォーマットに従って出力してもよい。たとえば、CSVファイルとして出力してもよい。
これまで使用した数式を、平行型、輻輳型、の順に説明する。その後に、上述する実施の形態では説明しなかった、測定対象が移動している場合の算出式を説明する。
図12は、平行型の幾何構成を示すモデル図である。図12の下方向、すなわちZ軸の+方向に存在する測定対象からの光を撮影するカメラ200を、Z=0を通りZ軸に直行するXY平面内で物理円振動半径Rの円振動をさせた場合に、ある点Pから発せられた光が撮影される様子を示す図である。撮像レンズ27の焦点距離をF、カメラ200の画素(x、y)に結像する測定対象の、撮像レンズ27から対象表面までの距離をZ(x、y)と置くと,撮影画像における振動半径rは,数式17により表される。
そして、本発明の目的である距離Z(x、y)を算出するために、円振動の同期信号、たとえば第1の実施の形態における中空モータ21のZ相の信号からその振動位相φ=∠aを求め、数式41を解いて得られた画像円振動速度半径aを数式42に代入する。
次に輻輳型の数式を説明する。
図13は、輻輳角を有するカメラ200aをZ=0を通りZ軸に直行するXY平面内で物理円振動半径Rの円振動をさせた場合に、ある点Pから発せられた光が撮影される様子を示す図である。カメラ200aは、回転の際に奥行きHの面(基準面)で円振動が生じないように像面の原点を円振動に連動して回転させる。このときにレンズ中心が基準面の原点を見込む角が輻輳角となる。このときの画像円振動速度半径は、数式43に示すように奥行きHの基準面に対する相対的な高さに比例するものとなる。
上述した実施の形態においては、測定対象が静止していると仮定して数式を算出したが、以下の数式を用いることにより測定対象が運動している場合に測定対象までの距離および運動速度を同時に算出することができる。
測定対象の運動速度を数式48のように定義し、数式30の前提と同様に、中空モータの回転周波数をω、時間相関カメラ20のフレーム周波数をΔωとおき、ω=mΔωの関係にあり画像円振動速度半径をaとすると、これらの合成運動の複素表示は数式49で表される。
表記を簡略化するために、数式55のように変数を定義すると、方程式は行列形式で数式56のように表現できる。
数式50において、荷重周波数をnではなくn+1にすると数式58が得られる。
これまでの説明では、図12および図13に示したように、運動する受光部が撮影した円振動眼ステレオ瞬時画像を対象にしていたが、円周上に配置された複数の受光部により撮影された複眼ステレオ画像にも同様に適用することができる。対象が静止している場合、数式61に示す変数変換により数式62に示す関係により、時間相関演算による円周方向フーリエ係数の計算を角度領域の積分に置き換えることができる。
本発明は、上述した実施の形態および変形例に示したとおり実施することができる。さらに、たとえば次のような適用も可能である。
図14は、本発明を体内用検査機に適用する場合の構成図である。体内用検査機310は、複数のレンズ311と、受像部312と、挿入部313と、ライト口314と、演算装置43aとを備える。
挿入部313は伸縮性のチューブであり、挿入部313の中には複数の光ファイバがあり、複数のレンズ311と受像部312および、不図示の光源とライト口314とを接続する。受像部312はレンズと同じ数の撮像素子を備えており、複数のレンズ311を通過した光は受像部312においてそれぞれの撮像素子で受光され、別々の画像ファイルが生成される。これらの画像ファイルは演算装置43aにおいて、第3の実施の形態と同様に処理され、体内の三次元形状が距離画像として生成される。
挿入部313の内部にはレンズ321からの光を受像部312に導く光ファイバと、不図示の光源からの光を不図示のライト口に導く光ファイバが収められている。レンズ321から入った光は光ファイバを通過して、回転するロンボイドプリズム22により光路をシフトされて受像部312において画像ファイルが生成される。受像部312において生成された画像ファイルは、演算装置43において変形例4と同様に処理され、体内の三次元形状が距離画像として生成される。
なお、年周視差を利用した恒星までの距離測定方法が知られているが、撮影して得られた画像から対応点を探索して距離を算出するものであり、算出手法として本来的に誤差要因を含む。本発明は、年周視差により距離測定では用いられていない、測定対象の明暗変化の情報を用いる。そして、上記の数式で示したように数学的に厳密な閉形式により計算手法として誤差を含まずに、測定対象までの距離および測定対象の動きを算出することができる。
上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
20 … 時間相関カメラ
21 … 中空モータ
22 … ロンボイドプリズム
23 … 演算処理装置
24 … 偏光フィルタ
25 … シェード
26 … 台座
27 … 撮像レンズ
31 … 傾斜平面ガラス
32 … カセグレン光学系
33 … 公転装置
40 … ハイスピードカメラ
50 … 撮像装置
102 … A/D変換器
103 … 画像生成部
104 … 画像円振動速度半径算出部
105 … 距離算出部
106 … 距離画像保存部
107 … 参照信号生成器
111 … A/D変換器
112 … 撮像信号データバッファ
113 … ファイル保存部
114 … データ読み出し部
115 … 荷重積分演算部
121 … 撮影指令部
150 … 撮像素子
151 … 受光素子
160 … 撮像素子
161 … 受光素子
170 … 撮像素子
171 … 受光素子
Claims (12)
- 計測対象からの光を受光し円振動眼ステレオ瞬時画像の信号を生成する円振動眼ステレオ瞬時画像信号生成部と、
前記円振動眼ステレオ瞬時画像の信号を荷重積分して前記円振動眼ステレオ瞬時画像の各画素に対応する3種類以上の円周方向フーリエ係数を算出する円周方向フーリエ係数算出部と、
前記3種類以上の円周方向フーリエ係数を、円振動ステレオ偏微分方程式を荷重積分した行列方程式の係数に代入して前記行列方程式を解くことにより前記円振動眼ステレオ瞬時画像の各画素に対応する画像円振動速度半径を算出する画像円振動速度半径算出部と、
前記円振動眼ステレオ瞬時画像信号生成部の幾何学配置により定義される演算式および前記画像円振動速度半径から前記円振動眼ステレオ瞬時画像の各画素に対応する距離を算出する距離算出部とを備える距離画像生成装置。 - 請求項1に記載の距離画像生成装置において、
前記円振動眼ステレオ瞬時画像信号生成部は、
前記計測対象からの光を受光する受光部と、
前記受光部の入射光路中に配置した光学素子を運動させて前記計測対象からの光を前記受光部の上に円振動させる光学装置とを含む距離画像生成装置。 - 請求項2に記載の距離画像生成装置において、
前記受光部は、アナログ信号である前記円振動眼ステレオ瞬時画像の信号を出力する光電変換部であり、
前記円周方向フーリエ係数算出部は、前記円振動眼ステレオ瞬時画像のアナログ信号と当該円振動眼ステレオ瞬時画像のアナログ信号が生成された際の前記光学装置の回転位相に応じた3種類以上の参照信号との積に比例するアナログ信号を生成する乗算手段と、前記乗算手段の出力するアナログ信号を蓄積する積分手段と、前記円振動の振動周期に応じた時間間隔ごとに、前記積分手段に蓄積されたアナログ信号を前記円周方向フーリエ係数として出力する読み出し手段とを含み、
前記光電変換部と前記乗算手段と前記積分手段と前記読み出し手段とが1つの素子に実装されている距離画像生成装置。 - 請求項2に記載の距離画像生成装置において、
前記受光部はアナログ信号を生成する光電変換部と、前記光電変換部の生成するアナログ信号を蓄積する積分手段とを1つの素子に実装して成り、
前記円振動眼ステレオ瞬時画像信号生成部は、前記受光部の蓄積したアナログ信号をデジタル信号に変換することにより前記円振動眼ステレオ瞬時画像の信号を生成するA/D変換器を有し、
前記円周方向フーリエ係数算出部は、前記円振動の振動周期に応じた期間に出力された複数の前記円振動眼ステレオ瞬時画像の信号と当該円振動眼ステレオ瞬時画像の信号が生成された際の前記光学装置の振動位相に応じた3種類以上の参照信号との積を積算し、前記円周方向フーリエ係数として出力する距離画像生成装置。 - 請求項1に記載の距離画像生成装置において、
前記円振動眼ステレオ瞬時画像信号生成部は、
前記計測対象からの光を受光する受光部と、
前記受光部を前記計測対象と対向する面内で公転運動させる公転装置とを含む距離画像生成装置。 - 請求項5に記載の距離画像生成装置において、
前記受光部は、アナログ信号である前記円振動眼ステレオ瞬時画像の信号を生成する光電変換部であり、
前記円周方向フーリエ係数算出部は、前記円振動眼ステレオ瞬時画像のアナログ信号と当該円振動眼ステレオ瞬時画像のアナログ信号が生成された際の前記公転装置の公転運動の位相に応じた3種類以上の参照信号との積に比例するアナログ信号を生成する乗算手段と、前記乗算手段の出力するアナログ信号を蓄積する積分手段と、前記公転運動の公転周期に応じた時間間隔ごとに、前記積分手段に蓄積されたアナログ信号を前記円周方向フーリエ係数として出力する読み出し手段とを含み、
前記光電変換部と前記乗算手段と前記積分手段と前記読み出し手段とが1つの素子に実装される距離画像生成装置。 - 請求項5に記載の距離画像生成装置において、
前記受光部はアナログ信号を生成する光電変換部と、前記光電変換部の出力するアナログ信号を所定のフレームレートで蓄積する積分手段とを1つの素子に実装して成り、
前記円振動眼ステレオ瞬時画像信号生成部は、前記受光部の蓄積したアナログ信号をデジタル信号に変換することにより前記円振動眼ステレオ瞬時画像の信号を生成するA/D変換器を有し、
前記円周方向フーリエ係数算出部は、前記公転運動の公転周期に応じた期間に出力された複数の前記円振動眼ステレオ瞬時画像の信号と当該円振動眼ステレオ瞬時画像の信号が生成された際の前記公転装置の公転運動の位相に応じた3種類以上の参照信号との積を積算し、前記円周方向フーリエ係数として出力する距離画像生成装置。 - 計測対象からの光を円周上に配置した複数の受光部で受光し、複眼ステレオ画像の信号を生成する複眼ステレオ画像信号生成部と、
前記複眼ステレオ画像の信号を荷重積分して前記複眼ステレオ画像の各画素に対応する3種類以上の円周方向フーリエ係数を算出する円周方向フーリエ係数算出部と、
前記3種類以上の円周方向フーリエ係数を、円振動ステレオ偏微分方程式を荷重積分した行列方程式の係数に代入して前記行列方程式を解くことにより前記複眼ステレオ画像の各画素に対応する画像円振動速度半径を算出する画像円振動速度半径算出部と、
前記複眼ステレオ画像信号生成部の幾何学配置により定義される演算式および前記画像円振動速度半径から前記複眼ステレオ画像の各画素に対応する距離を算出する距離算出部とを備える距離画像生成装置。 - 請求項8に記載の距離画像生成装置において、
前記複眼ステレオ画像信号生成部は、前記複数の受光部からそれぞれ出力されるアナログ信号を所定のフレーム周期だけ蓄積してデジタル信号に変換し、前記複眼ステレオ画像の信号として出力し、
前記円周方向フーリエ係数算出部は、前記複眼ステレオ画像の信号と前記複数の受光部が配置された円周方向の位相に応じた3種類以上の参照信号との積を、互いに対応する画素について積算し前記円周方向フーリエ係数として出力する距離画像生成装置。 - 請求項2乃至4のいずれか1項に記載の距離画像生成装置において、
前記円振動眼ステレオ瞬時画像信号生成部は、前記受光部に入射する前記計測対象からの光に輻輳を与える輻輳角付与手段を含む距離画像生成装置。 - 請求項5乃至7のいずれか1項に記載の距離画像生成装置において、
前記円振動眼ステレオ瞬時画像信号生成部の出力する前記円振動眼ステレオ瞬時画像の信号を、前記公転運動の位相に応じてシフトさせて前記円周方向フーリエ係数算出部に出力する輻輳画像生成部をさらに備える距離画像生成装置。 - 請求項8または9に記載の距離画像生成装置において、
前記複眼ステレオ画像信号生成部の出力する前記複眼ステレオ画像の信号を前記複数の受光部が配置された円周方向の位相に応じてシフトさせて前記円周方向フーリエ係数算出部に出力する輻輳画像生成部をさらに備える距離画像生成装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014081980A JP6338242B2 (ja) | 2014-04-11 | 2014-04-11 | 距離画像生成装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014081980A JP6338242B2 (ja) | 2014-04-11 | 2014-04-11 | 距離画像生成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015203594A JP2015203594A (ja) | 2015-11-16 |
JP6338242B2 true JP6338242B2 (ja) | 2018-06-06 |
Family
ID=54597119
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014081980A Active JP6338242B2 (ja) | 2014-04-11 | 2014-04-11 | 距離画像生成装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6338242B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10451740B2 (en) * | 2016-04-26 | 2019-10-22 | Cepton Technologies, Inc. | Scanning lidar systems for three-dimensional sensing |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003262510A (ja) * | 2002-03-08 | 2003-09-19 | Center For Advanced Science & Technology Incubation Ltd | 三次元形状測定方法及び三次元スキャナ |
JP5007069B2 (ja) * | 2006-05-15 | 2012-08-22 | 繁 安藤 | 移動体情報取得装置 |
JP5441204B2 (ja) * | 2006-10-16 | 2014-03-12 | シャープ株式会社 | 時間相関検出型イメージセンサおよび画像解析装置 |
-
2014
- 2014-04-11 JP JP2014081980A patent/JP6338242B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015203594A (ja) | 2015-11-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10735706B2 (en) | Motion blur compensation | |
EP2751521B1 (en) | Method and system for alignment of a pattern on a spatial coded slide image | |
JP5997645B2 (ja) | 画像処理装置及び方法、及び撮像装置 | |
EP2990757B1 (en) | Three-dimensional shape measurement device, three-dimensional shape measurement method, and three-dimensional shape measurement program | |
JP2009300268A (ja) | 3次元情報検出装置 | |
CN102184566A (zh) | 基于微型投影仪手机平台的便携式三维扫描系统及方法 | |
CN107241592A (zh) | 一种投射单元及包括该单元的拍摄装置、处理器、成像设备 | |
JP2024052755A (ja) | 三次元変位計測方法及び三次元変位計測装置 | |
JP6338242B2 (ja) | 距離画像生成装置 | |
Ovrén et al. | Why would I want a gyroscope on my RGB-D sensor? | |
Rodríguez-Ramos et al. | 3D imaging and wavefront sensing with a plenoptic objective | |
JP2011130290A (ja) | カメラ画像の補正方法およびカメラ装置および座標変換パラメータ決定装置 | |
WO2017094122A1 (ja) | 撮像装置、内視鏡装置及び撮像方法 | |
JP2017059998A (ja) | 画像処理装置およびその方法、並びに、撮像装置 | |
US20190268546A1 (en) | Image processing device, image processing method, and program | |
CN108961378A (zh) | 一种多目点云三维重建方法、装置及其设备 | |
KR20220078447A (ko) | 저밀도 영역을 복원하는 이미지 복원 장치의 동작 방법 | |
JP2004193947A (ja) | 三次元撮像装置および方法 | |
JP2012227700A (ja) | 情報処理装置およびプログラム | |
JP5243359B2 (ja) | 立体画像生成システムおよびプログラム | |
JP2020086651A (ja) | 画像処理装置および画像処理方法 | |
US20100253802A1 (en) | Enhanced microscan apparatus and methods | |
JP2019114143A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP2019095376A (ja) | 画像処理システム | |
JP2018050147A (ja) | 撮像装置、撮像方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170310 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180118 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180130 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180322 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180403 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180502 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6338242 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |