JP6328965B2 - 距離画像生成装置および距離画像生成方法 - Google Patents
距離画像生成装置および距離画像生成方法 Download PDFInfo
- Publication number
- JP6328965B2 JP6328965B2 JP2014049159A JP2014049159A JP6328965B2 JP 6328965 B2 JP6328965 B2 JP 6328965B2 JP 2014049159 A JP2014049159 A JP 2014049159A JP 2014049159 A JP2014049159 A JP 2014049159A JP 6328965 B2 JP6328965 B2 JP 6328965B2
- Authority
- JP
- Japan
- Prior art keywords
- light source
- unit
- light
- distance
- distance value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 20
- 238000012937 correction Methods 0.000 claims description 104
- 238000003860 storage Methods 0.000 claims description 44
- 238000006243 chemical reaction Methods 0.000 claims description 40
- 238000009826 distribution Methods 0.000 claims description 24
- 238000009825 accumulation Methods 0.000 claims description 17
- 230000005540 biological transmission Effects 0.000 claims description 7
- 238000012545 processing Methods 0.000 claims description 7
- 230000000717 retained effect Effects 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 8
- 238000002366 time-of-flight method Methods 0.000 description 7
- 238000012986 modification Methods 0.000 description 6
- 230000004048 modification Effects 0.000 description 6
- 230000014509 gene expression Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 3
- 230000007423 decrease Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Measurement Of Optical Distance (AREA)
- Optical Radar Systems And Details Thereof (AREA)
Description
以下、本発明の第一の実施形態について説明する。以下、本発明の実施形態を説明するための全図において、同一機能を有するものは同一符号を付し、その繰り返しの説明は省略する。
まず、本実施形態の距離画像生成装置の構成を説明する。図1は、本実施形態の距離画像生成装置の機能ブロック図である。
ここで、光飛行時間型(TOF方式)の距離画像生成装置100における距離画像生成の原理を説明する。図3は、距離画像生成の原理を説明するための図である。
次に、光源部110とセンサ160とが空間上同一位置にない場合、距離誤差が発生する理由を説明する。図4(a)に、センサ160と光源部110とが空間上同一位置に配置される場合を、図4(b)に、センサ160と光源部110とが空間上、異なる位置に配置される場合を示す。
これを実現するため、本実施形態の距離画像生成部170は、図1に示すように、距離値算出部171と、補正値データベース(補正値DB)172と、距離値補正部173と、を備える。
次に、計算距離値Dの補正手法の原理を説明する。ここでは、使用するセンサ160の撮像素子(以下、画素と呼ぶ)が、m列、n行で配置(m×n画素)されているものとする(m、nは1以上の整数)。また、図6(a)および図6(b)に示すように、センサ160のセンサ面(受光面)をxy平面とし、センサ面鉛直方向をz軸とし、センサ160のセンサ中心を原点とする座標系で考える。
θx=(M−m/2)*θh/m ・・・(3)
θy=(N−n/2)*θv/n ・・・(4)
S=S
T=S*tanθy/sinθx ・・・(5)
U=S/tanθx
cosΨ=Q*R/(|Q|*|R|)より、
cosΨ=(A+B/tanθx+C*tanθy/sinθx)/√{(A2+B2+C2)*(1+tan2θy/sin2θx+1/tan2θx)}
・・・(6)
d+P=2D ・・・(7)
LsinΨ=Psinθη ・・・(8)
LcosΨ+Pcosθη=d ・・・(9)
センサ160(原点O)と物体113(座標R)との間の、実際の距離dは、LとDとΨとを用いて、以下の式(10)で表される。
d=(L2−(2D)2)/(2LcosΨ−4D) ・・・(10)
補正値データベース172は、画素毎に、上記Ψを特定する情報を保持する。本実施形態では、図8に示すように、各画素位置特定する情報(画素位置)210に対応づけて、補正情報220としてcosΨの値を保持する。cosΨの値は、図7(b)に示すように、センサ160から光源部に向かう方向(ベクトル)と、各画素の画素画角中央方向とが成す角度で定まる値である。この補正値データベース172は、予め生成され、距離画像生成装置100が備える記憶装置またはメモリ上に構築される。
次に、距離値補正部173による計算距離値Dの補正について説明する。補正後の実距離値dは、上述のように、補正値データベース172に格納されている補正情報(cosΨ)の値を用い、上記式(10)により得られる。
以下、本実施形態の距離画像生成装置100による距離画像生成処理の流れを説明する。図9は、本実施形態の距離画像生成処理の処理フローである。なお、補正値データベース172は、予め作成されているものとする。
前記補正情報は、前記センサ部160から前記光源に向かう方向と、前記光電変換素子の画角中央方向とがなす角度で特定される情報であってもよい。
なお、上記実施形態では、補正値データベース172は、予め生成され、保持される場合を例にあげて説明したが、これに限定されない。例えば、画角は、距離画像生成装置100のレンズの交換等により、使用開始後に変化することがある。また、光源部110の位置を移動させることもある。
また、上記実施形態では、光源部110とセンサ160との位置関係は既知としているが、これに限定されない。両者の位置関係が不明な場合であっても、本実施形態は可能である。
計算距離値Dからセンサ160に対する光源部110の位置情報の算出手法を説明する。ここでは、センサ160の位置を原点とした場合の、上記座標系における光源部110の座標Qを位置情報として算出する。
R(d1cosθysinθx,d1cosθycosθx,d1sinθy)
R1(d1cosθy1sinθx1,d1cosθy1cosθx1,d1sinθy1)
R2(d1cosθy2sinθx2,d1cosθy2cosθx2,d1sinθy2)
R3(d1cosθy3sinθx3,d1cosθy3cosθx3,d1sinθy3)
R4(d1cosθy4sinθx4,d1cosθy4cosθx4,d1sinθy4)
P1=2D1−d1 ・・・(11−1)
P2=2D2−d1 ・・・(11−2)
P3=2D3−d1 ・・・(11−3)
P4=2D4−d1 ・・・(11−4)
(X-x1)2+(Y-y1)2+(Z-z1)2=r12 ・・・式(12−1)
(X-x2)2+(Y-y2)2+(Z-z2)2=r22 ・・・式(12−2)
(X-x3)2+(Y-y3)2+(Z-z3)2=r32 ・・・式(12−3)
(X-x4)2+(Y-y4)2+(Z-z4)2=r42 ・・・式(12−4)
ここで、
x1=d1cosθy1sinθx1,
y1=d1cosθy1cosθx1,
z1=d1sinθy1,
r1=2P1-d1,
x2=d1cosθy2sinθx2,
y2=d1cosθy2cosθx2,
z2=d1sinθy2,
r2=2P2-d1,
x3=d1cosθy3sinθx3,
y3=d1cosθy3cosθx3,
z3=d1sinθy3,
r3=2P3-d1,
x4=d1cosθy4sinθx4,
y4=d1cosθy4cosθx4,
z4=d1sinθy4,
r4=2P4-d1,
Z=(-A0±√(A02-A1*A2))/A1 ・・・式(13−1)
X=B0+B1Z ・・・式(13−2)
Y=C0+C1Z ・・・式(13−3)
ここで、
A1={(y2-y1)(z3-z1)-(y3-y1)(z2-z1)}2+{(x3-x1)(z2-z1)-(x2-x1)(z3-z1)}2
+(x2-x1)(y3-y1)-(y2-y1)(x3-x1)〕/{(x2-x1)(y3-y1)-(y2-y1)(x3-x1)}
A0=B1(B0-x1)+C1(C0-y1)-z1
A2=(B0-x1)2+(C0-y1)2+z12-r12
B0={(r12-x12-y12-z12-r22+x22+y22+z22)(y3-y1)
-(r12-x12-y12-z12-r32+x32+y32+z32)(y2-y1)}
/2{(x2-x1)(y3-y1)-(y2-y1)(x3-x1)}
B1={(y2-y1)(z3-z1)-(y3-y1)(z2-z1)}/{(x2-x1)(y3-y1)-(y2-y1)(x3-x1)}
C0={(r12-x12-y12-z12-r32+x32+y32+z32)(x2-x1)
-(r12-x12-y12-z12-r22+x22+y22+z22)(x3-x1)}
/2{(x2-x1)(y3-y1)-(y2-y1)(x3-x1)}
C1={(x3-x1)(z2-z1)-(x2-x1)(z3-z1)}/{(x2-x1)(y3-y1)-(y2-y1)(x3-x1)}
本発明の第二の実施形態を説明する。本実施形態では、光源を複数備える。
光源部110を複数備えるため、本実施形態の制御部140は、第一の実施形態とは異なる変調信号を出力する。本実施形態の制御部140は、複数の光源110aそれぞれに、同一の信号ではあるが、送信タイミングの異なる変調信号を送信する。また、1フレーム間は同一の光源110aに変調信号114を送信する。
本実施形態では複数の光源110aを備える。各光源110aのセンサ160に対する位置は異なる。このため、補正値データベース172bは、図14に示すように、光源110a毎に、各画素の補正情報(cosΨ)を保持する。
本実施形態の距離値補正部173は、制御部140からの光源情報に応じて補正値データベース172bから補正情報cosΨを抽出し、計算距離値Dを補正し、距離値dを得る。本実施形態では、距離値補正部173は、補正値データベース172bにアクセスし、光源情報で特定される光源110aに対応づけて保持される補正情報cosΨを、画素毎に得る。
前記複数の光源110aのうち、少なくとも1つの光源110aは、前記センサ部160が収納される筐体とは別体に収容されてもよい。
Claims (6)
- 対象空間に変調した変調光を照射する光源を備える光源部と、
前記光源部から照射され、前記対象空間内の対象物の表面で反射した反射光を含む光を受光して電荷に変換する光電変換素子、前記光電変換素子ごとに複数設けられた電荷蓄積部、および、前記変調光の変調に同期して、前記光電変換素子により変換された電荷を前記複数の電荷蓄積部に振り分ける電荷振分部を、複数の画素についてそれぞれ備えるセンサ部と、
前記複数の電荷蓄積部に蓄積された電荷を用いて画素値が距離値である距離画像を生成する距離画像生成部と、を備え、
前記距離画像生成部は、
前記複数の電荷蓄積部に蓄積された電荷に演算処理を施し、前記画素毎の計算距離値を得る距離値算出部と、
前記光源の前記センサ部に対する位置に応じて定められ、前記センサ部から前記光源に向かう方向と、前記光電変換素子の画角中央方向とがなす角度で特定される補正情報を、前記画素毎に保持する補正値データベースと、
前記画素毎の計算距離値を当該画素の前記補正情報を用いて補正し、前記画素毎の距離値を得る距離値補正部と、を備えること
を特徴とする距離画像生成装置。 - 請求項1記載の距離画像生成装置であって、
前記光源部に変調信号を送信する制御部をさらに備え、
前記光源部は複数の光源を備え、
前記補正値データベースは、前記光源毎に前記補正情報を保持し、
前記制御部は、予め定めた時間間隔で予め定めた順に各光源に前記変調信号を送信するとともに、前記変調信号の送信ごとに送信先の前記光源を特定する光源情報を前記距離値補正部に送信し、
各前記光源は、前記変調信号に応じて前記変調光を照射し、
前記距離値補正部は、前記光源情報に応じた前記補正情報を用いること
を特徴とする距離画像生成装置。 - 請求項2記載の距離画像生成装置であって、
前記複数の光源のうち、少なくとも1つの光源は、前記センサ部が収納される筐体とは別体に収容されること
を特徴とする距離画像生成装置。 - 請求項1から3いずれか1項記載の距離画像生成装置であって、
前記補正値データベースを生成するデータベース作成部をさらに備え、
前記データベース作成部は、距離が既知の物体の計算距離値を用い、前記光源の前記センサ部に対する位置情報を算出し、当該位置情報を用いて前記補正情報を算出すること
を特徴とする距離画像生成装置。 - 対象空間に変調した変調光を照射する光源を備える光源部と、
前記光源部から照射され、前記対象空間内の対象物の表面で反射した反射光を含む光を受光して電荷に変換する光電変換素子、前記光電変換素子ごとに複数設けられた電荷蓄積部、および、前記変調光の変調に同期して、前記光電変換素子により変換された電荷を前記複数の電荷蓄積部に振り分ける電荷振分部を、複数の画素についてそれぞれ備えるセンサ部と、を備える距離画像生成装置における距離画像生成方法であって、
前記複数の電荷蓄積部に蓄積された電荷を用いて前記各画素の計算距離値を得る距離値算出ステップと、
予めデータベースに保持され、前記光源の前記センサ部に対する位置に応じて定められ、前記センサ部から前記光源に向かう方向と前記光電変換素子の画角中央方向とがなす角度で特定される補正情報を用い、各画素の算出距離を補正して距離値を得る距離値補正ステップと、を含むこと
を特徴とする距離画像生成方法。 - 対象空間に変調した変調光を照射する光源を備える光源部と、
前記光源部から照射され、前記対象空間内の対象物の表面で反射した反射光を含む光を受光して電荷に変換する光電変換素子、前記光電変換素子ごとに複数設けられた電荷蓄積部、および、前記変調光の変調に同期して、前記光電変換素子により変換された電荷を前記複数の電荷蓄積部に振り分ける電荷振分部を、複数の画素についてそれぞれ備えるセンサ部と、を備える距離画像生成装置のコンピュータに、
前記複数の電荷蓄積部に蓄積された電荷を用いて前記各画素の計算距離値を得る距離値算出手順、
予めデータベースに保持され、前記光源の前記センサ部に対する位置に応じて定められ、前記センサ部から前記光源に向かう方向と前記光電変換素子の画角中央方向とがなす角度で特定される補正情報を用い、各画素の算出距離を補正して距離値を得る距離値補正手順、を実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014049159A JP6328965B2 (ja) | 2014-03-12 | 2014-03-12 | 距離画像生成装置および距離画像生成方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014049159A JP6328965B2 (ja) | 2014-03-12 | 2014-03-12 | 距離画像生成装置および距離画像生成方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015172551A JP2015172551A (ja) | 2015-10-01 |
JP6328965B2 true JP6328965B2 (ja) | 2018-05-23 |
Family
ID=54259968
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014049159A Active JP6328965B2 (ja) | 2014-03-12 | 2014-03-12 | 距離画像生成装置および距離画像生成方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6328965B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021021633A (ja) * | 2019-07-26 | 2021-02-18 | ソニーセミコンダクタソリューションズ株式会社 | 測距装置、測距システムおよび測距装置の調整方法 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4151415A (en) * | 1977-10-31 | 1979-04-24 | Varo, Inc. | Active imaging system using variable gate width time programmed dwell |
US6323942B1 (en) * | 1999-04-30 | 2001-11-27 | Canesta, Inc. | CMOS-compatible three-dimensional image sensor IC |
ES2250636T3 (es) * | 2001-04-04 | 2006-04-16 | Instro Precision Limited | Equipo de analisis de imagenes. |
JP4161910B2 (ja) * | 2004-01-28 | 2008-10-08 | 株式会社デンソー | 距離画像データ生成装置及び生成方法,プログラム |
JP5051468B2 (ja) * | 2008-12-25 | 2012-10-17 | トヨタ自動車株式会社 | センサ校正装置、及び、センサ校正方法 |
JP2011069726A (ja) * | 2009-09-25 | 2011-04-07 | Hamamatsu Photonics Kk | 距離画像取得装置 |
JP5638345B2 (ja) * | 2010-10-27 | 2014-12-10 | 三菱電機株式会社 | レーザ画像計測装置 |
US8542348B2 (en) * | 2010-11-03 | 2013-09-24 | Rockwell Automation Technologies, Inc. | Color sensor insensitive to distance variations |
JP5858688B2 (ja) * | 2011-08-30 | 2016-02-10 | スタンレー電気株式会社 | 距離画像生成装置 |
US20130175429A1 (en) * | 2012-01-05 | 2013-07-11 | Pravin Rao | Image sensor, image sensing method, and image capturing apparatus including the image sensor |
-
2014
- 2014-03-12 JP JP2014049159A patent/JP6328965B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015172551A (ja) | 2015-10-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6827073B2 (ja) | 構造化光およびタイムオブフライトを用いた深度マッピング | |
US11688089B2 (en) | Method and processing system for updating a first image generated by a first camera based on a second image generated by a second camera | |
US10469722B2 (en) | Spatially tiled structured light projector | |
EP3586165B1 (en) | Single-frequency time-of-flight depth computation using stereoscopic disambiguation | |
WO2022100759A1 (zh) | 头戴式显示系统及其6自由度追踪方法和装置 | |
JP6296401B2 (ja) | 距離測定装置および固体撮像素子 | |
US10582188B2 (en) | System and method for adjusting a baseline of an imaging system with microlens array | |
US8860930B2 (en) | Three dimensional surface mapping system using optical flow | |
US9253471B2 (en) | Depth camera, multi-depth camera system and method of synchronizing the same | |
US10091492B2 (en) | Imaging apparatuses and a time of flight imaging method | |
US20200192206A1 (en) | Structured light projector, three-dimensional camera module and terminal device | |
KR20190075044A (ko) | 깊이 정보 결정을 위한 다중 이미터 조명 | |
US20140118341A1 (en) | Image processing apparatus and method | |
US20220180552A1 (en) | Device, method, and program for detecting position and orientation of target object | |
US20160316193A1 (en) | Parametric online calibration and compensation in tof imaging | |
JP2006308522A (ja) | 空間情報検出装置 | |
JP7378571B2 (ja) | 少なくとも一つのスキャン装置のためのフレームと少なくとも一つのスキャン装置を備える空間検出装置 | |
JP2017009339A (ja) | センサ、センシング装置及び距離計測方法 | |
CN105302381B (zh) | 红外线触摸屏精准度调整方法及装置 | |
JP2017156306A (ja) | 距離センサ、走行体、ロボット及び3次元計測装置 | |
US20130038722A1 (en) | Apparatus and method for image processing | |
WO2020110359A1 (en) | System and method for estimating pose of robot, robot, and storage medium | |
KR20150069927A (ko) | 카메라 및 레이저 센서의 캘리브레이션 장치 및 캘리브레이션 방법 | |
Vempati et al. | Onboard real-time dense reconstruction of large-scale environments for UAV | |
JP6859447B2 (ja) | 情報処理システムおよび対象物情報取得方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170203 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20171227 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180116 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180314 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180403 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180419 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6328965 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |