JP6772639B2 - 視差演算システム、移動体及びプログラム - Google Patents
視差演算システム、移動体及びプログラム Download PDFInfo
- Publication number
- JP6772639B2 JP6772639B2 JP2016151683A JP2016151683A JP6772639B2 JP 6772639 B2 JP6772639 B2 JP 6772639B2 JP 2016151683 A JP2016151683 A JP 2016151683A JP 2016151683 A JP2016151683 A JP 2016151683A JP 6772639 B2 JP6772639 B2 JP 6772639B2
- Authority
- JP
- Japan
- Prior art keywords
- cost
- parallax
- unit
- calculation
- distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S11/00—Systems for determining distance or velocity not using reflection or reradiation
- G01S11/12—Systems for determining distance or velocity not using reflection or reradiation using electromagnetic waves other than radio waves
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/86—Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
- G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/867—Combination of radar systems with cameras
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Electromagnetism (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Measurement Of Optical Distance (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Traffic Control Systems (AREA)
Description
複数の撮像装置の撮影方向に向かって電磁波を照射することで取得した、反射波を示す信号を処理する際の処理範囲を、該複数の撮像装置により撮影された撮影画像を用いて演算された視差のうち演算頻度が最大の視差に基づいて決定する決定手段と、
前記決定手段により決定された処理範囲の信号を処理することで、前記電磁波の照射位置までの距離を算出する算出手段とを有することを特徴とする。
<1.視差演算システムの外観構成及び取り付け例>
はじめに、一実施形態に係る視差演算システムの外観構成及び取り付け例について説明する。図1は、視差演算システムの外観構成及び取り付け例を示す図である。
次に、視差演算システム100のハードウェア構成について説明する。図2は、視差演算システムのハードウェア構成の一例を示す図である。
次に、視差演算システム100が備える各3次元センサ(ステレオカメラ部110、レーザレーダ測距部120)の距離分解能及び空間分解能について簡単に説明する。
次に、ステレオカメラ部110により撮影された撮影画像に基づき、距離計算処理部250にて行われる視差演算の特性について説明する。はじめに、距離計算処理部250が視差演算を行う際の、基準画像内の演算対象の画素領域である「基準画素領域」と、比較画像内の画素領域について説明する。
次に、レーザ信号処理部240により算出される距離情報の特性について説明する。上述したとおり、レーザレーダ測距部120は、応答時間をナノ秒オーダで測定できるため、オブジェクトまでの距離によらず、いずれの距離においてもステレオカメラ部110より高い距離分解能を有する。
次に、距離計算処理部250の機能構成について説明する。図7は、距離計算処理部の機能構成を示す図である。なお、図7では、距離計算処理部の機能構成のうち、視差演算に関する処理を実現するための機能構成についてのみ示し、その他の機能構成(例えば、同期制御信号を送信するための機能等)については省略してある。
はじめに、処理範囲算出部710の各部の詳細について説明する。
図8は、第1コスト算出部の機能構成の詳細を示す図である。図8に示すように、第1コスト算出部711は、基準画像取得部801、比較画像取得部802、コストC計算部803を有する。
第1合成コスト算出部712は、第1コスト算出部711より通知された各画素領域のコストC(p,d)を合成することで第1合成コストSを算出し、合成結果を得る。第1合成コスト算出部712は、例えば、SGM(Semi-Global Matching)等の処理方法を用いて、複数の第1経路コストLrを算出し、それぞれの第1経路コストLrを、基準画素領域pに集約させることで、第1合成コストSを算出する。
第1視差演算部713は、第1合成コスト算出部712により算出された第1合成コストS(p,d)に基づいて、基準画素領域pに対応する比較画像510内の対応画素領域を抽出し、基準画素領域pの視差を演算する。
範囲決定部714は、第1視差演算部713より通知された視差(第1視差)の演算結果のうち、基準画素領域p及びその周辺の画素領域の視差を抽出し、処理範囲を決定する。図12を参照しながら、具体的に説明する。
続いて、視差画像生成部720の各部の詳細について説明する。
図14は、第2コスト算出部の機能構成の詳細を示す図である。図14に示すように、第2コスト算出部721は、基準画像取得部1401、比較画像取得部1402、コストC計算部1403、コストC調整部1404を有する。また、第2コスト算出部721は、距離情報取得部1411、コストCl計算部1412、重み付け加算部1420を有する。
第2合成コスト算出部722は、第2コスト算出部721より通知された各画素領域の重み付けコストを合成することで第2合成コストS'を算出し、合成結果を得る。第2合成コスト算出部722は、例えば、SGM(Semi-Global Matching)等の処理方法を用いて、複数の第2経路コストLr'を算出し、それぞれの第2経路コストLr'を、基準画素領域pに集約させることで、第2合成コストS'を算出する。
第2視差演算部723は、再演算手段の一例であり、第2合成コスト算出部722により算出された第2合成コストS'に基づいて、基準画素領域pに対応する比較画像510内の対応画素領域を抽出し、基準画素領域pの視差を再演算する。
次に、距離計算処理部250による視差画像生成処理の流れについて説明する。図17は、距離計算処理部による視差画像生成処理の流れを示すフローチャートである。なお、図17に示すフローチャートは、レーザレーダ測距部120によりレーザ光が照射された照射位置に対応する1の基準画素領域pについての視差を演算する処理を示したものである。したがって、視差画像の生成にあたり、距離計算処理部250は同様の各基準画素領域について図17に示すフローチャートを実行する。
以上の説明から明らかなように、本実施形態における視差演算システム100は、
・基準画素領域pの位置に対応する実空間のオブジェクトに、レーザ光を照射することで生成されたレーザ受光信号を取得する。
・基準画素領域pのコストCを算出し、算出したコストCを合成することで算出した第1合成コストSに基づいて、基準画素領域pにおける視差を演算する。
・レーザ受光信号のうち、基準画素領域pにおける視差に基づいて算出した処理範囲を対象に処理を行い、オブジェクトでの反射を示す信号を検出することで、オブジェクトまでの距離を算出する。
・基準画素領域pの位置に対応する実空間のオブジェクトまでの距離情報として、レーザレーダ測距部により算出された距離情報Zlを取得する。
・取得した距離情報Zlに対応するシフト量dlに基づいて、コストClを算出する。
・基準画素領域pのコストCを信頼度に基づいて調整した調整後のコストC'と、距離情報Zlに基づいて算出したコストClとを重み係数wdを用いて重み付け加算し、重み付けコストを算出する。
・算出した重み付けコストを合成することで第2合成コストS'を算出する。
・算出した第2合成コストS'に基づいて、基準画素領域pに対応する比較画像内の対応画素領域を抽出し、基準画素領域pにおける視差を再演算する。
上記実施形態では、画素領域についてコストCを算出する場合について説明したが、コストCの算出は、1画素ごとに行うように構成してもよい。この場合、第1コスト算出部711及び第2コスト算出部721では、基準画像520から基準画素を抽出し、比較画像510の各画素との間でコストCを算出することになる。つまり、上記実施形態に記載の"画素領域"には、1または複数の画素が含まれるものとする。
110 :ステレオカメラ部
111、112 :単眼カメラ部
120 :レーザレーダ測距部
250 :距離計算処理部
510 :比較画像
511 :画素領域
520 :基準画像
710 :処理範囲算出部
711 :第1コスト算出部
712 :第1合成コスト算出部
713 :第1視差演算部
714 :範囲決定部
720 :視差画像生成部
721 :第2コスト算出部
722 :第2合成コスト算出部
723 :第2視差演算部
801 :基準画像取得部
802 :比較画像取得部
803 :コストC計算部
1001 :第1経路コスト計算部
1002 :第1合成コストS計算部
1310 :処理範囲
1320 :処理範囲
1401 :基準画像取得部
1402 :比較画像取得部
1403 :コストC計算部
1404 :コストC調整部
1411 :距離情報取得部
1412 :コストCl計算部
1420 :重み付け加算部
1501 :第2経路コスト計算部
1502 :第2合成コストS'計算部
Claims (6)
- 複数の撮像装置の撮影方向に向かって電磁波を照射することで取得した、反射波を示す信号を処理する際の処理範囲を、該複数の撮像装置により撮影された撮影画像を用いて演算された視差のうち演算頻度が最大の視差に基づいて決定する決定手段と、
前記決定手段により決定された処理範囲の信号を処理することで、前記電磁波の照射位置までの距離を算出する算出手段と
を有することを特徴とする視差演算システム。 - 前記決定手段は、前記電磁波の照射位置に対応する前記撮影画像内の画素領域について演算された視差のうち演算頻度が最大の視差に基づいて、前記処理範囲を決定することを特徴とする請求項1に記載の視差演算システム。
- 前記算出手段により算出された距離に基づいて、前記撮影画像の視差を再演算する再演算手段を更に有することを特徴とする請求項1または2に記載の視差演算システム。
- 前記複数の撮像装置と、
前記電磁波を照射する電磁波測距装置と
を更に有することを特徴とする請求項1乃至3のいずれか1項に記載の視差演算システム。 - 請求項1乃至4のいずれか1項に記載の視差演算システムを有する移動体。
- コンピュータに、
複数の撮像装置の撮影方向に向かって電磁波を照射することで取得した、反射波を示す信号を処理する際の処理範囲を、該複数の撮像装置により撮影された撮影画像を用いて演算された視差のうち演算頻度が最大の視差に基づいて決定する決定工程と、
前記決定工程において決定された処理範囲の信号を処理することで、前記電磁波の照射位置までの距離を算出する算出工程と
を実行させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016151683A JP6772639B2 (ja) | 2016-08-02 | 2016-08-02 | 視差演算システム、移動体及びプログラム |
EP17184039.0A EP3279691B1 (en) | 2016-08-02 | 2017-07-31 | Rangefinder based on parallax calculation |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016151683A JP6772639B2 (ja) | 2016-08-02 | 2016-08-02 | 視差演算システム、移動体及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018021776A JP2018021776A (ja) | 2018-02-08 |
JP6772639B2 true JP6772639B2 (ja) | 2020-10-21 |
Family
ID=59501333
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016151683A Active JP6772639B2 (ja) | 2016-08-02 | 2016-08-02 | 視差演算システム、移動体及びプログラム |
Country Status (2)
Country | Link |
---|---|
EP (1) | EP3279691B1 (ja) |
JP (1) | JP6772639B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7119444B2 (ja) * | 2018-03-13 | 2022-08-17 | 株式会社リコー | 測距システム、測距方法、車載装置、車両 |
CN109559541B (zh) * | 2018-11-20 | 2021-06-22 | 华东交通大学 | 一种无人驾驶交通工具路线管理系统 |
JP7238422B2 (ja) * | 2019-01-22 | 2023-03-14 | 株式会社リコー | 測距方法、測距装置、車載装置、移動体、測距システム |
JP7255259B2 (ja) | 2019-03-19 | 2023-04-11 | 株式会社リコー | 検出装置、測距装置、時間測定方法、プログラム、移動体 |
JP7327257B2 (ja) | 2020-04-13 | 2023-08-16 | トヨタ自動車株式会社 | 車載センサシステム |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006322852A (ja) * | 2005-05-19 | 2006-11-30 | Olympus Corp | 距離計測装置、距離計測方法および距離計測プログラム |
JP2007240276A (ja) * | 2006-03-07 | 2007-09-20 | Olympus Corp | 距離計測装置・撮像装置、距離計測方法・撮像方法、距離計測プログラム・撮像プログラムおよび記憶媒体 |
US10061028B2 (en) * | 2013-09-05 | 2018-08-28 | Texas Instruments Incorporated | Time-of-flight (TOF) assisted structured light imaging |
JP6476831B2 (ja) * | 2013-12-26 | 2019-03-06 | 株式会社リコー | 視差演算システム、情報処理装置、情報処理方法及びプログラム |
JP6528447B2 (ja) * | 2014-02-25 | 2019-06-12 | 株式会社リコー | 視差演算システム及び距離測定装置 |
JP6668594B2 (ja) * | 2014-02-25 | 2020-03-18 | 株式会社リコー | 視差演算システム、情報処理装置、情報処理方法及びプログラム |
JP6467776B2 (ja) * | 2014-03-13 | 2019-02-13 | 株式会社リコー | 測距システム、情報処理装置、情報処理方法及びプログラム |
JP6476629B2 (ja) | 2014-06-03 | 2019-03-06 | 株式会社リコー | 情報処理装置、情報処理方法、及び、プログラム |
-
2016
- 2016-08-02 JP JP2016151683A patent/JP6772639B2/ja active Active
-
2017
- 2017-07-31 EP EP17184039.0A patent/EP3279691B1/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018021776A (ja) | 2018-02-08 |
EP3279691B1 (en) | 2021-05-26 |
EP3279691A1 (en) | 2018-02-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11693115B2 (en) | Determining positional information of an object in space | |
JP6772639B2 (ja) | 視差演算システム、移動体及びプログラム | |
JP6969425B2 (ja) | 光測距装置 | |
US9921312B2 (en) | Three-dimensional measuring device and three-dimensional measuring method | |
KR101891907B1 (ko) | 거리 측정 장치 및 시차 연산 시스템 | |
US10712432B2 (en) | Time-of-light-based systems using reduced illumination duty cycles | |
WO2020009011A1 (ja) | 光測距装置 | |
JP6776692B2 (ja) | 視差演算システム、移動体及びプログラム | |
KR102664396B1 (ko) | 라이다 장치 및 그 동작 방법 | |
US11581697B2 (en) | Detector system comparing pixel response with photonic energy decay | |
JP2015175644A (ja) | 測距システム、情報処理装置、情報処理方法及びプログラム | |
JP2020020612A (ja) | 測距装置、測距方法、プログラム、移動体 | |
CN110986816B (zh) | 一种深度测量系统及其测量方法 | |
JP2014070936A (ja) | 誤差画素検出装置、誤差画素検出方法、および誤差画素検出プログラム | |
WO2022195954A1 (ja) | センシングシステム | |
KR101866764B1 (ko) | 통합픽셀로 구성된 거리영상센서 | |
JP7262064B2 (ja) | 測距撮像システム、測距撮像方法、及びプログラム | |
US11802945B2 (en) | Photonic ROIC having safety features | |
JP6379646B2 (ja) | 情報処理装置、測定方法及びプログラム | |
US20230228851A1 (en) | Efficient laser illumination for scanned lidar | |
JP2023106227A (ja) | 深度情報処理装置、深度分布推定方法、深度分布検出システム及び学習済みモデル生成方法 | |
Junkins et al. | Digital Pulse Processing Methods for Range Refinement of LADAR Systems |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190621 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200423 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200609 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200807 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200901 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200914 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6772639 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |