JP2020520588A - 自動車用3d視覚システム、及び3d視覚システムを制御する方法 - Google Patents
自動車用3d視覚システム、及び3d視覚システムを制御する方法 Download PDFInfo
- Publication number
- JP2020520588A JP2020520588A JP2019560202A JP2019560202A JP2020520588A JP 2020520588 A JP2020520588 A JP 2020520588A JP 2019560202 A JP2019560202 A JP 2019560202A JP 2019560202 A JP2019560202 A JP 2019560202A JP 2020520588 A JP2020520588 A JP 2020520588A
- Authority
- JP
- Japan
- Prior art keywords
- image
- vertical
- vertical shift
- imaging devices
- stereo
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/122—Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/246—Calibration of cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
- B60R2300/107—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using stereoscopic cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Studio Devices (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
Description
Claims (15)
- 自動車のための視覚システムであって、ステレオ撮像装置(11)を形成する一対の撮像デバイス(12a,12b)と、前記撮像デバイス(12a,12b)が取り付けられたハウジング部(96)と、前記ステレオ撮像装置(11)によって取り込まれた画像の修正と、修正した画像のステレオマッチングと、ステレオマッチングされた画像から前記自動車の周囲の物体を検出することと、を行うように適合されたデータ処理装置(14)と、を備え、前記データ処理デバイス(14)は、一方の撮像デバイス(12a,12b)からの画像の部分と他方の撮像デバイス(12a,12b)の画像の対応する部分との間の垂直シフトを導出可能な垂直シフト情報を計算するように、かつ前記垂直シフト情報から前記撮像デバイス(12a,12b)の1つ以上の、又は前記撮像デバイス(12a,12b)間の、垂直不一致を計算するように適合されていることを特徴とする、視覚システム(10)。
- 前記垂直不一致が、
−前記撮像デバイス(12a,12b)間の垂直フロントガラス歪み、
−画像センサ面に対する前記撮像デバイス(12a、12b)のうちの1つ以上の光軸の傾斜、及び
−前記撮像デバイス(12a,12b)間の焦点距離差又はドリフト、のうちの1つ以上を含むことを特徴とする、請求項1に記載の視覚システム。 - 前記データ処理デバイス(14)が、マトリクス状に配置された複数の画像領域(49)を含む垂直シフトマップ(48)を計算するように適合され、各画像領域(49)に、検討中の前記画像領域(49)の垂直シフト値が割り当てられることを特徴とする、請求項1又は2に記載の視覚システム。
- 前記データ処理デバイス(14)が、前記シフトマップ(48)からピッチ角誤差及び/又はロール角誤差の寄与を減算することによって、前記垂直シフトマップ(48)から残留シフトマップを計算し、かつ前記残留シフトマップから前記垂直不一致を計算するように適合されていることを特徴とする、請求項3に記載の視覚システム。
- 前記データ処理デバイス(14)が、一方の撮像デバイスからの修正された画像の画像要素(43)に対して、他方の撮像デバイスからの対応する修正された画像における最も一致する画像要素(44’)の探索を実行するように適合され、前記探索が、2次元探索領域を巡回し、前記探索が、前記画像要素(43)から前記最も一致する画像要素(44’)への垂直シフトを導出可能な前記垂直シフト情報を生成することを特徴とする、請求項1〜4のいずれか一項に記載の視覚システム。
- 前記垂直シフト情報が、検討中の前記画像要素(43)と、検討中の前記画像要素(43)に対して異なる垂直成分でずれた、他方の撮像デバイスからの対応する画像の複数の画像要素(44)と、の間の垂直一致度を示す複数の一致関連スコアを含み、垂直マッチングコストキューブ(52)を生成することを特徴とする、請求項5に記載の視覚システム。
- 複数の画像要素が束ねられて、より大きな画像領域(49)にされ、垂直シフトごとに、前記画像領域(49)内の各画像要素からの前記一致関連スコアが積算されて、サイズが減少した一致コストキューブ(50)を生成することを特徴とする、請求項6に記載の視覚システム。
- 画像領域(49)ごとに最良の一致を与える前記垂直シフトを前記減少したコストキューブ(50)から決定し、前記垂直シフトマップ(48)を生成することを特徴とする、請求項7に記載の視覚システム。
- 前記垂直シフト情報が、検討中の各画像要素(43)から前記他方の撮像デバイスからの前記対応する修正された画像内の前記最も一致する画像要素(44’)へのベクトルを含むことを特徴とする、請求項5〜8のいずれか一項に記載の視覚システム。
- 前記垂直シフトマップ(48)が、前記ベクトルの前記垂直成分から導出されることを特徴とする、請求項9に記載の視覚システム。
- 前記探索は、1次元水平探索エンジンを使用して、かつ垂直方向に互いに対して異なる量だけずらした複数の1次元水平探索(45〜47)を実行して実行されることを特徴とする、請求項5〜10のいずれか一項に記載の視覚システム。
- 前記探索が、2次元探索エンジンを使用して、特に、光学フロー計算を実行することができるアルゴリズムを使用して、実行されることを特徴とする、請求項5〜10のいずれか一項に記載の視覚システム。
- 前記垂直不一致が、両撮像デバイス(12a,12b)の画像内で検出された特徴点から計算されることを特徴とする、請求項1〜12のいずれか一項に記載の視覚システム。
- 前記垂直不一致が、後の修正及び/又はステレオマッチング処理において使用されることを特徴とする、請求項1〜13のいずれか一項に記載の視覚システム。
- ハウジング部(96)に取り付けられかつステレオ撮像装置(11)を形成する一対の撮像デバイス(12a,12b)を使用する、自動車のための視覚方法であって、前記ステレオ撮像装置(11)によって取り込まれた画像の修正と、修正した画像のステレオマッチングと、ステレオマッチングされた画像から前記自動車の周囲の物体を検出することと、を含み、一方の撮像デバイス(12a,12b)からの画像の部分と他方の撮像デバイス(12a,12b)の画像の対応する部分との間の垂直シフトを導出可能な垂直シフト情報を計算することと、前記垂直シフト情報から前記撮像デバイス(12a,12b)の1つ以上の、又は前記撮像デバイス(12a,12b)間の、垂直不一致を計算することと、を含むことを特徴とする視覚方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP17174278.6 | 2017-06-02 | ||
EP17174278.6A EP3410705B1 (en) | 2017-06-02 | 2017-06-02 | 3d vision system for a motor vehicle and method of controlling a 3d vision system |
PCT/EP2018/064486 WO2018220184A1 (en) | 2017-06-02 | 2018-06-01 | 3d vision system for a motor vehicle and method of controlling a 3d vision system |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020520588A true JP2020520588A (ja) | 2020-07-09 |
JP7041172B2 JP7041172B2 (ja) | 2022-03-23 |
Family
ID=59061836
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019560202A Active JP7041172B2 (ja) | 2017-06-02 | 2018-06-01 | 自動車用3d視覚システム、及び3d視覚システムを制御する方法 |
Country Status (3)
Country | Link |
---|---|
EP (1) | EP3410705B1 (ja) |
JP (1) | JP7041172B2 (ja) |
WO (1) | WO2018220184A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024018709A1 (ja) * | 2022-07-22 | 2024-01-25 | 日立Astemo株式会社 | ステレオカメラ装置及びキャリブレーション方法 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7146608B2 (ja) * | 2018-12-14 | 2022-10-04 | 日立Astemo株式会社 | 画像処理装置 |
JP7324683B2 (ja) * | 2019-10-17 | 2023-08-10 | 株式会社Subaru | 画像処理装置 |
DE102021206608A1 (de) | 2021-06-25 | 2022-12-29 | Continental Autonomous Mobility Germany GmbH | Kamerasystem sowie Verfahren für ein Kamerasystem |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012212428A (ja) * | 2011-03-23 | 2012-11-01 | Sharp Corp | 視差算出装置、距離算出装置及び視差算出方法 |
JP2014521262A (ja) * | 2011-07-13 | 2014-08-25 | クゥアルコム・インコーポレイテッド | 撮像デバイスを較正するための方法および装置 |
JP2016008847A (ja) * | 2014-06-23 | 2016-01-18 | 株式会社日本自動車部品総合研究所 | 測距補正装置 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102008008619A1 (de) * | 2008-02-12 | 2008-07-31 | Daimler Ag | Verfahren zur Kalibrierung eines Stereokamerasystems |
EP3176750B1 (en) * | 2015-12-04 | 2019-03-13 | Veoneer Sweden AB | Vision system for a motor vehicle and method of controlling a vision system |
-
2017
- 2017-06-02 EP EP17174278.6A patent/EP3410705B1/en active Active
-
2018
- 2018-06-01 WO PCT/EP2018/064486 patent/WO2018220184A1/en active Application Filing
- 2018-06-01 JP JP2019560202A patent/JP7041172B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012212428A (ja) * | 2011-03-23 | 2012-11-01 | Sharp Corp | 視差算出装置、距離算出装置及び視差算出方法 |
JP2014521262A (ja) * | 2011-07-13 | 2014-08-25 | クゥアルコム・インコーポレイテッド | 撮像デバイスを較正するための方法および装置 |
JP2016008847A (ja) * | 2014-06-23 | 2016-01-18 | 株式会社日本自動車部品総合研究所 | 測距補正装置 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024018709A1 (ja) * | 2022-07-22 | 2024-01-25 | 日立Astemo株式会社 | ステレオカメラ装置及びキャリブレーション方法 |
Also Published As
Publication number | Publication date |
---|---|
JP7041172B2 (ja) | 2022-03-23 |
EP3410705B1 (en) | 2021-11-03 |
EP3410705A1 (en) | 2018-12-05 |
WO2018220184A1 (en) | 2018-12-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9378553B2 (en) | Stereo image processing device for vehicle | |
JP7041172B2 (ja) | 自動車用3d視覚システム、及び3d視覚システムを制御する方法 | |
US20170339397A1 (en) | Stereo auto-calibration from structure-from-motion | |
EP3367677B1 (en) | Calibration apparatus, calibration method, and calibration program | |
US10183621B2 (en) | Vehicular image processing apparatus and vehicular image processing system | |
KR102104005B1 (ko) | 자동차의 도로변의 물체를 검출하는 방법, 컴퓨팅 장치, 운전자 보조 시스템 및 자동차 | |
JP6602982B2 (ja) | 車載カメラ、車載カメラの調整方法、車載カメラシステム | |
US10997737B2 (en) | Method and system for aligning image data from a vehicle camera | |
US20210004614A1 (en) | Surround View System Having an Adapted Projection Surface | |
WO2017207669A1 (en) | Vision system and method for a motor vehicle | |
US20200051282A1 (en) | Object detection device and vehicle | |
EP3667413B1 (en) | Stereo image processing device | |
CN111480057B (zh) | 图像处理装置、图像处理方法和程序 | |
CN108292441B (zh) | 用于机动车辆的视觉系统和控制视觉系统的方法 | |
US20160093065A1 (en) | Method for detecting an object in an environmental region of a motor vehicle, driver assistance system and motor vehicle | |
JPH09223227A (ja) | 車両用環境認識装置 | |
JP6768554B2 (ja) | キャリブレーション装置 | |
CN109345591A (zh) | 一种车辆自身姿态检测方法和装置 | |
JP6564127B2 (ja) | 自動車用視覚システム及び視覚システムを制御する方法 | |
WO2022153795A1 (ja) | 信号処理装置、信号処理方法及び信号処理システム | |
JP2019160251A (ja) | 画像処理装置、物体認識装置、機器制御システム、移動体、画像処理方法およびプログラム | |
JP2017200000A (ja) | 周辺監視装置及び周辺監視方法 | |
EP4300423A1 (en) | Robust stereo camera image processing method and system | |
EP4279864A1 (en) | A method for aligning a vehicle to an adas calibration target and an adas calibration system | |
EP3789908A1 (en) | Mono vision system and method for a motor vehicle |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191106 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201113 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201124 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20210223 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210408 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210823 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210929 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220215 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220310 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7041172 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |