JP6635621B2 - 自動車用視覚システム及び視覚システムを制御する方法 - Google Patents
自動車用視覚システム及び視覚システムを制御する方法 Download PDFInfo
- Publication number
- JP6635621B2 JP6635621B2 JP2018526753A JP2018526753A JP6635621B2 JP 6635621 B2 JP6635621 B2 JP 6635621B2 JP 2018526753 A JP2018526753 A JP 2018526753A JP 2018526753 A JP2018526753 A JP 2018526753A JP 6635621 B2 JP6635621 B2 JP 6635621B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- search
- vertical
- vision system
- stereo
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/223—Analysis of motion using block-matching
- G06T7/231—Analysis of motion using block-matching using full search
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
Description
Claims (14)
- 自動車用視覚システム(10)であって、
ステレオ撮像装置(11)を形成する一対の撮像デバイス(12a、12b)と、
前記ステレオ撮像装置(11)によって取り込まれた画像の修正と、修正画像のステレオマッチングとを実行し、ステレオマッチングされた画像から、前記自動車の周囲にある物体を検出するように構成されるデータ処理装置(14)とを備え、
前記データ処理装置(14)は、一方の撮像デバイスからの修正画像内のピクセル毎又は複数のピクセルからなる領域毎に、各画像要素(43)に対して、他方の撮像デバイスからの対応する修正画像内の最も一致する画像要素(44’)の探索を実行するように構成され、
前記探索は、2次元探索エリアを対象にし、前記各画像要素(43)から前記最も一致する画像要素(44’)への垂直シフトが導出可能である垂直シフト情報をもたらし、
前記データ処理デバイス(14)は、前記垂直シフト情報から、前記撮像デバイス(12a、12b)間のピッチ角誤差及び/又はロール角誤差を計算するように構成されることを特徴とする、自動車用視覚システム。 - 前記垂直シフト情報は、検討対象の前記画像要素(43)と、検討対象の前記画像要素(43)に対して異なる垂直成分だけシフトされた他方の撮像デバイスからの対応する画像の複数の画像要素(44)との間の垂直一致度を示す複数の一致関連スコアを含み、それにより、垂直マッチングコストキューブ(52)が生成されることを特徴とする、請求項1に記載の視覚システム。
- 複数の画像要素がより大きな画像領域(49)にまとめられ、垂直シフトごとに、該画像領域(49)内の各画像要素から前記一致関連スコアが累積され、それにより、縮小サイズのマッチングコストキューブ(50)が生成されることを特徴とする、請求項2に記載の視覚システム。
- 画像領域(49)ごとに最良の一致を与える前記垂直シフトは、前記縮小コストキューブ(50)から特定され、それにより、垂直シフトマップ(48)が生成されることを特徴とする、請求項3に記載の視覚システム。
- 前記データ処理デバイス(14)は、前記垂直シフト情報から、両方の撮像デバイス間の焦点距離差を計算するように構成されることを特徴とする、請求項1〜4のいずれか一項に記載の視覚システム。
- 前記垂直シフト情報は、検討対象の各画像要素(43)から、前記他方の撮像デバイスからの前記対応する修正画像内の前記最も一致する画像要素(44’)へのベクトルを含むことを特徴とする、請求項1〜5のいずれか一項に記載の視覚システム。
- 前記ベクトルの垂直成分から垂直シフトマップ(48)が導出されることを特徴とする、請求項6に記載の視覚システム。
- 最小化関数、特に最小二乗最小化関数を同時に用いて、前記シフトマップ(48)からピッチ誤差及びロール誤差が計算されることを特徴とする、請求項4又は7に記載の視覚システム。
- 前記探索は、1次元水平探索エンジンを使用し、垂直方向において互いに対して異なる量だけシフトされる複数の1次元水平探索(45〜47)を実行することによって実行されることを特徴とする、請求項1〜8のいずれか一項に記載の視覚システム。
- 前記1次元水平探索エンジンは、前記ステレオマッチングプロセスと、前記探索とを、時分割によって非同時に実行するために使用されることを特徴とする、請求項9に記載の視覚システム。
- 前記探索は、前記ステレオマッチングプロセスの空きタイムスロットにおいて、及び/又は前記ステレオマッチングプロセスと交互のタイムスロットにおいて実行されることを特徴とする、請求項10に記載の視覚システム。
- 前記探索は、2次元探索エンジンを使用して、詳細には、オプティカルフロー計算を実行することができるアルゴリズムを利用して実行されることを特徴とする、請求項1〜8のいずれか一項に記載の視覚システム。
- 前記計算されたピッチ角誤差及び/又はロール角誤差は、後の修正及び/又はステレオマッチングプロセスにおいて使用されることを特徴とする、請求項1〜12のいずれか一項に記載の視覚システム。
- ステレオ撮像装置(11)を形成する一対の撮像デバイス(12a、12b)を使用する、自動車用視覚方法であって、前記ステレオ撮像装置(11)によって取り込まれた画像の修正と、修正画像のステレオマッチングと、ステレオマッチングされた画像から前記自動車の周囲にある物体を検出することとを含み、一方の撮像デバイスからの修正画像内のピクセル毎又は複数のピクセルからなる領域毎に、各画像要素(43)に対して、他方の撮像デバイスからの対応する修正画像内の最も一致する画像要素(44’)の探索を実行することであって、前記探索は、2次元探索エリアを対象にし、前記各画像要素(43)から前記最も一致する画像要素(44’)への垂直シフトが導出可能である垂直シフト情報をもたらすことと、前記垂直シフト情報から、前記撮像デバイス(12a、12b)間のピッチ角誤差及び/又はロール角誤差を計算することとを特徴とする、視覚方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP15198019.0A EP3176750B1 (en) | 2015-12-04 | 2015-12-04 | Vision system for a motor vehicle and method of controlling a vision system |
EP15198019.0 | 2015-12-04 | ||
PCT/EP2016/079644 WO2017093518A1 (en) | 2015-12-04 | 2016-12-02 | Vision system for a motor vehicle and method of controlling a vision system |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019518253A JP2019518253A (ja) | 2019-06-27 |
JP6635621B2 true JP6635621B2 (ja) | 2020-01-29 |
Family
ID=54843673
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018526753A Active JP6635621B2 (ja) | 2015-12-04 | 2016-12-02 | 自動車用視覚システム及び視覚システムを制御する方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10706589B2 (ja) |
EP (1) | EP3176750B1 (ja) |
JP (1) | JP6635621B2 (ja) |
CN (1) | CN108292441B (ja) |
WO (1) | WO2017093518A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3410705B1 (en) * | 2017-06-02 | 2021-11-03 | Veoneer Sweden AB | 3d vision system for a motor vehicle and method of controlling a 3d vision system |
CN111369425B (zh) * | 2020-02-20 | 2024-05-14 | 北京迈格威科技有限公司 | 图像处理方法、装置、电子设备和计算机可读介质 |
EP4300423A1 (en) | 2022-06-27 | 2024-01-03 | Continental Autonomous Mobility Germany GmbH | Robust stereo camera image processing method and system |
KR102608332B1 (ko) * | 2023-03-03 | 2023-11-30 | 국방과학연구소 | 대상 추적 알고리즘 |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3266827B2 (ja) | 1997-06-25 | 2002-03-18 | 本田技研工業株式会社 | 車両の物体検知装置 |
US5964822A (en) | 1997-08-27 | 1999-10-12 | Delco Electronics Corp. | Automatic sensor azimuth alignment |
DE19751004A1 (de) | 1997-11-18 | 1999-05-20 | Daimler Chrysler Ag | Verfahren zur Verarbeitung von Radarsignalen |
US6577269B2 (en) | 2000-08-16 | 2003-06-10 | Raytheon Company | Radar detection method and apparatus |
JP4265803B2 (ja) | 2005-11-22 | 2009-05-20 | 三菱電機株式会社 | レーダシステム |
US20080002878A1 (en) * | 2006-06-28 | 2008-01-03 | Somasundaram Meiyappan | Method For Fast Stereo Matching Of Images |
WO2008075271A2 (en) * | 2006-12-18 | 2008-06-26 | Koninklijke Philips Electronics N.V. | Calibrating a camera system |
DE102008008619A1 (de) * | 2008-02-12 | 2008-07-31 | Daimler Ag | Verfahren zur Kalibrierung eines Stereokamerasystems |
EP2254091B1 (en) * | 2009-05-19 | 2020-03-25 | Veoneer Sweden AB | Vision system and method for a motor vehicle |
JP5588812B2 (ja) | 2010-09-30 | 2014-09-10 | 日立オートモティブシステムズ株式会社 | 画像処理装置及びそれを用いた撮像装置 |
US8866889B2 (en) | 2010-11-03 | 2014-10-21 | Microsoft Corporation | In-home depth camera calibration |
JP2012177676A (ja) * | 2011-01-31 | 2012-09-13 | Sony Corp | 画像処理装置および方法、並びにプログラム |
US20130016186A1 (en) * | 2011-07-13 | 2013-01-17 | Qualcomm Incorporated | Method and apparatus for calibrating an imaging device |
JP2013093013A (ja) | 2011-10-06 | 2013-05-16 | Ricoh Co Ltd | 画像処理装置、車両 |
DE102011055795A1 (de) | 2011-11-29 | 2013-05-29 | Continental Automotive Gmbh | Verfahren zur Ermittlung eines drohenden Überschlags eines Fahrzeugs |
DE102012009577A1 (de) | 2012-05-15 | 2012-11-29 | Daimler Ag | Verfahren zur Kalibrierung und Verfahren zur Justierung von Einzelbildkameras einer Kameraanordnung |
JP5695000B2 (ja) * | 2012-08-13 | 2015-04-01 | 本田技研工業株式会社 | 車両周辺監視装置 |
US9066085B2 (en) | 2012-12-13 | 2015-06-23 | Delphi Technologies, Inc. | Stereoscopic camera object detection system and method of aligning the same |
US9384551B2 (en) * | 2013-04-08 | 2016-07-05 | Amazon Technologies, Inc. | Automatic rectification of stereo imaging cameras |
CN103679707A (zh) * | 2013-11-26 | 2014-03-26 | 西安交通大学 | 基于双目相机视差图的道路障碍物检测系统及检测方法 |
EP3736732A1 (en) | 2014-01-30 | 2020-11-11 | Mobileye Vision Technologies Ltd. | Systems and methods for lane end recognition |
-
2015
- 2015-12-04 EP EP15198019.0A patent/EP3176750B1/en active Active
-
2016
- 2016-12-02 WO PCT/EP2016/079644 patent/WO2017093518A1/en active Application Filing
- 2016-12-02 US US15/780,556 patent/US10706589B2/en active Active
- 2016-12-02 JP JP2018526753A patent/JP6635621B2/ja active Active
- 2016-12-02 CN CN201680070552.7A patent/CN108292441B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
EP3176750A1 (en) | 2017-06-07 |
JP2019518253A (ja) | 2019-06-27 |
WO2017093518A1 (en) | 2017-06-08 |
CN108292441B (zh) | 2022-05-24 |
US10706589B2 (en) | 2020-07-07 |
EP3176750B1 (en) | 2019-03-13 |
CN108292441A (zh) | 2018-07-17 |
US20180357792A1 (en) | 2018-12-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9912933B2 (en) | Road surface detection device and road surface detection system | |
JP6635621B2 (ja) | 自動車用視覚システム及び視覚システムを制御する方法 | |
JP4702569B2 (ja) | 車両用画像処理装置 | |
JP2013190421A (ja) | 車両において通行物体位置検出を向上する方法 | |
JP6743171B2 (ja) | 自動車両の道路付近の物体を検出するための方法、コンピュータデバイス、運転者支援システム、及び、自動車両 | |
JP7041172B2 (ja) | 自動車用3d視覚システム、及び3d視覚システムを制御する方法 | |
US20170318279A1 (en) | Stereo camera apparatus and vehicle comprising the same | |
KR102082254B1 (ko) | 차량 인식 시스템 | |
US20190362512A1 (en) | Method and Apparatus for Estimating a Range of a Moving Object | |
JP5539250B2 (ja) | 接近物体検知装置及び接近物体検知方法 | |
CN109278642A (zh) | 车辆倒车安全性映射 | |
JP2018060422A (ja) | 物体検出装置 | |
US9824449B2 (en) | Object recognition and pedestrian alert apparatus for a vehicle | |
JP6564127B2 (ja) | 自動車用視覚システム及び視覚システムを制御する方法 | |
CN111989541B (zh) | 立体摄像机装置 | |
JP7003972B2 (ja) | 距離推定装置、距離推定方法及び距離推定用コンピュータプログラム | |
JP5832850B2 (ja) | 車線監視システム及び車線監視方法 | |
JP6466679B2 (ja) | 物体検出装置 | |
WO2017122688A1 (ja) | 車載カメラのレンズ異常検出装置 | |
US11420855B2 (en) | Object detection device, vehicle, and object detection process | |
JP4661578B2 (ja) | 移動体認識装置 | |
JP2014067320A (ja) | ステレオカメラ装置 | |
JP2017211765A (ja) | 物体認識装置 | |
US11010625B2 (en) | Vehicle exterior environment recognition apparatus and method of recognizing exterior environment outside vehicle | |
JP2006107000A (ja) | 画像異常判定方法及び画像異常判定装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180531 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20181114 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190704 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190730 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191024 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191216 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191216 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6635621 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |