JP7120835B2 - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP7120835B2 JP7120835B2 JP2018135056A JP2018135056A JP7120835B2 JP 7120835 B2 JP7120835 B2 JP 7120835B2 JP 2018135056 A JP2018135056 A JP 2018135056A JP 2018135056 A JP2018135056 A JP 2018135056A JP 7120835 B2 JP7120835 B2 JP 7120835B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- target
- imaging
- processing
- overlapping
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
- B60R11/04—Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/174—Segmentation; Edge detection involving the use of two or more images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/147—Details of sensors, e.g. sensor lenses
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
- B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/302—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/303—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
- B60R2300/8093—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30261—Obstacle
Description
初めに、図1及び図2(a)から図2(b)を参照しながら、本実施形態の車両1の構成について説明する。図1は、本実施形態の車両1の構成を示すブロック図である。図2(a)は、本実施形態の車両1における標準カメラ11wの撮像領域IRw及び望遠カメラ11tの撮像領域IRtを示す平面図であり、図2(b)は、本実施形態の車両1における標準カメラ11wの撮像領域IRw及び望遠カメラ11tの撮像領域IRtを示す断面図である。尚、以下の説明では、必要に応じて、車両1から右側に向かう方向が+Y方向に対応し、車両1から左側に向かう方向が-Y方向に対応し、車両1から前側に向かう方向が+X方向に対応し、車両1から後側に向かう方向が-X方向に対応し、車両1から上側に向かう方向が+Z方向に対応し、車両1から下側に向かう方向が-Z方向に対応するXYZ座標系を用いて、説明を進める。
続いて、ECU12が行う物標認識動作の流れについて説明する。本実施形態では、ECU12は、第1の物標認識動作及び第2の物標認識動作の少なくとも一方を行うことが可能である。このため、以下では、第1の物標認識動作及び第2の物標認識動作について順に説明する。
初めに、図3を参照しながら、第1の物標認識動作の流れについて説明する。図3は、第1の物標認識動作の流れを示すフローチャートである。
続いて、図6を参照しながら、第2の物標認識動作の流れについて説明する。図6は、第2の物標認識動作の流れを示すフローチャートである。尚、上述した図3に示す第1の物標認識動作で行われる処理と同一の処理については、同一のステップ番号を付して、その詳細な説明を省略する。
続いて、物標認識動作の変形例について説明する。上述したように、標準画像111wが重複画像部分112wと非重複画像部分113wとを含む場合には、標準画像111wには、重複画像部分112wと非重複画像部分113wとの境界を跨ぐように写り込んでいる物標(以降、説明の便宜上、“特定物標P”と称する)が存在する可能性がある。
以上説明した実施形態に関して、更に以下の付記を開示する。
付記1に記載された画像処理装置は、第1撮像手段が第1撮像領域を撮像して得られる第1画像及び前記第1撮像手段よりも焦点距離が長い第2撮像手段が前記第1撮像領域と部分的に重複する第2撮像領域を撮像して得られる第2画像を取得する取得手段と、前記第1及び第2画像の少なくとも一部に対して、前記第1及び第2画像の少なくとも一方に写り込んでいる物標を検出するための画像認識処理を行う処理手段とを備え、前記処理手段は、前記第1画像に対して前記画像認識処理を行う場合には、前記第1画像のうち前記第1撮像領域と前記第2撮像領域とが重複する重複領域が写り込んだ重複画像部分に対して前記画像認識処理を行うことなく、前記第1画像のうち前記第1撮像領域と前記第2撮像領域とが重複しない非重複領域が写り込んだ非重複画像部分に対して前記画像認識処理を行う画像処理装置である。
付記2に記載された画像処理装置は、第1撮像手段が第1撮像領域を撮像して得られる第1画像及び前記第1撮像手段よりも焦点距離が長い第2撮像手段が前記第1撮像領域と部分的に重複する第2撮像領域を撮像して得られる第2画像を取得する取得手段と、前記第1及び第2画像の夫々に対して、前記第1及び第2画像の少なくとも一方に写り込んでいる物標を認識するための画像認識処理を行う処理手段とを備え、前記処理手段は、前記第1画像に対して前記画像認識処理を行う場合には、前記第1画像のうち前記第1撮像領域と前記第2撮像領域とが重複しない非重複領域が写り込んだ非重複画像部分に対して第1の演算負荷の前記画像認識処理を行い、前記第1画像のうち前記第1撮像領域と前記第2撮像領域とが重複する重複領域が写り込んだ重複画像部分に対して前記第1の演算負荷よりも小さい第2の演算負荷の前記画像認識処理を行う画像処理装置画像処理装置である。
付記3に記載された画像処理装置は、第1撮像手段が第1撮像領域を撮像して得られる第1画像及び前記第1撮像手段よりも焦点距離が長い第2撮像手段が前記第1撮像領域と部分的に重複する第2撮像領域を撮像して得られる第2画像を取得する取得手段と、前記第1及び第2画像の夫々に対して、前記第1及び第2画像の少なくとも一方に写り込んでいる物標を認識するための画像認識処理を行う処理手段とを備え、前記処理手段は、複数の前記第1画像に対して前記画像認識処理を行う場合には、前記第1画像のうち前記第1撮像領域と前記第2撮像領域とが重複しない非重複領域が写り込んだ非重複画像部分に写り込んだ物標を認識するための前記画像認識処理を、前記複数の第1画像の夫々に対して行い、前記第1画像のうち前記第1撮像領域と前記第2撮像領域とが重複する重複領域が写り込んだ重複画像部分に写り込んだ物標を認識するための前記画像認識処理を、前記複数の第1画像のうちの一部に対して行う一方で前記複数の第1画像のうちの他の一部に対して行わない画像処理装置画像処理装置である。
付記4に記載された画像処理装置は、前記処理手段は、(i)前記重複画像部分と前記非重複画像部分とに跨るように前記第1画像に写り込む物標である特定物標が存在するか否かを判定し、(ii)前記特定物標が存在すると判定された場合には、前記特定物標が存在しないと判定された場合と比較して、前記特定物標が認識されやすくなるように前記第1画像に対して前記画像認識処理を行う付記1から3のいずれか一項に記載の画像処理装置である。
11w 標準カメラ
11t 望遠カメラ
111w 標準画像
112w 重複画像部分
113w 非重複画像部分
111t 望遠画像
12 ECU
121 画像取得部
122 画像処理部
IRw、IRt 撮像領域
Claims (3)
- 第1撮像手段が第1撮像領域を撮像して得られる第1画像及び前記第1撮像手段よりも焦点距離が長い第2撮像手段が前記第1撮像領域と部分的に重複する第2撮像領域を撮像して得られる第2画像を取得する取得手段と、
前記第1及び第2画像の夫々に対して、前記第1及び第2画像の少なくとも一方に写り込んでいる物標を認識するための画像認識処理を行う処理手段と
を備え、
前記処理手段は、前記第1画像に対して前記画像認識処理を行う場合には、前記第1画像のうち前記第1撮像領域と前記第2撮像領域とが重複しない非重複領域が写り込んだ非重複画像部分に対して第1の演算負荷の前記画像認識処理を行い、前記第1画像のうち前記第1撮像領域と前記第2撮像領域とが重複する重複領域が写り込んだ重複画像部分に対して前記第1の演算負荷よりも小さい第2の演算負荷の前記画像認識処理を行う
画像処理装置。 - 第1撮像手段が第1撮像領域を撮像して得られる第1画像及び前記第1撮像手段よりも焦点距離が長い第2撮像手段が前記第1撮像領域と部分的に重複する第2撮像領域を撮像して得られる第2画像を取得する取得手段と、
前記第1及び第2画像の夫々に対して、前記第1及び第2画像の少なくとも一方に写り込んでいる物標を認識するための画像認識処理を行う処理手段と
を備え、
前記処理手段は、複数の前記第1画像に対して前記画像認識処理を行う場合には、前記第1画像のうち前記第1撮像領域と前記第2撮像領域とが重複しない非重複領域が写り込んだ非重複画像部分に写り込んだ物標を認識するための前記画像認識処理を、前記複数の第1画像の夫々に対して行い、前記第1画像のうち前記第1撮像領域と前記第2撮像領域とが重複する重複領域が写り込んだ重複画像部分に写り込んだ物標を認識するための前記画像認識処理を、前記複数の第1画像から抽出される少なくとも一枚の第1画像に対して行う一方で前記複数の第1画像から抽出されなかった残りの第1画像に対して行わない
画像処理装置。 - 前記処理手段は、(i)前記重複画像部分と前記非重複画像部分とに跨るように前記第1画像に写り込む物標である特定物標が存在するか否かを判定し、(ii)前記特定物標が存在すると判定された場合には、前記特定物標が存在しないと判定された場合と比較して、前記特定物標が認識されやすくなるように前記第1画像に対して前記画像認識処理を行う
請求項1又は2に記載の画像処理装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018135056A JP7120835B2 (ja) | 2018-07-18 | 2018-07-18 | 画像処理装置 |
CN201910520788.1A CN110738088B (zh) | 2018-07-18 | 2019-06-17 | 图像处理装置 |
US16/514,313 US11157755B2 (en) | 2018-07-18 | 2019-07-17 | Image processing apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018135056A JP7120835B2 (ja) | 2018-07-18 | 2018-07-18 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020013330A JP2020013330A (ja) | 2020-01-23 |
JP7120835B2 true JP7120835B2 (ja) | 2022-08-17 |
Family
ID=69163099
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018135056A Active JP7120835B2 (ja) | 2018-07-18 | 2018-07-18 | 画像処理装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11157755B2 (ja) |
JP (1) | JP7120835B2 (ja) |
CN (1) | CN110738088B (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111988524A (zh) * | 2020-08-21 | 2020-11-24 | 广东电网有限责任公司清远供电局 | 一种无人机与摄像头协同避障方法、服务器及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015154386A (ja) | 2014-02-18 | 2015-08-24 | 富士フイルム株式会社 | 自動追尾撮像装置 |
JP2017067535A (ja) | 2015-09-29 | 2017-04-06 | 日立オートモティブシステムズ株式会社 | 周辺認識装置 |
US20170293198A1 (en) | 2016-04-07 | 2017-10-12 | Lg Electronics Inc. | Driver assistance apparatus and vehicle |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05342497A (ja) | 1992-06-09 | 1993-12-24 | Mazda Motor Corp | 車両の障害物検出装置 |
JP5622648B2 (ja) * | 2011-04-14 | 2014-11-12 | 日立オートモティブシステムズ株式会社 | 画像処理装置 |
JP6084434B2 (ja) * | 2012-10-31 | 2017-02-22 | クラリオン株式会社 | 画像処理システム及び画像処理方法 |
JP5949955B2 (ja) * | 2013-01-25 | 2016-07-13 | トヨタ自動車株式会社 | 道路環境認識システム |
US9898670B2 (en) * | 2013-12-13 | 2018-02-20 | Fts Computertechnik Gmbh | Method and device for observing the environment of a vehicle |
JP6313646B2 (ja) * | 2014-04-24 | 2018-04-18 | 日立オートモティブシステムズ株式会社 | 外界認識装置 |
CN106415192B (zh) * | 2014-06-06 | 2019-05-03 | 株式会社富士 | 引线图像识别方法及识别装置以及图像处理用元件数据生成方法及生成装置 |
JP2017033402A (ja) * | 2015-08-04 | 2017-02-09 | 株式会社デンソー | 車載表示制御装置、車載表示制御方法 |
EP3131035A1 (en) * | 2015-08-07 | 2017-02-15 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and program |
JP6765219B2 (ja) | 2016-05-18 | 2020-10-07 | 本田技研工業株式会社 | 車両制御システム、通信システム、車両制御方法、および車両制御プログラム |
JP6508134B2 (ja) * | 2016-06-14 | 2019-05-08 | トヨタ自動車株式会社 | 物体判別装置 |
-
2018
- 2018-07-18 JP JP2018135056A patent/JP7120835B2/ja active Active
-
2019
- 2019-06-17 CN CN201910520788.1A patent/CN110738088B/zh active Active
- 2019-07-17 US US16/514,313 patent/US11157755B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015154386A (ja) | 2014-02-18 | 2015-08-24 | 富士フイルム株式会社 | 自動追尾撮像装置 |
JP2017067535A (ja) | 2015-09-29 | 2017-04-06 | 日立オートモティブシステムズ株式会社 | 周辺認識装置 |
US20170293198A1 (en) | 2016-04-07 | 2017-10-12 | Lg Electronics Inc. | Driver assistance apparatus and vehicle |
Also Published As
Publication number | Publication date |
---|---|
US11157755B2 (en) | 2021-10-26 |
JP2020013330A (ja) | 2020-01-23 |
CN110738088A (zh) | 2020-01-31 |
US20200026934A1 (en) | 2020-01-23 |
CN110738088B (zh) | 2023-04-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Wu et al. | Lane-mark extraction for automobiles under complex conditions | |
US8005266B2 (en) | Vehicle surroundings monitoring apparatus | |
JP4157620B2 (ja) | 移動物体検出装置及びその方法 | |
JP2003067752A (ja) | 車両周辺監視装置 | |
JP7104916B2 (ja) | 移動物体検出装置および移動物体検出方法 | |
JP6226368B2 (ja) | 車両監視装置、および車両監視方法 | |
US7221789B2 (en) | Method for processing an image captured by a camera | |
JP2010218226A (ja) | 計測マップ生成装置及び走行環境確認装置 | |
WO2017212992A1 (ja) | 物体距離検出装置 | |
US9824449B2 (en) | Object recognition and pedestrian alert apparatus for a vehicle | |
JP7120835B2 (ja) | 画像処理装置 | |
JP2012252501A (ja) | 走行路認識装置及び走行路認識用プログラム | |
JP6620607B2 (ja) | 画像解析プログラム、画像解析装置、及び画像解析方法 | |
JP4575315B2 (ja) | 物体検出装置及びその方法 | |
JP2008060988A (ja) | 走行環境情報取得装置 | |
JP6569416B2 (ja) | 画像処理装置、物体認識装置、機器制御システム、画像処理方法及び画像処理プログラム | |
JP5493705B2 (ja) | 車両位置検出装置、車両位置検出方法、及び車両位置検出プログラム | |
KR102051324B1 (ko) | 서라운드 뷰 모니터링 시스템 | |
JP3543912B2 (ja) | オプティカルフロー検出方法 | |
JP5822866B2 (ja) | 画像処理装置 | |
CN111133439B (zh) | 全景监视系统 | |
CN112334944B (zh) | 摄像机装置的标志识别方法及标志识别装置 | |
US11417115B2 (en) | Obstacle recognition device | |
JP5724473B2 (ja) | 車両用画像認識装置、車両用画像認識方法、プログラム及び媒体 | |
JP3292292B2 (ja) | オプティカルフロー検出方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210218 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220121 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220201 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220309 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220712 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220804 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7120835 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |