JPWO2019082628A1 - 画像処理装置、撮像装置、運転支援装置、移動体、および画像処理方法 - Google Patents
画像処理装置、撮像装置、運転支援装置、移動体、および画像処理方法 Download PDFInfo
- Publication number
- JPWO2019082628A1 JPWO2019082628A1 JP2019550942A JP2019550942A JPWO2019082628A1 JP WO2019082628 A1 JPWO2019082628 A1 JP WO2019082628A1 JP 2019550942 A JP2019550942 A JP 2019550942A JP 2019550942 A JP2019550942 A JP 2019550942A JP WO2019082628 A1 JPWO2019082628 A1 JP WO2019082628A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- processing
- controller
- image processing
- correction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 280
- 238000003384 imaging method Methods 0.000 title claims abstract description 12
- 238000003672 processing method Methods 0.000 title claims description 9
- 238000012937 correction Methods 0.000 claims abstract description 120
- 230000003287 optical effect Effects 0.000 claims abstract description 50
- 238000000034 method Methods 0.000 claims description 75
- 230000008569 process Effects 0.000 claims description 73
- 238000001514 detection method Methods 0.000 abstract description 11
- 230000006870 function Effects 0.000 description 13
- 230000000007 visual effect Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 3
- 238000005401 electroluminescence Methods 0.000 description 3
- 238000003702 image correction Methods 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 230000001360 synchronised effect Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 239000011230 binding agent Substances 0.000 description 1
- 239000000872 buffer Substances 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000001962 electrophoresis Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 235000021189 garnishes Nutrition 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B15/00—Special procedures for taking photographs; Apparatus therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/91—Television signal processing therefor
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/307—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
- B60R2300/308—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene by overlaying the real scene, e.g. through a head-up display on the windscreen
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
- B60R2300/8033—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for pedestrian protection
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
- B60R2300/804—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for lane monitoring
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
- B60R2300/8093—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30261—Obstacle
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Closed-Circuit Television Systems (AREA)
- Mechanical Engineering (AREA)
- Geometry (AREA)
Abstract
Description
10 光学系
20 撮像素子
30 第1のコントローラ
31 第1処理部
32 第2処理部
40 第2のコントローラ
41 第1補正部
42 第2補正部
50 第3のコントローラ
60 第4のコントローラ
70 メモリ
80 ディスプレイ
90 ネットワーク
100 ネットワーク
200 画像処理装置
300 移動体
Claims (8)
- 画像を取得する入力部と、
前記取得した画像の画像処理を行う第1のコントローラと、
前記画像を撮像した光学系に起因する画像の光学歪みの補正処理を行う第2のコントローラと、
前記画像処理および前記光学歪みを補正した画像上において認識処理を行う第3のコントローラと、
前記画像処理および前記補正処理を行った画像に前記認識処理の結果を重畳して出力する第4のコントローラと、を備え、
前記第1のコントローラは第1の画像処理と第2の画像処理の少なくとも2通りの画像処理を行うことが可能であり、
前記第2のコントローラは第1の補正処理と第2の補正処理の少なくとも2通りの補正処理を行うことが可能であり、
前記第3のコントローラは前記第1の画像処理と前記第1の補正処理を行った画像が入力され、当該画像上で認識された被写体の位置を示す情報を出力し、
前記第4のコントローラは前記第2の画像処理と前記第2の補正処理を行った画像と前記認識した被写体の位置を示す情報が入力され、前記認識した被写体の位置を示す描画を前記画像上で相当する位置に重畳する画像処理装置。 - 前記第1の画像処理と前記第2の画像処理および前記第1の補正処理と前記第2の補正処理の少なくともいずれか一組はパラレルに処理される請求項1に記載の画像処理装置。
- 前記第1の画像処理と前記第2の画像処理および前記第1の補正処理と前記第2の補正処理の少なくともいずれか一組はシーケンシャルに処理される請求項1に記載の画像処理装置。
- 連続して取得する前記画像に前記画像処理および前記補正処理を行った画像を記憶するメモリを更に備え、
当該メモリは、前記第3のコントローラの認識処理が終了するまで前記画像を記憶する請求項1乃至3に記載の画像処理装置。 - 撮像光学系と、
前記撮像光学系を介した被写体像を光電変換して画像信号を出力する撮像素子と、
前記画像信号の画像処理を行う第1のコントローラと、
前記撮像光学系に起因する画像の光学歪みの補正処理を行う第2のコントローラと、
前記画像処理および前記光学歪みを補正した画像上において認識処理を行う第3のコントローラと、
歪曲画像処理および前記補正処理を行った画像に前記認識処理の結果を重畳して出力する第4のコントローラと、を備え、
前記第1のコントローラは第1の画像処理と第2の画像処理の少なくとも2通りの画像処理を行うことが可能であり、
前記第2のコントローラは第1の補正処理と第2の補正処理の少なくとも2通りの補正処理を行うことが可能であり、
前記第3のコントローラは前記第1の画像処理と前記第1の補正処理を行った画像を入力され、当該画像上で認識された被写体の位置を示す情報を出力し、
前記第4のコントローラは前記第2の画像処理と前記第2の補正処理を行った画像と前記認識した被写体の位置を示す情報が入力され、前記認識した被写体の位置を示す描画を前記画像上で相当する位置に重畳する撮像装置。 - 撮像光学系と、
前記撮像光学系を介した被写体像を光電変換して画像信号を出力する撮像素子と、
前記画像信号の画像処理を行う第1のコントローラと、
前記撮像光学系に起因する画像の光学歪みの補正処理を行う第2のコントローラと、
前記画像処理および前記光学歪みを補正した画像上において認識処理を行う第3のコントローラと、
歪曲画像処理および前記補正処理を行った画像に前記認識処理の結果を重畳して出力する第4のコントローラと、
前記第4のコントローラから出力された画像を表示するディスプレイと、を備え、
前記第1のコントローラは第1の画像処理と第2の画像処理の少なくとも2通りの画像処理を行うことが可能であり、
前記第2のコントローラは第1の補正処理と第2の補正処理の少なくとも2通りの補正処理を行うことが可能であり、
前記第3のコントローラは前記第1の画像処理と前記第1の補正処理を行った画像が入力され、当該画像上で認識された被写体の位置を示す情報を出力し、
前記第4のコントローラは前記第2の画像処理と前記第2の補正処理を行った画像と前記認識した被写体の位置を示す情報が入力され、前記認識した被写体の位置を示す描画を前記画像上で相当する位置に重畳して出力し、
前記ディスプレイは前記第4のコントローラの出力を受けて表示する運転支援装置。 - 請求項6に記載の運転支援装置を搭載する移動体。
- 画像を取得するステップと、
前記取得した画像に第1および第2の画像処理の少なくとも2通りの画像処理を行うステップと、
前記画像を撮像した光学系に起因する画像の光学歪みの第1および第2の補正処理の少なくとも2通りの補正処理を行うステップと、
前記第1の画像処理と前記第1の補正処理を行った画像において認識処理を行うステップと、
前記認識した被写体の位置を示す描画を、前記第2の画像処理と前記第2の補正処理を行った画像上の相当する位置に重畳するステップと、
を備える画像処理方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017207177 | 2017-10-26 | ||
JP2017207177 | 2017-10-26 | ||
PCT/JP2018/037467 WO2019082628A1 (ja) | 2017-10-26 | 2018-10-05 | 画像処理装置、撮像装置、運転支援装置、移動体、および画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019082628A1 true JPWO2019082628A1 (ja) | 2020-11-26 |
JP7004736B2 JP7004736B2 (ja) | 2022-01-21 |
Family
ID=66247379
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019550942A Active JP7004736B2 (ja) | 2017-10-26 | 2018-10-05 | 画像処理装置、撮像装置、運転支援装置、移動体、および画像処理方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11377027B2 (ja) |
EP (1) | EP3703359A4 (ja) |
JP (1) | JP7004736B2 (ja) |
CN (1) | CN111345036A (ja) |
WO (1) | WO2019082628A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021199557A1 (ja) * | 2020-03-31 | 2021-10-07 | パイオニア株式会社 | 標識評価装置、学習装置、標識評価方法、学習方法、及びプログラム |
JP7344188B2 (ja) | 2020-09-18 | 2023-09-13 | 株式会社東芝 | 画像処理装置、及び画像処理システム |
US11763417B2 (en) * | 2021-11-19 | 2023-09-19 | Renesas Electronics Corporation | Semiconductor device and image processing system for processing regions of interest images |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008028956A (ja) * | 2006-07-25 | 2008-02-07 | Fujifilm Corp | 撮像装置、および、撮像装置における対象物検出用画像信号の生成方法 |
JP2008108024A (ja) * | 2006-10-25 | 2008-05-08 | Matsushita Electric Ind Co Ltd | 画像処理装置および撮像装置 |
JP2008158682A (ja) * | 2006-12-21 | 2008-07-10 | Mitsubishi Electric Corp | 画像処理装置 |
JP2010171503A (ja) * | 2009-01-20 | 2010-08-05 | Clarion Co Ltd | 障害物検出表示装置 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010136207A (ja) | 2008-12-05 | 2010-06-17 | Clarion Co Ltd | 歩行者検出表示システム |
CN101588482A (zh) * | 2009-06-02 | 2009-11-25 | 石黎 | 一种车载虚拟全景电子系统 |
KR101207127B1 (ko) * | 2010-03-19 | 2012-11-30 | 전남대학교산학협력단 | 문자 인식 전처리 방법 및 장치 |
JP5914813B2 (ja) * | 2011-01-06 | 2016-05-11 | パナソニックIpマネジメント株式会社 | カメラ、歪み補正装置、及び歪み補正方法 |
US20130021488A1 (en) * | 2011-07-20 | 2013-01-24 | Broadcom Corporation | Adjusting Image Capture Device Settings |
CN102653260B (zh) * | 2012-05-09 | 2014-08-13 | 邝君 | 汽车定点定位引导系统 |
JP6032219B2 (ja) * | 2014-01-24 | 2016-11-24 | トヨタ自動車株式会社 | 運転支援装置 |
-
2018
- 2018-10-05 EP EP18870811.9A patent/EP3703359A4/en active Pending
- 2018-10-05 CN CN201880069701.7A patent/CN111345036A/zh active Pending
- 2018-10-05 JP JP2019550942A patent/JP7004736B2/ja active Active
- 2018-10-05 US US16/758,970 patent/US11377027B2/en active Active
- 2018-10-05 WO PCT/JP2018/037467 patent/WO2019082628A1/ja unknown
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008028956A (ja) * | 2006-07-25 | 2008-02-07 | Fujifilm Corp | 撮像装置、および、撮像装置における対象物検出用画像信号の生成方法 |
JP2008108024A (ja) * | 2006-10-25 | 2008-05-08 | Matsushita Electric Ind Co Ltd | 画像処理装置および撮像装置 |
JP2008158682A (ja) * | 2006-12-21 | 2008-07-10 | Mitsubishi Electric Corp | 画像処理装置 |
JP2010171503A (ja) * | 2009-01-20 | 2010-08-05 | Clarion Co Ltd | 障害物検出表示装置 |
Also Published As
Publication number | Publication date |
---|---|
EP3703359A1 (en) | 2020-09-02 |
US11377027B2 (en) | 2022-07-05 |
JP7004736B2 (ja) | 2022-01-21 |
WO2019082628A1 (ja) | 2019-05-02 |
EP3703359A4 (en) | 2021-04-28 |
US20210046870A1 (en) | 2021-02-18 |
CN111345036A (zh) | 2020-06-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4695167B2 (ja) | 車両の後方視認システムの歪みを補正し且つ像を強調する方法及び装置 | |
JP5172314B2 (ja) | ステレオカメラ装置 | |
RU2702992C1 (ru) | Система замещения зеркал и система помощи водителю | |
US9619894B2 (en) | System and method for estimating vehicle dynamics using feature points in images from multiple cameras | |
US20150332446A1 (en) | Surround-view camera system (vpm) and vehicle dynamic | |
JP7004736B2 (ja) | 画像処理装置、撮像装置、運転支援装置、移動体、および画像処理方法 | |
US8477191B2 (en) | On-vehicle image pickup apparatus | |
JP2009206747A (ja) | 車両用周囲状況監視装置及び映像表示方法 | |
JP2009060499A (ja) | 運転支援システム及び連結車両 | |
JP5966513B2 (ja) | 車両の後側方撮影装置 | |
US11017245B2 (en) | Parking assist apparatus | |
JP2013187562A (ja) | 車両用後方視界支援装置 | |
JP2014165638A (ja) | 画像処理装置、撮像装置、移動体制御システム及びプログラム | |
JP5951785B2 (ja) | 画像処理装置及び車両前方監視装置 | |
JP6847709B2 (ja) | カメラ装置、検出装置、検出システムおよび移動体 | |
US10354148B2 (en) | Object detection apparatus, vehicle provided with object detection apparatus, and non-transitory recording medium | |
JP2006127083A (ja) | 画像処理方法及び画像処理装置 | |
US20220408062A1 (en) | Display control apparatus, display control method, and program | |
JP7315303B2 (ja) | 画像処理装置 | |
JP2009213063A (ja) | 監視装置 | |
US20230098440A1 (en) | Imaging device, imaging system, and imaging method | |
JP2018142756A (ja) | カメラ装置、検出装置、検出システムおよび移動体 | |
JP6785172B2 (ja) | 車両用映像表示装置 | |
EP3691242A1 (en) | Image capture device and moving body | |
JP2019125894A (ja) | 車載画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200401 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201215 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210212 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210727 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210901 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211207 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220104 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7004736 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |