JP6327144B2 - 画像処理システム及び画像処理装置 - Google Patents
画像処理システム及び画像処理装置 Download PDFInfo
- Publication number
- JP6327144B2 JP6327144B2 JP2014262889A JP2014262889A JP6327144B2 JP 6327144 B2 JP6327144 B2 JP 6327144B2 JP 2014262889 A JP2014262889 A JP 2014262889A JP 2014262889 A JP2014262889 A JP 2014262889A JP 6327144 B2 JP6327144 B2 JP 6327144B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- captured
- unit
- imaging
- time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 claims description 74
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 claims description 39
- 238000000034 method Methods 0.000 claims description 39
- 240000004050 Pentaglottis sempervirens Species 0.000 claims description 38
- 239000002131 composite material Substances 0.000 claims description 12
- 238000006243 chemical reaction Methods 0.000 claims description 7
- 239000000203 mixture Substances 0.000 claims description 3
- 230000006870 function Effects 0.000 description 8
- 230000000007 visual effect Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 241000905137 Veronica schmidtiana Species 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4038—Scaling the whole image or part thereof for image mosaicing, i.e. plane images composed of plane sub-images
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
- B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
- B60R1/24—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- G06T5/92—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/303—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Description
各カメラの撮像画像は、同一の対象物を撮像したものであっても輝度や色味が異なる場合がある。そこで、隣接する撮像画像同士の重複する領域の画素データを参照し、各画像の画素データの差違を小さくする技術が提案されている(特許文献1参照)。
本発明は、複数の撮像装置により撮像された車両の周辺画像の違和感を低減する技術を提供することを目的としている。
情報取得部は、第1時刻画像と、第2時刻画像と、のそれぞれにおける同一の撮像対象が表示される領域を構成する画素のパラメータの差に関する情報である差分情報を取得する。
このように構成された画像処理システムでは、同一の撮像対象が撮像された、撮像タイミングの異なる2つの画像を利用して画素のパラメータの差の情報を取得し、その差を小さくするように各撮像手段による撮像に基づく画像を補正するため、各画像の視覚的な差異を低減でき、各画像を視認したときの違和感を低減することができる。
このように構成された画像処理装置は、上述した請求項1に記載の画像処理システムと同様の作用、効果を奏することができる。
[1.実施形態]
[1−1.構成]
画像処理システム1は自動車等の車両に搭載されて用いられるシステムであって、図1に示すように、フロントカメラ3aと、リアカメラ3bと、モニタ5と、ECU(Electronic Control Unit)7と、を備えている。
図2(A)に示すように、フロントカメラ3aは車両31の前方に配置され、車両31の前方の範囲、特に車両前方の道路を撮像する。リアカメラ3bは車両31の後方に配置され、車両31の後方、特に車両後方の道路を撮像する。フロントカメラ3a及びリアカメラ3bの撮像範囲は重複していない。各カメラは所定の時間間隔(一例として1/15s)で車両周辺を撮影し、撮影した撮影画像をECU7に出力する。
ECU7は、図示しないCPU,ROM,RAMなどから構成されるマイクロコンピュータを有しており、カメラ入力信号処理部11、車載LAN入力信号処理部12、画像処理部13、出力信号処理部14、メモリ15、電源部16として機能する。
車載LAN入力信号処理部12は、車載LAN(Local Area Network)に接続される、図示しない各種ECUやセンサが出力する車両に関する情報である車両情報を車載LANから抽出し、画像処理部13に出力する。ここでは、シフトレンジ、車速、ステアリング操作量やヨーレートなどの情報を抽出する。
メモリ15は、データを記憶可能である記憶装置であって、画像処理部13にて生成された鳥瞰画像を記憶する。なお、上述したECU7のRAMがこのメモリ15の機能を有していてもよい。
[1−2.処理]
ECU7により実行される画像表示処理について、図3に示すフローチャートに基づいて説明する。本処理は、運転者が予め定められた操作を行ったとき(所定のスイッチ操作を行ったとき、シフトレバーを所定のシフトレンジに入れたとき、など)に開始される。
S2では、ECU7は、S1にて取得された各撮影画像から、それらの画像を所定の仮想視点から見た鳥瞰図に変更した鳥瞰画像を生成する。ECU7により生成された鳥瞰画像は、メモリ15に撮像時刻と対応付けて記憶される。
上述した実施形態において、ECU7が本発明における画像処理装置の一例である。また、画像処理部13が、本発明における第1取得手段、第2取得手段の一例である。また、メモリ15が、本発明における記憶部の一例である。また、履歴合成部13bが、本発明における画像合成部の一例である。
以上詳述した実施形態によれば、以下の効果が得られる。
[1A]画像処理システム1は、後方画像44を、同一の撮像対象が撮像される過去の前方画像43との画素のパラメータの差が小さくなるように補正する。このパラメータとは、画素の輝度や色の階調のパラメータであるため、補正された補正画像と過去の前方画像43とは視覚的な差異が低減される。ここで言う視覚的な差異とは、輝度や色味に関する差異であって、被写体の形状や位置関係などは含まない。
以上、本発明の実施形態について説明したが、本発明は上記実施形態に限定されることなく、種々の形態を採り得る。
[2E]上記実施形態では、第1時刻画像に対して画像処理を実行することで、前方画像43に対する視覚的な差異の低減された補正画像44aを生成する構成を例示したが、第1時刻画像以外の画像に対して視覚的な差異を低減する処理を行ってもよい。例えば、前方画像43に対してパラメータの差を低減する画像処理を実行してもよい。
[2G]上記実施形態では、リアカメラ3bとフロントカメラ3aとが互いに重複しない撮像範囲を有する構成を例示したが、用いられる2つのカメラは、撮像範囲の一部が重複するものであってもよい。
Claims (6)
- 車両に搭載される画像処理システム(1)であって、
前記車両の外部における第1の範囲を撮像する第1撮像手段(3a、3b)と、
少なくとも一部が前記第1の範囲と異なる第2の範囲を撮像する第2撮像手段(3a、3b)と、
前記第1撮像手段により撮像された撮像画像及び該撮像画像に基づき生成された画像のいずれか一方である第1画像であって、前記第1撮像手段による撮像が第1のタイミングで行われた前記第1画像である第1時刻画像と、前記第2撮像手段により撮像された撮像画像及び該撮像画像に基づき生成された画像のいずれか一方である第2画像であって、前記第2撮像手段による撮像が前記第1のタイミングよりも過去である第2のタイミングで行われ、前記第1時刻画像と同一の撮像対象が撮像された前記第2画像である第2時刻画像と、のそれぞれにおける前記撮像対象が表示される領域を構成する画素のパラメータの差に関する情報である差分情報を取得する情報取得部(13d)と、
前記情報取得部により取得された差分情報に基づいて、前記第1時刻画像と前記第2時刻画像との前記パラメータの差を小さくすることができる画像処理であって、前記第1画像に対する画像処理、及び、前記第2画像に対する画像処理のうちの少なくともいずれか一方の画像処理を決定する処理決定部(13e)と、
前記処理決定部により決定された前記画像処理を、前記第1画像及び前記第2画像のうちの少なくともいずれか一方に実行し、前記パラメータが補正された補正画像を生成する画像生成部(13f)と、を備える
ことを特徴とする画像処理システム。 - 前記第2撮像手段は、連続的に前記第2の範囲を撮像するものであって、
前記第2画像を記憶する記憶部(15)と、
前記記憶部に記憶された前記第2画像の中から、前記第1時刻画像に対応する前記第2時刻画像を特定する画像特定部(13d)と、を備える
ことを特徴とする請求項1に記載の画像処理システム。 - 前記画像特定部は、前記車両の移動速度に基づいて、前記撮像対象を前記第1撮像手段及び前記第2撮像手段が撮像する時間差を算出し、該時間差に基づいて前記第2時刻画像を特定する
ことを特徴とする請求項2に記載の画像処理システム。 - 前記第1画像又は該第1画像から生成された前記補正画像と、前記第2画像又は該第2画像から生成された前記補正画像と、を合成した画像である合成画像を生成する画像合成部(13b)と、
前記画像合成部により合成された前記合成画像を、画像を表示する表示装置に出力する表示制御部(13)と、を備える
ことを特徴とする請求項1から請求項3のいずれか1項に記載の画像処理システム。 - 前記第1撮像手段及び前記第2撮像手段により撮像された撮像画像に基づき、所定の仮想視点から見た鳥瞰画像を生成する鳥瞰変換部(13a)を備え、
前記第1画像及び前記第2画像は、前記第1撮像手段及び前記第2撮像手段により撮像された撮像画像に基づいて前記鳥瞰変換部により生成された前記鳥瞰画像である
ことを特徴とする請求項1から請求項4のいずれか1項に記載の画像処理システム。 - 車両に設けられて該車両の外部における第1の範囲を撮像する第1撮像手段により撮像された撮像画像を取得する第1取得手段(13)と、
前記車両に設けられて少なくとも一部が前記第1の範囲と異なる第2の範囲を撮像する第2撮像手段により撮像された撮像画像を取得する第2取得手段(13)と、
前記第1撮像手段により撮像された撮像画像及び該撮像画像に基づき生成された画像のいずれか一方である第1画像であって、前記第1撮像手段による撮像が第1のタイミングで行われた前記第1画像である第1時刻画像と、前記第2撮像手段により撮像された撮像画像及び該撮像画像に基づき生成された画像のいずれか一方である第2画像であって、前記第2撮像手段による撮像が前記第1のタイミングよりも過去である第2のタイミングで行われ、前記第1時刻画像と同一の撮像対象が撮像された前記第2画像である第2時刻画像と、のそれぞれにおける前記撮像対象が表示される領域を構成する画素のパラメータの差に関する情報である差分情報を取得する情報取得部と、
前記情報取得部により取得された差分情報に基づいて、前記第1時刻画像と前記第2時刻画像との前記パラメータの差を小さくすることができる画像処理であって、前記第1画像に対する画像処理、及び、前記第2画像に対する画像処理のうちの少なくともいずれか一方の画像処理を決定する処理決定部と、
前記処理決定部により決定された前記画像処理を、前記第1画像及び前記第2画像のうちの少なくともいずれか一方に実行し、前記パラメータが補正された補正画像を生成する画像生成部と、を備える
ことを特徴とする画像処理装置。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014262889A JP6327144B2 (ja) | 2014-12-25 | 2014-12-25 | 画像処理システム及び画像処理装置 |
PCT/JP2015/085838 WO2016104504A1 (ja) | 2014-12-25 | 2015-12-22 | 画像処理システム及び画像処理装置 |
CN201580070347.6A CN107113402B (zh) | 2014-12-25 | 2015-12-22 | 图像处理系统以及图像处理装置 |
DE112015005753.6T DE112015005753B4 (de) | 2014-12-25 | 2015-12-22 | Bildverarbeitungssystem und Vorrichtung davon |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014262889A JP6327144B2 (ja) | 2014-12-25 | 2014-12-25 | 画像処理システム及び画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016123021A JP2016123021A (ja) | 2016-07-07 |
JP6327144B2 true JP6327144B2 (ja) | 2018-05-23 |
Family
ID=56150521
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014262889A Active JP6327144B2 (ja) | 2014-12-25 | 2014-12-25 | 画像処理システム及び画像処理装置 |
Country Status (4)
Country | Link |
---|---|
JP (1) | JP6327144B2 (ja) |
CN (1) | CN107113402B (ja) |
DE (1) | DE112015005753B4 (ja) |
WO (1) | WO2016104504A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7080613B2 (ja) * | 2017-09-27 | 2022-06-06 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3663801B2 (ja) | 1997-01-30 | 2005-06-22 | いすゞ自動車株式会社 | 車両後方視界支援装置 |
JP3297040B1 (ja) | 2001-04-24 | 2002-07-02 | 松下電器産業株式会社 | 車載カメラの画像合成表示方法及びその装置 |
JP3960146B2 (ja) * | 2002-06-27 | 2007-08-15 | 日産自動車株式会社 | 画像認識装置 |
JP2006319695A (ja) * | 2005-05-13 | 2006-11-24 | Nagano Kogaku Kenkyusho:Kk | 監視カメラおよび監視装置 |
JP4632907B2 (ja) * | 2005-09-07 | 2011-02-16 | アルパイン株式会社 | 合成画像生成装置及び合成画像生成方法 |
JP4325642B2 (ja) | 2006-05-31 | 2009-09-02 | ソニー株式会社 | 移動体カメラシステム |
JP4739122B2 (ja) * | 2006-06-05 | 2011-08-03 | パナソニック株式会社 | 車載カメラの画像合成装置および画像合成方法 |
JP2009017020A (ja) * | 2007-07-02 | 2009-01-22 | Nissan Motor Co Ltd | 画像処理装置及び表示画像生成方法 |
JP6115104B2 (ja) | 2012-12-04 | 2017-04-19 | アイシン精機株式会社 | 車両の制御装置、及び制御方法 |
-
2014
- 2014-12-25 JP JP2014262889A patent/JP6327144B2/ja active Active
-
2015
- 2015-12-22 DE DE112015005753.6T patent/DE112015005753B4/de active Active
- 2015-12-22 CN CN201580070347.6A patent/CN107113402B/zh active Active
- 2015-12-22 WO PCT/JP2015/085838 patent/WO2016104504A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
DE112015005753B4 (de) | 2022-05-05 |
CN107113402B (zh) | 2019-10-25 |
JP2016123021A (ja) | 2016-07-07 |
CN107113402A (zh) | 2017-08-29 |
DE112015005753T5 (de) | 2017-09-14 |
WO2016104504A1 (ja) | 2016-06-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9247217B2 (en) | Vehicle periphery monitoring device and vehicle periphery image display method | |
KR101132099B1 (ko) | 차량용 주변 감시 장치 및 차량용 주변 감시 방법 | |
JP4879031B2 (ja) | 運転支援システム、画像処理装置及びずれ検出方法 | |
CN106660495B (zh) | 车辆用显示装置以及车辆用显示方法 | |
JP2001218197A (ja) | 車両用周辺表示装置 | |
JP2009017020A (ja) | 画像処理装置及び表示画像生成方法 | |
US11516451B2 (en) | Imaging apparatus, imaging processing method, image processing device and imaging processing system | |
JP4681432B2 (ja) | 車載周辺画像表示装置 | |
JP5904093B2 (ja) | 車載画像生成装置 | |
WO2002089484A1 (fr) | Procede et appareil de synthese et d'affichage d'images issues de cameras disposees dans un vehicule | |
JP2011250376A (ja) | 車両周辺映像表示装置 | |
US10455159B2 (en) | Imaging setting changing apparatus, imaging system, and imaging setting changing method | |
JP2018191230A (ja) | 撮像素子及びその駆動方法、並びに、電子機器 | |
JP6327144B2 (ja) | 画像処理システム及び画像処理装置 | |
EP3382604A2 (en) | Assistance apparatus | |
JP2010252015A (ja) | 画像合成装置、画像合成方法およびプログラム | |
JP2007249814A (ja) | 画像処理装置及び画像処理プログラム | |
JP6740991B2 (ja) | 表示処理装置 | |
JP2014225819A (ja) | 較正処理装置、カメラ較正装置、およびカメラ較正方法 | |
JP2007329611A (ja) | 車両周辺監視装置、車両周辺監視システム、および車両周辺監視方法 | |
JP2012147308A (ja) | 画像処理装置、画像表示システム、及び、画像処理方法 | |
JP4814752B2 (ja) | 表示制御装置 | |
JP2010130413A (ja) | 周辺状況表示装置 | |
JP2012138875A (ja) | 画像処理装置、画像表示システム、及び、画像処理方法 | |
JP2020107963A (ja) | 画像生成装置及び画像表示システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170628 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180320 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180402 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6327144 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |