JP2019074850A - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP2019074850A JP2019074850A JP2017199383A JP2017199383A JP2019074850A JP 2019074850 A JP2019074850 A JP 2019074850A JP 2017199383 A JP2017199383 A JP 2017199383A JP 2017199383 A JP2017199383 A JP 2017199383A JP 2019074850 A JP2019074850 A JP 2019074850A
- Authority
- JP
- Japan
- Prior art keywords
- image
- change
- boundary
- display
- display image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 56
- 238000001514 detection method Methods 0.000 claims description 5
- 238000000034 method Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 9
- 238000013459 approach Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 4
- 240000004050 Pentaglottis sempervirens Species 0.000 description 3
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000004378 air conditioning Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
- B60R11/04—Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/0007—Image acquisition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mechanical Engineering (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Processing (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】境界線が表示画像の中心に近づくことを抑制できる画像処理装置を提供すること。【解決手段】画像処理装置3は車両に搭載される。画像処理装置は、画像取得ユニット25と、境界線設定ユニット29と、表示画像生成ユニット31と、方向変化取得ユニット27とを備える。表示画像生成ユニットは、複数の画像を、境界線を介して合成して表示画像を生成する。方向変化取得ユニットは、車両の直進方向からの変化方向、及び変化量を取得する。表示画像生成ユニットは、表示画像の表示範囲を、進行方向からの変化量が大きいほど、直進方向からの変化方向の側に設定する。境界線設定ユニットは、表示画像内の境界線のうち、変化方向の側に存在する境界線における少なくとも一部の位置を、変化量が大きいほど、変化方向の側に設定する。【選択図】図2
Description
本開示は画像処理装置に関する。
従来、以下のような画像処理装置が知られている。複数のカメラを用いて、車両の周囲を表す複数の画像を取得する。複数の画像を合成することで、車両のドライバの視点から見た表示画像を作成する。この画像処理装置は特許文献1に開示されている。
表示画像内には、合成に用いた複数の画像同士の境界線が存在する。車両の進行方向が変化する場合、表示画像の表示する範囲を、進行方向が変化する方向(以下では直進方向からの変化方向とする)の側に移動させることが考えられる。例えば、直進前進時、前方カメラによる撮像画像と側方カメラによる撮像画像との境界線を左右それぞれ直進方向に対して45度の位置に設定した場合、それらの境界線の位置が常に一定であれば、表示画像の表示する範囲を、直進方向からの変化方向の側に移動させた場合、少なくとも一部の境界線の位置が、表示画面の中心に近づいてしまう。
境界線付近の画像は、合成される2つの画像それぞれの撮像位置(カメラの設置位置)の違いや変換により歪みや1つの物が2重になるなどユーザに違和感を生じさせることがある。境界線が表示画像の中心付近にあると、車両の乗員が表示画像によって周囲の物を認識することが困難になる。本開示は、境界線が表示画面の中心に近づくことを抑制できる画像処理装置を提供する。
本開示の一局面は、車両(36)に搭載される画像処理装置(3)であって、前記車両の周囲を撮影する複数のカメラ(5、7、9、11)を用いて、表示可能範囲(37A、39A、43A、47A)の一部が互いに重複している複数の画像(37、39、43、47)を取得する画像取得ユニット(25)と、前記複数の画像に含まれる、表示可能範囲の一部が互いに重複している画像同士の境界線(59、61、63、65)を、表示可能範囲が重複している範囲(41、45、49、51)内で設定する境界線設定ユニット(29)と、前記複数の画像の少なくとも一部の画像を、前記境界線を介して合成して、前記車両の車室内における視点(53)から見た表示画像(69)を生成する表示画像生成ユニット(31)と、前記表示画像を出力する出力ユニット(33)と、前記車両の直進方向(57)からの変化方向(X)、及び前記直進方向からの変化量を取得する方向変化取得ユニット(27)と、を備え、前記表示画像生成ユニットは、前記表示画像の表示範囲を、前記変化量が大きいほど、前記変化方向の側に設定するように構成され、前記境界線設定ユニットは、前記表示画像内の前記境界線のうち、少なくとも前記変化方向の側に存在する前記境界線における少なくとも一部の位置を、前記変化量が大きいほど、前記変化方向の側に設定するように構成された画像処理装置である。
本開示の一局面である画像処理装置は、表示画像の表示範囲を、直進方向からの変化量が大きいほど、直進方向からの変化方向の側に設定する。そのため、仮に、複数の画像に対する境界線の位置が常に一定であれば、直進方向からの変化量が大きいほど、一部の境界線の位置が表示画像の中心に近づいてしまう。
境界線付近の画像は、不明確で、ユーザに違和感を生じさせることがある。境界線が表示画像の中心付近にあると、車両の乗員が表示画像によって周囲の物標を認識することが困難になる。
本開示の一局面である画像処理装置は、表示画像内の境界線のうち、直進方向からの変化方向の側に存在する境界線における少なくとも一部の位置を、直進方向からの変化量が大きいほど、直進方向からの変化方向の側に設定する。そのため、進行方向が変化する場合でも、境界線の位置が表示画像の中心に近づいてしまうことを抑制できる。その結果、車両の乗員が表示画像によって周囲の物標を認識することが容易になる。
本開示の一局面である画像処理装置は、表示画像内の境界線のうち、直進方向からの変化方向の側に存在する境界線における少なくとも一部の位置を、直進方向からの変化量が大きいほど、直進方向からの変化方向の側に設定する。そのため、進行方向が変化する場合でも、境界線の位置が表示画像の中心に近づいてしまうことを抑制できる。その結果、車両の乗員が表示画像によって周囲の物標を認識することが容易になる。
なお、この欄及び特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本開示の技術的範囲を限定するものではない。
本開示の例示的な実施形態を図面に基づき説明する。
<第1実施形態>
1.車載システム1及び画像処理装置3の構成
車載システム1及び画像処理装置3の構成を図1〜図3に基づき説明する。図1に示す車載システム1は車両に搭載されるシステムである。以下では車載システム1を搭載する車両を自車両とする。車載システム1は、画像処理装置3と、前方カメラ5と、右方カメラ7と、左方カメラ9と、後方カメラ11を備える。画像処理装置3と各カメラ5、7、9、11とは、LVDSなどの画像伝送線を介して繋がり、各カメラ5、7、9、11で撮像された画像データは随時、画像処理装置3へと送信される。また、車載システム1は、車載CAN(登録商標)やLINなどの車載通信バスを介してシフトセンサ13と、舵角センサ15と、障害物センサ16と繋がっており、ディスプレイ17とは、画像伝送線を介して繋がっている。
<第1実施形態>
1.車載システム1及び画像処理装置3の構成
車載システム1及び画像処理装置3の構成を図1〜図3に基づき説明する。図1に示す車載システム1は車両に搭載されるシステムである。以下では車載システム1を搭載する車両を自車両とする。車載システム1は、画像処理装置3と、前方カメラ5と、右方カメラ7と、左方カメラ9と、後方カメラ11を備える。画像処理装置3と各カメラ5、7、9、11とは、LVDSなどの画像伝送線を介して繋がり、各カメラ5、7、9、11で撮像された画像データは随時、画像処理装置3へと送信される。また、車載システム1は、車載CAN(登録商標)やLINなどの車載通信バスを介してシフトセンサ13と、舵角センサ15と、障害物センサ16と繋がっており、ディスプレイ17とは、画像伝送線を介して繋がっている。
画像処理装置3は、CPU19と、例えば、RAM又はROM等の半導体メモリ(以下、メモリ21とする)と、を有するマイクロコンピュータを備える。画像処理装置3の各機能は、CPU19が非遷移的実体的記録媒体に格納されたプログラムを実行することにより実現される。この例では、メモリ21が、プログラムを格納した非遷移的実体的記録媒体に該当する。また、このプログラムが実行されることで、プログラムに対応する方法が実行される。なお、画像処理装置3は、1つのマイクロコンピュータを備えてもよいし、複数のマイクロコンピュータを備えてもよい。
画像処理装置3は、図2に示すように、表示方向決定ユニット23と、画像取得ユニット25と、方向変化取得ユニット27と、境界線設定ユニット29と、表示画像生成ユニット31と、出力ユニット33と、障害物検出ユニット35と、を備える。
画像処理装置3に含まれる各部の機能を実現する手法はソフトウェアに限るものではなく、その一部又は全部の機能は、一つあるいは複数のハードウェアを用いて実現されてもよい。例えば、上記機能がハードウェアである電子回路によって実現される場合、その電子回路は、デジタル回路、又はアナログ回路、あるいはこれらの組合せによって実現されてもよい。
図3に示すように、前方カメラ5は自車両36の周囲のうち、前方を撮影し、画像(以下では前方画像37とする)を生成する。前方画像37の表示可能範囲37Aは、例えば、魚眼レンズなどを使用し、ほぼ180度である。
右方カメラ7は、自車両36の周囲のうち、右方を撮影し、画像(以下では右方画像39とする)を生成する。右方画像39の表示可能範囲39Aは、例えば、魚眼レンズなどを使用し、ほぼ180度である。表示可能範囲37Aの一部と、表示可能範囲39Aの一部とは重複している。重複している範囲を重複範囲41とする。重複範囲41は、例えば、90度である。
右方カメラ7は、自車両36の周囲のうち、右方を撮影し、画像(以下では右方画像39とする)を生成する。右方画像39の表示可能範囲39Aは、例えば、魚眼レンズなどを使用し、ほぼ180度である。表示可能範囲37Aの一部と、表示可能範囲39Aの一部とは重複している。重複している範囲を重複範囲41とする。重複範囲41は、例えば、90度である。
左方カメラ9は、自車両36の周囲のうち、左方を撮影し、画像(以下では左方画像43とする)を生成する。左方画像43の表示可能範囲43Aは、例えば、魚眼レンズなどを使用し、ほぼ180度である。表示可能範囲43Aの一部と、表示可能範囲37Aの一部とは重複している。重複している範囲を重複範囲45とする。重複範囲45は、例えば、90度である。
後方カメラ11は、自車両36の周囲のうち、後方を撮影し、画像(以下では後方画像47とする)を生成する。後方画像47の表示可能範囲47Aは、例えば、魚眼レンズなどを使用し、ほぼ180度である。表示可能範囲47Aの一部と、表示可能範囲39Aの一部とは重複している。重複している範囲を重複範囲49とする。重複範囲49は、例えば、90度である。
また、表示可能範囲47Aの一部と、表示可能範囲43Aの一部とは重複している。重複している範囲を重複範囲51とする。重複範囲51は、例えば、90度である。
シフトセンサ13は、自車両のシフトの状態を検出し、シフト情報を作成して、車載CANへ送信する。シフト情報は、自車両のシフトの状態を表す情報である。シフトの状態として、例えば、前進、後退等が挙げられる。
シフトセンサ13は、自車両のシフトの状態を検出し、シフト情報を作成して、車載CANへ送信する。シフト情報は、自車両のシフトの状態を表す情報である。シフトの状態として、例えば、前進、後退等が挙げられる。
舵角センサ15は、自車両の舵角の方向と、舵角の量とを検出し、舵角情報として車載CANへ送信する。舵角情報は、自車両の舵角の方向と、舵角の量とを表す情報である。舵角の方向は、自車両の直進方向からの変化方向に対応し、たとえば、直進時に対し右か左かや、右旋回時にさらに右旋回するのか左へ戻すのかを表す。舵角の量は、自車両の直進方向からの変化量に対応し、直進時に対しどれだけ旋回しているかを表し、角度で表される。
障害物センサ16は、自車両の周囲に存在する障害物を検出し、例えば車両に対する障害物の位置や相対距離、相対速度などの障害物に関する情報を生成し、車載CANへ送信する。障害物センサ16として、例えば、ミリ波レーダ、ライダー等が挙げられる。
ディスプレイ17は自車両の車室内に設けられており、例えばダッシュボード部やコンソール部、メータなどと並ぶインパネ部に設けられている。ディスプレイ17は画像を表示可能である。ディスプレイ17が表示する画像には、後述するマッピング後の仮想的なスクリーン又は合成した画像から切り出された表示画像やナビ画面、各種インジケータ、空調やオーディオなどの操作画面等が含まれる。
2.画像処理装置3が実行する処理
画像処理装置3が所定時間ごとに繰り返し実行する処理を図4〜図6に基づき説明する。図4のステップ1では、表示方向決定ユニット23が、シフトセンサ13からシフト情報を取得する。
ディスプレイ17は自車両の車室内に設けられており、例えばダッシュボード部やコンソール部、メータなどと並ぶインパネ部に設けられている。ディスプレイ17は画像を表示可能である。ディスプレイ17が表示する画像には、後述するマッピング後の仮想的なスクリーン又は合成した画像から切り出された表示画像やナビ画面、各種インジケータ、空調やオーディオなどの操作画面等が含まれる。
2.画像処理装置3が実行する処理
画像処理装置3が所定時間ごとに繰り返し実行する処理を図4〜図6に基づき説明する。図4のステップ1では、表示方向決定ユニット23が、シフトセンサ13からシフト情報を取得する。
ステップ2では、表示方向決定ユニット23が、表示方向を決定する。表示方向とは、後述する表示画像により表示する方向である。表示方向には、前方と後方とがある。前記ステップ1で取得したシフト情報が表すシフトの状態が前進である場合、表示方向決定ユニット23は、表示方向を前方とする。前記ステップ1で取得したシフト情報が表すシフトの状態が後退である場合、表示方向決定ユニット23は、表示方向を後方とする。
ステップ3では、画像取得ユニット25が、前方カメラ5、右方カメラ7、左方カメラ9、及び後方カメラ11から、前方画像37、右方画像39、左方画像43、及び後方画像47を取得する。
ステップ4では、方向変化取得ユニット27が、舵角センサ15から舵角情報を取得する。
ステップ5では、表示画像生成ユニット31が、図5に示すように、自車両36の車室内に視点53を設定する。自車両36に対する視点53の位置は常に一定である。また、表示画像生成ユニット31は、視点53を起点として、舵角情報に基づき視線方向55を設定する。
ステップ5では、表示画像生成ユニット31が、図5に示すように、自車両36の車室内に視点53を設定する。自車両36に対する視点53の位置は常に一定である。また、表示画像生成ユニット31は、視点53を起点として、舵角情報に基づき視線方向55を設定する。
前記ステップ2で決定した表示方向が前方である場合、自車両の直進方向57は、自車両36の前方となる。視線方向55は、直進方向57から、視点53を軸として、舵角の方向Xに回転した方向である。直進方向57が前方である場合、舵角の方向Xは、直進方向57からの変化方向に対応する。
一方、前記ステップ2で決定した表示方向が後方である場合、直進方向57は、自車両36の後方となる。視線方向55は、直進方向57から、視点53を軸として、舵角の方向Xの反対方向に回転した方向である。直進方向57が後方である場合、舵角の方向Xの反対方向が、直進方向57からの変化方向に対応する。
前記ステップ2で決定した表示方向が前方及び後方のいずれの場合でも、視線方向55と直進方向57とが成す角度Yは、舵角の量が大きいほど大きい。なお、舵角の方向X及び舵角の量は、前記ステップ4で取得した舵角情報に含まれる。角度Yと舵角の量との関係を規定するマップは、予めメモリ21に記憶されている。表示画像生成ユニット31は、このマップと舵角情報とを使用して、視線方向55を設定する。なお、角度Yと舵角両との関係はマップではなく、所定の式から算出してもよい。
ステップ6では、境界線設定ユニット29が境界線を設定する。この処理を図5に示す事例に基づき説明する。図5に示す事例では、前記ステップ2で決定した表示方向は前方であり、直進方向57は前方である。また、図5に示す事例では、前記ステップ4で取得した舵角情報に含まれる舵角の方向Xは右方向である。直進方向57からの変化方向は、舵角の方向Xである。
境界線設定ユニット29は、重複範囲41の中で境界線59を設定し、重複範囲45の中で境界線61を設定する。境界線59、61は、後述する仮想スクリーンと、重複領域の41、45の内側の交点A、Bを通る鉛直面とが交わる線である。ここで、重複領域41、45の内側の交点A、Bとは、各カメラの撮像画像の内、表示に使用される画像領域すなわち表示可能範囲の枠線の交点のことである。境界線59、61は、前記ステップ2で決定した表示方向が前方である場合に、後述する表示画像に含まれる可能性がある境界線である。図5に示す事例において、境界線59は、表示画像内の境界線のうち、直進方向57からの変化方向の側に存在する境界線である。
境界線設定ユニット29は、境界線59の少なくとも一部の位置を、舵角の量が大きいほど、舵角の方向Xの側に設定する。なお、舵角の方向X及び舵角の量は、前記ステップ4で取得した舵角情報に含まれる。境界線59の一部の位置と舵角の量との関係を規定するマップは、予めメモリ21に記憶されている。境界線設定ユニット29は、このマップと舵角情報とを使用して、境界線59の位置を設定する。境界線設定ユニット29は、境界線61の位置を、例えば、45度の標準の位置に設定する。標準の位置は、予めメモリ21に記憶されている。
図5に示す事例とは異なり、前記ステップ2で決定した表示方向が前方であり、前記ステップ4で取得した舵角情報に含まれる舵角の方向Xが左方向である場合、境界線61は、表示画像内の境界線のうち、直進方向57からの変化方向の側に存在する境界線である。この場合、境界線設定ユニット29は、境界線61の少なくとも一部の位置を、舵角の量が大きいほど、舵角の方向Xの側に設定する。また、境界線設定ユニット29は、境界線59の位置を、標準の位置に設定する。
図5に示す事例とは異なり、前記ステップ2で決定した表示方向が後方であり、前記ステップ4で取得した舵角情報に含まれる舵角の方向Xが右方向である場合、境界線設定ユニット29は、重複範囲49の中で境界線63を設定し、重複範囲51の中で境界線65を設定する。境界線63、65は、後述する仮想スクリーンと、重複領域の49、51の内側の交点を通る鉛直面とが交わる線である。境界線63、65は、前記ステップ2で決定した表示方向が後方である場合に、後述する表示画像に含まれる可能性がある境界線である。
前記ステップ2で決定した表示方向が後方である場合、直進方向57からの変化方向は、舵角の方向Xの反対方向である。前記ステップ4で取得した舵角情報に含まれる舵角の方向Xが右方向である場合、境界線63が、表示画像内の境界線のうち、直進方向57からの変化方向の側に存在する境界線である。境界線設定ユニット29は、境界線63の少なくとも一部の位置を、舵角の量が大きいほど、直進方向57からの変化方向の側に設定する。また、境界線設定ユニット29は、境界線65の位置を、標準の位置に設定する。
図5に示す事例とは異なり、前記ステップ2で決定した表示方向が後方であり、前記ステップ4で取得した舵角情報に含まれる舵角の方向Xが左方向である場合、境界線設定ユニット29は、重複範囲49の中で境界線63を設定し、重複範囲51の中で境界線65を設定する。
前記ステップ2で決定した表示方向が後方である場合、直進方向57からの変化方向は、舵角の方向Xの反対方向である。前記ステップ4で取得した舵角情報に含まれる舵角の方向Xが左方向である場合、境界線65が、表示画像内の境界線のうち、直進方向57からの変化方向の側に存在する境界線である。境界線設定ユニット29は、境界線65の少なくとも一部の位置を、舵角の量が大きいほど、直進方向57からの変化方向の側に設定する。また、境界線設定ユニット29は、境界線63の位置を、標準の位置に設定する。
ステップ7では、障害物検出ユニット35が、障害物センサ16から送信される障害物に関する情報を用いて、自車両の周囲に存在する障害物を検出する処理を行う。
ステップ8では、境界線設定ユニット29が、前記ステップ7で検出した障害物が、視点53から見て、前記ステップ6で設定した境界線付近にあるか否かを判断する。障害物が境界線上にある場合はステップ9に進み、障害物が境界線上にない場合はステップ10に進む。
ステップ8では、境界線設定ユニット29が、前記ステップ7で検出した障害物が、視点53から見て、前記ステップ6で設定した境界線付近にあるか否かを判断する。障害物が境界線上にある場合はステップ9に進み、障害物が境界線上にない場合はステップ10に進む。
ステップ9では、境界線設定ユニット29が、前記ステップ6で設定した境界線の位置を、前記ステップ7で検出した障害物を避けるように補正する。ここで、障害物を避けるように境界線の位置を補正する際には、舵角の方向Xを考慮し、舵角の方向Xと同じ方向へ避けるよう補正する。
ステップ10では、表示画像生成ユニット31が表示画像を以下のようにして生成する。表示画像生成ユニット31は、3次元空間において自車両の周囲に仮想的なスクリーン(画像の投影面とも言う)を想定する。次に、表示画像生成ユニット31は、前記ステップ3で取得した前方画像37、右方画像39、左方画像43、及び後方画像47を、上記の仮想的なスクリーンへ投影してマッピングを行う。
ステップ10では、表示画像生成ユニット31が表示画像を以下のようにして生成する。表示画像生成ユニット31は、3次元空間において自車両の周囲に仮想的なスクリーン(画像の投影面とも言う)を想定する。次に、表示画像生成ユニット31は、前記ステップ3で取得した前方画像37、右方画像39、左方画像43、及び後方画像47を、上記の仮想的なスクリーンへ投影してマッピングを行う。
次に、表示画像生成ユニット31は、マッピング後の仮想的なスクリーン又は各カメラから取得した画像を同一視点で合成した画像のうち、図5に示すように、視点53から、表示範囲67内に見える画像を表示画像69とする。表示範囲67は、視線方向55を中心とし、一定の広がりを有する範囲である。表示範囲67は、舵角の量が大きいほど、直進方向57からの変化方向の側に設定される。
すなわち、直進方向57が前方である場合、表示範囲67は、舵角の量が大きいほど、舵角の方向Xの側に設定される。また、直進方向57が後方である場合、表示範囲67は、舵角の量が大きいほど、舵角の方向Xの反対方向の側に設定される。
表示画像69は、前方画像37、右方画像39、左方画像43、及び後方画像47の少なくとも一部の画像を、境界線を介して合成した画像である。表示画像69の例を図6に示す。
図6に示す表示画像69は、前記ステップ2で決定した表示方向は前方であり、前記ステップ4で取得した舵角情報に含まれる舵角の方向Xが右方向である場合の表示画像69である。この表示画像69における表示範囲67の位置は、舵角が0度である場合に比べて、右方向に設定されている。右方向は、この事例において、直進方向57からの変化方向である。
図6に示す表示画像69は、前記ステップ2で決定した表示方向は前方であり、前記ステップ4で取得した舵角情報に含まれる舵角の方向Xが右方向である場合の表示画像69である。この表示画像69における表示範囲67の位置は、舵角が0度である場合に比べて、右方向に設定されている。右方向は、この事例において、直進方向57からの変化方向である。
表示画像69では、前方抽出画像37Bと、右方抽出画像39Bとが、境界線59を介して接合している。前方抽出画像37Bは、前方画像37のうち、境界線59と境界線61との間にある部分である。右方抽出画像39Bは、右方画像39のうち、境界線59よりも、視点53から見て右側にある部分である。
また、表示画像69では、前方抽出画像37Bと、左方抽出画像43Bとが、境界線61を介して接合している。左方抽出画像43Bは、左方画像43のうち、境界線61よりも、視点53から見て左側にある部分である。
前記ステップ6において、境界線59の少なくとも一部の位置は、舵角の量が大きいほど、直進方向57からの変化方向の側に設定されている。境界線59の少なくとも一部の位置を、舵角の量が大きいほど、直進方向57からの変化方向の側に設定する方法として、例えば、図6に示すように、舵角の量が大きいほど、境界線59を、直進方向57からの変化方向の側に大きく傾ける方法がある。この方法において、例えば、境界線59の下端59Aの位置は、自車両に対して固定された位置とすることができる。自車両36を表す枠に対して固定された軸であって、境界線59から見て、舵角の方向Xとは反対方向にある軸71を想定する。なお、軸71は、右方画像39の枠線の一部で、直進方向57とほぼ平行である。軸71と境界線59とが成す角度θは、境界線59を、直進方向57からの変化方向の側に大きく傾けるほど大きくなる。
表示画像生成ユニット31は、前記ステップ2で決定した表示方向が後方である場合や、前記ステップ4で取得した舵角情報に含まれる舵角の方向Xが左方向である場合でも、図6に示す表示画像69の場合と同様に、表示画像を生成する。
ステップ11では、出力ユニット33が、前記ステップ10で生成した表示画像をディスプレイ17に出力する。ディスプレイ17は表示画像を表示する。
3.画像処理装置3が奏する効果
(1A)画像処理装置3は、表示範囲67を、舵角の量が大きいほど、直進方向57からの変化方向の側に設定する。そのため、仮に、前方画像37、右方画像39、左方画像43、及び後方画像47に対する境界線の位置が常に一定であれば、舵角の量が大きいほど、一部の境界線の位置が表示画像の中心に近づいてしまう。
3.画像処理装置3が奏する効果
(1A)画像処理装置3は、表示範囲67を、舵角の量が大きいほど、直進方向57からの変化方向の側に設定する。そのため、仮に、前方画像37、右方画像39、左方画像43、及び後方画像47に対する境界線の位置が常に一定であれば、舵角の量が大きいほど、一部の境界線の位置が表示画像の中心に近づいてしまう。
例えば、表示画像69において、仮に、前方画像、右方画像に対する境界線の位置が常に一定であれば、表示範囲67を舵角の方向Xの側に設定した場合、境界線159のように境界線の位置が表示画像69の中心に近づいてしまう。
境界線付近の画像は、合成される2つの画像それぞれの撮像位置(カメラの設置位置)の違いや変換により歪みや1つの物が2重になるなどユーザに違和感を生じさせることがある。境界線が表示画像の中心付近にあると、自車両の乗員が表示画像によって周囲の物標を認識することが困難になる。
画像処理装置3は、表示画像内の境界線のうち、直進方向57からの変化方向の側に存在する境界線における少なくとも一部の位置を、舵角の量が大きいほど、直進方向57からの変化方向の側に設定する。そのため、視線方向55が変化する場合でも、境界線の位置が表示画像の中心に近づいてしまうことを抑制できる。その結果、自車両の乗員が表示画像によって周囲の物標を認識することが容易になる。
画像処理装置3は、表示画像内の境界線のうち、直進方向57からの変化方向の側に存在する境界線における少なくとも一部の位置を、舵角の量が大きいほど、直進方向57からの変化方向の側に設定する。そのため、視線方向55が変化する場合でも、境界線の位置が表示画像の中心に近づいてしまうことを抑制できる。その結果、自車両の乗員が表示画像によって周囲の物標を認識することが容易になる。
(1B)画像処理装置3は、表示画像内の境界線のうち、直進方向57からの変化方向の側に存在する境界線を、舵角の量が大きいほど、直進方向57からの変化方向の側に傾ける。よって、境界線が表示画面の中心に近づかないよう設定でき、ユーザの違和感を抑制できる。
(1C)画像処理装置3は、障害物センサ16から送信される情報を基に障害物の位置を特定する。そして、画像処理装置3は、検出した障害物を避けて境界線を設定する。そのため、自車両の乗員が表示画像において障害物を認識することが容易になる。
(1D)画像処理装置3は、視点53から視線方向55を見た表示画像69を生成する。また、画像処理装置3は、視線方向55を、舵角の量が大きいほど、直進方向57からの変化方向の側に設定する。よって、視点53の位置が一定である表示画像69を得ることができる。
<第2実施形態>
1.第1実施形態との相違点
第2実施形態は、基本的な構成は第1実施形態と同様であるため、相違点について以下に説明する。なお、第1実施形態と同じ符号は、同一の構成を示すものであって、先行する説明を参照する。
<第2実施形態>
1.第1実施形態との相違点
第2実施形態は、基本的な構成は第1実施形態と同様であるため、相違点について以下に説明する。なお、第1実施形態と同じ符号は、同一の構成を示すものであって、先行する説明を参照する。
前述した第1実施形態では、視点53の位置を一定とし、視線方向55を舵角の方向Xに応じて変化させた。これに対し、これに対し、第2実施形態では、図7に示すように、視点方向55を一定とし、視点53の位置を、直進方向57からの変化方向に応じて変化させる。視点53の位置は、自車両の左右方向において変化する。視点53の位置は、舵角の量が大きいほど、直進方向57からの変化方向の側に設定される。直進方向57からの変化方向は、直進方向57が前方である場合は、舵角の方向Xである。また、直進方向57が後方である場合は、舵角の方向Xの反対方向である。
ステップ10において、表示画像生成ユニット31は、上記のように設定した視点53から、表示範囲67内に見える画像を表示画像69とする。表示範囲67は、固定された視線方向55を中心とし、一定の広がりを有する範囲である。表示範囲67は、舵角の量が大きいほど、直進方向57からの変化方向の側に設定される。
表示画像69の例を図8に示す。この表示画像69は、表示方向は前方であり、舵角の方向Xが左方向である場合の表示画像69である。この表示画像69における表示範囲67の位置は、舵角が0度である場合に比べて、左方向に設定されている。左方向は、この事例において、直進方向57からの変化方向である。
表示画像69では、前方抽出画像37Bと、右方抽出画像39Bとが、境界線59を介して接合している。また、表示画像69では、前方抽出画像37Bと、左方抽出画像43Bとが、境界線61を介して接合している。
境界線61の少なくとも一部の位置は、舵角の量が大きいほど、直進方向57からの変化方向の側に設定されている。境界線61の少なくとも一部の位置を、舵角の量が大きいほど、直進方向57からの変化方向の側に設定する方法として、例えば、図8に示すように、舵角の量が大きいほど、境界線61を、直進方向57からの変化方向の側に大きく傾ける方法がある。この方法において、例えば、境界線61の下端61Aの位置は、自車両36に対して固定された位置とすることができる。自車両36を表す枠に対して固定された軸であって、境界線61から見て、舵角の方向Xとは反対方向にある軸72を想定する。なお、軸72は、左方画像43の枠線の一部で、直進方向57とほぼ平行である。軸72と境界線61とが成す角度δは、境界線61を、直進方向57からの変化方向の側に大きく傾けるほど大きくなる。
表示画像69の例を図8に示す。この表示画像69は、表示方向は前方であり、舵角の方向Xが左方向である場合の表示画像69である。この表示画像69における表示範囲67の位置は、舵角が0度である場合に比べて、左方向に設定されている。左方向は、この事例において、直進方向57からの変化方向である。
表示画像69では、前方抽出画像37Bと、右方抽出画像39Bとが、境界線59を介して接合している。また、表示画像69では、前方抽出画像37Bと、左方抽出画像43Bとが、境界線61を介して接合している。
境界線61の少なくとも一部の位置は、舵角の量が大きいほど、直進方向57からの変化方向の側に設定されている。境界線61の少なくとも一部の位置を、舵角の量が大きいほど、直進方向57からの変化方向の側に設定する方法として、例えば、図8に示すように、舵角の量が大きいほど、境界線61を、直進方向57からの変化方向の側に大きく傾ける方法がある。この方法において、例えば、境界線61の下端61Aの位置は、自車両36に対して固定された位置とすることができる。自車両36を表す枠に対して固定された軸であって、境界線61から見て、舵角の方向Xとは反対方向にある軸72を想定する。なお、軸72は、左方画像43の枠線の一部で、直進方向57とほぼ平行である。軸72と境界線61とが成す角度δは、境界線61を、直進方向57からの変化方向の側に大きく傾けるほど大きくなる。
2.画像処理装置3が奏する効果
以上詳述した第2実施形態によれば、前述した第1実施形態の効果(1A)〜(1C)を奏し、さらに、以下の効果を奏する。
以上詳述した第2実施形態によれば、前述した第1実施形態の効果(1A)〜(1C)を奏し、さらに、以下の効果を奏する。
(2A)画像処理装置3は、視点53から視線方向55を見た表示画像69を生成する。また、画像処理装置3は、視点53を、舵角の量が大きいほど、舵角の方向X側に設定する。視線方向55が一定である表示画像69を得ることができる。
<他の実施形態>
以上、本開示の実施形態について説明したが、本開示は上述の実施形態に限定されることなく、種々変形して実施することができる。
<他の実施形態>
以上、本開示の実施形態について説明したが、本開示は上述の実施形態に限定されることなく、種々変形して実施することができる。
(1)方向変化取得ユニット27は、直進方向57からの変化方向、及び直進方向57からの変化量を、舵角以外のパラメータから算出してもよい。例えば、自車両のヨーレート、ウインカーの表示、ハザードの表示等から、直進方向57からの変化方向、及び直進方向57からの変化量を算出してもよい。
(2)前記ステップ6において境界線を設定する方法は、例えば、以下の方法であってもよい。図9は、直進方向が右方向に変化する前後における表示画像69を表す。境界線59は、表示画像69内の境界線のうち、直進方向57からの変化方向の側に存在する境界線である。境界線59の一部である固定点59Bの、表示範囲67に対する位置は、直進方向57が右方向に変化する前後において一定である。固定点59Bは、例えば、下端59A以外の部分である。
(3)障害物検出ユニット35は、障害物センサ16からの情報ではなく、前方カメラ5、右方カメラ7、左方カメラ9、及び後方カメラ11からの撮像画像の画像処理(画像認識)の結果を用いて障害物を検出してもよいし、障害物センサ16からの情報と画像認識の結果を融合して障害物を検出してもよい。
実施形態1及び実施形態2を融合して、視点53の位置及び視線方向55の両方を舵角量に応じて変更し、表示画像を生成してもよい。
(4)上記実施形態における1つの構成要素が有する複数の機能を、複数の構成要素によって実現したり、1つの構成要素が有する1つの機能を、複数の構成要素によって実現したりしてもよい。また、複数の構成要素が有する複数の機能を、1つの構成要素によって実現したり、複数の構成要素によって実現される1つの機能を、1つの構成要素によって実現したりしてもよい。また、上記実施形態の構成の一部を省略してもよい。また、上記実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加又は置換してもよい。なお、特許請求の範囲に記載した文言から特定される技術思想に含まれるあらゆる態様が本開示の実施形態である。
実施形態1及び実施形態2を融合して、視点53の位置及び視線方向55の両方を舵角量に応じて変更し、表示画像を生成してもよい。
(4)上記実施形態における1つの構成要素が有する複数の機能を、複数の構成要素によって実現したり、1つの構成要素が有する1つの機能を、複数の構成要素によって実現したりしてもよい。また、複数の構成要素が有する複数の機能を、1つの構成要素によって実現したり、複数の構成要素によって実現される1つの機能を、1つの構成要素によって実現したりしてもよい。また、上記実施形態の構成の一部を省略してもよい。また、上記実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加又は置換してもよい。なお、特許請求の範囲に記載した文言から特定される技術思想に含まれるあらゆる態様が本開示の実施形態である。
(5)上述した画像処理装置の他、当該画像処理装置を構成要素とするシステム、当該画像処理装置としてコンピュータを機能させるためのプログラム、このプログラムを記録した半導体メモリ等の非遷移的実態的記録媒体、画像処理方法、画像表示方法、運転支援方法等、種々の形態で本開示を実現することもできる。
3…画像処理装置、5…前方カメラ、7…右方カメラ、9…左方カメラ、11…後方カメラ、15…舵角センサ、16…障害物センサ、23…表示方向決定ユニット、25…画像取得ユニット、27…方向変化取得ユニット、29…境界線設定ユニット、31…表示画像生成ユニット、33…出力ユニット、36…自車両、37…前方画像、37A、39A、43A、47A…表示可能範囲、39…右方画像、41、45、49、51…重複範囲、43…左方画像、47…後方画像、53…視点、55…視線方向、59、61、63、65…境界線、67…表示範囲、69…表示画像
Claims (5)
- 車両(36)に搭載される画像処理装置(3)であって、
前記車両の周囲を撮影する複数のカメラ(5、7、9、11)を用いて、表示可能範囲(37A、39A、43A、47A)の一部が互いに重複している複数の画像(37、39、43、47)を取得する画像取得ユニット(25)と、
前記複数の画像に含まれる、表示可能範囲の一部が互いに重複している画像同士の境界線(59、61、63、65)を、表示可能範囲が重複している範囲(41、45、49、51)内で設定する境界線設定ユニット(29)と、
前記複数の画像の少なくとも一部の画像を、前記境界線を介して合成して、前記車両の車室内における視点(53)から見た表示画像(69)を生成する表示画像生成ユニット(31)と、
前記表示画像を出力する出力ユニット(33)と、
前記車両の直進方向(57)からの変化方向(X)、及び前記直進方向からの変化量を取得する方向変化取得ユニット(27)と、
を備え、
前記表示画像生成ユニットは、前記表示画像の表示範囲を、前記変化量が大きいほど、前記変化方向の側に設定するように構成され、
前記境界線設定ユニットは、前記表示画像内の前記境界線のうち、少なくとも前記変化方向の側に存在する前記境界線における少なくとも一部の位置を、前記変化量が大きいほど、前記変化方向の側に設定するように構成された画像処理装置。 - 請求項1に記載の画像処理装置であって、
前記境界線設定ユニットは、前記表示画像内の前記境界線のうち、前記変化方向の側に存在する前記境界線を、前記変化量が大きいほど、前記変化方向の側に傾けるように構成された画像処理装置。 - 請求項1又は2に記載の画像処理装置であって、
障害物を検出する障害物検出ユニット(35)をさらに備え、
前記境界線設定ユニットは、前記障害物検出ユニットで検出した前記障害物を避けて前記境界線を設定するように構成された画像処理装置。 - 請求項1〜3のいずれか1項に記載の画像処理装置であって、
前記表示画像生成ユニットは、前記視点から視線方向(55)を見た表示画像を生成するように構成され、
前記表示画像生成ユニットは、前記視線方向を、前記変化量が大きいほど、前記変化方向の側に設定するように構成された画像処理装置。 - 請求項1〜3のいずれか1項に記載の画像処理装置であって、
前記表示画像生成ユニットは、前記視点の位置を、前記変化量が大きいほど、前記変化方向の側に設定するように構成された画像処理装置。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017199383A JP2019074850A (ja) | 2017-10-13 | 2017-10-13 | 画像処理装置 |
DE112018004496.3T DE112018004496T5 (de) | 2017-10-13 | 2018-10-11 | Bildverarbeitungsvorrichtung |
PCT/JP2018/037941 WO2019074065A1 (ja) | 2017-10-13 | 2018-10-11 | 画像処理装置 |
CN201880065858.2A CN111201788A (zh) | 2017-10-13 | 2018-10-11 | 图像处理装置 |
US16/844,294 US20200231099A1 (en) | 2017-10-13 | 2020-04-09 | Image processing apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017199383A JP2019074850A (ja) | 2017-10-13 | 2017-10-13 | 画像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019074850A true JP2019074850A (ja) | 2019-05-16 |
Family
ID=66100756
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017199383A Pending JP2019074850A (ja) | 2017-10-13 | 2017-10-13 | 画像処理装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20200231099A1 (ja) |
JP (1) | JP2019074850A (ja) |
CN (1) | CN111201788A (ja) |
DE (1) | DE112018004496T5 (ja) |
WO (1) | WO2019074065A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020209247A1 (ja) | 2019-04-10 | 2020-10-15 | 株式会社細川洋行 | 容器用多層フィルム及びそれを含む容器 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007251880A (ja) * | 2006-03-20 | 2007-09-27 | Alpine Electronics Inc | 車両用画像表示装置および画像合成方法 |
JP2011066763A (ja) * | 2009-09-18 | 2011-03-31 | Mitsubishi Motors Corp | 運転支援装置 |
WO2011036892A1 (ja) * | 2009-09-24 | 2011-03-31 | パナソニック株式会社 | 運転支援表示装置 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103377372B (zh) * | 2012-04-23 | 2017-12-22 | 无锡维森智能传感技术有限公司 | 一种环视合成图重叠区域划分方法和环视合成图表示方法 |
JP2016199204A (ja) * | 2015-04-14 | 2016-12-01 | トヨタ自動車株式会社 | 車両制御装置 |
-
2017
- 2017-10-13 JP JP2017199383A patent/JP2019074850A/ja active Pending
-
2018
- 2018-10-11 WO PCT/JP2018/037941 patent/WO2019074065A1/ja active Application Filing
- 2018-10-11 CN CN201880065858.2A patent/CN111201788A/zh active Pending
- 2018-10-11 DE DE112018004496.3T patent/DE112018004496T5/de not_active Ceased
-
2020
- 2020-04-09 US US16/844,294 patent/US20200231099A1/en not_active Abandoned
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007251880A (ja) * | 2006-03-20 | 2007-09-27 | Alpine Electronics Inc | 車両用画像表示装置および画像合成方法 |
JP2011066763A (ja) * | 2009-09-18 | 2011-03-31 | Mitsubishi Motors Corp | 運転支援装置 |
WO2011036892A1 (ja) * | 2009-09-24 | 2011-03-31 | パナソニック株式会社 | 運転支援表示装置 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020209247A1 (ja) | 2019-04-10 | 2020-10-15 | 株式会社細川洋行 | 容器用多層フィルム及びそれを含む容器 |
Also Published As
Publication number | Publication date |
---|---|
WO2019074065A1 (ja) | 2019-04-18 |
US20200231099A1 (en) | 2020-07-23 |
DE112018004496T5 (de) | 2020-10-08 |
CN111201788A (zh) | 2020-05-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8880344B2 (en) | Method for displaying images on a display device and driver assistance system | |
US11528413B2 (en) | Image processing apparatus and image processing method to generate and display an image based on a vehicle movement | |
WO2016002163A1 (ja) | 画像表示装置、画像表示方法 | |
JP6548900B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
CN107465890B (zh) | 车辆的图像处理装置 | |
WO2011001794A1 (ja) | 画像生成装置及び画像表示システム | |
JP6586849B2 (ja) | 情報表示装置及び情報表示方法 | |
JP6257978B2 (ja) | 画像生成装置、画像表示システム及び画像生成方法 | |
EP3002727B1 (en) | Periphery monitoring apparatus and periphery monitoring system | |
JP7039879B2 (ja) | 表示制御装置 | |
US20140043466A1 (en) | Environment image display apparatus for transport machine | |
JP6958163B2 (ja) | 表示制御装置 | |
JP2013168063A (ja) | 画像処理装置、画像表示システム及び画像処理方法 | |
US10793069B2 (en) | Method for assisting the driver of a motor vehicle in maneuvering the motor vehicle with a trailer, driver assistance system as well as vehicle/trailer combination | |
JP2012214083A (ja) | 画像生成装置、画像表示システム及び画像生成方法 | |
JP2016149613A (ja) | カメラパラメータ調整装置 | |
JP7013751B2 (ja) | 画像処理装置 | |
JP2010257242A (ja) | 画像データ生成装置 | |
JP6258000B2 (ja) | 画像表示システム、画像表示方法及びプログラム | |
US20200231099A1 (en) | Image processing apparatus | |
JP2013211035A (ja) | 車両周辺表示装置 | |
JP6662655B2 (ja) | 車両用画像表示装置 | |
WO2016059765A1 (ja) | 映像処理装置、及び車載映像処理システム | |
JP2018076019A (ja) | 画像処理装置 | |
JP2007028443A (ja) | 画像表示システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200402 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210629 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20211221 |