JP2004040411A - 車外画像表示システム、画像処理装置及び車外画像表示方法 - Google Patents
車外画像表示システム、画像処理装置及び車外画像表示方法 Download PDFInfo
- Publication number
- JP2004040411A JP2004040411A JP2002193834A JP2002193834A JP2004040411A JP 2004040411 A JP2004040411 A JP 2004040411A JP 2002193834 A JP2002193834 A JP 2002193834A JP 2002193834 A JP2002193834 A JP 2002193834A JP 2004040411 A JP2004040411 A JP 2004040411A
- Authority
- JP
- Japan
- Prior art keywords
- image
- vehicle
- data
- display
- outside
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 10
- 238000006243 chemical reaction Methods 0.000 claims abstract description 126
- 238000003384 imaging method Methods 0.000 claims description 46
- 230000008859 change Effects 0.000 claims description 12
- 238000010586 diagram Methods 0.000 description 13
- 238000001514 detection method Methods 0.000 description 12
- 230000014509 gene expression Effects 0.000 description 8
- 238000013500 data storage Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Facsimile Image Signal Circuits (AREA)
- Image Analysis (AREA)
Abstract
【課題】車両外部の湾曲画像の歪みを矯正した表示用データを表示する。
【解決手段】車外画像表示システム10は車両外方に向けて設置した左右カメラ12A、12B、画像処理装置13及びモニタ装置14等で構成される。左右カメラ12A、12Bは、撮像した車外の湾曲画像の撮像データを画像処理装置13へ送出する。画像処理装置13は、送出された撮像データを歪み矯正用の変換テーブルに基づいて湾曲画像の歪みが矯正された表示用データに変換する。変換された表示用データは画像処理装置13から車内に設けられたモニタ装置14へ送出され、モニタ装置14で表示される。
【選択図】 図1
【解決手段】車外画像表示システム10は車両外方に向けて設置した左右カメラ12A、12B、画像処理装置13及びモニタ装置14等で構成される。左右カメラ12A、12Bは、撮像した車外の湾曲画像の撮像データを画像処理装置13へ送出する。画像処理装置13は、送出された撮像データを歪み矯正用の変換テーブルに基づいて湾曲画像の歪みが矯正された表示用データに変換する。変換された表示用データは画像処理装置13から車内に設けられたモニタ装置14へ送出され、モニタ装置14で表示される。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、車外を撮像した広角の撮像データを表示用データに変換するものに関し、特に、撮像データの湾曲している画像の歪みを矯正して自然な表示用データに変換する車外画像表示システム、画像処理装置及び車外画像表示方法に関する。
【0002】
【従来の技術】
従来、車両の運転席から死角となる車両の前部、後部等にカメラを設置すると共に、カメラの撮像画像を画像処理装置で表示用データに変換し、この表示用データを車内に設置したモニタ装置で表示すると云う車外画像表示システムが存在する。
【0003】
図9(a)は、従来の車外画像表示システム1の概略図であり、車両Sの前部左隅Saに設けた左カメラ2A及び前部右隅Sbに設けた右カメラ2Bが画像処理装置3に夫々接続されていると共に、この画像処理装置3にモニタ装置4が接続され、左右カメラ2A、2Bの撮像画像をモニタ装置4で表示する。また、左右カメラ2A、2Bには120度の広角レンズが装着されており、車両Sの前方の左右周囲を広角で撮像可能にしている。
【0004】
図9(b)の表示データ5は、モニタ装置4で表示される左カメラ2Aで撮像された画像の一例であり、運転席から死角となる範囲の広角画像がモニタ装置4で映し出され車両周囲の死角を容易に確認できるようにしている。なお、表示データ5の右下の隅に表示されているものは車両Sの前部左隅Saである。また、右カメラ2Bによる画像は、表示データ5の表示形態に対して左右反転されたものになる。
【0005】
【発明が解決しようとする課題】
従来の車外画像表示システム1は、上述した構成により車両Sの前方左右の約120度の範囲をモニタ装置4に映し出すが、図9(a)に示すように、各左右カメラ2A、2Bは車両Sの前部左隅Sa及び前部右隅Sbの外方の全周囲を撮像しているわけではなく、撮像範囲外の領域は依然として死角として残存する問題がある。
【0006】
このような死角の領域を削減するためには、一段と広角な150度のレンズ、180度の視野角を確保する魚眼レンズ等を左右カメラ2A、2Bに装着することが想定できる。しかし、このような角度のレンズを適用したとしても、車両Sの前部左右隅Sa、Sbの各周囲の領域は車両Sの左右の各隅部が約90度であることから約270度に及ぶため、依然として死角が残る。また、上記のような広角のレンズ又は魚眼レンズを装着すると、撮像画像の湾曲度が増して歪みが非常に大きくなり、撮像画像中の各物体の正確な位置関係及び距離感等を把握するのが困難になると云う新たな問題も発生する。
【0007】
また、上述した死角を解消する別の手段として、図10に示すように、カメラ8をモータ6で歯車7を介して回転させて所要範囲を撮像可能にしたカメラ装置9も存在している。しかし、カメラ8を回転させるためには、モータ6、歯車7等の機械的な各種部品が必要となり、複雑な構造によりコストが上昇し、また、カメラ8の回転に対する信頼性を車両の走行に伴う振動等に関わらず維持することは非常に困難である。
【0008】
本発明は、斯かる事情に鑑みてなされたものであり、車両の外部を広範囲で撮像可能にすると共に撮像された画像の歪みを矯正する変換を変換テーブルに基づき行うことで、車両周囲を車内より自然な画像で確認できる車外画像表示システム、画像処理装置及び車外画像表示方法を提供することを目的とする。
また、本発明は、種々の変換テーブルを用意することで、多様な形態の画像を表示できる車外画像表示システムを提供することを目的とする。
【0009】
【課題を解決するための手段】
第1発明に係る車外画像表示システムは、車両の外方に向けて設けてある撮像装置が撮像した湾曲画像の撮像データを、画像処理装置で表示用データに変換して車内に設けてある表示装置で表示する車外画像表示システムにおいて、前記画像処理装置は、前記湾曲画像の歪みを矯正する変換テーブルと、前記変換テーブルに基づいて、前記撮像データを表示用データに変換する変換手段とを備えることを特徴とする。
【0010】
第1発明にあっては、歪み矯正用の変換テーブルに基づいて、撮像データを表示用データに変換するため、表示装置で表示される歪みが矯正された画像は、標準レンズ等で撮像されたものと略同等な形態になり、車両の運転者は違和感無く画像を確認して車両周囲の死角の状況を的確に把握できる。なお、撮像装置を車両に設ける箇所は、運転席から死角となる車両の前部左右、後部、運転席と反対側の周囲等であり、これらの箇所に設置された撮像装置の画像を画像処理装置で変換することにより、車両周囲の状況を自然な形態で映し出せる。
【0011】
第2発明に係る車外画像表示システムは、前記変換テーブルが、前記湾曲画像の一部の範囲を矯正する範囲変換テーブルを備えることを特徴とする。
第2発明にあっては、湾曲画像の一部の範囲を範囲変換テーブルに基づいて、変換することで、撮像装置が撮像した湾曲画像の中で、所要範囲のみを抽出して表示することが可能となり、必要な範囲を重点的に確認することが可能になる。
【0012】
第3発明に係る車外画像表示システムは、前記範囲が扇状であり、前記範囲変換テーブルは、前記湾曲画像の各画素及び前記表示用データの各画素を下式に基づいて対応付けることで、前記歪みを矯正することを特徴とする。
x={r2−(r2−r1)×Y/B}×sin{(θ1−θ2)×X/A+θ2}+C・・・(1)
y={r2−(r2−r1)×Y/B}×cos{(θ1−θ2)×X/A+θ2}+D・・・(2)
(但し、xは撮像データの水平画素、yは撮像データの垂直画素、Xは表示用データの水平画素、Yは表示用データの垂直画素、Aは撮像データの水平画素数、Bは撮像データの垂直画素数、r1は湾曲画像の湾曲中心から内周までの半径、r2は湾曲画像の湾曲中心から外周までの半径、θ1は水平方向と前記範囲の一境界線との角度、θ2は水平方向と前記範囲の他境界線との角度、Cは原点から前記湾曲中心までの水平画素数、Dは原点から前記湾曲中心までの垂直画素数)
【0013】
第3発明にあっては、上述の数式(1)(2)に基づいて、各画素毎に変換を行うので、変換条件を詳細に設定できる。例えば、角度θ1、θ2を適宜設定することで、湾曲画像の所要位置の所要範囲を変換して表示することが可能になり、また、水平画素数A及び垂直画素数Bを適宜設定することにより、表示用データの大きさを表示装置の解像度に応じて調整できる。なお、数式(1)(2)の計算結果に小数点以下の端数が生じた場合、切り捨て、四捨五入又は切り上げのいずれかを適用して対応する画素を特定する。
【0014】
第4発明に係る車外画像表示システムは、前記変換テーブルが、前記湾曲画像の相違する複数の範囲に夫々対応した複数の前記範囲変換テーブルを備え、前記画像処理装置は更に、前記複数の範囲変換テーブルを切り換える切換手段を備えることを特徴とする。
【0015】
第4発明にあっては、複数の範囲変換テーブルを切換手段で切り換えることで、表示される画像も連動して切り替わり、運転者の望む画像を容易に表示できる。表示画像を切り換える形態は、適用される範囲変換テーブルの内容に応じて種々のものが可能であり、例えば、湾曲画像の中心を回転中心として回転方向に30度毎に相違させた一定範囲の範囲変換テーブルを複数準備し、これら各範囲変換テーブルを回転方向へ順次切り換えていくことで、表示画像が30度毎に回転方向にシフトし、あたかも撮像装置を徐々に回転させて撮像したような画像の表示を実現できる。
【0016】
なお、切換手段は、操作部の操作及び各種センサの検出等に連動して各範囲変換テーブルを切り換えるようにしてもよく、例えば、操作部に設けた切替ダイヤルの回転に応じて、表示範囲の回転に対応した各範囲変換テーブルを切換手段で切り換えるようにする。また、運転者がステアリングホイールを回転させた場合及びウインカーを点滅させる操作をした場合等は、これらの運転者の操作を車両に設けたセンサが検出して、切換手段が各範囲変換テーブルを切り換えるようにしてもよい。
【0017】
第5発明に係る車外画像表示システムは、前記変換テーブルが、歪みを矯正した画像の表示倍率を変更する倍率変更テーブル、及び/又は、歪みを矯正した複数の画像を一画面内に配置する配置テーブルを備えることを特徴とする。
第5発明にあっては、倍率変更テーブル及び配置テーブル等を備えることで、運転者が要求する表示形態に応じた多彩な表示を実現できる。
【0018】
例えば、表示される画像の一部を拡大したい場合等は、倍率変更テーブルに基づき撮像データを変換することで、湾曲画像の歪みの矯正と画像の拡大とを同時に行うことができ、2種類の変換を一つの変換テーブルに基づき効率的に行うことができる。また、車両の前部左右の画像を配置テーブルにより一画面内に表示することで、一度に車両前方の左右の状況も確認できる。
【0019】
第6発明に係る車外画像表示システムは、前記撮像装置が、全方位を撮像する撮像手段を備えることを特徴とする。
第6発明にあっては、撮像装置が全方位を撮像できるので、撮像できる方向の死角を完全に解消できる。また、全方位の撮像データは、範囲変換テーブルにより一部の範囲を表示すると共に、この表示範囲を各範囲変換テーブルの切換により順次回転させることで、死角となる箇所の状況を把握しながら全方位を確認することもできる。
【0020】
第7発明に係る画像処理装置は、外部から受け付けた湾曲画像のデータを表示用データに変換する画像処理装置において、前記湾曲画像の歪みを矯正する変換テーブルと、前記変換テーブルに基づいて、前記データを表示用データに変換する変換手段とを備えることを特徴とする。
第7発明にあっては、湾曲画像を変換テーブルにより矯正して表示用データを作成するため、運転者の見やすい画像を容易に表示できる。
【0021】
第8発明に係る車外画像表示方法は、車両の外方に向けて設けてある湾曲画像撮像用の撮像装置で車外を撮像し、撮像された撮像データを画像処理装置で表示用データに変換し、該表示用データを車内に設けてある表示装置で表示する車外画像表示方法において、前記画像処理装置は、前記撮像データの湾曲画像の歪みを矯正する変換テーブルを備え、前記変換テーブルに基づいて、前記撮像データを表示用データに変換していることを特徴とする。
【0022】
第8発明にあっては、湾曲画像の撮像データを変換テーブルにより歪みを矯正して表示用データに変換するため、広範囲の画像でも湾曲せずに距離感等を把握しやすい自然な形態で表示できる。
【0023】
【発明の実施の形態】
以下、本発明をその実施の形態を示す図面に基づいて説明する。
図1は、本発明の実施形態に係る車外画像表示システム10の全体構成図である。本実施形態の車外画像表示システム10は車両に装着された左右カメラ12A、12B、画像処理装置13及びモニタ装置14をケーブル15でネットワーク的に接続することでシステムを構築している。
【0024】
車外画像表示システム10は、同期通信用ネットワークのIEEE1394の規格に合致したネットワーク構成になっており、車両に構築された車載LANの一部である情報系LAN11を形成している。なお、情報系LAN11は、ゲートウェイ装置16を介してボディ系LAN及び制御系LAN等の他の系統のLANと接続されて車載LANを形成している。
【0025】
左右カメラ12A、12Bは撮像装置に相当し、図9(a)示す従来の車外画像表示システム1と同様に、車両の前部の左右隅部で外方へ向けて設置されている。左右カメラ12A、12BはIEEE1394に対応した仕様になっており、周囲の全方位を撮像する撮像手段として、図2に示す360度の湾曲画像18の撮像データ19を撮像できる全方位レンズ17A、17Bを装着している。
【0026】
なお、湾曲画像18の中央の小円は、全方位レンズ17A、17Bの中央不撮像範囲18aであり、湾曲画像18の周囲外方の箇所は外周不撮像範囲18bである。さらに、湾曲画像18におけるハッチング部分19aは、左右カメラ12A、12Bが装着された車両部分が約90度の範囲で撮像されたものである。このように撮像された撮像データ19は、左右カメラ12A、12Bからケーブル15を通じて画像処理装置13へ送出される。
【0027】
図1に示す画像処理装置13は、送出された撮像データ19をモニタ装置14で表示する表示用データに変換するものであり、変換用の変換テーブルを変換テーブル用メモリ21で記憶している。変換テーブル用メモリ21は、EEPROM(Electrically Erasable PROM)であり、記憶されている変換テーブルは、後述するマイクロコンピュータ23の発行する読出用トリガに基づき画像処理ASIC24により読み出される。
【0028】
変換テーブルは、撮像データ19の湾曲画像18の歪みを矯正するものであり、この変換テーブルに基づき撮像データ19が変換され、例えば、図2に示す撮像データ19の湾曲画像18における点t1〜t4で囲まれた略扇状の範囲は、標準レンズで撮像したように歪みが矯正された表示用データ20に変換される。なお、表示用データ20の各4角T1〜T4は、湾曲画像18の点t1〜t4に夫々対応している。
【0029】
変換テーブル用メモリ21は、一種類だけでなく種々の変換内容に応じた多種類の変換テーブルを記憶している。変換テーブルの種類には、湾曲画像18の所定の一部の範囲を変換する範囲変換テーブル、歪みの矯正に加えて表示する倍率を変更する倍率変更テーブル、歪みを矯正した複数の画像を一画面内に配置する配置テーブル等がある。
【0030】
範囲変換テーブルは、下記の数式(1)(2)に基づいて、湾曲画像18の各画素と表示用データ20の各画素とを対応付けることにより、歪みの矯正を行うものである。
x={r2−(r2−r1)×Y/B}×sin{(θ1−θ2)×X/A+θ2}+C・・・(1)
y={r2−(r2−r1)×Y/B}×cos{(θ1−θ2)×X/A+θ2}+D・・・(2)
【0031】
上記数式(1)(2)において、Xは図3に示す表示用データ20の水平方向(X軸方向)の水平画素であり、Yは表示用データ20の垂直方向(Y軸方向)の垂直画素である。なお、図3の表示用データ20は左上を原点(0、0)として水平方向に640画素、垂直方向に480画素を有している。
【0032】
また、上記数式(1)(2)で、xは図4に示す左上を原点(0、0)とする撮像データ19の水平方向(x軸方向)の水平画素であり、yは撮像データ19の垂直方向(y軸方向)の垂直画素である。さらに、Aは撮像データ19の水平方向の水平画素数、Bは撮像データ19の垂直方向の垂直画素数であり、図4の撮像データ19では水平画素数Aが640、垂直画素数Bが480である。
【0033】
さらに、また、Cは原点(0、0)から全方位レンズ17A、17Bの中心である湾曲画像18の湾曲中心18cまでの水平方向の水平画素数であり、Dは原点(0、0)から湾曲画像18の湾曲中心18cまでの垂直方向の垂直画素数である。また、r1は湾曲中心18cから湾曲画像18の内周18dまでの内周半径であり、r2は湾曲中心18cから湾曲画像18の外周18eまでの外周半径である。なお、内周半径r1、外周半径r2の各数値は、適用する全方位レンズ17A、17Bの仕様に応じて決定される。
【0034】
さらに、θ1は水平方向となる水平線L1と湾曲画像18における所要範囲の一境界線18fとの角度であり、θ2は水平線L1と湾曲画像18の所要範囲の他境界線18gとの角度である。なお、角度θ1、θ2は適宜設定することが可能であり、本実施形態の変換テーブル用メモリ21は角度θ1、θ2を種々の数値にした多数の範囲変換テーブルを記憶しており、変換の際に必要な範囲変換テーブルを読み出せるようにしている。
【0035】
なお、上述した数式(1)(2)に基づく演算結果に小数点以下の端数が生じた場合、本実施形態では小数点以下の数値を四捨五入して、撮像データ19の各画素(x、y)を特定している。
【0036】
また、変換テーブルの倍率変更テーブルは、上述して得られた表示用データの各画素(X、Y)で構成される各水平行、垂直列のいずれかを重複又は削除することで、画像を拡大、縮小を可能にするものである。なお、拡大及び縮小には水平方向又は垂直方向のいずれか一方向のみを行うことも可能であり、例えば、垂直方向のみを2倍に拡大する場合は、各画素の水平行を2回連続して並べるようにしている。
【0037】
このような倍率変更テーブルは、数式(1)(2)による変換と倍率の変更を同時に行うように数式(1)(2)で得られた各画素の情報を倍率に応じて配置している。なお、倍率変更テーブルも倍率の変更程度に応じては多数のものが存在し、種々の倍率変更テーブルが変換テーブル用メモリ21に記憶されている。
【0038】
さらに、変換テーブルの配置テーブルは、数式(1)(2)による演算で歪みを矯正された複数の画像を組み合わせて配置する変換を行うものである。配置テーブルに基づく変換の一例として、図5(a)に示す撮像データ19の湾曲画像18における上半分の範囲181を変換して得られた画像201を、表示用データ20の上半分に配置すると共に、撮像データ19の湾曲画像18における下左半分の範囲182を変換して得られた画像202を表示用データ20の下左半分に配置するものがある。
【0039】
このような配置テーブルを用いることで、図5(a)の表示用データ20は、約270度に亘る車両の外部の状況を一度に運転者の把握しやすい状況で表示でき、車両周囲の死角を解消できる。また、別の配置テーブルとして、図5(b)に示すように、右カメラ12Bの撮像データ19に基づく画像203及び左カメラ12Aの撮像データ19に基づく画像204を左右に配置するものがあり、このような配置を行うことで、運転者が一目で車外の左右の状況を把握できるようにしている。なお、配置テーブルは、上述した内容以外にも多数存在し、これら各配置テーブルも変換テーブル用メモリ21に記憶されている。
【0040】
また、図1に示す画像処理装置13は、変換テーブル用メモリ21以外にも、通信インタフェース22、マイクロコンピュータ23、画像処理ASIC24、フレームメモリ25、モニタインタフェース26、ROM27及びRAM28を設けている。
【0041】
通信インタフェース22はシステムの物理層処理、データリンク層処理及びトランザクション層処理を行うネットワークの接続インタフェースであり、左右カメラ12A、12Bから送出された撮像データの受付に係る処理を上述した各層に応じて行っている。
【0042】
マイクロコンピュータ23は、ROM27内に記憶されているプログラムに基づいて画像処理に係る全般の制御処理を行うものであり、特に、外部の操作部29及び車両状況検出部30からの各種信号に応じて、変換処理に用いる範囲変換テーブル、倍率変更テーブル及び配置テーブル等の各種変換テーブルを切り換える切換手段として機能している。
【0043】
即ち、操作部29は車両の搭乗者により操作されるものであり、変換テーブルの切換スイッチ29a及び切換ダイヤル29b等が設けられている。切換スイッチ29aは適用する変換テーブルの種類等を設定するものであり、切換スイッチ29aが操作された場合、設定された変換テーブルを適用する旨の指示信号が出力され、マイクロコンピュータ23は、この指示信号に対応する変換テーブルの読込用トリガを発行し、この読込用トリガに基づき画像処理ASIC24が変換テーブル用メモリ21より該当する変換テーブルを読み出すように制御している。
【0044】
また、切換ダイヤル29bは、適用する範囲変換テーブルを切換ダイヤル29bの回転方向に応じて切り換える旨の指示信号を出力するものである。例えば、切換ダイヤル29bを時計方向に回転させることで、図6(a)に示すように湾曲画像18の角度θ1が30度、角度θ2が150度の範囲に対応した範囲変換テーブルを、図6(b)に示す角度θ1が0度、角度θ2が120度の範囲変換テーブルへ、さらには、図6(c)に示す角度θ1が−30度、角度θ2が90度の範囲変換テーブルへ切り換える指示信号を出力するようにしている。
【0045】
このような切換ダイヤル29bの操作により、表示画像を回転でき、図10の従来の回転するカメラ装置9と同様な画像を範囲変換テーブルの切換で可能にしている。
【0046】
また、車両状況検出部30は、車両の各所に設けられた各種センサにより車両の状況を検出するものであり、例えば、車両の左折、右折等を舵取装置に設けられた舵角センサから検出可能にし、また、後進を変速装置に設けられたギア位置センサ等から検出できるようにしている。車両状況検出部30は、左折、右折及び後進等を検出した場合、検出した内容の検出信号を出力し、マイクロコンピュータ23は出力された検出信号に応じた変換テーブルの読込用トリガを発行し、画像処理ASIC24が発行された読込用トリガに対応する範囲変換テーブルを変換テーブル用メモリ21から読み出すようにしている。
【0047】
例えば、左折時であると車両状況検出部30が検出した場合、マイクロコンピュータ23は左カメラ12A用の範囲変換テーブルの読込用トリガを発行する制御を行う。なお、マイクロコンピュータ23は、操作部29からの指示信号を受け付けた場合、車両状況検出部30からの信号に比べて優先的に扱うようにしている。また、マイクロコンピュータ23は、処理中の各種データ等をRAM28に記憶するようにしている。
【0048】
画像処理ASIC24は、画像処理専用のカスタムICであり、変換手段として左右カメラ12A、12Bの撮像データ19を変換テーブル用メモリ21から読み出した変換テーブルに基づいて表示用データ20に変換するものである。変換テーブルに基づく変換は、例えば、図3に示す表示用データ20の画素を、範囲変換テーブルに係る各数式(1)(2)に代入して、代入した画素に対応する図4の撮像データの画素を求め、この求めた画素情報を対応する表示用データ20に配置することで行っている。
【0049】
なお、画像処理ASIC24は、マイクロコンピュータ23が発行する読込用トリガに応じて読み出した種々の変換テーブルに基づき変換を行うことにより、撮像データ19を歪みが矯正された様々な形態の表示用データ20に変換できる。このように変換された表示用データ20は、一旦、画像処理ASIC24からフレームメモリ25へ伝送される。
【0050】
フレームメモリ25は、撮像データ記憶領域及び表示用データ記憶領域を有しており、撮像データ記憶領域で左右カメラ12A、12Bから送出された撮像データ19を1画面単位で一時的に記憶し、表示用データ記憶領域で画像処理ASIC24により変換された表示用データを1画面単位で記憶している。なお、表示用データ記憶領域は、1画面分の表示用データを蓄積した後、蓄積した各表示用データをモニタインタフェース26へ順次送出している。また、表示用データ記憶領域では、表示用データ以外にも、初期画面用のデータ、背景用のデータ等も記憶している。
【0051】
モニタインタフェース26は、モニタ装置14への接続用インタフェースであり、表示用データをアナログ画像信号の形態でモニタ装置14へ出力する。なお、モニタインタフェース26は、アナログRGB信号又はモニタ装置14との間でデジタル伝送等に係るデジタル画像信号に対応したデータを出力可能にしてもよい。
【0052】
次に、車外画像表示システム10の変換テーブルに基づく撮像データの表示に至る全体的な変換処理方法の流れを図7のフローチャートに基づいて説明する。先ず、車外画像表示システム10を起動してモニタ装置14に初期画面を表示すると共に、画像処理装置13は左右カメラ12A、12Bから湾曲画像18の撮像データ19の受付があるか否かを判断している(S1)。
【0053】
撮像データ19の受付が無い場合は、左右カメラ12A、12Bからの撮像データ19を受け付けるまで、処理待ち状態(初期画面の表示状態)になる。また、撮像データ19の受付がある場合は、操作部29による操作で適用する変換テーブルの設定があるか否かを画像処理装置13で判断している(S2)。
【0054】
操作部29で変換テーブルの設定がある場合は、設定された変換テーブルを変換テーブル用メモリ21から読み出す(S3)。また、変換テーブルの設定が無い場合、車両状況検出部30の検出状況に応じた変換テーブルを読み出す(S4)。この後、画像処理装置13は、上述したように読み出した変換テーブルに基づいて、受け付けた撮像データ19の湾曲画像18を歪みの矯正された表示用データ20に変換する(S5)。
【0055】
このように変換された表示用データ20は、モニタ装置14で表示され(S6)、歪みのない自然な広角画像をモニタ装置14で映し出し、運転者が車両の死角となる箇所の状況を通常の距離感で確認できるようにしている。
【0056】
なお、本発明に係る車外画像表示システム10は、上述した形態以外にも種々の変形例が可能である。例えば、上述した実施形態では、図1に示すように、画像処理装置13はモニタ装置14と別体にされているが、画像処理装置13をモニタ装置14に組み込んで画像処理装置13とモニタ装置14とを一体化するようにしてもよい。また、車両に設けるカメラは車両の前部左右だけでなく、車両の後部、運転席と反対側等にも設置して、撮像データを画像処理装置13へ送出するようにしてもよい。
【0057】
さらに、これら各カメラには、360度の全方位カメラの他にも湾曲画像を撮像できる魚眼レンズ、広角レンズ等を適用することも可能である。さらに、また、車外画像表示システム10は、各カメラ及び画像処理装置13をネットワーク的に接続する以外に、ワイヤハーネス等で非ネットワーク的に接続してシステムを構築してもよい。
【0058】
また、図2の撮像データ19をインターレース方式で表示するようにしてもよい。この場合、図8に示すように奇数番目の走査線のフィールド191と、偶数番目の走査線のフィールド192を組み合わせて1画面の撮像データ190を形成するが、このようなインターレース方式による撮像データ190を、数式(1)(2)に係る範囲変換テーブルに基づき変換を行う場合、数式(2)の垂直画素yが各走査線の番号と対応することになる。
【0059】
なお、奇数番目の走査線のフィールド191における各走査線は0〜239の番号が付与され、偶数番目の走査線のフィールド192における各走査線は240〜479の番号が付与され、垂直画素yと各走査線の番号は、以下の表1に示す対応関係になる。
【0060】
【表1】
【0061】
上述した表1より、奇数番目の走査線(奇数走査線K)及び偶数番目の走査線(偶数走査線G)と、数式(2)の関係は以下の数式(3)(4)で表すことができる。
K=y/2・・・(3)
G=Kmax+(y+1)/2・・・(4)
(但し、Kmaxは奇数走査線Kの最大数)
【0062】
このような数式(3)(4)に基づく変換テーブルを作成して、画像処理装置13の変換テーブル用メモリ21に記憶させることで、画像処理装置13はインターレース方式の画像表示にも対応して湾曲画像を矯正した表示用データの表示も実現できる。
【0063】
なお、インターレース方式における信号規格にはNTSC(NationalTelevision System Committee standard)信号があり、このNTSC信号は各フィールド毎にブランク領域を形成する約20本のブランク用走査線を有する。よって、NTSC信号では1画面全体の走査線数は525本になるが、ブランク用走査線は表示データに関係しないためブランク用走査線を除外して走査線を考慮すれば、上述した表1の関係はNTSC信号の場合でも成立する。
【0064】
【発明の効果】
以上に詳述した如く、第1発明、第7発明及び第8発明にあっては、変換テーブルに基づいて、撮像データの湾曲画像を歪みが矯正された表示用データに変換し表示装置で表示するため、車両の運転者は距離間等を把握しやすい自然な画像で車両外方の状況を確認できる。
【0065】
第2発明にあっては、湾曲画像の一部の範囲を範囲変換テーブルに基づき変換することで、所要範囲のみを抽出して変換し、必要な範囲の画像のみを歪みを矯正した状態で表示できる。
第3発明にあっては、数式に基づき画素単位で変換を行うので、変換範囲等を詳細に設定できる。
第4発明にあっては、複数の範囲変換テーブルを切り換えて変換を行うことにより、表示される画像範囲を所要角度で回転させるような多彩な表示形態を実現できる。
【0066】
第5発明にあっては、歪みの矯正に加えて他の変換も同時に行う種々の変換テーブルに基づき変換を行うので、一段と様々な表示形態を効率的な変換により実現できる。
第6発明にあっては、撮像装置が撮像手段により全方位を撮像できるので、車両の死角となる範囲全体を撮像でき、運転者は車両の外方の状況を広範囲にわたり確認できる。
【図面の簡単な説明】
【図1】本発明の実施形態に係る車外画像表示システムの全体構成図である。
【図2】撮像データの湾曲画像から歪みが矯正された表示用データへの変換を示す概略図である。
【図3】表示用データの画素を示す概略図である。
【図4】撮像データの構成を示す概略図である。
【図5】(a)は配置テーブルにより一の撮像データの複数範囲を一画面内に配置した表示用データの概略図、(b)は左右カメラの各撮像データを一画面内に配置した表示用データの概略図である。
【図6】(a)(b)(c)は、範囲が30度相違する各範囲変換テーブルを時計方向に切り換えていく状況を示す概略図である。
【図7】変換処理に係る画像表示方法のフローチャートである。
【図8】インターレース方式により表示される撮像データの構成を示す概略図である。
【図9】(a)は、車両に設けられた従来の車外画像表示システムの概略図、(b)は左カメラにより撮像された画像データの図である。
【図10】従来の車外画像表示システムに適用されるカメラ装置の一例を示す概略図である。
【符号の説明】
10 車外画像表示システム
12A 左カメラ
12B 右カメラ
13 画像処理装置
14 モニタ装置
18 湾曲画像
19 撮像データ
20 表示用データ
21 変換テーブル用メモリ
23 マイクロコンピュータ
29 操作部
30 車両状況検出部
【発明の属する技術分野】
本発明は、車外を撮像した広角の撮像データを表示用データに変換するものに関し、特に、撮像データの湾曲している画像の歪みを矯正して自然な表示用データに変換する車外画像表示システム、画像処理装置及び車外画像表示方法に関する。
【0002】
【従来の技術】
従来、車両の運転席から死角となる車両の前部、後部等にカメラを設置すると共に、カメラの撮像画像を画像処理装置で表示用データに変換し、この表示用データを車内に設置したモニタ装置で表示すると云う車外画像表示システムが存在する。
【0003】
図9(a)は、従来の車外画像表示システム1の概略図であり、車両Sの前部左隅Saに設けた左カメラ2A及び前部右隅Sbに設けた右カメラ2Bが画像処理装置3に夫々接続されていると共に、この画像処理装置3にモニタ装置4が接続され、左右カメラ2A、2Bの撮像画像をモニタ装置4で表示する。また、左右カメラ2A、2Bには120度の広角レンズが装着されており、車両Sの前方の左右周囲を広角で撮像可能にしている。
【0004】
図9(b)の表示データ5は、モニタ装置4で表示される左カメラ2Aで撮像された画像の一例であり、運転席から死角となる範囲の広角画像がモニタ装置4で映し出され車両周囲の死角を容易に確認できるようにしている。なお、表示データ5の右下の隅に表示されているものは車両Sの前部左隅Saである。また、右カメラ2Bによる画像は、表示データ5の表示形態に対して左右反転されたものになる。
【0005】
【発明が解決しようとする課題】
従来の車外画像表示システム1は、上述した構成により車両Sの前方左右の約120度の範囲をモニタ装置4に映し出すが、図9(a)に示すように、各左右カメラ2A、2Bは車両Sの前部左隅Sa及び前部右隅Sbの外方の全周囲を撮像しているわけではなく、撮像範囲外の領域は依然として死角として残存する問題がある。
【0006】
このような死角の領域を削減するためには、一段と広角な150度のレンズ、180度の視野角を確保する魚眼レンズ等を左右カメラ2A、2Bに装着することが想定できる。しかし、このような角度のレンズを適用したとしても、車両Sの前部左右隅Sa、Sbの各周囲の領域は車両Sの左右の各隅部が約90度であることから約270度に及ぶため、依然として死角が残る。また、上記のような広角のレンズ又は魚眼レンズを装着すると、撮像画像の湾曲度が増して歪みが非常に大きくなり、撮像画像中の各物体の正確な位置関係及び距離感等を把握するのが困難になると云う新たな問題も発生する。
【0007】
また、上述した死角を解消する別の手段として、図10に示すように、カメラ8をモータ6で歯車7を介して回転させて所要範囲を撮像可能にしたカメラ装置9も存在している。しかし、カメラ8を回転させるためには、モータ6、歯車7等の機械的な各種部品が必要となり、複雑な構造によりコストが上昇し、また、カメラ8の回転に対する信頼性を車両の走行に伴う振動等に関わらず維持することは非常に困難である。
【0008】
本発明は、斯かる事情に鑑みてなされたものであり、車両の外部を広範囲で撮像可能にすると共に撮像された画像の歪みを矯正する変換を変換テーブルに基づき行うことで、車両周囲を車内より自然な画像で確認できる車外画像表示システム、画像処理装置及び車外画像表示方法を提供することを目的とする。
また、本発明は、種々の変換テーブルを用意することで、多様な形態の画像を表示できる車外画像表示システムを提供することを目的とする。
【0009】
【課題を解決するための手段】
第1発明に係る車外画像表示システムは、車両の外方に向けて設けてある撮像装置が撮像した湾曲画像の撮像データを、画像処理装置で表示用データに変換して車内に設けてある表示装置で表示する車外画像表示システムにおいて、前記画像処理装置は、前記湾曲画像の歪みを矯正する変換テーブルと、前記変換テーブルに基づいて、前記撮像データを表示用データに変換する変換手段とを備えることを特徴とする。
【0010】
第1発明にあっては、歪み矯正用の変換テーブルに基づいて、撮像データを表示用データに変換するため、表示装置で表示される歪みが矯正された画像は、標準レンズ等で撮像されたものと略同等な形態になり、車両の運転者は違和感無く画像を確認して車両周囲の死角の状況を的確に把握できる。なお、撮像装置を車両に設ける箇所は、運転席から死角となる車両の前部左右、後部、運転席と反対側の周囲等であり、これらの箇所に設置された撮像装置の画像を画像処理装置で変換することにより、車両周囲の状況を自然な形態で映し出せる。
【0011】
第2発明に係る車外画像表示システムは、前記変換テーブルが、前記湾曲画像の一部の範囲を矯正する範囲変換テーブルを備えることを特徴とする。
第2発明にあっては、湾曲画像の一部の範囲を範囲変換テーブルに基づいて、変換することで、撮像装置が撮像した湾曲画像の中で、所要範囲のみを抽出して表示することが可能となり、必要な範囲を重点的に確認することが可能になる。
【0012】
第3発明に係る車外画像表示システムは、前記範囲が扇状であり、前記範囲変換テーブルは、前記湾曲画像の各画素及び前記表示用データの各画素を下式に基づいて対応付けることで、前記歪みを矯正することを特徴とする。
x={r2−(r2−r1)×Y/B}×sin{(θ1−θ2)×X/A+θ2}+C・・・(1)
y={r2−(r2−r1)×Y/B}×cos{(θ1−θ2)×X/A+θ2}+D・・・(2)
(但し、xは撮像データの水平画素、yは撮像データの垂直画素、Xは表示用データの水平画素、Yは表示用データの垂直画素、Aは撮像データの水平画素数、Bは撮像データの垂直画素数、r1は湾曲画像の湾曲中心から内周までの半径、r2は湾曲画像の湾曲中心から外周までの半径、θ1は水平方向と前記範囲の一境界線との角度、θ2は水平方向と前記範囲の他境界線との角度、Cは原点から前記湾曲中心までの水平画素数、Dは原点から前記湾曲中心までの垂直画素数)
【0013】
第3発明にあっては、上述の数式(1)(2)に基づいて、各画素毎に変換を行うので、変換条件を詳細に設定できる。例えば、角度θ1、θ2を適宜設定することで、湾曲画像の所要位置の所要範囲を変換して表示することが可能になり、また、水平画素数A及び垂直画素数Bを適宜設定することにより、表示用データの大きさを表示装置の解像度に応じて調整できる。なお、数式(1)(2)の計算結果に小数点以下の端数が生じた場合、切り捨て、四捨五入又は切り上げのいずれかを適用して対応する画素を特定する。
【0014】
第4発明に係る車外画像表示システムは、前記変換テーブルが、前記湾曲画像の相違する複数の範囲に夫々対応した複数の前記範囲変換テーブルを備え、前記画像処理装置は更に、前記複数の範囲変換テーブルを切り換える切換手段を備えることを特徴とする。
【0015】
第4発明にあっては、複数の範囲変換テーブルを切換手段で切り換えることで、表示される画像も連動して切り替わり、運転者の望む画像を容易に表示できる。表示画像を切り換える形態は、適用される範囲変換テーブルの内容に応じて種々のものが可能であり、例えば、湾曲画像の中心を回転中心として回転方向に30度毎に相違させた一定範囲の範囲変換テーブルを複数準備し、これら各範囲変換テーブルを回転方向へ順次切り換えていくことで、表示画像が30度毎に回転方向にシフトし、あたかも撮像装置を徐々に回転させて撮像したような画像の表示を実現できる。
【0016】
なお、切換手段は、操作部の操作及び各種センサの検出等に連動して各範囲変換テーブルを切り換えるようにしてもよく、例えば、操作部に設けた切替ダイヤルの回転に応じて、表示範囲の回転に対応した各範囲変換テーブルを切換手段で切り換えるようにする。また、運転者がステアリングホイールを回転させた場合及びウインカーを点滅させる操作をした場合等は、これらの運転者の操作を車両に設けたセンサが検出して、切換手段が各範囲変換テーブルを切り換えるようにしてもよい。
【0017】
第5発明に係る車外画像表示システムは、前記変換テーブルが、歪みを矯正した画像の表示倍率を変更する倍率変更テーブル、及び/又は、歪みを矯正した複数の画像を一画面内に配置する配置テーブルを備えることを特徴とする。
第5発明にあっては、倍率変更テーブル及び配置テーブル等を備えることで、運転者が要求する表示形態に応じた多彩な表示を実現できる。
【0018】
例えば、表示される画像の一部を拡大したい場合等は、倍率変更テーブルに基づき撮像データを変換することで、湾曲画像の歪みの矯正と画像の拡大とを同時に行うことができ、2種類の変換を一つの変換テーブルに基づき効率的に行うことができる。また、車両の前部左右の画像を配置テーブルにより一画面内に表示することで、一度に車両前方の左右の状況も確認できる。
【0019】
第6発明に係る車外画像表示システムは、前記撮像装置が、全方位を撮像する撮像手段を備えることを特徴とする。
第6発明にあっては、撮像装置が全方位を撮像できるので、撮像できる方向の死角を完全に解消できる。また、全方位の撮像データは、範囲変換テーブルにより一部の範囲を表示すると共に、この表示範囲を各範囲変換テーブルの切換により順次回転させることで、死角となる箇所の状況を把握しながら全方位を確認することもできる。
【0020】
第7発明に係る画像処理装置は、外部から受け付けた湾曲画像のデータを表示用データに変換する画像処理装置において、前記湾曲画像の歪みを矯正する変換テーブルと、前記変換テーブルに基づいて、前記データを表示用データに変換する変換手段とを備えることを特徴とする。
第7発明にあっては、湾曲画像を変換テーブルにより矯正して表示用データを作成するため、運転者の見やすい画像を容易に表示できる。
【0021】
第8発明に係る車外画像表示方法は、車両の外方に向けて設けてある湾曲画像撮像用の撮像装置で車外を撮像し、撮像された撮像データを画像処理装置で表示用データに変換し、該表示用データを車内に設けてある表示装置で表示する車外画像表示方法において、前記画像処理装置は、前記撮像データの湾曲画像の歪みを矯正する変換テーブルを備え、前記変換テーブルに基づいて、前記撮像データを表示用データに変換していることを特徴とする。
【0022】
第8発明にあっては、湾曲画像の撮像データを変換テーブルにより歪みを矯正して表示用データに変換するため、広範囲の画像でも湾曲せずに距離感等を把握しやすい自然な形態で表示できる。
【0023】
【発明の実施の形態】
以下、本発明をその実施の形態を示す図面に基づいて説明する。
図1は、本発明の実施形態に係る車外画像表示システム10の全体構成図である。本実施形態の車外画像表示システム10は車両に装着された左右カメラ12A、12B、画像処理装置13及びモニタ装置14をケーブル15でネットワーク的に接続することでシステムを構築している。
【0024】
車外画像表示システム10は、同期通信用ネットワークのIEEE1394の規格に合致したネットワーク構成になっており、車両に構築された車載LANの一部である情報系LAN11を形成している。なお、情報系LAN11は、ゲートウェイ装置16を介してボディ系LAN及び制御系LAN等の他の系統のLANと接続されて車載LANを形成している。
【0025】
左右カメラ12A、12Bは撮像装置に相当し、図9(a)示す従来の車外画像表示システム1と同様に、車両の前部の左右隅部で外方へ向けて設置されている。左右カメラ12A、12BはIEEE1394に対応した仕様になっており、周囲の全方位を撮像する撮像手段として、図2に示す360度の湾曲画像18の撮像データ19を撮像できる全方位レンズ17A、17Bを装着している。
【0026】
なお、湾曲画像18の中央の小円は、全方位レンズ17A、17Bの中央不撮像範囲18aであり、湾曲画像18の周囲外方の箇所は外周不撮像範囲18bである。さらに、湾曲画像18におけるハッチング部分19aは、左右カメラ12A、12Bが装着された車両部分が約90度の範囲で撮像されたものである。このように撮像された撮像データ19は、左右カメラ12A、12Bからケーブル15を通じて画像処理装置13へ送出される。
【0027】
図1に示す画像処理装置13は、送出された撮像データ19をモニタ装置14で表示する表示用データに変換するものであり、変換用の変換テーブルを変換テーブル用メモリ21で記憶している。変換テーブル用メモリ21は、EEPROM(Electrically Erasable PROM)であり、記憶されている変換テーブルは、後述するマイクロコンピュータ23の発行する読出用トリガに基づき画像処理ASIC24により読み出される。
【0028】
変換テーブルは、撮像データ19の湾曲画像18の歪みを矯正するものであり、この変換テーブルに基づき撮像データ19が変換され、例えば、図2に示す撮像データ19の湾曲画像18における点t1〜t4で囲まれた略扇状の範囲は、標準レンズで撮像したように歪みが矯正された表示用データ20に変換される。なお、表示用データ20の各4角T1〜T4は、湾曲画像18の点t1〜t4に夫々対応している。
【0029】
変換テーブル用メモリ21は、一種類だけでなく種々の変換内容に応じた多種類の変換テーブルを記憶している。変換テーブルの種類には、湾曲画像18の所定の一部の範囲を変換する範囲変換テーブル、歪みの矯正に加えて表示する倍率を変更する倍率変更テーブル、歪みを矯正した複数の画像を一画面内に配置する配置テーブル等がある。
【0030】
範囲変換テーブルは、下記の数式(1)(2)に基づいて、湾曲画像18の各画素と表示用データ20の各画素とを対応付けることにより、歪みの矯正を行うものである。
x={r2−(r2−r1)×Y/B}×sin{(θ1−θ2)×X/A+θ2}+C・・・(1)
y={r2−(r2−r1)×Y/B}×cos{(θ1−θ2)×X/A+θ2}+D・・・(2)
【0031】
上記数式(1)(2)において、Xは図3に示す表示用データ20の水平方向(X軸方向)の水平画素であり、Yは表示用データ20の垂直方向(Y軸方向)の垂直画素である。なお、図3の表示用データ20は左上を原点(0、0)として水平方向に640画素、垂直方向に480画素を有している。
【0032】
また、上記数式(1)(2)で、xは図4に示す左上を原点(0、0)とする撮像データ19の水平方向(x軸方向)の水平画素であり、yは撮像データ19の垂直方向(y軸方向)の垂直画素である。さらに、Aは撮像データ19の水平方向の水平画素数、Bは撮像データ19の垂直方向の垂直画素数であり、図4の撮像データ19では水平画素数Aが640、垂直画素数Bが480である。
【0033】
さらに、また、Cは原点(0、0)から全方位レンズ17A、17Bの中心である湾曲画像18の湾曲中心18cまでの水平方向の水平画素数であり、Dは原点(0、0)から湾曲画像18の湾曲中心18cまでの垂直方向の垂直画素数である。また、r1は湾曲中心18cから湾曲画像18の内周18dまでの内周半径であり、r2は湾曲中心18cから湾曲画像18の外周18eまでの外周半径である。なお、内周半径r1、外周半径r2の各数値は、適用する全方位レンズ17A、17Bの仕様に応じて決定される。
【0034】
さらに、θ1は水平方向となる水平線L1と湾曲画像18における所要範囲の一境界線18fとの角度であり、θ2は水平線L1と湾曲画像18の所要範囲の他境界線18gとの角度である。なお、角度θ1、θ2は適宜設定することが可能であり、本実施形態の変換テーブル用メモリ21は角度θ1、θ2を種々の数値にした多数の範囲変換テーブルを記憶しており、変換の際に必要な範囲変換テーブルを読み出せるようにしている。
【0035】
なお、上述した数式(1)(2)に基づく演算結果に小数点以下の端数が生じた場合、本実施形態では小数点以下の数値を四捨五入して、撮像データ19の各画素(x、y)を特定している。
【0036】
また、変換テーブルの倍率変更テーブルは、上述して得られた表示用データの各画素(X、Y)で構成される各水平行、垂直列のいずれかを重複又は削除することで、画像を拡大、縮小を可能にするものである。なお、拡大及び縮小には水平方向又は垂直方向のいずれか一方向のみを行うことも可能であり、例えば、垂直方向のみを2倍に拡大する場合は、各画素の水平行を2回連続して並べるようにしている。
【0037】
このような倍率変更テーブルは、数式(1)(2)による変換と倍率の変更を同時に行うように数式(1)(2)で得られた各画素の情報を倍率に応じて配置している。なお、倍率変更テーブルも倍率の変更程度に応じては多数のものが存在し、種々の倍率変更テーブルが変換テーブル用メモリ21に記憶されている。
【0038】
さらに、変換テーブルの配置テーブルは、数式(1)(2)による演算で歪みを矯正された複数の画像を組み合わせて配置する変換を行うものである。配置テーブルに基づく変換の一例として、図5(a)に示す撮像データ19の湾曲画像18における上半分の範囲181を変換して得られた画像201を、表示用データ20の上半分に配置すると共に、撮像データ19の湾曲画像18における下左半分の範囲182を変換して得られた画像202を表示用データ20の下左半分に配置するものがある。
【0039】
このような配置テーブルを用いることで、図5(a)の表示用データ20は、約270度に亘る車両の外部の状況を一度に運転者の把握しやすい状況で表示でき、車両周囲の死角を解消できる。また、別の配置テーブルとして、図5(b)に示すように、右カメラ12Bの撮像データ19に基づく画像203及び左カメラ12Aの撮像データ19に基づく画像204を左右に配置するものがあり、このような配置を行うことで、運転者が一目で車外の左右の状況を把握できるようにしている。なお、配置テーブルは、上述した内容以外にも多数存在し、これら各配置テーブルも変換テーブル用メモリ21に記憶されている。
【0040】
また、図1に示す画像処理装置13は、変換テーブル用メモリ21以外にも、通信インタフェース22、マイクロコンピュータ23、画像処理ASIC24、フレームメモリ25、モニタインタフェース26、ROM27及びRAM28を設けている。
【0041】
通信インタフェース22はシステムの物理層処理、データリンク層処理及びトランザクション層処理を行うネットワークの接続インタフェースであり、左右カメラ12A、12Bから送出された撮像データの受付に係る処理を上述した各層に応じて行っている。
【0042】
マイクロコンピュータ23は、ROM27内に記憶されているプログラムに基づいて画像処理に係る全般の制御処理を行うものであり、特に、外部の操作部29及び車両状況検出部30からの各種信号に応じて、変換処理に用いる範囲変換テーブル、倍率変更テーブル及び配置テーブル等の各種変換テーブルを切り換える切換手段として機能している。
【0043】
即ち、操作部29は車両の搭乗者により操作されるものであり、変換テーブルの切換スイッチ29a及び切換ダイヤル29b等が設けられている。切換スイッチ29aは適用する変換テーブルの種類等を設定するものであり、切換スイッチ29aが操作された場合、設定された変換テーブルを適用する旨の指示信号が出力され、マイクロコンピュータ23は、この指示信号に対応する変換テーブルの読込用トリガを発行し、この読込用トリガに基づき画像処理ASIC24が変換テーブル用メモリ21より該当する変換テーブルを読み出すように制御している。
【0044】
また、切換ダイヤル29bは、適用する範囲変換テーブルを切換ダイヤル29bの回転方向に応じて切り換える旨の指示信号を出力するものである。例えば、切換ダイヤル29bを時計方向に回転させることで、図6(a)に示すように湾曲画像18の角度θ1が30度、角度θ2が150度の範囲に対応した範囲変換テーブルを、図6(b)に示す角度θ1が0度、角度θ2が120度の範囲変換テーブルへ、さらには、図6(c)に示す角度θ1が−30度、角度θ2が90度の範囲変換テーブルへ切り換える指示信号を出力するようにしている。
【0045】
このような切換ダイヤル29bの操作により、表示画像を回転でき、図10の従来の回転するカメラ装置9と同様な画像を範囲変換テーブルの切換で可能にしている。
【0046】
また、車両状況検出部30は、車両の各所に設けられた各種センサにより車両の状況を検出するものであり、例えば、車両の左折、右折等を舵取装置に設けられた舵角センサから検出可能にし、また、後進を変速装置に設けられたギア位置センサ等から検出できるようにしている。車両状況検出部30は、左折、右折及び後進等を検出した場合、検出した内容の検出信号を出力し、マイクロコンピュータ23は出力された検出信号に応じた変換テーブルの読込用トリガを発行し、画像処理ASIC24が発行された読込用トリガに対応する範囲変換テーブルを変換テーブル用メモリ21から読み出すようにしている。
【0047】
例えば、左折時であると車両状況検出部30が検出した場合、マイクロコンピュータ23は左カメラ12A用の範囲変換テーブルの読込用トリガを発行する制御を行う。なお、マイクロコンピュータ23は、操作部29からの指示信号を受け付けた場合、車両状況検出部30からの信号に比べて優先的に扱うようにしている。また、マイクロコンピュータ23は、処理中の各種データ等をRAM28に記憶するようにしている。
【0048】
画像処理ASIC24は、画像処理専用のカスタムICであり、変換手段として左右カメラ12A、12Bの撮像データ19を変換テーブル用メモリ21から読み出した変換テーブルに基づいて表示用データ20に変換するものである。変換テーブルに基づく変換は、例えば、図3に示す表示用データ20の画素を、範囲変換テーブルに係る各数式(1)(2)に代入して、代入した画素に対応する図4の撮像データの画素を求め、この求めた画素情報を対応する表示用データ20に配置することで行っている。
【0049】
なお、画像処理ASIC24は、マイクロコンピュータ23が発行する読込用トリガに応じて読み出した種々の変換テーブルに基づき変換を行うことにより、撮像データ19を歪みが矯正された様々な形態の表示用データ20に変換できる。このように変換された表示用データ20は、一旦、画像処理ASIC24からフレームメモリ25へ伝送される。
【0050】
フレームメモリ25は、撮像データ記憶領域及び表示用データ記憶領域を有しており、撮像データ記憶領域で左右カメラ12A、12Bから送出された撮像データ19を1画面単位で一時的に記憶し、表示用データ記憶領域で画像処理ASIC24により変換された表示用データを1画面単位で記憶している。なお、表示用データ記憶領域は、1画面分の表示用データを蓄積した後、蓄積した各表示用データをモニタインタフェース26へ順次送出している。また、表示用データ記憶領域では、表示用データ以外にも、初期画面用のデータ、背景用のデータ等も記憶している。
【0051】
モニタインタフェース26は、モニタ装置14への接続用インタフェースであり、表示用データをアナログ画像信号の形態でモニタ装置14へ出力する。なお、モニタインタフェース26は、アナログRGB信号又はモニタ装置14との間でデジタル伝送等に係るデジタル画像信号に対応したデータを出力可能にしてもよい。
【0052】
次に、車外画像表示システム10の変換テーブルに基づく撮像データの表示に至る全体的な変換処理方法の流れを図7のフローチャートに基づいて説明する。先ず、車外画像表示システム10を起動してモニタ装置14に初期画面を表示すると共に、画像処理装置13は左右カメラ12A、12Bから湾曲画像18の撮像データ19の受付があるか否かを判断している(S1)。
【0053】
撮像データ19の受付が無い場合は、左右カメラ12A、12Bからの撮像データ19を受け付けるまで、処理待ち状態(初期画面の表示状態)になる。また、撮像データ19の受付がある場合は、操作部29による操作で適用する変換テーブルの設定があるか否かを画像処理装置13で判断している(S2)。
【0054】
操作部29で変換テーブルの設定がある場合は、設定された変換テーブルを変換テーブル用メモリ21から読み出す(S3)。また、変換テーブルの設定が無い場合、車両状況検出部30の検出状況に応じた変換テーブルを読み出す(S4)。この後、画像処理装置13は、上述したように読み出した変換テーブルに基づいて、受け付けた撮像データ19の湾曲画像18を歪みの矯正された表示用データ20に変換する(S5)。
【0055】
このように変換された表示用データ20は、モニタ装置14で表示され(S6)、歪みのない自然な広角画像をモニタ装置14で映し出し、運転者が車両の死角となる箇所の状況を通常の距離感で確認できるようにしている。
【0056】
なお、本発明に係る車外画像表示システム10は、上述した形態以外にも種々の変形例が可能である。例えば、上述した実施形態では、図1に示すように、画像処理装置13はモニタ装置14と別体にされているが、画像処理装置13をモニタ装置14に組み込んで画像処理装置13とモニタ装置14とを一体化するようにしてもよい。また、車両に設けるカメラは車両の前部左右だけでなく、車両の後部、運転席と反対側等にも設置して、撮像データを画像処理装置13へ送出するようにしてもよい。
【0057】
さらに、これら各カメラには、360度の全方位カメラの他にも湾曲画像を撮像できる魚眼レンズ、広角レンズ等を適用することも可能である。さらに、また、車外画像表示システム10は、各カメラ及び画像処理装置13をネットワーク的に接続する以外に、ワイヤハーネス等で非ネットワーク的に接続してシステムを構築してもよい。
【0058】
また、図2の撮像データ19をインターレース方式で表示するようにしてもよい。この場合、図8に示すように奇数番目の走査線のフィールド191と、偶数番目の走査線のフィールド192を組み合わせて1画面の撮像データ190を形成するが、このようなインターレース方式による撮像データ190を、数式(1)(2)に係る範囲変換テーブルに基づき変換を行う場合、数式(2)の垂直画素yが各走査線の番号と対応することになる。
【0059】
なお、奇数番目の走査線のフィールド191における各走査線は0〜239の番号が付与され、偶数番目の走査線のフィールド192における各走査線は240〜479の番号が付与され、垂直画素yと各走査線の番号は、以下の表1に示す対応関係になる。
【0060】
【表1】
【0061】
上述した表1より、奇数番目の走査線(奇数走査線K)及び偶数番目の走査線(偶数走査線G)と、数式(2)の関係は以下の数式(3)(4)で表すことができる。
K=y/2・・・(3)
G=Kmax+(y+1)/2・・・(4)
(但し、Kmaxは奇数走査線Kの最大数)
【0062】
このような数式(3)(4)に基づく変換テーブルを作成して、画像処理装置13の変換テーブル用メモリ21に記憶させることで、画像処理装置13はインターレース方式の画像表示にも対応して湾曲画像を矯正した表示用データの表示も実現できる。
【0063】
なお、インターレース方式における信号規格にはNTSC(NationalTelevision System Committee standard)信号があり、このNTSC信号は各フィールド毎にブランク領域を形成する約20本のブランク用走査線を有する。よって、NTSC信号では1画面全体の走査線数は525本になるが、ブランク用走査線は表示データに関係しないためブランク用走査線を除外して走査線を考慮すれば、上述した表1の関係はNTSC信号の場合でも成立する。
【0064】
【発明の効果】
以上に詳述した如く、第1発明、第7発明及び第8発明にあっては、変換テーブルに基づいて、撮像データの湾曲画像を歪みが矯正された表示用データに変換し表示装置で表示するため、車両の運転者は距離間等を把握しやすい自然な画像で車両外方の状況を確認できる。
【0065】
第2発明にあっては、湾曲画像の一部の範囲を範囲変換テーブルに基づき変換することで、所要範囲のみを抽出して変換し、必要な範囲の画像のみを歪みを矯正した状態で表示できる。
第3発明にあっては、数式に基づき画素単位で変換を行うので、変換範囲等を詳細に設定できる。
第4発明にあっては、複数の範囲変換テーブルを切り換えて変換を行うことにより、表示される画像範囲を所要角度で回転させるような多彩な表示形態を実現できる。
【0066】
第5発明にあっては、歪みの矯正に加えて他の変換も同時に行う種々の変換テーブルに基づき変換を行うので、一段と様々な表示形態を効率的な変換により実現できる。
第6発明にあっては、撮像装置が撮像手段により全方位を撮像できるので、車両の死角となる範囲全体を撮像でき、運転者は車両の外方の状況を広範囲にわたり確認できる。
【図面の簡単な説明】
【図1】本発明の実施形態に係る車外画像表示システムの全体構成図である。
【図2】撮像データの湾曲画像から歪みが矯正された表示用データへの変換を示す概略図である。
【図3】表示用データの画素を示す概略図である。
【図4】撮像データの構成を示す概略図である。
【図5】(a)は配置テーブルにより一の撮像データの複数範囲を一画面内に配置した表示用データの概略図、(b)は左右カメラの各撮像データを一画面内に配置した表示用データの概略図である。
【図6】(a)(b)(c)は、範囲が30度相違する各範囲変換テーブルを時計方向に切り換えていく状況を示す概略図である。
【図7】変換処理に係る画像表示方法のフローチャートである。
【図8】インターレース方式により表示される撮像データの構成を示す概略図である。
【図9】(a)は、車両に設けられた従来の車外画像表示システムの概略図、(b)は左カメラにより撮像された画像データの図である。
【図10】従来の車外画像表示システムに適用されるカメラ装置の一例を示す概略図である。
【符号の説明】
10 車外画像表示システム
12A 左カメラ
12B 右カメラ
13 画像処理装置
14 モニタ装置
18 湾曲画像
19 撮像データ
20 表示用データ
21 変換テーブル用メモリ
23 マイクロコンピュータ
29 操作部
30 車両状況検出部
Claims (8)
- 車両の外方に向けて設けてある撮像装置が撮像した湾曲画像の撮像データを、画像処理装置で表示用データに変換して車内に設けてある表示装置で表示する車外画像表示システムにおいて、
前記画像処理装置は、
前記湾曲画像の歪みを矯正する変換テーブルと、
前記変換テーブルに基づいて、前記撮像データを表示用データに変換する変換手段と
を備えることを特徴とする車外画像表示システム。 - 前記変換テーブルは、
前記湾曲画像の一部の範囲を矯正する範囲変換テーブルを備える請求項1に記載の車外画像表示システム。 - 前記範囲は扇状であり、
前記範囲変換テーブルは、
前記湾曲画像の各画素及び前記表示用データの各画素を下式に基づいて対応付けることで、前記歪みを矯正する請求項2に記載の車外画像表示システム。
x={r2−(r2−r1)×Y/B}×sin{(θ1−θ2)×X/A+θ2}+C
y={r2−(r2−r1)×Y/B}×cos{(θ1−θ2)×X/A+θ2}+D
(但し、xは撮像データの水平画素、yは撮像データの垂直画素、Xは表示用データの水平画素、Yは表示用データの垂直画素、Aは撮像データの水平画素数、Bは撮像データの垂直画素数、r1は湾曲画像の湾曲中心から内周までの半径、r2は湾曲画像の湾曲中心から外周までの半径、θ1は水平方向と前記範囲の一境界線との角度、θ2は水平方向と前記範囲の他境界線との角度、Cは原点から前記湾曲中心までの水平画素数、Dは原点から前記湾曲中心までの垂直画素数) - 前記変換テーブルは、
前記湾曲画像の相違する複数の範囲に夫々対応した複数の前記範囲変換テーブルを備え、
前記画像処理装置は更に、
前記複数の範囲変換テーブルを切り換える切換手段を備える請求項2又は請求項3に記載の車外画像表示システム。 - 前記変換テーブルは、
歪みを矯正した画像の表示倍率を変更する倍率変更テーブル、及び/又は、歪みを矯正した複数の画像を一画面内に配置する配置テーブルを備える請求項1乃至請求項4のいずれかに記載の車外画像表示システム。 - 前記撮像装置は、全方位を撮像する撮像手段を備える請求項1乃至請求項5のいずれかに記載の車外画像表示システム。
- 外部から受け付けた湾曲画像のデータを表示用データに変換する画像処理装置において、
前記湾曲画像の歪みを矯正する変換テーブルと、
前記変換テーブルに基づいて、前記データを表示用データに変換する変換手段と
を備えることを特徴とする画像処理装置。 - 車両の外方に向けて設けてある湾曲画像撮像用の撮像装置で車外を撮像し、撮像された撮像データを画像処理装置で表示用データに変換し、該表示用データを車内に設けてある表示装置で表示する車外画像表示方法において、
前記画像処理装置は、
前記撮像データの湾曲画像の歪みを矯正する変換テーブルを備え、
前記変換テーブルに基づいて、前記撮像データを表示用データに変換していることを特徴とする車外画像表示方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002193834A JP2004040411A (ja) | 2002-07-02 | 2002-07-02 | 車外画像表示システム、画像処理装置及び車外画像表示方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002193834A JP2004040411A (ja) | 2002-07-02 | 2002-07-02 | 車外画像表示システム、画像処理装置及び車外画像表示方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004040411A true JP2004040411A (ja) | 2004-02-05 |
Family
ID=31702705
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002193834A Pending JP2004040411A (ja) | 2002-07-02 | 2002-07-02 | 車外画像表示システム、画像処理装置及び車外画像表示方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004040411A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009081666A (ja) * | 2007-09-26 | 2009-04-16 | Nissan Motor Co Ltd | 車両用周辺監視装置および映像表示方法 |
EP2061234A1 (en) | 2007-11-19 | 2009-05-20 | Alps Electric Co., Ltd. | Imaging apparatus |
CN102956028A (zh) * | 2012-04-19 | 2013-03-06 | 董福田 | 图形数据跨平台加速传输与显示的方法与装置 |
CN113443565A (zh) * | 2020-03-26 | 2021-09-28 | 住友重机械建机起重机株式会社 | 施工机械的周围显示装置 |
-
2002
- 2002-07-02 JP JP2002193834A patent/JP2004040411A/ja active Pending
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009081666A (ja) * | 2007-09-26 | 2009-04-16 | Nissan Motor Co Ltd | 車両用周辺監視装置および映像表示方法 |
EP2061234A1 (en) | 2007-11-19 | 2009-05-20 | Alps Electric Co., Ltd. | Imaging apparatus |
US8134608B2 (en) | 2007-11-19 | 2012-03-13 | Alps Electric Co., Ltd. | Imaging apparatus |
CN102956028A (zh) * | 2012-04-19 | 2013-03-06 | 董福田 | 图形数据跨平台加速传输与显示的方法与装置 |
CN113443565A (zh) * | 2020-03-26 | 2021-09-28 | 住友重机械建机起重机株式会社 | 施工机械的周围显示装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6587113B2 (ja) | 画像処理装置及び画像処理方法 | |
JP5672862B2 (ja) | 撮像装置、撮像システム及び撮像方法 | |
JP4710653B2 (ja) | 車載画像処理装置及び車両用画像処理方法 | |
JP4656005B2 (ja) | 画像処理システム及び画像処理方法 | |
KR101418664B1 (ko) | 화상생성장치 및 조작지원 시스템 | |
WO2012060269A1 (ja) | 画像処理方法、画像処理装置及び撮像装置 | |
JPWO2006087993A1 (ja) | 周辺監視装置および周辺監視方法 | |
JP4844979B2 (ja) | 画像処理方法と該画像処理方法を用いた撮像装置 | |
JP2009120135A (ja) | 撮像装置 | |
JP5316811B2 (ja) | 画像処理方法及び装置、並びに画像撮像装置 | |
JP2005086279A (ja) | 撮像装置、及び撮像装置を備えた車両 | |
JP4791222B2 (ja) | 表示制御装置 | |
JP2004040411A (ja) | 車外画像表示システム、画像処理装置及び車外画像表示方法 | |
JP4908350B2 (ja) | 画像処理方法と該画像処理方法を用いた撮像装置 | |
JP2007266703A5 (ja) | ||
JP3594225B2 (ja) | 広視野カメラ装置 | |
JP2012085268A (ja) | 撮像装置、撮像システム及び撮像方法 | |
JP2007189361A (ja) | イメージセンサおよびこれを用いたカメラ | |
US20230096414A1 (en) | Camera unit installing method, moving device, image processing system, image processing method, and storage medium | |
JP2009123131A (ja) | 撮像装置 | |
WO2011158344A1 (ja) | 画像処理方法、プログラム、画像処理装置及び撮像装置 | |
US20240357247A1 (en) | Image processing system, moving object, imaging system, image processing method, and storage medium | |
WO2023145690A1 (ja) | 画像処理システム、移動体、撮像システム、画像処理方法、及び記憶媒体 | |
JP2004015233A (ja) | 画像処理システム及び画像処理装置 | |
JP2004215228A (ja) | 撮影装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050412 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070312 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070320 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20070710 |