JP4048292B2 - Traffic information display system, captured image transmission device, in-vehicle information display device and storage medium - Google Patents

Traffic information display system, captured image transmission device, in-vehicle information display device and storage medium Download PDF

Info

Publication number
JP4048292B2
JP4048292B2 JP2002174365A JP2002174365A JP4048292B2 JP 4048292 B2 JP4048292 B2 JP 4048292B2 JP 2002174365 A JP2002174365 A JP 2002174365A JP 2002174365 A JP2002174365 A JP 2002174365A JP 4048292 B2 JP4048292 B2 JP 4048292B2
Authority
JP
Japan
Prior art keywords
captured image
information display
image
screen
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002174365A
Other languages
Japanese (ja)
Other versions
JP2004021514A (en
Inventor
浩史 石井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2002174365A priority Critical patent/JP4048292B2/en
Publication of JP2004021514A publication Critical patent/JP2004021514A/en
Application granted granted Critical
Publication of JP4048292B2 publication Critical patent/JP4048292B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Traffic Control Systems (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、車両を運転して目的地に行くとき目的地や通過候補地等の道路状況を映した映像を事前に車載モニタで確認できる交通情報表示システムに係り、特に、映像と自車両の進行予定方向との関係が容易にモニタ画面で把握できる交通情報表示システムとその交通情報表示処理プログラムを格納した記憶媒体に関する。
【0002】
【従来の技術】
遠隔地に設置したカメラによる撮像画像を電送し、車載モニタに表示させる交通情報表示システムが、例えば特開平9―180087号公報に提案されている。この従来の交通情報表示システムでは、行き先や通過候補地点の道路状況を予め把握するために、利用者が通過候補地点等を指定したとき、車両から基地局に対して指定通過候補地点における撮像画像を要求する信号を無線により発信する。
【0003】
基地局は、予めカメラが設置された交差点等の各所の監視所から発信される撮像画像を常時受信しており、車両から指定通過候補地点の撮像画像が要求されたとき、指定通過候補地点の撮像画像を取り出してその車両に対して送信する。この撮像画像を受信した車両は車載モニタにこの撮像画像を表示することにより、利用者は、事前に、通過候補予定地点の道路状況を映像で確認することが可能となる。
【0004】
図45は、上述した従来技術に係る交通情報表示システムの構成図である。この交通情報表示システムは、交差点等の各所の監視所に設置された撮像装置107と、各監視所から送られてくる撮像画像を受信する基地局108と、基地局108に対して通過候補予定地点等の撮像画像を要求し基地局108から送られてくる前記撮像画像を受信する車両搭載の情報表示装置100とで構成される。
【0005】
情報表示装置100は、カーナビゲーションシステムで使用する地図情報を格納した地図情報データベース104と、自車両の位置を取得するGPS(グローバルポジショニングシステム)106と、運転者等からの指示を入力する指示入力手段102と、表示手段(モニタ画面)101と、基地局108との間で信号の授受を行う無線発信受信手段105と、これらを統括制御し画像合成を行って表示手段101に表示する画像合成制御手段103とを備えて構成される。
【0006】
図46は、従来の交通情報表示システムの概念説明図である。交差点等に設置された各所の信号機には夫々監視カメラ(撮像装置)107が取り付けられており、基地局108は、各撮像装置107でリアルタイムに撮像され伝送されて来る撮像画像を受信している。車両1に搭載されている情報表示装置100は、基地局108に対して通過候補地点の映像を要求すると、その通過候補地点の撮像画像(要請画像)が基地局108から伝送され、情報表示装置100はこの撮像画像をモニタ画面に表示する。
【0007】
図47は、撮像画像を基地局に要求するときの説明図である。運転者2は、表示手段101の画面101aにカーナビゲーションシステムで用いる地図情報を表示させる。この地図には、GPS106で計算された現在位置(出発点)から目的地(行き先地点)Aまでが表示され、通過候補ルート10、11の2ルートと、ルート10上の通過候補地点B、Cと、ルート11上の通過候補地点Dとが表示されている。運転者2は、例えばこの地図を見て、例えば通過候補地点Cを指示入力手段102(図45参照)で指定する。
【0008】
図48は、基地局108から送信されてきた撮像画像を車載モニタに表示するときの説明図である。車載の情報表示装置100が撮像画像を受信すると、この撮像画像は表示手段101に表示され、運転者2はこの撮像画像101bを見ることで、通過候補地点Cの混雑状況を把握する。これにより、運転者2は、ルート10、11の適切な選択が可能となる。
【0009】
【発明が解決しようとする課題】
しかしながら、従来の交通情報表示システムでは、車載モニタに表示された通過候補地点における撮像画像だけでは、自車両との関係が判りづらいという問題がある。図49、図50でこの問題を説明する。
【0010】
図49は、通過候補地点Cにおける撮像装置設置状況を例示する図である。通過候補地点Cは十字路であり、4台の撮像装置107a、107b、107c、107dが設置されていたとし、自車両の進行予定方向Fに対して、対向車線の先頭車両3から後続する車両が渋滞を起こしていたとする。
【0011】
図50(a)(b)(c)(d)は、各撮像装置107a、107b、107c、107dの撮像画像であり、撮像装置107a、107b、107c、107dの撮影方向が異なることにより、渋滞の先頭車両3の画像3aの見える位置が異なってくる。
【0012】
運転者が知りたい情報は、図49における自車両の進行予定方向Fが撮像画像上のどの方向であり、その方向と渋滞車両3との位置関係である。しかしながら、図50(a)(b)(c)(d)の撮像画像が基地局108から順次送信されてきても、いずれの撮像画像にも運転者の知りたい情報は含まれておらず、自車両の通過方向と同じ方向に渋滞が発生しているのか、対向車線でのみ渋滞が発生しているのか、それとも自車両の通過方向と交差するルートで渋滞が発生しているのかという判断ができない。
【0013】
上述した従来技術には、撮像画像に進路方向を示す矢印を表示することが記載されている。自車両の通過方向を示す矢印が図50に例示した撮像画像に合成表示されれば上記問題は解決するが、合成表示する矢印の方向をどのような具体的手段で決めることができるのかという課題を解決しないと、実際に上記問題を解決することはできない。
【0014】
本発明の目的は、基地局等から送られてくる撮像画像に自車両の通過方向を示す情報を合成表示することができる交通情報表示システムと、撮像画像送信装置及び車載用の情報表示装置、並びに、その交通情報表示処理プログラムを格納した記憶媒体を提供することにある。
【0015】
【課題を解決するための手段】
上記目的を達成する交通情報表示システムは、各地点に設置された撮像装置による撮像画像のうち選択された地点の撮像画像が要求されたとき前記撮像画像と共に前記撮像装置のカメラパラメータを送信する撮像画像送信装置と、前記撮像画像送信装置から送信されてきた前記撮像画像を受信し前記選択された地点の地図情報と受信した前記カメラパラメータとから受信した前記撮像画像中における自車両の進路方向を求め前記撮像画像に前記進路方向を示す情報を合成して画面に表示する車載用の情報表示装置とを備えたことを特徴とする。
【0016】
この構成により、情報表示装置は、地図情報から分かる自車両の進路方向が、カメラパラメータによって撮像画像中でどの方向になるかを計算して求めることができ、その進路方向を矢印画像などの情報で合成表示することが可能となる。
【0017】
好適には、前記情報表示装置は、前記画面に表示した地図情報を視点の移動に従って変化させながら前記画面に表示すると共に前記画面に前記撮像画像を合成して表示することを特徴とする。この構成により、地図情報上の経路に沿って順に地図情報が変化し最後に撮像画像が表示されるため、撮像画像から道路の混雑状況を容易に把握容易となる。
【0018】
更に好適には、前記情報表示装置は、前記移動させる視点の位置を、前記画面に表示されている地図情報全体を見渡せる位置から、前記画面に表示する前記撮像画像を撮影した前記撮像装置を真後ろから回り込んで前記撮像装置と同じ位置まで変化させることを特徴とする。この構成により、視点の移動が最終的に撮像装置位置となるため、画面に表示された撮像画像が選択地点のどの方向から撮像され自身の進路方向がどちらなのかを更に容易に把握可能となる。
【0019】
更に好適には、前記情報表示装置は、前記画面に表示する前記撮像画像を、仮想カメラから見た画像に変換して前記画面に表示することを特徴とする。この構成により、見づらい歪んだ撮像画像を見やすい画像として表示される。
【0020】
更に好適には、前記情報表示装置は、前記視点の位置を最終的に前記撮像装置の位置まで変化させ前記撮像装置の前記撮像画像を前記画面に表示して前記進路方向を示す情報を合成表示することを特徴とする。この構成より、実際の撮像画像が最終的にどの方向で画面に表示されるかを順を追って理解することができ、直感的に撮像画像を把握可能となる。
【0021】
更に好適には、前記情報表示装置は、前記地図情報として3次元情報を持つことを特徴とする。この構成により、地図情報が見やすくなり、地図情報と撮像画像とが切り替えられたときの違和感がなくなる。
【0022】
更に好適には、前記情報表示装置は、前記画面に地図情報を表示するとき前記撮像画像を撮影した前記撮像装置の撮影範囲を合成して表示することを特徴とする。この構成により、撮像画像が画面に表示される前に撮像範囲がどの範囲であるかを知ることができ、撮像画像が画面に表示されたときにその把握が容易となる。
【0023】
更に好適には、前記撮像画像送信装置は送信する前記撮像画像の撮影時刻を示す時刻情報を一緒に送信し、前記情報表示装置は、前記画面に表示する前記撮像画像が現在時刻より一定時間以内のデータであるときは前記撮像画像をカラー表示し前記撮像画像が一定時間以上前のデータであるとき前記撮像画像の彩度を落として表示することを特徴とする。この構成により、撮像装置による撮影のフレームレートを低くすることができ、省電力化、低コスト化を図ることが可能となる。また、過去の撮像画像が表示された場合でも直感的に数分前の撮像画像であることが認識可能となる。
【0024】
更に好適には、前記撮像画像送信装置は、前記選択された地点の前記撮像画像及び前記カメラパラメータの他に前記選択された地点の周辺の地点における前記撮像画像及び前記カメラパラメータも送信し、前記情報表示装置は、前記選択された地点の前記撮像画像を前記画面に表示する前に前記周辺の地点の前記撮像画像も前記画面に表示することを特徴とする。この構成により、周りの混雑状況が把握でき、経路選択の参考にすることが可能となる。
【0025】
更に好適には、前記撮像画像送信装置は、複数の地点に設置された各撮像装置の前記撮像画像を一緒に送信するとき解像度を落として前記撮像画像を送信することを特徴とする。この構成により、画像データ伝送速度を遅らせることなく複数の撮像画像を送信できる。
【0026】
更に好適には、前記撮像画像送信装置は基地局に設けられ、前記基地局は各地点の前記撮像装置による撮像画像を集め要求された撮像画像を要求先に送信することを特徴とする。この構成により、撮像画像の一元管理可能となる。
【0027】
更に好適には、前記情報表示装置は、前記撮像画像を静止画像で前記画面に表示するとき白黒画像で表示することを特徴とする。画像データの伝送速度が遅かったり、撮像装置の撮影フレームレートが低い場合には、撮像画像を静止画で表示することになるが、この場合に、白黒画像表示とすることで、撮像画像中の車両が止まっているのか、画像が止まった静止画像であるかの識別が容易となり、利用者に誤認を与えるのを回避可能となる。
【0028】
更に好適には、前記撮像画像送信装置はインターネットに接続された各撮像装置に設けられ、前記情報表示装置は前記インターネットを介して前記撮像画像を該当する前記撮像装置に要求することを特徴とする。この構成により、故障が発生した場合でも全体のシステムダウンを回避可能となる。
【0029】
上記目的を達成する撮像画像送信装置は、上述したいずれかの交通情報表示システムを構成する撮像画像送信装置とすることを特徴とする。この撮像画像送信装置からは、カメラパラメータが撮像画像と一緒に送信されるため、車載用の情報表示装置側では、地図情報と合わせて撮像画像中の自車両の進路方向を容易に計算可能となる。
【0030】
上記目的を達成する車載用の情報表示装置は、上述したいずれかの交通情報表示システムを構成する情報表示装置とすることを特徴とする。この情報表示装置は、地図情報とカメラパラメータとから撮像画像中の自車両の進路方向を計算するため、撮像画像を画面に表示するとき進路方向を示す情報を合成表示可能となる。
【0031】
好適には、上記において、前記画面に表示されている地図情報上の地点のうち前記撮像画像を要求する地点を選択する手段を備えたことを特徴とする。この構成により、撮像画像を要求する地図情報上の地点選択が容易となる。
【0032】
更に好適には、前記画面に表示されている地図情報上に、取得した事故、渋滞情報を合成して表示することを特徴とする。この構成により、利用者は道路状況の把握が更に容易となる。
【0033】
更に好適には、前記選択する手段は、前記地図情報上の経路の選択と、選択された経路上の地点の選択を、3種類の入力で行う構成となっていることを特徴とする。この構成により、利用者の操作がより簡単となる。
【0034】
更に好適には、前記選択する手段は、前回選択された情報を保持し次回の選択を前回の選択状態から開始する構成となっていることを特徴とする。この構成により、利用者の選択操作の回数が更に少なくなる。
【0035】
上記のインターネットを用いた交通情報表示システムで、前記撮像画像送信装置は各々アクセス許可を与える手段を備え、前記アクセス許可を求めるアクセスキーを用いて前記撮像画像を要求してきた前記情報表示装置に対して課金することを特徴とする。この構成により、システムのセキュリティが向上し、また、課金が利用頻度に応じて行われる。
【0036】
上記目的を達成する記憶媒体は、表示画面を備える車載用電子装置に処理プログラムを読み込ませることで前記車載用電子装置を上述したいずれかに記載の情報表示装置として動作させる前記処理プログラムを格納したことを特徴とする。この構成により、例えばカーナビゲーションシステムのハードウェア構成を利用可能となる。
【0037】
【発明の実施の形態】
以下、本発明の実施の形態を図面を参照して説明する。
【0038】
(第1の実施の形態)
図1は、本発明の第1の実施の形態に係る交通情報表示システムの構成図である。この交通情報表示システムは、交差点等の各所の監視所に設置された撮像装置107と、各撮像装置107で撮像され送信されてくる撮像画像を撮像装置設置場所毎に区別して受信する基地局108と、基地局108に接続され各撮像装置107の後述するカメラパラメータを保持するカメラパラメータデータベース301と、基地局108との間で無線通信を行い車両の運転者等から要求された通過候補地点等の撮像画像を基地局108から受け取り表示する車両搭載の情報表示装置100とで構成される。尚、カメラパラメータデータベース301は、基地局108に内蔵される構成でもよい。
【0039】
情報表示装置100は、カーナビゲーションシステムで使用する地図情報を格納した地図情報データベース104と、自車両の位置を取得するGPS(グローバルポジショニングシステム)106と、運転者等からの指示を入力する指示入力手段102と、表示手段(モニタ画面)101と、基地局108との間で信号の授受を行う無線発信受信手段105と、これらを統括制御し画像合成を行って表示手段101に表示する画像合成制御手段103とを備えて構成される。
【0040】
この情報表示装置100は、カーナビゲーションシステムと兼用され、カーナビゲーションシステムに本実施の形態に係る交通情報表示処理を行うプログラムをCD―ROMやDVD等の外部記憶媒体から内蔵メモリ等の内部記憶媒体に読み込ませることで、カーナビゲーションシステムを交通情報表示システムの車載側装置(情報表示装置)として動作させるものである。
【0041】
本実施の形態に係る図1に示す情報表示装置100は、図45で説明した従来の情報表示装置100と構成上は同じである。しかし、後述するように、本実施の形態に係る情報表示装置100の画像合成制御手段103は、基地局108から撮像画像と共に送られてくるカメラパラメータの情報を処理して撮像画像に自車両の通過方向を示す矢印等の情報を合成する機能が上記プログラムによって付与されている点が異なる。
【0042】
図2は、図47で説明したカーナビゲーションシステムによりモニタ画面に表示された地図情報である。情報表示装置100の画像合成制御手段103は、この地図情報の出発点と行き先Aとの関係から、いずれのルート10、11でも、自車両の通過方向Fを知ることができる。
【0043】
図3は、図2に示す通過候補地点Bにおけるカメラ(撮像装置)設置状態を示す図である。通過候補地点Bには、一台の撮像装置107が設置されている。この撮像装置107の撮影範囲(画角)307や撮影方向308等のカメラパラメータが、基地局108に設けられたデータベース301に格納されており、基地局108は、車両搭載の情報表示装置100から通過候補地点Bの撮像画像が要求されたとき、この撮像画像と共に、この撮像画像を撮影した撮像装置107のカメラパラメータを一緒に、情報表示装置100に送信する。
【0044】
図4は、図2の地図情報から求めた通過方向を示す矢印Fの説明図である。画像合成制御手段103は、図2の通過方向を示す矢印Fの向きが、合成対象とする撮像画像中でどの方向を向くかを、撮像装置107のカメラパラメータから算出し、また、撮像画像中の通過道路の位置305を算出する。
【0045】
そして、図5に示す様に、矢印Fを位置305に表示し、これに図3の撮像装置107による撮像画像を合成表示する。これにより、この合成画像を運転者が見ることで、自車両の通過方向が撮像画像中のどの方向か一目瞭然となり、図3に示す渋滞車両3の車輌画像3aとの位置関係や混雑の程度を容易に把握可能となる。
【0046】
図6(a)は、図1のデータベース301に格納されている各撮像装置107のカメラパラメータの説明図である。カメラパラメータは、撮像装置107の世界座標位置を示す3次元位置(x,y,z)306の3自由度データと、角度や撮影方向308を示す2自由度データと、撮影方向周りの回転角度310を示す1自由度データの合計6自由度の外部パラメータと、撮像装置107の画角307とレンズ歪み、更にカメラ画角311内のレンズ中心軸312といった内部パラメータとからなる。
【0047】
このカメラパラメータを用いることにより、画像合成制御手段103は、撮像画像の各画素の世界座標位置を計算で求めることが可能となり、車両の進むルートや道路の通過方向Fが、そのカメラパラメータを持った撮像装置107の撮像画面上でどこに写るか、どの方向を向くかを求めることが可能となる。尚ここで、レンズ歪みのデータとは、図6(b)に示す様に、レンズ302への入射光313と、レンズ302からCCDへの入射光314との角度関係を示すデータである。
【0048】
(第2の実施の形態)
図7は、本発明の第2の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、第1の実施の形態に係る交通情報表示システム(図1参照)と比較して、情報表示装置100が視点制御手段401を備え、画像合成制御手段103が視点変換した画像を使って画像合成する点が異なるだけであり、その他の構成と動作は第1の実施の形態と同じである。以下、視点変換した画像の合成表示について説明する。
【0049】
図8は、本実施の形態で運転者2が表示手段101に地図情報を表示させた状態を示す図である。この状態で、運転者2は任意地点、例えば通過候補地点Cを指定する。この指定を行うときの地図情報は、図8の画面101aに示す様に、地図を真上から見た図となっている。
【0050】
通過候補地点Cが指定されると、この指定選択信号が指示入力手段102から画像合成制御手段103を介して視点制御手段401に通知される。この通知を受けた視点制御手段401は、表示手段101に表示する地図情報を視点変換した地図情報に変換し、例えば図9に示す様に、地図を斜め上方からみた鳥瞰図に変換し、表示手段101に表示させる。真上から見た地図を鳥瞰図に変換する方法は、従来から広く知られている。
【0051】
つぎに、視点制御手段401は、選択された地点(今の例では通過候補地点C)のデータを受け取り、視点をその地点Cに近づけることにより、図10に示す様に、表示手段101の表示画面101aに、選択地点Cが次第に拡大表示されるように画面に表示する。図10の画像を表示できる時点では、情報表示装置100は、選択された地点Cに設置されている撮像装置107のカメラパラメータ(撮像装置107の設置位置や撮像範囲等)のデータが基地局108から撮像画像と共に送られてきているため、このカメラパラメータのデータを基にして、図10の表示画面101a中に、撮像装置のコンピュータグラフィック(CG)映像402と、地図上における撮像範囲403を合成表示する。また、ルート10上の通過経路を他の経路より太線等で表示して強調し、通過方向を示す矢印画像Fも表示する。
【0052】
図11は、更に地点Cに視点が近づいたときの表示手段101の表示画面101aを示す図である。この図11では、図10に比較して、地点Cの地図が更に拡大表示されたものとなっている。視点制御手段401は、地点Cまでの距離が所定距離に近づいた段階で、更に視点を地点Cに近づけながら、視点を、撮像装置107(画面101a上ではCG402)の撮影方向の後ろ側に回り込ませる。この動作により、地図を合成し表示する方向を、撮影装置の撮影方向に近づけていくことができ、この動作の経過順に画面101aの状態変化を示したのが、図12、図13、図14である。
【0053】
最終的には、視点制御手段401は、視点を撮像装置402の位置と一致させ、また地図を合成する方向も撮像装置402の撮影方向に一致させる。図15は、そのときの表示画面101aを示したものである。このとき視点は、撮像装置の位置と一致しているので、それまで表示していた撮像装置107のCG402は表示されなくなる。
【0054】
この図15の画面を表示した後、図16に示す様に、図15中の自車両の通過方向を示す矢印Fの画像を基地局108から送られてきた撮像画像に合成して表示画面に表示する。この図15と図16の表示画面101aの切り替えにおいて、図15の表示画面101aが、撮像装置の位置、方向に合わせて地図情報を合成したものであるのに対し、切り替わった後の図16の表示画面101a’では、道路の位置や、水平線などは図15の表示画面101aとほぼ同じ位置関係を保ったままとなるため、運転者は自車両の通過方向を示す矢印画像Fを基に撮像画像を判断でき、道路状況の正確な把握が可能となる。
【0055】
図17は、本実施の形態に係る視点制御手段401の表示制御手順と運転者(利用者)や基地局108からの入力信号との関係を示した説明図である。最初は地点の選択待ち状態となり、地図を真上から見た図(図8の表示画面101a)が表示される(ステップS41)。利用者から地点選択の入力があると、次に鳥瞰図(図9)が表示され(ステップS42)、次に、視点を選択地点に順次接近させていく(ステップS43)。このときの表示画面の遷移を示した図が図10、図11であり、この時点で、情報表示装置100は、基地局108から地点Cに設置されている撮像装置107のカメラパラメータを受信する。
【0056】
更に、視点を選択地点に近づけ撮像装置後方に回り込む処理を行うことで(ステップS44)、表示画面は図12、図13、図14と遷移し、視点の位置と見る方向が撮像装置の位置と撮影方向に一致したとき(ステップS45)、図15が表示される。そして、基地局108から地点Cの撮像画像を受信すると、この撮像画像に通過方向を示す矢印Fを合成して、図16の様に表示する(ステップS46)。
【0057】
ここで、利用者が別の地点例えば目的地Aの選択をすると、ステップS46、S45、S44、S43、S42、S41と逆に進行し、これに伴って表示手段101の表示画面101aも、図16から図15、図14、図13、図12、図11、図10、図9、図8と逆に遷移し、元の地点選択待ち状態に戻る。このように、初期状態に戻るときに視点の動きを逆に制御することにより、いまままで見ていた撮像画像の視点や撮影方向と経路全体との関係を、更に、分かりやすく利用者に認識させることができる。
【0058】
次に、図18(a)(b)(c)を用いて、地図上における撮像範囲403を説明する。図18(a)には、撮影装置402と、その撮影方向404、及び、撮影装置402から撮影方向404に所定距離だけ離れ撮影方向404に垂直な矩形の撮影範囲(画角)405が示されている。更に、撮影範囲405の四隅の夫々と撮影装置402とを接続する4本の線406を示している。この4本の線406で切り取られる四角錐の内側が、撮影装置402の撮影範囲となる。
【0059】
この4本の線406を路面に達するまで延長し、撮影範囲405を路面に投影すると、この投影範囲は、図18(b)に斜線を施した領域407となる。この領域407が、撮影装置402の撮影範囲となる。しかし、撮影範囲407が水平線より上になると、撮影範囲407は矢印E方向に無限に遠方まで延びることになってしまう。撮影範囲407から所定距離離れた範囲は、撮像画像から交通状態について有用な情報を得ることは難しい。
【0060】
そこで、図18(c)に示す様に、撮影方向について撮像装置402から所定距離tだけ離れた上限線408で上記の領域407を区切り生成される台形領域403を、地図上での撮像範囲403とする。これを、図10から図15に示した撮影範囲403として画面に表示する。尚、撮影範囲403の代わりに、上述した四角錐そのものを表示してもよい。
【0061】
以上述べた本実施の形態によれば、撮像画像と自車両の通過方向を示す情報との位置関係が遷移画面によって順次直感的に把握されるため、容易に自車両との関係を認識することができる。
【0062】
(第3の実施の形態)
図19は、本発明の第3の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、第2の実施の形態に係る交通情報表示システム(図7参照)と比較して、情報表示装置100の画像合成制御手段103が、テクスチャマッピング手段509という画像合成処理プログラムで動作する機能手段が付加されている点が異なるだけであり、その他の構成と動作は第2の実施の形態と同じである。以下、テクスチャマッピング法による画像合成表示について説明する。
【0063】
図20は、この第3の実施の形態に係る画像合成制御手段103特有の画像合成方法であるテクスチャマッピング法の説明図である。基地局108から送信されてくる撮像画像は実際のカメラ501による撮像画像であり、実際のカメラ501を設置する場合、その設置位置や設置方向は制約を受け、理想的な位置や方向に取り付けることができるのは稀である。
【0064】
図20に示す実際のカメラ501としては、広角カメラが用いられるのが普通であり、広角カメラで路面506上の被写体503を斜め上方から撮像した場合、その撮像画像は、図21に示す様に、歪んだ路面画像506aに被写体画像503aが表示された画像になる。本実施の形態に係る画像合成制御手段103は、この撮像画像を、図20に示す理想的な位置(例えば、路面506の真上位置)に配置した仮想カメラ504で撮像した画像に変換し、図22に示す様に、表示手段の画面101aに表示するものである。図22で、斜線を施した部分は、実際のカメラ501に写っていない部分である。
【0065】
この例では路面506をモデルとし、撮像画像をテクスチャとし、テクスチャをモデルにマッピングする画像合成方法が採用される。この画像合成方法は、テクスチャマッピング法と呼ばれる。尚、仮想カメラは路面の真上に配置したものとしたが、仮想カメラ504の配置位置は任意であり、実際の撮像画像を任意方向から見た画像に合成することは可能である。また、路面だけでなく、図23に示す様に、実際のカメラ501から一定距離までの路面506と壁507とで構成される3次元的なモデルに対してテクスチャマッピングすることも可能である。
【0066】
図24は、撮像装置107から一定距離までの路面506及び壁507で構成される3次元的なモデルに、テクスチャマッピングする夫々の範囲510、511を示した図である。この第3の実施の形態では、この両範囲510、511を併せた範囲512を、第2の実施の形態における撮像範囲403の代わりに表示する。そして、基地局108から撮像画像信号が送られたとき、直ちにこの撮像画像信号を範囲512上にテクスチャマッピングして表示する。
【0067】
図25、図26、図27、図28は、第2の実施の形態の図13、図14、図15、図16に対応する、本実施の形態に係る表示画面の遷移を示す図であり、図中の範囲512に、撮像画像がテクスチャマッピングされる。本実施の形態では、視点(仮想カメラの配置位置)と撮影方向が、表示画面の遷移に従って、実際の撮像装置107に近づいてくるので、図25、図26、図27と進むに従って、範囲512に表示される合成画像は、実際の撮像画像に近づいてくる様に表示されることとなる。
【0068】
図27に示す表示画面の状態では、視点と撮影方向が撮像装置と同一になるので、テクスチャマッピングで合成される画像も、撮像画像そのものとほぼ同一になる。そして最終的に、図27から図28の表示画面に切り替わり、撮像装置107の撮像画像に通過方向を示す矢印Fの画像が合成されて表示される。図28に示す表示画面に表示される画像の内容は、図27に示す表示画面の画像内容とほとんど同一なため、利用者はこれらをほぼ連続なものとして認識できる。
【0069】
この様に、本実施の形態では、基地局から送信されてくる撮像画像を仮想カメラから見た画像に合成変換して地図データにテクスチャマッピングし、仮想カメラ位置を徐々に実際のカメラ位置に近づけていくため、第2の実施の形態よりも更に通過候補地点等の道路状況を的確に判断可能となる。
【0070】
尚、上述した例では、最終的に、テクスチャマッピングされた合成画像から撮像装置の撮像画像に表示を切り替えたが、必ずしも切り替えなくても良い。なぜならば、図27に示す表示画面の内容と、図28に示す表示画面の内容はほぼ同一であるためである。
【0071】
(第4の実施の形態)
図29は、本発明の第4の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、第3の実施の形態に係る交通情報表示システム(図19参照)と比較して、情報表示装置100の画像合成制御手段103が、テクスチャマッピング手段509という画像合成方法を使用する際、地図情報データベース104の有する3次元情報(3D情報)601を利用する点が異なり、他の構成及び動作は同じである。以下、3D情報601の利用について説明する。
【0072】
図30は、撮像装置で撮影した撮像画像を示す図である。この撮像画像中には、路面を写した画像603と、立体物(図示する例では車両)を写した画像602が存在する。この撮像画像を、上述した第3の実施の形態で説明したテクスチャマッピング法で真上の仮想カメラから映した画像に合成すると、図31に示す画像となる。この図31では、路面の画像605は路面を真上から見た画像となるが、立体物の画像604は、大きくゆがんで合成されてしまう。これは、テクスチャマッピングに用いる路面モデルと、立体物とに大きな位置のずれが生じるためである。
【0073】
実際には、道路監視用の撮像装置は、車両よりも高い位置に設置されているので、車両については、図31に図示した程の歪みは生じない。しかし、ビルなどの建物については、大きな歪みが生じてしまう場合がある。
【0074】
そこで、この第4の実施の形態では、以下の様にして、地図情報が有する3次元情報601を利用する。図32は、その利用方法を示す図である。ここで、路面510と壁511によって構成される撮像範囲512は、第3の実施の形態と同じである。本実施の形態では、地図情報データベース104が有する3次元情報601から、撮像範囲512内にある立体物(建物など)606が検索され、これによって、撮像範囲が、範囲512から範囲607に修正される。新しい撮像範囲607は、テクスチャマッピングをする基になるモデルでもある。
【0075】
この様に、ビルなどの建物についても、地図情報データベース104が有する3次元情報601を利用することによって、モデルとの大きな位置ずれが生じず、合成画像においても同様に大きな歪みが生じることを防ぐことができる。その他の構成及び動作は、第3の実施の形態と同じである。
【0076】
なお、第3、第4の実施の形態では、地図全体から選択地点まで視点を徐々に変化させ、その視点変化に基づいて画面に表示する画像を変化させ、最終的に、視点と撮影方向を、撮像装置の位置と撮影方向に一致させる様にするが、必ずしも一致させなくてもよい。たとえば、最終的に、実際の撮像装置の高さより一定量さらに高い位置から見下ろすような画像を合成してもよい。また選択された地点を真上から見下ろすような画像を合成しても良い。
【0077】
尚、第3、第4の実施の形態では、地点Cに撮像装置を1台設置した場合を説明したが、2台以上設置する様にしても良い。テクスチャマッピング手段による画像合成方法を利用することで、2台以上の撮像装置の各々の撮像画像を1枚の撮像画像に合成するのは容易である。この場合でも、表示する撮像画像の視点を、地図全体から選択地点まで順に変化させることができる。
【0078】
(第5の実施の形態)
図33は、本発明の第5の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、第1の実施の形態に係る交通情報表示システム(図1参照)と比較して、情報表示装置100が、無線発信受信手段105の受信した信号を蓄積する信号蓄積手段701を備え、画像合成制御手段103がこの信号蓄積手段701の蓄積データを利用して画像合成を行う点が異なり、他の構成及び動作は第1の実施の形態と同じである。基地局108と自車両との間の信号伝送速度に制限がある場合に、本実施の形態は特に有効である。
【0079】
基地局108から撮像装置の撮像画像を無線によって車両に伝送するが、信号伝送速度が十分な場合には、リアルタイムな画像(例えば1秒に30フレームの画像)を動画像で伝送することができる。しかし、信号伝送速度が十分でない場合には、動画像のリアルタイムな伝送は無理となる。
【0080】
そこで、本実施の形態では、リアルタイムな動画像を車両に送信するのではなく、コマ落ちさせた動画像を車両に送信する。これにより、遅い信号伝送速度でも車両に必要な撮像画像の伝送が可能となる。車両の情報表示装置100に設けられた信号蓄積手段701は、受信した動画像信号の内、最初の1フレームが受信完了した時点で、この1フレームの画像を静止画として画像合成制御手段103に出力する。画像制御手段103は、入力されてくる画像が静止画像の場合にはこれを白黒画像にし、進路方向を示す矢印画像F等を合成したのち、表示手段101に出力する。
【0081】
この静止画像が表示手段101に表示されている間に、信号蓄積手段701には、無線発信受信手段105で受信されたコマ落ちされた複数フレームでなる動画像が蓄積される。そして、この動画像の受信完了時点で、信号蓄積手段701は、この動画像をループ再生しながら、画像合成制御手段103に出力する。画像制御手段103は、入力画像が動画像の場合、これをカラー画像のまま、進路方向を示す矢印画像F等とを合成したのち、表示手段101に出力する。
【0082】
このような構成により、まず利用者は、地点選択の後、静止画ではあるが、最短の遅延時間で選択地点の様子を見ることが可能となる。この静止画を白黒表示とすることで、渋滞のため画像内の車両が止まっているのか、静止画のため画像内の車両が止まって見えるのかを混同することなく認識することが可能となる。また、動画像のループ再生表示により、通信料金を押さえながら、選択地点での交通の流れの様子を知ることができる。尚、本実施の形態は、上述した他の実施の形態と併用することが可能である。
【0083】
(第6の実施の形態)
図34は、本発明の第6の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、第1の実施の形態の交通情報表示システム(図1)と比較して、基地局108に信号蓄積手段801を設けた点が異なるだけであり、他の構成及び動作は第1の実施の形態と同じである。
【0084】
各地点に設置された撮像装置107と基地局108との間の信号伝送に、伝送量に応じたコストがかかる場合や、撮像装置107の消費電力等を節約する場合等に、本実施の形態は有効である。
【0085】
本実施の形態に係る撮像装置107は、各地点毎に設定された時間毎(例えば交通量が少ない地点では30分毎、少し交通量がある地点では10分毎)に所定時間だけ(例えば30秒だけ)撮像した動画像を基地局108に伝送し、基地局108は、撮像装置107から受信した動画像を、撮影時刻データと共に信号蓄積手段801に格納しておく。
【0086】
そして、基地局108は、車両側から撮像画像の要請信号を受信すると、選択地点の撮像画像を信号蓄積手段801から読み出し、その撮影時刻データと共に車両側に伝送する。車両に搭載されている情報表示手段100の画像制御手段103は、入力されてきた撮影時刻データが現時点より一定時間以上古い場合、これを白黒画像にして、進路方向を示す矢印画像等を合成したのち、撮影時刻と共に表示手段101に出力する。
【0087】
また、入力されてきた撮影時刻データが現時点より一定時間(情報表示装置100に設定されている閾値時間)以上古くない場合は、受信した撮像画像をカラー画像のまま、進路方向を示す矢印画像等を合成したのち、撮影時刻と共に表示手段101に出力する。
【0088】
この様に、本実施の形態によれば、基地局108と撮像装置107との間の通信料金を節約し、消費電力も節減することが可能となる。また、古い画像を白黒表示とすることで、利用者は表示画像が古い画像であることを、すぐに認識できる。撮像画像が古かったとき一律に白黒画像にするのではなく、画像の古さに応じて彩度を落とした画像を表示する構成でもよい。尚、本実施の形態は、上述した他の実施の形態と併用することも可能である。
【0089】
(第7の実施の形態)
次に、本発明の第7の実施の形態に係る交通情報表示システムを説明する。本実施の形態に係る交通情報表示システムの装置構成は、第3の実施の形態(図19参照)と同じであり、選択地点の撮像画像を表示する基本動作も同じであるが、本実施の形態では、例えば選択地点Cの撮像画像を表示するとき、視点が地点Cに至る前の途中の地点Bの撮像画像も表示する点が異なる。
【0090】
即ち、本実施の形態では、前述した図9と同じ図35の鳥瞰図が表示された後、次に図36に示す様に、選択地点Cをズームアップ(拡大表示)するとき、選択地点Cの周辺、この例では選択地点Cより前の地点Bに設置されている撮像装置の撮像画像及びそのカメラパラメータも、選択地点Cに設置されている撮像装置の撮像画像及びそのカメラパラメータと同時に車両側に送信される。
【0091】
車両搭載の情報表示装置100は、これらの信号を受信すると、選択地点Cと選択地点Cの周辺に存在する地点Bのそれぞれについて、合成画像を生成し、表示手段101に表示する。即ち、地点B設置の撮像装置のCG画像402(B)を表示すると共に撮像範囲512(B)に地点Bの撮像画像をテクスチャマッピングで合成して表示し、選択地点C設置の撮像装置のCG画像402(C)を表示すると共に撮像範囲512(C)に選択地点Cの撮像画像をテクスチャマッピングで合成して表示する。
【0092】
次に、図37に示す様に、視点が選択地点Cに近づいて選択地点Cが拡大表示されると、基地局108からは、選択地点Cのみの撮像画像が送信され、車両側では、選択地点Cの撮像範囲512(C)に撮像画像をテクスチャマッピングで合成表示する。それ以降の動作と画面表示は、第3の実施の形態と同じである。
【0093】
図38は、選択地点Cと周辺地点Bの夫々の撮像画像を基地局108が要求車両に対して送信するときの説明図である。複数の地点の撮像画像を車両に送信するときは、図38の上段に示した様に、解像度を低くした画像データで送信し、目的地点だけの撮像画像だけを車両に送信するときは、図38の下段に示した様に、解像度の高い画像データを送信する。これにより、複数箇所の撮像画像を送信するときのデータ送信速度を抑えることが可能となる。
【0094】
本実施の形態によれば、利用者は地点選択の後、選択地点の画像が拡大表示されるまでに、その周辺地点の画像も表示されるので、選択地点だけでなくその周辺の様子も知ることができる。このため、候補経路の交通状態を更に詳しく知ることができ、経路の選択を適切に判断可能となる。
【0095】
また複数の地点からの撮像画像を基地局108が車両側に送信する際、低解像度の画像を送り、選択地点だけの撮像画像を送信する際には、高解像度の画像を送る構成にすることで、通信に必要なデータ送信速度を一定以下に抑えることができる。複数地点からの撮像画像を表示手段101に表示する時点では、各地点の撮像画像は小さく表示されるので、低解像度の画像でも表示画像上では画質の劣化を低く抑えることができる。尚、この実施の形態は、上述した第3、第4、第5、第6の実施の形態と併用することが可能である。
【0096】
(第8の実施の形態)
図39は、本発明の第8の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、第1の実施の形態に係る交通情報表示システム(図1)と比較して、基地局108が事故、渋滞情報1003を取得し、この事故、渋滞情報を車両側に送信し情報表示装置100の表示手段101に表示させる点が異なり、他の構成及び動作は第1の実施の形態と同じである。
【0097】
図40は、最初に利用者(運転者)2が道路情報を確認したい地点を選択するときの様子を示した図であり、表示画面101aには、行き先や通過候補地点(A,B,C,D)が地図情報とともに表示される。このとき、基地局108には、事故、渋滞情報1003が集められており、この事故、渋滞情報1003が車両に送信される。この事故、渋滞情報1003を受信した情報表示装置100では、図40に示すように、候補経路10、11上に、事故を示す画像(図示する例では四角画像)1001や渋滞を示す画像(図示する例では丸画像)1002が地図情報上に合成表示される。
【0098】
運転者2は、この表示画面101を見ながら、経路10、11の中で、渋滞している部分や、事故の影響がありそうな部分の地点を重点的に選択して各地点での状況を基地局108に要求し、交通状況を的確に把握可能となる。尚、この実施の形態は、上述した各実施の形態と併用することができる。
【0099】
(第9の実施の形態)
図41は、本発明の第9の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、第1実施の形態に係る交通情報表示システム(図1)と比較して、情報表示装置100の指示入力手段102が、地点選択手段1100を備える点が異なり、他の構成及び動作は第1の実施の形態と同じである。
【0100】
図42は、本実施の形態に係る表示手段101の正面図である。表示手段101の表示画面101aには、行き先や通過候補地点(A、B、C、D、E)が地図情報とともに表示され、この表示画面101aの横に、地点選択手段1100すなわち、ボタン1101、1102、1103、1104が設けられる。ボタン1101は「進む」、ボタン1102は「戻る」、ボタン1103は「決定」、ボタン1104は「取消」を意味する。
【0101】
図43は、これらのボタン1101、1102、1103、1104を使用して特定地点を選択する様子を示した説明図である。今、図43の選択状態(イ)に示す様に、経路として地点B―C―Aの経路が選択されており、図42の表示画面101上でこの経路が点滅表示されていたとする。また、他の経路として、地点D―C―Aと地点D―E―Aの2つの選択肢があったとする。運転者は、他の経路を選択したい場合には、ボタン1101を押す毎に矢印a方向に選択箇所を進め、ボタン1102を押す毎に矢印b方向に選択箇所を戻すことができる。この選択に応じて、図42の表示画面101a上での該当経路が点滅表示される。
【0102】
経路を選択した後は、ボタン1103を押して「決定」する。これにより、図43の矢印cで示す様に、選択状態イから選択状態ロに進む。選択状態ロから経路選択を行う選択状態イに戻りたい場合には、ボタン1104を押して「取消」を入力する。これにより、図43の矢印dで示す様に、選択状態ロから選択状態イに戻る。
【0103】
選択状態ロでは、撮像画像を表示させたい地点を選択する。経路B―C―Aが選択されている状態で撮像画像を表示させる地点の選択肢としては、B、C、Aの3点があり、出発地点から近い順に並べられる。この3点のうちのいずれかを、「進む」ボタン1101と「戻る」ボタン1102を用いて選択する。選択された地点は、図42の表示画面101a上で点滅表示される。選択した地点が正しければ、「決定」ボタン1103を押して矢印cに示す様に状態ハに遷移する。この状態ハでは、選択地点を確認する文章「Cでいいですか?」が表示画面101a上にオーバーラップ表示される。別の地点を選択しなおす場合には「取消」ボタン1103を押すことで矢印dに示す様に選択状態ロに戻る。地点選択を行った後、利用者が「決定」ボタン1103を押して選択地点を確定すると、矢印cに示す様に状態ニに遷移し、地点選択が完了する。
【0104】
地点が選択された後の動作は、第1の実施の形態と同じである。この様に、地図上で複数の通過候補地点が存在しても、利用者は、「進む」「戻る」「決定」「取消」の4つのボタンを操作することにより、簡単に地点を選択し、その地点の撮像画像を基地局108に要請することができる。なお、「取消」のボタンは必ずしも必須ではないので、最低「進む」「戻る」「決定」の3つのボタンを設ければよい。この実施の形態は、上述した各実施の形態と併用することができる。
【0105】
また、選択された経路と地点を、選択完了後も初期値として記憶しておき、その後に他の地点を選択するときに選択状態を初期値に戻すことで、例えば、図43の選択状態ロに示す様に、初期値の選択地点Cに対して、次に地点Aを選択するとき、「進む」ボタン1101を一回押すだけで、地点Aを選択することが可能となる。このように、前回の選択状態を常に初期値として更新記憶しておくことで、「進む」「戻る」「決定」の3つのボタンの操作回数を最小に抑えることができる。
【0106】
(第10の実施の形態)
図44は、本発明の第10の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、基地局を持たずに、各地点に設置された撮像装置107や、事故、渋滞情報源1003や、撮像装置検索サイト1203がインターネット1201によって相互接続され、このインターネット1201に、車載の情報表示装置100が接続される構成となっている。
【0107】
車載の情報表示装置100は、無線発信受信手段105、1202を備え、これらを介してインターネット1201に接続される。無線発信受信手段105、1202としては、携帯電話機やパーソナルハンディホンシステム(PHS)、ビーコンなど、複種類の通信手段を用いることが可能である。画像合成制御手段103は、インターネット1201を介して撮像装置検索サイト1203に接続し、付近の撮像装置107の地図上での位置とネットワーク上でのアドレスを受信する。
【0108】
利用者が、付近に存在する撮像装置の中から道路状況を確認したい場所の撮像装置を選択すると、画像合成制御手段103は次に、インターネット1201を介してその撮像装置107に接続し、その撮像装置の撮像画像とカメラパラメータを受信する。このとき即ち撮像装置107に接続するとき、画像合成制御手段103は、車両特有のアクセスキー1207を持っており、撮像装置107はこのアクセスキー1207に従ってアクセス許可1206を与える。このアクセスキー1207に対して、送信撮像画像に応じた課金がなされる。
【0109】
以上のように、基地局を持たない構成とすることで、局部的なシステム故障が発生しても、システム全体がダウンすることがなくなり、稼働率の高い交通情報表示システムシステムを実現可能となる。
【0110】
【発明の効果】
本発明によれば、基地局等から送られてくる撮像画像に対して正確に自車両の進行方向を示す情報を合成表示することができ、利用者に道路状況を正しく把握させることが可能な交通情報表示システムを提供することが可能となる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態に係る交通情報表示システムの構成図
【図2】本発明の第1の実施の形態に係る交通情報表示システムの表示手段に表示した地図情報を示す図
【図3】本発明の第1の実施の形態に係る交通情報表示システムにおける撮像装置の設置状況の一例を示す図
【図4】本発明の第1の実施の形態に係る交通情報表示システムにおけるカメラパラメータから決定した進行方向を示す矢印画像の方向と位置の説明図
【図5】本発明の第1の実施の形態に係る交通情報表示システムにおける撮像画像の表示例を示す図
【図6】本発明の第1の実施の形態に係る交通情報表示システムにおけるカメラパラメータの説明図
【図7】本発明の第2の実施の形態に係る交通情報表示システムの構成図
【図8】本発明の第2の実施の形態に係る交通情報表示システムにおける地点選択の状況を示す図
【図9】本発明の第2の実施の形態に係る交通情報表示システムで地図を鳥瞰図として表示した図
【図10】本発明の第2の実施の形態に係る交通情報表示システムで図9の表示状態から選択地点を拡大表示する過程を示す図
【図11】本発明の第2の実施の形態に係る交通情報表示システムで図10の表示状態から選択地点を更に拡大表示する過程を示す図
【図12】本発明の第2の実施の形態に係る交通情報表示システムで図11の表示状態から選択地点を更に拡大表示する過程を示す図
【図13】本発明の第2の実施の形態に係る交通情報表示システムで図12の表示状態から選択地点を更に拡大表示する過程を示す図
【図14】本発明の第2の実施の形態に係る交通情報表示システムで図13の表示状態から選択地点を更に拡大表示する過程を示す図
【図15】本発明の第2の実施の形態に係る交通情報表示システムで図14の表示状態から選択地点を拡大表示した図
【図16】本発明の第2の実施の形態に係る交通情報表示システムで図15の表示状態から撮像画像の表示画面に切り替えた図
【図17】本発明の第2の実施の形態に係る交通情報表示システムにおける画面表示の遷移手順を示す図
【図18】本発明の第2の実施の形態に係る交通情報表示システムにおける撮像範囲の説明図
【図19】本発明の第3の実施の形態に係る交通情報表示システムの構成図
【図20】本発明の第3の実施の形態に係る交通情報表示システムにおける実際の撮像装置と仮想カメラの配置説明図
【図21】本発明の第3の実施の形態に係る交通情報表示システムにおける実際の撮像装置の撮像画像を例示する図
【図22】本発明の第3の実施の形態に係る交通情報表示システムにおける実際の撮像装置の撮像画像を仮想カメラ位置から見た画像に合成した一例を示す図
【図23】本発明の第3の実施の形態に係る交通情報表示システムにおけるテクスチャマッピングの3次元的モデルの説明図
【図24】本発明の第3の実施の形態に係る交通情報表示システムにおける3次元的モデルの撮像範囲の説明図
【図25】本発明の第3の実施の形態に係る交通情報表示システムで選択地点の画面表示を拡大表示する過程を示す図
【図26】本発明の第3の実施の形態に係る交通情報表示システムで選択地点の画面表示を図25の表示状態から更に拡大表示する過程を示す図
【図27】本発明の第3の実施の形態に係る交通情報表示システムで選択地点の画面表示を図26の表示状態から更に拡大表示した図
【図28】本発明の第3の実施の形態に係る交通情報表示システムで図27の表示状態から撮像画像の表示画面に切り替えた図
【図29】本発明の第4の実施の形態に係る交通情報表示システムの構成図
【図30】本発明の第4の実施の形態に係る交通情報表示システムにおける撮像画像の一例を示す図
【図31】本発明の第4の実施の形態に係る交通情報表示システムで撮像された図30に示す画像をテクスチャマッピングで仮想視点から見た画像に変換した図
【図32】本発明の第4の実施の形態に係る交通情報表示システムで用いる撮像範囲の説明図
【図33】本発明の第5の実施の形態に係る交通情報表示システムの構成図
【図34】本発明の第6の実施の形態に係る交通情報表示システムの構成図
【図35】本発明の第7の実施の形態に係る交通情報表示システムの説明する画面遷移図
【図36】本発明の第7の実施の形態に係る交通情報表示システムにおいて図35の表示状態から表示画面を遷移させた画面説明図
【図37】本発明の第7の実施の形態に係る交通情報表示システムにおいて図36の表示状態から選択地点を更に拡大表示させた図
【図38】本発明の第7の実施の形態に係る交通情報表示システムで複数の異なる地点の撮像画像を車両に送信するときの画像解像度の説明図
【図39】本発明の第8の実施の形態に係る交通情報表示システムの構成図
【図40】本発明の第8の実施の形態に係る交通情報表示システムにおける事故、渋滞情報の表示説明図
【図41】本発明の第9の実施の形態に係る交通情報表示システムの構成図
【図42】本発明の第9の実施の形態に係る交通情報表示システムにおける表示手段の正面図
【図43】本発明の第9の実施の形態に係る交通情報表示システムにおける地点選択手段の機能説明図
【図44】本発明の第10の実施の形態に係る交通情報表示システムの構成図
【図45】従来の交通情報表示システムの構成図
【図46】従来の交通情報表示システムにおける概念説明図
【図47】従来の交通情報表示システムにおける地点選択説明図
【図48】従来の交通情報表示システムにおける撮像画像表示例を示す図
【図49】従来の交通情報表示システムにおける撮像装置設置例を示す図
【図50】従来の交通情報表示システムにおける撮像画像表示例を示す図
【符号の説明】
100 車両搭載の情報表示装置
101 表示手段
101a 表示画面
102 指示入力手段
103 画像合成制御手段
104 地図情報データベース
105 無線発信受信手段
106 GPS
107 各地点設置の撮像装置
108 基地局
301 カメラパラメータデータベース
307 撮影範囲
308 撮影方向
401 視点制御手段
402 撮像装置のCG画像
403 地図上での撮影範囲
504 仮想カメラ
509 テクスチャマッピング手段
512 撮影範囲
601 3次元(3D)情報
606 立体物(建物)
607 撮像範囲
701 信号蓄積手段
801 信号蓄積手段
1003 事故、渋滞情報
1100 地点選択手段
1201 インターネット
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a traffic information display system capable of confirming in advance an in-vehicle monitor an image showing a road condition such as a destination or a candidate for passing when driving a vehicle to a destination. The present invention relates to a traffic information display system in which a relationship with a planned travel direction can be easily grasped on a monitor screen, and a storage medium storing the traffic information display processing program.
[0002]
[Prior art]
For example, Japanese Patent Laid-Open No. 9-180087 proposes a traffic information display system that transmits an image captured by a camera installed in a remote place and displays the image on a vehicle-mounted monitor. In this conventional traffic information display system, when a user designates a passage candidate point or the like in order to grasp in advance the road condition of a destination or a passage candidate point, a captured image at the designated passage candidate point from the vehicle to the base station The signal which requests is transmitted by radio.
[0003]
The base station always receives captured images transmitted from various monitoring stations such as intersections where cameras are installed in advance, and when a captured image of a designated passing candidate point is requested from a vehicle, A captured image is taken out and transmitted to the vehicle. The vehicle that has received the captured image displays the captured image on the in-vehicle monitor, so that the user can confirm in advance the road condition of the planned passage candidate point with a video.
[0004]
FIG. 45 is a block diagram of the traffic information display system according to the above-described prior art. This traffic information display system includes an imaging device 107 installed at a monitoring station such as an intersection, a base station 108 that receives a captured image transmitted from each monitoring station, and a candidate for passing through the base station 108. A vehicle-mounted information display device 100 that requests a captured image of a point or the like and receives the captured image transmitted from the base station 108.
[0005]
The information display device 100 includes a map information database 104 storing map information used in a car navigation system, a GPS (global positioning system) 106 for acquiring the position of the host vehicle, and an instruction input for inputting an instruction from a driver or the like. Means 102, display means (monitor screen) 101, wireless transmission / reception means 105 for transmitting / receiving signals to / from base station 108, and image synthesis for performing overall image synthesis and image synthesis to display on display means 101 And a control means 103.
[0006]
FIG. 46 is a conceptual explanatory diagram of a conventional traffic information display system. A monitoring camera (imaging device) 107 is attached to each traffic signal installed at an intersection or the like, and the base station 108 receives captured images that are captured and transmitted in real time by each imaging device 107. . When the information display device 100 mounted on the vehicle 1 requests the base station 108 for a video of a candidate passage location, a captured image (request image) of the candidate passage point is transmitted from the base station 108, and the information display device 100 displays the captured image on the monitor screen.
[0007]
FIG. 47 is an explanatory diagram when a captured image is requested from the base station. The driver 2 displays map information used in the car navigation system on the screen 101a of the display means 101. This map displays the current position (starting point) calculated by the GPS 106 to the destination (destination point) A, and includes two candidate routes 10 and 11, and candidate passing points B and C on the route 10. And a passing candidate point D on the route 11 are displayed. The driver 2 looks at this map, for example, and designates, for example, the passage candidate point C with the instruction input means 102 (see FIG. 45).
[0008]
FIG. 48 is an explanatory diagram when the captured image transmitted from the base station 108 is displayed on the in-vehicle monitor. When the in-vehicle information display device 100 receives the captured image, the captured image is displayed on the display unit 101, and the driver 2 grasps the congestion status of the passage candidate point C by viewing the captured image 101b. As a result, the driver 2 can appropriately select the routes 10 and 11.
[0009]
[Problems to be solved by the invention]
However, in the conventional traffic information display system, there is a problem that it is difficult to understand the relationship with the own vehicle only by the captured image at the passing candidate point displayed on the in-vehicle monitor. This problem will be described with reference to FIGS.
[0010]
FIG. 49 is a diagram illustrating an imaging device installation state at the passage candidate point C. Passing candidate point C is a crossroad, and it is assumed that four imaging devices 107a, 107b, 107c, and 107d are installed. A vehicle following the leading vehicle 3 in the opposite lane with respect to the planned traveling direction F of the own vehicle Suppose that there was a traffic jam.
[0011]
50 (a), (b), (c), and (d) are captured images of the respective imaging devices 107a, 107b, 107c, and 107d, and traffic jams occur due to the different imaging directions of the imaging devices 107a, 107b, 107c, and 107d. The position where the image 3a of the first vehicle 3 can be seen is different.
[0012]
The information that the driver wants to know is which direction on the captured image the traveling direction F of the host vehicle in FIG. 49 is and the positional relationship between the direction and the traffic jam vehicle 3. However, even if the captured images of FIGS. 50 (a), (b), (c), and (d) are sequentially transmitted from the base station 108, none of the captured images includes information that the driver wants to know. Judgment of whether there is traffic jam in the same direction as the passing direction of the own vehicle, whether the traffic jam occurs only on the opposite lane, or whether the traffic jam occurs on the route intersecting with the passing direction of the own vehicle Can not.
[0013]
The above-described prior art describes that an arrow indicating a course direction is displayed on a captured image. The above problem can be solved if an arrow indicating the passing direction of the host vehicle is combined and displayed on the captured image illustrated in FIG. 50, but what specific means can be used to determine the direction of the arrow to be combined and displayed? If the above is not solved, the above problem cannot be solved.
[0014]
An object of the present invention is to provide a traffic information display system capable of combining and displaying information indicating the passing direction of the host vehicle on a captured image transmitted from a base station or the like, a captured image transmission device, and an in-vehicle information display device, Another object of the present invention is to provide a storage medium storing the traffic information display processing program.
[0015]
[Means for Solving the Problems]
The traffic information display system that achieves the above-described object provides an image pickup that transmits camera parameters of the image pickup device together with the picked-up image when a picked-up image of the selected point is requested among the picked-up images by the image pickup device installed at each point. The route direction of the host vehicle in the captured image received from the image transmission device, the captured image transmitted from the captured image transmission device, and received from the map information of the selected point and the received camera parameter. And a vehicle-mounted information display device that synthesizes information indicating the course direction with the captured image and displays the synthesized image on a screen.
[0016]
With this configuration, the information display device can calculate and determine which direction in the captured image the course direction of the host vehicle known from the map information is based on the camera parameter. It is possible to combine and display with.
[0017]
Preferably, the information display device displays the map information displayed on the screen while changing the map information according to the movement of the viewpoint, and displays the captured image combined with the screen. With this configuration, the map information sequentially changes along the route on the map information, and the captured image is displayed at the end. Therefore, it becomes easy to grasp the congestion state of the road from the captured image.
[0018]
More preferably, the information display device is located directly behind the imaging device that has captured the captured image displayed on the screen from a position where the position of the viewpoint to be moved can be viewed over the entire map information displayed on the screen. And moving to the same position as the imaging device. With this configuration, since the movement of the viewpoint finally becomes the position of the imaging device, it is possible to more easily grasp from which direction of the selected point the captured image displayed on the screen is captured and which direction of its own path is. .
[0019]
More preferably, the information display device converts the captured image displayed on the screen into an image viewed from a virtual camera and displays the image on the screen. With this configuration, a distorted captured image that is difficult to see is displayed as an easy-to-view image.
[0020]
More preferably, the information display device finally changes the position of the viewpoint to the position of the imaging device, displays the captured image of the imaging device on the screen, and compositely displays information indicating the course direction. It is characterized by doing. With this configuration, it is possible to understand in what direction the actual captured image is finally displayed on the screen in order, and the captured image can be intuitively grasped.
[0021]
More preferably, the information display device has three-dimensional information as the map information. With this configuration, the map information is easy to see, and there is no sense of incongruity when the map information and the captured image are switched.
[0022]
More preferably, the information display device synthesizes and displays an imaging range of the imaging device that has captured the captured image when displaying map information on the screen. With this configuration, it is possible to know which range the imaging range is before the captured image is displayed on the screen, and it is easy to grasp when the captured image is displayed on the screen.
[0023]
More preferably, the captured image transmission device transmits time information indicating a shooting time of the captured image to be transmitted together, and the information display device is configured such that the captured image displayed on the screen is within a certain time from the current time. The captured image is displayed in color in the case of the above-mentioned data, and when the captured image is data of a predetermined time or longer, the saturation of the captured image is reduced and displayed. With this configuration, it is possible to reduce the frame rate of shooting by the imaging device, and to achieve power saving and cost reduction. Further, even when a past captured image is displayed, it can be intuitively recognized that the captured image is several minutes before.
[0024]
More preferably, the captured image transmission device also transmits the captured image and the camera parameter at points around the selected point in addition to the captured image and the camera parameter of the selected point, The information display device also displays the captured image of the surrounding points on the screen before displaying the captured image of the selected point on the screen. With this configuration, it is possible to grasp the surrounding congestion situation and use it as a reference for route selection.
[0025]
More preferably, the captured image transmission device transmits the captured image at a reduced resolution when transmitting the captured images of the imaging devices installed at a plurality of points together. With this configuration, a plurality of captured images can be transmitted without delaying the image data transmission speed.
[0026]
More preferably, the captured image transmission device is provided in a base station, and the base station collects captured images from the imaging device at each point and transmits the requested captured images to a request destination. With this configuration, unified management of captured images becomes possible.
[0027]
More preferably, the information display device displays the captured image as a monochrome image when displaying the captured image as a still image on the screen. When the transmission speed of image data is slow or the shooting frame rate of the imaging device is low, the captured image is displayed as a still image. In this case, by displaying the monochrome image, It is easy to identify whether the vehicle is stationary or the still image is stationary, and it is possible to avoid misidentifying the user.
[0028]
More preferably, the captured image transmission device is provided in each imaging device connected to the Internet, and the information display device requests the captured image from the corresponding imaging device via the Internet. . With this configuration, even when a failure occurs, it is possible to avoid an overall system down.
[0029]
The captured image transmission device that achieves the above object is a captured image transmission device that constitutes one of the traffic information display systems described above. Since the camera parameter is transmitted together with the captured image from this captured image transmission device, the in-vehicle information display device side can easily calculate the course direction of the host vehicle in the captured image together with the map information. Become.
[0030]
A vehicle-mounted information display device that achieves the above object is characterized in that it is an information display device that constitutes one of the traffic information display systems described above. Since this information display device calculates the course direction of the host vehicle in the captured image from the map information and the camera parameters, information indicating the course direction can be synthesized and displayed when the captured image is displayed on the screen.
[0031]
Preferably, in the above, there is provided means for selecting a point for requesting the captured image from points on the map information displayed on the screen. With this configuration, it is easy to select a point on the map information that requires a captured image.
[0032]
More preferably, the acquired accident and traffic jam information is synthesized and displayed on the map information displayed on the screen. This configuration makes it easier for the user to grasp the road conditions.
[0033]
More preferably, the means for selecting is configured to select a route on the map information and a point on the selected route with three types of inputs. With this configuration, the user's operation becomes easier.
[0034]
More preferably, the selecting means is configured to hold the previously selected information and start the next selection from the previous selection state. With this configuration, the number of user selection operations is further reduced.
[0035]
In the traffic information display system using the Internet, each of the captured image transmission devices includes means for granting access permission to the information display device that has requested the captured image using an access key for requesting access permission. And charging. With this configuration, the security of the system is improved, and charging is performed according to the usage frequency.
[0036]
The storage medium that achieves the above object stores the processing program that causes the in-vehicle electronic device including the display screen to operate as the information display device according to any one of the above-described information by causing the in-vehicle electronic device to read the processing program. It is characterized by that. With this configuration, for example, the hardware configuration of a car navigation system can be used.
[0037]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
[0038]
(First embodiment)
FIG. 1 is a configuration diagram of a traffic information display system according to the first embodiment of the present invention. In this traffic information display system, the imaging device 107 installed at each monitoring station such as an intersection, and the base station 108 that receives the captured image captured and transmitted by each imaging device 107 separately for each imaging device installation location. A camera parameter database 301 that is connected to the base station 108 and stores camera parameters, which will be described later, of the respective image capturing devices 107, and passage candidate points that are wirelessly communicated with the base station 108 and requested by a vehicle driver or the like And a vehicle-mounted information display device 100 that receives and displays the captured image from the base station 108. The camera parameter database 301 may be built in the base station 108.
[0039]
The information display device 100 includes a map information database 104 storing map information used in a car navigation system, a GPS (global positioning system) 106 for acquiring the position of the host vehicle, and an instruction input for inputting an instruction from a driver or the like. Means 102, display means (monitor screen) 101, wireless transmission / reception means 105 for transmitting / receiving signals to / from base station 108, and image synthesis for performing overall image synthesis and image synthesis to display on display means 101 And a control means 103.
[0040]
This information display device 100 is also used as a car navigation system. A program for performing traffic information display processing according to the present embodiment for the car navigation system is transferred from an external storage medium such as a CD-ROM or a DVD to an internal storage medium such as a built-in memory. By being read in, the car navigation system is operated as an in-vehicle device (information display device) of the traffic information display system.
[0041]
The information display device 100 shown in FIG. 1 according to the present embodiment is the same in configuration as the conventional information display device 100 described in FIG. However, as will be described later, the image composition control unit 103 of the information display apparatus 100 according to the present embodiment processes the camera parameter information sent together with the captured image from the base station 108 and converts the captured image into the captured image. The difference is that the function for synthesizing information such as an arrow indicating the passing direction is provided by the program.
[0042]
FIG. 2 is map information displayed on the monitor screen by the car navigation system described in FIG. The image composition control means 103 of the information display device 100 can know the passing direction F of the own vehicle on any of the routes 10 and 11 from the relationship between the starting point of the map information and the destination A.
[0043]
FIG. 3 is a diagram illustrating a camera (imaging device) installation state at the passage candidate point B illustrated in FIG. 2. One imaging device 107 is installed at the passage candidate point B. Camera parameters such as a shooting range (view angle) 307 and a shooting direction 308 of the imaging device 107 are stored in the database 301 provided in the base station 108, and the base station 108 receives information from the vehicle-mounted information display device 100. When a captured image of the passage candidate point B is requested, together with the captured image, the camera parameters of the imaging device 107 that captured the captured image are transmitted to the information display device 100 together.
[0044]
FIG. 4 is an explanatory diagram of an arrow F indicating a passing direction obtained from the map information of FIG. The image composition control unit 103 calculates the direction in which the direction of the arrow F indicating the passing direction in FIG. 2 is oriented in the captured image to be synthesized from the camera parameters of the imaging device 107, and also in the captured image The position 305 of the passing road is calculated.
[0045]
Then, as shown in FIG. 5, an arrow F is displayed at a position 305, and an image captured by the imaging device 107 of FIG. As a result, when the driver sees this composite image, it becomes clear at a glance which direction the passing direction of the host vehicle is in the captured image, and the positional relationship with the vehicle image 3a of the congested vehicle 3 shown in FIG. It can be easily grasped.
[0046]
FIG. 6A is an explanatory diagram of camera parameters of each imaging apparatus 107 stored in the database 301 of FIG. The camera parameters include three-degree-of-freedom data of a three-dimensional position (x, y, z) 306 indicating the world coordinate position of the imaging device 107, two-degree-of-freedom data indicating an angle and a shooting direction 308, and a rotation angle around the shooting direction. 3 includes external parameters having a total of 6 degrees of freedom of 1-degree-of-freedom data indicating 310, an angle of view 307 of the imaging device 107, lens distortion, and internal parameters such as a lens center axis 312 in the camera angle of view 311.
[0047]
By using this camera parameter, the image composition control means 103 can obtain the world coordinate position of each pixel of the captured image by calculation, and the route that the vehicle travels and the passing direction F of the road have the camera parameter. It is possible to determine where on the imaging screen of the image capturing apparatus 107 and which direction it is directed. Here, the lens distortion data is data indicating the angular relationship between the incident light 313 to the lens 302 and the incident light 314 from the lens 302 to the CCD, as shown in FIG. 6B.
[0048]
(Second Embodiment)
FIG. 7 is a configuration diagram of a traffic information display system according to the second embodiment of the present invention. Compared with the traffic information display system according to the first embodiment (see FIG. 1), the traffic information display system according to the present embodiment includes the viewpoint control means 401, and the image synthesis control means. The only difference is that the image is synthesized using an image converted by the viewpoint 103, and other configurations and operations are the same as those in the first embodiment. Hereinafter, the composite display of an image subjected to viewpoint conversion will be described.
[0049]
FIG. 8 is a diagram illustrating a state in which the driver 2 causes the display unit 101 to display map information in the present embodiment. In this state, the driver 2 designates an arbitrary point, for example, a candidate passage point C. The map information when this designation is made is a view of the map as viewed from directly above, as shown in the screen 101a of FIG.
[0050]
When the passing candidate point C is designated, this designation selection signal is notified from the instruction input means 102 to the viewpoint control means 401 via the image composition control means 103. Upon receiving this notification, the viewpoint control means 401 converts the map information displayed on the display means 101 into map information obtained by converting the viewpoint, for example, as shown in FIG. 9, converts the map into a bird's eye view seen obliquely from above, and displays the display means. 101 is displayed. A method for converting a map viewed from directly above into a bird's eye view has been widely known.
[0051]
Next, the viewpoint control means 401 receives the data of the selected point (passing candidate point C in this example) and brings the viewpoint closer to the point C, thereby displaying the display on the display means 101 as shown in FIG. The selected point C is displayed on the screen 101a so as to be gradually enlarged and displayed on the screen 101a. At the point in time when the image of FIG. 10 can be displayed, the information display device 100 receives the data of the camera parameters (such as the installation position and imaging range of the imaging device 107) of the imaging device 107 installed at the selected point C from the base station 108. Therefore, based on the camera parameter data, the computer graphic (CG) image 402 of the imaging device and the imaging range 403 on the map are combined in the display screen 101a of FIG. indicate. Further, the passage route on the route 10 is highlighted with a thick line or the like from other routes, and an arrow image F indicating the passage direction is also displayed.
[0052]
FIG. 11 is a diagram showing the display screen 101a of the display means 101 when the viewpoint approaches the point C. In this FIG. 11, compared with FIG. 10, the map of the point C is further enlarged and displayed. When the distance to the point C approaches the predetermined distance, the viewpoint control unit 401 turns the viewpoint closer to the back of the shooting direction of the imaging device 107 (CG 402 on the screen 101a) while further bringing the viewpoint closer to the point C. Make it. By this operation, the direction in which the map is synthesized and displayed can be brought closer to the shooting direction of the imaging device, and the change in the state of the screen 101a is shown in the order of the progress of this operation, as shown in FIGS. It is.
[0053]
Eventually, the viewpoint control unit 401 matches the viewpoint with the position of the imaging device 402, and also matches the direction in which the map is combined with the shooting direction of the imaging device 402. FIG. 15 shows the display screen 101a at that time. At this time, since the viewpoint coincides with the position of the imaging apparatus, the CG 402 of the imaging apparatus 107 that has been displayed is not displayed.
[0054]
After the screen of FIG. 15 is displayed, as shown in FIG. 16, the image of the arrow F indicating the passing direction of the host vehicle in FIG. 15 is combined with the captured image sent from the base station 108 and displayed on the display screen. indicate. In the switching of the display screen 101a of FIGS. 15 and 16, the display screen 101a of FIG. 15 is a combination of map information in accordance with the position and direction of the imaging device, whereas FIG. On the display screen 101a ′, the position of the road, the horizontal line, and the like remain substantially the same positional relationship as the display screen 101a of FIG. 15, so the driver takes an image based on the arrow image F indicating the passing direction of the vehicle. The image can be judged and the road condition can be accurately grasped.
[0055]
FIG. 17 is an explanatory diagram showing the relationship between the display control procedure of the viewpoint control means 401 according to the present embodiment and the input signals from the driver (user) and the base station 108. Initially, a point selection waiting state is entered, and a diagram (display screen 101a in FIG. 8) of the map viewed from directly above is displayed (step S41). When a point selection is input from the user, a bird's eye view (FIG. 9) is then displayed (step S42), and then the viewpoint is sequentially approached to the selected point (step S43). FIGS. 10 and 11 show the transition of the display screen at this time. At this time, the information display apparatus 100 receives the camera parameters of the imaging apparatus 107 installed at the point C from the base station 108. .
[0056]
Further, by performing the process of moving the viewpoint closer to the selected point and moving back to the imaging apparatus (step S44), the display screen transitions to FIGS. 12, 13, and 14, and the position of the viewpoint and the viewing direction are the position of the imaging apparatus. When the shooting direction matches (step S45), FIG. 15 is displayed. And when the captured image of the point C is received from the base station 108, the arrow F which shows a passing direction is synthesize | combined with this captured image, and it displays like FIG. 16 (step S46).
[0057]
Here, when the user selects another point, for example, the destination A, the process proceeds in the reverse direction to steps S46, S45, S44, S43, S42, and S41, and the display screen 101a of the display means 101 is also displayed. 16 to FIG. 15, 14, 13, 12, 11, 10, 9, and 8, the process returns to the original point selection waiting state. In this way, by reversing the movement of the viewpoint when returning to the initial state, the user can more easily understand the relationship between the viewpoint of the captured image and the shooting direction and the entire path that were viewed as they were. Can be made.
[0058]
Next, the imaging range 403 on the map will be described with reference to FIGS. 18 (a), (b), and (c). FIG. 18A shows the photographing apparatus 402, its photographing direction 404, and a rectangular photographing range (view angle) 405 that is a predetermined distance away from the photographing apparatus 402 in the photographing direction 404 and perpendicular to the photographing direction 404. ing. Further, four lines 406 connecting each of the four corners of the photographing range 405 and the photographing apparatus 402 are shown. The inside of the quadrangular pyramid cut by these four lines 406 is the imaging range of the imaging device 402.
[0059]
When these four lines 406 are extended until they reach the road surface, and the imaging range 405 is projected onto the road surface, this projection range becomes a region 407 shaded in FIG. This area 407 is a photographing range of the photographing apparatus 402. However, if the shooting range 407 is above the horizontal line, the shooting range 407 extends infinitely far in the direction of arrow E. In a range that is a predetermined distance away from the shooting range 407, it is difficult to obtain useful information about the traffic state from the captured image.
[0060]
Therefore, as shown in FIG. 18C, a trapezoidal area 403 generated by dividing the above-described area 407 by an upper limit line 408 that is separated from the imaging apparatus 402 by a predetermined distance t in the imaging direction is displayed on the map. And This is displayed on the screen as the photographing range 403 shown in FIGS. Instead of the shooting range 403, the above-described square pyramid itself may be displayed.
[0061]
According to the present embodiment described above, the positional relationship between the captured image and the information indicating the passing direction of the host vehicle is sequentially intuitively grasped by the transition screen, so that the relationship with the host vehicle can be easily recognized. Can do.
[0062]
(Third embodiment)
FIG. 19 is a configuration diagram of a traffic information display system according to the third embodiment of the present invention. Compared with the traffic information display system according to the second embodiment (see FIG. 7), the traffic information display system according to the present embodiment is configured such that the image composition control unit 103 of the information display device 100 has a texture mapping unit 509. The only difference is the addition of functional means that operates in accordance with the image composition processing program. Other configurations and operations are the same as those in the second embodiment. Hereinafter, image composition display by the texture mapping method will be described.
[0063]
FIG. 20 is an explanatory diagram of a texture mapping method that is an image composition method unique to the image composition control means 103 according to the third embodiment. The captured image transmitted from the base station 108 is an actual image captured by the camera 501, and when the actual camera 501 is installed, its installation position and installation direction are restricted and should be attached to an ideal position and direction. It is rare to be able to.
[0064]
As the actual camera 501 shown in FIG. 20, a wide-angle camera is usually used. When the subject 503 on the road surface 506 is imaged from diagonally above with the wide-angle camera, the captured image is as shown in FIG. Then, the subject image 503a is displayed on the distorted road surface image 506a. The image composition control unit 103 according to the present embodiment converts this captured image into an image captured by a virtual camera 504 arranged at an ideal position (for example, a position directly above the road surface 506) shown in FIG. As shown in FIG. 22, it is displayed on the screen 101a of the display means. In FIG. 22, the shaded portion is a portion that is not reflected in the actual camera 501.
[0065]
In this example, an image synthesis method is employed in which the road surface 506 is a model, the captured image is a texture, and the texture is mapped to the model. This image composition method is called a texture mapping method. Although the virtual camera is arranged directly above the road surface, the arrangement position of the virtual camera 504 is arbitrary, and an actual captured image can be combined with an image viewed from an arbitrary direction. In addition to the road surface, as shown in FIG. 23, texture mapping can be performed on a three-dimensional model including a road surface 506 and a wall 507 from an actual camera 501 up to a certain distance.
[0066]
FIG. 24 is a diagram showing respective ranges 510 and 511 for texture mapping on a three-dimensional model composed of a road surface 506 and a wall 507 from the imaging device 107 to a certain distance. In the third embodiment, a range 512 obtained by combining both the ranges 510 and 511 is displayed instead of the imaging range 403 in the second embodiment. When the captured image signal is sent from the base station 108, the captured image signal is immediately texture-mapped and displayed on the range 512.
[0067]
25, FIG. 26, FIG. 27, and FIG. 28 are diagrams showing the transition of the display screen according to the present embodiment corresponding to FIG. 13, FIG. 14, FIG. 15, and FIG. 16 of the second embodiment. The captured image is texture-mapped in a range 512 in the figure. In this embodiment, since the viewpoint (arrangement position of the virtual camera) and the shooting direction approach the actual imaging device 107 according to the transition of the display screen, the range 512 is reached as the processing proceeds to FIGS. 25, 26, and 27. The composite image displayed on the screen is displayed so as to approach the actual captured image.
[0068]
In the state of the display screen shown in FIG. 27, since the viewpoint and the shooting direction are the same as those of the imaging apparatus, the image synthesized by texture mapping is also substantially the same as the captured image itself. Finally, the display screen is switched from FIG. 27 to FIG. 28, and the image of the arrow F indicating the passage direction is combined with the captured image of the imaging device 107 and displayed. Since the content of the image displayed on the display screen shown in FIG. 28 is almost the same as the image content of the display screen shown in FIG. 27, the user can recognize these as almost continuous.
[0069]
As described above, in the present embodiment, the captured image transmitted from the base station is synthesized and converted into an image viewed from the virtual camera, texture mapped to the map data, and the virtual camera position is gradually brought closer to the actual camera position. Therefore, it becomes possible to accurately determine the road conditions such as the passage candidate points more than in the second embodiment.
[0070]
In the example described above, the display is finally switched from the texture-mapped composite image to the captured image of the imaging device, but it is not always necessary to switch. This is because the contents of the display screen shown in FIG. 27 and the contents of the display screen shown in FIG. 28 are almost the same.
[0071]
(Fourth embodiment)
FIG. 29 is a configuration diagram of a traffic information display system according to the fourth embodiment of the present invention. Compared with the traffic information display system according to the third embodiment (see FIG. 19), the traffic information display system according to the present embodiment is configured such that the image composition control unit 103 of the information display device 100 has a texture mapping unit 509. When the image composition method is used, the difference is that the three-dimensional information (3D information) 601 included in the map information database 104 is used, and other configurations and operations are the same. Hereinafter, use of the 3D information 601 will be described.
[0072]
FIG. 30 is a diagram illustrating a captured image captured by the imaging device. In the captured image, there are an image 603 showing a road surface and an image 602 showing a three-dimensional object (a vehicle in the illustrated example). When this captured image is combined with the image projected from the virtual camera directly above by the texture mapping method described in the third embodiment, the image shown in FIG. 31 is obtained. In FIG. 31, the road surface image 605 is an image of the road surface viewed from directly above, but the three-dimensional object image 604 is greatly distorted and synthesized. This is because a large positional shift occurs between the road surface model used for texture mapping and the three-dimensional object.
[0073]
Actually, since the imaging device for road monitoring is installed at a position higher than the vehicle, the vehicle is not distorted as much as shown in FIG. However, for buildings such as buildings, large distortion may occur.
[0074]
Therefore, in the fourth embodiment, the three-dimensional information 601 included in the map information is used as follows. FIG. 32 is a diagram showing the usage method. Here, the imaging range 512 configured by the road surface 510 and the wall 511 is the same as that of the third embodiment. In the present embodiment, a three-dimensional object (such as a building) 606 within the imaging range 512 is searched from the three-dimensional information 601 included in the map information database 104, and thereby the imaging range is corrected from the range 512 to the range 607. The The new imaging range 607 is also a model on which texture mapping is performed.
[0075]
In this way, for buildings such as buildings, the use of the three-dimensional information 601 included in the map information database 104 prevents a large positional deviation from the model and prevents a large distortion from occurring in the composite image as well. be able to. Other configurations and operations are the same as those of the third embodiment.
[0076]
In the third and fourth embodiments, the viewpoint is gradually changed from the entire map to the selected point, the image displayed on the screen is changed based on the viewpoint change, and finally the viewpoint and the shooting direction are changed. The position of the imaging device and the shooting direction are made to coincide with each other. For example, finally, an image that looks down from a position higher by a certain amount than the actual height of the imaging device may be synthesized. Further, an image that looks down on the selected point from directly above may be synthesized.
[0077]
In the third and fourth embodiments, the case where one imaging device is installed at the point C has been described, but two or more imaging devices may be installed. By using the image composition method by the texture mapping means, it is easy to synthesize each captured image of two or more imaging devices into one captured image. Even in this case, the viewpoint of the captured image to be displayed can be sequentially changed from the entire map to the selected point.
[0078]
(Fifth embodiment)
FIG. 33 is a configuration diagram of a traffic information display system according to the fifth embodiment of the present invention. Compared with the traffic information display system according to the first embodiment (see FIG. 1), the traffic information display system according to the present embodiment is configured so that the information display device 100 receives the signal received by the wireless transmission / reception means 105. It has a signal storage means 701 for storing, and the image composition control means 103 uses the stored data of the signal storage means 701 to perform image composition. Other configurations and operations are the same as those in the first embodiment. is there. This embodiment is particularly effective when the signal transmission speed between the base station 108 and the host vehicle is limited.
[0079]
The captured image of the imaging device is transmitted from the base station 108 to the vehicle wirelessly. When the signal transmission speed is sufficient, a real-time image (for example, an image of 30 frames per second) can be transmitted as a moving image. . However, if the signal transmission speed is not sufficient, real-time transmission of moving images is impossible.
[0080]
Therefore, in this embodiment, a real-time moving image is not transmitted to the vehicle, but a moving image with dropped frames is transmitted to the vehicle. This makes it possible to transmit a captured image necessary for the vehicle even at a low signal transmission speed. The signal accumulating unit 701 provided in the vehicle information display device 100, when reception of the first frame of the received moving image signal is completed, sends the image of the one frame as a still image to the image composition control unit 103. Output. If the input image is a still image, the image control unit 103 converts the input image into a black and white image, combines the arrow image F indicating the course direction, and the like, and then outputs it to the display unit 101.
[0081]
While the still image is displayed on the display unit 101, the signal storage unit 701 stores a moving image including a plurality of frames dropped by the wireless transmission / reception unit 105. Then, when the reception of the moving image is completed, the signal storage unit 701 outputs the moving image to the image composition control unit 103 while performing loop reproduction. When the input image is a moving image, the image control unit 103 synthesizes the arrow image F indicating the course direction and the like as a color image, and then outputs the synthesized image to the display unit 101.
[0082]
With such a configuration, first, after selecting a point, the user can view the state of the selected point with the shortest delay time although it is a still image. By displaying the still image in black and white, it is possible to recognize without confusion whether the vehicle in the image is stopped due to traffic congestion or whether the vehicle in the image is stopped due to the still image. In addition, it is possible to know the traffic flow at the selected point while holding down the communication fee by loop display of moving images. Note that this embodiment can be used in combination with the other embodiments described above.
[0083]
(Sixth embodiment)
FIG. 34 is a configuration diagram of a traffic information display system according to the sixth embodiment of the present invention. The traffic information display system according to the present embodiment is different from the traffic information display system according to the first embodiment (FIG. 1) only in that a signal storage unit 801 is provided in the base station 108. Other configurations and operations are the same as those in the first embodiment.
[0084]
This embodiment is used when the signal transmission between the imaging device 107 and the base station 108 installed at each point requires a cost corresponding to the transmission amount or when the power consumption of the imaging device 107 is saved. Is valid.
[0085]
The image capturing apparatus 107 according to the present embodiment has a predetermined time (for example, 30 minutes) every time set for each point (for example, every 30 minutes at a point where the traffic volume is low and every 10 minutes when the traffic volume is a little). The captured moving image is transmitted to the base station 108, and the base station 108 stores the moving image received from the imaging device 107 in the signal storage unit 801 together with the shooting time data.
[0086]
When the base station 108 receives a request signal for a captured image from the vehicle side, the base station 108 reads out the captured image at the selected point from the signal storage unit 801 and transmits it to the vehicle side together with the shooting time data. The image control means 103 of the information display means 100 mounted on the vehicle, when the inputted shooting time data is older than the present time by a certain time or more, makes this a black and white image and combines an arrow image or the like indicating the course direction. After that, it is output to the display means 101 together with the photographing time.
[0087]
Also, if the input shooting time data is not older than the current time by a certain time (threshold time set in the information display device 100) or more, the received captured image remains as a color image and an arrow image indicating the course direction, etc. Are output to the display means 101 together with the photographing time.
[0088]
As described above, according to the present embodiment, it is possible to save a communication fee between the base station 108 and the imaging device 107 and to reduce power consumption. In addition, by displaying the old image in black and white, the user can immediately recognize that the display image is an old image. A configuration may be adopted in which, when the captured image is old, the image is not uniformly converted into a black and white image, but an image with reduced saturation according to the age of the image is displayed. Note that this embodiment can be used in combination with the other embodiments described above.
[0089]
(Seventh embodiment)
Next, a traffic information display system according to a seventh embodiment of the present invention will be described. The device configuration of the traffic information display system according to the present embodiment is the same as that of the third embodiment (see FIG. 19), and the basic operation for displaying the picked-up image of the selected point is also the same. In the form, for example, when a captured image of a selected point C is displayed, a captured image of a point B in the middle before the viewpoint reaches the point C is also displayed.
[0090]
That is, in the present embodiment, after the bird's eye view of FIG. 35 which is the same as FIG. 9 is displayed, when the selected point C is zoomed up (enlarged display) as shown in FIG. The captured image of the imaging device installed in the periphery, in this example, the point B before the selected point C, and its camera parameters are also taken on the vehicle side simultaneously with the captured image of the imaging device installed in the selected point C and its camera parameters. Sent to.
[0091]
Upon receiving these signals, the vehicle-mounted information display device 100 generates a composite image for each of the selected point C and the point B existing around the selected point C and displays it on the display unit 101. That is, the CG image 402 (B) of the imaging device installed at the point B is displayed and the captured image of the point B is synthesized and displayed in the imaging range 512 (B) by texture mapping, and the CG of the imaging device installed at the selected point C is displayed. The image 402 (C) is displayed and the captured image of the selected point C is synthesized and displayed in the imaging range 512 (C) by texture mapping.
[0092]
Next, as shown in FIG. 37, when the viewpoint approaches the selected spot C and the selected spot C is enlarged and displayed, the base station 108 transmits a captured image of only the selected spot C, and the vehicle side selects the selected spot C. The captured image is synthesized and displayed in the imaging range 512 (C) of the point C by texture mapping. The subsequent operation and screen display are the same as those in the third embodiment.
[0093]
FIG. 38 is an explanatory diagram when the base station 108 transmits captured images of the selected point C and the peripheral point B to the requesting vehicle. When transmitting captured images of a plurality of points to the vehicle, as shown in the upper part of FIG. 38, the image data is transmitted with reduced resolution, and when only the captured images of only the target point are transmitted to the vehicle, As shown in the lower part of FIG. 38, image data with high resolution is transmitted. As a result, it is possible to suppress the data transmission speed when transmitting a plurality of captured images.
[0094]
According to the present embodiment, after the point is selected, the image of the surrounding point is also displayed until the image of the selected point is enlarged, so that the user knows not only the selected point but also the surroundings. be able to. For this reason, the traffic state of the candidate route can be known in more detail, and the route selection can be appropriately determined.
[0095]
In addition, when the base station 108 transmits captured images from a plurality of points to the vehicle side, a low-resolution image is transmitted, and when a captured image of only the selected point is transmitted, a high-resolution image is transmitted. Thus, the data transmission speed required for communication can be kept below a certain level. At the time when the captured images from a plurality of points are displayed on the display unit 101, the captured images at the respective points are displayed in a small size. Therefore, even in a low-resolution image, deterioration in image quality can be suppressed on the display image. Note that this embodiment can be used in combination with the third, fourth, fifth, and sixth embodiments described above.
[0096]
(Eighth embodiment)
FIG. 39 is a configuration diagram of a traffic information display system according to the eighth embodiment of the present invention. Compared with the traffic information display system (FIG. 1) according to the first embodiment, the base station 108 acquires the accident / congestion information 1003 in the traffic information display system according to the present embodiment. The difference is that information is transmitted to the vehicle side and displayed on the display means 101 of the information display device 100, and other configurations and operations are the same as those in the first embodiment.
[0097]
FIG. 40 is a diagram showing a situation when the user (driver) 2 first selects a point where he / she wants to check road information, and the display screen 101a shows destinations and candidate passage points (A, B, C). , D) are displayed together with the map information. At this time, the base station 108 collects accident / congestion information 1003, and the accident / congestion information 1003 is transmitted to the vehicle. In the information display apparatus 100 that has received the accident / traffic congestion information 1003, as shown in FIG. 40, an image indicating an accident (a square image in the illustrated example) 1001 and an image indicating a traffic jam (illustrated) on the candidate routes 10 and 11. In this example, a circle image) 1002 is synthesized and displayed on the map information.
[0098]
While looking at this display screen 101, the driver 2 selects a point in the route 10 or 11 where traffic is congested or a part that is likely to be affected by an accident, and the situation at each point. To the base station 108, and the traffic situation can be accurately grasped. Note that this embodiment can be used in combination with the above-described embodiments.
[0099]
(Ninth embodiment)
FIG. 41 is a configuration diagram of a traffic information display system according to the ninth embodiment of the present invention. The traffic information display system according to the present embodiment is different from the traffic information display system according to the first embodiment (FIG. 1) in that the instruction input unit 102 of the information display device 100 includes a point selection unit 1100. However, other configurations and operations are the same as those in the first embodiment.
[0100]
FIG. 42 is a front view of the display means 101 according to the present embodiment. On the display screen 101a of the display means 101, destinations and passage candidate points (A, B, C, D, E) are displayed together with the map information. Next to the display screen 101a, the point selection means 1100, that is, a button 1101, 1102, 1103, and 1104 are provided. The button 1101 means “forward”, the button 1102 means “return”, the button 1103 means “decision”, and the button 1104 means “cancel”.
[0101]
FIG. 43 is an explanatory diagram showing how a specific point is selected using these buttons 1101, 1102, 1103, 1104. Now, as shown in the selection state (a) of FIG. 43, it is assumed that the route of the point B-C-A is selected as the route, and this route is blinking on the display screen 101 of FIG. Further, as another route, it is assumed that there are two options of a point D-C-A and a point D-E-A. When the driver wants to select another route, the driver can advance the selected portion in the direction of arrow a every time the button 1101 is pressed, and can return the selected portion in the direction of arrow b every time the button 1102 is pressed. In response to this selection, the corresponding route on the display screen 101a of FIG.
[0102]
After selecting the route, the button 1103 is pressed to “decide”. As a result, as shown by an arrow c in FIG. If it is desired to return to the selection state a where the route is selected from the selection state B, the button 1104 is pressed to input “Cancel”. As a result, as shown by the arrow d in FIG. 43, the selection state B returns to the selection state A.
[0103]
In the selection state b, the point where the captured image is to be displayed is selected. There are three points B, C, and A as points for displaying a captured image in a state where the route B-C-A is selected, and they are arranged in order from the starting point. Any one of these three points is selected using a “forward” button 1101 and a “return” button 1102. The selected point is displayed blinking on the display screen 101a of FIG. If the selected point is correct, the “OK” button 1103 is pressed to change to the state C as shown by the arrow c. In this state C, the sentence “Are you sure you want to confirm C?” Is displayed on the display screen 101a in an overlapping manner. When another point is selected, the “cancel” button 1103 is pressed to return to the selection state b as shown by the arrow d. After performing the point selection, when the user presses the “OK” button 1103 to confirm the selected point, the state transitions to the state D as indicated by the arrow c, and the point selection is completed.
[0104]
The operation after the point is selected is the same as that in the first embodiment. In this way, even if there are multiple passing candidate points on the map, the user can easily select a point by operating the four buttons “forward”, “back”, “decision”, and “cancel”. The base station 108 can be requested for a captured image at that point. Since the “cancel” button is not necessarily required, at least three buttons of “forward”, “return”, and “decision” may be provided. This embodiment can be used in combination with each of the embodiments described above.
[0105]
In addition, the selected route and point are stored as initial values even after the selection is completed, and the selection state is restored to the initial value when another point is subsequently selected. As shown in FIG. 4, when the point A is selected next with respect to the initial selected point C, the point A can be selected by pressing the “forward” button 1101 once. As described above, the number of operations of the three buttons “forward”, “return”, and “decision” can be minimized by always storing the previous selection state as the initial value.
[0106]
(Tenth embodiment)
FIG. 44 is a configuration diagram of a traffic information display system according to the tenth embodiment of the present invention. In the traffic information display system according to the present embodiment, an imaging device 107 installed at each point, an accident / congestion information source 1003, and an imaging device search site 1203 are interconnected via the Internet 1201 without having a base station. The in-vehicle information display device 100 is connected to the Internet 1201.
[0107]
The in-vehicle information display device 100 includes wireless transmission / reception means 105 and 1202, and is connected to the Internet 1201 through these. As the wireless transmission / reception means 105 and 1202, multiple types of communication means such as a mobile phone, a personal handyphone system (PHS), and a beacon can be used. The image composition control unit 103 connects to the imaging device search site 1203 via the Internet 1201 and receives the location of the nearby imaging device 107 on the map and the address on the network.
[0108]
When the user selects an imaging device at a location where the road condition is to be confirmed from among the imaging devices present in the vicinity, the image composition control unit 103 is then connected to the imaging device 107 via the Internet 1201 and the imaging is performed. A captured image of the apparatus and camera parameters are received. At this time, that is, when connecting to the imaging device 107, the image composition control unit 103 has a vehicle-specific access key 1207, and the imaging device 107 gives an access permission 1206 according to this access key 1207. The access key 1207 is charged according to the transmitted captured image.
[0109]
As described above, by adopting a configuration that does not have a base station, even if a local system failure occurs, the entire system does not go down, and a traffic information display system system with a high operating rate can be realized. .
[0110]
【The invention's effect】
ADVANTAGE OF THE INVENTION According to this invention, the information which shows the advancing direction of the own vehicle correctly on a picked-up image sent from a base station etc. can be combined and displayed, and it can make a user grasp | ascertain a road condition correctly. It becomes possible to provide a traffic information display system.
[Brief description of the drawings]
FIG. 1 is a configuration diagram of a traffic information display system according to a first embodiment of the present invention.
FIG. 2 is a diagram showing map information displayed on the display means of the traffic information display system according to the first embodiment of the present invention.
FIG. 3 is a diagram showing an example of an installation state of the imaging device in the traffic information display system according to the first embodiment of the present invention.
FIG. 4 is an explanatory diagram of the direction and position of an arrow image indicating a traveling direction determined from camera parameters in the traffic information display system according to the first embodiment of the invention.
FIG. 5 is a diagram showing a display example of a captured image in the traffic information display system according to the first embodiment of the present invention.
FIG. 6 is an explanatory diagram of camera parameters in the traffic information display system according to the first embodiment of the present invention.
FIG. 7 is a configuration diagram of a traffic information display system according to a second embodiment of the present invention.
FIG. 8 is a diagram showing a point selection situation in the traffic information display system according to the second embodiment of the present invention;
FIG. 9 is a diagram showing a map as a bird's-eye view in the traffic information display system according to the second embodiment of the present invention;
FIG. 10 is a diagram showing a process of enlarging and displaying a selected point from the display state of FIG. 9 in the traffic information display system according to the second embodiment of the present invention.
11 is a diagram showing a process of further enlarging and displaying a selected point from the display state of FIG. 10 in the traffic information display system according to the second embodiment of the present invention.
12 is a diagram showing a process of further enlarging and displaying a selected point from the display state of FIG. 11 in the traffic information display system according to the second embodiment of the present invention.
13 is a diagram showing a process of further enlarging and displaying a selected point from the display state of FIG. 12 in the traffic information display system according to the second embodiment of the present invention.
FIG. 14 is a diagram showing a process of further enlarging and displaying a selected point from the display state of FIG. 13 in the traffic information display system according to the second embodiment of the present invention.
15 is an enlarged view of a selected point from the display state of FIG. 14 in the traffic information display system according to the second embodiment of the present invention.
FIG. 16 is a diagram of switching from the display state of FIG. 15 to a captured image display screen in the traffic information display system according to the second embodiment of the present invention;
FIG. 17 is a diagram showing a screen display transition procedure in the traffic information display system according to the second embodiment of the present invention;
FIG. 18 is an explanatory diagram of an imaging range in the traffic information display system according to the second embodiment of the present invention.
FIG. 19 is a configuration diagram of a traffic information display system according to a third embodiment of the present invention.
FIG. 20 is an explanatory diagram of an arrangement of an actual imaging device and a virtual camera in the traffic information display system according to the third embodiment of the present invention.
FIG. 21 is a diagram illustrating a captured image of an actual imaging device in the traffic information display system according to the third embodiment of the invention.
FIG. 22 is a diagram illustrating an example in which a captured image of an actual imaging device in a traffic information display system according to a third embodiment of the present invention is combined with an image viewed from a virtual camera position.
FIG. 23 is an explanatory diagram of a three-dimensional model of texture mapping in the traffic information display system according to the third embodiment of the present invention.
FIG. 24 is an explanatory diagram of an imaging range of a three-dimensional model in the traffic information display system according to the third embodiment of the present invention.
FIG. 25 is a diagram showing a process of enlarging and displaying the screen display of the selected spot in the traffic information display system according to the third embodiment of the present invention.
FIG. 26 is a diagram showing a process of further enlarging the screen display of the selected point from the display state of FIG. 25 in the traffic information display system according to the third embodiment of the present invention.
FIG. 27 is an enlarged view of the screen display of the selected point from the display state of FIG. 26 in the traffic information display system according to the third embodiment of the present invention.
FIG. 28 is a diagram of switching from the display state of FIG. 27 to the display screen of a captured image in the traffic information display system according to the third embodiment of the present invention.
FIG. 29 is a block diagram of a traffic information display system according to a fourth embodiment of the present invention.
FIG. 30 is a diagram showing an example of a captured image in the traffic information display system according to the fourth embodiment of the present invention.
FIG. 31 is a diagram obtained by converting the image shown in FIG. 30 captured by the traffic information display system according to the fourth embodiment of the present invention into an image viewed from a virtual viewpoint by texture mapping;
FIG. 32 is an explanatory diagram of an imaging range used in the traffic information display system according to the fourth embodiment of the present invention.
FIG. 33 is a block diagram of a traffic information display system according to a fifth embodiment of the present invention.
FIG. 34 is a block diagram of a traffic information display system according to a sixth embodiment of the present invention.
FIG. 35 is a screen transition diagram explaining the traffic information display system according to the seventh embodiment of the present invention.
FIG. 36 is a screen explanatory diagram in which the display screen is changed from the display state of FIG. 35 in the traffic information display system according to the seventh embodiment of the present invention.
FIG. 37 is a diagram in which the selected point is further enlarged and displayed from the display state of FIG. 36 in the traffic information display system according to the seventh embodiment of the present invention.
FIG. 38 is an explanatory diagram of image resolution when transmitting captured images of a plurality of different points to a vehicle in the traffic information display system according to the seventh embodiment of the present invention.
FIG. 39 is a block diagram of a traffic information display system according to an eighth embodiment of the present invention.
FIG. 40 is an explanatory diagram of display of accident and traffic jam information in the traffic information display system according to the eighth embodiment of the present invention.
FIG. 41 is a block diagram of a traffic information display system according to a ninth embodiment of the present invention.
FIG. 42 is a front view of display means in the traffic information display system according to the ninth embodiment of the present invention.
FIG. 43 is a functional explanatory diagram of point selection means in the traffic information display system according to the ninth embodiment of the present invention.
FIG. 44 is a block diagram of a traffic information display system according to the tenth embodiment of the present invention.
FIG. 45 is a configuration diagram of a conventional traffic information display system.
FIG. 46 is a conceptual explanatory diagram of a conventional traffic information display system.
FIG. 47 is an explanatory diagram of point selection in a conventional traffic information display system.
FIG. 48 is a diagram showing a captured image display example in the conventional traffic information display system.
FIG. 49 is a diagram showing an installation example of an imaging device in a conventional traffic information display system.
FIG. 50 is a diagram showing a captured image display example in a conventional traffic information display system.
[Explanation of symbols]
100 Information display device mounted on vehicle
101 Display means
101a Display screen
102 Instruction input means
103 Image composition control means
104 Map information database
105 Wireless transmission / reception means
106 GPS
107 Imaging device installed at each point
108 base station
301 Camera parameter database
307 Shooting range
308 Shooting direction
401 viewpoint control means
402 CG image of imaging device
403 Shooting range on the map
504 Virtual camera
509 Texture mapping means
512 Shooting range
601 Three-dimensional (3D) information
606 Three-dimensional object (building)
607 Imaging range
701 Signal storage means
801 Signal storage means
1003 Accident and traffic information
1100 Point selection means
1201 Internet

Claims (7)

各地点に設置された撮像装置による撮像画像のうち選択された地点の撮像画像が要求されたとき前記撮像画像と共に前記撮像装置のカメラパラメータを送信する撮像画像送信装置と、前記撮像画像送信装置から送信されてきた前記撮像画像を受信し前記選択された地点の地図情報と受信した前記カメラパラメータとから受信した前記撮像画像中における自車両の進路方向を求め前記撮像画像に前記進路方向を示す情報を合成して画面に表示する車載用の情報表示装置とを備え、前記情報表示装置は、前記画面に表示した地図情報を視点の移動に従って変化させながら前記画面に表示すると共に前記画面に前記撮像画像を合成して表示すると共に、移動させる前記視点の位置を、前記画面に表示されている地図情報全体を見渡せる位置から、前記画面に表示する前記撮像画像を撮影した前記撮像装置を真後ろから回り込んで前記撮像装置と同じ位置まで変化させることを特徴とする交通情報表示システム。From a captured image transmission device that transmits a camera parameter of the imaging device together with the captured image when a captured image of a selected location is requested among the captured images by the imaging device installed at each point, and the captured image transmission device Information indicating the course direction of the host vehicle in the captured image received in the captured image received from the received map image of the selected point and the received camera parameter. A vehicle-mounted information display device that synthesizes and displays the information on the screen, and the information display device displays the map information displayed on the screen while changing the map information according to the movement of the viewpoint and the imaging on the screen. The image is synthesized and displayed, and the position of the viewpoint to be moved is changed from the position where the entire map information displayed on the screen can be viewed from the front. Traffic information display system characterized by changing to the same position as the image pickup device wraps around the image pickup device captured the captured image to be displayed on the screen from behind. 前記情報表示装置は、前記視点の位置を最終的に前記撮像装置の位置まで変化させ前記撮像装置の前記撮像画像を前記画面に表示し前記進路方向を示す情報を合成表示することを特徴とする請求項1に記載の交通情報表示システム。The information display device finally changes the position of the viewpoint to the position of the imaging device, displays the captured image of the imaging device on the screen, and synthesizes and displays information indicating the course direction. The traffic information display system according to claim 1 . 前記情報表示装置は、前記画面に地図情報を表示するとき前記撮像画像を撮影した前記撮像装置の撮影範囲を合成して表示することを特徴とする請求項1又は請求項に記載の交通情報表示システム。The information display device, traffic information according to claim 1 or claim 2, wherein the displaying by combining imaging range of the imaging device taken the captured image when displaying the map information on the screen Display system. 前記撮像画像送信装置は送信する前記撮像画像の撮影時刻を示す時刻情報を一緒に送信し、前記情報表示装置は、前記画面に表示する前記撮像画像が現在時刻より一定時間以内のデータであるときは前記撮像画像をカラー表示し前記撮像画像が一定時間以上前のデータであるとき前記撮像画像の彩度を落として表示することを特徴とする請求項1乃至請求項のいずれかに記載の交通情報表示システム。When the captured image transmission device transmits time information indicating the photographing time of the captured image to be transmitted, and the information display device displays the captured image to be displayed on the screen within a certain time from the current time. the according to any one of claims 1 to 3, characterized in that to display drop the saturation of the captured image when the captured image is a color display the captured image is the previous data over a predetermined time Traffic information display system. 前記撮像画像送信装置は、前記選択された地点の前記撮像画像及び前記カメラパラメータの他に前記選択された地点の周辺の地点における前記撮像画像及び前記カメラパラメータも送信し、前記情報表示装置は、前記選択された地点の前記撮像画像を前記画面に表示する前に前記周辺の地点の前記撮像画像も前記画面に表示することを特徴とする請求項1乃至請求項のいずれかに記載の交通情報表示システム。The captured image transmission device also transmits the captured image and the camera parameters at points around the selected point in addition to the captured image and the camera parameters of the selected point, and the information display device The traffic according to any one of claims 1 to 4 , wherein the captured image of the surrounding points is also displayed on the screen before the captured image of the selected point is displayed on the screen. Information display system. 前記撮像画像送信装置は、複数の地点に設置されている各撮像装置の前記撮像画像を一緒に送信するとき解像度を落として前記撮像画像を送信することを特徴とする請求項に記載の交通情報表示システム。6. The traffic according to claim 5 , wherein the captured image transmission device transmits the captured image at a reduced resolution when transmitting the captured images of the imaging devices installed at a plurality of points together. Information display system. 前記情報表示装置は、前記撮像画像を静止画像で前記画面に表示するとき白黒画像で表示することを特徴とする請求項1乃至請求項のいずれかに記載の交通情報表示システム。The traffic information display system according to any one of claims 1 to 6 , wherein the information display device displays the captured image as a monochrome image when displaying the captured image as a still image on the screen.
JP2002174365A 2002-06-14 2002-06-14 Traffic information display system, captured image transmission device, in-vehicle information display device and storage medium Expired - Fee Related JP4048292B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002174365A JP4048292B2 (en) 2002-06-14 2002-06-14 Traffic information display system, captured image transmission device, in-vehicle information display device and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002174365A JP4048292B2 (en) 2002-06-14 2002-06-14 Traffic information display system, captured image transmission device, in-vehicle information display device and storage medium

Publications (2)

Publication Number Publication Date
JP2004021514A JP2004021514A (en) 2004-01-22
JP4048292B2 true JP4048292B2 (en) 2008-02-20

Family

ID=31173351

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002174365A Expired - Fee Related JP4048292B2 (en) 2002-06-14 2002-06-14 Traffic information display system, captured image transmission device, in-vehicle information display device and storage medium

Country Status (1)

Country Link
JP (1) JP4048292B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018054334A1 (en) * 2016-09-23 2018-03-29 盯盯拍(深圳)技术股份有限公司 Method and device for live broadcasting of road conditions

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006005451A (en) * 2004-06-15 2006-01-05 Mitsubishi Electric Corp On-vehicle monitor
JP4522880B2 (en) * 2005-02-09 2010-08-11 本田技研工業株式会社 Vehicle steering system
JP4848644B2 (en) * 2005-02-25 2011-12-28 トヨタ自動車株式会社 Obstacle recognition system
JP4207941B2 (en) * 2005-09-02 2009-01-14 パナソニック株式会社 Image display device and image generation device
JP2007093291A (en) * 2005-09-27 2007-04-12 Clarion Co Ltd Navigation device, method, and program
JP4560475B2 (en) * 2005-10-21 2010-10-13 パイオニア株式会社 Communication terminal, information display method, information display program, and recording medium
WO2007046340A1 (en) * 2005-10-21 2007-04-26 Pioneer Corporation Communication terminal, information display method, information display program and recording medium
JP4797849B2 (en) * 2006-07-14 2011-10-19 株式会社デンソー Driving support image display system and in-vehicle device
JP4984974B2 (en) 2007-03-02 2012-07-25 富士通株式会社 Driving support system and in-vehicle device
US20120033123A1 (en) 2010-08-06 2012-02-09 Nikon Corporation Information control apparatus, data analyzing apparatus, signal, server, information control system, signal control apparatus, and program
JP2015215905A (en) * 2015-06-03 2015-12-03 株式会社ニコン Information management device, data analysis device, server, information management system and program
CA2986289A1 (en) * 2017-03-31 2018-09-30 Tvu Networks Corporation Methods, apparatus and systems for exchange of video content
JP7052652B2 (en) * 2018-09-06 2022-04-12 トヨタ自動車株式会社 Mobile robots, remote terminals, mobile robot control programs, and remote terminal control programs
JP7134916B2 (en) * 2019-05-29 2022-09-12 京セラ株式会社 Roadside units, in-vehicle units, and traffic communication systems
CN117063045A (en) 2021-04-06 2023-11-14 三菱电机株式会社 Display control device and display control method

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018054334A1 (en) * 2016-09-23 2018-03-29 盯盯拍(深圳)技术股份有限公司 Method and device for live broadcasting of road conditions

Also Published As

Publication number Publication date
JP2004021514A (en) 2004-01-22

Similar Documents

Publication Publication Date Title
JP4048292B2 (en) Traffic information display system, captured image transmission device, in-vehicle information display device and storage medium
JP4752486B2 (en) Imaging device, video signal selection device, driving support device, automobile
JP4895313B2 (en) Navigation apparatus and method
JP4207941B2 (en) Image display device and image generation device
JP4454681B2 (en) Traffic condition display method, traffic condition display system, in-vehicle device, and computer program
JP4643860B2 (en) VISUAL SUPPORT DEVICE AND SUPPORT METHOD FOR VEHICLE
US20010052861A1 (en) Communication apparatus and its current position communication method, navigation apparatus for a vehicle and its information communication method, computer program product, and computer-readable storage medium
KR101631497B1 (en) Display apparatus, User terminal, and methods thereof
US20080109161A1 (en) Vehicle navigation system including camera unit
JP2014089491A (en) Picture processing system
JP2011049735A (en) Vehicle periphery image providing device
CN106595695A (en) Vehicle-mounted system and car
JPH11211499A (en) Information presenting system
JP7348724B2 (en) In-vehicle device and display method
KR20080045947A (en) Method and apparatus for providing traffic and travel information by synopsis map
WO2013161345A1 (en) Monitoring system and monitoring method
KR100833603B1 (en) Navigation system for providing bird view and method thereof
WO2013094405A1 (en) Monitoring system
JP2006031583A (en) On-vehicle system and remote observation system
JP2001304873A (en) Navigation unit for vehicle, its information communicating method, and computer-readable storage medium
JP2001005994A (en) Device and method for image processing
JP5796638B2 (en) Monitoring system
JP3753306B2 (en) Mobile navigation system
JP2024115033A (en) COMMUNICATION SYSTEM, CONTROL METHOD, AND PROGRAM
JP2005266704A (en) On-vehicle electronic apparatus and method for displaying map in the electronic apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050614

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060324

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070628

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070711

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071010

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071107

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20071114

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071121

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20071128

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071205

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101207

Year of fee payment: 3

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071212

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101207

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111207

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees