JP2004021514A - Traffic information display system, pick-up image transmitter, and onboard information display device and storage medium - Google Patents

Traffic information display system, pick-up image transmitter, and onboard information display device and storage medium Download PDF

Info

Publication number
JP2004021514A
JP2004021514A JP2002174365A JP2002174365A JP2004021514A JP 2004021514 A JP2004021514 A JP 2004021514A JP 2002174365 A JP2002174365 A JP 2002174365A JP 2002174365 A JP2002174365 A JP 2002174365A JP 2004021514 A JP2004021514 A JP 2004021514A
Authority
JP
Japan
Prior art keywords
information display
image
captured image
screen
display system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002174365A
Other languages
Japanese (ja)
Other versions
JP4048292B2 (en
Inventor
Hiroshi Ishii
石井 浩史
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2002174365A priority Critical patent/JP4048292B2/en
Publication of JP2004021514A publication Critical patent/JP2004021514A/en
Application granted granted Critical
Publication of JP4048292B2 publication Critical patent/JP4048292B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Traffic Control Systems (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To obtain a course direction of an own vehicle in a pick-up image when receiving transmitted image data of the image picked up at a distant point, displaying the pick-up image and grasping the congestion situation of a road. <P>SOLUTION: A base station 108 transmits the camera parameter 301 of an imaging apparatus 107 together with the pick-up image when the pick-up image at a selected point out of the pick-up images picked up by the imaging apparatus 107 installed at various points is requested. When the pick-up image transmitted from the base station 108A is received, a course direction of an own vehicle in the pick-up image is obtained from map information 104 of the selected point and the received camera parameter 301, and course direction information is combined with the pick-up image and displayed on a screen. <P>COPYRIGHT: (C)2004,JPO

Description

【0001】
【発明の属する技術分野】
本発明は、車両を運転して目的地に行くとき目的地や通過候補地等の道路状況を映した映像を事前に車載モニタで確認できる交通情報表示システムに係り、特に、映像と自車両の進行予定方向との関係が容易にモニタ画面で把握できる交通情報表示システムとその交通情報表示処理プログラムを格納した記憶媒体に関する。
【0002】
【従来の技術】
遠隔地に設置したカメラによる撮像画像を電送し、車載モニタに表示させる交通情報表示システムが、例えば特開平9―180087号公報に提案されている。この従来の交通情報表示システムでは、行き先や通過候補地点の道路状況を予め把握するために、利用者が通過候補地点等を指定したとき、車両から基地局に対して指定通過候補地点における撮像画像を要求する信号を無線により発信する。
【0003】
基地局は、予めカメラが設置された交差点等の各所の監視所から発信される撮像画像を常時受信しており、車両から指定通過候補地点の撮像画像が要求されたとき、指定通過候補地点の撮像画像を取り出してその車両に対して送信する。この撮像画像を受信した車両は車載モニタにこの撮像画像を表示することにより、利用者は、事前に、通過候補予定地点の道路状況を映像で確認することが可能となる。
【0004】
図45は、上述した従来技術に係る交通情報表示システムの構成図である。この交通情報表示システムは、交差点等の各所の監視所に設置された撮像装置107と、各監視所から送られてくる撮像画像を受信する基地局108と、基地局108に対して通過候補予定地点等の撮像画像を要求し基地局108から送られてくる前記撮像画像を受信する車両搭載の情報表示装置100とで構成される。
【0005】
情報表示装置100は、カーナビゲーションシステムで使用する地図情報を格納した地図情報データベース104と、自車両の位置を取得するGPS(グローバルポジショニングシステム)106と、運転者等からの指示を入力する指示入力手段102と、表示手段(モニタ画面)101と、基地局108との間で信号の授受を行う無線発信受信手段105と、これらを統括制御し画像合成を行って表示手段101に表示する画像合成制御手段103とを備えて構成される。
【0006】
図46は、従来の交通情報表示システムの概念説明図である。交差点等に設置された各所の信号機には夫々監視カメラ(撮像装置)107が取り付けられており、基地局108は、各撮像装置107でリアルタイムに撮像され伝送されて来る撮像画像を受信している。車両1に搭載されている情報表示装置100は、基地局108に対して通過候補地点の映像を要求すると、その通過候補地点の撮像画像(要請画像)が基地局108から伝送され、情報表示装置100はこの撮像画像をモニタ画面に表示する。
【0007】
図47は、撮像画像を基地局に要求するときの説明図である。運転者2は、表示手段101の画面101aにカーナビゲーションシステムで用いる地図情報を表示させる。この地図には、GPS106で計算された現在位置(出発点)から目的地(行き先地点)Aまでが表示され、通過候補ルート10、11の2ルートと、ルート10上の通過候補地点B、Cと、ルート11上の通過候補地点Dとが表示されている。運転者2は、例えばこの地図を見て、例えば通過候補地点Cを指示入力手段102(図45参照)で指定する。
【0008】
図48は、基地局108から送信されてきた撮像画像を車載モニタに表示するときの説明図である。車載の情報表示装置100が撮像画像を受信すると、この撮像画像は表示手段101に表示され、運転者2はこの撮像画像101bを見ることで、通過候補地点Cの混雑状況を把握する。これにより、運転者2は、ルート10、11の適切な選択が可能となる。
【0009】
【発明が解決しようとする課題】
しかしながら、従来の交通情報表示システムでは、車載モニタに表示された通過候補地点における撮像画像だけでは、自車両との関係が判りづらいという問題がある。図49、図50でこの問題を説明する。
【0010】
図49は、通過候補地点Cにおける撮像装置設置状況を例示する図である。通過候補地点Cは十字路であり、4台の撮像装置107a、107b、107c、107dが設置されていたとし、自車両の進行予定方向Fに対して、対向車線の先頭車両3から後続する車両が渋滞を起こしていたとする。
【0011】
図50(a)(b)(c)(d)は、各撮像装置107a、107b、107c、107dの撮像画像であり、撮像装置107a、107b、107c、107dの撮影方向が異なることにより、渋滞の先頭車両3の画像3aの見える位置が異なってくる。
【0012】
運転者が知りたい情報は、図49における自車両の進行予定方向Fが撮像画像上のどの方向であり、その方向と渋滞車両3との位置関係である。しかしながら、図50(a)(b)(c)(d)の撮像画像が基地局108から順次送信されてきても、いずれの撮像画像にも運転者の知りたい情報は含まれておらず、自車両の通過方向と同じ方向に渋滞が発生しているのか、対向車線でのみ渋滞が発生しているのか、それとも自車両の通過方向と交差するルートで渋滞が発生しているのかという判断ができない。
【0013】
上述した従来技術には、撮像画像に進路方向を示す矢印を表示することが記載されている。自車両の通過方向を示す矢印が図50に例示した撮像画像に合成表示されれば上記問題は解決するが、合成表示する矢印の方向をどのような具体的手段で決めることができるのかという課題を解決しないと、実際に上記問題を解決することはできない。
【0014】
本発明の目的は、基地局等から送られてくる撮像画像に自車両の通過方向を示す情報を合成表示することができる交通情報表示システムと、撮像画像送信装置及び車載用の情報表示装置、並びに、その交通情報表示処理プログラムを格納した記憶媒体を提供することにある。
【0015】
【課題を解決するための手段】
上記目的を達成する交通情報表示システムは、各地点に設置された撮像装置による撮像画像のうち選択された地点の撮像画像が要求されたとき前記撮像画像と共に前記撮像装置のカメラパラメータを送信する撮像画像送信装置と、前記撮像画像送信装置から送信されてきた前記撮像画像を受信し前記選択された地点の地図情報と受信した前記カメラパラメータとから受信した前記撮像画像中における自車両の進路方向を求め前記撮像画像に前記進路方向を示す情報を合成して画面に表示する車載用の情報表示装置とを備えたことを特徴とする。
【0016】
この構成により、情報表示装置は、地図情報から分かる自車両の進路方向が、カメラパラメータによって撮像画像中でどの方向になるかを計算して求めることができ、その進路方向を矢印画像などの情報で合成表示することが可能となる。
【0017】
好適には、前記情報表示装置は、前記画面に表示した地図情報を視点の移動に従って変化させながら前記画面に表示すると共に前記画面に前記撮像画像を合成して表示することを特徴とする。この構成により、地図情報上の経路に沿って順に地図情報が変化し最後に撮像画像が表示されるため、撮像画像から道路の混雑状況を容易に把握容易となる。
【0018】
更に好適には、前記情報表示装置は、前記移動させる視点の位置を、前記画面に表示されている地図情報全体を見渡せる位置から、前記画面に表示する前記撮像画像を撮影した前記撮像装置を真後ろから回り込んで前記撮像装置と同じ位置まで変化させることを特徴とする。この構成により、視点の移動が最終的に撮像装置位置となるため、画面に表示された撮像画像が選択地点のどの方向から撮像され自身の進路方向がどちらなのかを更に容易に把握可能となる。
【0019】
更に好適には、前記情報表示装置は、前記画面に表示する前記撮像画像を、仮想カメラから見た画像に変換して前記画面に表示することを特徴とする。この構成により、見づらい歪んだ撮像画像を見やすい画像として表示される。
【0020】
更に好適には、前記情報表示装置は、前記視点の位置を最終的に前記撮像装置の位置まで変化させ前記撮像装置の前記撮像画像を前記画面に表示して前記進路方向を示す情報を合成表示することを特徴とする。この構成より、実際の撮像画像が最終的にどの方向で画面に表示されるかを順を追って理解することができ、直感的に撮像画像を把握可能となる。
【0021】
更に好適には、前記情報表示装置は、前記地図情報として3次元情報を持つことを特徴とする。この構成により、地図情報が見やすくなり、地図情報と撮像画像とが切り替えられたときの違和感がなくなる。
【0022】
更に好適には、前記情報表示装置は、前記画面に地図情報を表示するとき前記撮像画像を撮影した前記撮像装置の撮影範囲を合成して表示することを特徴とする。この構成により、撮像画像が画面に表示される前に撮像範囲がどの範囲であるかを知ることができ、撮像画像が画面に表示されたときにその把握が容易となる。
【0023】
更に好適には、前記撮像画像送信装置は送信する前記撮像画像の撮影時刻を示す時刻情報を一緒に送信し、前記情報表示装置は、前記画面に表示する前記撮像画像が現在時刻より一定時間以内のデータであるときは前記撮像画像をカラー表示し前記撮像画像が一定時間以上前のデータであるとき前記撮像画像の彩度を落として表示することを特徴とする。この構成により、撮像装置による撮影のフレームレートを低くすることができ、省電力化、低コスト化を図ることが可能となる。また、過去の撮像画像が表示された場合でも直感的に数分前の撮像画像であることが認識可能となる。
【0024】
更に好適には、前記撮像画像送信装置は、前記選択された地点の前記撮像画像及び前記カメラパラメータの他に前記選択された地点の周辺の地点における前記撮像画像及び前記カメラパラメータも送信し、前記情報表示装置は、前記選択された地点の前記撮像画像を前記画面に表示する前に前記周辺の地点の前記撮像画像も前記画面に表示することを特徴とする。この構成により、周りの混雑状況が把握でき、経路選択の参考にすることが可能となる。
【0025】
更に好適には、前記撮像画像送信装置は、複数の地点に設置された各撮像装置の前記撮像画像を一緒に送信するとき解像度を落として前記撮像画像を送信することを特徴とする。この構成により、画像データ伝送速度を遅らせることなく複数の撮像画像を送信できる。
【0026】
更に好適には、前記撮像画像送信装置は基地局に設けられ、前記基地局は各地点の前記撮像装置による撮像画像を集め要求された撮像画像を要求先に送信することを特徴とする。この構成により、撮像画像の一元管理可能となる。
【0027】
更に好適には、前記情報表示装置は、前記撮像画像を静止画像で前記画面に表示するとき白黒画像で表示することを特徴とする。画像データの伝送速度が遅かったり、撮像装置の撮影フレームレートが低い場合には、撮像画像を静止画で表示することになるが、この場合に、白黒画像表示とすることで、撮像画像中の車両が止まっているのか、画像が止まった静止画像であるかの識別が容易となり、利用者に誤認を与えるのを回避可能となる。
【0028】
更に好適には、前記撮像画像送信装置はインターネットに接続された各撮像装置に設けられ、前記情報表示装置は前記インターネットを介して前記撮像画像を該当する前記撮像装置に要求することを特徴とする。この構成により、故障が発生した場合でも全体のシステムダウンを回避可能となる。
【0029】
上記目的を達成する撮像画像送信装置は、上述したいずれかの交通情報表示システムを構成する撮像画像送信装置とすることを特徴とする。この撮像画像送信装置からは、カメラパラメータが撮像画像と一緒に送信されるため、車載用の情報表示装置側では、地図情報と合わせて撮像画像中の自車両の進路方向を容易に計算可能となる。
【0030】
上記目的を達成する車載用の情報表示装置は、上述したいずれかの交通情報表示システムを構成する情報表示装置とすることを特徴とする。この情報表示装置は、地図情報とカメラパラメータとから撮像画像中の自車両の進路方向を計算するため、撮像画像を画面に表示するとき進路方向を示す情報を合成表示可能となる。
【0031】
好適には、上記において、前記画面に表示されている地図情報上の地点のうち前記撮像画像を要求する地点を選択する手段を備えたことを特徴とする。この構成により、撮像画像を要求する地図情報上の地点選択が容易となる。
【0032】
更に好適には、前記画面に表示されている地図情報上に、取得した事故、渋滞情報を合成して表示することを特徴とする。この構成により、利用者は道路状況の把握が更に容易となる。
【0033】
更に好適には、前記選択する手段は、前記地図情報上の経路の選択と、選択された経路上の地点の選択を、3種類の入力で行う構成となっていることを特徴とする。この構成により、利用者の操作がより簡単となる。
【0034】
更に好適には、前記選択する手段は、前回選択された情報を保持し次回の選択を前回の選択状態から開始する構成となっていることを特徴とする。この構成により、利用者の選択操作の回数が更に少なくなる。
【0035】
上記のインターネットを用いた交通情報表示システムで、前記撮像画像送信装置は各々アクセス許可を与える手段を備え、前記アクセス許可を求めるアクセスキーを用いて前記撮像画像を要求してきた前記情報表示装置に対して課金することを特徴とする。この構成により、システムのセキュリティが向上し、また、課金が利用頻度に応じて行われる。
【0036】
上記目的を達成する記憶媒体は、表示画面を備える車載用電子装置に処理プログラムを読み込ませることで前記車載用電子装置を上述したいずれかに記載の情報表示装置として動作させる前記処理プログラムを格納したことを特徴とする。この構成により、例えばカーナビゲーションシステムのハードウェア構成を利用可能となる。
【0037】
【発明の実施の形態】
以下、本発明の実施の形態を図面を参照して説明する。
【0038】
(第1の実施の形態)
図1は、本発明の第1の実施の形態に係る交通情報表示システムの構成図である。この交通情報表示システムは、交差点等の各所の監視所に設置された撮像装置107と、各撮像装置107で撮像され送信されてくる撮像画像を撮像装置設置場所毎に区別して受信する基地局108と、基地局108に接続され各撮像装置107の後述するカメラパラメータを保持するカメラパラメータデータベース301と、基地局108との間で無線通信を行い車両の運転者等から要求された通過候補地点等の撮像画像を基地局108から受け取り表示する車両搭載の情報表示装置100とで構成される。尚、カメラパラメータデータベース301は、基地局108に内蔵される構成でもよい。
【0039】
情報表示装置100は、カーナビゲーションシステムで使用する地図情報を格納した地図情報データベース104と、自車両の位置を取得するGPS(グローバルポジショニングシステム)106と、運転者等からの指示を入力する指示入力手段102と、表示手段(モニタ画面)101と、基地局108との間で信号の授受を行う無線発信受信手段105と、これらを統括制御し画像合成を行って表示手段101に表示する画像合成制御手段103とを備えて構成される。
【0040】
この情報表示装置100は、カーナビゲーションシステムと兼用され、カーナビゲーションシステムに本実施の形態に係る交通情報表示処理を行うプログラムをCD―ROMやDVD等の外部記憶媒体から内蔵メモリ等の内部記憶媒体に読み込ませることで、カーナビゲーションシステムを交通情報表示システムの車載側装置(情報表示装置)として動作させるものである。
【0041】
本実施の形態に係る図1に示す情報表示装置100は、図45で説明した従来の情報表示装置100と構成上は同じである。しかし、後述するように、本実施の形態に係る情報表示装置100の画像合成制御手段103は、基地局108から撮像画像と共に送られてくるカメラパラメータの情報を処理して撮像画像に自車両の通過方向を示す矢印等の情報を合成する機能が上記プログラムによって付与されている点が異なる。
【0042】
図2は、図47で説明したカーナビゲーションシステムによりモニタ画面に表示された地図情報である。情報表示装置100の画像合成制御手段103は、この地図情報の出発点と行き先Aとの関係から、いずれのルート10、11でも、自車両の通過方向Fを知ることができる。
【0043】
図3は、図2に示す通過候補地点Bにおけるカメラ(撮像装置)設置状態を示す図である。通過候補地点Bには、一台の撮像装置107が設置されている。この撮像装置107の撮影範囲(画角)307や撮影方向308等のカメラパラメータが、基地局108に設けられたデータベース301に格納されており、基地局108は、車両搭載の情報表示装置100から通過候補地点Bの撮像画像が要求されたとき、この撮像画像と共に、この撮像画像を撮影した撮像装置107のカメラパラメータを一緒に、情報表示装置100に送信する。
【0044】
図4は、図2の地図情報から求めた通過方向を示す矢印Fの説明図である。画像合成制御手段103は、図2の通過方向を示す矢印Fの向きが、合成対象とする撮像画像中でどの方向を向くかを、撮像装置107のカメラパラメータから算出し、また、撮像画像中の通過道路の位置305を算出する。
【0045】
そして、図5に示す様に、矢印Fを位置305に表示し、これに図3の撮像装置107による撮像画像を合成表示する。これにより、この合成画像を運転者が見ることで、自車両の通過方向が撮像画像中のどの方向か一目瞭然となり、図3に示す渋滞車両3の車輌画像3aとの位置関係や混雑の程度を容易に把握可能となる。
【0046】
図6(a)は、図1のデータベース301に格納されている各撮像装置107のカメラパラメータの説明図である。カメラパラメータは、撮像装置107の世界座標位置を示す3次元位置(x,y,z)306の3自由度データと、角度や撮影方向308を示す2自由度データと、撮影方向周りの回転角度310を示す1自由度データの合計6自由度の外部パラメータと、撮像装置107の画角307とレンズ歪み、更にカメラ画角311内のレンズ中心軸312といった内部パラメータとからなる。
【0047】
このカメラパラメータを用いることにより、画像合成制御手段103は、撮像画像の各画素の世界座標位置を計算で求めることが可能となり、車両の進むルートや道路の通過方向Fが、そのカメラパラメータを持った撮像装置107の撮像画面上でどこに写るか、どの方向を向くかを求めることが可能となる。尚ここで、レンズ歪みのデータとは、図6(b)に示す様に、レンズ302への入射光313と、レンズ302からCCDへの入射光314との角度関係を示すデータである。
【0048】
(第2の実施の形態)
図7は、本発明の第2の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、第1の実施の形態に係る交通情報表示システム(図1参照)と比較して、情報表示装置100が視点制御手段401を備え、画像合成制御手段103が視点変換した画像を使って画像合成する点が異なるだけであり、その他の構成と動作は第1の実施の形態と同じである。以下、視点変換した画像の合成表示について説明する。
【0049】
図8は、本実施の形態で運転者2が表示手段101に地図情報を表示させた状態を示す図である。この状態で、運転者2は任意地点、例えば通過候補地点Cを指定する。この指定を行うときの地図情報は、図8の画面101aに示す様に、地図を真上から見た図となっている。
【0050】
通過候補地点Cが指定されると、この指定選択信号が指示入力手段102から画像合成制御手段103を介して視点制御手段401に通知される。この通知を受けた視点制御手段401は、表示手段101に表示する地図情報を視点変換した地図情報に変換し、例えば図9に示す様に、地図を斜め上方からみた鳥瞰図に変換し、表示手段101に表示させる。真上から見た地図を鳥瞰図に変換する方法は、従来から広く知られている。
【0051】
つぎに、視点制御手段401は、選択された地点(今の例では通過候補地点C)のデータを受け取り、視点をその地点Cに近づけることにより、図10に示す様に、表示手段101の表示画面101aに、選択地点Cが次第に拡大表示されるように画面に表示する。図10の画像を表示できる時点では、情報表示装置100は、選択された地点Cに設置されている撮像装置107のカメラパラメータ(撮像装置107の設置位置や撮像範囲等)のデータが基地局108から撮像画像と共に送られてきているため、このカメラパラメータのデータを基にして、図10の表示画面101a中に、撮像装置のコンピュータグラフィック(CG)映像402と、地図上における撮像範囲403を合成表示する。また、ルート10上の通過経路を他の経路より太線等で表示して強調し、通過方向を示す矢印画像Fも表示する。
【0052】
図11は、更に地点Cに視点が近づいたときの表示手段101の表示画面101aを示す図である。この図11では、図10に比較して、地点Cの地図が更に拡大表示されたものとなっている。視点制御手段401は、地点Cまでの距離が所定距離に近づいた段階で、更に視点を地点Cに近づけながら、視点を、撮像装置107(画面101a上ではCG402)の撮影方向の後ろ側に回り込ませる。この動作により、地図を合成し表示する方向を、撮影装置の撮影方向に近づけていくことができ、この動作の経過順に画面101aの状態変化を示したのが、図12、図13、図14である。
【0053】
最終的には、視点制御手段401は、視点を撮像装置402の位置と一致させ、また地図を合成する方向も撮像装置402の撮影方向に一致させる。図15は、そのときの表示画面101aを示したものである。このとき視点は、撮像装置の位置と一致しているので、それまで表示していた撮像装置107のCG402は表示されなくなる。
【0054】
この図15の画面を表示した後、図16に示す様に、図15中の自車両の通過方向を示す矢印Fの画像を基地局108から送られてきた撮像画像に合成して表示画面に表示する。この図15と図16の表示画面101aの切り替えにおいて、図15の表示画面101aが、撮像装置の位置、方向に合わせて地図情報を合成したものであるのに対し、切り替わった後の図16の表示画面101a’では、道路の位置や、水平線などは図15の表示画面101aとほぼ同じ位置関係を保ったままとなるため、運転者は自車両の通過方向を示す矢印画像Fを基に撮像画像を判断でき、道路状況の正確な把握が可能となる。
【0055】
図17は、本実施の形態に係る視点制御手段401の表示制御手順と運転者(利用者)や基地局108からの入力信号との関係を示した説明図である。最初は地点の選択待ち状態となり、地図を真上から見た図(図8の表示画面101a)が表示される(ステップS41)。利用者から地点選択の入力があると、次に鳥瞰図(図9)が表示され(ステップS42)、次に、視点を選択地点に順次接近させていく(ステップS43)。このときの表示画面の遷移を示した図が図10、図11であり、この時点で、情報表示装置100は、基地局108から地点Cに設置されている撮像装置107のカメラパラメータを受信する。
【0056】
更に、視点を選択地点に近づけ撮像装置後方に回り込む処理を行うことで(ステップS44)、表示画面は図12、図13、図14と遷移し、視点の位置と見る方向が撮像装置の位置と撮影方向に一致したとき(ステップS45)、図15が表示される。そして、基地局108から地点Cの撮像画像を受信すると、この撮像画像に通過方向を示す矢印Fを合成して、図16の様に表示する(ステップS46)。
【0057】
ここで、利用者が別の地点例えば目的地Aの選択をすると、ステップS46、S45、S44、S43、S42、S41と逆に進行し、これに伴って表示手段101の表示画面101aも、図16から図15、図14、図13、図12、図11、図10、図9、図8と逆に遷移し、元の地点選択待ち状態に戻る。このように、初期状態に戻るときに視点の動きを逆に制御することにより、いまままで見ていた撮像画像の視点や撮影方向と経路全体との関係を、更に、分かりやすく利用者に認識させることができる。
【0058】
次に、図18(a)(b)(c)を用いて、地図上における撮像範囲403を説明する。図18(a)には、撮影装置402と、その撮影方向404、及び、撮影装置402から撮影方向404に所定距離だけ離れ撮影方向404に垂直な矩形の撮影範囲(画角)405が示されている。更に、撮影範囲405の四隅の夫々と撮影装置402とを接続する4本の線406を示している。この4本の線406で切り取られる四角錐の内側が、撮影装置402の撮影範囲となる。
【0059】
この4本の線406を路面に達するまで延長し、撮影範囲405を路面に投影すると、この投影範囲は、図18(b)に斜線を施した領域407となる。この領域407が、撮影装置402の撮影範囲となる。しかし、撮影範囲407が水平線より上になると、撮影範囲407は矢印E方向に無限に遠方まで延びることになってしまう。撮影範囲407から所定距離離れた範囲は、撮像画像から交通状態について有用な情報を得ることは難しい。
【0060】
そこで、図18(c)に示す様に、撮影方向について撮像装置402から所定距離tだけ離れた上限線408で上記の領域407を区切り生成される台形領域403を、地図上での撮像範囲403とする。これを、図10から図15に示した撮影範囲403として画面に表示する。尚、撮影範囲403の代わりに、上述した四角錐そのものを表示してもよい。
【0061】
以上述べた本実施の形態によれば、撮像画像と自車両の通過方向を示す情報との位置関係が遷移画面によって順次直感的に把握されるため、容易に自車両との関係を認識することができる。
【0062】
(第3の実施の形態)
図19は、本発明の第3の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、第2の実施の形態に係る交通情報表示システム(図7参照)と比較して、情報表示装置100の画像合成制御手段103が、テクスチャマッピング手段509という画像合成処理プログラムで動作する機能手段が付加されている点が異なるだけであり、その他の構成と動作は第2の実施の形態と同じである。以下、テクスチャマッピング法による画像合成表示について説明する。
【0063】
図20は、この第3の実施の形態に係る画像合成制御手段103特有の画像合成方法であるテクスチャマッピング法の説明図である。基地局108から送信されてくる撮像画像は実際のカメラ501による撮像画像であり、実際のカメラ501を設置する場合、その設置位置や設置方向は制約を受け、理想的な位置や方向に取り付けることができるのは稀である。
【0064】
図20に示す実際のカメラ501としては、広角カメラが用いられるのが普通であり、広角カメラで路面506上の被写体503を斜め上方から撮像した場合、その撮像画像は、図21に示す様に、歪んだ路面画像506aに被写体画像503aが表示された画像になる。本実施の形態に係る画像合成制御手段103は、この撮像画像を、図20に示す理想的な位置(例えば、路面506の真上位置)に配置した仮想カメラ504で撮像した画像に変換し、図22に示す様に、表示手段の画面101aに表示するものである。図22で、斜線を施した部分は、実際のカメラ501に写っていない部分である。
【0065】
この例では路面506をモデルとし、撮像画像をテクスチャとし、テクスチャをモデルにマッピングする画像合成方法が採用される。この画像合成方法は、テクスチャマッピング法と呼ばれる。尚、仮想カメラは路面の真上に配置したものとしたが、仮想カメラ504の配置位置は任意であり、実際の撮像画像を任意方向から見た画像に合成することは可能である。また、路面だけでなく、図23に示す様に、実際のカメラ501から一定距離までの路面506と壁507とで構成される3次元的なモデルに対してテクスチャマッピングすることも可能である。
【0066】
図24は、撮像装置107から一定距離までの路面506及び壁507で構成される3次元的なモデルに、テクスチャマッピングする夫々の範囲510、511を示した図である。この第3の実施の形態では、この両範囲510、511を併せた範囲512を、第2の実施の形態における撮像範囲403の代わりに表示する。そして、基地局108から撮像画像信号が送られたとき、直ちにこの撮像画像信号を範囲512上にテクスチャマッピングして表示する。
【0067】
図25、図26、図27、図28は、第2の実施の形態の図13、図14、図15、図16に対応する、本実施の形態に係る表示画面の遷移を示す図であり、図中の範囲512に、撮像画像がテクスチャマッピングされる。本実施の形態では、視点(仮想カメラの配置位置)と撮影方向が、表示画面の遷移に従って、実際の撮像装置107に近づいてくるので、図25、図26、図27と進むに従って、範囲512に表示される合成画像は、実際の撮像画像に近づいてくる様に表示されることとなる。
【0068】
図27に示す表示画面の状態では、視点と撮影方向が撮像装置と同一になるので、テクスチャマッピングで合成される画像も、撮像画像そのものとほぼ同一になる。そして最終的に、図27から図28の表示画面に切り替わり、撮像装置107の撮像画像に通過方向を示す矢印Fの画像が合成されて表示される。図28に示す表示画面に表示される画像の内容は、図27に示す表示画面の画像内容とほとんど同一なため、利用者はこれらをほぼ連続なものとして認識できる。
【0069】
この様に、本実施の形態では、基地局から送信されてくる撮像画像を仮想カメラから見た画像に合成変換して地図データにテクスチャマッピングし、仮想カメラ位置を徐々に実際のカメラ位置に近づけていくため、第2の実施の形態よりも更に通過候補地点等の道路状況を的確に判断可能となる。
【0070】
尚、上述した例では、最終的に、テクスチャマッピングされた合成画像から撮像装置の撮像画像に表示を切り替えたが、必ずしも切り替えなくても良い。なぜならば、図27に示す表示画面の内容と、図28に示す表示画面の内容はほぼ同一であるためである。
【0071】
(第4の実施の形態)
図29は、本発明の第4の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、第3の実施の形態に係る交通情報表示システム(図19参照)と比較して、情報表示装置100の画像合成制御手段103が、テクスチャマッピング手段509という画像合成方法を使用する際、地図情報データベース104の有する3次元情報(3D情報)601を利用する点が異なり、他の構成及び動作は同じである。以下、3D情報601の利用について説明する。
【0072】
図30は、撮像装置で撮影した撮像画像を示す図である。この撮像画像中には、路面を写した画像603と、立体物(図示する例では車両)を写した画像602が存在する。この撮像画像を、上述した第3の実施の形態で説明したテクスチャマッピング法で真上の仮想カメラから映した画像に合成すると、図31に示す画像となる。この図31では、路面の画像605は路面を真上から見た画像となるが、立体物の画像604は、大きくゆがんで合成されてしまう。これは、テクスチャマッピングに用いる路面モデルと、立体物とに大きな位置のずれが生じるためである。
【0073】
実際には、道路監視用の撮像装置は、車両よりも高い位置に設置されているので、車両については、図31に図示した程の歪みは生じない。しかし、ビルなどの建物については、大きな歪みが生じてしまう場合がある。
【0074】
そこで、この第4の実施の形態では、以下の様にして、地図情報が有する3次元情報601を利用する。図32は、その利用方法を示す図である。ここで、路面510と壁511によって構成される撮像範囲512は、第3の実施の形態と同じである。本実施の形態では、地図情報データベース104が有する3次元情報601から、撮像範囲512内にある立体物(建物など)606が検索され、これによって、撮像範囲が、範囲512から範囲607に修正される。新しい撮像範囲607は、テクスチャマッピングをする基になるモデルでもある。
【0075】
この様に、ビルなどの建物についても、地図情報データベース104が有する3次元情報601を利用することによって、モデルとの大きな位置ずれが生じず、合成画像においても同様に大きな歪みが生じることを防ぐことができる。その他の構成及び動作は、第3の実施の形態と同じである。
【0076】
なお、第3、第4の実施の形態では、地図全体から選択地点まで視点を徐々に変化させ、その視点変化に基づいて画面に表示する画像を変化させ、最終的に、視点と撮影方向を、撮像装置の位置と撮影方向に一致させる様にするが、必ずしも一致させなくてもよい。たとえば、最終的に、実際の撮像装置の高さより一定量さらに高い位置から見下ろすような画像を合成してもよい。また選択された地点を真上から見下ろすような画像を合成しても良い。
【0077】
尚、第3、第4の実施の形態では、地点Cに撮像装置を1台設置した場合を説明したが、2台以上設置する様にしても良い。テクスチャマッピング手段による画像合成方法を利用することで、2台以上の撮像装置の各々の撮像画像を1枚の撮像画像に合成するのは容易である。この場合でも、表示する撮像画像の視点を、地図全体から選択地点まで順に変化させることができる。
【0078】
(第5の実施の形態)
図33は、本発明の第5の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、第1の実施の形態に係る交通情報表示システム(図1参照)と比較して、情報表示装置100が、無線発信受信手段105の受信した信号を蓄積する信号蓄積手段701を備え、画像合成制御手段103がこの信号蓄積手段701の蓄積データを利用して画像合成を行う点が異なり、他の構成及び動作は第1の実施の形態と同じである。基地局108と自車両との間の信号伝送速度に制限がある場合に、本実施の形態は特に有効である。
【0079】
基地局108から撮像装置の撮像画像を無線によって車両に伝送するが、信号伝送速度が十分な場合には、リアルタイムな画像(例えば1秒に30フレームの画像)を動画像で伝送することができる。しかし、信号伝送速度が十分でない場合には、動画像のリアルタイムな伝送は無理となる。
【0080】
そこで、本実施の形態では、リアルタイムな動画像を車両に送信するのではなく、コマ落ちさせた動画像を車両に送信する。これにより、遅い信号伝送速度でも車両に必要な撮像画像の伝送が可能となる。車両の情報表示装置100に設けられた信号蓄積手段701は、受信した動画像信号の内、最初の1フレームが受信完了した時点で、この1フレームの画像を静止画として画像合成制御手段103に出力する。画像制御手段103は、入力されてくる画像が静止画像の場合にはこれを白黒画像にし、進路方向を示す矢印画像F等を合成したのち、表示手段101に出力する。
【0081】
この静止画像が表示手段101に表示されている間に、信号蓄積手段701には、無線発信受信手段105で受信されたコマ落ちされた複数フレームでなる動画像が蓄積される。そして、この動画像の受信完了時点で、信号蓄積手段701は、この動画像をループ再生しながら、画像合成制御手段103に出力する。画像制御手段103は、入力画像が動画像の場合、これをカラー画像のまま、進路方向を示す矢印画像F等とを合成したのち、表示手段101に出力する。
【0082】
このような構成により、まず利用者は、地点選択の後、静止画ではあるが、最短の遅延時間で選択地点の様子を見ることが可能となる。この静止画を白黒表示とすることで、渋滞のため画像内の車両が止まっているのか、静止画のため画像内の車両が止まって見えるのかを混同することなく認識することが可能となる。また、動画像のループ再生表示により、通信料金を押さえながら、選択地点での交通の流れの様子を知ることができる。尚、本実施の形態は、上述した他の実施の形態と併用することが可能である。
【0083】
(第6の実施の形態)
図34は、本発明の第6の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、第1の実施の形態の交通情報表示システム(図1)と比較して、基地局108に信号蓄積手段801を設けた点が異なるだけであり、他の構成及び動作は第1の実施の形態と同じである。
【0084】
各地点に設置された撮像装置107と基地局108との間の信号伝送に、伝送量に応じたコストがかかる場合や、撮像装置107の消費電力等を節約する場合等に、本実施の形態は有効である。
【0085】
本実施の形態に係る撮像装置107は、各地点毎に設定された時間毎(例えば交通量が少ない地点では30分毎、少し交通量がある地点では10分毎)に所定時間だけ(例えば30秒だけ)撮像した動画像を基地局108に伝送し、基地局108は、撮像装置107から受信した動画像を、撮影時刻データと共に信号蓄積手段801に格納しておく。
【0086】
そして、基地局108は、車両側から撮像画像の要請信号を受信すると、選択地点の撮像画像を信号蓄積手段801から読み出し、その撮影時刻データと共に車両側に伝送する。車両に搭載されている情報表示手段100の画像制御手段103は、入力されてきた撮影時刻データが現時点より一定時間以上古い場合、これを白黒画像にして、進路方向を示す矢印画像等を合成したのち、撮影時刻と共に表示手段101に出力する。
【0087】
また、入力されてきた撮影時刻データが現時点より一定時間(情報表示装置100に設定されている閾値時間)以上古くない場合は、受信した撮像画像をカラー画像のまま、進路方向を示す矢印画像等を合成したのち、撮影時刻と共に表示手段101に出力する。
【0088】
この様に、本実施の形態によれば、基地局108と撮像装置107との間の通信料金を節約し、消費電力も節減することが可能となる。また、古い画像を白黒表示とすることで、利用者は表示画像が古い画像であることを、すぐに認識できる。撮像画像が古かったとき一律に白黒画像にするのではなく、画像の古さに応じて彩度を落とした画像を表示する構成でもよい。尚、本実施の形態は、上述した他の実施の形態と併用することも可能である。
【0089】
(第7の実施の形態)
次に、本発明の第7の実施の形態に係る交通情報表示システムを説明する。本実施の形態に係る交通情報表示システムの装置構成は、第3の実施の形態(図19参照)と同じであり、選択地点の撮像画像を表示する基本動作も同じであるが、本実施の形態では、例えば選択地点Cの撮像画像を表示するとき、視点が地点Cに至る前の途中の地点Bの撮像画像も表示する点が異なる。
【0090】
即ち、本実施の形態では、前述した図9と同じ図35の鳥瞰図が表示された後、次に図36に示す様に、選択地点Cをズームアップ(拡大表示)するとき、選択地点Cの周辺、この例では選択地点Cより前の地点Bに設置されている撮像装置の撮像画像及びそのカメラパラメータも、選択地点Cに設置されている撮像装置の撮像画像及びそのカメラパラメータと同時に車両側に送信される。
【0091】
車両搭載の情報表示装置100は、これらの信号を受信すると、選択地点Cと選択地点Cの周辺に存在する地点Bのそれぞれについて、合成画像を生成し、表示手段101に表示する。即ち、地点B設置の撮像装置のCG画像402(B)を表示すると共に撮像範囲512(B)に地点Bの撮像画像をテクスチャマッピングで合成して表示し、選択地点C設置の撮像装置のCG画像402(C)を表示すると共に撮像範囲512(C)に選択地点Cの撮像画像をテクスチャマッピングで合成して表示する。
【0092】
次に、図37に示す様に、視点が選択地点Cに近づいて選択地点Cが拡大表示されると、基地局108からは、選択地点Cのみの撮像画像が送信され、車両側では、選択地点Cの撮像範囲512(C)に撮像画像をテクスチャマッピングで合成表示する。それ以降の動作と画面表示は、第3の実施の形態と同じである。
【0093】
図38は、選択地点Cと周辺地点Bの夫々の撮像画像を基地局108が要求車両に対して送信するときの説明図である。複数の地点の撮像画像を車両に送信するときは、図38の上段に示した様に、解像度を低くした画像データで送信し、目的地点だけの撮像画像だけを車両に送信するときは、図38の下段に示した様に、解像度の高い画像データを送信する。これにより、複数箇所の撮像画像を送信するときのデータ送信速度を抑えることが可能となる。
【0094】
本実施の形態によれば、利用者は地点選択の後、選択地点の画像が拡大表示されるまでに、その周辺地点の画像も表示されるので、選択地点だけでなくその周辺の様子も知ることができる。このため、候補経路の交通状態を更に詳しく知ることができ、経路の選択を適切に判断可能となる。
【0095】
また複数の地点からの撮像画像を基地局108が車両側に送信する際、低解像度の画像を送り、選択地点だけの撮像画像を送信する際には、高解像度の画像を送る構成にすることで、通信に必要なデータ送信速度を一定以下に抑えることができる。複数地点からの撮像画像を表示手段101に表示する時点では、各地点の撮像画像は小さく表示されるので、低解像度の画像でも表示画像上では画質の劣化を低く抑えることができる。尚、この実施の形態は、上述した第3、第4、第5、第6の実施の形態と併用することが可能である。
【0096】
(第8の実施の形態)
図39は、本発明の第8の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、第1の実施の形態に係る交通情報表示システム(図1)と比較して、基地局108が事故、渋滞情報1003を取得し、この事故、渋滞情報を車両側に送信し情報表示装置100の表示手段101に表示させる点が異なり、他の構成及び動作は第1の実施の形態と同じである。
【0097】
図40は、最初に利用者(運転者)2が道路情報を確認したい地点を選択するときの様子を示した図であり、表示画面101aには、行き先や通過候補地点(A,B,C,D)が地図情報とともに表示される。このとき、基地局108には、事故、渋滞情報1003が集められており、この事故、渋滞情報1003が車両に送信される。この事故、渋滞情報1003を受信した情報表示装置100では、図40に示すように、候補経路10、11上に、事故を示す画像(図示する例では四角画像)1001や渋滞を示す画像(図示する例では丸画像)1002が地図情報上に合成表示される。
【0098】
運転者2は、この表示画面101を見ながら、経路10、11の中で、渋滞している部分や、事故の影響がありそうな部分の地点を重点的に選択して各地点での状況を基地局108に要求し、交通状況を的確に把握可能となる。尚、この実施の形態は、上述した各実施の形態と併用することができる。
【0099】
(第9の実施の形態)
図41は、本発明の第9の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、第1実施の形態に係る交通情報表示システム(図1)と比較して、情報表示装置100の指示入力手段102が、地点選択手段1100を備える点が異なり、他の構成及び動作は第1の実施の形態と同じである。
【0100】
図42は、本実施の形態に係る表示手段101の正面図である。表示手段101の表示画面101aには、行き先や通過候補地点(A、B、C、D、E)が地図情報とともに表示され、この表示画面101aの横に、地点選択手段1100すなわち、ボタン1101、1102、1103、1104が設けられる。ボタン1101は「進む」、ボタン1102は「戻る」、ボタン1103は「決定」、ボタン1104は「取消」を意味する。
【0101】
図43は、これらのボタン1101、1102、1103、1104を使用して特定地点を選択する様子を示した説明図である。今、図43の選択状態(イ)に示す様に、経路として地点B―C―Aの経路が選択されており、図42の表示画面101上でこの経路が点滅表示されていたとする。また、他の経路として、地点D―C―Aと地点D―E―Aの2つの選択肢があったとする。運転者は、他の経路を選択したい場合には、ボタン1101を押す毎に矢印a方向に選択箇所を進め、ボタン1102を押す毎に矢印b方向に選択箇所を戻すことができる。この選択に応じて、図42の表示画面101a上での該当経路が点滅表示される。
【0102】
経路を選択した後は、ボタン1103を押して「決定」する。これにより、図43の矢印cで示す様に、選択状態イから選択状態ロに進む。選択状態ロから経路選択を行う選択状態イに戻りたい場合には、ボタン1104を押して「取消」を入力する。これにより、図43の矢印dで示す様に、選択状態ロから選択状態イに戻る。
【0103】
選択状態ロでは、撮像画像を表示させたい地点を選択する。経路B―C―Aが選択されている状態で撮像画像を表示させる地点の選択肢としては、B、C、Aの3点があり、出発地点から近い順に並べられる。この3点のうちのいずれかを、「進む」ボタン1101と「戻る」ボタン1102を用いて選択する。選択された地点は、図42の表示画面101a上で点滅表示される。選択した地点が正しければ、「決定」ボタン1103を押して矢印cに示す様に状態ハに遷移する。この状態ハでは、選択地点を確認する文章「Cでいいですか?」が表示画面101a上にオーバーラップ表示される。別の地点を選択しなおす場合には「取消」ボタン1103を押すことで矢印dに示す様に選択状態ロに戻る。地点選択を行った後、利用者が「決定」ボタン1103を押して選択地点を確定すると、矢印cに示す様に状態ニに遷移し、地点選択が完了する。
【0104】
地点が選択された後の動作は、第1の実施の形態と同じである。この様に、地図上で複数の通過候補地点が存在しても、利用者は、「進む」「戻る」「決定」「取消」の4つのボタンを操作することにより、簡単に地点を選択し、その地点の撮像画像を基地局108に要請することができる。なお、「取消」のボタンは必ずしも必須ではないので、最低「進む」「戻る」「決定」の3つのボタンを設ければよい。この実施の形態は、上述した各実施の形態と併用することができる。
【0105】
また、選択された経路と地点を、選択完了後も初期値として記憶しておき、その後に他の地点を選択するときに選択状態を初期値に戻すことで、例えば、図43の選択状態ロに示す様に、初期値の選択地点Cに対して、次に地点Aを選択するとき、「進む」ボタン1101を一回押すだけで、地点Aを選択することが可能となる。このように、前回の選択状態を常に初期値として更新記憶しておくことで、「進む」「戻る」「決定」の3つのボタンの操作回数を最小に抑えることができる。
【0106】
(第10の実施の形態)
図44は、本発明の第10の実施の形態に係る交通情報表示システムの構成図である。本実施の形態に係る交通情報表示システムは、基地局を持たずに、各地点に設置された撮像装置107や、事故、渋滞情報源1003や、撮像装置検索サイト1203がインターネット1201によって相互接続され、このインターネット1201に、車載の情報表示装置100が接続される構成となっている。
【0107】
車載の情報表示装置100は、無線発信受信手段105、1202を備え、これらを介してインターネット1201に接続される。無線発信受信手段105、1202としては、携帯電話機やパーソナルハンディホンシステム(PHS)、ビーコンなど、複種類の通信手段を用いることが可能である。画像合成制御手段103は、インターネット1201を介して撮像装置検索サイト1203に接続し、付近の撮像装置107の地図上での位置とネットワーク上でのアドレスを受信する。
【0108】
利用者が、付近に存在する撮像装置の中から道路状況を確認したい場所の撮像装置を選択すると、画像合成制御手段103は次に、インターネット1201を介してその撮像装置107に接続し、その撮像装置の撮像画像とカメラパラメータを受信する。このとき即ち撮像装置107に接続するとき、画像合成制御手段103は、車両特有のアクセスキー1207を持っており、撮像装置107はこのアクセスキー1207に従ってアクセス許可1206を与える。このアクセスキー1207に対して、送信撮像画像に応じた課金がなされる。
【0109】
以上のように、基地局を持たない構成とすることで、局部的なシステム故障が発生しても、システム全体がダウンすることがなくなり、稼働率の高い交通情報表示システムシステムを実現可能となる。
【0110】
【発明の効果】
本発明によれば、基地局等から送られてくる撮像画像に対して正確に自車両の進行方向を示す情報を合成表示することができ、利用者に道路状況を正しく把握させることが可能な交通情報表示システムを提供することが可能となる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態に係る交通情報表示システムの構成図
【図2】本発明の第1の実施の形態に係る交通情報表示システムの表示手段に表示した地図情報を示す図
【図3】本発明の第1の実施の形態に係る交通情報表示システムにおける撮像装置の設置状況の一例を示す図
【図4】本発明の第1の実施の形態に係る交通情報表示システムにおけるカメラパラメータから決定した進行方向を示す矢印画像の方向と位置の説明図
【図5】本発明の第1の実施の形態に係る交通情報表示システムにおける撮像画像の表示例を示す図
【図6】本発明の第1の実施の形態に係る交通情報表示システムにおけるカメラパラメータの説明図
【図7】本発明の第2の実施の形態に係る交通情報表示システムの構成図
【図8】本発明の第2の実施の形態に係る交通情報表示システムにおける地点選択の状況を示す図
【図9】本発明の第2の実施の形態に係る交通情報表示システムで地図を鳥瞰図として表示した図
【図10】本発明の第2の実施の形態に係る交通情報表示システムで図9の表示状態から選択地点を拡大表示する過程を示す図
【図11】本発明の第2の実施の形態に係る交通情報表示システムで図10の表示状態から選択地点を更に拡大表示する過程を示す図
【図12】本発明の第2の実施の形態に係る交通情報表示システムで図11の表示状態から選択地点を更に拡大表示する過程を示す図
【図13】本発明の第2の実施の形態に係る交通情報表示システムで図12の表示状態から選択地点を更に拡大表示する過程を示す図
【図14】本発明の第2の実施の形態に係る交通情報表示システムで図13の表示状態から選択地点を更に拡大表示する過程を示す図
【図15】本発明の第2の実施の形態に係る交通情報表示システムで図14の表示状態から選択地点を拡大表示した図
【図16】本発明の第2の実施の形態に係る交通情報表示システムで図15の表示状態から撮像画像の表示画面に切り替えた図
【図17】本発明の第2の実施の形態に係る交通情報表示システムにおける画面表示の遷移手順を示す図
【図18】本発明の第2の実施の形態に係る交通情報表示システムにおける撮像範囲の説明図
【図19】本発明の第3の実施の形態に係る交通情報表示システムの構成図
【図20】本発明の第3の実施の形態に係る交通情報表示システムにおける実際の撮像装置と仮想カメラの配置説明図
【図21】本発明の第3の実施の形態に係る交通情報表示システムにおける実際の撮像装置の撮像画像を例示する図
【図22】本発明の第3の実施の形態に係る交通情報表示システムにおける実際の撮像装置の撮像画像を仮想カメラ位置から見た画像に合成した一例を示す図
【図23】本発明の第3の実施の形態に係る交通情報表示システムにおけるテクスチャマッピングの3次元的モデルの説明図
【図24】本発明の第3の実施の形態に係る交通情報表示システムにおける3次元的モデルの撮像範囲の説明図
【図25】本発明の第3の実施の形態に係る交通情報表示システムで選択地点の画面表示を拡大表示する過程を示す図
【図26】本発明の第3の実施の形態に係る交通情報表示システムで選択地点の画面表示を図25の表示状態から更に拡大表示する過程を示す図
【図27】本発明の第3の実施の形態に係る交通情報表示システムで選択地点の画面表示を図26の表示状態から更に拡大表示した図
【図28】本発明の第3の実施の形態に係る交通情報表示システムで図27の表示状態から撮像画像の表示画面に切り替えた図
【図29】本発明の第4の実施の形態に係る交通情報表示システムの構成図
【図30】本発明の第4の実施の形態に係る交通情報表示システムにおける撮像画像の一例を示す図
【図31】本発明の第4の実施の形態に係る交通情報表示システムで撮像された図30に示す画像をテクスチャマッピングで仮想視点から見た画像に変換した図
【図32】本発明の第4の実施の形態に係る交通情報表示システムで用いる撮像範囲の説明図
【図33】本発明の第5の実施の形態に係る交通情報表示システムの構成図
【図34】本発明の第6の実施の形態に係る交通情報表示システムの構成図
【図35】本発明の第7の実施の形態に係る交通情報表示システムの説明する画面遷移図
【図36】本発明の第7の実施の形態に係る交通情報表示システムにおいて図35の表示状態から表示画面を遷移させた画面説明図
【図37】本発明の第7の実施の形態に係る交通情報表示システムにおいて図36の表示状態から選択地点を更に拡大表示させた図
【図38】本発明の第7の実施の形態に係る交通情報表示システムで複数の異なる地点の撮像画像を車両に送信するときの画像解像度の説明図
【図39】本発明の第8の実施の形態に係る交通情報表示システムの構成図
【図40】本発明の第8の実施の形態に係る交通情報表示システムにおける事故、渋滞情報の表示説明図
【図41】本発明の第9の実施の形態に係る交通情報表示システムの構成図
【図42】本発明の第9の実施の形態に係る交通情報表示システムにおける表示手段の正面図
【図43】本発明の第9の実施の形態に係る交通情報表示システムにおける地点選択手段の機能説明図
【図44】本発明の第10の実施の形態に係る交通情報表示システムの構成図
【図45】従来の交通情報表示システムの構成図
【図46】従来の交通情報表示システムにおける概念説明図
【図47】従来の交通情報表示システムにおける地点選択説明図
【図48】従来の交通情報表示システムにおける撮像画像表示例を示す図
【図49】従来の交通情報表示システムにおける撮像装置設置例を示す図
【図50】従来の交通情報表示システムにおける撮像画像表示例を示す図
【符号の説明】
100  車両搭載の情報表示装置
101  表示手段
101a 表示画面
102  指示入力手段
103  画像合成制御手段
104  地図情報データベース
105  無線発信受信手段
106  GPS
107  各地点設置の撮像装置
108  基地局
301  カメラパラメータデータベース
307  撮影範囲
308  撮影方向
401  視点制御手段
402  撮像装置のCG画像
403  地図上での撮影範囲
504  仮想カメラ
509  テクスチャマッピング手段
512  撮影範囲
601  3次元(3D)情報
606  立体物(建物)
607  撮像範囲
701   信号蓄積手段
801   信号蓄積手段
1003  事故、渋滞情報
1100  地点選択手段
1201  インターネット
[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to a traffic information display system capable of confirming in advance an image showing road conditions such as a destination or a candidate passage when driving to a destination by driving a vehicle on an in-vehicle monitor. The present invention relates to a traffic information display system capable of easily grasping the relationship with a scheduled traveling direction on a monitor screen, and a storage medium storing the traffic information display processing program.
[0002]
[Prior art]
A traffic information display system for transmitting an image captured by a camera installed in a remote place and displaying the image on an on-vehicle monitor is proposed in, for example, Japanese Patent Application Laid-Open No. Hei 9-180087. In this conventional traffic information display system, when a user specifies a candidate passage point or the like in order to grasp in advance the road conditions of a destination or a candidate passage point, a vehicle captures an image at the designated candidate passage point from the vehicle to the base station. Is transmitted wirelessly.
[0003]
The base station constantly receives captured images transmitted from monitoring stations at various places such as intersections where cameras are installed in advance, and when a captured image of a designated passing candidate point is requested from a vehicle, the designated passing candidate point The captured image is taken out and transmitted to the vehicle. The vehicle that has received the captured image displays the captured image on the in-vehicle monitor, so that the user can check in advance the road conditions of the scheduled passage candidate point with the video.
[0004]
FIG. 45 is a configuration diagram of the traffic information display system according to the related art described above. The traffic information display system includes an image pickup device 107 installed at a monitoring station at each location such as an intersection, a base station 108 that receives a captured image sent from each monitoring station, and a candidate for passing to the base station 108. An information display device 100 mounted on a vehicle that requests a captured image of a point or the like and receives the captured image sent from the base station 108.
[0005]
The information display device 100 includes a map information database 104 storing map information used in a car navigation system, a GPS (global positioning system) 106 for acquiring the position of the vehicle, and an instruction input for inputting an instruction from a driver or the like. Means 102, display means (monitor screen) 101, wireless transmission / reception means 105 for exchanging signals with base station 108, image synthesis for controlling and controlling these to perform image synthesis and display on display means 101 The control means 103 is provided.
[0006]
FIG. 46 is a conceptual explanatory diagram of a conventional traffic information display system. A monitoring camera (imaging device) 107 is attached to each of the traffic lights installed at intersections and the like, and the base station 108 receives the captured image which is captured and transmitted in real time by each imaging device 107. . When the information display device 100 mounted on the vehicle 1 requests the base station 108 for an image of a candidate passage point, a captured image (request image) of the candidate passage point is transmitted from the base station 108, and the information display device 100 100 displays the captured image on a monitor screen.
[0007]
FIG. 47 is an explanatory diagram when a captured image is requested from the base station. The driver 2 displays map information used in the car navigation system on the screen 101a of the display unit 101. In this map, the current position (starting point) calculated by the GPS 106 to the destination (destination point) A is displayed, and two candidate routes 10 and 11 and candidate locations B and C on the route 10 are displayed. And a candidate passage point D on the route 11 are displayed. The driver 2 looks at this map, for example, and specifies, for example, a candidate passage point C with the instruction input means 102 (see FIG. 45).
[0008]
FIG. 48 is an explanatory diagram when the captured image transmitted from the base station 108 is displayed on the vehicle-mounted monitor. When the in-vehicle information display apparatus 100 receives the captured image, the captured image is displayed on the display unit 101, and the driver 2 grasps the congestion state of the candidate passage point C by looking at the captured image 101b. Thereby, the driver 2 can appropriately select the routes 10 and 11.
[0009]
[Problems to be solved by the invention]
However, the conventional traffic information display system has a problem that it is difficult to recognize the relationship with the host vehicle only from the captured image at the candidate passage point displayed on the on-vehicle monitor. This problem will be described with reference to FIGS.
[0010]
FIG. 49 is a diagram exemplifying an installation state of an imaging device at a candidate passage point C. The candidate passage point C is a crossroad, and four imaging devices 107a, 107b, 107c, and 107d are installed, and a vehicle that follows the leading vehicle 3 in the oncoming lane with respect to the expected traveling direction F of the own vehicle. Suppose there was traffic.
[0011]
FIGS. 50 (a), (b), (c), and (d) show captured images of the imaging devices 107a, 107b, 107c, and 107d. Is different in the position where the image 3a of the leading vehicle 3 can be seen.
[0012]
The information that the driver wants to know is which direction the planned traveling direction F of the own vehicle in FIG. 49 is on the captured image, and the positional relationship between the direction and the traffic jam vehicle 3. However, even if the captured images of FIGS. 50 (a), (b), (c), and (d) are sequentially transmitted from the base station 108, none of the captured images contains information that the driver wants to know. It is determined whether there is congestion in the same direction as the vehicle's passing direction, whether traffic congestion occurs only in the oncoming lane, or whether traffic congestion occurs on the route that intersects with the vehicle's passing direction. Can not.
[0013]
The above-described related art describes displaying an arrow indicating a course direction on a captured image. The above problem can be solved if the arrow indicating the passing direction of the own vehicle is synthesized and displayed on the captured image illustrated in FIG. 50, but the problem of how to determine the direction of the arrow to be synthesized and displayed can be determined. Without solving the above, the above problem cannot be actually solved.
[0014]
An object of the present invention is to provide a traffic information display system capable of combining and displaying information indicating a passing direction of a host vehicle on a captured image sent from a base station or the like, a captured image transmission device, and an in-vehicle information display device. Another object is to provide a storage medium storing the traffic information display processing program.
[0015]
[Means for Solving the Problems]
A traffic information display system that achieves the above object includes an image capturing device that transmits a camera parameter of the image capturing device together with the captured image when a captured image of a selected point is requested among images captured by an image capturing device installed at each point. An image transmitting device, and receives the captured image transmitted from the captured image transmitting device, and calculates the traveling direction of the own vehicle in the captured image received from the map information of the selected point and the received camera parameter. A vehicle-mounted information display device for combining the information indicating the course direction with the captured image and displaying the information on a screen.
[0016]
According to this configuration, the information display device can calculate and determine the direction of the course of the own vehicle that is known from the map information in the captured image based on the camera parameters. Can be combined and displayed.
[0017]
Preferably, the information display device displays the map information displayed on the screen on the screen while changing the map information in accordance with the movement of a viewpoint, and displays the captured image on the screen in a synthesized manner. With this configuration, the map information changes sequentially along the route on the map information, and the captured image is displayed at the end, so that it is easy to easily grasp the congestion state of the road from the captured image.
[0018]
More preferably, the information display device is configured to set the position of the viewpoint to be moved from a position overlooking the entire map information displayed on the screen to a position directly behind the imaging device that has captured the captured image to be displayed on the screen. And is changed to the same position as the imaging device. With this configuration, since the movement of the viewpoint finally becomes the position of the imaging device, the captured image displayed on the screen can be more easily grasped from which direction of the selected point and which direction of the own course is. .
[0019]
More preferably, the information display device is characterized in that the captured image displayed on the screen is converted into an image viewed from a virtual camera and displayed on the screen. With this configuration, a distorted captured image that is difficult to see is displayed as an easy-to-view image.
[0020]
More preferably, the information display device finally changes the position of the viewpoint to the position of the imaging device, displays the captured image of the imaging device on the screen, and synthesizes and displays information indicating the course direction. It is characterized by doing. With this configuration, it is possible to sequentially understand in which direction the actual captured image is finally displayed on the screen, and the captured image can be grasped intuitively.
[0021]
More preferably, the information display device has three-dimensional information as the map information. With this configuration, the map information is easy to see, and the sense of discomfort when the map information and the captured image are switched is eliminated.
[0022]
More preferably, when displaying the map information on the screen, the information display device combines and displays a photographing range of the photographing device that photographed the photographed image. With this configuration, it is possible to know the range of the imaging range before the captured image is displayed on the screen, and it is easy to know when the captured image is displayed on the screen.
[0023]
More preferably, the captured image transmitting device transmits time information indicating the capturing time of the captured image to be transmitted together, and the information display device is configured such that the captured image displayed on the screen is within a certain time from a current time. When the captured image is data of a predetermined time or more, the captured image is displayed in a reduced color. With this configuration, it is possible to reduce the frame rate of shooting by the imaging device, and to achieve power saving and cost reduction. In addition, even when a past captured image is displayed, it is possible to intuitively recognize that the captured image is several minutes ago.
[0024]
More preferably, the captured image transmitting device also transmits the captured image and the camera parameters at a point around the selected point in addition to the captured image and the camera parameters of the selected point, The information display device may also display the captured images of the surrounding points on the screen before displaying the captured images of the selected point on the screen. With this configuration, the surrounding congestion state can be grasped, and can be used as a reference for route selection.
[0025]
More preferably, the captured image transmission device transmits the captured image at a reduced resolution when transmitting the captured images of the imaging devices installed at a plurality of points together. With this configuration, a plurality of captured images can be transmitted without delaying the image data transmission speed.
[0026]
More preferably, the captured image transmitting device is provided in a base station, and the base station collects images captured by the image capturing devices at each point and transmits a requested captured image to a request destination. With this configuration, it is possible to centrally manage the captured image.
[0027]
More preferably, the information display device displays the captured image as a monochrome image when displaying the captured image as a still image on the screen. If the transmission speed of the image data is slow or the imaging frame rate of the imaging device is low, the captured image will be displayed as a still image. It is easy to identify whether the vehicle is stopped or the image is a still image in which the image is stopped, and it is possible to avoid giving a false recognition to the user.
[0028]
More preferably, the captured image transmission device is provided in each imaging device connected to the Internet, and the information display device requests the captured image to the corresponding imaging device via the Internet. . With this configuration, even when a failure occurs, the entire system can be prevented from going down.
[0029]
A captured image transmission device that achieves the above object is a captured image transmission device that constitutes one of the traffic information display systems described above. Since the captured image transmitting device transmits the camera parameters together with the captured image, the information display device for the vehicle can easily calculate the course direction of the own vehicle in the captured image together with the map information. Become.
[0030]
An on-vehicle information display device that achieves the above object is characterized in that it is an information display device that constitutes one of the traffic information display systems described above. Since the information display device calculates the course direction of the own vehicle in the captured image from the map information and the camera parameters, the information indicating the course direction can be displayed when the captured image is displayed on the screen.
[0031]
Preferably, in the above, there is provided means for selecting a point requesting the captured image from points on the map information displayed on the screen. With this configuration, it is easy to select a point on the map information requesting a captured image.
[0032]
More preferably, the acquired accident and traffic congestion information are combined and displayed on the map information displayed on the screen. This configuration makes it easier for the user to grasp the road conditions.
[0033]
More preferably, the selecting means is configured to perform selection of a route on the map information and selection of a point on the selected route by three types of inputs. With this configuration, the operation of the user becomes easier.
[0034]
More preferably, the selection means holds the information selected last time and starts the next selection from the previous selection state. With this configuration, the number of selection operations by the user is further reduced.
[0035]
In the above traffic information display system using the Internet, each of the captured image transmission devices includes a means for granting access permission, and the information display device that has requested the captured image using an access key for requesting the access permission is provided. It is characterized by charging. With this configuration, the security of the system is improved, and charging is performed according to the usage frequency.
[0036]
A storage medium that achieves the above object stores the processing program that causes the in-vehicle electronic device having a display screen to operate as the information display device according to any one of the above-described devices by reading the processing program. It is characterized by the following. With this configuration, for example, the hardware configuration of a car navigation system can be used.
[0037]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
[0038]
(First Embodiment)
FIG. 1 is a configuration diagram of a traffic information display system according to the first embodiment of the present invention. This traffic information display system includes an image pickup device 107 installed at a monitoring station at various places such as an intersection, and a base station 108 that receives an image picked up and transmitted by each image pickup device 107 for each image pickup device installation location. And a camera parameter database 301 connected to the base station 108 and holding camera parameters of each imaging device 107, which will be described later, and a candidate passage point or the like requested by a vehicle driver or the like by performing wireless communication with the base station 108 And an on-vehicle information display device 100 that receives the captured image from the base station 108 and displays it. Note that the camera parameter database 301 may be configured to be built in the base station 108.
[0039]
The information display device 100 includes a map information database 104 storing map information used in a car navigation system, a GPS (global positioning system) 106 for acquiring the position of the vehicle, and an instruction input for inputting an instruction from a driver or the like. Means 102, display means (monitor screen) 101, wireless transmission / reception means 105 for exchanging signals with base station 108, image synthesis for controlling and controlling these to perform image synthesis and display on display means 101 The control means 103 is provided.
[0040]
The information display device 100 is also used as a car navigation system, and stores a program for performing the traffic information display processing according to the present embodiment in the car navigation system from an external storage medium such as a CD-ROM or a DVD to an internal storage medium such as a built-in memory. , The car navigation system is operated as a vehicle-mounted device (information display device) of the traffic information display system.
[0041]
The information display device 100 shown in FIG. 1 according to the present embodiment has the same configuration as the conventional information display device 100 described with reference to FIG. However, as described later, the image synthesis control unit 103 of the information display apparatus 100 according to the present embodiment processes the camera parameter information transmitted together with the captured image from the base station 108 and converts the information of the own vehicle into the captured image. The difference is that a function of synthesizing information such as an arrow indicating a passing direction is provided by the program.
[0042]
FIG. 2 shows map information displayed on the monitor screen by the car navigation system described with reference to FIG. The image synthesizing control means 103 of the information display device 100 can know the passing direction F of the own vehicle on any of the routes 10 and 11 from the relationship between the starting point of the map information and the destination A.
[0043]
FIG. 3 is a diagram illustrating a camera (imaging device) installed state at the candidate passage point B illustrated in FIG. 2. At the passing candidate point B, one imaging device 107 is installed. Camera parameters such as a photographing range (angle of view) 307 and a photographing direction 308 of the image pickup device 107 are stored in a database 301 provided in the base station 108. When a captured image of the passing candidate point B is requested, the camera image parameters of the imaging device 107 that has captured the captured image are transmitted to the information display device 100 together with the captured image.
[0044]
FIG. 4 is an explanatory diagram of an arrow F indicating a passing direction obtained from the map information in FIG. The image synthesis control unit 103 calculates from the camera parameters of the imaging device 107 which direction the arrow F indicating the passing direction in FIG. 2 faces in the captured image to be synthesized, and calculates the direction in the captured image. Of the passing road 305 is calculated.
[0045]
Then, as shown in FIG. 5, an arrow F is displayed at a position 305, and an image captured by the imaging device 107 in FIG. As a result, when the driver views this composite image, it becomes clear at a glance which direction the passing direction of the own vehicle is in the captured image, and the positional relationship between the congested vehicle 3 and the vehicle image 3a shown in FIG. It can be easily grasped.
[0046]
FIG. 6A is an explanatory diagram of camera parameters of each imaging device 107 stored in the database 301 of FIG. The camera parameters include three-degree-of-freedom data of a three-dimensional position (x, y, z) 306 indicating a world coordinate position of the imaging device 107, two-degree-of-freedom data indicating an angle and a shooting direction 308, and a rotation angle around the shooting direction. An external parameter having a total of 6 degrees of freedom of 1-degree-of-freedom data indicating 310, internal parameters such as an angle of view 307 and lens distortion of the imaging device 107, and a lens center axis 312 within a camera angle of view 311 are included.
[0047]
By using the camera parameters, the image synthesis control unit 103 can calculate the world coordinate position of each pixel of the captured image by calculation, and the route along which the vehicle travels and the direction of passage F of the road have the camera parameters. It is possible to determine where on the imaging screen of the imaging device 107 the image is to be taken and in which direction. Here, the lens distortion data is, as shown in FIG. 6B, data indicating an angular relationship between incident light 313 to the lens 302 and incident light 314 from the lens 302 to the CCD.
[0048]
(Second embodiment)
FIG. 7 is a configuration diagram of a traffic information display system according to the second embodiment of the present invention. The traffic information display system according to the present embodiment is different from the traffic information display system according to the first embodiment (see FIG. 1) in that the information display device 100 includes the viewpoint control unit 401 and the image synthesis control unit. The only difference is that the image synthesis is performed by the image 103 using the viewpoint-converted image. Other configurations and operations are the same as those of the first embodiment. Hereinafter, the composite display of the viewpoint-converted image will be described.
[0049]
FIG. 8 is a diagram illustrating a state in which the driver 2 displays the map information on the display unit 101 in the present embodiment. In this state, the driver 2 specifies an arbitrary point, for example, a candidate passage point C. The map information at the time of this designation is a view of the map as viewed from directly above as shown in a screen 101a of FIG.
[0050]
When the candidate passage point C is designated, the designation selection signal is notified from the instruction input unit 102 to the viewpoint control unit 401 via the image synthesis control unit 103. Upon receiving this notification, the viewpoint control unit 401 converts the map information displayed on the display unit 101 into map information obtained by performing viewpoint conversion, and converts the map into a bird's-eye view viewed from diagonally above as shown in FIG. 101 is displayed. A method of converting a map viewed from directly above into a bird's-eye view has been widely known.
[0051]
Next, the viewpoint control unit 401 receives the data of the selected point (in this example, the candidate passage point C) and brings the viewpoint closer to the point C, thereby displaying the display unit 101 as shown in FIG. The selected point C is displayed on the screen 101a such that the selected point C is gradually enlarged. At the time when the image in FIG. 10 can be displayed, the information display device 100 stores the data of the camera parameters (the installation position, the imaging range, and the like of the imaging device 107) of the imaging device 107 installed at the selected point C in the base station 108. From the camera, the computer graphic (CG) image 402 of the imaging device and the imaging range 403 on the map are synthesized on the display screen 101a of FIG. 10 based on the camera parameter data. indicate. Further, the passing route on the route 10 is displayed and emphasized by a bold line or the like from other routes, and an arrow image F indicating the passing direction is also displayed.
[0052]
FIG. 11 is a diagram showing the display screen 101a of the display means 101 when the viewpoint further approaches the point C. In FIG. 11, the map of the point C is further enlarged and displayed as compared with FIG. When the distance to the point C approaches a predetermined distance, the viewpoint control unit 401 moves the viewpoint to the rear side in the shooting direction of the imaging device 107 (CG 402 on the screen 101a) while further moving the viewpoint to the point C. Let By this operation, the direction in which the map is synthesized and displayed can be made closer to the imaging direction of the imaging device, and the state change of the screen 101a in the order of the operation is shown in FIG. 12, FIG. 13, and FIG. It is.
[0053]
Eventually, the viewpoint control unit 401 matches the viewpoint with the position of the imaging device 402, and also matches the direction in which the map is synthesized with the imaging direction of the imaging device 402. FIG. 15 shows the display screen 101a at that time. At this time, since the viewpoint matches the position of the imaging device, the CG 402 of the imaging device 107 which has been displayed up to that point is not displayed.
[0054]
After the screen of FIG. 15 is displayed, as shown in FIG. 16, the image of the arrow F indicating the passing direction of the own vehicle in FIG. 15 is synthesized with the captured image sent from the base station 108, and displayed on the display screen. indicate. In the switching between the display screens 101a in FIGS. 15 and 16, the display screen 101a in FIG. 15 combines the map information in accordance with the position and the direction of the imaging device, whereas the display screen 101a in FIG. On the display screen 101a ', the position of the road, the horizon, and the like remain almost the same positional relationship as the display screen 101a of FIG. 15, so that the driver takes an image based on the arrow image F indicating the passing direction of the own vehicle. The image can be determined, and the road condition can be accurately grasped.
[0055]
FIG. 17 is an explanatory diagram showing the relationship between the display control procedure of the viewpoint control unit 401 and the input signals from the driver (user) and the base station 108 according to the present embodiment. At first, a point selection waiting state is set, and a diagram (display screen 101a in FIG. 8) in which the map is viewed from directly above is displayed (step S41). When the user inputs a point selection, a bird's-eye view (FIG. 9) is displayed next (step S42), and the viewpoint is sequentially approached to the selected point (step S43). FIGS. 10 and 11 show the transition of the display screen at this time. At this point, the information display device 100 receives the camera parameters of the imaging device 107 installed at the point C from the base station 108. .
[0056]
Further, by performing a process of moving the viewpoint closer to the selected point and wrapping around the back of the imaging device (step S44), the display screen transitions to FIG. 12, FIG. 13, and FIG. When it matches the shooting direction (step S45), FIG. 15 is displayed. Then, when the captured image of the point C is received from the base station 108, an arrow F indicating the passing direction is combined with the captured image and displayed as shown in FIG. 16 (step S46).
[0057]
Here, when the user selects another point, for example, the destination A, the process proceeds in the reverse of steps S46, S45, S44, S43, S42, and S41, and the display screen 101a of the display unit 101 also changes as shown in FIG. The transition from 16 to FIG. 15, FIG. 14, FIG. 13, FIG. 12, FIG. 11, FIG. 9, FIG. In this way, by controlling the movement of the viewpoint in reverse when returning to the initial state, the user can more easily understand the relationship between the viewpoint and the shooting direction of the captured image and the entire route, which have been viewed as it is. Can be done.
[0058]
Next, the imaging range 403 on the map will be described with reference to FIGS. FIG. 18A shows a photographing device 402, its photographing direction 404, and a rectangular photographing range (angle of view) 405 that is separated from the photographing device 402 by a predetermined distance in the photographing direction 404 and is perpendicular to the photographing direction 404. ing. Further, four lines 406 connecting each of the four corners of the photographing range 405 to the photographing device 402 are shown. The inside of the quadrangular pyramid cut off by these four lines 406 is the shooting range of the shooting device 402.
[0059]
When these four lines 406 are extended until the road surface is reached, and the photographing range 405 is projected on the road surface, the projected range becomes a hatched area 407 in FIG. 18B. This area 407 is the photographing range of the photographing device 402. However, when the photographing range 407 is above the horizontal line, the photographing range 407 extends infinitely far in the direction of arrow E. It is difficult to obtain useful information on traffic conditions from the captured image in a range that is a predetermined distance away from the shooting range 407.
[0060]
Therefore, as shown in FIG. 18C, a trapezoidal area 403 generated by partitioning the area 407 by an upper limit line 408 separated by a predetermined distance t from the imaging device 402 in the imaging direction is defined as an imaging range 403 on a map. And This is displayed on the screen as the photographing range 403 shown in FIGS. Note that, instead of the photographing range 403, the above-described quadrangular pyramid itself may be displayed.
[0061]
According to the above-described embodiment, since the positional relationship between the captured image and the information indicating the passing direction of the own vehicle is sequentially and intuitively grasped by the transition screen, it is easy to recognize the relationship with the own vehicle. Can be.
[0062]
(Third embodiment)
FIG. 19 is a configuration diagram of a traffic information display system according to the third embodiment of the present invention. The traffic information display system according to the present embodiment is different from the traffic information display system according to the second embodiment (see FIG. 7) in that The only difference is that a functional means operated by an image synthesizing processing program is added, and other configurations and operations are the same as those of the second embodiment. Hereinafter, the image synthesis display by the texture mapping method will be described.
[0063]
FIG. 20 is an explanatory diagram of a texture mapping method, which is an image composition method unique to the image composition control unit 103 according to the third embodiment. The captured image transmitted from the base station 108 is an image captured by the actual camera 501. When the actual camera 501 is installed, its installation position and installation direction are restricted, and the actual camera 501 should be installed at an ideal position and direction. Is rare.
[0064]
As an actual camera 501 shown in FIG. 20, a wide-angle camera is generally used. When a wide-angle camera captures an image of a subject 503 on a road surface 506 from obliquely above, the captured image is as shown in FIG. , The subject image 503a is displayed on the distorted road surface image 506a. The image synthesis control unit 103 according to the present embodiment converts the captured image into an image captured by a virtual camera 504 arranged at an ideal position (for example, a position directly above the road surface 506) illustrated in FIG. As shown in FIG. 22, it is displayed on the screen 101a of the display means. In FIG. 22, the hatched portions are portions that are not actually captured by the camera 501.
[0065]
In this example, an image synthesis method is adopted in which the road surface 506 is used as a model, the captured image is used as a texture, and the texture is mapped to the model. This image synthesis method is called a texture mapping method. Although the virtual camera is arranged directly above the road surface, the arrangement position of the virtual camera 504 is arbitrary, and it is possible to combine an actual captured image with an image viewed from an arbitrary direction. Further, as shown in FIG. 23, it is also possible to perform texture mapping not only on the road surface but also on a three-dimensional model composed of the road surface 506 and the wall 507 at a certain distance from the actual camera 501.
[0066]
FIG. 24 is a diagram showing respective ranges 510 and 511 for texture mapping on a three-dimensional model composed of a road surface 506 and a wall 507 up to a certain distance from the imaging device 107. In the third embodiment, a range 512 that combines the two ranges 510 and 511 is displayed instead of the imaging range 403 in the second embodiment. Then, when the captured image signal is transmitted from the base station 108, the captured image signal is immediately texture-mapped on the range 512 and displayed.
[0067]
FIG. 25, FIG. 26, FIG. 27, and FIG. 28 are diagrams showing the transition of the display screen according to the present embodiment corresponding to FIG. 13, FIG. 14, FIG. 15, and FIG. , A captured image is texture-mapped to a range 512 in FIG. In the present embodiment, the viewpoint (location position of the virtual camera) and the shooting direction approach the actual imaging device 107 in accordance with the transition of the display screen. Therefore, as the process proceeds from FIG. 25, FIG. 26, and FIG. Is displayed so as to approach the actual captured image.
[0068]
In the state of the display screen shown in FIG. 27, the viewpoint and the shooting direction are the same as those of the imaging device, so that the image synthesized by texture mapping is almost the same as the captured image itself. Finally, the screen is switched from the display screen of FIG. 27 to the display screen of FIG. 28, and the image of the arrow F indicating the passing direction is combined with the captured image of the imaging device 107 and displayed. Since the contents of the image displayed on the display screen shown in FIG. 28 are almost the same as the image contents of the display screen shown in FIG. 27, the user can recognize these as substantially continuous.
[0069]
As described above, in the present embodiment, the captured image transmitted from the base station is synthesized and converted into an image viewed from the virtual camera, texture-mapped to map data, and the virtual camera position gradually approaches the actual camera position. Therefore, it is possible to more accurately determine the road conditions such as the candidate passage points than in the second embodiment.
[0070]
In the above-described example, the display is finally switched from the texture-mapped composite image to the image captured by the image capturing apparatus. However, the display need not always be switched. This is because the contents of the display screen shown in FIG. 27 and the contents of the display screen shown in FIG. 28 are almost the same.
[0071]
(Fourth embodiment)
FIG. 29 is a configuration diagram of a traffic information display system according to the fourth embodiment of the present invention. The traffic information display system according to the present embodiment is different from the traffic information display system according to the third embodiment (see FIG. 19) in that the image synthesis control means 103 of the information display apparatus 100 is different from the traffic information display system in that the texture mapping means 509 is used. When the image synthesis method is used, three-dimensional information (3D information) 601 of the map information database 104 is used, and the other configurations and operations are the same. Hereinafter, the use of the 3D information 601 will be described.
[0072]
FIG. 30 is a diagram illustrating a captured image captured by the imaging device. The captured image includes an image 603 of a road surface and an image 602 of a three-dimensional object (vehicle in the illustrated example). When this captured image is combined with the image projected from the virtual camera directly above by the texture mapping method described in the third embodiment, an image shown in FIG. 31 is obtained. In FIG. 31, the road surface image 605 is an image of the road surface viewed from directly above, but the three-dimensional object image 604 is greatly distorted and synthesized. This is because a large positional shift occurs between the road surface model used for texture mapping and the three-dimensional object.
[0073]
Actually, the road monitoring image pickup device is installed at a position higher than the vehicle, so that the vehicle is not distorted as shown in FIG. However, for a building such as a building, a large distortion may occur.
[0074]
Therefore, in the fourth embodiment, the three-dimensional information 601 included in the map information is used as described below. FIG. 32 is a diagram showing a usage method. Here, the imaging range 512 constituted by the road surface 510 and the wall 511 is the same as in the third embodiment. In the present embodiment, a three-dimensional object (such as a building) 606 within the imaging range 512 is searched from the three-dimensional information 601 included in the map information database 104, whereby the imaging range is corrected from the range 512 to the range 607. You. The new imaging range 607 is also a model on which texture mapping is performed.
[0075]
As described above, even for a building such as a building, by using the three-dimensional information 601 included in the map information database 104, a large positional deviation from the model does not occur, and a large distortion is similarly prevented from occurring in the composite image. be able to. Other configurations and operations are the same as those of the third embodiment.
[0076]
In the third and fourth embodiments, the viewpoint is gradually changed from the entire map to the selected point, the image displayed on the screen is changed based on the change in the viewpoint, and finally, the viewpoint and the shooting direction are changed. Although the position of the imaging device is made to coincide with the imaging direction, it is not always necessary to make them coincide. For example, an image that looks down from a position that is higher than the actual height of the imaging device by a certain amount may be synthesized. Further, an image that looks down on the selected point from directly above may be combined.
[0077]
In the third and fourth embodiments, the case where one imaging device is installed at the point C has been described, but two or more imaging devices may be installed. By using the image combining method by the texture mapping means, it is easy to combine the captured images of two or more imaging devices into one captured image. Even in this case, the viewpoint of the captured image to be displayed can be changed in order from the entire map to the selected point.
[0078]
(Fifth embodiment)
FIG. 33 is a configuration diagram of a traffic information display system according to the fifth embodiment of the present invention. The traffic information display system according to the present embodiment is different from the traffic information display system according to the first embodiment (see FIG. 1) in that the information display apparatus 100 converts the signal received by the wireless transmission / reception means 105. The difference is that a signal accumulating unit 701 for accumulating is provided, and the image synthesizing control unit 103 performs image synthesizing using the data accumulated in the signal accumulating unit 701, and other configurations and operations are the same as those of the first embodiment. is there. This embodiment is particularly effective when the signal transmission speed between the base station 108 and the host vehicle is limited.
[0079]
An image captured by the imaging device is wirelessly transmitted from the base station 108 to the vehicle. If the signal transmission speed is sufficient, a real-time image (for example, an image of 30 frames per second) can be transmitted as a moving image. . However, if the signal transmission speed is not sufficient, real-time transmission of moving images becomes impossible.
[0080]
Therefore, in the present embodiment, instead of transmitting a real-time moving image to the vehicle, a moving image with dropped frames is transmitted to the vehicle. This makes it possible to transmit a captured image required for a vehicle even at a low signal transmission speed. The signal storage means 701 provided in the information display device 100 of the vehicle sends the image of the one frame as a still image to the image synthesizing control means 103 when the first frame of the received moving image signal is completely received. Output. When the input image is a still image, the image control unit 103 converts the image into a black-and-white image, synthesizes an arrow image F indicating the course direction, and outputs the combined image to the display unit 101.
[0081]
While the still image is being displayed on the display unit 101, the signal storage unit 701 stores the moving image composed of a plurality of dropped frames received by the wireless transmission / reception unit 105. When the reception of the moving image is completed, the signal storage unit 701 outputs the moving image to the image combining control unit 103 while performing loop reproduction. When the input image is a moving image, the image control unit 103 synthesizes the moving image with an arrow image F or the like indicating a course direction and outputs the synthesized image to the display unit 101.
[0082]
With such a configuration, first, after selecting a point, the user can view the state of the selected point with the shortest delay time, though it is a still image. By displaying this still image in black and white, it is possible to recognize without confusion whether the vehicle in the image is stationary due to traffic congestion or whether the vehicle in the image is stationary due to the still image. Further, the loop playback display of the moving image allows the user to know the traffic flow at the selected point while keeping down the communication fee. This embodiment can be used in combination with the other embodiments described above.
[0083]
(Sixth embodiment)
FIG. 34 is a configuration diagram of a traffic information display system according to the sixth embodiment of the present invention. The traffic information display system according to the present embodiment is different from the traffic information display system according to the first embodiment (FIG. 1) only in that signal storage means 801 is provided in base station 108. Other configurations and operations are the same as those of the first embodiment.
[0084]
This embodiment is used when signal transmission between the imaging device 107 installed at each point and the base station 108 requires a cost according to the amount of transmission, or when power consumption of the imaging device 107 is reduced. Is valid.
[0085]
The image capturing apparatus 107 according to the present embodiment is provided for only a predetermined time (for example, 30 minutes at a point where traffic volume is small, and every 10 minutes at a point where traffic volume is small) set for each point. The captured moving image is transmitted to the base station 108, and the base station 108 stores the moving image received from the imaging device 107 in the signal storage unit 801 together with the shooting time data.
[0086]
When the base station 108 receives a request signal for a captured image from the vehicle, the base station 108 reads the captured image at the selected point from the signal storage unit 801 and transmits the captured image to the vehicle along with the shooting time data. The image control means 103 of the information display means 100 mounted on the vehicle, when the input photographing time data is older than a certain period of time from the present time, converts this into a black-and-white image and synthesizes an arrow image indicating the course direction and the like. After that, the information is output to the display unit 101 together with the shooting time.
[0087]
If the input photographing time data is not older than the current time by more than a certain time (threshold time set in the information display device 100), the received captured image remains a color image, and an arrow image indicating the course direction is displayed. Are output to the display unit 101 together with the shooting time.
[0088]
As described above, according to the present embodiment, it is possible to save the communication fee between the base station 108 and the imaging device 107, and to reduce the power consumption. Further, by displaying the old image in black and white, the user can immediately recognize that the display image is the old image. When the captured image is old, the image may not be converted to a black and white image uniformly, but may be configured to display an image whose saturation is lowered according to the age of the image. Note that this embodiment can be used in combination with the other embodiments described above.
[0089]
(Seventh embodiment)
Next, a traffic information display system according to a seventh embodiment of the present invention will be described. The device configuration of the traffic information display system according to the present embodiment is the same as that of the third embodiment (see FIG. 19), and the basic operation of displaying the captured image of the selected point is the same. The embodiment is different in that, for example, when a captured image of the selected point C is displayed, a captured image of a point B on the way before the viewpoint reaches the point C is also displayed.
[0090]
That is, in the present embodiment, after the bird's-eye view of FIG. 35 that is the same as that of FIG. 9 is displayed, when the selected point C is zoomed up (enlarged display) as shown in FIG. In the vicinity, in this example, the captured image of the imaging device installed at the point B before the selected point C and the camera parameters thereof are also the same as the captured image of the imaging device installed at the selected point C and the camera parameters. Sent to.
[0091]
Upon receiving these signals, the information display device 100 mounted on the vehicle generates a composite image for each of the selected point C and the point B existing around the selected point C, and displays the composite image on the display unit 101. That is, the CG image 402 (B) of the imaging device at the point B is displayed, and the captured image of the point B is synthesized and displayed in the imaging range 512 (B) by texture mapping. The image 402 (C) is displayed, and the captured image of the selected point C is synthesized and displayed in the imaging range 512 (C) by texture mapping.
[0092]
Next, as shown in FIG. 37, when the viewpoint approaches the selected point C and the selected point C is enlarged and displayed, the base station 108 transmits a captured image of only the selected point C, and the vehicle selects the selected point C. The captured image is synthesized and displayed in the imaging range 512 (C) at the point C by texture mapping. Subsequent operations and screen display are the same as in the third embodiment.
[0093]
FIG. 38 is an explanatory diagram when the base station 108 transmits captured images of the selected point C and the peripheral point B to the requesting vehicle. When transmitting captured images at a plurality of points to the vehicle, as shown in the upper part of FIG. 38, the image data with reduced resolution is transmitted. As shown in the lower part of 38, image data with high resolution is transmitted. This makes it possible to reduce the data transmission speed when transmitting captured images at a plurality of locations.
[0094]
According to the present embodiment, after the point is selected, the image of the peripheral point is displayed before the image of the selected point is enlarged and displayed, so that not only the selected point but also the surrounding area is known. be able to. For this reason, the traffic condition of the candidate route can be known in more detail, and the selection of the route can be appropriately determined.
[0095]
Further, when the base station 108 transmits captured images from a plurality of points to the vehicle side, the base station 108 transmits a low-resolution image, and when transmitting a captured image of only the selected point, a high-resolution image is transmitted. Thus, the data transmission speed required for communication can be suppressed to a certain value or less. At the time of displaying captured images from a plurality of points on the display unit 101, the captured images at the respective points are displayed in a small size, so that even if the image has a low resolution, deterioration of the image quality on the display image can be suppressed to a low level. This embodiment can be used in combination with the above-described third, fourth, fifth, and sixth embodiments.
[0096]
(Eighth embodiment)
FIG. 39 is a configuration diagram of a traffic information display system according to the eighth embodiment of the present invention. The traffic information display system according to the present embodiment is different from the traffic information display system according to the first embodiment (FIG. 1) in that the base station 108 obtains accident / congestion information 1003, The difference is that the information is transmitted to the vehicle side and displayed on the display means 101 of the information display device 100, and other configurations and operations are the same as those of the first embodiment.
[0097]
FIG. 40 is a diagram showing a state where the user (driver) 2 first selects a point at which the user wants to check the road information. The display screen 101a shows a destination and a candidate passage point (A, B, C). , D) are displayed together with the map information. At this time, accident and traffic congestion information 1003 is collected in the base station 108, and the accident and traffic congestion information 1003 is transmitted to the vehicle. As shown in FIG. 40, the information display device 100 that has received the accident / congestion information 1003 displays an image (square image in the illustrated example) 1001 indicating an accident and an image (contrast image) on the candidate routes 10 and 11 as illustrated in FIG. In this example, a circle image 1002 is superimposed and displayed on the map information.
[0098]
While looking at the display screen 101, the driver 2 selects, in the routes 10 and 11, a portion of a congested portion or a portion likely to be affected by an accident, and focuses on the situation at each location. Is requested to the base station 108, and the traffic situation can be accurately grasped. This embodiment can be used in combination with the above-described embodiments.
[0099]
(Ninth embodiment)
FIG. 41 is a configuration diagram of the traffic information display system according to the ninth embodiment of the present invention. The traffic information display system according to the present embodiment is different from the traffic information display system according to the first embodiment (FIG. 1) in that the instruction input means 102 of the information display device 100 includes a point selection means 1100. However, other configurations and operations are the same as those of the first embodiment.
[0100]
FIG. 42 is a front view of display means 101 according to the present embodiment. On the display screen 101a of the display means 101, destinations and candidate passage points (A, B, C, D, E) are displayed together with the map information, and beside the display screen 101a, a point selection means 1100, that is, a button 1101, 1102, 1103, and 1104 are provided. The button 1101 indicates “forward”, the button 1102 indicates “return”, the button 1103 indicates “enter”, and the button 1104 indicates “cancel”.
[0101]
FIG. 43 is an explanatory diagram showing how a specific point is selected using these buttons 1101, 1102, 1103, and 1104. Now, it is assumed that, as shown in the selection state (A) of FIG. 43, the route of the point BCA is selected as the route, and this route is blinking on the display screen 101 of FIG. It is also assumed that there are two alternative routes, a point D-C-A and a point D-E-A. If the driver wants to select another route, the driver can advance the selected location in the direction of arrow a each time the button 1101 is pressed, and return the selected location in the direction of arrow b each time the button 1102 is pressed. In response to this selection, the corresponding route on the display screen 101a of FIG. 42 is displayed blinking.
[0102]
After selecting the route, the user presses the button 1103 to “determine”. As a result, as shown by an arrow c in FIG. 43, the process proceeds from the selected state A to the selected state B. When it is desired to return from the selection state B to the selection state A in which the route is selected, the user presses the button 1104 and inputs "cancel". As a result, as shown by an arrow d in FIG. 43, the state returns from the selected state B to the selected state A.
[0103]
In the selection state b, a point where the captured image is to be displayed is selected. There are three options of points for displaying captured images in a state where the route B-CA is selected, and there are three points B, C, and A, which are arranged in order from the closest to the departure point. One of these three points is selected using a “forward” button 1101 and a “back” button 1102. The selected point blinks on the display screen 101a of FIG. If the selected point is correct, the user presses the "OK" button 1103 and transitions to state C as shown by arrow c. In this state C, the sentence “Is it OK with C?” For confirming the selected point is overlapped on the display screen 101a. If another point is to be selected again, the "cancel" button 1103 is pressed to return to the selected state b as shown by arrow d. After the point is selected, when the user presses the "OK" button 1103 to confirm the selected point, the state transits to state d as shown by arrow c, and the point selection is completed.
[0104]
The operation after the point is selected is the same as in the first embodiment. As described above, even if there are a plurality of candidate passage points on the map, the user can easily select a point by operating the four buttons “forward”, “return”, “decide”, and “cancel”. , The captured image of the point can be requested to the base station 108. Note that the "cancel" button is not necessarily required, so that at least three buttons of "advance", "return", and "enter" may be provided. This embodiment can be used in combination with the above-described embodiments.
[0105]
In addition, the selected route and point are stored as initial values even after completion of the selection, and the selected state is returned to the initial value when another point is subsequently selected. As shown in the figure, when the next point A is selected with respect to the selected point C of the initial value, the point A can be selected only by pressing the “forward” button 1101 once. In this way, by constantly updating and storing the previous selection state as the initial value, the number of times of operation of the three buttons “forward”, “return”, and “determine” can be minimized.
[0106]
(Tenth embodiment)
FIG. 44 is a configuration diagram of a traffic information display system according to the tenth embodiment of the present invention. In the traffic information display system according to the present embodiment, an imaging device 107 installed at each point, an accident / congestion information source 1003, and an imaging device search site 1203 are interconnected by the Internet 1201 without having a base station. The information display device 100 mounted on the vehicle is connected to the Internet 1201.
[0107]
The in-vehicle information display device 100 includes wireless transmission / reception units 105 and 1202, and is connected to the Internet 1201 via these units. As the wireless transmission / reception means 105 and 1202, it is possible to use a plurality of types of communication means such as a mobile phone, a personal handy phone system (PHS), and a beacon. The image composition control unit 103 connects to the imaging device search site 1203 via the Internet 1201 and receives the location of the nearby imaging device 107 on the map and the address on the network.
[0108]
When the user selects an imaging device at a place where the user wants to check the road condition from among imaging devices existing in the vicinity, the image synthesis control unit 103 connects to the imaging device 107 via the Internet 1201 and performs the imaging. The apparatus receives a captured image of the apparatus and camera parameters. At this time, that is, when connecting to the imaging device 107, the image composition control means 103 has a vehicle-specific access key 1207, and the imaging device 107 gives an access permission 1206 according to the access key 1207. The access key 1207 is charged for the transmitted captured image.
[0109]
As described above, by adopting a configuration having no base station, even if a local system failure occurs, the entire system does not go down, and a traffic information display system system with a high operating rate can be realized. .
[0110]
【The invention's effect】
ADVANTAGE OF THE INVENTION According to this invention, the information which shows the traveling direction of the own vehicle can be correctly displayed with respect to the captured image sent from the base station etc., and it is possible to make a user correctly grasp road conditions. It is possible to provide a traffic information display system.
[Brief description of the drawings]
FIG. 1 is a configuration diagram of a traffic information display system according to a first embodiment of the present invention.
FIG. 2 is a diagram showing map information displayed on display means of the traffic information display system according to the first embodiment of the present invention.
FIG. 3 is a diagram showing an example of an installation state of an imaging device in the traffic information display system according to the first embodiment of the present invention.
FIG. 4 is an explanatory diagram of a direction and a position of an arrow image indicating a traveling direction determined from a camera parameter in the traffic information display system according to the first embodiment of the present invention.
FIG. 5 is a diagram showing a display example of a captured image in the traffic information display system according to the first embodiment of the present invention.
FIG. 6 is an explanatory diagram of camera parameters in the traffic information display system according to the first embodiment of the present invention.
FIG. 7 is a configuration diagram of a traffic information display system according to a second embodiment of the present invention.
FIG. 8 is a diagram showing a point selection situation in the traffic information display system according to the second embodiment of the present invention.
FIG. 9 is a diagram showing a map as a bird's-eye view in the traffic information display system according to the second embodiment of the present invention.
FIG. 10 is a diagram showing a process of enlarging and displaying a selected point from the display state of FIG. 9 in the traffic information display system according to the second embodiment of the present invention.
FIG. 11 is a diagram showing a process of further enlarging and displaying a selected point from the display state of FIG. 10 in the traffic information display system according to the second embodiment of the present invention.
FIG. 12 is a diagram showing a process of further enlarging and displaying a selected point from the display state of FIG. 11 in the traffic information display system according to the second embodiment of the present invention.
FIG. 13 is a diagram showing a process of further enlarging and displaying a selected point from the display state of FIG. 12 in the traffic information display system according to the second embodiment of the present invention.
FIG. 14 is a diagram showing a process of further enlarging and displaying a selected point from the display state of FIG. 13 in the traffic information display system according to the second embodiment of the present invention.
FIG. 15 is an enlarged view of a selected point from the display state of FIG. 14 in the traffic information display system according to the second embodiment of the present invention.
FIG. 16 is a diagram in which the traffic information display system according to the second embodiment of the present invention has switched from the display state of FIG. 15 to a captured image display screen.
FIG. 17 is a diagram showing a transition procedure of screen display in the traffic information display system according to the second embodiment of the present invention.
FIG. 18 is an explanatory diagram of an imaging range in the traffic information display system according to the second embodiment of the present invention.
FIG. 19 is a configuration diagram of a traffic information display system according to a third embodiment of the present invention.
FIG. 20 is an explanatory diagram of an arrangement of an actual imaging device and a virtual camera in the traffic information display system according to the third embodiment of the present invention.
FIG. 21 is a diagram illustrating a captured image of an actual imaging device in the traffic information display system according to the third embodiment of the present invention;
FIG. 22 is a diagram showing an example in which a captured image of an actual imaging device is combined with an image viewed from a virtual camera position in the traffic information display system according to the third embodiment of the present invention.
FIG. 23 is an explanatory diagram of a three-dimensional model of texture mapping in the traffic information display system according to the third embodiment of the present invention.
FIG. 24 is an explanatory diagram of an imaging range of a three-dimensional model in the traffic information display system according to the third embodiment of the present invention.
FIG. 25 is a diagram illustrating a process of enlarging and displaying a screen display of a selected point in the traffic information display system according to the third embodiment of the present invention.
FIG. 26 is a diagram showing a process of further enlarging and displaying the screen display of the selected point from the display state of FIG. 25 in the traffic information display system according to the third embodiment of the present invention.
FIG. 27 is a diagram showing a screen display of a selected point further enlarged from the display state of FIG. 26 in the traffic information display system according to the third embodiment of the present invention.
FIG. 28 is a diagram in which the traffic information display system according to the third embodiment of the present invention has switched from the display state of FIG. 27 to a captured image display screen.
FIG. 29 is a configuration diagram of a traffic information display system according to a fourth embodiment of the present invention.
FIG. 30 is a diagram showing an example of a captured image in the traffic information display system according to the fourth embodiment of the present invention.
FIG. 31 is a diagram in which the image shown in FIG. 30 captured by the traffic information display system according to the fourth embodiment of the present invention is converted into an image viewed from a virtual viewpoint by texture mapping.
FIG. 32 is an explanatory diagram of an imaging range used in the traffic information display system according to the fourth embodiment of the present invention.
FIG. 33 is a configuration diagram of a traffic information display system according to a fifth embodiment of the present invention.
FIG. 34 is a configuration diagram of a traffic information display system according to a sixth embodiment of the present invention.
FIG. 35 is a screen transition diagram for explaining the traffic information display system according to the seventh embodiment of the present invention.
FIG. 36 is an explanatory view of a screen in which the display screen is shifted from the display state of FIG. 35 in the traffic information display system according to the seventh embodiment of the present invention.
FIG. 37 is a diagram showing the selected point further enlarged from the display state of FIG. 36 in the traffic information display system according to the seventh embodiment of the present invention.
FIG. 38 is an explanatory diagram of an image resolution when transmitting captured images of a plurality of different points to a vehicle in the traffic information display system according to the seventh embodiment of the present invention.
FIG. 39 is a configuration diagram of a traffic information display system according to an eighth embodiment of the present invention.
FIG. 40 is an explanatory diagram showing display of accident and congestion information in the traffic information display system according to the eighth embodiment of the present invention.
FIG. 41 is a configuration diagram of a traffic information display system according to a ninth embodiment of the present invention.
FIG. 42 is a front view of display means in the traffic information display system according to the ninth embodiment of the present invention.
FIG. 43 is a functional explanatory view of a point selecting means in the traffic information display system according to the ninth embodiment of the present invention.
FIG. 44 is a configuration diagram of a traffic information display system according to a tenth embodiment of the present invention.
FIG. 45 is a configuration diagram of a conventional traffic information display system.
FIG. 46 is a conceptual explanatory diagram in a conventional traffic information display system.
FIG. 47 is a diagram for explaining point selection in a conventional traffic information display system.
FIG. 48 is a diagram showing a captured image display example in a conventional traffic information display system.
FIG. 49 is a diagram showing an example of installation of an imaging device in a conventional traffic information display system.
FIG. 50 is a diagram showing a captured image display example in a conventional traffic information display system.
[Explanation of symbols]
100 Vehicle-mounted information display device
101 display means
101a Display screen
102 Instruction input means
103 Image synthesis control means
104 map information database
105 wireless transmission / reception means
106 GPS
107 Imaging device installed at each point
108 base stations
301 Camera Parameter Database
307 shooting range
308 Shooting direction
401 viewpoint control means
402 CG image of imaging device
403 Shooting range on map
504 virtual camera
509 Texture mapping means
512 shooting range
601 Three-dimensional (3D) information
606 Solid object (building)
607 Imaging range
701 Signal storage means
801 Signal storage means
1003 accident, traffic jam information
1100 Point selection means
1201 Internet

Claims (21)

各地点に設置された撮像装置による撮像画像のうち選択された地点の撮像画像が要求されたとき前記撮像画像と共に前記撮像装置のカメラパラメータを送信する撮像画像送信装置と、前記撮像画像送信装置から送信されてきた前記撮像画像を受信し前記選択された地点の地図情報と受信した前記カメラパラメータとから受信した前記撮像画像中における自車両の進路方向を求め前記撮像画像に前記進路方向を示す情報を合成して画面に表示する車載用の情報表示装置とを備えたことを特徴とする交通情報表示システム。A captured image transmitting device that transmits a camera parameter of the image capturing device together with the captured image when a captured image of a selected location is requested among captured images by an imaging device installed at each location; and Information indicating the course direction of the own vehicle in the captured image received from the map information of the selected point and the received camera parameters after receiving the transmitted captured image and information indicating the course direction in the captured image A traffic information display system, comprising: an on-vehicle information display device for synthesizing and displaying on a screen. 前記情報表示装置は、前記画面に表示した地図情報を視点の移動に従って変化させながら前記画面に表示すると共に前記画面に前記撮像画像を合成して表示することを特徴とする請求項1に記載の交通情報表示システム。2. The information display device according to claim 1, wherein the information display device displays the map information displayed on the screen while changing the map information in accordance with a movement of a viewpoint, and displays the captured image on the screen while synthesizing the captured image. Traffic information display system. 前記情報表示装置は、移動させる前記視点の位置を、前記画面に表示されている地図情報全体を見渡せる位置から、前記画面に表示する前記撮像画像を撮影した前記撮像装置を真後ろから回り込んで前記撮像装置と同じ位置まで変化させることを特徴とする請求項2に記載の交通情報表示システム。The information display device, the position of the viewpoint to be moved, from a position overlooking the entire map information displayed on the screen, from around the imaging device that has taken the captured image displayed on the screen, from directly behind 3. The traffic information display system according to claim 2, wherein the position is changed to the same position as the imaging device. 前記情報表示装置は、前記画面に表示する前記撮像画像を、仮想カメラから見た画像に変換して前記画面に表示することを特徴とする請求項1乃至請求項3のいずれかに記載の交通情報表示システム。The traffic according to any one of claims 1 to 3, wherein the information display device converts the captured image displayed on the screen to an image viewed from a virtual camera and displays the image on the screen. Information display system. 前記情報表示装置は、前記視点の位置を最終的に前記撮像装置の位置まで変化させ前記撮像装置の前記撮像画像を前記画面に表示し前記進路方向を示す情報を合成表示することを特徴とする請求項1乃至請求項4のいずれかに記載の交通情報表示システム。The information display device is characterized in that the position of the viewpoint is finally changed to the position of the imaging device, the captured image of the imaging device is displayed on the screen, and information indicating the course direction is synthesized and displayed. The traffic information display system according to claim 1. 前記情報表示装置は、前記地図情報として3次元情報を持つことを特徴とする請求項1乃至請求項5のいずれかに記載の交通情報表示システム。The traffic information display system according to claim 1, wherein the information display device has three-dimensional information as the map information. 前記情報表示装置は、前記画面に地図情報を表示するとき前記撮像画像を撮影した前記撮像装置の撮影範囲を合成して表示することを特徴とする請求項1乃至請求項6のいずれかに記載の交通情報表示システム。7. The information display device according to claim 1, wherein when displaying the map information on the screen, the information display device combines and displays a photographing range of the photographing device that photographed the photographed image. 8. Traffic information display system. 前記撮像画像送信装置は送信する前記撮像画像の撮影時刻を示す時刻情報を一緒に送信し、前記情報表示装置は、前記画面に表示する前記撮像画像が現在時刻より一定時間以内のデータであるときは前記撮像画像をカラー表示し前記撮像画像が一定時間以上前のデータであるとき前記撮像画像の彩度を落として表示することを特徴とする請求項1乃至請求項7のいずれかに記載の交通情報表示システム。The captured image transmitting device transmits time information indicating the capturing time of the captured image to be transmitted together, and the information display device determines that the captured image displayed on the screen is data within a certain time from the current time. 8. The display according to claim 1, wherein the captured image is displayed in color, and when the captured image is data before a predetermined time or more, the captured image is displayed with reduced saturation. Traffic information display system. 前記撮像画像送信装置は、前記選択された地点の前記撮像画像及び前記カメラパラメータの他に前記選択された地点の周辺の地点における前記撮像画像及び前記カメラパラメータも送信し、前記情報表示装置は、前記選択された地点の前記撮像画像を前記画面に表示する前に前記周辺の地点の前記撮像画像も前記画面に表示することを特徴とする請求項1乃至請求項8のいずれかに記載の交通情報表示システム。The captured image transmission device transmits the captured image and the camera parameters at a point around the selected point in addition to the captured image and the camera parameters of the selected point, the information display device, The traffic according to any one of claims 1 to 8, wherein, before displaying the captured image of the selected point on the screen, the captured image of the peripheral point is also displayed on the screen. Information display system. 前記撮像画像送信装置は、複数の地点に設置されている各撮像装置の前記撮像画像を一緒に送信するとき解像度を落として前記撮像画像を送信することを特徴とする請求項9に記載の交通情報表示システム。The traffic according to claim 9, wherein the captured image transmitting device transmits the captured image at a reduced resolution when transmitting the captured images of the respective imaging devices installed at a plurality of points together. Information display system. 前記撮像画像送信装置は基地局に設けられ、前記基地局は各地点の前記撮像装置による撮像画像を集め要求された撮像画像を要求先に送信することを特徴とする請求項1乃至請求項10のいずれかに記載の交通情報表示システム。11. The image capturing apparatus according to claim 1, wherein the image capturing apparatus is provided in a base station, and the base station collects images captured by the image capturing apparatus at each point and transmits a requested image to a request destination. The traffic information display system according to any of the above. 前記情報表示装置は、前記撮像画像を静止画像で前記画面に表示するとき白黒画像で表示することを特徴とする請求項1乃至請求項11のいずれかに記載の交通情報表示システム。12. The traffic information display system according to claim 1, wherein the information display device displays the captured image as a still image on the screen as a black and white image. 前記撮像画像送信装置はインターネットに接続された各撮像装置に設けられ、前記情報表示装置は前記インターネットを介して前記撮像画像を該当する前記撮像装置に要求することを特徴とする請求項1乃至請求項12のいずれかに記載の交通情報表示システム。The said captured image transmission apparatus is provided in each imaging apparatus connected to the Internet, The said information display apparatus requests the said imaging apparatus from the said imaging apparatus via the said Internet, The claim 1 characterized by the above-mentioned. Item 13. The traffic information display system according to any one of Items 12. 請求項1乃至請求項13のいずれかに記載の交通情報表示システムを構成することを特徴とする撮像画像送信装置。A captured image transmitting apparatus comprising the traffic information display system according to claim 1. 請求項1乃至請求項13のいずれかに記載の交通情報表示システムを構成することを特徴とする車載用の情報表示装置。An in-vehicle information display device comprising the traffic information display system according to any one of claims 1 to 13. 前記画面に表示されている地図情報上の地点のうち前記撮像画像を要求する地点を選択する手段を備えたことを特徴とする請求項15に記載の車載用の情報表示装置。16. The in-vehicle information display device according to claim 15, further comprising means for selecting a point at which the captured image is requested from points on the map information displayed on the screen. 前記画面に表示されている地図情報上に、取得した事故、渋滞情報を合成して表示することを特徴とする請求項15または請求項16に記載の車載用の情報表示装置。17. The in-vehicle information display device according to claim 15, wherein the acquired accident and traffic congestion information are combined and displayed on the map information displayed on the screen. 前記選択する手段は、前記地図情報上の経路の選択と、選択された経路上の地点の選択を、3種類の入力で行う構成となっていることを特徴とする請求項16に記載の車載用の情報表示装置。17. The on-vehicle vehicle according to claim 16, wherein the selecting unit is configured to select a route on the map information and select a point on the selected route by three types of inputs. Information display device. 前記選択する手段は、前回選択された情報を保持し次回の選択を前回の選択状態から開始する構成となっていることを特徴とする請求項18に記載の車載用の情報表示装置。19. The in-vehicle information display device according to claim 18, wherein the selection unit is configured to hold information selected last time and start a next selection from a previous selection state. 前記撮像画像送信装置は各々アクセス許可を与える手段を備え、前記アクセス許可を求めるアクセスキーを用いて前記撮像画像を要求してきた前記情報表示装置に対して課金することを特徴とする請求項13に記載の交通情報表示システム。14. The image capturing apparatus according to claim 13, wherein each of the captured image transmitting apparatuses includes a unit for giving an access permission, and charges the information display apparatus that has requested the captured image using an access key for requesting the access permission. Described traffic information display system. 表示画面を備える車載用電子装置に処理プログラムを読み込ませることで前記車載用電子装置を請求項15乃至請求項19のいずれかに記載の情報表示装置として動作させる前記処理プログラムを格納した記憶媒体。20. A storage medium storing the processing program for causing the in-vehicle electronic device having the display screen to operate as the information display device according to claim 15 by reading the processing program.
JP2002174365A 2002-06-14 2002-06-14 Traffic information display system, captured image transmission device, in-vehicle information display device and storage medium Expired - Fee Related JP4048292B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002174365A JP4048292B2 (en) 2002-06-14 2002-06-14 Traffic information display system, captured image transmission device, in-vehicle information display device and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002174365A JP4048292B2 (en) 2002-06-14 2002-06-14 Traffic information display system, captured image transmission device, in-vehicle information display device and storage medium

Publications (2)

Publication Number Publication Date
JP2004021514A true JP2004021514A (en) 2004-01-22
JP4048292B2 JP4048292B2 (en) 2008-02-20

Family

ID=31173351

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002174365A Expired - Fee Related JP4048292B2 (en) 2002-06-14 2002-06-14 Traffic information display system, captured image transmission device, in-vehicle information display device and storage medium

Country Status (1)

Country Link
JP (1) JP4048292B2 (en)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006005451A (en) * 2004-06-15 2006-01-05 Mitsubishi Electric Corp On-vehicle monitor
JP2006221339A (en) * 2005-02-09 2006-08-24 Honda Motor Co Ltd Vehicle control system
JP2006236094A (en) * 2005-02-25 2006-09-07 Toyota Motor Corp Obstacle recognition system
WO2007026839A1 (en) * 2005-09-02 2007-03-08 Matsushita Electric Industrial Co., Ltd. Image display device and image generation device
JP2007093291A (en) * 2005-09-27 2007-04-12 Clarion Co Ltd Navigation device, method, and program
WO2007046340A1 (en) * 2005-10-21 2007-04-26 Pioneer Corporation Communication terminal, information display method, information display program and recording medium
JP2007116490A (en) * 2005-10-21 2007-05-10 Pioneer Electronic Corp Communication terminal, information display method, information display program, and recording medium
JP2008021234A (en) * 2006-07-14 2008-01-31 Denso Corp Driving support image display system and on-vehicle device
JP2008217314A (en) * 2007-03-02 2008-09-18 Fujitsu Ltd Driving support system and vehicle-mounted device
JP2015215905A (en) * 2015-06-03 2015-12-03 株式会社ニコン Information management device, data analysis device, server, information management system and program
KR20180111476A (en) * 2017-03-31 2018-10-11 티브이유 네트웍스 코포레이션 Methods, apparatus and systems for exchange of video content
JP2020038588A (en) * 2018-09-06 2020-03-12 トヨタ自動車株式会社 Mobile robot, remote terminal, control program for mobile robot, and control program for remote terminal
JP2020194461A (en) * 2019-05-29 2020-12-03 京セラ株式会社 Roadside machine, on-vehicle machine, and traffic communication system
US10977938B2 (en) 2010-08-06 2021-04-13 Nikon Corporation Signal control apparatus and signal having the same
JP7055252B1 (en) * 2021-04-06 2022-04-15 三菱電機株式会社 Display control device and display control method

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106408980B (en) * 2016-09-23 2019-06-21 盯盯拍(深圳)技术股份有限公司 Road conditions live broadcasting method and road conditions live broadcast device

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006005451A (en) * 2004-06-15 2006-01-05 Mitsubishi Electric Corp On-vehicle monitor
JP4522880B2 (en) * 2005-02-09 2010-08-11 本田技研工業株式会社 Vehicle steering system
JP2006221339A (en) * 2005-02-09 2006-08-24 Honda Motor Co Ltd Vehicle control system
JP2006236094A (en) * 2005-02-25 2006-09-07 Toyota Motor Corp Obstacle recognition system
WO2007026839A1 (en) * 2005-09-02 2007-03-08 Matsushita Electric Industrial Co., Ltd. Image display device and image generation device
JP2007093291A (en) * 2005-09-27 2007-04-12 Clarion Co Ltd Navigation device, method, and program
JP4560475B2 (en) * 2005-10-21 2010-10-13 パイオニア株式会社 Communication terminal, information display method, information display program, and recording medium
JP2007116490A (en) * 2005-10-21 2007-05-10 Pioneer Electronic Corp Communication terminal, information display method, information display program, and recording medium
WO2007046340A1 (en) * 2005-10-21 2007-04-26 Pioneer Corporation Communication terminal, information display method, information display program and recording medium
JP2008021234A (en) * 2006-07-14 2008-01-31 Denso Corp Driving support image display system and on-vehicle device
JP2008217314A (en) * 2007-03-02 2008-09-18 Fujitsu Ltd Driving support system and vehicle-mounted device
US8265861B2 (en) 2007-03-02 2012-09-11 Fujitsu Limited Driving assist system and vehicle-mounted apparatus
US10977938B2 (en) 2010-08-06 2021-04-13 Nikon Corporation Signal control apparatus and signal having the same
JP2015215905A (en) * 2015-06-03 2015-12-03 株式会社ニコン Information management device, data analysis device, server, information management system and program
KR20180111476A (en) * 2017-03-31 2018-10-11 티브이유 네트웍스 코포레이션 Methods, apparatus and systems for exchange of video content
KR102567767B1 (en) * 2017-03-31 2023-08-16 티브이유 네트웍스 코포레이션 Methods, apparatus and systems for exchange of video content
JP2020038588A (en) * 2018-09-06 2020-03-12 トヨタ自動車株式会社 Mobile robot, remote terminal, control program for mobile robot, and control program for remote terminal
JP7052652B2 (en) 2018-09-06 2022-04-12 トヨタ自動車株式会社 Mobile robots, remote terminals, mobile robot control programs, and remote terminal control programs
JP2020194461A (en) * 2019-05-29 2020-12-03 京セラ株式会社 Roadside machine, on-vehicle machine, and traffic communication system
JP7055252B1 (en) * 2021-04-06 2022-04-15 三菱電機株式会社 Display control device and display control method

Also Published As

Publication number Publication date
JP4048292B2 (en) 2008-02-20

Similar Documents

Publication Publication Date Title
JP4048292B2 (en) Traffic information display system, captured image transmission device, in-vehicle information display device and storage medium
JP4895313B2 (en) Navigation apparatus and method
JP4454681B2 (en) Traffic condition display method, traffic condition display system, in-vehicle device, and computer program
EP1162435B1 (en) Navigation apparatus for a vehicle
JP5811804B2 (en) Vehicle periphery monitoring device
JP4207941B2 (en) Image display device and image generation device
JP4643860B2 (en) VISUAL SUPPORT DEVICE AND SUPPORT METHOD FOR VEHICLE
JP4848893B2 (en) Intersection information providing system and driving support system
JP2005311868A (en) Vehicle periphery visually recognizing apparatus
KR20090109312A (en) System for providing real-time traffic information for users using real-time photographing pictures
JP5064201B2 (en) Image display system and camera output control method
EP1903310A2 (en) Vehicle navigation system including camera unit
JP2011049735A (en) Vehicle periphery image providing device
JP2010072713A (en) Large-vehicle rear image provision system
JP2006042386A (en) Image data communications system
CN111323041B (en) Information processing system, storage medium, and information processing method
JPH11211499A (en) Information presenting system
JP3686333B2 (en) Moving image processing camera and image processing system using the same
WO2013161345A1 (en) Monitoring system and monitoring method
JP2006031583A (en) On-vehicle system and remote observation system
KR100833603B1 (en) Navigation system for providing bird view and method thereof
JP2001005994A (en) Device and method for image processing
KR20090099938A (en) The camera system for producing the panorama of a map information
JP2001304873A (en) Navigation unit for vehicle, its information communicating method, and computer-readable storage medium
JP7254000B2 (en) Image delivery device and method, and image delivery system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050614

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060324

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070628

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070711

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071010

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071107

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20071114

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071121

RD02 Notification of acceptance of power of attorney

Effective date: 20071128

Free format text: JAPANESE INTERMEDIATE CODE: A7422

RD04 Notification of resignation of power of attorney

Effective date: 20071205

Free format text: JAPANESE INTERMEDIATE CODE: A7424

R150 Certificate of patent (=grant) or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101207

Year of fee payment: 3

RD04 Notification of resignation of power of attorney

Effective date: 20071212

Free format text: JAPANESE INTERMEDIATE CODE: A7424

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101207

Year of fee payment: 3

FPAY Renewal fee payment (prs date is renewal date of database)

Year of fee payment: 4

Free format text: PAYMENT UNTIL: 20111207

LAPS Cancellation because of no payment of annual fees