JP2013200820A - 画像送受信システム - Google Patents
画像送受信システム Download PDFInfo
- Publication number
- JP2013200820A JP2013200820A JP2012070060A JP2012070060A JP2013200820A JP 2013200820 A JP2013200820 A JP 2013200820A JP 2012070060 A JP2012070060 A JP 2012070060A JP 2012070060 A JP2012070060 A JP 2012070060A JP 2013200820 A JP2013200820 A JP 2013200820A
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- transmission
- reception
- display device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
Abstract
【課題】自車両から見て死角となる位置に潜む他車両や歩行者に対するドライバーの認識を早める画像送受信システムを提供する。
【解決手段】路上など、自車両外に設置されたカメラを用いて撮像された映像を幾何変換して自車両外の所定位置から見た場合の映像に変換し送信する画像撮像送信装置と、送信された前記画像を受信しドライバーに対して表示する画像受信表示装置を有する。画像撮像送信装置では、前記変換後の映像に対して画像認識を行って所定の物体を検出した検出情報を画像受信表示装置に送信する。画像受信表示装置は、当該物体を強調して表示する。或いは、当該物体のシンボル画像を車両のある位置の地図データと合成して表示する。或いは、前記装置双方の間の距離に応じて、前記強調画像とシンボル合成画像を選択して表示する。
【選択図】図1
【解決手段】路上など、自車両外に設置されたカメラを用いて撮像された映像を幾何変換して自車両外の所定位置から見た場合の映像に変換し送信する画像撮像送信装置と、送信された前記画像を受信しドライバーに対して表示する画像受信表示装置を有する。画像撮像送信装置では、前記変換後の映像に対して画像認識を行って所定の物体を検出した検出情報を画像受信表示装置に送信する。画像受信表示装置は、当該物体を強調して表示する。或いは、当該物体のシンボル画像を車両のある位置の地図データと合成して表示する。或いは、前記装置双方の間の距離に応じて、前記強調画像とシンボル合成画像を選択して表示する。
【選択図】図1
Description
本発明は、画像送受信システムに係り、特に自車両が近づく前から死角の状況をドライバーに画像表示する画像送受信システムに関する。
本技術分野の背景技術として、特許文献1がある。該公報には、『車両前方の画像を撮像する撮像手段と、前記撮像手段で撮像された画像を、カーブミラーの湾曲形状に対応させて画像処理を行う画像処理手段と、前記画像処理手段が画像処理した画像を、カーブミラーを模した図形中のミラー部分に表示する表示手段と、を備えることを特徴とする表示制御装置』と記載されている(請求項1参照)。ここで「撮像手段」については、該公報の実施例には、『車体に取り付けられた撮像手段としてのカメラ』(段落0019参照)と記載されている。
車両の運転においては、自車両から見て死角に当たる位置に潜む他車両や歩行者の認識が遅れるために事故が発生することがあり、例えば見通しの悪い交差点などで事故が発生しやすくなっている。
特許文献1では、自車両の車体(特に最前部)にカメラを設置することになるので、例えば見通しの悪い交差点では、車体が交差点に差し掛かる程度まで自車両を進めなければ、交差点の左右の状況をカメラで撮像することができず、認識が遅れる。
そこで、本発明の実施例では、自車両が近づく前から死角の状況をドライバーに画像表示する画像受信表示装置を提供することを課題とする。
特許文献1では、自車両の車体(特に最前部)にカメラを設置することになるので、例えば見通しの悪い交差点では、車体が交差点に差し掛かる程度まで自車両を進めなければ、交差点の左右の状況をカメラで撮像することができず、認識が遅れる。
そこで、本発明の実施例では、自車両が近づく前から死角の状況をドライバーに画像表示する画像受信表示装置を提供することを課題とする。
上記課題を解決するために、特許請求の範囲に記載の構成を採用する。
本発明によれば、自車両が近づく前から死角の状況をドライバーに画像表示する画像受信表示装置を提供でき、事故防止に貢献できるという効果がある。
以下、本発明の実施形態につき図面を用いて説明する。
以下、本発明における実施例1について詳細に説明する。
図1は、本発明の実施例1における車両用画像送受信システム100を示す構成図である。
車両用画像送受信システム100は、画像撮像送信装置110と、画像受信表示装置120を有する。
図1は、本発明の実施例1における車両用画像送受信システム100を示す構成図である。
車両用画像送受信システム100は、画像撮像送信装置110と、画像受信表示装置120を有する。
画像撮像送信装置110は、路上または他車両など、自車両以外の場所に設置された装置で、周辺の画像を広角撮像した画像データと、その画像データが撮像された時の状況を示す撮像パラメータというデータを、画像受信表示装置120に無線伝送する装置である。撮像パラメータについては、後に詳しく説明する。
画像撮像送信装置110は、光学系部111、イメージセンサ部112、信号処理部114、幾何変換部119、画像圧縮部115、位置・方向検出部118a、レンズの歪情報が設定されている歪情報検出部118b、送信制御部116、送受信部117を有する。
画像撮像送信装置110は、光学系部111、イメージセンサ部112、信号処理部114、幾何変換部119、画像圧縮部115、位置・方向検出部118a、レンズの歪情報が設定されている歪情報検出部118b、送信制御部116、送受信部117を有する。
光学系部111は、装置周辺の広角な範囲の光学像がイメージセンサ部112のセンサ面に結像されるように構成され、絞り機構などもある光学系である。光学系部111の実際の構成としては、例えば光学系に魚眼レンズを含ませて広角な範囲の光学像を結像させる構成をとることができる。この構成の場合には、カメラの光軸に近い部分(中央部分)では歪が少なく、周辺ほど歪が大きい光学像が得られる。光学像の歪みの程度は、光学系部111全体の光学特性によって決定される。本実施例においては、魚眼レンズを用いた構成の場合を例に説明するが、光学系部111がどのような構成であっても、本実施例の手法を適用できる。
イメージセンサ部112は、光学系部111によって結像された光学像を光電変換し、A/D変換してデジタルデータである画像データとして信号処理部114に出力する。前記光学系部111によって生じた光学像の歪みは、出力される画像データに画像の歪みとして継承される。
送信画像処理部113は、以下に説明する信号処理部114、幾何変換部119、画像圧縮部115を有する。
信号処理部114は、画像データに、必要に応じて黒レベル補正、ホワイトバランス補正、デモザイキング、ガンマ補正などの一連の処理をして、生成された画像データを幾何変換部119に出力する。幾何変換部119は前記光学系部111の画像歪を軽減するように、後述する所定の画像変換を行い、画像圧縮部115へ出力する。
画像圧縮部115は、特に規定はしないが画像データを、例えばMPEG(Moving Picture Experts Group)画像圧縮して、送受信部117に出力する。
送信画像処理部113は、以下に説明する信号処理部114、幾何変換部119、画像圧縮部115を有する。
信号処理部114は、画像データに、必要に応じて黒レベル補正、ホワイトバランス補正、デモザイキング、ガンマ補正などの一連の処理をして、生成された画像データを幾何変換部119に出力する。幾何変換部119は前記光学系部111の画像歪を軽減するように、後述する所定の画像変換を行い、画像圧縮部115へ出力する。
画像圧縮部115は、特に規定はしないが画像データを、例えばMPEG(Moving Picture Experts Group)画像圧縮して、送受信部117に出力する。
位置・方向検出部118aは、画像撮像送信装置110が設置された位置と方向を示す情報を検出しており、該情報を送信制御部116に出力する。位置と方向の確認方法はどのようなものであっても良いが、例えば、GPS(Global Positioning System)を用いて位置を検出する方法や、磁気センサによって方位を検出する方法や、信号処理部114の出力画像データから画像認識によって求める方法や、設置時に手動で入力する方法などを用いることができるが、上記以外の方法でもよい。
送信制御部116は、信号処理部114または幾何変換部119からの露光評価値を元に、光学系111の絞り機構を制御する。なお、信号処理部114からの露光評価値を用いた場合は、イメージセンサ112にて撮像されている全体の画像の露光状態を適正に制御しやすく、幾何変換部119からの露光評価値を用いた場合は幾何変換後の画像の露光状態を適正に制御しやすい。
送信制御部116は、信号処理部114または幾何変換部119からの露光評価値を元に、光学系111の絞り機構を制御する。なお、信号処理部114からの露光評価値を用いた場合は、イメージセンサ112にて撮像されている全体の画像の露光状態を適正に制御しやすく、幾何変換部119からの露光評価値を用いた場合は幾何変換後の画像の露光状態を適正に制御しやすい。
また、送信制御部116は、光学系部111の光学特性に関する情報を歪情報検出部118bから、また画像撮像送信装置110が設置された位置と方向を示す情報を位置・方向検出部118aから受け取る。さらに、送信制御部116は、後述する画像受信表示装置120側の位置・方向情報を送受信部117を介して受け取る。送信制御部116は、これら光学特性に関する情報、画像撮像送信装置110が設置された位置と方向を示す情報、画像受信表示装置120側の位置・方向情報を元に、信号処理部114の出力画像を画像受信表示装置120の表示部126に表示するに適した画像に幾何変換処理するよう、幾何変換部119を制御する。さらに、送信制御部116は、幾何変換部119の出力を圧縮するように画像圧縮部115を制御し、画像圧縮部115の出力を画像受信表示装置120へ送信するよう送受信部117を制御する。
図1において、画像受信表示装置120は、自車両に設置された装置で、画像撮像送信装置110から無線伝送された画像データを受信し、画面に表示してドライバーに対して画像表示する装置である。
画像受信表示装置120は、送受信部121、画像復号部123、受信制御部125、表示部126、位置・方向検出部127を有する。
受信制御部125は、送受信部121が受信した画像撮像送信装置110からの画像データを、画像復号部123に出力するよう、送受信部121を制御する。さらに、受信制御部125は、位置・方向検出部127より得られる情報を画像撮像送信装置110へ送信するよう、送受信部121を制御する。
また受信制御部125は、送受信部121から出力された画像データを復号処理するよう画像復号部123を制御し、さらに、その復号画像出力を表示するよう表示部126を制御する。
画像受信表示装置120は、送受信部121、画像復号部123、受信制御部125、表示部126、位置・方向検出部127を有する。
受信制御部125は、送受信部121が受信した画像撮像送信装置110からの画像データを、画像復号部123に出力するよう、送受信部121を制御する。さらに、受信制御部125は、位置・方向検出部127より得られる情報を画像撮像送信装置110へ送信するよう、送受信部121を制御する。
また受信制御部125は、送受信部121から出力された画像データを復号処理するよう画像復号部123を制御し、さらに、その復号画像出力を表示するよう表示部126を制御する。
位置・方向検出部127は、自車両のドライバーの乗車位置と方向を示す情報を、受信制御部125に出力する。位置・方向の確認方法はどのようなものであっても良く、例えば、GPS(Global Positioning System)を用いて位置を検出する方法、加速度センサを用いて位置の変化を検出する方法、磁気センサによって方位を検出する方法などを用いることができるが、特に上記の方法以外でもよい。
なお、本実施例では画像圧縮部115で画像圧縮、画像復号部123で画像復号を行うため画像伝送のための伝送帯域を小さくできるが、伝送帯域に制約がない場合は画像圧縮部115、及び画像復号部123はなくてもよい。その場合は圧縮部115と画像復号部123の分のコストを節約できるとともに、圧縮による画質劣化を防ぐことができる。
以上、図1を用いて説明した通り、本画像送受信システム100によれば、路上や他の車両上など、自車両以外に設置されたカメラを用いて撮像された映像を受信し、自車両が近づく前から死角の状況をドライバーにとって見やすい形態の映像として表示できるので、事故防止に貢献できるとともに、画像撮像送信装置110にて幾何変換処理を行って光学歪を軽減した画像を画像受信表示装置120に伝送するため、画像受信表示装置120は、複雑な幾何変換処理を行う必要がないため、画像受信表示装置120側を低コストにできる。
なお、本実施例では画像圧縮部115で画像圧縮、画像復号部123で画像復号を行うため画像伝送のための伝送帯域を小さくできるが、伝送帯域に制約がない場合は画像圧縮部115、及び画像復号部123はなくてもよい。その場合は圧縮部115と画像復号部123の分のコストを節約できるとともに、圧縮による画質劣化を防ぐことができる。
以上、図1を用いて説明した通り、本画像送受信システム100によれば、路上や他の車両上など、自車両以外に設置されたカメラを用いて撮像された映像を受信し、自車両が近づく前から死角の状況をドライバーにとって見やすい形態の映像として表示できるので、事故防止に貢献できるとともに、画像撮像送信装置110にて幾何変換処理を行って光学歪を軽減した画像を画像受信表示装置120に伝送するため、画像受信表示装置120は、複雑な幾何変換処理を行う必要がないため、画像受信表示装置120側を低コストにできる。
図2は、先の図1で説明した車両用画像送受信システム100の設置形態の例を示す図である。この図は、自車両202が交差点に進入しようと前進している時の様子を、自車両の後方から見た図である。この図では、図1で示した画像撮像送信装置110は例えば路上に固定されており、図1で示した画像受信表示装置120は、自車両202に搭載されている。
この図では、画像撮像送信装置110は、信号機201に対して支柱200を共有する形で、高い位置に設置されている。このような高い位置から広角の映像を撮像することで、交差点周辺の状況を広い範囲で撮影することができるようになる。画像撮像送信装置110は、建築物に固定されていたり、自車両以外の車両に設置されていたり、飛行機に搭載されているなど、図2で示す以外の場所に設置されていても良い。
この図では、画像撮像送信装置110は、信号機201に対して支柱200を共有する形で、高い位置に設置されている。このような高い位置から広角の映像を撮像することで、交差点周辺の状況を広い範囲で撮影することができるようになる。画像撮像送信装置110は、建築物に固定されていたり、自車両以外の車両に設置されていたり、飛行機に搭載されているなど、図2で示す以外の場所に設置されていても良い。
また図1で説明した画像受信表示装置120は図2に示すように自車両202に搭載されるが、特に表示部126は、ドライバーにとって見やすい位置に設置される。表示部126は、例えば車載カーナビゲーションシステムなど他の車載機器のディスプレイと共有される形態や、フロントガラスの一部に投影される形態など、どのように設置されても良い。
以上説明したように、図1の車両用画像送受信システム100は、図2のような形態で、例えば路上及び車両に別れて設置される。本実施例においては、画像撮像送信装置110でドライバーの死角の状況を含んだ映像を撮像し、その映像を画像受信表示装置120で、ドライバーにとって見やすいように加工して表示することができる。このため、ドライバーは死角の状況を把握しやすくなり、事故を未然に防止できる。
次項からは、具体的に見通しの悪い交差点を例に示し、死角の状況を確認する手法に関し、従来の手法の課題と本実施例の優位性について説明する。
以上説明したように、図1の車両用画像送受信システム100は、図2のような形態で、例えば路上及び車両に別れて設置される。本実施例においては、画像撮像送信装置110でドライバーの死角の状況を含んだ映像を撮像し、その映像を画像受信表示装置120で、ドライバーにとって見やすいように加工して表示することができる。このため、ドライバーは死角の状況を把握しやすくなり、事故を未然に防止できる。
次項からは、具体的に見通しの悪い交差点を例に示し、死角の状況を確認する手法に関し、従来の手法の課題と本実施例の優位性について説明する。
図3は、カーブミラーを見通しの悪い交差点に設置することで、自車両から死角の状況を確認するという従来の手法の例を示す図である。本図では、自車両202が前進して、交差点に進入する直前を示している。歩行者303や他車両304は、自車両202のドライバーから見て、ビル(障害物)301、302の死角の位置にあたるとする。もし自車両の進行方向の信号305が青色であったとしても、歩行者303が無理な横断をする場合があり、他車両304が信号を見落として直進してくる場合があるなど、危険な状況に巻き込まれる可能性がある。しかし、死角で発生している危険な状況を、自車両202のドライバーが予め肉眼で危険を認識することはできない。
このような状況をドライバーに見せるための従来の方法として、例えばカーブミラー310を設置する方法がある。しかし、図3のようにカーブミラー310と自車両202が離れている状況では、自車両202のドライバーから、カーブミラー310越しに見える交差点の状況は小さく写るため、ドライバーが死角の状況を認識するのは難しい。また、カーブミラー310の設置位置に関しても、当然、サイズや位置や角度など物理的な制約があるため、ドライバーから視認しやすい位置を自由に選んで配置することはできない。
また、特許文献1の手法であっても、自車両202の、特に最前部にカメラを設置することになるので、車体が交差点に差し掛かる程度まで自車両を進めなければ、交差点の左右の状況をカメラで撮像することができず、認識が遅れるという問題がある。
また、特許文献1の手法であっても、自車両202の、特に最前部にカメラを設置することになるので、車体が交差点に差し掛かる程度まで自車両を進めなければ、交差点の左右の状況をカメラで撮像することができず、認識が遅れるという問題がある。
図4は、本実施例の手法を用いた場合の死角の視認方法の例を示す図である。図3の場合と同じ条件で、交差点の付近に自車両202、歩行者303、他車両304、ビル(障害物)301、302が存在している。また、図4では、自車両の進行方向の信号305に対し、図2の信号機201に対すると同様に画像撮像送信装置110が搭載され、自車両202に図2と同様に画像受信表示装置120が搭載されている。本実施例においては、画像撮像送信装置110で撮像した画像データを元に、画像受信表示装置120において、死角の状況をドライバーに視認しやすい形に幾何変換して提供する。
まず、図4において、画像撮像送信装置110は、高所に設置された広角のカメラであるとして、自車両202、歩行者303、他車両304、ビル(障害物)301、302を、すべて撮像できる画角で設置されているとする。つまり、画像撮像送信装置110で撮像した画像データには、自車両202のドライバーにとっての死角に関する情報が含まれている。
まず、図4において、画像撮像送信装置110は、高所に設置された広角のカメラであるとして、自車両202、歩行者303、他車両304、ビル(障害物)301、302を、すべて撮像できる画角で設置されているとする。つまり、画像撮像送信装置110で撮像した画像データには、自車両202のドライバーにとっての死角に関する情報が含まれている。
画像撮像送信装置110で撮像した映像を、ドライバーにとって死角の状況を確認しやすい映像に変換するために、本実施例においては、まず仮想ミラー406と仮想視点405を定義する。仮想ミラー406とは、所定の曲率を持った仮想的なカーブミラーで、それが例えば、図4に示す位置で車道上に設置されていると想定する。この仮想ミラー406の曲率、位置、方向、大きさは任意に設定できる。仮想視点405とは、仮想ミラー406に映った像を撮像する仮想的なカメラで、それが例えば図4に示す位置に設置されていると想定する。仮想視点405の位置は、任意に設定できるが、方向に関しては、仮想ミラー406の方向を向いているとする。本実施例では、仮想視点405及び仮想ミラー406を想定し、仮想光軸407に示すように歩行者303、他車両304を含む広角の周囲の状況をドライバーが認識できるようにする。このために、仮想ミラー406で反射されて仮想視点405で撮像された画像を、ドライバーに対し交差点の死角を未だ直視できない時点において、画像受信表示装置120(図1あるいは図2)の表示部126(図1)に表示するものである。
本実施例では、画像撮像送信装置110で撮像された実際の画像データに、画像撮像送信装置110の幾何変換部119(図1)において幾何変換処理を施し、このような仮想視点405で撮像された映像と幾何学的に対応する画像データを作り出して表示する。図4の例では、仮想視点405は、自車両202の進行方向に位置し、自車両202の進行方向を映し出す方向で存在しているので、自車両が仮想視点405の地点に差し掛かった際に仮想ミラー406を見た場合に、ドライバー席から見える風景を表示していることになり、ドライバーにとって位置関係を把握しやすい。また、自車両202よりも交差点に近い位置を視点とすることができるので、死角の状況を、予め大きな映像で確認することができる。そのため、事故を未然に防ぐことができるようになる。
図4に示した仮想視点405から見た映像は、画像撮像送信装置110で撮像された画像データから幾何変換処理によって作り出される。
以下、図4の場合の幾何変換処理の例について図5、図6を用いて説明する。
図5は、図4の状況で撮像された、幾何変換前の画像の座標の例を示している。イメージセンサ部の出力画像範囲501(太い破線)は、図1のイメージセンサ部112から出力される画像の範囲を示している。本図の例では、光学系部111が魚眼レンズを含む構成となっており、図4の場合と同様に、画像撮像送信装置110が、信号機程度の高い位置で、光軸が鉛直下方向を向くように設置されている場合を想定している。図中の細い破線は、仮に地面の高さに東西、南北方向にメッシュ状の格子線が引かれていた場合に撮像される線を示しており、画像の歪みの程度を表している。光学系部111に魚眼レンズを使用しているので、図のように周辺部ほど画像が歪んでいる。本図の例の場合には、イメージセンサ部の出力画像501のX−Y軸は、それぞれ(+X)が北、(―X)が南、(+Y)が東、(−Y)が西の向きに合うように合わせてある。
以下、図4の場合の幾何変換処理の例について図5、図6を用いて説明する。
図5は、図4の状況で撮像された、幾何変換前の画像の座標の例を示している。イメージセンサ部の出力画像範囲501(太い破線)は、図1のイメージセンサ部112から出力される画像の範囲を示している。本図の例では、光学系部111が魚眼レンズを含む構成となっており、図4の場合と同様に、画像撮像送信装置110が、信号機程度の高い位置で、光軸が鉛直下方向を向くように設置されている場合を想定している。図中の細い破線は、仮に地面の高さに東西、南北方向にメッシュ状の格子線が引かれていた場合に撮像される線を示しており、画像の歪みの程度を表している。光学系部111に魚眼レンズを使用しているので、図のように周辺部ほど画像が歪んでいる。本図の例の場合には、イメージセンサ部の出力画像501のX−Y軸は、それぞれ(+X)が北、(―X)が南、(+Y)が東、(−Y)が西の向きに合うように合わせてある。
イメージセンサ部の出力画像範囲501のうち、図4の仮想視点405から、仮想ミラー406を通じて見える範囲を幾何変換処理の対象とする。図4の位置関係では、仮想ミラー406は、画像撮像送信装置110から見てやや北東の方角に位置している。また、仮想視点405は、仮想ミラーの位置から見て東の方角に位置している。そのため、仮想ミラー406を介して仮想視点405から撮像できる範囲は、仮想光軸407によって示されるように、画像撮像送信装置110から見て南側、東側、北側の方角に広く分布しており、その光軸中心はやや北寄りとなっている。このような範囲の像は、図5の画像データ上において504で示される範囲(幾何変換処理範囲;図中に太線で示す)となる。ここで、幾何変換処理範囲504の四つの端点を、A点505、B点506、C点507、D点508とする。
図6は、図5の幾何変換処理範囲504内の画素が、幾何変換処理によって、図6の幾何変換処理範囲504に写像された場合の、幾何変換後の画像の座標の例を示す。図6では、座標はX2−Y2軸で表され、仮想視点の座標503を中央部として、仮想カメラの下方向が(+Y2)、上方向が(−Y2)、右方向が(+X2)、左方向が(−X2)と一致する。幾何変換処理範囲504と重なるようにして、表示部に対する出力画像範囲600(図中に太い破線で示す)を定義する。
図5のA点505、B点506、C点507、D点508は、図6のA点505、B点506、C点507、D点508に写像される。図5で、C点507及びD点508は、A点505及びB点506よりも東の方角に存在している。東寄りに存在する物体から来る光軸は、仮想ミラー406で反射されて、仮想カメラ406に対して、上寄りの方向から入るため、図6では、C点507及びD点508は、A点505及びB点506よりも、画像の上方向に写像される。
また、図5で、A点505及びC点507は、B点506及びD点508よりも南側の位置に存在している。図4で、仮想カメラ405の左方向が南、右方向が北に相当するため、図6では、A点505及びC点507は、B点506及びD点508よりも南側に写像される。
図5のA点505、B点506、C点507、D点508は、図6のA点505、B点506、C点507、D点508に写像される。図5で、C点507及びD点508は、A点505及びB点506よりも東の方角に存在している。東寄りに存在する物体から来る光軸は、仮想ミラー406で反射されて、仮想カメラ406に対して、上寄りの方向から入るため、図6では、C点507及びD点508は、A点505及びB点506よりも、画像の上方向に写像される。
また、図5で、A点505及びC点507は、B点506及びD点508よりも南側の位置に存在している。図4で、仮想カメラ405の左方向が南、右方向が北に相当するため、図6では、A点505及びC点507は、B点506及びD点508よりも南側に写像される。
図7は、表示部の出力画像700の例である。この画像は、図6のように表示部の出力画像範囲600に写像された画素が、画像データとして図1の表示部126で表示された場合に写る映像の例を示している。図4で、死角の位置に存在していた歩行者303及び他車両304が、図7においては大きく表示されている。また、自車両202のように、図4の仮想ミラー406から遠い位置に存在する物体は小さく見える。
また、現実のカーブミラーは、湾曲することで広角の範囲を一度に映し出せるように設計されている。これと同様に、仮想ミラー406も所定の曲率で湾曲しており、特に周辺部にあえて歪を加えることで広角の範囲を表示できるようにしている。このような仮想画像を自車両202のドライバーに表示することによって、死角の状況を、死角のすぐ近くから撮像された画像として、予めドライバーが確認することができるので、事故を未然に防ぐことができる。
また、現実のカーブミラーは、湾曲することで広角の範囲を一度に映し出せるように設計されている。これと同様に、仮想ミラー406も所定の曲率で湾曲しており、特に周辺部にあえて歪を加えることで広角の範囲を表示できるようにしている。このような仮想画像を自車両202のドライバーに表示することによって、死角の状況を、死角のすぐ近くから撮像された画像として、予めドライバーが確認することができるので、事故を未然に防ぐことができる。
図5のイメージセンサ部の出力画像範囲501から、図6の表示部の出力画像範囲600へ写像する変換は、幾何変換部119において実施される。このような変換について、数式を用いて以下に説明する。
画像撮像送信装置110のイメージセンサ部112で撮像された画像データ上の座標を図5に示されるように(X,Y)、画像受信表示装置120の表示部126へ出力される画像データ上の座標を図6に示されるように(X2,Y2)とすると、幾何変換部124における幾何変換処理fallは、f1からf5の5種類の幾何変換処理を総合した処理となっており、それらは(数式1)に示す関係となる。
(X2,Y2)=fall(X,Y)=f5f4f3f2f1(X,Y) ・・・(数式1)
ただし、
f1;光学系部の光学特性によって生じた画像の歪みを補正して、歪みのない画像にする、もしくは歪みが軽減された画像にするための非線形変換処理。
f2;画像撮像送信装置110の位置及び方向の変化によって生じる視点の移動及び回転を除去するための移動及び回転変換処理。
f3;仮想ミラー406によって生じる鏡面反転変換処理。
f4;所定の曲率を備えた仮想ミラー406の歪みを再現し、広角な領域を表示するためにあえて歪みを加える非線形変換処理。
f5;仮想視点405の位置、方向から見た映像に変換するための、移動及び回転変換処理。
画像撮像送信装置110のイメージセンサ部112で撮像された画像データ上の座標を図5に示されるように(X,Y)、画像受信表示装置120の表示部126へ出力される画像データ上の座標を図6に示されるように(X2,Y2)とすると、幾何変換部124における幾何変換処理fallは、f1からf5の5種類の幾何変換処理を総合した処理となっており、それらは(数式1)に示す関係となる。
(X2,Y2)=fall(X,Y)=f5f4f3f2f1(X,Y) ・・・(数式1)
ただし、
f1;光学系部の光学特性によって生じた画像の歪みを補正して、歪みのない画像にする、もしくは歪みが軽減された画像にするための非線形変換処理。
f2;画像撮像送信装置110の位置及び方向の変化によって生じる視点の移動及び回転を除去するための移動及び回転変換処理。
f3;仮想ミラー406によって生じる鏡面反転変換処理。
f4;所定の曲率を備えた仮想ミラー406の歪みを再現し、広角な領域を表示するためにあえて歪みを加える非線形変換処理。
f5;仮想視点405の位置、方向から見た映像に変換するための、移動及び回転変換処理。
(数式1)の幾何変換処理のうちf3とf4とf5は、表示したい視点の位置、向き、表示する際の画像の歪みに係るので、これらは図1に示した画像受信表示装置120から画像撮像送信装置110へ送信される位置・方向情報と、画像撮像送信装置110に設定された位置・方向情報より、画像受信表示装置120の表示に適した画像補正を行うように決定される。一方でf1とf2は、画像撮像送信装置110の光学特性及び設置位置及び方向によって決定される。
このようにすることで、幾何変換部119で実施する幾何変換処理の数式を確定させることができ、適切な歪補正処理を実施することができるようになる。そのため、ドライバーの死角に当たる部分の状況を、視認しやすい形で表示することができ、事故を防止することができる。
また、本実施例によれば、図1において光学系部111にて撮影した画像を画像撮像送信装置110側で幾何変換処理などの画像処理を行えるので、画像受信表示装置側120の処理負担とコストを低減できる。
このようにすることで、幾何変換部119で実施する幾何変換処理の数式を確定させることができ、適切な歪補正処理を実施することができるようになる。そのため、ドライバーの死角に当たる部分の状況を、視認しやすい形で表示することができ、事故を防止することができる。
また、本実施例によれば、図1において光学系部111にて撮影した画像を画像撮像送信装置110側で幾何変換処理などの画像処理を行えるので、画像受信表示装置側120の処理負担とコストを低減できる。
本実施例においては、f1からf5の5種類の幾何変換処理を総合した幾何変換処理を例に説明したが、実際にはどのような非線形変換であってもよく、幾何変換処理の順序を入れ替え、幾何変換処理の一部を取り除き、或いは、別の幾何変換処理を加えても良い。例えば、図1の信号処理部114内で、画像の歪を軽減し、或いは、位置や方向のずれを正規化するために、f1もしくはf2の幾何変換処理の一部を実施しても良い。その場合には、撮像された際の光学特性、位置、方向の情報については、送信される画像データに合うように送信制御部116において修正したものを、撮像パラメータとして送信する。
以下、本発明における実施例2について詳細に説明する。
実施例2においても、実施例1と同様に、自車両202(図4)が見通しの悪い交差点に進入しようとしている場合に、ドライバーの死角の映像を予め、視認しやすいように表示することを課題とする。実施例2では、構成及び形態についても実施例1と同様であり、構成については、実施例1の図1の車両用画像送受信システム100と同様であり、また形態については、実施例1の図2と同様となる。手段としては、実施例1の場合と同様に、画像撮像送信装置110で撮像した画像データに対して、画像撮像送信装置110において適切な幾何変換処理を適用して、ドライバーにとって見やすい映像を作り出すものであるが、実施例2では以下に示すように、作り出す映像の視点が実施例1の場合と異なり、また、その視点からの映像を作り出す幾何変換処理が実施例1の場合と異なる。以下に、その違いを説明する。
実施例2においても、実施例1と同様に、自車両202(図4)が見通しの悪い交差点に進入しようとしている場合に、ドライバーの死角の映像を予め、視認しやすいように表示することを課題とする。実施例2では、構成及び形態についても実施例1と同様であり、構成については、実施例1の図1の車両用画像送受信システム100と同様であり、また形態については、実施例1の図2と同様となる。手段としては、実施例1の場合と同様に、画像撮像送信装置110で撮像した画像データに対して、画像撮像送信装置110において適切な幾何変換処理を適用して、ドライバーにとって見やすい映像を作り出すものであるが、実施例2では以下に示すように、作り出す映像の視点が実施例1の場合と異なり、また、その視点からの映像を作り出す幾何変換処理が実施例1の場合と異なる。以下に、その違いを説明する。
図8は、実施例2の手法を用いた場合の死角の視認方法の例を示す図である。図8の画像撮像送信装置110、画像受信表示装置120、自車両202、ビル(障害物)301、ビル(障害物)302、歩行者303、他車両304、自車両の進行方向の信号305は、図3と同様である。実施例1においては、図4の仮想視点405と仮想ミラー406を定義して、幾何変換処理によって、仮想視点405から見た映像に相当する画像を作り出した。これに対して、実施例2においては、図8のように交差点の付近に仮想視点800を定義する。仮想視点800は、高所から地上の方向を見下ろす形に設置されていると想定し、実施例2の場合には、この仮想視点800を画面の中央部とした、上空から見下ろす視点の画像を作り出してドライバーに表示する。このとき、自車両202の進行方向が表示される画像の上方向となるように、必要に応じて回転方向の幾何変換をかける。上空から見下ろした映像を表示することで、ドライバーは交差点周辺の状況を、実写で予め知ることができるので、事故を未然に防ぐことができる。また、例えば仮想視点800の位置を自車両202の位置に重ねても良い。
図8に示した仮想視点800から見た映像は、画像撮像送信装置110で撮像された画像データから幾何変換処理によって作り出される。以下、図8の場合の幾何変換処理の例について図9、図10を用いて説明する。
図8に示した仮想視点800から見た映像は、画像撮像送信装置110で撮像された画像データから幾何変換処理によって作り出される。以下、図8の場合の幾何変換処理の例について図9、図10を用いて説明する。
図9は、図8の状況で撮像された、幾何変換前の画像の座標の例を示している。イメージセンサ部の出力画像範囲501(太い破線)は、図1のイメージセンサ部112から出力される画像の範囲を示している。本図の例では、光学系部111が魚眼レンズを含む構成となっており、図4の場合と同様に、画像撮像送信装置110が、信号機程度の高い位置で、光軸が鉛直下方向を向くように設置されている場合を想定している。図中の細い破線は、仮に地面の高さに東西、南北方向にメッシュ状の格子線が引かれていた場合に撮像される線を示しており、画像の歪みの程度を表している。光学系部111に魚眼レンズを使用しているので、図のように周辺部ほど画像が歪んでいる。本図の例の場合には、イメージセンサ部の出力画像501のX−Y軸は、それぞれ(+X)が北、(―X)が南、(+Y)が東、(−Y)が西の方向に合うように合わせてある。イメージセンサ部の出力画像範囲501のうち、図9の仮想視点の座標905を含む範囲を幾何変換処理の対象とする。
図8の位置関係では、仮想視点800は、画像撮像送信装置110から見てやや北東の方角に位置している。幾何変換処理の対象となる範囲は、図9の画像データにおいて900で示される範囲(幾何変換処理範囲;図中に太線で示す)となる。ここで、幾何変換処理範囲900の四つの端点を、A2点901、B2点902、C2点903、D2点904とする。
図10は、図9の幾何変換処理範囲900内の画素が、幾何変換処理によって、図10の幾何変換処理範囲900に写像された場合の、幾何変換後の画像の座標の例を示す。図10では、座標はX3−Y3軸で表され、仮想視点の座標905を中央部として、仮想カメラの下方向が(+Y3)、上方向が(−Y3)、右方向が(+X3)、左方向が(−X3)と一致する。幾何変換処理範囲900と重なるようにして、表示部の出力画像範囲1000(図中に太い破線で示す)を定義する。
図10は、図9の幾何変換処理範囲900内の画素が、幾何変換処理によって、図10の幾何変換処理範囲900に写像された場合の、幾何変換後の画像の座標の例を示す。図10では、座標はX3−Y3軸で表され、仮想視点の座標905を中央部として、仮想カメラの下方向が(+Y3)、上方向が(−Y3)、右方向が(+X3)、左方向が(−X3)と一致する。幾何変換処理範囲900と重なるようにして、表示部の出力画像範囲1000(図中に太い破線で示す)を定義する。
図9のA2点901、B2点902、C2点903、D2点904は、図10のA2点901、B2点902、C2点903、D2点904に写像される。また、仮想視点の座標905は、幾何変換処理範囲900の中央部となる。
図11は、表示部の出力画像1100の例である。この画像は、図10のように表示部の出力画像範囲1000に写像された画素が、画像データとして図1の表示部126で表示された場合に写る映像の例を示している。このような仮想画像を自車両202(図8)のドライバーに表示することによって、死角の状況を、予め、上空から撮像された画像として確認することができるので、事故を未然に防ぐことができる。
図11は、表示部の出力画像1100の例である。この画像は、図10のように表示部の出力画像範囲1000に写像された画素が、画像データとして図1の表示部126で表示された場合に写る映像の例を示している。このような仮想画像を自車両202(図8)のドライバーに表示することによって、死角の状況を、予め、上空から撮像された画像として確認することができるので、事故を未然に防ぐことができる。
図9のイメージセンサ部の出力画像範囲501から、図10の表示部の出力画像範囲900へ写像する変換は、幾何変換部119(図1)において実施される。このような変換について、数式を用いて以下に説明する。
画像撮像送信装置110のイメージセンサ部112で撮像された画像データ上の座標を図9に示されるように(X,Y)、幾何変換部119で処理される画像データ上の座標を図10に示されるように(X3,Y3)とすると、幾何変換部119における幾何変換処理fall2は、f1,f2,f6,f7の4種類の幾何変換処理を総合した処理となっており、それらは(数式2)に示す関係となる。
(X3,Y3)=fall2(X,Y)=f7f6f2f1(X,Y) ・・・(数式2)
ただし、
f1;光学系部の光学特性によって生じた画像の歪みを補正して、歪みのない画像にする、もしくは歪みが軽減された画像にするための非線形変換処理。
f2;画像撮像送信装置110の位置及び方向の変化によって生じる視点の移動及び回転を除去するための移動及び回転変換処理。
f6;仮想視点800の位置、方向から見た映像に変換するための、移動及び回転変換処理。
f7;透視投影変換処理または、平行投影変換処理。
画像撮像送信装置110のイメージセンサ部112で撮像された画像データ上の座標を図9に示されるように(X,Y)、幾何変換部119で処理される画像データ上の座標を図10に示されるように(X3,Y3)とすると、幾何変換部119における幾何変換処理fall2は、f1,f2,f6,f7の4種類の幾何変換処理を総合した処理となっており、それらは(数式2)に示す関係となる。
(X3,Y3)=fall2(X,Y)=f7f6f2f1(X,Y) ・・・(数式2)
ただし、
f1;光学系部の光学特性によって生じた画像の歪みを補正して、歪みのない画像にする、もしくは歪みが軽減された画像にするための非線形変換処理。
f2;画像撮像送信装置110の位置及び方向の変化によって生じる視点の移動及び回転を除去するための移動及び回転変換処理。
f6;仮想視点800の位置、方向から見た映像に変換するための、移動及び回転変換処理。
f7;透視投影変換処理または、平行投影変換処理。
(数式2)の幾何変換処理のうちf6とf7は、表示したい視点の位置、向き、投影方法に係るので、図1の画像受信表示装置120の位置・方向検出部127によって得られる自車両の位置・方向の情報より決定される。一方でf1とf2は、画像撮像送信装置110の位置・方向検出部118a(図1)で検出された画像撮像送信装置110の設置位置及び方向、及び光学歪特性に係る歪情報検出部118bでの検出情報によって決定される項目である。即ち、光学特性及び設置位置及び方向によって決定される項目である。
このようにすることで、幾何変換部124で実施する幾何変換処理の数式を確定させることができ、適切な歪補正処理を実施することができるようになる。そのため、ドライバーの死角に当たる部分の状況を、視認しやすい形で表示することができ、事故を防止することができる。
このようにすることで、幾何変換部124で実施する幾何変換処理の数式を確定させることができ、適切な歪補正処理を実施することができるようになる。そのため、ドライバーの死角に当たる部分の状況を、視認しやすい形で表示することができ、事故を防止することができる。
以下、本発明における実施例3について詳細に説明する。
実施例3においても、実施例1,2と同様に、自車両202(図4)が見通しの悪い交差点に進入しようとしている場合に、ドライバーの死角の映像を予め、視認しやすいように表示することを課題とする。また、形態についても、実施例1,2の図2と同様となる。
実施例3においても、実施例1,2と同様に、自車両202(図4)が見通しの悪い交差点に進入しようとしている場合に、ドライバーの死角の映像を予め、視認しやすいように表示することを課題とする。また、形態についても、実施例1,2の図2と同様となる。
図12は、本発明の実施例3における車両用画像送受信システム1200を示す構成図である。
図12において、車両用画像送受信システム1200は、画像撮像送信装置1101と、画像受信表示装置1201を有する。同図において画像撮像送信装置110における、光学系部111、イメージセンサ部112、信号処理部114、幾何変換部119、画像圧縮部115、送信制御部116、位置・方向検出部118a、歪情報検出部118b、送受信部117、及び画像受信表示装置1201における送受信部121、画像復号部123、表示部126、位置・方向検出部127、受信制御部125は図1と同様のものである。画像認識部1191は、幾何変換部119でイメージセンサ部112の画像歪を補正した画像の中に、人や交差点に接近する自転車や自動車、バイクなどを、パターンマッチング(とくにこの手法に限定はしない)などの手法で認識し、幾何変換部119で画像歪を補正した画像の中の該当する位置、またはその位置から割り出される地図上の位置に係る情報を、送受信部117を介して画像受信装置1201に無線通信にて送信する。
図12において、車両用画像送受信システム1200は、画像撮像送信装置1101と、画像受信表示装置1201を有する。同図において画像撮像送信装置110における、光学系部111、イメージセンサ部112、信号処理部114、幾何変換部119、画像圧縮部115、送信制御部116、位置・方向検出部118a、歪情報検出部118b、送受信部117、及び画像受信表示装置1201における送受信部121、画像復号部123、表示部126、位置・方向検出部127、受信制御部125は図1と同様のものである。画像認識部1191は、幾何変換部119でイメージセンサ部112の画像歪を補正した画像の中に、人や交差点に接近する自転車や自動車、バイクなどを、パターンマッチング(とくにこの手法に限定はしない)などの手法で認識し、幾何変換部119で画像歪を補正した画像の中の該当する位置、またはその位置から割り出される地図上の位置に係る情報を、送受信部117を介して画像受信装置1201に無線通信にて送信する。
図12の画像受信表示装置1201は、実施例2の図1の画像受信表示装置120に、受信画像処理部1202として画像合成部1204を追加した構成となっている。
受信制御部125は、画像撮像送信装置1101の画像認識部1191で認識された人や交差点に接近する自転車や自動車、バイクなどの画像の中の位置またはその位置から割り出される地図上の位置に係る情報を送受信部117、送受信部121を経由して画像合成部1204へ設定し、認識した物体を強調表示するように表示制御する。強調表示の内容は後述する。
本実施例では、実施例2の場合と同様に、画像撮像送信装置1101で撮像した画像データに対して、適切な幾何変換処理を適用して、ドライバーにとって見やすい映像を作り出すという手法であるが、画像認識処理の結果に対応する画像を前記画像データと合成して出力するという点で、実施例2の手法と異なる。実施例3においては、幾何変換後の画像データを元に、画像認識処理によって歩行者や車両などの衝突の危険がある物体(走行障害物)を発見し、ドライバーが認識し易いような当該物体の画像を生成し、画像合成処理によって前記画像データと合成する。このようにすることで、実施例2の場合ように幾何変換処理された実画像の画像データを表示する場合よりも、歩行者や車両などをドライバーにとって、より見やすいように表示することができる。
本実施例においては、画像認識部1191の入力として、幾何変換部119の出力画像データを用いているので、幾何変換部124において、適切な幾何変換処理を実施した後の画像データを用いて画像認識処理を実施するようにしている。このため、幾何変換処理前の画像を用いる場合と比べて、画像の歪や方向による影響を減少させることができるので、画像認識部1191側で特別の処理を行うことなく画像認識できる。
また、本実施例によれば、図12における光学系部111にて撮影した画像を画像撮像送信装置110側で幾何変換処理などの画像処理を行えるので、画像受信表示装置1201側の処理負担とコストを低減できる。
受信制御部125は、画像撮像送信装置1101の画像認識部1191で認識された人や交差点に接近する自転車や自動車、バイクなどの画像の中の位置またはその位置から割り出される地図上の位置に係る情報を送受信部117、送受信部121を経由して画像合成部1204へ設定し、認識した物体を強調表示するように表示制御する。強調表示の内容は後述する。
本実施例では、実施例2の場合と同様に、画像撮像送信装置1101で撮像した画像データに対して、適切な幾何変換処理を適用して、ドライバーにとって見やすい映像を作り出すという手法であるが、画像認識処理の結果に対応する画像を前記画像データと合成して出力するという点で、実施例2の手法と異なる。実施例3においては、幾何変換後の画像データを元に、画像認識処理によって歩行者や車両などの衝突の危険がある物体(走行障害物)を発見し、ドライバーが認識し易いような当該物体の画像を生成し、画像合成処理によって前記画像データと合成する。このようにすることで、実施例2の場合ように幾何変換処理された実画像の画像データを表示する場合よりも、歩行者や車両などをドライバーにとって、より見やすいように表示することができる。
本実施例においては、画像認識部1191の入力として、幾何変換部119の出力画像データを用いているので、幾何変換部124において、適切な幾何変換処理を実施した後の画像データを用いて画像認識処理を実施するようにしている。このため、幾何変換処理前の画像を用いる場合と比べて、画像の歪や方向による影響を減少させることができるので、画像認識部1191側で特別の処理を行うことなく画像認識できる。
また、本実施例によれば、図12における光学系部111にて撮影した画像を画像撮像送信装置110側で幾何変換処理などの画像処理を行えるので、画像受信表示装置1201側の処理負担とコストを低減できる。
以下、画像認識処理及び画像合成処理について、図16を用いて説明する。
図16は、実施例2の図8と同様の位置関係で交差点の周辺を撮像した場合の、表示部の出力画像1700の一例を示す。図12の幾何変換部119の出力は、図11のような画像データとなっている。画像認識部1191は、図11の画像データから、歩行者1701と他車両1702を画像認識によって抽出し、それぞれの抽出位置に歩行者の枠線及び他車両の枠線1704を画像合成部1204にて合成し、表示部126(図12)に強調表示する。
ドライバーにとっては、図11の画像のような実画像のみを見る場合よりさらに、図16の画像のように衝突の危険性のある物体(走行障害物)が歩行者の枠線1703及び他車両の枠線1704のように強調表示された画像を見る方が、歩行者や車両を認識しやすい。そのため、ドライバーにとって死角の危険な状況を認知しやすく、事故を防止しやすくなる。
なお、図16の例で示される枠線1701,1704は点線枠であるが、特にこれに限定するものではない。
図16は、実施例2の図8と同様の位置関係で交差点の周辺を撮像した場合の、表示部の出力画像1700の一例を示す。図12の幾何変換部119の出力は、図11のような画像データとなっている。画像認識部1191は、図11の画像データから、歩行者1701と他車両1702を画像認識によって抽出し、それぞれの抽出位置に歩行者の枠線及び他車両の枠線1704を画像合成部1204にて合成し、表示部126(図12)に強調表示する。
ドライバーにとっては、図11の画像のような実画像のみを見る場合よりさらに、図16の画像のように衝突の危険性のある物体(走行障害物)が歩行者の枠線1703及び他車両の枠線1704のように強調表示された画像を見る方が、歩行者や車両を認識しやすい。そのため、ドライバーにとって死角の危険な状況を認知しやすく、事故を防止しやすくなる。
なお、図16の例で示される枠線1701,1704は点線枠であるが、特にこれに限定するものではない。
また、図11の歩行者303や他車両304などの走行障害物の実画像に着色したり、走行障害物の実画像のエッジが太くなるように画像処理によって強調(強調表示)したり、走行障害物の実画像と共に、走行障害物の周囲に矩形の枠線をつけるなどして表示しても良い。このような手法によっても、ドライバーが地図上で、走行障害物を視認できるので、事故を防止しやすくできる。
また、上空視点だけでなく、任意の視点からの映像としてよい。
また、上記では、図16のように、上空視点の映像として表示していたが、図12の幾何変換部119において、実施例1の図4、図5、図6、図7を用いて説明したような幾何変換処理を実施することも可能である。その場合には、例えば、幾何変換部119(図12)の出力画像データが図7のような画像データとなり、例えば、図17の表示部の出力画像1800として示すように、画像認識によって認識された走行障害物を強調表示し(1701,1702)、さらに走行障害物の周辺に枠線1703,1704を重畳した画像を表示することができる。
また、上空視点だけでなく、任意の視点からの映像としてよい。
また、上記では、図16のように、上空視点の映像として表示していたが、図12の幾何変換部119において、実施例1の図4、図5、図6、図7を用いて説明したような幾何変換処理を実施することも可能である。その場合には、例えば、幾何変換部119(図12)の出力画像データが図7のような画像データとなり、例えば、図17の表示部の出力画像1800として示すように、画像認識によって認識された走行障害物を強調表示し(1701,1702)、さらに走行障害物の周辺に枠線1703,1704を重畳した画像を表示することができる。
以下、本発明における実施例4について詳細に説明する。
図14は、本発明の実施例4における車両用画像送受信システム1400を示す構成図である。
車両用画像送受信システム1400は、画像撮像送信装置1102と、画像受信表示装置1401を有する。画像撮像送信装置1102において、光学系部111、イメージセンサ部112、信号処理部114、送信制御部116、位置・方向検出部118a、歪情報検出部118bは、図12の画像撮像送信装置1101と同様である。また図14の画像受信表示装置1401において、位置・方向検出部127と、受信制御部125、表示部126は、図12の画像受信表示装置1401と同様である。
図14は、本発明の実施例4における車両用画像送受信システム1400を示す構成図である。
車両用画像送受信システム1400は、画像撮像送信装置1102と、画像受信表示装置1401を有する。画像撮像送信装置1102において、光学系部111、イメージセンサ部112、信号処理部114、送信制御部116、位置・方向検出部118a、歪情報検出部118bは、図12の画像撮像送信装置1101と同様である。また図14の画像受信表示装置1401において、位置・方向検出部127と、受信制御部125、表示部126は、図12の画像受信表示装置1401と同様である。
図14においては、信号処理部114の光学系の歪を持った画像をそのまま画像認識部1192に入力する。送信制御部116は、画像認識部1192に歪情報検出部118bの情報と、位置・方向検出部118aの情報を送る。画像認識部1192では受け取った光学歪情報を元に歪んだ画像の中から人や接近する自転車、自動車などの物体を認識処理し、さらに認識した物体の位置と種類(人、自転車、自動車など)を割り出して、当該位置と種類に係る情報を、送受信部1171を介して無線通信にて画像受信表示装置1401に送る。
図14の画像受信表示装置1401では、受信制御部125は送受信部1211で受信した前記認識した物体の位置、及び種類の情報を受け取り、自車両の位置・方向検出部127より得られる自車両の位置・方向データを元に、地図データ出力部1403から得られる自車両の位置を示す、いわゆるカーナビゲーションでの表示地図上に、前記認識した物体を重畳表示する。
図14の画像受信表示装置1401では、受信制御部125は送受信部1211で受信した前記認識した物体の位置、及び種類の情報を受け取り、自車両の位置・方向検出部127より得られる自車両の位置・方向データを元に、地図データ出力部1403から得られる自車両の位置を示す、いわゆるカーナビゲーションでの表示地図上に、前記認識した物体を重畳表示する。
以下、本実施例における、地図データ出力部1403の出力画像データ及び画像合成処理について、図15を用いて説明する。
図15は、実施例3の図11と同様の位置関係で交差点の周辺を撮像した場合の、表示部の出力画像1500である。地図データ出力部1403から出力される地図データには、図15に示される地図データ(道路)1501、地図データ(ビル名)1502、地図データ(ビル名)1503など、地図記号や線や文字やその他の図形が含まれる。また、図14の画像認識部1192の出力である画像認識結果には、自車両アイコン1301、歩行者アイコン1302、他車両アイコン1303が含まれる。画像合成部1404では、画像認識結果と地図データが合成されるので、例えば図15のような画像データが出力される。
実施例4では、図14の画像のように衝突の危険性のある物体(走行障害物)が歩行者アイコン1302及び他車両アイコン1303のようなアイコンに置き換えられた画像を表示するので、ドライバーは、死角の危険な状況を認知しやすい。また、背景に実画像の代わりに地図データを用いることで、歩行者や車両など以外の、比較的衝突の危険性の少ない物体を表示から除外したり、簡易グラフィックとして表示したりできるので、衝突の危険性のある物体(走行障害物)を目立つように表示することができる。
このような手法によっても、実施例2のように実画像をそのまま表示する場合よりも、ドライバーにとっての視認性が向上するので、事故を防止しやすくできる。
図15は、実施例3の図11と同様の位置関係で交差点の周辺を撮像した場合の、表示部の出力画像1500である。地図データ出力部1403から出力される地図データには、図15に示される地図データ(道路)1501、地図データ(ビル名)1502、地図データ(ビル名)1503など、地図記号や線や文字やその他の図形が含まれる。また、図14の画像認識部1192の出力である画像認識結果には、自車両アイコン1301、歩行者アイコン1302、他車両アイコン1303が含まれる。画像合成部1404では、画像認識結果と地図データが合成されるので、例えば図15のような画像データが出力される。
実施例4では、図14の画像のように衝突の危険性のある物体(走行障害物)が歩行者アイコン1302及び他車両アイコン1303のようなアイコンに置き換えられた画像を表示するので、ドライバーは、死角の危険な状況を認知しやすい。また、背景に実画像の代わりに地図データを用いることで、歩行者や車両など以外の、比較的衝突の危険性の少ない物体を表示から除外したり、簡易グラフィックとして表示したりできるので、衝突の危険性のある物体(走行障害物)を目立つように表示することができる。
このような手法によっても、実施例2のように実画像をそのまま表示する場合よりも、ドライバーにとっての視認性が向上するので、事故を防止しやすくできる。
なお、図15の例で示される「アイコン」は絵記号であるが、絵記号だけでなく、絵文字、文字、図形、矩形の枠線など、様々なシンボルによる表現方法を用いても良いとする。
また、地図データは3次元のデータであってもよい。
また、地図データを用いることで、ドライバーが自車両202の現在位置を把握できる。一般のカーナビゲーションシステムと同様に、行き先までの経路を地図上に表示して、経路をドライバーが把握できるようにしても良い。
また、地図データは3次元のデータであってもよい。
また、地図データを用いることで、ドライバーが自車両202の現在位置を把握できる。一般のカーナビゲーションシステムと同様に、行き先までの経路を地図上に表示して、経路をドライバーが把握できるようにしても良い。
以下、本発明における実施例5について詳細に説明する。
図13は、本発明の実施例5における車両用画像送受信システム1300を示す構成図である。
車両用画像送受信システム1300は、画像撮像送信装置1103と、画像受信表示装置1301を有する。画像撮像送信装置1103は、実施例3の図12の画像撮像送信装置1101と同様である。
図13の画像受信表示装置1301において、送受信部121、画像復号部123、受信制御部125、位置・方向検出部127、表示部126は図12に示したものと同様である。本実施例では、画像撮像送信装置1103より伝送された画像データを送受信部121で受信し画像復号部123にて復号した出力に対して、図16に示したような認識結果を枠線で強調表示した画像が画像合成部1304で重畳される(これを強調表示画像という)。
さらに画像撮像送信装置1103にて認識した人や自転車、自動車などの物体の位置に係る情報を送受信部121で受信する。一方、位置・方向検出部127で得た自車両の位置から求められる地図データが地図データ出力部1303より画像合成部1303に入力される。受信制御部125は、画像撮像送信装置1103からの認識した物体の位置情報をもとに、地図データ出力部1303の地図情報にアイコンのようなシンボル画像を重畳した画像(これを地図データ重畳画像という)が合成されるよう、画像合成部1304を制御する。
また、受信制御部125は、前記強調表示画像と前記地図データ重畳画像を切り替えて出力するよう画像合成部1304を制御する。
図13は、本発明の実施例5における車両用画像送受信システム1300を示す構成図である。
車両用画像送受信システム1300は、画像撮像送信装置1103と、画像受信表示装置1301を有する。画像撮像送信装置1103は、実施例3の図12の画像撮像送信装置1101と同様である。
図13の画像受信表示装置1301において、送受信部121、画像復号部123、受信制御部125、位置・方向検出部127、表示部126は図12に示したものと同様である。本実施例では、画像撮像送信装置1103より伝送された画像データを送受信部121で受信し画像復号部123にて復号した出力に対して、図16に示したような認識結果を枠線で強調表示した画像が画像合成部1304で重畳される(これを強調表示画像という)。
さらに画像撮像送信装置1103にて認識した人や自転車、自動車などの物体の位置に係る情報を送受信部121で受信する。一方、位置・方向検出部127で得た自車両の位置から求められる地図データが地図データ出力部1303より画像合成部1303に入力される。受信制御部125は、画像撮像送信装置1103からの認識した物体の位置情報をもとに、地図データ出力部1303の地図情報にアイコンのようなシンボル画像を重畳した画像(これを地図データ重畳画像という)が合成されるよう、画像合成部1304を制御する。
また、受信制御部125は、前記強調表示画像と前記地図データ重畳画像を切り替えて出力するよう画像合成部1304を制御する。
例えば画像受信表示装置1301を搭載した自車両が、画像撮像送信装置1103から遠くの位置にある場合は地図データ重畳画像を表示し、画像撮像送信装置1103に近づいてきた場合、強調表示画像に適宜切り替えるよう表示制御を行うことによって、自車両202(図16)が交差点から遠い位置にいるときには、地図上に自車両の現在位置や経路の情報を出力して利便性を高めることができる。また一方で、自車両202が交差点から近い位置にいるときには、地図よりも情報量の多い表示形式である実画像を表示することで、ドライバーが交差点周辺の状況を予め、より詳細に認知することができることができる。つまり、実施例5の手法のよると、利便性と安全性の両方を同時に得ることができる。
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加、削除、置換をすることが可能である。
また、上記の各構成は、それらの一部又は全部が、ハードウェアで構成されても、プロセッサでプログラムが実行されることにより実現されるように構成されてもよい。また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
100:車両用画像送受信システム、110:画像撮像送信装置、111:光学系部、112:イメージセンサ部、113:送信画像処理部、114:信号処理部、115:画像圧縮部、116:送信制御部、117:送受信部、118a:位置・方向検出部、118b:歪情報検出部、120:画像受信表示装置、121:送受信部、122:受信画像処理部、123:画像復号部、124:幾何変換部、125:受信制御部、126:表示部、127:位置・方向検出部、200:支柱、201:信号機、202:自車両、301:ビル(障害物)、302:ビル(障害物)、303:歩行者、304:他車両、305:自車両の進行方向の信号、310:従来のカーブミラー、311:光軸、405:仮想視点、406:仮想ミラー、407:仮想光軸、501:イメージセンサ部の出力画像範囲、502:イメージセンサ部鉛直方向の座標、503:仮想視点の座標、504:幾何変換処理範囲、505:A点、506:B点、507:C点、508:D点、600:表示部の出力画像範囲、700:表示部の出力画像、900:幾何変換処理範囲、901:A2点、902:B2点、903:C2点、903:D2点、1000:表示部の出力画像範囲、1100:表示部の出力画像。
Claims (9)
- 被写体を撮像して得た画像の画像データを生成して送信する画像撮像送信装置と、当該画像撮像送信装置が送信した画像データを受信して当該画像データに基づく画像を表示する画像受信表示装置と、を有する画像送受信システムであって、
前記画像受信表示装置は、
当該画像受信表示装置自身の位置と方向に係る情報を検出して出力する、位置と方向の検出部と、
当該検出部が出力した位置と方向に係る情報を前記画像撮像送信装置に送信し、当該画像撮像送信装置が送信した前記画像データを受信する送受信部と、
当該送受信部が受信した画像データを処理して出力する受信画像処理部と、
当該受信画像処理部が出力した画像データに基づく画像を表示する表示部と、
前記画像受信表示装置の動作を制御する受信制御部と、
を有し、
前記画像撮像送信装置は、
前記被写体を撮像して得た画像の画像信号を出力する撮像部と、
当該撮像部が出力した画像信号を供給され当該画像信号を幾何変換して、送信する画像データを出力する送信画像処理部と、
当該送信画像処理部が出力した画像データを供給され、当該画像データを前記画像受信表示装置へ送信し、前記画像受信表示装置が送信した当該装置の位置と方向に係る情報を受信する送受信部と、
前記撮像送信装置自身の位置と方向に係る情報を検出して出力する、位置と方向の検出部と、
当該検出部が出力した位置と方向に係る情報と、前記画像受信表示装置が送信した当該装置の位置と方向に係る情報と、が供給され、双方の情報に基づき前記送信画像処理部における幾何変換処理を制御する送信制御部と、
を有することを特徴とする画像送受信システム。 - 請求項1に記載の画像送受信システムにおいて、
前記画像撮像送信装置は、
前記送信画像処理部が出力した画像データを供給され、当該画像データに基づき前記被写体から所定の被写体を検出した検出情報を、前記送受信部に出力して前記画像受信表示装置に送信させる画像認識部
を有し、
前記画像受信表示装置は、
当該画像受信表示装置の送受信部が受信した前記被写体の検出情報と前記受信画像処理部が出力した画像データとを供給され、前記被写体の検出情報に基づき前記画像データが含む被写体を強調表示する処理をして前記表示部に出力する画像合成部
を有することを特徴とする画像送受信システム。 - 被写体を撮像して当該被写体から所定の被写体を検出した検出情報を送信する画像撮像送信装置と、当該画像送信装置が送信した検出情報を受信して当該検出情報に基づく画像を表示する画像受信表示装置と、を有する画像送受信システムであって、
前記画像受信表示装置は、
当該画像受信表示装置自身の位置と方向に係る情報を検出して出力する、位置と方向の検出部と、
前記画像撮像送信装置が送信した前記検出情報を受信する送受信部と、
前記画像受信表示装置の検出部が出力した位置と方向に係る情報に基づき、前記画像受信表示装置の周辺における地図データを生成して出力する地図データ出力部と、
当該地図データ出力部が出力した地図データと前記送受信部が受信した前記被写体の検出情報とを供給され、前記地図データに対して前記検出情報に基づく前記被写体の種類に応じたシンボル画像を重畳して出力する画像合成部と、
当該画像合成部が出力した画像データに基づく画像を表示する表示部と、
前記画像受信表示装置の動作を制御する受信制御部と、
を有し、
前記画像撮像送信装置は、
前記被写体を撮像して得た画像の画像信号を出力する撮像部と、
当該撮像部が出力した画像信号を処理して画像データを出力する信号処理部と、
当該信号処理部が出力した画像データに基づき前記被写体から所定の被写体を検出した検出情報を出力する画像認識部と、
当該画像認識部が出力した検出情報を供給され、当該検出情報を前記画像受信表示装置へ送信する送受信部と、
前記画像撮像送信装置の動作を制御する送信制御部と、
を有することを特徴とする画像送受信システム。 - 請求項3に記載の画像送受信システムにおいて、
前記画像受信表示装置の送受信部は、当該画像受信表示装置の検出部が出力した位置と方向に係る情報を前記画像撮像送信装置に送信し、
前記画像撮像送信装置の送受信部は、前記画像受信表示装置の送受信部が送信した位置と方向に係る情報を受信して前記送信制御部に出力し、
前記画像撮像送信装置は、当該画像撮像送信装置自身の位置と方向に係る情報を検出して前記送信制御部に出力する、位置と方向の検出部を有し、
前記画像撮像送信装置の送信制御部は、供給された当該画像撮像送信装置と前記画像受信表示装置との双方の位置と方向に係る情報に基づき、前記画像認識部を制御する
ことを特徴とする画像送受信システム。 - 請求項2に記載の画像送受信システムにおいて、
前記画像受信表示装置は、
当該画像受信表示装置の検出部が出力した位置と方向に係る情報に基づき、前記画像受信表示装置の周辺における地図データを生成して出力する地図データ出力部を有し、
前記画像合成部は、当該地図データ出力部が出力した地図データと前記画像受信表示装置の送受信部が受信した検出情報とを供給され、前記地図データに対して前記検出情報に基づく前記被写体の種類に応じたシンボル画像を重畳した画像と、前記画像データが含む被写体を強調表示する処理をした画像とを切り替えて前記表示部に出力し、
前記受信制御部は、前記画像撮像送信装置が有する位置と方向の検出部が検出した位置と前記画像受信表示装置が有する位置と方向の検出部が検出した位置との相対的な距離に基づき、出力する画像を切り替えるよう前記画像合成部を制御する
ことを特徴とする画像送受信システム。 - 請求項1または請求項3に記載の画像送受信システムにおいて、
前記画像受信表示装置は移動体に搭載される画像受信表示装置であり、前記画像撮像送信装置及び画像受信表示装置の送受信部は、互いに無線通信路を介して情報を送受信することを特徴とする画像送受信システム。 - 請求項1に記載の画像送受信システムにおいて、
前記画像撮像送信装置は、前記撮像部が撮像した画像データが有する光学的な画像の歪みを検出して検出情報を前記送信制御部に出力する歪情報検出部を有し、
前記送信制御部は、供給された当該情報に基づき、前記送信画像処理部を制御することを特徴とする画像送受信システム。 - 請求項1に記載の画像送受信システムにおいて、
前記送信制御部は、前記送信画像処理部に供給された画像データを、前記画像受信表示装置の位置とは異なる位置の仮想視点より前記画像受信表示装置の位置とは異なる位置に仮想的に設けられた仮想ミラーを見た場合の画像データに変換するよう、前記送信画像処理部を制御することを特徴とする画像送受信システム。 - 請求項1に記載の画像受信表示装置において、
前記送信制御部は、前記送信画像処理部に供給された画像データを、前記画像受信表示装置の位置とは異なる位置の仮想視点より地上の方向を見下ろした場合の画像データに変換するよう、前記送信画像処理部を制御することを特徴とする画像送受信システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012070060A JP2013200820A (ja) | 2012-03-26 | 2012-03-26 | 画像送受信システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012070060A JP2013200820A (ja) | 2012-03-26 | 2012-03-26 | 画像送受信システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2013200820A true JP2013200820A (ja) | 2013-10-03 |
Family
ID=49520989
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012070060A Pending JP2013200820A (ja) | 2012-03-26 | 2012-03-26 | 画像送受信システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2013200820A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017528819A (ja) * | 2014-08-21 | 2017-09-28 | トヨタ モーター セールス,ユー.エス.エー.,インコーポレイティド | リクエストされた車両が獲得した交通事情の映像のダウンロード |
US10891495B2 (en) | 2015-08-19 | 2021-01-12 | Sony Corporation | Information processing apparatus, information processing method, and program |
JP2021022866A (ja) * | 2019-07-29 | 2021-02-18 | 京セラ株式会社 | 交通通信システム、基地局、移動局、及び車両 |
EP3816945B1 (en) * | 2019-10-30 | 2023-08-02 | Hitachi, Ltd. | Abnormality determination apparatus and vehicle assistance system |
-
2012
- 2012-03-26 JP JP2012070060A patent/JP2013200820A/ja active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017528819A (ja) * | 2014-08-21 | 2017-09-28 | トヨタ モーター セールス,ユー.エス.エー.,インコーポレイティド | リクエストされた車両が獲得した交通事情の映像のダウンロード |
US10891495B2 (en) | 2015-08-19 | 2021-01-12 | Sony Corporation | Information processing apparatus, information processing method, and program |
US11295143B2 (en) | 2015-08-19 | 2022-04-05 | Sony Corporation | Information processing apparatus, information processing method, and program |
JP2021022866A (ja) * | 2019-07-29 | 2021-02-18 | 京セラ株式会社 | 交通通信システム、基地局、移動局、及び車両 |
JP7316138B2 (ja) | 2019-07-29 | 2023-07-27 | 京セラ株式会社 | 交通通信システム、基地局、移動局、及び車両 |
EP3816945B1 (en) * | 2019-10-30 | 2023-08-02 | Hitachi, Ltd. | Abnormality determination apparatus and vehicle assistance system |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109937568B (zh) | 图像处理装置和图像处理方法 | |
JP5099451B2 (ja) | 車両周辺確認装置 | |
JP6091586B1 (ja) | 車両用画像処理装置および車両用画像処理システム | |
US8576285B2 (en) | In-vehicle image processing method and image processing apparatus | |
US8559675B2 (en) | Driving support device, driving support method, and program | |
JP7014218B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
KR100956858B1 (ko) | 차량 주변 영상을 이용하는 차선 이탈 감지 방법 및 장치 | |
WO2012169355A1 (ja) | 画像生成装置 | |
CN111273765B (zh) | 车辆用显示控制装置、车辆用显示控制方法以及存储介质 | |
JP4892965B2 (ja) | 移動体判定システム、移動体判定方法、及びコンピュータプログラム | |
WO2016185691A1 (ja) | 画像処理装置、電子ミラーシステム、及び画像処理方法 | |
US20130120161A1 (en) | Parking assistance device | |
JP5516998B2 (ja) | 画像生成装置 | |
JP5890294B2 (ja) | 映像処理システム | |
JP2002335524A (ja) | 運転支援装置 | |
WO2018179671A1 (ja) | 画像処理装置と画像処理方法および撮像装置 | |
WO2010070920A1 (ja) | 車両周囲画像生成装置 | |
JP2009206747A (ja) | 車両用周囲状況監視装置及び映像表示方法 | |
JP6415382B2 (ja) | 移動体用画像生成装置及びナビゲーション装置 | |
JP6471522B2 (ja) | カメラパラメータ調整装置 | |
JP2012105090A (ja) | 駐車支援装置 | |
JP2011049735A (ja) | 車両周辺画像提供装置 | |
JPWO2015129280A1 (ja) | 画像処理装置および画像処理方法 | |
JP2013200820A (ja) | 画像送受信システム | |
JP2013200819A (ja) | 画像受信表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20140908 |