JP2017034400A - 走行状況表示プログラム、走行状況表示装置、及び走行状況表示方法 - Google Patents

走行状況表示プログラム、走行状況表示装置、及び走行状況表示方法 Download PDF

Info

Publication number
JP2017034400A
JP2017034400A JP2015151016A JP2015151016A JP2017034400A JP 2017034400 A JP2017034400 A JP 2017034400A JP 2015151016 A JP2015151016 A JP 2015151016A JP 2015151016 A JP2015151016 A JP 2015151016A JP 2017034400 A JP2017034400 A JP 2017034400A
Authority
JP
Japan
Prior art keywords
image
vehicle
road
center line
lane
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015151016A
Other languages
English (en)
Other versions
JP6540335B2 (ja
Inventor
中山 收文
Osafumi Nakayama
收文 中山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2015151016A priority Critical patent/JP6540335B2/ja
Priority to US15/157,681 priority patent/US10325518B2/en
Publication of JP2017034400A publication Critical patent/JP2017034400A/ja
Application granted granted Critical
Publication of JP6540335B2 publication Critical patent/JP6540335B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/16Control of vehicles or other craft
    • G09B19/167Control of land vehicles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B9/00Simulators for teaching or training purposes
    • G09B9/02Simulators for teaching or training purposes for teaching control of vehicles or other craft
    • G09B9/04Simulators for teaching or training purposes for teaching control of vehicles or other craft for teaching control of land vehicles
    • G09B9/042Simulators for teaching or training purposes for teaching control of vehicles or other craft for teaching control of land vehicles providing simulation in a real vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)

Abstract

【課題】走行中における車両のふらつき状態を見やすく表示する。
【解決手段】コンピュータは、車両から撮像された道路撮像画像から走行レーンの仮想中心ラインを検出する(ステップ201)。次に、コンピュータは、検出した仮想中心ラインが所定の位置となるように道路撮像画像を変換して生成した変換画像を表示する(ステップ202)。このとき、コンピュータは、車両の走行レーンにおける走行位置の検出結果に応じて、生成した変換画像上における車両のシンボルの表示位置を移動させる。
【選択図】図2

Description

本発明は、走行状況表示プログラム、走行状況表示装置、及び走行状況表示方法に関する。
運輸業務では安全管理者による運転者への安全運転教育が業務の一環として実施されており、実際の運転者の運転状況を効果的に可視化することで、教育効果を高めることができる。運輸業務における安全確保のためには、車線区分線により区分された車線(走行レーン)内を車両が安定して走行することが望ましい。
運転状況の可視化に関連して、車両から撮像した画像に基づいて運転状態又は道路形状を求める技術が知られている(例えば、特許文献1〜特許文献3を参照)。また、移動する標識を撮影した画像に基づいて標識の位置変化の軌跡を表示する技術も知られている(例えば、特許文献4を参照)。
特開2009−199328号公報 特開2013−117811号公報 特開2014−6576号公報 特開昭61−281910号公報
走行中における車両のふらつき状態を視覚的に把握しやすく表示する技術は知られていない。
1つの側面において、本発明は、走行中における車両のふらつき状態を見やすく表示することを目的とする。
1つの案では、走行状況表示プログラムは、以下の処理をコンピュータに実行させる。
(1)コンピュータは、車両から撮像された道路撮像画像から走行レーンの仮想中心ラインを検出する。
(2)コンピュータは、検出した仮想中心ラインが所定の位置となるように道路撮像画像を変換して生成した変換画像を表示するとともに、車両の走行レーンにおける走行位置の検出結果に応じて、生成した変換画像上における車両のシンボルの表示位置を移動させる。
1つの実施形態によれば、走行中における車両のふらつき状態を見やすく表示することができる。
走行状況表示装置の機能的構成図である。 走行状況表示処理のフローチャートである。 走行状況表示装置の具体例を示す機能的構成図である。 道路形状モデルを示す図である。 カメラの観測系モデルを示す図である。 道路撮像画像を示す図である。 走行状況表示処理の具体例を示すフローチャートである。 走行軌跡描画処理のフローチャートである。 走行軌跡画像を示す図である。 車両位置描画処理のフローチャートである。 車両形状の輪郭点を示す図である。 車両のヨー角旋回を示す図である。 車両位置画像を示す図である。 車線描画処理のフローチャートである。 危険範囲描画処理のフローチャートである。 安全範囲、注意範囲、及び危険範囲を示す図である。 危険範囲画像を示す図である。 路面画像描画処理のフローチャートである。 路面画像描画処理を示す図である。 変換画像を示す図である。 画像合成処理のフローチャートである。 画像合成処理を示す図である。 合成画像を示す図である。 情報処理装置の構成図である。
以下、図面を参照しながら、実施形態を詳細に説明する。
ドライブレコーダ等により取得された走行データを用いた安全運転教育においては、車両が走行レーン内をどのように走行したかを示すことが考えられる。この場合、走行レーンからの逸脱、又は逸脱には至らないが危険なふらつきのような、走行中における車両の実際のふらつき状態を、視覚的に把握しやすく運転者に示すことが望ましい。
車載カメラにより撮像された道路映像がドライブレコーダに記録されている場合、道路映像に車両を表すシンボルを重畳表示することで、車線区分線と車両との相対的な位置関係を示すことが可能である。しかし、車載カメラの映像では、車両の位置は時間的に変化せず、車両前方の大半部分を占める路面が、左右に回転を伴って移動する。このため、路面の左右搖動は視認できるが、路面の左右搖動を操舵による車両の左右搖動として認識することは困難である。
図1は、実施形態の走行状況表示装置の機能的構成例を示している。図1の走行状況表示装置101は、記憶部111及び表示制御部112を含む。記憶部111は、車両から撮像された道路撮像画像121を記憶し、表示制御部112は、道路撮像画像121を用いて車両のシンボルを含む画像を表示する処理を行う。
図2は、図1の走行状況表示装置101が行う走行状況表示処理の例を示すフローチャートである。まず、表示制御部112は、記憶部111が記憶する道路撮像画像121から、走行レーンの仮想中心ラインを検出する(ステップ201)。
次に、表示制御部112は、検出した仮想中心ラインが所定の位置となるように道路撮像画像121を変換して生成した変換画像を表示する(ステップ202)。このとき、表示制御部112は、車両の走行レーンにおける走行位置の検出結果に応じて、生成した変換画像上における車両のシンボルの表示位置を移動させる。
図1の走行状況表示装置101によれば、走行中における車両のふらつき状態を見やすく表示することができる。
図3は、図1の走行状況表示装置101の具体例を示している。図3の走行状況表示装置101において、表示制御部112は、推定部301、合成部302、走行軌跡描画部303、車両位置描画部304、車線描画部305、危険範囲描画部306、及び路面画像描画部307を含む。記憶部111は、前方撮影映像311及び既知パラメータ312を記憶する。
前方撮影映像311は、車両に搭載されたカメラから進行方向前方を撮影した動画像であり、複数の時刻それぞれにおける道路撮像画像(画像フレーム)を含む。前方撮影映像311は、あらかじめ撮影されて記憶部111に格納されている。前方撮影映像311がドライブレコーダの映像である場合、その映像は広角レンズで撮影される。既知パラメータ312は、複数時刻の道路撮像画像に共通する既知のパラメータである。
推定部301は、前方撮影映像311及び既知パラメータ312を用いて、各時刻における画像フレームの道路形状パラメータを推定する。表示制御部112は、走行レーンの仮想中心ライン上に仮想視点を固定するとともに道路曲率を補正して道路を直線化することで、各画像フレームを仮想的な変換画像に変換する。
走行軌跡描画部303は、車両の走行軌跡の表示範囲を進行方向(画像フレームの奥行き方向)に圧縮して、特定の画像フレーム以降の車両の位置を表す走行軌跡画像を生成する。車両位置描画部304は、仮想視点から見た車両の外形を表す車両位置画像を生成する。
車線描画部305は、走行レーンの境界(端)を示す白線等の車線区分線を表す車線画像を生成する。危険範囲描画部306は、走行レーンの端からの距離に基づいて、走行レーン内の領域を危険度の異なる複数の領域に分類し、それらの領域を表す危険範囲画像を生成する。路面画像描画部307は、各画像フレームを変換画像に変換する。
合成部302は、走行軌跡画像、車両位置画像、車線画像、危険範囲画像、及び変換画像を合成して合成画像を生成し、生成した合成画像を画面上に表示する。
走行レーンの仮想中心ライン上に仮想視点を固定して道路を直線化することで、前方撮影映像中の大部分を占める路面の動きを止めることができる。そして、車両位置画像と変換画像とを合成して表示することで、路面上で走行中の車両だけが左右に搖動する画像を表示することができ、操舵による車両の左右搖動を直接的に視認することが可能になる。さらに、走行軌跡画像を合成して表示することで、路面上で車両の移動軌跡を長距離範囲に渡って表示することができ、車両の左右搖動が強調される。
図4は、道路形状モデルの例を示している。ここでは、走行レーンの仮想中心ラインLcにおける曲率をcとし、走行レーンの各位置で水平方向(X軸方向)に測って道路幅(車線幅)がWとなる道路形状モデルを考える。
図5に示すように、カメラの中心を原点Oとして、原点Oから横方向に路面座標系のX軸をとり、縦方向に路面座標系のZ軸をとる。この場合、Z軸は道路の奥行き方向を表し、XZ平面に垂直な方向が路面座標系のY軸となる。図4の道路形状モデルにおける各記号の意味は以下の通りである。
Lc:走行レーンの仮想中心ライン
Lr:走行レーンの右側の車線区分線
Ll:走行レーンの左側の車線区分線
W:道路幅
c:道路曲率
E:原点Oから仮想中心ラインLcまでの距離(カメラの横方向オフセット)
図5は、カメラの観測系モデルの例を示している。カメラの中心は路面から高さHの位置にあり、カメラ座標系O−XcYcZcは、路面座標系O−XYZに対して、ヨー角θ、ピッチ角φ、及びロール角0の傾きを持つ。カメラの水平方向の焦点距離はfxとし、垂直方向の焦点距離はfyとする。カメラの撮像面501は、画像座標系O−xcycで記述される。
図6は、カメラにより撮像される道路撮像画像(画像フレーム)の例を示している。画像フレームの中央を原点Oとして、原点Oからxc軸を右向きに、yc軸を下向きに取り、画像座標を(xc,yc)とする。このとき、特許文献2に記載された近似を適用することで、所定のyc座標に対する車線区分線Lr及び車線区分線Llのxc座標を、次式により表すことができる。
Figure 2017034400
式(1)のkは、車線区分線Lrと車線区分線Llとを区別するための定数である。右側の車線区分線Lr上の点601に対してはk=1となり、左側の車線区分線Ll上の点602に対してはk=−1となる。
各時刻における画像フレームから車線区分線の座標(xc,yc)が検出できれば、式(1)を用いて道路形状パラメータ(W,E,c,φ,θ)を推定することができる。この場合、既知パラメータ312は、例えば、以下のようなパラメータを含む。
H:カメラ設置高さ
Px:カメラ原点から車両中央までの距離
fx:カメラの水平方向の焦点距離
fy:カメラの垂直方向の焦点距離
pw:画像フレームの水平方向の画素数
ph:画像フレームの垂直方向の画素数
車両に対するカメラの取り付け向き(ヨー角、ピッチ角、及びロール角)は既知であり、前方撮影映像311ではヨー角、ピッチ角、及びロール角の初期値が0であるか、又は方向ずれの影響がなく、画像フレームの中央が道路前方の無限遠点と一致するように、前方撮影映像311が補正されているものとする。さらに、前方撮影映像311は、透視変換での映像に変換されているものとする。
推定部301は、時刻tにおける画像フレームから、式(1)を用いて以下の道路形状パラメータを推定することができる。
W(t):道路幅
E(t):カメラ原点から道路中心までの横距離
c(t):道路曲率
φ(t):ピッチ角
θ(t):ヨー角
図7は、図3の走行状況表示装置101が行う走行状況表示処理の具体例を示すフローチャートである。まず、推定部301は、表示区間の開始時刻における画像フレームから、式(1)を用いて道路形状パラメータを推定する(ステップ701)。
次に、走行軌跡描画部303は、走行軌跡描画処理を行って走行軌跡画像を生成し(ステップ702)、車両位置描画部304は、車両位置描画処理を行って車両位置画像を生成する(ステップ703)。車線描画部305は、車線描画処理を行って車線画像を生成し(ステップ704)、危険範囲描画部306は、危険範囲描画処理を行って危険範囲画像を生成する(ステップ705)。路面画像描画部307は、路面画像描画処理を行って変換画像を生成する(ステップ706)。表示制御部112は、ステップ702〜ステップ706の処理を並列に実行してもよく、所定の順序で実行してもよい。
次に、合成部302は、画像合成処理を行って合成画像を生成し、生成した合成画像を画面上に表示する(ステップ707)。
次に、表示制御部112は、表示区間の最終時刻に達したか否かを判定し(ステップ708)、表示区間の最終時刻に達していない場合(ステップ708,NO)、次の時刻についてステップ701以降の処理を繰り返す。そして、表示区間の最終時刻に達した場合(ステップ708,YES)、処理を終了する。
図8は、図7のステップ702における走行軌跡描画処理の例を示すフローチャートである。時刻tにおける道路中心からカメラ原点までの横距離Er(t)は、時刻tにおけるE(t)を用いて次式により与えられる。

Er(t)=−E(t) (2)
このとき、道路中心から車両中央までの横距離Ev(t)は、Er(t)を用いて次式により与えられる。

Ev(t)=Er(t)+Px
=−E(t)+Px (3)
走行軌跡を進行方向に圧縮するために、車両の走行速度Vr(mm/フレーム)を、十分に低速である仮想的な走行速度Vv(mm/フレーム)に変換する。

Vv=Vr/K (4)
Kは減速係数を表し、例えば、160程度の値であってもよい。時刻tよりも後の時刻t’における車両中央の位置を用いて走行軌跡を表示する場合、時刻tに対する時刻t’の相対時刻mを次式により表すことができる。

m=t’−t (5)
道路を直線化するため道路曲率c(t)を無視すると、道路中心をZr軸とする道路中心座標系において、相対時刻mにおける車両中央の座標(Xr(m),Zr(m))は、次式により与えられる。

Xr(m)=Ev(m+t) (6)
Zr(m)=Vv*m+Z0 (7)
奥行き距離Z0は、時刻tにおける車両中央のZr座標を表し、例えば、2800mm程度の値であってもよい。
図8の走行軌跡描画処理では、式(6)及び式(7)を用いて走行軌跡画像が生成される。式(7)から分かるように、仮想的な走行速度Vvが低速であるほど、路面上ではより遠方までの軌跡を描くことができる。相対時刻mとしては、0以上の整数が用いられる。
まず、走行軌跡描画部303は、描画距離範囲ZM(mm)から、次式により描画フレーム範囲mM(フレーム)を求める(ステップ801)。

mM=ZM/Vv (8)
この場合、0≦m<mMの範囲が走行軌跡の描画対象区間となる。次に、走行軌跡描画部303は、mに0を設定して(ステップ802)、mとmMとを比較する(ステップ803)。mがmMよりも小さい場合(ステップ803,NO)、走行軌跡描画部303は、式(6)及び式(7)を用いて道路中心座標系における位置(Xr(m),Zr(m))を求める(ステップ804)。
次に、走行軌跡描画部303は、(Xr(m),Zr(m))を撮像面501に透視投影して、次式により走行軌跡画像Pt上の位置(xt(m),yt(m))を求める(ステップ805)。

xt(m)=fx*Xr(m)/Zr(m)+x0 (9)
yt(m)=fy*H/Zr(m)+y0 (10)
(xt(m),yt(m))は、画像フレームの左上頂点を原点とする座標系であり、(x0,y0)は、画像フレームの中心位置を表す。次に、走行軌跡描画部303は、走行軌跡画像Pt上の位置(xt(m),yt(m))にマークをプロットする(ステップ806)。マークは、所定色のドットであってもよい。
そして、走行軌跡描画部303は、mを1だけインクリメントして(ステップ807)、ステップ803以降の処理を繰り返し、mがmMに達した場合(ステップ803,YES)、処理を終了する。
図9は、図8の走行軌跡描画処理により生成される走行軌跡画像Ptの例を示している。画像座標系O−xcycの画像901上では、車両中央がyc軸上の所定位置に固定されているため、実際の走行速度Vrに合わせた走行軌跡911は、yc軸上の直線として描画される。
これに対して、変換画像に対応する走行軌跡画像902上では、位置(x0,y0)を原点とする座標系(xtt,ytt)のytt軸上に仮想中心ラインLcが固定されている。このため、仮想的な走行速度Vvに合わせた走行軌跡912は、xtt軸方向におけるytt軸からの変位として描画される。これにより、路面上で車両の移動軌跡を長距離範囲に渡って表示することができ、車両の左右搖動が強調される。なお、仮想中心ラインLc、車線区分線Lr、及び車線区分線Llは、実際には後述する車線画像Plに含まれ、走行軌跡画像Ptには含まれない。
図10は、図7のステップ703における車両位置描画処理の例を示すフローチャートである。まず、車両位置描画部304は、車両形状の輪郭点を路面上に設定する(ステップ1001)。
図11は、車両形状の輪郭点の例を示している。道路中心座標系(X,Z)における5個の輪郭点P0〜P4の座標は、車幅Vw(mm)、奥行き距離Z0(mm)、及び時刻tにおけるEv(t)を用いて、次のように表される。
P0:(Ev(t),Z0)
P1:(Ev(t)−Vw/2,0)
P2:(Ev(t)−Vw/2,Z0)
P3:(Ev(t)+Vw/2,Z0)
P4:(Ev(t)+Vw/2,0)
このうち、輪郭点P0は車両中央に対応する。次に、車両位置描画部304は、各輪郭点に対して車両のヨー角旋回を適用する(ステップ1002)。
図12は、車両のヨー角旋回の例を示している。輪郭点P0’〜P4’は、輪郭点P0〜P4に対してヨー角θの旋回を施した後の輪郭点を表し、輪郭点P0’は輪郭点P0に一致している。各輪郭点の旋回前の座標を(X,Z)とし、Ev(t)=X0とすると、旋回後の座標(X’,Z’)は次式により与えられる。

X’=cos(θ)*(X−X0)
+sin(θ)*(Z−Z0)+X0 (11)
Z’=−sin(θ)*(X−X0)
+cos(θ)*(Z−Z0)+Z0 (12)
式(11)及び式(12)のヨー角θとしては、時刻tにおけるヨー角θ(t)を用いることができる。
次に、車両位置描画部304は、各輪郭点の旋回後の座標(X’,Z’)を撮像面501に透視投影して、次式により車両位置画像Pv上の位置(xv(k),yv(k))を求める(ステップ1003)。

xv(k)=fx*X’(k)/Z’(k)+x0 (13)
yv(k)=fy*H/Z’(k)+y0 (14)
(xv(k),yv(k))は、画像フレームの左上頂点を原点とする座標系である。kは輪郭点を区別するための変数であり、輪郭点P0〜P4はk=0〜4にそれぞれ対応する。
次に、車両位置描画部304は、車両位置画像Pv上の位置(xv(k),yv(k))(k=0〜4)が表す図形を車両のシンボルとして描画する(ステップ1004)。
図12の例では、輪郭点P0’を表す点と、輪郭点P1’及び輪郭点P2’を結ぶ線分と、輪郭点P2’及び輪郭点P3’を結ぶ線分と、輪郭点P3’及び輪郭点P4’を結ぶ線分とから成る図形が描画されている。車幅Vwに対応する幅を有するシンボルを描画することで、車両の位置を直接的に視認することができる。
図13は、図10の車両位置描画処理により生成される車両位置画像Pvの例を示している。画像座標系O−xcycの画像1301上では、車両中央1311がyc軸上の所定位置に固定されているため、シンボル1312は、yc軸上に中心が固定された図形として描画される。
これに対して、変換画像に対応する車両位置画像1302上では、位置(x0,y0)を原点とする座標系(xvv,yvv)のyvv軸上に仮想中心ラインLcが固定されている。このため、シンボル1312は、yvv軸から離れた位置に中心を持つ図形として描画される。これにより、路面上で車両の左右搖動を直接的に視認することができる。なお、仮想中心ラインLc、車線区分線Lr、及び車線区分線Llは、実際には後述する車線画像Plに含まれ、車両位置画像Pvには含まれない。
図14は、図7のステップ704における車線描画処理の例を示すフローチャートである。まず、車線描画部305は、車線画像Pl上における画像フレームの中心位置の座標を(x0,y0)として、車線画像Pl上における描画位置(xkp,ykp)のykp座標にy0を設定する(ステップ1401)。(xkp,ykp)は、画像フレームの左上頂点を原点とする座標系である。
次に、車線描画部305は、ykpを垂直方向の画素数phと比較する(ステップ1402)。ykpがphよりも小さい場合(ステップ1402,NO)、車線描画部305は、次式によりykpをykに変換する(ステップ1403)。

yk=ykp−y0 (15)
ykは、(x0,y0)を原点とする座標系(xk,yk)におけるyk座標を表す。次に、車線描画部305は、時刻tにおける道路幅W(t)を用いて、左側の車線区分線Llのxkp座標を表すxkLと、右側の車線区分線Lrのxkp座標を表すxkRとを求める。

xkL=XL*yk*fx/(fy*H)+x0 (16)
xkR=XR*yk*fx/(fy*H)+x0 (17)
XL=−W(t)/2 (18)
XR=W(t)/2 (19)
式(18)のXLは、左側の車線区分線Llのxk座標を表し、式(19)のXRは、右側の車線区分線Lrのxk座標を表す。式(16)及び式(17)は、式(1)の右辺第2項に基づいて導出される。
次に、車線描画部305は、車線画像Pl上の位置(xkL,ykp)及び位置(xkR,ykp)にマークをプロットする(ステップ1405)。マークは、所定色のドットであってもよい。
そして、車線描画部305は、ykpを1だけインクリメントして(ステップ1406)、ステップ1402以降の処理を繰り返し、ykpがphに達した場合(ステップ1402,YES)、処理を終了する。
このような車線描画処理によって、例えば、図9の走行軌跡画像902又は図13の車両位置画像1302上に示したような、車線区分線Ll及び車線区分線Lrの画像が生成される。これにより、走行軌跡912又はシンボル1312と、車線区分線Ll及び車線区分線Lrとの相対的な位置関係を、容易に視認することができる。
図15は、図7のステップ705における危険範囲描画処理の例を示すフローチャートである。図15の危険範囲描画処理では、走行レーンの端からの距離に基づいて、走行レーン内の領域が安全範囲、注意範囲、及び危険範囲の3種類の領域に分類され、それらの領域を表す危険範囲画像Pwが生成される。
図16は、安全範囲、注意範囲、及び危険範囲の例を示している。図16では、道路中心座標系(X,Z)におけるX座標の値に基づいて、安全範囲、注意範囲、及び危険範囲が以下のように設定される。
安全範囲: |X|≦D1
注意範囲: D1<|X|≦D2
危険範囲: D2<|X|≦D3
距離の閾値D1〜D3は、例えば、車幅Vwと時刻tにおける道路幅W(t)とを用いて、次式により与えられる。

D1=(W(t)−Vw)/2−MGN (20)
D2=(W(t)−Vw)/2 (21)
D3=W(t)/2 (22)
式(20)のMGNは、注意範囲の幅を表す規定値であり、例えば、20cm〜30cm程度の値であってもよい。
まず、危険範囲描画部306は、危険範囲画像Pw上における画像フレームの中心位置の座標を(x0,y0)として、危険範囲画像Pw上における描画位置(xwp,ywp)のywp座標にy0を設定する(ステップ1501)。(xwp,ywp)は、画像フレームの左上頂点を原点とする座標系である。
次に、危険範囲描画部306は、ywpを垂直方向の画素数phと比較する(ステップ1502)。ywpがphよりも小さい場合(ステップ1502,NO)、危険範囲描画部306は、xwp座標に0を設定する(ステップ1503)。
次に、危険範囲描画部306は、xwpを水平方向の画素数pwと比較する(ステップ1504)。xwpがpwよりも小さい場合(ステップ1504,NO)、危険範囲描画部306は、次式により、xwp及びywpをxw及びywにそれぞれ変換する(ステップ1505)。

xw=xwp−x0 (23)
yw=ywp−y0 (24)
(xw,yw)は、(x0,y0)を原点とする座標系である。次に、危険範囲描画部306は、次式により、xwを道路中心座標系(X,Z)におけるX座標に変換する。

X=xw*Z/fx
=xw*fy*H/(fx*yw) (25)
次に、危険範囲描画部306は、Xの絶対値|X|をD1と比較する(ステップ1507)。|X|がD1以下である場合(ステップ1507,YES)、危険範囲描画部306は、危険範囲画像Pw上の位置(xwp,ywp)における描画色を、安全範囲を表す色c1に決定する(ステップ1508)。
|X|がD1よりも大きい場合(ステップ1507,NO)、危険範囲描画部306は、|X|をD2と比較する(ステップ1509)。|X|がD2以下である場合(ステップ1509,YES)、危険範囲描画部306は、位置(xwp,ywp)における描画色を、注意範囲を表す色c2に決定する(ステップ1510)。
|X|がD2よりも大きい場合(ステップ1509,NO)、危険範囲描画部306は、|X|をD3と比較する(ステップ1511)。|X|がD3以下である場合(ステップ1511,YES)、危険範囲描画部306は、位置(xwp,ywp)における描画色を、危険範囲を表す色c3に決定する(ステップ1512)。
|X|がD3よりも大きい場合(ステップ1511,NO)、危険範囲描画部306は、位置(xwp,ywp)における描画色を色なしに決定する(ステップ1513)。
次に、危険範囲描画部306は、危険範囲画像Pw上の位置(xwp,ywp)に、決定した描画色のドットをプロットする(ステップ1514)。ただし、色なしの場合、ドットはプロットされない。
次に、危険範囲描画部306は、xwpを1だけインクリメントして(ステップ1515)、ステップ1504以降の処理を繰り返す。xwpがpwに達した場合(ステップ1504,YES)、危険範囲描画部306は、ywpを1だけインクリメントして(ステップ1516)、ステップ1502以降の処理を繰り返す。そして、ywpがphに達した場合(ステップ1502,YES)、危険範囲描画部306は、処理を終了する。
図17は、図15の危険範囲描画処理により生成される危険範囲画像Pwの例を示している。画像座標系O−xcycの画像1701上では、車両中央がyc軸上の所定位置に固定されているため、安全範囲1711、注意範囲1712、及び危険範囲1713の形状は、道路形状に応じて変化する。
これに対して、変換画像に対応する危険範囲画像1702上では、仮想中心ラインがyw軸上に固定されているため、安全範囲1721、注意範囲1722、及び危険範囲1723の形状は変化が少ない。したがって、路面上でそれぞれの範囲を安定して表示することができる。
図18は、図7のステップ706における路面画像描画処理の例を示すフローチャートである。図18の路面画像描画処理では、カメラにより撮影された画像フレームが変換画像Prに変換される。変換画像Prは、画像フレームの左上頂点を原点とする座標系(xrp,yrp)で記述される。(xr,yr)は、変換画像Pr上の位置(x0,y0)を原点とする座標系である。このとき、変換画像Prは、以下の2つの領域に分割されて生成される。
変換画像Prの上側(yr≦0):背景部分
変換画像Prの下側(yr>0):路面部分
図19は、路面画像描画処理の例を示している。変換画像1901は、背景部分1911及び路面部分1912に分割される。背景部分1911については、ヨー角θ及びピッチ角φの成分が補正され、路面部分1912については、ヨー角θ、ピッチ角φ、道路曲率c(t)、及び横距離Er(t)の成分が補正される。背景部分1911については、道路曲率c(t)及び横距離Er(t)の成分の補正は不要であり、省略することができる。
変換画像1901のそれぞれの部分に含まれる座標(xr,yr)の画素1921について、画像フレーム1902内の対応する位置1922の座標(xc,yc)が求められる。そして、位置1922の周囲の画素値から補間処理により補間画素値が求められ、その補間画素値が画素1921の画素値として設定される。
図18のステップ1801〜ステップ1809及びステップ1819は、背景部分の画像を生成する処理に対応し、ステップ1810〜ステップ1818及びステップ1820は、路面部分の画像を生成する処理に対応する。
まず、路面画像描画部307は、変換画像Pr上における描画位置(xrp,yrp)のyrp座標に0を設定し(ステップ1801)、yrpをph/2と比較する(ステップ1802)。yrpがph/2よりも小さい場合(ステップ1802,NO)、路面画像描画部307は、xrp座標に0を設定する(ステップ1803)。
次に、路面画像描画部307は、xrpをpwと比較する(ステップ1804)。xrpがpwよりも小さい場合(ステップ1804,NO)、路面画像描画部307は、次式により、xrp及びyrpをxr及びyrにそれぞれ変換する(ステップ1805)。

xr=xrp−x0 (31)
yr=yrp−y0 (32)
次に、路面画像描画部307は、次式により、カメラにより撮影された画像フレーム内の対応する位置の座標(xc,yc)を求める(ステップ1806)。

xc=xr+fx*θ (33)
yc=yr−fy*φ (34)
式(33)のfx*θは、ヨー角θの成分を表し、式(34)のfx*φは、ピッチ角φの成分を表す。ヨー角θ及びピッチ角φは、時刻tにおけるヨー角θ(t)及びピッチ角φ(t)に対応する。
次に、路面画像描画部307は、補間処理により座標(xc,yc)における補間画素値pを求める(ステップ1807)。例えば、バイリニア補間を用いた場合、補間画素値pは、次式により求められる。
ix=xcの切り捨て整数値 (35)
iy=ycの切り捨て整数値 (36)
dx1=xc−ix (37)
dx2=1−dx1 (38)
dy1=yc−iy (39)
dy2=1−dy1 (40)
p1=Pc(ix,iy) (41)
p2=Pc(ix+1,iy) (42)
p3=Pc(ix,iy+1) (43)
p4=Pc(ix+1,iy+1) (44)
p=dy2*(dx2*p1+dx1*p2)
+dy1*(dx2*p3+dx1*p4) (45)
式(37)〜式(40)のd1〜d4は、画像フレーム内における位置誤差を表し、式(41)〜式(44)のp1〜p4は、座標(xc,yc)の周囲の画素値を表す。
次に、路面画像描画部307は、変換画像Pr上の位置(xrp,yrp)に、補間画素値pのドットをプロットする(ステップ1808)。
次に、路面画像描画部307は、xrpを1だけインクリメントして(ステップ1809)、ステップ1804以降の処理を繰り返す。xrpがpwに達した場合(ステップ1804,YES)、路面画像描画部307は、yrpを1だけインクリメントして(ステップ1819)、ステップ1802以降の処理を繰り返す。
そして、yrpがph/2に達した場合(ステップ1802,YES)、路面画像描画部307は、yrp座標にph/2を設定し(ステップ1810)、yrpをphと比較する(ステップ1811)。yrpがphよりも小さい場合(ステップ1811,NO)、路面画像描画部307は、xrp座標に0を設定する(ステップ1812)。
次に、路面画像描画部307は、xrpをpwと比較する(ステップ1813)。xrpがpwよりも小さい場合(ステップ1813,NO)、路面画像描画部307は、式(31)及び式(32)により、xrp及びyrpをxr及びyrにそれぞれ変換する(ステップ1814)。
次に、路面画像描画部307は、次式により、カメラにより撮影された画像フレーム内の対応する位置の座標(xc,yc)を求める(ステップ1815)。

xc=xr+fx*θ+fx*fy*H*c/(2*yr)
+Er(t)*yr*fx/(H*fy) (46)
yc=yr−fy*φ (47)
式(46)のfx*θは、ヨー角θの成分を表し、fx*fy*H*c/(2*yr)は、道路曲率cの成分を表し、Er(t)*yr*fx/(H*fy)は、横距離Eの成分を表す。式(47)のfx*φは、ピッチ角φの成分を表す。ヨー角θ、ピッチ角φ、及び道路曲率cは、時刻tにおけるヨー角θ(t)、ピッチ角φ(t)、及び道路曲率c(t)に対応する。Er(t)は、式(2)により求められる。
次に、路面画像描画部307は、補間処理により座標(xc,yc)における補間画素値pを求め(ステップ1816)、変換画像Pr上の位置(xrp,yrp)に、補間画素値pのドットをプロットする(ステップ1817)。
次に、路面画像描画部307は、xrpを1だけインクリメントして(ステップ1818)、ステップ1813以降の処理を繰り返す。xrpがpwに達した場合(ステップ1813,YES)、路面画像描画部307は、yrpを1だけインクリメントして(ステップ1820)、ステップ1811以降の処理を繰り返す。そして、yrpがphに達した場合(ステップ1811,YES)、路面画像描画部307は、処理を終了する。
図20は、図18の路面画像描画処理により生成される変換画像Prの例を示している。画像座標系O−xcycの画像フレーム2001上では、車両中央がyc軸上の所定位置に固定されているため、道路の形状は、車両の左右搖動に応じて変化する。
これに対して、変換画像2002上では、仮想中心ラインLcがyr軸上に固定されているため、道路の形状は変化が少ない。したがって、路面画像を安定して表示することができる。
図21は、図7のステップ707における画像合成処理の例を示すフローチャートである。図21の画像合成処理では、図22に示すように、走行軌跡画像2201、車両位置画像2202、車線画像2203、危険範囲画像2204、及び変換画像2205の5つのプレーンの画像から合成画像2206が生成される。走行軌跡画像2201は、最上位のプレーンに対応し、変換画像2205は、最下位のプレーンに対応する。合成部302は、最下位のプレーンから順に描画色を有する画素を上書きすることで、5つのプレーンの画像を統合し、合成画像2206として重畳表示する。
まず、合成部302は、変換画像Prを合成画像Poに転写し(ステップ2101)、危険範囲画像Pw内の描画色を有する画素の画素値を合成画像Poに転写する(ステップ2102)。次に、合成部302は、車線画像Pl内のマークに対応する画素の画素値を合成画像Poに転写し(ステップ2103)、車両位置画像Pv内のシンボルに対応する画素の画素値を合成画像Poに転写する(ステップ2104)。そして、合成部302は、走行軌跡画像Pt内のマークに対応する画素の画素値を合成画像Poに転写する(ステップ2105)。
図23は、図21の画像合成処理により生成される合成画像Poの例を示している。図23(a)に示される合成画像では、路面が固定されており、実際の情景変化があり、車両を表すシンボル2301が左右に搖動し、走行軌跡2302が進行方向に圧縮されている。これにより、路面及び走行軌跡が固定されて車両だけが左右に搖動するとともに、走行軌跡が強調されるため、車両のふらつき状態を容易に視認することができる。例えば、ドライブレコーダにより記録された走行中の映像を確認する場合、走行に伴う今後の軌跡変化を容易に確認することも可能になる。
これに対して、図23(b)に示される画像座標系O−xcycの画像フレームでは、車両を表すシンボル2301が固定されており、路面全体が左右に搖動し、走行軌跡2303が近方の一部のみに限定されている。このため、大きな面積の路面が搖動して車両のふらつき状態が分かり難く、走行軌跡からふらつき状態を確認することは極めて困難である。
なお、合成部302は、走行軌跡画像、車両位置画像、車線画像、危険範囲画像、及び変換画像のすべてを合成する代わりに、一部の画像のみを選択的に合成して、合成画像を生成することもできる。例えば、合成部302は、車両位置画像及び変換画像のみを合成してもよく、走行軌跡画像、車両位置画像、及び変換画像のみを合成してもよい。
図1及び図3の走行状況表示装置101の構成は一例に過ぎず、走行状況表示装置101の用途や条件に応じて、一部の構成要素を省略又は変更してもよい。例えば、走行状況表示装置101の外部の装置が各時刻における道路形状パラメータを推定する場合は、推定部301を省略することができる。
走行軌跡画像、車両位置画像、車線画像、危険範囲画像、又は変換画像を表示に使用しない場合は、走行軌跡描画部303、車両位置描画部304、車線描画部305、危険範囲描画部306、又は路面画像描画部307を省略することができる。
図7、図8、図10、図14、図15、図18、及び図21のフローチャートは一例に過ぎず、走行状況表示装置101の構成や条件に応じて一部の処理を省略又は変更してもよい。例えば、走行状況表示装置101の外部の装置が各時刻における道路形状パラメータを推定する場合は、図7のステップ701の処理を省略することができる。
走行軌跡画像、車両位置画像、車線画像、危険範囲画像、又は変換画像を表示に使用しない場合は、図7のステップ702、ステップ703、ステップ704、ステップ705、又はステップ706の処理を省略することができる。
図4の道路形状モデル、図5の観測系モデル、図11、図12、及び図16の道路中心座標系(X,Z)は一例に過ぎず、他のモデル又は座標系を用いて走行状況表示処理を行ってもよい。式(1)〜式(47)は一例に過ぎず、別の計算式又は座標系を用いて走行状況表示処理を行ってもよい。
図9の走行軌跡画像、図13の車両位置画像、図17の危険範囲画像、図20の変換画像、図22及び図23の合成画像は一例に過ぎず、走行状況表示装置101の構成や条件に応じて他の画像を用いてよい。例えば、図9の走行軌跡画像と図22及び図23の合成画像において、別の形状のマークをプロットして走行軌跡を描画してもよく、図13の車両位置画像と図22及び図23の合成画像において、別のサイズ又は形状のシンボルを描画してもよい。
図24は、図1及び図3の走行状況表示装置101を実現するための情報処理装置(コンピュータ)の構成例を示している。図24の情報処理装置は、Central Processing Unit(CPU)2401、メモリ2402、入力装置2403、出力装置2404、補助記憶装置2405、媒体駆動装置2406、及びネットワーク接続装置2407を含む。これらの構成要素はバス2408により互いに接続されている。
メモリ2402は、例えば、Read Only Memory(ROM)、Random Access Memory(RAM)、フラッシュメモリ等の半導体メモリであり、走行状況表示処理に用いられるプログラム及びデータを格納する。メモリ2402は、図1及び図3の記憶部111として用いることができる。
CPU2401(プロセッサ)は、例えば、メモリ2402を利用してプログラムを実行することにより、図1及び図3の表示制御部112として動作する。CPU2401は、図3の推定部301、合成部302、走行軌跡描画部303、車両位置描画部304、車線描画部305、危険範囲描画部306、及び路面画像描画部307としても動作する。
入力装置2403は、例えば、キーボード、ポインティングデバイス等であり、オペレータ又はユーザからの指示や情報の入力に用いられる。出力装置2404は、例えば、表示装置、プリンタ、スピーカ等であり、オペレータ又はユーザへの問い合わせ又は指示、及び処理結果の出力に用いられる。処理結果は、合成画像であってもよい。
補助記憶装置2405は、例えば、磁気ディスク装置、光ディスク装置、光磁気ディスク装置、テープ装置等である。補助記憶装置2405は、ハードディスクドライブ又はフラッシュメモリであってもよい。情報処理装置は、補助記憶装置2405にプログラム及びデータを格納しておき、それらをメモリ2402にロードして使用することができる。補助記憶装置2405は、図1及び図3の記憶部111として用いることができる。
媒体駆動装置2406は、可搬型記録媒体2409を駆動し、その記録内容にアクセスする。可搬型記録媒体2409は、メモリデバイス、フレキシブルディスク、光ディスク、光磁気ディスク等である。可搬型記録媒体2409は、Compact Disk Read Only Memory(CD−ROM)、Digital Versatile Disk(DVD)、Universal Serial Bus(USB)メモリ等であってもよい。オペレータ又はユーザは、この可搬型記録媒体2409にプログラム及びデータを格納しておき、それらをメモリ2402にロードして使用することができる。
このように、移動情報計算処理に用いられるプログラム及びデータを格納するコンピュータ読み取り可能な記録媒体は、メモリ2402、補助記憶装置2405、又は可搬型記録媒体2409のような、物理的な(非一時的な)記録媒体である。
ネットワーク接続装置2407は、Local Area Network、Wide Area Network等の通信ネットワークに接続され、通信に伴うデータ変換を行う通信インタフェースである。情報処理装置は、プログラム及びデータを外部の装置からネットワーク接続装置2407を介して受け取り、それらをメモリ2402にロードして使用することができる。情報処理装置は、ネットワーク接続装置2407を介して、ユーザ端末から処理要求を受信し、走行状況表示処理を行って合成画像をユーザ端末へ送信することもできる。
なお、情報処理装置が図24のすべての構成要素を含む必要はなく、用途や条件に応じて一部の構成要素を省略することも可能である。例えば、情報処理装置がユーザ端末から通信ネットワーク経由で処理要求を受信する場合は、入力装置2403及び出力装置2404を省略してもよい。また、可搬型記録媒体2409又は通信ネットワークを利用しない場合は、媒体駆動装置2406又はネットワーク接続装置2407を省略してもよい。
開示の実施形態とその利点について詳しく説明したが、当業者は、特許請求の範囲に明確に記載した本発明の範囲から逸脱することなく、様々な変更、追加、省略をすることができるであろう。
図1乃至図24を参照しながら説明した実施形態に関し、さらに以下の付記を開示する。
(付記1)
車両から撮像された道路撮像画像から走行レーンの仮想中心ラインを検出し、
検出した前記仮想中心ラインが所定の位置となるように前記道路撮像画像を変換して生成した変換画像を表示するとともに、前記車両の前記走行レーンにおける走行位置の検出結果に応じて、生成した前記変換画像上における前記車両のシンボルの表示位置を移動させる、
処理をコンピュータに実行させる走行状況表示プログラム。
(付記2)
前記シンボルは、前記車両の車幅に対応する幅を有することを特徴とする付記1記載の走行状況表示プログラム。
(付記3)
前記コンピュータは、
前記検出する処理及び前記移動させる処理を動画像における複数の画像フレームに対して実行し、
前記複数の画像フレームのそれぞれの前記仮想中心ラインと前記車両のシンボルの表示位置とのずれの大きさに基づいて、前記仮想中心ラインに垂直な方向の第1の座標値を特定するとともに、前記複数の画像フレームのうちの特定の画像フレームに対するフレームの順番に基づいて、前記仮想中心ラインの方向の第2の座標値を特定し、
前記特定の画像フレーム上で、前記複数の画像フレームのうちの前記特定の画像フレーム以降の画像フレームのそれぞれについて特定した前記第1の座標値と前記第2の座標値とにより特定される位置にマークをプロットすることを特徴とする付記1又は2記載の走行状況表示プログラム。
(付記4)
前記コンピュータは、前記第1の座標値と前記第2の座標値とを透視変換によって特定することを特徴とする付記3記載の走行状況表示プログラム。
(付記5)
前記コンピュータは、前記仮想中心ラインの方向における距離を圧縮して前記第2の座標値を特定することを特徴とする付記3又は4記載の走行状況表示プログラム。
(付記6)
前記コンピュータは、前記走行レーンを直線化した場合の前記第1の座標値と前記第2の座標値とを特定することを特徴とする付記3乃至5のいずれか1項に記載の走行状況表示プログラム。
(付記7)
前記コンピュータは、前記生成する処理を前記画像フレーム内の路面部分についてのみ実行することを特徴とする付記1乃至6のいずれか1項に記載の走行状況表示プログラム。
(付記8)
前記コンピュータは、前記走行レーンの端からの距離に基づいて前記走行レーン内の領域を複数の領域に分類し、前記変換画像上に前記複数の領域を重畳表示することを特徴とする付記1乃至7のいずれか1項に記載の走行状況表示プログラム。
(付記9)
前記道路撮像画像は、前記車両から広角レンズで撮像された画像であり、前記コンピュータは、前記道路撮像画像を透視変換して無限遠点を画像中心に配置することで、前記変換画像を生成することを特徴とする付記1乃至8のいずれか1項に記載の走行状況表示プログラム。
(付記10)
車両から撮像された道路撮像画像を記憶する記憶部と、
前記道路撮像画像から走行レーンの仮想中心ラインを検出し、検出した前記仮想中心ラインが所定の位置となるように前記道路撮像画像を変換して生成した変換画像を表示するとともに、前記車両の前記走行レーンにおける走行位置の検出結果に応じて、生成した前記変換画像上における前記車両のシンボルの表示位置を移動させる表示制御部と、
を備えることを特徴とする走行状況表示装置。
(付記11)
前記シンボルは、前記車両の車幅に対応する幅を有することを特徴とする付記10記載の走行状況表示装置。
(付記12)
前記表示制御部は、
前記検出する処理及び前記移動させる処理を動画像における複数の画像フレームに対して実行し、
前記複数の画像フレームのそれぞれの前記仮想中心ラインと前記車両のシンボルの表示位置とのずれの大きさに基づいて、前記仮想中心ラインに垂直な方向の第1の座標値を特定するとともに、前記複数の画像フレームのうちの特定の画像フレームに対するフレームの順番に基づいて、前記仮想中心ラインの方向の第2の座標値を特定し、
前記特定の画像フレーム上で、前記複数の画像フレームのうちの前記特定の画像フレーム以降の画像フレームのそれぞれについて特定した前記第1の座標値と前記第2の座標値とにより特定される位置にマークをプロットすることを特徴とする付記10又は11記載の走行状況表示装置。
(付記13)
コンピュータが、
車両から撮像された道路撮像画像から走行レーンの仮想中心ラインを検出し、
検出した前記仮想中心ラインが所定の位置となるように前記道路撮像画像を変換して生成した変換画像を表示するとともに、前記車両の前記走行レーンにおける走行位置の検出結果に応じて、生成した前記変換画像上における前記車両のシンボルの表示位置を移動させる、
ことを特徴とする走行状況表示方法。
(付記14)
前記シンボルは、前記車両の車幅に対応する幅を有することを特徴とする付記13記載の走行状況表示方法。
(付記15)
前記コンピュータは、
前記検出する処理及び前記移動させる処理を動画像における複数の画像フレームに対して実行し、
前記複数の画像フレームのそれぞれの前記仮想中心ラインと前記車両のシンボルの表示位置とのずれの大きさに基づいて、前記仮想中心ラインに垂直な方向の第1の座標値を特定するとともに、前記複数の画像フレームのうちの特定の画像フレームに対するフレームの順番に基づいて、前記仮想中心ラインの方向の第2の座標値を特定し、
前記特定の画像フレーム上で、前記複数の画像フレームのうちの前記特定の画像フレーム以降の画像フレームのそれぞれについて特定した前記第1の座標値と前記第2の座標値とにより特定される位置にマークをプロットすることを特徴とする付記13又は14記載の走行状況表示方法。
101 走行状況表示装置
111 記憶部
112 表示制御部
121 道路撮像画像
301 推定部
302 合成部
303 走行軌跡描画部
304 車両位置描画部
305 車線描画部
306 危険範囲描画部
307 路面画像描画部
311 前方撮影映像
312 既知パラメータ
501 撮像面
601、602 点
901、1301、1701、2001 画像
902 走行軌跡画像
911、912、2302、2303 走行軌跡
1302 車両位置画像
1311 車両中央
1312、2301 シンボル
1702 危険範囲画像
1711、1721 安全範囲
1712、1722 注意範囲
1713、1723 危険範囲
1901、2002 変換画像
1902 画像フレーム
1911 背景部分
1912 路面部分
1921 画素
1922 位置
2201 走行軌跡画像
2202 車両位置画像
2203 車線画像
2204 危険範囲画像
2205 変換画像
2206 合成画像
2401 CPU
2402 メモリ
2403 入力装置
2404 出力装置
2405 補助記憶装置
2406 媒体駆動装置
2407 ネットワーク接続装置
2408 バス
2409 可搬型記録媒体
式(37)〜式(40)のdx1、dx2、dy1、及びdy2は、画像フレーム内における位置誤差を表し、式(41)〜式(44)のp1〜p4は、座標(xc,yc)の周囲の画素値を表す。
式(46)のfx*θは、ヨー角θの成分を表し、fx*fy*H*c/(2*yr)は、道路曲率cの成分を表し、Er(t)*yr*fx/(H*fy)は、横距離Eの成分を表す。式(47)のfy*φは、ピッチ角φの成分を表す。ヨー角θ、ピッチ角φ、及び道路曲率cは、時刻tにおけるヨー角θ(t)、ピッチ角φ(t)、及び道路曲率c(t)に対応する。Er(t)は、式(2)により求められる。
このように、走行状況表示処理に用いられるプログラム及びデータを格納するコンピュータ読み取り可能な記録媒体は、メモリ2402、補助記憶装置2405、又は可搬型記録媒体2409のような、物理的な(非一時的な)記録媒体である。
図1乃至図24を参照しながら説明した実施形態に関し、さらに以下の付記を開示する。
(付記1)
車両から撮像された道路撮像画像から走行レーンの仮想中心ラインを検出し、
検出した前記仮想中心ラインが所定の位置となるように前記道路撮像画像を変換して生成した変換画像を表示するとともに、前記車両の前記走行レーンにおける走行位置の検出結果に応じて、生成した前記変換画像上における前記車両のシンボルの表示位置を移動させる、
処理をコンピュータに実行させる走行状況表示プログラム。
(付記2)
前記シンボルは、前記車両の車幅に対応する幅を有することを特徴とする付記1記載の走行状況表示プログラム。
(付記3)
前記コンピュータは、
前記検出する処理及び前記移動させる処理を動画像における複数の画像フレームに対して実行し、
前記複数の画像フレームのそれぞれの前記仮想中心ラインと前記車両のシンボルの表示位置とのずれの大きさに基づいて、前記仮想中心ラインに垂直な方向の第1の座標値を特定するとともに、前記複数の画像フレームのうちの特定の画像フレームに対するフレームの順番に基づいて、前記仮想中心ラインの方向の第2の座標値を特定し、
前記特定の画像フレーム上で、前記複数の画像フレームのうちの前記特定の画像フレーム以降の画像フレームのそれぞれについて特定した前記第1の座標値と前記第2の座標値とにより特定される位置にマークをプロットすることを特徴とする付記1又は2記載の走行状況表示プログラム。
(付記4)
前記コンピュータは、前記第1の座標値と前記第2の座標値とを透視変換によって特定することを特徴とする付記3記載の走行状況表示プログラム。
(付記5)
前記コンピュータは、前記仮想中心ラインの方向における距離を圧縮して前記第2の座標値を特定することを特徴とする付記3又は4記載の走行状況表示プログラム。
(付記6)
前記コンピュータは、前記走行レーンを直線化した場合の前記第1の座標値と前記第2の座標値とを特定することを特徴とする付記3乃至5のいずれか1項に記載の走行状況表示プログラム。
(付記7)
前記コンピュータは、前記生成する処理を前記道路撮像画像内の路面部分についてのみ実行することを特徴とする付記1乃至6のいずれか1項に記載の走行状況表示プログラム。
(付記8)
前記コンピュータは、前記走行レーンの端からの距離に基づいて前記走行レーン内の領域を複数の領域に分類し、前記変換画像上に前記複数の領域を重畳表示することを特徴とする付記1乃至7のいずれか1項に記載の走行状況表示プログラム。
(付記9)
前記道路撮像画像は、前記車両から広角レンズで撮像された画像であり、前記コンピュータは、前記道路撮像画像を透視変換して無限遠点を画像中心に配置することで、前記変換画像を生成することを特徴とする付記1乃至8のいずれか1項に記載の走行状況表示プログラム。
(付記10)
車両から撮像された道路撮像画像を記憶する記憶部と、
前記道路撮像画像から走行レーンの仮想中心ラインを検出し、検出した前記仮想中心ラインが所定の位置となるように前記道路撮像画像を変換して生成した変換画像を表示するとともに、前記車両の前記走行レーンにおける走行位置の検出結果に応じて、生成した前記変換画像上における前記車両のシンボルの表示位置を移動させる表示制御部と、
を備えることを特徴とする走行状況表示装置。
(付記11)
前記シンボルは、前記車両の車幅に対応する幅を有することを特徴とする付記10記載の走行状況表示装置。
(付記12)
前記表示制御部は、
前記検出する処理及び前記移動させる処理を動画像における複数の画像フレームに対して実行し、
前記複数の画像フレームのそれぞれの前記仮想中心ラインと前記車両のシンボルの表示位置とのずれの大きさに基づいて、前記仮想中心ラインに垂直な方向の第1の座標値を特定するとともに、前記複数の画像フレームのうちの特定の画像フレームに対するフレームの順番に基づいて、前記仮想中心ラインの方向の第2の座標値を特定し、
前記特定の画像フレーム上で、前記複数の画像フレームのうちの前記特定の画像フレーム以降の画像フレームのそれぞれについて特定した前記第1の座標値と前記第2の座標値とにより特定される位置にマークをプロットすることを特徴とする付記10又は11記載の走行状況表示装置。
(付記13)
コンピュータが、
車両から撮像された道路撮像画像から走行レーンの仮想中心ラインを検出し、
検出した前記仮想中心ラインが所定の位置となるように前記道路撮像画像を変換して生成した変換画像を表示するとともに、前記車両の前記走行レーンにおける走行位置の検出結果に応じて、生成した前記変換画像上における前記車両のシンボルの表示位置を移動させる、
ことを特徴とする走行状況表示方法。
(付記14)
前記シンボルは、前記車両の車幅に対応する幅を有することを特徴とする付記13記載の走行状況表示方法。
(付記15)
前記コンピュータは、
前記検出する処理及び前記移動させる処理を動画像における複数の画像フレームに対して実行し、
前記複数の画像フレームのそれぞれの前記仮想中心ラインと前記車両のシンボルの表示位置とのずれの大きさに基づいて、前記仮想中心ラインに垂直な方向の第1の座標値を特定するとともに、前記複数の画像フレームのうちの特定の画像フレームに対するフレームの順番に基づいて、前記仮想中心ラインの方向の第2の座標値を特定し、
前記特定の画像フレーム上で、前記複数の画像フレームのうちの前記特定の画像フレーム以降の画像フレームのそれぞれについて特定した前記第1の座標値と前記第2の座標値とにより特定される位置にマークをプロットすることを特徴とする付記13又は14記載の走行状況表示方法。

Claims (7)

  1. 車両から撮像された道路撮像画像から走行レーンの仮想中心ラインを検出し、
    検出した前記仮想中心ラインが所定の位置となるように前記道路撮像画像を変換して生成した変換画像を表示するとともに、前記車両の前記走行レーンにおける走行位置の検出結果に応じて、生成した前記変換画像上における前記車両のシンボルの表示位置を移動させる、
    処理をコンピュータに実行させる走行状況表示プログラム。
  2. 前記シンボルは、前記車両の車幅に対応する幅を有することを特徴とする請求項1記載の走行状況表示プログラム。
  3. 前記コンピュータは、
    前記検出する処理及び前記移動させる処理を動画像における複数の画像フレームに対して実行し、
    前記複数の画像フレームのそれぞれの前記仮想中心ラインと前記車両のシンボルの表示位置とのずれの大きさに基づいて、前記仮想中心ラインに垂直な方向の第1の座標値を特定するとともに、前記複数の画像フレームのうちの特定の画像フレームに対するフレームの順番に基づいて、前記仮想中心ラインの方向の第2の座標値を特定し、
    前記特定の画像フレーム上で、前記複数の画像フレームのうちの前記特定の画像フレーム以降の画像フレームのそれぞれについて特定した前記第1の座標値と前記第2の座標値とにより特定される位置にマークをプロットすることを特徴とする請求項1又は2記載の走行状況表示プログラム。
  4. 前記コンピュータは、前記生成する処理を前記画像フレーム内の路面部分についてのみ実行することを特徴とする請求項1乃至3のいずれか1項に記載の走行状況表示プログラム。
  5. 前記コンピュータは、前記走行レーンの端からの距離に基づいて前記走行レーン内の領域を複数の領域に分類し、前記変換画像上に前記複数の領域を重畳表示することを特徴とする請求項1乃至4のいずれか1項に記載の走行状況表示プログラム。
  6. 車両から撮像された道路撮像画像を記憶する記憶部と、
    前記道路撮像画像から走行レーンの仮想中心ラインを検出し、検出した前記仮想中心ラインが所定の位置となるように前記道路撮像画像を変換して生成した変換画像を表示するとともに、前記車両の前記走行レーンにおける走行位置の検出結果に応じて、生成した前記変換画像上における前記車両のシンボルの表示位置を移動させる表示制御部と、
    を備えることを特徴とする走行状況表示装置。
  7. コンピュータが、
    車両から撮像された道路撮像画像から走行レーンの仮想中心ラインを検出し、
    検出した前記仮想中心ラインが所定の位置となるように前記道路撮像画像を変換して生成した変換画像を表示するとともに、前記車両の前記走行レーンにおける走行位置の検出結果に応じて、生成した前記変換画像上における前記車両のシンボルの表示位置を移動させる、
    ことを特徴とする走行状況表示方法。
JP2015151016A 2015-07-30 2015-07-30 走行状況表示プログラム、走行状況表示装置、及び走行状況表示方法 Active JP6540335B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015151016A JP6540335B2 (ja) 2015-07-30 2015-07-30 走行状況表示プログラム、走行状況表示装置、及び走行状況表示方法
US15/157,681 US10325518B2 (en) 2015-07-30 2016-05-18 Traveling-state display device and traveling-state display method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015151016A JP6540335B2 (ja) 2015-07-30 2015-07-30 走行状況表示プログラム、走行状況表示装置、及び走行状況表示方法

Publications (2)

Publication Number Publication Date
JP2017034400A true JP2017034400A (ja) 2017-02-09
JP6540335B2 JP6540335B2 (ja) 2019-07-10

Family

ID=57882976

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015151016A Active JP6540335B2 (ja) 2015-07-30 2015-07-30 走行状況表示プログラム、走行状況表示装置、及び走行状況表示方法

Country Status (2)

Country Link
US (1) US10325518B2 (ja)
JP (1) JP6540335B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020145564A (ja) * 2019-03-05 2020-09-10 株式会社デンソーテン 画像処理装置および画像処理方法

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5945999B1 (ja) 2015-07-31 2016-07-05 パナソニックIpマネジメント株式会社 運転支援装置、運転支援システム、運転支援方法、運転支援プログラム及び自動運転車両
CN106971144B (zh) * 2017-02-28 2020-06-16 北京航空航天大学 一种应用Visual Graph算法提取道路中线的方法
EP3435333B1 (en) * 2017-07-26 2020-01-29 Aptiv Technologies Limited Method of determining the roll angle of a vehicle mounted camera
CN107798937A (zh) * 2017-12-15 2018-03-13 徐州领路人教育咨询有限公司 一种网络教学系统
WO2020148894A1 (ja) * 2019-01-18 2020-07-23 三菱電機株式会社 運動状態判定装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013217739A (ja) * 2012-04-06 2013-10-24 Denso Corp 車両用運転操作支援装置
JP2014071631A (ja) * 2012-09-28 2014-04-21 Aisin Aw Co Ltd 走行情報表示システム
JP2014071630A (ja) * 2012-09-28 2014-04-21 Aisin Aw Co Ltd 走行関連情報表示システム
JP2015191260A (ja) * 2014-03-27 2015-11-02 株式会社デンソー 車両用運転評価装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06100445B2 (ja) 1985-06-07 1994-12-12 財団法人電力中央研究所 移動標識の位置追跡装置
US6366851B1 (en) * 1999-10-25 2002-04-02 Navigation Technologies Corp. Method and system for automatic centerline adjustment of shape point data for a geographic database
JP4687563B2 (ja) * 2006-05-23 2011-05-25 株式会社デンソー 車両用レーンマーク認識装置
JP2009199328A (ja) * 2008-02-21 2009-09-03 Yazaki Corp 車両用運行記録評価装置
CN103052976B (zh) * 2011-06-08 2016-05-11 丰田自动车株式会社 车道脱离防止辅助装置、划分线显示方法、程序
JP5780140B2 (ja) 2011-12-02 2015-09-16 富士通株式会社 道路形状推定装置及びプログラム
JP2014006576A (ja) 2012-06-21 2014-01-16 Toyota Motor Corp 運転支援装置、車両状態判定装置、及び蛇行運転判定方法
US20150187224A1 (en) * 2013-10-15 2015-07-02 Mbfarr, Llc Driving assessment and training method and apparatus

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013217739A (ja) * 2012-04-06 2013-10-24 Denso Corp 車両用運転操作支援装置
JP2014071631A (ja) * 2012-09-28 2014-04-21 Aisin Aw Co Ltd 走行情報表示システム
JP2014071630A (ja) * 2012-09-28 2014-04-21 Aisin Aw Co Ltd 走行関連情報表示システム
JP2015191260A (ja) * 2014-03-27 2015-11-02 株式会社デンソー 車両用運転評価装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020145564A (ja) * 2019-03-05 2020-09-10 株式会社デンソーテン 画像処理装置および画像処理方法

Also Published As

Publication number Publication date
US10325518B2 (en) 2019-06-18
JP6540335B2 (ja) 2019-07-10
US20170032688A1 (en) 2017-02-02

Similar Documents

Publication Publication Date Title
JP6540335B2 (ja) 走行状況表示プログラム、走行状況表示装置、及び走行状況表示方法
JP6310652B2 (ja) 映像表示システム、映像合成装置及び映像合成方法
JP4924896B2 (ja) 車両の周辺監視装置
JP4814669B2 (ja) 3次元座標取得装置
JP5077307B2 (ja) 車両周囲画像表示制御装置
EP2757527B1 (en) System and method for distorted camera image correction
US20110298988A1 (en) Moving object detection apparatus and moving object detection method
CN107465890B (zh) 车辆的图像处理装置
US20170259830A1 (en) Moving amount derivation apparatus
JP2009017462A (ja) 運転支援システム及び車両
JP4797877B2 (ja) 車両用映像表示装置及び車両周囲映像の表示方法
JP2010103730A (ja) 車載カメラのキャリブレーション装置およびキャリブレーション方法
JP5007863B2 (ja) 3次元物体位置計測装置
JP6031819B2 (ja) 画像処理装置、画像処理方法
JP2016149613A (ja) カメラパラメータ調整装置
JP5915268B2 (ja) パラメータ算出方法、情報処理装置及びプログラム
JPWO2005024754A1 (ja) 車載用画像処理装置
CN114919584A (zh) 机动车定点目标测距方法、装置及计算机可读存储介质
JP5695000B2 (ja) 車両周辺監視装置
JP6802999B2 (ja) 区画線検出システム
JP2011209070A (ja) 画像処理装置
JP6029459B2 (ja) 画像合成装置、および画像合成方法
JP4246691B2 (ja) 画像情報処理システム、画像情報処理方法、画像情報処理プログラム、及び自動車
JP3985610B2 (ja) 車両用走行路認識装置
JP6734136B2 (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180413

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190527

R150 Certificate of patent or registration of utility model

Ref document number: 6540335

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150