JP2002056381A - 道路状況画像処理装置 - Google Patents

道路状況画像処理装置

Info

Publication number
JP2002056381A
JP2002056381A JP2000243778A JP2000243778A JP2002056381A JP 2002056381 A JP2002056381 A JP 2002056381A JP 2000243778 A JP2000243778 A JP 2000243778A JP 2000243778 A JP2000243778 A JP 2000243778A JP 2002056381 A JP2002056381 A JP 2002056381A
Authority
JP
Japan
Prior art keywords
road
image
line
coordinate
monitoring
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2000243778A
Other languages
English (en)
Inventor
Takafumi Enami
隆文 枝並
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2000243778A priority Critical patent/JP2002056381A/ja
Publication of JP2002056381A publication Critical patent/JP2002056381A/ja
Withdrawn legal-status Critical Current

Links

Landscapes

  • Traffic Control Systems (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Alarm Systems (AREA)
  • Emergency Alarm Devices (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 車両のアスペクト比を一定にすること、複数
の道路監視画像を同時に表示できる道路状況画像処理装
置を提供する。 【解決手段】 道路近辺に配置された道路状況を撮影す
る監視カメラが撮像した道路監視画像を記憶するフレー
ムメモリと、フレームメモリの各入力ラインYi上に位
置する道路左端及び道路右端のフレームメモリでの左端
座標点Xil及び右端座標点Xirを取得する道路座標
点取得手段と、(Xir−Xil)の入力ラインYiに
ついての累積加算値Xを求める累積加算手段と、比例係
数Kを算出する係数算出手段と、出力ラインYoに対応
する道路状況画像の入力ラインYjを算出する第1座標
読み取り位置算出手段と、各出力ラインYo毎に入力ラ
インYj上の道路左端及び道路右端を算出する第2座標
読み取り位置算出手段と、入力ラインYj上の道路左端
と道路右端との間の道路監視画像を出力ラインYo上の
幅Wの出力画像に変換する画像変換手段とを具備して構
成する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、道路状況監視装置
に関し、特に、道路状況の鳥瞰図作成に関する。
【0002】
【従来の技術】道路状況を監視するために、道路付近に
複数台の監視カメラを配置して、監視カメラが撮像した
監視映像の画像処理をして、渋滞、交通流等を検出して
いる。
【0003】図37は従来の道路状況監視装置の構成図
である(従来技術1)。図37に示すように、従来の道
路状況監視装置では、道路付近に配置された複数台の監
視カメラ1−i(i=1〜n)は撮像したアナログ監視
画像を映像信号切替装置2に送出する。映像信号切替装
置2は、一定の時間間隔で入力される選択するカメラを
指示するカメラ切替信号に従って、監視カメラ1−i
(i=1〜n)から送出された監視映像択を選択する。
画像処理装置3中のA/D変換器4は、映像信号切替装
置2より出力されるアナログ監視画像をディジタル画像
に変換して、画像メモリ5に記憶する。画像処理条件8
は、画像処理条件を画像処理部25に画像処理条件を入
力する。車両台数計測部9は、監視画像から車両台数を
計測する。車両速度計測部10は、車両速度を計測す
る。渋滞検知部11は、監視画像から渋滞を検出する。
異常走行検知部12は、監視画像から異常走行の有無を
検出する。停止車両・落下物検出部13は、監視画像か
ら停止車両・落下物の有無を検出する。
【0004】道路監視画像では、監視カメラから遠隔に
位置する画像ほど解像度が低下する。そのため、道路監
視画像の距離による解像度の違いを補うことを目的とす
る特開平11−328574号公報が開示されている。
【0005】図38は従来の上記距離による解像度の違
いを補う方法を示す図である(従来技術2)。図38
(a)に示すように、道路監視画像の表示画面を複数の
ウィンドウ領域(A7〜A10)に分割し、全体を表示
するウィンドウ領域A7,ウィンドウ領域A7の一部
(A7a,A7c,A7b)をウィンドウ領域A8,A
9,A10に拡大表示する。図38(b)に示すよう
に、遠距離の画像の幅が一定になるように横方法に拡大
して、ウィンドウA2に表示する。
【0006】
【発明が解決しようとする課題】しかしながら、従来の
道路監視画像処理装置では、以下の問題点があった。従
来技術1は、集中監視室などでの監視映像として通常は
地点を順次切り替えて表示し、画像処理やセンサなどに
より異常状態が観測された場合には異常が観測された地
点の映像に対してTV映像が切り替えられ細部の確認を
行うことができるものであるが、道路区間の状況を一括
して表示、把握することが困難であった。また、従来技
術2は道路幅を入力する事で画像を横方法一定サイズと
する処理を行うが、垂直方法への解像度変換を行う事を
行わないために表示される画像は横方法に潰れたイメー
ジとなり現実的には使用に耐えない監視映像となってし
まっていた。また、遠方の映像を確認するには表示エリ
アを大きくする必要があり、同時に表示できる監視エリ
アは1カメラ分の範囲であり、複数区間を集中監視する
ような全体的な道路状況の把握が困難であった。
【0007】本発明は、上記問題点を鑑みてなされたも
のであり、遠景の車両の画像が歪まないこと、複数区間
を集中監視できること及び車両が等速度で移動すること
を実現できる道路状況画像処理装置を提供することであ
る。
【0008】
【課題を解決するための手段】図1は本発明の原理図で
ある。図1に示すように、道路状況画像処理装置は、監
視カメラ20、フレームメモリ22、道路座標点取得手
段24、累積加算手段26、係数算出手段28、第1座
標読み取り位置算出手段30、第2座標読み取り手段3
2及び画像変換手段34を具備する。
【0009】フレームメモリ22には、道路近辺に配置
された監視カメラ20が撮像して道路監視画像が記憶さ
れる。道路座標点取得手段24は、フレームメモリ22
の各入力ラインYi上に位置する道路左端及び道路右端
のフレームメモリ22上での左端座標点Xil及び右端
座標点Xirを取得する。累積加算手段26は、(Xi
r−Xil)の入力ラインYiについての累積加算値X
を算出する。係数算出手段28は、累積加算値X×比例
係数K÷幅のドット数Wが高さのドット数Hに一致する
うように、係数Kを算出する。
【0010】第1座標読み取り位置算出手段30は、表
示画像画面の各出力ラインYoについて、前記フレーム
メモリの最下端ライン又は最上端ラインから、前記表示
画像画面の最下端ライン又は最上端ラインから前記出力
ラインYoまでのライン数分の(K×(Xir−Xi
l)÷W)の和に基づいて、出力ラインYoに対応する
道路状況画像の入力ラインYjを算出する。この出力ラ
インYoに対応する入力ラインYjは、アスペクト比が
一定となる変換である。
【0011】第2座標読み取り手段32は、各出力ライ
ンYo毎に第1座標読み取り位置算出手段30により算
出された入力ラインYj上の道路左端及び道路右端を算
出する。画像変換手段34は、第2座標読み取り手段3
2により算出された入力ラインYj上の道路左端と道路
右端との間の道路監視画像を出力ラインYo上の幅Wの
出力画像に変換して、鳥瞰画像を作成する。これによ
り、道路が幅W且つアスペクト比一定の鳥瞰画像が得ら
れる。
【0012】
【発明の実施の形態】第1実施形態 図2は本発明の第1実施形態による道路監視画像処理装
置の構成図である。図2に示すように、道路監視画像処
理装置は、複数の監視カメラ40#i(i=1〜n)、
複数のTV監視画像変形装置42#i(i=1〜n)、
画像合成装置44及び表示装置46を含む。各監視カメ
ラ40#iは、道路側の適当な高さ(数m〜十数m)に
設置され、道路映像を撮影して、アナログ画像信号(た
とえば、NTSC信号)をTV監視画像変形装置42#
iに出力するCCDカメラ等であり、例えば、200m
〜300m位の間隔毎に、複数台、例えば、6台程度配
置されている。
【0013】TV監視画像変形装置42#iは、各監視
カメラ40#i毎に設けられ、以下の機能を有する。
【0014】 映像信号から鳥瞰図の出力画像を作成
する。鳥瞰図を作成するのは以下の理由による。道路監
視画像は一般に路側の適当な高さに設置された監視カメ
ラ40#iによる動画像による映像を集中監視すること
で実現されている。このような状況に設置された監視カ
メラ40#iの映像の特徴として監視カメラ40#iに
近い部分がTV画面の殆どを占め100〜200m先の
映像はかなり小さく表示されることになる。これは、道
路が一般的に幅一定でありそれを有限の高さから撮像す
ることにより発生する画像歪みと考えることができる。
道路全体の監視を行う場合には、監視カメラ40#i近
傍及び遠方の監視重みは一定と考えることが自然と考え
られる。即ち、道路監視映像としては道路を真上から撮
像した映像が好ましいと考えられる。
【0015】 鳥瞰画像から交通流測定、異常検出等
を行うための各種画像処理を行う。鳥瞰画像から画像処
理を行うのは、鳥瞰図は遠近が補正されているので、画
像処理の際に遠近を考慮する必要がなくなり、処理が簡
単になるからである。
【0016】 各種画像処理した画像から交通流測
定、異常検出等を行い、鳥瞰画像、交通流通知、道路異
常通報等を画像合成装置44に出力する。画像合成装置
44により複数画像を合成するのは、1画面で複数台の
監視カメラ40#iにより撮像された道路状況を把握す
るためである。
【0017】図3は図2中のTV監視画像変形装置42
#iの構成図である。図3に示すように、TV監視画像
変形装置42#iは、画像鳥瞰図変換部50#i、各種
画像処理部52#i、交通流測定、異常検出部54#i
を有する。
【0018】画像鳥瞰図変換部50#iは、以下の機能
を有する。
【0019】 アナログ映像信号をディジタル映像信
号、例えば、8ビット映像信号に変換して、道路監視画
像を作成する。
【0020】 道路監視画像から道路領域を自動抽出
する。
【0021】 道路領域から道路監視画像の各ライン
毎に道路の右端座標点、左端座標点を取得する。但し、
右端座標点、左端座標点を手入力することも可能であ
る。自動により道路領域を抽出することが困難な場合を
考慮したものである。
【0022】 左端座標点、右端座標点、画像合成装
置44より入力される出力画像の道路幅W(ドット
数)、高さH(ライン数)及び道路画像から、以下の条
件に従って鳥瞰画像を作成する。
【0023】(i) 入力画像の高さ(H)を出力画像の
高さ(H)に画像変換すること。尚、入力画像の一部を
出力画像の高さ(H)に画像変換をすることも可能であ
るが、本実施形態では、道路全体を表示することが目的
なので、表示対象の入力画像をライン全体としている。
【0024】(ii) 入力画像の道路を幅Wの出力画像に
画像変換すること。ここで、幅Wは画像合成装置44よ
り入力されるパラメータであり、画像鳥瞰図変換部50
#i毎に任意に設定可能である。幅Wを自由に設定可能
とすることにより異常等が発生した道路画面を大きく表
示するためである。
【0025】(iii) 横方向の倍率と縦方向の倍率の比
率を全てのラインで同じにすること。アスペクト比一定
にして、縦方向の画像の歪みを無くすためである。これ
により、遠景に位置したとき車両も近景に位置したとき
の車両も縦横比が一定となり、車両の歪みが無くなる。
【0026】図4は図3中の画像鳥瞰図変換部50#i
の構成図である。図4に示すように、画像鳥瞰図変換部
50#iは、A/D変換器70#i、フレームバッファ
72#i、自動道路領域抽出部74#i、手動入力部7
6#i、道路左右端座標部78#i、Y座標読み取り位
置検出部80#i、X座標読み取り位置算出部82#
i、画像読み取り部84#i及び出力フレームバッファ
86#iを有する。
【0027】A/D変換器70#iは、一定の周期毎
に、例えば、10枚/sec、アナログ映像信号を8ビ
ットのディジタルな道路監視画像に変換する。変換した
道路監視画像をフレームバッファ72#iに書き込む。
フレームバッファ72#iは、道路監視画像を時系列順
に記憶するメモリである。自動道路領域抽出部74#i
は、道路監視画像から道路領域を自動抽出するものであ
り、エッジ抽出部90#i、直線抽出部92#i及び座
標変換部94#iを有する。
【0028】エッジ抽出部90#iは、道路監視画像の
ラプラス変換等を行って、エッジを抽出する。直線抽出
部92#iは、以下の処理を行う。
【0029】 最下部のラインについて、左端から右
端までエッジを構成する画素を検出する。
【0030】 この画素の真上の画素の隣接画素(例
えば、真上の画素,左横の画素、右横の画素の3画素)
の中からエッジを構成する画素を検出する。エッジを構
成する画素がなければ、横方向の次の画素に対して、
,を行う。
【0031】 を繰り返すことにより上に連続する
エッジを求める。道路は、右端及び左端が連続するエッ
ジとして把握できるからである。
【0032】座標変換部94#iは、連続するエッジの
中で最も長いものを選択する。道路は連続するエッジが
最も長いものであると推定できるので、これを道路端と
する。例えば、道路端を白画素、それ以外を黒画素とし
て、道路領域画像を作成する。手動入力部76#iは、
道路画像の各ラインについて、道路端の左端座標点及び
右端座標点を手動で入力する。手動入力を可能としたの
は、道路画像が複雑な場合に正確な道路領域画像が得ら
れない場合などを考慮したためである。道路左右端座標
取得部78#iは、道路領域画像の各ラインについて、
道路端の左座標点及び右座標点を取得する。又は、手動
で入力する場合は手動入力部76#iより入力する。
【0033】図5は、出力画像と入力画像の関係を示す
図であり、特に、同図(a)は鳥瞰図変換画像、同図
(b)は原画像である。原画座標の原点(0,0)を左
隅、横方向をXi軸、縦方向をYi軸とし、下から上へ
原画像から鳥瞰図変換画像への処理をする。図5(b)
中のXil(j)及びXir(j)は、原画像のj番目のラ
インYi(j)上の道路左端座標(単位ドット)及び道
路右端座標(単位ドット)、Wj(=(Xir(j)−X
il(j)))は原画のラインYi(j)上の道路幅(単
位ドット数)である。図5に示すように、上述した条件
(ii)より、原画の幅Wkが鳥瞰図変換画像において幅W
に変換される。Yi(k)ライン目の入力画像に対する
出力画像の拡大率Mi(Yi(k))は、Mi(Yi
(k))=W/Wkである。同様に、出力画像に対する
入力画像の拡大率Mo(Yi(k))は、Mo(Yi
(k))=Wk/Wである。
【0034】上述した条件(iii)より、Yi方向に対す
る拡大率はXi方向の拡大率に比例する。この比例定数
をKとすると、出力画像の1ラインが入力画像の各K×
Mo(Yi(k))(k=0,…,H)ラインに対応す
る。入力ラインがHラインなので、 H=K×ΣMo(Yi(k))(但し、Σは入力画像の全ラインについての和 ) ・・・(1) である。
【0035】これより、比例係数K=H/S(但し、S
=ΣMo(Yi(k))、Σは入力画像の全ラインにつ
いての和である。)が成り立つ。例えば、出力画像の最
下端のラインYoに対応する入力画像のラインはK×M
o(Yi(0))、その次のラインYoに対応する入力
画像のラインはK×(Mo(Yi(0))+Mo(Yi
(1)))となる。従って、出力画像のラインYoに対
応する入力行Yiは、 Yi=K×ΣMo(Yi(k))(但し、k=0〜Yo) ・・・(2) である。そこで、Y座標読み取り位置算出部80#i
は、出力画像のラインYoに対応する入力画像のライン
Yi(Y座標読み取り位置)を以下のようにして算出す
る。
【0036】 Wk(k=0,…,H)の累積和を算
出する。
【0037】 W,H,累積和及び式(1)より、比
例係数Kを算出する。
【0038】 W,比例係数K及び式(2)より、出
力画像のラインYoに対応する入力画像のラインYiを
求める。
【0039】X座標読み取り位置算出部82#iは、出
力画像のラインYoに対応する入力画像のラインYiの
原画の左端座標点Xil(i),右端座標点Xir(i)を
算出して、画像読み取り部84#iにX座標読み取り位
置Xil(i),Xir(i)を出力する。画像読み取り部
84#iは、Yi行の道路左右端Xil(i),Xir
(i)から拡大率Mi(Yi)=W/(Xir(i)−X
il(i))を求め、道路左右端Xi(i),Xr(i)
に含まれる原画を拡大率Mi(Yi)に拡大して幅Wに
補間処理等の画像処理を行って、鳥瞰画像に変換する。
変換した鳥瞰画像を出力フレームバッファ86#iに書
き込む。
【0040】図3中の各種画像処理部52#iは、背景
画像作成部56#i、エッジ抽出/動き検出部58#
i、ヒストグラム作成部60#i及び車両抽出部62#
iを有する。背景画像作成部56#iは、車両等の動き
のある物体以外の静止している画像である背景画像を鳥
瞰画像から作成する。例えば、鳥瞰画像を1/10倍し
てから背景画像に加算して、加算した画像を背景画像と
する。エッジ抽出/動き検出部58#iは、鳥瞰画像か
ら背景画像を引き算した差分画像から車両等のエッジ抽
出や動き検出を行う。
【0041】ヒストグラム作成部60#iは、差分画像
の輝度を横方向に加算して、ヒストグラムを作成する。
車両抽出部62#iはヒストグラムより車両を検出す
る。ここで、遠近による解像度の違いが補正されている
鳥瞰画像に対して画像処理を行っているので、遠近によ
る解像度の違いを考慮する必要がなく、画像処理が簡単
になる。交通流測定、異常検出部54#iは、各種画像
処理部52#iより抽出された車両等から、交通流測
定、渋滞、落下物等の道路異常を検出して、鳥瞰画像と
共に交通流、道路異常通報を画像合成装置44に出力す
る。
【0042】図6は図2中の画像合成装置44の構成図
である。図6に示すように、画像合成装置44は、レイ
アウト指定部100、書き込み制御部102、フレーム
バッファ104及び読み出し制御部106を有する。レ
イアウト指定部100は、複数のTV監視画像変形装置
42#i(i=1〜n)から入力される、鳥瞰画像、交
通流通知及び道路異常通報測定を表示装置46に表示す
るレイアウト情報、例えば、各鳥瞰画像の道路幅Wi
(i=1〜n)や鳥瞰画像の回転等を書き込み制御部1
02に、道路幅Wiを各TV監視画像変形装置42#i
に出力する。道路幅Wiとは鳥瞰画像の道路幅(ドット
数)をいう。鳥瞰画像の回転とは、鳥瞰画像の90度回
転をいう。複数の鳥瞰画像を横方向に並べて複数の監視
カメラ40#iから得られる道路を横に連続して表示す
るためである。また、レイアウト情報を複数個の鳥瞰画
像の中から任意に選択する選択情報を加えることも可能
である。
【0043】レイアウト情報は、道路状況に応じて自動
的に生成する又はオペレータが手動で入力することが可
能である。道路状況に応じてレイアウト情報を入力可能
としたのは、道路異常の発生した鳥瞰画像を他の鳥瞰画
像よりも大きく表示したい場合には、幅Wiを変更する
ことにより実現するためである。書き込み制御部102
は、各TV監視画像変形装置42#i(i=1〜n)か
ら鳥瞰画像等を入力して、レイアウト情報に従って、フ
レームバッファ104を縦に幅Wiに応じて複数個に分
割して、アドレス領域のフレームバッファ104に書き
込む。読み出し制御部106は、フレームバッファ10
4に書き込まれた鳥瞰画像等を上のラインから下のライ
ンに順次読み出して、表示装置46に表示する。表示装
置46は鳥瞰画像等を表示する出力装置である。
【0044】以下、図2の道路監視画像処理装置の動作
説明をする。
【0045】(a) 道路監視画像の記憶 路側の適当な高さに設置された各監視カメラ40#i
(i=1〜n)は、道路状況を撮像して、道路監視画像
をTV監視画像変形装置42#iに出力する。TV監視
画像変形装置42#iは、A/D変換器70#iより、
例えば、8ビットディジタル映像信号に変換して、フレ
ームバッファ72#iに書き込む。
【0046】(b) 道路領域の自動抽出 図7は図4中の自動道路領域抽出部74#iのフローチ
ャートである。
【0047】図7中のステップS2において、エッジ抽
出部90#iは、フレームバッファ72#iより原画像
を読み出して、原画像に対してラプラス変換処理等をし
て、垂直エッジを抽出する。垂直エッジを白画素、それ
以外を黒画素で示す垂直エッジ抽出画像を作成する。
【0048】図8〜図10は、垂直エッジ抽出を示す図
であり、特に、同図(a)は原画像、同図(b)は垂直
エッジ抽出画像である。エッジ抽出部90#iより抽出
された垂直エッジには、図8〜図10(b)の垂直エッ
ジ抽出画像に示すように、道路両端の白線が含まれる。
しかし、垂直エッジには、図8〜図10(b)に示すよ
うに、路両端以外の余分な部分、例えば、道路のセンタ
ライン、対向車線の白線等が含まれる。直線抽出部92
#iは、ステップS4において、垂直エッジ画像のライ
ンY=0を設定する。直線抽出部92#iは、ステップ
S6において、各ラインについての連続エッジをトレー
スする処理が終了したか否かを判断する。処理が終了し
ていれば、ステップS24に進む。処理が終了していな
ければ、ステップS6に進む。直線抽出部92#iは、
ステップS8において、対象ライン上の各画素について
の連続エッジをトレースする処理が終了したか否かを判
断する。各画素について、処理が終了したならば、ステ
ップS22に進む。各画素について、処理が終了してい
なければ、ステップS10に進む。
【0049】ステップS10において、当該画素がロー
カルピークであるか否かを判断する。ローカルピークと
は、同一ライン上の近傍画素が垂直エッジでないことを
いう。道路の両端の白線は、ローカルピークとして認識
されるからである。ローカルピークならば、ステップS
12に進む。ローカルピークでなければ、探索位置を当
該画素の右方向の垂直エッジの画素に移動して、ステッ
プS8に進む。直線抽出部92#iは、ステップS12
において、ローカルピークの当該画素の位置(X座標,
Y座標)を開始点として記録する。
【0050】直線抽出部92#iは、ステップS14に
おいて、最上端ラインまでの探索ループが終了したか否
かを判断する。最上端ラインまでの探索ループが終了し
たならば、ステップS8に戻る。最上端ラインまでの探
索ループが終了していないならば、ステップS16に進
む。直線抽出部92#iは、当該画素の真上又はその隣
接画素(例えば、真上画素の左右に1個の画素)がロー
カルピークであるか否かを判断する。ローカルピークで
あれば、ステップS16に進む。道路の白線は下から上
へとローカルピークの画素として把握されるからであ
る。
【0051】ローカルピークで無ければ、ステップS8
に戻る。ステップS18において、上方に探索された当
該画素のYラインの座標を境界点として記録する。尚、
境界点は上方に探索が続けられるにつれて、上方の探索
点のYラインの座標点に更新される。直線抽出部92#
iは、ステップS20において、当該上方に位置するロ
ーカルピークを探索画素として、ステップS14に戻
る。ステップS12〜ステップS20の処理を繰り返す
ことにより、ロールカルピークが上方に探索される。
【0052】ステップS8〜ステップS20を繰り返す
ことにより、探索ライン上に最下端のローカルピークを
有する直線の両端の座標点(開始座標点,境界座標点)
が求められる。ステップS6〜ステップS22を繰り返
すことにより、道路監視画像全体について、ローカルピ
ークの直線の両端の座標点(開始座標点,境界座標点)
が求められる。座標変換部94#iは、ステップS24
において、ローカルピークの直線の両端の座標点から長
さを求める。そして、例えば、長さの最も長いもの2本
を道路白線として選択する。道路白線を白画素、それ以
外を黒画素として、道路画像を作成する。
【0053】図11は、道路領域の抽出例を示す図であ
り、図中の白が道路白線、黒がそれ以外を示している。
図11(a)は図8に、同図(b)は図9に、同図
(c)は図10にそれぞれ対応する。このように、図1
1に示すように、自動道路領域抽出部74#iにより道
路の両端が検出される。
【0054】(c) 道路座標点の手動入力 手動入力部76#iは、道路監視画像の各ラインYi
(j)毎に道路の左座標点(Xil(j))及び道路の右
座標点(Xir(j))を手入力して、道路左右端座標取
得部78#iに出力する。
【0055】(d) 画像変換 図12は画像変換処理のフローチャートである。道路左
右端座標取得部78#iは、ステップS40において、
道路領域が手動/自動のいずれで入力されるかを判断す
る。自動入力ならば、ステップS42に進む。手動入力
ならば、ステップS44に進む。ステップS42におい
て、自動道路領域抽出部74#iより抽出された道路領
域の画像から、道路監視画像の各ラインYi(j)毎
に、道路の左座標点(Xil(j))及び道路の右座標点
(Xir(j))を算出する。ステップS44において、
手動入力部76#iより道路監視画像の各ラインYi
(j)毎に道路の左座標点(Xil(j))及び道路の右
座標点(Xir(j))を入力する。
【0056】道路左右端座標取得部78#iは、ステッ
プS46において、画像合成装置44より表示エリアの
道路幅(ドット数)を入力する。道路左右端座標取得部
78#iは、各ラインYi(j)(j=1〜H)につい
て、道路幅Wj(右座標点(Xir(j))−左座標点X
il(j))の累積加算値Xを計算する。道路左右端座標
取得部78#iは、ステップS50において、式(1)
に示すように、係数K×X/WがHに等しくなるように
係数Kを計算する。
【0057】Y座標読み取り位置算出部80#iは、ス
テップS52において、出力画像の各ラインYoについ
て画像変換処理が終了したか否かを判断する。画像変換
処理が終了していなければ、ステップS54に進む。画
像変換処理が終了したならば、処理を終了する。Y座標
読み取り位置算出部80#iは、ステップS54におい
て、式(2)に従って、ラインYoに対する入力画像の
ラインYi(i)を求める。X座標読み取り位置算出部
82#iは、ステップS56において、入力画像のライ
ンYi(i)上にの道路幅Wi=(Xir(i))−Xil
(i))を求める。画像読み取り部84#iは、道路幅
Wiに含まれる入力画像を、ラインYoの幅Wの表示エ
リアに、W/Wiの倍率で、拡大、縮小及び補間等、画
像変換して、出力フレームバッファ86#iに書き込
む。そして、ステップS52に戻る。このとき、倍率W
/Wiによっては、入力画像の複数画素が出力画像の1
画素に、逆に、入力画像の1画素が出力画像の複数画素
に対応することもあるが、この場合は補間処理等の平滑
化処理を行う。
【0058】図13は個々の道路監視画像の鳥瞰図を示
す図であり、同図(a)は図8(a)に、同図(b)は
図9(a)に、同図(c)は図10(a)にそれぞれ対
応する。図13に示すように、鳥瞰図では、監視カメラ
40#iから遠方に位置する車両が監視カメラ40#i
の近傍に位置する車両にほぼ等しい大きさとなる。これ
により、遠方の道路状況をより詳細に判断できる。しか
も、出力画像に対する入力画像の横方向の倍率と縦方向
の倍率を一定としているので、車両等のアスペクト比が
一定となり、歪みが少なくなる。
【0059】(e) 画像処理 背景画像作成部56#iは、車両等の動きのある物体以
外の静止している画像である背景画像を鳥瞰画像から作
成する。例えば、鳥瞰画像を1/10倍してから背景画
像に加算して、加算した画像を背景画像とする。エッジ
抽出/動き検出部58#iは、鳥瞰画像から背景画像を
引き算した差分画像から車両等のエッジ抽出や動き検出
を行う。ヒストグラム作成部60#iは、差分画像の輝
度を横方向に加算して、ヒストグラムを作成する。車両
抽出部62#iはヒストグラムより車両を検出する。こ
こで、遠近による解像度の違いが補正されている鳥瞰画
像に対して画像処理を行っているので、遠近による解像
度の違いを考慮する必要がなく、画像処理が簡単にな
る。交通流測定、異常検出部54#iは、各種画像処理
部52#iより抽出された車両等から、交通流測定、渋
滞、落下物等の道路異常を検出して、鳥瞰画像と共に交
通流、道路異常通報を画像合成装置44に出力する。
【0060】(f) 画像合成処理 書き込み制御部102は、各TV監視画像変形装置42
#i(i=1〜n)から鳥瞰画像等を入力して、レイア
ウト情報に従ったアドレス領域のフレームバッファ10
4に書き込む。読み出し制御部106は、フレームバッ
ファ104に書き込まれた鳥瞰画像等を上のラインから
下のラインに順次読み出して、表示装置46に表示す
る。
【0061】図14は、3台の監視カメラ40#i(i
=1〜3)が撮像した図8(a)〜図10(a)に示す
道路監視画像を画像変換した図13に示す鳥瞰画像を、
同じ道路幅Wで表示した複数区間の道路監視画像の合成
表示例を示す図である。図14に示すように、複数台の
監視カメラ40#i(i=1〜n)の鳥瞰画像を同時に
表示装置46に表示することができる。更に、TV監視
画像変形装置42#i(i=1〜n)が撮像した道路監
視画像の鳥瞰画像の画像処理により、道路異常が検出さ
れた場合、例えば、監視カメラ40#3が撮像した道路
監視画像に道路異常が検出された場合、監視カメラ40
#3が撮像した鳥瞰画像の幅W3を他の鳥瞰画像の幅よ
りも長くする。
【0062】図15は監視カメラ40#i(i=1〜
3)が撮像した鳥瞰画像の車線重みを変更した場合の表
示例を示す図であり、監視カメラ40#2が撮像した鳥
瞰画像の車線を他の鳥瞰画像の車線に比べて大きく設定
した場合である。これにより、道路異常等が検出され詳
細に見たい道路監視画像を他の監視画像よりも大きく表
示することができ、道路異常等がより見やすくなる。
【0063】以上説明した第1実施形態によれば、遠景
・近景の車両のアスペクト比が一定となり車両の歪みが
小さくなること、複数区間の道路監視画像を1つの画面
に表示できるので監視が容易になること、複数区間の道
路監視画像の車線の重みを付けて表示することができる
ので注目する監視画像がより見やすくなることの効果を
奏することができる。
【0064】第2実施形態 図16は、本発明の第2実施形態による道路監視画像処
理装置の構成図であり、図2中の構成要素と実質的に同
一の構成要素には同一の符号を附している。図16に示
す道路監視画像処理装置は、各TV監視画像変形装置1
20#i(i=1〜n)は道路監視画像を鳥瞰画像に画
像変換するのみで、交通流測定等の各種画像処理を行わ
ないこと、各種画像処理部124が画面合成装置122
が合成した鳥瞰画像から交通流測定、異常等の各種画像
処理を行うことが、図2の道路監視画像処理装置と異な
る。
【0065】図17は、図16中のTV監視画像変形装
置120#iの構成図であり、図3中の構成要素と実質
的に同一の構成要素には同一の符号を附している。図1
7に示すように、TV監視画像変形装置120#iは、
画像鳥瞰図変換部50#iより構成される。即ち、TV
監視画像変形装置120#iは、監視カメラ40#iに
より撮像された道路監視画像を第1実施形態と同様の手
法により、鳥瞰画像に変換して出力フレームバッファに
書き込む。
【0066】図18は、図16中の画像合成装置122
の構成図であり、図6中の構成要素と実質的に同一の構
成要素には同一の符号を附している。書き込み制御部1
30は、各TV監視画像変形装置42#i(i=1〜
n)から鳥瞰画像を入力して、レイアウト情報に従った
アドレス領域のフレームバッファ104に書き込む。図
16中の各種画像処理部124は、画像合成装置122
により合成された鳥瞰画像に対して、図3中の各種画像
処理部52#iや交通流測定、異常検出部54#iと同
様にして、交通流測定、異常検出、渋滞検知等の処理を
行って、表示装置46に通知する。図16に示す道路監
視画像処理装置は、交通流測定、異常検出、渋滞検出等
の各種画像処理を合成された鳥瞰画像に対して行うこと
以外は、図2の道路監視画像処理装置と同じであるので
動作説明を省略する。
【0067】以上説明したように第2実施形態によれ
ば、第1実施形態と同様の効果がある上に各種画像処理
部は監視カメラ毎ではなく全体で1個設ければ良いの
で、装置コストが第1実施形態に比べて低減する。
【0068】第3実施形態 図19は、本発明の第3実施形態による道路監視画像処
理システムの構成図であり、図2中の構成要素と実質的
に同一の構成要素には同一の符号を附している。図19
に示すように、道路監視画像処理システムは、図2中の
構成要素に画像符号化部140#i(i=1〜n)、ネ
ットワーク142及び画像復号化部146が付加されて
いる。画像符号化部140#iは、TV監視画像変形装
置42#iが道路監視画像から変換した鳥瞰画像をJP
EG,MPEG等の符号化方式により符号化して、ネッ
トワーク142に送信する。このとき、鳥瞰画像は道路
領域の画像が切り出された画像であり、それ以外の領域
の画像は除去、例えば、黒画素に変換されているので、
監視カメラ40#iより撮像された道路監視画像を符号
化するよりも符号化率が向上する。
【0069】ネットワーク142は、インターネット等
の通信ネットワークである。ネットワーク142を通し
て鳥瞰画像を送信するのは、道路を監視する監視モニタ
46を有する監視センタが監視カメラ40#iから遠隔
にある場合を考慮したためである。画像復号化部144
は、ネットワーク142を通して、画像符号化部140
#iより符号化された鳥瞰画像を復号化して、画像合成
装置146に出力する。画像合成装置146は、画像復
号化部144より復号化された複数の鳥瞰画像をレイア
ウト情報に従って合成する。
【0070】以上説明したように第3実施形態によれ
ば、第1実施形態と同様の効果がある上に、道路監視セ
ンタが監視カメラ40#iから遠隔地に位置する場合で
も、鳥瞰画像を符号化して道路監視センタに送信するの
で符号化効率が向上して、通信コストの低減化と鳥瞰画
像の動画像を送信する場合でも画質の劣化が抑制でき
る。
【0071】第4実施形態 図20は、本発明の第4実施形態による道路監視画像処
理システムの構成図であり、図16及び図19中の構成
要素と実質的に同一の構成要素には同一の符号を附して
いる。図20に示す道路監視画像処理システムは、図1
6の第2実施形態及び第4実施形態を組み合わせたもの
であり、図16中のTV監視画像変形装置120#i
(i=1〜n)と同様に監視カメラ40#iにより撮像
された道路監視画像の鳥瞰画像への画像変換のみを行
い、各種画像処理部124が画像合成装置146により
合成された鳥瞰画像に対して、交通流測定、異常検出、
渋滞検知等の処理を行う。更に、画像符号化部140#
iにより鳥瞰画像の符号化を行って、ネットワーク14
2を通して、道路監視センタに配設された画像復号化部
144に送信する。画像合成装置122は、画像復号化
部144により復号した複数の鳥瞰画像を合成して、監
視モニタ46に出力する。以上説明したように第4実施
形態によれば、第3実施形態と同様の効果がある。
【0072】第5実施形態 図21は本発明の第5実施形態により道路監視画像処理
システムの構成図であり、図2中の構成要素と実質的に
同一の構成要素には同一の符号を附している。監視カメ
ラ40#i(i=1〜n)は、一般に道路付近の上方
に、道路に対して一定の俯角で配置される。俯角とは、
監視カメラ40#iのレンズ中心を通る光軸方向と道路
方向とのなす角度をいう。監視カメラ40#iより撮像
される道路監視画像は、監視カメラ40#iのレンズ中
心を通る光軸方向に対して垂直方向に配置された2次元
方向に並べられたCCD等の撮像素子上に射影される。
【0073】従って、監視カメラ40#iの撮像素子の
上端部及び下端部に対応する道路領域を算出すること、
この道路領域を監視カメラ40#iの解像度に応じたラ
イン数H分で等間隔で分割して、複数の道路区間を算出
すること、道路区間の境界点に対応する撮像素子の空間
でのラインを求めること、ライン上の道路画像を幅Wに
画像変換を行うことにより、道路を俯角90度の方向か
ら撮像した鳥瞰画像を得ることができる。この鳥瞰画像
は、道路を真上から撮像にしたものなので、監視カメラ
40#iから遠方の車両と近景の車両も等速度で移動す
る。これにより、車両の速度が近景、遠方に係わらずよ
り正確に目視や画像処理により把握することが可能とな
る。そこで、本実施形態は、道路を俯角90度の方向か
ら撮像した鳥瞰画像を得る手法を開示する。
【0074】図22は、図21中のTV監視画像変形装
置150#iの構成図であり、図3中の構成要素と実質
的に同一の構成要素には同一の符号を附している。画像
鳥瞰図変換部160#iは、以下の機能を有する。
【0075】 道路監視画像の最上部と最下部に対応
した実座標系での道路位置の上端道路及び下端道路を算
出する。
【0076】 出力画像領域の監視カメラ40#iの
解像度(ライン数H)から上端道路から下道路までをラ
イン数Hで等間隔に分割して、各出力ラインYoに該当
する道路区間を求める。
【0077】 各道路区間に対応する道路監視画像の
ラインを求める。
【0078】 道路監視画像のライン上に位置する道
路領域画像を出力画像領域のライン上に、拡大/縮小/
補間等の画像処理による画像変換を行うことにより、鳥
瞰画像を作成する。
【0079】画像鳥瞰図変換部160#iの詳細な説明
を行う前に、3次元実座標空間における道路座標点と監
視道路画像の座標点との間の座標変換について説明をす
る。3次元実座標空間における道路座標点と監視道路画
像の座標点との間の座標変換は、監視カメラ40#iの
位置に制限されることなく行うことが可能であるが、以
下の仮定をする。
【0080】 道路は直線であること。
【0081】 監視カメラ40#iの側写角θ及びロ
ール角ρは存在しない。即ち、θ=0,ρ=0であるこ
と。
【0082】 監視カメラ40#iは道路のセンタラ
イン上方に道路方向に配置されていること。
【0083】上記,の仮定をするのは、側写角θ及
びロール角ρは小さい値であり、この仮定により得られ
る鳥瞰画像の画質の劣化が小さいこと、側写角θ及びロ
ール角ρを考慮した場合は、座標変換が複雑になること
からである。
【0084】図23は、上記仮定の元に配置された監視
カメラ40#iのジオメトリを示す図であリ、同図
(a)は側面図であり、同図(b)は3次元実座標空間
を示す図である。図23(a)に示すように、監視カメ
ラ40#iの光軸方向と道路との交点をP1とすると、
監視カメラ40#iは、俯角φ、点P1からxoffだけ
離間したセンタライン上の位置P1’の上方zoff(説
明の都合上、zoff<0)の高さに配置されている。図
23(b)に示すように、監視カメラ40#iのレンズ
中心を原点O、道路方向をx軸、道路方向に垂直な左路
側の方向をy軸、高さ方向をz軸とする3次元実座標系
(x,y,z)とする。片側の車線の道路幅をWrとす
る。
【0085】上記仮定より、 θ=0 φ=tan-1(−zoff/xoff) となる。
【0086】図24は、3次元実座標系(x,y,z)
と2次元画面座標系(u,v)の関係を示す図である。
図24に示すように、撮像素子170は、レンズ中心O
から焦点距離F離間した位置に、光軸OP1に対して垂
直に配置されている。道路上の任意の点P2は、直線P
2Oと撮像素子170との交点に射影される。3次元実
座標系における任意の座標点(x,y,z)をy軸中心
にxz平面を俯角φだけ時計周りに回転した点の座標点
の座標を(X,Y,Z)とする。この回転により、監視
カメラ40#iの回転後の撮像素子170は、x軸に垂
直且つ撮像素子170の中心がx軸を通過する。撮像素
子170の中心を原点、画面右横方向をu軸、画面の上
方向をv軸とする。図24に示すように、点P1(x
0,y0,z0)が回転した座標点の座標(X,Y,
Z)は、(xoff,0,zoff)となる。
【0087】監視カメラ40#iの方向をy軸中心にx
z平面を俯角φだけ時計周りに回転した点に位置変換を
行う。座標回転行例は、
【0088】
【数1】
【0089】となる。
【0090】実空間をx軸上の画面へ移動するため、回
転変換(−θ,−φ)する座標変換は、次式(4)に示
される。
【0091】
【数2】
【0092】従って、(x,y,z)と(X,Y,Z)
との関係は、次式(5)に示すようになる。
【0093】
【数3】
【0094】図25は実座標(X,Y,Z)と画面座標
系(u,v)の関係を示す図である。u軸はY軸と逆方
向、v軸はZ軸に平行な方向である。u軸に平行な方向
が道路の幅方向である。v軸方向が道路方向である。座
標(X,Y,Z)と2次元画面座標系(u,v)の関係
は図にようになる。よって、3次元座標系(X,Y,
Z)から2次元画面座標系(u,v)への変換式は、次
式(6)に示すようになる。
【0095】
【数4】
【0096】3次元実座標系(x,y,z)において、
道路上の任意の点は、(x,y,zoff)となる。この
座標点(x,y,zoff)を式(5)に従って回転し
て、3次元実画面座標点(X,Y,Z)に変換すると、
次式(7)に示すようになる。
【0097】
【数5】
【0098】従って、(X,Y,Z)の2次元画面座標
(u,v)は次式(8)に示すようになる。
【0099】
【数6】
【0100】x→∞の時のu,vの極限値は、 u=0 v=−tanφ・・・(9) となる。
【0101】右又は左路側線について考える。例えば、
センタラインから右にWr離れた右路側線の3次元実座
標系の座標は(x,−Wr,zoff)となり、 du/dx=F(−Wr×cosφ)/(xcosφ+zoff×sinφ)2 ・・・(10) 及び dv/dx=F(−zoff)/(xcosφ+zoff×sinφ)2 ・・・(11) となる。
【0102】ここでは、センタライン上方に監視カメラ
40#iを配置しているので、右側側線の座標点が
(x,−Wr,zoff)となるが、センタライン上方で
ない場合は、−Wrの代わりに、一定のオフセットが加
算されるだけである。
【0103】これにより、 dv/du=zoff/Wr×cosφ ・・・(12) となる。
【0104】従って、2次元画面上の路側線の傾きdv
/du,監視カメラ40#iの高さzoffと道幅Wrと
の比率より俯角φを求めることができる。路線側の傾き
dv/duは監視カメラ40#iが撮像した道路監視画
像より得ることができる。また、zoff/Wrは外部より
パラメータとして得ることができる。
【0105】vはxにより、 v=F(−xsinφ+zoff×cosφ)/(xcosφ+zoff×sinφ ) =F(−tanφ+tanψ)/(1+tanφ×tanψ) =F×tan(−φ+ψ) ・・・(13) 但し、tanψ=zoff/x ・・・(14) と表すことができる。
【0106】また、xはvにより、 x=zoff(−v×sinφ+Fcosφ)/(vcosφ+Fsinφ) =zoff(−tanφ+tanψ)/(1+tanψ×tanφ) =zoff×tan(ψ−φ) ・・・(15) 但し、tanψ=F/v ・・・(16) と表すことができる。
【0107】図26は鳥瞰図変換のパラメータ説明図で
ある。図26中のVvは道路路側線長して考えたときの
交点Pと、撮像素子170の画面中心との画面上でのド
ット距離、Urは路側線が画面中央の水平線と項さする
点と画面中心との距離、Quは画面最上部、Qdは画面最
下部、vupはQuと画面中心との距離である。
【0108】図27は実座標空間(x,y,z)の画面
空間への写像を示す図である。Puは監視カメラ40#
iのレンズ中心Oと図26中の画面の最上部の点とを結
ぶ直線と道路との交点、P1は光軸の延長線と道路との
交点、P2は道路上の任意の点、Pdは図27中の画面
の最下部の点とを結ぶ直線と道路との交点、φmaxは、
直線PuOと直線P1Oとが成す角度、φ'は直線P2O
と直線P1Oとの成す角度、Fは焦点距離であり、Pと
撮像素子170の中心との距離である。
【0109】具体的には、実際の監視カメラ40#iの
設置位置や車幅の値は必要が無く、その比率が与えられ
れば良い。そこで、xoff=1として規格化したモデル
を考えると、図27に示すジオメトリ及び三角関数によ
り、次式(17)〜(19)が成り立つ。
【0110】 zoff=tanφ ・・・(17) Wr=Ur×tanφ/Vv×cosφ ・・・(18) F=Ur×Kccd×zoff/Wr ・・・(19) となる。
【0111】ここで、Kccdは撮像画面(CCD)上の
ドットを実際の長さに変換するための係数であり、撮像
画面の実サイズ、例えば、撮像素子170の対角線の長
さ(1/2インチ、3/2インチ等)及び垂直方向の解
像度の関係により得ることができるパラメータである。
【0112】これにより、比率zoff/Wrが与えられる
と、俯角φ、Wrが算出されて、最終的に焦点距離Fを
算出することができる。
【0113】画面の最上部Qu(単位ドット)と最下部
Qd(単位ドット)に対応した3次元実座標空間(x,
y,z)での位置の点Pu,Pdのx座標xu,xvを算出
する。図27に示すように、∠PuOP1=φmaxであ
る。このとき、光軸が撮像素子170に対して垂直であ
ること、QuとQvの原点からの距離が等しいことから、
∠PdOP1=−φmaxとなる。
【0114】図27により、∠OPuP1=φ+φmax
なる。撮像素子170の中心と点Puとの間の実距離
は、Qu×Kccdなので、 tanφmax=Qu×Kccd/F ・・・(20) となる。
【0115】xuは、図27に示すジオメトリ及び三角
関数により、次式(21)で表される。
【0116】 xu=zoff/tan(φ−φmax) =zoff×(1+tanφtanφmax)/(tanφ−tanφmax) ・・・(21) 同様に、xdは、図27に示すジオメトリ及び三角関数
により、次式(22)で表される。
【0117】 xd=zoff/tan(φ+φmax) =zoff×(1−tanφtanφmax)/(tanφ+tanφmax) ・・・(22) xoff=1として規格化したモデルでは、式(17)を
式(21),(22)に代入して、xu,xdを算出す
る。
【0118】従って、φが式(12)により、φmax
式(20)により算出されるので、式(21),(2
2)により、xu,xdを算出することができる。xuか
らxdまでの区間を画面の解像度に従って等間隔に分割
した場合の各境界線の道路上の点Pのx座標に対応する
撮像素子170上でのv座標を以下のようにして求め
る。
【0119】図27に示すように、∠OP2P1=φ−
φ’となる。φ’=∠P2OP1である。vは次式(2
3)で表される。
【0120】 v=F×tanφ' =F×tan(φ−∠PP2P1) =F×(tanφ−x/zoff)/(1+xtanφ/zoff) ・・・(23) となる。xoff=1として規格化したモデルでは、式
(17)を式(23)に代入して、vを算出する。
【0121】撮像素子170の座標空間(u,v)での
v座標値が得らたので、係数Kccdより、vライン上に
対応する道路監視画像が記憶されるフレームバッファ7
2#iでのVライン上の道路監視画像の道路領域を算出
する。そして、道路領域をx座標に対応する出力画像の
Yoラインに縮小/拡大/補間等の画像処理をして、画
像変換をすることにより、俯角が90度の鳥瞰画像を得
ることができる。
【0122】図28は、図22中の画像鳥瞰図変換部1
60#iの構成図であり、図4中の構成要素と実質的に
同一の構成要素には同一の符号を附している。V座標読
み取り位置算出部170#iは、出力画像のラインYo
に対応する入力画像のラインViを算出する。
【0123】図29は、図28中のV座標読み取り位置
算出部170#iの構成図である。図29に示すよう
に、V座標読み取り位置算出部170#iは、俯角算出
部192#i、焦点距離算出部192#i、道路最上部
・最下部座標変換部194#i、出力ライン/道路座標
変換部196#i、道路座標/入力ライン変換部198
#iを有する。俯角算出部192#iは、画面上の路側
線の傾きdv/du、カメラ高さzoff、片側の道路幅
Wrより、式(12)に従って、俯角φを算出する。道
路最上部・最下部座標変換部194#iは、φmax,φ
を入力して、式(21),(22)より、Qu,Qdにそ
れぞれ対応する道路領域の最上部のx座標xu及び最下
部のx座標xdを算出する。
【0124】出力ライン/道路座標変換部196#i
は、解像度より決められる出力画像のライン数Hで道路
領域の表示対象区間[xd,xu]を分割して、分割した
各道路区間[xi,xi+1](i=1〜H,x1=xd,x
H+1=xu)の下の境界ラインのxi(i=1〜H)座標
を算出する。道路座標/入力ライン変換部198#i
は、式(23)に従って、xiに対応する撮像素子17
0のviを算出する。それから、Kccdよりviに対応する
道路監視画像の入力ラインUiを算出する。入力ライン
U座標読み取り位置算出部182#iは、道路左右端座
標取得部78#iにより得られた道路左右端座標から、
入力ラインUi上の道路左端座標点Uil(i)及び右端
座標点Uir(i)を算出する。
【0125】以下、図21の道路監視画像処理装置の動
作説明をする。
【0126】(a) 道路監視画像の記憶 例えば、道路のセンタライン上方の適当な高さzoff
に、俯角φで設置された各監視カメラ40#i(i=1
〜n)は、道路状況を撮像する。道路監視画像を監視画
像変形装置150#iに出力する。TV監視画像変形装
置150#iは、A/D変換器70#iより、例えば、
8ビットディジタル映像信号に変換して、フレームバッ
ファ72#iに書き込む。
【0127】(b) 道路領域の自動抽出 自動道路領域抽出部74#iは、第1実施形態と同様に
して、道路監視画像より道路左右端を抽出して、道路左
右端座標取得部78#iに出力する。
【0128】(c) 道路座標点の手動入力 手動入力部76#iは、第1実施形態と同様にして、道
路監視画像の各ラインv毎に道路の左端座標点及び右端
座標点を手入力して、道路左右端座標取得部78#iに
出力する。
【0129】(d) 画像変換 図30は画像変換処理のフローチャートである。道路左
右端座標取得部78#iは、ステップS70において、
道路領域が手動/自動のいずれで入力されるかを判断す
る。自動入力ならば、ステップS72に進む。手動入力
ならば、ステップS74に進む。ステップS72におい
て、自動道路領域抽出部74#iより抽出された道路領
域の画像から、道路監視画像の各ラインv毎に、道路の
左端座標点及び右端座標点を算出する。ステップS74
において、手動入力部76#iより道路監視画像の各ラ
インv毎に道路の左端座標点及び右端座標点を入力す
る。
【0130】道路左右端座標取得部78#iは、ステッ
プS75において、画像合成装置44より表示エリアの
道路幅W(ドット数)を入力する。俯角算出部190#
iは、ステップS76において、道路監視画像から道路
の傾きdv/du=Vv/Urを求めて、式(12)、道
路の傾きdu/dv、外部から入力されるzoff/Wrに
より、俯角φ(0≦φ≦π/2)を算出する。焦点距離
算出部192#iは、Ur/Vv、俯角φ及び式(18)
より道路幅Wrを算出する。道路幅Wr、Ur、Kccd及び
式(19)より焦点距離Fを算出する。
【0131】図31は、道路監視画像から鳥瞰画像への
画像変換処理を示す図であり、同図(a)は出力画像、
同図(b)は道路、同図(c)は撮像素子170の画面
である。道路最上部・最下部座標変換部194#iは、
ステップS78において、道路監視画像の高さHより、
入力画像の道路表示対象領域の最上部Uu(=H/2)
及び最下部Ud(=−H/2)を算出する。道路最上部
・最下部座標変換部194#iは、ステップS80にお
いて、Qu、Kccd、F及び式(20)に従って、最大俯
角φmaxを算出する。道路最上部・最下部座標変換部1
94#iは、ステップS82において、tanφ,ta
nφmax及び式(21)に従って、道路最上部のx座標
点xuを算出する。道路最上部・最下部座標変換部19
4#iは、ステップS84において、tanφ,tan
φmax及び式(22)に従って、道路最下部の道路のx
座標点xdを算出する。
【0132】出力ライン/道路座標変換部196#i
は、ステップS86において、出力ラインYoが終了し
たか否かを判別する。出力ラインYoが終了したなら
ば、終了する。出力ラインが終了していなければ、ステ
ップS88に進む。出力ライン/道路座標変換部196
#iは、ステップS88において、図31(a)に示す
ように、出力ラインYoを計算する。出力ライン/道路
座標変換部196#iは、ステップS90において、解
像度Hに従って道路表示区間[xd,xu]をH個に分割
し、出力ラインYoに対応する道路区間[xi,xi+1]
を算出する。道路座標/入力ライン変換部198#i
は、ステップS92において、F,tanφ,xi,Kc
cd及び式(23)より、図31(c)に示すように、道
路座標xiに対応する2次画面座標点viを算出する。2
次画面座標点viより道路監視画像の入力ラインViを
求める。
【0133】U座標読み取り位置算出部172#iは、
UステップS94において、入力ラインVi上の左路側
座標点Vil(i)及び右路側座標点Vir(i)を求め
る。画像読み取り部84#i、フレームバッファ72#
iより、左路側座標点Vil(i)から右路側座標点Vir
(i)までのViライン上に位置する画像を読み出し
て、拡大/縮小/補間等の画像処理により幅Wの区間の
画像に変換して、出力ラインYoに該当する出力フレー
ムバッファ86#iに書き込む。そして、ステップS8
6に戻る。以上の処理により、鳥瞰画像が出力フレーム
バッファ86#iに作成される。この鳥瞰画像は、監視
カメラ40#iの俯角が90度になるよう画像変換がな
されるているので、画面上を走行する車は等速で移動す
る。
【0134】(e) 画像処理 各種画像処理部52#iは、第1実施形態と同様にし
て、鳥瞰画像から交通流測定、異常検出等を行う。測
定、渋滞、落下物等の道路異常を検出して、鳥瞰画像と
共に交通流、道路異常通報を画像合成装置44に出力す
る。
【0135】(f) 画像合成処理 書き込み制御部102は、各TV監視画像変形装置42
#i(i=1〜n)から鳥瞰画像等を入力して、レイア
ウト情報に従ったアドレス領域のフレームバッファ10
4に書き込む。読み出し制御部106は、フレームバッ
ファ104に書き込まれた鳥瞰画像等を上のラインから
下のラインに順次読み出して、表示装置46に表示す
る。このとき、道路監視画像から実道路座標を求め、鳥
瞰図を作成しているので、センタラインの長さが監視カ
メラ40#iからの遠近に係わらず等しくなる。
【0136】以上説明した第5実施形態によれば、車両
の速度が一定となり、近景、遠方に係わらずより正確に
目視や画像処理により把握することが可能となる。尚、
本第2実施形態では、鳥瞰画像を得る第1実施形態とは
異なる鳥瞰画像を得る手法を説明したが、この手法を第
1実施形態に代わりに、第2実施形態〜第4実施形態に
適用することも可能である。
【0137】第6実施形態 図32は本発明の第6実施形態による道路監視画像処理
装置の構成図であり、図2中の構成要素と実質的に同一
の構成要素には同一の符号を附している。上述したよう
に、第1実施形態の手法による鳥瞰画像は、車両のアス
ペクト比を保持することができるが、車両が画像上で等
速で移動することはできない、それに対して、第5実施
形態の手法による鳥瞰画像は、車両が画面上で等速で移
動することができるが、遠景の俯角が近景の俯角よりも
小さいので、遠景の車両の方が近景の車両に比べて、車
両が長くなって、アスペクト比を保持することができな
い。そこで、本第6実施形態では、車両は第1実施形態
の手法により鳥瞰画像を作成し、背景画像は第5実施形
態の手法により鳥瞰画像を作成する。その後、車両の鳥
瞰画像を背景の鳥瞰画像に合成する。これにより、車両
のアスペクト比を保持すると共に画面上で等速に車両が
移動する鳥瞰画像を得ることができる。
【0138】図33は、図中のTV監視画像変形装置2
00#iの構成図であり、図3中の構成要素と実質的に
同一の構成要素には同一の符号を附している。画像鳥瞰
図変換部210#iは、以下の機能を有する。
【0139】 原画像より車両画像及び背景画像に抽
出する。
【0140】 車両画像に対しては、車両のアスペク
ト比が保持されるように、第1実施形態と同様に手法に
より、鳥瞰車両画像を作成する。
【0141】 背景画像に対しては、車両が等速で移
動するように、第2実施形態と同様の手法により、鳥瞰
背景画像を作成する。
【0142】 鳥瞰車両画像の各車両の最後尾ライン
に対応する原画像のラインが変換された鳥瞰背景画像の
ラインに位置するように、鳥瞰車両画像を鳥瞰背景画像
に合成する。
【0143】図34は、図33中の画像鳥瞰図変換部2
10#iの構成図であり、図4中の構成要素と実質的に
同一の構成要素には同一の符号を附している。画像鳥瞰
図変換部210#iは、A/D変換器70#i、フレー
ムバッファ72#i、自動道路領域抽出部74#i、手
動入力部76#i、道路左右端座標取得部78#i、車
両・背景画像抽出部230#i、車両画像バッファ23
2#i、背景画像バッファ234#i、Y座標読み取り
位置算出部80#i、X座標読み取り位置算出部82#
i、V座標読み取り位置算出部180#i、U座標読み
取り位置算出部182#i、画像読み取り部240#
i,254#i、出力フレームバッファ256#i,2
58#i、変換テーブル260#i及び合成部262#
iを有する。
【0144】車両・背景画像抽出部230#iは、原画
像から車両画像及び背景画像を抽出する。車両画像は、
背景画像と原画像との差分画像又は移動ベクトルを抽出
することにより得ることができる。背景画像は、現在の
背景画像と現画像を一定の比率、例えば、背景画像対原
画像=10:1の比率で加算して、現背景画像とする。
車両画像バッファ232#iは、車両画像を記憶するフ
レームバッファである。背景画像バッファ234#i
は、背景画像を記憶するフレームバッファである。画像
読み取り部240#iは、Y座標読み取り位置算出部8
2#iより算出された出力Yラインに対応する、X座標
読み取り位置算出部84#iにより算出されたYライン
上の車両画像を画像処理して出力Yラインに書き込む。
更に、変換テーブル260#iに原画像の各入力ライン
に対応する鳥瞰背景画像のラインを登録する。
【0145】画像読み取り部254#iは、V座標読み
取り位置算出部180#iより算出された出力Yライン
に対応する、U座標読み取り位置算出部182#iによ
り算出されたVライン上の車両画像を画像処理して出力
Yラインに書き込む。更に、変換テーブル260#iに
鳥瞰車両画像の各出力ラインに対応する原画像のライン
を登録する。
【0146】図35は図34中の変換テーブル260#
iの構成図である。図35に示すように、変換テーブル
260#iは、鳥瞰車両画像変換テーブル270#i及
び鳥瞰背景画像変換テーブル272#iより構成され
る。鳥瞰車両画像変換テーブル270#iは、鳥瞰車両
画像の各出力ラインに対応する原画像のラインを登録す
るためのテーブルである。鳥瞰背景画像変換テーブル2
72#iは、原画像の各入力ラインに対応する鳥瞰背景
画像のラインを登録するテーブルである。
【0147】以下、図32の道路監視画像処理装置の動
作説明をする。
【0148】(a) 道路監視画像の記憶 例えば、道路のセンタライン上方の適当な高さzoff
に、俯角φで設置された各監視カメラ40#i(i=1
〜n)は、道路状況を撮像する。道路監視画像を監視画
像変形装置150#iに出力する。TV監視画像変形装
置150#iは、A/D変換器70#iより、例えば、
8ビットディジタル映像信号に変換して、フレームバッ
ファ72#iに書き込む。
【0149】(b) 車両画像・背景画像の作成 車両・背景画像抽出部230#iは、原画像から車両画
像及び背景画像を抽出して、車両画像を車両画像バッフ
ァ232#iに、背景画像を背景画像バッファ234#
iに書き込む。
【0150】(c) 道路領域の自動抽出 自動道路領域抽出部74#iは、第1実施形態と同様に
して、道路監視画像より道路左右端を抽出して、道路左
右端座標取得部78#iに出力する。
【0151】(d) 道路座標点の手動入力 手動入力部76#iは、第1実施形態と同様にして、道
路監視画像の各ラインv毎に道路の左端座標点及び右端
座標点を手入力して、道路左右端座標取得部78#iに
出力する。
【0152】(e) 鳥瞰車両画像の作成 Y座標読み取り位置算出部80#i、X座標読み取り位
置算出部82#i及び画像読み取り部240#iは、第
1実施形態と同様の手法により、車両画像の鳥瞰画像を
作成して、背景背景画像の鳥瞰画像を作成して、出力フ
レームバッファ256#iに書き込む。更に、画像読み
取り部240#iは、変換テーブル260#iに鳥瞰車
両画像の出力ラインに対応する原画像のラインを登録す
る。
【0153】(f) 鳥瞰背景画像の作成 V座標読み取り位置算出部180#i、U座標読み取り
位置算出部182#i、及び画像読み取り部254#i
は、第5実施形態と同様の手法により、背景背景画像の
鳥瞰画像を作成して、出力フレームバッファ258#i
に書き込む。更に、画像読み取り部240#iは、変換
テーブル260#iに原画像の各入力ラインに対応する
鳥瞰背景画像の出力ラインを登録する。
【0154】(g) 鳥瞰車両画像の合成 図36は合成部262#iの動作を示す図である。合成
部262#iは、出力フレームバッファ256#iを下
のラインから車両画像を読み出す。図に示すように、各
車両290#jの最後尾のラインYjを検出する。鳥瞰
車両画像変換テーブル270#iを参照して、図36中
のに示すように、車両290#jの各最後尾のライン
Yjに対応する原画像のラインYjkを取得する。更
に、図36中のに示すように、原画像の各入力ライン
Yjkに対応する鳥瞰背景画像のラインVjを取得す
る。車両290#jの最後尾のラインがラインVj上に
位置するように、車両290#iの鳥瞰車両画像を画像
変換する。
【0155】(h) 画像処理 各種画像処理部52#iは、第1実施形態と同様にし
て、鳥瞰画像から交通流測定、異常検出等を行う。測
定、渋滞、落下物等の道路異常を検出して、鳥瞰画像と
共に交通流、道路異常通報を画像合成装置44に出力す
る。
【0156】(i) 画像合成処理 書き込み制御部102は、各TV監視画像変形装置42
#i(i=1〜n)から鳥瞰画像等を入力して、レイア
ウト情報に従ったアドレス領域のフレームバッファ10
4に書き込む。読み出し制御部106は、フレームバッ
ファ104に書き込まれた鳥瞰画像等を上のラインから
下のラインに順次読み出して、表示装置46に表示す
る。このとき、道路監視画像から実道路座標を求め、鳥
瞰図を作成しているので、センタラインの長さが監視カ
メラ40#iからの遠近に係わらず等しくなる。
【0157】以上説明した第6実施形態によれば、車両
のアスペクト比を保持すると共に画面上で等速に車両が
移動する鳥瞰画像を得ることができる。尚、本第6実施
形態では、鳥瞰画像を得る第1及び第5実施形態を組み
合わせた手法を説明したが、この手法を第1実施形態に
代わりに、第2実施形態〜第4実施形態に適用すること
も勿論可能である。
【0158】本発明は以下の付記を有する。
【0159】(付記1) 道路近辺に配置された道路状
況を撮影する監視カメラが撮像した道路監視画像を記憶
するフレームメモリと、前記フレームメモリの各入力ラ
インYi上に位置する道路左端及び道路右端の前記フレ
ームメモリでの左端座標点Xil及び右端座標点Xir
を取得する道路座標点取得手段と、(前記Xir−前記
Xil)の前記入力ラインYiについての累積加算値X
を求める累積加算手段と、道路を表示する幅のドット数
W及び高さのドット数H並びに比例係数K(K>0)と
したとき、前記累積加算値X×前記比例係数K÷前記幅
のドット数Wが前記高さのドット数Hに一致するように
前記比例係数Kを算出する係数算出手段と、表示画像画
面の各出力ラインYoについて、前記フレームメモリの
最下端ライン又は最上端ラインから、前記表示画像画面
の最下端ライン又は最上端ラインから前記出力ラインY
oまでのライン数分の前記(K×(Xir−Xil)÷
W)の和に基づいて、前記出力ラインYoに対応する前
記道路状況画像の入力ラインYjを算出する第1座標読
み取り位置算出手段と、前記各出力ラインYo毎に前記
第1座標読み取り位置算出手段により算出された前記入
力ラインYj上の前記道路左端及び前記道路右端を算出
する第2座標読み取り位置算出手段と、前記第2座標読
み取り位置算出手段により算出された前記入力ラインY
j上の前記道路左端と前記道路右端との間の前記道路監
視画像を前記出力ラインYo上の幅Wの出力画像に変換
して、鳥瞰画像を作成する画像変換手段と、を具備した
ことを特徴とする道路状況画像処理装置。
【0160】(付記2) 道路近辺に配置された道路状
況を撮影する監視カメラが撮像した道路監視画像を記憶
するフレームメモリと、前記フレームメモリの各入力ラ
インYi上に位置する道路左端及び道路右端の前記フレ
ームメモリでの左端座標点Xil及び右端座標点Xir
を取得する道路座標点取得手段と、前記監視カメラによ
り撮像される道路領域の範囲を算出する道路範囲算出手
段と、前記道路領域を表示画像画面の縦方向のライン数
に基づいて道路長方向に等間隔に複数個の道路区間に分
割して、各道路区間に対応する前記表示画像画面の各出
力ラインを求め、該各第1出力ラインに対応する前記第
2フレームメモリ上の入力ラインYjを算出する第1座
標読み取り位置算出手段と、前記各出力ラインYo毎に
前記第1読み取り位置算出手段により算出された前記入
力ラインYj上の前記道路左端及び前記道路右端を算出
する第2座標読み取り位置算出手段と、前記各出力ライ
ンYo毎に前記第2座標読み取り手段により算出された
入力ラインYj上の前記道路左端と前記道路右端との間
の前記前記道路監視画像を前記出力ラインYo上の幅W
の出力画像に変換して、鳥瞰画像を作成する像変換手段
と、を具備したことを特徴とする道路状況画像処理装
置。
【0161】(付記3) 道路近辺に配置された道路状
況を撮影する監視カメラが撮像した道路監視画像を記憶
する第1フレームメモリと、背景画像を記憶する第2フ
レームメモリ、車両画像を記憶する第3フレームメモリ
と、前記第1フレームメモリに記憶された前記道路監視
画像を車両画像及び背景画像に分離して、前記背景画像
を前記第2フレームメモリに、前記車両画像を前記第3
フレームメモリに書き込む車両・背景抽出手段と、前記
第1フレームメモリの各第1入力ラインYi上に位置す
る道路左端及び道路右端の前記第1フレームメモリでの
横の左端座標点Xil及び右端座標点Xirを取得する
道路座標点取得手段と、前記監視カメラにより撮像され
る道路領域の範囲を算出する道路範囲算出手段と、前記
道路領域を前記表示画像画面の縦方向のライン数に基づ
いて道路長方向に等間隔に複数個の道路区間に分割し
て、各道路区間に対応する前記表示画像画面に対応する
各第1出力ラインを求め、該各第1出力ラインに対応す
る前記第2フレームメモリ上の第2入力ラインYjを算
出する第1座標読み取り位置算出手段と、各第1出力ラ
インYo毎に前記第1読み取り位置算出手段により算出
された前記第2入力ラインYj上の前記道路左端及び前
記道路右端を算出する第2座標読み取り位置算出手段
と、前記各第1出力ラインYo毎に前記第2座標読み取
り手段により算出された第2入力ラインYj上の前記道
路左端と前記道路右端との間の前記背景画像を前記第1
出力ラインYo上の幅Wの出力画像に変換して、第1画
像を作成する第1画像変換手段と、(前記Xir−前記
Xil)の前記第1入力ラインYiについての累積加算
値Xを求める累積加算手段と、表示画像画面の各第2出
力ラインYoについて、前記第3フレームメモリの最下
端ライン又は最上端ラインから、前記表示画像画面の最
下端ライン又は最上端ラインから前記第2出力ラインY
oまでのライン数分の前記(K×(Xir−Xil)÷
W)の和に基づいて、前記第2出力ラインYoに対応す
る前記車両画像の第3入力ラインYjを算出する第3座
標読み取り位置算出手段と、前記各第2出力ラインYo
毎に前記第3座標読み取り位置算出手段により算出され
た前記第3入力ラインYj上の前記道路左端及び前記道
路右端を算出する第4座標読み取り位置算出手段と、前
記第4座標読み取り位置算出手段により算出された前記
道路左端と前記道路右端との間の前記車両画像を前記第
2出力ラインYo上の幅Wの出力画像に変換して、第2
画像を作成する第2画像変換手段と、前記第1画像と前
記第2画像を合成して、鳥瞰画像を作成する合成手段
と、を具備したことを特徴とする道路状況画像処理装
置。
【0162】(付記4) 前記合成手段は、前記第1画
像の各車両の最後尾が該最後尾に対応する前記道路監視
画像における入力ラインに対応する前記第2画像の出力
ラインに一致するように前記第1画像と前記第2画像と
を合成することを特徴とする付記3記載の道路状況画像
処理装置。
【0163】(付記5) 前記監視カメラが配置された
位置情報、前記道路の道幅情報及び前記道路監視画像か
ら得られる前記道路左端又は前記道路右端の傾きに基づ
いて、前記監視カメラの俯角φを算出する俯角算出手段
と、前記道幅情報及び前記監視カメラの撮像素子のサイ
ズに基づいて、前記監視カメラの焦点距離を算出する焦
点距離算出手段とを更に具備し、前記道路範囲算出手段
は、前記監視カメラの焦点距離、前記監視カメラの撮像
素子のサイズ及び前記監視カメラの俯角φに基づき、前
記撮像素子の最上部及び最下部に対応する道路の第1位
置及び第2位置を算出して、前記第1位置と前記第2位
置との間の道路領域を変換対象の道路範囲として算出す
ることを特徴する付記3記載の道路状況画像処理装置。
【0164】(付記6) 前記道路が概略真っ直ぐあ
り、前記第1座標算出手段は、監視カメラの位置を原
点、道路方向に平行な直線をx軸、道路幅方向に平行な
直線をy軸、垂直方向をz軸とする3次元座標空間にお
いて、前記道路上の任意な実座標点(x,y,z)を前
記y軸中心に−俯角φだけ回転移動した回転座標点
(X,Y,Z)と該回転座標点(X,Y,Z)に対応す
る前記撮像素子の中心を原点とする2次元画面空間にお
ける座標点(u,v)との対応関係、実座標点(x,
y,z)と前記回転座標点(X,Y,Z)との対応関係
に基づいて、前記各道路区間に対応する前記2次元画面
空間におけるvを算出することにより、前記フレームメ
モリ上の入力ラインYjを算出することを特徴とする付
記2記載の道路状況画像処理装置。
【0165】(付記7) 複数の前記各監視カメラが撮
像した複数の道路状況画像の複数の前記鳥瞰画像を合成
して、画面に表示する画像合成手段を更に具備したこと
を特徴とする付記1、2又は3記載の道路状況画像処理
装置。
【0166】(付記8) 前記道路座標点取得手段は、
前記道路監視画像から垂直エッジを抽出するエッジ抽出
手段と、前記垂直エッジから縦方向に連続する連続垂直
エッジを求めるトレース手段と、前記連続垂直エッジに
基づいて道路領域の前記道路座標点(Xil,Xir)
を算出する道路座標点算出手段とを具備したことを特徴
とする付記1、2又は3記載の道路状況画像処理装置。
【0167】(付記9) 前記鳥瞰画像に基づいて、背
景画像作成、エッジ抽出を行う前処理手段と、前記前処
理手段の前処理画像に基づいて、渋滞検出、事故検出及
び交通流測定を行う自動検出手段とを更に具備したこと
を特徴とする付記1、2又は3記載の道路状況画像処理
装置。
【0168】(付記10) 複数の前記各監視カメラが
撮像した複数の道路状況画像の各鳥瞰画像を作成するた
めの前記各幅Wをそれぞれ入力するレイアウト手段を更
に具備したことを特徴とする付記7記載の道路状況画像
処理装置。
【0169】(付記11) 前記鳥瞰画像の符号化して
符号化画像を作成する符号化手段と、前記符号化画像を
通信回線に送信する画像送信手段とを更に具備したこと
を特徴とする付記1、2又は3記載の道路状況画像処理
装置。
【0170】
【発明の効果】以上説明した本発明によれば、遠景・近
景の車両のアスペクト比が一定となり車両の歪みが小さ
くなること、複数区間の道路監視画像を1つの画面に表
示できるので監視が容易になること、複数区間の道路監
視画像の車線の重みを付けて表示することができるので
注目する監視画像がより見やすくなることの効果を奏す
ることができる。また、車両の速度が一定となり、近
景、遠方に係わらずより正確に目視や画像処理により把
握することが可能となる。更に、車両のアスペクト比を
保持すると共に画面上で等速に車両が移動する鳥瞰画像
を得ることができる。
【図面の簡単な説明】
【図1】本発明の原理図である。
【図2】本発明の第1実施形態による道路監視画像処理
装置の構成図である。
【図3】図2中のTV監視画像変形装置の構成図であ
る。
【図4】図3中の鳥瞰画像変換部の構成図である。
【図5】鳥瞰画像と原画像との関係を示す図である。
【図6】図2中の画像合成装置の構成図である。
【図7】図4中の自動道路領域抽出部のフローチャート
である。
【図8】垂直エッジ抽出を示す図である。
【図9】垂直エッジ抽出を示す図である。
【図10】垂直エッジ抽出を示す図である。
【図11】道路領域の抽出例を示す図である。
【図12】画像変換処理フローチャートである。
【図13】道路監視画像の鳥瞰図である。
【図14】複数区間の道路監視画像の合成表示例を示す
図である(車線重み一定)。
【図15】複数区間の道路監視画像の合成表示例を示す
図である(車線重み変更)。
【図16】本発明の第2実施形態による道路監視画像処
理装置の構成図である。
【図17】図16中のTV監視画像変形装置の構成図で
ある。
【図18】図16中の画像合成装置の構成図である。
【図19】本発明の第3実施形態による道路監視画像処
理システムの構成図である。
【図20】本発明の第4実施形態による道路監視画像処
理システムの構成図である。
【図21】本発明の第5実施形態による道路監視画像処
理装置の構成図である。
【図22】図21中のTV監視画像変形装置の構成図で
ある。
【図23】監視カメラのジオメトリを示す図である。
【図24】3次元実座標系と2次元画面座標系との関係
を示す図である。
【図25】実座標(x,y,z)と画面座標系との関係
を示す図である。
【図26】鳥瞰図変換パラメータを示す図である。
【図27】実空間座標の画面空間への写像を示す図であ
る。
【図28】図22中の画像鳥瞰図変換部の構成図であ
る。
【図29】図28中のV座標読み取り位置算出部の構成
図である。
【図30】画像変換処理のフローチャートである。
【図31】道路監視画像から鳥瞰画像への画像変換処理
を示す図である。
【図32】本発明の第6実施形態による道路監視画像処
理装置の構成図である。
【図33】図32中のTV監視画像変形装置の構成図で
ある。
【図34】図33中の画像鳥瞰図変換部の構成図であ
る。
【図35】図34中の変換テーブル構成図である。
【図36】図34中の合成部の構成図である。
【図37】従来の道路画像監視装置の構成図である。
【図38】従来の解像度の違いを補う方法を示す図であ
る。
【符号の説明】
20 監視カメラ 22 フレームメモリ 24 道路座標点取得手段 26 累積加算手段 28 係数算出手段 30 第1座標読み取り位置算出手段 32 第2座標読み取り手段 34 画像変換手段
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 5/225 H04N 5/225 C 5H180 7/18 7/18 J 5L096 K V // G08G 1/01 G08G 1/01 C Fターム(参考) 5B057 AA16 BA02 CA08 CA12 CA16 CB08 CB12 CB16 CC02 CD05 CD12 CD14 CD20 CE08 CE09 CH09 DA07 DA08 DA13 DA15 DB02 DC03 DC16 DC23 5C022 AA04 AB61 AC01 AC42 5C054 AA01 AA05 CC02 CE12 CH01 DA09 EA05 ED12 EH01 FC14 FC15 FC16 FD03 FE12 FE18 FF06 HA30 5C086 AA60 BA30 CA28 CB36 DA14 DA33 EA45 FA18 5C087 AA02 AA03 AA24 AA25 BB03 BB74 DD49 EE05 EE07 FF01 FF02 FF04 FF19 FF20 GG02 GG23 5H180 AA01 CC04 DD01 5L096 CA05 CA14 EA03 EA35 FA37 FA66 FA69 HA03 LA05

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】 道路近辺に配置された道路状況を撮影す
    る監視カメラが撮像した道路監視画像を記憶するフレー
    ムメモリと、 前記フレームメモリの各入力ラインYi上に位置する道
    路左端及び道路右端の前記フレームメモリでの左端座標
    点Xil及び右端座標点Xirを取得する道路座標点取
    得手段と、 (前記Xir−前記Xil)の前記入力ラインYiにつ
    いての累積加算値Xを求める累積加算手段と、 道路を表示する幅のドット数W及び高さのドット数H並
    びに比例係数K(K>0)としたとき、前記累積加算値
    X×前記比例係数K÷前記幅のドット数Wが前記高さの
    ドット数Hに一致するように前記比例係数Kを算出する
    係数算出手段と、 表示画像画面の各出力ラインYoについて、前記フレー
    ムメモリの最下端ライン又は最上端ラインから、前記表
    示画像画面の最下端ライン又は最上端ラインから前記出
    力ラインYoまでのライン数分の前記(K×(Xir−
    Xil)÷W)の和に基づいて、前記出力ラインYoに
    対応する前記道路状況画像の入力ラインYjを算出する
    第1座標読み取り位置算出手段と、 前記各出力ラインYo毎に前記第1座標読み取り位置算
    出手段により算出された前記入力ラインYj上の前記道
    路左端及び前記道路右端を算出する第2座標読み取り位
    置算出手段と、 前記第2座標読み取り位置算出手段により算出された前
    記入力ラインYj上の前記道路左端と前記道路右端との
    間の前記道路監視画像を前記出力ラインYo上の幅Wの
    出力画像に変換して、鳥瞰画像を作成する画像変換手段
    と、 を具備したことを特徴とする道路状況画像処理装置。
  2. 【請求項2】 道路近辺に配置された道路状況を撮影す
    る監視カメラが撮像した道路監視画像を記憶するフレー
    ムメモリと、 前記フレームメモリの各入力ラインYi上に位置する道
    路左端及び道路右端の前記フレームメモリでの左端座標
    点Xil及び右端座標点Xirを取得する道路座標点取
    得手段と、 前記監視カメラにより撮像される道路領域の範囲を算出
    する道路範囲算出手段と、 前記道路領域を表示画像画面の縦方向のライン数に基づ
    いて道路長方向に等間隔に複数個の道路区間に分割し
    て、各道路区間に対応する前記表示画像画面の各出力ラ
    インを求め、該各第1出力ラインに対応する前記第2フ
    レームメモリ上の入力ラインYjを算出する第1座標読
    み取り位置算出手段と、 前記各出力ラインYo毎に前記第1読み取り位置算出手
    段により算出された前記入力ラインYj上の前記道路左
    端及び前記道路右端を算出する第2座標読み取り位置算
    出手段と、 前記各出力ラインYo毎に前記第2座標読み取り手段に
    より算出された入力ラインYj上の前記道路左端と前記
    道路右端との間の前記前記道路監視画像を前記出力ライ
    ンYo上の幅Wの出力画像に変換して、鳥瞰画像を作成
    する像変換手段と、 を具備したことを特徴とする道路状況画像処理装置。
  3. 【請求項3】 道路近辺に配置された道路状況を撮影す
    る監視カメラが撮像した道路監視画像を記憶する第1フ
    レームメモリと、 背景画像を記憶する第2フレームメモリ、 車両画像を記憶する第3フレームメモリと、 前記第1フレームメモリに記憶された前記道路監視画像
    を車両画像及び背景画像に分離して、前記背景画像を前
    記第2フレームメモリに、前記車両画像を前記第3フレ
    ームメモリに書き込む車両・背景抽出手段と、 前記第1フレームメモリの各第1入力ラインYi上に位
    置する道路左端及び道路右端の前記第1フレームメモリ
    での横の左端座標点Xil及び右端座標点Xirを取得
    する道路座標点取得手段と、 前記監視カメラにより撮像される道路領域の範囲を算出
    する道路範囲算出手段と、 前記道路領域を前記表示画像画面の縦方向のライン数に
    基づいて道路長方向に等間隔に複数個の道路区間に分割
    して、各道路区間に対応する前記表示画像画面に対応す
    る各第1出力ラインを求め、該各第1出力ラインに対応
    する前記第2フレームメモリ上の第2入力ラインYjを
    算出する第1座標読み取り位置算出手段と、 各第1出力ラインYo毎に前記第1読み取り位置算出手
    段により算出された前記第2入力ラインYj上の前記道
    路左端及び前記道路右端を算出する第2座標読み取り位
    置算出手段と、 前記各第1出力ラインYo毎に前記第2座標読み取り手
    段により算出された第2入力ラインYj上の前記道路左
    端と前記道路右端との間の前記背景画像を前記第1出力
    ラインYo上の幅Wの出力画像に変換して、第1画像を
    作成する第1画像変換手段と、 (前記Xir−前記Xil)の前記第1入力ラインYi
    についての累積加算値Xを求める累積加算手段と、 表示画像画面の各第2出力ラインYoについて、前記第
    3フレームメモリの最下端ライン又は最上端ラインか
    ら、前記表示画像画面の最下端ライン又は最上端ライン
    から前記第2出力ラインYoまでのライン数分の前記
    (K×(Xir−Xil)÷W)の和に基づいて、前記
    第2出力ラインYoに対応する前記車両画像の第3入力
    ラインYjを算出する第3座標読み取り位置算出手段
    と、 前記各第2出力ラインYo毎に前記第3座標読み取り位
    置算出手段により算出された前記第3入力ラインYj上
    の前記道路左端及び前記道路右端を算出する第4座標読
    み取り位置算出手段と、 前記第4座標読み取り位置算出手段により算出された前
    記道路左端と前記道路右端との間の前記車両画像を前記
    第2出力ラインYo上の幅Wの出力画像に変換して、第
    2画像を作成する第2画像変換手段と、 前記第1画像と前記第2画像を合成して、鳥瞰画像を作
    成する合成手段と、 を具備したことを特徴とする道路状況画像処理装置。
  4. 【請求項4】 前記合成手段は、前記第1画像の各車両
    の最後尾が該最後尾に対応する前記道路監視画像におけ
    る入力ラインに対応する前記第2画像の出力ラインに一
    致するように前記第1画像と前記第2画像とを合成する
    ことを特徴とする請求項3記載の道路状況画像処理装
    置。
  5. 【請求項5】 前記監視カメラが配置された位置情報、
    前記道路の道幅情報及び前記道路監視画像から得られる
    前記道路左端又は前記道路右端の傾きに基づいて、前記
    監視カメラの俯角φを算出する俯角算出手段と、前記道
    幅情報及び前記監視カメラの撮像素子のサイズに基づい
    て、前記監視カメラの焦点距離を算出する焦点距離算出
    手段とを更に具備し、前記道路範囲算出手段は、前記監
    視カメラの焦点距離、前記監視カメラの撮像素子のサイ
    ズ及び前記監視カメラの俯角φに基づき、前記撮像素子
    の最上部及び最下部に対応する道路の第1位置及び第2
    位置を算出して、前記第1位置と前記第2位置との間の
    道路領域を変換対象の道路範囲として算出することを特
    徴する請求項3記載の道路状況画像処理装置。
  6. 【請求項6】 前記道路が概略真っ直ぐあり、前記第1
    座標算出手段は、監視カメラの位置を原点、道路方向に
    平行な直線をx軸、道路幅方向に平行な直線をy軸、垂
    直方向をz軸とする3次元座標空間において、前記道路
    上の任意な実座標点(x,y,z)を前記y軸中心に−
    俯角φだけ回転移動した回転座標点(X,Y,Z)と該
    回転座標点(X,Y,Z)に対応する前記撮像素子の中
    心を原点とする2次元画面空間における座標点(u,
    v)との対応関係、実座標点(x,y,z)と前記回転
    座標点(X,Y,Z)との対応関係に基づいて、前記各
    道路区間に対応する前記2次元画面空間におけるvを算
    出することにより、前記フレームメモリ上の入力ライン
    Yjを算出することを特徴とする請求項2記載の道路状
    況画像処理装置。
JP2000243778A 2000-08-11 2000-08-11 道路状況画像処理装置 Withdrawn JP2002056381A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000243778A JP2002056381A (ja) 2000-08-11 2000-08-11 道路状況画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000243778A JP2002056381A (ja) 2000-08-11 2000-08-11 道路状況画像処理装置

Publications (1)

Publication Number Publication Date
JP2002056381A true JP2002056381A (ja) 2002-02-20

Family

ID=18734578

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000243778A Withdrawn JP2002056381A (ja) 2000-08-11 2000-08-11 道路状況画像処理装置

Country Status (1)

Country Link
JP (1) JP2002056381A (ja)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003264825A (ja) * 2002-03-06 2003-09-19 Nissan Motor Co Ltd 車載カメラ映像合成表示装置
JP2004112771A (ja) * 2002-08-28 2004-04-08 Fuji Photo Film Co Ltd 撮像装置制御方法および装置並びにプログラム
JP2004196259A (ja) * 2002-12-20 2004-07-15 Taesung Mis Co Ltd 地下鉄プラットホームの線路監視のための無線モニタリングシステム
WO2005006756A1 (ja) * 2003-07-11 2005-01-20 Hitachi, Ltd. 画像処理カメラシステム及び画像処理カメラ制御方法
JP2007180664A (ja) * 2005-12-27 2007-07-12 Casio Comput Co Ltd 撮像装置、及びスルー画像表示方法
JP2008278515A (ja) * 2008-06-02 2008-11-13 Hitachi Ltd 画像処理カメラシステム及び画像処理カメラ制御方法
JP2009017026A (ja) * 2007-07-02 2009-01-22 Hitachi Kokusai Electric Inc 座標変換方法及びパラメータ調整方法及び監視システム
JP2012027773A (ja) * 2010-07-26 2012-02-09 Toyota Central R&D Labs Inc 擬似濃淡画像生成装置及びプログラム
US9836864B2 (en) 2012-03-14 2017-12-05 Fujitsu Limited Image processing method, recording medium and apparatus for replacing face components
JP2018014554A (ja) * 2016-07-19 2018-01-25 株式会社クボタ 作業車
JP2019008474A (ja) * 2017-06-22 2019-01-17 西日本高速道路株式会社 監視支援システム及び監視支援方法
KR102228395B1 (ko) * 2020-10-26 2021-03-16 렉스젠(주) 분할 영상을 활용한 영상 분석 장치, 시스템 및 이를 위한 방법

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003264825A (ja) * 2002-03-06 2003-09-19 Nissan Motor Co Ltd 車載カメラ映像合成表示装置
JP2004112771A (ja) * 2002-08-28 2004-04-08 Fuji Photo Film Co Ltd 撮像装置制御方法および装置並びにプログラム
JP2004196259A (ja) * 2002-12-20 2004-07-15 Taesung Mis Co Ltd 地下鉄プラットホームの線路監視のための無線モニタリングシステム
US7995797B2 (en) 2003-07-11 2011-08-09 Hitachi, Ltd. Vehicle image-processing camera system for acquiring images for multiple vehicle applications
WO2005006756A1 (ja) * 2003-07-11 2005-01-20 Hitachi, Ltd. 画像処理カメラシステム及び画像処理カメラ制御方法
US9042604B2 (en) 2003-07-11 2015-05-26 Hitachi, Ltd. Acquisition scheduler
US8452056B2 (en) 2003-07-11 2013-05-28 Hitachi, Ltd. Image-processing camera with application processing using acquired image data
US7702133B2 (en) 2003-07-11 2010-04-20 Hitachi, Ltd. Image-processing camera system and image-processing camera control method
US8199976B2 (en) 2003-07-11 2012-06-12 Hitachi, Ltd. Image-processing camera system and image-processing camera control method
JP2007180664A (ja) * 2005-12-27 2007-07-12 Casio Comput Co Ltd 撮像装置、及びスルー画像表示方法
JP4687451B2 (ja) * 2005-12-27 2011-05-25 カシオ計算機株式会社 撮像装置、及びスルー画像表示方法
JP2009017026A (ja) * 2007-07-02 2009-01-22 Hitachi Kokusai Electric Inc 座標変換方法及びパラメータ調整方法及び監視システム
JP4542174B2 (ja) * 2008-06-02 2010-09-08 日立オートモティブシステムズ株式会社 画像処理カメラシステム及び画像処理カメラ制御方法
JP2008278515A (ja) * 2008-06-02 2008-11-13 Hitachi Ltd 画像処理カメラシステム及び画像処理カメラ制御方法
JP2012027773A (ja) * 2010-07-26 2012-02-09 Toyota Central R&D Labs Inc 擬似濃淡画像生成装置及びプログラム
US9836864B2 (en) 2012-03-14 2017-12-05 Fujitsu Limited Image processing method, recording medium and apparatus for replacing face components
JP2018014554A (ja) * 2016-07-19 2018-01-25 株式会社クボタ 作業車
JP2019008474A (ja) * 2017-06-22 2019-01-17 西日本高速道路株式会社 監視支援システム及び監視支援方法
KR102228395B1 (ko) * 2020-10-26 2021-03-16 렉스젠(주) 분할 영상을 활용한 영상 분석 장치, 시스템 및 이를 위한 방법

Similar Documents

Publication Publication Date Title
JP4048511B2 (ja) 魚眼レンズカメラ装置及びその画像歪み補正方法
JP4268206B2 (ja) 魚眼レンズカメラ装置及びその画像歪み補正方法
TWI535285B (zh) Conference system, surveillance system, image processing device, image processing method and image processing program, etc.
JP4243767B2 (ja) 魚眼レンズカメラ装置及びその画像抽出方法
JP4832878B2 (ja) 画像合成処理装置及び方法
US8189962B2 (en) Image processing apparatus
US7409152B2 (en) Three-dimensional image processing apparatus, optical axis adjusting method, and optical axis adjustment supporting method
US9576335B2 (en) Method, device, and computer program for reducing the resolution of an input image
JP2002056381A (ja) 道路状況画像処理装置
JP2010041417A (ja) 画像処理装置、画像処理方法、画像処理プログラム、及び、撮像装置
JP2021163190A (ja) 情報処理装置、情報処理方法、およびプログラム
JPH05303629A (ja) 形状合成方法
JP4198536B2 (ja) 物体撮影装置、物体撮影方法及び物体撮影プログラム
JP2007249527A (ja) 画像編集装置、画像編集方法および画像編集プログラム
CN111465937B (zh) 采用光场相机系统的脸部检测和识别方法
JPH10122819A (ja) キャリブレーション方法およびその装置
CN106131498B (zh) 全景视频拼接方法及装置
JP2023100805A (ja) 撮像装置、撮像方法及び撮像プログラム
KR102076635B1 (ko) 산재된 고정 카메라를 이용한 파노라마 영상 생성 장치 및 방법
CN114550077A (zh) 基于全景图像的人流量统计方法及系统
JP3241243B2 (ja) パノラマ画像合成システム及びパノラマ画像合成方法
WO2019117472A1 (ko) 아날로그 계기판의 측정값 인식 시스템 및 방법
US20230005213A1 (en) Imaging apparatus, imaging method, and program
JP2004042737A (ja) 踏切監視装置および踏切監視方法
JPH10108003A (ja) 画像合成装置および画像合成方法

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20071106