JP2015090591A - 路面オルソ画像の生成装置および生成方法 - Google Patents

路面オルソ画像の生成装置および生成方法 Download PDF

Info

Publication number
JP2015090591A
JP2015090591A JP2013230352A JP2013230352A JP2015090591A JP 2015090591 A JP2015090591 A JP 2015090591A JP 2013230352 A JP2013230352 A JP 2013230352A JP 2013230352 A JP2013230352 A JP 2013230352A JP 2015090591 A JP2015090591 A JP 2015090591A
Authority
JP
Japan
Prior art keywords
vehicle
road surface
area
image
edge
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013230352A
Other languages
English (en)
Other versions
JP6084552B2 (ja
Inventor
光輝 坂元
Mitsuteru Sakamoto
光輝 坂元
林 朱
Hayashi Shu
林 朱
秀樹 島村
Hideki Shimamura
秀樹 島村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pasco Corp
Original Assignee
Pasco Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pasco Corp filed Critical Pasco Corp
Priority to JP2013230352A priority Critical patent/JP6084552B2/ja
Publication of JP2015090591A publication Critical patent/JP2015090591A/ja
Application granted granted Critical
Publication of JP6084552B2 publication Critical patent/JP6084552B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】移動計測車両や他車両などの移動しているものを示す画素群のカメラの撮影映像からの除去を効率的にすることのできる路面オルソ画像の生成装置および生成方法の提供を目的とする。【解決手段】GPS、IMU、カメラ、およびレーザスキャナを搭載した移動計測車両1による収集データに基づいて路面オルソ画像を生成する路面オルソ画像の生成装置であって、前記カメラによる所定の撮影画像2において移動計測車両1または他車両3の映り込みにより路面4が隠蔽され、あるいは他車両3の影5が路面4に映っている領域を自動的に検出し、当該非正常計測領域6を他の撮影画像2における路面撮影領域により補完して路面オルソ画像を生成する生成手段7を有して路面オルソ画像の生成装置を構成する。【選択図】 図1

Description

本発明は路面オルソ画像の生成装置および生成方法に関するものである。
移動計測車両による収集データに基づいて路面オルソ画像を生成するものとしては、従来、例えば特許文献1に記載されたものが知られている。この従来例において、路面オルソ画像の生成は、レーザスキャナ等を搭載したレーザ計測車両を道路上で走行させて得られるレーザデータの各スポット点に反射強度に応じた色を割り付けた上で、各スポット点をその3次元座標計測値を利用して正射影位置に配置し直してなされる。上記レーザデータはレーザ計測車両の走行軌跡を利用して道路面から所定の高さを持たせて生成される道路立体内のもののみが抽出されることにより、街路樹などの道路面上に覆い被さる地物を示しているものが取り除かれる。
また、路面オルソ画像は、以上のようにレーザデータに色を割り付けて生成する以外に、移動計測車両にレーザスキャナ等に加えてカメラをも搭載しておき、このカメラの撮影画像の各画素をレーザデータ(点群データ)を利用して正射影位置に配置し直して生成することも可能である。
特開2013-93008号公報
しかしながら、上述のようにカメラの撮影画像に基づいて路面オルソ画像を生成する場合、上述したレーザデータのように街路樹等を示す画素群を撮影画像からオペレータの目視によらずに除去することができない。
すなわち、カメラの撮影画像の各画素はレーザデータのように正確な高さ情報を持たないために、高さ情報に基づいて街路樹等を示す画素群を特定することはできないし、一般に移動計測車両においてカメラの撮影タイミングとレーザスキャナのスキャンタイミングとは異なっていることから、街路樹等を示すレーザデータの点群の領域に対応する撮影画像中の画素群を特定することも難しい。とりわけ、除去の原因となっているものが街路樹等ではなく、走行中の移動計測車両や他車両などの移動しているものである場合、その絶対的な位置が特定されないために、撮影画像中の対応する画素群を特定することができない。
このため従来においては、移動計測車両や他車両などの移動しているものの映り込みをオペレータが目視で確認した上で、手作業でマスク処理していたが、この場合、一度の撮影機会で撮影画像が数千枚から数万枚などの枚数に達するのが一般的であることから、多大な労力、時間を要してしまうという欠点がある。
本発明は以上の欠点を解消すべくなされたものであって、移動計測車両や他車両などの移動しているものを示す画素群のカメラの撮影映像からの除去を効率的にすることのできる路面オルソ画像の生成装置および生成方法の提供を目的とする。
本発明によれば上記目的は、
GPS、IMU、カメラ、およびレーザスキャナを搭載した移動計測車両1による収集データに基づいて路面オルソ画像を生成する路面オルソ画像の生成装置であって、
前記カメラによる所定の撮影画像2において移動計測車両1または他車両3の映り込みにより路面4が隠蔽され、あるいは他車両3の影5が路面4に映っている領域を自動的に検出し、当該非正常計測領域6を他の撮影画像2における路面撮影領域により補完して路面オルソ画像を生成する生成手段7を有する路面オルソ画像の生成装置を提供することにより達成される。
移動計測車両1は、GPSやIMUによりカメラやレーザスキャナによるデータ取得時の外部標定要素を、カメラやレーザスキャナにより計測対象である路面4の色情報や形状(座標)情報を走行時に逐次取得し、事前のキャリブレーションにより算出されるカメラの内部標定要素とともに、これらを収集データとして路面オルソ画像の生成装置に提供する。路面オルソ画像の生成装置は、カメラの撮影画像2をレーザスキャナにより取得される路面4の形状に投影処理してオルソ化し、オルソ画像を生成する。なお、外部標定要素の一部である移動計測車両1へのカメラ、レーザスキャナの設置位置・姿勢は、事前のキャリブレーションにより算出されて路面オルソ画像の生成装置に提供される。また、移動計測車両1にGPSとともにオドメータを搭載しておき、GPSデータをオドメータデータにより補って外部標定要素を決定することも可能である。
カメラの撮影画像2に路面4を遮るようにして映り込むことのある移動計測車両としての自車両1や他車両3、あるいは他車両3の影5は、生成手段7によりその撮影画像2内での領域が自動的に検出され、当該領域について、移動計測車両1の走行に伴ってこれら自車両1等が映り込むことなく撮影された同じ場所の路面4の画像により補完される。
自車両1の映り込み領域については、例えば、
撮影画像2をエッジ画像8に変換するエッジ検出フィルタ9と、
上記エッジ画像8の複数における出現頻度に基づいてエッジ強度を補正して指標値化する指標化手段10と、
上記指標値に基づいてエッジ画像8を二値化した二値画像11内の閉領域を移動計測車両1の映り込み領域と判定する自車両検出手段12とを用いることにより自動的に検出することができる。
カメラの撮影画像2を単にエッジ画像8に変換した場合、自車両1に加え、例えば縁石や道路標示等もエッジとして検出されてしまう可能性があるが、出現頻度に応じてエッジ強度を補正して指標値化することにより、これらの不要な検出を防止して自車両1のみを良好に特定することができる。すなわち、自車両1の映り込みは、カメラの移動計測車両1における取り付け位置と姿勢に起因し、該当するカメラにより撮影された全ての撮影画像2において同一の領域に位置するために、出現頻度とエッジ強度を考慮してエッジ成分を指標値化することにより、自車両1のみを適切に検出することができる。
この場合において、二値画像11の複数種類を生成して各々の閉領域を比較し、重複率を算出する比較手段13を設け、所定の閾値を超える重複率の閉領域を非正常計測領域6として検出すれば、自車両1の検出精度をさらに高めることができる。
また、他車両3の影5の映り込み領域については、例えば、
上記撮影画像2から輝度値に基づいて影候補領域14を抽出する影候補領域抽出手段15と、
上記撮影画像2において上記影候補領域14の外縁に位置する各着目画素16から影候補領域14の内外方向所定範囲内に位置する近傍画素の輝度値をサンプリングし、その出現頻度の統計処理により影5と背景の境界を示す輝度の閾値を求める境界判定手段17と、
上記閾値に従って影候補領域14を外側に拡張して得られる閉領域を他車両3による影領域18と判定する影検出手段19とを用いることにより自動的に検出することができる。
影5は、その輝度値に基づいて検出することが不可能ではないが、路面4においては周辺からの太陽光線の照り返しが珍しくないために、暗い部分に加えてやや暗い程度の部分も存在しやすい。このため、輝度値に基づいて最初に暗い領域を抽出した上で、その後にやや暗い程度の領域へも領域拡張して全体を特定することにより、検出精度を維持しつつ影5の全体を漏れなく検出することができる。
上述したやや暗い程度の影5の外縁は、暗い影5の外縁を跨いで適数の画素の輝度値をサンプリングした上で、例えば、輝度値を横軸、その出現頻度を縦軸とするヒストグラム20における谷の輝度値に従って決定することが可能であり、このようにヒストグラム化して解析することにより、影5と日向の境界の輝度値を出現頻度の推移に基づいて統計的に求めることができる。
この場合において、上記近傍画素の輝度値の参照範囲を影候補領域14の外側に逐次拡張して出現頻度の増加率を算出し、上述したヒストグラム20の谷が所定値を超える出現頻度の増加率の輝度値間にあるときに閾値として判定すれば、輝度値の参照範囲の拡張が影5と日向の境界部分に達して谷の前後に応じた輝度値が増加傾向にあるときに閾値が決定されることから、不測のノイズの影響を抑えることができる。
さらに、他車両3の映り込み領域については、上述のようにして検出される他車両3の影5を利用して特定することが可能であり、具体的には例えば、
上記影候補領域14あるいは影領域18の上縁部から地上座標系において所定の長さ範囲内となる線分21を探索する線分探索手段22と、
上記線分21の移動計測車両1の進行方向を基準にした角度を演算し、予め設定された所定の許容角度範囲内にあるか否かに基づいて当該線分21を他車両3の側面下縁、正背面下縁、あるいはそれ以外のいずれかに振り分ける方位判定手段23と、
上記線分21が他車両3の側面下縁あるいは正背面下縁に該当するときに、線分21の地上座標系における寸法に基づいて、車両の側面下縁および正背面下縁の目安寸法毎に当該目安寸法に応じた車両種別を関連づけて構成される車両種別データベース24を参照して、影5の原因となっている他車両3の車両種別を判定する車両種別判定手段25と、
上記車両種別に応じたサイズの車両モデル26を撮影画像2上に投影処理して得られる車両モデル占有領域を他車両3の映り込み領域と判定する他車両検出手段27とを用いることにより自動的に検出することができる。
他車両3の検出は、上述したように他車両3の影5が検出されたときに、この影5を頼りにして検出することができる。これにより、撮影画像2中から単に輝度値等を頼りに他車両3を検出する場合におけるような、他車両3の色の違いによる検出精度の低下を防止することができる。
他車両3の影5は他車両3の下側に発生することから、他車両3自体は、影5の上縁部に表れる線分21の長さ、この線分21の他車両3の進行方向に対する方位により、その車両種別、長手方向の向きを特定することが可能である。撮影画像2上に上記車両種別に応じた他車両3の車両モデル26を上述の線分21の位置や長手方向の向きに応じて投影処理することにより、他車両3の撮影画像2上における映り込み領域を把握することができる。
上記車両モデル26としては、車両の概略の大きさに応じて、例えば、小型車、普通車、大型車といったように分類することが可能である。各車両モデルの形状は、このような分類に応じて当該車両分類における典型的なものにすれば足り、例えば普通車であればいわゆるセダンタイプのように側面視台形形状に設定することが可能である。この場合において、車両モデル26として直方体の単数あるいは複数の組合せからなるボックスモデルを利用すれば、他車両3の撮影画像2上におけるおおよその占有領域を効率的に把握することが可能になる。
また、上記車両モデル26は、例えば車両種別に応じた実際の車両サイズよりもやや大きくなるように設定すれば他車両3を撮影画像2から確実に除去することができるが、車両モデル占有領域内の画素の輝度値をサンプリングして所定の統計値を演算し、該統計値に基づいて車両モデル占有領域内から他車両3の映り込み領域をさらに絞り込み抽出し、あるいは車両モデル占有領域の外部近傍から追加抽出する調整部を設ければ、車両モデル26を他車両3の特定のための統計値の決定に活用して、他車両3をより高精度に特定することが可能となる。
以上のようにして特定される自車両1、他車両3、あるいは他車両3の影5は、
上記撮影画像2から抽出された自車両1等の領域をマスク処理するマスク処理手段28と、
マスク処理されたものを含む撮影画像2の複数を上記レーザスキャナによる点群データに基づいて投影処理してオルソ化し、撮影重複領域を調整して路面オルソ画像を統合生成するオルソ画像処理手段29とを設けることにより、路面4の画像によって補完され、これらを路面4の画像によって補完したオルソ画像を得ることができる。
また、本発明によれば、
GPS、IMU、カメラ、およびレーザスキャナを搭載した移動計測車両1による収集データに基づいて路面オルソ画像を生成する路面オルソ画像の生成方法であって、
前記カメラによる所定の撮影画像2において移動計測車両1または他車両3の映り込みにより路面4が隠蔽され、あるいは他車両3により路面4の影になっている領域を自動的に検出し、当該非正常計測領域6を他の撮影画像2における路面撮影領域により補完して路面オルソ画像を生成する路面オルソ画像の生成方法を提供することもできる。
以上の説明から明らかなように、本発明によれば、移動計測車両や他車両などの移動しているものを示す画素群のカメラの撮影映像からの除去を効率的にすることのできる路面オルソ画像の生成装置および生成方法を提供することができるために、カメラの撮影画像に基づいて路面オルソ画像を生成する際の労力、時間を省いて簡易、迅速に路面オルソ画像を提供することができる。
本発明に係る路面オルソ画像の生成装置のブロック図である。 路面オルソ画像の生成手順を示す図である。 自車両の映り込み領域を特定する処理を説明する図で、(a)は撮影画像の一例を示す図、(b)は他の撮影画像の一例を示す図である。 自車両の映り込み領域を特定する処理を説明する図で、(a)は図3(a)に対応するエッジ画像を示す図、(b)は図3(b)に対応するエッジ画像を示す図である。 自車両の映り込み領域を特定する処理を説明する図で、(a)は二値画像を示す図、(b)は特定した自車両の映り込み領域を示す図である。 他車両の影の映り込み領域を特定する処理を説明する図で、(a)はカメラの撮影画像を示す図、(b)は輝度値に基づいて影候補領域を抽出した状態を示す図である。 他車両の影の映り込み領域を特定する処理を説明する図で、(a)は影候補領域の外縁近傍における画素の輝度値のサンプリングを説明するための図、(b)は初期のサンプリングにより生成されたヒストグラムを示す図、(c)はサンプリング範囲を拡張したときに生成されるヒストグラムを示す図である。 他車両の映り込み領域を特定する処理を説明する図で、(a)は影からの線分の検索を説明する図、(b)は線分に対する方位の判定を説明するための平面図である。 他車両の映り込み領域を特定する処理を説明する図で、(a)は車両モデルの一例を示す図、(b)は他の車両モデルの一例を示す図、(c)は車両モデルを投影処理した状態を示す図である。 他車両の映り込み領域を特定する処理を説明する図で、(a)は輝度飽和部分を組み込む処理を説明する図、(b)は他車両の映り込み領域の特定を調整する処理を説明する図である。
図1ないし図10に本発明の実施の形態を示す。路面オルソ画像の生成に際しては、先ず、GPS、IMU、カメラ、およびレーザスキャナを搭載した移動計測車両1を生成対象の路面4上に走行させ、位置情報としてのGPSデータ41、姿勢情報としてのIMUデータ42、路面4の色情報としての撮影画像データ(撮影画像2)、路面4の形状情報としてのレーザデータ43を車上から逐次収集する。上記移動計測車両1は、具体的には例えばハッチバックタイプ等の普通自動車であり、GPSアンテナ、IMU、カメラ、レーザスキャナをルーフ上に、GPS受信機等を車内に配置して構成される。
また、上記カメラは移動計測車両1の左右斜め前方向、両側方向、左右斜め後方向を撮影する合計6台で、レーザスキャナは車両前後方向にそれぞれ上向きおよび下向きの広角の範囲でレーザ光を照射する4台で構成される。カメラによる撮影は動画、あるいは静止画のいずれでも足りるが、6台のカメラは車両周囲を全周に渡って切れ目なく撮影できるように画角を設定され、各カメラは、撮影が静止画の場合には、車両の進行方向に個々の撮影範囲が適宜オーバーラップするように撮影タイミングが設定される。
一方、4台のレーザスキャナのうち下向きに設置されている2台は、それぞれ路面を全幅に渡って計測し得るスキャニング範囲を設定され、計測車両の進行に伴って路面のスキャニングが行われる。取得するレーザ点群の密度に関する要求仕様に応じて、レーザスキャナのスキャンレートや車両の進行速度が設定されたり、使用する台数が変更されたりする場合もある。なお、カメラやスキャナの台数やその画角等については、移動計測車両1の走行に伴って路面4を漏れなく撮影、計測できれば、例えば車両前方において路面を全幅に渡って広角に撮影する単数のみでも足りる。
路面オルソ画像生成装置は、具体的にはコンピュータであり、図1に示すように、入力部44、記憶部45、および演算部46を有し、以上のようにして取得されたGPSデータ41、IMUデータ42、撮影画像データ2、レーザデータ43が入力部44から入力されて記憶部45に記憶される。なお、各カメラの内部標定要素、および各カメラやレーザスキャナの移動計測車両1における設置位置・姿勢などの一部の外部標定要素についても、事前のバンドル調整により算出され、当該カメラ等による撮影画像データ2やレーザデータ43に関連づけられて入力部44から入力され、記憶部45に記憶される。
上記演算部46は、撮影画像2における自車両1の映り込み領域を特定するために、エッジ検出フィルタ9、指標化手段10、および自車両検出手段12を有する。自車両1の映り込みは、車両の左右斜め前方向を撮影する2台のカメラの各々の撮影範囲に自車両1のボンネットやフロントガラスなどの一部が含まれてしまうことにより生じるもので、具体的には、図3(a)および(b)に示すように、これらのカメラによる撮影画像2の下縁部に発生する。なお、図3において4は路面、3は他車両、47は道路標示、48は縁石、49は道路標識、50は建物、51は植物、52は高架橋、53は歩道用のフェンス、54は電柱である。
上記エッジ検出フィルタ9は、撮影画像2から明るさが鋭敏に変化している箇所をエッジとして検出するもので、これにより撮影画像2は図4(a)および(b)に示すエッジ画像8に変換される。以上のエッジ検出フィルタ9としては、具体的には例えばsobelフィルタ等を利用することができる。
上記指標化手段10は、エッジ画像8の複数に基づいてエッジ強度Iを指標値化するもので、指標値Iは次式により求められる。
Figure 2015090591
ここで、Eiはi番目の撮影画像2における画素位置でのエッジ強度、NeはN枚の撮影画像2の同一の画素位置におけるエッジの出現頻度、Ne/Nは出現確率、tは出現確率に対する閾値(0<t≦1)、Imaxは強度値として設定する最大値、sはエッジ強度を抑制するためのパラメータ(例えば2程度の値)であり、ωは重み付け値(例えば10程度の値)である。上式に示すようにエッジ強度を出現頻度を利用して補正することで、単にエッジ強度を複数のエッジ画像8間で平均化する場合とは異なり、エッジ強度が低くても出現頻度に応じてエッジとして検出することができる。
図5(a)は以上の指標値化手段による指標値を二値化して得られる二値画像11であり、上記自車両検出手段12は、このように二値画像11を生成した上で、二値画像11を輪郭追跡して得られる閉領域を自車両1の映り込み領域と判定し、図5(b)に示すように非正常計測領域6として検出する。なお、二値化に際しての閾値はいわゆる「大津の二値化」に従うなど適宜に決定することができる。
また、以上の自車両検出手段12は、自車両1の検出精度を高めるための比較手段13を備える。この比較手段13は、異なる撮影画像2に基づいて得られた上述の閉領域同士を比較し、その重複率を算出する。このようにして得られた重複率が所定の閾値を超えることを自車両検出手段12による非正常計測領域6の検出の条件とされることにより、自車両1の検出信頼度がさらに高められる。
具体的には、比較対象の双方の閉領域が重複する領域の画素数をA、一方の閉領域のみに属する領域の画素数をBとすると、A/(A+B)が所定値以上である場合に自車両の検出が良好であるとして、少なくとも双方の閉領域のいずれかに属する領域を自車両1の映り込み領域、非正常計測領域6と判定する。なお、A/(A+B)が所定値に満たない場合には、撮影画像2の選定を変更してエッジ画像8の生成からやり直す。
また、上述した演算部46は他車両3の影領域18を特定するために、図1に示すように、影候補領域抽出手段15、境界判定手段17、および影検出手段19を有する。他車両3の影5は、全てのカメラの撮影画像2に映る可能性があり、例えば図6(a)に示すように、他車両3の下側を暗くするようにして発生する。なお、図6(a)において55は影5において太陽光の周囲からの反射などによりやや明るくなってしまっているやや暗い程度の部分である。
上記影候補領域抽出手段15は、輝度値に基づいて撮影画像2から影候補領域14を抽出するもので、影候補領域14を抽出するための輝度値の閾値を低く設定することにより、上述したように影5のやや暗い程度の部分55を除く特に暗い部分のみを影候補領域14として抽出する。図6(b)は影候補領域14を抽出した状態を示す。なお、上記閾値は実験により決定される。
上記境界判定手段17は、上述した影5のやや暗い程度の部分14の外縁を境界として求めるものであり、この境界を決定するための輝度値を統計処理により決定する。境界を示す輝度値の決定に際し、境界判定手段17は影候補領域14の外縁に位置する各着目画素16から影候補領域14の内外方向所定範囲内に位置する近傍画素の輝度値をサンプリングする。サンプリングは、具体的には例えば、図7(a)に着目画素を含む矩形の実線で示すように、影候補領域14の下縁に位置する着目画素16から上下方向に適数の近傍画素を対象にしてなされる。
この境界判定手段17によるサンプリングは、境界を示す輝度値が決定できるまで逐次そのサンプリング範囲を拡大してなされ、先ず最初の段階では、影5の特に暗い部分14と、やや暗い程度の部分55のそれぞれに属する近傍画素のみがサンプリングされるようにサンプリング範囲が調整される。以上のサンプリングにより得られた輝度値を図7(b)にヒストグラム20として示す。このヒストグラム20は輝度値を横軸、その頻度を縦軸とするもので、矢印の箇所は着目画素16の輝度値を示す。
初期のサンプリングを終えたら、次いで、図7(a)に2点鎖線で示すように、サンプリング範囲を逐次下方に拡張してサンプリングを続ける。このサンプリングに際しては、輝度毎に出現頻度の増加率が算出される。拡張が影5のやや暗い程度の部分55の境界を越えると、図7(c)に示すように、ヒストグラム20には頻度の少ない境界が谷として現れ、また、頻度の増加率は上記谷の前後で高くなる。境界判定手段17は、以上のような谷の存在と、この谷の前後での頻度の増加傾向の出現を条件として影5のやや暗い部分55と背景との境界、言い換えれば影領域18と非影領域との境界を示す輝度値に決定する。具体的には、次式により輝度値vを算出し、ヒストグラムを参照して判定することができる。
Figure 2015090591
ここでm(v)、n(v)は輝度vにおけるサンプリング領域拡張前後の頻度を返す関数であり、t1、t2は頻度の増加率を規定する値である(ただし、t1≦t2)。
境界判定手段17による境界の判定は、影候補領域14の外縁に位置する全ての着目画素16に対し、その横方向、および上方向にもサンプリング範囲を設定してなされ、上述した条件が満たされない場合、影領域18と非影領域との境界が影候補領域14の下方にはないものと判断し、着目画素16を当該方向の影領域18の外縁と判定する。
上記影検出手段19は、以上のようにして境界判定手段17により決定された輝度値まで影候補領域14を外側に拡張して得られる閉領域を求め、これを影領域18と判定して非正常計測領域6として検出する。
さらに、上述した演算部46は他車両3の映り込み領域を特定するために、図1に示すように、線分探索手段22、方位判定手段23、車両種別判定手段25、および他車両検出手段27を有する。他車両3の映り込みは、上述した影5同様、全てのカメラの撮影画像2に生じる可能性があり、その位置は、図6(a)に示すように影領域18あるいは影候補領域14のすぐ上側である。
上記線分探索手段22は、このような影5と他車両3との位置関係に着目して他車両3の映り込み領域を特定するための助けとなる線分21を探索するものであり、影領域18の上縁を直線近似し、地上座標系で所定の許容長さ範囲内にある最長の線分21を探索する。影領域18上縁の直線による近似には例えばハフ変換を利用することが可能であり、直線の許容長さ範囲は、自動車の側面下縁、正背面下縁の長さを考慮して決定される。
後述するように他車両3として小型車、普通車、大型車の3種が区分けして検出されるこの実施の形態において、上記許容長さ範囲は、最も長い大型車の側面下縁の長さから最も短い小型車の正背面下縁の長さまでの範囲に設定される。図6(a)に示すように他車両3が斜め後方から撮影される撮影画像2においては、図8に示すように左側面下縁を示す線分21と、背面下縁を示す線分21’の双方が含まれており、図8(a)に示すように、そのうち最長のものである左側面下縁を示す線分21が抽出される。
なお、線分21の地上座標系での長さや、後述する方位については、撮影画像2内の写真座標と地上座標との間に次式に示す関係が成立することを利用して特定することができる。
Figure 2015090591
ここで、(x,y)は写真座標、(X,Y,Z)は地上座標、(X0,Y0,Z0)は地上座標におけるカメラの投影中心位置、fはカメラの焦点距離、ω,φ,κはX軸、Y軸、Z軸周りの回転量(姿勢角)である。例えば、他車両3近辺の路面4が水平面であると仮定すれば、他車両3を基準とする座標系は地上座標系と平行となり、また、カメラの投影中心を原点とするような座標系を考えれば、上式の回転量について、既知である移動計測車両1に対するカメラの取り付け姿勢角を適用して判断することができる。さらに、路面4からカメラまでの高さも既知であるため、路面4から車両の底面までの高さを例えば20-30センチメートルと仮定すれば、他車両3の底面の地上座標を類推することもできる。
上記方位判定手段23は、以上のようにして抽出された線分21の方位を判定し、線分21が他車両3の側面下縁、正背面下縁、あるいはそれ以外のいずれを示すものであるかを特定する。路面4の長手方向に対する上記線分21の公差角を求めることにより、図8(b)に示すように、公差角がない、若しくは小さいとき、言い換えれば線分21が路面4の長手方向に平行、あるいはほぼ平行であるときには他車両3の側面下縁を、公差角が直角に近いとき、すなわちほぼ直交するときには正背面下縁を、これらのいずれにも該当しないときにはこれら以外を示すものと特定することができる。なお、図8(a)および(b)において56は自車両1の実際の進行方向である。また、上述の公差角が小さいとする程度や直角に近いとする程度の角度範囲については、実験により決定することが可能である。さらに、上述した路面4の長手方向は、カメラの移動計測車両1における取り付け方位角(水平面内での公差角)に基づいて決定することができる。
以上の方位判定手段23による方位判定を終えると、図8(a)および(b)に示すように、図6(a)の撮影画像2からは、他車両3の側面下縁、正確には他車両3の前後輪間に位置する側面下縁を示すものとしての線分21が抽出される。この線分21から上述のように小型車、普通車、大型車の3種を区分けして検出するために、上述した記憶部45には、車両種別データベース24が格納される。この車両種別データベース24は、車両の側面下縁および正背面下縁の目安寸法毎に車両種別を関連づけて構成されるもので、例えば車両種別毎の規格寸法を利用して構成される。
以上の車両種別データベース24を参照することにより、上記車両種別判定手段25は、線分21の地上座標系における長さ、および車両の側面下縁あるいは正背面下縁のいずれを示しているかの情報に基づき、他車両3の車両種別を判定する。
上記他車両検出手段27は、以上のように車両種別が判定された他車両3の撮影画像2における映り込み領域を特定するもので、このような他車両3の映り込み領域の特定を可能にするために、記憶部45には車両モデル格納部57が形成される。
この車両モデル格納部57は、上述した小型車、普通車、大型車の3種の車両モデル26を格納する。図9(a)および(b)は、普通車、大型車の車両モデル26A、26Bを示すもので、車両モデル26は、車両種別に応じてその形状や大きさが異なり、側面下縁の寸法Lや正背面下縁の寸法Wが異なる。また、各車両モデル26は、単純な構造で車両の形状や大きさの相違を表現するために、直方体の単数あるいは複数の組合せからなるボックスモデルで構成される。なお、車両モデル26は、その長手方向に線対称形状に形成される。
他車両検出手段27による他車両3の映り込み領域の特定は、上述のようにして特定された車両種別に基づく車両モデル26を撮影画像2上に投影処理してなされる。車両モデル26の投影は、車両モデル26を構成する矩形面の各々を撮影画像2上に投影変換して実現することができる。
投影変換は具体的には次式に基づいて行うことができる。
Figure 2015090591
なお、符号は式3において既述したものである。また、図9(c)は撮影画像2に車両モデル26を投影処理した状態である。
以上の車両モデル26の投影処理により占有される領域が上記他車両検出手段27により他車両3の映り込み領域として検出される。また、他車両検出手段27は、車両モデル占有領域を補正して他車両3の映り込み領域を調整するための第1調整手段58を有する。
この第1調整手段58は、他車両3のルーフ表面などでの太陽光等の反射により輝度値が飽和している部位、すなわちハレーション部位59を他車両3の映り込み領域の一部として組み込む。ハレーション部位59の組み込みは、車両モデル占有領域の外縁を検索して輝度値が飽和している連続状の画素群を特定した後、この画素群の少なくとも一部が車両モデル占有領域内に位置することを条件にしてなされ、不規則形状からなるハレーション部位の凸包を演算することにより、図10(a)に示すように、ハレーション部位59を含む一定領域60を単位としてなされる。
また、他車両検出手段27は、以上の第1調整手段58に加え、車両モデル占有領域内外で他車両3の映り込み領域を絞り込み、あるいは拡張する第2調整手段60を有する。この第2調整手段60は、車両モデル占有領域内の適数の画素群、具体的には縦横がM×Nの画素の輝度値や色情報をサンプリングし、他車両3の色や平均輝度の統計量、具体的には例えば標準偏差や尖度、歪度等を算出した上で、車両モデル占有領域の外縁に位置する注目画素61から内外方向に向かって順次画素の輝度値や色情報を参照し、統計量から導かれる規定範囲を超えた場合に当該画素を他車両3の映り込み領域と判定する。なお、図10(b)は上記サンプリング範囲62および輝度値等の参照範囲63を示すもので、サンプリング範囲62は、車両モデル占有領域の下縁を基端として設定される。また、上述の規定範囲は実験により決定することができる。
一般に路面4は色や輝度の変化が小さいために、標準偏差が小さく、尖度は、正規分布(=3)に近く、また、歪度の絶対値が大きくなる傾向にあるが、車両の場合には車体の付属物によるエッジや光の反射の影響等により変化が大きくなるために上記とは逆の傾向を示す。第2調整手段60はかかる性質を利用することにより車両モデル占有領域内外で他車両3の映り込み領域を判定する。
なお、車両の窓領域は、向こう側の風景が透過して見えている場合や周辺の景色が反射している場合には、以上のような判定にしたがって特定、判定することが可能であるが、光の反射がない場合やスモークガラスのように暗い場合、さらには車両のテールランプに関してはこれでは特定、判定することが難しい。但し、このような場合においては、例えば明度が低くなっており、また、車体の色とも異なっていることが多いため、参照対象の画素を中心にしたM×Nの範囲の画素群の統計量を算出した際に、平均輝度が所定の閾値より下回っているか、または彩度が所定の閾値以上で、かつ、車両の色との色相に基づく色変化が所定の閾値を超える場合に他車両3の映り込み領域とみなすことが可能である。また、以上のような特殊な窓領域やテールランプの追跡に関しては、画素の参照範囲が道路標示47に到達したり、強いエッジ画素が出現したり、平均輝度が極めて高くなった場合にはそこで終了し、また、これらのいずれにも該当しない場合であっても、車両モデル占有領域の外縁からの参照範囲が他車両3の存在領域を明らかに超えていると想定される所定の画素数に達した時点で終了する。
さらに、上述した演算部46は自車両1、他車両3、および他車両3の影5の映り込み領域を非正常計測領域6として除外した撮影画像2に基づいてオルソ画像を生成するためのオルソ画像生成手段30を有する。このオルソ画像生成手段30は、マスク処理手段28、オルソ画像処理手段29を有する。
上記マスク処理手段28は、撮影画像2に基づくオルソ画像の生成に際し、撮影画像2内の所定領域をオルソ画像の生成材料として使用しないようにするためのものであり、上述の非正常計測領域6をマーキングし、あるいは非正常計測領域6に所定の識別コードを付与する。このマーキング等は、具体的には所定のフラグ情報をマスク用のバッファに格納等してなされ、オルソ画像処理手段29による処理時に参照されることによりオルソ画像の生成対象から除外される。また、非正常計測領域6は、マスク処理手段28における輪郭追跡処理によりポリゴン化され、オルソ画像処理手段29は、ポリゴンデータを画像化してこれを参照することによりオルソ画像の生成対象を判定する。
一方、オルソ画像処理手段29は撮影画像2をレーザデータ43に基づく地形形状に投影処理し、撮影画像2を構成する各画素を正射方向に配置し直すことによりオルソ画像を生成する。このオルソ画像処理手段29は、上述したマスク処理手段28がマーキング等した領域を上述のように投影処理の処理対象から除外するように設定される。また、オルソ画像処理手段29は、上述した従来例に示すように路面4を推定することにより、路面4から所定の高さ範囲内のレーザデータ43のみをフィルタリングにより抽出し、これを利用して撮影画像2を正射変換する。
さらに以上に加えて演算部46は、オルソ画像をディスプレイ等に出力する出力部64をも備える。
以上の路面オルソ画像生成装置によるオルソ画像の生成は、図2に示すように、全てのカメラの撮影画像2に対する自車両1の映り込み領域の検出処理と、他車両3、およびその影5の映り込み領域の検出処理とを並行して進めておき、自車両1、他車両3、および他車両3の影5の全ての映り込み領域が特定された上で、これらの映り込み領域を対象にしてマスク処理をした後、オルソ化処理をすることによりなされる。なお、自車両1が移動計測車両1の左右斜め前方を撮影するカメラの撮影領域にのみ映り込む可能性がある場合には、当該カメラの撮影画像2のみを対象にして車両1の映り込み領域の検出処理をすれば足りる。
また、以上の画像処理においては、より具体的には、エッジ検出フィルタ9による撮影画像2の複数のエッジ画像8への変換に際しては、撮影タイミングの大きく異なる撮影画像2の所定数をランダムに選択した上で、エッジ画像8変換前にメディアンフィルタやガウシアンフィルタ等により画像のノイズが除去される。また、このようなノイズ除去に加え、エッジ画像8への変換に先立って、撮影画像2からスミアによる輝度の飽和領域が除去される。輝度の飽和領域は、スミアが垂直または水平方向に直線帯状に発生することから、各画素の輝度値を参照し、飽和と見なす輝度値の画素が一定のX座標上、あるいはY座標上の近傍範囲内にほぼ直線状に並んでいることをもって特定することが可能である。この場合において、スミア領域を跨いでエッジを示す画素がある場合には、両エッジ画素間を連結処理しておくことが望ましい。
上述のようにエッジ検出フィルタ9により撮影画像2をエッジ画像8に変換し(S1)、次いで、指標化手段10によりエッジ強度を指標化し(S2)、この後、自車両検出手段12により二値画像11に変換した上で(S3)、重複率に基づいて閉領域を特定すれば(S4)、自車両1の映り込み領域が決定される。自車両検出手段12により二値画像11から閉領域を検出する際には、予め自車両1の映り込み領域の画素数をある程度想定して最小限度画素数を設定し、この最小限度画素数よりも多いことを閉領域の抽出条件とすることにより、自車両1の映り込み領域の検出精度が高められる。また、自車両1の映り込み位置は、撮影画像2の下縁部に位置することから、閉領域の抽出にこのような位置条件を加えることにより、さらに検出精度が高められる。なお、閉領域については二値画像11から抽出した後に整形が施される。
一方、他車両3の影領域18の抽出、すなわち影候補領域抽出手段15による撮影画像2からの影候補領域14の抽出に際しては、予め撮影画像2がグレースケール画像に変換され、このグレースケール画像における輝度値に基づいて影候補領域抽出手段15により影候補領域14が抽出される(S5)。影候補領域14は、上記グレースケール画像を影5とみなすことのできる所定の輝度値を基準にして二値画像11に変換した上で、輪郭追跡することにより特定される。なお、この影候補領域14についても、その面積が小さいものについてはノイズとして抽出対象外と判定される。
影候補領域14を抽出したら、境界判定手段17により影領域18の外縁と背景との境界が判定される(S6)が、着目画素16を影候補領域14の外縁に沿って隣接画素に順次変更して繰り返すことにより影候補領域14の外縁の全周に渡って境界の輝度値を判定する際には、メディアンフィルタ等によって隣接する着目画素16における境界輝度値を平滑化することにより、撮影画像2において影5の輝度値が緩やかに変化する態様に応じることになり、その精度が高められる。以上のように境界の輝度値が判定された(S6)ら、この輝度値に従って影検出手段19により影候補領域14が拡張され、これにより影領域18の検出が終了する(S8)。なお、影領域18についても、上述した自車両1の映り込み領域における閉領域同様、最後に整形が施される。
さらに、他車両3の抽出に関しては、先ず、線分探索手段22により影領域18の上縁部から地上座標系に換算したときに所定の長さ条件を満たす線分21が探索され(S8)、線分21が見付けられたら、次いで、方位判定手段23により線分21の方位が判定され(S9)、この判定の結果、上記線分21が他車両3の下縁を示すものと特定されれば、この後、車両種別判定手段25により車両種別が特定され(S10)、さらに最後に、特定された車両種別に基づいて他車両検出手段27により他車両3の映り込み領域が決定される(S11)。線分探索手段22による影領域18からの線分21の探索に際しては、影領域18を構成する影5が他車両3以外の路側の地物により生じる可能性を考慮し、自車両1、すなわちカメラからの距離が遠い影領域18が線分21の探索対象から除外される。なお、この距離は、自車両1から路側までの距離や、距離による影領域18の位置精度の低下を考慮して実験により決定することができる。
また、影領域18のカメラからの距離は、後述する道路標示線のように影領域18の形状を簡略化した上で、車両の底部の高さを例えば20-30センチと仮定して他車両3の下端縁の地上座標系における高さ座標を与えることにより、上記式3に基づき、他車両3の下端縁の地上座標が特定できる。カメラと影領域18との距離は、以上のように地上座標が特定される他車両3の下端縁とカメラとの平面距離を基準にすればおおよそ判明する。
以上のようにして線分21が検出されたら、上述のように方位判定手段23により線分21の方位が判定され、当該線分21が他車両3の下端縁を示すものであるか、それ以外を示すものであるかが特定されるが、この際に他車両3の下端縁以外であると判明した場合には、当該影領域18に基づく他車両3の検出はできないとしてこの処理を終了する。
また、他車両検出手段27により利用される車両モデル26はその種類を少なくして効率を高めるために典型的な形状と大きさに設定される。上述ではボックスモデルとして構成したが、典型的な形状であればより複雑にしても足りる。この他車両検出手段27は、上述した自車両1を示す閉領域同様、車両モデル占有領域を最後に整形する。加えて、第2調整手段60は、車両モデル26占有領域の外縁画素を個々にチェックし、チェック対象の画素から所定範囲内で道路標示以外のエッジ画素が見付かった場合には、これを他車両3のエッジとして判定して当該エッジまで他車両3の映り込み領域を拡張する。
また以上のように、自車両1、他車両3、およびその影5の撮影画像2における映り込み領域が特定されたら、オルソ画像生成手段30によるオルソ化に先立って、さらに、撮影画像2内からこれら以外の地物、より正確には路面4を除く残余の地物の領域が検出される。この残余の地物の検出に際しては、誤検出を防ぐために予め撮影画像2から道路標示線が抽出される。
道路標示線は白線や黄色線からなるために、輝度の高い白色画素、および黄色画素を撮影画像2から抽出することにより撮影画像2内でその領域をおおよそ特定することが可能である。黄色画素の抽出に際しては、撮影画像2に事前に黄色系の色相の強調処理を加えておくことにより、抽出の精度が高められる。また、以上のように白色画素等を特定したら、撮影画像2を二値化して道路標示線の候補領域とした上で、輪郭追跡処理してポリゴン化し、さらに、ハフ変換等によって外縁画素を直線近似した上で、近似直線を構成する画素数が所定の閾値よりも多い、言い換えれば白線や黄色線と見なしうるだけの一定の長さがあるときに道路標示線として検出する。
なお、白色画素の抽出は、HSV変換等の色空間の変換処理により、彩度が小さく、かつ、強度が大きい画素を対象にしてなされ、一方、黄色画素は、同様にHSV変換等により、色相が所定の範囲内にあり、また、彩度が所定値以上で、かつ、強度が所定の範囲内にある画素を対象にしてなされる。また、上記ポリゴンについては、上述のように近似直線を構成する画素数のみならず、上述した式4を活用して地上座標系におけるその面積や長さをも条件として道路標示線か否かを判定することにより、道路標示線の検出の信頼性が高められる。さらに、道路標示線の検出に際して、以上のように近似直線を使用する以外にも、上記ポリゴンの輪郭形状を簡略化する、具体的には例えば、上記ポリゴンの輪郭画素を逐次その長手方向に追跡してほぼ同一直線上に位置するか否かにより道路標示線の端縁に位置する画素であるか否かを判定し、端縁の画素と判定できたときには、間に位置する画素を間引き、これを繰り返して得られた道路標示線の両端画素の間隔を距離的に特定しても足りる。
以上のようにして道路標示線を抽出したら、上述した残余の地物の検出がなされる。残余の地物の検出は、撮影画像2から上述した自車両1等の領域に加えて道路標示線の領域をも除いた上でなされ、さらに、路面4の色に近い領域を彩度や明度に基づいて除外した上で、撮影画像2内を小領域毎に区分けしてなされる。検出は、エッジ強度が強く、エッジの出現率が所定以上であることを条件にしてなされ、検出後には該当領域に整形処理がなされる。なお、撮影画像2の上部領域については、建物の上部であるなど、路面4以外であることが明らかなため、マスク処理対象として扱うことができる。
以上のように残余の地物の領域が特定されたら、マスク処理手段28により、これらが自車両1の映り込み領域等とともにマスク処理される(S12)。なお、このマスク処理は、上述した撮影画像2の上部領域についてもなされる。この後、オルソ処理手段29により撮影画像2の画素が正射影位置に配置し直されてオルソ画像が完成する(S13)。このオルソ画像は、出力部64を介してディスプレイに表示等される。
なお、オルソ処理手段29による撮影画像2のオルソ処理に際しては、撮影画像2において自車両1から所定以上の距離にある画像領域は対象外とされる。上記距離は、撮影画像2の地上座標系を基準にして、撮影画像2の写真座標を利用して設定される。
なお、以上において説明した演算部46の有する各手段等は、生成手段7を構成する。
1 移動計測車両
2 撮影画像
3 他車両
4 路面
5 影
6 非正常計測領域
7 生成手段
8 エッジ画像
9 エッジ検出フィルタ
10 指標化手段
11 二値画像
12 自車両検出手段
13 比較手段
14 影候補領域
15 影候補領域抽出手段
16 着目画素
17 境界判定手段
18 影領域
19 影検出手段
20 ヒストグラム
21 線分
22 線分探索手段
23 方位判定手段
24 車両種別データベース
25 車両種別判定手段
26 車両モデル
27 他車両検出手段
28 マスク処理手段
29 オルソ画像処理手段
30 オルソ画像生成手段


Claims (10)

  1. GPS、IMU、カメラ、およびレーザスキャナを搭載した移動計測車両による収集データに基づいて路面オルソ画像を生成する路面オルソ画像の生成装置であって、
    前記カメラによる所定の撮影画像において移動計測車両または他車両の映り込みにより路面が隠蔽され、あるいは他車両の影が路面に映っている領域を自動的に検出し、当該非正常計測領域を他の撮影画像における路面撮影領域により補完して路面オルソ画像を生成する生成手段を有する路面オルソ画像の生成装置。
  2. 前記撮影画像をエッジ画像に変換するエッジ検出フィルタと、
    前記エッジ画像の複数における出現頻度に基づいてエッジ強度を補正して指標値化する指標化手段と、
    前記指標値に基づいてエッジ画像を二値化した二値画像内の閉領域を移動計測車両の映り込み領域と判定し、非正常計測領域として検出する自車両検出手段とを有する請求項1記載の路面オルソ画像の生成装置。
  3. 前記二値画像の複数種類を生成して各々の閉領域を比較し、重複率を算出する比較手段を有し、
    前記自車両検出手段は、所定の閾値を超える重複率の閉領域を非正常計測領域として検出する請求項2記載の路面オルソ画像の生成装置。
  4. 前記撮影画像から輝度値に基づいて影候補領域を抽出する影候補抽出手段と、
    前記撮影画像において前記影候補領域の外縁に位置する各着目画素から影候補領域の内外方向所定範囲内に位置する近傍画素の輝度値をサンプリングし、その出現頻度の統計処理により影と背景の境界を示す輝度の閾値を求める境界判定手段と、
    前記閾値に従って影候補領域を外側に拡張して得られる閉領域を他車両による影領域と判定し、非正常計測領域として検出する影検出手段とを有する請求項1ないし3のいずれかに記載の路面オルソ画像の生成装置。
  5. 前記境界判定手段は、輝度値を横軸、その頻度を縦軸とするヒストグラムを生成するとともに、前記近傍画素の輝度値の参照範囲を影候補領域の外側に逐次拡張して出現頻度の増加率を算出し、前記ヒストグラムの谷が所定値を超える出現頻度の増加率の輝度値間にあるときに閾値として判定する請求項4記載の路面オルソ画像の生成装置。
  6. 前記影候補領域あるいは影領域の上縁部から地上座標系において所定の長さ範囲内となる線分を探索する線分探索手段と、
    前記線分の移動計測車両の進行方向を基準にした角度を演算し、予め設定された所定の許容角度範囲内にあるか否かに基づいて当該線分を他車両の側面下縁、正背面下縁、あるいはそれ以外のいずれかに振り分ける方位判定手段と、
    前記線分が他車両の側面下縁あるいは正背面下縁に該当するときに、線分の地上座標系における寸法に基づいて、車両の側面下縁および正背面下縁の目安寸法毎に当該目安寸法に応じた車両種別を関連づけて構成される車両種別データベースを参照して、影の原因となっている他車両の車両種別を判定する車両種別判定手段と、
    前記車両種別に応じたサイズの車両モデルを撮影画像上に投影処理して得られる車両モデル占有領域を他車両の映り込み領域と判定し、非正常計測領域として検出する他車両検出手段とを有する請求項4または5記載の路面オルソ画像の生成装置。
  7. 前記車両モデルが直方体の単数あるいは複数の組合せからなるボックスモデルである請求項6記載の路面オルソ画像の生成装置。
  8. 前記撮影画像から抽出された非正常計測領域をマスク処理するマスク処理手段と、
    マスク処理されたものを含む撮影画像の複数を前記レーザスキャナによる点群データに基づいて投影処理してオルソ化し、撮影重複領域を調整して路面オルソ画像を統合生成するオルソ画像処理手段とを有する請求項1ないし8のいずれかに記載の路面オルソ画像の生成装置。
  9. GPS、IMU、カメラ、およびレーザスキャナを搭載した移動計測車両による収集データに基づいて路面オルソ画像を生成する路面オルソ画像の生成方法であって、
    前記カメラによる所定の撮影画像において移動計測車両または他車両の映り込みにより路面が隠蔽され、あるいは他車両により路面の影になっている領域を自動的に検出し、当該非正常計測領域を他の撮影画像における路面撮影領域により補完して路面オルソ画像を生成する路面オルソ画像の生成方法。
  10. 移動計測車両に搭載されたカメラの撮影画像から輝度値に基づいて影と推定される影候補領域を抽出する影候補抽出手段と、
    前記影候補領域の上縁部から地上座標系において所定長以上となる線分を探索する線分検出手段と、
    前記線分の移動計測車両の進行方向を基準にした角度を演算し、予め設定された所定の許容角度範囲内にあるか否かに基づいて当該線分を他車両の側面下縁、正背面下縁、あるいはそれ以外のいずれかに振り分ける方位判定手段と、
    前記方位が他車両の側面下縁あるいは正背面下縁に該当するときに、前記線分の地上座標系における寸法に基づいて、車両の側面下縁および正背面下縁の目安寸法毎に当該目安寸法に応じた車両種別を関連づけて格納する車両種別データベースを参照して、影の原因となっている他車両の車両種別を判定する車両種別判定手段と、
    前記車両種別に応じた車両モデルを前記線分に側面下縁あるいは正背面下縁を合わせて撮影画像上に投影処理して得られる車両モデル占有領域を他車両の映り込み領域と判定し、非正常計測領域として検出する他車両検出手段と、
    前記撮影画像の複数を移動計測車両に搭載されたレーザスキャナによる点群データに基づいて投影処理してオルソ化するとともに、前記非正常計測領域を他の撮影画像における路面撮影領域により補完し、かつ、撮影重複領域を調整することにより路面オルソ画像を統合生成するオルソ画像生成手段とを有する路面オルソ画像の生成装置。


JP2013230352A 2013-11-06 2013-11-06 路面オルソ画像の生成装置および生成方法 Active JP6084552B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013230352A JP6084552B2 (ja) 2013-11-06 2013-11-06 路面オルソ画像の生成装置および生成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013230352A JP6084552B2 (ja) 2013-11-06 2013-11-06 路面オルソ画像の生成装置および生成方法

Publications (2)

Publication Number Publication Date
JP2015090591A true JP2015090591A (ja) 2015-05-11
JP6084552B2 JP6084552B2 (ja) 2017-02-22

Family

ID=53194084

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013230352A Active JP6084552B2 (ja) 2013-11-06 2013-11-06 路面オルソ画像の生成装置および生成方法

Country Status (1)

Country Link
JP (1) JP6084552B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017049430A1 (en) * 2015-09-21 2017-03-30 Qualcomm Incorporated Camera preview
CN107643049A (zh) * 2017-09-26 2018-01-30 沈阳理工大学 基于单目结构光的地磅上车辆位置检测系统及方法
WO2018020656A1 (ja) * 2016-07-29 2018-02-01 エスゼット ディージェイアイ テクノロジー カンパニー リミテッド 移動体、移動体の制御方法、制御プログラムを格納した記憶媒体、および制御プログラム
JPWO2017073635A1 (ja) * 2015-10-27 2018-08-09 株式会社小糸製作所 車両用部品および車両
JP2020112876A (ja) * 2019-01-08 2020-07-27 朝日航洋株式会社 立面図作成方法
CN113139991A (zh) * 2021-05-13 2021-07-20 电子科技大学 一种基于重叠区域掩模预测的3d点云配准方法
JP2021118435A (ja) * 2020-01-24 2021-08-10 株式会社デンソーテン 画像処理装置及び画像処理方法
CN113435227A (zh) * 2020-03-23 2021-09-24 阿里巴巴集团控股有限公司 地图生成及车辆定位方法、系统、设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002094978A (ja) * 2000-09-18 2002-03-29 Toyota Motor Corp レーン検出装置
JP2010287156A (ja) * 2009-06-15 2010-12-24 Mitsubishi Electric Corp モデル生成装置、モデル生成方法、モデル生成プログラム、点群画像生成方法および点群画像生成プログラム
JP2011138244A (ja) * 2009-12-28 2011-07-14 Hitachi Automotive Systems Ltd 路肩検出装置及び路肩検出装置を用いた車両
JP2013072936A (ja) * 2011-09-27 2013-04-22 Toyota Mapmaster:Kk 画像処理装置及びその方法、並びに画像処理するためのコンピュータプログラム及びコンピュータプログラムを記録した記録媒体
JP2013117811A (ja) * 2011-12-02 2013-06-13 Fujitsu Ltd 道路形状推定装置及びプログラム
WO2013129095A1 (ja) * 2012-03-02 2013-09-06 日産自動車株式会社 立体物検出装置及び立体物検出方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002094978A (ja) * 2000-09-18 2002-03-29 Toyota Motor Corp レーン検出装置
JP2010287156A (ja) * 2009-06-15 2010-12-24 Mitsubishi Electric Corp モデル生成装置、モデル生成方法、モデル生成プログラム、点群画像生成方法および点群画像生成プログラム
JP2011138244A (ja) * 2009-12-28 2011-07-14 Hitachi Automotive Systems Ltd 路肩検出装置及び路肩検出装置を用いた車両
JP2013072936A (ja) * 2011-09-27 2013-04-22 Toyota Mapmaster:Kk 画像処理装置及びその方法、並びに画像処理するためのコンピュータプログラム及びコンピュータプログラムを記録した記録媒体
JP2013117811A (ja) * 2011-12-02 2013-06-13 Fujitsu Ltd 道路形状推定装置及びプログラム
WO2013129095A1 (ja) * 2012-03-02 2013-09-06 日産自動車株式会社 立体物検出装置及び立体物検出方法

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017049430A1 (en) * 2015-09-21 2017-03-30 Qualcomm Incorporated Camera preview
US10616502B2 (en) 2015-09-21 2020-04-07 Qualcomm Incorporated Camera preview
JPWO2017073635A1 (ja) * 2015-10-27 2018-08-09 株式会社小糸製作所 車両用部品および車両
WO2018020656A1 (ja) * 2016-07-29 2018-02-01 エスゼット ディージェイアイ テクノロジー カンパニー リミテッド 移動体、移動体の制御方法、制御プログラムを格納した記憶媒体、および制御プログラム
JPWO2018020656A1 (ja) * 2016-07-29 2018-07-26 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 移動体、移動体の制御方法、制御プログラムを格納した記憶媒体、および制御プログラム
CN107643049A (zh) * 2017-09-26 2018-01-30 沈阳理工大学 基于单目结构光的地磅上车辆位置检测系统及方法
CN107643049B (zh) * 2017-09-26 2023-06-20 沈阳理工大学 基于单目结构光的地磅上车辆位置检测系统及方法
JP2020112876A (ja) * 2019-01-08 2020-07-27 朝日航洋株式会社 立面図作成方法
JP2021118435A (ja) * 2020-01-24 2021-08-10 株式会社デンソーテン 画像処理装置及び画像処理方法
CN113435227A (zh) * 2020-03-23 2021-09-24 阿里巴巴集团控股有限公司 地图生成及车辆定位方法、系统、设备及存储介质
CN113139991A (zh) * 2021-05-13 2021-07-20 电子科技大学 一种基于重叠区域掩模预测的3d点云配准方法

Also Published As

Publication number Publication date
JP6084552B2 (ja) 2017-02-22

Similar Documents

Publication Publication Date Title
JP6084552B2 (ja) 路面オルソ画像の生成装置および生成方法
CN107463918B (zh) 基于激光点云与影像数据融合的车道线提取方法
CN107516077B (zh) 基于激光点云和影像数据融合的交通标牌信息提取方法
US8917929B2 (en) Image processing apparatus, method, program, and recording medium
US9773176B2 (en) Image processing apparatus and image processing method
JP6667065B2 (ja) 位置推定装置および位置推定方法
CN111832536B (zh) 一种车道线检测方法及装置
CN110659539A (zh) 一种信息处理方法及其装置
CN107891808B (zh) 行车提醒方法、装置及车辆
CN109784344A (zh) 一种用于地平面标识识别的图像非目标滤除方法
Yan et al. A method of lane edge detection based on Canny algorithm
US8204278B2 (en) Image recognition method
CN108197523B (zh) 基于图像转换及轮廓邻域差异的夜间车辆检测方法及系统
Gomez et al. Traffic lights detection and state estimation using hidden markov models
US20120207348A1 (en) Vehicle detection apparatus
US10339396B2 (en) Vehicle accessibility determination device
US20090214080A1 (en) Methods and apparatus for runway segmentation using sensor analysis
JP2008158958A (ja) 路面判別方法および路面判別装置。
JP5065172B2 (ja) 車両灯火判定装置及びプログラム
JP2018063680A (ja) 交通信号認識方法および交通信号認識装置
JP4674179B2 (ja) 影認識方法及び影境界抽出方法
JP2019020956A (ja) 車両周囲認識装置
KR101026778B1 (ko) 차량 영상 검지 장치
US10380743B2 (en) Object identifying apparatus
Chaloeivoot et al. Building detection from terrestrial images

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151005

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160908

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20161130

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170125

R150 Certificate of patent or registration of utility model

Ref document number: 6084552

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250