JP7102890B2 - 経路シミュレーション装置 - Google Patents

経路シミュレーション装置 Download PDF

Info

Publication number
JP7102890B2
JP7102890B2 JP2018078468A JP2018078468A JP7102890B2 JP 7102890 B2 JP7102890 B2 JP 7102890B2 JP 2018078468 A JP2018078468 A JP 2018078468A JP 2018078468 A JP2018078468 A JP 2018078468A JP 7102890 B2 JP7102890 B2 JP 7102890B2
Authority
JP
Japan
Prior art keywords
route
camera
image
information
coordinates
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018078468A
Other languages
English (en)
Other versions
JP2019185599A (ja
Inventor
信一郎 園田
将旭 渡辺
光 石川
俊寛 林
尚 大田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
IHI Corp
Original Assignee
IHI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by IHI Corp filed Critical IHI Corp
Priority to JP2018078468A priority Critical patent/JP7102890B2/ja
Publication of JP2019185599A publication Critical patent/JP2019185599A/ja
Application granted granted Critical
Publication of JP7102890B2 publication Critical patent/JP7102890B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Image Processing (AREA)
  • Electric Propulsion And Braking For Vehicles (AREA)

Description

本開示は、車両が走行すべき経路を計算し、計算した経路が正しいかどうかを検証する経路シミュレーション装置に関する。
車両に取り付けたセンサから、車両の走行すべき経路上の物体を検知する検査装置が開発されてきた。物体の検出範囲を求めるために、経路を計算し、計算した経路が正しいか否かのシュミレーションツールが必要となる。従来の技術としては、カメラで取得した画像から経路を検出する技術がある(特許文献1,2)。
特許文献1に記載された車両自動走行システムは、進行方向の路上等に書かれた車線を撮影するカメラ、カメラで撮影された原画像を取り込む画像入力部、画像入力部から入力された原画像を2値データ化し、該原画像データをガウス型関数で重み付けしたものの総和をとってボケ画像データに変換し、ボケ画像データに基づいて進行すべき方向と速度を決めるための画像処理・認識を行うコンピュータ、コンピュータで決めた方向と速度で車両を駆動するための動力を発生してタイヤに伝える動力部を備えている。
また、特許文献2に記載された軌道認識装置は、軌道走行車両が走行する軌道を認識する軌道認識装置であって、車外進行方向の対象を検出する視覚センサ、視覚センサの信号に基づき、車外進行方向設定範囲の視覚情報を生成する視覚情報処理手段、視覚情報に基づいて設定範囲内に存在する軌道を求めるとともに、求めた軌道の中から自車両が走行中の軌道を特定する軌道検出部とを備えている。
このように、特許文献1,2では、カメラ画像から輝度の濃淡情報用いて、道路の車線や鉄道のレールを検出し、車両が走行すべき経路(軌道)を生成している。
特開2008-13081号公報 特開2000-32601号公報
しかしながら、特許文献1,2に記載された技術では、夜間で画像が暗い場合や、霧や雪等の悪環境の場合には、画像の視認性が悪く、経路を検出することが困難であった。
本開示の課題は、経路を検出することなく画像状態に依存せず経路を計算し、計算した経路が正しいか否かを検証できる経路シミュレーション装置を提供することにある。
本開示の経路シミュレーション装置は、車両が走行すべき経路の勾配情報とカーブ情報とを含む経路情報を記憶する経路情報テーブルと、前記車両の現在の位置情報と前記経路情報テーブルに記憶された前記経路情報とに基づき3次元の経路座標における前記経路の勾配方向成分とカーブ方向成分を計算する経路計算部と、前記車両に取り付けられ、前記経路を撮影するカメラと、前記カメラの焦点距離と設置角度と高さとを含む撮影パラメータに基づき前記経路計算部で計算された前記経路座標における経路計算結果を3次元のカメラ座標における経路計算結果に変換するカメラ座標変換部と、前記カメラ座標変換部で変換された前記カメラ座標における前記経路計算結果を、2次元の画像座標における経路計算結果に変換する画像座標変換部と、前記画像座標変換部で変換された画像座標における経路計算結果を前記カメラで撮影された前記カーブ情報を含む前記経路の画像に重畳して表示する表示部とを備えることを特徴とする。
本開示によれば、経路計算部が車両の現在の位置情報と経路情報テーブルに記憶された経路情報とに基づき3次元の経路座標における経路の勾配方向成分とカーブ方向成分を計算し、カメラ座標変換部は、経路座標における経路計算結果を3次元のカメラ座標における経路計算結果に変換する。画像座標変換部は、カメラ座標における経路計算結果を2次元の画像座標における経路計算結果に変換し、表示部は、画像座標における経路計算結果をカメラで撮影されたカーブ情報を含む経路の画像に重畳して表示する。
即ち、経路計算部が既知の経路情報を用いて経路の勾配方向成分とカーブ方向成分を計算しているのみで、画像処理による経路の検出は行わないため、夜間で画像が暗い場合や、霧や雪等の悪環境の画像状態に依存せず経路を計算できる。また、経路計算結果がカメラで撮影されたカーブ情報を含む経路の画像に重畳して表示されるので、計算した経路が正しいか否かを検証できる。
実施例1の経路シミュレーション装置の構成ブロック図である。 実施例1の経路シミュレーション装置における勾配方向及びカーブ方向の経路座標系を示す図である。 実施例1の経路シミュレーション装置における経路座標系とカメラ座標系とを示す図である。 実施例1の経路シミュレーション装置における画像座標系を示す図である。 実施例1の経路シミュレーション装置の経路計算結果とカメラ画像との重畳表示を示す図である。 実施例2の経路シミュレーション装置において経路計算結果がカメラで撮影された経路画像からずれて重畳表示された状態を示す図である。
以下、実施例の経路シミュレーション装置について図面を参照して詳細に説明する。実施例の経路シミュレーション装置は、車両が走行すべき道路や鉄道の線路等の経路を計算し、計算した経路が正しいかどうかを検証する。経路は、例えば、直線、勾配、カーブ曲率により定義される。
図1に示す経路シミュレーション装置は、経路情報テーブル11と、経路計算部12と、カメラパラメータメモリ13と、カメラ座標変換部14、カメラ15と、画像メモリ16と、画像座標変換部17、画像表示部18を備えている。
経路情報テーブル11は、書き込み読み出し可能なメモリに設けられ、車両が走行すべき経路の勾配情報とカーブ情報とを含む経路情報と車両の各位置におけるある起点からの距離情報とを対応付けて記憶する。経路の勾配情報としては、経路の高さ、勾配角等である。カーブ情報としては、経路の位置、経路のカーブ等である。なお、鉄道の場合には、経路情報として傾き等のカント情報が含まれる。カント情報は、各起点からの距離位置におけるカントの値である。
経路計算部12は、経路情報テーブル11から車両の現在の位置情報に対応するある起点からの距離情報を読み出し、読み出したある起点からの距離情報に対応する経路情報に基づき3次元の経路座標における経路を計算するもので、CPU(中央処理装置)等により構成される。
経路計算部12は、経路情報テーブル11の経路情報に基づき経路の中心を算出し、経路の中心情報をカメラ座標変換部14に出力する。
カメラパラメータメモリ13は、カメラ15の焦点距離とカメラの設置角度とカメラの高さとを含む撮影パラメータを記憶する。
カメラ座標変換部14は、カメラパラメータメモリ13に記憶されたカメラ15の焦点距離と設置角度と高さとを含む撮影パラメータに基づき、経路計算部12で計算された3次元の経路座標における経路計算結果をカメラ15の3次元のカメラ座標における経路計算結果に変換する。カメラ座標変換部14は、経路の中心情報を画像座標変換部17に出力する。
カメラ15は、車両に取り付けられ、車両から経路を撮影して2次元の経路画像を得る。カメラ15は、所定の周期で2次元の経路画像を取り込み、2次元の経路画像を画像メモリ16に出力する。画像メモリ16は、カメラ15からの2次元の経路画像を記憶する。
画像座標変換部17は、カメラ座標変換部14で変換された3次元のカメラ座標における経路計算結果を、2次元の画像座標における経路計算結果に変換する。画像座標変換部17は、画像メモリ16からの2次元の経路画像を入力する。
画像表示部18は、画像座標変換部17で変換された2次元の画像座標における経路計算結果を、画像メモリ16からの2次元の経路画像に重畳して表示する。
次に、このように構成された実施例1の経路シミュレーション装置の動作を図面を参照しながら詳細に説明する。
まず、車両が走行すべき経路の勾配情報とカーブ情報とを含む経路情報を格納する経路情報テーブル11を作成する。経路計算部12は、経路情報テーブル11に基づき現在の車両の位置を原点とした3次元の経路座標における経路を計算する。
図2に示すように、車両1が走行すべき経路の勾配方向成分を計算し、図3に示すように、車両1が走行すべき経路のカーブ方向成分を計算し、勾配方向成分とカーブ方向成分とを重ね合わせることで、経路座標系とする。
勾配方向成分は、勾配角θと高低差hからなる。勾配角θは、水平yを基準とした相対的な上下方向の経路の傾き角である。高低差hは、所定位置(車両1)を基準とした相対的な経路の高さhである。カーブ方向成分は、カーブ角θと経路位置xとからなる。カーブ角θは、所定位置(車両1)の経路方向を延長した軸yを基準とした相対的な左右方向の経路の傾き角である。経路位置xは、所定位置(車両1)の経路方向を延長した軸yを基準とした相対的な経路位置である。
次に、カメラ座標変換部14は、カメラパラメータメモリ13に記憶されたカメラ15の焦点距離と設置角度と高さとを含む撮影パラメータに基づき、経路計算部12で計算された3次元の経路座標の経路をカメラ中心を原点とした3次元のカメラ座標の経路に変換する。
図3に、実施例1の経路シミュレーション装置における3次元の経路座標系(X,Y,Z)と3次元のカメラ座標系(X´,Y´,Z´)とを示す。Otは、3次元の経路座標系(X,Y,Z)の原点である。Ocは、3次元のカメラ座標系(X´,Y´,Z´)の原点である。カメラ座標変換部14は、撮影パラメータに基づき、回転、平行移動の組み合わせて座標変換を行う。
次に、画像座標変換部17は、カメラ座標変換部14で変換された3次元のカメラ座標における経路計算結果を、2次元の画像座標における経路計算結果に変換する。2次元の画像座標は、図4に示すように、画面左上を原点Oiとした画像座標系であり、x方向に例えば1920ピクセル、y方向に1080ピクセルの画像座標系からなる。
次に、画像座標変換部17は、画像メモリ16から図5(a)に示す2次元の経路画像を入力する。2次元の経路画像には、中心経路A1と左側経路A2と右側経路A3とが表示されるが、各経路が見えにくくなっていることがわかる。
図5(b)に、画像座標変換部17で変換された2次元の画像座標におけるカメラ視点での経路計算結果を示す。図5(b)には、経路計算結果として、中心経路B1と左側経路B2と右側経路B3とが表示され、各経路が見え易くなっていることがわかる。
次に、画像表示部18は、画像座標変換部17で変換された2次元の画像座標におけるカメラ視点での経路計算結果を、画像メモリ16からの2次元の経路画像に重畳して表示する。
即ち、図5(c)に示すように、経路計算結果としての中心経路B1と左側経路B2と右側経路B3とが、2次元の経路画像としての中心経路A1と左側経路A2と右側経路A3とに重畳表示される。
このように実施例1の経路シミュレーション装置によれば、経路計算部12が車両1の現在の位置情報と経路情報テーブル11に記憶された経路情報とに基づき3次元の経路座標における経路を計算し、カメラ座標変換部14は、経路座標における経路計算結果を3次元のカメラ座標における経路計算結果に変換する。
画像座標変換部17は、カメラ座標における経路計算結果を2次元の画像座標における経路計算結果に変換し、画像表示部18は、画像座標における経路計算結果をカメラ15で撮影された経路画像に重畳して表示する。
即ち、経路計算部12が既知の経路情報を用いて経路を計算しているのみで、画像処理による経路の検出は行わないため、夜間で画像が暗い場合や、霧や雪等の悪環境の画像状態に依存せず経路を計算できる。また、経路計算結果がカメラ15で撮影された経路の画像に重畳して表示されるので、計算した経路が正しいか否かを検証できる。
また、カメラ15は、物体を撮影することにより物体の位置の2次元情報を取得する。画像座標変換部17は、カメラ15の画像座標における物体の位置の2次元情報をカメラ座標における物体の位置の3次元情報に変換する。カメラ座標変換部14は、画像座標変換部17で変換された物体の位置の3次元情報を経路座標における物体の位置の3次元情報に変換する。
従って、車両から物体までの距離情報を加えた物体の位置の3次元情報を得ることができる。この物体の位置の3次元情報に基づいて、距離に基づいた物体の特徴が得られ、物体の誤検知を低減することができる。
(実施例2)
次に、実施例2の経路シミュレーション装置について説明する。実施例2の経路シミュレーション装置は、経路計算結果がカメラ15で撮影された経路画像からずれて重畳表示された場合について説明する。
図6に示すように、経路計算結果としての中心経路C1と左側経路C2と右側経路C3とが、経路画像としての中心経路A1と左側経路A2と右側経路A3からずれて重畳表示される場合がある。
このような場合には、マウスやキーボード等の操作部を用いて、CPUにより、経路情報テーブル11に記憶された経路の勾配情報とカーブ情報とカント情報を含む経路情報を微調整する。マウスやキーボード等の操作部は、本発明の調整手段に対応する。
そして、微調整された経路計算結果を画面に表示し、画面を見ながら、経路計算結果が2次元の経路画像としての中心経路A1と左側経路A2と右側経路A3とに重なるようにする。経路計算結果が2次元の経路画像に重なるまで経路情報を微調整する。
そして、図5に示すように、修正された中心経路B1と左側経路B2と右側経路B3が、2次元の経路画像としての中心経路A1と左側経路A2と右側経路A3とに重なるように表示させる。
また、カメラパラメータメモリ13に記憶されたカメラ15の焦点距離とカメラの設置角度とカメラの高さとを含む撮影パラメータを微調整することにより、3次元のカメラ座標の経路が微調整されて、経路計算結果が微調整される。この場合も、微調整された経路計算結果を画面に表示し、画面を見ながら、経路計算結果が2次元の経路画像に重なるまで経路情報を微調整する。
なお、実施例1,2では、経路情報テーブル11を経路の敷設情報に基づいて手動で作成しているが、例えば、ジャイロセンサや3次元スキャナ等を車両に設置して、対象区間の経路情報を事前に取得し、経路情報テーブル11を自動で作成してもよい。
1 車両
11 経路情報テーブル
12 経路計算部
13 カメラパラメータメモリ
14 カメラ座標変換部
15 カメラ
16 画像メモリ
17 画像座標変換部
18 画像表示部

Claims (3)

  1. 車両が走行すべき経路の勾配情報とカーブ情報とを含む経路情報を記憶する経路情報テーブルと、
    前記車両の現在の位置情報と前記経路情報テーブルに記憶された前記経路情報とに基づき3次元の経路座標における前記経路の勾配方向成分とカーブ方向成分を計算する経路計算部と、
    前記車両に取り付けられ、前記経路を撮影するカメラと、
    前記カメラの焦点距離と設置角度と高さとを含む撮影パラメータに基づき前記経路計算部で計算された前記経路座標における経路計算結果を3次元のカメラ座標における経路計算結果に変換するカメラ座標変換部と、
    前記カメラ座標変換部で変換された前記カメラ座標における前記経路計算結果を、2次元の画像座標における経路計算結果に変換する画像座標変換部と、
    前記画像座標変換部で変換された画像座標における経路計算結果を前記カメラで撮影された前記カーブ情報を含む前記経路の画像に重畳して表示する表示部と、
    を備えることを特徴とする経路シミュレーション装置。
  2. 前記カメラは、物体を撮影することにより前記物体の位置の2次元情報を取得し、
    前記画像座標変換部は、前記カメラの画像座標における前記物体の位置の2次元情報を前記カメラ座標における前記物体の位置の3次元情報に変換し、
    前記カメラ座標変換部は、前記画像座標変換部で変換された前記カメラ座標における前記物体の位置の3次元情報を前記経路座標における前記物体の位置の3次元情報に変換することを特徴とする請求項1記載の経路シミュレーション装置。
  3. 前記表示部において、前記カメラで撮影された前記経路の画像に対して、前記画像座標における前記経路計算結果がずれていた場合には、前記経路情報テーブルの前記経路情報と前記撮影パラメータとの少なくとも一方を微調整する調整手段を備えることを特徴とする請求項1又は請求項2記載の経路シミュレーション装置。
JP2018078468A 2018-04-16 2018-04-16 経路シミュレーション装置 Active JP7102890B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018078468A JP7102890B2 (ja) 2018-04-16 2018-04-16 経路シミュレーション装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018078468A JP7102890B2 (ja) 2018-04-16 2018-04-16 経路シミュレーション装置

Publications (2)

Publication Number Publication Date
JP2019185599A JP2019185599A (ja) 2019-10-24
JP7102890B2 true JP7102890B2 (ja) 2022-07-20

Family

ID=68341447

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018078468A Active JP7102890B2 (ja) 2018-04-16 2018-04-16 経路シミュレーション装置

Country Status (1)

Country Link
JP (1) JP7102890B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11472442B2 (en) 2020-04-23 2022-10-18 Zoox, Inc. Map consistency checker
WO2021250734A1 (ja) * 2020-06-08 2021-12-16 日本電信電話株式会社 座標変換装置、座標変換方法、及び座標変換プログラム
US20220326023A1 (en) * 2021-04-09 2022-10-13 Zoox, Inc. Verifying reliability of data used for autonomous driving
KR102625974B1 (ko) * 2021-11-29 2024-01-18 주식회사 오비고 자율주행차량의 운행 검증에 필요한 검증 시나리오를 편집하는 방법 및 이를 이용한 서버
CN115134537B (zh) * 2022-01-18 2024-08-06 长城汽车股份有限公司 一种图像处理方法、装置及车辆

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007094045A (ja) 2005-09-29 2007-04-12 Matsushita Electric Ind Co Ltd ナビゲーション装置、ナビゲート方法および車両
JP2007263849A (ja) 2006-03-29 2007-10-11 Matsushita Electric Ind Co Ltd ナビゲーション装置
JP2008256477A (ja) 2007-04-03 2008-10-23 Ngk Spark Plug Co Ltd センサ素子の製造方法及びセンサ素子並びにセンサ
JP2011117842A (ja) 2009-12-03 2011-06-16 Aisin Aw Co Ltd 車両用走行案内装置、車両用走行案内方法及びコンピュータプログラム
JP2019070918A (ja) 2017-10-06 2019-05-09 株式会社Ihi オフライン検証システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007094045A (ja) 2005-09-29 2007-04-12 Matsushita Electric Ind Co Ltd ナビゲーション装置、ナビゲート方法および車両
JP2007263849A (ja) 2006-03-29 2007-10-11 Matsushita Electric Ind Co Ltd ナビゲーション装置
JP2008256477A (ja) 2007-04-03 2008-10-23 Ngk Spark Plug Co Ltd センサ素子の製造方法及びセンサ素子並びにセンサ
JP2011117842A (ja) 2009-12-03 2011-06-16 Aisin Aw Co Ltd 車両用走行案内装置、車両用走行案内方法及びコンピュータプログラム
JP2019070918A (ja) 2017-10-06 2019-05-09 株式会社Ihi オフライン検証システム

Also Published As

Publication number Publication date
JP2019185599A (ja) 2019-10-24

Similar Documents

Publication Publication Date Title
JP7102890B2 (ja) 経路シミュレーション装置
US11170466B2 (en) Dense structure from motion
US10984261B2 (en) Systems and methods for curb detection and pedestrian hazard assessment
KR102022388B1 (ko) 실세계 물체 정보를 이용한 카메라 공차 보정 시스템 및 방법
US10275661B2 (en) Image processing apparatus, image processing method, and computer program product
WO2018225446A1 (ja) 地図変化点検出装置
JP6070206B2 (ja) 位置座標変換システム、位置座標変換方法、車載装置、世界座標計測装置および位置座標変換プログラム
JP4893212B2 (ja) 周辺監視装置
JP7077910B2 (ja) 区画線検出装置及び区画線検出方法
JP2008182652A (ja) カメラ姿勢推定装置、車両、およびカメラ姿勢推定方法
JP2010086268A (ja) 車両用表示体認識装置
JP2019003606A (ja) 地図変化点検出装置
JP5539250B2 (ja) 接近物体検知装置及び接近物体検知方法
JP5825713B2 (ja) 車両用危険場面再現装置
JP6961125B2 (ja) 車両姿勢測定装置および車両姿勢測定方法
JP2014067320A (ja) ステレオカメラ装置
JP4848698B2 (ja) 車両感知装置および車両感知方法
KR102044639B1 (ko) 스테레오 카메라 정렬 방법 및 장치
JP4397164B2 (ja) 障害物検出装置及び障害物検出方法
JP5722643B2 (ja) 物体検出装置、および、物体検出方法
JP2010204047A (ja) 移動物体計測システム、移動物体計測装置、移動物体計測方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210303

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220607

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220620

R151 Written notification of patent or utility model registration

Ref document number: 7102890

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151