JP2018181254A - 軌道識別装置、およびプログラム - Google Patents

軌道識別装置、およびプログラム Download PDF

Info

Publication number
JP2018181254A
JP2018181254A JP2017084556A JP2017084556A JP2018181254A JP 2018181254 A JP2018181254 A JP 2018181254A JP 2017084556 A JP2017084556 A JP 2017084556A JP 2017084556 A JP2017084556 A JP 2017084556A JP 2018181254 A JP2018181254 A JP 2018181254A
Authority
JP
Japan
Prior art keywords
image
line
index
area
search unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017084556A
Other languages
English (en)
Other versions
JP6903477B2 (ja
Inventor
拓也 二神
Takuya Futagami
拓也 二神
雄介 高橋
Yusuke Takahashi
雄介 高橋
広幸 小林
Hiroyuki Kobayashi
広幸 小林
雄史 鴨
Yushi Kamo
雄史 鴨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Infrastructure Systems and Solutions Corp
Original Assignee
Toshiba Corp
Toshiba Infrastructure Systems and Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Infrastructure Systems and Solutions Corp filed Critical Toshiba Corp
Priority to JP2017084556A priority Critical patent/JP6903477B2/ja
Priority to TW107112844A priority patent/TWI673654B/zh
Priority to PCT/JP2018/016313 priority patent/WO2018194158A1/ja
Priority to EP18788117.2A priority patent/EP3614342A4/en
Priority to SG11201909533T priority patent/SG11201909533TA/en
Priority to CN201880026218.0A priority patent/CN110537206B/zh
Publication of JP2018181254A publication Critical patent/JP2018181254A/ja
Priority to US16/654,324 priority patent/US11210548B2/en
Application granted granted Critical
Publication of JP6903477B2 publication Critical patent/JP6903477B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/35Categorising the entire scene, e.g. birthday party or wedding scene
    • G06V20/38Outdoor scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Train Traffic Observation, Control, And Security (AREA)
  • Image Analysis (AREA)
  • Electric Propulsion And Braking For Vehicles (AREA)

Abstract

【課題】より精度よく鉄道の線路を検出することができる。【解決手段】実施形態の軌道識別装置は、指標導出部と初期探索部と二次探索部と線路導出部とを持つ。指標導出部は、画像の画素または画素群ごとに鉄道の線路らしさを示す指標を導出する。初期探索部は、画像において初期エリアの上端の任意の一箇所と下端の任意の一箇所を結ぶ複数の線分を抽出し、線分上における指標の評価値が他の線分よりも大きい線分を一つ選択する。二次探索部は、選択された線分の上端の位置を最初の基準位置として、画像の上方に向かって拡がる探索領域に含まれる線分の中で指標の評価値が他の線分よりも大きい線分を選択し、選択した線分の上端を次の基準位置とすることを繰り返し実行する。線路導出部は、前記初期探索部、および前記二次探索部による処理結果に基づいて、鉄道の線路を導出する。【選択図】図2

Description

本発明の実施形態は、軌道識別装置、およびプログラムに関する。
従来、鉄道の線路の検査や、線路内に存在する障害物を検出することを目的として、画像から線路を検出する装置が知られている。このような装置は、例えば撮像された画像と、予め用意されたテンプレートとをマッチングすることにより線路を検出したり、ステレオカメラにより撮像された画像を用いて、自車両が走行中の線路を検出したりする。しかしながら、従来の装置では、精度良く線路を検出することができない場合があった。
特開2016−91506号公報 特開2000−32601号公報
本発明が解決しようとする課題は、より精度よく鉄道の線路を検出することができる軌道識別装置、およびプログラムを提供することである。
実施形態の軌道識別装置は、指標導出部と、初期探索部と、二次探索部と、線路導出部とを持つ。指標導出部は、鉄道車両の進行方向を撮像した画像の画素または画素群ごとに鉄道の線路らしさを示す指標を導出する。初期探索部は、前記画像において予め設定された初期エリア内で、前記初期エリアの上端の任意の一箇所と下端の任意の一箇所を結ぶ複数の線分を抽出し、線分上における前記指標導出部により導出された指標の評価値が他の線分よりも大きい線分を一つ選択する。二次探索部は、前記初期探索部により選択された線分の上端の位置を最初の基準位置として、画像の上方に向かって拡がる探索領域に含まれる線分の中で指標の評価値が他の線分よりも大きい線分を選択し、前記選択した線分の上端を次の基準位置とすることを繰り返し実行する。線路導出部は、前記初期探索部、および前記二次探索部による処理結果に基づいて、鉄道の線路を導出する。
軌道識別装置20を含む車両システム1の構成図。 軌道識別装置20の機能構成図。 軌道識別装置20により実行される処理の流れを示すフローチャート。 撮像部10により撮像された画像を模式的に示す図。 図4に示す画像から輝度勾配を求めた結果を示す図。 輝度勾配が求められた後の鳥瞰画像の一例を示す図。 初期エリアAR1において複数の線が設定される様子を示す図。 特徴位置を特定する処理について説明するための図。 特徴位置に基づいて複数の線を設定する処理を説明するための図。 位置情報56の内容を示す図。 特徴位置がプロットされた元画像を示す図。 判定領域の一例について説明するための図。 加工画像を模式的に示す図。 仮想線の設定について説明するための図。 線路分布情報60が反映された元画像の一例を示す図。 第3の実施形態の軌道識別装置20Aの機能構成を示す図。 初期エリアを設定する処理について説明するための図。
以下、実施形態の軌道識別装置、およびプログラムを、図面を参照して説明する。
(第1の実施形態)
[構成]
図1は、軌道識別装置20を含む車両システム1の構成図である。車両システム1は、線路R上を走行する鉄道車両RVに搭載されるシステムである。車両システム1は、例えば、撮像部10と、表示部12と、軌道識別装置20とを備える。撮像部10は、鉄道車両RVの運転席などに設けられ、鉄道車両RVの進行方向を撮像する。表示部12は、各種画像を表示する。
図2は、軌道識別装置20の機能構成図である。軌道識別装置20は、例えば、画像取得部22と、指標導出部24と、画像変換部26と、初期探索部28と、二次探索部30と、位置探索部32と、レール識別部(線路導出部)34と、判定領域特定部36と、注視物監視部38と、出力制御部40と、記憶部50とを備える。画像取得部22、指標導出部24、画像変換部26、初期探索部28と、二次探索部30、位置探索部32、レール識別部34、判定領域特定部36、注視物監視部38、および出力制御部40のうち、一部または全部は、例えば、CPU(Central Processing Unit)等のプロセッサが記憶部50に記憶されたプログラムを実行することにより実現される。また、これらの機能部のうち一部または全部は、LSI(Large Scale Integration)、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)等のハードウェアによって実現され、これらの機能部の機能を実現するための回路構成を有してもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。
記憶部50は、例えば、ROM(Read Only Memory)、フラッシュメモリ、HDD(Hard Disk Drive)、SDカード等の不揮発性の記憶媒体と、RAM(Random Access Memory)、レジスタ等の揮発性の記憶媒体とによって実現される。記憶部50は、プロセッサが実行するプログラムや、後述する、初期エリア情報52、画像変換情報54、位置情報56、注視物情報58等を格納する。
画像取得部22は、撮像部10により撮像された画像を取得する。取得される画像は、例えばカラー画像である。指標導出部24は、例えば、カラー画像をグレースケール画像や二値化画像に変換して、変換した画像の画素ごとに、鉄道の線路らしさを示す指標を導出する。この結果、画素に対して指標が対応付けられた指標画像が得られる。また、これに代えて、指標導出部24は、所定数の画素をグループ化した画素群ごとに鉄道の線路らしさを示す指標を導出してもよい。画像変換部26は、指標導出部24により生成された指標画像を上空から見た鳥瞰画像に変換する。
初期探索部28は、指標画像から変換された鳥瞰画像において予め設定された初期エリア内で、初期エリアの上端の任意の一箇所と下端の任意の一箇所を結ぶ複数の線分を網羅的に抽出する。「線」とは、画素または画素をグループ化した画素群が所定の方向に連なった領域である。初期探索部28は、線上における指標導出部24により導出された指標の評価値が他の線分よりも大きい線分を一つ選択する。評価値とは、線路らしさを示す値である。例えば、評価値が高い程、その評価値に対応する線分は線路である確率が高い。評価値は、指標の平均値であってもよいし、所定の評価関数を用いて指標を処理した値であってもよい。以下の説明では、一例として、評価値は、指標の平均値であるものとして説明する。
二次探索部30は、初期探索部28により選択された線分の上端の位置を最初の基準位置として、画像の上方に向かって拡がる探索領域に含まれる線分の中で指標の評価値が他の線分よりも大きい線分を選択し、選択した線分の上端を次の基準位置とすることを繰り返し実行する。画像の上方に向かって拡がる探索領域とは、例えば、基準位置(または特徴位置)を要とする扇型の形状をなす領域である。
位置探索部32は、初期探索部28または二次探索部30により選択された線分の上端を含む所定の範囲を探索して、指標が他の部分よりも大きい特徴位置を特定し、基準位置を特徴位置に補正する。
レール識別部34は、初期探索部28および二次探索部30による処理結果に基づいて、鉄道の線路を導出する。具体的には、レール識別部34は、位置探索部32により特定された特徴位置を連ねた線を鉄道の線路として導出する。
判定領域特定部36は、レール識別部34により導出された線路の情報に基づいて、画像上において判定領域(詳細は後述)を特定する。注視物監視部38は、判定領域内において、注視物が存在するか否かを判定する。出力制御部40は、注視物監視部38により判定領域内において注視物が存在すると判定された場合、注視物が存在することを示す情報を撮像部10により撮像された画像に対応付けて、表示部12にその画像を表示させる。
[処理フロー]
以下、上述した各機能部の処理について、フローチャートを参照しながら説明する。図3は、軌道識別装置20により実行される処理の流れを示すフローチャートである。
まず、画像取得部22が、撮像部10により撮像された画像(元画像)を取得する(ステップS100)。次に、指標導出部24が、ステップS100で取得された画像に基づいて、指標を導出する(ステップS102)。指標とは、鉄道の線路らしさを示す尺度であって、例えば着目する画素における隣接画素との間の輝度勾配に基づいて導出される指標である。また、指標は、SOBELフィルタや、Laplacianフィルタ、Robinsonフィルタ、Cannyフィルタ等によって導出されてもよい。
図4は、撮像部10により撮像された画像を模式的に示す図である。なお、以下の説明では、撮像部10により撮像された画像または画像変換部26により変換された画像の上方向を上端側U、下方向を下端側L、右方向を右端側Ri、左方向を左端側Leと定義する。
図5は、図4に示す画像から輝度勾配を求めた結果を示す図である。線路は、例えば鋼などの材質で形成されており、鋼は、線路の周辺に敷き詰められた石(バラスト)に比して光の反射率が低いため、線路部分に対応する画素と、その周辺の画素との輝度差が大きくなる。この結果、図5に示すように線路部分に対応する領域では、輝度勾配が大きくなる。
次に、画像変換部26は、画像変換情報54を参照して、ステップS100で取得された元画像を鳥瞰画像に変換する(ステップS104)。元画像における指標は、その指標が導出された位置に対応する鳥瞰画像における位置に付与される。画像変換情報54は、撮像部10により撮像された元画像を、鳥瞰画像に変換するための予め設定された変換規則を示す情報である。画像変換情報54は、元画像の画素に対して鳥瞰画像の画素を対応付けたマップであってもよいし、元画像における座標を入力すると鳥瞰画像における座標を出力する関数であってもよい。図6は、輝度勾配が求められた後の鳥瞰画像の一例を示す図である。図6の詳細な説明は後述する。
次に、初期探索部28は、記憶部50に記憶された初期エリア情報52を参照して(ステップS106)、鳥瞰画像おいて初期エリアの上端の任意の一箇所と下端の任意の一箇所とを結ぶ複数の線を設定する(ステップS108)。初期エリア情報52は、鳥瞰画像において予め設定された領域であって、鉄道車両RVが走行する線路を含み、且つ鳥瞰画像の下端側Lに位置する領域の範囲を示す情報である。初期エリア情報52は、例えば、鉄道車両RVの撮像部10が取り付けられた位置、および取り付けられた位置から撮像部10が撮像する領域に基づいて予め求められている。前述した図6の例では、右端側Riの線路R1を含む初期エリアAR1と、左端側Leの線路R2を含む初期エリアAR2とが、初期エリアに相当する。
図7は、初期エリアAR1において複数の線が設定される様子を示す図である。図7において、初期エリアAR1の上端側Uの画素PU1〜PUnのうち任意の一箇所と、初期エリアAR1の下端側Lの画素PL1〜PLnのうち任意の一箇所とを結ぶ複数の線を網羅的に設定する(「n」は任意の自然数である)。なお、図示する例では、画素PL1と、PU1〜PUnのそれぞれを結んだ場合を示しているが、ステップS108の処理では、画素PL1〜PLnのそれぞれと、PU1〜PUnのそれぞれとを網羅的に結んだ線を設定する。また、初期エリアAR2においても同様の処理が行われる。
次に、初期探索部28は、初期エリアAR1およびAR2において、設定した線に含まれる指標の平均値が他の線に含まれる指標値よりも大きい線をそれぞれ一つ選択する(ステップS110)。より具体的には、初期探索部28は、画像変換情報54を参照して、鳥瞰画像における複数の線に含まれる画素に対応する指標に基づいて、指標の平均値が最も大きい線を選択する。本処理により、前述した図6の画像の線路R1およびR2に対応する画素を連ねた線に近似する線が選択される。
次に、位置探索部32は、初期探索部28により選択された線の上端(基準位置)を含む鳥瞰画像の所定の範囲を探索して、指標が他の部分よりも最も大きい特徴位置を特定し、基準位置を特徴位置に補正する(ステップS112)。所定の範囲とは、位置探索部32により特定された基準位置から左右方向に所定の幅を持つ線分領域である。なお、所定の範囲は、位置探索部32により特定された基準位置から縦方向にも幅を持たせて矩形領域としてもよい。また、特定された特徴位置の情報(座標)は、後述する位置情報56として記憶部50に記憶される。
図8は、特徴位置を特定する処理について説明するための図である。図7と同様の説明については省略する。例えば、初期探索部28は、ステップS110の処理において初期エリアAR1に含まれる画素PL10と、画素PU10とを結ぶ線を、指標の平均値が最も大きい線として選択したものとする。この場合、位置探索部32は、画素PU10、画素PU10の左右方向に延在する画素PU7〜PU9、および画素PU11〜PU13のそれぞれの指標を比較して、例えば最も指標が最も大きい画素を特徴位置として選択する。本実施形態では、画素PU11が特徴位置として選択されたものとする。
次に、二次探索部30が、鳥瞰画像において、位置探索部32により特定された特徴位置に基づいて、扇形の領域に複数の線を設定する(ステップS114)。図9は、特徴位置に基づいて複数の線を設定する処理を説明するための図である。例えば、二次探索部30は、図9(A)に示すように位置探索部32により特定された特徴位置PU11に基づいて、扇形の領域を設定する。扇形の領域とは、初期探索部28により選択された線Lを中心にし、且つ位置探索部32により特定された特徴位置PU11を起点として、右端側Riおよび左端側Leになす角度θで上端側U方向に延在させた仮想線VRおよびVLで区画された領域である。
なお、角度θは、予め設定された角度であって、例えば、鉄道の線路の規格等で規定された最大曲率の範囲をカバーする(受け持つ)ことができる角度である。また、仮想線VRおよびVLの長さは、予め設定された長さである。そして、二次探索部30は、図9(B)に示すように扇形の領域の上端の任意の一箇所と特徴位置PU11を網羅的に結ぶ複数の線を設定する。なお、二次探索部30は、初期エリアAR2において特定された特徴位置に基づいて、上述した処理と同様の処理を行う。
次に、二次探索部30は、設定した複数の線の中で指標の平均値が他の線よりも最も大きい線を選択する(ステップS116)。より具体的には、二次探索部30は、画像変換情報54を参照して、鳥瞰画像における複数の線に含まれる画素に対応する指標に基づいて、指標の平均値が他の線よりも最も大きい線を選択する。
次に、位置探索部32は、二次探索部30により選択された線の上端(基準位置)を含む鳥瞰画像の所定の範囲を探索して、指標が他の部分よりも最も大きい特徴位置を特定し、基準位置を特徴位置に補正する(ステップS118)。
次に、位置探索部32は、終了条件を満たすか否かを判定する(ステップS120)。終了条件とは、初期エリアAR1および初期エリアAR2を起点に特定された2つの基準位置(または特徴位置)の間隔が閾値以下となったこと、位置探索部32によって行われた基準位置を特定する処理が所定回数行われたこと、位置探索部32により特定された基準位置が鳥瞰画像において所定の位置より上端側に位置したこと、などである。
終了条件を満たさない場合、ステップS114〜S118の処理を繰り返す。この場合、二次探索部30は、ステップS118で特定された特徴位置に基づいて、ステップS114で複数の線を設定する。このように、ステップS114〜S118の処理が繰り返されることにより、上端側Uに向かって特徴位置が所定の間隔で設定される。
前述した図6について説明する。図示するように初期エリアAR1の特徴位置に基づいて、特徴位置CPr1が設定され、特徴位置CPr1に基づいて、特徴位置CPr2が特定され、・・・特徴位置CPr12が特定される。同様に初期エリアAR2の特徴位置に基づいて、特徴位置CPl1が設定され、特徴位置CPl1に基づいて、特徴位置CPl2が特定され・・・特徴位置CPl12が特定される。
また、設定された特徴位置の情報(座標)は、位置情報56として記憶部50に記憶される。図10は、位置情報56の内容を示す図である。位置情報56は、位置探索部32により特定された特徴位置の画像(鳥瞰画像)上の座標を示す情報である。位置情報56は、例えば、特定された特徴位置の順番に従って並べられている。具体的には、位置情報56において特徴位置は、初期探索部28により初期エリア内で選択された線の始点、位置探索部32により特定された最初の特徴位置、位置探索部32により特定された2番目の特徴位置・・・位置探索部32により特定されたN(「N」は任意の自然数)番目の特徴位置の順で並べられている。また、位置情報56において、位置探索部32により特定された特徴位置に対して、右端側の特徴位置を示す識別情報、または左端側の特徴位置を示す識別情報が対応付けられている。
終了条件を満たす場合、レール識別部34が、位置情報56を参照して、位置探索部32により特定された特徴位置を連ねて線路と推定される領域を特定する(ステップS122)。具体的には、レール識別部34は、位置情報56を参照して、位置探索部32により特定された特徴位置を元画像にプロットする。図11は、特徴位置がプロットされた元画像を示す図である。例えば図示するように、位置探索部32により特定された特徴位置(CPl0、CPr0(=PUr10))、位置探索部32により特定された最初の特徴位置(CPl1,CPr1)〜N番目(例えばCPl2,CPr2〜CPl6,CPr6等)の特徴位置がプロットされる。
更に、レール識別部34は、位置情報56を参照して、初期エリア内で選択された線の始点(PL10、PL10#)と位置探索部32により特定された最初の特徴位置とを結び、最初の特徴位置と2番目の特徴位置とを結び、・・・N−1の特徴位置とN番目の特徴位置と結ぶ。なお、この処理は、左端側の特徴位置、および右端側の特徴位置に対して行われる。このように処理が行われることにより、線路と推定される領域R1およびR2が特定される。なお、上述した処理では、位置情報56に含まれる特徴位置の座標は、鳥瞰画像に対応する座標のまま他の機能部や装置に出力されてもよいし、特徴位置は鳥瞰画像にプロットされてもよい。
次に、軌道識別装置20が、線路付近に注視物が存在するか否かを判定し、注視物が存在する場合に警報を表示部12に表示させる(ステップS124)。例えば、まず、判定領域特定部36が、判定領域を特定する。判定領域とは、線路R1およびR2により区画された領域およびその付近の領域であって、注視物が存在することが許容されない領域である。
図12は、判定領域の一例について説明するための図である。判定領域特定部36は、例えば、元画像上の所定の位置において、レールR1およびレールR2の横方向に関する間隔の中心である中心線Cを特定し、線路R2から法線方向に中心線Cまで延びる線の長さLAを特定する。また、判定領域特定部36は、特定した長さLAに基づいて、長さLB(基準長さ)を特定する。長さLBは、長さLAの左端に対して長さXLを加えた長さである。長さXLは、例えば、鉄道車両RVが線路を走行する場合に鉄道車両RVが、線路R2の幅方向からはみ出す長さ、またははみ出す長さに所定の長さを加えた長さである。長さXLは、例えば記憶部50に記憶されている。
更に、判定領域特定部36は、例えば、元画像上において、前回、長さLBを求めた位置より上端側においてレールR1およびレールR2の横方向に関する間隔の中心である中心線Cを特定し、線路R2から法線方向に中心線Cまで延びる線の長さLA#を特定する。また、判定領域特定部36は、特定した長さLA#に基づいて、長さLB#(基準長さ)を特定する。長さLA#と長さLB#との比率は、長さLAと長さLBとの比率と同様である。判定領域特定部36は、前回、基準長さを求めた位置より上端側Uにおいて、元画像において線路が消失する付近まで基準長さを求める。上述した処理は、線路R1側において同様に行われる。そして、判定領域特定部36は、基準長さの左端同士を求めた順に結んだ仮想線V1、および基準長さの右端同士を求めた順に結んだ仮想線V2で区画された領域を判定領域としてみなす。
また、注視物監視部38は、例えば、注視物情報58を参照し、且つ指標導出部24により導出された指標を用いて、元画像における判定領域内において、注視物のテンプレートに合致する画像領域が存在するか否かを判定する。注視物情報58には、例えば、複数の注視物のテンプレートが記憶されている。合致とは、完全一致に限らず、例えば、画像領域の形状と、注視物のテンプレートに対応付けられた形状とのに類似度が閾値以上であることを含む。なお、注視物監視部38は、ステレオカメラにより撮像された画像を取得し、取得した画像と注視物情報58とに基づいて、注視物が存在するか否かを判定してもよい。この場合、注視物情報58には、注視物の立体的な形状を示すテンプレートが含まれる。
出力制御部40は、注視物監視部38により判定領域内において注視物が存在すると判定された場合、注視物監視部38から注視物に相当する画像領域の情報を取得し、取得した画像領域を特定すると共に、特定した画像領域に対して注視物が存在することを示す情報を元画像において対応付ける。そして、出力制御部40は、上記の処理を行った加工画像を表示部12に表示させる。図13は、加工画像を模式的に示す図である。例えば、判定領域内に人が進入している場面が撮像部10により撮像された場合、表示部12には、注視物が存在することを示す情報を含む加工画像が表示される。なお、出力制御部40は、鉄道車両RVに設けられたスピーカ等に警告を出力させてもよい。これにより、鉄道車両RVの乗員は、鉄道車両RVの進行方向に注視物が存在することを認識することができる。そして、乗員は、注視物の存在を考慮して、鉄道車両RVを制御することができる。
上述した処理により、軌道識別装置20は、より精度よく鉄道の線路を検出することができる。また、軌道識別装置20は、検出した線路内に注視物が存在する場合に、注視物が存在することを示す情報を乗員に通知することができる。
また、上述した処理において、ステップS110、またはステップS116の処理によって求められる線の傾きの差が基準角度以上となる場合、角度を調整する補正が行われてもよい。これにより、片方の線路(右側或いは左側の線路)に物体が干渉し、線路とは異なる線が選択された場合であっても、他方の線路に基づいて物体が干渉していると推定される線路が補完される。この結果、物体が干渉している線路に近似する領域を画像において特定することができる。
また、上述した処理において、初期探索部28または二次探索部30は、選択した2つの線の間隔が、線路の間隔に基づいて予め設定された閾値を超える場合、2つの線の間隔が閾値以下になるように調整してもよい。例えば、この場合、初期探索部28は、例えば2つの線路を均等に互いに近づける。これにより、より精度よく線路を検出することができる。
また、上述した処理において、二次探索部30は、鳥瞰画像において設定された扇形の領域において、設定した複数の線の中から、指標の平均値が他の線よりも最も大きい線を選択することにより、より精度良く基準位置を特定することができる。特に、元画像の上端側U(すなわち列車から遠い領域)における基準位置を精度良く特定することができる。
また、上述した処理において、初期探索部28または二次探索部30により選択された線の上端を含む鳥瞰画像の所定の範囲が探索され、指標が他の部分よりも最も大きい特徴位置が特定される。このように、最も指標が最も大きい画素が特徴位置として選択されることにより、ステップS110またはステップS116で平均値に基づいて選択された線の先端が実際の線路に対応する画素とは異なる場合であっても、実際の線路に対応する画素に線の先端側を補正することができる。また、実際の線路がカーブしている場合にも、選択された線の先端が補正されることにより、より精度良く線路に対応した位置が特定される。
なお、基準位置が特徴位置に補正される処理は省略されてもよい。この場合、位置情報56には、基準位置の情報が記憶される。そして、線路と推定される領域は、基準位置を結んだ領域となる。また、この場合、探索領域は、基準位置を要とする扇型の形状をなす領域である。
また、上述した処理において、二次探索部30が、複数の線を設定する場合、初期探索部28または二次探索部30により選択された線Lを中心として、仮想線VRおよびVLを設定するものとしたが、これに限られない。例えば、二次探索部30は、前回よりも前の処理で選択された線を加味して、仮想線VRおよびVLを設定してもよい。
図14は、仮想線の設定について説明するための図である。例えば、基準位置CPrx1〜CPrx3が、この順で特定されたものとする。また、基準位置CPrx1に基づいて、複数の線が設定される際に、仮想線が設定される際の基準(中心)となる線L1と鳥瞰画像の横方向に延在する線とのなす角を角度θ1とする。基準位置CPrx2に基づいて、複数の線が設定される際に、仮想線が設定される際の基準となる線L2と鳥瞰画像の横方向に延在する線とのなす角を角度θ2とする。また、基準位置CPrx3に基づいて、複数の線が設定される際に、仮想線が設定される際の基準となる線L3と鳥瞰画像の横方向に延在する線とのなす角を角度θ3とする。この場合に、角度θ3は、式(1)に基づいて、求められる。このように、角度θ3が求められることにより、レールの曲率を反映した複数の線を設定することができ、より確実に線路を探索領域に含めることができる。なお、図中の角度θは、図9で説明した鉄道の線路の規格等で規定された最大曲率の範囲をカバーすることができる角度θである。
θ3=θ2+(θ2−θ1)…(1)
以上説明した第1の実施形態によれば、軌道識別装置20は、画像において予め設定された初期エリア内で、初期エリアの上端の任意の一箇所と下端の任意の一箇所を結ぶ複数の線分を抽出し、線分上における指標導出部24により導出された鉄道の線路らしさを示す指標の評価値が他の線分よりも大きい線分を一つ選択する初期探索部28と、初期探索部28により選択された線分の上端の位置を最初の基準位置として、画像の上方に向かって拡がる探索領域に含まれる線分の中で指標の評価値が他の線分よりも大きい線分を選択し、選択した線分の上端を次の基準位置とすることを繰り返し実行する二次探索部30と、初期探索部28、および二次探索部30による処理結果に基づいて、鉄道の線路を導出するレール識別部34とを持つことにより、より精度よく鉄道の線路を検出することができる。
(第2の実施形態)
第2の実施形態では、単線を特定するものとして説明した。これに対して、第2の実施形態では、複線を特定する。以下、第1の実施形態との相違点を中心に説明する。
第2の実施形態の記憶部50には、例えば、線路分布情報60が記憶されている。線路分布情報60は、画像(元画像または鳥瞰画像)上において、線路が存在していると推定される可能性が高い領域を示す情報である。線路分布情報60は、例えば実験的に求められた情報である。図15は、線路分布情報60が反映された元画像の一例を示す図である。図中、領域DAは、線路が存在していると推定される可能性が高い分布領域である。領域DAは、領域DA1、領域DA2、および領域D3を含む。領域DA1は、鉄道車両RVが走行する左右のレールのうち左側レールが存在する可能性がある分布領域であり、領域DA2は、鉄道車両RVが走行する左右のレールのうち右側レールが存在する可能性がある分布領域である。また、領域DA3は、鉄道車両RVが走行する左側または右側のレール、或いは左側および右側レールが存在する可能性がある分布領域である。
また、線路分布情報60には、初期エリアAR#が対応付けられている。図示する例では、軌道識別装置20が搭載された鉄道車両RVが走行する線路に対応する領域DAを示しているが、更に、軌道識別装置20が搭載された鉄道車両RVが走行する線路とは異なる線路(例えば隣接する線路)が存在していると推定される分布領域が、線路分布情報60には含まれている。
初期探索部28は、初期エリアAR#内で、初期エリアAR#の上端の任意の一箇所と下端の任意の一箇所を結ぶ複数の線を抽出し、抽出した線に含まれる指標導出部24により導出された指標の評価値が他の線に含まれる指標の評価値よりも最も大きい線を二つ選択し、線路と推定する。また、初期探索部28は、軌道識別装置20が搭載された鉄道車両RVが走行する線路とは異なる線路に対応する初期エリア内で、上述した処理と同様の処理を行って、軌道識別装置20が搭載された鉄道車両RVが走行する線路とは異なる線路を推定する。そして、初期探索部28は、推定した二つの線路が所定の条件を満たす場合、推定した線路は線路であると特定する。所定の条件とは、例えば二つの線路のそれぞれの左側(または右側)の線路の鳥瞰画像の横方向に関する間隔が設定された基準(距離の範囲)を満たすことである。
以降の処理において、位置探索部32は、選択された線のそれぞれに対して、第1の実施形態と同様の処理が行い、鉄道車両RVが走行する線路、およびこの線路とは異なる線路に対応する基準位置を設定する。
以上説明した第2の実施形態によれば、軌道識別装置20は、画像において線路ごとに予め設定された初期エリア内で、初期エリアの上端の任意の一箇所と下端の任意の一箇所を結ぶ複数の線を抽出し、抽出した線に含まれる指標の評価値が他の線に含まれる指標の評価値よりも最も大きい線を一つ選択し、選択した線のそれぞれに対して、第1の実施形態と同様の処理が行うことにより、複線を特定することができる。
(第3の実施形態)
第3の実施形態では、軌道識別装置20の過去の処理結果を参照して、線路を特定するする。以下、第1の実施形態との相違点を中心に説明する。
図16は、第3の実施形態の軌道識別装置20Aの機能構成を示す図である。軌道識別装置20Aは、第1実施形態の初期探索部28、および記憶部50に代えて、初期探索部28Aおよび記憶部50Aを備える。記憶部50Aには、特定レール情報62が記憶されている。特定レール情報62は、過去に特定された基準位置の情報、およびレール識別部34により特定された線路と推定される領域の情報である。
初期探索部28Aは、特定レール情報62を参照して、初期エリアを設定する。図17は、初期エリアを設定する処理について説明するための図である。初期探索部28Aは、特定レール情報62に含まれる前回、線路と推定した領域R1およびR2を、処理対象の鳥瞰画像上にプロットし、プロットした領域R1および領域R2を包含する所定の領域を初期エリアAR#1として設定する。初期探索部28Aは、初期エリアAR#1内で、初期エリアAR#1の上端の任意の一箇所と下端の任意の一箇所を結ぶ複数の線を抽出し、抽出した線に含まれる指標導出部24により導出された指標の評価値が他の線に含まれる指標の評価値よりも最も大きい線を一選択する。そして、軌道識別装置20Aは、第1の実施形態と同様に基準位置を特定して、線路と推定される領域を特定する。
以上説明した第3の実施形態によれば、軌道識別装置20は、特定レール情報62に含まれる前回、線路と推定した領域R1およびR2を参照して、初期エリアAR#1を決定することにより、第1の実施形態と同様の効果を奏することができる。
以上説明した少なくともひとつの実施形態によれば、鉄道車両の進行方向を撮像した画像の画素または画素群ごとに鉄道の線路らしさを示す指標を導出する指標導出部と、前記画像において予め設定された初期エリア内で、前記初期エリアの上端の任意の一箇所と下端の任意の一箇所を結ぶ複数の線分を抽出し、線分上における前記指標導出部により導出された指標の評価値が他の線分よりも大きい線分を一つ選択する初期探索部と、前記初期探索部により選択された線分の上端の位置を最初の基準位置として、画像の上方に向かって拡がる探索領域に含まれる線分の中で指標の評価値が他の線分よりも大きい線分を選択し、前記選択した線分の上端を次の基準位置とすることを繰り返し実行する二次探索部と、前記初期探索部、および前記二次探索部による処理結果に基づいて、鉄道の線路を導出するレール識別部とを持つことにより、より精度よく鉄道の線路を検出することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1…車両システム、10…撮像部、20…軌道識別装置、22…画像取得部、24…指標導出部、26…画像変換部、28…初期探索部、30…二次探索部、32…位置探索部、34…レール識別部(線路導出部)、RV…鉄道車両

Claims (6)

  1. 鉄道車両の進行方向を撮像した画像の画素または画素群ごとに鉄道の線路らしさを示す指標を導出する指標導出部と、
    前記画像において予め設定された初期エリア内で、前記初期エリアの上端の任意の一箇所と下端の任意の一箇所を結ぶ複数の線分を抽出し、線分上における前記指標導出部により導出された指標の評価値が他の線分よりも大きい線分を一つ選択する初期探索部と、
    前記初期探索部により選択された線分の上端の位置を最初の基準位置として、画像の上方に向かって拡がる探索領域に含まれる線分の中で指標の評価値が他の線分よりも大きい線分を選択し、前記選択した線分の上端を次の基準位置とすることを繰り返し実行する二次探索部と、
    前記初期探索部、および前記二次探索部による処理結果に基づいて、鉄道の線路を導出する線路導出部と、
    を備える軌道識別装置。
  2. 前記探索領域は、前記基準位置を要とし、前記画像の上方に向けて扇形に拡がる領域である、
    請求項1に記載の軌道識別装置。
  3. 前記初期探索部または前記二次探索部により選択された線分の上端を含む所定の範囲を探索して、前記指標が他の部分よりも大きい特徴位置を特定し、前記基準位置を前記特徴位置に補正する位置探索部を、更に備える、
    請求項1または請求項2に記載の軌道識別装置。
  4. 前記所定の範囲は、前記上端を中心として画像横方向に広がる線分領域、または画像縦方向にも幅を持つ矩形領域である、
    請求項3に記載の軌道識別装置。
  5. 前記画像を上空から見た画像に変換する変換部を、更に備え、
    前記初期探索部および前記二次探索部は、前記変換部により変換された画像において、前記基準位置を設定する、
    請求項1から4のうちいずれか1項に記載の軌道識別装置。
  6. コンピュータに、
    鉄道車両の進行方向を撮像した画像の画素または画素群ごとに鉄道の線路らしさを示す指標を導出させ、
    前記画像において予め設定された初期エリア内で、前記初期エリアの上端の任意の一箇所と下端の任意の一箇所を結ぶ複数の線分を抽出させ、
    線分上における前記導出された指標の評価値が他の線分よりも大きい線分を一つ選択させ、
    前記選択させた線分の上端の位置を最初の基準位置として、画像の上方に向かって拡がる探索領域に含まれる線分の中で指標の評価値が他の線分よりも大きい線分を選択させ、
    前記選択させた線分の上端を次の基準位置とすることを繰り返し実行させ、
    前記選択の処理結果に基づいて、鉄道の線路を導出させる、
    プログラム。
JP2017084556A 2017-04-21 2017-04-21 軌道識別装置、およびプログラム Active JP6903477B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2017084556A JP6903477B2 (ja) 2017-04-21 2017-04-21 軌道識別装置、およびプログラム
TW107112844A TWI673654B (zh) 2017-04-21 2018-04-16 軌道識別裝置及程式
EP18788117.2A EP3614342A4 (en) 2017-04-21 2018-04-20 TRAJECTORY IDENTIFICATION DEVICE, PROGRAM, AND TRAJECTORY IDENTIFICATION METHOD
SG11201909533T SG11201909533TA (en) 2017-04-21 2018-04-20 Railway track recognition apparatus, program, and railway track recognition method
PCT/JP2018/016313 WO2018194158A1 (ja) 2017-04-21 2018-04-20 軌道識別装置、プログラム、および軌道識別方法
CN201880026218.0A CN110537206B (zh) 2017-04-21 2018-04-20 铁路轨道识别装置、程序及铁路轨道识别方法
US16/654,324 US11210548B2 (en) 2017-04-21 2019-10-16 Railroad track recognition device, program, and railroad track recognition method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017084556A JP6903477B2 (ja) 2017-04-21 2017-04-21 軌道識別装置、およびプログラム

Publications (2)

Publication Number Publication Date
JP2018181254A true JP2018181254A (ja) 2018-11-15
JP6903477B2 JP6903477B2 (ja) 2021-07-14

Family

ID=63855788

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017084556A Active JP6903477B2 (ja) 2017-04-21 2017-04-21 軌道識別装置、およびプログラム

Country Status (7)

Country Link
US (1) US11210548B2 (ja)
EP (1) EP3614342A4 (ja)
JP (1) JP6903477B2 (ja)
CN (1) CN110537206B (ja)
SG (1) SG11201909533TA (ja)
TW (1) TWI673654B (ja)
WO (1) WO2018194158A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2021044564A1 (ja) * 2019-09-05 2021-12-23 三菱電機株式会社 前方監視装置及び前方監視装置のキャリブレーション方法
WO2022009506A1 (ja) 2020-07-07 2022-01-13 株式会社 東芝 撮影装置
DE112020007667T5 (de) 2020-12-08 2023-09-07 Mitsubishi Electric Corporation Schienenerfassungsvorrichtung und schienenerfassungsverfahren
JP7481872B2 (ja) 2020-03-27 2024-05-13 日立造船株式会社 画像による鉄道レールの検出方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002002485A (ja) * 2000-06-21 2002-01-09 Fuji Heavy Ind Ltd 軌道認識装置及び軌道認識装置を用いた鉄道車両
JP2014062415A (ja) * 2012-09-21 2014-04-10 Mitsubishi Electric Corp 軌道検出装置及び軌道監視装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000032601A (ja) 1998-07-09 2000-01-28 Fuji Heavy Ind Ltd 軌道認識装置
JP2002008019A (ja) 2000-06-21 2002-01-11 Fuji Heavy Ind Ltd 軌道認識装置及び軌道認識装置を用いた鉄道車両
TWI466545B (zh) 2010-10-12 2014-12-21 Hon Hai Prec Ind Co Ltd 攝影機裝置及利用其進行影像監控的方法
TW201216711A (en) 2010-10-12 2012-04-16 Hon Hai Prec Ind Co Ltd TOF image capturing device and image monitoring method using the TOF image capturing device
JP5884560B2 (ja) * 2012-03-05 2016-03-15 オムロン株式会社 文字認識のための画像処理方法、およびこの方法を用いた文字認識装置およびプログラム
CN102663352B (zh) * 2012-03-23 2014-07-30 华南理工大学 一种轨道识别方法
JP2014017611A (ja) 2012-07-06 2014-01-30 Toshiba Corp 軌道点検装置
JP6034767B2 (ja) 2013-09-02 2016-11-30 公益財団法人鉄道総合技術研究所 レール検出装置、鉄道用前方監視カメラ装置、鉄道車両、およびレール検出方法ならびに制御方法
JP6278790B2 (ja) * 2014-03-31 2018-02-14 株式会社デンソーアイティーラボラトリ 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラムならびに車両位置検出システム
CN105335681B (zh) * 2014-07-14 2017-09-22 株式会社理光 条形码识别装置、文档图像管理系统以及条形码识别方法
JP6572411B2 (ja) 2014-11-11 2019-09-11 株式会社明電舎 レール検出装置
JP6307037B2 (ja) 2015-03-31 2018-04-04 公益財団法人鉄道総合技術研究所 障害物検知方法およびその装置
CN106023076B (zh) 2016-05-11 2019-04-23 北京交通大学 全景图的拼接方法和检测高速铁路的防护栏的缺损状态的方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002002485A (ja) * 2000-06-21 2002-01-09 Fuji Heavy Ind Ltd 軌道認識装置及び軌道認識装置を用いた鉄道車両
JP2014062415A (ja) * 2012-09-21 2014-04-10 Mitsubishi Electric Corp 軌道検出装置及び軌道監視装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2021044564A1 (ja) * 2019-09-05 2021-12-23 三菱電機株式会社 前方監視装置及び前方監視装置のキャリブレーション方法
JP7143956B2 (ja) 2019-09-05 2022-09-29 三菱電機株式会社 前方監視装置及び前方監視装置のキャリブレーション方法
JP7481872B2 (ja) 2020-03-27 2024-05-13 日立造船株式会社 画像による鉄道レールの検出方法
WO2022009506A1 (ja) 2020-07-07 2022-01-13 株式会社 東芝 撮影装置
DE112020007667T5 (de) 2020-12-08 2023-09-07 Mitsubishi Electric Corporation Schienenerfassungsvorrichtung und schienenerfassungsverfahren

Also Published As

Publication number Publication date
SG11201909533TA (en) 2019-11-28
US11210548B2 (en) 2021-12-28
CN110537206A (zh) 2019-12-03
EP3614342A1 (en) 2020-02-26
EP3614342A4 (en) 2021-01-13
CN110537206B (zh) 2023-07-28
US20200050882A1 (en) 2020-02-13
TWI673654B (zh) 2019-10-01
JP6903477B2 (ja) 2021-07-14
WO2018194158A1 (ja) 2018-10-25
TW201903646A (zh) 2019-01-16

Similar Documents

Publication Publication Date Title
US10339397B2 (en) Detecting device, detecting method, and program
WO2018194158A1 (ja) 軌道識別装置、プログラム、および軌道識別方法
US9846823B2 (en) Traffic lane boundary line extraction apparatus and method of extracting traffic lane boundary line
EP3705371A1 (en) Obstacle detecting device
KR101281260B1 (ko) 차량 인식 방법 및 장치
US8098933B2 (en) Method and apparatus for partitioning an object from an image
JP6021689B2 (ja) 車両諸元計測処理装置、車両諸元計測方法及びプログラム
US9508000B2 (en) Object recognition apparatus
WO2014002692A1 (ja) ステレオカメラ
JP2015064752A (ja) 車両監視装置、および車両監視方法
KR101738034B1 (ko) 개선된 차선 인식 방법
WO2019203354A1 (ja) 軌道識別装置
JP2014186520A (ja) 画像処理装置、画像処理方法およびプログラム
JP2016130979A (ja) 検知装置、検知処理プログラム及び検知システム
WO2019149213A1 (zh) 基于影像识别路锥的方法、装置、存储介质以及车辆
JP2006201817A (ja) 車体色判別方法及び装置。
KR20090083184A (ko) 영상을 이용한 전후방 차량 검출 방법
JP2013254242A (ja) 画像認識装置、画像認識方法および画像認識プログラム
JP2019109681A (ja) 区画線特定装置
US9792511B2 (en) Method for the operation of an assistance system of a motor vehicle, as well as assistance system
JP2019179289A (ja) 処理装置、及びプログラム
JP2019179288A (ja) 処理装置、及びプログラム
JP6334773B2 (ja) ステレオカメラ
WO2020008787A1 (ja) カメラ装置の標識認識方法及び標識認識装置

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20170913

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20170913

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200408

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210525

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210623

R150 Certificate of patent or registration of utility model

Ref document number: 6903477

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150