JP7150508B2 - 鉄道車両用撮像システム - Google Patents

鉄道車両用撮像システム Download PDF

Info

Publication number
JP7150508B2
JP7150508B2 JP2018138596A JP2018138596A JP7150508B2 JP 7150508 B2 JP7150508 B2 JP 7150508B2 JP 2018138596 A JP2018138596 A JP 2018138596A JP 2018138596 A JP2018138596 A JP 2018138596A JP 7150508 B2 JP7150508 B2 JP 7150508B2
Authority
JP
Japan
Prior art keywords
camera
area
image
imaging
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018138596A
Other languages
English (en)
Other versions
JP2020017824A (ja
Inventor
広幸 小林
雄介 高橋
拓也 二神
勝大 堀江
直人 瀬戸
世支明 山崎
陽平 服部
博章 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Infrastructure Systems and Solutions Corp
Original Assignee
Toshiba Corp
Toshiba Infrastructure Systems and Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Infrastructure Systems and Solutions Corp filed Critical Toshiba Corp
Priority to JP2018138596A priority Critical patent/JP7150508B2/ja
Priority to PCT/JP2019/025429 priority patent/WO2020021949A1/ja
Priority to SG11202012917RA priority patent/SG11202012917RA/en
Priority to CN201980048961.0A priority patent/CN112470456B/zh
Priority to EP19840166.3A priority patent/EP3829155A4/en
Publication of JP2020017824A publication Critical patent/JP2020017824A/ja
Application granted granted Critical
Publication of JP7150508B2 publication Critical patent/JP7150508B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B61RAILWAYS
    • B61KAUXILIARY EQUIPMENT SPECIALLY ADAPTED FOR RAILWAYS, NOT OTHERWISE PROVIDED FOR
    • B61K9/00Railway vehicle profile gauges; Detecting or indicating overheating of components; Apparatus on locomotives or cars to indicate bad track sections; General design of track recording vehicles
    • B61K9/08Measuring installations for surveying permanent way
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B61RAILWAYS
    • B61LGUIDING RAILWAY TRAFFIC; ENSURING THE SAFETY OF RAILWAY TRAFFIC
    • B61L23/00Control, warning or like safety means along the route or between vehicles or trains
    • B61L23/04Control, warning or like safety means along the route or between vehicles or trains for monitoring the mechanical state of the route
    • B61L23/041Obstacle detection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Train Traffic Observation, Control, And Security (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Measurement Of Optical Distance (AREA)
  • Cameras In General (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Electric Propulsion And Braking For Vehicles (AREA)

Description

本発明の実施形態は、鉄道車両用撮像システムに関する。
従来から、鉄道車両の走行中に、線路の検査や、当該線路内に存在する障害物(注視が必要な注視物)の検出などを目的として、鉄道車両の進行方向の領域を撮像する撮像装置として、ステレオカメラを用いたシステムが種々提案されている。このようなステレオカメラは、主として、運転士が搭乗して実際に運転を行う鉄道車両において、補助的に障害物の検出やその障害物が鉄道車両の運行に影響するか否か等の判定を行うことで、運行の安全性向上を図るシステムとして利用されている。
特開2001-242521号公報
近年、鉄道車両においても自動走行を実現するための検討が種々行われている。そのため、障害物検出を確実に、かつより遠方の領域までが行える鉄道車両用撮像システムが提供できれば、有意義である。
実施形態にかかる鉄道車両用撮像システムは、第一の撮像部と、第二の撮像部と、画像処理部と、を備える。第一の撮像部は、先頭の鉄道車両の前端部に設けられて、鉄道車両の進行方向の第一の領域におけるステレオ画像を取得可能である。第二の撮像部は、前端部に設けられ、少なくとも第一の領域より遠方領域を含む第二の領域を撮像可能で、第一の撮像部より高解像度の高解像度画像を取得可能である。画像処理部は、第一の撮像部が取得するステレオ画像に基づき、第一の領域に存在する第一の位置までの第一の距離を算出し、第一の距離に基づき第二の領域内に存在する第二の位置までの第二の距離を推定する。
図1は、実施形態にかかる鉄道車両用撮像システムを含む鉄道車両の先頭部の構成を示した例示的かつ模式的な図である。 図2は、実施形態にかかる鉄道車両用撮像システムにおける撮像ユニットに含まれる第一の撮像部としての第1カメラと第2カメラ、および第二の撮像部としての第3カメラの位置関係を説明するための例示的かつ模式的な図である。 図3は、実施形態にかかる鉄道車両用撮像システムの構成を説明するための例示的かつ模式的なブロック図である。 図4は、実施形態にかかる鉄道車両用撮像システムにおける、第一の撮像部によって撮像される第一の領域と、第二の撮像部によって撮像される第二の領域の位置関係を説明するための例示的かつ模式的な図である。 図5は、実施形態にかかる鉄道車両用撮像システムにおける、障害物等の検知処理の流れを示した例示的かつ模式的なフローチャートである。 図6は、図5のフローチャートにおけるステレオ画像処理の流れを示した例示的かつ模式的なフローチャートである。
以下、実施形態を図面に基づいて説明する。以下に記載する実施形態の構成、ならびに当該構成によってもたらされる作用および結果(効果)は、あくまで一例であって、以下の記載内容に限られるものではない。
図1は、実施形態にかかる鉄道車両用撮像システム100の構成を示した例示的かつ模式的な図である。図1に示されるように、鉄道車両用撮像システム100は、一対のレールにより構成される線路R上を進行方向Dに沿って走行する鉄道車両RVに搭載されている。
また、図1に示されるように、鉄道車両用撮像システム100は、撮像ユニット10と、カメラ制御部12と、画像処理部14と、出力部16と、を有している。
撮像ユニット10は、鉄道車両RVの前端部(例えば先頭の鉄道車両RVの運転席等)に設けられ、鉄道車両RVの進行方向Dの領域(前方領域)を撮像する。撮像ユニット10によって得られる撮像画像には、線路Rが含まれる。本実施形態の撮像ユニット10は、鉄道車両RVの進行方向Dの第一の領域におけるステレオ画像を取得可能な第一の撮像部18(ステレオカメラ)と、この第一の領域より遠方領域を少なくとも含む第二の領域を撮像可能な第二の撮像部20(単カメラ)と、で構成されている。
図2は、撮像ユニット10に含まれる第一の撮像部18および第二の撮像部20の配置関係の一例を模式的に示した図である。第一の撮像部18および第二の撮像部20は、例えば、支持部材22(支持プレートや収納ボックス等)によって相互の位置関係が鉄道車両RVの走行時の振動等によって変化しないように固定されている。
本実施形態において、第一の撮像部18は、一例として鉄道車両RVの車幅方向に所定の間隔を隔てて配置された第1カメラ10aと第2カメラ10bとで構成されている。第1カメラ10aおよび第2カメラ10bは、例えば、CCD(Charge Coupled Device)やCIS(CMOS image sensor)等の撮像素子を内蔵するデジタルカメラで、いわゆる、「HD画質」の動画データ(撮像画像データ)を所定のフレームレートで出力することができる。
第二の撮像部20は、車幅方向に並ぶ第1カメラ10aおよび第2カメラ10bに対して、例えば、第1カメラ10aと第2カメラ10bの中間位置の上方に配置された、第一の撮像部18(第1カメラ10aおよび第2カメラ10b)より高解像度の高解像度画像が撮像可能な第3カメラ10cで構成されている。第3カメラ10cは、例えば、CCDやCIS等の撮像素子を内蔵するデジタルカメラで、いわゆる、「4K画質」の動画データ(撮像画像データ)を所定のフレームレートで出力することができる。
図3は、鉄道車両用撮像システム100の構成を説明するための例示的かつ模式的なブロック図である。カメラ制御部12、画像処理部14等の機能モジュールは、例えば、プロセッサやメモリなどといったハードウェアを有したコンピュータとして構成されうる。より具体的には、鉄道車両用撮像システム100のプロセッサが記憶部等のメモリに記憶されたプログラムを読み出して実行することによって各機能モジュールは実現される。なお、カメラ制御部12や画像処理部14等の機能モジュールは、専用のハードウェア(回路)によって実現されてもよい。
第1カメラ10a、第2カメラ10b、第3カメラ10cは、カメラ制御部12によって制御されている。カメラ制御部12は、撮像を行う場合、第1カメラ10a、第2カメラ10b、第3カメラ10cに対して、例えば、同期信号の他、露出やシャッタースピード、ホワイトバランス等を制御する信号を提供する。
図4は、第一の撮像部18(第1カメラ10a、第2カメラ10b)によって撮像される第一の領域24と、第二の撮像部20(第3カメラ10c)によって撮像される第二の領域26の位置関係を説明するための例示的かつ模式的な図である。図4は、線路R上を走行する鉄道車両RV(不図示)が前方に存在する駅のプラットホーム28に向かっている状態を示している。なお、図4に示されるように、本実施形態の鉄道車両用撮像システム100の場合、第二の撮像部20が撮像する第二の領域26の一部は、第一の撮像部18が撮像する第一の領域24の一部と重複するように、第一の撮像部18および第二の撮像部20の光軸の方向が設定されている。すなわち、第二の領域26は、第一の領域24には含まれない第一の領域24より遠方の遠方領域26a(遠エリア)を撮像範囲に含むと共に、遠方領域より手前で第一の領域24と重複する手前領域26b(近エリア)も撮像範囲に含んでいる。
画像処理部14は、第1カメラ10a、第2カメラ10b、第3カメラ10cから取得した各撮像画像データ(画像信号)に対して各種画像処理を施す。そして、画像処理部14は、第一の領域24に含まれる線路Rの検出および線路R上または線路R周辺の所定範囲以内の注意対象物体(障害物等)の有無検知やその注意対象物体までの距離検知を行う。同様に、画像処理部14は、第二の領域26の遠方領域26aに含まれる線路Rの検出および線路R上または線路R周辺の所定範囲以内の注意対象物体(障害物等)の有無検知およびその注意対象物体までの距離の推定処理等の物体検出処理を実行する。
上述したように、第1カメラ10aおよび第2カメラ10bは、鉄道車両RVの車幅方向に隔てられて配置され、第一の領域24を撮像範囲とするように設定されるとともに、同期信号により同じタイミングで同じ第一の領域24(第一の領域24に含まれる同じ対象物)の撮像を実行するように構成されている。その結果、画像処理部14は、第1カメラ10aおよび第2カメラ10bにより同じシーンのステレオ画像(第1ステレオ画像)が取得可能である。したがって、画像処理部14は、周知のステレオマッチング技術や三角測量技術を用いて、取得した第1ステレオ画像の視差に基づき、第一の領域24に含まれる対象物までの距離を算出することができる。例えば、第1カメラ10a、第2カメラ10bが、「HD画質」で撮像可能な「HDカメラ」の場合、第一の領域24は、例えば、鉄道車両RVの前方200m程度までを処理対象範囲とする実用に耐え得る距離測定を実行することができる。
画像処理部14は、周知の線路Rの検出技術を用いて、第1カメラ10aまたは第2カメラ10bで撮像された撮像画像から線路Rを検出することができる。画像処理部14は、例えば、撮像画像を複数の画素群(検知エリア、探索エリア)に分割し、この画素群ごとに、所定の基準に基づく線路Rらしさを表す尺度となり得る特徴量(例えば、輝度に関する特徴)に基づき、線路Rを検出する。なお、鉄道車両RVにおける第1カメラ10aや第2カメラ10bの固定位置は既知である。また、鉄道車両RVは線路R上を走行している。したがって、第1カメラ10aや第2カメラ10bが撮像する第一の領域24における線路Rの位置は、推定可能である。つまり、第一の領域24上で線路Rが存在すると推定される領域に検知エリアを設定することで、第一の領域24内で効率的かつ軽負荷で線路Rの検出が可能になる。なお、画像処理部14は、第1カメラ10aと第2カメラ10bとから取得したステレオ画像に基づき、距離情報が反映された距離画像を生成してもよい。そして、画像処理部14は、生成した距離画像に対して、検知エリアを設定し、線路Rの検出を行うようにしてもよい。
一方、第3カメラ10cは、第一の領域24を撮像領域に含むものの、単カメラとして機能するため、遠方領域26aに含まれる注意対象物体までの距離の算出はできないものの、遠方領域26aに存在する注意対象物体の存在は認識することができる。例えば、第3カメラ10cが、「4K画質」で撮像可能な「4Kカメラ」の場合、第二の領域26の遠方領域26aは、例えば、鉄道車両RVの前方400m程度までの範囲で実用に耐え得る注意対象物体(以下、「障害物等」という)検知を実現することができる。
上述したように、第1カメラ10aと第2カメラ10bで撮像される第一の領域24内では、正確な距離情報の取得ができる。そして、例えば、第一の領域24における最遠部30に存在する物体Mまでの距離および物体Mの大きさは正確に取得可能である。この場合、最遠部30に接する遠方領域26aにおける最近部32に存在する物体Nの大きさは物体Mの大きさと概ね同じである。そして、遠方領域26aに存在する注意対象物体、例えば、線路Rの周辺に存在する障害物等の大きさは既知である。例えば、線路Rに沿って設置される送電用の電柱や線路Rの周辺の構造物の大きさは既知である。したがって、遠方領域26aにおける1画素に対応する長さ(大きさ)が算出可能となる。つまり、前記第一の領域に存在する第一の位置(例えば、物体M)までの第一の距離を算出し、この第一の距離に基づき、第二の領域26(遠方領域26a)内に存在する第二の位置(物体P)までの第二の距離を推定することが可能となる。この場合、第3カメラ10cは、4K画質の撮像画像データなので、画素の数に基づく距離推定の信頼性の確保は十分に可能となる。
また、画像処理部14は、第一の領域24、第二の領域26(遠方領域26a)における注意対象物体(物体Mや物体P等の障害物)の検出は、周知のパターンマッチング等を検出した線路Rおよびその周囲の領域に適用することにより可能である。
このように、第一の撮像部18で撮像した撮像画像データと、第二の撮像部20で撮像した撮像画像データとを組み合わせることにより、障害物等の実質的な検知範囲の拡大が可能になる。例えば、鉄道車両RVの制動初速が100km/hの場合、制動距離は例えば約400m以下である。この場合、鉄道車両RVの最高速度が高いほど高速域での制動力が増加されるので、制動初速が100km/hの場合の制動距離はさらに短くなる。したがって、鉄道車両RVの前方400mまでの障害物等の位置が推定できる場合、障害物等が存在する場合、障害物等の例えば約400m手前から制動制御が可能となる。さらに、障害物等が鉄道車両RVの前方例えば200m以内の近エリアまでに接近した場合には、正確な距離測定が可能になる。その結果、鉄道車両RVの前方例えば400mで検出した障害物等と接触する前に鉄道車両RVの停止が可能となるとともに、例えば200m以内の領域では、詳細な制動制御によるスムーズな減速が実現できる。その結果、鉄道車両用撮像システム100は、自動走行する鉄道車両RVにおける障害物検知および自動制動制御に適用することができる。
上述した例では、画像処理部14は、第1カメラ10aと第2カメラ10bとによって、第1ステレオ画像を取得し、第一の領域24内の障害物等までの距離算出を行った。上述したように、第3カメラ10cが撮像範囲とする第二の領域26は第1カメラ10aおよび第2カメラ10bが撮像範囲とする第一の領域24と一部重複している。したがって、画像処理部14は、第一の領域24と第二の領域26の重複領域について、例えば、第2カメラ10bと第3カメラ10cとを用いて、同じシーンを撮像したステレオ画像(第2ステレオ画像)が取得可能である。同様に、画像処理部14は、第一の領域24と第二の領域26の重複領域について、例えば、第3カメラ10cと第1カメラ10aとを用いて、同じシーンを撮像したステレオ画像(第3ステレオ画像)が取得可能である。したがって、第1ステレオ画像を用いて距離測定を行った重複領域内の障害物等に対して、第2ステレオ画像および第3ステレオ画像を用いても距離測定を行うことができる。その結果、第1ステレオ画像に基づく距離測定結果、第2ステレオ画像に基づく距離測定結果、第3ステレオ画像に基づく距離測定結果を用いて、例えば各距離測定結果の平均値等を採用することにより、重複領域内の障害物等までの距離精度を向上するとことができる。つまり、鉄道車両RVが障害物等に接近した場合の距離測定精度を向上することができる。また、遠方領域26aにおける障害物等までの距離推定の精度向上も可能になる。
なお、この場合、HDカメラである第1カメラ10aおよび第2カメラ10bの解像度と4Kカメラである第3カメラ10cの解像度が異なるため、第3カメラ10cの撮像画像データに処理を加え、第1カメラ10aまたは第2カメラ10bの解像度と整合させる等の処理を施せば、ステレオ画像の処理が可能になる。
ところで、従来、ステレオカメラを用いた障害物検知および距離測定に基づいて、鉄道車両RVの自動走行を実施しようとする場合、ステレオカメラを構成するカメラのうち一方に不具合(例えばカメラの故障や配線不良等)が生じた場合、障害物等までの距離測定が不能となる。その結果、自動走行が中止されてしまう場合がある。一方、本実施形態の鉄道車両用撮像システム100によれば、上述のように、第1カメラ10aと第2カメラ10bのいずれかに不都合が生じた場合でも、不都合を起こした第1カメラ10aまたは第2カメラ10bに代えて、第3カメラ10cを用いてステレオカメラを構成し、障害物等までの距離測定(検出)処理を継続して行うことができる。つまり、第1カメラ10a、第2カメラ10b、第3カメラ10cのいずれかに不具合が生じた場合でも、自動走行を継続することができる。
このように構成される鉄道車両用撮像システム100による注意対象物体(例えば、障害物等)の検出処理、つまり、ステレオ画像処理の流れを図5、図6に示す例示的かつ模式的なフローチャートを用いて説明する。なお、図5に示すフローチャートの処理は、所定の処理周期で繰り返し実行されるものとする。
鉄道車両用撮像システム100のカメラ制御部12は、鉄道車両RVが動作可能状態の場合(例えば、電源ONの場合等)に、第1カメラ10aおよび第2カメラ10bによる第一の領域24の撮像、第3カメラ10cによる第二の領域26の撮像を実行させる(S100)。カメラ制御部12は、第1カメラ10a、第2カメラ10b、第3カメラ10cに対して同じシーンを同じ条件で撮像させるために、同期信号の他、露出やシャッタースピード、ホワイトバランス等を制御する信号を提供する。なお、第1カメラ10a、第2カメラ10b、第3カメラ10cは、制御信号や電源等をそれぞれ個別に受け付けるように構成されている。したがって、いずれかのカメラに不具合が生じた場合でも、正常なカメラの撮像および撮像画像データの出力に影響しないように構成されている。
そして、画像処理部14は、全カメラ(第1カメラ10a、第2カメラ10b、第3カメラ10c)の各撮像画像データの逐次取得に成功した場合(S102のYes)、ステレオ画像処理を実行する(S104)。ステレオ画像処理の詳細は、図6のフローチャートを用いて説明する。
まず、画像処理部14が、第1カメラ10a、第2カメラ10bの撮像した撮像画像(第1ステレオ画像)に関して処理済みでないと判定した場合(S200のNo)、第1カメラ10a、第2カメラ10bの撮像画像に対して平行等位化変換処理を施す(S202)。つまり、画像処理部14は、第1ステレオ画像をステレオマッチング処理による視差検出が可能な状態にする。そして、画像処理部14は、検出した視差に基づき、第1カメラ10a、第2カメラ10bの撮像した撮像画像(第1ステレオ画像)に基づき、距離情報を含む第1距離画像を生成する(S204)。
画像処理部14は、第1距離画像に対し、輝度に関する特徴等を用いて周知の線路Rの検知技術を適用し、線路Rの検知を実行する(S206)。なお、前述したように、撮像画像内で線路Rの存在位置は、概ね決まっている。したがって、線路Rの検知エリアを予想される存在位置に設定することにより、画像処理部14の処理負荷の軽減が可能になる。続いて、画像処理部14は、検知した線路Rに対して障害物等を検知する認識エリアの設定を行う(S208)。そして、画像処理部14は、設定した認識エリア内で、周知の検知技術(例えば、パターンマッチング等)を用いて障害物等の検知を実行する。なお、障害物等の検知は、主として鉄道車両RVの安全な走行を確保することを目的とする。そのため、基本的には、障害物等は、線路R上および線路Rの周囲の所定範囲の限定された範囲に設定されれば十分である。認識エリアを限定的に設定することにより、画像処理部14の障害物等検知の処理負荷の軽減ができる。
画像処理部14は、第1カメラ10a、第2カメラ10b、第3カメラ10cの各組合せによる障害物等検知が完了していない場合(S212のNo)、S200の処理に戻る。
S200において、画像処理部14が、第1カメラ10a、第2カメラ10bの撮像した撮像画像(第1ステレオ画像)に関して処理済みで(S200のYes)、第2カメラ10b、第3カメラ10cの撮像した撮像画像(第2ステレオ画像)に関して処理済みでないと判定した場合(S214のNo)、第2カメラ10b、第3カメラ10cの撮像画像に対して平行等位化変換処理を施す(S216)。つまり、画像処理部14は、第2ステレオ画像をステレオマッチング処理による視差検出が可能な状態にする。そして、画像処理部14は、検出した視差に基づき、第2カメラ10b、第3カメラ10cの撮像した撮像画像(第2ステレオ画像)に基づき、距離情報を含む第2距離画像を生成する(S218)。
その後、画像処理部14は、第1距離画像に対する処理と同様に第2距離画像に対して線路Rの検知を実行し(S206)、認識エリアの設定を行う(S208)。そして、画像処理部14は、第2距離画像で設定した認識エリア内で障害物等の検知を実行し(S210)、再度、S212において、各カメラの組合せによる障害物等検知が完了しているか否かの判定を実行する(S212)。
また、S214において、画像処理部14が、第2カメラ10b、第3カメラ10cの撮像した撮像画像(第2ステレオ画像)に関して処理済みであると判定した場合(S214のYes)、第3カメラ10c、第1カメラ10aの撮像画像に対して平行等位化変換処理を施す(S220)。つまり、画像処理部14は、第3ステレオ画像をステレオマッチング処理による視差検出が可能な状態にする。そして、画像処理部14は、検出した視差に基づき、第3カメラ10c、第1カメラ10aの撮像した撮像画像(第3ステレオ画像)に基づき、距離情報を含む第3距離画像を生成する(S222)。
その後、画像処理部14は、第1距離画像、第2距離画像に対する処理と同様に第3距離画像に対して線路Rの検知を実行し(S206)、認識エリアの設定を行う(S208)。そして、画像処理部14は、第3距離画像で設定した認識エリア内で障害物等の検知を実行し(S212)、再度、S212において、各カメラの組合せによる障害物等検知が完了しているか否かの判定を実行する(S212)。
画像処理部14は、S212において、第1カメラ10a、第2カメラ10b、第3カメラ10cの各組合せによる障害物等の検知処理(第1距離画像、第2距離画像、第3距離画像に対する検知処理)が完了したと判定した場合(S212のYes)、各検知結果に基づき、注意対象物体である障害物等までの距離を修正して、障害物検知位置の修正(距離精度の高精度化)を行う(S224)。そして、画像処理部14は、検知した障害物等およびその障害物等までの距離を近エリア(第一の領域24または第一の領域24と第二の領域26との重複領域)の検知結果として一旦記憶部に保存する(S226)。
このように、第1カメラ10a、第2カメラ10b、第3カメラ10cを組み合わせた、3系統のステレオカメラによって、障害物等までの距離測定を個々に実行し、障害物検知位置に反映させることで、第一の領域24と第二の領域26とが重なる領域における障害物等までの距離測定精度の向上ができる。なお、別の実施形態では、第1カメラ10a、第2カメラ10b、第3カメラ10cが正常に動作している場合(正常に撮像画像データを出力している場合)、第2距離画像、第3距離画像の生成を省略してもよい。この場合、画像処理部14の負荷の軽減を図りつつ、ステレオ画像に基づく距離測定により近エリアにおける障害物等までの距離測定が実現できる。
近エリアにおける障害物等の検知処理が完了すると、図5のフローチャートに戻り、画像処理部14は、近エリアに第3カメラ10cで撮像した遠方領域26aを追加することで、線路Rの検知エリアの拡張(拡張認識エリアの設定)を実行する(S106)。そして、画像処理部14は、拡張認識エリア内で障害物等の検知を実行する(S108)。なお、画像処理部14は、拡張認識エリア内で障害物等の検知に先立ち、第一の領域24と同様に、輝度に関する特徴等を用いて周知の線路Rの検知技術を適用して線路Rを検知して障害物等の検知領域を設定してもよい。また、別の実施形態では、線路Rが第一の領域24および遠方領域26aにおいて連続していることに着目し、第一の領域24で検知した線路Rの延長上に遠方領域26aにおける線路Rも存在すると見なし、その延長領域内で障害物等を検知するようにしてもよい。
続いて、画像処理部14は、拡張エリア(遠方領域26a)における距離推定を実行する(S110)。前述したように、近エリア(第一の領域24)の最遠部30の物体Mと遠方領域26aの最近部32の物体Nとの大きさは、概ね一致し、物体Mまでの距離は、第一の領域24におけるステレオ画像の処理により高精度に取得できる。したがって、遠方領域26aの物体Nとそれより遠方に存在する障害物等との大きさの比較および、物体M(物体N)までの距離とに基づき、遠方領域26a内で検知された障害物等の位置(障害物等までの距離)を推定することができる。なお、鉄道車両RVの走行安全性を確保する場合、第一の領域24における障害物等の存在や位置および遠方領域26aにおける障害物等の存在が検知できれば、鉄道車両RVの安全な走行を実現できる。したがって、別の実施形態では、S110の処理を省略してもよい。この場合、遠方領域26aにおける画像処理部14の処理負荷を軽減することができる。
そして、画像処理部14は、障害物等の検知結果を出力部16に出力して、この処理周囲の処理を一旦終了する(S112)。すなわち、画像処理部14は、S104のステレオ画像処理で第一の領域24(または第一の領域24と第二の領域26との重複領域)において障害物等が検知された場合は、障害物等の有無および位置(距離)を出力部16を介して、鉄道車両RVの走行システムや、鉄道車両RVの走行を管理および監視している外部のシステムに提供して鉄道車両RVの制御に反映させる。同様に画像処理部14は、遠方領域26aで障害物等が検知された場合には、障害物が検知されたことを示す情報を出力部16を介して鉄道車両RVの走行システムや外部のシステムに提供して鉄道車両RVの制御に反映させる。なお、画像処理部14は、遠方領域26aにおいて障害物等が検知された場合に位置(距離)を推定している場合は、その情報も併せて出力部16を介して出力してもよい。画像処理部14は、検知した障害物等を出力部16を介して、外部のシステム(監視センター)等に提供する場合、障害物等を強調する強調信号や警報信号等を付加してもよい。
S102において、画像処理部14は、全カメラ(第1カメラ10a、第2カメラ10b、第3カメラ10c)の各撮像画像データの逐次取得に成功していないと判定した場合(S102のNo)、正常なカメラの数を確認する(S114)。第1カメラ10a、第2カメラ10b、第3カメラ10cのうち正常に撮像画像データを出力し、画像処理部14が撮像画像データを取得しているカメラが2台の場合(S114のYes)、その2台のカメラを用いたステレオ画像を取得する(S116)。つまり、画像処理部14は、第1ステレオ画像または、第2ステレオ画像または、第3ステレオ画像のいずれかを取得する。そして、取得したステレオ画像に対して、平行等位化変換処理を施す(S118)。つまり、画像処理部14は、取得できたステレオ画像を、ステレオマッチング処理による視差検出が可能な状態にする。そして、画像処理部14は、検出した視差に基づき、ステレオ画像に基づく距離画像を生成する(S120)。
画像処理部14は、生成した距離画像に対し、輝度に関する特徴等を用いて周知の線路Rの検知技術を適用して線路Rの検知を実行する(S122)。続いて、画像処理部14は、検知した線路Rに対して障害物等を検知する認識エリアの設定を行う(S124)。そして、画像処理部14は、設定した認識エリア内で、周知の検知技術(例えば、パターンマッチング等)を用いて障害物等の検知を実行する(S126)。画像処理部14は、近エリアにおける障害物等の検知結果を出力部16を介して出力し、この処理周囲の処理を一旦終了する(S128)。すなわち、画像処理部14は、現在、正常な撮像画像データを出力可能な2台のカメラを用いて、障害物等の検知を行う。なお、第3カメラ10cに不都合が生じている場合、障害物等の検出領域は、第1カメラ10aと第2カメラ10bで撮像が正常に行える第一の領域24に限定した障害物等の検知となる。一方。第2カメラ10bまたは第2カメラ10bのいずれか一方に不具合が生じた場合、第一の領域24と第二の領域26の重複領域における障害物等の有無および位置の検知が可能であるとともに、遠方領域26aにおける障害物等の検知が可能となる。
なお、図114において、正常に撮像画像データを出力可能なカメラが2台存在しない場合(S114のNo)、画像処理部14は、障害物等が存在する場合でもその位置(距離)検出が不能であると判定し、エラー処理を実行する。すなわち、画像処理部14は、出力部16を介してエラー情報を鉄道車両RVの走行システムや外部のシステムに提供して、鉄道車両RVの走行制御に反映させる。例えば、一時的な走行停止処理等を実行させる。
このように、鉄道車両用撮像システム100によれば、第1カメラ10a、第2カメラ10b、第3カメラ10cにより同じシーンを撮像したステレオ画像を撮像することにより、障害物等の注意対象物体の検知範囲を拡大することができる。また、複数のカメラの不具合が同時に発生する可能性は一般的に低く、鉄道車両用撮像システム100は、少なくとも2台のカメラによりステレオ画像が取得できる構成としているので、カメラの不具合により、直ちに鉄道車両RVの自動運転ができなくなる事態を回避することができる。
なお、本実施形態では、撮像ユニット10の一例として、第一の撮像部18を二つのHDカメラ(第1カメラ10a、第2カメラ10b)で構成し、第二の撮像部20を一つの4Kカメラ(第3カメラ10c)で構成した例を示した。この場合、最小限の構成で障害物等の検知領域の拡張および、カメラに不都合が生じた場合の対策を実現することができる。別の実施形態では、4台以上のカメラで撮像ユニット10を構成してもよく、同様な効果を得ることができる。
また、本実施形態では、鉄道車両用撮像システム100を自動走行可能な鉄道車両RVに適用する例を説明した。他の実施形態では、運転士が搭乗可能な鉄道車両(運転士による運転の有無は問わない)に、鉄道車両用撮像システム100を適用してもよく、同様な効果を得ることができる。この場合、出力部16は、運転席等に設置された表示装置に図4に示すような、画像を表示し、障害物等の検知結果を表示したり、その結果に対応する音声メッセージや警告音を出力したりするようにしてもよい。
以上、本発明のいくつかの実施形態を説明したが、上記実施形態および変形例はあくまで一例であって、発明の範囲を限定することは意図していない。上記実施形態は、様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。上記実施形態およびその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
10 撮像ユニット
10a 第1カメラ
10b 第2カメラ
10c 第3カメラ
12 カメラ制御部
14 画像処理部
16 出力部
18 第一の撮像部
20 第二の撮像部
22 支持部材
24 第一の領域
26 第二の領域
26a 遠方領域
26b 手前領域
100 鉄道車両用撮像システム
RV 鉄道車両

Claims (4)

  1. 先頭の鉄道車両の前端部に設けられて、前記鉄道車両の進行方向の第一の領域におけるステレオ画像を取得可能な第一の撮像部と、
    前記前端部に設けられて、少なくとも前記第一の領域より遠方領域を含む第二の領域を撮像可能で、前記第一の撮像部より高解像度の高解像度画像を取得可能な第二の撮像部と、
    前記第一の撮像部が取得する前記ステレオ画像に基づき、前記第一の領域に存在する第一の位置までの第一の距離を算出し、前記第一の距離に基づき前記第二の領域内に存在する第二の位置までの第二の距離を推定する画像処理部と、
    を備える、鉄道車両用撮像システム。
  2. 前記第二の撮像部が撮像する前記第二の領域の一部は、前記遠方領域より手前の前記第一の領域と重複している、請求項1に記載の鉄道車両用撮像システム。
  3. 前記第一の撮像部は、第1カメラおよび第2カメラを含み、
    前記第二の撮像部は、第3カメラを含み、
    前記第1カメラと前記第2カメラとにより前記第一の領域における第1ステレオ画像を取得させ、前記第2カメラと前記第3カメラとにより前記第一の領域の少なくとも一部を含む第2ステレオ画像を取得させ、前記第3カメラと前記第1カメラとにより前記第一の領域の少なくとも一部を含む第3ステレオ画像を取得させるカメラ制御部と、
    前記第1ステレオ画像と前記第2ステレオ画像と前記第3ステレオ画像とに基づき、前記第一の領域における物体検出処理を実行する画像処理部と、
    を備える、請求項1または請求項に記載の鉄道車両用撮像システム。
  4. 前記画像処理部は、前記第1カメラと前記第2カメラと前記第3カメラとのうち、いずれか二つカメラを用いて、ステレオ画像の取得を継続させる、請求項に記載の鉄道車両用撮像システム。
JP2018138596A 2018-07-24 2018-07-24 鉄道車両用撮像システム Active JP7150508B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2018138596A JP7150508B2 (ja) 2018-07-24 2018-07-24 鉄道車両用撮像システム
PCT/JP2019/025429 WO2020021949A1 (ja) 2018-07-24 2019-06-26 鉄道車両用撮像システム
SG11202012917RA SG11202012917RA (en) 2018-07-24 2019-06-26 Imaging system for railway vehicle
CN201980048961.0A CN112470456B (zh) 2018-07-24 2019-06-26 铁路车辆用摄像系统
EP19840166.3A EP3829155A4 (en) 2018-07-24 2019-06-26 IMAGING SYSTEM FOR RAIL VEHICLE

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018138596A JP7150508B2 (ja) 2018-07-24 2018-07-24 鉄道車両用撮像システム

Publications (2)

Publication Number Publication Date
JP2020017824A JP2020017824A (ja) 2020-01-30
JP7150508B2 true JP7150508B2 (ja) 2022-10-11

Family

ID=69180463

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018138596A Active JP7150508B2 (ja) 2018-07-24 2018-07-24 鉄道車両用撮像システム

Country Status (5)

Country Link
EP (1) EP3829155A4 (ja)
JP (1) JP7150508B2 (ja)
CN (1) CN112470456B (ja)
SG (1) SG11202012917RA (ja)
WO (1) WO2020021949A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113486783A (zh) * 2021-07-02 2021-10-08 浙江省交通投资集团有限公司智慧交通研究分公司 轨道交通车辆的障碍物检测方法及系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008196891A (ja) 2007-02-09 2008-08-28 Mitsubishi Precision Co Ltd 多眼カメラ
JP2010165142A (ja) 2009-01-15 2010-07-29 Nissan Motor Co Ltd 車両用道路標示認識装置および車両用道路標示認識方法
JP2010184527A (ja) 2009-02-10 2010-08-26 Hitachi Ltd 列車の停止検知システム並びに列車の移動速度及び位置検出システム
JP2016192109A (ja) 2015-03-31 2016-11-10 公益財団法人鉄道総合技術研究所 障害物検知方法およびその装置
WO2017056266A1 (ja) 2015-09-30 2017-04-06 株式会社小松製作所 撮像装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10318805A (ja) * 1997-05-15 1998-12-04 Toshiba Fa Syst Eng Kk 移動点検システム
JP2001242521A (ja) 2000-02-28 2001-09-07 Fuji Heavy Ind Ltd カメラの組み立て構造、カメラの調整方法、および調整用治具
JP2010271143A (ja) * 2009-05-20 2010-12-02 Ricoh Co Ltd 撮像装置、距離測定装置、及び車外監視装置、並びに撮像方法
JP5407898B2 (ja) * 2010-01-25 2014-02-05 株式会社豊田中央研究所 対象物検出装置及びプログラム
EP2533541A4 (en) * 2010-02-02 2013-10-16 Konica Minolta Holdings Inc STEREO CAMERA
US9720089B2 (en) * 2012-01-23 2017-08-01 Microsoft Technology Licensing, Llc 3D zoom imager
CN105636853B (zh) * 2013-07-31 2018-04-24 铁路视像有限公司 用于障碍物识别和避开的系统和方法
DE102013110615B3 (de) * 2013-09-26 2014-11-27 Sick Ag 3D-Kamera nach dem Stereoskopieprinzip und Verfahren zum Erfassen von Tiefenkarten
JPWO2015045501A1 (ja) * 2013-09-27 2017-03-09 日立オートモティブシステムズ株式会社 外界認識装置
CN107211085B (zh) * 2015-02-20 2020-06-05 索尼公司 摄像装置和摄像方法
JP2016197795A (ja) * 2015-04-03 2016-11-24 日立オートモティブシステムズ株式会社 撮像装置
JP6660751B2 (ja) * 2016-02-04 2020-03-11 日立オートモティブシステムズ株式会社 撮像装置
US10007854B2 (en) * 2016-07-07 2018-06-26 Ants Technology (Hk) Limited Computer vision based driver assistance devices, systems, methods and associated computer executable code

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008196891A (ja) 2007-02-09 2008-08-28 Mitsubishi Precision Co Ltd 多眼カメラ
JP2010165142A (ja) 2009-01-15 2010-07-29 Nissan Motor Co Ltd 車両用道路標示認識装置および車両用道路標示認識方法
JP2010184527A (ja) 2009-02-10 2010-08-26 Hitachi Ltd 列車の停止検知システム並びに列車の移動速度及び位置検出システム
JP2016192109A (ja) 2015-03-31 2016-11-10 公益財団法人鉄道総合技術研究所 障害物検知方法およびその装置
WO2017056266A1 (ja) 2015-09-30 2017-04-06 株式会社小松製作所 撮像装置

Also Published As

Publication number Publication date
EP3829155A1 (en) 2021-06-02
SG11202012917RA (en) 2021-02-25
CN112470456A (zh) 2021-03-09
CN112470456B (zh) 2022-04-26
EP3829155A4 (en) 2022-04-20
JP2020017824A (ja) 2020-01-30
WO2020021949A1 (ja) 2020-01-30

Similar Documents

Publication Publication Date Title
CN108351207B (zh) 立体相机装置
US9747524B2 (en) Disparity value deriving device, equipment control system, movable apparatus, and robot
RU151809U1 (ru) Видеосистема для обеспечения безопасности транспортных средств
US10152890B2 (en) On-vehicle camera device
JP2010198552A (ja) 運転状況監視装置
US10151840B2 (en) Measuring system, measuring process, and non-transitory recording medium
JP6778620B2 (ja) 区画線検出装置、区画線検出システム、及び区画線検出方法
TW201617252A (zh) 自動追蹤防撞警示系統及其方法
JP2018056882A (ja) 画像生成装置、画像生成方法、プログラムおよび記録媒体
JP5027710B2 (ja) 車両用環境認識装置および先行車追従制御システム
JP7150508B2 (ja) 鉄道車両用撮像システム
JP6899673B2 (ja) 物体距離検出装置
US10974719B2 (en) Mobile object control system, mobile object control method, and program
US20190253658A1 (en) Imaging device, imaging system, and moving body
JP2020030466A (ja) 物体検知装置
JP7488010B2 (ja) 距離算出装置および距離算出方法
US20230289986A1 (en) Range finding device, control method for range finding device, and storage medium
JP2019160251A (ja) 画像処理装置、物体認識装置、機器制御システム、移動体、画像処理方法およびプログラム
JP7236556B2 (ja) 物体検知装置および物体検知プログラム
WO2020166403A1 (ja) 画像処理装置
JP2017049666A (ja) 飛び出し物体検知装置および飛び出し物体検知方法
WO2019208257A1 (ja) 車載カメラ装置
JP4114647B2 (ja) 障害物検出装置
JP6565481B2 (ja) 車両用表示装置、車両用表示方法、プログラム
KR20140083390A (ko) 광각 카메라를 이용한 차량용 영상 시스템 및 그 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210616

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220705

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220818

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220830

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220928

R150 Certificate of patent or registration of utility model

Ref document number: 7150508

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150