JP2022046277A - コンピュータシステムおよび制御方法 - Google Patents

コンピュータシステムおよび制御方法 Download PDF

Info

Publication number
JP2022046277A
JP2022046277A JP2020152225A JP2020152225A JP2022046277A JP 2022046277 A JP2022046277 A JP 2022046277A JP 2020152225 A JP2020152225 A JP 2020152225A JP 2020152225 A JP2020152225 A JP 2020152225A JP 2022046277 A JP2022046277 A JP 2022046277A
Authority
JP
Japan
Prior art keywords
display
conductor
image
superimposed
door
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020152225A
Other languages
English (en)
Other versions
JP7442140B2 (ja
Inventor
大輔 鈴木
Daisuke Suzuki
史倫 菊地
Fumitomo Kikuchi
▲隆▼治 小池
Takaharu Koike
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Railway Technical Research Institute
Emovis Corp
Original Assignee
Railway Technical Research Institute
Emovis Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Railway Technical Research Institute, Emovis Corp filed Critical Railway Technical Research Institute
Priority to JP2020152225A priority Critical patent/JP7442140B2/ja
Publication of JP2022046277A publication Critical patent/JP2022046277A/ja
Application granted granted Critical
Publication of JP7442140B2 publication Critical patent/JP7442140B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

Figure 2022046277000001
【課題】車掌の業務に適した手法で車掌の業務を支援する新たなシステムを実現するための技術を提供すること。
【解決手段】列車の車掌が装着するARデバイスは、車掌の視界を撮影するカメラを備える。制御装置は、車掌が視認すべき設備として設定された視認対象物を、カメラのライブ映像7(撮影画像)に基づいて検出し、検出された視認対象物に基づいてARオブジェクト30の重畳表示を抑制する視界中の範囲を重畳表示抑制エリア20として設定する。そして、制御装置は、重畳表示させるARオブジェクト30を決定し、視界中の重畳表示抑制エリア20以外に重畳表示させる制御を行う。
【選択図】図9

Description

本発明は、列車の車掌の業務を支援するためのコンピュータシステム等に関する。
列車の運転士に向けて、安全運行や安全運転に必要な各種情報を提示する技術がある。
例えば、特許文献1では、複数の事象が発生し個々の事象が時間に応じて変化する場合に、列車の運転台に設けられたモニタ表示装置にて、必要に応じた状況認識支援情報や意思決定支援情報を、運転士に分かり易く提示する技術が開示されている。
特開2014-176233号公報
運転士への情報提供と同様に車掌への情報提供も望まれる。例えば、車掌は、駅に到着してから出発するまでの間に、出発時刻までの残時間を気にしつつ、列車に乗り降りする乗客が安全に乗降できたか、扉を閉める間際の駆け込みは無いか、出発信号の現示はどうなっているか、など確認すべきことが多々ある。
車掌への情報提供をどのようにするべきかについては種々の考え方がある。車掌は、運転士のように常時座席に座っていることがない。時に乗務員室から駅ホームに降りて安全を確認する。安全確認のためには、駅ホームの様々な場所に視線を巡らせる必要がある。安全確認後には列車内に戻り、運転士に発車合図を送る、発車ブザーを操作する等の作業をしなければならない。してみれば、乗務員室に車掌向けのモニタを搭載し、そこに情報提供する方法は、車掌の業務には馴染まない可能性がある。
本発明が解決しようとする課題は、車掌の業務に適した手法で車掌の業務を支援する新たなシステムを実現するための技術を提供すること、である。
上述した課題を解決するための第1の発明は、少なくとも列車の扉扱いをする際に車掌が装着するARデバイスと、前記ARデバイスに対して、前記車掌の視界に所与のARオブジェクトを重畳表示させる制御を行う制御装置と、を具備するコンピュータシステムであって、前記ARデバイスは、前記車掌の視界を撮影するカメラ、を備え、
前記制御装置は、
前記カメラの撮影画像に基づいて、前記扉扱いの際に前記車掌が視認する対象物として設定された視認対象物を含む前記視界中の範囲を含むように重畳表示抑制エリアを設定する抑制エリア設定手段(例えば、図1の制御基板1150、図14の処理部200、支援表示制御部210、抑制エリア設定部220、図21のステップS32)と、重畳表示させるARオブジェクトを決定するARオブジェクト決定手段(例えば、図1の制御基板1150、図14の処理部200、支援表示制御部210、ARオブジェクト決定部224、図21のステップS36~ステップS38)と、
前記決定されたARオブジェクトを、前記視界中の前記重畳表示抑制エリア以外に重畳表示させる制御を行う表示制御手段(例えば、図1の制御基板1150、図14の処理部200、支援表示制御部210、AR表示制御部230、図21のステップS50~ステップS68)と、
を備える、コンピュータシステムである。
第1の発明によれば、コンピュータシステムは、ARオブジェクトの表示を通じて車掌に情報を提供して業務を支援することができる。コンピュータシステムは、車掌の視界をカメラで撮影し、そこに扉扱いの際に車掌が視認する対象物として設定された視認対象物を含むようにして重畳表示抑制エリアを設定し、当該エリア以外にARオブジェクトを表示することができる。重畳表示抑制エリアを適切に設定することで、例えば、視認対象物にARオブジェクトが重なるように表示されて、当該視認対象物を車掌が視認できない状態や、視認し難い状態となるのを防ぐことができる。これにより、車掌の業務に適した、車掌の業務を支援するための、ARデバイスを用いた新たなシステムが実現可能となる。
第2の発明は、前記制御装置が、前記撮影画像に基づいて、前記視認対象物を検出する検出手段(例えば、図1の制御基板1150、図14の処理部200、支援表示制御部210、視認対象物検出部216、図21のステップS30)、を更に備え、前記抑制エリア設定手段は、前記検出された視認対象物に基づいて前記重畳表示抑制エリアを設定する、第1の発明のコンピュータシステムである。
第2の発明によれば、コンピュータシステムは、車掌の視界の中から視認対象物を検出し、重畳表示抑制エリアを設定できる。よって、重畳表示抑制エリアをより適切に設定することができる。
第3の発明は、前記制御装置が、前記撮影画像に基づいて、前記扉扱いが前記列車の左右どちら側を対象としているかを判定する判定手段(例えば、図1の制御基板1150、図22の判定部242)、を更に備え、前記抑制エリア設定手段は、前記扉扱いが前記列車の左側である場合と右側である場合とについて前記視認対象物の前記視界中の想定範囲に基づき定められた前記重畳表示抑制エリアの左側テンプレートおよび右側テンプレートのうち、前記判定手段の判定結果に対応するテンプレートを用いて前記重畳表示抑制エリアを設定する、第1の発明のコンピュータシステムである。
第3の発明によれば、コンピュータシステムは、撮影画像に基づいて扉扱いが列車の左右どちら側を対象としているかを判定し、判定された側に対応して予め用意されているテンプレートに従って重畳表示抑制エリアを設定できる。つまり、視界内から視認対象物を検出するといった処理が不要になる。
第4の発明は、前記制御装置が、前記車掌の首振りを検出する首振り検出手段(例えば、図1の制御基板1150、図14の処理部200、支援表示制御部210、首振り検出部214、図21のステップS40)と、
前記首振り検出手段による検出に応じて、前記表示制御手段による前記ARオブジェクトの重畳表示を中止させる表示中止制御手段(例えば、図1の制御基板1150、図14の処理部200、支援表示制御部210、表示中止制御部240、図21のステップS42)と、を更に備える、第1~第3の何れかの発明のコンピュータシステムである。
第4の発明によれば、コンピュータシステムは、車掌の首振りを検出した場合に、ARオブジェクトの重畳表示を中止することができる。車掌は、様々な視認対象物を確実に視認するために、立ち位置を変え、身体の向きを変え、顔の向きを変えることが多い。そのため、ARオブジェクトの重畳表示が視界中でうるさく感じられる場合も起こり得る。そのような場合に、車掌は、首振りをすることで、ARオブジェクトの重畳表示を中止させることが可能となる。
第5の発明は、前記視認対象物が、前記列車の側面と、点字ブロックを含むホーム側縁部と、を含む、第1~第4の何れかの発明のコンピュータシステムである。
第5の発明によれば、コンピュータシステムは、列車の側面と、点字ブロックを含むホーム側縁部とを扉扱いに係る視認対象物に含めて重畳表示抑制エリアを設定できる。よって、扉扱いに係る視認対象物として比較的重要度合が高い、列車の側面やモーム側縁部へのARオブジェクトの重畳表示を抑制させることができる。
第6の発明は、前記制御装置が、前記列車の扉付近の映像を取得する映像取得手段(例えば、図1の制御基板1150、図14の処理部200、支援表示制御部210、現場映像取得制御部222、通信部394、図21のステップS62)、を更に備え、前記ARオブジェクト決定手段は、前記映像取得手段により取得された映像を表示するためのARオブジェクトを決定する、第1~第5の何れかの発明のコンピュータシステムである。
第6の発明によれば、コンピュータシステムは、扉付近の映像をARオブジェクトで表示させることができる。
第7の発明は、前記制御装置が、前記列車の扉に係る異常通知を当該扉の位置情報を含めて受信する異常通知受信手段(例えば、図1の制御基板1150、図14の処理部200、支援表示制御部210、異常通知受信制御部212、通信部394、図21のステップS34)、を更に備え、前記ARオブジェクト決定手段は、前記異常通知に応じた情報を表示するためのARオブジェクトを決定する、第1~第6の何れかの発明のコンピュータシステムである。
第7の発明によれば、コンピュータシステムは、列車の扉に係る異常通知に関する情報をARオブジェクトで表示することで車掌に提供できる。
第8の発明は、前記ARオブジェクト決定手段が、前記異常通知に含まれる扉の位置情報に基づいて、前記列車の編成画像および当該編成画像中の当該扉の位置を示すマーカを表示するためのARオブジェクトを決定する、第7の発明のコンピュータシステム
である。
第8の発明によれば、コンピュータシステムは、列車の編成を示す画像に、異常の有った扉の位置を示すマーカを付して、どの車両のどの扉で異常があったかを明示することができる。
第9の発明は、前記ARオブジェクトには、種類に応じた優先度が対応づけられており、
前記ARオブジェクト決定手段は、前記優先度と、重畳表示させるARオブジェクトの数に関する表示数制限と、に基づいて、重畳表示させるARオブジェクトを決定する、第1~第8の何れかの発明のコンピュータシステムである。
第9の発明によれば、コンピュータシステムは、一度に表示するARオブジェクトの表示数を適切に調整して見易いAR表示を実現できる。
第10の発明は、前記ARオブジェクトには、所定の抑制免除条件を満たすARオブジェクトが含まれ、前記表示制御手段は、前記ARオブジェクト決定手段により前記抑制免除条件を満たすARオブジェクトが決定された場合に、前記重畳表示抑制エリアであるか否かに関わらず、当該抑制免除条件を満たすARオブジェクトを前記視界中に重畳表示させる最優先表示制御手段(例えば、図1の制御基板1150、図14の処理部200、支援表示制御部210、最優先表示制御部232、図21のステップS54)を有する、第1~第9の何れかの発明のコンピュータシステである。
第10の発明によれば、コンピュータシステムは、抑制免除条件を満たすARオブジェクトについては、重畳表示抑制の対象外とし、重畳表示抑制エリア内であっても表示させることできる。つまり、重要な情報を確実に表示することができる。
第11の発明は、車掌の視界を撮影するカメラを有して少なくとも列車の扉扱いをする際に車掌が装着するARデバイスに対して、前記車掌の視界に所与のARオブジェクトを重畳表示させる制御を行う制御装置による制御方法であって、前記カメラの撮影画像に基づいて、前記扉扱いの際に前記車掌が視認する対象物として設定された視認対象物を含む前記視界中の範囲を含むように重畳表示抑制エリアを設定することと、重畳表示させるARオブジェクトを決定することと、前記決定されたARオブジェクトを、前記視界中の前記重畳表示抑制エリア以外に重畳表示させる制御を行うことと、を含む制御方法である。
第11の発明によれば、第1の発明と同様の効果を得る制御方法を実現することができる。
支援システムの構成例を示す図。 第1の監視システムの構成例を示す図。 第2の監視システムの構成例を示す図。 監視システムの機能構成例を示す機能ブロック図。 監視システムにおける処理の流れを説明するためのフローチャート。 駅に停車中の列車の車掌によるとある視界の例を示す図。 車掌向けとしては好ましく無いAR表示の一例を示す図。 重畳表示抑制エリアの設定について説明するための図。 支援システムによるAR表示の一例を示す図(その1)。 優先度の設定の一例について説明するための表。 異常通知情報に対応する優先度「高」のARオブジェクトによる、異常発生現場の映像の表示のさせ方について説明するための図。 支援システムによるAR表示の一例を示す図(その2)。 支援システムによるAR表示の一例を示す図(その3)。 AR表示システムの機能構成の一例を示す機能ブロック図。 AR表示システムの記憶部が記憶するプログラムやデータの例を示す図。 視認対象物登録データのデータ構成例を示す図。 ARオブジェクト設定データのデータ構成例を示す図(その1)。 ARオブジェクト設定データのデータ構成例を示す図(その2)。 ARオブジェクト設定データのデータ構成例を示す図(その3)。 AR表示制御データのデータ構成例を示す図。 AR表示システムの処理の流れを説明するためのフローチャート。 AR表示システムの変形例における機能ブロック図。
以下、本発明の実施形態を説明するが、本発明を適用可能な形態が以下の実施形態に限られないことは勿論である。
図1は、支援システム1000の構成例を示す図である。
支援システム1000は、ユーザの視界にARオブジェクトを重畳表示させるAR表示システム1100と、列車3に備えられた第1の監視システム1300aと、駅4に備えられた第2の監視システム1300bと、を有し、AR表示システム1100と2つの監視システム1300(1300a、1300b)は、ネットワーク9を介して、データ通信可能に接続されている。
ネットワーク9は、データ通信が可能な通信路を意味する。すなわち、ネットワーク9とは、直接接続のための専用線(専用ケーブル)やイーサネット(登録商標)等によるLAN(Local Area Network)の他、電話通信網やケーブル網、インターネット等の通信網を含む意味であり、また、通信方法については有線/無線を問わない。
2つの監視システム1300(第1の監視システム1300aと、第2の監視システム1300b)は、基本的な機能構成が同様である。すなわち、第1の監視システム1300aは、例えば図2に示すように、制御装置1310と、監視カメラ1390と、監視センサ1392と、を備え、各構成要素が列車3に搭載されている。第2の監視システム1300bは、例えば図3に示すように、制御装置1310と、監視カメラ1390と、監視センサ1392と、を備え、各構成要素が駅4に設置されている。なお、第1の監視システム1300aは、列車3の運転台に設置されたコンピュータシステムを兼ねてもよいし、別体で用意してもよい。
監視カメラ1390は、監視対象をライブ撮影する。
例えば、図2で示す第1の監視システム1300aにおける監視カメラ1390は、列車3の各車両の様々な場所、例えば各乗降口となる扉や、座席、通路など、をライブ撮影する。撮影画像は画像認識処理されることで、列車3での異常(煙の発生、火災の発生、戸挟み発生、病人の発生、車内を走り回るなどの乗客の異常行動、など)を検知するのに用いられる。
また例えば、図3で示す第2の監視システム1300bの監視カメラ1390は、駅ホームの乗降位置付近、駅ホームへ通じる通路、駅ホームと車両との間、などをライブ撮影する。撮影画像は画像認識処理されることで、駅4での異常(煙の発生、火災の発生、戸挟み発生、駆け込みとなりそうな乗客の動き、病人の発生、ホーム転落、など)を検知するのに用いられる。
監視センサ1392は、異常を検知するためのセンサである。例えば、火災の発生を検知する煙センサや火炎センサ、戸挟みを検知する通過センサ、ホーム柵の開閉状態を検知するセンサ、乗客の動きを検知する人流センサ、などを監視センサ1392とすることができる。
監視センサ1392には、それぞれ監視カメラ1390が対応付けられており、センサで異常が検出された現場を何れかの監視カメラ1390で撮影できるように構成されている。そして、監視カメラ1390と監視センサ1392は、監視ネットワーク9kを介して制御装置1310に接続されている。
制御装置1310は、監視システムの主たる制御部となるコンピュータシステムである。すなわち、制御基板1350を搭載する。図示されていないが、制御装置1310には、適宜、キーボードや、タッチパネル等を付属させることができる。
制御基板1350は、CPU(Central Processing Unit)1351やGPU(Graphics Processing Unit)、DSP(Digital Signal Processor)などの各種マイクロプロセッサ、VRAMやRAM,ROM等の各種ICメモリ1352、通信モジュール1353、インターフェースモジュール1357、などを搭載する。
なお、制御基板1350の一部又は全部は、ASIC(Application Specific Integrated Circuit)や、FPGA(Field-Programmable Gate Array)、SoC(System on a Chip)により実現するとしてもよい。そして、制御装置1310は、CPU1351でICメモリ1352に記録されている所定のプログラムを演算処理することによって、監視カメラ1390のライブ映像をARデバイス1200向けにストリーミング配信する制御を行うとともに、監視カメラ1390の撮影画像や監視センサ1392による計測結果に基づいて車内での異常を検出判定処理する。そして、異常検出時には、異常通知情報をAR表示システム1100へ配信する制御を行う。
図4は、監視システム1300の機能構成例を示す機能ブロック図である。
監視システム1300は、撮影部130と、計測部132と、処理部200kと、通信部390kと、記憶部500kと、を有する。
撮影部130は、異常状態を画像認識するための対象となる画像を撮影し、撮影したデータを処理部200kへ出力する。図2および図3の監視カメラ1390がこれに該当する。
計測部132は、異常検出するための計測手段であり、計測データを処理部200kへ出力する。図2および図3の監視センサ1392がこれに該当する。
処理部200kは、所定のプログラムを実行することで、監視システム1300としての各種機能を実現する。図2および図3の制御基板1350が搭載するCPU1351がこれに該当する。そして、処理部200kは、画像認識部202と、異常判定部204と、異常通知情報設定部206と、配信制御部208と、システムクロックを利用して現在日時や異常判定のための計時等を行う計時部290と、を有する。
画像認識部202は、撮影部130で撮影された画像を画像認識処理する。
異常判定部204は、画像認識処理の結果および/又は計測部132で計測された計測結果に基づいて異常の検出判定を行う。
異常通知情報設定部206は、異常の発生を報せる異常通知情報を生成して、AR表示システム1100へ配信する。
配信制御部208は、撮影部130それぞれが撮影しているライブ画像を、それぞれ1チャンネルと見なしてAR表示システム1100向けにストリーミング配信する制御を行う。
通信部390kは、外部装置とのデータ通信を実現する。図2および図3の制御基板1350が搭載する通信モジュール1353がこれに該当する。
記憶部500kは、処理部200kに監視システム1300を統合的に制御させるための諸機能を実現するためのプログラムや各種データ等を記憶する。また、処理部200kの演算作業領域として用いられ、処理部200kが各種プログラムに従って実行した演算結果などを一時的に記憶する。この機能は、例えばRAMやROMなどのICメモリ、ハードディスク等の磁気ディスク、CD-ROMやDVDなどの光学ディスク、オンラインストレージなどによって実現される。図2および図3の例では制御基板1350が搭載するICメモリ1352がこれに該当する。
そして、記憶部500kは、監視プログラム501と、カメラ登録データ510と、センサ登録データ512と、異常認識用辞書データベース514と、監視カメラ1390別の監視映像データ516と、監視センサ1392別のセンサ計測データ518と、ライブ配信制御データ520と、異常通知情報530と、現在日時800と、を含む。
監視プログラム501は、処理部200kに画像認識部202、異常判定部204、異常通知情報設定部206、および配信制御部208としての機能を実現させるためのプログラムである。
カメラ登録データ510は、監視カメラ1390毎に用意され、固有のカメラIDと、当該カメラの撮影対象である撮影場所や範囲を示す監視場所情報と、を対応づけて格納する。監視場所情報は、列車3や駅4の各場所の名称のリストとして記述される。
センサ登録データ512は、監視センサ1392毎に用意され、固有のセンサIDと、当該センサが計測している場所を撮影することができる監視カメラ1390を示す対応カメラIDと、を対応づけて格納する。
異常認識用辞書データベース514は、各種の異常を監視カメラ1390の映像から画像認識するための辞書データを格納する。
ライブ配信制御データ520は、監視映像のライブ映像をストリーミング配信するための各種データを含む。例えば、監視カメラ1390別のライブ映像アクセス情報522を含む。ライブ映像アクセス情報522は、監視カメラ1390のカメラIDと、ライブ映像受信用アドレス(ストリーミング配信を受けるためのアドレス情報)と、を対応付けて格納している。いわば、ライブ映像アクセス情報522は、ストリーミング配信のチャンネル情報に相当し、当該情報を元にライブ映像受信アドレスに接続することで、AR表示システム1100は、任意に選択した監視カメラ1390のライブ映像を取得できるようになる。
異常通知情報530は、異常が画像認識される毎に作成され、当該異常が解消されると削除される。1つの異常通知情報530は、固有の異常通知ID531と、異常種類533と、異常が起きている場所の位置を列車3や駅4の場所の名称で示す異常位置情報534と、異常が起きている現場を撮影している監視カメラ1390を示す撮影カメラID535と、を含む。勿論、これら以外のデータも適宜含めることができる。
図5は、監視システム1300における処理の流れを説明するためのフローチャートである。監視システム1300は、先ず監視カメラ1390で撮影された撮影画像(映像)の画像認識処理と、監視センサ1392による計測を開始し(ステップS2)、各監視カメラ1390で撮影されている映像のライブ配信を開始する(ステップS4)。
次いで、監視システム1300は、十分に短い所定周期(例えば、60Hz)で、ステップS4からステップS24を繰り返し実行する。
具体的には、監視システム1300は、通信圏内のAR表示システム1100との通信を確立する(ステップS10)。この時、ライブ映像アクセス情報522をAR表示システム1100に提供し、AR表示システム1100はこれを記憶する。
次に、監視システム1300は、異常の発生を判定し(ステップS12)、もし発生しているならば(ステップS14のYES)、当該異常に関する異常通知情報530を生成し(ステップS16)、これをAR表示システム1100へ配信する(ステップS18)。
既に異常通知情報530が設定されている異常が継続して発生していると判定されなければ当該異常が解消されたと見なして(ステップS20のYES)、監視システム1300は対応する異常通知情報530を抹消するように指示する抹消通知をAR表示システム1100へ配信して(ステップS22)、当該異常通知情報530を抹消する(ステップS24)。
図1に戻って、AR表示システム1100は、ARデバイス1200と、制御装置1110と、を有する。ARデバイス1200と制御装置1110は、互いに無線によるデータ通信が可能に接続されている。
ARデバイス1200は、車掌が頭部に装着する表示装置であって、全体としてメガネ型のデザインを有し、メガネのグラス部を通じて車掌が見る現実世界の風景に、ARオブジェクト(ポリゴンモデルのCGや、テキストグラフィックスなど)を重畳表示する透過型のウェアラブルディスプレイ装置である。具体的には、ARデバイス1200は、フレーム1201と、透過型ディスプレイ1202と、ライブカメラ1230と、ToF(Time of Flight)センサ1232と、制御基板1250と、バッテリー1270と、を有する。
透過型ディスプレイ1202は、制御基板1250により表示制御される。透過型ディスプレイ1202の構成は、適宜選択可能である。図1に示すように、投影モジュール1204から投影される映像を、メガネのグラス部1205の前方に配置した光学素子1206で車掌の瞳へ屈折・導光するとしてもよい。或いは、グラス部1205の車掌側の側面に投影させるとしてもよい。なお、投影モジュール1204および光学素子1206は、左右それぞれに設けられた構成としてもよい。
ライブカメラ1230は、ARデバイス1200を装着する車掌の視界をライブ撮影するための撮影手段であって、撮影されたライブ映像の信号は制御基板1250へ出力される。
制御基板1250は、CPU1251と、ICメモリ1252と、無線通信モジュール1253と、GPS(Global Positioning System)モジュール1254と、ジャイロセンサ1255と、3軸加速度センサ1256と、インターフェースモジュール1257と、を搭載する。
GPSモジュール1254は、衛星測位システムを利用して車掌(或いは車掌が乗務する列車3)の現在位置情報を取得する。なお、現在位置情報を取得するために利用する測位システムは、GPSシステムに限らず、BeiDouやGalileo等の他の衛星測位システムの他、鉄道沿線に基地局を配置して無線通信による三角測量の原理で位置を測位するシステム等を利用するとしてもよい。取得された位置情報は、制御基板1250が無線通信モジュール1253で制御基板1150との間で確立した無線データ通信を通じて、制御装置1110へ提供される。
インターフェースモジュール1257には、透過型ディスプレイ1202のドライバ回路や、ライブカメラ1230で撮影されたライブ映像の信号を入力する回路、ToFセンサ1232との入出力回路、などが含まれている。ライブカメラ1230により撮影されたライブ映像の情報は、無線通信モジュール1253による無線データ通信を通じて、制御装置1110へ提供される。
制御基板1250に搭載されているこれらの要素は、バス回路などを介して電気的に接続され、データの読み書きや信号の送受信が可能に接続されている。制御基板1250の一部又は全部をASICやFPGA、SoCにて構成してもよい。そして、制御基板1250は、CPU1251で、ICメモリ1252に記憶されている所定のプログラムを演算処理して実行することで、ARデバイス1200としての機能させるための各種制御を実行する。
制御装置1110は、AR表示の内容を決定するAR表示システム1100の主たる制御部である。すなわち、制御装置1110は、制御基板1150のCPU1151で、ICメモリ1152に記憶されている所定のプログラムを実行することで、通信モジュール1153を通じてARデバイス1200や監視システム1300と通信可能に接続する制御と、AR表示の内容を決定する制御と、決定に必要な情報を取得する制御と、決定された内容のARオブジェクトをARデバイス1200で表示させる制御と、を実行する。
次に、支援システム1000によるARの見せ方の一例について説明する。
図6は、駅4に停車中の列車3に乗務する車掌のとある視界(ライブカメラ1230で撮影されているライブ映像7)の例を示す図である。当該ライブ映像7の例は、乗客の乗り降りが完了し、全ての扉が正常に閉じているかを、車掌がホームに身を乗り出して確認している状態である。視界の中央から左側半分にかけて列車3の側面が見えている。列車3の側面には、各乗降口の扉は勿論、扉の閉じ状態を点灯で示す車側灯が見えている。また、列車3の側面の右下部に沿って、点字ブロックを含むホーム側縁部も見えている。これらは、扉扱いの際に車掌が視認するべき視認対象物の1つである。
図7は、車掌向けとしては好ましく無いAR表示の一例を示す図である。例えば、ARデバイス1200にてARオブジェクト30を表示させる場合は、視認対象物の視認に差し支える位置にARオブジェクト30を表示するべきではない。図7の例では、出発時刻までの残時間を示すARオブジェクト30(10a)が、車側灯の上に被さるように表示されており、車掌が当該車側灯を視認できない不適切な状態である。
そこで、支援システム1000は、そうした不適切なAR表示を避けるべく、AR表示を抑制する重畳表示抑制エリアを設定し、当該エリア以外に表示するようにARオブジェクト30の表示位置の調整を行って、適切なAR表示を実現する。
図8は、重畳表示抑制エリアの設定について説明するための図であって、図8(1)は元になるライブ映像7上に破線で重畳表示抑制エリアを示している。図8(2)は図8(1)の重畳表示抑制エリアを分かり易く示した図である。
支援システム1000は、図8(1)のライブ映像7から、扉扱いの際に車掌が視認するべき対象物として設定された視認対象物を画像認識し、視認対象物が写っている部分を含むように重畳表示抑制エリア20を設定する。図8(1)の例では、列車3の側面が第1の視認対象物として画像認識されて、第1の重畳表示抑制エリア20aが設定されている。また、ホーム側縁部が第2の視認対象物として画像認識されて、第2の重畳表示抑制エリア20bが設定されている。
なお、重畳表示抑制エリア20は、視認対象物が写っている部分だけでなく、視認対象物が写っている部分の周囲に適宜余白部分を含むとしてもよい。また、重畳表示抑制エリア20には、システム運用上の観点から常時必須とされる固定エリア(例えば、ライブ映像7の画面上端や下端に帯状に設けられたエリア)をこれに含めることができる。
そして、支援システム1000は、ライブ映像7の全画像範囲22(透過型ディスプレイ1202の画像表示範囲に同じ)からこれらの重畳表示抑制エリア20(20a、20b)を除いた範囲を、ARオブジェクト30の表示推奨エリア24と見なして、その中にARオブジェクト30を納めるように表示位置を決定する。
具体的には、重畳表示抑制エリア20(20a、20b)を、ライブ映像7の全画像範囲22から除いて表示推奨エリア24を一次決定する。そして、一次決定された表示推奨エリア24のうち、狭小に過ぎるためにARオブジェクト30の全体を表示することができない狭小エリアを抽出して、重畳表示抑制エリア20に追加する。これで表示推奨エリア24を最終決定する。
図8の例では、ライブ映像7の右斜め上の角を頂天する略3角形状の表示推奨エリア24が設定され、この表示推奨エリア24内に、図9に示すようにARオブジェクト30(10a)が表示されることとなる。これにより、扉扱いに係り車掌が視認するべき視認対象をARオブジェクト30が覆ってしまうような好ましく無いAR表示を防ぐことができる。
勿論、車掌は、ARデバイス1200を装着したまま任意に頭の姿勢(向き)を変えることができるので、重畳表示抑制エリア20は、その時々のライブ映像7における視認対象の見え方や見える位置の変化に応じて、時々刻々と更新されることになる。
但し、多くのARオブジェクト30が表示されると、それらがもたらす情報提供のメリットよりも、それが視界内を動き回ることによる車掌の視認性阻害によるデメリットの方が大きくなることが懸念される。そこで、支援システム1000は、一度に表示されるARオブジェクト30の数を抑制する。つまり、表示数に制限をかける。
具体的には、支援システム1000は、あるタイミングにおいて表示対象とされる複数のARオブジェクト30の中から、各ARオブジェクトの表示内容に応じた優先順位を設定し、上位から所与の表示許可数だけ選抜して表示させる。これにより多くのARオブジェクト30が同時に表示されることで車掌の視界が狭くなり、車掌の視認性が低下する事態を回避する。
基本的な優先順位は、図10のように、視認対象物の種類やARオブジェクト30の示す内容に基づいて予め設定されている優先度が元に決まる。特に、監視システム1300がAR表示システム1100に配信する異常通知情報530(図4参照)に対応するARオブジェクト30の優先度は「高」に設定される。なお、図10では優先度を3段階としているが、4段階以上に分けても良い。
「表示許可数」とは、言い換えると「表示数制限における表示上限数」のことである。「表示許可数」は、状況に応じて変更され得るが、優先度「高」の内容を示すARオブジェクト30は必ず表示されるようにその値が設定される。例えば、とあるタイミングにおいて、優先度「高」に該当するARオブジェクト30が表示対象に含まれていない場合は、表示許可数を所定数(例えば、「2」「3」程度)とする。一方、あるタイミングにおいて、表示対象とされるARオブジェクト30の中に、優先度「高」に該当する内容のARオブジェクト30が含まれる場合、表示許可数は、その時に表示対象に含まれる優先度「高」の数、又はその時に表示対象に含まれる優先度「高」の数に所定数(例えば「1」「2」程度)を加えた値とする。
そして、異常通知情報に対応する優先度「高」のARオブジェクト30は、当該異常の発生現場の映像を写すとともに、異常が発生している位置情報を簡易表示する。
図11は、異常通知情報に対応する優先度「高」のARオブジェクト30による、異常発生現場の映像の表示について説明するための図である。
前述のように、監視システム1300は、監視カメラ1390で撮影されたライブ映像7をそれぞれ1チャンネルとして配信しており、通信接続したAR表示システム1100へライブ映像アクセス情報522を提供する。
一方、異常通知情報530には、異常が発生した場所の名称(異常位置情報534)と、その場所を撮影している監視カメラ1390を示す撮影カメラID535とが含まれている。
異常通知情報530を受信したAR表示システム1100は、当該情報の撮影カメラID535に対応するライブ映像アクセス情報522を参照して、そのライブ映像受信用アドレスから異常発生現場のライブ映像(現場映像37;図11の例では戸挟みの例を示している。)を取得する。そして、当該映像を、異常通知用のARオブジェクト30(30b)を用いて重畳表示させる。
例えば、図9の状態で、どこかの乗降口の扉で戸挟みが発生した場合、異常通知用のARオブジェクト30bは、図12に示すように表示される。異常通知用のARオブジェクト30bは、現場映像37を表示する映像表示部31と、異常位置情報534に基づいて発生場所などの当該異常に関する情報を示す情報表示部32と、を有する。図12の例では、情報表示部32は車両番号を示している。当該ARオブジェクトが表示されることで、車掌は、第5車両で戸挟みによる異常が発生していて、現場映像37から人が挟まっているのか、カバンなどの手荷物が挟まっているのか、或いは扉の故障かといった状況把握を速やかに行うことができる。なお、図11,12では、分かり易くするために、異常通知用のARオブジェクト30(30b)に表示される映像をイラストで示しているが、実際にはライブ映像そのものが表示される。
そして、異常通知用のARオブジェクト30bは、重畳表示抑制エリア20(20a、20b)に係わりなく表示される。
言い換えると、異常通知用のARオブジェクト30bは、優先度「高」に該当することで抑制免除条件を満たすと判定され、重畳表示抑制エリア20であるか否かに関わらず視界中に重畳表示される。これにより、例えば車掌の視界がほぼ列車3の側面で占められるような状況であっても、異常発生を報せる異常通知用のARオブジェクト30bを表示させて、迅速な異常発生の報知を実現している。
また、AR表示システム1100は、受信した異常通知情報530の異常位置情報534が、車掌が異常発生現場を目視できる場所であるかを判定し、目視できる場所になければ、図13に示すように、全体情報用のARオブジェクト30cを表示させる。
全体表示用のARオブジェクト30cは、列車3や駅4の全体画像33と、発生場所を示すマーカ34と、を有する。図13の例は、図9に示した状態において、車掌がいる場所からは戸挟みが発生している場所を目視できないと判定されたために、全体画像33として、列車3の編成の一部分又は全体を簡易表示する編成画像(番号は車両番号を示している。)が表示された場合を示している。そして、第2車両の左側中央扉で戸挟みが発生しているので全体画像33の該当位置にマーカ34が表示されている。
なお、異常位置情報534の示す位置が、車掌が異常発生現場を目視できる場所であるかの判定は、監視カメラ1390の監視場所毎に、そこが目視できる場所か目視できない場所かを予め定めた登録データとして用意しておくことで実現できる。例えば、駅4の監視カメラ1390であれば、当該駅4に列車が停止した場合の各車両位置が決まるため、車掌室(乗務員室)のある列車最後尾から車掌が目視できるか否かを、当該監視カメラ1390毎に予め設定して用意しておけば良い。また、列車3に搭載された監視カメラ1390であれば、車掌室(乗務員室)のある列車最後尾車両から、当該監視カメラ1390の搭載車両までの距離或いは車両数に基づいて、車掌が目視できるか否かを当該監視カメラ1390毎に予め設定して用意しておけば良い。
次に、AR表示システム1100の機能構成について説明する。
図14は、AR表示システム1100の機能構成の一例を示す機能ブロック図である。AR表示システム1100は、視界撮影部100と、姿勢変化計測部102と、測位部104と、処理部200と、画像表示部392と、通信部394と、記憶部500と、を有する。
視界撮影部100・姿勢変化計測部102・測位部104・画像表示部392が、ARデバイス1200により実現され、処理部200・通信部394・記憶部500が制御装置1110にて実現されている。
具体的には、視界撮影部100は、車掌の視界を撮影する。すなわち、視界撮影部100は車掌の視界に写っているものを画像認識するための視界のライブ映像を撮影し、撮影したライブ映像の撮影画像データを、処理部200へ出力する。図1の構成では、ライブカメラ1230がこれに該当する。
姿勢変化計測部102は、車掌の頭部の姿勢の変化を計測し、姿勢変化量情報を処理部200へ出力する。図1の構成では、ジャイロセンサ1255、3軸加速度センサ1256がこれに該当する。
測位部104は、運転士の現在位置情報を取得し、現在位置情報を処理部200へ出力する。図1の構成では、GPSモジュール1254がこれに該当する。
処理部200は、所定のプログラムを演算処理して様々な機能を実現する。具体的には、処理部200は、支援表示制御部210と、計時部290と、画像生成部292と、通信制御部294とを有する。
支援表示制御部210は、AR表示を用いた車掌支援の機能部として、異常通知受信制御部212と、首振り検出部214と、視認対象物検出部216と、抑制エリア設定部220と、現場映像取得制御部222と、ARオブジェクト決定部224と、AR表示制御部230と、表示中止制御部240と、を有する。
異常通知受信制御部212は、列車3および駅4に係る異常通知を、当該異常の発生場所の位置情報を含めて受信する(図4の異常通知情報530を参照)。
首振り検出部214は、車掌の首振りを検出する。具体的には、首振り検出部214は、姿勢変化計測部102により計測された姿勢変化(上下左右の移動、ロール・ピッチ・ヨーの変化)が所定の基準値を超える場合に検出有りと判定する。或いは、視界撮影部100で撮影された時間的に前後する複数の画像フレーム(コマ画像)において、視界内の被写体の移動方向を判定し、その大部分が同じ方向へ移動している場合に、視界が流れているとみなし、車掌の首振りがあったと判定してもよい。
視認対象物検出部216は、視界撮影部100で撮影された撮影画像に基づいて、視認対象物を検出する。具体的には、視認対象物検出部216は、画像認識処理により視認対象物が写っているか否か、写っている場合の視認対象物の範囲を判定・検出する。
抑制エリア設定部220は、視界撮影部100で撮影された撮影画像に基づいて、扉扱いの際に車掌が視認する対象物として設定された視認対象物を含む視界中の範囲を含むように重畳表示抑制エリア20を設定する。具体的には、抑制エリア設定部220は、視認対象物検出部216により検出された視認対象物に基づいて重畳表示抑制エリアを設定する。
現場映像取得制御部222は、監視システム1300から異常通知された現場の映像を取得するための制御を行う。前述のように、視認対象物には列車3の側面が含まれているので、現場映像取得制御部222は、列車の扉付近の映像を取得することができる。
ARオブジェクト決定部224は、重畳表示させるARオブジェクト30を決定する。特に、監視システム1300からの異常通知情報530に対応するARオブジェクト30を表示する場合は、ARオブジェクト決定部224は、異常通知された現場映像37と、異常通知に応じた情報(例えば、異常が起きた車両番号など;情報表示部32)を表示するためのARオブジェクト30bを決定する(図12参照)。
更には、ARオブジェクト決定部224は、異常通知に含まれる異常が発生した位置情報に基づいて(例えば、戸挟みであれば扉の位置情報)に基づいて、全体画像33(列車3であれば編成画像)および当該異常発生位置(列車3であれば編成画像中の乗降用の扉の位置など)を示すマーカ34を表示するためのARオブジェクトを決定する(図13参照)。そして、ARオブジェクト決定部224は、ARオブジェクト30の種類に応じた優先度と、重畳表示させるARオブジェクトの数に関する表示数制限と、に基づいて、重畳表示させる。
AR表示制御部230は、ARオブジェクト決定部224により決定されたARオブジェクトを、視界中の重畳表示抑制エリア20以外に重畳表示させる制御を行う。
そして、AR表示制御部230は、最優先表示制御部232を有する。最優先表示制御部232は、ARオブジェクト決定部224により抑制免除条件を満たすARオブジェクト30(例えば、優先度「高」に設定されている内容を示すARオブジェクト、異常通知に対応するARオブジェクト)が決定された場合に、重畳表示抑制エリア20であるか否かに関わらず、当該抑制免除条件を満たすARオブジェクト30を視界中に重畳表示させる。
表示中止制御部240は、首振り検出部214による検出に応じて、AR表示制御部230によるARオブジェクト30の重畳表示を中止させる。中止は、10秒間といった一時的な中止としてもよい。
計時部290は、システムクロックを利用して現在日時や制限時間等の計時を行う。
画像生成部292は、画像表示部392に表示させる画像を生成し、その画像信号の出力を行う。
画像表示部392は、画像を表示させる装置で実現される。図1の例では、ARデバイス1200、より具体的には、透過型ディスプレイ1202がこれに該当する。
通信制御部294は、データ通信に係るデータ処理を実行し、通信部394を介して外部装置とのデータのやりとりを実現する。
通信部394は、ネットワーク9と接続して通信を実現する。例えば、無線通信機、モデム、TA(ターミナルアダプタ)、制御回路等によって実現される。図1の例では通信モジュール1153が該当する。
記憶部500は、処理部200に支援システム1000を統合的に制御させるための諸機能を実現するためのプログラムや各種データ等を記憶する。また、処理部200の演算作業領域として用いられ、処理部200が各種プログラムに従って実行した演算結果などを一時的に記憶する。この機能は、例えばRAMやROMなどのICメモリ、ハードディスク等の磁気ディスク、オンラインストレージなどによって実現される。図1の例では制御基板1150が搭載するICメモリ1152がこれに該当する。
図15は、記憶部500が記憶するプログラムやデータの例を示す図である。
記憶部500は、例えば、支援表示制御プログラム503と、視認対象物登録データ550と、ARオブジェクト設定データ560と、運行予定データ600と、受信済ライブ映像アクセス情報610と、受信済異常通知情報612と、AR表示制御データ700と、現在日時800と、を含む。勿論、これら以外のデータも適宜含めることができる。
支援表示制御プログラム503は、処理部200が実行することで、処理部200に支援表示制御部210としての機能を実現させるためのプログラムである。
視認対象物登録データ550は、扉扱いの際に車掌が視認するべき対象物として設定された視認対象物毎に作成され、当該視認対象物に関する各種情報を格納する。1つの視認対象物登録データ550は、例えば図16に示すように、固有の視認対象物ID551と、視認対象物種類553と、対象物画像認識用辞書データ555と、当該視認対象物が信号機である場合に設定される信号現示認識用辞書データ557と、を含む。勿論、これら以外のデータも適宜含めることができる。
視認対象物種類553には、例えば「列車の側面」「点字ブロックを含むホーム側縁部」「車両のドア」「車側灯」「出発反応標識」「ホーム柵の状態表示灯」「車掌用ホームモニタ」「駅係員」などの名称を格納する。
対象物画像認識用辞書データ555は、視認対象物を画像認識するための基礎データである。
信号現示認識用辞書データ557は、当該鉄道設備が信号機である場合に信号現示を画像認識するための基礎データである。
図15に戻って、ARオブジェクト設定データ560は、ARオブジェクト30の種類毎に用意され、当該種類のARオブジェクト30を、どのような状況において、どのようなオブジェクトで、何の情報を表示するか、を示す各種データを格納する。
1つのARオブジェクト設定データ560は、例えば図17~図19に示すように、ARオブジェクト種類561と、カテゴリ562と、表示開始条件563と、表示終了条件564と、優先度565と、オブジェクトデータ566と、表示内容指定データ567と、を含む。勿論、これら以外のデータも適宜含めることができる。
カテゴリ562は、ARオブジェクト設定データ560のメタデータであって、当該ARオブジェクトのAR表示制御上の分類を示す。分類は適宜設定可能であるが、例えば図17に示すような「標準」と、図18に示すような「異常通知用」と、図19に示すような「全体表示用」と、の3種を含む様に設定される。
更には、カテゴリ562には、サブ階層情報としてサブカテゴリ(種類でも良い)を適宜設定できる。例えば、図17の例では、カテゴリ「標準」のサブ階層情報として、出発予定時刻までの「残時間表示」、が設定されている。その他、出発予定時刻からの「遅延時間」などを設定することもできる。図18および図19の例では、カテゴリ「異常通知」「全体表示」のサブ階層情報として「戸挟み」が設定されている。その他、「駆け込み」、「火災報知」、などを設定することができる。
オブジェクトデータ566は、重畳表示させるオブジェクトの色や形を定義するデータである。
表示内容指定データ567は、オブジェクトデータ566が指定するオブジェクトで表示する内容であって、所定のテキストデータや、所定の映像、所定の画像(例えば、イラスト)、その時々に算出されえるパラメータの種類、等が指定される。
例えば、図17の例では、出発予定時刻までの残時間のように、定時運行の出発予定時刻までの残時間を表示するための標準のARオブジェクト30aを定義している。すなわち、オブジェクトデータ566は、残時間をテキスト表示するのに十分な大きさ・形・配色が施されたARオブジェクト30aが定義されている。表示内容指定データ567は、その時々に算出されるパラメータとして、出発予定時刻までの残時間を指定している。
また、図18の例は、異常通知情報530を受信して表示される異常通知用のARオブジェクト30bを定義している。すなわち、オブジェクトデータ566は、映像表示部31とする第1オブジェクトと、情報表示部32とする第2オブジェクトとを定義している。表示内容指定データ567は、第1オブジェクト用に「対応する異常通知情報530の撮影カメラID535が示す監視カメラ1390で撮影されている現場映像」を、第2オブジェクト用に「異常位置情報534が示す車両番号」をそれぞれ指定している。
表示内容指定データ567にて、第1オブジェクト用に「現場映像」が指定されている場合、AR表示システム1100は、監視システム1300から提供されているライブ映像アクセス情報522から、異常通知情報530の撮影カメラID535が示す情報を検索し、そのライブ映像受信用アドレスに接続してストリーミング配信されている現場映像を取得し、取得した現場映像を情報表示部32の第1オブジェクトにリアルタイムで合成して表示させる。
また、図19の例は、異常通知情報530を受信して表示される全体表示用のARオブジェクト30cを定義している。すなわち、表示開始条件563は、当該ARオブジェクトが、「第2車両の左側中央ドアで戸挟みが発生した時」に表示されることを示している。そして、オブジェクトデータ566は、マーカ34が付された全体画像33を表示するのに十分な大きさのオブジェクトを定義している。表示内容指定データ567は、イラストで表された編成画像(全体画像33)に、第2車両の左中央ドアを表す位置にマーカ34が付された画像が設定されている。
図15に戻って、運行予定データ600は、車掌が乗務する列車3の運行予定に関する情報を格納するデータである。運行予定データ600は、出発前にAR表示システム1100がネットワーク9を介して所定の運行管理システムから取得するか、車掌がICメモリカードなどの情報記憶媒体にコピーして持ち込むことで、AR表示システム1100に読み込まれて記憶される。
運行予定データ600は、編成数602と、運行スケジュールデータ604と、停車予定の駅4毎に用意された視界外駅監視場所リスト606と、を含む。
視界外駅監視場所リスト606は、駅名と、当該運行予定に基づいて当該駅に入線・停車しているときに車掌から見えないと予測される当該駅の監視カメラ1390の監視場所情報(停車時視界外監視場所情報)と、を対応づけて格納する。当該リストは、予め用意されている。
受信済ライブ映像アクセス情報610は、監視システム1300から受信したライブ映像アクセス情報522(図4参照)である。監視システム1300と、AR表示システム1100との無線通信が確立すると監視システム1300から受信して記憶し、当該通信が途切れるとこれらを消去する。よって、列車3の第1の監視システム1300aに係る受信済ライブ映像アクセス情報610は常時記憶部500に記憶されるが、駅4の第2の監視システム1300bに係る受信済ライブ映像アクセス情報610は、駅4に近づき通信圏内に入ると受信・記憶され、駅4から通信圏外に離れると消去されることになる。
受信済異常通知情報612は、監視システム1300から受信した異常通知情報530(図4参照)である。
図15に戻って、AR表示制御データ700は、AR表示の実行に係る各種最新のデータを格納する。AR表示制御データ700は、例えば図20に示すように、
(1)視界撮影部100で撮影した撮影画像データ701と、
(2)姿勢変化計測部102で計測した姿勢変化に基づいて求められる視界撮影部100の光軸方向(車掌の視線方向)を示す視線方向トラッキングデータ702と、
(3)測位部104が計測或いは取得した現在位置情報703と、
(4)ライブ映像7に写っている視認対象物を画像認識するための各種データを格納する画像認識処理データ705と、
(5)重畳表示抑制エリア管理データ710と、
(6)表示推奨エリア設定データ720と、
(7)表示優先順位リスト722と、
(8)表示許可数724と、
(9)表示中止タイマー726と、
(10)ARオブジェクト管理データ730と、
を含む。勿論、これら以外のデータも適宜含めることができる。
重畳表示抑制エリア管理データ710は、重畳表示抑制エリア20(図8参照)毎に作成される。1つの重畳表示抑制エリア管理データ710は、例えば固有のエリアID711と、認識元になった視認対象物を示す認識元視認対象物ID713と、エリア定義データ715と、を含む。エリア定義データ715は、例えば画像座標系における重畳表示抑制エリア20の各頂点位置座標のリストとして実現される。或いは、画像座標系を分断する境界線を記述する関数や、境界線が通る通過点の位置座標のリストであってもよい。
表示優先順位リスト722は、そのタイミングで表示開始条件563(図17参照)を満たしているARオブジェクトを、それぞれの優先度565に基づいて上位から並べたARオブジェクト種類561のリストである。
表示中止タイマー726は、車掌の首振り動作が検出された場合に、検出から一定時間AR表示を中止するための中止適用時間を計時するタイマーである。
ARオブジェクト管理データ730は、固有のARオブジェクトID731と、表示位置座標733と、オブジェクトデータ735と、表示内容データ737と、を含む。勿論、これら以外のデータも適宜含めることができる。
次に、AR表示システム1100の動作について説明する。
なお、車掌が列車の扉扱いをするために、列車3は駅4に停車しており、AR表示システム1100は、列車3の第1の監視システム1300aおよび駅4の第2の監視システム1300bと通信が確立されている状況にあるものとする。
図21は、AR表示システム1100の処理の流れを説明するためのフローチャートである。AR表示システム1100は、リアルタイム処理と呼べる程度に十分短い所定周期で、ステップS30~ステップS70を繰り返し実行する。
具体的には、AR表示システム1100は、ライブ映像7における視認対象物の画像認識をし(ステップS30)、認識された認識対象物に応じた重畳表示抑制エリア20を設定する(ステップS32)。
次いで、AR表示システム1100は、監視システム1300から配信された異常通知情報530を記憶し、監視システム1300から抹消通知された異常通知情報530を消去する(ステップS34)。
次に、AR表示システム1100は、表示許可数724を決定して、表示開始条件563を満たすARオブジェクト30を検索し(ステップS36)、それらの優先度565に基づく優先順位に基づいて表示対象とするARオブジェクト30を選抜する(ステップS38)。
次に、AR表示システム1100は、車掌の首振りを検出する。もし、首振りが検出されず(ステップS40のNO)、且つ表示中止タイマー726が起動していなければ(ステップS42のNO)、ステップS38で選抜したARオブジェクト30毎に、ARオブジェクト管理データ730を作成して、選抜したARオブジェクト30毎にループAを実行する(ステップS50~ステップS68)。
ループAでは、AR表示システム1100は、処理対象のARオブジェクト30の優先度が「高」であれば(ステップS52のYES)、重畳表示抑制エリア20の設定如何に関わらず、その表示位置を決定する(ステップS54)。つまり、重畳表示抑制エリア20であるか否かに関わらず、画像表示範囲の任意の表示位置(望ましくは、車掌の注意を引きやすい位置:例えば中央や、上部中央など)を決定する。
一方、優先度が「高」以外であれば(ステップS52のNO)、AR表示システム1100は、処理対象のARオブジェクト30の表示位置を、重畳表示抑制エリア20外となるように設定する(ステップS54)。
次に、AR表示システム1100は、処理対象のARオブジェクト30のカテゴリ562を判定する。
カテゴリ562が「異常通知」である場合(ステップS60の異常通知)、AR表示システム1100は処理対象のARオブジェクト30に係る現場映像を取得し(ステップS62)、当該ARオブジェクト30の映像表示部31に取得した映像をライブ表示し、情報表示部32で異常位置情報を示すようにして、ARオブジェクト30を重畳表示させる(ステップS66)。そして、ループAを終了する(ステップS68)。
一方、カテゴリ562が「全体情報」である場合は(ステップS60の全体情報)、AR表示システム1100は、処理対象のARオブジェクト30に係る受信済ライブ映像アクセス情報610の示す異常位置情報534(図15参照)の示す位置が、車掌の視界外であるかを判定する。具体的には、当該異常位置情報534を、視界外駅監視場所リスト606(図15参照)と照合し、当該リストに登録されていれば「視界外」と判定する。
そして、視界外であれば(ステップS64のYES)、AR表示システム1100は処理対象のARオブジェクト30を表示させ(ステップS66)、ループAを終了する(ステップS68)。
もし、視界内であれば(ステップS64のNO)AR表示システム1100は処理対象のARオブジェクト30を表示させずに、ループAを終了する(ステップS68)。
もしカテゴリ562が「異常通知」と「全体情報」以外であれば(ステップS60の他)、AR表示システム1100は、そのままAR表示システム1100は処理対象のARオブジェクト30を表示させずに、ループAを終了する(ステップS68)。
ステップS38で選抜した全てのARオブジェクト30についてループAを実行したならば、AR表示システム1100は支援終了条件を満たすかを判定する(ステップS70)。
但し、ステップS40にて首振り動作が検出された場合は(ステップS40のYES)、AR表示システム1100は、表示中止タイマー726を起動させ(ステップS44)、ループAは実行せず支援終了条件を満たすかを判定する(ステップS70)。
支援終了条件は適宜設定可能である。例えば、列車3が運行行路の終着点に到着したことを支援終了条件としてもよい。そして、支援終了条件が満たされるまでは(ステップS70のNO)、支援システム1000は、ステップS30~ステップS70を所定周期で繰り返し実行する。支援終了条件が満たされれば(ステップS70のYES)、一連の処理を終了する。
以上、本実施形態によれば、支援システム1000は、ARオブジェクト30の表示を通じて車掌に情報を提供して業務を支援することができる。
具体的には、支援システム1000は、車掌の視界をカメラで撮影し、そこに扉扱いの際に車掌が視認する対象物として設定された視認対象物を含むようにして重畳表示抑制エリア20を設定し、当該エリア以外にARオブジェクト30を表示することができる。重畳表示抑制エリア20を適切に設定することで、例えば、視認対象物にARオブジェクト30が重なるように表示されて、当該視認対象物を車掌が視認できなかったり、視認し難い状態となるのを防ぐことができる。これにより、車掌の業務に適した、車掌の業務を支援するための、ARデバイスを用いた新たなシステムが実現可能となる。
また、重畳表示抑制エリアの設定時に参照される視認対象物は、車掌の視界であるライブ映像(撮影画像)に基づいて検出される。
また、支援システム1000は、車掌の首振りを検出した場合は、ARオブジェクト30の重畳表示を中止させることができる。車掌は、様々な視認対象物を確実に視認するために、立ち位置を変え、身体の向きを変え、顔の向きを変えることが多い。そのため、ARオブジェクト30の重畳表示が視界中でうるさく感じられる場合も起こり得る。そのような場合に、車掌は、首振りをすることで、ARオブジェクト30の重畳表示を中止させることが可能となる。
また、支援システム1000は、異常と判断された現場の映像(例えば、列車3の乗降口の扉付近の映像)をARオブジェクト30で表示させることができる。加えて、現場の映像とともに異常発生場所に関する情報(例えば、列車3のどの車両のどの乗降口の扉)も車掌に提供することができる。
また、支援システム1000は、一度に表示するARオブジェクト30の表示数を適切に調整して見易いAR表示を実現できる。
また、所定の抑制免除条件を満たすARオブジェクト(例えば、異常通知用のARオブジェクト30b)については、重畳表示抑制エリア20であるか否かに関わらず、当該ARオブジェクトを視界中に重畳表示させることができる。つまり、重要な情報を確実に表示することができる。
〔変形例〕
以上、本発明を適用した実施形態の一例について説明したが、本発明を適用可能な実施形態は、上記実施形態に限定されるものではなく、適宜構成要素の省略・追加・変更を行うことができる。
(変形例その1)
例えば、上記実施形態では、AR表示システム1100を、制御装置1110とARデバイス1200との大きく2つのハードウェアで構成したが、ハードウェアの構成数はこれに限らない。例えば、ARデバイス1200の制御基板1250が制御装置1110の制御基板1150の機能を有するのであれば、制御装置1110の機能をARデバイス1200にて実現することとし、AR表示システム1100をARデバイス1200単体で実現するとしてもよい。
(変形例その2)
また、上記実施形態では、重畳表示抑制エリア20を、車掌の視界のライブ映像7から視認対象物を画像認識して検出し、検出された視認対象物のそれぞれに応じて設定する構成としたが、それ以外の構成も可能である。
例えば、図22に示すように、支援表示制御部210に判定部242を含める。
判定部242は、視界撮影部100で撮影された撮影画像に基づいて、扉扱いが、車掌の乗務する列車3の左右どちら側を対象としているかを判定する。つまり、視界の左右どちら側に列車3の側面が画像認識されたかを判定する。或いは、運行予定データ600の運行スケジュールデータ604に、停車駅で左右どちら側の扉を開けるかの情報が含まれる場合には、これを参照して判定するとしてもよい。
そして、抑制エリア設定部220が、扉扱いが列車3の左側である場合と右側である場合とについて視認対象物の視界中の想定範囲に基づき定められた重畳表示抑制エリア20の左側テンプレートおよび右側テンプレートのうち、判定部242による判定結果に対応するテンプレートを用いて重畳表示抑制エリア20を設定する。
具体的には、表示推奨エリア設定データ720を左側用と右側用とで予め用意しておく。前者は、左側テンプレートとして機能し、例えばライブ映像7の全画像範囲22(透過型ディスプレイ1202としての画像表示範囲)の右上の角周辺部を、表示推奨エリア24として設定されている。また、後者は、右側テンプレートとして機能し、例えばライブ映像7の全画像範囲22の左上の角周辺部を、表示推奨エリア24として設定されている。或いは、例えば、左側テンプレートとなる表示推奨エリア設定データ720は、画像全体のうちの右側1/3を表示推奨エリア24として設定されたデータとし、右側テンプレートとなる表示推奨エリア設定データ720は、画像全体のうちの左側1/3を表示推奨エリア24として設定されたデータとする、こととしてもよい。
当該構成では、画像認識の対象物が上記実施形態よりも減るので、AR表示システム1100の処理負荷を軽減できる。
3…列車
4…駅
7…ライブ映像
20…重畳表示抑制エリア
24…表示推奨エリア
30…ARオブジェクト
31…映像表示部
32…情報表示部
33…全体画像
34…マーカ
37…現場映像
100…視界撮影部
130…撮影部
200k…処理部
202…画像認識部
204…異常判定部
206…異常通知情報設定部
208…配信制御部
210…支援表示制御部
212…異常通知受信制御部
214…首振り検出部
216…視認対象物検出部
220…抑制エリア設定部
222…現場映像取得制御部
224…ARオブジェクト決定部
230…AR表示制御部
232…最優先表示制御部
240…表示中止制御部
242…判定部
501…監視プログラム
503…支援表示制御プログラム
520…ライブ配信制御データ
522…ライブ映像アクセス情報
530…異常通知情報
534…異常位置情報
550…視認対象物登録データ
560…ARオブジェクト設定データ
561…ARオブジェクト種類
565…優先度
610…受信済ライブ映像アクセス情報
612…受信済異常通知情報
700…AR表示制御データ
701…撮影画像データ
705…画像認識処理データ
710…重畳表示抑制エリア管理データ
722…表示優先順位リスト
724…表示許可数
726…表示中止タイマー
730…ARオブジェクト管理データ
733…表示位置座標
1000…支援システム
1100…AR表示システム
1200…ARデバイス
1300(1300a、1300b)…監視システム

Claims (11)

  1. 少なくとも列車の扉扱いをする際に車掌が装着するARデバイスと、前記ARデバイスに対して、前記車掌の視界に所与のARオブジェクトを重畳表示させる制御を行う制御装置と、を具備するコンピュータシステムであって、
    前記ARデバイスは、
    前記車掌の視界を撮影するカメラ、
    を備え、
    前記制御装置は、
    前記カメラの撮影画像に基づいて、前記扉扱いの際に前記車掌が視認する対象物として設定された視認対象物を含む前記視界中の範囲を含むように重畳表示抑制エリアを設定する抑制エリア設定手段と、
    重畳表示させるARオブジェクトを決定するARオブジェクト決定手段と、
    前記決定されたARオブジェクトを、前記視界中の前記重畳表示抑制エリア以外に重畳表示させる制御を行う表示制御手段と、
    を備える、
    コンピュータシステム。
  2. 前記制御装置は、
    前記撮影画像に基づいて、前記視認対象物を検出する検出手段、
    を更に備え、
    前記抑制エリア設定手段は、前記検出された視認対象物に基づいて前記重畳表示抑制エリアを設定する、
    請求項1に記載のコンピュータシステム。
  3. 前記制御装置は、
    前記撮影画像に基づいて、前記扉扱いが前記列車の左右どちら側を対象としているかを判定する判定手段、
    を更に備え、
    前記抑制エリア設定手段は、前記扉扱いが前記列車の左側である場合と右側である場合とについて前記視認対象物の前記視界中の想定範囲に基づき定められた前記重畳表示抑制エリアの左側テンプレートおよび右側テンプレートのうち、前記判定手段の判定結果に対応するテンプレートを用いて前記重畳表示抑制エリアを設定する、
    請求項1に記載のコンピュータシステム。
  4. 前記制御装置は、
    前記車掌の首振りを検出する首振り検出手段と、
    前記首振り検出手段による検出に応じて、前記表示制御手段による前記ARオブジェクトの重畳表示を中止させる表示中止制御手段と、
    を更に備える、
    請求項1~3の何れか一項に記載のコンピュータシステム。
  5. 前記視認対象物は、前記列車の側面と、点字ブロックを含むホーム側縁部と、を含む、
    請求項1~4の何れか一項に記載のコンピュータシステム。
  6. 前記制御装置は、
    前記列車の扉付近の映像を取得する映像取得手段、
    を更に備え、
    前記ARオブジェクト決定手段は、前記映像取得手段により取得された映像を表示するためのARオブジェクトを決定する、
    請求項1~5の何れか一項に記載のコンピュータシステム。
  7. 前記制御装置は、
    前記列車の扉に係る異常通知を当該扉の位置情報を含めて受信する異常通知受信手段、
    を更に備え、
    前記ARオブジェクト決定手段は、前記異常通知に応じた情報を表示するためのARオブジェクトを決定する、
    請求項1~6の何れか一項に記載のコンピュータシステム。
  8. 前記ARオブジェクト決定手段は、前記異常通知に含まれる扉の位置情報に基づいて、前記列車の編成画像および当該編成画像中の当該扉の位置を示すマーカを表示するためのARオブジェクトを決定する、
    請求項7に記載のコンピュータシステム。
  9. 前記ARオブジェクトには、種類に応じた優先度が対応づけられており、
    前記ARオブジェクト決定手段は、前記優先度と、重畳表示させるARオブジェクトの数に関する表示数制限と、に基づいて、重畳表示させるARオブジェクトを決定する、
    請求項1~8の何れか一項に記載のコンピュータシステム。
  10. 前記ARオブジェクトには、所定の抑制免除条件を満たすARオブジェクトが含まれ、
    前記表示制御手段は、前記ARオブジェクト決定手段により前記抑制免除条件を満たすARオブジェクトが決定された場合に、前記重畳表示抑制エリアであるか否かに関わらず、当該抑制免除条件を満たすARオブジェクトを前記視界中に重畳表示させる最優先表示制御手段を有する、
    請求項1~9の何れか一項に記載のコンピュータシステム。
  11. 車掌の視界を撮影するカメラを有して少なくとも列車の扉扱いをする際に車掌が装着するARデバイスに対して、前記車掌の視界に所与のARオブジェクトを重畳表示させる制御を行う制御装置による制御方法であって、
    前記カメラの撮影画像に基づいて、前記扉扱いの際に前記車掌が視認する対象物として設定された視認対象物を含む前記視界中の範囲を含むように重畳表示抑制エリアを設定することと、
    重畳表示させるARオブジェクトを決定することと、
    前記決定されたARオブジェクトを、前記視界中の前記重畳表示抑制エリア以外に重畳表示させる制御を行うことと、
    を含む制御方法。
JP2020152225A 2020-09-10 2020-09-10 コンピュータシステムおよび制御方法 Active JP7442140B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020152225A JP7442140B2 (ja) 2020-09-10 2020-09-10 コンピュータシステムおよび制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020152225A JP7442140B2 (ja) 2020-09-10 2020-09-10 コンピュータシステムおよび制御方法

Publications (2)

Publication Number Publication Date
JP2022046277A true JP2022046277A (ja) 2022-03-23
JP7442140B2 JP7442140B2 (ja) 2024-03-04

Family

ID=80779831

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020152225A Active JP7442140B2 (ja) 2020-09-10 2020-09-10 コンピュータシステムおよび制御方法

Country Status (1)

Country Link
JP (1) JP7442140B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024012650A1 (en) * 2022-07-11 2024-01-18 Brainlab Ag Augmentation overlay device
JP7429375B1 (ja) 2022-08-17 2024-02-08 エコモット株式会社 通信端末、画像処理システム及び画像処理方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005207783A (ja) * 2004-01-20 2005-08-04 Mazda Motor Corp 車両用画像表示装置、車両用画像表示方法及び車両用画像表示プログラム
JP2011210125A (ja) * 2010-03-30 2011-10-20 Ns Solutions Corp 情報処理装置、表示制御システム、表示制御方法及びプログラム
JP2015504616A (ja) * 2011-09-26 2015-02-12 マイクロソフト コーポレーション 透過近眼式ディスプレイのセンサ入力に基づく映像表示修正
JP2017049658A (ja) * 2015-08-31 2017-03-09 Kddi株式会社 Ar情報表示装置
JP2017058971A (ja) * 2015-09-16 2017-03-23 株式会社バンダイナムコエンターテインメント プログラムおよび画像生成装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005207783A (ja) * 2004-01-20 2005-08-04 Mazda Motor Corp 車両用画像表示装置、車両用画像表示方法及び車両用画像表示プログラム
JP2011210125A (ja) * 2010-03-30 2011-10-20 Ns Solutions Corp 情報処理装置、表示制御システム、表示制御方法及びプログラム
JP2015504616A (ja) * 2011-09-26 2015-02-12 マイクロソフト コーポレーション 透過近眼式ディスプレイのセンサ入力に基づく映像表示修正
JP2017049658A (ja) * 2015-08-31 2017-03-09 Kddi株式会社 Ar情報表示装置
JP2017058971A (ja) * 2015-09-16 2017-03-23 株式会社バンダイナムコエンターテインメント プログラムおよび画像生成装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024012650A1 (en) * 2022-07-11 2024-01-18 Brainlab Ag Augmentation overlay device
JP7429375B1 (ja) 2022-08-17 2024-02-08 エコモット株式会社 通信端末、画像処理システム及び画像処理方法

Also Published As

Publication number Publication date
JP7442140B2 (ja) 2024-03-04

Similar Documents

Publication Publication Date Title
JP6631619B2 (ja) 映像監視システム及び映像監視方法
US11524698B2 (en) Information processing apparatus and information processing method
JP2021106019A (ja) 画像処理装置、異常検知方法、及びプログラム
JP2022046277A (ja) コンピュータシステムおよび制御方法
JP6127659B2 (ja) 運転支援装置及び運転支援方法
JP6497185B2 (ja) 自律移動装置および自律移動装置の制御方法
US10991138B2 (en) Systems and methods for in-flight virtual reality displays for passenger and crew assistance
US20220212685A1 (en) Information processing apparatus, moving apparatus, and method, as well as program
JP7230173B2 (ja) 置去り物検知装置および置去り物検知方法
WO2021049219A1 (ja) 情報処理装置、移動装置、情報処理システム、および方法、並びにプログラム
US20230166866A1 (en) Adaptive aircraft boarding system
JP2023126352A (ja) プログラム、映像監視方法及び映像監視システム
JP6920776B2 (ja) 監視支援システム及び監視支援方法
US20170146800A1 (en) System and method for facilitating cross-checking between flight crew members using wearable displays
WO2023095196A1 (ja) 乗客監視装置、乗客監視方法、及び非一時的なコンピュータ可読媒体
JP6712010B1 (ja) 降車駅情報システム及び降車駅情報プログラム
KR20150083354A (ko) 탑승객의 멀미를 방지하는 장치 및 방법
JP2021051301A (ja) 車掌模擬訓練システム
JP5955467B2 (ja) 搭乗者向け画像表示システム
Glaab et al. Preliminary effect of synthetic vision systems displays to reduce low-visibility loss of control and controlled flight into terrain accidents
JP7458031B2 (ja) コンピュータシステムおよび制御方法
JP7068966B2 (ja) 表示制御プログラム、表示制御方法および端末装置
JP7293057B2 (ja) 放射線量分布表示システムおよび放射線量分布表示方法
JP7135913B2 (ja) 運転評価画面の表示方法、プログラム、運転評価システム、及び運転評価画面
US20240071155A1 (en) Disorderly biometric boarding

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230410

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231031

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231225

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240209

R150 Certificate of patent or registration of utility model

Ref document number: 7442140

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150