JP7399226B1 - 管制支援装置、管制支援方法及び管制支援プログラム - Google Patents

管制支援装置、管制支援方法及び管制支援プログラム Download PDF

Info

Publication number
JP7399226B1
JP7399226B1 JP2022112312A JP2022112312A JP7399226B1 JP 7399226 B1 JP7399226 B1 JP 7399226B1 JP 2022112312 A JP2022112312 A JP 2022112312A JP 2022112312 A JP2022112312 A JP 2022112312A JP 7399226 B1 JP7399226 B1 JP 7399226B1
Authority
JP
Japan
Prior art keywords
image
aircraft
external world
control support
video data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022112312A
Other languages
English (en)
Other versions
JP2024010802A (ja
Inventor
健太 ▲高▼木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2022112312A priority Critical patent/JP7399226B1/ja
Application granted granted Critical
Publication of JP7399226B1 publication Critical patent/JP7399226B1/ja
Publication of JP2024010802A publication Critical patent/JP2024010802A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】管制施設において、映像データが得られなくなった場合にも、管制業務を継続可能にする管制支援装置、管制支援方法及び管制支援プログラムを提供する。【解決手段】管制支援システムの管制支援装置において、外界画像生成部22は、映像データを取得するカメラの撮影領域の背景画像データである外界画像31を生成する。航空機画像生成部23は、撮影領域に存在する航空機を表す画像データである航空機画像32を生成する。表示制御部25は、外界画像31に、航空機画像32を重畳させた疑似映像を表示する。【選択図】図2

Description

本開示は、映像により管制を支援する技術に関する。
小規模な空港等の管制を遠隔地から行うリモートタワーと呼ばれるシステムがある。リモートタワーは、管制対象の空港に設置されたカメラで滑走路周辺を撮影して得られた映像データにより、管制塔から見える景色を再現する。遠隔地にあるリモート管制施設では、映像データにより再現された景色を目視して、管制を行う。また、リモート管制施設だけでなく、従来の管制官が目視により管制を行う管制施設においても、航空機が建物の裏側等に隠れてしまう場合や視界不良時に映像データにより管制を行う場合がある。
特許文献1には、管制対象の航空機が行き交う場所を撮影した撮影画像をもとに、表示画像を生成して表示することが記載されている。
特開2019-022178号公報
カメラが故障した場合、又は、映像データの伝送回線がダウンした場合には、管制施設に映像データが提供されなくなる。そのため、管制施設では、再現された景色を目視できなくなる。管制業務は目視による確認が基本である。そのため、景色を目視できなくなると管制業務の継続が困難になる。
本開示は、管制施設において、映像データが得られなくなった場合にも、管制業務を継続可能にすることを目的とする。
本開示に係る管制支援装置は、
映像データを取得するカメラの撮影領域の背景画像データである外界画像を生成する外界画像生成部と、
前記撮影領域に存在する航空機を表す画像データである航空機画像を生成する航空機画像生成部と、
前記外界画像生成部によって生成された前記外界画像に、前記航空機画像生成部によって生成された前記航空機画像を重畳させた疑似映像を表示する表示制御部と
を備える。
本開示では、外界画像に航空機画像を重畳させた疑似映像を表示する。これにより、映像データが得られなくなった場合にも、疑似映像を参照することにより管制業務が継続可能になる。
実施の形態1に係る管制支援システム100の構成図。 実施の形態1に係る管制支援装置10の構成図。 実施の形態1に係る管制支援装置10の処理概要の説明図。 実施の形態1に係るカメラ42に対応する範囲421の説明図。 実施の形態1に係る管制支援装置10の全体的な処理のフローチャート。 実施の形態1に係る疑似映像判定処理のフローチャート。 実施の形態1に係る外界画像生成処理のフローチャート。 実施の形態1に係る外界画像31の説明図。 実施の形態1に係る表示制御処理のフローチャート。 実施の形態1に係る航空機画像生成処理のフローチャート。 実施の形態1に係る航空機画像32の説明図。 実施の形態1に係るタグ情報生成処理のフローチャート。 実施の形態1に係る表示制御処理のフローチャート。 変形例4に係る管制支援装置10の構成図。
実施の形態1.
***構成の説明***
図1を参照して、実施の形態1に係る管制支援システム100の構成を説明する。
管制支援システム100は、管制支援装置10と、表示装置41と、1台以上のカメラ42と、1台以上のセンサ43とを備える。管制支援装置10及び表示装置41は、リモート管制施設51に設置される。各カメラ42及び各センサ43は、管制対象の空港52に設置される。
図2を参照して、実施の形態1に係る管制支援装置10の構成を説明する。
管制支援装置10は、コンピュータである。
管制支援装置10は、プロセッサ11と、メモリ12と、ストレージ13と、通信インタフェース14とのハードウェアを備える。プロセッサ11は、信号線を介して他のハードウェアと接続され、これら他のハードウェアを制御する。
プロセッサ11は、プロセッシングを行うICである。ICはIntegrated Circuitの略である。プロセッサ11は、具体例としては、CPU、DSP、GPUである。CPUは、Central Processing Unitの略である。DSPは、Digital Signal Processorの略である。GPUは、Graphics Processing Unitの略である。
メモリ12は、データを一時的に記憶する記憶装置である。メモリ12は、具体例としては、SRAM、DRAMである。SRAMは、Static Random Access Memoryの略である。DRAMは、Dynamic Random Access Memoryの略である。
ストレージ13は、データを保管する記憶装置である。ストレージ13は、具体例としては、HDDである。HDDは、Hard Disk Driveの略である。また、ストレージ13は、SD(登録商標)メモリカード、CompactFlash(登録商標)、NANDフラッシュ、フレキシブルディスク、光ディスク、コンパクトディスク、Blu-ray(登録商標)ディスク、DVDといった可搬記録媒体であってもよい。SDは、Secure Digitalの略である。DVDは、Digital Versatile Diskの略である。
通信インタフェース14は、外部の装置と通信するためのインタフェースである。通信インタフェース14は、具体例としては、Ethernet(登録商標)、USB、HDMI(登録商標)のポートである。USBは、Universal Serial Busの略である。HDMIは、High-Definition Multimedia Interfaceの略である。
管制支援装置10は、機能構成要素として、疑似映像判定部21と、外界画像生成部22と、航空機画像生成部23と、タグ情報生成部24と、表示制御部25と、カメラ映像取得部26と、空港情報取得部27と、センサ情報取得部28と、航空機情報取得部29と、位置変換部30とを備える。管制支援装置10の各機能構成要素の機能はソフトウェアにより実現される。
ストレージ13には、管制支援装置10の各機能構成要素の機能を実現するプログラムが格納されている。このプログラムは、プロセッサ11によりメモリ12に読み込まれ、プロセッサ11によって実行される。これにより、管制支援装置10の各機能構成要素の機能が実現される。
ストレージ13には、複数の外界画像31と、複数の航空機画像32とが記憶されている。外界画像31は、カメラの撮影領域の背景画像データである。航空機画像32は、航空機を表す画像データである。外界画像31及び航空機画像32は、具体例としては、コンピュータグラフィックスデータである。
図2では、プロセッサ11は、1つだけ示されていた。しかし、プロセッサ11は、複数であってもよく、複数のプロセッサ11が、各機能を実現するプログラムを連携して実行してもよい。
***動作の説明***
図3から図13を参照して、実施の形態1に係る管制支援装置10の動作を説明する。
実施の形態1に係る管制支援装置10の動作手順は、実施の形態1に係る管制支援方法に相当する。また、実施の形態1に係る管制支援装置10の動作を実現するプログラムは、実施の形態1に係る管制支援プログラムに相当する。
図3を参照して、実施の形態1に係る管制支援装置10の処理概要を説明する。
実施の形態1では、管制支援システム100は、複数のカメラ42を備えるとする。図3では、4台のカメラ42が備えられた例が示されている。各カメラ42には、対応する範囲421が設定される。
全てのカメラ42から映像データ33が取得されたとする。この場合には、図3の(A)に示すように、各カメラ42から取得された映像データ33が表示される。
一部のカメラ42から映像データ33が取得されなかったとする。この場合には、図3の(B)に示すように、未取得範囲61について疑似映像71が生成される。未取得範囲61は、映像データ33が取得されなかったカメラ42に対応する範囲421である。そして、未取得範囲61については疑似映像71が表示される。また、取得範囲62については、映像データ33が表示される。取得範囲62は、映像データ33が取得されたカメラ42に対応する範囲421である。
なお、全てのカメラ42から映像データ33が取得されない場合には、全てのカメラ42に対応する範囲421について疑似映像71が表示される。
図4に示すように、複数のカメラ42は撮影領域の一部が重なるように設置され、カメラ42に対応する範囲421は、カメラ42の撮影領域の一部である。
図5を参照して、実施の形態1に係る管制支援装置10の全体的な処理を説明する。
(ステップS1:疑似映像判定処理)
疑似映像判定部21は、全てのカメラ42から映像データ33が取得されたか否かを判定する。
少なくともいずれかのカメラ42から映像データ33が取得されなかった場合には、処理がステップS2に進められる。一方、全てのカメラ42から映像データ33が取得された場合には、処理がステップS3に進められる。
(ステップS2:外界画像生成処理)
外界画像生成部22は、映像データ33が取得されなかったカメラ42の撮影領域に対応する外界画像31を生成する。
(ステップS3:パノラマ映像生成処理)
表示制御部25は、ステップS1で取得された映像データ33とステップS2で生成された外界画像31とを合成して、パノラマ映像を生成する。なお、全てのカメラ42から映像データ33が取得された場合には、表示制御部25は、映像データ33のみを合成して、パノラマ映像を生成する。また、全てのカメラ42から映像データ33が取得されない場合には、表示制御部25は、外界画像31のみを合成して、パノラマ映像を生成する。
(ステップS4:航空機画像生成処理)
航空機画像生成部23は、未取得範囲61にいる1台以上の航空機それぞれについての航空機画像32を生成する。
(ステップS5:タグ情報生成処理)
タグ情報生成部24は、各カメラ42に対応する範囲にいる1台以上の航空機それぞれについてのタグ情報34を生成する。
(ステップS6:表示制御処理)
表示制御部25は、ステップS3で生成されたパノラマ映像に、ステップS4で生成された航空機画像32を重畳させた疑似映像71を生成する。表示制御部25は、疑似映像71に、ステップS5で生成されたタグ情報34を重畳させて表示装置41に表示する。
図6を参照して、実施の形態1に係る疑似映像判定処理(図5のステップS1)を説明する。
複数のカメラ42それぞれを対象のカメラ42として、ステップS11からステップS14の処理が実行される。
(ステップS11:カメラ映像取得処理)
カメラ映像取得部26は、対象のカメラ42から映像データ33の取得を試みる。
(ステップS12:取得判定処理)
疑似映像判定部21は、ステップS11で対象のカメラ42から映像データ33が取得されたか否かを判定する。例えば、映像データ33がパケットとして送られる場合には、対象のカメラ42のアドレスを送信元とする映像データ33のパケットを受信したか否かにより、疑似映像判定部21は映像データ33を取得したかどうかを判定する。疑似映像判定部21は、あらかじめ対象のカメラ42のアドレスを保持しているものとする。
疑似映像判定部21は、映像データ33が取得された場合には、処理をステップS13に進める。一方、疑似映像判定部21は、映像データ33が取得されなかった場合には、処理をステップS14に進める。
(ステップS13:映像送信処理)
疑似映像判定部21は、ステップS11で対象のカメラ42から取得された映像データ33とカメラ識別子を、表示制御部25に送信する。カメラ識別子は、例えば対象のカメラ42のアドレスである。
(ステップS14:生成指示処理)
疑似映像判定部21は、対象のカメラ42の識別子であるカメラ識別子を、外界画像生成部22と航空機画像生成部23と表示制御部25とに送信する。
図7を参照して、実施の形態1に係る外界画像生成処理(図5のステップS2)を説明する。
複数のカメラ42それぞれを対象のカメラ42として、ステップS21からステップS24の処理が実行される。
(ステップS21:天候取得処理)
空港情報取得部27は、空港52の天候情報を取得する。
具体的には、空港情報取得部27は、気象情報を管理する外部のサーバ等から、空港52がある地域についての天候情報を取得する。
(ステップS22:カメラ判定処理)
外界画像生成部22は、対象のカメラ42が、映像データ33が取得されなかったカメラ42であるか否かを判定する。
具体的には、外界画像生成部22は、対象のカメラ42のカメラ識別子が、ステップS14で送信されたカメラ識別子に含まれるか否かを判定する。外界画像生成部22は、含まれる場合には、対象のカメラ42は映像データ33が取得されなかったカメラ42であると判定する。外界画像生成部22は、含まれない場合には、対象のカメラ42は映像データ33が取得されたカメラ42であると判定する。
外界画像生成部22は、対象のカメラ42が、映像データ33が取得されなかったカメラ42である場合には、処理をステップS23に進める。一方、外界画像生成部22は、対象のカメラ42は映像データ33が取得されたカメラ42である場合には、対象のカメラ42についての処理を終了する。
(ステップS23:画像生成処理)
外界画像生成部22は、対象のカメラ42についての外界画像31を生成する。この際、外界画像生成部22は、天候及び時刻に対応する外界画像31を生成する。
実施の形態1では、図8に示すように、ストレージ13には、カメラ42毎に、天候及び時刻に対応した外界画像31が記憶されている。外界画像生成部22は、対象のカメラ42についての外界画像31であって、ステップS21で取得された天候情報が示す天候と、現在時刻とに対応する外界画像31をストレージ13から読み出す。これにより、対象のカメラ42について、天候及び時刻に対応した外界画像31が得られる。
なお、ストレージ13には、カメラ42毎に、1つの外界画像31が記憶されていてもよい。この場合には、外界画像生成部22は、対象のカメラ42に対応する外界画像31を読み出す。そして、外界画像生成部22は、読み出された外界画像31に対して、天候情報が示す天候と、現在時刻とに対応する補正を加える。これにより、対象のカメラ42について、天候及び時刻に対応した外界画像31が得られる。
外界画像31は、カメラ42に対応する範囲についての背景画像データである。つまり、外界画像31は、カメラ42に対応する範囲について、航空機が存在しない状態の風景を表した画像データである。外界画像31は、対応する天候及び時刻における風景を表した画像データである。つまり、外界画像31は、天候が晴であれば、晴れた状態の風景を表し、天候が雨であれば、雨が降った状態の風景を表す。また、外界画像31は、日中の時刻であれば、日中の状態の風景を表し、夕方の時刻であれば、夕方の状態の風景を表す。
外界画像31は、航空機が見えやすい色等に補正されてもよい。外界画像31は、建物で航空機が隠れないように、建物が透明になっていてもよい。
(ステップS24:画像送信処理)
外界画像生成部22は、ステップS23で生成された外界画像31及びカメラ識別子を表示制御部25に送信する。
図9を参照して、実施の形態1に係る表示制御処理(図5のステップS3)を説明する。
(ステップS31:情報受信処理)
表示制御部25は、疑似映像判定部21と外界画像生成部22とによって送信された情報を受信する。
具体的には、表示制御部25は、疑似映像判定部21によって送信された映像データ33及びカメラ識別子を受信する。表示制御部25は、外界画像生成部22によって送信された外界画像31及びカメラ識別子を受信する。
(ステップS32:パノラマ映像生成処理)
表示制御部25は、ステップS31で取得された各カメラ42に対応する映像データ33又は外界画像31を合成して、各カメラ42の撮影領域全体の画像データであるパノラマ映像を生成する。映像データ33又は外界画像31を合成する方法は、パノラマ映像を生成する既存の手法を用いればよい。例えば、境界付近の特徴点が重なるように合成する。隣接する映像データ33又は外界画像31との重なり部分は、中心から端に向かうにつれて透過度を増して合成してもよい。なお、表示制御部25は、映像データ33又は外界画像31とともに受信したカメラ識別子を参照し、映像データ33又は外界画像31を配置してパノラマ映像を生成する。
また、表示制御部25は、パノラマ映像を生成する際に、パノラマ映像中の画素のうち外界画像31を対応付けた画素を示す画素テーブルを生成する。画素テーブルに含まれる画素はすべての未取得範囲61の画素である。
図10を参照して、実施の形態1に係る航空機画像生成処理(図5のステップS4)を説明する。
(ステップS41:センサ情報取得処理)
センサ情報取得部28は、センサ43により、空港52周辺に存在する航空機の位置情報を取得する。センサ43は、具体例としては、ASRとSSRとMLATと等である。ASRは、Airport Surveillance Radarの略である。SSRは、Secondary Surveillance Radarの略である。MLATは、MultiLATerationの略である。航空機の位置情報は、航空機が位置する緯度・経度・高度の座標値を示す。航空機の位置情報には、航空機の識別子が含まれる。
(ステップS42:航空機情報取得処理)
航空機情報取得部29は、ステップS41で位置情報が取得された航空機についての航空機情報をFACEから取得する。FACEは、Flight Object Administration Center systemの略である。航空機情報には、航空機の型式と、航空機の識別子といった情報が含まれる。
航空機情報取得部29は、航空機の位置情報に含まれる航空機の識別子を含む航空機情報を取得することにより、ステップS41で位置情報が取得された航空機についての航空機情報を取得できる。
(ステップS43:位置変換処理)
位置変換部30は、ステップS41で取得された位置情報が示す座標値を、映像データ33における座標値に変換する。つまり、位置変換部30は、緯度・経度・高度の座標値を、映像データ33における画素の位置に変換する。位置変換部30は、位置情報が示す座標値を、基準位置を原点とするENU(East North Up)座標系の座標に変換し、ENU座標系の座標を、パノラマ映像における画素に変換することにより、位置情報が示す位置を画素位置に変換することができる。基準位置は、具体例としては、特定の撮影装置42の設置位置である。位置情報が示す位置は、緯度及び経度を示す。したがって、緯度及び経度とENU座標系の座標との対応関係を事前に設定しておくことにより、位置情報が示す位置をENU座標系の座標に変換することができる。また、ENU座標系の座標とパノラマ映像における画素との対応関係を事前に設定しておくことにより、ENU座標系の座標をパノラマ映像における画素に変換することができる。
ステップS44からステップS46の処理が、ステップS41で位置情報が取得された1台以上の航空機それぞれを対象の航空機として実行される。
(ステップS44:範囲判定処理)
航空機画像生成部23は、対象の航空機の位置情報が示す画素の位置が、画素テーブルに含まれるか否かを判定する。画素テーブルに含まれるか否かを判定することにより、いずれかの未取得範囲61に含まれるか否かを判定することができる。
航空機画像生成部23は、画素の位置が画素テーブルに含まれる場合には、処理をステップS45に進める。一方、航空機画像生成部23は、画素の位置が画素テーブルに含まれない場合には、対象の航空機についてのステップS44からステップS46の処理を終了する。
(ステップS45:画像生成処理)
航空機画像生成部23は、未取得範囲61に存在する航空機を表す画像データである航空機画像32を生成する。
実施の形態1では、図11に示すように、ストレージ13には、航空機の型式毎に、航空機画像32が記憶されている。航空機画像生成部23は、対象の航空機の型式についての航空機画像32をストレージ13から読み出す。これにより、対象の航空機を表す航空機画像32が得られる。
(ステップS46:画像補正処理)
航空機画像生成部23は、ステップS45で生成された航空機画像32について、対象の航空機の針路方向に応じて向きを補正する。
実施の形態1では、航空機画像32は航空機を表す3次元モデルである。航空機画像生成部23は、対象の航空機の針路方向に応じて回転させて、向きを補正する。対象の航空機の針路方向は、ステップS41で取得された位置情報の変化から特定可能である。例えば、航空機画像生成部23は、対象の航空機の針路方向が北向きの場合には、3次元モデルを機首が北向きになるように回転させる。また、航空機画像生成部23は、位置情報の変化から降下又は上昇の角度を特定し、対象の航空機の機首の角度を補正してもよい。例えば、対象の航空機が20°降下している場合には、航空機画像生成部23は、3次元モデルの機首を20°下げる。
(ステップS47:画像送信処理)
航空機画像生成部23は、位置が未取得範囲61内にある1台以上の航空機それぞれについての補正後の航空機画像32を表示制御部25に送信する。この際、航空機画像生成部23は、航空機画像32とともに、ステップS43で変換された後の座標値を表示制御部25に送信する。
図12を参照して、実施の形態1に係るタグ情報生成処理(図5のステップS5)を説明する。
ステップS51からステップS53の処理は、図10のステップS41からステップS43の処理と同じである。なお、ステップS51からステップS53の処理と図10のステップS41からステップS43の処理とを別々に行う必要はない。つまり、ステップS51からステップS53の処理と図10のステップS41からステップS43の処理とは共通化してもよい。
(ステップS54:生成処理)
タグ情報生成部24は、ステップS51で位置情報が取得された1台以上の航空機それぞれを対象の航空機に設定する。タグ情報生成部24は、対象の航空機についての航空機情報から識別子等の必要な情報を抽出して、対象の航空機についてのタグ情報34を生成する。
(ステップS55:タグ送信処理)
タグ情報生成部24は、ステップS51で位置情報が取得された1台以上の航空機それぞれについてのタグ情報34を表示制御部25に送信する。この際、タグ情報生成部24は、タグ情報34とともに、ステップS53で変換された後の座標値を表示制御部25に送信する。
図13を参照して、実施の形態1に係る表示制御処理(図5のステップS6)を説明する。
(ステップS61:情報受信処理)
表示制御部25は、航空機画像生成部23とタグ情報生成部24とによって送信された情報を受信する。
具体的には、表示制御部25は、航空機画像生成部23によって送信された航空機画像32及び座標値の組を受信する。表示制御部25は、タグ情報生成部24によって送信されたタグ情報34及び座標値の組を受信する。
(ステップS62:パノラマ映像表示処理)
表示制御部25は、ステップS3で生成したパノラマ映像を表示装置41に表示する。
(ステップS63:航空機表示処理)
表示制御部25は、ステップS61で航空機画像生成部23から受信した、未取得範囲61内に存在する航空機の航空機画像32を、ステップS62で表示されたパノラマ映像に重畳させて表示する。航空機の位置は、航空機画像32とともに受信した座標値により特定可能である。この際、表示制御部25は、航空機画像32を、航空機画像32とともに受信した座標値が示す位置に表示する。
ステップS63の処理により、表示制御部25は、パノラマ映像に航空機画像32を重畳させた疑似映像71を表示する。
1つ以上のタグ情報34それぞれを対象のタグ情報34として、ステップS64の処理が実行される。
(ステップS64:タグ表示処理)
表示制御部25は、ステップS61で受信した対象のタグ情報34を、ステップS62で表示されたパノラマ映像に重畳させて表示する。この際、表示制御部25は、タグ情報34を、タグ情報34とともに受信した座標値に対応する位置に表示する。
座標値に対応する位置は、座標値が示す位置から少しずれた位置である。これにより、タグ情報34が航空機画像32と重ならずに表示される。どの程度ずれた位置か、どの方向にずれた位置かは、航空機画像32の大きさ等に応じて決定される。
***実施の形態1の効果***
以上のように、実施の形態1に係る管制支援装置10は、映像データ33が取得されない場合に、外界画像31に航空機画像32を重畳させた疑似映像71を表示する。
これにより、映像データが得られなくなった場合にも、疑似映像71を参照することにより管制業務が継続可能になる。
***他の構成***
<変形例1>
実施の形態1では、映像データ33が取得されない場合に、管制支援装置10は疑似映像71を表示した。しかし、映像データ33が取得された場合であっても、管制支援装置10は疑似映像71を表示してもよい。例えば、悪天候等による視界不良の場合には、管制支援装置10は、映像データ33に代えて疑似映像71を表示してもよい。また、取得された映像データ33のノイズが多いような場合にも、管制支援装置10は、映像データ33に代えて疑似映像71を表示してもよい。また、例えば建物により管制官が航空機を目視で確認できない場合にも、管制支援装置10は、映像データ33に代えて疑似映像71を表示してもよい。
また、映像データ33のパケットエラーが予め定めた閾値より多い場合に、映像データ33を用いるのではなく、疑似映像を生成してもよい。
<変形例2>
実施の形態1では、管制支援装置10は、映像データ33が取得されないカメラ42に対応する範囲421についてのみ疑似映像71を表示した。しかし、管制支援装置10は、一部の映像データ33が表示されない場合に、全てのカメラ42に対応する範囲421について疑似映像71を表示してもよい。
<変形例3>
実施の形態1では、複数のカメラ42を備えるとしたが、カメラ42は1台でもよい。1台の場合、カメラ42に対応する範囲421は、カメラ42の撮影領域全体である。パノラマ映像は生成されず、カメラ42から取得された映像データ33又は疑似映像71が表示される。
なお、複数のカメラ42であっても、カメラ42に対応する範囲421がカメラ42の撮影領域の全体でもよい。
<変形例4>
実施の形態1では、各機能構成要素がソフトウェアで実現された。しかし、変形例4として、各機能構成要素はハードウェアで実現されてもよい。この変形例4について、実施の形態1と異なる点を説明する。
図14を参照して、変形例4に係る管制支援装置10の構成を説明する。
各機能構成要素がハードウェアで実現される場合には、管制支援装置10は、プロセッサ11とメモリ12とストレージ13とに代えて、電子回路15を備える。電子回路15は、各機能構成要素と、メモリ12と、ストレージ13との機能とを実現する専用の回路である。
電子回路15としては、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ロジックIC、GA、ASIC、FPGAが想定される。GAは、Gate Arrayの略である。ASICは、Application Specific Integrated Circuitの略である。FPGAは、Field-Programmable Gate Arrayの略である。
各機能構成要素を1つの電子回路15で実現してもよいし、各機能構成要素を複数の電子回路15に分散させて実現してもよい。
<変形例5>
変形例5として、一部の各機能構成要素がハードウェアで実現され、他の各機能構成要素がソフトウェアで実現されてもよい。
プロセッサ11とメモリ12とストレージ13と電子回路15とを処理回路という。つまり、各機能構成要素の機能は、処理回路により実現される。
また、以上の説明における「部」を、「回路」、「工程」、「手順」、「処理」又は「処理回路」に読み替えてもよい。
以上、本開示の実施の形態及び変形例について説明した。これらの実施の形態及び変形例のうち、いくつかを組み合わせて実施してもよい。また、いずれか1つ又はいくつかを部分的に実施してもよい。なお、本開示は、以上の実施の形態及び変形例に限定されるものではなく、必要に応じて種々の変更が可能である。
以下、本開示の諸態様を付記としてまとめて記載する。
(付記1)
映像データを取得するカメラの撮影領域の背景画像データである外界画像を生成する外界画像生成部と、
前記撮影領域に存在する航空機を表す画像データである航空機画像を生成する航空機画像生成部と、
前記外界画像生成部によって生成された前記外界画像に、前記航空機画像生成部によって生成された前記航空機画像を重畳させた疑似映像を表示する表示制御部と
を備える管制支援装置。
(付記2)
前記管制支援装置は、さらに、
前記航空機の位置を示す位置情報を取得するセンサ情報取得部
を備え、
前記表示制御部は、前記外界画像における前記センサ情報取得部によって取得された前記位置情報が示す前記位置に、前記航空機画像を重畳させた前記疑似映像を表示する
付記1に記載の管制支援装置。
(付記3)
前記管制支援装置は、さらに、
前記カメラによって取得された映像データが受信されたか否かを判定する疑似映像判定部
を備え、
前記表示制御部は、前記疑似映像判定部によって前記映像データが受信されていないと判定された場合に、前記疑似映像を表示する
付記1又は2に記載の管制支援装置。
(付記4)
前記表示制御部は、前記疑似映像判定部によって前記映像データが受信されていると判定された場合には、前記映像データを表示する
付記3に記載の管制支援装置。
(付記5)
前記外界画像生成部は、天候及び時刻に応じて異なる前記外界画像を生成する
付記1から4までのいずれか1項に記載の管制支援装置。
(付記6)
前記航空機画像生成部は、前記航空機の型式に対応する画像データについて、前記航空機の針路方向に応じて向きを補正して、前記航空機画像を生成する
付記1から5までのいずれか1項に記載の管制支援装置。
(付記7)
前記管制支援装置は、さらに、
前記航空機の識別子を示すタグ情報を生成するタグ情報生成部
を備え、
前記表示制御部は、前記タグ情報生成部によって生成された前記タグ情報を、前記航空機画像とともに前記外界画像に重畳させて前記疑似映像を生成する
付記1から6までのいずれか1項に記載の管制支援装置。
(付記8)
コンピュータが、映像データを取得するカメラの撮影領域の背景画像データである外界画像を生成し、
コンピュータが、前記撮影領域に存在する航空機を表す画像データである航空機画像を生成し、
コンピュータが、前記外界画像に前記航空機画像を重畳させた疑似映像を表示する管制支援方法。
(付記9)
映像データを取得するカメラの撮影領域の背景画像データである外界画像を生成する外界画像生成処理と、
前記撮影領域に存在する航空機を表す画像データである航空機画像を生成する航空機画像生成処理と、
前記外界画像生成処理によって生成された前記外界画像に、前記航空機画像生成処理によって生成された前記航空機画像を重畳させた疑似映像を表示する表示制御処理と
を行う管制支援装置としてコンピュータを機能させる管制支援プログラム。
100 管制支援システム、10 管制支援装置、11 プロセッサ、12 メモリ、13 ストレージ、14 通信インタフェース、15 電子回路、21 疑似映像判定部、22 外界画像生成部、23 航空機画像生成部、24 タグ情報生成部、25 表示制御部、26 カメラ映像取得部、27 空港情報取得部、28 センサ情報取得部、29 航空機情報取得部、30 位置変換部、31 外界画像、32 航空機画像、33 映像データ、34 タグ情報、41 表示装置、42 カメラ、421 対応する範囲、43 センサ、51 リモート管制施設、52 空港、61 未取得範囲、62 取得範囲、71 疑似映像。

Claims (8)

  1. 映像データを取得するカメラの撮影領域の背景画像データである外界画像を生成する外界画像生成部と、
    前記撮影領域に存在する航空機を表す画像データである航空機画像を生成する航空機画像生成部と、
    前記カメラによって取得された映像データが受信されたか否かを判定する疑似映像判定部と、
    前記疑似映像判定部によって前記映像データが受信されていないと判定された場合に、前記外界画像生成部によって生成された前記外界画像に、前記航空機画像生成部によって生成された前記航空機画像を重畳させた疑似映像を表示する表示制御部と
    を備える管制支援装置。
  2. 前記管制支援装置は、さらに、
    前記航空機の位置を示す位置情報を取得するセンサ情報取得部
    を備え、
    前記表示制御部は、前記外界画像における前記センサ情報取得部によって取得された前記位置情報が示す前記位置に、前記航空機画像を重畳させた前記疑似映像を表示する
    請求項1に記載の管制支援装置。
  3. 前記表示制御部は、前記疑似映像判定部によって前記映像データが受信されていると判定された場合には、前記映像データを表示する
    請求項に記載の管制支援装置。
  4. 前記外界画像生成部は、天候及び時刻に応じて異なる前記外界画像を生成する
    請求項1に記載の管制支援装置。
  5. 前記航空機画像生成部は、前記航空機の型式に対応する画像データについて、前記航空機の針路方向に応じて向きを補正して、前記航空機画像を生成する
    請求項1に記載の管制支援装置。
  6. 前記管制支援装置は、さらに、
    前記航空機の識別子を示すタグ情報を生成するタグ情報生成部
    を備え、
    前記表示制御部は、前記タグ情報生成部によって生成された前記タグ情報を、前記航空機画像とともに前記外界画像に重畳させて前記疑似映像を生成する
    請求項1に記載の管制支援装置。
  7. コンピュータが、映像データを取得するカメラの撮影領域の背景画像データである外界画像を生成し、
    コンピュータが、前記撮影領域に存在する航空機を表す画像データである航空機画像を生成し、
    コンピュータが、前記カメラによって取得された映像データが受信されたか否かを判定し、
    コンピュータが、前記映像データが受信されていないと判定された場合に、前記外界画像に前記航空機画像を重畳させた疑似映像を表示する管制支援方法。
  8. 映像データを取得するカメラの撮影領域の背景画像データである外界画像を生成する外界画像生成処理と、
    前記撮影領域に存在する航空機を表す画像データである航空機画像を生成する航空機画像生成処理と、
    前記カメラによって取得された映像データが受信されたか否かを判定する疑似映像判定処理と、
    前記疑似映像判定処理によって前記映像データが受信されていないと判定された場合に、前記外界画像生成処理によって生成された前記外界画像に、前記航空機画像生成処理によって生成された前記航空機画像を重畳させた疑似映像を表示する表示制御処理と
    を行う管制支援装置としてコンピュータを機能させる管制支援プログラム。
JP2022112312A 2022-07-13 2022-07-13 管制支援装置、管制支援方法及び管制支援プログラム Active JP7399226B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022112312A JP7399226B1 (ja) 2022-07-13 2022-07-13 管制支援装置、管制支援方法及び管制支援プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022112312A JP7399226B1 (ja) 2022-07-13 2022-07-13 管制支援装置、管制支援方法及び管制支援プログラム

Publications (2)

Publication Number Publication Date
JP7399226B1 true JP7399226B1 (ja) 2023-12-15
JP2024010802A JP2024010802A (ja) 2024-01-25

Family

ID=89122249

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022112312A Active JP7399226B1 (ja) 2022-07-13 2022-07-13 管制支援装置、管制支援方法及び管制支援プログラム

Country Status (1)

Country Link
JP (1) JP7399226B1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003006799A (ja) 2001-06-27 2003-01-10 Kawasaki Heavy Ind Ltd 航空機運航管理支援システム
US20080042923A1 (en) 2006-08-16 2008-02-21 Rick De Laet Systems, methods, and apparatus for recording of graphical display
JP2010234851A (ja) 2009-03-30 2010-10-21 Mazda Motor Corp 車両用表示装置
JP2014006101A (ja) 2012-06-22 2014-01-16 Mitsubishi Electric Corp 交通情報表示装置及び交通情報表示方法
WO2015045956A1 (ja) 2013-09-24 2015-04-02 株式会社日立国際電気 搭乗者向け画像表示システム
JP2020198024A (ja) 2019-06-05 2020-12-10 日本無線株式会社 遠隔管制システムおよび遠隔管制方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003006799A (ja) 2001-06-27 2003-01-10 Kawasaki Heavy Ind Ltd 航空機運航管理支援システム
US20080042923A1 (en) 2006-08-16 2008-02-21 Rick De Laet Systems, methods, and apparatus for recording of graphical display
JP2010234851A (ja) 2009-03-30 2010-10-21 Mazda Motor Corp 車両用表示装置
JP2014006101A (ja) 2012-06-22 2014-01-16 Mitsubishi Electric Corp 交通情報表示装置及び交通情報表示方法
WO2015045956A1 (ja) 2013-09-24 2015-04-02 株式会社日立国際電気 搭乗者向け画像表示システム
JP2020198024A (ja) 2019-06-05 2020-12-10 日本無線株式会社 遠隔管制システムおよび遠隔管制方法

Also Published As

Publication number Publication date
JP2024010802A (ja) 2024-01-25

Similar Documents

Publication Publication Date Title
WO2021227359A1 (zh) 一种无人机投影方法、装置、设备及存储介质
US9699380B2 (en) Fusion of panoramic background images using color and depth data
US10939068B2 (en) Image capturing device, image capturing system, image processing method, and recording medium
US20190391778A1 (en) Apparatus, system, and method for controlling display, and recording medium
US10325391B2 (en) Oriented image stitching for spherical image content
US10846820B2 (en) Generation device, identification information generation method, reproduction device, and image generation method
JP2005500721A5 (ja)
TW200912512A (en) Augmenting images for panoramic display
JP2005500721A (ja) Vtvシステム
EP3448020B1 (en) Method and device for three-dimensional presentation of surveillance video
KR20150067197A (ko) 비디오 시각 변경 방법 및 장치
US20190033961A1 (en) Graphics processing systems
WO2019033673A1 (zh) 海域全景监控方法、装置、服务器及系统
WO2021035756A1 (zh) 基于飞行器的巡检方法、设备及存储介质
WO2019123509A1 (ja) 端末装置、システム、プログラム及び方法
CN110599432B (zh) 影像处理系统及影像处理方法
US11818492B2 (en) Communication management apparatus, image communication system, communication management method, and recording medium
CN113711583B (zh) 物体信息处理装置、物体信息处理方法以及计算机可读记录介质
CN116205069A (zh) 基于智能驾驶域控制器的场景注入方法、系统及装置
JP7399226B1 (ja) 管制支援装置、管制支援方法及び管制支援プログラム
US11102448B2 (en) Image capturing apparatus, image processing system, image processing method, and recording medium
JP6563300B2 (ja) 自由視点画像データ生成装置および自由視点画像データ再生装置
EP4075789A1 (en) Imaging device, imaging method, and program
JP2008203991A (ja) 画像処理装置
US20230237796A1 (en) Geo-spatial context for full-motion video

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220713

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230718

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230816

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231205

R150 Certificate of patent or registration of utility model

Ref document number: 7399226

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150