JP7449454B2 - 航空機の乗降部を検出するための検出システム - Google Patents
航空機の乗降部を検出するための検出システム Download PDFInfo
- Publication number
- JP7449454B2 JP7449454B2 JP2023538216A JP2023538216A JP7449454B2 JP 7449454 B2 JP7449454 B2 JP 7449454B2 JP 2023538216 A JP2023538216 A JP 2023538216A JP 2023538216 A JP2023538216 A JP 2023538216A JP 7449454 B2 JP7449454 B2 JP 7449454B2
- Authority
- JP
- Japan
- Prior art keywords
- search
- boarding
- image
- camera
- aircraft
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims description 48
- 238000012545 processing Methods 0.000 claims description 47
- 230000009466 transformation Effects 0.000 claims description 19
- 230000007246 mechanism Effects 0.000 claims description 18
- 238000003384 imaging method Methods 0.000 claims description 2
- 238000000034 method Methods 0.000 description 43
- 230000008569 process Effects 0.000 description 41
- 238000010586 diagram Methods 0.000 description 10
- 230000008859 change Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 4
- 238000012937 correction Methods 0.000 description 4
- 230000003028 elevating effect Effects 0.000 description 4
- 230000003014 reinforcing effect Effects 0.000 description 4
- JLQUFIHWVLZVTJ-UHFFFAOYSA-N carbosulfan Chemical compound CCCCN(CCCC)SN(C)C(=O)OC1=CC=CC2=C1OC(C)(C)C2 JLQUFIHWVLZVTJ-UHFFFAOYSA-N 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000006872 improvement Effects 0.000 description 2
- 230000001131 transforming effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013213 extrapolation Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64F—GROUND OR AIRCRAFT-CARRIER-DECK INSTALLATIONS SPECIALLY ADAPTED FOR USE IN CONNECTION WITH AIRCRAFT; DESIGNING, MANUFACTURING, ASSEMBLING, CLEANING, MAINTAINING OR REPAIRING AIRCRAFT, NOT OTHERWISE PROVIDED FOR; HANDLING, TRANSPORTING, TESTING OR INSPECTING AIRCRAFT COMPONENTS, NOT OTHERWISE PROVIDED FOR
- B64F1/00—Ground or aircraft-carrier-deck installations
- B64F1/30—Ground or aircraft-carrier-deck installations for embarking or disembarking passengers
- B64F1/305—Bridges extending between terminal building and aircraft, e.g. telescopic, vertically adjustable
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Architecture (AREA)
- Civil Engineering (AREA)
- Structural Engineering (AREA)
- Mechanical Engineering (AREA)
- Aviation & Aerospace Engineering (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Description
本開示は、航空機の乗降部を検出するための検出システムに関する。
空港のターミナルビルと航空機との間の乗客の歩行通路になる設備として、旅客搭乗橋が知られている。旅客搭乗橋は、ターミナルビルに接続されて水平回転自在に支持されたロタンダと、基端がロタンダに接続されて伸縮自在に構成されたトンネル部と、トンネル部の先端に回転自在に設けられ航空機の乗降部に装着されるキャブと、トンネル部の先端寄りに支持脚として設けられたドライブコラムとを備えている。ドライブコラムには、トンネル部を支持して上下移動させる昇降装置と、昇降装置の下部に設けられ一対の走行車輪を有する走行装置とを備えている。このような旅客搭乗橋の移動を自動化することが提案されている(例えば下記特許文献1および2参照)。
例えば、特許文献1には、キャブに航空機の乗降部を撮影するカメラを取り付け、所定の待機位置にキャブがあるときに、カメラで撮影される乗降部の画像に基づいて当該乗降部の水平位置情報を算出し、この水平位置情報に基づいて、キャブを乗降部に装着するために移動させる移動先の目標位置を算出し、待機位置にあるキャブを目標位置に向かって移動させることが記載されている。
また、特許文献2には、航空機の乗降口と接続可能なヘッド部(キャブ)に第1および第2の2つのカメラを備えた構成が記載されている。そして、操作盤において駆動開始の入力が行われると、走行駆動部によって車輪走行が開始され、ヘッド部が航空機の数メートル手前まで到達したとき、第1および第2カメラによる航空機の第1の特徴部および第2の特徴部の撮像が開始される。そして、第1および第2カメラの撮像画像を用いて航空機の乗降口の目標点の位置を算出し、航空機の乗降口に対するヘッド部の相対位置および相対角度を算出し、これらに基づいて制御補正量を算出し、それに基づいて各種駆動部が駆動されて、ヘッド部を航空機の目標点に向けて移動させることが記載されている。
このような旅客搭乗橋の移動を自動化するためには、旅客搭乗橋の先端部に設けられたカメラで撮影された撮影画像から航空機の乗降部の位置を正確に検出する必要がある。特に、航空機の乗降部の位置は、駐機する航空機の種類およびサイズ等に応じて大きく異なり得る。また、空港のゲート配置も様々であり、駐機する航空機とゲート配置との組み合わせごとに乗降部の位置検出態様を予め設定することは煩雑である。このように、様々なゲート配置に対応して複数種類の航空機の乗降部の位置を正確に検出することについて、上記特許文献1および2には改善の余地がある。
本開示は上記のような課題を解決するためになされたもので、旅客搭乗橋の先端部に設けられたカメラで撮影された撮影画像を用いて、航空機の乗降部の位置を様々なゲート配置に対応して正確に検出することができる検出システムを提供することを目的としている。
本開示のある態様に係る検出シスステムは、航空機の乗降部を検出するための検出システムであって、ターミナルビルに接続される旅客搭乗橋と、前記旅客搭乗橋に設けられたカメラと、前記カメラで撮影された撮影画像から前記航空機の乗降部を検出する画像処理装置と、を備え、前記画像処理装置は、前記撮影画像のうちの一部を含む所定領域を区切って探索領域画像を生成する探索領域画像生成部と、前記探索領域画像内に前記乗降部が存在するか否かの探索を行う探索実行部と、を含み、前記探索領域画像生成部は、前記撮影画像上において前記所定領域を前記航空機の機軸方向一方側から他方側に移動させることにより、前記探索領域画像を順次生成し、前記探索実行部は、順次生成された複数の前記探索領域画像を用いて、前記探索領域画像を変えながら前記探索を繰り返し行う。
上記構成によれば、旅客搭乗橋に設けられたカメラで撮影された撮影画像から、その撮影画像の一部を含む所定領域ごとに区切られた複数の探索領域画像が生成される。複数の探索領域画像は、所定領域を航空機の機軸方向一方側から他方側に移動させて生成される。したがって、順次生成された複数の探索領域画像を用いて探索領域画像を変えながら乗降部の探索を繰り返し行うことにより、探索領域を航空機の機軸に沿った方向に移動させながら撮影画像全体の乗降部の探索を行うことができる。これにより、航空機の種類またはゲート配置によらず、乗降部の探索を一律に行うことができる。したがって、航空機の乗降部の位置を様々なゲート配置に対応して正確に検出することができる。
前記探索領域画像生成部は、前記撮影画像において水平面に対して垂直かつ前記機軸に平行な仮想平面を、前記仮想平面に垂直な方向から見たときの画像となるように射影変換することを含んでもよい。
上記構成によれば、探索領域画像が機軸に平行な画像として生成される。したがって、撮影画像が航空機の斜め方向から撮影された場合であっても、探索領域画像において探索するべき乗降部の形状の歪みを抑制することができる。これにより、探索領域画像における乗降部の探索精度を向上させることができる。
前記探索領域画像生成部は、前記撮影画像のうちの一部を含む前記所定領域を区切るたびに当該所定領域における前記撮影画像を前記射影変換してもよい。
上記構成によれば、撮影画像が所定領域ごとに射影変換されるため、撮影画像全体を射影変換してからその射影変換後の画像から所定領域を区切るよりも画像の解像度の低下を抑制することができる。
前記検出システムは、水平面に対して交差する方向に延びる所定の回転軸回りに回動することにより前記カメラの撮影方向を変更する撮影方向変更機構と、前記撮影方向変更機構の動作を制御する制御器を備え、前記画像処理装置は、移動後の前記所定領域が予め定められる探索範囲内かつ前記撮影画像内であるか否かを判定する探索範囲判定部を含み、前記制御器は、移動後の前記所定領域が前記探索範囲内であるが、前記撮影画像内ではないと判定された場合、前記撮影方向変更機構により前記カメラの撮影方向を変更して、前記カメラによる撮影を再度行ってもよい。
上記構成によれば、カメラの撮影方向を変更しつつ複数回撮影することにより、探索範囲全体の撮影画像を、複数の撮影画像として取得することができる。したがって、一撮影画像あたりの撮影範囲を比較的狭くすることができるため、撮影画像から得られる探索領域画像の解像度を高くすることができる。もしくは探索範囲をカメラの視野以上に広く設定することが可能となる。
前記旅客搭乗橋は、第1搭乗橋と、第2搭乗橋とを含み、前記カメラは、前記第1搭乗橋に設けられた第1カメラと、前記第2搭乗橋に設けられた第2カメラとを含み、前記探索領域画像生成部は、前記第1カメラが撮影した前記撮影画像上において前記所定領域を前記航空機の機軸方向前方側から後方側に移動させることにより、前記探索領域画像を順次生成し、前記第2カメラが撮影した前記撮影画像上において前記所定領域を前記航空機の機軸方向後方側から前方側に移動させることにより、前記探索領域画像を順次生成してもよい。
上記構成によれば、第1搭乗橋に設けられた第1カメラで撮影された撮影画像に基づいて第1搭乗橋が接続するべき航空機の乗降部の探索が行われ、第2搭乗橋に設けられた第2カメラで撮影された撮影画像に基づいて第2搭乗橋が接続するべき航空機の乗降部の探索が行われる。このとき、第1カメラで撮影した撮影画像を用いた乗降部の探索では、航空機の機軸方向前方側から後方側に探索が行われる一方、第2カメラで撮影した撮影画像を用いた乗降部の探索では、航空機の機軸方向後方側から前方側に探索が行われる。これにより、第1カメラで撮影された撮影画像に基づいて航空機の前方にある乗降部を優先的に検出することができ、第2カメラで撮影された撮影画像に基づいて航空機の後方にある乗降部を優先的に検出することができる。したがって、第1搭乗橋が接続するべき乗降部と第2搭乗橋が接続するべき乗降部とを正確かつ短時間で探索することができる。
前記探索実行部は、前記第1カメラが撮影した前記撮影画像から生成された前記探索領域画像による第1探索と、前記第2カメラが撮影した前記撮影画像から生成された前記探索領域画像による第2探索とを、並行して行ってもよい。上記構成によれば、第1搭乗橋が接続するべき乗降部の探索と第2搭乗橋が接続するべき乗降部の探索とが同時並行的に行われるため、探索期間を短時間にすることができる。
前記探索実行部は、前記第1カメラが撮影した前記撮影画像から生成された前記探索領域画像による第1探索において前記乗降部を検出した第1位置と、前記第2カメラが撮影した前記撮影画像から生成された前記探索領域画像による第2探索において前記乗降部を検出した第2位置との距離が所定の基準値未満の場合に、前記第1カメラについて設定される第1探索範囲または前記第2カメラについて設定される第2探索範囲の少なくとも何れか一方の探索範囲に前記第1位置および前記第2位置の双方が含まれていれば、前記第1位置または前記第2位置で、一の前記乗降部を検出したと判定してもよい。
上記構成によれば、第1探索で検出された乗降部の位置(第1位置)と、第2探索で検出された乗降部の位置(第2位置)との距離が近い場合、第1位置および第2位置の双方が第1探索範囲または第2探索範囲の少なくとも何れか一方に含まれていれば、2つの探索で1つの乗降部を検出したと判定される。このように、第1位置と第2位置とが近い場合であっても、2つの探索で1つの乗降部を検出したことについての信憑性が高いと想定される場合に限って、1つの乗降部を検出したと判定することにより、誤検出の発生を抑制することができる。
本開示によれば、旅客搭乗橋の先端部に設けられたカメラで撮影された撮影画像を用いて、航空機の乗降部の位置を様々なゲート配置に対応して正確に検出することができる。
以下、本開示の好ましい実施の形態を、図面を参照しながら説明する。なお、以下では全ての図面を通じて同一または相当する要素には同一の参照符号を付して、その重複する説明を省略する。また、図面は理解しやすくするために、それぞれの構成要素を模式的に示したもので、形状および寸法比等については正確な表示ではない場合がある。また、本開示は、以下の実施形態に限定されない。
図1は、本実施の形態に係る検出システムが適用される旅客搭乗橋の一例を示す概略平面図である。図1の例において、旅客搭乗橋1は、第1搭乗橋11と、第2搭乗橋12とを含む。各搭乗橋11,12は、同様の構成を有する。
搭乗橋11,12は、それぞれ、空港のターミナルビル2の乗降口に接続されたロタンダ(基部円形室)4と、基端がロタンダ4に俯仰自在に接続されて長手方向に伸縮自在に構成されたトンネル部5と、トンネル部5の先端部に接続されたキャブ(先端部円形室)6とを備えている。ロタンダ4は、鉛直方向に延びる第1回転軸R4回りに水平回転自在に構成されている。キャブ6は、キャブ6の底面に直交する方向に延びる第2回転軸R6回りに水平回転自在に構成されている。
トンネル部5は、乗客の歩行通路を形成し、筒状体からなる複数のトンネル5a,5bが入れ子式に嵌合されて長手方向に伸縮自在に構成されている。なお、ここでは、2つのトンネル5a,5bによって構成されたトンネル部5が例示されているが、トンネル部5は2つ以上の複数のトンネルによって構成されていればよい。また、トンネル部5の基端部は、ロタンダ4に、水平回転軸回りに揺動自在(上下に揺動自在)に接続されることにより、ロタンダ4に俯仰自在に接続されている。
また、トンネル部5の先端部(先端側のトンネル5a)には、支持脚としてドライブコラム7が設けられている。なお、ドライブコラム7は、キャブ6に取り付けられていてもよい。ドライブコラム7には、キャブ6およびトンネル部5を昇降させる昇降装置8が設けられている。これにより、キャブ6およびトンネル部5は、ロタンダ4を基点として上下方向に揺動することができる。これにより、キャブ6の回転軸である第2回転軸R6の向きは、キャブ6の底面における水平面に対する傾きに応じて変化する。言い換えると、第2回転軸R6は、水平面に交差する方向に延び、その方向がキャブ6およびトンネル部5の上下方向の揺動に応じて変化する。
また、ドライブコラム7は、トンネル部5をロタンダ4の回り(第1回転軸R4回り)に回転させるとともにトンネル部5を伸縮させるための走行装置9を含んでいる。走行装置9は、昇降装置8の下方に設けられる。走行装置9は、例えば個々に独立して正逆回転駆動可能である2つの走行車輪を有している。2つの走行車輪を同方向に回転(正回転または逆回転)させることにより前進走行または後進走行が可能であり、2つの走行車輪を互いに逆方向に回転させることにより、その場において走行方向(走行車輪の向き)を変更することもできる。なお、本実施の形態では、ロタンダ4自体が第1回転軸R4回りに回転することによりトンネル部5が第1回転軸R4回りに回転する構成を例示しているが、これに代えて、ロタンダ4は、ターミナルビル2に固定され、トンネル部5がロタンダ4に対して第1回転軸R4回りに回転自在に接続されてもよい。
キャブ6は、先端部に、航空機3の乗降部D1,D2に接続される接続部6aを有している。接続部6aには、クロージャ、バンパー、距離センサ等が設けられる。キャブ6の第2回転軸R6回りの回転により、接続部6aの位置(乗降部D1,D2への接続方向)を変更することができる。なお、キャブ6を回転させる代わりに、接続部6aがキャブ6に対して第2回転軸R6回りに回転してもよい。
また、キャブ6には、航空機3の側面を撮影するためのカメラ21,22が設置されている。カメラ21,22は、キャブ6の先端部に設けられる。図1の例では、第1搭乗橋11に設けられる第1カメラ21は、キャブ6における接続部6aの内側上部に設置される。第2搭乗橋12に設けられる第2カメラ22も同様に設置される。なお、カメラ21,22は、キャブ6の先端部において航空機3の側面を撮影可能な位置であればどこに設けられてもよい。例えば、キャブ6における接続部6aの内側下部に設置されてもよいし、キャブ6の外側上部または外側下部に設置されてもよい。また、1つの搭乗橋11,12について複数のカメラが設置されてもよい。例えば、キャブ6の上部および下部にそれぞれカメラが設置されてもよい。
本実施の形態において、第1搭乗橋11の先端部に設けられた第1カメラ21で撮影された撮影画像G1に基づいて第1搭乗橋11が接続するべき航空機3の乗降部D1の探索が行われ、第2搭乗橋12の先端部に設けられた第2カメラ22で撮影された撮影画像G2に基づいて第2搭乗橋12が接続するべき航空機3の乗降部D2の探索が行われる。
図2は、図1に示す旅客搭乗橋に適用される検出システムの概略構成を示すブロック図である。図2に示すように、本実施の形態における検出システム20は、上記カメラ21,22と、カメラ21,22で撮影された撮影画像Gj(j=1,2)から航空機3の乗降部D1,D2を検出する画像処理装置23と、を備えている。さらに、検出システム20は、撮影画像等のデータおよび画像処理プログラム等が記憶される記憶器24と、検出結果等を出力する出力器25と、を備えている。これらの構成21,22,23,24,25は、通信バス26を介して互いにデータの受け渡しを行い得る。
また、通信バス26には、搭乗橋11,12を制御する制御器30も接続されている。制御器30は、例えば、キャブ6または最も先端側のトンネル5a等に設けられている。制御器30は、搭乗橋11,12のキャブ6の回転、ドライブコラム7の昇降および走行を制御する。さらに、制御器30は、カメラ21,22の撮影方向変更機構34,35の回転を制御する。
カメラ21,22は、撮影方向(撮影中心軸L1,L2の向き)を水平面内で変更可能となっている。このために、検出システム20は、水平面に交差する方向に延びる所定の回転軸回りに回動することによりカメラ21,22の撮影方向を変更する撮影方向変更機構34,35を備えている。各撮影方向変更機構34,35は、第1カメラ21および第2カメラ22の撮影方向を互いに独立して変更可能である。
撮影方向変更機構34,35は、キャブ6に対してカメラ21,22を相対回転させるカメラ回転機構として構成されてもよい。あるいは、撮影方向変更機構34,35は、キャブ6であってもよい。例えば、カメラ21,22は、キャブ6に固定され、キャブ6が水平面に交差する方向に延びる第2回転軸R6回りに回転することでカメラ21,22の撮影方向(撮影中心軸L1,L2の向き)が変更されてもよい。
制御器30および画像処理装置23は、記憶器24に記憶されるデータに基づいて各種演算および処理を行うコンピュータによって構成される。例えば、制御器30および画像処理装置23は、CPU、メインメモリ(RAM)、通信インターフェイス等を備えている。なお、制御器30と画像処理装置23とは、同じコンピュータにより構成されてもよいし、互いに異なるコンピュータにより構成されてもよい。
出力器25は、制御器30および画像処理装置23における演算または処理の結果等を出力する。出力器25は、例えば、演算結果等を表示するモニタまたは通信ネットワークを介してサーバまたは通信端末にデータ送信を行う通信器等により構成される。なお、検出システム20のうちの画像処理装置23および記憶器24は、カメラ21,22と通信ネットワークを介して接続されたサーバとして構成されてもよい。すなわち、サーバがカメラ21,22で撮影された撮影画像を取得し、サーバ上で後述する探索処理を行い、搭乗橋11,12の操作室等に設けられたモニタまたは通信端末の表示部に結果を表示してもよい。
制御器30および画像処理装置23は、例えばXYZ直交座標系等の所定の3次元座標系を用いて、リアルタイムで搭乗橋11,12の各部の位置座標を把握している。例えば、旅客搭乗橋1の各部の位置座標は、絶対座標として、ロタンダ4の第1回転軸R4とエプロンEPの平面との交点を原点(0,0,0)とし、互いに直交するX軸、Y軸、Z軸をとった3次元座標系の位置座標として表される。この位置座標のX座標値、Y座標値、Z座標値は、それぞれ、ロタンダ4の第1回転軸R4の位置である原点(0,0,0)からの距離(例えば単位〔mm〕)を示す。制御器30および画像処理装置23は、航空機3および搭乗橋11,12の各部の位置を、このような3次元直交座標系を用いた位置座標として表現する。
画像処理装置23は、後述する探索処理を行うために、探索領域画像生成部31、探索実行部32および探索範囲判定部33を機能ブロックとして有している。これらの機能ブロックは、集積回路を含む回路を一部または全部に含んでいる。したがって、これらの構成31,32,33は、回路とみなすことができる。これらの機能ブロックは、列挙された機能を実行するハードウェアであるか、または、列挙された機能を実行するようにプログラムされたハードウェアである。ハードウェアは、本明細書に開示されているハードウェアであってもよいし、あるいは、列挙された機能を実行するようにプログラムまたは構成されているその他の既知のハードウェアであってもよい。ハードウェアが回路の一種と考えられるプロセッサである場合、これらの機能ブロックはハードウェアとソフトウェアとの組み合わせであり、ソフトウェアはハードウェアまたはプロセッサの構成に使用される。画像処理装置23は、記憶器24に記憶された探索処理を行うためのプログラムを読み出して後述する探索処理を実行する。
以下に、本実施の形態における乗降部D1,D2の探索処理について説明する。図3は、本実施の形態における探索処理の流れを示すフローチャートである。探索処理は、航空機3が所定の到着位置に到着した場合に行われる。このため、各搭乗橋11,12は、図1に示すような、航空機3を避けた初期位置(待機位置)に位置している。
記憶器24には、カメラ21,22ごとに予め設定されている探索範囲のデータが記憶されている。探索範囲は、機軸AL方向に沿った領域として設定されている。さらに、記憶器24には、各カメラ21,22の初期角度(撮影方向のデータ)が記憶されている。カメラ21,22の初期角度は、搭乗橋11,12の初期位置において、カメラ21,22ごとに予め定められた探索範囲のうちの少なくとも機軸AL方向の一端部がカメラ21,22の画角内に含まれる角度に設定される。
ここで、後述するように、第1カメラ21により撮影された撮影画像を用いた第1探索は、航空機3の機軸AL方向前方側から後方側に探索が行われる。このため、第1カメラ21の初期角度は、第1搭乗橋11の初期位置において、第1カメラ21に設定される探索範囲の機軸AL方向の前端部が第1カメラ21の画角内に含まれる角度に設定される。一方、第2カメラ22により撮影された撮影画像を用いた第2探索は、航空機3の機軸AL方向後方側から前方側に探索が行われ得る。この場合、第2カメラ22の初期角度は、第2搭乗橋12の初期位置において、第2カメラ22に設定される探索範囲の機軸AL方向の後端部が第2カメラ22の画角内に含まれる角度に設定される。
以下の探索処理の説明では、第1カメラ21を用いた第1探索について主に説明する。第2カメラ22を用いた第2探索も探索方向が異なること以外は同様である。まず、探索処理において、制御器30は、第1カメラ21の角度が初期角度となるように撮影方向変更機構34を制御する(ステップS1)。第1カメラ21は、初期角度において撮影を行う(ステップS2)。画像処理装置23は、第1カメラ21の初期角度における撮影画像G1を取得する。取得した撮影画像G1は、記憶器24に記憶される。なお、画像処理装置23は、撮影画像G1に対してカメラレンズに起因する歪み補正または明るさ補正等の所定の画像処理を予め行ってもよい。撮影画像G1における位置は、撮影画像G1の一の頂点(例えば左上の頂点)を原点とし、互いに直交するU軸,V軸をとった2次元座標系の位置座標として表される。
探索領域画像生成部31は、撮影画像G1のうちの一部を含む所定領域Ei(i=1,2,3,…)を区切って探索領域画像を生成する。このために、まず、探索領域画像生成部31は、実空間である3次元空間上の仮想矩形枠Biに対応する撮影画像G1上の所定領域Eiを設定する(ステップS3)。第1探索における最初の所定領域E1には、探索範囲の機軸AL方向の前端部を含む領域が設定される。
図4は、本実施の形態における撮影画像の例を示す図である。また、図5は、図4に示す撮影画像において所定領域を設定するための概念図である。本実施の形態において、探索領域画像生成部31は、撮影画像G1において水平面(エプロンEL)に対して垂直かつ機軸ALに平行な仮想平面VPを設定する。ここで、機軸ALは、航空機3がエプロンEL上に示されたマーシャルライン13上に駐機することを想定してマーシャルライン13から所定距離上方の位置に予め設定される。なお、本明細書および特許請求の範囲の記載において、機軸ALの前方側および後方側は、マーシャルライン13上に駐機した航空機3の前方側および後方側を意味する。
仮想平面VPは、機軸ALから機体幅方向一方側(搭乗橋11,12に近い側)にオフセット量Wだけオフセットした位置に設定される。すなわち、仮想平面VPは、機軸ALから機体幅方向一方側にオフセット量Wだけオフセットした基準軸VLを含み、水平面に垂直な平面として定義される。オフセット量Wは、航空機3の機体幅を考慮して、仮想平面VPと乗降部D1,D2の外表面との距離が近接する(所定距離未満となる)ように予め設定される。
探索領域画像生成部31は、仮想平面VP上における3次元空間上の仮想矩形枠Biを設定する。例えば、仮想矩形枠Biは、基準軸VL上の基準点Piを中心とし、仮想平面VP上で一辺が4mの正方形枠として構成され得る。第1カメラ21の撮影方向(撮影中心軸L1)は、仮想平面VPに対して垂直ではない場合が多いため、仮想矩形枠Biは、多くの場合、撮影画像G1上では、図4の所定領域Eiに示すように歪んだ四角形状を有している。実空間の3次元座標Bi(xi,yi,zi)と第1カメラ21が撮影した撮影画像G1上の2次元座標Ei(ui,vi)とは、一対一で対応している。実空間の3次元座標系と撮影画像G1上の2次元座標系との間の変換は、透視投影変換により行われる。
なお、仮想矩形枠Biに対応する撮影画像G1上の四角形状Eiは、撮影画像G1に全体が収まることが望ましいが、少なくとも四角形状の一部が撮影画像G1に写っていればよい。
探索領域画像生成部31は、このように設定した所定領域Ei(撮影画像G1の一部を含む領域)において、仮想平面VPを、仮想平面VPに垂直な方向から見たときの画像となるように射影変換する(ステップS4)。ここで、撮影画像G1の範囲外の画素については例えば黒色で埋めたり、エッジ部の画素をコピーしたり、などの外挿処理を行う。射影変換については後述する。
探索領域画像生成部31は、射影変換後の画像を探索領域画像Ciとして生成する。生成される探索領域画像Ciは、仮想矩形枠Bi全体が探索領域画像Ciにおいてなるべく大きく映るように拡大される。探索実行部32は、探索領域画像Ci内に乗降部D1の候補となるドアが存在するか否かの探索を行う(ステップS5)。ドアの探索方法は、ドアを検出可能な画像認識処理であれば、特に限定されないが、例えば、ディープラーニングにより生成された学習済みモデルを用いたAI画像認識等が用いられ得る。
ドアの画像認識処理においては、ドアの輪郭のペイント部分やドアシルに設けられた補強プレートの形状等に基づいてドアおよびそのドアの基準点が検出される。ドアの基準点は、例えばドアシルの中央部または補強プレートの中央部に設定される。
探索実行部32は、ドアを検出した場合(ステップS6でYes)、そのドアの基準点の3次元座標を計算する(ステップS7)。ドアの3次元座標は、例えば、探索領域画像C1上の2次元座標を元の撮影画像G1上の2次元座標に変換し、撮影画像G1上の2次元座標を実空間の3次元座標に変換することで得られる。2次元座標を実空間の3次元座標に変換するには、たとえば複数カメラの2次元座標を用いたり、ドアの基準点が仮想平面VP上にあると近似したりして計算する。
探索実行部32は、検出したドアの3次元座標に基づいて、検出したドアが、第1搭乗橋11が装着すべき乗降部D1であるかどうかを判定する(ステップS8)。記憶器24には、予め第1搭乗橋11が装着すべき様々な航空機のドアをすべて含むように探索範囲が記憶されている。探索実行部32は、検出したドアの3次元座標が記憶器24に記憶されている探索範囲内である場合、乗降部D1を検出したと判定する。乗降部D1を検出したと判定した場合(ステップS8でYes)、探索実行部32は、探索成功の結果を出力する(ステップS9)。
探索領域画像Ciにおいてドアが検出されなかった場合(ステップS6でNo)および検出されたドアが乗降部D1ではないと判定された場合(ステップS8でNo)、探索領域画像生成部31は、所定領域Eiを航空機3の機軸AL方向一方側から他方側に移動させて、探索領域画像Ciを順次生成する。第1搭乗橋11のための第1探索において、探索領域画像生成部31は、所定領域Eiを機軸AL方向前方側から後方側に移動させる。
そのために、まず、探索領域画像生成部31は、仮想矩形枠Biを3次元空間において航空機3の機軸AL方向一方側から他方側に所定距離シフト(移動)させる。探索領域画像生成部31は、シフト後の仮想矩形枠Biに対応する撮影画像G1上における所定領域Eiを計算する。このようにして、探索領域画像生成部31は、撮影画像G1において所定領域Eiを航空機3の機軸AL方向一方側から他方側にシフト(移動)させる(ステップS10)。例えば、3次元空間において基準軸VL上を基準点Piの位置から機軸AL方向後方側に所定距離離れた位置に基準点Pi+1を設定し、基準点Pi+1を基準とする仮想矩形枠Bi+1を設定する。基準点Pi,Pi+1間の距離は、仮想矩形枠Biの水平方向に延びる一辺の長さ以下が好ましく、当該一辺の長さの1/4以上1/2以下がさらに好ましい。これにより、ドアの探索において、同じドアを複数回(2回または3回程度)検出する機会を生じさせることができる。
探索範囲判定部33は、シフト後の所定領域Eiが予め定められた探索範囲内かどうか、すなわち、すべての探索範囲について探索を行ったか否かを判定する(ステップS11)。なお、探索範囲判定部33は、シフト後の所定領域Eiが探索範囲内であるかの判定を行う際、3次元空間において対応する仮想矩形枠Biが探索範囲内であるかどうかを判定してもよい。シフト後の所定領域Eiが探索範囲内である場合(ステップS11でYes)、さらに、探索範囲判定部33は、シフト後の所定領域Eiが前回の探索で使用した撮影画像G1の範囲内であるか否かを判定する(ステップS12)。
探索領域画像生成部31は、シフト後の所定領域Eiが撮影画像G1の範囲内である場合(ステップS12でYes)、シフト後の所定領域Eiを、探索領域画像Ciを生成するための所定領域Eiに設定(更新)する(ステップS3)。探索領域画像生成部31は、更新後の所定領域Eiに基づいて上記と同様に探索領域画像Ciを生成(更新)する。探索実行部32は、更新後の探索領域画像Ciにおいて乗降部D1の探索を行う。このようにして、探索実行部32は、所定領域Eiを機軸AL方向に沿って前方側から後方側にシフトさせることにより探索領域画像Ciを変えながら、順次生成された複数の探索領域画像Ciを用いて、乗降部D1の探索を繰り返し行う。
シフト後の所定領域Eiが探索範囲内であるが撮影画像G1の範囲外となった場合(ステップS12でNo)、探索範囲判定部33は、制御器30に、第1カメラ21の撮影方向を変更するための指示信号を送信する。制御器30は、指示信号に基づいて第1カメラ21の撮影方向を変更するように対応する撮影方向変更機構34を制御する(ステップS13)。撮影方向の変更量は、撮影方向変更前後の撮影画像において互いに一部が重複するように設定される。
図5の例では、キャブ6を第2回転軸R6回りに所定角度θ回転させることにより、第1カメラ21の撮影中心軸L1を、撮影中心軸L1に比べて機軸AL方向後方側において仮想平面VPの基準軸VLと交差する撮影中心軸L1aに変更している。なお、前述の通り、カメラ21,22の撮影方向の変更方法はこれに限られず、例えばカメラ21,22自体をキャブ6に対して水平面に交差する方向に延びる所定の回転軸回りに回転させてもよい。
第1カメラ21は、撮影方向変更後に再度撮影を行う(ステップS2)。以降、同様に、更新後の撮影画像に対して探索処理が行われる(ステップS3からステップS8)。
探索範囲判定部33は、シフト後の所定領域Eiが探索範囲外となった場合(ステップS11でNo)、リトライ数が予め設定された基準値未満である場合には(ステップS14でNo)、リトライ数を1増やし、探索処理を一からやり直す。すなわち、第1カメラ21を初期角度に戻して撮影を行い、撮影画像に基づいて探索が行われる。リトライ数が基準値以上となった場合、探索実行部32は、乗降部D1を検出できなかったと判定し、探索失敗の結果を出力する(ステップS15)。
ここで、射影変換についてより詳しく説明する。図6は、本実施の形態において所定領域を射影変換した後の画像を射影変換前の画像と比較して示す図である。図6は、乗降部D1付近に仮想矩形枠Biが設定されている場合を例示している。また、図6においては、航空機3の外表面の一部を二点鎖線で示している。
上述したように、撮影画像G1の一部を含む所定領域Eiは、多くの場合、歪んだ四角形状を有している。射影変換後の画像である探索領域画像Ciにおいて、仮想矩形枠Biは、3次元空間において設定した形状と同じ矩形状となる。例えば、仮想矩形枠Biが正方形であれば、射影変換後の仮想矩形枠Biに対応する所定領域Epiも正方形となる。これに伴って、射影変換後の画像においては、仮想平面VPに近い航空機3の一部が航空機3の機軸ALに対して垂直な方向から見た画像に近づくように補正される。なお、厳密に補正されるのは仮想平面VP上の物体だけであるので、仮想平面VPから離れるほど補正誤差は残ることとなる。
図6において、第1カメラ21の撮影方向(撮影中心軸L1)は、機軸ALに対して傾斜している。そのため、所定領域Ei内に含まれる乗降部D1であるドアは、下端部および上端部が撮影画像G1の水平線に対して傾斜したように映っている。前述したように、乗降部D1の探索(前述のAI画像認識等)においては、例えば、ドアシルまたはドアシルに設けられた補強プレートにドアの基準点が設定される。この場合、乗降部D1の探索に用いられる画像において、乗降部D1(ドア)の下端部(ドアシルまたは補強プレート)は、水平に延びていることが好ましい。
本実施の形態においては、図6に示すように、機軸ALに平行かつ水平面(エプロンEP)に対して垂直な仮想平面VP上に設定される仮想矩形枠Biが矩形に表示されるように、撮影画像G1のうちの一部を含む所定領域Eiが射影変換される。また、射影変換によって、第1カメラ21と乗降部D1との距離による乗降部D1の大きさの変化が抑制される。すなわち、第1カメラ21と乗降部D1との距離にかかわらず射影変換後の乗降部D1の大きさを同程度にすることができる。したがって、射影変換後の画像において乗降部D1の検出を精度よく行うことができる。
以上のように、本実施の形態によれば、旅客搭乗橋1(第1搭乗橋11、第2搭乗橋12)の先端部に設けられたカメラ21,22で撮影された撮影画像Gjから、その撮影画像Gjのうちの一部を含む所定領域Eiごとに区切られた複数の探索領域画像Ciが生成される。複数の探索領域画像Ciは、所定領域Eiを航空機3の機軸AL方向一方側から他方側に移動させて生成される。したがって、順次生成された複数の探索領域画像Ciを用いて探索領域画像Ciを変えながら乗降部D1,D2の探索を繰り返し行うことにより、探索領域を航空機3の機軸ALに沿った方向に移動させながら撮影画像Gj全体の乗降部D1,D2の探索を行うことができる。
これにより、航空機3の種類またはゲート配置によらず、乗降部D1,D2の探索を一律に行うことができる。したがって、航空機3の乗降部D1,D2の位置を、様々なゲート配置に対応して正確に検出することができる。これにより、従来の3次元位置だけに頼った乗降部D1,D2の位置検出では対応不可能であったゲート配置でも装着するべき乗降部D1,D2を正しく検出することができる。しかも、乗降部D1,D2の探索に際し、駐機する航空機3に応じた情報を入力する等の煩わしい操作を不要とすることができる。すなわち、オペレータが探索処理の開始のためのボタン操作を行うだけで、様々な航空機3に対して探索処理および後述する自動装着制御処理を実行することができる。
また、本実施の形態によれば、射影変換により、探索領域画像Ciが機軸ALに平行な画像として生成される。したがって、撮影画像Gjが航空機3の斜め方向から撮影された場合であっても、探索領域画像Ciにおいて探索するべき乗降部D1,D2の形状の歪みを抑制することができる。これにより、探索領域画像Ciにおける乗降部D1,D2の探索精度を向上させることができる。
さらに、本実施の形態によれば、探索領域画像生成部31は、撮影画像Gjのうちの一部を含む所定領域Eiを区切るたびに当該所定領域Eiにおける撮影画像Gjを射影変換する。このように、撮影画像Gjが所定領域Eiごとに射影変換される(同時に拡大処理も行われる)ため、撮影画像Gj全体を射影変換してからその射影変換後の画像から所定領域Eiを区切って拡大するよりも画像の解像度の低下を抑制することができる。
また、本実施の形態によれば、シフト後の所定領域Eiが探索範囲内であるが、撮影画像Gj内ではないと判定された場合、撮影方向変更機構34,35によりカメラ21,22の撮影方向が変更され、カメラ21,22による撮影が再度行われる。このように、カメラ21,22の撮影方向を変更しつつ複数回撮影することにより、探索範囲全体の撮影画像を、複数の撮影画像Gjとして取得することができる。したがって、一撮影画像あたりの撮影範囲を比較的狭くすることができるため、撮影画像Gjから得られる探索領域画像Ciの解像度を高くすることができる。もしくは探索範囲をカメラ21,22の視野以上に広く設定することが可能となる。
なお、上述した探索処理は、第2カメラ22を用いた第2搭乗橋12のための乗降部D2の探索にも用いられる。例えば、第1搭乗橋11におけるキャブ6の接続部6aを航空機3の前方側の乗降部D1に接続し、第2搭乗橋12におけるキャブ6の接続部6aを航空機3の後方側の乗降部D2に接続する。この場合、第1搭乗橋11が接続する乗降部D1の探索処理においては、第1搭乗橋11について予め定められている探索範囲の機軸AL方向前方側から後方側へ探索が行われる。すなわち、第1搭乗橋11が接続する乗降部D1の探索処理においては、上述したように、撮影画像G1上において機軸AL方向前方側から後方側へ所定領域Eiを移動させる。さらに、必要に応じて第1カメラ21の撮影方向を航空機3の前方側から後方側へ変更させて再撮影が行われる。
一方、第2搭乗橋12が接続する乗降部D2の探索処理においては、第2搭乗橋12について予め定められている探索範囲の機軸AL方向後方側から前方側へ探索が行われる。すなわち、第2搭乗橋12が接続する乗降部D2の探索処理においては、撮影画像G2上において機軸AL方向後方側から前方側へ所定領域Eiを移動させる。さらに、必要に応じて第2カメラ22の撮影方向を航空機3の後方側から前方側へ変更させて再撮影が行われる。
これにより、第1カメラ21で撮影された撮影画像G1に基づいて航空機3の前方にある乗降部D1を優先的に検出することができ、第2カメラ22で撮影された撮影画像G2に基づいて航空機3の後方にある乗降部D2を優先的に検出することができる。このため、複数の搭乗橋11,12に対して同じ乗降部を検出する可能性を低減することができる。したがって、第1搭乗橋11が接続するべき乗降部D1と第2搭乗橋12が接続するべき乗降部D2とを正確かつ短時間で探索することができる。
以下、本実施の形態における探索処理を用いた2つの搭乗橋11,12の乗降部D1,D2への自動装着制御処理について例示する。図7は、本実施の形態における自動装着制御処理の一例の流れを示すフローチャートである。図7の例では、第1カメラ21を用いた第1搭乗橋11のための第1探索(ステップSA1)と、第2カメラ22を用いた第2搭乗橋12のための第2探索(ステップSA2)とが並行して行われる。例えば、オペレータが所定の操作器に対して同時装着用の開始ボタンを押下操作することにより、第1探索および第2探索が同時に開始する。あるいは、第1探索を開始してから所定時間経過後(第1探索終了前)に第2探索が開始されてもよい。
所定の操作器は、第1搭乗橋11、第2搭乗橋12または別途ターミナルビル2等に設けられた操作室に設けられる。また、操作器は、サーバを介して制御器30と通信接続された通信端末のタッチパネルに、仮想の操作ボタンを表示することによって実現してもよい。
探索実行部32は、第1探索が終了するとその探索結果(図3のステップS9における探索成功またはステップS15における探索失敗)を記憶器24に記憶する(ステップSA3)。同様に、探索実行部32は、第2探索が終了するとその探索結果を記憶器24に記憶する(ステップSA4)。探索実行部32は、第1探索および第2探索の探索結果の組み合わせに応じて各搭乗橋11,12に乗降部D1,D2への自動装着を行うか否かを判定する(ステップSA5からステップSA7)。
第1探索が成功し、第2探索が失敗した場合(ステップSA5でYes)、探索実行部32は、制御器30に第1探索で検出された乗降部D1の3次元位置データを送信するとともに第1搭乗橋11に対する自動装着の実行を許可する。これに応じて、制御器30は、第1探索で検出された乗降部D1に第1搭乗橋11を装着させるための装着処理を行う(ステップSA8)。具体的には、制御器30は、第1搭乗橋11のキャブ6の接続部6aの位置を検出された乗降部D1の3次元位置から計算したプリポジション(一時停止位置)に到達するよう、第1搭乗橋11のドライブコラム7およびキャブ6を制御する。接続部6aがプリポジションへ到達した後、制御器30は、第1カメラ21または接続部6a等に設けられたセンサ等を用いて、再度乗降部D1の検出を行い、接続部6aが乗降部D1に接続するように制御する。
第1探索が失敗し、第2探索が成功した場合(ステップSA6でYes)、探索実行部32は、制御器30に第2探索で検出された乗降部D2の3次元位置データを送信するとともに第2搭乗橋12に対する自動装着の実行を許可する。制御器30は、第2探索で検出された乗降部D2に第2搭乗橋12を装着させるための装着処理を行う(ステップSA9)。具体的な装着処理は、第1搭乗橋11における装着処理と同様である。
第1探索および第2探索の両方とも成功した場合(ステップSA7でYes)、探索実行部32は、第1探索で検出された乗降部D1の3次元位置(第1位置)と第2探索で検出された乗降部D2の3次元位置(第2位置)との距離(検出間距離L)が予め定められた基準値Lo以上か否かを判定する(ステップSA10)。探索実行部32は、検出間距離Lが基準値Lo以上である場合(ステップSA10でYes)、第1探索で検出された乗降部D1と第2探索で検出された乗降部D2とが互いに異なる乗降部であると判定して、制御器30に乗降部D1,D2のそれぞれの3次元位置データを送信するとともに第1搭乗橋11および第2搭乗橋12の双方に対する自動装着の実行を許可する。制御器30は、第1探索で検出された乗降部D1に第1搭乗橋11を装着させるための装着処理を行い、第2探索で検出された乗降部D2に第2搭乗橋12を装着させるための装着処理を行う(ステップSA11)。
一方、第1探索および第2探索の何れも失敗した場合(ステップSA7でNo)、探索実行部32は、操作器の表示部等にエラーを出力し、自動装着制御処理を停止する(ステップSA12)。
第1探索および第2探索の両方とも成功した場合であって、検出間距離Lが基準値Lo未満である場合(ステップSA10でNo)、探索実行部32は、同一ドア検出判定処理を実行する(ステップSA13)。同一ドア検出判定処理は、第1探索で検出された乗降部D1と第2探索で検出された乗降部D2とが同じ乗降部を検出したものであるか否かを判定する処理である。基準値Loは、航空機3に設けられる2つのドア間の距離に基づいて設定される。例えば、基準値Loは、全航空機の最小ドア間距離の1/2に設定される。したがって、検出間距離Lが基準値Lo未満である場合、第1探索によって検出した乗降部D1と第2探索によって検出した乗降部D2とは、同じドアである可能性が高いと考えられる。
図8は、図7に示す同一ドア検出判定処理の流れを示すフローチャートである。図9は、同一ドア検出判定処理における場合分けの概念図である。探索実行部32は、同一ドア検出判定処理において、第1カメラ21について設定される第1探索範囲F1または第2カメラ22について設定される第2探索範囲F2の少なくとも何れか一方の探索範囲に、第1探索で検出された乗降部D1の3次元位置である第1位置H1および第2探索で検出された乗降部D2の3次元位置である第2位置H2の双方が含まれていれば、第1位置H1または第2位置H2で、一の乗降部D1またはD2を検出したと判定する。なお、図9においては、第1探索範囲F1と第2探索範囲F2との判別を容易にするために上下位置を互いにずらして表示しているが、第1探索範囲F1と第2探索範囲F2との上下位置は同じでもよいし、異なっていてもよい。
より具体的には、探索実行部32は、第1探索範囲F1に第1位置H1および第2位置H2の両方が含まれるか否かを判定する(ステップSB1)。探索実行部32は、第1探索範囲F1に第1位置H1および第2位置H2の両方が含まれる場合(ステップSB1でYes)、第1探索における乗降部D1の検出は信憑性が高いとみなして乗降部D1の3次元位置である第1位置H1を有効と判定する。この場合、探索実行部32は、さらに、第2探索範囲F2に第1位置H1および第2位置H2の両方が含まれるか否かを判定する(ステップSB2)。
探索実行部32は、第2探索範囲F2に第1位置H1および第2位置H2の両方が含まれる場合(ステップSB2でYes)、第2探索における乗降部D2の検出も信憑性が高いとみなして乗降部D2の3次元位置である第2位置H2も有効と判定する。すなわち、探索実行部32は、第1位置H1および第2位置H2の何れも有効と判定する。この場合は、図9における状態Q1および状態Q2が該当する。状態Q1は、第1位置H1が機軸AL方向前方側に位置し、第2位置H2が機軸AL方向後方側に位置する場合である。状態Q2は、第1位置H1が機軸AL方向後方側に位置し、第2位置H2が機軸AL方向前方側に位置する場合である。何れの状態Q1,Q2においても、一の探索範囲F1,F2に第1位置H1および第2位置H2の両方が含まれている。
この場合、制御器30は、第1搭乗橋11および第2搭乗橋12のうちの予め定められた搭乗橋を、第1位置H1および第2位置H2のうちの予め定められた位置座標に移動させて装着処理を行う(ステップSB3)。例えば、第1搭乗橋11が優先される場合に、制御器30は、第1搭乗橋11を、第1位置H1に移動させて装着処理を行ってもよい。あるいは、第1搭乗橋11が優先される場合に、制御器30は、第1搭乗橋11を第1位置H1および第2位置H2のうちの機軸AL方向前方側となる位置に移動させて装着処理を行ってもよい。また、例えば、制御器30は、状態Q1であれば、第1搭乗橋11を第1位置H1に移動させ、状態Q2であれば第1搭乗橋11を第2位置H2に移動させてもよい。
また、探索実行部32は、第1探索範囲F1に第1位置H1および第2位置H2の両方が含まれるが、第2探索範囲F2に第1位置H1が含まれないと判定した場合(ステップSB2でNo)、乗降部D1および乗降部D2のうちの第1探索における乗降部D1の検出のみが信憑性が高いとみなして、第1位置H1のみを有効と判定する。この場合は、図9における状態Q3が該当する。この場合、制御器30は、第1搭乗橋11を第1位置H1に移動させて装着処理を行う(ステップSB4)。
また、探索実行部32は、第1探索範囲F1に第2位置H2が含まれないと判定した場合(ステップSB1でNo)、第2探索範囲F2に第1位置H1および第2位置H2の両方が含まれるか否かを判定する(ステップSB5)。探索実行部32は、第1探索範囲F1に第2位置H2が含まれないが、第2探索範囲F2に第1位置H1および第2位置H2の両方が含まれると判定した場合(ステップSB5でYes)、乗降部D1および乗降部D2のうちの第2探索における乗降部D2の検出のみが信憑性が高いとみなして、第2位置H2のみを有効と判定する。この場合は、図9における状態Q4が該当する。この場合、制御器30は、第2搭乗橋12を第2位置H2に移動させて装着処理を行う(ステップSB6)。
また、探索実行部32は、第1探索範囲F1に第2位置H2が含まれず、第2探索範囲F2に第1位置H1が含まれないと判定した場合(ステップSB5でNo)、乗降部D1および乗降部D2の何れの検出も信憑性が低いとみなして、第1位置H1および第2位置H2を無効と判定する。この場合は、図9における状態Q5および状態Q6が該当する。状態Q5は、第1探索範囲F1と第2探索範囲F2との間で重複する範囲があるが第1位置H1および第2位置H2の両方が含まれる探索範囲が存在しない場合である。状態Q6は、第1探索範囲F1と第2探索範囲F2とがそもそも重複しない場合である。この場合、探索実行部32は、操作器の表示部等にエラーを出力し、自動装着制御処理を停止する(ステップSB7)。
このように、上記構成によれば、第1搭乗橋11が接続するべき乗降部D1の探索と第2搭乗橋12が接続するべき乗降部D2の探索とが同時並行的に行われるため、探索期間を短時間にすることができる。さらに、第1探索で検出された第1位置H1と、第2探索で検出された第2位置H2との距離が近い場合、第1位置H1および第2位置H2の双方が第1探索範囲F1または第2探索範囲F2の少なくとも何れか一方に含まれていれば、2つの探索で1つの乗降部を検出したと判定される。このように、第1位置H1と第2位置H2とが近い場合であっても、2つの探索で1つの乗降部を検出したことについての信憑性が高いと想定される場合に限って、1つの乗降部を検出したと判定することにより、誤検出の発生を抑制することができる。
[変形例]
以上、本開示の実施の形態について説明したが、本開示は上記実施の形態に限定されるものではなく、その趣旨を逸脱しない範囲内で種々の改良、変更、修正が可能である。
以上、本開示の実施の形態について説明したが、本開示は上記実施の形態に限定されるものではなく、その趣旨を逸脱しない範囲内で種々の改良、変更、修正が可能である。
例えば、上記実施の形態では、探索領域画像Ciを生成するための撮影画像Gjを撮影するカメラ21,22がキャブ6の上部に設けられたカメラであるとしたが、キャブ6の下部に設けられたカメラで撮影した撮影画像Gjから探索領域画像Ciが生成されてもよい。また、一のキャブ6の上部および下部に設けられた複数のカメラで撮影した複数の撮影画像Gjのそれぞれを用いて探索処理が行われてもよい。
また、上記実施の形態では、旅客搭乗橋1が2つの搭乗橋11,12を含む場合を説明したが、旅客搭乗橋1は、1つでもよいし、3つ以上でもよい。例えば、旅客搭乗橋1が3つの搭乗橋を含む場合であって、航空機3が1階部分および2階部分に乗降部を有する場合にも、本開示の検出システム20は、すべての搭乗橋に対して適用可能である。
この場合、例えば、第1搭乗橋を1階部分の機軸AL方向前方側にある乗降部D1に接続させるために、第1探索範囲において機軸AL方向前方側から後方側へ第1探索を行う。また、第2搭乗橋を1階部分の機軸AL方向後方側にある乗降部D2に接続させるために、第2探索範囲において機軸AL方向後方側から前方側へ第2探索を行う。さらに、第3搭乗橋を2階部分にある乗降部D3に接続させるために、第1探索における第1探索範囲より高い位置に設定された第3探索範囲において機軸AL方向前方側から後方側へ第3探索を行う。
また、上記実施の形態では、第2搭乗橋12は、第2探索範囲F2において機軸AL方向後方側から前方側へ探索を行う態様を例示したが、第2搭乗橋12についても、第1搭乗橋11と同様に、機軸AL方向前方側から後方側へ探索を行うことを可能としてもよい。
例えば、図1に示すような1つの搭乗ゲートに2つの搭乗橋11,12が設けられている駐機場所においても乗降部が1つである航空機3が駐機し得る。この場合、上記実施の形態で例示したような態様で自動装着制御処理を実行した場合は、搭乗橋11,12の探索処理が行われ、いずれかの搭乗橋だけが装着処理(ステップSA8,SA9,SB3,SB4,SB6のいずれか)を行うことになるが、オペレータは、駐機する航空機3の種類に合わせて航空機3に装着させる搭乗橋の数を選択してもよい。航空機3に装着させる搭乗橋の数が2つの場合、画像処理装置23は、上記実施の形態で例示したような態様で第1搭乗橋11を乗降部D1に装着し、第2搭乗橋12を乗降部D2に装着するための探索処理を行う。一方、航空機3に装着させる搭乗橋の数が1つの場合、駐機位置等に応じて第1搭乗橋11および第2搭乗橋12のうちの何れの搭乗橋を装着するかが選択されてもよい。
航空機3の乗降部D1に装着する搭乗橋として第1搭乗橋11が選択された場合、画像処理装置23は、上記実施の形態と同様に、第1探索範囲F1において機軸AL方向前方側から後方側へ探索を行う探索処理を実行する。一方、航空機3の乗降部D1に装着する搭乗橋として第2搭乗橋12が選択された場合、画像処理装置23は、第2探索範囲F2において機軸AL方向前方側から後方側へ探索を行う探索処理を実行してもよい。
また、航空機3の前方側の乗降部D1と後方側の乗降部D2とが大きく離れている場合、または、第1探索範囲F1と第2探索範囲F2とが重複せず互いに機軸AL方向に離れている場合等においては、第1搭乗橋11のための第1探索および第2搭乗橋12のための第2探索の何れについても同じ方向(機軸AL方向一方側から他方側)へ探索を行うようにしてもよい。
第2探索における探索方向の選択は、上記接続態様(2つの乗降部D1,D2を有する航空機3の後方側の乗降部D2に第2搭乗橋12を接続する接続態様または1つの乗降部D1を有する航空機3の乗降部D1に第2搭乗橋12を接続する接続態様)の切り替えに応じて自動的に選択されてもよいし、操作器への操作により手動で探索方向の選択を行い得るようにしてもよい。また、第1探索における探索方向も、機軸AL方向前方側から後方側だけでなく、機軸AL方向後方側から前方側へ切り替え可能としてもよい。
また、上記実施の形態において、2つの搭乗橋11,12を2つの乗降部D1,D2に接続させるために、第1搭乗橋11のための第1探索と、第2搭乗橋12のための第2探索とが並行して行われる態様を例示したが、第1探索と第2探索とが順に行われてもよい。例えば、第1探索が行われた後、第2探索が行われてもよいし、第2探索が行われた後、第1探索が行われてもよい。
また、上記実施の形態において、1つの画像処理装置23が第1探索および第2探索の何れも行う態様を例示したが、第1探索を行う画像処理装置23と、第2探索を行う画像処理装置23とが別の処理装置(コンピュータ等)により構成されてもよい。例えば、第1探索を行う画像処理装置が第1搭乗橋11に設置され、第2探索を行う画像処理装置が第2搭乗橋12に設置されてもよい。
また、上記実施の形態において、1つの制御器30が第1搭乗橋11、第2搭乗橋12、第1カメラ21のための撮影方向変更機構34および第2カメラ22のための撮影方向変更機構35の何れの動作も制御する態様を例示したが、これらの構成11,12,34,35の一部または全部に対して互いに異なる制御器が設けられてもよい。
1 旅客搭乗橋
2 ターミナルビル
3 航空機
11 第1搭乗橋
12 第2搭乗橋
20 検出システム
21 第1カメラ
22 第2カメラ
23 画像処理装置
30 制御器
31 探索領域画像生成部
32 探索実行部
33 探索範囲判定部
34,35 撮影方向変更機構
D1,D2 乗降部
2 ターミナルビル
3 航空機
11 第1搭乗橋
12 第2搭乗橋
20 検出システム
21 第1カメラ
22 第2カメラ
23 画像処理装置
30 制御器
31 探索領域画像生成部
32 探索実行部
33 探索範囲判定部
34,35 撮影方向変更機構
D1,D2 乗降部
Claims (7)
- 航空機の乗降部を検出するための検出システムであって、
ターミナルビルに接続される旅客搭乗橋と、
前記旅客搭乗橋に設けられたカメラと、
前記カメラで撮影された撮影画像から前記航空機の乗降部を検出する画像処理装置と、を備え、
前記画像処理装置は、
前記撮影画像のうちの一部を含む所定領域を区切って探索領域画像を生成する探索領域画像生成部と、
前記探索領域画像内に前記乗降部が存在するか否かの探索を行う探索実行部と、を含み、
前記探索領域画像生成部は、前記撮影画像上において前記所定領域を前記航空機の機軸方向一方側から他方側に移動させることにより、前記探索領域画像を順次生成し、
前記探索実行部は、順次生成された複数の前記探索領域画像を用いて、前記探索領域画像を変えながら前記探索を繰り返し行う、検出システム。 - 前記探索領域画像生成部は、前記撮影画像において水平面に対して垂直かつ前記機軸に平行な仮想平面を、前記仮想平面に垂直な方向から見たときの画像となるように射影変換することを含む、請求項1に記載の検出システム。
- 前記探索領域画像生成部は、前記撮影画像のうちの一部を含む前記所定領域を区切るたびに当該所定領域における前記撮影画像を前記射影変換する、請求項2に記載の検出システム。
- 水平面に交差する方向に延びる所定の回転軸回りに回動することにより前記カメラの撮影方向を変更する撮影方向変更機構と、
前記撮影方向変更機構の動作を制御する制御器を備え、
前記画像処理装置は、移動後の前記所定領域が予め定められる探索範囲内かつ前記撮影画像内であるか否かを判定する探索範囲判定部を含み、
前記制御器は、移動後の前記所定領域が前記探索範囲内であるが、前記撮影画像内ではないと判定された場合、前記撮影方向変更機構により前記カメラの撮影方向を変更して、前記カメラによる撮影を再度行う、請求項1から3の何れかに記載の検出システム。 - 前記旅客搭乗橋は、第1搭乗橋と、第2搭乗橋とを含み、
前記カメラは、前記第1搭乗橋に設けられた第1カメラと、前記第2搭乗橋に設けられた第2カメラとを含み、
前記探索領域画像生成部は、前記第1カメラが撮影した前記撮影画像上において前記所定領域を前記航空機の機軸方向前方側から後方側に移動させることにより、前記探索領域画像を順次生成し、前記第2カメラが撮影した前記撮影画像上において前記所定領域を前記航空機の機軸方向後方側から前方側に移動させることにより、前記探索領域画像を順次生成する、請求項1から4の何れかに記載の検出システム。 - 前記探索実行部は、前記第1カメラが撮影した前記撮影画像から生成された前記探索領域画像による第1探索と、前記第2カメラが撮影した前記撮影画像から生成された前記探索領域画像による第2探索とを、並行して行う、請求項5に記載の検出システム。
- 前記探索実行部は、前記第1カメラが撮影した前記撮影画像から生成された前記探索領域画像による第1探索において前記乗降部を検出した第1位置と、前記第2カメラが撮影した前記撮影画像から生成された前記探索領域画像による第2探索において前記乗降部を検出した第2位置との距離が所定の基準値未満の場合に、前記第1カメラについて設定される第1探索範囲または前記第2カメラについて設定される第2探索範囲の少なくとも何れか一方の探索範囲に前記第1位置および前記第2位置の双方が含まれていれば、前記第1位置または前記第2位置で、一の前記乗降部を検出したと判定する、請求項5または6に記載の検出システム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021124555 | 2021-07-29 | ||
JP2021124555 | 2021-07-29 | ||
PCT/JP2022/002158 WO2023007770A1 (ja) | 2021-07-29 | 2022-01-21 | 航空機の乗降部を検出するための検出システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2023007770A1 JPWO2023007770A1 (ja) | 2023-02-02 |
JP7449454B2 true JP7449454B2 (ja) | 2024-03-13 |
Family
ID=85086622
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023538216A Active JP7449454B2 (ja) | 2021-07-29 | 2022-01-21 | 航空機の乗降部を検出するための検出システム |
Country Status (3)
Country | Link |
---|---|
EP (1) | EP4378836A1 (ja) |
JP (1) | JP7449454B2 (ja) |
WO (1) | WO2023007770A1 (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005518308A (ja) | 2002-02-27 | 2005-06-23 | インダール テクノロジーズ インコーポレイテッド | 航空機と自動的にドッキングするための乗客用ブリッジなどのための画像化システム |
US20080098538A1 (en) | 2006-10-31 | 2008-05-01 | Dew Engineering And Development Limited | Vision system for automatically aligning a passenger boarding bridge with a doorway of an aircraft and method therefor |
US20190225351A1 (en) | 2016-05-17 | 2019-07-25 | Thyssenkrupp Elevator Innovation Center S.A. | Method for positioning a passenger boarding bridge at an airplane |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5095850B1 (ja) * | 2011-08-31 | 2012-12-12 | 株式会社東芝 | オブジェクト探索装置、映像表示装置およびオブジェクト探索方法 |
JP2017085439A (ja) * | 2015-10-30 | 2017-05-18 | キヤノン株式会社 | 追尾装置 |
US10875666B2 (en) | 2017-07-13 | 2020-12-29 | Shinmaywa Industries, Ltd. | Passenger boarding bridge |
JP7321749B2 (ja) | 2019-04-16 | 2023-08-07 | 三菱重工交通・建設エンジニアリング株式会社 | ボーディングブリッジ及びその制御装置 |
-
2022
- 2022-01-21 EP EP22848854.0A patent/EP4378836A1/en active Pending
- 2022-01-21 JP JP2023538216A patent/JP7449454B2/ja active Active
- 2022-01-21 WO PCT/JP2022/002158 patent/WO2023007770A1/ja active Application Filing
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005518308A (ja) | 2002-02-27 | 2005-06-23 | インダール テクノロジーズ インコーポレイテッド | 航空機と自動的にドッキングするための乗客用ブリッジなどのための画像化システム |
US20080098538A1 (en) | 2006-10-31 | 2008-05-01 | Dew Engineering And Development Limited | Vision system for automatically aligning a passenger boarding bridge with a doorway of an aircraft and method therefor |
US20190225351A1 (en) | 2016-05-17 | 2019-07-25 | Thyssenkrupp Elevator Innovation Center S.A. | Method for positioning a passenger boarding bridge at an airplane |
Also Published As
Publication number | Publication date |
---|---|
WO2023007770A1 (ja) | 2023-02-02 |
JPWO2023007770A1 (ja) | 2023-02-02 |
EP4378836A1 (en) | 2024-06-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10875666B2 (en) | Passenger boarding bridge | |
JP4810953B2 (ja) | 車両用死角映像表示装置 | |
JP2018162117A (ja) | エレベータの乗車検知システム | |
US10647260B2 (en) | Vehicle surroundings display device | |
JP7449454B2 (ja) | 航空機の乗降部を検出するための検出システム | |
WO2023188547A1 (ja) | 航空機の乗降部を検出するための検出システム | |
JP7321749B2 (ja) | ボーディングブリッジ及びその制御装置 | |
JP6960022B2 (ja) | 旅客搭乗橋 | |
EP3967552A1 (en) | Camera monitoring system for motor vehicles | |
CN111942391A (zh) | 铰接式工程机械、全景环视系统及其标定方法 | |
JP2013012128A (ja) | 移動体および移動体の制御方法 | |
JP2020066418A (ja) | ボーディングブリッジ及びボーディングブリッジ制御装置 | |
JP6502570B1 (ja) | ボーディングブリッジ及びボーディングブリッジ制御装置 | |
JP7324800B2 (ja) | 旅客搭乗橋の走行制御方法 | |
CN212289808U (zh) | 铰接式工程机械及其全景环视系统 | |
JP7321750B2 (ja) | ボーディングブリッジの制御システム | |
US10742874B2 (en) | Imaging plan generation device, imaging plan generation method, and program | |
JP2022105410A (ja) | 地図切替装置及び地図切替プログラム | |
JP7457873B2 (ja) | 旅客搭乗橋 | |
JP2003305675A (ja) | 視覚認識装置 | |
JP7224905B2 (ja) | ボーディングブリッジ | |
JP7449448B2 (ja) | 旅客搭乗橋 | |
JP6845976B1 (ja) | 旅客搭乗橋 | |
JP7374674B2 (ja) | ボーディングブリッジ | |
CN116803790A (zh) | 车辆的后方监视系统及车辆的后方监视方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230802 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240206 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240301 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7449454 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |