JP2022042961A - ビークルの内部キャビン内の収納棚アセンブリの状態を決定するためのシステム及び方法 - Google Patents
ビークルの内部キャビン内の収納棚アセンブリの状態を決定するためのシステム及び方法 Download PDFInfo
- Publication number
- JP2022042961A JP2022042961A JP2021119339A JP2021119339A JP2022042961A JP 2022042961 A JP2022042961 A JP 2022042961A JP 2021119339 A JP2021119339 A JP 2021119339A JP 2021119339 A JP2021119339 A JP 2021119339A JP 2022042961 A JP2022042961 A JP 2022042961A
- Authority
- JP
- Japan
- Prior art keywords
- control unit
- determination control
- state
- state determination
- equipment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 46
- 230000000712 assembly Effects 0.000 claims abstract description 17
- 238000000429 assembly Methods 0.000 claims abstract description 17
- 238000003384 imaging method Methods 0.000 abstract description 4
- 230000015654 memory Effects 0.000 description 27
- 238000012545 processing Methods 0.000 description 10
- 230000001052 transient effect Effects 0.000 description 9
- 238000013500 data storage Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 6
- 230000009471 action Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 3
- 239000000446 fuel Substances 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 239000003381 stabilizer Substances 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000002547 anomalous effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000003137 locomotive effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 230000004297 night vision Effects 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64F—GROUND OR AIRCRAFT-CARRIER-DECK INSTALLATIONS SPECIALLY ADAPTED FOR USE IN CONNECTION WITH AIRCRAFT; DESIGNING, MANUFACTURING, ASSEMBLING, CLEANING, MAINTAINING OR REPAIRING AIRCRAFT, NOT OTHERWISE PROVIDED FOR; HANDLING, TRANSPORTING, TESTING OR INSPECTING AIRCRAFT COMPONENTS, NOT OTHERWISE PROVIDED FOR
- B64F5/00—Designing, manufacturing, assembling, cleaning, maintaining or repairing aircraft, not otherwise provided for; Handling, transporting, testing or inspecting aircraft components, not otherwise provided for
- B64F5/60—Testing or inspecting aircraft components or systems
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64D—EQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
- B64D45/00—Aircraft indicators or protectors not otherwise provided for
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64D—EQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
- B64D11/00—Passenger or crew accommodation; Flight-deck installations not otherwise provided for
- B64D11/003—Stowage devices for passengers' personal luggage
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/0008—Industrial image inspection checking presence/absence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/536—Depth or shape recovery from perspective effects, e.g. by using vanishing points
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64D—EQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
- B64D45/00—Aircraft indicators or protectors not otherwise provided for
- B64D2045/007—Indicators or signs in the cabin, e.g. exit signs or seat numbering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20016—Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20132—Image cropping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30112—Baggage; Luggage; Suitcase
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30172—Centreline of tubular or elongated structure
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30268—Vehicle interior
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T50/00—Aeronautics or air transport
- Y02T50/40—Weight reduction
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Aviation & Aerospace Engineering (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Manufacturing & Machinery (AREA)
- Transportation (AREA)
- Signal Processing (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
- Geometry (AREA)
- Studio Devices (AREA)
Abstract
【課題】ビーグルの内部キャビン内の装備品、例えば収納棚アセンブリの状態を決定するためのシステム及び方法を提供する。【解決手段】システム100は、ビークル106の内部キャビン104内に1つ以上の装備品102を含む。撮像装置108は、1つ以上の装備品102の画像を取得する。状態決定制御ユニット112は、プロセッサを含む。状態決定制御ユニット112は、撮像装置108と通信し、撮像装置108から、画像を含む画像データ122を受信する。さらに、状態決定制御ユニット112は、画像データ122に基づいて、1つ以上の装備品102の状態を決定する。【選択図】図1
Description
本開示の実施形態は、概して、ビーグルの内部キャビン内の装備品、例えば収納棚アセンブリの状態を決定するためのシステム及び方法に関する。
航空機が、様々な地域の間で乗客及び貨物を移送するために利用されている。航空機の内部キャビンは、開放状態と閉鎖状態との間で動かせる数多くの装備品を含む。例えば、内部キャビン内の頭上荷物棚アセンブリは、開放状態と閉鎖状態との間で可動な棚を含む。他の例として、出口ドアが、開放状態と閉鎖状態との間で可動である。他の例として、内部キャビン内の化粧室のドアが、開放状態と閉鎖状態との間で可動である。他の例として、ギャレーカートコンパートメントが、当該コンパートメント内へとギャレーカートを動かすことが可能な開放状態と、当該コンパートメント内にギャレーカートが既に存在する閉鎖状態と、になりうる。一般に、民間航空機というビークルの内部キャビンは、開放状態と閉鎖状態との間で可動な様々な装備品を含む。
フライトの様々な段階の間に、或る装備品が特定の状態にある。例えば、搭乗手続き中には、荷物棚アセンブリが開放状態にあり、乗客は、手荷物や他の携行品を収納することができる。出発時間が近づくと、客室乗務員が、典型的に荷物棚アセンブリを監視し、航空機が誘導路及び/又は滑走路に移動する前に各棚が確実に閉じられていることを徹底させる。即ち、客室乗務員といった個人が、荷物棚アセンブリが開いているかどうかを見て判定している。察しがつくように、内部キャビンの中を歩いてどの荷物棚アセンブリが開いているのかを視覚的に判定するプロセスには時間が掛かる。さらに、例えば乗客が助けを必要とするといった場合には、客室乗務員の気が取られて、開いている収納棚アセンブリが見落とされる可能性がある。
荷物棚アセンブリの中には、配線を介して監視装置に接続されたセンサを含むものもあり、又はそうでなければ、当該センサに接続されているものある。しかしながら、センサ及び配線によって航空機の重量が増す。センサ及び配線は、配置及び/又は経路設定を行う必要があるため、センサ及び配線によって製造の複雑さが増す。さらに、センサ及び配線からの付加的な重量によって、燃料効率が下がる。
ビークルの内部キャビン内の装備品の状態を自動的に決定するためのシステム及び方法に対する必要性が存在している。さらに、ビークルの内部キャビン内の荷物棚アセンブリが開いているのか又は閉じているのかを自動的に判定するためのシステム及び方法に対する必要性が存在する。加えて、ビークルに実質的に重量を付加しない、内部キャビン内の装備品の状態を監視するシステム及び方法に対する必要性が存在する。
これらのニーズを念頭に置き、本開示の特定の実施形態は、ビークルの内部キャビン内の1つ以上の装備品と、1つ以上の装備品の画像を取得するよう構成された撮像装置と、プロセッサを含む状態決定制御ユニットと、を備えるシステムを提供する。状態決定制御ユニットは、撮像装置と通信する。状態決定制御ユニットは、撮像装置から、画像を含む画像データを受信して、画像データに基いて、1つ以上の装備品の状態を決定する。
少なくとも1つの実施形態において、状態は、開放状態又は閉鎖状態の一方、又はその双方を含む。少なくとも1つの実施形態において、1つ以上の装備品は、1つ以上の頭上荷物棚アセンブリである。
少なくとも1つの実施形態において、状態決定制御ユニットが、画像データ内の注目領域を決定する。例えば、状態決定制御ユニットは、画像内の消失点を決定することによって、注目領域を決定する。更なる例として、状態決定制御ユニットは、消失点を通る二等分線を決定する。注目領域が、二等分線によって決定される。
少なくとも1つの実施形態において、状態決定制御ユニットが、画像データ内の遠近感を補正する。例えば、1つ以上の装備品が、一列に並んだ複数の装備品を含む。状態決定制御ユニットが、列の第1の末端において第1の末端線を生成し、かつ第1の末端線とは反対側の、列の第2の末端において第2の末端線を生成する。状態決定制御ユニットが、列の上縁と関連付けられた上境界線と、列の下縁と関連付けられた下境界線と、をさらに生成する。第1の末端線と上境界線とが、第1のコーナーで交差する。第1の末端線と下境界線とが、第2のコーナーで交差する。第2の末端線と上境界線とが、第3のコーナーで交差する。第2の末端線と下境界線とが、第4のコーナーで交差する。第1のコーナーと、第2のコーナーと、第3のコーナーと、第4のコーナーとは、複数の装備品を画定する四辺形のコーナーである。状態決定制御ユニットが、四辺形を、各対応するコーナーを有する矩形へと幾何学的に変換して、遠近補正された画像を形成する。
少なくとも1つの実施形態において、状態決定制御ユニットが、画像データ内の1つ以上の装備品のそれぞれの形状を外挿する。
少なくとも1つの実施形態において、状態決定制御ユニットが、クラスタリングを介して1つ以上の装備品の状態を決定する。
少なくとも1つの実施形態において、状態決定制御ユニットが、画像属性の相違を決定することによって、1つ以上の装備品の状態を決定する。
少なくとも1つの例において、システムがユーザデバイスをさらに含む。状態決定制御ユニットが、1つ以上の装備品の状態を示す状態信号を、ユーザデバイスに出力する。
少なくとも1つの例において、状態決定制御ユニットが、1つ以上の装備品の状態に基いて、1つ以上の装備品を自動的に操作する装備品制御信号を出力する。
本開示の或る特定の実施形態は、方法であって、
撮像装置によって、ビークルの内部キャビン内の1つ以上の装備品の画像を取得することと、
プロセッサを含み、撮像装置と通信する状態決定制御ユニットによって、撮像装置から、画像を含む画像データを受信することと、
状態決定制御ユニットによって、画像データに基いて1つ以上の装備品の状態を決定すること
を含む方法を提供する。
撮像装置によって、ビークルの内部キャビン内の1つ以上の装備品の画像を取得することと、
プロセッサを含み、撮像装置と通信する状態決定制御ユニットによって、撮像装置から、画像を含む画像データを受信することと、
状態決定制御ユニットによって、画像データに基いて1つ以上の装備品の状態を決定すること
を含む方法を提供する。
本開示の或る特定の実施形態は、実行可能な命令を含む非一過性コンピュータ可読記憶媒体であって、
命令は、実行に応じて、プロセッサを含むシステムに、
ビークルの内部キャビン内の1つ以上の装備品の画像を含む画像データを、内部キャビン内の撮像装置から受信することと、
画像データに基いて、1つ以上の装備品の状態を決定すること
を含む動作を実行させる、非一過性コンピュータ可読記憶媒体を提供する。
命令は、実行に応じて、プロセッサを含むシステムに、
ビークルの内部キャビン内の1つ以上の装備品の画像を含む画像データを、内部キャビン内の撮像装置から受信することと、
画像データに基いて、1つ以上の装備品の状態を決定すること
を含む動作を実行させる、非一過性コンピュータ可読記憶媒体を提供する。
上記の概要及び特定の実施形態の以下の詳細な説明は、添付の図面と併せて読むことにより、よりよく理解されよう。本明細書では、単数形で記載され「1つの(「a」又は「an」)」という用語の後に続く要素又はステップは、複数の要素又はステップを必ずしも除外しないと理解されたい。更に、「一実施形態(one embodiment)」への言及は、記載されている特徴を同様に包含する追加の実施形態の存在を除外すると解釈されることを意図していない。さらに、明示的に反対の記載がされていない限り、特定の条件を有する要素又は複数の要素を「含む(comprising)」又は「有する(having)」実施形態は、かかる条件を有していないさらなる要素を含みうる。
本開示の或る特定の実施形態は、ビークル(例えば、航空機)の内部キャビン内の装備品(例えば、収納棚アセンブリ)の状態(例えば、開放状態及び閉鎖状態)を決定するためのシステム及び方法を提供する。キャビン内ビデオカメラをリアルタイムで使用して装備品の状態を検出し、これらイベントを自動的にログ記録するよう構成されたシステムプ及び方法は、更なる手続きをトリガし、航空機乗組員にイベント情報によって警報を発する。
本開示の或る特定の実施形態は、搭載カメラから得られるビデオ画像を用いて、キャビンのイベントを自動的に検出して自動的にログ記録し、将来のイベントをトリガし、イベント情報について乗組員に警報を発するシステム及び方法を提供する。複数のフライト中のイベントを処理することによって、上記のシステム及び方法は、異常な潜在的イベントを検出することができる。
少なくとも1つの実施形態において、上記のシステム及び方法は、キャビン内ビデオカメラの入力を見ることと、関心領域を決定することと、消失点を計算することと、遠近感を補正するためにアルゴリズムを適用することと、棚の位置を外挿することと、状態を識別するために装備品にクラスタリングを施すことと、状態について乗組員に警報を発することを含む。1つ以上の撮像装置から取得された画像データを解析して、装備品の状態を検出することによって、本開示の実施形態は、センサ及び配線無しで機能するよう構成されており、これにより、製造コストが削減されて複雑さが低減され、燃料効率が上がる。
図1は、本開示の一実施形態に係る、ビークル106の内部キャビン104内の1つ以上の装備品102の状態を決定するシステム100の概略的なブロック図を示している。少なくとも1つの実施形態において、装備品102が、開放状態と閉鎖状態との間で動くよう構成された頭上荷物棚アセンブリである。幾つかの例において、装備品102が、化粧室のドア又は出口ドアといった内部キャビン104内の1つ以上のドアである。幾つかの例において、装備品102は、ギャレーカートコンパートメントといった、内部キャビン104内のコンパートメントである。
少なくとも1つの実装形態において、ビークル106は航空機である。幾つかの例において、ビークル106は、バス、車両等の陸上を移動する乗り物である。幾つかの例において、ビークル106は、船舶又は宇宙船である。
システム100は、内部キャビン104内の撮像装置108を含む。撮像装置108は視野110を有する。装備品102は、視野110内に存在する。少なくとも1つの実施形態において、撮像装置108がビデオカメラである。幾つかの例において、撮像装置108が暗視カメラである。幾つかの例において、撮像装置108が赤外線カメラである。
撮像装置108は、内部キャビン104内の固定されたカメラでありうる。例えば、撮像装置108が、内部キャビン104内の天井、壁、又はモニュメント等に固定されうる。幾つかの例において、撮像装置108が、例えば小型カメラ、スマートフォン若しくはスマートタブレットの部品といった携行用カメラでありうる。
システム100は、撮像装置108と通信する状態決定制御ユニット112をさらに含む。例えば、状態決定制御ユニット112は、例えばBluetooth、Wifi、又は他のこのような接続を介して撮像装置108と無線で通信する。代替的に、状態決定制御ユニット112は、有線接続を介して撮像装置108と通信しうる。
少なくとも1つの実施形態において、装備品102が、装備品102を開放状態と閉鎖状態との間で自動的に動かすよう構成された電動機といったアクチュエータ114を含みうる。さらに、状態決定制御ユニット112は、装備品102の開閉を制御するために、アクチュエータ114と無線で通信する。任意選択的に、状態決定制御ユニット112が、有線接続を介してアクチュエータ114と通信する。また、任意選択的に、状態決定制御ユニット112はアクチュエータ114と通信しない。また、任意選択的に、装備品102がアクチュエータ114を含まなくてよい。
少なくとも1つの実施形態において、ユーザデバイス116も内部キャビン104内に存在する。ユーザデバイス116は、インタフェース120に接続されたディスプレイ118を含む。例えば、ユーザデバイス116は、内部キャビン104内のコンピュータワークステーションである。幾つかの例において、ユーザデバイス116は、スマートフォン又はスマートタブレットといった携帯端末である。ディスプレイ118は、モニタ又は画面でありうる。インタフェース120は、キーボード、及び/又はマウス等を含みうる。少なくとも1つの実施形態において、ディスプレイ118及びインタフェース120が、共にタッチパネルインタフェースに組み込まれている。状態決定制御ユニット112は、例えば有線接続又は無線接続を介してユーザデバイス116と通信する。
本明細書に記載のように、システム100は、ビークル106の内部キャビン104内に1つ以上の装備品102を含む。撮像装置108が、1つ以上の装備品102の画像を取得するよう構成されている。状態決定制御ユニット112が、撮像装置108と通信する。状態決定制御ユニット112が、撮像装置108から、画像を含む画像データ122を受信する。状態決定制御ユニット112は、画像データ122に基いて、1つ以上の装備品102の状態(例えば、開放状態又は閉鎖状態)を決定する。
稼働中に、撮像装置108が、装備品102の画像を取得する。画像は、ビデオ画像又は静止画像でありうる。撮像装置108は、画像データ122として装備品102の画像を取得する。状態決定制御ユニット112は、装備品102の画像を含む画像データ122を撮像装置108から受信する。
状態決定制御ユニット112は、装備品102の状態を決定するために画像データ122を解析する。例えば、状態決定制御ユニット112は、装備品102(例えば、頭上収納棚アセンブリ)が開放状態にある(即ち、開いている)のか又は閉鎖状態にある(即ち、閉じている)のかを判定するために、画像データ122を解析する。
少なくとも1つの実施形態において、状態決定制御ユニット112は、画像データ122内の注目領域を決定することによって、画像データ122を解析する。例えば、少なくとも1つの実施形態において、注目領域は、装備品102の列、例えば、内部キャビン104内の頭上荷物棚アセンブリの列を含む。
注目領域を決定した後で、状態決定制御ユニット112は、画像データ122の遠近補正を行って、画像データ122の遠近補正された画像を提供する。例えば、状態決定制御ユニット112は、三次元空間の画像の遠近感を補正する。代替的に、状態決定制御ユニット112は、画像データ122の遠近補正を行わなくてよい。
次いで、状態決定制御ユニット112は、遠近補正された画像内の個々の装備品102を外挿する。例えば、初期較正又はセットアップの間に、状態決定制御ユニット112は、画像データ122内(例えば、遠近補正された画像内)の各個々の装備品102の大きさ及び形状を検知するようプログラム化される。少なくとも1つの実施形態において、状態決定制御ユニット112が、画像データ122内の各装備品102の形状を外挿する。
その後、状態決定制御ユニット112は、クラスタリングを介して、例えば画像属性の相違(例えば、色、色強度、及び/又は輝度等の相違)を決定することによって、装備品102の状態を決定する。例えば、遠近補正された画像内の装備品102には、それらの色の相違に基いてクラスタリングが施される。遠近補正された画像内の装備品102に関して単一のクラスタが存在する場合には、状態決定制御ユニット112は、全ての装備品102が同じ状態にあると判定し、例えば、開放状態又は閉鎖状態にあると判定する。少なくとも1つの実施形態において、状態決定制御ユニット112が、閉鎖状態の画像属性を決定するために較正される。例えば、第1の色を有する装備品102の画像は、閉鎖状態にあると判定される。このように、同じ色又は同じ色強度といった同じ属性を全てが共有する装備品102の単一のクラスタが、閉鎖状態と関連付けられる場合には、状態決定制御ユニット112は、全ての装備品102が閉じていると判定する。しかしながら、装備品102の単一クラスタが、閉鎖状態の所定の画像属性とは異なる場合には、状態決定制御ユニット112は、装備品102が開放状態にあると判定する。
さらに、画像データ122は、様々なクラスタの画像が存在することを示しうる。例えば、第1の集合の1つ以上の装備品102に対応する第1のクラスタは、第1の画像属性(例えば、第1の色又は強度)を有し、第2の集合の1つ以上の装備品102に対応する第2のクラスタは、第1の画像属性とは異なる第2の画像属性を有する。これに対応して、状態決定制御ユニット112は、第1の集合又は第2の集合のうちの一方が開放状態にあり、他方が閉鎖状態にあると判定する。状態決定制御ユニット112は、所定の画像属性に基いて、どの集合が閉鎖状態又は開放状態にあるのかを判定する。例えば、状態決定制御ユニット112は、第1の画像属性を閉鎖状態として検知し、従って、第1の画像属性とは異なる第2の画像属性が開放状態にあり又はその逆も然りであると検知するよう較正されうる。
状態決定制御ユニット112は、第1のクラスタ及び第2のクラスタを、内部キャビン104内の装備品102の位置と関連付ける。例えば、状態決定制御ユニット112は、例えば初期の手動の較正又はセットアップを介して、内部キャビン104内で各装備品102の位置を特定してラベル付けするよう較正される。これに対応して、画像解析に基いて、状態決定制御ユニット112は、内部キャビン104内の装備品102の状態(例えば、開いている又は閉じている)を検出する。
少なくとも1つの実施形態において、状態決定制御ユニット112は、本明細書に記載のように、クラスタリングを介して装備品102の状態を検出する。状態決定制御ユニット112は、画像データ122のクラスタを比較して、開放状態と閉鎖状態とを区別する。このような実施形態において、状態決定制御ユニット112は、開放状態及び閉鎖状態に関して、画像データ122を過去の画像データとは比較しない。このように、システム100が、より少ないメモリを利用して動作することが可能であり(そうでなければ、メモリは過去のデータを格納するであろう)、かつより低い計算能力で動作することが可能であることにより、効率の良い動作がもたらされる。
その後、状態決定制御ユニット112は、ユーザデバイス116に状態信号126を出力する。状態信号126は、装備品102の状態を示す。状態信号126は、内部キャビン104内の装備品102の状態データを含んでいる。例えば、状態信号126は、装備品102のうちのどれが開いているのか及び閉じているのかを示す。状態信号126は、ユーザデバイス116によって受信され、ユーザデバイス116は、ディスプレイ118上の映像又はグラフィックデータ、音声信号等を提供し、どの装備品102が開いているのか及び閉しているのかについて乗務員に警報を発することができる。このようにして、状態決定制御ユニット112は、装備品102の状態を自動的に検出し、そのときに所望のように装備品102を開け又は閉じることができる乗務員に警報を発する。
少なくとも1つの実施形態において、状態決定制御ユニット112は、装備品102の決定された状態に基いて、例えばアクチュエータ114を介して、装備品102を自動的に操作することが可能である。例えば、状態決定制御ユニット112が、画像データ122を解析して、どの装備品102が開いているか及び閉じているかを判定した後で、状態決定制御ユニット112は、アクチュエータ114に装備品制御信号128を出力して、所望のように、開いている装備品102を選択的に閉じ、又は閉じている装備品102を選択的に開ける。従って、装備品102の状態の判定に基いて、状態決定制御ユニット112は、例えばアクチュエータ114を介して、装備品102を自動的に操作して、装備品102を開放状態と閉鎖状態との間で選択的に動かすことができる。代替的に、状態決定制御ユニット112は、装備品102を自動的に操作するよう構成されない。
代替的に、状態決定制御ユニット112は、開放状態及び閉鎖状態(及び、任意選択的に、満杯の状態、部分的に満杯の状態、空の状態、施錠された状態、及び解錠された状態)にある装備品102に関する画像データを格納するメモリを含むことが可能であり、又はそうでなければ当該メモリに接続されうる。
本実施形態では、状態決定制御ユニット112は、格納された画像データに対して画像データ122を比較して、装備品102が開放状態又は閉鎖状態にあるかどうかを判定する。
本実施形態では、状態決定制御ユニット112は、格納された画像データに対して画像データ122を比較して、装備品102が開放状態又は閉鎖状態にあるかどうかを判定する。
図2は、本開示の一実施形態に係る、ビークルの内部キャビン内の1つ以上の装備品の状態を決定する方法のフローチャートを示している。図1及び図2を参照すると、200において、撮像装置108が、内部キャビン104内の1つ以上の装備品102の画像を取得する。202において、状態決定制御ユニット112は、画像を含む画像データ122内で注目領域を決定する。204において、状態決定制御ユニット112は、画像データ122の遠近感を補正して、遠近補正された画像を提供する。206において、状態決定制御ユニット112は、遠近補正された画像内の個々の装備品102を外挿する。208において、状態決定制御ユニット112は、クラスタリングに基いて、各装備品102の状態を決定する。
図3は、本開示の一実施形態に係る状態決定制御ユニット112の概略的なブロック図を示している。少なくとも1つの実施形態において、状態決定制御ユニット112は、メモリ302と通信する少なくとも1つのプロセッサ300を含む。メモリ302は、命令304、受信されたデータ306、及び生成されたデータ308を格納する。図3に示す状態決定制御ユニット112は単に例示的なものであり、非限定的である。
本明細書では、「制御ユニット(control unit)」、「中央処理装置(central processing unit)」、「ユニット(unit)」、「CPU」、「コンピュータ(computer)」などの用語は、マイクロコントローラ、縮小指令セットコンピュータ(RISC:reduced instruction set computer)、特定用途向け集積回路(ASIC:application specific integrated circuit)、論理回路、及び、本明細書に記載の機能を実行可能なハードウェア、ソフトウェア、又はこれらの組み合わせを含む他の任意の回路又はプロセッサを使用するシステムを含む、プロセッサベース又はマイクロプロセッサベースの任意のシステムを含みうる。上記の例は例示的なものにすぎず、従って、上記用語の定義及び/又は意味をいかなる形でも限定することを意図していない。例えば、状態決定制御ユニット112は、本明細書に記載のように、状態決定制御ユニットの動作を制御するよう構成された1つ以上のプロセッサであってよく、又はこれらを含んでよい。
状態決定制御ユニット112は、データを処理するために、1つ以上のデータストレージユニット又はデータストレージ要素(例えば1つ以上のメモリ)に格納された一連の命令を実行するよう構成される。例えば、状態決定制御ユニット112は、1つ以上のメモリを含んでよく、又は1つ以上のメモリに接続されてよい。データストレージユニットはまた、所望のように又は必要に応じて、データ又は他の情報を格納しうる。データストレージユニットは、情報源、又は処理マシン内部の物理的メモリ要素という形態であってよい。1つ以上のデータストレージユニット又はデータストレージ要素は、揮発性メモリ又は不揮発性メモリを含むことが可能であり、又は、揮発性メモリと不揮発性メモリの両方を含むことができる。一例として、不揮発性メモリは、読取り専用メモリ(ROM:read only memory)、プログラム可能なROM(PROM:programmable ROM)、電気的にプログラム可能なROM(EPROM:electrically programmble ROM)、電気的に消去可能なPROM(EEPROM:electrically erasable PROM)、及び/又はフラッシュメモリを含むことが可能であり、揮発性メモリは、外部キャッシュメモリとして機能することが可能なランダムアクセスメモリ(RAM:random access memory)を含むことが可能である。開示されるシステム及び方法のデータストアは、限定されるものではないが、これらのメモリ、及び他の任意の適切な種類のメモリを含むことが意図される。
一連の命令は、状態決定制御ユニット112に対して、処理マシンとして、本明細書に記載の発明の主題の様々な実施形態の方法及びプロセスといった特定の動作を実行するよう命令する様々なコマンドを含みうる。一連の命令は、ソフトウェアプログラムの形態でありうる。ソフトウェアは、システムソフトウェア又はアプリケーションソフトウェアといった様々な形態でありうる。さらに、ソフトウェアは、別々のプログラムからなる集合体、より大きなプログラム内のプログラムの部分集合、またはプログラムの一部分という形態でありうる。ソフトウェアはまた、オブジェクト指向プログラミングの形態のモジュラープログラミングを含みうる。処理マシンによる入力データの処理は、ユーザのコマンドに応じてであってよく、以前の処理の結果に応じてもよく、又は、他の処理マシンが行った要求に応じてもよい。
本明細書の実施形態の図は、状態決定制御ユニット112といった、1つ以上の制御ユニット又は処理ユニットを示しうる。処理ユニット又は制御ユニットが、本明細書に記載の動作を実行する、(例えば、コンピュータハードドライブ、ROM、RAM等の有形且つ非一過性のコンピュータ可読記憶媒体に格納されたソフトウェアの)関連する命令を含むハードウェアとして実装可能な回路、又はその一部分でありうると理解されたい。ハードウェアは、本明細書に記載の機能を実行するようハードウェアに組み込まれたステートマシン回路を含みうる。任意選択的に、ハードウェアは、マイクロプロセッサ、プロセッサ、コントローラ等といった1つ以上の論理素子を含み及び/又はそれらに接続された電子回路を含みうる。任意選択的に、状態決定制御ユニット112は、フィールドプログラマブルゲートアレイ(FPGA:field programmable gate array)、特定用途向け集積回路(ASIC:application specific integrated circuit)、及び/又は、マイクロプロセッサの1つ以上といった処理回路であってよい。様々な実施形態における回路は、本明細書に記載の機能を実行するための1つ以上のアルゴリズムを実行するよう構成されうる。上記1つ以上のアルゴリズムは、フローチャート又は方法において明示的に確認されるか否かに関わらず、本明細書に開示された実施形態の態様を含みうる。
本明細書では、「ソフトウェア(software)」及び「ファームウェア(firmware)」という用語は入れ替え可能であり、かつ、RAMメモリ、ROMメモリ、EPROMメモリ、EEPROMメモリ、及び、非揮発性RAM(NVRAM:non-volatile RAM)メモリを含むデータストレージユニット(例えば1つ以上のメモリ)に格納された、コンピュータにより実行するための任意のコンピュータプログラムを含む。上記のデータストレージユニットの種類は単に例示的にすぎず、従って、コンピュータプログラムを記憶するために使用可能なメモリの種類について限定するものではない。
図4は、本開示の一実施形態に係る、内部キャビン104の一部分の画像400を示している。図1及び図4を参照すると、画像400は、撮像装置108によって取得された画像データ122であり、又はそうでなければ、当該画像データ122の一部である。画像400は、複数の装備品102を示している。示されるように、装備品102は、列404に並んだ頭上収納棚アセンブリ402である。画像400は、内部キャビン104内の三次元空間である。これに対応して、画像400は遠近感をもたらし、これにより、遥か遠くにある第1の頭上収納棚アセンブリ402aは、より近くにある第2の頭上収納棚アセンブリ402bよりも小さく見える。
図5は、本開示の一実施形態に係る、内部キャビン104内の頭上荷物棚アセンブリ402の列404を含む注目領域502の遠近補正された画像500を示す。図1、図4、及び図5を参照すると、画像400から注目領域502を決定した後に、状態決定制御ユニット112は、遠近補正された画像500を提供し、これにより、頭上荷物棚アセンブリ402のそれぞれは、遠近補正された画像500内では同様の形状及び大きさをしている。
図6は、本開示の一実施形態に係る遠近補正された画像500を示しており、この遠近補正された画像500では、頭上荷物棚アセンブリ402に対応する棚形状600が外挿されている。例えば、較正中に、頭上収納棚アセンブリ402の二次元の正面に対応する矩形602が、対応する頭上収納棚アセンブリ402の上に重ね合わされる。その後、隣の矩形602が、最初の矩形602の隣に配置されるなどして、各頭上収納棚アセンブリ402が、関連する棚形状600と関連付けられる。このようにして、各頭上収納棚アセンブリ402が、関連付けられた棚形状600と対応している。この場合、各形状600は、特定の頭上収納棚アセンブリ402の位置と関連付けられている.従って、各棚形状600は、頭上収納棚アセンブリ402の或る位置でラベル付けすることができる。
図7は、本開示の一実施形態に係る遠近補正された画像500を示し、この遠近補正された画像500は、第1の群の頭上荷物棚アセンブリ402aに対応する棚形状602aの第1のクラスタ702aと、第2の群の頭上荷物棚アセンブリ402bに対応する棚形状602bの第2のクラスタ702bと、を有する。第1の群の頭上荷物棚アセンブリ402aと、第2の群の頭上荷物棚アセンブリ402bとはそれぞれ、1つ以上の頭上荷物棚アセンブリ402a及び402bを含みうる。
図1及び図7を参照すると、状態決定制御ユニット112は、画像属性の1つ以上の相違を介して、第1のクラスタ702aと、第2のクラスタ702bとを区別する。一例として、第1のクラスタ702aは、第1の色又は色強度といった第1の画像属性703を有し、第2のクラスタ702bは、第1の色又は色強度とは異なる第2の色又は色強度といった第2の画像属性705を有する。状態決定制御ユニット112は、第1の画像属性703と第2の画像属性705との間の相違を検出し、従って、第1の群の頭上荷物棚アセンブリ402aが、第2の群の頭上荷物棚アセンブリ402bとは異なる状態にあると判定する。少なくとも1つの実施形態において、状態決定制御ユニット112は、第2の画像属性705を開放状態と関連付けるようプログラム化される。このように、状態決定制御ユニット112は、第1の群の頭上荷物棚アセンブリ402aが閉鎖状態にあり、第2の群の頭上荷物棚アセンブリ402bが開放状態にあると判定する。その後、状態決定制御ユニット126は、関連付けられた頭上荷物棚アセンブリ402a及び402bの状態を示す状態信号126を、ユーザデバイス116に出力する。さらに、状態決定制御ユニット126は、頭上収納棚アセンブリ402bのアクチュエータ114に装備品制御信号128を出力して、頭上収納棚アセンブリ402bを自動的に閉じることが可能である。
図8は、本開示の一実施形態に係る、内部キャビン104の一部分の画像800を示している。図1及び図8を参照すると、少なくとも1つの実施形態において、注目領域を決定するために、状態決定制御ユニット112は、画像800を解析して、画像800内の様々な特徴の複数のエッジ802を決定する。エッジ802は、画像800の消失点に向かって延びている。
図9は、本開示の一実施形態に係る、図8の内部キャビン104の一部分の画像800内の消失点804を示している。エッジ802は、消失点804に向かっており、消失点804において交差する。図1及び図9を参照すると、状態決定制御ユニット112は、エッジ802の交点において消失点804を決定する。
その後、状態決定制御ユニット112は、消失点804を通る二等分線806を決定する。二等分線806は、画像800の側方エッジ808に対して並行であり、かつ、画像800の下エッジ810及び上エッジ812と直交している。二等分線806によって、画像800が二等分されて、第1のハーフ814と、第2のハーフ816となり、第1のハーフ814と第2のハーフ816のそれぞれは、別々の注目領域と関連付けられている。このように、注目領域が、二等分線806によって決定される。
図10は、本開示の一実施形態に係る、図8の内部キャビン104の画像800の第1の注目領域818及び第2の注目領域820を示している。図1、図9、及び図10を参照すると、状態決定制御ユニット112は、消失点804を通る二等分線806を介して、第1の注目領域818を第2の注目領域820から分離する。
図11は、本開示の一実施形態に係る画像800の注目領域818を示している。図1及び図11を参照すると、状態決定制御ユニット112は、例えば較正、及び/又はユーザ入力等を介して、解析する注目領域818を決定する。注目領域818は、頭上荷物棚アセンブリ402といった装備品102の列901を含む。
状態決定制御ユニット112は、列901の一端で第1の末端線902を生成する。例えば、第1の末端線902は、消失点804(図9に図示)から所定の距離に形成されうる。状態決定制御ユニット112は、第1の末端線902とは反対側に第2の末端線904を生成する。第2の末端線904は、列901の反対側の端に存在しうる。状態決定制御ユニット112は、列901の上縁と関連付けられた上境界線906と、列901の下縁と関連付けられた下境界線908と、を生成する。第1の末端線902と上境界線906とは、第1のコーナー920で交差する。第1の末端線902と下境界線908とは、第2のコーナー922で交差する。第2の末端線904と上境界線906とは、第3のコーナー924で交差する。第2の末端線904と下境界線908とは、第4のコーナー926で交差する。第1のコーナー920と、第2のコーナー922と、第3のコーナー924と、第4のコーナー926とは、列901の頭上荷物棚アセンブリ402を画定する四辺形、例えば台形のコーナーである。
図12は、本開示の一実施形態に係る、図11の第1の注目領域818内の頭上荷物棚アセンブリ402の列901の遠近補正された画像950を示している。図1、図11、及び図12を参照すると、状態決定制御ユニット112は、コーナー920、922、924、及び926により画定された四辺形を、各対応するコーナー1020、1022、1024、及び1026を有する矩形へと幾何学的に変換して、遠近補正された画像950を形成する。遠近補正された画像950は、列901の頭上荷物棚アセンブリ402を含み、頭上荷物棚アセンブリ402のそれぞれは、同じ形状又はほぼ同じ形状をしている。この場合、状態決定制御ユニット112は、例えば図6に関して記載したように、頭上収納棚アセンブリ402ごとに棚形状及び関連するラベルを外挿する。
関連付けられた頭上荷物棚アセンブリの各棚形状が均一な大きさであることで、解析の複雑さが低減され、従って、計算能力が低減される。このようにして、状態決定制御ユニット112は、効率良く動作する。一般に、棚形状の均一な大きさによって、棚の状態の決定のための改善された特徴抽出が可能となる。
本開示の実施形態は、大量のデータを迅速かつ効率良く計算装置により解析することを可能とするシステム及び方法を提供する。例えば、ビークルの内部キャビンは、開放状態と閉鎖状態との間で可動な数多くの装備品であって、内部キャビン内で乗務員及び他の個人によって見落とされる可能性がある装備品を含みうる。このように、大量のデータが、状態決定制御ユニット112によって追跡され、解析されている。膨大な量のデータが、上述のように、状態決定制御ユニット112によって効率良く体系化され及び/又は解析される。状態決定制御ユニット112は、どの特定の装備品が開いているか又は閉じているかについての情報を迅速かつ効率良く出力するために、比較的短時間でデータを解析する。人間であれば、このような短時間に、このように膨大な量のデータを効率良く解析することは出来ないであろう。従って、本開示の実施形態は、向上した効率の良い機能と、膨大な量のデータを解析する人間に関して圧倒的に優れた性能と、を提供する。
少なくとも1つの実施形態において、状態決定制御ユニット112といったシステム100の構成要素が、内部キャビン内の装備品の状態を検出する特別な計算システムとして動作する計算システムを提供し、及び/又は当該計算システムを可能とする。
図13は、本開示の例示的な実施形態に係る、ビークル106の正面を斜めから見た図である。少なくとも1つの実施形態において、ビークル106は航空機である。航空機106は、推進システム1112を含み、この推進システム1112は、例えば2つのエンジン1114を含みうる。任意選択的に、推進システム1112は、図示されるより多くのエンジン1114を含みうる。エンジン1114は、ビークル106の翼1116によって運ばれる。幾つかの実施形態において、エンジン1114は、胴体1118及び/又は尾部1120によって運ばれうる。尾部1120はまた、水平方向の安定板1122、及び、垂直方向の安定板1124を含みうる。航空機106の胴体1118が内部キャビンを画定し、内部キャビンは、コクピット1130、1つ以上の作業セクション(例えば、ギャレー、個人機内持ち込み手荷物エリア等)、及び/又は、1つ以上の乗客セクションを含みうる。
任意選択的に、航空機の代わりに、本開示の実施形態が、自動車、バス、機関車、車両、船舶といった他の様々なビークルのために使用されうる。さらに、本開示の実施形態は、商業施設、居住用建物といった固定された構造のために使用されうる。
図1~図13を参照すると、本開示の実施形態は、ビークルの内部キャビン内の装備品の状態を自動的に検出するためのシステム及び方法を提供する。さらに、本開示の実施形態は、ビークルの内部キャビン内の荷物棚アセンブリが開いているか又は閉じているかを自動的に判定するためのシステム及び方法を提供する。加えて、上記のシステム及び方法は画像解析を介して機能し、別体のセンサ及び配線を無くすことが可能である。このように、本開示の実施形態は、製造の複雑さ及び製造コストを低減し、ビークルの総重量を低減し、かつビークルの燃料効率を上げるシステム及び方法を提供する。
さらに、本開示は、以下の条項に係る実施形態を含む。
条項1.システムであって、
ビークルの内部キャビン内の1つ以上の装備品と、
1つ以上の装備品の画像を取得するよう構成された撮像装置と、
プロセッサを含み、撮像装置と通信する状態決定制御ユニットと
を備え、
状態決定制御ユニットが、撮像装置から、画像を含む画像データを受信し、
状態決定制御ユニットが、画像データに基いて、1つ以上の装備品の状態を決定する、システム。
ビークルの内部キャビン内の1つ以上の装備品と、
1つ以上の装備品の画像を取得するよう構成された撮像装置と、
プロセッサを含み、撮像装置と通信する状態決定制御ユニットと
を備え、
状態決定制御ユニットが、撮像装置から、画像を含む画像データを受信し、
状態決定制御ユニットが、画像データに基いて、1つ以上の装備品の状態を決定する、システム。
条項2.状態が、開放状態又は閉鎖状態の一方、又はその双方を含む、条項1に記載のシステム。
条項3.1つ以上の装備品が、1つ以上の頭上荷物棚アセンブリである、条項1又は2に記載のシステム。
条項4.状態決定制御ユニットが、画像データ内の注目領域を決定する、条項1から3のいずれか一項に記載のシステム。
条項5.状態決定制御ユニットが、画像内の消失点を決定することによって注目領域を決定する、条項1から4のいずれか一項に記載のシステム。
条項6.状態決定制御ユニットが、消失点を通る二等分線を決定し、注目領域が、二等分線によって決定される、条項1から5のいずれか一項に記載のシステム。
条項7.状態決定制御ユニットが、画像データ内の遠近感を補正する、条項1から6のいずれか一項に記載のシステム。
条項8.1つ以上の装備品が、一列に並んだ複数の装備品を含み、
状態決定制御ユニットが、列の第1の末端で第1の末端線を生成し、かつ第1の末端線とは反対側の、列の第2の末端で第2の末端線を生成し、
状態決定制御ユニットが、列の上縁と関連付けられた上境界線と、列の下縁と関連付けられた下境界線と、をさらに生成し、
第1の末端線と上境界線とが、第1のコーナーで交差し、
第1の末端線と下境界線とが、第2のコーナーで交差し、
第2の末端線と上境界線とが、第3のコーナーで交差し、
第2の末端線と下境界線とが、第4のコーナーで交差し、
第1のコーナー、第2のコーナー、第3のコーナー、及び第4のコーナーが、複数の装備品を画定する四辺形のコーナーである、条項1から7のいずれか一項に記載のシステム。
状態決定制御ユニットが、列の第1の末端で第1の末端線を生成し、かつ第1の末端線とは反対側の、列の第2の末端で第2の末端線を生成し、
状態決定制御ユニットが、列の上縁と関連付けられた上境界線と、列の下縁と関連付けられた下境界線と、をさらに生成し、
第1の末端線と上境界線とが、第1のコーナーで交差し、
第1の末端線と下境界線とが、第2のコーナーで交差し、
第2の末端線と上境界線とが、第3のコーナーで交差し、
第2の末端線と下境界線とが、第4のコーナーで交差し、
第1のコーナー、第2のコーナー、第3のコーナー、及び第4のコーナーが、複数の装備品を画定する四辺形のコーナーである、条項1から7のいずれか一項に記載のシステム。
条項9.状態決定制御ユニットが、四辺形を、各対応するコーナーを有する矩形へと幾何学的に変換して、遠近補正された画像を形成する、条項1から8のいずれか一項に記載のシステム。
条項10.状態決定制御ユニットが、画像データ内の複数の装備品のそれぞれの形状を外挿する、条項1から9のいずれか一項に記載のシステム。
条項11.状態決定制御ユニットが、クラスタリングを介して1つ以上の装備品の状態を決定する、条項1から10のいずれか一項に記載のシステム。
条項12.状態決定制御ユニットが、画像属性の相違を決定することによって、1つ以上の装備品の状態を決定する、条項1から11のいずれか一項に記載のシステム。
条項13.ユーザデバイスをさらに含み、
状態決定制御ユニットが、1つ以上の装備品の状態を示す状態信号を、ユーザデバイスに出力する、条項1から12のいずれに記載のシステム。
状態決定制御ユニットが、1つ以上の装備品の状態を示す状態信号を、ユーザデバイスに出力する、条項1から12のいずれに記載のシステム。
条項14.状態決定制御ユニットが、1つ以上の装備品の状態に基いて、1つ以上の装備品を自動的に操作する装備品制御信号を出力する、条項1から13のいずれに記載のシステム。
条項15.方法であって、
撮像装置によって、ビークルの内部キャビン内の1つ以上の装備品の画像を取得することと、
プロセッサを含み、撮像装置と通信する状態決定制御ユニットによって、撮像装置から、画像を含む画像データを受信することと、
状態決定制御ユニットによって、画像データに基いて1つ以上の装備品の状態を決定すること、
を含む、方法。
撮像装置によって、ビークルの内部キャビン内の1つ以上の装備品の画像を取得することと、
プロセッサを含み、撮像装置と通信する状態決定制御ユニットによって、撮像装置から、画像を含む画像データを受信することと、
状態決定制御ユニットによって、画像データに基いて1つ以上の装備品の状態を決定すること、
を含む、方法。
条項16.状態が、開放状態又は閉鎖状態の一方、又はその双方を含む、条項15に記載の方法。
条項17.1つ以上の装備品が、1つ以上の頭上荷物棚アセンブリである、条項15又は16に記載の方法。
条項18.決定することが、画像データ内の注目領域を決定することを含む、条項15から17のいずれか一項に記載の方法。
条項19.決定することが、画像内の消失点を決定することによって、注目領域を決定することをさらに含む、条項15から18のいずれか一項に記載の方法。
条項20.決定することが、消失点を通る二等分線を決定することと、二等分線によって注目領域を決定することをさらに含む、条項15から19のいずれか一項に記載の方法。
条項21.状態決定制御ユニットによって、画像データ内の遠近感を補正することをさらに含む、条項15から20のいずれか一項に記載の方法。
条項22.1つ以上の装備品が、一列に並んだ複数の装備品を含み、
決定することが、
列の第1の末端で第1の末端線を生成し、及び第1の末端線とは反対側の、列の第2の末端で第2の末端線を生成すること、
列の上縁と関連付けられた上境界線と、列の下縁と関連付けられた下境界線と、を生成することであって、
第1の末端線と上境界線とが、第1のコーナーで交差し、
第1の末端線と下境界線とが、第2のコーナーで交差し、
第2の末端線と上境界線とが、第3のコーナーで交差し、
第2の末端線と下境界線とが、第4のコーナーで交差し、
第1のコーナー、第2のコーナー、第3のコーナー、及び第4のコーナーが、複数の装備品を画定する四辺形のコーナーである、上境界線と下境界線とを生成すること
を含む、条項15から21のいずれか一項に記載の方法。
決定することが、
列の第1の末端で第1の末端線を生成し、及び第1の末端線とは反対側の、列の第2の末端で第2の末端線を生成すること、
列の上縁と関連付けられた上境界線と、列の下縁と関連付けられた下境界線と、を生成することであって、
第1の末端線と上境界線とが、第1のコーナーで交差し、
第1の末端線と下境界線とが、第2のコーナーで交差し、
第2の末端線と上境界線とが、第3のコーナーで交差し、
第2の末端線と下境界線とが、第4のコーナーで交差し、
第1のコーナー、第2のコーナー、第3のコーナー、及び第4のコーナーが、複数の装備品を画定する四辺形のコーナーである、上境界線と下境界線とを生成すること
を含む、条項15から21のいずれか一項に記載の方法。
条項23.決定することが、四辺形を、各対応するコーナーを有する矩形へと幾何学的に変換して、遠近補正された画像を形成することをさらに含む、条項15から22のいずれか一項に記載の方法。
条項24.決定することが、画像データ内の1つ以上の装備品のそれぞれの形状を外挿することをさらに含む、条項15から23のいずれか一項に記載の方法。
条項25.決定することが、クラスタリングを介して1つ以上の装備品の状態を決定することをさらに含む、条項15から24のいずれか一項に記載の方法。
条項26.決定することが、画像属性の相違を決定することを含む、条項15から25のいずれか一項に記載の方法。
条項27.状態決定制御ユニットによって、1つ以上の装備品の状態を示す状態信号を、ユーザデバイスに出力することをさらに含む、条項15から26のいずれに記載の方法。
条項28.状態決定制御ユニットによって、1つ以上の装備品の状態に基いて、1つ以上の装備品を自動的に操作する装備品制御信号を出力することをさらに含む、条項15から27のいずれに記載のシステム。
条項29.実行可能な命令を含む非一過性コンピュータ可読記憶媒体であって、
命令は、実行に応じて、プロセッサを含むシステムに、
ビークルの内部キャビン内の1つ以上の装備品の画像を含む画像データを、内部キャビン内の撮像装置から受信することと、
画像データに基いて、1つ以上の装備品の状態を決定することと
を含む動作を実行させる、非一過性コンピュータ可読記憶媒体。
命令は、実行に応じて、プロセッサを含むシステムに、
ビークルの内部キャビン内の1つ以上の装備品の画像を含む画像データを、内部キャビン内の撮像装置から受信することと、
画像データに基いて、1つ以上の装備品の状態を決定することと
を含む動作を実行させる、非一過性コンピュータ可読記憶媒体。
条項30.決定することが、画像データ内の注目領域を決定することを含む、条項29に記載の非一過性コンピュータ可読記憶媒体。
条項31.画像データ内の遠近感を補正することをさらに含む、条項29又は30に記載の非一過性コンピュータ可読記憶媒体。
条項32.決定することが、画像データ内の1つ以上の装備品のそれぞれの形状を外挿することをさらに含む、条項29から31のいずれか一項に記載の非一過性コンピュータ可読記憶媒体。
条項33.決定することが、クラスタリングを介して1つ以上の装備品の状態を決定することをさらに含む、条項29から32のいずれか一項に記載の非一過性コンピュータ可読記憶媒体。
本開示の実施形態の説明のために、上部、底部、下方、中央、横方向、水平、垂直、前方などの空間及び方向に関する様々な用語が用いられる場合があるが、このような用語は、図面で示される配向に関して用いられているに過ぎないと理解されたい。上部を下部にする、又はその反対、水平を垂直にするといったように、配向を反転、回転、又は別様に変えてよい。
本明細書では、タスク又は動作を実行する「よう構成された(configured to)」構造、限定事項、又は要素は、当該タスク又は動作に対応するやり方で特に構造的に形成され、構成され、又は適合される。明確にするため、及び疑念を避けるために言うと、タスク又は動作を実行するように変更可能であるに過ぎない物体は、本書で使用されている意味では、当該タスク又は動作を実行する「よう構成され」てはいない。
上記の説明は、制限ではなく例示を意図していると理解されたい。例えば、上記の実施形態(及び/又はその態様)は、互いに組み合わせて使用することが可能である。さらに、特定の状況又は材料に適合させるために、本開示の様々な実施形態の教示に対して、その範囲から逸脱することなく多くの修正を行うことが可能である。本明細書に記載の材料の寸法及び種類では、本開示の様々な実施形態のパラメータを定めることが意図されているが、当該実施形態は決して限定的なものではなく、例示的な実施形態である。先の明細書の記載を検討すれば、他の複数の実施形態が当業者には明らかとなろう。従って、本開示の様々な実施形態の範囲は、添付の特許請求の範囲とともに、かかる特許請求の範囲が権利を有する均等物の全範囲を参照して決定されるものとする。添付の特許請求の範囲、及び本明細書の詳細な説明において、「含む(including)」及び「ここで(in which)」という用語はそれぞれ、「含む(comprising)」及び「ここで(wherein)」という用語の明白な同義語として使用される。また、「第1の」、「第2の」及び「第3の」等の用語は、単にラベルとして使用されており、それらの対象物に数的要件を付すことを意図するものではない。
ここに記載した説明では、ベストモードを含む本開示の様々な実施形態を開示し、且つ当業者が任意の装置又はシステムの作製及び使用、並びに組込まれた任意の方法の実行を含め、本開示の様々な実装形態を実施することを可能にするために実施例を使用している。本開示の様々な実施形態の特許性のある範囲は、特許請求の範囲によって規定され、当業者が想到する他の実施例を含みうる。こうした他の実施例は、実施例が特許請求の範囲の文言と相違しない構成要素を有する場合、又は、実施例が、特許請求の範囲の文言とごくわずかな相違しかない均等な構成要素を含む場合、特許請求の範囲内にあることが意図されている。
Claims (15)
- システム(100)であって、
ビークル(106)の内部キャビン(104)内の1つ以上の装備品(102)と、
前記1つ以上の装備品(102)の画像を取得するよう構成された撮像装置(108)と、
プロセッサ(300)を含み、前記撮像装置(108)と通信する状態決定制御ユニット(112)と
を備え、
前記状態決定制御ユニット(112)が、前記撮像装置(108)から、前記画像を含む画像データ(122)を受信し、
前記状態決定制御ユニット(112)が、前記画像データ(122)に基いて、前記1つ以上の装備品(102)の状態を決定する、システム(100)。 - 前記状態が、開放状態又は閉鎖状態の一方、又はその双方を含む、請求項1に記載のシステム(100)。
- 前記1つ以上の装備品(102)が、1つ以上の頭上荷物棚アセンブリ(402)である、請求項1又は2に記載のシステム(100)。
- 前記状態決定制御ユニット(112)が、前記画像データ(122)内の注目領域を決定し、
任意選択的に、
前記状態決定制御ユニット(112)が、前記画像内の消失点を決定することによって、前記注目領域を決定する、請求項1から3のいずれか一項に記載のシステム(100)。 - 前記状態決定制御ユニット(112)が、前記消失点を通る二等分線を決定し、
前記注目領域が、前記二等分線によって決定される、請求項4に記載のシステム(100)。 - 前記状態決定制御ユニット(112)が、前記画像データ(122)内の遠近感を補正する、請求項1から5に記載のシステム(100)。
- 前記1つ以上の装備品(102)が、一列に並んだ複数の装備品(102)を含み、
前記状態決定制御ユニット(112)が、前記列の第1の末端で第1の末端線を生成し、かつ前記第1の末端線とは反対側の前記列の第2の末端で第2の末端線を生成し、
前記状態決定制御ユニット(112)が、前記列の上縁と関連付けられた上境界線と、前記列の下縁と関連付けられた下境界線と、をさらに生成し、
前記第1の末端線と前記上境界線とが、第1のコーナーで交差し、
前記第1の末端線と前記下境界線とが、第2のコーナーで交差し、
前記第2の末端線と前記上境界線とが、第3のコーナーで交差し、
前記第2の末端線と前記下境界線とが、第4のコーナーで交差し、
前記第1のコーナー、前記第2のコーナー、前記第3のコーナー、及び前記第4のコーナーが、前記複数の装備品(102)を画定する四辺形のコーナーであり、
任意選択的に、
前記状態決定制御ユニット(112)が、前記四辺形を、各対応するコーナーを有する矩形(602)へと幾何学的に変換して、遠近補正された画像を形成する、請求項1から6のいずれか一項に記載のシステム(100)。 - 前記状態決定制御ユニット(112)が、
前記画像データ(122)内の前記1つ以上の装備品(102)のそれぞれの形状を外挿すること、
クラスタリングを介して前記1つ以上の装備品(102)の前記状態を決定すること、又は、
画像属性の相違を決定することによって、前記1つ以上の装備品(102)の前記状態を決定すること
のうちの少なくとも1つを行う、請求項1から7のいずれか一項に記載のシステム(100)。 - ユーザデバイス(116)をさらに含み、
前記状態決定制御ユニット(112)が、前記1つ以上の装備品(102)の前記状態を示す状態信号(126)を、前記ユーザデバイス(116)に出力する、請求項1から8のいずれか一項に記載のシステム(100)。 - 前記状態決定制御ユニット(112)が、前記1つ以上の装備品(102)の前記状態に基いて、前記1つ以上の装備品(102)を自動的に操作する装備品制御信号を出力する、請求項1から9のいずれか一項に記載のシステム(100)。
- 方法であって、
プロセッサ(300)を含み、撮像装置(108)と通信する状態決定制御ユニット(112)によって、前記撮像装置(108)から画像データ(122)を受信することであって、前記画像データ(122)が航空機内の1つ以上の装備品(102)の少なくとも1つの画像を含む、画像データ(122)を受信することと、
前記状態決定制御ユニット(112)によって、前記画像データ(122)に基いて、前記1つ以上の装備品(102)の状態を決定すること
を含み、
前記状態が、開放状態又は閉鎖状態の一方又はその双方を含み、前記1つ以上の装備品(102)が、1つ以上の頭上荷物棚アセンブリ(402)である、方法。 - 前記決定することが、
前記画像データ(122)内の注目領域を決定することと、
前記画像内の消失点を決定することによって、前記注目領域を決定することと、
前記消失点を通る二等分線を決定することと、
前記二等分線によって前記注目領域を決定することと
を含み、
任意選択的に、
前記決定することが、
前記画像データ(122)内の前記1つ以上の装備品(102)のそれぞれの形状を外挿することと、
クラスタリングを介して前記1つ以上の装備品(102)の前記状態を決定することと、
画像属性の相違を決定すること
をさらに含む、請求項11に記載の方法。 - 前記状態決定制御ユニット(112)によって、前記画像データ(122)内の遠近感を補正することをさらに含む、請求項11又は12に記載の方法。
- 前記1つ以上の装備品(102)が、一列に並んだ複数の装備品(102)を含み、
前記決定することが、
前記列の第1の末端で第1の末端線を生成し、及び前記第1の末端線とは反対側の前記列の第2の末端で第2の末端線を生成することと、
前記列の上縁と関連付けられた上境界線と、前記列の下縁と関連付けられた下境界線と、を生成することであって、
前記第1の末端線と前記上境界線とが、第1のコーナーで交差し、
前記第1の末端線と前記下境界線とが、第2のコーナーで交差し、
前記第2の末端線と前記上境界線とが、第3のコーナーで交差し、
前記第2の末端線と前記下境界線とが、第4のコーナーで交差し、
前記第1のコーナー、前記第2のコーナー、前記第3のコーナー、及び前記第4のコーナーが、前記複数の装備品(102)を画定する四辺形のコーナーである、上境界線と下境界線とを生成することと、
前記四辺形を、各対応するコーナーを有する矩形(602)へと幾何学的に変換して、遠近補正された画像を形成すること
を含む、請求項11から13のいずれか一項に記載の方法。 - 前記状態決定制御ユニット(112)によって、前記1つ以上の装備品(102)の前記状態を示す状態信号(126)を、ユーザデバイス(116)に出力することと、
前記状態決定制御ユニット(112)によって、前記1つ以上の装備品(102)の前記状態に基いて、前記1つ以上の装備品(102)を自動的に操作する装備品制御信号を出力すること
をさらに含む、請求項11から14のいずれか一項に記載の方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US202063057943P | 2020-07-29 | 2020-07-29 | |
US63/057,943 | 2020-07-29 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022042961A true JP2022042961A (ja) | 2022-03-15 |
Family
ID=76553639
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021119339A Pending JP2022042961A (ja) | 2020-07-29 | 2021-07-20 | ビークルの内部キャビン内の収納棚アセンブリの状態を決定するためのシステム及び方法 |
Country Status (7)
Country | Link |
---|---|
US (1) | US11897634B2 (ja) |
EP (1) | EP3945457B1 (ja) |
JP (1) | JP2022042961A (ja) |
KR (1) | KR20220014811A (ja) |
CN (1) | CN114056574A (ja) |
AU (1) | AU2021204039A1 (ja) |
CA (1) | CA3122805A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20230067659A1 (en) * | 2021-08-24 | 2023-03-02 | Ford Global Technologies, Llc | Systems and methods for detecting vehicle defects |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050172450A1 (en) * | 2004-02-09 | 2005-08-11 | Kuang-Sheng Shiu | Door state controller |
DE102012005917B4 (de) | 2012-03-26 | 2016-10-20 | Diehl Aerospace Gmbh | Gepäckablagefach, Flugzeug mit einem Gepäckablagefach sowie Verfahren zum Betreiben des Gepäckablagefachs |
US20150241209A1 (en) * | 2014-02-25 | 2015-08-27 | Astronics Advanced Electronic Systems Corp. | Apparatus and method to monitor the occupied volume within a fixed or variable volume |
US20170230620A1 (en) | 2016-02-04 | 2017-08-10 | Panasonic Intellectual Property Management Co., Ltd. | Container use state determining device |
RU2631765C1 (ru) | 2016-04-26 | 2017-09-26 | Общество с ограниченной ответственностью "Аби Девелопмент" | Способ и система исправления перспективных искажений в изображениях, занимающих двухстраничный разворот |
EP3509295B1 (en) * | 2016-09-26 | 2020-11-11 | Hitachi Kokusai Electric Inc. | Vehicle monitoring system, management device and monitoring method |
US10936879B2 (en) | 2016-12-19 | 2021-03-02 | The Boeing Company | System for displaying the status of use of aircraft overhead luggage storage bins |
US10906458B2 (en) * | 2017-03-10 | 2021-02-02 | The Boeing Company | Vehicles including electronic stowage bin control systems |
KR101951683B1 (ko) * | 2017-09-08 | 2019-02-26 | 충북대학교 산학협력단 | 자율주행 자동차를 위한 차선 인식 시스템 및 방법 |
WO2019152120A1 (en) | 2018-01-30 | 2019-08-08 | Systems And Software Enterprises, Llc | System and method for managing aircraft bin space |
-
2021
- 2021-06-15 US US17/347,888 patent/US11897634B2/en active Active
- 2021-06-17 CA CA3122805A patent/CA3122805A1/en active Pending
- 2021-06-17 AU AU2021204039A patent/AU2021204039A1/en active Pending
- 2021-06-22 EP EP21180940.5A patent/EP3945457B1/en active Active
- 2021-06-25 KR KR1020210082755A patent/KR20220014811A/ko active Search and Examination
- 2021-07-20 JP JP2021119339A patent/JP2022042961A/ja active Pending
- 2021-07-22 CN CN202110830385.4A patent/CN114056574A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
CA3122805A1 (en) | 2022-01-29 |
EP3945457B1 (en) | 2023-09-13 |
CN114056574A (zh) | 2022-02-18 |
EP3945457A1 (en) | 2022-02-02 |
US20220033108A1 (en) | 2022-02-03 |
AU2021204039A1 (en) | 2022-02-17 |
US11897634B2 (en) | 2024-02-13 |
KR20220014811A (ko) | 2022-02-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102494692B1 (ko) | 지능형 수하물 처리 | |
JP6965141B2 (ja) | 航空機の頭上荷物収納棚の使用のステータスを表示するためのシステム | |
CN103366601B (zh) | 基于环视图像设置停车位置的装置和方法 | |
JP2018104194A5 (ja) | ||
US11479370B2 (en) | Aircraft turnaround monitoring systems and methods | |
EP2924663B1 (en) | Automatic head count determination on board an aircraft | |
JP7053181B2 (ja) | 航空機動き評価システムおよび方法 | |
US11047728B2 (en) | Aircraft passenger luggage bin load weight and balance system | |
JP2022042961A (ja) | ビークルの内部キャビン内の収納棚アセンブリの状態を決定するためのシステム及び方法 | |
EP3123208A1 (de) | Detektion von gegenständen in einem objekt | |
BR112021016305A2 (pt) | Sistema de substituição de espelho com fusão dinâmica | |
US9600556B2 (en) | Method for three dimensional perception processing and classification | |
US20220063834A1 (en) | Foreign object detection for vehicle operation, production, and maintenance | |
US11138410B1 (en) | 3-D object detection and classification from imagery | |
US20190238762A1 (en) | Thermal Imaging of Aircraft | |
CN114266804A (zh) | 跨感测器的物体属性分析方法与系统 | |
JP5930808B2 (ja) | 画像処理装置、画像処理装置の制御方法、およびプログラム | |
EP3715254B1 (en) | Seat configuration verification system and method | |
CN108074422B (zh) | 用于分析机场处的转向的系统和方法 | |
US11203433B2 (en) | Predictive aircraft passenger cabin service system and method | |
EP4008633A1 (en) | Stowage bin assemblies having electronic front panels | |
EP4209999A1 (en) | Classification parallelization architecture | |
US20200311567A1 (en) | Adaptive seat configuration determination system and method | |
US20220212799A1 (en) | Systems and methods for monitoring storage of carry-on items in storage bins of an aircraft | |
US20220237822A1 (en) | Vehicle pose determination systems and methods |