JP2020097394A - 適応可能輸送体モニタリングシステム - Google Patents
適応可能輸送体モニタリングシステム Download PDFInfo
- Publication number
- JP2020097394A JP2020097394A JP2019187532A JP2019187532A JP2020097394A JP 2020097394 A JP2020097394 A JP 2020097394A JP 2019187532 A JP2019187532 A JP 2019187532A JP 2019187532 A JP2019187532 A JP 2019187532A JP 2020097394 A JP2020097394 A JP 2020097394A
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- subsystem
- state
- data
- context
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B23/00—Testing or monitoring of control systems or parts thereof
- G05B23/02—Electric testing or monitoring
- G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
- G05B23/0218—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
- G05B23/0224—Process history based detection method, e.g. whereby history implies the availability of large amounts of data
- G05B23/0227—Qualitative history assessment, whereby the type of data acted upon, e.g. waveforms, images or patterns, is not relevant, e.g. rule based assessment; if-then decisions
- G05B23/0232—Qualitative history assessment, whereby the type of data acted upon, e.g. waveforms, images or patterns, is not relevant, e.g. rule based assessment; if-then decisions based on qualitative trend analysis, e.g. system evolution
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07C—TIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
- G07C5/00—Registering or indicating the working of vehicles
- G07C5/08—Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
- G07C5/0816—Indicating performance data, e.g. occurrence of a malfunction
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64D—EQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENTS OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
- B64D43/00—Arrangements or adaptations of instruments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/26—Visual data mining; Browsing structured data
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64D—EQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENTS OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
- B64D45/00—Aircraft indicators or protectors not otherwise provided for
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/242—Query formulation
- G06F16/2428—Query predicate definition using graphical user interfaces, including menus and forms
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07C—TIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
- G07C5/00—Registering or indicating the working of vehicles
- G07C5/08—Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
- G07C5/0841—Registering performance data
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07C—TIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
- G07C5/00—Registering or indicating the working of vehicles
- G07C5/08—Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
- G07C5/0841—Registering performance data
- G07C5/085—Registering performance data using electronic data carriers
- G07C5/0866—Registering performance data using electronic data carriers the electronic data carrier being a digital video recorder in combination with video camera
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Arrangement of adaptations of instruments
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
- B60Q9/00—Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64D—EQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENTS OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
- B64D45/00—Aircraft indicators or protectors not otherwise provided for
- B64D2045/0085—Devices for aircraft health monitoring, e.g. monitoring flutter or vibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Abstract
Description
図1を参照すると、輸送体モニタリングシステム100が、状態モニタリングサブシステム104及び/又はフィードバックサブシステム112を有する、コアプラットフォーム102を備えてよい。コアプラットフォーム102は、複数の他のサブシステムとも動作可能に接続されてよい。コアプラットフォーム102は、中央サブシステム、ミドルウェア、及び/又は共通データバスとして動作することができる。そのバスは、1以上のインターフェースを介して、輸送体モニタリングシステム100の様々なサブシステムを接続している。サブシステムは、有線及び/又は無線の通信プロトコル及びハードウェアを使用して、ソフトウェア及び/又はハードウェアのインターフェースを通じて互いに通信してよい。コアプラットフォーム102は、様々なサブシステムの間の通信、様々なサブシステムの中の通信、様々なサブシステムを通じた通信を、調整及び/又は促進することができる。ある実施例では、様々なサブシステムが、互いに通信するときに、コアプラットフォーム102を迂回してよい。ある実施例では、コアプラットフォーム102が、例えばLinuxなどのオペレーティングシステムとして且つ/又はそのようなオペレーティングシステムを用いて、機能することができる。ある実施例では、コアプラットフォーム102が、コンピュータチップ、特定用途向け集積回路(ASIC)、及び/又は、例えばPico-ITXなどのマザーボード内に実装されてよい。
コアプラットフォーム102は、輸送体モニタリングシステム100にフィードバックサブシステム112を提供してよい。フィードバックサブシステム112は、1以上の輸送体のオペレータ向けにフィードバックを準備してよく、且つ/又はユーザインターフェース126を通じて(1以上の)オペレータにフィードバックを供給することができる。フィードバックは、輸送体モニタリングシステム100の比較的最近記録されたデータと記憶された及び/又は生成されたデータとの比較に基づいてよい。
ユーザインターフェース126は、オペレータ(例えば、人間のオペレータ)向けの制御及び/又は通信インターフェースを提供することができる。オペレータは、遠隔であるか(例えば、輸送体の外側及び/又は別の輸送体内にいる)又は搭乗している(すなわち、その輸送体内にいる)かもしれない。ユーザインターフェース126は、人間機械インターフェース(HMI)を含んでよい。それは、タッチスクリーン・グラフィカルユーザインターフェース(「GUI」)及び/又は会話認識システムに基づいてよい。ユーザインターフェース126の目的は、オペレータが、人間のフライトエンジニア及び/又は副操縦士と相互作用するのに近いやり方で、オペレータが、コアプラットフォーム102の知識ベースと相互作用することを可能にすることである。ユーザインターフェース126は、(1以上の)オペレータと輸送体モニタリングシステム100の間の通信の一次チャネルとして働いてよい。例えば、ユーザインターフェース126は、コアプラットフォーム102を介してサブシステムからステータス情報を受け取ってよく、一方で、コアプラットフォーム102に、ユーザインターフェース126によって生成され且つ/又は(1以上の)オペレータによって入力されたモード命令を送ることができる。ユーザインターフェース126は、タブレットベースのGUI及び/又は会話認識インターフェースを採用して、音声通信を可能にしてよい。図示されているように、例えば、図2a及び図2bでは、ユーザインターフェース126が、コアプラットフォーム102からのチェックリストの検証及び/又は輸送体の状態の予測(例えば、燃料消費や予測される残存範囲)、更には、マッピング機能、故障予知、及び逸脱警報(例えば、「左エンジンのEGTが、通常より5度高く、上昇している」)を含む、直感的なディスプレイ及びインターフェースを提供してよい。
知覚サブシステム106は、リアルタイムの輸送体及び/又は環境状況データを収集し、検知し、測定し、検出し、特定し、且つ/又はさもなければ知覚することができる。知覚サブシステム106によって知覚された状況データを使用して、輸送体の状態、輸送体のコンテキスト、1以上の傾向を導出してよく、且つ/又はオペレータフィードバックを生成することができる。ある実施例では、知覚サブシステム106が、更に又は代替的に、リアルタイムのオペレータの観察を収集し、検知し、測定し、検出し、特定し、且つ/又はさもなければ知覚することができる。例えば、そのような観察は、オペレータの作業、リアクション、応答タイミング、好み、且つ/又はオペレータに関する他の情報を含んでよい。
更に又は代替的に、知覚サブシステム106は、操縦室の機器120からのリアルタイムの輸送体及び/又は環境状況データを収集し、検知し、検出し、特定し、且つ/又はさもなければ知覚するための、センササブシステム118を採用してよい。センササブシステム118は、例えば、画像センサ、光センサ、カメラ310、マイクロフォン308(音響システムで使用される)、及び/又は他のセンサ306(例えば、温度センサ、位置センサ、慣性センサ、加速度センサ、ジャイロスコープなど)などの、センサを含んでよい。画像/光センサ及び/又はカメラが使用される場合、知覚サブシステム106は、例えば、NVIDIA Tegra X1などの、グラフィカル処理ユニット(GPU)を含んでよい。ある実施例では、GPUが、コントローラ302の部分であってよい。
知覚サブシステム106及び/又はセンササブシステム118は、可能性としては、モーションキャプチャマーカー及び/又は基準マーカーを含む、単眼又は複眼システムを採用して、操縦室の機器120上に表示されているものを読むことによって、輸送体のステータスを継続的にモニタすることができる。機器(例えば、グラスゲージ、物理的な汽圧計など)及び/又はスイッチ、更には、様々な照明条件、並びに操縦室のレイアウト及びサイズにおけるそれらの位置を正確にモニタするために、視覚システムが使用されてよい。複眼システム及び/又はマーカーを使用することにより、任意のロボット構成要素と輸送体のオペレータとの間の衝突を防止するための検知も提供することができる。
センササブシステム118は、特定の場所に固定されてよく、且つ/又は作動サブシステム108のロボットアーム110などの可動な物体に連結されてよい。ある実施例では、作動サブシステム108が、センササブシステム118の部分であってよく、様々な操縦室の機器120をより良く観察し且つ/又はそれらと相互作用するように、操縦席の周りでセンサを操作するように使用されてよい。知覚サブシステム106のセンササブシステム118は、作動サブシステム108のステータス及び/又は位置決めについての二次的な情報も提供することもできる。
知識獲得サブシステム114は、輸送体モニタリングシステム100が輸送体特有の情報を特定することを可能にするために必要な知識を、集め且つ/又は生成することができる。これは、輸送体の性能、特性、能力、制限、レイアウト、機器、チェックリスト、ミッション、及び/又は手順(緊急時の手順を含む)、更には、輸送体内の不測の事態及び/又は修正作業を定義する基準の知識を含んでよい。例えば、この知識は、特定の輸送体のミッション、動作、チェックリスト、及び/又は手順、更には、ミッション、動作、チェックリスト、及び/又は手順の範囲内及び間の両方の作業の流れの内容を含んでよい。知識は、(例えば、マニュアル、ブリーフィング、パイロット作業ハンドブック、輸送体運航ハンドブックから)知識獲得サブシステム114によって読むことが可能なデータの中に符号化された輸送体の資料の組み合わせから取得されてよい。知識は、更に又は代替的に、(例えば、知覚サブシステム106を介して)輸送体の動作中に獲得されたデータから取得されてよい。知識獲得サブシステム114は、データベースサブシステム122及びコンテキス認知サブシステム124を含んでよい。知識獲得サブシステム114は、コアプラットフォーム102から動作命令を受け取ってよく、一方で、コアプラットフォーム102に、知識獲得サブシステム114によって集められ且つ/又は生成された、構成データ、ステータス、応答情報、及び/若しくは知識を送ることができる。
輸送体モニタリングシステム100によって集められ且つ/又は生成された知識は、位置決めされているのが輸送体上であれ遠隔地であれ、データベースサブシステム122内に記憶されてよく、データベースサブシステム122は、遠隔からアクセスされてよい。データベースサブシステム122は、オンライン及び/又はオフライン機械学習及び/又は傾向解析を支援してよい。動作の際に、データベースサブシステム122は、とりわけ、知覚サブシステム106、ユーザインターフェース126、更には、輸送体モニタリングシステム100の内部状態検知によって集められたリアルタイムのデータで動的に更新されてよい。動作後に、データベースサブシステム122からのデータは、1以上の中央保存場所にダウンロードされてよい。それによって、例えば、傾向及び/又はパターンの解析が実行されてよい。データベースサブシステム122内のデータは、タイムスタンプされ、記録された時間に従って組織化され、且つ/又はさもなければ所与の時間に関連付けられてよい。
輸送体構成データベース502は、輸送体システム、その構成、及び/又は安全な動作を維持するために必要な手順に関する情報、更には、その輸送体の認可されたオペレータが有すると予期される全ての他の知識及び/又は技術情報を記憶してよい。輸送体構成データベース502は、現在運航している輸送体についての必要な情報(例えば、飛行制御モデル、運航手順、輸送体システムなど)を有する、知識獲得サブシステム114及び/又は他のサブシステムによって、データが追加されてよい。ある実施例では、輸送体構成データベース502が、ユーザインターフェース126を通じて輸送体モニタリングシステム100と通信する外部デバイスによって、データが追加されてよい。例えば、DTRファイルは、ユーザインターフェース126を通じて、輸送体モニタリングシステム100の中にロードされてよい。輸送体構成データベース502からの情報が使用されて、DTRファイルにデータを追加することができる(又は所望の構成に応じて逆の場合もある)。
コンテキストデータベース504は、輸送体のミッション、チェックリスト、及び/又は手順に関する情報を記憶してよい。その情報は、輸送体に特有であって且つ/又は輸送体に依存しなくてよい。例えば、機械学習技術を採用して、輸送体の歴史的データに基づいて、輸送体の種類及び/又は輸送体に特有の他の態様を特定することができる。ミッション、チェックリスト、及び/又は手順は、輸送体モニタリングシステム100の初期化及び/又はセットアップにおいて、コンテキストデータベース504の中にロードされてよい。ある実施例では、ミッション、チェックリスト、及び/又は手順が、1以上のDTRファイルを使用してロードされてよい。しかし、単一のDTRも、それぞれの種類のミッション向けに使用されてよい。ある実施例では、コンテキストデータベース504は、コンテキストデータを他の関連するデータ(例えば、記録されたコンテキストの前後の(1以上の)状態、記録されたコンテキストの前、中、及び/又は後の輸送体の(1以上の)知覚、記録されたコンテキストがその部分であり得るところの任意の傾向など)に相関させるように、データベースサブシステム122内の他のデータベースに対するポインター、リンク、及び/又は参照を含んでよい。
状態データベース506は、輸送体の状態に関する情報を保持してよい。状態情報は、状態モニタリングサブシステム104によって集められ且つ/又は生成されてよい。状態情報は、傾向モニタリングサブシステム116によって使用されて、輸送体の動作に関する傾向を特定することができる。ある実施例では、状態データベース506が、状態データを他の関連するデータ(例えば、その状態の間、前、及び/又は後の輸送体の(1以上の)コンテキストの、直前/直後の輸送体の(1以上の)状態、その状態の前、中、及び/又は後の輸送体の(1以上の)知覚、輸送体の状態がその部分であり得るところの任意の傾向など)に相関させるように、データベースサブシステム122内の他のデータベースに対するポインター、リンク、及び/又は参照を含んでよい。
知覚データベース510は、経時的に知覚サブシステム106によって記録されたデータを保持してよい。それによって、データが、輸送体モニタリングシステム100の動作中に保持される。知覚データベース510内に記録された且つ/又は保持されたデータは、様々なサブシステムによって使用されてよく、コンテキスト、状態、傾向、及び/又は他の情報を判断する助けとなる。
傾向データベース508は、以前に特定された傾向に関するデータを保持してよい。以前に特定された傾向の一部又は全部は、輸送体モニタリングシステム100のセットアップ/初期化においてロードされてよい。輸送体モニタリングシステム100の動作中に特定された傾向の一部又は全部は、輸送体モニタリングサブシステム100の動作中に、傾向データベース508内に保存されてよい。ある実施例では、傾向データベース508が、傾向データを他の関連するデータ(例えば、その傾向中の輸送体の(1以上の)状態、その傾向中の輸送体の(1以上の)コンテキスト、その傾向にわたる輸送体の(1以上の)知覚など)に相関させるように、データベースサブシステム122内の他のデータベースに対するポインター、リンク、及び/又は参照を含んでよい。
コンテキスト認知サブシステム124は、任意の所与の時間における、輸送体のミッション、チェックリスト、及び/又は手順の「コンテキスト」の認知を特定及び/又は維持してよい。コンテキストは、輸送体に特有であってよく且つ/又は輸送体に依存しなくてよい。ある実施例では、コンテキストと状態が独立していてよい。それによって、状態モニタリングサブシステム104による現在及び/又は予測された輸送体の状態の特定は、コンテキスト認知サブシステム124によって特定された現在の、以前の、且つ/又は予測された将来の輸送体のコンテキストに少なくとも部分的に依存し且つ/又は基づいてよい。その逆もまたあり得る。ある実施例では、コンテキスト又は状態を優先して選択し、どちらか一方(コンテキスト又は状態)が先ず特定されるようにする。ある実施例では、優先度が、特定の輸送体の種類、特定のオペレータ、現在のミッション、及び/又は他の考慮事項に応じて、自動的に設定されてよい。ある実施例では、優先度が、ユーザインターフェース126を通じてオペレータによって手動で設定されてよい。
図6は、輸送体モニタリングシステム100の例示的な動作を示している。ステップ602で、輸送体モニタリングシステム100は、セットアップされ且つ/又は初期化される。これは、輸送体の点火の前、後、及び/又は間に行われてよい。セットアップ中に、輸送体モニタリングシステム100の構成要素が、輸送体内に設置されてよい。知覚サブシステム106は、輸送体の操縦室の機器120と配線で接続されよく且つ/又は他の方法で相互作用してよい。カメラ及び/又は他のセンサが使用される実施例では、これらのデバイスが、(1以上の)オペレータに対する任意の妨害を最小化しながら、操縦室の機器120からデータを収集し、測定し、検知し、且つ/又は取得するために、適切にセットアップされてよい。地上車両(例えば、自動車、トラック、救急車など)では、これが、カメラ及び/又はセンサを、乗客席、後部座席、ダッシュボードエリア、中央コンソール、又は何らかの他の適切な位置に適切に位置決めすることを意味してよい。航空輸送体(例えば、飛行機、ヘリコプターなど)では、これが、パイロットキャビン、乗客席、後部座席、ダッシュボードエリア、コンソールエリア、又は何らかの他の適切な位置に位置決めすることを意味してよい。船舶(船、潜水艦など)では、これも同様なものを意味してよい。ある実施例では、輸送体モニタリングシステム100が、(例えば、訓練シミュレーションを計算し且つ/又は傾向解析向けの初期データを生成するために)輸送体のシミュレータ内に設置されてよい。
1.
輸送体を動作させるためにオペレータフィードバックを提供するための適応可能輸送体モニタリングシステム(100)であって、
現在の輸送体のコンテキストを特定するように構成されたコンテキスト認知サブシステム(124)であって、前記現在の輸送体のコンテキストが前記輸送体の動作モードを反映する、コンテキスト認知サブシステム(124)、
現在の輸送体の状態データに少なくとも部分的に基づいて、現在の輸送体の状態を導出するように構成された状態モニタリングサブシステム(104)であって、前記輸送体の少なくとも1つのパラメータに応じて前記輸送体の状態データを前記現在の輸送体のコンテキストに相関させるように構成された知識獲得サブシステム(114)と動作可能に接続され、前記現在の輸送体の状態データ及び前記現在の輸送体のコンテキストを解析して、1以上の傾向を特定するように構成された、状態モニタリングサブシステム(104)、
前記状態モニタリングサブシステム(104)に動作可能に接続されたフィードバックサブシステム(112)であって、前記現在の輸送体の状態と予期される輸送体の状態との比較に少なくとも部分的に基づいて、オペレータフィードバックを準備するように構成され、前記予期される輸送体の状態が、1以上の記憶された輸送体の状態及び前記1以上の傾向に少なくとも部分的に基づいて導出される、フィードバックサブシステム(112)、並びに
前記準備されたオペレータフィードバックを提供するように構成されたユーザインターフェース(126)を備える、システム。
2.
前記状態モニタリングサブシステム(104)が、類似する種類の輸送体からの記憶された輸送体の状態データ及び記憶された輸送体のコンテキストを解析して、前記1以上の傾向を特定するように更に構成されている、条項1に記載のシステム。
3.
輸送体内に位置付けられた機器(120)から、現在の輸送体の状態情報を視覚的に取得するように構成された複数のカメラ(310)を有する知覚サブシステム(106)を更に備える、条項1又は2に記載のシステム。
4.
前記状態モニタリングサブシステム(104)に動作可能に接続され、前記状態モニタリングサブシステム(104)によるオフライン機械学習又は傾向解析を支援するように構成された、データベースサブシステム(122)を更に備える、条項1から3のいずれか一項に記載のシステム。
5.
前記機器(120)が、燃料計、温度計、風力計、オドメータ、圧力計、高度計、速度計、対気速度インジケータ、垂直速度インジケータ、コンパス、ジャイロスコープ、姿勢インジケータ、機首方位インジケータ、旋回インジケータ、又は航行システムのうちの1以上を備える、条項3に記載のシステム。
6.
前記オペレータフィードバックが、前記予期される輸送体の状態と前記現在の輸送体の状態との間の偏差が所定の閾値を超えた場合の警告を含む、条項1から5のいずれか一項に記載のシステム。
7.
前記現在の輸送体のコンテキストが、輸送体の種類、輸送体運航ハンドブック、標準的な輸送体の動作手順、オペレータの入力、ミッションパラメータ、輸送体の目的地、現在の輸送体の状態データ、記憶された輸送体の状態データ、輸送体の位置、外部環境、及び記憶された傾向のうちの1以上に少なくとも部分的に基づいて特定される、条項1から6のいずれか一項に記載のシステム。
8.
前記輸送体モニタリングシステム(100)が、種々の種類の輸送体と互換性があり、デジタルファイル内の符号化された情報に少なくとも部分的に基づいて前記種々の種類の輸送体に適応し得る、条項1から7のいずれか一項に記載のシステム。
9.
前記符号化された情報が、輸送体の種類、輸送体のレイアウト、輸送体の機器(120)、及び輸送体の能力のうちの1以上を含む、条項8に記載のシステム。
10.
解析される、記憶された輸送体の状態データ、記憶された輸送体のコンテキスト、及び記憶された輸送体の状態が、前記デジタルファイル内の符号化された前記輸送体の種類に対応する、条項9に記載のシステム。
11.
前記状態モニタリングサブシステム(104)が、機械学習技術を使用して、前記1以上の傾向を特定する、条項1から10のいずれか一項に記載のシステム。
12.
輸送体を動作させるためにオペレータフィードバックを提供するための方法であって、
前記輸送体の動作モードを反映する現在の輸送体のコンテキストを特定するステップ、
現在の輸送体の状態データに少なくとも部分的に基づいて、現在の輸送体の状態を導出するステップ、
前記輸送体の少なくとも1つのパラメータに応じて、前記輸送体の状態データを前記現在の輸送体のコンテキストに相関させるステップ、
前記現在の輸送体の状態データ及び前記現在の輸送体のコンテキストを解析して、1以上の傾向を特定するステップ、
前記現在の輸送体の状態と予期される輸送体の状態との比較に少なくとも部分的に基づいて、オペレータフィードバックを準備するステップであって、前記予期される輸送体の状態が、1以上の記憶された輸送体の状態及び前記1以上の傾向に少なくとも部分的に基づいて導出されるステップ、並びに
ユーザインターフェース(126)を介して、前記準備されたオペレータフィードバックを生成するステップを含む、方法。
13.
前記1以上の傾向が、類似する種類の輸送体からの記憶された輸送体の状態データ、記憶された輸送体のコンテキスト、及び記憶された輸送体の状態を使用して特定される、条項12に記載の方法。
14.
前記現在の輸送体の状態データが、輸送体の操縦室内の機器(120)からデータを収集するように構成された複数のカメラ(310)を使用して取得される、条項13に記載の方法。
15.
前記現在の輸送体の状態が、燃料計、温度計、風力計、オドメータ、圧力計、高度計、速度計、対気速度インジケータ、垂直速度インジケータ、コンパス、ジャイロスコープ、姿勢インジケータ、機首方位インジケータ、旋回インジケータ、又は航行システムのうちの少なくとも1つから特定される、条項13又は14に記載の方法。
16.
前記オペレータフィードバックが、前記予期される輸送体の状態と前記現在の輸送体の状態との間の偏差が所定の閾値を超えた場合の警告を含む、条項13から15のいずれか一項に記載の方法。
17.
前記方法が、デジタルファイル内の符号化された情報に少なくとも部分的に基づいて、種々の種類の輸送体に適応させるステップを更に含む、条項13から16のいずれか一項に記載の方法。
18.
前記符号化された情報が、輸送体の種類、輸送体のレイアウト、輸送体の機器(120)、及び輸送体の能力のうちの1以上を含む、条項17に記載の方法。
19.
機械学習技術を使用して、前記1以上の傾向を特定する、条項17又は18に記載の方法。
20.
オフライン機械学習又は傾向解析を支援するように構成されたデータベースサブシステム(122)にアクセスするステップを更に含む、条項13から19のいずれか一項に記載の方法。
Claims (15)
- 輸送体を動作させるためにオペレータフィードバックを提供するための適応可能輸送体モニタリングシステム(100)であって、
現在の輸送体のコンテキストを特定するように構成されたコンテキスト認知サブシステム(124)であって、前記現在の輸送体のコンテキストが前記輸送体の動作モードを反映する、コンテキスト認知サブシステム(124)、
現在の輸送体の状態データに少なくとも部分的に基づいて、現在の輸送体の状態を導出するように構成された状態モニタリングサブシステム(104)であって、前記輸送体の少なくとも1つのパラメータに応じて前記輸送体の状態データを前記現在の輸送体のコンテキストに相関させるように構成された知識獲得サブシステム(114)と動作可能に接続され、前記現在の輸送体の状態データ及び前記現在の輸送体のコンテキストを解析して、1以上の傾向を特定するように構成された、状態モニタリングサブシステム(104)、
前記状態モニタリングサブシステム(104)に動作可能に接続されたフィードバックサブシステム(112)であって、前記現在の輸送体の状態と予期される輸送体の状態との比較に少なくとも部分的に基づいて、オペレータフィードバックを準備するように構成され、前記予期される輸送体の状態が、1以上の記憶された輸送体の状態及び前記1以上の傾向に少なくとも部分的に基づいて導出される、フィードバックサブシステム(112)、並びに
前記準備されたオペレータフィードバックを提供するように構成されたユーザインターフェース(126)を備える、システム。 - 前記状態モニタリングサブシステム(104)が、類似する種類の輸送体からの記憶された輸送体の状態データ及び記憶された輸送体のコンテキストを解析して、前記1以上の傾向を特定するように更に構成されている、請求項1に記載のシステム。
- 輸送体内に位置付けられた機器(120)から、現在の輸送体の状態情報を視覚的に取得するように構成された複数のカメラ(310)を有する知覚サブシステム(106)を更に備える、請求項1又は2に記載のシステム。
- 前記状態モニタリングサブシステム(104)に動作可能に接続され、前記状態モニタリングサブシステム(104)によるオフライン機械学習又は傾向解析を支援するように構成された、データベースサブシステム(122)を更に備える、請求項1から3のいずれか一項に記載のシステム。
- 前記機器(120)が、燃料計、温度計、風力計、オドメータ、圧力計、高度計、速度計、対気速度インジケータ、垂直速度インジケータ、コンパス、ジャイロスコープ、姿勢インジケータ、機首方位インジケータ、旋回インジケータ、又は航行システムのうちの1以上を備える、請求項3に記載のシステム。
- 前記オペレータフィードバックが、前記予期される輸送体の状態と前記現在の輸送体の状態との間の偏差が所定の閾値を超えた場合の警告を含む、請求項1から5のいずれか一項に記載のシステム。
- 前記現在の輸送体のコンテキストが、輸送体の種類、輸送体運航ハンドブック、標準的な輸送体の動作手順、オペレータの入力、ミッションパラメータ、輸送体の目的地、現在の輸送体の状態データ、記憶された輸送体の状態データ、輸送体の位置、外部環境、及び記憶された傾向のうちの1以上に少なくとも部分的に基づいて特定される、請求項1から6のいずれか一項に記載のシステム。
- 前記輸送体モニタリングシステム(100)が、種々の種類の輸送体と互換性があり、デジタルファイル内の符号化された情報に少なくとも部分的に基づいて前記種々の種類の輸送体に適応し得る、請求項1から7のいずれか一項に記載のシステム。
- 輸送体を動作させるためにオペレータフィードバックを提供するための方法であって、
前記輸送体の動作モードを反映する現在の輸送体のコンテキストを特定するステップ、
現在の輸送体の状態データに少なくとも部分的に基づいて、現在の輸送体の状態を導出するステップ、
前記輸送体の少なくとも1つのパラメータに応じて、前記輸送体の状態データを前記現在の輸送体のコンテキストに相関させるステップ、
前記現在の輸送体の状態データ及び前記現在の輸送体のコンテキストを解析して、1以上の傾向を特定するステップ、
前記現在の輸送体の状態と予期される輸送体の状態との比較に少なくとも部分的に基づいて、オペレータフィードバックを準備するステップであって、前記予期される輸送体の状態が、1以上の記憶された輸送体の状態及び前記1以上の傾向に少なくとも部分的に基づいて導出されるステップ、並びに
ユーザインターフェース(126)を介して、前記準備されたオペレータフィードバックを生成するステップを含む、方法。 - 前記1以上の傾向が、類似する種類の輸送体からの記憶された輸送体の状態データ、記憶された輸送体のコンテキスト、及び記憶された輸送体の状態を使用して特定される、請求項9に記載の方法。
- 前記現在の輸送体の状態データが、輸送体の操縦室内の機器(120)からデータを収集するように構成された複数のカメラ(310)を使用して取得される、請求項10に記載の方法。
- 前記現在の輸送体の状態が、燃料計、温度計、風力計、オドメータ、圧力計、高度計、速度計、対気速度インジケータ、垂直速度インジケータ、コンパス、ジャイロスコープ、姿勢インジケータ、機首方位インジケータ、旋回インジケータ、又は航行システムのうちの少なくとも1つから特定される、請求項10又は11に記載の方法。
- 前記オペレータフィードバックが、前記予期される輸送体の状態と前記現在の輸送体の状態との間の偏差が所定の閾値を超えた場合の警告を含む、請求項10から12のいずれか一項に記載の方法。
- 前記方法が、デジタルファイル内の符号化された情報に少なくとも部分的に基づいて、種々の種類の輸送体に適応させるステップを更に含む、請求項10から13のいずれか一項に記載の方法。
- オフライン機械学習又は傾向解析を支援するように構成されたデータベースサブシステム(122)にアクセスするステップを更に含む、請求項10から14のいずれか一項に記載の方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/159,463 | 2018-10-12 | ||
US16/159,463 US11151810B2 (en) | 2018-10-12 | 2018-10-12 | Adaptable vehicle monitoring system |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020097394A true JP2020097394A (ja) | 2020-06-25 |
JP7306951B2 JP7306951B2 (ja) | 2023-07-11 |
Family
ID=68290158
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019187532A Active JP7306951B2 (ja) | 2018-10-12 | 2019-10-11 | 適応可能輸送体モニタリングシステム |
Country Status (5)
Country | Link |
---|---|
US (1) | US11151810B2 (ja) |
EP (1) | EP3637212B1 (ja) |
JP (1) | JP7306951B2 (ja) |
KR (1) | KR20200042420A (ja) |
CN (1) | CN111046097B (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11586972B2 (en) * | 2018-11-19 | 2023-02-21 | International Business Machines Corporation | Tool-specific alerting rules based on abnormal and normal patterns obtained from history logs |
FR3089951B1 (fr) * | 2018-12-18 | 2022-02-25 | Stelia Aerospace | Systeme de fixation d’une planche de bord d’un poste de pilotage d’un aeronef |
FR3093806B1 (fr) * | 2019-03-15 | 2021-04-02 | Safran Aircraft Engines | Procédé de détection d’une fuite éventuelle de carburant dans un circuit d’huile d’un moteur d’aéronef |
CN114786468A (zh) * | 2019-10-10 | 2022-07-22 | 以色列国家农业部、农村发展农业研究组织 | 通过集成激光及视觉在非结构化及嘈杂环境中用于农业物体检测的人机导引系统 |
US11893907B2 (en) * | 2019-10-14 | 2024-02-06 | Honeywell International Inc. | Systems and methods for evidence-based training of aircraft operators |
US11655047B2 (en) | 2020-10-21 | 2023-05-23 | Honeywell International, Inc. | System and method for monitoring an electronic checklist and supporting sensors |
US20220135243A1 (en) * | 2020-11-05 | 2022-05-05 | Marc Arnold | Electronic flight assistant with optical reading of flight instruments and laser messaging, with optional optical collision avoidance, audio warnings, audio checklists, and other functions |
US20220147905A1 (en) * | 2020-11-12 | 2022-05-12 | Honeywell International Inc. | System and method for assisting flight crew with the execution of clearance messages |
USD953371S1 (en) | 2021-10-22 | 2022-05-31 | BioReference Health, LLC | Display screen or portion thereof with animated graphical user interface |
Family Cites Families (60)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4063073A (en) | 1974-11-29 | 1977-12-13 | Strayer Larry G | Computer system to prevent collision between moving objects such as aircraft moving from one sector to another |
US5157615A (en) | 1990-01-09 | 1992-10-20 | Ryan International Corporation | Aircraft traffic alert and collision avoidance device |
JPH07115677B2 (ja) | 1990-10-30 | 1995-12-13 | 嘉三 藤本 | 航空機の飛行情報記録方法とその装置 |
US7206646B2 (en) * | 1999-02-22 | 2007-04-17 | Fisher-Rosemount Systems, Inc. | Method and apparatus for performing a function in a plant using process performance monitoring with process equipment monitoring and control |
ATE309944T1 (de) | 2000-02-03 | 2005-12-15 | Honeywell Int Inc | Auf ereignisse basierte flugzeugbildsequenz und daten-aufzeichnungssystem |
US6480152B2 (en) | 2000-07-20 | 2002-11-12 | American Gnc Corporation | Integrated GPS/IMU method and microsystem thereof |
FR2821452B1 (fr) | 2001-02-26 | 2003-06-13 | Eads Airbus Sa | Dispositif de surveillance d'une pluralite de systemes d'un aeronef, en particulier d'un avion de transport |
US6604044B1 (en) | 2002-02-14 | 2003-08-05 | The Mitre Corporation | Method for generating conflict resolutions for air traffic control of free flight operations |
US6820006B2 (en) | 2002-07-30 | 2004-11-16 | The Aerospace Corporation | Vehicular trajectory collision conflict prediction method |
ES2375957T3 (es) | 2002-11-11 | 2012-03-07 | Aeromechanical Services Ltd | Sistema de gestión de datos de vuelo de aeronave y método correspondiente. |
US7106219B2 (en) | 2003-11-07 | 2006-09-12 | Pearce James W | Decentralized vehicular traffic status system |
US7193729B1 (en) | 2004-04-29 | 2007-03-20 | Yazaki North America, Inc | Instrument cluster with laser beam illumination |
WO2006011141A2 (en) | 2004-07-25 | 2006-02-02 | Israel Aerospace Industries Ltd. | Method and system for the acquisition of data and for the display of data |
US7437220B2 (en) | 2004-08-17 | 2008-10-14 | Arinc, Inc. | Systems and methods for crew interaction and coordination using portable electronic data storage and display devices |
JP2006151125A (ja) | 2004-11-26 | 2006-06-15 | Omron Corp | 車載用画像処理装置 |
US7848698B2 (en) | 2005-07-22 | 2010-12-07 | Appareo Systems Llc | Flight training and synthetic flight simulation system and method |
FR2888967B1 (fr) * | 2005-07-25 | 2008-05-09 | Airbus Sas | Procede et systeme de modelisation d'une interface entre un utilisateur et son environnement a bord d'un vehicule |
US7650232B1 (en) | 2005-09-22 | 2010-01-19 | The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration (Nasa) | Trajectory specification for high capacity air traffic control |
US8050863B2 (en) | 2006-03-16 | 2011-11-01 | Gray & Company, Inc. | Navigation and control system for autonomous vehicles |
US7624943B2 (en) | 2006-03-22 | 2009-12-01 | The Boeing Company | Multi-mode unmanned and manned vehicle systems and methods |
US8013780B2 (en) | 2007-01-25 | 2011-09-06 | Magna Electronics Inc. | Radar sensing system for vehicle |
US7826943B2 (en) | 2007-04-02 | 2010-11-02 | General Electric Company | Method and system for diagnosing faults in a particular device within a fleet of devices |
WO2008139530A1 (ja) | 2007-04-27 | 2008-11-20 | Honda Motor Co., Ltd. | 車両周辺監視装置、車両周辺監視用プログラム、車両周辺監視方法 |
US8049658B1 (en) | 2007-05-25 | 2011-11-01 | Lockheed Martin Corporation | Determination of the three-dimensional location of a target viewed by a camera |
US20080316010A1 (en) | 2007-06-23 | 2008-12-25 | Appro Technology Inc. | Recording system and method for capturing images of driving conditions and driving images identification method |
US9202098B2 (en) | 2007-08-17 | 2015-12-01 | Textron Innovations Inc. | System for optical recognition, interpretation, and digitization of human readable instruments, annunciators, and controls |
US8290638B2 (en) | 2008-02-04 | 2012-10-16 | Lockheed Martin Corporation | Apparatus, program product, and methods for updating data on embedded control systems |
JP4434296B1 (ja) | 2008-09-05 | 2010-03-17 | トヨタ自動車株式会社 | 物体検出装置 |
US8319665B2 (en) | 2009-02-20 | 2012-11-27 | Appareo Systems, Llc | Adaptive instrument and operator control recognition |
US8319666B2 (en) | 2009-02-20 | 2012-11-27 | Appareo Systems, Llc | Optical image monitoring system and method for vehicles |
US7954965B1 (en) | 2009-04-13 | 2011-06-07 | Yazaki North America, Inc. | Method for multiple gauges in a scanning laser based display device |
US8026827B1 (en) | 2009-05-04 | 2011-09-27 | Yazaki North America, Inc. | Virtual push button switch |
US10002538B2 (en) | 2009-05-14 | 2018-06-19 | Honeywell International Inc. | Aircraft clearance enforcement |
US8521341B2 (en) | 2009-06-26 | 2013-08-27 | Honeywell International Inc. | Methods and systems for fault determination for aircraft |
KR101043450B1 (ko) | 2009-07-31 | 2011-06-21 | 삼성전기주식회사 | 카메라를 이용한 위치와 거리 측정장치 및 위치와 거리 측정방법 |
US8306672B2 (en) | 2009-09-09 | 2012-11-06 | GM Global Technology Operations LLC | Vehicular terrain detection system and method |
US8616884B1 (en) | 2009-12-01 | 2013-12-31 | The Boeing Company | Integrated live and simulation environment system for an aircraft |
US9099009B2 (en) | 2009-12-01 | 2015-08-04 | The Boeing Company | Performance-based simulation system for an aircraft |
CN103154898B (zh) * | 2010-05-14 | 2016-07-06 | 哈尼施费格尔技术公司 | 机器警示的远程监视 |
US20120229469A1 (en) * | 2010-11-08 | 2012-09-13 | Lizotte Todd E | Dynamic 3d analytic tools: a method for maintaining situational awareness during high tempo warfare or mass casualty operations |
US8616883B2 (en) | 2010-12-15 | 2013-12-31 | The Boeing Company | Simulation control system for an integrated live and simulation environment for an aircraft |
JP2013002927A (ja) | 2011-06-15 | 2013-01-07 | Honda Elesys Co Ltd | 障害物検知装置及びコンピュータプログラム |
US8768534B2 (en) | 2011-11-14 | 2014-07-01 | Arinc Incorporated | Method and apparatus for using electronic flight bag (EFB) to enable flight operations quality assurance (FOQA) |
CN202434060U (zh) * | 2011-12-19 | 2012-09-12 | 燕山大学 | 摄像头智能认知感应导航系统 |
US20130197739A1 (en) * | 2012-01-31 | 2013-08-01 | Gulfstream Aerospace Corporation | Methods and systems for aircraft health and trend monitoring |
FR2988836B1 (fr) | 2012-03-28 | 2014-04-25 | Dassault Aviat | Procede de determination d'une masse estimee d'un aeronef et systeme correspondant |
US9052393B2 (en) | 2013-01-18 | 2015-06-09 | Caterpillar Inc. | Object recognition system having radar and camera input |
JP6538644B2 (ja) | 2013-03-15 | 2019-07-03 | ザ・ボーイング・カンパニーThe Boeing Company | ルータの物理的位置に基づくセキュアな経路制御 |
CN105324268A (zh) * | 2013-04-25 | 2016-02-10 | 通用汽车环球科技运作有限责任公司 | 处境获知系统和方法 |
US9557742B2 (en) | 2013-11-27 | 2017-01-31 | Aurora Flight Sciences Corporation | Autonomous cargo delivery system |
CN103714254B (zh) * | 2013-12-27 | 2016-08-17 | 北京航空航天大学 | 飞机驾驶舱信息显示界面布局对飞行员情境意识影响特性的测定系统和方法 |
WO2015179047A1 (en) * | 2014-05-21 | 2015-11-26 | Pcms Holdings, Inc | Methods and systems for contextual adjustment of thresholds of user interestedness for triggering video recording |
FR3023911B1 (fr) | 2014-07-18 | 2018-07-13 | Thales | Traitement des donnees d'un plan de vol |
US9710145B2 (en) | 2014-09-03 | 2017-07-18 | University Of Malta | Human machine interface device for aircraft |
EP3098681B1 (en) | 2015-05-27 | 2020-08-26 | Tata Consultancy Services Limited | Artificial intelligence based health management of host system |
US10431215B2 (en) * | 2015-12-06 | 2019-10-01 | Voicebox Technologies Corporation | System and method of conversational adjustment based on user's cognitive state and/or situational state |
CN105654808A (zh) * | 2016-02-03 | 2016-06-08 | 北京易驾佳信息科技有限公司 | 一种基于实际机动车的机动车驾驶人智能化训练系统 |
US20180099761A1 (en) | 2016-10-10 | 2018-04-12 | The Boeing Company | Real Time Aircraft Stress Monitoring System |
WO2019023322A1 (en) * | 2017-07-27 | 2019-01-31 | SkyRyse, Inc. | SYSTEM AND METHOD FOR SITUATION APPRAISAL, VEHICLE CONTROL AND / OR IMPREVUS PLANNING |
US20200090524A1 (en) * | 2018-09-18 | 2020-03-19 | Lockheed Martin Corporation | Mission management inceptor for multi-use interaction with an autonomous flight system |
-
2018
- 2018-10-12 US US16/159,463 patent/US11151810B2/en active Active
-
2019
- 2019-09-25 CN CN201910912052.9A patent/CN111046097B/zh active Active
- 2019-10-10 EP EP19202595.5A patent/EP3637212B1/en active Active
- 2019-10-11 JP JP2019187532A patent/JP7306951B2/ja active Active
- 2019-10-11 KR KR1020190126153A patent/KR20200042420A/ko not_active Application Discontinuation
Also Published As
Publication number | Publication date |
---|---|
CN111046097A (zh) | 2020-04-21 |
EP3637212B1 (en) | 2023-12-06 |
EP3637212A2 (en) | 2020-04-15 |
CN111046097B (zh) | 2024-02-09 |
US11151810B2 (en) | 2021-10-19 |
EP3637212A3 (en) | 2020-07-29 |
JP7306951B2 (ja) | 2023-07-11 |
US20200118366A1 (en) | 2020-04-16 |
KR20200042420A (ko) | 2020-04-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11693407B2 (en) | Aircrew automation system and method | |
JP7306951B2 (ja) | 適応可能輸送体モニタリングシステム | |
US11378988B2 (en) | Aircrew automation system and method with integrated imaging and force sensing modalities | |
EP3415416B1 (en) | Aircrew automation system | |
JP7355489B2 (ja) | 航空機システムにおいて障害物を検出するためのシステム及び方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221007 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230518 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230530 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230629 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7306951 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |