JP2020057407A - 移動体用の改良型環境表示を生成するためのシステムおよび方法 - Google Patents
移動体用の改良型環境表示を生成するためのシステムおよび方法 Download PDFInfo
- Publication number
- JP2020057407A JP2020057407A JP2019221604A JP2019221604A JP2020057407A JP 2020057407 A JP2020057407 A JP 2020057407A JP 2019221604 A JP2019221604 A JP 2019221604A JP 2019221604 A JP2019221604 A JP 2019221604A JP 2020057407 A JP2020057407 A JP 2020057407A
- Authority
- JP
- Japan
- Prior art keywords
- data
- sensor
- landscape
- video
- combined
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 63
- 230000007613 environmental effect Effects 0.000 title claims description 49
- 238000003384 imaging method Methods 0.000 claims abstract description 18
- 238000012545 processing Methods 0.000 claims description 69
- 230000004927 fusion Effects 0.000 claims description 57
- 238000003860 storage Methods 0.000 claims description 31
- 238000012795 verification Methods 0.000 claims description 30
- 230000015654 memory Effects 0.000 claims description 29
- 230000008569 process Effects 0.000 claims description 27
- 239000002131 composite material Substances 0.000 claims description 9
- 238000010276 construction Methods 0.000 claims description 7
- 230000000007 visual effect Effects 0.000 claims description 7
- 230000004044 response Effects 0.000 claims description 4
- 238000000701 chemical imaging Methods 0.000 claims 3
- 230000004931 aggregating effect Effects 0.000 abstract 1
- 230000006641 stabilisation Effects 0.000 description 18
- 238000011105 stabilization Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 11
- 239000000428 dust Substances 0.000 description 10
- 238000004422 calculation algorithm Methods 0.000 description 9
- 235000019580 granularity Nutrition 0.000 description 7
- 238000001228 spectrum Methods 0.000 description 5
- 238000012360 testing method Methods 0.000 description 5
- 238000001914 filtration Methods 0.000 description 4
- 230000002829 reductive effect Effects 0.000 description 4
- 241000157282 Aesculus Species 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 3
- 235000010181 horse chestnut Nutrition 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000013524 data verification Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000013138 pruning Methods 0.000 description 2
- 239000011435 rock Substances 0.000 description 2
- -1 snow Substances 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 239000011165 3D composite Substances 0.000 description 1
- 208000031968 Cadaver Diseases 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000000712 assembly Effects 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 150000001875 compounds Chemical class 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000005755 formation reaction Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000000779 smoke Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 241000894007 species Species 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
- 238000005303 weighing Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G5/00—Traffic control systems for aircraft, e.g. air-traffic control [ATC]
- G08G5/04—Anti-collision systems
- G08G5/045—Navigation or guidance aids, e.g. determination of anti-collision manoeuvers
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64D—EQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
- B64D43/00—Arrangements or adaptations of instruments
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64D—EQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
- B64D45/00—Aircraft indicators or protectors not otherwise provided for
- B64D45/04—Landing aids; Safety measures to prevent collision with earth's surface
- B64D45/08—Landing aids; Safety measures to prevent collision with earth's surface optical
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64D—EQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
- B64D47/00—Equipment not otherwise provided for
- B64D47/08—Arrangements of cameras
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C23/00—Combined instruments indicating more than one navigational value, e.g. for aircraft; Combined measuring devices for measuring two or more variables of movement, e.g. distance, speed or acceleration
- G01C23/005—Flight directors
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/95—Radar or analogous systems specially adapted for specific applications for meteorological use
- G01S13/953—Radar or analogous systems specially adapted for specific applications for meteorological use mounted on aircraft
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G5/00—Traffic control systems for aircraft, e.g. air-traffic control [ATC]
- G08G5/0017—Arrangements for implementing traffic-related aircraft activities, e.g. arrangements for generating, displaying, acquiring or managing traffic information
- G08G5/0021—Arrangements for implementing traffic-related aircraft activities, e.g. arrangements for generating, displaying, acquiring or managing traffic information located in the aircraft
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G5/00—Traffic control systems for aircraft, e.g. air-traffic control [ATC]
- G08G5/0047—Navigation or guidance aids for a single aircraft
- G08G5/0052—Navigation or guidance aids for a single aircraft for cruising
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G5/00—Traffic control systems for aircraft, e.g. air-traffic control [ATC]
- G08G5/0073—Surveillance aids
- G08G5/0086—Surveillance aids for monitoring terrain
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Aviation & Aerospace Engineering (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Theoretical Computer Science (AREA)
- Electromagnetism (AREA)
- Computer Networks & Wireless Communication (AREA)
- Traffic Control Systems (AREA)
- Radar Systems Or Details Thereof (AREA)
- Processing Or Creating Images (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Image Analysis (AREA)
- Image Generation (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
- Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)
Abstract
Description
本願は米国特許法第119条(e)に則り、米国特許仮出願第62/075,724号(2014年11月05日出願、その全容はこの参照により本開示に含まれる)の利益を請求する。
該当無し。
Claims (32)
- 地勢および障害物を含んだ風景の合成表示を構築するための、機械が実施する方法であって、
(a) 既存の風景データを読み込むステップと、
(b) 一個以上の環境センサーからセンサーデータを受け付けるステップと、
(c) 前記センサーデータを3Dデータ群に変換するステップと、
(d) 前記既存の風景データを、変換された前記センサーデータと融合することで、
多分解能3Dデータ構造体を含んだ結合風景モデルを作成するステップと、
(e) 前記結合風景モデルを映像信号として構成するステップと、
(f) 前記映像信号に応じて風景の映像を表示するステップと
を含む、方法。 - 複数個の環境センサーからセンサーデータが受け付けられ、前記複数個の環境センサーのうちの一個以上が、3D点群データを提供するセンサーであることを特徴とする、請求項1に記載の方法。
- 前記複数個の環境センサーのうちの一個以上が、3D点群データの由来となる2Dセンサーであることを特徴とする、請求項2に記載の方法。
- 前記一個以上の環境センサーが、レーダーセンサー、lidarセンサー、ソナーセンサー、およびビデオカメラのうちの一種以上からなる群から選択される、請求項1に記載の方法。
- 前記センサーデータが、第一の環境センサーおよび第二の環境センサーからのセンサーデータを含み、
さらに
(g) 前記第一の環境センサーおよび前記第二の環境センサーからのセンサーデータの有する特徴群の重み付けを行うことで、前記第一の環境センサーからのセンサーデータの有する特徴および前記第二の環境センサーからのセンサーデータの有する特徴を選択するステップ
を含み、
ここで前記既存の風景データを前記センサーデータと融合するステップが、前記第一の環境センサーからのセンサーデータの有する選択された特徴および前記第二の環境センサーからのセンサーデータの有する選択された特徴を用いる
ことを特徴とする、請求項2に記載の方法。 - 前記結合風景モデルを映像信号として構成するステップが、
前記結合風景モデルを一個以上のカメラからの映像と併合するステップ
を含む
ことを特徴とする、請求項1に記載の方法。 - 前記一個以上のカメラが、可視分光カメラ、ステレオカメラ、赤外カメラ、および分光撮像カメラのうちの一種以上からなる群から選択される、請求項6に記載の方法。
- 前記既存の風景データをセンサーデータと融合するステップが、
前記センサーデータの生成点により近い距離において、前記生成点からより遠い距離においてよりも、高い分解能を与える
ことを特徴とする、請求項1に記載の方法。 - 地勢および障害物を含んだ風景の表示を構築するための方法を実施するための命令を格納している、非一過性の機械可読保存媒体であって、前記命令は機械実行可能コードを含み、前記機械実行可能コードは機械によって実行された際に前記機械に下記の
(a) 既存の風景データをデータベースから読み込むこと、
(b) 一個以上の環境センサーからセンサーデータを3D点群データの形式として受け付けること、
(c) 前記一個以上の環境センサーからの前記センサーデータを、多分解能3Dデータ構造体に変換すること、
(d) 前記既存の風景データを前記センサーデータと融合することで、多分解能3Dデータ構造体を含んだ結合風景モデルを作成すること、
(e) 前記結合風景モデルを構築して2D映像と融合させること
を行わせるものである
ことを特徴とする、機械可読保存媒体。 - 前記一個以上の環境センサーが、レーダーセンサーおよびlidarセンサーのうちの一種以上からなる群から選択されることを特徴とする、請求項9に記載の機械可読保存媒体。
- 前記センサーデータが、第一の環境センサーおよび第二の環境センサーからのセンサーデータを含み、
前記機械実行可能コードは機械によって実行された際に前記機械にさらに下記の
前記第一の環境センサーおよび前記第二の環境センサーからのセンサーデータの特徴を重み付けすることで、前記第一の環境センサーからのセンサーデータの特徴および前記第二の環境センサーからのセンサーデータの特徴を選択することと、
前記第一の環境センサーからのセンサーデータの選択された特徴および前記第二の環境センサーからのセンサーデータの選択された特徴を用いて、前記既存の風景データを前記センサーデータと融合することと
を行わせるものである
ことを特徴とする、請求項10に記載の機械可読保存媒体。 - 前記機械実行可能コードが機械によって実行された際に前記機械にさらに、
前記結合風景モデルを一個以上のカメラからの映像と併合させること
を行わせるものである
ことを特徴とする、請求項9に記載の機械可読保存媒体。 - 前記一個以上のカメラが、可視分光カメラ、ステレオカメラ、赤外カメラ、および分光撮像カメラのうちの一種以上からなる群から選択される、請求項12に記載の機械可読保存媒体。
- 前記既存の風景データを前記センサーデータと融合することにより、前記センサーデータの生成点により近い距離において、前記生成点からより遠い距離においてよりも、高い分解能を与えることを特徴とする、請求項9に記載の機械可読保存媒体。
- 地勢および障害物を含んだ風景の合成表示を構築するためのシステムであって、
地勢データおよび障害物データを含んだ既存の風景データを有する、データ源と、
3D点群の形態でリアルタイムセンサーデータを提供する、環境センサーと、
実行されることで、前記既存の風景データおよび前記リアルタイムセンサーデータに基づき、地勢および障害物を含んだ風景の合成表示を構築する機械実行可能命令の組を格納したメモリーと、
前記メモリーに動作可能に結合したプロセッサと
を含み、
前記プロセッサが、前記機械実行可能命令を実行することで、下記の
(a) 一個以上の環境センサーから得られる前記リアルタイムセンサーデータを、多分解能3Dデータ構造体に変換する工程と、
(b) 前記既存の風景データを前記リアルタイムセンサーデータに融合することで、多分解能3Dデータ構造体を含む結合風景モデルを作成する工程と、
(c) 前記結合風景モデルを構築して2Dビデオ映像と融合することで、前記風景の前記合成表示を表す映像信号を提供する工程と
を行うように構成される
ことを特徴とする、システム。 - 前記環境センサーが、レーダーセンサーおよびlidarセンサーのうちの一種以上からなる群から選択されることを特徴とする、請求項15に記載のシステム。
- さらに
リアルタイムセンサーデータを提供する、第二の環境センサー
を含み、
前記機械実行可能命令の組が、
第一の環境センサーからのセンサーデータが有する一種以上の特徴を、前記第二の環境センサーからのセンサーデータで置換する命令
を含む
ことを特徴とする、請求項15に記載のシステム。 - 前記第一の環境センサーからのセンサーデータが有する一種以上の特徴を置換する命令の実行を行うかを、前記第一の環境センサーからのセンサーデータの品質を、前記第二の環境センサーからのセンサーデータの対応する品質と比較することに基づき、少なくとも部分的に判断することを特徴とする、請求項17に記載のシステム。
- さらに
カメラ
を含み、
前記プロセッサが、前記結合風景モデルを前記カメラからの映像と併合することによって、前記結合風景モデルをディスプレイ上に構築するように構成される
ことを特徴とする、請求項15に記載のシステム。 - 前記カメラが、可視分光カメラ、ステレオカメラ、赤外カメラ、および分光撮像カメラのうちの一種以上からなる群から選択される、請求項19に記載のシステム。
- 進行中の移動体において使用され、前記移動体の近傍の環境の合成映像をリアルタイムに提供するための撮像システムであって、
地勢データおよび障害物データを含んだ既存の風景データを有する、第一のデータ源と、
地勢データおよび障害物データを含んだ3D点群データを提供する、第二のデータ源と、
地勢データおよび障害物データを含んだ2D映像データを提供する、第三のデータ源と、
前記既存の風景データと前記3D点群データと前記2D映像データとを受信して結合することにより、前記3D点群データおよび前記2D映像データによってリアルタイムに更新された前記既存の風景データを含んだ結合風景モデルを作成するように構成された、風景融合モジュールと、
前記結合風景モデルを受信して処理することで、前記結合風景モデルを表す映像信号を作成するように構成された、映像構築モジュールと、
前記映像信号に応じて前記移動体の近傍の環境の仮想視覚を表示するように構成された、視覚表示装置と
を含むことを特徴とする、システム。 - 前記第一のデータ源が、前記既存の風景データを包含するデータベースと、前記既存の風景データを先験的風景データ構造体として得るように構成された第一の処理・分類モジュールとを含み、
前記第二のデータ源が、リアルタイム3D環境センサーと、前記3D点群データを3D風景データ構造体として得るように構成された第二の処理・分類モジュールとを含み、
前記第三のデータ源が、カメラと、前記2D映像データをビデオ映像データ構造体として得るように構成された第三の処理・分類モジュールとを含み、
前記風景融合モジュールが、前記先験的風景データ構造体と前記3D風景データ構造体と前記ビデオ映像データ構造体とを受信して結合するように構成される
ことを特徴とする、請求項21に記載のシステム。 - 前記先験的風景データ構造体が、2D先験的風景データ構造体および3D先験的風景データ構造体を含み、
前記ビデオ映像構造体が、2D風景データ構造体および3D風景データ構造体のうちの少なくとも一方を含む
ことを特徴とする、請求項22に記載のシステム。 - 前記先験的風景データ構造体、前記3D風景データ構造体、および前記ビデオ映像データ構造体のうちの少なくともひとつが、航法データを含むことを特徴とする、請求項22に記載のシステム。
- 前記リアルタイム3D環境センサーが、レーダーセンサーおよびlidarセンサーのうちの一種以上からなる群から選択されることを特徴とする、請求項22に記載のシステム。
- 前記第二のデータ源が、その各々がリアルタイムセンサーデータを3D点群データとして提供する第一のリアルタイム3D環境センサーおよび第二のリアルタイム3D環境センサーを含み、
前記第二の処理・分類モジュールが、前記第一のリアルタイム3D環境センサーおよび第二のリアルタイム3D環境センサーからの3D点群データをそれぞれ、第一の3D風景データ構造体および第二の3D風景データ構造体として得るように構成される
ことを特徴とする、請求項22に記載のシステム。 - 前記風景融合モジュールが、前記第一の3D風景データ構造体の有する少なくとも一種以上の特徴を、前記第二の3D風景データ構造体の有する対応する特徴で置換するように構成されることを特徴とする、請求項26に記載のシステム。
- 前記風景融合モジュールが、前記第一の3D風景データ構造体の品質を、前記第二の3D風景データ構造体の対応する品質と比較するように構成される、請求項27に記載のシステム。
- 前記第一のデータ源が、前記結合風景モデルによって更新可能に構成されている、請求項21に記載のシステム。
- 前記風景融合モジュールが、
(a) 前記第一のデータ源、前記第二のデータ源、および前記第三のデータ源のうちのひとつから、第一の風景データ点群を受信すること、
(b) 前記第一のデータ源、前記第二のデータ源、および前記第三のデータ源のうちの別のひとつから、第二の風景データ点群を受信すること、
(c) 前記第二の風景データ点群の有するデータ点を、前記第一の風景データ点群の有するデータ点に対して検証することで、更新版風景データ点群を作成すること、ならびに
(d) 前記更新版風景データ点群から、前記結合風景モデルを作成すること
を行うように構成されることを特徴とする、請求項21に記載のシステム。 - 前記第一の風景データ点群が、その各々が所定の有効基準を満たしていると判断されているデータ点の組であり、
前記風景融合モジュールが、前記第二の風景データ点群の有するデータ点の各々が前記所定の有効基準を満たしているかどうかを判断することで、前記第二の風景データ点群の有するデータ点の検証を行うように構成される
ことを特徴とする、請求項31に記載のシステム。 - 前記風景融合モジュールがさらに、前記第二の風景データ点群のうち前記所定の有効基準を満たしていると判断されているデータ点のみを使うことで、前記更新版風景データ点群を作成するように構成される、請求項31に記載のシステム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021169056A JP7345533B2 (ja) | 2014-11-05 | 2021-10-14 | 移動体用の改良型環境表示を生成するためのシステムおよび方法 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201462075724P | 2014-11-05 | 2014-11-05 | |
US62/075,724 | 2014-11-05 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017523839A Division JP7345237B2 (ja) | 2014-11-05 | 2015-11-05 | 移動体用の改良型環境表示を生成するためのシステムおよび方法 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021169056A Division JP7345533B2 (ja) | 2014-11-05 | 2021-10-14 | 移動体用の改良型環境表示を生成するためのシステムおよび方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020057407A true JP2020057407A (ja) | 2020-04-09 |
JP6997750B2 JP6997750B2 (ja) | 2022-01-18 |
Family
ID=55909794
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017523839A Active JP7345237B2 (ja) | 2014-11-05 | 2015-11-05 | 移動体用の改良型環境表示を生成するためのシステムおよび方法 |
JP2019221604A Active JP6997750B2 (ja) | 2014-11-05 | 2019-12-06 | 移動体用の改良型環境表示を生成するためのシステムおよび方法 |
JP2021169056A Active JP7345533B2 (ja) | 2014-11-05 | 2021-10-14 | 移動体用の改良型環境表示を生成するためのシステムおよび方法 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017523839A Active JP7345237B2 (ja) | 2014-11-05 | 2015-11-05 | 移動体用の改良型環境表示を生成するためのシステムおよび方法 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021169056A Active JP7345533B2 (ja) | 2014-11-05 | 2021-10-14 | 移動体用の改良型環境表示を生成するためのシステムおよび方法 |
Country Status (4)
Country | Link |
---|---|
US (3) | US10410531B2 (ja) |
EP (2) | EP3805706B1 (ja) |
JP (3) | JP7345237B2 (ja) |
WO (1) | WO2016073698A1 (ja) |
Families Citing this family (46)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3805706B1 (en) * | 2014-11-05 | 2022-05-18 | Sierra Nevada Corporation | Systems and methods for generating improved environmental displays for vehicles |
US10410398B2 (en) * | 2015-02-20 | 2019-09-10 | Qualcomm Incorporated | Systems and methods for reducing memory bandwidth using low quality tiles |
GB2543749A (en) * | 2015-10-21 | 2017-05-03 | Nokia Technologies Oy | 3D scene rendering |
EP3174007A1 (en) | 2015-11-30 | 2017-05-31 | Delphi Technologies, Inc. | Method for calibrating the orientation of a camera mounted to a vehicle |
US10126136B2 (en) | 2016-06-14 | 2018-11-13 | nuTonomy Inc. | Route planning for an autonomous vehicle |
US10309792B2 (en) | 2016-06-14 | 2019-06-04 | nuTonomy Inc. | Route planning for an autonomous vehicle |
US11092446B2 (en) | 2016-06-14 | 2021-08-17 | Motional Ad Llc | Route planning for an autonomous vehicle |
US10829116B2 (en) | 2016-07-01 | 2020-11-10 | nuTonomy Inc. | Affecting functions of a vehicle based on function-related information about its environment |
WO2018009109A1 (en) * | 2016-07-07 | 2018-01-11 | Saab Ab | Displaying system and method for displaying a perspective view of the surrounding of an aircraft in an aircraft |
US11092690B1 (en) * | 2016-09-22 | 2021-08-17 | Apple Inc. | Predicting lidar data using machine learning |
US10857994B2 (en) | 2016-10-20 | 2020-12-08 | Motional Ad Llc | Identifying a stopping place for an autonomous vehicle |
US10473470B2 (en) | 2016-10-20 | 2019-11-12 | nuTonomy Inc. | Identifying a stopping place for an autonomous vehicle |
US10681513B2 (en) | 2016-10-20 | 2020-06-09 | nuTonomy Inc. | Identifying a stopping place for an autonomous vehicle |
US10331129B2 (en) | 2016-10-20 | 2019-06-25 | nuTonomy Inc. | Identifying a stopping place for an autonomous vehicle |
EP4035943B1 (en) * | 2016-11-01 | 2023-08-30 | Panasonic Intellectual Property Corporation of America | Display method and display device |
US10281920B2 (en) | 2017-03-07 | 2019-05-07 | nuTonomy Inc. | Planning for unknown objects by an autonomous vehicle |
US10095234B2 (en) | 2017-03-07 | 2018-10-09 | nuTonomy Inc. | Planning for unknown objects by an autonomous vehicle |
US10234864B2 (en) * | 2017-03-07 | 2019-03-19 | nuTonomy Inc. | Planning for unknown objects by an autonomous vehicle |
US10599931B2 (en) * | 2017-08-21 | 2020-03-24 | 2236008 Ontario Inc. | Automated driving system that merges heterogenous sensor data |
US10852419B2 (en) * | 2017-10-20 | 2020-12-01 | Texas Instruments Incorporated | System and method for camera radar fusion |
EP3724868A4 (en) * | 2017-12-14 | 2021-08-11 | Saab Ab | VIEWING SYSTEM AND METHOD FOR REPRESENTING IMAGES FROM THE SURROUNDING AREA OF AN AIRCRAFT IN AN VIEWING SYSTEM |
CN108319655B (zh) * | 2017-12-29 | 2021-05-07 | 百度在线网络技术(北京)有限公司 | 用于生成栅格地图的方法和装置 |
EP3534333A1 (en) * | 2018-02-28 | 2019-09-04 | Aptiv Technologies Limited | Method for calibrating the position and orientation of a camera relative to a calibration pattern |
US10854011B2 (en) * | 2018-04-09 | 2020-12-01 | Direct Current Capital LLC | Method for rendering 2D and 3D data within a 3D virtual environment |
US11106208B2 (en) | 2018-07-10 | 2021-08-31 | Imam Abdulrahman Bin Faisal University | Building quality inspection system and inspection robot |
US11823461B1 (en) | 2018-09-28 | 2023-11-21 | Direct Current Capital LLC | Systems and methods for perceiving a scene around a mobile device |
US11037453B2 (en) * | 2018-10-12 | 2021-06-15 | Aurora Flight Sciences Corporation | Adaptive sense and avoid system |
US11346950B2 (en) * | 2018-11-19 | 2022-05-31 | Huawei Technologies Co., Ltd. | System, device and method of generating a high resolution and high accuracy point cloud |
US11099270B2 (en) * | 2018-12-06 | 2021-08-24 | Lumineye, Inc. | Thermal display with radar overlay |
US10984664B2 (en) * | 2018-12-13 | 2021-04-20 | The Boeing Company | System for determining potential landing sites for aircraft prior to landing assist device deployment |
CN113597534B (zh) * | 2019-03-26 | 2023-07-25 | 松下知识产权经营株式会社 | 测距成像系统、测距成像方法和程序 |
US11280897B2 (en) * | 2019-03-31 | 2022-03-22 | Waymo Llc | Radar field of view extensions |
IL267211A (en) | 2019-06-10 | 2019-08-29 | Elbit Systems Ltd | System and method for video display |
US11109010B2 (en) * | 2019-06-28 | 2021-08-31 | The United States of America As Represented By The Director Of The National Geospatial-Intelligence Agency | Automatic system for production-grade stereo image enhancements |
US11153010B2 (en) * | 2019-07-02 | 2021-10-19 | Waymo Llc | Lidar based communication |
US11703859B2 (en) * | 2019-07-05 | 2023-07-18 | Liebherr Mining Equipment Newport News Co. | Method for autonomously controlling a vehicle |
US11544899B2 (en) | 2019-10-15 | 2023-01-03 | Toyota Research Institute, Inc. | System and method for generating terrain maps |
GB2588637A (en) * | 2019-10-30 | 2021-05-05 | Daimler Ag | Method of determining cells in a multiple resolution grid |
JP7459560B2 (ja) | 2020-02-27 | 2024-04-02 | 株式会社デンソー | 物体検知装置 |
IL275198B2 (en) * | 2020-06-08 | 2024-07-01 | Elbit Systems Ltd | Systems and methods for guiding landing and cross-country flight |
US11733054B2 (en) | 2020-12-11 | 2023-08-22 | Motional Ad Llc | Systems and methods for implementing occlusion representations over road features |
CN113392796A (zh) * | 2021-06-29 | 2021-09-14 | 广州小鹏汽车科技有限公司 | 显示方法、显示装置、车辆和计算机可读存储介质 |
TWI800140B (zh) * | 2021-12-06 | 2023-04-21 | 致伸科技股份有限公司 | 監控方法 |
CN114526725B (zh) * | 2022-02-21 | 2023-11-24 | 山东新一代信息产业技术研究院有限公司 | 一种基于系统级芯片的超融合导航系统 |
US11766938B1 (en) * | 2022-03-23 | 2023-09-26 | GM Global Technology Operations LLC | Augmented reality head-up display for overlaying a notification symbol over a visually imperceptible object |
WO2024110295A1 (en) * | 2022-11-22 | 2024-05-30 | Continental Autonomous Mobility Germany GmbH | Environment perception system and method for perceiving an environment of a vehicle |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070171094A1 (en) * | 2006-01-20 | 2007-07-26 | Keith Alter | Real-time, three-dimensional synthetic vision display of sensor-validated terrain data |
JP2010175329A (ja) * | 2009-01-28 | 2010-08-12 | Mitsubishi Electric Corp | 車載情報装置 |
Family Cites Families (41)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3614935B2 (ja) * | 1995-06-20 | 2005-01-26 | オリンパス株式会社 | 三次元画像計測装置 |
JP3375258B2 (ja) * | 1996-11-07 | 2003-02-10 | 株式会社日立製作所 | 地図表示方法及び装置並びにその装置を備えたナビゲーション装置 |
JP2000111635A (ja) * | 1998-08-04 | 2000-04-21 | Japan Radio Co Ltd | 3次元レ―ダ装置 |
JP3669205B2 (ja) * | 1999-05-17 | 2005-07-06 | 日産自動車株式会社 | 障害物認識装置 |
US6317690B1 (en) | 1999-06-28 | 2001-11-13 | Min-Chung Gia | Path planning, terrain avoidance and situation awareness system for general aviation |
EP1405270A1 (en) * | 2001-07-06 | 2004-04-07 | Goodrich Avionics Systems, Inc. | System and method for synthetic vision terrain display |
US6678588B2 (en) * | 2002-04-12 | 2004-01-13 | Honeywell International Inc. | Terrain augmented 3D flight path display for flight management systems |
EP1567988A1 (en) | 2002-10-15 | 2005-08-31 | University Of Southern California | Augmented virtual environments |
FR2848662B1 (fr) * | 2002-12-17 | 2005-03-04 | Thales Sa | Dispositif d'affichage pour equipement anticollision terrain embarque a bord d'aeronef |
US7305396B2 (en) * | 2002-12-31 | 2007-12-04 | Robert Bosch Gmbh | Hierarchical system and method for on-demand loading of data in a navigation system |
US7148861B2 (en) * | 2003-03-01 | 2006-12-12 | The Boeing Company | Systems and methods for providing enhanced vision imaging with decreased latency |
CA2521179C (en) | 2003-03-31 | 2014-02-11 | Sikorsky Aircraft Corporation | Technical design concepts to improve helicopter obstacle avoidance and operations in "brownout" conditions |
US20050089213A1 (en) * | 2003-10-23 | 2005-04-28 | Geng Z. J. | Method and apparatus for three-dimensional modeling via an image mosaic system |
US7436405B2 (en) * | 2004-05-14 | 2008-10-14 | Microsoft Corporation | Terrain rendering using nested regular grids |
US7495582B2 (en) * | 2005-03-08 | 2009-02-24 | Northrop Grumman Corporation | Geographic information storage, transmission and display system |
US7375678B2 (en) * | 2005-06-29 | 2008-05-20 | Honeywell International, Inc. | Displaying obstacles in perspective view |
US20080158256A1 (en) * | 2006-06-26 | 2008-07-03 | Lockheed Martin Corporation | Method and system for providing a perspective view image by intelligent fusion of a plurality of sensor data |
US7925117B2 (en) | 2006-06-27 | 2011-04-12 | Honeywell International Inc. | Fusion of sensor data and synthetic data to form an integrated image |
US8185301B1 (en) * | 2006-07-26 | 2012-05-22 | Honeywell International Inc. | Aircraft traffic awareness system and methods |
US7456779B2 (en) * | 2006-08-31 | 2008-11-25 | Sierra Nevada Corporation | System and method for 3D radar image rendering |
WO2008153597A1 (en) * | 2006-12-06 | 2008-12-18 | Honeywell International, Inc. | Methods, apparatus and systems for enhanced synthetic vision and multi-sensor data fusion to improve operational capabilities of unmanned aerial vehicles |
US8049644B1 (en) * | 2007-04-17 | 2011-11-01 | Rcokwell Collins, Inc. | Method for TAWS depiction on SVS perspective displays |
US7609200B1 (en) * | 2007-05-29 | 2009-10-27 | Rockwell Collins, Inc. | Radar derived perspective display system |
US8977491B1 (en) * | 2007-09-06 | 2015-03-10 | Rockwell Collins, Inc. | System and method for verifying displayed terrain information |
US7675461B1 (en) * | 2007-09-18 | 2010-03-09 | Rockwell Collins, Inc. | System and method for displaying radar-estimated terrain |
US9041915B2 (en) * | 2008-05-09 | 2015-05-26 | Ball Aerospace & Technologies Corp. | Systems and methods of scene and action capture using imaging system incorporating 3D LIDAR |
FR2935824B1 (fr) * | 2008-09-09 | 2010-09-03 | Thales Sa | Dispositif de visualisation pour aeronef comprenant des moyens d'affichage d'aeronefs presentant un risque de collision |
GB2477065B (en) | 2008-11-05 | 2012-09-26 | Neptec Design Group Ltd | Return pulse shape analysis for falling edge object discrimination of aerosol lidar |
US8466874B1 (en) * | 2009-02-10 | 2013-06-18 | Rockwell Collins, Inc. | System and method for graphical rendering of point primitives |
US8264379B2 (en) * | 2009-03-10 | 2012-09-11 | Honeywell International Inc. | Methods and systems for correlating data sources for vehicle displays |
JP5468426B2 (ja) * | 2010-03-12 | 2014-04-09 | 日立オートモティブシステムズ株式会社 | ステレオカメラ装置 |
DE102010022726B4 (de) | 2010-06-04 | 2019-05-16 | Hensoldt Sensors Gmbh | Vorrichtung zur Darstellung von Gelände auf einer Anzeigevorrichtung eines Flugkörpers |
US8466915B1 (en) * | 2010-06-15 | 2013-06-18 | Google Inc. | Fusion of ground-based facade models with 3D building models |
US8493241B2 (en) * | 2010-11-30 | 2013-07-23 | Honeywell International Inc. | Systems, methods and computer readable media for displaying multiple overlaid images to a pilot of an aircraft during flight |
US8825391B1 (en) * | 2011-08-04 | 2014-09-02 | Google Inc. | Building elevation maps from laser data |
US9347792B2 (en) | 2011-10-31 | 2016-05-24 | Honeywell International Inc. | Systems and methods for displaying images with multi-resolution integration |
US8698654B2 (en) * | 2011-12-28 | 2014-04-15 | Honeywell International Inc. | System and method for selecting images to be displayed |
US9633272B2 (en) * | 2013-02-15 | 2017-04-25 | Yahoo! Inc. | Real time object scanning using a mobile phone and cloud-based visual search engine |
US8892358B2 (en) | 2013-03-14 | 2014-11-18 | Robert Bosch Gmbh | System and method for distortion correction in three-dimensional environment visualization |
EP3805706B1 (en) * | 2014-11-05 | 2022-05-18 | Sierra Nevada Corporation | Systems and methods for generating improved environmental displays for vehicles |
US9434480B2 (en) * | 2015-01-13 | 2016-09-06 | Honeywell International Inc. | Display systems and methods for generating a display providing runway illusion alleviation |
-
2015
- 2015-11-05 EP EP20210940.1A patent/EP3805706B1/en active Active
- 2015-11-05 JP JP2017523839A patent/JP7345237B2/ja active Active
- 2015-11-05 WO PCT/US2015/059209 patent/WO2016073698A1/en active Application Filing
- 2015-11-05 EP EP15857930.0A patent/EP3215808B1/en active Active
- 2015-11-05 US US15/520,780 patent/US10410531B2/en active Active
-
2019
- 2019-07-25 US US16/522,243 patent/US11056012B2/en active Active
- 2019-12-06 JP JP2019221604A patent/JP6997750B2/ja active Active
-
2021
- 2021-07-01 US US17/365,565 patent/US11682314B2/en active Active
- 2021-10-14 JP JP2021169056A patent/JP7345533B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070171094A1 (en) * | 2006-01-20 | 2007-07-26 | Keith Alter | Real-time, three-dimensional synthetic vision display of sensor-validated terrain data |
JP2010175329A (ja) * | 2009-01-28 | 2010-08-12 | Mitsubishi Electric Corp | 車載情報装置 |
Also Published As
Publication number | Publication date |
---|---|
EP3805706B1 (en) | 2022-05-18 |
US20170345321A1 (en) | 2017-11-30 |
JP6997750B2 (ja) | 2022-01-18 |
US10410531B2 (en) | 2019-09-10 |
JP2022003592A (ja) | 2022-01-11 |
JP2018506700A (ja) | 2018-03-08 |
EP3215808B1 (en) | 2021-01-06 |
US20210335139A1 (en) | 2021-10-28 |
US11056012B2 (en) | 2021-07-06 |
EP3805706A1 (en) | 2021-04-14 |
US11682314B2 (en) | 2023-06-20 |
JP7345533B2 (ja) | 2023-09-15 |
EP3215808A4 (en) | 2018-07-11 |
US20190355266A1 (en) | 2019-11-21 |
WO2016073698A1 (en) | 2016-05-12 |
EP3215808A1 (en) | 2017-09-13 |
JP7345237B2 (ja) | 2023-09-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7345533B2 (ja) | 移動体用の改良型環境表示を生成するためのシステムおよび方法 | |
Wen et al. | GNSS NLOS exclusion based on dynamic object detection using LiDAR point cloud | |
US9715016B2 (en) | Real time multi dimensional image fusing | |
US7630797B2 (en) | Accuracy enhancing system for geospatial collection value of an image sensor aboard an airborne platform and associated methods | |
EP2850455B1 (en) | Point cloud visualization of acceptable helicopter landing zones based on 4d lidar | |
US7528938B2 (en) | Geospatial image change detecting system and associated methods | |
US7603208B2 (en) | Geospatial image change detecting system with environmental enhancement and associated methods | |
US8433457B2 (en) | Environmental condition detecting system using geospatial images and associated methods | |
Sabirova et al. | Ground profile recovery from aerial 3d lidar-based maps | |
CN109341685B (zh) | 一种基于单应变换的固定翼飞机视觉辅助着陆导航方法 | |
Ulziisaikhan et al. | UAV and terrestrial laser scanner data processing for large scale topographic mapping | |
US20240168166A1 (en) | Processing LiDAR Data | |
Charalampopoulou et al. | 3D city model using LiDAR and digital color imagery in Kalochori region | |
Skarlatos et al. | Investigating influence of UAV flight patterns in multi-stereo view DSM accuracy | |
Liu et al. | Runway detection during approach and landing based on image fusion | |
Michaud | Influence of complex environments on lidar-based robot navigation | |
Vasić et al. | The importance of Mobile laser scanning in the collection of road infrastructure data | |
Mohammed | In vehicle smartphone based position estimates on urban roads for lane departures using road level GIS information | |
Guerrero-Bañales et al. | Use of LiDAR for Negative Obstacle Detection: A Thorough Review | |
Harouni et al. | A Review of Application of LiDAR and Geospatial Modeling for Detection of Buildings Using Artificial Intelligence Approaches | |
Harris et al. | Use of Machine Learning to Create a Database of Wires for Helicopter Wire Strike Prevention | |
Divak | Simulated SAR with GIS data and pose estimation using affine projection |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191206 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191206 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210126 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210419 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20210615 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211014 |
|
C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20211014 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20211025 |
|
C21 | Notice of transfer of a case for reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C21 Effective date: 20211026 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211124 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211217 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6997750 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |