JP2023106536A - 画像分析に基づく車両ナビゲーションのためのシステム - Google Patents

画像分析に基づく車両ナビゲーションのためのシステム Download PDF

Info

Publication number
JP2023106536A
JP2023106536A JP2023084528A JP2023084528A JP2023106536A JP 2023106536 A JP2023106536 A JP 2023106536A JP 2023084528 A JP2023084528 A JP 2023084528A JP 2023084528 A JP2023084528 A JP 2023084528A JP 2023106536 A JP2023106536 A JP 2023106536A
Authority
JP
Japan
Prior art keywords
vehicle
road
navigation system
image
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023084528A
Other languages
English (en)
Inventor
レヴィ、イシェイ
Levi Ishay
ツヴィ、アサフ バー
Bar Zvi Asaf
シュワルツ、ヨナタン
Schwartz Yonatan
シーゲル、アーロン
Siegel Aaron
シャンビク、ヤーコヴ
Shambik Yaakov
チトリト、オハド
Chitrit Ohad
マラック、エラン
Malach Eran
クフラ、ダン
Kufra Dan
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mobileye Vision Technologies Ltd
Original Assignee
Mobileye Vision Technologies Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mobileye Vision Technologies Ltd filed Critical Mobileye Vision Technologies Ltd
Publication of JP2023106536A publication Critical patent/JP2023106536A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3605—Destination input or retrieval
    • G01C21/3608—Destination input or retrieval using speech input, e.g. using speech recognition
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/28—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/3629—Guidance using speech or audio output, e.g. text-to-speech
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/3658—Lane guidance
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3679—Retrieval, searching and output of POI information, e.g. hotels, restaurants, shops, filling stations, parking facilities
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04—Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
    • B60R2011/0001—Arrangements for holding or mounting articles, not otherwise provided for characterised by position
    • B60R2011/0003—Arrangements for holding or mounting articles, not otherwise provided for characterised by position inside the vehicle
    • B60R2011/0026—Windows, e.g. windscreen
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo or light sensitive means, e.g. infrared sensors
    • B60W2420/403—Image sensing, e.g. optical camera
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/40—Dynamic objects, e.g. animals, windblown objects
    • B60W2554/402—Type
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/40—Dynamic objects, e.g. animals, windblown objects
    • B60W2554/402—Type
    • B60W2554/4026—Cycles
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/40—Dynamic objects, e.g. animals, windblown objects
    • B60W2554/404—Characteristics
    • B60W2554/4043—Lateral speed
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/80—Spatial relation or speed relative to objects
    • B60W2554/801—Lateral distance
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B60W60/0027—Planning or execution of driving tasks using trajectory prediction for other traffic participants
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10004—Still image; Photographic image
    • G06T2207/10012—Stereo images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/08—Detecting or categorising vehicles

Abstract

Figure 2023106536000001
【課題】車両ナビゲーションのためのシステム及び方法を提供する。
【解決手段】１つの実装形態では、少なくとも１つの処理デバイスは、ホスト車両のカメラから、ホスト車両の環境を表す少なくとも１つの捕捉された画像を受信し得る。処理デバイスは、少なくとも１つの捕捉された画像の１つ又は複数のピクセルを分析して、１つ又は複数のピクセルが目標車両の少なくとも一部を表すか否かを判断し得る。目標車両の少なくとも一部を表すと判断されたピクセルの場合、処理デバイスは、１つ又は複数のピクセルから目標車両の表面の少なくとも１つの端部までの１つ又は複数の推定距離値を判断し、１つ又は複数のピクセルに関連付けられた判断された１つ又は複数の距離値を含む、１つ又は複数のピクセルの分析に基づいて、目標車両に対する境界の少なくとも一部を生成し得る。
【選択図】図２７

Description

関連出願の相互参照
本出願は、２０１９年５月２４日に提出された米国仮特許出願第６２，８５２，７６１号、２０２０年１月３日に出願された米国仮特許出願第６２／９５７，００９号、及び２０２０年２月１３日に出願された米国仮特許出願第６２／９７６，０５９号の優先権の利益を主張するものである。上記の出願は、全て参照によりその全体が本明細書に援用される。
本開示は、概して、自律車両ナビゲーションに関する。
技術が進化し続けるにつれ、道路上でナビゲート可能な完全自律車両という目標が現実味を帯びてきている。自律車両は、様々な要因を考慮する必要があり得て、それらの要因に基づいて意図される目的地に安全且つ正確に到達するのに適切な判断を下し得る。例えば、自律車両は、視覚的情報（例えば、カメラから捕捉される情報）を処理して解釈する必要があり得ると共に、他のソース（例えば、ＧＰＳデバイス、速度センサ、加速度計、サスペンションセンサ等）から得られる情報を使用することもある。同時に、目的地にナビゲートするために、自律車両は、特定の道路（例えば、複数レーン道路内の特定のレーン）内の自らの位置を識別し、他の車両と並んでナビゲートし、障害物及び歩行者を回避し、交通信号及び標識を観測し、適切な交差点又はインターチェンジである道路から別の道路に移動する必要もあり得る。自律車両が目的地まで走行するときに、自律車両によって収集された膨大な量の情報を利用して解釈することは、設計上の多くの課題をもたらす。自律車両が分析、アクセス、及び／又は保存する必要があり得る膨大な量のデータ（例えば、捕捉された画像データ、マップデータ、ＧＰＳデータ、センサデータ等）は、実際には自律ナビゲーションに制限又は悪影響を与える可能性のある課題をもたらす。更に、自律車両が従来のマッピング技術に依存してナビゲートする場合、マップの保存及び更新に必要な膨大な量のデータは、困難な課題をもたらす。
本開示による実施形態は、自律車両ナビゲーションのシステム及び方法を提供する。開示される実施形態は、カメラを使用して、自律車両ナビゲーション特徴を提供し得る。例えば、本開示の実施形態によれば、開示されるシステムは、車両の環境を監視する１つ、２つ又は３つ以上のカメラを含み得る。開示されるシステムは、例えば、カメラの１つ又は複数により捕捉された画像の分析に基づいて、ナビゲーション応答を提供し得る。
１つの実施形態では、ホスト車両のためのナビゲーションシステムは、少なくとも１つのプロセッサを備え得る。プロセッサは、ホスト車両のカメラから、ホスト車両の環境を表す少なくとも１つの捕捉された画像を受信し、少なくとも１つの捕捉された画像の１つ又は複数のピクセルを分析して、１つ又は複数のピクセルが目標車両の少なくとも一部を表しているか否かを判断するようにプログラムされ得る。目標車両の少なくとも一部を表すと判断されたピクセルの場合、プロセッサは、１つ又は複数のピクセルから目標車両の表面の少なくとも１つの端部までの１つ又は複数の推定距離値を決定し得る。更に、プロセッサは、１つ又は複数のピクセルに関連付けられた判断された１つ又は複数の距離値を含む、１つ又は複数のピクセルの分析に基づいて、目標車両に対する境界の少なくとも一部を生成し得る。
１つの実施形態では、ホスト車両のためのナビゲーションシステムは、少なくとも１つのプロセッサを備え得る。プロセッサは、ホスト車両のカメラから、ホスト車両の環境を表す少なくとも１つの捕捉された画像を受信し、少なくとも１つの捕捉された画像の１つ又は複数のピクセルを分析して、１つ又は複数のピクセルが目標車両を表すか否かを判断するようにプログラムされ得て、目標車両の少なくとも一部は、少なくとも１つの捕捉された画像内に表されない。プロセッサは、ホスト車両から目標車両までの推定距離を決定するように更に構成され得て、推定距離は、少なくとも部分的に、少なくとも１つの捕捉された画像内に表されていない目標車両の一部に基づく。
１つの実施形態では、ホスト車両のためのナビゲーションシステムは、少なくとも１つのプロセッサを備え得る。プロセッサは、ホスト車両のカメラから、ホスト車両の環境を表す少なくとも１つの捕捉された画像を受信し、少なくとも１つの捕捉された画像の２つ以上のピクセルを分析して、２つ以上のピクセルが第１の目標車両の少なくとも一部及び第２の目標車両の少なくとも一部を表しているか否かを判断するようにプログラムされ得る。プロセッサは、第２の目標車両の一部が、第１の目標車両の表面上の反射の表現に含まれることを決定するようにプログラムされ得る。プロセッサは、２つ以上のピクセルの分析及び第２の目標車両の一部が第１の目標車両の表面上の反射の表現に含まれるという決定に基づいて、第１の目標車両に対する境界の少なくとも一部を生成し、第２の目標車両に対する境界を生成しないように更にプログラムされ得る。
１つの実施形態では、ホスト車両のためのナビゲーションシステムは、少なくとも１つのプロセッサを備え得る。プロセッサは、ホスト車両のカメラから、ホスト車両の環境を表す少なくとも１つの捕捉された画像を受信し、少なくとも１つの捕捉された画像の２つ以上のピクセルを分析して、２つ以上のピクセルが第１の目標車両の少なくとも一部及び第２の目標車両の少なくとも一部を表しているか否かを判断するようにプログラムされ得る。プロセッサは、第２の目標車両が第１の目標車両によって運ばれるか、又は牽引されるかを判断するようにプログラムされ得る。プロセッサは、２つ以上のピクセルの分析及び第２の目標車両が第１の目標車両によって運ばれるか、又は牽引されるかの判断に基づいて、第１の目標車両に対する境界の少なくとも一部を生成し、第２の目標車両に対する境界を生成しないように更にプログラムされ得る。
１つの実施形態では、ホスト車両のためのナビゲーションシステムは、少なくとも１つのプロセッサを備え得る。プロセッサは、ホスト車両のカメラから、ホスト車両の環境を表す第１の捕捉された画像を受信し、第１の捕捉された画像の１つ又は複数のピクセルを分析して、１つ又は複数のピクセルが目標車両の少なくとも一部を表しているか否かを判断するようにプログラムされ得る。目標車両の少なくとも一部を表すと判断されたピクセルの場合、プロセッサは、１つ又は複数のピクセルから目標車両の表面の少なくとも１つの端部までの１つ又は複数の推定距離値を決定し得る。プロセッサは、第１の捕捉された画像の１つ又は複数のピクセルに関連付けられた判断された１つ又は複数の距離値を含む、第１の捕捉された画像の１つ又は複数のピクセルの分析に基づいて、目標車両に対する第１の境界の少なくとも一部を生成するようにプログラムされ得る。プロセッサは、ホスト車両のカメラから、ホスト車両の環境を表す第２の捕捉された画像を受信し、第２の捕捉された画像の１つ又は複数のピクセルを分析して、１つ又は複数のピクセルが目標車両の少なくとも一部を表しているか否かを判断するように更にプログラムされ得る。目標車両の少なくとも一部を表すと判断されたピクセルの場合、プロセッサは、１つ又は複数のピクセルから目標車両の表面の少なくとも１つの端部までの１つ又は複数の推定距離値を決定し得る。プロセッサは、第２の捕捉された画像の１つ又は複数のピクセルに関連付けられた判断された１つ又は複数の距離値を含む、第２の捕捉された画像の１つ又は複数のピクセルの分析に基づいて、及び第１の境界に基づいて、目標車両に対する第２の境界の少なくとも一部を生成するようにプログラムされ得る。
１つの実施形態では、ホスト車両のためのナビゲーションシステムは、少なくとも１つのプロセッサを備え得る。プロセッサは、ホスト車両のカメラから、ホスト車両の環境から捕捉された２つ以上の画像を受信し、２つ以上の画像を分析して、第１の物体の少なくとも一部の表現及び第２の物体の少なくとも一部の表現を識別するようにプログラムされ得る。プロセッサは、第１の物体及び第１の物体のタイプに関連付けられた少なくとも１つの画像の第１の領域を決定し、第２の物体及び第２の物体のタイプに関連付けられた少なくとも１つの画像の第２の領域を決定し得て、第１の物体のタイプは、第２の物体のタイプとは異なる。
１つの実施形態では、ホスト車両のためのナビゲーションシステムは、少なくとも１つのプロセッサを備え得る。プロセッサは、ホスト車両のカメラから、ホスト車両の環境から捕捉された少なくとも１つの画像を受信し、少なくとも１つの画像を分析して、第１の物体の少なくとも一部の表現及び第２の物体の少なくとも一部の表現を識別するようにプログラムされ得る。プロセッサは、分析に基づいて、第１の物体のジオメトリの少なくとも１つの態様及び第２の物体のジオメトリの少なくとも１つの態様を決定するようにプログラムされ得る。更に、プロセッサは、第１の物体のジオメトリの少なくとも１つの態様に基づいて、第１の物体の表現を含む少なくとも１つの画像の領域に関連付けられた第１のラベルを生成し、第２の物体のジオメトリの少なくとも１つの態様に基づいて、第２の物体の表現を含む少なくとも１つの画像の領域に関連付けられた第２のラベルを生成するようにプログラムされ得る。
開示される他の実施形態によれば、非一時的コンピュータ可読記憶媒体は、少なくとも１つの処理デバイスにより実行され、且つ本明細書に記載される任意の方法を実行するプログラム命令を記憶し得る。
上述した概説及び以下に詳述する説明は、単に例示的及び説明的なものであり、特許請求の範囲の限定ではない。
本開示に組み込まれ、本明細書の一部をなす添付図面は、開示される様々な実施形態を示す。
開示される実施形態による例示的なシステムの図表現である。
開示される実施形態によるシステムを含む例示的な車両の側面図表現である。
開示される実施形態による図２Ａに示す車両及びシステムの上面図表現である。
開示される実施形態によるシステムを含む車両の別の実施形態の上面図表現である。
開示される実施形態によるシステムを含む車両の更に別の実施形態の上面図表現である。
開示される実施形態によるシステムを含む車両の更に別の実施形態の上面図表現である。
開示される実施形態による例示的な車両制御システムの図表現である。
バックミラーと、開示される実施形態による車両撮像システムのユーザインタフェースとを含む車両の内部の図表現である。
開示される実施形態による、バックミラーの背後に、車両フロントガラスと対向して位置決めされるように構成されるカメラマウントの例の図である。
開示される実施形態による、異なる視点からの図３Ｂに示すカメラマウントの図である。
開示される実施形態による、バックミラーの背後に、車両フロントガラスと対向して位置決めされるように構成されるカメラマウントの例の図である。
開示される実施形態による１つ又は複数の動作を実行する命令を記憶するように構成されるメモリの例示的なブロック図である。
開示される実施形態による、単眼画像分析に基づいて１つ又は複数のナビゲーション応答を生じさせる例示的なプロセスを示すフローチャートである。
開示される実施形態による、画像の組内の１つ又は複数の車両及び／又は歩行者を検出する例示的なプロセスを示すフローチャートである。
開示される実施形態による、画像の組内の道路マーク及び／又はレーンジオメトリ情報を検出する例示的なプロセスを示すフローチャートである。
開示される実施形態による、画像の組内の信号機を検出する例示的なプロセスを示すフローチャートである。
開示される実施形態による、車両経路に基づいて１つ又は複数のナビゲーション応答を生じさせる例示的なプロセスのフローチャートである。
開示される実施形態による、先行車両がレーンを変更中であるか否かを特定する例示的なプロセスを示すフローチャートである。
開示される実施形態による、立体画像分析に基づいて１つ又は複数のナビゲーション応答を生じさせる例示的なプロセスを示すフローチャートである。
開示される実施形態による、３組の画像の分析に基づいて１つ又は複数のナビゲーション応答を生じさせる例示的なプロセスを示すフローチャートである。
開示される実施形態による、自律車両ナビゲーションを提供するための疎なマップを示す。
開示される実施形態による、道路区分の部分の多項式表現を示す。
開示される実施形態による、疎なマップに含まれる、特定の道路区分についての車両の目標軌道を表す３次元空間内の曲線を示す。
開示される実施形態による、疎なマップに含まれ得る陸標の例を示す。
開示される実施形態による、軌道の多項式表現を示す。
開示される実施形態による、複数レーン道路に沿った目標軌道を示す。 開示される実施形態による、複数レーン道路に沿った目標軌道を示す。
開示される実施形態による、例示的な道路シグネチャプロファイルを示す。
開示される実施形態による、自律車両ナビゲーションのために複数の車両から受信されるクラウドソーシングデータを使用するシステムの概略図である。
開示される実施形態による、複数の３次元スプラインによって表される例示的な自律車両道路ナビゲーションモデルを示す。
開示される実施形態による、多くの走行からの位置情報を組み合わせることから生成されるマップスケルトンを示す。
開示される実施形態による、陸標としての例示的な標識による２つの走行の縦方向の整列の例を示す。
開示される実施形態による、陸標としての例示的な標識による多くの走行の縦方向の整列の例を示す。
開示される実施形態による、カメラ、車両、及びサーバを使用して走行データを生成するためのシステムの概略図である。
開示される実施形態による、疎なマップをクラウドソーシングするためのシステムの概略図である。
開示される実施形態による、道路区分に沿った自律車両ナビゲーションのための疎なマップを生成するための例示的なプロセスを示すフローチャートである。
開示される実施形態による、サーバのブロック図を示す。
開示される実施形態による、メモリのブロック図を示す。
開示される実施形態による、車両に関連付けられた車両軌道をクラスタ化するプロセスを示す。
開示される実施形態による、自律ナビゲーションに使用され得る車両のためのナビゲーションシステムを示す。
開示される実施形態による、検出され得る例示的なレーンマークを示す。 開示される実施形態による、検出され得る例示的なレーンマークを示す。 開示される実施形態による、検出され得る例示的なレーンマークを示す。 開示される実施形態による、検出され得る例示的なレーンマークを示す。
開示される実施形態による、例示的なマッピングされたレーンマークを示す。
開示される実施形態による、レーンマークの検出に関連付けられた例示的な異常を示す。
開示される実施形態による、マッピングされたレーンマークに基づくナビゲーションのための車両の周囲環境の例示的な画像を示す。
開示される実施形態による、道路ナビゲーションモデルにおけるマッピングされたレーンマークに基づく車両の横方向の位置特定補正を示す。
開示される実施形態による、自律車両ナビゲーションで使用するためのレーンマークをマッピングするための例示的なプロセスを示すフローチャートである。
開示される実施形態による、マッピングされたレーンマークを使用して、道路区分に沿ってホスト車両を自律的にナビゲートするための例示的なプロセスを示すフローチャートである。
開示される実施形態による、目標車両に関連付けられたピクセルに対して実行される分析の例を示す。
開示される実施形態による、車両の部分的表現を含む例示的な画像の図である。
開示される実施形態による、キャリア上の車両を示す例示的な画像の図である。
開示される実施形態による、車両の反射を含む例示的な画像を示す。 開示される実施形態による、車両の反射を含む例示的な画像を示す。
開示される実施形態による、画像内のピクセルの分析に基づいてホスト車両をナビゲートするための例示的なプロセスを示すフローチャートである。
開示される実施形態による、画像内の車両の部分的表現に基づいてホスト車両をナビゲートするための例示的なプロセスを示すフローチャートである。
開示される実施形態による、車両反射を含む画像内のピクセルの分析に基づいてホスト車両をナビゲートするための例示的なプロセスを示すフローチャートである。
開示される実施形態による、運ばれる車両を含む画像内のピクセルの分析に基づいてホスト車両をナビゲートするための例示的なプロセスを示すフローチャートである。
開示される実施形態による、一連の画像内のピクセルの分析に基づいてホスト車両をナビゲートするための例示的なプロセスを示すフローチャートである。
開示される実施形態による、実行され得る例示的な画像分類を示す。 開示される実施形態による、実行され得る例示的な画像分類を示す。
開示される実施形態による、画像内のピクセルの分析に基づいてホスト車両をナビゲートするための例示的なプロセスを示すフローチャートである。
開示される実施形態による、物体のラベル情報を含むデータベースの例を示す。
開示される実施形態による、物体のラベル及びジオメトリに基づいてホスト車両をナビゲートするための例示的なプロセスを示すフローチャートである。
以下の詳細な説明は、添付図面を参照する。可能な場合には常に、図面及び以下の説明において、同じ又は同様の部分を指すのに同じ参照番号が使用される。幾つかの例示的な実施形態は、本明細書で説明されるが、変更形態、適応形態及び他の実装形態が可能である。例えば、図面に示す構成要素に対する置換形態、追加形態又は変更形態がなされ得て、本明細書に記載される例示的な方法は、開示される方法のステップの置換、順序替え、削除又は追加により変更することができる。従って、以下の詳細な説明は、開示される実施形態及び例に限定されない。その代わり、適切な範囲は、添付の特許請求の範囲により規定される。
自律車両の概要
本開示の全体を通して使用するとき、「自律車両」という用語は、ドライバーの入力なしで少なくとも１つのナビゲーション変更を実施することができる車両を指す。「ナビゲーション変更」は、車両の操舵、ブレーキ、又は加速の１つ又は複数の変更を指す。自律的であるために、車両は、完全に自動である（例えば、ドライバー又はドライバー入力なしに完全に動作する）必要はない。むしろ、自律車両は、特定の時間期間中にドライバーの制御下で動作し、他の時間期間中にドライバーの制御なしで動作することができる車両を含む。自律車両は、（例えば、車両レーン制約間に車両コースを維持するために）操舵等の車両ナビゲーションの幾つかの側面のみを制御するが、他の側面（例えば、ブレーキ）をドライバーに任せ得る車両を含むこともできる。幾つかの場合、自律車両は、車両のブレーキ、速度制御及び／又は操舵の一部又は全部の側面を扱い得る。
人間のドライバーは、通常、車両を制御するために視覚的手掛かり及び観測に依存することから、交通基盤は、それに従って構築されており、レーンマーク、交通標識及び信号機は、視覚的情報を全てドライバーに提供するように設計されている。交通基盤のこれらの設計特徴に鑑みて、自律車両は、カメラと、車両の環境から捕捉される視覚的情報を分析する処理ユニットとを含み得る。視覚的情報は、例えば、ドライバーにより観測可能な交通基盤の構成要素（例えば、レーンマーク、交通標識、信号機等）及び他の障害物（例えば、他の車両、歩行者、瓦礫等）を含み得る。更に、自律車両は、ナビゲート時、車両の環境のモデルを提供する情報等の記憶される情報を使用することもできる。例えば、車両は、ＧＰＳデータ、センサデータ（例えば、加速度計、速度センサ、サスペンションセンサ等からの）及び／又は他のマップデータを使用して、車両が走行している間、車両の環境に関連する情報を提供し得て、車両（及び他の車両）は情報を使用して、モデルでのそれ自体の位置を特定し得る。
本開示の幾つかの実施形態では、自律車両は、ナビゲート中に（例えば、カメラ、ＧＰＳデバイス、加速度計、速度センサ、サスペンションセンサ等から）得られた情報を使用し得る。他の実施形態では、自律車両は、ナビゲート中に、車両（又は他の車両）による過去のナビゲーションから得られた情報を使用し得る。更に他の実施形態では、自律車両は、ナビゲート中に得られた情報と過去のナビゲーションから得られた情報との組み合わせを使用し得る。以下の節は、開示される実施形態によるシステムの概要を提供し、続いて、そのシステムによる前向きの撮像システム及び方法の概要を提供する。以下の節では、自律車両ナビゲーションのための疎なマップを構築、使用、及び更新するためのシステム及び方法について開示される。
システム概要
図１は、開示される例示的な実施形態によるシステム１００のブロック図表現である。システム１００は、特定の実施要件に応じて様々な構成要素を含み得る。幾つかの実施形態では、システム１００は、処理ユニット１１０、画像取得ユニット１２０、位置センサ１３０、１つ又は複数のメモリユニット１４０、１５０、マップデータベース１６０、ユーザインタフェース１７０及び無線送受信機１７２を含み得る。処理ユニット１１０は、１つ又は複数の処理デバイスを含み得る。幾つかの実施形態では、処理ユニット１１０は、アプリケーションプロセッサ１８０、画像プロセッサ１９０又は任意の他の適切な処理デバイスを含み得る。同様に、画像取得ユニット１２０は、特定の用途の要件に応じて任意の数の画像取得デバイス及び構成要素を含み得る。幾つかの実施形態では、画像取得ユニット１２０は、画像捕捉デバイス１２２、画像捕捉デバイス１２４、画像捕捉デバイス１２６等の１つ又は複数の画像捕捉デバイス（例えば、カメラ）を含み得る。システム１００は、処理デバイス１１０を画像取得デバイス１２０に通信可能に接続するデータインタフェース１２８を含むこともできる。例えば、データインタフェース１２８は、画像取得デバイス１２０によって取得される画像データを処理ユニット１１０に伝送するための１つ又は複数の任意の有線リンク及び／又は無線リンクを含み得る。
無線送受信機１７２は、無線周波数、赤外線周波数、磁場又は電場の使用により無線インタフェースを介して伝送を１つ又は複数のネットワーク（例えば、セルラやインターネット等）と交換するように構成される１つ又は複数のデバイスを含み得る。無線送受信機１７２は、任意の既知の標準を使用してデータを送信及び／又は受信し得る（例えば、Ｗｉ－Ｆｉ（登録商標）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、Ｂｌｕｅｔｏｏｔｈ Ｓｍａｒｔ、８０２．１５．４、ＺｉｇＢｅｅ（登録商標）等）。かかる伝送は、ホスト車両から１つ又は複数の遠隔設置されるサーバへの通信を含み得る。かかる伝送は、（例えば、ホスト車両の環境内の目標車両を考慮して又はかかる目標車両と共にホスト車両のナビゲーションの調整を促進するための）ホスト車両とホスト車両の環境内の１つ又は複数の目標車両との間の（単方向又は双方向）通信、更に伝送側の車両の付近にある未指定の受け手へのブロードキャスト伝送も含み得る。
アプリケーションプロセッサ１８０及び画像プロセッサ１９０の両方は、様々なタイプの処理デバイスを含み得る。例えば、アプリケーションプロセッサ１８０及び画像プロセッサ１９０のいずれか一方又は両方は、マイクロプロセッサ、プリプロセッサ（画像プリプロセッサ等）、グラフィックスプロセッシングユニット（ＧＰＵ）、中央演算処理装置（ＣＰＵ）、サポート回路、デジタル信号プロセッサ、集積回路、メモリ又はアプリケーションを実行し、画像を処理して分析するのに適する任意の他のタイプのデバイスを含み得る。幾つかの実施形態では、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０は、任意のタイプのシングルコア又はマルチコアプロセッサ、モバイルデバイスマイクロコントローラ、中央演算処理装置等を含み得る。例えば、Ｉｎｔｅｌ（登録商標）、ＡＭＤ（登録商標）等の製造業者から入手可能なプロセッサ、又はＮＶＩＤＩＡ（登録商標）、ＡＴＩ（登録商標）等の製造業者から入手可能なＧＰＵを含め、様々な処理デバイスが使用可能であり、様々なアーキテクチャ（例えば、ｘ８６プロセッサ、ＡＲＭ（登録商標）等）を含み得る。
幾つかの実施形態では、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０は、Ｍｏｂｉｌｅｙｅ（登録商標）から入手可能な任意のＥｙｅＱシリーズのプロセッサを含み得る。これらのプロセッサ設計は、それぞれローカルメモリ及び命令セットを有する複数の処理ユニットを含む。そのようなプロセッサは、複数の画像センサから画像データを受信するビデオ入力を含み得ると共に、ビデオ出力機能を含むこともできる。一例では、ＥｙｅＱ２（登録商標）は、３３２ＭＨｚで動作する９０ｎｍ－ミクロン技術を使用する。ＥｙｅＱ２（登録商標）アーキテクチャは、２つの浮動小数点ハイパースレッド３２ビットＲＩＳＣ ＣＰＵ（ＭＩＰＳ３２（登録商標）３４Ｋ（登録商標）コア）、５つのビジョン計算エンジン（ＶＣＥ）、３つのベクトルマイクロコードプロセッサ（ＶＭＰ（登録商標））、Ｄｅｎａｌｉ６４ビットモバイルＤＤＲコントローラ、１２８ビット内部音響相互接続、デュアル１６ビットビデオ入力及び１８ビットビデオ出力コントローラ、１６チャネルＤＭＡ及び幾つかの周辺機器からなる。ＭＩＰＳ３４Ｋ ＣＰＵは、５つのＶＣＥ、３つのＶＭＰ（商標）及びＤＭＡ、第２のＭＩＰＳ３４Ｋ ＣＰＵ及びマルチチャネルＤＭＡ並びに他の周辺機器を管理する。５つのＶＣＥ、３つのＶＭＰ（登録商標）及びＭＩＰＳ３４Ｋ ＣＰＵは、多機能バンドルアプリケーションにより要求される集中的なビジョン計算を実行することができる。別の例では、開示される実施形態において、第３世代プロセッサであり、ＥｙｅＱ２（登録商標）よりも６倍強力なＥｙｅＱ３（登録商標）を使用し得る。他の例では、ＥｙｅＱ４（登録商標）及び／又はＥｙｅＱ５（登録商標）を開示される実施形態で使用することができる。当然ながら、それよりも新しい又は将来のＥｙｅＱ処理デバイスは、開示される実施形態と共に使用され得る。
本明細書で開示される処理デバイスのいずれも特定の機能を実行するように構成することができる。記載のＥｙｅＱプロセッサ又は他のコントローラもしくはマイクロプロセッサのいずれか等の処理デバイスを、特定の機能を実行するように構成することは、コンピュータ実行可能命令をプログラムし、処理デバイスの動作中に実行するためにそれらの命令を処理デバイスに提供することを含み得る。幾つかの実施形態では、処理デバイスを構成することは、処理デバイスにアーキテクチャ的命令を直接プログラムすることを含み得る。例えば、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、特定用途向け集積回路（ＡＳＩＣ）等の処理デバイス等は、例えば、１つ又は複数のハードウェア記述言語（ＨＤＬ）を使用して構成され得る。
他の実施形態では、処理デバイスを構成することは、動作中に処理デバイスがアクセス可能なメモリ上に実行可能命令を記憶することを含み得る。例えば、処理デバイスは、動作中にメモリにアクセスして、記憶される命令を取得及び実行し得る。いずれにせよ、本明細書で開示される検知、画像分析及び／又はナビゲーション機能を実行するように構成される処理デバイスは、ホスト車両の複数のハードウェアベースの構成要素を制御する専用のハードウェアベースのシステムを表す。
図１は、処理ユニット１１０に含まれる２つの別個の処理デバイスを示すが、より多数又はより少数の処理デバイスを使用することもできる。例えば、幾つかの実施形態では、単一の処理デバイスを使用して、アプリケーションプロセッサ１８０及び画像プロセッサ１９０のタスクを達成し得る。他の実施形態では、これらのタスクは、３つ以上の処理デバイスにより実行され得る。更に、幾つかの実施形態では、システム１００は、画像取得ユニット１２０等の他の構成要素を含まず、処理ユニット１１０の１つ又は複数を含み得る。
処理ユニット１１０は、様々なタイプのデバイスを含み得る。例えば、処理ユニット１１０は、コントローラ、画像プリプロセッサ、中央演算処理装置（ＣＰＵ）、グラフィックスプロセッシングユニット（ＧＰＵ）、サポート回路、デジタル信号プロセッサ、集積回路、メモリ又は画像を処理し分析する任意の他のタイプのデバイス等の様々なデバイスを含み得る。画像プリプロセッサは、画像センサから画像を捕捉し、デジタル化し、処理するビデオプロセッサを含み得る。ＣＰＵは、任意の数のマイクロコントローラ又はマイクロプロセッサを含み得る。ＧＰＵはまた、任意の数のマイクロコントローラ又はマイクロプロセッサを含み得る。サポート回路は、キャッシュ、電源、クロック及び入出力回路を含め、当技術分野で一般に周知の任意の数の回路であり得る。メモリは、プロセッサにより実行されると、システムの動作を制御するソフトウェアを記憶し得る。メモリは、データベース及び画像処理ソフトウェアを含み得る。メモリは、任意の数のランダムアクセスメモリ、読み取り専用メモリ、フラッシュメモリ、ディスクドライブ、光学記憶装置、テープ記憶装置、リムーバブル記憶装置及び他のタイプの記憶装置を含み得る。一例では、メモリは、処理ユニット１１０とは別個であり得る。別の例では、メモリは、処理ユニット１１０に統合し得る。
各メモリ１４０、１５０は、プロセッサ（例えば、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０）によって実行されるとき、システム１００の様々な態様の動作を制御し得るソフトウェア命令を含み得る。これらのメモリユニットは、様々なデータベース及び画像処理ソフトウェア並びに例えばニューラルネットワーク又はディープニューラルネットワーク等のトレーニングされたシステムを含み得る。メモリユニットは、ランダムアクセスメモリ（ＲＡＭ）、読み取り専用メモリ（ＲＯＭ）、フラッシュメモリ、ディスクドライブ、光学記憶装置、テープ記憶装置、リムーバブル記憶装置及び／又は任意の他のタイプの記憶装置を含み得る。幾つかの実施形態では、メモリユニット１４０、１５０は、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０とは別個であり得る。他の実施形態では、これらのメモリユニットは、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０に統合され得る。
位置センサ１３０は、システム１００の少なくとも１つの構成要素に関連付けられた位置を特定するのに適する任意のタイプのデバイスを含み得る。幾つかの実施形態では、位置センサ１３０はＧＰＳ受信機を含み得る。そのような受信機は、全地球測位システム衛星によりブロードキャストされる信号を処理することにより、ユーザの位置及び速度を特定することができる。位置センサ１３０からの位置情報は、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０に提供し得る。
幾つかの実施形態では、システム１００は、車両２００の速度を測定するための速度センサ（例えば、回転速度計、速度計）及び／又は車両２００の加速度を測定するための加速度計（単軸又は多軸のいずれか）等の構成要素を含み得る。
ユーザインタフェース１７０は、情報を提供するか、又はシステム１００の１人もしくは複数のユーザから入力を受信するのに適する任意のデバイスを含み得る。幾つかの実施形態では、ユーザインタフェース１７０は、例えば、タッチスクリーン、マイクロフォン、キーボード、ポインタデバイス、トラックホィール、カメラ、つまみ、ボタン等を含め、ユーザ入力デバイスを含み得る。そのような入力デバイスを用いて、ユーザは、命令もしくは情報をタイプし、音声コマンドを提供し、ボタン、ポインタもしくは目追跡機能を使用して、又は情報をシステム１００に通信する任意の他の適する技法を通して画面上のメニュー選択肢を選択することにより、システム１００に情報入力又はコマンドを提供可能であり得る。
ユーザインタフェース１７０は、ユーザに情報を提供するか、又はユーザから情報を受信し、例えばアプリケーションプロセッサ１８０による使用のためにその情報を処理するように構成される１つ又は複数の処理デバイスを備え得る。幾つかの実施形態では、そのような処理デバイスは、目の動きを認識して追跡する命令、音声コマンドを受信して解釈する命令、タッチスクリーンで行われたタッチ及び／又はジェスチャを認識して解釈する命令、キーボード入力又はメニュー選択に応答する命令等を実行し得る。幾つかの実施形態では、ユーザインタフェース１７０は、ディスプレイ、スピーカ、触覚デバイス及び／又は出力情報をユーザに提供する任意の他のデバイスを含み得る。
マップデータベース１６０は、システム１００にとって有用なマップデータを記憶する任意のタイプのデータベースを含み得る。幾つかの実施形態では、マップデータベース１６０は、道路、水特徴、地理的特徴、ビジネス、関心点、レストラン、ガソリンスタンド等を含め、様々な項目の、基準座標系での位置に関連するデータを含み得る。マップデータベース１６０は、そのような項目の位置のみならず、例えば記憶される特徴のいずれかに関連付けられた名称を含め、それらの項目に関連する記述子も記憶し得る。幾つかの実施形態では、マップデータベース１６０は、システム１００の他の構成要素と共に物理的に配置し得る。代替又は追加として、マップデータベース１６０又はその一部は、システム１００の他の構成要素（例えば、処理ユニット１１０）に関して遠隔に配置し得る。そのような実施形態では、マップデータベース１６０からの情報は、有線又は無線データ接続を介してネットワークにダウンロードし得る（例えば、セルラネットワーク及び／又はインターネット等を介して）。幾つかの場合、マップデータベース１６０は、特定の道路の特徴（例えば、レーンマーク）又はホスト車両の目標軌道の多項式表現を含む疎なデータモデルを記憶し得る。そのようなマップを生成するシステム及び方法については、図８～図１９を参照して以下で論じる。
画像捕捉デバイス１２２、１２４及び１２６は、それぞれ環境から少なくとも１つの画像を捕捉するのに適する任意のタイプのデバイスを含み得る。更に、任意の数の画像捕捉デバイスを使用して、画像プロセッサに入力する画像を取得し得る。幾つかの実施形態は、単一の画像捕捉デバイスのみを含み得て、他の実施形態は、２つ、３つ、更には４つ以上の画像捕捉デバイスを含み得る。画像捕捉デバイス１２２、１２４及び１２６については、図２Ｂ～図２Ｅを参照して更に以下に説明する。
システム１００又はシステム１００の様々な構成要素は、様々な異なるプラットフォームに組み込み得る。幾つかの実施形態では、システム１００は図２Ａに示すように、車両２００に含め得る。例えば、車両２００は、図１に関して上述したように、処理ユニット１１０及びシステム１００の任意の他の構成要素を備え得る。幾つかの実施形態では、車両２００は単一の画像捕捉デバイス（例えば、カメラ）のみを備え得て、図２Ｂ～図２Ｅに関連して考察した実施形態等の他の実施形態では、複数の画像捕捉デバイスが使用可能である。例えば、図２Ａに示すように、車両２００の画像捕捉デバイス１２２及び１２４のいずれかは、ＡＤＡＳ（最新ドライバー支援システム）撮像セットの一部であり得る。
画像取得ユニット１２０の一部として車両２００に含まれる画像捕捉デバイスは、任意の適する位置に位置決めし得る。幾つかの実施形態では、図２Ａ～図２Ｅ及び図３Ａ～図３Ｃに示すように、画像捕捉デバイス１２２は、バックミラーの近傍に配置決めし得る。この位置は、車両２００のドライバーと同様の視線を提供し得て、ドライバーにとって何が見え、何が見えないかの判断を支援し得る。画像捕捉デバイス１２２は、バックミラーの近傍の任意の位置に位置し得るが、画像捕捉デバイス１２２をミラーのドライバー側に配置することは、ドライバーの視野及び／又は視線を表す画像の取得を更に支援し得る。
画像取得ユニット１２０の画像捕捉デバイスに他の位置を使用することもできる。例えば、画像捕捉デバイス１２４は、車両２００のバンパー上又はバンパー内に配置し得る。そのような位置は、広視野を有する画像捕捉デバイスに特に適し得る。バンパーに配置される画像捕捉デバイスの視線は、ドライバーの視線と異なることができ、従って、バンパー画像捕捉デバイス及びドライバーは、同じ物体を常に見ているわけではない。画像捕捉デバイス（例えば、画像捕捉デバイス１２２、１２４及び１２６）は、他の位置に配置することもできる。例えば、画像捕捉デバイスは、車両２００のサイドミラーの一方又は両方、車両２００のルーフ、車両２００のフード、車両２００のトランク、車両２００の側部に配置し得て、車両２００の任意のウィンドウに搭載、背後に位置決め又は前方に位置決めし得て、車両２００の前部及び／又は後部のライト内又はその近傍等に搭載し得る。
画像捕捉デバイスに加えて、車両２００は、システム１００の様々な他の構成要素を含み得る。例えば、処理ユニット１１０は、車両のエンジン制御ユニット（ＥＣＵ）に統合されるか、又はＥＣＵとは別個に車両２００に含まれ得る。車両２００には、ＧＰＳ受信機等の位置センサ１３０を備えることもでき、車両２００は、マップデータベース１６０並びにメモリユニット１４０及び１５０を含むこともできる。
上述したように、無線送受信機１７２は、１つ又は複数のネットワーク（例えば、セルラネットワーク、インターネット等）を介してデータを及び／又は受信し得る。例えば、無線送受信機１７２は、システム１００により収集されるデータを１つ又は複数のサーバにアップロードし、データを１つ又は複数のサーバからダウンロードし得る。無線送受信機１７２を介して、システム１００は、例えば、定期的に又は需要時にマップデータベース１６０、メモリ１４０及び／又はメモリ１５０に記憶されるデータへの更新を受信し得る。同様に、無線送受信機１７２は、システム１００からの任意のデータ（例えば、画像取得ユニット１２０により捕捉された画像、位置センサ１３０、他のセンサ又は車両制御システムにより受信されるデータ等）及び／又は処理ユニット１１０により処理される任意のデータを１つ又は複数のサーバにアップロードし得る。
システム１００は、プライバシーレベル設定に基づいてデータをサーバ（例えば、クラウド）にアップロードし得る。例えば、システム１００は、サーバに送信される、車両及び／又は車両のドライバー／所有者を一意に識別し得るタイプのデータ（メタデータを含む）を規制又は制限するプライバシーレベル設定を実施し得る。そのような設定は、例えば、無線送受信機１７２を介してユーザにより設定され得るか、工場デフォルト設定により初期化され得るか、又は無線送受信機１７２により受信されるデータにより設定され得る。
幾つかの実施形態では、システム１００は、「高」プライバシーレベルに従ってデータをアップロードし得て、設定の設定下において、システム１００は、特定の車両及び／又はドライバー／所有者についてのいかなる詳細もないデータ（例えば、ルートに関連する位置情報、捕捉された画像等）を送信し得る。例えば、「高」プライバシーレベルに従ってデータをアップロードする場合、システム１００は、車両識別番号（ＶＩＮ）又は車両のドライバーもしくは所有者の氏名を含まず、代わりに、捕捉された画像及び／又はルートに関連する限られた位置情報等のデータを送信し得る。
他のプライバシーレベルが意図される。例えば、システム１００は、「中」プライバシーレベルに従ってデータをサーバに送信し得て、車両及び／又は車両タイプのメーカー及び／又はモデル（例えば、乗用車、スポーツユーティリティ車、トラック等）等の「高」プライバシーレベル下では含まれない追加情報を含み得る。幾つかの実施形態では、システム１００は、「低」プライバシーレベルに従ってデータをアップロードし得る。「低」プライバシーレベル設定下では、システム１００は、特定の車両、所有者／ドライバー及び／又は車両が走行したルートの一部又は全体を一意に識別するのに十分なデータをアップロードし、そのような情報を含み得る。そのような「低」プライバシーレベルデータは、例えば、ＶＩＮ、ドライバー／所有者氏名、出発前の車両の出発点、車両の意図される目的地、車両のメーカー及び／又はモデル、車両のタイプ等の１つ又は複数を含み得る。
図２Ａは、開示される実施形態による例示的な車両撮像システムの側面図表現である。図２Ｂは、図２Ａに示す実施形態の上面図表現である。図２Ｂに示すように、開示される実施形態は、バックミラーの近傍及び／又は車両２００のドライバー近傍に位置決めされる第１の画像捕捉デバイス１２２と、車両２００のバンパー領域（例えば、バンパー領域２１０の１つ）上又はバンパー領域内に位置決めされる第２の画像捕捉デバイス１２４と、処理ユニット１１０とを有するシステム１００を本体内に含む車両２００を含み得る。
図２Ｃに示すように、画像捕捉デバイス１２２及び１２４の両方は、車両２００のバックミラーの近傍及び／又はドライバーの近傍に位置決めし得る。更に、２つの画像捕捉デバイス１２２及び１２４が図２Ｂ及び図２Ｃに示されているが、他の実施形態が３つ以上の画像捕捉デバイスを含み得ることを理解されたい。例えば、図２Ｄ及び図２Ｅに示す実施形態では、第１の画像捕捉デバイス１２２、第２の画像捕捉デバイス１２４及び第３の画像捕捉デバイス１２６が車両２００のシステム１００に含まれる。
図２Ｄに示すように、画像捕捉デバイス１２２は、車両２００のバックミラーの近傍及び／又はドライバーの近傍に位置決めし得て、画像捕捉デバイス１２４及び１２６は、車両２００のバンパー領域（例えば、バンパー領域２１０の１つ）上に位置決めし得る。また、図２Ｅに示すように、画像捕捉デバイス１２２、１２４及び１２６は、車両２００のバックミラーの近傍及び／又はドライバーシートの近傍に位置決めし得る。開示される実施形態は、いかなる特定の数及び構成の画像捕捉デバイスにも限定されず、画像捕捉デバイスは、車両２００内及び／又は車両２００上の任意の適する位置に位置決めし得る。
開示される実施形態が車両に限定されず、他の状況でも適用可能なことを理解されたい。開示される実施形態が特定のタイプの車両２００に限定されず、自動車、トラック、トレーラ及び他のタイプの車両を含む全てのタイプの車両に適用可能であり得ることも理解されたい。
第１の画像捕捉デバイス１２２は、任意の適するタイプの画像捕捉デバイスを含み得る。画像捕捉デバイス１２２は光軸を含み得る。一例では、画像捕捉デバイス１２２は、グローバルシャッタを有するＡｐｔｉｎａ Ｍ９Ｖ０２４ ＷＶＧＡセンサを含み得る。他の実施形態では、画像捕捉デバイス１２２は、１２８０×９６０ピクセルの解像度を提供し得て、ローリングシャッタを含み得る。画像捕捉デバイス１２２は、様々な光学要素を含み得る。幾つかの実施形態では、１枚又は複数枚のレンズが含まれて、例えば画像捕捉デバイスの所望の焦点距離及び視野を提供し得る。幾つかの実施形態では、画像捕捉デバイス１２２に６ｍｍレンズ又は１２ｍｍレンズを関連付け得る。幾つかの実施形態では、画像捕捉デバイス１２２は、図２Ｄに示すように、所望の視野（ＦＯＶ）２０２を有する画像を捕捉するように構成し得る。例えば、画像捕捉デバイス１２２は、４６度ＦＯＶ、５０度ＦＯＶ、５２度ＦＯＶ又は５２度ＦＯＶを超える度数を含め、４０度～５６度の範囲内等の通常のＦＯＶを有するように構成し得る。代替的には、画像捕捉デバイス１２２は、２８度ＦＯＶ又は３６度ＦＯＶ等の２３～４０度の範囲の狭いＦＯＶを有するように構成し得る。加えて、画像捕捉デバイス１２２は、１００～１８０度の範囲の広いＦＯＶを有するように構成し得る。幾つかの実施形態では、画像捕捉デバイス１２２は、広角バンパーカメラ又は最高で１８０度ＦＯＶを有するバンパーカメラを含み得る。幾つかの実施形態では、画像捕捉デバイス１２２は、約１００度の水平ＦＯＶを有するアスペクト比約２：１（例えば、Ｈ×Ｖ＝３８００×１９００ピクセル）の７．２Ｍピクセル画像捕捉デバイスであり得る。そのような画像捕捉デバイスは、３次元画像捕捉デバイス構成の代わりに使用し得る。大きいレンズ歪みに起因して、そのような画像捕捉デバイスの垂直ＦＯＶは、画像捕捉デバイスが半径方向に対称なレンズを使用する実装形態では、５０度よりはるかに低くなり得る。例えば、そのようなレンズは、半径方向で対称ではなく、それにより、水平ＦＯＶ１００度で、５０度よりも大きい垂直ＦＯＶが可能である。
第１の画像捕捉デバイス１２２は、車両２００に関連付けられたシーンに対して複数の第１の画像を取得し得る。複数の第１の画像は、それぞれ一連の画像走査線として取得し得て、これらはローリングシャッタを使用して捕捉し得る。各走査線は複数のピクセルを含み得る。
第１の画像捕捉デバイス１２２は、第１の一連の画像走査線のそれぞれの取得に関連付けられた走査率を有し得る。走査率は、画像センサが、特定の走査線に含まれる各ピクセルに関連付けられた画像データを取得することができる率を指し得る。
画像捕捉デバイス１２２、１２４及び１２６は、例えば、ＣＣＤセンサ又はＣＭＯＳセンサを含め、任意の適するタイプ及び数の画像センサを含み得る。１つの実施形態では、ＣＭＯＳ画像センサはローリングシャッタと共に利用し得て、それにより、行内の各ピクセルは一度に１つずつ読み取られ、行の走査は、画像フレーム全体が捕捉されるまで行ごとに進められる。幾つかの実施形態では、行は、フレームに対して上から下に順次捕捉し得る。
幾つかの実施形態では、本明細書に開示される画像捕捉デバイス（例えば、画像捕捉デバイス１２２、１２４及び１２６）の１つ又は複数は、高解像度イメージャを構成し得て、５Ｍピクセル超、７Ｍピクセル超、１０Ｍピクセル超又はそれを超える解像度を有し得る。
ローリングシャッタの使用により、異なる行内のピクセルは異なる時間に露出され捕捉されることになり得て、それにより、スキュー及び他の画像アーチファクトが捕捉された画像フレームで生じ得る。一方、画像捕捉デバイス１２２がグローバル又は同期シャッタを用いて動作するように構成される場合、全ピクセルは、同量の時間にわたり、共通の露出期間中に露出し得る。その結果、グローバルシャッタを利用するシステムから収集されるフレーム内の画像データは、特定のときのＦＯＶ全体（ＦＯＶ２０２等）のスナップショットを表す。それとは逆に、ローリングシャッタを適用する場合、フレーム内の各行が露出され、データは異なる時間に捕捉される。従って、移動中の物体は、ローリングシャッタを有する画像捕捉デバイスでは歪んで見えることがある。この現象について以下により詳細に説明する。
第２の画像捕捉デバイス１２４及び第３の画像捕捉デバイス１２６は、任意のタイプの画像捕捉デバイスであり得る。第１の画像捕捉デバイス１２２のように、画像捕捉デバイス１２４及び１２６のそれぞれは、光軸を含み得る。１つの実施形態では、画像捕捉デバイス１２４及び１２６のそれぞれは、グローバルシャッタを有するＡｐｔｉｎａ Ｍ９Ｖ０２４ ＷＶＧＡセンサを含み得る。代替的には、画像捕捉デバイス１２４及び１２６のそれぞれは、ローリングシャッタを含み得る。画像捕捉デバイス１２２のように、画像捕捉デバイス１２４及び１２６は、様々なレンズ及び光学要素を含むように構成し得る。幾つかの実施形態では、画像捕捉デバイス１２４及び１２６に関連付けられたレンズは、画像捕捉デバイス１２２に関連付けられたＦＯＶ（ＦＯＶ２０２等）と同じであるか、又は狭いＦＯＶ（ＦＯＶ２０４及び２０６等）を提供し得る。例えば、画像捕捉デバイス１２４及び１２６は、４０度、３０度、２６度、２３度、２０度又は２０度未満のＦＯＶを有し得る。
画像捕捉デバイス１２４及び１２６は、車両２００に関連付けられたシーンに対して複数の第２及び第３の画像を取得し得る。複数の第２及び第３の画像のそれぞれは、第２及び第３の一連の画像走査線として取得し得て、これらはローリングシャッタを使用して捕捉し得る。各走査線又は各行は、複数のピクセルを有し得る。画像捕捉デバイス１２４及び１２６は、第２及び第３の一連内に含まれる各画像走査線の取得に関連付けられた第２及び第３の走査率を有し得る。
各画像捕捉デバイス１２２、１２４及び１２６は、任意の適する位置に、車両２００に対して任意の適する向きで位置決めし得る。画像捕捉デバイス１２２、１２４及び１２６の相対位置は、画像捕捉デバイスから取得される情報を一緒に融合させることを支援するように選択し得る。例えば、幾つかの実施形態では、画像捕捉デバイス１２４に関連付けられたＦＯＶ（ＦＯＶ２０４）は、画像捕捉デバイス１２２に関連付けられたＦＯＶ（ＦＯＶ２０２等）及び画像捕捉デバイス１２６に関連付けられたＦＯＶ（ＦＯＶ２０６等）と部分的又は完全に重複し得る。
画像捕捉デバイス１２２、１２４及び１２６は、任意の適する相対高さで車両２００に配置し得る。一例では、画像捕捉デバイス１２２、１２４及び１２６間に高さ差があり得て、高さ差は、立体分析を可能にするのに十分な視差情報を提供し得る。例えば、図２Ａに示すように、２つの画像捕捉デバイス１２２及び１２４は異なる高さにある。画像捕捉デバイス１２２、１２４及び１２６間には横方向変位差もあり得て、例えば処理ユニット１１０による立体分析に追加の視差情報を与える。横方向変位差は、図２Ｃ及び図２Ｄに示すように、ｄｘで示し得る。幾つかの実施形態では、前部変位又は後部変位（例えば、範囲変位）が、画像捕捉デバイス１２２、１２４、１２６間に存在し得る。例えば、画像捕捉デバイス１２２は、画像捕捉デバイス１２４及び／又は画像捕捉デバイス１２６の０．５～２メートル以上背後に配置し得る。このタイプの変位では、画像捕捉デバイスの１つが、他の画像捕捉デバイスの潜在的なブラインドスポットをカバー可能であり得る。
画像捕捉デバイス１２２は、任意の適する解像度能力（例えば、画像センサに関連付けられたピクセル数）を有し得て、画像捕捉デバイス１２２に関連付けられた画像センサの解像度は、画像捕捉デバイス１２４及び１２６に関連付けられた画像センサの解像度よりも高いか、低いか、又は同じであり得る。幾つかの実施形態では、画像捕捉デバイス１２２及び／又は画像捕捉デバイス１２４及び１２６に関連付けられた画像センサは、解像度６４０×４８０、１０２４×７６８、１２８０×９６０又は任意の他の適する解像度を有し得る。
フレームレート（例えば、画像捕捉デバイスが、次の画像フレームに関連付けられたピクセルデータの捕捉に移る前、１つの画像フレームのピクセルデータの組を取得する速度）は、制御可能であり得る。画像捕捉デバイス１２２に関連付けられたフレームレートは、画像捕捉デバイス１２４及び１２６に関連付けられたフレームレートよりも高いか、低いか、又は同じであり得る。画像捕捉デバイス１２２、１２４及び１２６に関連付けられたフレームレートは、フレームレートのタイミングに影響を及ぼし得る様々なファクタに依存し得る。例えば、画像捕捉デバイス１２２、１２４及び１２６の１つ又は複数は、画像捕捉デバイス１２２、１２４及び／又は１２６内の画像センサの１つ又は複数のピクセルに関連付けられた画像データの取得前又は取得後に課される選択可能なピクセル遅延期間を含み得る。一般に、各ピクセルに対応する画像データは、デバイスのクロックレート（例えば、１クロックサイクル当たり１ピクセル）に従って取得し得る。更に、ローリングシャッタを含む実施形態では、画像捕捉デバイス１２２、１２４及び１２６の１つ又は複数は、画像捕捉デバイス１２２、１２４及び／又は１２６内の画像センサのピクセル行に関連付けられた画像データの取得前又は取得後に課される選択可能な水平ブランク期間を含み得る。更に、画像捕捉デバイス１２２、１２４及び／又は１２６の１つ又は複数は、画像捕捉デバイス１２２、１２４及び１２６の画像フレームに関連付けられた画像データの取得前又は取得後に課される選択可能な垂直ブランク期間を含み得る。
これらのタイミング制御により、各画像捕捉デバイスの線走査率が異なる場合でも、画像捕捉デバイス１２２、１２４及び１２６に関連付けられたフレームレートを同期させることができ得る。更に、以下に更に詳細に考察するように、ファクタ（例えば、画像センサ解像度、最高線走査率等）の中でも特に、これらの選択可能なタイミング制御により、画像捕捉デバイス１２２の視野が画像捕捉デバイス１２４及び１２６のＦＯＶと異なる場合でも、画像捕捉デバイス１２２のＦＯＶが画像捕捉デバイス１２４及び１２６の１つ又は複数のＦＯＶと重複するエリアからの画像捕捉を同期させることが可能になり得る。
画像捕捉デバイス１２２、１２４及び１２６でのフレームレートタイミングは、関連付けられた画像センサの解像度に依存し得る。例えば、両デバイスの線走査率が同様であると仮定し、一方のデバイスが解像度６４０×４８０を有する画像センサを含み、他方のデバイスが解像度１２８０×９６０を有する画像センサを含む場合、より高い解像度を有するセンサからの画像データのフレーム取得ほど、長い時間が必要になる。
画像捕捉デバイス１２２、１２４及び１２６での画像データ取得のタイミングに影響を及ぼし得る他のファクタは、最高線走査率である。例えば、画像捕捉デバイス１２２、１２４及び１２６に含まれる画像センサからの画像データ行の取得は、何らかの最小時間量を必要とする。ピクセル遅延期間が追加されないと仮定すると、画像データ行を取得するこの最小時間量は、特定のデバイスの最高線走査率に関連することになる。高い最高線走査率を提供するデバイスほど、より低い最高線走査率を有するデバイスよりも高いフレームレートを提供する潜在性を有する。幾つかの実施形態では、画像捕捉デバイス１２４及び１２６の一方又は両方は、画像捕捉デバイス１２２に関連付けられた最高線走査率よりも高い最高線走査率を有し得る。幾つかの実施形態では、画像捕捉デバイス１２４及び／又は１２６の最高線走査率は、画像捕捉デバイス１２２の最高線走査率の１．２５倍、１．５倍、１．７５倍又は２倍以上であり得る。
別の実施形態では、画像捕捉デバイス１２２、１２４及び１２６は、同じ最高線走査率を有し得るが、画像捕捉デバイス１２２は、その最高走査率以下の走査率で動作し得る。システムは、画像捕捉デバイス１２４及び画像捕捉デバイス１２６の一方又は両方が画像捕捉デバイス１２２の線走査率と等しい線走査率で動作するように構成し得る。他の例では、システムは、画像捕捉デバイス１２４及び／又は画像捕捉デバイス１２６の線走査率が、画像捕捉デバイス１２２の線走査率の１．２５倍、１．５倍、１．７５倍又は２倍以上であり得るように構成し得る。
幾つかの実施形態では、画像捕捉デバイス１２２、１２４及び１２６は非対称であり得る。すなわち、これら画像捕捉デバイスは、異なる視野（ＦＯＶ）及び焦点距離を有するカメラを含み得る。画像捕捉デバイス１２２、１２４及び１２６の視野は、例えば、車両２００の環境に対する任意の所望のエリアを含み得る。幾つかの実施形態では、画像捕捉デバイス１２２、１２４及び１２６の１つ又は複数は、車両２００の前方の環境、車両２００の背後の環境、車両２００の両側の環境又はそれらの組み合わせから画像データを取得するように構成し得る。
更に、各画像捕捉デバイス１２２、１２４及び／又は１２６に関連付けられた焦点距離は、各デバイスが車両２００から所望の距離範囲にある物体の画像を取得するように選択可能であり得る（例えば、適切なレンズの包含等により）。例えば、幾つかの実施形態では、画像捕捉デバイス１２２、１２４及び１２６は、車両から数メートル以内の近接物体の画像を取得し得る。画像捕捉デバイス１２２、１２４、１２６は、車両からより離れた範囲（例えば、２５ｍ、５０ｍ、１００ｍ、１５０ｍ又はそれを超える）における物体の画像を取得するように構成することもできる。更に、画像捕捉デバイス１２２、１２４及び１２６の焦点距離は、ある画像捕捉デバイス（例えば、画像捕捉デバイス１２２）が車両に比較的近い（例えば、１０ｍ以内又は２０ｍ以内）物体の画像を取得することができ、その他の画像捕捉デバイス（例えば、画像捕捉デバイス１２４及び１２６）が、車両２００からより離れた物体（例えば、２０ｍ超、５０ｍ超、１００ｍ超、１５０ｍ超等）の画像を取得することができるように選択し得る。
幾つかの実施形態によれば、１つ又は複数の画像捕捉デバイス１２２、１２４及び１２６のＦＯＶは、広角を有し得る。例えば、特に車両２００の近傍エリアの画像捕捉に使用し得る画像捕捉デバイス１２２、１２４及び１２６には１４０度のＦＯＶを有することが有利であり得る。例えば、画像捕捉デバイス１２２は、車両２００の右又は左のエリアの画像の捕捉に使用し得て、そのような実施形態では、画像捕捉デバイス１２２が広いＦＯＶ（例えば、少なくとも１４０度）を有することが望ましいことがある。
画像捕捉デバイス１２２、１２４及び１２６のそれぞれに関連付けられた視野は、各焦点距離に依存し得る。例えば、焦点距離が増大するにつれて、対応する視野は低減する。
画像捕捉デバイス１２２、１２４及び１２６は、任意の適する視野を有するように構成し得る。特定の一例では、画像捕捉デバイス１２２は、水平ＦＯＶ４６度を有し得て、画像捕捉デバイス１２４は水平ＦＯＶ２３度を有し得て、画像捕捉デバイス１２６は水平ＦＯＶ２３～４６度を有し得る。別の例では、画像捕捉デバイス１２２は水平ＦＯＶ５２度を有し得て、画像捕捉デバイス１２４は水平ＦＯＶ２６度を有し得て、画像捕捉デバイス１２６は、水平ＦＯＶ２６～５２度を有し得る。幾つかの実施形態では、画像捕捉デバイス１２２のＦＯＶと画像捕捉デバイス１２４及び／又は画像捕捉デバイス１２６のＦＯＶとの比率は、１．５～２．０で変化し得る。他の実施形態では、この比率は１．２５～２．２５で変化し得る。
システム１００は、画像捕捉デバイス１２２の視野が、画像捕捉デバイス１２４及び／又は画像捕捉デバイス１２６の視野と少なくとも部分的に又は完全に重複するように構成し得る。幾つかの実施形態では、システム１００は、画像捕捉デバイス１２４及び１２６の視野が、例えば、画像捕捉デバイス１２２の視野内に入り（例えば、画像捕捉デバイス１２２の視野よりも小さく）、画像捕捉デバイス１２２の視野と共通の中心を共有するように構成し得る。他の実施形態では、画像捕捉デバイス１２２、１２４及び１２６は、隣接するＦＯＶを捕捉し得て、又は部分的に重複するＦＯＶを有し得る。幾つかの実施形態では、画像捕捉デバイス１２２、１２４及び１２６の視野は、ＦＯＶのより狭い画像捕捉デバイス１２４及び／又は１２６の中心が、ＦＯＶがより広いデバイス１２２の視野の下半分に配置され得るように位置合わせし得る。
図２Ｆは、開示される実施形態による例示的な車両制御システムの図表現である。図２Ｆに示すように、車両２００は、スロットルシステム２２０、ブレーキシステム２３０及び操舵システム２４０を含み得る。システム１００は、１つ又は複数のデータリンク（例えば、１つ又は複数の任意の有線リンク及び／又は無線リンク又はデータを伝送するリンク）を介して、スロットルシステム２２０、ブレーキシステム２３０及び操舵システム２４０の１つ又は複数に入力（例えば、制御信号）を提供し得る。例えば、画像捕捉デバイス１２２、１２４及び／又は１２６により取得される画像の分析に基づいて、システム１００は、車両２００をナビゲートする制御信号をスロットルシステム２２０、ブレーキシステム２３０及び操舵システム２４０の１つ又は複数に提供し得る（例えば、加速、ターン、レーンシフト等を行わせることにより）。更に、システム１００は、車両２００の動作状況を示す入力（例えば、速度、車両２００がブレーキ中及び／又はターン中であるか否か等）をスロットルシステム２２０、ブレーキシステム２３０及び操舵システム２４の１つ又は複数から受信し得る。以下では、更に詳細を図４～図７に関連して提供する。
図３Ａに示すように、車両２００は、車両２００のドライバー又は乗員と対話するユーザインタフェース１７０を含むこともできる。例えば、車両アプリケーション内のユーザインタフェース１７０は、タッチスクリーン３２０、つまみ３３０、ボタン３４０及びマイクロフォン３５０を含み得る。車両２００のドライバー又は乗員は、ハンドル（例えば、例えばウィンカーハンドルを含め、車両２００の操舵コラム上又はその近傍に配置される）及びボタン（例えば、車両２００のハンドルに配置される）等を使用して、システム１００と対話することもできる。幾つかの実施形態では、マイクロフォン３５０はバックミラー３１０に隣接して位置決めし得る。同様に、幾つかの実施形態では、画像捕捉デバイス１２２は、バックミラー３１０の近傍に配置し得る。幾つかの実施形態では、ユーザインタフェース１７０は、１つ又は複数のスピーカ３６０（例えば、車両オーディオシステムのスピーカ）を含むこともできる。例えば、システム１００は、スピーカ３６０を介して様々な通知（例えば、アラート）を提供し得る。
図３Ｂ～図３Ｄは、開示される実施形態による、バックミラー（例えば、バックミラー３１０）の背後に、車両フロントガラスと対向して位置決めされるように構成される例示的なカメラマウント３７０の図である。図３Ｂに示すように、カメラマウント３７０は、画像捕捉デバイス１２２、１２４及び１２６を含み得る。画像捕捉デバイス１２４及び１２６は、グレアシールド３８０の背後に位置決めし得て、グレアシールド３８０は、車両フロントガラスに直接接触し得て、フィルム及び／又は反射防止材料の組成物を含み得る。例えば、グレアシールド３８０は、シールドが、一致する傾斜を有する車両フロントガラスと対向して位置合わせされるように位置決めし得る。幾つかの実施形態では、画像捕捉デバイス１２２、１２４及び１２６のそれぞれは、例えば、図３Ｄに示すように、グレアシールド３８０の背後に位置決めし得る。開示される実施形態は、画像捕捉デバイス１２２、１２４及び１２６、カメラマウント３７０並びにグレアシールド３８０のいかなる特定の構成にも限定されない。図３Ｃは、前部から見た図３Ｂに示すカメラマウント３７０の図である。
本開示の恩恵を受ける当業者により理解されるように、上記開示される実施形態に対する多くの変形形態及び／又は変更形態がなされ得る。例えば、全ての構成要素がシステム１００の動作にとって必須であるわけではない。更に、任意の構成要素がシステム１００の任意の適切な部分に配置し得て、構成要素は、開示される実施形態の機能を提供しながら、様々な構成に再配置し得る。従って、上記で論じた構成は例であり、上述した構成に関係なく、システム１００は、車両２００の周囲を分析し、分析に応答して車両２００をナビゲートする広範囲の機能を提供することができる。
以下に更に詳細に考察するように、様々な開示される実施形態により、システム１００は、自律走行及び／又はドライバー支援技術に関連する様々な特徴を提供し得る。例えば、システム１００は、画像データ、位置データ（例えば、ＧＰＳ位置情報）、マップデータ、速度データ及び／又は車両２００に含まれるセンサからのデータを分析し得る。システム１００は、例えば、画像取得ユニット１２０、位置センサ１３０及び他のセンサから、分析のためにデータを収集し得る。更に、システム１００は、収集されるデータを分析して、車両２００が特定の行動を取るべきか否かを特定し、次に、人間の介入なしで、判断される動作を自動的にとり得る。例えば、車両２００が人間の介入なしでナビゲートする場合、システム１００は、車両２００のブレーキ、加速度及び／又は操舵を自動的に制御し得る（例えば、制御信号をスロットルシステム２２０、ブレーキシステム２３０及び操舵システム２４０の１つ又は複数に送信することにより）。更に、システム１００は、収集されるデータを分析し、収集されるデータの分析に基づいて警告及び／又はアラートを車両の搭乗者に発行し得る。システム１００により提供される様々な実施形態に関する更に詳細を以下に提供する。
前向きマルチ撮像システム
上記で論じたように、システム１００は、マルチカメラシステムを使用する走行支援機能を提供し得る。マルチカメラシステムは、車両の前方方向を向いた１つ又は複数のカメラを使用し得る。他の実施形態では、マルチカメラシステムは、車両の側部又は車両の後方を向いた１つ又は複数のカメラを含み得る。１つの実施形態では、例えば、システム１００は、２カメラ撮像システムを使用し得て、その場合、第１のカメラ及び第２のカメラ（例えば、画像捕捉デバイス１２２及び１２４）は、車両（例えば、車両２００）の前部及び／又は側部に位置決めし得る。第１のカメラは、第２のカメラの視野よりも大きい、小さい又は部分的に重複する視野を有し得る。更に、第１のカメラは、第１の画像プロセッサに接続されて、第１のカメラにより提供される画像の単眼画像分析を実行し得て、第２のカメラは、第２の画像プロセッサに接続されて、第２のカメラにより提供される画像の単眼画像分析を実行し得る。第１及び第２の画像プロセッサの出力（例えば、処理される情報）は結合し得る。幾つかの実施形態では、第２の画像プロセッサは、第１のカメラ及び第２のカメラの両方からの画像を受信して、立体分析を実行し得る。別の実施形態では、システム１００は３カメラ撮像システムを使用し得て、この場合、各カメラは異なる視野を有する。従って、そのようなシステムは、車両の前方及び側部の両方の様々な距離に位置する物体から導出される情報に基づいて判断を下し得る。単眼画像分析との言及は、画像分析が単一視点から（例えば、単一のカメラ）捕捉された画像に基づいて画像分析が実行される場合を指し得る。立体画像分析は、画像捕捉パラメータの１つ又は複数を変更した状態で捕捉される２つ以上の画像に基づいて画像分析が実行される場合を指し得る。例えば、立体画像分析の実行に適した捕捉された画像は、２つ以上の異なる位置から捕捉された画像、異なる視野から捕捉された画像、異なる焦点距離を使用して捕捉された画像、視差情報付きで捕捉された画像等を含み得る。
例えば、１つの実施形態では、システム１００は、画像捕捉デバイス１２２、１２４及び１２６を使用する３カメラ構成を実施し得る。そのような構成では、画像捕捉デバイス１２２は、狭視野（例えば、３４度又は約２０～４５度の範囲から選択される他の値等）を提供し得て、画像捕捉デバイス１２４は、広視野（例えば、１５０度又は約１００～約１８０度の範囲から選択される他の値）を提供し得て、画像捕捉デバイス１２６は、中視野（例えば、４６度又は約３５～約６０度の範囲から選択される他の値）を提供し得る。幾つかの実施形態では、画像捕捉デバイス１２６は、主又は１次カメラとして動作し得る。画像捕捉デバイス１２２、１２４、及び１２６は、バックミラー３１０の背後に、実質的に並んで（例えば、６ｃｍ離間）位置決めし得る。更に、幾つかの実施形態では、上記で論じたように、画像捕捉デバイス１２２、１２４、及び１２６の１つ又は複数は、車両２００のフロントガラスと同一平面のグレアシールド３８０の背後に搭載し得る。そのようなシールドは、車内部からのいかなる反射の画像捕捉デバイス１２２、１２４、及び１２６への影響も最小にするように動作し得る。
別の実施形態では、図３Ｂ及び図３Ｃに関連して上記で論じたように、広視野カメラ（例えば、上記例では画像捕捉デバイス１２４）は、狭い主視野カメラ（例えば、上記例では画像捕捉デバイス１２２及び１２６）よりも低く搭載し得る。この構成は、広視野カメラからの自由な視線を提供し得る。反射を低減するために、カメラは、車両２００のフロントガラス近くに搭載し得て、反射光を弱める偏光器をカメラに含み得る。
３カメラシステムは、特定の性能特徴を提供し得る。例えば、幾つかの実施形態は、あるカメラによる物体の検出を別のカメラからの検出結果に基づいて検証する機能を含み得る。上記で論じた３カメラ構成では、処理ユニット１１０は、例えば、３つの処理デバイス（例えば、上記で論じたように３つのＥｙｅＱシリーズのプロセッサチップ）を含み得て、各処理デバイスは、画像捕捉デバイス１２２、１２４、及び１２６の１つ又は複数により捕捉された画像の処理に向けられる。
３カメラシステムでは、第１の処理デバイスは、主カメラ及び狭視野カメラの両方から画像を受信し得て、狭ＦＯＶカメラのビジョン処理を実行して、例えば他の車両、歩行者、レーンマーク、交通標識、信号機及び他の道路物体を検出し得る。更に、第１の処理デバイスは、主カメラからの画像と狭カメラからの画像との間でのピクセルの不一致を計算し、車両２００の環境の３Ｄ再構築を作成し得る。次に、第１の処理デバイスは、３Ｄ再構築を３Ｄマップデータ又は別のカメラからの情報に基づいて計算される３Ｄ情報と結合し得る。
第２の処理デバイスは、主カメラから画像を受信し得て、ビジョン処理を実行し、他の車両、歩行者、レーンマーク、交通標識、信号機及び他の道路物体を検出し得る。更に、第２の処理デバイスは、カメラ変位を計算し、変位に基づいて、連続画像間のピクセルの不一致を計算し、シーンの３Ｄ再構築（例えば、ストラクチャーフロムモーション）を作成し得る。第２の処理デバイスは、３Ｄ再構築に基づくストラクチャーフロムモーションを第１の処理デバイスに送信し、ストラクチャーフロムモーションを立体３Ｄ画像と結合し得る。
第３の処理デバイスは、画像を広ＦＯＶカメラから受信し、画像を処理して、車両、歩行者、レーンマーク、交通標識、信号機及び他の道路物体を検出し得る。第３の処理デバイスは、追加の処理命令を更に実行して、画像を分析し、レーン変更中の車両、歩行者等の画像内の移動中の物体を識別し得る。
幾つかの実施形態では、画像に基づく情報ストリームを独立して捕捉させ、処理させることは、システムで冗長性を提供する機会を提供し得る。そのような冗長性は、例えば、第１の画像捕捉デバイス及びそのデバイスから処理される画像を使用して、少なくとも第２の画像捕捉デバイスから画像情報を捕捉し処理することにより得られる情報を検証及び／又は捕捉することを含み得る。
幾つかの実施形態では、システム１００は、車両２００にナビゲーション支援を提供するに当たり２つの画像捕捉デバイス（例えば、画像捕捉デバイス１２２及び１２４）を使用し得て、第３の画像捕捉デバイス（例えば、画像捕捉デバイス１２６）を使用して、冗長性を提供し、他の２つの画像捕捉デバイスから受信されるデータの分析を検証し得る。例えば、そのような構成では、画像捕捉デバイス１２２及び１２４は、車両２００をナビゲートするためのシステム１００による立体分析の画像を提供し得て、画像捕捉デバイス１２６は、システム１００による単眼分析に画像を提供して、画像捕捉デバイス１２２及び／又は画像捕捉デバイス１２４から捕捉された画像に基づいて得られる情報の冗長性及び検証を提供し得る。すなわち、画像捕捉デバイス１２６（及び対応する処理デバイス）は、画像捕捉デバイス１２２及び１２４から導出される分析へのチェックを提供する冗長サブシステムを提供する（例えば、自動緊急ブレーキ（ＡＥＢ）システムを提供するため）と見なし得る。更に幾つかの実施形態では、１つ又は複数のセンサ（例えば、レーダ、ライダ、音響センサ、車両外の１つ又は複数の送受信機から受信される情報等）から受信される情報に基づいて受信データの冗長性及び検証を補うことができる。
上記カメラ構成、カメラ配置、カメラ数、カメラ位置等が単なる例示であることを当業者は認識するであろう。全体システムに対して説明されるこれらの構成要素等は、開示される実施形態の範囲から逸脱せずに、様々な異なる構成で組み立て且つ使用し得る。ドライバー支援及び／又は自律車両機能を提供するためのマルチカメラシステムの使用に関する更に詳細が以下に続く。
図４は、開示される実施形態による１つ又は複数の動作を実行する命令を記憶／プログラムされ得るメモリ１４０及び／又は１５０の例示的な機能ブロック図である。以下ではメモリ１４０を参照するが、当業者は、命令がメモリ１４０及び／又は１５０に記憶可能なことを認識するであろう。
図４に示すように、メモリ１４０は、単眼画像分析モジュール４０２、立体画像分析モジュール４０４、速度及び加速度モジュール４０６並びにナビゲーション応答モジュール４０８を記憶し得る。開示される実施形態は、いかなる特定の構成のメモリ１４０にも限定されない。更に、アプリケーションプロセッサ１８０及び／又は画像プロセッサ１９０は、メモリ１４０に含まれる任意のモジュール４０２、４０４、４０６、及び４０８に記憶される命令を実行し得る。以下の考察での処理ユニット１１０の参照が、アプリケーションプロセッサ１８０及び画像プロセッサ１９０を個々に又はまとめて指し得ることを当業者は理解するであろう。従って、以下のプロセスのいずれかのステップは、１つ又は複数の処理デバイスにより実行され得る。
１つの実施形態では、単眼画像分析モジュール４０２は、処理ユニット１１０によって実行されるとき、画像捕捉デバイス１２２、１２４及び１２６の１つによって取得される画像の組の単眼画像分析を実行する命令（コンピュータビジョンソフトウェア等）を記憶し得る。幾つかの実施形態では、処理ユニット１１０は、画像の組からの情報を追加の感覚情報（例えば、レーダやライダ等からの情報）と結合して単眼画像分析を実行し得る。図５Ａ～図５Ｄに関連して以下で説明するように、単眼画像分析モジュール４０２は、レーンマーク、車両、歩行者、道路標識、高速道路出口ランプ、信号機、危険物及び車両の環境に関連付けられた任意の他の特徴等、画像の組内の特徴の組を検出するための命令を含み得る。分析に基づいて、システム１００は、ナビゲーション応答モジュール４０８に関連して以下で考察するように、ターン、レーンシフト及び加速度変更等の１つ又は複数のナビゲーション応答を車両２００において生じさせ得る（例えば、処理ユニット１１０を介して）。
１つの実施形態では、立体画像分析モジュール４０４は命令（コンピュータビジョンソフトウェア等）を記憶し得て、命令は、処理ユニット１１０により実行されると、画像捕捉デバイス１２２、１２４及び１２６から選択される画像捕捉デバイスの組み合わせにより取得される第１及び第２の組の画像の立体画像分析を実行する。幾つかの実施形態では、処理ユニット１１０は、第１及び第２の組の画像からの情報を追加の感覚情報（例えば、レーダからの情報）と結合して、立体画像分析を実行し得る。例えば、立体画像分析モジュール４０４は、画像捕捉デバイス１２４により取得される第１の組の画像及び画像捕捉デバイス１２６により取得される第２の組の画像に基づいて、立体画像分析を実行する命令を含み得る。以下で図６に関連して説明するように、立体画像分析モジュール４０４は、レーンマーク、車両、歩行者、道路標識、高速道路出口ランプ、信号機及び危険物等の第１及び第２の組の画像内の特徴の組を検出する命令を含み得る。分析に基づいて、処理ユニット１１０は、ナビゲーション応答モジュール４０８に関連して後述するように、ターン、レーンシフト及び加速度変更等の１つ又は複数のナビゲーション応答を車両２００において生じさせ得る。更に、幾つかの実施形態では、立体画像分析モジュール４０４は、トレーニングされたシステム（ニューラルネットワーク又はディープニューラルネットワーク等）又は、コンピュータビジョンアルゴリズムを使用して、感覚情報が捕捉及び処理された環境内の物体を検出及び／又はラベル付けするように構成され得るシステム等のトレーニングされていないシステムに関連する技法を実装することができる。１つの実施形態では、立体画像分析モジュール４０４及び／又は他の画像処理モジュールは、トレーニングされたシステムとトレーニングされていないシステムとの組み合わせを使用するように構成され得る。
１つの実施形態では、速度及び加速度モジュール４０６は、車両２００の速度及び／又は加速度を変更させるように構成される車両２００内の１つ又は複数の計算及び電気機械デバイスから受信されるデータを分析するように構成されるソフトウェアを記憶し得る。例えば、処理ユニット１１０は、速度及び加速度モジュール４０６に関連付けられた命令を実行して、単眼画像分析モジュール４０２及び／又は立体画像分析モジュール４０４の実行から導出されるデータに基づいて、車両２００の目標速度を計算し得る。そのようなデータとしては、例えば、目標位置、速度及び／又は加速度、付近の車両、歩行者又は道路物体に対する車両２００の位置及び／又は速度及び道路のレーンマークに対する車両２００の位置情報等を挙げ得る。加えて、処理ユニット１１０は、感覚入力（例えば、レーダからの情報）と、車両２００のスロットルシステム２２０、ブレーキシステム２３０及び／又は操舵システム２４０等の車両２００の他のシステムからの入力とに基づいて、車両２００の目標速度を計算し得る。計算される目標速度に基づいて、処理ユニット１１０は、電子信号を車両２００のスロットルシステム２２０、ブレーキシステム２３０及び／又は操舵システム２４０に送信して、例えば車両２００のブレーキを物理的に弱めるか、又はアクセルを弱めることにより速度及び／又は加速度の変更をトリガーし得る。
１つの実施形態では、ナビゲーション応答モジュール４０８は、処理ユニット１１０により実行可能ソフトウェアを記憶して、単眼画像分析モジュール４０２及び／又は立体画像分析モジュール４０４の実行から導出されるデータに基づいて、所望のナビゲーション応答を決定し得る。そのようなデータは、付近の車両、歩行者及び道路物体に関連付けられた位置及び速度情報並びに車両２００の目標位置情報等を含み得る。更に、幾つかの実施形態では、ナビゲーション応答は、マップデータ、車両２００の所定の位置及び／又は車両２００と、単眼画像分析モジュール４０２及び／又は立体画像分析モジュール４０４の実行から検出される１つ又は複数の物体との間の相対速度又は相対加速度に基づき得る（部分的又は完全に）。ナビゲーション応答モジュール４０８は、感覚入力（例えば、レーダからの情報）と、車両２００のスロットルシステム２２０、ブレーキシステム２３０及び操舵システム２４０等の車両２００の他のシステムからの入力とに基づいて、所望のナビゲーション応答を決定することもできる。所望のナビゲーション応答に基づいて、処理ユニット１１０は、電子信号を車両２００のスロットルシステム２２０、ブレーキシステム２３０及び操舵システム２４０に送信して、例えば車両２００のハンドルをターンさせ、所定の角度の回転を達成することにより、所望のナビゲーション応答をトリガーし得る。幾つかの実施形態では、処理ユニット１１０は、車両２００の速度変更を計算するための速度及び加速度モジュール４０６の実行への入力として、ナビゲーション応答モジュール４０８の出力（例えば、所望のナビゲーション応答）を使用し得る。
更に、本明細書で開示されるモジュール（例えば、モジュール４０２、４０４及び４０６）のいずれも、トレーニングされたシステム（ニューラルネットワーク又はディープニューラルネットワーク等）又はトレーニングされていないシステムに関連する技法を実装することができる。
図５Ａは、開示される実施形態による、単眼画像分析に基づいて１つ又は複数のナビゲーション応答を生じさせる例示的なプロセス５００Ａを示すフローチャートである。ステップ５１０において、処理ユニット１１０は、処理ユニット１１０と画像取得ユニット１２０との間のデータインタフェース１２８を介して、複数の画像を受信し得る。例えば、画像取得ユニット１２０に含まれるカメラ（視野２０２を有する画像捕捉デバイス１２２等）は、車両２００の前方（又は例えば車両の側部もしくは後方）のエリアの複数の画像を捕捉し、データ接続（例えば、デジタル、有線、ＵＳＢ、無線、Ｂｌｕｅｔｏｏｔｈ等）を介して処理ユニット１１０に送信し得る。処理ユニット１１０は、単眼画像分析モジュール４０２を実行して、ステップ５２０において、以下で図５Ｂ～図５Ｄに関連して更に詳細に説明するように、複数の画像を分析し得る。分析を実行することにより、処理ユニット１１０は、レーンマーク、車両、歩行者、道路標識、高速道路出口ランプ及び信号機等の画像の組内の特徴の組を検出し得る。
処理ユニット１１０は、ステップ５２０において、単眼画像分析モジュール４０２を実行して、例えばトラックタイヤの部品、落ちた道路標識、緩んだ貨物及び小動物等の様々な道路危険物を検出することもできる。道路危険物の構造、形状、サイズ及び色は様々であり得て、そのような危険物の検出をより難しくする。幾つかの実施形態では、処理ユニット１１０は、単眼画像分析モジュール４０２を実行して、マルチフレーム分析を複数の画像に対して実行して、道路危険物を検出し得る。例えば、処理ユニット１１０は、連続画像フレーム間でのカメラの動きを推定し、フレーム間のピクセルの不一致を計算して、道路の３Ｄマップを構築し得る。次に、処理ユニット１１０は、３Ｄマップを使用して、路面及び路面の上に存在する危険物を検出し得る。
ステップ５３０において、処理ユニット１１０は、ナビゲーション応答モジュール４０８を実行して、ステップ５２０において実行される分析及び図４に関連して上述した技法に基づいて、車両２００で１つ又は複数のナビゲーション応答を生じさせ得る。ナビゲーション応答は、例えば、ターン、レーンシフト及び加速度変更を含み得る。幾つかの実施形態では、処理ユニット１１０は、速度及び加速度モジュール４０６の実行から導出されるデータを使用して、１つ又は複数のナビゲーション応答を生じさせ得る。更に、複数のナビゲーション応答は、同時に行われ得るか、順次行われ得るか、又はそれらの任意の組み合わせで行われ得る。例えば、処理ユニット１１０は、例えば、制御信号を車両２００の操舵システム２４０及びスロットルシステム２２０に順次送信することにより、車両２００に１レーンを越えさせ、それから例えば加速させ得る。代替的には、処理ユニット１１０は、例えば、制御信号を車両２００のブレーキシステム２３０及び操舵システム２４０に同時に送信することにより、車両２００に、ブレーキをかけさせ、それと同時にレーンをシフトさせ得る。
図５Ｂは、開示される実施形態による、画像の組内の１つ又は複数の車両及び／又は歩行者を検出する例示的なプロセス５００Ｂを示すフローチャートである。処理ユニット１１０は、単眼画像分析モジュール４０２を実行して、プロセス５００Ｂを実施し得る。ステップ５４０において、処理ユニット１１０は、存在する可能性がある車両及び／又は歩行者を表す候補物体の組を特定し得る。例えば、処理ユニット１１０は、１つ又は複数の画像を走査し、画像を１つ又は複数の所定のパターンと比較し、各画像内で、対象物体（例えば、車両、歩行者又はそれらの部分）を含み得る可能性がある位置を識別し得る。所定のパターンは、低率の「偽性ヒット」及び低率の「見逃し」を達成するように指定し得る。例えば、処理ユニット１１０は、所定のパターンへの低い類似性閾値を使用して、可能性のある車両又は歩行者として候補物体を識別し得る。そうすることにより、処理ユニット１１０は、車両又は歩行者を表す候補物体を見逃す（例えば、識別しない）確率を低減することができ得る。
ステップ５４２において、処理ユニット１１０は、候補物体の組をフィルタリングして、分類基準に基づいて特定の候補（例えば、無関係又は関係性の低い物体）を除外し得る。そのような基準は、データベース（例えば、メモリ１４０に記憶されるデータベース）に記憶される物体タイプに関連付けられた様々な特性から導出し得る。特性は、物体の形状、寸法、テクスチャ及び位置（例えば、車両２００に対する）等を含み得る。従って、処理ユニット１１０は、１つ又は複数の組の基準を使用して、候補物体の組から偽性候補を拒絶し得る。
ステップ５４４において、処理ユニット１１０は、複数の画像フレームを分析して、候補物体の組内の物体が車両及び／又は歩行者を表しているか否かを特定し得る。例えば、処理ユニット１１０は、連続フレームにわたり検出される候補物体を追跡し、検出される物体に関連付けられたフレーム毎データ（例えば、サイズ、車両２００に対する位置等）を蓄積し得る。更に、処理ユニット１１０は、検出される物体のパラメータを推定し、物体のフレーム毎位置データを予測位置と比較し得る。
ステップ５４６において、処理ユニット１１０は、検出される物体の測定の組を構築し得る。そのような測定は、例えば、検出される物体に関連付けられた位置、速度及び加速度値（車両２００に対する）を含み得る。幾つかの実施形態では、処理ユニット１１０は、カルマンフィルタ又は線形２次推定（ＬＱＥ）等の一連の時間ベースの観測を使用する推定技法に基づいて及び／又は異なる物体タイプ（例えば、車、トラック、歩行者、自転車、道路標識等）で利用可能なモデリングデータに基づいて、測定を構築し得る。カルマンフィルタは、物体の尺度の測定に基づき得て、ここで、尺度測定は衝突までの時間（例えば、車両２００が物体に達するまでの時間量）に比例する。従って、ステップ５４０～５４６を実行することにより、処理ユニット１１０は、捕捉された画像の組内に現れる車両及び歩行者を識別し、車両及び歩行者に関連付けられた情報（例えば、位置、速度、サイズ）を導出し得る。識別及び導出される情報に基づいて、処理ユニット１１０は、図５Ａに関連して上述したように、車両２００で１つ又は複数のナビゲーション応答を生じさせ得る。
ステップ５４８において、処理ユニット１１０は、１つ又は複数の画像の光学フロー分析を実行して、「偽性ヒット」を検出する確率及び車両又は歩行者を表す候補物体を見逃す確率を低減し得る。光学フロー分析は、例えば、他の車両及び歩行者に関連付けられた１つ又は複数の画像内の車両２００に対する、路面の動きとは異なる移動パターンを分析することを指し得る。処理ユニット１１０は、異なる時間に捕捉される複数の画像フレームにわたる物体の異なる位置を観測することにより、候補物体の移動を計算し得る。処理ユニット１１０は、位置及び時間値を数学モデルへの入力として使用して、候補物体の移動を計算し得る。従って、光学フロー分析は、車両２００の付近にある車両及び歩行者を検出する別の方法を提供し得る。処理ユニット１１０は、ステップ５４０～５４６と組み合わせて光学フロー分析を実行して、車両及び歩行者を検出する冗長性を提供すると共に、システム１００の信頼度を上げ得る。
図５Ｃは、開示される実施形態による、画像の組内の道路マーク及び／又はレーンジオメトリ情報を検出する例示的なプロセス５００Ｃを示すフローチャートである。処理ユニット１１０は、単眼画像分析モジュール４０２を実行して、プロセス５００Ｃを実施し得る。ステップ５５０において、処理ユニット１１０は、１つ又は複数の画像を走査することにより物体の組を検出し得る。レーンマークの区分、レーンジオメトリ情報及び他の関連道路マークを検出するために、処理ユニット１１０は、物体の組をフィルタリングして、無関連（例えば、小さい穴、小さい岩等）であると判断されるものを除外し得る。ステップ５５２において、処理ユニット１１０は、同じ道路マーク又はレーンマークに属する、ステップ５５０において検出される区分を一緒にグループ化し得る。グループ化に基づいて、処理ユニット１１０は、数学モデル等のモデルを開発して、検出される区分を表し得る。
ステップ５５４において、処理ユニット１１０は、検出される区分に関連付けられた測定の組を構築し得る。幾つかの実施形態では、処理ユニット１１０は、画像平面から実世界平面への検出区分の射影を作成し得る。射影は、検出される道路の位置、傾斜、曲率及び曲率微分等の物理特性に対応する係数を有する３次多項式を使用して特徴付け得る。射影を生成するに当たり、処理ユニット１１０は、路面変化並びに車両２００に関連付けられたピッチ及びロール率を考慮に入れ得る。加えて、処理ユニット１１０は、位置及び路面に存在するモーションキューを分析することにより道路高をモデリングし得る。更に、処理ユニット１１０は、１つ又は複数の画像での特徴点の組を追跡することにより、車両２００に関連付けられたピッチ率及びロール率を推定し得る。
ステップ５５６において、処理ユニット１１０は、例えば、連続した画像フレームにわたり検出区分を追跡し、検出区分に関連付けられたフレーム毎データを蓄積することにより、マルチフレーム分析を実行し得る。処理ユニット１１０はマルチフレーム分析を実行する場合、ステップ５５４において構築される測定の組はより信頼性の高いものになり得て、ますます高い信頼度を関連付け得る。従って、ステップ５５０、５５２、５５４、及び５５６を実行することにより、処理ユニット１１０は、捕捉された画像の組内に現れる道路マークを識別し、レーンジオメトリ情報を導出し得る。識別及び導出される情報に基づいて、処理ユニット１１０は、図５Ａに関連して上述したように、車両２００で１つ又は複数のナビゲーション応答を生じさせ得る。
ステップ５５８において、処理ユニット１１０は、追加の情報ソースを考慮して、車両の周囲の状況での車両２００の安全モデルを更に開発し得る。処理ユニット１１０は、安全モデルを使用して、システム１００が車両２００の自律制御を安全に実行し得る状況を定義し得る。安全モデルを開発するために、幾つかの実施形態では、処理ユニット１１０は、他の車両の位置及び動き、検出される道路端部及び障壁及び／又はマップデータ（マップデータベース１６０からのデータ等）から抽出される一般道路形状記述を考慮し得る。追加の情報ソースを考慮することにより、処理ユニット１１０は、道路マーク及びレーンジオメトリを検出する冗長性を提供し、システム１００の信頼性を上げ得る。
図５Ｄは、開示される実施形態による、画像の組内の信号機を検出する例示的なプロセス５００Ｄを示すフローチャートである。処理ユニット１１０は、単眼画像分析モジュール４０２を実行して、プロセス５００Ｄを実施し得る。ステップ５６０において、処理ユニット１１０は、画像の組を走査し、信号機を含む可能性が高い画像内の位置に現れる物体を識別し得る。例えば、処理ユニット１１０は、識別される物体をフィルタリングして、信号機に対応する可能性が低い物体を除外した候補物体の組を構築し得る。フィルタリングは、形状、寸法、テクスチャ及び位置（例えば、車両２００に対する）等の信号機に関連付けられた様々な特性に基づいて行い得る。そのような特性は、信号機及び交通制御信号の多くの例に基づき得て、データベースに記憶し得る。幾つかの実施形態では、処理ユニット１１０は、可能性のある信号機を反映した候補物体の組に対してマルチフレーム分析を実行し得る。例えば、処理ユニット１１０は、連続した画像フレームにわたり候補物体を追跡し、候補物体の現実世界位置を推定し、移動している（信号機である可能性が低い）物体をフィルタリングして除去し得る。幾つかの実施形態では、処理ユニット１１０は、カラー分析を候補物体に対して実行し、可能性のある信号機内部に表される検出色の相対位置を識別し得る。
ステップ５６２において、処理ユニット１１０は、交差点のジオメトリを分析し得る。分析は、（ｉ）車両２００の両側で検出されるレーン数、（ｉｉ）道路で検出されるマーク（矢印マーク等）、及び（ｉｉｉ）マップデータ（マップデータベース１６０からのデータ等）から抽出される交差点の記述の任意の組み合わせに基づき得る。処理ユニット１１０は、単眼分析モジュール４０２の実行から導出される情報を使用して、分析を行い得る。加えて、処理ユニット１１０は、ステップ５６０において検出される信号機と、車両２００近傍に現れるレーンとの対応性を特定し得る。
車両２００が交差点に近づくにつれて、ステップ５６４において、処理ユニット１１０は、分析される交差点ジオメトリ及び検出される信号機に関連付けられた信頼度を更新し得る。例えば、交差点に実際に現れる数と比較した交差点に現れると推定される信号機の数は、信頼度に影響を及ぼし得る。従って、信頼度に基づいて、処理ユニット１１０は、車両２００のドライバーに制御を委任して、安全状況を改善し得る。ステップ５６０、５６２、及び５６４を実行することにより、処理ユニット１１０は、捕捉された画像の組内に現れる信号機を識別し、交差点ジオメトリ情報を分析し得る。識別及び分析に基づいて、処理ユニット１１０は、図５Ａに関連して上述したように、車両２００で１つ又は複数のナビゲーション応答を生じさせ得る。
図５Ｅは、開示される実施形態による、車両経路に基づいて車両２００で１つ又は複数のナビゲーション応答を生じさせる例示的なプロセス５００Ｅのフローチャートである。ステップ５７０において、処理ユニット１１０は、車両２００に関連付けられた初期車両経路を構築し得る。車両経路は、座標（ｘ，ｙ）で表される点の組を使用して表し得て、点の組内の２点間距離ｄｉは、１～５メートルの範囲内にあり得る。１つの実施形態では、処理ユニット１１０は、左右の道路多項式等の２つの多項式を使用して初期車両経路を構築し得る。処理ユニット１１０は、２つの多項式間のジオメトリ中間点を計算し、所定のオフセットがある場合（オフセット０は、レーンの中央での走行に対応し得る）、所定のオフセット（例えば、スマートレーンオフセット）だけ、結果として生成される車両経路に含まれる各点をオフセットさせ得る。オフセットは、車両経路内の任意の２点間の区分に垂直の方向であり得る。別の実施形態では、処理ユニット１１０は、１つの多項式及び推定レーン幅を使用して、推定レーン幅の半分に所定のオフセット（例えば、スマートレーンオフセット）を加えたものだけ車両経路の各点をオフセットさせ得る。
ステップ５７２において、処理ユニット１１０は、ステップ５７０において構築される車両経路を更新し得る。処理ユニット１１０は、車両経路を表す点の組内の２点間距離ｄｋが、上述した距離ｄｉよりも短くなるように、より高い解像度を使用して、ステップ５７０において構築される車両経路を再構築し得る。例えば、距離ｄｋは０．１～０．３メートルの範囲であり得る。処理ユニット１１０は、放物線スプラインアルゴリズムを使用して車両経路を再構築し得て、これは、車両経路の全長（すなわち、車両経路を表す点の組に基づく）に対応する累積距離ベクトルＳをもたらし得る。
ステップ５７４において、処理ユニット１１０は、ステップ５７２において構築された更新車両経路に基づいて、先読み点（（ｘｌ，ｚｌ）として座標で表される）を特定し得る。処理ユニット１１０は、累積距離ベクトルＳから先読み点を抽出し得て、先読み点には、先読み距離及び先読み時間を関連付け得る。先読み距離は、下限範囲１０～２０メートルを有し得て、車両２００の速度と先読み時間との積として計算し得る。例えば、車両２００の速度が下がるにつれて、先読み距離も短くなり得る（例えば、下限に達するまで）。０．５～１．５秒の範囲であり得る先読み時間は、進行エラー追跡制御ループ等の車両２００でナビゲーション応答を生じさせることに関連付けられた１つ又は複数の制御ループの利得に反比例し得る。例えば、進行エラー追跡制御ループの利得は、ヨー率ループ、操舵アクチュエータループ及び車横方向動力学等の帯域幅に依存し得る。従って、進行エラー追跡制御ループの利得が高いほど、先読み時間は短くなる。
ステップ５７６において、処理ユニット１１０は、ステップ５７４において特定される先読み点に基づいて、進行エラー及びヨー率コマンドを決定し得る。処理ユニット１１０は、先読み点の逆正接、例えば、ａｒｃｔａｎ（ｘｌ／ｚｌ）を計算することにより、進行エラーを特定し得る。処理ユニット１１０は、進行エラーと高レベル制御利得との積としてヨー率コマンドを決定し得る。高レベル制御利得は、先読み距離が下限にない場合、（２／先読み時間）に等しい値であり得る。先読み距離が下限である場合、高レベル制御利得は、（２＊車両２００の速度／先読み距離）に等しい値であり得る。
図５Ｆは、開示される実施形態による、先行車両がレーンを変更中であるか否かを特定する例示的なプロセス５００Ｆを示すフローチャートである。ステップ５８０において、処理ユニット１１０は、先行車両（例えば、車両２００の前を走行中の車両）に関連付けられたナビゲーション情報を特定し得る。例えば、処理ユニット１１０は、図５Ａ及び図５Ｂに関連して上述した技法を使用して、先行車両の位置、速度（例えば、方向及び速度）及び／又は加速度を特定し得る。処理ユニット１１０は、図５Ｅに関連して上述した技法を使用して、１つ又は複数の道路多項式、先読み点（車両２００に関連付けられる）及び／又はスネイルトレイル（例えば、先行車両が取った経路を記述する点の組）を特定することもできる。
ステップ５８２において、処理ユニット１１０は、ステップ５８０において特定されるナビゲーション情報を分析し得る。１つの実施形態では、処理ユニット１１０は、スネイルトレイルと道路多項式との間の距離（例えば、トレイルに沿った）を計算し得る。トレイルに沿ったこの距離の相違が所定の閾値（例えば、直線道路では０．１～０．２メートル、緩くカーブした道路では０．３～０．４メートル、急カーブの道路では０．５～０．６メートル）を超える場合、処理ユニット１１０は、先行車両がレーン変更中である可能性が高いと判断し得る。複数の車両が、車両２００の前を走行中であることが検出される場合、処理ユニット１１０は、各車両に関連付けられたスネイルトレイルを比較し得る。比較に基づいて、処理ユニット１１０は、スネイルトレイルが他の車両のスネイルトレイルに一致しない車両が、レーン変更中である可能性が高いと判断し得る。処理ユニット１１０は更に、スネイルトレイル（先行車両に関連付けられた）の曲率を、先行車両が走行中の道路区分の予期される曲率と比較し得る。予期される曲率は、マップデータ（例えば、マップデータベース１６０からのデータ）、道路多項式、他の車両のスネイルトレイル及び道路についての事前知識等から抽出し得る。スネイルトレイルの曲率と道路区分の予期される曲率との差が、所定の閾値を超える場合、処理ユニット１１０は、先行車両がレーン変更中である可能性が高いと判断し得る。
別の実施形態では、処理ユニット１１０は、特定の時間期間（例えば、０．５～１．５秒）にわたり、先行車両の瞬間位置を先読み点（車両２００に関連付けられた）と比較し得る。特定の時間期間中の先行車両の瞬間位置と先読み点との間の距離の差及び分岐の累積和が、所定の閾値（例えば、直線道路では０．３～０．４メートル、緩くカーブした道路では０．７～０．８メートル、急カーブの道路では１．３～１．７メートル）を超える場合、処理ユニット１１０は、先行車両がレーン変更中である可能性が高いと判断し得る。別の実施形態では、処理ユニット１１０は、トレイルに沿って移動した横方向距離をスネイルトレイルの予期される曲率と比較することにより、スネイルトレイルのジオメトリを分析し得る。予期される曲率半径は、計算：（δｚ ２＋δｘ ２）／２／（δｘ）に従って特定し得て、式中、σｘは横方向移動距離を表し、σｚは縦方向移動距離を表す。横方向移動距離と予期される曲率との差が所定の閾値（例えば、５００～７００メートル）を超える場合、処理ユニット１１０は、先行車両がレーン変更中である可能性が高いと判断し得る。別の実施形態では、処理ユニット１１０は、先行車両の位置を分析し得る。先行車両の位置が道路多項式を曖昧にする（例えば、先行車両が道路多項式の上に重なる）場合、処理ユニット１１０は、先行車両がレーン変更中である可能性が高いと判断し得る。先行車両の位置が、別の車両が先行車両の前方で検出され、２つの車両のスネイルトレイルが平行ではないようなものである場合、処理ユニット１１０は、（より近い）先行車両がレーン変更中である可能性が高いと判断し得る。
ステップ５８４において、処理ユニット１１０は、ステップ５８２において実行される分析に基づいて、先行車両２００がレーン変更中であるか否かを特定し得る。例えば、処理ユニット１１０は、ステップ５８２において実行される個々の分析の加重平均に基づいてその判断を下し得る。そのような方式下では、例えば、特定のタイプの分析に基づいた、先行車両がレーン変更中である可能性が高いという処理ユニット１１０による判断には、値「１」を割り当て得る（「０」は、先行車両がレーン変更中である可能性が低いとの判断を表す）。ステップ５８２において実行される異なる分析には異なる重みを割り当て得て、開示される実施形態は、分析及び重みのいかなる特定の組み合わせにも限定されない。
図６は、開示される実施形態による、立体画像分析に基づいて１つ又は複数のナビゲーション応答を生じさせる例示的なプロセス６００を示すフローチャートである。ステップ６１０において、処理ユニット１１０は、データインタフェース１２８を介して第１及び第２の複数の画像を受信し得る。例えば、画像取得ユニット１２０に含まれるカメラ（視野２０２及び２０４を有する画像捕捉デバイス１２２及び１２４等）は、車両２００の前方のエリアの第１及び第２の複数の画像を捕捉し、デジタル接続（例えば、ＵＳＢ、無線、Ｂｌｕｅｔｏｏｔｈ等）を介して処理ユニット１１０に送信し得る。幾つかの実施形態では、処理ユニット１１０は、２つ以上のデータインタフェースを介して第１及び第２の複数の画像を受信し得る。開示される実施形態は、いかなる特定のデータインタフェース構成又はプロトコルにも限定されない。
ステップ６２０において、処理ユニット１１０は、立体画像分析モジュール４０４を実行して、第１及び第２の複数の画像の立体画像分析を実行して、車両の前方の道路の３Ｄマップを作成し、レーンマーク、車両、歩行者、道路標識、高速道路出口ランプ、信号機及び道路危険物等の画像内の特徴を検出し得る。立体画像分析は、図５Ａ～図５Ｄに関連して上述したステップと同様に実行され得る。例えば、処理ユニット１１０は、立体画像分析モジュール４０４を実行して、第１及び第２の複数の画像内の候補物体（例えば、車両、歩行者、道路マーク、信号機、道路危険物等）を検出し、様々な基準に基づいて候補物体のサブセットをフィルタリングして除外し、マルチフレーム分析を実行し、測定を構築し、残りの候補物体の信頼度を特定し得る。上記ステップを実行するに当たり、処理ユニット１１０は、画像の１つの組のみからの情報ではなく、第１及び第２の複数の画像の両方からの情報を考慮し得る。例えば、処理ユニット１１０は、第１及び第２の複数の画像の両方に現れる候補物体のピクセルレベルデータ（又は捕捉された画像の２つのストリームの中からの他のデータサブセット）の差を分析し得る。別の例として、処理ユニット１１０は、物体が複数の画像の１枚に現れるが、他の画像では現れないことを観測することにより、又は２つの画像ストリームの場合に現れる物体に対して存在し得る他の差に対して、候補物体の位置及び／又は速度（例えば、車両２００に対する）を推定し得る。例えば、車両２００に対する位置、速度及び／又は加速度は、画像ストリームの一方又は両方に現れる物体に関連付けられた特徴の軌道、位置、移動特性等に基づいて特定し得る。
ステップ６３０において、処理ユニット１１０は、ナビゲーション応答モジュール４０８を実行して、ステップ６２０において実行される分析及び図４に関連して上述した技法に基づいて、車両２００で１つ又は複数のナビゲーション応答を生じさせ得る。ナビゲーション応答は、例えば、ターン、レーンシフト、加速度変更、速度変更及びブレーキ等を含み得る。幾つかの実施形態では、処理ユニット１１０は、速度及び加速度モジュール４０６の実行から導出されるデータを使用して、１つ又は複数のナビゲーション応答を生じさせ得る。更に、複数のナビゲーション応答は、同時に行われ得るか、順次行われ得るか、又はそれらの任意の組み合わせで行われ得る。
図７は、開示される実施形態による、３組の画像の分析に基づいて１つ又は複数のナビゲーション応答を生じさせる例示的なプロセス７００を示すフローチャートである。ステップ７１０において、処理ユニット１１０は、データインタフェース１２８を介して第１、第２及び第３の複数の画像を受信し得る。例えば、画像取得ユニット１２０に含まれるカメラ（視野２０２、２０４及び２０６を有する画像捕捉デバイス１２２、１２４及び１２６等）は、車両２００の前方及び／又は側部のエリアの第１、第２及び第３の複数の画像を捕捉し、デジタル接続（例えば、ＵＳＢ、無線、Ｂｌｕｅｔｏｏｔｈ等）を介して処理ユニット１１０に送信し得る。幾つかの実施形態では、処理ユニット１１０は、３つ以上のデータインタフェースを介して第１、第２及び第３の複数の画像を受信し得る。例えば、画像捕捉デバイス１２２、１２４及び１２６のそれぞれは、処理ユニット１１０にデータを通信する関連付けられたデータインタフェースを有し得る。開示される実施形態は、いかなる特定のデータインタフェース構成又はプロトコルにも限定されない。
ステップ７２０において、処理ユニット１１０は、第１、第２及び第３の複数の画像を分析して、レーンマーク、車両、歩行者、道路標識、高速道路出口ランプ、信号機及び道路危険物等の画像内の特徴を検出し得る。分析は、図５Ａ～図５Ｄ及び図６に関連して上述したステップと同様に実行され得る。例えば、処理ユニット１１０は、単眼画像分析を第１、第２及び第３の複数のそれぞれの画像に対して実行し得る（例えば、単眼画像分析モジュール４０２の実行及び図５Ａ～図５Ｄに関連して上述したステップに基づいて）。代替的には、処理ユニット１１０は、立体画像分析を第１及び第２の複数の画像、第２及び第３の複数の画像及び／又は第１及び第３の複数の画像に対して実行し得る（例えば、立体画像分析モジュール４０４の実行を介して及び図６に関連して上述したステップに基づいて）。第１、第２及び／又は第３の複数の画像の分析に対応する処理済み情報は、結合し得る。幾つかの実施形態では、処理ユニット１１０は、単眼画像分析と立体画像分析との組み合わせを実行し得る。例えば、処理ユニット１１０は、単眼画像分析を第１の複数の画像に対して実行し（例えば、単眼画像分析モジュール４０２の実行を介して）、立体画像分析を第２及び第３の複数の画像に対して実行し得る（例えば、立体画像分析モジュール４０４の実行を介して）。画像捕捉デバイス１２２、１２４及び１２６の構成 － 各位置及び視野２０２、２０４及び２０６を含め － は、第１、第２及び第３の複数の画像に対して行われる分析のタイプに影響を及ぼし得る。開示される実施形態は、画像捕捉デバイス１２２、１２４及び１２６の特定の構成又は第１、第２及び第３の複数の画像に対して行われる分析のタイプに限定されない。
幾つかの実施形態では、処理ユニット１１０は、ステップ７１０及び７２０において取得され分析される画像に基づいて、システム１００にテストを実行し得る。そのようなテストは、画像捕捉デバイス１２２、１２４及び１２６の特定の構成でのシステム１００の全体性能のインジケータを提供し得る。例えば、処理ユニット１１０は、「偽性ヒット」（例えば、システム１００が車両又は歩行者の存在を誤って判断する場合）及び「見落とし」の割合を特定し得る。
ステップ７３０において、処理ユニット１１０は、第１、第２及び第３の複数の画像の２つから導出される情報に基づいて、車両２００での１つ又は複数のナビゲーション応答を生じさせ得る。第１、第２及び第３の複数の画像の２つの選択は、例えば、複数の画像のそれぞれで検出される物体の数、タイプ及びサイズ等の様々なファクタに依存し得る。処理ユニット１１０は、画像の品質及び解像度、画像に反映される有効視野、捕捉フレーム数及び対象となる１つ又は複数の物体が実際にフレームに現れる程度（例えば、物体が現れるフレームのパーセンテージ、物体がそのような各フレームで現れる割合等）等に基づいて選択を行うことができる。
幾つかの実施形態では、処理ユニット１１０は、ある画像ソースから導出される情報が、他の画像ソースから導出される情報と一貫する程度を特定することにより、第１、第２及び第３の複数の画像の２つから導出される情報を選択し得る。例えば、処理ユニット１１０は、画像捕捉デバイス１２２、１２４及び１２６のそれぞれから導出される処理済み情報（単眼分析であれ、立体分析であれ、又はそれら２つの任意の組み合わせであれ関係なく）を結合して、画像捕捉デバイス１２２、１２４及び１２６のそれぞれから捕捉された画像にわたり一貫する視覚的インジケータ（例えば、レーンマーク、検出される車両及び／又はその位置及び／又は経路、検出される信号機等）を特定し得る。処理ユニット１１０は、捕捉された画像にわたり一貫しない情報（例えば、レーンを変更中の車両、車両２００に近すぎる車両を示すレーンモデル等）を除外することもできる。従って、処理ユニット１１０は、一貫情報及び非一貫情報の特定に基づいて、第１、第２及び第３の複数の画像の２つからの導出される情報を選択し得る。
ナビゲーション応答は、例えば、ターン、レーンシフト及び加速度変更を含み得る。処理ユニット１１０は、ステップ７２０において実行される分析及び図４に関連して上述した技法に基づいて、１つ又は複数のナビゲーション応答を生じさせ得る。処理ユニット１１０は、速度及び加速度モジュール４０６の実行から導出されるデータを使用して、１つ又は複数のナビゲーション応答を生じさせることもできる。幾つかの実施形態では、処理ユニット１１０は、車両２００と第１、第２及び第３の複数の画像のいずれかで検出される物体との間の相対位置、相対速度及び／又は相対加速度に基づいて、１つ又は複数のナビゲーション応答を生じさせ得る。複数のナビゲーション応答は、同時に行われ得るか、順次行われ得るか、又はそれらの任意の組み合わせで行われ得る。
自律車両ナビゲーションのための疎な道路モデル
幾つかの実施形態では、開示されるシステム及び方法は、自律車両ナビゲーションのために疎なマップを使用し得る。具体的には、疎なマップは、道路区分に沿った自律車両ナビゲーションのためであり得る。例えば、疎なマップは、大量のデータを記憶及び／又は更新することなく、自律車両をナビゲートするための十分な情報を提供し得る。以下で更に詳細に論じるように、自律車両は、疎なマップを使用して、１つ又は複数の記憶される軌道に基づいて１つ又は複数の道路をナビゲートし得る。
自律車両ナビゲーションのための疎なマップ
幾つかの実施形態では、開示されるシステム及び方法は、自律車両ナビゲーションのために疎なマップを生成し得る。例えば、疎なマップは、過度のデータストレージ又はデータ転送速度を必要とすることなく、ナビゲーションに十分な情報を提供し得る。以下で更に詳細に論じるように、車両（自律車両であり得る）は、疎なマップを使用して１つ又は複数の道路をナビゲートし得る。例えば、幾つかの実施形態では、疎なマップは、道路に関連するデータ、及び車両ナビゲーションに十分であり得るが、小さなデータフットプリントも示す道路に沿った潜在的な陸標を含み得る。例えば、以下で詳細に説明する疎なデータマップは、道路に沿って収集される画像データ等の詳細なマップ情報を含むデジタルマップと比較して、必要な記憶領域及びデータ転送帯域幅が大幅に少なくなり得る。
例えば、道路区分の詳細な表現を記憶するのではなく、疎なデータマップは、道路に沿った好ましい車両経路の３次元多項式表現を記憶し得る。これらの経路は、データ記憶領域をほとんど必要とし得ない。更に、説明される疎なデータマップでは、ナビゲーションを支援するために、陸標が識別され、疎なマップ道路モデルに含まれ得る。これらの陸標は、車両のナビゲーションを可能にするのに適した任意の間隔で配置され得るが、場合によっては、高密度及び短い間隔で、そのような陸標を識別し、モデルに含める必要はない。むしろ、場合によっては、少なくとも５０メートル、少なくとも１００メートル、少なくとも５００メートル、少なくとも１キロメートル、又は少なくとも２キロメートル離れた陸標に基づいてナビゲーションが可能であり得る。他の節でより詳細に論じるように、疎なマップは、車両が道路に沿って移動するときに、画像捕捉デバイス、全地球測位システムセンサ、移動センサ等の様々なセンサ及びデバイスを備えた車両によって収集又は測定されるデータに基づいて生成され得る。場合によっては、疎なマップは、特定の道路に沿った１つ又は複数の車両の複数の走行中に収集されるデータに基づいて生成され得る。１つ又は複数の車両の複数の走行を使用して疎なマップを生成することは、疎なマップの「クラウドソーシング」と呼ばれ得る。
開示される実施形態によれば、自律車両システムは、ナビゲーションのために疎なマップを使用し得る。例えば、開示されるシステム及び方法は、自律車両のための道路ナビゲーションモデルを生成するための疎なマップを配信し得て、疎なマップ及び／又は生成される道路ナビゲーションモデルを使用して道路区分に沿って自律車両をナビゲートし得る。本開示による疎なマップは、自律車両が関連付けられた道路区分に沿って移動するときに横断し得る所定の軌道を表し得る１つ又は複数の３次元輪郭を含み得る。
本開示による疎なマップはまた、１つ又は複数の道路特徴を表すデータを含み得る。そのような道路の特徴には、認識される陸標、道路シグネチャプロファイル、及び車両のナビゲートに有用な任意の他の道路関連の特徴が含まれ得る。本開示による疎なマップは、疎なマップに含まれる比較的少量のデータに基づく車両の自律ナビゲーションを可能にし得る。例えば、道路端部、道路の曲率、道路区分に関連付けられた画像、又は道路区分に関連付けられた他の物理的特徴を詳細に示すデータ等、道路の詳細な表現を含めなくても、疎なマップの開示される実施形態は、比較的少ない記憶領域（及び疎なマップの一部が車両に転送されるときの比較的小さな帯域幅）は必要となり得るが、それでも自律車両ナビゲーションを適切に提供し得る。以下で更に詳細に論じる、開示される疎なマップの小さなデータフットプリントは、幾つかの実施形態では、少量のデータを必要とするが、それでも自律ナビゲーションを可能にする道路関連要素の表現を記憶することによって実現され得る。
例えば、道路の様々な側面の詳細な表現を記憶するのではなく、開示される疎なマップは、車両が道路を追従し得る１つ又は複数の軌道の多項式表現を記憶し得る。従って、開示される疎なマップを使用して、道路に沿ったナビゲーションを可能にするために道路の物理的性質に関する詳細を記憶する（又は転送する必要がある）のではなく、車両は、場合によっては、道路の物理的側面を解釈する必要なしに、むしろ、その走行経路を特定の道路区分に沿った軌道（例えば、多項式スプライン）に位置合わせすることによって、特定の道路区分に沿ってナビゲートされ得る。このようにして、車両は、主に、道路画像、道路パラメータ、道路レイアウト等の記憶を含む手法よりもはるかに少ない記憶領域を必要とし得る、記憶される軌道（例えば、多項式スプライン）に基づいてナビゲートされ得る。
道路区分に沿った軌道の記憶される多項式表現に加えて、開示される疎なマップはまた、道路の特徴を表し得る小さなデータオブジェクトを含み得る。幾つかの実施形態では、小さなデータオブジェクトは、道路区分に沿って走行する車両に搭載されたセンサ（例えば、カメラ又はサスペンションセンサ等の他のセンサ）によって取得されたデジタル画像（又はデジタル信号）から導出されるデジタルシグネチャを含み得る。デジタルシグネチャは、センサによって取得された信号に比べて縮小されたサイズとなり得る。幾つかの実施形態では、デジタルシグネチャは、例えば、その走行中にセンサによって取得される信号から道路特徴を検出及び識別するように構成される分類子関数と互換性があるように作成され得る。幾つかの実施形態では、デジタルシグネチャは、その後に同じ道路区分に沿って走行する車両に搭載されるカメラによって捕捉される道路特徴の画像（又は、記憶されるシグネチャが画像に基づいていない、及び／又は他のデータを含んでいる場合は、センサによって生成されるデジタル信号）に基づいて、道路特徴を記憶されるシグネチャと相関又は一致させる能力を保持しながら、デジタルシグネチャが可能な限り小さいフットプリントを有するように作成され得る。
幾つかの実施形態では、データオブジェクトのサイズは、道路特徴の独自性に更に関連付けられ得る。例えば、車両に搭載されるカメラによって検出可能な道路特徴について、車両に搭載されるカメラシステムが、特定のタイプの道路特徴、例えば、道路標識に関連付けられているものとしてその道路特徴に対応する画像データを区別できる分類子に結合されている場合、及びそのような道路標識がその領域で局所的に一意（例えば、付近に同一の道路標識又は同じタイプの道路標識がない）である場合、道路の特徴のタイプ及びその位置を示すデータを記憶するだけで十分であり得る。
以下で更に詳細に論じるように、道路特徴（例えば、道路区分に沿った陸標）は、比較的数バイトで道路特徴を表し得る小さなデータオブジェクトとして記憶され得て、同時に、ナビゲーションのためにそのような特徴を認識及び使用するための十分な情報を提供し得る。一例では、道路標識は、車両のナビゲーションが基づき得る認識される陸標として識別され得る。道路標識の表現は、例えば、陸標のタイプを示す数バイトのデータ（例えば、一時停止標識）及び陸標の位置（例えば、座標）を示す数バイトのデータを含むように、疎なマップに記憶され得る。陸標のそのようなデータ観点の表現に基づいてナビゲートする（例えば、陸標に基づいて位置を特定し、認識し、ナビゲートするのに十分な表現を使用する）は、疎なマップに関連付けられたデータオーバーヘッドを大幅に増加させることなく、疎なマップに関連付けられた所望のレベルのナビゲーション機能を提供し得る。このような陸標（及び他の道路特徴）の無駄のない表現は、特定の道路特徴を検出、識別、及び／又は分類するように構成される、そのような車両に搭載されるセンサ及びプロセッサを利用し得る。
例えば、標識又は特定のタイプの標識が特定の領域で局所的に一意である場合（例えば、他の標識がない場合、又は同じタイプの他の標識がない場合）、疎なマップは、陸標（標識又は特定のタイプの標識）のタイプを示すデータを使用し得て、自律車両に搭載されるカメラが標識（又は特定のタイプの標識）を含む領域の画像を捕捉するときのナビゲーション（例えば、自律ナビゲーション）中、プロセッサは、画像を処理し、標識を検出し（実際に画像に存在する場合）、画像を標識として（又は特定のタイプの標識として）分類し、画像の位置を疎なマップに記憶されている標識の位置と相関させ得る。
疎なマップの生成
幾つかの実施形態では、疎なマップは、道路区分及び道路区分に関連付けられた複数の陸標に沿って広がる路面特徴の少なくとも１つの線表現を含み得る。特定の態様では、疎なマップは、「クラウドソーシング」を介して、例えば、１つ又は複数の車両が道路区分を横断するときに取得される複数の画像の画像分析を介して生成され得る。
図８は、１つ又は複数の車両、例えば、車両２００（自律車両であり得る）が、自律車両ナビゲーションを提供するためにアクセスし得る疎なマップ８００を示す。疎なマップ８００は、メモリ１４０又は１５０等のメモリに記憶され得る。そのようなメモリデバイスは、任意のタイプの非一時的ストレージデバイス又はコンピュータ可読媒体を含み得る。例えば、幾つかの実施形態では、メモリ１４０又は１５０は、ハードドライブ、コンパクトディスク、フラッシュメモリ、磁気ベースのメモリデバイス、光学ベースのメモリデバイス等を含み得る。幾つかの実施形態では、疎なマップ８００は、メモリ１４０もしくは１５０、又は他のタイプのストレージデバイスに記憶され得るデータベース（例えば、マップデータベース１６０）に記憶され得る。
幾つかの実施形態では、疎なマップ８００は、車両２００に搭載されるストレージデバイス又は非一時的コンピュータ可読媒体（例えば、車両２００に搭載されるナビゲーションシステムに含まれるストレージデバイス）に記憶され得る。車両２００に搭載されるプロセッサ（例えば、処理ユニット１１０）は、車両が道路区分を横断するときに自律車両２００を誘導するためのナビゲーション命令を生成するために、車両２００に搭載されるストレージデバイス又はコンピュータ可読媒体に記憶される疎なマップ８００にアクセスし得る。
ただし、疎なマップ８００は、車両に関してローカルに記憶する必要はない。幾つかの実施形態では、疎なマップ８００は、車両２００又は車両２００に関連付けられたデバイスと通信する遠隔サーバ上に提供されるストレージデバイス又はコンピュータ可読媒体に記憶され得る。車両２００に搭載されるプロセッサ（例えば、処理ユニット１１０）は、疎なマップ８００に含まれるデータを遠隔サーバから受信し得て、車両２００の自動運転を誘導するためのデータを実行し得る。そのような実施形態では、遠隔サーバは、疎なマップ８００の全て又はその一部のみを記憶し得る。従って、車両２００及び／又は１つ又は複数の追加の車両に搭載されるストレージデバイス又はコンピュータ可読媒体は、疎なマップ８００の残りの部分を記憶し得る。
更に、そのような実施形態では、疎なマップ８００は、様々な道路区分を横断する複数の車両（例えば、数十、数百、数千、又は数百万の車両等）にアクセス可能にし得る。疎なマップ８００は、複数のサブマップを含み得ることにも留意されたい。例えば、幾つかの実施形態では、疎なマップ８００は、車両をナビゲートする際に使用され得る数百、数千、数百万、又はそれ以上のサブマップを含み得る。そのようなサブマップはローカルマップと呼ばれ得て、道路に沿って走行する車両は、車両が走行している場所に関連する任意の数のローカルマップにアクセスし得る。疎なマップ８００のローカルマップ区域は、疎なマップ８００のデータベースへのインデックスとして、グローバルナビゲーション衛星システム（ＧＮＳＳ）キーと共に記憶され得る。従って、本システムでのホスト車両をナビゲートするための操舵角の計算は、ホスト車両のＧＮＳＳ位置、道路特徴、又は陸標に依存せずに実行され得るが、そのようなＧＮＳＳ情報は、関連するローカルマップの検索に使用され得る。
一般に、疎なマップ８００は、１つ又は複数の車両が道路に沿って走行するときに、１つ又は複数の車両から収集されるデータに基づいて生成され得る。例えば、１つ又は複数の車両に搭載されるセンサ（例えば、カメラ、速度計、ＧＰＳ、加速度計等）を使用して、１つ又は複数の車両が道路に沿って走行する軌道を記録し得て、道路に沿って後続の走行を行う車両の好ましい軌道の多項式表現は、１つ又は複数の車両によって走行される収集される軌道に基づいて決定され得る。同様に、１つ又は複数の車両によって収集されるデータは、特定の道路に沿った潜在的な陸標の識別を支援し得る。横断車両から収集されるデータは、道路幅プロファイル、道路粗さプロファイル、動線間隔プロファイル、道路条件等の道路プロファイル情報を識別するためにも使用され得る。収集される情報を使用して、疎なマップ８００が生成され、１つ又は複数の自律車両のナビゲートに使用するために、（例えば、ローカルストレージのために、又はオンザフライデータ送信を介して）配信され得る。しかし、幾つかの実施形態では、マップ生成は、マップの初期生時で終了し得ない。以下でより詳細に論じるように、疎なマップ８００は、それらの車両が疎なマップ８００に含まれる道路を横断し続けるときに、車両から収集されるデータに基づいて継続的又は定期的に更新され得る。
疎なマップ８００に記録されるデータは、全地球測位システム（ＧＰＳ）データに基づく位置情報を含み得る。例えば、位置情報は、例えば、陸標位置、道路プロファイル位置等を含む、様々なマップ要素の疎なマップ８００に含まれ得る。疎なマップ８００に含まれるマップ要素の位置は、道路を横断する車両から収集されるＧＰＳデータを使用して取得し得る。例えば、識別される陸標を通過する車両は、車両に関連付けられたＧＰＳ位置情報を使用して識別される陸標の位置を決定し、（例えば、車両に搭載される１つ又は複数のカメラから収集されるデータの画像分析に基づいて）車両に対する識別される陸標の位置を決定し得る。識別される陸標（又は疎なマップ８００に含まれる他の特徴）のそのような位置決定は、追加の車両が識別される陸標の位置を通過するときに繰り返され得る。追加の位置決定の一部又は全部を使用して、識別される陸標に関連して疎なマップ８００に記憶される位置情報を洗練させ得る。例えば、幾つかの実施形態では、疎なマップ８００に記憶される特定の特徴に関連する複数の位置測定値を共に平均化し得る。しかし、他の任意の数学的演算を使用して、マップ要素の複数の決定された位置に基づいて、マップ要素の記憶される位置を洗練させることもできる。
開示される実施形態の疎なマップは、比較的少量の記憶されるデータを使用して車両の自律ナビゲーションを可能にし得る。幾つかの実施形態では、疎なマップ８００は、道路１キロメートル当たり２ＭＢ未満、道路１キロメートル当たり１ＭＢ未満、道路１キロメートル当たり５００ＫＢ未満、又は道路１キロメートル当たり１００ＫＢ未満のデータ密度（例えば、目標軌道、陸標、及び他の記憶された道路特徴を表すデータを含む）を有し得る。幾つかの実施形態では、疎なマップ８００のデータ密度は、道路１キロメートル当たり１０ＫＢ未満、又は道路１キロメートル当たり２ＫＢ未満（例えば、１キロメートル当たり１．６ＫＢ）、又は道路１キロメートル当たり１０ＫＢ以下、又は道路１キロメートル当たり２０ＫＢ以下であり得る。幾つかの実施形態では、米国の道路の全てではないにしてもほとんどが、合計４ＧＢ以下のデータを有する疎なマップを使用して自律的にナビゲートされ得る。これらのデータ密度値は、疎なマップ８００全体にわたる、疎なマップ８００内のローカルマップにわたる、及び／又は疎なマップ８００内の特定の道路区分にわたる平均を表し得る。
上記で述べたように、疎なマップ８００は、道路区分に沿った自律運転又はナビゲーションを誘導するための複数の目標軌道８１０の表現を含み得る。そのような目標軌道は、３次元スプラインとして記憶され得る。疎なマップ８００に記憶される目標軌道は、例えば、特定の道路区分に沿った車両の以前の横断の２つ以上の再構築される軌道に基づいて決定され得る。道路区分は、単一の目標軌道又は複数の目標軌道に関連付けられ得る。例えば、２レーン道路では、第１の目標軌道は、第１の方向の道路に沿った意図される走行経路を表すために記憶され得て、第２の目標軌道は、別の方向（例えば、第１の方向と反対方向）の道路に沿った意図される走行経路を表すために記憶され得る。追加の目標軌道は、特定の道路区分に関して記憶され得る。例えば、複数レーンの道路では、複数レーンの道路に関連付けられた１つ又は複数のレーンの車両の意図される走行経路を表す１つ又は複数の目標軌道が記憶され得る。幾つかの実施形態では、複数レーン道路の各レーンは、それ自体の目標軌道に関連付けられ得る。他の実施形態では、複数レーンの道路に存在するレーンよりも、記憶されている目標軌道が少なくなり得る。そのような場合、複数レーンの道路をナビゲートする車両は、記憶される目標軌道のいずれかを使用して、目標軌道が記憶されているレーンからのレーンオフセットの量を考慮してナビゲーションを誘導し得る（例えば、車両が３レーンの高速道路の左端レーンを走行していて、目標軌道が高速道路の中央レーンに対してのみ記憶されている場合、車両は、ナビゲーション指示を生成するときに、中央レーンと左端レーンとの間のレーンオフセットの量を考慮して、中央レーンの目標軌道を使用してナビゲートし得る）。
幾つかの実施形態では、目標軌道は、車両が走行するときに車両が取るべき理想的な経路を表し得る。目標軌道は、例えば、走行レーンのほぼ中心に配置され得る。その他の場合、目標軌道は道路区分に対して他の場所に配置され得る。例えば、目標軌道は、道路の中心、道路の端、又はレーンの端等とほぼ一致し得る。そのような場合、目標軌道に基づくナビゲーションは、目標軌道の位置に対して維持すべき決定された量のオフセットを含み得る。更に、幾つかの実施形態では、目標軌道の位置に対して維持すべきオフセットの決定された量は、車両のタイプに基づいて異なり得る（例えば、２つの車軸を含む乗用車は、目標軌道の少なくとも一部に沿って、３つ以上の車軸を含むトラックとは異なるオフセットを有し得る）。
疎なマップ８００はまた、特定の道路区分、ローカルマップ等に関連付けられた複数の所定の陸標８２０に関連するデータを含み得る。以下でより詳細に論じるように、これらの陸標を使用して、自律車両をナビゲーションし得る。例えば、幾つかの実施形態では、陸標を使用して、記憶される目標軌道に対する車両の現在の位置を決定し得る。この位置情報を使用して、自律車両は、決定された位置での目標軌道の方向に一致するように進行方向が調整可能あり得る。
複数の陸標８２０は、任意の適切な間隔で識別され、疎なマップ８００に記憶され得る。幾つかの実施形態では、陸標は比較的高い密度で（例えば、数メートル以上ごとに）記憶され得る。しかし、幾つかの実施形態では、著しく大きな陸標の間隔値を使用し得る。例えば、疎なマップ８００では、識別される（又は認識される）陸標は、１０メートル、２０メートル、５０メートル、１００メートル、１キロメートル、又は２キロメートルの間隔で離れ得る。場合によっては、識別される陸標が２キロメートル以上離れた場所にあり得る。
陸標間、従って目標軌道に対する車両位置を決定する間には、車両は、車両がセンサを使用して自己運動を決定し、目標軌道に対する位置を推定する推測航法に基づいてナビゲートし得る。推測航法によるナビゲーション中に誤差が蓄積し得るため、経時的に目標軌道に対する位置決定の精度が次第に低下し得る。車両は、疎なマップ８００（及びそれらの既知の位置）に存在する陸標を使用して、位置決定における推測航法によって誘発される誤差を除去し得る。このようにして、疎なマップ８００に含まれる識別される陸標は、ナビゲーションアンカーとして機能し得て、そこから、目標軌道に対する車両の正確な位置を決定し得る。位置決定では、ある程度の誤差が許容され得るため、識別される陸標が自律車両で常に利用可能である必要はない。むしろ、上記で述べたように、１０メートル、２０メートル、５０メートル、１００メートル、５００メートル、１キロメートル、２キロメートル、又はそれ以上の陸標間隔に基づいても、適切なナビゲーションが可能であり得る。幾つかの実施形態では、道路の１ｋｍごとに１つの識別された陸標の密度は、１ｍ以内の縦方向の位置決定精度を維持するのに十分であり得る。従って、道路区分に沿って現れる全ての潜在的な陸標を疎なマップ８００に記憶する必要があるとは限らない。
更に、幾つかの実施形態では、レーンマークは、陸標間隔の間の車両の位置特定のために使用され得る。陸標間隔の間にレーンマークを使用することにより、推測航法によるナビゲーション中の蓄積が最小限に抑えられ得る。
目標軌道及び識別される陸標に加えて、疎なマップ８００は、他の様々な道路特徴に関連する情報を含み得る。例えば、図９Ａは、疎なマップ８００に記憶され得る特定の道路区分に沿った曲線の表現を示す。幾つかの実施形態では、道路の単一レーンは、道路の左側及び右側の３次元多項式記述によってモデル化され得る。単一レーンの左側及び右側を表す、そのような多項式を図９Ａに示す。道路が有し得るレーン数に関係なく、図９Ａに示すのと同様の方法で、多項式を使用して道路を表し得る。例えば、複数レーンの道路の左側及び右側は、図９Ａに示したものと同様の多項式で表し得て、複数レーンの道路に含まれる中間レーンのマーク（例えば、レーンの境界を表す破線のマーク、異なる方向に走行するレーン間の境界を表す黄色の実線等）も、図９Ａに示すような多項式を使用して表し得る。
図９Ａに示すように、レーン９００は、多項式（例えば、１次、２次、３次、又は任意の適切な次数の多項式）を使用して表し得る。説明のために、レーン９００は２次元レーンとして示され、多項式は２次元多項式として示されている。図９Ａに示すように、レーン９００は左側９１０及び右側９２０を含む。幾つかの実施形態では、複数の多項式を使用して、道路又はレーンの境界の各側の位置を表し得る。例えば、左側９１０及び右側９２０のそれぞれは、任意の適切な長さの複数の多項式によって表し得る。場合によっては、多項式が約１００ｍの長さになり得るが、１００ｍより長い又は短い他の長さも使用し得る。更に、ホスト車両が道路に沿って走行するときに、その後に遭遇する多項式に基づいてナビゲートする際のシームレスな遷移を容易にするために、多項式を互いに重なり合わせることができる。例えば、左側９１０及び右側９２０のそれぞれは、長さが約１００メートルの区分（第１の所定の範囲の例）に分離され、互いに約５０メートル重なり合う複数の３次多項式によって表し得る。左側９１０及び右側９２０を表す多項式は、同じ順序であり得るか、又は同じ順序であり得ない。例えば、幾つかの実施形態では、幾つかの多項式は２次多項式であり得て、幾つかは３次多項式であり得て、幾つかは４次多項式であり得る。
図９Ａに示す例では、レーン９００の左側９１０は、３次多項式の２つのグループで表されている。第１のグループには、多項式区分９１１、９１２、及び９１３が含まれる。第２のグループには、多項式区分９１４、９１５、及び９１６が含まれる。２つのグループは、互いに実質的に平行であるが、道路のそれぞれの側の位置に従う。多項式区分９１１、９１２、９１３、９１４、９１５、及び９１６は約１００メートルの長さであり、一連内の隣接する区分と約５０メートル重なり合っている。ただし、前述のように、長さ及び重なり合う量はまた、異なる多項式を使用し得る。例えば、多項式は５００ｍ、１ｋｍ、又はそれ以上の長さであり得て、重なり合う量は０～５０ｍ、５０ｍ～１００ｍ、又は１００ｍ超に変化し得る。更に、図９Ａは、２Ｄ空間（例えば、紙の表面上）に広がる多項式を表すものとして示され、これらの多項式は、Ｘ－Ｙ曲率に加えて、道路区分の標高の変化を表すために、（例えば、高さ成分を含む）３次元に広がる曲線を表し得ることを理解されたい。図９Ａに示す例では、レーン９００の右側９２０は、多項式区分９２１、９２２、及び９２３を有する第１のグループ、並びに多項式区分９２４、９２５、及び９２６を有する第２のグループによって更に表される。
疎なマップ８００の目標軌道に戻り、図９Ｂは、特定の道路区分に沿って走行する車両の目標軌道を表す３次元多項式を示す。目標軌道は、ホスト車両が特定の道路区分に沿って走行すべきＸ－Ｙ経路だけでなく、ホスト車両が道路区分に沿って走行するときに経験する標高の変化も表す。従って、疎なマップ８００内の各目標軌道は、図９Ｂに示す３次元多項式９５０のように、１つ又は複数の３次元多項式によって表し得る。疎なマップ８００は、複数（例えば、世界中の道路に沿った様々な道路区分に沿った車両の軌道を表すために、数百万又は数十億以上）の軌道を含み得る。幾つかの実施形態では、各目標軌道は、３次元多項式区分を接続するスプラインに対応し得る。
疎なマップ８００に記憶される多項式曲線のデータフットプリントに関して、幾つかの実施形態では、各３次多項式は、４つのパラメータによって表され、それぞれは４バイトのデータを必要とし得る。適切な表現は、１００ｍごとに約１９２バイトのデータを必要とする３次多項式で取得し得る。これは、約１００ｋｍ／ｈｒを走行するホスト車両のデータ使用量／転送要件で１時間当たり約２００ＫＢと言い換え得る。
疎なマップ８００は、ジオメトリ記述子とメタデータとの組み合わせを使用してレーンネットワークを記述し得る。ジオメトリは、上述したように多項式又はスプラインで記述し得る。メタデータは、レーンの数、特別な特性（カープールレーン等）、及び場合により他の疎なラベルを記述し得る。そのような指標の総フットプリントは、ごくわずかであり得る。
従って、本開示の実施形態による疎なマップは、道路区分に沿って広がる路面特徴の少なくとも１つの線表現を含み得て、各線表現は、路面特徴に実質的に対応する道路区分に沿った経路を表す。幾つかの実施形態では、上記で論じたように、路面特徴の少なくとも１つの線表現は、スプライン、多項式表現、又は曲線を含み得る。更に、幾つかの実施形態では、路面特徴は、道路端部又はレーンマークのうちの少なくとも１つを含み得る。更に、「クラウドソーシング」に関して以下で論じるように、路面特徴は、１つ又は複数の車両が道路区分を横断するときに取得される複数の画像の画像分析によって識別され得る。
前述したように、疎なマップ８００は、道路区分に関連付けられた複数の所定の陸標を含み得る。陸標の実際の画像を記憶して、例えば、捕捉された画像及び記憶される画像に基づく画像認識分析に依存するのではなく、疎なマップ８００の各陸標は、記憶される実際の画像が必要とするよりも少ないデータを使用して表現及び認識され得る。陸標を表すデータは、道路に沿った陸標を説明又は識別するための十分な情報が含み得る。陸標の実際の画像ではなく、陸標の特性を記述したデータを記憶することで、疎なマップ８００のサイズを縮小し得る。
図１０は、疎なマップ８００で表され得る陸標のタイプの例を示す。陸標には、道路区分に沿った可視及び識別可能な物体が含まれ得る。陸標は、固定されており、場所及び／又は内容に関して頻繁に変更されないように選択し得る。疎なマップ８００に含まれる陸標は、車両が特定の道路区分を横断するときに、目標軌道に対する車両２００の位置を決定するのに有用であり得る。陸標の例は、交通標識、方向標識、一般標識（例えば、長方形の標識）、路傍の備品（例えば、街灯柱、反射板等）、及びその他の適切なカテゴリを含み得る。幾つかの実施形態では、道路上のレーンマークはまた、疎なマップ８００の陸標として含まれ得る。
図１０に示す陸標の例は、交通標識、方向標識、路傍の備品、及び一般標識を含む。交通標識は、例えば、制限速度標識（例えば、制限速度標識１０００）、譲れの標識（例えば、譲れの標識１００５）、路線番号標識（例えば、路線番号標識１０１０）、信号機標識（例えば、信号機標識１０１５）、一時停止標識（例えば、一時停止標識１０２０）を含み得る。方向標識は、異なる場所への１つ又は複数の方向を示す１つ又は複数の矢印を含む標識を含み得る。例えば、方向標識は、車両を異なる道路又は場所の方向を指示するための矢印を有する高速道路標識１０２５、車両を道路から出る方向を指示する矢印を有する出口標識１０３０等を含み得る。従って、複数の陸標のうちの少なくとも１つは、道路標識を含み得る。
一般標識は、交通に無関係であり得る。例えば、一般標識は、広告に使用される看板、又は２つの国、州、郡、市、又は町の間の境界に隣接するウェルカムボードを含み得る。図１０は、一般標識１０４０（「Ｊｏｅ'ｓ Ｒｅｓｔａｕｒａｎｔ」）を示す。図１０に示すように、一般標識１０４０は長方形の形状を有し得るが、一般標識１０４０は、正方形、円形、三角形等の他の形状を有し得る。
陸標はまた、路傍の備品を含み得る。路傍の備品は、標識ではない物体であり得て、交通又は方向に関連し得ない。例えば、路傍の備品は、街灯柱（例えば、街灯柱１０３５）、電力線柱、信号機柱等を含み得る。
陸標はまた、自律車両のナビゲーションシステムで使用するために特別に設計されるビーコンを含み得る。例えば、そのようなビーコンは、ホスト車両のナビゲートを支援するために所定の間隔で配置される独立型の構造物を含み得る。そのようなビーコンはまた、道路区分に沿って走行する車両によって識別又は認識され得る既存の道路標識（例えば、アイコン、エンブレム、バーコード等）に追加される視覚的／グラフィック情報を含み得る。そのようなビーコンはまた、電子部品を含み得る。そのような実施形態では、電子ビーコン（例えば、ＲＦＩＤタグ等）を使用して、非視覚的情報をホスト車両に送信し得る。そのような情報は、例えば、ホスト車両が目標軌道に沿ったその位置を決定する際に使用し得る陸標識別及び／又は陸標位置情報を含み得る。
幾つかの実施形態では、疎なマップ８００に含まれる陸標は、所定のサイズのデータオブジェクトによって表され得る。陸標を表すデータは、特定の陸標を識別するための任意の適切なパラメータを含み得る。例えば、幾つかの実施形態では、疎なマップ８００に記憶される陸標は、陸標の物理的サイズ（例えば、既知のサイズ／スケールに基づく陸標までの距離の推定をサポートするため）、前の陸標までの距離、横方向のオフセット、高さ、タイプコード（例えば、陸標タイプ － 方向標識、交通標識等のタイプ）、ＧＰＳ座標（例えば、グローバルローカリゼーションをサポートするため）、及びその他の適切なパラメータ等のパラメータを含み得る。各パラメータは、データサイズに関連付けられ得る。例えば、陸標サイズは８バイトのデータを使用して記憶され得る。前の陸標までの距離、横方向のオフセット、及び高さは、１２バイトのデータを使用して指定し得る。方向標識又は交通標識等の陸標に関連付けられたタイプコードには、約２バイトのデータが必要になり得る。一般標識の場合、一般標識の識別を可能にする画像シグネチャは、５０バイトのデータストレージを使用して記憶され得る。陸標のＧＰＳ位置は、１６バイトのデータストレージに関連付けられ得る。各パラメータのこれらのデータサイズは単なる例であり、他のデータサイズも使用し得る。
このようにして疎なマップ８００で陸標を表現することは、データベース内の陸標を効率的に表現するための無駄のない解決策を提供し得る。幾つかの実施形態では、標識は、意味的標識及び非意味的標識と呼ばれ得る。意味的標識は、標準化される意味を持つ任意のクラスの標識（例えば、制限速度標識、警告標識、方向標識等）を含め得る。非意味的標識は、標準化される意味に関連付けられていない任意の標識（例えば、一般的な広告標識、事業所を識別する標識等）を含み得る。例えば、各意味的標識は、３８バイトのデータ（例えば、サイズの８バイト、前の陸標までの距離、横方向のオフセット、高さの１２バイト、タイプコードの２バイト、ＧＰＳ座標の１６バイト）で表し得る。疎なマップ８００は、陸標タイプを表すためにタグシステムを使用し得る。場合によっては、各交通標識又は方向標識が独自のタグに関連付けられ、陸標ＩＤの一部としてデータベースに記憶され得る。例えば、データベースは、様々な交通標識を表すために１０００ほどの異なるタグを含み、方向標識を表すために約１００００ほどの異なるタグを含み得る。当然ながら、任意の適切な数のタグを使用し得て、必要に応じて追加のタグを作成し得る。汎用標識は、幾つかの実施形態では、約１００バイト未満を使用して表し得る（例えば、サイズの８バイト、前の陸標までの距離、横方向のオフセット、及び高さの１２バイト、画像シグネチャの５０バイト、及びＧＰＳ座標の１６バイトを含む約８６バイト）。
従って、画像シグネチャを必要としない意味的道路標識の場合、疎なマップ８００へのデータ密度の影響は、５０ｍ当たり約１個の比較的高い陸標密度であっても、１キロメートル当たり約７６０バイトほどになり得る（例えば、１キロメートル当たり２０個の陸標ｘ１個の陸標当たり３８バイト＝７６０バイト）。画像シグネチャ成分を含む汎用標識の場合でも、データ密度への影響は１キロメートル当たり約１．７２ＫＢである（例えば、１キロメートル当たり２０個の陸標×１個の陸標当たり８６バイト＝１，７２０バイト）。意味的道路標識の場合、これは１００ｋｍ／ｈｒで走行する車両の１時間当たり約７６ＫＢのデータ使用量に相当する。汎用標識の場合、これは時速１００ｋｍ／ｈｒで走行する車両の１時間当たり約１７０ＫＢに相当する。
幾つかの実施形態では、長方形の標識等の概して長方形の物体は、１００バイト以下のデータで疎なマップ８００内に表し得る。疎なマップ８００における概して長方形の物体（例えば、一般標識１０４０）の表現は、概して長方形の物体に関連付けられた凝縮画像シグネチャ（例えば、凝縮画像シグネチャ１０４５）を含み得る。この凝縮画像シグネチャは、例えば、認識される陸標として、例えば、汎用標識の識別を支援するために使用され得る。そのような凝縮画像シグネチャ（例えば、物体を表す実際の画像データから導出される画像情報）は、陸標を認識するために物体の実際の画像を記憶する必要性又は実際の画像に対して実行される比較画像分析の必要性を回避し得る。
図１０を参照すると、疎なマップ８００は、一般標識１０４０の実際の画像ではなく、一般標識１０４０に関連付けられた凝縮画像シグネチャ１０４５を含み得るか、又は記憶し得る。例えば、画像捕捉デバイス（例えば、画像捕捉デバイス１２２、１２４、又は１２６）が一般標識１０４０の画像を捕捉した後、プロセッサ（例えば、画像プロセッサ１９０、又はホスト車両に対して搭載されているか、もしくは遠隔設置されているかのいずれかで画像を処理できる他の任意のプロセッサ）は、画像分析を実行して、一般標識１０４０に関連付けられた固有のシグネチャ又はパターンを含む凝縮画像シグネチャ１０４５を抽出／作成し得る。１つの実施形態では、凝縮画像シグネチャ１０４５は、一般標識１０４０を説明するために一般標識１０４０の画像から抽出され得る形状、色パターン、明るさパターン、又は任意の他の特徴を含み得る。
例えば、図１０で、凝縮画像シグネチャ１０４５に示す円形、三角形、及び星形は、異なる色の領域を表し得る。円形、三角形、及び星形によって表されるパターンは、疎なマップ８００に、例えば、画像シグネチャを含むように指定される５０バイト内に記憶され得る。特に、円形、三角形、星は、必ずしもそのような形状が画像シグネチャの一部として記憶されていることを示すことを意味するわけではない。むしろ、これらの形状は、識別可能な色の違い、テキスト領域、グラフィック形状、又は汎用標識に関連付けられ得る特性の他の異形を有する認識可能な領域を概念的に表すことを意図している。そのような凝縮画像シグネチャは、一般標識の形で陸標を識別するために使用できる。例えば、凝縮画像シグネチャを使用して、例えば、自律車両に搭載されるカメラを使用して捕捉された画像データと、記憶される凝縮画像シグネチャとの比較に基づいて、同じか否か分析を実行できる。
従って、複数の陸標は、１つ又は複数の車両が道路区分を横断するときに取得される複数の画像の画像分析によって識別され得る。「クラウドソーシング」に関して以下で説明するように、幾つかの実施形態では、複数の陸標を識別するための画像分析は、陸標が現れる画像と陸標が現れない画像との比率が閾値を超える場合に、潜在的な陸標を受け入れることを含み得る。更に、幾つかの実施形態では、複数の陸標を識別するための画像分析は、陸標が現れない画像と陸標が現れる画像との比率が閾値を超える場合に、潜在的な陸標を拒否することを含み得る。
ホスト車両が特定の道路区分をナビゲートするために使用し得る目標軌道に戻り、図１１Ａは、疎なマップ８００を構築又は維持するプロセス中に捕捉する多項式表現軌道を示す。疎なマップ８００に含まれる目標軌道の多項式表現は、同じ道路区分に沿った車両の以前の横断の２つ以上の再構築される軌道に基づいて決定され得る。幾つかの実施形態では、疎なマップ８００に含まれる目標軌道の多項式表現は、同じ道路区分に沿った車両の以前の横断の２つ以上の再構築される軌道の集約であり得る。幾つかの実施形態では、疎なマップ８００に含まれる目標軌道の多項式表現は、同じ道路区分に沿った車両の以前の横断の２つ以上の再構築される軌道の平均であり得る。他の数学的演算を使用して、道路区分に沿って横断する車両から収集される再構築される軌道に基づいて、道路経路に沿った目標軌道を構築することもできる。
図１１Ａに示すように、道路区分１１００は、異なる時間に複数の車両２００によって走行され得る。各車両２００は、車両が道路区分に沿って取った経路に関連するデータを収集し得る。特定の車両が走行する経路は、他の潜在的な情報源の中でもとりわけ、カメラデータ、加速度計情報、速度センサ情報、及び／又はＧＰＳ情報に基づいて決定され得る。そのようなデータは、道路区分に沿って走行する車両の軌道を再構築するために使用され得て、これらの再構築される軌道に基づいて、特定の道路区分の目標軌道（又は複数の目標軌道）が決定され得る。そのような目標軌道は、車両が道路区分に沿って走行するときの、（例えば、自律ナビゲーションシステムによって誘導される）ホスト車両の好ましい経路を表し得る。
図１１Ａに示す例では、第１の再構築される軌道１１０１は、第１の期間（例えば、１日目）に道路区分１１００を横断する第１の車両から受信されるデータに基づいて決定され得て、第２の再構築される軌道１１０２は、第２の期間（例えば、２日目）に道路区分１１００を横断する第２の車両から取得され得て、第３の再構築される軌道１１０３は、第３の期間（例えば、３日目）に道路区分１１００を横断する第３の車両から取得され得る。各軌道１１０１、１１０２、及び１１０３は、３次元多項式等の多項式によって表し得る。幾つかの実施形態では、再構築される軌道のいずれかが、道路区分１１００を横断する車両に提供され組み立てられ得ることに留意されたい。
加えて又は或いは、そのような再構築される軌道は、道路区分１１００を横断する車両から受信される情報に基づいて、サーバ側で決定され得る。例えば、幾つかの実施形態では、車両２００は、道路区分１１００に沿ったそれらの移動（例えば、とりわけ、操舵角、進行方向、時間、位置、速度、検知される道路のジオメトリ、及び／又は検知される陸標等）に関連するデータを１つ又は複数のサーバに送信し得る。サーバは、受信されるデータに基づいて車両２００の軌道を再構築し得る。サーバはまた、第１、第２、及び第３の軌道１１０１、１１０２、及び１１０３に基づいて、後に同じ道路区分１１００に沿って走行する自律車両のナビゲーションを誘導するための目標軌道を生成し得る。目標軌道は、道路区分の単一の以前の横断に関連付けられ得るが、幾つかの実施形態では、疎なマップ８００に含まれる各目標軌道は、同じ道路区分を横断する車両の２つ以上の再構築される軌道に基づいて決定され得る。図１１Ａでは、目標軌道は１１１０によって表されている。幾つかの実施形態では、目標軌道１１１０は、第１、第２、及び第３の軌道１１０１、１１０２、及び１１０３の平均に基づいて生成され得る。幾つかの実施形態では、疎なマップ８００に含まれる目標軌道１１１０は、２つ以上の再構築される軌道の集約（例えば、重み付けされる組み合わせ）であり得る。
図１１Ｂ及び図１１Ｃは、地理的領域１１１１内に存在する道路区分に関連付けられた目標軌道の概念を更に示す。図１１Ｂに示すように、地理的領域１１１１内の第１の道路区分１１２０は、第１の方向への車両走行のために指定される２つのレーン１１２２、及び第１の方向とは反対の第２の方向への車両走行のために指定される２つの追加のレーン１１２４を含む複数レーン道路を含み得る。レーン１１２２及びレーン１１２４は、二重の黄色い線１１２３によって分離され得る。地理的領域１１１１はまた、道路区分１１２０と交差する分岐道路区分１１３０を含み得る。道路区分１１３０は、２レーンの道路を含み得て、各レーンは、異なる進行方向に指定される。地理的領域１１１１はまた、一時停止線１１３２、一時停止標識１１３４、制限速度標識１１３６、及び危険標識１１３８等の他の道路特徴を含み得る。
図１１Ｃに示すように、疎なマップ８００は、地理的領域１１１１内の車両の自律ナビゲーションを支援するための道路モデルを含むローカルマップ１１４０を含み得る。例えば、ローカルマップ１１４０は、地理的領域１１１１内の道路区分１１２０及び／又は１１３０に関連付けられた１つ又は複数のレーンの目標軌道を含み得る。例えば、ローカルマップ１１４０は、自律車両がレーン１１２２を横断するときにアクセス又は依存し得る目標軌道１１４１及び／又は１１４２を含み得る。同様に、ローカルマップ１１４０は、自律車両がレーン１１２４を横断するときにアクセス又は依存し得る目標軌道１１４３及び／又は１１４４を含み得る。更に、ローカルマップ１１４０は、自律車両が道路区分１１３０を横断するときにアクセス又は依存し得る目標軌道１１４５及び／又は１１４６を含み得る。目標軌道１１４７は、レーン１１２０（具体的には、レーン１１２０の右端のレーンに関連付けられた目標軌道１１４１に対応）から道路区分１１３０（具体的には、道路区分１１３０の第１の側に関連付けられた目標軌道１１４５に対応）に移行するときに自律車両が進むべき好ましい経路を表す。同様に、目標軌道１１４８は、道路区分１１３０から（具体的には、目標軌道１１４６に対応）道路区分１１２４の一部（具体的には、示すように、レーン１１２４の左レーンに関連付けられた目標軌道１１４３に対応）に移行するときに自律車両が進むべき好ましい経路を表す。
疎なマップ８００はまた、地理的領域１１１１に関連付けられた他の道路関連特徴の表現を含み得る。例えば、疎なマップ８００はまた、地理的領域１１１１で識別される１つ又は複数の陸標の表現を含み得る。そのような陸標は、一時停止線１１３２に関連付けられた第１の陸標１１５０、一時停止標識１１３４に関連付けられた第２の陸標１１５２、制限速度標識１１５４に関連付けられた第３の陸標、及び危険標識１１３８に関連付けられた第４の陸標１１５６を含み得る。そのような陸標は、車両が、決定された位置での目標軌道の方向に一致するようにその進行方向を調整し得るように、例えば、自律車両が、示す目標軌道のいずれかに対する現在の位置を決定するのを支援するために使用され得る。
幾つかの実施形態では、疎なマップ８００はまた、道路シグネチャプロファイルを含み得る。そのような道路シグネチャプロファイルは、道路に関連付けられた少なくとも１つのパラメータの識別可能／測定可能な変動に関連付けられ得る。例えば、場合によっては、そのようなプロファイルは、特定の道路区分の表面粗さの変化、特定の道路区分にわたる道路幅の変化、特定の道路区分に沿って描かれた破線の間の距離の変化、特定の道路区分に沿った道路の曲率の変化等の路面情報の変化と関連付けられ得る。図１１Ｄは、道路シグネチャプロファイル１１６０の例を示す。プロファイル１１６０は、上記のパラメータのいずれか、又は他のパラメータを表し得るが、一例では、プロファイル１１６０は、例えば、車両が特定の道路区分を走行するときのサスペンション変位の量を示す出力を提供する１つ又は複数のセンサを監視することによって得られる、路面粗さの測度を表し得る。
或いは、又は同時に、プロファイル１１６０は、特定の道路区分を走行する車両に搭載されるカメラを介して取得される画像データに基づいて決定された、道路幅の変化を表し得る。そのようなプロファイルは、例えば、特定の目標軌道に対する自律車両の特定の位置を決定するのに有用であり得る。すなわち、自律車両が道路区分を横断するとき、自律車両は、道路区分に関連付けられた１つ又は複数のパラメータに関連付けられたプロファイルを測定し得る。測定されるプロファイルを、道路区分に沿った位置に関してパラメータの変化をプロットする所定のプロファイルと相関／一致させることができる場合、道路区分に沿った現在の位置、従って、道路区分の目標軌道に対する現在の位置を決定するために、（例えば、測定される所定のプロファイルの対応する区域を重なり合わせることによって）測定される所定のプロファイルを使用し得る。
幾つか実施形態では、疎なマップ８００は、自律車両のユーザ、環境条件、及び／又は走行に関連する他のパラメータに関連付けられた異なる特性に基づく異なる軌道を含み得る。例えば、幾つかの実施形態では、異なるユーザの好み及び／又はプロファイルに基づいて、異なる軌道が生成され得る。そのような異なる軌道を含む疎なマップ８００は、異なるユーザの異なる自律車両に提供され得る。例えば、一部のユーザは有料道路を避ける方を好み得るが、他のユーザは、ルートに有料道路があるか否かに関係なく、最短又は最速のルートを取ることを好み得る。開示されるシステムは、そのような異なるユーザの好み又はプロファイルに基づいて、異なる軌道を有する異なる疎なマップを生成し得る。別の例として、一部のユーザは高速で移動するレーンを走行することを好み得るが、他のユーザは常に中央レーンの位置を維持することを好み得る。
異なる軌道は、昼及び夜、雪、雨、霧等の異なる環境条件に基づいて生成され、疎なマップ８００に含まれ得る。異なる環境条件で走行する自律車両は、そのような異なる環境条件に基づいて生成される疎なマップ８００を提供し得る。幾つかの実施形態では、自律車両に提供されるカメラは、環境条件を検出し得て、疎なマップを生成及び提供するサーバにそのような情報を提供し得る。例えば、サーバは、既に生成される疎なマップ８００を生成又は更新して、検出される環境条件下での自律走行により適し得る又はより安全であり得る軌道を含み得る。環境条件に基づく疎なマップ８００の更新は、自律車両が道路に沿って走行しているときに動的に実行され得る。
走行に関連する他の異なるパラメータも、異なる自律車両に異なる疎なマップを生成及び提供するための基礎として使用され得る。例えば、自律車両が高速で走行している場合、旋回が困難になり得る。自律車両が特定の軌道を進むときに、その車両が特定のレーン内を維持し得るように、道路ではなく特定のレーンに関連付けられた軌道を疎なマップ８００に含め得る。自律車両に搭載されるカメラによって捕捉された画像が、車両がレーンの外側にドリフトした（例えば、レーンマークを越えた）ことを示している場合、特定の軌道に従って車両を指定されるレーンに戻すために、車両内で動作がトリガーされ得る。
疎なマップのクラウドソーシング
幾つかの実施形態では、開示されるシステム及び方法は、自律車両ナビゲーションのために疎なマップを生成し得る。例えば、開示されるシステム及び方法は、クラウドソーシングされるデータを使用して、１つ又は複数の自律車両が道路のシステムに沿ってナビゲートするために使用し得る疎なマップを生成し得る。本明細書で使用される「クラウドソーシング」は、異なる時間に道路区分を走行する様々な車両（例えば、自律車両）からデータを受信し、そのようなデータを使用して道路モデルを生成及び／又は更新することを意味する。次に、モデルは、自律車両のナビゲーションを支援するために、後に道路区分に沿って走行する車両又は他の車両に送信され得る。道路モデルは、自律車両が道路区分を横断するときに進むべき好ましい軌道を表す複数の目標軌道を含み得る。目標軌道は、道路区分を横断する車両から収集される再構築される実際の軌道と同じであり得て、車両からサーバに送信され得る。幾つかの実施形態では、目標軌道は、１つ又は複数の車両が道路区分を横断するときに以前に取った実際の軌道とは異なり得る。目標軌道は、実際の軌道に基づいて（例えば、平均化又はその他の適切な動作によって）生成され得る。
車両がサーバにアップロードし得る車両軌道データは、車両の実際の再構築される軌道に対応し得るか、又は車両の実際の再構築される軌道に基づき得るか又は関連し得るが、実際に再構築される軌道とは異なり得る、推奨軌道に対応し得る。例えば、車両は、実際の再構築される軌道を修正し、修正される実際の軌道をサーバに送信（例えば、推奨）し得る。道路モデルは、他の車両の自律ナビゲーションの目標車両軌道として、推奨される修正される軌道を使用し得る。
軌道情報に加えて、疎なデータマップ８００を構築する際に潜在的に使用するための他の情報は、潜在的な陸標候補に関連する情報を含み得る。例えば、情報のクラウドソーシングにより、開示されるシステム及び方法は、環境内の潜在的な陸標を識別し、陸標の位置を洗練し得る。陸標は、目標軌道に沿った車両の位置を決定及び／又は調整するために、自律車両のナビゲーションシステムによって使用され得る。
車両が道路に沿って走行するときに車両が生成し得る再構築される軌道は、任意の適切な方法によって取得され得る。幾つかの実施形態では、再構築される軌道は、例えば、自己運動推定（例えば、カメラ、ひいては車両の本体の３次元並進及び３次元回転）を使用して、車両の運動の区分をつなぎ合わせることによって開発され得る。回転及び並進の推定は、慣性センサ及び速度センサ等の他のセンサ又はデバイスからの情報と共に、１つ又は複数の画像捕捉デバイスによって捕捉された画像の分析に基づいて決定され得る。例えば、慣性センサは、車両本体の並進及び／又は回転の変化を測定するように構成される加速度計又は他の適切なセンサを含み得る。車両は、車両の速度を測定する速度センサを含み得る。
幾つかの実施形態では、カメラ（ひいては、車両本体）の自己運動は、捕捉された画像の光学フロー分析に基づいて推定され得る。一連の画像の光学フロー分析は、一連の画像からピクセルの移動を識別し、識別される移動に基づいて、車両の移動を決定する。自己運動は、道路区分に沿って経時的に積分され、車両が通った道路区分に関連付けられた軌道を再構築し得る。
異なる時間に道路区分に沿った複数の走行で複数の車両によって収集されるデータ（例えば、再構築される軌道）を使用して、疎なデータマップ８００に含まれる道路モデル（例えば、目標軌道等を含む）を構築し得る。モデルの精度を高めるために、異なる時間に道路区分に沿った複数の走行で複数の車両によって収集されるデータも平均化され得る。幾つかの実施形態では、道路のジオメトリ及び／又は陸標に関するデータは、異なる時間に共通の道路区分を走行する複数の車両から受信され得る。異なる車両から受信されるそのようなデータを組み合わせて、道路モデルを生成及び／又は道路モデルを更新し得る。
道路区分に沿った再構築される軌道（及び目標軌道）のジオメトリは、３次元多項式を接続するスプラインであり得る、３次元空間の曲線で表し得る。再構成される軌道曲線は、ビデオストリーム又は車両に取り付けられたカメラによって捕捉される複数の画像の分析から決定し得る。幾つかの実施形態では、位置は、車両の現在の位置より数メートル先の各フレーム又は画像で識別される。この場所は、車両が所定の期間内に走行すると予期される場所である。この動作はフレームごとに繰り返し得て、同時に、車両はカメラの自己運動（回転及び並進）を計算し得る。各フレーム又は画像で、カメラに取り付けられた参照フレーム内の車両によって、所望の経路の短距離モデルが生成される。短距離モデルをつなぎ合わせて、任意の座標フレーム又は所定の座標フレームであり得る、座標フレーム内の道路の３次元モデルを取得し得る。次いで、道路の３次元モデルは、適切な次数の１つ又は複数の多項式を含み得る又は接続し得るスプラインによってフィットされ得る。
各フレームで短距離道路モデルを結論付けるために、１つ又は複数の検出モジュールを使用し得る。例えば、ボトムアップレーン検出モジュールを使用し得る。ボトムアップレーン検出モジュールは、レーンマークが道路に描かれている場合に有用であり得る。このモジュールは、画像内の端部を探し、それらを共に組み立ててレーンマークを形成し得る。第２のモジュールは、ボトムアップレーン検出モジュールと一緒に使用し得る。第２のモジュールは、入力画像から正しい短距離経路を予測するようにトレーニングし得る、エンドツーエンドのディープニューラルネットワークである。どちらのモジュールでも、道路モデルは画像座標フレームで検出され、カメラに仮想的に接続され得る３次元空間に変換され得る。
再構築される軌道モデリング手法は、雑音成分を含み得る、長期間にわたる自己運動の積分により、誤差の蓄積をもたらし得るが、生成されるモデルがローカルスケールでのナビゲーションに十分な精度を提供し得るため、そのような誤差は重要となり得ない。加えて、衛星画像又は測地測定等の外部情報源を使用して、積分誤差を取り消すことができる。例えば、開示されるシステム及び方法は、累積誤差を取り消すためにＧＮＳＳ受信機を使用し得る。しかし、ＧＮＳＳ測位信号が常に利用可能で正確であるとは限らない。開示されるシステム及び方法は、ＧＮＳＳ測位の可用性及び精度に弱く依存する操舵アプリケーションを可能にし得る。そのようなシステムでは、ＧＮＳＳ信号の使用が制限され得る。例えば、幾つかの実施形態では、開示されるシステムは、データベースのインデックス作成の目的でのみＧＮＳＳ信号を使用し得る。
幾つかの実施形態では、自律車両ナビゲーション操舵アプリケーションに関連し得る範囲スケール（例えば、ローカルスケール）は、５０メートルほど、１００メートルほど、２００メートルほど、３００メートルほど等であり得る。ジオメトリの道路モデルは、主に前方の軌道を計画すること、及び道路モデル上で車両の位置を特定することの２つの目的で使用されるため、そのような距離を使用し得る。幾つかの実施形態では、制御アルゴリズムが１．３秒先（又は１．５秒、１．７秒、２秒等の任意の他の時間）に位置する目標点に従って車両を操舵するとき、計画タスクは、４０メートル先（又は２０メートル、３０メートル、５０メートル等の他の適切な前方距離）の典型的な範囲にわたってモデルを使用し得る。位置特定タスクでは、別の節でより詳細に説明する「テールアラインメント」と呼ばれる方法に従って、車の後ろ６０メートルの典型的な範囲（又は５０メートル、１００メートル、１５０メートル等の他の適切な距離）にわたって道路モデルを使用する。開示されるシステム及び方法は、計画される軌道が、例えば、レーン中心から３０ｃｍを超えて逸脱しないように、１００メートル等の特定の範囲にわたって十分な精度を有するジオメトリのモデルを生成し得る。
上述したように、３次元道路モデルは、短距離セクションを検出し、それらをつなぎ合わせることから構築され得る。つなぎ合わせることは、カメラによって捕捉されるビデオ及び／又は画像、車両の移動を反映する慣性センサからのデータ、及びホスト車両の速度信号を使用して、６度の自己運動モデルを計算することによって可能になり得る。累積誤差は、１００メートルほど等の一部のローカル範囲スケールでは十分に小さくなり得る。この範囲スケール全てで、特定の道路区分は単一走行で完了させ得る。
幾つかの実施形態では、複数の走行を使用して、結果のモデルを平均化し、その精度を更に高め得る。同じ車が同じルートを複数回走行し得るか、又は複数の車が収集したモデルデータを中央サーバに送信し得る。いずれの場合も、マッチング手順を実行して、重複するモデルを識別し、目標軌道を生成するために平均化を有効にでき得る。構築されるモデル（例えば、目標軌道を含む）は、収束基準が満たされると、操舵に使用され得る。後の走行は、モデルを更に改善するため、及びインフラストラクチャの変更に対応するために使用され得る。
複数の車が中央サーバに接続されている場合、複数の車間での走行経験（検知データ等）の共有が可能になる。各車両クライアントは、現在の位置に関連し得る普遍的道路モデルの部分的なコピーを記憶し得る。車両とサーバとの間の双方向の更新手順は、車両及びサーバによって実行され得る。上で論じた小さなフットプリントの概念は、開示されるシステム及び方法が非常に狭い帯域幅を使用して双方向更新を実行することを可能にする。
潜在的な陸標に関連する情報も決定され、中央サーバに転送され得る。例えば、開示されるシステム及び方法は、陸標を含む１つ又は複数の画像に基づいて、潜在的な陸標の１つ又は複数の物理的特性を決定し得る。物理的特性は、陸標の物理的サイズ（例えば、高さ、幅）、車両から陸標までの距離、陸標から前の陸標までの距離、陸標の横方向の位置（例えば、走行レーンに対する陸標の位置）、陸標のＧＰＳ座標、陸標のタイプ、陸標上のテキストの識別等を含み得る。例えば、車両は、カメラによって捕捉される１つ又は複数の画像を分析して、制限速度標識等の潜在的な陸標を検出し得る。
車両は、１つ又は複数の画像の分析に基づいて、車両から陸標までの距離を決定し得る。幾つかの実施形態では、距離は、スケーリング法及び／又は光学フロー法等の適切な画像分析方法を使用した陸標の画像の分析に基づいて決定し得る。幾つかの実施形態では、開示されるシステム及び方法は、潜在的な陸標のタイプ又は分類を決定するように構成され得る。特定の潜在的な陸標が疎なマップに記憶される所定のタイプ又は分類に対応すると車両が判断した場合、車両は、陸標のタイプ又は分類の表示をその位置と共にサーバに通信するだけで十分であり得る。サーバはそのような表示を記憶し得る。後に、他の車両が陸標の画像を捕捉し、画像を処理し（例えば、分類子を使用して）、画像を処理した結果を、サーバに記憶される陸標のタイプに関する表示と比較し得る。様々なタイプの陸標が存在し得て、異なるタイプの陸標が、サーバにアップロード及び記憶される異なるタイプのデータに関連付けられ得て、車両に搭載される異なる処理により、陸標が検出され、陸標に関する情報がサーバに伝達され得て、車両に搭載されるシステムは、サーバから陸標データを受信し、陸標データを使用して自律ナビゲーションで陸標を識別し得る。
幾つかの実施形態では、道路区分上を走行する複数の自律車両は、サーバと通信し得る。車両（又はクライアント）は、任意の座標フレームでその走行を説明する曲線を生成し得る（例えば、自己運動積分によって）。車両は陸標を検出し、同じフレーム内に配置し得る。車両は曲線及び陸標をサーバにアップロードし得る。サーバは、複数の走行にわたり車両からデータを収集し、統一される道路モデルを生成し得る。例えば、図１９に関して以下で論じるように、サーバは、アップロードされる曲線及び陸標を使用して、統一される道路モデルを有する疎なマップを生成し得る。
サーバはまた、モデルをクライアント（例えば、車両）に配信し得る。例えば、サーバは疎なマップを１つ又は複数の車両に配信し得る。サーバは、車両から新しいデータを受信すると、モデルを継続的又は定期的に更新し得る。例えば、サーバは新しいデータを処理して、サーバ上での更新又は新しいデータの作成をトリガーすべき情報がデータに含まれているか否かを評価し得る。サーバは、自律車両のナビゲーションを提供するために、更新されるモデル又は更新を車両に配信し得る。
サーバは、車両から受信される新しいデータが、モデルの更新をトリガーすべきか、又は新しいデータの作成をトリガーすべきかを決定するために、１つ又は複数の基準を使用し得る。例えば、特定の位置で以前に認識される陸標が存在しないか、又は別の陸標に置き換えられたことを新しいデータが示す場合、サーバは新しいデータがモデルの更新をトリガーすべきであると判断し得る。別の例として、新しいデータが道路区分が閉鎖されることを示している場合、及びこれが他の車両から受信されるデータによって裏付けられている場合、サーバは新しいデータがモデルの更新をトリガーすべきであると判断し得る。
サーバは、更新されるモデル（又はモデルの更新される部分）を、モデルへの更新が関連付けられている道路区分を走行している１つ又は複数の車両に配信し得る。サーバはまた、モデルへの更新が関連付けられている、道路区分を走行しようとしている車両、又は道路区分を含む計画される走行の車両に、更新されるモデルを配信し得る。例えば、更新が関連付けられている道路区分に到達する前に、自律車両が別の道路区分に沿って走行している間、サーバは、車両が道路区分に到達する前に、更新又は更新されるモデルを自律車両に配信し得る。
幾つかの実施形態では、遠隔サーバは、複数のクライアント（例えば、共通の道路区分に沿って走行する車両）から軌道及び陸標を収集し得る。サーバは、陸標を使用して曲線を照合し、複数の車両から収集される軌道に基づいて平均的な道路モデルを作成し得る。サーバはまた、道路のグラフ及び道路区分の各ノード又は結合点で最も可能性の高い経路を計算し得る。例えば、遠隔サーバは軌道を位置合わせして、収集される軌道からクラウドソーシングされる疎なマップを生成し得る。
サーバは、弧長パラメータを決定し、各クライアント車両の経路に沿った位置特定及び速度校正をサポートするために、複数の車両によって測定される、ある陸標から別の陸標（例えば、道路区分に沿った前の陸標）まで間の距離等、共通の道路区分に沿って走行する複数の車両から受信される陸標プロパティを平均化し得る。サーバは、共通の道路区分に沿って走行し、同じ陸標を認識した複数の車両によって測定される陸標の物理的寸法を平均化し得る。平均化される物理的寸法を使用して、車両から陸標までの距離等の距離推定をサポートし得る。サーバは、共通の道路区分に沿って走行し、同じ陸標を認識した複数の車両によって測定される、陸標の横方向の位置（例えば、車両が走行しているレーンから陸標までの位置）を平均化し得る。平均化される横方向の位置を使用して、レーンの割り当てをサポートし得る。サーバは、同じ道路区分に沿って走行し、同じ陸標を認識した複数の車両によって測定される陸標のＧＰＳ座標を平均化し得る。陸標の平均化されるＧＰＳ座標を使用して、道路モデル内の陸標の全体的な位置特定又は位置決めをサポートし得る。
幾つかの実施形態では、サーバは、車両から受信されるデータに基づいて、工事、迂回、新しい標識、標識の除去等のモデル変更を識別し得る。サーバは、車両から新しいデータを受信すると、モデルを継続的又は定期的又は瞬時に更新し得る。サーバは、自律ナビゲーションを提供するために、モデルの更新又は更新されるモデルを車両に配信し得る。例えば、以下で更に論じるように、サーバはクラウドソーシングされるデータを使用して、車両によって検出される「ゴースト」陸標を除外し得る。
幾つかの実施形態では、サーバは、自律走行中のドライバーの介入を分析し得る。サーバは、介入が発生する時間及び場所で車両から受信されるデータ、及び／又は介入が発生する時間より前に受信されるデータを分析し得る。サーバは、介入を引き起こした、又は介入に密接に関連するデータの特定の部分、例えば、一時的なレーン閉鎖設定を示すデータ、道路の歩行者を示すデータを識別し得る。サーバは、識別されるデータに基づいてモデルを更新し得る。例えば、サーバはモデルに記憶されている１つ又は複数の軌道を修正し得る。
図１２は、クラウドソーシングを使用して疎なマップを生成する（並びに、クラウドソーシングされる疎なマップを使用して配信及びナビゲートする）システムの概略図である。図１２は、１つ又は複数のレーンを含む道路区分１２００を示す。複数の車両１２０５、１２１０、１２１５、１２２０、及び１２２５は、道路区分１２００上を同時に又は異なる時間に走行し得る（ただし、図１２では同時に道路区分１２００に現れるように示す）。車両１２０５、１２１０、１２１５、１２２０、及び１２２５のうちの少なくとも１つは、自律車両であり得る。本実施例を簡単にするために、車両１２０５、１２１０、１２１５、１２２０、及び１２２５の全てが自律車両であると仮定する。
各車両は、他の実施形態で開示される車両（例えば、車両２００）と同様であり得て、他の実施形態で開示される車両に含まれる、又は関連付けられた構成要素又はデバイスを含み得る。各車両は、画像捕捉デバイス又はカメラ（例えば、画像捕捉デバイス１２２又はカメラ１２２）を装備し得る。各車両は、点線で示すように、無線通信経路１２３５を通じて、１つ又は複数のネットワーク（例えば、セルラネットワーク及び／又はインターネット等を介して）を介して遠隔サーバ１２３０と通信し得る。各車両は、サーバ１２３０にデータを送信し、サーバ１２３０からデータを受信し得る。例えば、サーバ１２３０は、道路区分１２００を異なる時間に走行する複数の車両からデータを収集し得て、収集したデータを処理して、自律車両道路ナビゲーションモデル又はモデルの更新を生成し得る。サーバ１２３０は、自律車両道路ナビゲーションモデル又はモデルの更新を、サーバ１２３０にデータを送信した車両に送信し得る。サーバ１２３０は、自律車両道路ナビゲーションモデル又はモデルの更新を、後に道路区分１２００を走行する他の車両に送信し得る。
車両１２０５、１２１０、１２１５、１２２０、及び１２２５が道路区分１２００を走行するとき、車両１２０５、１２１０、１２１５、１２２０、及び１２２５によって収集（例えば、検出、検知、又は測定）されるナビゲーション情報は、サーバ１２３０に送信され得る。幾つかの実施形態では、ナビゲーション情報は、共通の道路区分１２００に関連付けられ得る。ナビゲーション情報は、各車両が道路区分１２００上を走行するときに、車両１２０５、１２１０、１２１５、１２２０、及び１２２５のそれぞれに関連付けられた軌道を含み得る。幾つかの実施形態では、軌道は、車両１２０５に提供される様々なセンサ及びデバイスによって検知されるデータに基づいて再構築され得る。例えば、加速度計データ、速度データ、陸標データ、道路のジオメトリ又はプロファイルデータ、車両位置データ、及び自己運動データのうちの少なくとも１つに基づいて軌道を再構築し得る。幾つかの実施形態では、軌道は、加速度計等の慣性センサからのデータ、及び速度センサによって検知される車両１２０５の速度に基づいて再構築され得る。更に、幾つかの実施形態では、軌道は、３次元並進及び／又は３次元回転（又は回転運動）を示し得る、検知されるカメラの自己運動に基づいて（例えば、車両１２０５、１２１０、１２１５、１２２０、及び１２２５のそれぞれに搭載されるプロセッサによって）決定され得る。カメラ（ひいては、車両本体）の自己運動は、カメラによって捕捉される１つ又は複数の画像の分析から決定され得る。
幾つかの実施形態では、車両１２０５の軌道は、車両１２０５に搭載されるプロセッサによって決定され、サーバ１２３０に送信され得る。他の実施形態では、サーバ１２３０は、車両１２０５に搭載される様々なセンサ及びデバイスによって検知されるデータを受信し、車両１２０５から受信されるデータに基づいて軌道を決定し得る。
幾つかの実施形態では、車両１２０５、１２１０、１２１５、１２２０、及び１２２５からサーバ１２３０に送信されるナビゲーション情報は、路面、道路のジオメトリ、又は道路プロファイルに関するデータを含み得る。道路区分１２００のジオメトリは、レーン構造及び／又は陸標を含み得る。レーン構造は、道路区分１２００のレーンの総数、レーンのタイプ（例えば、単方向レーン、双方向レーン、走行レーン、追い越しレーン等）、レーン上のマーク、レーン幅、等を含み得る。幾つかの実施形態では、ナビゲーション情報は、レーン割り当て、例えば、車両が複数のレーンのうちどのレーンを走行しているかを含み得る。例えば、レーン割り当てには、車両が左又は右から第３のレーンを走行していることを示す数値「３」が関連付けられ得る。別の例として、レーン割り当てには、車両が中央レーンを走行していることを示すテキスト値「中央レーン」が関連付けられ得る。
サーバ１２３０は、ナビゲーション情報を、ハードドライブ、コンパクトディスク、テープ、メモリ等の非一時的コンピュータ可読媒体に記憶し得る。サーバ１２３０は、複数の車両１２０５、１２１０、１２１５、１２２０、及び１２２５から受信されるナビゲーション情報に基づいて、共通の道路区分１２００の自律車両道路ナビゲーションモデルの少なくとも一部を（例えば、サーバ１２３０に含まれるプロセッサを介して）生成し、モデルを疎なマップの一部として記憶し得る。サーバ１２３０は、道路区分のレーンを異なる時間に走行する複数の車両（例えば、１２０５、１２１０、１２１５、１２２０、及び１２２５）から受信されるクラウドソースデータ（例えば、ナビゲーション情報）に基づいて、各レーンに関連付けられる軌道を決定し得る。サーバ１２３０は、クラウドソーシングナビゲーションデータに基づいて決定された複数の軌道に基づいて、自律車両道路ナビゲーションモデル又はモデルの一部（例えば、更新される部分）を生成し得る。サーバ１２３０は、モデル又はモデルの更新される部分を、道路区分１２００を走行する自律車両１２０５、１２１０、１２１５、１２２０、及び１２２５又は車両のナビゲーションシステムに提供されている既存の自律車両道路ナビゲーションモデルを更新するために後で道路区分を走行する任意の他の自律車両の１つ又は複数に送信し得る。自律車両道路ナビゲーションモデルは、自律車両が共通の道路区分１２００に沿って自律的にナビゲートする際に使用され得る。
上述したように、自律車両道路ナビゲーションモデルは、疎なマップ（例えば、図８に示す疎なマップ８００）に含まれ得る。疎なマップ８００は、道路のジオメトリ及び／又は道路に沿った陸標に関連するデータの疎な記録を含み得て、自律車両の自律ナビゲーションを誘導するのに十分な情報を提供し得るが、過度のデータストレージを必要としない。幾つかの実施形態では、自律車両道路ナビゲーションモデルは、疎なマップ８００とは別個に記憶され得て、モデルがナビゲーションのために実行されるとき、疎なマップ８００からのマップデータを使用し得る。幾つかの実施形態では、自律車両道路ナビゲーションモデルは、自律車両１２０５、１２１０、１２１５、１２２０、及び１２２５又は後に道路区分１２００に沿って走行する他の車両の自律ナビゲーションを誘導するために道路区分１２００に沿った目標軌道を決定するために、疎なマップ８００に含まれるマップデータを使用し得る。例えば、自律車両道路ナビゲーションモデルが、車両１２０５のナビゲーションシステムに含まれるプロセッサによって実行されるとき、モデルは、プロセッサに、車両１２０５から受信されるナビゲーション情報に基づいて決定された軌道を、疎なマップ８００に含まれる所定の軌道と比較させて、車両１２０５の現在の走行コースを検証及び／又は修正し得る。
自律車両道路ナビゲーションモデルでは、道路特徴又は目標軌道のジオメトリは、３次元空間内の曲線によって符号化され得る。１つの実施形態では、曲線は、１つ又は複数の接続３次元多項式を含む３次元スプラインであり得る。当業者が理解するように、スプラインは、データをフィッティングするための一連の多項式によって区分的に定義される数値関数であり得る。道路の３次元ジオメトリデータをフィッティングするためのスプラインは、線形スプライン（１次）、２次スプライン（２次）、３次スプライン（３次）、又はその他のスプライン（他の次数）、又はそれらの組み合わせを含み得る。スプラインは、道路の３次元ジオメトリデータのデータポイントを接続（例えば、フィッティング）する異なる次数の１つ又は複数の３次元多項式を含み得る。幾つかの実施形態では、自律車両道路ナビゲーションモデルは、共通の道路区分（例えば、道路区分１２００）又は道路区分１２００のレーンに沿った目標軌道に対応する３次元スプラインを含み得る。
上述したように、疎なマップに含まれる自律車両道路ナビゲーションモデルは、道路区分１２００に沿った少なくとも１つの陸標の識別等、他の情報を含み得る。陸標は、車両１２０５、１２１０、１２１５、１２２０、及び１２２５のそれぞれに設置されるカメラ（例えば、カメラ１２２）の視野内に見え得る。幾つかの実施形態では、カメラ１２２は、陸標の画像を捕捉し得る。車両１２０５に設けられたプロセッサ（例えば、プロセッサ１８０、１９０、又は処理ユニット１１０）は、陸標の画像を処理して、陸標の識別情報を抽出し得る。陸標の実際の画像ではなく、陸標識別情報が疎なマップ８００に記憶され得る。陸標識別情報は、実際の画像よりもはるかに少ない記憶領域になり得る。他のセンサ又はシステム（例えば、ＧＰＳシステム）も、陸標の特定の識別情報（例えば、陸標の位置）を提供し得る。陸標は、交通標識、矢印マーク、レーンマーク、破線レーンマーク、信号機、一時停止線、方向標識（例えば、方向を示す矢印が付いた高速道路の出口標識、異なる方向又は場所を指している矢印が付いた高速道路の標識）、陸標ビーコン、又は街灯柱のうちの少なくとも１つを含み得る。陸標ビーコンは、車両に設置される受信機に信号を送信又は反射する道路区分に沿って設置されるデバイス（例えば、ＲＦＩＤデバイス）を指し、そのため、車両がそのデバイスのそばを通過したときに、車両によって受信されるビーコン及びデバイスの位置（例えば、デバイスのＧＰＳ位置から決定された）は、自律車両道路ナビゲーションモデル及び／又は疎なマップ８００に含まれる陸標として使用され得る。
少なくとも１つの陸標の識別は、少なくとも１つの陸標の位置を含み得る。陸標の位置は、複数の車両１２０５、１２１０、１２１５、１２２０、及び１２２５に関連付けられたセンサシステム（例えば、全地球測位システム、慣性ベースの測位システム、陸標ビーコン等）を使用して実行される位置測定に基づいて決定され得る。幾つかの実施形態では、陸標の位置は、複数の走行を通じて異なる車両１２０５、１２１０、１２１５、１２２０、及び１２２５上のセンサシステムによって検出、収集、又は受信される位置測定値を平均化することによって決定され得る。例えば、車両１２０５、１２１０、１２１５、１２２０、及び１２２５は、位置測定データをサーバ１２３０に送信し得て、サーバ１２３０は、位置測定を平均化し、平均位置測定を陸標の位置として使用し得る。陸標の位置は、後の走行で車両から受信される測定値によって継続的に洗練させ得る。
陸標の識別は、陸標のサイズを含み得る。車両（例えば、１２０５）に提供されるプロセッサは、画像の分析に基づいて陸標の物理的サイズを推定し得る。サーバ１２３０は、異なる走行を介して異なる車両から同じ陸標の物理的サイズの複数の推定値を受信し得る。サーバ１２３０は、異なる推定値を平均化して陸標の物理的なサイズに至り、その陸標のサイズを道路モデルに記憶し得る。物理的サイズの推定値を使用して、車両から陸標までの距離を更に決定又は推定し得る。陸標までの距離は、車両の現在の速度及びカメラの拡大焦点に対する画像内に現れる陸標の位置に基づく拡大のスケールに基づいて推定され得る。例えば、陸標までの距離は、Ｚ＝Ｖ＊ｄｔ＊Ｒ／Ｄで推定し得て、ここで、Ｖは車両の速度、Ｒは時刻ｔ１の陸標から拡大焦点までの画像内の距離、Ｄはｔ１からｔ２までの画像内の陸標の距離の変化であり、ｄｔは（ｔ２－ｔ１）を表す。例えば、陸標までの距離は、Ｚ＝Ｖ＊ｄｔ＊Ｒ／Ｄで推定し得て、ここで、Ｖは車両の速度、Ｒは陸標と拡大焦点との間の画像内の距離、ｄｔは時間間隔であり、Ｄはエピポーラ線に沿った陸標の画像変位である。Ｚ＝Ｖ＊ω／Δω等、上記の式及び同等の他の式を使用して、陸標までの距離を推定し得る。ここで、Ｖは車両の速度、ωは画像の長さ（物体幅等）、Δωはその画像の長さの単位時間当たりの変化である。
陸標の物理的なサイズがわかっている場合、陸標までの距離も次の式に基づいて決定し得る。Ｚ＝ｆ＊Ｗ／ω、ここで、ｆは焦点距離、Ｗは陸標のサイズ（例えば、高さ又は幅）、ωは陸標がその画像を通り過ぎるときのピクセル数である。上記の式から、距離Ｚの変化は、ΔＺ＝ｆ＊Ｗ＊Δω／ω２＋ｆ＊ΔＷ／ωを使用して計算し得て、ここで、ΔＷは平均化によってゼロに減衰し、Δωは画像内のバウンディングボックスの精度を表すピクセル数である。陸標の物理サイズを推定する値は、サーバ側で複数の観測値を平均化することで計算し得る。距離推定の結果として生じる誤差は、非常に小さくなり得る。上記の式を使用するときに発生し得る２つの誤差源、すなわち、ΔＷ及びΔωがある。距離誤差への寄与は、ΔＺ＝ｆ＊Ｗ＊Δω／ω２ｆ＊ΔＷ／ωによって与えられる。ただし、ΔＷは平均化によってゼロに減衰する。従って、ΔＺはΔω（例えば、画像のバウンディングボックスの不正確さ）によって決定される。
未知の寸法の陸標の場合、陸標までの距離は、連続するフレーム間で陸標上の特徴点を追跡することによって推定され得る。例えば、速度制限標識に表示す特定の特徴は、２つ以上の画像フレーム間で追跡し得る。これらの追跡される特徴に基づいて、特徴点ごとの距離分布が生成され得る。距離推定値は、距離分布から抽出し得る。例えば、距離分布に現れる最も頻度の高い距離を距離推定値として使用し得る。別の例として、距離分布の平均を距離推定値として使用し得る。
図１３は、複数の３次元スプライン１３０１、１３０２、及び１３０３によって表される例示的な自律車両道路ナビゲーションモデルを示す。図１３に示す曲線１３０１、１３０２、及び１３０３は、例示の目的のためだけのものである。各スプラインは、複数のデータポイント１３１０を接続する１つ又は複数の３次元多項式を含み得る。各多項式は、１次多項式、２次多項式、３次多項式、又は異なる次数を有する任意の適切な多項式の組み合わせであり得る。各データポイント１３１０は、車両１２０５、１２１０、１２１５、１２２０、及び１２２５から受信されるナビゲーション情報に関連付けられ得る。幾つかの実施形態では、各データポイント１３１０は、陸標（例えば、サイズ、位置、及び陸標の識別情報）及び／又は道路シグネチャプロファイル（例えば、道路のジオメトリ、道路粗さプロファイル、道路曲率プロファイル、道路幅プロファイル）に関連するデータに関連付けられ得る。幾つかの実施形態では、幾つかのデータポイント１３１０は、陸標に関連するデータに関連付けられ得て、他のデータポイントは、道路シグネチャプロファイルに関連するデータに関連付けられ得る。
図１４は、５つの別個の走行から受信される生の位置データ１４１０（例えば、ＧＰＳデータ）を示す。別個の車両が同時に横断した場合、同じ車両が別個の時間に横断した場合、又は別個の車両が別個の時間に横断した場合、ある走行は別の走行とは別個であり得る。位置データ１４１０の誤差、及び同じレーン内の車両の異なる位置（例えば、ある車両が別の車両よりもレーンの左側に近づき得る）を考慮するために、遠隔サーバ１２３０は、１つ又は複数の統計的技法を使用してマップスケルトン１４２０を生成し、生の位置データ１４１０の変化が実際の逸脱又は統計的誤差を表しているか否かを判断し得る。スケルトン１４２０内の各経路は、その経路を形成した生データ１４１０にリンクし直し得る。例えば、スケルトン１４２０内のＡとＢとの間の経路は、走行２、３、４、及び５からの生データ１４１０にリンクされているが、走行１からはリンクされていない。スケルトン１４２０は、（例えば、上述したスプラインとは異なり、同じ道路上の複数のレーンからの走行を組み合わせるため）車両のナビゲートに使用するには十分詳細ではないことがあり得るが、有用なトポロジ情報を提供し得て、交差点を定義するために使用し得る。
図１５は、マップスケルトンの区分（例えば、スケルトン１４２０内の区分ＡからＢ）内の疎なマップに対して追加の詳細を生成し得る例を示す。図１５に示すように、データ（例えば、自己運動データ、道路マークデータ等）は、走行に沿った位置Ｓ（又はＳ１もしくはＳ２）の関数として示し得る。サーバ１２３０は、走行１５１０の陸標１５０１、１５０３、及び１５０５と、走行１５２０の陸標１５０７及び１５０９との間の一意の一致を識別することによって、疎なマップの陸標を識別し得る。そのような一致アルゴリズムは、陸標１５１１、１５１３、及び１５１５の識別につながり得る。しかし、他の一致アルゴリズムを使用し得ることを当業者は認識されよう。例えば、確率の最適化は、一意の一致の代わりに、又は一意の一致と組み合わせて使用され得る。サーバ１２３０は、走行を縦方向に位置合わせして、一致した陸標を位置合わせし得る。例えば、サーバ１２３０は、一方の走行（例えば、走行１５２０）を基準走行として選択し、次に、位置合わせのために他方の走行（例えば、走行１５１０）をシフト及び／又は弾性的に伸張し得る。
図１６は、疎なマップで使用するための位置合わせされる陸標データの例を示す。図１６の例では、陸標１６１０は道路標識を含む。図１６の例は、複数の走行１６０１、１６０３、１６０５、１６０７、１６０９、１６１１、及び１６１３からのデータを更に示す。図１６の例では、走行１６１３からのデータは「ゴースト」陸標で構成され、走行１６０１、１６０３、１６０５、１６０７、１６０９、及び１６１１のいずれも走行１６１３内の識別される陸標の近傍にある陸標の識別を含まないため、サーバ１２３０は陸標を「ゴースト」と識別し得る。従って、サーバ１２３０は、陸標が現れない画像に対する陸標が現れる画像の比率が閾値を超える場合、潜在的な陸標を受け入れ得て、及び／又は、陸標が現れる画像に対する陸標が現れない画像の比率が閾値を超える場合、潜在的な陸標を拒否し得る。
図１７は、疎なマップをクラウドソーシングするために使用し得る、走行データを生成するためのシステム１７００を示す。図１７に示すように、システム１７００は、カメラ１７０１及び位置特定デバイス１７０３（例えば、ＧＰＳロケータ）を含み得る。カメラ１７０１及び位置特定デバイス１７０３は、車両（例えば、車両１２０５、１２１０、１２１５、１２２０、及び１２２５のうちの１つ）に搭載され得る。カメラ１７０１は、複数のタイプの複数のデータ、例えば、自己運動データ、交通標識データ、道路データ等を生成し得る。カメラデータ及び位置データは、走行区分１７０５に区分され得る。例えば、走行区分１７０５はそれぞれ、１ｋｍ未満の走行のカメラデータ及び位置データを有し得る。
幾つかの実施形態では、システム１７００は、走行区分１７０５の冗長性を除去し得る。例えば、カメラ１７０１からの複数の画像に陸標が現れる場合、走行区分１７０５が陸標の位置及び陸標に関連するメタデータの１つのコピーのみを含むように、システム１７００は冗長データを取り除き得る。更なる例として、カメラ１７０１からの複数の画像にレーンマークが現れる場合、走行区分１７０５がレーンマークの位置及びレーンマークに関連するメタデータの１つのコピーのみを含むように、システム１７００は冗長データを取り除き得る。
システム１７００はまた、サーバ（例えば、サーバ１２３０）を含む。サーバ１２３０は、車両から走行区分１７０５を受信し、走行区分１７０５を単一の走行１７０７に再結合し得る。このような配置により、車両とサーバとの間でデータを転送するときの帯域幅要件を減し得て、サーバが走行全体に関連するデータも記憶し得る。
図１８は、疎なマップをクラウドソーシングするために更に構成される図１７のシステム１７００を示す。図１７のように、システム１７００は、例えば、カメラ（例えば、自己運動データ、交通標識データ、道路データ等を生成する）及び位置特定デバイス（例えば、ＧＰＳロケータ）を使用して走行データを捕捉する車両１８１０を含む。図１７のように、車両１８１０は、収集したデータを走行区分（図１８では「ＤＳ１ １」、「ＤＳ２ １」、「ＤＳＮ １」として示す）に区分する。次いで、サーバ１２３０は、走行区分を受信し、受信される区分から走行（図１８に「走行１」として示す）を再構築する。
図１８に更に示すように、システム１７００はまた、追加の車両からデータを受信する。例えば、車両１８２０はまた、例えば、カメラ（例えば、自己運動データ、交通標識データ、道路データ等を生成する）及び位置特定デバイス（例えば、ＧＰＳロケータ）を使用して走行データを捕捉する。車両１８１０と同様に、車両１８２０は、収集されるデータを走行区分（図１８では「ＤＳ１ ２」、「ＤＳ２ ２」、「ＤＳＮ ２」として示す）に区分する。次いで、サーバ１２３０は、走行区分を受信し、受信される区分から走行（図１８に「走行２」として示す）を再構築する。追加の車両は何台でも使用し得る。例えば、図１８は、走行データを捕捉し、走行区分（図１８では「ＤＳ１ Ｎ」、「ＤＳ２ Ｎ」、「ＤＳＮ Ｎ」として示す）に区分し、走行（図１８では「走行Ｎ」として示す）に再構築するためにそれをサーバ１２３０に送信する「車Ｎ」も含む。
図１８に示すように、サーバ１２３０は、複数の車両（例えば、「車１」（車両１８１０とも表記）、「車２」（車両１８２０とも表記）、及び「車Ｎ」）から収集される再構成される走行（例えば、「走行１」、「走行２」、及び「走行Ｎ」）を使用して、疎なマップ（「マップ」として示す）を構築し得る。
図１９は、道路区分に沿った自律車両ナビゲーションのための疎なマップを生成するための例示的なプロセス１９００を示すフローチャートである。プロセス１９００は、サーバ１２３０に含まれる１つ又は複数の処理デバイスによって実行され得る。
プロセス１９００は、１つ又は複数の車両が道路区分を横断するときに取得される複数の画像を受信することを含み得る（ステップ１９０５）。サーバ１２３０は、車両１２０５、１２１０、１２１５、１２２０、及び１２２５の１つ又は複数に含まれるカメラから画像を受信し得る。例えば、カメラ１２２は、車両１２０５が道路区分１２００に沿って走行するときに、車両１２０５を取り巻く環境の１つ又は複数の画像を捕捉し得る。幾つかの実施形態では、サーバ１２３０は、図１７に関して上記で論じたように、車両１２０５上のプロセッサによって冗長性が除去される、取り除き済みの画像データを受信し得る。
プロセス１９００は、複数の画像に基づいて、道路区分に沿って広がる路面特徴の少なくとも１つの線表現を識別することを更に含み得る（ステップ１９１０）。各線表現は、路面特徴に実質的に対応する道路区分に沿った経路を表し得る。例えば、サーバ１２３０は、カメラ１２２から受信される環境画像を分析して、道路端部又はレーンマークを識別し、道路端部又はレーンマークに関連付けられた道路区分１２００に沿った走行の軌道を決定し得る。幾つかの実施形態では、軌道（又は線表現）は、スプライン、多項式表現、又は曲線を含み得る。サーバ１２３０は、ステップ１９０５において受信されるカメラの自己運動（例えば、３次元並進運動及び／又は３次元回転運動）に基づいて、車両１２０５の走行の軌道を決定し得る。
プロセス１９００は、複数の画像に基づいて、道路区分に関連付けられた複数の陸標を識別することも含み得る（ステップ１９１０）。例えば、サーバ１２３０は、カメラ１２２から受信される環境画像を分析して、道路区分１２００に沿った道路標識等の１つ又は複数の陸標を識別し得る。サーバ１２３０は、１つ又は複数の車両が道路区分を横断するときに取得される複数の画像の分析を使用して陸標を識別し得る。クラウドソーシングを可能にするために、分析は、道路区分に関連付けられている可能性のある陸標の受け入れ及び拒否に関するルールを含み得る。例えば、分析は、陸標が現れない画像に対する陸標が現れる画像の比率が閾値を超える場合、潜在的な陸標を受け入れること、及び／又は、陸標が現れる画像に対する陸標が現れない画像の比率が閾値を超える場合、潜在的な陸標を拒否することを含み得る。
プロセス１９００は、サーバ１２３０によって実行される他の動作又はステップを含み得る。例えば、ナビゲーション情報は、道路区分に沿って車両が走行するための目標軌道を含み得て、プロセス１９００は、以下で更に詳細に論じるように、サーバ１２３０によって、道路区分上を走行する複数の車両に関連する車両軌道をクラスタ化すること、及びクラスタ化された車両軌道に基づいて目標軌道を決定することを含み得る。車両軌道をクラスタ化することは、サーバ１２３０によって、車両の絶対的な進行方向又は車両のレーン割り当ての少なくとも１つに基づいて、道路区分上を走行する車両に関連する複数の軌道を複数のクラスタにクラスタ化することを含み得る。目標軌道を生成することは、サーバ１２３０によって、クラスタ化された軌道を平均化することを含み得る。更なる例として、プロセス１９００は、ステップ１９０５で受信されるデータを位置合わせすることを含み得る。上述したように、サーバ１２３０によって実行される他のプロセス又はステップも、プロセス１９００に含まれ得る。
開示されるシステム及び方法は、他の特徴を含み得る。例えば、開示されるシステムは、グローバル座標ではなくローカル座標を使用し得る。自律走行の場合、一部のシステムはグローバル座標でデータを表示し得る。例えば、地表面の経度緯度座標を使用し得る。操舵にマップを使用するために、ホスト車両は、マップに対する位置及び向きを決定し得る。マップ上に車両を配置し、本体の参照フレームと世界の参照フレーム（例えば、北、東及び下）との間の回転変換を見つけるために、車載のＧＰＳデバイスを使用するのは自然に思われる。本体の参照フレームがマップの参照フレームと位置合わせされると、本体の参照フレームで所望のルートを表し得て、操舵コマンドを計算又は生成し得る。
開示されるシステム及び方法は、高価な測量機器の助けを借りずに自律車両自体によって収集され得る、低フットプリントのモデルで自律車両ナビゲーション（例えば、操舵制御）を可能にし得る。自律ナビゲーション（例えば、操舵アプリケーション）をサポートするために、道路モデルは、モデルに含まれる軌道に沿った車両の場所又は位置を決定するために使用し得る道路のジオメトリ、そのレーン構造、及び陸標を有する疎なマップを含み得る。上記で論じたように、疎なマップの生成は、道路を走行している車両と通信し、車両からデータを受信する遠隔サーバによって実行され得る。データは、検知されるデータ、検知されるデータに基づいて再構築される軌道、及び／又は修正される再構築される軌道を表し得る推奨される軌道を含み得る。以下で論じるように、サーバは、自律ナビゲーションを支援するために、後に道路を走行する車両又は他の車両にモデルを送信し得る。
図２０は、サーバ１２３０のブロック図を示す。サーバ１２３０は、ハードウェア構成要素（例えば、通信制御回路、スイッチ、及びアンテナ）とソフトウェア構成要素（例えば、通信プロトコル、コンピュータコード）の両方を含む通信ユニット２００５を含み得る。例えば、通信ユニット２００５は、少なくとも１つのネットワークインタフェースを含み得る。サーバ１２３０は、通信ユニット２００５を通じて車両１２０５、１２１０、１２１５、１２２０、及び１２２５と通信し得る。例えば、サーバ１２３０は、通信ユニット２００５を通じて、車両１２０５、１２１０、１２１５、１２２０、及び１２２５から送信されるナビゲーション情報を受信し得る。サーバ１２３０は、通信ユニット２００５を通じて、自律車両道路ナビゲーションモデルを１つ又は複数の自律車両に配信し得る。
サーバ１２３０は、ハードドライブ、コンパクトディスク、テープ等、少なくとも１つの非一時的記憶媒体２０１０を含み得る。ストレージデバイス１４１０は、車両１２０５、１２１０、１２１５、１２２０、及び１２２５から受信されるナビゲーション情報、及び／又はサーバ１２３０がナビゲーション情報に基づいて生成する自律車両道路ナビゲーションモデル等のデータを記憶するように構成され得る。ストレージデバイス２０１０は、疎なマップ（例えば、図８に関して上記で論じた疎なマップ８００）等の他の情報を記憶するように構成され得る。
ストレージデバイス２０１０に加えて、又はその代わりに、サーバ１２３０はメモリ２０１５を含み得る。メモリ２０１５は、メモリ１４０又は１５０と同様であり得るか又は異なり得る。メモリ２０１５は、フラッシュメモリ、ランダムアクセスメモリ等の非一時的メモリであり得る。メモリ２０１５は、プロセッサ（例えば、プロセッサ２０２０）によって実行可能なコンピュータコード又は命令、マップデータ（例えば、疎なマップ８００のデータ）、自律車両道路ナビゲーションモデル、及び／又は車両１２０５、１２１０、１２１５、１２２０、及び１２２５から受信されるナビゲーション情報等のデータを記憶するように構成され得る。
サーバ１２３０は、様々な機能を実行するために、メモリ２０１５に記憶されるコンピュータコード又は命令を実行するように構成される少なくとも１つの処理デバイス２０２０を含み得る。例えば、処理デバイス２０２０は、車両１２０５、１２１０、１２１５、１２２０、及び１２２５から受信されるナビゲーション情報を分析し、その分析に基づいて自律車両道路ナビゲーションモデルを生成し得る。処理デバイス２０２０は、通信ユニット１４０５を制御して、自律車両道路ナビゲーションモデルを１つ又は複数の自律車両（例えば、車両１２０５、１２１０、１２１５、１２２０、及び１２２５の１つ又は複数、又は後に道路区分１２００を走行する任意の車両）に配信し得る。処理デバイス２０２０は、プロセッサ１８０、１９０、又は処理ユニット１１０と同様であり得るか、又は異なり得る。
図２１は、自律車両ナビゲーションで使用するための道路ナビゲーションモデルを生成するための１つ又は複数の動作を実行するためのコンピュータコード又は命令を記憶し得る、メモリ２０１５のブロック図を示す。図２１に示すように、メモリ２０１５は、車両ナビゲーション情報を処理するための動作を実行するための１つ又は複数のモジュールを記憶し得る。例えば、メモリ２０１５は、モデル生成モジュール２１０５及びモデル配信モジュール２１１０を含み得る。プロセッサ２０２０は、メモリ２０１５に含まれるモジュール２１０５及び２１１０のいずれかに記憶される命令を実行し得る。
モデル生成モジュール２１０５は、プロセッサ２０２０によって実行されると、車両１２０５、１２１０、１２１５、１２２０、及び１２２５から受信されるナビゲーション情報に基づいて、共通の道路区分（例えば、道路区分１２００）の自律車両道路ナビゲーションモデルの少なくとも一部を生成し得る命令を記憶し得る。例えば、自律車両道路ナビゲーションモデルの生成では、プロセッサ２０２０は、共通の道路区分１２００に沿った車両軌道を異なるクラスタにクラスタ化し得る。プロセッサ２０２０は、異なるクラスタのそれぞれについてクラスタ化された車両軌道に基づいて、共通の道路区分１２００に沿った目標軌道を決定し得る。そのような動作は、各クラスタにおけるクラスタ化された車両軌道の平均又は平均軌道を（例えば、クラスタ化された車両軌道を表すデータを平均化することによって）見つけることを含み得る。幾つかの実施形態では、目標軌道は、共通の道路区分１２００の単一レーンに関連付けられ得る。
道路モデル及び／又は疎なマップは、道路区分に関連付けられた軌道を記憶し得る。これらの軌道は、目標軌道と呼ばれ得て、自律ナビゲーションのために自律車両に提供される。目標軌道は、複数の車両から受信し得て、複数の車両から受信される実際の軌道又は推奨される軌道（幾つかの修正を加えた実際の軌道）に基づいて生成し得る。道路モデル又は疎なマップに含まれる目標軌道は、他の車両から受信される新しい軌道で継続的に更新（例えば、平均化）され得る。
道路区分を走行する車両は、様々なセンサによってデータを収集し得る。データは、陸標、道路シグネチャプロファイル、車両の動き（例えば、加速度計データ、速度データ）、車両位置（例えば、ＧＰＳデータ）を含み得て、実際の軌道自体を再構築し得るか、データをサーバに送信して、サーバが車両の実際の軌道を再構築し得る。幾つかの実施形態では、車両は、軌道（例えば、任意の参照フレームでの曲線）、陸標データ、及び走行経路に沿ったレーン割り当てに関連するデータをサーバ１２３０に送信し得る。複数の走行で同じ道路区分に沿って走行する様々な車両は、異なる軌道を有し得る。サーバ１２３０は、クラスタ化プロセスを通じて車両から受信される軌道から、各レーンに関連付けられた経路又は軌道を識別し得る。
図２２は、共通の道路区分（例えば、道路区分１２００）の目標軌道を決定するために、車両１２０５、１２１０、１２１５、１２２０、及び１２２５に関連付けられた車両軌道をクラスタ化するプロセスを示す。クラスタ化プロセスから決定された目標軌道又は複数の目標軌道は、自律車両道路ナビゲーションモデル又は疎なマップ８００に含まれ得る。幾つかの実施形態では、道路区分１２００に沿って走行する車両１２０５、１２１０、１２１５、１２２０、及び１２２５は、複数の軌道２２００をサーバ１２３０に送信し得る。幾つかの実施形態では、サーバ１２３０は、車両１２０５、１２１０、１２１５、１２２０、及び１２２５から受信される陸標、道路のジオメトリ、及び車両運動情報に基づいて軌道を生成し得る。自律車両道路ナビゲーションモデルを生成するために、サーバ１２３０は、図２２に示すように、車両軌道１６００を複数のクラスタ２２０５、２２１０、２２１５、２２２０、２２２５、及び２２３０にクラスタ化し得る。
クラスタ化は、様々な基準を使用して実行され得る。幾つかの実施形態では、クラスタ内の全ての走行は、道路区分１２００に沿った絶対的な進行方向に関して類似し得る。絶対的な進行方向は、車両１２０５、１２１０、１２１５、１２２０、及び１２２５によって受信されるＧＰＳ信号から取得し得る。幾つかの実施形態では、推測航法を使用して絶対的な進行方向を取得し得る。当業者が理解するように、推測航法を使用して、前に決定された位置、推定速度等を使用して、現在位置、従って車両１２０５、１２１０、１２１５、１２２０、及び１２２５の進行方向を決定し得る。絶対的な進行方向によってクラスタ化された軌道は、道路に沿ったルートを識別するのに有用であり得る。
幾つかの実施形態では、クラスタ内の全ての走行は、道路区分１２００の走行に沿ったレーン割り当て（例えば、交差点の前後の同じレーン）に関して類似し得る。レーン割り当てによってクラスタ化された軌道は、道路に沿ったレーンを識別するのに有用であり得る。幾つかの実施形態では、両方の基準（例えば、絶対的な進行方向及びレーン割り当て）をクラスタ化に使用し得る。
各クラスタ２２０５、２２１０、２２１５、２２２０、２２２５、及び２２３０では、軌道を平均化して、特定のクラスタに関連付けられた目標軌道を取得し得る。例えば、同じレーンクラスタに関連付けられた複数の走行からの軌道を平均化し得る。平均軌道は、特定のレーンに関連付けられた目標軌道であり得る。軌道のクラスタを平均化するために、サーバ１２３０は、任意の軌道Ｃ０の参照フレームを選択し得る。他の全ての軌道（Ｃ１、…、Ｃｎ）について、サーバ１２３０はＣｉをＣ０にマッピングする剛体変換を見つけ得て、ここで、ｉ＝１、２、…、ｎであり、ｎは正の整数であり、クラスタに含まれる軌道の総数に対応する。サーバ１２３０は、Ｃ０参照フレームでの平均曲線又は軌道を計算し得る。
幾つかの実施形態では、陸標は、異なる走行間で一致する弧長を定義し得て、弧長は、軌道をレーンと位置合わせするために使用し得る。幾つかの実施形態では、交差点の前後のレーンマークを使用して、軌道をレーンと位置合わせし得る。
軌道からレーンを組み立てるために、サーバ１２３０は、任意のレーンの参照フレームを選択し得る。サーバ１２３０は、部分的に重なり合うレーンを選択される参照フレームにマッピングし得る。サーバ１２３０は、全てのレーンが同じ参照フレームに入るまでマッピングを継続し得る。互いに隣り合っているレーンは、あたかも同じレーンであったかのように位置合わせし得て、後に横方向にシフトされ得る。
道路区分に沿って認識される陸標は、最初にレーンレベルで、次に交差点レベルで共通の参照フレームにマッピングされ得る。例えば、同じ陸標が、複数の走行の複数の車両によって複数回認識され得る。異なる走行で受信される同じ陸標に関するデータは、わずかに異なり得る。そのようなデータは平均化され、Ｃ０参照フレーム等の同じ参照フレームにマッピングされ得る。加えて又は或いは、複数の走行で受信される同じ陸標のデータの分散を計算し得る。
幾つかの実施形態では、道路区分１２０の各レーンは、目標軌道及び特定の陸標に関連付けられ得る。目標軌道又はそのような複数の目標軌道は、自律車両道路ナビゲーションモデルに含まれ得て、自律車両道路ナビゲーションモデルは、後に同じ道路区分１２００に沿って走行する他の自律車両によって使用され得る。車両１２０５、１２１０、１２１５、１２２０、及び１２２５が道路区分１２００に沿って走行している間に、それらの車両によって識別される陸標は、目標軌道に関連付けて記録され得る。目標軌道及び陸標のデータは、後続の走行で他の車両から受信される新しいデータで継続的又は定期的に更新し得る。
自律車両の位置特定のために、開示されるシステム及び方法は、拡張カルマンフィルタを使用し得る。車両の位置は、３次元位置データ及び／又は３次元方向データ、自己運動の積分による車両の現在位置よりも先の将来位置の予測に基づいて決定され得る。車両の位置は、陸標の画像観察により修正又は調整され得る。例えば、車両がカメラによって捕捉された画像内の陸標を検出した場合、陸標は、道路モデル又は疎なマップ８００内に記憶される既知の陸標と比較され得る。既知の陸標は、道路モデル及び／又は疎なマップ８００に記憶される目標軌道に沿った既知の位置（例えば、ＧＰＳデータ）を有し得る。現在の速度及び陸標の画像に基づいて、車両から陸標までの距離を推定し得る。目標軌道に沿った車両の位置は、陸標までの距離及び陸標の既知の位置（道路モデル又は疎なマップ８００に記憶される）に基づいて調整され得る。道路モデル及び／又は疎なマップ８００に記憶される陸標の位置／場所データ（例えば、複数の走行からの平均値）は、正確であると推定され得る。
幾つかの実施形態では、開示されるシステムは、車両の６自由度（例えば、３次元位置データと３次元方向データ）の位置の推定が、自律車両をナビゲート（例えば、車輪を操舵）して所望の点（例えば、記憶される点の１．３秒先）に到達するために使用され得る、閉ループサブシステムを形成し得る。次に、操舵及び実際のナビゲーションから測定されるデータを使用して、６自由度の位置を推定し得る。
幾つかの実施形態では、街灯柱及び電力線柱又はケーブル線柱等、道路に沿った柱を、車両の位置特定のための陸標として使用し得る。交通標識、信号機、道路上の矢印、一時停止線、及び道路区分に沿った物体の静的な特徴又はシグネチャ等の他の陸標も、車両の位置を特定するための陸標として使用し得る。柱が位置特定に使用される場合、柱の底部が遮られて得て、道路平面上にないことがあるため、ｙ観測（すなわち、柱までの距離）ではなく、柱のｘ観測（すなわち、車両からの視角）が使用され得る。
図２３は、クラウドソーシングされる疎なマップを使用した自律ナビゲーションに使用し得る、車両のためのナビゲーションシステムを示す。説明のために、車両は車両１２０５として参照される。図２３に示す車両は、例えば、車両１２１０、１２１５、１２２０、及び１２２５、並びに他の実施形態に示す車両２００を含む、本明細書に開示される他の任意の車両であり得る。図１２に示すように、車両１２０５はサーバ１２３０と通信し得る。車両１２０５は、画像捕捉デバイス１２２（例えば、カメラ１２２）を含み得る。車両１２０５は、車両１２０５が道路（例えば、道路区分１２００）を走行するためのナビゲーションガイダンスを提供するように構成されるナビゲーションシステム２３００を含み得る。車両１２０５は、速度センサ２３２０及び加速度計２３２５等の他のセンサも含み得る。速度センサ２３２０は、車両１２０５の速度を検出するように構成され得る。加速度計２３２５は、車両１２０５の加速又は減速を検出するように構成され得る。図２３に示す車両１２０５は自律車両であり得て、ナビゲーションシステム２３００は、自律走行のためのナビゲーションガイダンスを提供するために使用され得る。或いは、車両１２０５は、非自律型の人間が制御する車両であり得て、ナビゲーションシステム２３００は、ナビゲーションガイダンスを提供するために依然として使用され得る。
ナビゲーションシステム２３００は、通信経路１２３５を通じてサーバ１２３０と通信するように構成される通信ユニット２３０５を含み得る。ナビゲーションシステム２３００は、ＧＰＳ信号を受信して処理するように構成されるＧＰＳユニット２３１０も含み得る。ナビゲーションシステム２３００は、ＧＰＳ信号、疎なマップ８００からのマップデータ（車両１２０５に搭載されるストレージデバイスに記憶され得る、及び／又はサーバ１２３０から受信され得る）、道路プロファイルセンサ２３３０によって検知される道路のジオメトリ、カメラ１２２によって捕捉された画像、及び／又はサーバ１２３０から受信される自律車両道路ナビゲーションモデル等のデータを処理するように構成される少なくとも１つのプロセッサ２３１５を更に含み得る。道路プロファイルセンサ２３３０は、路面の粗さ、道路幅、道路高、道路曲率等、異なるタイプの道路プロファイルを測定するための異なるタイプのデバイスを含み得る。例えば、道路プロファイルセンサ２３３０は、車両２３０５のサスペンションの動きを測定して道路粗さプロファイルを導出するデバイスを含み得る。幾つかの実施形態では、道路プロファイルセンサ２３３０はレーダセンサを含み、車両１２０５から道路側（例えば、道路側の障壁）までの距離を測定し、それによって道路の幅を測定し得る。幾つかの実施形態では、道路プロファイルセンサ２３３０は、道路の上下の標高を測定するように構成されるデバイスを含み得る。幾つかの実施形態では、道路プロファイルセンサ２３３０は、道路曲率を測定するように構成されるデバイスを含み得る。例えば、カメラ（例えば、カメラ１２２又は別のカメラ）を使用して、道路曲率を示す道路の画像を捕捉し得る。車両１２０５は、そのような画像を使用して道路曲率を検出し得る。
少なくとも１つのプロセッサ２３１５は、カメラ１２２から、車両１２０５に関連付けられた少なくとも１つの環境画像を受信するようにプログラムされ得る。少なくとも１つのプロセッサ２３１５は、車両１２０５に関連付けられたナビゲーション情報を決定するために、少なくとも１つの環境画像を分析し得る。ナビゲーション情報は、道路区分１２００に沿った車両１２０５の走行に関連する軌道を含み得る。少なくとも１つのプロセッサ２３１５は、３次元並進運動及び３次元回転運動等のカメラ１２２（従って車両）の運動に基づいて軌道を決定し得る。幾つかの実施形態では、少なくとも１つのプロセッサ２３１５は、カメラ１２２によって取得される複数の画像の分析に基づいて、カメラ１２２の並進運動及び回転運動を決定し得る。幾つかの実施形態では、ナビゲーション情報は、レーン割り当て情報（例えば、車両１２０５が道路区分１２００に沿ってそのレーンで走行しているか）を含み得る。車両１２０５からサーバ１２３０に送信されるナビゲーション情報は、サーバ１２３０によって使用され、自律車両道路ナビゲーションモデルを生成及び／又は更新し得て、自律車両道路ナビゲーションモデルは、車両１２０５に自律ナビゲーションガイダンスを提供するために、サーバ１２３０から車両１２０５に送信され得る。
少なくとも１つのプロセッサ２３１５は、ナビゲーション情報を車両１２０５からサーバ１２３０に送信するようにプログラムすることもできる。幾つかの実施形態では、ナビゲーション情報は、道路情報と共にサーバ１２３０に送信され得る。道路位置情報は、ＧＰＳユニット２３１０によって受信されるＧＰＳ信号、陸標情報、道路のジオメトリ、レーン情報等のうちの少なくとも１つを含み得る。少なくとも１つのプロセッサ２３１５は、サーバ１２３０から、自律車両道路ナビゲーションモデル又はモデルの一部を受信し得る。サーバ１２３０から受信される自律車両道路ナビゲーションモデルは、車両１２０５からサーバ１２３０に送信されるナビゲーション情報に基づく少なくとも１つの更新を含み得る。サーバ１２３０から車両１２０５に送信されるモデルの部分は、モデルの更新される部分を含み得る。少なくとも１つのプロセッサ２３１５は、受信される自律車両道路ナビゲーションモデル又はモデルの更新される部分に基づいて、車両１２０５による少なくとも１つのナビゲーション動作（例えば、方向転換を行う、ブレーキをかける、加速する、別の車両を追い越す等の操舵）を引き起こし得る。
少なくとも１つのプロセッサ２３１５は、通信ユニット１７０５、ＧＰＳユニット２３１５、カメラ１２２、速度センサ２３２０、加速度計２３２５、及び道路プロファイルセンサ２３３０を含む、車両１２０５に含まれる様々なセンサ及び構成要素と通信するように構成され得る。少なくとも１つのプロセッサ２３１５は、様々なセンサ及び構成要素から情報又はデータを収集し、通信ユニット２３０５を通じて情報又はデータをサーバ１２３０に送信し得る。代替又は追加として、車両１２０５の様々なセンサ又は構成要素はまた、サーバ１２３０と通信し、センサ又は構成要素によって収集されるデータ又は情報をサーバ１２３０に送信し得る。
幾つかの実施形態では、車両１２０５、１２１０、１２１５、１２２０、及び１２２５の少なくとも１つが、例えば、他の車両によって共有される情報に基づいて、クラウドソーシングを使用して自律車両道路ナビゲーションモデルを生成し得るように、車両１２０５、１２１０、１２１５、１２２０、及び１２２５は、互いに通信し得て、ナビゲーション情報を互いに共有し得る。幾つかの実施形態では、車両１２０５、１２１０、１２１５、１２２０、及び１２２５は、ナビゲーション情報を互いに共有し得て、各車両は、車両に提供される、それ自体の自律車両道路ナビゲーションモデルを更新し得る。幾つかの実施形態では、車両１２０５、１２１０、１２１５、１２２０、及び１２２５（例えば、車両１２０５）のうちの少なくとも１つは、ハブ車両として機能し得る。ハブ車両（例えば、車両１２０５）の少なくとも１つのプロセッサ２３１５は、サーバ１２３０によって実行される機能の一部又は全部を実行し得る。例えば、ハブ車両の少なくとも１つのプロセッサ２３１５は、他の車両と通信し、他の車両からナビゲーション情報を受信し得る。ハブ車両の少なくとも１つのプロセッサ２３１５は、他の車両から受信した共有情報に基づいて、自律車両道路ナビゲーションモデル又はモデルへの更新を生成し得る。ハブ車両の少なくとも１つのプロセッサ２３１５は、自律ナビゲーションガイダンスを提供するために、自律車両道路ナビゲーションモデル又はモデルへの更新を他の車両に送信し得る。
レーンマークのマッピング及びマッピングされたレーンマークに基づくナビゲーション
前述のように、自律車両の道路ナビゲーションモデル及び／又は疎なマップ８００は、道路区分に関連付けられた複数のマッピングされたレーンマークを含み得る。以下でより詳細に論じるように、これらのマッピングされたレーンマークは、自律車両がナビゲートするときに使用され得る。例えば、幾つかの実施形態では、マッピングされたレーンマークを使用して、計画される軌道に対する横方向位置及び／又は向きを決定し得る。この位置情報を使用して、自律車両は、決定された位置での目標軌道の方向に一致するように進行方向が調整可能あり得る。
車両２００は、所与の道路区分におけるレーンマークを検出するように構成され得る。道路区分は、道路上の車両の交通量を案内するための道路上の任意のマークを含み得る。例えば、レーンマークは、走行レーンの端部を示す実線又は破線であり得る。レーンマークはまた、例えば、隣接するレーンでの通過が許可されるか否かを示す、二重の実線、二重の破線、又は実線及び破線の組み合わせ等の二重線を含み得る。レーンマークはまた、例えば、出口ランプの減速レーンを示す高速道路の入口及び出口のマーク、又はレーンが方向転換のみであること又はレーンが終了していることを示す点線を含み得る。マークは、作業区域、一時的なレーンシフト、交差点を通る走行経路、中央分離帯、専用レーン（例えば、自転車レーン、ＨＯＶレーン等）、又はその他の種々雑多なマーク（例えば、横断歩道、スピードハンプ、踏切、一時停止線等）を更に示し得る。
車両２００は、画像取得ユニット１２０に含まれる画像捕捉デバイス１２２及び１２４等のカメラを使用して、周囲のレーンマークの画像を捕捉し得る。車両２００は、画像を分析して、１つ又は複数の捕捉された画像内で識別された特徴に基づいて、レーンマークに関連付けられた点位置を検出し得る。これらの点位置は、疎なマップ８００のレーンマークを表すためにサーバにアップロードされ得る。カメラの位置及び視野によっては、単一の画像から車両の両側のレーンマークが同時に検出され得る。他の実施形態では、異なるカメラを使用して、車両の複数の側部で画像を捕捉し得る。レーンマークの実際の画像をアップロードするのではなく、マークをスプライン又は一連の点として疎なマップ８００に記憶し、従って、疎なマップ８００のサイズ及び／又は車両によって遠隔でアップロードしなければならないデータを低減し得る。
図２４Ａ～図２４Ｄは、特定のレーンマークを表すために車両２００によって検出され得る例示的な点位置を示す。上記の陸標と同様に、車両２００は、様々な画像認識アルゴリズム又はソフトウェアを使用して、捕捉された画像内の点位置を識別し得る。例えば、車両２００は、特定のレーンマークに関連付けられた一連の端点、角点、又は他の様々な点位置を認識し得る。図２４Ａは、車両２００によって検出され得る連続レーンマーク２４１０を示す。レーンマーク２４１０は、連続した白線で表される道路の外側の端部を表し得る。図２４Ａに示すように、車両２００は、レーンマークに沿った複数の端部位置点２４１１を検出するように構成され得る。位置点２４１１は、疎なマップ内にマッピングされたレーンマークを作成するのに十分な任意の間隔でレーンマークを表すために収集され得る。例えば、レーンマークは、検出された端部１メートルごとに１つの点、検出された端部の５メートルごとに１つの点、又はその他の適切な間隔で表され得る。幾つかの実施形態では、間隔は、例えば、車両２００が検出された点の位置の最高の信頼性ランキングを有する点に基づく等の設定された間隔ではなく、他の要因によって決定され得る。図２４Ａは、レーンマーク２４１０の内側端部上の端部位置点を示しているが、点は線の外側端部上又は両端部に沿って収集され得る。更に、単一の線が図２４Ａに示されているが、二重の実線についても同様の端点が検出され得る。例えば、点２４１１は、実線の一方又は両方の端部に沿って検出され得る。
車両２００はまた、レーンマークのタイプ又は形状に応じて異なるレーンマークを表し得る。図２４Ｂは、車両２００によって検出され得る例示的な破線のレーンマーク２４２０を示す。図２４Ａのように端点を識別するのではなく、車両は、破線の完全な境界を定義するために、レーン破線の角を表す一連の角点２４２１を検出し得る。図２４Ｂは、所与の破線マークの各角が位置特定されていることを示しているが、車両２００は、図に示されている点のサブセットを検出又はアップロードし得る。例えば、車両２００は、所与の破線マークの前端部又は前角部を検出し得るか、又はレーンの内部に最も近い２つの角点を検出し得る。更に、全ての破線マークが捕捉され得るわけではなく、例えば、車両２００は、破線マークのサンプル（例えば、１つおき、３つおき、５つおき等）を表す点、又は事前定義された間隔（例えば、１メートルごと、５メートルごと、１０メートルごと等）で破線マークを表す点を捕捉及び／又は記録し得る。角点は、レーンが出口ランプ用であること示すマーク、特定のレーンが終了しようとしていることを示すマーク、又は検出可能な角点を有し得る他の様々なレーンマーク等の同様のレーンマークについても検出され得る。角点は、二重の破線又は実線と破線との組み合わせで構成されるレーンマークでも検出され得る。
幾つかの実施形態では、マッピングされたレーンマークを生成するためにサーバにアップロードされた点は、検出された端点又は角点以外の他の点を表し得る。図２４Ｃは、所与のレーンマークの中心線を表し得る一連の点を示す。例えば、連続レーン２４１０は、レーンマークの中心線２４４０に沿った中心線点２４４１によって表し得る。幾つかの実施形態では、車両２００は、畳み込みニューラルネットワーク（ＣＮＮ）、スケール不変特徴変換（ＳＩＦＴ）、配向勾配のヒストグラム（ＨＯＧ）特徴、又は他の技術等の様々な画像認識技術を使用してこれらの中心点を検出するように構成され得る。或いは、車両２００は、図２４Ａに示す端点２４１１等の他の点を検出し得て、例えば、各端部に沿った点を検出し、端点間の中間点を決定することによって、中心線点２４４１を計算し得る。同様に、破線のレーンマーク２４２０は、レーンマークの中心線２４５０に沿った中心線点２４５１によって表し得る。中心線点は、図２４Ｃに示すように、破線の端部、又は中心線に沿った他の様々な位置に配置し得る。例えば、各破線は、破線の幾何学的中心にある単一の点で表し得る。点はまた、中心線に沿って所定の間隔（例えば、１メートルごと、５メートルごと、１０メートルごと等）で間隔を空け得る。中心線点２４５１は、車両２００によって直接検出され得るか、又は図２４Ｂに示すように、角点２４２１等の他の検出された基準点に基づいて計算され得る。中心線はまた、上記と同様の技術を使用して、二重線等の他のレーンマークタイプを表すために使用し得る。
幾つかの実施形態では、車両２００は、２つの交差するレーンマーク間の頂点等、他の特徴を表す点を識別し得る。図２４Ｄは、２つのレーンマーク２４６０と２４６５との間の交差点を表す例示的な点を示す。車両２００は、２つのレーンマーク間の交差点を表す頂点２４６６を計算し得る。例えば、レーンマーク２４６０又は２４６５の１つは、道路区分内の列車交差領域又は他の交差領域を表し得る。レーンマーク２４６０と２４６５は互いに垂直に交差しているように示されているが、他の様々な構成が検出され得る。例えば、レーンマーク２４６０及び２４６５は、他の角度で交差し得るか、又はレーンマークの一方又は両方が、頂点２４６６で終了し得る。同様の技法は、破線又は他のレーンマークタイプ間の交差にも適用され得る。頂点２４６６に加えて、他の様々な点２４６７も検出され得て、レーンマーク２４６０及び２４６５の向きについての更なる情報を提供する。
車両２００は、現実世界の座標をレーンマークの検出された各点に関連付け得る。例えば、各点の座標を含む位置識別子を生成して、レーンマークをマッピングするためにサーバにアップロードし得る。位置識別子は、点が角点、端点、中心点等を表すか否かを含む、点に関する他の識別情報を更に含み得る。従って、車両２００は、画像の分析に基づいて各点の現実世界の位置を決定するように構成され得る。例えば、車両２００は、レーンマークの現実世界の位置を特定するために、上記の様々な陸標等の画像内の他の特徴を検出し得る。これは、検出された陸標に対する画像内のレーンマークの位置を決定すること、又は検出された陸標に基づいて車両の位置を決定し、次いで車両（又は車両の目標軌道）からレーンマークまでの距離を決定することを含み得る。陸標が利用できない場合、推測航法に基づいて決定された車両の位置を基準にして、レーンマーク点の位置を決定し得る。位置識別子に含まれる現実世界の座標は、絶対座標（例えば、緯度／経度座標）として表し得るか、又は、目標軌道に沿った縦方向の位置及び目標軌道からの横方向の距離に基づく等、他の特徴に関連し得る。次いで、位置識別子は、ナビゲーションモデル（疎なマップ８００等）でマッピングされたレーンマークを生成するために、サーバにアップロードされ得る。幾つかの実施形態では、サーバは、道路区分のレーンマークを表すスプラインを構築し得る。或いは、車両２００はスプラインを生成し、サーバにアップロードして、ナビゲーションモデルに記録し得る。
図２４Ｅは、マッピングされたレーンマークを含む対応する道路区分の例示的なナビゲーションモデル又は疎なマップの例を示す。疎なマップは、車両が道路区分に沿って追従する目標軌道２４７５を含み得る。上記で説明したように、目標軌道２４７５は、車両が対応する道路区分を走行するときに通る理想的な経路を表し得るか、又は道路上の他の場所（例えば、道路の中心線等）に配置され得る。目標軌道２４７５は、例えば、同じ道路区分を横断する車両の２つ以上の再構築された軌道の集約（例えば、重み付けされる組み合わせ）に基づいて、上記で説明した様々な方法で計算され得る。
幾つかの実施形態では、目標軌道は、全ての車両タイプ及び全ての道路、車両、及び／又は環境条件に対して等しく生成され得る。しかし、他の実施形態では、様々な他の要因又は変数もまた、目標軌道を生成する際に考慮され得る。異なるタイプの車両（例えば、自家用車、軽トラック、及びフルトレーラ）に対して、異なる目標軌道が生成され得る。例えば、小型の自家用車の場合、大型のセミトレーラトラックよりも回転半径が比較的狭い目標軌道が生成され得る。幾つかの実施形態では、道路、車両、及び環境条件も考慮され得る。例えば、異なる道路条件（例えば、濡れている、雪が積もっている、凍っている、乾燥している等）、車両条件（例えば、タイヤ条件又は推定されるタイヤ条件、ブレーキ条件又は推定されるブレーキ条件、燃料の残量等）又は環境要因（例えば、時刻、視界、天候等）に対して異なる目標軌道が生成され得る。目標軌道は、特定の道路区分の１つ又は複数の態様又は特徴（例えば、制限速度、方向転換の頻度及びサイズ、勾配等）にも依存し得る。幾つかの実施形態では、様々なユーザ設定を使用して、設定された運転モード（例えば、所望の攻撃的な運転、エコノミーモード等）等の目標軌道も決定し得る。
疎なマップは、道路区分に沿ったレーンマークを表すマッピングされたレーンマーク２４７０及び２４８０も含み得る。マッピングされたレーンマークは、複数の位置識別子２４７１及び２４８１によって表され得る。上記で説明したように、位置識別子は、検出されたレーンマークに関連付けられた点の現実世界の座標における位置を含み得る。モデルの目標軌道と同様に、レーンマークにも標高データが含まれ、３次元空間の曲線として表され得る。例えば、曲線は、適切な次数の３次元多項式を接続するスプラインであり得るか、又は曲線は、位置識別子に基づいて計算され得る。マッピングされたレーンマークはまた、レーンマークのタイプの識別子（例えば、同じ進行方向を有する２つのレーン間、反対の進行方向を有する２つのレーン間、道路の端部等）及び／又はレーンマークの他の特性（例えば、実線、破線、単一の線、二重線、黄色い線、白線等）等、レーンマークに関する他の情報又はメタデータを含み得る。幾つかの実施形態では、マッピングされたレーンマークは、例えば、クラウドソーシング技術を使用して、モデル内で継続的に更新され得る。同じ車両は、同じ道路区分を走行する複数の機会の間に位置識別子をアップロードし得るか、又はデータは、異なる時間に道路区分を走行する複数の車両（１２０５、１２１０、１２１５、１２２０、及び１２２５等）から選択され得る。次いで、疎なマップ８００は、車両から受信され、システムに記憶された後続の位置識別子に基づいて更新又は洗練され得る。マッピングされたレーンマークが更新及び洗練されると、更新された道路ナビゲーションモデル及び／又は疎なマップが複数の自律車両に配布され得る。
疎なマップ内にマッピングされたレーンマークを生成することは、画像又は実際のレーンマーク自体の異常に基づいて誤差を検出及び／又は軽減することも含み得る。図２４Ｆは、レーンマーク２４９０の検出に関連付けられた例示的な異常２４９５を示している。異常２４９５は、例えば、カメラのレーンマークの視界を遮る物体、レンズ上のゴミ等から、車両２００によって捕捉された画像に現れ得る。場合によっては、異常はレーンマーク自体に起因し得て、レーンマーク自体が、例えば、道路上の汚れ、破片、水、雪、又はその他の物質で損傷したり、摩耗したり、部分的に覆われたりし得る。異常２４９５は、車両２００によって検出される誤った点２４９１を生じさせ得る。疎なマップ８００は、正しくマッピングされたレーンマークを提供し、誤差を除外し得る。幾つかの実施形態では、車両２００は、例えば、画像内の異常２４９５を検出することによって、又は異常の前後に検出されたレーンマーク点に基づいて誤差を識別することによって、誤差点２４９１を検出し得る。異常の検出に基づいて、車両は点２４９１を除外し得るか、又は他の検出された点と一致するように調整し得る。他の実施形態では、誤差は、点がアップロードされた後に、例えば、同じ走行中にアップロードされた他の点に基づいて、又は同じ道路区分に沿った以前の走行からのデータの集計に基づいて、点が予想閾値の範囲外であると判断することによって修正され得る。
ナビゲーションモデル及び／又は疎なマップにマッピングされたレーンマークは、対応する道路を横断する自律車両によるナビゲーションにも使用され得る。例えば、目標軌道に沿ってナビゲートする車両は、疎なマップ内のマッピングされたレーンマークを定期的に使用して、目標軌道にそれ自体を位置合わせし得る。上述したように、陸標間で、車両は、車両がセンサを使用して自己運動を決定し、目標軌道に対する位置を推定する推測航法に基づいてナビゲートし得る。誤差は経時的に蓄積し得て、目標軌道に対する車両の位置決定の精度が次第に低下し得る。従って、車両は、疎なマップ８００（及びそれらの既知の位置）で発生するレーンマークを使用して、位置決定における推測航法によって誘発される誤差を低減し得る。このようにして、疎なマップ８００に含まれる識別されるレーンマークは、ナビゲーションアンカーとして機能し得て、そこから、目標軌道に対する車両の正確な位置を決定し得る。
図２５Ａは、マッピングされたレーンマークに基づくナビゲーションに使用され得る車両の周囲環境の例示的な画像２５００を示す。画像２５００は、例えば、画像取得ユニット１２０に含まれる画像捕捉デバイス１２２及び１２４を介して車両２００によって捕捉され得る。画像２５００は、図２５Ａに示すように、少なくとも１つのレーンマーク２５１０の画像を含み得る。画像２５００はまた、上記で説明したようにナビゲーションに使用される道路標識等の１つ又は複数の陸標２５２１を含み得る。捕捉された画像２５００には表れないが、車両２００によって検出及び／又は決定される要素２５１１、２５３０、及び２５２０等、図２５Ａに示す幾つかの要素も参照のために示される。
図２４Ａ～図２４Ｄ及び図２４Ｆに関して上記で説明した様々な技術を使用して、車両は、画像２５００を分析して、レーンマーク２５１０を識別し得る。画像内のレーンマークの特徴に対応する様々な点２５１１が検出され得る。例えば、点２５１１は、レーンマークの端部、レーンマークの角、レーンマークの中間点、２つの交差するレーンマーク間の頂点、又は他の様々な特徴又は位置に対応し得る。点２５１１は、サーバから受信されるナビゲーションモデルに記憶された点の位置に対応するように検出され得る。例えば、マッピングされたレーンマークの中心線を表す点を含む疎なマップが受信される場合、点２５１１はまた、レーンマーク２５１０の中心線に基づいて検出され得る。
車両はまた、要素２５２０によって表され、目標軌道に沿って配置された縦方向の位置を決定し得る。縦方向位置２５２０は、例えば、画像２５００内の陸標２５２１を検出し、測定された位置を道路モデル又は疎なマップ８００に記憶された既知の陸標位置と比較することによって、画像２５００から決定され得る。次いで、目標軌道に沿った車両の位置は、陸標までの距離及び陸標の既知の位置に基づいて決定され得る。縦方向位置２５２０はまた、レーンマークの位置を決定するために使用されるもの以外の画像から決定され得る。例えば、縦方向位置２５２０は、画像２５００と同時に又はほぼ同時に撮影された画像取得ユニット１２０内の他のカメラからの画像内の陸標を検出することによって決定され得る。場合によっては、車両は、縦方向位置２５２０を決定するための陸標又は他の基準点の近くにない場合がある。そのような場合、車両は推測航法に基づいてナビゲートし得て、従って、センサを使用して自己運動を決定し、目標軌道に対する縦方向位置２５２０を推定し得る。車両はまた、捕捉された画像内で観察された車両とレーンマーク２５１０との間の実際の距離を表す距離２５３０を決定し得る。カメラの角度、車両の速度、車両の幅、又は他の様々な要因が、距離２５３０を決定する際に考慮され得る。
図２５Ｂは、道路ナビゲーションモデルにおけるマッピングされたレーンマークに基づく車両の横方向の位置特定補正を示す。上記で説明したように、車両２００は、車両２００によって捕捉された１つ又は複数の画像を使用して、車両２００とレーンマーク２５１０との間の距離２５３０を決定し得る。車両２００はまた、マッピングされたレーンマーク２５５０及び目標軌道２５５５を含み得る、疎なマップ８００等の道路ナビゲーションモデルにアクセスし得る。マッピングされたレーンマーク２５５０は、例えば、複数の車両によって捕捉されたクラウドソーシングされた位置識別子を使用して、上記で説明した技術を使用してモデル化され得る。目標軌道２５５５はまた、上記で説明した様々な技術を使用して生成され得る。車両２００はまた、図２５Ａに関して上記で説明したように、目標軌道２５５５に沿った縦方向位置２５２０を決定又は推定し得る。次いで、車両２００は、目標軌道２５５５と、縦方向位置２５２０に対応するマッピングされたレーンマーク２５５０との間の横方向距離に基づいて、予想距離２５４０を決定し得る。車両２００の横方向の位置特定は、捕捉された画像を使用して測定された実際の距離２５３０をモデルからの予想距離２５４０と比較することによって修正又は調整され得る。
図２６Ａは、開示される実施形態による、自律車両ナビゲーションで使用するためのレーンマークをマッピングするための例示的なプロセス２６００Ａを示すフローチャートである。ステップ２６１０において、プロセス２６００Ａは、検出されたレーンマークに関連付けられた２つ以上の位置識別子を受信することを含み得る。例えば、ステップ２６１０は、サーバ１２３０又はサーバに関連付けられた１つ又は複数のプロセッサによって実行され得る。位置識別子は、図２４Ｅに関して上記で説明したように、検出されたレーンマークに関連付けられた点の現実世界の座標における位置を含み得る。幾つかの実施形態では、位置識別子はまた、道路区分又はレーンマークに関する追加情報等の他のデータを含み得る。加速度計データ、速度データ、陸標データ、道路のジオメトリ又はプロファイルデータ、車両位置データ、自己運動データ、又は上記で説明した他の様々な形態のデータ等の追加のデータもまた、ステップ２６１０の間に受信され得る。位置識別子は、車両によって捕捉された画像に基づいて、車両１２０５、１２１０、１２１５、１２２０、及び１２２５等の車両によって生成され得る。例えば、識別子は、ホスト車両に関連付けられたカメラからの、ホスト車両の環境を表す少なくとも１つの画像の捕捉、ホスト車両の環境におけるレーンマークを検出するための少なくとも１つの画像の分析、及び、ホスト車両に関連付けられた位置に対する検出されたレーンマークの位置を決定するための少なくとも１つの画像の分析に基づいて決定され得る。上記で説明したように、レーンマークは、様々な異なるマークタイプを含み得て、位置識別子は、レーンマークに関連する様々な点に対応し得る。例えば、検出されたレーンマークがレーン境界をマークする破線の一部である場合、点はレーンマークの検出された角に対応し得る。検出されたレーンマークがレーン境界をマークする実線の一部である場合、点は、上記で説明したように、様々な間隔で、レーンマークの検出された端部に対応し得る。幾つかの実施形態では、点は、図２４Ｃに示すように、検出されたレーンマークの中心線に対応し得るか、又は図２４Ｄに示すように、２つの交差するレーンマークの間の頂点及び交差するレーンマークに関連付けられた他の２つの点の少なくとも１つに対応し得る。
ステップ２６１２において、プロセス２６００Ａは、検出されたレーンマークを対応する道路区分に関連付けることを含み得る。例えば、サーバ１２３０は、ステップ２６１０の間に受信される現実世界の座標又は他の情報を分析し、座標又は他の情報を、自律車両道路ナビゲーションモデルに記憶された位置情報と比較し得る。サーバ１２３０は、レーンマークが検出された現実世界の道路区分に対応するモデル内の道路区分を決定し得る。
ステップ２６１４において、プロセス２６００Ａは、検出されたレーンマークに関連付けられた２つ以上の位置識別子に基づいて、対応する道路区分に関連する自律車両道路ナビゲーションモデルを更新することを含み得る。例えば、自律車両道路ナビゲーションモデルは疎なマップ８００であり得て、サーバ１２３０は、モデルにマッピングされたレーンマークを含むか又は調整するために疎なマップを更新し得る。サーバ１２３０は、図２４Ｅに関して上記で説明した様々な方法又はプロセスに基づいてモデルを更新し得る。幾つかの実施形態では、自律車両の道路ナビゲーションモデルを更新することは、検出されたレーンマークの現実世界の座標における位置の１つ又は複数のインジケータを記憶することを含み得る。自律車両道路ナビゲーションモデルは、図２４Ｅに示すように、対応する道路区分に沿って車両が追従する少なくとも１つの目標軌道を含み得る。
ステップ２６１６において、プロセス２６００Ａは、更新された自律車両道路ナビゲーションモデルを複数の自律車両に配信することを含み得る。例えば、サーバ１２３０は、更新された自律車両道路ナビゲーションモデルを、ナビゲーションのためにモデルを使用し得る車両１２０５、１２１０、１２１５、１２２０、及び１２２５に配信し得る。自律車両道路ナビゲーションモデルは、図１２に示すように、無線通信経路１２３５を通じて、１つ又は複数のネットワークを介して（例えば、セルラネットワーク及び／又はインターネット等を介して）配信され得る。
幾つかの実施形態では、レーンマークは、図２４Ｅに関して上記で説明したように、クラウドソーシング技術等を介して、複数の車両から受信されるデータを使用してマッピングされ得る。例えば、プロセス２６００Ａは、検出されたレーンマークに関連付けられた位置識別子を含む第１のホスト車両からの第１の通信を受信すること、及び検出されたレーンマークに関連付けられた追加の位置識別子を含む第２のホスト車両からの第２の通信を受信することを含み得る。例えば、第２の通信は、同じ道路区分を走行する後続の車両から、すなわち、同じ道路区分に沿って後続走行する同じ車両から受信され得る。プロセス２６００Ａは、第１の通信で受信される位置識別子及び第２の通信で受信される追加の位置識別子に基づいて、検出されたレーンマークに関連付けられた少なくとも１つの位置の決定を洗練することを更に含み得る。これには、複数の位置識別子の平均を使用すること及び／又はレーンマークの現実世界の位置を反映し得ない「ゴースト」識別子を除外することが含まれ得る。
図２６Ｂは、マッピングされたレーンマークを使用して、道路区分に沿ってホスト車両を自律的にナビゲートするための例示的なプロセス２６００Ｂを示すフローチャートである。プロセス２６００Ｂは、例えば、自律車両２００の処理ユニット１１０によって実行され得る。ステップ２６２０において、プロセス２６００Ｂは、サーバベースのシステムから自律車両道路ナビゲーションモデルを受信することを含み得る。幾つかの実施形態では、自律車両道路ナビゲーションモデルは、道路区分に沿ったホスト車両の目標軌道、及び道路区分に関連付けられた１つ又は複数のレーンマークに関連付けられた位置識別子を含み得る。例えば、車両２００は、疎なマップ８００又はプロセス２６００Ａを使用して開発された別の道路ナビゲーションモデルを受信し得る。幾つかの実施形態では、目標軌道は、例えば、図９Ｂに示すように、３次元スプラインとして表し得る。図２４Ａ～図２４Ｆに関して上記で説明したように、位置識別子は、レーンマークに関連付けられた点（例えば、破線のレーンマークの角点、実線のレーンマークの端点、２つの交差するレーンマークの間の頂点及び交差するレーンマークに関連付けられた他の点、レーンマークに関連付けられた中心線等）の現実世界の座標における位置を含み得る。
ステップ２６２１において、プロセス２６００Ｂは、車両の環境を表す少なくとも１つの画像を受信することを含み得る。画像は、画像取得ユニット１２０に含まれる画像捕捉デバイス１２２及び１２４等を介して、車両の画像捕捉デバイスから受信され得る。画像は、上記で説明した画像２５００と同様に、１つ又は複数のレーンマークの画像を含み得る。
ステップ２６２２において、プロセス２６００Ｂは、目標軌道に沿ったホスト車両の縦方向位置を決定することを含み得る。図２５Ａに関して上記で説明したように、これは、捕捉された画像内の他の情報（例えば、陸標等）に基づき得るか、又は検出された陸標間の車両の推測航法により得る。
ステップ２６２３において、プロセス２６００Ｂは、目標軌道に沿ったホスト車両の決定された縦方向位置に基づいて、及び少なくとも１つのレーンマークに関連付けられた２つ以上の位置識別子に基づいて、レーンマークまでの予想横方向距離を決定することを含み得る。例えば、車両２００は、疎なマップ８００を使用して、レーンマークまでの予想横方向距離を決定し得る。図２５Ｂに示すように、目標軌道２５５５に沿った縦方向位置２５２０は、ステップ２６２２で決定され得る。疎なマップ８００を使用して、車両２００は、縦方向位置２５２０に対応するマッピングされたレーンマーク２５５０までの予想距離２５４０を決定し得る。
ステップ２６２４において、プロセス２６００Ｂは、少なくとも１つの画像を分析して、少なくとも１つのレーンマークを識別することを含み得る。車両２００は、例えば、上記で説明したように、様々な画像認識技術又はアルゴリズムを使用して、画像内のレーンマークを識別し得る。例えば、レーンマーク２５１０は、図２５Ａに示すように、画像２５００の画像分析を介して検出され得る。
ステップ２６２５において、プロセス２６００Ｂは、少なくとも１つの画像の分析に基づいて、少なくとも１つのレーンマークまでの実際の横方向距離を決定することを含み得る。例えば、車両は、図２５Ａに示すように、車両とレーンマーク２５１０との間の実際の距離を表す距離２５３０を決定し得る。カメラの角度、車両の速度、車両の幅、車両に対するカメラの位置、又は他の様々な要因が、距離２５３０を決定する際に考慮され得る。
ステップ２６２６において、プロセス２６００Ｂは、少なくとも１つのレーンマークまでの予想横方向距離と、少なくとも１つのレーンマークまでの決定された実際の横方向距離との間の差に基づいて、ホスト車両の自律操舵動作を決定することを含み得る。例えば、図２５Ｂに関して上記で説明したように、車両２００は、実際の距離２５３０を予想距離２５４０と比較し得る。実際の距離と予想距離との差は、車両の実際の位置と車両が追従する目標軌道との間の誤差（及びその大きさ）を示し得る。従って、車両は、その差に基づいて、自律操舵動作又は他の自律動作を決定し得る。例えば、図２５Ｂに示すように、実際の距離２５３０が予想距離２５４０よりも短い場合、車両は、レーンマーク２５１０から離れて、車両を左に向けるための自律操舵動作を決定し得る。従って、目標軌道に対する車両の位置を修正し得る。プロセス２６００Ｂは、例えば、陸標間の車両のナビゲーションを改善するために使用され得る。
画像分析に基づくナビゲーション
上記で説明したように、自律車両ナビゲーションシステム又は部分的な自律車両ナビゲーションシステムは、センサ入力に依存して、車両の環境内の現在の条件、インフラストラクチャ、物体等に関する情報を収集し得る。収集された情報に基づいて、ナビゲーションシステムは、（例えば、収集された情報への１つ又は複数の運転ポリシの適用に基づいて）取るべき１つ又は複数のナビゲーション動作を決定し得て、車両で利用可能な作動システムを介して１つ又は複数のナビゲーション動作を実施し得る。
場合によっては、車両の環境に関する情報を収集するためのセンサは、上記で説明したように、画像捕捉デバイス１２２、１２４、及び１２６等の１つ又は複数のカメラを含み得る。関連するカメラによって捕捉された各フレームは、車両ナビゲーションシステムの所望の機能を提供するために、車両ナビゲーションシステムの１つ又は複数の構成要素によって分析され得る。例えば、捕捉された画像は、環境内の特定の物体又は特徴を検出し、検出された物体又は特徴の存在下でナビゲートすることを担う別個のモジュールに提供され得る。例えば、ナビゲーションシステムは、歩行者、他の車両、道路内の物体、道路境界、道路マーク、信号機、交通標識、駐車車両、付近の車両の横方向の動き、駐車中の車両のドアの開放、付近の車両の車輪／道路の境界、付近の車両の検出された車輪に関連付けられた回転、路面の条件（例えば、濡れている、雪に覆われている、凍っている、砂利で覆われている、等）等の１つ又は複数を検出するための別個のモジュールを含み得る。
各モジュール又は機能は、そのモジュール又は機能のロジックが基づいている特定の特徴の存在を検出するために、提供された画像（例えば、捕捉された各フレーム）の分析を含み得る。更に、捕捉された画像を処理及び分析するための計算資源を効率化するために、様々な画像分析技術が使用され得る。例えば、ドアの開放を検出することを担うモジュールの場合、そのモジュールに関連付けられた画像分析技術は、駐車中の車に関連付けられたものがあるか否かを決定するための画像ピクセルの走査を含み得る。駐車中の車を表すピクセルが識別されない場合、モジュールの作業は特定の画像フレームに関連して終了し得る。しかし、駐車中の車が識別された場合、モジュールは、駐車中の車に関連付けられたピクセルのどれがドアの端部（例えば、最も後方のドアの端部）を表すかを識別することに焦点を合わせ得る。これらのピクセルを分析して、ドアが開いているか完全に閉じているかの証拠があるか否かを判断し得る。これらのピクセル及び関連付けられたドア端部の特性を複数の画像フレームにわたって比較して、検出されたドアが開いた状態にあるか否かを更に確認し得る。いずれの場合にも、特定の機能又はモジュールは、所望の機能を提供するために、捕捉された画像フレームの一部のみに焦点を合わせる必要があり得る。
それにもかかわらず、利用可能な計算資源を効率的に利用するために、様々な画像分析技術を使用して、分析を効率化し得るが、複数の機能／モジュールにわたる画像フレームの並列処理は、かなりの計算資源の使用を含み得る。実際、各モジュール／機能が、依存する特徴を識別するための独自の画像分析を担う場合、ナビゲーションシステムに追加される全ての追加のモジュール／機能は、画像分析構成要素（例えば、全てのピクセルの調査及び分類に関連付けられ得る構成要素）を追加し得る。捕捉された各フレームが数百万のピクセルを含み、１秒当たり複数のフレームが捕捉され、フレームが分析のために数十又は数百の異なるモジュール／機能に供給されると仮定すると、多くの機能／モジュールにわたって、走行に適した速度（例えば、少なくともフレームが捕捉されるのと同じ速度）で分析を実行するために使用される計算資源はかなりの量になり得る。多くの場合、画像分析フェーズの計算要件により、ハードウェアの制約等を考慮して、ナビゲーションシステムが提供できる機能又は特徴の数が制限され得る。
記載する実施形態は、車両ナビゲーションシステムにおけるこれらの課題に対処するための画像分析アーキテクチャを含む。例えば、記載する実施形態は、個々のナビゲーションシステムモジュール／機能から画像分析の負担を取り除き得る統一された画像分析フレームワークを含み得る。そのような統合された画像分析フレームワークは、例えば、入力として捕捉された画像フレームを受信し、捕捉された画像フレームに関連付けられたピクセルを分析及び特徴付けし、出力として特徴付けられた画像フレームを提供する単一の画像分析層を含み得る。次いで、特徴付けられた画像フレームは、特徴付けられた画像フレームに基づいて適切なナビゲーション動作を生成及び実装するために、ナビゲーションシステムの複数の異なる機能／モジュールに供給され得る。
幾つかの実施形態では、画像の各ピクセルを分析して、そのピクセルが、ホスト車両の環境内の特定のタイプの物体又は特徴に関連付けられているか否かを判断し得る。例えば、画像内の各ピクセル又は画像の一部を分析して、それらがホスト車両の環境内の別の車両に関連付けられているか否かを判断し得る。ピクセルが車両の端部、車両の表面等に対応するか否か等、ピクセルごとに追加情報を判断し得る。そのような情報は、ナビゲーション目的で検出された車両の周りに示され得るバウンディングボックスのより正確な識別及び適切な方向付けを可能にし得る。
図２７は、開示される実施形態による、目標車両に関連付けられたピクセルに対して実行される分析の例を示す。図２７は、画像取得ユニット１２０等の画像捕捉デバイスによって捕捉された画像又は画像の一部を表し得る。画像は、上記で説明した車両２００等のホスト車両の環境内の車両２７１０の表現を含み得る。画像は、ピクセル２７２２及び２７２４等の複数の個々のピクセルから構成され得る。ナビゲーションシステム（例えば、処理ユニット１１０）は、各ピクセルを分析して、そのピクセルが目標車両に関連付けられているか否かを判断し得る。本明細書で使用される目標車両は、ホスト車両に対してナビゲートする可能性があるホスト車両の環境内の車両を指し得る。これは、例えば、以下でより詳細に論じるように、トレーラ又はキャリアで輸送されている車両、車両の反射、又は画像で検出され得る車両の他の表現を除外し得る。分析は、捕捉された画像の全てのピクセルに対して実行され得るか、又は捕捉された画像に対して識別された候補領域内の全てのピクセルに対して実行され得る。
ナビゲーションシステムは、他の関連情報を決定するために各ピクセルを分析するように更に構成され得る。例えば、目標車両に関連付けられていると判断された各ピクセルを分析して、ピクセルが車両のどの部分に関連付けられているかを判断し得る。これは、ピクセルが車両の端部に関連付けられているか否かを判断することを含み得る。例えば、図２７に示すように、車両２７１０は、画像内に表される端部２７１２に関連付けられ得る。ピクセル２７２４を分析するとき、ナビゲーションシステムは、ピクセル２７２４が境界ピクセルであり、従って、端部２７１２を含むと判断し得る。幾つかの実施形態では、ピクセルはまた、それらが車両の表面に関連付けられているか否かを判断するために分析され得る。境界、端部、及び表面という用語は、ナビゲーションシステムによって定義され、関心のある物体、この例では車両２７１０に少なくとも部分的に隣接又は取り囲む仮想形状に関連している。形状は任意の形式をとることができ、固定又は物体のタイプもしくはクラスに固有にすることもできる。典型的には、例として、形状は、関心のある物体の輪郭の周りにぴったりと合う長方形を含み得る。他の例では、少なくとも幾つかの物体クラスについて、３Ｄボックス及びボックスの各表面が、ホスト車両の環境内の３Ｄ物体の対応する表面の面をしっかりと境界付けし得る。この特定の例では、３Ｄボックスが車両２７１０を境界付けている。
従って、例えば、ナビゲーションシステムは、ピクセル２７２２を分析して、ピクセル２７２２が車両２７１０の表面２７３０上に位置することを決定し得る。ナビゲーションシステムは、ピクセル２７２２からの１つ又は複数の推定距離値を更に決定し得る。幾つかの実施形態では、ピクセル２７２２から表面２７３０の端部までの１つ又は複数の距離を推定し得る。３Ｄボックスの場合、距離は、所与のピクセルから、そのピクセルの境界となる３Ｄボックスの表面の端部までと判断され得る。例えば、ナビゲーションシステムは、表面２７３０の側面までの距離２７３２及び表面２７３０の下端部までの距離２７３４を推定し得る。推定は、車両の部分２７２２が表していると決定された位置、及び車両のその部分から表面２７３０の端部までの典型的な寸法に基づき得る。例えば、ピクセル２７２２は、システムによって認識されるバンパーの特定の部分に対応し得る。ナンバープレート、テールライト、タイヤ、排気管等を表すピクセル等の他のピクセルは、異なる推定距離に関連付けられ得る。図２７には示されていないが、表面２７３０の上端部までの距離、（車両２７１０の向きに応じた）前端部又は後端部での距離、車両２７１０の端部２７１２までの距離等を含む、様々な他の距離を推定し得る。距離は、ナビゲーションシステムによる分析に適した任意の単位で測定し得る。幾つかの実施形態では、距離は、画像に対してピクセル単位で測定し得る。他の実施形態では、距離は、目標車両に対して測定された実際の距離（例えば、センチメートル、メートル、インチ、フィート等）を表し得る。
処理ユニット１１０は、任意の適切な方法を使用して、上記で説明したピクセルベースの分析を提供し得る。幾つかの実施形態では、ナビゲーションシステムは、ニューラルネットワークのトレーニングプロトコルに従って画像内の個々のピクセルを特徴付けるトレーニングされたニューラルネットワークを含み得る。ニューラルネットワークをトレーニングするために使用されるトレーニングデータセットは、車両の表現を含む複数の捕捉された画像を含み得る。画像の各ピクセルは、ニューラルネットワークが認識すべき特性の所定のセットに従って調査及び特徴付けられ得る。例えば、各ピクセルは、目標車両の表現の一部であるか否か、目標車両の端部が含まれているか否か、目標車両の表面、ピクセルから表面の端部までの測定された距離（ピクセル又は現実世界の距離で測定され得る）、又はその他の関連情報を表すか否かを示すために分類され得る。指定された画像は、ニューラルネットワークのトレーニングデータセットとして使用できる。
結果として得られるトレーニングされたモデルを使用して、ピクセル又はピクセルのクラスタに関連付けられた情報を分析し、ピクセルが目標車両を表すか否か、車両の表面上又は端部上にあるか否か、表面の端部までの距離、又はその他の情報を識別し得る。システムは本開示全体を通してニューラルネットワークとして説明されているが、ロジスティック回帰、線形回帰、回帰、ランダムフォレスト、Ｋ最近傍（ＫＮＮ）モデル、Ｋ－Ｍｅａｎｓモデル、意思決定ツリー、ｃｏｘ比例ハザード回帰モデル、ナイーブベイズモデル、サポートベクターマシン（ＳＶＭ）モデル、勾配ブースティングアルゴリズム、深層学習モデル、又は任意の適切な形式の機械学習モデル又はアルゴリズムを含む、他の様々な機械学習アルゴリズムを使用し得る。
目標車両２７１０の境界又は表面への各ピクセルのマッピングに基づいて、ナビゲーションシステムは、車両２７１０の境界をより正確に決定し得て、これにより、ホスト車両は、１つ又は複数の適切なナビゲーション動作を正確に決定し得る。例えば、システムは、端部２７１２によって表される車両の完全な境界を決定可能であり得る。幾つかの実施形態では、ナビゲーションシステムは、画像内の車両の境界を表し得る、車両のバウンディングボックス２７２０を決定し得る。各ピクセルの分析に基づいて決定されるバウンディングボックス２７２０は、従来の物体検出方法よりも車両２７１０の境界をより正確に画定し得る。
更に、システムは、目標車両の向きをより正確に表す向きを有する境界を決定し得る。例えば、車両２７１０の表面２７３０内のピクセル（例えば、ピクセル２７２２）の組み合わせ分析に基づいて、表面２７３０の端部を推定し得る。画像に表された車両２７１０の離散面を識別することにより、システムは、車両２７１０の向きに対応するように、バウンディングボックス２７２０をより正確に方向付け得る。バウンディングボックスの向きの改善された精度は、適切なナビゲーション動作応答を決定するシステムの能力を改善し得る。例えば、横向きカメラから検出された車両の場合、バウンディングボックスの不適切な向きは、車両がホスト車両に向かって走行していることを不適切に示し得る（例えば、割り込みシナリオ）。開示される技術は、目標車両が捕捉された画像の全てではないにしても多くを占める状況（例えば、車両の少なくとも１つの端部が、バウンディングボックスの向きを示唆するために存在しない状況）、目標車両の反射が画像に含まれる状況、車両がトレーラ又はキャリアで運ばれている状況等で特に有益であり得る。
図２８は、開示される実施形態による、車両２８１０の部分的表現を含む例示的な画像２８００の図である。示されるように、車両２８１０の少なくとも１つの端部（又は端部の一部）は、画像２８００から除外され得る。幾つかの実施形態では、これは、車両２８１０の一部がカメラの視野の外側にあることに起因し得る。他の実施形態では、車両２８１０の一部は、例えば、建物、植物、別の車両等によって、視界から遮られ得る。画像２８００の構成は例として提供されているが、幾つかの実施形態では、車両２８１０が画像２８００のより大きな部分を占め得て、その結果、一部又は全部の端部が除外される。
従来の物体検出技術を使用すると、画像に含まれていない端部が車両の形状及び／又は向きを決定するために必要となり得るため、車両２８１０について検出された境界は不正確であり得る。これは、車両が画像の大部分又は全てを占める画像に特に当てはまり得る。本明細書に開示される技術を使用して、画像２８００内の車両２８１０に関連付けられた各ピクセルを分析して、完全に車両２８１０が画像内に表されているか否かに関係なく、バウンディングボックス２８２０を決定し得る。例えば、トレーニングされたニューラルネットワークモデルを使用して、ピクセル２８２４が車両２８１０の端部を含むことを決定し得る。トレーニングされたモデルはまた、ピクセル２７２２と同様に、ピクセル２８２２が車両２８１０の表面上にあることを決定し得る。システムはまた、上記で説明した距離２７３２及び２７３４と同様に、ピクセル２８２２から車両の表面の端部までの１つ又は複数の距離を決定し得る。幾つかの実施形態では、この推定距離情報を使用して、画像に含まれていない車両の境界を画定し得る。例えば、ピクセル２８２２を分析して、ピクセル２８２２から画像フレームの端部を越えている車両２８１０の端部までの推定距離を決定し得る。従って、画像内に現れる車両２８１０に関連付けられたピクセルの組み合わせ分析に基づいて、車両２８１０の正確な境界を決定し得る。この情報は、ホスト車両のナビゲーション動作を決定するために使用され得る。例えば、車両（例えば、トラック、バス、トレーラ等）の見えない後端部は、画像フレーム内にある車両の一部に基づいて決定され得る。従って、ナビゲーションシステムは、ホスト車両がブレーキをかける又は減速する、隣接するレーンに移動する、速度を上げる等の必要があるか否かを決定するために、目標車両に必要なクリアランスを推定し得る。
幾つかの実施形態では、開示される技術を使用して、目標車両ではない車両を表すバウンディングボックスを決定し得て、従って、ナビゲーション決定の目的のためにバウンディングボックスに関連付けるべきではない。幾つかの実施形態では、これは、他の車両によって牽引又は運ばれる車両を含み得る。図２９は、開示される実施形態による、キャリア上の車両を示す例示的な画像２９００の図である。画像２９００は、上記で説明したように、車両２００の画像捕捉デバイス１２０等のホスト車両のカメラによって捕捉され得る。図２９に示す例では、画像２９００は、車両２００の側面に配置されたカメラによって撮影された側面図画像であり得る。画像２９００は、１つ又は複数の車両２９２０及び２９３０を運び得るキャリア車両２９１０を含み得る。キャリア車両２９１０は、自動車輸送トレーラとして示されているが、他の様々な車両キャリアが識別され得る。例えば、キャリア車両２９１０は、フラットベッドトレーラ、牽引トラック、シングルカートレーラ、傾斜カーキャリア、グースネックトレーラ、ドロップデッキトレーラ、ウェッジトレーラ、自動車輸送列車車両、又は別の車両を輸送するための任意の他の車両を含み得る。
上記で説明した技術を使用して、画像内の各ピクセルを分析して、車両の境界を識別し得る。例えば、キャリア車両２９１０に関連付けられたピクセルは、上記で説明したように、キャリア車両２９１０の境界を決定するために分析され得る。システムはまた、車両２９２０及び２９３０に関連付けられたピクセルを分析し得る。ピクセルの分析に基づいて、システムは、車両２９２０及び２９３０が目標車両ではなく、従って、バウンディングボックスに関連付けられるべきではないと判断し得る。この分析は、様々な方法で実行され得る。例えば、上記で説明したトレーニングされたニューラルネットワークは、運ばれる車両の画像を含むトレーニングデータのセットを使用してトレーニングされ得る。画像内の運ばれる車両に関連付けられたピクセルは、運ばれる車両又は非目標車両として指定され得る。従って、トレーニングされたニューラルネットワークモデルは、画像２９００のピクセルに基づいて、車両２９２０及び２９３０がキャリア車両２９１０で輸送されていることを決定し得る。例えば、ニューラルネットワークは、車両２９２０又は２９３０内のピクセルが、車両２９２０又は２９３０の端部ではなく、車両２９１０の端部に関連付けられるようにトレーニングされ得る。従って、運ばれる車両の境界を決定し得ない。車両２９２０及び２９３０はまた、例えば、車両２９１０に対する車両の位置、車両の向き、画像内の他の要素に対する車両の位置等に基づいて、他の技術を使用して運ばれる車両として識別され得る。
幾つかの実施形態では、システムは、画像内の車両の反射が目標車両と見なされるべきではないと同様に決定し得て、従って、反射の境界を決定しない場合がある。図３０Ａ及び図３０Ｂは、開示される実施形態による、車両の反射を含む例示的な画像３０００Ａ及び３０００Ｂを示す。幾つかの実施形態では、反射は、道路の表面に基づき得る。例えば、図３０Ａに示すように、画像３０００Ａは、濡れた道路等の反射面上又は少なくとも部分的に反射面上を走行する車両３０１０を含み得る。従って、画像３０００Ａはまた、車両３０１０の反射３０３０を含み得る。そのような反射は、場合によっては、反射３０３０がシステムによって目標車両として解釈され得るため、自律車両システムにおいて問題となり得る。従って、反射３０３０は、それ自体のバウンディングボックスに関連付けられ、車両ナビゲーションの決定において考慮され得る。例えば、ホスト車両２００は、反射３０３０が車両３０１０よりもはるかに近いと判断し得て、これにより、車両２００に不要なナビゲーション動作（例えば、ブレーキの適用、レーン変更の実行等）を行わせ得る。
開示される方法を使用して、反射３０３０に関連付けられたピクセルを分析して、反射３０３０が目標車両ではないことを決定し得て、従って、反射車両の境界を決定すべきではない。これは、キャリア上の車両に関して上記で説明した方法と同様に実行され得る。例えば、ニューラルネットワークモデルは、反射に関連付けられた個々のピクセルが、反射を示すもの、又は目標車両を示さないものとして識別され得るように、車両の反射を含む画像を使用してトレーニングされ得る。従って、トレーニングされたモデルは、車両３０１０及び反射３０３０等の目標車両に関連付けられたピクセルを区別可能であり得る。幾つかの実施形態では、反射３０３０は、その向き、車両３０１０に対するその位置、画像３０００Ａの他の要素に対するその位置等に基づいて、反射として識別され得る。システムは、車両３０１０に関連付けられたバウンディングボックス３０２０を決定し得るが、反射３０３０に関連付けられたバウンディングボックス又は他の境界を決定し得ない。反射３０３０は、濡れた路面上に現れるものとして上記で説明したが、反射は、金属又は他の反射面、加熱された路面による蜃気楼反射等の他の表面上にも現れ得る。
道路上の反射に加えて、車両の反射は他の表面での反射に基づいて検出され得る。例えば、図３０Ｂに示すように、車両の反射が別の車両の表面上の画像内に表示され得る。画像３０００Ｂは、サイドビューカメラ等の車両２００のカメラによって捕捉された画像を表し得る。画像３０００Ｂは、この例では、車両２００と並んで走行し得る、別の車両３０５０の表現を含み得る。車両３０５０の表面は、第２の車両の反射３０６０が画像３０００Ｂに現れ得るように、少なくとも部分的に反射し得る。反射３０６０は、車両３０５０の表面に現れるホスト車両２００の反射であり得るか、又は別の目標車両の反射であり得る。反射３０３０と同様に、システムは、反射３０６０に関連付けられたピクセルを分析して、反射３０６０が目標車両を表していないことを決定し得て、従って、反射３０６０の境界を決定すべきではない。例えば、ニューラルネットワークは、反射３０６０内のピクセルが、反射された車両の表現の端部ではなく、車両３０５０の端部に関連付けられるようにトレーニングされ得る。従って、反射３０６０について境界を決定し得ない。反射３０６０は、反射として識別されると、ナビゲーション動作を決定する目的で無視され得る。例えば、反射の動きがホスト車両に向かって移動しているように見える場合、ホスト車両は、その動きが目標車両によって実行された場合に、それ以外の場合では実行する可能性のある、ブレーキをかけたり、他のナビゲーション動作を実行したりすることがない場合がある。反射３０６０は、タンクローリの側面に現れるように図３０Ｂに表されているが、別の車両の光沢のある塗装面（例えば、ドア、サイドパネル、バンパー等）、クロム面、別の車両のガラス面（例えば、窓等）、建物（例えば、建物の窓、金属面等）、又は目標車両の画像を反射し得るその他の反射面等の他の表面にも現れ得る。
図３１Ａは、開示される実施形態による、画像内のピクセルの分析に基づいてホスト車両をナビゲートするための例示的なプロセス３１００を示すフローチャートである。プロセス３１００は、上記で説明したように、処理ユニット１１０などの少なくとも１つの処理デバイスによって実行され得る。本開示全体を通して、「プロセッサ」という用語は、「少なくとも１つのプロセッサ」の省略形として使用されることを理解されたい。言い換えれば、プロセッサは、そのような構造が配置されているか、接続されているか、又は分散されているかにかかわらず、論理演算を実行する１つ又は複数の構造を含み得る。幾つかの実施形態では、非一時的なコンピュータ可読媒体は、プロセッサによって実行されると、プロセッサにプロセス３１００を実行させる命令を含み得る。更に、プロセス３１００は、必ずしも図３１Ａに示すステップに限定されるものではなく、本開示全体を通して説明される様々な実施形態の任意のステップ又はプロセスもまた、図２７～図３０Ｂに関して上記で説明されたものを含む、プロセス３１００に含まれ得る。
ステップ３１１０において、プロセス３１００は、ホスト車両のカメラから、ホスト車両の環境を表す少なくとも１つの捕捉された画像を受信することを含み得る。例えば、画像取得ユニット１２０は、ホスト車両２００の環境を表す１つ又は複数の画像を捕捉し得る。捕捉された画像は、図２７～図３０Ｂに関して上記で説明されたような画像に対応し得る。
ステップ３１２０において、プロセス３１００は、少なくとも１つの捕捉された画像の１つ又は複数のピクセルを分析して、１つ又は複数のピクセルが目標車両の少なくとも一部を表すか否かを判断することを含み得る。例えば、ピクセル２７２２及び２７２４は、ピクセルが車両２７１０の一部を表すことを決定するために、上記で説明したように分析され得る。幾つかの実施形態では、分析は、捕捉された画像の全てのピクセルに対して実行され得る。他の実施形態では、分析は、ピクセルのサブセットに対して実行され得る。例えば、分析は、捕捉された画像に関連して識別された目標車両候補領域の全てのピクセルに対して実行され得る。そのような領域は、例えば、以下で詳細に説明するプロセス３５００を使用して決定し得る。分析は、上記で説明したトレーニングされたシステムを含む、様々な技術を使用して実行され得る。従って、１つ又は複数のニューラルネットワークを含み得るトレーニングされたシステムは、１つ又は複数のピクセルの分析の少なくとも一部を実行し得る。
ステップ３１３０において、プロセス３１００は、目標車両の少なくとも一部を表すと判断されたピクセルの場合、１つ又は複数のピクセルから目標車両の表面の少なくとも１つの端部までの１つ又は複数の推定距離値を決定することを含み得る。例えば、上記で説明したように、処理ユニット１１０は、ピクセル２７２２が車両２７１０の表面２７３０を表すと決定し得る。従って、距離２７３２及び２７３４等、表面２７３０の端部までの１つ又は複数の距離を決定し得る。例えば、距離値は、特定のピクセルから、目標車両の前端部、後端部、側端部、上端部、又は下端部のうちの少なくとも１つまでの距離を含み得る。距離値は、画像に基づいてピクセル単位で測定し得るか、又は目標車両に対する現実世界の距離で測定し得る。幾つかの実施形態では、プロセス３１００は、１つ又は複数のピクセルが、目標車両の少なくとも１つの端部の少なくとも一部の表現を含む境界ピクセルを含むか否かを判断することを更に含み得る。例えば、ピクセル２７２４は、上記で説明したように、端部２７１２の表現を含むピクセルとして識別され得る。
ステップ３１４０において、プロセス３１００は、１つ又は複数のピクセルに関連付けられた判断された１つ又は複数の距離値を含む、１つ又は複数のピクセルの分析に基づいて、目標車両に対する境界の少なくとも一部を生成することを含み得る。例えば、ステップ３１４０は、図２７に示すように、端部３７１２によって表される境界の一部を決定することを含み得る。これは、画像内の目標車両２７１０に関連付けられた全てのピクセルの組み合わせ分析に基づいて決定し得る。例えば、端部３７１２は、端部３７１２を含むと識別されたピクセルと共に、車両の表面に含まれるピクセルに基づいて生成された推定距離値の組み合わせに基づいて推定され得る。幾つかの実施形態では、境界の一部は、バウンディングボックス２７２０等のバウンディングボックスの少なくとも一部を含み得る。
プロセス３１００は、目標車両の決定された境界の精度を改善するために特定のシナリオで実行され得る。例えば、幾つかの実施形態では、図２８に示すように、目標車両の少なくとも１つの端部（又は１つ又は複数の端部）の少なくとも一部は、捕捉された画像に表され得ない。プロセス３１００を使用して、目標車両（例えば、車両２８１０）の境界は、画像内に現れる目標車両に関連付けられたピクセルに基づいて決定され得る。幾つかの実施形態では、プロセス３１００は、捕捉された画像の分析に基づいて、図２９に関して上記で説明したように、目標車両が別の車両又はトレーラによって運ばれるか否かを判断することを更に含み得る。従って、処理ユニット１１０は、運ばれる車両の境界を決定し得ない。同様に、プロセス３１００は、図３０Ａ及び図３０Ｂに関して上記で説明したように、捕捉された画像の分析に基づいて、目標車両が少なくとも１つの画像の反射の表現に含まれるか否かを判断することを含み得る。そのような実施形態では、処理ユニット１１０は、車両反射の境界を決定し得ない。
幾つかの実施形態では、プロセス３１００は、上記の分析に基づく追加のステップを含み得る。例えば、プロセス３１００は、目標車両に対して生成された境界の少なくとも一部の向きを決定することを含み得る。上記で説明したように、向きは、目標車両に関連付けられた１つ又は複数の識別された表面を含む、目標車両に関連付けられた各ピクセルの組み合わせ分析に基づいて決定され得る。決定された向きは、目標車両によって実行されている動作又は実行される予定の動作（もしくは将来の動作又は状態）を示し得る。例えば、決定された向きは、目標車両によるホスト車両に対する横方向の動き（例えば、レーン変更動作）又はホスト車両の経路に向かう目標車両による動作を示し得る。プロセス３１００は、境界の少なくとも一部の決定された向きに基づいてホスト車両のナビゲーション動作を決定し、車両に決定されたナビゲーション動作を実施させることを更に含み得る。例えば、決定されたナビゲーション動作は、合流動作、ブレーキ動作、加速動作、レーン変更動作、急旋回又はその他の回避動作等を含み得る。幾つかの実施形態では、プロセス３１００は、境界の一部のホスト車両までの距離を決定することを更に含み得る。これは、画像内の境界の一部の位置を決定すること、及び位置に基づいてホスト車両までの距離を推定することを含み得る。本開示全体を通して説明される他の様々な技術もまた、距離を決定するために使用され得る。プロセス３１００は、少なくとも決定された距離に基づいて、車両にナビゲーション動作を実施させることを更に含み得る。
幾つかの実施形態では、プロセス３１００は、分析されたピクセルに基づいて目標車両に関する情報を決定することを含み得る。例えば、プロセス３１００は、目標車両のタイプを決定すること、及び目標車両のタイプを出力することを含み得る。そのようなタイプの目標車両は、バス、トラック、自転車、オートバイ、バン、自動車、建設車両、緊急車両、又は他のタイプの車両のうちの少なくとも１つを含み得る。目標車両のタイプは、境界の一部のサイズに基づいて決定され得る。例えば、境界内に含まれるピクセルの数は、目標車両のタイプを示し得る。幾つかの実施形態では、サイズは、境界の一部に基づいて推定された現実世界のサイズに基づき得る。例えば、上記で説明したように、車両の端部までの距離は、画像内に現れる車両に関連付けられたピクセルに基づいて推定され得る。この分析に基づいて、車両の正確な境界は、画像フレームの外側にあるにもかかわらず、決定され得る。
図２７に関して上記で説明したように、ナビゲーションシステムは、画像内の目標車両の部分的表現を分析し、画像内に含まれていない目標車両の境界を決定するように構成され得る。これは、ナビゲーション動作の決定にとって重要であり得る。図３１Ｂは、開示される実施形態による、画像内の車両の部分的表現に基づいてホスト車両をナビゲートするための例示的なプロセス３１５０を示すフローチャートである。プロセス３１５０は、上記で説明したように、処理ユニット１１０などの少なくとも１つの処理デバイスによって実行され得る。幾つかの実施形態では、非一時的なコンピュータ可読媒体は、プロセッサによって実行されると、プロセッサにプロセス３１５０を実行させる命令を含み得る。更に、プロセス３１５０は、必ずしも図３１Ｂに示すステップに限定されるものではなく、本開示全体を通して説明される様々な実施形態の任意のステップ又はプロセスもまた、図２７～図３１Ａに関して上記で説明されたものを含む、プロセス３１５０に含まれ得る。
ステップ３１６０において、プロセス３１５０は、ホスト車両のカメラから、ホスト車両の環境を表す少なくとも１つの捕捉された画像を受信することを含み得る。例えば、画像取得ユニット１２０は、ホスト車両２００の環境を表す１つ又は複数の画像を捕捉し得る。捕捉された画像は、図２８に関して上記で説明された画像２８００に対応し得る。
ステップ３１７０において、プロセス３１５０は、少なくとも１つの捕捉された画像の１つ又は複数のピクセルを分析して、１つ又は複数のピクセルが目標車両を表すか否かを判断することを含み得る。幾つかの実施形態では、目標車両の少なくとも一部は、少なくとも１つの捕捉された画像で表され得ない。例えば、図２８に示すように、目標車両は車両２８１０に対応し得て、車両２８１０の一部は画像２８００に含まれ得ない。プロセス３１００と同様に、トレーニングされたシステムは、１つ又は複数のピクセルの分析の少なくとも一部を実行する。例えば、トレーニングされたシステムは、上記で説明したように、１つ又は複数のニューラルネットワークを含み得る。
ステップ３１８０において、プロセス３１５０は、ホスト車両から目標車両までの推定距離を決定することを含み得る。推定距離は、少なくとも１つの捕捉された画像に表されていない目標車両の一部に少なくとも部分的に基づき得る。例えば、ステップ３１８０は、少なくとも１つの捕捉された画像内に表されていない目標車両の少なくとも１つの境界の位置を決定することを含み得る。この境界は、上記で説明したプロセス３１００と一致して決定され得る。従って、少なくとも１つの境界は、１つ又は複数のピクセルの分析に基づいて決定され得る。例えば、少なくとも１つの捕捉された画像（又は目標車両に関連付けられたピクセルのサブセット）に含まれる各ピクセルは、トレーニングされたニューラルネットワークを使用して分析され得る。目標車両に関連付けられていると判断されたピクセルの場合、ステップ３１８０は、そのピクセルから少なくとも１つの境界までの少なくとも１つの距離を決定することを含み得る。幾つかの実施形態では、少なくとも１つの境界は、目標車両の全体的な境界の一部であり得る。ホスト車両から目標車両までの推定距離は、ホスト車両から少なくとも１つの境界までの推定距離であり得る。
図２８に関して上記で説明したように、プロセス３１５０は、推定距離に基づいたナビゲーション動作の実施を更に含み得る。例えば、推定距離は、ホスト車両から目標車両の後端部（例えば、バス、トレーラ、トラックの後部等）までの距離であり得る。後端部は少なくとも１つの境界に対応し得て、従って、画像に含まれ得ない。後端部が見えないにもかかわらず、それでも、ナビゲーションシステムは、後端部の位置を決定し、後端部に基づいてナビゲーション動作を実行するように構成され得る。例えば、ナビゲーション動作は、本開示全体を通して説明される他のナビゲーション動作を含む、推定距離に基づいて必要となり得るブレーキ動作（例えば、ホスト車両と目標車両の間のクリアランス距離を増やすため）、レーン変更動作、回避動作、加速動作、又は他の様々な動作のうちの少なくとも１つを含み得る。
図３２Ａは、開示される実施形態による、車両反射を含む画像内のピクセルの分析に基づいてホスト車両をナビゲートするための例示的なプロセス３２００を示すフローチャートである。プロセス３２００は、上記で説明したように、処理ユニット１１０などの少なくとも１つの処理デバイスによって実行され得る。幾つかの実施形態では、非一時的なコンピュータ可読媒体は、プロセッサによって実行されると、プロセッサにプロセス３２００を実行させる命令を含み得る。更に、プロセス３２００は、必ずしも図３２Ａに示すステップに限定されるものではなく、本開示全体を通して説明される様々な実施形態の任意のステップ又はプロセスもまた、図３０Ａ～図３０Ｂに関して上記で説明されたものを含む、プロセス３２００に含まれ得る。
ステップ３２１０において、プロセス３２００は、ホスト車両のカメラから、ホスト車両の環境を表す少なくとも１つの捕捉された画像を受信することを含み得る。例えば、画像取得ユニット１２０は、ホスト車両２００の環境を表す１つ又は複数の画像を捕捉し得る。幾つかの実施形態では、捕捉された画像は、上記で説明したように、画像３０００Ｂに対応し得る。
ステップ３２２０において、プロセス３２００は、少なくとも１つの捕捉された画像の２つ以上のピクセルを分析して、２つ以上のピクセルが第１の目標車両の少なくとも一部及び第２の目標車両の少なくとも一部を表すか否かを判断することを含み得る。幾つかの実施形態では、分析は、捕捉された画像の全てのピクセルに対して実行され得る。他の実施形態では、分析は、ピクセルのサブセットに対して実行され得る。例えば、分析は、捕捉された画像に関連して識別された目標車両候補領域の全てのピクセルに対して実行され得る。そのような領域は、例えば、以下で説明するプロセス３５００を使用して決定し得る。分析は、上記で説明するように、トレーニングされたシステムを含む、様々な技術を使用して実行され得る。従って、１つ又は複数のニューラルネットワークを含み得るトレーニングされたシステムは、１つ又は複数のピクセルの分析の少なくとも一部を実行し得る。
ステップ３２３０では、プロセッサ３２００は、第２の目標車両の一部が、第１の目標車両の表面上の反射の表現に含まれることを決定することを含み得る。例えば、第２の目標車両の一部は、車両３０５０の表面に現れる反射３０６０に対応し得る。車両３０５０は、図３２にタンクローリ車両として示されているが、第１の目標車両は、車、トラック、バン、バス、緊急車両、建設車両、又は反射面を含み得る任意の他のタイプの車両を含み得ることが理解されよう。
ステップ３２４０において、プロセッサ３２００は、２つ以上のピクセルの分析及び第２の目標車両の一部が第１の目標車両の表面上の反射の表現に含まれるという決定に基づいて、第１の目標車両に対する境界の少なくとも一部を生成し、第２の目標車両に対する境界を生成しないことを含み得る。例えば、ステップ３２４０は、車両３０５０の境界を生成し、反射３０６０の境界を生成しないことを含み得る。従って、上記で説明したように、第２の車両の感知された動きは、ナビゲーション動作を決定する目的で無視され得る。第１の車両に対して生成された境界は、上記で説明したようにプロセス３１００に従って生成され得る。従って、プロセス３１００に関して上記で説明したステップのいずれも、プロセス３２００の一部として実行され得る。幾つかの実施形態では、境界は、バウンディングボックスの少なくとも一部を含み得る。
図３２Ｂは、開示される実施形態による、運ばれる車両を含む画像内のピクセルの分析に基づいてホスト車両をナビゲートするための例示的なプロセス３２５０を示すフローチャートである。プロセス３２５０は、上記で説明したように、処理ユニット１１０などの少なくとも１つの処理デバイスによって実行され得る。幾つかの実施形態では、非一時的なコンピュータ可読媒体は、プロセッサによって実行されると、プロセッサにプロセス３２５０を実行させる命令を含み得る。更に、プロセス３２５０は、必ずしも図３２Ｂに示すステップに限定されるものではなく、本開示全体を通して説明される様々な実施形態の任意のステップ又はプロセスもまた、図２９に関して上記で説明されたものを含む、プロセス３２５０に含まれ得る。
ステップ３２６０において、プロセス３２５０は、ホスト車両のカメラから、ホスト車両の環境を表す少なくとも１つの捕捉された画像を受信することを含み得る。例えば、画像取得ユニット１２０は、ホスト車両２００の環境を表す１つ又は複数の画像を捕捉し得る。幾つかの実施形態では、捕捉された画像は、上記で説明したように、画像２９００に対応し得る。
ステップ３２７０において、プロセス３２５０は、少なくとも１つの捕捉された画像の２つ以上のピクセルを分析して、２つ以上のピクセルが第１の目標車両の少なくとも一部及び第２の目標車両の少なくとも一部を表すか否かを判断することを含み得る。幾つかの実施形態では、分析は、捕捉された画像の全てのピクセルに対して実行され得る。他の実施形態では、分析は、ピクセルのサブセットに対して実行され得る。例えば、分析は、捕捉された画像に関連して識別された目標車両候補領域の全てのピクセルに対して実行され得る。そのような領域は、例えば、以下で説明するプロセス３５００を使用して決定し得る。分析は、上記で説明するように、トレーニングされたシステムを含む、様々な技術を使用して実行され得る。従って、１つ又は複数のニューラルネットワークを含み得るトレーニングされたシステムは、１つ又は複数のピクセルの分析の少なくとも一部を実行し得る。
ステップ３２８０において、プロセス３２５０は、第２の目標車両が第１の目標車両によって運ばれるか、又は牽引されるかを判断することを含み得る。例えば、第１の車両は、車両２９１０に対応し得て、第２の車両は、車両２９２０又は２９３０のうちの１つに対応し得る。車両２９１０は図２９に自動車輸送トレーラとして示されているが、第１の目標車両には、牽引トラック、トレーラ、オープンエアキャリア、フラットベッドトラック、又は他の車両を運搬もしくは牽引し得るその他のタイプの車両を含み得る。
ステップ３２９０において、プロセス３２５０は、２つ以上のピクセルの分析及び第２の目標車両が第１の目標車両によって運ばれるか、又は牽引されるかの判断に基づいて、第１の目標車両に対する境界の少なくとも一部を生成し、第２の目標車両に対する境界を生成しないことを含み得る。例えば、ステップ３２９０は、車両２９１０の境界を生成し、車両２９２０及び／又は車両２９３０の境界を生成しないことを含み得る。第１の車両に対して生成された境界は、上記で説明したようにプロセス３１００に従って生成され得る。従って、プロセス３１００に関して上記で説明したステップのいずれも、プロセス３２５０の一部として実行され得る。幾つかの実施形態では、境界は、バウンディングボックスの少なくとも一部を含み得る。
幾つかの実施形態では、上記で説明したプロセスのうちの１つ又は複数は、反復プロセスで実行され得る。第１の画像から決定された目標車両の境界は、目標車両の第２の境界を決定するために、後続の画像に関連して使用され得る。第１の境界は、第２の境界を決定するための「ショートカット」として（すなわち、処理時間及び計算要件を削減するために）使用され得る。例えば、第２の境界は、それぞれの画像内の第１の境界内の同様の位置にあると予想され得る。予想される類似性の程度は、第１の画像及び第２の画像が捕捉されるまでの時間、ホスト車両及び／又は目標車両が走行する速度等の要因に依存し得る。幾つかの実施形態では、後で捕捉された画像を使用して、決定された境界の精度を改善するために初期の境界を洗練し得る。例えば、車両が画像の端部で部分的に遮断されている場合、車両がカメラの視野内を移動するときに、より多くのピクセルが第２の画像に含まれ得る。追加のピクセル情報は、プロセス３１００及び上記で説明した他の様々な技術に基づいて、境界のより良い推定を提供し得る。
図３３は、開示される実施形態による、一連の画像内のピクセルの分析に基づいてホスト車両をナビゲートするための例示的なプロセス３３００を示すフローチャートである。プロセス３３００は、上記で説明したように、処理ユニット１１０などの少なくとも１つの処理デバイスによって実行され得る。幾つかの実施形態では、非一時的なコンピュータ可読媒体は、プロセッサによって実行されると、プロセッサにプロセス３３００を実行させる命令を含み得る。更に、プロセス３３００は、必ずしも図３３に示すステップに限定されるものではなく、本開示全体を通して説明される様々な実施形態の任意のステップ又はプロセスもまた、プロセス３１００に関して上記で説明されたものを含む、プロセス３３００に含まれ得る。
ステップ３３１０～３３３０は、上記で説明したように、プロセス３１００のステップ３１１０～３１４０に対応し得る。例えば、ステップ３３１０において、プロセス３３００は、ホスト車両のカメラから、ホスト車両の環境を表す第１の捕捉された画像を受信することを含み得る。ステップ３３２０において、プロセス３３００は、第１の捕捉された画像の１つ又は複数のピクセルを分析して、１つ又は複数のピクセルが目標車両の少なくとも一部を表すか否かを判断し、目標車両の少なくとも一部を表すと判断されたピクセルについて、１つ又は複数のピクセルから目標車両の表面の少なくとも１つの端部までの１つ又は複数の推定距離値を判断することを含み得る。例えば、推定距離値は、上記で説明した距離２７３２及び２７３４に対応し得る。ステップ３３３０において、プロセッサ３３００は、第１の捕捉された画像の１つ又は複数のピクセルに関連付けられた判断された１つ又は複数の距離値を含む、第１の捕捉された画像の１つ又は複数のピクセルの分析に基づいて、目標車両に対する第１の境界の少なくとも一部を生成することを含み得る。第１の境界の一部は、プロセス３１００のステップ３１４０において決定された境界に対応し得る。従って、プロセス３１００に関して上記で提供されたステップ又は説明のいずれも、プロセス３３００にも適用され得る。
ステップ３３４０において、プロセス３３００は、ホスト車両のカメラから、ホスト車両の環境を表す第２の捕捉された画像を受信することを含み得る。幾つかの実施形態では、第２の捕捉された画像は、第１の捕捉された画像の後の所定の時間に捕捉され得る。例えば、所定の期間は、カメラのフレームレートに基づき得る。
ステップ３３５０において、プロセス３３００は、第２の捕捉された画像の１つ又は複数のピクセルを分析して、１つ又は複数のピクセルが目標車両の少なくとも一部を表すか否かを判断することを含み得る。幾つかの実施形態では、これは、第２の捕捉された画像内の全てのピクセルを分析することを含み得る。他の実施形態では、サブセットのみを分析し得る。例えば、目標車両に関連付けられていると判断されたピクセルのグループの全てを分析し得る。幾つかの実施形態では、サブセットは、第１の境界に基づいて選択され得る。例えば、ステップ３３５０の分析は、識別された第１の境界内又は近傍のピクセルに焦点を合わせ得る。ステップ３３２０と同様に、ステップ３３５０は、目標車両の少なくとも一部を表すと判断されたピクセルの場合、１つ又は複数のピクセルから目標車両の表面の少なくとも１つの端部までの１つ又は複数の推定距離値を決定することを含み得る。
ステップ３３６０において、プロセッサ３３００は、第２の捕捉された画像の１つ又は複数のピクセルに関連付けられた判断された１つ又は複数の距離値を含む、第２の捕捉された画像の１つ又は複数のピクセルの分析に基づいて、及び第１の境界に基づいて、目標車両に対する第２の境界の少なくとも一部を生成することを含み得る。幾つかの実施形態では、第２の境界は、第１の境界の調整されたバージョンであり得る。例えば、第２の境界は、画像フレーム内の目標車両の更新された位置に基づき得る。第２の境界は、例えば、第２の捕捉された画像内の目標車両を表す追加のピクセル等、第２の捕捉された画像に含まれる追加情報に基づく、第１の境界の洗練されたバージョンであり得る。
図２７～図３３に関して上記で説明した様々なプロセスは、画像の各ピクセルを分析して、画像内の目標車両を識別し、目標車両に関連付けられた境界を決定することに関連付けられている。従って、画像の領域は、目標車両に関連付けられたものとして分類され得る。開示された技術を使用して、画像の様々な他の物体又は領域もまた、上記で論じたように、統一された画像分析フレームワークの一部として分類され得る。例えば、単一の画像分析層は、入力として捕捉された画像フレームを受信し、捕捉された画像フレームに関連付けられたピクセルを分析及び特徴付けし、出力として特徴付けられた画像フレームを提供し得る。次いで、特徴付けられた画像フレームは、特徴付けられた画像フレームに基づいて適切なナビゲーション動作を生成及び実装するために、ナビゲーションシステムの複数の異なる機能／モジュールに供給され得る。
幾つかの実施形態では、上記で説明したプロセスの一部又は全部（例えば、プロセス３１００）は、画像分析層の一部として実行され得る。例えば、プロセス３１００を使用して、更なる処理のために機能又はモジュールに供給され得る、画像の一部を車両に関連付けられたものとして特徴付け得る。他の実施形態では、プロセス３１００の一部又は全部は、画像分析層が適用された後に実行され得る。例えば、プロセス３１００は、車両に関連付けられていると特徴付けられた画像内のピクセルのサブセットのみを分析し得る。
開示されたナビゲーションシステムの画像分析層を提供するために、捕捉された画像フレームを受信し、特徴付けられた画像を出力できる任意の適切なシステムを使用し得る。場合によっては、画像分析層は、ニューラルネットワークのトレーニングプロトコルに従って捕捉された画像のセグメントを特徴付けるトレーニングされたニューラルネットワークを含み得る。
ニューラルネットワークをトレーニングするために使用されるトレーニングデータセットは、任意の適切なデータセットを含み得る。場合によっては、トレーニングデータは、ニューラルネットワークが認識すべき所定の特性のセットに従って調査及び特徴付けられた複数の捕捉された画像を含み得る。そのような特徴付けは、例えば、トレーニングデータセット内の捕捉された画像を分析し、捕捉された画像のセグメントを関心のある所定の特性のセット（例えば、道路、道路以外、植物、物体、歩行者、車両、車両の車輪、車両のドアの端部、及びその他多数）と比較し、関心のある各特性に関連付けられた捕捉された画像のピクセルを指定する１人又は複数の人間のレビューアによって実行され得る。指定された画像は、ニューラルネットワークのトレーニングデータセットとして使用できる。従って、個々のニューラルネットワークを適用して物体の様々な分類を識別し、関連する分析を実行する複数の別個のプロセスではなく、画像分析層ニューラルネットワークは初期分析で画像の様々な部分を分類できる。
ニューラルネットワークの有効性及び精度は、トレーニングデータセット内の利用可能なトレーニングデータの質及び量に依存し得る。従って、大規模なトレーニングデータセット（例えば、数百、数千、又は数百万の指定された捕捉された画像を含む）を使用することによって提供される利点があり得る。ただし、このような大規模なデータセットを生成することは、非現実的又は不可能であり得る。更に、そのような手動の調査及び指定の技術は、特徴付けのための新しい機能（例えば、マンホールの蓋の識別機能）を１つでも追加すると、数百、数千、数百万の画像等の再指定が必要になり得るため、柔軟性に欠ける。このようなアプローチは、コストがかかり、時間がかかり得る。
この課題に対処するために、本システムは、捕捉された画像において環境の所定の特性を具体的に識別するように設計された一連の画像分析アルゴリズムを使用し得る。識別に基づいて、捕捉された画像は、ピクセルごとに自動的に指定されて、どのピクセル又はピクセルセグメントが環境内の関心のある各特徴に対応するかを示し得る。そのような指定は、関心のある特定の特徴に関連付けられるものとして指定された画像ピクセルの一部を有する捕捉された画像をもたらし得るか、又は全てのピクセルが車両環境の少なくとも１つの特徴に関連付けられるものとして指定されるように、画像の完全な指定をもたらし得る。画像分析及び画像指定のためのそのような自動システムは、トレーニングデータセットを生成できる速度及びサイズを大幅に向上させ得る。
様々な画像分析アルゴリズムを使用して、所定の特性を識別し得る。幾つかの実施形態では、画像分析アルゴリズムは、画像内の決定された構造に基づいて、ホスト車両の環境内の特徴を検出するように構成され得る。幾つかの実施形態では、この構造は、一連の画像の中で明らかであり得る「視差」効果に基づいて決定し得る。このようなシステムは通常、同じカメラからの複数の画像を異なる期間に使用する。車両が動くときのカメラの動きは、トレーニングされたニューラルネットワークが環境の３次元（３Ｄ）モデルを生成するために使用し得る異なる視点（例えば、情報）を提供し得る。
最初のステップとして、画像を正規化された状態に変換（例えば、カメラのレンズの歪みを補正するため）し、画像間でピクセルを順次位置合わせし（例えば、ホモグラフィを介して前の画像をワーピングして後の画像とほぼ一致させる）、残りのピクセル運動（例えば、残留運動）を測定する反復プロセスを使用して、環境をモデル化し得る。画像のシーケンスが正規化されると、画像内の残留運動（
として表される）は
のように計算される。ここで、
項は「ガンマ」である。これは、平面（例えば、路面）の上のピクセルの高さＨ及びセンサまでのピクセルの距離Ｚの比率であり、
は、センサの前方方向への移動を表し（例えば、車両が画像間をどれだけ移動したか）、
は平面からのセンサの高さを表し、
はエピポール情報（例えば、車両が走行している場所まで）を表し、
は、ホモグラフィベースのワーピングを適用した後のピクセルの対応する画像座標を表す。
画像内の各ピクセルに関連付けられたガンマ又は高さの情報を一連の画像から直接計算するために、トレーニングされたモデル（例えば、機械学習システム、人工ニューラルネットワーク（ＡＮＮ）、ディープＡＮＮ（ＤＮＮ）、畳み込みＡＮＮ（ＣＮＮ）等）を開発し得る。例えば、一連の画像（例えば、現在の画像及び２つの前の画像）をトレーニングされたモデルに入力し得て、各ピクセルの高さを決定して、画像の構造を示し得る。この構造データは、ニューラルネットワークをトレーニングするために使用し得る。
発生し得る問題には、他の車両等のシーン内で移動する物体が含まれる。固定された物体は、カメラの視点がシーン内を移動するにつれて、予測可能な方法で変化する傾向がある。例えば、街灯柱等の垂直の物体の場合、ポールの下部は路面と共に移動するが、ポールの上部は、カメラが近づくと、路面よりも速く移動するように見え得る。発生し得る問題には、他の車両等のシーン内で移動する物体が含まれる。
移動する物体と固定された物体との間の応答の違いは、環境モデルの精度に影響を与え得るニューラルネットワークトレーニングのアーチファクトにつながり得る。これに対抗する技術は、移動する物体を識別し、次いで、トレーニング画像でそれらを無視（例えば、マスキング）して、トレーニングへの影響を低減することを含み得る。これは、画像内に表されている環境の固定（例えば、静止している、移動していない）領域の出力のみに基づいて、ネットワークを罰を与えたり、報酬を与えたりすることに似ている。しかし、このマスキングにより、幾つかの問題が発生し得る。例えば、結果は一般に、移動する物体に関する有用な３Ｄ情報を有さない。また、穴が存在しない移動する物体の近傍の穴（例えば、くぼみ）を予測する等、異なるアーチファクトが出力に現れ得る。更に、問題の移動する物体はカメラの前方の車両であることが多いため、ネットワークは、物体が移動しているか固定されているか否かに関係なく、カメラの真正面にある物体を消去（例えば、無視）するように意図せずトレーニングされ得る。
上記の問題の幾つかに対処するために、ネットワークのトレーニングに使用される複数の画像フレームは、１台のカメラから複数の時点で撮影するのではなく、複数のカメラからある時点で撮影し得る。異なる視点が同時に捕捉されるため、移動する物体と移動しない物体との間の区別はなくなる。むしろ、様々な視点を使用して、シーン内の全ての物体の３Ｄ特性をモデル化し、ニューラルネットワークのトレーニングに使用されるグランドトゥルースを提供し得る。
第１の操作では、画像を提供するカメラ間でキャリブレーション（例えば、ＲＴ）が決定される。これは、コーナーカメラからのフレームに表示される３Ｄ情報のある程度の初期理解を使用して実行し、ローリングシャッタ画像をグローバルシャッタ画像として再描画し得る。例えば、シーンの３Ｄ情報、ピクセル行ごとの露出時間、及びタイムスタンプ辺りのカメラの自己運動を使用するローリングシャッタ補正。これは、全てのピクセルが平面上にあるという仮定等の比較的単純な３Ｄ情報を使用して実現され得るか、又はそのカメラで別の視差モデルをトレーニングして、その出力をこの補正に使用するような、はるかに豊富な３Ｄ情報を使用して実現され得る。
次に、左右の画像は、平面とＲＴ（例えば、ホモグラフィ）を使用して現在のフレームにワープされ得る。次に、損失計算では、現在のフレームの新しいバージョンは、ワープされたサイドフレームからのピクセル及びニューラルネットワークからの３Ｄ情報を使用してレンダリングされ得る。結果を実際の現在のフレーム（例えば、メインカメラから）と比較して、２つの部分がどの程度一致しているかを確認し得る。
次に、２つの経路が追従され得る。画像全体にわたるサラウンドカメラからの損失を使用し得るか、又は移動する物体のマスクの内部でのみサラウンドカメラからの損失を使用し得る。
一例では、上記で説明したように、ローリングシャッタ画像がグローバルシャッタ画像として再描画されない場合、ローリングシャッタはここで修正され得る。自己運動、行ごとの露出時間、及びこの反復でのニューラルネットワークの出力からの３Ｄ情報を使用する。
上記の操作は、幾つかの方法で使用され得る。例えば、ニューラルネットワークは、３台のカメラからの入力に基づいて推論するようにトレーニングされ得て、トレーニングでは、上記で説明したように損失を使用する。別の例では、推論のための入力は単一のカメラからのものであり（例えば、メインカメラからの３つのフレーム）、サラウンド画像はトレーニング中の測光損失のためだけに使用される。この例では、メインカメラのみが使用可能な場合に、ニューラルネットワークがフィールドで機能し、車載アーキテクチャは以前の実装と同じである。従って、チップ上の計算効率（例えば、コスト）は同じである。しかし、ニューラルネットワークは、移動する物体についても合理的な３Ｄ情報を出力する方法を学習している。この第２の手法では、インストールされているハードウェア又は性能に関して、基本的にこの特徴を完全に無料で追加した。
移動している及び移動していない１つ又は複数の物体に関する３Ｄ情報を提供することに加えて、この損失の組み合わせを使用して、画像内のどのピクセルが移動している物体の一部であり、どのピクセルが移動していない物体なのかを示すマスクを出力し得る。これは、ニューラルネットワークの出力に別のチャネルを追加することで実現され得る。従って、画像内の各ピクセルの３Ｄ情報を生成するだけでなく、移動している／移動していない予測（例えば、０と１の間）も各ピクセルに提供される。この出力を提供するようにニューラルネットワークをトレーニングするために、ニューラルネットワークは、メインカメラからの元の５つの画像（例えば、付録Ａの手法）とサラウンドカメラからの損失との間の損失がどの程度異なるかを推測するように促される。物体が移動している領域では、サラウンドカメラからの損失とメインカメラからの損失との間に比較的大きな差（例えば、差の比率で測定される）が発生するため、追加の出力チャネルでより大きな値を生成するために大きな変動が促される。次いで、これらの値は、移動しているマスク及び移動していないマスクとして使用し得る。サラウンドカメラからのステレオ情報を使用することには、他にも利点がある。例えば、単一のカメラと比較した場合、サラウンドカメラ間のベースラインが比較的広いため、少し離れて物体の３Ｄ形状を測定する方が正確であり得る。更に、実線の道路マーク（例えば、線）等の特定のテクスチャは、主にカメラ画像の動きが横方向の場合に深度情報を提供する。従って、これらの実線の道路マークは、道路マークに沿った単眼カメラに深度情報を提供するのに不十分なことがよくあるが、サラウンドカメラは実線の道路マークに対する２つの異なる角度のため、実線の道路マークを非常に効果的に使用し得る。
トレーニングデータセットが生成されると、モデルを検証し得るようにニューラルネットワークに提供できる。ニューラルネットワークがトレーニング及び検証されると、次いで、車両のナビゲーションに使用するために、捕捉された画像をその場で分析及び特徴付けるための車両のナビゲーションシステムで使用できる。例えば、車両に搭載されたカメラによって捕捉された各画像は、画像分析層による特徴付けのためにナビゲーションシステムに提供され得る。この層は、車両環境に含まれ、対応する捕捉された画像で表される関心のある特徴のいずれか又は全てを認識し得る。上記で述べたように、関心のあるそのような特徴は、車両ナビゲーションの１つ又は複数の態様が依存し得る環境の任意の特徴（例えば、車両、他の物体、車輪、植物、道路、道路端部、障壁、道路レーンマーク、穴、タールストリップ、交通標識、歩行者、信号機、ユーティリティインフラストラクチャ、空き空間領域、空き空間のタイプ（例えば、緊急時に道路以外の領域をナビゲートできるか否かを判断する際に重要になる可能性がある、駐車場、私道等）、及び他の多くの機能）を含み得る。トレーニングされたニューラルネットワークの画像分析層の出力は、関心のある全ての特徴のピクセルが指定されている完全に又は部分的に指定された画像フレームであり得る。次いで、この出力を複数の異なる車両ナビゲーション機能／モジュールに提供でき、個々のモジュール／機能はそれぞれ、指定された画像フレームに依存して、対応するナビゲーション機能を提供するために必要な情報を導出することができる。
図３４Ａ及び図３４Ｂは、開示される実施形態による、実行され得る例示的な画像分類を示す。具体的には、図３４Ａは、画像捕捉デバイス１２０等、ホスト車両の画像捕捉デバイスによって捕捉され得る画像３４００Ａを表す。示されるように、画像３４００Ａは、車両３４１０Ａ、歩行者３４２０Ａ、柱３４２２Ａ、木３４２４Ａ、路面３４３０Ａ、歩道３４３２Ａ、中央分離帯３４３４Ａ、ガードレール３４３６Ａ、及びレーンマーク３４３８Ａ等の車両ナビゲーションシステムによって認識され得る幾つかの要素を含む。画像分析層は、これらの特徴の一部又は全部を検出し、画像内の個々のピクセルを複数のクラスにセグメント化するように構成され得る。幾つかの実施形態では、分類は、「車」／「車ではない」等の二項分類を含み得て、これにより、各ピクセルは、（プロセス３１００に関して上記で説明したように）車両に関連付けられるか否かのいずれかであると判断される。幾つかの実施形態では、分析は、画像内の表面が走行可能な路面であるか否かを示す「道路」／「道路ではない」としてピクセルを分類し得る。車両が走行することは可能であるが避けるべき領域については、第３の分類も含まれ得る。これは、緊急事態で車両が走行できる領域（例えば、芝生領域、私道、道路近傍の未舗装領域、低い歩道等）を含み得る。
或いは、又はこれらの二項分類に加えて、各ピクセルは、物体又は特徴の事前定義されたクラスのリストに従って分類され得る。このようなクラスは、限定されないが、車、トラック、バス、オートバイ、歩行者、道路、障壁、ガードレール、塗装された路面、道路に対して高くなっている領域、走行可能な路面、ポール、又は車両ナビゲーションシステムに関連し得る他の特徴を含み得る。図３４Ｂは、開示される実施形態による、ピクセルの分類された領域を有する画像３４００Ｂを示す。画像３４００Ｂは、画像分析層を通じて処理された後の画像３４００Ａに対応し得る。例えば、画像３４００Ａは、領域３４１０Ｂを、上記で説明したプロセス３１００の一部又は全部に対応し得る、車両に関連付けられたピクセルを含むものとして分類し得る。同様に、画像３４００Ｂは、歩行者を含むと分類された領域３４２０Ｂ、木（又は植物等）を含むと分類された領域３４２４Ｂ、柱を含む領域３４２２Ｂ、路面として分類された領域３４３０Ｂ、高くなっている表面として分類された領域３４３２Ｂ及び３４３４Ｂ、及び／又はガードレールとして分類された領域３４３６Ｂを含み得る。図２７の車両に関して上記で説明した端部検出と同様に、様々な物体分類の端部も決定し得る。例えば、路面領域３４３０Ｂの端部、並びに柱領域３４２２Ｂ、高さ領域３４３２Ｂ及び３４３４Ｂの端部、及び／又は画像２８００Ｂ内の他の特徴を決定し得る。路面領域３４３０Ｂは、道路３４３０Ａの表面全体を含むように示されているが、塗装された道路マーク（例えば、レーンマーク３４３８Ａ）等の分類等の追加の分類を含んでもよい。特に、ガードレール３４３６Ａ及び中央分離帯３４３４Ａ（例えば、コンクリート障壁）は、画像３４００Ａ内のピクセルの分析に基づいて別個に分類され得る。幾つかの実施形態では、レーダデータ等の他のセンサ情報もまた、ガードレールとコンクリート障壁とを区別する目的で使用され得る。従って、この分類は、別個の特徴を区別するのに役立つようにレーダ又は同様のシステムと組み合わせて使用する場合に重要になり得る。
この初期分析を通じて画像内の１つ又は複数のピクセルを（例えば、上記で説明したようにトレーニングされたニューラルネットワークを使用して）分類すると、個々の画像分析モジュールによる繰り返しの識別タスクを回避し得る。異なるモジュールによる重複作業を回避することにより、ナビゲーションシステム内の効率が大幅に改善し得る。この分類により、画像内の物体及びその他の特徴の検出精度も改善し得る。例えば、ピクセルが特定のクラスに属していないと判断することによって、システムは、そのピクセルがどのクラスに属しているかをより確実に判断でき得る。幾つかの実施形態では、画像の領域は、より多くの分類に属し得る。ある領域が割り当てられ得る複数の分類（及び除外される分類）を評価することで、特定の物体のより正確な識別を可能にし得る。
更に、記載したシステムは、新しい又は異なる特徴、サブ特徴（例えば、識別された車両内の、例えば、識別された車両のドアのドアハンドル）、又は特徴の特徴付けに基づいて考慮及びナビゲートするためのナビゲーションシステムの柔軟性を高め得る。トレーニングデータセットの自動生成により、新しい特徴等に対応する新しいトレーニングされたデータセットの生成速度が向上するだけでなく、ナビゲーションシステムの機能及びモジュールがほとんど変更され得ない。新しい特徴を考慮するために、画像分析層のみを再トレーニングする必要があり得る。新しいトレーニングされた画像分析層は、事実上、新しい特徴に依存しない、又は新しい特徴を必要としない、以前に開発されたモジュール／機能と下位互換性があり得る。新たにトレーニングされた画像分析層によって新たに識別された特徴を利用できるモジュール／機能は、変更又は新たに開発できる。言い換えれば、ナビゲーションシステムの大部分を変更することなく、新しい機能を追加し得る。また、全ての画像分析及び分類を単一の画像分析層で実行することにより、機能／モジュール固有の画像分析アルゴリズムを開発する必要がなくなる。その結果、車両の環境で関心のある特徴の新たに識別されたカテゴリ又はクラスに基づく新しいナビゲーション特徴は、特に画像分析の観点から、実装のために追加の計算資源をほとんど必要とし得ない。
図３５は、開示される実施形態による、画像内のピクセルの分析に基づいてホスト車両をナビゲートするための例示的なプロセス３５００を示すフローチャートである。プロセス３５００は、上記で説明したように、処理ユニット１１０などの少なくとも１つの処理デバイスによって実行され得る。幾つかの実施形態では、非一時的なコンピュータ可読媒体は、プロセッサによって実行されると、プロセッサにプロセス３５００を実行させる命令を含み得る。更に、プロセス３５００は、必ずしも図３５に示すステップに限定されるものではなく、本開示全体を通して説明される様々な実施形態の任意のステップ又はプロセスもまた、図２７～図３０Ｂに関して上記で説明されたものを含む、プロセス３５００に含まれ得る。
ステップ３５１０において、プロセス３５００は、ホスト車両のカメラから、ホスト車両の環境から捕捉された少なくとも１つの捕捉された画像を受信することを含み得る。例えば、画像取得ユニット１２０は、ホスト車両２００の環境を表す１つ又は複数の画像を捕捉し得る。上記で説明したように、少なくとも１つの捕捉された画像は、画像３４００Ａに対応し得る。
ステップ３５２０において、プロセス３５００は、第１の物体の少なくとも一部の表現及び第２の物体の少なくとも一部の表現を識別するために、少なくとも１つの画像を分析することを含み得る。例えば、プロセス３５００は、車両３４１０Ａ、歩行者３４２０Ａ等の、画像３４００Ａに含まれる物体を検出するために使用され得る。幾つかの実施形態では、トレーニングされたシステムは、分析の少なくとも一部を実行し得る。例えば、トレーニングされたシステムは、上記で説明したように、１つ又は複数のニューラルネットワークを含み得る。
幾つかの実施形態では、少なくとも１つの画像を分析することは、上記で説明したように、少なくとも１つの画像の１つ又は複数のピクセルを分析することを含み得る。例えば、トレーニングされたニューラルネットワークを使用して、画像内の各ピクセルを分析し得る。従って、第１の物体の一部の表現を識別することは、第１の物体の表現に関連付けられた少なくとも１つのピクセルを識別することを含み得て、第２の物体の一部の表現を識別することは、第２の物体の表現に関連付けられた少なくとも１つのピクセルを識別することを含み得る。幾つかの実施形態では、ピクセルが特定の物体に関連付けられていないことを決定することは、そのピクセルを別の物体に関連付けられていると分類するのに役立ち得る。従って、幾つかの実施形態では、第１の物体の表現に関連付けられた少なくとも１つの画像の少なくとも１つのピクセルは、第２の物体の表現に関連付けられた少なくとも１つの画像の少なくとも１つのピクセルを含み得ない。
ステップ３５３０において、プロセス３５００は、第１の物体及び第１の物体のタイプに関連付けられた少なくとも１つの画像の第１の領域を決定することを含み得る。例えば、領域は、図３４Ｂに示される領域の１つに対応し得る。同様に、ステップ３５４０において、プロセス３５００は、第２の物体及び第２の物体のタイプに関連付けられた少なくとも１つの画像の第２の領域を決定することを含み得る。幾つかの実施形態では、第１の物体のタイプは、第２の物体のタイプとは異なり得る。例えば、第１の物体のタイプは、車両（例えば、車両３４１０Ａ）であり得るが、第２の物体は、歩行者（例えば、歩行者３４２０Ａ）であり得る。別の例として、第１の物体はガードレール（例えば、ガードレール３４３３６Ａ）を含み得て、第２の物体は、コンクリート障壁（例えば、中央分離帯３４３４Ａ）を含み得る。幾つかの実施形態では、第１の物体は、塗装された路面を含み得て、第２の物体は、塗装されていない路面を含み得る。例えば、分析は、路面３４３０Ａをレーンマーク３４３８Ａから区別し得る。幾つかの実施形態では、プロセス３５００は、第１の物体のタイプ又は第２の物体のタイプを出力することを更に含み得る。
別の例として、第１及び第２の物体は、画像で識別された異なる領域に対応し得る。言い換えれば、第１の物体は、ホスト車両の環境に第１の領域を含み得て、第２の物体は、ホスト車両の環境に第２の領域を含み得る。幾つかの実施形態では、第１の領域及び第２の領域は、異なる高さを有する。第１の領域又は第２の領域のうちの少なくとも１つは、高さの差に基づいて識別される。例えば、少なくとも１つの画像は、異なる時間に捕捉された複数の画像を含み得て、高さの差は、複数の画像間のピクセルの比較に基づいて（例えば、上記で説明した「ガンマ」方程式に基づいて）決定される。幾つかの実施形態では、第１の領域は、走行可能な領域であり得て、第２の領域は、走行不可能な領域であり得る。例えば、走行不可能な領域は、上記で論じたように、未舗装の表面、私道、歩道、又は草地を含み得る。
物体は、物体のタイプに基づいて様々な分類に分類され得る。例えば、第１の物体のタイプは、第１の物体クラスに含まれ得て、第２の物体のタイプは、第２の物体クラスに含まれ得る。幾つかの実施形態では、第１の物体クラス及び第２の物体クラスは、相互に排他的な物体を含み得る。言い換えれば、第１の物体クラス及び第２の物体クラスは、物体を共有し得ない。物体クラスの例は、車、トラック、バス、オートバイ、道路、障壁、ガードレール、塗装された路面、道路に対して高くなっている領域、走行可能な路面、又はポールのうちの１つ又は複数を含み得る。これらの物体クラスは単なる例として提供されており、追加の又は異なる物体クラスが使用され得ることを理解されたい。
幾つかの実施形態では、複数の画像を使用して、画像内の物体を識別し得る。例えば、第１の物体の一部の表現又は第２の物体の一部の表現を識別することは、カメラによって捕捉された少なくとも第２の画像を分析することを含み得る。幾つかの実施形態では、第２の画像は、少なくとも１つの画像の後で所定の期間に捕捉され得る。所定の時間は、画像を分析する間の設定された期間に基づき得る（例えば、システム又はユーザの設定による）。他の実施形態では、所定の期間は、カメラのフレームレート（例えば、カメラが画像を捕捉できる最大又は設定されたレート）に基づき得る。
幾つかの実施形態では、車両ナビゲーションシステムは、画像内で検出された物体に関連付けられたラベル、並びに検出された物体のジオメトリを生成するように更に構成され得る。このプロセスは、上記で説明したように、画像分析層の一部として実行され得る。例えば、ニューラルネットワークは、上記で説明したプロセスと同様に、対応する物体のラベル及び物体のジオメトリを有する画像のセットを使用してトレーニングし得る。従って、トレーニングされたモデルは、モデルに入力された１つ又は複数の画像に基づいて、物体のラベルお及び／又はジオメトリを決定するように構成され得る。従って、単一のトレーニングされたニューラルネットワークモデルは、物体のラベル及び物体の構造情報の両方を使用してトレーニングし得る。幾つかの実施形態では、出力は異なる解像度を有し得る。例えば、物体のジオメトリ（すなわち、構造情報）は、物体のラベルよりも低い解像度で出力され得る。言い換えれば、物体の形ジオメトリ及びラベルは、画像又は画像層として出力され得て、物体のジオメトリ示す画像は、物体の層画像よりも低解像度の画像であり得る。幾つかの実施形態では、システムは、ナビゲーションに使用されるものに基づいて出力を提供し得る。例えば、モデルをトレーニングした後、カリング方法を使用して、ナビゲーションシステムで使用される実際の出力値に関連しない全ての計算を削除できる。
物体のラベルは、画像内で検出された物体に関する情報を含む任意のデータ要素であり得る。幾つかの実施形態では、物体のラベルは、検出された物体のタイプを含み得る。例えば、車両３４１０Ａが画像３４００Ａ内で検出された場合（図３４Ａを参照）、画像分析層は、物体が車であることを示すデータラベルを生成し得る。物体のラベルはまた、物体クラス（例えば、車両）、物体の識別子、又は他の関連情報等の他の情報を含み得る。物体のラベルは、様々な形式で生成及び表され得る。幾つかの実施形態では、物体のラベルは、例えば、画像メタデータ等において、画像に添付され得る。他の実施形態では、物体のラベルは、データベース等のデータ構造、又は同様の形式に含まれ得る。
図３６は、開示される実施形態による、物体のラベル情報を含むデータベース３６００の例を示す。例示的な例として、データベース３６００は、上記で説明したように、画像３４００Ａ内で検出された物体を含み得る。データベース３６００は、物体識別子（ＩＤ）３６１０、物体クラス３６２０、物体タイプ３６３０、及び他の情報３６４０等の、検出された各物体の情報を含み得る。物体の識別子は、検出された物体を表す任意の文字又は文字列を含み得る。幾つかの実施形態では、物体ＩＤは、ランダム又は疑似ランダムなテキストの文字列であり得る。他の実施形態では、物体ＩＤは、構造化された形式（例えば、番号順に、時刻及び／又は日付スタンプに基づいて、画像に関連付けられた識別子に基づいて、ホスト車両に関連付けられた識別子に基づいて、等）で割り当てられ得る。幾つかの実施形態では、識別子は、物体の特定のインスタンスに固有であり得る。代替又は追加として、識別子は、物体のタイプ、物体の分類、又は他の情報を示し得る。識別子は、様々な形式（例えば、テキスト、数値、英数字等）で表示し得る。
データベース３６００は、検出された物体に関連付けられた物体クラスを更に含み得る。例えば、行３６５０によって示される物体は、画像内で検出された車両に対応し得て、従って、車両として分類され得る。データベース３６００は、画像から検出され得る物体タイプを更に含み得る。図３６に示すように、行３６５０で示される物体には、車のラベルを付け得る。データベース３６００は、アプリケーションに応じて異なり得る、検出された物体に関する追加情報３６４０を更に含み得る。例えば、情報３６４０は、物体に関連付けられた領域の座標を含み得る（例えば、一連の頂点、ピクセルの範囲等によって表される）。情報３６４０はまた、物体の検出された向きを示す向き情報を含み得る。データベース３６００に含まれ得る他の情報は、検出された物体の説明、時刻及び／又は日付スタンプ、画像に関する情報（例えば、画像ＩＤ等）、車両に関する情報（例えば、車両ＩＤ等）、又は分析又はナビゲーションの目的に関連し得るその他の情報を含み得る。データベース３６００は、様々な場所に格納され得る。例えば、データベース３６００は、遠隔サーバ１２３０に関連付けられたメモリなどのネットワークロケーションに格納され得る。幾つかの実施形態では、データベース３６００は、メモリ１５０又はマップデータベース１６０内等、車両上にローカルに格納され得る。
画像分析層は、検出された物体のジオメトリを決定するように更に構成され得る。本明細書で使用されるジオメトリは、点、線、表面、実線、又は物体の他の要素の１つ又は複数の関係を示すデータを参照し得る。幾つかの実施形態では、ジオメトリは、複数の態様から構成され得る。本明細書で使用されるジオメトリの態様は、ジオメトリの少なくとも一部を定義する値又は値のセットを含み得る。例えば、ジオメトリの態様は、高さの値（例えば、道路の表面に対して、又は道路の表面を表す平面に対して）、長さの値、幅の値、配向角、座標点、面積の測定値、体積の測定値、又はジオメトリの一部を表し得るその他の値を含み得る。画像分析層は、車両のナビゲーションに使用し得る、検出された物体のジオメトリの１つ又は複数の態様を決定するように構成され得る。
図３７は、開示される実施形態による、物体のラベル及びジオメトリに基づいてホスト車両をナビゲートするための例示的なプロセス３７００を示すフローチャートである。プロセス３７００は、上記で説明したように、処理ユニット１１０などの少なくとも１つの処理デバイスによって実行され得る。幾つかの実施形態では、非一時的なコンピュータ可読媒体は、プロセッサによって実行されると、プロセッサにプロセス３７００を実行させる命令を含み得る。更に、プロセス３７００は、必ずしも図３７に示すステップに限定されるものではなく、本開示全体を通して説明される様々な実施形態の任意のステップ又はプロセスもまた、図３４Ａ～図３５に関して上記で説明されたものを含む、プロセス３７００に含まれ得る。
ステップ３７１０において、プロセス３７００は、ホスト車両のカメラから、ホスト車両の環境から捕捉された少なくとも１つの画像を受信することを含み得る。例えば、画像取得ユニット１２０は、ホスト車両２００の環境を表す１つ又は複数の画像を捕捉し得る。上記で説明したように、少なくとも１つの捕捉された画像は、画像３４００Ａに対応し得る。
ステップ３７２０において、プロセス３７００は、第１の物体の少なくとも一部の表現及び第２の物体の少なくとも一部の表現を識別するために、少なくとも１つの画像を分析することを含み得る。例えば、プロセス３５００は、車両３４１０Ａ、歩行者３４２０Ａ等の、画像３４００Ａに含まれる物体を検出するために使用され得る。幾つかの実施形態では、トレーニングされたシステムは、分析の少なくとも一部を実行し得る。例えば、トレーニングされたシステムは、上記で説明したように、１つ又は複数のニューラルネットワークを含み得る。
ステップ３７３０において、プロセッサ３７００は、分析に基づいて、第１の物体のジオメトリの少なくとも１つの態様及び第２の物体のジオメトリの少なくとも１つの態様を決定することを含み得る。上記で説明したように、第１及び第２の物体の少なくとも１つの態様は、物体のジオメトリの少なくとも一部を表す任意の値又は値のセットを含み得る。上記で説明したように、ジオメトリは、トレーニングされたニューラルネットワークの出力であり得る。幾つかの実施形態では、ジオメトリは、画像の分析に基づいて決定された物体のテクスチャに少なくとも部分的に基づき得る。従って、第１及び第２の物体は、少なくとも部分的に、２つの物体をセグメント化し、それらのジオメトリを少なくとも部分的に定義するために使用され得る、画像内に表される異なるテクスチャを有し得る。例えば、幾つかの実施形態では、第１の物体はガードレールであり得て、第２の物体はコンクリート障壁であり得る。ガードレール及びコンクリート障壁は共に比較的均一なジオメトリを有し得て、その結果、２つを区別することは困難であり得る。ガードレールは、コンクリート障壁とは大幅に異なるテクスチャを有し得る。例えば、ガードレールは、間隔を置いて配置されたレール及び一連の柱を含み得て、コンクリート障壁は、コンクリート、レンガ等の比較的均一な表面であり得る。ガードレール及びコンクリート障壁は、テクスチャに基づいて別個の物体として識別され得る。幾つかの実施形態では、ジオメトリの少なくとも１つの態様は、別個のセンサに基づいて決定され得る。例えば、プロセス３７００は、ホスト車両の少なくとも１つのセンサ（例えば、レーダセンサ、ライダセンサ、別個のカメラ（又は立体カメラ対）、近接センサ等）からの出力を受信することを更に含み得て、第１の物体のジオメトリの少なくとも１つの態様、又は第２の物体のジオメトリの少なくとも１つの態様は、出力に基づいて決定され得る。幾つかの実施形態では、プロセッサ３６００は、第１の物体のジオメトリの少なくとも１つの態様及び第２の物体のジオメトリの少なくとも１つの態様を出力することを含み得る。
ステップ３７４０において、プロセス３７００は、第１の物体のジオメトリの少なくとも１つの態様に基づいて、第１の物体の表現を含む少なくとも１つの画像の領域に関連付けられた第１のラベルを生成することを含み得る。同様に、ステップ３７５０において、プロセス３７００は、第２の物体のジオメトリの少なくとも１つの態様に基づいて、第２の物体の表現を含む少なくとも１つの画像の領域に関連付けられた第２のラベルを生成することを含み得る。上記で説明したように、第１及び第２のラベルは、画像の分析に基づいて、第１及び第２の物体に関して決定され得る任意の情報を含み得る。幾つかの実施形態では、第１及び第２のラベルは、それぞれ、第１及び第２の物体のタイプを示し得る。更に、第１及び第２のラベルは、第１及び第２の物体のタイプの識別子に関連付けられ得る。識別子は、物体のタイプを示す数値、テキスト文字列、又は英数字の文字列であり得る。幾つかの実施形態では、識別子は、物体タイプ３６３０及び／又は物体ＩＤ３６１０に対応し得る。
幾つかの実施形態では、ラベルは、第１及び第２の物体の決定されたジオメトリに基づいて生成され得る。例えば、ジオメトリの少なくとも１つの態様は、物体を他の物体と区別する（例えば、縁石、中央分離帯、歩道、又は障壁を路面と区別する、等）ために使用され得る物体の高さを含み得る。第１の物体のジオメトリの少なくとも１つの態様は、第１の物体の高さを含み得て、第１のラベルは、高さに少なくとも部分的に基づいて生成され得る。同様に、第２の物体のジオメトリの少なくとも１つの態様は、第２の物体の高さを含み得て、第２のラベルは、高さに少なくとも部分的に基づいて生成され得る。高さは、明示的な測定値（例えば、センチメートル、メートル、フィート等の単位）として出力され得るか、又は他の出力情報に基づいて暗黙的であり得る。例えば、レーンマークとしてラベル付けされた物体はごくわずかの高さを有し得て、縁石としてラベル付けされた物体は低い高さを有し得て、コンクリート障壁は比較的高くなり得る。
幾つかの実施形態では、物体は、物体クラスに関連付けられ得る。従って、第１の物体のタイプは、第１の物体クラスに含まれ得て、第２の物体のタイプは、第２の物体クラスに含まれ得る。物体クラスは、データベース３６００において、物体クラス３６２０によって表し得る。幾つかの実施形態では、第１の物体クラス及び第２の物体クラスは、相互に排他的な物体を含む。言い換えれば、第１の物体クラス及び第２の物体クラスは、物体を共有し得ない。物体クラスの例は、レーンマーク、縁石、壁、障壁、車、トラック、バス、オートバイ、道路、障壁、ガードレール、塗装された路面、道路に対して高くなっている領域、走行可能な路面、又はポールのうちの１つ又は複数を含み得る。幾つかの実施形態では、システムは、複数の道路端部特徴を同時に出力するように構成され得る。例えば、第１の物体クラスは縁石であり得て、第２の物体クラスはレーンマークであり得る。幾つかの実施形態では、プロセス３７００は、第１の物体又は第２の物体が道路端部であるか否かを判断することを更に含み得る。本明細書で使用される道路端部は、走行可能な路面と環境の別の部分との間の任意の移行部であり得る。上記に開示される実施形態によれば、プロセス３７００は、道路端部のタイプを決定することを含み得る。道路端部の例は、歩道、縁石、障壁、草地、未舗装領域、私道、又は同様の端部特徴を含み得る。処理ユニット１１０は、ホスト車両をナビゲートするのに有用であり得る道路端部のタイプを区別するように構成され得る。幾つかの実施形態では、プロセス３７００は、道路端部がホスト車両が横断できるか否かを判断することを更に含み得る。例えば、通常の条件下では走行可能な路面とは見なされ得ないが、道路端部は（例えば、緊急事態等で）横断可能として分類され得る。これは、道路端部の決定されたクラス又はタイプ（例えば、芝生は横断可能であり得るが、中央分離帯は横断可能であり得ない）に基づいて、（道路端部の寸法の少なくとも１つの態様に対応し得る）道路端部の測定された高さ、センサからの情報、又は横断できるか否かの他の表示によって決定され得る。
前述の説明は、例示の目的のために提示されたものである。これは網羅的ではなく、開示された正確な形態又は実施形態に限定されない。修正及び適合は、考察及び開示された実施形態の実施から当業者には明らかになるであろう。更に、開示される実施形態の態様は、メモリに記憶されていると説明されているが、これらの態様は、２次ストレージデバイス、例えば、ハードディスク又はＣＤ ＲＯＭ、又は他の形態のＲＡＭもしくはＲＯＭ、ＵＳＢメディア、ＤＶＤ、Ｂｌｕ－ｒａｙ（登録商標）、４Ｋ Ｕｌｔｒａ ＨＤ Ｂｌｕ－ｒａｙ、又はその他の光学ドライブメディア等他のタイプのコンピュータ可読媒体にも記憶できることを当業者なら理解するであろう。
記載された説明及び開示された方法に基づくコンピュータプログラムは、経験豊富な開発者のスキル内である。様々なプログラム又はプログラムモジュールは、当業者に既知の技術のいずれかを使用して作成できるか、又は既存のソフトウェアに関連付けて設計できる。例えば、プログラムセクション又はプログラムモジュールは、．Ｎｅｔ Ｆｒａｍｅｗｏｒｋ、．Ｎｅｔ Ｃｏｍｐａｃｔ Ｆｒａｍｅｗｏｒｋ（及び、Ｖｉｓｕａｌ Ｂａｓｉｃ（登録商標）、Ｃ等の関連言語）、Ｊａｖａ（登録商標）、Ｃ＋＋、Ｏｂｊｅｃｔｉｖｅ－Ｃ、ＨＴＭＬ、ＨＴＭＬ／ＡＪＡＸの組み合わせ、ＸＭＬ、又はＪａｖａアプレットを含むＨＴＭＬにおいて、又はこれらを使用して設計できる。
更に、例示的な実施形態が本明細書に記載されているが、範囲には、本開示に基づいて当業者によって理解されるように、同等の要素、修正、省略、（例えば、様々な実施形態にわたる態様の）組み合わせ、適合、及び／又は変更を有する任意の及び全ての実施形態が含まれる。請求項における限定は、請求項で使用されている文言に基づいて広く解釈されるべきであり、本明細書に記載されている実施例又は本出願の審査中の実施例に限定されるものではない。実施例は非排他的であると解釈されるべきである。更に、開示された方法のステップは、ステップの並べ替え及び／又はステップの挿入又は削除を含む、任意の方法で変更され得る。従って、本明細書及び実施例は例示としてのみ考慮されることを意図しており、真の範囲及び精神は、以下の特許請求の範囲及びそれらの同等物の全範囲によって示す。
［項目１］
ホスト車両のためのナビゲーションシステムであって、前記ナビゲーションシステムが、
前記ホスト車両のカメラから、前記ホスト車両の環境を表す少なくとも１つの捕捉された画像を受信することと、
前記少なくとも１つの捕捉された画像の１つ又は複数のピクセルを分析して、前記１つ又は複数のピクセルが目標車両の少なくとも一部を表すか否かを判断し、前記目標車両の少なくとも一部を表すと判断されたピクセルについて、前記１つ又は複数のピクセルから前記目標車両の表面の少なくとも１つの端部までの１つ又は複数の推定距離値を判断することと、
前記１つ又は複数のピクセルに関連付けられた前記判断された１つ又は複数の距離値を含む、前記１つ又は複数のピクセルの分析に基づいて、前記目標車両に対する境界の少なくとも一部を生成することと
を行うようにプログラムされた少なくとも１つのプロセッサを備える、ナビゲーションシステム。
［項目２］
前記１つ又は複数の距離値がピクセル単位で測定される、項目１に記載のナビゲーションシステム。
［項目３］
前記１つ又は複数の距離値が、前記目標車両に対して測定された現実世界の距離に対応する、項目１又は２に記載のナビゲーションシステム。
［項目４］
前記１つ又は複数の距離値が、特定のピクセルから、前記目標車両の前端部、後端部、側端部、上端部、又は下端部のうちの少なくとも１つまでの距離を含む、項目１から３のいずれか一項に記載のナビゲーションシステム。
［項目５］
前記少なくとも１つのプロセッサは、前記目標車両に対して生成された前記境界の前記少なくとも一部の向きを決定するように更にプログラムされる、項目１から４のいずれか一項に記載のナビゲーションシステム。
［項目６］
前記少なくとも１つのプロセッサが、前記境界の前記少なくとも一部の決定された向きに基づいて前記ホスト車両のナビゲーション動作を決定し、前記ホスト車両に前記決定されたナビゲーション動作を実施させるように更にプログラムされる、項目５に記載のナビゲーションシステム。
［項目７］
前記決定された向きが、前記目標車両による、ホスト車両の経路に向かう動作を示す、項目５又は６に記載のナビゲーションシステム。
［項目８］
前記決定された向きが、前記ホスト車両に対する前記目標車両による横方向移動を示す、項目５又は６に記載のナビゲーションシステム。
［項目９］
前記少なくとも１つのプロセッサが、前記１つ又は複数のピクセルが、前記目標車両の前記少なくとも１つの端部の少なくとも一部の表現を含む境界ピクセルを含むか否かを判断するように更にプログラムされる、項目１から８のいずれか一項に記載のナビゲーションシステム。
［項目１０］
前記分析が、前記捕捉された画像の全てのピクセルに対して実行される、項目１から９のいずれか一項に記載のナビゲーションシステム。
［項目１１］
前記分析が、前記捕捉された画像に対して識別された目標車両候補領域の全てのピクセルに対して実行される、項目１から９のいずれか一項に記載のナビゲーションシステム。
［項目１２］
前記境界の前記一部が、バウンディングボックスの少なくとも一部を含む、項目１から１１のいずれか一項に記載のナビゲーションシステム。
［項目１３］
前記少なくとも１つのプロセッサが、前記境界の前記一部の前記ホスト車両までの距離を決定し、前記ホスト車両に、少なくとも前記決定された距離に基づいてナビゲーション動作を実施させるように更にプログラムされる、項目１から１２のいずれか一項に記載のナビゲーションシステム。
［項目１４］
トレーニングされたシステムが、前記１つ又は複数のピクセルの前記分析の少なくとも一部を実行する、項目１から１３のいずれか一項に記載のナビゲーションシステム。
［項目１５］
前記トレーニングされたシステムが、１つ又は複数のニューラルネットワークを含む、項目１４に記載のナビゲーションシステム。
［項目１６］
前記目標車両の少なくとも１つの端部の少なくとも一部が、前記捕捉された画像内に表されていない、項目１から１５のいずれか一項に記載のナビゲーションシステム。
［項目１７］
前記目標車両の１つ又は複数の端部が、前記捕捉された画像内に表されていない、項目１から６のいずれか一項に記載のナビゲーションシステム。
［項目１８］
前記少なくとも１つのプロセッサが、前記捕捉された画像の分析に基づいて、前記目標車両が別の車両又はトレーラによって運ばれるか否かを判断するように更にプログラムされる、項目１から１７のいずれか一項に記載のナビゲーションシステム。
［項目１９］
前記少なくとも１つのプロセッサが、運ばれる車両の境界を決定しないように更にプログラムされる、項目１８に記載のナビゲーションシステム。
［項目２０］
前記少なくとも１つのプロセッサが、前記捕捉された画像の分析に基づいて、前記目標車両が前記少なくとも１つの画像の反射の表現に含まれるか否かを判断するように更にプログラムされる、項目１から１９のいずれか一項に記載のナビゲーションシステム。
［項目２１］
前記少なくとも１つのプロセッサが、車両反射の境界を決定しないように更にプログラムされる、項目２０に記載のナビゲーションシステム。
［項目２２］
前記少なくとも１つのプロセッサが、前記目標車両のタイプを出力するように更にプログラムされる、項目１から２１のいずれか一項に記載のナビゲーションシステム。
［項目２３］
前記目標車両の前記タイプが、少なくとも前記境界の前記一部のサイズに基づく、項目２２に記載のナビゲーションシステム。
［項目２４］
前記目標車両の前記タイプは、前記境界内に含まれるピクセルの数に少なくとも部分的に基づく、項目２２に記載のナビゲーションシステム。
［項目２５］
前記目標車両の前記タイプが、バス、トラック、自転車、オートバイ、又は車のうちの少なくとも１つを含む、項目２２から２４のいずれか一項に記載のナビゲーションシステム。
［項目２６］
ホスト車両のためのナビゲーションシステムであって、前記ナビゲーションシステムが、
前記ホスト車両のカメラから、前記ホスト車両の環境を表す少なくとも１つの捕捉された画像を受信することと、
前記少なくとも１つの捕捉された画像の１つ又は複数のピクセルを分析して、前記１つ又は複数のピクセルが目標車両を表すか否かを判断することであって、前記目標車両の少なくとも一部が、前記少なくとも１つの捕捉された画像内に表されない、判断することと、
前記ホスト車両から前記目標車両までの推定距離を決定することであって、前記推定距離が少なくとも部分的に、前記少なくとも１つの捕捉された画像内に表されていない前記目標車両の前記一部に基づく、決定することと、
を行うようにプログラムされた少なくとも１つのプロセッサを備える、車両のためのナビゲーションシステム。
［項目２７］
トレーニングされたシステムが、前記１つ又は複数のピクセルの前記分析の少なくとも一部を実行する、項目２６に記載のナビゲーションシステム。
［項目２８］
前記トレーニングされたシステムが、１つ又は複数のニューラルネットワークを含む、項目２７に記載のナビゲーションシステム。
［項目２９］
前記少なくとも１つのプロセッサが、前記推定距離に基づいてナビゲーション動作を実施するように更に構成される、項目２６から２８のいずれか一項に記載のナビゲーションシステム。
［項目３０］
前記推定距離を決定することが、前記少なくとも１つの捕捉された画像内に表されていない前記目標車両の少なくとも１つの境界の位置を決定することを含む、項目２６から２９のいずれか一項に記載のナビゲーションシステム。
［項目３１］
前記少なくとも１つの境界の前記位置が、前記１つ又は複数のピクセルの分析に基づいて決定される、項目３０に記載のナビゲーションシステム。
［項目３２］
前記ホスト車両から前記目標車両までの前記推定距離が、前記ホスト車両から前記少なくとも１つの境界までの推定距離である、項目３０又は３１に記載のナビゲーションシステム。
［項目３３］
ホスト車両のためのナビゲーションシステムであって、前記ナビゲーションシステムが、
前記ホスト車両のカメラから、前記ホスト車両の環境を表す少なくとも１つの捕捉された画像を受信することと、
前記少なくとも１つの捕捉された画像の２つ以上のピクセルを分析して、前記２つ以上のピクセルが第１の目標車両の少なくとも一部及び第２の目標車両の少なくとも一部を表すか否かを判断することと、
前記第２の目標車両の前記一部が、前記第１の目標車両の表面上の反射の表現に含まれることを決定することと、
前記２つ以上のピクセルの前記分析及び前記第２の目標車両の一部が前記第１の目標車両の表面上の反射の表現に含まれるという前記決定に基づいて、前記第１の目標車両に対する境界の少なくとも一部を生成し、前記第２の目標車両に対する境界を生成しないことと、
を行うようにプログラムされた少なくとも１つのプロセッサを備える、ホスト車両のためのナビゲーションシステム。
［項目３４］
トレーニングされたシステムが、前記２つ以上のピクセルの前記分析の少なくとも一部を実行する、項目３３に記載のナビゲーションシステム。
［項目３５］
前記トレーニングされたシステムが、１つ又は複数のニューラルネットワークを含む、項目３４に記載のナビゲーションシステム。
［項目３６］
前記第２の目標車両の前記一部が前記第１の目標車両の表面上の反射の表現に含まれることを決定することが、前記第２の目標車両に関連付けられた少なくとも１つのピクセルが前記第１の目標車両の端部に関連付けられていることを決定することを含む、項目３３から３５のいずれか一項に記載のナビゲーションシステム。
［項目３７］
前記境界が、バウンディングボックスの少なくとも一部を含む、項目３３から３６のいずれか一項に記載のナビゲーションシステム。
［項目３８］
ホスト車両のためのナビゲーションシステムであって、前記ナビゲーションシステムが、
前記ホスト車両のカメラから、前記ホスト車両の環境を表す少なくとも１つの捕捉された画像を受信することと、
前記少なくとも１つの捕捉された画像の２つ以上のピクセルを分析して、前記２つ以上のピクセルが第１の目標車両の少なくとも一部及び第２の目標車両の少なくとも一部を表すか否かを判断することと、
前記第２の目標車両が前記第１の目標車両によって運ばれるか、又は牽引されるかを判断することと、
前記２つ以上のピクセルの前記分析及び前記第２の目標車両が前記第１の目標車両によって運ばれるか、又は牽引されるかの前記判断に基づいて、前記第１の目標車両に対する境界の少なくとも一部を生成し、前記第２の目標車両に対する境界を生成しないことと、
を行うようにプログラムされた少なくとも１つのプロセッサを備える、ホスト車両のためのナビゲーションシステム。
［項目３９］
前記第２の目標車両が、牽引トラック、トレーラ、オープンエアキャリア、又はフラットベッドトラックのうちの少なくとも１つを含む、項目３８に記載のナビゲーションシステム。
［項目４０］
前記第２の目標車両が前記第１の目標車両によって運ばれるか、又は牽引されるかを判断することが、前記第２の目標車両に関連付けられた少なくとも１つのピクセルが前記第１の目標車両の端部に関連付けられていることを決定することを含む、項目３８又は３９に記載のナビゲーションシステム。
［項目４１］
ホスト車両のためのナビゲーションシステムであって、前記ナビゲーションシステムが、
前記ホスト車両のカメラから、前記ホスト車両の環境を表す第１の捕捉された画像を受信することと、
前記第１の捕捉された画像の１つ又は複数のピクセルを分析して、前記１つ又は複数のピクセルが目標車両の少なくとも一部を表すか否かを判断し、前記目標車両の少なくとも一部を表すと判断されたピクセルについて、前記１つ又は複数のピクセルから前記目標車両の表面の少なくとも１つの端部までの１つ又は複数の推定距離値を判断することと、
前記第１の捕捉された画像の前記１つ又は複数のピクセルに関連付けられた前記判断された１つ又は複数の距離値を含む、前記第１の捕捉された画像の前記１つ又は複数のピクセルの前記分析に基づいて、前記目標車両に対する第１の境界の少なくとも一部を生成することと、
前記ホスト車両の前記カメラから、前記ホスト車両の環境を表す第２の捕捉された画像を受信することと、
前記第２の捕捉された画像の１つ又は複数のピクセルを分析して、前記１つ又は複数のピクセルが前記目標車両の少なくとも一部を表すか否かを判断し、前記目標車両の少なくとも一部を表すと判断されたピクセルについて、前記１つ又は複数のピクセルから前記目標車両の表面の少なくとも１つの端部までの１つ又は複数の推定距離値を判断することと、
前記第２の捕捉された画像の前記１つ又は複数のピクセルに関連付けられた前記判断された１つ又は複数の距離値を含む、前記第２の捕捉された画像の前記１つ又は複数のピクセルの前記分析に基づいて、及び前記第１の境界に基づいて、前記目標車両に対する第２の境界の少なくとも一部を生成することと、
を行うようにプログラムされた少なくとも１つのプロセッサを備える、ナビゲーションシステム。
［項目４２］
トレーニングされたシステムが、前記１つ又は複数のピクセルの前記分析の少なくとも一部を実行する、項目４１に記載のナビゲーションシステム。
［項目４３］
前記トレーニングされたシステムが、１つ又は複数のニューラルネットワークを含む、項目４２に記載のナビゲーションシステム。
［項目４４］
前記第１の境界が、第１のバウンディングボックスの少なくとも一部を含み、前記第２の境界が、第２のバウンディングボックスの少なくとも一部を含む、項目４１から４３のいずれか一項に記載のナビゲーションシステム。
［項目４５］
ホスト車両のためのナビゲーションシステムであって、前記ナビゲーションシステムが、
前記ホスト車両のカメラから、前記ホスト車両の環境から捕捉された２つ以上の画像を受信することと、
第１の物体の少なくとも一部の表現及び第２の物体の少なくとも一部の表現を識別するために、前記２つ以上の画像を分析することと、
前記第１の物体及び前記第１の物体のタイプに関連付けられた前記少なくとも１つの画像の第１の領域を決定することと、
前記第２の物体及び前記第２の物体のタイプに関連付けられた前記少なくとも１つの画像の第２の領域を決定することであって、前記第１の物体の前記タイプが、前記第２の物体の前記タイプとは異なる、決定することと、
を行うようにプログラムされた少なくとも１つのプロセッサを備える、ナビゲーションシステム。
［項目４６］
前記少なくとも１つのプロセッサが、前記第１の物体の前記タイプ又は前記第２の物体の前記タイプを出力するように更にプログラムされる、項目４５に記載のナビゲーションシステム。
［項目４７］
トレーニングされたシステムが、前記２つ以上の画像の前記分析の少なくとも一部を実行する、項目４５又は４６に記載のナビゲーションシステム。
［項目４８］
前記トレーニングされたシステムが、１つ又は複数のニューラルネットワークを含む、項目４７に記載のナビゲーションシステム。
［項目４９］
前記少なくとも１つのプロセッサが、前記第１の物体の前記タイプ又は前記第２の物体の前記タイプに基づいて、前記ホスト車両にナビゲーション動作を実施させるように更にプログラムされる、項目４５から４８のいずれか一項に記載のナビゲーションシステム。
［項目５０］
前記第１の物体の前記タイプが第１の物体クラスに含まれ、前記第２の物体の前記タイプが第２の物体クラスに含まれ、前記第１の物体クラス及び前記第２の物体クラスが相互に排他的な物体を含む、項目４５から４９のいずれか一項に記載のナビゲーションシステム。
［項目５１］
前記第１の物体クラス及び前記第２の物体クラスが、車両、歩行者、直立不動の物体、及び路面のうちの少なくとも１つを含む、項目５０に記載のナビゲーションシステム。
［項目５２］
前記第１の物体クラスは、車、トラック、バス、オートバイ、道路、障壁、ガードレール、塗装された路面、道路に対して高くなっている領域、走行可能な路面、又はポールのうちの１つ又は複数を含む、項目５０に記載のナビゲーションシステム。
［項目５３］
前記２つ以上の画像を分析することが、前記２つ以上の画像の１つ又は複数のピクセルを分析することを含む、項目４５から５２のいずれか一項に記載のナビゲーションシステム。
［項目５４］
前記第１の物体の前記一部の前記表現を識別することが、前記第１の物体の前記表現に関連付けられた前記２つ以上の画像内の少なくとも１つのピクセルを識別することを含む、項目５３に記載のナビゲーションシステム。
［項目５５］
前記第２の物体の前記一部の前記表現を識別することが、前記第２の物体の前記表現に関連付けられた前記２つ以上の画像内の少なくとも１つのピクセルを識別することを含む、項目５４に記載のナビゲーションシステム。
［項目５６］
前記第１の物体の前記表現に関連付けられた前記２つ以上の画像内の前記少なくとも１つのピクセルが、前記第２の物体の前記表現に関連付けられた前記２つ以上の画像内の前記少なくとも１つのピクセルを含まない、項目５５に記載のナビゲーションシステム。
［項目５７］
前記第１の物体がガードレールを含み、前記第２の物体がコンクリート障壁を含む、項目４５から５６のいずれか一項に記載のナビゲーションシステム。
［項目５８］
前記第１の物体が、塗装された路面を含み、前記第２の物体が、塗装されていない路面を含む、項目４５から５７のいずれか一項に記載のナビゲーションシステム。
［項目５９］
前記第１の領域及び前記第２の領域が、異なる高さを有する、項目４５から５８のいずれか一項に記載のナビゲーションシステム。
［項目６０］
前記第１の領域又は前記第２の領域のうちの少なくとも１つが、前記高さの差に基づいて識別される、項目５９に記載のナビゲーションシステム。
［項目６１］
前記２つ以上の画像が、異なる時間に捕捉された複数の画像を含み、前記高さの差が、前記複数の画像間のピクセルの比較に基づいて決定される、項目５９又は６０に記載のナビゲーションシステム。
［項目６２］
前記第１の領域が走行可能な領域であり、前記第２の領域が走行不可能な領域である、項目４５から６１のいずれか一項に記載のナビゲーションシステム。
［項目６３］
前記走行不可能な領域が、未舗装の表面を含む、項目６２に記載のナビゲーションシステム。
［項目６４］
前記走行不可能な領域が、私道、歩道、又は草地のうちの少なくとも１つを含む、項目６２に記載のナビゲーションシステム。
［項目６５］
前記第１の物体が車両を含み、前記第２の物体が歩行者を含む、項目４５から６４のいずれか一項に記載のナビゲーションシステム。
［項目６６］
前記第１の物体の前記一部の前記表現又は前記第２の物体の前記一部の前記表現を識別することが、前記カメラによって捕捉された少なくとも第２の画像を分析することを含む、項目４５から６５のいずれか一項に記載のナビゲーションシステム。
［項目６７］
前記第２の画像が、前記２つ以上の画像の後で所定の期間に捕捉される、項目６６に記載のナビゲーションシステム。
［項目６８］
前記所定の期間が、前記カメラのフレームレートに基づく、項目６７に記載のナビゲーションシステム。
［項目６９］
ホスト車両のためのナビゲーションシステムであって、前記ナビゲーションシステムが、
前記ホスト車両のカメラから、前記ホスト車両の環境から捕捉された少なくとも１つの画像を受信することと、
第１の物体の少なくとも一部の表現及び第２の物体の少なくとも一部の表現を識別するために、前記少なくとも１つの画像を分析することと、
前記分析に基づいて、前記第１の物体のジオメトリの少なくとも１つの態様及び前記第２の物体のジオメトリの少なくとも１つの態様を決定することと、
前記第１の物体の前記ジオメトリの前記少なくとも１つの態様に基づいて、前記第１の物体の前記表現を含む前記少なくとも１つの画像の領域に関連付けられた第１のラベルを生成することと、
前記第２の物体の前記ジオメトリの前記少なくとも１つの態様に基づいて、前記第２の物体の前記表現を含む前記少なくとも１つの画像の領域に関連付けられた第２のラベルを生成することと、
を行うようにプログラムされた少なくとも１つのプロセッサを備える、ナビゲーションシステム。
［項目７０］
前記第１のラベルが、前記第１の物体のタイプを示す、項目６９に記載のナビゲーションシステム。
［項目７１］
前記第１のラベルが、前記第１の物体のタイプの識別子に関連付けられている、項目６９に記載のナビゲーションシステム。
［項目７２］
前記第２のラベルが、前記第２の物体のタイプを示す、項目６９から７１のいずれか一項に記載のナビゲーションシステム。
［項目７３］
前記第２のラベルが、前記第２の物体のタイプの識別子に関連付けられている、項目６９から７１のいずれか一項に記載のナビゲーションシステム。
［項目７４］
前記少なくとも１つのプロセッサが、前記第１の物体の前記ジオメトリの前記少なくとも１つの態様又は前記第２の物体の前記ジオメトリの前記少なくとも１つの態様を出力するように更にプログラムされる、項目６９から７３のいずれか一項に記載のナビゲーションシステム。
［項目７５］
トレーニングされたシステムが、前記少なくとも１つの画像の前記分析の少なくとも一部を実行する、項目６９から７４のいずれか一項に記載のナビゲーションシステム。
［項目７６］
前記トレーニングされたシステムが、１つ又は複数のニューラルネットワークを含む、項目７５に記載のナビゲーションシステム。
［項目７７］
前記第１の物体がガードレールを含み、前記第２の物体がコンクリート障壁を含む、項目６９から７６のいずれか一項に記載のナビゲーションシステム。
［項目７８］
前記ガードレールが、前記少なくとも１つの画像から決定された前記ガードレールのテクスチャに少なくとも部分的に基づいて、前記コンクリート障壁とは別個の物体として識別される、項目７７に記載のナビゲーションシステム。
［項目７９］
前記第１の物体の前記ジオメトリの前記少なくとも１つの態様が、前記第１の物体の高さを含み、前記第１のラベルが、前記高さに少なくとも部分的に基づいて生成される、項目６９から７８のいずれか一項に記載のナビゲーションシステム。
［項目８０］
前記第２の物体の前記ジオメトリの少なくとも１つの態様が、前記第２の物体の高さを含み、前記第２のラベルが、前記高さに少なくとも部分的に基づいて生成される、項目６９から７９のいずれか一項に記載のナビゲーションシステム。
［項目８１］
前記第１の物体のタイプが第１の物体クラスに含まれ、前記第２の物体のタイプが第２の物体クラスに含まれ、前記第１の物体クラス及び前記第２の物体クラスが相互に排他的な物体を含む、項目６９から８０のいずれか一項に記載のナビゲーションシステム。
［項目８２］
前記第１の物体クラス及び前記第２の物体クラスのそれぞれが、レーンマーク、縁石、又は壁のうちの少なくとも１つを含む、項目８１に記載のナビゲーションシステム。
［項目８３］
前記少なくとも１つのプロセッサが、前記ホスト車両の少なくとも１つのセンサからの出力を受信するように更にプログラムされ、前記第１の物体の前記ジオメトリの前記少なくとも１つの態様、又は前記第２の物体の前記ジオメトリの前記少なくとも１つの態様が、前記出力に基づいて決定される、項目６９から８２のいずれか一項に記載のナビゲーションシステム。
［項目８４］
前記第１の物体の前記ジオメトリの前記少なくとも１つの態様が、前記第１の物体のテクスチャに基づいて決定される、項目６９から８３のいずれか一項に記載のナビゲーションシステム。
［項目８５］
前記第２の物体の前記ジオメトリの前記少なくとも１つの態様が、前記第２の物体のテクスチャに基づいて決定される、項目６９から８４のいずれか一項に記載のナビゲーションシステム。
［項目８６］
前記少なくとも１つのプロセッサが、前記第１の物体又は前記第２の物体のうちの少なくとも１つが道路端部であることを決定するように更にプログラムされる、項目６９から８５のいずれか一項に記載のナビゲーションシステム。
［項目８７］
前記少なくとも１つのプロセッサが、前記道路端部のタイプを判断するように更にプログラムされる、項目８６に記載のナビゲーションシステム。
［項目８８］
前記少なくとも１つのプロセッサが、前記道路端部を前記ホスト車両が横断できるか否かを判断するように更にプログラムされる、項目８６又は８７に記載のナビゲーションシステム。

Claims (44)

  1. ホスト車両のためのナビゲーションシステムであって、前記ナビゲーションシステムが、
    前記ホスト車両のカメラから、前記ホスト車両の環境から捕捉された２つ以上の画像を受信することと、
    第１の物体の少なくとも一部の表現及び第２の物体の少なくとも一部の表現を識別するために、前記２つ以上の画像を分析することと、
    前記第１の物体及び前記第１の物体のタイプに関連付けられた前記少なくとも１つの画像の第１の領域を決定することと、
    前記第２の物体及び前記第２の物体のタイプに関連付けられた前記少なくとも１つの画像の第２の領域を決定することであって、前記第１の物体の前記タイプが、前記第２の物体の前記タイプとは異なる、決定することと、
    を行うようにプログラムされた少なくとも１つのプロセッサを備える、ナビゲーションシステム。
  2. 前記少なくとも１つのプロセッサが、前記第１の物体の前記タイプ又は前記第２の物体の前記タイプを出力するように更にプログラムされる、請求項１に記載のナビゲーションシステム。
  3. トレーニングされたシステムが、前記２つ以上の画像の前記分析の少なくとも一部を実行する、請求項１又は２に記載のナビゲーションシステム。
  4. 前記トレーニングされたシステムが、１つ又は複数のニューラルネットワークを含む、請求項３に記載のナビゲーションシステム。
  5. 前記少なくとも１つのプロセッサが、前記第１の物体の前記タイプ又は前記第２の物体の前記タイプに基づいて、前記ホスト車両にナビゲーション動作を実施させるように更にプログラムされる、請求項１から４のいずれか一項に記載のナビゲーションシステム。
  6. 前記第１の物体の前記タイプが第１の物体クラスに含まれ、前記第２の物体の前記タイプが第２の物体クラスに含まれ、前記第１の物体クラス及び前記第２の物体クラスが相互に排他的な物体を含む、請求項１から５のいずれか一項に記載のナビゲーションシステム。
  7. 前記第１の物体クラス及び前記第２の物体クラスが、車両、歩行者、直立不動の物体、及び路面のうちの少なくとも１つを含む、請求項６に記載のナビゲーションシステム。
  8. 前記第１の物体クラスは、車、トラック、バス、オートバイ、道路、障壁、ガードレール、塗装された路面、道路に対して高くなっている領域、走行可能な路面、又はポールのうちの１つ又は複数を含む、請求項６に記載のナビゲーションシステム。
  9. 前記２つ以上の画像を分析することが、前記２つ以上の画像の１つ又は複数のピクセルを分析することを含む、請求項１から８のいずれか一項に記載のナビゲーションシステム。
  10. 前記第１の物体の前記一部の前記表現を識別することが、前記第１の物体の前記表現に関連付けられた前記２つ以上の画像内の少なくとも１つのピクセルを識別することを含む、請求項９に記載のナビゲーションシステム。
  11. 前記第２の物体の前記一部の前記表現を識別することが、前記第２の物体の前記表現に関連付けられた前記２つ以上の画像内の少なくとも１つのピクセルを識別することを含む、請求項１０に記載のナビゲーションシステム。
  12. 前記第１の物体の前記表現に関連付けられた前記２つ以上の画像内の前記少なくとも１つのピクセルが、前記第２の物体の前記表現に関連付けられた前記２つ以上の画像内の前記少なくとも１つのピクセルを含まない、請求項１１に記載のナビゲーションシステム。
  13. 前記第１の物体がガードレールを含み、前記第２の物体がコンクリート障壁を含む、請求項１から１２のいずれか一項に記載のナビゲーションシステム。
  14. 前記第１の物体が、塗装された路面を含み、前記第２の物体が、塗装されていない路面を含む、請求項１から１３のいずれか一項に記載のナビゲーションシステム。
  15. 前記第１の領域及び前記第２の領域が、異なる高さを有する、請求項１から１４のいずれか一項に記載のナビゲーションシステム。
  16. 前記第１の領域又は前記第２の領域のうちの少なくとも１つが、前記高さの差に基づいて識別される、請求項１５に記載のナビゲーションシステム。
  17. 前記２つ以上の画像が、異なる時間に捕捉された複数の画像を含み、前記高さの差が、前記複数の画像間のピクセルの比較に基づいて決定される、請求項１５又は１６に記載のナビゲーションシステム。
  18. 前記第１の領域が走行可能な領域であり、前記第２の領域が走行不可能な領域である、請求項１から１７のいずれか一項に記載のナビゲーションシステム。
  19. 前記走行不可能な領域が、未舗装の表面を含む、請求項１８に記載のナビゲーションシステム。
  20. 前記走行不可能な領域が、私道、歩道、又は草地のうちの少なくとも１つを含む、請求項１８に記載のナビゲーションシステム。
  21. 前記第１の物体が車両を含み、前記第２の物体が歩行者を含む、請求項１から２０のいずれか一項に記載のナビゲーションシステム。
  22. 前記第１の物体の前記一部の前記表現又は前記第２の物体の前記一部の前記表現を識別することが、前記カメラによって捕捉された少なくとも第２の画像を分析することを含む、請求項１から２１のいずれか一項に記載のナビゲーションシステム。
  23. 前記第２の画像が、前記２つ以上の画像の後で所定の期間に捕捉される、請求項２２に記載のナビゲーションシステム。
  24. 前記所定の期間が、前記カメラのフレームレートに基づく、請求項２３に記載のナビゲーションシステム。
  25. ホスト車両のためのナビゲーションシステムであって、前記ナビゲーションシステムが、
    前記ホスト車両のカメラから、前記ホスト車両の環境から捕捉された少なくとも１つの画像を受信することと、
    第１の物体の少なくとも一部の表現及び第２の物体の少なくとも一部の表現を識別するために、前記少なくとも１つの画像を分析することと、
    前記分析に基づいて、前記第１の物体のジオメトリの少なくとも１つの態様及び前記第２の物体のジオメトリの少なくとも１つの態様を決定することと、
    前記第１の物体の前記ジオメトリの前記少なくとも１つの態様に基づいて、前記第１の物体の前記表現を含む前記少なくとも１つの画像の領域に関連付けられた第１のラベルを生成することと、
    前記第２の物体の前記ジオメトリの前記少なくとも１つの態様に基づいて、前記第２の物体の前記表現を含む前記少なくとも１つの画像の領域に関連付けられた第２のラベルを生成することと、
    を行うようにプログラムされた少なくとも１つのプロセッサを備える、ナビゲーションシステム。
  26. 前記第１のラベルが、前記第１の物体のタイプを示す、請求項２５に記載のナビゲーションシステム。
  27. 前記第１のラベルが、前記第１の物体のタイプの識別子に関連付けられている、請求項２５に記載のナビゲーションシステム。
  28. 前記第２のラベルが、前記第２の物体のタイプを示す、請求項２５から２７のいずれか一項に記載のナビゲーションシステム。
  29. 前記第２のラベルが、前記第２の物体のタイプの識別子に関連付けられている、請求項２５から２７のいずれか一項に記載のナビゲーションシステム。
  30. 前記少なくとも１つのプロセッサが、前記第１の物体の前記ジオメトリの前記少なくとも１つの態様又は前記第２の物体の前記ジオメトリの前記少なくとも１つの態様を出力するように更にプログラムされる、請求項２５から２９のいずれか一項に記載のナビゲーションシステム。
  31. トレーニングされたシステムが、前記少なくとも１つの画像の前記分析の少なくとも一部を実行する、請求項２５から３０のいずれか一項に記載のナビゲーションシステム。
  32. 前記トレーニングされたシステムが、１つ又は複数のニューラルネットワークを含む、請求項３１に記載のナビゲーションシステム。
  33. 前記第１の物体がガードレールを含み、前記第２の物体がコンクリート障壁を含む、請求項２５から３２のいずれか一項に記載のナビゲーションシステム。
  34. 前記ガードレールが、前記少なくとも１つの画像から決定された前記ガードレールのテクスチャに少なくとも部分的に基づいて、前記コンクリート障壁とは別個の物体として識別される、請求項３３に記載のナビゲーションシステム。
  35. 前記第１の物体の前記ジオメトリの前記少なくとも１つの態様が、前記第１の物体の高さを含み、前記第１のラベルが、前記高さに少なくとも部分的に基づいて生成される、請求項２５から３４のいずれか一項に記載のナビゲーションシステム。
  36. 前記第２の物体の前記ジオメトリの少なくとも１つの態様が、前記第２の物体の高さを含み、前記第２のラベルが、前記高さに少なくとも部分的に基づいて生成される、請求項２５から３５のいずれか一項に記載のナビゲーションシステム。
  37. 前記第１の物体のタイプが第１の物体クラスに含まれ、前記第２の物体のタイプが第２の物体クラスに含まれ、前記第１の物体クラス及び前記第２の物体クラスが相互に排他的な物体を含む、請求項２５から３６のいずれか一項に記載のナビゲーションシステム。
  38. 前記第１の物体クラス及び前記第２の物体クラスのそれぞれが、レーンマーク、縁石、又は壁のうちの少なくとも１つを含む、請求項３７に記載のナビゲーションシステム。
  39. 前記少なくとも１つのプロセッサが、前記ホスト車両の少なくとも１つのセンサからの出力を受信するように更にプログラムされ、前記第１の物体の前記ジオメトリの前記少なくとも１つの態様、又は前記第２の物体の前記ジオメトリの前記少なくとも１つの態様が、前記出力に基づいて決定される、請求項２５から３８のいずれか一項に記載のナビゲーションシステム。
  40. 前記第１の物体の前記ジオメトリの前記少なくとも１つの態様が、前記第１の物体のテクスチャに基づいて決定される、請求項２５から３９のいずれか一項に記載のナビゲーションシステム。
  41. 前記第２の物体の前記ジオメトリの前記少なくとも１つの態様が、前記第２の物体のテクスチャに基づいて決定される、請求項２５から４０のいずれか一項に記載のナビゲーションシステム。
  42. 前記少なくとも１つのプロセッサが、前記第１の物体又は前記第２の物体のうちの少なくとも１つが道路端部であることを決定するように更にプログラムされる、請求項２５から４１のいずれか一項に記載のナビゲーションシステム。
  43. 前記少なくとも１つのプロセッサが、前記道路端部のタイプを判断するように更にプログラムされる、請求項４２に記載のナビゲーションシステム。
  44. 前記少なくとも１つのプロセッサが、前記道路端部を前記ホスト車両が横断できるか否かを判断するように更にプログラムされる、請求項４２又は４３に記載のナビゲーションシステム。
JP2023084528A 2019-05-24 2023-05-23 画像分析に基づく車両ナビゲーションのためのシステム Pending JP2023106536A (ja)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US201962852761P 2019-05-24 2019-05-24
US62/852,761 2019-05-24
US202062957009P 2020-01-03 2020-01-03
US62/957,009 2020-01-03
US202062976059P 2020-02-13 2020-02-13
US62/976,059 2020-02-13
JP2021552978A JP2022532695A (ja) 2019-05-24 2020-05-22 画像分析に基づく車両ナビゲーションのためのシステム及び方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2021552978A Division JP2022532695A (ja) 2019-05-24 2020-05-22 画像分析に基づく車両ナビゲーションのためのシステム及び方法

Publications (1)

Publication Number Publication Date
JP2023106536A true JP2023106536A (ja) 2023-08-01

Family

ID=71094818

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021552978A Pending JP2022532695A (ja) 2019-05-24 2020-05-22 画像分析に基づく車両ナビゲーションのためのシステム及び方法
JP2023084528A Pending JP2023106536A (ja) 2019-05-24 2023-05-23 画像分析に基づく車両ナビゲーションのためのシステム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2021552978A Pending JP2022532695A (ja) 2019-05-24 2020-05-22 画像分析に基づく車両ナビゲーションのためのシステム及び方法

Country Status (5)

Country Link
US (2) US20220035378A1 (ja)
JP (2) JP2022532695A (ja)
CN (1) CN113825979A (ja)
DE (1) DE112020002592T5 (ja)
WO (1) WO2020242945A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6838522B2 (ja) * 2017-08-10 2021-03-03 トヨタ自動車株式会社 画像収集システム、画像収集方法、画像収集装置、および記録媒体
WO2021008712A1 (en) * 2019-07-18 2021-01-21 Toyota Motor Europe Method for calculating information relative to a relative speed between an object and a camera
EP3770881B1 (en) * 2019-07-26 2023-11-15 Volkswagen AG Methods, computer programs, apparatuses, a vehicle, and a traffic entity for updating an environmental model of a vehicle
KR102443401B1 (ko) * 2020-06-29 2022-09-15 주식회사 라이드플럭스 자율주행 차량을 위한 로드 네트워크 데이터 생성 방법, 장치 및 컴퓨터프로그램
US11823395B2 (en) * 2020-07-02 2023-11-21 Magna Electronics Inc. Vehicular vision system with road contour detection feature
US11790665B2 (en) * 2021-04-29 2023-10-17 Hitachi Astemo, Ltd. Data driven dynamically reconfigured disparity map
CN113674422A (zh) * 2021-08-27 2021-11-19 中汽创智科技有限公司 一种数据同步采集方法、控制模块、系统及存储介质
DE102022128390A1 (de) 2022-10-26 2024-05-02 Bayerische Motoren Werke Aktiengesellschaft Verfahren zum Betreiben eines Fahrerassistenzsystems eines Fahrzeugs mit automatisierter Querführung bei einer Folgefahrt, Fahrerassistenzsystem sowie Fahrzeug

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102009033219A1 (de) * 2009-01-23 2010-07-29 Daimler Ag Verfahren zur Ermittlung eines Fahrzeug vorausliegenden Straßenprofils einer Fahrspur
US8977007B1 (en) * 2013-04-23 2015-03-10 Google Inc. Detecting a vehicle signal through image differencing and filtering
US9305223B1 (en) * 2013-06-26 2016-04-05 Google Inc. Vision-based indicator signal detection using spatiotemporal filtering
JP6997106B2 (ja) * 2016-06-27 2022-01-17 モービルアイ ビジョン テクノロジーズ リミテッド 車両をナビゲートするためのシステム、方法およびコンピュータプログラム
US10311312B2 (en) * 2017-08-31 2019-06-04 TuSimple System and method for vehicle occlusion detection
EP3619643A1 (en) * 2017-05-03 2020-03-11 Mobileye Vision Technologies Ltd. Detection and classification systems and methods for autonomous vehicle navigation
DE102017215718B4 (de) * 2017-09-07 2019-06-13 Audi Ag Verfahren zum Auswerten eines optischen Erscheinungsbildes in einer Fahrzeugumgebung und Fahrzeug
US11474530B1 (en) * 2019-08-15 2022-10-18 Amazon Technologies, Inc. Semantic navigation of autonomous ground vehicles

Also Published As

Publication number Publication date
US20220035378A1 (en) 2022-02-03
CN113825979A (zh) 2021-12-21
DE112020002592T5 (de) 2022-03-03
WO2020242945A1 (en) 2020-12-03
US20220027642A1 (en) 2022-01-27
JP2022532695A (ja) 2022-07-19

Similar Documents

Publication Publication Date Title
US20220001871A1 (en) Road vector fields
US20210374435A1 (en) Aggregation and reporting of observed dynamic conditions
US20220333927A1 (en) Ego motion correction of lidar output
US20220282989A1 (en) Fully aligned junctions
US20220027642A1 (en) Full image detection
US20210381849A1 (en) Map management using an electronic horizon
US20230175852A1 (en) Navigation systems and methods for determining object dimensions
US20220227373A1 (en) Systems and methods for detecting an open door
US20220351526A1 (en) Multi-frame image segmentation
US20230195122A1 (en) Systems and methods for map-based real-world modeling
US20220371583A1 (en) Systems and Methods for Selectively Decelerating a Vehicle
US20230202473A1 (en) Calculating vehicle speed for a road curve
US20230311863A1 (en) Detecting an open door using a sparse representation
US20230195506A1 (en) Systems and methods for processing atomic commands
US20230205533A1 (en) Systems and methods for performing neural network operations
US20240029446A1 (en) Signature network for traffic sign classification
WO2023067385A2 (en) Radar-camera fusion for vehicle navigation

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230523