JP2019182415A - 自動運転車両（ａｄｖ）に用いるピッチ角の補正方法 - Google Patents

Abstract

【課題】ＡＤＶピッチ角の変化を推定して、単眼カメラによる地面画素の測定距離の精度を向上すること。【解決手段】ＡＤＶのシステムは実装された複数のセンサによりＡＤＶから見る透視図から、単眼画像キャプチャデバイスによりオブジェクトの画像をキャプチャすることを含むようにオブジェクトを感知する。システムはオブジェクトの二次元境界枠及びＡＤＶからオブジェクトまでの感知距離を確定する。システムは、境界枠及びＡＤＶからオブジェクトまでの感知距離に基いて、少なくとも前の外部補正値を補正して画像の画像空間内において動的なピッチ角を探索し、距離を算出する。探索された動的なピッチ角に基いてＡＤＶからＡＤＶから見る透視図における地面上の点までの距離を確定する。システムは確定された地面上の点の距離に基いて走行軌跡を生成してＡＤＶを制御する。【選択図】図８

Description

本発明の実施形態は主に自動運転車両の操作に関する。具体的に、本発明の実施形態は、自動運転車両（ＡＤＶ）に用いるピッチ角の補正方法に関する。

自動運転モード（例えば、ドライバーレス）で走行している車両は、乗員、特に人間の運転手をいくつかの運転に関する役割から解放できる。自動運転モードで走行しているとき、車両は、車載センサを使用して様々な位置までにナビゲートされることが可能であり、最小限のヒューマンコンピュータインタラクションや乗客がいないなどの状況で走行することが可能となった。

周囲環境への感知は、通常の運転者がその運転する車両の周囲において感知可能なものを示すことができる。自動運転車両におけるセンサシステムによって、異なる制限のある感知になる可能性がある。例えば、カメラ画像による感知には、深さに関する情報がない。ＬＩＤＡＲとＲＡＤＡＲ画像による感知は、黒と白に制限される恐れがある。また、ＬＩＤＡＲとＲＡＤＡＲの精度は、天気状況及び／又は感知されるオブジェクトからの距離に依存する場合がある。

画像をキャプチャするカメラの補正パラメータ（例えばカメラと地面との間のピッチ角の動的な変化）が既知であれば、カメラ画像によりキャプチャされた如何なる地面の画素（相対的に平坦な地面であると仮定する）について測定距離を算出することができる。ところが、ＡＤＶが走行する際にＡＤＶ及び／又はカメラ装置のピッチ角（例えば、車両が傾斜する場合）の変化により、カメラ装置によりキャプチャされた画像の測定距離が正確ではない恐れがある。従って、単眼カメラによる地面画素の測定距離の精度を向上するためにＡＤＶピッチ角の変化を推定する必要がある。

本発明の実施形態は、図面の各図において限定的ではなく例示的な形態で示され、図面における同じ図面符号が類似した素子を示す。

一実施形態に係るネットワークシステムを示すブロック図である。

一実施形態に係る自動運転車両の一例を示すブロック図である。

一実施形態に係る自動運転車両と共に使用される感知・計画システムの一例を示すブロック図である。 一実施形態に係る自動運転車両と共に使用される感知・計画システムの一例を示すブロック図である。

一実施形態に係るピッチ角モジュールの例を示すブロック図である。

ピッチ角を有するＡＤＶの例を示すブロック図である。 ピッチ角に対する測定距離の誤差率のグラフである。

一実施形態に係る、ＡＤＶから見る透視図（ｐｅｒｓｐｅｃｔｉｖｅ ｖｉｅｗ）の例を示すブロック図である。

一実施形態に係る、ピッチ角無しのＡＤＶの側面図の例を示すブロック図である。 一実施形態に係る、ピッチ角ありのＡＤＶの側面図の例を示すブロック図である。

異なるピッチ角となる二つの例示的な透視図を示すブロック図である。 異なるピッチ角となる二つの例示的な透視図を示すブロック図である。

一実施形態に係るＡＤＶにより実行される方法を示すフローチャートである。

一実施形態に係るデータ処理システムを示すブロック図である。

以下、説明の詳細を参照しながら本発明の様々な実施形態及び態様を説明し、前記様々な実施形態が図面に示される。以下の説明及び図面は、本発明を例示するためのものであり、限定するものとして解釈されるべきではない。本発明の様々な実施形態を全面的に理解するために、多くの特定の詳細を説明する。なお、本発明の実施形態を簡潔的に説明するように、周知又は従来技術の詳細について説明していない場合もある。

本明細書において、「一実施形態」又は「実施形態」とは、当該実施形態に基づいて説明された特定の特徴、構造又は特性が本発明の少なくとも一実施形態に含まれてもよいと意味する。「一実施形態では」という表現は、本明細書の全体において全てが同一の実施形態を指すとは限らない。

一実施形態によれば、ＡＤＶのシステムは、ＡＤＶに実装された複数のセンサによりＡＤＶから見る透視図から、単眼画像キャプチャデバイスによりオブジェクトの画像をキャプチャすることを含むようにオブジェクトを感知する。当該システムは、画像に基いてオブジェクトの二次元（２Ｄ）境界枠及びＡＤＶからオブジェクトまでの感知距離を確定する。当該システムは、少なくとも前の外部補正値を補正し、２Ｄ境界枠とＡＤＶからオブジェクトまでの感知距離に基いて画像空間において動的なピッチ角を探索することで、距離値を算出する。当該システムは、探索された動的なピッチ角に基いてＡＤＶからＡＤＶから見る透視図における地面上の点までの距離を確定する。当該システムは確定された地面上の点までの距離に基いて走行軌跡を生成してＡＤＶを制御する。

図１は、本発明の一実施形態に係る自動運転車両のネットワーク構成を示すブロック図である。図１に示すように、ネットワーク構成１００は、ネットワーク１０２を介して一つ以上のサーバ１０３〜１０４に通信可能に接続される自動運転車両１０１を含む。一つの自動運転車両のみが示されているが、複数の自動運転車両が、ネットワーク１０２を介して、互いに接続され、及び／又はサーバ１０３〜１０４に接続されてもよい。ネットワーク１０２は、任意のタイプのネットワーク、例えば、有線又は無線のローカルエリアネットワーク（ＬＡＮ）、インターネットのようなワイドエリアネットワーク（ＷＡＮ）、セルラーネットワーク、衛星ネットワーク又はそれらの組み合わせであってもよい。サーバ１０３〜１０４は、如何なるタイプのサーバ又はサーバクラスタであってもよく、例えば、ネットワーク又はクラウドサーバ、アプリサーバ、バックエンドサーバ又はそれらの組み合わせが挙げられる。サーバ１０３〜１０４は、データ解析サーバ、コンテンツサーバ、交通情報サーバ、地図及び関心地点（ＭＰＯＩ）サーバ、又は位置サーバなどであってもよい。

自動運転車両とは、自動運転モードになるように構成可能な車両を指し、前記自動運転モードにおいて、車両が運転手からの入力がほとんど又は全くない場合に環境を通過するようにナビゲートされる。このような自動運転車両は、車両動作環境に関連する情報を検出するように構成された一つ以上のセンサを有するセンサシステムを含んでもよい。前記車両及びその関連コントローラは、検出された情報を使用して前記環境を通過するようにナビゲートする。自動運転車両１０１は、手動モード、全自動運転モード、又は部分自動運転モードで動作することができる。

一実施形態では、自動運転車両１０１は、感知・計画システム１１０、車両制御システム１１１、無線通信システム１１２、ユーザインターフェースシステム１１３、及びセンサシステム１１５を含むが、それらに限定されない。自動運転車両１０１は更に、エンジン、車輪、ステアリングホイール、変速機などの従来の車両に含まれるいくつかの共通構成要素を含んでもよい。前記構成要素は、車両制御システム１１１及び／又は感知・計画システム１１０によって様々な通信信号及び／又は命令で制御されることができ、これらの様々な通信信号及び／又は命令は、例えば加速信号又は命令、減速信号又は命令、ステアリング信号又は命令、ブレーキ信号又は命令などを含む。

構成要素１１０〜１１５は、インターコネクト、バス、ネットワーク、又はこれらの組み合わせを介して互いに通信可能に接続することができる。例えば、構成要素１１０〜１１５は、コントローラエリアネットワーク（ＣＡＮ）バスを介して互いに通信可能に接続することができる。ＣＡＮバスは、ホストコンピュータなしのアプリケーションでマイクロコントローラ及びデバイスが相互に通信できるように設計された車両バス規格である。それは、もともと自動車内の多重電気配線のために設計されたメッセージに基づくプロトコルであるが、他の多くの環境にも用いられる。

ここで図２を参照すると、一実施形態では、センサシステム１１５は、一つ以上のカメラ２１１、全地球測位システム（ＧＰＳ）ユニット２１２、慣性計測ユニット（ＩＭＵ）２１３、レーダユニット２１４並びに光検出及び測距（ＬＩＤＡＲ）ユニット２１５を含むが、それらに限定されない。ＧＰＳユニット２１２は、自動運転車両の位置に関する情報を提供するように動作可能な送受信機を含んでもよい。ＩＭＵユニット２１３は、慣性加速度に基づいて自動運転車両の位置及び配向の変化を感知することができる。レーダユニット２１４は、無線信号を利用して自動運転車両のローカル環境内のオブジェクトを感知するシステムを表すことができる。いくつかの実施形態では、オブジェクトを感知することに加えて、レーダユニット２１４は、オブジェクトの速度及び／又は進行方向を更に感知することができる。ＬＩＤＡＲユニット２１５は、レーザを使用して自動運転車両の所在環境内のオブジェクトを感知することができる。ＬＩＤＡＲユニット２１５は、他のシステム構成要素のほかに、一つ以上のレーザ源、レーザスキャナ、及び一つ以上の検出器を更に含むことができる。カメラ２１１は、自動運転車両の周囲の環境における画像を取り込むための一つ以上の装置を含むことができる。カメラ２１１は、スチルカメラ及び／又はビデオカメラであってもよい。カメラは、例えば、回転及び／又は傾斜のプラットフォームにカメラを取り付けることによって、機械的に移動されてもよい。

センサシステム１１５は、ソナーセンサ、赤外線センサ、ステアリングセンサ、スロットルセンサ、ブレーキセンサ、及びオーディオセンサ（例えば、マイクロフォン）などの他のセンサを更に含むことができる。オーディオセンサは、自動運転車両の周囲の環境から音を取得するように構成されてもよい。ステアリングセンサは、ステアリングホイール、車両の車輪、又はそれらの組み合わせの操舵角を感知するように構成されてもよい。スロットルセンサ及びブレーキセンサそれぞれは、車両のスロットル位置及びブレーキ位置を感知する。場合によっては、スロットルセンサとブレーキセンサを統合型スロットル／ブレーキセンサとして一体化することができる。

一実施形態では、車両制御システム１１１は、ステアリングユニット２０１、スロットルユニット２０２（加速ユニットともいう）、及びブレーキユニット２０３を含むが、それらに限定されない。ステアリングユニット２０１は、車両の方向又は進行方向を調整するために用いられる。スロットルユニット２０２は、モータ又はエンジンの速度を制御するために用いられ、モータ又はエンジンの速度によって更に車両の速度及び加速度を制御する。ブレーキユニット２０３は、摩擦を与えることによって車両の車輪又はタイヤを減速させることで、車両を減速させる。なお、図２に示す構成要素は、ハードウェア、ソフトウェア、又はそれらの組み合わせで実現することができる。

図１を再び参照して、無線通信システム１１２は、自動運転車両１０１と、装置、センサ、他の車両などの外部システムとの間の通信を可能にするものである。例えば、無線通信システム１１２は、直接又は通信ネットワークを介して一つ以上の装置と無線通信することができ、例えば、ネットワーク１０２を介してサーバ１０３〜１０４と通信することができる。無線通信システム１１２は、任意のセルラー通信ネットワーク又は無線ローカルエリアネットワーク（ＷＬＡＮ）を使用することができ、例えば、ＷｉＦｉ（登録商標）を使用して別の構成要素又はシステムと通信することができる。無線通信システム１１２は、例えば、赤外線リンク、ブルートゥース（登録商標）などを使用して、装置（例えば、乗客のモバイルデバイス、表示装置、車両１０１内のスピーカ）と直接通信することができる。ユーザインターフェースシステム１１３は、車両１０１内に実現された周辺装置の部分（例えば、キーボード、タッチスクリーン表示装置、マイクロホン、及びスピーカなどを含む）であってもよい。

特に自動運転モードで動作しているときに、自動運転車両１０１の機能の一部又は全部は、感知・計画システム１１０によって制御又は管理することができる。感知・計画システム１１０は、必要なハードウェア（例えば、プロセッサ、メモリ、記憶装置）及びソフトウェア（例えば、オペレーティングシステム、計画及びルーティングプログラム）を備え、センサシステム１１５、制御システム１１１、無線通信システム１１２、及び／又はユーザインターフェースシステム１１３から情報を受信し、受信した情報を処理し、出発地から目的地までのルート又は経路を計画し、その後、計画・制御情報に基づいて車両１０１を運転する。 あるいは、感知・計画システム１１０を車両制御システム１１１と統合することができる。

例えば、乗客としてのユーザは、例えば、ユーザインターフェースを介して、旅程の出発地位置及び目的地を指定することができる。感知・計画システム１１０は旅程関連データを取得する。例えば、感知・計画システム１１０は、ＭＰＯＩサーバから位置及びルート情報を取得することができ、前記ＭＰＯＩサーバはサーバ１０３〜１０４の一部であってもよい。位置サーバは位置サービスを提供し、ＭＰＯＩサーバは地図サービス及び特定の位置のＰＯＩを提供する。あるいは、そのような位置及びＭＰＯＩ情報は、感知・計画システム１１０の永続的記憶装置にローカルキャッシュされることが可能である。

自動運転車両１０１がルートに沿って移動するとき、感知・計画システム１１０は交通情報システム又はサーバ（ＴＩＳ）からリアルタイム交通情報を取得することもできる。なお、サーバ１０３〜１０４は第三者エンティティによって操作されることが可能である。あるいは、サーバ１０３〜１０４の機能は、感知・計画システム１１０と統合することができる。リアルタイム交通情報、ＭＰＯＩ情報、及び位置情報、並びにセンサシステム１１５によって検出又は感知されたリアルタイムローカル環境データ（例えば、障害物、オブジェクト、周辺車両）に基づいて、感知・計画システム１１０は、指定された目的地までに安全かつ効率的に到着するように、最適なルートを計画し、計画されたルートに従って、例えば、制御システム１１１によって車両１０１を運転する。

サーバー１０３は、様々なクライアントにデータ解析サービスを提供するデータ解析システムであってもよい。本発明の一実施形態において、データ解析システム１０３は、データコレクタ１２１及び機械学習エンジン１２２を備える。データコレクタ１２１は、様々な車両（自動運転車、又は操作者が運転する普通車両）から運転統計データ１２３を収集する。運転統計データ１２３は、発された運転命令（例えば、変速、ブレーキ、ステアリング命令等）を指示する情報や、車載センサーが異なる時点で採集した車両の応答（例えば、速度、加速度、減速度、方向等）を含む。運転統計データ１２３は、ルート（出発地位置と目的位置）、ＭＰＯＩ、天気状況、道路状況のような異なる時点の運転環境を記述する情報を含んでも良く、道路状況は、例えば、高速道路の交通状況、渋滞、事故、道路修築、一時規制、未知障害物等の道路状況である。

機器学習エンジン１２２は、運転統計データ１２３に基いて、各種の目的のために、１セットのルール、アルゴリズム及び／又は予測モデル１２４のを生成し又はトレーニングする。ルール、アルゴリズム及び／又は予測モデル１２４は、ＡＤＶ用の画像キャプチャデバイスによりキャプチャされた画像に標識されたオブジェクトにおいて二次元（２Ｄ）境界枠を描画するモデルを含む。

図３Ａ及び図３Ｂは、一実施形態に係る自動運転車両と共に使用される感知・計画システムの一例を示すブロック図である。システム３００は、図１の自動運転車両１０１の一部として実現することができ、感知・計画システム１１０、制御システム１１１、及びセンサシステム１１５を含むが、それらに限定されない。図３Ａ〜図３Ｂに示すように、感知・計画システム１１０は、測位モジュール３０１、感知モジュール３０２、予測モジュール３０３、決定モジュール３０４、計画モジュール３０５、制御モジュール３０６、ルーティングモジュール３０７、及びピッチ角補正モジュール３０８を備えるが、これらに限定されない。

モジュール３０１〜３０８のうちの一部又は全部は、ソフトウェア、ハードウェア又はそれらの組み合わせで実現されてもよい。例えば、これらのモジュールは、永続的記憶装置３５２にインストールされ、メモリ３５１にロードされ、一つ以上のプロセッサ（図示せず）によって実行されることができる。なお、これらのモジュールの一部又は全部は、図２の車両制御システム１１１のモジュールの一部又は全部と通信可能に接続されるか、又は一体化されてもよい。モジュール３０１〜３０９のいくつかは、集積モジュールとして一体化されてもよい。モジュール３０１〜３０８のうち一部は、一体に集積モジュールとして集積可能である。

測位モジュール３０１は、自動運転車両３００の現在の位置（例えば、ＧＰＳユニット２１２を利用して）を特定し、ユーザの旅程又はルートに関連する如何なるデータを管理する。測位モジュール３０１（地図及びルートモジュールともいう）は、ユーザの旅程又はルートに関連する如何なるデータを管理する。ユーザは、例えば、ユーザインターフェースを介してログインして、旅程の出発地位置及び目的地を指定することができる。測位モジュール３０１は、自動運転車両３００の地図・ルート情報３１１のような他の構成要素と通信して、旅程関連データを取得する。例えば、測位モジュール３０１は、位置サーバ並びに地図及びＰＯＩ（ＭＰＯＩ）サーバから位置及びルート情報を取得することができる。位置サーバは位置サービスを提供し、ＭＰＯＩサーバは、地図サービス及び特定の位置のＰＯＩを提供し、地図・ルート情報３１１の一部としてキャッシュすることができる。自動運転車両３００がルートに沿って移動するとき、測位モジュール３０１は交通情報システム又はサーバからリアルタイム交通情報を得ることもできる。

感知モジュール３０２は、センサシステム１１５により提供されたセンサデータと、測位モジュール３０１により取得された測位情報とに基づいて、周囲環境への感知を特定する。感知情報は、一般的な運転手が運転手により運転されている車両の周囲で感知すべきものを表すことができる。感知は、例えばオブジェクトの形態を採用する車線構成（例えば、直進車線又はカーブ車線）、信号機信号、他の車両の相対位置、歩行者、建築物、横断歩道、又は他の交通関連標識（例えば、止まれ標識、ゆずれ標識）などを含んでもよい。

感知モジュール３０２は、一つ以上のカメラによって取り込まれた画像を処理及び解析して、自動運転車両の環境内のオブジェクト及び／又は特徴を認識するためのコンピュータビジョンシステム又はコンピュータビジョンシステムの機能を含むことができる。前記オブジェクトは、交通信号、道路境界、他の車両、歩行者及び／又は障害物などを含むことができる。コンピュータビジョンシステムは、オブジェクト認識アルゴリズム、ビデオトラッキング、及び他のコンピュータビジョン技術を使用することができる。いくつかの実施形態では、コンピュータビジョンシステムは、環境地図を描き、オブジェクトを追跡し、オブジェクトの速度などを推定することができる。感知モジュール３０２は、レーダ及び／又はＬＩＤＡＲのような他のセンサによって提供される他のセンサデータに基づいてオブジェクトを検出することもできる。

各オブジェクトについて、予測モジュール３０３は、その環境ではオブジェクトがどのように挙動するかを予測する。予測とは、地図・ルート情報３１１と交通ルール３１２のセットを考慮して、当該時点における運転環境を感知する感知データに基づいて実行される。例えば、オブジェクトが反対方向の車両であり、かつ現在の運転環境が交差点を含む場合に、予測モジュール３０３は、車両が直進するか、又は旋回するかを予測する。感知データが、交差点に信号機がないことを示す場合、予測モジュール３０３は、交差点に入る前に車両が完全に停止する必要があると予測する可能性がある。感知データが、車両が現在左折専用車線又は右折専用車線にあることを示す場合、予測モジュール３０３は、車両がそれぞれ左折又は右折する可能性がより高いと予測することができる。

それぞれのオブジェクトに対して、決定モジュール３０４はオブジェクトをどのように処理するかを決定する。例えば、特定のオブジェクト（例えば、交差のルートにおける他の車両）及びオブジェクトを記述するメタデータ（例えば、速度、方向、操舵角）について、決定モジュール３０４は前記オブジェクトと遇うときに如何に対応するか（例えば、追い越し、道譲り、停止、追い抜き）を決定する。決定モジュール３０４は、交通ルール又は運転ルール３１２のようなルールセットに基づいてそのような決定を行うことができ、前記ルールセットは永続的記憶装置３５２に記憶することができる。

ルーティングモジュール３０７は、出発地から目的地までの一つ以上のルート又は経路を提供するように構成される。ルーティングモジュール３０７は、出発地位置から目的地位置までの所与の行程（例えば、ユーザから受信された所与の旅程）について、地図・ルート情報３１１を取得し、出発地位置から目的地位置までのすべての可能なルート又は経路を決定する。ルーティングモジュール３０７は、出発地位置から目的地位置までの各ルートを決定する地形図の形の基準線を生成することができる。基準線とは、他の車両、障害物、又は交通状況などからの如何なる干渉を受けていない理想的なルート又は経路を指す。つまり、道路に他の車両、歩行者又は障害物がない場合、ＡＤＶは基準線に精確的に又は密接的に従うべきである。そして、地形図を決定モジュール３０４及び／又は計画モジュール３０５に提供する。決定モジュール３０４及び／又は計画モジュール３０５は、他のモジュールにより提供された他のデータ（例えば測位モジュール３０１からの交通状況、感知モジュール３０２により感知された運転環境及び予測モジュール３０３により予測された交通状況）に応じて、全ての走行可能なルートを検査して最適ルートのうちの一つを選択及び補正する。特定時点における特定の運転環境に応じて、ＡＤＶを制御するための実際の経路又はルートは、ルーティングモジュール３０７によって提供される基準線に近いか又は異なっていてもよい。

感知されたオブジェクトのそれぞれに対する決定に基づいて、計画モジュール３０５は、ルーティングモジュール３０７によって提供される基準線をベースとし、自動運転車両に対して経路又はルート並びに運転パラメータ（例えば、距離、速度及び／又は操舵角）を計画する。言い換えれば、特定のオブジェクトについて、決定モジュール３０４は当該オブジェクトに対して何をするかを決定し、計画モジュール３０５はどのようにするかを決定する。例えば、特定のオブジェクトについて、決定モジュール３０４は前記オブジェクトを追い抜くかを決定することができ、計画モジュール３０５は前記オブジェクトを左側から追い抜くか又は右側から追い抜くかを決定することができる。計画・制御データは、計画モジュール３０５により生成され、車両３００が次の移動周期（例えば、次のルート／経路区間）にはどのように移動するかを記述する情報を含む。例えば、計画・制御データは、車両３００に時速３０マイル（ｍｐｈ）で１０ｍ移動し、次に２５マイル（ｍｐｈ）で右車線に変更するように指示することができる。

制御モジュール３０６は、計画・制御データに基づいて、計画・制御データにより限定されたルート又は経路に応じて適当な命令又は信号を車両制御システム１１１に送信することにより自動運転車両を制御及び運転する。前記計画・制御データは、経路又はルートに沿って異なる時点で適切な車両配置又は運転パラメータ（例えば、スロットル、ブレーキ、及びステアリング命令）を使用して、車両をルート又は経路の第１の点から第２の点まで運転するのに十分な情報を含む。

一実施形態では、計画段階は、例えば、時間間隔が１００ミリ秒（ｍｓ）の周期など、複数の計画周期（命令周期ともいう）で実行される。計画周期又は命令周期のそれぞれについて、計画・制御データに基づいて一つ以上の制御命令を発する。すなわち、１００ｍｓごとに、計画モジュール３０５は、次のルート区間又は経路区間（例えば、オブジェクト位置及びＡＤＶがオブジェクト位置に到着するのに必要な時間が含まれる）を計画する。あるいは、計画モジュール３０５は、具体的な速度、方向、及び／又は操舵角などを更に指定することができる。一実施形態では、計画モジュール３０５は、次の所定期間（例えば、５秒）のルート区間又は経路区間を計画する。計画周期のそれぞれに対し、計画モジュール３０５は、前の周期で計画されたオブジェクト位置に基づいて、現在の周期（例えば、次の５秒）のためのオブジェクト位置を計画する。次に、制御モジュール３０６は、現在の周期の計画・制御データに基づいて、一つ以上の制御命令（例えば、スロットル、ブレーキ、ステアリング制御命令）を生成する。

なお、決定モジュール３０４及び計画モジュール３０５は、集積モジュールとして一体化されてもよい。決定モジュール３０４／計画モジュール３０５は、自動運転車両の走行経路を決定するためのナビゲーションシステム又はナビゲーションシステムの機能を含んでもよい。例えば、ナビゲーションシステムは、自動運転車両の以下の経路に沿った移動を達成するための一連の速度及び進行方向を決定することができる。前記経路では、自動運転車両が最終的な目的地に通じる走行車線ベースの経路に沿って前進するとともに、感知した障害物を実質的に回避できる。目的地は、ユーザインターフェースシステム１１３を介したユーザ入力に従って設定することができる。ナビゲーションシステムは、自動運転車両が走行している間に走行経路を動的に更新することができる。ナビゲーションシステムは、自動運転車両のための走行経路を決定するために、ＧＰＳシステム及び一つ以上の地図からのデータを取り入れることができる。

決定モジュール３０４／計画モジュール３０５は、更に、自動運転車両の環境における潜在的な障害物を認識、評価、回避又は他の方法で通過するための衝突防止システム又は衝突防止システムの機能を含むことができる。例えば、衝突防止システムは、制御システム１１１の一つ以上のサブシステムを動作させて、方向変更動作、旋回動作、ブレーキ動作などを行うことによって、自動運転車両のナビゲーション中の変更を実現することができる。衝突防止システムは、周囲の交通パターンや道路状況などに基づいて、実行可能な障害物回避動作を自動的に決定することができる。衝突防止システムは、他のセンサシステムが、自動運転車両が方向変更して進入しようとする隣接領域における車両、建築障害物などを検出したときに、方向変更動作を行わないように構成されることができる。衝突防止システムは、自動運転車両の乗員の安全性を最大限にするとともに、利用可能な動作を自動的に選択することができる。衝突防止システムは、自動運転車両の客室内に最も少ない加速度を発生させると予測される回避動作を選択することができる。

一実施形態によれば、ピッチ角補正モジュール３０８は、感知オブジェクトの２Ｄ境界枠（機器学習モデル３１３に基づく）と感知オブジェクトまでの実際距離に基づいて、ＡＤＶ／カメラ装置のリアルタイムのピッチ角に対してオンライン補正を実行することができる。ピッチ角に対応するカメラ装置の外部補正パラメータ（カメラ補正値３１５の一部として）を調整することにより、ピッチ角を補正して感知オブジェクトまでの距離を算出することができる。そして、探索アルゴリズム（探索アルゴリズム３１４の一部として）により感知オブジェクトまでの実際距離に応じて算出された距離を更新してピッチ角を探索することができる。一実施形態において、ピッチ角補正モジュール３０８は、単一のモジュールとして感知モジュール３０２と集積されても良く、独立的なモジュールであっても良い。他の実施形態において、ピッチ角補正モジュール３０８は感知モジュール３０２の一部として実現されても良い。

図４は一実施形態に係るピッチ角補正モジュールの例示を示したブロック図である。図４を参照し、ピッチ角補正モジュール３０８は、ＡＤＶに実装されたＡＤＶ及び／又は画像キャプチャデバイス（例えばカメラ）のピッチ角を補正することができる。ピッチ角補正モジュール３０８には、２Ｄ境界枠確定モジュール４０１、実際距離確定モジュール４０３、距離算出モジュール４０５、ピッチ角探索モジュール４０７とビュー補正モジュール４０９が備えられても良い。２Ｄ境界枠確定モジュール４０１は、ピッチ角の補正に用いられる感知オブジェクトの２Ｄ境界枠を選択し及び／又は確定することができる。実際距離確定モジュール４０３は感知オブジェクトまでの実際距離を確定することができる。距離算出モジュール４０５は、探索されたピッチ角に基づいてＡＤＶから感知オブジェクトまでの距離を算出することができる。ピッチ角探索モジュール４０７は、算出された距離をＡＤＶからオブジェクトまでの実際距離としてマッチ可能なピッチ角を探索することができる。ビュー補正モジュール４０９は、任意のピッチ角の補正を考慮できるようにキャプチャ画像の画像平面における感知ビューを補正することにより、キャプチャ画像における任意の画素について正確的な測定距離（例えば、ＡＤＶから感知オブジェクトまでの距離）を算出することができる。

図５Ａ〜５Ｂは、それぞれピッチ角を有するＡＤＶの例示を示したブロック図、及びピッチ角に対する測定距離における誤差率のグラフである。図５Ａを参照すると、ＡＤＶ１０１に一つ又は複数の画像キャプチャデバイス（例えば、カメラ２１１）が備えられても良い。ＡＤＶ１０１は平坦な路面に対してある角度（例えば、ピッチ角）で傾斜する可能性がある。なお、ピッチ角はＡＤＶ １０１のｔａｎ（上昇／路面距離）に等しい。一般的に、各画像のフレームの動的なピッチ角の本源は、サスペンション、加速、制動、ＡＤＶにおける乗客の重量の分布の変化及び平坦ではない道路などを含むが、それらに限定されない。図５Ｂを参照し、グラフ５１０にピッチ角に対する測定距離の誤差率が示されている。ＡＤＶ１０１との距離がほぼ２０メートルである障害物について、角度がほぼ０．５度のピッチ角により、１５％の範囲内の測定距離の誤差が生じる。ＡＤＶ１０１から測定オブジェクトまでの距離が増加すると、測定距離の誤差が増大する。

図６Ａは、一実施形態によるＡＤＶから見る透視図の例を示すブロック図である。透視図６００は、ＡＤＶ１０１（図６Ａに図示されていない）によりカメラ２１１を介して観測される透視図であっても良い。透視図６００はカメラ２１１によりキャプチャされる画像（画像平面を有する）に対応可能である。図６Ａを参照し、透視図６００に道路６０１及び車両６０３と６０６が含まれる。車両６０３と６０６は、オブジェクトとしてＡＤＶ１０１の感知モジュール３０２により検出可能である。そして、２Ｄ境界枠確定モジュール（例えば図４の補正モジュール４０８における２Ｄ境界枠確定モジュール４０１）は、機器学習モデル（図３Ａの機器学習モデル３１３の一部である）を使用して２Ｄ境界枠６０４と６０７を車両６０３と６０６にオーバーレイすることができる。各種の機器学習モデルを使用して２Ｄ境界枠を算出することができ、コンボリューションニューラルネットワーク、速い及びより速いエリアコンボリューションニューラルネットワークのようなエリアコンボリューションニューラルネットワーク、マスク（ｍａｓｋｅｄ）エリアニューラルネットワークなどが含まれるが、それらに限定されない。一実施形態において、２Ｄ境界枠６０４と６０７は、オブジェクトのサイズに適するように縮減される。例えば、境界枠のサイズ（例えば、長さ又は幅）がその前のサイズと比べて所定の閾値になるか、又は既にイテレーションが一定の回数を超えるまで、オブジェクト６０３と６０６の各エリアに対して線形回帰を使用して当該エリアの緊密的な境界枠座標を生成することができる。

キャプチャ画像において緊密に囲まれた２Ｄ境界枠について、オブジェクト（例えば車両６０３と６０６）が地面上に位置され、２Ｄ境界枠のボトムグリッドが接地点として用いられると仮定する。ＡＤＶ１０１は、接地点に基づいて、カメラ２１１の外部補正パラメータに応じてＡＤＶからオブジェクトまでの距離を推定することができる。カメラ２１１は、予め補正可能である。カメラ２１１は、内部の補正パラメータと外部の補正パラメータを含む。内部補正パラメータは、フォーカス、歪み係数と画像平面の光学中心を含む。外部補正パラメータは、感知オブジェクトに対するカメラの回転と平行移動を含む。回転パラメータには、カメラのヨー角、ピッチ角とロール角が含まれても良い。カメラの補正は、例えばＯｐｅｎＣＶ、Ｍａｔｌａｂ及びロボット操作システム（ＲＯＳ）などのソフトウェアにおける補正ツールを使用可能であり、壁、地面又はシナリオにおける補正オブジェクト上の幾つかのパターンに基づいて実行される。カメラの内部及び／又は外部パラメータが既知であれば、カメラ２１１によりキャプチャされた画像の画素距離に基づいて如何なる実際の世界における距離を確定することができる。

２Ｄ境界枠が感知のオブジェクトに適用されると、２Ｄ境界枠確定モジュール（例えば図４の２Ｄ境界枠確定モジュール４０１）は２Ｄ境界枠を選択してピッチ角の補正に用いることができる。一実施形態において、モジュール４０１はオブジェクトまでの距離に基づいて２Ｄ境界枠を選択する。例えば、境界枠６０７ではなく、境界枠６０４を使用する。これは、境界枠６０４に対応するオブジェクト６０３がカメラ２１１に対してより近いからである。より近いオブジェクトは、ピッチ角の補正に対して高い精度を有する傾向がある。これは、車両６０３及び境界枠６０４が透視図の画像においてより多い画素で示されるからである。

続いて、２Ｄ境界枠に対応するオブジェクトまでの実際距離を確定することができる。一実施形態において、実際距離確定モジュール４０３は、車両６０３をキャプチャするＳＯＮＡＲ、ＬＩＤＡＲ及び／又はＲＡＤＡＲのデプスマップを使用して車両６０３までの実際距離を確定することができる。他の実施形態において、実際距離確定モジュール４０３は、機器学習アルゴリズムを使用して実際距離を確定することにより、キャプチャされたＲＧＢ（赤色、緑色と青色）画像におけるオブジェクトのサイズに基づいてオブジェクトまでの距離を予測することができる。他の実施形態において、実際距離は、ＡＤＶ１０１及び／又は車両６０３に用いられる一つ又は複数の位置センサにより予め確定可能である。ここで、前記方法の任意の組み合わせにより車両６０３までの実際距離（例えば、距離６１３）を確定することができる。

図６Ｂ〜６Ｃは一実施形態に係るピッチ角無し又はピッチ角ありのＡＤＶの側面図の例示をそれぞれ示したブロック図である。図６Ｂの例示６３０は、動的なピッチ角６２４が図６Ｃにおける上昇物６２１により導入されるという点以外、図６Ｃの例示６４０と同様である。図６Ｂの例示６３０は図６Ａの透視図６００に対応可能である。図６Ｃを参照すると、上昇物６２１は、動的なピッチ角を形成させる任意の瞬時ソース、例えばＡＤＶの加速又は制動に対応可能である。図６Ｃを参照すると、ＡＤＶから車両６０３までの距離は、アルゴリズムであるＤｉｓｔ＝ｈ／ｔａｎ（α＋β）に基づいて算出可能である。なお、ＤｉｓｔはＡＤＶから車両６０３までの算出距離、αはカメラの光軸から車両６０３の接地点まで（例えば、α角６２３）の前の静的な外部補正角（ピッチ角の静的な成分を含むことができる）、βは確定しようとする動的なピッチ角（例えば、動的なピッチ角６２４）、ｈはカメラ２１１から地面までの推定高度である。この場合に、ＡＤＶ１０１が前の静的なカメラの外部補正パラメータ（例えば、α角）に基づいて走行されている場合に、オンラインでリアルタイムなピッチ角の補正を実行することができる。例えば、距離算出モジュール４０５は、既知のα角について、初期の動的なピッチ角（例えば０．５度）に基づいて距離値を算出することができる。ピッチ角探索モジュール４０７は、初期算出された距離及び例えばＳＯＮＡＲ、ＬＩＤＡＲ及び／又はＲＡＤＡＲで距離を測定する他の方法により取得された実際距離（例えば、距離６１３）について、探索アルゴリズム（例えば、グリーディ探索、二分探索又は任意の他の探索アルゴリズム）を使用して算出された距離を実際距離に最適にマッチングする動的なピッチ角を探索することができる。そして、動的なピッチ角を実際距離のある所定閾値内における算出距離に対応する動的なピッチ角として確定することができる。注意すべきなのは、グリーディアルゴリズムは、啓発的な問題による解の求め（例えば、幾つかの候補から解を選択し算出してオブジェクト関数を求める）に従うアルゴリズムであり、各段階において部分的な最適の選択を行って全体的な最適を探すことを希望する。二分探索は、オブジェクト値のカテゴリアレイにおける位置をルックアップする探索アルゴリズムである。

一実施形態において、ピッチ角がオンラインで補正されると（或いは特定のカメラ画像及び／又はフレームに対して動的なピッチ角が確定されると）、確定された動的なピッチ角をカメラ２１１に用いられる静的な外部補正パラメータに合併することができる（例えば、カメラ外部補正パラメータを補正する）。その後に、オンラインのフレーム毎の外部補正パラメータを使用して全ての他の地面における画素点の３Ｄ距離、例えば車線標識、自由空間境界及び／又は検出された他の２Ｄ境界枠を（それらの接地点に基づく）確定することができる。他の実施形態において、画像平面においてキャプチャされた画像の画素を現実世界の座標に変換するために、確定された動的なピッチ角を転換マトリックスに合併することができる。例えば、ｗ［ｘ ｙ １］＝［Ｘ Ｙ Ｚ １］［Ｒ ｔ］^ＴＫのように動的なピッチ角をマトリックスに合併することができる。なお、ｗは比例因子であり、［ｘ ｙ １］は画像平面における画素に対応する画像点のｘ軸とｙ軸であり、［Ｘ Ｙ Ｚ １］は現実世界の座標のＸ、ＹとＺ軸に対応し、Ｒ＝［ヨー角、静的なピッチ角＋動的なピッチ角、ロール角］^Ｔ、ｔは平行移動、Ｋは内部補正マトリックスである。そして、例示的なマトリックスを使用して画像の地面における画素を調整することにより、画像における任意の画素の距離、例えば道路上の標識を感知することができる。その後に、予測モジュール３０３、策定モジュール３０４及び／又は企画モジュール３０５は、感知された距離を使用して走行軌跡を生成してＡＤＶ１０１を制御することができる。

図７Ａ〜７Ｂは、二つの異なるピッチ角の二つの例示的な透視図を示したブロック図である。図７Ａ〜７Ｂを参照すると、ピッチ角が既知であると、少なくともカメラの外部補正パラメータを有する転換マトリックスを使用してキャプチャ画像からの透視図を生成し、及び／又は調整することができる。透視図が調整されると、地面上の各画素の距離を確定することができる。ここで、図７Ａ〜７Ｂに示された線は、異なる２Ｄ座標値（例えば、（ｘ、ｙ）値）のそれぞれの地面上のグリッドを示すことができる。

図８は一実施形態によるＡＤＶに実行される方法を示すフローチャートである。ステップ８００は処理ロジックにより実行されても良い。処理ロジックには、ソフトウェア、ハードウェア或いはそれらの組み合わせが含まれても良い。例えば、ステップ８００は図３Ａのピッチ角補正モジュール３０８により実行されても良い。図８を参照すると、ブロック８０１において、処理ロジックは、ＡＤＶに実装された複数のセンサを使用して、ＡＤＶから見る透視図から、単眼画像キャプチャデバイスを使用してオブジェクトの画像をキャプチャすることを含むようにオブジェクトを感知する。ブロック８０２において、処理ロジックは、オブジェクトの画像に基づいてオブジェクトの二次元（２Ｄ）境界枠及びＡＤＶからオブジェクトまでの感知距離を確定する。ブロック８０３において、処理ロジックは、２Ｄ境界枠及びＡＤＶからオブジェクトまでの感知距離に基づいて、距離値を算出するように少なくとも前の外部補正値を補正してオブジェクトの画像の画像空間内に動的なピッチ角を探索する。ブロック８０４において、処理ロジックは、確定された動的なピッチ角に基づいてＡＤＶからＡＤＶから見る透視図における地面上の点までの距離を確定する。ブロック８０５において、処理ロジックは、確定された地面上の点の距離に基づいて走行軌跡を生成してＡＤＶを制御する。

一実施形態において、少なくとも前の外部補正値を補正することは、単眼画像キャプチャデバイスの前の外部補正値に関連する動的なピッチ角を補正することを含む。一実施形態において、機器学習アルゴリズムモデルを透視図においてオブジェクトの画像をキャプチャすることに適用し、機器学習アルゴリズムモデルに基づいてオブジェクトを囲む２Ｄ境界枠のサイズを確定することにより、オブジェクトの２Ｄ境界枠を確定する。一実施形態において、処理ロジックは、更に２Ｄ境界枠の接地点を確定することにより、２Ｄ境界枠の接地点に基づいてＡＤＶからオブジェクトまでの距離を算出する。

一実施形態において、動的なピッチ角を探索することは、Ｄ＝ｈ／ｔａｎ（α＋β）に基づいてＡＤＶからオブジェクトまでの距離を算出することを含む。なお、βは算出する動的なピッチ角、Ｄは算出された距離、αはカメラの光軸から地面までの前の補正角、ｈはオブジェクトの推定高度である。一実施形態において、ＡＤＶからオブジェクトまでの算出距離がＡＤＶからオブジェクトまでの感知距離の第二所定閾値内に入るまで、二分探索アルゴリズムを使用して動的なピッチ角を探索する。一実施形態において、ＡＤＶからオブジェクトまでの算出距離がＡＤＶからオブジェクトまでの感知距離の第二所定閾値内に入るまで、グリーディ探索アルゴリズムを使用して動的なピッチ角を探索する。

なお、以上に例示及び説明された構成要素の一部又は全ては、ソフトウェア、ハードウェア、又はそれらの組み合わせで実現されることが可能である。例えば、このような構成要素は、永続的記憶装置にインストールされるとともに記憶されるソフトウェアとして実現されてもよく、前記ソフトウェアは、本願にわたって記載されたプロセス又は動作を実現するように、プロセッサ（図示せず）によってメモリにロードして実行されてもよい。あるいは、このような構成要素は、集積回路（例えば、特定用途向け集積回路又はＡＳＩＣ）、デジタルシグナルプロセッサ（ＤＳＰ）、又はフィールドプログラマブルゲートアレイ（ＦＰＧＡ）のような専用ハードウェアにプログラミング又は埋め込まれた実行可能なコードとして実現されてもよく、前記実行可能なコードは、アプリケーションからの対応するドライバー及び／又はオペレーティングシステムを介してアクセスすることができる。また、このような構成要素は、ソフトウェア構成要素が一つ以上の特定の命令によってアクセス可能な命令セットの一部として、プロセッサ又はプロセッサコアにおける特定のハードウェアロジックとして実現されることができる。

図９は本発明の一実施形態と共に使用可能なデータ処理システムの一例を示すブロック図である。例えば、システム１５００は、前記プロセス又は方法のいずれかを実行する前記データ処理システムのいずれか（例えば、図１の感知・計画システム１１０、又はサーバ１０３〜１０４のいずれか）を表すことができる。システム１５００は、いくつかの異なる構成要素を含んでもよい。これらの構成要素は、集積回路（ＩＣ）、集積回路の一部、ディスクリート型電子デバイス、又は回路基板（例えば、コンピュータシステムのマザーボード若しくはアドインカード）に適するその他のモジュールとして実現されることが可能であり、又は、他の形態でコンピュータシステムのシャーシ内に組み込まれる構成要素として実現されることが可能である。

なお、システム１５００は、コンピュータシステムのいくつかの構成要素の高レベルビューを示すことを意図している。しかしながら、特定の実施例において付加的構成要素が存在してもよく、また、その他の実施例において示された構成要素を異なる配置にすることが可能であると理解すべきである。システム１５００は、デスクトップコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、サーバ、携帯電話、メディアプレイヤー、パーソナルデジタルアシスタント（ＰＤＡ）、スマートウォッチ、パーソナルコミュニケーター、ゲーム装置、ネットワークルーター又はハブ、無線アクセスポイント（ＡＰ）又はリピーター、セット・トップボックス、又はそれらの組み合わせを表すことができる。また、単一の機械又はシステムのみが示されたが、「機械」又は「システム」という用語は、本明細書で説明されるいずれか一種以上の方法を実現するための、単独で又は共同で一つ（又は複数）の命令セットを実行する機械又はシステムのいずれかの組み合わせも含まれると解釈されるべきである。

一実施形態では、システム１５００は、バス又はインターコネクト１５１０を介して接続される、プロセッサ１５０１と、メモリ１５０３と、装置１５０５〜１５０８とを含む。プロセッサ１５０１は、単一のプロセッサコア又は複数のプロセッサコアが含まれる単一のプロセッサ又は複数のプロセッサを表すことができる。プロセッサ１５０１は、マイクロプロセッサ、中央処理装置（ＣＰＵ）などのような、一つ以上の汎用プロセッサを表すことができる。より具体的には、プロセッサ１５０１は、複雑命令セットコンピューティング（ＣＩＳＣ）マイクロプロセッサ、縮小命令セットコンピューティング（ＲＩＳＣ）マイクロプロセッサ、超長命令語（ＶＬＩＷ）マイクロプロセッサ、又はその他の命令セットを実行するプロセッサ、又は命令セットの組み合わせを実行するプロセッサであってもよい。プロセッサ１５０１は更に、例えば、特定用途向け集積回路（ＡＳＩＣ）、セルラー又はベースバンドプロセッサ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、デジタルシグナルプロセッサ（ＤＳＰ）、ネットワークプロセッサ、グラフィックプロセッサ、通信プロセッサ、暗号化プロセッサ、コプロセッサ、組込みプロセッサ、又は命令を処理可能な任意の他のタイプのロジックのような、一つ以上の専用プロセッサであってもよい。

プロセッサ１５０１は、超低電圧プロセッサのような低電力マルチコアプロセッサソケットであってもよく、前記システムの様々な構成要素と通信するための主処理ユニット及び中央ハブとして機能することができる。このようなプロセッサは、システムオンチップ（ＳｏＣ）として実現されることができる。プロセッサ１５０１は、本明細書で説明される動作及びステップを実行するための命令を実行するように構成される。システム１５００は、更に所望によるグラフィックサブシステム１５０４と通信するグラフィックインターフェースを含むことができ、グラフィックサブシステム１５０４は、表示コントローラ、グラフィックプロセッサ、及び／又は表示装置を含むことができる。

プロセッサ１５０１は、メモリ１５０３と通信することができ、メモリ１５０３は、一実施形態では、所定量のシステムメモリを提供するための複数のメモリ装置によって実現されることができる。メモリ１５０３は、ランダムアクセスメモリ（ＲＡＭ）、ダイナミックＲＡＭ（ＤＲＡＭ）、シンクロナスＤＲＡＭ（ＳＤＲＡＭ）、スタティックＲＡＭ（ＳＲＡＭ）、又はその他のタイプの記憶装置のような、一つ以上の揮発性記憶（又はメモリ）装置を含むことができる。メモリ１５０３は、プロセッサ１５０１又はその他の任意の装置により実行される命令シーケンスを含む情報を記憶することができる。例えば、様々なオペレーティングシステム、デバイスドライバ、ファームウェア（例えば、ベーシックインプット／アウトプットシステム又はＢＩＯＳ）、及び／又はアプリケーションの実行可能なコード及び／又はデータは、メモリ１５０３にロードされ、プロセッサ１５０１により実行されることができる。オペレーティングシステムは、例えば、ロボットオペレーティングシステム（ＲＯＳ）、Ｍｉｃｒｏｓｏｆｔ（登録商標）社のＷｉｎｄｏｗｓ（登録商標）オペレーティングシステム、アップル社のＭａｃＯＳ（登録商標）／ｉＯＳ（登録商標）、Ｇｏｏｇｌｅ（登録商標）社のＡｎｄｒｏｉｄ（登録商標）、ＬＩＮＵＸ（登録商標）、ＵＮＩＸ（登録商標）、又はその他のリアルタイム若しくは組込みオペレーティングシステムのような、任意のタイプのオペレーティングシステムであってもよい。

システム１５００は、更に、ネットワークインターフェース装置１５０５、所望による入力装置１５０６、及びその他の所望によるＩ／Ｏ装置１５０７を含む装置１５０５〜１５０８のようなＩ／Ｏ装置を含むことができる。ネットワークインターフェース装置１５０５は、無線送受信機及び／又はネットワークインターフェースカード（ＮＩＣ）を含むことができる。前記無線送受信機は、ＷｉＦｉ送受信機、赤外線送受信機、ブルートゥース送受信機、ＷｉＭａｘ送受信機、無線携帯電話送受信機、衛星送受信機（例えば、全地球測位システム（ＧＰＳ）送受信機）、又はその他の無線周波数（ＲＦ）送受信機、又はそれらの組み合わせであってもよい。ＮＩＣは、イーサネット（登録商標）カードであってもよい。

入力装置１５０６は、マウス、タッチパネル、タッチスクリーン（表示装置１５０４と統合されてもよい）、ポインター装置（例えば、スタイラス）、及び／又はキーボード（例えば、物理キーボード又はタッチスクリーンの一部として表示された仮想キーボード）を含むことができる。例えば、入力装置１５０６は、タッチスクリーンと接続するタッチスクリーンコントローラを含むことができる。タッチスクリーン及びタッチスクリーンコントローラは、例えば、様々なタッチ感応技術（コンデンサ、抵抗、赤外線、及び表面弾性波の技術を含むが、それらに限定されない）のいずれか、並びにその他の近接センサアレイ、又は、タッチスクリーンと接触する一つ以上の点を決定するためのその他の素子を用いて、それらの接触及び移動又は間欠を検出することができる。

Ｉ／Ｏ装置１５０７は、音声装置を含むことができる。音声装置は、音声認識、音声複製、デジタル記録、及び／又は電話機能のような音声サポート機能を促進するために、スピーカ及び／又はマイクロフォンを含んでもよい。その他のＩ／Ｏ装置１５０７は、更に、ユニバーサルシリアルバス（ＵＳＢ）ポート、パラレルポート、シリアルポート、プリンタ、ネットワークインターフェース、バスブリッジ（例えば、ＰＣＩ−ＰＣＩブリッジ）、センサ（例えば、加速度計のようなモーションセンサ、ジャイロスコープ、磁力計、光センサ、コンパス、近接センサなど）、又はそれらの組み合わせを含むことができる。装置１５０７は、更に結像処理サブシステム（例えば、カメラ）を含むことができ、前記結像処理サブシステムは、写真及びビデオ断片の記録のようなカメラ機能を促進するための、電荷結合素子（ＣＣＤ）又は相補型金属酸化物半導体（ＣＭＯＳ）光学センサのような光学センサを含むことができる。特定のセンサは、センサハブ（図示せず）を介してインターコネクト１５１０に接続されることができ、キーボード又はサーマルセンサのようなその他の装置はシステム１５００の具体的な配置又は設計により、組込みコントローラ（図示せず）により制御されることができる。

データ、アプリケーション、一つ以上のオペレーティングシステムなどの情報の永続的記憶を提供するために、プロセッサ１５０１には、大容量記憶装置（図示せず）が接続されることができる。様々な実施形態において、より薄くてより軽量なシステム設計を可能にしながら、システムの応答性を向上するために、このような大容量記憶装置は、ソリッドステート装置（ＳＳＤ）によって実現されることができる。しかしながら、その他の実施形態において、大容量記憶装置は、主にハードディスクドライブ（ＨＤＤ）を使用して実現することができ、より小さい容量のＳＳＤ記憶装置をＳＳＤキャッシュとして機能することで、停電イベントの間にコンテキスト状態及び他のそのような情報の不揮発性記憶を可能にし、それによりシステム動作が再開するときに通電を速く実現することができる。また、フラッシュデバイスは、例えば、シリアルペリフェラルインターフェース（ＳＰＩ）を介してプロセッサ１５０１に接続されることができる。このようなフラッシュデバイスは、前記システムのＢＩＯＳ及びその他のファームウェアを含むシステムソフトウェアの不揮発性記憶のために機能することができる。

記憶装置１５０８は、コンピュータアクセス可能な記憶媒体１５０９（機械可読記憶媒体又はコンピュータ可読記憶媒体ともいう）を含むことができ、前記コンピュータアクセス可能な記憶媒体１５０９には、本明細書で記載されたいずれか一種以上の方法又は機能を具現化する一つ以上の命令セット又はソフトウェア（例えば、モジュール、ユニット、及び／又はロジック１５２８）が記憶されている。処理モジュール／ユニット／ロジック１５２８は、例えばピッチ角補正モジュール３０８のような、前記構成要素のいずれかを表すことができる。処理モジュール／ユニット／ロジック１５２８は、更に、データ処理システム１５００、メモリ１５０３、及びプロセッサ１５０１による実行中に、メモリ１５０３内及び／又はプロセッサ１５０１内に完全的に又は少なくとも部分的に存在してもよく、データ処理システム１５００、メモリ１５０３、及びプロセッサ１５０１も機械アクセス可能な記憶媒体を構成する。処理モジュール／ユニット／ロジック１５２８は、更に、ネットワークによってネットワークインターフェース装置１５０５を経由して送受信されてもよい。

コンピュータ可読記憶媒体１５０９は、以上に説明されたいくつかのソフトウェア機能を永続的に記憶するために用いることができる。コンピュータ可読記憶媒体１５０９は、例示的な実施形態において単一の媒体として示されるが、「コンピュータ可読記憶媒体」という用語は、前記一つ以上の命令セットが記憶される単一の媒体又は複数の媒体（例えば、集中型又は分散型データベース、及び／又は関連するキャッシュとサーバ）を含むと解釈されるものとする。「コンピュータ可読記憶媒体」という用語は、更に、命令セットを記憶又は符号化できる任意の媒体を含むと解釈されるものであり、前記命令セットは機械により実行され、本発明のいずれか一種以上の方法を前記機械に実行させるためのものである。それゆえに、「コンピュータ可読記憶媒体」という用語は、ソリッドステートメモリ、光学媒体及び磁気媒体、又はその他の任意の非一時的な機械可読媒体を含むが、それらに限定されないと解釈されるものとする。

本明細書に記載の処理モジュール／ユニット／ロジック１５２８、構成要素及びその他の特徴は、ディスクリートハードウェア構成要素として実現されてもよく、又はハードウェア構成要素（例えば、ＡＳＩＣＳ、ＦＰＧＡ、ＤＳＰ又は類似の装置）の機能に統合されてもよい。また、処理モジュール／ユニット／ロジック１５２８は、ハードウェア装置におけるファームウェア又は機能性回路として実現されてもよい。また、処理モジュール／ユニット／ロジック１５２８は、ハードウェア装置とソフトウェア構成要素の任意の組み合わせで実現されてもよい。

なお、システム１５００は、データ処理システムの様々な構成要素を有するものとして示されているが、構成要素を相互接続する任意の特定のアーキテクチャ又は方式を表すことを意図するものではなく、そのような詳細は、本発明の実施形態と密接な関係がない。また、より少ない構成要素又はより多くの構成要素を有するネットワークコンピュータ、ハンドヘルドコンピュータ、携帯電話、サーバ、及び／又はその他のデータ処理システムも、本発明の実施形態と共に使用することができることを理解されたい。

前記具体的な説明の一部は、既に、コンピュータメモリにおけるデータビットに対する演算のアルゴリズムと記号表現で示される。これらのアルゴリズムの説明及び表現は、データ処理分野における当業者によって使用される、それらの作業実質を所属分野の他の当業者に最も効果的に伝達する方法である。本明細書では、一般的に、アルゴリズムは、所望の結果につながるセルフコンシステントシーケンスと考えられる。これらの動作は、物理量の物理的処置が必要なものである。

しかしながら、念頭に置くべきことは、これらの用語及び類似の用語の全ては、適切な物理量に関連付けられるものであり、これらの量を標識しやすくするためのものに過ぎない。以上の説明で他に明示的に記載されていない限り、本明細書の全体にわたって理解すべきことは、用語（例えば、添付された特許請求の範囲に記載のもの）による説明とは、コンピュータシステム、又は類似の電子式計算装置の動作又はプロセスを指し、前記コンピュータシステム又は電子式計算装置は、コンピュータシステムのレジスタ及びメモリにおける物理（電子）量として示されたデータを制御するとともに、前記データをコンピュータシステムメモリ又はレジスタ又はこのようなその他の情報記憶装置、伝送又は表示装置において同様に物理量として示された別のデータに変換する。

本発明の実施形態は、本明細書の動作を実行するための装置にも関する。このようなコンピュータプログラムは、非一時的なコンピュータ可読媒体に記憶される。機械可読媒体は、機械（例えば、コンピュータ）により読み取り可能な形式で情報を記憶するための任意のメカニズムを含む。例えば、機械可読（例えば、コンピュータ可読）媒体は、機械（例えば、コンピュータ）可読記憶媒体（例えば、読み出し専用メモリ（「ＲＯＭ」）、ランダムアクセスメモリ（「ＲＡＭ」）、磁気ディスク記憶媒体、光学記憶媒体、フラッシュメモリ装置）を含む。

上述した図面において説明されたプロセス又は方法は、ハードウェア（例えば、回路、専用ロジックなど）、ソフトウェア（例えば、非一時的なコンピュータ可読媒体に具現化されるもの）、又は両方の組み合わせを含む処理ロジックにより実行されることができる。前記プロセス又は方法は、以上で特定の順序に応じて説明されたが、前記動作の一部が異なる順序で実行されてもよいことを理解されたい。また、一部の動作は、順番ではなく並行して実行されてもよい。

本発明の実施形態は、いずれの特定のプログラミング言語を参照することなく記載されている。理解すべきことは、本明細書に記載の本発明の実施形態の教示を実現するために、様々なプログラミング言語を使用することができる。

前記明細書において、本発明の実施形態は、既にその具体的な例示的な実施形態を参照しながら記載された。明らかなように、添付された特許請求の範囲に記載された本発明のより広い趣旨及び範囲を逸脱しない限り、本発明に対して様々な変更を行うことができる。それゆえに、本明細書及び図面は、限定的な意味でなく、例示的な意味で理解されるべきである。

本発明の一態様は、自動運転車両（ＡＤＶ）を操作するためのコンピュータ実施方法であって、前記ＡＤＶに実装されている複数のセンサにより前記ＡＤＶから見る透視図から、単眼画像キャプチャデバイスで前記オブジェクトの画像をキャプチャすることを含むようにオブジェクトを感知することと、前記オブジェクトの画像に基づいて前記オブジェクトの二次元（２Ｄ）境界枠及び前記ＡＤＶから前記オブジェクトまでの感知距離を確定することと、前記オブジェクトの画像の画像空間において、前記２Ｄ境界枠及び前記ＡＤＶから前記オブジェクトまでの前記感知距離に基づいて、少なくとも前の外部補正値を補正して動的なピッチ角を探索し、距離値を算出することと、探索された動的なピッチ角に基づいて前記ＡＤＶから前記ＡＤＶから見る前記透視図における地面上の点までの距離を確定することと、確定された前記地面上の点までの距離に基づいて走行軌跡を生成して前記ＡＤＶを制御することと、を含むコンピュータ実施方法に関する。

本発明の他の一態様は、指令が記憶されている非一時的機器可読媒体であって、前記指令が一つ又は複数のプロセッサにより実行される場合に、前記ＡＤＶに実装された複数のセンサにより前記ＡＤＶから見る透視図から、単眼画像キャプチャデバイスで前記オブジェクトの画像をキャプチャすることを含むようにオブジェクトを感知することと、
前記オブジェクトの画像に基づいて前記オブジェクトの二次元（２Ｄ）境界枠及び前記ＡＤＶから前記オブジェクトまでの感知距離を確定することと、前記オブジェクトの画像の画像空間において、前記２Ｄ境界枠及び前記ＡＤＶから前記オブジェクトまでの前記感知距離に基づいて、少なくとも前の外部補正値を補正して動的なピッチ角を探索し、距離値を算出することと、探索された動的なピッチ角に基づいて前記ＡＤＶから前記ＡＤＶから見る前記透視図における地面上の点までの距離を確定することと、確定された前記地面上の点の距離に基づいて走行軌跡を生成して前記ＡＤＶを制御すること、を含む操作を前記一つ又は複数のプロセッサに実行させる非一時的機器可読媒体に関する。

本発明の他の一態様は、データ処理システムであって、一つ又は複数のプロセッサと、前記プロセッサに結合されて指令を記憶するメモリと、を備え、前記指令が前記一つ又は複数のプロセッサにより実行される場合に、前記ＡＤＶに実装された複数のセンサにより前記ＡＤＶから見る透視図から、単眼画像キャプチャデバイスにより前記オブジェクトの画像をキャプチャすることを含むようにオブジェクトを感知することと、前記オブジェクトの画像に基いて前記オブジェクトの二次元（２Ｄ）境界枠及び前記ＡＤＶから前記オブジェクトまでの感知距離を確定することと、前記オブジェクトの画像の画像空間において、前記２Ｄ境界枠及び前記ＡＤＶから前記オブジェクトまでの前記感知距離に基いて少なくとも前の外部補正値を補正して動的なピッチ角を探索し、距離値を算出することと、探索された動的なピッチ角に基いて前記ＡＤＶから前記ＡＤＶから見る前記透視図における地面上の点までの距離を確定することと、確定された前記地面上の点の距離に基いて走行軌跡を生成して前記ＡＤＶを制御することと、を含む操作を前記一つ又は複数のプロセッサに実行させるシステムに関する。

Claims (21)

1. 自動運転車両（ＡＤＶ）を操作するためのコンピュータ実施方法であって、
   前記ＡＤＶに実装されている複数のセンサにより前記ＡＤＶから見る透視図から、単眼画像キャプチャデバイスでオブジェクトの画像をキャプチャすることを含むように前記オブジェクトを感知することと、
   前記オブジェクトの画像に基づいて前記オブジェクトの二次元（２Ｄ）境界枠及び前記ＡＤＶから前記オブジェクトまでの感知距離を確定することと、
   前記オブジェクトの画像の画像空間において、前記２Ｄ境界枠及び前記ＡＤＶから前記オブジェクトまでの前記感知距離に基づいて、少なくとも前の外部補正値を補正して動的なピッチ角を探索し、距離値を算出することと、
   探索された動的なピッチ角に基づいて前記ＡＤＶから前記ＡＤＶから見る前記透視図における地面上の点までの距離を確定することと、
   確定された前記地面上の点までの距離に基づいて走行軌跡を生成して前記ＡＤＶを制御することと、
   を含むコンピュータ実施方法。
2. 少なくとも前の外部補正値を補正することは、前記単眼画像キャプチャデバイスの前の外部補正値に関連するピッチ角を補正することを含む請求項１に記載のコンピュータ実施方法。
3. 前記オブジェクトの前記２Ｄ境界枠は、
   機器学習アルゴリズムモデルを前記透視図から前記オブジェクトの前記画像をキャプチャすることに適用し、
   前記機器学習アルゴリズムモデルに基づいて前記オブジェクトを囲む前記２Ｄ境界枠のサイズを確定する、
   ことにより確定される請求項１に記載のコンピュータ実施方法。
4. 前記２Ｄ境界枠の接地点を確定して、前記２Ｄ境界枠の前記接地点に基づいて前記ＡＤＶから前記オブジェクトまでの距離を算出すること、をさらに含む請求項１に記載のコンピュータ実施方法。
5. 前記動的なピッチ角を探索することは、公式Ｄ＝ｈ／ｔａｎ（α＋β）により前記ＡＤＶから前記オブジェクトまでの距離を算出することを含み、ただし、βは算出される動的なピッチ角、Ｄは算出された距離、αはカメラの光軸から地面までの前の補正角、ｈは前記オブジェクトの推定高度である、請求項１に記載のコンピュータ実施方法。
6. 前記ＡＤＶから前記オブジェクトまでの算出距離が前記ＡＤＶから前記オブジェクトまでの前記感知距離の第二所定閾値内に入るまで、二分探索アルゴリズムにより前記動的なピッチ角を探索する、請求項１に記載のコンピュータ実施方法。
7. 前記ＡＤＶから前記オブジェクトまでの算出距離が前記ＡＤＶから前記オブジェクトまでの前記感知距離の第二所定閾値内に入るまで、グリーディ探索アルゴリズムにより動的なピッチ角を探索する、請求項１に記載のコンピュータ実施方法。
8. 指令が記憶されている非一時的機器可読媒体であって、
   前記指令が一つ又は複数のプロセッサにより実行される場合に、
   前記ＡＤＶに実装された複数のセンサにより前記ＡＤＶから見る透視図から、単眼画像キャプチャデバイスでオブジェクトの画像をキャプチャすることを含むように前記オブジェクトを感知することと、
   前記オブジェクトの画像に基づいて前記オブジェクトの二次元（２Ｄ）境界枠及び前記ＡＤＶから前記オブジェクトまでの感知距離を確定することと、
   前記オブジェクトの画像の画像空間において、前記２Ｄ境界枠及び前記ＡＤＶから前記オブジェクトまでの前記感知距離に基づいて、少なくとも前の外部補正値を補正して動的なピッチ角を探索し、距離値を算出することと、
   探索された動的なピッチ角に基づいて前記ＡＤＶから前記ＡＤＶから見る前記透視図における地面上の点までの距離を確定することと、
   確定された前記地面上の点の距離に基づいて走行軌跡を生成して前記ＡＤＶを制御すること、
   を含む操作を前記一つ又は複数のプロセッサに実行させる非一時的機器可読媒体。
9. 少なくとも前の外部補正値を補正することは、前記単眼画像キャプチャデバイスの前の外部補正値に関連するピッチ角を補正することを含む請求項８に記載の非一時的機器可読媒体。
10. 前記オブジェクトの前記２Ｄ境界枠は、
    機器学習アルゴリズムモデルを前記透視図から前記オブジェクトの前記画像をキャプチャすることに適用し、
    前記機器学習アルゴリズムモデルに基づいて前記オブジェクトを囲む前記２Ｄ境界枠のサイズを確定する、
    ことにより確定される請求項８に記載の非一時的機器可読媒体。
11. 前記２Ｄ境界枠の接地点を確定することにより、前記２Ｄ境界枠の前記接地点に基づいて前記ＡＤＶから前記オブジェクトまでの距離を算出することを更に含む請求項８に記載の非一時的機器可読媒体。
12. 前記動的なピッチ角を探索することは、公式Ｄ＝ｈ／ｔａｎ（α＋β）に基づいて前記ＡＤＶから前記オブジェクトまでの距離を算出することを含み、但し、βは算出される動的なピッチ角、Ｄは算出された距離、αはカメラの光軸から地面までの前の補正角、ｈは前記オブジェクトの推定高度である請求項８に記載の非一時的機器可読媒体。
13. 前記ＡＤＶから前記オブジェクトまでの算出距離が前記ＡＤＶから前記オブジェクトまでの前記感知距離の第二所定閾値内に入るまで、二分探索アルゴリズムにより前記動的なピッチ角を探索する請求項８に記載の非一時的機器可読媒体。
14. 前記ＡＤＶから前記オブジェクトまでの算出距離が前記ＡＤＶから前記オブジェクトまでの前記感知距離の第二所定閾値内に入るまで、グリーディ探索アルゴリズムを使用して動的なピッチ角を探索する請求項８に記載の非一時的機器可読媒体。
15. データ処理システムであって、
    一つ又は複数のプロセッサと、
    前記プロセッサに結合されて指令を記憶するメモリと、を備え、
    前記指令が前記一つ又は複数のプロセッサにより実行される場合に、
    前記ＡＤＶに実装された複数のセンサにより前記ＡＤＶから見る透視図から、単眼画像キャプチャデバイスによりオブジェクトの画像をキャプチャすることを含むように前記オブジェクトを感知することと、
    前記オブジェクトの画像に基いて前記オブジェクトの二次元（２Ｄ）境界枠及び前記ＡＤＶから前記オブジェクトまでの感知距離を確定することと、
    前記オブジェクトの画像の画像空間において、前記２Ｄ境界枠及び前記ＡＤＶから前記オブジェクトまでの前記感知距離に基いて少なくとも前の外部補正値を補正して動的なピッチ角を探索し、距離値を算出することと、
    探索された動的なピッチ角に基いて前記ＡＤＶから前記ＡＤＶから見る前記透視図における地面上の点までの距離を確定することと、
    確定された前記地面上の点の距離に基いて走行軌跡を生成して前記ＡＤＶを制御することと、
    を含む操作を前記一つ又は複数のプロセッサに実行させるシステム。
16. 少なくとも前の外部補正値を補正することは、前記単眼画像キャプチャデバイスの前の外部補正値に関連するピッチ角を補正することを含む請求項１５に記載のシステム。
17. 前記オブジェクトの前記２Ｄ境界枠は、
    機器学習アルゴリズムモデルを前記透視図から前記オブジェクトの前記画像をキャプチャすることに適用し、
    前記機器学習アルゴリズムモデルに基いて前記オブジェクトを囲む前記２Ｄ境界枠のサイズを確定する、
    ことにより確定される請求項１５に記載のシステム。
18. 前記操作は、
    前記２Ｄ境界枠の接地点を確定して、前記２Ｄ境界枠の前記接地点に基いて前記ＡＤＶから前記オブジェクトまでの距離を算出すること、を更に含む請求項１５に記載のシステム。
19. 前記動的なピッチ角を探索することは、公式Ｄ＝ｈ／ｔａｎ（α＋β）により前記ＡＤＶから前記オブジェクトまでの距離を算出することを含み、ただし、βは算出する動的なピッチ角、Ｄは算出された距離、αはカメラの光軸から地面までの前の補正角、ｈは前記オブジェクトの推定高度である請求項１５に記載のシステム。
20. 前記ＡＤＶから前記オブジェクトまでの算出距離が前記ＡＤＶから前記オブジェクトまでの前記感知距離の第二所定閾値内に入るまで、二分探索アルゴリズムにより前記動的なピッチ角を探索する請求項１５に記載のシステム。
21. 前記ＡＤＶから前記オブジェクトまでの算出距離が前記ＡＤＶから前記オブジェクトまでの前記感知距離の第二所定閾値内に入るまで、グリーディ探索アルゴリズムにより動的なピッチ角を探索する請求項１５に記載のシステム。

Images