JP2021515489A - 車両用撮像センサにおけるローリングシャッター効果のオンチップ補償 - Google Patents
車両用撮像センサにおけるローリングシャッター効果のオンチップ補償 Download PDFInfo
- Publication number
- JP2021515489A JP2021515489A JP2020545388A JP2020545388A JP2021515489A JP 2021515489 A JP2021515489 A JP 2021515489A JP 2020545388 A JP2020545388 A JP 2020545388A JP 2020545388 A JP2020545388 A JP 2020545388A JP 2021515489 A JP2021515489 A JP 2021515489A
- Authority
- JP
- Japan
- Prior art keywords
- image
- vehicle
- captured
- compensation
- route
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Abandoned
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 116
- 230000000694 effects Effects 0.000 title claims abstract description 46
- 238000005096 rolling process Methods 0.000 title claims abstract description 45
- 230000033001 locomotion Effects 0.000 claims abstract description 120
- 239000013598 vector Substances 0.000 claims abstract description 99
- 230000015654 memory Effects 0.000 claims description 81
- 238000000034 method Methods 0.000 claims description 25
- 238000003491 array Methods 0.000 claims description 17
- 238000012546 transfer Methods 0.000 claims description 14
- 230000009466 transformation Effects 0.000 claims description 9
- 230000000295 complement effect Effects 0.000 claims description 4
- 125000004122 cyclic group Chemical group 0.000 claims description 4
- 229910044991 metal oxide Inorganic materials 0.000 claims description 4
- 150000004706 metal oxides Chemical class 0.000 claims description 4
- 239000004065 semiconductor Substances 0.000 claims description 3
- 238000009795 derivation Methods 0.000 abstract description 17
- 238000004891 communication Methods 0.000 description 50
- 239000011159 matrix material Substances 0.000 description 33
- 239000003550 marker Substances 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 238000012545 processing Methods 0.000 description 7
- 230000001133 acceleration Effects 0.000 description 5
- 238000001514 detection method Methods 0.000 description 5
- 238000006073 displacement reaction Methods 0.000 description 5
- 239000000243 solution Substances 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000004590 computer program Methods 0.000 description 3
- 230000005284 excitation Effects 0.000 description 3
- 239000000446 fuel Substances 0.000 description 3
- 230000005355 Hall effect Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 239000013308 plastic optical fiber Substances 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000033458 reproduction Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- 101100172132 Mus musculus Eif3a gene Proteins 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 239000000872 buffer Substances 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000002485 combustion reaction Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000007123 defense Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000002347 injection Methods 0.000 description 1
- 239000007924 injection Substances 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/513—Processing of motion vectors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/689—Motion occurring during a rolling shutter mode
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/531—Control of the integration time by controlling rolling shutters in CMOS SSIS
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Traffic Control Systems (AREA)
- Navigation (AREA)
- Automation & Control Theory (AREA)
- Studio Devices (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
撮像センサのローリングシャッター効果のオンチップ補償を扱う画像捕捉システムは、指定されたルート上の各位置で車両の複数の速度値に関する動きベクトル情報を生成するとともに、指定されたルートの各位置で複数の速度値に関する画像カーネルを導出する。車両の連続する位置は、指定されたルート上の現在の位置で車両の現在の速度値に関して生成された動きベクトル情報に基づき、車両の現在の位置で予測される。複数のピクセルのシフトを示す第1の画像は、指定されたルート上の予測された連続する位置で撮像センサにより捕捉される。捕捉された第1の画像内の複数のピクセルのシフトの補償に基づいて、捕捉された第1の画像から第2の画像が生成される。
Description
本開示の様々な実施形態は、車両用の画像捕捉システムに関する。より具体的には、本開示の様々な実施形態は、車両用の撮像センサにおけるローリングシャッター効果のオンチップ補償に関する。
<関連出願の相互参照/参照による組み入れ>
無し
無し
輸送と物流、セキュリティ、監視、及び、消費者に焦点を合わせた輸送ネットワークにおける最近の進歩に伴い、これらの産業がそのような進歩に伴って出される様々な課題に対抗するための自律的で知的な解決策を採ることを余儀なくする絶え間なく変化する要求に直面する。従来、複数の撮像センサが、車両近傍の物体及び経路の画像を捕捉するために使用される。特定のシナリオでは、撮像センサを有する車両が動いている場合がある。自律走行車などの車両が、CMOSのようなセンサを使用して画像を捕捉し、フレームごとに捕捉された画像を解析する場合には、車両の動きに起因してローリングシャッターの効果が導入される。撮像センサを伴う車両が近傍の物体に対して高速で移動するときには、捕捉された画像においてローリングシャッター効果がより顕著になる場合があり、これは望ましくない。ローリングシャッター効果によって、場合により、画像で捕捉された領域又は物体が揺れる、ぐらつく、歪む、汚れる、又は、部分的な露出を有する可能性がある。したがって、車両が動いている間に撮像センサから取得される画像は、シーン内の他の物体の位置又は動きの予測、車両の速度又は向きの較正など、多数の画像処理工程における更なる用途に適さない場合がある。更に、画質が劣化したそのような画像を使用すると、推定不良となる場合があるとともに、生命を危険に晒し、遅延を引き起こして、安全性を損なう可能性があり、また、コスト集約的となる場合がある。
従来、画像へのそのような影響は、画像の劣化を補償するための撮像センサに対する周辺接続として、動き、速度、位置、加速度、又は、ジャイロなどの複数のセンサを使用して、補償される。更に、そのような解決策は、低速用途のため或いはエンジン又は他の保持デバイスの振動によって影響がもたらされる場合にのみ利用できる。したがって、そのような解決策は、比較的高速で移動する車両には適合しない。また、画像への影響は、画像が捕捉された後にのみ補償され、したがって、補償された画像に基づいて運転の決定を要因とする車両の他の画像処理システムに対して更にやりとりされる画像の補償には固有の遅延がある。別の言い方をすると、現在の解決策は、撮像センサ内のリアルタイムのオンチップ補償を欠く。
従来の伝統的な手法の更なる制限及び欠点は、本出願の残りの部分に図面と関連して記載される本開示の幾つかの態様を伴う記載されるシステムの比較により、当業者に明らかになる。
特許請求項においてより完全に説明されるような、実質的に図の少なくとも1つに示され及び/又は図の少なくとも1つに関連して記載される車両用の撮像センサにおけるローリングシャッター効果のオンチップ補償のためのシステム及び方法。
本開示のこれらの及び他の特徴並びに利点は、添付の図と共に本開示の以下の詳細な説明を検討することにより分かり、図中、参照数字は全体にわたって同様の部分を示す。
本開示の特定の実施形態は、車両に位置される撮像センサにおけるローリングシャッター効果のオンチップ補償のためのシステム及び方法において見出されてもよい。本開示の様々な実施形態は、メモリデバイス、撮像センサ、並びに、撮像センサ及びメモリデバイスに結合される複数の回路を含んでもよいシステムを提供する。複数の回路は、車両の指定されたルートの複数の位置のそれぞれの位置で車両の複数の速度値に関する動きベクトル情報を生成するように構成されてもよい。指定されたルート上の複数の位置のそれぞれにおいて、複数の回路は、車両の複数の速度値のそれぞれごとに画像カーネルを導出するように更に構成されてもよい。別の言い方をすれば、それぞれの位置で車両の複数の速度値に関して複数の画像カーネルが導出されてもよい。各画像カーネルは、指定されたルートの複数の位置のそれぞれの位置で車両の複数の速度値に関して生成された動きベクトル情報に基づいて導出されてもよい。車両の連続する位置が車両の現在の位置で予測されてもよい。連続する位置は、指定されたルート上の現在の位置で車両の現在の速度値に関して生成される動きベクトル情報に基づいて予測されてもよい。したがって、動きベクトル情報は、車両の連続する位置を予測するためだけでなく、画像カーネル配列を生成するためにも(すなわち、車両の複数の速度値のそれぞれごとに画像カーネルを導出するためにも)使用される。複数の回路は、指定されたルート上の予測された連続する位置で第1の画像を捕捉するように更に構成されてもよい。具体的には、撮像センサは、ローリングシャッター効果によって引き起こされる複数のピクセルのシフトを示す第1の画像を捕捉してもよい。更に、捕捉された第1の画像における複数のピクセルのシフトの補償に基づいて捕捉された第1の画像から第2の画像が生成されてもよい。補償が撮像センサ内で行われてもよく、また、そのようなシフトは、車両の予測された連続する位置に関して導出された画像カーネルによって補償されてもよい。
一実施形態によれば、捕捉された第1の画像の複数のピクセルのシフトの補償は、撮像センサ内のオンチップ補償であってもよい。第2の画像は、捕捉された第1の画像において引き起こされるローリングシャッター効果が補償されてもよい。捕捉された第1の画像の複数のピクセルのシフトの補償は、捕捉された第1の画像のラインごとの補償であってもよい。ラインごとの補償は、捕捉された第1の画像の各ピクセル配列の順次補償に対応してもよい。一実施形態によれば、捕捉された第1の画像の複数のピクセルのシフトの補償は、捕捉された第1の画像の全体的な補償であってもよい。全体的な補償は、捕捉された第1の画像の異なるピクセル配列の同時補償に対応してもよい。
一実施形態によれば、複数の回路は、車両のナビゲーションのために複数の回路に通信可能に結合されるナビゲーションデバイスから指定されたルートを検索するように更に構成されてもよい。一実施形態によれば、撮像センサは、相補型金属酸化膜半導体(CMOS)センサであってよい。車両は、自律的な車両又は半自律的な車両であってもよい。
一実施形態によれば、複数の回路は、複数の速度値のそれぞれの速度値ごとに及び指定されたルート上の複数の位置のそれぞれの位置ごとに導出された画像カーネルを記憶するように更に構成されてもよい。導出された画像カーネルは、メモリデバイスに記憶されてもよい。複数の回路は、車両の予測された連続する位置に関して導出された画像カーネルを転送するように更に構成されてもよい。導出された画像カーネルは、指定されたルート上の車両の現在位置で撮像センサ内に転送されてもよい。一実施形態によれば、導出された画像カーネルは、捕捉された第1の画像のオンチップ補償のための複数のフィルタ係数を含んでもよい。
一実施形態によれば、複数の回路は、予測された連続する位置に関して導出された画像カーネルを選択するように構成されてもよい。導出された画像カーネルは、指定されたルート上の車両の現在の位置及び現在の速度値に基づいて選択されてもよい。指定されたルート上の車両の連続する位置は、指定されたルート上の車両の動作中に生成された動きベクトル情報に基づいて更に予測されてもよい。
一実施形態によれば、複数の回路は、各速度値及び指定されたルート上の各位置で動きベクトル情報を計算するように更に構成されてもよい。動きベクトル情報は、指定されたルート上の第1の位置の位置座標と第2の位置の対応する位置座標との差に基づいて計算されてもよい。指定されたルート上のそのような第1の位置及び第2の位置は、指定されたルートに関する車両の複数の速度値の各速度値に基づいて選択されてもよい。
一実施形態によれば、捕捉された第1の画像の複数のピクセルのシフトは、捕捉された第1の画像の対応するピクセル配列内の複数のピクセルの各ピクセルの循環シフトであってもよい。捕捉された第1の画像の対応するピクセル配列における複数のピクセルのシフトは、一定であってもよい。更に、捕捉された第1の画像の複数のピクセル配列における複数のピクセルのシフトは、ステップサイズに基づいて変化してもよい。そのようなステップサイズは、現在の速度値と、指定されたルート上の車両の現在の位置に関して生成された動きベクトル情報とに基づいてもよい。
一実施形態によれば、複数の回路は、捕捉された第1の画像のピクセル配列を撮像センサから受けるように更に構成されてもよい。導出された複数の画像カーネルからの画像カーネル配列は、捕捉された第1の画像の受けられたピクセル配列に関して撮像センサ内で選択されてもよい。複数の回路は、撮像センサ内で捕捉された第1の画像のシフト補償されたピクセル配列を生成してもよい。シフト補償されたピクセル配列は、複数の導出された画像カーネルの選択された画像カーネル配列による受けられたピクセル配列の変換に基づいて生成されてもよい。その後、シフト補償されたピクセル配列は、捕捉された第1の画像の複数のピクセル配列のそれぞれごとに撮像センサの集積メモリ内で更新されてもよい。更新された画像は、捕捉された第1の画像の複数のピクセル配列のそれぞれごとにシフト補償されたピクセル配列の更新に基づいて取得されてもよい。更新された画像は、複数の望ましくないピクセルに対応し得る更新された画像の第1の分解能内の領域と関連付けられてもよい。一実施形態によれば、複数の回路は、更新された画像の複数の望ましくないピクセルに対応し得る更新された画像から領域を除去するように更に構成されてもよい。したがって、第2の画像は、更新された画像から領域の切り取り後に取得されてもよい。一実施形態によれば、複数の回路は、更新された画像内の複数の望ましくないピクセルに対応し得る領域に該領域に隣接して位置するピクセル値を投入するように更に構成されてもよい。したがって、第2の画像は、更新された画像からの領域に該領域と隣接して位置するピクセル値を投入した後に取得されてもよい。
一実施形態によれば、複数の回路は、第1の分解能を有する撮像センサによって、指定されたルート上の予測された連続する位置でスケーリングされたピクセル配列を捕捉するように更に構成されてもよい。スケーリングされたピクセル配列から第2の分解能を有する第1のピクセル配列が選択されてもよい。選択は、対応するスケーリングされたピクセル配列内の複数のピクセルのシフトに基づいてもよい。スケーリングされたピクセル配列は、第2の分解能よりも高くてもよい第1の分解能と関連付けられてもよい。第1の分解能が撮像センサの分解能に対応してもよく、また、第2の分解能が第2の画像の分解能に対応してもよい。複数の回路は、第2の画像を取得するためにそれぞれの捕捉されたピクセル配列ごとに撮像センサの集積メモリ内の第1のピクセル配列を更新するように更に構成されてもよい。
図1は、本開示の一実施形態に係る、車両の撮像センサにおけるローリングシャッター効果のオンチップ補償のための典型的なネットワーク環境を示すブロック図である。図1を参照すると、ネットワーク環境100が示される。ネットワーク環境100は、車両102を含んでもよい。車両102は、電子制御ユニット(ECU)104及び画像捕捉デバイス106を含む。図示のように、車両102は、指定されたルートにより、第1の位置から第2の位置へと動作環境108内でナビゲートしてもよい。ネットワーク環境100は、サーバ112及び通信ネットワーク110を更に含んでもよい。車両102は、通信ネットワーク110を介して、サーバ112に通信可能に結合されてもよい。
車両102は、完全に自律的な車両又は半自律的な車両であってもよい。幾つかの実施形態では、車両102が非自律的な車両であってもよい。車両102は、車載ネットワークを介して、画像捕捉デバイス106に通信可能に結合され得るECU 104を備えてもよい。車両102の例は、自動車、ハイブリッド車両、ドローン(又は無人航空機(UAV))、飛行機、及び/又は、1つ以上の別個の再生可能な又は再生不可能なエネルギー源を使用する車両102を含んでもよいが、これらに限定されない。推進のために再生可能又は非再生可能エネルギー源を使用する車両102は、石油製品を燃料とする車両、完全に電気で動く車両、ガス燃料を供給する車両、太陽電池を動力とする車両、及び/又は、他の形態の代替エネルギー源で動く車両を含んでもよい。
ECU104は、画像捕捉デバイス106によって捕捉されてローリングシャッター効果により影響される画像の補償のための動作を実行するように構成され得る適切なロジック、回路、インタフェース、及び/又は、命令を備えてもよい。そのような画像は、指定されたルート上での車両102の動作中に画像捕捉デバイス106の撮像センサによって捕捉されてもよい。撮像センサは、ECU104と通信可能に結合されてもよい。ECU104は、命令又は出力などの計算リソースを画像捕捉デバイス106と共有するように更に構成されてもよい。ECU104は、補償後に生成される出力(又は画像)を車両102の他のECUと共有するために、車両エリアネットワーク(VAN)、車載データバス、及び、コントローラエリアネットワーク(CAN)バスなどの車載ネットワークと通信可能に結合されてもよい。
ECU 104は、速度、エンジン温度、気圧、燃料又は充電レベル、供給される電力及びトルクなどの車両102の複数の動作パラメータにアクセスする、これらを監視する、又は、調整するように更に構成されてもよい車両102の他のECUと通信可能に結合されてもよい。更に、複数の動作パラメータは、車両102と障害物との間の離間距離、車両102付近の物体の相対速度、車両102付近の陸上車両(例えば、車)、空上車両(例えば、航空機又はドローン)、又は、船舶などの移動機械の予測経路などを含んでもよい。
画像捕捉デバイス106は、指定されたルート上の異なる位置で捕捉された画像を捕捉して記憶するように構成されてもよい適切なロジック、回路、インタフェース、及び/又は、命令を備えてもよい。画像は、指定されたルート上で車両102の動作中に捕捉されてもよい。更に、画像捕捉デバイス106は、指定されたルート上の異なる位置で捕捉された画像のオンチップ補償のための命令及び動作を実行するように構成されてもよい。画像捕捉デバイス106は、少なくとも撮像センサ、一組のレンズ、プロセッサ、及び、メモリを含んでもよい。画像捕捉デバイス106の撮像センサは、センサコアと、レジスタバスインタフェースによってセンサコア、プロセッサ、メモリ、及び、ECU104と通信可能に結合される複数のレジスタとを備えてもよい。一実施形態によれば、撮像センサは、相補型金属酸化膜半導体(CMOS)センサとして画像捕捉デバイス106に実装されてもよい。そのような実装において、撮像センサは、一度に所定のサイズのピクセル配列のラインごとの走査又は走査を実行するように構成されてもよい。別の言い方をすれば、撮像センサは、車両102の動作環境108のビューの水平又は垂直のラインごとの走査に基づいて車両102から見えるビューを走査及び捕捉するためにローリングシャッターを実装してもよい。
車両102の動作環境108は、指定されたルートに沿う車両102のナビゲーションのための環境であってもよい。指定されたルート上の複数の位置は、動作環境108の一部であってもよい。動作環境108は、車両102のタイプに基づいて変化してもよい。例えば、自動車、トラック、バイク、及び、列車などの陸上車両のための動作環境108は、道路、オフロード地形、及び、線路を備えてもよい。船(船舶)又は水上車両、例えば、船、ボート、又は、潜水艦などの動作環境108は、海、河川、及び、運河などの水路であってもよい。航空機、無人空中車両又はドローン、及び、ヘリコプターなどの空中輸送車両のための動作環境108が航空路を備えてもよい。航空路は、空中輸送車両の所定の使用に基づいて高度ブロックに更に分離されてもよい。例えば、土地の「1平方マイル」領域の監視用のドローンは、地上「1000フィート」の高度で飛行してもよく、したがって、動作環境108は、所定の高度の航空路の明確なブロックによって画定されてもよい。
通信ネットワーク110は、通信データの送信及び受信のための複数のネットワークポート及び複数の通信チャネルを与えるように構成されてもよい適切なロジック、回路、及び、インタフェースを備えてもよい。各ネットワークポートは、通信データの送信及び受信のための仮想アドレス(又は物理マシンアドレス)に対応してもよい。通信ネットワーク110は、車両102がサーバ112などの他の通信デバイス及び/又は1つ以上の他の車両と通できる媒体を含んでもよい。通信ネットワーク110の例としては、専用短距離通信(DSRC)ネットワーク、モバイルアドホックネットワーク(MANET)、車両アドホックネットワーク(VANET)、インテリジェント車両アドホックネットワーク(InVANET)、インターネットベースのモバイルアドホックネットワーク(IMANET)、無線センサネットワーク(WSN)、無線メッシュネットワーク(WMN)、インターネット、セルラーネットワーク、例えばロングタームエボリューション(LTE)ネットワーク、クラウドネットワーク、ワイヤレスフィデリティ(Wi−Fi)ネットワーク、及び/又は、無線ローカルエリアネットワーク(WLAN)を挙げることができるが、これらに限定されない。ネットワーク環境100内の様々なデバイスは、様々な無線通信プロトコルにしたがって通信ネットワーク110に接続するように構成されてもよい。そのような無線通信プロトコルの例としては、IEEE 802.11、802.11、802.15、802.16、1609、マイクロ波アクセスのための全世界相互運用(Wi−MAX)、車両環境での無線アクセス(WAVE)、セルラー通信プロトコル、伝送制御プロトコル・インターネットプロトコル(TCP/IP)、ユーザデータグラムプロトコル(UDP)、ハイパーテキスト転送プロトコル(HTTP)、ロングタームエボリューション(LTE)、ファイル転送プロトコル(FTP)、ZigBee、EDGE、赤外線(IR)、及び/又は、Bluetooth(BT)通信プロトコルを挙げることができるが、これらに限定されない。
サーバ112は、車両102のナビゲーションデバイスから受信される要求に基づいて車両102のナビゲーションのための指定されたルートを生成するように構成されてもよい適切なロジック、回路、及び、インタフェースを備えてもよい。幾つかの実施形態において、サーバ112は、車両102からのルート推定の要求のためだけに確保された専用マップサーバであってもよい。或いは、サーバ112は、ルート推定のために、車両と、携帯電話、タブレット、ファブレットなどの適切な通信デバイスとの両方にアクセス可能な第三者サーバであってもよい。車両102のための指定されたルートの推定は、推定最小移動時間、低渋滞経路、及び、指定されたルートで車両102により横断されると推定されるチェックポイント(位置)に基づいて因数に分解される最適推定であってもよい。
動作時、車両102のナビゲーションデバイスは、車両102に関連するユーザから所定の入力を受けてもよい。所定の入力は、車両102のための1つ以上のナビゲーションパラメータと関連付けられてもよい。ユーザは、インフォテインメントヘッドユニットのインタフェースなどの車両102で利用可能なインタフェースのうちの少なくとも1つによって所定の入力を与えてもよい。車両102のインタフェースの例としては、音声対応インタフェース、タッチ対応インタフェース、遠隔制御インタフェース、モバイル対応インタフェース、ジェスチャーベースのインタフェース、又は、触覚ベースのインタフェースを挙げることができるが、これらに限定されない。所定の入力は、指定されたルート上又は規定されていないルート上での車両102の走行前又は車両102の走行中に与えられてもよい。一実施形態によれば、車両102のための所定の入力は、目的地の住所を含んでもよい。目的地の住所は、車両102のナビゲーションデバイス又は車両102と関連付けられるサーバ112によってマップ上の対応する位置に解釈されてもよい。そのような実施において、ナビゲーションデバイスは、車両102の位置を導出するとともに、ルート推定のために車両102の導出された位置と目的地住所とをサーバ112に与えるように構成されてもよい。
他の実施形態によれば、車両102のための所定の入力は、目的地住所と、車両102と関連付けられる車両制御時間とを含んでもよい。そのような実施において、ナビゲーションデバイスは、車両102の現在の位置を導出するとともに、ルート推定のために車両102の導出された位置と目的地住所とをサーバ112に与えるように構成されてもよい。自律的又は半自律的な制御のための指定されたルートは、車両102と関連付けられる車両制御時間に関して推定されてもよい。例えば、最初に車両102をマップ上の目的地まで運転しているユーザは、特定の理由で「30分」にわたって自動操縦モード又は自律制御に切り換えてもよい。したがって、ナビゲーションデバイスは、指定されたルートを少なくとも次の30分にわたって導出してもよく、また、自律動作モードが車両102のために「30分」にわたって起動されてもよい。
一実施形態によれば、車両102のための所定の入力は、車両102によってカバーされるべき指定されたエリア、領域、又は、地域を含んでもよい。言い換えると、車両102には、車両102によってカバーされるべき指定されたエリア又は領域が割り当てられてもよい。例えば、UAVには、監視用途のために「10Km2」の指定されたエリアが割り当てられてもよい。UAVは、指定されたルートにしたがって所定の航空路ブロック内で地域の所定の部分を走査するように構成されてもよい。或いは、UAVは、特定のエリア内の異なるチェックポイント間で導出された指定されたルートを辿ることによって地域の所定の部分を走査するように構成されてもよい。
指定されたルートは、地理的情報システム(GIS)データとして車両102のナビゲーションデバイスにデジタル的に記憶されてもよい。指定されたルートのためのGISデータは、複数のノードと関連付けられるポリライン又はポリゴンによって道路、空間、曲がり角、又は、他の対象物を表わしてもよい。例えば、「ストリート332」が複数のセグメントに分割されてもよく、その場合、各セグメントは、セグメントの両端のノードと接続されるポリライン又はポリゴンによって表わされる。指定されたルートは、マップ上の第1の位置と第2の位置とを結ぶ経路であってもよい。車両102におけるナビゲーションデバイスは、マップ上の第1の位置と第2の位置との間の指定されたルートを要求するように構成されてもよい。指定されたルートは、通信ネットワーク110を介して、車両102と通信可能に結合され得るサーバ112と併せて導出されてもよい。ナビゲーションデバイスは、所定の位置のための指定されたルートの生成の要求をもたらすように構成されてもよい。一実施形態によれば、生成された要求は、指定されたルートの導出のためにサーバ112に転送されてもよい。更に、ナビゲーションデバイスは、指定されたルート及び指定されたルートのための関連するメタデータをサーバ112から受信してもよい。他の実施形態によれば、要求は、車両102内に局所的に存在するルート推定回路(図示せず)に転送されてもよい。所定の第1の位置及び第2の位置のための単一の指定されたルートをナビゲーションデバイスが記憶してもよいと記載してきたが、指定されたルートは、指定されたルートの呼び出し(又は制御信号)がECU104又はナビゲーションデバイスのいずれかからもたらされる前にナビゲーションデバイスに更に記憶されてもよい。しかしながら、本開示はそのように限定されなくてもよく、ナビゲーションデバイスは、所定の第1の位置及び第2の位置のための代わりのルートを記憶してもよい。
車両102のECU104は、車両102のナビゲーションデバイスから車両102のための指定されたルートを検索するように構成されてもよい。ECU 104は、指定されたルートと指定されたルートのための関連するメタデータとをECU 104と関連付けられるメモリに記憶するように構成されてもよい。グローバルポジショニングシステム(GPS)座標などの複数の位置が、車両102の指定されたルートから推定されてもよい。GPS座標の推定のための技術は当業者に知られている場合があり、したがって、複数の位置の推定についての更なる説明は、簡潔さのために省略されている。
車両102のECU104は、指定されたルート上の推定された複数の位置の各位置で車両102の複数の速度値に関する動きベクトル情報を生成するように更に構成されてもよい。複数の速度値は、想定し得る速度値から車両102に関して選択的にソートされた速度値であってもよい。複数の速度値は、指定されたルートの異なるセグメントに関して適応的に選択されてもよい。例えば、曲がり角の場合、速度値は、「5マイル/時」、「10マイル/時」、及び、「15マイル/時」など、低くてもよく、道路がまっすぐ伸びている場合、速度値は、「10マイル/時」、「20マイル/時」、「30マイル/時」、「40マイル/時」、及び、「50マイル/時」など、よりまばらに分散され又は広く分散されてもよい。
動きベクトル情報は、指定されたルート上での動作中に車両102の連続する位置を予測するために利用されてもよい。動きベクトル情報は、指定されたルート上の車両102における自律的又は半自律的動作モードの初期化前に生成されてもよい。或いは、動きベクトル情報は、指定されたルート上での車両102の走行又は動作の開始前に更に生成されてもよい。
指定されたルート上の推定された複数の位置の各位置で、ECU 104は、車両102の複数の速度値のそれぞれに関する動きベクトル情報に基づいて画像カーネルを導出するように更に構成されてもよい。換言すると、複数の画像カーネルが、各位置で車両102の複数の速度値に関して導出されてもよい。別の言い方をすると、特定の位置での異なる想定し得る速度値のうちの1つの速度値に関して1つの画像カーネルが有効であってもよく或いは使用されてもよく、また、単一の画像カーネルが一度に補償のために使用されてもよい。導出された画像カーネルのそれぞれは、その後に画像捕捉デバイス106によって捕捉され得る画像のそれぞれのピクセル配列(横列又は縦列)ごとに複数のフィルタ係数を含んでもよい。複数のフィルタ係数は、所定の次数、例えば(100、100)の次数のフィルタ係数の行列によって表わされてもよい。各画像カーネルは、ローリングシャッター効果によって影響される画像の補償のために利用されてもよい。それぞれの位置における複数の画像カーネルは、車両102における自律的又は半自律的動作モードの初期化前に更に導出されてもよい。自律的又は半自律的動作モードの初期化又は車両102の制御は、車両102の動作中又は指定されたルート上の車両102の走行の開始前に実行されてもよい。或いは、それぞれの位置における複数の画像カーネルは、指定されたルート上での車両102の走行又は動作の開始前に導出されてもよい。
車両102が指定されたルート上を移動する際、ECU104は、指定されたルート上の車両102の現在の位置で現在の速度値を測定するように更に構成されてもよい。測定された現在の位置及び現在の速度値に関して、ECU 104は、車両102の現在の位置及び対応する現在の速度値に関して生成された動きベクトル情報を検索してもよい。動きベクトル情報は、車両102の動きの推定方向をもたらしてもよい。したがって、ECU 104は、生成された動きベクトル情報に基づいて指定されたルート上の車両102の連続する位置を予測するように構成されてもよい。一実施形態によれば、連続する位置は、移動方向の変化又は車両102の速度値が最小になるように予測される。予測される連続する位置は、指定されたルート上の車両102のおおよその連続する位置であってもよい。車両102の予測される連続する位置と実際の連続する位置との間にずれが存在する場合がある。ずれは、スピードブレーカ、通行料、バリケード、交通信号、渋滞、及び/又は、車両102のための指定されたルートを妨害し得る他の車両など、指定されたルート上で移動中の車両102に関連する多くの要因によって引き起こされる場合がある。
一実施形態によれば、それぞれの連続する位置で、ECU 104は、制御信号を画像捕捉デバイス106に送信するように構成されてもよい。ECU104からの制御信号の受信時、画像捕捉デバイス106は、連続する位置で車両102から利用可能なビューを走査するように構成されてもよい。走査は、画像捕捉デバイス106のローリングシャッターモードで更に実行されてもよい。ローリングシャッターモードでは、単一のライン又はピクセル配列(垂直縦列又は水平横行)が画像捕捉デバイス106によって捕捉されてもよい。指定されたルート上の車両102のそれぞれの連続する位置でビューを連続的に走査することに基づいて、第1の画像が画像捕捉デバイス106によって生成されてもよい。
一実施形態によれば、それぞれの連続する位置で、ECU104は、指定されたルート上での車両102の動作中に画像捕捉デバイス106によって捕捉されるビデオから第1の画像を検索するように構成されてもよい。第1の画像は、ビデオのフレームのセットから検索されてもよく、また、ECU104は、品質の損失が最小の第1の画像を選択してもよい。第1の画像は、第1の画像の複数のピクセルのシフトと関連付けられてもよい。そのようなシフトは、指定されたルート上での車両102の動作中にローリングシャッター効果によって引き起こされる場合がある。このようなシフトは、第1の画像の境界に沿って顕著に現れる場合がある。例えば、第1の画像の第1の横列中の各ピクセルは、予期されるピクセル位置から「1」だけシフトされる場合があり、また、第1の画像のそれぞれの後続の横列(又はピクセル配列)中の各ピクセルは、予期されるピクセルから1、2、3、4などのステップサイズだけシフトされる場合がある。ピクセル位置のシフトは、例えば、図5Bに示されて記載される。
ECU104は、現在の速度値と指定されたルート上の車両102の予測された連続する位置とにしたがって導出された複数の画像カーネルのうちの1つを選択するように構成されてもよい。選択された画像カーネルを使用して、捕捉された第1の画像のローリングシャッター効果を補償してもよい。ECU104は、レジスタレベルのバス及びECU104と撮像センサとの間のインタフェースを介して、捕捉された第1の画像のオンチップ補償のために選択された画像カーネルを画像捕捉デバイス106の撮像センサに転送するように構成されてもよい。
幾つかの実施形態において、画像捕捉デバイス106は、転送されたカーネル及び捕捉された第1の画像を独立に処理するのに適した回路を備えてもよい。一実施形態によれば、画像捕捉デバイス106は、画像捕捉デバイス106の撮像センサによって捕捉されるピクセルのそれぞれの横列又は縦列(又はピクセル配列)のラインごとの補償を実行するように構成されてもよい。画像のそれぞれの横列又は縦列は、撮像センサの読み出しレジスタ内で順次に捕捉されてもよい。画像捕捉デバイス106は、第1の画像の捕捉された横列又は縦列を、選択された画像カーネルの対応する横列又は縦列(線形配列)で変換するように更に構成されてもよい。変換は、画像捕捉デバイス106の撮像センサ内で実行されてもよく、したがって、補償がリアルタイム又はほぼリアルタイムで実行されてもよい。他の実施形態によれば、画像捕捉デバイス106は、第1の画像において複数のピクセルの補償を同時に実行するように構成されてもよい。
画像捕捉デバイス106は、捕捉された第1の画像のオンチップ補償に基づいてリアルタイム又はほぼリアルタイムで第2の画像を生成するように更に構成されてもよい。生成された第2の画像は、複数のピクセルにおいて最小のシフトを示し得る。特定の実施態様において、生成された第2の画像は、複数のピクセルにおいてゼロシフトを示し得る。別の言い方をすれば、生成された第2の画像は、指定されたルート上の車両102の動きによって引き起こされるノイズ及び歪みが最小である画質の大幅な改善を示し得る。画像捕捉デバイス106は、第1の画像の補償後の第2の画像をリアルタイム又はほぼリアルタイムで送信するように更に構成されてもよい。第2の画像は、車両102のECU104に送信されてもよい。
ECU104及び画像捕捉デバイス106の前述の動作は、第1のピクセル配列を捕捉して第1の画像の捕捉された第1のピクセル配列を補償する際の総遅延が最小となり得るようにタンデムで実行されてもよいことに留意されたい。そのような総遅延は、車両102の他の画像依存動作に対してやりとりされなくてもよい。ECU104及び撮像センサの詳細な動作は、例えば図3において説明されている。
図2は、本開示の一実施形態に係る車両の様々な典型的な構成部品又はシステムを示すブロック図である。図2は、図1の要素と関連して説明される。図2を参照すると、車両102が示される。車両102は、マイクロプロセッサ202、メインメモリ204A、及び、ホストメモリ204Bを含んでもよいECU104を備えてもよい。車両102は、無線通信システム206、オーディオインタフェース208、ディスプレイ210、パワートレイン制御システム212、ステアリングシステム214、ブレーキシステム216、感知システム218、車体制御モジュール220、及び、車載ネットワーク222を更に備えてもよい。感知システム218は、画像捕捉デバイス106及び複数の車両センサ218Aを備えてもよい。ディスプレイ210は、ユーザインタフェース(UI)210Aをレンダリングしてもよい。また、車両102内の車両電力システム226に関連するバッテリ224も示される。一実施形態によれば、無線通信システム206、オーディオインタフェース208、及び、ディスプレイ210は、ECU104と関連付けられてもよい。
様々な構成要素又はシステムは、車両エリアネットワーク(VAN)及び/又は車載データバスなどの車載ネットワーク222を介して、互いに通信可能に結合されてもよい。マイクロプロセッサ202は、車載ネットワーク222を介して、メインメモリ204A及びホストメモリ204B、無線通信システム206、オーディオインタフェース208、ディスプレイ210、パワートレイン制御システム212、感知システム218、及び、車体制御モジュール220に通信可能に結合されてもよい。
マイクロプロセッサ202は、メインメモリ204Aに記憶される命令のセットを実行するように構成されてもよい適切なロジック、回路、及び、インタフェースを備えてもよい。マイクロプロセッサ202は、ナビゲーションデバイスから指定されたルートを検索し、検索されたルートをメインメモリ204Aに記憶するように構成されてもよい。マイクロプロセッサ202は、検索されたルート上の複数の位置の各位置で車両102の複数の速度値に関する動きベクトル情報を生成するように更に構成されてもよい。マイクロプロセッサ202は、検索されたルート上の複数の位置の各位置で車両102の複数の速度値のそれぞれに関して画像カーネルを導出するように更に構成されてもよい。換言すると、複数の画像カーネルが、各位置で車両102の複数の速度値に関して導出されてもよい。別の言い方をすると、特定の位置での異なる想定し得る速度値のうちの1つの速度値に関して1つの画像カーネルが有効であってもよく或いは使用されてもよく、また、単一の画像カーネルが一度に補償のために使用されてもよい。その後、マイクロプロセッサ202は、オンチップ補償のために制御信号(又は命令)を感知システム218の画像捕捉デバイス106に通信するように更に構成されてもよい。マイクロプロセッサ202の例は、縮小命令セットコンピューティング(RISC)プロセッサ、特定用途向け集積回路(ASIC)プロセッサ、複合命令セットコンピューティング(CISC)プロセッサ、明示的並列命令コンピューティング(EPIC)プロセッサ、超長命令語(VLIW)プロセッサ、マイクロコントローラ、中央処理ユニット(CPU)、グラフィックス処理ユニット(GPU)、状態機械、及び/又は、他のプロセッサ若しくは回路であってもよい。
メインメモリ204Aは、マイクロプロセッサ202及びマイクロプロセッサ202のための他の計算リソースによって実行可能な命令のセットを記憶するように構成されてもよい適切なロジック、回路、及び/又は、インタフェースを備えてもよい。メインメモリ204Aは、車両102のナビゲーションデバイスから検索された指定されたルートを記憶するように構成されてもよい。メインメモリ204Aは、画像捕捉デバイス106による補償後に出力される画像を記憶するように更に構成されてもよい。メインメモリ204Aの実施の例としては、電気的に消去可能なプログラマブルリードオンリーメモリ(EEPROM)、ランダムアクセスメモリ(RAM)、リードオンリーメモリ(ROM)、ハードディスクドライブ(HDD)、フラッシュメモリ、セキュアデジタル(SD)カード、ソリッドステートドライブ(SSD)、及び/又は、CPUキャッシュメモリを挙げることができるが、これらに限定されない。
ホストメモリ204Bは、指定されたルート上の複数の位置の各位置で車両102の複数の速度値に関して生成された動きベクトル情報及び導出された複数の画像カーネルを記憶するように構成されてもよい適切なロジック、回路、及び/又は、インタフェースを備えてもよい。ホストメモリ204Bとは、車両102のECU104内に埋め込まれ得るメモリデバイスを指してもよい。ホストメモリ204Bは、導出された複数の画像カーネルのうちの1つを画像捕捉デバイス106内の撮像センサにほぼリアルタイムで転送することを容易にし得る。ホストメモリ204Bは、スタティックランダムアクセスメモリ(SRAM)アーキテクチャ、ダイナミックランダムアクセスメモリ(DRAM)アーキテクチャ、スタティックダイナミックランダムアクセスメモリ(SDRAM)アーキテクチャ、及び/又は、他の高速読み取り/書き込み(R/W)又は入出力(I/O)メモリアーキテクチャのうちの1つに基づいてもよい。更に、ホストメモリ204Bは、マイクロプロセッサ202内に形成される拡張サイズのキャッシュメモリであってもよい。
無線通信システム206は、サーバ112、1つ以上のクラウドサーバ、及び/又は、1つ以上の車両などの1つ以上の外部デバイスと通信するように構成されてもよい適切な論理、回路、及び/又は、インタフェースを備えてもよい。1つ以上の外部デバイスとのそのような通信は、通信ネットワーク110を介して行われてもよい。無線通信システム206としては、アンテナ、テレマティクスユニット、無線周波数(RF)トランシーバ、1つ以上の増幅器、1つ以上の発振器、デジタル信号プロセッサ、近距離通信(NFC)回路、コーダ−デコーダ(CODEC)チップセット、及び/又は、加入者識別モジュール(SIM)カードを挙げることができるが、これらに限定されない。無線通信システム206は、通信ネットワーク110を介して、専用短距離通信(DSRC)プロトコルなどの無線通信を介して通信してもよい。
オーディオインタフェース208は、スピーカ、チャイム、ブザー、又は、音を発生するようになっていてもよい他のデバイスに接続されてもよい。また、オーディオインタフェース208は、ドライバーなどの車両102と関連付けられるユーザからの音声入力を受信するためにマイクロホン又は他のデバイスに接続されてもよい。また、オーディオインタフェース208は、マイクロプロセッサ202に通信可能に更に結合されてもよい。オーディオインタフェース208は、車両102の車載インフォテインメント(IVI)システム又はヘッドユニットの一部であってもよい。
ディスプレイ210は、車両102に関連する1人以上のユーザに対して様々なタイプの情報を表示するためにディスプレイスクリーンと関連付けられる表示回路を備えてもよい。ディスプレイ210は、マイクロプロセッサ202に通信可能に結合されてもよい。ディスプレイ210の例としては、ヘッドアップディスプレイ(HUD)又は拡張現実システムを伴うヘッドアップディスプレイ(AR−HUD)、ドライバー情報コンソール(DIC)、投影ベースのディスプレイ、インフォテインメントヘッドユニットのディスプレイ、シースルーディスプレイ、スマートグラスディスプレイ、エレクトロクロミックディスプレイを挙げることができるが、これらに限定されない。車両102のディスプレイ210に関連する表示回路は、マイクロプロセッサ202と通信するために他の入力/出力(I/O)デバイスを更に含んでもよい。
UI 210Aは、マイクロプロセッサ202の制御下で、生成された第2の画像又は捕捉された第1の画像をディスプレイ210上にグラフィカルにレンダリングするために使用されてもよい。ディスプレイ210は、UI210Aを介して、生成された第2の画像又は捕捉された第1の画像の2次元(2D)又は3次元(3D)のグラフィックビューをレンダリングしてもよい。
パワートレイン制御システム212とは、車両102のエンジン及び送信システムの動作を制御し得る車両102の車載コンピュータを指してもよい。パワートレイン制御システム212は、点火システム、燃料噴射システム、排気システム、及び/又は、送信システム(設けられている場合)及びブレーキシステム216を制御してもよい。
ステアリングシステム214はパワートレイン制御システム212と関連付けられてもよい。ステアリングシステム214は、手動モード又は半自律モード(ドライバー支援モード)で車両102の動きを制御するために1人以上のユーザによって使用されてもよいステアリングホイール及び/又は(パワーアシストステアリングのために設けられる)電気モータを含んでもよい。一実施形態によれば、車両102が自律モード(自動運転モードとも称される)にあるときに、車両102の動き又は操向が自動的に制御されてもよい。ステアリングシステム214の例としては、自律ステアリング制御器、パワーアシストステアリングシステム、真空/油圧ベースのステアリングシステム、電気油圧パワーアシストシステム(EHPAS)、又は、当該技術分野で知られている「ステアバイワイヤ」システムを挙げることができるが、これらに限定されない。
ブレーキシステム216は、摩擦力、抗力、及び、揚力のうちの1つの印加に基づいて指定されたルートの途中で車両102を減速又は停止させるために使用されてもよい。ブレーキシステム216は、車両102が自律モード又は半自律モードにあるときに、マイクロプロセッサ202の制御下でパワートレイン制御システム212からコマンドを受信するように構成されてもよい。
感知システム218は、画像捕捉デバイス106と、車両102内に設置される複数の車両センサ218Aとを備えてもよい。感知システム218の画像捕捉デバイス106は、車両102付近の動作環境108(図1を参照)の視野(FOV)を捕捉するように構成されてもよい。FOVは、前部、後部、側部、上部、又は、下部FOV、及び/又は、車両102から所定の角度を成すFOVを含んでもよい。感知システム218は、入力信号を与えるためにマイクロプロセッサ202に動作可能に接続されてもよい。CANインタフェースなどの1つ以上の通信インタフェースが車載ネットワーク222に接続するように感知システム218に設けられてもよい。感知システム218の例としては、車両速度センサ、走行距離計、ヨーレートセンサ、速度計、GPS、ステアリング角度検出センサ、車両動作方向検出センサ、マグノメータ、イメージセンサ、タッチセンサ、赤外線センサ、電波ベースの物体検出センサ、及び/又は、レーザーベースの物体検出センサを挙げることができるが、これらに限定されない。感知システム218の複数の車両センサ218Aは、車両102の走行方向、地理空間位置、操向角、ヨーレート、速度、及び/又は、速度の変化率を検出するように構成されてもよい。
車体制御モジュール220とは、中央ドアロックシステムなどの車両102の様々な電子部品又はシステムを制御するように構成されてもよい適切なロジック、回路、インタフェース、及び/又は、コードを備える他の電子制御ユニット(ECU)を指してもよい。車体制御モジュール220は、車両102のアクセス制御のため、中央ドアロックシステムなどの他の適切な車両システム又は構成要素にコマンドを中継してもよい。
車載ネットワーク222は、ECU104、無線通信システム206、パワートレイン制御システム212、感知システム218、及び/又は、車体制御モジュール220などの車両102の様々な制御ユニット、構成要素、又は、システムが互いに通信できるようにする媒体を含んでもよい。一実施形態によれば、マルチメディアコンポーネントのためのオーディオ/ビデオデータの車載通信は、車載ネットワーク222のメディア指向システムトランスポート(MOST)マルチメディアネットワークプロトコルの使用によって行われてもよい。車載ネットワーク222は、ECU104と、無線通信システム206のECUなどの他のECUとの間のアクセス、制御、及び/又は、通信を容易にし得る。車両102内の様々なデバイスは、様々な有線及び無線通信プロトコルにしたがって車載ネットワーク222に接続するように構成されてもよい。CANインタフェース、ローカル相互接続ネットワーク(LIN)インタフェースなどの1つ以上の通信インタフェースは、車載ネットワーク222に接続するために車両102の様々な構成要素又はシステムによって使用されてもよい。車載ネットワーク222のための有線及び無線通信プロトコルの例としては、車両エリアネットワーク(VAN)、CANバス、国内デジタルバス(D2B)、タイムトリガプロトコル(TTP)、FlexRay、IEEE1394、衝突検出を伴うキャリアセンスマルチプルアクセス(CSMA/CD)ベースのデータ通信プロトコル、相互集積回路(I2C)、機器間バス(IEBus)、自動車技術者協会(SAE)J1708、SAEJ1939、国際標準化機構(ISO)11992、ISO11783、メディア指向システムトランスポート(MOST)、MOST25、MOST50、MOST150、プラスチック光ファイバ(POF)、電力線通信(PLC)、シリアルペリフェラルインタフェース(SPI)バス、及び/又は、ローカル相互接続ネットワーク(LIN)を挙げることができるが、これらに限定されない。
バッテリ224は、車両102に関連する1つ以上の電気回路又は負荷(図示せず)のための電力源であってもよい。例えば、負荷としては、ヘッドライト及び室内キャビンライトなどの様々なライト、車両シート、ミラー、窓などのような電動調整可能な構成要素、及び/又は、他の車載インフォテインメントシステム、例えばラジオ、スピーカ、電子ナビゲーションシステム、電気的に制御された電動及び/又はアシストステアリング、例えばステアリングシステム214を挙げることができるが、これらに限定されない。バッテリ224は充電式バッテリであってもよい。一実施形態によれば、バッテリ224は、ECU104に対する電力源(破線で示される)、感知システム218の1つ以上のセンサ、及び/又は、車載インフォテインメントシステムのディスプレイ210などの1つ以上のハードウェアユニットであってもよい。一実施形態によれば、バッテリ224は、車両102の推進システム(図示せず)に選択的に電力を供給することによって車両102のエンジンを始動させるための電力源であってもよい。電気自動車に関しては、バッテリ224は、エンジン、インフォテインメント、照明、エアコン、及び、車両102の様々な構成要素/デバイスなどの各動作構成要素に定格電力を更に供給してもよい。
車両電力システム226は、前述のように、バッテリ224から車両102の様々な電気回路及び負荷への途切れのない電力の利用可能性及び分配を測定及び調整するように構成されてもよい。車両電力システム226は、バッテリ224を最適に充電してバッテリ224の負荷を適応的に管理するように更に構成されてもよい。車両電力システム226は、車両の各動作構成要素に必要な電圧を供給してもよい。車両電力システム226は、更に、車両102がハイブリッド車両又は自律車両である場合に車両102が必要な時間にわたってバッテリ224の電力を利用できるようにしてもよい。一実施形態によれば、車両電力システム226は、電力エレクトロニクスシステムに対応してもよく、また、車載ネットワーク222に通信可能に結合されてもよい(点線で示される)マイクロコントローラを含んでもよい。マイクロコントローラは、マイクロプロセッサ202の制御下でパワートレイン制御システム212からコマンドを受信してもよい。
動作時、車両102に関連するユーザは、車両102に関して指定された制御ルーチンに基づいて(プログラム的に)命令を供給してもよい。命令は、車両102のユーザインタフェース210Aを介して受信されてもよい。命令は、マップ上の目的地へ移動するように又は地理的な地域の特定の領域をカバーするように車両102を構成してもよい。車両102は、物流及び商品輸送、個人化された移動、商用移動、監視、セキュリティ、パトロール、及び/又は、他の防衛関連タスクなどの1つ以上のタスクを処理するように構成されてもよい。
車両102は、指定されたルート上での車両102の走行前にユーザから命令を受信してもよい。或いは、車両102は、車両102が指定されたルート上又は規定されていないルート上の途中にいるかもしれないときにユーザから命令を受信してもよい。命令は、指定されたルート及び/又は指定されたルートに関する車両制御時間における車両102の制御レベルの初期化の要求と関連付けられてもよい。国家高速道路交通安全局(NHTSA)によって規定される車両102の制御レベルは、非自動化の場合にはSAEレベル0を成し、ドライバー支援の場合にはSAEレベル1を成し、部分自動化の場合にはSAEレベル2を成し、条件付き自動化の場合にはSAEレベル3を成し、高自動化の場合にはSAEレベル4を成し、及び、完全自動化の場合にはSAEレベル5を成す。
命令に基づき、他のECUは、車両電力システム226に制御信号を転送して、車両102の前述の制御レベルに求められ得る車両102の動作構成要素を初期化してもよい。車両電力システム226は、バッテリ224と連動して、少なくとも無線通信システム206、ディスプレイ210、パワートレイン制御システム212、ステアリングシステム214、ブレーキシステム216、感知システム218、及び、車体制御モジュール220に定格電力を供給してもよい。
ECU 104、画像捕捉デバイス106、及び、(無線通信システム206の)ナビゲーションデバイスを更に初期化して、車両102の異なる位置及び異なる想定し得る速度値に関する動きベクトル情報の生成のために指定されたルートを前処理してもよい。一実施形態によれば、ECU104のマイクロプロセッサ202は、車両102に関連するユーザから所定の入力を受信するように構成されてもよい。所定の入力は、車両102のための1つ以上のナビゲーションパラメータと関連付けられてもよい。車両102のための所定の入力は、目的地の住所、車両制御時間、及び/又は、車両102によってカバーされるべき特定のエリア又は地域の領域のうちの少なくとも1つを含んでもよい。
一実施形態によれば、マイクロプロセッサは、通信ネットワーク110を介して、ユーザからの所定の入力に関する指定されたルートの生成を求める要求をサーバ112に送信するように更に構成されてもよい。マイクロプロセッサは、車両102の無線通信システム206から、GISデータとしてデジタル的に記憶される指定されたルート及び関連するメタデータを検索するように更に構成されてもよい。マイクロプロセッサ202は、指定されたルート及び指定されたルートのための関連するメタデータをECU104のメインメモリ204Aに記憶するように構成されてもよい。
一実施形態によれば、車両102のマイクロプロセッサ202は、指定されたルート上の推定された複数の位置の各位置で車両102の複数の速度値に関する動きベクトル情報を生成するように更に構成されてもよい。動きベクトル情報を利用して、指定されたルート上での車両102の走行中の連続する位置を予測してもよい。
一実施形態によれば、動きベクトル情報に基づいて、マイクロプロセッサ202は、指定されたルート上の推定された複数の位置の各位置で車両102の複数の速度値に関して画像カーネルを導出するように更に構成されてもよい。換言すると、複数の画像カーネルが、各位置で車両102の複数の速度値に関して導出されてもよい。別の言い方をすると、特定の位置での異なる想定し得る速度値のうちの1つの速度値に関して1つの画像カーネルが有効であってもよく或いは使用されてもよく、また、単一の画像カーネルが一度に補償のために使用されてもよい。各画像カーネルは、指定されたルート上の推定された複数の位置の各位置で車両102の複数の速度値に関して生成された動きベクトル情報に基づいて導出されてもよい。マイクロプロセッサ202は、指定されたルート上の推定された複数の位置の各位置で車両102の複数の速度値に関して導出された複数の画像カーネルをホストメモリ204Bに記憶するように更に構成されてもよい。
車両102が指定されたルート上で移動する際、マイクロプロセッサ202は、指定されたルート上の車両102の現在の位置で現在の速度値を測定するように更に構成されてもよい。現在の速度値は、感知システム218の速度センサ312によってほぼリアルタイムに測定されてもよく、また、現在の位置は、感知システム218の位置センサ310によってほぼリアルタイムに測定されてもよい。マイクロプロセッサ202は、車両102の現在の位置及び対応する現在の速度値に関して生成された動きベクトル情報を検索してもよい。マイクロプロセッサ202は、現在の位置に関して検索された動きベクトル情報に基づいて指定されたルート上の車両102の連続する位置を予測するように構成されてもよい。
一実施形態によれば、マイクロプロセッサ202は、車載ネットワーク222を介して制御信号を感知システム218に送信するように更に構成されてもよい。制御信号は、指定されたルート上の連続する各位置で利用可能なビューの第1の画像を捕捉するために感知システム218に送信されてもよい。制御信号は、感知システム218の画像捕捉デバイス106へと経路付けられてもよい。
一実施形態によれば、画像捕捉デバイス106は、連続する位置で車両102から利用可能なビューを漸進的に走査するように構成されてもよい。漸進的に走査されたビューは、第1の画像のピクセルの横列又は縦列を一度に捕捉することに対応し得る。一実施形態によれば、画像捕捉デバイス106は、指定されたルート上での車両102の動作中に捕捉されたビデオから第1の画像をフェッチするように構成されてもよい。第1の画像は、第1の画像の複数のピクセルのシフトと関連付けられてもよい。そのようなシフトは、ローリングシャッター効果によって引き起こされる場合があり、これは、指定されたルート上での車両102の動作中に明らかとなり得る。
一実施形態によれば、マイクロプロセッサ202は、指定されたルート上の車両102の現在の速度値及び予測された連続する位置にしたがって導出された複数の画像カーネルのうちの1つを選択するように更に構成されてもよい。導出された画像カーネルは、ローリングシャッター効果によって影響される捕捉された第1の画像のほぼリアルタイムの補償のために選択されてもよい。マイクロプロセッサ202は、車載ネットワーク222を介して、選択された画像カーネルを画像捕捉デバイス106の撮像センサに転送するように構成されてもよい。選択された画像カーネルは、捕捉された第1の画像のオンチップ補償のために転送されてもよい。
一実施形態によれば、画像捕捉デバイス106は、画像捕捉デバイス106の撮像センサによって捕捉されるピクセルの各横列又は縦列(又はピクセル配列)のラインごとの補償を実行するように更に構成されてもよい。画像捕捉デバイス106は、第1の画像の捕捉された横列又は縦列を、選択された画像カーネルの対応する横列又は縦列(線形配列)で変換するように更に構成されてもよい。画像捕捉デバイス106は、捕捉された第1の画像のオンチップ補償からほぼリアルタイムで第2の画像を生成するように更に構成されてもよい。生成された第2の画像は、複数のピクセルにおいて最小のシフトを示し得る。
一実施形態によれば、マイクロプロセッサ202は、生成された第2の画像を、車両電力システム226、パワートレイン制御システム212、ステアリングシステム214、ブレーキシステム216、及び、感知システム218内の他の撮像デバイスと関連付けられる他のECUに転送するように更に構成されてもよい。生成された第2の画像は、速度、加速度、電力、車両102と近傍の物体との間の相対的な離間距離、燃料レベル、温度、差分電圧レベル、及び、動作パラメータと関連する目的などの異なる動作パラメータの較正及び制御のために転送されてもよい。目的の例としては、車両102を方向転換すること、移動機械からの距離を維持すること、異なる移動機械の相対速度を測定すること、及び、途中の事故ゾーン及び移動機械を予測することを挙げることができるが、これらに限定されない。移動機械は、自動車などの陸上車両、船舶、又は、航空機、ドローン、飛行機などの空中車両であってもよい。
一実施形態によれば、感知システム218と関連付けられるマイクロプロセッサ(図示せず)は、車両102と関連付けられるセンサデータを車載ネットワーク222を介して車両102の異なる動作構成要素に通信するように更に構成されてもよい。更に、センサデータは、無線通信システム206及び通信ネットワーク110を介して、サーバ112上に転送されてもよい。センサデータは、車両102に設置されたRADAR、LIDAR、及び/又は、画像捕捉デバイス106などの感知システム218からマイクロプロセッサ202によって受信される信号に対応してもよい。通信されるセンサデータは、進行方向、現在の車線情報、車両タイプ、エンジン温度、電力レベル、現在の速度値、現在の位置、車両の内部温度、抗力、車両102のタイヤ内の空気圧、車両サイズ、車両重量、地理空間的位置、操向角度、ヨーレート、及び/又は、車両加速度を含んでもよい。通信されるセンサデータは、車両102の走行中に生成された障害及びデバッグログを更に含んでもよい。車両タイプは、自動車製造業者によって設定されたモデル番号又はブランド名などの特定の情報に対応してもよい。車両タイプは、トラック、コンパクトカー、スポーツユーティリティビークル(SUV)などの車両サイズに基づくカテゴリーに更に対応してもよい。車両タイプは、電気自動車(EV)、内燃機関(ICE)車両、動作環境108をインテリジェントに感知できる監視されていない自律車両、人のドライバーによって操作される車両、高度運転支援システムを伴う車両、半自律車両、車両間通信が可能な車両、車両間通信ができない車両、タクシー、又は、レンタカーなどの車両102の特徴に更に対応してもよい。
一実施形態によれば、マイクロプロセッサ202は、車両102に関して規定された制御レベルに基づき、車両102のパワートレイン制御システム212、ステアリングシステム214、ブレーキシステム216、感知システム218、及び/又は、車体制御モジュール220などのシステムの1つ以上の構成要素を自動的に制御するように構成されてもよい。
図3は、本開示の一実施形態に係る、車両の撮像センサにおけるローリングシャッター効果のオンチップ補償のための典型的なシステムを示すブロック図である。図3を参照すると、(入力/出力)I/Oインタフェース302、マイクロプロセッサ202、メインメモリ204A、ホストメモリ204B、位置センサ310、速度センサ312、及び、画像捕捉デバイス106の撮像センサ318を備える画像捕捉システム300が示される。画像捕捉システム300のメインメモリ204Aは、ナビゲーションユニット304、生成エンジン306、カーネル導出エンジン308、予測エンジン314、及び、選択エンジン316などの様々な計算エンジンを記憶してもよい。或いは、ナビゲーションユニット304、生成エンジン306、カーネル導出エンジン308、予測エンジン314、及び、選択エンジン316は、専用計算回路、プログラム可能な論理デバイス、又は、デジタル信号処理回路のうちの1つに実装される専用の回路であってもよい。画像捕捉システム300は、車載ネットワーク222を介して、車両102(図2に記載)の前述の動作構成要素に通信可能に結合されてもよい。更に、画像捕捉システム300は、通信ネットワーク110を介して、サーバ112に通信可能に結合されてもよい。
I/Oインタフェース302は、画像捕捉システム300内及び/又は画像捕捉システム300の周辺に存在する他のシステム又は回路と通信するように構成されてもよい適切なロジック、回路、インタフェース、及び/又は、コードを備えてもよい。I/Oインタフェース302は、通信ネットワーク110を介して、有線又は無線通信をサポートするための既知の技術の使用によって実装されてもよい。I/Oインタフェース302の構成要素としては、アンテナ、無線周波数(RF)トランシーバ、1つ以上の増幅器、チューナ、1つ以上の発振器、デジタル信号プロセッサ、コーダ−デコーダ(CODEC)チップセット、加入者識別モジュール(SIM)カード、及び/又は、ローカルバッファを挙げることができるが、これらに限定されない。
ナビゲーションユニット304は、車載ネットワーク222を介して車両102のナビゲーションのための指定されたルートを検索するように構成されてもよい適切なロジック、回路、インタフェース、及び/又は、コードを備えてもよい。指定されたルートは、マップ上のノード(又はポイントとしての位置)によって継続的に結ばれ得る(有向グラフで構成される)推定経路に対応してもよい。ナビゲーションユニット304は、指定されたルートから複数の位置を導出するように構成されてもよい。複数の位置は、各GPS位置が緯度(度)及び経度(度)の順序付けられた対(緯度、経度)となり得るようなGPS位置であってもよい。空中車両の場合、マップ上のGPS位置に加えて、高さ値が更に導出されてもよい。ナビゲーションユニット304は、導出された複数の位置を指定されたルートから生成エンジン306に転送するために、生成エンジン306と通信可能に結合されてもよい。
生成エンジン306は、車両102の指定されたルートの導出された複数の位置の各位置に関して動きベクトル情報を生成するように構成されてもよい適切なロジック、回路、インタフェース、及び/又は、コードを備えてもよい。それぞれの位置ごとに、生成エンジン306は、車両102の複数の速度値で動きベクトル情報を生成してもよい。複数の速度値は、車両102の指定されたルートと車両102の現在の速度とに基づいて推定された1つの位置に関する想定し得る速度値であってもよい。一実施形態によれば、生成エンジン306は、画像捕捉システム300のメインメモリ204Aに記憶されたコードに基づいて実装されてもよい。一実施形態によれば、生成エンジン306は、画像捕捉システム300のメインメモリ204A及びホストメモリ204Bに関連するスタンドアロン回路として実装されてもよい。更に、生成エンジン306がカーネル導出エンジン308に通信可能に結合されてもよく、また、生成された動きベクトル情報がカーネル導出エンジン308に送信されてもよい。生成された動きベクトル情報は、構造化又は非構造化データスキーマを有するホストメモリ204B内の表形式データベースに記憶されてもよい。
カーネル導出エンジン308は、指定されたルート上の複数の位置の各位置で、車両102の複数の速度値のそれぞれに関して画像カーネルを導出するように構成されてもよい適切なロジック、回路、インタフェース、及び/又は、コードを備えてもよい。換言すると、複数の画像カーネルが、各位置で車両102の複数の速度値に関して導出されてもよい。別の言い方をすると、特定の位置での異なる想定し得る速度値のうちの1つの速度値に関して1つの画像カーネルが有効であってもよく或いは使用されてもよく、また、単一の画像カーネルが一度に補償のために使用されてもよい。各画像カーネルは、車両102の複数の速度値及び指定されたルート上の複数の位置に関して生成された動きベクトル情報に基づいて導出されてもよい。各画像カーネルは、車両102の動作中に撮像センサ318によって捕捉された画像を変換するために導出された複数のフィルタ係数のカーネル行列であってもよい。一実施形態によれば、カーネル導出エンジン308は、画像捕捉システム300のメインメモリ204Aに記憶されたコードに基づいて実装されてもよい。一実施形態によれば、カーネル導出エンジン308は、画像捕捉システム300のメインメモリ204A及びホストメモリ204Bに関連するスタンドアロン回路として実装されてもよい。更に、カーネル導出エンジン308は、SRAMなどのホストメモリ204Bに通信可能に結合されてもよい。カーネル導出エンジン308は、車両102の複数の速度値及び指定されたルート上の複数の位置に関して導出された複数の画像カーネルをホストメモリ204Bに記憶するように更に構成されてもよい。導出された画像カーネルは、構造化又は非構造化データスキーマを有する他の表形式データベースに記憶されてもよい。
位置センサ310は、指定されたルートなどのルート上の途中の車両102の現在の位置を推定するように構成されてもよい適切なロジック、回路、インタフェース、及び/又は、コードを備えてもよい。現在の位置は、画像捕捉システム300に埋め込まれた又は遠隔配置されたシステムに存在するナビゲーションチップから利用可能な位置座標から推定される緯度と経度の値の対として表わされてもよい。一実施形態によれば、位置センサ310がGPS受信機であってもよく、また、位置座標は、一群のGPSナビゲーション衛星から受信されるGPS座標に対応する。他の実施形態によれば、位置センサ310は、GPSからの通信とは無関係に動作するシステムオンチップ(SOC)センサであってもよく、また、ジャイロスコープ、走行距離計、及び、加速度計のうちの1つに基づいて現在の位置を推定してもよい。
速度センサ312は、指定されたルートなどのルート上の途中の車両102の現在の速度値を推定するように構成されてもよい適切なロジック、回路、インタフェース、及び/又は、コードを備えてもよい。一実施形態によれば、現在の速度値は、車両102の推定された現在位置での車両102の速度の瞬間値であってもよい。他の実施形態によれば、現在の速度値は、速度センサ312から瞬間的に捕捉された1つ以上の速度値からの平均又は加重平均の速度値であってもよい。速度センサ312は、車輪、ギアシステム、点火システム、車両シャーシ、車両シャフト、差動装置、及び/又は、車軸などの車両102の少なくとも1つの構成要素に実装されてもよい。速度センサ312の例としては、ホイールベースのホール効果(HE)センサ、ギアベースのリードタイプセンサ、タコメータ、カメラベースの速度センサ、及び、位置ベースの速度センサを挙げることができるが、これらに限定されない。或いは、速度センサ312は、衛星又はアンテナ回路などの外部システムの使用によって実装されてもよく、推定された現在の位置で車両102の瞬間速度値を遠隔的に測定する。
予測エンジン314は、車両102の現在の位置で車両102の連続する位置を予測するように構成されてもよい適切なロジック、回路、インタフェース、及び/又は、コードを備えてもよい。連続する位置は、指定されたルートであってもよいルート上の推定された現在の位置で車両102の推定された現在の速度値に関して生成された動きベクトル情報に基づいて予測されてもよい。一実施形態によれば、予測エンジン314は、画像捕捉システム300のメインメモリ204Aに記憶されたコードに基づいて実装されてもよい。一実施形態によれば、予測エンジン314は、画像捕捉システム300のメインメモリ204A及びホストメモリ204Bに関連するスタンドアロン回路として実装されてもよい。更に、予測エンジン314は、SRAMなどのホストメモリ204Bに通信可能に結合されてもよい。予測エンジン314は、予測された連続する位置を画像捕捉システム300のメインメモリ204A又はホストメモリ204Bのうちの少なくとも一方に記憶するように更に構成されてもよい。
選択エンジン316は、車両102の予測された連続する位置に関して導出された複数の画像カーネルのうちの1つを選択するように構成されてもよい適切なロジック、回路、インタフェース、及び/又は、コードを備えてもよい。導出された画像カーネルの選択は、指定されたルート上の車両102の推定された現在の位置及び推定された現在の速度値に基づいていてもよい。別の言い方をすれば、導出された画像カーネルの選択は、車両102の現在の位置及び現在の速度値に関して生成された動きベクトル情報に基づいていてもよい。導出された画像カーネルは、ホストメモリ204B内の導出された画像カーネルの記憶されたデータベースから選択されてもよい。選択された画像カーネルを使用して、車両102の動きによって引き起こされ得るローリングシャッター効果によって影響される画像の歪みを補償するために必要なフィルタ係数を最適にモデル化してもよい。一実施形態によれば、選択エンジン316は、画像捕捉システム300のメインメモリ204Aに記憶されるコードに基づいて実装されてもよい。一実施形態によれば、選択エンジン316は、画像捕捉システム300のメインメモリ204A及びホストメモリ204Bに関連するスタンドアロン回路として実装されてもよい。
撮像センサ318は、ビデオなどの画像のシーケンス又は車両102における画像捕捉デバイス106の実装位置から見えるビューの第1の画像などの画像を捕捉するように構成されてもよい適切なロジック、回路、インタフェース、及び/又は、コードを備えてもよい。撮像センサ318は、車両102が動いている間に、ビデオなどの画像のシーケンス又は画像を捕捉してもよい。撮像センサ318は、ローリングシャッター効果によって影響される画像のオンチップ補償を実行するように更に構成されてもよい。一実施形態によれば、撮像センサ318は、相補型金属酸化膜(CMOS)センサなどの能動ピクセルセンサとして実装されてもよい。そのような実装において、撮像センサ318は、CMOSセンサのセンサコア上のピクセルの各横列又は縦列(1Dピクセル配列)の漸進的な走査(ラインごと)を実行するように構成されてもよい。漸進的な走査は、垂直走査(縦列単位で)であってもよく又は水平走査(横列単位で)であってもよい。一実施形態によれば、撮像センサ318は、オーバーサンプリングされたバイナリ撮像センサ、平面フーリエ捕捉配列(PFCA)、及び、裏面照射型(BSI又はBI)センサのうちの1つとして実装されてもよい。撮像センサ318は、センサコア320、読み出しレジスタ322、複数の現在の画像カーネルレジスタ324A…324N、複数の予測された画像カーネルレジスタ326A…326N、及び、補償エンジン328を備えてもよい。撮像センサ318がパッケージ形態で組み込まれてもよく、これは、画像捕捉システム300における撮像センサ318のフォームファクタを更に指定し得る。パッケージ形態の例としては、システムオンチップ(SoC)ベースの形態、フィールドプログラマブルゲート配列(FPGA)ベースの形態、複合プログラマブルロジックデバイス(CPLD)ベースの形態、システムインパッケージ(SiP)ベースの形態、及び、プログラマブルシステムオンチップ(PSoC)ベースの形態を挙げることができるが、これらに限定されない。図示されないが、撮像センサ318は、撮像センサ318と一体化される専用のマイクロプロセッサ(又はマイクロコントローラ)及びメモリ及び/又はグラフィック処理ユニット(GPU)を更に備えてもよい。
センサコア320は、ピクセルレベル回路の配列で照明によって引き起こされる励起を捕捉して捕捉された励起に対応し得る画像を生成するように構成されてもよい適切なロジック、回路、インタフェース、及び/又は、コードを備えてもよい。一実施形態によれば、センサコア320は、基板上の能動電荷増幅器と積極的に結合されるフォトダイオードのマトリクスを備えてもよい。以下、基板上の能動電荷増幅器に関連するフォトダイオードのマトリクスがセンサコア320のピクセルマトリクスと称されてもよい。言い換えれば、センサコア320は、複数の横列及び複数の縦列を成して配置されるピクセルレベル回路の配列を備えてもよい。複数の横列のそれぞれ及び複数の縦列のそれぞれは、横列セレクタ又は縦列セレクタともそれぞれ称される選択ラインに更に関連付けられてもよい。センサコア320のピクセルマトリクスの次数は、撮像センサ318又は画像捕捉デバイス106の第1の分解能(ピクセル単位)を表わしてもよい。一実施形態によれば、撮像センサ318の第1の分解能は、撮像センサ318によって出力される画像の第2の分解能と異なってもよい。撮像センサ318のそのような実装は、図6の説明で更に記載されている。
読み出しレジスタ322は、センサコア320のピクセルマトリクスから、ピクセルの横列又は縦列などの複数のピクセルのピクセル配列を捕捉して保持するように構成されてもよい適切なロジック、回路、インタフェース、及び/又は、コードを備えてもよい。読み出しレジスタ322は、捕捉されたピクセル配列のデジタル値を記憶するためのnビットレジスタであってもよい。読み出しレジスタ322のサイズは、捕捉されたピクセル配列のピクセル値の記憶のためのサイズと関連付けられてもよい。このサイズは、センサコア320内のピクセルレベル回路の配列の横列又は縦列から転送される、ピクセル値の記憶のための読み出しレジスタ322の記憶容量に対応してもよい。一実施形態によれば、読み出しレジスタ322のサイズは、センサコア320の(第1の分解能の)幅に等しくてもよい。そのような実施では、センサコア320からのピクセルの横列又は縦列の全体が一度に読み出しレジスタ322にフラッシュされてもよい。他の実施形態によれば、読み出しレジスタ322のサイズは、センサコア320の第1の分解能と異なってもよい。そのような実施において、センサコア320は、ピクセル値の横列の縦列の全体の記憶のための読み出しレジスタ322のサイズ(又は分解能)とは異なってもよい分解能を示すように修正されてもよい。このような実施が図6に詳細に記載されている。
複数の現在の画像カーネルレジスタ324A…324Nは、車両102の推定された現在の位置に関する転送された画像カーネルの記憶のための撮像センサ318内の専用レジスタ(RC1、RC2…RCNとしても示される)であってもよい。したがって、複数の予測された画像カーネルレジスタ326A…326N(RP1、RP2…RPNとしても示される)は、車両102の予測された連続する位置に関する転送された画像カーネルの記憶のための撮像センサ318内の専用レジスタであってもよい。複数の現在の画像カーネルレジスタ324A…324N及び複数の予測された画像カーネルレジスタ326A…326Nのそれぞれは、それぞれの導出された画像カーネルの長さに等しい長さのmビットレジスタであってもよい。
補償エンジン328は、撮像センサ318のセンサコア320からの捕捉された画像における複数のピクセルのシフトを補償するように構成されてもよい適切なロジック、回路、インタフェース、及び/又は、コードを備えてもよい。補償は、車両102の動作中に捕捉される複数のピクセルの変換に基づいて行われてもよい。一実施形態によれば、補償エンジン328は、ラインごと(横列又は縦列ごと)の補償など、捕捉された画像の直列化された(又は順次の/漸進的な)補償のために構成されてもよい。一実施形態によれば、補償エンジン328は、再現又は反復を伴うことなく単一の動作サイクルで完全に捕捉された画像を同時に補償するように構成されてもよい。別の言い方をすれば、幾つかの実施形態では、1つの画像が複数の反復を伴うことなく一度に補償されてもよい。幾つかの実施形態では、捕捉された全ての画像が並行プロセスで同時に補償されてもよい。一実施形態によれば、補償エンジン328は、撮像センサ318の集積メモリ(図示せず)に記憶されるコードに基づいて実装されてもよい。一実施形態によれば、補償エンジン328は、撮像センサ318の集積メモリに関連するスタンドアロン回路として実装されてもよい。補償エンジン328が集積メモリに通信可能に結合されてもよく、また、補償エンジン328は、撮像センサ318の集積メモリ内のシフト補償されたピクセル配列などの補償されたレジスタ値を記憶して更新するように更に構成されてもよい。
動作時、制御信号は、車両102に関連するユーザからの所定の入力に応じて画像捕捉システム300のI/Oインタフェース302で受信されてもよい。所定の入力は、車両102のための1つ以上のナビゲーションパラメータと関連付けられてもよい。車両102のための所定の入力は、(図1で説明したように)目的地の住所、車両102の制御時間、及び/又は、車両102によってカバーされるべき特定のエリア又は領域/地域のうちの少なくとも1つを含んでもよい。所定の入力に応じて、ナビゲーションユニット304は、画像捕捉システム300に通信可能に結合されるナビゲーションユニット304から指定されたルートを検索するように更に構成されてもよい。指定されたルートは、指定されたルートに沿う車両102のナビゲーション及び走行のために検索されてもよい。ナビゲーションユニット304は、車両102のための検索されたルートから複数の位置を(位置座標として)推定するように更に構成されてもよい。別の言い方をすると、複数の位置座標は、指定されたルート上のノード又は無作為に分散されたポイントであってもよい複数のポイントに関して計算されてもよい。
複数の位置のそれぞれの推定された位置は、度又はマイルやメートルなどの距離指標で測定された変位値によって隣接するポイントから分離されてもよい。一実施形態によれば、変位値は、指定されたルート上のポイントの選択のための所定の基準に基づいて導出されてもよい適応変位値であってもよい。指定されたルート上のポイントの選択のための所定の基準は、指定されたルートの選択が車両102の向き、方向、又は、加速度の頻繁な変化を引き起こし得るときにより多くのポイントを選択する第1のルールを含む。例えば、指定されたルートの選択は、指定されたルートの横断勾配又はキャンバー、機動性が低い通路、チョークポイント、シケイン、開放した縁石延在部、コーニス、交差点、及び/又は、他の非線形及び段階的なプロファイルを含んでもよい。所定の基準は、指定されたルートが直線である或いは車両102の向き、方向、又は、加速度に僅かな変化を引き起こすときに指定されたルート上のポイントをまばらに選択する第2のルールを含んでもよい。例えば、指定されたルート「R1」のセクション「S1」、セクション「S2」、及び、セクション「S3」は、「S」プロファイル、直線状のプロファイル、及び、「U」プロファイルをそれぞれ示してもよい。ナビゲーションユニット304は、指定されたルート「R1」の「S」プロファイルセクション「S1」上及び「U」プロファイルセクション「S3」上のそれぞれの30個の位置ポイント及び「25」個の位置ポイントなどのより多くのポイントを選択するように構成されてもよい。したがって、ナビゲーションユニット304は、直線状プロファイルセクション「S2」上のより少ないポイントである「5」個の位置ポイントを選択するように構成されてもよい。選択された位置ポイントは、指定されたルート「R1」の「S」プロファイルセクション「S1」の場合には「1フィート」、直線状プロファイルセクション「S2」の場合には「5フィート」、「U」プロファイルセクション「S3」の場合には「2.5フィート」などの適応変位値と更に関連付けられてもよい。
他の実施形態によれば、変位値は、指定されたルート上のポイントの各対間に均一に存在する一定値であってもよい。例えば、ルート「R2」が「X」個の等しい距離を隔てた位置ポイントと関連付けられてもよく、この場合、各位置ポイントは隣接する位置ポイントから1フィート又は何らかの所定の離間距離だけ分離され、ここで、「X」は正の整数値である。したがって、ナビゲーションユニット304は、指定されたルートの推定された複数の位置のそれぞれの推定された位置ごとに複数の速度値を推定するように更に構成されてもよい。それぞれの推定された位置に関する複数の速度値は、指定されたルート上の対応する位置での車両102の想定し得る速度値に対応してもよい。
一実施形態によれば、複数の速度値は、指定されたルート上の車両102の方向及び/又は方向の想定し得る頻繁な変動にしたがって指定されたルートのそれぞれのセクションごとに適応的に推定されてもよい。例えば、指定されたルート上の曲がり角セクションは、より低い速度値、例えば5マイル/時、7マイル/時、及び、9マイル/時と関連付けられてもよく、一方、指定されたルートの直線状のセクションは、より高い速度値、例えば「10マイル/時」、「20マイル/時」、「30マイル/時」、及び、「40マイル/時」と関連付けられてもよい。したがって、ナビゲーションユニット304は、各推定速度値間の差が小さいより低い速度値を推定するとともに、各推定速度値間の差が大きいより高い速度値を推定してもよい。
一実施形態によれば、複数の速度値は、指定されたルートのそれぞれのセクションごとに非適応的に推定されてもよい。複数の速度値の非適応推定は、推定された複数の速度値間の特定の関係と更に関連付けられ、それにより、例えば、速度値の等差数列(AP)に基づいて速度値を推定してもよい。そのような推定は、指定されたルート上の車両102の方向及び/又は向きの想定し得る頻繁な変動に関するずれに起因するおおよその推定であってもよい。例えば、指定されたルート上のセクションは、APにしたがう速度値、例えばN、2N、3N、4Nと関連付けられてもよく、この場合、Nは、指定されたルートの特定のセクションのための初期基準速度値であってもよい。したがって、5マイル/時の初期基準速度値の場合、残りの速度値は、「2 x 5マイル/時」(「10マイル/時」)、「3 x 5マイル/時」(「15マイル/時」、及び、「4 x 5マイル/時」(「20マイル/時」)として推定されてもよい。前述の速度推定技術は、以下に説明されるように、異なる位置及び異なる位置のそれぞれにおける異なる速度値に関する動きベクトル情報の導出中に計算サポートを更にもたらし得る。推定された複数の位置及び推定された複数の速度値は、画像捕捉システムの生成エンジン306に更に送信されてもよい。
生成エンジン306は、複数の位置と、複数の位置の各位置に関する関連する複数の速度値とを受信するように構成されてもよい。その後、生成エンジン306は、指定されたルートの複数の位置の各位置で車両102の複数の速度値に関して動きベクトル情報を生成するように更に構成されてもよい。動きベクトル情報は、指定されたルート上の第1の位置の位置座標と第2の位置の対応する位置座標との差に基づいて指定されたルート上の各速度値及び各位置で計算(又は生成)されてもよい。
各速度値及び各位置での動きベクトル情報は、指定されたルート上の車両102に関する動きベクトルに対応してもよい。動きベクトルは、指定されたルート上の車両102の各位置及び各速度値における第1の位置識別子及び第2の位置識別子の順序付けられた対であってもよい。第1の位置識別子は、第2の位置の緯度と、指定されたルート上の第1の位置の対応する緯度との差に基づいて導出されてもよい。したがって、第2の位置識別子は、第2の位置の経度と、指定されたルート上の第1の位置の対応する経度との差に基づいて導出されてもよい。別の言い方をすると、指定されたルート上の第1の位置の位置座標と第2の位置の対応する位置座標との差が、各位置で動きベクトル情報を与えてもよい。例えば、以下には、Nマイル/時の第1の速度及び2Nマイル/時の第2の速度に関する動きベクトル(又は動きベクトル情報)の表形式の表示を与える表1が示される。表1は、位置インデックス(LC)に関する第1の縦列、位置の緯度(LT)に関する第2の縦列、位置の経度(LN)に関する第3の縦列、Nマイル/時及び2Nマイル/時の速度値における動きベクトルの第1の位置識別子(MVX)に関する第4及び第6の縦列、Nマイル/時及び2Nマイル/時の速度値における動きベクトルの第2の位置識別子(MVY)に関する第5及び第7の縦列を与える。
上記のように、指定されたルート上の第1の位置及び第2の位置は、指定されたルートに関する車両102の複数の速度値の各速度値に基づいて選択されてもよい。言い換えれば、動きベクトル情報の生成のために、第1の位置及び第2の位置は、車両102の異なる速度値に関して適応的に選択されてもよい。例えば、「Nマイル/時」の速度値での動きベクトルに関して、「2」の位置インデックスに対応する第2の位置の経度及び緯度が選択されてもよい。したがって、「2Nマイル/時」の速度値での動きベクトルに関して、「3」の位置インデックスに対応する第2の位置の経度及び緯度が選択されてもよい。生成エンジン306は、複数の位置のそれぞれに関して緯度及び経度の差を反復的に計算するように更に構成されてもよい。動きベクトルの総数(NMV)は、「P×Q」(又はPQ)に等しくてもよく、この場合、「P」は幾つかの位置であってもよく、「Q」は幾つかの速度値であってもよい。生成エンジン306は、複数の位置のそれぞれにおける車両102のそれぞれの推定速度値ごとに生成された動きベクトル情報を記憶するように更に構成されてもよい。生成された動きベクトル情報は、画像捕捉システム300のメインメモリ204Aに記憶されてもよい。
カーネル導出エンジン308は、指定されたルートの複数の位置のそれぞれにおいて車両102のそれぞれの推定速度値ごとに生成された動きベクトル情報を検索するように構成されてもよい。生成された動きベクトル情報は、画像捕捉システム300のメインメモリ204Aから検索されてもよい。その後、指定されたルート上の複数の位置のそれぞれにおいて、カーネル導出エンジン308は、車両102の複数の速度値のそれぞれに関して画像カーネルを導出するように構成されてもよい。換言すると、複数の画像カーネルが、各位置で車両102の複数の速度値に関して導出されてもよい。別の言い方をすると、特定の位置での異なる想定し得る速度値のうちの1つの速度値に関して1つの画像カーネルが有効であってもよく或いは使用されてもよく、また、単一の画像カーネルが一度に補償のために使用されてもよい。導出された各画像カーネルは、撮像センサ318の第1の分解能と同等の次数を有するカーネル行列として配置される複数のフィルタ係数を含む。生成された動きベクトル情報と、車両102から捕捉され得る画像の複数のピクセルにおける起こり得るシフトとの間の関係が検出されてもよい。各画像カーネルは、生成された動きベクトル情報に基づいて導出されてもよい。一実施形態によれば、撮像センサ318のピクセルの横列又は縦列に対応するピクセル配列に関するカーネル係数(又はカーネル値)は、特定の位置に関する対応する動きベクトル情報から評価されてもよい。
1つの例において、表1における位置インデックス(LC)に関する画像カーネル(KC)は、以下のように式(1)によって与えられてもよい。
ここで、画像カーネル(KC)の各横列又は縦列は、撮像センサ318のピクセルの対応するピクセル配列(又は横列/縦列)に関するカーネル係数の横列又は縦列を含んでもよい。一実施形態によれば、導出された画像カーネルの次数は、撮像センサ318の第1の分解能に等しくてもよい。
ここで、画像カーネル(KC)の各横列又は縦列は、撮像センサ318のピクセルの対応するピクセル配列(又は横列/縦列)に関するカーネル係数の横列又は縦列を含んでもよい。一実施形態によれば、導出された画像カーネルの次数は、撮像センサ318の第1の分解能に等しくてもよい。
他の例において、表1における位置インデックス(LC)に関する画像カーネル(KC)は、以下のように式(2)によって与えられてもよい。
ここで、画像カーネル(KC)の各横列又は縦列は、撮像センサ318のピクセルの対応するピクセル配列(又は横列/縦列)に関して、0、1、2、3などのカーネル係数を含んでもよい。一実施形態によれば、導出された画像カーネルの次数は、撮像センサ318内のピクセルの縦列の次数と等しくてもよい。
ここで、画像カーネル(KC)の各横列又は縦列は、撮像センサ318のピクセルの対応するピクセル配列(又は横列/縦列)に関して、0、1、2、3などのカーネル係数を含んでもよい。一実施形態によれば、導出された画像カーネルの次数は、撮像センサ318内のピクセルの縦列の次数と等しくてもよい。
カーネル導出エンジン308は、指定されたルート上の複数の位置のそれぞれで車両102の複数の速度値に関して導出された画像カーネルを記憶するように更に構成されてもよい。導出された画像カーネルは、画像捕捉システム300のホストメモリ204B(又はメモリデバイス)に記憶されてもよい。一実施形態によれば、前述の画像カーネル又は動きベクトル情報は、指定されたルートに関して車両102の自律モードが選択される前に導出されて記憶されてもよい。一実施形態によれば、画像カーネル又は動きベクトル情報は、指定されたルート上での車両102の走行前に導出されてもよい。
指定されたルート上での車両102の動作中、車両102は、推定された複数の速度値のうちの1つ以上で推定された複数の位置をカバーしてもよい。車両102の現在の速度値及び現在位置の推定は、車両102の動作中に実行されてもよい。画像捕捉システム300内の位置センサ310及び速度センサ312は、車両102の現在の位置及び現在の速度値をそれぞれ推定するように構成されてもよい。現在の速度値及び現在の位置の推定を利用して、指定されたルート上の車両102の連続する位置を予測してもよい。
特定の条件において、車両102は、車両102に関して指定されたルートとは異なるルートで運転されてもよい。そのような差別化は、ユーザによる車両102の手動運転によって引き起こされてもよい。更新されたルートは、車両102の現在の位置から評価されてもよく、また、更新された画像カーネル及び更新された動きベクトル情報は、車両102の更新されたルートに関して生成されてもよい。
予測エンジン314は、メインメモリ204Aから、車両102の推定された現在の位置及び推定された現在の速度値に関する動きベクトル情報を検索するように構成されてもよい。その後、予測エンジン314は、車両102の現在の位置で、指定されたルート上の車両102の連続する位置を予測するように更に構成されてもよい。予測は、指定されたルート上の現在の位置における車両102の現在の速度値に関して生成された動きベクトル情報に基づいてもよい。別の言い方をすれば、連続する位置の予測は、指定されたルート上の車両102の現在の位置からの動きベクトル情報の加算又は減算に基づいてもよい。
一実施形態によれば、「Nマイル/時」の現在の速度値及び「n」の位置インデックスにおける現在の位置(LCX(n)、LCY(n))での動きベクトル(MVX(n)、MVY(n))度に関して、連続する位置(LCX(n+1)、LCY(n+1))は以下の式(3),(4)から予測されてもよい。
例えば、「30マイル/時」の現在の速度値及び(「77.69183419」、「12.92984374」)度の「1」のLC(表1を参照)における現在の位置での(「2.28E−5」、「3.43E−6」)度の動きベクトル(MVX、MVY)に関して式(3)及び式(4)を使用して、連続する位置(LCX(2)、LCY(2))が以下のように予測されてもよい。
予測された連続する位置は、予測エンジン314によって画像捕捉システム300の選択エンジン316に与えられてもよい。選択エンジン316は、車両102の予測された連続する位置に関して導出された画像カーネルを選択するように更に構成されてもよい。予測された連続する位置に関して導出された画像カーネルは、指定されたルート上の車両102の予測された連続する位置及び推定された現在の速度値に基づいて選択されてもよい。別の言い方をすると、選択エンジン316は、指定されたルート上の車両102の現在の速度値及び予測された連続する位置に関して導出された画像カーネルを識別又は検索してもよい。検索は、ホストメモリ204Bに記憶されたデータベースで実行されてもよい。更に、選択エンジン316は、指定されたルート上の車両102の現在の速度値及び現在の位置に関して導出された画像カーネルを選択するように更に構成されてもよい。車両102の現在の位置及び現在の速度値に関して導出された画像カーネルは、車両102が指定されたルート上の現在の位置に到達する前に、撮像センサ318の複数の現在の画像カーネルレジスタ324A…324Nに転送されてもよい。その後、選択エンジン316は、予測された連続する位置に関して導出された画像カーネルを撮像センサ318の複数の現在の画像カーネルレジスタ324A….324N内に転送するように構成されてもよい。予測された連続する位置に関して導出された画像カーネルは、ホストメモリ204Bから、指定されたルート上の車両102の現在の位置で、撮像センサ318の複数の現在の画像カーネルレジスタ324A….324N内に転送されてもよい。車両102の現在の位置における連続する位置に関して導出された画像カーネルをホストメモリ204Bから撮像センサ318の複数の現在の画像カーネルレジスタ324A…324N内に転送することが有利となり得る。転送は、車両102の動作中に捕捉された画像の複数のピクセルにおける位置シフトのほぼリアルタイムのオンチップ補償を確定する。
撮像センサ318内で、撮像センサ318に関連する専用のマイクロプロセッサは、撮像センサ318のセンサコア320に制御信号を与えるように構成されてもよい。撮像センサ318又は具体的にはセンサコア320は、指定されたルート上の予測された連続する位置で第1の画像を捕捉するように構成されてもよい。第1の画像は、センサコア320内のピクセルレベル回路の配列で照明によって引き起こされ得る捕捉された励起と同等であってもよい。
第1の画像は、ローリングシャッター効果によって引き起こされ得る複数のピクセルのシフトを示してもよい。複数のピクセルのシフトは、撮像センサ318のセンサコア320によって捕捉される、複数のピクセル値の各ピクセル値の位置シフトに対応してもよい。更に、撮像センサ318のセンサコア320は、撮像センサ318のセンサコア320によって捕捉されるべき予期されたピクセル値に対するものとしてノイズに影響されたピクセル値を捕捉してもよい。そのようなずれは、対向する車両又は物体によって引き起こされ得る照明、低光ノイズなどによってもたらされてもよい。
一実施形態によれば、捕捉された第1の画像の複数のピクセルのシフトは、(図5Bに示すように)捕捉された第1の画像の対応するピクセル配列内の複数のピクセルの各ピクセルの循環シフトであってもよい。一実施形態によれば、捕捉された第1の画像の複数のピクセルのシフトは、捕捉された第1の画像の対応するピクセル配列内の複数のピクセルの各ピクセルの左シフトであってもよい。一実施形態によれば、捕捉された第1の画像の複数のピクセルのシフトは、捕捉された第1の画像の対応するピクセル配列内の複数のピクセルの各ピクセルの右シフトであってもよい。対応するピクセル配列は、捕捉された第1の画像の横列又は縦列であってもよい。
一実施形態によれば、捕捉された第1の画像の対応するピクセル配列内の複数のピクセルのシフトは、(図5Bに示されるように)一定であってもよい。一実施形態によれば、捕捉された第1の画像の複数のピクセル配列内の複数のピクセルのシフトは、ステップサイズに基づいて更に変化してもよい。ステップサイズは、更に、現在の速度値と、指定されたルート上の車両102の現在の位置に関して生成された動きベクトル情報とに基づいていてもよい。
例えば、ピクセル位置を1、2、3、……、nとして指定する最初の3つの予期されるピクセル配列P[n]が以下のように与えられ(行列(5)によって示される)、ここで、nは、各ピクセル配列の長さ、並びに、捕捉された第1の画像の幅に等しい。
ピクセル位置を1、2、3、……、nとして指定する最初の3つの捕捉されたピクセル配列P[n]が以下のように与えられ(行列(6)によって示される)、ここで、nは、各ピクセル配列の長さ(6)、並びに、捕捉された第1の画像の幅に等しい。
上記の行列(6)の例を続けると、前述のように、ピクセル位置のシフトは、第1のピクセル配列P1[n]に関しては「0」であり、第2のピクセル配列P2[n]に関しては「1」であり、第3のピクセル配列P3[n]に関しては「2」である。したがって、ピクセル位置のシフトは、捕捉されたピクセル配列(横列)に関しては一定であり、横列ごとに下方に移動しながら、「1」のステップサイズだけ変化する。一実施形態によれば、捕捉された第1の画像の対応するピクセル配列内の複数のピクセルのシフトは変化し得る(図示せず)。したがって、捕捉された第1の画像の複数のピクセル配列内の複数のピクセルのシフトは、ステップサイズに基づいて更に変化し得る。
一実施形態によれば、第1の画像は、センサコア320からのピクセル配列(ピクセルの横列又は縦列)の漸進的走査に基づいて捕捉されてもよい。そのような場合、対応する捕捉されたピクセル配列内の複数のピクセルのシフトの補償が必要とされる場合がある。読み出しレジスタ322は、各読み出しサイクルにおいて撮像センサ318のセンサコア320からフラッシュされるピクセル値のピクセル配列を記憶するように構成されてもよい。ピクセル値のピクセル配列は、センサコア320のピクセルレベル回路の垂直の漸進的走査又は水平の漸進的走査に基づいてピクセル値が捕捉されるかどうかに応じて、ピクセル値の横列又はピクセル値の縦列のうちの一方と関連付けられてもよい。例えば、読み出しレジスタ322にフラッシュアウトされる記憶されたピクセル配列(P[i])は、以下のように与えられてもよい((スキーマ7)によって表わされる)。
前述(スキーマ7)したように、記憶されたピクセル配列(P[i])は一連のピクセル値を含んでもよく、これは、角括弧内のピクセル位置によって更にマークされてもよい。ここで、iは1…nの範囲であってもよく、この場合、nは、捕捉された第1の画像の幅又は読み出しレジスタ322の長さに対応してもよい。
前述(スキーマ7)したように、記憶されたピクセル配列(P[i])は一連のピクセル値を含んでもよく、これは、角括弧内のピクセル位置によって更にマークされてもよい。ここで、iは1…nの範囲であってもよく、この場合、nは、捕捉された第1の画像の幅又は読み出しレジスタ322の長さに対応してもよい。
上記の実施形態を参照すると、補償エンジン328は、撮像センサ318内の捕捉された第1の画像における複数のピクセルのシフトを補償するように構成されてもよい。捕捉された第1の画像の複数のピクセルのシフトの補償は、捕捉された第1の画像のラインごとの補償と称されてもよい。ラインごとの補償は、捕捉された第1の画像の各ピクセル配列の順次補償に対応してもよい。更に、補償は、車両102の予測された連続する位置に関して導出された画像カーネルに基づいてもよい。
第1の画像における複数のピクセルのシフトを補償するための様々な技術が以下に説明されている。しかしながら、本開示の範囲は、以下の典型的な技術の説明によって限定されると解釈されない場合がある。
第1の技術において、補償エンジン328は、捕捉された第1の画像の複数のピクセルのピクセル配列を撮像センサ318の読み出しレジスタ322から受信するように構成されてもよい。複数のピクセルのピクセル配列は、捕捉された第1の画像の横列又は縦列に対応してもよい。その後、補償エンジン328は、車両102の連続する位置に関して導出された画像カーネルの画像カーネル配列を選択するように更に構成されてもよい。画像カーネル配列は、捕捉された第1の画像の対応する受信されたピクセル配列に関して選択されてもよい。したがって、動きベクトル情報は、車両102の連続する位置を予測するためだけでなく、画像カーネル配列を生成/導出するためにも使用される。受信されたピクセル配列及び選択された画像カーネル配列は、撮像センサ318の専用レジスタ(図示せず)又は集積メモリ(図示せず)に記憶されてもよい。捕捉された第1の画像のシフト補償されたピクセル配列は、補償エンジン328によって生成されてもよい。シフト補償されたピクセル配列は、導出された画像カーネルの選択された画像カーネル配列による受信されたピクセル配列の変換に基づいて生成されてもよい。変換は、選択された画像カーネル配列と捕捉された第1の画像の受信されたピクセル配列との間の算術演算又は論理演算であってもよい。典型的な変換としては、加算、乗算、除算、減算、論理AND、論理OR、論理NAND、論理NOR、論理XOR、シフト、及び、論理NOTを挙げることができるが、これらに限定されない。補償エンジン328は、捕捉された第1の画像の複数のピクセル配列のそれぞれに関して撮像センサ318の集積メモリ内のシフト補償されたピクセル配列を更新するように更に構成されてもよい。シフト補償されたピクセル配列は、(図5Cに示されるように)更新された画像を取得するために集積メモリ内で繰り返し更新されてもよい。更新された画像は、(図5Cに示されるように)複数の望ましくないピクセルに対応し得る更新された画像の第1の分解能内の領域と関連付けられてもよい。
例えば、受信された長さ(n)のピクセル配列(P[i])及び選択された画像カーネル配列(KC[i])が以下に与えられる。
(8)及び(9)に示されるように、選択された画像カーネル配列(KC[i])によって減算ベースの変換が受信されたピクセル配列(P[i])に適用されてもよい。言い換えると、選択された画像カーネル配列(KC[i])は、マトリクス減算によって受信されたピクセル配列(P[i])から減算されてもよい。各係数KC[1]、KC[2]、…、KC[n]は、シフト補償されたピクセル配列(PS[i])を取得するために受信されたピクセル配列の対応する位置値から差し引かれてもよい。シフト補償されたピクセル配列(PS[i])は以下のように与えられてもよい。
変換によってもたらされる位置シフト補償は、(10)に示されるように、望ましくないピクセルに対応する空の位置、つまり、シフト補償されたピクセル配列(PS[i])の0番目の位置をもたらしてもよい。
(8)及び(9)に示されるように、選択された画像カーネル配列(KC[i])によって減算ベースの変換が受信されたピクセル配列(P[i])に適用されてもよい。言い換えると、選択された画像カーネル配列(KC[i])は、マトリクス減算によって受信されたピクセル配列(P[i])から減算されてもよい。各係数KC[1]、KC[2]、…、KC[n]は、シフト補償されたピクセル配列(PS[i])を取得するために受信されたピクセル配列の対応する位置値から差し引かれてもよい。シフト補償されたピクセル配列(PS[i])は以下のように与えられてもよい。
変換によってもたらされる位置シフト補償は、(10)に示されるように、望ましくないピクセルに対応する空の位置、つまり、シフト補償されたピクセル配列(PS[i])の0番目の位置をもたらしてもよい。
更新された画像内の複数の望ましくないピクセルを更に補償するために、補償エンジン328は、リアルタイム又はほぼリアルタイムで第2の画像を生成するべく2つの技術(後述する)のうちの1つを更に実施してもよい。生成された第2の画像は、撮像センサ318からの最適に補償された出力画像であってもよい。
一実施形態によれば、補償エンジン328は、(図5Dに示されるように)更新された画像内の複数の望ましくないピクセルに対応する領域を除去するように構成されてもよい。言い換えると、補償エンジン328は、複数の望ましくないピクセルを備えてもよい更新された画像の領域を廃棄してもよく、また、更新された画像の第1の分解能から複数の望ましくないピクセルの領域を引いた領域を更に選択してもよい。第2の画像は、更新された画像からの望ましくない領域の除去から取得されてもよいが、第2の画像の第2の分解能は、更新された画像又は捕捉された第1の画像の第1の分解能より低くてもよい。例えば、第2の画像の幅は、捕捉された第1の画像又は更新された画像の幅より小さくてもよい。
一実施形態によれば、補償エンジン328は、(図5Eに示されるように)更新された画像内の複数の望ましくないピクセルに対応する領域に隣接して位置する領域にピクセル値を投入するように構成されてもよい。捕捉された第1の画像の第1の分解能に等しい第2の分解能を有する第2の画像が取得されてもよい。
第2の技術において、撮像センサ318のセンサコア320は、(図6に示されるように)第2の画像にとって望ましい又は目標の分解能より高くてもよい第1の分解能で第1の画像を捕捉するように構成されてもよい。撮像センサ318のセンサコア320は、指定されたルート上の車両102の予測された連続する位置で複数のピクセル(横列又は縦列)のスケーリングされたピクセル配列を捕捉するように構成されてもよい。
補償エンジン328は、車両102の現在の速度値で引き起こされ得る最大シフトを局所的に予測してもよい。その後、補償エンジン328は、スケーリングされたピクセル配列から第2の分解能を有する第1のピクセル配列を選択してもよい。第1のピクセル配列の選択は、対応するスケーリングされたピクセル配列内の複数のピクセルの局所的に予測された最大シフトに基づいてもよい。別の言い方をすれば、対応する各位置での選択されたピクセル配列に対する最大シフトの影響が最小になるように指定されたルート上のそれぞれの位置ごとに第1のピクセル配列が適応的に選択されてもよい。捕捉されたピクセル配列は、選択された第1のピクセル配列の対応する長さ(又は幅)より大きくてもよい長さ(又は幅)と関連付けられてもよい。その後、補償エンジン328は、それぞれの捕捉されたピクセル配列ごとに撮像センサ318の集積メモリ内の第1のピクセル配列を更新するように構成されてもよい。第2の画像は、撮像センサ318の集積メモリ内の選択された第1のピクセル配列の反復更新によって取得されてもよい。撮像センサ318が第1の分解能と関連付けられてもよく、また、第2の画像が第2の分解能と関連付けられてもよい。撮像センサ318の第1の分解能は、第2の画像の第2の分解能以上であってもよい。
より高い分解能で、撮像センサ318は、所望のビューとは対照的に、より幅広いビューを有利に捕捉してもよい。第1の画像内の捕捉されたより幅広いビューが余分な領域を含んでもよい。そのような余分な領域は、第1の画像の境界付近に存在する場合があり、単一の走査サイクルで低分解能の撮像センサでは以前はアクセスできなかった領域を捕捉し得る。このような余分な領域は、複数のピクセルのシフトによって影響され得る。したがって、補償エンジン328は、読み出し段階で、捕捉されたビューの余分な領域に対応する複数のピクセルを拒否してもよい。実際には、第2の画像は、優れた品質及び所望の分解能を有してもよく、車両102の(図2に記載されるような)他の動作構成要素による使用に更に適してもよい。第2の画像は、捕捉された第1の画像において引き起こされるローリングシャッター効果が補償されてもよい。
前述の技術による捕捉された第1の画像の複数のピクセルのシフトの補償は、撮像センサ内のオンチップ補償であってもよい。好適には、オンチップ補償は、リアルタイム又はほぼリアルタイムで実行されてもよく、それにより、車両102の他の動作構成要素による第2の画像のアクセス可能性に伴う遅延が低減される。車両102の異なる速度値に関するピクセルの位置シフトを適応的に補償することは更に有利であり、これにより、車両102の非常に速い動作において、例えば速度閾値「X」を超える速度で生成され得る最適な画質が確保される。
幾つかの実施形態において、捕捉された第1の画像の複数のピクセルのシフトは、捕捉された第1の画像に関して単一の動作サイクルで同時に全体的に補償されてもよい。全体的な補償は、捕捉された第1の画像の異なるピクセル配列の同時補償に対応してもよい。全体的な補償は、ラインごとの補償と同様に実行されてもよく、したがって、簡潔にするために説明が省かれている。
図4A及び図4Bは、本開示の一実施形態に係る、車両に供給される典型的なルート、及び、典型的なルートから導出される動作情報のプロットを示す。図4A及び図4Bは、図1、図2、及び、図3からの要素と関連して説明される。図4Aを参照すると、画像捕捉システム300のナビゲーションユニット304に供給されるルート402の典型的な図が示される。図示のように、ルート402は、ルート開始マーカー404A、複数の位置マーカー404B、及び、終了ルートマーカー404Cを備えてもよい。連続的な経路が、ルート開始マーカー404A、複数の位置マーカー404B、及び、ルート終了マーカー404Cのそれぞれを結び付けてもよい。連続的な経路は、ルート402の全長にわたって必ずしも直線である必要はない。ルート402の長さは、ルート402によって形成される曲線の長さに対応してもよい。更に、画像捕捉システム300のナビゲーションユニット304は、ルート402上の複数の位置マーカー404Bに対応し得る複数の位置を選択するように構成されてもよい。複数の位置の各位置は、度又はマイルのいずれかで測定されたGPS座標などの位置座標を表わしてもよい。複数の位置は、データベース内の表形式の記録として更新されて、(図3で更に説明される)画像捕捉システム300のメインメモリ204A(図2及び図3)に記憶されてもよい。
図4Bを参照すると、図4Aのルート402の複数の位置マーカー404Bに関する動きベクトル情報の典型的なプロット406が示される。複数の位置マーカー404Bに関する動きベクトル情報は、複数の位置マーカー404Bの各位置マーカーに関してルート開始マーカー404Aから終了ルートマーカー404Cに連続的に向けられた一連の動きベクトル(有向矢印)として表わされてもよい。各動きベクトルの方向は、車両102の想定し得る動きの方向を指し示してもよい。動きベクトル情報のプロットは、20マイル/時などの特定の速度値に関して評価されてもよい。他の場合(図示せず)において、動きベクトル情報のプロットは、動きベクトル情報の示されたプロットのために使用される特定の速度値に関して示されたプロットとは異なってもよい。そのような違いは、ルート404上の同じ位置マーカーに関して動きベクトル情報の表示のために異なる速度値を使用すると生じ得る。動きベクトル情報は、図2で更に定量的に説明されている。
図5Aは、本開示の一実施形態に係る、撮像センサによって動作中に捕捉されるべき理想的な画像である基準画像の典型的なピクセルレベルのビューを示す。図5Aは、図1、図2、及び、図3からの要素と関連して説明される。図5Aを参照すると、ローリングシャッター効果により影響されない所望の又は理想的な画像の典型的な画像マトリクス502が示される。所望の画像の画像マトリクス502は、図5Bの捕捉された第1の画像における複数のピクセルの位置シフトのオンチップ補償後に取得される第2の画像(図2)の画像マトリクスであってもよい。画像マトリクス502は、それぞれの横列が複数のピクセルを含むことができるように複数の横列(又はピクセル配列)を含んでもよい。互いに積み重ねられる複数の横列は、画像マトリクス502の高さ506と関連付けられてもよい。各横列は、画像マトリクス502の幅508と更に関連付けられてもよい。高さ506及び幅508は、まとめて、所望の画像の分解能と称されてもよい。画像マトリクス502のそれぞれの横列及び縦列は、第1の位置引数を表わすための1、第2の位置引数を表わすための2、及び、第3の位置引数を表わすための3など、それぞれのピクセルごとに位置引数504を更に含んでもよい。位置引数は、実際のピクセル値ではなく、対応するピクセル値の位置と関連付けられてもよい。
図5Bは、本開示の一実施形態に係る、撮像センサによって動作中に捕捉されるローリングシャッター効果により影響される画像の典型的なピクセルレベルビューを示す。図5Bは、図1、図2、図3、及び、図5Aのパラメータに関連して説明される。図5Bを参照すると、ローリングシャッター効果によって影響される捕捉された第1の画像の典型的な画像マトリクス510が示される。捕捉された第1の画像の画像マトリクス510は、画像マトリクス510の各横列における複数の位置引数504のシフトと関連付けられてもよい。更に、シフトは、画像マトリクス510のそれぞれの横列に関して一定の循環シフトであってもよく、画像マトリクス510に関して横列方向に下向きに移動しながら後続の各横列ごとに1などのステップサイズ分だけ更に増加してもよい。画像マトリクス510は、図5Aの所望の画像の分解能に等しくてもよい分解能と関連付けられてもよい。撮像センサ318の補償エンジン328(図3)は、図5Bの捕捉された第1の画像の画像マトリクスにおける複数のピクセル(位置引数)のシフトを補償するように構成されてもよい。捕捉された第1の画像からシフト補償された第2の画像を生成するための異なる補償技術が図3に記載されており、また、典型的な出力が図5C及び図5Dに更に与えられている。
図5Cは、本開示の一実施形態に係る、車両の動作中に撮像センサによってローリングシャッター効果が補償された画像の典型的なピクセルレベルビューを示す。図5Cを参照すると、図5Bの捕捉された第1の画像の補償後に取得される更新された画像の典型的な画像マトリクス512が示される。図5Cは、図5A及び図5Bのパラメータと関連して説明され得る。更新された画像の画像マトリクス512は、捕捉された第1の画像の画像マトリクス510のシフト補償された変換を表わしてもよい。図示のように、画像マトリクス512は、対応する複数の望ましくないピクセル(図3)に関する複数の望ましくない位置引数514と、対応する複数の望ましいピクセル(点線で示される)に関する複数の望ましい位置引数516とを含んでもよい。補償エンジン328は、複数の望ましくない位置引数514及び複数の所望の位置引数516を有する更新された画像を生成するように構成されてもよい。
図5Dは、本開示の一実施形態に係る、図5Cの画像の補償後に取得される画像の典型的なピクセルレベルビューを示す。図5Dは、図1、図2、図3、図5A、図5B、及び、図5Cのパラメータに関連して説明される。図5Dを参照すると、図5Cの更新された画像の補償後に取得される第2の画像の典型的な画像マトリクス518が示される。補償エンジン328(図3)を使用することにより、対応する複数の所望のピクセルに関する長方形領域(図5Cに点線で示される)が、(図3で説明されるように)第2の画像を生成するために更新された画像から切り取られてもよい。第2の画像は、図5Cの更新された画像の幅508よりも小さい幅520と関連付けられてもよい。
図5Eは、本開示の他の実施形態に係る、図5Cの画像の補償後に取得される画像の典型的ピクセルレベルビューを示す。図5Eは、図1、図2、図3、図5A、図5B、図5C、及び、図5Dのパラメータに関連して説明される。図5Eを参照すると、更新された画像の補償後に取得される第2の画像の典型的な画像マトリクス522が示される。補償エンジン328(図3)の使用により、複数の望ましくない位置引数514に関する複数の望ましくないピクセル(図5Cに点線で示される)には、(図3で説明されるように)第2の画像を生成するべく更新された画像の対応する隣接位置引数に関して隣接するピクセル値が投入されてもよい。画像マトリクス522の強調表示された領域524が示され、該領域は、隣接する位置引数を有するピクセルから複製されたピクセル値を含む。
図6は、本開示の一実施形態に係る、ローリングシャッター効果のオンチップ補償のために適合される撮像センサの典型的な回路を示す。図6を参照すると、読み出しレジスタ322(図3)に通信可能に結合されるセンサコア320を備える撮像センサ318が示される。撮像センサ318は、指定されたルート上で自律的又は半自律的に駆動される能力を有する車両102の周囲の外側ビューを捕捉するために車両102の車体に配置されるCMOSセンサであってもよい。撮像センサ318のセンサコア320は、ピクセルレベル回路602の配列、横列選択ライン606、及び、縦列選択ライン608を備えてもよい。ピクセルレベル回路602の配列内の各ピクセルレベル回路は、フォトダイオード604Aと、フォトダイオード604Aに結合される能動電荷増幅器604Bとを備えてもよい。図示されないが、撮像センサ318は、マイクロプロセッサ、GPU、導出された複数の画像カーネルを記憶するための専用レジスタ、集積メモリなどのうちの1つを更に備えてもよい。
撮像センサ318は、撮像センサ318からの出力として必要とされる第1の画像の所望の分解能よりも高くてもよい第1の分解能と関連付けられてもよい。そのようなより高い分解能は、撮像センサ318が既に利用可能なビューよりも大きいビューを捕捉し得るように、ピクセルレベル回路602の配列におけるピクセルレベル回路の数の増大に対応してもよい。ピクセルレベル回路の数の増大は、センサコア320内のピクセルレベル回路の横列又は縦列に沿っていてもよい。捕捉された第1の画像の幅(ピクセルで測定される)は、センサコア320内のピクセルレベル回路の横列に沿うピクセルレベル回路の数の増大にしたがって増大してもよい。したがって、捕捉された第1の画像の高さ(同様にピクセルで測定される)は、センサコア320内のピクセルレベル回路の縦列に沿うピクセルレベル回路の数の増大にしたがって増大してもよい。捕捉された第1の画像の複数のピクセルにおけるローリングシャッター効果によって引き起こされるシフトを補償するために、撮像センサ318は、センサコア320内のピクセルレベル回路の配列のそれぞれの横列又は縦列からピクセルの部分配列をフラッシュするように構成されてもよい。それぞれの横列が横列選択ライン606によって選択されてもよく、また、それぞれの縦列が縦列選択ライン608によって選択されてもよい。
例えば、撮像センサ318は、捕捉された第1の画像の所望の幅(W2ピクセル)よりも大きくてもよい幅(W1ピクセル)と関連付けられてもよい。幅(W1ピクセル)は、幅(W2ピクセル)よりも2Nピクセルだけ大きくてもよい。そのような2Nピクセルは、捕捉された第1の画像のエッジ付近に存在する場合があり、ローリングシャッター効果によって引き起こされるシフトによる影響を最も受け得る。したがって、補償エンジン328は、W1〜2Nピクセル、すなわち、W2ピクセルのみを、撮像センサ318の各横列から読み出しレジスタ322にフラッシュするように構成されてもよい。その後、幅(W2ピクセル)のピクセル値の配列又は横列は、撮像センサ318内のピクセルレベル回路のそれぞれの横列又は縦列ごとに撮像センサ318の集積メモリで更新されてもよい。第2の画像は、集積メモリ内のピクセル値の配列又は横列の反復更新後に取得されてもよい。
図7Aは、本開示の一実施形態に係る、車両の撮像センサにおけるローリングシャッター効果のオンチップ補償のための典型的な方法を示すフローチャートである。図7Aは、図1、図2、図3、図4A、図4B、図5A〜図5E、及び、図6と関連して説明され得る。図7Aを参照すると、702〜722までの典型的な動作を含むフローチャート700が示される。オンチップ補償のための典型的な動作は、702で始まり、704へ移行し得る。
704において、車両102のナビゲーションのための指定されたルートは、メモリデバイスから検索されてもよい。メインメモリ204A又はホストメモリ204Bなどのメモリデバイスは、車両102のナビゲーションデバイスと関連付けられる車載メモリであってもよい。ナビゲーションユニット304は、(図3で説明されるように)指定されたルートに沿う車両102のナビゲーションのために指定されたルートをメモリデバイスから検索するように構成されてもよい。
706では、車両102の複数の速度値に関する動きベクトル情報が、指定されたルート上の複数の位置の各位置に関して生成されてもよい。生成エンジン306は、(例えば、図3に記載されるように)指定されたルート上の複数の位置の各位置で車両102の複数の速度値に関する動きベクトル情報を生成するように構成されてもよい。
708では、指定されたルート上の複数の位置の各位置で車両102の複数の速度値に関して複数の画像カーネルが導出されてもよい。カーネル導出エンジン308は、指定されたルート上の複数の位置の各位置で車両102の複数の速度値に関して複数の画像カーネルを導出するように構成されてもよい。導出された画像カーネルの例が図3に与えられている。
710では、導出された複数の画像カーネルが、指定されたルート上のそれぞれの速度値及びそれぞれの位置ごとにメモリデバイスに記憶されてもよい。メモリデバイスは、画像捕捉システム300のホストメモリ204Bであってもよい。カーネル導出エンジン308は、(例えば、図3で説明されるように)指定されたルート上のそれぞれの速度値及びそれぞれの位置ごとに導出された複数の画像カーネルをメモリデバイスに記憶するように構成されてもよい。
712では、車両102の現在の位置及び現在の速度値に関して生成された動きベクトル情報に基づいて、車両102の連続する位置が予測されてもよい。予測エンジン314は、車両102の現在の位置及び現在の速度値に関して生成された動きベクトル情報に基づいて車両102の連続する位置を予測するように構成されてもよい。
714では、車両102の現在の速度値と現在の位置に関して生成された動きベクトル情報とに基づいて、予測された連続する位置に関して導出された複数の画像カーネルのうちの1つからの選択が実行されてもよい。選択エンジン316は、予測された連続する位置に関して導出された複数の画像カーネルのうちの1つを選択するように構成されてもよい。選択は、車両102の現在の速度値と現在の位置に関して生成された動きベクトル情報とに基づいてもよい。
716では、予測された連続する位置に関する選択された画像カーネルが、指定されたルート上の車両102の現在の位置で、撮像センサハードウェアレジスタに転送されてもよい。選択エンジン316は、予測された連続する位置に関して選択された画像カーネルを、指定されたルート上の車両102の現在の位置で撮像センサハードウェアレジスタに転送するように構成されてもよい。撮像センサハードウェアレジスタは、撮像センサ318内の複数の現在の画像カーネルレジスタ324A…324N及び複数の予測された画像カーネルレジスタ326A…326Nを含んでもよい。
718では、第1の画像が、指定されたルート上の車両102の予測された連続する位置で捕捉されてもよい。撮像センサ318は、指定されたルート上の車両102の予測された連続する位置で第1の画像を捕捉するように構成されてもよい。
720では、選択された画像カーネルによる捕捉された第1の画像の複数のピクセルのシフトの補償に基づいて、捕捉された第1の画像から第2の画像が生成されてもよい。補償エンジン328は、捕捉された第1の画像の複数のピクセルのシフトの補償に基づいて、捕捉された第1の画像から第2の画像を生成するように構成されてもよい。シフトは、(例えば、図3に記載されるように)選択された画像カーネルによって補償されてもよい。制御は終了へ移行し得る。
図7Bは、本開示の一実施形態に係る、第2の画像を生成するための典型的な方法を示すフローチャートである。図7Bは、図1、図2、図3、図4A、図4B、図5A、図5B、図5C、図5D、図5E、図6、及び、図7Aと関連して説明され得る。図7Bには、オンチップ補償を達成するために、例えば、図7Aの動作720を詳細に説明する720A〜702Fの典型的な動作を含むフローチャート724Aが示される。第2の画像を生成するための典型的な動作は、720Aで始まり、720E又は702Fに移行し得る。
720Aでは、捕捉された第1の画像の複数のピクセルのピクセル配列が撮像センサ318から受信されてもよい。補償エンジン328は、捕捉された第1の画像の複数のピクセルのピクセル配列を撮像センサ318から受信するように構成されてもよい。
720Bでは、複数の係数を含むカーネル配列が、受信されたピクセル配列に関して選択されてもよい。補償エンジン328は、受信されたピクセル配列に関する複数の係数を含むカーネル配列を選択するように構成されてもよい。
720Cにおいて、シフト補償されたピクセル配列は、撮像センサ318内の選択されたカーネル配列による受信されたピクセル配列の変換に基づいて生成されてもよい。補償エンジン328は、撮像センサ318内で、選択されたカーネル配列による受信されたピクセル配列の変換に基づいてシフト補償されたピクセル配列を生成するように構成されてもよい。
720Dにおいて、シフト補償されたピクセル配列は、更新された画像を取得するべく捕捉された第1の画像の複数のピクセル配列のそれぞれに関して撮像センサ318の集積メモリで更新されてもよい。補償エンジン328は、撮像センサ318の集積メモリ内のシフト補償されたピクセル配列を更新するように構成されてもよい。シフト補償されたピクセル配列は、更新された画像を取得するために捕捉された第1の画像の複数のピクセル配列のそれぞれに関して反復的に更新されてもよい。幾つかの実施形態では、制御が720Eに移行してもよい。幾つかの実施形態では、制御が、所定の設定又は特定の選好に基づいて、720Eではなく720Fに移行してもよい。
720Eでは、第2の画像を取得するべく、複数の望ましくないピクセルに対応し得る領域が、更新された画像の第1の分解能から除去されてもよい。補償エンジン328は、第2の画像を取得するために、複数の望ましくないピクセルに対応し得る領域を更新された画像から除去するように構成されてもよい。制御は終了へ移行し得る。
720Fでは、複数の望ましくないピクセルに対応し得る領域に、該領域に隣接して位置するピクセル値が投入されてもよい。補償エンジン328は、複数の望ましくないピクセルに対応し得る領域に、該領域に隣接して位置するピクセル値を投入するように構成されてもよい。第2の画像は、領域にピクセル値を投入することに基づいて取得されてもよい。制御は終了へ移行し得る。
図7Cは、本開示の更に他の実施形態に係る、第2の画像を生成するための典型的な方法を示すフローチャートである。図7Cは、図1、図2、図3、図4A、図4B、図5A、図5B、図5C、図5D、図5E、図6、図7A、及び、図7Bと関連して説明され得る。図7Cを参照すると、オンチップ補償を達成するために、例えば図7Aの動作720を詳細に説明する720G〜720Iの典型的な動作を含むフローチャート724Bが示される。第2の画像を生成するための典型的な動作は、図6の典型的な撮像センサを使用して説明され得る。
720Gでは、指定されたルート上の車両102の予測された連続する位置で、スケーリングされたピクセル配列が捕捉されてもよい。撮像センサ318は、(図3及び図6に記載されるように)指定されたルート上の車両102の予測された連続する位置でスケーリングされたピクセル配列を捕捉するように構成されてもよい。
720Hにおいて、第2の分解能を有する第1のピクセル配列は、対応するスケーリングされたピクセル配列における複数のピクセルのシフトに基づいてスケーリングされたピクセル配列から選択されてもよい。補償エンジン328は、スケーリングされたピクセル配列から第2の分解能を有する第1のピクセル配列を選択するように構成されてもよい。選択は、対応するスケーリングされたピクセル配列内の複数のピクセルのシフトに基づいてもよい。
720Iでは、第2の画像を取得するために、選択された第1のピクセル配列が、それぞれの捕捉されたピクセル配列ごとに、撮像センサ318の集積メモリ内で更新されてもよい。補償エンジン328は、第2の画像を取得するために、それぞれの捕捉されたピクセル配列ごとに、撮像センサ318の集積メモリ内の選択された第1のピクセル配列を更新するように構成されてもよい。制御は終了へ移行し得る。
本開示は、車両で使用される従来の画像捕捉システムを超える幾つかの利点を与える。指定された経路の複数の位置(GPS座標)を事前に推定することは有利である。生成エンジン306は、好適には、指定されたルート上での車両102の動作前に動きベクトル情報を生成してもよい。予め推定された複数の位置を使用して、それぞれの位置と車両102の関連する複数の速度値とに関して複数の画像カーネルを導出することが更に有利である。そのような事前推定は、ほぼリアルタイムでローリングシャッター効果によって影響を受ける画像のより速いオンチップ補償を更にもたらし得る車両102の連続する位置の予測を容易にする。CMOS漸進的ライン走査ベースのセンサを使用することは更に有利であり、この場合、画像のラインごとの捕捉と共に、リアルタイム又はほぼリアルタイムのラインごとの補償が可能である。補償は、捕捉された第1の画像における複数のピクセルの適切な程度の位置シフトにスケーリングされ得るため、提案された解決策は、車両102付近の物体に対する車両102の相対的に速い移動中に捕捉される画像の補償にスケーリングされ得る。
幾つかの実施形態において、車両102は、陸上車両、船舶、又は、航空機やドローンなどの空中車両であってもよい。したがって、車両102は、移動機械とも称され得る。車両102などの移動機械は、バッテリ224、画像捕捉デバイス106などの撮像センサ、バッテリ224によって給電されて撮像センサに通信可能に結合されるECU104を含んでもよい。ECU104は、移動機械の指定されたルートの複数の位置の各位置で移動機械の複数の速度値に関する動きベクトル情報を生成するように構成される複数の回路を備える。複数の回路は、生成された動きベクトル情報に基づき、指定されたルート上の複数の位置のそれぞれで移動機械の複数の速度値に関して複数の画像カーネルを導出するように更に構成される。複数の回路は、指定されたルート上の現在位置で移動機械の現在の速度値に関して生成された動きベクトル情報に基づき、移動機械の現在の位置で移動機械の連続する位置を予測するように更に構成される。複数の回路は、指定されたルート上の予測された連続する位置で第1の画像を捕捉するように更に構成され、この場合、第1の画像は、ローリングシャッター効果によって引き起こされる複数のピクセルのシフトを示す。複数の回路は、移動機械の予測された連続する位置に関して導出された画像カーネルによる撮像センサ内の捕捉された第1の画像における複数のピクセルのシフトの補償に基づいて、捕捉された第1の画像から第2の画像を生成するように更に構成される。
本開示は、ハードウェアで又はハードウェアとソフトウェアとの組み合わせで実現されてもよい。本開示は、少なくとも1つのコンピュータシステムにおいて、集中態様で実現されてもよく、或いは、異なる要素が幾つかの相互接続されたコンピュータシステムにわたって分散され得る分散態様で実現されてもよい。本明細書中に記載される方法を実施するようになっているコンピュータシステム又は他の装置が適している場合がある。ハードウェアとソフトウェアとの組み合わせは、取り込まれて実行されるときにそれが本明細書中に記載される方法を実行するようにコンピュータシステムを制御できるコンピュータプログラムを伴う汎用コンピュータシステムであってもよい。本開示は、他の機能も果たす集積回路の一部を備えるハードウェアで実現されてもよい。
また、本開示は、本明細書中に記載される方法の実施を可能にする全ての特徴を備えるとともにコンピュータシステムに取り込まれるときにこれらの方法を実行できるコンピュータプログラムプロダクトに組み込まれてもよい。この文脈において、コンピュータプログラムとは、情報処理能力を有するシステムに、特定の機能を、直接的に実行させる、或いは、以下、すなわち、a)他の言語、コード、又は、表記への変換、b)異なる素材形態での再生のいずれか一方又は両方の後に実行させるようになっている命令の組の任意の言語、コード、又は、表記での任意の表現を意味する。
本開示を特定の実施形態に関連して説明してきたが、当業者であれば分かるように、本開示の範囲から逸脱することなく、様々な変更を行うことができ、また、等価物を置き換えることができる。加えて、本開示の範囲から逸脱することなく、特定の状況又は材料を本開示の教示内容に適合させるべく多くの修正を行うことができる。したがって、本開示が開示された特定の実施形態に限定されず、本開示が添付の特許請求の範囲内に入る全ての実施形態を含むことが意図される。
Claims (24)
- 撮像センサと、
メモリデバイスと、
前記撮像センサ及び前記メモリデバイスに通信可能に結合される複数の回路と、
を備え、前記複数の回路は、
車両の指定されたルートの複数の位置の各位置で前記車両の複数の速度値に関して動きベクトル情報を生成し、
前記生成された動きベクトル情報に基づいて、前記指定されたルート上の複数の位置のそれぞれで前記車両の前記複数の速度値に関して複数の画像カーネルを導出し、
前記車両の現在の位置で、前記指定されたルート上の前記現在の位置での前記車両の現在の速度値に関する前記生成された動きベクトル情報に基づき、前記車両の連続する位置を予測し、
前記撮像センサによって、前記指定されたルート上の前記予測された連続する位置で第1の画像を捕捉し、前記第1の画像が、ローリングシャッター効果によって引き起こされる複数のピクセルのシフトを示し、
前記車両の前記予測された連続する位置に関して導出された画像カーネルによる前記撮像センサ内の前記捕捉された第1の画像における複数のピクセルの前記シフトの補償に基づき、前記捕捉された第1の画像から第2の画像を生成する、
ように構成される、車両用の画像捕捉システム。 - 前記捕捉された第1の画像の前記複数のピクセルの前記シフトの前記補償が前記撮像センサ内のオンチップ補償であり、前記第2の画像は、前記捕捉された第1の画像で引き起こされる前記ローリングシャッター効果に関して補償される、請求項1に記載のシステム。
- 前記撮像センサが相補型金属酸化膜半導体(CMOS)センサであり、前記車両が自律車両又は半自律車両である、請求項1に記載のシステム。
- 前記捕捉された第1の画像の前記複数のピクセルの前記シフトの前記補償は、前記捕捉された第1の画像のラインごとの補償であり、前記ラインごとの補償は、前記捕捉された第1の画像の各ピクセル配列に関する順次補償に対応する、請求項1に記載のシステム。
- 前記捕捉された第1の画像の前記複数のピクセルの前記シフトの前記補償は、前記捕捉された第1の画像の全体的補償であり、前記全体的補償は、前記捕捉された第1の画像に関する異なるピクセル配列の同時補償に対応する、請求項1に記載のシステム。
- 前記複数の回路は、前記複数の回路に通信可能に結合されるナビゲーションデバイスから前記車両のナビゲーションのための前記指定されたルートを検索するように更に構成される、請求項1に記載のシステム。
- 前記複数の回路は、前記指定されたルート上の前記複数の速度値及び前記複数の位置の各位置に関する前記導出された複数の画像カーネルを前記メモリデバイスに記憶するように更に構成される、請求項1に記載のシステム。
- 前記複数の回路は、前記車両の前記予測された連続する位置に関する前記導出された複数の画像カーネルからの導出された画像カーネルを前記指定されたルート上の前記車両の前記現在の位置で前記撮像センサ内に転送するように更に構成される、請求項1に記載のシステム。
- 前記複数の回路は、前記指定されたルート上の前記車両の前記現在の位置及び前記現在の速度値に基づいて前記予測された連続する位置に関する前記導出された複数の画像カーネルから導出された画像カーネルを選択するように更に構成される、請求項1に記載のシステム。
- 前記指定されたルート上の前記車両の前記連続する位置は、前記指定されたルート上の前記車両の動作中の前記生成された動きベクトル情報に基づいて予測される、請求項1に記載のシステム。
- 前記複数の回路は、前記指定されたルート上の第1の位置の位置座標と第2の位置の対応する位置座標との差に基づいて前記指定されたルート上の各速度値及び各位置で前記動きベクトル情報を計算するように更に構成され、前記指定されたルート上の前記第1の位置及び前記第2の位置は、前記指定されたルートに関する前記車両の前記複数の速度値の各速度値に基づいて選択される、請求項1に記載のシステム。
- 導出された複数の画像カーネルのそれぞれは、前記捕捉された第1の画像のオンチップ補償のための複数のフィルタ係数を含む、請求項1に記載のシステム。
- 前記捕捉された第1の画像の前記複数のピクセルの前記シフトは、前記捕捉された第1の画像の対応するピクセル配列内の前記複数のピクセルの各ピクセルの循環シフトである、請求項1に記載のシステム。
- 前記捕捉された第1の画像の対応するピクセル配列内の前記複数のピクセルの前記シフトが一定である、請求項1に記載のシステム。
- 前記捕捉された第1の画像の複数のピクセル配列内の前記複数のピクセルの前記シフトは、前記指定されたルート上の前記車両の前記現在の速度値と現在の位置に関する前記生成された動きベクトル情報とに基づくステップサイズに基づいて変化する、請求項1に記載のシステム。
- 前記複数の回路は、
前記捕捉された第1の画像のピクセル配列を前記撮像センサから受信し、
前記捕捉された第1の画像の前記受信されたピクセル配列に関する前記撮像センサ内の前記導出された画像カーネルから画像カーネル配列を選択し、
前記撮像センサ内で、前記選択された画像カーネルの前記選択された画像カーネル配列による前記受信されたピクセル配列の変換に基づき、前記捕捉された第1の画像のシフト補償されたピクセル配列を生成し、
前記捕捉された第1の画像の複数のピクセル配列のそれぞれに関して前記撮像センサの集積メモリ内の前記シフト補償されたピクセル配列を更新して、更新された画像を取得する、
ように更に構成される、請求項1に記載のシステム。 - 前記更新された画像は、複数の望ましくないピクセルに対応する前記更新された画像内の領域と関連付けられる、請求項16に記載のシステム。
- 前記複数の回路は、前記更新された画像の前記複数の望ましくないピクセルに対応する領域を前記更新された画像から除去して、前記第2の画像を取得するように更に構成される、請求項16に記載のシステム。
- 前記複数の回路は、前記第2の画像を取得するために、前記更新された画像における前記複数の望ましくないピクセルに対応する前記領域に前記領域と隣接して位置するピクセル値を投入するように更に構成される、請求項16に記載のシステム。
- 前記複数の回路は、
第1の分解能を有する前記撮像センサによって、前記指定されたルート上の前記予測された連続する位置でスケーリングされたピクセル配列を捕捉し、前記スケーリングされたピクセル配列が第2の分解能よりも大きい第1の分解能と関連付けられ、
前記対応するスケーリングされたピクセル配列における前記複数のピクセルの前記シフトに基づいて前記スケーリングされたピクセル配列から前記第2の分解能を有する第1のピクセル配列を選択する、
ように更に構成される、請求項1に記載のシステム。 - 前記複数の回路は、前記第2の画像を取得するために、それぞれの捕捉された各ピクセル配列ごとに前記撮像センサの集積メモリ内の前記第1のピクセル配列を更新するように更に構成される、請求項20に記載のシステム。
- 前記第1の分解能が前記撮像センサの分解能に対応し、前記第2の分解能が前記第2の画像の分解能に対応する、請求項20に記載のシステム。
- 車両の電子制御ユニット(ECU)内で、
複数の回路によって、前記車両の指定されたルートの複数の位置の各位置で前記車両の複数の速度値に関して動きベクトル情報を生成するステップと、
前記複数の回路によって、前記生成された動きベクトル情報に基づき、前記指定されたルート上の複数の位置のそれぞれで前記車両の前記複数の速度値に関して複数の画像カーネルを導出するステップと、
前記複数の回路によって、前記車両の現在の位置で、前記指定されたルート上の前記現在の位置での前記車両の現在の速度値に関する前記生成された動きベクトル情報に基づき、前記車両の連続する位置を予測するステップと、
前記複数の回路によって、前記指定されたルート上の前記予測された連続する位置で第1の画像を捕捉するステップであって、前記第1の画像が、前記ローリングシャッター効果によって引き起こされる複数のピクセルのシフトを示す、ステップと、
前記複数の回路によって、前記車両の前記予測された連続する位置に関して導出された画像カーネルによる前記撮像センサ内の前記捕捉された第1の画像における前記複数のピクセルの前記シフトの補償に基づき、前記捕捉された第1の画像から第2の画像を生成するステップと、
を含む、方法。 - バッテリと、
撮像センサと、
前記バッテリによって給電されて前記撮像センサに通信可能に結合されるとともに、複数の回路を備える電子制御ユニット(ECU)と、
を備える移動機械であって、前記複数の回路は、
前記移動機械の指定されたルートの複数の位置の各位置で前記移動機械の複数の速度値に関して動きベクトル情報を生成し、
前記生成された動きベクトル情報に基づいて、前記指定されたルート上の複数の位置のそれぞれで前記移動機械の前記複数の速度値に関して複数の画像カーネルを導出し、
前記移動機械の現在の位置で、前記指定されたルート上の前記現在の位置での前記移動機械の現在の速度値に関する前記生成された動きベクトル情報に基づき、前記移動機械の連続する位置を予測し、
前記指定されたルート上の前記予測された連続する位置で第1の画像を捕捉し、前記第1の画像が、前記ローリングシャッター効果によって引き起こされる複数のピクセルのシフトを示し、
前記移動機械の前記予測された連続する位置に関して導出された画像カーネルによる前記撮像センサ内の前記捕捉された第1の画像における前記複数のピクセルの前記シフトの補償に基づき、前記捕捉された第1の画像から第2の画像を生成する、
ように構成される、移動機械。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/909,294 US10440271B2 (en) | 2018-03-01 | 2018-03-01 | On-chip compensation of rolling shutter effect in imaging sensor for vehicles |
US15/909,294 | 2018-03-01 | ||
PCT/JP2019/005569 WO2019167672A1 (en) | 2018-03-01 | 2019-02-15 | On-chip compensation of rolling shutter effect in imaging sensor for vehicles |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021515489A true JP2021515489A (ja) | 2021-06-17 |
Family
ID=65686912
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020545388A Abandoned JP2021515489A (ja) | 2018-03-01 | 2019-02-15 | 車両用撮像センサにおけるローリングシャッター効果のオンチップ補償 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10440271B2 (ja) |
JP (1) | JP2021515489A (ja) |
DE (1) | DE112019001087T5 (ja) |
WO (1) | WO2019167672A1 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9610476B1 (en) * | 2016-05-02 | 2017-04-04 | Bao Tran | Smart sport device |
KR102634443B1 (ko) * | 2019-03-07 | 2024-02-05 | 에스케이텔레콤 주식회사 | 차량용 센서의 보정 정보 획득 장치 및 방법 |
US10675977B1 (en) * | 2019-03-11 | 2020-06-09 | Indiev, Inc | Vehicle integrated computer |
JP7251310B2 (ja) * | 2019-05-22 | 2023-04-04 | 株式会社Jvcケンウッド | カメラ位置検出装置、カメラユニット、カメラ位置検出方法、及びプログラム |
US11144769B2 (en) * | 2019-09-30 | 2021-10-12 | Pony Ai Inc. | Variable resolution sensors |
US11323155B2 (en) * | 2020-09-15 | 2022-05-03 | Ford Global Technologies, Llc | Decoupler for near field communications interface module on vehicle conductive surface |
US20220244103A1 (en) * | 2021-02-01 | 2022-08-04 | Spectricity | Detection of light source distortion in an imaging system |
WO2024081330A1 (en) * | 2022-10-14 | 2024-04-18 | Motional Ad Llc | Rolling shutter compensation |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2483224A (en) * | 2010-08-26 | 2012-03-07 | Dreampact Ltd | Imaging device with measurement and processing means compensating for device motion |
JP2012227773A (ja) * | 2011-04-20 | 2012-11-15 | Toyota Motor Corp | 画像認識装置 |
US8648919B2 (en) * | 2011-06-06 | 2014-02-11 | Apple Inc. | Methods and systems for image stabilization |
US8786716B2 (en) | 2011-08-15 | 2014-07-22 | Apple Inc. | Rolling shutter reduction based on motion sensors |
US20130188069A1 (en) * | 2012-01-20 | 2013-07-25 | Samsung Electronics Co., Ltd. | Methods and apparatuses for rectifying rolling shutter effect |
US9460495B2 (en) * | 2012-04-06 | 2016-10-04 | Microsoft Technology Licensing, Llc | Joint video stabilization and rolling shutter correction on a generic platform |
CN103856711A (zh) * | 2012-12-05 | 2014-06-11 | 联咏科技股份有限公司 | 滚动快门的校正方法与图像处理装置 |
DE102013220477B4 (de) * | 2013-10-10 | 2021-07-01 | Application Solutions (Electronics and Vision) Ltd. | Verfahren und Vorrichtung zur Korrektur einer bildlichen Darstellung einer Fahrzeugumgebung |
IL231818A (en) * | 2014-03-31 | 2017-10-31 | Israel Aerospace Ind Ltd | A method and system for correcting distortion in images |
JP2016001170A (ja) * | 2014-05-19 | 2016-01-07 | 株式会社リコー | 処理装置、処理プログラム、及び、処理方法 |
JP6570327B2 (ja) | 2015-06-05 | 2019-09-04 | キヤノン株式会社 | 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体 |
DE102016202948A1 (de) * | 2016-02-25 | 2017-08-31 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum Ermitteln eines Bildes einer Umgebung eines Fahrzeugs |
DE102016104731A1 (de) * | 2016-03-15 | 2017-09-21 | Connaught Electronics Ltd. | Verfahren zum Detektieren eines Rolling-Shutter-Effekts in Bildern eines Umgebungsbereichs eines Kraftfahrzeugs, Rechenvorrichtung, Fahrerassistenzsystem sowie Kraftfahrzeug |
CN110402368B (zh) * | 2017-03-14 | 2023-08-29 | 天宝公司 | 用在交通工具导航中的集成式的基于视觉的惯性传感器系统 |
US10477064B2 (en) * | 2017-08-21 | 2019-11-12 | Gopro, Inc. | Image stitching with electronic rolling shutter correction |
-
2018
- 2018-03-01 US US15/909,294 patent/US10440271B2/en active Active
-
2019
- 2019-02-15 DE DE112019001087.5T patent/DE112019001087T5/de not_active Withdrawn
- 2019-02-15 WO PCT/JP2019/005569 patent/WO2019167672A1/en active Application Filing
- 2019-02-15 JP JP2020545388A patent/JP2021515489A/ja not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
US10440271B2 (en) | 2019-10-08 |
WO2019167672A1 (en) | 2019-09-06 |
DE112019001087T5 (de) | 2020-12-24 |
US20190273869A1 (en) | 2019-09-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2021515489A (ja) | 車両用撮像センサにおけるローリングシャッター効果のオンチップ補償 | |
CN108062094B (zh) | 基于处理器实现车辆行驶轨迹规划的自主系统和方法 | |
US20240004386A1 (en) | Systems and methods for dynamic predictive control of autonomous vehicles | |
US10867409B2 (en) | Methods and systems to compensate for vehicle calibration errors | |
CN111458700B (zh) | 车辆映射和定位的方法和系统 | |
CN113039579A (zh) | 一种生成高分辨率高精度点云的系统、设备和方法 | |
CN111694351A (zh) | 用于执行用于自主车辆的复合行为策略的方法和系统 | |
CN110356401B (zh) | 一种自动驾驶车辆及其变道控制方法和系统 | |
CN109872370B (zh) | 使用激光雷达数据对摄像机系统进行检测和重新校准 | |
US10733233B2 (en) | Method and apparatus for generating situation awareness graphs using cameras from different vehicles | |
US20200402246A1 (en) | Method and apparatus for predicting depth completion error-map for high-confidence dense point-cloud | |
WO2022016351A1 (zh) | 一种行驶决策选择方法以及装置 | |
CN110291773B (zh) | 信息处理装置、信息处理方法和成像装置 | |
CN111532254B (zh) | 用于控制自主车辆的系统和方法 | |
US20220026224A1 (en) | Systems and methods for autonomous route navigation | |
CN116577740A (zh) | 车辆传感器的动态校准 | |
CN115205365A (zh) | 车辆距离检测方法、装置、车辆、可读存储介质及芯片 | |
CN115307853A (zh) | 用于抑制车辆振动的系统、方法和计算机程序 | |
US11892574B2 (en) | Dynamic lidar to camera alignment | |
CN112389454A (zh) | 自动驾驶/主动安全车辆中的感知系统的错误隔离 | |
US20200387161A1 (en) | Systems and methods for training an autonomous vehicle | |
WO2022024602A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
US20210357667A1 (en) | Methods and Systems for Measuring and Mapping Traffic Signals | |
US11815983B2 (en) | Communication ECU | |
CN114693536A (zh) | 一种图像处理方法,装置及储存介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211224 |
|
A762 | Written abandonment of application |
Free format text: JAPANESE INTERMEDIATE CODE: A762 Effective date: 20221025 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221108 |