JP6878531B2 - クロック同期方法とその装置、機器、記憶媒体及び車両 - Google Patents

クロック同期方法とその装置、機器、記憶媒体及び車両 Download PDF

Info

Publication number
JP6878531B2
JP6878531B2 JP2019160980A JP2019160980A JP6878531B2 JP 6878531 B2 JP6878531 B2 JP 6878531B2 JP 2019160980 A JP2019160980 A JP 2019160980A JP 2019160980 A JP2019160980 A JP 2019160980A JP 6878531 B2 JP6878531 B2 JP 6878531B2
Authority
JP
Japan
Prior art keywords
collector
image
orientation change
correction time
coordinate system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019160980A
Other languages
English (en)
Other versions
JP2020042811A (ja
Inventor
ユェンファン・シェ
シュン・ヂョウ
シールイ・リ
リャン・ワン
Original Assignee
バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド
バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド, バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド filed Critical バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド
Publication of JP2020042811A publication Critical patent/JP2020042811A/ja
Application granted granted Critical
Publication of JP6878531B2 publication Critical patent/JP6878531B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/04Synchronising
    • H04N5/06Generation of synchronising signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/04Synchronising
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/665Control of cameras or camera modules involving internal camera communication with the image sensor, e.g. synchronising or multiplexing SSIS control signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/04Synchronising
    • H04N5/06Generation of synchronising signals
    • H04N5/067Arrangements or circuits at the transmitter end
    • H04N5/073Arrangements or circuits at the transmitter end for mutually locking plural sources of synchronising signals, e.g. studios or relay stations
    • H04N5/0733Arrangements or circuits at the transmitter end for mutually locking plural sources of synchronising signals, e.g. studios or relay stations for distributing synchronisation pulses to different TV cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Electric Clocks (AREA)
  • Image Analysis (AREA)

Description

本発明の実施例は、クロック同期技術分野に関し、特に、クロック同期方法とその装置、機器、記憶媒体及び車両に関する。
技術の継続的な発展に伴い、自動運転技術も徐々に人々の人気を集めており、自動運転技術は運転者をいくつかの運転に関する責任から解放することができる。自動運転プロセスでは、自動運転システムに複数のコレクタを取り付ける必要があり、複数のコレクタで周囲の一定視野範囲内の車両走行環境や交通状況などの情報を収集し、取得された車両走行環境や交通状況などの情報に基づいて安全な自動運転を行う。上記の過程では、複数のコレクタが車両走行環境や交通状況などの情報を同期して収集することを保証することは、自動運転技術の重要な一環である。
関連する複数のコレクタが取り付けられている自動運転システムでは、外部トリガのコレクタは、インターフェイスを介して外部制御信号を受信し、外部制御信号に基づいて複数の外部トリガのコレクタを制御して同期して収集し、例えば、複数の外部トリガのカメラを制御して同時に露光を収集する。しかし、外部トリガのコレクタのコストが高く、内部配線が必要であると同時に、外部トリガなしのコレクタはトリガを必要とせず、システム要求がより低い利点があるため、通常、実際の使用過程中に外部トリガなしのコレクタを選択し、外部トリガのコレクタを選択しない。しかしながら、どのように複数の外部トリガなしのコレクタをクロック同期させるかは非常に重要である。
本発明の実施例は、クロック同期方法とその装置、機器、記憶媒体及び車両を提供して、複数の外部トリガなしのコレクタをクロック同期させることを実現する。
第1の側面において、本発明の実施例では、クロック同期方法を提供し、前記方法は、
異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定するステップと、
異なる画像収集補正時点でのキャリブレーションコレクタの前記基準座標系に対する第2位置姿勢変化を決定するステップであって、異なる画像収集補正時点は、異なる画像収集時点と予め決定された各補正時間変数とに基づいて決定されるステップと、
画像コレクタの第1位置姿勢変化と、各補正時間変数に対応するキャリブレーションコレクタの第2位置姿勢変化とに基づいて、画像コレクタとキャリブレーションコレクタとをクロック同期させるステップと、を含む。
第2の側面において、本発明の実施例では、クロック同期装置をさらに提供し、前記装置は、
異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定するための第1位置姿勢決定モジュールと、
異なる画像収集補正時点でのキャリブレーションコレクタの前記基準座標系に対する第2位置姿勢変化を決定するための第2位置姿勢決定モジュールであって、異なる画像収集補正時点は、異なる画像収集時点と予め決定された各補正時間変数とに基づいて決定される第2位置姿勢決定モジュールと、
画像コレクタの第1位置姿勢変化と、各補正時間変数に対応するキャリブレーションコレクタの第2位置姿勢変化とに基づいて、画像コレクタとキャリブレーションコレクタとをクロック同期させるためのクロック同期実行モジュールと、を含む。
第3の側面において、本発明の実施例では、機器をさらに提供し、前記機器は、
一つ又は複数のプロセッサと、
一つ又は複数のプログラムを記憶するための記憶装置と、を含み、
前記一つ又は複数のプログラムが前記一つ又は複数のプロセッサによって実行される場合に、前記一つ又は複数のプロセッサは、本発明の任意の実施例に記載のクロック同期方法を実現する。
第4の側面において、本発明の実施例では、コンピュータプログラムが記憶されているコンピュータ読み取り可能な記憶媒体をさらに提供し、当該プログラムがプロセッサによって実行される場合に、本発明の任意の実施例に記載のクロック同期方法を実現する。
第5の側面において、本発明の実施例では、車体を含む車両をさらに提供し、前記車体には、本発明の任意の実施例により提供される機器と、前記機器と通信するように接続された画像コレクタと、キャリブレーションコレクタが設けられる。
本発明の実施例では、クロック同期方法を提供し、異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定し、異なる画像収集補正時点でのキャリブレーションコレクタの前記基準座標系に対する第2位置姿勢変化を決定し、異なる画像収集補正時点は、異なる画像収集時点と予め決定された各補正時間変数とに基づいて決定され、画像コレクタの第1位置姿勢変化と、各補正時間変数に対応するキャリブレーションコレクタの第2位置姿勢変化とに基づいて、画像コレクタとキャリブレーションコレクタとをクロック同期させる。本発明の実施例の方法は、関連技術において外部トリガのコレクタを使用する必要があり、及び外部トリガのコレクタを使用することによってコストが高く、内部配線が必要である問題を解決し、外部トリガなしのコレクタを使用して情報収集を行うことができるため、複数の外部トリガなしのコレクタをクロック同期させることを実現するため、複数の外部トリガなしのコレクタの同期収集を実現する。
本発明の実施例1により提供されるクロック同期方法の概略フローチャートである。 本発明の実施例2により提供されるクロック同期方法の概略フローチャートである。 本発明の実施例3により提供されるクロック同期装置の概略構成図である。 本発明の実施例4より提供される機器の概略構成図である。
以下、図面と実施例とを組み合わせて、本発明についてさらに詳しく説明する。なお、ここで説明される具体的な実施例は、単に本発明を解釈するためのものであり、本発明を限定するものではない。また、説明の便宜上、図面には、すべての構成ではなく、本発明に係る部分だけが示されている。
(実施例1)
図1は、本発明の実施例1により提供されるクロック同期方法の概略フローチャートである。本実施例は、複数のコレクタが同期収集することを実現する場合に適用することができ、例えば、自動運転システムにおける複数のカメラが同期に露光して収集するシーンを実現する。当該方法は、クロック同期装置によって実行することができ、当該装置は、ソフトウェア及び/又はハードウェアの方式を使用して実現することができ、任意のネットワーク通信機能を有する機器に統合することができる。
図1に示すように、本発明の実施例におけるクロック同期方法は、以下のようなステップを含むことができる。
ステップS101:異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定する。
本発明の実施例では、画像コレクタは、異なる画像収集時点におけるシーンに対して画像収集を行って、異なる画像収集時点で画像コレクタによって収集された異なる画像を取得することができる。異なる画像収集時点に対応する画像コレクタの位置姿勢間の変化を定量的に記述するために、一つの基準座標系を選択することができる。例えば、その中の一つの画像コレクタの任意の時点の座標系を基準座標系として選択することができる。基準座標系によって、画像コレクタの異なる画像収集時点の位置姿勢変化を定量的に記述することができる。その中、位置姿勢は、位置と姿勢とを含むことができ、位置は、平行移動行列Tを用いて表示することができ、姿勢は、回転行列Rを用いて表示することができ、位置姿勢は、六つの自由度に関することができ、そのパラメータは、X、Y、Z、α、β、及びγを用いて表示することができる。
本発明の実施例では、第1位置姿勢変化は、画像コレクタの異なる画像収集時点で画像を収集するときにおける基準座標系に対する各位置姿勢間の変化を指すことができる。例えば、画像コレクタによって収集された二つのフレーム画像を例として、二つのフレーム画像は、第1フレーム画像と第2フレーム画像に定義することができ、第1フレーム画像と第2フレーム画像は、それぞれ異なる画像収集時点に対応し、第1位置姿勢変化は、画像コレクタが第1フレーム画像を収集するときの基準座標系に対する位置姿勢と、画像コレクタが第2フレーム画像を収集するときの基準座標系に対する位置姿勢との間の変化であると理解することができる。なお、画像コレクタの異なる画像収集時点に収集された画像は、上記の第1フレーム画像と第2フレーム画像とを含むが、これらに限定されないため、したがって、異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化は、画像コレクタが第1フレーム画像と第2フレーム画像を収集するときの基準座標系に対する位置姿勢変化を含むことができるだけでなく、画像コレクタが他の異なるフレーム画像を収集するときの基準座標系に対する位置姿勢変化を含むこともできる。
本発明の実施例では、2D−2Dカメラ位置姿勢推定原理において、画像コレクタによって収集された二つのフレーム画像と、収集された二つのフレーム画像間の特徴点の対応関係とに基づいて、画像コレクタが二つのフレーム画像を収集するときの基準座標系に対する位置姿勢変化を知ることができる。具体的なプロセスは、画像コレクタによって収集された各フレーム画像から少なくとも一つの特徴点を抽出し、画像コレクタによって収集された二つのフレーム画像の特徴点マッチング結果に基づいて、画像コレクタが二つのフレーム画像を収集するときの基準座標系に対する位置姿勢変化を知ることができる。上記の画像コレクタによって収集された二つのフレーム画像はランダムに選択するのではなく、二つのフレーム画像間で特徴点マッチングを行う必要があり、二つのフレーム画像間の特徴点の対応関係を取得した後に画像コレクタが二つのフレーム画像を収集するときの基準座標系に対する位置姿勢変化を知ることができることを理解することができる。上述した事情に基づいて、異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定する場合、本実施例では画像コレクタの異なる画像収集時点に収集された異なる画像間には特徴点の対応関係が存在する必要がある。画像コレクタの異なる画像によって収集された異なる画像に基づいて、2D−2Dカメラ位置姿勢推定原理に基づいて、異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定し、及び画像コレクタが異なる画像を収集するときの異なる画像収集時点をそれぞれ決定することができる。
例示的に、画像コレクタによって収集された二つのフレーム画像を例として、二つのフレーム画像は、第1フレーム画像と第2フレーム画像に定義することができ、画像コレクタによって収集された第1フレーム画像と第2フレーム画像に基づいて、2D−2Dカメラ位置姿勢推定原理に基づいて、画像コレクタが第1フレーム画像を収集するときと、画像コレクタが第2フレーム画像を収集するときの基準座標系に対する位置姿勢変化を決定することができる。具体的には、2D−2Dカメラ位置姿勢推定原理に基づいて二つのフレーム画像間の特徴点をマッチングして、二つのフレーム間の特徴点の対応関係を取得して、二つのフレーム間の特徴点の対応関係に基づいて画像コレクタが第1フレーム画像を収集するときと画像コレクタが第2フレーム画像を収集するときの基準座標系に対する位置姿勢変化を取得することができる。画像コレクタの異なる画像収集時点には、上記の第1フレーム画像を収集する画像収集時点と第2フレーム画像を収集する画像収集時点とを含むが、これらに限定されず、他のフレーム画像を収集する画像収集時点をさらに含むことができるため、異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定する場合、上記の画像コレクタが第1フレーム画像を収集するときと画像コレクタが第2フレーム画像を収集するときの基準座標系に対する位置姿勢変化を決定することができる操作を参照することができるため、異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を取得することができる。
ステップS102:異なる画像収集補正時点でのキャリブレーションコレクタの基準座標系に対する第2位置姿勢変化を決定し、異なる画像収集補正時点は、異なる画像収集時点と予め決定された各補正時間変数とに基づいて決定される。
本発明の実施例では、画像コレクタの収集時点は、画像コレクタに対応するクロックによってキャリブレーションされた収集時点であってもよく、キャリブレーションコレクタの収集時点は、キャリブレーションコレクタに対応するクロックによってキャリブレーションされた収集時点であってもよい。具体的には、画像コレクタとキャリブレーションコレクタは、いずれも自身のクロック信号によって収集して制御することができ、両者を同時に収集することができる。つまり、画像コレクタの理想的な収集時点は、キャリブレーションコレクタの理想的な収集時点と同じであり、画像コレクタのクロックとキャリブレーションコレクタのクロックが同期された場合、画像コレクタの実際の収集時点はキャリブレーションコレクタの実際の収集時点と同じであり、画像コレクタのクロックとキャリブレーションコレクタのクロックが同期していない場合、画像コレクタの実際の収集時点はキャリブレーションコレクタの実際の収集時点と異なる。
例示的に、画像コレクタとキャリブレーションコレクタは、共にクロック制御命令に従って、ある時点Aに収集することを例として、画像コレクタは、自身のクロックによってキャリブレーションされた収集時点Aに対応する画像を収集し、キャリブレーションコレクタは、自身のクロックによってキャリブレーションされた収集時点Aにキャリブレーションコレクタが必要とするデータを収集する。なお、上記の収集時点Aは、それぞれ画像コレクタに対したクロックとキャリブレーションコレクタに対するクロックによって決定される。画像コレクタのクロックとキャリブレーションコレクタのクロックが同期していない場合、画像コレクタの収集時点Aとキャリブレーションコレクタの収集時点Aが標準クロックで一致しない。例えば、実際の収集プロセス中に画像コレクタのクロックに対応する収集時点Aに既に到着した場合、キャリブレーションコレクタのクロックに対応する収集時点Aはまだ到着しておらず、まだ収集時点Bにある可能性もあり、この場合、収集時点Bは収集時点Aよりも早い。
本発明の実施例では、上述した手法に基づいて、キャリブレーションコレクタに対応する収集時点に対して時間補正を行うことで、画像コレクタに対応する収集時点と補正後のキャリブレーションコレクタに対応する収集時点とが実際の収集プロセスで一致を保つようにすることができる。具体的には、画像コレクタの異なる画像収集時点と予め決定された補正時間変数に基づいて、キャリブレーションコレクタに対応する異なる収集時点を補正して、補正後のキャリブレーションコレクタに対応する異なる画像収集補正時点を取得することができる。キャリブレーションコレクタに対応する収集時点を補正する場合、当該補正時間変数に基づいてキャリブレーションコレクタに対応する収集時点に対して時間補正を行うように、キャリブレーションコレクタのクロックと画像コレクタのクロックとの間のクロック誤差範囲を予め推定し、クロック誤差範囲に基づいて補正時間変数を決定することができる。
例示的に、画像コレクタによって収集された二つのフレーム画像を例として、画像コレクタが上記の二つのフレーム画像を収集する場合、画像コレクタに対応する二つの画像における画像収集時点はそれぞれt1とt2であり、キャリブレーションコレクタに対応する二つの収集時点もそれぞれt1とt2であるが、キャリブレーションコレクタと画像コレクタとの間のクロック誤差によって、キャリブレーションコレクタに対応する二つの収集時点を補正する必要がある。具体的には、予め決定された補正時間変数dtを使用してキャリブレーションコレクタに対応する二つの収集時点t1とt2を補正して、t1+dtとt2+dtをそれぞれ取得することができ、補正後のt1+dtとt2+dtは、実際の収集プロセスに画像コレクタに対応する二つの画像における画像収集時点t1とt2と一致を保つことができる。
本発明の実施例では、クロック誤差範囲に基づいて補正時間変数を決定する場合、キャリブレーションコレクタのクロックと画像コレクタのクロックとの間の具体的なクロック誤差が不明であるため、一つの大体のクロック誤差範囲を推定することだけが可能であるため、当該クロック誤差範囲内に一つの精度を指定して、指定された精度に基づいて、当該クロック誤差範囲内に複数の補正時間変数を決定することができる。さらに、画像コレクタの異なる画像収集時点と予め決定された各補正時間変数とに基づいて、キャリブレーションコレクタの異なる画像収集補正時点を決定することができる。
例示的に、予め推定されたキャリブレーションコレクタのクロックと画像コレクタのクロックとの間のクロック誤差範囲が−1s〜1sであり、当該クロック誤差範囲内における指定された精度が10msであると仮定する場合、このとき、当該クロック誤差範囲内に決定された複数の補正時間変数dtは、それぞれ−1s、(−1s+10ms)、(−1s+20ms)、(−1s+30ms)、(−1s+40ms)、……、(−1s+1980ms)、(−1s+1990ms)、1sである。予め決定された各補正時間変数dtを用いて、それぞれキャリブレーションコレクタに対応する二つの収集時点t1とt2を補正して、複数の異なる画像収集補正時点t1+dtとt2+dtをそれぞれ取得することができる。
本発明の実施例では、各補正時間変数に基づいて各補正時間変数に対応する異なる画像収集補正時点を決定することができ、キャリブレーションコレクタの各補正時間変数に対応する異なる画像収集補正時点に基準座標系に対する第2位置姿勢変化を決定することができる。第2位置姿勢変化は、キャリブレーションコレクタの異なる画像収集補正時点に基準座標系に対する各位置姿勢間の変化を指すことができる。例えば、画像コレクタによって収集された二つのフレーム画像を例として、二つのフレーム画像は、第1フレーム画像と第2フレーム画像に定義することができ、二つのフレーム画像の収集時点は、第1フレーム画像収集時点と第2フレーム画像収集時点にそれぞれ対応し、補正時間変数と、第1フレーム画像収集時点と、第2フレーム画像収集時点に基づいてキャリブレーションコレクタの二つの収集補正時点を取得することができ、それぞれ第1収集補正時点と第2収集補正時点を例として、第2位置姿勢変化は、キャリブレーションコレクタの第1収集補正時点に基準座標系に対する位置姿勢とキャリブレーションコレクタの第2収集補正時点に基準座標系に対する位置姿勢との間の変化として理解することができる。
なお、画像コレクタの異なる画像収集時点は、上記の第1フレーム画像に対応する第1フレーム画像収集時点と、第2フレーム画像に対応する画像収集時点とを含むが、これらに限定されないため、したがって、キャリブレーションコレクタの異なる画像収集補正時点は、上記の第1収集補正時点と第2収集補正時点を含むが、これらに限定されない。よって、キャリブレーションコレクタの異なる画像収集補正時点に基準座標系に対する第2位置姿勢変化は、キャリブレーションコレクタが第1収集補正時点と第2収集補正時点にあるときの基準座標系に対する位置姿勢変化を含むことができるだけでなく、キャリブレーションコレクタの他の異なる画像収集補正時点に基準座標系に対する位置姿勢変化をさらに含むことができる。
ステップS103:画像コレクタの第1位置姿勢変化と、各補正時間変数に対応するキャリブレーションコレクタの第2位置姿勢変化とに基づいて、画像コレクタとキャリブレーションコレクタとをクロック同期させる。
本発明の実施例では、一般的には、キャリブレーションコレクタと画像コレクタとの相対位置姿勢を予め設定することにより、画像コレクタのクロックとキャリブレーションコレクタのクロックが同期している場合、同じ画像収集期間内における画像コレクタの相対的な運動位置姿勢は、キャリブレーションコレクタの相対的な運動位置姿勢と同じである。すなわち、異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化は、キャリブレーションコレクタの上記の異なる画像収集時点に基準座標系に対する位置姿勢変化と同じである。例えば、画像コレクタによって収集された二つのフレーム画像を例として、2D−2Dカメラ位置姿勢推定によって画像コレクタが上記の二つのフレーム画像を収集するときの基準座標系に対する第1位置姿勢変化がΔRΔTであり、及び上記の二つのフレーム画像の画像収集時点は、それぞれt1とt2であることを決定し、画像コレクタのクロックとキャリブレーションコレクタのクロックが同期し、キャリブレーションコレクタと画像コレクタとの相対位置姿勢が予め固定されている場合、キャリブレーションコレクタの上記の二つのフレーム画像に対応する画像収集時点t1と画像収集時点t2に基準座標系に対する第2位置姿勢変化もΔRΔTである。
本発明の実施例では、画像コレクタのクロックとキャリブレーションコレクタのクロックとの間にクロック誤差が存在して、クロック同期が実現されない場合、同じ画像収集期間内の画像コレクタの相対的な運動位置姿勢は、キャリブレーションコレクタの相対的な運動位置姿勢と異なる。このため、S102において、補正時間変数を使用して画像コレクタのクロックとキャリブレーションコレクタのクロックとの間に存在するクロック誤差を補正し、異なる画像収集時点と予め決定された各補正時間変数とに基づいて異なる画像収集補正時点を決定して、キャリブレーションコレクタの異なる画像収集補正時点が画像コレクタの異なる画像収集時点と一致を保つようにする。キャリブレーションコレクタと画像コレクタとの相対位置姿勢が予め固定されていることを前提として、補正時間変数を使用して画像コレクタのクロックとキャリブレーションコレクタのクロックとの間に存在されるクロック誤差を補正した後、画像コレクタとキャリブレーションコレクタが既にクロック同期を維持する場合、異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化と、異なる画像収集補正時点でのキャリブレーションコレクタの基準座標系に対する第2位置姿勢変化は、同じを維持することができる。上記の原理に基づいて、画像コレクタの第1位置姿勢変化と各補正時間変数に対応するキャリブレーションコレクタの第2位置姿勢変化に基づいて、画像コレクタとキャリブレーションコレクタとをクロック同期させることができる。
本発明の実施例では、クロック同期方法を提供し、当該方法は、異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定するステップと、異なる画像収集補正時点でのキャリブレーションコレクタの前記基準座標系に対する第2位置姿勢変化を決定するステップであって、異なる画像収集補正時点は、異なる画像収集時点と予め決定された各補正時間変数とに基づいて決定されるステップと、画像コレクタの第1位置姿勢変化と、各補正時間変数に対応するキャリブレーションコレクタの第2位置姿勢変化とに基づいて、画像コレクタとキャリブレーションコレクタとをクロック同期させるステップと、を含む。本発明の実施例の方法は、関連技術において外部トリガのコレクタを使用する必要があり、外部トリガのコレクタを使用するためコストが高く、内部配線が必要である問題を解決し、外部トリガなしのコレクタを使用して情報収集を行うことができるため、複数の外部トリガなしのコレクタをクロック同期させることを実現するため、複数の外部トリガなしのコレクタの同期収集を実現する。
(実施例2)
図2は、本発明の実施例2により提供されるクロック同期方法の概略フローチャートである。本実施例は、上記の実施例に基づいてさらに最適化可能である。本発明の実施例は、上記の一つの又は複数の実施例における各選択可能な方法と組み合わせることができる。
図2に示すように、本発明の実施例におけるクロック同期方法は、以下のようなステップを含むことができる。
ステップS201:異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定する。
本発明の実施例の選択可能な方式において、キャリブレーションコレクタの座標系を基準座標系とする場合、異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定するステップは、
ステップS2011:異なる画像収集時点での画像コレクタにおける、画像コレクタの座標系に対する第3位置姿勢変化を決定し、
ステップS2012:第3位置姿勢変化と、画像コレクタとキャリブレーションコレクタとの相対位置姿勢とに基づいて、異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定することを含むことができる。
本実施形態では、基準座標系を選択するときに、画像コレクタの座標系を基準座標系とすることができ、キャリブレーションコレクタの座標系を基準座標系とすることもでき、もちろん他の適切な座標系を基準座標系とすることもできる。キャリブレーションコレクタの座標系を基準座標系とする場合、まず、画像コレクタの異なる画像収集時点での、画像コレクタの座標系に対する第3位置姿勢変化を決定することができ、具体的な決定方式としては、S101の操作を参照することができるが、ここでは説明しない。画像コレクタとキャリブレーションコレクタとの間は予め固定されており、対応する画像コレクタの座標系とキャリブレーションコレクタの座標系との間の相対位置姿勢も予め設定されている。画像コレクタの座標系とキャリブレーションコレクタの座標系との間の相対位置姿勢に基づいて、座標系の変換を行うことができ、画像コレクタの異なる画像収集時点での画像コレクタの座標系に対する第3位置姿勢変化をキャリブレーションコレクタの座標系に変換して、画像コレクタの異なる画像収集時点にキャリブレーションコレクタの座標系に対する第1位置姿勢変化を取得することができる。
例示的に、画像コレクタによって収集された二つのフレーム画像を例として、二つのフレーム画像は、第1フレーム画像と第2フレーム画像に定義することができ、画像コレクタによって収集された二つのフレーム画像に基づいて、2D−2Dカメラ位置姿勢推定原理を用いて、画像コレクタが第1フレーム画像と第2フレーム画像を収集するときの画像コレクタの座標系に対する位置姿勢変化を決定して、第3位置姿勢変化として記録する。その中、第3位置姿勢変化は、画像コレクタが第1フレーム画像を収集するときの画像コレクタの座標系に対する位置姿勢と、画像コレクタが第2フレーム画像を収集するときの画像コレクタの座標系に対する位置姿勢との間の変化であってもよい。本実施形態における異なる画像収集時点は、第1フレーム画像と第2フレーム画像に対応する画像収集時点を含むが、これらに限定されないことを理解することができる。画像コレクタの座標系とキャリブレーションコレクタの座標系との間の相対位置姿勢に基づいて、座標系の変換を行うことができ、画像コレクタが第1フレーム画像と第2フレーム画像を収集するときの画像コレクタの座標系に対する位置姿勢変化をキャリブレーションコレクタの座標系に変換して、画像コレクタが第1フレーム画像と第2フレーム画像を収集するときのキャリブレーションコレクタの座標系に対する位置姿勢変化を取得して、第1位置姿勢変化として記録する。
ステップS202:異なる画像収集補正時点でのキャリブレーションコレクタの基準座標系に対する第2位置姿勢変化を決定し、異なる画像収集補正時点は、異なる画像収集時点と予め決定された各補正時間変数とに基づいて決定される。
本発明の実施例の選択可能な方式において、画像コレクタの座標系を基準座標系とする場合、異なる画像収集補正時点でのキャリブレーションコレクタの基準座標系に対する第2位置姿勢変化を決定するステップは、以下のようなステップを含むことができる。
ステップS2021:キャリブレーションコレクタの異なる画像収集補正時点でのキャリブレーションコレクタの座標系に対する第4位置姿勢変化を決定する。
ステップS2022:第4位置姿勢変化と、画像コレクタとキャリブレーションコレクタとの相対位置姿勢とに基づいて、異なる画像収集補正時点でのキャリブレーションコレクタの基準座標系に対する第2位置姿勢変化を決定する。
本実施形態では、画像コレクタの座標系を基準座標系とする場合、まず、キャリブレーションコレクタの異なる画像収集補正時点でのキャリブレーションコレクタの座標系に対する第4位置姿勢変化を決定することができる。画像コレクタとキャリブレーションコレクタとの間は予め固定されており、対応する画像コレクタの座標系とキャリブレーションコレクタの座標系との間の相対位置姿勢も予め設定されている。画像コレクタの座標系とキャリブレーションコレクタの座標系との間の相対位置姿勢に基づいて、座標系変換を行うことができ、キャリブレーションコレクタの異なる画像収集補正時点でのキャリブレーションコレクタの座標系に対する第4位置姿勢変化を画像コレクタの座標系に変換して、キャリブレーションコレクタの異なる画像収集補正時点に画像コレクタの座標系に対する第2位置姿勢変化を取得することができる。
例示的に、画像コレクタによって収集された二つのフレーム画像を例として、二つのフレーム画像は、第1フレーム画像と第2フレーム画像に定義することができ、第1フレーム画像と第2フレーム画像との画像収集時点はそれぞれt1とt2であり、補正時間変数はdtであり、キャリブレーションコレクタの異なる画像収集補正時点はそれぞれt1+dtとt2+dtである。このとき、キャリブレーションコレクタt1+dtとt2+dtでのキャリブレーションコレクタの座標系に対する第4位置姿勢変化を決定することができ、画像コレクタとキャリブレーションコレクタとの外部パラメータ、例えば、画像コレクタの座標系とキャリブレーションコレクタの座標系との間の相対位置姿勢に基づいて、キャリブレーションコレクタのt1+dtとt2+dt時点に画像コレクタの座標系に対する位置姿勢変化を取得して、第2位置姿勢変化として記録することができる。
本実施形態の一つの具体的な実施例では、キャリブレーションコレクタは、慣性航法装置、レーザレーダ、ミリ波レーダ又は他の画像コレクタであってもよい。以下は、それぞれの各種類のキャリブレーションコレクタに対して例示的に説明する。
(1)キャリブレーションコレクタが慣性航法装置であり、かつ画像コレクタの座標系を基準座標系とする場合、異なる画像収集補正時点でのキャリブレーションコレクタの基準座標系に対する第2位置姿勢変化を決定することは、具体的には、異なる画像収集時点と予め決定された各補正時間変数とに基づいて異なる画像収集補正時点を決定し、慣性航法装置の異なる画像収集補正時点の位置姿勢をそれぞれ取得し、それぞれ取得された慣性航法装置の異なる画像収集補正時点の位置姿勢に基づいて、慣性航法装置の異なる画像収集補正時点に慣性航法装置の座標系に対する第4位置姿勢変化を決定し、第4位置姿勢変化と、画像コレクタと慣性航法装置との間の相対位置姿勢とに基づいて、慣性航法装置の異なる画像収集補正時点に基準座標系に対する第2位置姿勢変化を決定することができる。
(2)キャリブレーションコレクタがレーザレーダであり、画像コレクタの座標系を基準座標系とする場合、異なる画像収集補正時点でのキャリブレーションコレクタの基準座標系に対する第2位置姿勢変化を決定することは、具体的には、異なる画像収集時点と予め決定された各補正時間変数とに基づいて異なる画像収集補正時点を決定し、レーザレーダを使用してキャリブレーションコレクタとする場合、SLAM技術を使用してレーザレーダの位置と姿勢とを算出することができ、これらを補間することによってレーザレーダの異なる画像収集補正時点の連続運動軌跡を取得するため、レーザレーダの異なる画像収集補正時点のレーザレーダの座標系に対する第4位置姿勢変化を取得することができ、第4位置姿勢変化と、画像コレクタとレーザレーダとの間の相対位置姿勢とに基づいて、レーザレーダの異なる画像収集補正時点に基準座標系に対する第2位置姿勢変化を決定することができる。
(3)キャリブレーションコレクタがミリ波レーダであり、画像コレクタの座標系を基準座標系とする場合、キャリブレーションコレクタの異なる画像収集補正時点における基準座標系に対する第2位置姿勢変化を決定することは、具体的には、異なる画像収集時点と予め決定された各補正時間変数とに基づいて異なる画像収集補正時点を決定し、ミリ波レーダを使用してキャリブレーションコレクタとする場合、SLAM技術を使用してレーザレーダの位置と姿勢とを算出することができ、ミリ波レーダを使用したSLAM技術は、周囲の障害物の速度分布によってミリ波レーダの自身の運動速度を算出し、同時に、周囲の静的なミリ波レーダのターゲットでミリ波レーダの運動軌跡を算出するため、レーザレーダの異なる画像収集補正時点のレーザレーダの座標系に対する第4位置姿勢変化を取得することができ、第4位置姿勢変化と、画像コレクタとレーザレーダとの間の相対位置姿勢とに基づいて、レーザレーダの異なる画像収集補正時点に基準座標系に対する第2位置姿勢変化を決定することができる。
(4)キャリブレーションコレクタが他の画像コレクタであり、画像コレクタの座標系を基準座標系とする場合、キャリブレーションコレクタの異なる画像収集補正時点に基準座標系に対する第2位置姿勢変化を決定することは、具体的には、他の画像コレクタの位置姿勢を補間して、連続の他の画像コレクタの運動軌跡を取得するため、他の画像コレクタの異なる画像収集補正時点に基準座標系に対する第2位置姿勢変化を決定することができ、さらに、第4位置姿勢変化と、画像コレクタと他の画像コレクタとの間の相対位置姿勢とに基づいて、他の画像コレクタが異なる画像収集補正時点に基準座標系に対する第2位置姿勢変化を決定することができる。
ステップS203:画像コレクタの第1位置姿勢変化と、各補正時間変数に対応するキャリブレーションコレクタの第2位置姿勢変化とに基づいて、各補正時間変数に対応する位置姿勢変化のコスト関数(位置姿勢変化コスト関数)を決定する。
本発明の実施例では、本実施例のS203〜S205では、実施例1におけるS103をさらに最適化する。選択可能に、画像コレクタの第1位置姿勢変化と、各補正時間変数に対応するキャリブレーションコレクタが第2位置姿勢変化とに基づいて、構築された各補正時間変数に対応する位置姿勢変化のコスト関数は、具体的には、下記数式1であってもよい。
Figure 0006878531
ただし、Fは、位置姿勢変化のコスト関数であり、(ΔR,ΔT)は、異なる画像収集時点t1、t2での画像コレクタの基準座標系に対する第1位置姿勢変化であり、(ΔR´,ΔT´)は、異なる画像収集補正時点t1+dt、t2+dtでのキャリブレーションコレクタの基準座標系に対する第2位置姿勢変化であり、dtは、補正時間変数であり、Σは、異なる画像収集時点を合計したものであり、×は、乗算符号である。
なお、本実施例における画像収集時点t1と画像収集時点t2は、異なる画像収集時点を区別するためにのみ用いられ、画像コレクタが他の異なる画像収集時点における基準座標系に対する第1位置姿勢変化を決定する必要がある場合、他の異なる画像収集時点をt1とt2に設定することができるため、画像コレクタがそれぞれの異なる画像収集時点における基準座標系に対する第1位置姿勢変化の集合を取得することができる。本実施例における収集補正時点t1+dtと収集補正時点t2+dtは、異なる画像収集補正時点を区別するためにのみ用いられ、t1+dtとt2+dtは、それぞれ画像コレクタの異なる画像収集時点t1とt2に対応する。キャリブレーションコレクタが異なる画像収集補正時点における基準座標系に対する第2位置姿勢変化を決定する必要がある場合、キャリブレーションコレクタが各補正時間変数に対応する異なる画像収集補正時点における基準座標系に対する第2位置姿勢変化を決定することができる。
ステップS204:各補正時間変数に対応する位置姿勢変化のコスト関数(位置姿勢変化コスト関数)を最小化処理し、各補正時間変数のコスト関数の最小値を決定する。
ステップS205:各補正時間変数のコスト関数の最小値に基づいて、画像コレクタとキャリブレーションコレクタとをクロック同期させる。
本発明の実施例では、各補正時間変数に対応する位置姿勢変化のコスト関数を最小化処理して、各補正時間変数に対応するコスト関数の最小値(ΔR´−ΔR,ΔT´−ΔT)を取得する。各補正時間変数のコスト関数の最小値を取得した後、各補正時間変数のコスト関数の最小値に基づき、最小のコスト関数(最小コスト関数)の最小値を選択し、選択された最小のコスト関数の最小値に対応する補正時間変数を画像コレクタとキャリブレーションコレクタとの時間差とする。上記の決定の画像コレクタとキャリブレーションコレクタとの時間差に基づいて画像コレクタとキャリブレーションコレクタとをクロック同期させる。
本発明の実施例では、クロック同期方法を提供し、当該方法は、異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定するステップと、異なる画像収集補正時点でのキャリブレーションコレクタの前記基準座標系に対する第2位置姿勢変化を決定するステップであって、異なる画像収集補正時点は、異なる画像収集時点と予め決定された各補正時間変数とに基づいて決定されるステップと、画像コレクタの第1位置姿勢変化と、各補正時間変数に対応するキャリブレーションコレクタの第2位置姿勢変化とに基づいて、各補正時間変数に対応する位置姿勢変化のコスト関数を決定するステップと、各補正時間変数に対応する位置姿勢変化のコスト関数を最小化処理して、各補正時間変数のコスト関数の最小値を決定するステップと、各補正時間変数のコスト関数の最小値に基づいて、画像コレクタとキャリブレーションコレクタとをクロック同期させるステップと、を含む。本発明の実施例の方法は、関連技術において外部トリガのコレクタを使用する必要があり、外部トリガのコレクタを使用することためコストが高く、内部配線が必要である問題を解決し、外部トリガなしのコレクタを使用して情報収集を行うことができるため、複数の外部トリガなしのコレクタをクロック同期させることを実現して、外部トリガのコレクタを使用するコストが削減され、外部トリガ回路などのモジュールをさらに省くことで、自動運転の適応性を向上させることができる。
(実施例3)
図3は、本発明の実施例3により提供されるクロック同期装置の概略構成図である。本実施例は、複数のコレクタが同期収集することを実現する場合に適用することができ、例えば、自動運転システムにおける複数のカメラが同期に露光して収集するシーンを実現する。当該装置は、ソフトウェア及び/又はハードウェアの方式を使用して実現することができ、任意のネットワーク通信機能を有する機器に統合されることができる。
図3に示すように、本発明の実施例におけるクロック同期装置は、第1位置姿勢決定モジュール301と、第2位置姿勢決定モジュール302と、クロック同期実行モジュール303と、を含むことができる。
第1位置姿勢決定モジュール301は、異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定するために用いられる。
第2位置姿勢決定モジュール302は、異なる画像収集補正時点でのキャリブレーションコレクタの基準座標系に対する第2位置姿勢変化を決定するために用いられ、異なる画像収集補正時点は、異なる画像収集時点と予め決定された各補正時間変数とに基づいて決定される。
クロック同期実行モジュール303は、画像コレクタの第1位置姿勢変化と、各補正時間変数に対応するキャリブレーションコレクタの第2位置姿勢変化とに基づいて、画像コレクタとキャリブレーションコレクタとをクロック同期させるために用いられる。
本発明の実施例の選択可能な方式において、前記クロック同期実行モジュール303は、
画像コレクタの第1位置姿勢変化と、各補正時間変数に対応するキャリブレーションコレクタの第2位置姿勢変化とに基づいて、各補正時間変数に対応する位置姿勢変化のコスト関数を決定するためのコスト関数決定ユニットと、
各補正時間変数に対応する位置姿勢変化のコスト関数を最小化処理して、各補正時間変数のコスト関数の最小値を決定するための最小化処理ユニットと、
各補正時間変数のコスト関数の最小値に基づいて、画像コレクタとキャリブレーションコレクタとをクロック同期させるためのクロック同期実行ユニットと、を含むことができる。
本発明の実施例の選択可能な方式において、前記コスト関数決定ユニットは、具体的には、下記数式1により、各補正時間変数に対応する位置姿勢変化のコスト関数(位置姿勢変化コスト関数)を構築するために用いられることができる。
Figure 0006878531
ただし、Fは、位置姿勢変化のコスト関数であり、(ΔR,ΔT)は、異なる画像収集時点t1、t2での画像コレクタの基準座標系に対する第1位置姿勢変化であり、(ΔR´,ΔT´)は、異なる画像収集補正時点t1+dt、t2+dtでのキャリブレーションコレクタの基準座標系に対する第2位置姿勢変化であり、dtは、補正時間変数であり、Σは、異なる画像収集時点を合計したものであり、×は、乗算符号である。
本発明の実施例の選択可能な方式において、前記クロック同期実行ユニットは、
各補正時間変数のコスト関数の最小値に基づき、最小のコスト関数(最小コスト関数)の最小値を選択するためのコスト関数最小値選択サブユニットと、
選択された最小のコスト関数の最小値に対応する補正時間変数を画像コレクタとキャリブレーションコレクタとの時間差とするためのクロック同期実行サブユニットと、を含むことができる。
本発明の実施例の選択可能な方式において、キャリブレーションコレクタの座標系を基準座標系とする場合、前記第1位置姿勢決定モジュール301は、
異なる画像収集時点での画像コレクタにおける、画像コレクタの座標系に対する第3位置姿勢変化を決定するための第3位置姿勢決定ユニットと、
前記第3位置姿勢変化と、画像コレクタとキャリブレーションコレクタとの相対位置姿勢とに基づいて、異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定するための第1位置姿勢決定ユニットと、を含むことができる。
本発明の実施例により提供されるクロック同期装置は、本発明の任意の実施例により提供されるクロック同期方法を実行することができ、当該クロック同期方法を実行することに対応する機能モジュールと有益な効果を備える。
(実施例4)
図4は、本発明の実施例4が提供する端末の概略構成図である。図4は、本発明の実施形態を実現するのに適する例示的な機器412のブロック図である。図4に示される機器412は、単なる一つの例であり、本発明の実施例の機能及び使用範囲を一切制限しない。
図4に示すように、機器412のコンポーネントは、一つ又は複数のプロセッサ(処理ユニット)416又は記憶装置428と、異なるシステムコンポーネント(記憶装置428とプロセッサ416とを含む)を接続するバス418と、を含むことができるが、これらに限定されない。
バス418は、下記のような複数のバス構造のうち一つ又は複数のものを示し、前記複数のバス構造は、記憶装置バス又は記憶装置コントローラ、周辺バス、アクセラレーテッドグラフィックスポート、プロセッサ又は多様なバス構造のうち任意のバス構造を使用するローカルバスを含む。例をあげると、これらのアーキテクチャは、インダストリスタンダードアーキテクチャ(Industry Subversive Alliance、ISA)バス、マイクロチャネルアーキテクチャ(Micro Channel Architecture、MAC)バス、拡張ISAバス、ビデオエレクトロニクススタンダーズアソシエーション(Video Electronics Standards Association、VESA)ローカルバス、及びペリフェラルコンポーネントインターコネクト(Peripheral Component Interconnect、PCI)バスを含むが、これらに限定されない。
機器412は、典型的には、多種類のコンピュータシステム読み取り可能な媒体を含む。これらの媒体は、機器412がアクセスすることができる任意の使用可能な媒体であってもよく、揮発性媒体及び不揮発性媒体、リムーバブル媒体及びノンリムーバブル媒体を含む。
記憶装置428は、ランダムアクセスメモリ(Random Access Memory、RAM)430及び/又はキャッシュメモリ432などの揮発性メモリの形態のコンピュータシステム読み取り可能な媒体を含んでもよい。機器412は、他のリムーバブル/ノンリムーバブル、揮発性/不揮発性コンピュータシステム記憶媒体をさらに含んでもよい。単なる一例として、ストレージシステム434は、ノンリムーバブル、不揮発性磁気媒体(図4に示されていないが、通常「ハードドライブ」と呼ぶ)に対して読み出し及び書き込みをするために用いることができる。図4に示されていないが、リムーバブル、不揮発性磁気ディスク(例えば、「フロッピーディスク」)に対して読み出し及び書き込みをするための磁気ディスクドライブ、及びリムーバブル、不揮発性光学ディスク(例えば、コンパクトディスク読み取り専用メモリ(Compact Disc Read−Only Memory、CD−ROM)、デジタルビデオディスク読み取り専用メモリ(Digital Video Disc−Read Only Memory、DVD−ROM)又は他の光学媒体)に対して読み出し及び書き込みをするための光学ディスクドライブを提供することができる。この場合、各ドライブは、一つ又は複数のデータメディアインターフェイスを介してバス418に接続することができる。記憶装置428は、本発明の各実施例に記載の機能を実行するように構成される一組のプログラムモジュール(例えば、少なくとも一つ)を有する少なくとも一つのプログラム製品を含んでもよい。
一組のプログラムモジュール442(少なくとも一つ)を有するプログラム/ユーティリティ440は、例えば、記憶装置428に記憶されてもよく、このようなプログラムモジュール442は、オペレーティングシステム、一つ又は複数のアプリケーションプログラム、他のプログラムモジュール、及びプログラムデータを含むことができるがこれらに限定されない。これらの例のそれぞれ又は何らかの組み合わせには、ネットワーク環境の実装が含まれる可能性がある。プログラムモジュール442は、通常、本発明に記載の実施例における機能及び/又は方法を実行する。
機器412は、一つ又は複数の外部デバイス414(例えば、キーボード、ポインティング端末、ディスプレイ424など)と通信することができ、ユーザが機器412とインタラクションすることを可能にする一つ又は複数の端末と通信することもでき、及び/又は機器412が一つ又は複数の他のコンピューティングデバイスと通信することを可能にする任意の端末(例えば、ネットワークカード、モデムなど)と通信することができる。そのような通信は、入力/出力(I/O)インターフェイス422を介して行うことができる。また、機器412は、ネットワークアダプタ420を介して、一つ又は複数のネットワーク(例えば、ローカルエリアネットワーク(Local Area Network、LAN)、ワイドエリアネットワーク(Wide Area Network、WAN)、及び/又はパブリックネットワーク、例えば、インターネット)と通信することができる。図4に示すように、ネットワークアダプタ420は、バス418を介して、機器412の他のモジュールと通信する。なお、図示されていないが、マイクロコードや端末アクチュエー、冗長プロセッサ、外部ディスクドライブアレイ、ディスクアレイ(Redundant Arrays of Independent Disks、RAID)システム、テープドライバ、及びデータバックアップストレージシステムなどを含むが、これらに限定されない他のハードウェア及び/又はソフトウェアモジュールを、機器412と組み合わせて使用することができる。
プロセッサ(処理ユニット)416は、記憶装置428に記憶されるプログラムを実行することにより、多様な機能アプリケーション及びデータ処理を実行し、例えば、本発明の実施例が提供するクロック同期方法を実現する。当該方法は、
異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定するステップと、
異なる画像収集補正時点でのキャリブレーションコレクタの前記基準座標系に対する第2位置姿勢変化を決定するステップであって、異なる画像収集補正時点は、異なる画像収集時点と予め決定された各補正時間変数とに基づいて決定されるステップと、
画像コレクタの第1位置姿勢変化と、各補正時間変数に対応するキャリブレーションコレクタの第2位置姿勢変化とに基づいて、画像コレクタとキャリブレーションコレクタとをクロック同期させるステップと、を含むことができる。
(実施例5)
本発明の実施例5では、コンピュータプログラムが記憶されているコンピュータ読み取り可能な記憶媒体をさらに提供し、当該コンピュータプログラムがプロセッサによって実行される場合に、本発明の任意の実施例に記載のクロック同期方法を実現し、当該方法は、
異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定するステップと、
異なる画像収集補正時点でのキャリブレーションコレクタの前記基準座標系に対する第2位置姿勢変化を決定するステップであって、異なる画像収集補正時点は、異なる画像収集時点と予め決定された各補正時間変数とに基づいて決定されるステップと、
画像コレクタの第1位置姿勢変化と、各補正時間変数に対応するキャリブレーションコレクタの第2位置姿勢変化とに基づいて、画像コレクタとキャリブレーションコレクタとをクロック同期させるステップと、を含むことができる。
本発明の実施例のコンピュータ読み取り可能な媒体は、一つ又は複数のコンピュータ読み取り可能な媒体の任意の組み合わせを採用することができる。コンピュータ読み取り可能な媒体は、コンピュータ読み取り可能な信号媒体、或いはコンピュータ読み取り可能な記憶媒体であってもよい。コンピュータ読み取り可能な媒体は、例えば、電子、磁気、光、電磁気、赤外線、又は半導体のシステム、装置又はデバイス、或いは上記の任意の組み合わせであってもよいが、これらに限定されない。コンピュータ読み取り可能な記憶媒体のより具体的な例(非網羅的なリスト)は、一つ又は複数の配線を備える電気接続部、ポータブルコンピュータディスク、ハードディスク、ランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、消去可能なプログラマブル読み出し専用メモリ(EPROM又はフラッシュメモリ)、光ファイバ、ポータブルコンパクトディスク読み出し専用メモリ(CD-ROM)、光記憶装置、磁気記憶装置、又は上記の任意の適切な組み合わせを含む。この文書において、コンピュータ読み取り可能な記憶媒体は、命令実行システム、装置又はデバイスにより使用され、或いはそれらと組み合わせて使用されることが可能であるプログラムを含む又は記憶する任意の有形の媒体であってもよい。
コンピュータ読み取り可能な信号媒体は、ベースバンドにおける、又は搬送波の一部として伝播するデータ信号を含むことができ、その中にはコンピュータ読み取り可能なプログラムコードが搭載される。この伝播するデータ信号は様々な形式を採用することができ、電磁信号、光信号又は上記の任意の適切な組み合わせを含むが、これらに限定されない。コンピュータ読み取り可能な信号媒体は、さらに、コンピュータ読み取り可能な記憶媒体以外の任意のコンピュータ読み取り可能な媒体であってもよく、当該コンピュータ読み取り可能な媒体は、命令実行システム、装置又はデバイスにより使用され、或いはそれらと組み合わせて使用されるプログラムを送信、伝播又は伝送することができる。
コンピュータ読み取り可能な媒体に含まれるプログラムコードは、無線、有線、光ケーブル、RFなど、又は上記の任意の適切な組み合わせを含むが、これらに限定されない任意の適切な媒体によって伝送することができる。
一つ又は複数のプログラミング言語又はそれらの組み合わせで本発明の動作を実行するためのコンピュータプログラムコードを作成することができ、前記プログラミング言語は、Java(登録商標)、Smalltalk、C++などのプロジェクト指向のプログラミング言語を含み、さらに、「C」言語又は同様のプログラミング言語といった従来の手続き型プログラミング言語をも含む。プログラムコードは、完全にユーザーコンピュータで実行されてもよく、部分的にユーザーコンピュータに実行されてもよく、スタンドアロンソフトウェアパッケージとして実行されてもよく、部分的にユーザーコンピュータで、部分的にリモートコンピュータで実行されてもよく、又は完全にリモートコンピュータ又は端末で実行してもよい。リモートコンピュータに係る場合、リモートコンピュータは、ローカルネットワーク(LAN)又は広域ネットワーク(WAN)を含む任意種類のインターネットを介して、ユーザーコンピュータに接続することができ、或いは、外部コンピュータ(例えば、インターネットサービスプロバイダを利用してインターネットを介して接続可能なもの)に接続することもできる。
また、本発明の実施例は、車体を含む車両をさらに提供し、前記車体には、本発明の任意の実施例により提供される機器と、前記機器と通信するように接続された画像コレクタとキャリブレーションコレクタとが設けられている。
なお、以上は、本発明の好ましい実施例及び運用される技術的原理に過ぎない。当業者は、本発明がここで記載される特定の実施例に限定されないことを理解することができる。当業者であれば、本発明の保護範囲を逸脱することはなく、種々の明らかな変化、新たな調整及び取り換えを行うことができる。したがって、上記実施例により本発明について比較的詳細に説明したが、本発明は、上記実施例のみに限定されず、本発明の構想を逸脱しない場合、より多くの他の効果が同等な実施例をさらに含むことができ、本発明の範囲は、特許請求の範囲によって决定される。

Claims (11)

  1. クロック同期方法であって、
    異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定するステップと、
    異なる画像収集補正時点でのキャリブレーションコレクタの前記基準座標系に対する第2位置姿勢変化を決定するステップであって、異なる画像収集補正時点は、異なる画像収集時点と予め決定された各補正時間変数とに基づいて決定されるステップと、
    前記画像コレクタの第1位置姿勢変化と、各補正時間変数に対応する前記キャリブレーションコレクタの第2位置姿勢変化とに基づいて、前記画像コレクタと前記キャリブレーションコレクタとをクロック同期させるステップと、を含
    前記画像コレクタの第1位置姿勢変化と、各補正時間変数に対応する前記キャリブレーションコレクタの第2位置姿勢変化とに基づいて、前記画像コレクタと前記キャリブレーションコレクタとをクロック同期させるステップは、
    前記画像コレクタの第1位置姿勢変化と、各補正時間変数に対応する前記キャリブレーションコレクタの第2位置姿勢変化とに基づいて、各補正時間変数に対応する位置姿勢変化のコスト関数を決定するステップと、
    各補正時間変数に対応する位置姿勢変化の前記コスト関数を最小化処理して、各補正時間変数の前記コスト関数の最小値を決定するステップと、
    各補正時間変数の前記コスト関数の最小値に基づいて、前記画像コレクタと前記キャリブレーションコレクタとをクロック同期させるステップと、を含む、
    ことを特徴とするクロック同期方法。
  2. 前記画像コレクタの第1位置姿勢変化と、各補正時間変数に対応する前記キャリブレーションコレクタの第2位置姿勢変化とに基づいて、各補正時間変数に対応する位置姿勢変化の前記コスト関数を決定するステップは、
    下記数式1によって、各補正時間変数に対応する位置姿勢変化の前記コスト関数を構築するステップを含み、
    Figure 0006878531
    ただし、Fは、位置姿勢変化の前記コスト関数であり、(ΔR,ΔT)は、異なる画像収集時点t1、t2での前記画像コレクタの前記基準座標系に対する第1位置姿勢変化であり、(ΔR´,ΔT´)は、異なる画像収集補正時点t1+dt、t2+dtでの前記キャリブレーションコレクタの前記基準座標系に対する第2位置姿勢変化であり、dtは、補正時間変数であり、Σは、異なる画像収集時点を合計したものであり、×は、乗算符号である、
    ことを特徴とする請求項1に記載のクロック同期方法。
  3. 各補正時間変数の前記コスト関数の最小値に基づいて、前記画像コレクタと前記キャリブレーションコレクタとをクロック同期させるステップは、
    各補正時間変数の前記コスト関数の最小値に基づき、最小の前記コスト関数の最小値を選択するステップと、
    選択された最小の前記コスト関数の最小値に対応する補正時間変数を前記画像コレクタと前記キャリブレーションコレクタとの時間差とするステップと、を含む、
    ことを特徴とする請求項1又は2に記載のクロック同期方法。
  4. 前記キャリブレーションコレクタの座標系を前記基準座標系とする場合、異なる画像収集時点での前記画像コレクタの前記基準座標系に対する第1位置姿勢変化を決定するステップは、
    異なる画像収集時点での前記画像コレクタにおける、前記画像コレクタの座標系に対する第3位置姿勢変化を決定するステップと、
    前記第3位置姿勢変化と、前記画像コレクタと前記キャリブレーションコレクタとの相対位置姿勢とに基づいて、異なる画像収集時点での前記画像コレクタの前記基準座標系に対する第1位置姿勢変化を決定するステップと、を含む、
    ことを特徴とする請求項1〜3のいずれかに記載のクロック同期方法。
  5. クロック同期装置であって、
    異なる画像収集時点での画像コレクタの基準座標系に対する第1位置姿勢変化を決定するための第1位置姿勢決定モジュールと、
    異なる画像収集補正時点でのキャリブレーションコレクタの前記基準座標系に対する第2位置姿勢変化を決定するための第2位置姿勢決定モジュールであって、異なる画像収集補正時点は、異なる画像収集時点と予め決定された各補正時間変数とに基づいて決定される第2位置姿勢決定モジュールと、
    前記画像コレクタの第1位置姿勢変化と、各補正時間変数に対応する前記キャリブレーションコレクタの第2位置姿勢変化とに基づいて、前記画像コレクタと前記キャリブレーションコレクタとをクロック同期させるためのクロック同期実行モジュールと、を含み、
    前記クロック同期実行モジュールは、
    前記画像コレクタの第1位置姿勢変化と、各補正時間変数に対応する前記キャリブレーションコレクタの第2位置姿勢変化とに基づいて、各補正時間変数に対応する位置姿勢変化のコスト関数を決定するためのコスト関数決定ユニットと、
    各補正時間変数に対応する位置姿勢変化の前記コスト関数を最小化処理して、各補正時間変数の前記コスト関数の最小値を決定するための最小化処理ユニットと、
    各補正時間変数の前記コスト関数の最小値に基づいて、前記画像コレクタと前記キャリブレーションコレクタとをクロック同期させるためのクロック同期実行ユニットと、を含む、
    ことを特徴とするクロック同期装置。
  6. 前記コスト関数決定ユニットは、
    下記数式1によって、各補正時間変数に対応する位置姿勢変化の前記コスト関数を構築し、
    Figure 0006878531
    ただし、Fは、位置姿勢変化の前記コスト関数であり、(ΔR,ΔT)は、異なる画像収集時点t1、t2での前記画像コレクタの前記基準座標系に対する第1位置姿勢変化であり、(ΔR´,ΔT´)は、異なる画像収集補正時点t1+dt、t2+dtでの前記キャリブレーションコレクタの前記基準座標系に対する第2位置姿勢変化であり、dtは、補正時間変数であり、Σは、異なる画像収集時点を合計したものであり、×は、乗算符号である、
    ことを特徴とする請求項5に記載のクロック同期装置。
  7. 前記クロック同期実行ユニットは、
    各補正時間変数の前記コスト関数の最小値に基づき、最小の前記コスト関数の最小値を選択するためのコスト関数最小値選択サブユニットと、
    選択された最小の前記コスト関数の最小値に対応する補正時間変数を前記画像コレクタと前記キャリブレーションコレクタとの時間差とするためのクロック同期実行サブユニットと、を含む、
    ことを特徴とする請求項5又は6に記載のクロック同期装置。
  8. 前記キャリブレーションコレクタの座標系を前記基準座標系とする場合、前記第1位置姿勢決定モジュールは、
    異なる画像収集時点での前記画像コレクタにおける、前記画像コレクタの座標系に対する第3位置姿勢変化を決定するための第3位置姿勢決定ユニットと、
    前記第3位置姿勢変化と、前記画像コレクタと前記キャリブレーションコレクタとの相対位置姿勢とに基づいて、異なる画像収集時点での前記画像コレクタの前記基準座標系に対する第1位置姿勢変化を決定するための第1位置姿勢決定ユニットと、を含む、
    ことを特徴とする請求項5〜7のいずれかに記載のクロック同期装置。
  9. 機器であって、
    一つ又は複数のプロセッサと、
    一つ又は複数のプログラムを記憶するための記憶装置と、を含み、
    前記一つ又は複数のプログラムが前記一つ又は複数のプロセッサによって実行される場合に、前記一つ又は複数のプロセッサが、請求項1〜4のいずれかに記載のクロック同期方法を実現する、
    ことを特徴とする機器。
  10. コンピュータプログラムが記憶されているコンピュータ読み取り可能な記憶媒体であって、
    前記コンピュータプログラムがプロセッサによって実行される場合に、請求項1〜4のいずれかに記載のクロック同期方法を実現する、
    ことを特徴とするコンピュータ読み取り可能な記憶媒体。
  11. 車体を含む車両であって、
    前記車体には、
    請求項9に記載の機器と、
    前記機器と通信可能に接続される前記画像コレクタ及び前記キャリブレーションコレクタと、が設けられている、
    ことを特徴とする車両。
JP2019160980A 2018-09-07 2019-09-04 クロック同期方法とその装置、機器、記憶媒体及び車両 Active JP6878531B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201811044823.9 2018-09-07
CN201811044823.9A CN109218562B (zh) 2018-09-07 2018-09-07 时钟同步方法、装置、设备、存储介质和车辆

Publications (2)

Publication Number Publication Date
JP2020042811A JP2020042811A (ja) 2020-03-19
JP6878531B2 true JP6878531B2 (ja) 2021-05-26

Family

ID=64986670

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019160980A Active JP6878531B2 (ja) 2018-09-07 2019-09-04 クロック同期方法とその装置、機器、記憶媒体及び車両

Country Status (4)

Country Link
US (1) US11363192B2 (ja)
EP (1) EP3621286B1 (ja)
JP (1) JP6878531B2 (ja)
CN (1) CN109218562B (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112214009B (zh) * 2019-06-25 2022-07-26 上海商汤临港智能科技有限公司 传感器数据处理方法、装置、电子设备及系统
CN112312069B (zh) * 2019-07-31 2023-03-24 杭州海康汽车技术有限公司 视频处理方法、装置、系统及设备
CN110954134B (zh) * 2019-12-04 2022-03-25 上海有个机器人有限公司 陀螺仪偏差校正方法、校正系统、电子设备及存储介质
CN111538032B (zh) * 2020-05-19 2021-04-13 北京数字绿土科技有限公司 基于相机和激光雷达独立制图轨迹的时间同步方法和装置
CN114219745A (zh) * 2021-12-03 2022-03-22 地平线(上海)人工智能技术有限公司 图像修正方法和装置、电子设备和存储介质
CN114217665B (zh) * 2021-12-21 2024-08-06 清华大学 一种相机和激光雷达时间同步方法、装置及存储介质
CN114697466B (zh) * 2022-03-17 2023-10-13 杭州海康威视数字技术股份有限公司 视频帧采集同步控制
CN116402826B (zh) * 2023-06-09 2023-09-26 深圳市天趣星空科技有限公司 视觉坐标系的修正方法、装置、设备及存储介质

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI468641B (zh) * 2012-11-09 2015-01-11 Univ Nat Central 影像拍攝與座標擷取時間同步之校正方法與校正系統及其延遲時間計算方法
CN104112363B (zh) * 2014-07-04 2016-05-25 西安交通大学 多传感数据时空同步方法及道路多传感数据车载采集系统
US9936195B2 (en) * 2014-11-06 2018-04-03 Intel Corporation Calibration for eye tracking systems
US10397019B2 (en) * 2015-11-16 2019-08-27 Polysync Technologies, Inc. Autonomous vehicle platform and safety architecture
JP6776882B2 (ja) * 2015-12-28 2020-10-28 住友ゴム工業株式会社 運動解析装置、方法及びプログラム
JP2017224984A (ja) * 2016-06-15 2017-12-21 セイコーエプソン株式会社 プログラム、装置、キャリブレーション方法
SG10201700299QA (en) 2017-01-13 2018-08-30 Otsaw Digital Pte Ltd Three-dimensional mapping of an environment
CN107688174A (zh) * 2017-08-02 2018-02-13 北京纵目安驰智能科技有限公司 一种图像测距方法、系统、存储介质和车载视觉感知设备
CN108226906B (zh) * 2017-11-29 2019-11-26 深圳市易成自动驾驶技术有限公司 一种标定方法、装置及计算机可读存储介质
CN108447097B (zh) * 2018-03-05 2021-04-27 清华-伯克利深圳学院筹备办公室 深度相机标定方法、装置、电子设备及存储介质
CN109242913B (zh) * 2018-09-07 2020-11-10 百度在线网络技术(北京)有限公司 采集器相对参数的标定方法、装置、设备和介质

Also Published As

Publication number Publication date
JP2020042811A (ja) 2020-03-19
US20200084372A1 (en) 2020-03-12
US11363192B2 (en) 2022-06-14
EP3621286A1 (en) 2020-03-11
EP3621286B1 (en) 2023-11-01
CN109218562A (zh) 2019-01-15
CN109218562B (zh) 2021-04-27

Similar Documents

Publication Publication Date Title
JP6878531B2 (ja) クロック同期方法とその装置、機器、記憶媒体及び車両
CN109345596B (zh) 多传感器标定方法、装置、计算机设备、介质和车辆
CN107888828B (zh) 空间定位方法及装置、电子设备、以及存储介质
CN110880189B (zh) 联合标定方法及其联合标定装置和电子设备
WO2020140431A1 (zh) 相机位姿确定方法、装置、电子设备及存储介质
CN107784671B (zh) 一种用于视觉即时定位与建图的方法与系统
JP6857697B2 (ja) 車両位置決め方法、車両位置決め装置、電子機器及びコンピュータ読み取り可能な記憶媒体
CN109544630B (zh) 位姿信息确定方法和装置、视觉点云构建方法和装置
JP2022510418A (ja) 時間同期処理方法、電子機器及び記憶媒体
CN107613262B (zh) 一种视觉信息处理系统与方法
CN110927708A (zh) 智能路侧单元的标定方法、装置及设备
CN110874925A (zh) 智能路侧单元及其控制方法
CN112383675A (zh) 一种时间同步方法、装置及终端设备
CN114399528B (zh) 基于二维图像的三维空间运动目标跟踪方法及相关装置
CN108871317B (zh) 一种高精度星敏感器信息处理系统
CN113759384B (zh) 一种传感器位姿转换关系确定方法、装置、设备和介质
US12026299B2 (en) Adaptive intelligent head-hand VR system and method
WO2022147655A1 (zh) 定位方法、空间信息获取方法、装置、拍摄设备
US20210374543A1 (en) System, training device, training method, and predicting device
CN113759887B (zh) 一种路径规划方法、装置、存储介质及电子设备
CN114578402A (zh) 目标位置信息确定方法、装置、电子设备以及存储介质
CN116642511A (zh) Ar导航图像渲染方法、装置、电子设备及存储介质
WO2020103495A1 (zh) 曝光时长调整方法、装置、电子设备及存储介质
CN112348874A (zh) 一种车道线的结构化参数表示确定方法及装置
CN114593751B (zh) 外参标定方法、装置、介质及电子设备

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190904

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201013

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210406

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210428

R150 Certificate of patent or registration of utility model

Ref document number: 6878531

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350