JP2020531997A - フローベクトル仮説の尤度確認のための方法および装置 - Google Patents

フローベクトル仮説の尤度確認のための方法および装置 Download PDF

Info

Publication number
JP2020531997A
JP2020531997A JP2020511156A JP2020511156A JP2020531997A JP 2020531997 A JP2020531997 A JP 2020531997A JP 2020511156 A JP2020511156 A JP 2020511156A JP 2020511156 A JP2020511156 A JP 2020511156A JP 2020531997 A JP2020531997 A JP 2020531997A
Authority
JP
Japan
Prior art keywords
vector
image
hypothesis
feature
prediction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020511156A
Other languages
English (en)
Other versions
JP6891339B2 (ja
Inventor
ジーモン,シュテファン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Publication of JP2020531997A publication Critical patent/JP2020531997A/ja
Application granted granted Critical
Publication of JP6891339B2 publication Critical patent/JP6891339B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)

Abstract

本発明は、フローベクトル仮説の尤度確認のための装置および方法に関する。この場合、特徴(4)に帰属する予測ベクトル(12)を、第1の画像(1)と第2の画像(2)との間の特徴(4)の動きに基づいて確定し、この第2の画像(2)は連続画像(20)内で第1の画像(1)の後にくる画像であり、かつ特徴(4)に帰属する仮説ベクトル(13)を生成し、この仮説ベクトル(13)は第2の画像(2)と第3の画像(3)との間の特徴(4)の推測上の動きを表しており、この第3の画像(3)は連続画像(20)内で第2の画像(2)の後にくる画像であり、かつ予測ベクトル(12)と仮説ベクトル(13)との間の類似度を、予測ベクトル(12)と仮説ベクトル(13)との間の違いに基づいて計算し、かつ仮説ベクトル(13)の尤度を、算出された類似度に基づいて評価し、その際、仮説ベクトル(13)が、第2の画像(2)と第3の画像(3)との間の特徴(4)の実際の動きを表しているかどうかを評価する。

Description

本発明は、フローベクトル仮説の尤度確認のための方法および装置に関する。
オプティカルフロー(OF)の場合、対応は、第1の画像内の座標と第2の画像内の座標との間の割当てを決定することにより、時間方向に形成される。このような対応は、この場合、3Dシーン内の点の2D画像内への射影が、古い座標から新しい座標へと、どのようにさらに動いたかを提示している。
この場合の画像内の動きは、シーン点の動きによって、もしくはカメラの動きによって、または同時に両方によって引き起こされ得る。
オプティカルフローは既に様々な製品で用いられており、例えば運転者支援システムで用いられている。
フローベクトル仮説の尤度確認のための本発明による方法は、特徴に帰属する予測ベクトルを、第1の画像と第2の画像との間の特徴の動きに基づいて確定し、この第2の画像が連続画像内で第1の画像の後にくる画像であること、および特徴に帰属する仮説ベクトルを生成し、この仮説ベクトルが第2の画像と第3の画像との間の特徴の推測上の動きを表しており、この第3の画像が連続画像内で第2の画像の後にくる画像であること、および予測ベクトルと仮説ベクトルとの間の類似度を、予測ベクトルと仮説ベクトルとの間の違いに基づいて計算すること、および仮説ベクトルの尤度を、算出された類似度に基づいて評価し、その際、仮説ベクトルが、第2の画像と第3の画像との間の特徴の実際の動きを表しているかどうかを評価することを含んでいる。
フローベクトル仮説の尤度確認のための本発明による装置は計算ユニットを含んでおり、この計算ユニットは、特徴に帰属する予測ベクトルを、第1の画像と第2の画像との間の特徴の動きに基づいて確定し、この第2の画像が連続画像内で第1の画像の後にくる画像であるように、および特徴に帰属する仮説ベクトルを生成し、この仮説ベクトルが第2の画像と第3の画像との間の特徴の推測上の動きを表しており、この第3の画像が連続画像内で第2の画像の後にくる画像であるように、および予測ベクトルと仮説ベクトルとの間の類似度を、予測ベクトルと仮説ベクトルとの間の違いに基づいて算出するように、および仮説ベクトルの尤度を、算出された類似度に基づいて評価し、その際、仮説ベクトルが、第2の画像と第3の画像との間の特徴の実際の動きを表しているかどうかを評価するように適応されている。
第1、第2、および第3の画像は、連続画像の画像である。この連続画像は、例えばビデオシーケンスである。これに関し、連続画像内の時間的順序では、最初に第1の画像、その後に第2の画像、およびその後に第3の画像がくることが好ましい。
特徴とは、画像内に写像される特徴である。この特徴の写像は、とりわけ単一画素または画素群に限定されている。画像間での特徴の動きにより、画像によって示されている周囲内でのオブジェクトの動きおよび/または画像を捕捉したカメラの動きが表現されている。
特徴に帰属する予測ベクトルの確定の際は、第1の画像と第2の画像との間の特徴の動きを捕捉する。つまり2つの画像間での特徴のポジション変更を捕捉し、それを基に、特徴の将来的に予想されるポジション変更を推定する。この動きは、第1の画像内の動きの出発地点と第2の画像内の動きの最終地点とを結ぶベクトルによって表すことができる。まさにカメラによって捕捉された連続画像内では、オブジェクトが個々の画像間を連続的に動くのが典型的である。これはオブジェクトの動きが、その方向または速度を急には変えないことを意味している。したがって第1の画像と第2の画像との間の特徴の動きにより、第2と第3の画像との間を特徴がどのように動くのかを推算することができる。この動きが予測ベクトルによって表される。最も単純な場合には、この予測ベクトルは、第1の画像と第2の画像との間の特徴の動きを表す動きベクトルと同じである。好ましいのは、予測ベクトルの確定に、もっとさらなる情報が作用することである。よって例えば、カメラの動きを捕捉して、この動きを動きベクトルに適切に付加し、それを基に予測ベクトルを確定することができる。したがってこの予測子は、第2の画像と第3の画像との間の特徴の予想される動きを表している。
カメラの動きを適切に付加するとは、例えば、第1の画像と第2の画像との間の特徴の動きを、最初に、オブジェクトの連続的な動きによって引き起こされた第1の部分と、カメラの動きによって引き起こされた第2の部分とに分解するということであると理解され得る。両方の部分に対し、別々に予想をすることができる。
よって例えば、オブジェクトはそれまでに観察された動きに相応に、例えば空間内で一定の速度または空間内で一定の加速度で、さらに動くと仮定できる。カメラの動きに関しては、場合によってはそれだけでなく例えばさらなるセンサに由来する(例えば車両のオドメトリおよび/または慣性センサ技術)か、またはカメラ画像から取得される測定があってよく、その際、複数のベクトルからカメラ自体の動きを決定する。この場合、第2の画像と第3の画像との間の特徴の動きの予測は、両方の部分、つまりオブジェクトの動き予測に関する第1の部分とカメラの動きに関する第2の部分とを組み合わせること、例えば加算することで形成され得る。これに関し第2の部分は測定でき、これは、単純な外挿法による予測に比べてより高い精度をもたらし得る。
特徴に帰属する仮説ベクトルの生成の際は、第2の画像と第3の画像との間で特徴がどのように動いたかの推測を立てる。このために例えば、第3の画像内のどこに、仮説ベクトルが生成されるサーチ中の特徴に類似する特徴が存在しているかという趣旨で、第3の画像の分析を行う。よって例えば、第2および第3の画像内で類似の色特性をもつ画素がどこに存在するのかを分析することができる。この場合にはとりわけ、画像の各特徴に最大で1つのフローベクトルが割り振られるべきであるという要求も考慮できる。仮説ベクトルは、特徴に帰属する正しいフローベクトルと見なされるフローベクトルである。しかしながらこれに関しては、仮説ベクトルの基礎になっている分析が誤っている可能性がある。それゆえ最初は仮説が立てられるだけなので、仮説ベクトルと言われる。
予測ベクトルと仮説ベクトルの間の類似度の計算の際は、とりわけ、類似度を表すリンクコストを計算することができる。これに関し、高いリンクコストは低い類似度を、および低いリンクコストは高い類似度を表す。したがって類似度により、第1と第2の画像との間の特徴の動きが、第2と第3の画像との間の特徴の動きの許容差の範囲内に相当するのかどうか、つまり特徴が仮説ベクトルに基づいて動くのかどうかの判断を可能にする指標が提供される。オブジェクトの動きはその方向または速度を急には変えないという仮定の下、仮説ベクトルは許容差の範囲内で予測ベクトルに相当するということを前提とし得る。こうすることで、第2と第3の画像との間の特徴の実際の動きを表す仮説ベクトルに対して類似度が計算される場合、つまり仮説ベクトルが正しい仮説に基づいている場合には、高い類似度および場合によっては低いリンクコストが生じる。予測ベクトルにより、考察中の特徴が許容差の範囲内で予想に基づいて第3の画像内のどこに写像されているのが望ましいかが定義されているので、例えば、第3の画像内で1つの画素または画素の組合せが、色彩の類似性により誤って、仮説ベクトルが生成される特徴とされてしまうことで、誤った仮説が立てられた場合には、低い類似度および場合によっては高いリンクコストが生じることになる。
予測ベクトルと仮説ベクトルとの間の違いは、とりわけ、ベクトルの長さおよび/または向きの違いによって定義される。長さにより、連続画像内での特徴の動きの速度が表されている。向きにより、連続画像内での特徴の動きの軌道が表されている。したがってベクトルの長さおよび/または向きに基づく違いにより、画像を捕捉するカメラに対する、特徴に帰属するオブジェクトの実際の動きが、特に単純に表されている。これに関し、長さと向きの変化は連続画像の進行方向に応じて異なる仮定を基礎とし得るので、とりわけ長さと向きの別々の考察が有利である。
仮説ベクトルの尤度の評価の際には、類似度の計算の際に予測ベクトルと仮説ベクトルとの間のより小さな類似性が生じる場合より、予測ベクトルと仮説ベクトルとの間のより大きな類似性が生じる場合に、尤度をより高く評価する。この尤度は、仮説ベクトルの基礎となっているフローベクトル仮説を正しいと見なすべきかどうかを表している。その際、類似度が高い場合にはフローベクトル仮説が正しく、つまり仮説ベクトルが高い尤度を有することを前提とする。相応に、類似度が低い場合にはフローベクトル仮説が誤っており、つまり仮説ベクトルが低い尤度を有することを前提とする。
最も単純な場合には、尤度を類似度だけに基づいて評価する。ただし代替的なアプローチによって尤度の評価を可能にするさらなるバリデーション法との組合せも可能である。よって例えば、本発明による方法では尤度が高く格付けされるかもしれないが、しかしこれに並行して、競合する評価によって下げられるかもしれない。
1つの特徴点を評価するために複数の競合する仮説ベクトルが提供されている場合、与えられている予測ベクトルに対して最高の類似度または最低のリンクコストをもたらす仮説ベクトルを選択することができ、ただしリンクコストが閾値以下の場合に限る。その代わりに、例えば上からN個の尤もらしい仮説ベクトルを確定するために、仮説ベクトルをそれぞれ確定された類似度またはそれぞれ確定されたリンクコストに基づいて順番に並べることができる。
本発明による方法および本発明による装置により、フローベクトル仮説を評価する際のロバスト性を高めることができる。したがって、フローフィールドを特に高い信頼性で生成することができる。
本発明による装置は、本発明による方法を実行するように適応されている。
従属請求項は、本発明の好ましい変形形態を示している。
有利なのは、本方法をループで実行し、その際に、前のループ実行での特徴の仮説ベクトルに割り当てられた情報に基づく情報を、目下のループ実行での特徴の仮説ベクトルに割り当てる場合である。こうして、連続画像内の特徴の、仮説ベクトルによって表される動きだけでなく、さらなる情報も、連続画像をわたって伝送させることができる。仮説ベクトルとリンクした画像情報は、とりわけその後の画像の仮説ベクトルの尤度評価に利用できる。特徴によって写像されたオブジェクトの特性を表す情報も、特徴に割り当てることができる。その際にとりわけ有利なのは、1番目のループ実行で尤もらしいと格付けされた仮説ベクトルがフローベクトルとして、リンクされた情報と一緒にフローフィールドに引き継がれ、その後の2番目のループ実行ではこの仮説ベクトルがリンクした情報と一緒に、2番目のループ実行のための特徴の予測ベクトルとしてフローフィールドから読み出される場合である。
有利なのはさらに、仮説ベクトルに割り当てられた情報がリンクチェックの結果である場合であり、これに関し、リンクチェックは各ループ実行で実施され、この場合、特徴の予測ベクトルおよび仮説ベクトルは、リンクチェックの際に予測ベクトルと仮説ベクトルとの間の類似度が設定基準を上回る場合に、相互にリンクしていると見なされ、かつ各ループ実行では仮説ベクトルの尤度の評価が、さらに、その前の1つまたは複数のループ実行で特徴の予測ベクトルと仮説ベクトルが相互にリンクしていると見なされたかどうかに基づいて行われる。仮説ベクトルの尤度の評価が、さらに、その前の1つまたは複数のループ実行で特徴の予測ベクトルと仮説ベクトルが相互にリンクしていると見なされたかどうかに基づいて行われることにより、仮説ベクトルの前歴の考察が行われる。仮説ベクトルのこの前歴を仮説ベクトルの年齢とも言う。よって特徴の予測ベクトルと仮説ベクトルが、相次ぐループ実行で既に複数回にわたって相互にリンクしていると見なされていた場合、仮説ベクトルは高い年齢を有する。とりわけ、特徴の予測ベクトルと仮説ベクトルが相互にリンクしていると見なされた相次ぐループ実行の数を、年齢属性として、仮説ベクトルに情報として割り当てることができる。仮説ベクトルの前歴の考察により、尤度を高い信頼性で決定できる。したがって連続画像のその前の複数の画像から生じる特徴の動きの評価が、尤度の評価に追加的に作用する。よって仮説ベクトルは、仮説が作成された帰属する特徴が、相次ぐループ実行において連続的に低いリンクコストを有する場合にのみ、特に尤もらしいと見なされる。こうすることで仮説の履歴評価が行われ、この評価は特に信頼性が高い。
仮説ベクトルに割り当てられた情報が、特徴に帰属するオブジェクトのオブジェクトクラスを表す場合も有利である。こうしてとりわけ、仮説ベクトルに割り当てられた特徴がある特定のオブジェクトクラスのオブジェクトであることを提示する情報が、特徴とリンクされる。これに関しては例えば、特徴がある特定のオブジェクトクラスのオブジェクトである確率を表す確率値を特徴とリンクさせる。その際、確率値をフローフィールド内で特徴に割り当てることが好ましい。このオブジェクトクラスとは、とりわけ、オブジェクトのために特徴によって写像されているものを表している。これに関し1つのオブジェクトクラスには、とりわけ、予め定義された指示の枠内で類似の動き特性を有するオブジェクトがまとめられている。オブジェクトクラスはとりわけ、仮説ベクトルの尤度を評価するために、例えば予測ベクトルと仮説ベクトルとの間の類似度を定義するべく参照され、仮説ベクトルの尤度が正に評価されるには、類似度が少なくとも存在していなければならない。こうしてとりわけ、特徴に割り当てられたオブジェクトクラスが、例えばタイプ「人」のオブジェクトを含む第1のオブジェクトクラスである場合、類似度に関する閾値を第1の値にセットする。さらに、特徴に割り当てられたオブジェクトクラスが例えばタイプ「車両」のオブジェクトを含む第2のオブジェクトクラスである場合、類似度に関する閾値を第2の値にセットする。第1の値は第2の値より小さい。閾値以下の場合にのみ、尤度の比較的高い評価が行われる。こうすることで、例示的なオブジェクトクラス「人」および「車両」の場合、例えば車両には、連続画像内でのその動きに、人の場合より高い連続性が予想されるべきことが考慮される。
予測ベクトルと仮説ベクトルとの間の類似度の計算の際に、予測ベクトルに対する直交方向でのズレが、予測ベクトルに対する縦方向でのズレより強く評価されるか、または仮説ベクトルに対する直交方向でのズレが、仮説ベクトルに対する縦方向でのズレより強く評価される場合も有利である。より強い評価は、計算される類似度への影響がより大きいことを意味する。これにより、直線上を同じステップで動いているオブジェクトの3D点は画像に射影すると一般的に同じ大きさのステップでは動かないことが考慮される。むしろ画像内のステップは、点がカメラに近い場合にはより大きく、点がカメラから遠くに離れている場合にはステップがより小さい。
有利なのはさらに、予測ベクトルは後方フローを表すフローフィールドから確定され、かつ/または仮説ベクトルは前方フローを表すフローフィールドから確定される場合である。予測ベクトルおよび/または仮説ベクトルのこのような計算の際、予測ベクトル(後方フローとしての)は、第2の画像の仮説ベクトル(前方フローとしての)が始まる画像ポジションで終端しており、これによりつまり予測ベクトルと仮説ベクトルとの間の割当ては既に暗示的に与えられており、最初に確定しなくてよい。そして後方フローおよび前方フローのこのような計算は、フローフィールドの評価に必要なので、フローフィールドの生成の枠内で行われる。したがって、1つまたは複数のフローベクトル仮説の追加的な尤度確認を、少ない追加的な計算作業で、入手可能なデータに基づいて行うことができる。
類似度の計算の際に予測ベクトルの適合を行う場合も有利であり、この適合により、第1の画像と第2の画像との捕捉の間のカメラの動きが補正され、かつ/または第2の画像と第3の画像との捕捉の間のカメラの動きが補正される。これにより、画像内での特徴のポジションの、帰属するオブジェクト自体の動きからは生じていない変更が、類似度の計算に作用して計算を歪曲するのを回避できる。
これに加え、類似度を、予測ベクトルと仮説ベクトルとの間の違いから、設定された関数を使って確定する場合が有利であり、これに関しては設定された関数により、とりわけ、予測ベクトルと仮説ベクトルとの間の違いの重み付けが行われる。こうして、予測ベクトルと仮説ベクトルとの間の類似度を幾何学的に算出して、類似度に関する単純な数値に転換することができる。この場合の違いの重み付けは、とりわけ、小さな違いが特に大きな類似度および場合によっては特に低いリンクコストを生じさせ、かつ大きな違いが特に小さな類似度および場合によっては特に高いリンクコストを生じさせるように行われる。重み付けはとりわけ類似度に対して非線形に行われる。
有利なのはさらに、類似度の計算の際に、違いを、予測ベクトルと仮説ベクトルとからの差を形成することで生成される差分ベクトルを使って確定する場合である。このような差分ベクトルは、予測ベクトルと仮説ベクトルとの間の類似性を表す簡単に算出できるパラメータである。予測ベクトルおよび仮説ベクトルをそれぞれ、オブジェクトの動きによって引き起こされた第1の部分と、カメラの動きによって引き起こされた第2の部分とに分解することが好ましく、こうして差分ベクトルを、オブジェクトの動きによって引き起こされた部分のみに基づいて確定することが有利である。
有利なのはさらに、類似度の計算の際に、違いを、差分ベクトルの2つのベクトル成分を使って確定する場合であり、これに関してはとりわけ、両方のベクトル成分の異なる重み付けを行う。これにより、違いの異なる評価が行われ、この評価は、予測ベクトルと仮説ベクトルとの間のズレがどの方向に存在しているのかに依存している。こうしてとりわけ、仮説ベクトルの向きに対して直交に、その代わりに予測ベクトルの向きに対して直交に方向づけられているズレが、仮説ベクトルの向きに対して縦方向に、その代わりに予測ベクトルの向きに対して縦方向に方向づけられているズレより高く重み付けられ、かつより強く類似度に作用する。こうすることで、例えば縦方向でのズレを、直交方向でのズレとは違うように、とりわけより弱く評価できる。これにより例えば、直線上を同じ大きさのステップで動いている3D点は画像に射影すると一般的に画像内では同じ大きさのステップでは動かないという事実を考慮できる。むしろ画像内のステップは、点がカメラに近い場合にはより大きく、点が遠くに離れている場合にはより小さい。
有利なのはさらに、特徴に帰属する1つの仮説ベクトルの生成の際に、特徴に帰属する複数の仮説ベクトルを生成し、かつ類似度の計算および尤度の評価を仮説ベクトルの各々に対して行う場合である。これにより、優先すべき仮説ベクトルの有利な選択を提供できる。とりわけ、尤度に基づいて仮説ベクトルの1つの選択を行う。こうして、最高尤度をもつ仮説ベクトルが、第2の画像と第3の画像との間の特徴の実際の動きを表す仮説ベクトルと見なされることが好ましい。ただしその際、仮説ベクトルの尤度が例えば設定された閾値より下にある場合は、帰属する類似度が低すぎるので、仮説ベクトルのすべてを拒絶するということもあり得る。
以下では、本発明の例示的実施形態を添付の図面を参照しながら詳細に説明する。
例示的な連続画像を示す図である。 例示的な予測ベクトルおよび例示的な仮説ベクトルを示す図である。 異なるリンクコストを生じさせる予測ベクトルおよび仮説ベクトルを示す図である。 リンクコストの重み付けのための例示的な関数を示す図である。 フローベクトル仮説の尤度確認のための装置を示す図である。
図1は、例示的な連続画像20を示している。連続画像20は、第1の画像1、第2の画像2、および第3の画像3を含んでいる。示した例示的な連続画像20内では、第1の画像1のすぐ後に第2の画像2がきて、第2の画像2のすぐ後に第3の画像3がきている。ただし個々の画像の間に、連続画像20内のさらなる画像が存在していてもよい。連続画像20は、カメラ41によって捕捉されたビデオシーケンスである。
カメラ41により、画像1、2、3内で、それぞれの画像1、2、3の特徴4として示されているオブジェクトが捕捉された。そして特徴4は、図示した連続画像20内では左下から右上へと、ビデオシーケンスによって表示されている画像を横切って動いている。これに関し図1では、特徴はそれぞれの画像1、2、3の、特徴が実線で示されている位置にしか存在していない。そのほかの画像内での特徴4のポジションを破線で示している。つまり第1の画像1内の特徴4は、第1のポジション5に存在する。第2の画像2では、特徴4は第2のポジション6に存在する。第3の画像3では、特徴4は第3のポジション7に存在する。これに関し特徴4はとりわけ少数の画素に限定されている。
図1ではさらに、特徴4に帰属する2つのフローベクトル10、11を示している。第1のフローベクトル10は、第1の画像1と第2の画像2との間の特徴4の動きを表している。第2のフローベクトル11は、第2の画像2と第3の画像3との間の特徴4の動きを表している。
第2のフローベクトル11は、第2の画像2および第3の画像3から、画像分析によって確定された。これは、フローベクトル仮説を生成するかまたは立てることによって行われる。フローベクトル仮説により、仮説ベクトル13が生成される。したがって第2のフローベクトル11は仮説ベクトル13に相当する。これに関し、画像分析の際に誤った結果が出ることがある。画像分析では、第3の画像3内に示された特徴4が、第2の画像2内に示された特徴4とは違うオブジェクトに属しているかもしれないという問題がある。この場合には、確かに仮説ベクトル13が確定されたであろうが、この仮説ベクトル13は、連続画像20内での特徴4の動きを表しているのではなく、異なる特徴のポジションを結んでいるので、正しいフローベクトルではない。したがって第2のフローベクトル11が正しいフローベクトルかどうかは確実でない。それゆえフローベクトル仮説と言う。フローベクトル仮説を生成する際に算出されるフローベクトルは、それゆえ仮説ベクトル13と言う。仮説ベクトル13が正しいフローベクトルかどうかが最終的に決着していないので、仮説ベクトル13は、第2の画像2と第3の画像3との間の特徴4の推測上の動きを表している。
前方フローと後方フローとを区別しており、これにより、どの画像内に基準ピクセルが存在するのか、およびどの画像内で対応がサーチされたか(サーチ方向)が表現される。結果を(マトリクス構造における)フローフィールドとして提供する場合、一般的には、どの座標系内にフローフィールドが格納されているのかも、サーチ方向によって規定されている。このフローフィールドは、フローベクトルから成るフィールドであり、フローフィールドには、すべてのフローベクトルまたは少なくともすべての計算されたフローベクトルが登録されており、これらのフローベクトルは2つの画像のペアに対して生じている。追加的に、フローベクトルにそれぞれ属性を割り当てることもできる。
ここで前方フローに関しては、前の画像内の基準ピクセルおよび目下の画像内の対応がサーチされる。結果は、前の画像の座標内に格納される。後方フローに関しては、目下の画像内の基準ピクセルに対し、前の画像内の対応がサーチされる。結果は、目下の画像の座標内に格納される。ただし両方の場合において、それぞれのフローベクトル10、11のフローベクトル成分の符号は同様に規定され、詳しくは、水平な成分は画像内での右への動きの場合に正であり、かつ鉛直な成分は画像内での下への動きの場合に正であるように規定される。
仮説ベクトル13が以前の時間ステップ内で既に、方向および数値において、考察中のフローベクトル仮説に「合致」する先行ベクトルを有していた場合には、このフローベクトル仮説の信用、したがって仮説ベクトル13の尤度が上昇する。これに関しては、特徴4に帰属するオブジェクトはその質量に基づいて「惰性で」動き、またカメラ41も、質量のあるオブジェクト(例えば車両)と固定的に結合しているので惰性で動くという仮定が基礎になっている。つまり、画面内での突然の方向変更は実際には発生しない。これに関してはカメラ41の十分に高いサンプリングレートを前提としている。
したがって予測ベクトル12により、第1の画像1と第2の画像2との間の特徴4の動きを表す予測子の確定が行われ、この第2の画像2は、連続画像20内で第1の画像1の後にくる画像である。よって予測ベクトル12は、図1に示した例では第1のフローベクトル12に相当する。
第1〜第3の画像1、2、3は、カメラ41によって撮影された。これに関し第1の画像1は第1の時点tで、第2の画像2は第2の時点tで、および第3の画像3は第3の時点tで撮影された。画像1、2、3は相次いで撮影されているが(ここでt<t<t)、必ずしも直接的に相次いで撮影されていなくてよい(つまり、その間に、なおさらなる画像が撮影されたかもしれない)。画像1、2、3間の一定の時間間隔は必要ない。これはつまり除法表現q
Figure 2020531997
が、一般的には1でなくてもよいことを意味する。
予測として、例えば、時点tとtとの間の既に存在しているオプティカルフローフィールドを使用することができる。このフローフィールドは、後方フローとして存在することが好ましく、というのもこれは、予測ベクトル12が既に共通の時点tのふさわしい座標系内に存在しており、つまりもう換算(ワープ)しなくてよいという利点を有するからである。したがって予測ベクトル12は後方フローを表すフローフィールドから確定される。
予測のために使用するフローフィールドを別のやり方で生成してもよく、例えば、考察中の時点での3次元シーンモデルおよびカメラポジションについての仮定を使用し、これを基に、予想されるフローフィールドを算出できる。
以下では例示的に最も単純な場合を前提とし、詳しくは、予測を準備するために特別な作業をしなくてよく、かつ予測が古いフローフィールドから成立または生成されることを前提とする。任意選択で、フローベクトル、したがって予測ベクトル12を予想される長さにするため、予測フローフィールド、したがって予測フローフィールド内で定義されたフローベクトルをある因数によってスケーリングする。その際に有利なのは、フローベクトルのスケーリングのためのこの因数が、除法表現qと同じに選択されている場合である。
この予測は、時点tとtとの間の次のフローフィールドの決定を補助する。つまり時点tを両方のフローフィールドが共有しており、すなわち第1のフローフィールドのフローベクトルはそこで終端しており、第2のフローフィールドのフローベクトルはそこで始まっている。それゆえtとtとの間の決定すべきフローフィールドが最初は前方フローである場合がさらに有利である。この一連の画像は、時点tに割り当てられた(ここでt>t)さらなる画像を付け加えることで、さらに続き得る。
この場合、tとtとの間のフローフィールドが、予測子として使用されて、時点tとtとの間のフローフィールドの次の決定を補助することができる(共通の時点t)、等々。ここではtとtとの間のフローフィールドから相応の予測ベクトル12が読み出される。
フローベクトル仮説ごとに、したがって各仮説ベクトル13に対してリンクチェックを実施し、これに関しては、仮説、つまり仮説ベクトル13を、それぞれの予測、つまり予測ベクトル12と、向きおよび長さに関して比較する。それにより予測ベクトル12と仮説ベクトル13との間の違いに基づいてリンクコストが計算され、これらのリンクコストは、予測ベクトル12と仮説ベクトル13との間の類似度を提示する。これに関し、高いリンクコストは低い類似度を、および低いリンクコストは高い類似度を表している。よって予測ベクトル12と仮説ベクトル13との間の類似度の計算は、予測ベクトル12と仮説ベクトル13との間の違いに基づいて行われる。
リンクコストの計算の際に、任意選択で、予測ベクトル12の適合を行い、この適合により、第1の画像1と第2の画像2との捕捉の間のカメラの動きが補正され、かつ/または第2の画像2と第3の画像3との捕捉の間のカメラの動きが補正される。このために、例えばカメラの動きの変化をセンサ技術または画像評価を使って捕捉し、これに基づいて引き起こされる動きの変化をそれぞれの画素で確定し、予測ベクトル12を確定するために第1のフローベクトル10に加算する。
予測ベクトル12と仮説ベクトル13は、わかりやすく言えばうまく合っているので、「リンクしている」または「連鎖している」と見なされる。この特性は、それによって承認されたフローベクトル仮説の信用を高め、かつ品質尺度または品質属性として、それぞれのフローベクトルにぶら下げることができる。これにより、フローベクトル仮説の尤度が上昇する。リンクチェックの際、特徴4の予測ベクトル12と仮説ベクトル13は、予測ベクトル12と仮説ベクトル13との間の類似度が設定基準を上回る場合に、つまりリンクコストが設定基準を下回る場合に、相互にリンクしていると見なされる。予測ベクトル12と仮説ベクトル13が相互にリンクしていると見なされる場合は、これを情報として仮説ベクトル13に割り当てる。
仮説ベクトル13が、本方法のその後の進行において、例えば特徴4に帰属する予測ベクトル12を生成する際に、第2の画像2と第3の画像3との間の特徴4の動きに基づくようになる場合は、この情報を、本方法のその後の進行において尤度を評価するために参照できる。したがってこの場合には、仮説ベクトル13の尤度の評価は、その前の1つまたは複数のループ実行で特徴4の予測ベクトル12と仮説ベクトル13が相互にリンクしていると見なされたかどうかに基づいて行われる。
このリンクチェックが、時間的に相次いで何回か成功している場合、承認は相応にはるかに過去に遡る。これに関してはフローベクトルまたは仮説ベクトル13の年齢という言葉を用い、これは連続して成功したリンクチェックの数のことである。このように形成された年齢はそれがまた品質属性でもあり、この品質属性は数として示すことができ、それぞれのフローベクトルにぶら下げることができる。
本方法はループで実行され、これにより、特徴4に帰属するフローベクトルの加齢が可能になる。これに関し、特徴4に対する仮説ベクトル13と予測ベクトル12が、目下のループ実行で相互にリンクしていると見なされるのは、リンクコストの計算が、予測ベクトル12と仮説ベクトル13との間の類似性の、設定された度合いより大きな度合いを示し、かつ/またはもっと高い類似性の度合いをもつ代替的な仮説ベクトルがない場合である。特徴4に対する仮説ベクトル13と予測ベクトル12が、目下のループ実行で既に相互にリンクしていると見なされている場合、目下のループ実行の後にくるループ実行のフローベクトル仮説の尤度が追加的に上昇する。
したがって、この連鎖が、明確にはそのようなものとして記憶されない場合でさえ連鎖とも言えるであろう。このように形成された年齢は、良いフローベクトルをフィルタリングするための、または外れ値を除去するための品質基準として利用できる。既に閾値「年齢≧1」で、たいていの外れ値を除去できる。閾値が高くなるにつれてさらにうまく分離されるが、閾値の高さと共に、当然、先行ベクトルのない新しい仮説ベクトル13が初めて閾値に達し得るまでの画像の数として表現される待ち時間も上昇する。
さらに、それぞれの特徴4でのリンクチェックが成功した場合、さらなる情報を、フローフィールドを使って画像から画像へとさらに伝送するという有意義な可能性が生じる。例えば、時点tの第2の画像2が既にラベル情報を備えている可能性があり、これは例えば、それぞれのピクセルがどの程度の確率で、ある特定のオブジェクトクラス(例えば歩行者、車、自転車、建物、道路、縁石、歩道、ガードレール、交通標識、植物など)に属するのかを各特徴4で提示するセマンティックセグメンテーションである。この情報を、帰属するtからtへの仮説ベクトル13を使ってさらに先に送ることができる。したがってこの場合、この情報はふさわしい座標に行き着く。これにより、フローベクトル仮説に帰属する特徴4がある特定のオブジェクトクラスのオブジェクトであることを提示する情報が、特徴4とリンクされる。
このように情報または属性をさらに先に送ることは、とりわけ、リンクチェックが成功した場合に有意義であり、というのもこの場合には、時間的に整合しており物理的に尤もらしい挙動が存在するからである。つまりこの場合、さらに先に送ることが正しく、かつ追加情報が引き続きなおふさわしく割り当てられる確率が高い。
以下に、リンクチェックおよび類似度計算に関する好ましい1つの可能性を説明する。この場合、リンクに関するリンクコストが確定され、これらのリンクコストは直交部分および縦方向部分から構成されている。これらのリンクコストの基礎となる違いは、差分ベクトル21の2つのベクトル成分22、23を使って確定される。その際、第1のベクトル成分22は直交部分を表し、かつ第2のベクトル成分22は縦方向部分を表す。ベクトル成分22、23は、定義によれば互いに垂直に立っている。
予測ベクトル12と仮説ベクトル13との間の関連性を図2で例示的に示している。それから図2では第1のフローベクトル10を示している。第1のフローベクトル10は、第1のポジション5と第2のポジション6との間の特徴4の動きを表している。特徴4のこの動きは、第1の画像1と第2の画像2との間で行われている。第1の画像1と第2の画像2との間のこの動きから、したがって第1のフローベクトル10に基づき、予測ベクトル12が確定される。この場合、予測ベクトル12は第1のフローベクトル10と同じである。予測ベクトル12の基礎となっているのは、動きが一定であれば、特徴4は第3の画像3ではきっと理論上のポジション8に存在しているという仮定である。
図2に示した例では、さらに画像分析により仮説ベクトル13が算出されている。これにより、特徴4は第2の画像2と第3の画像3との間の第3のポジション7に動いたというフローベクトル仮説が立てられる。これは仮説ベクトル13によって表されている。既にフローフィールドが存在する場合は、仮説ベクトルはフローフィールドから確定される。その際、フローフィールドは前方フローを表すことが好ましい。その後、このフローベクトル仮説、したがって仮説ベクトル13が尤もらしいかどうかを評価するため、リンクコストを計算する。このために、仮説ベクトル13と予測ベクトル12との間の差から差分ベクトル21を算出する。単純な場合には、違いは差分ベクトル21の数値と同じであり、その場合、この数値の値がそのままリンクコストの値と見なされる。
ただしここで説明している実施形態では、リンクコストの基礎となる違いを、差分ベクトル21のベクトル成分22、23を使って確定している。直交部分、つまり仮説ベクトル13上に垂直に立っている第1のベクトル成分22は、向きのズレに関する尺度であり、ここでは向きの基準として仮説ベクトル13の向きを使用している。その代わりに予測ベクトル12の向きを基準として用いてもよい。縦方向部分、つまり第2のベクトル成分23、したがって仮説ベクトル13に平行に存在する第2のベクトル成分23は、基準ベクトルの方向でのまたは反対方向でのズレを測定している。わかりやすくはつまり、予測ベクトル12に対する仮説ベクトル13の伸びまたは縮みを測定しており、これに関しては、これら両方の場合に対して一般的には異なる比例尺を当てはめる。
基準ベクトルがゼロベクトルに相当する場合、向きは定義されていない。この場合には特別な扱いが有意義である。
リンクコストの直交部分および縦方向部分は、両方が非負であり、この場合、例えばノルムの意味において組み合わせられる。その際、これらの部分に重み付けしてもよく、しかしこの例示的実施形態ではそれを利用していない。
ただしこの例示的実施形態では、直交部分の評価に対し、縦方向部分の場合より強い比例尺を当てはめるべきであり、というのも直交のズレは、オブジェクトの方向変化またはカメラの回転によってしか説明できないのに対し、縦方向部分はこれに加えてオブジェクトがカメラに近づくかまたはカメラから遠ざかるだけでも変わるからである。それゆえ設定範囲内での縦方向の変化は、例えばそれによりリンクコストを発生させないことで、寛大に評価することができる。こうすることで、両方のベクトル成分22、23の異なる重み付けを行う。
リンクコストは、予測ベクトル12と仮説ベクトル13との間の違いに関する尺度である。予測ベクトル12と仮説ベクトル13の例示的な組合せを図3に示している。そして予測ベクトル12と仮説ベクトル13が同一の場合、リンクコストはゼロである。図3では一番左側に、予測ベクトル12と仮説ベクトル13が互いに類似しており、少ないリンクコストが発生する例を示している。図3では真ん中に、予測ベクトル12と仮説ベクトル13が互いに類似しておらず、高いリンクコストが発生する例を示している。さらに図3は右側に、予測ベクトル12が存在せず、したがってリンクコストを計算できない例を示している。
予測ベクトル12と仮説ベクトル13との間の確定された違いをリンクコストに転換するため、設定された関数を使って、予測ベクトルと仮説ベクトルとの間の違いからリンクコストを確定する。その際、設定された関数により、予測ベクトルと仮説ベクトルとの間の違いの重み付けを行うことができる。この関数は、とりわけ、第1のベクトル成分22の数値および第2のベクトル成分23の数値に応じた関数である。
リンクコストはその後、より良く利用可能な形態に変えるため、例えば非線形関数で写像することができる。このような非線形関数を例示的に図4に示している。この関数は、部分部分のそれぞれは線形であり、かつ非負のリンクコストを符号つきの値で写像しており、これらの符号つきの値を以下に重みと言う。この関数は、連続値または離散値であってよい。ここでのアイディアは、「良いフローベクトル仮説」、つまりリンクコストの低いフローベクトル仮説は、正の重みを加算することで値を引き上げ、その一方でリンクコストの高いフローベクトル仮説は重みを下げるということである。リンクコストは第1の軸30で示されており、重み付けは第2の軸31で示されている。中立点32で、重み付けが正の重み付けから負の重み付けに移行する。
図4では両方の軸切片が異なる勾配を有しており、かつ一点で交わっている。ここでは交点が横座標上にある。この交点は中立点32と呼ばれ、特徴的な点であり、すなわち中立点では加算重みがちょうどゼロであり、したがって予測が存在しないフローベクトル仮説の場合と同じ大きさである。つまり、符号つき加算重みのこのコンセプトにより、幾つかのまたは多くのまたはときにはすべてのフローベクトル仮説に対して予測が存在しないという実際に重要な事態を考慮することが問題なく可能である。
加算重みは、フローベクトル仮説がここでより詳しくは説明しない理由から既に有し得る既存の重みに加算できる。重みを加算する代わりに、考慮のほかの解決策も可能である。
リンクコストまたはそれらの写像(例えば非線形の写像による)は、値域を小さな数の代替値に写し取るために、1つまたは複数の閾値と比較することができる。この線形または非線形の量子化のステップは、2値以上の結果となり得る。
2値の判定の場合、この判定がそのままフローベクトル仮説の拒絶または受容に相応し得る。よってフローベクトル仮説および帰属する仮説ベクトル13の尤度の評価は、算出されたリンクコストに基づいて、したがって算出された類似度に基づいて行われる。
2つより多い代替値が提供されている場合(例えば4つ)、これらの代替値は以下の解釈を有し得る。
0:予測とフローベクトル仮説とが食い違っており、このフローベクトル仮説、したがって仮説ベクトル13は拒絶される。
1:予測とフローベクトル仮説とは相互に良好には調和していないが、まだ許容差の範囲内である。このフローベクトル仮説および仮説ベクトル13のさらなる処理の際の不信が付け加えられる。
2:予測とフローベクトル仮説が良好に調和しており、このフローベクトル仮説、したがって仮説ベクトル13は普通にさらに使用できる。
3:予測とフローベクトル仮説が特に良好に調和しており、またはそれどころか同一であり、このフローベクトル仮説、したがって仮説ベクトル13は特殊な目的に使用できる。
前述の値1〜4により、フローベクトル仮説、したがって帰属する仮説ベクトル13の尤度が表現されている。明白なのは、リンクコストが第1の類似度を提示する場合に、リンクコストが第2の類似度を提示する場合より尤度が高く評価されることであり、ここで第1の類似度は第2の類似度より大きい。つまり尤度は、予測とフローベクトル仮説が互いに食い違っていない場合により高く評価される。尤度は、予測とフローベクトル仮説が互いに食い違っている場合により低く評価される。予測とフローベクトル仮説が互いに食い違っているかどうかは、リンクコストから明らかである。
特徴4に帰属する仮説ベクトル13の生成の際に、特徴4に帰属する複数の仮説ベクトルを生成するのが典型的である。この場合、類似性の計算および尤度の評価を仮説ベクトル13の各々に対して行う。したがって特徴4に帰属する仮説ベクトル13の各々に対し、それぞれの仮説ベクトル13と予測ベクトル12の類似度を表すリンクコストが計算される。個々の仮説ベクトル13の尤度を評価する際には、仮説ベクトル13の各々に、前述の値1〜4の1つを割り当てる。その際に好ましいのは、特徴4に帰属する仮説ベクトル13のうち最高値が割り当てられた仮説ベクトル13が、さらなる処理のために選択され、例えばフローフィールドに引き継がれることである。
したがって一般的に言えば、特徴4に帰属する仮説ベクトル13のうち尤度評価の際に最高尤度を有する仮説ベクトル13が、さらなる処理のために選択される。よって各仮説ベクトル13に対する尤度は、設定された初期値から、リンクコストに応じて、したがって帰属する類似度に応じて上昇または低下する。この場合、尤度は、高い類似度および低いリンクコストの際に上昇する。相応に尤度は、低い類似度および高いリンクコストの際に低下する。この尤度の変化の度合いは、例えばリンクコストに依存し得る。尤度が評価されると、特徴4に帰属する仮説ベクトル13のうち尤度評価に基づいて最高尤度を有する仮説ベクトル13が、さらなる処理のために選択され、例えばフローフィールドに引き継がれる。
フローベクトル仮説と予測との比較の結果は品質尺度であることができ、この品質尺度は、追加情報として2ビットでコード化でき、かつ記憶、転送、またはさらに処理できる。
特に有利なのは、そのような品質尺度の時間的集合である。このために、例えばフローベクトルごとに、リンクチェックの際に確定された品質尺度をフローベクトルの属性で「計算処理」し、例えば加算する。そのような属性は、例えば既に挙げた年齢であってよく、この場合には品質尺度は2値であろうし、加算は、最大限に表現可能な年齢に達するまで行えるであろう。2値より多い信号の、経過した時間分の集合も有意義である。しかしこの場合、この属性はもうそのままでは年齢として解釈できないであろう。
したがって本発明によれば、外れ値に対するロバスト性がかなり改善される。オプティカルフローの場合の外れ値は、例えばシーン内で構造が繰り返されている場合に発生し得る誤った対応割当てである。
フローベクトル仮説と予測とを本発明に基づいて比較することにより、予想通りに挙動するフローベクトル仮説が優先され、そのようには挙動しない外れ値仮説は効果的に抑制される。そのうえ追加情報として、時間的整合性に関する尺度が取得され、フローベクトルを使って時間上でさらに伝送される。
この伝送経路は、ほかの情報にも利用され得る。
フローベクトル仮説の評価および属性の伝送のためのこのフロー予測のアイディアは、少数の特徴的な画素に対してのみ動きを確定させる疎なオプティカルフロー(sparse optical flow)でも、各画素または画素の大部分に対して動きを確定させる密なオプティカルフローにも用いることができる。
このような属性の一例は、フローベクトルの「年齢」である。これは例えば、それぞれの予測との比較に基づいて、相次いで成功した承認の数であることができ、したがって品質尺度または信用尺度である。
よってオプティカルフロー予測の利用は、フローベクトル仮説の尤度確認もしくは非尤度確認のために、例えば誤った対応(外れ値)の除去のために、または予測によって承認された対応の値の引上げのために、もしくは予測によって承認されなかった対応の値の引下げのために行われる。
これに加え、評価の生成を用いた予測ベクトルと仮説ベクトルとの間のリンクチェックが行われる。
これに関してはリンクチェックの際に、向きのズレのチェックと、向きに沿ったズレのチェックとへの分解が行われる。これは場合によっては、これらの部分の重み付き組合せによって行われる。
予め決定された範囲内での向きに沿ったズレは許容できる。その際、仮説ベクトル13が予測ベクトル12より(向きに沿って)長いかまたは短いかに応じて異なる処置が行われる。
予測は、好ましくは後方フローとして、前方フローとしてのフロー仮説との組合せで行われる。これに加え、(予測を通して送り込まれる前歴との関連で)フローベクトルの時間的整合性に関する尺度の形成が、例えば年齢属性として行われる。リンクチェックを使って生成、承認または外挿された属性のインターフェイスでの準備および任意の属性の時間上の伝送(例えばそれぞれフローベクトルにぶら下げて)も、リンクチェックに依存して行われる。
好ましいのは、例えば時間間隔もしくは距離区間の大きさの違いを考慮するべく、またはカメラ自体の動きを補正するべく、予測を適合させるためのパラメータの利用が行われることである。
図5では、フローベクトル仮説の尤度確認のための装置を示している。この装置は、前述の方法を実行するように適応された計算ユニット40を含んでいる。この場合、画像1、2、3はカメラ41を使って準備される。ただし画像1、2、3は、代替的な供給源を使って、例えばメモリ媒体を使って準備してもよいことを指摘しておく。
上記の文字による開示だけでなく、図1〜図4の開示を参照するよう明示的に指示する。

Claims (12)

  1. フローベクトル仮説の尤度確認のための方法であって、
    − 特徴(4)に帰属する予測ベクトル(12)を、第1の画像(1)と第2の画像(2)との間の前記特徴(4)の動きに基づいて確定し、前記第2の画像(2)が連続画像(20)内で前記第1の画像(1)の後にくる画像であること、
    − 前記特徴(4)に帰属する仮説ベクトル(13)を生成し、前記仮説ベクトル(13)が前記第2の画像(2)と第3の画像(3)との間の前記特徴(4)の推測上の動きを表しており、前記第3の画像(3)が連続画像(20)内で前記第2の画像(2)の後にくる画像であること、
    − 前記予測ベクトル(12)と前記仮説ベクトル(13)との間の類似度を、前記予測ベクトル(12)と前記仮説ベクトル(13)との間の違いに基づいて計算すること、および
    − 前記仮説ベクトル(13)の尤度を、前記算出された類似度に基づいて評価し、その際、前記仮説ベクトル(13)が、前記第2の画像(2)と前記第3の画像(3)との間の前記特徴(4)の実際の動きを表しているかどうかを評価することを含んでいる、方法。
  2. 前記方法がループで実行され、その際に、前のループ実行での前記特徴(4)の前記仮説ベクトル(13)に割り当てられた情報に基づく情報が、目下のループ実行での前記特徴(4)の前記仮説ベクトル(13)に割り当てられることを特徴とする、請求項1に記載の方法。
  3. 前記仮説ベクトル(13)に割り当てられた前記情報がリンクチェックの結果であり、これに関し、
    − 前記リンクチェックが各ループ実行で実施され、この場合、前記特徴(4)の前記予測ベクトル(12)および前記仮説ベクトル(13)が、前記リンクチェックの際に前記予測ベクトル(12)と前記仮説ベクトル(13)との間の前記類似度が設定基準を上回る場合に、相互にリンクしていると見なされ、かつ
    − 各ループ実行では前記仮説ベクトル(13)の前記尤度の前記評価が、さらに、その前の1つまたは複数のループ実行で、前記特徴(4)の前記予測ベクトル(12)と前記仮説ベクトル(13)が相互にリンクしていると見なされたかどうかに基づいて行われることを特徴とする、請求項2に記載の方法。
  4. 前記仮説ベクトル(13)に割り当てられた前記情報が、前記特徴(4)に帰属するオブジェクトのオブジェクトクラスを表すことを特徴とする、請求項2に記載の方法。
  5. 前記予測ベクトル(12)と前記仮説ベクトル(13)との間の類似度の前記計算の際に、前記予測ベクトル(12)に対する直交方向でのズレが、前記予測ベクトル(12)に対する縦方向でのズレより強く評価されるか、または前記仮説ベクトル(13)に対する直交方向でのズレが、前記仮説ベクトル(13)に対する縦方向でのズレより強く評価されることを特徴とする、請求項1〜4のいずれか一項に記載の方法。
  6. 前記予測ベクトル(12)が後方フローを表すフローフィールドから確定され、かつ/または前記仮説ベクトル(13)が前方フローを表すフローフィールドから確定されることを特徴とする、請求項1〜5のいずれか一項に記載の方法。
  7. 前記類似度の前記計算の際に前記予測ベクトル(12)の適合が行われ、前記適合により、前記第1の画像(1)と前記第2の画像(2)との捕捉の間のカメラの動きが補正され、かつ/または前記第2の画像(2)と前記第3の画像(3)との捕捉の間のカメラの動きが補正されることを特徴とする、請求項1〜6のいずれか一項に記載の方法。
  8. 前記類似度が、前記予測ベクトル(12)と前記仮説ベクトル(13)との間の前記違いから、設定された関数を使って確定され、これに関して前記設定された関数により、とりわけ、前記予測ベクトル(12)と前記仮説ベクトル(13)との間の前記違いの重み付けが行われることを特徴とする、請求項1〜7のいずれか一項に記載の方法。
  9. 前記類似度の前記計算の際に、前記違いが、前記予測ベクトル(12)と前記仮説ベクトル(13)とからの差を形成することで生成される差分ベクトル(21)を使って確定されることを特徴とする、請求項1〜8のいずれか一項に記載の方法。
  10. 前記類似度の前記計算の際に、前記違いが、前記差分ベクトル(21)の2つのベクトル成分(22、23)を使って確定され、これに関してはとりわけ、前記両方のベクトル成分(22、23)の異なる重み付けが行われることを特徴とする、請求項9に記載の方法。
  11. 前記特徴(4)に帰属する1つの仮説ベクトル(13)の前記生成の際に、前記特徴(4)に帰属する複数の仮説ベクトルが生成され、かつ前記類似度の前記計算および前記尤度の前記評価が前記仮説ベクトル(13)の各々に対して行われることを特徴とする、請求項1〜10のいずれか一項に記載の方法。
  12. 計算ユニット(40)を含む、フローベクトル仮説の尤度確認のための装置であって、前記計算ユニット(40)が、
    − 特徴(4)に帰属する予測ベクトル(12)を、第1の画像(1)と第2の画像(2)との間の前記特徴(4)の動きに基づいて確定し、前記第2の画像(2)が連続画像(20)内で前記第1の画像(1)の後にくる画像であるように、
    − 前記特徴(4)に帰属する仮説ベクトル(13)を生成し、前記仮説ベクトル(13)が前記第2の画像(2)と第3の画像(3)との間の前記特徴(4)の推測上の動きを表しており、前記第3の画像(3)が連続画像(20)内で前記第2の画像(2)の後にくる画像であるように、
    − 前記予測ベクトル(12)と前記仮説ベクトル(13)との間の類似度を、前記予測ベクトル(12)と前記仮説ベクトル(13)との間の違いに基づいて算出するように、および
    − 前記仮説ベクトル(13)の尤度が、前記算出された類似度に基づいて評価され、その際、前記仮説ベクトル(13)が、前記第2の画像(2)と前記第3の画像(3)との間の前記特徴(4)の実際の動きを表しているかどうかを評価するように適応されている、装置。
JP2020511156A 2017-08-22 2018-07-25 フローベクトル仮説の尤度確認のための方法および装置 Active JP6891339B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102017214614.1A DE102017214614A1 (de) 2017-08-22 2017-08-22 Verfahren und Vorrichtung zur Plausibilisierung einer Flussvektor-Hypothese
DE102017214614.1 2017-08-22
PCT/EP2018/070138 WO2019038008A1 (de) 2017-08-22 2018-07-25 Verfahren und vorrichtung zur plausibilisierung einer flussvektor-hypothese

Publications (2)

Publication Number Publication Date
JP2020531997A true JP2020531997A (ja) 2020-11-05
JP6891339B2 JP6891339B2 (ja) 2021-06-18

Family

ID=63036060

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020511156A Active JP6891339B2 (ja) 2017-08-22 2018-07-25 フローベクトル仮説の尤度確認のための方法および装置

Country Status (7)

Country Link
US (1) US11195287B2 (ja)
EP (1) EP3673459A1 (ja)
JP (1) JP6891339B2 (ja)
KR (1) KR102580056B1 (ja)
CN (1) CN111033565B (ja)
DE (1) DE102017214614A1 (ja)
WO (1) WO2019038008A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102020213587A1 (de) 2020-10-29 2022-05-05 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren und Vorrichtung zum Verknüpfen von optischen Fluss über eine Mehrzahl von Bildern einer Bilderfassungseinrichtung

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010113466A (ja) * 2008-11-05 2010-05-20 Toshiba Corp 対象追跡装置、対象追跡プログラム及び方法
JP2014197353A (ja) * 2013-03-29 2014-10-16 株式会社メガチップス 画像検出装置及び制御プログラム並びに画像検出方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2490448A1 (de) * 2011-02-18 2012-08-22 Siemens Aktiengesellschaft Kodierverfahren und Bildkodiervorrichtung zur Kompression einer Bildsequenz
DE102013012778A1 (de) * 2013-07-31 2015-02-05 Connaught Electronics Ltd. Verfahren zum Detektieren eines sich bewegenden Fußgängers anhand von charakteristischen Merkmalen und optischen Flussvektoren eines Bilds, Kamerasystem und Kraftfahrzeug

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010113466A (ja) * 2008-11-05 2010-05-20 Toshiba Corp 対象追跡装置、対象追跡プログラム及び方法
JP2014197353A (ja) * 2013-03-29 2014-10-16 株式会社メガチップス 画像検出装置及び制御プログラム並びに画像検出方法

Also Published As

Publication number Publication date
WO2019038008A1 (de) 2019-02-28
KR102580056B1 (ko) 2023-09-20
CN111033565A (zh) 2020-04-17
DE102017214614A1 (de) 2019-02-28
JP6891339B2 (ja) 2021-06-18
KR20200040849A (ko) 2020-04-20
US20200250838A1 (en) 2020-08-06
EP3673459A1 (de) 2020-07-01
CN111033565B (zh) 2024-02-13
US11195287B2 (en) 2021-12-07

Similar Documents

Publication Publication Date Title
US11643076B2 (en) Forward collision control method and apparatus, electronic device, program, and medium
JP7345504B2 (ja) Lidarデータと画像データの関連付け
CN108256506B (zh) 一种视频中物体检测方法及装置、计算机存储介质
JP7163945B2 (ja) 移動状況推定装置、移動状況推定方法およびプログラム記録媒体
JP6893564B2 (ja) ターゲット識別方法、装置、記憶媒体および電子機器
CN105335955B (zh) 对象检测方法和对象检测装置
WO2018161037A1 (en) Systems and methods for quantitatively assessing collision risk and severity
JP6565600B2 (ja) アテンション検出装置及びアテンション検出方法
CN113221677A (zh) 一种轨迹异常检测方法、装置、路侧设备和云控平台
CN112863187B (zh) 感知模型的检测方法、电子设备、路侧设备和云控平台
KR20220091607A (ko) 차량-도로 협업 중의 타겟 검출 방법, 장치 및 노변 디바이스
CN111178286B (zh) 姿态轨迹预测方法、装置及电子设备
CN112651535A (zh) 局部路径规划方法、装置、存储介质、电子设备及车辆
CN112166434A (zh) 运行辅助方法、控制单元、运行辅助系统和工作设备
CN116358584A (zh) 一种自动驾驶车辆路径规划方法、装置、设备及介质
JP6891339B2 (ja) フローベクトル仮説の尤度確認のための方法および装置
CN117688970A (zh) 检查神经网络对预测任务的执行的方法
CN116935640A (zh) 一种基于多传感器的路侧感知方法、装置、设备及介质
CN116434156A (zh) 目标检测方法、存储介质、路侧设备及自动驾驶系统
CN112507964B (zh) 用于车道级事件的检测方法和装置、路侧设备和云控平台
CN115115084A (zh) 使用占用流场预测代理在环境中的未来移动
RU2685996C1 (ru) Способ и система предиктивного избегания столкновения манипулятора с человеком
CN110753239B (zh) 视频预测方法、视频预测装置、电子设备和车辆
CN115431968B (zh) 车辆控制器、车辆及车辆控制方法
CN113963322B (zh) 一种检测模型训练方法、装置及电子设备

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200221

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210322

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210402

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210510

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210521

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210526

R150 Certificate of patent or registration of utility model

Ref document number: 6891339

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250