JP6876818B2 - 行列要素間の対応検索 - Google Patents

行列要素間の対応検索 Download PDF

Info

Publication number
JP6876818B2
JP6876818B2 JP2019547765A JP2019547765A JP6876818B2 JP 6876818 B2 JP6876818 B2 JP 6876818B2 JP 2019547765 A JP2019547765 A JP 2019547765A JP 2019547765 A JP2019547765 A JP 2019547765A JP 6876818 B2 JP6876818 B2 JP 6876818B2
Authority
JP
Japan
Prior art keywords
matrix
comparison
elements
matrix elements
determining
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019547765A
Other languages
English (en)
Other versions
JP2019537181A (ja
Inventor
ジーモン,シュテファン
ツェンダー,アルネ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Publication of JP2019537181A publication Critical patent/JP2019537181A/ja
Application granted granted Critical
Publication of JP6876818B2 publication Critical patent/JP6876818B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/16Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/269Analysis of motion using gradient-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Computational Mathematics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Algebra (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Complex Calculations (AREA)

Description

本発明は、行列の行列要素と比較行列の比較行列要素との間の割当てを決定する方法および対応する装置に関する。
特に、カメラベースのシステムでは、2つの行列の要素の比較が行われ、要素間で割当てが行われる。例えば、行列および比較行列は、それぞれ、第1および第2の画像を表すことができる。割当てまたは対応の形成は、コンピュータビジョンの分野、特にオプティカルフローまたはステレオ視差において使用される。オプティカルフローでは時間軸方向の対応が形成され、3Dシーン内の点の投影が古い座標から新しい座標へ2D画像にどのように移動したかを決定する。画像内の動きは、シーン点の移動によって、またはカメラの移動によって、またはその両方によって同時に引き起こすことができる。
立体視では、異なる複数の画像および個々の画素間の対応を利用して、異なる位置に配置された2つのカメラによって同時的な画像を記録する。カメラの相対的な配置は一般に知られており、固定されている。したがって、対応形成によって3Dシーン内の点との距離を決定することができる。
独国特許第112009001727号明細書、独国特許出願公開第102014009522号明細書、および独国特許出願公開第102013224502明細書により、画像を処理し、対応を計算する方法が公知であり、この場合には、異なる画像における画素の対応が形成される。最初の2つの参考文献はオプティカルフローに関するものであるが、最後に挙げた参考文献はステレオカメラの画像に関するものである。
行列の行列要素と比較行列の比較行列要素との間の割当てを決定するための本発明による方法は、対応テーブルのテーブルフィールドに行列の行列要素の位置を書き込むための書き込みプロセスを実施する第1のステップを含む。書込みプロセスは行列の多数の行列要素に対して実施される。さらなるステップでは、所定のオフセット後に、対応テーブルのテーブルフィールドを読み出し、テーブルフィールドに格納された行列の行列要素の位置を決定する読出しプロセスが実施される。さらなるステップでは、読み出されたテーブルフィールドの位置および比較行列の比較行列要素の現在位置から割当てを行う。書込みプロセスは、行列の行列要素の特性を決定するステップと、行列要素からアクセス特性を決定するステップと、アクセス特性から対応テーブルのテーブルフィールドを決定するステップと、行列の現在の行列要素の位置を決定されたテーブルフィールドに書き込むステップとを含む。テーブルフィールドを読み出すための読出しプロセスは、比較行列の比較行列要素の特性を読み出すステップと、比較行列要素からアクセス特性を決定するステップとを含む。さらに、読出しプロセスは、比較行列要素のアクセス特性から対応テーブルのテーブルフィールドを決定するステップと、決定されたテーブルフィールドから格納されている行列要素の位置を読み出すステップとを含む。したがって、比較行列の比較行列要素の特性の読出し、すなわち読出しプロセスは、好ましくは行列の多数の行列要素が処理された場合、すなわち例えば位置がテーブルに書き込まれた場合にはじめて開始することができる。
このようにして、極めて簡単で極めて効率的な対応形成が行われる。
行列の行列要素の特性の決定は、読出しによって、または処理もしくは方法が実施される場合に、いわゆる「オンザフライ」方法として時間制御式に行うことができることは当業者には明らかである。時間に依存した決定は、好ましくは画像処理時に行われる。特性は、特性が必要とされる場合、または必要とされる直前にはじめて形成することができ、例えば特性がピクセルの周辺から決定された場合またはピクセルもしくは画素の周りの局所的な環境を記述する場合に形成することができる。行列は完全に占有されている必要はなく、ブランクを有してもよいし、または部分的にのみ存在してもよい。例えば、行列要素が画素またはピクセルを表す場合には、部分的に占有された行列が提供されていてもよい。
本発明は、行列の形式の画像データや画像の処理に適用することができるだけでなく、多様な種類の対応を効率的に決定することができる汎用的なツールである。例えば、文字列をテキストで認識することができ、適切な対応を決定することができる。使用される行列は、デカルト座標による行列に制限されておらず、他の行列形状、例えば六角格子も含む。
従属請求項は、本発明の好ましい実施形態を示す。
さらなるステップにおいて、行列要素と比較行列要素との間で行われた割当てから結果行列が形成される場合、有利である。このようにして、割当てまたは対応を容易に処理することができる。
同様に、行列要素および比較行列要素の位置がそれぞれ座標によって指定される場合には、有利である。このようにして、それぞれの要素の一義的な位置を定めることができる。座標は、個別に、またはベクトルの形で格納することができ、2次元行列および画像の場合には、X座標およびY座標における位置が指定されていてもよい。六角格子も可能である。
第1の行列が第1の画像であり、比較行列が第2の画像であることも有利である。行列要素は、有利には、第1の画像内の画素またはピクセルであり、比較行列要素は、第2の画像内の画素またはピクセルである。この場合、第1の画像は第2の画像に対して時間的にずらされてもよく、または第1の画像は第1のカメラの画像を表してもよく、第2の画像は同じ時点の第2のカメラの画像を表してもよい。このようにして、画素の動きを検出するか、または立体評価によって3Dシーンにおける画素との距離を計算することができる。
画像を処理する場合に、オプティカルフローとして割当てを用いることは有利である。この場合に画像間の移動が決定される。
特性が、行列要素または比較行列要素の周りの環境を記述する場合にも有利である。したがって、特性は、画像座標または画像のピクセルの局所的な環境を表すか、または行列の要素の周りの局所的な環境を表す。一般には、画像座標の周りの円盤状または長方形の周辺範囲が使用され、特性は、例えば、グレースケール値またはカラースケール値から形成されていてもよい。理想的には、特性は、全ての行列における同じ外観の環境が同一の特性をもたらすように構成されている。すなわち、画像処理の場合には画像座標の周りの同じ環境は同一の特性をもたらす。特性を形成する方法は当業者に周知である。
行列要素の特性または比較行列要素の特性からアクセス特性を形成することも同様に有利である。最も単純な場合、特性とアクセス特性とは同じである。アクセス特性を決定するために、行列要素(画素)の特性全体、この特性の一部、またはいくつかの行列要素もしくは比較行列要素の特性を使用することができる。特性の値範囲がテーブルのサイズに対応する場合、有利であり得る。この場合、特性は、アクセス特性として直接に使用することができ、対応テーブルの適切なテーブルフィールドのアドレスを指定することができる。したがって、特性の16ビットのワード幅では、0から216−1までの値範囲は、長さ65,536の対応テーブルと直接に比較可能である。
アクセス特性は、対応テーブルのテーブルフィールドのアドレスを記述することができる。特性の値範囲がテーブルの大きさもしくは長さ、すなわちテーブルフィールドの数よりも大きい場合には、いくつかの可能性が提供される。例えば、特性の一部のみをテーブルアドレスとして使用することができる。残りの部分は廃棄されるか、または、例えば属性の形で対応テーブルに格納されていてもよい追加情報として使用される。大きすぎる特性を関数によってより長さの短い特性にマッピングすることも可能であり、マッピングは損失を伴っていてもよい。
特性の値範囲が小さすぎる場合には特性は一義的ではなく、このことは一義的ではない対応形成をもたらす場合がある。したがって、「短い」語長を有するいくつかの特性を隣接する行列要素、または画像の場合には隣接する画素、または遠く離れた行列要素によって、より長い語長を有する特性として連結すること(結びつけること)が好ましい。
テーブルフィールドの数、すなわち、対応テーブルの長さは、割当てまたは対応を決定することが望ましい行列内の特性の数よりも十分に少なくてもよいし、または明らかに少なくてもよい。この場合、同じ画像内のアクセス特性は一般に繰り返し発生するので、アクセス特性は一義的ではない。
有利には、少なくとも1つの無効なアクセス特性、すなわち、割当てまたは対応を形成するために使用されることが望ましくないアクセス特性が設けられている。このようにして、有利には、割当てが望ましくない、または割当てが成功しないことが予見できる、行列または画像内の箇所をマークすることが可能である。画像の場合には、例えば、画像センサが飽和状態に達した完全に白い平面であってもよい。他の例は、センサのノイズとは異なる重要なテクスチャが存在しない平面、または重要ではないとマークされた平面、例えば、フロントガラスの後方に取り付けられたカメラによって検出された(重要でない)ボンネットの範囲である。
対応テーブルのテーブルフィールドが、行列要素の位置に加えてさらなる属性を含む場合、有利である。例えば、これらの追加情報は、割当てを形成する場合の多義性を決定し、好ましい割当てまたは好ましい対応を確定するために役立つ。特徴の値範囲が大きすぎる場合にはこれらの追加情報を利用することも可能であり、または形成された割当てに基づいて、特定の属性を1つの行列から別の行列へ、または1つの画像から別の画像へさらに移動することも可能である。例えば、画像の場合、これは、測定されたサイズ、物体距離、または行列要素もしくは画素の特定の分類であってもよい。
有利には、行列および比較行列の処理は順次に行われる。したがって、個々の行列要素は次々に処理される。例えば、行列要素の行毎の処理を行ってもよく、すなわち、書込みプロセスまたは読出しプロセスが、最初に第1行の第1の行列要素に適用され、次に隣接する要素に適用される。(順次)処理は、好ましくは、所定数の行列要素にわたって、好ましくは、行列の全ての行列要素にわたって行われる。好ましくは、書込みプロセスの回数と読出しプロセスの回数は同じである。
書込みプロセスと読出しプロセスとの間のオフセットが固定されているか、または可変である場合、有利である。有利には、オフセットは、読出しプロセスが書込みプロセスに続くように選択されているが、この原則を反転することも可能である。固定されたオフセットは、対応もしくは割当てとして見つけるべき最大の差を確定できるという利点を有する。可変のオフセットは、オフセットによって決定される検索範囲が同様に可変であり、例えば、画像処理の特異性を考慮に入れることができるという利点を有する。例えば、カメラシステムでは、画像内の点がより下方に位置すればするほど、割当てとして使用されるオプティカルフローベクトル、すなわち割当てベクトルはそれだけ長くなる。可変のオフセットによってこのような特異性を簡単に考慮することができるが、書込みプロセスおよび読出しプロセスを必要に応じて適合させる必要がある。例えば、オフセットが可変である場合には所定の時間にわたっていずれか1つのプロセスを中断することが有利なこともある。
行列内に検索フィールドを設けることも有利である。検索フィールドは、書込みプロセスによって既に処理された、例えばテーブルに入力された多数の行列要素を含む。検索フィールドは、有利には書込みプロセスの現在の行列要素、すなわち最後に書き込まれた行列要素を含むこともできる。行列要素と比較行列要素との割当ては、検索フィールド内に配置された行列要素に対してのみ行われる。このようにして行列と比較行列との間の割当てのための検索範囲を、例えば多義性を回避するために制限することができる。検索フィールドは、長方形または正方形ののみならず、円、楕円、多角形などの他の形状を有することもできる。
割当てがベクトルである場合も有利である。好ましくは、割当てベクトルは、テーブルフィールドから読み出された位置および現在の比較行列要素の位置から計算される。特に好ましくは、計算は差に基づいて行われる。割当てベクトルは、画像処理方法における移動ベクトルまたはオプティカルフローベクトルと理解することができる。割当てベクトルは簡単に処理することができる。
さらに、対応テーブルのリセットを実施し、既存の値を削除または上書きすることが有利である。リセットは、1回のリセット(初期化)として、例えば対応テーブル全体に対して行うことができる。リセットは、好ましくは書込みプロセスの前に行われる。代替的に、好ましくは、リセットは書込みプロセスまたは読出しプロセスと並行して実施することができる連続プロセスとして実行することもできる。すなわち、記憶されたそれぞれの位置は、好ましくは画像処理毎に数回処理され、必要に応じて削除される。したがって、リセット機能の「処理量」が得られる。対応テーブルの連続的なリセットは、好ましくは、画像処理毎に少なくとも2回行われる。なぜならば、一般に、まだ削除されてはならない、対応するかもしれないテーブルエントリが存在するからである。これらの「残り」は、好ましくは、時間遅延された後の処理時に削除される。このようにして、対応形成にもはや適していないテーブルフィールド内の古い値が廃棄または削除される。
時間をずらした処理のためのオフセットは、画像高さもしくは行列高さのせいぜい半分に対応ように選択されることが有利である。連続的なリセットの場合、例えばテーブルに記憶された全ての位置は定められた順序(例えば、昇順アドレス)で処理される(必要であれば削除される)。全てのアドレスが処理されると、再び同じ順序で始めから開始される。少なくとも2つのこのようなリセット処理は、画像処理(またはサブ行列処理)毎に行われ、リセットは、画像変化にかかわらず行うことができる。
検索フィールドが存在している場合には、検索範囲外に位置しており、したがって、読出しプロセスが適切な行列要素を既に処理してしまったために、割当て形成もしくは対応形成に使用されなくなったテーブル内の既に古くなった値が上書きされる。画像ペア毎もしくは行列ペア毎に適切に時間遅延された2つのリセット処理を行うことも有利であり、これにより連続リセットモードで正しい完全な処理が保証され、次の行列ペアを処理する場合に誤った対応形成または割当て形成が起こり得る前に、対応テーブル内の古いエントリが早期に削除されることが確保される。
行列の行列要素と比較行列の比較行列要素との間の割当てを決定するための装置は、本発明による方法を実施するように構成されており、有利であり、本発明による方法のすべての利点を有する。
次に添付の図面を参照して本発明の実施の形態を詳細に説明する。
第1の画像および第2の画像との対応形成を示す概略図である。
図1は、第1の画像102である行列行列101を示す。さらに、第2の画像202である比較行列行列201が示されている。第1の画像102および第201の画像202は、異なる時点の撮影に対応している。第1の行列101は、複数の行列要素103を含む。比較行列201は、複数の比較行列要素203を有する。
図1は、第1の画像102、第2の画像202、および対応テーブル300が示されている現在の画像、ならびに割当てを格納および記憶することができる結果行列400を示している。行列要素103、203は、それぞれ、ここに示される簡略化された形態のアクセス特性110に対応する特性を含む。アクセス特性は、好ましくは、数として符号化され、テーブルフィールド301のアドレスを指定する。テーブルフィールド301は、テーブル300内の行に対応する。ここに示すテーブル300は、4つの列302〜305を有し、列302はテーブルフィールドのアドレスを指定する。この列302は、通常は暗示的であり、明示的ではない。列302は、一般にメモリスペースを必要とせず、明確化のためだけにここ挙げられている。列303および304は位置を記述し、列303は、行列要素または画素の座標または位置のX値を反映し、列304は、Y値を反映している。列305は、対応テーブル300内の他の属性を記憶することを可能にする。
図1では、本発明による方法にしたがった書込みプロセスは、図102において既に進んでいる。書込みプロセスは、行列要素103の一部を処理し、現在行列要素104に到達している。処理された行列要素103は、図1では斜線で示されている。行列要素104は、アクセス特性110、この場合はアドレス17である数17を有する。したがって、書込みプロセスは、行列要素104の座標または位置を対応テーブルの17番目のテーブル行301に書き込み、列303および304のそれぞれの箇所にX座標およびY座標、この場合にはX位置234およびY位置113が入力される。
画像102と画像202との比較は、画像202で実施される読取り処理が、画像102で実施される書込みプロセスに続くことを示している。画像102における書込みプロセスと画像202における読出しプロセスとの間のオフセットは、1行およびいくつかの列であるが、これは例示のためにのみ選択されている。フルHD画像を処理する場合、オフセットは、例えば32行および64画像列と、はるかに大きくて選択されていてもよい。書込みプロセスは、このオフセットの分だけ読出しプロセスに先行する。
行列101および比較行列201内の同一のアクセス特性110が互いに結び付けられる、対応形成または割当て形成の処理は、左上の行列要素103から始まって、好ましくは順次に、例えば行毎に行われる。処理は、列毎に、または他の順序で行うこともできる。好ましくは、順序は、画像102および画像202の両方において同じように選択されるが、同時に開始されるのではなく、時間的オフセットまたは局所的オフセットとみなすことができるオフセットを有するように選択される。
書込みプロセスに対して読出しプロセスが時間的にずらして実施されることにより、読出しプロセスはまだ開始されていないうちに、書き込まれるだけのフェーズが最初に行われる。この後に両方のプロセスが行われるフェーズが続く。行列101内の最後の行列要素103に到達した後に書込みプロセスは停止し、比較行列201内の読出しプロセスはまだ継続される。
図1から分かるように、現在の位置での書込みプロセスは、行列要素104を対応テーブルに書き込む。同様に値「17」を有するアクセス特性110を備える別の行列要素105が、17番目の行に既にあらかじめ書き込まれている。位置、または必要に応じて追加情報などの既存のエントリが、現在の書込みプロセスで上書きされる。同様に、書込みプロセスの過程で、例示的な行列要素106について、値「21」を有するアクセス特性110が、アドレス「21」を有する対応テーブル300の行301に既に書き込まれている。
現在の比較行列要素204を読み出す時間的にずらされた読出しプロセスは、この要素204に対して値「21」を有するアクセス特性110を決定する。本発明による方法では、対応テーブル300の21番目の行で、列303、304から座標値が読み出される。テーブルフィールドは、値「21」を有する同じアクセス特性を備える行列要素106を参照する。ここで、比較行列要素204と行列要素106との間の割当てが形成され、2つの要素106,204の座標が互いに比較される。有利には、差の形成が行われる。読出しプロセスは、対応テーブル300のアドレス21から、書込みプロセスが行列要素106で行われているときに書込みプロセスによってあらかじめそこに入力された、xtab228、ytab=111を有する行列特性106の位置を読み出す。本発明による方法では、有利には現在の比較行列要素204の位置と読み出された行列要素106の位置との間の差が形成され、割当ては、値:
u=x−Xtab=230−228=2
v=y−ytab=112−111−1
を獲得し、x、yは、比較行列要素204の現在の位置を示す。次に本方法のさらなるステップにおいて、読出しプロセスの結果、すなわち行列要素106の位置が検索フィールド120内にあるかどうかがチェックされる。この場合、そうであれば、割当てベクトルとして提供されている決定された割当てu、vが結果行列400に入力される。検索フィールド120は、常に、書込みプロセスの画像102または行列101に関係している。明確化のために、比較行列201または第2の画像202にもう一度示されている。
検索フィールド120は、好ましくは、書込みプロセスによって既に処理されており、位置がテーブルに書き込まれ、読出しプロセスによって読み出すことができる行列要素103のみを含むように選択されている。したがって、検索フィールドは、行列101の斜線で示した領域に位置していなければならない。図1は、上記の基準を満たすのにちょうど十分な大きい先行である場合を示す。書込みプロセスにおいて現在処理されている行列要素104の位置は、ちょうど検索フィールド120内にある。したがって、左から右へ順次に行毎に処理する場合、書込みプロセスによって現在処理されるべき行列要素104は検索フィールド120の右下隅に位置する。現在処理されている行列要素104が、例えば検索フィールド120の右側に位置するか、または次の行に位置するように先行はより大きくてもよい。
検索フィールド120は、比較行列要素204に関して非対称であることも可能であり、この場合についても該当する。現在の基準位置、すなわち、現在処理されている比較行列要素204が、検索フィールドの外部に位置することも可能である。しかしながら、検索フィールド120に位置する行列要素103の位置が対応テーブル300に既に記入されており、読取りプロセスが対応テーブルにアクセスする前に書き込まれるところまで書込みプロセスが進行していることが重要である。したがって、検索フィールド120は、既に処理された行列要素103が配置されている、斜線により示した行列101の範囲内に常に完全に位置している必要がある。

Claims (14)

  1. 行列の行列要素と比較行列の比較行列要素との間の対応付けを決定する方法であって、
    対応テーブル(300)のテーブルフィールド(301)に行列(101)の行列要素(103)の位置を書き込むための書込みプロセスを行列(101)の多数の行列要素(103)に対して実施するステップと、
    所定のオフセット後に、テーブルフィールド(301)を読み出す読出しプロセスを実施し、テーブルフィールド(301)に格納された行列(101)の行列要素(103,・・・106)の位置を決定するステップと、
    読み出された前記テーブルフィールド(301)の位置および比較行列(201)の比較行列要素(203,204)の現在位置から前記対応付けを行うステップと、
    を含み、
    前記書込みプロセスは、
    前記行列の前記行列要素の特性を決定するステップと、
    前記行列要素からアクセス特性(110)を決定するステップと、
    前記アクセス特性(110)から前記対応テーブル(300)の前記テーブルフィールド(301)を決定するステップと、
    前記行列(101)の行列要素(103,・・・106)の位置を、決定された前記テーブルフィールド(301)に書き込むステップと、
    を含み、
    前記読出しプロセスが、
    前記比較行列(201)の前記比較行列要素(203,204)の特性を決定するステップと、
    前記比較行列要素(203,204)からアクセス特性を決定するステップと、
    前記比較行列要素(203,204)の前記アクセス特性(110)から前記対応テーブル(300)の前記テーブルフィールド(301)を決定するステップと、
    決定された前記テーブルフィールドから格納されている行列要素の位置を読み出すステップと、
    を含
    前記特性が、前記行列要素(103,・・・106)または前記比較行列要素(203,204)の周りの環境を記述する、方法。
  2. 行列の行列要素と比較行列の比較行列要素との間の対応付けを決定する方法であって、
    対応テーブル(300)のテーブルフィールド(301)に行列(101)の行列要素(103)の位置を書き込むための書込みプロセスを行列(101)の多数の行列要素(103)に対して実施するステップと、
    所定のオフセット後に、テーブルフィールド(301)を読み出す読出しプロセスを実施し、テーブルフィールド(301)に格納された行列(101)の行列要素(103,・・・106)の位置を決定するステップと、
    読み出された前記テーブルフィールド(301)の位置および比較行列(201)の比較行列要素(203,204)の現在位置から前記対応付けを行うステップと、
    を含み、
    前記書込みプロセスは、
    前記行列の前記行列要素の特性を決定するステップと、
    前記行列要素からアクセス特性(110)を決定するステップと、
    前記アクセス特性(110)から前記対応テーブル(300)の前記テーブルフィールド(301)を決定するステップと、
    前記行列(101)の行列要素(103,・・・106)の位置を、決定された前記テーブルフィールド(301)に書き込むステップと、
    を含み、
    前記読出しプロセスが、
    前記比較行列(201)の前記比較行列要素(203,204)の特性を決定するステップと、
    前記比較行列要素(203,204)からアクセス特性を決定するステップと、
    前記比較行列要素(203,204)の前記アクセス特性(110)から前記対応テーブル(300)の前記テーブルフィールド(301)を決定するステップと、
    決定された前記テーブルフィールドから格納されている行列要素の位置を読み出すステップと、
    を含み、
    前記行列要素(103,・・・106)または前記比較行列要素(203,204)の特性からアクセス特性(110)を形成し、アクセス特性(110)を決定するために、対応テーブル(300)の大きさと比較して特性がどのような大きさであるかに依存して、特性全体、特性の一部、またはいくつかの行列要素(103,・・・106)もしくは比較行列要素(203,204)の特性を使用する、方法。
  3. 行列の行列要素と比較行列の比較行列要素との間の対応付けを決定する方法であって、
    対応テーブル(300)のテーブルフィールド(301)に行列(101)の行列要素(103)の位置を書き込むための書込みプロセスを行列(101)の多数の行列要素(103)に対して実施するステップと、
    所定のオフセット後に、テーブルフィールド(301)を読み出す読出しプロセスを実施し、テーブルフィールド(301)に格納された行列(101)の行列要素(103,・・・106)の位置を決定するステップと、
    読み出された前記テーブルフィールド(301)の位置および比較行列(201)の比較行列要素(203,204)の現在位置から前記対応付けを行うステップと、
    を含み、
    前記書込みプロセスは、
    前記行列の前記行列要素の特性を決定するステップと、
    前記行列要素からアクセス特性(110)を決定するステップと、
    前記アクセス特性(110)から前記対応テーブル(300)の前記テーブルフィールド(301)を決定するステップと、
    前記行列(101)の行列要素(103,・・・106)の位置を、決定された前記テーブルフィールド(301)に書き込むステップと、
    を含み、
    前記読出しプロセスが、
    前記比較行列(201)の前記比較行列要素(203,204)の特性を決定するステップと、
    前記比較行列要素(203,204)からアクセス特性を決定するステップと、
    前記比較行列要素(203,204)の前記アクセス特性(110)から前記対応テーブル(300)の前記テーブルフィールド(301)を決定するステップと、
    決定された前記テーブルフィールドから格納されている行列要素の位置を読み出すステップと、
    を含み、
    前記行列(101)内に、既に処理された多数の前記行列要素(103,105,106)を含む検索フィールド(120)を設け、前記行列要素(103,・・・106)と前記比較行列要素(203,204)との前記対応付けを、前記検索フィールド(120)内の行列要素(103,・・・106)に対してのみ行う、方法。
  4. 請求項1〜3のいずれか一項に記載の方法において、
    前記行列要素(103,・・・106)と前記比較行列要素(203,204)との間で行われた対応付け(401)から結果行列(400)を形成するステップを、
    含む方法。
  5. 請求項1〜4のいずれか一項に記載の方法において、
    前記行列要素(103,・・・106)および前記比較行列要素(203,204)の位置を座標によって指定する方法。
  6. 請求項1〜のいずれか一項に記載の方法において、
    第1の行列(101)が第1の画像(102)であり、前記比較行列(201)が第2の画像(202)であり、前記行列要素(103,・・・106)が、第1の画像(102)内の画素であり、前記比較行列要素(203,204)が、第2の画像(202)内の画素である、
    方法。
  7. 請求項に記載の方法において、
    前記対応付けを用いてオプティカルフローを計算する、方法。
  8. 請求項1〜7のいずれか一項に記載の方法において、
    前記対応テーブル(300)の前記テーブルフィールド(301)がさらなる属性を含む方法。
  9. 請求項1〜8のいずれか一項に記載の方法において、
    前記行列(101)および前記比較行列(201)の順次の処理を行う方法。
  10. 請求項1〜9のいずれか一項に記載の方法において、
    オフセットが固定されているか、または可変である方法。
  11. 請求項1〜10のいずれか一項に記載の方法において、
    前記読出しプロセスが前記書込みプロセスに続き、前記書込みプロセスが、前記読出しプロセスが見つけるべき前記行列要素(103,・・・106)を既に処理しているようにオフセットを選択する方法。
  12. 請求項1〜11のいずれか一項に記載の方法において、
    記テーブルフィールド(301)から読み出された位置および現在の比較行列要素(204)の位置から計算されるベクトル(401)を前記対応付けとして用いる方法。
  13. 請求項1〜12のいずれか一項に記載の方法において、
    前記対応テーブル(300)のリセットを実施し、対応テーブル(300)全体の1回のリセットを行うか、または対応テーブルの連続的なリセットを行う方法。
  14. 求項1〜13のいずれか一項に記載の方法を実施するように構成されている装置。
JP2019547765A 2016-11-23 2017-10-30 行列要素間の対応検索 Active JP6876818B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102016223079.4 2016-11-23
DE102016223079.4A DE102016223079B4 (de) 2016-11-23 2016-11-23 Verfahren und Vorrichtung zur Ermittlung einer Zuordnung zwischen einem Matrixelement einer Matrix und einem Vergleichsmatrixelement einer Vergleichsmatrix mittels Korrespondenztabelle
PCT/EP2017/077729 WO2018095698A1 (de) 2016-11-23 2017-10-30 Korrespondenzsuche zwischen matrixelementen

Publications (2)

Publication Number Publication Date
JP2019537181A JP2019537181A (ja) 2019-12-19
JP6876818B2 true JP6876818B2 (ja) 2021-05-26

Family

ID=60191393

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019547765A Active JP6876818B2 (ja) 2016-11-23 2017-10-30 行列要素間の対応検索

Country Status (6)

Country Link
US (1) US11341654B2 (ja)
EP (1) EP3545492A1 (ja)
JP (1) JP6876818B2 (ja)
CN (1) CN109983503B (ja)
DE (1) DE102016223079B4 (ja)
WO (1) WO2018095698A1 (ja)

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5526506A (en) * 1970-12-28 1996-06-11 Hyatt; Gilbert P. Computer system having an improved memory architecture
US5253308A (en) * 1989-06-21 1993-10-12 Amber Engineering, Inc. Massively parallel digital image data processor using pixel-mapped input/output and relative indexed addressing
US5835902A (en) * 1994-11-02 1998-11-10 Jannarone; Robert J. Concurrent learning and performance information processing system
US6215898B1 (en) * 1997-04-15 2001-04-10 Interval Research Corporation Data processing system and method
JP3880702B2 (ja) * 1997-09-11 2007-02-14 富士重工業株式会社 画像のオプティカルフロー検出装置及び移動体の自己位置認識システム
JP3261115B2 (ja) * 1999-09-22 2002-02-25 富士重工業株式会社 ステレオ画像処理装置
DE10351778A1 (de) * 2003-11-06 2005-06-09 Daimlerchrysler Ag Verfahren zur Korrespondenzanalyse in Bilddatensätzen
AU2006244201B2 (en) * 2005-05-09 2012-09-06 Lockheed Martin Corporation Continuous extended range image processing
JP2007286942A (ja) 2006-04-18 2007-11-01 Renesas Technology Corp 描画データ生成方法及びデータプロセッサ
JP5012718B2 (ja) * 2008-08-01 2012-08-29 トヨタ自動車株式会社 画像処理装置
FR2939919A1 (fr) * 2008-12-16 2010-06-18 New Imaging Technologies Sas Capteur matriciel
US8406506B2 (en) * 2010-05-18 2013-03-26 Honda Motor Co., Ltd. Fast sub-pixel optical flow estimation
US8306274B2 (en) * 2010-05-25 2012-11-06 The Aerospace Corporation Methods for estimating peak location on a sampled surface with improved accuracy and applications to image correlation and registration
CN101964062B (zh) * 2010-09-14 2013-06-12 北京神州泰岳软件股份有限公司 基于用户界面的图像搜索方法
GB2487200A (en) * 2011-01-12 2012-07-18 Canon Kk Video encoding and decoding with improved error resilience
US9495139B2 (en) * 2011-04-11 2016-11-15 University Of Florida Research Foundation, Inc. Elastic computing
DE102013224502A1 (de) 2012-12-07 2014-06-12 Continental Teves Ag & Co. Ohg Verfahren zur Kalibrierung einer Stereokamera eines Fahrzeugs
JP6083300B2 (ja) * 2013-03-29 2017-02-22 富士通株式会社 プログラム、並列演算方法および情報処理装置
WO2014204830A2 (en) * 2013-06-17 2014-12-24 Immedia Semiconductor, Inc. Image processing and motion compensation
US9001251B2 (en) * 2013-09-10 2015-04-07 Rambus Inc. Oversampled image sensor with conditional pixel readout
KR102094506B1 (ko) 2013-10-14 2020-03-27 삼성전자주식회사 피사체 추적 기법을 이용한 카메라와 피사체 사이의 거리 변화 측정방법 상기 방법을 기록한 컴퓨터 판독 가능 저장매체 및 거리 변화 측정 장치.
DE102014009522A1 (de) 2014-06-25 2014-11-27 Daimler Ag Verfahren zur Erfassung einer Umgebung eines Fahrzeugs
US9940533B2 (en) * 2014-09-30 2018-04-10 Qualcomm Incorporated Scanning window for isolating pixel values in hardware for computer vision operations
US9626803B2 (en) * 2014-12-12 2017-04-18 Qualcomm Incorporated Method and apparatus for image processing in augmented reality systems

Also Published As

Publication number Publication date
US11341654B2 (en) 2022-05-24
WO2018095698A1 (de) 2018-05-31
DE102016223079A1 (de) 2018-05-24
EP3545492A1 (de) 2019-10-02
CN109983503B (zh) 2023-09-12
CN109983503A (zh) 2019-07-05
DE102016223079B4 (de) 2024-03-28
JP2019537181A (ja) 2019-12-19
US20190279370A1 (en) 2019-09-12

Similar Documents

Publication Publication Date Title
CN108827249B (zh) 一种地图构建方法和装置
US9519968B2 (en) Calibrating visual sensors using homography operators
JP2019215622A5 (ja)
CN114143519B (zh) 投影图像自动匹配幕布区域的方法及装置,投影仪
JP6223976B2 (ja) 表示制御プログラム、表示制御方法及び表示制御装置
CN111399507B (zh) 确定栅格地图中边界线的方法、划分栅格地图的方法
US20140270478A1 (en) Image mosaicking using a virtual grid
CN111524211B (zh) 笔迹擦除方法、装置及设备
JP6934224B2 (ja) 三次元形状モデル生成装置、三次元形状モデル生成方法及びプログラム
US10957100B2 (en) Method and apparatus for generating 3D map of indoor space
CN112465831B (zh) 基于双目立体相机的弯道场景感知方法、系统和装置
CN110858403A (zh) 一种单目视觉重建中尺度因子的确定方法和移动机器人
CN112629506B (zh) 空调安装位置的定位方法、电子设备及存储介质
US9483843B2 (en) Method and system for expediting bilinear filtering
US20220266835A1 (en) Monocular vision ranging method, storage medium, and monocular camera
JP6876818B2 (ja) 行列要素間の対応検索
CN110503602A (zh) 一种图像的投影变换方法、装置及电子设备
CN113643422B (zh) 一种信息展示方法及装置
CN111179408B (zh) 三维建模的方法及设备
CN115014328A (zh) 一种栅格地图的动态加载方法、装置、设备和介质
CN109839921B (zh) 视觉定位导航方法、装置以及终端
CN114080626A (zh) 确定第一图像区域在对应图像中的位置的方法、执行该方法的SoC和控制设备和系统以及计算机程序
CN111047642A (zh) 环境地图的校正方法、设备及存储介质
CN106251339A (zh) 图像处理方法及装置
CN115129191B (zh) 三维对象拾取方法、装置、设备及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190702

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20200218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200911

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210423

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210426

R150 Certificate of patent or registration of utility model

Ref document number: 6876818

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE

Ref document number: 6876818

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250