JP6738293B2 - カメラキャリブレーション方法、プログラムおよび装置 - Google Patents

カメラキャリブレーション方法、プログラムおよび装置 Download PDF

Info

Publication number
JP6738293B2
JP6738293B2 JP2017031987A JP2017031987A JP6738293B2 JP 6738293 B2 JP6738293 B2 JP 6738293B2 JP 2017031987 A JP2017031987 A JP 2017031987A JP 2017031987 A JP2017031987 A JP 2017031987A JP 6738293 B2 JP6738293 B2 JP 6738293B2
Authority
JP
Japan
Prior art keywords
intersection
camera
feature vector
model
field
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2017031987A
Other languages
English (en)
Other versions
JP2018137667A (ja
Inventor
強 要
強 要
内藤 整
整 内藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2017031987A priority Critical patent/JP6738293B2/ja
Publication of JP2018137667A publication Critical patent/JP2018137667A/ja
Application granted granted Critical
Publication of JP6738293B2 publication Critical patent/JP6738293B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

本発明は、カメラキャリブレーション方法および装置に係り、特に、野球、サッカーまたはテニスのように、フィールドラインを含むカメラ画像を用いてカメラキャリブレーションを行う方法、プログラムおよび装置に関する。
カメラキャリブレーションは、3Dコンピュータビジョンにおいて非常に重要な技術であり、現実シーンのワールド座標系とカメラ画像のピクセル座標系との関係は、カメラに固有の内部および外部パラメータ(あるいはホモグラフィ行列)に基づいて求められる。
特に、スポーツ系の映像における自由視点でのナビゲーションでは、実際のフィールド上での各選手の位置が重要であり、カメラ画像における各選手の座標をホモグラフィ行列で射影変換することで求められる。したがって、正確なカメラキャリブレーションを自動で行える技術が、自由視点ナビゲーションやビデオ分析のリアルタイムアプリケーションにおいて必要とされる。
非特許文献1には、スポーツイベントにおける自由視点ナビゲーションのためのフィールドモデルに基づくカメラの自動キャリブレーション方法が開示されている。非特許文献1では、カメラ画像内の線分のヒストグラムを使用して頑健なフィールド線を抽出し、2本の水平線と2本の垂直線との4つの交点を抽出して、ホモグラフィ行列を推定している。
特許文献1には、カメラ画像からフィールドライン画像を抽出し、フィールドライン画像からラインセグメントを抽出してフィールドラインを認識し、各フィールドラインを垂直および水平フィールドライン群に分類し、フィールドライン群ごとに各フィールドラインを評価し、評価の高いフィールドライン同士の交点に基づいて対応点を設定し、設定された対応点に基づいてホモグラフィ行列を決定する技術が開示されている。
特開2016-220129号公報
Qiang Yao, Hiroshi Sankoh, Keisuke Nonaka, Sei Naito, "Automatic Camera Self-Calibration for Immersive Navigation of Free Viewpoint Sports Video", Multimedia Signal Processing (MMSP), 2016 IEEE International Workshop on. Montreal, Canada, IEEE, 2016. 09.
非特許文献1では、カメラ画像から4つの交点しか抽出できないので完全なモデルマッチングが必要であり、マッチングに長時間を要するのみならず、4つの交点がカメラ画像の広い領域をカバーしない限りはホモグラフィ行列の精度が低下するという技術課題があった。
特許文献1では、正しいホモグラフィ行列を計算するためには完全なモデルマッチングが必要であり、カメラ画像から認識できない交点があるとホモグラフィ行列の精度が低下するという技術課題があった。
本発明の目的は、上記の技術課題を解決し、多数の交点を用いながら完全なモデルマッチングを必要とせずに、カメラ画像からホモグラフィ行列を精度良く算出できるカメラキャリブレーション方法、プログラムおよび装置を提供することにある。
上記の目的を達成するために、本発明は、フィールドモデルとカメラ画像との間のホモグラフィ行列に基づいてカメラキャリブレーションを行う装置において、以下の構成を具備した点に特徴がある。
(1) カメラ画像からフィールドラインを抽出する手段と、フィールドラインの交点を計算する手段と、交点ごとに当該交点を通るフィールドラインの数および向きに基づいてカメラ交点特徴ベクトル要素を生成する手段と、各カメラ交点特徴ベクトル要素を所定の順序で配列してカメラ交点特徴ベクトルVcを生成する手段と、フィールドモデルの各フィールドラインの交点ごとにモデル交点特徴ベクトル要素を生成する手段と、カメラ交点特徴ベクトルVcの各カメラ交点特徴ベクトル要素と交点の配列が類似するモデル交点特徴ベクトル要素の組み合わせごとに当該各モデル交点特徴ベクトル要素を前記所定の順序で配列して複数のモデル交点特徴ベクトルVmを生成する手段と、カメラ交点特徴ベクトルVcと各モデル交点特徴ベクトルVmとを比較して類似度の高いモデル交点特徴ベクトルVmを抽出する手段と、類似度の高いモデル交点特徴ベクトルVmとカメラ交点特徴ベクトルVcとの対応関係に基づいて対応点を設定し、ホモグラフィ行列を計算する手段とを具備した。
(2) 前記類似度の高いモデル交点特徴ベクトルVmを抽出する手段が、類似度の高い上位Nベストのモデル交点特徴ベクトルVmを抽出し、前記Nベストのモデル交点特徴ベクトルVmを評価する手段を具備し、前記評価する手段は、フレーム画像の左右の境界線を各ホモグラフィ行列でフィールドモデルに投影して各対応する線分を求める手段と、前記各対応する線分の交点をカメラポイントとして登録する手段と、n番目のフレーム画像に基づいて登録されたカメラポイントとm番目のフレーム画像に基づいて登録されたカメラポイントとの変位を計算する手段とを具備し、変位が最小値を示すホモグラフィ行列の評価を最も高くするようにした。
(3) 前記特徴ベクトル要素が、各交点から延びるフィールドラインの向きの数をビット長とするバイナリデータであり、各方向に延びるフィールドラインが抽出されたか否かに応じて各ビット値が2値のいずれかに設定されるようにした。
(4) 前記類似度の高いモデル交点特徴ベクトルVmを抽出する手段は、各交点の特徴ベクトル要素を当該各交点がラスタスキャンされる順序で配列してカメラ交点特徴ベクトルVcとするようにした。
(5) 前記類似度の高いモデル交点特徴ベクトルVmを抽出する手段は、カメラ画像から抽出されたフィールドラインの交点にカメラ画像上で見えない交点が含まれていると、前記カメラ交点特徴ベクトルVcの当該見えない交点の特徴ベクトル要素の部分に、モデル交点特徴ベクトルVmのマッチング範囲内の対応する交点の特徴ベクトル要素をコピーするようにした。
本発明によれば、以下のような効果が達成される。
(1) ホモグラフィ行列を計算するための対応点が4点に限定されず、かつ全ての対応点での完全なマッチングが不要となるので、ホモグラフィ行列を短時間で精度良く算出できるようになる。
(2) 各交点の特徴量として、当該交点から延びるラインの方向及び数に基づくバイナリデータ(特徴ベクトル要素)を採用するので、各交点の特徴量のデータサイズが小さくなり、マッチング処理が簡単化されて処理速度が向上する。
(3) カメラ画像から抽出した各交点の特徴量(特徴ベクトル要素)を所定の規則、例えば、ラスタスキャンの順序で一次元に配列することでカメラ交点特徴ベクトルVcを生成する一方、当該各交点と配列が類似するフィールドモデルの各交点の組み合わせのみを抽出し、当該組み合わせごとに各交点の特徴量を同じ規則で一次元に配列することでモデル交点特徴ベクトルVmを生成するので、マッチング対象のモデル交点特徴ベクトル数が減ぜられ、高速なマッチング処理が可能になる。
(4) カメラ画像で見えない交点が検知されると、その特徴量(特徴ベクトル要素)がフィールドモデルの対応する交点の特徴量で補間されるので、見えない交点が存在してもマッチング精度の低下が防止される。
本発明の第1実施形態に係るカメラキャリブレーション装置の主要部の構成を示した機能ブロック図である。 カメラ画像IRGBの一例を示した図である。 フィールドグラウンド画像Gの一例を示した図である。 フィールドライン画像Fの一例を示した図である。 ルックアップテーブル(LUT)の一例を示した図である。 各交点から延びるフィールドラインの方向を示した図である。 特徴ベクトル要素の設定方法を示した図である。 特徴ベクトル要素の設定例を示した図である。 カメラ交点特徴ベクトルの生成方法を示した図である。 特徴ベクトルVc,Vmのマッチング方法を示した図である。 見えない交点の特徴ベクトル要素を補間する方法を説明する図である。 見えない交点の例を示した図である。 本発明の第2実施形態に係るカメラキャリブレーション装置の主要部の構成を示した機能ブロック図である。 ホモグラフィ行列の評価方法を説明するための図である。 ホモグラフィ行列の評価手順を示したフローチャートである。 2つのカメラcam1,cam2のホモグラフィ行列を較正する方法を示した図である。
以下、図面を参照して本発明の実施の形態について詳細に説明する。図1は、本発明の一実施形態に係るカメラキャリブレーション装置の主要部の構成を示した機能ブロック図であり、ここでは、本発明の説明に不要な構成は図示が省略されている。
フィールドグラウンド画像抽出部10は、図2に示したようなフィールドグラウンドの写ったカメラ画像IRGBからフィールドグラウンド領域以外のバックグラウンド領域を除去してフィールドグラウンド画像Gを取得する。
本実施形態では、初めにカメラ画像IRGBをRBG色空間からHSV色空間の画像IHSVに変換する。次いで、いくつかの統計的閾値σmin H, σmax H、σmin Vを推定し、次式(1)のラベリングプロセスを用いてフィールドグラウンドを抽出する。本実施形態では、ラベルされたマスク画像Bにより、図3に示したフィールドグラウンド画像Gが抽出される。
フィールドライン画像抽出部20は、前記フィールドグラウンド画像Gに基づいて、画素強度(グレースケール)および画素勾配を次式(2)で閾値化することにより、図4に一例を示したフィールドライン画像Fを抽出する。
ここでは、初めにフィールドグラウンド画像Gがグレー画像に変換されている。符号thwおよびthgradは、それぞれ白色およびピクセル勾配の閾値である。符号Δは次式(3)で表される。τはフィールドグラウンド画像Gの各ピクセルG(x,y)の勾配を計算するために使用される距離である。
フィールドライン解析部30において、セグメント検知部31は、フィールドライン画像Fに周知のハフ変換を適用して、フィールドラインの構成要素であるセグメント(線分)を検出する。各セグメントは始点座標P1(x1,y1)および終点座標P2 (x2,y2)によって定義されてセグメントリストに登録される。
セグメントパラメータ計算部32は、検出された各セグメントの傾きkおよびオフセット(切片)bの2つのパラメータを、それぞれ次式(4),(5)で算出する。これら2つのパラメータは、後述するラインプルーニング部33、ライン分類部34およびソート部35で使用される。
前記ハフ変換により検出されたセグメント群には同一のフィールドラインを構成するセグメントが含まれることから、ラインプルーニング部33は、冗長線を除去するためにラインプルーニングを実行する。このとき、前記傾きkおよびオフセットbは2つの線分を比較するために使用され、次式(6),(7)がいずれも成立すると、2つのセグメントli,ljは同一のフィールドラインを構成すると判断されてセグメントljがセグメントリストから除去され、セグメントリストに残ったセグメントに基づいて各フィールドラインが判別される。
ここで、ki,kjはそれぞれセグメントli,ljの傾きであり、bi,bjはそれぞれセグメントli,ljのオフセットである。閾値Δαは傾きki,kjの同一性を判断する閾値であり、閾値Δβはオフセットbi,bjの同一性を判断する閾値である。
ライン分類部34は、判別されたフィールドラインから交点を計算するために、各フィールドラインを、その傾きkに基づいて水平フィールドラインLHおよび垂直フィールドラインLVのいずれかに分類する。
本実施形態では、ライン分類閾値γを予め定義しておき、|ki|>γならば垂直フィールドラインLVに分類し、|ki|≦γならば水平フィールドラインLHに分類する。また、ライン分類閾値はカメラの位置および撮影方向によって異なることがある。したがって、ライン分類処理の後、水平フィールドラインLHおよび垂直フィールドラインLVは2つのサブセットになっている。
ソート部35は、水平フィールドラインLHを上から下にソートし、垂直フィールドラインLVを左から右にソートする。水平フィールドラインLHをソートする際はオフセットbiを使用して、対応するラインを上から下にソートする。垂直フィールドラインLVのソートでは、一番上の水平フィールドラインLHに注目して当該水平フィールドラインLHと各垂直フィールドラインLVとの交点を算出し、当該交点のx座標値に従って各垂直フィールドラインLVをソートする。
なお、前記傾き閾値Δα、オフセット閾値Δβおよびライン分類閾値γは、カメラの位置および向きに依存する。そこで、本実施形態では図5に示したように、各カメラの位置に固有の閾値群を登録したルックアップテーブル(LUT)100を予め構築していき、カメラごとに当該カメラに対応した閾値群を採用するようにしている。
図1へ戻り、交点検出部40は、垂直フィールドラインLVと水平フィールドラインLHとの交点を周知の手法で検出し、その座標を計算する。
ベクトル情報生成部50は、検知された交点の特徴量として特徴ベクトル要素を生成する。ライン方向分析部51は、交点ごとに当該交点から延びるフィールドラインの数および向きに基づいて特徴ベクトル要素を生成するために、検知された交点ごとに当該交点から延びるフィールドラインの有無を検知する。
本実施形態では、各交点P(x,y)で直交する4方向に関してフィールドラインの探索を実施するが、図6に示したように、垂直フィールドラインLvに沿った各方向が「UP(上)」「DOWN(下)」、水平フィールドラインLHに沿った各方向が「RIGHT(右)」「LEFT(左)」と定義される。
また、本実施形態ではロバスト性を維持するために、各方向に画素値を積算するアキュムレータを定義する。di Uは「UP」方向のアキュムレータであり、交点P(x,y)の「UP」方向に沿って白いピクセルが発見されるごとに、対応するアキュムレータdi Uに「1」が加算される。さらに、累積範囲をNと定義する(Nは妥当な探索範囲)。したがって、次式(8)で表される累積数は0とNとの間の値をとる。
また、本実施形態では存否閾値μ(0<μ<1)が定義され、di U>μNであれば「UP」方向へのフィールドラインの存在が認定され、di U≦μNであればフィールドラインの存在が否定される。さらに、本実施形態では別の閾値μrejを高速アルゴリズムとして定義し、連続して次式(9)が成立すると、当該方向へのフィールドラインの存在が否定される。
このような分析は、交点P(x、y)を起点として、各フィールドラインの傾きに基づく方向ごとに行われ、UP方向のアキュムレータdi U、DOWN方向のアキュムレータdi D、RIGHT方向のアキュムレータdi R、LEFT方向のアキュムレータdi Lの解析は、それぞれ次式(10)〜(13)に基づいて行われる。
各式は、それぞれの方向に白色の画素(画素地=255)が見つかれば「1」となし、見つからなければ「0」となる。
特徴ベクトル要素生成部52は、検知された交点ごとに当該交点から各方向へ延びるフィールドラインの存否に基づいて特徴ベクトル要素を生成する。
本実施形態では、図7に示したように、交点ごとに各方向へ延びるフィールドラインの存否が、4ビットのバイナリデータで構成される特徴ベクトル要素の各ビットに割り当てられ、例えば、「UP」方向への存否が最上位ビット(MSB1)に割り当てられる。
同様に、「RIGHT」方向への存否がMSB2に割り当てられ、「DOWN」方向への存否がMSB3に割り当てられ、「LEFT」方向への存否が最下位ビット(MSB4)に割り当てられる。そして、各ビットに対して、フィールドラインが存在していれば「1」、存在していなければ「0」がセットされる。したがって、図7,8に示したように、「UP」方向へ延びる垂直フィールドラインと「LEFT」方向へ延びる垂直フィールドラインとが検知されている交点の特徴ベクトル要素は"1001"となる。
カメラ交点特徴ベクトル生成部53は、各交点の特徴ベクトル要素を所定の順序、例えば図9に示したようなラスタスキャンの順序で一次元に配列してカメラ交点特徴ベクトルVcを生成する。したがって、図9の例ではカメラ交点特徴ベクトルVcは次式(14)のようになる。
図1へ戻り、モデル交点特徴ベクトル要素記憶部60には、フィールドモデルの各フィールドラインの交点ごとに当該交点を通るフィールドラインの数および方向に基づいて予め上記と同様の手順で生成された特徴ベクトル要素が記憶されている。
対応点設定部70において、モデル交点特徴ベクトル生成部71は、カメラ交点特徴ベクトルVcの各特徴ベクトル要素に係る交点を定義した水平フィールドラインLHおよび垂直フィールドラインLVの各本数に応じて、カメラ交点特徴ベクトルVcの各特徴ベクトル要素と交点の配列が類似するモデル交点特徴ベクトル要素の組み合わせを抽出する。そして、当該特徴ベクトル要素の組み合わせごとに各特徴ベクトル要素を配列して複数のモデル交点特徴ベクトルVmを生成する。
マッチング部72は、カメラ交点特徴ベクトルVcと各モデル交点特徴ベクトルVmとの間でマッチングを実行し、類似度が最も高いモデル交点特徴ベクトルVmとカメラ交点特徴ベクトルVcとの対応関係に基づいて対応点を設定する。
図10は、カメラ交点特徴ベクトルVcとモデル交点特徴ベクトルVmとのマッチング方法を模式的に示した図である。
カメラ交点特徴ベクトルVcが、例えば3本の水平フィールドラインLHと2本の垂直フィールドラインLVとの交点に関する6つの特徴ベクトル要素をラスタスキャン順に連結して構成されていると、モデル交点特徴ベクトル生成部71は、Vm要素記憶部60から、フィールドモデルの3本の水平フィールドラインと2本の垂直フィールドラインとの交点、すなわちカメラ画像の交点と配列(水平及び垂直位置)が類似する交点に係る6つの特徴ベクトル要素のセットを全て抽出し、それぞれをラスタスキャン順に連結してモデル交点特徴ベクトルVmを生成する。
すなわち、図9に示したように、フィールドモデルが6本の水平フィールドラインLHと7本の垂直フィールドラインLVとから構成されていると、6本の水平フィールドラインLHから任意に選択した3本(6C3=20通り)と、7本の垂直フィールドラインLVから任意に選択した2本(7C2=21通り)との各交点に関する6つの特徴ベクトル要素の組み合わせを前記Vm要素記憶部60から取得し、組み合わせごとに6つの特徴ベクトル要素を連結して420個のモデル交点特徴ベクトルVmを生成する。
マッチング部72は、カメラ交点特徴ベクトルVcと各モデル交点特徴ベクトルVmとのハミング距離Dをそれぞれ求める。そして、全ての組み合わせについてハミング距離Dが求まると、その中で最小のハミング距離Dを与えるモデル交点特徴ベクトルVmとカメラ交点特徴ベクトルVcとの対応する交点が対応点として登録される。
なお、図12に示したように、検出された交点Pに、カメラ画像の範囲から外れて見えない(インビジブル)交点が含まれていると、カメラ交点特徴ベクトルVcの対応する交点部分には特徴ベクトル要素が生成されない。
本実施形態では、このような場合も想定し、カメラ交点特徴ベクトルVcがインビジブルな交点(符号?で代表)を含み、4ビットの特徴ベクトル要素vが設定されていない場合には、モデル交点特徴ベクトルVmにおいて対応する交点の4ビット値をコピーすることでカメラ交点特徴ベクトルVcを補間する。そして、補間後のカメラ交点特徴ベクトルVcとモデル交点特徴ベクトルVmとに基づいてハミング距離Dを計算する。
図1へ戻り、ホモグラフィ行列決定部80は、少なくとも4つの対応点に基づいてホモグラフィ行列を決定する。カメラパラメータ計算部90は、前記決定されたホモグラフィ行列とカメラの内部パラメータとに基づいてカメラキャリブレーション行列を計算する。
図13は、本発明の第2実施形態の構成を示した機能ブロック図であり、上記と同一の符号は同一又は同等部分を表している。本実施形態は、複数のホモグラフィ行列を評価して、いずれか一のホモグラフィ行列を選択するホモグラフィ行列評価部110を設けた点に特徴がある。
上記の第1実施形態では、カメラ交点特徴ベクトルVcと複数のモデル交点特徴ベクトルVmとのマッチング結果に基づいて最尤のモデル交点特徴ベクトルVmを一つだけ求め、その対応点に基づいてホモグラフィ行列を求めるものとして説明したが、本実施形態では、前記対応点設定部70がハミング距離Dの小さい上位Nベストのモデル交点特徴ベクトルVmを抽出する。
前記ホモグラフィ行列決定部80は、上位Nベストのモデル交点特徴ベクトルVmに関する対応点セットごとにホモグラフィ行列を計算することでN個のホモグラフィ行列を生成し、モグラフィ行列評価部110は、N個のホモグラフィ行列の中から最尤のモグラフィ行列を選択する。
ホモグラフィ行列の評価、検証に関しては逆投影が効果的な方法として知られている。しかしながら、特に固定されていないカメラ(パンチルトズーム)の場合には評価に相応の時間が必要となる。そこで、本実施形態では、逆投影手法よりもはるかに簡単で高速な新しい検証方法を新規に採用している
図14は、前記ホモグラフィ行列評価部110によるホモグラフィ行列の評価方法を示した図である。
本実施形態では、初めにn番目のフレーム画像にホモグラフィ行列を適用してカメラポイント(M,N)が推定される。次いで、m番目のフレーム画像にホモグラフィ行列を適用してカメラポイント(M',N')が推定される。そして、カメラポイント(M,N),(M',N')を比較することで当該ホモグラフィ行列が評価される。
図15は、ホモグラフィ行列の評価手順を示したフローチャートであり、ステップS1では、n番目のフレーム画像上で2つの境界線が選択される。ここでは、左側境界線W1Lおよび右側境界線W1Rが選択されたものとして説明する。
ステップS2では、前記抽出されているホモグラフィ行列を用いて各境界線W1L,W1Rがフィールドモデルに投影される。ステップS3では、投影された2つの線分W1l,W1rの交点座標を求め、これが基準カメラポイント(M,N)として登録される。
ステップS4では、m番目のフレーム画像上で選択された2つの境界線W2Lおよび右側境界線W2Rを対象に上記と同様の処理が実行されてカメラポイント(M',N')が登録される。ステップS5では、次式に基づいて各カメラポイント(M,N),(M',N')の変位θが計算される。
ステップS6では、前記Nベストの各ホモグラフィ行列を用いて計算された各変位θが比較され、最小の変位θを与えるホモグラフィ行列が最尤のホモグラフィ行列として選択される。
本実施形態によれば、全体として、固定されていないカメラは、上記の方法を使用することによって、自動的、堅牢かつ迅速に評価することができる。
また、上記のようにして計算された最尤のホモグラフィ行列は、図16に示したように、互いに遠く離れた2つのカメラcam1,cam2を較正するためにも使用することができる。通常、2つのカメラ間の較正は、特徴点の検出およびマッチングを使用することで実現される。しかしながら、2つのカメラcam1,cam2間のベースラインが大きいと較正精度が低くなり、あるいは較正できない場合もある。
そこで、本発明ではフィールドモデルベースの較正方法として、cam1とcam2をリンクするブリッジを提供する。具体的には、各カメラcam1,cam2についてフィールドモデルに関するホモグラフィ行列H(1),H(2)を計算し、次式(16)でカメラCam1,Cam2間のホモグラフィ行列を計算する。
なお、上記の各実施形態では、予めフィールド画像からフィールドラインを抽出して水平フィールドラインLHおよび垂直フィールドラインLVを抽出し、各水平フィールドラインLHと各垂直フィールドラインLVとの交点を検出したが、本発明はこれのみに限定されるものではなく、フィールド線画像とフィールドモデルの特徴点をそれぞれSIFTなどの周知の特徴検出法を用いて検出し、検出した特徴点をフィールド線の交点とみなすようにしても良い。
10…フィールドグラウンド画像抽出部,20…フィールドライン画像抽出部,30…フィールドライン解析部,31…セグメント検知部,32…セグメントパラメータ計算部,33…ラインプルーニング部,34…ライン分類部,35…ソート部,40…交点検出部,50…ベクトル情報生成部,51…ライン方向分析部,52…特徴ベクトル要素生成部,53…カメラ交点特徴ベクトル(Vc)生成部,60…Vm要素記憶部,70…対応点設定部,71…モデル交点特徴ベクトル生成部,72…マッチング部,80…ホモグラフィ行列決定部,90…カメラパラメータ計算部,100…ルックアップテーブル(LUT),110…ホモグラフィ行列評価部

Claims (12)

  1. フィールドモデルとカメラ画像との間のホモグラフィ行列に基づいてカメラキャリブレーションを行う装置において、
    カメラ画像からフィールドラインを抽出する手段と、
    フィールドラインの交点を計算する手段と、
    前記交点ごとに当該交点を通るフィールドラインの数および向きに基づいてカメラ交点特徴ベクトル要素を生成する手段と、
    各カメラ交点特徴ベクトル要素を所定の順序で配列してカメラ交点特徴ベクトルVcを生成する手段と、
    フィールドモデルの各フィールドラインの交点ごとにモデル交点特徴ベクトル要素を生成する手段と、
    前記カメラ交点特徴ベクトルVcの各カメラ交点特徴ベクトル要素の交点を定義した水平フィールドラインおよび垂直フィールドラインの各本数と同一となる各フィールドラインの組み合わせごとに前記モデル交点特徴ベクトル要素のセットを抽出し、当該セットごとに各モデル交点特徴ベクトル要素を前記所定の順序で配列して複数のモデル交点特徴ベクトルVmを生成する手段と、
    前記カメラ交点特徴ベクトルVcと各モデル交点特徴ベクトルVmとを比較して類似度の高い上位Nベストのモデル交点特徴ベクトルVmを抽出する手段と、
    前記類似度の高い上位Nベストのモデル交点特徴ベクトルVmとカメラ交点特徴ベクトルVcとの対応関係に基づいてN個の対応点セットを設定する手段と、
    前記対応点セットに基づいて計算したN個のホモグラフィ行列を評価する手段とを具備し、
    前記評価する手段は、
    フレーム画像の左右の境界線を各ホモグラフィ行列でフィールドモデルに投影して各対応する線分を求める手段と、
    前記各対応する線分の交点をカメラポイントとして登録する手段と、
    n番目のフレーム画像に基づいて登録されたカメラポイントとm番目のフレーム画像に基づいて登録されたカメラポイントとの変位を計算する手段とを具備し、
    前記変位が最小値を示すホモグラフィ行列の評価を最も高くすることを特徴とするカメラキャリブレーション装置。
  2. 前記モデル交点特徴ベクトルVmを生成する手段は、カメラ画像の各交点を計算する各フィールドラインに対応するフィールドモデル上の各フィールドラインの組み合わせ候補ごとに計算されるモデル交点特徴ベクトル要素に基づいてモデル交点特徴ベクトルVmを生成することを特徴とする請求項1に記載のカメラキャリブレーション装置。
  3. 前記各特徴ベクトル要素が、各交点から延びるフィールドラインの向きの数をビット長とするバイナリデータであり、各方向に延びるフィールドラインが抽出されたか否かに応じて各ビット値が2値のいずれかに設定されることを特徴とする請求項1または2に記載のカメラキャリブレーション装置。
  4. 前記各特徴ベクトル要素が4ビットのバイナリデータであり、各ビット位置には各交点から延びる相互に直行する4方向のそれぞれが対応付けられたことを特徴とする請求項3に記載のカメラキャリブレーション装置。
  5. 前記カメラ交点特徴ベクトル要素を生成する手段は、カメラ画像上で各交点から各方向に所定範囲内でフィールドライン画素の探索を繰り返して発見数を積算し、積算値が所定の閾値を超えると当該方向にフィールドラインが延びている判別することを特徴とする請求項3または4に記載のカメラキャリブレーション装置。
  6. 前記カメラ交点特徴ベクトル要素を生成する手段は、フィールドライン画素の発見率の少ない向きの探索を途中で中断することを特徴とする請求項5に記載のカメラキャリブレーション装置。
  7. 前記フィールドラインを抽出する手段が、抽出された各フィールドラインを垂直フィールドラインおよび水平フィールドラインのいずれかに分類する手段を具備し、
    前記交点を計算する手段は、各垂直フィールドラインと各水平フィールドラインとの交点を計算することを特徴とする請求項1ないし6のいずれかに記載のカメラキャリブレーション装置。
  8. 前記カメラ交点特徴ベクトルVcを生成する手段は、各交点のカメラ交点特徴ベクトル要素を当該各交点がラスタスキャンされる順序で配列してカメラ交点特徴ベクトルVcとすることを特徴とする請求項1ないし7のいずれかに記載のカメラキャリブレーション装置。
  9. 前記モデル交点特徴ベクトルVmを抽出する手段は、前記カメラ交点特徴ベクトルVcと各モデル交点特徴ベクトルVmとのハミング距離Dを求め、当該ハミング距離Dが最小となるモデル交点特徴ベクトルVmを抽出することを特徴とする請求項1ないし8のいずれかに記載のカメラキャリブレーション装置。
  10. 前記モデル交点特徴ベクトルVmを抽出する手段は、カメラ画像から抽出されたフィールドラインの交点にカメラ画像上で見えない交点が含まれていると、前記カメラ交点特徴ベクトルVcの当該見えない交点の特徴ベクトル要素の部分に、比較するモデル交点特徴ベクトルVmの対応する交点の特徴ベクトル要素をコピーすることを特徴とする請求項1ないし9のいずれかに記載のカメラキャリブレーション装置。
  11. フィールドモデルとカメラ画像との間のホモグラフィ行列に基づいてカメラキャリブレーションを行う方法において、
    カメラ画像からフィールドラインを抽出し、
    フィールドラインの交点を計算し、
    前記交点ごとに当該交点を通るフィールドラインの数および向きに基づいてカメラ交点特徴ベクトル要素を生成し、
    前記各カメラ交点特徴ベクトル要素を所定の順序で配列してカメラ交点特徴ベクトルVcを生成し、
    フィールドモデルの各フィールドラインの交点ごとにモデル交点特徴ベクトル要素を生成し、
    前記カメラ交点特徴ベクトルVcの各カメラ交点特徴ベクトル要素の交点を定義した水平フィールドラインおよび垂直フィールドラインの各本数と同一となる各フィールドラインの組み合わせごとに前記モデル交点特徴ベクトル要素のセットを抽出し、当該セットごとに各モデル交点特徴ベクトル要素を前記所定の順序で配列して複数のモデル交点特徴ベクトルVmを生成し、
    前記カメラ交点特徴ベクトルVcとの類似度の高い上位Nベストのモデル交点特徴ベクトルVmと当該カメラ交点特徴ベクトルVcとの対応関係に基づいてN個の対応点セットを設定し、
    前記対応点セットに基づいて計算したN個のホモグラフィ行列を評価し、
    前記評価では、
    フレーム画像の左右の境界線を各ホモグラフィ行列でフィールドモデルに投影して各対応する線分を求め、
    前記各対応する線分の交点をカメラポイントとして登録し、
    n番目のフレーム画像に基づいて登録されたカメラポイントとm番目のフレーム画像に基づいて登録されたカメラポイントとの変位を計算し、
    前記変位が最小値を示すホモグラフィ行列の評価を最も高くすることを特徴とするカメラキャリブレーション方法。
  12. フィールドモデルとカメラ画像との間のホモグラフィ行列に基づいてカメラキャリブレーションを行う方法において、
    カメラ画像からフィールドラインを抽出する手順と、
    フィールドラインの交点を計算する手順と、
    前記交点ごとに当該交点を通るフィールドラインの数および向きに基づいてカメラ交点特徴ベクトル要素を生成する手順と、
    前記各カメラ交点特徴ベクトル要素を所定の順序で配列してカメラ交点特徴ベクトルVcを生成する手順と、
    フィールドモデルの各フィールドラインの交点ごとにモデル交点特徴ベクトル要素を生成する手順と、
    前記カメラ交点特徴ベクトルVcの各カメラ交点特徴ベクトル要素の交点を定義した水平フィールドラインおよび垂直フィールドラインの各本数と同一となる各フィールドラインの組み合わせごとに前記モデル交点特徴ベクトル要素のセットを抽出し、当該セットごとに各モデル交点特徴ベクトル要素を前記所定の順序で配列して複数のモデル交点特徴ベクトルVmを生成する手順と、
    前記カメラ交点特徴ベクトルVcとの類似度の高い上位Nベストのモデル交点特徴ベクトルVmと当該カメラ交点特徴ベクトルVcとの対応関係に基づいてN個の対応点セットを設定する手順と、
    前記対応点セットに基づいて計算したN個のホモグラフィ行列を評価する手順とをコンピュータに実行させ、
    前記評価する手順が、
    フレーム画像の左右の境界線を各ホモグラフィ行列でフィールドモデルに投影して各対応する線分を求める手順と、
    前記各対応する線分の交点をカメラポイントとして登録する手順と、
    n番目のフレーム画像に基づいて登録されたカメラポイントとm番目のフレーム画像に基づいて登録されたカメラポイントとの変位を計算する手順とを含み、
    前記変位が最小値を示すホモグラフィ行列の評価を最も高くすることを特徴とするカメラキャリブレーションプログラム。
JP2017031987A 2017-02-23 2017-02-23 カメラキャリブレーション方法、プログラムおよび装置 Expired - Fee Related JP6738293B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017031987A JP6738293B2 (ja) 2017-02-23 2017-02-23 カメラキャリブレーション方法、プログラムおよび装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017031987A JP6738293B2 (ja) 2017-02-23 2017-02-23 カメラキャリブレーション方法、プログラムおよび装置

Publications (2)

Publication Number Publication Date
JP2018137667A JP2018137667A (ja) 2018-08-30
JP6738293B2 true JP6738293B2 (ja) 2020-08-12

Family

ID=63365851

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017031987A Expired - Fee Related JP6738293B2 (ja) 2017-02-23 2017-02-23 カメラキャリブレーション方法、プログラムおよび装置

Country Status (1)

Country Link
JP (1) JP6738293B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7198233B2 (ja) * 2020-01-29 2022-12-28 Kddi株式会社 交点検出方法および装置ならびにカメラキャリブレーション装置
CN111380502B (zh) * 2020-03-13 2022-05-24 商汤集团有限公司 标定方法、位置确定方法、装置、电子设备及存储介质
CN114399555B (zh) * 2021-12-20 2022-11-11 禾多科技(北京)有限公司 数据在线标定方法、装置、电子设备和计算机可读介质

Also Published As

Publication number Publication date
JP2018137667A (ja) 2018-08-30

Similar Documents

Publication Publication Date Title
US11922615B2 (en) Information processing device, information processing method, and storage medium
CN109829398B (zh) 一种基于三维卷积网络的视频中的目标检测方法
CN108292362B (zh) 用于光标控制的手势识别
JP6525453B2 (ja) オブジェクト位置推定システム、及びそのプログラム
US8693785B2 (en) Image matching devices and image matching methods thereof
CN114119751A (zh) 用于大规模确定rgbd相机姿势的方法和系统
US9367920B2 (en) Method and apparatus for processing images
KR101917354B1 (ko) 모바일 환경 객체 신뢰도 평가와 학습을 통한 융합 객체 추적 시스템 및 방법
JP6738293B2 (ja) カメラキャリブレーション方法、プログラムおよび装置
JP4946878B2 (ja) 画像識別装置及びプログラム
EP3410396B1 (en) Moving object tracking apparatus, moving object tracking method, and computer-readable medium
US8164633B2 (en) Calibration apparatus and method for imaging devices and computer program
CN110942473A (zh) 一种基于特征点网格化匹配的运动目标跟踪检测方法
CN114627173A (zh) 通过差分神经渲染进行对象检测的数据增强
TW202004528A (zh) 商品特定裝置、記錄媒體及學習方法
KR102223754B1 (ko) 객체 이미지 개선 방법 및 장치
US20230410561A1 (en) Method and apparatus for distinguishing different configuration states of an object based on an image representation of the object
KR101601660B1 (ko) 깊이 영상을 이용한 손 영역 분류 방법 및 그 장치
JP7201211B2 (ja) 物体検出方法及び物体検出装置
JP6717769B2 (ja) 情報処理装置及びプログラム
JP2018097707A (ja) 情報処理装置、文字認識方法、コンピュータプログラム、及び記憶媒体
KR101357581B1 (ko) 깊이 정보 기반 사람의 피부 영역 검출 방법
CN109977740B (zh) 一种基于深度图的手部跟踪方法
JP7211495B2 (ja) 教師データ生成装置
JP7211496B2 (ja) 教師データ生成装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190110

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190918

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190925

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191030

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200507

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200518

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200701

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200702

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200715

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200717

R150 Certificate of patent or registration of utility model

Ref document number: 6738293

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees