JP6489654B2 - カメラのキャリブレーション装置、方法及びプログラム - Google Patents
カメラのキャリブレーション装置、方法及びプログラム Download PDFInfo
- Publication number
- JP6489654B2 JP6489654B2 JP2016010818A JP2016010818A JP6489654B2 JP 6489654 B2 JP6489654 B2 JP 6489654B2 JP 2016010818 A JP2016010818 A JP 2016010818A JP 2016010818 A JP2016010818 A JP 2016010818A JP 6489654 B2 JP6489654 B2 JP 6489654B2
- Authority
- JP
- Japan
- Prior art keywords
- frame
- homography matrix
- pixel
- calculating
- field
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Studio Devices (AREA)
- Image Analysis (AREA)
Description
図1は、本実施形態によるキャリブレーション装置が実行するキャリブレーション方法のフローチャートである。なお、図1の処理は、2番目のフレーム以降の各フレームに対して行う。また、1番目のフレームに対するホモグラフィ行列は、初期値として予め求めておく。以下の説明において、処理対象フレームのホモグラフィ行列を求めるものとし、処理対象フレームの時間的に1つ前のフレームを直前フレームと呼ぶものとする。
H2=Hpc×Hcで求めることができる。また、ホモグラフィ行列Hpcは、
p1=(c1,c2,1,0,0,0,-p1*c1,-p1*c2)*(h11,h12,h13,h21,h22,h23,h31,h32)T
p2=(0,0,0,c1,c2,1,-p2*c1,-p2*c2)*(h11,h12,h13,h21,h22,h23,h31,h32)T
求めるべきホモグラフィ行列Hpcの要素h11〜h32は8つであるため特徴点の対応関係が少なくとも4つあれば、要素h11〜h32を求めることができ、よってホモグラフィ行列Hpcを求めることができる。そして、ホモグラフィ行列Hpcと直前フレームのホモグラフィ行列をHpとに基づき、処理対象フレームの第2ホモグラフィ行列H2を求めることができる。
H3=Hp(Hpp)−1Hp (2)
で予測することができる。式(2)は、2つ前のフレームのホモグラフィ行列と、直前フレームのホモグラフィ行列との関係から、処理対象フレームのホモグラフィ行列を予測したものである。
Hc=ω1H1+ω2H2+ω3H3 (3)
ここで、ω1、ω2及びω3は、それぞれ、第1ホモグラフィ行列H1、第2ホモグラフィ行列H2及び第3ホモグラフィ行列H3に対する重み係数である。本実施形態において、重み係数ω1、ω2及びω3は、予め定められた値とする。なお、動画像の2番目のフレームを処理する際には、第3ホモグラフィ行列H3を求めることができないため、2番目のフレームに対する第3ホモグラフィ行列H3は、例えば、零とする。
続いて、第二実施形態について第一実施形態との相違点を中心に説明する。第一実施形態において接地点判定部3は、選手の接地点を一点のみ求めて処理対象フレームと直前フレームの接地点の対応関係を判定していた。しかしながら、選手の両足がフィールドについている場合において、処理対象フレームでは右足とフィールドの接地点が検出され、直前フレームでは、同じ選手の左足とフィールドの接地点が検出されて、この2つの点が対応すると判定されると誤差が大きくなる。したがって、本実施形態において、接地点判定部3は、各選手について2つの接地点A1及びA2を判定し、以下の式(4)により求めた点Aを、当該選手のフィールドとの接地点とする。
A=αA1+(1−α)A2 (4)
点Aは、2つの接地点A1及びA2を結ぶ直線上の点である。なお、αは重み係数であり0〜1の値を取る。例えば、αとしては0.5を使用することができる。この様にして求めた点Aを選手とフィールドとの接地点とし、処理対象フレームと直前フレームとの接地点の対応関係を判定して第1ホモグラフィ行列H1を算出する。この構成により、第1ホモグラフィ行列H1に含まれる誤差を低減することができる。
続いて、第三実施形態について第一実施形態との相違点を中心に説明する。第一実施形態においては、式(3)の重み係数ω1、ω2及びω3を所定の値としていた。本実施形態では、重み係数ω1、ω2及びω3を可変値とする。通常、スポーツのフィールドには、ラインや、ゴール等、固定されており、かつ、フィールドの色とは異なる色のオブジェクトが存在する。本実施形態ではこの様な、固定され、かつ、フィールドとは異なる色のオブジェクトを基準オブジェクトとし、この基準オブジェクトの位置を基準位置とし、この基準位置の実空間座標を算出部6に予め設定しておく。そして、算出部7は、生成した処理対象フレームのホモグラフィ行列Hcを使用し、この基準位置の実空間座標をカメラ座標、つまり、処理対象フレーム内の画素位置に変換する。以下では、この基準位置の実空間座標を処理対象フレームのホモグラフィ行列Hcで変換したカメラ座標を第1座標とする。そして、算出部7は、オブジェクト判定部2が生成したマスク画像の第1座標を基準にマスク画像における基準オブジェクトに対応する画素を探索する。ここで、マスク画像における基準オブジェクトに対応する画素の位置を第2座標とする。算出部7は、第1座標と第2座標の距離を誤差とし、この誤差が閾値を超えているか否かを判定する。誤差が閾値を超えていなければ、算出部7は、算出したホモグラフィ行列Hcを出力する。一方、誤差が閾値を超えていると、算出部7は、重み係数ω1、ω2及びω3の値を変更して再度ホモグラフィ行列Hcを算出する。なお、重み係数ω1、ω2及びω3の値の変更方法は任意である。つまり、誤差が閾値を超えていると重み係数ω1の割合を強くすることも、重み係数ω2の割合を強くすることも、重み係数ω3の割合を強くすることもできる。いずれにしても、算出部7は、誤差が閾値以下となるまで、重み係数ω1、ω2及びω3の値を変更・調整してホモグラフィ行列Hcを算出する処理を繰り返す。
Claims (8)
- カメラにより撮影された映像からホモグラフィ行列を求めるキャリブレーション装置であって、
処理対象の第1フレームと、当該第1フレームより時間的に前の第2フレームのオブジェクトを判定する第1判定手段と、
前記第1フレームの第1オブジェクト及び前記第2フレームの第2オブジェクトの対応関係を判定する第2判定手段と、
前記第2判定手段が判定した第1オブジェクトに基づき前記第1フレームにおいてフィールドに接する第1画素を判定し、当該第1オブジェクトに対応する第2オブジェクトに基づき前記第2フレームにおいてフィールドに接する画素であって、当該第1画素に対応する第2画素を判定する第3判定手段と、
前記第1フレームの特徴点と、前記第1フレームの特徴点に対応する前記第2フレームの特徴点を判定する第4判定手段と、
第1画素と当該第1画素に対応する第2画素とに基づき第1ホモグラフィ行列を算出する第1算出手段と、
前記第1ホモグラフィ行列を使用して前記第1フレームに対するホモグラフィ行列を算出する第2算出手段と、
前記第1フレームの特徴点と、前記第1フレームの特徴点に対応する前記第2フレームの特徴点に基づき第2ホモグラフィ行列を算出する第3算出手段と、
前記第2フレームに対するホモグラフィ行列と、前記第2フレームより時間的に前の第3フレームに対するホモグラフィ行列から第3ホモグラフィ行列を算出する第4算出手段とを備え、
前記第2算出手段は、前記第1フレームに対するホモグラフィ行列の算出に前記第2ホモグラフィ行列及び前記第3ホモグラフィ行列を使用するとともに、
前記第2算出手段は、前記第1ホモグラフィ行列、前記第2ホモグラフィ行列及び前記第3ホモグラフィ行列のそれぞれの重み付け和により前記第1フレームに対するホモグラフィ行列を算出することを特徴とするキャリブレーション装置。 - 前記第2算出手段は、基準位置の実空間座標を保持しており、算出した前記第1フレームに対するホモグラフィ行列を使用して前記基準位置の実空間座標を前記第1フレーム内の画素位置に変換し、前記変換した画素位置と、前記第1フレーム内の前記基準位置に対応する画素位置との距離が閾値以下となるまで、前記第1ホモグラフィ行列、前記第2ホモグラフィ行列及び前記第3ホモグラフィ行列に対する重みを調整することを特徴とする請求項1に記載のキャリブレーション装置。
- 前記第1判定手段は、フィールドの色値に基づきオブジェクトを判定することを特徴とする請求項1又は請求項2に記載のキャリブレーション装置。
- 前記第1画素は、フィールドに接する第1オブジェクトの画素であり、前記第2画素は、フィールドに接する第2オブジェクトの画素であることを特徴とする請求項1から3のいずれか1項に記載のキャリブレーション装置。
- 前記第1画素は、フィールドに接する第1オブジェクトの2つの画素を結ぶ線上の画素であり、前記第2画素は、フィールドに接する第2オブジェクトの2つの画素を結ぶ線上の画素であることを特徴とする請求項1から4のいずれか1項に記載のキャリブレーション装置。
- 前記映像はスポーツ映像であることを特徴とする請求項1から5のいずれか1項に記載のキャリブレーション装置。
- カメラにより撮影された映像からホモグラフィ行列を求めるキャリブレーション方法であって、
処理対象の第1フレームと、当該第1フレームより時間的に前の第2フレームのオブジェクトを判定する第1判定ステップと、
前記第1フレームの第1オブジェクト及び前記第2フレームの第2オブジェクトの対応関係を判定する第2判定ステップと、
前記第2判定ステップが判定した第1オブジェクトに基づき前記第1フレームにおいてフィールドに接する第1画素を判定し、当該第1オブジェクトに対応する第2オブジェクトに基づき前記第2フレームにおいてフィールドに接する画素であって、当該第1画素に対応する第2画素を判定する第3判定ステップと、
前記第1フレームの特徴点と、前記第1フレームの特徴点に対応する前記第2フレームの特徴点を判定する第4判定ステップと、
第1画素と当該第1画素に対応する第2画素とに基づき第1ホモグラフィ行列を算出する第1算出ステップと、
前記第1ホモグラフィ行列を使用して前記第1フレームに対するホモグラフィ行列を算出する第2算出ステップと、
前記第1フレームの特徴点と、前記第1フレームの特徴点に対応する前記第2フレームの特徴点に基づき第2ホモグラフィ行列を算出する第3算出ステップと、
前記第2フレームに対するホモグラフィ行列と、前記第2フレームより時間的に前の第3フレームに対するホモグラフィ行列から第3ホモグラフィ行列を算出する第4算出ステップとを含み、
前記第2算出ステップは、前記第1フレームに対するホモグラフィ行列の算出に前記第2ホモグラフィ行列及び前記第3ホモグラフィ行列を使用するとともに、
前記第2算出ステップは、前記第1ホモグラフィ行列、前記第2ホモグラフィ行列及び前記第3ホモグラフィ行列のそれぞれの重み付け和により前記第1フレームに対するホモグラフィ行列を算出することを特徴とするキャリブレーション方法。 - 請求項1から6のいずれか1項に記載のキャリブレーション装置としてコンピュータを機能させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016010818A JP6489654B2 (ja) | 2016-01-22 | 2016-01-22 | カメラのキャリブレーション装置、方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016010818A JP6489654B2 (ja) | 2016-01-22 | 2016-01-22 | カメラのキャリブレーション装置、方法及びプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2017130889A JP2017130889A (ja) | 2017-07-27 |
JP2017130889A5 JP2017130889A5 (ja) | 2018-05-31 |
JP6489654B2 true JP6489654B2 (ja) | 2019-03-27 |
Family
ID=59396771
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016010818A Active JP6489654B2 (ja) | 2016-01-22 | 2016-01-22 | カメラのキャリブレーション装置、方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6489654B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7195892B2 (ja) * | 2018-11-22 | 2022-12-26 | エヌ・ティ・ティ・コミュニケーションズ株式会社 | 座標変換行列推定方法及びコンピュータプログラム |
CN110599605B (zh) * | 2019-09-10 | 2021-07-13 | 腾讯科技(深圳)有限公司 | 图像处理方法及装置、电子设备和计算机可读存储介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001273500A (ja) * | 2000-03-23 | 2001-10-05 | Hitachi Ltd | 運動物体計測装置および球技分析システムおよびデータサービスシステム |
EP1862969A1 (en) * | 2006-06-02 | 2007-12-05 | Eidgenössische Technische Hochschule Zürich | Method and system for generating a representation of a dynamically changing 3D scene |
-
2016
- 2016-01-22 JP JP2016010818A patent/JP6489654B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017130889A (ja) | 2017-07-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109871760B (zh) | 一种人脸定位方法、装置、终端设备及存储介质 | |
CN109598744B (zh) | 一种视频跟踪的方法、装置、设备和存储介质 | |
US20190378250A1 (en) | Image processing method, device and photographic apparatus | |
KR20120063858A (ko) | 영상 정합 장치 및 그것의 영상 정합 방법 | |
JP7023696B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2017102708A (ja) | オブジェクト追跡装置及びそのプログラム | |
US10235747B2 (en) | System and method for determining the current parameters of a zoomable camera | |
KR101677559B1 (ko) | 영상 정합 장치 및 그것의 동작 방법 | |
CN111951325B (zh) | 位姿跟踪方法、位姿跟踪装置及电子设备 | |
CN109902675B (zh) | 物体的位姿获取方法、场景重构的方法和装置 | |
WO2016031573A1 (ja) | 画像処理装置、画像処理方法、プログラムおよび記録媒体 | |
Gao et al. | Non-goal scene analysis for soccer video | |
US8164633B2 (en) | Calibration apparatus and method for imaging devices and computer program | |
JP6489654B2 (ja) | カメラのキャリブレーション装置、方法及びプログラム | |
CN109285122B (zh) | 一种进行图像处理的方法和设备 | |
JP6583923B2 (ja) | カメラのキャリブレーション装置、方法及びプログラム | |
JP6489655B2 (ja) | カメラのキャリブレーション装置、方法及びプログラム | |
JP2006215655A (ja) | 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びプログラム記録媒体 | |
CN115589532A (zh) | 防抖处理方法、装置、电子设备和可读存储介质 | |
JP6668740B2 (ja) | 道路面推定装置 | |
KR101640563B1 (ko) | 달리기 감지 방법 및 시스템 | |
JP6336856B2 (ja) | 多視点映像表現装置及びそのプログラム | |
KR20220115223A (ko) | 다중 카메라 캘리브레이션 방법 및 장치 | |
JP6230085B1 (ja) | 動画再生システム | |
JP6632134B2 (ja) | 画像処理装置、画像処理方法およびコンピュータプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180307 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180307 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180411 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181119 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181128 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181227 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190220 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190222 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6489654 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |