JP5177760B2 - 動的校正機能付きカメラおよびその方法 - Google Patents

動的校正機能付きカメラおよびその方法 Download PDF

Info

Publication number
JP5177760B2
JP5177760B2 JP2009105331A JP2009105331A JP5177760B2 JP 5177760 B2 JP5177760 B2 JP 5177760B2 JP 2009105331 A JP2009105331 A JP 2009105331A JP 2009105331 A JP2009105331 A JP 2009105331A JP 5177760 B2 JP5177760 B2 JP 5177760B2
Authority
JP
Japan
Prior art keywords
camera
light spot
image
motion amount
calibration
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009105331A
Other languages
English (en)
Other versions
JP2010156669A (ja
Inventor
祥文 謝
鴻修 游
維漢 王
晉嘉 ▲呉▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Industrial Technology Research Institute ITRI
Original Assignee
Industrial Technology Research Institute ITRI
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Industrial Technology Research Institute ITRI filed Critical Industrial Technology Research Institute ITRI
Publication of JP2010156669A publication Critical patent/JP2010156669A/ja
Application granted granted Critical
Publication of JP5177760B2 publication Critical patent/JP5177760B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/2224Studio circuitry; Studio devices; Studio equipment related to virtual studio applications
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose

Description

本発明は、カメラの校正方法に関する。
環境のセキュリティでの利用ということに関し、カメラは、一般的に、環境状態を監視するために用いられる。環境画像センサによって異常を正確に監視するということがこの種の製品の主要な開発トレンドになってきている。最近では、サービスロボットのローカライゼーションおよびナビゲーション技術の発達により、この種のセンサを一体化することは、サービスロボットの実際のパフォーマンスに影響を与えるキー技術の一つであるとみなされている。
従来のカメラでは、カメラの内部および外部パラメータの校正を完全なものとするには、校正動作は、標準的な校正ボード、または、予め決められた環境的ランドマークを介して実行されなければならない。
図1は、一般のカメラの画像座標および環境座標を示す概念図である。図1に示すように、[u,v]は、画像平面における位置を表し、[Xc,Yc,Zc]は、カメラ空間座標を表し、[Xw,Yw,Zw]は、世界空間座標を示す。内部パラメータの校正により、カメラの焦点位置、画像歪み、画像の中心位置などが決定され、[u,v]と[Xc,Yc,Zc]との間の関係を決定するのに用いられる。外部パラメータは、世界座標に対するカメラの位置、すなわち、[Xc,Yc,Zc]と[Xw,Yw,Zw]との間の変換を表す。
このような校正方法は、ワンステップ校正手順、すなわち、一般的に、単一のカメラの校正を完了するのに比較的長い時間がかかるオフラインの校正方法である。一方、カメラの校正を完了するための設定は、固定でなければならない。つまり、カメラの焦点または位置は固定でなければならない。例えば、ズームイン、ズームアウトなどカメラの焦点を調整する場合、または、カメラの位置を変更することにより、カメラの監視環境(例えば、一般的なパンチルトズーム(PTZ)カメラにより通常実行されるパンまたはチルト動作)を変える場合、カメラは、再校正されなければならない。したがって、このような技術の適用の柔軟性は限られ、多くのカメラは、比較的広い範囲を監視するよう設定される必要があるので、環境監視、異常の追跡、および、ロボットの位置決めにかかる費用が嵩む。
現在、カメラの位置決めの関連特許または技術は、主に、標準校正ボード(米国特許6985175B2および米国特許6437823B1)、または、環境における特別なランドマークの設計を利用し、校正ボード、または、その世界座標に対応する環境におけるランドマークから関連情報を抽出することにより、カメラパラメータの校正を行っている。校正ボードを利用する場合、校正ボード内の標準パターンのサイズ(世界座標のサイズに対応する)は、前もって測定されている必要があり、校正ボードは、校正に用いる画像を撮影するよう、カメラが捕らえた範囲内の任意の高さ、角度、または、位置に配置される。その後、画像処理に基づき、画像の各グリッドに対応する画素位置が得られ、カメラの内部および外部パラメータが計算されることにより、カメラの校正手順は完了する。環境のランドマークを設計する場合は、異なる校正画像を取得する必要はない。このような方法では、グラウンドにおける異なる世界座標の位置は、前もって測定されてマークされ、画像におけるランドマークの画素位置は、画像処理によって得られるので、世界座標に対応するカメラ校正を行うことができる。
さらに、米国特許第6101455では、ロボットアーム、および、ポイント−パターン投影により実行されるカメラ校正が開示されている。このような特許の概念は、空間内を移動するロボットアームの位置情報と、ロボットアームのフロントエンドに投影されるポイント−パターン投影の形状と、カメラによって撮影される校正ボード上のパターンとに従い、異なる位置におけるカメラを校正することである。
したがって、現在のカメラ動的校正では、校正は、外部環境設定に従い実行されなければならず、カメラの位置が変化すると、次の校正を行うために環境設定もリセットしなければならない。したがって、カメラ位置の変化、および、環境設定の変化に対して制限のないリアルタイム校正方法が要求される。
したがって、本発明は、カメラの動的校正方法、および、このような動的校正機能付きカメラを目的とする。カメラが動作プロセス中にパン/チルトすると、カメラの校正パラメータが動的に推定され、広範囲の正確な監視、および、移動式キャリアの位置決めなどのより効果的なシステ適合要件が提供される。
本発明は、カメラの動的校正方法を提供し、当該方法におけるカメラは、点光源を利用する。まず、カメラを初期校正する。次に、点光源が外部環境に光を投影することにより、光点が生成され、当該光点の位置は、世界座標として記録される。次に、カメラは、光点の第1の光点画像を取り込み、当該第1の光点画像の位置を第1の画像座標として記録する。カメラが動くと、カメラの動作量が計算され、複数の動作量推定サンプルが生成される。複数の動作量推定サンプルは、カメラパラメータの推定サンプルを表す。点光源は動かない状態で、動いたカメラが光点を撮像し、第2の光点画像の第2の画像座標を得る。次に、動作量推定サンプル、および、第2の画像座標に従い、動的校正手順が実行され、最適な校正パラメータ推定結果が出る。
上記動的校正手順は、予測手順、アップデート手順、および、リサンプリング手順をさらに備える。予測手順では、第1の光点画像、および、カメラの動作量に従い、動作量推定サンプルが生成される。アップデート手順では、各動作量推定サンプルに重みが割り当てられることにより、動作量推定サンプルがアップデートされる。リサンプリング手順では、動作量推定サンプルに割り当てられた重みに従い、複数の動作量推定サンプルがリサンプリングされることにより、推定サンプルの収束が保証される。
本発明は、カメラの動的校正方法をさらに提供する。まず、カメラを初期校正する。次に、カメラの動作量が計算される。次に、動作量に従い、カメラの複数の動作量推定サンプルが生成される。次に、各動作量推定サンプルの重みが計算される。次に、重みに基づき、複数の動作量推定サンプルがリサンプリングされる。最後に、リサンプリングされた動作量推定サンプルに従い、カメラを校正するための最適な推定サンプルが得られる。
本発明は、動的校正機能付きカメラをさらに提供する。カメラは、視覚感知ユニット、カメラ校正パラメータ推定ユニット、および、空間座標変換ユニットを有する。視覚感知ユニットは、点光源により形成される光点を感知して画像光点を形成し、カメラの動きを制御する。カメラ校正パラメータ推定ユニットは、点光源、画像光点、および、カメラの動作量に従い、複数の動作量推定サンプルを生成して動的校正手順を実行する。空間座標変換ユニットは、光点の世界座標、および、画像光点の画像座標を変換する。その場合、光点の位置は記録され、カメラは、光点の第1の光点画像を取り込み、第1の光点画像の位置を第1の画像座標として記録する。カメラが動くと、カメラの動作量が計算され、動作量推定サンプルが生成される。点光源は動かない状態で、動いたカメラが光点を撮像し、第2の光点画像の第2の画像座標を得る。次に、動作量推定サンプル、および、第2の画像座標に従い、動的校正手順が実行され、最適な校正パラメータ推定結果を得る。
本発明では、PTZカメラと点光源投影装置とが一体化し、動的カメラ校正パラメータの推定は、PIZカメラ内のモータ信号、および、点光源によって投影されるグラウンドにおける投影位置により行われる。校正済みカメラの場合、カメラが動いたことによる再校正用に、関連する校正画像を準備する時間がかからなくなるので、カメラの監視角度はすぐに調整されることができ、動いている被写体の検出範囲および追跡範囲を拡大することができる。一方で、組込み式高性能カメラ(組込みシステムを有するカメラ)にデバイスハードウェアが一体化されることにより、携帯適用性を向上させ、コストを削減することができる。
本発明の上記および他の目的、特徴、および、利点を理解すべく、図面と共にいくつかの実施形態を以下に詳細に説明する。
添付の図面は、本発明の理解を深めるのに役立つと共に、本願明細書の一部をなす。図面は、記載と共に本発明の複数の実施形態を示し、本発明の原理を説明する役割を果たす。
一般的なカメラの画像座標および環境座標の概念を示す概略図である。
本発明の一実施形態におけるシステム100の動作概念を示す概略図である。
本発明の一実施形態における、システム構造を示す概略図である。
本発明の実施形態における動作シーケンスを示す概略図である。
本発明の動作フローチャートである。
動的校正中に発生したバックプロジェクションエラーの概念を示す概略図である。
発明を実施するため形態
本発明を実現するために用いられるセンサ一体化、および、ポーズの推定技術は、カメラのモータ回転信号と、カメラの点光源投影モジュールによりグラウンドに投影された光点とを合わせて利用することにより、オンラインカメラ校正を実行しうる。説明のためのいくつかの実施形態が以下に提供される。
図2は、本発明の一実施形態におけるシステムの動作概念を示す概略図である。図2に示されるように、カメラ10は、点光源20を備え、当該点光源20は、カメラ校正のための光点を提供する。点光源20から発せられた光ビームは、環境内に光点40を形成し、光点40の画像光点42がカメラ10の画像平面に形成される。当該環境で形成される光点40は、世界座標[Xw,Yw,Zw]により定義され、画像光点42は、画像座標[u,v]により定義される。カメラ10は、空間においてパンまたはチルトなどの動きをするよう、モータ30によりさらに制御されることができる。
図3は、本発明の一実施形態におけるシステム構造を示す概略図である。図3に示すように、システム100は、視覚感知ユニット110、空間座標変換ユニット120、および、カメラ校正パラメータ推定ユニット130などを有する。上記ユニット110、120、および、130は、システム100のマイクロプロセッサ140により制御されることができ、その結合関係は、実際の実装に従い決定される。図3は、一例を示すに過ぎない。
図3に示されるように、視覚感知ユニット110は、画像処理モジュール112と、モータ制御モジュール114と、点光源制御モジュール116とを有する。視覚感知ユニット110は、ハードウェア制御層であって、画像処理、モータ信号処理、および、点光源制御に用いられる。画像処理モジュール112は、カメラで撮影された画像の前処理のために用いられる。モータ制御モジュール114は、カメラの動きを制御するのに用いられ、点光源制御モジュール116は、光点の投影を制御するのに用いられる。
カメラ校正パラメータ推定ユニット130は、定位置校正パラメータの推定、または、動的位置校正パラメータの推定が実際の必要条件に従い実行される、オンライン動的校正パラメータの推定に主に用いられる。カメラ校正パラメータ推定ユニット130は、基本的には、初期校正手順の設定、校正パラメータ推定サンプルの予測、および、校正パラメータ推定サンプルのアップデートなどに用いられる。換言すると、カメラ校正パラメータ推定ユニット130は、校正パラメータ推定サンプルを予測し、アップデートするのに用いられる。
空間座標変換ユニット120は、画像座標[u,v]と世界座標[Xw,Yw,Zw]との間の変換を実行する。空間座標変換ユニット120は、システムソフトウェアにより実装されうる、画像座標を世界座標に変換するか、または、世界座標を画像座標に変換する機能またはモジュールを有する。空間座標変換ユニット120は、校正パラメータ推定サンプルをアップデートすべくカメラ校正パラメータ推定ユニット130を支援するのに用いられる。空間座標変換ユニット120は、画像平面[u,v]におけるデータを世界座標[Xw,Yw,Zw]に変換し、それをグラウンドに投影された光点と比較することによって、推定サンプルをアップデートする。
上記ユニット110、120、および、130は、例えば、ARM(Advanced RISC machine)、または、FPGA(Field Programmable Gate Arrays)などの、カメラの組込みシステムによって実装される。
本実施形態の動作を以下に説明する。図4は、本実施形態の動作シーケンスを示す概略図であり、図5は、本実施形態の動作フローチャートである。
図4に示すように、カメラ10の初期位置は、C_POS1であり、現在、点光源20の初期位置は、L_POS1(1)である。この段階では、点光源20から発せられる光は、環境において光点Aを形成し、光点Aの対応する世界座標は、[X1,Y1]である。さらに、カメラ10が動くと、その位置は、C_POS2に変化する。このようなプロセスの間に、カメラ10の動的校正手順が実行される。まず、点光源20は、光点A[X1,Y1]に光を投影する、すなわち、点光源20の位置は、L_POS2(0)である。そして、点光源20の位置は、L_POS2(1)に移動する。点光源20を用いたカメラ10の動的校正を以下に詳細に説明する。
図4に示すように、まずカメラ10は初期位置C_POS1に位置しており、点光源20の初期位置は、L_POS1(1)である。ここでカメラ10の校正は完了する。上述のごとく、点光源20により投影される光点の世界座標は、[X1,Y1]であり、センサの画像平面における、カメラ10により形成される光点の画像座標は、[U1,V1]である。
次に、カメラ10が位置C_POS1から位置C_POS2へと動くと、カメラ10の動的校正手順が実行される。動的校正手順が実行されているとき、点光源20は動かず、すなわち、位置L_POS2(0)および位置L_POS1(1)は同じであり、環境における点光源20の投影位置は、位置[X1,Y1]のままである。しかしながら、カメラ10は動いているので、画像平面における画像座標は、[U1,V1]から[U2,V2]へと移動する。つまり、撮像位置が[U1,V1]から[U2,V2]へと変化しても、環境における光点の位置は変化せず、位置[X1,Y1]に維持される。
上記カメラ動的校正手順によれば、N個のカメラ動作量推定サンプル、すなわち、N個のカメラ校正パラメータソリューションは、カメラ10により制御されるモータ30の実際の回転量と、実際の回転の間に生じる可能性のあるばらつきとに従い、生成される。
上記動的校正手順によれば、位置L_POS2において光源20により形成される光点の画像座標[U2,V2]は、N個のカメラ校正パラメータソリューションにより、世界座標位置(xi、yi)に投影される。ここでは、i=1−Nである。次に、N個の可能性のある位置(xi,yi)は、実際の光点位置[X1,Y1]と比較される。その後、実際の光点位置[X1,Y1]とN個の可能性のある位置(xi、yi)との間の異なる距離に従い、N個の可能性のある位置(xi、yi)の重みが計算される。重みが算出された後、利用される校正パラメータソリューションを表す最も近い距離は、最高の重みを有し、最高の重みを有するものが校正パラメータの結果としてみなされる。
その後、N個の校正パラメータソリューションの重みに従い、新たなN個のカメラ動作量推定サンプルが生成されて、前のN個の校正パラメータソリューションと置き換えられることによって、システムの収束を保証する。換言すると、N個の校正パラメータソリューション、および、その重みを数回丸めることにより、N個の校正パラメータソリューションのセットは、ますます収束し、カメラの精度が著しく向上することによって、カメラの動的校正は実現する。
校正が完了した後、点光源20は、位置L_POS2(1)へと移動する。ここで、カメラ10が回転コマンドを受け取ると、上記動的校正手順が繰り返されて同じ校正手順を実行する。反対に、カメラ10は、校正パラメータの最新の結果を維持する。
図5は、本実施形態の動作フローチャートである。図4および図5を参照すると、ステップS100において、カメラ10に初期校正を実行する、つまり、カメラ10のパラメータは、カメラ10が静止している状態で校正される。このようなステップは、図4のカメラ10が位置C_POS1にあり、点光源20が位置L_POS1(1)にある場合に実行される校正手順と同じである。
次に、ステップS102において、環境内で点光源20が光ビームを投影し、グラウンドに光点Aを形成し、光点の世界座標[X1,Y1]が記録される。
次に、ステップS104において、カメラ10は、光点を撮像し、画像平面に形成されるグラウンド光点Aの撮像位置[U1,V1](すなわち、画像平面における画像座標)を記録する。
次に、ステップS106において、カメラが動くかどうかが決定され、カメラが動かない場合、ステップS102が繰り返され、動的校正手順は実行されない。反対に、カメラが動く場合、ステップS108が実行されてカメラの動作量が計算されることにより、N個の動作量推定サンプルが生成される。
次に、ステップS110において、光点Bが撮像され、カメラが動いた後に画像平面に形成されるグラウンド光点Bの画像座標[U2,V2]が記録される。
その後、ステップS112において、カメラ動的校正手順が実行される。このような動的校正手順は、予測、アップデート、および、リサンプリングからなる3つの主な手順を含む。
図4を参照すると、予測手順に従い、位置L_POS2において光源20により形成された光点の画像座標[U2,V2]は、N個のカメラ校正パラメータソリューションによって、世界座標位置(xi,yi)(すなわち、N個の動作量推定サンプル)に投影される。換言すると、世界座標に対応する画像座標[U2,V2]の可能性のある位置が推定されることにより、N個の可能性のあるソリューション(xi,yi)が生成される。i=1−Nであり、つまり、世界座標におけるN個の可能性のあるソリューションが推定される。図6は、上記概念の概略図である。図6によれば、投影された世界座標位置54は、画像平面における光点52に従い推定され、点光源の投影位置は、50である。
アップデート手順に従い、N個の可能性のあるソリューションと、実際の世界座標との間の距離差がそれぞれ計算され、計算された距離差に従い、N個の可能性のあるソリューションに重みが割り当てられることにより、N個の可能性のあるソリューションと、実際の世界座標との間の相関性が識別される。利用される校正パラメータソリューションを表す最も近い距離は、最高の重みであり、当該最高の重みを有するものが校正パラメータの結果としてみなされる。図6を参照すると、システムは、点光源の投影位置50と推定位置54との間の距離エラーreproj_errを計算する。i=1−Nである。
リサンプリング手順は、前のN個の校正パラメータソリューションを置き換えるための上記重みに従うN個のカメラ動作量推定サンプルを表す。換言すると、リサンプリングが重みに従い実行されることにより、システムの収束が著しく向上し、カメラ動作量推定サンプルが実際の世界座標とより近くなることが保証される。
最後に、ステップS114において、校正パラメータ推定の最適な結果が決定され、点光源20は、初期位置へと戻る。図4では、カメラ10の位置C_POS1と、点光源20の位置L_POS1(1)とが初期位置として定義される。カメラ10が位置C_POS2に移動しても、点光源20により投影される光点の位置は変化しない。つまり、位置L_POS2(0)とL_POS1(1)とは同じである。ここで動的校正が実行され、校正が完了した後、点光源20は、初期位置、すなわち、位置L_POS2(1)へと戻る。
本実施形態においては、カメラが環境の画像を撮影するそれぞれの時点では、動的カメラ校正パラメータの推定は、カメラのモータ信号と、点光源により投影されるグラウンドにおける光点の相対位置とに従い実行される。図5のフローチャートは、3つの主要部分を含む。第1の部分では、カメラの初期校正パラメータを確定する。このような部分によれば、定位置に配置されたカメラの内部パラメータと外部パラメータとを得ることができる。内部パラメータは、カメラの焦点、撮像中心、歪み補正係数などを含み、外部パラメータは、世界座標に対するカメラの位置を表し、これは、動的校正パラメータの推定部分でもあって、以下の方程式(1)により示されうる。
XI=KXC,XC=RXW+T (1)
XI=KXCは、画像平面XIと、カメラ空間座標XCとの関係を表し、Kは、内部パラメータマトリックスを表す。XC=RXW+Tは、カメラ空間座標と世界座標との関係を表す。RおよびTは、初期外部パラメータの回転マトリックスおよび並進マトリックスをそれぞれ表す。
カメラがその初期位置からパン/チルト動作を実行すると、カメラの状態は、以下の方程式(2)から(4)により示されうる。
Figure 0005177760
Rpanは、カメラのパン動作に対応する回転マトリックスであり、Rtiltは、チルト動作に対応する回転マトリックスであり、TpanおよびTtiltは、パン動作およびチルト動作にそれぞれ対応する並進マトリックスである。
第2の部分では、動作モデルおよび測定モデルを含むカメラ校正パラメータモデルを確定する。動作モデルは、カメラのモータの動作の差異に従い、相対的な回転および並進量を計算し、カメラの動作量が計算されて推定サンプルが生成された図5のステップS108と同じ推定サンプルの概念に従い、校正パラメータを予測するのに用いられる。このようなステップは、以下の方程式(5)から(9)により表され、方程式(9)では、S は、時点tにおける状態、すなわち、時点tにおけるカメラ校正パラメータの予測を表す。
Figure 0005177760
本実施形態では、時点tにおいて生成される回転または並進量は、t−1の時点で生成された結果、変数δ、および、ランダムノイズN(0,σ)に従い予測される。測定モデルは、グラウンドに投影される光点により形成される画像平面上の撮像位置により、動作モデルに基づき計算される動作位置をアップデートするのに用いられ、以下の方程式(10)および(11)で示されるような推定サンプルのそれぞれの重みが計算される。
Figure 0005177760
reproj_errは、光点により画像平面上で撮像される画像座標が図6で示される計算された校正パラメータによる推定サンプル予測のそれぞれによって世界座標に投影される場合に生成されるエラー量を表し、各サンプルの重みは、方程式(11)に従い計算される。
第3の部分では、第2の部分の重み計算結果に従い、推定サンプルをリサンプリングする。その場合、重みが高いサンプルほど選ばれやすいので、校正パラメータの推定結果の収束効果が高まり、それによって、校正パラメータの推定結果が得られる。
要約すると、上記実施形態によれば、PTZカメラと点光源投影装置とが一体化され、動的カメラ校正パラメータの推定は、PTZカメラ内のモータ信号と、グラウンドにおける点光源の投影位置とによってなし得る。
さらに、校正済みのカメラだと、カメラが動いたことによる再校正用に、関連する校正画像を準備する時間がかからなくなるので、カメラの監視角度はすぐに調整されることができ、動いている被写体の検出範囲および追跡範囲を拡大することができる。一方で、組込み式高性能カメラ(組込みシステムを有するカメラ)にデバイスハードウェアが一体化されることにより、携帯適用性を向上させ、コストを削減することができる。
また、本発明では、一般的なPTZカメラが動作する際に生成されるモータ情報と、点光源エミッタのシステム状態推定テクニックとが組み合わされて動的環境のためのカメラの自動校正システムを確立する。カメラに対して初めてのオンライン校正が前もって実行された後、本発明により提供される関連デバイスおよび方法は、カメラの動作プロセス中、または、カメラがパン/チルト動作を実行する場合にカメラの校正パラメータを動的に推定することにより、従来のカメラであれば、再校正のために校正ボードまたは環境ランドマークの画像をさらに撮影しなければならないという関連技術の課題を解消する。したがって、広範囲で正確な監視、および、移動式キャリアの位置決めの必要条件を満たす、より効果的なシステムが提供される。
本発明の範囲または趣旨に逸脱せずに、本発明の構造にさまざまな修正および変更がなされうることが当業者には明らかであろう。上記に鑑み、以下の請求項およびそれらの均等物の範囲に納まる限りにおいて、本発明は、本発明の修正および変更を含むことが意図される。

Claims (11)

  1. 点光源を使用するカメラの動的校正方法であって、
    前記カメラに対し初期校正を実行する段階と、
    前記点光源によって、外部環境に光を投影して光点を生成し、前記光点の位置を世界座標として記録し、前記光点の第1の光点画像を前記カメラにより取得し、前記第1の光点画像の位置を第1の画像座標として記録する段階と、
    前記カメラが動いた場合に、前記カメラの動作量を計算し、前記カメラの前記動作量に基づいて前記世界座標における複数の動作量推定サンプルを生成する段階と、
    前記点光源が動かない状態で、前記動いたカメラにより前記光点を撮像し、前記光点の第2の光点画像の第2の画像座標を得る段階と、
    前記第2の画像座標を前記世界座標に投影する段階と、
    前記複数の動作量推定サンプル、前記光点の位置の前記世界座標に対応する前記第1の画像座標、および、前記世界座標に投影される前記第2の画像座標に従い、動的校正手順を実行する段階と、
    前記動的校正手順に従い、最適校正パラメータ推定結果を生成する段階と、
    を備え、
    前記動的校正手順は、
    前記第2の画像座標、および、前記カメラの前記動作量に従い、前記複数の動作量推定サンプルを生成することと、
    前記複数の動作量推定サンプルの各々に重みをそれぞれ割り当てることにより、前記複数の動作量推定サンプルの前記重みをアップデートすることと、
    前記アップデートした前記複数の動作量推定サンプルの前記重みに従い、前記複数の動作量推定サンプルをリサンプリングすることと、
    を含む、
    動的校正方法。
  2. 前記重みは、前記複数の動作量推定サンプルのそれぞれと、前記点光源により投影される前記光点の実際の位置との間の距離差に従い決定される、請求項1記載のカメラの動的校正方法。
  3. 前記重みは、前記距離差が減少するにつれ増す、請求項2に記載のカメラの動的校正方法。
  4. 前記初期校正は、前記カメラの内部パラメータおよび外部パラメータの校正を含む、請求項1に記載のカメラの動的校正方法。
  5. 前記カメラの前記動作量は、パン動作およびチルト動作を含む、請求項1に記載のカメラの動的校正方法。
  6. 前記動作量は、ランダムノイズをさらに含む、請求項5に記載のカメラの動的校正方法。
  7. カメラの動的校正方法であって、
    前記カメラに初期校正を実行する段階と、
    前記カメラの動作量を計算する段階と、
    前記動作量に従い、世界座標における前記カメラの複数の動作量推定サンプルを生成する段階と、
    前記複数の動作量推定サンプルのそれぞれの重みを計算する段階と、
    前記複数の動作量推定サンプルの前記重みをアップデートし、アップデートした前記重みに従い前記複数の動作量推定サンプルをリサンプリングする段階と、
    前記リサンプリングされた前記複数の動作量推定サンプルに従い、最適校正パラメータ推定結果を生成する段階と、
    前記最適校正パラメータ推定結果に基づいて前記カメラを校正する段階と、
    を備える、カメラの動的校正方法。
  8. 前記カメラの前記動作量は、パン動作およびチルト動作を含む、請求項7に記載のカメラの動的校正方法。
  9. 前記動作量は、ランダムノイズをさらに含む、請求項7に記載のカメラの動的校正方法。
  10. 前記初期校正は、前記カメラの内部パラメータおよび外部パラメータの校正を含む、請求項7に記載のカメラの動的校正方法。
  11. 動的校正機能付きカメラであって、
    点光源により形成される光点を感知して画像光点を形成し、前記カメラの動作を制御する視覚感知ユニットと、
    動的校正手順を実行すべく、前記点光源、前記画像光点、および、前記カメラの動作量に従い、世界座標における複数の動作量推定サンプルを生成するカメラ校正パラメータ推定ユニットと、
    前記光点の世界座標、および、前記画像光点の画像座標を変換する空間座標変換ユニットと、
    を備え、
    前記光点の位置は記録され、前記カメラは、前記光点の第1の光点画像を取得し、前記第1の光点画像の位置を第1の画像座標として記録し、
    前記カメラが動くと、前記カメラの前記動作量が計算されることにより、前記複数の動作量推定サンプルが生成され、
    前記点光源が動かない状態で、前記動いたカメラが前記光点を撮像し、前記光点の第2の光点画像の第2の画像座標を取得し、
    前記第2の画像座標を前記世界座標に投影し、
    前記動的校正手順は、前記複数の動作量推定サンプル、前記光点の前記世界座標に対応する前記第1の画像座標、および、前記世界座標に投影される前記第2の画像座標に従い実行され、
    前記動的校正手順に従い、最適校正パラメータ推定結果が生成される、
    動的校正機能付きカメラ。
JP2009105331A 2008-12-30 2009-04-23 動的校正機能付きカメラおよびその方法 Active JP5177760B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
TW097151445 2008-12-30
TW097151445A TWI408486B (zh) 2008-12-30 2008-12-30 具動態校正的攝影機及其動態校正方法

Publications (2)

Publication Number Publication Date
JP2010156669A JP2010156669A (ja) 2010-07-15
JP5177760B2 true JP5177760B2 (ja) 2013-04-10

Family

ID=42284442

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009105331A Active JP5177760B2 (ja) 2008-12-30 2009-04-23 動的校正機能付きカメラおよびその方法

Country Status (3)

Country Link
US (1) US20100165116A1 (ja)
JP (1) JP5177760B2 (ja)
TW (1) TWI408486B (ja)

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI404609B (zh) * 2010-10-21 2013-08-11 Ind Tech Res Inst 機械手臂系統參數的校正方法與校正裝置
TWI426775B (zh) * 2010-12-17 2014-02-11 Ind Tech Res Inst 攝影機再校正系統及其方法
TWI453698B (zh) * 2011-03-25 2014-09-21 Everfocus Electronics Corp The method of automatic tracking of ball camera
WO2013079088A1 (en) 2011-11-28 2013-06-06 Brainlab Ag Method and device for calibrating a projection device
KR101215083B1 (ko) * 2011-12-27 2012-12-24 경북대학교 산학협력단 기판 검사장치의 높이정보 생성 방법
EP2615580B1 (en) * 2012-01-13 2016-08-17 Softkinetic Software Automatic scene calibration
US9773312B2 (en) * 2012-05-25 2017-09-26 Koh Young Technology Inc. Method of registrating a camera of a surgical navigation system for an augmented reality
CN103809880B (zh) * 2014-02-24 2017-02-08 清华大学 人机交互系统及方法
KR101830249B1 (ko) * 2014-03-20 2018-03-29 한국전자통신연구원 이동체의 위치 인식 장치 및 방법
CN104007761B (zh) * 2014-04-30 2016-05-11 宁波韦尔德斯凯勒智能科技有限公司 基于位姿误差的视觉伺服机器人的循迹控制方法及装置
TWI577493B (zh) * 2014-12-26 2017-04-11 財團法人工業技術研究院 校正方法與應用此方法的自動化設備
TWI522760B (zh) 2015-01-08 2016-02-21 晶睿通訊股份有限公司 馬達控制方法、馬達控制裝置及相機
CN105046685B (zh) * 2015-06-19 2017-10-27 长春理工大学 基于单幅摄影球图像的真实点光源方向的计算及虚拟化方法
US9489735B1 (en) * 2015-09-17 2016-11-08 Qualcomm Incorporated Multiplexed temporal calibration for event-based cameras
US10072934B2 (en) * 2016-01-15 2018-09-11 Abl Ip Holding Llc Passive marking on light fixture detected for position estimation
WO2017208314A1 (ja) * 2016-05-31 2017-12-07 株式会社日立製作所 カメラシステム及びその自己較正方法
US10650631B2 (en) 2017-07-28 2020-05-12 Hand Held Products, Inc. Systems and methods for processing a distorted image
US10432912B2 (en) 2017-09-29 2019-10-01 Waymo Llc Target, method, and system for camera calibration
US10269141B1 (en) 2018-06-04 2019-04-23 Waymo Llc Multistage camera calibration
JP2020041802A (ja) * 2018-09-06 2020-03-19 東芝デベロップメントエンジニアリング株式会社 画像処理装置、プロジェクタ制御システム、カメラ制御システム
CN110248148B (zh) * 2018-09-25 2022-04-15 浙江大华技术股份有限公司 一种确定定位参数的方法及装置
CN109360243B (zh) * 2018-09-28 2022-08-19 安徽爱观视觉科技有限公司 一种多自由度可动视觉系统的标定方法
CN109242914B (zh) 2018-09-28 2021-01-01 上海爱观视觉科技有限公司 一种可动视觉系统的立体标定方法
DE102018222796A1 (de) * 2018-12-21 2020-06-25 Conti Temic Microelectronic Gmbh Aufbau und Vermessung des Aufbaus zur Kalibrierung einer Kamera
US10623727B1 (en) 2019-04-16 2020-04-14 Waymo Llc Calibration systems usable for distortion characterization in cameras
EP3848900A1 (en) * 2020-01-10 2021-07-14 Aptiv Technologies Limited Methods and systems for calibrating a camera
CN113155755B (zh) * 2021-03-31 2022-05-24 中国科学院长春光学精密机械与物理研究所 微透镜阵列型成像光谱仪在线标定方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6101455A (en) * 1998-05-14 2000-08-08 Davis; Michael S. Automatic calibration of cameras and structured light sources
US6437823B1 (en) * 1999-04-30 2002-08-20 Microsoft Corporation Method and system for calibrating digital cameras
JP4501239B2 (ja) * 2000-07-13 2010-07-14 ソニー株式会社 カメラ・キャリブレーション装置及び方法、並びに、記憶媒体
US7016080B2 (en) * 2000-09-21 2006-03-21 Eastman Kodak Company Method and system for improving scanned image detail
US7333133B2 (en) * 2003-03-31 2008-02-19 Spatial Integrated Systems, Inc. Recursive least squares approach to calculate motion parameters for a moving camera
JP3946716B2 (ja) * 2004-07-28 2007-07-18 ファナック株式会社 ロボットシステムにおける3次元視覚センサの再校正方法及び装置
JP2007061979A (ja) * 2005-09-01 2007-03-15 Sharp Corp ロボットアームの視覚センサ補正方法およびコンピュータプログラム
JP4861034B2 (ja) * 2006-03-29 2012-01-25 クラリオン株式会社 車載カメラのキャリブレーションシステム
JP5230114B2 (ja) * 2007-03-13 2013-07-10 キヤノン株式会社 情報処理装置、情報処理方法
US20090110285A1 (en) * 2007-10-26 2009-04-30 Technion Research And Development Foundation Ltd Apparatus and method for improving image resolution using fuzzy motion estimation

Also Published As

Publication number Publication date
US20100165116A1 (en) 2010-07-01
JP2010156669A (ja) 2010-07-15
TW201024899A (en) 2010-07-01
TWI408486B (zh) 2013-09-11

Similar Documents

Publication Publication Date Title
JP5177760B2 (ja) 動的校正機能付きカメラおよびその方法
CN102914293B (zh) 信息处理设备和信息处理方法
CN103020952B (zh) 信息处理设备和信息处理方法
Chen Calibrating pan-tilt cameras in wide-area surveillance networks
US7990415B2 (en) Image input device and calibration method
US8391542B2 (en) Method for estimating the pose of a PTZ camera
KR20150119337A (ko) 환경의 3d 모델의 발생
JP2011172226A (ja) 動き情報を用いて点像分布関数を得るための方法、システム、およびコンピュータプログラム
JP2016525842A (ja) カメラ動き予測及び修正のための方法
CN102111549A (zh) 图像处理装置及图像处理方法
JP2016046666A (ja) 撮像装置およびその制御方法、並びにプログラム
JP4132068B2 (ja) 画像処理装置及び三次元計測装置並びに画像処理装置用プログラム
JPWO2017146202A1 (ja) 三次元形状データおよびテクスチャ情報生成システム、撮影制御プログラム、及び三次元形状データおよびテクスチャ情報生成方法
KR101111503B1 (ko) 전방향 피티지 카메라 제어 장치 및 그 방법
JP4960941B2 (ja) 放送用バーチャルスタジオのズームレンズ搭載カメラのカメラキャリブレーション装置、その方法およびそのプログラム
WO2019216005A1 (ja) 自己位置推定システム、自律移動システム及び自己位置推定方法
JP6694281B2 (ja) ステレオカメラおよび撮像システム
JP2004062757A5 (ja)
JP7216775B2 (ja) ロボットアームの座標系校正装置及び校正方法
JP7008736B2 (ja) 画像キャプチャ方法および画像キャプチャ装置
CN113400298A (zh) 一种无公共视野的多相机定位大工件及工业机器人位置补偿方法
JP2021027584A (ja) 画像処理装置、画像処理方法およびプログラム
JP2000205821A (ja) 三次元形状計測装置及びその三次元形状計測方法
JP7414850B2 (ja) ロボットシステム
JP2004020398A (ja) 空間情報獲得方法、空間情報獲得装置、空間情報獲得プログラム、及びそれを記録した記録媒体

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111018

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111019

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120822

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121211

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121228

R150 Certificate of patent or registration of utility model

Ref document number: 5177760

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250