JP3388833B2 - 移動物体の計測装置 - Google Patents

移動物体の計測装置

Info

Publication number
JP3388833B2
JP3388833B2 JP26122393A JP26122393A JP3388833B2 JP 3388833 B2 JP3388833 B2 JP 3388833B2 JP 26122393 A JP26122393 A JP 26122393A JP 26122393 A JP26122393 A JP 26122393A JP 3388833 B2 JP3388833 B2 JP 3388833B2
Authority
JP
Japan
Prior art keywords
image
moving object
imaging
image pickup
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP26122393A
Other languages
English (en)
Other versions
JPH07114642A (ja
Inventor
亨 中村
茂純 桑島
大陸 関口
Original Assignee
株式会社応用計測研究所
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社応用計測研究所 filed Critical 株式会社応用計測研究所
Priority to JP26122393A priority Critical patent/JP3388833B2/ja
Priority to EP94917790A priority patent/EP0662600A4/en
Priority to US08/381,864 priority patent/US5764786A/en
Priority to PCT/JP1994/000934 priority patent/WO1994029670A1/ja
Publication of JPH07114642A publication Critical patent/JPH07114642A/ja
Application granted granted Critical
Publication of JP3388833B2 publication Critical patent/JP3388833B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、移動物体を撮像してそ
の撮像画像を用いて計測を行う装置に利用する。本発明
は、映像を利用して計測を行う場合や、放送などで使う
ために映像を編集する場合など、複数の動画像映像を組
み合わせて使う場合に利用できる。
【0002】本発明は、特にスポーツ競技のような移動
する競技者を追尾して撮像し、その3次元空間座標情報
を抽出する装置に利用するに適する。
【0003】
【従来の技術】移動物体を計測する方法として、移動物
体を撮像してその映像信号を処理することにより移動物
体の3次元空間座標を求めることが行われている。
【0004】出願人は、このような移動物体を計測する
装置として、雲台に載置された撮像装置により得られた
映像信号に雲台や撮像装置から得られた情報を位置情報
として重畳する技術を特願平5−082178として、
移動物体を撮像した信号からその移動物体の3次元空間
座標を演算する技術を特願平5−082209、移動物
体の動きを予測または計測しておき、カメラ装置を制御
する技術を特願平5−138805、得られた移動物体
の3次元空間座標情報を映像データに重畳する技術を特
願平5−139629、映像信号から移動物体を識別す
る技術を特願平5−137857(いずれも本願出願時
に未公開)として出願した。
【0005】
【発明が解決しようとする課題】これら出願人の提案し
た技術でも、種々の改良すべき点がある。
【0006】まず、撮像した画像から対象物体の3次元
空間座標を演算するには、カメラ装置や雲台から得られ
た、回転角、撮像面の位置等の情報から3次元実空間座
標に変換するための座標変換係数などの各種パラメータ
が必要である。しかし、前記出願はこれらのパラメータ
をどのように求めるかについては言及していない。ま
た、これらのパラメータは、カメラ装置や雲台ごとに製
造上の誤差があるため、設計上の値を用いることは好ま
しくない。さらにこれらのパラメータは経年変化や温度
変化等により変わるものである。このため具体的に実際
の撮像の場で装置等の分解等を行わずにこれらのパラメ
ータを求める必要がある。
【0007】また、これらのパラメータを正確に求めて
おくことは、移動物体の計測精度を高くすることであ
り、また、移動物体を自動追尾撮像する場合の自動追尾
制御の精度を上げるために必要であり、装置ごとに異な
るパラメータを実際の撮影の場所で求める必要がある。
【0008】本発明の目的は、上述の先願を改良するも
ので、精度の高い3次元空間座標情報を得られる計測装
置を提供することにある。
【0009】本発明の他の目的は、移動物体の3次元空
間座標の演算に用いる座標変換係数等を実際に撮影しな
がら求めることができる装置を提供することにある。
【0010】また本発明の他の目的は、移動物体の追尾
制御を精度よく行うことができるようにすることにあ
る。
【0011】
【課題を解決するための手段】本発明は、移動物体を撮
像する撮像手段と、この撮像手段の撮像方向および撮像
範囲を設定する駆動手段と、前記撮像手段により得られ
た映像信号に含まれる移動物体の画像内の位置を演算に
より求める画像処理手段と、この画像処理手段により求
めた画像内の位置とその映像信号を得たときの撮像手段
の撮像方向および撮像範囲に関する情報とからその移動
物体の実空間内座標を演算により求める位置演算手段と
を備えた移動物体の計測装置において、前記位置演算手
段は、前記撮像手段のカメラのレンズの投影中心を設定
し、この投影中心を点対称として撮像された移動物体の
被写体を撮像素子面と点対称の位置にある投映面上の位
置に変換する手段と、この変換する手段で変換された画
像の被写体までの前記投影中心からのベクトルを設定し
このベクトルより移動物体の存在する拘束平面までの距
離と前記カメラの回転角に基づいて対象物体の3次元空
間座標を演算する手段とを含むことを特徴とする。
【0012】また、前記撮像手段のカメラのレンズの中
心位置である画像の投影中心の位置および移動物体の3
次元空間座標を演算するに必要な変換用変数を仮の値と
して決めて拘束平面上に固定されその空間位置座標が分
かっている基準点を撮像してその空間位置座標を演算す
る手段と、演算結果に基づいてカメラの投影中心および
前記変換用変数を少しずつ変動させながら再度基準点を
撮像して投影中心および変換用変数を求める手段とを備
えることができる。
【0013】また、前記撮像手段の駆動手段を複数の動
作点について動作させ、その駆動手段の駆動量を電気信
号として得る手段を備え、前記位置演算手段は、この得
られた複数の動作点での電気信号と、カメラのレンズの
焦点位置である投影中心位置との関係を求め、その複数
動作点における関係に基づいて投影中心位置と駆動量と
の関係式を求め対象移動物体の3次元空間座標を演算す
る手段を含むことができる。
【0014】また、得られた移動物体の実空間内座標に
基づいてその移動物体の移動方向を予測する移動予測手
段と、この予測手段により前記駆動手段の制御を行う駆
動制御手段とを備え、前記移動予測手段は、前記位置演
算手段の位置演算の間隔より短い時間間隔で移動物体の
位置を複数回予測する手段を含み、前記駆動制御手段
は、前記位置演算手段の演算間隔より短い時間間隔で前
記駆動手段に前記予測された位置の値に基づく制御目標
値を与える手段を含むことができる。
【0015】また、前記撮像手段はカラーカメラを含
み、画像処理手段は、撮像された画像内から計測対象の
移動物体を背景から色によって分離する色抽出手段を含
むことができる。
【0016】さらに、得られた移動物体の実空間内座標
に基づいてその移動物体の移動方向を予測する移動予測
手段と、この予測手段により前記駆動手段の制御を行う
駆動制御手段とを備え、前記駆動制御手段は、前記撮像
手段の撮像範囲での照度分布あるいはホワイトバランス
分布情報をあらかじめ得ておき、この情報に基づき前記
駆動手段を制御して撮像手段のカメラ装置の絞りあるい
はホワイトバランスを調整する手段を含むことができ
る。
【0017】
【作用】本発明では、映像だけでなく、実際の空間の3
次元空間位置座標を対象物体の撮像とともに計測し、映
像と同期させて記録しあるいは出力することができる。
3次元空間位置座標の測定は、対象物体そのものの3次
元座標または、撮影されている範囲の3次元座標、また
は撮影している範囲の中の中心など代表点などについて
行なわれる。
【0018】対象物体の3次元空間位置座標の演算は、
ビデオカメラ装置のレンズの焦点位置を投影中心Oとし
て、CCDの撮像面とこの投影中心Oを点対称とする投
映面VTを考える。この投映面VT上には、CCDの撮
像面で得られた画像とは逆の被写体の撮像画像が得られ
る。この投映面VT上の被写体に対する投影中心Oから
のベトルを設定する。そしてこの投影中心Oからのベ
トルに基づいて被写体の存在する拘束平面までの距離
と角度によりその被写体の3次元空間座標を演算する。
【0019】また、この被写体の3次元空間座標を演算
するに際して、必要な座標変換係数など各種パラメータ
を、実際に拘束平面上にあり、あらかじめその3次元空
間座標が分かっている基準点をそれぞれカメラ装置のズ
ームあるいは雲台を動かしながら撮像して、カメラ装置
やズームなどのパラメータを決める。
【0020】また、雲台やズームレンズの制御には、カ
メラ装置の撮像回数がその撮像方式からきまっているた
め、撮像した画像によって求めた対象物体の位置情報に
より、撮像時間間隔で、雲台やズームレンズの制御を行
うと、対象物体の動きに追従できないことが生ずるの
で、撮像時間間隔の間に複数回にわたって対象物体の移
動位置を予測して、その予測値に基づいて制御目標値を
駆動手段に与えることにより、撮像手段の自動追尾制御
をスムーズに行うことができる。
【0021】さらに、カラーカメラ装置をより、色識別
を行うことにより対象物体を背景から抽出する。また、
あらかじめ移動物体の移動可能範囲内の照度分布あるい
はホワイトバランスのマップを作成しておき、カメラ装
置の絞り等を調整する。
【0022】
【実施例】以下図面を参照して本発明の実施例を説明す
る。
【0023】なお、以下の実施例は計測の対象となる選
手の動きが水平方向に比べて高さ方向の動きが少なく平
面とみなせる場合の実施例で説明する。
【0024】(第一実施例)水泳競技のように、対象物
体(選手)の動きが水平方向にくらべて高さ方向の動き
が少なく平面とみなせる場合の実施例を以下に示す。
【0025】図1に移動物体の計測装置および編集装置
全体のブロック図を示す。全体は、カメラヘッド1、デ
ータ記録部2、動画像編集部3を備え、時間管理を行う
ためのタイムベースユニット4およびストップウォッチ
5を備えている。
【0026】撮影は図2のように、対象物体7はカメラ
ヘッド1によって、映像と同時に3次元の位置が測定さ
れる。また、カメラヘッド1は対象物体7の動きにあわ
せて自動的に動き、対象物体を追尾する。
【0027】対象物体7の動きは平面6に限定されると
してもよいから平面6に対してのカメラヘッド1の位置
とカメラヘッド1から対象物体7を見たときの方向がわ
かれば、平面と直線の交点をもとめることで対象物体の
3次元での位置がわかる。また同時にレンズの画角から
平面6の撮影されている範囲が計算できる。
【0028】図3は、このカメラヘッド1の構成の全体
の概念図を示すもので、ビデオカメラ11、ズームレン
ズ12、このビデオカメラ11およびズームレンズ12
を搭載する電動雲台13を備える。このカメラヘッド1
は特願平5−138805に示したカメラヘッド/演算
装置に対応するものである。電動雲台13およびズーム
レンズ12を制御するヘッドコントローラ14は、対象
物体の3次元空間座標を演算する位置演算装置16と、
ズームレンズ12、電動雲台13に対する駆動制御を行
うとともにズームレンズ12および電動雲台13からの
回転角度、ズーム、フォーカス、絞り量等の情報を得
て、位置演算装置16にその情報を与える駆動制御装置
17を備える。また、ビデオカメラ11の撮像した映像
は、動画像として、データ記録部に出力されるととも
に、計測の対象となる対象物体を抽出するための画像処
理を施す画像処理装置15が設けられている。なお、こ
のカメラヘッド1は図2に示されるように複数設けられ
る。
【0029】図4は、図3に示すカメラヘッド1の構成
をさらに詳しく示したものである。ビデオカメラ11
は、カラービデオカメラであり、その出力は、動画像と
してデータ記録部2あるいは動画像編集部3に出力され
る。また、画像処理装置15に対応するものとして、被
写体の対象物の背景から抽出する学習型色抽出装置21
および被写体の画面上の位置を演算する画像位置計測装
置22を備えている。学習型色抽出装置21には確認用
TVモニタ36が接続され、画像位置計測装置22には
操作用TVモニタ37が接続されている。画像位置計測
装置22の出力は、位置演算装置16内の対象物の空間
座標を演算する空間座標計算回路26に入力される。
【0030】ズームレンズ12は、アイリス駆動用モー
タ121、アイリス位置検出用ポテンショメータ12
2、フォーカス駆動用モータ123、フォーカス位置検
出用ポテンショメータ124、ズーム駆動用モータ12
5、ズーム位置検出用ポテンショメータ126を備え
る。また、電動雲台13は雲台水平軸駆動用モータ13
1、雲台水平軸位置検出用ポテンショメータ132、雲
台垂直軸駆動用モータ133、雲台垂直軸位置検出用ポ
テンショメータ134を備える。
【0031】本実施例では、位置制御サーボ回路201
〜205を備えたサーボ回路20が設けられており、ヘ
ッドコントローラ14の制御出力は、これらの位置制御
サーボ回路201〜205に導かれる。この位置制御サ
ーボ回路201〜205は、それぞれアイリス駆動用モ
ータ121、フォーカス駆動用モータ123、ズーム駆
動用モータ125、雲台水平軸駆動用モータ131、雲
台垂直軸駆動用モータ133の位置制御に用いられる。
【0032】ヘッドコントローラ14は、アイリス位置
検出用ポテンショメータ122、フォーカス位置検出用
ポテンショメータ124、ズーム位置検出用ポテンショ
メータ126、雲台水平軸位置検出用ポテンショメータ
132、雲台垂直軸位置検出用ポテンショメータ134
からの出力をそれぞれディジタル信号に変換するA/D
変換器23を備える。また、各モータの制御信号は、D
/A変換器24からそれぞれの位置制御サーボ回路20
1〜205に出力される。
【0033】ヘッドコントローラ14は、A/D変換器
23の出力に基づいてビデオカメラ11の方向計算を行
うカメラの方向計算回路28、このカメラの方向計算回
路28の出力と画像位置計測装置22の出力とに基づい
て対象物の3次元空間位置座標を演算する空間座標計算
回路26と、この演算出力に基づいて対象物の移動予測
位置を演算する移動予測回路27と、この移動予測演算
結果に基づいて、ビデオカメラの方向決定を行うカメラ
の方向決定回路30、ズームレンズ12のズーム量の決
定を行うズーム量決定回路31、フォーカス量の決定を
行うフォーカス決定回路32を備える。これらの回路3
0〜32の出力は各モータの制御量を決定するモータの
制御回路33に入力される。モータの制御回路33は、
各モータの制御量を決定してその制御信号をD/A変換
器24を介してそれぞれの位置制御サーボ回路201〜
205に出力する。
【0034】なお、演算された移動物体の3次元空間位
置座標は、インタフェース34より3次元データ出力と
してデータ記録部2あるいは動画像編集部3へ出力され
る。また、インタフェース34は、対象物の位置を表示
する表示部、端末装置、操作部とを含む制御用端末装置
38にも接続され、そこから与えられる制御信号を各カ
メラの方向決定回路30、ズーム量決定回路31、フォ
ーカス決定回路32に与える。このように本実施例は手
動による操作が可能となっている。
【0035】図5は、対象物体7を撮像するカメラヘッ
ド1のうち、ビデオカメラ11、ズームレンズ12およ
び電動雲台13の構成を説明する図である。ビデオカメ
ラ11は通常1フィールド1/60秒単位で撮影され
る。
【0036】カメラレンズは、固定焦点でもよいが、広
い範囲を撮影するときはズームレンズが便利である。こ
の実施例では電動ズームレンズにポテンショメータを設
け、ズームリングの回転角度を電圧値で読み取ること
で、常に現在の画角を知ることができるようになってい
る。また、そのデータをつかってサーボを構成してい
て、ヘッドコントローラ14の指令でズームを任意の位
置に動かすことができる。回転角度のセンサーにはこの
例ではポテンショメータを使ったが、ロータリーエンコ
ーダなど他のものでも良い。またこの例はレンズの画角
をズームリングの回転角度で機械的に検出するが、画像
に影響がない方法、たとえば写らない部分をつかった
り、カメラの素子の感度のない波長を使ったり、ブラン
キング期間を使ったりして光学的にリアルタイムに実測
することもできる。
【0037】レンズの実際の画角とセンサーの出力は機
械的な結合になっているため、個体によるばらつきや、
経時変化が発生する。個体によるばらつきは工場で検査
し、補正データを持つことで対応できる。経時変化につ
いては、3次元座標演算のために行うカメラヘッドのキ
ャリブレーションの時に、大きさのわかっているもの
を、ズームを変化させながら撮影し、補正データを修正
することができる。
【0038】レンズはまた、フォーカスおよびアイリス
にもモータとポテンショメータが取り付けられていて、
サーボが組まれている。ズームと同様にヘッドコントロ
ーラ14の指令で動かすことができ、またヘッドコント
ローラ14は現在の値を知ることができるようになって
いる。フォーカスのコントロールはカメラから得られた
画像の高周波成分を調べるなどのいわゆるオートフォー
カスアルゴリズムを使うこともできるが、このシステム
では対象物体の3次元位置がわかるから、カメラと対象
物体の距離が計算でき、その距離に応じてコントロール
している。またアイリスのコントロールも同様にカメラ
からの映像に応じて変化させる方法もあるが、水泳など
のように照明光の直接反射が入ったりする場合はいわゆ
るオートアイリスのアルゴリズムは最適とはいえない。
ここでは、対象物体の移動可能範囲つまりプールの、全
体あるいは何点かの輝度を測定し、プールの照度マップ
をあらかじめ作成しておき、対象物体の位置に応じてア
イリスをコントロールする。これはまた、ホワイトバラ
ンスも同様に行える。均一の照明であればホワイトバラ
ンスが変化することはないが、色温度のことなる複数の
照明がある場合は場所に応じてホワイトバランスを変化
させる必要がある。撮影された画像を使ったオートホワ
イトバランスのアルゴリズムではプールの様な画面のほ
とんどが単一の白以外の色で占められている画像は苦手
である。この例ではアイリスのコントロールと同様にプ
ール全体にホワイトバランスのマップを作成し、それに
よってカメラのホワイトバランスを調整している。
【0039】電動雲台13は水平方向の回転のパン方向
と垂直方向の回転のティルト方向にカメラの向きを変え
ることができる。それぞれの軸にはポテンショメータが
取り付けてあり、カメラの現在の向きを知ることができ
る。またレンズと同様にサーボ系が組まれていて、ヘッ
ドコントローラからの指令で任意の向きに動かすことが
できる。レンズ系と異なり雲台は、慣性モーメントが大
きいため、サーボ回路に指示した位置にたどり着くまで
には時間がかかる。そのため、映像と同期したカメラの
向きはサーボ系への指示位置を使うのではなく、ポテン
ショメータの読みを使うようにしている。ここでは回転
角度のセンサーとしてポテンショメータを使ったが、光
学式のロータリーエンコーダなどほかのものでも角度の
情報が得られるものであればなんでもよい。
【0040】図4に示すように、ヘッドコントローラ1
4には5つのポテンショメータ読み込み用のA/D変換
器23とサーボ系への位置指令用電圧を発生する5つの
D/A変換器24がある。この例ではアナログ電圧をサ
ーボ計とのインタフェースとして使ったが、パラレルや
シリアルのディジタル信号を用いてもよい。
【0041】次に自動追尾制御について説明する。
【0042】自動追尾の場合、カメラから得られた画像
の中で対象物体と背景を自動的に分離しなければならな
い。この例では、ビデオカメラ11としてカラーカメラ
を用い、学習型色抽出装置21が色で分離している。対
象物体は背景にない色であるたとえば水泳帽とする。普
通水泳帽はプールで目立つような色が使われているため
背景と分離するのに適している。またこの例では色をつ
かって対象物体を背景から分離しているが、分離ができ
れば例えば輝度、特定のパターンとの相関、など何を用
いてもよい。背景から分離された対象物体は、その画像
のなかでの位置が画像位置計測装置22によって計算さ
れる。この例では分離された図形の図心の位置が、画面
内のどこにあるかを計算している。自動追尾は対象物体
が、常に映像の中心など、特定の位置に映し出されるよ
うに雲台とレンズをコントロールする。
【0043】画像位置計測装置22のデータだけを使っ
て、画像の中で対象物体の位置と目的位置との差が常に
小さくなるように雲台をコントロールする方法では、対
象物体とカメラの距離が変わったり、レンズのズームが
変わったりした場合、画面上の差と雲台の回転量との比
率が変化してしまうため、制御ループのゲインが変化し
てしまい最適に制御することが困難である。そのためこ
の例では以下のように対象物体の3次元位置計測と、雲
台制御を分けて行っている。
【0044】まず画像内の対象物体の位置とカメラの向
きおよびレンズのパラメータから対象物体の実際の3次
元位置を求める。次に求めた3次元位置が画面の中心な
ど目標とする位置になるカメラの方向と傾きを計算す
る。そしてその方向にカメラが向くように雲台を制御す
るようにしている。またこの例では、対象物体の動きは
平面に限定しているため、この拘束平面内での対象物体
の位置を計算するようにした。こうして対象物体の位置
がわかれば、対象物体とカメラの距離がわかるため、そ
の距離に合うようにレンズのフォーカスを制御する。ま
た、対象物体がだいたい同じ大きさに写るように、ズー
ムを距離に応じて制御している。
【0045】制御する場合に、サーボ系へは目標値を電
圧で指示する。この指示は1フィールドの1/60秒間
隔では、間隔が広すぎてなめらかな制御ができない。対
象物体の3次元位置の計測は1フィールド間隔でしか行
なえないため、対象物体の3次元空間内での動きを予想
している。サーボ系への目標値設定はこの予想値をつか
うことで、フィールド周期に関係なく間隔を狭くでき
る。この例では、約4ミリ秒間隔で、1フィールドあた
り4回の目標指示をすることでなめらかな動きを得てい
る。対象物体の動きの予測には、1つ前のフィールドと
の差をそのまま延長する1次補間を使っているが、たと
えば重力場での運動物体には常に重力加速度が加わって
いるなど、対象物体の性質がわかっていればその物理法
則にしたがった予想方法をとってもよい。またカルマン
フィルタなどで予測することもできる。
【0046】次に対象物体の3次元座標の計算方法につ
いて説明する。
【0047】図6に示すように、座標系は右手座標系を
使用し、原点には雲台の回転中心とした。対象物体が動
く拘束平面に垂直にY軸をとる。雲台の2つの軸はY軸
方向を0度とする。(2つの軸をともに0度とすると、
カメラの光軸はY軸と平行になる。)また図7に示すよ
うにカメラの撮像面(CCD面)は雲台の2軸を0度と
したとき、回転中心から、XYZ方向にそれぞれOffset
X,OffsetY,OffsetZ だけ離れた位置にある。図9に示す
ようにズームレンズでは投影中心をN1、N2の2つ考
えなくてはならない。しかし計算を容易にするためこの
例では、N1、N2の距離に対して被写体までの距離が
十分に大きいものとして、投映中心を1つの薄いレンズ
で、さらに軸に近い光線という近似をして図8のような
ピンホールカメラモデルを使う。現実の撮像系ではレン
ズはこのような理想状態からずれていて非線形要素があ
る。非線形要素を考慮するためには、線形の数値計算の
かわりに大きな数値テーブルをもって処理する必要があ
る。しかし自動追尾の制御が十分によく働き、対象物体
が画像の中心になるように動くと、レンズの中心付近に
3次元の位置計測対象がくることになりレンズの特性の
もっともよいところをつかえるため、雲台の設置場所の
強度や、角度センサーの精度以上の光学精度をだすのに
線形近似でも十分なレンズを選ぶことは困難ではない。
【0048】対象物体の3次元空間座標を得るには、図
10のように、画像位置計測装置から対象物体の画面上
の位置を得て、その位置を画像位置計測装置の空間上の
平面である投映面(VT面)上の位置に変換する。なお
VT面は、CCD面に対して投映中心の点対称の位置に
あるから、VT面上の像の大きさは撮像素子上にレンズ
で結像する像と大きさは等しくなる。また画像の中心
は、光軸が投影面と交わる点(主点)と必ずしも一致し
ないため、そのずれ分の補正を画像位置計測装置の位置
を平行移動させてする必要がある。図11のように投影
中心からVT面の対象物体の位置までのベクトルを注目
ベクトルとする。つぎにその注目ベクトルを雲台の回転
中心を中心に雲台の傾きと同じだけ回転させる。図12
のように回転させた注目ベクトルを延長した直線と拘束
平面が交わる点が対象物体の3次元空間の位置である。
また、注目ベクトルのかわりにVT面の四隅までのベク
トルを用いることで、写っている範囲である拘束平面上
の視野を計算することができる。次に、求めた対象物体
の3次元空間位置を目標点として、目標点が画面の指定
した場所、たとえば主点に写るように雲台を制御する角
度を求める。画像の主点の位置にもっていく場合、図1
3のように主点を通るカメラの中心線が拘束平面上の目
標点と交差するような雲台の2軸の回転角を求める。図
13で角Aは、拘束平面までの距離と、拘束平面上の目
標点のY軸からの距離を使ってアークタンジェントで求
まる。同時に、回転中心から目標点までの距離dも求ま
る。また角Bは距離dと、カメラ中心線の回転中心から
の距離をつかってアークコサインで求めることができ
る。また主点以外へもってくる場合は、図14のように
投影中心からVT面の指定点をさすベクトルaを延長
し、拘束平面上の目標点と交わるような回転角度を求め
ればよい。
【0049】このようにして計算された回転角度になる
ようにサーボ回路20をコントロールする。
【0050】次に、実際のパラメータについて説明す
る。これまで述べてきた空間座標の計算や、雲台の回転
角の計算には、投影中心の位置、撮像面の位置、画像位
置計測装置から得られた座標を実際の空間座標に変換す
るための係数などのパラメータがある。これらのパラメ
ータは精度に大きく影響していて、精度を出すためには
正確にパラメータを求めなければならない。ところが、
この種のパラメータには製造上の誤差が必ず含まれる上
に運搬などでずれる可能性もある。さらに動作している
ときにはいろいろな加速度が加わり経時変化や、温度変
化などが考えられる。そのため設計上の値をそのまま使
い続けることは望ましくない。そこで、本発明では、こ
れらのパラメータを、分解等をせずに動作可能状態で実
測することを行なっている。測定方法を以下に示す。
【0051】主点は、ズームを変化させても画像のなか
で移動しない点である。固定対象物体を仮の主点に写る
ようにして、ズームを変化させる。ズームの変化で画像
内で位置が変化したら、それは正しい主点からずれてい
るから仮の主点を変化させ、ズームによらない点をさが
す。
【0052】投影中心と、画像位置計測装置座標の変換
係数は相互に関係していて、どちらかが正確に求まって
いないと他方は求まらない。そのためまず設計値などか
ら仮の座標変換係数と投影中心の位置を決める。対象物
体として拘束平面上に固定された基準点を撮影する。次
に雲台の回転軸を実際に回転させながら、基準点の座標
を計算する。投影中心と座標変換係数を少しずつ変動さ
せながら回転、計算させる。点は固定であるから、計算
結果が回転軸の角度によらず一定となるような値とし
て、正しい投影中心と座標変換係数が求まる。ここでは
まだズームは変化させていない。ズームを変化させると
投影中心の位置は移動するから次に、いま求まった座標
変換係数をつかって、ズームを変化させながら、それぞ
れの焦点距離の対応する投影中心を求める。
【0053】ここで、実際のパラメータの例を示す。レ
ンズのズームはズームリングをモータで回転させること
で変化させ、その回転角度をズーム位置検出用ポテンシ
ョメータ126で電圧として検出して、A/D変換器2
3でディジタルの値として読み込む。したがってコント
ローラが知ることができるのはこのA/D変換器23の
値だけである。投影中心の位置はレンズのズームの関数
である。したがって実際の投影中心の位置を求めるため
にはレンズのズームリングのA/D変換器23の値から
求めなければならない。前に述べたように本発明では、
パラメータは実測を基本としているため、A/D変換器
の値と、投影中心の位置との関係をすべての値について
測定することは非常に多くの時間を使ってしまい現実的
でない。そのためいくつかの点だけを測定し、それらか
ら関係式をもとめることを行なっている。一度関係式の
係数が決まってしまえばすべての点の値をあらかじめ計
算しておくテーブル方式をとることもできるが、この例
では計算機のスピードが十分にあるため、毎回計算を行
なっている。図15にA/D変換器と投影中心の位置の
実測値のグラフを示す。このレンズでは、投影中心の位
置の逆数がA/D変換器の読みの3次式で近似できる。
投影中心の位置の逆数とA/D変換器の読みの関係のグ
ラフを図16に示す。このなかで丸が実測値で曲線はそ
れをもとに作った3次式による曲線である。同様にフォ
ーカスについてもA/D変換器の読みと実際のレンズの
フォーカスの実測値から関係式を求める。距離の逆数と
A/D変換器の関係を図17に示す。この場合は1次式
で関係が表わせる。同様なパラメータの決定手法は、サ
ーボ系にも使っている。前述したように、対象物体の追
尾は対象物体が主点に近ければ、光学系の誤差の影響が
すくなくなり計測精度があがる。したがってサーボ系を
適切に組むことは重要である。光学系に比較してサーボ
系は変動に強いがそれでも、実際の系でパラメータを実
測することは重要である。その様子を次に示す。図18
は水平回転軸のステップ応答(細い実線)と、この実測
値にもっとも近くなるようにパラメータを決定したモデ
ル(太い実線と破線)の特性を示す。これによって求ま
った伝達関数の例を式1に示す。メンテナンスなどでレ
ンズやカメラの一部あるいは全部を交換した場合でも、
このように実際に動作する系の特性を測定しそこからパ
ラメータを決定する手法を用いることで最適な制御が行
なえる。
【0054】
【数1】 次に自動追尾制御について説明する。
【0055】前述したように、テレビカメラのフィール
ド周期は約60Hzすなわち約16.7m秒のため対象
物体の位置も16.7m秒間隔で得られるが、モータを
制御するためには16.7m秒間隔では広すぎるためこ
の例ではそれを4等分した約4m秒間隔で行っている。
具体的には回転角を検出するポテンショメータの値を読
み込み、その値と目標値との差をもとにPID制御でモ
ータに指令を送るのが4m秒間隔である。前述のように
この目標値は対象物体の動きをもとに16.7m秒間隔
のデータから推定している。ヘッドの制御はこの雲台制
御以外に、レンズのズーム、フォーカスなどがある。図
19、図20にフローチャートの1例を示す。
【0056】初期設定が終わり自動追尾動作に入ると、
まず画像位置計測装置から対象物体の位置を読み取る。
画像位置計測装置のデータはテレビカメラのフィールド
周期で得られ、これを時間タイミングの基準にしている
(タイマーリセット)。また一方でモータの制御のため
回転角のポテンショメータを読み込みPID制御の計算
をしてモータに指令を出す。このときの目標値は前回の
計算で得られた4つの目標値の最後の値を使う。画像位
置計測装置からの情報と、ポテンショメータの値から対
象物体の3次元空間での位置を計算する。対象物体の動
きに雲台の性能が追い付かない場合も考えられるため、
対象物体が画面にあるかどうかの判断を行なう。対象物
体が画面内にある場合は、4m秒間隔の目標値4つを対
象物体の運動法則から予測する。この例では単純に1次
外挿補完によっている。この目標値へカメラの向きを合
わせるための雲台の回転角度を4組計算する。この回転
角度がモータへの目標値となる。雲台の回転角度がわか
ると、その角度がそのシステムの動特性で可能なのかど
うかが判断できる。もしシステムの動特性よりも対象物
体の動きが早く、そのままでは画面からはみ出すことが
わかった場合は、ズームを広角側に移動させ、見える範
囲を広くすることで見失うことをさける。そうでない場
合は、対象物体とカメラの距離から、対象物体の大きさ
がほぼ同じになるようにズームの位置を計算する。また
同様にしてフォーカスの位置を距離に合わせて計算す
る。これらの値は雲台の時と同じで、目標値となり、制
御はこの目標に合わせるように行う。これで1つの画像
からのデータによる計算は終わりであとは4m秒ごとに
モータをコントロールするだけである。
【0057】以上は対象物が映像内にあった場合である
が、もし対象物が見つからなかったときは、以下のよう
な処理を行なう。対象物が見えない時間によって2種類
の処理が考えられる。これは、本当に見失った場合と、
たまたまなんらかの原因、たとえばカメラの前を障害物
が一瞬横切った場合などで一瞬見えなくなった場合の2
通りに対応する。対象物体が見えない時間は、フイール
ド周波数の16・7m秒を単位として計るのが簡単であ
る。隠れた時間が短い場合は、今までの対象物体の動き
から対象物体の位置を予測して、そこに対象物体がある
ものとして制御し、同時にズームを若干広角にし、予測
の範囲を広げる。また隠れている時間が長い場合は、見
失ったと判断し、あらかじめ設定しておいたアルゴリズ
ムにしたがった処理を行なう。例えば、きめられた範囲
をスキャンして自動的に対象物体をさがす動作や、見失
った時点で静止する、あるいは原点に復帰するなど、の
処理が考えられる。実際の計算スピードは、浮動小数点
コプロセッサを使ったシステムではマイクロコンピュー
タを使っても計算には2〜3ミリ秒である。したがっ
て、1フィールドのなかの4m秒単位の処理では、3つ
はこれに関する処理は何もしないで時間の経過を待つだ
けになる。処理が4m秒以内であることが確定している
処理であればこのなかで行なうことができる。この例で
は、得られた3次元情報を外部に伝えるための通信処理
を行なっている。
【0058】(第二実施例)第一実施例では自動追尾の
カメラヘッドを使った映像データの取り込みを行った
が、対象物体によっては、背景から抜き出すのが難しい
ものもある。そのような対象物体では自動追尾とすると
ノイズなどの影響が大きくなってかえって精度が落ちる
こともある。そのため、同様なヘッドを使い人間が、対
象物体を追いかける方法がある。カメラを動かすのに、
第一の実施例のカメラヘッドをそのまま使って、モニタ
ーを見ながらリモコン操作で人間が対象物体を追いかけ
る方法もある。しかし、人間が対象物体を追いかける場
合は、モニター画面も使うがそれ以外の情報、たとえば
直接見た動きや、周りの状況などを使って総合的な判断
で追いかける場合がほとんどである。そのためリモコン
操作ではなく実際にカメラの場所に人間がいて直接カメ
ラを操作するほうが追尾能力が高くなる。したがって、
人間が操作するのに適したカメラを使ってそのカメラの
回転軸とレンズに角度などのセンサーを取り付けるほう
がよい。この場合、対象物体の画像内での位置は検出で
きないため対象物体の正確な3次元位置を計算すること
はできない。しかし、カメラの向きや、画角などで、3
次元空間でのそのカメラの視野は計算できる。また、通
常対象物体は視野の中心付近となるように撮影すると考
えられるから、たとえば視野の中心の座標計算し、それ
によってフォーカスなどのコントロールを自動化するこ
とも考えられる。
【0059】
【発明の効果】以上説明したように、本発明では、移動
物体の計測装置において、(1)移動物体の計測精度を
高くすることができる、(2)カメラ装置ごとに異なる
移動物体の3次元空間位置座標を求めるためのパラメー
タをその場で求めることができる、(3)カメラヘッド
の自動追尾制御を正確にかつ滑らかにすることができ
る、(4)計測すべき移動物体を背景から正確に取り出
すことができる効果がある。
【図面の簡単な説明】
【図1】本発明第一実施例の画像処理装置の全体構成の
一例を示すブロック図。
【図2】本発明第一実施例の移動物体を撮影する様子を
示す図。
【図3】本発明第一実施例のカメラヘッドの全体構成の
概念図を示す図。
【図4】カメラヘッドの詳細構成を示す図。
【図5】カメラヘッドにおけるビデオカメラ、ズームレ
ンズ、電動雲台の構成を示す図。
【図6】カメラヘッドの座標系を説明する図。
【図7】カメラの撮像面と座標系との関係を説明する
図。
【図8】ピンホールカメラモデルによる被写体の投影関
係を説明する図。
【図9】ズームレンズによる被写体の投影関係を説明す
る図。
【図10】画像位置計測装置による被写体のVT面への
変換を説明する図。
【図11】被写体の注目ベクトルを説明する図。
【図12】注目ベクトルと拘束平面上の被写体との関係
を説明する図。
【図13】被写体の3次元空間座標の演算を説明する
図。
【図14】被写体の3次元空間座標の演算を説明する
図。
【図15】A/D変換器の値と投影中心の位置との関係
の実測値例を示す図。
【図16】A/D変換器の値と投影中心の位置の逆数と
の関係の例を示す図。
【図17】距離の逆数とA/D変換器の値との関係の例
を示す図。
【図18】水平回転軸のステップ応答の実測値とこの実
測値に近くなるように決定されたパラメータによるモデ
ルの特性を示す図。
【図19】カメラヘッドの制御フローチャート例を示す
図。
【図20】カメラヘッドの制御フローチャート例を示す
図。
【符号の説明】
1 カメラヘッド 2 データ記録部 3 動画像編集部 4 タイムベースユニット 5 ストップウォッチ 11 ビデオカメラ 12 ズームレンズ 13 電動雲台 14 ヘッドコントローラ 15 画像処理装置 16 位置演算装置 17 駆動制御装置 20 サーボ回路 21 学習型色抽出装置 22 画像位置計測装置 23 A/D変換器 24 D/A変換器 26 空間座標計算回路 27 移動予測回路 28 カメラの方向計算回路 30 カメラの方向決定回路 31 ズーム量決定回路 32 フォーカス決定回路 33 モータの制御回路 34 インタフェース 36 確認用TVモニタ 37 操作用TVモニタ 38 制御用端末装置 121 アイリス駆動用モータ 122 アイリス位置検出用ポテンショメータ 123 フォーカス駆動用モータ 124 フォーカス位置検出用ポテンショメータ 125 ズーム駆動用モータ 126 ズーム位置検出用ポテンショメータ 131 雲台水平軸駆動用モータ 132 雲台水平軸位置検出用ポテンショメータ 133 雲台垂直軸駆動用モータ 134 雲台垂直軸位置検出用ポテンショメータ 201〜205 位置制御サーボ回路
フロントページの続き (56)参考文献 特開 平1−240988(JP,A) 特開 平5−91409(JP,A) 特開 平5−334438(JP,A) 特開 平1−263703(JP,A) (58)調査した分野(Int.Cl.7,DB名) G06T 7/00 - 7/60 G01B 11/00 H04N 7/18

Claims (4)

    (57)【特許請求の範囲】
  1. 【請求項1】 移動物体を撮像する撮像手段と、この撮
    像手段の撮像方向および撮像範囲を前記移動物体の移動
    に応じて変化させる駆動手段と、前記撮像手段により得
    られた映像信号に含まれる移動物体の画像内の位置を演
    算により求める画像処理手段と、この画像処理手段によ
    り求めた画像内の位置とその映像信号を得たときの撮像
    手段の撮像方向および撮像範囲に関する情報とからその
    移動物体の実空間内座標を演算により求める位置演算手
    段とを備えた移動物体の計測装置において、前記移動物体が存在し移動する範囲は所定の二次平面上
    であり、 前記位置演算手段は、 前記撮像手段のカメラのレンズの投影中心を設定し、こ
    の投影中心を点対称として撮像された移動物体の被写体
    を撮像素子面と点対称の位置にある投映面上の位置に変
    換する手段と、 この変換する手段で変換された画像の被写体までの前記
    投影中心からのベクトルを設定しこのベクトルより前記
    移動物体の存在する二次平面までの距離と前記カメラの
    回転角に基づいて対象物体の3次元空間座標を演算する
    手段とを含むことを特徴とする移動物体の計測装置。
  2. 【請求項2】 移動物体を撮像する撮像手段と、この
    撮像手段の撮像方向および撮像範囲を前記移動物体の移
    動に応じて変化させる駆動手段と、前記撮像手段により
    得られた映像信号に含まれる移動物体の画像内の位置を
    演算により求める画像処理手段と、この画像処理手段に
    より求めた画像内の位置とその映像信号を得たときの撮
    像手段の撮像方向および撮像範囲に関する情報とからそ
    の移動物体の実空間内座標を演算により求める位置演算
    手段とを備えた移動物体の計測装置において、前記移動物体が存在し移動する範囲は所定の二次平面上
    であり、 前記撮像手段のカメラのレンズの中心位置である画像の
    投影中心の位置および移動物体の実際の3次元空間座標
    を演算するに必要な座標変換係数を含む変換用変数を仮
    の値として決めて前記移動物体の存在する二次平面上に
    固定されその空間位置座標が分かっている基準点を撮像
    してその空間位置座標を演算する手段と、 演算結果に基づいてカメラの投影中心および前記変換用
    変数を少しずつ変動させながら再度基準点を撮像して投
    影中心および変換用変数を求める手段とを備えることを
    特徴とする移動物体の計測装置。
  3. 【請求項3】 移動物体を撮像する撮像手段と、この
    撮像手段の撮像方向および撮像範囲を前記移動物体の移
    動に応じて変化させる駆動手段と、前記撮像手段により
    得られた映像信号に含まれる移動物体の画像内の位置を
    演算により求める画像処理手段と、この画像処理手段に
    より求めた画像内の位置とその映像信号を得たときの撮
    像手段の撮像方向および撮像範囲に関する情報とからそ
    の移動物体の実空間内座標を演算により求める位置演算
    手段とを備えた移動物体の計測装置において、 前記撮像手段の駆動手段を複数の動作点について動作さ
    せ、その駆動手段の駆動量を電気信号として得る手段を
    備え、 前記位置演算手段は、この得られた複数の動作点での電
    気信号と、カメラのレンズの投影中心位置との関係を求
    め、その複数動作点における関係に基づいて投影中心位
    置と駆動量との関係式を求め対象移動物体の3次元空間
    座標を演算する手段を含むことを特徴とする移動物体の
    計測装置。
  4. 【請求項4】 移動物体を撮像する撮像手段と、この
    撮像手段の撮像方向および撮像範囲を前記移動物体の移
    動に応じて変化させる駆動手段と、前記撮像手段により
    得られた映像信号に含まれる移動物体の画像内の位置を
    演算により求める画像処理手段と、この画像処理手段に
    より求めた画像内の位置とその映像信号を得たときの撮
    像手段の撮像方向および撮像範囲に関する情報とからそ
    の移動物体の実空間内座標を演算により求める位置演算
    手段と、得られた移動物体の実空間内座標に基づいてそ
    の移動物体の移動方向を予測する移動予測手段と、この
    予測手段により前記駆動手段の制御を行う駆動制御手段
    とを備えた移動物体の計測装置において、 前記移動予測手段は、前記撮像手段が移動物体を撮像す
    る一フィールド周期内であり前記位置演算手段の位置演
    算の間隔内で移動物体の位置を複数回予測する手段を含
    み、 前記駆動制御手段は、前記予測された移動物体の位置の
    値に基づいて前記位置演算手段の演算間隔内に複数回
    記駆動手段に制御目標値を与える手段を含むことを特徴
    とする移動物体の計測装置。
JP26122393A 1993-06-10 1993-10-19 移動物体の計測装置 Expired - Fee Related JP3388833B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP26122393A JP3388833B2 (ja) 1993-10-19 1993-10-19 移動物体の計測装置
EP94917790A EP0662600A4 (en) 1993-06-10 1994-06-10 DEVICE FOR MEASURING THE POSITION OF A MOVABLE OBJECT.
US08/381,864 US5764786A (en) 1993-06-10 1994-06-10 Moving object measurement device employing a three-dimensional analysis to obtain characteristics of the moving object
PCT/JP1994/000934 WO1994029670A1 (fr) 1993-06-10 1994-06-10 Appareil pour mesurer la position d'un objet en mouvement

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP26122393A JP3388833B2 (ja) 1993-10-19 1993-10-19 移動物体の計測装置

Publications (2)

Publication Number Publication Date
JPH07114642A JPH07114642A (ja) 1995-05-02
JP3388833B2 true JP3388833B2 (ja) 2003-03-24

Family

ID=17358858

Family Applications (1)

Application Number Title Priority Date Filing Date
JP26122393A Expired - Fee Related JP3388833B2 (ja) 1993-06-10 1993-10-19 移動物体の計測装置

Country Status (1)

Country Link
JP (1) JP3388833B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4628590B2 (ja) * 2001-06-05 2011-02-09 浜松ホトニクス株式会社 移動物体の計測装置
US20040100563A1 (en) 2002-11-27 2004-05-27 Sezai Sablak Video tracking system and method
JP4391839B2 (ja) * 2004-01-30 2009-12-24 富士通株式会社 撮影条件設定プログラム、撮影条件設定方法および撮影条件設定装置
JP4699040B2 (ja) * 2005-02-15 2011-06-08 パナソニック株式会社 自動追尾制御装置及び自動追尾制御方法、並びにプログラム、自動追尾システム
JPWO2007043452A1 (ja) * 2005-10-12 2009-04-16 パイオニア株式会社 車載撮影装置及び車載カメラの撮影可動範囲測定方法
JP5044527B2 (ja) * 2008-11-12 2012-10-10 日本電信電話株式会社 時系列パラメータ推定装置、時系列パラメータ推定方法、時系列パラメータ推定プログラム
JP6303545B2 (ja) 2014-01-29 2018-04-04 株式会社リコー 計測装置、投影装置、計測方法、及びプログラム

Also Published As

Publication number Publication date
JPH07114642A (ja) 1995-05-02

Similar Documents

Publication Publication Date Title
US5812193A (en) Video camera system which automatically follows subject changes
JP3876275B2 (ja) 多視点ビデオキャプチャシステム
JP4858263B2 (ja) 3次元計測装置
WO1994029670A1 (fr) Appareil pour mesurer la position d'un objet en mouvement
JP3388833B2 (ja) 移動物体の計測装置
JP4464902B2 (ja) カメラ制御装置およびカメラ制御プログラム
JP3631266B2 (ja) 移動物体の計測装置
JP3491029B2 (ja) 自動監視装置
JP3615868B2 (ja) 自動撮影カメラシステム
WO2005088962A1 (ja) 追尾装置、及びモーションキャプチャ装置
JP3615867B2 (ja) 自動撮影カメラシステム
JP2018134712A (ja) ロボットシステム及びロボットシステムの制御方法
JPH09322053A (ja) 自動撮影カメラシステムにおける被写体の撮影方法。
JP4517813B2 (ja) パンニング撮影可能なカメラおよび動画像編集用プログラム
JPH1023465A (ja) 撮像方法及び装置
JP2006203504A (ja) 撮像装置
JPH10294890A (ja) 自動/手動撮影カメラシステム
JP2603212B2 (ja) カメラにおける自動追尾装置
JPS6110372A (ja) カメラにおける自動追尾装置
JPH10188145A (ja) 自動ズーム監視装置
JP2605004B2 (ja) カメラにおける自動追尾装置
JPH09145368A (ja) ステレオ画像による物体の移動追跡方法
CN110726407A (zh) 一种定位监控方法及装置
JP2005175852A (ja) 撮影装置及び撮影装置の制御方法
JPH11298837A (ja) 画像入力装置及び画像入力方法

Legal Events

Date Code Title Description
R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090117

Year of fee payment: 6

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090117

Year of fee payment: 6

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090117

Year of fee payment: 6

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090117

Year of fee payment: 6

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees