以下、図面を参照し、本発明を実施するための最良の形態について説明する。まず、以下の全ての実施形態で用いられる用語を以下のように定義する。
注目対象:カメラで撮影し、画像を出力させたい対象物や人、あるいはその一部を示す。
注目点:注目対象に含まれる点、あるいは注目対象近傍の点であり、後述するGPSセンサ等のセンサの検出対象を示す。これは点に限定されるものではなく、検出方法によっては所定の範囲を有する場合もある。
フィールド空間:注目対象が存在する空間であり、センサ等によって、注目対象が含まれる位置を示す位置情報を検出することができる空間(領域)を示す。
フィールド座標:フィールド空間内に存在する注目点等の位置を、フィールド空間内の所定の基準位置に対する相対的な位置の位置情報として特定することができる1つの座標系を示す。この座標系は、X,Y,Z軸で表現される座標系である。
撮像領域:カメラごとの撮像領域を示す。また、カメラの視野範囲にあり、さらに、カメラの光学系におけるピント調整の度合が所定レベル以上である領域を示す。原則として、カメラはフィールド空間内を撮影する。
カメラ座標:カメラの全撮像領域の画角を規定する線の交点を原点として、撮像方向を軸(k軸)の1つとした座標系を示す。この座標系は、図3のi,j,k空間である。また、ここで、画角を規定する線とは、図3に示されるような、CCD(Charge Coupled Device)などの撮像素子の端の画素に結像する撮像領域を立体的に形づける線を示す。本実施形態においては、撮像素子平面の横方向に平行な軸iと、撮像素子平面の縦方向に平行な軸jと、撮像方向を示す軸kとの3つの軸によって表現される、撮像素子に固有の座標系を示す。
カメラ空間:カメラ座標を用いてカメラに対する位置を特定することができる空間を示す。
撮像素子平面座標:CCDなどの撮像素子が出力する画像データの横方向に関わる軸Xcと縦方向に関わる軸Ycとの2つの軸によって規定され、撮像素子の中心を原点とし、撮像素子に固有の座標系を示す。ただし、原点の位置は撮像素子の中心に限定されず、例えば左上の画素位置であってもよい。
図1は、本発明の第1の実施形態による画像記録再生装置の構成を示すブロック図である。図において、1は撮像装置であり、被写体を撮像して全体画像の動画像を撮像情報として生成する。2は撮像装置1によって生成された撮像情報を含む各種の情報を記録する記録媒体となるDVD(Digital Versatile Disk)である。3は表示装置(画像再生装置)であり、DVD2から撮像情報である全体画像を読み出し、全体画像から画像を切り出して切出し画像を生成すると共に、全体画像を表示するための全体画像信号と切出し画像を表示するための切出し画像信号とを同期させて外部のモニター等に出力する。撮像装置1によって撮像される被写体は、予めGPS(Global Posisioning System)センサ等の位置検出手段を装着しているものとする。
なお、DVD2は、撮像装置1に対して着脱可能なフラッシュメモリやCD−ROM等の記録媒体であってもよい。また、表示装置3はモニター等の表示手段を備えた構成としてもよい。
撮像装置1において、101は注目点検出手段であり、被写体に装着されたGPSセンサ等の位置検出手段から、注目点の位置を示す注目点位置情報を無線等により連続的に取得し、出力データ生成手段103へ出力する。この注目点位置情報は、前述したフィールド座標で記述される。102は撮像手段であり、CCD等の撮像素子を備え、撮像時に被写体の像を光電変換し、画素ごとの連続的な画像を撮像情報として出力データ生成手段103へ出力する。また、撮像手段102は、撮像領域を特定可能な情報としてレンズ状態とカメラ撮影状態(カメラのフィールド座標における位置、方向および回転の情報)を示す撮像領域情報を出力データ生成手段103へ出力する。
出力データ生成手段103(データ生成手段)は、注目点検出手段101から出力された注目点位置情報と、撮像手段102から出力された撮像情報と撮像領域情報とが分離可能に構成された情報群を生成する。この情報群には、これらの情報を識別可能にする識別情報と、撮像情報と注目点位置情報との時間的な関連を示す同期情報も含まれている。出力データ生成手段103は、これらの情報による情報群をDVD2へ記録する。
表示装置3において、301はデータ解読分離手段(読出手段)であり、DVD2から情報群を読み出し、情報群から、撮像領域情報、注目点位置情報、撮像情報、および同期情報を分離し、各情報に対応した手段へ出力する。302は関係情報生成手段であり、データ解読分離手段301から出力された撮像領域情報および注目点位置情報に基づいて、フィールドの3次元空間の各位置とカメラ空間との関係を示す関係情報を生成する。後述するように、関係情報に基づいて、被写体のフィールド座標をカメラ空間におけるカメラ座標に変換することができ、さらにカメラ座標を撮像素子平面座標に変換することができる。したがって、画像内における注目点の画素位置を特定することができる。関係情報生成手段302は、生成した関係情報に基づいて、注目点の画素位置(撮像素子平面座標)を算出する。
303は切出し位置算出手段であり、関係情報生成手段302から出力された画素位置に基づいて、全体画像の中から切出し画像を切り出す位置を算出する。この場合、注目点を含む被写体のサイズに関するサイズ情報を予め記録し、このサイズ情報に基づいて切出しの大きさを決定してもよい。304は切り出し手段であり、データ解読分離手段301から出力された撮像情報と、切出し位置算出手段303から出力された切出し位置を示す情報と、同期制御手段305から出力された同期情報とに基づいて、全体画像の中から切出し画像を切り出す。切出し手段304は図示せぬバッファを備えており、入力される撮像情報を蓄積し、切出し位置を示す情報と同期して出力することができる。
同期制御手段305は、データ解読分離手段301から出力された同期情報に基づいて、画像出力手段306および307(再生手段)による画像データの出力タイミングを制御する。また、同期制御手段305は、切出し手段304による切出し画像の切出しが全体画像に同期して行われるように、切出し手段304を制御する。画像出力手段306はデータ解読分離手段301から出力された撮像情報に基づいて、全体画像を表示するための全体画像信号を生成し、外部の表示手段へ出力する。また、画像出力手段307は切出し手段304から出力された切出し画像に基づいて、切出し画像を表示するための切出し画像信号を生成し、外部の表示手段へ出力する。画像出力手段306および307は図示せぬバッファを備えており、入力される撮像情報あるいは切出し画像を蓄積することができ、全体画像と切出し画像との同期をとって出力することができる。
次に、本実施形態において、出力データ生成手段103によって出力されてDVD2に記録され、表示装置3によって解読されるデータの構造について説明する。図2はデータの構造を示す参考図である。出力データ生成手段103によって生成され、DVD2に記録される情報群のデータ構造は図2(a)のようになっている。DVD2に記録された場合のデータの先頭のアドレスをAdr−Xとして、各情報の先頭のアドレスが示されている。データの先頭は、各情報の先頭のアドレスを示すヘッダ情報である。ヘッダ情報には、撮像領域情報の先頭のアドレスがAdr−X+D、注目点位置情報の先頭のアドレスがAdr−X+E、撮像情報の先頭のアドレスがAdr−X+Fであることを示す情報が格納されている。
図2(b)には、注目点位置情報の構造が示されている。先頭には、注目点位置情報の記録開始時刻T0が格納されている。続いて、情報の種別が注目点位置情報であることを示す種別情報が格納されている。続いて、注目点位置情報のサンプリングに関するサンプリング時間Δtとサンプル数pとが、それぞれ格納されている。これらの後には、サンプリングされた注目点位置情報M1〜Mpが格納されている。
図2(c)には、撮像情報の構造が示されている。先頭には、撮像情報の記録開始時刻T0が格納されている。ここでは、注目点位置情報と撮像情報は同時に記録が開始されたものとする。続いて、情報の種別が撮像情報であることを示す種別情報が格納されている。続いて、撮像情報のサンプリング時間Δtとサンプル数pとが、それぞれ格納されている。これらの後には、サンプリングされた撮像情報G1〜Gpが格納されている。上記の記録開始時刻とサンプリング時間とによって、撮像情報と注目点位置情報との時間的な関連を示す同期情報が構成される。
次に、本実施形態による画像記録再生装置の動作を説明する。撮影時に、ユーザによって撮影動作が指示されると、撮像手段102は被写体の像を連続的に光電変換し、画素ごとの連続的な画像を示す撮像情報と、撮像領域を特定可能にするレンズ状態およびカメラ撮影状態を示す撮像領域情報とを出力データ生成手段103へ出力する。また、注目点検出手段101は、被写体に装着された位置検出手段から注目点位置情報を、無線等により取得し、出力データ生成手段103へ出力する。出力データ生成手段103は、注目点位置情報、撮像情報、および撮像領域情報に基づいて、前述したデータ構造の情報群を生成し、DVD2へ記録する。
続いて、ユーザによってデータの再生および表示が指示されると、データ解読分離手段301はDVD2から情報群を読み出す。データ解読分離手段301はヘッダ情報を読み取り、各情報を分離し、分離した各情報を、各情報に対応した手段へ出力する。撮像情報は切出し手段304および画像出力手段306へ出力され、撮像領域情報および注目点位置情報は関係情報生成手段302へ出力される。また、同期情報(注目点位置情報および撮像情報のそれぞれの記録開始時刻およびサンプリング時間等の情報)は同期制御手段305へ出力される。
関係情報生成手段302は、撮像領域情報および注目点位置情報に基づいて、関係情報を生成し、この関係情報に基づいて、注目点の画素位置(撮像素子平面座標)を算出する。切出し位置算出手段303は、この画素位置に基づいて、切出し画像の切出し位置を算出し、切出し位置を示す情報を切出し手段304へ出力する。例えば、切出し位置算出手段303は、注目点の画素位置を中心として、所定の画像サイズを切り出すように指定する情報を切出し手段304へ出力する。
切出し手段304は、撮像情報と、切出し位置算出手段303から出力された切出し位置に関する情報とに基づいて、全体画像の中から切出し画像を切り出す。同期制御手段305は、同期情報中の記録開始時刻T0およびサンプリング時間Δtに基づいて切出し手段304を制御し、切出し位置に関する情報と全体画像とを対応させる。全体画像を示す撮像情報は画像出力手段306に蓄積され、切出し画像は画像出力手段307へ出力される。同期制御手段305は、同期情報中の記録開始時刻T0およびサンプリング時間Δtに基づいて、全体画像信号および切出し画像信号の出力タイミングを決定し、決定したタイミングで、画像出力手段306および307に対して出力を指示する。
同期制御手段305による出力タイミングの指定は以下のようになる。同期制御手段305は、同期情報に基づいて、全体画像信号および切出し画像信号の出力タイミングを決定する。同期制御手段305は、撮像情報の記録開始時刻および注目点位置情報の記録開始時刻を参照し、両者はT0で等しいため、最初の全体画像信号および切出し画像信号の出力タイミングを同一とする。注目点位置情報および撮像情報のサンプリング時間はΔtで共に等しいので、同期制御手段305は、次の全体画像信号および切出し画像信号の出力タイミングをΔt経過後とする。以下、同様にして、全体画像信号および切出し画像信号の出力タイミングが決定される。すなわち、全体画像と切出し画像とが同じ時刻に撮像した画像で、かつ、その切出し画像を出力するための注目点位置情報もほぼ同時刻となるように同期することが好ましい。そのために、撮像情報である動画像の所定時刻の静止画とその所定時刻に最も近い時刻の注目点位置情報とによって、切出し画像を出力し、同じ所定時刻の静止画である全体画像と共に同期して出力するように出力タイミングを決定する。
次に、本実施形態において、注目点のフィールド座標を撮像素子平面座標に変換する手法(関係情報生成手段302の機能)について説明する。図3は、サッカー場をフィールド空間とした場合の、そのフィールド空間とカメラの撮像領域との相互関係を示している。カメラの撮像領域は、画角を規定する4本の線によって囲まれた空間領域である。画角を規定する4本の線の交点がカメラ座標の原点である。撮像装置1の撮像領域内には、選手A,B,Cが存在している。
i,j,k軸は、撮像装置1が撮影する方向および/または撮像装置1が撮影する画角を基準とするカメラ座標を示している。カメラの撮像領域における注目点の位置は、フィールドにおける注目点のフィールド座標と、関係情報とに基づいて算出される。関係情報は、フィールド座標をカメラ座標または撮像素子平面座標に変換するための対応関係をテーブルとしたテーブル情報、あるいはその関係を示す座標変換式、あるいはその式を表すパラメータなどである。
以下、図4を参照し、上記の座標変換を行う手法について説明する。図4には、画角を規定する線の交点位置を原点とし、カメラ方向をk軸、CCD102Aの撮像領域の横方向をi方向とするカメラ座標を算出するための3つのセンサの配置関係が示されている。また、カメラ座標における注目点とその注目点を撮像するCCD102Aの画素との関係がカメラ座標で示されている。
図において、CCD102Aは、撮像手段102が備えるCCDである。CCD102Aについては、図4中の画角を規定する線の延長線上(計算上の仮想的なCCD位置)に実際のサイズのものが配置されている。計算上の仮想的なCCD位置は、カメラ空間の原点Oから距離k0の位置であるとする。110Aはレンズである。117A〜117Cは、撮像装置1に設けられたGPSセンサ等の位置検出センサである。位置検出センサ117A〜117Cは、各フィールド座標を検出する。
図示されるように、位置検出センサ117Aのカメラ空間(図4のi軸、j軸、およびk軸によって規定される空間)におけるカメラ座標は(0,L,0)であり、位置検出センサ117Bのカメラ座標は(0,L,−k0)であり、位置検出センサ117Cのカメラ座標は(M,L,−k0)である。また、注目点のカメラ座標は(k2/k0×pt,k2/k0×(−pt),k2)である。なお、ptはCCD102Aの撮像平面における画素間ピッチである。
これらの位置検出センサ117A〜117Cを図4に示されるような配置関係にすることにより、前述したテーブル情報または座標変換式等の関係情報を導くことができる。これにより、画角を規定する線の交点位置であるカメラ空間の原点Oがフィールドにおける位置として検出可能になる。さらに、カメラの撮影方向やその方向を中心とした撮像画像の回転が検出可能になる。
これにより、画角を規定する線の交点位置であるカメラ空間の原点Oと、撮影方向のk方向と、回転によって算出される画像の横方向であるi方向とを求め、その結果、画像の縦方向であるj方向を算出することができる。なお、撮像装置1において3つの位置検出用のセンサによって3箇所の位置情報が検出されるとして説明したが、それに限定されるわけではない。例えば、撮像装置1の1箇所の位置情報の検出や、別の撮像装置による撮像装置1の姿勢検出による方向検出、回転検出などを行ってもよい。また、図4における長さL,Mを含めた3つの位置検出センサ117A〜117Cの配置関係は、撮像装置1内部のROM等に予め記録されているものとする。
図4には、撮像素子平面の座標軸XcおよびYcが示されている。図5に撮像素子平面の座標系を示す。図4のカメラ座標系における注目点(k=k2となる点においてk軸に直交する平面上に存在している)は、図5に示されるような(Xc,Yc)で表される撮像素子平面座標上の位置に変換することができる。図4、図5において撮像素子は縦3画素、横3画素であるとして説明したが、それに限定されるわけではない。
撮像手段102は、レンズ状態とカメラ撮影状態(カメラの位置、方向および回転の情報)とに基づいて、フィールドの3次元空間の各位置とカメラ空間との関係を示す関係情報を生成する。位置検出センサ117A〜117Cによって、そのフィールドにおける座標を検出することと、L,M,k0の3つの既知情報と、各センサを結ぶ線が直交するなどの配置関係情報とに基づいて、図4中の原点やCCD102Aの中心それぞれのフィールド座標を算出することができる。これにより、フィールド座標をカメラ座標の3次元空間に変換する[数1]で示される座標変換式(関係情報)を導くことができる。
図6は、注目点の位置座標よりフィールド座標、カメラ座標、撮像素子(CCD102A)の画素平面座標の順に変換して、画素位置を算出する手順を示すフローチャートである。図6に示されるように、注目点のフィールド座標(X,Y,Z)を[数1]で示される形式の式によってカメラ座標(i,j,k)に変換する(ステップS601)。続いて、カメラ座標(i,j,k)より撮像倍率αをα=k/k0として算出する(ステップS602)。ここで、kは、原点から注目点を含むk軸に垂直な平面のk軸上の距離であり、具体的にはk1、k2などである。続いて、撮像素子(CCD102A)の平面座標を(Xc×pt,Yc×pt,−k0)として、画素を特定するXcおよびYcを算出する(ステップS603)。すなわち、Xc=i/α/pt、Yc=1/α/ptである。
図7は、図4の変形例を示している。関係情報を生成するためのキャリブレーションにおいて、位置検出センサ117A〜117Dを、フィールド空間において、カメラの方向とは関係なく平行四辺形となるように配置し、それぞれのフィールド座標を検出する。例えば、サッカーグランドでの平行四辺形として、ゴールエリアの長方形の4隅に4つの位置検出センサ117A〜117Dを配置すればよい。それによって、位置検出センサ117A〜117Dによって得られるフィールド座標(X1,Y1,Z1)、(X2,Y2,Z2)、(X3,Y3,Z3)と各センサのCCD111Aに撮像される像位置と、k0、pt、CCD111Aの縦、横の画素数とに基づいて、[数1]の変換行列を算出することができる。
なお、図7においては、位置検出センサ117A〜117Dを、長方形となるように配置したが、一般的には、平行四辺形を形成するように配置すればよい。
図8は、図4の他の変形例を示している。先の図4においては、3つの位置検出センサ117A〜117Cをカメラ内部に備え、それによって、カメラの撮影軸、画像の回転、原点のフィールド座標を算出するようにし、最終的には、前述した[数1]を導き出すようにしている。この変形例においては、それに限定するものではなく、[数1]を導く別の方法を図8において説明する。
この変形例においては、CCD111Aの真後ろに、フィールド座標位置を検出することができる位置検出センサ117Aを配置し、撮像領域内の中心に位置検出センサ117Bを移動させ(位置検出センサ117Bを装着した人を移動させる)、位置検出センサ117Bの位置検出を行う。
位置検出センサ117Aから位置検出センサ117Bの方向がカメラの方向であることが分かる。また、その位置検出センサ117Aと位置検出センサ117Bとの間に原点Oがあることが分かり、予め設計によって既知である位置検出センサ117Aから距離k6だけ離れた位置を、画角を規定する線の交点位置である原点Oとして、そのフィールド位置座標を算出することができる。
続いて、カメラの画像の回転方向を知るために、位置検出センサ117Cを、撮像領域内の中心の横方向にある所定の画素位置に配置されるように移動させる(位置検出センサ117Cを装着した人を移動させる)。これにより、位置検出センサ117Cのフィールド座標のi方向の距離i’と、撮像された撮像素子平面での距離Xc’×ptとの比として倍率αを算出することができる。
なお、図8はk3=k4の場合であるが、図8で示されるk3とk4とが一致しなくても、位置検出センサ117Bの点を通りk軸に垂直でi軸に平行な線を導き出せるので、位置検出センサ117Cのカメラからの距離が特に限定されるものではない。さらに、位置検出センサ117Cは、k軸とi軸とを含む面内に配置されているとしているが、それに限定されるわけではない。回転を規定するために、センサ117Cはk軸とi軸とを含む面内になくてもよく、撮像領域内にあればよい。以上により、原点、撮像方向、および画像の回転の3つがフィールド座標系において算出可能となり、[数1]を導くことができる。
次に、本発明の第2の実施形態について説明する。図9は、第2の実施形態による画像記録再生装置の構成を示すブロック図である。本実施形態においては、撮像装置1は、注目点位置情報をカメラ座標に変換し、撮像情報と共にDVD2に記録する。また、表示装置3は、DVD2からカメラ座標を読み出し、カメラ座標に基づいて画像の切出し位置を算出する。図において、図1と同一の構成には同一の符号を付与し、説明を省略する。
撮像装置1において、104は関係情報生成手段であり、撮像手段102から出力された撮像領域情報および注目点検出手段101から出力された注目点位置情報に基づいて、注目点位置情報(フィールド座標)とカメラ座標とを関係付ける関係情報を生成し、この関係情報に基づいて、注目点位置情報が示すフィールド座標をカメラ座標に変換し、カメラ座標情報を生成する。出力データ生成手段103は、撮像情報とカメラ座標情報とが分離可能に構成された情報群を生成する。この情報群には、これらの情報を識別可能にする識別情報と、これらの情報の時間的な関連を示す同期情報も含まれている。
表示装置3において、データ解読分離手段301は、DVD2から情報群を読み出し、情報群から、カメラ座標情報、撮像情報、および同期情報を分離し、各情報に対応した手段へ出力する。切出し位置算出手段303は、データ解読分離手段301から出力されたカメラ座標を撮像素子平面座標に変換し、注目点の画素位置を算出すると共に、この画素位置に基づいて、切出し画像の切出し位置を算出する。
次に、本実施形態において、出力データ生成手段103によって出力されてDVD2に記録され、表示装置3によって解読されるデータの構造について説明する。図10はデータの構造を示す参考図である。出力データ生成手段103によって生成され、DVD2に記録される情報群のデータ構造は図10(a)のようになっている。ヘッダ情報には、注目点のカメラ座標情報の先頭のアドレスがAdr−X+D、撮像情報の先頭のアドレスがAdr−X+Eであることを示す情報が格納されている。
図10(b)には、注目点のカメラ座標情報の構造が示されている。先頭には、カメラ座標情報の記録開始時刻T0が格納されている。続いて、情報の種別がカメラ座標情報であることを示す種別情報が格納されている。続いて、カメラ座標情報のサンプリングに関するサンプリング時間Δt×5とサンプル数qとが、それぞれ格納されている。これらの後には、サンプリングされた注目点位置情報M1〜Mqが格納されている。図10(c)には、撮像情報の構造が示されている。この構造は図2(c)と同一である。撮像情報のサンプリング時間はカメラ座標情報のサンプリング時間の5分の1であり、サンプル数pとqとの間には、p=q×5の関係がある。
同期制御手段305は、同期情報に基づいて、全体画像信号および切出し画像信号の出力タイミングを決定する。また、同期制御手段305は、切出し手段304による切出し画像の切出しが全体画像に同期して行われるように、切出し手段304を制御する。サンプリング時間に上記の関係があるため、同期制御手段305は、切出し位置算出手段303によって算出された1つの算出位置を5つの切出し画像の切出しに用いるように、切出し手段304を制御する。すなわち、切出し手段304は、最初の切出し位置を用いて、撮像情報G1〜G5が示す全体画像から切出し画像を切り出し、次の切り出し位置を用いて、撮像情報G6〜G10が示す全体画像から切出し画像を切り出すという具合にして、切出し画像を切り出していく。
同期制御手段305による出力タイミングの指定は以下のようになる。同期制御手段305は、撮像情報の記録開始時刻およびカメラ座標情報の記録開始時刻を参照し、両者はT0で等しいため、最初の全体画像信号および切出し画像信号の出力タイミングを同一とする。カメラ座標情報および撮像情報のサンプリング時間は上記のように異なるが、切出し手段304によって、全体画像の画像数と同じ画像数の切出し画像が生成されるので、同期制御手段305は、以降の全体画像信号および切出し画像信号を共にΔtの周期で出力する。
次に、本発明の第3の実施形態について説明する。図11は、第3の実施形態による画像記録再生装置の構成を示すブロック図である。本実施形態においては、注目点が複数であり、撮像装置1は、各注目対象に対応した関係情報を生成する。また、表示装置3は、複数の関係情報に基づいて、全体画像から複数の切出し画像を切り出す。図において、図1および図9と同一の構成には同一の符号を付与し、説明を省略する。
図において、撮像装置1は、2つの注目点検出手段101Aおよび101Bと、これらに対応した関係情報生成手段104Aおよび104Bを備えている。注目点検出手段101Aおよび101Bによって、2つの異なる注目点の注目点位置情報が取得される。これにより、例えば2人の被写体のそれぞれに装着された位置検出手段の位置を検出することができる。出力データ生成手段103は、撮像情報と2つのカメラ座標情報とが分離可能に構成された情報群を生成する。この情報群には、これらの情報を識別可能にする識別情報と、これらの情報の時間的な関連を示す同期情報も含まれている。
表示装置3において、データ解読分離手段301は、DVD2から情報群を読み出し、情報群から、2つのカメラ座標情報、撮像情報、および同期情報を分離し、各情報に対応した手段へ出力する。2つのカメラ座標情報に対応した切出し位置算出手段303Aおよび303Bは、切出し位置を算出し、それぞれ切出し手段304Aおよび304Bへ切出し位置を出力する。切出し手段304Aおよび304Bは全体画像から各注目点を含む切出し画像を切り出し、画像出力手段307Aおよび307Bへそれぞれ出力する。
次に、本実施形態において、出力データ生成手段103によって出力されてDVD2に記録され、表示装置3によって解読されるデータの構造について説明する。図12はデータの構造を示す参考図である。出力データ生成手段103によって生成され、DVD2に記録される情報群のデータ構造は図12(a)のようになっている。ヘッダ情報には、注目点Aのカメラ座標情報の先頭のアドレスがAdr−X+D、注目点Bのカメラ座標情報の先頭のアドレスがAdr−X+E、撮像情報の先頭のアドレスがAdr−X+Fであることを示す情報が格納されている。
図12(b)には、注目点Aのカメラ座標情報の構造が示されている。先頭には、情報の種別がカメラ座標情報であることを示す種別情報が格納されている。続いて、各カメラ座標情報の記録時刻とカメラ座標情報とが交互に格納されている。i番目(i=0,1,・・・q)のカメラ座標情報の記録時刻TiはTi=T0+Δw×iであり、各カメラ座標情報に対して記録時刻が関係付けられている。注目点Bのカメラ座標情報の構造も同様である。図12(c)には、撮像情報の構造が示されている。この構造は図2(c)と同一である。
同期制御手段305は、同期情報に基づいて、全体画像信号および切出し画像信号の出力タイミングを決定する。また、同期制御手段305は、切出し手段304Aおよび304Bによる切出し画像の切出しが全体画像に同期して行われるように、切出し手段304Aおよび304Bを制御する。
同期制御手段305は、同期情報に基づいて切出し手段304Aおよび304Bを制御し、1つの全体画像から1つの切出し画像が切り出されるようにする。同期制御手段305は、撮像情報の記録開始時刻および最初のカメラ座標情報の記録時刻を参照し、両者はT0で等しいため、最初の全体画像から画像を切り出すように、切出し手段304Aおよび304Bを制御する。以降は、サンプリング時間Δtを加算することにより撮像情報の記録時刻を算出し、注目点AおよびBのカメラ座標情報の記録時刻と比較する。同期制御手段305は、各撮像情報の記録時刻に最も近い記録時刻のカメラ座標情報を用いて画像を切り出すように、切出し手段304Aおよび304Bを制御する。
これにより、全体画像の画像数と同じ画像数の2種類の切出し画像が生成される。同期制御手段305による出力タイミングの指定は以下のようになる。同期制御手段305は、撮像情報の記録開始時刻および最初のカメラ座標情報の記録時刻を参照し、両者はT0で等しいため、最初の全体画像信号および切出し画像信号の出力タイミングを同一とする。これ以降、同期制御手段305は、Δtの周期で全体画像信号および2種類の切出し画像信号が出力されるように、画像出力手段306、画像出力手段307Aおよび307Bを制御する。
次に、本発明の第4の実施形態について説明する。図13は、第4の実施形態による画像記録再生装置の構成を示すブロック図である。本実施形態においては、撮像装置1は関係情報を生成すると共に、複数の切出し画像を切り出し、全体画像と複数の切出し画像とをDVD2に記録する。また、表示装置3はDVD2から情報群を読み出し、全体画像と複数の切出し画像とを分離する。図において、図1、図9、および図11と同一の構成には同一の符号を付与し、説明を省略する。
撮像装置1において、105Aおよび105Bは切出し位置算出手段であり、それぞれ関係情報生成手段104Aおよび105Bから出力されたカメラ座標情報が示すカメラ座標を撮像素子平面座標に変換し、注目点の画素位置を算出すると共に、この画素位置に基づいて、切出し画像の切出し位置を算出する。106Aおよび106Bは切出し手段であり、それぞれ切出し位置算出手段105Aおよび105Bによって算出された切出し位置に基づいて、全体画像から切出し画像を切り出し、出力データ生成手段103へ出力する。出力データ生成手段103は、撮像情報と2つの切出し画像情報とが分離可能に構成された情報群を生成する。この情報群には、これらの情報を識別可能にする識別情報と、これらの情報の時間的な関連を示す同期情報も含まれている。
同期制御手段107は、撮像情報に含まれる記録開始時刻およびサンプリング時間と、2種類の注目点位置情報に含まれる記録開始時刻およびサンプリング時間とに基づいて、切出し手段106Aおよび106Bによる切出し画像の切出しを制御する。この制御の手法は、第1〜第3の実施形態における同期制御手段305による制御の手法と同様である。
表示装置3において、データ解読分離手段301は、DVD2から情報群を読み出し、情報群から、撮像情報(全体画像)、2つの切出し画像、および同期情報を分離し、各情報に対応した画像出力手段306、307A、および307Bへ出力する。
次に、本実施形態において、出力データ生成手段103によって出力されてDVD2に記録され、表示装置3によって解読されるデータの構造について説明する。図14はデータの構造を示す参考図である。出力データ生成手段103によって生成され、DVD2に記録される情報群のデータ構造は図14(a)のようになっている。ヘッダ情報には、注目点Aの切出し画像の先頭のアドレスがAdr−X+D、注目点Bの切出し画像の先頭のアドレスがAdr−X+E、撮像情報の先頭のアドレスがAdr−X+Fであることを示す情報が格納されている。
図14(b)には、注目点Aの切出し画像情報Aの構造が示されている。先頭には、切出し画像情報Aの記録開始時刻T0が格納されている。続いて、情報の種別が注目点Aの切出し画像情報Aであることを示す種別情報が格納されている。続いて、切出し画像情報Aのサンプリングに関するサンプリング時間Δtとサンプル数pとが、それぞれ格納されている。これらの後には、切出し画像情報S1−1〜S1−pが格納されている。図14(c)には、撮像情報の構造が示されている。この構造は図2(c)と同一である。同期制御手段107による切出し手段106Aおよび106Bの制御と、同期制御手段305による全体画像信号および2つの切出し画像信号の出力タイミングの制御は前述した第1〜第3の実施形態と同様である。
次に、本発明の第5の実施形態について説明する。本実施形態においては、第3の実施形態における表示装置3の変形例を示す。撮像装置1の構成は第3の実施形態と同一である。図15は、第5の実施形態による表示装置3の構成を示すブロック図である。図において、308はDVD再生部であり、CPU315の制御によって動作し、DVDの記録形式に従ってDVD2の内部に記録されているデータを読み出し、RAM(Random Access Memory)314やHDD(Hard Disk Drive)316に保存する。
309は表示制御部であり、CPU315の制御に従って、表示部310に表示するデータ等を制御する。表示部310は、表示制御部309から出力された画像用の信号(全体画像信号および切出し画像信号)に基づいて、動画像を表示する液晶モニタ等である。311はキーボードであり、ユーザの入力に応じて文字やコマンドデータなどを入力する。312はマウスであり、表示部310に表示されるカーソルの動作と、記録されたデータの再生実行とを制御するための入力がユーザの操作によって行われる。
313はROM(Read Only Memory)であり、電源ON時の起動においてCPU315の動作を規定するプログラムや各種のパラメータを保存する。RAM314は各種のデータを一時的に記憶する。CPU315は表示装置3内の各部を制御する。CPU315によって、第3の実施形態におけるデータ解読分離手段301、切出し位置算出手段303Aおよび303B、切出し手段304Aおよび304B、および同期制御手段305の機能が実現される。HDD316はOS(Operating System)に関するデータやアプリケーションプログラム等を保存する。上記の各部はバスBに接続されている。317は電源であり、上記各部に対して給電を行う。
次に、アプリケーションプログラムによる表示装置3の動作を、図16および図17のフローチャートを用いて説明する。まず、各種の初期設定が行われ(ステップS1601)、表示部310にユーザ設定画面が表示される(ステップS1602)。図18(a)はユーザ設定画面の表示例である。続いて、CPU315は、キーボード311あるいはマウス312からのユーザの入力を監視し、全データ(全体画像および切出し画像)を表示する全データ表示モードがユーザによって選択されたかどうかを判定する(ステップS1603)。全データ表示モードが選択されなかった場合には、一部のデータを表示する他の処理を行う(ステップS1604)。
一方、全データ表示モードが選択された場合、CPU315は、表示部310に表示された画面中のプレイボタンがユーザによって押されたかどうか判定する(ステップS1605)。プレイボタンが押されていない場合はステップS1603へ戻る。プレイボタンが押された場合は、CPU315はDVD再生部308に対してデータの読み取りを指示する。DVD308は、この指示に基づいて、DVD2からデータを読み出す。CPU315はこのデータをDVD再生部308から受け取り、RAM314に保存する(ステップS1606)。
続いて、CPU315は、RAM314に保存したデータのヘッダ情報を読み出し(ステップS1607)、ヘッダ情報に従い、全体画像の撮像情報を予め決められたウィンドウAのサイズと表示部310の解像度とに応じて、実際に表示部310に表示される画像のサイズに変換し、RAM314内のtmpAエリアに保存する(ステップS1608)。
続いて、CPU315は、ヘッダ情報に従い、注目点Aのカメラ座標の時系列データをRAM314から読み出し、各画面の切出し位置を算出し、1画面ごとに切出し画像情報Aを生成し、RAM314内のtmpBエリアに保存する(ステップS1609)。この画像の切出しにおいて、CPU315は撮像情報のj番目(j=0,1,2・・・)の画面の記録時刻T0+j×Δtに最も近い記録時刻T0+k×Δwに相当するk番目のカメラ座標を用いて切出し位置を算出し、j番目の切出し画像を切り出す。
続いて、CPU315は、ヘッダ情報に従い、注目点Bのカメラ座標の時系列データをRAM314から読み出し、各画面の切出し位置を算出し、1画面ごとに切出し画像情報Bを生成し、RAM314内のtmpCエリアに保存する(ステップS1610)。この画像の切出しにおいても、CPU315は撮像情報のj番目(j=0,1,2・・・)の画面の記録時刻T0+j×Δtに最も近い記録時刻T0+k×Δwに相当するk番目のカメラ座標を用いて切出し位置を算出し、j番目の切出し画像を切り出す。
続いて、CPU315は撮像情報が示す全体画像、上記の切出し画像情報AおよびBをRAM314内の各tmpAエリア、tmpBエリア、およびtmpCエリアから読み出し、表示制御部309へ出力する。このとき、CPU315は全体画像を表示部310のウィンドウAにサンプリング時間Δtの間隔で表示するように表示制御部309に指示する。また、CPU315は切り出し画像情報Aが示す切出し画像を表示部310のウィンドウBにサンプリング時間Δtの間隔で表示するように表示制御部309に指示すると共に、切出し画像情報Bが示す切出し画像を表示部310のウィンドウCにサンプリング時間Δtの間隔で表示するように表示制御部309に指示する。表示制御部309は、この指示に基づいて、全体画像信号および2つの切出し画像信号を、各ウィンドウの同期を取りながらΔtの間隔で表示部310へ出力する。表示部310は、各ウィンドウに画像を表示する(ステップS1611)。
図18(b)は表示部310に表示される各ウィンドウA〜Cの例である。ウィンドウAには全体画像が表示され、ウィンドウBには、注目点Aを含む切出し画像が表示され、ウィンドウCには、注目点Bを含む切出し画像が表示される。
なお、記録媒体に記録される情報群の構造は上記の実施形態に限定されるわけではない。例えば、第2の実施形態におけるカメラ座標情報のサンプリング時間と撮像情報のサンプリング時間とが等しくてもよい。
なお、情報群中に含まれる同期情報としての撮像情報の記録開始時刻と、注目点位置情報、撮像領域情報、カメラ座標情報、または切出し画像の記録開始時刻とに関しては、それぞれの記録開始時刻を用意する必要はなく、撮像情報の記録開始時刻と、注目点位置情報、撮像領域情報、カメラ座標情報、または切出し画像の記録開始時刻との時間差がわかればよい。
なお、被写体の位置を検出する手法として、例えば、無線LANやRFID(電波方式認識:Radio Frequency−Identification)タグ等を利用した電波や電磁波によって被写体の位置を検出するようにしてもよい。この場合には、被写体の影響が少なく、安定して被写体の位置を検出することができる。また、赤外線や超音波などの光や音を用いて被写体の位置を検出するようにしてもよい。
以上で説明したように、第1〜第5の実施形態によれば、全体画像を示す撮像情報と、注目点位置情報または注目点のカメラ座標情報または注目点を含む切出し画像情報と、同期情報とを分離可能な情報として構成すると共に、同期情報に基づいて切出し画像の切出しと全体画像および切出し画像の再生とを制御するようにしたので、動画像の全体画像とその一部分の切出し画像とを同期させて再生および表示することができる。これにより、ユーザが、全体の様子と、注目する被写体の様子とを同時あるいは選択的に見ることができる。
以上、図面を参照して本発明の実施形態について詳述してきたが、具体的な構成はこれらの実施の形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計変更等も含まれる。
1・・・撮像装置、2・・・DVD、3・・・表示装置、101,101A,101B・・・注目点検出手段、102・・・撮像手段、102A・・・CCD、103・・・出力データ生成手段、104,104A,104B,302・・・関係情報生成手段、105A,105B,303,303A,303B・・・切出し位置算出手段、106A,106B,304,304A,304B・・・切出し手段、107,305・・・同期制御手段、110A・・・レンズ、117A,117B,117C,117D・・・位置検出センサ、301・・・データ解読分離手段、306,307,307A,307B・・・画像出力手段、308・・・DVD再生部、309・・・表示制御部、310・・・表示部、311・・・キーボード、312・・・マウス、313・・・ROM、314・・・RAM、315・・・CPU、316・・・HDD、317・・・電源。