JP2004072311A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2004072311A JP2004072311A JP2002227220A JP2002227220A JP2004072311A JP 2004072311 A JP2004072311 A JP 2004072311A JP 2002227220 A JP2002227220 A JP 2002227220A JP 2002227220 A JP2002227220 A JP 2002227220A JP 2004072311 A JP2004072311 A JP 2004072311A
- Authority
- JP
- Japan
- Prior art keywords
- motion compensation
- image frame
- image
- compensation range
- motion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Abstract
【課題】ビデオカメラのリアルタイム動画像符号化における演算量の増加を軽減し、効率的な符号化を実現する。
【解決手段】撮像部10により子供1を撮像して動画像を取得し、符号化演算部20により、この動画像の現画像フレームと動き補償フレーム間予測により動き補償範囲を定め、動きベクトルを求める探索を行なって作成された予測画像フレームとを減算して求めた予測残差画像フレームを符号化する。この符号化の際、子供1に装着された加速度センサを備えた発信機5から出力された被写体の動きを示す信号を受信演算部30で受信し、この信号に基づいて子供1の動きに関する情報を得、この情報に基づいて動き補償範囲移動部40が過去画像フレーム中に定める動き補償範囲を移動させる。
【選択図】 図1
【解決手段】撮像部10により子供1を撮像して動画像を取得し、符号化演算部20により、この動画像の現画像フレームと動き補償フレーム間予測により動き補償範囲を定め、動きベクトルを求める探索を行なって作成された予測画像フレームとを減算して求めた予測残差画像フレームを符号化する。この符号化の際、子供1に装着された加速度センサを備えた発信機5から出力された被写体の動きを示す信号を受信演算部30で受信し、この信号に基づいて子供1の動きに関する情報を得、この情報に基づいて動き補償範囲移動部40が過去画像フレーム中に定める動き補償範囲を移動させる。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は撮像装置に関し、詳しくは、被写体を撮像して得た動画像をリアルタイムで符号化するデジタルビデオカメラ等の撮像装置における演算量の低減に関するものである。
【0002】
【従来の技術】
従来より、デジタルビデオカメラ等により被写体を撮像して動画像を得、この動画像の現画像フレームと動き補償フレーム間予測により作成された予測画像フレームとを減算して、予測残差画像フレームを求め、この予測残差画像フレームを符号化して動画像のデータ量を圧縮する動画像圧縮方式(MPEG)が知られている(例えば、特開平07−298270号公報等)。
【0003】
上記動き補償フレーム間予測は、現画像フレームとこの現画像フレームより前に得られた画像フレームとを使用し、この画像フレーム中に動き補償範囲を定めてこの動き補償範囲内における探索によって動きベクトルを求め、その後、この動きベクトルと上記動き補償範囲が定められた画像フレームとに基づいて現画像フレームに近似させた予測画像フレームを作成するものである。なお、以後、現画像フレームより前に取得されて動き補償範囲が定められる上記画像フレームを過去画像フレームと言う。
【0004】
上記動きベクトルを求めるときには、始めに、現画像フレーム中の特定の領域に位置する例えば16画素×16画素の画素の集まりからなる現画像ブロックに対応させて過去画像フレーム中に定めた上記と同様の16画素×16画素の画素の集まりからなる動き補償基準ブロックの中心を基準位置とし、この基準位置から縦方向および横方向にそれぞれ例えば±30画素に亘って広がる領域を動き補償範囲として定める。次に、この動き補償範囲中に存在する上記と同様の16画素×16画素の画素の集まりからなる画像ブロックの全てを探索して、上記現画像ブロックが示す画像内容と最も近い画像内容を持つ画像ブロックを類似画像ブロックとして見つけ出し、この類似画像ブロックの位置から動き補償基準ブロックの位置までの距離と方向とを示すベクトルを動きベクトルとして求める。
【0005】
上記動き補償予測においては、現画像ブロックが示す画像内容と動き補償範囲中の各画像ブロックが示す画像内容との差が小さくなるにしたがって動きベクトルを求める際の演算の負担が低減される。すなわち、現画像ブロックが示す画像内容と動き補償範囲中の各画像ブロックが示す画像内容との差を表す数値が零に近い値であると上記動きベクトルを求めるときの演算(2進法)で扱う数値の桁数が全体的に小さくなり、それによりこの演算の負担が低減される。
【0006】
なお、上記動きベクトルを求める際の動き補償範囲中を探索する経路は常に同じであり、また、動画像をリアルタイムで符号化して圧縮する際には全ての演算を所定の時間(例えば1/30秒)以内に終了する必要があるので、動画像の符号化には高い演算能力を持つ演算素子が使用されている。
【0007】
【発明が解決しようとする課題】
ところで、動画像の撮影中に、例えば子供などの撮影の対象とされている被写体が移動すると、撮像装置により撮像された画像中の被写体を示す画像が画像フレーム中を移動するので、その被写体が現画像フレーム中に占める領域の位置と過去画像フレーム中に占める領域の位置とにずれが生じる。そのため、現画像フレーム中に被写体が占める領域に設定される現画像ブロックによって示される画像内容と動きベクトルを求める際に過去画像フレームに設定される動き補償範囲中の各画像ブロックが示す画像内容との間のずれも増大する。
【0008】
このような場合には、現画像ブロックが示す画像内容と動き補償範囲中の各画像ブロックが示す画像内容との差を表す数値の絶対値が大きくなり、動きベクトルを求める際の演算で扱う数値の桁数が全体的に大きくなってしまい、この演算の負担が増大するという問題がある、
本発明は、上記事情に鑑みてなされたものであり、被写体の動きによって増大するリアルタイム符号化における演算の負担を軽減し、効率的な符号化を実現することができる撮像装置を提供することを目的とするものである。
【0009】
【課題を解決するための手段】
本発明の撮像装置は、被写体を撮像して動画像を取得する撮像手段と、動き補償フレーム間予測により動画像の過去画像フレーム中に動き補償範囲を定め、動きベクトルを求める探索を行なって作成された予測画像フレームと動画像の現画像フレームとを減算して求めた予測残差画像フレームを符号化する符号化手段とを備えた撮像装置であって、現画像フレーム中の特定の被写体の占める領域に注目領域を定め、特定の被写体に装着された出力手段から出力されたこの被写体の動きを示す信号を受信しこの信号に基づいて前記注目領域に対応して前記過去画像フレーム中に定める動き補償範囲を移動させる動き補償範囲移動手段を備えたことを特徴とするものである。
【0010】
前記出力手段は少なくとも被写体の移動方向を示す信号を出力するもので、例えば加速度センサが用いられる。
【0011】
前記動き補償範囲移動手段は、被写体の動きを示す信号に基づいて撮像装置から被写体までの距離に応じて注目領域の大きさを変えるようにしてもよい。すなわち、距離が短くなるにしたがって注目領域の大きさを大きくし、距離が長くなるにしたがって注目領域の大きさを小さくするようにしてもよい。
【0012】
また、被写体の動きを示す信号に基づいて、過去画像フレームから現画像フレームまでに被写体の移動する移動量に応じて動き補償範囲の移動量変えるようにしてもよい。すなわち、被写体の移動量が大きくなるにしたがって動き補償範囲の移動量を大きくするものとすることができる。
【0013】
【発明の効果】
本発明の撮像装置によれば、現画像フレーム中の特定の被写体の占める領域に注目領域を定め、特定の被写体に装着された出力手段から出力されたこの被写体の動きを示す信号を受信し、この信号に基づいて注目領域に対応して過去画像フレーム中に定める動き補償範囲を移動させる動き補償範囲移動手段を備えているので、現画像フレーム中の動きのある特定の被写体を示す領域における現画像ブロックに対して設定される動き補償範囲を、この現画像ブロックが示す画像内容に近い画像内容を持つ過去画像フレーム中の領域に定めることができ、この現画像ブロックと動き補償範囲中の画像ブロックとの差を表す値をより零に近づけて動きベクトルを求める際の演算において取り扱う値の桁数を小さくすることができ、動画像のリアルタイム符号化における演算の負担を軽減し、効率的な符号化を実現することができる。これにより、例えば、動きベクトルの演算を実行する回路の規模を縮小することもできる。
【0014】
ここで、前記動き補償範囲移動手段を、前記信号に基づいて、撮像装置から被写体までの距離に応じて注目領域の大きさを変えるものとすれば被写体が占める領域をさらに正確に示す注目領域を現画像フレーム中に定めることができる。
【0015】
また、前記動き補償範囲移動手段を、前記信号に基づいて、過去画像フレームから現画像フレームまでに被写体が移動する移動量に応じて動き補償範囲の移動量を変えるものとすれば、各現画像ブロックに対して設定される動き補償範囲を各現画像ブロックが示す画像内容にさらに近い画像内容を持つ過去画像フレーム中の領域に設定することができる。
【0016】
なお、本発明においては、背景中を特定の被写体が移動する場合を想定しており、この被写体の移動に合わせてカメラの向きを変える、すなわち特定の被写体が画面中を移動せず、背景のみが移動する場合は想定していない。ただし被写体の移動に合わせてカメラの向きを変えても支障はない。
【0017】
【発明の実施の形態】
以下、本発明の実施の形態について、図面を用いて説明する。図1は本発明の実施の形態による撮像装置の概略構成を示すブロック図、図2は現画像フレームが示す画像と過去画像フレームが示す画像と比べて示す概念図、図3は現画像フレーム中に注目領域を定めた様子を示す概念図、図4は大人用の注目領域の大きさと子供用の注目領域の大きさとを比較する図、図5は注目領域の大きさを発信機までの距離の違いや大人用と子供用の領域の違いに応じて示す図、図6は動き補償範囲を移動させた様子を示す概念図、図7は動き補償範囲を動き補償基準ブロックを含む範囲内で移動させた様子を示す概念図、図8は過去画像フレーム中に設定された動き補償範囲を探索して動きベクトルを求める様子を示す概念図、図9は動き補償範囲中を探索する探索経路の例を示す概念図である。
【0018】
本発明の実施の形態による撮像装置(カメラ)100は、被写体である子供1を撮像して動画像を取得する撮像手段である撮像部10、動き補償フレーム間予測により動画像の過去画像フレーム中に動き補償範囲を定め、動きベクトルを求める探索を行なって作成された予測画像フレームとこの動画像の現画像フレームとを減算して求めた予測残差画像フレームを符号化する符号化手段である符号化演算部20、子供1に装着された加速度センサを備えた発信機5から出力された被写体の動きを示す信号を受信する受信演算部30を有し、この信号から求められる子供1の動きに基づいて過去画像フレーム中に定める動き補償範囲を移動させる動き補償範囲移動部40、および、動きベクトルを求めるための探索を、動き補償範囲中のその特定された移動方向とは反対側の領域から開始させる探索経路設定部50を備えている。なお、発信機5は被写体からの信号として第1の赤外光および超音波を0.5秒おきに同時に発信するとともに、この第1の赤外光と波長が異なる第2の赤外光を連続発信する。なお、発信機5は子供1の首にカメラ100の方向へ向けて装着される。
【0019】
ここで、子供1に装着された発信機5から発信される加速度センサに基づく情報は、子供1がカメラ100に対して正面を向いていないときには、誤った方向を示す情報となる可能性があるが、子供1がカメラ100に対して斜め、あるいは後を向いているときには発信機5からの信号が受信演算部30で受信されないので、この受信演算部30が発信機5から誤った加速度の情報を受信することはない。なお、受信演算部30が加速度の情報を受信しないときには、動き補償範囲移動部40は動き補償範囲を移動させない。
【0020】
撮像部10は、被写体の像を結像させるレンズ部11とレンズ部11によって結像された被写体の像を光電変換するCCD素子12とCCD素子12によって光電変換された信号をA/D変換し被写体を表す画像フレームを出力するA/D変換部13とを有し、この撮像した画像フレームを連続的に出力する。
【0021】
上記受信演算部30は、被写体の動きを示す加速度センサの出力信号である第2の赤外光の受信に基づいて過去画像フレームから現画像フレームまでに被写体の移動する移動方向と移動量とを特定する機能を持つ赤外光検出部35と、第1の赤外光および超音波の受信に基づいて発信機5までの距離を特定する距離特定手段である光音波測距部36とを備えている。
【0022】
上記光音波測距部36は、発信機5から出力された0.5秒おきに同時に発信される第1の赤外光と超音波とを受信し、第1の赤外光を検出したときから、超音波を検出するまでの時間差に基づいて発信機5までの距離を特定する。
【0023】
動き補償範囲移動部40は、発信機5の位置に基づいて現画像フレーム中に子供1の像を含む注目領域を定め、この注目領域に対して過去画像フレーム中に定める動き補償範囲を上記特定された移動方向とは反対方向に移動させたり、上記特定された距離が短くなるにしたがって注目領域を拡大したり、発信機5が動画像として移動する移動量が大きくなるにしたがって動き補償範囲の移動量を大きくしたりする。
【0024】
なお、ここでは、動き補償範囲移動部40が動き補償範囲を移動させる範囲を、この動き補償範囲が後述する動き補償基準ブロックを含む範囲とする。
【0025】
符号化演算部20は、後述するフレームメモリ部26から入力した過去画像フレーム中に動き補償範囲を定めて動きベクトルを求める動きベクトル取得ユニット21と、この動きベクトルと過去画像フレームとに基づいて予測画像フレームを作成する予測画像フレーム作成部22と、予測画像フレームと現画像フレームとを減算して予測残差画像フレーム求めるフレーム間減算部23と、上記予測残差画像フレームと動きベクトルとを符号化し、この符号化した符号化データを後述する符号化データ蓄積部80に出力する符号化部24と、符号化データ蓄積部80から符号化データを入力しこの符号化データを復号して画像フレームを再生する復号化部25と、この復号された画像フレームを過去画像フレームとして記憶するフレームメモリ部26とを備えている。
【0026】
なお、上記動きベクトル取得ユニット21は、上記動き補償範囲移動部40と探索経路設定部50とを内部に有している。また、この動きベクトル取得ユニット21は、現画像フレーム中に定めた現画像ブロックの画像内容に近い画像内容を持つ画像ブロックを動き補償範囲中を探索して見つけ出し動きベクトルを求めるが、この探索において、現画像ブロックが示す画像内容と動き補償範囲中の画像ブロックが示す画像内容との差が予め定められた閾値以下となったときに探索を終了する。
【0027】
符号化演算部20によって符号化された符号化データは、符号化データ蓄積部80に入力され蓄積される。これに対して、復号化部25は、符号化データ蓄積部80からすでに符号化された符号化データを入力し、この符号化データを復号して過去画像データを得、この過去画像データをフレームメモリ部26に入力する。
【0028】
次に上記実施の形態における作用について説明する。
【0029】
特定の方向に運動している子供1を撮像して取得した画像フレームがこの撮像部10から出力される。
【0030】
符号化演算部20の動きベクトル取得ユニット21は、この画像フレームを現画像フレームとして入力するとともにフレームメモリ部26から過去画像フレームを入力し、この過去画像フレーム中に動き補償範囲を定める。
【0031】
このとき、動き補償範囲移動部40は、発信機5の位置を特定するとともに、受信演算部30の赤外光検出部35によって受信した加速度センサの出力を積分すること等によって求められた、過去画像フレームから現画像フレームまでに発信機5、すなわち被写体が移動した移動量と移動方向と、光音波測距部36によって受信したカメラ100から発信機5までの距離を入力し、上記特定された発信機5の位置に基づいて現画像フレーム中に子供1が占める注目領域を定め、この注目領域に対応して過去画像フレーム中に定める動き補償範囲を上記特定された移動方向とは反対方向に移動させ、上記距離が短くなるにしたがってその注目領域を拡大し、上記特定された移動量が大きくなるにしたがって動き補償範囲の移動量を大きくする。
【0032】
なお、上記発信機5の位置を特定する方式は、例えば、発信機5から発信された第2の赤外光を、この赤外光の波長領域のみを透過させるフィルタを備えた結像レンズを通して結像させ、この結像された第2の赤外光のスポット像をCCD素子で受光して発信機5を示すCCD素子上の位置を検出し、この検出された位置に基づいて上記画像フレーム中における発信機5の位置を特定する方式等を採用することができる。なお、この方式は上記撮像部10と概略同等な構成によって実現することができる。
【0033】
さらに、探索経路設定部50が、受信演算部30の赤外光検出部35によって特定された、画像フレーム中に示される発信機5の移動方向を示す情報に基づいて、動き補償範囲中の探索を開始する領域をこの動き補償範囲中における上記特定された移動方向とは反対側の領域に設定し動き補償範囲中を探索する探索経路を定める。それにより、この動きベクトル取得ユニット21が、上記移動された動き補償範囲中の上記探索経路にしたがった探索を行なって動きベクトルを求める。
【0034】
その後、予測画像フレーム作成部22が、過去画像フレームと上記のようにして求められた動きベクトルとを入力し、この動きベクトルと過去画像フレームとに基づいて上記現画像フレームが示す画像内容に近似させた画像内容を持つ予測画像フレームを作成する。
【0035】
上記作成された予測画像フレームは現画像フレームとともにフレーム間減算部23に入力され、フレーム間減算部23において両フレーム間の減算が行なわれ予測残差画像フレームが求められる。符号化部24はこの予測残差画像フレームと上記動きベクトル取得ユニット21で作成された動きベクトルとを符号化して出力する。符号化部24から出力された符号化データは、符号化データ蓄積部80に入力され蓄積される。
【0036】
なお、現画像フレーム中の注目領域の範囲外の領域に定められる現画像ブロックに対して設定される動き補償範囲については、動き補償範囲が移動されることはない。
【0037】
ここで、動きベクトル取得ユニット21において動きベクトルを求める作用について詳しく説明する。
【0038】
図2に示すように、撮像部10から動きベクトル取得ユニット21に入力した現画像フレームF1が示す画像G1は、この動きベクトル取得ユニット21がフレームメモリ部26から入力した過去画像フレームF2の示す画像G2に対して子供1を示す画像の位置が画像フレーム中を動画像としてE1方向に移動させたものであり、背景を示す背景領域2の位置は画像フレーム中において殆ど変動していない。
【0039】
ここで、図3に示すように、受信演算部30によって特定された発信機5の位置に基づいて動き補償範囲移動部40が現画像フレーム中に子供1の領域を示す注目領域Pを定める。このとき発信機5は子供1の首に掛けて装着するように予め定められており、注目領域Pは、発信機5がこの注目領域Pの概略中央に位置するように設定される。また、この注目領域Pの大きさは、図4に示すように、画像フレームに対して大きな領域となる大人用の領域L、あるいは画像フレームに対して小さな領域となる子供用の領域Sが設定可能であり、ここでは、被写体が子供なのでこの注目領域Pの大きさには子供用の領域が採用される。さらに、この動き補償範囲移動部40は、光音波測距部36によって受信した発信機5までの距離が短くなるにしたがって注目領域Pを拡大する。すなわち、発信機5までの距離が短いときには図5(a)に示すように、現画像フレームF1中に大きな注目領域P1を設定し、発信機5までの距離が長いときには図5(b)に示すように、小さな注目領域P2を設定する。
【0040】
なお、注目領域に大人用の大きな領域を採用した場合には、発信機5までの距離が短いときには、図5(c)に示すように、現画像フレームF1中に上記注目領域P1より大きな注目領域P3が設定され、発信機5までの距離が長いときには図5(d)に示すように、上記注目領域P2より大きい注目領域P4が設定される。
【0041】
次に、動き補償範囲移動部40が、現画像フレームF1中の注目領域Pに対して過去画像フレームF2中に定められる動き補償範囲を上記特定された移動方向であるE1方向とは反対方向のE2方向に移動させる。
【0042】
すなわち、図6に示すように、現画像フレームF1中の注目領域P中に16画素×16画素の画素の集まりからなる現画像ブロックB0を定めこの現画像ブロックB0の現画像フレームF1中の位置に対応させた過去画像フレームF2中の位置に動き補償基準ブロックBKを設定し、さらに、この動き補償基準ブロックBKの中心から横方向(図中矢印X方向)および縦方向(図中矢印Y方向)のそれぞれ±30画素に亘る領域を動き補償範囲M1として定め、この動き補償範囲M1を上記E1方向とは反対方向のE2方向に移動させて動き補償範囲M2を設定する。このとき、動き補償範囲移動部40が、上記受信演算部30によって特定された発信機5の移動量が大きくなるにしたがって動き補償範囲の移動量Q1を大きくする。
【0043】
なお、ここでは動き補償範囲がX方向に10画素、Y方向に10画素移動されて、過去画像フレームF2中の動き補償範囲M1は動き補償範囲M2で示される位置に移動される。なお、動き補償範囲移動部40は動き補償範囲M1を動き補償基準ブロックBKを含む範囲で移動させるので、上記特定された発信機5の移動量が僅かであるときには、動き補償範囲移動部40は、動き補償範囲M1を最小の移動量である1画素だけ移動させ、図7に示すように、例えば、動き補償範囲M1をX横方向およびY方向にそれぞれ1画素だけ移動させて動き補償範囲M3で示される位置に移動させる。なお、この移動は、上記画像移動方向に応じてX方向またはY方向のいずれか一方の方向のみに移動させるものであってもよい。一方、上記特定された発信機5の移動量が非常に大きいときには、動き補償範囲移動部40は、動き補償範囲を上記画像移動方向に応じて、X方向またはY方向、あるいは両方向に最大の移動量である22画素(22画素=(60画素―16画素)/2)移動させる。例えば、動き補償範囲M1をX方向に22画素およびY方向に22画素移動させると、この動き補償範囲M1は動き補償範囲の周縁L1と動き補償基準ブロックBKの周縁L2とが一致される動き補償範囲M4で示される位置に移動される。
【0044】
次に、図8に示すように、過去画像フレームF2中に設定された動き補償範囲M2において、現画像ブロックB0が示す画像内容に近い画像内容を持つ画像ブロック、すなわち、現画像ブロックB0との差が閾値以下となる画像ブロックが探索される。この探索によって現画像ブロックB0との差が閾値以下となる類似画像ブロックBSが求められ、この類似画像ブロックBSの位置から動き補償基準ブロックBKの位置までの距離と方向とを示すベクトルが動きベクトルV1として求められる。
【0045】
上記動き補償範囲M2において動きベクトルの探索を行なうときに求められる現画像ブロックB0と各画像ブロックとの画像内容の差を表す数値の絶対値は、動き補償範囲M1において現画像ブロックB0と動き補償範囲M1中の各画像ブロックとの画像内容の差を表す数値の絶対値より全体的に小さくなる。なぜなら、現画像フレームF1における現画像ブロックB0近傍の領域の画像内容は、過去画像フレームF2における動き補償範囲M2近傍の領域の示す画像内容が移動したものなので、動き補償範囲M1中の領域が示す画像内容より動き補償範囲M2中の領域が示す画像内容の方が現画像ブロックB0の画像内容により近いものとなるからである。
【0046】
したがって、現画像ブロックB0と動き補償範囲M2中の各画像ブロックとの画像内容の差を表す数値がより零に近い値となり、動きベクトルを求める際の演算で扱う数値の桁数を少なくすることができ、この動きベクトルを求める際の演算の負担が低減される。
【0047】
また、上記動きベクトルを求める際には、探索経路設定部50によって動きベクトルを求めるための探索の経路が定められるが、この探索経路は、動き補償範囲M2中において、注目領域Pの移動方向であるE1方向とは反対のE2方向の側の領域S1から探索を開始させ、この領域S1からE1方向に補償範囲M2中の領域S2の側に向かって探索を続けるように定められる。
【0048】
すなわち、現画像フレームF1の注目領域P中の現画像ブロックB0は、画像フレーム中を動画像としてE1方向に移動しているので、過去画像フレームF2中においては、現画像ブロックB0が示す画像内容はこの現画像ブロックB0と対応して過去画像フレームF2中に位置する動き補償基準ブロックBKを含むE2方向側に存在することになり、この現画像ブロックB0が示す画像内容が存在する領域は動き補償範囲M2中においては領域W1となる。一方、動き補償範囲M2中の動き補償基準ブロックBKの位置よりE2方向側の領域W2(図中斜線で示す)には現画像ブロックB0が示す画像内容が存在しないことになるので、E2方向側の動き補償範囲M2中の角部となる領域S1の方から探索を開始した方が、実質的に現画像ブロックB0に画像内容がより近い画像ブロック、すなわち、現画像ブロックB0との差が閾値以下となる類似画像ブロックを早く見つけることができる。
【0049】
上記のようにして、類似画像ブロックBSを見つけたら上記動きベクトルV1を求めこの動き補償範囲M2中における探索を終了する。
【0050】
なお、上記角部の領域S1から探索を開始したときの探索経路は、図9(a)中に矢印U1で示すように、領域S1から注目領域Pの移動方向であるE1方向と直交するJ2方向に画像ブロックを1画素ずつ移動させ、画像ブロックが動き補償範囲M2の外縁まで達したらE1方向に1画素移動させJ2方向とは反対方向に再び探索を行なう動作を繰り返しながら領域S1から領域S2に向かう経路となる。
【0051】
また、図9(b)に示すように、注目領域Pの移動方向がX方向とは反対方向の図中矢印E11の方向(以後E11方向と言う)であり、受信演算部30によって検出された運動量が大きい場合には、例えば動き補償範囲がE11方向とは反対方向に最大の移動量より1画素少ない21画素移動される。このとき探索が開始される領域は動き補償範囲M11中の上記E11方向とは反対側の2箇所の角部である領域S1または領域S4となる。このときの探索経路は、探索が開始される領域を領域S1とすると、領域S1からE11方向と直交するJ11方向に画像ブロックを1画素ずつ移動させ、画像ブロックが動き補償範囲M11の外縁まで達したらE11方向に1画素移動させ再びJ11とは反対方向に探索を行なう図中U2で示す経路となる。
【0052】
ここでは、現画像ブロックが示す画像内容はE11方向とは反対方向の動き補償基準ブロックBK1を含む側に存在することになり、この領域は動き補償範囲M11中における領域W11となる。一方、動き補償範囲M11中の動き補償基準ブロックBK1の位置よりE11方向側の領域W12(図中斜線で示す)は現画像ブロックが示す画像内容が存在しない領域となる。
【0053】
さらに、図9(c)に示すように、注目領域Pの移動方向の成分がX方向に大きく、Y方向に小さい図中矢印E12で示す方向(以後E12方向と言う)の場合には、探索が開始される領域は動き補償範囲M12中の上記E12方向とは反対側の角部である領域S3となり、受信演算部30によって検出された運動量が小さい場合には、動き補償範囲がE12方向とは反対方向に、例えばX方向とは反対方向に5画素、Y方向とは反対方向に2画素移動される。このとき、探索経路は、動き補償範囲M12の角部の領域S3からE12方向と直交するJ12方向に画像ブロックを1画素ずつ移動させ、画像ブロックが動き補償範囲M12の外縁まで達したらE12方向に1画素移動させJ12方向とは反対方向に再び探索を行なう図中U3で示す経路となる。
【0054】
ここでは、現画像ブロックが示す画像内容はE12方向とは反対方向の動き補償基準ブロックBK2を含む側に存在することになり、この領域は動き補償範囲M12中における領域W13となる。一方、動き補償範囲M12中の動き補償基準ブロックBK2の位置よりE12方向側の領域W14(図中斜線で示す)は現画像ブロックが示す画像内容が存在しない領域となる。
【0055】
なお、上記動きベクトルを求める方式は、MPEGの動画像符号化に採用することができ、この場合、現画像フレームをPピクチャとすることができる。
【0056】
上記受信演算部30は、被写体が動画像として移動する移動方向を特定する機能、被写体が動画像として移動する移動量を特定する機能、および被写体までの距離を特定するの機能のすべてを備える場合に限らず、被写体の動きに関する少なくとも1つの情報を取得する機能を備えるようにして、この取得した動きに関する情報に基づいて動き補償範囲を移動させ動画像のリアルタイム符号化における演算の負担を軽減するようにしてもよい。また、2つ以上の被写体の動きに関する情報を取得する機能を備える場合においては、取得する情報の組合せはどのような組合せであってもよい。
【0057】
なお、動きベクトルを求めるための探索は、動き補償範囲中の特定の領域から開始させる態様とする場合に限らず、上記とは異なる領域から探索が開始される態様としても動きベクトルを求める際の演算の負担を軽減する効果を得ることができる。さらに、動きベクトルの探索は、必ずしも閾値を設けて探索を早く終了させる場合に限らず、例えば動き補償範囲中の全ての領域を探索して現画像ブロックとの差が最小となる画像ブロックを類似画像ブロックとして求めるようにしても上記動きベクトルを求める際の演算の負担を軽減する効果を得ることができる。
【図面の簡単な説明】
【図1】本発明の実施の形態による撮像装置の概略構成を示すブロック図
【図2】現画像フレームが示す画像と過去画像フレームが示す画像と比べて示す概念図
【図3】現画像フレーム中に注目領域Pを定めた様子を示す概念図
【図4】大人用の注目領域の大きさと子供用の注目領域の大きさとを比較する図
【図5】注目領域の大きさを発信機までの距離の違いや大人用と子供用の領域の違いに応じて示す図。
【図6】動き補償範囲を移動させた様子を示す概念図
【図7】動き補償範囲を動き補償基準ブロックを含む範囲内で移動させた様子を示す概念図
【図8】過去画像フレーム中に設定された動き補償範囲を探索して動きベクトルを求める様子を示す概念図
【図9】動き補償範囲中を探索する探索経路の例を示す概念図
【符号の説明】
1 子供
5 発信機
10 撮像部
20 符号化演算部
30 受信演算部
40 動き補償範囲移動部
50 探索経路設定部
80 符号化データ蓄積部
【発明の属する技術分野】
本発明は撮像装置に関し、詳しくは、被写体を撮像して得た動画像をリアルタイムで符号化するデジタルビデオカメラ等の撮像装置における演算量の低減に関するものである。
【0002】
【従来の技術】
従来より、デジタルビデオカメラ等により被写体を撮像して動画像を得、この動画像の現画像フレームと動き補償フレーム間予測により作成された予測画像フレームとを減算して、予測残差画像フレームを求め、この予測残差画像フレームを符号化して動画像のデータ量を圧縮する動画像圧縮方式(MPEG)が知られている(例えば、特開平07−298270号公報等)。
【0003】
上記動き補償フレーム間予測は、現画像フレームとこの現画像フレームより前に得られた画像フレームとを使用し、この画像フレーム中に動き補償範囲を定めてこの動き補償範囲内における探索によって動きベクトルを求め、その後、この動きベクトルと上記動き補償範囲が定められた画像フレームとに基づいて現画像フレームに近似させた予測画像フレームを作成するものである。なお、以後、現画像フレームより前に取得されて動き補償範囲が定められる上記画像フレームを過去画像フレームと言う。
【0004】
上記動きベクトルを求めるときには、始めに、現画像フレーム中の特定の領域に位置する例えば16画素×16画素の画素の集まりからなる現画像ブロックに対応させて過去画像フレーム中に定めた上記と同様の16画素×16画素の画素の集まりからなる動き補償基準ブロックの中心を基準位置とし、この基準位置から縦方向および横方向にそれぞれ例えば±30画素に亘って広がる領域を動き補償範囲として定める。次に、この動き補償範囲中に存在する上記と同様の16画素×16画素の画素の集まりからなる画像ブロックの全てを探索して、上記現画像ブロックが示す画像内容と最も近い画像内容を持つ画像ブロックを類似画像ブロックとして見つけ出し、この類似画像ブロックの位置から動き補償基準ブロックの位置までの距離と方向とを示すベクトルを動きベクトルとして求める。
【0005】
上記動き補償予測においては、現画像ブロックが示す画像内容と動き補償範囲中の各画像ブロックが示す画像内容との差が小さくなるにしたがって動きベクトルを求める際の演算の負担が低減される。すなわち、現画像ブロックが示す画像内容と動き補償範囲中の各画像ブロックが示す画像内容との差を表す数値が零に近い値であると上記動きベクトルを求めるときの演算(2進法)で扱う数値の桁数が全体的に小さくなり、それによりこの演算の負担が低減される。
【0006】
なお、上記動きベクトルを求める際の動き補償範囲中を探索する経路は常に同じであり、また、動画像をリアルタイムで符号化して圧縮する際には全ての演算を所定の時間(例えば1/30秒)以内に終了する必要があるので、動画像の符号化には高い演算能力を持つ演算素子が使用されている。
【0007】
【発明が解決しようとする課題】
ところで、動画像の撮影中に、例えば子供などの撮影の対象とされている被写体が移動すると、撮像装置により撮像された画像中の被写体を示す画像が画像フレーム中を移動するので、その被写体が現画像フレーム中に占める領域の位置と過去画像フレーム中に占める領域の位置とにずれが生じる。そのため、現画像フレーム中に被写体が占める領域に設定される現画像ブロックによって示される画像内容と動きベクトルを求める際に過去画像フレームに設定される動き補償範囲中の各画像ブロックが示す画像内容との間のずれも増大する。
【0008】
このような場合には、現画像ブロックが示す画像内容と動き補償範囲中の各画像ブロックが示す画像内容との差を表す数値の絶対値が大きくなり、動きベクトルを求める際の演算で扱う数値の桁数が全体的に大きくなってしまい、この演算の負担が増大するという問題がある、
本発明は、上記事情に鑑みてなされたものであり、被写体の動きによって増大するリアルタイム符号化における演算の負担を軽減し、効率的な符号化を実現することができる撮像装置を提供することを目的とするものである。
【0009】
【課題を解決するための手段】
本発明の撮像装置は、被写体を撮像して動画像を取得する撮像手段と、動き補償フレーム間予測により動画像の過去画像フレーム中に動き補償範囲を定め、動きベクトルを求める探索を行なって作成された予測画像フレームと動画像の現画像フレームとを減算して求めた予測残差画像フレームを符号化する符号化手段とを備えた撮像装置であって、現画像フレーム中の特定の被写体の占める領域に注目領域を定め、特定の被写体に装着された出力手段から出力されたこの被写体の動きを示す信号を受信しこの信号に基づいて前記注目領域に対応して前記過去画像フレーム中に定める動き補償範囲を移動させる動き補償範囲移動手段を備えたことを特徴とするものである。
【0010】
前記出力手段は少なくとも被写体の移動方向を示す信号を出力するもので、例えば加速度センサが用いられる。
【0011】
前記動き補償範囲移動手段は、被写体の動きを示す信号に基づいて撮像装置から被写体までの距離に応じて注目領域の大きさを変えるようにしてもよい。すなわち、距離が短くなるにしたがって注目領域の大きさを大きくし、距離が長くなるにしたがって注目領域の大きさを小さくするようにしてもよい。
【0012】
また、被写体の動きを示す信号に基づいて、過去画像フレームから現画像フレームまでに被写体の移動する移動量に応じて動き補償範囲の移動量変えるようにしてもよい。すなわち、被写体の移動量が大きくなるにしたがって動き補償範囲の移動量を大きくするものとすることができる。
【0013】
【発明の効果】
本発明の撮像装置によれば、現画像フレーム中の特定の被写体の占める領域に注目領域を定め、特定の被写体に装着された出力手段から出力されたこの被写体の動きを示す信号を受信し、この信号に基づいて注目領域に対応して過去画像フレーム中に定める動き補償範囲を移動させる動き補償範囲移動手段を備えているので、現画像フレーム中の動きのある特定の被写体を示す領域における現画像ブロックに対して設定される動き補償範囲を、この現画像ブロックが示す画像内容に近い画像内容を持つ過去画像フレーム中の領域に定めることができ、この現画像ブロックと動き補償範囲中の画像ブロックとの差を表す値をより零に近づけて動きベクトルを求める際の演算において取り扱う値の桁数を小さくすることができ、動画像のリアルタイム符号化における演算の負担を軽減し、効率的な符号化を実現することができる。これにより、例えば、動きベクトルの演算を実行する回路の規模を縮小することもできる。
【0014】
ここで、前記動き補償範囲移動手段を、前記信号に基づいて、撮像装置から被写体までの距離に応じて注目領域の大きさを変えるものとすれば被写体が占める領域をさらに正確に示す注目領域を現画像フレーム中に定めることができる。
【0015】
また、前記動き補償範囲移動手段を、前記信号に基づいて、過去画像フレームから現画像フレームまでに被写体が移動する移動量に応じて動き補償範囲の移動量を変えるものとすれば、各現画像ブロックに対して設定される動き補償範囲を各現画像ブロックが示す画像内容にさらに近い画像内容を持つ過去画像フレーム中の領域に設定することができる。
【0016】
なお、本発明においては、背景中を特定の被写体が移動する場合を想定しており、この被写体の移動に合わせてカメラの向きを変える、すなわち特定の被写体が画面中を移動せず、背景のみが移動する場合は想定していない。ただし被写体の移動に合わせてカメラの向きを変えても支障はない。
【0017】
【発明の実施の形態】
以下、本発明の実施の形態について、図面を用いて説明する。図1は本発明の実施の形態による撮像装置の概略構成を示すブロック図、図2は現画像フレームが示す画像と過去画像フレームが示す画像と比べて示す概念図、図3は現画像フレーム中に注目領域を定めた様子を示す概念図、図4は大人用の注目領域の大きさと子供用の注目領域の大きさとを比較する図、図5は注目領域の大きさを発信機までの距離の違いや大人用と子供用の領域の違いに応じて示す図、図6は動き補償範囲を移動させた様子を示す概念図、図7は動き補償範囲を動き補償基準ブロックを含む範囲内で移動させた様子を示す概念図、図8は過去画像フレーム中に設定された動き補償範囲を探索して動きベクトルを求める様子を示す概念図、図9は動き補償範囲中を探索する探索経路の例を示す概念図である。
【0018】
本発明の実施の形態による撮像装置(カメラ)100は、被写体である子供1を撮像して動画像を取得する撮像手段である撮像部10、動き補償フレーム間予測により動画像の過去画像フレーム中に動き補償範囲を定め、動きベクトルを求める探索を行なって作成された予測画像フレームとこの動画像の現画像フレームとを減算して求めた予測残差画像フレームを符号化する符号化手段である符号化演算部20、子供1に装着された加速度センサを備えた発信機5から出力された被写体の動きを示す信号を受信する受信演算部30を有し、この信号から求められる子供1の動きに基づいて過去画像フレーム中に定める動き補償範囲を移動させる動き補償範囲移動部40、および、動きベクトルを求めるための探索を、動き補償範囲中のその特定された移動方向とは反対側の領域から開始させる探索経路設定部50を備えている。なお、発信機5は被写体からの信号として第1の赤外光および超音波を0.5秒おきに同時に発信するとともに、この第1の赤外光と波長が異なる第2の赤外光を連続発信する。なお、発信機5は子供1の首にカメラ100の方向へ向けて装着される。
【0019】
ここで、子供1に装着された発信機5から発信される加速度センサに基づく情報は、子供1がカメラ100に対して正面を向いていないときには、誤った方向を示す情報となる可能性があるが、子供1がカメラ100に対して斜め、あるいは後を向いているときには発信機5からの信号が受信演算部30で受信されないので、この受信演算部30が発信機5から誤った加速度の情報を受信することはない。なお、受信演算部30が加速度の情報を受信しないときには、動き補償範囲移動部40は動き補償範囲を移動させない。
【0020】
撮像部10は、被写体の像を結像させるレンズ部11とレンズ部11によって結像された被写体の像を光電変換するCCD素子12とCCD素子12によって光電変換された信号をA/D変換し被写体を表す画像フレームを出力するA/D変換部13とを有し、この撮像した画像フレームを連続的に出力する。
【0021】
上記受信演算部30は、被写体の動きを示す加速度センサの出力信号である第2の赤外光の受信に基づいて過去画像フレームから現画像フレームまでに被写体の移動する移動方向と移動量とを特定する機能を持つ赤外光検出部35と、第1の赤外光および超音波の受信に基づいて発信機5までの距離を特定する距離特定手段である光音波測距部36とを備えている。
【0022】
上記光音波測距部36は、発信機5から出力された0.5秒おきに同時に発信される第1の赤外光と超音波とを受信し、第1の赤外光を検出したときから、超音波を検出するまでの時間差に基づいて発信機5までの距離を特定する。
【0023】
動き補償範囲移動部40は、発信機5の位置に基づいて現画像フレーム中に子供1の像を含む注目領域を定め、この注目領域に対して過去画像フレーム中に定める動き補償範囲を上記特定された移動方向とは反対方向に移動させたり、上記特定された距離が短くなるにしたがって注目領域を拡大したり、発信機5が動画像として移動する移動量が大きくなるにしたがって動き補償範囲の移動量を大きくしたりする。
【0024】
なお、ここでは、動き補償範囲移動部40が動き補償範囲を移動させる範囲を、この動き補償範囲が後述する動き補償基準ブロックを含む範囲とする。
【0025】
符号化演算部20は、後述するフレームメモリ部26から入力した過去画像フレーム中に動き補償範囲を定めて動きベクトルを求める動きベクトル取得ユニット21と、この動きベクトルと過去画像フレームとに基づいて予測画像フレームを作成する予測画像フレーム作成部22と、予測画像フレームと現画像フレームとを減算して予測残差画像フレーム求めるフレーム間減算部23と、上記予測残差画像フレームと動きベクトルとを符号化し、この符号化した符号化データを後述する符号化データ蓄積部80に出力する符号化部24と、符号化データ蓄積部80から符号化データを入力しこの符号化データを復号して画像フレームを再生する復号化部25と、この復号された画像フレームを過去画像フレームとして記憶するフレームメモリ部26とを備えている。
【0026】
なお、上記動きベクトル取得ユニット21は、上記動き補償範囲移動部40と探索経路設定部50とを内部に有している。また、この動きベクトル取得ユニット21は、現画像フレーム中に定めた現画像ブロックの画像内容に近い画像内容を持つ画像ブロックを動き補償範囲中を探索して見つけ出し動きベクトルを求めるが、この探索において、現画像ブロックが示す画像内容と動き補償範囲中の画像ブロックが示す画像内容との差が予め定められた閾値以下となったときに探索を終了する。
【0027】
符号化演算部20によって符号化された符号化データは、符号化データ蓄積部80に入力され蓄積される。これに対して、復号化部25は、符号化データ蓄積部80からすでに符号化された符号化データを入力し、この符号化データを復号して過去画像データを得、この過去画像データをフレームメモリ部26に入力する。
【0028】
次に上記実施の形態における作用について説明する。
【0029】
特定の方向に運動している子供1を撮像して取得した画像フレームがこの撮像部10から出力される。
【0030】
符号化演算部20の動きベクトル取得ユニット21は、この画像フレームを現画像フレームとして入力するとともにフレームメモリ部26から過去画像フレームを入力し、この過去画像フレーム中に動き補償範囲を定める。
【0031】
このとき、動き補償範囲移動部40は、発信機5の位置を特定するとともに、受信演算部30の赤外光検出部35によって受信した加速度センサの出力を積分すること等によって求められた、過去画像フレームから現画像フレームまでに発信機5、すなわち被写体が移動した移動量と移動方向と、光音波測距部36によって受信したカメラ100から発信機5までの距離を入力し、上記特定された発信機5の位置に基づいて現画像フレーム中に子供1が占める注目領域を定め、この注目領域に対応して過去画像フレーム中に定める動き補償範囲を上記特定された移動方向とは反対方向に移動させ、上記距離が短くなるにしたがってその注目領域を拡大し、上記特定された移動量が大きくなるにしたがって動き補償範囲の移動量を大きくする。
【0032】
なお、上記発信機5の位置を特定する方式は、例えば、発信機5から発信された第2の赤外光を、この赤外光の波長領域のみを透過させるフィルタを備えた結像レンズを通して結像させ、この結像された第2の赤外光のスポット像をCCD素子で受光して発信機5を示すCCD素子上の位置を検出し、この検出された位置に基づいて上記画像フレーム中における発信機5の位置を特定する方式等を採用することができる。なお、この方式は上記撮像部10と概略同等な構成によって実現することができる。
【0033】
さらに、探索経路設定部50が、受信演算部30の赤外光検出部35によって特定された、画像フレーム中に示される発信機5の移動方向を示す情報に基づいて、動き補償範囲中の探索を開始する領域をこの動き補償範囲中における上記特定された移動方向とは反対側の領域に設定し動き補償範囲中を探索する探索経路を定める。それにより、この動きベクトル取得ユニット21が、上記移動された動き補償範囲中の上記探索経路にしたがった探索を行なって動きベクトルを求める。
【0034】
その後、予測画像フレーム作成部22が、過去画像フレームと上記のようにして求められた動きベクトルとを入力し、この動きベクトルと過去画像フレームとに基づいて上記現画像フレームが示す画像内容に近似させた画像内容を持つ予測画像フレームを作成する。
【0035】
上記作成された予測画像フレームは現画像フレームとともにフレーム間減算部23に入力され、フレーム間減算部23において両フレーム間の減算が行なわれ予測残差画像フレームが求められる。符号化部24はこの予測残差画像フレームと上記動きベクトル取得ユニット21で作成された動きベクトルとを符号化して出力する。符号化部24から出力された符号化データは、符号化データ蓄積部80に入力され蓄積される。
【0036】
なお、現画像フレーム中の注目領域の範囲外の領域に定められる現画像ブロックに対して設定される動き補償範囲については、動き補償範囲が移動されることはない。
【0037】
ここで、動きベクトル取得ユニット21において動きベクトルを求める作用について詳しく説明する。
【0038】
図2に示すように、撮像部10から動きベクトル取得ユニット21に入力した現画像フレームF1が示す画像G1は、この動きベクトル取得ユニット21がフレームメモリ部26から入力した過去画像フレームF2の示す画像G2に対して子供1を示す画像の位置が画像フレーム中を動画像としてE1方向に移動させたものであり、背景を示す背景領域2の位置は画像フレーム中において殆ど変動していない。
【0039】
ここで、図3に示すように、受信演算部30によって特定された発信機5の位置に基づいて動き補償範囲移動部40が現画像フレーム中に子供1の領域を示す注目領域Pを定める。このとき発信機5は子供1の首に掛けて装着するように予め定められており、注目領域Pは、発信機5がこの注目領域Pの概略中央に位置するように設定される。また、この注目領域Pの大きさは、図4に示すように、画像フレームに対して大きな領域となる大人用の領域L、あるいは画像フレームに対して小さな領域となる子供用の領域Sが設定可能であり、ここでは、被写体が子供なのでこの注目領域Pの大きさには子供用の領域が採用される。さらに、この動き補償範囲移動部40は、光音波測距部36によって受信した発信機5までの距離が短くなるにしたがって注目領域Pを拡大する。すなわち、発信機5までの距離が短いときには図5(a)に示すように、現画像フレームF1中に大きな注目領域P1を設定し、発信機5までの距離が長いときには図5(b)に示すように、小さな注目領域P2を設定する。
【0040】
なお、注目領域に大人用の大きな領域を採用した場合には、発信機5までの距離が短いときには、図5(c)に示すように、現画像フレームF1中に上記注目領域P1より大きな注目領域P3が設定され、発信機5までの距離が長いときには図5(d)に示すように、上記注目領域P2より大きい注目領域P4が設定される。
【0041】
次に、動き補償範囲移動部40が、現画像フレームF1中の注目領域Pに対して過去画像フレームF2中に定められる動き補償範囲を上記特定された移動方向であるE1方向とは反対方向のE2方向に移動させる。
【0042】
すなわち、図6に示すように、現画像フレームF1中の注目領域P中に16画素×16画素の画素の集まりからなる現画像ブロックB0を定めこの現画像ブロックB0の現画像フレームF1中の位置に対応させた過去画像フレームF2中の位置に動き補償基準ブロックBKを設定し、さらに、この動き補償基準ブロックBKの中心から横方向(図中矢印X方向)および縦方向(図中矢印Y方向)のそれぞれ±30画素に亘る領域を動き補償範囲M1として定め、この動き補償範囲M1を上記E1方向とは反対方向のE2方向に移動させて動き補償範囲M2を設定する。このとき、動き補償範囲移動部40が、上記受信演算部30によって特定された発信機5の移動量が大きくなるにしたがって動き補償範囲の移動量Q1を大きくする。
【0043】
なお、ここでは動き補償範囲がX方向に10画素、Y方向に10画素移動されて、過去画像フレームF2中の動き補償範囲M1は動き補償範囲M2で示される位置に移動される。なお、動き補償範囲移動部40は動き補償範囲M1を動き補償基準ブロックBKを含む範囲で移動させるので、上記特定された発信機5の移動量が僅かであるときには、動き補償範囲移動部40は、動き補償範囲M1を最小の移動量である1画素だけ移動させ、図7に示すように、例えば、動き補償範囲M1をX横方向およびY方向にそれぞれ1画素だけ移動させて動き補償範囲M3で示される位置に移動させる。なお、この移動は、上記画像移動方向に応じてX方向またはY方向のいずれか一方の方向のみに移動させるものであってもよい。一方、上記特定された発信機5の移動量が非常に大きいときには、動き補償範囲移動部40は、動き補償範囲を上記画像移動方向に応じて、X方向またはY方向、あるいは両方向に最大の移動量である22画素(22画素=(60画素―16画素)/2)移動させる。例えば、動き補償範囲M1をX方向に22画素およびY方向に22画素移動させると、この動き補償範囲M1は動き補償範囲の周縁L1と動き補償基準ブロックBKの周縁L2とが一致される動き補償範囲M4で示される位置に移動される。
【0044】
次に、図8に示すように、過去画像フレームF2中に設定された動き補償範囲M2において、現画像ブロックB0が示す画像内容に近い画像内容を持つ画像ブロック、すなわち、現画像ブロックB0との差が閾値以下となる画像ブロックが探索される。この探索によって現画像ブロックB0との差が閾値以下となる類似画像ブロックBSが求められ、この類似画像ブロックBSの位置から動き補償基準ブロックBKの位置までの距離と方向とを示すベクトルが動きベクトルV1として求められる。
【0045】
上記動き補償範囲M2において動きベクトルの探索を行なうときに求められる現画像ブロックB0と各画像ブロックとの画像内容の差を表す数値の絶対値は、動き補償範囲M1において現画像ブロックB0と動き補償範囲M1中の各画像ブロックとの画像内容の差を表す数値の絶対値より全体的に小さくなる。なぜなら、現画像フレームF1における現画像ブロックB0近傍の領域の画像内容は、過去画像フレームF2における動き補償範囲M2近傍の領域の示す画像内容が移動したものなので、動き補償範囲M1中の領域が示す画像内容より動き補償範囲M2中の領域が示す画像内容の方が現画像ブロックB0の画像内容により近いものとなるからである。
【0046】
したがって、現画像ブロックB0と動き補償範囲M2中の各画像ブロックとの画像内容の差を表す数値がより零に近い値となり、動きベクトルを求める際の演算で扱う数値の桁数を少なくすることができ、この動きベクトルを求める際の演算の負担が低減される。
【0047】
また、上記動きベクトルを求める際には、探索経路設定部50によって動きベクトルを求めるための探索の経路が定められるが、この探索経路は、動き補償範囲M2中において、注目領域Pの移動方向であるE1方向とは反対のE2方向の側の領域S1から探索を開始させ、この領域S1からE1方向に補償範囲M2中の領域S2の側に向かって探索を続けるように定められる。
【0048】
すなわち、現画像フレームF1の注目領域P中の現画像ブロックB0は、画像フレーム中を動画像としてE1方向に移動しているので、過去画像フレームF2中においては、現画像ブロックB0が示す画像内容はこの現画像ブロックB0と対応して過去画像フレームF2中に位置する動き補償基準ブロックBKを含むE2方向側に存在することになり、この現画像ブロックB0が示す画像内容が存在する領域は動き補償範囲M2中においては領域W1となる。一方、動き補償範囲M2中の動き補償基準ブロックBKの位置よりE2方向側の領域W2(図中斜線で示す)には現画像ブロックB0が示す画像内容が存在しないことになるので、E2方向側の動き補償範囲M2中の角部となる領域S1の方から探索を開始した方が、実質的に現画像ブロックB0に画像内容がより近い画像ブロック、すなわち、現画像ブロックB0との差が閾値以下となる類似画像ブロックを早く見つけることができる。
【0049】
上記のようにして、類似画像ブロックBSを見つけたら上記動きベクトルV1を求めこの動き補償範囲M2中における探索を終了する。
【0050】
なお、上記角部の領域S1から探索を開始したときの探索経路は、図9(a)中に矢印U1で示すように、領域S1から注目領域Pの移動方向であるE1方向と直交するJ2方向に画像ブロックを1画素ずつ移動させ、画像ブロックが動き補償範囲M2の外縁まで達したらE1方向に1画素移動させJ2方向とは反対方向に再び探索を行なう動作を繰り返しながら領域S1から領域S2に向かう経路となる。
【0051】
また、図9(b)に示すように、注目領域Pの移動方向がX方向とは反対方向の図中矢印E11の方向(以後E11方向と言う)であり、受信演算部30によって検出された運動量が大きい場合には、例えば動き補償範囲がE11方向とは反対方向に最大の移動量より1画素少ない21画素移動される。このとき探索が開始される領域は動き補償範囲M11中の上記E11方向とは反対側の2箇所の角部である領域S1または領域S4となる。このときの探索経路は、探索が開始される領域を領域S1とすると、領域S1からE11方向と直交するJ11方向に画像ブロックを1画素ずつ移動させ、画像ブロックが動き補償範囲M11の外縁まで達したらE11方向に1画素移動させ再びJ11とは反対方向に探索を行なう図中U2で示す経路となる。
【0052】
ここでは、現画像ブロックが示す画像内容はE11方向とは反対方向の動き補償基準ブロックBK1を含む側に存在することになり、この領域は動き補償範囲M11中における領域W11となる。一方、動き補償範囲M11中の動き補償基準ブロックBK1の位置よりE11方向側の領域W12(図中斜線で示す)は現画像ブロックが示す画像内容が存在しない領域となる。
【0053】
さらに、図9(c)に示すように、注目領域Pの移動方向の成分がX方向に大きく、Y方向に小さい図中矢印E12で示す方向(以後E12方向と言う)の場合には、探索が開始される領域は動き補償範囲M12中の上記E12方向とは反対側の角部である領域S3となり、受信演算部30によって検出された運動量が小さい場合には、動き補償範囲がE12方向とは反対方向に、例えばX方向とは反対方向に5画素、Y方向とは反対方向に2画素移動される。このとき、探索経路は、動き補償範囲M12の角部の領域S3からE12方向と直交するJ12方向に画像ブロックを1画素ずつ移動させ、画像ブロックが動き補償範囲M12の外縁まで達したらE12方向に1画素移動させJ12方向とは反対方向に再び探索を行なう図中U3で示す経路となる。
【0054】
ここでは、現画像ブロックが示す画像内容はE12方向とは反対方向の動き補償基準ブロックBK2を含む側に存在することになり、この領域は動き補償範囲M12中における領域W13となる。一方、動き補償範囲M12中の動き補償基準ブロックBK2の位置よりE12方向側の領域W14(図中斜線で示す)は現画像ブロックが示す画像内容が存在しない領域となる。
【0055】
なお、上記動きベクトルを求める方式は、MPEGの動画像符号化に採用することができ、この場合、現画像フレームをPピクチャとすることができる。
【0056】
上記受信演算部30は、被写体が動画像として移動する移動方向を特定する機能、被写体が動画像として移動する移動量を特定する機能、および被写体までの距離を特定するの機能のすべてを備える場合に限らず、被写体の動きに関する少なくとも1つの情報を取得する機能を備えるようにして、この取得した動きに関する情報に基づいて動き補償範囲を移動させ動画像のリアルタイム符号化における演算の負担を軽減するようにしてもよい。また、2つ以上の被写体の動きに関する情報を取得する機能を備える場合においては、取得する情報の組合せはどのような組合せであってもよい。
【0057】
なお、動きベクトルを求めるための探索は、動き補償範囲中の特定の領域から開始させる態様とする場合に限らず、上記とは異なる領域から探索が開始される態様としても動きベクトルを求める際の演算の負担を軽減する効果を得ることができる。さらに、動きベクトルの探索は、必ずしも閾値を設けて探索を早く終了させる場合に限らず、例えば動き補償範囲中の全ての領域を探索して現画像ブロックとの差が最小となる画像ブロックを類似画像ブロックとして求めるようにしても上記動きベクトルを求める際の演算の負担を軽減する効果を得ることができる。
【図面の簡単な説明】
【図1】本発明の実施の形態による撮像装置の概略構成を示すブロック図
【図2】現画像フレームが示す画像と過去画像フレームが示す画像と比べて示す概念図
【図3】現画像フレーム中に注目領域Pを定めた様子を示す概念図
【図4】大人用の注目領域の大きさと子供用の注目領域の大きさとを比較する図
【図5】注目領域の大きさを発信機までの距離の違いや大人用と子供用の領域の違いに応じて示す図。
【図6】動き補償範囲を移動させた様子を示す概念図
【図7】動き補償範囲を動き補償基準ブロックを含む範囲内で移動させた様子を示す概念図
【図8】過去画像フレーム中に設定された動き補償範囲を探索して動きベクトルを求める様子を示す概念図
【図9】動き補償範囲中を探索する探索経路の例を示す概念図
【符号の説明】
1 子供
5 発信機
10 撮像部
20 符号化演算部
30 受信演算部
40 動き補償範囲移動部
50 探索経路設定部
80 符号化データ蓄積部
Claims (3)
- 被写体を撮像して動画像を取得する撮像手段と、動き補償フレーム間予測により前記動画像の過去画像フレーム中に動き補償範囲を定め、動きベクトルを求める探索を行なって作成された予測画像フレームと前記動画像の現画像フレームとを減算して求めた予測残差画像フレームを符号化する符号化手段とを備えた撮像装置であって、
前記現画像フレーム中の特定の被写体の占める領域に注目領域を定め、前記特定の被写体に装着された出力手段から出力された該被写体の動きを示す信号を受信し該信号に基づいて前記注目領域に対応して前記過去画像フレーム中に定める前記動き補償範囲を移動させる動き補償範囲移動手段を備えたことを特徴とする撮像装置。 - 前記動き補償範囲移動手段が、前記信号に基づいて撮影装置から前記被写体までの距離に応じて前記注目領域の大きさを変えるものであることを特徴とする請求項1記載の撮像装置。
- 前記動き補償範囲移動手段が、前記信号に基づいて、前記過去画像フレームから現画像フレームまでに被写体の移動する移動量に応じて、前記動き補償範囲の移動量を変えるものであることを特徴とする請求項1から2のいずれか1項記載の撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002227220A JP2004072311A (ja) | 2002-08-05 | 2002-08-05 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002227220A JP2004072311A (ja) | 2002-08-05 | 2002-08-05 | 撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004072311A true JP2004072311A (ja) | 2004-03-04 |
Family
ID=32014318
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002227220A Withdrawn JP2004072311A (ja) | 2002-08-05 | 2002-08-05 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004072311A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100813963B1 (ko) | 2005-09-16 | 2008-03-14 | 세종대학교산학협력단 | 동영상의 무손실 부호화, 복호화 방법 및 장치 |
WO2009125561A1 (ja) * | 2008-04-08 | 2009-10-15 | 富士フイルム株式会社 | 画像処理システム、画像処理方法、およびプログラムを記憶する媒体 |
JP2020010216A (ja) * | 2018-07-10 | 2020-01-16 | キヤノン株式会社 | 画像処理装置、情報処理方法及びプログラム |
-
2002
- 2002-08-05 JP JP2002227220A patent/JP2004072311A/ja not_active Withdrawn
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100813963B1 (ko) | 2005-09-16 | 2008-03-14 | 세종대학교산학협력단 | 동영상의 무손실 부호화, 복호화 방법 및 장치 |
WO2009125561A1 (ja) * | 2008-04-08 | 2009-10-15 | 富士フイルム株式会社 | 画像処理システム、画像処理方法、およびプログラムを記憶する媒体 |
JP2009253746A (ja) * | 2008-04-08 | 2009-10-29 | Fujifilm Corp | 画像処理システム、画像処理方法、およびプログラム |
JP2020010216A (ja) * | 2018-07-10 | 2020-01-16 | キヤノン株式会社 | 画像処理装置、情報処理方法及びプログラム |
JP7086761B2 (ja) | 2018-07-10 | 2022-06-20 | キヤノン株式会社 | 画像処理装置、情報処理方法及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN100440933C (zh) | 一种用于手持数码摄像设备的防抖方法及装置 | |
EP2330812B1 (en) | Apparatus for generating a panoramic image, method for generating a panoramic image, and computer-readable medium | |
US9185271B2 (en) | Imaging device detecting motion vector | |
TWI538486B (zh) | A moving picture coding method, a moving picture decoding method, a moving picture coding apparatus, a moving picture decoding apparatus, and a motion picture coding / decoding apparatus | |
US20120294546A1 (en) | Stereo image encoding apparatus, its method, and image pickup apparatus having stereo image encoding apparatus | |
KR100941285B1 (ko) | 영상 처리 장치 및 컴퓨터 판독가능 매체 | |
JP2008193530A (ja) | 画像記録装置、画像記録方法、及びプログラム | |
KR20170035832A (ko) | 화상 부호화 방법, 화상 복호 방법, 화상 부호화 장치, 화상 복호 장치, 및 콘텐츠 전송 방법 | |
US20150264357A1 (en) | Method and system for encoding digital images, corresponding apparatus and computer program product | |
US20100157057A1 (en) | Apparatus and method for detecting person | |
JP2006074180A (ja) | 撮像装置 | |
JP2008219141A (ja) | 動きベクトル検出装置、それを用いた画像符号化装置および撮像装置 | |
JP5044922B2 (ja) | 撮像装置及びプログラム | |
JP2004072311A (ja) | 撮像装置 | |
WO2003056838A1 (en) | Moving picture compression/coding apparatus and motion vector detection method | |
JP2000092499A (ja) | 画像符号化制御装置、画像符号化制御方法及び記憶媒体 | |
JPH08275049A (ja) | 撮像装置 | |
JP2004056578A (ja) | 撮像装置 | |
JP4393341B2 (ja) | 動画像符号化装置及び動画像符号化方法 | |
CN110784722A (zh) | 编解码方法、编解码装置、编解码系统及存储介质 | |
JP2007158524A (ja) | 画像符号化装置及び画像符号化方法 | |
KR20140004059A (ko) | 움직임 벡터 산출 방법, 화상 부호화 방법, 화상 복호 방법, 움직임 벡터 산출 장치 및 화상 부호화 복호 장치 | |
JPH10191347A (ja) | 動き検出装置、動き検出方法、及び、記憶媒体 | |
JP2004260251A (ja) | 動きベクトル検出装置及び動きベクトル検出プログラム | |
JPS63269882A (ja) | 画像符号化伝送装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20051101 |