JP3982316B2 - 画像処理装置と画像処理方法及び画像処理プログラム - Google Patents
画像処理装置と画像処理方法及び画像処理プログラム Download PDFInfo
- Publication number
- JP3982316B2 JP3982316B2 JP2002124312A JP2002124312A JP3982316B2 JP 3982316 B2 JP3982316 B2 JP 3982316B2 JP 2002124312 A JP2002124312 A JP 2002124312A JP 2002124312 A JP2002124312 A JP 2002124312A JP 3982316 B2 JP3982316 B2 JP 3982316B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- display
- input image
- display position
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
この発明は、画像処理装置と画像処理方法及び画像処理プログラムに関する。詳しくは、入力画像のシーンチェンジと入力画像内の画像動きを検出して、検出されたシーンチェンジに基づいて連続シーンの期間を判別するものとし、この連続シーンの期間中に検出された画像動きに基づき連続シーンの期間中の入力画像を重畳させて、入力画像よりも広画角であって入力画像の位置が画像動きに応じて変化される表示画像を生成するものである。
【0002】
【従来の技術】
従来、テレビジョン放送番組や映画等の画像を表示する画像表示システムでは、テレビジョン装置の表示画面やスクリーン等のように、1つの固定された画枠を用いて画像表示がなされている。また、放送番組や映画等の画像コンテンツを制作する場合にも、このような固定画枠で画像表示を行うことを前提としてコンテンツ制作が行われている。
【0003】
さらに、近年では、臨場感を高めた画像表示を行うために多画面表示システムや曲面ディスプレイ、広画角ディスプレイ、ヘッドマウントディスプレイ等が実用化されている。しかし、このような多画面表示システム等を用いる場合でも、このシステムで形成される画像表示領域を1つの固定画枠として用い、この固定画枠に合わせた画像表示を行うことを前提としてコンテンツ制作が行われている。
【0004】
【発明が解決しようとする課題】
ところで、このように固定画枠に合わせて制作された画像コンテンツにおいて、撮影時にカメラ動きを含んだ画像などが含まれている場合、固定画枠で撮影画像を表示すると共に、この撮影画像における背景の動きによってカメラ動きを表現することが行われている。つまり、視聴者は固定画枠内に表示された画像の背景が移動することによって、その中の被写体が背景の動きと逆の方向に動いていることを認識すると共に、視聴者はあたかも自分が被写体の動きに合わせて向きを変えているような感覚を得る。
【0005】
これは、撮影された広い空間の画像を無理やり固定画枠内の2次元平面に射影した結果であり、視聴者は実際に動いていなくとも背景の動きによって感覚的には動いた感じを受けるため、現実空間との不整合による不自然さが付きまとう。このため、撮影画像に対して動き検出を行い、被写体の動きに合わせて表示位置を移動させるものとして、現実空間との不整合を防止することが例えば特開平10−301556号公報で開示されている。
【0006】
しかし、画像表示領域が限られているとき、被写体の動きに合わせて画像の表示位置を移動させると、画像が画像表示領域から外れてしまい、画像を正しく表示することができない。
【0007】
そこで、この発明では、現実世界に忠実で臨場感の高い画像表示を可能とすると共に、画像を途切れることなく正しく表示できる画像処理装置と画像処理方法及び画像処理プログラムを提供するものである。
【0008】
【課題を解決するための手段】
この発明に係る画像処理装置は、入力画像のシーンチェンジを検出するシーンチェンジ検出手段と、前記入力画像の画像動きを表す動きベクトルを検出する動き検出手段と、前記シーンチェンジ検出手段によって検出されたシーンチェンジに基づいて連続シーンの期間を判別して、該連続シーンの期間中に前記動き検出手段で検出された動きベクトルに基づき前記連続シーンの期間中の前記入力画像を重畳させて、前記入力画像よりも広画角であって前記入力画像の位置が前記動きベクトルに応じて変化する表示画像を生成する表示画像生成手段とを有し、前記表示画像生成手段は、前記入力画像が、前記表示画像を表示する画像表示領域を超えるか否かを判別し、判別結果に基づいて当該入力画像の表示位置を補正するものである。
【0009】
また、画像処理方法は、入力画像のシーンチェンジと前記入力画像の画像動きを表す動きベクトルを検出し、検出されたシーンチェンジに基づいて連続シーンの期間を判別して、該連続シーンの期間中に検出された動きベクトルに基づき前記連続シーンの期間中の前記入力画像を重畳させて、前記入力画像よりも広画角であって前記入力画像の位置が前記動きベクトルに応じて変化する表示画像を生成し、生成された前記表示画像を表示する画像表示領域を、前記入力画像が超えるか否かを判別し、判別結果に基づいて前記入力画像の表示位置を補正するものである。
【0010】
さらに、画像処理プログラムは、コンピュータに、入力画像のシーンチェンジを検出する手順と、前記入力画像の画像動きを表す動きベクトルを検出する手順と、検出されたシーンチェンジに基づいて連続シーンの期間を判別して、該連続シーンの期間中に検出された動きベクトルに基づき前記連続シーンの期間中の前記入力画像を重畳させて、前記入力画像よりも広画角であって前記入力画像の位置が前記動きベクトルに応じて変化する表示画像を生成する手順と、生成された前記表示画像を表示する画像表示領域を、前記入力画像が超えるか否かを判別し、判別結果に基づいて当該入力画像の表示位置を補正する手順とを実行させるものである。
【0011】
この発明においては、入力画像のシーンチェンジ検出が行われて連続シーンが判別されると共に、入力画像の動きベクトルが検出される。この連続シーンの期間中に検出された動きベクトルに基づき入力画像の表示位置が決定されて、表示位置が決定された連続シーンの期間中の入力画像を逆時間順に順次重畳することで広画角画像が生成される。また、入力画像が決定された表示位置に移動されて、この表示位置が移動された入力画像を広画角画像に重畳することで、入力画像よりも広画角であって入力画像の位置が動きベクトルに応じて変化される表示画像が生成される。また、入力画像が、画像表示領域を超えるか否かを判別し、判別結果に基づいて当該入力画像の表示位置を補正する。
【0012】
また、表示画像を表示する画像表示領域が複数の表示領域で構成されているときには、複数の表示領域に対応させて表示画像が分割される。
【0013】
【発明の実施の形態】
以下、図を参照しながら、この発明の実施の一形態について説明する。図1は、この発明における画像処理装置を用いた画像表示システムの全体構成を示している。この画像表示システムは、例えば3つのスクリーンをユーザの前面と両側面側に配置して、3つの表示領域で1つの画像表示領域が構成されている。また、各スクリーン10L,10C,10Rに対応させてプロジェクタ12L,12C,12Rを設けている。この各プロジェクタ12L,12C,12Rを用いて画像を投影することにより、3つのスクリーンで構成される広範囲の画枠を用いて画像の表示が行われる。プロジェクタ12L,12C,12Rは、画像処理装置20と接続されている。
【0014】
画像処理装置20は、入力画像の画像信号SDinに基づいてシーンチェンジ検出を行うことにより連続シーンを判別する。この判別した連続シーンに含まれる入力画像を順次用いて全画面の動き検出を行い、動き検出によって求めた画像動きに基づいて各入力画像の表示位置を設定する。さらに、設定された表示位置の各入力画像を逆時間順に重畳させることで入力画像よりも広画角の広画角画像を生成する。また、入力画像の画像動きに基づき、動きが検出された入力画像の例えば背景部分の画像と広画角画像が一致するように入力画像を広画角画像に重畳することで、入力画像よりも広画角であると共に、入力画像の位置が画像動きに応じて変化される表示画像を生成する。さらに、表示画像の画像信号SDpから例えば画像信号SDL,SDC,SDRを生成して、画像信号SDLをプロジェクタ12L、画像信号SDCをプロジェクタ12C、画像信号SDRをプロジェクタ12Rにそれぞれ供給することで、スクリーン10L,10C,10Rを利用して広画角の表示画像を表示する。また、3つのスクリーン10L,10C,10Rで構成された画像表示領域よりも表示する画像の表示サイズが大きいときには画像動きに応じて広画角画像を移動しながら画像表示を行う。
【0015】
ここで、入力画像の画像サイズは、例えばNTSC方式等のSDサイズの場合720画素×480ラインとなる。画像表示領域のサイズは入力画像よりも大きいサイズ例えば2160画素×480ラインとする。また、映画などでは、アスペクト比がSDサイズの画像よりも横長であるため、SDサイズの画像よりも上下幅が小さくなる。このため、画像表示領域のサイズが上下方向に対しても入力画像より大きいときには、入力画像の表示位置を画像動きに応じて上下左右に移動させて重畳することで、広画角の画像表示を行う。
【0016】
図2は、画像処理装置20の構成を示している。画像処理装置20は、入力画像の画像信号SDinをシーンチェンジ検出部21と動き検出部22と表示画像生成部23の広画角画像生成部232や入力画像移動部233に供給する。
【0017】
シーンチェンジ検出部21は、画像信号SDinに基づいてシーンチェンジ検出、すなわち連続シーンとこの連続シーンとは異なるシーンとの繋ぎ目部分である画像の不連続位置を検出する。図3は、シーンチェンジ検出部21の構成を示しており、例えば2フレーム分の画像信号を用いて連続するシーンであるか否かを検出するものである。
【0018】
シーンチェンジ検出部21の遅延回路211は、画像信号SDinを1フレーム遅延させて遅延画像信号SDaとして差分平均算出回路212に供給する。差分平均算出回路212は、画像信号SDinと遅延画像信号SDaに基づき、2フレーム間の差分平均値Davを算出して正規化回路214に供給する。この差分平均値Davの算出は、各画素における2フレーム間の輝度レベルの差分値を算出して、得られた差分値の平均値を差分平均値Davとして正規化回路214に供給する。なお、1フレームの画像の画素数が「N」で、画像信号SDinに基づく輝度レベルを「YC」、遅延画像信号SDaに基づく輝度レベルを「YP」としたとき、差分平均値Davは式(1)に基づいて算出できる。
【0019】
【数1】
【0020】
ここで、差分平均値Davは、画像の輝度レベルによって大きく変化する。例えば画像が明るい場合、シーンの切り替えが行われなくとも画像の一部が暗い画像に変化するだけで差分平均値Davが大きくなってしまう。一方、画像が暗い場合、シーンの切り替えが行われても輝度レベルの変化が小さいことから差分平均値Davは大きくならない。このため、シーンチェンジ検出部21に正規化回路214を設けるものとして、画像の明るさに応じた差分平均値Davの正規化を行い、画像の明るさの影響を少なくして正しくシーンチェンジ検出を可能とする。
【0021】
輝度平均算出回路213は、画像信号SDinに基づき、各画素の輝度レベルに基づき1フレームにおける輝度レベルの平均値を算出して輝度平均値Yavとして正規化回路214に供給する。なお、上述のように1フレームの画像の画素数が「N」で画像信号SDinに基づく画素の輝度レベルを「YC」としたとき、輝度平均値Yavは式(2)に基づいて算出できる。
【0022】
【数2】
【0023】
正規化回路214は、画像の明るさに応じた差分平均値Davの正規化を行う。すなわち、式(3)に示すように、画像の明るさを示す輝度平均値Yavに応じて差分平均値Davを補正して差分平均正規化値(以下単に「正規化値」という)Eを生成する。
E=Dav/Yav ・・・(3)
この正規化回路214で生成された正規化値Eは、判定回路215に供給される。
【0024】
判定回路215は、予め設定された閾値Lrを有しており、正規化値Eと閾値Lrを比較して、正規化値Eが閾値Lrよりも大きいときにはシーンチェンジと判定する。また、正規化値Eが閾値Lr以下であるときにはシーンチェンジでない連続シーンと判定する。さらに、判定回路215は、この判定結果を示すシーンチェンジ検出信号SCを生成して図2に示す動き検出部22と表示画像生成部23の表示位置決定部231に供給する。
【0025】
このように、正規化回路214は画像の明るさに応じた差分平均値Davの正規化を行い、判定回路215は正規化値Eを用いてシーンチェンジであるか連続シーンであるかの判別を行うので、画像の明るさの影響を少なくして正しくシーンチェンジを検出できる。
【0026】
図4は、フレーム位置と正規化値の関係を例示的に示したものである。ここで、閾値Lrが「0.4」に設定されている場合、正規化値Eが「0.4」を超えるフレーム位置をシーンチェンジ検出位置Pscとする。
【0027】
ところで、上述のシーンチェンジ検出部21では、1フレーム内の全画素の信号を用いて、シーンチェンジ検出を行うものとしたが、全画素の信号を用いて差分平均値Davや輝度平均値Yavを算出すると、演算処理に時間を要してしまう。また、演算処理に要する時間を短くするために演算処理を高速化すると、演算処理コストが膨大となってしまう。このため、画素間引き処理、例えば図5に示すように1フレームの画像を8×4画素の領域に区分して各領域から斜線で示すように1画素だけを選択することで画素の間引きを行い、選択された画素の信号を用いて差分平均値Davや輝度平均値Yavを算出する。このように、画素の間引きを行うものとすれば、演算量が少なくなるので演算処理を簡単に行うことができると共に、演算処理を高速に行う必要がなく演算処理コストが膨大となってしまうことも防止できる。
【0028】
また、上述のシーンチェンジ検出部21では、正規化値Eを用いてシーンチェンジ検出を行うものとしたが、2フレーム間の画像の相関係数rを求めて、この相関係数rと閾値を比較することで、精度良くシーンチェンジ検出を行うこともできる。この相関係数rを用いる場合の構成を、シーンチェンジ検出部の他の構成として図6に示す。遅延回路211は、画像信号SDinを1フレーム遅延させて遅延画像信号SDaとして相関係数算出回路216に供給する。相関係数算出回路216は、画像信号SDinと遅延画像信号SDaに基づき、相関係数rの算出を行う。
【0029】
ここで、1フレームの画像の画素数を「N」、最初のフレームの画像信号に基づく画素の輝度レベルを「YF」、次のフレームの画像信号に基づく画素の輝度レベルを「YS」、最初のフレームの画像信号に基づく画素の輝度レベル平均を「YFav」、次のフレームの画像信号に基づく画素の輝度レベル平均を「YSav」としたとき、相関係数rは式(4)を用いて算出できる。
【0030】
【数3】
この相関係数算出回路216で算出された相関係数rは、判定回路217に供給される。
【0031】
判定回路217は、予め設定された閾値Lrを有しており、相関係数rと閾値Lrを比較して、相関係数rが閾値Lr以下であるときにはシーンチェンジと判定する。また、相関係数rが閾値Lr以下でないときにはシーンチェンジでない連続シーンと判定する。さらに、判定回路217は、この判定結果を示すシーンチェンジ検出信号SCを生成して、動き検出部22と表示位置決定部231に供給する。なお、図7は、フレーム位置と相関係数rの関係を例示的に示したものである。ここで、閾値Lrが例えば「0.4」に設定されている場合、相関係数rが「0.4」以下となるフレーム位置をシーンチェンジ検出位置Pscとする。
【0032】
動き検出部22は、シーンチェンジ検出部21(21a)からのシーンチェンジ検出信号SCによって連続シーンであることが示されたフレームに関して全画面の画像動きの検出を行い、表示面積の広い部分の画像動き、例えば背景部分の動きベクトルを検出する。図8は、動き検出部22の構成を示しており、例えばブロックマッチング方法を用いる場合である。
【0033】
動き検出部22の遅延回路221は、画像信号SDinを1フレーム遅延させて遅延画像信号SDbとして画像位置切替回路222に供給する。画像位置切替回路222は、遅延画像信号SDbに基づく画像の位置を、予め設定された動き探索範囲内(例えば水平方向±80画素,垂直方向±40ライン)で水平方向や垂直方向に順次変更して(例えば1画素あるいは1ラインずつ変更して)新たな画像信号SDcを順次生成する。この生成された画像信号SDCは、差分演算回路223に供給される。また、画像位置切替回路222は、画像の移動方向と移動量を示す動きベクトルMVを最小値判定回路224に供給する。
【0034】
差分演算回路223は、画像信号SDcと画像信号SDinとの差分値DMを順次算出して、最小値判定回路224に供給する。
【0035】
最小値判定回路224は、差分値DMと、この差分値DMの算出に用いた画像信号SDcを生成する際の動きベクトルMVとを関係付けて保持する。また、画像位置切替回路222で動き探索範囲内での画像の移動を完了したとき、最小値判定回路224は、保持している差分値DMから最小値を判別して、この最小値となる差分値DMと関係付けて保持されている動きベクトルMVを、動き検出情報MVDとして図2に示す表示位置決定部231に供給する。
【0036】
表示位置決定部231は、シーンチェンジ検出信号SCに基づいて連続シーンの期間を判別すると共に、この連続シーンの期間中における動き検出情報MVDに基づいて、連続シーンの期間中の各入力画像に対する表示位置を決定して、決定された表示位置を示す表示位置情報HPを、広画角画像生成部232と入力画像移動部233に供給する。
【0037】
この表示位置の決定では、例えば動き検出情報MVDで示された動きベクトルを累積して、動きベクトルの時間推移情報である動き累積値MVTを生成する。また、動き累積値MVTに基づき第1の移動方向(例えば右方向や上方向)の最大値MVT-1と、第1の方向とは逆方向である第2の移動方向(例えば左方向や下方向)の最大値MVT-2を求め、最大値MVT-1と最大値MVT-2に基づき動き累積値MVTの振れ幅LMや振れ幅の1/2である振れ中央位置GUを求めて、この振れ中央位置GUが画像表示領域の所定位置例えば中央となるように、連続シーンの最初の入力画像の表示位置である初期位置Hstを決定する。さらに、初期位置Hstを基準として、その後の各フレームの入力画像に対する表示位置を各入力画像の動き検出情報MVDに基づき、背景部分の画像が一致するように決定する。
【0038】
図9は広画角画像生成部232の構成を示している。広画角画像生成部232の重畳処理回路301は、連続シーンと判別されたnフレーム分の入力画像の画像信号SDinを用いて、連続シーンの最後のフレームから逆時間順に各フレームの入力画像を重畳して、1つの広画角画像を生成する。ここで、表示位置情報HPは、各フレームの入力画像の背景部分が一致するように表示位置が動き検出情報MVDに基づき決定されている。このため、表示位置情報HPで示された表示位置の画像を逆時間順に加算すると、背景部分が一致された入力画像よりも広画角の広画角画像を生成できる。このようにして生成した広画角画像の画像信号SBは、広画角画像位置補正回路303に供給する。
【0039】
表示範囲判定回路302は、連続シーンの各入力画像を、表示位置情報HPで示された表示位置に表示するものとしたとき、入力画像が画像表示領域に入りきるか否かを判別する。ここで、入力画像が画像表示領域に入りきらないときには、時間の経過と共に広画角画像の表示位置を移動させることで、画像表示領域を有効に活用して広画角画像を表示させる補正信号CHを生成して広画角画像位置補正回路303と、図2に示す入力画像移動部233に供給する。
【0040】
広画角画像位置補正回路303は、表示範囲判定回路302から補正信号CHが供給されていないとき、重畳処理回路301から供給された画像信号SBを図2に示す画像重畳部234に供給する。また、後述する画像重畳部234から表示画像の画像信号SDpが供給されたときには、この画像信号SDpを画像信号SBとして画像重畳部234に供給する。
【0041】
また、表示範囲判定回路302から補正信号CHが供給されたとき、広画角画像の表示位置を補正信号CHに基づき補正して、位置の補正が行われた広画角画像の画像信号SBaを画像重畳部234に供給する。さらに、画像重畳部234から表示画像の画像信号SDpが供給されたときには、この広画角画像の位置を補正信号CHに基づき補正して、この位置の補正が行われた広画角画像の画像信号を画像信号SBaとして画像重畳部234に供給する。
【0042】
入力画像移動部233は、入力画像の画像信号SDinと表示位置情報HPに基づき、連続シーンの各入力画像の表示位置を表示位置情報HPで示された位置とした画像信号SDgを生成して画像重畳部234に供給する。また、表示範囲判定回路302から補正信号CHが供給されたときには、この補正信号CHに基づき連続シーンの各入力画像の表示位置を補正する。
【0043】
画像重畳部234は、画像信号SB(SBa)に基づく広画角画像に対して、画像信号SDgに基づく入力画像を重畳させて表示画像の画像信号SDpを生成する。ここで、広画角画像は、表示位置情報HPで示された表示位置の画像を逆時間順に加算した画像である。また、表示画像は、広画角画像に対して、入力画像を表示位置情報HPで示された表示位置として重畳したものである。このため、表示画像では、画像動きの検出された例えば入力画像の背景部分と広画角画像が一致した画像となり、広画角画像に入力画像を重畳させても自然な表示画像を得ることができる。この表示画像の画像信号SDpは、画像分割部24と広画角画像生成部232の広画角画像位置補正回路303に供給される。
【0044】
ここで、メモリを用いて画像重畳部234を構成する場合、広画角画像や入力画像の画像信号の書き込み位置を制御することで、広画角画像に入力画像を重畳した表示画像の画像信号を生成できる。すなわち、広画角画像位置補正回路303は、重畳処理回路301で生成した広画角画像の画像信号SBや表示画像の画像信号SDpを広画角画像の画像信号としてメモリに書き込む際に、補正信号CHに基づいて書き込み位置を制御する。また、入力画像移動部233は、入力画像の画像信号SDinをメモリに書き込む際に、表示位置情報HPに基づき書き込み位置を制御して、入力画像の背景部分が広画角画像と一致するように入力画像を広画角画像に重畳させる。また補正信号CHによって広画角画像の書き込み位置が移動されているときには、入力画像の書き込み位置も補正信号CHによって補正することで、正しく入力画像を広画角画像に重畳させることができる。
【0045】
画像分割部24は、画像信号SDpに基づいて例えばスクリーン10Lに表示する画像の画像信号SDLを生成する。同様に、スクリーン10C,10Rに表示する画像の画像信号SDC,SDRを生成する。なお、メモリを用いて画像重畳部234を構成する場合、スクリーン10L,10C,10Rに対応した領域に、広画角画像や入力画像の画像信号を書き込むものとすれば、それぞれの領域から画像信号を読み出すことで、簡単に画像信号SDL,SDC,SDRを生成できる。なお、スクリーン10L,10C,10R上において、画像表示が行われていない領域は、例えば黒色表示となるように画像信号SDL,SDC,SDRを生成する。
【0046】
なお、画像重畳部234のメモリサイズが画像表示領域分とされているとき、表示画像の画像信号SDpを用いて表示位置の補正を行うと、広画角画像に欠落部分が生じてしまう。この場合、広画角画像位置補正回路303は、重畳処理回路301で生成した広画角画像から欠落部分の画像を取り出して画像表示領域分の広画角画像を生成する。
【0047】
次に画像処理装置20の動作について説明する。シーンチェンジ検出部21は、正規化値Eあるいは相関係数rに基づいて、入力画像のシーンチェンジ位置を検出する。例えば、画像信号SDinに基づく画像が図10に示すものである場合、シーンチェンジ検出によって、フレームF(a-1)とフレームF(a)間、及びフレームF(a+4)とフレームF(a+5)間でシーンチェンジと検出されて、フレームF(a)〜F(a+4)の画像が連続シーンの画像であると判別できる。また、動き検出部22は、各フレームの画像に基づいて動き検出を行い、動き検出情報MVDを生成する。
【0048】
表示位置決定部231は、連続シーンの期間中の各入力画像に対する表示位置を決定する際に、例えば連続シーンの期間中の動き検出情報MVDに基づく動き量を累積することで動き累積値MVTを生成する。さらに、この動き累積値MVTに基づき連続シーンの期間中の画像動きに基づいて表示位置を決定する。
【0049】
図11は、動き累積値MVTに基づく例えば左右方向の累積された動き量を示している。ここで、図10に示すように、連続シーンの入力画像が右方向に移動する被写体OB(車)を撮影したもので場合、入力画像に対する全画面の動き検出では背景部分の画像動きが検出されて動き検出情報MVDが生成される。このため、動き累積値MVTの動き量は図11Aに示すように、左方向に増加する。
【0050】
次に、動き累積値MVTに基づき第1の移動方向(例えば右方向)の最大値MVT-1と、第1の方向とは逆方向である第2の移動方向(例えば左方向)の最大値MVT-2を求め、最大値MVT-1と最大値MVT-2に基づき動き累積値MVTの振れ幅LMを求めて連続シーンおける画像の移動範囲を判別し、この移動範囲の中心が画像表示領域内の移動可能範囲LD(画像表示領域の右側端部に画像を表示したときと、画像を水平移動させて左側端部に表示したときの画像の中心間の距離)の中央となるように、フレームF(a)の入力画像の表示位置である初期位置Hstを決定する。
【0051】
例えば図11Aに示すように、動き累積値MVTの振れ幅LMの1/2を振れ中央位置GUとしたとき、この振れ中央位置GUが画像表示領域の例えば中央となるように、連続シーンの最初の入力画像の表示位置である初期位置Hstを決定する。ここで、背景部分の動き量が左方向に増加することから、背景部分を一致させて各フレームの入力画像を表示させるためには入力画像の表示位置を順次右方向に移動する必要がある。このため、初期位置Hstは画像表示領域の左側に設定する。また、フレームF(a+1)〜フレームF(a+4)の画像については、動き検出情報MVDで示された動き方向とは逆方向に動き量分だけ順次移動させた位置を入力画像の表示位置として、各フレームの入力画像の表示位置を示す表示位置情報HPを生成する。このように表示位置を順次移動させることで、背景部分を一致させて各フレームの入力画像を表示できる。
【0052】
また、被写体が右方向だけでなく左方向にも移動して、フレームF(b)〜フレームF(b+k)の画像に基づく動き累積値MVTが図11Bに示すように右方向や左方向となった場合も同様に、動き累積値MVTの振れ幅LMの1/2の位置が画像表示領域の中央位置となるように初期位置Hstを設定して、その後の連続シーンのフレーム画像については、動き検出情報MVDに基づき表示位置を順次移動させる。このようにして、各フレームの入力画像の表示位置を決定することで、被写体が右方向だけでなく左方向にも移動する場合でも、各フレームの入力画像の表示位置を示す表示位置情報HPを生成できる。
【0053】
広画角画像生成部232の重畳処理回路301は、図10に示す連続シーンの各入力画像F(a)〜F(a+4)を表示位置情報HPで示された表示位置として、図12に示すように、この表示位置情報HPで示された表示位置とされた入力画像F(a)〜F(a+4)を逆時間順、すなわち入力画像F(a+4)から順次加算する。この入力画像を順次重畳した画像は、入力画像の背景部分が一致した画像であると共に入力画像よりも広画角となる。ここで、連続シーンの各入力画像を重畳して得られた広画角の画像を広画角画像として、この広画角画像の画像信号SBを生成する。このように、表示位置情報HPで示された表示位置の入力画像を逆時間順に順次加算するだけで、入力画像の背景部分が一致した画像であると共に入力画像よりも広画角の広画角画像を簡単に生成できる。また、広画角画像は、表示位置情報HPで示された位置の入力画像を、逆時間順に連続シーンの最初まで重畳したものであることから、連続シーン内の入力画像を表示位置情報HPに基づいて移動させたときに画像の表示が行われる表示範囲と広画角画像の画像サイズが等しくなる。
【0054】
表示範囲判定回路302は、連続シーンの最初の入力画像を初期位置Hstに表示してから、動き検出情報MVDで示された動き量だけ表示位置を動きベクトル方向とは逆方向に表示位置を移動させたとき、入力画像が画像表示領域を超えてしまうか否かを判別する。例えば、動き累積値MVTに基づき振れ幅LMを算出して、この振れ幅LMと画像表示領域内の移動可能範囲LDを比較して、図11に示すように振れ幅LMが移動可能範囲LD以下であるか、あるいは図13に示すように、振れ幅LMが移動可能範囲LDよりも大きいかを判別する。ここで、振れ幅LMが移動可能範囲LDよりも大きいと判別したときには、入力画像を表示位置情報HPに基づいて移動させても画像表示領域を超えてしまうことがないように、表示位置を補正する補正信号CHを生成して広画角画像位置補正回路303と入力画像移動部233に供給する。
【0055】
この入力画像が画像表示領域を超えてしまうことが無いように表示位置を補正する表示位置補正方法としては、例えば図13A及び図13Bに示すように、画像表示領域の中央位置PCを基準とすると共に、振れ幅LMの1/2の位置を画像表示領域の中央位置PCとして、中央位置PCから各入力画像の表示位置までの距離GWを算出する。ここで、係数(LD/LM)を補正信号CHとして距離GWに乗算すれば、破線で示すように、入力画像が画像表示領域を超えてしまうことが無いように表示位置を補正できる。
【0056】
次に、他の表示位置補正方法を説明する。ここで図14Aに示すように広画角画像の水平方向の画像サイズを「ZB」、図14Bに示すように画像表示領域の水平方向の表示サイズを「ZW」、図14Cに示すように入力画像の水平方向の画像サイズを「ZP」とする。
【0057】
画像表示領域の例えば左側端部を基準した場合、係数{(ZB−ZW)/(ZB−ZP)}を補正信号CHとして、この補正信号CHを式(5)に示すように動き検出情報MVDで示された動き量Vaに乗算して、新たな動き量Vbを算出する。
Vb={(ZW−ZB)/(ZB−ZP)}×Va ・・・(5)
この動き量Vbに基づいて表示位置を決定する。
【0058】
このように、広画角画像の画像サイズを用いても、この広画角画像の画像サイズが入力画像の表示範囲と等しいことから、新たな動き量Vbに基づいて表示位置を決定すれば、図14D〜図14Fに示すように、広画角画像や入力画像が被写体OBの動く方向とは逆方向に移動されるので、画像表示領域を有効に活用して、効果的に広画角の画像表示を行うことができる。
【0059】
また、初期位置Hstが画像表示領域の左側端部でないときには、式(6)で示すように初期位置の補正を行い、新たな初期位置Hst’を設定する。
Hst’={(ZW−ZB)/(ZB−ZP)}×Hst ・・・(6)
この初期位置Hst’から動き量Vbに基づいて表示位置を順次設定することにより、入力画像が画像表示領域を超えてしまうことが無いように表示位置を補正できる。
【0060】
また、垂直方向についても、水平方向の場合と同様に処理することで、入力画像が画像表示領域を超えてしまうことが無いように表示位置を補正できる。なお、入力画像の表示位置を移動しても、入力画像が画像表示領域を超えてしまうことがないときには、表示位置の補正を行わないものとして、図14Gに示すように、画像表示領域の中央に画像を表示する。
【0061】
広画角画像位置補正回路303は、補正信号CHが供給されたとき、この補正信号CHに基づき広画角画像の表示位置を移動させて、この移動後の広画角画像の画像信号SBaを画像重畳部234に供給する。
【0062】
また、広画角画像位置補正回路303には、後述する画像重畳部234から表示画像の画像信号SDpが供給されたとき、この表示画像の画像信号SDpを新たな広画角画像の画像信号SBとして画像重畳部234に供給する。なお、表示画像の画像信号SDpを新たな広画角画像の画像信号SBaとして用いる際に、補正信号CHに基づき広画角画像の表示位置を移動させて、画像の無い部分が生じてしまうときには、上述したように画像の無い部分の画像を、重畳処理回路301で生成した広画角画像から取り出して用いるものとする。
【0063】
入力画像移動部233は、表示位置情報HPに基づき、画像信号SDinに基づく入力画像の表示位置を決定する。また、補正信号CHに基づき広画角画像の表示位置が移動されるときには、広画角画像位置補正回路303と同様に、補正信号CHに基づき画像信号SDinに基づく入力画像の表示位置を広画角画像に対応させて移動する。この移動後の入力画像の画像信号SDgを画像重畳部234に供給する。
【0064】
画像重畳部234は、広画角画像に対して入力画像を重畳して、表示画像の画像信号SDpを生成する。また、生成した表示画像の画像信号SDpを画像分割部24と広画角画像位置補正回路303に供給する。
【0065】
画像分割部24では、画像信号SDpから画像信号SDL,SDC,SDRを生成して、画像信号SDLをプロジェクタ12L、画像信号SDCをプロジェクタ12C、画像信号SDRをプロジェクタ12Rにそれぞれ供給することにより、スクリーン10L,10C,10Rを利用して入力画像よりも広画角の画像表示を行う。
【0066】
このように、画像信号SDinに基づく入力画像を広画角画像に重畳して表示画像とすると共に、この表示画像を新たな広画角画像とすると、図15Aに示す入力画像が図15Bに示す広画角画像に重畳されて、図15Cに示すように、所望の被写体OBが順次移動する広画角の表示画像を生成できる。また、入力画像の表示位置を画像動きに基づいて移動させたとき、画像表示領域を超えてしまうような場合が生じても、画像表示領域を超えてしまうことが無いように表示位置の補正が行われて、被写体が表示画面上で移動するだけでなく広画角画像も逆方向に移動されるので、画像表示領域を有効に活用して広画角の画像表示を行うことができる。
【0067】
ところで、上述の画像処理装置における画像処理動作は、コンピュータを用いてソフトウェアで実現するものとしても良い。この場合の構成を図16に示す。コンピュータは、図16に示すようにCPU(Central Processing Unit)501を内蔵しており、このCPU501にはバス520を介してROM502,RAM503,ハード・ディスク・ドライブ504,入出力インタフェース505が接続されている。さらに、入出力インタフェース505には入力部511や記録媒体ドライブ512,通信部513,画像信号入力部514,画像信号出力部515が接続されている。
【0068】
外部装置から命令が入力されたり、キーボードやマウス等の操作手段あるいはマイク等の音声入力手段等を用いて構成された入力部511から命令が入力されると、この命令が入出力インタフェース505を介してCPU501に供給される。
【0069】
CPU501は、ROM502やRAM503あるいはハード・ディスク・ドライブ504に記憶されているプログラムを実行して、供給された命令に応じた処理を行う。さらに、ROM502やRAM503あるいはハード・ディスク・ドライブ504には、上述の画像処理装置と同様な処理をコンピュータで実行させるための画像処理プログラムを予め記憶させて、画像信号入力部514に入力された画像信号SDinに基づき画像信号SDL,SDC,SDRを生成して、画像信号出力部515から出力する。また、記録媒体に画像処理プログラムを記録しておくものとし、記録媒体ドライブ512によって、画像処理プログラムを記録媒体に記録しあるいは記録媒体に記録されている画像処理プログラムを読み出してコンピュータで実行するものとしても良い。さらに、通信部513によって、伝送路を介した画像処理プログラムの送信あるいは受信を行うものとし、受信した画像処理プログラムをコンピュータで実行するものとしても良い。
【0070】
図17は、画像処理動作を示すフローチャートである。ステップST1ではシーン判別を行う。図18はシーン判別動作を示すフローチャートである。ステップST11では、フレーム間の差分平均値Davとフレーム内の輝度平均値Yavを算出してステップST12に進む。ステップST12は、輝度平均値Yavを用いて差分平均値Davの正規化を行い正規化値Eを算出する。
【0071】
ステップST13は、正規化値Eと閾値Lrを比較してシーンチェンジであるか否かを判別する。ここで、正規化値Eが閾値Lr以下であるときにはステップST14に進み、連続シーンと判別する。また、正規化値Eが閾値Lrよりも大きいときにはステップST15に進み、シーンチェンジであると判別する。このようにして正規化値Eに基づき連続シーンを判別する。
【0072】
なお、シーン判別動作では、上述のように相関係数rを算出して、この相関係数rと閾値を比較して連続シーンを判別するものとしても良い。この場合、ステップST11とステップST12の処理に替えて、上述の式(4)で示した相関係数rの算出を行い、ステップST13では相関係数rが閾値よりも小さくないときにはステップST14に進み連続シーンと判別する。また相関係数rが閾値よりも小さいときにはステップST15に進み、シーンチェンジであると判別する。
【0073】
図17のステップST2では、連続シーンの入力画像に対して全画面の動き検出を行い、入力画像の例えば背景部分の動き量や動き方向を示す動き検出情報を生成してステップST3に進む。ステップST3は、動き検出情報に基づき連続シーンの各フレームの入力画像に対する表示位置を算出してステップST4に進む。ステップST4では、連続シーンの各入力画像を用いて広画角画像を生成する。
【0074】
図19は広画角画像の生成動作を示している。ステップST21では連続シーンのフレーム数KFを変数iに設定してステップST22に進む。ステップST22では、変数iが「0」よりも大きいか否かを判別する。
【0075】
ここで、変数iが「0」よりも大きいときには、i番目のフレームの入力画像をステップST3で算出した表示位置として画像の重畳を行いステップST24に進む。ステップST24では、変数iから「1」を減算して、得られた減算値を新たに変数iとして設定してステップST22に戻る。このステップST22〜ステップST24の処理を繰り返すことにより図12に示す処理が行われる。その後、連続シーンの最初の入力画像が重畳されると変数iが「0」となるため広画角画像の生成処理が終了される。
【0076】
図17のステップST5では、ステップST3で算出された表示位置に入力画像を表示させたとき、入力画像が画像表示領域を超えてしまうか否かを判別する。ここで、入力画像が画像表示領域を超えてしまうことが無いときにはステップST7に進む。また、入力画像が画像表示領域を超えてしまうときにはステップST6に進む。ステップST6では、表示位置の補正を行う。この表示位置の補正では、広画角画像と入力画像の表示位置を補正してステップST7に進む。ステップST7では、広画角画像に入力画像を重畳して表示画像を生成する。
【0077】
図20は、表示画像の生成動作を示すフローチャートである。ステップST31では、変数jを「1」に設定してステップST32に進む。ステップST32では、変数jの値が連続シーンのフレーム数KFよりも大きいか否かを判別する。ここで、変数jの値が連続シーンのフレーム数KFよりも大きくないときにはステップST33に進む。
【0078】
ステップST33では、広画角画像に入力画像を重畳する。なお画像を重畳させる際には、ステップST3で算出された表示位置、あるいはステップST7で表示位置の補正が行われているときには、補正された表示位置に基づいて広画角画像と入力画像を重畳させる。このとき、入力画像と動きを検出した背景部分の画像は一致したものとなる。ステップST34では、入力画像を重畳させた画像をjフレーム目の表示画像としてステップST35に進む。ステップST35では、この表示画像を新たな広画角画像としてステップST36に進む。
【0079】
ステップST36では、新たな広画角画像を補正された表示位置に表示させたとき、画像の欠落部分が生じているか否かを判別する。ここで、画像の欠落部分が無いときにはステップST38に進む。また、画像の欠落部分が生じたときにはステップST37に進む。ステップST37では、欠落部分に対応する画像をステップST4で生成した広画角画像から取り出すことで、欠落部分の画像を補充してステップST38に進む。
【0080】
ステップST38では、変数jに「1」を加算して、得られた加算値を新たに変数jとしてステップST32に戻る。このステップST32〜ステップST38の処理を繰り返すことで、連続シーンの各入力画像から広画角の表示画像を生成できる。
【0081】
その後、連続シーンの最後の入力画像が重畳されると変数iが「KF+1」となりステップST32で変数iが「KF」よりも大きいと判別されると、表示画像の生成処理を終了する。
【0082】
図17のステップST8では、生成された表示画像を画像表示装置に対応させて分割する。例えば図1に示すように3つプロジェクタ12L,12C,12Rを用いて、表示画像をスクリーン10L,10C,10Rに表示させる場合、表示画像をスクリーン10L,10C,10R毎に分割して、この分割画像の画像信号を画像信号SDL,SDC,SDRとして、プロジェクタ12L,12C,12Rに供給する。
【0083】
このように、上述の実施の形態によれば、従来固定位置で表示とされていた入力画像を、入力画像内の画像動きに応じて表示位置が移動される画像として表示することができると共に、例えば背景部分が広画角画像として表示されるので、臨場感の高い、あるいは理解しやすい視聴が可能となる。また、撮影時のカメラ動き、あるいはカメラの向きに忠実な表現が可能であり、実世界と同じ位置、同じ方向に画像が提示されるため、視聴者は現実と同じ空間、あるいは動きを視聴時に取得することができる。さらに、画面自体の動きによって、従来よりも大きな躍動感を広画角の表示画像から得ることが可能であり、視聴者自らの顔向きの動きなどにより、完全受動的であった動き表現の視聴を、視線を動かすというアクテイブな操作で感じることが可能となる。
【0084】
なお、上述の画像処理装置20は、連続シーンを判別してから、この連続シーンにおける全画面の動きベクトルに基づいて表示位置を移動させるものであり、複数の連続シーンの画像信号SDL,SDC,SDRをリアルタイムで生成することが困難である。このため、画像信号SDL,SDC,SDRを記録媒体に記録して、その後記録媒体に記録されている画像信号SDL,SDC,SDRを同期して再生することにより、複数のスクリーンを用いて、広画角であると共に被写体の動きに対応させて被写体の表示位置を移動させることができる。また、画像信号SDinと表示位置決定部231で決定された表示位置を示す表示位置情報HP及び連続シーン毎の広画角画像等を関係付けて記録媒体に記録させるものとして、画像表示を行う際に、画像信号SDinとこの画像信号SDinに関係付けて記憶されている表示位置情報HPや広画角画像を記録媒体から読み出して画像信号SDL,SDC,SDRも生成するものとしても良い。この場合には、画像信号SDL,SDC,SDRを記録しておく必要がないので、記録する信号量を少なくできる。また、映像コンテンツの送出側で上述の処理を行ってから送信を行うものとすれば、画像信号SDinや表示位置情報HP及び広画角画像等を関係付けて記録しておくことなく、臨場感の高い広画角の画像表示を行うことができる。
【0085】
さらに、画像表示領域を設定してから表示位置の決定や画像信号SDL,SDC,SDRの生成を行うことができるので、スクリーンサイズやスクリーン数等が変更されても容易に対応させて臨場感の高い画像表示を行うことができる。
【0086】
なお、上述の実施の形態におけるスクリーンやプロジェクタは例示的なものであり、表示画像サイズよりも画像表示領域が大きければ、本願発明のように現実世界に忠実で臨場感の高い画像表示が可能である。
【0087】
さらに、新たに映像ソースや別のフォーマットを作らなくても、従来のテレビ用やビデオ映像などのコンテンツの画像信号を用いて本発明の処理を施すことで、従来の映像鑑賞以上の臨場感を得ることができる。
【0088】
【発明の効果】
この発明によれば、入力画像のシーンチェンジと入力画像の画像動きを検出して、検出されたシーンチェンジに基づいて判別された連続シーンの期間中における画像動きに基づき、連続シーンの期間中の入力画像を重畳させて、入力画像よりも広画角であって入力画像の位置が画像動きに応じて変化される表示画像が生成される。このため、臨場感の高い広画角の画像表示を行うことができる。また、入力画像が、画像表示領域を超えるか否かを判別し、判別結果に基づいて当該入力画像の表示位置を補正するので、入力画像が画像表示領域内に収まるように画像を表示できると共に、自然な表示画像を得ることができる。
【0089】
また、連続シーンの期間中に検出された画像動きに基づき、入力画像の表示位置を決定するものとし、表示位置が決定された連続シーンの期間中の入力画像を重畳させて、入力画像よりも広画角の広画角画像を生成し、表示位置に移動された入力画像を広画角画像に重畳することで表示画像が生成される。このため、表示画像では、画像動きの検出された例えば入力画像の背景部分と広画角画像が一致した画像となり、広画角画像に入力画像を重畳させても自然な表示画像を得ることができる。
【0090】
また、表示位置が決定された連続シーンの期間中の入力画像を逆時間順に順次重畳することで広画角画像が生成される。このため、広画角画像を容易に生成できる。さらに、生成した広画角画像のサイズが表示画像を表示する画像表示領域のサイズよりも大きい場合、連続シーンの期間中に広画角画像の表示位置が、連続シーンの期間中に検出された画像動きに基づいて移動されると共に、広画角画像の移動に伴い、連続シーンの期間中の入力画像に対する表示位置が補正される。このため、入力画像が画像表示領域内に収まるように表示画像を生成できると共に、自然な表示画像を得ることができる。また、表示画像を表示する画像表示領域が複数の表示領域で構成されているとき、複数の表示領域に対応させて表示画像が分割されるので、画像表示領域の構成に応じた臨場感の高い画像表示を行うことができる。
【図面の簡単な説明】
【図1】画像表示システムの構成を示す図である。
【図2】画像処理装置の構成を示す図である。
【図3】シーンチェンジ検出部の構成を示す図である。
【図4】フレーム位置と正規化値の関係を示す図である。
【図5】画素の間引きを示す図である。
【図6】シーンチェンジ検出部の他の構成を示す図である。
【図7】フレーム位置と相関係数の関係を示す図である。
【図8】動き検出部の構成を示す図である。
【図9】広画角画像生成部の構成を示す図である。
【図10】連続シーンの判別を説明するための図である。
【図11】位置決定部の動作を説明するための図である。
【図12】広画角画像の生成動作を説明するための図である。
【図13】表示位置補正方法を説明するための図である。
【図14】他の表示位置補正方法を説明するための図である。
【図15】表示画像の生成動作を説明するための図である。
【図16】コンピュータを用いたときの構成を示す図である。
【図17】画像処理動作を示すフローチャートである。
【図18】シーン判別の動作を示すフローチャートである。
【図19】広画角画像の生成動作を示すフローチャートである。
【図20】表示画像の生成動作を示すフローチャートである。
【符号の説明】
10L,10C,10R・・・スクリーン、12L,12C,12R・・・プロジェクタ、20・・・画像処理装置、21・・・シーンチェンジ検出部、22・・・動き検出部、23・・・表示画像生成部、24・・・画像分割部、211,221・・・遅延回路、212・・・差分平均算出回路、213・・・輝度平均算出回路、214・・・正規化回路、215,217・・・判定回路、216・・・相関係数算出回路、222・・・画像シフト回路、223・・・差分演算回路、224・・・最小値判定回路、231・・・表示位置決定部、232・・・広画角画像生成部、233・・・入力画像移動部、234・・・画像重畳部、301・・・重畳処理回路、302・・・表示範囲判定回路、303・・・広画角画像位置補正回路、501・・・CPU、502・・・ROM、503・・・RAM、514・・・画像信号入力部、515・・・画像信号出力部
Claims (21)
- 入力画像のシーンチェンジを検出するシーンチェンジ検出手段と、
前記入力画像の画像動きを表す動きベクトルを検出する動き検出手段と、
前記シーンチェンジ検出手段によって検出されたシーンチェンジに基づいて連続シーンの期間を判別して、該連続シーンの期間中に前記動き検出手段で検出された動きベクトルに基づき前記連続シーンの期間中の前記入力画像を重畳させて、前記入力画像よりも広画角であって前記入力画像の位置が前記動きベクトルに応じて変化する表示画像を生成する表示画像生成手段とを有し、
前記表示画像生成手段は、
前記入力画像が、前記表示画像を表示する画像表示領域を超えるか否かを判別し、判別結果に基づいて当該入力画像の表示位置を補正することを特徴とする画像処理装置。 - 前記シーンチェンジ検出手段は、
前記入力画像の隣接フレーム間の相関値を算出する相関値算出手段と、
前記相関値に基づいて、シーンチェンジの有無を判定する判定手段とを有することを特徴とする請求項1記載の画像処理装置。 - 前記相関値は、相関係数である
ことを特徴とする請求項2記載の画像処理装置。 - 前記相関値算出手段は、
隣接フレーム間の差分値の平均値を差分平均値として算出する差分平均算出手段と、
1フレームの画素値の平均値を画素平均値として算出する画素平均値算出手段と、
前記画素平均値を用いて、前記差分平均値を正規化し、正規化された前記差分平均値を前記相関値として出力する正規化手段とを有する
ことを特徴とする請求項2記載の画像処理装置。 - 前記表示画像生成手段は、
前記連続シーンの期間中に前記動き検出手段で検出された動きベクトルに基づき、前記入力画像の表示位置を決定する表示位置決定手段と、
前記表示位置決定手段で表示位置が決定された前記連続シーンの期間中の入力画像を重畳させて、前記入力画像よりも広画角の広画角画像を生成する広画角画像生成手段と、
前記入力画像を前記表示位置決定手段で決定された表示位置に移動する入力画像移動手段と、
前記入力画像移動手段で表示位置が移動された入力画像を前記広画角画像に重畳することで前記表示画像を生成する画像重畳手段とを有する
ことを特徴とする請求項1記載の画像処理装置。 - 前記広画角画像生成手段は、前記表示位置決定手段で表示位置が決定された前記連続シーンの期間中の入力画像を逆時間順に順次重畳することで前記広画角画像を生成する
ことを特徴とする請求項5記載の画像処理装置。 - 前記広画角画像生成手段は、
累積された前記動きベクトルの時間推移情報である動き累積値の振れ幅を算出し、当該振れ幅と前記画像表示領域の移動可能範囲とを比較して、当該振れ幅が移動可能範囲以下であるか否かを判別し、
判別結果に基づいて前記入力画像の表示位置を補正する補正信号を生成して前記入力画像移動手段に供給し、
前記入力画像移動手段は、
前記広画角画像生成手段からの前記補正信号に基づいて前記入力画像の表示位置を補正して移動する
ことを特徴とする請求項5記載の画像処理装置。 - 前記広画角画像生成手段は、前記広画角画像と前記表示画像を表示する画像表示領域との大きさに基づいて、前記表示位置を前記連続シーンの期間中に前記動き検出手段で検出された動きベクトルに基づいて移動させるものとし、
前記入力画像移動手段は、前記広画角画像生成手段における前記広画角画像の移動に伴い、前記表示位置決定手段で決定された表示位置を補正する
ことを特徴とする請求項5記載の画像処理装置。 - 前記表示画像を分割する画像分割手段を有し、
前記画像分割手段は、前記表示画像を表示する画像表示領域が複数の表示領域で構成されているとき、前記複数の表示領域に対応させて前記表示画像を分割する
ことを特徴とする請求項1記載の画像処理装置。 - 入力画像の画像動きを表す動きベクトルに応じて当該入力画像の表示位置を変更する画像処理装置において、
前記入力画像の動きベクトルを検出する動き検出手段と、
前記動き検出手段で検出された動きベクトルに基づき、前記入力画像の表示位置を決定する表示位置決定手段と、
前記表示位置決定手段で決定された表示位置に表示する入力画像が、当該入力画像を表示する画像表示領域を超えるか否かを判別し、判別結果に基づいて当該入力画像の表示位置を補正する広画角画像生成手段と、
前記広画角画像生成手段により補正された表示位置に、前記入力画像を移動する入力画像移動手段とを有する
ことを特徴とする画像処理装置。 - 入力画像のシーンチェンジと前記入力画像の画像動きを表す動きベクトルを検出し、
検出されたシーンチェンジに基づいて連続シーンの期間を判別して、該連続シーンの期間中に検出された動きベクトルに基づき前記連続シーンの期間中の前記入力画像を重畳させて、前記入力画像よりも広画角であって前記入力画像の位置が前記動きベクトルに応じて変化する表示画像を生成し、
生成された前記表示画像を表示する画像表示領域を、前記入力画像が超えるか否かを判別し、
判別結果に基づいて前記入力画像の表示位置を補正する
ことを特徴とする画像処理方法。 - 前記入力画像の隣接フレーム間の相関値を算出し、該相関値に基づいて、シーンチェンジの有無を判定する
ことを特徴とする請求項11記載の画像処理方法。 - 前記相関値は、相関係数である
ことを特徴とする請求項12記載の画像処理方法。 - 隣接フレーム間の差分値の平均値を差分平均値として算出し、
1フレームの画素値の平均値を画素平均値として算出し、
前記画素平均値を用いて、前記差分平均値を正規化し、正規化された前記差分平均値を前記相関値として用いる
ことを特徴とする請求項12記載の画像処理方法。 - 前記連続シーンの期間中に検出された動きベクトルに基づき、前記入力画像の表示位置を決定するものとし、
前記表示位置が決定された前記連続シーンの期間中の入力画像を重畳させて、前記入力画像よりも広画角の広画角画像を生成し、
前記入力画像を前記表示位置に移動するものとし、
前記表示位置が移動された入力画像を前記広画角画像に重畳することで前記表示画像を生成する
ことを特徴とする請求項11記載の画像処理方法。 - 前記表示位置が決定された前記連続シーンの期間中の入力画像を逆時間順に順次重畳することで前記広画角画像を生成する
ことを特徴とする請求項15記載の画像処理方法。 - 累積された前記動きベクトルの時間推移情報である動き累積値の振れ幅を算出し、当該振れ幅と前記画像表示領域の移動可能範囲とを比較して、当該振れ幅が移動可能範囲以下であるか否かを判別し、
判別結果に基づいて前記入力画像の表示位置を補正する補正信号を生成して供給し、
供給された前記補正信号に基づいて前記入力画像の表示位置を補正して移動する
ことを特徴とする請求項15記載の画像処理方法。 - 前記広画角画像と前記表示画像を表示する画像表示領域との大きさに基づいて、前記表示位置を前記連続シーンの期間中に検出された動きベクトルに基づいて移動させるものとし、
前記広画角画像の移動に伴い、前記決定された表示位置を補正する
ことを特徴とする請求項15記載の画像処理方法。 - 前記表示画像を表示する画像表示領域が複数の表示領域で構成されているとき、前記複数の表示領域に対応させて前記表示画像を分割する
ことを特徴とする請求項11記載の画像処理方法。 - 入力画像の画像動きを表す動きベクトルに応じて当該入力画像の表示位置を変更する画像処理方法において、
前記入力画像の動きベクトルを検出し、
前記検出された動きベクトルに基づき、前記入力画像の表示位置を決定し、
決定された表示位置に表示する入力画像が、当該入力画像を表示する画像表示領域を超えるか否かを判別し、
判別結果に基づいて前記入力画像の表示位置を補正し、
補正された表示位置に前記入力画像を移動する
ことを特徴とする画像処理方法。 - コンピュータに、
入力画像のシーンチェンジを検出する手順と、
前記入力画像の画像動きを表す動きベクトルを検出する手順と、
検出されたシーンチェンジに基づいて連続シーンの期間を判別して、該連続シーンの期間中に検出された動きベクトルに基づき前記連続シーンの期間中の前記入力画像を重畳させて、前記入力画像よりも広画角であって前記入力画像の位置が前記動きベクトルに応じて変化する表示画像を生成する手順と、
生成された前記表示画像を表示する画像表示領域を、前記入力画像が超えるか否かを判別し、判別結果に基づいて当該入力画像の表示位置を補正する手順とを実行させることを特徴とする画像処理プログラム。
Priority Applications (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002124312A JP3982316B2 (ja) | 2002-04-25 | 2002-04-25 | 画像処理装置と画像処理方法及び画像処理プログラム |
US10/481,910 US8643788B2 (en) | 2002-04-25 | 2003-04-25 | Image processing apparatus, image processing method, and image processing program |
DE60331534T DE60331534D1 (de) | 2002-04-25 | 2003-04-25 | Bildverarbeitungsvorrichtung, bildverarbeitungsverfahren und bildverarbeitungsprogramm |
EP03727995A EP1499119B1 (en) | 2002-04-25 | 2003-04-25 | Image processing apparatus, image processing method, and image processing program |
PCT/JP2003/005403 WO2003092276A1 (fr) | 2002-04-25 | 2003-04-25 | Appareil, procede et logiciel de traitement d'image |
KR1020037016864A KR100965947B1 (ko) | 2002-04-25 | 2003-04-25 | 화상 처리 장치와 화상 처리 방법 및 화상 처리 프로그램 기록 매체 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002124312A JP3982316B2 (ja) | 2002-04-25 | 2002-04-25 | 画像処理装置と画像処理方法及び画像処理プログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2003316348A JP2003316348A (ja) | 2003-11-07 |
JP2003316348A5 JP2003316348A5 (ja) | 2005-03-17 |
JP3982316B2 true JP3982316B2 (ja) | 2007-09-26 |
Family
ID=29539376
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002124312A Expired - Fee Related JP3982316B2 (ja) | 2002-04-25 | 2002-04-25 | 画像処理装置と画像処理方法及び画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3982316B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100338647C (zh) * | 2004-08-06 | 2007-09-19 | 马堃 | 静态图像的动态显示方法及浏览器 |
US9060160B2 (en) | 2008-09-24 | 2015-06-16 | Nikon Corporation | Image generation device, imaging device, image reproduction device, and image reproduction program |
JP5602818B2 (ja) * | 2012-11-07 | 2014-10-08 | オリンパスイメージング株式会社 | カメラ、画像再生装置、画像合成方法、およびプログラム |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08191411A (ja) * | 1994-11-08 | 1996-07-23 | Matsushita Electric Ind Co Ltd | シーン判別方法および代表画像記録・表示装置 |
US6075905A (en) * | 1996-07-17 | 2000-06-13 | Sarnoff Corporation | Method and apparatus for mosaic image construction |
-
2002
- 2002-04-25 JP JP2002124312A patent/JP3982316B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003316348A (ja) | 2003-11-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103002210B (zh) | 图像处理装置以及图像处理方法 | |
KR100965947B1 (ko) | 화상 처리 장치와 화상 처리 방법 및 화상 처리 프로그램 기록 매체 | |
US8031229B2 (en) | Imaging apparatus and imaging control method | |
JP2846830B2 (ja) | 2次元映像を3次元映像に変換する方法 | |
US20080253685A1 (en) | Image and video stitching and viewing method and system | |
WO2012128066A1 (ja) | 画像処理装置および方法、並びにプログラム | |
JP4420056B2 (ja) | 画像処理装置と画像処理方法および画像処理プログラム、並びに再生情報生成装置と再生情報生成方法及び再生情報生成プログラム | |
WO2011043248A1 (ja) | 画像処理装置および方法、並びにプログラム | |
JP4798236B2 (ja) | 撮像装置、画像処理方法及びプログラム | |
US20070247518A1 (en) | System and method for video processing and display | |
US20080231756A1 (en) | Apparatus and method of processing image as well as apparatus and method of generating reproduction information | |
JP2012142829A (ja) | 画像処理装置および画像処理方法 | |
JP2013172446A (ja) | 情報処理装置、端末装置、撮像装置、情報処理方法、及び撮像装置における情報提供方法 | |
JP2006246307A (ja) | 画像データ処理装置 | |
JP3982316B2 (ja) | 画像処理装置と画像処理方法及び画像処理プログラム | |
JP4131113B2 (ja) | 画像処理装置と画像処理方法および画像処理プログラム | |
JP4924131B2 (ja) | 画像処理装置と画像処理方法および画像処理プログラム、並びに再生情報生成装置と再生情報生成方法及び再生情報生成プログラム | |
JP3832362B2 (ja) | 画像処理装置と画像処理方法および画像処理プログラム | |
US20220174258A1 (en) | Information processing device, information processing method, and program | |
JP7011728B2 (ja) | 画像データ出力装置、コンテンツ作成装置、コンテンツ再生装置、画像データ出力方法、コンテンツ作成方法、およびコンテンツ再生方法 | |
JP4599775B2 (ja) | 画像処理装置と画像処理方法と画像処理プログラム及び情報記録媒体 | |
JP3901023B2 (ja) | 画像処理装置と画像処理方法及び画像処理プログラム | |
JP4687748B2 (ja) | 映像処理装置、映像処理方法、プログラム及び記録媒体、並びに映像処理システム | |
JP2011135437A (ja) | 撮像装置、画像合成方法及びプログラム | |
JP2006270160A (ja) | 画像データ処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040423 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040423 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20060425 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070320 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070521 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070612 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070625 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100713 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100713 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100713 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110713 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120713 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130713 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |