JP4645356B2 - 映像表示方法、映像表示方法のプログラム、映像表示方法のプログラムを記録した記録媒体及び映像表示装置 - Google Patents

映像表示方法、映像表示方法のプログラム、映像表示方法のプログラムを記録した記録媒体及び映像表示装置 Download PDF

Info

Publication number
JP4645356B2
JP4645356B2 JP2005236034A JP2005236034A JP4645356B2 JP 4645356 B2 JP4645356 B2 JP 4645356B2 JP 2005236034 A JP2005236034 A JP 2005236034A JP 2005236034 A JP2005236034 A JP 2005236034A JP 4645356 B2 JP4645356 B2 JP 4645356B2
Authority
JP
Japan
Prior art keywords
video
display
depth
display screens
video display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005236034A
Other languages
English (en)
Other versions
JP2007053496A (ja
Inventor
哲二郎 近藤
剛 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005236034A priority Critical patent/JP4645356B2/ja
Priority to US11/503,841 priority patent/US8159527B2/en
Publication of JP2007053496A publication Critical patent/JP2007053496A/ja
Application granted granted Critical
Publication of JP4645356B2 publication Critical patent/JP4645356B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/388Volumetric displays, i.e. systems where the image is built up from picture elements distributed through a volume
    • H04N13/395Volumetric displays, i.e. systems where the image is built up from picture elements distributed through a volume with depth sampling, i.e. the volume being constructed from a stack or sequence of 2D image planes

Description

本発明は、番組を視聴する際の臨場感を向上させる場合に用いて好適な映像表示方法、映像表示方法のプログラム、映像表示方法のプログラムを記録した記録媒体及び映像表示装置に関する。
従来、映像信号の処理に関して、臨場感を向上する方法が種々に提案されるようになされており、例えば、特許文献1においては、被写体までの距離を映像から検出し、この検出結果に基づいてユーザの視点移動に対応するように映像信号を処理する方法が提案されている。
ところで実生活において、視点の移動に伴い目の焦点が変化し、これにより遠景、近景の何れを目視する場合でも、焦点の合った風景を見て取ることができる。またこのような目の焦点の変化により、さらには両目を用いた立体視により、遠近感を知覚することができる。
一方、テレビジョン放送等が提供する番組の中には、遠景のシーン、近景のシーン等を組み合わせて構成されるものもあるが、どのシーンにおいても視聴者から一定の距離に配置された表示画面上に表示される。
特開平9−81746号公報
このように、テレビジョン放送等が提供する番組は、実生活で感じる遠近感を視聴者に提供することができないため、視聴者は、番組を視聴する際に臨場感を感じとることが困難であった。
本発明は、以上の点を考慮してなされたもので、テレビジョン放送等により提供される番組について、従来に比べて臨場感を向上することができる映像表示方法、映像表示方法のプログラム、映像表示方法のプログラムを記録した記録媒体及び映像表示装置を提案するものである。
述した目的を達成するために本発明は、少なくとも1つの映像信号による画像を複数の表示画面に表示する際、画像における被写体までの奥行き距離に基づいて、映像信号を分類し、この分類した映像信号による画像を複数の表示画面上に表示し、被写体までの奥行き距離と表示画面を視聴する視聴者から表示画面までの距離とが対応するように表示画面を視聴者に対して奥行き方向の前後に移動させる。
本発明によれば、テレビジョン放送等により提供される番組について、従来に比べて臨場感を向上させることができる。
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
本発明を適用した実施の形態に係る映像視聴システムは、映像信号から奥行きデータを推定し、この推定結果に基づいて映像を分類し、図1に示すように、奥行き方向に配置した複数のディスプレイ1A,1B,1Cに被写体の奥行き値の異なる映像を順次表示する。例えば、実世界において、図2(A)に示すように、ユーザが目視して被写体2の背後に被写体3が存在しない場合でも、図2(B)に示すように、ユーザより奥行き方向に配置したディスプレイ2A及びディスプレイ2Bにそれぞれ被写体2及び被写体3を、ディスプレイ2Aには小さく、ディスプレイ2Bには大きく表示することによって、ユーザは、2つの映像を同時に、また、遠近感を感じながら視聴することが可能となる。
図3に示すように、ディスプレイ14aとディスプレイ14bとをユーザより同じ奥行き距離の位置に配置した場合、ユーザは、ディスプレイ14aとディスプレイ14bとに同時に目の焦点が合う場合がある。これに対して、図4に示すように、ディスプレイ14aとディスプレイ14bとを奥行き方向に手前から順次配置した場合、ユーザは、何れか1つのディスプレイにのみ目の焦点が合い、もう1つのディスプレイには目の焦点が合わないようになる。すなわち、ユーザの目の焦点変化によって生じる遠近感及び両目の立体視による遠近感によれば、映像視聴における臨場感を向上させることが可能となる。
図5は、本発明を適用した第1の実施の形態に係る映像視聴システムを示すブロック図である。図5に示すように、この映像視聴システム10は、複数の映像ソース11(映像ソース111,112,・・・,11m)と、複数の奥行き分類部12(奥行き分類部121,122,・・・,12m)と、出力先選択部13と、複数のディスプレイ14(ディスプレイ141,142,・・・,14n)と、メモリ15とを備えて構成される。ここで、mは映像ソース数であり、nはディスプレイ数である。
なお、映像ソース11は、例えば、テレビジョンチューナ、DVD(Digital Versatile Disk)プレイヤ、ビデオテープレコーダ等により構成される。これにより映像視聴システム10は、映像ソース11が供給する各種の映像コンテンツをユーザに提供する。
映像視聴システム10は、図6に示すように、映像信号V1,V2,・・・,Vmを被写体の奥行きデータに基づいて分類し、その分類結果から、被写体の奥行きデータの小さい映像より順次ディスプレイ141,142,・・・,14nへと表示する。
複数のディスプレイ14は、図7に示すように、ユーザが各ディスプレイを見ることができ、また、奥ほど広がって見えるように、ユーザより奥行き方向に、ディスプレイ141からディスプレイ142,143,・・・の順に配置され、被写体までの奥行きに応じて、それぞれ映像ソース11が供給する映像信号を選択的に動画により表示する。
奥行き分類部12は、各映像の特徴から奥行きデータを推定して算出する。
奥行き分類部12は、図8に示すように、特徴量検出部12Aと分類決定部12Bとから構成される。
特徴量検出部12Aは、図9に示すように、映像信号Vによる映像中の動きベクトルを検出する動きベクトル検出部61と、この動きベクトルにより動きの有無を判断する動き判断部62と、動き判断部62により動きがあると判断した場合、この動きがカメラ動きに係るものか否かを判断するカメラ動き判断部63と、動きがカメラ動きに係るものである場合、動きがない領域を抽出してこの抽出した領域の面積を算出する動きなし領域抽出部64と、動きがカメラ動きに係るものでない場合に、動きの領域を抽出してこの抽出した領域の面積を算出する動き領域抽出部65とを備える。また、特徴量検出部12Aは、動き判断部62により動きがないと判断した場合、バストショットまたはクローズアップであるか否かを判断するバストショットクローズアップ判断部66と、バストショットまたはクローズアップでないと判断した場合に画像を分割し、この分割した領域毎に色ヒストグラムを算出する色ヒストグラム算出部67と、この色ヒストグラム算出部67による色ヒストグラムを用いて相関係数を算出する相関係数算出部68とを備える。
分類決定部12Bは、図10に示す計算テーブルを用いて各特徴量から奥行きデータを決定し、これらの奥行きデータに基づいて映像を分類する。
ここで、奥行き分類部12が行う処理動作について図11のフローチャートを示しながら詳細に説明する。
奥行き分類部12は、映像信号Vが供給されて処理動作を開始すると、ステップS11において、動きベクトル検出部61が、動きベクトルの検出単位であるマクロブロックにより画像中の動きベクトルを順次検出する。
このステップS11において、動きベクトル検出部61は、背景に対してオブジェクトが動いている場合、撮影されたオブジェクトが位置するマクロブロックでは、他のマクロブロックに対して異なる動きベクトルを検出する。これに対して、動きベクトル検出部61は、一定の領域を撮影した状態で、この領域に動きがない場合、画像中の全てのマクロブロックで値0の動きベクトルを検出する。
また、ステップS11において、動きベクトル検出部61は、図12(A)及び図12(B)に示すように、テレビジョンカメラがパンしている場合、このパンの方向及び速度に応じた動きベクトルを全てのマクロブロックで同一に検出し、図13(A)及び図13(B)に示すように、テレビジョンカメラがチルトしている場合、このチルトの方向及び速度に応じた動きベクトルを全てのマクロブロックで同一に検出する。
また、ステップS11において、動きベクトル検出部61は、図14に示すように、例えば、一定の領域を撮影した状態で、この領域をオブジェクトである人物Aが横方向に移動する場合、背景に対応するマクロブロックでは、値0の動きベクトルを検出し、人物Aに対応するマクロブロックでは、人物Aの動きに応じた動きベクトルを検出する。これに対して、図15に示すように、このような移動する人物Aをカメラが追いかけている場合、または、静止した人物Aの背景が移動している場合、動きベクトル検出部61は、背景に対応するマクロブロックでは、一定値の動きベクトルを検出し、人物Aに対応するマクロブロックでは、値0の動きベクトルを検出する。このように、背景とは値の異なる動きベクトルを検出するマクロブロックには、オブジェクトが割り当てられていると判断することができる。
ステップS12において、動き判断部62は、動きベクトルが所定の閾値以上であるマクロブロックが1つでも存在するか否かを判断することにより、この映像中に動きが存在するか否かを判断する。
このステップS12において、動き判断部62が、動きがあると判断した場合、ステップS13に移り、カメラ動き判断部63は、背景と考えられるマクロブロックの動きベクトルが所定の閾値であるか否かを判断することにより、この映像中にカメラ動きがあるか否かを判断する。一方、動き判断部62が、ステップS12において動きがないと判断した場合、ステップS16に移る。
ステップS13において、カメラ動き判断部63が、カメラ動きがあると判断した場合、ステップS14に移り、動きなし領域抽出部64は、背景のマクロブロックの動きベクトルとは異なる値を有する動きベクトルのマクロブロック数を集計することにより、オブジェクトの面積を算出する。その後、ステップS19に移る。
一方、ステップS13において、カメラ動き判断部63が、カメラ動きがないと判断した場合、ステップS15に移り、動き領域抽出部65は、動きが検出されているマクロブロックを集計することにより、オブジェクトの面積を算出する。その後、ステップS19に移る。
ステップS16において、バストショットクローズアップ判断部66は、1人の人物Aがある程度の大きさにより撮影されているか否か、すなわち、図16に示すように、人物Aが、いわゆるバストショットにより撮影されているか否か、または、図17に示すように、人物Aが、いわゆるクローズアップにより撮影されているか否かを判断する。
このステップS16において、バストショットクローズアップ判断部66が、1人の人物Aがある程度の大きさにより撮影されていると判断した場合、ステップS16からステップS19に移る。バストショットまたはクローズアップ映像は、オブジェクトにある程度接近して撮影した映像であると判断することができるため、バストショットクローズアップ判断部66が、動きベクトルによりオブジェクトまでの距離が検出できない場合、顔の大きさを算出することによって、オブジェクトにより接近した状態であると判断するように構成されている。
一方、このステップS16において、バストショットクローズアップ判断部66が、人物Aがある程度の大きさにより撮影されていないと判断した場合、ステップS16からステップS17に移る。このステップS17において、色ヒストグラム算出部67は、処理対象の映像を等分割する複数の領域を設定し、色の分布を検出する。色ヒストグラム算出部67は、この色の分布の検出を、各領域の色のヒストグラムの算出により実行する。また、図18(A)及び図18(B)に示すように、処理対象の映像を水平方向に3等分して領域L、領域C及び領域Rの3つの領域を設定し、これら3つの領域でそれぞれ色のヒストグラムを算出する。
ここで、図18(A)に示すように、風景等の遠景を撮影している場合、領域L、領域C及び領域Rの3つの領域における色の分布はほぼ等しくなり、これにより色のヒストグラムは、ほぼ同様の形状となる。
また、図18(B)に示すように、特定のオブジェクトを撮影している場合、オブジェクトが背景に比べて色彩等が異なることにより領域L、領域C及び領域Rの各領域に占めるこのオブジェクトの大きさに応じて、色のヒストグラムが相違するようになる。すなわち、オブジェクトを遠くから撮影することにより映像中のオブジェクトが小さくなり、例えば、領域Cに納まる場合、この領域Cの色のヒストグラムのみがこのオブジェクトの影響を受ける。これに対して、オブジェクトを近くから撮影することにより映像中のオブジェクトが大きくなり、例えば、領域Cに納まらず、領域L及び領域Rにも及ぶ場合、これら領域L及び領域Rの色のヒストグラムもオブジェクトの影響を受ける。
このことから、3つの領域、領域L、領域C及び領域Rにおける色のヒストグラムの相違の程度が大きい程、近くのオブジェクトを撮影していると判断することができる。
色ヒストグラム算出部67が領域L、領域C及び領域Rの各領域の色のヒストグラムを求めると、ステップS17からステップS18に移り、このステップS18において、相関係数算出部68は、例えば、領域Cに係る色ヒストグラムにおける各レベルの度数と領域L及び領域Cの色ヒストグラムにおける各レベルの度数との差分絶対値和を計算することにより、領域L、領域C及び領域Rの色のヒストグラム間で、類似の程度を示す相関係数を算出する。その後、ステップS19に移る。
なお、相関係数の算出は、中央の領域である領域Cを基準にして左右の領域である領域L及び領域Rの色ヒストグラムを処理する場合に限らず、例えば、最も色のヒストグラムが異なる領域を基準にして他の領域の色のヒストグラムを処理する場合等、種々の処理の基準を適用することができる。
特徴量検出部12Aは、ステップS14及びステップS15で算出したオブジェクトの面積と、ステップS16で検出したバストショットまたはクローズアップ映像と、ステップS18で算出した色ヒストグラム間の相関係数とを特徴量とし、これらの特徴量のデータを、続く分類決定部12Bに供給する。
ステップS19において、分類決定部12Bは、これらの特徴量と被写体までの距離である奥行きデータとを定義した図10に示す計算テーブルを用いて、各映像における奥行きデータを決定する。ここで、奥行きデータD1,D2,D3は、この順に被写体の奥行き距離が大きくなることを示す。
図10(A)の計算テーブルは、オブジェクトの面積に対応する奥行きデータを定義する。奥行き分類部12は、特徴量検出部12Aが動きベクトルによりオブジェクトの面積を算出した場合、分類決定部12Bは、このオブジェクトの面積により計算テーブルをアクセスして特定画像の奥行きデータを決定する。ここで、図10(A)の計算テーブルは、オブジェクトの面積を順次段階的に区分し、オブジェクトの面積が大きくなるに従って値が小さくなるように奥行きデータを定義する。
また図10(B)の計算テーブルは、特徴量検出部12Aがバストショットまたはクローズアップ映像と判断した場合の奥行きデータを定義し、この場合、分類決定部12Bは、この計算テーブルをアクセスして特定映像の奥行きデータを決定する。
また、図10(C)の計算テーブルは、色のヒストグラムによる相関係数の値と奥行きデータとの関係を定義し、特徴量検出部12Aが相関係数を算出した場合には、この計算テーブルをアクセスして特定映像の奥行きデータを決定する。
奥行き分類部12は、このステップS19において、分類決定部12Bが決定した各映像の奥行きデータを、続く出力先選択部13に供給する。
出力先選択部13は、この奥行きデータを基に、どの映像信号をどのディスプレイに供給するかを決定する。
すなわち、出力先選択部13は、先ず、奥行き分類部12から奥行きデータが供給されると、各映像の奥行きデータを分類する。ここで、テレビジョンカメラからの距離が最も近い被写体が映る映像の奥行きデータから、D1,D2,・・・,Dmとし、この奥行きデータが最も小さい値である映像から、1番目、2番目、・・・、m番目(i=1,2,・・・,m)の映像とする。次に、出力先選択部13は、n個のディスプレイを、それぞれテレビジョンカメラからの距離が最も近い位置にあるものから、1番目、2番目、・・・、n番目(i=1,2,・・・,n)のディスプレイとして特定する。その後、出力先選択部13は、映像信号を順次メモリ15に記録し、このメモリ15に記録した映像信号を順次ディスプレイ14に出力する。例えば、出力先選択部13は、i番目のディスプレイに、奥行きデータがi番目である映像信号を出力する。
上述したように、第1の実施の形態に係る映像視聴システム10は、被写体までの距離が遠い程、奥側のディスプレイに映像を表示するため、ユーザが各表示画面を目視する際、焦点の変化により、さらには両目による立体視により、遠近感を知覚して番組を視聴することができ、従来に比べて、映像視聴の際の臨場感を向上させることが可能となる。
また、映像視聴システム10は、距離により映像信号を分類し、映像信号においては、動きベクトルを検出し、背景に対して値の異なる動きベクトルによりオブジェクトの大きさを検出するため、時間軸方向における映像の変化による特徴量が検出できる。また、動きベクトルにより特徴量を検出できない場合には、肌色の部分の形状により顔の部分を検出し、この顔の部分の面積によりオブジェクトまでの距離が所定距離以下であることを示す色特徴量が検出できる。また、このような顔の部分が所定値より小さい場合には、映像に複数の領域を設定して領域間の色分布を検出し、色分布の相違の程度を示す相関係数により色特徴量が検出できる。
本発明を適用した第2の実施の形態では、1つの映像ソース111から1つの映像信号V1を奥行き分類部121に供給する映像視聴システムを提供する。
この第2の実施の形態に係る映像視聴システムの構成を図19に示す。なお、図1の映像視聴システム10と同様の構成については、同一符号を付して詳細な説明を省略する。
映像視聴システム20では、1つの映像ソース111が映像信号V1を奥行き分類部121に供給すると、奥行き分類部121は、図10に示す計算テーブルを用いて、映像中の各被写体の特徴値から奥行きデータを算出し、映像列を奥行きデータごとの時間領域に区分する。メモリ15は、奥行きデータごとに分割した映像列をそれぞれ格納するメモリ領域151,152,153,・・・を備え、出力先選択部13は、メモリ領域151,152,153,・・・に格納された各奥行きデータの映像列を時系列順に取り出して、奥行きデータに対応したディスプレイにそれぞれ映像を表示する。
このように、第2の実施の形態に係る映像視聴システム20は、1つの映像信号から複数の映像をそれぞれ奥行きデータに対応したディスプレイに表示させることができる。
また、映像視聴システム20は、例えば、図20に示すように、1つの入力映像xを奥行きデータに応じたディスプレイ表示すると同時に、入力映像xの奥行きデータとは異なる奥行きデータを有する別映像y,zをメモリ15から取り出して、別映像y,zを、これら映像の奥行きデータに応じた各ディスプレイに表示するため、ユーザは、1つの番組を各被写体までの奥行きデータに応じた距離感を感じながら視聴することができる。
また、本発明を適用した実施の形態に係る映像視聴システムは、第3の実施の形態として、上述した第1の実施の形態に係る映像視聴システム10における奥行き分類部12に代えて、映像変換部を備えた映像視聴システムを提供する。
この第3の実施の形態に係る映像視聴システムの構成を図21に示す。なお、図1の映像視聴システム10と同様の構成については同一符号を付して詳細な説明を省略する。
映像視聴システム30では、映像ソース111が映像信号V1を映像変換部32に供給すると、映像変換部32は、奥行きの異なる複数映像に変換する。出力先選択部13は、各映像の奥行きデータに応じて、出力するディスプレイ14(ディスプレイ141,142,・・・,14n)を決める。
図22に、映像変換部32のブロック図を示す。奥行き分類部12は入力された映像信号V1から奥行きデータを推定し、映像を奥行きデータとともにメモリ33に記録する。映像抽出部34は、入力映像の奥行きデータとは異なる奥行きデータの映像を出力する数だけメモリ33から取り出す。つまり、入力映像が近景なら遠景の映像をメモリ33から取り出し、入力映像が遠景なら近景の映像をメモリ33から取り出す。
ここで、映像抽出部34が行う動作について図23のフローチャートを示しながら説明する。
映像抽出部34は、映像抽出処理の処理動作を開始すると、先ず、ステップS21において入力映像の奥行きデータを推定する。
次に、映像抽出部34は、ステップS22において前フレームから奥行きデータが変化したか否かを判断する。
ステップS22において、映像抽出部34は、現在のフレームが前フレームと比べて奥行きデータが変化していると判断した場合、ステップS22からステップS23に移り、図24(A)に示すように、入力映像xの奥行きデータのラベル1とは異なる奥行きデータのラベル2,3をそれぞれ持つ別映像y,別映像zのシーンの先頭を探し、奥行きデータごとの映像を出力する。その後、映像抽出部34は、ステップS23からステップS27に移る。
一方、ステップS22において、映像抽出部34は、現在のフレームが前フレームと比べて奥行きデータが変化していないと判断した場合、ステップS22からステップS24に移り、図24(B)に示すように、別映像y,zについて、それぞれ次のフレームを探す。その後、映像抽出部34は、ステップS24からステップS25に移る。
ステップS25において、映像抽出部34は、別映像y,zの次のフレームで奥行きデータが変化しているか否かを判断する。
このステップS25において、図24(C)に示すように、例えばzである別映像の次のフレームで、別映像のシーンが入力映像xのシーンより短いために奥行きデータが変化してしまう場合、ステップS26に移り、映像抽出部34は、その別映像zにおける現在のシーンの先頭に戻る。その後、映像抽出部34は、ステップS26からステップS27に移る。
一方、このステップS25において、別映像y,zの次のフレームで奥行きデータが変化していないと判断した場合、映像抽出部34は、ステップS27に移る。
このステップS27において、映像抽出部34は、奥行きデータごとに映像を出力し、映像抽出処理を終了する。
このように、第3の実施の形態に係る映像視聴システム30では、例えば、入力映像が近景なら遠景の別映像をメモリ33から取り出し、また、入力映像が遠景なら近景の別映像をメモリ33から取り出すというように、時系列の異なる複数の映像を、奥行きデータに基づいて選択的にディスプレイ14に表示することが可能となる。
例えば、図25に示すように、最も近景の入力映像xと、奥行きデータの異なる別映像y及びzとを、メモリ33から取り出して、奥行きデータに基づく各ディスプレイに表示するため、ユーザは、1つの番組を奥行きデータに応じた被写体までの距離感を感じながら視聴することができる。
また、本発明を適用した実施の形態に係る映像視聴システムは、第4の実施の形態として、上述した第1の実施の形態に係る映像視聴システム10における出力先選択部13に代えて可動制御部を備えた映像視聴システムを提供する。
この第4の実施の形態に係る映像視聴システムでは、図26に示すように、ディスプレイ14a及びディスプレイ14bは、車輪等の可動機構25を備えており、映し出される映像の奥行きデータに合わせてユーザに対して奥行き方向に前後に移動する。
この第4の実施の形態に係る映像視聴システムの構成を図27に示す。なお、図1の映像視聴システム10と同様の構成については同一符号を付して詳細な説明を省略する。
図27に示すように、映像視聴システム40では、各奥行き分類部12(奥行き分類部121,122,・・・,12m)が奥行きデータのデータを続く各可動制御部44(可動制御部441,442,・・・,44m)に供給すると、各可動制御部44は、この奥行きデータのデータに基づいて、例えば、奥行きデータが小さい場合は前進し、奥行きデータが大きい場合は後退するというように、奥行きデータとユーザからディスプレイ14までの距離とが対応するように、各映像を映し出したディスプレイ141,142,・・・,14nをユーザに対して前後方向に移動させる。
例えば、図28に示すように、ディスプレイ141,142,143がスポーツの異なる3試合の映像を映し出した場合、奥行き分類部12は、3試合の映像を奥行きデータで分類し、可動制御部44が、各試合の映像を映し出した各ディスプレイを奥行きデータに対応した距離に移動させることにより、ユーザは、3試合の映像を同時に奥行きや迫力を感じながら視聴することが可能となる。
なお、本発明は上述した実施の形態のみに限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能であることは勿論である。
上述した実施の形態では、一連の処理プログラムは、システムにプリインストールされているが、このようなプリインストールによる提供に代えて、インターネット等のネットワークを介したダウンロードにより提供してもよく、または、各種の記録媒体を介して提供してもよい。このような記録媒体としては、例えばCD−ROM、DVD等の光ディスク、フロッピー(登録商標)ディスク等の磁気ディスク、駆動機構と一体構成による着脱可能なハードディスク装置、メモリカード等、種々の記録媒体を適用することができる。
また、上述した実施の形態では、各機能ブロックを組み合わせた構成を備える映像表示装置がディスプレイに各映像を表示させているが、ディスプレイ内に上述した映像表示システムを搭載してもよい。
本発明は、例えば、遠景のシーンと近景のシーンとを切り換えてなる番組の視聴に適用することができる。
奥行き方向に配置した複数のディスプレイに映像を表示した様子を示した図である。 (A)は、実世界におけるユーザと2つの被写体との位置関係を示した図であり、(B)は、ユーザと被写体を表示した複数のディスプレイとの位置関係を示した図である。 2つのディスプレイを横方向に配置した場合の様子を示した図である。 2つのディスプレイを奥行き方向に配置した場合の様子を示した図である。 本実施の形態に係る映像視聴システムを示すブロック図である。 複数の映像を複数のディスプレイに表示する様子を示した図である。 映像視聴システムにおける複数のディスプレイの配置を示す図である。 奥行き分類部のシステムを示すブロック図である。 特徴量検出部のシステムを示すブロック図である。 特徴量と奥行きデータとを定義した計算テーブルを示す図である。 奥行き分類部の処理手順を示すフローチャートである。 テレビジョンカメラがパンしている場合の動きベクトルを示す模式図である。 テレビジョンカメラがチルトしている場合の動きベクトルを示す模式図である。 静止した背景に対してオブジェクトが移動している場合の動きベクトルを示す模式図である。 移動するオブジェクトをテレビジョンカメラが追いかけている場合の動きベクトルを示す模式図である。 バストショットで撮影したオブジェクトを示す平面図である。 クローズアップで撮影したオブジェクトを示す平面図である。 撮影領域を3つに分割した場合の平面図である。 本実施の形態に係る映像視聴システムを示すブロック図である。 入力映像と、入力映像と時系列の異なる映像とを再生する場合の一例を示す模式図である。 本実施の形態に係る映像視聴システムを示すブロック図である。 映像変換部のシステムを示すブロック図である。 映像抽出部の処理手順を示すフローチャートである。 出力画像の抽出方法を示す模式図である。 入力映像と異なる時系列の映像を再生する場合の一例を示す模式図である。 可動機構を備えたディスプレイを示す図である。 実施の形態に係る映像視聴システムを示すブロック図である。 可動機構を備えたディスプレイを示す図である。
符号の説明
10 映像視聴システム、11 映像ソース、12 奥行き分類部、13 出力先選択部、14 ディスプレイ、15 メモリ、20 映像視聴システム、24 可動制御部、30 映像視聴システム、32 映像変換部、33 メモリ、34 映像抽出部、61 動きベクトル検出部、62 動き判断部、63 カメラ動き判断部、64 動きなし領域抽出部、65 動き領域抽出部、66 バストショットクローズアップ判断部、67 色ヒストグラム算出部、68 相関係数算出部

Claims (4)

  1. 少なくとも1つの映像信号による画像を複数の表示画面に表示する映像表示装置であって、
    前記画像における被写体までの奥行き距離に基づいて、前記映像信号を分類する分類手段と、
    前記分類手段で分類した前記映像信号による画像を複数の前記表示画面上に表示し、前記奥行き距離と該表示画面を視聴する視聴者から該表示画面までの距離とが対応するように該表示画面を該視聴者に対して奥行き方向の前後に移動させる可動制御手段と
    を備えることを特徴とする映像表示装置。
  2. 少なくとも1つの映像信号による画像を複数の表示画面に表示する映像表示方法であって、
    前記画像における被写体までの奥行き距離に基づいて、前記映像信号を分類する分類工程と、
    前記分類工程で分類した前記映像信号による画像を複数の前記表示画面上に表示し、前記奥行き距離と該表示画面を視聴する視聴者から該表示画面までの距離が対応するように該表示画面を該視聴者に対して奥行き方向の前後に移動させる可動制御工程と
    を有することを特徴とする映像表示方法。
  3. 演算処理手段に所定の処理手順を実行させることにより、映像信号による画像を複数の表示画面に表示する映像表示方法のプログラムであって、
    前記所定の処理手順が、
    前記画像における被写体までの奥行き距離に基づいて、前記映像信号を分類する分類工程と、
    前記分類工程で分類した前記映像信号による画像を複数の前記表示画面上に表示し、前記奥行き距離と該表示画面を視聴する視聴者から該表示画面までの距離とが対応するように該表示画面を該視聴者に対して奥行き方向の前後に移動させる可動制御工程と
    を有することを特徴とする映像表示方法のプログラム。
  4. 演算処理手段に所定の処理手順を実行させることにより、映像信号による画像を複数の表示画面に表示する映像表示方法のプログラムを記録した記録媒体であって、
    前記所定の処理手順が、
    前記画像における被写体までの奥行き距離に基づいて、前記映像信号を分類する分類工程と、
    前記分類工程で分類した前記映像信号による画像を複数の前記表示画面上に表示し、前記奥行き距離と該表示画面を視聴する視聴者から該表示画面までの距離とが対応するように該表示画面を該視聴者に対して奥行き方向の前後に移動させる可動制御工程と
    を有することを特徴とする映像表示方法のプログラムを記録した記録媒体。
JP2005236034A 2005-08-16 2005-08-16 映像表示方法、映像表示方法のプログラム、映像表示方法のプログラムを記録した記録媒体及び映像表示装置 Expired - Fee Related JP4645356B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005236034A JP4645356B2 (ja) 2005-08-16 2005-08-16 映像表示方法、映像表示方法のプログラム、映像表示方法のプログラムを記録した記録媒体及び映像表示装置
US11/503,841 US8159527B2 (en) 2005-08-16 2006-08-14 Method of displaying pictures, program for displaying pictures, recording medium holding the program, and display unit

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005236034A JP4645356B2 (ja) 2005-08-16 2005-08-16 映像表示方法、映像表示方法のプログラム、映像表示方法のプログラムを記録した記録媒体及び映像表示装置

Publications (2)

Publication Number Publication Date
JP2007053496A JP2007053496A (ja) 2007-03-01
JP4645356B2 true JP4645356B2 (ja) 2011-03-09

Family

ID=37766992

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005236034A Expired - Fee Related JP4645356B2 (ja) 2005-08-16 2005-08-16 映像表示方法、映像表示方法のプログラム、映像表示方法のプログラムを記録した記録媒体及び映像表示装置

Country Status (2)

Country Link
US (1) US8159527B2 (ja)
JP (1) JP4645356B2 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5339919B2 (ja) 2006-12-15 2013-11-13 パナソニック株式会社 符号化装置、復号装置およびこれらの方法
US8325978B2 (en) * 2008-10-30 2012-12-04 Nokia Corporation Method, apparatus and computer program product for providing adaptive gesture analysis
KR20110097879A (ko) * 2008-11-24 2011-08-31 코닌클리케 필립스 일렉트로닉스 엔.브이. 3d 비디오와 보조 데이터의 조합
JP4793451B2 (ja) 2009-01-21 2011-10-12 ソニー株式会社 信号処理装置、画像表示装置、信号処理方法およびコンピュータプログラム
JP2011147109A (ja) * 2009-12-16 2011-07-28 Canon Inc 撮像装置及び画像処理装置
JP5675197B2 (ja) * 2010-07-26 2015-02-25 オリンパスイメージング株式会社 表示装置
JP2012134655A (ja) * 2010-12-20 2012-07-12 Toshiba Corp 画像処理装置、画像処理方法および画像表示装置
JP5791328B2 (ja) * 2011-03-30 2015-10-07 Necパーソナルコンピュータ株式会社 3d画像処理方法及び3d画像処理装置
JP5711079B2 (ja) * 2011-09-01 2015-04-30 シャープ株式会社 画像表示装置
WO2018034171A1 (ja) * 2016-08-19 2018-02-22 ソニー株式会社 画像処理装置および画像処理方法
WO2022123772A1 (ja) * 2020-12-11 2022-06-16 日本電信電話株式会社 映像表示方法、映像表示装置およびプログラム
US20240098244A1 (en) * 2020-12-11 2024-03-21 Nippon Telegraph And Telephone Corporation Image display method, image display device, and program
JP2023060615A (ja) * 2021-10-18 2023-04-28 マクセル株式会社 空中浮遊映像表示システム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005065051A (ja) * 2003-08-18 2005-03-10 Sony Corp 撮像装置
JP4461834B2 (ja) * 2004-02-23 2010-05-12 ソニー株式会社 映像表示方法、映像表示方法のプログラム、映像表示方法のプログラムを記録した記録媒体及び映像表示装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS56168484A (en) * 1980-05-29 1981-12-24 Matsushita Electric Ind Co Ltd Stereoscopic television system
JP2560343B2 (ja) * 1987-09-19 1996-12-04 日本ビクター株式会社 三次元表示装置
US5581625A (en) * 1994-01-31 1996-12-03 International Business Machines Corporation Stereo vision system for counting items in a queue
JP3524147B2 (ja) * 1994-04-28 2004-05-10 キヤノン株式会社 3次元画像表示装置
KR100414629B1 (ko) * 1995-03-29 2004-05-03 산요덴키가부시키가이샤 3차원표시화상생성방법,깊이정보를이용한화상처리방법,깊이정보생성방법
JP3882273B2 (ja) * 1997-06-03 2007-02-14 日産自動車株式会社 両眼立体視表示装置
US6525699B1 (en) * 1998-05-21 2003-02-25 Nippon Telegraph And Telephone Corporation Three-dimensional representation method and an apparatus thereof
JP4190263B2 (ja) * 2002-11-25 2008-12-03 三洋電機株式会社 立体視用映像提供方法及び立体映像表示装置
CN1726726A (zh) * 2002-12-16 2006-01-25 三洋电机株式会社 立体图像产生设备和立体图像传递方法
JP4188968B2 (ja) * 2003-01-20 2008-12-03 三洋電機株式会社 立体視用映像提供方法及び立体映像表示装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005065051A (ja) * 2003-08-18 2005-03-10 Sony Corp 撮像装置
JP4461834B2 (ja) * 2004-02-23 2010-05-12 ソニー株式会社 映像表示方法、映像表示方法のプログラム、映像表示方法のプログラムを記録した記録媒体及び映像表示装置

Also Published As

Publication number Publication date
US8159527B2 (en) 2012-04-17
JP2007053496A (ja) 2007-03-01
US20070040904A1 (en) 2007-02-22

Similar Documents

Publication Publication Date Title
JP4645356B2 (ja) 映像表示方法、映像表示方法のプログラム、映像表示方法のプログラムを記録した記録媒体及び映像表示装置
US9300947B2 (en) Producing 3D images from captured 2D video
Arev et al. Automatic editing of footage from multiple social cameras
US7606462B2 (en) Video processing device and method for producing digest video data
JP4683031B2 (ja) 電子機器、コンテンツ分類方法及びそのプログラム
JP4645707B2 (ja) コンテンツデータ処理装置
EP1986128B1 (en) Image processing apparatus, imaging apparatus, image processing method, and computer program
CN101552890B (zh) 信息处理设备、信息处理方法
JP4618166B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US8849093B2 (en) Thumbnail generating apparatus and thumbnail generating method
US20090244093A1 (en) Method and device for adaptive video presentation
WO2005086478A1 (ja) 動画像データ処理
Pidaparthy et al. Keep your eye on the puck: Automatic hockey videography
JP2013206104A (ja) 情報処理装置、情報処理方法、及びプログラム
US9113153B2 (en) Determining a stereo image from video
JP2003061038A (ja) 映像コンテンツ編集支援装置および映像コンテンツ編集支援方法
JP4461834B2 (ja) 映像表示方法、映像表示方法のプログラム、映像表示方法のプログラムを記録した記録媒体及び映像表示装置
JP4835545B2 (ja) 画像再生装置、撮像装置、および画像再生方法、並びにコンピュータ・プログラム
JP2011008508A (ja) 重要情報抽出方法および装置
JP2003061112A (ja) カメラワーク検出装置およびカメラワーク検出方法
JP2011171862A (ja) 再生装置、再生方法、およびプログラム
JP4934066B2 (ja) 情報生成装置、情報生成方法及び情報生成プログラム
JP2009094879A (ja) 動画像再生方法
JP4893524B2 (ja) 電子機器、映像データ判定方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080618

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100820

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100824

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101015

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101109

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101122

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131217

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131217

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees