以下、図を参照して本発明に係る映像合成装置を、合成した映像を表示する映像表示装置に適用した場合について詳細に説明する。
(第1の実施形態)
本発明の第1の実施形態にかかる映像表示装置、方法、並びに表示用データを、図1乃至図10を用いて説明する。
図1は、本発明の第1の実施形態にかかる映像表示装置1の概略構成を示した機能ブロック図である。映像表示装置1では、2つの映像データ(符号化映像ストリーム)が入力され、それらが復号、合成されいわゆる「ピクチャ・イン・ピクチャ表示」状態で表示される。本明細書では以下、ピクチャ・イン・ピクチャ表示において親画面に表示される映像を「メイン映像」、子画面として表示される映像を「サブ映像」と呼んで区別する。
映像表示装置1は、メイン映像の映像データを復号及び出力制御する復号部101及びバッファリング部102、サブ映像の映像データを復号及び出力制御する復号部103及びバッファリング部104、サブ映像をメイン映像に合成する合成部105及びその内部構成である調整部106、出力映像を表示する表示部107に加えて、ユーザからのサブ映像(子画面)の表示/非表示の切り替え指示を受け付ける入力部108と、該切り替えに対応して、復号部103及び/又はバッファリング部104の処理を調整する処理制御部109、並びに、別途入力されるサブ映像の表示用データと再生時の時刻情報とから、サブ映像(子画面)の表示位置を指定する位置指定部110とを備えて構成される。本明細書では以下、サブ映像(子画面)の表示位置を指定するのに利用されるこの表示用データを、映像データに対する「メタデータ」と呼ぶ。
なお、ここでは映像表示装置1を、復号部101、103を含んだ構成として示したが、それらは必須ではない。例えば、入力される映像データが符号化されていない映像データであれば、映像表示装置1は復号部101、103を含まなくともよい。また、図1の映像表示装置1は、映像のデータ(映像信号に係るデータ)の処理に関する機能ブロックのみを含んで構成されているが、実際の映像データは、映像信号に係るデータ以外に、オーディオデータや管理データ(符号化方式など符号化データの復号に必要な情報や、映像の切出しや連結を指定したプレイリストなど映像の再生に必要な情報)を含み、実際の映像表示装置は、それらを処理するための機能ブロックも含んで構成されるものである。この時、図1は、実際の映像表示装置の内部構成として実施される。
まず、映像表示装置1において、サブ映像(子画面)が表示されない時の処理について説明する。この時、サブ映像の映像データは、入力されていないか、あるいは入力されているが非表示処理されている。
入力されたメイン映像の映像データは、復号部101で復号され、復号された映像はバッファリング部102でタイミングを調整された上で出力される。サブ映像が表示されないため、バッファリング部102から出力された復号映像は、合成部105をそのまま素通りして、表示部107に入力される。そして、メイン映像がそのまま表示される。
次に、映像表示装置1において、サブ映像(子画面)が表示される場合の処理を説明する。
入力されたサブ映像の映像データは、復号部103で復号され、復号された映像はバッファリング部104でタイミングを調整された上で出力される。このサブ映像の復号映像は、合成部105内の調整部106に入力される。
調整部106は、サブ映像をメイン映像に合成する前処理として、サブ映像の復号映像の画像サイズや画面上の表示位置を変換、調整する。この時、後述する位置指定部110で指示されたメイン映像(親画面)の表示位置にサブ映像(子画面)を合成するように調整する。その後、入力されたメイン映像の復号映像に調整後のサブ映像が合成されて出力され、表示部107を通して表示される。また、合成時に透過度が設定されて、合成されたサブ映像の下にメイン映像が透けて見えるような合成を行うことも可能である。
映像表示装置1は、入力部108を備えており、ユーザからサブ映像(子画面)の表示/非表示の切り替え指示を受け付ける。そして、入力部108は、入力された切り替え指示に基づいて、サブ映像(子画面)が現時点で表示状態か非表示状態かを示す表示状態情報を生成し、処理制御部109及び位置指定部110に伝える。
処理制御部109は、入力部108から表示状態情報を受け取り、それに基づいて復号部103及び/又はバッファリング部104の処理を制御する。例えば、表示状態情報が「非表示状態」になった時に復号部103での復号処理及び/又はバッファリング部104からの出力を停止し、表示状態情報が「表示状態」になった時点でそれらの処理を再開することで、非表示の間、サブ映像を一時停止状態にしておく、といった処理を行う。
位置指定部110は、入力部108から表示状態情報を受け取り、サブ映像(子画面)が表示状態である時に、後述するメタデータを使って、サブ映像(子画面)を表示するメイン映像(親画面)内の表示位置を決定し、調整部106に通知する。
メイン映像は時間的に変化するものであり、サブ映像を表示させたい、あるいはサブ映像を表示させてもよいメイン映像内の表示位置は、メイン映像の変化に伴って時間的に変化するものである。そのため、上述したように、処理制御部109並びに処理制御部109で制御される復号部103及び/又はバッファリング部104によってサブ映像が非表示となり一時停止状態となってから、いくらかの時間が経過後に再生を再開しサブ映像を表示する時、非表示になる前と同じ位置に表示されることが望ましいとは限らない。本発明で与えるサブ映像の表示用データ、即ちメタデータは、メイン映像の各時刻位置に対して、サブ映像をメイン映像の何処に表示するか、あるいは何処に表示が可能かを与えたデータであり、位置指定部110は、サブ映像の映像データと共に入力されるメタデータを使って、再生時の時刻情報で示される時刻位置に対応するサブ映像(子画面)の表示位置を出力する。
本実施形態で扱う映像表示用のメタデータについて、図2乃至図5を用いてさらに詳しく説明する。
図2、図3は、本発明で与えるサブ映像表示に係るメタデータの具体例を示したものである。映像データに含まれる映像ストリーム(サブ映像ストリーム)は、ヘッダ部分と映像データ部分から構成されている。そして、ヘッダ部分にはストリームに関する各種情報が含まれており、当該ヘッダ部分にメタデータが含まれている。
図2、図3では各々、具体的なメタデータの構造(図2(a)、図3(a))と、そのメタデータが指し示している表示領域もしくは表示可能領域を示した図(図2(b)、図3(b))とに加えて、表示領域もしくは表示可能領域の時間的な変化が理解し易いように、同じく表示領域もしくは表示可能領域を1次元として模式的に表した図(図2(c)、図3(c))とが記載されている。即ち、図2(c)及び図3(c)の縦軸は画面の空間的な2次元位置を表すものであり、図示された帯の縦幅が表示領域もしくは表示可能領域の大きさに対応する。
図2(a)にメタデータの構造の一例を示す。メタデータには、サブ映像の総再生時間200と、メイン映像の再生時刻(再生開始位置を「00:00:00」とする再生時間)を基準として、メイン映像のどの時間範囲でサブ映像が表示可能かを示す表示可能時間情報201と、表示可能な時間範囲内の各々の時刻で、サブ映像を表示するメイン映像内の位置を示した表示領域情報202とを含んで構成されている。なお、図2で示した表示領域情報202は、サブ映像(子画面)の表示サイズが予め与えられた固定サイズであることを想定し、子画面の左上頂点位置を示している。例えば、時間「00:00:10」からは(x1,y1)を左上の頂点位置として、サブ映像が表示される。なお、頂点座標は左上の座標とは限らず、例えばサブ映像の中心座標としても良いことは勿論である。
図2(b)は、メイン映像の各時刻でサブ映像を表示する表示領域を2次元で表したものである。例えば、時刻「00:00:15」〜時刻「00:00:30」の間であれば、サブ映像は(x2,y2)を左上の頂点座標とするメイン映像内の領域に合成されて表示される。
図2(c)は、サブ映像を表示する表示領域を1次元で表したものである。縦方向はメイン映像における空間位置(領域)を示しており、横方向は時刻(メイン映像の時間位置)を示している。例えば、時刻「00:00:15」のときに、サブ映像の左上の頂点座標が(x1,y1)から(x2,y2)に移動していることが図示されている。そして、メイン映像に対するサブ映像の表示領域は、図2(c)において時刻「00:00:15」及び「00:00:30」で位置が変化する帯状の領域として表されている。
図3(a)も同様にメタデータの構造の一例を示す。図3(a)に示したメタデータは、サブ映像の総再生時間300と、メイン映像の再生時刻を基準として、メイン映像のどの時間範囲でサブ映像が表示可能かを示す表示可能時間情報301と、表示可能な時間範囲内の各時刻で、サブ映像を表示することが可能な(表示することが許可された)メイン映像内の領域を示した表示可能領域情報302とを含んで構成されている。図3で示した表示可能領域情報302は、子画面が表示可能な領域を左上、右下2つの頂点座標で表している。例えば、図3(b)を参照すると、時刻「00:00:10」からは、座標(x1,y1)、(x1’,y1’)を左上、右下の各頂点とする矩形領域にサブ映像(子画面)が表示可能であることが示されている。サブ映像(子画面)の表示サイズが予め与えられた固定サイズであり、図3の表示可能領域情報302で指定される表示可能領域が子画面の表示サイズより大きい場合に、サブ映像は、表示時に表示可能領域内で任意の位置に表示することができるものとする。また、表示可能領域の範囲内で、表示されているサブ映像(子画面)を移動、もしくは拡大表示可能としてもよい。例えば、図3(c)において、メイン映像に対してサブ映像を表示できる領域は、時刻「00:00:15」及び「00:00:30」で位置、幅が変化する帯状の領域として表されている。
図2及び図3に示した2つの例では、サブ映像(子画面)のサイズが固定であることを想定してメタデータにより表される表示(可能)領域について説明したが、これに限らず、表示領域情報がサブ映像の表示サイズ自体を表すとしてもよい。即ち、図3と同様に表示領域を左上、右下2つの頂点座標で表した上で、サブ映像が表示される際に、その表示領域のサイズにサブ映像が拡大又は縮小されて表示されるようにしてもよい。
図4の表は、本発明で与えるメタデータに関して、表示(可能)領域を指定する時間範囲の設定、及び表示(可能)領域の記述形式についてのバリエーションを示したものである。但し、図4には、表示(可能)領域が矩形領域の場合のみを例示している。
時間範囲の設定の仕方としては、任意区間を指定するものと、固定の単位区間毎に表示(可能)領域を与えるものとがある。なお、任意区間を指定する際、連続する区間の間には時間の抜けや重複が無いとすれば、区間の開始もしくは終了時刻のいずれか一方を省略しても構わない。また、図4の表では、時刻の表現として、一般的に用いられている「時:分:秒」を例に挙げたが、これに限らず、例えば全体を「秒」もしくは「ミリ秒」で与えるといった形式であってもよい。また、固定の単位区間毎に与える場合では、図4に例示した5秒毎以外にも、任意の時間、例えば1秒毎や、250ミリ秒毎、1分毎などに1つずつ表示(可能)領域を与えるようにしてもよい。また、時間以外に、フレーム毎や、GOP(Group Of Picture)といった映像符号化時の単位毎に与えることもできる。単位区間の長さは、格納される映像の性質によって適宜設定される。
表示(可能)領域の記述形式としては、座標1つのみ、座標2つ、座標とサイズ、といった指定の仕方がある。このうち、座標1つで指定可能なのは、サブ映像の表示サイズが予め決められるケースである。また、領域を座標2つ、もしくは座標とサイズで表すのは、サブ映像の表示サイズが指定された領域よりも小さい、いわゆる表示可能領域を表すケースと、サブ映像を指定された領域にリサイズ(拡大あるいは縮小)する、表示領域を表すケースとがある。表示可能領域として、メイン映像内の上下あるいは左右に亘った帯状の領域(例えば画面の上半分、下半分といった領域)を指定することも可能である。また、図4は表示(可能)領域を矩形領域とした例であるが、これ以外に、表示(可能)領域を多角形や楕円といった矩形以外の形状で与えるか、または任意形状で与えることも可能である。任意形状領域は、例えばそれを表したマスク画像などにより与えられる。ここでは任意形状の具体的な記述形式については説明を省略する。
また、図2、図3のように表示(可能)領域の位置がある時刻で離散的に変化するので無く、図5に示すように表示(可能)領域が時間的に連続して変化するように指定することもできる。この場合のメタデータ(図5(a))に含まれる表示(可能)領域情報502は、例えば図5に示すように、時間区間と、その時間区間の開始時刻位置での表示(可能)領域の位置、及びその時間区間の終了時刻位置での表示(可能)領域の位置の組み合わせで与えられる。例えば、子画面の表示領域を図5(b)に示す。ここで、時刻「00:00:10」のとき、子画面は(x1、y1)を左上の座標とする表示領域に表示される。そして、時刻「00:00:20」のときに、子画面が(x2、y2)を左上の座標とする表示領域に表示されるように、連続して表示領域を移動させる。また、時刻「00:00:40」のときに、子画面が(x3、y3)を左上の座標とする表示領域に表示されるように、連続して表示領域を移動させる。そして、この場合における表示領域もしくは表示可能領域を1次元として模式的に表したのが図5(c)である。
なお、連続して変化する領域の指定方法はこれに限らず、開始時刻位置での表示(可能)領域の位置とそこからの単位変化量(移動ベクトル)によって与える、といった方法もある。
また、本発明では、メタデータにより表される領域を表示領域(表示される領域)もしくは表示可能領域(表示できる領域)であるとしているが、逆に、それ以外の領域を表示禁止領域(表示できない領域)として指定している、と捉えることもできる。即ち、表示可能時間と表示禁止領域とを指定するメタデータにも、本発明は同様に適用される。
次に、以上で説明した表示用のメタデータを使って、サブ映像をメイン映像に合成して再生、表示する際の具体的な動作について、図6乃至図10を用いて説明する。
図6は、サブ映像(子画面)の表示/非表示の切り替えを含むサブ映像表示時の処理を示したフローチャートである。本フローチャートは、図1で示した映像表示装置1の装置構成のうち、主に位置指定部110、処理制御部109及び合成部105の動作を示している。また、図7乃至図10には、図6のフローチャートを通して図1の映像表示装置1でサブ映像が合成表示された時の動作結果の一例を示した。図7乃至図10中、黒く塗った箇所が、サブ映像の表示された時間、並びにその時の表示位置を示している。
なお、以下、表示領域がサブ映像の表示サイズと同じとなる図2で示したメタデータを例にとって再生、表示過程を説明していくが、表示領域のサイズがサブ映像の表示サイズよりも大きい、いわゆる表示可能領域を示したメタデータを用いる場合であっても、位置指定部110が表示可能領域から適宜表示位置を決定して出力する以外に、基本的な動作は変わらない。
位置指定部110は、メタデータを読み込む(ステップS1)と、まず、メタデータに含まれる表示可能時間情報(図2の201)に従い、メイン映像の現在の再生時刻が表示可能時間内であるかを判定する(ステップS2及びS3)。表示可能時間の開始時刻よりも前であれば、表示可能時間が開始されるまで待機することにより、サブ映像は表示されない(ステップS2;No)。
メイン映像における現在の再生時刻が表示可能時間内であれば(ステップS2;Yes→ステップS3;No)、位置指定部110はサブ映像の表示/非表示状態の変更の指示を入力部108から受け付ける。ここで、サブ映像を表示する指示を受け、サブ映像が表示状態である場合には(ステップS4;Yes)、サブ映像の復号処理を行い、復号画像を出力する(ステップS5)。また、位置指定部110は、メイン映像の現在の再生時刻位置に関する時刻情報を取得し(ステップS6)、メタデータを用いて現在の再生時刻位置に対応するサブ映像の表示位置を決定する(ステップS7)。そして、合成部105は、メイン映像内の指定された表示位置にサブ映像を合成して表示する(ステップS8)。そして、サブ映像のデータが終了となっていない場合(ステップS9;No)は、処理をステップS3に移行し処理を継続する。
他方、サブ映像の表示/非表示状態の変更指示により、サブ映像が非表示状態とユーザにより指示された場合(S4;No)には、サブ映像の復号並びに出力処理を停止し(ステップS10)、サブ映像の表示自体を一時停止状態とする。
サブ映像の再生が終了するか(S9;Yes)、あるいはメイン映像の再生時刻がサブ映像の表示可能時間の終了時刻を過ぎたら(S3;Yes)、サブ映像の表示処理は終了する。
図7乃至図10は、メイン映像とサブ映像との位置関係を模式的に示した図である。縦方向にメイン映像の空間位置を、横方向に時間を示している。今、時刻「00:00:00」からメイン映像の出力が開始される。さらに、図2(a)で示したメタデータ構造を利用した場合におけるサブ映像の表示状態について表している。
まず、図7は、時刻「00:00:13」までの状態を表した図である。図2(a)におけるメタデータ構造を参照すると、時刻「00:00:10」からサブ映像の表示可能時間が開始する。そして、時刻「00:00:13」のときにサブ映像を表示する操作がユーザによりなされると(図6のステップS2;Yes→ステップS3;No→ステップS4;Yes)、サブ映像が復号される(ステップS5)。そして、メイン映像と合成され、メタデータで示された時刻「00:00:13」に対応する表示位置に、サブ映像の表示が開始される(図7の黒塗り部)。
つづいて、図8は、時刻「00:00:20」までの状態を表した図である。図2(a)におけるメタデータ構造を参照すると、時刻「00:00:15」のときにサブ映像の表示領域を変更する内容が記述されている。したがって、位置指定部110は、メタデータの表示領域201にしたがって、サブ映像の表示位置を変更する(ステップS7)。また、時刻「00:00:20」において、入力部108からサブ映像の状態を非表示とする信号が入力されると(ステップS4;No)、位置指定部110から合成部105に対してサブ映像の出力を停止する信号を出力する。そして、合成部105は、サブ映像の出力を停止する(ステップS10)。
つづいて、図9は、時刻「00:00:28」までの状態を表した図であり、再びサブ映像(子画面)が表示状態に切り替えられた時の状態を示している。この時、サブ映像は一時停止状態から再生状態に復帰し、「00:00:20」時点で再生されていた続きのサブ映像が再生される。そしてその時のサブ映像(子画面)の表示位置は、メタデータによって時刻「00:00:28」に対応した表示位置が与えられる。
つづいて、図10は、時刻「00:00:36」までの状態を表した図であり、総再生時間「15」秒であるサブ映像の再生が終了した状態を示している。まず、図2(a)に記載されたメタデータを参照すると、時刻「00:00:30」の時にサブ映像の表示領域が変更される(ステップS7)。そして、総再生時間「15」秒が経過した「00:00:36」において、サブ映像の出力は停止する(ステップS9;Yes)。
以上説明したように、本発明の第1の実施形態にかかる映像表示装置1では、サブ映像の表示領域あるいは表示可能領域を示したメタデータを利用することによって、サブ映像がメイン映像に合成表示される時、その表示時刻に対応したメイン映像内でのサブ映像の表示位置を適切に指定することができる。これにより、サブ映像は、表示可能時間の範囲内で自由に表示、非表示を切り替えることができ、また、自由に表示、非表示を切り替えても、メイン映像にとって望ましくない位置にサブ映像が合成表示されることを回避することができる。
本実施形態の図1では、上記したメタデータが、それぞれの映像データと独立して入力されるように描かれている。例えば、映像データと共に、映像データを管理するための管理データ(符号化方式など符号化データの復号に必要な情報や、映像の切出しや連結を指定したプレイリストなど映像の再生に必要な情報)が映像と別ストリームで与えられるような場合に、メタデータを管理データ内に格納して映像表示装置1に与えることができる。あるいは、図2(a)あるいは図3(a)に既に示しているように、上記したメタデータが、サブ映像の映像データを含む映像ストリーム中に格納されて提供されるようにしてもよい。この場合には、映像表示装置1に入力する前に、サブ映像の映像ストリームからメタデータを分離する処理が必要である。
また、上記したメタデータは、サブ映像の再生に伴って消費されるため、通常はサブ映像と一対一で与えられると考えられるが、例えば、メイン映像がメタデータを有して、複数のサブ映像に対して、どのサブ映像にも共通にそのメタデータを適用する、といった使用方法も考えられる。その場合には、メイン映像の映像データ(の映像ストリーム)中にメタデータが格納されることもある。さらに、図2(a)、図3(a)では、映像ストリームのヘッダ位置に上記メタデータが格納されているが、格納位置はこれに限らす、ストリームの中間、例えば映像データが複数のパケットに分割されて送られるような場合に、映像パケットと映像パケットの間に新規のデータパケットとして埋め込むか、あるいは映像パケットそれぞれのパケットヘッダに格納するとしてもよい。
映像の提供者は、上記のようにして映像データと共にメタデータを提供することにより、提供者の意図した表示位置でピクチャ・イン・ピクチャ時のサブ映像の表示を可能とする。
また、図1に示した映像表示装置1の合成部105は、サブ映像の調整のみを行い、メイン映像の調整は行わない(即ちメイン映像は全画面表示)が、例えば、メイン映像の復号映像の入力側にも(サブ映像用の調整部106と別個の)調整部106aを設けて、メイン映像、サブ映像共に調整して出力する合成部105aを構成することも可能である(合成部105a及び調整部106aについては特に図示していない。)。但し、その場合、メタデータはサブ映像を合成表示するメイン映像上の表示(可能)領域を表すため、上記調整部106aでメイン映像の調整を行った際には、その調整に応じてメタデータで示されるサブ映像の表示(可能)領域も調整する必要がある。即ち、例えば、メイン映像が縦横共に2分の1に縮小表示される場合には、そのメイン映像に合成表示されるサブ映像の表示(可能)領域も縦横2分の1に圧縮される。このことは、他の実施形態においては特に明言しないが、他の実施形態についても全く同様に当てはまるものとする。
(第2の実施形態)
次に、本発明の第2の実施形態にかかる映像表示装置、方法、並びに表示用データを、図1、図6、並びに図11乃至図15を用いて説明する。
本発明の第2の実施形態にかかる映像表示装置2の概略構成は、第1の実施形態と同様に図1の機能ブロック図で表される。但し、第2の実施形態では、第1の実施形態と扱うメタデータが異なり、表示装置の動作としては、位置指定部の動作のみが映像表示位置1(位置指定部110)と映像表示装置2(位置指定部210)とで異なる。このため、以下では、第1の実施形態との相違を中心に、第2の実施形態の映像表示装置2で用いるメタデータと、そのメタデータを用いた再生時の具体的動作とを説明する。
図11に、本第2の実施形態で扱うメタデータの例を示す。第1の実施形態であげたメタデータ(図2、図3)は、サブ映像が表示可能時間内に表示される時、メイン映像にとって好ましいメイン映像内のサブ映像(子画面)の表示領域を与えるものであった。このため、図2、図3に示されたメタデータでは、メイン映像の再生時間軸を基準に、それぞれのメイン映像の再生時刻に対応するサブ映像の表示領域が与えられていた。これに対して、図11に示した第2の実施形態にかかるメタデータは、サブ映像が表示される時、サブ映像の内容や演出意図などによって、サブ映像自体にとって望ましいサブ映像の表示されるべき表示領域を与えるものである。このため、第2の実施形態にかかるメタデータでは、サブ映像の再生時間軸を基準に、それぞれのサブ映像の再生時刻に対応したサブ映像の表示領域を与える。
ここで、サブ映像の内容によって望ましい表示位置とは、例えば、10秒のサブ映像があり、最初の5秒が右を向いた人物A、残りの5秒が左を向いた人物Bを移した映像であった場合に、最初の5秒は画面向かって左にサブ映像を表示し、残りの5秒は画面向かって右にサブ映像を表示して、両者A、Bとも画面中央向きに表示する、といったユースケースにおいて利用される。無論、これは例であって、必ずしも両者中央を向くことが常に望ましい訳ではなく、何処に表示させるかは映像製作者の演出意図と絡むものである。つまり、図11に示すような第2の実施形態にかかるメタデータは、サブ映像自体に対してサブ映像製作者の演出意図を再生に反映させるための付加情報ということになる。
第1の実施形態の図2と同様、図11(a)には具体的なメタデータの構造を、図11(b)にはそのメタデータが指し示している表示領域を、図11(c)には表示領域の時間的な変化が理解し易いように、表示領域を1次元として模式的に表した。上述したように、図11(b)及び図11(c)の横軸には、サブ映像の再生時間位置が与えられている。図11(c)の縦軸は画面の空間的な2次元位置を表すものであり、図示された帯の縦幅が表示領域の大きさに対応する。
図11(a)に示したメタデータは、メイン映像のどの時間範囲でサブ映像が表示可能かを示す表示可能時間情報1101と、サブ映像の再生時間軸を基準として、サブ映像の各再生時刻時点でサブ映像を表示すべきメイン映像内の位置を示した表示領域情報1102とを含んで構成される。但し、表示可能時間情報1101は必須ではなく、省略されてもよい。省略された場合、メイン映像全体がサブ映像の表示可能時間と解釈される。
なお、図11では、表示領域情報1102として、サブ映像(子画面)の表示サイズが予め与えられた固定サイズであることを想定し、子画面の左上頂点位置(あるいは子画面の中心位置)の座標のみで指定される例を示したが、これに限らず、第1の実施形態と同様に、2つの座標を与えて表示可能領域を示したり(図3を参照)、同じく2つの座標を与えてサブ映像を拡大・縮小して表示する表示領域を与えたりすることも可能である。図11(c)で、サブ映像を表示すべき表示領域は、サブ映像の再生時刻「00:00:05」(即ちサブ映像の再生開始から延べ5秒再生後)及び「00:00:10」(即ちサブ映像の再生開始から延べ10秒再生後)で位置が変化する帯状の領域として表される。
次に、図11で示したメタデータを使って、サブ映像をメイン映像に合成して再生、表示する際の具体的な動作について、図6、図12乃至図15を用いて説明する。
本実施形態にかかる映像表示装置2で、サブ映像(子画面)の表示/非表示の切り替えを含むサブ映像表示を行う際の処理は、第1の実施形態と同様に図6のフローチャートで表される。本フローチャートは、図1で示した映像表示装置2の装置構成のうち、位置指定部210、処理制御部109及び合成部105の動作を示している。
なお、第1の実施形態の説明と同様、以下では、表示領域を表すメタデータを使った再生、表示過程を説明していくが、表示可能領域を示したメタデータを用いる場合であっても、位置指定部210が表示可能領域から適宜表示位置を決定して出力する以外に、基本的な動作は変わらない。
位置指定部210は、入力されたメタデータを読み込むと(ステップS1)、当該メタデータに含まれる表示可能時間情報1101に従い、メイン映像の現在の再生時刻が表示可能時間内であるかを判定する(ステップS2及びS3)。現在の再生時刻が表示可能時間の開始時刻よりも前であれば、サブ映像の表示は行わず待機状態となる(ステップS2;No)。
メイン映像における現在の再生時刻が表示可能時間内であれば(ステップS2;Yes→ステップS3;No)、位置指定部210はサブ映像の表示/非表示状態の変更の指示を入力部108から受け付ける。ここで、サブ映像を表示する指示を受け、サブ映像が表示状態である場合には(ステップS4;Yes)、サブ映像の復号処理を行い復号画像を出力する(ステップS5)。また、位置指定部210は、サブ映像の現在の再生時刻位置に関する時刻情報を取得し(ステップS6)、メタデータを用いてサブ映像の現在の再生時刻位置に対応する表示位置を決定する(ステップS7)。そして、合成部105は、メイン映像内の指定された表示位置にサブ映像を合成して表示する(ステップS8)。このように、第1の実施形態との相違は、ステップS6において時刻情報としてサブ映像自体の延べ再生時刻位置を取得することと、ステップS7においてメタデータを使ってサブ映像の再生時刻位置に対応する表示位置を決定することの2点である。
図12乃至図15は、映像表示装置2でサブ映像が合成表示された時の動作結果の一例を模式的に示した図である。但し、本実施形態における映像再生装置2では、メイン映像の再生時刻と別に、サブ映像が何処まで再生表示されたかを示すサブ映像の再生時刻を基にメタデータを管理するため、図12乃至図15では、(a)にサブ映像の再生時刻を基準としてメタデータから表示領域が指定される様子を示し、(b)にメイン映像の時間を基準としてサブ映像がメイン映像に合成表示される様子を示した図を記載した。図12乃至図15の(b)図中、黒く塗った箇所が、サブ映像の表示された時間、並びにその時の表示位置を示している。
まず、図12は、時刻「00:00:13」までの状態を表した図である。図11(a)におけるメタデータ構造を参照すると、時刻「00:00:10」からサブ映像の表示可能時間が開始する。そして、時刻「00:00:13」のときにサブ映像を表示する操作がユーザによりなされると(図6のステップS2;Yes→ステップS3;No→ステップS4;Yes)、サブ映像が復号される(ステップS5)。そして、メイン映像と合成され、メタデータで示された時刻「00:00:13」に対応する表示位置に、サブ映像の表示が開始される。ここで、図12(a)は、サブ映像における再生時刻「00:00:00」から映像が出力されはじめた様子が示されている。また、図12(b)はメイン映像における再生時刻が「00:00:13」のときにサブ映像が出力されはじめた様子が示されている。
つづいて、図13は、時刻「00:00:20」までの状態を表した図である。図11(a)におけるメタデータ構造の表示領域情報1102を参照すると、サブ映像の再生時刻が「00:00:05」のときにサブ映像の表示領域が変更される。したがって、図13(a)に示すように、サブ映像の再生時刻「00:00:05」のときに、表示領域が変化している。このため、図13(b)に示すように、合成映像上では、サブ映像が再生(表示)されてから5秒後となる時刻「00:00:18」において表示位置が変更されている。そして、メイン映像における再生時刻「00:00:20」において、サブ映像を非表示状態とする操作がなされると、メイン映像においてサブ映像の表示が停止する。このとき、サブ映像は「00:00:07」まで再生されている。
つづいて、図14は、時刻「00:00:28」までの状態を表した図であり、再びサブ映像(子画面)が表示状態に切り替えられた時の状態を示している。この時、サブ映像は一時停止状態から再生状態に復帰し、メイン映像の「00:00:20」時点で再生されていた続きのサブ映像、即ちサブ映像自体の時刻位置「00:00:07」(延べ再生時間7秒の時間位置)から再生が開始される。サブ映像(子画面)の表示位置は、メタデータによって、同じくサブ映像自体の時刻位置「00:00:07」(延べ再生時間7秒の時間位置)に対応した表示位置が与えられる。
つづいて、図15は、メイン映像における時刻「00:00:36」までの状態を表した図であり、総再生時間「15」秒であるサブ映像の再生が終了した状態を示している。図11(a)に記載されたメタデータに含まれる表示領域情報1102を参照すると、サブ映像の時刻「00:00:10」(延べ再生時間10秒の時間位置)にサブ映像の表示位置の変更がある。したがって、サブ映像の時刻が「00:00:10」となる時刻、すなわちメイン映像の時刻「00:00:31」において、サブ映像の表示位置が変更されている。
以上説明したように、本実施形態にかかる映像表示装置2では、サブ映像の表示領域(あるいは表示可能領域)を示したメタデータを利用することによって、サブ映像がメイン映像に合成表示される時、サブ映像の内容や演出意図によって予め決められるサブ映像を表示すべき位置を指定して、メイン映像に合成表示することができる。これにより、サブ映像は自由に表示、非表示を切り替えることができ、また、自由に表示、非表示を切り替えても、サブ映像の内容や演出意図に則った表示位置にサブ映像を合成表示することができる。
本実施形態にかかるメタデータについても、メタデータの提供形態は、第1の実施形態と同様、映像データと独立した、例えば管理データのデータストリームに格納されて提供されるか、もしくは、図11(a)に示すように、サブ映像の映像データを含む映像ストリーム中に格納されて提供されるかの、いずれも可能である。映像ストリームに格納される場合には、映像表示装置2に入力する前に、サブ映像の映像ストリームからメタデータを分離する処理が必要となる。なお、第2の実施形態にかかるメタデータは、サブ映像と一対一で与えられるものであるため、基本的にサブ映像の映像データ、もしくはサブ映像に関連する管理データに付加される。さらに、図11(a)では、映像ストリームのヘッダ位置にメタデータが格納されているが、格納位置はこれに限らす、ストリームの中間、例えば映像データが複数のパケットに分割されて送られるような場合に、映像パケットと映像パケットの間に新規のデータパケットとして埋め込むか、あるいは映像パケットそれぞれのパケットヘッダに格納するとしてもよい。
(第3の実施形態)
次に、本発明の第3の実施形態にかかる映像表示装置、方法、並びに表示用データを、図1、図6、及び図16を用いて説明する。
本発明の第3の実施形態にかかる映像表示装置3の概略構成は、第1及び第2の実施形態と同様に、図1の機能ブロック図で表される。但し、位置指定部110の動作のみが異なり、本実施形態においては位置指定部310として表す。また、第3の実施形態にかかる映像表示装置3でサブ映像表示を行う際の処理も、第1及び第2の実施形態と同様に、図6のフローチャートで表される。以下では、第1の実施形態にかかる映像表示装置1との相違点を中心に、第3の実施形態にかかる映像表示装置3の動作を説明する。
本実施形態における映像表示装置3では、第1の実施形態並びに第2の実施形態で説明した2種類のメタデータが、共にサブ映像の表示用メタデータとして入力され、それらのメタデータの組合せに基づいてサブ映像の表示領域を決定するものである。従って、映像表示装置3の位置指定部310は、2種類のメタデータと、2つの時刻情報(メイン映像の再生時刻位置情報とサブ映像の再生時刻位置情報)とを受け取り(フローチャートのステップS6)、適切なサブ映像の表示領域を決定する(フローチャートのステップS7)。
図16は、メイン映像とサブ映像の状態を模式的に表した図である。図16(a)は、第1の実施形態で説明したメタデータで与えられる、メイン映像に対して指定されるサブ映像の表示可能領域であり、図16(b)は、第2の実施形態で説明したメタデータで与えられる、サブ映像自体に対して指定される表示領域を表したものである。また、図16(c)は図16(b)のメタデータによって再生時にサブ映像の表示領域が指定される様子を示した図であり、図16(d)は図16(a)、図16(b)のメタデータを使ってメイン映像とサブ映像とが合成されて表示される状態を示した図である。
図16(c)及び図16(d)は、上記2種類のメタデータを用いて、第1及び第2の実施形態と同様に、サブ映像を時刻「00:00:13」で表示開始、時刻「00:00:20」で表示停止、時刻「00:00:28」で表示再開、時刻「00:00:36」で表示を終了した時の、サブ映像の表示位置を示している。また図16(c)には(b)で示したサブ映像に対する表示領域16Bが、図16(d)には、(a)で示したメイン映像におけるサブ映像の表示可能領域16Aが示してある。そして、図16(d)の斜線もしくは黒く塗りつぶした箇所が、サブ映像の表示された時間、並びにその時の表示位置を示している。
サブ映像はメイン映像に対して、付加価値的な余剰コンテンツとして与えられるのが一般的である。従って、メイン映像をできるだけ崩さないように保持した状態で再生するのが一般的には望ましい。このため、上記した2種類のメタデータが与えられた場合には、サブ映像自体に対して与えられる表示領域16Bよりも、メイン映像に対して与えられるサブ映像の表示可能領域16Aを優先させて表示領域を決定する。
図16(d)において、時刻範囲1601(「00:00:13」〜「00:00:15」)では、表示可能領域16Aとの表示領域16Bとがちょうど重なっているため、双方のメタデータに基づきサブ映像の表示領域を決定している。
また、時刻範囲1602(「00:00:15」〜「00:00:20」及び「00:00:28」〜「00:00:30」)では、表示可能領域16Aに表示領域16Bが完全に含まれる状態にある。このため、範囲1602では、第2の実施形態に示したのと同様のメタデータに基づき、サブ映像自体に対して与えられる表示領域にサブ映像を表示する。
また、時刻範囲1603(「00:00:30」〜「00:00:36」)では、メイン映像に対して与えられるサブ映像の表示可能領域16Aと、サブ映像の内容自体に応じて指定されるサブ映像の表示領域16Bとが、異なる領域に別れている。この場合には、メイン映像に対して与えられるサブ映像の表示可能領域16Aを優先させる。即ち、時刻範囲1603では、第1の実施形態に示したのと同様のメタデータに基づき、メイン映像に対して与えられるサブ映像の表示可能領域にサブ映像を表示する。
なお、図には無いが、サブ映像の表示位置を指定するための図16(a)に示す表示可能領域と図16(b)の表示領域とが異なる領域に別れ、かつ、図16(a)に示した表示可能領域がサブ映像(子画面)の表示サイズよりも大きな領域を示すような場合に、図16(a)の表示可能領域に含まれ、かつ、図16(b)の表示領域に最も近くなるような領域を決定し、サブ映像の表示領域とする、といった処理を加えてもよい。無論、逆に、サブ映像の演出意図が極めて重要な場合に、図16(b)の表示領域の優先度を高く設定することにより、サブ映像の表示位置を強制的に図16(b)の表示領域に基づいて設定するといったことも可能である。
なお、上記した本発明の各実施形態では、映像表示装置に入力される映像データ(及び管理データ)並びにメタデータが、放送や通信といった伝送路を経由して入力されるか、あるいは予め記録媒体に記録されていて、記録媒体に記録された映像データ(及び管理データ)並びにメタデータを逐次読み出して再生、表示するのかを問わない。伝送路を経由して一旦記録媒体に記録された後、記録された映像データ(及び管理データ)並びにメタデータを読み出して再生するといった使用についても同様である。即ち、本発明の映像表示装置、方法、並びに表示用データは、放送映像の受信装置、映像通信の受信装置、記録媒体を有する録画再生装置の一構成として、並びに、各実施形態で説明したメタデータが記録された記録媒体に対しても、適用可能である。
また、映像データ(及び管理データ)と本発明の各実施形態で示したメタデータとは、別個に管理することも可能である。このことから、再生側においてメタデータを生成し、別途放送、通信、又は記録媒体を経由して入力された映像データをピクチャ・イン・ピクチャ再生する際に、再生側で生成されたメタデータと組み合わせて用いるといったことも可能である。この場合、例えば、ユーザの好みに応じてメイン映像のうちサブ映像表示時に隠れて構わない領域と隠れて欲しくない領域を設定するなどの処理を通して、メタデータが形成される。再生側でのメタデータの生成は、放送や通信などの伝送路を通して入力された映像データ(及び管理データ)を記録媒体に記録する際や、記録媒体から映像データ(及び管理データ)を読み出して再生する直前などに実行される。また、この生成処理は、ユーザが直接入力しても、あるいはJava(登録商標)等のプログラムで動的に生成できるようにしてもよい。即ち、本発明は、メタデータが実際に何処で設定されたかに拘らず、各実施形態で説明したメタデータを利用する映像表示装置、方法に対して適用可能である。
なお、ここで開示された実施の形態はすべての点で例示であって制限的なものではない。本発明の範囲は、上記した説明ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。