以下、本発明の一実施の形態を、図1〜39を参照しながら詳細に説明する。
本実施の形態の番組同時視聴システムは、複数の番組を受信するチューナーを有し、それぞれの番組をチューナーで受信した画像信号と音声信号を制御することで、大画面の中に複数の画面を表示することができる。また、それぞれの画面の表示状態に対応する音声を出力することができる。それによって、次のようなことができるようになる。
第1に、一人の視聴者が、ディスプレイに表示される複数の受信チャンネルの番組の複数の画面を見ることにより、様々な情報を取得することが可能となる。
第2に、複数人の視聴者が、ディスプレイに表示される複数の受信チャンネルの番組の複数の画面を見ることにより、一つの大画面を複数人で共有することが可能となる。
ここでは、2番目の複数人の視聴者の複数番組同時試聴について考えていくことにする。画面の分割ができない限り、複数人の視聴者での複数番組同時試聴も成り立たないので、大画面の複数分割について説明する。
画面を分割することを考えたときに、人数分に満たない画面に分割する場合、人数分だけ画面を分割する場合、及び人数分以上に画面を分割する場合の3つのケースが考えられる。
一つ目の人数分に満たない画面に分割する場合、というのはN(Nは自然数)人1受信チャンネル試聴ということである。二つ目の人数分に画面を分割する場合、というのは一人1受信チャンネル試聴ということである。三つ目の人数分以上に画面を分割する場合、というのは一人N受信チャンネル試聴ということである。本実施の形態では、画面の分割は、何分割でも可能であるので、すべてのパターンに対応が可能である。
画面を分割する方法としては、次のような方法がある。
すなわち、システムの本体に対して赤外線などによりリモコンで操作を行う場合、システムの本体に内蔵されるタッチパネルで操作を行う場合、及びパーソナルコンピュータ(PC)で操作を行う場合がある。
上述の通り、様々な画面分割の方法が考えられるが、ここでは、そのうちの一つであるリモコンによる操作を行う場合について説明をする。
この操作方法は、第1に、視聴者は複数の画面の中にあるどの画面を分割したいのかをリモコンにより選択する。第2に、この画面選択では、例えばリモコンのジョグダイヤルを利用して、画面の中の任意の画面位置にカーソルを移動させて分割すべき画面を選択する。
もしくは、複数の画面に番号をふり、リモコンのテンキーでその番号を選択することにより画面選択を行うこともできる。
第3に、システムの本体は、選択された画面上に十字のカーソルを出現させる。そのカーソルをリモコンから左右・上下キーにより動かすことにより、視聴者はどの位置で画面を分割するのかを決定する。
もしくは、システムの本体は、後述の画面表示サイズを自動的に変更する時に使う画面特徴量を用いて分割位置の候補をディスプレイに表示し、視聴者はこれと対応させた受信チャンネル数のボタンを押すことにより分割位置を決定する。
もしくは、視聴者のリモコンからの入力指示により、システムの本体は、画面上にポインタを付加したり、赤外線の強度からリモコンが指し示す位置を、システム本体が調べて分割位置を決定する。そして、決定された分割位置により、画面が分割される。
まず、画面分割方法について説明する。
図1は、本発明の一実施の形態による画面分割処理を示すフローチャートである。図1は、システム本体のコンピュータが番組同時視聴プログラムを実行することにより実現される処理を示している。
図1において、まず、分割したい画面を一つ選択し、決定する(ステップS1)。具体的には、リモコンからの選択及び決定操作に基づいて、システム本体はディスプレイに表示されている複数の画面のうちの分割すべき画面を決定する。
次に、選ばれた画面に、どこで分割したいのかを決定するためのカーソルを表示する(ステップS2)。具体的には、システム本体はディスプレイ上で決定された画面に分割位置を指定するためのカーソルを表示する。
ここで、カーソルを視聴者が動かし、分割位置を決定する(ステップS3)。具体的には、リモコンからの位置指定及び決定操作に基づいて、システム本体はディスプレイに表示されている分割すべき画面内で分割位置を決定する。
そこで、分割位置に応じて、画面サイズを変更する(ステップS4)。具体的には、システム本体はディスプレイ上で決定された分割位置で画面を分割した場合に、分割後の画面サイズを変更する。例えば、分割前後でアスペクト比を一定に保つように画面サイズを変更する。
そして、ほかに分割を行いたい画面があるか否かを判断する(ステップS5)。具体的には、システム本体は他のリモコンから他の画面分割の選択及び決定操作があるか否かを判断する。判断ステップS5で、他のリモコンから他の画面分割の選択及び決定操作があるときは、ステップS1へ戻って、ステップS1〜ステップS5までの処理及び判断を繰り返す。
判断ステップS5で、他のリモコンから他の画面分割の選択及び決定操作がないときは、分割を実行して(ステップS6)、処理を終了する。すなわち、システム本体は、ステップS4で変更した画面サイズで分割すべき画面を分割する。
図2は、分割画面E1のアスペクト比を一定に保つ場合の分割計算方法を示す図である。図2AはHD(High Definition:高解像度(高精細・高画質))放送の画面、図2Bはa/b>16/9(9a/16>b)の場合、すなわちHDサイズに比べてさらに横の方が長い場合であり、図2Cはa/b<16/9(9a/16<b)場合、つまりHDサイズに比べて縦の方が長いである。
図2は、図1のステップS4に示したように分割前後でアスペクト比を一定に保つように画面サイズを変更する際の分割画面サイズの計算方法を示している。
図2Aに示すHD放送の画面では、アスペクト比は、X:Y=16:9となる。ここで、分割位置(a,b)のとき、各分割画面E1,E2,E3,E4の分割画面サイズを計算する必要がある。そこで、この比率(X:Y=16:9)を保ちながらどのようにして、分割された画像のサイズを決定するかを以下に説明する。
図2Bに示すように、9a/16>b(横の方が長い)の場合、分割画面E1の左端位置1Lは、(a−16b/9)/2の位置になる。また、分割画面E1の右端位置1Rは、a−(a−16b/9)/2の位置になる。
ここで、HDサイズ画面の場合は、縦の長さbと横の長さaの関係で、16:9=a:bが成り立つ。つまり、a=(16/9)bが成り立つ。よって、a>(16/9)bのとき、分割画面E1は、HDサイズ画面に比べて横の方が長い画面となる。
分割画面E1が横に長いとき、横にどのくらいはみ出ているかを調べる。縦bが固定なので、分割画面E1の横が(16/9)bとなり、a>(16/9)bの場合は、横にはみ出る部分ができる。この横にはみ出ている長さは、a−(16/9)bである。
ここで、分割画面E1の真ん中を優先して表示する設定しているため、左端位置1Lからはみ出る部分と右端位置1Rからはみ出る部分の長さは同じになるようにしている。
従って、左端位置1Lは、(a−16b/9)/2の位置となる。また、右端位置1Rは、a−(a−16b/9)/2の位置となる。
図2Cに示すように、a/b<16/9(9a/16<b)の場合、つまりHDサイズに比べて縦の方が長い場合には、分割画面E1の上端位置1Uは、同様な計算方法により、(b−9a/16)/2の位置になる。また、分割画面E1の下端位置1Dは、b−(b−9a/16)/2の位置になる。
このように、a<(16/9)bのときは分割画面E1は縦のほうが長くなる。このとき、分割画面E1の縦がはみ出ている部分の長さは、b−(9/16)aである。
従って、上端位置1Uは、(b−9a/16)/2の位置となる。また、下端位置1Dは、b−(b−9a/16)/2の位置となる。
図3は、分割画面E2のアスペクト比を一定に保つ場合の分割計算方法を示す図であり、図3AはHD放送の画面、つまり9(X−a)/16=bの場合、図3Bは、HD放送よりも横の方が長い9(X−a)/16>bの場合、図3CはHD放送よりも縦の方が長い9(X−a)/16<bの場合を示している。
図2で計算した方法と同様の方法で計算すると、図3Bに示す9(X−a)/16>bの場合、分割画面E2の左端位置2Lは、((X−a)−16b/9)/2の位置になる。また、分割画面E2の右端位置2Rは、X−((X−a)−16b/9)/2の位置になる。
また、図3Cに示す、HD放送よりも縦の方が長い9(X−a)/16<bの場合、分割画面E2の上端位置2Uは、(b−9(X−a)/16)/2、分割画面E2の下端位置2Dは、b−(b−9(X−a)/16)/2の位置になる。
図4は、分割画面E3のアスペクト比を一定に保つ場合の分割計算方法を示す図であり、図4AはHD放送の画面、つまり9a/16=(Y−b)の場合、図4Bは、HD放送よりも横の方が長い9a/16>(Y−b)の場合、図4CはHD放送よりも縦の方が長い9a/16<(Y−b)の場合を示している。
図2、図3で計算した方法と同様の方法で計算すると、図4Bに示す9a/16>(Y−b)の場合、分割画面E3の左端位置3Lは、(a−16(Y−b)/9)/2の位置になる。また、分割画面E3の右端位置3Rは、a−(a−16(Y−b)/9)/2の位置になる。
また、図4Cに示すHD放送よりも縦の方が長い9a/16<(Y−b)の場合、分割画面E3の上端位置3Uは、((Y−b)−9a/16)/2の位置になる。また、分割画面E3の下端位置3Dは、Y−((Y−b)−9a/16)/2の位置になる。
同様に、図5は、分割画面E4のアスペクト比を一定に保つ場合の分割計算方法を示す図である。図5AはHD放送の画面、つまり9(X−a)/16=(Y−b)の場合、図5Bは、HD放送よりも横の方が長い9(X−a)/16>(Y−b)の場合、図5CはHD放送よりも縦の方が長い9(X−a)/16<(Y−b)の場合を示している。
図2〜図4と同様の計算を行うと、図5Bに示す9(X−a)/16>(Y−b)の場合、分割画面E4の左端位置4Lは、((X−a)−16(Y−b)/9)/2の位置になる。また、分割画面E4の右端位置4Rは、X−((X−a)−16(Y−b)/9)/2の位置になる。
また、図5Cに示す他の場合(縦の方が長い)、分割画面E4の上端位置4Uは、((Y−b)−9(X−a)/16)/2の位置になる。また、分割画面E4の下端位置4Dは、Y−((Y−b)−9(X−a)/16)/2の位置になる。
図6は、アスペクト比を一定に保たない場合の分割計算方法を示す図である。
図6において、アスペクト比を一定に保たない場合には、各分割画面E1、E2、E3、E4の分割画面サイズが、以下のようになる。すなわち、分割画面E1の「横:縦」が「a:b」となる。分割画面E2の「横:縦」が「X−a:b」となる。分割画面E3の「横:縦」が「a:Y−b」となる。分割画面E4の「横:縦」が「X−a:Y−b」となる。従って、システム本体は、このサイズに画面をリサイズする。
図7は、本発明の一実施の形態による番組同時視聴システムのシステム構成を示すブロック図である。
図7において、番組同時視聴システムは、入力信号11を信号処理する各処理部12と、信号処理された各画面毎の信号を統合して図示しないディスプレイに出力信号19を出力する画面統合部18を備えている。各処理部12で処理される信号は、映像信号及び音声信号である。
また、番組同時視聴システムは、リモコン(リモートコントローラ)13からの画面の操作に関する赤外線信号を受光するリモコン受光部14と、リモコン受光部14で受光された赤外線信号を解析して各処理部12に供給するリモコン信号解析部15を備えている。
また、番組同時視聴システムは、リモコン信号解析部15で解析されたリモコンID画面対応信号20に対応する画面番号を管理する画面番号管理部16と、画面番号管理部16で管理される画面番号に対応する画面表示の位置信号21を画面統合部18に出力するメモリ17を備えている。
ここで、リモコンID画面対応信号20は、各リモコン13の識別番号IDと複数の画面に付与される画面番号とを対応つけるための信号である。
また、メモリ17には、信号の読み書きをするためのメモリ読み書き制御部がある。また、メモリ17には、図示しないシステム本体のコンピュータが実行可能になるように、番組同時視聴プログラムが格納されている。
図8は、通常視聴時の各処理部の構成図である。
図8において、各処理部12は、複数の放送番組を選択して同時に受信することができる複数の受信部を有するチューナー22と、チューナー22で受信した複数の番組の映像信号で構成される複数の画面のサイズの変更処理を行うサイズ変更処理部23とを有している。
チューナー22は、メモリ17から画面番号に対応するチャンネル情報25を取得して、リモコン信号解析部15からのリモコン解析信号24で選択される複数の放送番組を受信する。サイズ変更処理部23は、メモリ17から画面番号に対応する画面のサイズ情報26を取得して、チューナー22で受信した複数の放送番組の画面のサイズを変更する。
これにより、通常視聴時に複数の放送番組の画面を後段のディスプレイに映しながら、リモコン13で表示すべき画面を切り替える処理を行うことができる。このとき、画面の分割数は適宜、選択変更することが可能である。
図9は、画面分割のシステム構成を示すブロック図である。図9の画面分割の番組同時視聴システム構成では、図7に示した通常視聴時の番組同時視聴システムと異なる部分のみを説明する。
図9において、画面分割の番組同時視聴システムは、画面選択を管理する画面選択管理部31と、画面サイズを計算する画面サイズ計算部34と、画面の画枠を計算する画枠計算部32と、カーソル位置を計算するカーソル位置計算部33と、画枠とカーソルを生成する画枠&カーソル生成部35を有している。
画面選択管理部31は、メモリ17から画面位置を取得して、選択されている子画面の番号41を画枠計算部32に供給する。カーソル位置計算部33は、メモリ17から画面位置を取得して、選択されている子画面のサイズ42を画枠&カーソル生成部35に供給する。
画枠計算部32は、画面サイズ計算部34にカーソルの位置と子画面の位置・サイズ43を供給する。画面サイズ計算部34は、画面番号管理部16に分割後の新規子画面の数・位置・サイズ44を供給する。
なお、各処理部12は、通常視聴時と同じ構成である。
画面分割において、番組同時視聴システムは、以下のような動作をする。
リモコン信号解析部15は、リモコン13より画面分割信号を受け取る。画面選択管理部31は、リモコン信号解析部15がリモコン13より画面分割信号を受け取ったときに、画面番号の若い番号の分割画面を選択する。
画面選択管理部31は、選択されている子画面の番号41をメモリ17からロードし、その画面番号の画面位置21を画面統合部18に出力することにより、後段のディスプレイに現在選んでいる画面に画枠を重畳して表示させる。
また、画面選択管理部31は、そのとき現在の選択されている子画面をメモリ17に保存する。この子画面の位置としては、X,Y座標と幅・高さを格納するようにする。
ここで、リモコン13で「次へ」というボタンが押されると、画面選択管理部31は、メモリ17より取得した選択されている子画面の番号41から現在どの画面を選んでいるかを読み込む。そして、読み込んだ画面番号に1を足した番号に対応する画面の画面位置をメモリ17から読み込む。
逆に、リモコン13で「戻る」を押されたら、画面選択管理部31は、メモリ17より取得した選択されている子画面の番号41から現在どの画面を選んでいるかを読み込む。そして、読み込んだ画面番号から1を引いた番号に対応する画面の画面位置をメモリ17から読み込む。
そして、カーソル位置計算部33は、メモリ17より取得した選択されている子画面のサイズ42からその画面位置を読み込んで画枠&カーソル生成部35に供給する。画枠&カーソル生成部35は、その画面位置に対応する画枠とカーソルを生成して、画像統合部18に供給する。これにより、不図示のディスプレイに選択された画枠を表示させるようにする。
ここで、画面選択管理部31は、リモコン13より画面選択信号を受け取ると、メモリ17から現在選択されている画面番号を読み込む。そして、画枠&カーソル生成部35は、選択された画面中央(図10参照)にカーソルが表示されるようにカーソルを生成する。
次に、リモコン13によりカーソルが動かされ、画面分割位置が決定されると、カーソル位置計算部33から取得されるカーソルの位置と子画面の位置・サイズ43に基づいて、画面サイズ計算部34は画面サイズを計算する。
画面サイズ計算部34は画面サイズの計算を実行し、画面番号管理部16に分割後の子画面の数・位置・サイズ44を供給する。これにより、画面番号管理部16は、画面番号と画面位置を対応させて、これをメモリ17に保存する。そして、画像統合部18が分割後の子画面を読み込んで全画面を合成し、不図示のディスプレイに出力する。
図10は、カーソルを画像の真ん中に表示する場合のカーソル位置を示す図である。
図10に示すように、画枠&カーソル生成部35(図9参照)は、カーソル位置CSを、画面Eの真ん中に表示させるようにする。すなわち、画枠&カーソル生成部35は、カーソルを(X/2,Y/2)の位置に生成させ、画面Eの真ん中にカーソル位置CSを表示する。
なお、上述したカーソルの代わりに、分割中心というのがわかるものであれば、他の図形、記号等のマークを用いることができる。
次に、画面の結合について説明する。
画面を結合する場合には、次の二つの場合が考えられる。一つ目は、人数分以上に画面を分割しすぎたので結合する場合、例えば、複数の受信チャンネルの番組を視聴していたが、その必要がなくなった場合である。二つ目は、人数分以下に画面を減らす場合、つまり、他の人と同じ受信チャンネルの番組を視聴するために画面を結合する場合である。
一つ目の人数分以上に分割した画面を結合する場合は、1人N受信チャンネルの番組試聴を行っている状態から1人1受信チャンネルの番組試聴を行う場合に近づけるということである。二つ目の人数分以下に画面を減らすというのは、例えば、N人で1受信チャンネルの番組試聴の状態にするということを意味している。
画面の結合は、1つになるまでは可能であるので、以下に示すすべての画面の結合パターンに対応が可能である。
画面を結合する方法には、分割するときと同じでいろいろな方法がある。ここでは、そのうちの一つであるリモコンによる操作について説明をする。
画面結合方法は、以下の手順により行われる。まず、視聴者は画面の中でどの画面同士を結合したいのかを選択する。この画面の選択方法としては、視聴者が例えばリモコンのジョグダイヤルを利用して選択するか、もしくは、画面に番号をふりテンキーでその番号を選択するなど、様々な方法がある。
このようにして選択された画面はマーク表示されるが、もう一度選択されると選択解除される。ここで、選択された画面が隣り合っていない場合には、処理がエラーになる。最後に、選択を決定することにより、画面が結合される。
図11は、上述した画面結合処理を説明するためのフローチャートである。図11は、システム本体のコンピュータが番組同時視聴プログラムを実行することにより実現される処理を示している。
図11において、画面結合の処理が開始されると、まず、分割された画面の一つが選択される(ステップS11)。具体的には、リモコンからの選択及び決定操作に基づいて、システム本体が、ディスプレイに表示されている複数画面の中の一つの画面を決定する。
次に、選択した画面と隣り合う画面が選択される(ステップS12)。この隣り合う画面は選択した画面と結合する画面である。この画面選択では、リモコンからの選択及び決定操作に基づいて、ディスプレイに表示されている選択画面と結合される画面が決定されることになる。
このとき、選択された画面に隣り合う画面を選ぶことが条件となる。
次に、他に結合したい画面はあるか否かを判断する(ステップS13)。つまり、他のリモコンからの選択及び決定操作があるか否かがシステム本体において判断される。
判断ステップS13で、他に結合したい画面があると判断されたときは、ステップS12へ戻って、ステップS12〜ステップS13までの処理及び判断を繰り返し、他に結合したい画面がないと判断されたときは、結合にあたり、画面サイズを変更する(ステップS14)。具体的には、システム本体はステップS11で選択した画面とステップS12で選択された画面を、画面サイズを変更して結合し、処理を終了する。
図12は、アスペクト比を一定に保つ場合の結合計算方法を示す図であり、図11のステップS14で画面サイズを変更して画面を結合する際のアスペクト比を一定に保つ場合の結合計算方法を説明するためのものである。図12Aは表示できる枠内に収める場合、図12Bは表示できる枠内に収めないで大きい方を優先する場合である。
図12Aに示すように、表示できる枠内に収める場合、つまり画面F1と画面F2とを結合したとき結合画面を画枠L1と画枠L2の両方に収める場合には、システム本体は図13、図14、図15で後述するように結合画面の位置を計算する。
図12Bに示すように、表示できる枠内に収めないで大きい方を優先する場合、つまり画面F1と画面F2とを結合したとき、結合画面を画枠L1に収めないで大きな方の画枠L2を優先して画枠L3に収める場合には、システム本体は、図16、図17で後述するように結合画面の位置を計算する。
ここでは二つの画面F1と画面F2が選ばれた場合についてのみ説明するが、三つ以上も、同様に計算を行う。
図13は、アスペクト比を一定に保つ場合(表示できる枠内に収める)の結合計算方法を示す図であり、図13Aは横に隣り合う場合、図13Bは縦に隣り合う場合である。
図13Aに示す横に隣り合う場合(表示できる枠内に収める)、つまり、画面F1と画面F2とを横に隣り合うように結合する場合には、結合画面を画枠L1と画枠L2の両方に収めるように、システム本体は結合画面の位置を計算する。ここでは、画枠L1は(X1,Y1)〜(X2,Y2)の範囲内、画枠L2は(X3,Y3)〜(X4,Y4)の範囲内である。
図13Bに示すように縦に隣り合う場合(表示できる枠内に収める)、つまり、画面F1と画面F2とを縦に隣り合うように結合する場合には、結合画面を画枠L1と画枠L2の両方に収めるように、システム本体は結合画面の位置を計算する。この場合にも、図13Bと同様に、画枠L1は画面F1の左上点(X1,Y1)〜右下点(X2,Y2)の範囲内、画枠L2は画面F2の左上点(X3,Y3)〜右下点(X4,Y4)の範囲内である。
図14は、アスペクト比を一定に保つ場合(表示できる枠内に収める)であって、かつ横に隣り合う画面F1とF2を結合する場合の結合計算方法を示す図である。すなわち、図14は、図11のステップS14に示した二つの画面の結合に際して、アスペクト比を一定に保つように画面サイズを変更する場合の結合画面サイズの計算方法を示している。
図14AはY1<Y3かつY2<Y4かつY3<Y2の場合(G1の領域)を示し、図14BはY1>Y3かつY2<Y4かつY2>Y1の場合(G2の領域)を示している。
このように、アスペクト比を一定に保つ場合(表示できる枠内に収める)であって、かつ横に隣り合う画面F1とF2を結合するパターンは、図14及び後述する図15に示すように、結合画面G1、G2、G3、G4の4パターンが考えられる。
上述したようにHD(High Definition:高解像度(高精細・高画質))放送の画面では、アスペクト比は、X:Y=16:9となる。まず、図14及び後述する図15において、ここで、元の画面F1,F2のとき、各結合画面G1、G2、G3、G4の結合画面サイズを計算する方法について説明する。すなわち、このHD放送の画面のアスペクト比率(X:Y=16:9)を保ちながら、結合された画像のサイズを決定する方法について以下に説明する。
図14Aに示すY1<Y3かつY2<Y4かつY2>Y3の場合(G1の領域)は、結合画面G1の左上点(1LX、1LY)の1LXは、[X1+((X4−X1)−16(Y2−Y3)/9)/2]、1LYはY3の位置になる。また、結合画面G1の右下点(2RX、2RY)の2RXは、[X4−((X−4X1)−16(Y2−Y3)/9)/2]、2RYはY2の位置になる。
ここでは、(X4−X1)>16(Y2−Y3)/9の場合のみを記載している。逆の場合には、図2から図5に示した画面分割の処理と同様に計算する。
図14Bに示すY1>Y3かつY4>Y2かつY2>Y1の場合(G2の領域)には、結合画面G2の左上点(1LX、1LY)の1LXは[X1+((X4−X1)−16(Y2−Y1)/9)/2]、1LYはY1の位置になる。また、結合画面G2の右下点(2RX、2RY)の2RXは[X4−((X4−X1)−16(Y2−Y1)/9)/2]、2RYはY2の位置になる。
ここでは、(X4−X1)>16(Y2−Y1)/9の場合のみの記載をしている。逆の場合には、図2から図5に示した画面分割の処理と同様に計算する。
図15も図14と同様に、アスペクト比を一定に保つ場合(表示できる枠内に収める)であって、かる横に隣り合う2画面F1とF2を結合する計算方法を示す図である。図14と異なる点は、画面F1と画面F2の位置関係であり、図15AはY1<Y3かつY2>Y4かつY4>Y3の場合(G3の領域)、図15BはY1>Y3かつY2>Y4かつY1<Y4の場合(G4の領域)である。
図15Aに示すY1<Y3かつY2>Y4かつY4>Y3の場合(G3の領域)には、結合画面G3の左上点(1LX、1LY)の1LXは[X1+((X4−X1)−16(Y4−Y3)/9)/2]、1LYはY3の位置になる。また、結合画面G3の右下点(2RX、2RY)の2RXは[X4−((X4−X1)−16(Y−Y3)/9)/2]、2RYはY4の位置になる。
ここでは、(X4−X1)>16(Y4−Y3)/9の場合のみを記載している。逆の場合には、図2から図5に示した画面分割の処理と同様に計算する。
図15Bに示すY1>Y3かつY2>Y4かつY1<Y4の場合(G4の領域)には、結合画面G4の左上点(1LX、1LY)の1LXは[X1+((X4−X1)−16(Y4−Y1)/9)/2]、1LYはY1の位置になる。また、結合画面G4の右下点(2RX、2RY)の2RXは[X4−((X4−X1)−16(Y4−Y1)/9)/2]、2RYはY4の位置になる。
ここでは、(X4−X1)>16(Y4−Y1)/9の場合のみを記載している。逆の場合には、図2から図5に示した画面分割の処理と同様に計算する。
ここで、2つの画面F1とF2を結合した場合の、1つの画面の領域について図14から図15に基づいて説明する。
例えば、図14Aに示す画面F1及び画面F2に重複する領域の結合画面G1の場合のほかに、図14Bに示すような画面F1のみに重複する領域の結合画面G2の場合が考えられる。また、図15Aに示すように、画面F2のみに重複する領域の結合画面G3の場合と、図15Bに示すような画面F2と画面F1に重複する領域の結合画面G4が考えられる。
図14Aに示す結合画面G1の面積S1は、図14AよりS1=(2RY−1LY)×(2RX−1LX)であるから、S1=(Y2−Y3)×((X4−X1)−(X4−X1)+16(Y2−Y3)/9))=16(Y2−Y3)2/9となる。
また、図14Bに示すように、結合画面G2の面積S2は、S2=(Y2−Y1)×((X4−X1)−(X4−X1)+16(Y2−Y1)/9)=16(Y2−Y1)2/9となる。また、図15Aに示すように、結合画面G3の面積S3は、S3=(Y4−Y3)×((X4−X1)−(X4−X1)+16(Y4−Y3)/9)=16(Y4−Y3)2/9となる。さらに、図15Bに示す結合画面G4の面積S4は、S4=(Y4−Y1)×((X4−X1)−(X4−X1)+16(Y4−Y1)/9))=16(Y4−Y1)2/9となる。
そこで、システム本体は、これらの結合画面G1、G2、G3、G4の面積S1、S2、S3、S4を比較し、どの領域に結合画面を作るのかを決める。
図16は、アスペクト比を一定に保つ場合であるが、表示できる枠内に収めないで大きな方を優先する場合の二つの画面F1とF2を結合する計算方法を説明する図であり、図16Aは横に隣り合う場合、図16Bは縦に隣り合う場合である。
表示できる枠内に収めないで大きい方を優先する場合であって、かつ図16Aに示すように横に隣り合う画面F1と画面F2を結合する場合には、システム本体は、結合画面を画面F1の画枠に収めないで大きな方の画面F2の画枠を優先して画枠L1に収めるように、結合画面の位置を計算する(図17で後述)。
図16Bに示すように、縦に隣り合う画面F1と画面F2を結合する場合には、システム本体は、結合画面を画面F2の画枠に収めないで大きな方の画面F1の画枠を優先して画枠L2に収めるように、結合画面の位置を計算する(図20で後述)。
ここでは、横に隣り合う場合の結合計算方法について説明する。縦の場合も同様に計算を行う。
図17は、アスペクト比を一定に保つ場合(表示できる枠内に収めないで大きな方を優先する)であって、かつ横に隣り合う2つの画面F1とF2を結合する計算方法を示す図である。
ここでは、上述した図14及び図15に示した結合画面G1、G2、G3、G4の4つのパターンをまとめて結合画面G5として示している。
結合画面G5の左上点(1LX、1LY)の1LXは、[X1+((X4−X1)−16(max(Y2,Y4)−min(Y1,Y3))/9)/2]、1LYはmin(Y1,Y3)の位置になる。また、結合画面G5の右下点(2RX、2RY)の2RXは、[X4−((X4−X1)−16(max(Y2,Y4)−min(Y1,Y3))/9)/2]、2RYはmax(Y2,Y4)の位置になる。これを以下に、説明する。
ここで、大きな方の画面F2の画枠を優先した画枠L1の左上点の座標は(X1、min(Y1,Y3))、右下点の座標は(X4、max(Y2,Y4))となる。
結合画面G5が横に長い場合は、(X4−X1)>16(max(Y2,Y4)−min(Y1,Y3))/9となる。従って、結合画面G5の左上点(1LX、1LY)の1LXは、[X1+((X4−X1)−16(max(Y2,Y4)−min(Y1,Y3))/9)/2]、1LYはmin(Y1,Y3)となる。
また、結合画面G5の右下点(2RX、2RY)の2RX、[X4−((X4−X1)−16(max(Y2,Y4)−min(Y1,Y3))/9)/2]、2RYはmax(Y2,Y4)となる。
ここでは、表示できる枠内に収めるのと同様に、(X4−X1)>16(max(Y2,Y4)−min(Y1,Y3))/9の場合のみを記載している。逆の場合には、図2から図5に示した画面分割の処理と同様に計算する。
なお、max(a,b)はa,bのうち大きな数字を示し、min(a,b)はa,bのうち小さな数字を示すものである。
図18は、表示できる枠内に収めないで大きな方を優先する際のアスペクト比を一定に保つ場合であって特に横に隣り合う2つの画面F1とF2を結合する場合の計算方法を説明するための図である。
図18において、小さな方の画面F1が画枠L1の一部の領域を占めている場合、アスペクト比を一定に保つようにして、大きな方の画面F2の画枠L2に合わせると、結合画面G6は画面F1からはみ出る部分ができる。
従って、結合画面G6の画面F1から上下にはみ出る部分をサイズ変更部分R1、R2として、画面サイズを変更する必要がある。
サイズ変更部分R1、R2の画面サイズの変更の計算は、図2から図5に示した画面分割の処理と同様に計算する。
図19も、図18と同様に、アスペクト比を一定に保つ場合の結合計算方法を示す図であるが、図19の場合は、小さな画面F1が画枠L1上側部分に偏っている。
この場合も、小さな方の画面F1が画枠L1の一部の領域を占めているので、アスペクト比を一定に保つようにして、大きな方の画面F2の画枠L2に合わせるようにする。この場合も、結合画面G7は画面F1からはみ出る部分ができる。
従って、結合画面G7の画面F1から下にはみ出る部分をサイズ変更部分R3として、画面サイズを変更する必要がある。
サイズ変更部分R3の画面サイズの変更の計算は、次のようにする。
まず、サイズ変更部分R3と結合画面G7全体からサイズ変更部分R3を抜いた部分の面積比を求める。
この場合、サイズ変更部分R3対そのほかの部分は、(X2−X1)×(Y4−Y2):[(X4−X1)(Y4−Y1)−(X2−X1)(Y4−Y2)]となる。
当然のことながら、図19に示すような、16(Y4−Y1)/9>(X4−X1)の場合は、横方向にあまりが生じるので、横方向の長さ(X4−X1)を面積比で分割し、その範囲で画面サイズを変更するようにする。
逆に縦が長い場合は、横と同様に縦を分割し、サイズ変更を行う。
図20は、アスペクト比を一定に保たない場合に、画面F1とF2を結合する場合の計算方法を示す図であり、図20Aは2つの画面が横に隣り合う場合、図20Bは2つの画面が縦に隣り合う場合を示している。
図20Aに示すように、2つの画面F1とF2が横に隣り合う場合には、小さな方の画面F1に合わせると、結合画面G8は大きな方の画面F2からはみ出る部分は、図18と同様な計算方法によりサイズ変更する。
図21は、画面結合のシステム構成を示すブロック図である。画面隣接判定部36が設けられている点が図9に示したシステム構成と異なっている。
図21において、画面隣接判定部36は、結合すべき画面同士が隣接しているか否かを判定して、選択されている画面の位置・サイズ52を画面選択管理部31に供給する。
画面選択管理部31は、メモリ17から選択されている画面の情報を取得して、選択されている画面の番号・選択されている数51を画枠計算部32に供給すると共にメモリ17に書き込む。
画枠計算部32は、メモリ17からメモリ17から選択されている画面の情報を取得して、選択されている子画面の位置・サイズ・その数に応じての色53をメモリ17に書き込み、選択されている画面位置・サイズ54を画面サイズ計算部34に供給する。
画面サイズ計算部34は、選択されている画面位置・サイズ54に基づいて結合後の新規子画面の位置・サイズ55を計算して、画面番号管理部16に供給する。
他の部分は、上述した図9に示した画面分割のシステム構成を示すブロック図と同様である。
具体的な画面結合の処理は、以下のようになる。
すなわち、リモコン信号解析部15は、リモコン13より画面結合信号を受け取る。画面選択管理部31は、リモコン信号解析部15がリモコン13より画面分割信号を受け取ったときに、まだ画面を選択していなかったら、画面番号の若い番号を選択する。
画面選択管理部31は、選択されている子画面の番号51をメモリ17からロードし、その画面番号の画面位置21を画面統合部18に出力することにより、後段のディスプレイに現在選んでいる画面に画枠を重畳して表示させるようにする。
また、画面選択管理部31は、そのとき現在の選択されている子画面の番号と選択されている数51をメモリ17に保存しておく。この子画面の位置は、X,Y座標と幅・高さを格納しておく。
ここで、リモコン13で「次へ」というボタンが押されると、画面選択管理部31は、メモリ17より取得した選択されている子画面の番号51から現在どの画面を選んでいるかを読み込み、その画面番号に一つ足して、画面位置が保存されているメモリ17からその番号に対応する画面位置を読み込む。
逆に、リモコン13で「戻る」を押されたら、画面選択管理部31は、メモリ17より取得した選択されている子画面の番号51から現在どの画面を選んでいるかを読み込み、その画面番号から番号を一つ減らし、画面位置が保存されているメモリ17からその番号に対応する画面位置を読み込む。
画枠計算部32は、その画面位置に選択されているという画枠位置を計算して、画枠生成部25に供給する。画枠生成部25は、画枠位置に画枠を生成して画面統合部18に出力することにより、後段のディスプレイに現在選んでいる画面に画枠を重畳して表示する。
ここで、画面選択管理部31は、リモコン13より画面選択という信号を受け取ったときには、どの画面が選択されたのかを調べるために、メモリ17から現在選択されている画面番号を読み込む。
次に、リモコン13より二つ目以降の結合すべき画面を選ぶときには、リモコン信号解析部15は、画面結合信号を受け取る。画面選択管理部31は、リモコン信号解析部15がリモコン13より画面分割信号を受け取ったときに、まだ画面を選択していなかったら、画面番号の若い番号を選択する。
画面選択管理部31は、二つ目以降の選択されている子画面の番号51をメモリ17からロードし、その画面番号の画面位置21を画面統合部18に出力することにより、後段のディスプレイに現在選んでいる画面に画枠を重畳して表示させるようにする。また、画面選択管理部31は、そのとき現在の選択されている子画面の番号と選択されている数51をメモリ17に保存しておく。
ここで、リモコン13で「次へ」というボタンが押されると、画面選択管理部31は、メモリ17より取得した二つ目以降の選択されている子画面の番号51から現在どの画面を選んでいるかを読み込み、その画面番号に一つ足して、画面位置が保存されているメモリ17からその番号に対応する画面位置を読み込む。ただし、画面がすでに選択されていたら、もう一つ番号を足す。
逆に、リモコン13で「戻る」を押されたら、画面選択管理部31は、メモリ17より取得した二つ目以降の選択されている子画面の番号51から現在どの画面を選んでいるかを読み込み、その画面番号から番号を一つ減らし、画面位置が保存されているメモリ17からその番号に対応する画面位置を読み込む。同様に、すでに選択されていたら、もう一つ番号を引く。
ここで、画面選択管理部31は、リモコン13より画面選択という信号を受け取ったときには、どの画面が選択されたのかを調べるために、メモリ17から現在選択されている画面番号を読み込む。画面隣接判定部36は、その画面番号の座標位置より、一つ目に選択されたものと隣り合うかを判定する。
また、画枠計算部32は、そのときメモリ17から現在選択されている画枠の色も読み込み、一つ目とは異なる色になるようにする。
次に、リモコン13より結合したい二つ以上の画面が選択されたら、画面サイズ計算部34は選択された画面から画面サイズを計算する。
画面サイズ計算部34は画面サイズの計算を実行し、画面番号管理部16に結合後の新規子画面の数・位置・サイズ55を供給する。これにより、画面番号管理部16は、画面番号と画面位置を対応させて、これをメモリ17に保存する。
これにより、画像統合部18で結合された位置で統合された画面を生成し、全画面を合成し、後段のディスプレイに出力を行う。
次に、画面のサイズをどのような場合に変更するかどうかについて、その具体的な例について説明する。
例えば、画面のサイズを変更できるようにすることにより、視聴者自身が興味のある番組であったら画面のサイズを大きくして、じっくり試聴することができる。
また、N人の人で見ている受信チャンネルの番組だったら画面が大きくないと見にくい。
また、画面のサイズを変更することにより、見え方がどうなるかみてみたいというようなニーズが発生する。このような場合には、画面のサイズを変更する必要性が生じる。
自動的に画面サイズを決定する場合に、画面のサイズを決定する条件としては以下のようなものが考えられる。
第1に、分割された画面(子画面)に対しての音量の比率によって画面サイズが変更されるようにする。
第2に、子画面に対して、さらにいくつの子画面があるかによって画面サイズが変更されるようにする。
第3に、同じ受信チャンネルを見ている人が他にいる場合に画面サイズがその見ている同じ画面の数に応じて変更されるようにする。
第4に、画像の特徴量によって画面サイズが変更されるようにする。
第5に、放送内容に応じて画面のサイズが変更されるようにする。
まず、一つ目の各子画面の音量の比率によっての画面サイズが変更される場合について説明する。各子画面の音量がコンテンツの盛り上がりにより変化する。例えば、サッカーの試合で、日本対XXX国などのときに、敵陣の前でのアクション時には、解説の人の音量も大きくなる。また、サポーター(応援)の人の声も大きくなり、総じて音量(出力音量)というものがリモコンで操作する以外にも変化する。
それは、実際に登場する人の興味が向上することを意味すると考えられる。そこで、その変化により、各子画面の出力音量の大きさの比率に応じて、システム本体は、各子画面の画面サイズを変更する。それにより、視聴者の興味のある番組を大きめの画面サイズにすることが可能となる。
二つ目の各子画面に対する子画面の数の比率によっての画面サイズが変更される場合について説明する。分割方法の部分で詳細は述べたが、各子画面に対してさらに画面分割を行うことにより、子画面の中に子画面を作成することができる。そのときに、システム本体は、子画面の中にどのくらい数の子画面があるかをサイズ変更の基準とすることで、より見易い画面サイズに変更することが可能となる。
三つ目の同じ受信チャンネルの番組を見ている人が他にいる場合に画面サイズがその見ている同じ画面の数に応じて変更される場合について説明する。各子画面の受信チャンネルを変更することにより、大画面の中の子画面において同じ受信チャンネルを表示している他の画面がある場合が考えられる。このとき、システム本体は、例えば二つ同じ受信チャンネルであったら二つの画面を一つにすることにより単純には二倍の大きさで試聴することが可能になる。
四つ目の画像の特徴量によって画面サイズが変更されるについて説明する。画像の特徴量としては、例えば、画像のエッジの急峻さ具合い、色合い、ノイズ、平坦の割合といったものが考えられる。
例えば、システム本体は、色合いがきついもの(彩度が大きなもの)は画面サイズを小さくして、逆のものは画面サイズを大きくすると、視聴環境を向上させて視聴者の気持を落ち着かせることができる。
最後に、五つ目の放送内容に応じて画面のサイズが変更されるについて説明する。例えば、番組に合成表示(OSD(on-screen display))されるテロップの大きさはある一定以上の大きさがないと視聴者はこれを読み取ることができない。そこで、システム本体は、テロップを抽出してそのサイズがある一定サイズを下回ったときに、画面のサイズを変更する。その結果、テロップなどの文字は見易くなる。
図22は、画面サイズ変更(自動:音量比)処理を示すフローチャートである。
図22は、システム本体のコンピュータが番組同時視聴プログラムを実行することにより実現される処理を示している。
図22において、画面サイズ変更(自動:音量比)の処理を開始(n=1)すると、まず、画面中のn階層目の子画面の音を取得する(ステップS21)。具体的には、システム本体はディスプレイに表示されている複数の画面のうちの各階層の子画面の音声信号を取得する。すなわち、システム本体は画面番号管理部16を参照し、画面・階層毎の音量を取得する。
ここで、次の階層に子画面があるか否かを判断する(ステップS22)。具体的には、システム本体は2階層目以降の子画面があるか否かを、画面番号管理部16の画面番号により判断する。
判断ステップS22で、次の階層に子画面があるときは、ステップS23でn=n+1の処理をした後に、ステップS21へ戻って、ステップS21〜ステップS22までの処理及び判断を繰り返し、次の階層に子画面がないときは、取得した音声信号の振幅の大きさを比較する(ステップS24)。具体的には、システム本体は取得したn階層目の子画面の音声信号の一定期間の振幅のレベルを比較する。
次に、どのような比率になっているのかを階層ごとに算出する(ステップS25)。具体的には、システム本体は階層ごとに子画面の音声信号の音量比を算出する。
そして、求まった比率に応じて、画面サイズを変更する(ステップS26)。具体的には、システム本体は階層ごとに子画面の音声信号の音量比率に対応するようにして、画面サイズ計算部34により画面サイズを変更する。
図23は、音量と画面の比率計算方法を示す図である。
図23に示す音量と画面の比率計算方法では、システム本体は、単に画面毎の音の大きさではなく、実際の画面に入力される音声信号の波形の振幅Anをそれぞれの画面En毎に取得する。これにより、システム本体は、画面En毎の音声信号の波形の振幅Anの音量比率を求め、音量比率に対応するように画面サイズを変更する。
図24は、第1分割画面と、そのひとつをさらに分割したときの分割画面に対して図23に示した音量と画面の比率計算方法を適用した例を示す図である。
図24に示す音量と画面の比率計算方法では、画面毎に求まった振幅を用いて、どのように比率を計算するかについて説明する。
まず、システム本体は、ある階層において、画面En毎に音声信号の波形の振幅Anを取得する。これは図23で説明したとおりである。
ここで、システム本体は、画面が分割されていたら、分割された階層すべてにおける最大値を取得する。
例えば、第1の階層で各画面が画面H1,画面H2,画面H3,画面H4に分割されていて、さらに、第2の階層で画面H2が画面H21,画面H22,画面H23,画面H24に分割されていたら(数字は音量を示す値)、各画面の音量比率は以下のようになる。
すなわち、第1の階層(H1〜H4)における画面毎の音量比率は、71で示すように、H1:H2(H23):H3:H4=5:10(最大値):7:3ということになる。
また、第2の階層(H21〜H24)における画面毎の音量比率は、72で示すように、H21:H22:H23:H24=7:6:10:9となる。
図25は、図24に示した音量の比率に応じて、画面サイズを計算した場合の計算方法の例を説明するための図である。
図25に示す画面サイズの計算方法では、H1:H2:H3:H4=a:b:c:d(音量を示す値)のように音量の比率が求まったときに、どのように計算し画面サイズをどの位置に変更するのかについて説明する。
まず、中心の座標(x,y1),(x,Y2)を示すと、H1:H2:H3:H4=xy1:(X−x)y2:x(Y−Y1):(X−x)(Y−y2)=a:b:c:dのような関係になる。
これをシステム本体が解くと次のようになる。
x=(a+c)X/(a+b+c+d)、y1=aY/(a+c)、ただし、a+c≠0、y2=bY/(b+d)、ただし、b+d≠0である。
ただし、a+c=0とb+d=0は同時には起こらない。従って、a+c=0のときは、y1=0となる。b+d=0のときは、y2=0となる。
図26は、画面サイズ変更のシステム構成を示すブロック図である。
図26において、各処理部12は、特徴量を取得するための信号(映像・音声)61を特徴量計算部37に供給する。特徴量取得計算部37は、特徴量を取得するための信号(映像・音声)61に基づいて計算した各特徴量63を画面サイズ計算部34に供給する。
画面サイズ計算部34は、各特徴量63に基づいて計算した変更前後の画面サイズと位置62を画面番号管理部16に供給する。各特徴量63とは、音量、子画面数、画面特徴量、放送内容を示す。
他の部分は、上述した図9に示した画面分割のシステム構成を示すブロック図と同様である。
具体的な画面サイズ変更の処理は、以下のようになる。
すなわち、各特徴量63が音量の場合、リモコン13によって、このモードが設定されたら、特徴量計算部37は各特徴量63として音量を抽出し、画面サイズ計算部34に供給する。
画面サイズ計算部34は画面番号管理部16を参照し、各特徴量63として音量に基づいて画面・階層毎の子画面の画面サイズを計算する。このとき、画面番号管理部16は、メモリ17より子画面のデータを読み込む。
そこで、画面サイズ計算部34は取得した子画面の音量によって、どのように画面を変更するかを決める画面サイズを計算する。画面番号管理部16は、その画面サイズに基づいて、メモリ17に記憶されている各画面と各画面サイズの対応関係を変更する。
各処理部12は計算された各画面の画面サイズを読み込み、メモリ17に保存される画面表示の位置21を調整する。
これにより、画像統合部18で結合された位置21で統合された画面を生成し、全画面を合成し、後段のディスプレイに出力を行う。
また、各特徴量63が子画面数の場合、リモコン13によって、このモードが設定されたら、特徴量計算部37は各特徴量63として子画面の数を抽出し、画面サイズ計算部34に供給する。
画面サイズ計算部34は画面番号管理部16を参照し、各特徴量63として子画面の数に基づいて画面・階層毎の子画面の画面サイズを計算する。このとき、画面番号管理部16は、メモリ17より子画面のデータを読み込む。
そこで、画面サイズ計算部34は取得した子画面の数によって、どのように画面を変更するかを決める画面サイズを計算する。画面番号管理部16は、その画面サイズにもとづいて、メモリ17に記憶されている各画面と各画面サイズの対応関係を変更する。
各処理部12は計算された各画面の画面サイズを読み込み、メモリ17に保存される画面表示の位置21を調整する。
これにより、画像統合部18で結合された位置21で統合された画面を生成し、全画面を合成し、後段のディスプレイに出力を行う。
また、各特徴量63が画面特徴量の場合、リモコン13によって、このモードが設定されたら、特徴量計算部37は各特徴量63として画面特徴量を抽出し、画面サイズ計算部34に供給する。
画面サイズ計算部34は画面番号管理部16を参照し、各特徴量63として画面特徴量に基づいて画面・階層毎の子画面の画面サイズを計算する。このとき、画面番号管理部16は、メモリ17より子画面のデータを読み込む。
そこで、画面サイズ計算部34は取得した画面特徴量によって、どのように画面を変更するかを決める画面サイズを計算する。画面番号管理部16は、その画面サイズにもとづいて、メモリ17に記憶されている各画面と各画面サイズの対応関係を変更する。
各処理部12は計算された各画面の画面サイズを読み込み、メモリ17に保存される画面表示の位置21を調整する。
これにより、画像統合部18で結合された位置21で統合された画面を生成し、全画面を合成し、後段のディスプレイに出力を行う。
また、各特徴量63が放送内容(テロップ)の場合、リモコン13によって、このモードが設定されたら、特徴量計算部37は各特徴量63としてテロップを抽出し、画面サイズ計算部34に供給する。
画面サイズ計算部34は画面番号管理部16を参照し、各特徴量63としてテロップに基づいて画面・階層毎の子画面の画面サイズを計算する。このとき、画面番号管理部16は、メモリ17より子画面のデータを読み込む。
そこで、画面サイズ計算部34は取得したテロップの長さによって、どのように画面を変更するかを決める画面サイズを計算する。画面番号管理部16は、その画面サイズにもとづいて、メモリ17に記憶されている各画面と各画面サイズの対応関係を変更する。
各処理部12は計算された各画面の画面サイズを読み込み、メモリ17に保存される画面表示の位置21を調整する。
これにより、画像統合部18で結合された位置21で統合された画面を生成し、全画面を合成し、後段のディスプレイに出力を行う。
図27は、画面サイズ変更の各処理部の構成図である。
図27において、各処理部12は、基本的には、図8に示した通常視聴時と大きく違わないが、各処理部12が映像信号と音声信号61を図26の特徴量計算部37に送る必要がある。これにより、画面サイズ計算部34が計算した画面サイズの画面を各処理部12のサイズ変更処理部23が出力し、画面統合部18がサイズ変更後の画像を統合して、後段のディスプレイに出力する。
図28は、画面サイズ(自動:子画面数)処理を示すフローチャートである。
図28は、システム本体のコンピュータが番組同時視聴プログラムを実行することにより実現される処理を示している。
図28において、画面サイズ変更(自動:子画面数)の処理を開始(n=1)すると、まず、画面中のn階層目の子画面の数を取得する(ステップS31)。具体的には、システム本体はディスプレイに表示されている複数の画面のうちの各階層の子画面の数を取得する。すなわち、リモコン13によって、このモードが設定されたら、システム本体は、画面番号管理部16より子画面の数を読み込む。
ここで、次の階層に子画面があるか否かを判断する(ステップS32)。具体的には、システム本体は2階層目以降の子画面があるか否かを、画面番号管理部16の画面番号により判断する。
判断ステップS32で、次の階層に子画面があるときは、ステップS33でn=n+1の処理をした後に、ステップS31へ戻って、ステップS31〜ステップS32までの処理及び判断を繰り返し、次の階層に子画面がないときは、子画面の数を足し合わせる(ステップS34)。具体的には、システム本体は取得したn階層目の子画面の子画面の数を足し合わせる。
次に、どのような比率になっているのかを階層ごとに算出する(ステップS35)。具体的には、システム本体は階層ごとに子画面の数を算出して、その比率を求める。
そして、求まった比率に応じて、画面サイズを変更する(ステップS36)。具体的には、システム本体は階層ごとに子画面の数の比率に対応するようにして、画面サイズ計算部34により画面サイズを変更する。
ここで、各階層ごとにサイズを変更するが、そのとき画面サイズの大きな階層(上の階層)から順番に変更を行う。例えば、図24の画面の場合であれば、第1階層目の画面H1、H3,H4のサイズを変更後、第2階層目の画面H21、H22、H23,H24のサイズを変更する。
図29は、子画面の数の計算方法を示す図である。
図29に示すように画面が分割されていたとき、システム本体は子画面の数を次のように計算する。
すなわち、第1階層目(H1〜H4)の子画面数81は、H1:H2:H3:H4=4:7:1:1となる。また、第2階層目の左上(H11〜H14)の子画面数82は、H11:H12:H13:H14=1:1:1:1となる。
また、第2階層目の右上(H21〜H24)は、H21:H22:H23:H24=1:4:1:1となる。
このように、子画面数が求まったら、あとは、上述したように第1階層目から順にこれに対応して画面サイズを変更していく。
図30は、画面サイズ変更(自動:チャンネル数)処理を示すフローチャートである。
図30は、システム本体のコンピュータが番組同時視聴プログラムを実行することにより実現される処理を示している。
図30において、画面サイズ変更(自動:チャンネル数)の処理を開始(n=1)すると、まず、画面中のn階層目の子画面のチャンネル数を取得する(ステップS41)。具体的には、システム本体はディスプレイに表示されている複数の画面のうちの各階層の子画面の受信チャンネルを取得する。
すなわち、リモコン13によって、このモードが設定されたら、システム本体は、画面番号管理部16より子画面の受信チャンネルを読み込む。
ここで、次の階層に子画面があるか否かを判断する(ステップS42)。具体的には、システム本体は2階層目以降の子画面があるか否かを、画面番号管理部16の画面番号により判断する。
判断ステップS42で、次の階層に子画面があるときは、ステップS43でn=n+1の処理をした後に、ステップS41へ戻って、ステップS41〜ステップS42までの処理及び判断を繰り返し、次の階層に子画面がないときは、取得したチャンネルの数を足し合わせる(ステップS44)。具体的には、システム本体は取得したn階層目の子画面の同じ受信チャンネルの数を足し合わせる。
次に、どのような比率になっているのかを階層ごとに算出する(ステップS45)。具体的には、システム本体は階層ごとに子画面の受信チャンネルの比率を算出して、その比率を求める。
そして、求まった比率に応じて、画面サイズを変更する(ステップS46)。具体的には、システム本体は階層ごとに子画面の受信チャンネルの比率に対応するようにして、画面サイズ計算部34により画面サイズを変更する。
図31は、チャンネル数からの比率を示す図である。このチャンネル数とは、各処理部12のチューナー22で受信された番組の受信チャンネルの番号を示す。
チャンネル数からの比率は、以下のようにして求められる。
図31において、まず、画面全体のチャンネル数を求める。この場合、チャンネル数「1」が画面H11及び画面H3の二つである。また、チャンネル数「4」が画面H13、画面H21及び画面H221の三つである。また、チャンネル数「8」が画面H12及び画面H23の二つである。
また、チャンネル数「10」が画面H14及び画面H224の二つである。残りは、チャンネル数「2」は画面H4,チャンネル数「3」は画面H24,チャンネル数「6」は画面H222であり,チャンネル数「12」は画面H223であり,いずれも一つである。これら画面全体のチャンネル数は、チューナー22で受信中のチャンネル数をカウントすることにより求められる。求める比率は、これらの個数の比率となる。
また、画面全体とは別に、子画面毎に同じチャンネル数がどのくらいずつあるのかを調べる。これは画面番号管理部16で管理している子画面にどのチャンネル数の番組が映っているのかをカウントすることで求められる。例えば、一階層目の子画面H1〜H4の場合、子画面H2のみ、画面H21及び画面H221でチャンネル数「4」が二つとなる。
二階層目の子画面H11〜H14、H21〜H24、三階層目の子画面H221〜H224以降は同じチャンネル数はない。全部一つずつである。システム本体は各階層毎にこれらの比率を保持する。
サイズ変更方法を以下に説明する。画面サイズを変更する際、第1に、受信チャンネルの数に応じて画面サイズを変更する場合、第2に、子画面ごとに同じ受信チャンネルの画面が隣り合っていた場合に結合して変更する場合の二通りがある。
まず、第1の受信チャンネルの数に応じて画面サイズを変更する場合について説明する。
まず、システム本体は画面数と画面位置の対応テーブルをもつ。具体的には、図26のメモリ17が画面数と画面位置の対応テーブルを保存する。
このテーブルは、1−100の画面数に対応させてある。このとき、上述した図31の例を使うと、チャンネル数「1」が二つ、チャンネル数「4」が三つ、チャンネル数「8」が二つ、チャンネル数「10」が二つ、残り(4チャンネル)は一つである。
合計13の子画面があるので、画面サイズ計算部34は、メモリ17のテーブルよりチャンネル数の「13」に対応した画面レイアウト情報を取得し、それに基づいて画面表示位置を決める。
その後、チャンネル数「1」なら画面は二つあるので、画面統合部18は、二つの子画面H11とH3を結合させて表示させる処理を行う。他のチャンネル数「4」、チャンネル数「8」についても、画面統合部18は、同様に結合させて、後段のディスプレイに結合画面を表示することで、画面全体をおおよそのチャンネル数の比率に分割することができる。
図32は、子画面ごとに同じチャンネルの画面が隣り合っていた場合に結合して変更する場合のサイズ変更方法を示す図である。
次に、第2の子画面ごとに同じチャンネルの画面が隣り合っていた場合に結合して変更する場合について説明する。
例えば、子画面ごとに同じチャンネルの画面が隣り合っている場合というのは、結合サイズ変更101で示す部分のチャンネル数「4」の画面H21と画面H221のことである。
このような結合サイズ変更101で示す状態があるときに、その二つの画面を結合させる。結合のやり方は、上述したとおりである。
図33は、画面サイズ変更の他のシステム構成を示すブロック図である。
特徴量としてチャンネル数を用いる例について説明する。
図33において、特徴量取得計算部37は、メモリ17から特徴量を取得するための信号(チャンネル)を取得して、画面毎の特徴量であるチャンネル数113を計算して、画面サイズ計算部34に供給する。
画面サイズ計算部34は、画面毎の特徴量であるチャンネル数113に基づいて画面サイズを計算して、変更前後の画面サイズと位置112を画面番号管理部16に供給する。
なお、ここでは、各処理部12のチューナー22で受信された番組の受信チャンネルの番号が画面数と画面位置の対応テーブルと共にメモリ17に保存されている。
他の部分は、上述した図9に示した画面分割のシステム構成を示すブロック図と同様である。
また、各特徴量113がチャンネル数の場合、リモコン13によって、このモードが設定されたら、特徴量取得計算部37は各特徴量113としてチャンネル数を抽出し、画面サイズ計算部34に供給する。
画面サイズ計算部34は画面番号管理部16を参照し、各特徴量113としてチャンネル数に基づいて画面・階層毎の子画面の画面サイズを計算する。このとき、画面番号管理部16は、メモリ17より子画面のデータを読み込む。
そこで、画面サイズ計算部34は取得した特徴量のチャンネル数によって、どのように画面を変更するかを決める画面サイズを計算する。画面番号管理部16は、その画面サイズにもとづいて、メモリ17に記憶されている各画面と各画面サイズの対応関係を変更する。
各処理部12は計算された各画面の画面サイズを読み込み、メモリ17に保存される画面表示の位置21を調整する。
これにより、画像統合部18で結合された位置21で統合された画面を生成し、全画面を合成し、後段のディスプレイに出力を行う。
図34は、画面サイズ変更(自動:画像特徴量)処理を示すフローチャートである。
図34は、システム本体のコンピュータが番組同時視聴プログラムを実行することにより実現される処理を示している。
図34において、画面サイズ変更(自動:画像特徴量)の処理を開始(n=1)すると、まず、画面中のn階層目の子画面の画像特徴量を取得する(ステップS51)。具体的には、システム本体はディスプレイに表示されている複数の画面のうちの各階層の子画面の画像特徴量を取得する。
すなわち、リモコン13によって、このモードが設定されたら、システム本体は、画面番号管理部16より子画面の画像特徴量を読み込む。
ここで、次の階層に子画面があるか否かを判断する(ステップS52)。具体的には、システム本体は2階層目以降の子画面があるか否かを、画面番号管理部16の画面番号により判断する。
判断ステップS52で、次の階層に子画面があるときは、ステップS53でn=n+1の処理をした後に、ステップS51へ戻って、ステップS51〜ステップS52までの処理及び判断を繰り返し、次の階層に子画面がないときは、取得した画像特徴量を足し合わせる(ステップS54)。具体的には、システム本体は取得したn階層目の子画面の同じ画像特徴量を足し合わせる。
次に、どのような比率になっているのかを階層ごとに算出する(ステップS55)。具体的には、システム本体は階層ごとに子画面の受信チャンネルの比率を算出する。
そして、求まった比率に応じて、画面サイズを変更する(ステップS56)。具体的には、システム本体は階層ごとに子画面の画像特徴量の比率に対応するようにして、画面サイズ計算部34により画面サイズを変更する。
画像特徴量より画面サイズの比率を算出する具体例について説明する。
画面のさまざまな特徴量に着目し、そこから比率を求めて画面サイズを変更することを考える。画面サイズの変更方法は、図34のステップS56のとおりである。
ここでは、特徴量よりどのようにして画面サイズの比率を算出するかを説明する。
特徴量としては、第1に、画像のエッジの急峻さ具合、第2に、画像の彩度、第3に、画像のノイズ、第4に、画像の平坦の割合などが考えられる。
第1の画像のエッジの急峻さ具合を特徴量として用いる場合について説明する。
この場合、画像のエッジの急峻さ、すなわち、画像のエッジの傾き具合を検出する。傾きは、隣り合う画素の差分であるので、映像信号の1フレームの全サンプルにおける隣り合う画素の差分絶対値和を求め、それを全サンプル数で割ることにより求められる。この求められた値を特徴量とする。数1にエッジの傾きの計算式を示す。
[数1]
Σ(隣接差分)/全サンプル数
画像のエッジが急峻であればあるほど周波数帯域が高いということがわかるので、そのような広帯域の入力画像はなるべく広い面積の画面に表示し、逆に低帯域の入力画像は狭い範囲の画面に表示し、なるべく広帯域に表示するように処理する。
全画面で上記の特徴量を求め、子画面が複数ある場合には、子画面中の最大値を利用する。例えば、映像信号から分離される輝度のみを利用することができる。この輝度値の画面毎の比を特徴量として算出する。
この効果として、エッジが非常に急峻な画像であった場合、エッジがぎらぎらとするため折り返しノイズが目立つので、画面サイズを大きくすることによって、折り返しノイズなどを低減することができる。
第2の画像の彩度を特徴量として用いる場合について説明する。
この場合、彩度の高い画像は、視聴者の目に優しくないので、そういった画像は狭い範囲の画面に表示し、逆にそうではなくて視聴者の目に優しい彩度の低い画像はより広い範囲の画面に表示する。
例えば、画像の彩度はある点における映像信号のRGBの値のうち最大値と最小値の差を最大値で割ったときの値となる。この場合、彩度は0〜1の値で得られる。全画面で上記の特徴量を求め、子画面が複数ある場合には、子画面中の最大値を利用する。
ここでは、画像の彩度が大きいほど画面を小さくしたいので、求まった彩度を1から引いた値を利用している。求められた値の画面毎の比を特徴量として算出する。数2に彩度の傾きの計算式を示す。
[数2]
1−Σ(彩度)/全サンプル数
第3の画像のノイズを特徴量として用いる場合について説明する。
この場合、ノイズが多い画像は視聴者にとって見苦しいので狭い範囲の画面に表示し、逆にノイズの少ない画像は広い範囲の画面に表示する。
例えば、画像のノイズは、映像信号の時刻tにおける輝度値Y(t)と時刻t−1における輝度値Y(t−1)の差分絶対値和を全サンプル数で割ることにより求める。ただし、この場合、動きの大きな部分ではこの値は大きくなってしまうので、差分絶対値がある程度小さいところのみを採用することにする。例えば、差分絶対値が5以下などのみを採用する。
ここでは、画像のノイズが大きいほど画面を小さくしたいので、求まったノイズを5から引いた値を利用している。この求められた値の画面毎の比を特徴量として算出する。数3にノイズの計算式を示す。
[数3]
5−Σ(Y(t)−Y(t−1))/全サンプル数
第4の画像の平坦の割合を特徴量として用いる場合について説明する。
この場合、平坦の割合が高いほど狭い領域の画面に表示し、逆にその割合が小さいほど広い領域の画面に表示したい。これは、変化にとんだ画面をより広い領域で見たいという視聴者の視聴環境の要求のためである。
例えば、画像の平坦の割合は、システム本体は映像信号のある注目画素をみたときのある領域における画素値の変化量DRを取得する。そして、その画素値の変化量DRが小さいとき、例えば画素値の変化量DRが10以下のときをシステム本体は画像が平坦であると仮定し、そのサンプルを数え、全サンプル数で割る。
このときの画像の平坦の割合の値は、0〜1となる。ここで、画素値の変化量DRとは、いわゆるダイナミックレンジのことで、ある領域において画素値の最大値と最小値との差分を示している。
従って、画素値の変化量DRが小さいところは、最大値と最小値の差分が小さいところとなる。
ここで、画素値の変化量DRが10以下のときを平坦であると仮定する際の、10は画素値を8ビットで表現したときの10の値を示す。
すなわち、画素値が0〜255まで変化するとしたときに、ある領域においての変化量(DR)が10以下ならほとんどその領域は変化していないので画像は平坦であると判定することができる。
この10という数値は、例示なので条件を厳しくするのであればこの数値を小さくするとある領域はより平坦の部分しか該当しなくなる。
ここでは、割合が大きいほど画面を小さくしたいので、求まった割合を1から引いた値を利用している。この求められた値を比として算出する。数4に画像の平坦の割合の計算式を示す。
[数4]
1−Σ(ある領域におけるDRが小さいところ)/全サンプル数
この効果として、平坦な割合が多い画面は情報量としては少ないと考えられるので、情報量の多いものにより広い面積の画面を割り当てることにより、よりたくさんの情報を取得することができる。
この例では、このような各種画像特徴量は、映像信号の各処理部12における信号処理過程で検出されて、メモリ17に保存されているものとする。
図35は、画面サイズ変更(自動:放送内容)処理を示すフローチャートである。
図35は、システム本体のコンピュータが番組同時視聴プログラムを実行することにより実現される処理を示している。
図35において、画面サイズ変更(自動:放送内容)の処理を開始(n=1)すると、まず、画面中のn階層目の子画面のテロップを取得する(ステップS61)。具体的には、システム本体はディスプレイに表示されている複数の画面のうちの各階層の子画面のテロップを取得する。
すなわち、リモコン13によって、このモードが設定されたら、システム本体は、画面番号管理部16より子画面のテロップを読み込む。
ここで、次の階層に子画面があるか否かを判断する(ステップS62)。具体的には、システム本体は2階層目以降の子画面があるか否かを、画面番号管理部16の画面番号により判断する。
判断ステップS62で、次の階層に子画面があるときは、ステップS63でn=n+1の処理をした後に、ステップS61へ戻って、ステップS61〜ステップS62までの処理及び判断を繰り返し、次の階層に子画面がないときは、取得したテロップサイズがどのようになっているかを調べる(ステップS64)。具体的には、システム本体は取得したn階層目の子画面ごとのテロップサイズを求める。
そして、求まったテロップサイズに応じて、画面サイズを変更する(ステップS65)。具体的には、システム本体は階層ごとに子画面のテロップサイズに対応するようにして、画面サイズ計算部34により画面サイズを変更する。
ここで、以下のようにして検出された画面毎のテロップは、予めメモリ17に保存されているものとする。
すなわち、テロップサイズの検出の際に、システム本体は画面中に二値エッジがどこにあるかを調べ、二値エッジが存在したときにどのくらいの範囲(矩形)であるかを調べることにより、テロップサイズを求める。
具体的には、下記のようにしてテロップサイズを求める。
第1に、映像信号の隣接画素差分の大きなところがどこかを探す。テロップ位置は、画面の上下左右が多いからである。
第2に、周辺も同じくらいの画素差分になっているか調べる。
第3に、もし周辺も同じくらいの画素差分になっていたら、さらに広い領域をみて、どのくらいの範囲でそのような差分が分布しているのか調べる。
第4に、その範囲(矩形)で水平方向に長いときには、縦のサイズをテロップのサイズとし、逆に縦方向に長いときには、横のサイズをテロップのサイズとする。
画面サイズ変更方法は以下のようになる。
すなわち、テロップのサイズがわかったときに画面のサイズを変更する際に、システム本体は変更方法として、第1にテロップのみサイズを変更する場合、第2にテロップの大きさにあわせて、画面サイズを変更する場合の二通り考えられる。
第1のテロップのみサイズを変更する場合について説明する。
矩形のサイズがわかっているので、システム本体はその部分に周知の画像補間技術を用いて拡大する。その際、システム本体はサイズが見やすい値を超えるサイズにまで拡大する。そのサイズは、最初に初期値として視聴者に入力させるようにすることで対応する。
また、その際、画面に入りきらない場合には、隣の画面にまたいでもよいものとする。もしくは、またぐのができない場合には、その子画面のサイズを大きくすることで対応する。
次に、第2のテロップの大きさにあわせて、画面サイズを変更する場合について説明する。
システム本体は画面サイズをテロップのサイズから何倍に拡大表示すればよいのかを示す入力された画面サイズを取得する。
入力のサイズがaで基準サイズがbのときには、拡大率はb/aとなる。なお、基準サイズは、最初に初期値としてユーザーに入力してもらうようにする。
具体的には、システム本体はテロップの位置を取得する。その位置が、上下左右であるかによって、システム本体はズームの中心位置を変更する。例えば、テロップの位置が下なら、システム本体は下の真ん中を中心に拡大を行う。
システム本体はメモリ17から画面の位置を取得できるので、その数値を用いて計算する。画面の拡大を行ったときに今までの画枠からはみ出る部分について、どのくらいはみ出るのかを拡大率のその画面サイズから計算する。
システム本体は画面位置より上下左右にどの画面があるかわかるので、隣接している画面サイズをはみ出てしまった分だけ小さくする。
図36は、画面拡大処理を示すフローチャートである。
図36は、本発明の一実施の形態による画面拡大処理を示すフローチャートである。図36は、システム本体のコンピュータが番組同時視聴プログラムを実行することにより実現される処理を示している。
図36において、まず、拡大したい画面を一つ選択し、決定する(ステップS71)。具体的には、リモコンからの選択及び決定操作に基づいて、システム本体はディスプレイに表示されている複数の画面のうちの拡大すべき画面を決定する。
次に、選ばれた画面を、どこを中心にどのくらいまで拡大したいのかを決定するための中心位置と拡大サイズの決定をする(ステップS72)。具体的には、システム本体はディスプレイ上で決定された画面にカーソルを表示して指定された中心位置を決定して、指定された拡大サイズを決定する。
ここで、カーソルを視聴者が動かし、拡大位置を決定する。具体的には、リモコンからの位置指定及び決定操作に基づいて、システム本体はディスプレイに表示されている拡大すべき画面内で分割位置を決定する。
そこで、拡大することで画枠よりはみ出た部分の処理をする(ステップS73)。具体的には、システム本体はディスプレイ上で決定された拡大位置及び拡大サイズで画面を拡大した場合に、拡大後に画枠からはみ出した部分の画面サイズを変更する。例えば、分割前後でアスペクト比を一定に保つように画面サイズを変更する。
そして、ほかに拡大を行いたい画面はあるか否かを判断する(ステップS74)。具体的には、システム本体は他のリモコンから他の画面拡大の選択及び決定操作があるか否かを判断する。
判断ステップS74で、他のリモコンから他の画面拡大の選択及び決定操作があるときは、ステップS71へ戻って、ステップS71〜ステップS74までの処理及び判断を繰り返す。
判断ステップS74で、他のリモコンから他の画面拡大の選択及び決定操作がないときは、処理を終了する。
図37は、拡大表示のシステム構成を示すブロック図である。
図37において、画面選択管理部31は、選択されている子画面の番号121を画枠計算部32及びカーソル位置計算部33に供給する。
カーソル位置計算部33はメモリ17から選択されている子画面のサイズ122を取得して、これに基づいてカーソルの位置を計算して、カーソルの位置と子画面の位置・サイズと拡大率123を拡大サイズ計算部38に供給する。
拡大サイズ計算部38は、カーソルの位置と子画面の位置・サイズと拡大率123に基づいて画面位置・サイズを計算して、拡大中心位置・拡大率・画面位置・サイズ124を画面サイズ計算部34に供給する。
画面サイズ計算部34は拡大中心位置・拡大率に基づいて画面位置・サイズ124を計算して、画面位置・サイズ124を画面番号管理部16に供給する。
他の部分は、上述した図9に示した画面分割のシステム構成を示すブロック図と同様である。
図38は、拡大表示の各処理部の構成図である。
サイズ変更処理部23は、メモリ17から取得したサイズ123及び拡大率・拡大中心位置124より、入力される映像信号の画像をリサイズする処理部である。
他は、通常視聴時と同じである。
ここで、拡大表示の具体的な動作は、以下のようになる。
リモコン信号解析部15は、リモコン13より画面拡大信号を受け取る。画面選択管理部31は、リモコン信号解析部15がリモコン13より画面拡大信号を受け取ったときに、まだ画面を選択していなかったら、画面番号の若い番号を選択する。
画面選択管理部31は、選択されている子画面の番号121をメモリ17からロードし、その画面番号の画面位置21を画面統合部18に出力することにより、後段のディスプレイに現在選んでいる画面に画枠を重畳して表示させるようにする。
また、画面選択管理部31は、そのとき現在の選択されている子画面をメモリ17に保存しておく。この子画面の位置は、X,Y座標と幅・高さを格納しておく。
ここで、リモコン13で「次へ」というボタンが押されると、画面選択管理部31は、メモリ17より取得した選択されている子画面の番号121から現在どの画面を選んでいるかを読み込み、その画面番号に一つ足して、画面位置が保存されているメモリ17からその番号に対応する画面位置を読み込む。
逆に、リモコン13で「戻る」を押されたら、画面選択管理部31は、メモリ17より取得した選択されている子画面の番号121から現在どの画面を選んでいるかを読み込み、その画面番号から番号を一つ減らし、画面位置が保存されているメモリ17からその番号に対応する画面位置を読み込む。
そして、カーソル位置計算部33は、メモリ17より取得した選択されている子画面のサイズ122からその画面位置を読み込んで画枠&カーソル生成部35に供給する。画枠&カーソル生成部35は、その画面位置に対応する画枠とカーソルを生成して、画像統合部18に供給する。これにより、後段のディスプレイにその位置に選択されているという画枠を表示させるようにする。
ここで、画面選択管理部31は、リモコン13より画面選択という信号を受け取ったときには、どの画面が選択されたのかを調べるために、メモリ17から現在選択されている画面番号を読み込む。このとき、画枠&カーソル生成部35は、選択された画面中央(図10参照)にカーソルが表示されるようにカーソルを生成する。
次に、リモコン13よりカーソルが動かされ、画面拡大位置がリモコン13により決定されたら、画枠&カーソル生成部35は拡大サイズを決定するために、半透明な画面を画面上に重畳させる。
ここで、カーソルが動かされ、画面拡大中心位置がリモコン13により決定されたら、リモコン13で拡大率を調整すると連動して半透明の画枠サイズが変化する。
カーソル位置計算部33から取得されるカーソルの位置と子画面の位置・サイズ123のカーソルの位置と拡大率に基づいて、画面サイズ計算部34は画面サイズを計算する。
画面サイズ計算部34は画面サイズの計算を実行し、画面番号管理部16に拡大中心位置・拡大率・画面位置・サイズ124を供給する。これにより、画面番号管理部16は、拡大率が決定したら、画面番号と画面位置を対応させて、これをメモリ17に保存する。さらに、画枠&カーソル生成部35は、上述したようにはみ出た部分の画枠の処理を行う。
これにより、画像統合部18でカーソルの移動により追加された画面を読み込んだ位置で統合された画面を生成し、全画面を合成し、後段のディスプレイに出力を行う。
図39は、拡大率を変えたときのサイズを示す図である。
図39において、元の画像J1(X,Y)を画像J2に拡大する拡大率を変えたとき、拡大する中心を(m,n)としたとき、また、拡大率をrとしたとき、拡大後の画像J2のX1,X2,Y1,Y2は、131で示すように、X1=(1−r)m、X2=(X−m)r+m、Y1=(1−r)n、Y2=(Y−n)r+nと表される。
次に、はみ出た部分の処理を説明する。
画像の拡大を行ったときに、拡大前までの画枠からはみ出た部分の処理は、次のようになる。
まず、画枠&カーソル生成部35は、拡大率を決定するときと同じ半透明の画像を表示する。そして、画面サイズ計算部34は拡大前までの領域からはみ出た部分を計算し、画枠&カーソル生成部35は、その部分を半透明で表示する。このとき、画面サイズ計算部34は周辺の画像サイズを変更する。
また、はみ出た部分を表示しない場合には、画面サイズ計算部34は拡大までの領域からはみ出た部分を計算し、画枠&カーソル生成部35は、その部分は、表示させないようにする。
このように画面を拡大することにより、次のような効果を得ることができる。
まず、画面の端の方には何も映らないような受信チャネルの番組を選択しているときに、画面の中央を大きくして、視聴者はより大きなサイズで番組を見ることができる。
また、視聴者が気になる部分を拡大表示することにより、気になる部分を詳細に見ることができる。このとき、拡大を行う手段として、高品質の補間処理が可能な周知の高倍密変換を利用することができる。
また、画面を拡大する操作方法も、画面の分割や結合で述べた通り様々な方法がある。ここでは、そのうちの一つであるリモコン13による操作について説明をする。
第1に、視聴者は画面上にあるどの画面を拡大したいのかを選択する。
第2に、画面選択の方法として、例えば視聴者はジョグダイヤルを利用して画面を選択的に移動する。もしくは、画面に番号をふりテンキーでその番号を選択するようにしてもよい。
第3に、システム本体は選択された画面上に中心と画面サイズを表すカーソルを表示し、それを用いてどこを中心にどのくらい拡大するのかを決定する。
第4に、システム本体は拡大をすることにより、画面の外にはみ出た部分に関しては、単純に表示を行わないようにしてもよい(削除する)。
第5に、システム本体は拡大をすることにより、画面の内で他の画面と重なってしまった部分に関しては、透明化表示を行うようにしてもよい。
また、画面を拡大することにより、重なった部分についての処理は以下のようになる。
すなわち、システム本体は重なった両方の画面を半透明にするようにしてもよい。
また、拡大した方の画面を表示しないようにしてもよい(削除する)。また、重なった両方の画面を混ぜて表示するようにしてもよい。
重なった部分については、基本は画面サイズの小さなものを優先的に表示し、動きがある場合には、動いている方を優先的に表示を行うようにするようにしてもよい。この操作により、拡大操作ができる。
次に、リモコン13による画像制御の操作について説明をする。
これは、分割された子画面を制御することができるリモコン13に関する操作方法である。
そのリモコン13を用いることにより、その子画面のチャンネルの変更、その子画面の音量の変更、その子画面の画面分割、その子画面の分割された画像の結合の制御することができる。
その際、そのリモコン(子リモコン)と画面をどのようにして関連づけを行うかについて、以下に説明を行う。
自動で子画面に子リモコンを割り当てる方法には、次のような方法がある。
第1に、リモコン、すなわち視聴者の位置を検出することにより、その位置から一番近いところの画面を割り当てる方法がある。
第2に、リモコン、すなわち視聴者の位置を検出し、その位置が画面に近い場合には一番遠いところの画面を割り当てる方法がある。
一つ目のリモコン、すなわち視聴者の位置を検出することにより、その位置から一番近いところの画面を割り当てる方法について説明する。リモコン、すなわち視聴者の位置を検出するには、いくつか方法がある。
第1は、ディスプレイの画面本体から指向性のある電波を発生させ、その電波をキャッチすることができるリモコンがどの方向にあるかを、システム本体が電波を出す向きを走査することにより位置を求める方法である。
第2は、ディスプレイの画面本体の下部水平方向にアレイ状にリモコン受光部を複数持つことで、リモコンを操作したときの受光部における赤外線コマンドの強度が異なる。その強度を相対的に利用して位置を求める方法である。
ここでは、二番目の方法を用いた位置検出について説明をする。
例えば、ディスプレイの画面の下部水平方向に間仕切りを複数用意して、その間にリモコン受光部を配置する。システム本体は、リモコンからの赤外線コマンドの相対強度によりリモコンの方向を判定する。
システム本体は、リモコンの位置がわかったら、そこから画面の中でどの画面が一番リモコンに近いか判定を行うことで、そこの画面と子リモコンの割り当てを行うことができる。
次に、二つ目のリモコン、すなわち視聴者の位置を検出し、その位置が画面に近い場合には一番遠いところの画面を割り当てる方法について説明する。
リモコンの位置は、一つ目の方法についての説明中で述べたようにして求められているとする。そのときに、システム本体は、リモコンの位置から一番遠い画面を選択し、その画面とリモコンを割り当てる。
一つ目の方法は、視聴者からはほぼ画面を真っ直ぐ見るという試聴スタイルだが、二つ目の方法は、視聴者からは画面を斜めに見ることが多いという試聴スタイルである。真っ直ぐ見た方が視聴者は見易いが、視聴環境が悪く目が悪くなりそうという方にはシステム本体は二つ目の方法をすすめるようにメッセージを表示するようにしてもよい。
水平方向の相対位置検出のみ述べたが、垂直方向にも同様のことを行うと高さ方向の位置も取得することができる。
以上のように画面と子リモコンの割り当てについて説明してきたが、逆に、割り当ての解除を行う場合には、リモコンの解除ボタンを押すことによりシステム本体が解除できるようにするだけでよい。
また、他の画面に子リモコンとの割り当てを変更する場合には、解除をしなくても同様の操作で割り当てたい画面を自動で決定することで変更が可能である。
さらに、複数人で番組の試聴を行うには、音場の制御が必要になってくる。他の人が試聴している音声が自分に聞こえてしまうと自分の注意がそれてしまい、画面に集中できなくなるからである。
そのようなときに考えられる方法としては、指向性のあるスピーカーを用いて実現する方法、音声信号処理を行い実現する方法がある。
ここでは一つ目の指向性のあるスピーカーを用いて実現に関して説明する。
まず、第1に、システム本体は子画面の割り当て済の子リモコンの画面に対する相対位置を求める。
第2に、システム本体は子リモコンの位置に合うように音声を制御する。
具体的な音声の制御方法については、下記の通りである。
リモコンの位置を取得する方法に関しては前述したとおりである。その位置には、視聴者がいるとする。システム本体はその視聴者に音声を届けるわけだが、オーディオスポットライトのような超音波によりごく狭い範囲に的を絞って音を送り届ける技術を利用することにより、実現が可能である。
これにより、子リモコンを持つ視聴者の位置にのみ視聴者が聞きたい音が届けられる。
これにより、大画面を複数人でそれぞれが異なる受信チャンネルの番組を試聴していたときでも、システム本体はそれぞれの試聴個所が特定できるので、大画面からそれぞれの視聴者の場所に適した音声を発生させることにより、それぞれが干渉することなく試聴することが可能になることがわかる。
ただし、試聴する人どうしの距離があまりにも近い場合は、音声が干渉することによりうまくできないことが想像できる。このような場合に対応するには、もっと特別な環境をつくる必要がある。
例えば、個人にしか絶対に聞こえない環境であるヘッドホンを利用するシステムを用いる方法である。そこで、子リモコンにヘッドホンの端子を設けることと、子リモコンと画面の方で音声のやり取りを無線で行うことができるようにする必要がある。
この無線は、たとえば、ブルーツゥース(Bluetooth)のような近距離の無線通信を用いて行えば良い。もしくは、ヘッドホン自体に無線の機能を付加し、システム本体と直接データ通信を行うことも同義である。ただし、直接システム本体とヘッドホンで通信を行う場合には、ヘッドホンがどの画面に対応しているのかをあらかじめ決定しておく必要がある。
また、子リモコンが複数ある場合に、それらを制御するマスターリモコンを用意するようにしてもよい。
この場合のマスターリモコンの機能として、以下のことが考えられる。
すなわち、他の視聴者が使っている子リモコンが持ち出された場合、その子リモコンと対応している画面の制御が子リモコンしかできない。そこで、この場合にマスターリモコンで画面の制御することができるようにする。
また、特定の子リモコンを操作している人の音声をヘッドホンで試聴することができるようにする。
このときのマスターリモコンと子リモコンの関係は、複数の子リモコンの上位のマスターリモコンが常に画面の制御することができるようにする。
なお、上述した本実施の形態例に限らず、本発明の要旨を逸脱しない限り、適宜変更しうることは言うまでもない。
E1〜E4…分割画面、11…入力信号、12…各処理部、13…リモコン、14…リモコン受光部、15…リモコン信号解析部、16…画面番号管理部、17…メモリ、18…画面統合部、19…出力信号、20…リモコンID画面対応信号、21…位置信号、22…チューナー、23…サイズ変更処理部、24…リモコン解析信号、25…チャンネル信号、26…サイズ信号、31…画面選択管理部、32…画枠計算部、33…カーソル位置計算部、34…画面サイズ計算部、35…画枠及びカーソル生成部、41…選択されている子画面の番号、42…選択されている子画面のサイズ、43…カーソルの位置と子画面の位置・サイズ、44…分割後の新規子画面の数・位置・サイズ、F1〜F4、G1〜G9…結合画面、36…画面隣接判定部、51…選択されている子画面の番号・選択されている数、52…選択されている画面の位置・サイズ、53…選択されている子画面の位置・サイズ・その数に応じての色、54…選択されている画面位置・サイズ、55…結合後の新規子画面の位置・サイズ、61…特徴量を取得するための信号(映像・音声)、62…変更前後の画面サイズと位置、63…特徴量(音量、子画面数、画面特徴量、放送内容)、111…特徴量を取得するための信号(チャンネル)、112…変更前後の画面サイズと位置、113…特徴量(チャンネル数)、38…拡大サイズ計算部、121…選択されている子画面の番号、122…選択されている子画面のサイズ、123…カーソルの位置と子画面の位置・サイズと拡大率、124…拡大中心位置・拡大率・画面位置・サイズ