JP5433766B2 - 映像処理装置および映像処理方法 - Google Patents

Description

本発明の実施形態は、映像処理装置および映像処理方法に関する。

近年、視聴者が特殊なメガネを使用せずに裸眼で立体映像を見ることができる立体映像表示装置（いわゆる裸眼３Ｄテレビ）が普及しつつある。この立体映像表示装置は、視点の異なる複数の画像を表示する。そして、それらの画像の光線は、例えばパララックスバリア、レンチキュラレンズなどによって出力方向を制御され、視聴者の両眼に導かれる。視聴者の位置が適切であれば、視聴者は、左目と右目とで異なる視差画像を見ることになるため、映像を立体的に認識することができる。このように視聴者が立体映像を見ることの可能な領域を視域という。

この視域は制限された領域であり、視聴者が視域の外にいる場合、立体映像を見ることはできない。このため、立体映像表示装置は、視聴者の位置を検出し、視聴者が視域内に入るように視域を制御する機能を有する（フェイス・トラッキング機能）。

しかしながら、複数の視聴者が存在する場合、全ての視聴者が視域内に収まるとは限らない。一方、視聴者の中には、優先的に視域内に収めるべき人と、そうでない人が存在する。例えば、単に立体映像表示装置の前を通りがかった人については、優先的に視域内に収める必要はない。

特開２００７−９４０２２号公報

優先度の高い視聴者に対して常に高品位の立体映像を表示することができる映像処理装置および映像処理方法を提供する。

実施形態によれば、映像処理装置は、撮影された映像に基づいて視聴者の位置および人数を取得する視聴者検出部と、前記視聴者が複数の場合、前記複数の視聴者に優先度を付ける視聴者選択部と、前記視聴者の位置に基づいて視域を制御する視域制御部と、を備え、前記視域制御部は、前記視聴者全員を視域内に収めることができない場合には、優先度の高い視聴者から順に複数の視聴者を収める視域を設定する。

一実施形態に係る映像処理装置１００の外観図である。 一実施形態に係る映像処理装置１００の概略構成を示すブロック図である。 液晶パネル１およびレンチキュラレンズ２の一部を上方から見た図である。 映像処理装置の視聴領域Ｐにおける複数の視域２１の一例を示す上面図である。 変形例に係る映像処理装置１００’の概略構成を示すブロック図である。 一実施形態に係る映像処理方法を示すフローチャートである。 一実施形態に係る映像処理方法により設定された視域を示す上面図である。 優先度付けルールによる視聴者への優先度付けを説明するための図である。

以下、本発明に係る実施形態について、図面を参照しながら具体的に説明する。

図１は、一実施形態に係る映像表示装置１００の外観図であり、図２は、その概略構成を示すブロック図である。映像表示装置１００は、液晶パネル１と、レンチキュラレンズ２と、カメラ３と、受光部４と、コントローラ１０とを備えている。

液晶パネル（表示部）１は、視域内にいる視聴者が立体映像として観察可能な複数の視差画像を表示する。この液晶パネル１は、例えば５５インチサイズのパネルであり、水平方向に１１５２０（＝１２８０＊９）個、垂直方向に７２０個の画素が配置される。また、各画素内には、３つのサブピクセル、すなわち、Ｒサブピクセル、ＧサブピクセルおよびＢサブピクセルが垂直方向に形成されている。液晶パネル１には、背面に設けられるバックライト装置（不図示）から光が照射される。各画素はコントローラ１０から供給される視差画像信号（後述）に応じた輝度の光を透過させる。

レンチキュラレンズ（開口制御部）２は、液晶パネル１（表示部）に表示された複数の視差画像を所定の方向に出力する。このレンチキュラレンズ２は、液晶パネル１の水平方向に沿って配置される複数の凸部を有し、その数は液晶パネル１の水平方向画素数の１／９である。そして、水平方向に配置される９個の画素につき１つの凸部が対応するように、レンチキュラレンズ２は液晶パネル１の表面に貼り付けられている。各画素を透過した光は凸部の頂点付近から指向性を持って特定の方向へ出力される。

本実施形態の液晶パネル１は、３視差以上の多視差方式（インテグラルイメージング方式）または２視差方式で、立体映像を表示することができ、この他に通常の２次元映像も表示可能である。

以下の説明では、液晶パネル１の各凸部に対応して９個の画素を設けて、９視差の多視差方式を採用可能な例を説明する。多視差方式では、各凸部に対応する９個の画素にそれぞれ第１〜第９視差画像を表示する。第１〜第９視差画像とは、液晶パネル１の水平方向に沿って並ぶ９つの視点からそれぞれ被写体を見た画像である。視聴者は、レンチキュラレンズ２を介して、左目で第１〜第９視差画像のうちの１つの視差画像を、右目で他の１つの視差画像をそれぞれ見ることにより、映像を立体視できる。多視差方式によると、視差の数を増やすほど、視域を広げることができる。視域とは、液晶パネル１の前方から液晶パネル１を見たときに映像を立体視可能な領域をいう。

一方、２視差方式では、各凸部に対応する９個の画素のうちの４個に右目用視差画像を、他の５個に左目用視差画像をそれぞれ表示する。左目用および右目用視差画像とは、水平方向に並ぶ２つの視点のうち、左側の視点および右側の視点からそれぞれ被写体を見た画像である。視聴者は、レンチキュラレンズ２を介して、左目で左目用視差画像を、右目で右目用視差画像をそれぞれ見ることにより、映像を立体視できる。２視差方式によると、表示される映像の立体感が多視差方式よりも得られやすくなるが、多視差方式に比べて視域が狭くなる。

なお、液晶パネル１は各凸部に対応する９個の画素に同一の画像を表示して、２次元画像を表示することもできる。

また、本実施形態では、レンチキュラレンズ２の凸部と表示される視差画像との相対的な位置関係、すなわち、各凸部に対応する９個の画素にどのように視差画像を表示するか、に応じて、視域を可変制御できるようにしている。以下、多視差方式を例に取って、視域の制御について説明する。

図３は、液晶パネル１およびレンチキュラレンズ２の一部を上方から見た図である。同図の網掛けの領域が視域を示しており、視域から液晶パネル１を見ると映像を立体視できる。他の領域は逆視やクロストークが発生する領域であり、映像を立体視するのが困難な領域である。
図３は、液晶パネル１とレンチキュラレンズ２との相対的な位置関係、より具体的には、液晶パネル１とレンチキュラレンズ２との距離、あるいは液晶パネル１とレンチキュラレンズ２との水平方向のずれ量によって、視域が変化する様子を示している。

実際には、レンチキュラレンズ２は、液晶パネル１に高精度に位置合わせをして貼り付けられるため、液晶パネル１とレンチキュラレンズ２との相対的な位置を物理的に変更することは困難である。

そこで、本実施形態では、液晶パネル１の各画素に表示される第１〜第９視差画像の表示位置をずらすことで、見かけ上、液晶パネル１とレンチキュラレンズ２との相対的な位置関係を変更し、これにより、視域の調整を行う。

例えば、各凸部に対応する９個の画素に第１〜第９視差画像をそれぞれ表示した場合（図３（ａ））に比べ、視差画像を全体に右側にずらして表示した場合（図３（ｂ））、視域は左側に移動する。逆に、視差画像を全体に左側にずらして表示した場合、視域は右側に移動する。

また、水平方向の中央付近では視差画像をずらさず、液晶パネル１の外側ほど、視差画像を外側に大きくずらして表示した場合（図３（ｃ））、視域は液晶パネル１に近づく方向に移動する。なお、ずらす視差画像とずらさない視差画像との間の画素や、ずらす量が異なる視差画像間の画素は、周囲の画素に応じて適宜補間すればよい。また、図３（ｃ）とは逆に、水平方向の中央付近では視差画像をずらさず、液晶パネル１の外側ほど、視差画像を中心側に大きくずらして表示した場合、視域は液晶パネル１から遠ざかる方向に移動する。

このように、視差画像の全体あるいは一部をずらして表示することにより、視域を液晶パネル１に対して左右方向あるいは前後方向に移動させることができる。図３では説明を簡略化するために視域を１つだけ示しているが、実際には、図４に示すように、複数の視域２１が視聴領域Ｐに存在し、これらは連動して移動する。視域は、後述する図２のコントローラ１０により制御される。なお、視域２１以外の視聴領域は、逆視やクロストーク等の発生により、良好な立体映像を見ることが困難な逆視領域２２である。

図１に戻り、映像処理装置１００の各構成要素について説明する。

カメラ３は、液晶パネル１の下部中央付近に、所定の仰角で取り付けられ、液晶パネル１の前方の所定の範囲を撮影する。撮影された映像はコントローラ１０に供給され、視聴者の位置や視聴者の顔等、視聴者に関する情報を検出するために用いられる。カメラ３は、動画像と静止画像のどちらを撮影してもよい。

受光部４は、例えば液晶パネル１の下部の左側に設けられる。そして、受光部４は視聴者が使用するリモコンから送信される赤外線信号を受信する。この赤外線信号は、立体映像を表示するか２次元映像を表示するか、立体映像を表示する場合に多視差方式および２視差方式のいずれを採用するか、視域の制御を行うか否か、等を示す信号を含む。

次に、コントローラ１０の構成要素の詳細について説明する。図２に示すように、コントローラ１０は、チューナデコーダ１１と、視差画像変換部１２と、視聴者検出部１３と、視域情報算出部１４と、画像調整部１５と、視聴者選択部１６と、記憶部１７とを有する。コントローラ１０は、例えば１つのＩＣ（Integrated Circuit）として実装され、液晶パネル１の裏側に配置される。もちろん、コントローラ１０の一部をソフトウェアで実装してもよい。

チューナデコーダ（受信部）１１は入力される放送波を受信および選局し、符号化された映像信号を復号する。放送波に電子番組表（ＥＰＧ）等のデータ放送の信号が重畳されている場合、チューナデコーダ１１はこれを抽出する。あるいは、チューナデコーダ１１は、放送波ではなく、光ディスク再生装置やパーソナルコンピュータ等の映像出力機器から符号化された映像信号を受信し、これを復号する。復号された信号はベースバンド映像信号とも呼ばれ、視差画像変換部１２に供給される。なお、映像表示装置１００が放送波を受信せず、専ら映像出力機器から受信する映像信号を表示する場合、チューナデコーダ１１に代えて単に復号機能を有するデコーダを受信部として設けてもよい。

チューナデコーダ１１が受信する映像信号は、２次元の映像信号であってもよいし、フレームパッキング（ＦＰ）、サイドバイサイド（ＳＢＳ）あるいはトップアンドボトム（ＴＡＢ）方式等で左目用および右目用の画像を含む３次元の映像信号であってもよい。また、映像信号は３視差以上の画像含む３次元の映像信号であってもよい。

視差画像変換部１２は、映像を立体表示するために、ベースバンド映像信号を複数の視差画像信号に変換して画像調整部１５に供給する。視差画像変換部１２は、多視差方式と２視差方式のどちらを採用するかで、処理内容が異なる。また、ベースバンド映像信号が２次元の映像信号であるか、３次元の映像信号であるか、に応じて、視差画像変換部１２の処理内容が異なる。

２視差方式を採用する場合、視差画像変換部１２は、左目用および右目用視差画像にそれぞれ対応する左目用および右目用視差画像信号を生成する。より具体的には以下のようにする。

２視差方式を採用し、かつ、左目用および右目用の画像を含む３次元映像信号が入力された場合、視差画像変換部１２は液晶パネル１に表示可能な形式の左目用および右目用視差画像信号を生成する。また、３つ以上の画像を含む３次元映像信号が入力される場合、例えばそのうちの任意の２つを用いて、視差画像変換部１２は左目用および右目用視差画像信号を生成する。

これに対し、２視差方式を採用し、かつ、視差情報を含まない２次元の映像信号が入力された場合、視差画像変換部１２は、映像信号における各画素の奥行き値に基づいて、左目用および右目用視差画像信号を生成する。奥行き値は、各画素がどの程度液晶パネル１に対して手前または奥に見えるように表示するか、を示す値である。奥行き値は予め映像信号に付加されていてもよいし、映像信号の特徴に基づいて動き検出、構図識別および人間の顔検出等を行って奥行き値を生成してもよい。左目用視差画像では、手前に見える画素は奥に見える画素より右側にずれて表示される必要がある。そのため、視差画像変換部１２は映像信号における手前に見える画素を右側にずらす処理を行って左目用視差画像信号を生成する。奥行き値が大きいほどずらす量を大きくする。

一方、多視差方式を採用する場合、視差画像変換部１２は第１〜第９視差画像にそれぞれ対応する第１〜第９視差画像信号を生成する。より具体的には以下のようにする。

多視差方式を採用し、かつ、２次元の映像信号または８視差以下の画像を含む３次元の映像信号が入力された場合、視差画像変換部１２は、２次元の映像信号から左目用および右目用視差画像信号を生成するのと同様に奥行き情報に基づいて、第１〜第９視差画像信号を生成する。

多視差方式を採用し、かつ、９視差の画像を含む３次元の映像信号が入力された場合、視差画像変換部１２はその映像信号を用いて第１〜第９視差画像信号を生成する。

視聴者検出部１３は、カメラ３により撮影された映像を用いて顔認識を行い、視聴者の情報（例えば、視聴者の顔情報、位置情報。以下、「視聴者認識情報」と総称する。）を取得し、後述の視聴者選択部１６に供給する。視聴者検出部１３は、視聴者が動いても、追尾することが可能であるため、視聴者ごとの視聴時間を把握することもできる。

視聴者の位置情報は、例えば液晶パネル１の中央を原点とするＸ軸（水平方向）、Ｙ軸（垂直方向）およびＺ軸（液晶パネル１に対して直交する方向）上の位置として表される。図４に示す視聴者２０の位置は、座標（Ｘ１，Ｙ１，Ｚ１）で表される。より具体的には、視聴者検出部１３は、まず、カメラ３により撮影された映像から顔を検出することにより視聴者を認識する。次いで、視聴者検出部１３は映像における視聴者の位置からＸ軸およびＹ軸上の位置（Ｘ１，Ｙ１）を算出し、顔の大きさからＺ軸上の位置（Ｚ１）を算出する。視聴者が複数いる場合、視聴者検出部１３は、予め定めた数、例えば１０人分の視聴者を検出するようにしてもよい。この場合、検出された顔の数が１０より大きいときは、例えば液晶パネル１から近い、すなわち、Ｚ軸上の位置が小さい順に１０人の視聴者の位置を検出する。

視域情報算出部１４は、後述の視聴者選択部１６により選択された視聴者の位置情報を用いて、選択された視聴者を収める視域を設定するための制御パラメータを算出する。この制御パラメータは、例えば、図３で説明した視差画像をずらす量であり、１つのパラメータ、または複数のパラメータの組み合わせである。そして、視域情報算出部１４は、算出した制御パラメータを画像調整部１５に供給する。

より詳しくは、所望の視域を設定するために、視域情報算出部１４は、制御パラメータと、その制御パラメータで設定される視域とを対応付けた視域データベースを用いる。この視域データベースは記憶部１７に予め格納されている。視域情報算出部１４は、視域データベースを検索することによって、選択された視聴者を収めることの可能な視域を見つける。

また、視聴者選択部１６によって視聴者が選択されない場合には、視域情報算出部１４は、できるだけ多くの視聴者を視域内に収める視域を設定するための制御パラメータを算出する。

画像調整部（視域制御部）１５は、視域を制御するために、算出された制御パラメータに応じて視差画像信号をずらしたり補間したりする調整を行った後に、液晶パネル１に供給する。液晶パネル１は調整された視差画像信号に対応する画像を表示する。

視聴者選択部１６は、視聴者に優先度を付けるための優先度付けルールに基づいて、視聴者検出部１３により検出された視聴者に優先度を付ける。その後、視聴者選択部１６は、視聴者の中から所定の人数（１または複数）の視聴者を優先度の高い順に選択し、選択した視聴者の位置情報を視域情報算出部１４に供給する。

なお、優先度付けルールは、予め設定されており、ユーザがメニュー画面等から複数の優先度付けルールの中から所望のものを選択してもよいし、製品出荷時に所定の優先度付けルールを設定してもよい。

また、優先度付けルールが設定されていない場合には、視聴者選択部１６は、視聴者を選択しない旨を示す視聴者非選択通知を視域情報算出部１４に通知する。

記憶部１７は、フラッシュメモリなどの不揮発性メモリであり、視域データベースの他、後述するユーザ登録情報、３Ｄ優先視聴者情報、初期視聴位置などを記憶する。なお、この記憶部１７は、コントローラ１０の外部に設けられてもよい。

以上、映像処理装置１００の構成について説明した。本実施形態ではレンチキュラレンズ２を用い、視差画像をずらすことによって視域を制御する例を示したが、他の手法で視域を制御してもよい。例えば、レンチキュラレンズ２に代えてパララックスバリアを開口制御部２’として設けてもよい。図５は、図２に示す本実施形態の変形例である映像処理装置１００’の概略構成を示すブロック図である。同図に示すように、映像処理装置１００’のコントローラ１０’は、画像調整部１５の代わりに、視域制御部１５’を備える。この視域制御部１５’は、視域情報算出部１４により算出された制御パラメータに応じて開口制御部２’を制御する。本変形例の場合、制御パラメータは、液晶パネル１と開口制御部２’との距離、液晶パネル１と開口制御部２’との水平方向のずれ量などである。

本変形例では、液晶パネル１に表示された視差画像の出力方向を、開口制御部２’で制御することによって、視域が制御される。このように、視差画像をずらす処理を行わず、視域制御部１５’により開口制御部２’を制御してもよい。

次に、上記のように構成された映像処理装置１００（１００’）による映像処理方法について、図６のフローチャートを用いて説明する。

（１）視聴者検出部１３は、カメラ３により撮影された映像を用いて顔認識を行い、視聴者認識情報を取得する（ステップＳ１）。

（２）視聴者検出部１３は、視聴者が複数であるか否かを判定する（ステップＳ２）。その結果、視聴者が１人であれば、視聴者検出部１３は、その視聴者の視聴者認識情報を視聴者選択部１６に供給する。一方、視聴者が複数人であれば、視聴者検出部１３は、検出された複数の視聴者の視聴者認識情報を全て視聴者選択部１６に供給する。

（３）視聴者選択部１６は、視聴者検出部１３から１人分のみの視聴者の位置情報が供給された場合、その視聴者（１人）を選択し、その視聴者の視聴者認識情報を視域情報算出部１４に供給する（ステップＳ３）。

（４）視域情報算出部１４は、選択された視聴者（１人）を最も高品位の立体映像が見える位置（例えば、視域の中心。以下同様。）に収める視域を設定するための制御パラメータを算出する（ステップＳ４）。

（５）視聴者選択部１６は、視聴者が複数の場合、視聴者に優先度を付けるための優先度付けルールが設定されているかどうかを判定する（ステップＳ５）。

（６）優先度付けルールが設定されていない場合、視聴者選択部１６は、視聴者を選択しない旨を視域情報算出部１４に通知する（ステップＳ６）。

（７）視域情報算出部１４は、できるだけ多くの視聴者を収める視域を設定するための制御パラメータを算出する（ステップＳ７）。

（８）視聴者選択部１６は、優先度付けルールに基づいて視聴者に優先度を付け、視聴者の中から所定の人数の視聴者を優先度の高い順に選択し、選択した視聴者の視聴者認識情報（位置情報）を視域情報算出部１４に供給する（ステップＳ８）。

検出された視聴者への優先度付けの具体的な方法については、例えば液晶パネル１の正面方向にいる視聴者を優先する優先度付けルールの場合、視聴者選択部１６は、視聴者検出部１３から供給された視聴者の位置情報を用いて、液晶パネル１の正面方向にいる視聴者から斜め方向にいる視聴者の順に高い優先度を付ける。その後、視聴者選択部１６は、最も優先度が高い視聴者から順に、所定の人数（１または複数）の視聴者を選択する。なお、優先度付けルールは、これ以外にも種々のものが想定されるが、後でまとめて他の具体例を説明する。

（９）視域情報算出部１４は、選択された視聴者を視域内に収める視域を設定するための制御パラメータを算出する（ステップＳ９）。

なお、選択された視聴者全員を視域内に収めることができない場合（即ち、選択された視聴者全員を収める視域を見つけることができない場合）には、視域情報算出部１４は、優先度が最も高い視聴者から順にできるだけ多くの選択された視聴者を収める視域を設定するための制御パラメータを算出する。例えば、まず、選択された視聴者のうち優先度が最も低い視聴者を除外して、残りの視聴者が全て視域内に収まる視域を設定するための制御パラメータの算出を試みる。それでもなお制御パラメータを算出できない場合には、残った視聴者のうち最も優先度の低い視聴者を除外して、制御パラメータの算出を試みる。これを繰り返すことで、優先度の高い視聴者については常に視域内に収めることができる。

また、視域情報算出部１４は、選択された視聴者全員が視域内に収まるか否かにかかわらず、選択された視聴者のうち最も高い優先度が付けられた視聴者を、最も高品位の立体映像が見える位置に収める視域を設定するための制御パラメータを算出してもよい。

また、視域情報算出部１４は、視聴者選択部１６により選択された視聴者の数が１人の場合には、その視聴者を最も高品位の立体映像が見える位置に収める視域を設定するための制御パラメータを算出してもよい。

（１０）画像調整部１５は、ステップＳ４、ステップＳ７またはステップＳ９において算出された制御パラメータを用いて画像（視差画像信号）を調整し、液晶パネル１に供給する（ステップＳ１０）。

なお、変形例に係る映像処理装置１００’の場合には、視域制御部１５’が、ステップＳ４、ステップＳ７またはステップＳ９において算出された制御パラメータを用いて、開口制御部２’を制御する。

（１１）液晶パネル１は、ステップＳ１０において画像調整部１５により調整された画像を表示する（ステップＳ１１）。

なお、変形例に係る映像処理装置１００’の場合には、液晶パネル１は、視差画像変換部１２から供給される画像を表示する。

次に、図７を用いて、上記の映像処理方法による視域の設定について具体的に説明する。

図７（ａ）、（ｂ）および（ｃ）は、映像処理装置１００（１００’）と、視聴者（４人）と、設定された視域（Ｓａ，Ｓｂ，Ｓｃ）とを示している。各図の間で、視聴者の数および位置は同じである。また、視聴者に付されたアルファベットは、優先度を示しており、Ａ，Ｂ，Ｃ，Ｄの順に優先度が高い。

図７（ａ）は、ステップＳ６およびステップＳ７を経て設定された視域の一例を示している。同図に示すように、３人の視聴者が視域Ｓａ内に入っている。この場合、優先度付けルールが設定されていないため、視聴者の優先度は考慮されず、視域内に収まる視聴者の数を最大化するように視域が設定されている。

図７（ｂ）および図７（ｃ）は、ステップＳ８およびステップＳ９を経て設定された視域を示している。図７（ｂ）では、図７（ａ）に比べて視域に収まる視聴者の人数は減っているものの、優先度の高い２人の視聴者が視域Ｓｂに入っている。また、図７（ｃ）では、図７（ｂ）に比べて視域内に収まる人数はさらに減っているものの、最も優先度の高い視聴者が視域の中心に位置するように視域Ｓｃが設定されている。

次に、優先度付けルールの具体例（ａ）〜（ｈ）を列挙する。

（ａ）液晶パネル１の端よりも正面にいる視聴者の方が、高い視聴意欲を有している可能性が大きい。そこで、本優先度付けルールでは、図８（ａ）に示すように、液晶パネル１の正面方向にいる視聴者から液晶パネル１の端にいる視聴者の順に高い優先度を付ける。

本優先度付けルールを採る場合、視聴者選択部１６は、例えば、視聴者の位置情報を用いて、液晶パネル１の表示面と、視聴者および液晶パネル１の中心を通る垂直方向の面とがなす角度（最大９０°）を求め、その角度が大きい視聴者から順に高い優先度を付ける。

（ｂ）立体映像を見る上で最適な視聴距離（液晶パネル１と視聴者との間の距離）に近い視聴者を優先する。本優先度付けルールでは、図８（ｂ）に示すように、視聴距離が立体映像を見る上で最適な視聴距離（最適視聴距離ｄ）に近い視聴者から順に高い優先度を付ける。なお、最適視聴距離ｄの値は、液晶パネルのサイズ等の各種パラメータに依存するため、映像処理装置の製品ごとに異なる値が設定される。

本優先度付けルールを採る場合、視聴者選択部１６は、視聴者の位置情報に含まれるＺ軸上の位置と、最適視聴距離ｄとの差を求め、その差が小さい視聴者から順に高い優先度を付ける。

（ｃ）視聴時間が長い視聴者ほど、その番組に対して高い視聴意欲を有している可能性が大きい。そこで、本優先度付けルールでは、視聴時間が長い視聴者から順に高い優先度を付ける。視聴時間は、例えば、視聴中の番組の開始時間を基準として計算する。視聴中の番組の開始時間は、電子番組表（ＥＰＧ）等から取得可能である。また、視聴時間は、視聴中の番組が選局された時間を基準として計算してもよい。また、視聴時間は、映像表示装置１００の電源が投入され、映像表示を開始した時間を基準として計算してもよい。

本優先度付けルールを採る場合、視聴者選択部１６は、視聴者ごとに視聴時間を計算し、視聴時間が長い視聴者から順に高い優先度を付ける。

（ｄ）リモコンを持っている視聴者は、リモコンを操作して視聴チャンネルを選択するため、中心的な視聴者である可能性が大きい。そこで、本優先度付けルールでは、リモコンを持っている視聴者、またはリモコンに最も近い視聴者に最も高い優先度を付ける。

本優先度付けルールを採る場合、視聴者検出部１３は、リモコンを持っている視聴者を認識し、その視聴者の視聴者認識情報を視聴者選択部１６に供給する。リモコンを持っている視聴者の認識方法としては、リモコンから発せられる赤外線もしくはリモコンに予め設けられた目印をカメラ３で検出して、リモコン位置から最も近い視聴者を認識する方法、または、画像認識によってリモコンを持っている視聴者を直接的に認識する方法などがある。そして、視聴者選択部１６は、リモコンを持っている視聴者に最も高い優先度を付ける。なお、視聴者選択部１６は、リモコンを持っている視聴者以外の視聴者については、例えばリモコンに最も近い視聴者から順に高い優先度を付けるようにしてもよい。

（ｅ）映像処理装置１００のユーザに関する情報を、ユーザ登録情報として記憶部１７に記憶させることも可能である。このユーザ登録情報は、名前や顔写真の他、年齢、身長、立体映像を視聴する優先度を示す３Ｄ視聴優先度などの情報を含むことができる。本優先度付けルールでは、この３Ｄ視聴優先度の高い視聴者を優先する。

本優先度付けルールを採る場合、視聴者検出部１３は、カメラ３で撮影された映像から各視聴者の顔情報を取得する。そして、視聴者検出部１３は、視聴者の各々について、顔情報とマッチングするユーザ登録情報の顔写真を検索することによりその視聴者の３Ｄ視聴優先度を記憶部１７から読み出す。そして、視聴者検出部１３は、各視聴者について、位置情報と３Ｄ視聴優先度とを組み合わせた情報を視聴者選択部１６に供給する。視聴者選択部１６は、視聴者検出部１３から供給された情報に基づいて、３Ｄ視聴優先度が高い視聴者から順に高い優先度を付ける。なお、ユーザ登録情報のない視聴者については低め（あるいは最低）の優先度を付けてもよい。

（ｆ）映像表示装置１００は、カメラ３で撮影した映像（以下、「カメラ映像」という。）を液晶パネル１に表示する機能を有する。図８（ｃ）に示すように、カメラ映像では、認識された視聴者の顔に枠模様が付けられ、特定の視聴者を選択することができる。本優先度付けルールでは、カメラ映像上で選択された視聴者に、高い優先度を付ける。

より詳細には、ユーザは、カメラ映像上で視聴者を１人選択する。それにより、選択された視聴者の顔情報が、３Ｄ優先視聴者情報として記憶部１７に保存される。なお、視聴者の選択は、カメラ映像上で変更することができる。そして、視聴者選択部１６は、記憶部１７に保存された３Ｄ優先視聴者情報の顔情報に合致する視聴者がいれば、その視聴者に最も高い優先度を付ける。

なお、図８（ｃ）に示すように、カメラ映像上で複数の視聴者を、優先順位を付けて選択することも可能である。この場合、視聴者選択部１６は、カメラ映像上で付けられた優先順位に従って、視聴者に優先度を付ける。このように、３Ｄ優先視聴者情報に基づいて視聴者に優先度を付ける。

（ｇ）映像処理装置１００およびソファーや椅子などの家具の配置状況によっては、液晶パネル１の正面からではなく斜め方向から視聴することが多くなる場合が想定される。そのような場合には、視域が液晶パネル１の斜め方向に設定される頻度が高くなる。そこで、本優先度付けルールでは、視域に頻繁に設定される場所にいる視聴者を優先する。

本優先度付けルールを採る場合、視域情報算出部１４は、例えば、制御パラメータを算出するごとに、算出された制御パラメータを記憶部１７に保存する。そして、視聴者選択部１６は、記憶部１７に保存された制御パラメータから、設定回数の多い視域を特定し、その視域内にいる視聴者に当該視域外にいる視聴者よりも高い優先度を付ける。

（ｈ）映像処理装置１００のユーザは、最も視聴しやすい位置などを初期視聴位置として設定することも可能である。本優先度付けルールでは、ユーザが初期視聴位置を予め設定しておき、その初期視聴位置にいる視聴者を優先する。

本優先度付けルールを採る場合、記憶部１７は、ユーザが設定した初期視聴位置に関する情報を保存する。視聴者選択部１６は、設定された初期視聴位置を記憶部１７から読み出し、その視聴位置にいる視聴者に高い優先度を付ける。

以上説明したように、本実施形態に係る映像処理装置および映像処理方法によれば、複数の視聴者が存在し、且つ視聴者の一部が視域内に収まらない場合であっても、優先度の高い視聴者を視域内に必ず収めることで、高優先度の視聴者は高品位の立体映像を見ることができる。

さらに、本実施形態では、優先度付けルールが設定されている場合、優先度の高い視聴者を視域内に収めるように視域を制御する。このため、結果的に、フェイス・トラッキングの性能を高めることができる。即ち、例えば、視聴者がいないにもかかわらず視聴者検出部が視聴者を誤検出した場合、通常のフェイス・トラッキングでは、そのような視聴者に視域を調整してしまう。それに対し、本実施形態によれば、ユーザ登録情報の３Ｄ視聴優先度の高い視聴者や、カメラ映像上で選択された視聴者を優先する優先度付けルールなどを採れば、上記のような視聴者を無視することが可能となり、視域の調整を適切に行うことができる。

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。

１ 液晶パネル
２ レンチキュラレンズ
２’ 開口制御部
３ カメラ
４ 受光部
１０，１０’ コントローラ
１１ チューナデコーダ
１２ 視差画像変換部
１３ 視聴者検出部
１４ 視域情報算出部
１５ 画像調整部
１５’ 視域制御部
１６ 視聴者選択部
１７ 記憶部
２０ 視聴者
２１ 視域
２２ 逆視領域
１００，１００’ 映像処理装置
Ｐ 視聴領域
Ｓａ，Ｓｂ，Ｓｃ 視域

Claims (3)

1. 撮影された映像に基づいて視聴者の位置および人数を取得する視聴者検出部と、
   前記視聴者が複数の場合、前記複数の視聴者に優先度を付ける視聴者選択部と、
   前記視聴者の位置に基づいて視域を制御する視域制御部と、を備え、
   前記視域制御部は、前記視聴者全員を視域内に収めることができない場合には、優先度の高い視聴者から順に複数の視聴者を収める視域を設定する映像処理装置。
2. 前記視聴者選択部は、表示部の正面にいる視聴者に高い優先度を付ける、請求項１に記載の映像処理装置。
3. 前記視域制御部は、前記視聴者のうち最も高い優先度が付けられた視聴者を、最も高品位の立体映像が見える位置に収める視域を設定する、請求項１に記載の映像処理装置。

Images