JPWO2011155192A1 - 映像生成装置、方法及び集積回路 - Google Patents

映像生成装置、方法及び集積回路 Download PDF

Info

Publication number
JPWO2011155192A1
JPWO2011155192A1 JP2012519251A JP2012519251A JPWO2011155192A1 JP WO2011155192 A1 JPWO2011155192 A1 JP WO2011155192A1 JP 2012519251 A JP2012519251 A JP 2012519251A JP 2012519251 A JP2012519251 A JP 2012519251A JP WO2011155192 A1 JPWO2011155192 A1 JP WO2011155192A1
Authority
JP
Japan
Prior art keywords
screen
operator
video
positional relationship
layout
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012519251A
Other languages
English (en)
Other versions
JP5138833B2 (ja
Inventor
康浩 岩井
康浩 岩井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2012519251A priority Critical patent/JP5138833B2/ja
Application granted granted Critical
Publication of JP5138833B2 publication Critical patent/JP5138833B2/ja
Publication of JPWO2011155192A1 publication Critical patent/JPWO2011155192A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213Monitoring of end-user related data
    • H04N21/44218Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Social Psychology (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Databases & Information Systems (AREA)
  • Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

テレビ(1011)は、テレビ画面を分割して、複数操作者に割り当てる場合において、操作者の位置関係、画面との距離、操作者の位置の入れ替わり等に応じて、分割画面の表示位置・サイズを適切に制御する。すなわち、ジェスチャ操作の位置情報(10211)を取得する外部情報取得部(2030)を備えており、かつ、この外部情報取得部(2030)とともに、複数の前記位置情報による相対的な位置関係に基づいて設定されたレイアウトによる映像を生成する生成部(2020x)を備えている。

Description

本発明は、映像を生成する映像生成装置、映像生成方法及び集積回路に関する。
テレビの一機能に、二画面表示機能、あるいはPicture-In-Picture機能と呼ばれる機能がある。これは、テレビ画面を、複数の領域に分割し、それぞれの領域を、異なる表示用途に用いることにより(例えば、異なる2つのチャンネルの放送を表示することにより)、利用者の利便性を向上させる機能である。ところが、このような複数画面機能を、リモコンで操作する場合に、いくつかの課題がある。複数の利用者が、それぞれ別の画面領域を視聴している場合、リモコンを手に持った人しか操作ができない。すなわち、各利用者が、画面を操作する都度、利用者の間での、リモコンの受け渡しが必要になる。また、画面に対する操作の前に、操作対象とする画面領域を指定する操作が必要となり、操作が煩雑になるという問題があった。
複数の利用者が、テレビの複数画面を、1つのリモコンで操作することによって生じる、これらの課題に対する従来技術に、特許文献1がある。特許文献1では、(1)リモコン信号の発信元を識別し、過去に既に受信したリモコン信号の発信元の第1のリモコンにより操作される第1の表示画面と、新規のリモコン信号の発信元の第2のリモコンにより操作される第2の表示画面とに、表示画面を分割し、(2)リモコン信号の受信順序に基づき、発信元のリモコンで操作される表示画面の位置及び大きさを決定する。このことにより、テレビの複数の表示画面を、複数個のリモコンで、同時に操作する技術が特許文献1で開示されている。
特開2008−011050号公報
ここで、ジェスチャ操作により、テレビを操作するシステムを考える。ジェスチャ操作では、リモコン等の機器を必要としないため、複数利用者が、テレビの複数の画面を操作する場合に、同時に操作がなされることがあり得る。このため、各利用者のジェスチャ操作の意図を、適切にテレビ操作に反映するように制御する必要がある。このような、ジェスチャ操作がされるテレビでの技術は、複数操作者が、複数画面を同時に操作するという点では、特許文献1と同じ技術であるが、ジェスチャ操作の場合、利用者の利便性の観点で、さらなる課題が存在する。
すなわち、ジェスチャ操作においては、直観的な操作を実現する。このため、テレビ画面と操作者との位置関係が重要であり、複数の分割画面と、複数操作者の位置とを、適切に紐付け、制御することが必要となる。
本発明は、上記課題を解決するためになされたものであり、その目的は、テレビ画面を分割し、複数操作者に割り当てる場合に、操作者の位置関係、画面との距離、操作者の位置の入れ替わり等に応じて、分割画面の表示位置・サイズを適切に制御する映像生成装置を提供することである。
他方、発明者側においては、本出願に際して、その他の技術として、建物の壁面などの壁に、使用者により視聴される画面が表示されることも考えられる。そして、画面が表示される箇所が、壁における複数の箇所のうちの、使用者の位置の前方の箇所にされることが考えられる。そして、一方の使用者の画面が、当該一方の使用者の位置の前方の箇所に表示され、他方の使用者の画面が、当該他方の使用者の位置の前方の箇所に表示されることが考えられる。
しかし、テレビの前の複数の使用者の位置は、壁の前の複数の使用者の位置よりも、互いに、比較的近い位置であることが多い。また、使用者の位置が、テレビが設けられたリビングルーム内でのみ移動可能などで、それらの複数の位置を互いに離すことが困難であることが多い。
そして、このように、複数の使用者の位置が互いに近いにも関わらず、それぞれの使用者の位置の前方の箇所に、その使用者の画面が表示されると、一方の使用者の画面の一部等に、他方の使用者の画面が重なるなどして、不適切な箇所への、画面の表示がされてしまう。つまり、複数の使用者の位置の間の相対的な位置関係により、不適切な表示がされてしまい、確実に、適切な表示ができない。
そこで、本発明は、複数の使用者の相対的な位置関係に関わらずに、確実に、適切な表示ができる映像生成装置を提供することを他の目的とする。
上記課題を解決するために、本発明の映像生成装置は、ジェスチャ操作を行う複数の操作者(それぞれの操作者がジェスチャを行う複数の操作者)の位置を示す位置情報(それぞれの操作者のジェスチャ操作の位置を示す位置情報が含まれてなる複数の位置情報)を取得する情報取得部と、映像のレイアウトを、取得された複数の前記位置情報により示される複数の前記位置の間の相対的な位置関係に基づいて設定し、設定された、前記位置関係に対応した前記レイアウトによる前記映像(映像信号)を生成する映像生成部とを備える。なお、このように、ジェスチャ操作をする主体(操作者)が、複数存在する。
つまり、情報取得部は、複数の位置情報を取得する。そして、取得される複数の位置情報のうちのそれぞれは、その位置情報のジェスチャ操作がされた位置を示してもよい。そして、取得される複数の位置情報は、複数のジェスチャ操作に対応してもよい。そして、互いに異なる2つの位置情報は、互いに異なる2つのジェスチャ操作に対応してもよい。
なお、設定されるレイアウトは、例えば、予め定められた方向(図3右欄の方向Dx参照)についての、互いに異なる(方向Dxにおける座標が互いに異なる)複数の位置(位置P1、P2)の、複数の操作領域(画面1012、1013)に、表示領域(表示領域1011P)が分割されるレイアウトなどである。つまり、例えば、当該方向(方向Dx)の座標軸での座標が互いに異なる(複数の位置の)複数の操作領域(画面1012、1013)に、分割がされてもよい。
テレビ画面を分割し、複数の操作者に割り当てる場合に、操作者の位置関係、画面との距離、操作者の位置の入れ替わり等に応じて、分割画面の表示位置・サイズを適切に制御することが可能となり、しかも、複数の使用者の位置関係に関わらずに、確実に、適切な表示ができる。
図1は、本発明に係る実施の形態1、実施の形態2及び、実施に形態3の、ジェスチャ認識によるテレビ操作システムの構成を示した図である。 図2は、本発明に係る実施の形態1におけるテレビの構成を示したブロック図である。 図3は、本発明に係る実施の形態1におけるテレビの画面表示を説明するための図である。 図4は、本発明に係る実施の形態1におけるテレビの画面表示を説明するための図である。 図5は、本発明に係る実施の形態1におけるテレビの画面表示を説明するための図である。 図6は、本発明に係る実施の形態2におけるテレビの構成を示したブロック図である。 図7は、本発明に係る実施の形態2におけるテレビの画面表示を説明するための図である。 図8は、本発明に係る実施の形態3におけるテレビの構成を示したブロック図である。 図9は、セットトップボックス及びテレビを示す図である。 図10は、テレビの動作のフローチャートである。 図11は、3人の操作者などを示す図である。 図12は、テレビなどを示す図である。 図13は、テレビなどを示す図である。
以下、本発明を実施するための形態について、図面を参照して、説明する。
実施形態の映像生成装置は、ジェスチャ操作を行う複数の操作者の位置を示す位置情報(位置情報10211)を取得する情報取得部(外部情報取得部2030)と、映像(表示領域1011Pの映像)のレイアウトを、取得された複数の位置情報(それぞれの操作者のジェスチャ操作の位置を示す位置情報10211が含まれてなる複数の位置情報10211)により示される複数の位置の間の相対的な位置関係(例えば、図4右欄における、操作者1042の方が、操作者1041よりも、テレビ1011により近い位置関係)に基づいて設定し、設定された位置関係に対応したレイアウト(図4右欄でのレイアウト(長さ1012zR、1013zR))による映像(映像信号)を生成する映像生成部(生成部2020x)とを備える映像生成装置(テレビ1011)である。
つまり、例えば、取得された複数の位置情報による位置関係が、第1の位置関係(例えば図4左欄)である場合に、第1の位置関係に適する第1のレイアウトでの第1の映像(左欄)が生成され、第2の位置関係(図4右欄)である場合に、第2の位置関係に適する第2のレイアウトでの第2の映像(右欄)が生成されてもよい。
これにより、複数の使用者の位置の間の位置関係に関わらずに、確実に、適切な表示ができる。
つまり、例えば、他方の時刻(図4右欄での時刻)における、第1の操作者(例えば、図4の操作者1041)の位置が、一方の時刻(左欄での時刻)での、第1の操作者の位置と同じである。そして、例えば、他方の時刻での、第2の操作者(操作者1042)の位置(位置1042R)が、一方の時刻での第2の操作者の位置(位置1042L)とは異なる位置である。そして、他方の時刻において、第1の操作者の位置は同じであるにも関わらず、第2の操作者の位置が異なることにより、一方の時刻での、第1の操作者の操作領域(画面1012L)とは異なる操作領域(画面1012Lのサイズとは異なるサイズの画面1012R)が設定される。これにより、他方の時刻において、第2の操作者の位置も同じで、二人の操作者の位置関係が同じである場合だけではなく、異なる場合にも、適切な操作領域(画面1012R)が設定される。これにより、位置関係に関わらず、適切に設定がされて、より確実に、適切な設定ができる。
なお、本映像生成装置(テレビ1011)において、例えば、映像生成部は、レイアウトを選択し、生成される映像のレイアウトとして、選択されたレイアウトを設定する制御部2040と、設定されたレイアウトによる映像(映像信号)を生成し、生成された映像を表示パネル2020pに出力して、表示させる画面出力部2020とを含んでもよい。
具体的には、例えば、情報取得部は、複数の使用者(例えば、図4における、操作者1041、操作者1042の2人の操作者)を撮像すると共に、撮像結果から、それぞれの使用者のジェスチャ操作の種類(例えば、電源オンオフ、チャンネル切替など)及び、当該使用者によるジェスチャ操作の位置の位置情報を取得し、生成される映像の表示を行う表示部(表示パネル2020p)を備えてもよい。そして、当該映像生成装置は、生成された映像を、表示部により表示する表示装置(テレビ1011)であり、映像生成部は、ジェスチャ操作によって操作可能な操作領域(図1等の画面1011Sを参照)を、生成された映像が表示される、表示部における表示領域(表示領域1011P)に設定し、表示領域に対し、取得したジェスチャ操作の数に応じて、操作領域(画面1011S)を複数個(例えば、ジェスチャ操作の数と同じ個数だけ)、設定すると共に、それぞれの操作領域の、表示領域における表示位置及び、表示サイズを、その操作領域に対応する位置情報などの1以上の位置情報に基づいて変更してもよい。
なお、映像生成部は、それぞれの操作領域(例えば、図4の画面1012)が、複数のレイアウト(図4の左欄、右欄)のうちの、取得された複数の位置情報での位置関係(例えば右欄での位置関係)に対応するレイアウト(右欄のレイアウト)における、その操作領域(画面1012R)の表示位置(比較的左側の位置)及び、表示サイズ(長さ1012zR)で含まれる映像(図4右欄での映像)を生成してもよい。
なお、当該映像生成装置は、具体的には、例えば、図9に示されるように、当該映像生成装置の外部に設けられたテレビ(テレビ1011st)の表示領域(表示領域1011stA)に、生成された映像を表示させるセットトップボックス(セットトップボックス1011T)などでもよい。
なお、映像生成部は、複数の位置の間の位置関係が第1の位置関係(例えば、図4左欄の位置関係)で、第1のレイアウトでの第1の映像が生成される場合には、予め定められた音(例えば、左の画面1012の音)が出力されるのを制御する際に、第1の位置関係の場合に適する第1の制御(例えば、右の画面1013の音の大きさと同じ大きさで出力をさせる制御)を行い、第2の位置関係で、第2のレイアウトでの第2の映像が生成される場合には(右欄)、第2の位置関係の場合に適する第2の制御(例えば、右の画面1013での大きさより大きな大きさで出力をさせる制御)を行ってもよい。
なお、第1の制御(例えば、図5の左欄での制御)は、予め定められた音(例えば、例えば、画面1012の音)を、2つのスピーカ(例えば、図13のスピーカ1011a、1011b)のうちの一方のスピーカ(左のスピーカ1011a)で出力させる制御(図5左欄での音1012sを参照)であり、第2の制御(図5右欄での制御)は、他方のスピーカ(右のスピーカ1011b)で出力させる制御(右欄での音1012sを参照)でもよい。
これにより、位置関係に対応したレイアウトでの映像が生成されるにも関わらず、音の出力の制御として、不適切な制御がされず、適切な制御がされ、音の出力の制御でも適切な制御がされ、確実に、適切な制御ができる。
こうして、テレビ1011により、操作者へと情報(映像、音など)が出力され、その出力の制御(映像のレイアウトの制御、音の出力の制御)がされるのに際し、位置関係に対応しない不適切な制御がされてしまうことが回避され、対応する適切な制御ができる。
(実施の形態1)
図1は、本発明に係る一実施の形態における、ジェスチャ認識によるテレビ操作システム1001の構成を示した図である。
ジェスチャ認識によるテレビ操作システム1001は、テレビ1011と、ジェスチャ認識センサ1021と(符号1011xにより指される2つの装置)から構成される。
ジェスチャ認識センサ1021は、通常、テレビ1011の近傍に設置される。
第1の操作者1041及び第2の操作者1042は、ジェスチャ認識範囲1031の範囲内で、所定のジェスチャ動作を行うことにより、テレビ1011の電源オンオフ、チャンネル切替などの操作を行うことができる。
また、テレビ1011は、画面分割機能を備えており、画面1012(画面A)と画面1013(画面B)とを別々の用途、例えば、同時に2つの放送を視聴することなどに使用することが可能である。
図2は、本発明に係る一実施の形態における表示装置(映像生成装置)であるテレビ1011の構成を示したブロック図である。
放送処理部2010は、テレビ放送の受信、表示を行うブロックである。
放送受信部2011は、放送波2050の受信、復調、デスクランブルを行い、映像音声デコーダ部2012に入力する。
映像音声デコーダ部2012は、入力された放送ストリームに含まれる映像、音声データのデコード処理を行い、映像を、画面出力部2020へ出力し、音声を、音声出力部2021へ出力する。
外部情報取得部2030は、ジェスチャ認識センサ1021から入力されたデータを処理し、ジェスチャコマンドと、ユーザの位置情報とをそれぞれ出力するブロックである。
なお、ジェスチャ認識センサ1021は、図2に示されるように、例えば、テレビ1011の一部でもよい。
なお、ジェスチャ認識センサ1021には、さまざまな方式が存在するが、ここでは、2次元画像と、距離画像(ジェスチャ認識センサ1021からの、操作者に対する、奥行き方向(例えば、図3の方向Dz)の距離を表す画像)とを組み合わせて、ジェスチャ認識を行う方式を例にとって説明する。
操作者(操作者104:図1)は、テレビの電源オンオフや、チャンネル切替などの操作を実行したいときには、ジェスチャ認識範囲1031の中で、ジェスチャ認識センサ1021に向かって、各テレビ操作に対応する、所定のジェスチャ動作を行う。
ジェスチャ認識部2031は、ジェスチャ認識センサ1021から入力された、2次元画像と距離画像とにより、操作者の体の動きを検出する。そして、ジェスチャ認識部2031は、検出された動きを、パターン認識処理により、各テレビ操作に対応する、特定のジェスチャコマンドとして認識する。
一方、位置情報取得部2032(図2)は、ジェスチャ認識センサ1021から入力された2次元画像により、左右方向(図3の方向Dx)の位置情報を認識する。位置情報取得部2032は、これと共に、距離画像から、奥行き方向の位置情報を認識して、操作者が、テレビ1011の前の、どこに位置しているかを示す位置情報を出力する。
外部情報取得部2030が出力するジェスチャコマンドと、位置情報とは、制御部2040に入力される。
制御部2040のジェスチャ操作領域設定部2042は、外部情報取得部2030からジェスチャコマンドが入力されると、操作者の位置情報に基づいて、テレビ1011の画面(表示領域1011P)上に、ジェスチャ操作領域(画面1011S)を設定する。その際に、ジェスチャ操作領域設定部2042は、操作者情報保持部2043に、ジェスチャ操作領域と、そのジェスチャ操作領域の操作者の間の紐付け情報を保存する。設定されたジェスチャ操作領域は、画面レイアウト設定部2041に通知される。
画面レイアウト設定部2041は、例えばテレビ画面(表示領域1011P)を、2画面(例えば画面1012、1013)に分割するなどのレイアウト処理を行い、画面出力部2020で、テレビ放送等の映像と組み合わせて、組み合わせされた画像が、テレビ画面に表示される。つまり、例えば、表示領域1011Pのなかで、2つの画面1012、1013のそれぞれにおいて、その画面のチャンネルの、テレビ放送の映像が表示される。
図3は、本発明に係る実施の形態1における、テレビ1011の画面表示を説明するための図である。
まず、テレビ1011のジェスチャ認識範囲1031には、第1の操作者1041だけがいる場合を考える(左欄)。例えば、この場合、ジェスチャ操作領域設定部2042は、テレビ1011の画面全体にあたる画面A 1012を、第1の操作者1041のジェスチャ操作領域として割り当てる。このことで、第1の操作者1041のジェスチャ操作は、画面A 1012に対するジェスチャ操作として、テレビ1011によって処理されることになる。
ここで、第2の操作者1042が、ジェスチャ操作範囲(領域)1031に入ってきた場合(右欄)、位置情報取得部2032によって、第1の操作者1041と、第2の操作者1042とのそれぞれの位置情報が、ジェスチャ操作領域設定部2042に入力される。この場合、第2の操作者1042は、第1の操作者1041に対して、テレビ1011に向かって左側(方向Dzに向いた際における左側、つまり、図3における、左から右への方向(方向Dx)の順序における、比較的早い順序の側)に位置し、テレビ1011との距離(方向Dzでの距離)は、ほぼ同じである。
そして、上述された、入力される、2個の位置情報は、二人の位置をそれぞれ特定することにより、操作者1042の方が、より左側の順序であるなどの、それら2つの位置の間の相対的な位置関係を特定する。なお、位置関係が特定されることにより、その位置関係を有する、操作者(例えば操作者1042)の相対位置(より左側の位置)が特定されてもよい。
ジェスチャ操作領域設定部2042は、入力される、この、2個の位置情報に基づいて、テレビ1011の画面(表示領域1011P)を、画面A 1012(テレビ画面に向かって右側)と、画面B 1013(テレビ画面に向かって左側)との2画面表示に設定する。そして、これと共に、二人の操作者104の、左右の位置関係(第2の操作者1042が、より左側である関係)に対応して、画面A 1012と第1の操作者1041との組、及び、画面B 1013と操作者1042との組の、それぞれの組の紐付け情報を、操作者情報保持部2043に保存する。
図4は、本発明に係る実施の形態1におけるテレビ1011の画面表示を説明するための図である。
第1の操作者1041は、第2の操作者1042に対して、テレビ1011に向かって、左側に位置し、テレビ1011との距離はほぼ同じである(図4左欄)。この場合、図3で説明した処理を行うことにより、画面A 1012と画面B 1013とが、それぞれ、第1の操作者1041と第2の操作者1042に割り当てられる。
ここで、第2の操作者1042が、テレビ1011に近づき、第1の操作者1041がテレビ1011から遠ざかった場合を考える(図4右欄)。なお、第1の操作者1041が遠ざかった距離は、比較的小さくてもよい。つまり、例えば、右欄での第1の操作者の位置は、左欄での位置と同じでもよい。位置情報取得部2032によって、位置情報を入力されたジェスチャ操作領域設定部2042は、テレビ1011から相対的に、距離が遠い位置にいる第1の操作者1041と紐付けられた画面A 1012の画面領域の大きさを、テレビ1011から相対的に距離が近い位置にいる第2の操作者1042と紐付けられた画面Bよりも、大きく設定する。なお、図示されるように、例えば、右欄では、操作者1041の画面1012の、方向Dyの向きの長さ1012zRが、操作者1042の画面1013の長さ1013zRよりも長い一方で、左欄では、長さ1012zLが、長さ1013zLよりも長くなくてもよい。
図5は、本発明に係る実施の形態1における、テレビの画面表示を説明するための図である。
図5の左欄で、第1の操作者1041は、第2の操作者1042に対して、テレビ1011に向かって、左側に位置し、テレビ1011との距離は、ほぼ同じである。この場合、図3で説明した処理を行うことにより、画面A 1012と、画面B 1013とが、それぞれ、第1の操作者1041と、第2の操作者1042とに割り当てられる。
ここで、第1の操作者1041と、第2の操作者1042との左右の位置関係が、入れ替わった場合(図5右欄)を考える。位置情報取得部2032によって、位置情報を入力されたジェスチャ操作領域設定部2042は、第1の操作者1041の画面A 1012と、第2の操作者1042の画面B 1013との左右の位置を入れ替えて、ジェスチャ操作領域を、再設定する。つまり、例えば、図5の左から右への方向Dxに関して、左欄では、操作者1041の順序の方が、より早い順序(より左側の順序)で、表示領域1011Pにおいても、操作者1041の画面1012の順序の方が、より早い順序でもよい。そして、例えば、右欄では、操作者1041の順序の方が、より遅い順序(より右側の順序)で、画面1012の順序も、より遅い順序でもよい。
以上のような、ジェスチャ操作領域の設定を行うことにより、テレビの前の操作者の人数と位置に応じて、テレビ画面上に、ジェスチャ操作領域を設定することが可能となり、操作者は、自然なジェスチャ操作で、テレビを操作することが可能となる。また、操作者の位置の移動にも追随した、ジェスチャ操作領域の設定を行うことも可能となる。
なお、こうして、実施の形態の映像生成装置においては、例えば、具体的には、映像生成部は、情報取得部が、使用者(例えば操作者1041)の位置情報により示される位置の変化を検出した場合に、表示領域(表示領域1011P)における、(変化が検出された当該使用者に)対応する操作領域(画面1012)を再設定して、当該表示領域(のレイアウト)を再設定してもよい。つまり、検出がされた後(例えば図4右欄)には、当該使用者(例えば操作者1041)の操作領域(画面1012)として、検出がされる前(左欄)の領域(画面1012L)とは異なる領域(画面1012R)が表示されてもよい。
なお、先述された情報取得部は、外部情報取得部2030だけでなく、ジェスチャ認識センサ1021などの他の構成を更に含んでもよい。
また、情報取得部は、例えば、操作者(操作者1041等)の手により持たれた、その操作者のジェスチャ操作の位置を検出するリモコン等の装置から、位置情報の取得をしてもよい。つまり、その装置により当該情報取得部へとアップロード(例えば無線通信)される、検出された位置を特定する位置情報が取得されてもよい。
また、例えば、情報取得部は、2つの画像の間の視差を特定することにより、特定する視差を生じさせる距離の位置を特定する視差情報を取得してもよい。なお、この視差情報は、例えば、上記の2つの画像でもよい。
また、情報取得部は、例えば、先述された、2次元画像と距離画像とのうちの、2次元画像のみを取得してもよい。そして、例えば、取得された2次元画像が解析されて、ジェスチャ操作をした操作者の距離が遠いほど小さい、取得される2次元画像における、操作者の一部又は全部の画像の大きさが特定されてもよい。そして、特定された大きさに対応する距離の位置が、そのジェスチャ操作の位置として特定されるなどしてもよい。
また、取得される位置情報は、(テレビ1011のある部屋等における)床面に設けられた、操作者104の(足などの)位置を検出するセンサから取得される、検出がされた位置を示す情報でもよい。
なお、こうして、例えば、操作者1041の位置情報と、操作者1042の位置情報との2個の位置情報などの複数の位置情報が取得され、取得された複数の位置情報により示される、複数のジェスチャ操作の位置にそれぞれ対応する、複数の画面1011S(画面1012、1013)が表示されてもよい。
そして、具体的には、例えば、上述のように、それら複数の位置情報は、互いに異なる複数の操作者104(操作者1041、1042)の位置の位置情報でもよい。そして、複数の操作者104にそれぞれ対応する、複数の画面1011Sが表示されてもよい。
他方で、例えば、取得される、それら複数の位置情報は、操作者の左手により行われたジェスチャ操作の位置の位置情報と、その操作者による、右手でのジェスチャ操作の位置の位置情報との2つの位置情報などの、一人の操作者が行った複数のジェスチャ操作での、複数の位置情報でもよい。そして、このような、一人の操作者による複数のジェスチャ操作にそれぞれに対応する、複数の画面1011Sが表示されてもよい。
(実施の形態2)
図6は、本発明に係る実施の形態2における、テレビの構成を示したブロック図である。
図6では、図1のブロック図に対して、視線情報検出部6001が付加された構成となっている。視線情報検出部6001は、例えば、カメラ装置と、画像認識技術となどによって実現される。視線情報検出部6001は、テレビ1011の前の操作者が、テレビ画面上の、どの領域を視ているかを検出するブロックである。なお、例えば、操作者(第3の操作者7001(図7)など)の視線(例えば視線1011Pv)の方向が検知されて、検知された方向での視線で視られる領域(例えば画面1013)が、その操作者の視ている領域として検出されてもよい。
図7は、本発明に係る実施の形態2における、テレビの画面表示を説明するための図である。
実施の形態1で説明した、ジェスチャ操作領域の設定処理により、第1の操作者1041と第2の操作者1042に対して、それぞれ画面A 1012と画面B 1013が紐付けられている(左欄)。また、視線情報検出部6001によって、第1の操作者1041と、第2の操作者1042とが、それぞれ画面A 1012と画面B 1013とを視ていることも検出している。
ここで、図7右欄に示されるように、第3の操作者7001が、ジェスチャ認識範囲1031に入り、しばらくジェスチャ操作を行わずに、画面B 1013を視聴していた場合を考える。この場合に、視線情報検出部6001は、第3の操作者7001が、画面B 1013を視聴していることを検出し、その情報(視聴情報)を、ジェスチャ操作領域設定部2042に通知する。ジェスチャ操作領域設定部2042は、この通知を受けると、第3の操作者7001と、画面B 1013とを紐付けて、操作者情報保持部2043に保存する。この紐付け処理によって、第3の操作者7001が、テレビ1011に対して、操作を行った場合には、新たな画面分割を行わずに、行われた操作を、第3の操作者7001に紐付けられた画面B 1013に対するジェスチャ操作として、処理を行う。
以上のような、ジェスチャ操作領域の設定を行うことにより、1つの画面領域を、複数人で視聴している場合にも、適切な、ジェスチャ操作領域の設定を行うことが可能となる。
こうして、例えば、第3の操作者7001により、表示領域1011Pにおける1以上の画面(画面1012、1013)のうちの何れかの画面(例えば画面1013)が視聴されるか、何れの画面も視聴されないかを示す視聴情報(視線情報)が検出されてもよい。なお、視聴情報は、上述のように、例えば、視線の方向が、予め定められた方向か否かを示すことにより、何れかの画面が視聴されるか、何れも視聴されないかを示してもよい。そして、何れかの画面が視聴されると示される場合には、新たな分割(上述)がされず、検出の前における、画面の個数(画面1012、1013の2個)と同じ個数(2個)の画面が、検出の後にも表示され、画面の個数が増加(変更)されなくてもよい。そして、何れも視聴されないと示される場合にのみ、新たな分割(上述)がされて、個数が増加(例えば2個から3個へ増加)されてもよい。
こうして、例えば、本映像生成装置においては、情報取得部は、使用者(第3の操作者7001)により、表示領域の何れかの画面に対して、視聴がされるか、何れの画面も視聴されないかを示す視聴情報(視線情報)を検出して、映像生成部は、検出された視聴情報(視線情報)に基づき、何れも視聴されないことが示される場合にのみ、新たな分割(上述)をさせるなどして、表示領域に対する、操作領域の設定の個数を変更(増加)させ、何れかの画面が視聴されると示される場合には、新たな分割(上述)をさせないなどして、個数を変更(増加)させなくてもよい。
(実施の形態3)
図8は、本発明に係る実施の形態3におけるテレビの構成を示したブロック図である。
図8では、図1のブロック図に対して、リソース情報取得部8001が付加された構成となっている。リソース情報取得部8001は、映像音声デコーダ部2012の機能上、あるいは性能上の制約情報を取得し、制御部2040に通知する。例えば、画面の分割については、2画面までの分割が可能であることなどを通知する。つまり、例えば、分割が可能である画面の個数の最大値(上述の場合、2個)を特定する制約情報の通知がされてもよい。
ジェスチャ操作領域設定部2042は、ジェスチャ領域の設定を行う場合に、リソース情報取得部8001からの情報を用いる。例えば、3人目の操作者が、テレビ画面に対して、ジェスチャ操作を行った場合でも、リソース情報取得部8001からの情報で、2画面分割までしか対応できないことが示される場合には、新たな画面分割は行わない。
以上のような、ジェスチャ操作領域の設定を行うことにより、各々のテレビの、機能上、あるいは性能上の制約に応じた、ジェスチャ操作領域の設定を行うことが可能となる。
こうして、例えば、本映像生成装置は、CPU及び映像デコーダの少なくとも一方n利用状況に関する(利用状況を特定する)リソース情報(例えば、上記の制約情報)を取得するリソース情報取得部(リソース情報取得部8001)を備え、映像生成部は、取得されたリソース情報に基づき、操作領域の設定される個数を(、取得されたリソース情報により示される最大値以下の個数に)変更し、当該最大値の個数より多い個数には変更しなくてもよい。
なお、制約情報により、先述のようにして、可能である、画面の個数の最大値が特定されるのと同様に、可能である、操作領域(画面1011S)の、表示領域(表示領域1011P)に対する表示サイズの最大値が特定され、当該最大値以下の表示サイズに、操作領域の、表示領域に対する表示サイズが変更されてもよい。
こうして、先述のように、複数の使用者(例えば操作者1041、1042)の位置の間の位置関係(先述)が、第1の位置関係(例えば図4左欄)である場合に、第1の位置関係に適する第1のレイアウトでの映像(図4左欄)が生成され、第2の位置関係(右欄)である場合に、第2の位置関係に適する第2のレイアウトでの映像(右欄)が生成されてもよい。
そして、先述された位置関係は、例えば、図4で示されるように、一方の操作者(例えば操作者1042)が、他方の操作者(例えば操作者1041)よりも、テレビ1011に、より近くないか(左欄)、より近いか(右欄)(についての関係)でもよい。つまり、位置関係は、例えば、ある方向(方向Dz)における順序(より近くない順序か(左欄)、より近い順序か(右欄))でもよい。
同様に、位置関係は、方向Dx(表示領域1011Pの左右方向、水平方向)についての順序(図5参照)などでもよい。
また、あるレイアウト(例えば図3左欄)での、画面1011Sの個数(1個)が、他のレイアウト(図3右欄)での個数(1個)と異なってもよい。
また、あるレイアウト(例えば図4左欄)での、ある画面(例えば画面1012)のサイズ(例えば長さ1012zL)が、他のレイアウト(右欄)での、その画面(画面1012)のサイズ(長さ1012zR)と異なってもよい。
また、あるレイアウト(例えば図4左欄)における、一方の画面(例えば画面1012)のサイズ(長さ1012zL)と、他方の画面(画面1013)のサイズ(長さ1013zL)との間の比が、他のレイアウト(右欄)での、当該一方の画面のサイズ(長さ1012zR)と、当該他方の画面のサイズ(長さ1013zR)との間の比と異なってもよい。
また、あるレイアウト(例えば図5左欄)での、ある画面(例えば画面1012)の位置(比較的左側の位置)が、他のレイアウト(右欄)での、その画面の位置(比較的左側ではなく、右側である位置)と異なってもよい。
なお、あるレイアウト(画面1011Sの個数が複数であるレイアウト(図3右欄など))では、予め定められた方向(方向Dx、水平方向、横方向)についての互いに異なる複数の位置(図3右欄の位置P1、P2)の、複数の画面1011S(画面1012、1013)に、表示領域1011Pが分割されてもよい。なお、方向Dx以外の、例えば縦方向(鉛直方向、方向Dy)などの他の方向での分割がされてもよい(図略)。
また、あるレイアウトでは、ピクチャ・イン・ピクチャで、複数の画面1011Sの表示がされてもよい。
なお、レイアウトは、例えば、これらの、画面1011Sの個数(1個、2個…、図3参照)、サイズ(図4参照)などの各要素のうちの1又は複数により特定される、1以上の画面1011Sでの形式でもよい。つまり、複数のレイアウトからレイアウトが選択され、設定ることにより、複数の形式のうちで、選択されたレイアウトの形式が選択され、設定されてもよい。
なお、外部情報取得部2030、制御部2040等を含み、当該制御部2040により、レイアウトを特定するレイアウト情報を生成して、生成するレイアウト情報により特定されるレイアウトでの映像を生成させる集積回路2040x(図2)が構築されてもよい。
なお、先述された、壁への表示の例では、使用者(一方の使用者)の位置の前方の箇所に、当該使用者の画面が表示される。そして、この画面は、他の人(当該一方の使用者とは異なる他方の使用者)が有する、当該使用者(一方の使用者)の位置に対する相対位置(位置関係)が、比較的遠い第1の相対位置(第1の位置関係)である場合には、複数の画面の重なりが生じない、適切な画面である一方で、比較的近い第2の相対位置(第2の位置関係)である場合には、重なりが生じる、適切でない画面である。
このため、先述のように、壁への表示の例では、適切な表示が確実にできない。
これに対して、本映像生成装置(テレビ1011)においては、例えば、次の動作がされてもよい。
つまり、例えば、本映像生成装置は、家におけるリビングルームなどに設けられる、生成された映像を表示するテレビ(テレビ1011)などでもよい。
そして、予め定められた使用者は、そのリビングルームの中に居る、テレビ1011を視聴する、その家の複数の住人(例えば、図4の操作者1041、1042)のうちの一人(例えば操作者1041)などでもよい。そして、当該予め定められた使用者は、表示される、生成された映像を見ることにより、当該映像生成装置を使用してもよい。
そして、当該予め定められた使用者(操作者1041)によるジェスチャ操作がされる操作領域(画面1012)が表示されてもよい。
そして、当該使用者(操作者1041)以外の他の人(例えば操作者1042)が有する、当該使用者(操作者1041)の位置に対する相対位置(位置関係)が、第1の相対位置(図4左欄での、操作者1041より、テレビ1011に、より近くない相対位置(位置1042L))であるか(第1の位置関係)、第2の相対位置(右欄での、より近い相対位置(位置1042R))であるか(第2の位置関係)を特定する情報(例えば、操作者1041及び操作者1042の2つの位置情報:相対位置情報)が取得されてもよい(図10のS1、位置情報取得部2032)。
ここで、当該第1の相対位置(左欄)は、例えば、他の人(操作者1042)の相対位置が、当該第1の相対位置である場合には、当該使用者(操作者1041)の操作領域(画面1012)として、第1の領域(例えば、図4左欄の画面1012L)が表示されるのが適切である相対位置でもよく、第2の相対位置(右欄)は、第2の領域(画面1012R)が表示されるのが適切である相対位置でもよい。
そして、取得される当該相対位置情報により示される相対位置が、第1の相対位置である場合にのみ(図4左欄、S21:NO)、当該操作領域(画面1012)として第1の領域(左欄での画面1012L)が表示され(S22a、生成部2020x(図2))、第2の相対位置である場合には(右欄、S21:YES)、第2の領域(画面1012R)が表示されてもよい(S22b)。
これにより、単に、他の人(操作者1042)が第1の相対位置(図4左欄の位置1042L参照)を有する場合に適切な表示がされるだけに止まらず、第2の相対位置(右欄の位置1042R)を有する場合にも、第2の領域が表示されて、適切な表示がされる。これにより、他の人の位置(他の人の位置との間の相対的な位置関係)に関わらず、適切な表示がされて、確実に、適切な標示ができる。
つまり、例えば、第1の位置関係(図4左欄、第1の相対位置)のときに、当該第1の位置関係に適する第1の領域(画面1012L)が表示される第1のレイアウトが用いられるのと共に、第2の位置関係(右欄、第2の相対位置)のときに、当該第2の位置関係に適する第2の領域(画面1012R)が表示される第2のレイアウトが用いられて、適切な表示が確実にできてもよい。
なお、上述された、取得される相対位置情報は、例えば、当該他の人の位置を示すことにより、その位置までの、当該予め定められた操作者の位置からの距離、方向などを特定して、それらの位置の間の、相対的な位置関係を特定する情報などでもよい。
なお、こうして、ある場合における、表示領域1011Pの映像(図4左欄)に、操作者1041の画面1012L(図4左欄)が含まれる形式(長さ1012zL、画面1012Lの性質、属性、面積、長さ、大きさ、位置など)は、他の場合(右欄)における、当該操作者1041の画面1012Rが含まれる形式(長さ1012zR等)と異なってもよい。
こうして、本映像生成装置においては、複数の構成を備えることにより、適切な表示が確実にできる一方で、先述の、壁の例などでは、これらの構成の全部又は一部を欠き、適切な表示が確実にできない。この点で、本映像生成装置は、壁の例などの、考えられる他の技術とは相違する。
しかも、壁への表示の例などにおいては、そもそも、先述のように、他の人の相対位置が、近い第2の相対位置であることが少なく、また、相対位置を、遠い第1の相対位置へと遠ざけることが容易である。このため、上記のような、適切な表示が確実にできない問題が、実際には発生し難く、着目され難い。このため、当該問題を解決する構成を作ろうとすることには想到し難い。
なお、例えば、上述された、本映像生成装置の動作のうちの一部(または全部)は、ある局面においてのみ行なわれ、他の局面では行われなくてもよい。
つまり、このように、実施形態の映像生成装置は、例えば、家庭のリビングルームなどに設けられて、表示され、その家庭の住人などにより見られる映像を生成する、テレビ(テレビ1011)、又は、セットトップボックス(セットトップボックス1011T)などでもよい。
そして、予め定められた使用者(一方の使用者(図4の操作者1041)など)以外の他の人(他方の使用者(操作者1042)など)の位置を特定する位置情報が取得されてもよい。
そして、取得された位置情報により特定される、他の人の位置が、第1の位置(位置1042L、第1の位置関係、第1の相対位置)である場合には(図4左欄)、次の通りでもよい。つまり、その場合には、当該予め定められた使用者(操作者1041)によるジェスチャ操作がされる操作領域(画面1012)として、他の人の位置が、第1の位置(位置1042L)である場合に適する第1の領域(小さい長さ1012zLでの画面1012L)が表示される第1のレイアウトでの第1の映像(左欄の映像)が生成されてもよい。
そして、特定される、他の人の位置が、第2の位置(位置1042R、第2の位置関係、第2の相対位置)の場合には、次の通りでもよい。つまり、その場合には、当該使用者(操作者1041)の操作領域(画面1012)として、第2の位置の場合に適する第2の領域(大きい長さ1012zRの画面1012R)が表示される第2のレイアウトでの第2の映像が生成されてもよい。
これにより、他の人の位置(位置関係、相対位置)が、第2の位置(第2の位置関係、第2の相対位置)である場合にも、当該使用者(操作者1041)の操作領域(画面1012)として、第2の領域(画面1012R)が表示されることにより、適切な表示がされ、他の人(操作者1042)の位置(位置関係、相対位置)に関わらずに、確実に、適切な表示ができる。
そして、上記された第1の位置(位置1042L)は、当該使用者(操作者1041)の位置よりも、テレビ1011に、より近くない第1の範囲(左欄)内の位置でもよい。そして、例えば、第2の位置(位置1042R)は、当該使用者(操作者1041)の位置よりも、テレビ1011に、より近い第2の範囲(右欄)内の位置でもよい。
このように、第1の位置(位置1042L)は、当該予め定められた使用者(操作者1041)の位置から特定される、第1の領域が適切である第1の範囲内(第2の範囲外)の位置でもよい。そして、例えば、第2の位置(位置1042R)は、当該使用者の位置から特定される、第2の領域が適切である第2の範囲内の位置でもよい。
そして、上述された第1の位置関係(左欄)は、他の人の位置が、第1の範囲内である位置関係でもよく、第1の相対位置は、第1の範囲内の位置でもよい。そして、第2の位置関係(右欄)は、第2の範囲内での関係でもよく、第2の相対位置は、第2の範囲内での位置でもよい。
つまり、位置関係(相対位置)とは、他の人の位置が、第1の範囲内か、第2の範囲内かを特定する情報でもよい。当該情報は、例えば、他の人(操作者1042)の位置情報と、予め定められた使用者(操作者1041)の位置情報との2つの位置情報を含んでもよいし、当該使用者(操作者1041)が移動しないケースなどにおいては、他の人(操作者1042)の位置情報のみから構成されてもよいし、その他の構成が採用されてもよい。
そして、レイアウトを設定するとは、例えば、設定されるレイアウトのデータを生成することでもよい。そして、生成されるデータは、当該使用者(操作者1041)の操作領域(画面1012)として、上述された第1、第2の領域(画面1012L、1012R)のうちから、他の人の位置(位置1042L、1042R)が属する範囲(第1または第2の範囲)に対応した方の適切な領域を特定するデータでもよい。つまり、生成されるデータは、このことにより、特定される当該適切な領域(画面1012Lまたは1012R)が表示される映像(第1または第2の映像)を生成させるデータでもよい。
これにより、テレビ1011における、予め定められた使用者の操作領域(画面1012)として、当該使用者(操作者1041)以外の他の人(操作者1042)の位置に関わらずに、確実に、適切な領域(画面1012Lまたは1012R)が表示されて、確実に、適切な表示ができる。
図11は、操作者104の人数が3人以上であるケースを示す図である。
先述のように、操作者104の人数は、3人以上でもよい。また、表示領域1011Pに、3個以上の画面1011Sが表示されてもよい。
なお、図11では、一例として、操作者104の人数が3人であり、画面1011Sの個数が、3個であるケースが例示される。
図12は、表示の一例を示す図である。
例えば、ある局面などにおいて、次のような表示がされてもよい。
図12の左欄では、操作者1041の位置と、操作者1042の位置との間の位置関係が、操作者1041の位置の方が、より左側である位置関係である。
そして、図12の左欄では、操作者1041の画面1012が表示される箇所と、操作者1042の画面1013が表示される箇所との間の関係が、画面1012の箇所の方が、より左側である関係である。
一方で、図12の右欄での、操作者1041、1042の位置の間の位置関係は、左欄での位置関係とは異なり、操作者1041の位置の方が、より右側である位置関係である。
そして、図12の右欄での、画面1012、1013の箇所の間の関係は、画面1012の方が、より左側である関係で、左欄での関係と同じ関係に維持される。
つまり、画面1012、1013のレイアウト(先述)について、右欄でのレイアウトは、左欄でのレイアウトと同じレイアウトであり、同じレイアウトに維持される。
こうして、二人の操作者(操作者1041、1042)の間の位置関係が、異なる位置関係へと変化するにも関わらず、変化後(右欄)でのレイアウトが、変化前(左欄)でのレイアウトと同じであり、同じレイアウトに維持されてもよい。
なお、次の動作が行われてもよい。
つまり、図5、図12の例などでは、テレビ画面を、領域A(画面1012)と領域B(画面1013)とに2分割している状態が示される。
そして、ケース(1)としては、一方の領域Aを見ている操作者が1名であり、他方の領域Bを見ている操作者も1名であるケースが考えられる。
一方で、ケース(2)としては、領域Aを見ている操作者が2名であり、領域Bを見ている操作者が1名であるケースも考えられる。
そこで、上述のケース(1)では、操作者の位置が入れ替わった後に(図5の右欄)、図5で示される、画面を入れ替える動作がされてもよい。
そして、上述のケース(2)において、領域Aを見ている2名の操作者のうち、1名の操作者が位置を変えた後には、このような、図5で示される、画面を入れ替える動作がされないで、図12の動作がされ、画面の入れ替えがされなくてもよい。
つまり、例えば、次の動作が行われてもよい。
すなわち、上述のケース(2)のように、1つの領域(例えば領域A)が、2名(2名以上)の操作者により見られることがある。
そして、1つの領域を見る、それら2名の操作者のうちの一方の操作者の位置のみが変わり、他方の操作者の位置が変わらない場合がある。
もしも、この場合にまで、画面の入れ替え(図5参照)がされれば、他の操作者の位置が変わらないのに、入れ替えがされて、不適切な表示がされてしまう。
そこで、上述の場合か否かが判定されてもよい。
つまり、1つの領域(例えば領域A)が、2名の操作者により見られ(条件C1)、かつ、2名により見られた後に、それら2名の操作者のうちの一方の操作者の位置のみが変わった(条件C2)という場合であるか否かが判定されてもよい。
この判定は、例えば、先述された制御部2040により行われてもよい。
なお、上述の判定では、1つの領域(例えば領域A)が2名(2名以上)の操作者により見られ、複数の操作者が1つの同じ領域を見ているか否かを示す情報に基づいて行われてもよい。
この情報は、例えば、テレビ1011に設けられた、図6の視線情報検出部6001により取得された情報などでもよい。
なお、こうして、上述の判定に基づいて、画面の入れ替えがされるか否か(図5の動作がされるか、図12の動作がされるか)が切り替えられてもよい。
なお、こうして、条件(切り替え条件)に基づいて、画面の入れ替えがされるか(図5)、されないか(図12)が切り替えられてもよい。
図13は、テレビ1011などを示す図である。
テレビ1011は、複数のスピーカを備えてもよい。
複数のスピーカは、例えば、図13で示されるように、ステレオでの音の出力をするための2つのスピーカ1011a、1011bなどでもよい。
なお、図13では、図示の便宜上、これら2つのスピーカ1011a、1011bについて、模式的な図示がされる。
左側のスピーカ1011aは、図13に示される方向Dzの向きを向いて、テレビ1011の表示領域1011Pを見る際における、比較的左側の位置に設けられ、より左側の位置からの音4aを出力する。
右側のスピーカ1011bは、比較的右側の位置に設けられ、より右側の位置からの音4bを出力する。
そして、図13のケースでは、左側の位置1041Pの操作者1041と、右側の位置1042Pの操作者1042とがいる。
そして、左側の操作者1041の画面は、左側の画面1012であり、右側の操作者1042の画面は、右側の画面1013である。
そこで、左側の操作者1041により聞かれる、左側の画面1012の音は、左側の位置からの音4aとして、左側のスピーカ1011aにより出力されてもよい。
そして、右側の操作者1041により聞かれる、右側の画面1013の音は、右側の位置からの音4bとして、右側のスピーカ1011bにより出力されてもよい。
なお、このような動作をさせる制御が、制御部2040などにより行われてもよい。
こうして、それぞれの操作者の画面(画面1012、1013)の音が、2つのスピーカ1011a、1011bのうちの、その画面の操作者の位置に対応する方のスピーカ(スピーカ1011a、1011b)から出力されてもよい。
こうして、それぞれの音が、2つのスピーカ1011a、1011bのうちで、その音の画面の操作者の位置に対応する、適切な方のスピーカから出力されてもよい。
なお、次の動作がされてもよい。
つまり、音が鳴っているように感じられる場所である、その音の音像が定位する定位位置がある。
そこで、左側の画面1012の音の定位位置を、より左側にさせると共に、右側の画面1013の音の定位位置を、より右側にさせる制御がされてもよい。
具体的には、音が出力される際における、左側のスピーカ1011aでの出力と、右側のスピーカ1011bでの出力との間でのバランスがある。
つまり、左側の画面1012の音の出力における、このバランスは、左側のスピーカ1011aでの出力が、比較的大きいバランスにされてもよい。
そして、右側の画面1013の音の出力でのバランスは、左側のスピーカ1011aでの出力が、比較的小さいバランスにされてもよい。
こうして、音の出力に際して、2つのスピーカ1011a、1011bでの出力のバランスについて、その音を聞く操作者の位置に対応する適切なバランスでの出力がされてもよい。
例えば、こうして、操作者の位置に対応するバランスで出力がされることにより、定位位置が、そのバランスで出力がされる際の定位位置にされて、先述されたような、適切な定位位置での出力がされてもよい。
なお、次の動作が行われてもよい。
つまり、例えば、ある局面などでは、図4の右欄で示されるように、一方の操作者1041から、テレビ1011までの距離が比較的遠い一方で、他方の操作者1042の、テレビ1011までの距離が比較的近くてもよい。
そこで、遠い距離の操作者1041の画面1012の音としては、より大きな音(より大きなボリュームでの音、より大きな増幅幅の増幅での音)が出力されてもよい。
そして、より近い距離の操作者1042の画面1013の音としては、より小さな音が出力されてもよい。
このような動作をさせる制御が、制御部2040などによりされてもよい。
こうして、それぞれの画面(画面1012、1013)の音として、その画面の操作者の位置に対応する適切な大きさの音が出力されてもよい。
このようにして、画面の音が出力されるのに際して、その出力が制御されてもよい。
そして、それぞれの画面の音の出力に際して、複数の制御のうちで、その画面(例えば画面1012)の操作者(操作者1041)の位置に対応する適切な制御がされてもよい。
なお、図12右欄での表示がされる場合などに、次の動作がされてもよい。
つまり、複数の画面(図12の例では画面1012、1013)のうちから1の画面(画面1013)が特定されてもよい。
つまり、複数の操作者(操作者1041、1042)のうちから、1の操作者(操作者1042)が、位置104Pが検出された操作者104xと同じ操作者として特定されてもよい。
そして、先述のように、それぞれの操作者と、その操作者の画面との間の対応関係が、操作者情報保持部2043などにより記憶されてもよい。
そして、特定された操作者(操作者1042)に対応付けられた画面(画面1013)が特定されてもよい。
そして、検出された位置104Pでの、その位置104Pの操作者104xのジェスチャ操作が、特定された画面(画面1013)に対する操作と特定されてもよい。
これにより、ジェスチャ操作(位置104Pでのジェスチャ操作)が、適切な画面(画面1013)に対する操作と特定されて、適切な処理ができる。
具体的には、位置104Pが検出された操作者104xの外観の特徴が表れた画像が撮像されてもよい(図2のジェスチャ認識センサ1021を参照)。
そして、複数の操作者のうちのそれぞれの操作者の特徴を特定するデータが、制御部2040などにより記憶されてもよい。
そして、撮像された画像に表れた、位置104Pの操作者104xの特徴と同じ特徴の操作者が、上述された1の操作者として特定されてもよい。
なお、このような処理は、いわゆる画像認識処理でもよい。
なお、近年では、デジタルスチルカメラなどでも、画像認識処理がされることがある。本技術での画像認識処理は、例えば、単なる、デジタルスチルカメラでの処理が流用されただけのものなどでもよい。
また、位置104Pが検出された操作者104xの、その検出がされた時刻(図12右欄の時刻)よりも前の時刻(左欄の時刻)での位置(位置1042L)が特定されてもよい。
そして、複数の操作者(操作者1041、1042)のうちで、特定された位置(1042L)に、上述された前の時刻(左欄の時刻)にいた操作者(操作者1042)が、先述の1の操作者として特定されてもよい。
なお、実施の形態に基づいて説明したが、本発明はこれらの実施の形態に限定されるものではない。実施の形態に対して当業者が思いつく変形を施して得られる形態も本発明に含まれる。また、複数の実施の形態で説明された複数の要素などの、互いに離れた箇所で説明された複数の要素を任意に組み合わせて実現される形態も本発明に含まれる。
また、本発明は、装置として実現できるだけでなく、当該装置を構成する処理手段をステップとする方法として実現できる。そして、本発明は、それらステップをコンピュータに実行させるプログラムとして実現できる。更に、本発明は、そのプログラムを記憶したコンピュータ読み取り可能なCD−ROM等の記憶媒体として実現できる。また、上記の機能が実装された集積回路としても実現できる。
テレビ画面を分割し、複数の操作者に割り当てる場合に、操作者の位置関係、画面との距離、操作者の位置入れ替わり等に応じて、分割画面の表示位置・サイズを適切に制御することが可能となり、しかも、複数の使用者の位置関係に関わらずに、確実に、適切な表示ができる。
1001 テレビ操作システム
1011 テレビ
1012、1013 画面
1021 ジェスチャ認識センサ
1031 ジェスチャ認識範囲
1041、1042 操作者
2010 放送処理部
2011 放送受信部
2012 映像音声デコーダ部
2020 画面出力部
2020x 生成部
2021 音声出力部
2030 外部情報取得部
2031 ジェスチャ認識部
2032 位置情報取得部
2040 制御部
2041 画面レイアウト設定部
2042 ジェスチャ操作領域設定部
2043 操作者情報保持部
2050 放送波
2060 ジェスチャ操作
6001 視線情報検出部
7001 第3の操作者
8001 リソース情報取得部
10211 位置情報
本発明は、映像を生成する映像生成装置、映像生成方法及び集積回路に関する。
テレビの一機能に、二画面表示機能、あるいはPicture-In-Picture機能と呼ばれる機能がある。これは、テレビ画面を、複数の領域に分割し、それぞれの領域を、異なる表示用途に用いることにより(例えば、異なる2つのチャンネルの放送を表示することにより)、利用者の利便性を向上させる機能である。ところが、このような複数画面機能を、リモコンで操作する場合に、いくつかの課題がある。複数の利用者が、それぞれ別の画面領域を視聴している場合、リモコンを手に持った人しか操作ができない。すなわち、各利用者が、画面を操作する都度、利用者の間での、リモコンの受け渡しが必要になる。また、画面に対する操作の前に、操作対象とする画面領域を指定する操作が必要となり、操作が煩雑になるという問題があった。
複数の利用者が、テレビの複数画面を、1つのリモコンで操作することによって生じる、これらの課題に対する従来技術に、特許文献1がある。特許文献1では、(1)リモコン信号の発信元を識別し、過去に既に受信したリモコン信号の発信元の第1のリモコンにより操作される第1の表示画面と、新規のリモコン信号の発信元の第2のリモコンにより操作される第2の表示画面とに、表示画面を分割し、(2)リモコン信号の受信順序に基づき、発信元のリモコンで操作される表示画面の位置及び大きさを決定する。このことにより、テレビの複数の表示画面を、複数個のリモコンで、同時に操作する技術が特許文献1で開示されている。
特開2008−011050号公報
ここで、ジェスチャ操作により、テレビを操作するシステムを考える。ジェスチャ操作では、リモコン等の機器を必要としないため、複数利用者が、テレビの複数の画面を操作する場合に、同時に操作がなされることがあり得る。このため、各利用者のジェスチャ操作の意図を、適切にテレビ操作に反映するように制御する必要がある。このような、ジェスチャ操作がされるテレビでの技術は、複数操作者が、複数画面を同時に操作するという点では、特許文献1と同じ技術であるが、ジェスチャ操作の場合、利用者の利便性の観点で、さらなる課題が存在する。
すなわち、ジェスチャ操作においては、直観的な操作を実現する。このため、テレビ画面と操作者との位置関係が重要であり、複数の分割画面と、複数操作者の位置とを、適切に紐付け、制御することが必要となる。
本発明は、上記課題を解決するためになされたものであり、その目的は、テレビ画面を分割し、複数操作者に割り当てる場合に、操作者の位置関係、画面との距離、操作者の位置の入れ替わり等に応じて、分割画面の表示位置・サイズを適切に制御する映像生成装置を提供することである。
他方、発明者側においては、本出願に際して、その他の技術として、建物の壁面などの壁に、使用者により視聴される画面が表示されることも考えられる。そして、画面が表示される箇所が、壁における複数の箇所のうちの、使用者の位置の前方の箇所にされることが考えられる。そして、一方の使用者の画面が、当該一方の使用者の位置の前方の箇所に表示され、他方の使用者の画面が、当該他方の使用者の位置の前方の箇所に表示されることが考えられる。
しかし、テレビの前の複数の使用者の位置は、壁の前の複数の使用者の位置よりも、互いに、比較的近い位置であることが多い。また、使用者の位置が、テレビが設けられたリビングルーム内でのみ移動可能などで、それらの複数の位置を互いに離すことが困難であることが多い。
そして、このように、複数の使用者の位置が互いに近いにも関わらず、それぞれの使用者の位置の前方の箇所に、その使用者の画面が表示されると、一方の使用者の画面の一部等に、他方の使用者の画面が重なるなどして、不適切な箇所への、画面の表示がされてしまう。つまり、複数の使用者の位置の間の相対的な位置関係により、不適切な表示がされてしまい、確実に、適切な表示ができない。
そこで、本発明は、複数の使用者の相対的な位置関係に関わらずに、確実に、適切な表示ができる映像生成装置を提供することを他の目的とする。
上記課題を解決するために、本発明の映像生成装置は、ジェスチャ操作を行う複数の操作者(それぞれの操作者がジェスチャを行う複数の操作者)の位置を示す位置情報(それぞれの操作者のジェスチャ操作の位置を示す位置情報が含まれてなる複数の位置情報)を取得する情報取得部と、映像のレイアウトを、取得された複数の前記位置情報により示される複数の前記位置の間の相対的な位置関係に基づいて設定し、設定された、前記位置関係に対応した前記レイアウトによる前記映像(映像信号)を生成する映像生成部とを備える。なお、このように、ジェスチャ操作をする主体(操作者)が、複数存在する。
つまり、情報取得部は、複数の位置情報を取得する。そして、取得される複数の位置情報のうちのそれぞれは、その位置情報のジェスチャ操作がされた位置を示してもよい。そして、取得される複数の位置情報は、複数のジェスチャ操作に対応してもよい。そして、互いに異なる2つの位置情報は、互いに異なる2つのジェスチャ操作に対応してもよい。
なお、設定されるレイアウトは、例えば、予め定められた方向(図3右欄の方向Dx参照)についての、互いに異なる(方向Dxにおける座標が互いに異なる)複数の位置(位置P1、P2)の、複数の操作領域(画面1012、1013)に、表示領域(表示領域1011P)が分割されるレイアウトなどである。つまり、例えば、当該方向(方向Dx)の座標軸での座標が互いに異なる(複数の位置の)複数の操作領域(画面1012、1013)に、分割がされてもよい。
テレビ画面を分割し、複数の操作者に割り当てる場合に、操作者の位置関係、画面との距離、操作者の位置の入れ替わり等に応じて、分割画面の表示位置・サイズを適切に制御することが可能となり、しかも、複数の使用者の位置関係に関わらずに、確実に、適切な表示ができる。
図1は、本発明に係る実施の形態1、実施の形態2及び、実施に形態3の、ジェスチャ認識によるテレビ操作システムの構成を示した図である。 図2は、本発明に係る実施の形態1におけるテレビの構成を示したブロック図である。 図3は、本発明に係る実施の形態1におけるテレビの画面表示を説明するための図である。 図4は、本発明に係る実施の形態1におけるテレビの画面表示を説明するための図である。 図5は、本発明に係る実施の形態1におけるテレビの画面表示を説明するための図である。 図6は、本発明に係る実施の形態2におけるテレビの構成を示したブロック図である。 図7は、本発明に係る実施の形態2におけるテレビの画面表示を説明するための図である。 図8は、本発明に係る実施の形態3におけるテレビの構成を示したブロック図である。 図9は、セットトップボックス及びテレビを示す図である。 図10は、テレビの動作のフローチャートである。 図11は、3人の操作者などを示す図である。 図12は、テレビなどを示す図である。 図13は、テレビなどを示す図である。
以下、本発明を実施するための形態について、図面を参照して、説明する。
実施形態の映像生成装置は、ジェスチャ操作を行う複数の操作者の位置を示す位置情報(位置情報10211)を取得する情報取得部(外部情報取得部2030)と、映像(表示領域1011Pの映像)のレイアウトを、取得された複数の位置情報(それぞれの操作者のジェスチャ操作の位置を示す位置情報10211が含まれてなる複数の位置情報10211)により示される複数の位置の間の相対的な位置関係(例えば、図4右欄における、操作者1042の方が、操作者1041よりも、テレビ1011により近い位置関係)に基づいて設定し、設定された位置関係に対応したレイアウト(図4右欄でのレイアウト(長さ1012zR、1013zR))による映像(映像信号)を生成する映像生成部(生成部2020x)とを備える映像生成装置(テレビ1011)である。
つまり、例えば、取得された複数の位置情報による位置関係が、第1の位置関係(例えば図4左欄)である場合に、第1の位置関係に適する第1のレイアウトでの第1の映像(左欄)が生成され、第2の位置関係(図4右欄)である場合に、第2の位置関係に適する第2のレイアウトでの第2の映像(右欄)が生成されてもよい。
これにより、複数の使用者の位置の間の位置関係に関わらずに、確実に、適切な表示ができる。
つまり、例えば、他方の時刻(図4右欄での時刻)における、第1の操作者(例えば、図4の操作者1041)の位置が、一方の時刻(左欄での時刻)での、第1の操作者の位置と同じである。そして、例えば、他方の時刻での、第2の操作者(操作者1042)の位置(位置1042R)が、一方の時刻での第2の操作者の位置(位置1042L)とは異なる位置である。そして、他方の時刻において、第1の操作者の位置は同じであるにも関わらず、第2の操作者の位置が異なることにより、一方の時刻での、第1の操作者の操作領域(画面1012L)とは異なる操作領域(画面1012Lのサイズとは異なるサイズの画面1012R)が設定される。これにより、他方の時刻において、第2の操作者の位置も同じで、二人の操作者の位置関係が同じである場合だけではなく、異なる場合にも、適切な操作領域(画面1012R)が設定される。これにより、位置関係に関わらず、適切に設定がされて、より確実に、適切な設定ができる。
なお、本映像生成装置(テレビ1011)において、例えば、映像生成部は、レイアウトを選択し、生成される映像のレイアウトとして、選択されたレイアウトを設定する制御部2040と、設定されたレイアウトによる映像(映像信号)を生成し、生成された映像を表示パネル2020pに出力して、表示させる画面出力部2020とを含んでもよい。
具体的には、例えば、情報取得部は、複数の使用者(例えば、図4における、操作者1041、操作者1042の2人の操作者)を撮像すると共に、撮像結果から、それぞれの使用者のジェスチャ操作の種類(例えば、電源オンオフ、チャンネル切替など)及び、当該使用者によるジェスチャ操作の位置の位置情報を取得し、生成される映像の表示を行う表示部(表示パネル2020p)を備えてもよい。そして、当該映像生成装置は、生成された映像を、表示部により表示する表示装置(テレビ1011)であり、映像生成部は、ジェスチャ操作によって操作可能な操作領域(図1等の画面1011Sを参照)を、生成された映像が表示される、表示部における表示領域(表示領域1011P)に設定し、表示領域に対し、取得したジェスチャ操作の数に応じて、操作領域(画面1011S)を複数個(例えば、ジェスチャ操作の数と同じ個数だけ)、設定すると共に、それぞれの操作領域の、表示領域における表示位置及び、表示サイズを、その操作領域に対応する位置情報などの1以上の位置情報に基づいて変更してもよい。
なお、映像生成部は、それぞれの操作領域(例えば、図4の画面1012)が、複数のレイアウト(図4の左欄、右欄)のうちの、取得された複数の位置情報での位置関係(例えば右欄での位置関係)に対応するレイアウト(右欄のレイアウト)における、その操作領域(画面1012R)の表示位置(比較的左側の位置)及び、表示サイズ(長さ1012zR)で含まれる映像(図4右欄での映像)を生成してもよい。
なお、当該映像生成装置は、具体的には、例えば、図9に示されるように、当該映像生成装置の外部に設けられたテレビ(テレビ1011st)の表示領域(表示領域1011stA)に、生成された映像を表示させるセットトップボックス(セットトップボックス1011T)などでもよい。
なお、映像生成部は、複数の位置の間の位置関係が第1の位置関係(例えば、図4左欄の位置関係)で、第1のレイアウトでの第1の映像が生成される場合には、予め定められた音(例えば、左の画面1012の音)が出力されるのを制御する際に、第1の位置関係の場合に適する第1の制御(例えば、右の画面1013の音の大きさと同じ大きさで出力をさせる制御)を行い、第2の位置関係で、第2のレイアウトでの第2の映像が生成される場合には(右欄)、第2の位置関係の場合に適する第2の制御(例えば、右の画面1013での大きさより大きな大きさで出力をさせる制御)を行ってもよい。
なお、第1の制御(例えば、図5の左欄での制御)は、予め定められた音(例えば、例えば、画面1012の音)を、2つのスピーカ(例えば、図13のスピーカ1011a、1011b)のうちの一方のスピーカ(左のスピーカ1011a)で出力させる制御(図5左欄での音1012sを参照)であり、第2の制御(図5右欄での制御)は、他方のスピーカ(右のスピーカ1011b)で出力させる制御(右欄での音1012sを参照)でもよい。
これにより、位置関係に対応したレイアウトでの映像が生成されるにも関わらず、音の出力の制御として、不適切な制御がされず、適切な制御がされ、音の出力の制御でも適切な制御がされ、確実に、適切な制御ができる。
こうして、テレビ1011により、操作者へと情報(映像、音など)が出力され、その出力の制御(映像のレイアウトの制御、音の出力の制御)がされるのに際し、位置関係に対応しない不適切な制御がされてしまうことが回避され、対応する適切な制御ができる。
(実施の形態1)
図1は、本発明に係る一実施の形態における、ジェスチャ認識によるテレビ操作システム1001の構成を示した図である。
ジェスチャ認識によるテレビ操作システム1001は、テレビ1011と、ジェスチャ認識センサ1021と(符号1011xにより指される2つの装置)から構成される。
ジェスチャ認識センサ1021は、通常、テレビ1011の近傍に設置される。
第1の操作者1041及び第2の操作者1042は、ジェスチャ認識範囲1031の範囲内で、所定のジェスチャ動作を行うことにより、テレビ1011の電源オンオフ、チャンネル切替などの操作を行うことができる。
また、テレビ1011は、画面分割機能を備えており、画面1012(画面A)と画面1013(画面B)とを別々の用途、例えば、同時に2つの放送を視聴することなどに使用することが可能である。
図2は、本発明に係る一実施の形態における表示装置(映像生成装置)であるテレビ1011の構成を示したブロック図である。
放送処理部2010は、テレビ放送の受信、表示を行うブロックである。
放送受信部2011は、放送波2050の受信、復調、デスクランブルを行い、映像音声デコーダ部2012に入力する。
映像音声デコーダ部2012は、入力された放送ストリームに含まれる映像、音声データのデコード処理を行い、映像を、画面出力部2020へ出力し、音声を、音声出力部2021へ出力する。
外部情報取得部2030は、ジェスチャ認識センサ1021から入力されたデータを処理し、ジェスチャコマンドと、ユーザの位置情報とをそれぞれ出力するブロックである。
なお、ジェスチャ認識センサ1021は、図2に示されるように、例えば、テレビ1011の一部でもよい。
なお、ジェスチャ認識センサ1021には、さまざまな方式が存在するが、ここでは、2次元画像と、距離画像(ジェスチャ認識センサ1021からの、操作者に対する、奥行き方向(例えば、図3の方向Dz)の距離を表す画像)とを組み合わせて、ジェスチャ認識を行う方式を例にとって説明する。
操作者(操作者104:図1)は、テレビの電源オンオフや、チャンネル切替などの操作を実行したいときには、ジェスチャ認識範囲1031の中で、ジェスチャ認識センサ1021に向かって、各テレビ操作に対応する、所定のジェスチャ動作を行う。
ジェスチャ認識部2031は、ジェスチャ認識センサ1021から入力された、2次元画像と距離画像とにより、操作者の体の動きを検出する。そして、ジェスチャ認識部2031は、検出された動きを、パターン認識処理により、各テレビ操作に対応する、特定のジェスチャコマンドとして認識する。
一方、位置情報取得部2032(図2)は、ジェスチャ認識センサ1021から入力された2次元画像により、左右方向(図3の方向Dx)の位置情報を認識する。位置情報取得部2032は、これと共に、距離画像から、奥行き方向の位置情報を認識して、操作者が、テレビ1011の前の、どこに位置しているかを示す位置情報を出力する。
外部情報取得部2030が出力するジェスチャコマンドと、位置情報とは、制御部2040に入力される。
制御部2040のジェスチャ操作領域設定部2042は、外部情報取得部2030からジェスチャコマンドが入力されると、操作者の位置情報に基づいて、テレビ1011の画面(表示領域1011P)上に、ジェスチャ操作領域(画面1011S)を設定する。その際に、ジェスチャ操作領域設定部2042は、操作者情報保持部2043に、ジェスチャ操作領域と、そのジェスチャ操作領域の操作者の間の紐付け情報を保存する。設定されたジェスチャ操作領域は、画面レイアウト設定部2041に通知される。
画面レイアウト設定部2041は、例えばテレビ画面(表示領域1011P)を、2画面(例えば画面1012、1013)に分割するなどのレイアウト処理を行い、画面出力部2020で、テレビ放送等の映像と組み合わせて、組み合わせされた画像が、テレビ画面に表示される。つまり、例えば、表示領域1011Pのなかで、2つの画面1012、1013のそれぞれにおいて、その画面のチャンネルの、テレビ放送の映像が表示される。
図3は、本発明に係る実施の形態1における、テレビ1011の画面表示を説明するための図である。
まず、テレビ1011のジェスチャ認識範囲1031には、第1の操作者1041だけがいる場合を考える(左欄)。例えば、この場合、ジェスチャ操作領域設定部2042は、テレビ1011の画面全体にあたる画面A 1012を、第1の操作者1041のジェスチャ操作領域として割り当てる。このことで、第1の操作者1041のジェスチャ操作は、画面A 1012に対するジェスチャ操作として、テレビ1011によって処理されることになる。
ここで、第2の操作者1042が、ジェスチャ操作範囲(領域)1031に入ってきた場合(右欄)、位置情報取得部2032によって、第1の操作者1041と、第2の操作者1042とのそれぞれの位置情報が、ジェスチャ操作領域設定部2042に入力される。この場合、第2の操作者1042は、第1の操作者1041に対して、テレビ1011に向かって左側(方向Dzに向いた際における左側、つまり、図3における、左から右への方向(方向Dx)の順序における、比較的早い順序の側)に位置し、テレビ1011との距離(方向Dzでの距離)は、ほぼ同じである。
そして、上述された、入力される、2個の位置情報は、二人の位置をそれぞれ特定することにより、操作者1042の方が、より左側の順序であるなどの、それら2つの位置の間の相対的な位置関係を特定する。なお、位置関係が特定されることにより、その位置関係を有する、操作者(例えば操作者1042)の相対位置(より左側の位置)が特定されてもよい。
ジェスチャ操作領域設定部2042は、入力される、この、2個の位置情報に基づいて、テレビ1011の画面(表示領域1011P)を、画面A 1012(テレビ画面に向かって右側)と、画面B 1013(テレビ画面に向かって左側)との2画面表示に設定する。そして、これと共に、二人の操作者104の、左右の位置関係(第2の操作者1042が、より左側である関係)に対応して、画面A 1012と第1の操作者1041との組、及び、画面B 1013と操作者1042との組の、それぞれの組の紐付け情報を、操作者情報保持部2043に保存する。
図4は、本発明に係る実施の形態1におけるテレビ1011の画面表示を説明するための図である。
第1の操作者1041は、第2の操作者1042に対して、テレビ1011に向かって、左側に位置し、テレビ1011との距離はほぼ同じである(図4左欄)。この場合、図3で説明した処理を行うことにより、画面A 1012と画面B 1013とが、それぞれ、第1の操作者1041と第2の操作者1042に割り当てられる。
ここで、第2の操作者1042が、テレビ1011に近づき、第1の操作者1041がテレビ1011から遠ざかった場合を考える(図4右欄)。なお、第1の操作者1041が遠ざかった距離は、比較的小さくてもよい。つまり、例えば、右欄での第1の操作者の位置は、左欄での位置と同じでもよい。位置情報取得部2032によって、位置情報を入力されたジェスチャ操作領域設定部2042は、テレビ1011から相対的に、距離が遠い位置にいる第1の操作者1041と紐付けられた画面A 1012の画面領域の大きさを、テレビ1011から相対的に距離が近い位置にいる第2の操作者1042と紐付けられた画面Bよりも、大きく設定する。なお、図示されるように、例えば、右欄では、操作者1041の画面1012の、方向Dyの向きの長さ1012zRが、操作者1042の画面1013の長さ1013zRよりも長い一方で、左欄では、長さ1012zLが、長さ1013zLよりも長くなくてもよい。
図5は、本発明に係る実施の形態1における、テレビの画面表示を説明するための図である。
図5の左欄で、第1の操作者1041は、第2の操作者1042に対して、テレビ1011に向かって、左側に位置し、テレビ1011との距離は、ほぼ同じである。この場合、図3で説明した処理を行うことにより、画面A 1012と、画面B 1013とが、それぞれ、第1の操作者1041と、第2の操作者1042とに割り当てられる。
ここで、第1の操作者1041と、第2の操作者1042との左右の位置関係が、入れ替わった場合(図5右欄)を考える。位置情報取得部2032によって、位置情報を入力されたジェスチャ操作領域設定部2042は、第1の操作者1041の画面A 1012と、第2の操作者1042の画面B 1013との左右の位置を入れ替えて、ジェスチャ操作領域を、再設定する。つまり、例えば、図5の左から右への方向Dxに関して、左欄では、操作者1041の順序の方が、より早い順序(より左側の順序)で、表示領域1011Pにおいても、操作者1041の画面1012の順序の方が、より早い順序でもよい。そして、例えば、右欄では、操作者1041の順序の方が、より遅い順序(より右側の順序)で、画面1012の順序も、より遅い順序でもよい。
以上のような、ジェスチャ操作領域の設定を行うことにより、テレビの前の操作者の人数と位置に応じて、テレビ画面上に、ジェスチャ操作領域を設定することが可能となり、操作者は、自然なジェスチャ操作で、テレビを操作することが可能となる。また、操作者の位置の移動にも追随した、ジェスチャ操作領域の設定を行うことも可能となる。
なお、こうして、実施の形態の映像生成装置においては、例えば、具体的には、映像生成部は、情報取得部が、使用者(例えば操作者1041)の位置情報により示される位置の変化を検出した場合に、表示領域(表示領域1011P)における、(変化が検出された当該使用者に)対応する操作領域(画面1012)を再設定して、当該表示領域(のレイアウト)を再設定してもよい。つまり、検出がされた後(例えば図4右欄)には、当該使用者(例えば操作者1041)の操作領域(画面1012)として、検出がされる前(左欄)の領域(画面1012L)とは異なる領域(画面1012R)が表示されてもよい。
なお、先述された情報取得部は、外部情報取得部2030だけでなく、ジェスチャ認識センサ1021などの他の構成を更に含んでもよい。
また、情報取得部は、例えば、操作者(操作者1041等)の手により持たれた、その操作者のジェスチャ操作の位置を検出するリモコン等の装置から、位置情報の取得をしてもよい。つまり、その装置により当該情報取得部へとアップロード(例えば無線通信)される、検出された位置を特定する位置情報が取得されてもよい。
また、例えば、情報取得部は、2つの画像の間の視差を特定することにより、特定する視差を生じさせる距離の位置を特定する視差情報を取得してもよい。なお、この視差情報は、例えば、上記の2つの画像でもよい。
また、情報取得部は、例えば、先述された、2次元画像と距離画像とのうちの、2次元画像のみを取得してもよい。そして、例えば、取得された2次元画像が解析されて、ジェスチャ操作をした操作者の距離が遠いほど小さい、取得される2次元画像における、操作者の一部又は全部の画像の大きさが特定されてもよい。そして、特定された大きさに対応する距離の位置が、そのジェスチャ操作の位置として特定されるなどしてもよい。
また、取得される位置情報は、(テレビ1011のある部屋等における)床面に設けられた、操作者104の(足などの)位置を検出するセンサから取得される、検出がされた位置を示す情報でもよい。
なお、こうして、例えば、操作者1041の位置情報と、操作者1042の位置情報との2個の位置情報などの複数の位置情報が取得され、取得された複数の位置情報により示される、複数のジェスチャ操作の位置にそれぞれ対応する、複数の画面1011S(画面1012、1013)が表示されてもよい。
そして、具体的には、例えば、上述のように、それら複数の位置情報は、互いに異なる複数の操作者104(操作者1041、1042)の位置の位置情報でもよい。そして、複数の操作者104にそれぞれ対応する、複数の画面1011Sが表示されてもよい。
他方で、例えば、取得される、それら複数の位置情報は、操作者の左手により行われたジェスチャ操作の位置の位置情報と、その操作者による、右手でのジェスチャ操作の位置の位置情報との2つの位置情報などの、一人の操作者が行った複数のジェスチャ操作での、複数の位置情報でもよい。そして、このような、一人の操作者による複数のジェスチャ操作にそれぞれに対応する、複数の画面1011Sが表示されてもよい。
(実施の形態2)
図6は、本発明に係る実施の形態2における、テレビの構成を示したブロック図である。
図6では、図1のブロック図に対して、視線情報検出部6001が付加された構成となっている。視線情報検出部6001は、例えば、カメラ装置と、画像認識技術となどによって実現される。視線情報検出部6001は、テレビ1011の前の操作者が、テレビ画面上の、どの領域を視ているかを検出するブロックである。なお、例えば、操作者(第3の操作者7001(図7)など)の視線(例えば視線1011Pv)の方向が検知されて、検知された方向での視線で視られる領域(例えば画面1013)が、その操作者の視ている領域として検出されてもよい。
図7は、本発明に係る実施の形態2における、テレビの画面表示を説明するための図である。
実施の形態1で説明した、ジェスチャ操作領域の設定処理により、第1の操作者1041と第2の操作者1042に対して、それぞれ画面A 1012と画面B 1013が紐付けられている(左欄)。また、視線情報検出部6001によって、第1の操作者1041と、第2の操作者1042とが、それぞれ画面A 1012と画面B 1013とを視ていることも検出している。
ここで、図7右欄に示されるように、第3の操作者7001が、ジェスチャ認識範囲1031に入り、しばらくジェスチャ操作を行わずに、画面B 1013を視聴していた場合を考える。この場合に、視線情報検出部6001は、第3の操作者7001が、画面B 1013を視聴していることを検出し、その情報(視聴情報)を、ジェスチャ操作領域設定部2042に通知する。ジェスチャ操作領域設定部2042は、この通知を受けると、第3の操作者7001と、画面B 1013とを紐付けて、操作者情報保持部2043に保存する。この紐付け処理によって、第3の操作者7001が、テレビ1011に対して、操作を行った場合には、新たな画面分割を行わずに、行われた操作を、第3の操作者7001に紐付けられた画面B 1013に対するジェスチャ操作として、処理を行う。
以上のような、ジェスチャ操作領域の設定を行うことにより、1つの画面領域を、複数人で視聴している場合にも、適切な、ジェスチャ操作領域の設定を行うことが可能となる。
こうして、例えば、第3の操作者7001により、表示領域1011Pにおける1以上の画面(画面1012、1013)のうちの何れかの画面(例えば画面1013)が視聴されるか、何れの画面も視聴されないかを示す視聴情報(視線情報)が検出されてもよい。なお、視聴情報は、上述のように、例えば、視線の方向が、予め定められた方向か否かを示すことにより、何れかの画面が視聴されるか、何れも視聴されないかを示してもよい。そして、何れかの画面が視聴されると示される場合には、新たな分割(上述)がされず、検出の前における、画面の個数(画面1012、1013の2個)と同じ個数(2個)の画面が、検出の後にも表示され、画面の個数が増加(変更)されなくてもよい。そして、何れも視聴されないと示される場合にのみ、新たな分割(上述)がされて、個数が増加(例えば2個から3個へ増加)されてもよい。
こうして、例えば、本映像生成装置においては、情報取得部は、使用者(第3の操作者7001)により、表示領域の何れかの画面に対して、視聴がされるか、何れの画面も視聴されないかを示す視聴情報(視線情報)を検出して、映像生成部は、検出された視聴情報(視線情報)に基づき、何れも視聴されないことが示される場合にのみ、新たな分割(上述)をさせるなどして、表示領域に対する、操作領域の設定の個数を変更(増加)させ、何れかの画面が視聴されると示される場合には、新たな分割(上述)をさせないなどして、個数を変更(増加)させなくてもよい。
(実施の形態3)
図8は、本発明に係る実施の形態3におけるテレビの構成を示したブロック図である。
図8では、図1のブロック図に対して、リソース情報取得部8001が付加された構成となっている。リソース情報取得部8001は、映像音声デコーダ部2012の機能上、あるいは性能上の制約情報を取得し、制御部2040に通知する。例えば、画面の分割については、2画面までの分割が可能であることなどを通知する。つまり、例えば、分割が可能である画面の個数の最大値(上述の場合、2個)を特定する制約情報の通知がされてもよい。
ジェスチャ操作領域設定部2042は、ジェスチャ領域の設定を行う場合に、リソース情報取得部8001からの情報を用いる。例えば、3人目の操作者が、テレビ画面に対して、ジェスチャ操作を行った場合でも、リソース情報取得部8001からの情報で、2画面分割までしか対応できないことが示される場合には、新たな画面分割は行わない。
以上のような、ジェスチャ操作領域の設定を行うことにより、各々のテレビの、機能上、あるいは性能上の制約に応じた、ジェスチャ操作領域の設定を行うことが可能となる。
こうして、例えば、本映像生成装置は、CPU及び映像デコーダの少なくとも一方n利用状況に関する(利用状況を特定する)リソース情報(例えば、上記の制約情報)を取得するリソース情報取得部(リソース情報取得部8001)を備え、映像生成部は、取得されたリソース情報に基づき、操作領域の設定される個数を(例えば、取得されたリソース情報により示される最大値以下の個数に)変更し、当該最大値の個数より多い個数には変更しなくてもよい。
なお、制約情報により、先述のようにして、可能である、画面の個数の最大値が特定されるのと同様に、可能である、操作領域(画面1011S)の、表示領域(表示領域1011P)に対する表示サイズの最大値が特定され、当該最大値以下の表示サイズに、操作領域の、表示領域に対する表示サイズが変更されてもよい。
こうして、先述のように、複数の使用者(例えば操作者1041、1042)の位置の間の位置関係(先述)が、第1の位置関係(例えば図4左欄)である場合に、第1の位置関係に適する第1のレイアウトでの映像(図4左欄)が生成され、第2の位置関係(右欄)である場合に、第2の位置関係に適する第2のレイアウトでの映像(右欄)が生成されてもよい。
そして、先述された位置関係は、例えば、図4で示されるように、一方の操作者(例えば操作者1042)が、他方の操作者(例えば操作者1041)よりも、テレビ1011に、より近くないか(左欄)、より近いか(右欄)(についての関係)でもよい。つまり、位置関係は、例えば、ある方向(方向Dz)における順序(より近くない順序か(左欄)、より近い順序か(右欄))でもよい。
同様に、位置関係は、方向Dx(表示領域1011Pの左右方向、水平方向)についての順序(図5参照)などでもよい。
また、あるレイアウト(例えば図3左欄)での、画面1011Sの個数(1個)が、他のレイアウト(図3右欄)での個数(1個)と異なってもよい。
また、あるレイアウト(例えば図4左欄)での、ある画面(例えば画面1012)のサイズ(例えば長さ1012zL)が、他のレイアウト(右欄)での、その画面(画面1012)のサイズ(長さ1012zR)と異なってもよい。
また、あるレイアウト(例えば図4左欄)における、一方の画面(例えば画面1012)のサイズ(長さ1012zL)と、他方の画面(画面1013)のサイズ(長さ1013zL)との間の比が、他のレイアウト(右欄)での、当該一方の画面のサイズ(長さ1012zR)と、当該他方の画面のサイズ(長さ1013zR)との間の比と異なってもよい。
また、あるレイアウト(例えば図5左欄)での、ある画面(例えば画面1012)の位置(比較的左側の位置)が、他のレイアウト(右欄)での、その画面の位置(比較的左側ではなく、右側である位置)と異なってもよい。
なお、あるレイアウト(画面1011Sの個数が複数であるレイアウト(図3右欄など))では、予め定められた方向(方向Dx、水平方向、横方向)についての互いに異なる複数の位置(図3右欄の位置P1、P2)の、複数の画面1011S(画面1012、1013)に、表示領域1011Pが分割されてもよい。なお、方向Dx以外の、例えば縦方向(鉛直方向、方向Dy)などの他の方向での分割がされてもよい(図略)。
また、あるレイアウトでは、ピクチャ・イン・ピクチャで、複数の画面1011Sの表示がされてもよい。
なお、レイアウトは、例えば、これらの、画面1011Sの個数(1個、2個…、図3参照)、サイズ(図4参照)などの各要素のうちの1又は複数により特定される、1以上の画面1011Sでの形式でもよい。つまり、複数のレイアウトからレイアウトが選択され、設定ることにより、複数の形式のうちで、選択されたレイアウトの形式が選択され、設定されてもよい。
なお、外部情報取得部2030、制御部2040等を含み、当該制御部2040により、レイアウトを特定するレイアウト情報を生成して、生成するレイアウト情報により特定されるレイアウトでの映像を生成させる集積回路2040x(図2)が構築されてもよい。
なお、先述された、壁への表示の例では、使用者(一方の使用者)の位置の前方の箇所に、当該使用者の画面が表示される。そして、この画面は、他の人(当該一方の使用者とは異なる他方の使用者)が有する、当該使用者(一方の使用者)の位置に対する相対位置(位置関係)が、比較的遠い第1の相対位置(第1の位置関係)である場合には、複数の画面の重なりが生じない、適切な画面である一方で、比較的近い第2の相対位置(第2の位置関係)である場合には、重なりが生じる、適切でない画面である。
このため、先述のように、壁への表示の例では、適切な表示が確実にできない。
これに対して、本映像生成装置(テレビ1011)においては、例えば、次の動作がされてもよい。
つまり、例えば、本映像生成装置は、家におけるリビングルームなどに設けられる、生成された映像を表示するテレビ(テレビ1011)などでもよい。
そして、予め定められた使用者は、そのリビングルームの中に居る、テレビ1011を視聴する、その家の複数の住人(例えば、図4の操作者1041、1042)のうちの一人(例えば操作者1041)などでもよい。そして、当該予め定められた使用者は、表示される、生成された映像を見ることにより、当該映像生成装置を使用してもよい。
そして、当該予め定められた使用者(操作者1041)によるジェスチャ操作がされる操作領域(画面1012)が表示されてもよい。
そして、当該使用者(操作者1041)以外の他の人(例えば操作者1042)が有する、当該使用者(操作者1041)の位置に対する相対位置(位置関係)が、第1の相対位置(図4左欄での、操作者1041より、テレビ1011に、より近くない相対位置(位置1042L))であるか(第1の位置関係)、第2の相対位置(右欄での、より近い相対位置(位置1042R))であるか(第2の位置関係)を特定する情報(例えば、操作者1041及び操作者1042の2つの位置情報:相対位置情報)が取得されてもよい(図10のS1、位置情報取得部2032)。
ここで、当該第1の相対位置(左欄)は、例えば、他の人(操作者1042)の相対位置が、当該第1の相対位置である場合には、当該使用者(操作者1041)の操作領域(画面1012)として、第1の領域(例えば、図4左欄の画面1012L)が表示されるのが適切である相対位置でもよく、第2の相対位置(右欄)は、第2の領域(画面1012R)が表示されるのが適切である相対位置でもよい。
そして、取得される当該相対位置情報により示される相対位置が、第1の相対位置である場合にのみ(図4左欄、S21:NO)、当該操作領域(画面1012)として第1の領域(左欄での画面1012L)が表示され(S22a、生成部2020x(図2))、第2の相対位置である場合には(右欄、S21:YES)、第2の領域(画面1012R)が表示されてもよい(S22b)。
これにより、単に、他の人(操作者1042)が第1の相対位置(図4左欄の位置1042L参照)を有する場合に適切な表示がされるだけに止まらず、第2の相対位置(右欄の位置1042R)を有する場合にも、第2の領域が表示されて、適切な表示がされる。これにより、他の人の位置(他の人の位置との間の相対的な位置関係)に関わらず、適切な表示がされて、確実に、適切な標示ができる。
つまり、例えば、第1の位置関係(図4左欄、第1の相対位置)のときに、当該第1の位置関係に適する第1の領域(画面1012L)が表示される第1のレイアウトが用いられるのと共に、第2の位置関係(右欄、第2の相対位置)のときに、当該第2の位置関係に適する第2の領域(画面1012R)が表示される第2のレイアウトが用いられて、適切な表示が確実にできてもよい。
なお、上述された、取得される相対位置情報は、例えば、当該他の人の位置を示すことにより、その位置までの、当該予め定められた操作者の位置からの距離、方向などを特定して、それらの位置の間の、相対的な位置関係を特定する情報などでもよい。
なお、こうして、ある場合における、表示領域1011Pの映像(図4左欄)に、操作者1041の画面1012L(図4左欄)が含まれる形式(長さ1012zL、画面1012Lの性質、属性、面積、長さ、大きさ、位置など)は、他の場合(右欄)における、当該操作者1041の画面1012Rが含まれる形式(長さ1012zR等)と異なってもよい。
こうして、本映像生成装置においては、複数の構成を備えることにより、適切な表示が確実にできる一方で、先述の、壁の例などでは、これらの構成の全部又は一部を欠き、適切な表示が確実にできない。この点で、本映像生成装置は、壁の例などの、考えられる他の技術とは相違する。
しかも、壁への表示の例などにおいては、そもそも、先述のように、他の人の相対位置が、近い第2の相対位置であることが少なく、また、相対位置を、遠い第1の相対位置へと遠ざけることが容易である。このため、上記のような、適切な表示が確実にできない問題が、実際には発生し難く、着目され難い。このため、当該問題を解決する構成を作ろうとすることには想到し難い。
なお、例えば、上述された、本映像生成装置の動作のうちの一部(または全部)は、ある局面においてのみ行なわれ、他の局面では行われなくてもよい。
つまり、このように、実施形態の映像生成装置は、例えば、家庭のリビングルームなどに設けられて、表示され、その家庭の住人などにより見られる映像を生成する、テレビ(テレビ1011)、又は、セットトップボックス(セットトップボックス1011T)などでもよい。
そして、予め定められた使用者(一方の使用者(図4の操作者1041)など)以外の他の人(他方の使用者(操作者1042)など)の位置を特定する位置情報が取得されてもよい。
そして、取得された位置情報により特定される、他の人の位置が、第1の位置(位置1042L、第1の位置関係、第1の相対位置)である場合には(図4左欄)、次の通りでもよい。つまり、その場合には、当該予め定められた使用者(操作者1041)によるジェスチャ操作がされる操作領域(画面1012)として、他の人の位置が、第1の位置(位置1042L)である場合に適する第1の領域(小さい長さ1012zLでの画面1012L)が表示される第1のレイアウトでの第1の映像(左欄の映像)が生成されてもよい。
そして、特定される、他の人の位置が、第2の位置(位置1042R、第2の位置関係、第2の相対位置)の場合には、次の通りでもよい。つまり、その場合には、当該使用者(操作者1041)の操作領域(画面1012)として、第2の位置の場合に適する第2の領域(大きい長さ1012zRの画面1012R)が表示される第2のレイアウトでの第2の映像が生成されてもよい。
これにより、他の人の位置(位置関係、相対位置)が、第2の位置(第2の位置関係、第2の相対位置)である場合にも、当該使用者(操作者1041)の操作領域(画面1012)として、第2の領域(画面1012R)が表示されることにより、適切な表示がされ、他の人(操作者1042)の位置(位置関係、相対位置)に関わらずに、確実に、適切な表示ができる。
そして、上記された第1の位置(位置1042L)は、当該使用者(操作者1041)の位置よりも、テレビ1011に、より近くない第1の範囲(左欄)内の位置でもよい。そして、例えば、第2の位置(位置1042R)は、当該使用者(操作者1041)の位置よりも、テレビ1011に、より近い第2の範囲(右欄)内の位置でもよい。
このように、第1の位置(位置1042L)は、当該予め定められた使用者(操作者1041)の位置から特定される、第1の領域が適切である第1の範囲内(第2の範囲外)の位置でもよい。そして、例えば、第2の位置(位置1042R)は、当該使用者の位置から特定される、第2の領域が適切である第2の範囲内の位置でもよい。
そして、上述された第1の位置関係(左欄)は、他の人の位置が、第1の範囲内である位置関係でもよく、第1の相対位置は、第1の範囲内の位置でもよい。そして、第2の位置関係(右欄)は、第2の範囲内での関係でもよく、第2の相対位置は、第2の範囲内での位置でもよい。
つまり、位置関係(相対位置)とは、他の人の位置が、第1の範囲内か、第2の範囲内かを特定する情報でもよい。当該情報は、例えば、他の人(操作者1042)の位置情報と、予め定められた使用者(操作者1041)の位置情報との2つの位置情報を含んでもよいし、当該使用者(操作者1041)が移動しないケースなどにおいては、他の人(操作者1042)の位置情報のみから構成されてもよいし、その他の構成が採用されてもよい。
そして、レイアウトを設定するとは、例えば、設定されるレイアウトのデータを生成することでもよい。そして、生成されるデータは、当該使用者(操作者1041)の操作領域(画面1012)として、上述された第1、第2の領域(画面1012L、1012R)のうちから、他の人の位置(位置1042L、1042R)が属する範囲(第1または第2の範囲)に対応した方の適切な領域を特定するデータでもよい。つまり、生成されるデータは、このことにより、特定される当該適切な領域(画面1012Lまたは1012R)が表示される映像(第1または第2の映像)を生成させるデータでもよい。
これにより、テレビ1011における、予め定められた使用者の操作領域(画面1012)として、当該使用者(操作者1041)以外の他の人(操作者1042)の位置に関わらずに、確実に、適切な領域(画面1012Lまたは1012R)が表示されて、確実に、適切な表示ができる。
図11は、操作者104の人数が3人以上であるケースを示す図である。
先述のように、操作者104の人数は、3人以上でもよい。また、表示領域1011Pに、3個以上の画面1011Sが表示されてもよい。
なお、図11では、一例として、操作者104の人数が3人であり、画面1011Sの個数が、3個であるケースが例示される。
図12は、表示の一例を示す図である。
例えば、ある局面などにおいて、次のような表示がされてもよい。
図12の左欄では、操作者1041の位置と、操作者1042の位置との間の位置関係が、操作者1041の位置の方が、より左側である位置関係である。
そして、図12の左欄では、操作者1041の画面1012が表示される箇所と、操作者1042の画面1013が表示される箇所との間の関係が、画面1012の箇所の方が、より左側である関係である。
一方で、図12の右欄での、操作者1041、1042の位置の間の位置関係は、左欄での位置関係とは異なり、操作者1041の位置の方が、より右側である位置関係である。
そして、図12の右欄での、画面1012、1013の箇所の間の関係は、画面1012の方が、より左側である関係で、左欄での関係と同じ関係に維持される。
つまり、画面1012、1013のレイアウト(先述)について、右欄でのレイアウトは、左欄でのレイアウトと同じレイアウトであり、同じレイアウトに維持される。
こうして、二人の操作者(操作者1041、1042)の間の位置関係が、異なる位置関係へと変化するにも関わらず、変化後(右欄)でのレイアウトが、変化前(左欄)でのレイアウトと同じであり、同じレイアウトに維持されてもよい。
なお、次の動作が行われてもよい。
つまり、図5、図12の例などでは、テレビ画面を、領域A(画面1012)と領域B(画面1013)とに2分割している状態が示される。
そして、ケース(1)としては、一方の領域Aを見ている操作者が1名であり、他方の領域Bを見ている操作者も1名であるケースが考えられる。
一方で、ケース(2)としては、領域Aを見ている操作者が2名であり、領域Bを見ている操作者が1名であるケースも考えられる。
そこで、上述のケース(1)では、操作者の位置が入れ替わった後に(図5の右欄)、図5で示される、画面を入れ替える動作がされてもよい。
そして、上述のケース(2)において、領域Aを見ている2名の操作者のうち、1名の操作者が位置を変えた後には、このような、図5で示される、画面を入れ替える動作がされないで、図12の動作がされ、画面の入れ替えがされなくてもよい。
つまり、例えば、次の動作が行われてもよい。
すなわち、上述のケース(2)のように、1つの領域(例えば領域A)が、2名(2名以上)の操作者により見られることがある。
そして、1つの領域を見る、それら2名の操作者のうちの一方の操作者の位置のみが変わり、他方の操作者の位置が変わらない場合がある。
もしも、この場合にまで、画面の入れ替え(図5参照)がされれば、他の操作者の位置が変わらないのに、入れ替えがされて、不適切な表示がされてしまう。
そこで、上述の場合か否かが判定されてもよい。
つまり、1つの領域(例えば領域A)が、2名の操作者により見られ(条件C1)、かつ、2名により見られた後に、それら2名の操作者のうちの一方の操作者の位置のみが変わった(条件C2)という場合であるか否かが判定されてもよい。
この判定は、例えば、先述された制御部2040により行われてもよい。
なお、上述の判定では、1つの領域(例えば領域A)が2名(2名以上)の操作者により見られ、複数の操作者が1つの同じ領域を見ているか否かを示す情報に基づいて行われてもよい。
この情報は、例えば、テレビ1011に設けられた、図6の視線情報検出部6001により取得された情報などでもよい。
なお、こうして、上述の判定に基づいて、画面の入れ替えがされるか否か(図5の動作がされるか、図12の動作がされるか)が切り替えられてもよい。
なお、こうして、条件(切り替え条件)に基づいて、画面の入れ替えがされるか(図5)、されないか(図12)が切り替えられてもよい。
図13は、テレビ1011などを示す図である。
テレビ1011は、複数のスピーカを備えてもよい。
複数のスピーカは、例えば、図13で示されるように、ステレオでの音の出力をするための2つのスピーカ1011a、1011bなどでもよい。
なお、図13では、図示の便宜上、これら2つのスピーカ1011a、1011bについて、模式的な図示がされる。
左側のスピーカ1011aは、図13に示される方向Dzの向きを向いて、テレビ1011の表示領域1011Pを見る際における、比較的左側の位置に設けられ、より左側の位置からの音4aを出力する。
右側のスピーカ1011bは、比較的右側の位置に設けられ、より右側の位置からの音4bを出力する。
そして、図13のケースでは、左側の位置1041Pの操作者1041と、右側の位置1042Pの操作者1042とがいる。
そして、左側の操作者1041の画面は、左側の画面1012であり、右側の操作者1042の画面は、右側の画面1013である。
そこで、左側の操作者1041により聞かれる、左側の画面1012の音は、左側の位置からの音4aとして、左側のスピーカ1011aにより出力されてもよい。
そして、右側の操作者1041により聞かれる、右側の画面1013の音は、右側の位置からの音4bとして、右側のスピーカ1011bにより出力されてもよい。
なお、このような動作をさせる制御が、制御部2040などにより行われてもよい。
こうして、それぞれの操作者の画面(画面1012、1013)の音が、2つのスピーカ1011a、1011bのうちの、その画面の操作者の位置に対応する方のスピーカ(スピーカ1011a、1011b)から出力されてもよい。
こうして、それぞれの音が、2つのスピーカ1011a、1011bのうちで、その音の画面の操作者の位置に対応する、適切な方のスピーカから出力されてもよい。
なお、次の動作がされてもよい。
つまり、音が鳴っているように感じられる場所である、その音の音像が定位する定位位置がある。
そこで、左側の画面1012の音の定位位置を、より左側にさせると共に、右側の画面1013の音の定位位置を、より右側にさせる制御がされてもよい。
具体的には、音が出力される際における、左側のスピーカ1011aでの出力と、右側のスピーカ1011bでの出力との間でのバランスがある。
つまり、左側の画面1012の音の出力における、このバランスは、左側のスピーカ1011aでの出力が、比較的大きいバランスにされてもよい。
そして、右側の画面1013の音の出力でのバランスは、左側のスピーカ1011aでの出力が、比較的小さいバランスにされてもよい。
こうして、音の出力に際して、2つのスピーカ1011a、1011bでの出力のバランスについて、その音を聞く操作者の位置に対応する適切なバランスでの出力がされてもよい。
例えば、こうして、操作者の位置に対応するバランスで出力がされることにより、定位位置が、そのバランスで出力がされる際の定位位置にされて、先述されたような、適切な定位位置での出力がされてもよい。
なお、次の動作が行われてもよい。
つまり、例えば、ある局面などでは、図4の右欄で示されるように、一方の操作者1041から、テレビ1011までの距離が比較的遠い一方で、他方の操作者1042の、テレビ1011までの距離が比較的近くてもよい。
そこで、遠い距離の操作者1041の画面1012の音としては、より大きな音(より大きなボリュームでの音、より大きな増幅幅の増幅での音)が出力されてもよい。
そして、より近い距離の操作者1042の画面1013の音としては、より小さな音が出力されてもよい。
このような動作をさせる制御が、制御部2040などによりされてもよい。
こうして、それぞれの画面(画面1012、1013)の音として、その画面の操作者の位置に対応する適切な大きさの音が出力されてもよい。
このようにして、画面の音が出力されるのに際して、その出力が制御されてもよい。
そして、それぞれの画面の音の出力に際して、複数の制御のうちで、その画面(例えば画面1012)の操作者(操作者1041)の位置に対応する適切な制御がされてもよい。
なお、図12右欄での表示がされる場合などに、次の動作がされてもよい。
つまり、複数の画面(図12の例では画面1012、1013)のうちから1の画面(画面1013)が特定されてもよい。
つまり、複数の操作者(操作者1041、1042)のうちから、1の操作者(操作者1042)が、位置104Pが検出された操作者104xと同じ操作者として特定されてもよい。
そして、先述のように、それぞれの操作者と、その操作者の画面との間の対応関係が、操作者情報保持部2043などにより記憶されてもよい。
そして、特定された操作者(操作者1042)に対応付けられた画面(画面1013)が特定されてもよい。
そして、検出された位置104Pでの、その位置104Pの操作者104xのジェスチャ操作が、特定された画面(画面1013)に対する操作と特定されてもよい。
これにより、ジェスチャ操作(位置104Pでのジェスチャ操作)が、適切な画面(画面1013)に対する操作と特定されて、適切な処理ができる。
具体的には、位置104Pが検出された操作者104xの外観の特徴が表れた画像が撮像されてもよい(図2のジェスチャ認識センサ1021を参照)。
そして、複数の操作者のうちのそれぞれの操作者の特徴を特定するデータが、制御部2040などにより記憶されてもよい。
そして、撮像された画像に表れた、位置104Pの操作者104xの特徴と同じ特徴の操作者が、上述された1の操作者として特定されてもよい。
なお、このような処理は、いわゆる画像認識処理でもよい。
なお、近年では、デジタルスチルカメラなどでも、画像認識処理がされることがある。本技術での画像認識処理は、例えば、単なる、デジタルスチルカメラでの処理が流用されただけのものなどでもよい。
また、位置104Pが検出された操作者104xの、その検出がされた時刻(図12右欄の時刻)よりも前の時刻(左欄の時刻)での位置(位置1042L)が特定されてもよい。
そして、複数の操作者(操作者1041、1042)のうちで、特定された位置(1042L)に、上述された前の時刻(左欄の時刻)にいた操作者(操作者1042)が、先述の1の操作者として特定されてもよい。
なお、実施の形態に基づいて説明したが、本発明はこれらの実施の形態に限定されるものではない。実施の形態に対して当業者が思いつく変形を施して得られる形態も本発明に含まれる。また、複数の実施の形態で説明された複数の要素などの、互いに離れた箇所で説明された複数の要素を任意に組み合わせて実現される形態も本発明に含まれる。
また、本発明は、装置として実現できるだけでなく、当該装置を構成する処理手段をステップとする方法として実現できる。そして、本発明は、それらステップをコンピュータに実行させるプログラムとして実現できる。更に、本発明は、そのプログラムを記憶したコンピュータ読み取り可能なCD−ROM等の記憶媒体として実現できる。また、上記の機能が実装された集積回路としても実現できる。
テレビ画面を分割し、複数の操作者に割り当てる場合に、操作者の位置関係、画面との距離、操作者の位置入れ替わり等に応じて、分割画面の表示位置・サイズを適切に制御することが可能となり、しかも、複数の使用者の位置関係に関わらずに、確実に、適切な表示ができる。
1001 テレビ操作システム
1011 テレビ
1012、1013 画面
1021 ジェスチャ認識センサ
1031 ジェスチャ認識範囲
1041、1042 操作者
2010 放送処理部
2011 放送受信部
2012 映像音声デコーダ部
2020 画面出力部
2020x 生成部
2021 音声出力部
2030 外部情報取得部
2031 ジェスチャ認識部
2032 位置情報取得部
2040 制御部
2041 画面レイアウト設定部
2042 ジェスチャ操作領域設定部
2043 操作者情報保持部
2050 放送波
2060 ジェスチャ操作
6001 視線情報検出部
7001 第3の操作者
8001 リソース情報取得部
10211 位置情報

Claims (13)

  1. ジェスチャ操作を行う複数の操作者の位置を示す位置情報を取得する情報取得部と、
    映像のレイアウトを、取得された複数の前記位置情報により示される複数の前記位置の間の相対的な位置関係に基づいて設定し、設定された、前記位置関係に対応した前記レイアウトによる前記映像を生成する映像生成部とを備える映像生成装置。
  2. 前記情報取得部は、複数の使用者を撮像すると共に、撮像結果から、それぞれの前記使用者のジェスチャ操作及び、当該使用者による前記ジェスチャ操作の位置の前記位置情報を取得し、
    生成された前記映像の表示を行う表示部を備え、
    当該映像生成装置は、生成された前記映像を、前記表示部により表示する表示装置であり、
    前記映像生成部は、
    前記ジェスチャ操作によって操作可能な操作領域を、生成された前記映像が表示される、前記表示部における表示領域に設定し、
    前記表示領域に対し、取得した前記ジェスチャ操作の数に応じて、前記操作領域を複数個、設定すると共に、当該操作領域の、前記表示領域に対する表示位置及び、表示サイズを、前記位置情報に基づいて変更する請求項1記載の映像生成装置。
  3. 前記映像生成部は、前記情報取得部が、前記使用者の前記位置情報の変化を検出した場合に、当該位置情報の変化が検出された当該使用者によりジェスチャ操作がされる前記操作領域の表示サイズを再設定する請求項2記載の映像生成装置。
  4. 前記情報取得部は、前記使用者の、前記表示領域に対する視線情報を検出し、
    前記映像生成部は、検出された前記視線情報に基づき、前記表示領域に対する前記操作領域の設定個数を変更する請求項2記載の映像生成装置。
  5. 前記映像生成装置は、CPU(Central Processing Unit)及び映像デコーダの利用状況に関するリソース情報を取得するリソース情報取得部を備え、
    前記映像生成部は、取得された前記リソース情報に基づき、前記操作領域の、前記表示領域に対する表示サイズ、又は、設定個数を変更する請求項2記載の映像生成装置。
  6. 前記操作領域の個数が複数個である場合に設定される前記レイアウトは、予め定められた方向についての、互いに異なる複数の位置の、複数の前記操作領域に、前記表示領域が分割されるレイアウトである請求項2記載の映像生成装置。
  7. 当該映像生成装置は、当該映像生成装置の外部に設けられたテレビの表示領域に、生成される前記映像を表示させるセットトップボックスである請求項2記載の映像生成装置。
  8. 前記映像生成部は、それぞれの前記操作領域が、複数の前記レイアウトのうちの、取得された複数の前記位置情報での前記位置関係に対応する前記レイアウトにおける、その操作領域の前記表示位置及び、前記表示サイズで含まれる前記映像を生成する請求項2記載の映像生成装置。
  9. 生成される前記映像は、予め定められた条件が満たされる場合にのみ、前記位置関係に対応する前記レイアウトでの映像であり、満たされない場合には、他のレイアウトでの映像であり、
    前記他のレイアウトでの前記映像は、当該映像が生成されるよりも前に生成された映像でのレイアウトと同じレイアウトでの映像である請求項1記載の映像生成装置。
  10. 前記映像生成部は、
    複数の前記位置の前記位置関係が第1の位置関係で、第1のレイアウトでの第1の前記映像が生成される場合には、予め定められた音が出力されるのを制御する際に、第1の位置関係の場合に適する第1の制御を行い、
    第2の位置関係で、第2のレイアウトでの第2の前記映像が生成される場合には、第2の位置関係の場合に適する第2の制御を行う請求項1記載の映像生成装置。
  11. 前記第1の制御は、前記予め定められた音を、2つのスピーカのうちの一方の前記スピーカで出力させる制御であり、
    前記第2の制御は、他方の前記スピーカで出力させる制御である請求項10記載の映像生成装置。
  12. ジェスチャ操作を行う複数の操作者の位置を示す位置情報を取得する情報取得工程と、
    映像のレイアウトを、取得された複数の前記位置情報により示される複数の前記位置の間の相対的な位置関係に基づいて設定し、設定された、前記位置関係に対応した前記レイアウトによる前記映像を生成する映像生成工程とを含む映像生成方法。
  13. ジェスチャ操作を行う複数の操作者の位置を示す位置情報を取得する情報取得部と、
    映像のレイアウトを、取得された複数の前記位置情報により示される複数の前記位置の間の相対的な位置関係に基づいて設定し、設定する当該レイアウトを特定するレイアウト情報を出力する制御部とを備える集積回路。
JP2012519251A 2010-06-08 2011-06-08 映像生成装置、方法及び集積回路 Expired - Fee Related JP5138833B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012519251A JP5138833B2 (ja) 2010-06-08 2011-06-08 映像生成装置、方法及び集積回路

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010131541 2010-06-08
JP2010131541 2010-06-08
PCT/JP2011/003227 WO2011155192A1 (ja) 2010-06-08 2011-06-08 映像生成装置、方法及び集積回路
JP2012519251A JP5138833B2 (ja) 2010-06-08 2011-06-08 映像生成装置、方法及び集積回路

Publications (2)

Publication Number Publication Date
JP5138833B2 JP5138833B2 (ja) 2013-02-06
JPWO2011155192A1 true JPWO2011155192A1 (ja) 2013-08-01

Family

ID=45097807

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012519251A Expired - Fee Related JP5138833B2 (ja) 2010-06-08 2011-06-08 映像生成装置、方法及び集積回路

Country Status (3)

Country Link
US (1) US20130093670A1 (ja)
JP (1) JP5138833B2 (ja)
WO (1) WO2011155192A1 (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013054643A (ja) * 2011-09-06 2013-03-21 Toshiba Tec Corp 情報表示装置およびプログラム
CA2791935A1 (en) * 2012-03-30 2013-09-30 Disternet Technology, Inc. Transcoding system and method
KR101984683B1 (ko) * 2012-10-10 2019-05-31 삼성전자주식회사 멀티 디스플레이 장치 및 그 제어 방법
KR102063952B1 (ko) * 2012-10-10 2020-01-08 삼성전자주식회사 멀티 디스플레이 장치 및 멀티 디스플레이 방법
KR102061881B1 (ko) * 2012-10-10 2020-01-06 삼성전자주식회사 멀티 디스플레이 장치 및 그 디스플레이 제어 방법
US20150212647A1 (en) 2012-10-10 2015-07-30 Samsung Electronics Co., Ltd. Head mounted display apparatus and method for displaying a content
JP5575294B1 (ja) * 2013-03-26 2014-08-20 シャープ株式会社 表示装置、テレビジョン受像機、表示方法、プログラム、及び、記録媒体
US9531992B2 (en) * 2013-03-26 2016-12-27 Sharp Kabushiki Kaisha Display apparatus, portable terminal, television receiver, display method, program, and recording medium
JP5623580B2 (ja) * 2013-03-26 2014-11-12 シャープ株式会社 表示装置、テレビジョン受像機、表示方法、プログラム、及び、記録媒体
TWI520610B (zh) * 2013-08-01 2016-02-01 晨星半導體股份有限公司 電視控制裝置與相關方法
CN104202640B (zh) * 2014-08-28 2016-03-30 深圳市国华识别科技开发有限公司 基于图像识别的智能电视交互控制系统和方法
US10462517B2 (en) * 2014-11-04 2019-10-29 Sony Corporation Information processing apparatus, communication system, and information processing method
EP3234752B1 (en) 2014-12-19 2019-02-20 Abb Ab Automatic configuration system for an operator console
US20180046254A1 (en) * 2015-04-20 2018-02-15 Mitsubishi Electric Corporation Information display device and information display method
JP6230666B2 (ja) * 2016-06-30 2017-11-15 シャープ株式会社 データ入力装置、データ入力方法、及びデータ入力プログラム
US10491940B1 (en) 2018-08-23 2019-11-26 Rovi Guides, Inc. Systems and methods for displaying multiple media assets for a plurality of users
EP3641319A1 (en) 2018-10-16 2020-04-22 Koninklijke Philips N.V. Displaying content on a display unit
JP2023041339A (ja) * 2021-09-13 2023-03-24 マクセル株式会社 空間浮遊映像情報表示システムおよびそれに用いられる立体センシング装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001061116A (ja) * 1999-08-19 2001-03-06 Matsushita Electric Ind Co Ltd 多画面表示装置
JP2001094900A (ja) * 1999-09-21 2001-04-06 Matsushita Electric Ind Co Ltd 画面表示方法
US7227526B2 (en) * 2000-07-24 2007-06-05 Gesturetek, Inc. Video-based image control system
US7411575B2 (en) * 2003-09-16 2008-08-12 Smart Technologies Ulc Gesture recognition method and touch system incorporating the same
JP2006086717A (ja) * 2004-09-15 2006-03-30 Olympus Corp 画像表示システム、画像再生装置及びレイアウト制御装置
JP2006094056A (ja) * 2004-09-22 2006-04-06 Olympus Corp 画像表示システム、画像再生装置及びサーバ装置
WO2007116662A1 (ja) * 2006-03-27 2007-10-18 Pioneer Corporation 電子装置及びその操作方法
WO2008081512A1 (ja) * 2006-12-27 2008-07-10 Fujitsu Limited 制御装置、情報機器、制御方法、およびプログラム
JP2009065292A (ja) * 2007-09-04 2009-03-26 Sony Corp 番組同時視聴システム、番組同時視聴方法及び番組同時視聴プログラム
JP4907483B2 (ja) * 2007-09-28 2012-03-28 パナソニック株式会社 映像表示装置

Also Published As

Publication number Publication date
US20130093670A1 (en) 2013-04-18
WO2011155192A1 (ja) 2011-12-15
JP5138833B2 (ja) 2013-02-06

Similar Documents

Publication Publication Date Title
JP5138833B2 (ja) 映像生成装置、方法及び集積回路
CN111034207B (zh) 图像显示设备
US11449297B2 (en) Image display apparatus
US10474322B2 (en) Image display apparatus
KR20090032658A (ko) Gui 제공방법 및 이를 적용한 영상기기
JP2004318121A (ja) 表示制御装置及び表示システム及びtv装置
CN108738374B (zh) 图像显示装置
KR20160060846A (ko) 디스플레이 장치 및 디스플레이 방법
JP2007013725A (ja) 映像表示装置及び映像表示方法
US11917329B2 (en) Display device and video communication data processing method
EP3156908A1 (en) User terminal, method for controlling same, and multimedia system
KR102313306B1 (ko) 영상표시장치, 및 이동 단말기
CN109792576B (zh) 图像显示设备
JP2010016734A (ja) 遠隔装置、遠隔制御方法、プログラム、および表示制御装置
EP3525453A1 (en) Display device
US8799958B2 (en) Video processing apparatus and method of controlling the same
US9621837B1 (en) Methods and devices for switching between different TV program accompanying sounds
KR20160009415A (ko) 외부 입력장치와 컨텐츠 연동이 가능한 영상표시장치
JP2009055476A (ja) 番組同時視聴システム、番組同時視聴方法及び番組同時視聴プログラム
US20230247247A1 (en) Image display apparatus
EP4354884A1 (en) Image display device and image display system comprising same
JP2008042466A (ja) 子画面表示装置
US20160062479A1 (en) Image display apparatus and method for operating the same
KR20170008071A (ko) 디스플레이 장치 및 그의 동작 방법
KR20230116662A (ko) 영상표시장치

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121106

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121114

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151122

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees