JPWO2007013652A1 - 画像表示制御装置、画像表示装置、遠隔操作器、画像表示システム - Google Patents

画像表示制御装置、画像表示装置、遠隔操作器、画像表示システム Download PDF

Info

Publication number
JPWO2007013652A1
JPWO2007013652A1 JP2007526938A JP2007526938A JPWO2007013652A1 JP WO2007013652 A1 JPWO2007013652 A1 JP WO2007013652A1 JP 2007526938 A JP2007526938 A JP 2007526938A JP 2007526938 A JP2007526938 A JP 2007526938A JP WO2007013652 A1 JPWO2007013652 A1 JP WO2007013652A1
Authority
JP
Japan
Prior art keywords
unit
image display
signal
display
light beam
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007526938A
Other languages
English (en)
Other versions
JP4712804B2 (ja
Inventor
直明 堀内
直明 堀内
敏雄 田畑
敏雄 田畑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pioneer Corp
Original Assignee
Pioneer Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pioneer Corp filed Critical Pioneer Corp
Priority to JP2007526938A priority Critical patent/JP4712804B2/ja
Publication of JPWO2007013652A1 publication Critical patent/JPWO2007013652A1/ja
Application granted granted Critical
Publication of JP4712804B2 publication Critical patent/JP4712804B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/482End-user interface for program selection
    • H04N21/4821End-user interface for program selection using a grid, e.g. sorted out by channel and broadcast time
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440263Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the spatial resolution, e.g. for displaying on a connected PDA
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213Monitoring of end-user related data
    • H04N21/44218Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/454Content or additional data filtering, e.g. blocking advertisements
    • H04N21/4545Input to filtering algorithms, e.g. filtering a region of the image
    • H04N21/45455Input to filtering algorithms, e.g. filtering a region of the image applied to a region of the image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N21/42206User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
    • H04N21/42222Additional components integrated in the remote control device, e.g. timer, speaker, sensors for detecting position, direction or movement of the remote control, microphone or battery charging device

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Social Psychology (AREA)
  • Databases & Information Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Details Of Television Systems (AREA)
  • Selective Calling Equipment (AREA)
  • Position Input By Displaying (AREA)

Abstract

【課題】表示画面から目を離すことなく所望の操作指定部位を容易に選択指定可能とし、遠隔操作時における操作者の利便性を向上する。【解決手段】画像表示制御装置100は、画像表示装置1の液晶表示部3上に、操作メニューMEを表示させるためのメニュー作成部154と、遠隔操作器200から到来する赤外線信号を認識可能な赤外線フィルタ付きカメラ110と、この認識結果に基づき、遠隔操作器200が撮像中において占める位置を特定するリモコン位置特定部155と、この特定した遠隔操作器200の位置を液晶表示部3上に表示させるリモコン位置信号作成部156と、液晶表示部3上に表示された操作メニューMEのうち操作指定部位を決定するユーザー操作判定部152とを有する。

Description

本発明は、表示画面における表示制御を行う画像表示制御装置に係わり、特に、遠隔操作によって表示制御を行う画像表示制御装置、画像表示装置、及び画像表示システム、並びにそれらに用いる遠隔操作器に関する。
元来、離れた場所から例えばテレビ等の画像表示装置の動作を操作するために、携帯型の遠隔操作器(いわゆるリモコン)がよく知られている。遠隔操作時には、例えば画像表示装置の表示画面に、複数の操作指定部位(操作領域)を一覧配置した操作対象図象(操作メニュー)を表示させ、遠隔操作器の操作ボタンを操作することで上記操作対象図象中の複数の操作指定部位のうちひとつを選択指定することで、これに対応した動作(チャンネル切替、音声切替等)を当該画像表示装置にて実行することができる。
また、上記の画像表示装置自体に限られず、テレビ等に接続されて当該テレビ等への映像出力やさらに音楽等コンテンツの再生出力を行う、ビデオデッキ、DVDプレイヤー/レコーダー、CDプレイヤー/レコーダー、MDプレイヤー/レコーダー等の映像出力装置、コンテンツ再生装置、その他画像表示装置へ映像出力機能を備えた製品(以下適宜、映像出力装置等という)に関しても、上記同様、遠隔操作を行うことができる。すなわち、それら映像出力装置等に対し遠隔操作を行うことで、これに接続された画像表示装置の表示画面に、当該映像出力装置等に関わる複数の操作指定部位(操作領域)を備えた操作対象図象(操作メニュー)を一覧表示させる。そしてそれら複数の操作指定部位のうちひとつを選択指定することで、その選択指定した映像出力装置等の動作(映像再生、予約録画等)を実行することができる。
ところが、上記のように操作指定部位を選択指定する際には、操作者は、まず表示画面を見て現在の選択指定位置(カーソル位置等)から自己の所望する操作指定部位(操作領域)がどちら側の方向に位置するかを確認した後、手元の遠隔操作器に目を移して上記選択指定位置を移動させるべき方向への操作ボタンを押し、さらに表示画面に目を戻して上記遠隔操作器の操作によって選択指定位置が確かに上記所望の操作指定部位へ移動し当該操作指定部位が確かに選択指定されたかどうかを確認し、移動不十分の場合は再び手元の遠隔操作器に目を移して同様の手順を繰り返さなければならない。このように、視線を何度も移しながらの非常に煩雑で面倒な操作が必要となる結果、操作者にとって利便性の低い不便なものとなっていた。
そこで、このような点に対応し、近年、操作者による遠隔操作性の向上を図るために、例えば特許文献1や特許文献2に記載の技術が既に提唱されている。
特許文献1記載の従来技術では、撮影手段としてのカメラと、このカメラで撮影された画像の動きを検出する動き検出器と、この動き検出器で検出した画像の動き及び/又は形状を認識する画像認識器とを有する制御装置が開示されている。操作者が所定のパターンにしたがって指を動かす(=ジェスチャー)と、カメラで撮影されたその指の動きが動き検出器によって検出され、さらに画像認識器で当該動きや形状の変化が認識されて、被操作機器に対しそのパターンに対応した制御が行われる。これにより、操作者は遠隔操作器を用いることなく、被操作機器に対し所望の操作を行えるようになっている。
特許文献2記載の従来技術では、赤外線リモコンと、イメージセンサと、ジェスチャー同定手段とを有する遠隔制御システムが開示されている。操作者が所定のパターンにしたがって赤外線リモコンを振り回す(=ジェスチャー)ことにより、イメージセンサを介して取得されたリモコンの動いた方向と加速度とに基づき、ジェスチャー同定手段でそのジェスチャーが同定され、ネットワークを介して被操作機器に対しそのパターンに対応した制御が行われる。これにより、操作者は被操作機器に対し所望の操作を行えるようになっている。
特開2001−5975号公報(段落番号0013〜0027、図1〜図9) 特開2004−178469号公報(段落番号0013〜0063、図1〜図15)
特許文献1及び特許文献2に記載の従来技術では、例えば、被操作機器を遠隔操作する際、操作者が実行したい操作とこれに対応するジェスチャーとの関連付け(=どのように指やリモコンを動かしたときにどのような操作が実行されるか)を予め覚えておく必要がある。また覚えていない操作については上記関連付けを別途参照しなければならない。このため、結局、操作者の負担が大きくならざるを得ず、操作者にとって利便性の低い不便なものとなっていた。
なお、上記した赤外線通信や無線通信を介した操作器以外に、被操作器側と有線(ケーブル)等によって接続されて離れたところから操作する操作器(いわゆるペンダント方式)においても、前述したのと同様、例えば視線を何度も移しながらの非常に煩雑で面倒な操作が必要で利便性が低く不便であるという問題があった。
本発明の目的は、操作者は、表示画面から目を離すことなく所望の操作指定部位を容易に選択指定可能とすることで、操作時における操作者の利便性を向上できる画像表示制御装置、画像表示装置、及び画像表示システム、並びにそれらに用いる遠隔操作器を提供することにある。
上記目的を達成するために、請求項1記載の発明は、画像表示装置に備えられた表示画面上に、操作対象図象を表示させるための図象表示信号を生成する図象表示信号生成手段と、携帯型の操作器の背景から到来する第1光線とは異なる態様又は属性を備え、前記操作器から到来する第2光線を、前記第1光線と区別して認識可能な第2光線撮像手段と、この第2光線撮像手段における前記第2光線の認識結果に基づき、前記操作器が前記第2光線撮像手段による撮像中において占める位置を特定する位置特定手段と、この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させるための位置表示信号を生成する位置表示信号生成手段と、前記位置特定手段で特定した前記操作器の位置に基づき、前記表示画面上に表示された前記操作対象図象のうち操作指定部位を決定する操作部位決定手段とを有することを特徴とする。
上記目的を達成するために、請求項21記載の発明は、表示画面と、この表示画面上に、操作対象図象を表示させる図象表示制御手段と、携帯型の操作器の背景から到来する第1光線とは異なる態様又は属性を備え、前記操作器から到来する第2光線を、前記第1光線と区別して認識可能な第2光線撮像手段と、この第2光線撮像手段における前記第2光線の認識結果に基づき、前記操作器が前記第2光線撮像手段による撮像中において占める位置を特定する位置特定手段と、この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させる位置表示制御手段と、前記位置特定手段で特定した前記操作器の位置に基づき、前記表示画面上に表示された前記操作対象図象のうち操作指定部位を決定する操作部位決定手段とを有することを特徴とする。
上記目的を達成するために、請求項22記載の発明は、画像表示操作を行うための携帯型の遠隔操作器であって、通常の可視光線とは異なる態様又は属性の光信号を生成する光信号生成手段と、この光信号生成手段で生成した前記光信号を、当該光信号を前記通常の可視光線と区別して認識可能な第2光線撮像手段;表示画面上に操作対象図象を表示させるための信号を生成する第1手段;前記第2光線撮像手段における前記光信号の認識結果に基づき、前記遠隔操作器の背景の映像中において前記遠隔操作器が前記第2光線撮像手段による撮像中において占める位置を特定し前記表示画面上に表示させるための信号を生成する第2手段;前記特定された前記遠隔操作器の位置に基づき、前記表示画面上に表示された前記操作対象図象のうち操作指定部位を決定して表示するための信号を生成する第3手段;を備えた画像表示制御装置へ送信する光信号送信手段とを有することを特徴とする。
上記目的を達成するために、請求項23記載の発明は、携帯型の操作器と、この操作器の操作に基づき画像表示を行うための信号を生成する画像表示制御装置とを有する画像表示システムであって、前記画像表示制御装置は、画像表示装置に備えられた表示画面上に、操作対象図象を表示させるための図象表示信号を生成する図象表示信号生成手段と、前記操作器の背景から到来する第1光線とは異なる態様又は属性を備え、前記操作器から到来する第2光線を、前記第1光線と区別して認識可能な第2光線撮像手段と、この第2光線撮像手段における前記第2光線の認識結果に基づき、前記操作器が第2光線撮像手段による撮像中において占める位置を特定する位置特定手段と、この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させるための位置表示信号を生成する位置表示信号生成手段と、前記位置特定手段で特定した前記操作器の位置に基づき、前記表示画面上に表示された前記操作対象図象のうち操作指定部位を決定する操作部位決定手段とを有することを特徴とする。
上記目的を達成するために、請求項24記載の発明の画像表示システムは、携帯型の操作器と、画像表示装置に備えられた表示画面上に、操作対象図象を表示させるための図象表示信号を生成する図象表示信号生成手段と、前記操作器の背景から到来する第1光線とは異なる態様又は属性を備え、前記操作器から到来する第2光線を、前記第1光線と区別して認識可能な第2光線撮像手段と、この第2光線撮像手段における前記第2光線の認識結果に基づき、前記操作器が前記第2光線撮像手段による撮像中において占める位置を特定する位置特定手段と、この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させるための位置表示信号を生成する位置表示信号生成手段と、前記位置特定手段で特定した前記操作器の位置に基づき、前記操作対象図象のうち操作指定部位を決定する操作部位決定手段とを有することを特徴とする。
本発明の一実施形態による画像表示システムのシステム構成図である。 図1に示された遠隔操作器の機能的構成を表す機能ブロック図である。 図1に示された画像表示制御装置の機能的構成を表す機能ブロック図である。 液晶表示部の表示の一例を表す図である。 液晶表示部の表示の一例を表す図である。 液晶表示部の表示の一例を表す図である。 液晶表示部の表示の一例を表す図である。 液晶表示部の表示の一例を表す図である。 操作領域決定をジェスチャーで指示する変形例の画像表示システムにおいて、液晶表示部の表示の一例を表す図である。 図9に示す変形例における画像表示制御装置の機能的構成を表す機能ブロック図である。 赤外線フィルタ付カメラがリモコン指示操作を受け取る変形例の機能的構成を表す機能ブロック図である。 コールドミラーを用いる変形例における画像表示制御装置の機能的構成を表す機能ブロック図である。 位置補正を行う変形例における画像表示制御装置の機能的構成の一例を表す機能ブロック図である。 位置補正の様子を表す説明図である。 位置補正を行う他の変形例における画像表示制御装置の機能的構成の一例を表す機能ブロック図である。 赤外線高感度カメラを用いる変形例における当該赤外線高感度カメラのもつ感度特性の一例を表す特性図である。 図16に示す変形例における画像表示制御装置の機能的構成を表す機能ブロック図である。 距離に応じ表示倍率の変化を行う変形例における手法の概略を説明するための説明図である。 距離に応じ表示倍率の変化を行う変形例における手法の概略を説明するための説明図である。 距離に応じ表示倍率の変化を行う変形例における手法の概略を説明するための説明図である。 距離に応じ表示倍率の変化を行う変形例における手法の概略を説明するための説明図である。 距離に応じ表示倍率の変化を行う変形例における手法の概略を説明するための説明図である。 画像表示制御装置の機能的構成を表す機能ブロック図である。 切り出し処理部の詳細構成を表す機能ブロック図である。 切り出し処理部全体で実行する制御手順を表すフローチャートである。 ステップS50の詳細手順を表すフローチャートである。 操作者が操作範囲を自ら設定する変形例における切り出し処理部の機能的構成を表す機能ブロック図である。 入力画像における図形の大きさから距離を計算する手法を説明するための説明図である。 障害物回避のために切り出し領域を変更する変形例の概略を説明するための説明図である。 障害物となりうる物をデータベース化して登録しておく手法を説明するための説明図である。 障害物回避のためにメニュー表示領域をずらす変形例の概略を説明するための説明図である。 画像表示制御装置の機能的構成を表す機能ブロック図である。 切り出し処理部及び2次映像合成部の詳細構成を、障害物判定部とともに表す機能ブロック図である。 切り出し処理部、2次映像合成部、及び障害物判定部の全体で実行する制御手順を表すフローチャートである。 障害物越しの操作感を得られるように延長補完する変形例の概略を説明するための説明図である。 画像表示制御装置の機能的構成を表す機能ブロック図である。 補完信号生成部が実行する制御手順を表すフローチャートである。 延長線の引き方を概念的に説明するための説明図である。 障害物越しの操作感を得られるように中間部補完を行う変形例の概略を説明するための説明図である。 蓄積コンテンツの再生位置指定に応用した変形例において、画像表示装置の液晶表示部の表示の一例を表す図である。 図40に示す変形例における画像表示制御装置の機能的構成を表す機能ブロック図である。 液晶表示部の表示の他の例を表す図である。 EPGに適用した変形例において、画像表示装置の液晶表示部の表示の一例を表す図である。 図43に示す変形例における画像表示制御装置の機能的構成を表す機能ブロック図である。 実写画像を省略する変形例において、画像表示装置の液晶表示部の表示の一例を表す図である。 図45に示す変形例における画像表示制御装置の機能的構成を表す機能ブロック図である。 有線接続の操作器を用いた変形例における画像表示制御装置の機能的構成の一例を表す機能ブロック図である。 操作メニュー等から選択指定できる範囲を制限する変形例の液晶表示部の表示例を表す図である。 すべての操作領域を遠隔操作器の狭い移動範囲で選択可能とした変形例の液晶表示部の表示例を表す図である。
符号の説明
1 画像表示装置
3 液晶表示部(表示画面)
100 画像表示制御装置
110 赤外線フィルタ付きカメラ(第2光線撮像手段)
110A 赤外線高感度カメラ(第2光線撮像手段)
110Aa 撮像部(第1光線撮像手段)
110Ab 映像信号生成部(映像表示信号生成手段)
115 距離検出部(距離検出手段)
120 カメラ
120a 撮像部(第1光線撮像手段)
120b 映像信号生成部(映像表示信号生成手段)
151 ユーザー指示入力部(指示信号入力手段)
152 ユーザー操作判定部(操作部位決定手段)
154 メニュー作成部(図象表示信号生成手段)
154B コンテンツ表示作成部(図象表示信号生成手段)
155 リモコン位置特定部(位置特定手段)
156 リモコン位置信号作成部(位置表示信号生成手段)
165 補完信号生成部(予想位置設定手段)
180 切り出し処理部(抽出処理手段)
180A 切り出し処理部(抽出処理手段)
180B 切り出し処理部(抽出処理手段)
183 補完拡大切り出し部(予想位置設定手段)
195A 2次映像合成部(図象位置設定手段)
200 遠隔操作器
200A 操作器
202 赤外線駆動部(光信号送信手段)
203 発信器(光信号生成手段)
204 パルス変調器(光信号生成手段)
206 FM変調器(光信号生成手段)
BG 背景
CT コンテンツ表示(操作対象図象)
MA 位置表示
ME 操作メニュー(操作対象図象)
以下、本発明の一実施の形態を図面を参照しつつ説明する。
図1は、本実施形態による画像表示システムのシステム構成図である。図1において、この画像表示システムは、画像表示装置1と、この画像表示装置1において画像表示を行うための信号を生成する画像表示制御装置100と、この画像表示制御装置100を遠隔操作するための携帯型の遠隔操作器(リモートコントロール端末)200とを有している。
画像表示装置1は、例えば液晶テレビジョンであり、テレビジョン本体2の前面に液晶表示部3(表示画面)が設けられている。なお、公知の構成で足りるため詳細な図示及び説明は省略するが、テレビジョン本体2内には、例えば液晶表示部3で映し出すための映像電波を受信する公知のチャンネルチューナや、受信した電波から映像信号や音声信号を復調する復調手段等が設けられている。
遠隔操作器200は、各種操作キーを備えた操作部201と、発光素子として例えば赤外線発光ダイオードを設けた赤外線駆動部(赤外線発光部)202とを有している。
図2は、上記遠隔操作器200の機能的構成を表す機能ブロック図である。この図2及び前述の図1において、遠隔操作器200は、識別コード(詳細は後述)の搬送波周波数を発振する発振器203と、パルス変調器204と、遠隔操作器200全体の動作を制御するCPU205と、上記操作部201と、FM変調器206と、送信手段である上記赤外線駆動部202と、CPU205の動作プログラム等が記憶されたROM207と、RAM208とを備えている。
上記構成において、CPU205からの制御信号に基づき、発振器203から所定(例えば38kHz)の搬送波周波数が発振され、パルス変調器204に出力される。一方CPU205が、操作部201の操作に対応するコマンド(識別コード)をRAM207から読み出し、パルス変調器204に供給する。パルス変調器204は、上記CPU205から供給された識別コードで上記発信器203からの搬送波周波数をパルス変調し、パルス変調信号をFM変調器206に供給する。FM変調器206は、信号をFM変調した後、そのFM変調信号を赤外線駆動部202に供給する。赤外線駆動部202は、FM変調器206から供給されるFM信号で前述の赤外線発光素子を駆動(点灯制御)し、これによって画像表示制御装置100へ赤外線指示信号の送信が行われる。
画像表示制御装置100は、この例ではDVDプレイヤー/レコーダーであり、筐体101と、この筐体101の前方側に前面パネル105を介して設けた操作ユニット107とを備えている。操作ユニット107の前面には、操作手段としての各種操作ボタン108、ダイヤル109と、受光口106とが設けられている。なお、公知の構成で足りるため詳細な図示及び説明を省略するが、筐体101内には、公知のDVDの録画・再生機構140(後述の図3参照)やそれらDVDの収納部等が設けられている。
図3は、上記画像表示制御装置100の機能的構成を表す機能ブロック図である。図3において、画像表示制御装置100は、受信手段である赤外線受光部101と、FM復調器102と、所定(例えば38kHz)の搬送波周波数を抽出するBPF(帯域通過フィルタ)103と、パルス復調器104と、コントローラ150とを有している。コントローラ150は、図示しないCPU、ROM、及びRAM等から構成されており、機能的には、図示のように、ユーザー指示入力部151、ユーザー操作判定部152、操作信号生成部153等を備えている。
上記構成において、前述の遠隔操作器200の赤外線駆動部202から発射された赤外線指示信号が前述の受光口106を介し赤外線受光部101で受光され、この赤外線受光部101で光−電気変換されてFM復調器102に供給される。FM復調器102は、赤外線受光部101から入力されたFM信号を復調し、BPF103に供給する。BPF103は、供給された信号の中から、前述の識別コードによりパルス変調されたパルス変調信号を抽出し、パルス復調器104に供給する。パルス復調器104は、パルス変調信号を復調して得られた上記識別コードをコントローラ150のユーザー指示入力部151に供給する。ユーザー操作判定部152は、パルス復調器104で復調された識別コードを上記ユーザー指示入力部151を介し入力して識別(解読)し、対応する操作指示信号を操作信号生成部153へ出力する。操作信号生成部153はその操作指示信号に応じて、対応する操作信号を生成し、前述したDVD録画・再生機構140に出力し、対応する動作(録画、再生、編集、予約、ダビング、消去、時計表示、番組表表示等)を行わせる。
以上のような基本構成及び動作の画像表示システムにおいて、本実施形態の最も大きな特徴は、画像表示装置1にDVD録画・再生機構140の操作に関わるメニュー画面を表示させた状態で、遠隔操作器200の赤外線像を用いてこれをメニュー選択のポインタとして用いることにある。以下、その詳細を順を追って説明する。
図3に示す画像表示制御装置100において、上記の本実施形態の特徴に関わる構成として、遠隔操作器200が発光した赤外線信号(赤外線像、光信号、第2光線)を可視光線とは区別して認識する赤外線フィルタ付きカメラ110(第2光線撮像手段)と、(可視光線にて撮影を行う)通常のカメラ120と、映像合成部130とが設けられている。
カメラ120は、遠隔操作器200の背景BGから到来する(なお遠隔操作器200自体からも到来する)可視光線(第1光線)を撮影する撮像部120a(第1光線撮像手段)と、その撮影した遠隔操作器200の背景BGを画像表示装置1の液晶表示部3に表示させるための映像表示信号を生成する映像信号生成部120b(映像表示信号生成手段)とを備えている。
また、コントローラ150には、前述の構成のほかに、メニュー作成部154(図象表示信号生成手段)と、リモコン位置特定部155(位置特定手段)と、リモコン位置記号作成部156(位置表示信号生成手段)とが備えられている。
操作者Sが画像表示制御装置100に対し所定の操作を行うことを意図し、遠隔操作器200を手に持って画像表示制御装置100の前に立つと、その操作者Sのいる実世界の実写映像(=遠隔操作器200及び背景BGの映像)がカメラ120の撮像部120aで撮影され、その映像信号が映像信号生成部120bから映像合成部130を介し、画像表示装置1へ入力される。これにより、画像表示装置1の液晶表示部3に、操作者Sがいる実世界が表示される。
図4はこのときの液晶表示部3の表示の一例を表す図である。図4の例では、画面中に遠隔操作器200を持った操作者Sと、操作者Sのいる部屋の風景(この例では、ドア、床、床上の敷物、さらにテーブル、椅子等の家具など)が背景BGとして表示されている。
この状態で、操作者Sが、画像表示制御装置100の操作メニューを表示させるために、遠隔操作器200を手に持って操作部201を適宜に操作すると、これに対応する特定の赤外線指示信号が赤外線駆動部202から出射され、画像表示制御装置100の赤外線受光部101で受光された後、上記FM復調器102、BPF103、パルス復調器104を経てコントローラ150のユーザー指示入力部151に対応する識別コードが入力されて解読される。ユーザー指示入力部151ではこれに対応してメニュー作成部154に作成指示信号を入力し、メニュー作成部154は、画像表示装置1の上記液晶表示部3に複数の操作領域(後述)からなる操作メニュー(操作対象図象)を表示させるためのメニュー表示信号(図象表示信号)を生成する。このメニュー表示信号は映像合成部130によって上記カメラ120の映像信号生成部120bからの映像表示信号と合成され、その合成信号が画像表示装置1へ出力されることで、カメラ120による上記実写映像と上記メニュー作成部154からのメニュー表示との合成映像が液晶表示部3に表示される(メニュー選択モード、言い換えれば画面位置選択モードへの移行)。なお、このメニュー選択モードへ移行している間(メニュー選択モードが終了するまで)、遠隔操作器200からは上記した特定の赤外線指示信号(低消費電力であることが好ましい)を発信し続け、これによってメニュー選択モード(画面位置選択モード)であることを画像表示制御装置100側へ伝達するようになっている。
図5はこのときの液晶表示部3の表示の一例を表す図である。図5の例では、映像信号生成部120bからの映像表示信号に基づく実写映像として、上記図4と同様、画面中に遠隔操作器200を持った操作者Sと、操作者Sのいる部屋の背景(この例では、ドア、床、床上の敷物、さらにテーブル、椅子等の家具など)BGが表示されている。そしてこれに加え、メニュー作成部154からのメニュー表示信号に基づき、「時計(時刻セット)」「録画」「編集」「番組表」「再生」「予約」「ダビング」「消去」「その他」の各操作をそれぞれ表す複数の領域からなる操作メニューMEが表示されている。
一方このとき、操作者Sの持った遠隔操作器200から発せられる上記特定の赤外線指示信号が赤外線像として赤外線フィルタ付きカメラ110で撮像されて認識され、その撮像信号がリモコン位置特定部155に入力される。リモコン位置特定部155は、上記赤外線フィルタ付きカメラ110における遠隔操作器200の赤外線像の認識結果に基づき、遠隔操作器200が赤外線フィルタ付きカメラ110による撮像中において占める位置を特定する。
上記リモコン位置特定部155で特定した遠隔操作器200の位置情報はリモコン位置記号作成部156へ入力され、遠隔操作器200の位置を上記液晶表示部3に表示させるための位置表示信号が生成される。この生成された位置表示信号は上記映像合成部130へと入力され、これによって液晶表示部3に実写されている遠隔操作器200の位置(あるいは近傍)に、所定の位置表示MA(この例では矢印型のマーク、後述の図6参照)が重ねて表示される。これにより、操作者Sが遠隔操作器200を持ってその位置を移動させる(空間的に存在位置を変える)ことで、液晶表示部3に操作メニューMEと重なるようにして表示されている遠隔操作器200の位置表示MAを液晶表示部3上で動かすことができる。
一方、上記リモコン位置特定部155で特定した遠隔操作器200の位置情報は上記ユーザー操作判定部152へも入力される。このとき、ユーザー操作判定部152には、上記メニュー作成部154で作成したメニュー表示信号のメニュー表示に関する情報(どのような内容、配列、態様のメニュー表示を行っているか)も入力されている。
上記のように操作者Sが手に持った遠隔操作器200を移動させて位置表示MAを液晶表示部3上で動かし、操作メニューMEのうち実行したい操作領域に上記位置表示MAが到達したときにその操作領域の操作を決定すべく操作部201を適宜に操作する(例えば「決定」ボタンを押す)ことで、これに対応する赤外線指示信号が赤外線駆動部202から出射され、画像表示制御装置100の赤外線受光部101で受光された後、上記FM復調器102、BPF103、パルス復調器104を経てコントローラ150のユーザー指示入力部151に対応する識別コードが入力されて解読される(指示信号入力手段)。ユーザー指示入力部151ではこれに対応して上記ユーザー操作判定部152に決定指示信号を入力する。
上記決定指示信号が入力されたユーザー操作判定部152は、前述したリモコン位置特定部155から取得した遠隔操作器200の位置情報と、メニュー作成部154から取得したメニュー表示情報とに基づき、上記液晶表示部3に表示された操作メニューMEのうち選択指定される操作領域(操作指定部位)を決定し(操作部位決定手段)、これに対応する信号をメニュー作成部154へと入力する。メニュー作成部154はその入力された信号に基づき、上記選択指定された操作領域を、それ以外の部位と異なる態様で表示するようなメニュー表示信号を生成して映像合成部130に出力する。
図6は、このときの液晶表示部3の表示の一例を表す図である。図6の例では、操作者SがDVDの編集を意図して、手に持った遠隔操作器200の液晶表示部3における位置を「時計」「録画」「編集」「番組表」「再生」「予約」「ダビング」「消去」「その他」の各領域からなる操作メニューMEの「編集」領域に位置させた後(矢印型のマーク参照)、前述の「決定」ボタンを押した状態を表している。この例では、メニュー作成部154からのメニュー表示信号により、当該選択指定された「編集」領域は他の領域と色が異なって表示されている。そして、この場合には、ユーザー操作判定部152から上記「編集」領域の選択指定に対応した操作指示信号が操作信号生成部153へ出力され、操作信号生成部153がこれに応じて対応する操作信号を上記DVD録画・再生機構140に出力し、対応する編集動作を行うことができる。
同様に、図7は操作者SがDVDの予約録画を意図して遠隔操作器200の液晶表示部3における位置を「予約」領域に位置させ「決定」ボタンを押した状態を表し、図8は操作者SがDVDの再生を意図して遠隔操作器200の液晶表示部3における位置を「再生」領域に位置させ「決定」ボタンを押した状態を表している。それぞれの場合、上記同様、ユーザー操作判定部152から上記「予約」又は「再生」領域の選択指定に対応した操作指示信号が操作信号生成部153へ出力され、操作信号生成部153からの対応する操作信号が上記DVD録画・再生機構140に出力され、対応する予約録画又は再生動作を行うことができる。他の「時計」「録画」「番組表」「ダビング」「消去」「その他」領域についても同様である。
なお、上記において、遠隔操作器200に備えられた発信器203、パルス変調器204、及びFM変調器206等が、各請求項記載の、通常の可視光線とは異なる態様又は属性の光信号を生成する光信号生成手段を構成する。また赤外線駆動部202が、この光信号生成手段で生成した光信号を、当該光信号を通常の可視光線と区別して認識可能な第2光線撮像手段;表示画面上に操作対象図象を表示させるための信号を生成する第1手段;第2光線撮像手段における光信号の認識結果に基づき、遠隔操作器の背景の映像中において遠隔操作器が第2光線撮像手段による撮像中において占める位置を特定し表示画面上に表示させるための信号を生成する第2手段;特定された遠隔操作器の位置に基づき、表示画面上に表示された操作対象図象のうち操作指定部位を決定して表示するための信号を生成する第3手段;を備えた画像表示制御装置へ送信する光信号送信手段を構成する。
以上説明したように、本実施形態においては、画像表示装置1に備えられた液晶表示部3上に、操作メニューMEを表示させるためのメニュー表示信号を生成するメニュー作成部154と、遠隔操作器200の背景から到来する可視光線とは異なる態様又は属性を備え、遠隔操作器200から到来する赤外線信号を、上記可視光線と区別して認識可能な赤外線フィルタ付きカメラ110と、この赤外線フィルタ付きカメラ110における上記赤外線信号の認識結果に基づき、遠隔操作器200が赤外線フィルタ付きカメラ110による撮像中において占める位置を特定するリモコン位置特定部155と、このリモコン位置特定部155で特定した遠隔操作器200の位置を液晶表示部3上に表示させるための位置表示信号を生成するリモコン位置信号作成部156と、リモコン位置特定部155で特定した遠隔操作器200の位置に基づき、液晶表示部3上に表示された操作メニューMEのうち操作領域を決定するユーザー操作判定部152とを有し、これによって、液晶表示部3における遠隔操作器200の位置表示MAを操作メニューMEから操作領域を選択指定するためのポインタ(操作位置指定手段)として利用することができる。この結果、操作者Sは、液晶表示部3から目を離すことなく、遠隔操作器200自体の位置移動という体感的・直感的に非常に分かりやすい動作で、操作メニューMEのうち所望の操作領域を容易に選択指定し、対応する操作を行うことができる。このとき、従来技術のようにジェスチャーを記憶する必要もなく操作者Sの負担を増大させることがないので、遠隔操作時の利便性を大きく向上することができる。
また、本実施形態では特に、遠隔操作器200の背景BGから到来する可視光線を撮影するカメラ120の撮像部120aと、この撮像部120aで撮影した背景BGを液晶表示部3上に表示させるための映像表示信号を生成する映像信号生成部120bとを有する。これにより、操作者Sが遠隔操作器200の位置表示MAを操作メニューMEのポインタとして利用するために遠隔操作器200を持ってその位置を移動させるとき、液晶表示部3上にカメラ120で撮影した遠隔操作器200の背景BGの実映像が映るので、自分の動作態様や動作距離等を表示画面で確認しながら上記遠隔操作器200の移動を行うことができ、さらに分かりやすい直感的な操作が可能となる。また、液晶表示部3に映った映像に基づき赤外線フィルタ付きカメラ110による受光可能範囲を操作者Sが認識することも可能となるので、操作者Sが遠隔操作器200を受光可能範囲外に移動させてしまうのを防止でき、操作の確実性を向上することができる。
さらに、本実施形態では特に、メニュー作成部154、リモコン位置信号作成部156、映像信号生成部120bは、前記操作メニューME、遠隔操作器200の位置、遠隔操作器200の背景BGを、液晶表示部3上にすべて重ね合わせるように表示するような、メニュー表示信号、位置表示信号、映像表示信号を生成する。これにより、映像合成部130を介し、操作メニューME及び遠隔操作器200の位置表示MAが、カメラ210で撮像した遠隔操作器200の背景BGの実写映像上にすべて重ね合わせるようにして液晶表示部3に表示されるので、操作者Sは自身が液晶表示部3のどの位置を指定しているかを直感的に理解でき、さらに確実に分かりやすい直感的な操作を行うことができる。
さらに、本実施形態では特に、メニュー作成部154は、操作メニューMEのうちユーザー操作判定部152で決定した操作領域を、それ以外の部位と異なる態様で液晶表示部3に表示するようなメニュー表示信号を生成する。これにより、操作者Sが操作対象として指定した操作メニューME中の操作領域の色をそれ以外の操作領域と変え、指定位置を視覚的に一目瞭然とすることができるので、自身がどの操作領域を指定したかを確実に認識することができるとともに、確実に操作領域の指定が完了したという安心感を操作者Sに与えることもできる。
また本実施形態では特に、遠隔操作器200からの「決定」操作に対応した指示信号をユーザー指示入力部150を有し、ユーザー操作判定部152は、リモコン位置特定部155で特定した遠隔操作器200の位置と、ユーザ指示入力部151で入力した上記決定指示信号とに応じて、操作メニューMEのうちの操作指定部位を決定する。すなわち、操作者Sが遠隔操作器20で適宜の操作を行い(「決定」ボタンを押し)ユーザー指示入力部151から決定指示信号がユーザー判定操作部152に入力されることで、操作メニューMEのうち操作対象の操作領域が最終的に決定されるようにしている。これにより、操作者Sの確実な操作フィーリングを確保できるとともに、不用意な操作領域の誤指定を防止でき、操作者Sの安心感を得ることができる。なお、この決定指示信号を与えるために操作器200にて「決定」ボタンを押すことで発せられる指示信号は、赤外線指示信号に限られず、可視光線を含む電磁波等他の無線信号でもよい。
また、本実施形態では、遠隔操作器200からの赤外線指示信号を赤外線受光部101で受光し、FM復調器102→BPF103→パルス復調器104→ユーザー指示入力部151→ユーザー操作判定部152を介し、操作信号生成部153から操作信号をDVD録画・再生機構140へ入力することで、遠隔操作器200の操作部201のみによる従来通りの操作を行うことも可能である。
なお、本発明は上記実施形態に限られるものではなく、その趣旨や技術的思想を逸脱しない範囲内で種々の変形が可能である。以下、そのような変形例を順次説明する。
(1)操作領域決定をジェスチャーで指示する場合
図9は、本変形例の画像表示システムにおいて、画像表示装置1の液晶表示部3の表示の一例を表す図であり、上記図6に対応する図である。図6と同等の部分には同一の符号を付している。上記実施形態では、例えば操作者SがDVDの編集を意図した場合には、図6に示したように、手に持った遠隔操作器200の液晶表示部3における位置を操作メニューMEの「編集」領域に位置させた後、例えば「決定」ボタンを押すことで当該操作領域の選択指定を確定した。本変形例ではこの「決定」ボタンを押す代わりに、図9に示すように、遠隔操作器200を所定の形状に(この例では一周させるように)動かし(=ジェスチャー)、これによって操作領域の選択指定を確定するようにしたものである。図9に示す例では、操作者SがDVDの予約録画を意図した例であり、手に持った遠隔操作器200の液晶表示部3における位置を操作メニューMEの「予約」領域に位置させた後、当該領域内又はその近傍にて略円形状又は略楕円形状を描くように遠隔操作器200を振りまわし、これによって当該「予約」操作領域の選択指定を確定している。
図10は、本変形例における画像表示制御装置100の機能的構成を表す機能ブロック図であり、上記実施形態の図3に相当する図である。図3と同等の部分には同一の符号を付し、適宜説明を省略する。図10において、図3と異なるのは、コントローラ150に新たに遠隔操作器200の赤外線像の動きを判定する動き判定部157が設けられていることである。
すなわち、上記実施形態と同様、操作者Sが手に持った遠隔操作器200を移動させて位置表示MAを液晶表示部3上で動かし、操作メニューMEのうち実行したい操作領域に上記位置表示MAが到達したとき、その操作領域の操作を決定すべく当該領域内又はその近傍にて略円形状又は略楕円形状を描くように遠隔操作器200を振りまわす。このとき、遠隔操作器200の赤外線像が前述したように赤外線フィルタ付きカメラ110で撮像認識されその撮像信号がリモコン位置特定部155に入力され、このリモコン位置特定部155から上記動き判定部157へと入力されている。上記のように遠隔操作器200を振り回すことで、動き判定部157ではこの振り回し運動を認識するとともに、当該領域を操作者Sが操作対象として選択指定していると判定し、上記ユーザー操作判定部152に前述の決定指示信号を入力する。以降の動作は上記実施形態と同様なので、説明を省略する。
本変形例によっても、上記実施形態と同様の効果を得る。また、操作領域の最終的な選択指定の確定の際にも遠隔操作器200の操作部201の操作が不要となるので、さらに確実に液晶表示部3から目を離さずに操作が可能となる。
(2)赤外線フィルタ付カメラがリモコン指示操作を受け取る場合
図11は、本変形例における画像表示制御装置100の機能的構成を表す機能ブロック図であり、上記実施形態の図3に相当する図である。図3と同等の部分には同一の符号を付し、適宜説明を省略する。図11において、図3と異なるのは、赤外線受光部101が省略され、遠隔操作器200からの赤外線指示信号が赤外線フィルタ付きカメラ110で受光され、この赤外線フィルタ付きカメラ110内に備えられた変換手段(図示せず、あるいはカメラ110とは別体に設けられていてもよい)で光−電気変換された後にFM復調器102に供給されることである。その後の動作は上記実施形態と同様であるため、説明を省略する。
本変形例によっても、上記実施形態と同様の効果を得る。
(3)コールドミラーを用いる場合
例えば上記実施形態の図3に示したように、赤外線フィルタ付きカメラ110と通常のカメラ120とを別々に設けた場合、それら2つのカメラ110,120のレンズ位置のずれによりそれぞれの撮像は厳密には一致しないが、操作者Sがカメラから十分離れている場合は、2つのカメラ110,120の差異は小さく、実用上問題ない。しかしながら、操作者Sがそれらカメラ110,120の近くにいる場合にはその差異が無視できないほど大きくなり、例えば赤外線フィルタ付きカメラ110の撮像信号に基づきリモコン位置特定部155で特定し液晶表示部3に表示させた遠隔操作器200の位置と、カメラ120からの映像表示信号をもとに液晶表示部3に表示させた遠隔操作器200の実映像とのずれが大きくなる可能性がある。本変形例はそのような場合に対応するためのものである。
図12は、本変形例における画像表示制御装置100の機能的構成を表す機能ブロック図であり、上記図3や図11に相当する図である。図3と同等の部分には同一の符号を付し、適宜説明を省略する。図12において、本変形例では、赤外線フィルタ付きカメラ110の入射側に赤外線を透過させるとともに可視光線を反射する機能(=分光機能)を備えた公知のコールドミラーCMを設け、遠隔操作器200からの赤外線と遠隔操作器200の背景BGからの可視光線とを(前述の受光口106を介して)赤外線フィルタ付きカメラ110へと同一の光軸で導入する。そして、その光軸上に設けた上記コールドミラーCMによって上記遠隔操作器200からの赤外線と遠隔操作器200の背景BGからの可視光線とを分光し、赤外線はそのまま透過させて赤外線フィルタ付きカメラ110へ入射させるとともに、可視光線は反射させて方向転換させカメラ120へと入射させる。以降の動作は上記実施形態と同様であるので説明を省略する。
上記構成の本変形例においては、2つのカメラ110,120に入力される映像は同一のものであるため、操作者Sがカメラ110,120に十分近い位置にいても、2つのカメラ110,120の間に撮像の差異が発生せず、前述したような遠隔操作器200の位置ずれの弊害を確実に防止できるという効果を得る。
(4)位置補正を行なう場合
上記したように、赤外線フィルタ付きカメラ110と通常のカメラ120との2つを設けた場合、それら2つのカメラ110,120のレンズ位置のずれによりそれぞれの撮像は厳密には一致しない(位置ずれが発生する)。この差異が無視できないほど大きくなった場合に、上記(3)のようにコールドミラーCMを用いることで撮像自体の差異をなくす手法のほか、差異をなくすように一方の信号に対し位置補正(キャリブレーション)をしてもよい。この変形例を図13〜図15を用いて説明する。
図13は、この変形例における画像表示制御装置100の機能的構成の一例を表す機能ブロック図であり、上記図3や図11に相当する図である。図3と同等の部分には同一の符号を付し、適宜説明を省略する。図13において、本変形例では、上記信号補正を行うためのリモコン位置補正部160(補正手段)を新たに設けている。このリモコン位置補正部160は、ユーザ指示入力部151からの指示信号(詳細は後述)に応じて、リモコン位置特定部155で特定されリモコン位置記号作成部156で生成されて映像合成部130へ入力された位置表示信号に対して所定の補正を行う(詳細は後述)。この補正後の位置表示信号は、映像合成部130に入力されて映像信号生成部120bからの映像表示信号と合成される。
図14(a)〜(c)は、上記位置補正の様子を表す説明図である。この変形例では、例えば以下のようにして位置補正を行う。
上記実施形態において図4を用いて説明したように、操作者Sが遠隔操作器200を手に持って画像表示制御装置100の前に立つと、カメラ120からの映像表示信号をもとにその操作者Sのいる実世界の実写映像が画像表示装置1の液晶表示部3に表示される。このとき、液晶表示部3の表示位置の中で位置補正用の所定位置(この例では画面中央位置、白十字マーク参照)が予め固定的に定められており、位置補正を行うことを意図する場合には、操作者Sは、立つ位置や手に持った遠隔操作器200の高さ等を調整して、当該所定位置(画面中央位置)に遠隔操作器200の実映像が表示されるようにする。図14(a)の上段の図は、このときの状態を表している。
一方、図14(b)の下段の図は、この状態で、上記の位置ずれの発生により、赤外線フィルタ付きカメラ110の撮像信号に基づきリモコン位置特定部155で特定し液晶表示部3に表示させた遠隔操作器200の位置(=赤外線検出位置、図中では特に×印マークで表す)が、画面中央位置から(この例では図示右側に)ずれている状態を概念的に表した図である。なお、遠隔操作器200における操作者Sの適宜の操作によって実際にこの×印マークをリモコン位置記号作成部156で生成し液晶表示部3に表示させてもよい。
図14(b)は、このような状態のまま(すなわち補正を行わず)、カメラ120からの映像表示信号に基づく遠隔操作器200の実映像(図14(a)上段参照)と、リモコン位置特定部155で特定しリモコン位置記号作成部156で生成した遠隔操作器200の位置表示MA(この例では上記同様×印で表す。図14(a)下段参照)とが重ね合わされて液晶表示部3に表示された状態を表す図である。
この状態で、操作者Sが遠隔操作器200で適宜の補正指示操作を行うことにより、前述したように、これに対応する特定の赤外線指示信号が前述の赤外線受光部101、上記FM復調器102、BPF103、パルス復調器104を経てユーザー指示入力部151に入力される。そして、ユーザー指示入力部151ではこれに対応してリモコン位置補正部160に制御信号を出力し、リモコン位置補正部160はこれに応じて映像合成部130にアクセスする(例えば問い合わせ信号を出力する)。映像合成部130ではこれに応じて所定の演算処理を行い、この時点で入力されているリモコン位置記号作成部156からの位置表示信号(位置表示MA)が上記液晶表示部3の中央位置(遠隔操作器200の実映像位置に相当)からどれだけずれているかを算出する(ずれ量)。
この算出したずれ量と、上記リモコン位置記号作成部156からの位置表示信号とは、上記リモコン位置補正部160に入力される。リモコン位置補正部160では上記ずれ量に基づき、このずれを補正するための補正定数を決定する。例えば液晶表示部3の画面上の位置を、x軸、y軸を備えた2次元平面上にて表したとき、上記ずれの量を(dx,dy)とすれば、上記補正定数は(−dx,−dy)とすればよい。そして、リモコン位置補正部160はこの補正定数を用いて上記映像合成部130から入力した位置表示信号を補正した後、この補正後の位置表示信号を映像合成部130へと出力する。なお、リモコン位置補正部160は補正定数を用いてリモコン位置記号作成部156から直接入力した位置表示信号を補正するようにしてもよい(二点鎖線参照)し、あるいはリモコン位置特定部155で特定した遠隔操作器200の位置情報を補正するようにしてもよい。
映像合成部130に入力された補正後の位置表示信号は、前述したように映像信号生成部120bからの映像表示信号と合成され、これによって補正後の遠隔操作器200の位置表示MAは上記液晶表示部3の画面中央位置(白矢印マーク)と合致することとなる。図14(c)はこのときの状態を表している。これ以降の動作は上記実施形態と同様なので、説明を省略する。
なお、上記は操作者Sが予め遠隔操作器200を液晶表示部3の中央位置に合わせるように調整することを前提としていたが、これに限られず、液晶表示部3の他の所定位置(例えば画面隅部やその近傍、あるいは背景BGに対応した特定の位置等)に合わせるように調整させ、これに対して位置表示信号等を補正するようにしてもよい。また操作者Sが遠隔操作器200をどこかの所定位置に合わせるようにする手法にも限られず、遠隔操作器200の位置に関係なく(任意の位置で)映像合成部130で所定の公知の画像認識処理や解析処理等を行ってその時点での実映像における遠隔操作器200の位置を特定し、この特定した遠隔操作器200の位置に対する赤外線検出に基づく遠隔操作器200の位置のずれ量を算出して補正するようにしてもよい。
さらに、上記のように赤外線検出に基づく遠隔操作器200の位置を映像信号側に合致させるように補正するのではなく、その逆に、映像信号を、赤外線検出に基づく遠隔操作器200の位置に合致させるように補正してもよい。図15は、この場合における画像表示制御装置100の機能的構成の一例を表す機能ブロック図であり、上記図13に相当する図である。図13と同等の部分には同一の符号を付し、適宜説明を省略する。
図15において、この例では、上記信号補正を行うための映像信号補正部170(補正手段)を新たに設けている。この映像信号補正部170は、ユーザ指示入力部151からの指示信号に応じて、映像信号生成部120bで生成されて映像合成部130へ入力されずれ量が算出された映像表示信号に対し、上記リモコン位置補正部160と同様にしてずれ量に応じた所定の補正を行う。そして、この補正後の映像表示信号が、映像合成部130に入力されてリモコン位置記号作成部156からの位置表示信号と合成される。なお、映像信号補正部170は補正定数を用いて映像信号生成部120bから直接入力した映像表示信号を補正するようにしてもよい(二点鎖線参照)。
これら2つの変形例においては、カメラ120による撮影結果と、赤外線フィルタ付きカメラ110による撮影結果とに応じて、リモコン位置特定部155の特定に基づく遠隔操作器200の位置、若しくは、映像信号生成部120bで生成した映像表示信号を補正する補正手段(リモコン位置補正部160又は映像信号補正部170)を有する。これにより、2つのカメラ110,120の間に撮像の差異が発生したとしてもこれを補正することで、位置ずれによる誤差の発生等を確実に防止することができる。
(5)赤外線高感度カメラを用いる場合
本変形例は、上記実施形態において第1光線撮像手段としてのカメラ120と第2光線撮像手段としての赤外線フィルタ付きカメラ110とを用いていたのに代え、1つの赤外線高感度カメラ110A(後述の図17参照)を用いることで両者を兼用する場合である。この場合、赤外線高感度カメラ110Aは、第1光線としての可視光線に対する感度よりも第2光線としての赤外線に対する感度が高くなっている。
図16は、この赤外線高感度カメラ110Aのもつ感度特性の一例を表す特性図である。横軸には波長(nm)をとり、縦軸にカメラ感度(相対値)をとって表している。図16において、この例では、カメラ110Aの感度は、波長940nm〜950nmをピーク領域とし、それより短波長でも長波長でも急激に感度が小さくなる特性となっている。このようなカメラ110Aの感度特性において、例えば遠隔操作器200からの赤外線を上記波長940nm〜950nmの範囲のものを用いることで、遠隔操作器200の背景BGからの可視光線(波長範囲760nm以下)を受光したときの感度と、遠隔操作器200からの赤外線を受光したときの感度との間に、大きな差をつけることができる。この特性を利用して、上記2つの高低感度値の間になるような図16に示す感度しきい値Xを設定すれば、上記遠隔操作器200の背景BGからの可視光線と、遠隔操作器200からの赤外線とを1つのカメラ110Aで受光しても、しきい値Xより高い感度で得られる撮像は赤外線像(赤外線指示信号)、しきい値Xより低い感度で得られる撮像は可視光線像というように分けて処理することができる。
図17は、本変形例における画像表示制御装置100の機能的構成を表す機能ブロック図であり、上記図11に相当する図である。図11と同等の部分には同一の符号を付し、適宜説明を省略する。図17において、本変形例では、上記赤外線フィルタ付きカメラ110及び通常のカメラ120に代えて、前述した感度特性を備えた赤外線高感度カメラ110Aを設けている。上記遠隔操作器200の背景BGからの可視光線実像と、遠隔操作器200からの赤外線像とはいずれも赤外線高感度カメラ110Aの撮像部110Aaに入力される。撮像部110Aaでは、上記した原理に基づき、高感度側の赤外線像(赤外線指示信号)と低感度側の可視光線像に分けて撮像し、赤外線像及び赤外線指示信号については図11と同様にリモコン位置特定部155及びFM復調部102にそれぞれ出力し、可視光線像については映像信号生成部110Abに供給する。映像信号生成部110Abでは対応する映像表示信号を生成して映像合成部130へ出力する。これ以降の動作は上記図11に示した(2)の変形例と同様であるので説明を省略する。
本変形例によれば、第2光線撮像手段として、可視光線に対する感度よりも赤外線に対する感度が高く設定され、第1光線撮像手段を兼ねた赤外線高感度カメラ110Aを用いる。これにより、赤外線フィルタを用いることなく、かつ、カメラ1台で上記実施形態と同様の効果を得ることができる。
なお、前述の図3のように、赤外線指示信号については赤外線受光部101で受光するようにし、赤外線像のみを赤外線高感度カメラ110Aで撮像するようにしてもよい。
(6)操作者までの距離に応じて拡大表示する場合
上記実施形態及び(1)〜(5)の変形例は、カメラ120等による映像表示信号に基づき画像表示装置1の液晶表示部3に表示する背景BGの表示倍率は固定的に設定されていたが、これに限られず、操作者Sまでの距離に応じて当該表示倍率を変化させるようにしてもよい。
図18〜図22は、この距離に応じた表示倍率の変化の手法の概略を説明するための説明図である。
図18は、まず操作者Sが(言い換えれば操作器200が、以下同様)カメラ120から比較的近い距離に位置する場合の例を表している。この場合、カメラ120が撮影した領域のうち、操作者Sの近傍の所定の範囲を切り出した後、その切り出した部分を同一の倍率で液晶表示部3に表示する。
図19は、操作者Sのカメラ120からの距離が中程度の場合の例を表しており、上記図18と同様、この場合も、カメラ120が撮影した領域のうち、所定の範囲を切り出して同一倍率でそのまま液晶表示部3に表示する。このとき上記したように、操作者Sは、遠隔操作器200を移動操作することで、その液晶表示部3における位置表示MAを操作メニューMEから操作領域を選択指定するためのポインタとして利用することができる。図20はその移動操作における操作の最小単位を表す図であり、上記のように拡大することなく同一倍率で切り出していることから、この場合の操作最小単位は十分に小さい。この結果、操作者Sによる手や腕の動作によって遠隔操作器200を移動させ液晶表示部3上で位置表示MAを感度良くなめらかに動かし、円滑に操作領域を選択指定することができる。
図21は、操作者Sがカメラ120から比較的遠く離れている場合の例を表している。この場合、カメラ120が撮影した領域のうち操作者Sの近傍の所定の範囲をそのまま同一倍率で表示したのでは非常に小さく液晶表示部3で表示されてしまい、液晶表示部3に位置表示MAや操作メニューMEを表示するのが困難となる。そこでこれを回避するために、切り出した範囲を拡大して液晶表示部3において大きく表示する。
しかしながらこのように切り出し後の拡大表示を行う関係上、移動操作における操作の最小単位を図22に示すように、この場合の操作最小単位が大きくなって比較的粗くなってしまう。この結果、操作者Sによる手や腕の動作によって遠隔操作器200を動かしたとき、液晶表示部3上で位置表示MAを感度良くなめらかに動かすことが困難(しばらく一点で止まった後に突然離れたところに飛ぶ等、動きがぎくしゃくする)又は不可能となる。そこで、この場合には、隣接する上記操作最小単位の2点の間に別途新たに仮想的な移動位置を想定し、この予想移動位置を用いて位置表示MAを補完した形で表示する(実際の操作器200がある位置から次の位置へ移動したとき、位置表示MAは、その実際の操作器200の移動よりも遅れて、当該「ある位置」→「それら2つの位置間に予想した移動位置」→当該「次の位置」のように、2つの位置の中間部に予想位置を介在させつつ遅れて追従表示する。なおこの中間部は必ずしも中点である必要はない)ことで、上記操作性の低下を防止するようにしている。
図23は、上記の手法を実現するための本変形例の画像表示制御装置100の機能的構成を表す機能ブロック図であり、上記実施形態の図3等に相当する図である。図23において、この変形例の画像表示制御装置100は、図3に示した構成における映像合成部130に代えて1次映像合成部135を設けるとともに、新たに距離検出部115、切り出し処理部180、2次映像合成部195を設けている。
距離検出部115は、公知の手法により遠隔操作器200との距離を測定するものであり、例えば超音波距離計等が用いられる。検出した距離は距離検出信号として切り出し処理部180へ入力される。
1次映像合成部135は、図3の映像合成部130と同様、カメラ120の撮像部120aでの撮影に基づく映像信号生成部120bからの映像信号が入力されるとともに、リモコン位置特定部155での特定に基づくリモコン位置記号作成部156からの位置表示信号が入力される。これによって、液晶表示部3に実写されている遠隔操作器200の位置(あるいは近傍)に所定の位置表示MAが重ねられた状態の映像信号が実現される。
切り出し処理部180は、上記1次映像合成部135からの位置表示MAつき実写映像信号と、上記距離検出部115からの距離検出信号と、上記リモコン位置特定部155からの位置特定信号とを入力する。そして、上記位置表示MA付き実写映像のうち、上記位置特定信号により特定される操作器200位置近傍の所定範囲切り出しを行い、さらに上記距離検出信号の距離の遠近に応じて、当該切り出した映像を液晶表示部3に表示するときの拡大倍率を設定し、その倍率に拡大した位置表示MA付き実写映像信号を2次映像合成部195へ出力する(詳細は後述の図24参照)。
2次映像合成部195は、上記切り出し処理部180からの(適宜拡大された)位置表示MAつき実写映像信号と、メニュー作成部154からのメニュー表示信号とを合成する。そして、この合成信号が画像表示装置1へ出力されることで、カメラ120の撮影に基づく上記位置表示MA付き実写映像と上記メニュー作成部154からのメニュー表示との合成映像が液晶表示部3に表示される。
図24は、上記切り出し処理部180の詳細構成を表す機能ブロック図である。
図24において、切り出し処理部180は、拡大を伴わない単純な切り出しを行うための単純切り出し部181と、拡大を伴う切り出しを行うための拡大切り出し部182と、拡大切り出しにさらに上記の予想移動位置の補完を行うための補完拡大切り出し部183と、距離検出部115からの距離検出信号とリモコン位置特定部155からの信号に基づく遠隔操作器200の移動の態様(操作解像度、移動解像度、速度等。詳細は後述)とに応じて上記補完を行うかどうかを判定する補完判定部184と、この補完判定部184からの切替制御信号によって切り替えられ、上記切り換えスイッチ187(後述)からの入力を拡大切り出し部182又は補完拡大切り出し部183のいずれか一方に選択的に出力する切り換えスイッチ185と、距離検出部115からの距離検出信号に応じて拡大表示を行うかどうかの判定を行う拡大判定部186と、この拡大判定部186からの切替制御信号によって切り替えられ、上記1次映像合成部135からの出力を単純切り出し部181又は切り換えスイッチ185のいずれか一方に選択的に出力する切り換えスイッチ187とを備えている。
単純切り出し部181、拡大切り出し部182、及び補完拡大切り出し部183には、それぞれリモコン位置特定部155からの位置特定信号が入力され、それぞれの切り出し部181〜183はその特定された操作器200の位置に基づき、操作器200位置の近傍の所定範囲(例えば予め固定的に設定されている)の切り出しを行う。
図25は、切り出し処理部180全体で実行する制御手順を表すフローチャートである。
図25において、まずステップS10において、拡大判定部186で、距離検出部115で検出した操作者S(操作器200)とカメラ120との距離を取得する。
その後、ステップS20において、拡大判定部186で、上記ステップS10で取得した距離が比較的近いかどうか(例えば予め定められた所定のしきい値よりも小さいかどうか)を判定する。距離が小さい場合にはステップS20の判定が満たされてステップS30に移り、拡大判定部186で切り替えスイッチ187に切替制御信号を出力して単純切り出し部182側へ切り替え、これによって1次映像合成部135からの位置表示MAつき映像信号を単純切り出し部181へ供給して拡大のない通常の切り出しを行い、このフローを終了する。
距離が大きい場合には、ステップS20の判定が満たされずステップS35に移り、拡大判定部186で切り替えスイッチ187に切替制御信号を出力して切り替えスイッチ185側へ切り替え、これによって1次映像合成部135からの位置表示MAつき映像信号を拡大切り出し部182又は補完拡大切り出し部183へ供給し拡大を伴う切り出し処理を行う。その後ステップS50に移り、補完処理を行ってこのフローを終了する。
図26は、上記ステップS50の詳細手順を表すフローチャートである。
まずステップS52において、補完判定部184で、距離検出部115からの距離検出信号に応じて(その距離により拡大切り出し部182又は補完拡大切り出し部183で実行される拡大倍率を想定した場合に)距離が長くなるほど低下する傾向となる操作解像度が所定のしきい値より悪いかどうかを判定する。操作解像度が当該しきい値より悪い場合は判定が満たされ、そのままでは操作がぎくしゃくし操作性が悪くなる(補完の必要がある)とみなされて後述のステップS60に移る。操作解像度が当該しきい値以上である場合には判定が満たされず、ステップS54に移る。
ステップS54では、補完判定部184で、リモコン位置特定部155からの位置特定信号(及び所定時間範囲内におけるその挙動)に基づき、何らかの理由により位置特定信号として読みとれる読み取り解像度(移動解像度)が所定のしきい値より悪くなっていないかどうかを判定する。移動解像度が当該しきい値より悪い場合は判定が満たされ、例えば障害物(後述)の存在等の理由によりそのままでは読み取りが断片的となり円滑な操作が困難(補完の必要がある)とみなされて後述のステップS60に移る。移動解像度が当該しきい値以上である場合には判定が満たされず、ステップS56に移る。
ステップS56では、補完判定部184で、リモコン位置特定部155からの位置特定信号(及び所定時間範囲内におけるその挙動)に基づき、実際の操作器200の移動速度が所定のしきい値より小さい(遅い)かどうかを判定する。移動速度が当該しきい値未満である場合は判定が満たされ、例えば操作者Sがゆっくりと精度の高い操作をしたがっている等とみなされて後述のステップS60に移る。移動速度が当該しきい値以上である場合には判定が満たされず、ステップS58に移る。
ステップS58では、補完判定部184で、操作者Sからの補完指示信号が入力されたかどうかを判定する。すなわち、本変形例では上記ステップS52、ステップS54、ステップS56等の判定条件を満たす満たさないに関係なく、操作者Sが意図的に(強制的に)補完拡大切り出し部183による補完実行を指示できる操作手段が備えられており、その操作手段による補完指示信号は補完判定部184に入力される。このステップS58は、この補完指示信号の入力があったかどうかを判定するものである。操作者Sによる補完実行指示があった場合には判定が満たされて後述のステップS60に移る。補完実行指示がない場合には判定が満たされず、このフローを終了する。
ステップS52、ステップS54、ステップS56、ステップS58のいずれかの判定が満たされて移行するステップS60では、補完判定部184で、補完を「おいかけモード」で実行する設定になっているかどうかを判定する。
すなわち、本変形例で実行する補完処理には、リモコン位置特定部155からの位置特定信号(及び所定時間範囲内におけるその挙動)に基づき、操作器200の現在位置よりも少し前に位置していたと思われる位置から現在位置までを追跡するように補完する追いかけモード(=現実の操作器200の動きから少し遅れて位置表示MAが滑らかに追いかけてくるように表示される)と、操作器200の現在位置から、少し前に位置していたと思われる位置までを逆に遡るように補完する逆戻りモード(=現実の操作器200の動きとは逆方向に位置表示MAが滑らかに少し戻るように表示される)とが備えられている。そして、操作者Sが補完処理時に上記2つのモードのうちいずれを用いるかを指示できる選択手段が備えられており、その選択手段によるモード選択信号は補完判定部184に入力される。このステップS60は、このモード選択信号で上記追いかけモードが選択されているかどうかを判定するものである。
操作者Sにより追いかけモードが選択されていた場合にはステップS60の判定が満たされてステップS62に移る。ステップS62では、補完拡大切り出し部183で、前述したように実際の操作器200の移動よりも遅れて追従表示するときの追従動作開始点Psを、操作器200の移動軌跡上における補完を開始(発動)した点(例えば操作器200の現在位置とそれより少し前の位置との中間部位置。なお必ずしも中点である必要はない)とし、追従表示するときの追従終了点Peを、現在位置とする。
一方操作者Sにより逆戻りモードが選択されていた場合にはステップS60の判定が満たされず、ステップS64に移る。ステップS64では、補完拡大切り出し部183で、上記追従動作開始点Psを操作器200の現在位置とし、追従表示するときの追従終了点Peを、上記補完開始(発動)点とする。
上記ステップS62又はステップS64が終了すると、ステップS66に移る。
ステップS66では、補完判定部184で、補完しつつ実際の操作器200に遅れて追従してくるときの位置表示MAの追従(移動)速度を一定値とする設定になっているかどうかを判定する。
すなわち、本変形例で実行する補完処理時の位置表示MAの追従速度として、(操作器200の実際の移動速度に関係なく)予め定められた一定速度で追従する定速モードと、操作器200の実際の移動速度に応じて追従速度が変化する可変速モードとが備えられている。そして、操作者Sが補完処理時に上記2つのモードのうちいずれを用いるかを指示できる選択手段が備えられており、その選択手段によるモード選択信号は補完判定部184に入力される。このステップS66は、このモード選択信号で上記定速モードが選択されているかどうかを判定するものである。
操作者Sにより定速モードが選択されていた場合にはステップS66の判定が満たされてステップS68に移る。ステップS68では、補完拡大切り出し部183で、前述したように実際の操作器200の移動よりも遅れて追従表示するときの位置表示MA(ポインタ)の追従速度fpvを、所定の一定値Ssとする。
一方操作者Sにより可変速モードが選択されていた場合にはステップS66の判定が満たされず、ステップS70に移る。ステップS70では、補完判定部184で、リモコン位置特定部155からの位置特定信号(及び所定時間範囲内におけるその挙動)に基づき、実際の操作器200の移動速度が所定のしきい値α(予め設定される)以下となっているかどうかを判定する。操作器200の移動速度がそれほど遅くなっていない場合にはステップS70の判定が満たされず、上記ステップS68へ移行する。操作器200の移動速度が十分に遅くなっている場合にはステップS70の判定が満たされ、ステップS72に移る。
ステップS72では、補完拡大切り出し部183で、前述したように実際の操作器200の移動よりも遅れて追従表示するときの位置表示MA(ポインタ)の追従速度fpvを、
fpv=β/(1+α−rpv) … (式1)
により算出する。ここで、rpvは実際の操作器200(実際の位置表示MA)の移動速度(実ポインタ速度)であり、βは予め固定的に上限として設定されている追従ポインタ最高速度である。またαはステップS70で前述した移動速度のしきい値である。
上記式1には、以下のような意義がある。すなわち、ステップS70での判定が満たされていることからステップS72の時点で実際の操作器200の移動速度rpv≦αとなっているため、上記式1のうちα−rpvは0以上の値となり、実際の操作器200の移動速度が遅い(操作がゆっくりである)ほど大きな値となる。この結果、これに1を加えた1+α−rpvは1以上の値であって操作がゆっくりであるほど1よりも大きくなる性質を備え、このような値を用いて追従ポインタ最高速度βを除することにより、上限値を超えることなくかつ操作がゆっくりであるほど遅くなるポインタ追従速度fpvを実現することができる。
上記ステップS68又はステップS72が終了すると、ステップS74に移る。ステップS74では、補完拡大切り出し部183で、上記リモコン位置記号作成部156で作成され1次映像合成部135を介して入力された位置表示(ポインタ)MAに所定の遅延処理を施すとともに上記の補完処理を施し、上記ステップS62又はステップS64で決定した追従動作開始点Psから追従終了点Peまで、上記ステップS68又はステップS72で決定した追従ポインタ速度fpvにより(実際の操作器200の移動よりも遅れて)位置表示MAが表示されるように信号を再合成し、上記2次映像合成部195へ出力する。なお、後述する(8)の変形例の補完信号生成部165のように、リモコン位置特定部155からの位置特定信号に基づきリモコン位置記号作成部156に信号を出力してリモコン位置記号作成部156で作成する位置表示信号自体を修正(補正)し、同様の表示を行わせるようにしても同じ効果が得られる。ステップS74が終了すると、このルーチンを終了する。
本変形例の画像表示装置1においては、映像表示信号生成手段120bで生成した映像表示信号における操作器200の背景の一部分を抽出し、表示画面上に拡大表示可能とするための抽出処理手段(この例では切り出し処理部180,180A)を有している。
これにより、操作者Sが比較的遠く離れていて第1光線撮像手段120aで撮影した操作器200の背景全体の画像に占める操作者Sの映像の割合が小さい場合等、背景BG全体の画像に占める操作器200を移動操作可能な領域(操作領域)の割合が小さい場合において、操作者S付近の映像を抽出して拡大することにより、表示画面3上における操作領域の大きさを増大させることが可能となる。この結果、操作困難性を低減し、操作性を向上することができる。
また本変形例の画像表示制御装置1においては、操作器200との距離を検出する距離検出手段(この例では距離検出部115)を有し、抽出処理手段180は、距離検出手段115の検出結果に応じて、抽出及び拡大の態様(拡大有無を含む)を決定する。
これにより、距離検出手段115で検出した操作器200までの距離が比較的遠く離れている場合には、抽出処理手段180で操作者S付近の映像を抽出して拡大することで、表示画面3上における操作領域の大きさを増大させることが可能となる。この結果、必要以上に大きな範囲で操作する必要がなくなり、また操作位置を限定されることもなくなる。
また、本変形例の画像表示制御装置1においては、予想位置設定手段(この例では補完拡大切り出し部183)は、操作器200の移動時に位置特定手段155により順次特定される隣接する2点の中間部となるように、予想移動位置を設定する。
これにより、表示画面3における操作器20の移動軌跡が粗くぎくしゃくした場合に、隣接2点間に予想移動位置を設定して仮想的に表示画面3上における移動軌跡を補い、粗い移動軌跡を細かく表現することで、操作円滑性を向上することができる。
なお、上記(6)の変形例においては、切り出し処理部180で切り出し処理を行う際、単純切り出し部181、拡大切り出し部182、及び補完拡大切り出し部183は、リモコン位置特定部155からの位置特定信号で特定された操作器200の位置に基づき、固定的に決められたその近傍の所定範囲を(操作者Sの操作可能範囲とみなして)切り出しを行ったが、これに限られず、操作者Sが当該操作範囲(操作可能範囲)を自ら設定して装置側に認識させるようにしてもよい。
図27はそのような変形例における切り出し処理部180Aの機能的構成を表す機能ブロック図であり、前述の図24に相当する図である。図27に示されるように、この変形例による切り出し処理部180Aでは、操作領域決定部188が新たに備えられている。この操作領域決定部188は、リモコン位置特定部155からの位置特定信号に基づき、所定時間範囲内における操作器200の移動領域に対応して操作者Sの操作領域を設定するものである。
すなわち操作領域決定部188は、カメラ120の映像信号生成部120bからの映像信号(又はリモコン位置特定部155からの位置特定信号でもよい)に対し例えば公知の動体認識技術を適用し、上記所定時間範囲内(例えば基準時の直後又は直前)における動体領域(動画像内で動きの激しかった領域)を検出する。そして、その検出した動体領域は操作者Sの腕近辺の領域であると仮定すれば、これによって操作者Sによる操作可能領域を推定することができる。そしてこれを操作領域として単純切り出し部181、拡大切り出し部182、補完拡大切り出し部183に出力することで、それら切り出し部181〜183は当該領域の切り出し処理を実行することができる。
この変形例における画像表示装置1においては、抽出処理手段180Aは、映像表示信号生成手段120bで生成した映像表示信号、若しくは、位置特定手段155による位置特定結果に基づき認識される操作器200の移動(範囲)情報に応じて、抽出及び拡大の態様(拡大有無を含む)を決定する。
これにより、操作器200の移動範囲が小さく背景BG全体の画像に占める操作領域の割合が小さい場合には、抽出処理手段180Aで操作者S付近の映像を抽出して拡大することで、表示画面3上における操作領域の大きさを増大させることが可能となる。この結果、必要以上に大きな範囲で操作する必要がなくなり、また操作位置を限定されることもなくなる。
なお、上記距離検出部115による距離検出には、上記超音波検出計を用いる以外にも種々の方法が考えられる。
すなわち例えば、公知の顔認識技術を活用すれば、カメラ120の撮像部120aで撮影し映像信号生成部120bで生成した映像信号より操作者Sの顔を識別し、その顔の大きさと、人間の一般的な顔の大きさの平均値とを比較することで、操作者Sまでの距離を求めることが可能である。なおこの場合、この顔認識領域の周囲一定範囲の領域を操作領域と決定して切り出し部181〜183に切り出しを行わせるようにしてもよい。あるいは顔認識領域と、前述のリモコン位置特定部155で特定される操作器200を含む所定の範囲を操作領域と決定して切り出し部181〜183に切り出しを行わせるようにしてもよい。また顔でない部分に対し公知の画像認識を用いて距離計測を行うことも可能である。
また、上記(3)の変形例において説明したように、例えば図3に示した構成において、赤外線フィルタ付きカメラ110と通常のカメラ120とを別々に設けた場合にはそれら2つのカメラ110,120のレンズ位置のずれによりそれぞれの撮像は厳密には一致せず、視差が生じる。このようなカメラの視差を利用して、例えば距離検出用の左側カメラと右側カメラとをそれぞれ設け(少なくとも一方をカメラ110,120と兼用も可能)、それらの視差を利用して距離を計測するようにしてもよい。
また、入力画像における図形の大きさから計算する手法もある図28は、この手法を説明するための説明図である。図28において、例えば操作器200の先端部に図示のように略「ロ」の字状にIR−LEDが設置されていたとすると、カメラ120で撮影された映像信号における上記IR−LEDの「ロ」の字の大きさは、操作器200までの距離が大きくなるほど小さくなる。この相関関係を利用して、映像信号中の「ロ」の字の大きさを取得することで、操作器200までの距離を逆算して求めることができる。
(7)障害物回避の対策を講じる場合
すなわち、操作者Sとカメラ120との間に操作器200による操作範囲の妨げとなるような障害物がある場合、この障害物の存在する弊害を回避するような手法を実行しても良い。
図29(a)、図29(b)、図29(c)は、この障害物回避手法の1つとして切り出し領域を変更する変形例の概略を説明するための説明図である。
図29(a)は、前述の図18等に相当する図であり、カメラ120が撮影した領域と、切り出される領域との位置関係を表している。操作者Sが比較的近い距離(カメラ120から見て障害物よりも手前側に出ている状態)に位置する場合は、図29(b)に示すように、カメラ120が撮影した領域のうち操作者Sの近傍の所定の範囲を切り出した後、その切り出した部分を同一の倍率で液晶表示部3に表示する。この状態では操作メニューMEが図示のように障害物(この例では本棚)上にかぶって表示されることとなるが、操作者Sが障害物よりも手前側に位置するので、操作者Sが操作器200をもって腕を振ることで当該本棚にかぶった状態の操作メニューME上に位置表示MAを位置させることができ、通常通りの操作を行うことができる。
一方、操作者Sが後ろに下がった位置に立ち、カメラ120から見て障害物のほうが操作者Sよりも手前側に出ている状態になると、前述のようにそのまま操作メニューMEを障害物(本棚)上にかぶって表示しても、操作者Sがカメラ120から見て障害物よりも奥側に位置するので操作者Sが腕を振っても操作メニューME上に位置表示MAを位置させることができず操作を行うことができない。
そこで本変形例においては、このような状態となったら、図29(c)及び図29(a)に示すように、切り出し位置を、障害物を回避する(なるべく含まない)ような位置にずらす。これにより、図29(c)に示すように、障害物の影響のほとんどない状態で操作メニューMEを表示でき、通常通り、操作者Sが操作器200をもって腕を振ることで操作メニューME上に位置表示MAを位置させることができる。
なお、図29(b)に示す状態(カメラ120から見て操作者Sが障害物よりも手前側に出ている、障害物の非活性化状態)と、図29(c)に示す状態(カメラ120から見て障害物が操作者Sよりも手前側になる、障害物の活性化状態)との区別は、種々の手法が考えられる。一例としては、図30に示すように、予めカメラ120からの距離に対応させる形で、障害物となりうる物をデータベース化して登録しておく手法がある(後述の図33のデータベース145参照)。図30において、右側の欄が各物体のカメラ120からの距離(活性化距離)であり、距離検出部115から操作者Sまでの距離がこの活性化距離よりも大きくなった場合に、当該物体が障害物となるとみなすことができる。またこのときに、公知の物体認識技術(例えば、ディジタル画像処理(CG-ARTS協会)p.192-p.200参照)を併せて用いるようにしてもよい。
また、操作器200をある方向に連続的に動かして移動操作していたとき、あるときからリモコン位置特定部155の位置特定信号に基づく移動軌跡が検出できなくなった場合、これをもって活性化状態にある障害物を検出したとしてもよい(後述の(8)の変形例も参照)。少し逆方向に元に戻したときに操作器200の移動軌跡が検出できるようになった(=非活性状態への復帰)ことを確認できればなお確実である。
図31(a)、図31(b)、図31(c)は、障害物回避手法の他の例としてメニュー表示領域をずらす変形例の概略を説明するための説明図である。
図31(a)は、前述の図29(a)や図18等に相当する図であり、カメラ120が撮影した領域と、切り出される領域との位置関係を表している。操作者Sがカメラ120から見て障害物よりも手前側に出ている状態では、図31(b)に示すように、通常通り、例えば操作メニューMEを障害物(本棚)上にかぶって表示させる。この状態では、操作者Sが障害物よりも手前側に位置するので、操作者Sが操作器200をもって腕を振ることで当該本棚にかぶった状態の操作メニューME上に位置表示MAを位置させることができ、通常通りの操作を行うことができる。
一方、操作者Sが後ろに下がった位置に立ち、カメラ120から見て障害物のほうが操作者Sよりも手前側に出ている状態になると、前述と同様、操作者Sがカメラ120から見て障害物よりも奥側に位置するので操作者Sが腕を振っても操作メニューME上に位置表示MAを位置させることができない。
そこで本変形例においては、このような状態となったら、図31(c)に示すように、(この例のように切り出しを行う場合には必ずしも切り出し位置を変えず)、障害物を回避する(なるべく含まない)ような位置に操作メニューの表示位置を(図示の例では左側に)ずらす。これにより、図31(c)に示すように、カメラ120から見て障害物とかぶらず(障害物の影響のほとんどない状態で)操作メニューMEを表示でき、通常通り、操作者Sが操作器200をもって腕を振ることで操作メニューME上に位置表示MAを位置させることができる。
なお、障害物の非活性化状態と活性化状態との区別は、前述と同様の手法で行えば足りる。
図32は、上記の手法を実現するための本変形例の画像表示制御装置100の機能的構成を表す機能ブロック図であり、前述の図23や図3等に相当する図である。図32において、この変形例の画像表示制御装置100は、先に(6)の変形例において図23に示した構成における切り出し処理部180及び2次映像合成部195にそれぞれ対応する機能を備えた切り出し処理部180B及び2次映像合成部195Aを設けるとともに、新たに障害物判定部125を設けている。
障害物判定部125は、上記距離検出部115からの距離検出信号と、リモコン位置特定部155からの位置特定信号とが入力され、前述したように障害物が非活性化状態か活性化状態かを判定する。
切り出し処理部180Bは、この例では前述の切り出し処理部180,180Aのような拡大機能は備えておらず、上記障害物判定部125における上記判定結果信号と、リモコン位置特定部155からの位置特定信号とに基づき、上記障害物判定結果に応じた態様(通常の切り出しか位置をずらした切り出しか)で、1次映像合成部135からの位置表示MA付き映像信号を切り出す(詳細は後述の図33参照)。
2次映像合成部195Aは、上記障害物判定部125における上記判定結果に応じた態様(通常メニュー表示位置かずらしたメニュー表示位置か)で、切り出し処理部180Bで切り出された映像に対し、メニュー作成部154から入力した操作メニューMEを合成する。
図33は、上記切り出し処理部180B及び2次映像合成部195Aの詳細構成を、障害物判定部125とともに表す機能ブロック図である。
図33において、切り出し処理部180Bは、障害物回避のためのずらしを行わず通常の切り出しを行うための通常切り出し部189と、障害物回避のためのずらしを伴う切り出しを行うためのずらし切り出し部190と、上記障害物判定部125からの切替制御信号によって切り替えられ、上記1次映像合成部135からの入力を通常切り出し部189又はずらし切り出し部190のいずれか一方に選択的に出力する切り換えスイッチ191とを備えている。
通常切り出し部189には、リモコン位置特定部155からの位置特定信号が入力され、その特定された操作器200の位置に基づき、操作器200位置の近傍の所定範囲(例えば予め固定的に設定されている)の切り出しを行う。ずらし切り出し部190には、上記同様のリモコン位置特定部155からの位置特定信号と障害物判定部125からの障害物判定結果(障害物位置情報を含む)とが入力され、操作器200の位置と障害物の位置とに基づき、上記操作器200位置の近傍の所定範囲の切り出しを、前述のように障害物位置をなるべく回避するように位置をずらしながら行う。
一方、2次映像合成部195Aは、障害物回避のためのずらしを行わず通常のメニュー表示のための映像合成を行うための通常合成部196と、障害物を回避するずらしたメニュー表示のための映像合成を行うずらし合成部197と、上記障害物判定部125からの切替制御信号によって切り替えられ、上記切り出し処理部180Bからの入力を通常合成部196又はずらし合成部197のいずれか一方に選択的に出力する切り換えスイッチ198とを備えている。
通常合成部196には、メニュー作成部154からのメニュー表示信号が入力され、その入力された操作メニューMEを、切り出し処理部180Bから入力した画像の所定位置(例えば予め固定的に設定されている)となるように合成する。ずらし合成部197には、上記同様のメニュー作成部154からのメニュー表示信号と、障害物判定部125からの障害物判定結果(障害物位置情報を含む)とが入力され、障害物の位置情報に基づき、上記入力された操作メニューMEを、前述のように障害物位置をなるべく回避できるように位置をずらして合成する。
なおこの例では、前述の図29に示したずらし切り出し機能を実行可能な上記切り出し処理部180Bと、前述の図31に示したずらしメニュー表示機能を実行可能な上記2次映像合成部195Aとを両方併せて備える場合を例にとって示している。しかしながら、いずれか一方のみの機能を実行すれば良い場合は、反対側は一般的な機能を備えていれば足りる。例えば上記切り出し処理部180Bでのずらし切り出し機能のみで障害物対策を行う場合には、2次映像合成部195Aにおけるずらし合成部197は(切り換えスイッチ198とともに)省略して良い。同様に上記2次映像合成部195Aでのずらしメニュー表示機能のみで障害物対策を行う場合には、切り出し処理部180Bにおけるずらし切り出し部190は(切り換えスイッチ191とともに)省略して良い。
図34は、切り出し処理部180B、2次映像合成部195A、及び障害物判定部125の全体で実行する制御手順を表すフローチャートである。先の図25と同等の手順には同一の符号を付し、適宜説明を簡略化する。
図34において、まずステップS10において、障害物判定部125で、距離検出部115で検出した操作者S(操作器200)とカメラ120との距離を取得する。
その後、ステップS15において、障害物判定部125で、前述のデータベース化された障害物情報を備えたデータベース145より、今回問題となる障害物に関する情報(少なくとも活性化距離を含み、その他障害物の大きさ等を含んでいても良い)を取得する。
そして、ステップS40に移り、障害物判定部125で、上記ステップS10で取得した距離と、上記ステップS15で取得した障害物情報とに基づき、障害物が活性化した状態(カメラ120から見て障害物が操作者Sよりも手前側)であるかどうかを判定する。活性化状態になければ判定が満たされず、このフローを終了する。
障害物が活性化状態にあればステップS40の判定が満たされ、ステップS43に移る。ステップS43では、障害物判定部125で、上記障害物情報に基づき、(障害物を回避するずらし切り出しを行わなくても)障害物以外の領域で十分な操作メニューMEの表示スペースを確保できるかどうかを判定する。
例えば障害物自体が比較的カメラ120より遠い距離にある場合や障害物の大きさ自体がそれほど大きくない場合等で上記表示スペースを確保できる場合にはステップS43の判定が満たされ、ステップS46に移る。ステップS46では、障害物判定部125で切り替えスイッチ191に切替制御信号を出力して通常切り出し部189側へ切り替えるとともに、切り替えスイッチ198に切替制御信号を出力してずらし合成部197側へ切り替える。これにより、1次映像合成部135からの位置表示MAつき映像信号を通常切り出し部189へ供給してずらしのない通常の切り出しを行うとともに、その通常切り出し部189からの切り出し映像信号をずらし合成部197に供給して、前述のように障害物を回避するずらしたメニュー表示のための映像合成を行い、このフローを終了する。
一方、上記ステップS43において、例えば障害物自体が比較的カメラ120に近い距離にある場合や障害物の大きさ自体が大きい場合等で、障害物以外の領域で十分な操作メニューMEの表示スペースを確保できない場合にはステップS43の判定が満たされず、ステップS49に移る。
ステップS49では、障害物判定部125で切り替えスイッチ191に切替制御信号を出力してずらし切り出し部190側へ切り替えるとともに、切り替えスイッチ198に切替制御信号を出力して通常合成部196側へ切り替える。これにより、1次映像合成部135からの位置表示MAつき映像信号をずらし切り出し部190へ供給して前述のように障害物を回避するずらした切り出しを行うとともに、そのずらし切り出し部190からの切り出し映像信号を通常合成部196に供給して、ずらしのない通常のメニュー表示のための映像合成を行い、このフローを終了する。
本変形例の画像表示制御装置1においては、抽出処理手段(この例では切り出し処理部180B)は、映像表示信号生成手段120bで生成した映像表示信号において操作器200との間に介在する障害物の映像を回避するように、抽出及び拡大の態様(拡大有無を含む)を決定する。
これにより、操作器200と装置1との間に障害物が存在するような場合に、その障害物の映像を回避するように抽出及び拡大を行うことで、表示画面3上において障害物の映像に阻害されることなく操作器200の操作領域を確保することができ、操作性の低下を防止することができる。また操作位置を限定されることもなくなる。
また、本変形例の画像表示制御装置1においては、図象表示信号生成手段154で生成した操作対象図象MEの表示画面3上における表示位置を、映像表示信号生成手段120bで生成した映像表示信号において操作器200との間に介在する障害物の映像を回避するように設定するための図象位置設定手段(この例では2次映像合成部195A)を有する。
これにより、操作器200と装置1との間に障害物が存在し、そのままでは背景全体の画像に占める操作器200を移動操作可能な領域(操作領域)の割合が小さくなる場合において、障害物の映像を回避するように操作対象図象MEの表示を行うことで、表示画面3上において操作器200の操作領域を確保することができ、操作性の低下を防止することができる。
(8)障害物越しの操作感を得られるようにする場合
すなわち、操作者Sとカメラ120との間に操作器200による操作範囲の妨げとなるような障害物があった場合にも、その障害物の存在していないかのような、あたかも障害物越しに操作できているような操作感を操作者Sに与えるような手法を実行しても良い。
図35(a)、図35(b)、図35(c)、図35(d)は、このような操作感を得る変形例の概略を説明するための説明図である。
図35(a)は、前述の図18等に対応する図であり、カメラ120が撮影した領域を表しており、この例では、カメラ120が撮影した領域をそのまま同一の倍率で液晶表示部3に表示する。ここで、図示のように、操作者Sよりも障害物が手前側に位置し、操作メニューMEが図示のように障害物(この例では観葉植物)上にかぶって表示されたような場合を想定する。この場合、そのままでは、操作者Sが操作器200をもって操作メニューME側に腕を振ったとしても、図35(b)に示すように、操作器200が当該観葉植物にかぶった状態になるとリモコン位置特定部155による操作器200の位置特定が困難又は不可能となるため、操作メニューME上に位置表示MAを位置させることができなくなる。
そこで本変形例においては、このような状態となったら、図35(c)及び図35(d)に示すように、それまでに(操作器200が当該観葉植物にかぶる状態となる前に)リモコン位置特定部155により特定できた操作器200の特定位置(「×」印で示す)の移動軌跡を用いて、これを延長するように別途新たに仮想的な移動位置を想定し、この予想移動位置を用いて位置表示MAを補完した形で表示する(「●」印で示す)。これによって、操作者Sにとってあたかも障害物がないかのような(障害物越しに操作できているかのような)操作感を与え、操作性の低下を防止するようにしている。
図36は、上記の手法を実現するための本変形例の画像表示制御装置100の機能的構成を表す機能ブロック図であり、上記実施形態の図3等に相当する図である。図36において、この変形例の画像表示制御装置100は、図3に示した構成に、新たに補完信号生成部165を設けている。
補完信号生成部165は、リモコン位置特定部155からの位置特定信号を入力し、これに基づく前述した操作器200の特定位置の移動軌跡を延長するように別途新たに仮想的な操作器200の移動位置を想定し、この予想移動位置を用いて位置表示MAを補完して表示するための補完信号を生成し、リモコン位置記号作成部156へと出力する。
これにより、リモコン位置記号作成部156は、通常通りリモコン位置特定部155からの位置特定信号によって特定される位置に、遠隔操作器200の位置を上記液晶表示部3に表示させるための位置表示MAを生成するのに加え、前述のように障害物にかぶってリモコン位置特定部155からの位置特定信号が入力されなくなっても、これに代わるように補完信号生成部165から入力される補完信号によって位置表示MAを生成し、映像合成部130へと出力する。これにより、液晶表示部3に実写されている障害物の映像上に対し、遠隔操作器200の上記想定移動位置に対応した位置表示MAが重ねられて表示される。
図37は、補完信号生成部165が実行する制御手順を表すフローチャートであり、前述の図25や図26に対応する図である。
図37において、まずステップS102において、リモコン位置特定部155からの位置特定信号(及び所定時間範囲内におけるその挙動)に基づき、実際の操作器200の移動速度が所定のしきい値より小さい(遅い)かどうかを判定する。移動速度が当該しきい値未満である場合は判定が満たされ、例えば操作者Sが障害物の存在を意識して障害物越しの操作をしたがっている等とみなされて後述のステップS108に移る。移動速度が当該しきい値以上である場合には判定が満たされず、ステップS104に移る。
ステップS104では、リモコン位置特定部155からの位置特定信号(及び所定時間範囲内におけるその挙動)に基づき、実際の操作器200の移動速度が所定のしきい値より(上記ステップS102のしきい値よりも大きい値)大きい(速い)かどうかを判定する。移動速度が当該しきい値より大きい場合は判定が満たされ、例えば操作者Sが障害物の存在を意識して障害物越しの操作をしたがっている等とみなされて後述のステップS108に移る。移動速度が当該しきい値未満である場合には判定が満たされず、ステップS106に移る。
ステップS106では、操作者Sからの補完指示信号が入力されたかどうかを判定する。すなわち、本変形例では上記ステップS102、ステップS104等の判定条件を満たす満たさないに関係なく、操作者Sが意図的に(強制的に)補完信号生成部165による補完実行を指示できる操作手段が備えられており、その操作手段による補完指示信号は補完信号生成部165に入力される(図36のユーザ指示入力部151から入力する矢印参照)。このステップS106は、この補完指示信号の入力があったかどうかを判定するものである。操作者Sによる補完実行指示があった場合には判定が満たされて後述のステップS108に移る。補完実行指示がない場合には判定が満たされず、このフローを終了する。
ステップS102、ステップS104、ステップS106のいずれかの判定が満たされて移行するステップS108では、前述したように実際の操作器200の移動軌跡が途絶えその延長表示を開始するときの延長動作開始点Psを、操作器200の現在位置とする。また、延長動作終了点Peを以下のようにして決定する。
すなわち、図38に概念的に示すように、操作器200の現在位置と、それより少し前の位置との間に線分を引き、この少し前の位置から上記現在位置に向かって当該線分を延長した直線を引き、その延長線と表示画面の画面端との交点を、延長終了点Peとする。このようにして延長開始点Ps及び延長終了点Peを決定したら、ステップS110へ移る。
ステップS110では、上記ステップS108で延長終了点Peとして決定した地点(上記延長線と表示画面の画面端との交点)が、実際に延長動作の終了点として指定可能であるかどうかを判定する。例えば通常の操作者Sの身長等から見て上記終了点が明らかに操作可能な範囲から逸脱している等、指定できない場合には判定が満たされず、ステップS112へ移る。指定可能であった場合にはステップS110の判定が満たされ、後述のステップS114へ移る。
ステップS112では、上記ステップS108で決定した延長終了点Peとは異なる、別の指定可能要素(例えばメニュー作成部154からのメニュー表示信号により表示される操作メニューME上。前述の図38参照)の所定箇所(この例では重心位置)を上記延長線が通過するように、延長終了点Peの位置を変更する。その後、ステップS114へ移る。
ステップS114では、延長線上を伸びていくように延長補完(追従)するときの位置表示MAの延長補完(追従)速度を一定値とする設定になっているかどうかを判定する。
すなわち、本変形例でも、先に(6)の変形例で述べたのと同様、実行する延長補完処理時の位置表示MAの追従速度として、(操作器200の実際の移動速度に関係なく)予め定められた一定速度で追従する定速モードと、操作器200の実際の移動速度に応じて追従速度が変化する可変速モードとが備えられている。そして、操作者Sが上記延長補完処理時に上記2つのモードのうちいずれを用いるかを指示できる選択手段が備えられており、その選択手段によるモード選択信号は補完信号生成部165に入力される。このステップS114は、このモード選択信号で上記定速モードが選択されているかどうかを判定するものである。
操作者Sにより定速モードが選択されていた場合にはステップS114の判定が満たされてステップS116に移る。ステップS116では、前述したように実際の操作器200の移動軌跡を延長するように追従表示するときの位置表示MA(ポインタ)の追従速度fpvを、所定の一定値Ssとする。
一方操作者Sにより可変速モードが選択されていた場合にはステップS114の判定が満たされず、ステップS118に移る。ステップS118では、リモコン位置特定部155からの位置特定信号(及び所定時間範囲内におけるその挙動)に基づき、実際の操作器200の移動速度が所定のしきい値α(予め設定される)以下となっているかどうかを判定する。操作器200の移動速度がそれほど遅くなっていない場合にはステップS118の判定が満たされず、上記ステップS116へ移行する。操作器200の移動速度が十分に遅くなっている場合にはステップS118の判定が満たされ、ステップS120に移る。
ステップS120では、前述したように実際の操作器200の移動軌跡を延長するように追従表示するときの位置表示MA(ポインタ)の追従速度fpvを、前述の式1と同様の、
fpv=β/(1+α−rpv) … (式2)
により算出する。前述と同様、rpvは実際の操作器200(実際の位置表示MA)の移動速度(実ポインタ速度)であり、βは予め固定的に上限として設定されている追従ポインタ最高速度である。またαはステップS118で前述した移動速度のしきい値である。
上記式2においても、前述した式1と同様の意義がある。すなわち、ステップS118での判定が満たされていることからステップS120の時点で実際の操作器200の移動速度rpv≦αとなっているため、上記式2のうちα−rpvは0以上の値となり、実際の操作器200の移動速度が遅い(操作がゆっくりである)ほど大きな値となる。この結果、これに1を加えた1+α−rpvは1以上の値であって操作がゆっくりであるほど1よりも大きくなる性質を備え、このような値を用いて追従ポインタ最高速度βを除することにより、上限値を超えることなくかつ操作がゆっくりであるほど遅くなるポインタ追従速度fpvを実現することができる。
上記ステップS116又はステップS120が終了すると、ステップS122に移る。ステップS122では、上記リモコン位置記号作成部156で作成され入力された位置表示(ポインタ)MAに上記の延長補完処理を施し、上記ステップS108(又はステップS112)で決定した延長開始点Psから延長終了点Peまで、上記ステップS116又はステップS120で決定した追従ポインタ速度fpvにより位置表示MAが表示されるようにリモコン位置記号作成部156へ補完信号を出力する。ステップS122が終了すると、このルーチンを終了する。
なお、上記実施形態等においては、操作者Sが手に持った遠隔操作器200を移動させて位置表示MAを液晶表示部3上で動かし、操作メニューMEのうち実行したい操作領域に上記位置表示MAが到達したときにその操作領域の操作を決定すべく操作部201を適宜に操作する(例えば「決定」ボタンを押す)。そしてこれによって、対応する赤外線指示信号が赤外線駆動部202から出射され、画像表示制御装置100側でこれに基づく処理を行って対応した操作信号が上記DVD録画・再生機構140に出力され、対応する動作を行わせることができた。
本変形例においては、上記のようにして障害物に遮られたままその延長線上に位置表示MAを到達させた状態では、対応する赤外線指示信号を画像表示制御装置100側で受け取ることが不可能又は困難であり、そのままでは、操作メニューMEのうち実行したい操作領域に上記位置表示MAが到達したときにその操作領域の操作を決定することができない。この操作領域の決定に関しては、例えば、上記延長補完動作を開始してから所定時間の経過後に位置表示MAが到達した位置を自動的に操作者Sが決定した操作領域とみなすようにしたり、別途の(操作領域決定のための)指示手段を設けて決定指示を行うようにすればよい。
本変形例の画像表示制御装置1においては、位置特定手段155による位置特定結果に基づき認識される操作器200の移動情報に基づき、特定された位置とは異なる操作器200の予想移動位置を設定する予想位置設定手段(この例では補完信号生成部165)を有する。
これにより、例えば障害物の存在により操作器200の移動軌跡を途中で検出できなくなった場合等において、操作器200の位置特定結果以外にも移動位置を予想して設定することで、仮想的に表示画面3上における移動軌跡を補って連続的に表現し、操作性を向上することができる。
また本変形例の画像表示制御装置1においては、予想位置設定手段165は、操作器200の移動時に位置特定手段155により順次特定される移動方向延長線上となるように、予想移動位置を設定する。
これにより、障害物の存在等により移動軌跡を途中で検出できなくなった場合に、操作器200の移動方向延長線上に移動位置を予想して仮想的に表示画面3上における移動軌跡を補い、途切れた移動軌跡を再現することで、操作性を向上することができる。
なお、上記は操作器200を障害物方向に移動させているときに障害物によって操作器200が完全に遮られて移動軌跡が途中で検出できなくなり、これに対応して移動方向延長線上に移動位置を予想する場合を例にとって説明したが、これに限られない。すなわち例えば、図39(a)のように、操作者Sより手前側に位置する障害物(この例では観葉植物)があり、操作メニューMEが図示のように障害物を挟んで操作者Sと反対側に表示された(操作メニューME自体は障害物とかぶっていない)ような場合を考える。この場合、操作者Sが操作器200をもって腕を振ることで、(操作メニューMEは障害物とかぶっていないため)最終的に操作メニューME上に側に位置表示MAを位置させ、通常の操作を行うことはできる。しかしながら、上記のように操作メニューME上に側に位置表示MAを位置させるまでの途中の段階で、図39(b)に示すように、操作器200が当該観葉植物にかぶった状態になるとリモコン位置特定部155による操作器200の位置特定が困難又は不可能となり、この状態の間、位置表示MAが(例えば観葉植物の枝葉に遮られて)断片的・離散的にしか表示されなくなる(あるいは移動解像度が低くなる)可能性がある。
このような場合、上記(8)の変形例における延長補完の手法を、前述と同様にして、この移動軌跡中間部における補完についても適用することができる。すなわち、図39(c)及び図39(d)に示すように、操作器200が当該観葉植物にかぶる状態となる前や、枝葉の間から操作器200が断片的に覗く状態においてリモコン位置特定部155により特定できた操作器200の特定位置(「×」印で示す)の移動軌跡を用いて、これを結ぶように(操作器200の特定位置の隣接する2点を結ぶように)別途新たに仮想的な移動位置を想定し、この予想移動位置を用いて位置表示MAを補完した形で表示する(「●」印で示す)。これによって、操作者Sにとってあたかも障害物による障害がないような連続的な操作感を与えるようにしている。
この画像表示制御装置1においては、予想位置設定手段165は、操作器200の移動時に位置特定手段155により順次特定される隣接する2点の中間部となるように、予想移動位置を設定する。
これにより、表示画面3における操作器200の移動軌跡が障害物の存在により断片的・離散的にしか検出できなかった場合に、隣接2点間に予想移動位置を設定して仮想的に表示画面3上における移動軌跡を補い連続的に表現することで、操作円滑性を向上することができる。
(9)蓄積コンテンツの再生位置指定に応用する場合
以上は、画像表示装置1にDVD録画・再生機構140の操作に関わるメニュー画面を表示させ、遠隔操作器200の赤外線像をメニュー選択のポインタとして用いた場合を例にとって説明した。しかしながら、このポインタとしての活用はこれに限られるものではなく、それ以外にも適用可能である。本変形例は、上記ポインタの機能を蓄積コンテンツの再生位置の自在な指定に応用した場合の例である。
図40は、本変形例の画像表示システムにおいて、画像表示装置1の液晶表示部3の表示の一例を表す図であり、前述の図6に対応する図である。図6と同等の部分には同一の符号を付している。図40において、この例では、画像表示制御装置100の図示しない上記収納部に収納されたDVDに予め録画された長さ1時間のコンテンツ(番組等)表示CTを実行させた状態で、操作者Sがそのコンテンツを所望の時間位置(図示の例では再生開始位置から42分経過した位置)から再生させることを意図し、手に持った遠隔操作器200の液晶表示部3における位置をコンテンツ表示CTの当該42分経過点に位置させた後(矢印型のマーク参照)、前述の「決定」ボタンを押してその選択指定を確定させた状態を表している。なお、この例では液晶表示部3の右上部に当該42分経過点(再生開始位置)における当該コンテンツの画像CC(静止画でも動画でもよい)が割り込み表示されている。あるいはこのコンテンツ再生開始位置指定操作とは関係なく、所定のチャンネルにおける現在の放映画像をこの位置に表示するようにしてもよい。
図41は、上記画像表示制御装置100の機能的構成を表す機能ブロック図である。図41において、画像表示制御装置100は、図3等に示されたメニュー表示作成部154に代えて、上記コンテンツを上記液晶表示部3に表示させるための信号を生成するコンテンツ表示作成部154Aが設けられている。
本変形例では、前述したように、カメラ120からの映像表示信号をもとに画像表示装置1の液晶表示部3に操作者Sがいる実世界が表示された状態において、操作者Sが遠隔操作器200を手に持って操作部201を適宜に操作すると、これに対応する特定の赤外線指示信号(コンテンツ再生位置指定モードに対応)が赤外線駆動部202から出射され、前述と同様、画像表示制御装置100の赤外線受光部101で受光された後、上記FM復調器102、BPF103、パルス復調器104を経てコントローラ150のユーザー指示入力部151に対応する識別コードが入力されて解読される。ユーザー指示入力部151ではこれに対応してコンテンツ表示作成部154Aに作成指示信号を入力し、コンテンツ表示作成部154Aは、これに対応して、DVD録画・再生機構140に対応する再生コンテンツについての問い合わせを行ってその情報(コンテンツの有無、全録画時間等)を取得した後、画像表示装置1の上記液晶表示部3に図40に示したような帯状の表示からなるコンテンツ時間枠(操作対象図象)を表示させるためのコンテンツ表示信号(図象表示信号)を生成する。
このコンテンツ表示信号は、前述と同様、映像合成部130によって上記カメラ120の映像信号生成部120bからの映像表示信号と合成され、その合成信号が画像表示装置1へ出力されることで、カメラ120による上記実写映像と上記コンテンツ表示作成部154Aからのコンテンツ表示CTとの合成映像が液晶表示部3に表示される(コンテンツ再生位置指定モード、言い換えれば画面位置選択モードへの移行)。なお、本変形例でも、前述と同様、このコンテンツ再生位置指定モードへ移行している間(このモードが終了するまで)、遠隔操作器200からは上記した特定の赤外線指示信号(低消費電力)を発信し続けるようになっている。
一方このとき、前述と同様、操作者Sの持った遠隔操作器200から発せられる上記特定の赤外線指示信号が赤外線フィルタ付きカメラ110で撮像されて、リモコン位置特定部155において遠隔操作器200が赤外線フィルタ付きカメラ110による撮像中において占める位置が特定され、その位置情報をもとにリモコン位置記号作成部156で位置表示信号が生成されて映像合成部130へと入力され、これによって液晶表示部3に実写されている遠隔操作器200の位置(あるいは近傍)に位置表示MA(矢印型のマーク、上記図40参照)が重ねて表示される。これにより、操作者Sが遠隔操作器200を持ってその位置を移動させる(空間的に存在位置を変える)ことで、液晶表示部3にコンテンツ表示CTと重なるようにして表示されている遠隔操作器200の位置表示MAを液晶表示部3上で動かすことができる。
一方、前述と同様、上記リモコン位置特定部155で特定した遠隔操作器200の位置情報は上記ユーザー操作判定部152へも入力され、このときユーザー操作判定部152には、上記コンテンツ表示作成部154Aで作成したコンテンツ表示信号のコンテンツ表示に関する情報(どのような内容、時間長さのコンテンツ表示を行っているか)も入力されている。
上記のように操作者Sが遠隔操作器200を移動させて位置表示MAを液晶表示部3上で動かし、コンテンツ表示CTのうち再生開始したい位置に上記位置表示MAが到達したときにその選択指定を決定すべく操作部201を適宜に操作する(例えば「決定」ボタンを押す)ことで、上記同様、これに対応する赤外線指示信号が赤外線駆動部202から出射され、画像表示制御装置100の赤外線受光部101で受光された後、上記FM復調器102、BPF103、パルス復調器104を経てコントローラ150のユーザー指示入力部151に対応する識別コードが入力されて解読され(指示信号入力手段)、対応して上記ユーザー操作判定部152に決定指示信号が入力される。
上記決定指示信号が入力されたユーザー操作判定部152は、前述したのと同様、リモコン位置特定部155から取得した遠隔操作器200の位置情報と、コンテンツ表示作成部154Aから取得したコンテンツ表示情報とに基づき、上記液晶表示部3に表示されたコンテンツ表示CTのうち選択指定された再生開始位置(操作指定部位)を決定し(操作部位決定手段)、これに対応する信号をコンテンツ表示作成部154Aへと入力する。コンテンツ表示作成部154Aはその入力された信号に基づき、上記選択指定された再生開始位置及びその近傍領域を、それ以外の部位と異なる態様で表示するようなコンテンツ表示信号を生成して映像合成部130に出力する。
上記の結果、図40に示したように、この例では当該選択指定された再生開始位置から42分経過位置及びその近傍領域は他の領域と色が異なって表示されている。そして、ユーザー操作判定部152から上記再生開始位置の選択指定に対応した操作指示信号が操作信号生成部153へ出力され、操作信号生成部153がこれに応じて対応する操作信号を上記DVD録画・再生機構140に出力し、対応する位置からの再生動作を行うことができる。
以上説明した本変形例においても、上記実施形態と同様の効果を得ることができる。すなわち、液晶表示部3における遠隔操作器200の位置表示MAをコンテンツ表示CTから再生開始位置を選択指定するためのポインタとして利用することができ、操作者Sは、液晶表示部3から目を離すことなく、遠隔操作器200自体の位置移動という体感的・直感的に非常に分かりやすい動作で、コンテンツ表示CTのうち所望の再生開始位置を容易に選択指定することができる。このとき、従来技術のようにジェスチャーを記憶する必要もなく操作者Sの負担を増大させることがないので、遠隔操作時の利便性を大きく向上することができる。またそれ以外の効果についても、詳細は省略するが上記実施形態とほぼ同様の効果を得ることができる。
なお、上記においては、図40に示したように、液晶表示部3のほぼ全体に実世界映像及びコンテンツ表示CTを大きく表示するとともに、右上部に当該再生開始位置におけるコンテンツ画像CC(あるいは所定チャンネルにおける現在の放映画像)を割り込み表示させたが、これに限られない。すなわち、上記の逆に、図42に示すように、液晶表示部3のほぼ全体に再生開始位置におけるコンテンツ画像CC(あるいは所定チャンネルにおける現在の放映画像)を大きく表示するとともに、右上部に実世界映像及びコンテンツ表示CTを割り込み表示させるようにしてもよい。
さらに、上記のように遠隔操作器200の位置によって再生開始位置を指定するのにも限られず、例えば再生映像や再生音楽の音量、表示画面の明るさ等を指定できるようにしても良い。また再生に限られず、録画開始位置等を指定できるようにしてもよい。
(10)EPGに適用した場合
さらに、上記ポインタの機能は、近年急速に普及しつつある電子番組ガイド(EPG)に適用することもできる。本変形例はそのような場合の例である。
図43は、本変形例の画像表示システムにおいて、画像表示装置1の液晶表示部3の表示の一例を表す図であり、前述の図6や図40に対応する図である。図6と同等の部分には同一の符号を付している。図43において、この例では、画像表示制御装置100又は画像表示装置1側の公知の機能を用いて液晶表示部3に電子番組ガイドEを表示させた状態で、操作者Sがその電子番組ガイドEに表示された所定の番組を視聴することを意図し、手に持った遠隔操作器200の液晶表示部3における位置を電子番組ガイドEの当該番組の領域(枠)に位置させた後(矢印型のマーク参照)、前述の「決定」ボタンを押してその選択指定を確定させた状態を表している。
図44は、上記画像表示制御装置100の機能的構成を表す機能ブロック図である。図44において、画像表示制御装置100は、前述の(9)の変形例の図41に示されたコンテンツ表示作成部154Aに代えて、前述した視聴したい所望の番組を含む電子番組ガイドEを上記液晶表示部3に表示させるための信号を生成する番組表表示作成部154Bが設けられている。
本変形例でも、前述した(9)の変形例と同様、カメラ120からの映像表示信号をもとに画像表示装置1の液晶表示部3に操作者Sがいる実世界が表示された状態において、操作者Sが遠隔操作器200を手に持って操作部201を適宜に操作すると、これに対応する特定の赤外線指示信号(電子番組ガイド表示モードに対応)が赤外線駆動部202から出射され画像表示制御装置100の赤外線受光部101で受光された後、上記FM復調器102、BPF103、パルス復調器104を経てコントローラ150のユーザー指示入力部151に対応する識別コードが入力されて解読される。ユーザー指示入力部151ではこれに対応して番組表表示作成部154Bに作成指示信号を入力し、番組表表示作成部154Bは、これに対応して、DVD録画・再生機構140に対し(あるいはさらにこれを介して画像表示装置1に対し)取得可能な電子番組ガイドについての問い合わせを行ってその情報(電子番組ガイドに表示する番組内容、時間等)を取得した後、画像表示装置1の上記液晶表示部3に図43に一例を示したような所定の態様の電子番組ガイドE(操作対象図象)を表示させるための番組表表示信号(図象表示信号)を生成する。
この番組表表示信号は、前述と同様、映像合成部130によって上記カメラ120の映像信号生成部120bからの映像表示信号と合成され、その合成信号が画像表示装置1へ出力されることで、カメラ120による上記実写映像と上記番組表表示作成部154Bからの電子番組ガイドEとの合成映像が液晶表示部3に表示される(電子番組ガイド表示モード、言い換えれば画面位置選択モードへの移行)。なお、本変形例でも、この電子番組ガイド表示モードへ移行している間(このモードが終了するまで)、遠隔操作器200からは上記した特定の赤外線指示信号(低消費電力)を発信し続けるようになっている。
一方、前述した(9)の変形例と同様、操作者Sの持った遠隔操作器200から発せられる上記特定の赤外線指示信号が赤外線フィルタ付きカメラ110で撮像されて、リモコン位置特定部155において遠隔操作器200が赤外線フィルタ付きカメラ110による撮像中において占める位置が特定され、その位置情報をもとにリモコン位置記号作成部156で位置表示信号が生成されて映像合成部130へと入力され、これによって液晶表示部3に実写されている遠隔操作器200の位置(あるいは近傍)に位置表示MA(矢印型のマーク、上記図43参照)が重ねて表示される。これにより、操作者Sが遠隔操作器200を持ってその位置を移動させる(空間的に存在位置を変える)ことで、液晶表示部3に電子番組ガイドEと重なるようにして表示されている遠隔操作器200の位置表示MAを液晶表示部3上で動かすことができる。
一方、前述した(9)の変形例と同様、上記リモコン位置特定部155で特定した遠隔操作器200の位置情報は上記ユーザー操作判定部152へも入力され、このときユーザー操作判定部152には、上記番組表表示作成部154Bで作成した番組表表示信号の電子番組ガイド表示に関する情報(どのような長さでどのような内容の番組を何時の時間帯にいくつ表示を行っているか等)も入力されている。
上記のように操作者Sが遠隔操作器200を移動させて位置表示MAを液晶表示部3上で動かし、電子番組ガイドEのうち視聴したい番組の表示領域に上記位置表示MAが到達したときにその選択指定を決定すべく操作部201を適宜に操作する(例えば「決定」ボタンを押す)ことで、前述した(9)の変形例と同様、これに対応する赤外線指示信号が赤外線駆動部202から出射され、画像表示制御装置100の赤外線受光部101で受光された後、上記FM復調器102、BPF103、パルス復調器104を経てコントローラ150のユーザー指示入力部151に対応する識別コードが入力されて解読され(指示信号入力手段)、対応して上記ユーザー操作判定部152に決定指示信号が入力される。
上記決定指示信号が入力されたユーザー操作判定部152は、前述した(9)の変形例と同様、リモコン位置特定部155から取得した遠隔操作器200の位置情報と、番組表表示作成部154Bから取得した電子番組ガイド表示情報とに基づき、上記液晶表示部3に表示された電子番組ガイドEのうち選択指定された視聴希望番組の領域(操作指定部位)を決定し(操作部位決定手段)、これに対応する信号を番組表表示作成部154Bへと入力する。番組表表示作成部154Bはその入力された信号に基づき、上記選択指定された番組領域(番組枠)を、それ以外の部位と異なる態様で表示するような番組表表示信号を生成して映像合成部130に出力する。
上記の結果、図2に示したように、この例では当該選択指定された番組領域は他の領域と色が異なって表示されている。そして、ユーザー操作判定部152から上記番組領域の選択指定に対応した操作指示信号が操作信号生成部153へ出力され、操作信号生成部153がこれに応じて対応する操作信号を上記DVD録画・再生機構140を介し画像表示装置1に出力し、対応する番組を画像表示装置1の液晶表示部3に表示させ視聴することができる。
以上説明した本変形例においても、上記実施形態と同様の効果を得ることができる。すなわち、液晶表示部3における遠隔操作器200の位置表示MAを電子番組ガイドEから視聴したい番組を選択指定するためのポインタとして利用することができ、操作者Sは、液晶表示部3から目を離すことなく、遠隔操作器200自体の位置移動という体感的・直感的に非常に分かりやすい動作で、電子番組ガイドEのうち所望の番組の領域を容易に選択指定することができる。このとき、従来技術のようにジェスチャーを記憶する必要もなく操作者Sの負担を増大させることがないので、遠隔操作時の利便性を大きく向上することができる。またそれ以外の効果についても、詳細は省略するが上記実施形態とほぼ同様の効果を得ることができる。
(11)実写画像を省略する場合
以上は、画像表示装置1の液晶表示部3に、赤外線撮像に基づく遠隔操作器200の位置と、カメラによる実世界映像とを重ねて表示し、その状態で上記遠隔操作器200の赤外線像をポインタとして利用したが、前述した、体感的・直感的に非常に分かりやすい動作で操作メニューMEの所望の操作領域を容易に選択指定できるという効果を得る限りにおいては、上記実写映像は必ずしも必要なく、省略してもよい。本変形例はそのような場合の例である。
図45は、本変形例の画像表示システムにおいて、画像表示装置1の液晶表示部3の表示の一例を表す図であり、前述の図6、図40、図43等に対応する図である。図6と同等の部分には同一の符号を付している。なお、説明の便宜と理解の容易のために図6等と同様に操作者Sや遠隔操作器200の実映像を図示しているが、実際はこれは表示されず(二点鎖線参照)、前述の遠隔操作器200の位置表示MA(白矢印)のみが液晶表示部3に表示される。
図45において、この例では、液晶表示部3に前述の操作メニューMEを表示させた状態で、操作者Sがその操作メニューMEに含まれる所定の操作を行うことを意図し、手に持った遠隔操作器200の液晶表示部3における位置を操作メニューMEの対応する操作領域に位置させた後(矢印型のマーク参照)、前述の「決定」ボタンを押してその選択指定を確定させた状態を表している。
図46は、上記画像表示制御装置100の機能的構成を表す機能ブロック図である。図46において、画像表示制御装置100は、上記実施形態の図3に示された構成よりカメラ120を削除するとともに、映像合成部130に代えて信号合成部130Aが設けられている。信号合成部130Aには、前述したリモコン位置記号作成部156からの位置表示信号と、メニュー作成部154からのメニュー表示信号との2つのみが入力され、これらが合成されて画像表示装置1に出力され、これに応じて画像表示装置1の液晶表示部3には図45を用いて説明したような表示が実行される。
すなわち、操作者Sの持った遠隔操作器200から発せられる特定の赤外線指示信号が赤外線像として赤外線フィルタ付きカメラ110で撮像されて認識され、その撮像信号がリモコン位置特定部155に入力され、リモコン位置特定部155が上記認識結果に基づき、遠隔操作器200が赤外線フィルタ付きカメラ110による撮像中において占める位置を特定する。
上記リモコン位置特定部155で特定した遠隔操作器200の位置情報はリモコン位置記号作成部156へ入力され、遠隔操作器200の位置を上記液晶表示部3に表示させるための位置表示信号が生成され、この生成された位置表示信号は上記信号合成部130Aへと入力される。これによって、液晶表示部3において前述した手法でメニュー作成部154からのメニュー表示信号に基づき既に表示されている操作メニューMEに対し、遠隔操作器200の位置に対応した所定の位置表示MA(矢印型のマーク、図45参照)が重ねて表示される。これにより、操作者Sが遠隔操作器200を持ってその位置を移動させる(空間的に存在位置を変える)ことで、液晶表示部3に操作メニューMEと重なるようにして表示されている遠隔操作器200の位置表示MAを液晶表示部3上で動かすことができる。
上記のように操作者Sが手に持った遠隔操作器200を移動させて位置表示MAを液晶表示部3上で動かし、操作メニューMEのうち実行したい操作領域に上記位置表示MAが到達したときにその操作領域の操作を決定すべく操作部201を適宜に操作する(例えば「決定」ボタンを押す)ことで、これに対応する赤外線指示信号が赤外線駆動部202から出射され、画像表示制御装置100の赤外線受光部101で受光された後、上記FM復調器102、BPF103、パルス復調器104を経てコントローラ150のユーザー指示入力部151に対応する識別コードが入力されて解読される(指示信号入力手段)。ユーザー指示入力部151ではこれに対応して上記ユーザー操作判定部152に決定指示信号を入力する。
上記決定指示信号が入力されたユーザー操作判定部152は、前述したリモコン位置特定部155から取得した遠隔操作器200の位置情報と、メニュー作成部154から取得したメニュー表示情報とに基づき、上記液晶表示部3に表示された操作メニューMEのうち選択指定される操作領域(操作指定部位)を決定し(操作部位決定手段)、これに対応する信号をメニュー作成部154へと入力する。メニュー作成部154はその入力された信号に基づき、上記選択指定された操作領域を、それ以外の部位と異なる態様で表示するようなメニュー表示信号を生成して信号合成部130Aに出力する。
その他の動作は、上記実施形態とほぼ同様であるので、説明を省略する。
以上説明した本変形例においても、上記実施形態と同様、画像表示装置1に備えられた液晶表示部3上に、操作メニューMEを表示させるためのメニュー表示信号を生成するメニュー作成部154と、遠隔操作器200の背景から到来する可視光線とは異なる態様又は属性を備え、遠隔操作器200から到来する赤外線信号を、上記可視光線と区別して認識可能な赤外線フィルタ付きカメラ110と、この赤外線フィルタ付きカメラ110における上記赤外線信号の認識結果に基づき、遠隔操作器200が赤外線フィルタ付きカメラ110による撮像中において占める位置を特定するリモコン位置特定部155と、このリモコン位置特定部155で特定した遠隔操作器200の位置を液晶表示部3上に表示させるための位置表示信号を生成するリモコン位置信号作成部156と、リモコン位置特定部155で特定した遠隔操作器200の位置に基づき、液晶表示部3上に表示された操作メニューMEのうち操作領域を決定するユーザー操作判定部152とを有し、これによって、液晶表示部3における遠隔操作器200の位置表示MAを操作メニューMEから操作領域を選択指定するためのポインタとして利用することができる。この結果、操作者Sは、液晶表示部3から目を離すことなく、遠隔操作器200自体の位置移動という体感的・直感的に非常に分かりやすい動作で、操作メニューMEのうち所望の操作領域を容易に選択指定し、対応する操作を行うことができる。このとき、従来技術のようにジェスチャーを記憶する必要もなく操作者Sの負担を増大させることがないので、遠隔操作時の利便性を大きく向上することができる。
(12)有線接続の操作器を用いた場合
以上は、操作者側の携帯型の操作器として、無線遠隔操作を行う(=いわゆるリモコン)の遠隔操作器200を用いた場合を例にとって説明したが、これに限られない。すなわち、画像表示制御装置100と所定のケーブル等により有線接続された携帯型の操作器を用いてもよい。
図47は、この変形例における画像表示制御装置100の機能的構成の一例を表す機能ブロック図であり、上記図3等に相当する図である。図3と同等の部分には同一の符号を付し、適宜説明を省略する。図47において、本変形例では、図3の遠隔操作器200に代えて、同等の機能を果たす有線接続(いわゆるペンダントタイプ)の携帯型の操作器200Aが設けられ、この操作器200Aと上記ユーザー指示入力部151とが適宜の電線やケーブル等によって有線接続されている。これに対応して、図3における赤外線受光部101、FM復調器102、BPF103、パルス復調器104は省略されている。
図47において、本変形例では、操作者Sによる所定の操作指示に対応して操作器200Aから出力された信号は上記ケーブル等を介しユーザー指示入力部151に入力される。そして、ユーザー操作判定部152は、上記ユーザー指示入力部151で入力された信号に対応する操作指示信号を操作信号生成部153へ出力し、操作信号生成部153はその操作指示信号に応じて、対応する操作信号を生成し、前述したDVD録画・再生機構140に出力する。その他の動作は上記実施形態と同様であるので説明を省略する。
以上説明した本変形例においても、上記実施形態と同様、画像表示装置1に備えられた液晶表示部3上に、操作メニューMEを表示させるためのメニュー表示信号を生成するメニュー作成部154と、操作器200Aの背景から到来する可視光線とは異なる態様又は属性を備え、操作器200Aから到来する赤外線信号を、上記可視光線と区別して認識可能な赤外線フィルタ付きカメラ110と、この赤外線フィルタ付きカメラ110における上記赤外線信号の認識結果に基づき、操作器200Aが赤外線フィルタ付きカメラ110による撮像中において占める位置を特定するリモコン位置特定部155と、このリモコン位置特定部155で特定した操作器200Aの位置を液晶表示部3上に表示させるための位置表示信号を生成するリモコン位置信号作成部156と、リモコン位置特定部155で特定した操作器200Aの位置に基づき、液晶表示部3上に表示された操作メニューMEのうち操作領域を決定するユーザー操作判定部152とを有し、これによって、液晶表示部3における操作器200Aの位置表示MAを操作メニューMEから操作領域を選択指定するためのポインタとして利用することができる。この結果、操作者Sは、液晶表示部3から目を離すことなく、操作器200A自体の位置移動という体感的・直感的に非常に分かりやすい動作で、操作メニューMEのうち所望の操作領域を容易に選択指定し、対応する操作を行うことができる。このとき、従来技術のようにジェスチャーを記憶する必要もなく操作者Sの負担を増大させることがないので、遠隔操作時の利便性を大きく向上することができる。
(13)その他
(1)操作メニュー等から選択指定できる範囲を制限する場合
例えば図6等において液晶表示部3に表示された操作メニューMEに含まれる複数の操作領域のうち、いくつかの操作領域を選択指定できないように制限してもよい。図48は、そのような場合の液晶表示部3の表示例を表しており、この場合操作メニューMEに含まれる「時計(時刻セット)」「録画」「編集」「番組表」「再生」「予約」「ダビング」「消去」「その他」の各領域のうち、「ダビング」「消去」「その他」については文字表示が他のものと異なる態様(この例では白抜き表記)となっているとともに、各領域には前述のカメラ120による実写映像を表示していない(言い換えればそのような表示となるようなメニュー表示信号をメニュー作成部154が生成している)。すなわち、選択可能範囲のみに限定して実世界を投影するようになっている。これにより、選択指定可能な領域と、そうでない領域とが操作者Sにとって一目瞭然になる。
(2)すべての操作領域を遠隔操作器の狭い移動範囲で選択可能とした例
例えば図6等において、液晶表示部3のほぼ全面にわたって表示される操作メニューMEの「時計(時刻セット)」「録画」「編集」「番組表」「再生」「予約」「ダビング」「消去」「その他」の各領域をすべて選択指定可能とするには、図6に示されるように、操作者Sは同一箇所で左右に手をいっぱいに伸ばして遠隔操作器200を左右に移動させるか、場合によってはそれでも足りずに操作者S自らが部屋の中で歩いて移動しなければならない。
本変形例はこれに対応し、なるべく少ない遠隔操作器200の移動量ですべての操作領域の選択指定を可能とするものである。この例では、公知の顔画像認識技術を用い、前述のメニュー選択モードに入った時にまず遠隔操作器200の近くにある顔を検出して認識した後、その位置からある程度下の部分のみが操作範囲となるように、前述したカメラ120の映像信号生成部120bが映像信号を加工して映像合成部130へ出力する。この結果、画像表示装置1の液晶表示部3には、図49に示すように、通常の形状の操作メニューMEと、操作者Sの上記首から下の比較的小さい範囲が液晶表示部3のほぼ全面にわたるように加工された(この例では上下方向に大きく拡大、さらに左右方向にも若干拡大するように歪められた)背景(部屋)BGの上記加工後の実写映像とが表示されている。このようにすることで、操作者Sはより小さな遠隔操作器200移動挙動(この例では首下の比較的小さい範囲での移動)で希望の操作領域を選択指定できる。さらに、操作範囲を操作者Sの位置に応じて特定することで、操作に必要な遠隔操作器200の移動量を減らすことも可能である。
(3)各映像の重ね合わせ方のバリエーション
上記においては、例えば上記図6等に示すように、操作メニューMEと、遠隔操作器200の位置表示MAと、カメラ210で撮像した遠隔操作器200の背景BGの実写映像とを、すべて重ね合わせるようにして液晶表示部3にて表示したが、これに限られない。すなわち、位置表示MAを操作メニューMEのポインタとして利用し、操作者Sが液晶表示部3から目を離さず、遠隔操作器200自体の位置移動という体感的・直感的に非常に分かりやすい動作で操作領域を容易に選択指定できるという効果を得る限りにおいては、上記は必ずしも必要ではない。すなわち例えば、それら遠隔操作器200の位置表示MA、操作メニューME、背景BGの実写映像のうち2つは液晶表示部3上で同一領域に重ねて表示するが残りの1つはそれらの横に(又は割り込むようにして)別画面又は別ウィンドウにて表示してもよい。あるいは上記3つをすべてバラバラに横並び(又は割り込むようにして)別画面又は別ウィンドウにて表示するようにしてもよい。この場合でも、同一の液晶表示部3において、ほぼ同時に操作者Sが閲覧できるように一覧表示するようにすれば、上記効果を得ることができる。
(4)録画による実写映像を用いる場合
例えば上記実施形態等においては、遠隔操作器200の背景BGの実写映像を通常のカメラ120で(リアルタイムで)撮影してその映像表示信号を映像合成部130へ出力し、赤外線フィルタ付きカメラ110での撮像に基づくリモコン位置記号作成部156からの遠隔操作器200の位置情報信号や、メニュー作成部154からのメニュー表示信号と合成して、液晶表示部3における表示を行ったが、これに限られない。
すなわち、背景BGに時間的に大きな変動がない、あるいは、それほど厳密な背景BGの映像を必要としない等の場合には、1台のカメラのみを用意しておき、まずあらかじめ背景BGのみの画像を撮影し(=上記カメラ120と同等の機能として使用)これを適宜の録画手段に録画しておく。その後、そのカメラに赤外線フィルタをつけて遠隔操作器200の赤外線像を撮像し(=上記カメラ110と同等の機能として使用)、前述した録画手段に録画した画像を再生してその映像表示信号を映像合成部130へ出力しつつ、これに対して、上記赤外線フィルタを取り付けたカメラでの撮像に基づくリモコン位置記号作成部156からの遠隔操作器200の位置情報信号と、メニュー作成部154からのメニュー表示信号とを上記映像合成部130で合成し、液晶表示部3における表示を行うようにしてもよい。
この場合、実写映像については遠隔操作器200や操作者Sの存在しない背景BGのみの画像となり、これに対して操作メニューME及び遠隔操作器位置表示MAが重ねて表示されることとなるが、上記実施形態と同様、位置表示MAを操作メニューMEのポインタとして利用し、操作者Sが液晶表示部3から目を離さず、遠隔操作器200自体の位置移動という体感的・直感的に非常に分かりやすい動作で操作領域を容易に選択指定できるという効果を得ることができる。またカメラが1台で足りることからより安価にシステムを構築できるという効果もある。
(5)反射光を利用する場合
以上においては、遠隔操作器200自らが第2光線としての赤外線を発光したが、これに限られず、例えば赤外線を画像表示制御装置100側(あるいはさらに別の装置)から投影し、遠隔操作器200はこの赤外線を反射することで画像表示制御装置100側に赤外線像や赤外線指示信号(あるいはそれらのうち一方)を伝達するようにしても良い。この場合も上記実施形態と同様の効果を得られるとともに、遠隔操作器200側に赤外線発光機能がいらなくなることから、電源を不要にできるという効果も得られる。
(6)赤外線以外の光線を使用する場合
上記においては、遠隔操作器200の背景BGからカメラ120等に入射する第1光線を通常の可視光線、遠隔操作器200からカメラ110等に入射する第2光線を赤外線としたが、これに限られない。例えば第2光線は、可視光線と波長の異なる光(=可視光線の波長範囲外となる波長を備えた光)、たとえば紫外線等の他の光線としてもよい。また必ずしも波長などの属性が異なる必要もなく、例えば第1光線は連続性の通常の可視光線、第2光線は断続的に発光される断続性の可視光線とする等、互いに態様のみが異なる同じ属性の光としてもよい。さらには例えば背景が真っ白である等、背景から到来する第1光線がある決まった属性をとる場合に、これと異なる属性(例えば真っ赤な色等)をとる可視光線を第2光線に用いてもよい。要は第2光線は第1光線と区別して認識可能な属性又は態様を備えていれば足り、これによって上記同様、体感的・直感的に非常に分かりやすい動作で操作領域を容易に選択指定できるという効果を得ることができる。
(7)他のAV機器等への適用
以上は、画像表示制御装置100がDVDプレイヤー/レコーダーである例を説明したが、これには限られない。すなわち、画像表示制御装置100は、ビデオデッキ、CDプレイヤー/レコーダー、MDプレイヤー/レコーダー等の映像出力装置、コンテンツ再生装置、その他画像表示装置1へ映像出力機能を備えた制御装置であればよく、例えばビデオデッキ、CDプレイヤー/レコーダー、MDプレイヤー/レコーダー等の場合は、公知のビデオテープ、CD、MDの録画・再生機構やそれらビデオテープ、CD、MDの収納部等が筐体101内に設けられている。
さらに、一般家庭で用いられるものにも限られず、事業所、研究所等で用いられるものに適用してもよいし、さらに固定的に配置されるものにも限られず、車両搭載用のオーディオ機器等の各種機器に適用しても良い。
(8)表示制御装置と表示装置の一体化
以上は、画像表示制御装置100と画像表示装置1とが別体であり、それぞれに機能分化してシステムが構成されている場合を例にとって説明したが、これに限られない。すなわち、画像表示制御装置100の機能を画像表示装置1に組み込んだ1つの画像表示装置として構成してもよい。
この場合、上記図象表示信号生成手段としてのメニュー作成部154の機能や、位置表示信号生成手段としてのリモコン位置記号作成部156の機能等がすべて当該画像表示装置の中に組み込まれることから、本発明の技術思想は、表示画面と、この表示画面上に、操作対象図象を表示させる図象表示制御手段と、携帯型の操作器の背景から到来する第1光線とは異なる態様又は属性を備え、前記操作器から到来する第2光線を、前記第1光線と区別して認識可能な第2光線撮像手段と、この第2光線撮像手段における前記第2光線の認識結果に基づき、前記操作器が前記第2光線撮像手段による撮像中において占める位置を特定する位置特定手段と、この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させる位置表示制御手段と、前記位置特定手段で特定した前記操作器の位置に基づき、前記表示画面上に表示された前記操作対象図象のうち操作指定部位を決定する操作部位決定手段とを有することを特徴とする画像表示装置として具現化してとらえることができる。
その他、一々例示はしないが、本発明は、その趣旨を逸脱しない範囲内において、種々の変更が加えられて実施されるものである。
上記目的を達成するために、請求項1記載の発明は、画像表示装置に備えられた表示画面上に、操作対象図象を表示させるための図象表示信号を生成する図象表示信号生成手段と、携帯型の操作器の背景から到来する第1光線とは異なる態様又は属性を備え、前記操作器から到来する第2光線を、前記第1光線と区別して認識可能な第2光線撮像手段と、この第2光線撮像手段における前記第2光線の認識結果に基づき、前記操作器が前記第2光線撮像手段による撮像中において占める位置を特定する位置特定手段と、この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させるための位置表示信号を生成する位置表示信号生成手段と、前記位置特定手段で特定した前記操作器の位置に基づき、前記表示画面上に表示された前記操作対象図象のうち操作指定部位を決定する操作部位決定手段と、前記操作器の背景から到来する前記第1光線を撮影する第1光線撮像手段とを有することを特徴とする。
上記目的を達成するために、請求項20記載の発明は、表示画面と、この表示画面上に、操作対象図象を表示させる図象表示制御手段と、携帯型の操作器の背景から到来する第1光線とは異なる態様又は属性を備え、前記操作器から到来する第2光線を、前記第1光線と区別して認識可能な第2光線撮像手段と、この第2光線撮像手段における前記第2光線の認識結果に基づき、前記操作器が前記第2光線撮像手段による撮像中において占める位置を特定する位置特定手段と、この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させる位置表示制御手段と、前記位置特定手段で特定した前記操作器の位置に基づき、前記表示画面上に表示された前記操作対象図象のうち操作指定部位を決定する操作部位決定手段と、前記操作器の背景から到来する前記第1光線を撮影する第1光線撮像手段とを有することを特徴とする。
上記目的を達成するために、請求項21記載の発明は、画像表示操作を行うための携帯型の遠隔操作器であって、通常の可視光線とは異なる態様又は属性の光信号を生成する光信号生成手段と、この光信号生成手段で生成した前記光信号を、当該光信号を前記通常の可視光線と区別して認識可能な第2光線撮像手段;表示画面上に操作対象図象を表示させるための信号を生成する第1手段;前記第2光線撮像手段における前記光信号の認識結果に基づき、前記遠隔操作器の背景の映像中において前記遠隔操作器が前記第2光線撮像手段による撮像中において占める位置を特定し前記表示画面上に表示させるための信号を生成する第2手段;前記特定された前記遠隔操作器の位置に基づき、前記表示画面上に表示された前記操作対象図象のうち操作指定部位を決定して表示するための信号を生成する第3手段;前記遠隔操作器の背景から到来する前記通常の可視光線を撮影する第1光線撮像手段;を備えた画像表示制御装置へ送信する光信号送信手段とを有することを特徴とする。
上記目的を達成するために、請求項22記載の発明は、携帯型の操作器と、この操作器の操作に基づき画像表示を行うための信号を生成する画像表示制御装置とを有する画像表示システムであって、前記画像表示制御装置は、画像表示装置に備えられた表示画面上に、操作対象図象を表示させるための図象表示信号を生成する図象表示信号生成手段と、前記操作器の背景から到来する第1光線とは異なる態様又は属性を備え、前記操作器から到来する第2光線を、前記第1光線と区別して認識可能な第2光線撮像手段と、この第2光線撮像手段における前記第2光線の認識結果に基づき、前記操作器が第2光線撮像手段による撮像中において占める位置を特定する位置特定手段と、この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させるための位置表示信号を生成する位置表示信号生成手段と、前記位置特定手段で特定した前記操作器の位置に基づき、前記表示画面上に表示された前記操作対象図象のうち操作指定部位を決定する操作部位決定手段と、前記操作器の背景から到来する前記第1光線を撮影する第1光線撮像手段とを有することを特徴とする。
上記目的を達成するために、請求項23記載の発明の画像表示システムは、携帯型の操作器と、画像表示装置に備えられた表示画面上に、操作対象図象を表示させるための図象表示信号を生成する図象表示信号生成手段と、前記操作器の背景から到来する第1光線とは異なる態様又は属性を備え、前記操作器から到来する第2光線を、前記第1光線と区別して認識可能な第2光線撮像手段と、この第2光線撮像手段における前記第2光線の認識結果に基づき、前記操作器が前記第2光線撮像手段による撮像中において占める位置を特定する位置特定手段と、この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させるための位置表示信号を生成する位置表示信号生成手段と、前記位置特定手段で特定した前記操作器の位置に基づき、前記操作対象図象のうち操作指定部位を決定する操作部位決定手段と、前記操作器の背景から到来する前記第1光線を撮影する第1光線撮像手段とを有することを特徴とする。

Claims (24)

  1. 画像表示装置に備えられた表示画面上に、操作対象図象を表示させるための図象表示信号を生成する図象表示信号生成手段と、
    携帯型の操作器の背景から到来する第1光線とは異なる態様又は属性を備え、前記操作器から到来する第2光線を、前記第1光線と区別して認識可能な第2光線撮像手段と、
    この第2光線撮像手段における前記第2光線の認識結果に基づき、前記操作器が前記第2光線撮像手段による撮像中において占める位置を特定する位置特定手段と、
    この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させるための位置表示信号を生成する位置表示信号生成手段と、
    前記位置特定手段で特定した前記操作器の位置に基づき、前記表示画面上に表示された前記操作対象図象のうち操作指定部位を決定する操作部位決定手段と
    を有することを特徴とする画像表示制御装置。
  2. 請求項1記載の画像表示制御装置において、
    前記第2光線撮像手段は、無線通信により信号送受を行う遠隔式の前記操作器から到来する前記第2光線を、前記第1光線と区別して認識可能であることを特徴とする画像表示制御装置。
  3. 請求項1又は2記載の画像表示制御装置において、
    前記図象表示信号生成手段は、前記操作対象図象のうち前記操作部位決定手段で決定した前記操作指定部位を、それ以外の部位と異なる態様で前記表示画面に表示するような前記図象表示信号を生成することを特徴とする画像表示制御装置。
  4. 請求項1乃至3のいずれか1項記載の画像表示制御装置において、
    前記操作器の背景から到来する前記第1光線を撮影する第1光線撮像手段を有することを特徴とする画像表示制御装置。
  5. 請求項4記載の画像表示制御装置において、
    前記第1光線撮像手段で撮影した前記操作器の背景を前記表示画面上に表示させるための映像表示信号を生成する映像表示信号生成手段を有することを特徴とする画像表示制御装置。
  6. 請求項5記載の画像表示制御装置において、
    前記図象表示信号生成手段、前記位置表示信号生成手段、前記映像表示信号生成手段は、前記操作対象図象、前記操作器の位置、前記操作器の背景を、前記表示画面上にすべて重ね合わせるように表示するような、前記図象表示信号、前記位置表示信号、前記映像表示信号を生成することを特徴とする画像表示制御装置。
  7. 請求項6記載の画像表示制御装置において、
    前記映像表示信号生成手段で生成した前記映像表示信号における前記操作器の背景の一部分を抽出し、前記表示画面上に拡大表示可能とするための抽出処理手段を有する
    ことを特徴とする画像表示制御装置。
  8. 請求項7記載の画像表示制御装置において、
    前記操作器との距離を検出する距離検出手段を有し、
    前記抽出処理手段は、
    前記距離検出手段の検出結果に応じて、前記抽出及び拡大の態様を決定することを特徴とする画像表示制御装置。
  9. 請求項7記載の画像表示制御装置において、
    前記抽出処理手段は、
    前記映像表示信号生成手段で生成した前記映像表示信号、若しくは、前記位置特定手段による位置特定結果に基づき認識される前記操作器の移動情報に応じて、前記抽出及び拡大の態様を決定することを特徴とする画像表示制御装置。
  10. 請求項7記載の画像表示制御装置において、
    前記抽出処理手段は、
    前記映像表示信号生成手段で生成した前記映像表示信号において前記操作器との間に介在する障害物の映像を回避するように、前記抽出及び拡大の態様を決定することを特徴とする画像表示制御装置。
  11. 請求項6記載の画像表示制御装置において、
    前記図象表示信号生成手段で生成した前記操作対象図象の前記表示画面上における表示位置を、前記映像表示信号生成手段で生成した前記映像表示信号において前記操作器との間に介在する障害物の映像を回避するように設定するための図象位置設定手段を有する
    ことを特徴とする画像表示制御装置。
  12. 請求項6乃至11のいずれか1項記載の画像表示制御装置において、
    前記位置特定手段による位置特定結果に基づき認識される前記操作器の移動情報に基づき、特定された位置とは異なる前記操作器の予想移動位置を設定する予想位置設定手段を有する
    ことを特徴とする画像表示制御装置。
  13. 請求項12記載の画像表示制御装置において、
    前記予想位置設定手段は、
    前記操作器の移動時に前記位置特定手段により順次特定される隣接する2点の中間部となるように、前記予想移動位置を設定する
    ことを特徴とする画像表示制御装置。
  14. 請求項12記載の画像表示制御装置において、
    前記予想位置設定手段は、
    前記操作器の移動時に前記位置特定手段により順次特定される移動方向延長線上となるように、前記予想移動位置を設定する
    ことを特徴とする画像表示制御装置。
  15. 請求項5乃至14のいずれか1項記載の画像表示制御装置において、
    前記第2光線撮像手段は、前記第2光線として、可視光線の波長範囲外となる波長を備えた光を受光し認識することを特徴とする画像表示制御装置。
  16. 請求項15記載の画像表示制御装置において、
    前記第2光線撮像手段は、前記第1光線としての可視光線と区別して前記第2光線としての赤外線を認識可能な赤外線フィルタ付きカメラであることを特徴とする画像表示制御装置。
  17. 請求項15記載の画像表示制御装置において、
    前記第2光線撮像手段は、前記第1光線としての可視光線に対する感度よりも前記第2光線としての赤外線に対する感度が高く設定され、前記第1光線撮像手段を兼ねた赤外線高感度カメラであることを特徴とする画像表示制御装置。
  18. 請求項5乃至17のいずれか1項記載の画像表示制御装置において、
    前記第1光線撮像手段による撮影結果と、前記第2光線撮像手段による撮影結果とに応じて、前記位置特定手段の特定に基づく前記操作器の位置若しくは前記映像表示信号生成手段で生成した映像表示信号を補正する補正手段を有することを特徴とする画像表示制御装置。
  19. 請求項1乃至18のいずれか1項記載の画像表示制御装置において、
    前記操作器からの決定指示信号を入力する指示信号入力手段を有し、
    前記操作部位決定手段は、前記位置特定手段で特定した前記操作器の位置と、前記指示信号入力手段で入力した前記決定指示信号とに応じて、前記操作対象図象のうちの前記操作指定部位を決定することを特徴とする画像表示制御装置。
  20. 請求項1乃至19のいずれか1項記載の画像表示制御装置において、
    前記第2光線撮像手段は、前記第2光線として、前記操作器の発光した所定の光信号を受光し認識することを特徴とする画像表示制御装置。
  21. 表示画面と、
    この表示画面上に、操作対象図象を表示させる図象表示制御手段と、
    携帯型の操作器の背景から到来する第1光線とは異なる態様又は属性を備え、前記操作器から到来する第2光線を、前記第1光線と区別して認識可能な第2光線撮像手段と、
    この第2光線撮像手段における前記第2光線の認識結果に基づき、前記操作器が前記第2光線撮像手段による撮像中において占める位置を特定する位置特定手段と、
    この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させる位置表示制御手段と、
    前記位置特定手段で特定した前記操作器の位置に基づき、前記表示画面上に表示された前記操作対象図象のうち操作指定部位を決定する操作部位決定手段と
    を有することを特徴とする画像表示装置。
  22. 画像表示操作を行うための携帯型の遠隔操作器であって、
    通常の可視光線とは異なる態様又は属性の光信号を生成する光信号生成手段と、
    この光信号生成手段で生成した前記光信号を、当該光信号を前記通常の可視光線と区別して認識可能な第2光線撮像手段;表示画面上に操作対象図象を表示させるための信号を生成する第1手段;前記第2光線撮像手段における前記光信号の認識結果に基づき、前記遠隔操作器の背景の映像中において前記遠隔操作器が前記第2光線撮像手段による撮像中において占める位置を特定し前記表示画面上に表示させるための信号を生成する第2手段;前記特定された前記遠隔操作器の位置に基づき、前記表示画面上に表示された前記操作対象図象のうち操作指定部位を決定して表示するための信号を生成する第3手段;を備えた画像表示制御装置へ送信する光信号送信手段と
    を有することを特徴とする遠隔操作器。
  23. 携帯型の操作器と、この操作器の操作に基づき画像表示を行うための信号を生成する画像表示制御装置とを有する画像表示システムであって、
    前記画像表示制御装置は、
    画像表示装置に備えられた表示画面上に、操作対象図象を表示させるための図象表示信号を生成する図象表示信号生成手段と、前記操作器の背景から到来する第1光線とは異なる態様又は属性を備え、前記操作器から到来する第2光線を、前記第1光線と区別して認識可能な第2光線撮像手段と、この第2光線撮像手段における前記第2光線の認識結果に基づき、前記操作器が第2光線撮像手段による撮像中において占める位置を特定する位置特定手段と、この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させるための位置表示信号を生成する位置表示信号生成手段と、前記位置特定手段で特定した前記操作器の位置に基づき、前記表示画面上に表示された前記操作対象図象のうち操作指定部位を決定する操作部位決定手段とを有することを特徴とする画像表示システム。
  24. 携帯型の操作器と、
    画像表示装置に備えられた表示画面上に、操作対象図象を表示させるための図象表示信号を生成する図象表示信号生成手段と、
    前記操作器の背景から到来する第1光線とは異なる態様又は属性を備え、前記操作器から到来する第2光線を、前記第1光線と区別して認識可能な第2光線撮像手段と、
    この第2光線撮像手段における前記第2光線の認識結果に基づき、前記操作器が前記第2光線撮像手段による撮像中において占める位置を特定する位置特定手段と、
    この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させるための位置表示信号を生成する位置表示信号生成手段と、
    前記位置特定手段で特定した前記操作器の位置に基づき、前記操作対象図象のうち操作指定部位を決定する操作部位決定手段と
    を有することを特徴とする画像表示システム。
JP2007526938A 2005-07-29 2006-07-31 画像表示制御装置及び画像表示装置 Expired - Fee Related JP4712804B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007526938A JP4712804B2 (ja) 2005-07-29 2006-07-31 画像表示制御装置及び画像表示装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2005219743 2005-07-29
JP2005219743 2005-07-29
PCT/JP2006/315134 WO2007013652A1 (ja) 2005-07-29 2006-07-31 画像表示制御装置、画像表示装置、遠隔操作器、画像表示システム
JP2007526938A JP4712804B2 (ja) 2005-07-29 2006-07-31 画像表示制御装置及び画像表示装置

Publications (2)

Publication Number Publication Date
JPWO2007013652A1 true JPWO2007013652A1 (ja) 2009-02-12
JP4712804B2 JP4712804B2 (ja) 2011-06-29

Family

ID=37683532

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007526938A Expired - Fee Related JP4712804B2 (ja) 2005-07-29 2006-07-31 画像表示制御装置及び画像表示装置

Country Status (3)

Country Link
US (1) US20100141578A1 (ja)
JP (1) JP4712804B2 (ja)
WO (1) WO2007013652A1 (ja)

Families Citing this family (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101451271B1 (ko) 2007-10-30 2014-10-16 삼성전자주식회사 방송수신장치 및 그 제어방법
US8669938B2 (en) * 2007-11-20 2014-03-11 Naturalpoint, Inc. Approach for offset motion-based control of a computer
JP2009218910A (ja) * 2008-03-11 2009-09-24 Mega Chips Corp 遠隔制御可能機器
JP2011523138A (ja) * 2008-06-04 2011-08-04 ヒューレット−パッカード デベロップメント カンパニー エル.ピー. コンピュータを遠隔制御するためのシステム及び方法
TWI400630B (zh) 2008-08-11 2013-07-01 Imu Solutions Inc 選擇裝置及方法
JP4697279B2 (ja) * 2008-09-12 2011-06-08 ソニー株式会社 画像表示装置および検出方法
US20100201808A1 (en) * 2009-02-09 2010-08-12 Microsoft Corporation Camera based motion sensing system
US8525785B1 (en) * 2009-03-10 2013-09-03 I-Interactive Llc Multi-directional remote control system and method with highly accurate tracking
JP5540537B2 (ja) * 2009-03-24 2014-07-02 株式会社オートネットワーク技術研究所 制御装置、制御方法及びコンピュータプログラム
JP5300555B2 (ja) * 2009-03-26 2013-09-25 三洋電機株式会社 情報表示装置
US8902280B2 (en) * 2009-04-16 2014-12-02 Hewlett-Packard Development Company, L.P. Communicating visual representations in virtual collaboration systems
CN104635922A (zh) * 2009-08-10 2015-05-20 晶翔微系统股份有限公司 指令装置
US8438503B2 (en) * 2009-09-02 2013-05-07 Universal Electronics Inc. System and method for enhanced command input
WO2011061975A1 (ja) * 2009-11-19 2011-05-26 シャープ株式会社 画像表示システム
US8861797B2 (en) * 2010-11-12 2014-10-14 At&T Intellectual Property I, L.P. Calibrating vision systems
US8907287B2 (en) * 2010-12-01 2014-12-09 Hill-Rom Services, Inc. Patient monitoring system
BR112013020993A2 (pt) * 2011-02-21 2019-01-08 Koninl Philips Electronics Nv aparelho para estimar pelo menos uma característica de controle de um controle remoto, controle remoto, método de estimativa de pelo menos uma característica de controle de um controle remoto, produto de programa de computador e meio de armazenagem
US8928589B2 (en) * 2011-04-20 2015-01-06 Qualcomm Incorporated Virtual keyboards and methods of providing the same
JP2012242948A (ja) * 2011-05-17 2012-12-10 Sony Corp 表示制御装置および方法、並びにプログラム
EP2611152A3 (en) * 2011-12-28 2014-10-15 Samsung Electronics Co., Ltd. Display apparatus, image processing system, display method and imaging processing thereof
US20130194394A1 (en) * 2012-02-01 2013-08-01 Peter Rae Shintani Energy Conserving Display
JP5935529B2 (ja) 2012-06-13 2016-06-15 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
WO2014073384A1 (ja) * 2012-11-06 2014-05-15 株式会社ソニー・コンピュータエンタテインメント 情報処理装置
FR2999847A1 (fr) 2012-12-17 2014-06-20 Thomson Licensing Procede d'activation d'un dispositif mobile dans un reseau, dispositif d'affichage et systeme associes
SG11201506126VA (en) * 2013-02-07 2015-09-29 Dizmo Ag System for organizing and displaying information on a display device
US9154722B1 (en) * 2013-03-13 2015-10-06 Yume, Inc. Video playback with split-screen action bar functionality
KR20150137452A (ko) * 2014-05-29 2015-12-09 삼성전자주식회사 디스플레이 장치 제어 방법 및 이를 위한 원격 제어 장치
US20150373408A1 (en) * 2014-06-24 2015-12-24 Comcast Cable Communications, Llc Command source user identification
KR20160126452A (ko) * 2015-04-23 2016-11-02 엘지전자 주식회사 복수의 디바이스에 대한 원격제어를 수행할 수 있는 원격제어장치
JP6390504B2 (ja) * 2015-04-28 2018-09-19 京セラドキュメントソリューションズ株式会社 電子機器及び操作画面表示プログラム
TWI594146B (zh) * 2015-06-17 2017-08-01 鴻海精密工業股份有限公司 遙控器的文字輸入方法
WO2017007206A1 (ko) * 2015-07-03 2017-01-12 (주)노바빈 관람자 관계형 동영상 제작 장치 및 제작 방법
US20170097627A1 (en) * 2015-10-02 2017-04-06 Southwire Company, Llc Safety switch system
US9918129B2 (en) 2016-07-27 2018-03-13 The Directv Group, Inc. Apparatus and method for providing programming information for media content to a wearable device
KR101904223B1 (ko) * 2016-11-22 2018-10-04 주식회사 매크론 적외선 조명과 재귀반사시트를 이용한 리모트 컨트롤러 제어 방법 및 그 장치
US11509951B2 (en) * 2017-11-27 2022-11-22 Sony Corporation Control device, control method, and electronic device
US11361656B2 (en) * 2020-08-28 2022-06-14 Greenlee Tools, Inc. Wireless control in a cable feeder and puller system
CN114323089A (zh) * 2020-10-12 2022-04-12 群创光电股份有限公司 光检测元件
TWI783529B (zh) * 2021-06-18 2022-11-11 明基電通股份有限公司 模式切換方法及其顯示設備

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0675695A (ja) * 1992-06-26 1994-03-18 Sanyo Electric Co Ltd カーソル制御装置
JPH06153017A (ja) * 1992-11-02 1994-05-31 Sanyo Electric Co Ltd 機器の遠隔制御装置
JPH09185456A (ja) * 1995-04-28 1997-07-15 Matsushita Electric Ind Co Ltd インターフェイス装置
JP2000010696A (ja) * 1998-06-22 2000-01-14 Sony Corp 画像処理装置および方法、並びに提供媒体
JP2002149302A (ja) * 2000-11-09 2002-05-24 Sharp Corp インターフェース装置およびインターフェース処理プログラムを記録した記録媒体
JP2004258766A (ja) * 2003-02-24 2004-09-16 Nippon Telegr & Teleph Corp <Ntt> 自己画像表示を用いたインタフェースにおけるメニュー表示方法、装置、プログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5448261A (en) * 1992-06-12 1995-09-05 Sanyo Electric Co., Ltd. Cursor control device
DE69634913T2 (de) * 1995-04-28 2006-01-05 Matsushita Electric Industrial Co., Ltd., Kadoma Schnittstellenvorrichtung
JPH0937357A (ja) * 1995-07-15 1997-02-07 Nec Corp 位置検出機能付リモコンシステム
JP4035610B2 (ja) * 2002-12-18 2008-01-23 独立行政法人産業技術総合研究所 インタフェース装置
JP2004258837A (ja) * 2003-02-25 2004-09-16 Nippon Hoso Kyokai <Nhk> カーソル操作装置、その方法およびそのプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0675695A (ja) * 1992-06-26 1994-03-18 Sanyo Electric Co Ltd カーソル制御装置
JPH06153017A (ja) * 1992-11-02 1994-05-31 Sanyo Electric Co Ltd 機器の遠隔制御装置
JPH09185456A (ja) * 1995-04-28 1997-07-15 Matsushita Electric Ind Co Ltd インターフェイス装置
JP2000010696A (ja) * 1998-06-22 2000-01-14 Sony Corp 画像処理装置および方法、並びに提供媒体
JP2002149302A (ja) * 2000-11-09 2002-05-24 Sharp Corp インターフェース装置およびインターフェース処理プログラムを記録した記録媒体
JP2004258766A (ja) * 2003-02-24 2004-09-16 Nippon Telegr & Teleph Corp <Ntt> 自己画像表示を用いたインタフェースにおけるメニュー表示方法、装置、プログラム

Also Published As

Publication number Publication date
JP4712804B2 (ja) 2011-06-29
WO2007013652A1 (ja) 2007-02-01
US20100141578A1 (en) 2010-06-10

Similar Documents

Publication Publication Date Title
JP4712804B2 (ja) 画像表示制御装置及び画像表示装置
US9479721B2 (en) Systems and methods for hand gesture control of an electronic device
KR101657565B1 (ko) 증강 원격제어장치 및 그 동작 방법
JP4720874B2 (ja) 情報処理装置、情報処理方法および情報処理プログラム
KR101730881B1 (ko) 증강 원격제어장치 및 그 동작 방법
US9081420B2 (en) Video reproduction apparatus and video reproduction method
US20080198142A1 (en) Image processing apparatus and method
JP2003316510A (ja) 表示画面上に指示されたポイントを表示する表示装置、及び表示プログラム。
KR20150104711A (ko) 디스플레이 장치 및 그의 동작 방법
KR20240010068A (ko) 디스플레이 장치
KR100860964B1 (ko) 멀티미디어 컨텐츠 재생 장치 및 방법
KR102187745B1 (ko) 영상제공장치, 및 그 동작방법
US20060197745A1 (en) Remote control device and display control device
KR101694166B1 (ko) 증강 원격제어장치 및 그 동작 방법
JP2006222613A (ja) 遠隔制御装置及び被制御装置並びに制御システム
KR20210030470A (ko) 디스플레이 장치
KR20180054052A (ko) 디스플레이 장치 및 그의 동작 방법
KR20180043139A (ko) 디스플레이 장치 및 그의 동작 방법
KR20170108653A (ko) 디스플레이 장치 및 그의 동작 방법
KR102650267B1 (ko) 디스플레이 장치 및 그의 동작 방법
KR20170111003A (ko) 디스플레이 장치 및 그의 동작 방법
KR20240044943A (ko) 투명 디스플레이 장치
JP5119172B2 (ja) 入力操作制御装置および方法
KR20180046643A (ko) 디스플레이 장치 및 그의 동작 방법
JPH07325699A (ja) 表示制御方法および装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110106

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110223

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110323

LAPS Cancellation because of no payment of annual fees