JP6222830B2 - 画像投射装置 - Google Patents

画像投射装置 Download PDF

Info

Publication number
JP6222830B2
JP6222830B2 JP2013270922A JP2013270922A JP6222830B2 JP 6222830 B2 JP6222830 B2 JP 6222830B2 JP 2013270922 A JP2013270922 A JP 2013270922A JP 2013270922 A JP2013270922 A JP 2013270922A JP 6222830 B2 JP6222830 B2 JP 6222830B2
Authority
JP
Japan
Prior art keywords
gesture
detection
image
projection apparatus
image projection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013270922A
Other languages
English (en)
Other versions
JP2015125670A5 (ja
JP2015125670A (ja
Inventor
将史 山本
将史 山本
瀬尾 欣穂
欣穂 瀬尾
浦田 浩之
浩之 浦田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Maxell Holdings Ltd
Original Assignee
Maxell Holdings Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Maxell Holdings Ltd filed Critical Maxell Holdings Ltd
Priority to JP2013270922A priority Critical patent/JP6222830B2/ja
Priority to US14/552,020 priority patent/US9552072B2/en
Priority to CN201410696581.7A priority patent/CN104750243B/zh
Publication of JP2015125670A publication Critical patent/JP2015125670A/ja
Publication of JP2015125670A5 publication Critical patent/JP2015125670A5/ja
Application granted granted Critical
Publication of JP6222830B2 publication Critical patent/JP6222830B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Projection Apparatus (AREA)
  • User Interface Of Digital Computer (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Description

本発明は画像投射装置に関し、特に操作者の身振り、手振り(ジェスチャ)により画像を制御又は操作可能に構成された投射装置に関する。
本技術分野の背景技術として、下記の特許文献1がある。この公報の要約には、課題として、「投写映像内にいる人に不快感を感じさせないと共に、映像を見ている人に不快感を感じさせない投写型映像表示装置を提供すること」と記載され、解決手段として、該投射型映像表示装置が「人検知手段を特定の方向へ移動自在に駆動させることにより前記人検知手段の検知範囲を調整する駆動機構と、前記人検知手段が人の存在を検知した際、投射されている映像状態を変化させる制御手段と、を備える」と記載されている。
特開2011-43834号公報
特許文献1では、プロジェクタの投射範囲を変化させた場合においても、該投射範囲と人を検出するセンサの検出範囲とを同じ範囲とするように人検知手段を制御しており、人の大きな動きを対象として人の検出を行っていた。しかし、検出範囲が広く感度が低いため、人の身振り手振りのような動き(以下、ジェスチャと記す)の検知が困難であった。 現在、例えば画像投射装置(以下、投射装置と略記することがある)において、投射装置の操作者のジェスチャを検知し、該ジェスチャに対応して投射装置自身、或いは表示画像を制御する機能が開発されている。例えば、あるジェスチャを検出すると投射装置の電源が切断され、或いは、表示する画像がスクロールされ、またコマ送りされるような制御が考えられる。
かかるジェスチャにより投射装置が投射する画像を制御又は操作する構成を用いる場合は、高い応答性(操作性)及び/または高い使い勝手が求められる。
本発明は、例えば人の手振り(ジェスチャ)により投射画像を制御又は操作可能な画像投射装置において、応答性(操作性)及び/または使い勝手を向上させるのに好適な技術を提供するものである。
上記課題を解決するため、本発明は例えば特許請求の範囲に記載の構成を採用する。
本願は上記課題を解決する構成要素を複数含んでいるが、その一例を挙げるならば、本発明の第1の構成は、画像を投射面に投射し、ジェスチャにより前記投射された画像の制御又は操作可能な画像投射装置において、ジェスチャを検出するための検出素子と、
該検出素子により検出された、前記投射面と平行な第1の方向のジェスチャに基づいて、前記投射された画像を制御又は操作するための操作信号を生成する制御部と、を備え、前記制御部は、前記検出素子が、前記投射面と垂直な第2の方向のジェスチャを検出した場合は、該第2の方向のジェスチャの検出以降に検出された前記第1の方向のジェスチャに基づく操作信号の生成を停止するジェスチャ無効モードに移行し、該ジェスチャ無効モード中に、前記検出素子が、前記第2の方向でかつ前記投射面から離れる方向のジェスチャを検出した場合は、前記ジェスチャ無効モードを解除することを特徴とするものである
かかる第1の構成によれば、投射画像を制御(例えばスクロール、コマ送り等)するためのジェスチャと異なる第2の方向(例えば投射面と垂直な方向)のジェスチャを検出した場合はジェスチャによる画像の制御を停止するので、例えば操作者及び/又は観察者が投射画像に指をさしながら画像の内容を説明又は質問しようとする場合に、上記第2の方向のジェスチャをすることにより当該指差しに反応して投射画像が変更されることが防止できる。
また、本発明の第2の構成は、ジェスチャにより投射画像を制御又は操作可能な投射装置において、ジェスチャとしての人の手の動き方向を検出するための温度センサを備え、該温度センサで背景温度を検出し、この背景温度に基づいて上記温度センサの検出感度を制御することを特徴とするものである。
かかる第2の構成によれば、例えばジェスチャを検出する温度センサに正対するように操作者が位置し、当該位置で投射装置を操作するためのジェスチャを行うときに操作者の体が背景と場合なったでも、ジェスチャとしての人の手の動きを良好に検出し、上記場合においてジェスチャが検出されにくくなることを抑制することができる。
本発明によれば、ジェスチャにより投射画像を制御又は操作可能に構成された画像投射装置において、応答性(操作性)及び/または使い勝手を向上させることができるという効果がある。
本発明の実施例1に係る投射装置1の概観図。 本発明の実施例1に係る投射装置1の投射状態の一例を示す概観図。 本発明の実施例1に係る投射装置1の内部構成を示すブロック図。 検出素子2の傾きを調整する機構を示す図。 レーザスキャンを用いた検出範囲の調整方法を示す図。 机上投射時の検出範囲設定の例を示す図。 パッシブ型センサを用いた場合の検出方法を示す図。 投射装置の画像がマルチ画面である場合を示した図。 本発明の実施例2に係るレーザ光源を用いたラインスキャンによるジェスチャ検出に用いられるTOF方式の原理を示した図。 本発明の実施例2に係るレーザ光源を用いたラインスキャンを実現する構成を示す概観図。 本発明の実施例2に係る検出素子2のレーザ照射範囲の一例を示す図。 本発明の実施例3に係る投射装置1の内部構成、及び該投射装置1を含むシステム全体を示す図 検出範囲2aを表示画像と同じサイズに設定した例を示す図 検出範囲2aを表示画像中央のみに設定した例を示す図 検出素子2の中心軸を人体側に向けた構成を示す図 操作者が行う基本的な動きを示した図 スライドめくり等における操作者の連続動作を示す図 実施例3に係る連続動作の検出方法を示す図 投射装置1の机上投射時における人の動きの一例を示す図 図19における検出素子2の出力信号レベルを示す図 投射装置1の机上投射時における指差動作の一例を示す図 実施例3に係るジェスチャ無効モードに移行するためのジェスチャの一例を示す図 実施例3に係るジェスチャ無効モードに移行するためのジェスチャの一例を示す図 実施例3に係るジェスチャ無効モードに移行するためのジェスチャの検出方法の例を示す図 ジェスチャ無効モード中であることを示すメッセージの表示例を示す図 ジェスチャによる表示画像を回転させる操作の例を示す図 z軸方向の手の動きによる投射装置1の電源ON/OFFの切替を示す図 操作者による+xから−x方向へ右手で手振した例を示す図 センサとしてサーモパイルを用いた検出素子2の回路構成の一例を示す図 熱を持つ対象物をサーモパイルで検出した際の増幅器262の出力電圧の一例を示す図 サーモパイルに正対した人体及び人の手の検出の一例を示す図 図31の例における増幅器262の出力電圧を示す図 4つのサーモパイルを含んだ検出素子2の正面と検出範囲の一例を示す図 サーモパイルの温度に比べ人体温度が非常に高い場合の増幅器262の出力電圧の一例を示した図 サーモパイルの温度に比べ人体温度が非常に低い場合の増幅器262の出力電圧の一例を示した図 増幅器262の出力電圧の飽和を回避又は抑制するための、実施例3に係る検出素子2の回路構成の一例を示す図 図36に示された信号検出部36aの詳細を含む実施例3に係る検出素子2の回路構成の一例を示す図 閾値格納部364に格納される閾値の設定の一例を示す図 一部のサーモパイルが故障した時の警告表示の一例を示す図 センサの温度を制御する構成を含む、実施例3に係る検出素子2の別の回路構成を示す図 センサの温度を制御した場合の増幅器262の出力電圧の様子を示す図 図37に示された回路構成の検出素子で実行される制御シーケンスの一例を示す図 実施例4を説明するための図であって、CH3からCH1方向に手振りをした場合の各CHからの信号出力を示す図 各軸における2つのCHからの検出信号の差分を取った信号の一例を示す図 ジェスチャ信号レベルとオフセットレベルを検出するための一構成例を示す図 実施例1に係る「操作者によるジェスチャの連続動作」による誤検出を防止するための処理のフローチャート 実施例1に係る「人の体の動き」による誤検出を防止するための処理のフローチャート 実施例1に係る「y軸方向の手の動作」による誤検出を防止するための処理のフローチャート
以下、本発明を実施するための形態について図面を用いて説明する。
本実施例では、画像投射装置及び人を検出する検出部の構成、投射方向によって異なる最適な検出範囲、及び最適な検出範囲に制御する検出範囲制御部に関し記載する。
まず投射装置及び検出部の構成に関して説明する。図1は、実施例1の投射装置の概観図である。本実施例の構成は、投射装置1、検出素子2、スクリーン10、投射装置配置台11を有する。投射装置1は、投射装置配置台11上に配置されており、その内部からの画像光を投射ミラー4eで反射してスクリーン10に画像を投射する。尚、反射ミラー19は折り畳み可能に構成されており、不使用時には反射面が投射装置1と対向するように閉じられる。検出素子2は、検出範囲2aで為されたジェスチャとしての、操作者の手の動きまたは動きの方向を検出する。検出素子2は、ジェスチャを検出するための光源を有しても良いし、光源を有さないパッシブ型のセンサであっても良い。また検出素子2として、移動体(すなわち人の手)の温度を検出する温度センサ(例えばパッシブ型のセンサである焦電型センサ)を使用してもよい。
次に、投射方向に応じた検出範囲の最適化に関して説明する。図2(a)及び図2(b)は、それぞれ投射装置1の投射状態を示す第1及び第2の概観図である。図2(a)は、例えば垂直面であるスクリーン10へ画像を投射した場合(以下、壁面投射時)を示した図であり、図2(a)は、例えば水平面である投射装置配置台11に画像を投射した場合(以下、机上投射時)を示した図である。
まず図2(a)に関し説明する。図2(a)ではジェスチャを行う操作者(以下、操作者)がスクリーン10近くに位置し、スクリーン10に投射された画像を視る観察者がスクリーン10から離れた位置から観察する。操作者は投射画像を遮らないよう、投射部1からの投射画像を避けて立つことが一般的である。そのため操作者と検出素子2の距離は遠くなる傾向にある。また、スクリーン10はユーザの使用環境によって変わり、例えば壁や何らかのシート状の物体をスクリーン10とする場合が想定される。そのため操作者は、心理的にスクリーン10から離れて位置しやすくなり、つまりは検出素子2から離れた位置でジェスチャを行うと想定される。
次に図2(b)に関し説明する。図2(b)では机上投射を行うため、操作者が画像を遮ることは少なく、画面近くに位置してジェスチャを行うことが想定される。
このように、図2(a)の壁面投射と図2(b)とを比較すると、図2(a)の壁面投射における画像の投射面(ここではスクリーン10)とジェスチャを行う操作者の指の先までの距離d1は、図2(b)の机上投射における画像の投射面(ここでは投射装置配置台11上の面)とジェスチャを行う操作者の指の先までの距離d2よりも大きい。すなわち、壁面投射の場合は机上投射に比べてジェスチャの操作範囲が広いと言える。
上記のように、壁面投射時と机上投射時で必要な操作範囲が異なるため、検出素子2の検出範囲は両方の操作範囲を前提として規定する必要がある。しかし、両方の操作範囲を包含する検出範囲に規定すると、検出範囲が広くなる分感度が低くなる。また、一方の投射状態にとっては不要な範囲を含めて検出するため、操作者以外の者のジェスチャを検出するような誤検出が生じる可能性がある。以上から、感度と必要な操作範囲の検出を両立するためには、投射状態に応じて検出範囲を切換える必要があることが理解されるだろう。
ここでの投射状態は壁面、机上のみを例として挙げたが、投射方向、設置場所、投射装置1とスクリーン10との距離は様々である。例えば投射方向は机上、壁面に限らず天井も想定され、設置箇所は壁面や天井も想定される。このため、配置や投射状態に応じ最適な検出範囲2aを設定する必要がある。
次に、最適な検出範囲に制御する検出範囲制御部について説明する。図3は、本実施例に係る投射装置1の内部構成を示すブロック図である。投射装置1は、ジェスチャ検出部14と投射部4を有する。
まずジェスチャ検出部14に関して説明する。ジェスチャ検出部14は、検出信号演算部3と検出範囲切替部5を有する。検出信号演算部3は信号検出部3a、ジェスチャ判定部3b、操作信号生成部3cを有する。検出信号演算部3では、信号検出部3aが検出素子2から供給された操作者のジェスチャ情報を含む信号を検出して、ジェスチャ判定部3bに出力する。次いで、ジェスチャ判定部3bは信号検出部3aから出力された信号に基づき、様々なジェスチャの動きを判別する信号処理を行う。さらに、操作信号生成部3cは、ジェスチャ判定部3bの出力信号に応じた、画像を制御又は操作するための操作信号を生成し、PC(Personal Computer)、スマートフォンなどの外部機器6に出力する。外部機器6は、操作信号生成部3cからの操作信号に応じて投射装置1に供給する画像信号を制御する。
これにより、操作者によるジェスチャに基づいて生成された操作信号に応じ、投射装置1からスクリーン10に投射される画像が制御される。例えば、操作者が手を動かした方向に応じて、表示する画像をスクロール、コマ送り、或いはスライドを切替するような制御を行う。なお、外部機器6は投射装置1に画像信号を供給する装置であれば、何であっても良い。例えば、投射装置1に備えられたカードインタフェースに挿入されるカード状の記憶媒体であっても良い。
次に投射部4に関し説明する。投射部4は画像制御部4a、光源部4b、光制御部4c、投射レンズ4d及び投射ミラー4eを有する。画像制御部4aは外部機器6から供給された画像信号に応じ、光源部4b、光制御部4cに制御信号を出力する。光源部4bはハロゲンランプ、LED、レーザ等光を出射する光源を含み、画像制御部4aの出力信号に応じ光量を調整する。光源部4bがR、G、Bの3色を含む場合、画像信号に応じ各々独立して光量を制御してもよい。光制御部4cはミラー、レンズ、プリズム、イメージャ(例えば液晶パネルやマイクロミラーデバイスのような表示デバイス)等の光学系構成要素を有し、光源部4bから出射された光を用いて、外部機器6から供給された画像信号に基づく光学的な画像を生成する。投射レンズ4dは光制御部4cから出力された光学的な画像を拡大する。投射ミラー4eは投射レンズ4dから放射された光を反射して、画像を例えば先のスクリーン10に投射する。投射ミラー4eは非球面ミラーを用いており、同サイズの画像を投射する場合、一般的な投射装置と比較し投射距離を短くすることができる。本実施例では投射ミラー4eを用いた投射部4の一例を示したが、この構成だけでなく画像投射を実現できる構成であれば他の構成でもよい。なお、以下では投射レンズ4dと投射ミラー4eを併せて、投射光学部と呼ぶこともある。
次に、検出範囲切換部5に関し説明する。ここでは検出範囲切換部5の構成を説明し、特に検出範囲の切替部、検出感度の設定に関し説明する。
まず検出範囲切換部5の構成を説明する。検出範囲切換部5は、検出範囲切換信号生成部5aと検出素子制御部5bを有する。検出範囲切換信号生成部5aは投射装置1の設置状態を検出し、該設置状態に応じた信号を出力する。検出範囲切換信号生成部5aは設置場所、スクリーン10までの投射距離などの投射状態(机上投射、壁面投射等)を検知するセンサを有する。センサとして、操作者が切替える機械的なスイッチや、投射装置1の傾きを検出するジャイロセンサ、投射装置配置台11との接触を検出するための圧力センサを用いることができる。また照度センサを用いてもよく、その場合は、壁面投射時もしくは机上投射時に、照度センサの検出面が投射装置配置台11側を向くよう配置すれば検出した光の照度から状態検出が可能である。また、操作者が電気的にリモコン等で検出範囲切換信号生成部5aに信号を送信し、投射装置1の設置状態を操作者が手動で入力するようにしてもよい。
なお投射状態は、壁面投射、机上投射時だけではなく、上記したセンサを使用することにより、投射装置1が斜めに配置された場合も検出可能である。また検出素子2がジェスチャ検出用の光源としてレーザ光源を有している場合は、これをスクリーン10に向けて投射することにより、投射光と反射光との時間差に基づいてスクリーン10までの投射距離の測定が可能である。検出素子2で検出した距離情報に応じた信号は、信号検出部3aから検出範囲切替信号生成部5aに出力される。
検出素子2は、検出用の素子として、例えばレーザ光を検出するためのフォトダイオード、或いは人体が発生する赤外線を検出するための焦電型センサをはじめとするセンシング素子を有している。検出用の電磁波としていずれを用いるかに応じて、使用するセンサが変わることはもちろん、検出素子2が光源を有するか否かも変わる。
検出素子制御部5bは検出範囲切換信号生成部5aから供給された信号に応じ検出素子2の検出範囲2aを制御する。
次に検出範囲の切換部について説明する。図4は、検出素子2の傾きを調整する機構を示す図である。検出素子2は投射装置1が有する回転台12上に配置される。回転台12は検出素子制御部5bの信号に応じ検出素子2の設定角度を制御する。このようにして検出範囲2aの位置或いは向きを切換えることが可能である。
検出範囲2aを拡大または縮小するために、検出素子2上に可動レンズを設けてもよい。可動レンズは投射装置1の投射方向に応じ、検出素子2との距離を変更し検出範囲2aを調整する。検出素子2が、例えば赤外線を始めとする電磁波の強度の変化を検出する焦電型センサの場合、焦電型センサ上部のホールやフレネルレンズの位置を動かすことによっても、検出範囲を拡大縮小できる。
図5は、レーザスキャンを用いた検出範囲の調整方法を示す図である。検出素子2はレーザ光源7、角度可変ミラー8、受光素子9を有する。検出素子制御部5bはレーザ光源7、角度可変ミラー8に制御信号を出力する。角度可変ミラー8は検出素子制御部5bの信号を受けその角度が設定角度に制御される。また図4で示したような回転台12上にレーザ光源7を設けることで、検出範囲2aの制御が可能なことは言うまでもない。
次にジェスチャを行う際の検出範囲の設定について説明する。図6は、机上投射時の検出範囲設定の例を示す図であり、検出素子2の検出範囲(角度)2θ、投射装置1の法線方向と検出素子2の検出中心線がなす角度φ(以下、「検出中心角度」と呼ぶ)、検出素子2からジェスチャ位置までの距離Lg(ここでは検出素子2の検出面と中指の中心との間の距離で、以下では「ジェスチャ位置」と呼ぶ)、投射装置配置台11から検出素子2の中心までの鉛直方向の距離hs、操作領域Hの関係を示している。検出範囲2θ、検出中心角度φと各パラメータの関係は次の式1及び式2で表される。
2θ=Arc Tan ((H-hs)/Lg)+Arc Tan (hs/Lg) ・・・(式1)
φ=(1/2)(Arc Tan ((H-hs)/Lg)−Arc Tan (hs/Lg)) ・・・(式2)
上式が示すように、検出範囲2θ及び検出中心角度φは、ジェスチャ位置Lg、検出素子2の高さhs、操作領域Hにより決定される。操作範囲Hは投射部1の投射状態により変化する。図2の説明において前述したが、壁面投射時は操作範囲Hが大きく机上投射時は操作領域Hが小さい。実使用環境を想定すると机上投射時の操作領域Hは数cm〜10cm程度、壁面投射時は数cm〜数10cmと想定される。ジェスチャ位置Lgは例えば投射装置1から最も離れた画面サイズ端部の距離としてもよい。また、検出素子2にレーザ光源を用いる場合、安全性を考慮し人の目に照射しない領域に操作範囲Hを設けてもよい。机上投射時、投射装置1の正面に人が座った際、レーザ光が目に照射されないよう、検出範囲2θ、検出中心角度φを設定してもよい。
次に検出感度の設定に関して説明する。検出素子2に、ジェスチャ検出用の光源を有さないパッシブ型のセンサ(例えば焦電型センサ)を用いた場合、高精度なジェスチャ検出を実現するため、以下で述べるように、検出範囲が机上もしくは壁面と重ならないように設定することが有効である。
図7(a)及び図7(b)は、それぞれパッシブ型のセンサを用いた場合の検出方法を示す図である。パッシブ型のセンサとして焦電型センサを例に挙げると、焦電型センサの検出量は、検出範囲を占める熱源の割合と熱量により決まる。つまり、ジェスチャ(人の手振りの幅又は範囲)の検出範囲に占める割合が大きければ検出量は大きくなる。一方、検出範囲が図7(a)に示すように投射装置配置台11上に重なる場合はジェスチャができない領域が存在する。このため、このような場合は大きな検出量を得ることが難しくなる。検出量を大きくするためには、例えば図7(b)のように検出範囲下側に不感帯hgを設けて、ジェスチャができない領域を除外するよう検出範囲を狭めて最適化する。これにより、大きな検出量を得ることができる。
また、上記のように投射装置1の設置状態のみならず、操作者や操作者又は投射装置1の周囲環境によって感度を調整してもよい。例えば、焦電型センサの検出量を考えた場合、同じ条件でジェスチャした場合でも、操作者によって手の温度が異なるため検出量が異なる。また、同じ操作者でも環境温度によって検出量が異なる。またレーザによる検出を行う場合でも操作者の手の反射率によって検出量が異なる。そのため操作者や環境に応じ検出領域を調整し感度を向上させてもよい。例えば、焦電型センサを使用する場合において人の手の温度が低い場合は、焦電型センサの感度を向上させてもよい。また、例えばレーザ光源を有するセンサを使用する場合において操作者の手の反射率が低い場合は、レーザの強度を強くする、もしくはレーザ光によるスキャン範囲を限定し部分的に感度を向上させるようにしてもよい。
図8は、投射装置1の画像がマルチ画面である場合を示した図である。図8では3つの画面を映しているが、一つはメイン画面、その他2つはサブ画面である。メイン画面を見ながら、サブ画面に表示された例えばアイコンに対しジェスチャをすることにより操作をする場合、メイン画面を検出範囲に設定する必要がないため、2つのサブ画面のみに検出範囲を絞る。検出範囲が絞れると、検出素子2の検出量が大きくなり、検出感度が高くなる。またサブ画面同士でもレーザ強度、検出範囲の差を設けてもよい。
また、センサの感度については、操作者側が設定或いは調整してもよい。また投射装置1側にテストモードを用意し、該テストモードにおいてある条件での検出結果を保持しておき、これを参照して自動的に感度調整を行ってもよい。更に又、例えば検出素子2が光源を有するセンサである場合、操作者の手の反射率に応じて検出する反射光の量が異なり、検出感度が変わる。これに対応すべく、テストモードにおいて、光源が所定の輝度の光を発生して操作者の手からの反射光を検出し、その反射光量に応じて操作者に適したセンサの光源の輝度を決めるようにしてもよい。
このように、本実施例では、検出範囲切換信号生成部5aにより投射装置1の設置状態(壁面投射か机上投射)を検出し、検出した設置状態に応じて、検出素子制御部5bが検出素子2のジェスチャを検出可能な範囲である検出範囲を制御するので、投射装置1の設置状態に応じた適切な検出範囲を与えることができる。例えば壁面投射の場合は検出素子2の検出範囲を広くし、机上投射の場合は検出範囲を狭くする。従って、本実施例によれば、ジェスチャにより投射装置による投射画像を制御又は操作する際の操作性を向上させることが可能となる。
本実施例では検出素子2にレーザ光源を用いて、ラインスキャンによりジェスチャを検出する方法に関して説明する。以下では、まずレーザのラインスキャンによるジェスチャ検出に用いられるTime-Of-Flight方式(以下、TOF方式)の原理、及びレーザ光源を用いたラインスキャンの構成を説明し、そして検出領域2の制御について説明する。
まずTOF方式の原理について説明する。図9は、TOF方式の原理を示した図である。TOF方式はレーザ光源7の光の出射時間と、スクリーン10の反射光を受光素子9で受光する時間との差を用いる距離測定方式である。この時間差をt[s]とすると距離L[m]は光速3.0x10^8[m/s]から、下記式3のように表される。
L[m] =3.0×10^8×t/2・・・(式3)
次にレーザを用いたラインスキャンの構成を説明する。
図10は、レーザ光源を用いたラインスキャンを実現する構成を示す概観図である。ラインスキャンはレーザ光源7、角度可変ミラー8、受光素子9、シリンドリカルレンズ13を用いて実現される。
まずレーザ光源7から出射された光は、一定方向(x方向)に往復可動する角度可変ミラー8で任意の角度に反射される。角度可変ミラー8で反射された光は、シリンドリカルレンズ13に入射し、Z方向に幅をもつライン光源となる。このライン光源をX方向にスキャンすることでZ方向に拡がりをもち、かつX方向の動き検出が可能なラインスキャンを実現できる。そして、ラインスキャンされたレーザ光が人の手に照射されると、人の手からレーザ光が反射され、その反射光が受光素子9により受光される。このときの受光タイミングと上記TOFによる距離の算出を用いることによって、ジェスチャを検出することができる。
角度可変ミラー8は、図10で示すX方向にのみスキャンするミラーを用いている。実施例1のレーザを用いた検出素子2では、2次元的にスキャンするミラーを用いているためコストが高くなるが、3軸方向の情報を検出可能である。一方、本実施例の1次元的にスキャンするミラーは、実施例1と比較し2軸方向のみの検出となるが、低コストとなる。本実施例は、1次元的にスキャンするミラー8とシリンドリカルレンズ13を用いることで、コスト低くしながらも、2次元的にスキャンするミラーを用いる場合と同様な機能を得る方法を示している。
次に検出領域2の制御について図11を参照しながら説明する。図11(a)及び図11(b)は、それぞれ+y軸方向から見た検出素子2のレーザ照射範囲を示す図である。なお、xyz軸は、先の図10で示されている。図11(a)は、あるxz平面上から見たレーザ照射範囲の様子を示した図である。検出素子2の直上部とラインスキャン範囲の両端部のx座標を、それぞれx0(=0)、x+n及びx−nとする。すなわち座標x+nからx−nまでがラインスキャンの範囲となる。図中の横方向(z方向)に長い長方形は、その長辺の長さが照射範囲を、短辺の長さが光の強度を示す。座標x0では検出素子2からxz平面までの距離が短いためレーザ照射範囲は狭い。一方、座標x+n及びx−nでは検出素子2からxz平面までの距離が長いためレーザ照射範囲は広くなる。このためラインスキャン範囲の検出素子2の直上部と端部とでは、レーザ光の強度が異なり、ラインスキャン範囲の検出素子2の直上部から端部に離れるにつれて検出感度が低くなる。つまりスクリーン10の端部でジェスチャをしても十分な感度が得られない可能性がある。このため、スクリーン10のどの位置でジェスチャしても同等の感度を得られるよう、場所によらずレーザ強度を一定とする必要がある。
図11(b)は、ラインスキャン範囲のどの位置でも光強度を一定とするため、ラインスキャン範囲の各位置のレーザ照射範囲を一定に制御した例を示した図である。本実施例では、ラインスキャン範囲の各位置のレーザ照射範囲を一定とするために、シリンドリカルレンズ13(図10参照)の検出素子2直上部と端部で、レンズ面の曲率を変更している。例えば、シリンドリカルレンズ13の検出素子2直上部に対応する位置のレンズ面の曲率を小さくし、検出素子2直上部からシリンドリカルレンズ13の端部に向かうにつれて、徐々に大きくしている。また、さらに光強度を均一にするために、ラインスキャン範囲端部のレーザ照射範囲を検出素子2直上部より小さくすることが有効である。あるxz平面において、x方向の端部では検出素子からのレーザ光が斜めに照射しており、レーザ光の強度が一定でも受光素子9から見た見込み角が検出素子2の直上部より小さくなる。そのためラインスキャン範囲の端部では相対的に受光強度が小さくなり感度が低くなる。これに対し、ラインスキャン範囲の端部の照射範囲を小さくすれば、スクリーン10のどの位置でジェスチャしても同等の感度を得ることができる。
なお、ここではレーザ照射範囲で強度を調整する構成を説明したが、レーザ光源7において発生する光強度を、検出素子2の直上に照射するかラインスキャン範囲端部に照射するかに応じて調整してもよい。同様の機能が実現できる方法であれば、他の方法でもよい。
また投射装置1の出射光がジェスチャの検出に影響を及ぼさないよう、レーザ光源7、受光素子9は赤外波長域を用いることが好ましい。赤外波長域を用いることで、外光下でも高感度なジェスチャの検出を行うことができる。
本実施例は、机上投射時においてジェスチャ検出を行うにあたり、誤検出が生じにくくするための工夫を含むものである。まず本実施例の全体システムについて説明する。
図12は投射装置1を含めたシステム全体を示した図である。かかるシステムは、投射装置1、無線機器20、PC21を備えている。投射装置1は検出素子2、検出信号演算部3、投射部4、検出範囲切替部5、無線通信部22、画像変換部23、信号制御部24を含んでいる。無線機器20は、例えばスマートフォン、タブレット機器、及び/または例えば無線LAN等で無線通信可能なPC等である。投射装置1で投射する画像は、有線で接続されたPC21、もしくは無線機器20から無線伝送により投射装置1に供給される。
PC21からの画像信号は、有線により信号制御部24に入力され、画像信号に応じた制御信号を投射部4に出力する。また信号制御部24は検出したジェスチャに応じて操作信号を生成してPC21に送信する。この操作信号によりPC21から投射装置1に供給される画像信号及び/またはPC21のモニタに表示される画像信号が制御される。
無線機器20は、画像信号を変調・符号化し、WiFi(登録商標)やBlueTooth(登録商標)等を利用して投射装置1の無線通信部22に無線により送信する。無線通信部22は、受信した画像信号を画像変換部23に出力する。画像変換部23は、無線伝送された画像信号を例えば復調、復号することにより画像出力可能な信号に変換して信号制御部24に出力する。信号制御部24は、入力された画像信号に応じ投射部4によって生成されるの投射画像の制御を行う。また信号制御部24は、検出したジェスチャに応じて操作信号を生成し、無線通信部22を介して無線機器20に送信する。このとき、操作信号を無線送信するのに必要な変調・符号化処理は、画像変換部23により行ってもよいし、無線通信部22により行ってもよい。無線通信部22からの操作信号は無線機器20に入力され、無線機器20から無線伝送される画像信号及び/又は無線機器20のモニタ部に表示される画像信号が制御される。
以下では、机上投射時に検出範囲を表示画像上に設定する場合の問題点とそれを解決するための構成例、及びその使い方について説明する。
まず表示画像上の検出範囲に設定する場合の問題点について説明する。図13(a)は、投射装置1を机上投射を行えるように設置し、かつ検出範囲2aを投射装置1から投射された表示画像と同じサイズに設定し使用する様子を、上から(+y方向)から見た図を示している。図13(b)は、図13(a)を−x方向から+x方向に見た図を示している。ここでは、投射面(図13では投射装置配置台11上の面)に投射された表示画像の垂直方向をz軸、表示画像の水平方向をx軸、表示画像(投射面)に対し垂直な方向(鉛直方向)をy軸とする。図13の投射装置1は、実施例1等と同様にその内部からの画像光を投射ミラー4eで反射して投射装置配置台11上に投射する構成としている。検出素子2は投射装置1の上方に設置し、表示画像内のジェスチャ検出を可能としている。ここでは一例として反射ミラー19に検出素子2を設置している。図13に示された例の場合、検出素子2によるジェスチャの検出範囲2aが広いため操作範囲が広い利点はあるが、一方で操作者以外の人の動きを誤検出しやすいという問題もある。
図14(a)は、投射装置1を机上投射に設置し、かつ検出範囲2aを表示画像中央のみに設定して使用する様子を、上から(+y方向)から見た図を示している。図14(b)は図14(a)を−x方向から+x方向に見た図を示している。図14に示された例の場合、操作者以外による誤検出は少ない利点があるが、操作者の操作範囲2aが限定されているため操作者のジェスチャが検出され辛いという問題もある。操作者は、表示画像の正面に正対し操作することが多いことを考えると、表示画像中央の垂直方向(z方向)を検出範囲として確保することが望ましい。しかし、表示画像中央の垂直方向を検出範囲に設定すると、検出範囲を縦長とする必要がある。検出範囲を縦長にするためには、検出素子2に新たにレンズや反射部材を設けたり、検出素子2を投射装置の配置箇所に応じその都度設計したりする必要がある。そこで、表示画像上のジェスチャの誤検出を少なくし、かつ部材、設計時間を増加させずに操作に必要な検出範囲を確保する構成が必要となる。
次に表示画像以外を検出範囲に含める場合について次に説明する。図15(a)は検出素子2の中心軸を人体側(操作者側)に向けた構成を示した図であり、図15(b)は図15(a)を−x方向から+x方向に見た図である。図15に示された例の場合、操作者の正面に検出範囲を設けており、表示画像上における操作者以外からの誤検出を低減することが可能である。さらに表示画像中央の垂直方向におけるジェスチャの検出が可能となるため、ジェスチャを検出するのに必要な検出範囲を確保できる。
このように、図13、図14及び図15のそれぞれに示された検出範囲の例を比較すると、誤検出の可能性も含めジェスチャの検出精度の点で図15に示された例が有利である。しかしながら、図15の例における検出素子2は、ジェスチャを示す操作者の手及びその動きのみならず、操作者の体及びその動きを検出する位置に配置されるため、操作者の体の動きによる誤検出が発生する可能性がある。また検出素子2として人体の熱を検出するサーモパイルを用いた場合、操作者の体と検出素子2の温度差により検出信号が飽和するという問題もある。本実施例は上記問題を解決し、誤検出の少ない高精度なジェスチャシステムを提供するものである。
以下、人の動きに対する誤検出、及び人体と検出素子2の温度差による検出信号飽和を解決するための構成について以下に説明する。尚、本実施例では、検出素子2に使用するセンサとして、温度センサ、例えばパッシブ型のセンサである焦電型センサを用いるものとする。
〔操作者の動きに対する誤検出対策〕
以下、操作者の動きに対する誤検出対策に関し、ジェスチャの基本的な動き、誤検出の詳細及び解決方法について説明する。
まずジェスチャの基本的な動きに関し説明する。図16は操作者の行う基本的な動きを示した図である。操作者はx軸方向(図16(a))、z軸方向(図16(b))、y軸方向(図16(c))に手振りを行うことで、手振りに応じた投射画像の操作を得る。操作者の意図と異なるジェスチャの検出(以下、誤検出と呼ぶ)を避けるためには、人の動き、また操作環境を考慮するする必要がある。
本実施例において対策が必要な誤検出の原因は、「操作者によるジェスチャの連続動作」、「操作者の体の動き」、「y軸方向の手の動作」である、これら原因と、それぞれの解決方法について以下に説明する。尚、本実施例では、机上投射時において、画像が表示される投射面(本例では投射装置配置台11上の面)と平行な方向(特にx方向)のジェスチャにより、スクロール、コマ送り、スライドめくり等の表示画像の制御又は操作を行うものとする。
まず「操作者によるジェスチャの連続動作」に関し説明する。図17は操作者によるジェスチャの連続した動きを示した図である。図17ではt=0で−x軸方向に向けて、t=0に続くt=t1では+x軸方向に向けて、そしてt1に続くt=t2では再度−x軸方向に向けて手振した例を示している。例えば−x軸方向の操作を繰返し行いたい場合(例えばスライドを連続してめくる場合)、t=t1での手振りの検出は操作者にとって意図しないものである。しかしながら、一方向の手振りを連続的に複数回行うためには、その位置方向と逆方向の手振りが必要であるため、この逆方向の手振りが誤検出として検出されやすくなる。
この操作者による連続した手振りに起因する誤検出を防止或いは低減するための本実施例の一構成例を図18に示す。図18は、ジェスチャの検出及び判定が行われた時間を時系列に示している。本実施例では、t=0でのある一方向のジェスチャが検出・判定されてからTdeadが経過するまでの間は、上記一方向と逆方向の手の動きを検出しても、それジェスチャではないものとして無効にする、または上記逆方向の手振りをジェスチャとして検出しないようにする。この処理は、信号制御部24または検出信号演算部2が行うものとする。ただしTdead時間内でも同じ方向と判定された手の動きはジェスチャとして検出する。図17の例では、t1はTdead以内なのでt1の時点で検出されたジェスチャは無効化される。一方、t2はTdeadの経過以降内なのでt2の時点で検出されたジェスチャは有効とされる。
このように、本実施例では、あるジェスチャの方向と連続する逆方向のジェスチャを無効化するか、或いはジェスチャとして検出しないようにするための無効化期間(すなわちTdead)を設けている。この構成によれば、ある一方向に連続して画像を制御する(例えば多数のスライドめくり)をするためのジェスチャを良好に検出可能となる。人間の手振りの時間を考えるとTdeadは600msecから1.4secに設定することが好ましい。
続いて「操作者の体の動き」にについて説明する。図19は操作者の動きの一例を示しており、検出範囲2aを横切るように操作者が−xから+x軸方向に歩いている例を示している。この場合、上記のよな操作者の動きが−xから+x方向へのジェスチャとして検出される。しかし、この場合は、操作者に投射画像を制御又は操作する意思はないため、当該操作者の動きによるジェスチャの検出は誤検出となる。同様に操作者の後ろを他の人が動く場合や、操作者が体を揺する行為を行った場合も同様な誤検出が発生する可能性がある。より精度の高いジェスチャ検出を提供するためは、このような操作者に画像の制御や操作の意思がない動きによる誤検出に対応する必要がある。
この操作者の(手ではない)体の動きに起因する誤検出を防止或いは低減するための本実施例の一構成例を図20に示す。図20は人の動きに対し検出素子2の出力信号レベルを示した図である。図20において、tAは検出範囲2a内の位置Aを人が横切る時間を示しており、tbは検出範囲2a内の位置Bを人が横切る時間を示している。人がA⇒Bを横切る速度v(m/sec)は、v=(AからBまでの距離)/(tB−tA)で表される。
一般的に、人が動く(歩く)速度と手振りの速度に差があり、手振りの速度の方が人の動く速度よりも速い。本実施例はこの速度差を利用し、検出範囲2a内で動いた移動体の速度に応じて、当該移動体がジェスチャを示すものか否かを判定する。具体的には、AからBまでの距離は検出範囲2aに応じて決まるため、AからBまでの移動時間に関する時間的な閾値T2を設定しておく。そして、図20に示されるように、移動体がAからBに移動する場合に、移動体が検出範囲のAの位置を横切る時に検出素子2から出力された検出信号がピークを示す時間(tA)と、検出範囲のBの位置を横切る時に検出素子2から出力された検出信号がピークを示す時間(tB)との時間差が上記T2未満、すなわち(tB−tA)<T2であれば、当該移動体はジェスチャではないと判定する(或いはジェスチャとして検出しないようにする)。一方、上記時間差がT2以上、すなわち(tB−tA)≧T2であれば、当該移動体をジェスチャとして判定或いは検出する。上記判定は、信号制御部24又は検出信号演算部31で行われる。
このように時間的な閾値T2を設けることで、操作者の手ではない体の動きによる誤検出を低減できる。本発明者らの実験により人が動く速度は1〜1.5(m/sec)であり、手振りの速度は2−4(m/sec)であるため、これを参考にして上記閾値T2を設定すればよい。
最後に「y軸方向の手の動作」について説明する。図21は、机上投射時において+yから−y方向の手の動かした様子、例えば表示画像への指差し動作を示している。投射された表示画像を見ながら議論する際、もしくはプレゼンテーション等で表示画像の内容について説明する際、表示画像に対する指差動作、すなわち+yから−y方向への手の動作が多々あると予想される。この場合、操作者はスライドめくり等の表示画像の操作を行う意思はないため、このような指差動作をジェスチャとして誤検出されることとなる。しかし、プレゼンテーションや会議等の場において、表示画像(投射された画像)に対する指差動作を許容することが好ましい。
本実施例は、表示画像に対する指差動作を許容しつつも、該指差動作が、スクロール、コマ送り、スライドめくり等の表示画像を制御又は操作するためのジェスチャと誤検出されないようにしたものである。
そして本実施例に係る投射装置1は、表示画像を制御又は操作するためのジェスチャとは異なる方向の手振りを検出した場合は、ジェスチャによる投射装置1の表示画像の制御又は操作を停止するように構成したものである。より詳細には、第1の方向、本例ではx方向(すなわち投射面と平行な方向で投射画像の水平方向)のジェスチャを検出素子2で検出した場合は、信号制御部24により表示画像を制御又は操作するための操作信号を生成し、第1の方向と異なる第2の方向、ここではy軸方向(すなわち投射面と垂直な方向)のジェスチャを検出素子2で検出した場合は、信号制御部24により上記第1方向のジェスチャを検出しても無効化するか、または検出を停止するか、検出しても信号制御部24で操作信号を生成しないようにする。いずれの場合であっても操作信号は生成されない。すなわち本実施例は、y軸方向の手振りによって、x軸方向のジェスチャによる表示画像の制御又は操作を有効または無効にするものである。換言すれば、本実施例は少なくとも2種類のジェスチャにより操作可能であって、x軸方向のジェスチャで表示画像の操作を可能にし、y軸方向のジェスチャで、x方向のジェスチャによる表示画像の制御又は操作のON/OFFを切り替えるものである。
上記y軸方向のジェスチャは、本実施例では、例えば図22(a)に示されるように、−yから+y方向への手の動きとしている。すなわち、検出素子2が−yから+y方向への手の動きを検出した場合は、信号制御部24によって、ジェスチャによる表示画像の操作が無効となるモード(以下、「ジェスチャ無効モード」と呼ぶ)に移行し、それ以降はx軸方向に沿った手振りをしても表示画像は制御又は操作されない。ジェスチャ無効モード中において、−yから+y方向への手の動きを検出すると、ジェスチャ無効モードが解除され、再度x軸方向へのジェスチャによって表示画像の操作が可能となる。本実施例において、通常モード(ジェスチャが有効なモード)からジェスチャ無効モードに移行するためのジェスチャを−yから+y方向への手の動きとしているのは、ジェスチャ無効モード中において指差動作(通常は+y方向から−y方向)によって不意にジェスチャ無効モードが解除されないようにするためである。すなわち指差動作とは区別可能な手の動きをジェスチャ無効モード移行のためのジェスチャとして設定しているものである。勿論、+yから−y方向への手の動きをジェスチャ無効モード移行のためのジェスチャとして設定してもよい。
このような本実施例の構成によれば、簡単な操作でジェスチャ無効モードに移行でき、このジェスチャ無効モードでは指差動作で表示画像が制御又は操作されないので、表示画像に対する指差動作を許容しつつも、該指差動作が、スクロール、コマ送り、スライドめくり等の表示画像変更のためのジェスチャと誤検出されることを防止できる。
但し、図22(a)のように−yから+y方向への手の動きをジェスチャ無効モードへ移行するためのジェスチャとすると、例えば、次に説明するような誤検出が生じる可能性がある。かかる誤検出について図22(b)を参照しながら説明する。
図22(b)は、図22(a)に示したジェスチャ無効モード移行のためのジェスチャを行う前段階に行う操作者の動きの一例を示した図である。図22(b)に示されるように、−yから+y方向へ手振りを行う前段階として、操作者は、画面中央に手を移動させる必要がある。そのため、右手で手振りを行う場合は+xから−x方向に、左手で手振りを行う場合は−xから+x方向に手が動くことが考えられる。かかる前段階における手の動作がx軸方向のジェスチャとして誤検出される可能性がある。このような前段階における誤検出の可能性を考慮すると、例えば図22(a)のような手の動作、すなわち−yから+y方向、もしくは+yから−y方向の一方向の手の動作を検出しても、良好にジェスチャ無効モードに移行できない可能性がある。
かかる問題を解決するために、本実施例では更に、図23に示されるように、y方向に沿った二方向の手の動きを検出素子2により連続して検出したときに、ジェスチャ無効モードに移行するようにしている。本実施例において、ジェスチャ無効モードに移行するためには、図23に示されるように、まず+yから−y方向に手振りを行い(図23の(1))、その後、連続して−yから+y方向に手振りを行う(図23(2))。この一連の手の動作を検出することで、ジェスチャ無効モードに移行するためのジェスチャとして認識される。すなわちy軸方向に沿った、連続して為された互いに逆方向の手振り(つまりy軸方向の往復手振り)を通常モードからジェスチャ無効モードに移行するためのジェスチャとして認識する。また指差動作による誤検出を防止するために、例えば図24に示されるように+yから−y方向の手振り(1)を検出した時間(T1)と−yから+y方向の手振り(2)を検出した時間(T2)との時間差を算出し、この時間差(T2−T1)が所定時間(Tges_en)未満であれば、ジェスチャ無効モードに移行する。一方、所定時間(Tges_en)以上であればジェスチャ無効モードに移行せず、当該検出ジェスチャは無効化される。このようにy方向に沿った2方向の手の動きの検出と該2方向の手の動き間の時間の検出により、高精度でジェスチャ無効モードに移行でき、更に簡単な操作で指差動作を許容できるようにするとともに誤検出の低減を実現できる。上記所定時間(Tges_en)は、人間の動きを考慮すると600msec〜1.2secに設定することが好ましい。またy軸方向の手振りを、ジェスチャ検出の有効/無効を切替える用途で使用してもよい。そうすることで操作者の必要な時にのみジェスチャ検出を有効とすることができ、誤検出を更に低減できる。
また、表示画像の制御又は操作のためのジェスチャが有効/無効であるか(すなわちジェスチャ無効モード中か否か)を操作者に明確に分からせる工夫をしてもよい。例えば、図25(a)に示されるように、ジェスチャ無効モードへの移行時に、画像にメッセージ或いはアイコン30を合成して表示してもよい。また、図25(b)に示されるように、例えばLED等のモード表示用光源15を投射装置1の操作者と正対する位置に設け、表示画像操作のジェスチャが有効な時はこれを点灯させてもよい。図25(a)の場合、メッセージ或いはアイコン30を投射画像の端部に表示することが好ましいが、操作者が表示箇所を任意に設定できるようにしてもよい。
また、図25(b)においてモード表示用光源15は投射装置1内に内蔵されており、検出素子2と検出素子保護カバー16間に設置されている。検出素子保護カバー16は、検出素子2を保護するためのものであて、検出素子2の検出面側に配置されており、また例えば透過性を有する材質で構成されている。本例では検出素子2と検出素子保護カバー16間に光源15を設置しているが、設置箇所はユーザが視認できる位置であればよく、投射装置1外でもよい。またモード表示用光源15の色は投射装置1の外観により決めてもよいし、モード表示用光源15としてRGB3色のLEDを用い、ユーザがジェスチャ無効モード中に発光する色を任意に設定してもよい。モード表示用光源15は人間が見えるよう可視光波長を用いるため、検出素子2の感度波長が可視光域でないか、または可視光域の感度が低ければ問題ない。また検出素子保護カバー16は検出素子2の感度波長に対応した波長フィルタとして機能させ、上記感度波長を主として透過させるようにしてもよい。
また操作者以外による誤検出を避けるため、ジェスチャの検出後一定期間ジェスチャが検出されない場合は、投射装置1を、ジェスチャを検出しない状態としてもよいし、検出したジェスチャを無効化してもよい。この場合、操作者が使用する際に、ジェスチャを検出する状態に復帰させれば問題ない。ジェスチャ検出状態の切替はジェスチャにより行ってもよいし、投射装置1側のメニュー画面から設定してもよい。またメニュー画面から完全にジェスチャの検出又はジェスチャによる操作を無効とするモードを設け、ジェスチャによる操作の有効/無効の切替自身を無効としてもよい。
更にまた、表示画像に対しx軸方向、z軸方向の2次元のジェスチャを検出可能にした場合、様々な方向のジェスチャと表示画像の制御又は操作の種類との組合せが考えられる。図26は、机上投射時において、表示画像をジェスチャにより回転可能にした例を示した図である。
机上投射された画像を見ながら議論する場合、机を囲み様々な角度から表示画像を見る状況が推測される。このような状況において、例えば会議中でも表示画像を見せたい人はたびたび変わるため、表示画像の回転機能は議論に参加している多くの観測者にとって有用な場合が多い。具体的には、図26(a)のように、表示画像の回転角度を手の動いた距離により設定する。一例をあげると、図26(a)に示されるように画面中央を支点にA点からB点に手を90°動かした場合、図26(b)に示されるように画面は反時計回りに90°回転する。そうすると、図26(b)に示されるように、図中右側の観察者に対して表示画像の正面を向けることができる。
回転角度に関しては、ユーザが任意に設定可能としてもよい。またx軸方向、y軸方向のみの動きと区別し誤検出を低減するため、ジェスチャによる表示画像の回転機能の有効/無効を切替え可能としてもよい。かかる切替えは、表示画像上の一点に数秒間手を静止させる動作で行うようにしてもよいし、y軸方向の手の動作で行うようにしてもよい。更にまた、ユーザの使い勝手を考慮して、手の動作の種類と実行する機能(回転機能、回転機能の有効/無効の切替等)の割当てを自由に決めてよい。かかる割当ては、投射装置1のメニュー画面から設定してもよい。
また図26(b)のように表示画像の向きが変わった場合は、検出素子2の検出範囲2aを図26(b)のように表示画像の向きに応じて変更してもよい。表示画面の正面に正対する人が主の操作者である可能性が高いため、当該操作者と対応する位置に検出範囲2aを向けてもよい。
また机上投射の場合、投射装置1側面に電源スイッチが位置することとなる場合が多い。そのため、投射装置1が固定されていない場合、一方の手で投射装置1を押さえながら他方の手で電源スイッチを押すこととなり使い勝手が低下する。このためジェスチャで電源ON/OFF操作が可能となれば非常に使い勝手がよくなる。そこで本実施例では、ジェスチャにより電源のON/OFFの操作を可能としている。例えば図27に示されるように、z軸方向の手の動きによる電源ON/OFFの切替を行うようにしている。より詳細なには、例えば、手を+zから−z方向、すなわち表示画像の投射面と平行で投射装置1に近づく方向に動かし投射装置1に近い位置で一定時間静止させる。この手の動作を検出することにより電源ON/OFFを可能とする。このような構成によれば、投射装置1に備えられた電源ボタンを押さなくても、電源のON/OFFが操作できるため、より使い勝手を向上させることができる。
ここで、上述した「操作者によるジェスチャの連続動作」、「人の体の動き」及び「y軸方向の手の動作」に関する課題の解決するための本実施例に係る処理のフローチャートについて、図46〜48を参照しながら以下に説明する。この処理は、信号制御部24で行われるものとする。
図46は、「操作者によるジェスチャの連続動作」に関する課題を解決するための本実施例に係る処理のフローチャートの一例を示している。図46において、S461でt=t1の時点でジェスチャを検出したとする。ここで検出されたジェスチャの方向は、+x⇒−x方向であるものとする。続いて、S462で、S461で検出したジェスチャの方向がt1よりも前のt0で検出したジェスチャの方向と同じか否かを判定する。同じと判定されれば、S463に進みS461で検出したジェスチャを有効とする。S462で異なると判定されれば、S464に進んでt0からの経過時間t1がTdeadの経過以前かを判定する。Tdead経過以前であればS465に進んでS461で検出したジェスチャを無効とする。Tdead経過以降であればS466に進んでS461で検出したジェスチャを無効とする。
図47は、「人の体の動き」に関する課題を解決するための本実施例に係る処理のフローチャートの一例を示している。図47において、S471で、検出範囲の位置A、位置Bのそれぞれで移動体を検出する。このとき、位置Aでの検出時間をtA、位置Bでの検出時間をtBとする。続いてS472で、tAとtBの時間差を算出し、これがT2未満か否かを判定する。T2未満であればS471で検出した移動体をジェスチャとして検出する。T2以上の場合は、S471で検出した移動体をジェスチャとして検出しないか、検出した場合はその検出を無効化する。
図48は、「y軸方向の手の動作」に関する課題を解決するための本実施例に係る処理のフローチャートの一例を示している。図48において、S481で、y軸方向の互いに異なる2方向(+y→−y方向、及び−y→+y方向)のジェスチャを検出する。このとき、+y→−y方向のジェスチャの検出を時間t1で、−y→+y方向のジェスチャの検出を時間t2で行ったものとする。続いてS482で、t1とt2の時間差を算出し、その時間差が所定時間(Tges_en)未満であるか否かを判定する。所定時間(Tges_en)以上であればS484へ進み、当S481で検出したジェスチャを無効化する。所定時間(Tges_en)未満であればS483へ進み、ここで現在投射装置1がジェスチャ無効モード中か否かを判定する。ジェスチャ無効モード中であれば、S485へ進みジェスチャ無効モードを解除する。ジェスチャ無効モード中でなければ(すなわち通常モード=ジェスチャ有効モード中であれば)、S486へ進みジェスチャ無効モードに移行する
次に人間の手振りを利用したノイズ低減による感度調整について図28を参照しながら説明する。図28は操作者が+xから−x方向へ右手で手振した様子を示している。
例えば検出素子2が複数のセンサを内蔵しており、図中Aの位置とBの位置とで検出するセンサがそれぞれ異なる場合を考える。図28のような系においてセンサが観測する対象は、位置Aでは掌、位置Bでは手の甲となる。掌と手の甲では温度が異なり、また色が異なるため光に対する反射率も異なる。この場合、位置Aと位置Bから検出される信号レベルが異なる。一般に、センサの信号は増幅器で増幅した後信号処理を行う。その際、増幅器のゲインが高いとその分ノイズレベルが高くなり、応答速度も遅くなる。そのため相対的にノイズレベルが高いと予想される上級尾では増幅器のゲインを下げることが望ましい。そこで本実施例では、A側センサとB側センサのうち一方のセンサに対応する増幅器のゲインを下げることで、ノイズレベルの低減と応答速度の向上を実現する。例えば掌の温度と手の甲の温度では一般的に掌の方が高いため、右手で手振りをする場合は掌を検出するA側センサに対応する増幅器のゲインを下げ、逆に左手で手振りする場合はB側センサに対応する増幅器のゲインを下げる。これにより、複数のセンサを備えた場合において、ノイズを低減して高精度でジェスチャを検出できる。
手振りの手の切替え、すなわち右手モードと左手モードの切替は、例えば投射装置1に備えられたスイッチや表示画像のメニューにより行うようにしてもよい。
〔検出信号飽和対策〕
次に操作者の体と検出素子2との温度差による検出信号の飽和に関する課題、及びそれを解決するための本実施例の構成について説明する。ここでは、センサとしてサーモパイルを利用した検出素子を使用するものとする。
まずサーモパイルを用いた検出素子2の回路構成の一例について図29を参照しながら説明する。図29において、サーモパイル(センサ)261は、対象物(例えば人の手)の温度とセンサ261自身の温度差にほぼ比例した検出信号を出力する。サンセ261の検出信号のレベルは非常に小さいため増幅器262を用い増幅する。また増幅器262の正極性端子にはサンセ261が入力され、負極性端子には基準電圧Vrefが入力される。そして増幅器262は、その負極性端子に入力された基準電圧Vrefを基準にして、正極性端子に入力されたセンサ261からの検出信号を増幅して出力する。この増幅器262からの信号がジェスチャ判定のための信号として利用される。
図30は、熱を持つ対象物をサーモパイル(センサ)261で検出した際の増幅器262の出力電圧を示した図である。図30において、増幅器262の出力電圧をVobj、基準電圧をVref、対象物の温度をTobj、サーモパイル(センサ261)の温度をTsとすると、Tobj=Tsの場合、Vobj=Vrefとなる。またTobj>Tsの場合、Vobj>Vrefとなり、Tobj<Tsの場合Vobj<Vsとなる。増幅器262の出力電圧Vobjは、対象物の温度Tobjとサーモパイルの温度Tsとの関係により決まり、例えば下記式4で表される。
Vobj=α(Tobj-Ts)+Vref ・・・(4)
ここで、αはサーモパイルの感度、及び/または増幅器262の増幅度(ゲイン)によって定まる係数である。
次にサーモパイルを用いたジェスチャ検出について説明する。図31(a)はサーモパイルに正対した人体を検出した場合の例を示した図であり、図31(b)はサーモパイルに正対した人の手の検出を示した場合の例を図である。また図32は、人体と手の温度を検出した際の増幅器262の出力電圧を示した図である。ここで、図示しないが投射装置1は机上投射をしており、人体の温度をTback、人体の温度に対応する出力電圧をVback、手の温度をThand、手の温度に対応するVobjをVhandとする。投射装置1の表示画像をジェスチャにより操作或いは制御する場合、図31に示されるように、操作者は、投射装置1のセンサ261に正対してセンサ261の前に手を差し出して手振りを行う。このため、操作者の体は、操作者の手に対して静止した背景とみなすことができる。また操作者の手は操作者の体よりもセンサ261の近くに位置するため、また操作者の体は衣服により覆われているため、センサ261から見ると、操作者の手の方が操作者の体よりも高い温度となる。このため、図32に示されるように、背景としての静止した人体を検出した時の電圧Vbackと、その背景の前で動く太陽物である人の手を検出した時のVhandとの差分、すなわちΔV(Vhand−Vback)を算出することにより、手振り、すなわちジェスチャを検出することができる。
図33は、ジェスチャ検出に用いられる、サーモパイルを複数含む検出素子2の一例を示しており、図33(a)は4つのサーモパイル(CH1〜CH4)を含んだ検出素子2の検出面を正面から(すなわち+zから−z方向に)観測した図、図33(b)は検出素子2の各サーモパイルの検出範囲を−xから+x方向に観測した図、図33(c)は検出素子2の各サーモパイルの検出範囲を+yから−y方向に観測した図を示している。図33(a)に示されるように、サーモパイルは、検出面の中心を通るy軸方向の線に沿って2つ(CH2、CH4)、検出面の中心を通るx軸方向の線に沿って2つ(CH1、CH3)並ぶように配列されており、このため4つのサーモパイルは検出素子2の検出面において菱形に配列されている。
かかる検出素子2では、各サーモパイルが検出する信号の振幅と検出信号を出力した時間(タイミング)を用いてジェスチャを検出する。例えば+xから−x方向に手振りをすると、CH1の信号出力後CH4、CH2が検出され最後にCH3が検出される。このときCH1とCH3の信号出力には時間差が生じる。すなわち、CH1とCH3に着目すると、本例における手振りでは、CH1、CH3の順に信号が出力される。換言すれば、時間的にCH1、Ch3の順で信号が出力されれば、その時の手振りは+xから−x方向に向かう手振りであると判定することができる。このように、本例の検出素子2では、各サーモパイルの信号レベルと時間差を検出することで、ジェスチャ、すなわち背景よりも高温で動く物体(人の手)の存在の有無、及びその方向の検出が可能となる。ここでは4つのサーモパイルを用いた例を示したが、サーモパイルの数は4つでなくてもよい。手振りの動きが検出可能な個数であればいくつであってもよい。
次にこのサーモパイルを用いた回路構成の問題点を説明する。図34はサーモパイルの温度に対し人体温度が非常に高い場合を示した図である。図34に示されるように、背景としての人体温度Tbackがサーモパイル温度Tsより非常に高い場合、出力電圧が非常に高くなり、増幅器262の電源電圧Vcc(増幅器262の出力電圧の最大値)レベルに飽和する。このとき、手の温度Thandが人体温度Tbackより大きい場合、ジェスチャ有無に関わらず増幅器262からの出力電圧は変動しない。この場合、ジェスチャの検出が不可能となる。図35はサーモパイル温度に対し人体の温度が非常に低い場合を示した図である。この場合は、図示されるように増幅器262の出力電圧がGNDレベルに飽和し、図34と同様にジェスチャ検出不可能となる。
このように、サーモパイル温度と人体温度に大きな差がある場合は、ジェスチャを検出することが不可能となる場合がある。かかる問題を解決すべく、本実施は、上記図34、図35に例示した増幅器262の出力電圧の飽和状態を回避或いは抑制して好適にジェスチャを検出するための工夫を為したものである。以下、本実施例に係る増幅器262出力の飽和を回避或いは抑制するための検出素子2の構成について、図36を参照しながら説明する。
図36に示されるように、本実施例に係る検出素子2は、サーモパイル(センサ)261及び増幅器262に加え、更に増幅器制御部36を備えている。図33に示された検出素子2の構成の場合は、4つのサーモパイルそれぞれに増幅器262及び増幅器制御部36が設けられるものとする。増幅器制御部36は、信号検出部36a、ゲイン制御部36b、及び基準電圧生成部36cを含んでいる。センサ261からの出力信号は、増幅器262により増幅され増幅器制御部36の信号検出部36aに入力される。信号検出部36aは、後述のようにセンサ261からの出力信号に基づいてゲイン制御部36b及び基準電圧生成部36cを制御するための制御信号を生成して出力する。ゲイン制御部36bは信号検出部36aからの制御信号に応答して増幅器262のゲインを制御する。また基準電圧生成部3cは信号検出部36aからの制御信号に応答して増幅器262に与える基準電圧を制御する。
次に図36に示した回路における具体的な飽和回避又は抑制のための増幅器261の制御について図37を参照しながら説明する。
まず増幅器261に制御として基準電圧の制御に関し説明する。図37は図36に示された信号検出部36aの一具体例を示した図である。図37において、信号検出部36aは、A/D変換器361、比較部362、基準電圧制御部363、閾値格納部364、そして目標値格納部365を有している。ここで、操作者の体を検出した場合を考える。増幅器262の出力信号Vbackは、A/D変換器361に入力されデジタル信号に変換される。A/D変換器361から出力されたデジタル信号は、比較部362で閾値格納部364に格納された所定の閾値を読み出してこれと比較し、基準電圧Vrefの制御が必要か判定する。ここで、閾値格納部364に格納される所定の閾値は、例えばVcc及び/又はGND電圧とする。閾値がVccの場合、A/D変換器361からの出力信号がVcc以上のときは基準電圧Vrefの制御が必要と判定する。また閾値がGNDの場合、A/D変換器361からの出力信号がGND以下のときは基準電圧Vrefの制御が必要と判定する。すなわち、比較部362は、増幅器262からの出力電圧の飽和状態を判定するものである。このとき、人の手を検出した場合と区別するために、比較部362では、一定期間(例えば数秒間)増幅器262からの出力電圧が閾値Vcc以上またはGND以下であるかを判定するようにしている。
比較部362は、基準電圧Vrefの制御が必要と判定した場合、すなわちA/D変換器361からの出力信号がVcc以上かGND以下の状態が一定期間継続した場合、制御開始信号を基準電圧制御部363に出力する。基準電圧制御部363は、比較部362からの制御開始信号に応答して目標値格納部365に格納された目標値を読み出し、該目標値応じて基準電圧制御信号を生成し、基準電圧生成部36cを制御する。
このとき、例えば基準電圧VrefがVcc/2でA/D変換器361からの出力信号がVcc以上の場合、基準電圧制御部363は、目標値格納部365からVcc/2よりも低い目標値(例えばVcc/4)を読み出し、基準電圧VrefをVcc/4とするような基準電圧制御信号を生成して基準電圧生成部36cを制御する。また例えば基準電圧VrefがVcc/2でA/D変換器361からの出力信号がGND以下の場合、基準電圧制御部363は、目標値格納部365からVcc/2よりも高い目標値(例えばVcc3/4)を読み出し、基準電圧VrefをVccの3/4倍とするような基準電圧制御信号を生成して基準電圧生成部36cを制御する。
基準電圧生成部36cは、例えば抵抗分割により基準電圧Vrefを生成する構成のものであれば、当該抵抗値を制御することで基準電圧を制御するようにしてもよい。また、基準電圧生成部36cに内蔵されたA/D変換器を用いて基準電圧Vrefを制御してもよいし、基準電圧生成部36cがPWM制御されるのであれば、そのPWM信号のデューティ比を制御して基準電圧Vrefを制御するようにしてもよい。
増幅器262出力の飽和状態を検出してから制御を開始するためには、上記の例ように閾値格納部364にVccもしくはGNDを格納しておく。勿論、閾値格納部364には、所定の閾値Vcc、GNDレベル以外の閾値を格納或いは設定してもよい。例えば、VbackとVhandの差があれば人の手の動き、すなわちジェスチャを検出可能であるため、A/D変換器361の最小分解能に対応する電圧が増幅器262から出力可能であればよいことを考慮すると、Vcc−(A/D変換器361の最小分解能に対応する電圧)、もしくはGND+(A/D変換器361の最小分解能に対応する電圧)を閾値格納部364に格納或いは設定してもよい。図38では、閾値をVcc−(A/D変換器361の最小分解能に対応する電圧)とした場合のみ示しており、図示のように増幅器262からの出力電圧がこの閾値を超えた場合に基準電圧Vrefの制御を開始する。
またA/D変換器361の最小分解能だけでなく、サーモパイルからの検出信号に含まれるノイズレベルを考慮して閾値を設定してもよい。また目標値格納部365に、閾値格納部364に格納された閾値と同じ値を目標値として格納してもよい。
また、検出する温度範囲によって目標値を変更してもよい。例えば、Vref=Vcc/2、サーモパイル温度Ts=25℃の場合に、増幅器262からの出力信号がVcc、GNDに飽和する温度をそれぞれTback=35℃、15℃とすると、ジェスチャが検出可能な温度範囲(検出可能温度範囲)ΔT=20℃(=35-15℃)となる。サーモパイル温度Tsが下がりTs=20℃となると、増幅器262からの出力信号がVcc、GNDに飽和する温度はそれぞれTback=30℃、10℃となる。つまりサーモパイル温度が低くなると、人体の温度または手の温度のいずれを検出した場合も増幅器262からの出力信号が飽和する可能性が高くなる。このため、サーモパイル温度Tsが低く変動することが予想される場合は、上記検出可能温度範囲ΔTを高温側に維持或いは拡大可能にすることが好ましい。そこで、例えば基準電圧を例えばVcc/4に設定すれば、Ts=20℃で検出可能温度範囲ΔTを35℃から15℃とすることができる。この検出可能温度範囲ΔTは、上述のようにサーモパイル温度Tsが25℃の場合と同じである。このように基準電圧を変更することで、サーモパイルの温度Tsが低い方向に変動する場合でも適切な検出可能温度範囲ΔTでジェスチャ検出が可能となる。この例では基準電圧をVcc/4に設定したが、基準電圧は使用するサーモパイルの温度範囲を考慮し決定してもよい。
次に、増幅器262の出力電圧の飽和を回避或いは抑制するための、増幅器262のゲインの制御について説明する。この制御も図37の回路で実行される。
上述のように、比較部362で一定期間増幅器262からの出力電圧(A/D変換器361からの信号)が閾値Vcc以上またはGND以下と判定された場合に、まず基準電圧Vrefを制御する。このとき、増幅器262のゲイン制御は行わない。
この基準電圧Vrefの制御後でも増幅器26の2出力電圧の飽和が維持される場合は、増幅器262のゲインを制御する。例えば、基準電圧Vrefの制御後、比較部362において、一定期間(例えば数秒間)増幅器262からの出力電圧が飽和しているか、すなわちA/D変換器361からの信号が一定期間閾値Vcc以上またはGND以下かどうかを判定する。もし一定期間飽和が継続していると判定されたならば、増幅器262のゲインを制御要と判定する。例外として、複数のサーモパイルのうち一部のサーモパイルに接続された増幅器262の出力電圧のみ飽和している場合は制御を行わない。その理由として、一部のサーモパイルのみ故障、もしくは熱源が近くにある可能性があるためである。
そして、比較部362が増幅器262のゲイン制御要と判定した場合は、比較部362はゲイン制御信号をゲイン制御部36bに出力し、増幅器262のゲインを下げるように制御する。このゲイン制御信号は、閾値格納部364に格納された閾値に基づいて生成してもよいし、目標値格納部365に格納された目標値に基づいて生成してもよい。また、前述したようにA/D変換器361の分解能やノイズレベルを考慮し決めてもよい。
通常、増幅器のゲインは、サーモパイルからの低いレベルの検出信号を取得しやすくするために非常に高く設定されている。このため、増幅器のゲインは高く維持しておくことが好ましい。本実施例では上記のように増幅器262の出力電圧が飽和してもすぐにはゲインを下げず、まず基準電圧Vrefを制御し、それでも飽和が維持する場合に増幅器262のゲインを下げている。従って、本実施例によれば、サーモパイルからの検出信号の取得を良好に維持しながらも飽和を抑制することができる。
また、サーモパイルの一部が故障し増幅器262の出力電圧が飽和状態を示すこと或いは熱源が近くにあるために幅器262の出力電圧が飽和状態を示すことが検出された場合は、例えば図39に示されるように、表示画像に警告メッセージ39を合成表示させるようにしてもよい。この警告39の表示によって、正常なジェスチャの検出が不可能であることを操作者に知らせることができる。エラー表示39は表示画像上でなくてもよく、例えばLED(例えば図25(b)のエラー表示用光源15)の点滅や、スピーカーからエラー音を鳴らしてもよい。操作者がエラーを認識できる方法であれば何でもよい。
次に、サーモパイルの温度制御することで、飽和状態を回避しジェスチャ検出を可能とする構成について説明する。本実施例は、サーモパイルの温度を手の温度とほぼ同じとなるように制御し、更に増幅器262のゲイン、基準電圧を調整することで小さい信号でも検出可能とするものである。図40は、本実施例に係る別の検出素子2の一具体例であり、かかる検出素子2は、サーモパイル(センサ)261及び増幅器262に他に、更に、増幅器/温度制御部40、温度検出部41、温度調整部42を有している。また増幅器/温度制御部40は、信号検出部40a、ゲイン制御部36b、温度制御部40b、温度目標格納部40c、及び基準電圧生成部36cを含んでいる。
次に図40の動作について説明する。センサ261から増幅器262を介し出力された信号と、温度検出部41の出力信号は、増幅器/温度制御部40の信号検出部40aに入力される。信号検出部40aは、増幅器262からの信号を用いて図37の説明と同様な処理を行い、基準電圧生成部36c及びゲイン制御部36bに制御信号を出力する。基準電圧生成部36c及びゲイン制御部36bは、図37の説明と同様な処理で増幅器262の基準電圧Vref及びゲインを制御する。これらの処理、制御は図37の説明のものと同様であるので、ここではその詳細な説明は省略する。
更に信号検出部40aに入力さら信号のうち温度検出部41からの信号は、更に温度制御部40bに入力される。温度制御部40bは、温度検出部41で検出されたセンサ261の温度が温度目標値格納部40cに格納された目標温度になるよう、温度調整部42を制御する。温度調整部42は、センサ261を加熱又は冷却することでセンサ261の温度を制御するものであり、例えばペルチェ素子やコイルなどで構成されたヒータなどを利用できる。このペルチェ素子やヒータへ供給される電流を制御することで、センサ261の温度を制御する。温度目標値格納部40cに格納された目標温度は、人の手の温度に近い値、例えば36℃付近に設定する。
図41(a)は、サーモパイルの温度を人の手の温度(体温である36℃付近)と同じになるように制御したときの増幅器262の出力電圧を示した図である。図示されるように、サーモパイルと手は同一温度であるため、上記式(4)からVhand及びVbackはそれぞれ以下の式5、式6で表される。
Vhand=Vref ・・・(5)
Vback=α(Tback-Ts)+Vref (但しα=α1) ・・・(6)
尚、式6のαは、増幅器262のゲイン(増幅率)を示しており、ここではα1としている。
手の温度は衣服を着用している人体より高い場合が多く、通常VbackはVhandより低くなる。従って、サーモパイルの温度を手の温度と等しくするように温度制御すれば、図41(a)及び式5のようにVhand=Vrefとなり、かつVbackを基準電圧Vrefよりも低くすることができるので、増幅器262の出力電圧の飽和状態を回避してジェスチャの検出が可能となる。
ところで、ジェスチャ検出において、Vhand-Vbackの値は検出精度に大きく影響を与える。すなわちVhand-Vbackが大きいほどジェスチャを検出しやすくなる。このため、上述したサーモパイルの温度制御に、図37で説明した増幅器262のゲイン、基準電圧の制御を組み合わせると、ジェスチャ検出の感度向上の点でより効果的である。このサーモパイルの温度制御を図41(b)に示す。図41(b)の例では、基準電圧VrefをVccに制御し、かつゲインαを図41(a)のα1よりも大きいα2としている。このようにすることで、Vhand-Vbackの値を大きくしている。以上のようにセンサの温度制御に、更にゲイン、基準電圧の制御を加えることでさらにジェスチャ検出の感度を高くすることができる。
目標温度を手の温度にする場合は、例えば検出素子2で操作者の手の温度を検出し、これを目標温度として温度目標値格納部40cに格納するようにしてもよい。この場合、例えばジェスチャによる操作の開始前に所定の温度検出期間を設定しておき、ユーザが検出素子2の前に手を出すことで手の温度の検出を行うようにしてもよい。
図42はセンサの温度制御を含む制御シーケンスを示した図である。かかる制御シーケンスは、センサ温度制御、基準電圧制御、ゲイン制御を含む。すなわち、本実施例に係る制御シーケンスは、基準電圧制御及びゲイン制御に先立ちセンサ温度制御を行うものである。基準電圧制御、ゲイン制御は先に説明したものと同じであるのでここでは省略し、センサ温度制御についてのみ説明する。
センサ温度制御では、所定期間において手の温度の検出及びサーモパイルの温度の制御を行う。手の温度を検出する方法としては、例えば検出素子2の温度を温度制御部40bにより所定範囲(例えば28〜37℃の範囲)で変動させ、基準電圧Vrefと同じになる温度をユーザの手の温度として検出する。この検出された温度は、目標温度として温度目標値格納部40cに格納する。この検出は体温計として利用することも可能である。手の温度検出はメニュー画面からユーザが設定をしてもよいし、上述のようにジェスチャON/OFFを切替えた際に自動的に手の温度測定を促す画面を表示してもよい。検出された手の温度を目標温度として温度目標値格納部40cに格納後、図40の説明と同様な方法でサーモパイルの温度を制御する。センサ温度の制御後、上述した増幅器262の基準電圧制御、ゲイン制御を行う。
このように、本実施例によれば、センサ261の温度を例えば手の温度と同じになるように制御することで、増幅器262の出力電圧の飽和を回避或いは抑制することができる。またこれと組み合わせて、増幅器262の基準電圧制御及び/またはゲイン制御を行うことで、増幅器262の出力電圧の飽和を回避或いは抑制しながら、ジェスチャの検出感度を高めることが可能となる。
上記センサの温度制御は、投射装置1内の熱源を利用してもよい。例えば光源を駆動するドライバ周辺は非常に温度が高いので、ドライバを熱源とし、その熱を検出素子2側に伝達するための構造を設けてもよい。具体的には、可動する遮熱体または伝熱体を設け、これを設定温度に応じて移動させることによりドライバ周辺からセンサへの熱の流入量を制御する。勿論、これ以外の構造を採用してもよい。
次に実施例4について説明する。以下の本実施例では、検出素子2として例えばサーモパイルなどのセンサセンサを4つ(CH1〜CH4)内蔵したものを例にして説明するが、これに限られるものではない。
図43は、CH3からCH1の方向に手振りをした場合の信号出力を示した図である。検出素子2は図示の通りx軸方向、y軸方向のジェスチャを検出する。ここではジェスチャにより出力した信号のx軸方向、y軸方向の分離を容易にするため方法を説明する。図43の例では、まずCH3から検出信号が出力され、続いてCH2、CH4、最後にCH1から検出信号が出力される。それぞれの検出信号は背景温度Tbackに対応したオフセットと、手の温度Thandに対応したジェスチャ信号レベルを出力する。ここで、どちらの軸方向のジェスチャが入力されたかを判別して誤検出を低減するために、それぞれの軸の方向において各CHから得られた検出信号の差分を取るように構成している。その一例について図44を参照して説明する。
図44は、x軸方向、y軸方向それぞれでセンサ出力の差分を取ったときの信号の様子を示している。図面上側がx軸方向、下側がy軸方向の差分の取得結果を示している。すなわち図44の上の図はCH1とCH3の検出信号の差分をとったものであり、下の図はCH2とCH4の検出信号の差分をとったものである。図示されるように、各軸のセンサ出力の差分を取ることでノイズの低減、ジェスチャ信号レベルの向上、及びジェスチャを表す信号の特徴量の抽出が実現できる。ノイズの低減、ジェスチャ信号レベルの向上により、より小さい信号でも検出可能となり、特徴量の抽出により軸方向の誤検出を低減できる。さらにオフセットレベルに対し上下対称の波形となっており、y軸方向と分離が容易である。上記波形の対称性を利用するためには、背景温度により変動するオフセットレベルと手の動きによるジェスチャ信号レベルを検出する必要がある。
図45はジェスチャ信号レベルとオフセットレベルを検出するための一構成例を示した図である。まず、前述と同様各CHの検出信号をA/D変換し、x軸方向、y軸方向のそれぞれについて差分を計算する。例えばx軸方向についてはCH1とCH3の検出信号の差分を計算し、y軸方向についてはCH2とCH4の検出信号の差分を計算する。そして、計算した各軸の差分について時間的平均を算出する。時間的平均の算出方法として、次の2つを用いる。一つは、数秒間にわたって差分の平均を算出する方法と、もう一つは、数十msecにわたって差分の平均を算出する方法である。前者の算出方法によりオフセットレベルを算出し、後者の算出方法によりジェスチャ信号レベルを算出する。ジェスチャ信号レベルについては、ノイズレベルを考慮し、平均化のための時間を短くしてもよい。またオフセットレベルについては、変動する信号に追従するため、平均化のための時間を短くしてもよい。また使用する環境に応じて平均化時間を変更してもよい。
このようにしオフセットレベルとジェスチャ信号レベルの時間的平均を算出し、オフセットレベルを基準にした波形の対称性を判定する。波形の対称性を判定する方法としては、信号レベルの最大値、最小値がオフセットレベルからどれだけ差があるかを判定に使用してもよい。例えば(最大値−オフセットレベル)<倍数×(オフセットレベル−最小値)であれば対称性があり、ジェスチャが入力された軸であると判定する。一方、この条件を満たさないものは、ジェスチャが入力された軸ではないと判定する。
このようにして、x軸方向にジェスチャがあった場合に、各CHの検出信号からy軸方向の信号成分を容易に分離することができる。ここではx軸方向の手振りを例にあげたが、y軸方向の手振りを行った場合も同様に波形に対称性がみられるため、同じ方法を採用してx軸方向の信号成分を抽出することができる。
1:投射装置、2:検出素子、2a:検出範囲、3:検出信号演算部4:投射部、4a:画像制御部、4b:光源部、4c:光制御、4d:投射レンズ、4e:投射ミラー、5:検出範囲切換部、5a:検出範囲切換信号生成部、5b:検出素子制御部、6:外部機器、7:レーザ光源、8:角度可変ミラー、9:受光素子、10:スクリーン、11:投射装置配置台、12:回転台、13:シリンドリカルレンズ、15:LED光源、16:検出素子保護カバー、20:無線機器、21:PC、22:無線通信部、23:画像変換部、24:信号制御部、25:赤外線受光部、262:増幅器、41:温度検出部、42:温度調整部

Claims (19)

  1. 画像を投射面に投射し、ジェスチャにより前記投射された画像の制御又は操作可能な画像投射装置において、
    前記ジェスチャを検出すための検出素子と、
    該検出素子により検出された、前記投射面と平行な第1の方向のジェスチャに基づいて、前記投射された画像を制御又は操作するための操作信号を生成する制御部と、を備え、
    前記制御部は、前記検出素子が、前記投射面と垂直な第2の方向のジェスチャを検出した場合は、該第2の方向のジェスチャの検出以降に検出された前記第1の方向のジェスチャに基づく操作信号の生成を停止するジェスチャ無効モードに移行し、該ジェスチャ無効モード中に、前記検出素子が、前記第2の方向でかつ前記投射面から離れる方向のジェスチャを検出した場合は、前記ジェスチャ無効モードを解除することを特徴とする画像投射装置。
  2. 請求項に記載の画像投射装置において、
    前記第1の方向は、さらに、前記投射された画像の水平方向であることを特徴とする画像投射装置。
  3. 請求項に記載の画像投射装置において、
    前記検出素子が、前記第2の方向に沿った、連続して為された互いに逆方向のジェスチャを検出した場合に、前記制御部は、前記ジェスチャ無効モードに移行することを特徴とする画像投射装置。
  4. 請求項1に記載の画像投射装置において、
    前記制御部は、さらに、前記検出素子で前記第1の方向における一方向のジェスチャ検出後、一定時間内に検出された該一方向と反対方向のジェスチャを無効にすることを特徴とする画像投射装置。
  5. 請求項1に記載の画像投射装置において、
    前記検出素子は、一定以上の速度での手振りをジェスチャとして検出することを特徴とする画像投射装置。
  6. 請求項に記載の画像投射装置において、
    前記検出素子が、前記第2の方向に沿って為された一方向のジェスチャを検出した後、一定時間内に為された該一方向と逆方向のジェスチャを検出した場合に、前記制御部は、前記ジェスチャ無効モードに移行することを特徴とする画像投射装置。
  7. 請求項1に記載の画像投射装置において、
    前記制御部は、前記ジェスチャ無効モードであるか否かを知らせるためのメッセージまたはアイコンを、前記投射する画像に含ませることを特徴とする画像投射装置。
  8. 請求項1に記載の画像投射装置において、
    前記ジェスチャ無効モードであるか否かを知らせるための光源を更に備えたことを特徴とする画像投射装置。
  9. 請求項1に記載の画像投射装置において、
    更に、ジェスチャにより画像を回転させる機能を持つことを特徴とする画像投射装置。
  10. 請求項に記載の画像投射装置において、
    前記投射された画像上回転するジェスチャにより前記画像を回転させることを特徴とする画像投射装置。
  11. 請求項1に記載の画像投射装置において、
    前記検出素子が前記第1の方向及び前記第2の方向と垂直な方向のジェスチャを検出した場合に前記画像投射装置の電源をON/OFFすることを特徴とする画像投射装置。
  12. 請求項1に記載の画像投射装置において、
    前記検出素子は複数のセンサを含み、各センサの感度を異ならせることを特徴とする画像投射装置。
  13. 請求項12に記載の画像投射装置において、
    操作者が右手でジェスチャをする場合は、操作者から見て右手側のセンサの感度を左手側のセンサの感度より低く、左手でジェスチャをする場合は、左手側のセンサの感度を右手側のセンサの感度より低くするように設定可能としたことを特徴とする画像投射装置。
  14. 請求項1に記載の画像投射装置において、
    画像情報を有する光を発生する光源部と、
    該光源部が発生した光を用いて前記画像情報に基づく光学的な画像を生成する光制御部と、
    該光制御部が生成した前記画像を投射する投射光学部を有する投射部と
    前記検出素子に含まれ、前記画像投射装置の操作者の前記ジェスチャを検出し、検出信号を出力する温度センサと、
    該検出素子に含まれる各温度センサからの前記検出信号を増幅する増幅器と、
    前記増幅器において前記検出信号を増幅するために用いられる基準電圧及び/または前記増幅器のゲインを制御可能な増幅器制御部と、をさらに備え
    前記制御部は、該検出素子が検出し前記増幅器が増幅した前記ジェスチャの検出信号に基づき前記操作信号を生成することを特徴とする画像投射装置。
  15. 請求項14に記載の画像投射装置であって、
    前記増幅器制御部は、前記検出素子の前記検出信号が第1の閾値以上、または該第1の閾値よりも低い第2の閾値以下の場合は、前記基準電圧及び/または前記増幅器のゲインを制御することを特徴とする画像投射装置。
  16. 請求項14に記載の画像投射装置であって、
    前記増幅器制御部は、前記検出素子の前記検出信号が一定期間、第1の閾値以上、または該第1の閾値よりも低い第2の閾値以下の場合は、前記基準電圧を制御し、その後前記検出素子の前記検出信号が一定期間、前記第1の閾値以上、または該第1の閾値よりも低い前記第2の閾値以下の場合は、前記増幅器のゲインを制御することを特徴とする画像投射装置。
  17. 請求項14に記載の画像投射装置であって、
    前記制御部は、前記増幅器の出力信号の一部が飽和状態を示す場合に、前記画像上に警告メッセージを合成表示することを表示することを特徴とする画像投射装置。
  18. 請求項1に記載の画像投射装置において、
    画像情報を有する光を発生する光源部と、
    該光源部が発生した光を用いて前記画像情報に基づく光学的な画像を生成する光制御部と、
    該光制御部が生成した前記画像を投射する投射光学部を有する投射部と、
    前記検出素子に含まれ、前記画像投射装置の操作者の前記ジェスチャを検出し、検出信号を出力する温度センサと、
    該検出素子の前記検出信号を増幅する増幅器と、
    検出素子の温度を検出する温度検出部と、
    前記温度検出部により検出された前記検出素子の温度に基づき該検出素子の温度を制御する温度制御部と、をさらに備え
    前記制御部は、該検出素子が検出し前記増幅器が増幅した前記ジェスチャの検出信号に基づき前記操作信号を生成することを特徴とする画像投射装置。
  19. 請求項18に記載の画像投射装置であって、
    前記温度制御部は、前記検出素子の温度が体温と同じになるように前記検出素子の温度を制御することを特徴とする画像投射装置。
JP2013270922A 2013-12-27 2013-12-27 画像投射装置 Active JP6222830B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013270922A JP6222830B2 (ja) 2013-12-27 2013-12-27 画像投射装置
US14/552,020 US9552072B2 (en) 2013-12-27 2014-11-24 Image projection device
CN201410696581.7A CN104750243B (zh) 2013-12-27 2014-11-26 图像投影装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013270922A JP6222830B2 (ja) 2013-12-27 2013-12-27 画像投射装置

Publications (3)

Publication Number Publication Date
JP2015125670A JP2015125670A (ja) 2015-07-06
JP2015125670A5 JP2015125670A5 (ja) 2016-10-13
JP6222830B2 true JP6222830B2 (ja) 2017-11-01

Family

ID=53481689

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013270922A Active JP6222830B2 (ja) 2013-12-27 2013-12-27 画像投射装置

Country Status (3)

Country Link
US (1) US9552072B2 (ja)
JP (1) JP6222830B2 (ja)
CN (1) CN104750243B (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101978967B1 (ko) * 2012-08-01 2019-05-17 삼성전자주식회사 제스처의 방향에 기초하여 상기 제스처를 인식하는 제스처 인식 장치와 제스처 인식 방법
US9674415B2 (en) * 2014-12-22 2017-06-06 Google Inc. Time-of-flight camera system with scanning illuminator
WO2016199267A1 (ja) * 2015-06-11 2016-12-15 日立マクセル株式会社 光測距装置及びその制御方法、及びそれを用いたジェスチャ検出装置
WO2017060943A1 (ja) * 2015-10-05 2017-04-13 日立マクセル株式会社 光測距装置及び映像投写装置
JPWO2017065050A1 (ja) * 2015-10-16 2018-08-02 コニカミノルタ株式会社 入力装置、電子機器、電子機器の入力方法及びその入力プログラム
WO2017065051A1 (ja) * 2015-10-16 2017-04-20 コニカミノルタ株式会社 入力装置、電子機器、電子機器の入力方法及びその入力プログラム
JP2017146927A (ja) * 2016-02-19 2017-08-24 ソニーモバイルコミュニケーションズ株式会社 制御装置、制御方法及びプログラム
CN106406684B (zh) * 2016-04-22 2019-07-02 法法汽车(中国)有限公司 投影处理方法、装置及投影仪
CN105975073B (zh) * 2016-04-29 2019-07-02 广东美的制冷设备有限公司 手势识别方法、手势识别装置和设备
CN107543612A (zh) * 2016-06-26 2018-01-05 周尧 一种智能手势识别装置
US10877210B2 (en) * 2016-07-15 2020-12-29 Light Field Lab, Inc. Energy propagation and transverse anderson localization with two-dimensional, light field and holographic relays
EP3540580A4 (en) * 2016-11-08 2020-05-27 Sony Corporation INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING PROCESS AND PROGRAM
JP6173625B1 (ja) * 2017-01-04 2017-08-02 京セラ株式会社 電子機器、プログラムおよび制御方法
EP3588247B1 (en) * 2017-02-24 2023-07-12 Sony Group Corporation Information processing device, information processing method, and program
JP6293953B1 (ja) 2017-04-04 2018-03-14 京セラ株式会社 電子機器、プログラムおよび制御方法
WO2019118387A1 (en) * 2017-12-11 2019-06-20 Dentsply Sirona Inc. Methods, systems, apparatuses, and computer program products for extending the field of view of a sensor and obtaining a synthetic radiagraph
JP6637089B2 (ja) * 2018-02-14 2020-01-29 京セラ株式会社 電子機器、プログラムおよび制御方法
JPWO2019171727A1 (ja) * 2018-03-08 2021-03-25 パナソニックIpマネジメント株式会社 レーザレーダ
JP6822445B2 (ja) * 2018-07-02 2021-01-27 カシオ計算機株式会社 投影装置、投影方法及びプログラム
JP7346977B2 (ja) * 2019-07-29 2023-09-20 株式会社リコー 制御装置、電子機器、制御システム、制御方法、およびプログラム
EP4127626A1 (en) * 2020-04-02 2023-02-08 Signify Holding B.V. A sensor device
CN114280877A (zh) * 2020-10-01 2022-04-05 株式会社理光 图像投影装置
JP7112627B2 (ja) * 2020-11-30 2022-08-04 ソニーグループ株式会社 制御装置、制御方法及びプログラム

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3067344B2 (ja) * 1991-10-28 2000-07-17 ミノルタ株式会社 熱定着装置
JPH06153089A (ja) * 1992-10-30 1994-05-31 Olympus Optical Co Ltd 固体撮像装置
JP2005339266A (ja) * 2004-05-27 2005-12-08 Canon Inc 情報処理方法、情報処理装置、撮像装置
KR100958491B1 (ko) * 2004-07-30 2010-05-17 애플 인크. 터치 감지 입력 장치용 모드 기반 그래픽 사용자 인터페이스
US7325933B2 (en) 2004-08-09 2008-02-05 Sanyo Electric Co., Ltd Projection type video display apparatus
US9317124B2 (en) * 2006-09-28 2016-04-19 Nokia Technologies Oy Command input by hand gestures captured from camera
JP2009145149A (ja) * 2007-12-13 2009-07-02 Shimadzu Corp 分光光度計
US9772689B2 (en) * 2008-03-04 2017-09-26 Qualcomm Incorporated Enhanced gesture-based image manipulation
JP5083283B2 (ja) * 2008-10-29 2012-11-28 パナソニック株式会社 誘導加熱調理器
JP2010117917A (ja) * 2008-11-13 2010-05-27 Toyota Infotechnology Center Co Ltd 動作検出装置および操作システム
JP5357800B2 (ja) * 2009-02-12 2013-12-04 キヤノン株式会社 電子機器およびその制御方法
JP2010204730A (ja) * 2009-02-27 2010-09-16 Seiko Epson Corp ジェスチャーに応答して機器を制御するシステム
JP5115499B2 (ja) * 2009-03-06 2013-01-09 セイコーエプソン株式会社 プレゼンテーション装置
CN101598953A (zh) * 2009-05-08 2009-12-09 和芯微电子(四川)有限公司 一种输出可调的高电源抑制比基准源电路
JP4701424B2 (ja) * 2009-08-12 2011-06-15 島根県 画像認識装置および操作判定方法並びにプログラム
CN102597941A (zh) * 2009-10-28 2012-07-18 日本电气株式会社 便携式信息终端
US9183580B2 (en) * 2010-11-04 2015-11-10 Digimarc Corporation Methods and systems for resource management on portable devices
US8570286B2 (en) * 2010-02-12 2013-10-29 Honeywell International Inc. Gestures on a touch-sensitive display
CN102236409A (zh) * 2010-04-30 2011-11-09 宏碁股份有限公司 基于影像的动作手势辨识方法及系统
WO2011149160A1 (ko) * 2010-05-25 2011-12-01 연세대학교 산학협력단 애니메이션 저작 시스템 및 애니메이션 저작 방법
US9542091B2 (en) * 2010-06-04 2017-01-10 Apple Inc. Device, method, and graphical user interface for navigating through a user interface using a dynamic object selection indicator
JP4883332B2 (ja) 2010-09-21 2012-02-22 三洋電機株式会社 投写型映像表示装置
JP4911395B1 (ja) * 2010-09-28 2012-04-04 Necエンジニアリング株式会社 画像読取装置
GB2487043B (en) * 2010-12-14 2013-08-14 Epson Norway Res And Dev As Camera-based multi-touch interaction and illumination system and method
JP5617581B2 (ja) * 2010-12-08 2014-11-05 オムロン株式会社 ジェスチャ認識装置、ジェスチャ認識方法、制御プログラム、および、記録媒体
JP5711962B2 (ja) * 2010-12-27 2015-05-07 株式会社ソニー・コンピュータエンタテインメント ジェスチャ操作入力処理装置およびジェスチャ操作入力処理方法
KR20120080072A (ko) * 2011-01-06 2012-07-16 삼성전자주식회사 모션에 의해 제어되는 디스플레이 장치 및 그 모션 제어 방법
JP2012208439A (ja) * 2011-03-30 2012-10-25 Sony Corp 投影装置、投影方法及び投影プログラム
JP5834690B2 (ja) * 2011-09-22 2015-12-24 カシオ計算機株式会社 投影装置、投影制御方法及びプログラム
JP5994434B2 (ja) * 2011-10-07 2016-09-21 カシオ計算機株式会社 電子機器、及びプログラム
JP2013186646A (ja) * 2012-03-07 2013-09-19 Toshiba Corp 情報処理装置および情報処理装置の制御方法
JP5518225B2 (ja) * 2013-03-07 2014-06-11 富士通テン株式会社 ディスプレイ装置

Also Published As

Publication number Publication date
CN104750243B (zh) 2018-02-23
CN104750243A (zh) 2015-07-01
JP2015125670A (ja) 2015-07-06
US9552072B2 (en) 2017-01-24
US20150185859A1 (en) 2015-07-02

Similar Documents

Publication Publication Date Title
JP6222830B2 (ja) 画像投射装置
JP6134804B2 (ja) 映像投射装置
US11086405B2 (en) Display device and projection device
CN105765494B (zh) 投影型影像显示装置和投影型影像显示方法
WO2017141956A1 (ja) 空間表示装置
JP6102750B2 (ja) インターフェース装置、インターフェース装置の駆動方法、インターフェースシステムおよびインターフェースシステムの駆動方法
KR20110052583A (ko) 사용자 인터페이스의 네비게이션을 위해 간섭성 광 빔의 간섭 패턴의 검출된 이동을 커서 이동에 맵핑
US11438986B2 (en) Methods and systems for feature operational mode control in an electronic device
WO2017212601A1 (ja) 光測距装置、及びこれを備えた映像投写装置
TWI607343B (zh) 資訊科技裝置輸入系統及相關方法
US9436071B2 (en) Method for reducing a light intensity of a projection device
JP2017183776A (ja) 表示装置及び表示装置の制御方法
KR20130138935A (ko) 빔프로젝터 시스템 및 그 제공방법
JP2015158558A (ja) プロジェクター
WO2017094557A1 (ja) 電子機器及びヘッドマウントディスプレイ
US11854502B2 (en) Display method, display system, and recording medium storing display program
JP2017181593A (ja) 表示装置
KR20110008379A (ko) 스캐닝 가능한 레이저 포인터가 장착 된 휴대폰
JP2005190283A (ja) 情報入力装置
JP2017026367A (ja) 投影装置
US20130285905A1 (en) Three-dimensional pointing device and system
KR20140026586A (ko) 빔프로젝터 시스템 및 그 제공방법
WO2015162722A1 (ja) 映像投写装置
JP2017227464A (ja) 赤外線源検出システムおよび赤外線源検出方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160825

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160825

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170524

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170613

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170919

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171002

R150 Certificate of patent or registration of utility model

Ref document number: 6222830

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

S631 Written request for registration of reclamation of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313631

S633 Written request for registration of reclamation of name

Free format text: JAPANESE INTERMEDIATE CODE: R313633

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250