JP6273671B2 - プロジェクター、表示システム、及びプロジェクターの制御方法 - Google Patents

プロジェクター、表示システム、及びプロジェクターの制御方法 Download PDF

Info

Publication number
JP6273671B2
JP6273671B2 JP2013008976A JP2013008976A JP6273671B2 JP 6273671 B2 JP6273671 B2 JP 6273671B2 JP 2013008976 A JP2013008976 A JP 2013008976A JP 2013008976 A JP2013008976 A JP 2013008976A JP 6273671 B2 JP6273671 B2 JP 6273671B2
Authority
JP
Japan
Prior art keywords
input
detected
unit
projector
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013008976A
Other languages
English (en)
Other versions
JP2014142684A (ja
Inventor
明彦 田村
明彦 田村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2013008976A priority Critical patent/JP6273671B2/ja
Priority to US13/853,545 priority patent/US9134814B2/en
Priority to CN201811156363.9A priority patent/CN109375793A/zh
Priority to CN201310111231.5A priority patent/CN103365549B/zh
Publication of JP2014142684A publication Critical patent/JP2014142684A/ja
Application granted granted Critical
Publication of JP6273671B2 publication Critical patent/JP6273671B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Position Input By Displaying (AREA)

Description

本発明は、プロジェクター、表示システム、及びプロジェクターの制御方法に関する。
従来、タブレット型コンピューター等のコンピューターに使用される入力装置として、スタイラスによりディスプレイの表示面を操作する構成が知られている(例えば、特許文献1参照)。特許文献1の構成では、スタイラスによるタップ、ストローク、ホールド、ホールド・ドラッグ等の様々な操作を検出し、各操作に対応づけられたマウスなどのポインティングデバイスのジェスチャーをシミュレートする方法が開示されている。このように、スタイラスによって所定の操作が直接入力される入力装置は、構成がシンプルなため、直感的な操作が可能である。このような入力装置を活用するため、例えば特許文献1の構成では、コンピューターがスタイラスのホールドを検出するとマウスの第2マウスボタンクリックをシミュレートする。これにより、スタイラスによる操作を、2以上のボタンを有するマウスの操作として処理できる。この場合、スタイラスのホールドに分類される操作が行われると、コンピューターが操作に対して目に見える形でフィードバックする処理を行うので、スタイラスを用いてマウスのような感覚で操作できる。
特開2002−189567号公報
特許文献1記載の構成では、コンピューターがスタイラスの操作を分類し、ホールド操作に対してフィードバックを行う等の処理を行っている。しかしながら、このような動作はスタイラスの使用を前提としたコンピューターの構成を必要とする。例えば、スタイラスの使用に適した専用のデバイスドライバープログラムや、上記のような位置入力操作に対応するオペレーティングシステムの機能が必要である。このため、上記従来の方法は、特定の構成を持たない一般的なコンピューターに適用できる方法ではなかった。
本発明は、上述した事情に鑑みてなされたものであり、一般的なコンピューターの入力に使用することが可能で、マウス等の一般的なポインティングデバイスによる操作と同様の操作感を得られるプロジェクター、表示システム、及びプロジェクターの制御方法を提供することを目的とする。
上記課題を解決するため、本発明の入力装置は、入力操作を検出する操作検出手段と、前記操作検出手段によって前記入力操作を検出可能な操作エリアにおける前記入力操作の操作位置を検出する位置検出手段と、前記操作検出手段により第1の入力操作が検出されてから所定時間以内に第2の入力操作が検出されない場合に、第1の操作及び前記位置検出手段により検出された操作位置を通知する操作通知手段と、を備えることを特徴とする。
本発明によれば、第1の入力操作が検出されてから所定時間内に第2の入力操作が検出されない場合に第1の操作を通知する。例えば少なくとも2通りの操作状態を有する比較的単純な入力デバイスを用いて、一方の操作を行ってから所定時間以内に他方の操作を行わないと、一方の操作が通知される。このため、第2の入力操作を所定時間以内に行うかどうかにより、第1の操作を通知させるタイミングを調整できる。また、例えば、第1の操作を通知する動作として、一般的なポインティングデバイスの操作信号の出力を行えば、上記の入力デバイスをポインティングデバイスとして使用できる。従って、単純な構成の入力デバイスを用いて、より多機能なポインティングデバイスに近い操作性を実現できる。
上記入力装置において、前記操作通知手段は、前記第1の操作及び前記位置検出手段により検出された操作位置を通知した後に、前記第1の操作の解除を通知してもよい。
この場合、ユーザーが第1の入力操作を行うことで、この第1の操作を通知させ、さらに、この第1の操作の解除を通知させることができる。
また、上記入力装置において、前記操作通知手段は、前記第1の操作及び前記位置検出手段により検出された操作位置を通知した後、前記操作検出手段により前記第2の入力操作が検出される前に、前記第1の操作の解除を通知してもよい。
この場合、ユーザーが第1の入力操作を行うと、第2の入力操作を行う前に、第1の操作の通知と、この第1の操作の解除の通知とを実行させることができる。
また、上記入力装置において、前記操作通知手段は、前記第1の操作及び前記位置検出手段により検出された操作位置を通知してから所定時間が経過した後に、前記第1の操作の解除を通知してもよい。
この場合、第1の操作の通知が実行された後に所定時間を空けて、第1の操作の解除の通知が実行される。このため、操作の通知を受ける機器において第1の操作の通知と第1の操作の解除の通知とを確実に識別できる。
また、上記入力装置において、前記操作通知手段は、前記第1の操作及び前記位置検出手段により検出された操作位置を通知した後、前記操作検出手段により前記第2の入力操作が検出されるまでの間、通知を伴わない他の処理を実行することを特徴とする。
この場合、第1の操作を検知した後、第2の入力操作が行われるまでの間に通知を行うことなく他の処理を実行できる。このため、第1の操作の解除の通知等を行うまでの待機時間を利用して、他の処理を実行し、効率よく処理を進めることができる。また、他の処理を実行中に通知を受ける機器に影響を与えることがないという利点がある。
また、上記入力装置において、前記操作通知手段は、前記操作検出手段により前記第2の入力操作が検出された後に、前記第1の操作の解除を通知することを特徴とする。
この場合、第1の入力操作を検出した後に第2の入力操作が検出されると、第1の操作の解除を通知する。このため、ユーザーは、第1の入力操作の後に第2の入力操作を行うことで、任意のタイミングで第1の操作の解除を通知させることができる。
また、上記入力装置において、前記操作通知手段は、前記操作検出手段により前記第1の入力操作が検出されてから前記所定時間以内に前記第2の入力操作が検出された場合に、前記第1の操作とは異なる第2の操作を通知してもよい。
この場合、第1の入力操作が検出されてから所定時間以内に第2の入力操作が検出されると、第2の操作が通知される。このため、ユーザーは、第2の入力操作を行うタイミングを調整することにより、第1の操作とは異なる第2の操作を通知させることができる。従って、単純な構成を有する入力デバイスを用いて、より多機能なポインティングデバイスに近い操作性を実現できる。
また、上記入力装置において、前記操作検出手段により前記第1の入力操作が検出された後、前記第2の入力操作が検出された場合に前記第1の操作の解除を通知する構成として、さらに、前記第1の入力操作が検出されてから前記所定時間以内に前記第2の入力操作が検出された場合に、前記第1の操作とは異なる第2の操作を通知する構成とすることもできる。
この場合、第1の入力操作と第2の入力操作が行われた場合に2通りの動作のいずれかが実行される。すなわち、第2の入力操作が検出されるタイミングにより、第1の操作の解除を通知する動作と、第2の操作を通知する動作とのいずれかが実行される。従って、ユーザーは、第2の入力操作を行うタイミングを調整することで、2通りの通知のうち、所望の通知を実行させることが可能となる。
また、上記入力装置において、前記操作通知手段は、前記第2の操作を通知した後に前記第2の操作の解除を通知してもよい。
この場合、第1の入力操作及び第2の入力操作に対応して、第1の操作を通知するとともに、第2の操作と、第2の操作の解除とを通知できる。このため、2種類の入力操作に対応して、第1の操作及び第2の操作を通知するとともに、各操作の解除を通知できる。
また、上記入力装置において、前記操作通知手段は、前記第2の操作を通知するとともに前記位置検出手段により検出された操作位置を通知してもよい。
この場合、第2の操作について操作位置を通知することができるので、第1の入力操作及び第2の入力操作に対応して、より多様な操作を実現できる。
また、上記入力装置において、光源が発した光を変調する光変調手段と、画像データに基づいて前記光変調手段により表示画像を形成する画像形成手段と、前記画像形成手段により形成された表示画像を投射する投射手段と、を備えたプロジェクターとして構成され、前記投射手段により投射される表示画像が示す範囲が前記操作エリアとされたことを特徴とする。
この場合、画像データに基づいて表示画像を投射するプロジェクターが、表示画像が示す範囲における第1の入力操作に対応して、第1の操作を通知する。これにより、プロジェクターにより表示画像を投射した状態で、例えば操作子の数が少ない単純な構成を有する入力デバイスを用いて、より多機能なポインティングデバイスを用いた場合と同様の操作性を実現できる。従って、プロジェクターの利便性の向上を図ることができる。
また、上記課題を解決するため、本発明の表示システムは、指示体により入力される入力操作をプロジェクターが検出し、前記入力操作に対応する操作をコンピューターに通知し、前記操作を前記コンピューターが実行する表示システムであって、前記指示体は、操作子と、前記操作子から入力される入力操作を前記プロジェクターに指示する送信手段と、を有し、前記プロジェクターは、光源が発した光を変調する光変調手段と、画像データに基づいて前記光変調手段に表示画像を形成する画像形成手段と、前記画像形成手段により形成された表示画像を投射する投射手段と、前記指示体より通知される入力操作を検出する操作検出手段と、前記投射手段により投射される表示画像が示す操作エリアにおいて、前記操作検出手段によって検出された入力操作の操作位置を検出する位置検出手段と、前記操作検出手段により第1の入力操作が検出されてから所定時間以内に第2の入力操作が検出されない場合に、第1の操作及び前記位置検出手段により検出された操作位置を前記コンピューターに通知する操作通知手段と、を有し、前記コンピューターは、前記操作通知手段からの通知に基づき、前記第1の操作を実行する制御手段、を有することを特徴とする。
本発明によれば、画像データに基づいて表示画像を投射するプロジェクターが、表示画像が示す範囲における第1の入力操作と、所定時間以内の第2の入力操作の有無に基づき、第1の操作をコンピューターに通知する。コンピューターは、第1の操作に対応した制御を実行できる。このため、プロジェクターにより表示画像を投射した状態で、例えば操作子の数が少ない単純な構成を有し、表示画像に対応した入力操作に適した指示体を用いて、より多機能なポインティングデバイスを用いた場合と同様にコンピューターを操作できる。これにより、プロジェクターの表示画像を利用して、コンピューターを快適に操作できる。また、指示体を用いることで、プロジェクターの表示画像を有効に利用して、コンピューターを操作できる。
また、上記表示システムにおいて、前記操作通知手段は、前記操作検出手段により前記第1の入力操作が検出されてから前記所定時間以内に前記第2の入力操作が検出された場合に、前記第1の操作とは異なる第2の操作を前記コンピューターに通知し、前記制御手段は、前記操作通知手段からの通知に基づき、前記第2の操作を実行してもよい。
この場合、第1の入力操作が検出されてから所定時間以内に第2の入力操作が検出されると、第2の操作が通知される。このため、ユーザーは、第2の入力操作を行うタイミングを調整することにより、第1の操作とは異なる第2の操作を通知させることができる。従って、単純な構成を有する入力デバイスを用いて、より多機能なポインティングデバイスを用いた場合と同様にコンピューターを操作できる。
また、上記表示システムにおいて、前記コンピューターは、2以上の操作子を備えたポインティングデバイスを備え、前記操作通知手段は、前記第1の操作を前記ポインティングデバイスが備える第1の操作子による操作として前記コンピューターに通知し、前記第2の操作を前記ポインティングデバイスが備える第2の操作子による操作として前記コンピューターに通知してもよい。
この場合、画像データに基づいて表示画像を投射するプロジェクターが入力デバイスの操作を検出して、コンピューターが備えるポインティングデバイスの2種類の操作として通知を行う。このため、表示画像が投射された状態で、単純な構成を有する入力デバイスを使用しながら、コンピューターが備えるポインティングデバイスと同様にコンピューターを操作できる。
また、上記課題を解決するため、本発明の入力方法は、第1の入力操作と第2の入力操作とを検出し、前記入力操作を検出可能な範囲である操作エリアにおける入力操作の操作位置を検出し、前記第1の入力操作が検出されてから所定時間以内に前記第2の入力操作が検出されない場合に、第1の操作と前記操作位置とを通知する、ことを特徴とする。
本発明によれば、第1の入力操作を検出してから所定時間以内に第2の入力操作を検出するか否かにより、第1の操作を通知する。従って、単純な構成を有する入力デバイスを用いて、より多機能なポインティングデバイスに近い操作性を実現できる。
本発明によれば、単純な構成を有する入力デバイスを用いて、より多機能なポインティングデバイスに近い操作性を実現できる。
第1の実施形態に係る表示システムの構成を示す図である。 表示システムの機能的構成を示すブロック図である。 PCの機能的構成を示すブロック図である。 座標を検出及び変換する処理を示す説明図であり、(A)は投射状態の例を示し、(B)は画像が変更された場合の例を示す。 プロジェクターの動作を示すフローチャートである。 ペン型指示器の操作とプロジェクターが出力する操作データとの対応を示すタイミングチャートである。 第2の実施形態におけるプロジェクターの動作を示すフローチャートである。
[第1の実施形態]
以下、図面を参照して本発明を適用した実施形態について説明する。
図1は、本発明の第1の実施形態に係るプロジェクター11を用いた表示システム10の構成を示す図である。
プロジェクター11は、PC(パーソナルコンピューター)13に画像信号ケーブル等により有線接続されている。プロジェクター11は、PC13から入力される画像に基づき、投射面(表示面)としてのスクリーンSCに表示画像を投射する。ここで、プロジェクター11上で画像が投射される範囲を実投射領域11B(表示可能領域)とする。スクリーンSCは、図1に示すような壁面に固定された平板に限らず、壁面自体をスクリーンSCとして使用することも可能である。
表示システム10では、ユーザーが、ペン型の入力デバイスであるペン型指示器2(指示体)を手に持って、スクリーンSCの実投射領域11Bにおける位置をプロジェクター11に指示する位置指示操作を行うことができる。ペン型指示器2の先端にはスイッチ21が配置され、ユーザーがペン型指示器2をスクリーンSCに押し付けるプレス操作を行うと、スイッチ21が押圧されてオンになる。
プロジェクター11は、後述するようにペン型指示器2の先端位置を検出する機能を有し、検出したペン型指示器2の位置の座標を示す座標データをPC13に出力する。また、プロジェクター11は、ペン型指示器2のスイッチ21がオンになったことを検出する機能を有し、後述するようにスイッチ21のオン/オフに対応した動作を実行する。この構成により、プロジェクター11は、PC13に対する入力装置として機能する。また、プロジェクター11は、ペン型指示器2とPC13とともに表示システム10を構成する。また、プロジェクター11はUSBケーブル等によりPC13に接続され、PC13に対して、ペン型指示器2によって指示された位置の座標データや、スイッチ21のオン/オフに基づく操作データ等を送信する。本実施形態では、プロジェクター11がペン型指示器2による操作やペン型指示器2の位置を検出可能な範囲を操作エリアとし、更に当該操作エリアは、プロジェクター11が投射する実投射領域11Bとする。尚、操作エリアは、プロジェクター11が投写する実投射領域11Bの外を検出可能範囲として含めてもよい。
図2は、表示システム10の機能的構成を示すブロック図である。
プロジェクター11は、画像処理ユニット110と、投射ユニット3(表示手段)と、位置検出ユニット150と、座標変換部160と、出力制御部101と、これらの各部を制御する制御部103と、を備えている。画像処理ユニット110は、PC13から入力される画像データに基づいて表示用の画像処理を実行する。投射ユニット3は、画像処理ユニット110の制御に従ってスクリーンSCに画像を投射する。位置検出ユニット150は、スクリーンSC上のペン型指示器2の指示位置を検出する。座標変換部160は、位置検出ユニット150が検出した指示位置の座標を、画像データにおける座標に変換する。出力制御部101は、座標変換部160が変換した変換後の座標をPC13に出力する。
制御部103は、図示しないCPU、不揮発性メモリー、RAM等により構成される。制御部103は、記憶部105に記憶されている制御プログラム105Aを読み出して実行し、プロジェクター11の各部を制御する。制御部103は、キャリブレーション実行部103A及び位置検出制御部103B(操作通知手段)として機能する。位置検出制御部103Bは、後述するキャリブレーションを実行して、撮影画像データにおける座標と、キャリブレーションの対象となるスクリーンSC上の領域における座標との対応関係(座標変換パラメーター)を求める。位置検出制御部103Bは、後述する位置検出ユニット150及び操作検出部165によって、ペン型指示器2により指示された指示位置と、スイッチ21のオン/オフを検出する。記憶部105は、磁気的、光学的記録装置または半導体記憶素子により構成され、制御プログラム105Aを含む各種プログラム、及び、各種設定値等のデータを記憶する。
制御部103には、プロジェクター11の筐体(図示略)に配置された操作パネル41が接続されている。制御部103は、プロジェクター11の動作状態等に応じて操作パネル41のインジケーターランプの点灯制御を行う一方、操作パネル41のスイッチの操作を検出する。また、プロジェクター11は、ユーザーが使用するリモコン(図示略)がユーザーの操作に対応して送信する赤外線信号を受光するリモコン受光部45を備えている。制御部103は、操作パネル41またはリモコン受光部45が出力する操作信号に基づいて、ユーザーによる操作の内容を判別し、プロジェクター11を制御する。
投射ユニット3は、照明光学系31、光変調装置32(光変調手段)、及び、投射光学系33から構成される投射部30(投射手段)を備えている。照明光学系31は、キセノンランプ、超高圧水銀ランプ、LED(Light Emitting Diode)等からなる光源を備えている。照明光学系31は、さらに、光源が発した光を光変調装置32に導くリフレクターや補助リフレクターを備えていてもよい。また、投射光の光学特性を高めるためのレンズ群(図示略)、偏光板、或いは光源が発した光の光量を光変調装置32に至る経路上で低減させる調光素子等を備えていてもよい。
光変調装置32は、画像処理ユニット110からの信号を受けて、照明光学系31が発した光を変調する。本実施形態では、光変調装置32が、RGBの三原色に対応した3枚の透過型液晶パネルを備えたものとする。この構成では、照明光学系31からの光はRGBの3色の色光に分離され、各色光は対応する各液晶パネルに入射する。各液晶パネルを通過して変調された色光はクロスダイクロイックプリズム等の合成光学系によって合成され、投射光学系33に射出される。
投射光学系33は、投射する画像の拡大・縮小および焦点の調整を行うズームレンズ、ズームの度合いを調整するズーム調整用モーター、フォーカスの調整を行うフォーカス調整用モーター等を備えている。
また、投射ユニット3は、投射光学系駆動部121、光変調装置駆動部119、及び、光源駆動部117を備えている。投射光学系駆動部121は、投射部30とともに、表示制御部107の制御に従って投射光学系33が備える各モーターを駆動する。光変調装置駆動部119は、表示制御部107から出力される画像信号に基づいて光変調装置32を駆動して描画を行う。光源駆動部117は、制御部103の制御に従って照明光学系31が備える光源を駆動する。
画像処理ユニット110は、PC13に接続されるインターフェイスを備えた画像入力部104を有する。画像入力部104のインターフェイスには、例えば、各種の汎用インターフェイスを用いることができる。具体的な例としては、デジタル映像信号が入力されるDVI(Digital Visual Interface)インターフェイス、USBインターフェイス及びLANインターフェイスが挙げられる。また、例えば、NTSC、PAL及びSECAM等のコンポジット映像信号が入力されるS映像端子、コンポジット映像信号が入力されるRCA端子、コンポーネント映像信号が入力されるD端子、HDMI(登録商標)規格に準拠したHDMIコネクター等を用いることもできる。また、画像入力部104は、アナログ映像信号をデジタル画像データに変換するA/D変換回路を有し、VGA端子等のアナログ映像端子によりPC13に接続される構成としてもよい。なお、画像入力部104は有線通信によって画像信号の送受信を行っても良く、無線通信によって画像信号の送受信を行っても良い。また、画像入力部104に、VESA(Video Electronics Standards Association)が策定したDisplayPortを備えた構成としてもよい。具体的には、DisplayPortコネクター或いはMini DisplayPortコネクターと、DisplayPort規格に準拠したインターフェイス回路とを備えてもよい。この場合、プロジェクター11は、PC13や、PC13と同等の機能を有する携帯型デバイスが備えるDisplayPortに接続することができる。
また、画像処理ユニット110(画像形成手段)は、画像入力部104を介して入力された画像データを処理する表示制御部107を備えている。また、画像処理ユニット110は、表示制御部107の制御に従って画像をフレームメモリー115に展開し、投射部30が投射する画像を生成する画像処理部113を備えている。
表示制御部107は、制御部103の制御に従って、画像入力部104に入力された画像データのフォーマット(フレームレート、解像度、圧縮状態)の判別等を行う。そして、表示制御部107は、光変調装置32に表示画像を表示するために必要な処理を決定し、画像処理部113を制御して当該処理を実行する。画像処理部113は、表示制御部107の制御に従い、画像入力部104に入力された画像データをフレームメモリー115に展開する。画像処理部113は、展開した画像データに対しインターレース/プログレッシブ変換、解像度変換等の各種変換処理を適宜実行する。そして、処理後の画像データに基づき、フレームメモリー115に描画した表示画像を表示するための所定フォーマットの画像信号を生成して、表示制御部107に出力する。
画像処理部113は、表示制御部107の制御に従って、キーストーン補正、カラーモードに対応した色調補正、画像の拡大/縮小処理等の各種の画像処理を実行できる。表示制御部107は、画像処理部113により処理された画像信号を光変調装置駆動部119に出力し、光変調装置32に表示させる。また、画像処理部113は、表示中の画像データの解像度、アスペクト比、光変調装置32の液晶表示パネルにおける表示サイズ等の情報から、後述する画像位置情報を導出し、求めた画像位置情報を座標変換部160に出力する。
位置検出ユニット150(位置検出手段)は、スクリーンSCを撮影する撮像部153、及び、撮像部153を制御する撮影制御部155を備えている。また、位置検出ユニット150は、位置検出部151と座標算出部159とを備えている。位置検出部151は、撮像部153の撮影画像に基づいてペン型指示器2の指示位置を検出する。座標算出部159は、位置検出部151が検出した指示位置の座標を算出する。
撮像部153は、投射部30が投射する画像を撮影するカメラを有し、スクリーンSC上で投射部30が画像を投射可能な最大範囲(後述する投射可能領域11Aに相当)が、撮像部153の画角に含まれる。撮像部153は、撮影制御部155の制御に従って撮影を実行し、撮影画像データを出力する。
撮影制御部155は、制御部103の制御に従って撮像部153を制御して撮影を実行させ、撮像部153が出力する撮影画像データを取得して、位置検出処理部157に出力する。撮像部153から出力される撮影画像データは、RGBやYUV等の形式で表されるものや輝度成分のみを表すものであっても良い。撮影制御部155は、撮像部153から出力される撮影画像データをそのまま位置検出処理部157へ出力してもよく、解像度の調整や所定のファイルフォーマット(JPEG、BMPなど)への変換等を行った上で位置検出処理部157へ出力しても良い。撮像部153が撮影時のズーム倍率、フォーカス、絞りの調整を行う機構を有する場合、撮影制御部155は、これらの機構を制御して予め設定された条件で撮影を実行させる。
なお、撮像部153は、可視光を撮像可能な構成に限らず、非可視光(赤外光など)を撮像可能な構成であっても良い。この場合、ペン型指示器2が非可視光を射出して、この非可視光を撮像部153が撮像する構成を採用できる。また、ペン型指示器2が非可視光を反射可能な反射部を備えていて、制御部103の制御によって、プロジェクター11がスクリーンSCに向けて非可視光を投射し、ペン型指示器2の反射部で反射された非可視光を撮像部153が撮像する構成等を採用できる。
位置検出処理部157は、撮影制御部155から入力される撮影画像データを解析して、この撮影画像データから、実投射領域11Bの外部と実投射領域11Bとの境界、及び、ペン型指示器2の画像を抽出し、ペン型指示器2による指示位置を特定する。ペン型指示器2の指示位置は、例えば、ペン型指示器2の先端の位置として求められる。位置検出処理部157が特定した指示位置は撮影画像データにおける位置であり、この特定された指示位置を、座標算出部159が、画像処理部113が描画したフレームメモリー115上の座標に変換する。フレームメモリー115に描画された画像上の座標と、撮影画像データ上の座標とは、様々な要素の影響を受ける。この要素は、例えば、プロジェクター11とスクリーンSCとの距離、投射光学系33におけるズーム率、プロジェクター11の設置角度、撮像装置5とスクリーンSCとの距離等である。プロジェクター11は、最初にキャリブレーションを実行して、画像処理部113が描画した画像上の座標とスクリーンSC上における座標との対応関係(座標変換パラメーター)を求める。座標算出部159は、キャリブレーションで求められた座標変換パラメーターに基づいて、撮影画像データにおける座標をフレームメモリー115上の座標に変換する。座標算出部159が変換した座標は座標変換部160に出力される。
座標変換部160は、位置検出ユニット150が出力した座標を、PC13から入力された画像における座標に変換する。座標変換部160は、画像処理部113がフレームメモリー115に展開した画像の解像度と、画像処理部113が画像を展開する際に行った解像度変換やズーム等の処理内容に関する情報とを含む各種の情報を取得する。そして、座標変換部160は、取得した情報をもとに、位置検出処理部157が求めた座標を入力画像データにおける座標を示す座標データに変換する。座標変換部160が変換した座標データは、出力制御部101と、画像処理部113に出力可能である。座標変換部160が座標データを出力する出力先は、位置検出制御部103Bの機能により制御される。
PC13では、座標変換部160が出力した座標データを、マウス18(図3)等のポインティングデバイスの操作に応じて入力されるデータと同様のデータとして処理できる。これは、座標変換部160によって、PC13が出力した画像における座標を示すデータに変換されたためである。これにより、プロジェクター11を含む表示システム10は、マウス18等によりPC13に直接入力される構成と同様に機能する。
プロジェクター11は、ペン型指示器2のスイッチ21の操作状態を検出する操作検出部165(操作検出手段)を備えている。図2に示すように、ペン型指示器2は、電源部23と、この電源部23の電力に基づき無線信号を送信する送信部25とを備えている。送信部25は、スイッチ21がオンになると、スイッチ21のオン状態を示すデータを、赤外線や無線電波を利用した無線信号として送信する。また、送信部25は、特許請求の範囲における送信手段に相当する。操作検出部165は、送信部25が赤外線や無線電波により送信した無線信号を受信して、スイッチ21のオン/オフを検出する。操作検出部165の検出したスイッチ21の操作状態は、出力制御部101とともに、出力制御部101を介して制御部103に入力される。制御部103は、位置検出制御部103Bの機能によって、操作検出部165の検出状態に基づいてスイッチ21のオン/オフを判定し、図5を参照して後述するように、PC13に操作データを出力する。
出力制御部101は、PC13に接続されるインターフェイスを備える。このインターフェイスは、例えばUSBインターフェイス、有線LANインターフェイス、無線LANインターフェイス、IEEE1394等の汎用インターフェイスが挙げられる。出力制御部101は、制御部103の制御に従って、座標変換部160の変換処理後の座標データをPC13に出力する。この座標データは、マウス18(図3)や、トラックボール、デジタイザー、ペンタブレット等のポインティングデバイスが出力する座標データと同様のデータとして、PC13に入力される。また、出力制御部101は、位置検出制御部103Bにより生成された操作データを、PC13に出力する。この操作データはマウス18の第1マウスボタン(いわゆる右ボタン)181、第2マウスボタン(いわゆる左ボタン)182の操作時にマウス18がPC13に出力するデータと同様のフォーマットを有するデータである。
図3は、PC13の機能的構成を示すブロック図である。
図3に示すように、PC13は、制御プログラムを実行してPC13の各部を中枢的に制御するCPU131を備えている。また、CPU131により実行される基本制御プログラムや当該プログラムに係るデータを記憶したROM132、及び、CPU131が実行するプログラムやデータを一時的に記憶するRAM133を備えている。さらに、PC13は、記憶部134、入力部135、表示部136、及び、外部I/F137を備えており、これらの各部はバスにより相互に接続されている。外部I/F137は、外部の装置との間でデータ等を送受信する。
記憶部134は、各種プログラムやデータを不揮発的に記憶する。具体的には、記憶部134は、CPU131により実行されるOS(オペレーティングシステム)、デバイスドライバープログラム、表示制御プログラム、及び、表示制御プログラムの実行時に出力される画像データ等を記憶している。CPU131は、オペレーティングシステムを実行してPC13の基本的な機能を実現する。そして、このオペレーティングシステムの一部を構成するデバイスドライバープログラムを実行し、後述する入力I/F141に接続されたキーボード17及びマウス18を含む入力デバイスからの入力を可能とする。また、CPU131は、表示制御プログラムを実行し、モニター144により画像データを表示する機能を実行する。この機能の実行時にはモニター144とともにプロジェクター11に画像が出力される。ここで、CPU131は、特許請求の範囲における制御手段に相当する。
入力部135は、入力操作を検出して入力内容を示すデータや操作信号をCPU131に出力する。入力部135は、コネクターや電源供給回路を有する入力I/F141を有し、この入力I/F141には、キーボード17、マウス18等の入力デバイスが接続される。入力I/F141は、例えばUSBインターフェイス等の入力デバイス用の汎用インターフェイスで構成される。入力I/F141には、キーボード17から操作されたキーに対応する操作信号が入力される。また、マウス18からは、マウス18を動かす操作に対応した相対座標データまたは絶対座標データと、マウス18の第1マウスボタン181(第1の操作子)及び第2マウスボタン182(第2の操作子)の操作状態を示すデータが入力される。また、入力I/F141には、プロジェクター11に繋がる通信ケーブルが接続され、プロジェクター11から、ペン型指示器2による指示位置の座標データが入力される。プロジェクター11からは、汎用のポインティングデバイスの操作に応じて入力される絶対座標データ、及び、スイッチ21の操作状態に応じた操作データが入力される。これらのデータは、マウス18や、トラックボール、デジタイザー、ペンタブレット等のポインティングデバイスが出力する座標データと同様のデータとして入力される。PC13は、プロジェクター11から入力される座標データを、様々なポインティングデバイスに対応した汎用のデバイスドライバープログラムによって処理できる。PC13は、例えば、この座標データに基づいてマウスカーソルやポインターを移動する等の動作を行える。
表示部136は、CPU131による処理結果等を表示するための表示データを出力する。表示部136は、画像信号出力用のコネクター等を備えた画像出力I/F143を有し、この画像出力I/F143には、モニター144、及び、プロジェクター11に繋がる画像信号ケーブル(図示略)が接続される。画像出力I/F143は、例えば、アナログ映像信号を出力するVGA端子、デジタル映像信号を出力するDVIインターフェイス、USBインターフェイス、またはLANインターフェイス等を備えている。また、例えば、NTSC、PAL及び、SECAM等のコンポジット映像信号を出力するS映像端子、コンポジット映像信号を出力するRCA端子、コンポーネント映像信号を出力するD端子等を備えてもよい。また、HDMI(登録商標)規格に準拠したHDMIコネクター等を備えてもよい。画像出力I/F143は複数のコネクターを備え、いずれかのコネクターにモニター144及びプロジェクター11がそれぞれ接続される。また、画像出力I/F143は、VESAが策定したDisplayPortを備えた構成としてもよい。具体的にはDisplayPortコネクター或いはMini DisplayPortコネクターと、DisplayPort規格に準拠したインターフェイス回路とを備えた構成としてもよい。この場合、PC13は、プロジェクター11やモニター144或いは他の機器に対し、DisplayPortを介してデジタル映像信号を出力できる。なお、画像出力I/F143は有線通信によって画像信号の送受信を行っても良く、無線通信によって画像信号の送受信を行っても良い。
CPU131は、表示制御プログラムの実行中、入力部135からポインティングデバイスの操作に対応する座標データや操作データが入力された場合に、入力された座標に対応する位置に、ポインター12(図1)を表示するための画像を生成する。そして、CPU131は、再生中の画像データにポインター12を重ねた画像データを生成し、この画像データを画像出力I/F143からプロジェクター11に出力する。
図4は、座標を検出及び変換する処理を示す説明図であり、(A)は投射状態の例を示し、(B)は画像が変更された場合の例を示す。
光変調装置32が有する液晶表示パネル全体を使用して表示画像を投射した場合には、図4(A)に2点鎖線で示す投射可能領域11Aに画像が結像する。プロジェクター11がスクリーンSCの真正面に位置している場合を除き、投射可能領域11Aには図4(A)に示すように台形歪みが発生するので、プロジェクター11は表示制御部107の機能によりキーストーン補正を行う。キーストーン補正の実行後は、画像が投射される領域は、スクリーンSC上に長方形でかつ最大のサイズとなるよう設定された実投射領域11Bとなる。なお、実投射領域11Bのサイズは光変調装置32の液晶表示パネルの解像度と台形歪みの程度により決定されるが、最大サイズでなくてもよい。
キャリブレーション実行部103Aは、キーストーン補正後の実投射領域11Bにおいて上述したキャリブレーションを実行する。まず、キャリブレーション実行部103Aが画像処理部113を制御して、所定のキャリブレーション用の画像をフレームメモリー115に描画させ、これによりキャリブレーション用の画像がスクリーンSCに投射される。次に、キャリブレーション用の画像がスクリーンSCに投射された状態で、キャリブレーション実行部103Aの制御により位置検出ユニット150がスクリーンSCを撮影する。キャリブレーション用の画像は、例えば白色の背景にドットが配置された画像であり、予め記憶部105等に記憶された画像を用いてもよいし、キャリブレーションを実行する毎にキャリブレーション実行部103Aが生成してもよい。
キャリブレーション実行部103Aは、撮影画像データから、実投射領域11Bの外部と実投射領域11Bとの境界、及び、キャリブレーション用の画像に配置されたドットを検出して、撮影画像データにおける位置を特定する。すなわち、位置検出ユニット150の撮影範囲(画角)と、スクリーンSCの実投射領域11B上の位置と、画像処理部113がフレームメモリー115に描画した画像上の位置との対応関係を特定する。この処理によって特定した対応関係に基づいて、キャリブレーション実行部103Aは、座標算出部159が用いる座標変換パラメーターを求める。座標算出部159は、この座標変換パラメーターに基づいて、座標算出処理を行い、撮影画像データ上の座標を画像処理部113が描画した画像上の座標に変換する。そして、座標算出部159が変換した座標は、座標変換部160に出力され、座標変換部160によってPC13が出力した画像データ中の座標に変換される。この変換処理について説明する。
図4(A)の例では、実投射領域11Bの解像度が1280×800ドットであり、PC13から入力される画像データの解像度も1280×800ドットであるものとし、1280×800ドットの表示画像201が表示されているものとする。
位置検出処理部157は、図4(A)に示すように実投射領域11Bの左上隅を原点とし、右方向をX軸方向、下方向をY軸方向とするX−Y直交座標系を仮想的に設定し、ペン型指示器2の指示位置の座標(X1n,Y1n)を求める。また、表示画像201のX方向の端位置はX1max、Y方向の端位置はY1maxとする。
ここで、例えばPC13から入力される画像データが、解像度1024×768ドットの表示画像202に切り替えられた場合を想定する。この場合、図4(B)に示すように1066×800ドットの表示画像202が投射される。表示画像202は表示画像201より低解像度であるため、表示画像202が投射される領域は実投射領域11Bよりも小さくなる。
このとき、スクリーンSC上のペン型指示器2を動かさないまま、スクリーンSCの画像が表示画像201から表示画像202に切り替えられると、ペン型指示器2が静止していても指示位置と画像との相対位置が変化する。表示画像201と表示画像202では原点の位置とサイズが異なるためである。従って、座標算出部159が求めた座標(X1n,Y1n)(図4(A))と、表示画像202における指示位置の座標(X2n,Y2n)(図4(B))とは一致しない。例えば座標(X1n,Y1n)の位置にポインター12を表示すると、図4(B)に示すようにポインター12がペン型指示器2の指示位置からずれてしまう。このずれは、表示画像201から表示画像202に切り換えた後でキャリブレーションを行えば解消するが、キャリブレーションの回数が増すため、煩雑であるし、キャリブレーションの実行中はユーザーを待たせてしまう。
そこで、プロジェクター11は、座標算出部159が実投射領域11Bにおける指示位置の座標を算出し、この座標を座標変換部160によって表示中の表示画像における指示位置の座標に変換することで、表示画像の解像度に関わらず正しい座標を出力する。
次に、座標変換部160が、画像処理部113から画像位置情報を取得する。この画像位置情報は、少なくとも、実投射領域11Bにおける切り替え後の表示画像202の表示位置の座標、及び、表示画像202の表示サイズ(表示画像202の端位置の座標)を含んでいる。座標変換部160は、取得した画像位置情報に基づき、座標算出部159が求めた座標を、表示画像202の隅を原点とする座標に変換する。この変換を行うことで、表示画像のサイズが変わっても、キャリブレーションを行わずに、表示される画像における指示位置の座標を正確に求めることができる。
座標変換部160が変換に用いる画像位置情報は、表示画像の解像度や表示位置の影響を受けるので、これらの条件の変更により画像位置情報も変化することがある。例えば、表示解像度の変更、アスペクト比の変更、ズーム、画像の表示位置の変更(移動)、多画面表示処理等の投射状態が変化するような処理を実行した場合、及び、PC13がプロジェクター11に出力する画像データの解像度が変化した場合である。キャリブレーション実行部103Aは、画像位置情報が変化するような事象や処理が発生した場合には、画像位置情報を更新し、座標変換部160は、更新後の画像位置情報に基づいて座標を変換する。これにより、プロジェクター11は、表示画像の最新の状態に合わせて変換された正しい指示位置の座標を出力できる。また、キャリブレーション実行部103Aは、必要に応じてキャリブレーションを行い、実投射領域11Bにおける位置と入力画像データにおける位置との対応を特定する。具体的には、キーストーン補正を行った場合、プロジェクター11の設置条件が変わった場合、光学条件が変わった場合等にキャリブレーションを実行する。これにより、より正確に指示位置の座標を出力できる。
プロジェクター11は、操作検出部165によってペン型指示器2の操作を検出し、スイッチ21のオン/オフに応じて、PC13がマウス18(図3)と同様に汎用のデバイスドライバープログラムで処理可能な操作データを出力する。
マウス18は、第1マウスボタン181と第2マウスボタン182の2つの操作子を備えている。第1マウスボタン181が押されると第1マウスボタン181のプレス操作を示す操作データがPC13に入力され、第1マウスボタン181の押圧が解除されると第1マウスボタン181のリリース操作を示す操作データがPC13に入力される。第2マウスボタン182についても同様に、押圧操作/押圧操作解除により、プレス操作/リリース操作の操作データがPC13に入力される。
プロジェクター11は、マウス18からPC13に入力される第1マウスボタン181、第2マウスボタン182の操作データに相当する操作データを、ペン型指示器2の一つのスイッチ21のオン/オフに応じて出力する。以下、この動作について詳細に説明する。
図5は、プロジェクター11の動作を示すフローチャートである。
本実施形態では、ペン型指示器2を用いた入力操作のうち、スイッチ21をオンにする操作が本発明の「第1の入力操作」に対応し、スイッチ21をオフにする操作が本発明の「第2の入力操作」に対応している。すなわち、ユーザーがペン型指示器2をスクリーンに押し付ける操作(プレス操作)を行ってスイッチ21をオンにする操作を行うと、第1の入力操作として検出される。この状態で、ユーザーがペン型指示器2をスクリーンから離す操作を行ってスイッチ21をオフにすると、第2の入力操作が検出される。
この第1及び第2の入力操作に対応して、プロジェクター11がPC13に出力するデータは、本発明の「第1の操作」、「第1の操作の解除」、「第2の操作」、「第2の操作の解除」に相当する。第1の操作は、マウスの右ボタンである第1マウスボタン181(第1の操作子)のプレス操作である。第1の操作の解除は、第1マウスボタン181(第1の操作子)のリリース操作である。また、第2の操作は、マウスの左ボタンである第2マウスボタン182(第2の操作子)のプレス操作である。第2の操作の解除は、第2マウスボタン182のリリース操作である。例えば、プロジェクター11がPC13に、第1マウスボタン181のリリースを示すデータを出力する動作は、第1の操作の解除を通知する動作に相当する。
なお、以下に説明する動作においては予め設定された値をいくつか使用するが、これらの値は事前にリモコン(図示略)や操作パネル41の操作により入力され、或いは工場出荷時に入力されて、記憶部105に記憶されている。
プロジェクター11が通常動作を実行中、位置検出制御部103Bは、ペン型指示器2がスクリーンSCに押しつけられる(プレス)操作を待機する(ステップSA11)。すなわち、ペン型指示器2のスイッチ21がオンになっていない間は待機する(ステップSA11;No)。スイッチ21がオンになったことが操作検出部165によって検出されると(ステップSA11;Yes)、位置検出制御部103Bは、ペン型指示器2の先端位置の座標を位置検出ユニット150によって検出する(ステップSA12)。
位置検出制御部103Bは、内蔵するタイマー(図示略)のカウント値をリセットして(ステップSA13)、タイマーによる計測を開始する(ステップSA14)。位置検出制御部103Bは、ペン型指示器2がスクリーンSCから離されて(リリース)スイッチ21がオフになったことを検出したか否かを判別する(ステップSA15)。スイッチ21がオフになったことを検出した場合(ステップSA15;Yes)、位置検出制御部103Bは、ステップSA12で検出された位置座標を座標変換部160によって変換する処理を行う(ステップSA16)。続いて、位置検出制御部103Bは、マウス18の第2マウスボタン182(左ボタン)のプレス操作に相当する操作データを生成し、変換後の座標データとともにPC13に出力する(ステップSA17)。さらに、位置検出制御部103Bは、第2マウスボタン182のリリース操作を示す操作データを生成し、座標変換部160が変換した座標データとともにPC13に出力し(ステップSA18)、本処理を終了する。
このステップSA11〜SA18の動作により、ペン型指示器2を押しつけてから所定時間以内に離した場合、マウス18の第2マウスボタン182を押圧して離す操作を示す操作データ(即ち、左クリックに相当)がPC13に出力される。
一方、ペン型指示器2のリリースの操作(第2の入力操作)が検出されない場合(ステップSA15;No)、位置検出制御部103Bは、ペン型指示器2の先端位置の座標を位置検出ユニット150によって検出する(ステップSA21)。位置検出制御部103Bは、検出した位置座標とステップSA12で検出した座標とに基づいて、ペン型指示器2が移動距離に関する所定の閾値を超えて移動したか否かを判定する(ステップSA22)。つまり、スイッチ21がオンになってから、すなわち図5の処理を開始してからの移動距離が、予め設定された閾値を超えた場合には、スイッチ21がオンになった状態でペン型指示器2が移動したと判定する。
ペン型指示器2が移動したと判定した場合(ステップSA22;Yes)、位置検出制御部103Bは、ステップSA21で検出された座標を座標変換部160によって変換する(ステップSA23)。その後、座標データと、第2マウスボタン182(左ボタン)のプレス操作を示す操作データとをPC13に出力する(ステップSA24)。このステップSA24で、位置検出制御部103Bは、少なくとも2回のデータを出力する。最初に、ステップSA12で検出された初期の指示位置の座標を示す座標データと第2マウスボタン182のプレス操作を示す操作データとを出力する。その後、ステップSA21で検出された座標を示す座標データと第2マウスボタン182のプレス操作を示す操作データとを出力する。これら複数回のデータの出力により、PC13は、ペン型指示器2の移動の前後における座標を取得できる。また、これら複数回のデータに基づき、PC13は、移動中において第2マウスボタン182がプレスされたままの状態であることを識別できる。従って、ペン型指示器2を、スイッチ21がオンのまま移動させる入力操作が行われた場合、PC13は、マウス18を用いたドラッグ操作を検出する。
ここで、位置検出制御部103Bは、ペン型指示器2のリリースの操作(第2の入力操作)が検出されたか否かを判定する(ステップSA25)。ペン型指示器2のリリースの操作が検出されない場合(ステップSA25;No)、ステップSA24に戻って繰り返し座標データと操作データを出力する。この場合、プロジェクター11は、第2マウスボタン182のプレス操作を示す操作データと座標データとを繰り返して(連続して)出力する。なお、ステップSA25からステップSA24に戻ってステップSA24を複数回実行する場合には、位置検出制御部103BはステップSA24で、移動後の座標データと操作データとを出力する。すなわち、連続してステップSA24のデータの出力を行う場合には、2回目以後はステップSA12で検出した座標データの出力は行わない。また、ステップSA25からステップSA24に戻る過程において、位置検出制御部103Bがペン型指示器2の先端位置の座標を位置検出ユニット150によって検出し、ここで検出した座標データと操作データをステップSA24で出力してもよい。この場合、ステップSA22でペン型指示器2の指示位置が移動したと判定された後、さらに指示位置が移動しても、指示位置の移動に追従して座標データをPC13に出力できる。
一方、ペン型指示器2がリリースされたことを検出した場合(ステップSA25;Yes)、位置検出制御部103Bは、第2マウスボタン182のリリース操作を示す操作データを生成し、ステップSA18に移行する。ステップSA18で、第2マウスボタン182のプレス操作を示す操作データと変換後の座標データとをPC13に出力し、本処理を終了する。
このステップSA22〜SA25及びSA18の動作により、ペン型指示器2を押しつけてから移動する操作に対応して、マウス18のドラッグ操作に相当する操作データがPC13に出力される。
さらに、ペン型指示器2が所定の閾値を超えて移動していないと判定した場合(ステップSA22;No)、位置検出制御部103Bは、タイマーのカウント値が予め設定された時間の閾値を超えたか否かを判別する(ステップSA31)。ここで、タイマーのカウント値が閾値を超えていない場合(ステップSA31;No)、位置検出制御部103BはステップSA15に戻る。
タイマーのカウント値が閾値を超えた場合(ステップSA31;Yes)、位置検出制御部103Bは、ステップSA21で検出された座標を座標変換部160によって変換する(ステップSA32)。位置検出制御部103Bは、第1マウスボタン181(右ボタン)のプレス操作に相当する操作データを生成して、変換後の座標データとともにPC13に出力する(ステップSA33)。つまり、ペン型指示器2のスイッチ21がオンの状態が所定時間以上続くと、第1マウスボタン181のプレス操作がPC13に通知される。
その後、位置検出制御部103Bは、予め設定された時間(ディレイ時間)だけ待機する(ステップSA34)。ステップSA34において、位置検出制御部103Bは、ステップSA33でPC13にデータを出力した後、PC13に対して操作を示すデータを出力しない時間を確保する。ディレイ時間が経過した後、位置検出制御部103Bは、第1マウスボタン181のリリース操作を示す操作データと、ステップSA32で変換した座標データとをPC13に出力する(ステップSA35)。ステップSA35では、スイッチ21のリリースが検出される前(第2の入力操作が検出される前)に、第1マウスボタン181のリリースを示す操作データを出力する。このため、ペン型指示器2が押圧されスイッチ21がオンの状態で、PC13は、第1マウスボタン181のプレス&リリース(即ち、右クリックに相当)に対応する処理を実行する。例えば、コンテキストメニューを表示したり、ウィンドウシステムを採用するオペレーティングシステムにおいてペン型指示器2の指示位置に対応するウィンドウをアクティブ表示に切り替えたり、アイコンの表示状態を選択状態に切り換えたりする。このようにPC13の表示状態が変化すると、スクリーンSCに投射される画像も同様に変化する。従って、ユーザーは、ペン型指示器2のスイッチ21をリリースする(第2の入力操作を行う)前に、ユーザーの入力操作が第1マウスボタン181のクリック操作として通知されたことを、スクリーンSC上の画像の変化から知ることができる。
また、ステップSA34でディレイ時間を設けて待機することで、第1マウスボタン181のプレス操作を示す操作データとリリース操作を示す操作データとが短時間で連続してPC13に出力されることを、防止できる。言い換えれば、このため、第1マウスボタン181のプレス操作を示す操作データとリリース操作を示す操作データとが、時間をあけてPC13に入力される。これにより、PC13が実行するアプリケーションプログラムにより、連続する操作データが確実に取得され、第1マウスボタン181のプレス操作とリリース操作とが確実に認識されるという利点がある。
なお、位置検出制御部103Bは、ステップSA34のディレイ時間が経過した後に、ペン型指示器2の先端位置の座標を検出して、検出した座標を変換してステップSA35でPC13に座標を出力してもよい。この場合、ペン型指示器2の先端が、ステップSA22の判定に用いた閾値を超えない範囲で移動していた場合に、この小さな移動をPC13に通知できる。
続いて、制御部103は、スイッチ21がオフになるかペン型指示器2の先端の位置が位置検出ユニット150の検出範囲外(操作エリア外)に出るまでの間に、PC13に対して操作データを出力しない処理(後処理)を行う(ステップSA36)。その後、ペン型指示器2のリリース操作(第2の入力操作)が行われてスイッチ21がオフになると(ステップSA37)、本処理を終了する。
後処理として実行される処理は特に限定されない。例えば、制御部103は、上記の後処理を行っている間は、位置検出ユニット150によりペン型指示器2の移動を検出しても座標の変化を無視して、PC13に対する座標の出力を行わないといった態様を含む。
図6は、ペン型指示器2の操作とプロジェクター11が出力する操作データとの対応の一例を示すタイミングチャートである。図中、(A)はペン型指示器2の操作状態すなわちスイッチ21のオン/オフの状態を示し、(B)はプロジェクター11が出力する第2マウスボタン182の操作データを示す。また、(C)はプロジェクター11が出力する第1マウスボタン181の操作データを示し、(D)はプロジェクター11が出力する第1マウスボタン181の操作データの別の例を示す。
まず、時刻T1にペン型指示器2の操作(第1の入力操作)が開始され、スイッチ21がオンになり、時刻T2で操作の解除(第2の入力操作)が検出されてスイッチ21がオフになる例を挙げる。スイッチ21がオフになったことが検出されるタイミング(時刻T2)が、右クリックを検出するタイマーの閾値が経過する時刻(時刻T4)より前であれば、第2マウスボタン182のプレス操作を示す操作データが出力される(ステップSA17に相当)。この操作データは、スイッチ21のオフが検出された時刻T2に出力される。この操作データの出力が完了するタイミング(時刻T3)は、伝送速度やデータフォーマット等により決定され、タイマーの閾値等の制約を受けない。第2マウスボタン182のプレス操作の操作データが出力された後、所定時間経過後に、第2マウスボタン182のリリース操作(第2の操作の解除)を示す操作データが出力される(ステップSA18に相当)。
次に、ペン型指示器2のスイッチ21がオンになる操作が検出されてからタイマーの閾値を超えるまで、スイッチ21のオフが検出されない例を挙げる。図6(A)の時刻T5でスイッチ21のオンが検出され、右クリックを検出するタイマーの閾値が経過する時刻T6までスイッチ21のオフが検出されない場合、時刻T6より後に第1マウスボタン181のプレス操作が通知される。
この通知は、図6(C)に(1)〜(3)で示すように3段階の動作を含む。即ち、(1)時刻T6で第1マウスボタン181のプレス操作の操作データが出力され(ステップSA33)、(2)ディレイ時間だけ待機し(ステップSA34)、(3)第1マウスボタン181のリリース操作の操作データが出力される(ステップSA35)。操作データの出力が完了するタイミング(時刻T7)は、上記のように伝送速度等により決定される。
(1)〜(3)の通知の動作は、タイマーの閾値が経過した時刻T6より後に実行されればよく、時刻T6から開始しなくてもよい。例えば、図6(D)に示すように、時刻T6より遅い時刻(例えば、時刻T6´)から(1)〜(3)の通知の動作を開始してもよい。
さらに、制御部103は、スイッチ21のオフが検出されるまでの間に、(4)後処理を実行する(ステップSA36に相当)。上述した(1)〜(3)の通知の動作を、後処理が終了した時刻T8よりも後に実行してもよい。
このように、プロジェクター11は、一つの操作子であるスイッチ21のオン/オフ状態に基づいて、2つの操作子である第1マウスボタン181及び第2マウスボタン182の操作及び操作の解除に対応する操作データを出力して、PC13に操作を通知する。
以上説明したように、本発明を適用した実施形態に係るプロジェクター11は、ペン型指示器2によって行われる入力操作を検出する操作検出部165と、操作検出部165によって入力操作を検出可能な操作エリアにおける入力操作の操作位置を検出する位置検出ユニット150と、操作検出部165により第1の入力操作が検出されてから所定時間以内に第2の入力操作が検出されない場合に、第1の操作及び位置検出ユニット150により検出された操作位置を通知する位置検出制御部103Bと、を備えている。プロジェクター11は、第1の入力操作をしてから第2の入力操作を行うまでの時間により特定の操作を通知する。例えば、ペン型指示器2のスイッチ21がオンになる操作(第1の入力操作)が検出されてから、ペン型指示器2のスイッチ21がオフになる操作(第1の入力操作)が行われるまでの時間により、第1マウスボタン181のプレス操作とリリース操作を示す操作データ、或いは、第2マウスボタン182のプレス操作とリリース操作を示す操作データをPC13に出力する。より具体的な例としては、スイッチ21をオンにする操作が検出されてから所定時間以内に、スイッチ21をオフにする操作が検出されない場合、第1マウスボタン181のプレス操作(第1の操作)を示す操作データをPC13に出力する。
このように、ペン型指示器2によってスイッチ21のオン/オフに係る1種類の操作を行うだけで、第1マウスボタン181のプレス操作とリリース操作を示す操作データを出力できる。これにより、比較的単純な操作しかできないペン型指示器2のような入力デバイスによって、例えば第1マウスボタン181や第2マウスボタン182のクリック操作に相当する特定の操作およびこの操作の解除を通知できるので、単純な構成を有する入力デバイスを用いて、より多機能なポインティングデバイスに近い操作性を実現できる。
そして、本実施形態で例示したように、マウス18のような一般的なポインティングデバイスの操作を示す操作信号或いは操作データを出力することで、ポインティングデバイスと同様の操作を行うことができ、また、PC13のような一般的なコンピューターの入力装置として使用できる。
また、第1マウスボタン181のプレス操作を示す操作データを出力した場合、スイッチ21がオフになる操作が検出される前に第1マウスボタン181のリリース操作を示す操作データを出力してもよい。この場合、通知先の装置であるPC13が、第1マウスボタン181のリリースに対応した処理を行うことが可能となる。実際にペン型指示器2のスイッチ21がオフにされる前に、第1マウスボタン181のリリース操作に対応した処理が行われることで、ユーザーは、第1マウスボタン181の操作がPC13に通知されたことを知ることができる。
さらに、ペン型指示器2のリリース操作を所定時間以内に実行すれば第1マウスボタン181の操作データが出力されず、第2マウスボタン182の操作データが出力されるので、ペン型指示器2を用いて、複数の操作子を有するマウス18のような操作性を実現できる。
また、第1マウスボタン181のプレス操作の操作データを出力してから、所定時間が経過した後に、第1マウスボタン181のリリース操作の操作データを出力するようにしてもよい。
そして、プロジェクター11は、PC13から入力される画像をスクリーンSCに表示する投射ユニット3を備え、位置検出ユニット150は、スクリーンSCに設定された操作エリアとしての実投射領域11Bにおける操作位置を検出し、位置検出制御部103Bは、検出した操作位置の座標データをPC13に出力するので、比較的単純な操作しかできないペン型指示器2によって、スクリーンSCに表示された画像に基づく操作を行うことが可能となる。このため、ペン型指示器2を用いて、一般的なポインティングデバイスであるマウス18等の操作と同様の操作性を実現できる。
[第2の実施形態]
図7は、本発明を適用した第2の実施形態におけるプロジェクター11の動作を示すフローチャートである。この第2の実施形態では、図1〜図4を参照して説明したプロジェクター11の別の動作例について説明する。表示システム10の各部の構成は第1の実施形態と同様であり、同符号を付して図示及び説明を省略する。
図7の動作は、図5の動作に代えて実行される動作である。位置検出制御部103Bは、図5と同様にペン型指示器2のスイッチ21がオンになる操作を待機し(ステップSA11)、スイッチ21がオンになったことが検出されると(ステップSA11;Yes)、指示位置の座標を位置検出ユニット150によって検出する(ステップSA12)。
位置検出制御部103Bは、内蔵するタイマーのカウント値をリセットする(ステップSA13)。ここで、位置検出制御部103Bは、ステップSA12で検出された位置座標を座標変換部160によって変換し(ステップSB11)、第2マウスボタン182のプレス操作を示す操作データと変換後の座標データとをPC13に出力する(ステップSB12)。
位置検出制御部103Bは、タイマーによる計測を開始し(ステップSA14)、操作検出部165によってペン型指示器2のリリース操作が検出されたか否かを判別する(ステップSA15)。ペン型指示器2のリリース操作が検出された場合(ステップSA15;Yes)、位置検出制御部103Bは、第2マウスボタン182のリリース操作を示す操作データと、変換後の座標データとをPC13に出力し(ステップSA18)、本処理を終了する。
また、ペン型指示器2のリリース操作が検出されない場合(ステップSA15;No)、位置検出制御部103Bは、図5のステップSA21〜SA25、及びSA31〜SA37と同様の動作を実行する。
この図7の動作では、プロジェクター11は、ペン型指示器2のプレス操作が実行されると、ペン型指示器2のリリース操作が検出されたか否かの判別(図5のステップSA15)を実行することなしに、ステップSB11〜SB12で第2マウスボタン182のプレス操作を示す操作データをPC13に出力する。このため、PC13は、即座に第2マウスボタン182のプレス操作に対応して動作を開始できる。例えば、PC13がポインティングデバイスの操作に応じて画像を描画するアプリケーションプログラムを実行する場合を想定すると、このようなアプリケーションプログラムは第2マウスボタン182のプレス操作を契機として描画を開始する。このため、プロジェクター11が、ペン型指示器2のプレス操作に応答して第2マウスボタン182のプレス操作を示す操作データをPC13に出力することで、ペン型指示器2のプレス操作に対応して速やかに描画を開始させることができる。このように、PC13で実行されるアプリケーションプログラムの仕様に合わせて、ペン型指示器2のプレス操作が実行された後、ペン型指示器2のリリース操作が検出されたか否かの判別なしに、第2マウスボタン182のプレス操作を示す操作データを出力できる。そして、その後のペン型指示器2のリリース操作のタイミングに合わせて、適宜マウス18の操作データを出力すれば、様々なアプリケーションプログラムを快適に操作できる。
なお、上記各実施形態は本発明を適用した具体的態様の例に過ぎず、本発明を限定するものではない。例えば、プロジェクター11の位置検出ユニット150が有する撮像部153及び撮影制御部155の機能を、プロジェクター11に外部接続されたデジタルカメラにより代替することも可能である。このデジタルカメラは、制御部103の制御に従って撮影を実行し、撮影画像データを位置検出処理部157に出力するものであればよい。また、スクリーンSC上の位置を指示する指示体はペン型指示器2に限定されず、例えばユーザーの指を指示体として用い、その指示位置を検出する構成としてもよい。また、例えば、表示面としてのスクリーンSC或いは他の表示方式における表示画面に、感圧式や静電容量式のタッチパネルを設け、このタッチパネルによって指示体としてのペン型指示器2やユーザーの指等の接触を検出する構成としてもよい。この場合、スイッチ21を持たないペン型指示器2を用いてもよい。
さらに、プロジェクター11とPC13との接続形態はケーブル等により有線接続される構成に限らず、無線LAN等を用いた無線通信により接続してもよい。また、光変調装置32は、RGBの各色に対応した3枚の透過型または反射型の液晶パネルを用いた構成に限定されない。例えば、1枚の液晶パネルとカラーホイールを組み合わせた方式、3枚のデジタルミラーデバイス(DMD)を用いた方式、1枚のデジタルミラーデバイスとカラーホイールを組み合わせたDMD方式等により構成してもよい。ここで、表示部として1枚のみの液晶パネルまたはDMDを用いる場合には、クロスダイクロイックプリズム等の合成光学系に相当する部材は不要である。また、液晶パネル及びDMD以外にも、光源が発した光を変調可能な構成であれば問題なく採用できる。
また、本発明は、プロジェクター以外の各種の表示装置等にも適用可能である。例えば、液晶表示パネルに画像/動画像(映像)を表示する液晶モニターまたは液晶テレビやPDP(プラズマディスプレイパネル)に画像/動画像を表示するモニター装置またはテレビ受像機にも適用できる。また、OLED(Organic light-emitting diode)、OEL(Organic Electro-Luminescence)等と呼ばれる有機EL表示パネルに画像/動画像を表示するモニター装置またはテレビ受像機等の自発光型の表示装置等に適用できる。これらの場合、液晶表示パネル、プラズマディスプレイパネル、有機EL表示パネルが表示手段に相当し、その表示画面が表示面に相当する。より詳細には、画像を表示可能な領域全体が上記各実施形態の実投射領域11Bまたは投射可能領域11Aに相当する。
また、図2、図3に示したプロジェクター11及びPC13の各機能部は、ハードウェアとソフトウェアとの協働により実現される機能的構成を示すものであって、具体的な実装形態は特に制限されない。従って、必ずしも各機能部に個別に対応するハードウェアが実装される必要はなく、一つのプロセッサーがプログラムを実行することで複数の機能部の機能を実現する構成とすることも勿論可能である。また、上記各実施形態においてソフトウェアで実現されている機能の一部をハードウェアで実現してもよく、あるいは、ハードウェアで実現されている機能の一部をソフトウェアで実現してもよい。その他、プロジェクター11及びPC13を含む表示システム10の他の各部の具体的な細部構成についても、本発明の趣旨を逸脱しない範囲で任意に変更可能である。
また、プロジェクター11やPC13が実行するプログラムは、プロジェクター11やPC13が通信ネットワークを介して接続された他の装置からダウンロードして実行しても良い。また、可搬型の記録媒体に記録されたプログラムをプロジェクター11、PC13が読み取って実行する構成としても良い。
また、上記各実施形態においては、第1の入力操作をペン型指示器2のプレス操作(スイッチ21のオン)とし、第2の入力操作をペン型指示器2のリリース操作(スイッチ21のオフ)とし異なる操作とした。本発明はこれに限定されず、例えば、第1の入力操作及び第2の入力操作ともにペン型指示器2のプレス操作とするように同様の操作を繰り返すことを入力操作としてもよい。
2…ペン型指示器(指示体)、3…投射ユニット(表示手段)、10…表示システム、11…プロジェクター(入力装置、検出装置)、11A…投射可能領域、11B…実投射領域、13…PC、18…マウス(ポインティングデバイス)、30…投射部(投射手段)、31…照明光学系(光源)、32…光変調装置(光変調手段)、101…出力制御部、103…制御部、103A…キャリブレーション実行部、103B…位置検出制御部(操作通知手段)、105A…制御プログラム、107…表示制御部、110…画像処理ユニット(画像形成手段)、150…位置検出ユニット、151…位置検出部(位置検出手段)、153…撮像部、157…位置検出処理部、159…座標算出部、160…座標変換部(操作検出手段)、165…操作検出部、181…第1マウスボタン(第1の操作子)、182…第2マウスボタン(第2の操作子)、SC…スクリーン(投射面、表示面)。

Claims (5)

  1. 光源が発した光を変調する光変調手段と、
    画像データに基づいて前記光変調手段に表示画像を形成する画像形成手段と、
    前記画像形成手段により形成された表示画像を投射する投射手段と、
    前記投射手段により投射される表示画像が示す操作エリア内の位置を指示する指示体を用いた入力操作を検出する操作検出手段と、
    前記操作エリアにおいて、前記操作検出手段により検出された前記入力操作の操作位置を検出する位置検出手段と、
    前記操作検出手段により前記指示体に備わる操作子をオンにする操作が前記入力操作として検出されると、ポインティングデバイスに備わる第2の操作子をプレスする操作及び前記位置検出手段により検出された操作位置を通知し、
    前記操作検出手段により前記操作子をオンにする操作が検出されてから所定時間以内に前記操作子をオフにする操作が前記入力操作として検出された場合に、前記第2の操作子をリリースする操作を通知し、
    前記操作検出手段により前記操作子をオンにする操作が検出されてから所定時間以内に前記操作子をオフにする操作が前記入力操作として検出されない場合に、前記ポインティングデバイスに備わる第1の操作子をプレスする操作及び前記位置検出手段により検出された操作位置を通知し、前記第1の操作子をプレスする操作及び前記操作位置を通知した後に、前記第1の操作子をリリースする操作を通知する操作通知手段と、
    を備えることを特徴とするプロジェクター
  2. 請求項記載のプロジェクターであって、
    前記位置検出手段は、前記操作エリアにおいて、前記操作子をオンにする操作前記操作子をオフにする操作、及び前記操作位置を撮影することを特徴とするプロジェクター
  3. 請求項記載のプロジェクターであって、
    前記操作検出手段は、前記位置検出手段が撮影した前記操作位置の座標を前記表示画像における座標に変換することを特徴とするプロジェクター
  4. 指示体により入力される入力操作をプロジェクターが検出し、前記入力操作に対応する操作をコンピューターに通知し、前記操作を前記コンピューターが実行する表示システムであって、
    前記指示体は、
    操作子と、前記操作子から入力される入力操作を前記プロジェクターに指示する送信手段と、を有し、
    前記プロジェクターは、
    光源が発した光を変調する光変調手段と、
    画像データに基づいて前記光変調手段に表示画像を形成する画像形成手段と、
    前記画像形成手段により形成された表示画像を投射する投射手段と、
    前記指示体により通知される入力操作を検出する操作検出手段と、
    前記投射手段により投射される表示画像が示す操作エリアにおいて、前記操作検出手段によって検出された入力操作の操作位置を検出する位置検出手段と、
    前記操作検出手段により前記指示体に備わる操作子をオンにする操作が前記入力操作として検出されると、ポインティングデバイスに備わる第2の操作子をプレスする操作及び前記位置検出手段により検出された操作位置を前記コンピューターに通知し、
    前記操作検出手段により前記操作子をオンにする操作が検出されてから所定時間以内に前記操作子をオフにする操作が前記入力操作として検出された場合に、前記第2の操作子をリリースする操作を前記コンピューターに通知し、
    前記操作検出手段により前記操作子をオンにする操作が検出されてから所定時間以内に前記操作子をオフにする操作が前記入力操作として検出されない場合に、前記ポインティングデバイスに備わる第1の操作子をプレスする操作及び前記位置検出手段により検出された操作位置を前記コンピューターに通知し、前記第1の操作子をプレスする操作及び前記操作位置を通知した後に、前記第1の操作子をリリースする操作を前記コンピューターに通知する操作通知手段と、を有し、
    前記コンピューターは、
    前記操作通知手段からの通知に基づいて処理を実行する制御手段、を有することを特徴とする表示システム。
  5. 光源が発した光を変調する光変調手段と、画像データに基づいて前記光変調手段に表示画像を形成する画像形成手段と、前記画像形成手段により形成された表示画像を投射する投射手段と、前記投射手段により投射される表示画像が示す操作エリア内の位置を指示する指示体を用いた入力操作を検出する操作検出手段と、前記操作エリアにおいて、前記操作検出手段により検出された前記入力操作の操作位置を検出する位置検出手段と、を備えるプロジェクターの制御方法であって、
    前記操作検出手段により前記指示体に備わる操作子をオンにする操作が前記入力操作として検出されると、ポインティングデバイスに備わる第2の操作子をプレスする操作及び前記位置検出手段により検出された操作位置を通知し、
    前記操作検出手段により前記操作子をオンにする操作が検出されてから所定時間以内に前記操作子をオフにする操作が前記入力操作として検出された場合に、前記第2の操作子をリリースする操作を通知し、
    前記操作検出手段により前記操作子をオンにする操作が検出されてから所定時間以内に前記操作子をオフにする操作が前記入力操作として検出されない場合に、前記ポインティングデバイスに備わる第1の操作子をプレスする操作及び前記位置検出手段により検出された操作位置を通知し、前記第1の操作子をプレスする操作及び操作位置を通知した後に、前記第1の操作子をリリースする操作を通知する、
    ことを特徴とするプロジェクターの制御方法。
JP2013008976A 2012-04-05 2013-01-22 プロジェクター、表示システム、及びプロジェクターの制御方法 Active JP6273671B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013008976A JP6273671B2 (ja) 2013-01-22 2013-01-22 プロジェクター、表示システム、及びプロジェクターの制御方法
US13/853,545 US9134814B2 (en) 2012-04-05 2013-03-29 Input device, display system and input method
CN201811156363.9A CN109375793A (zh) 2012-04-05 2013-04-01 输入装置、显示系统及输入方法
CN201310111231.5A CN103365549B (zh) 2012-04-05 2013-04-01 输入装置、显示系统及输入方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013008976A JP6273671B2 (ja) 2013-01-22 2013-01-22 プロジェクター、表示システム、及びプロジェクターの制御方法

Publications (2)

Publication Number Publication Date
JP2014142684A JP2014142684A (ja) 2014-08-07
JP6273671B2 true JP6273671B2 (ja) 2018-02-07

Family

ID=51423936

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013008976A Active JP6273671B2 (ja) 2012-04-05 2013-01-22 プロジェクター、表示システム、及びプロジェクターの制御方法

Country Status (1)

Country Link
JP (1) JP6273671B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10564734B1 (en) * 2018-08-23 2020-02-18 Pixart Imaging Inc. Pen mouse with a tracing compensation function
JP2021128657A (ja) 2020-02-17 2021-09-02 セイコーエプソン株式会社 位置検出方法、位置検出装置及び位置検出システム
JP2021128659A (ja) 2020-02-17 2021-09-02 セイコーエプソン株式会社 位置検出方法、位置検出装置及び表示装置
JP2021128661A (ja) 2020-02-17 2021-09-02 セイコーエプソン株式会社 操作検出方法、操作検出装置及び表示システム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6897853B2 (en) * 2000-11-10 2005-05-24 Microsoft Corp. Highlevel active pen matrix
JP4001758B2 (ja) * 2002-03-07 2007-10-31 株式会社リコー タッチパネル付きディスプレイ装置
JP2003296026A (ja) * 2002-04-02 2003-10-17 Sanee Denki Kk タッチパネルへのマウス機能割り当て方法及び装置
JP2012252043A (ja) * 2011-05-31 2012-12-20 Casio Comput Co Ltd プログラム、データ処理装置及びデータ処理方法

Also Published As

Publication number Publication date
JP2014142684A (ja) 2014-08-07

Similar Documents

Publication Publication Date Title
US9310938B2 (en) Projector and method of controlling projector
US9977515B2 (en) Display device, projector, and display method
US9134814B2 (en) Input device, display system and input method
US9324295B2 (en) Display device and method of controlling display device
JP5927845B2 (ja) 表示装置、表示装置の制御方法、及び、プログラム
US10025400B2 (en) Display device and display control method
US9524574B2 (en) Data processing apparatus, display apparatus, and method of controlling the data processing apparatus
US9904414B2 (en) Display device, and method of controlling display device
JP6051828B2 (ja) 表示装置、及び、表示装置の制御方法
JP6273671B2 (ja) プロジェクター、表示システム、及びプロジェクターの制御方法
JP6286814B2 (ja) 表示装置、表示制御方法、および、表示システム
JP2013140266A (ja) 表示装置、及び、表示制御方法
JP6269801B2 (ja) プロジェクター、及び、プロジェクターの制御方法
JP6145963B2 (ja) プロジェクター、表示システム、及びプロジェクターの制御方法
JP6255810B2 (ja) 表示装置、及び、表示装置の制御方法
JP2017102461A (ja) 表示装置、及び、表示制御方法
JP6098153B2 (ja) 表示装置、及び、表示装置の制御方法
JP6111682B2 (ja) 表示装置、および、表示装置の制御方法
JP6056447B2 (ja) 表示装置、及び、表示装置の制御方法
JP2013195659A (ja) 表示装置、及び、表示制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161026

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170523

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170724

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170926

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171225

R150 Certificate of patent or registration of utility model

Ref document number: 6273671

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150