JP5951994B2 - 対話型ペインティングゲーム及び関連するコントローラ - Google Patents

対話型ペインティングゲーム及び関連するコントローラ Download PDF

Info

Publication number
JP5951994B2
JP5951994B2 JP2011542497A JP2011542497A JP5951994B2 JP 5951994 B2 JP5951994 B2 JP 5951994B2 JP 2011542497 A JP2011542497 A JP 2011542497A JP 2011542497 A JP2011542497 A JP 2011542497A JP 5951994 B2 JP5951994 B2 JP 5951994B2
Authority
JP
Japan
Prior art keywords
controller
sensor
user
tip
actuator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011542497A
Other languages
English (en)
Other versions
JP2012512724A (ja
Inventor
グラント,ダニー,エー.
ラムゼイ,エリン,ビー.
クルス‐ヘルナンデス,ファン,マヌエル
バーンバウム,ディビッド
ヒューベル,ロバート,ダブリュー.
バーテル,ヘンドリック
ウルリッヒ,クリストファー,ジェイ.
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Immersion Corp
Original Assignee
Immersion Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Immersion Corp filed Critical Immersion Corp
Publication of JP2012512724A publication Critical patent/JP2012512724A/ja
Application granted granted Critical
Publication of JP5951994B2 publication Critical patent/JP5951994B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/34Browsing; Visualisation therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545Pens or stylus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0483Interaction with page-structured environments, e.g. book metaphor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0485Scrolling or panning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038Indexing scheme relating to G06F3/038
    • G06F2203/0381Multimodal input, i.e. interface arrangements enabling the user to issue commands by simultaneous use of input devices of different nature, e.g. voice plus gesture on digitizer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/04108Touchless 2D- digitiser, i.e. digitiser detecting the X/Y position of the input means, finger or stylus, also when it does not touch, but is proximate to the digitiser's interaction surface without distance measurement in the Z direction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality

Description

本開示は、一般に、対話型のペインティングゲーム及び関連するコントローラに関する。
テレビゲーム及びテレビゲームシステムの人気がますます上がっている。これは、マーケティング活動がカジュアルゲーマーに対してなされるようになり、その結果としてカジュアルゲーマーが参加するようになったためである。人気があるテレビゲーム及びコンピュータシステムとして、ペインティングに関する(painting-based)ゲームが挙げられる。かかるペインティングゲームにおいては、通常のパーム型コントローラ又はコンピュータマウスを用いて、表示された仮想の絵筆を仮想キャンバス上で移動させている。しかしながら、ユーザにとって、今までの携帯用ゲームコントローラやそれに付随するソフトウェアゲームは、現実の表面又は仮想的な表面に絵を描くという現実味のあるゲーム体験に没頭できるようなものではなかった。
本発明の実施形態は、シングルプレイヤーゲーム又はマルチプレイヤーゲームにおいて、各ユーザが、触覚的に改良されたコントローラを用いて、仮想的に又は実際の表面に芸術作品又はグラフィティ作品を制作することができるゲームコンセプトを開示する。この視覚芸術作品は、仮想的に、すなわち仮想表面上に、又は、実際の表面上に制作された芸術作品又はグラフィティ作品であってもよい。前記コントローラは、マーカ、絵筆、塗料スプレー缶、又はこれらの同等物を用いたときの体験を再現することができる。様々なコントローラのコンポーネントは、芸術作品又はグラフィティの創作体験を拡張するためにモジュール化されており、コンポーネントの入れ替えは容易である。ハプティックフィードバック(haptic feedback)によって、現実世界におけるインク又は塗料を表面に使用する体験がシミュレートされる。塗料用スプレー缶型のコントローラが用いられる場合には、前記ユーザに伝達される音響及びハプティック感覚を含む様々な周辺装置(peripheral enhancement)の増強により塗料を消費する体験が再現される。
本発明の一態様に従って、ディスプレイにグラフィックシミュレーションを表示するソフトウェアプログラムを実行するように構成されたコンピュータと、三次元空間を自由に移動できるように構成されたユーザによって把持可能なコントローラと、備え、前記ソフトウェアプログラムは、ユーザが前記グラフィックシミュレーション内で視覚芸術作品を制作できるように構成され、前記コントローラは、前記三次元空間における前記コントローラの位置情報を追跡するとともに前記位置情報を表すセンサー信号を前記コンピュータに送信するように構成されたセンサーと、前記コントローラに接続されたプロセッサから制御信号を受信するとハプティック効果を前記ユーザに出力するように構成されたアクチュエータと、を備え、前記ユーザによって把持可能なコントローラが、前記視覚芸術作品を制作するように構成された筆記用具及び絵画用具を表すシステムが提供される。
本発明の一態様に従って、ユーザによって三次元空間を自由に移動できるように構成されたユーザによって把持可能なコントローラと、前記コントローラから遠隔に配置され、ソフトウェアプログラムを実行するように構成されたホストコンピュータと、を備え、前記コントローラは、前記コントローラの前記三次元空間における物理的な位置を監視するように構成された位置センサーを含み、前記コントローラは、前記ユーザが前記コントローラを用いて指定した位置にデータタグ付するように構成されるとともに、前記コントローラが前記データタグを付したのちに信号を送信するように構成され、前記ホストコンピュータは、前記受信信号から前記ユーザを識別するとともに前記データタグの位置を記憶するように構成され、前記記憶されたデータタグの情報及び前記ユーザの識別情報が前記ホストコンピュータからアクセス可能となっているゲームが提供される。形状、テキスチャー、外観の他の側面、タイムスタンプ、ジェスチャー等のタグに関する上記以外のデータが記憶されてもよい。
本発明の一態様に従って、各ユーザによって三次元空間を自由に移動できるように構成された複数の一意に識別可能なコントローラと、前記コントローラから遠隔に配置され、ソフトウェアプログラムを実行するように構成されたホストコンピュータと、を備え、各コントローラが、前記コントローラの前記三次元空間における物理的な位置を監視するように構成された位置センサーを含み、各コントローラは、様々なユーザが指定した位置において表面にデータタグ付するように構成されるとともに、前記コントローラによって前記データタグが付されると対応する信号を送信するように構成され、前記ホストコンピュータは、各受信信号から各ユーザを識別するとともに前記データタグの位置を記憶するように構成され、前記記憶されたデータタグの情報及び前記ユーザの識別情報が前記ホストコンピュータからアクセス可能となっているゲームが提供される。
添付図面は、本明細書に組み込まれて本明細書の一部を構成し、実施形態の一又は複数の例を示すとともに、例示的な実施形態の説明と相俟って実施形態の原理及び実装について説明する。
本発明の実施形態に従って、マーカ形状のゲームコントローラの側面図を示す。 本発明の実施形態に従って、マーカ形状のゲームコントローラの側面図を示す。
本発明の実施形態に従って、絵筆形状のゲームコントローラの側面図を示す。 本発明の実施形態に従って、絵筆形状のゲームコントローラの側面図を示す。
本発明の実施形態に従って、塗料用スプレー缶形状のゲームコントローラの側面図を示す。 本発明の実施形態に従って、塗料用スプレー缶形状のゲームコントローラの側面図を示す。
図3Bに示されている塗料用スプレー缶型のゲームコントローラの着脱可能な上部の実施形態を示す。 図3Bに示されている塗料用スプレー缶型のゲームコントローラの着脱可能な上部の実施形態を示す。 図3Bに示されている塗料用スプレー缶型のゲームコントローラの着脱可能な上部の実施形態を示す。
本発明の一実施形態に従って、改良された塗料用スプレー缶型のゲームコントローラを示す。
本発明の一実施形態に従ったステンシルを示す。
本発明の実施形態に従ったゲームコントローラの様々な着脱可能なコンポーネントを示す。
本発明の一実施形態に従ったハイブリッド型のゲームコントローラを示す。
本発明の一実施形態に従って、ゲームシステムにおいて用いられるゲームコントローラのブロック図を示す。
本発明の一実施形態に従って、ビューアのブロック図を示す。
本明細書において、対話型ペインティングゲーム及び関連するコントローラに即して、例示的な実施形態を説明する。当業者に明らかなように、以下の実施形態の詳細な説明は単に説明のためのものにすぎず、如何なる意味においても本発明を限定するためのものではない。本開示の利点を有する他の実施形態を理解することは当業者にとっては容易であろう。例示実施形態の実施態様について、添付図面を参照した詳細な説明が提示される。同一又は類似の部分を指し示す際には、図面及び詳細な説明全体にわたって同一の参照符号を用いる。
本明細書では、実施態様の一般的な特徴の全てが図示又は説明されるとは限らない。当然のことながら、実際の実施態様の開発においては、開発者固有の目的を達成するために、実施態様に特有の決定が数多くなされる。開発者に固有の目的とは、例えば、応用に当たっての制約や事業における制約を遵守することである。また、これらの目的が実施態様ごとに異なり、開発者ごとにも異なることも当然である。また、かかる開発は複雑な上に時間を要するものであるが、本明細書に接した当業者にとっては通常のエンジニア業務といえる。
本明細書において説明される構成、処理ステップ、及び/又はデータ構造は、本開示に従って、様々な種類のオペレーティングシステム、コンピュータプラットフォーム、コンピュータプログラム、及び/又は汎用コンピュータを用いて実装される。また、当業者であれば、本明細書で説明される本発明の概念の範囲及び趣旨から逸脱することなく、ハード・ワイヤード装置、フィールド・プログラマブル・ゲート・アレイ(FPGA)、特定用途向け集積回路(ASIC)又はこれらの同等物等の汎用度の低い装置を用いた実装も可能であることを理解するであろう。「一実施形態」という語句は、一つ以上の実施形態を含み、単一の実施形態に限定されるものではない。一連の処理ステップを含む方法がコンピュータ又はマシンによって実現され、当該処理ステップがマシンによって読み取り可能な一連のコマンドとして保存される場合には、当該処理ステップは、コンピュータメモリ装置(例えば、ROM(Read Only Memory)、PROM(Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read Only Memory)、フラッシュメモリ、メモリスティック、及びこれらの同等物)、磁気記録媒体(例えば、テープ、磁気ディスクドライブ、及びこれらの同等物)、光学記録媒体(例えば、CD-ROM、DVD-ROM、紙カード、紙テープ、及びこれらの同等物)、及びこれら以外の種類のプログラムメモリ等の有形媒体に保存されてもよい。
図1A、図1B、図2A、図2B、図3A、図3B、及び図3Fは、本発明の実施形態に従って、ゲームにおいて用いられる様々な触覚型(haptically enabled)の筆記用具/ペインティング用具(絵画用具)コントローラを示す。図1A及び図1Bは、対話型ゲームにおいて用いられるマーカ型コントローラの2つの実施形態100及び実施形態150を示す。図2A及び図2Bは、対話型ゲームにおいて用いられる絵筆型コントローラの2つの実施形態200及び実施形態250を示す。図3A、図3B、及び図3Fは、対話型ゲームにおいて用いられる塗料スプレー缶型コントローラ300、350、及び385の別の実施形態を示す。これらの図に示されているコントローラは例示にすぎず他の構成も用いることができる。一実施形態において、コントローラは、携帯電話、スマートフォン、携帯型コンピュータ、デジタルカメラ、個人用ゲーム機(例えば、PSP、ニンテンドーDS)、コンピュータ用マウス、ライトペン、スタイラス、及びこれらの同等物であってもよい。
図1Aに示したマーカ型コントローラ100は、具体的には、先端101を有し、マーカ状に形成された本体102を含む。コントローラの本体102は、2つの部分、すなわち、先端部102Aと主本体部102Bとを有する。先端部102A及び主本体部102Bは、図1Aの実施形態100に示されているように、一体に又はモノリシックに構成されていてもよく、図1Bの実施形態150に示されているように、着脱可能なモジュールを含んでいてもよい。着脱可能な先端を有するコントローラの実施形態においては、適当な連結器を用いて本体の先端部102Aを主本体部102Bに着脱可能に取り付けることができる。例えば、実施形態150においては、ピン110A及びピン110Bが先端部102Aから突き出ており、主本体部102Bに設けられた対応する相補的スロット112A及び112Bとしっかり結合することができる。一実施形態においては、スロット112A及び112Bを先端部102Aに設け、ピン110A及び110Bを主本体部102Bに設けてもよい。ピン及びスロットの位置及び数は変更することができる。ピン/スロットの構成に代えて、他の種類の機械的な及び/又は磁気的な結合機構を用いることもできる。しかしながら、連結器は、本体102に収容されている機能ブロック(太線で示されている)間の有線接続(細線で示されている)又は無線接続のための導管を提供する必要がある。コントローラ100は、一又は複数のセンサー104A及び104B、一又は複数のアクチュエータ106A及び106B、一又は複数のセンサー104A及び104B及び一又は複数のアクチュエータ106A及び106Bに接続されたローカル・プロセッサ108、並びに入出力ポート110を含む。入出力ポート110は、コントローラ100が図1Aには示されていないホストコンピュータ(例えば、テレビゲーム機、サーバ、デスクトップコンピュータ)等の他の装置と通信できるように、適当な公知の技術を用いて図示のような有線又は無線で構成される。コントローラ100は、ローカル・プロセッサ108に接続され、コントローラ100の使用に関連する音を発生するように構成されたスピーカ140も含む。コントローラ100は、内部にインクカートリッジを収容することにより、インクを先端101に供給して表面に塗布するように構成されてもよい。他の実施形態において、コントローラ100は、実際にはインクや塗料を表面に塗布せずに「仮想的なインク」又は「仮想的な塗料」を塗布するように構成されてもよい。
一実施形態において、マーカ型コントローラ100は先端センサー104A及び本体センサー104Bを含んでおり、先端センサー104Aは、先端101がいつ現実の表面に接触するかを監視し、ローカル・メモリ107に接続された先端センサー信号をローカル・プロセッサ108に送信する。ローカル・プロセッサ108は、ホストコンピュータ(例えば、図6に示されているホストコンピュータ690)に対して、ユーザがホストコンピュータのコマンド又はユーザのコマンドに基づいて表面にインクを塗布する状態にあることを通知する。コントローラ100は、先端センサー104Aの代わりに、ユーザがインクを表面に塗布する状態にあることを通知する同種の通知をホストコンピュータに送信することができるボタン(不図示)を含んでもよい。
本体センサー104Bは、図1Aに示されるようにコントローラ100に組み込まれていてもよい。これにより、本体センサー104Bは、二次元空間又は三次元空間におけるコントローラの動きを監視及び追跡する。かかる本体センサーは、二次元又は三次元対応の加速度計、ジャイロスコープ、又はこれら以外の適切な機構を含んでもよい。あるいは、本体センサー104Bは、光、光学、赤外線、RFID、又はこれら以外の同様の技術を用いてコントローラ100の位置、速度、及び/又は加速度値をホストコンピュータに通信することもできる。他の実施形態においては、当該コントローラは、タッチスクリーン又はタッチパッドとともに用いられる。本実施形態において、先端101は、タッチスクリーン又はタッチパッドのタッチ面に接触しているか、又はタッチ面の近くにあり、これによって、タッチスクリーン又はタッチパッドに沿った先端101の動きを追跡することができる。ホストコンピュータは、これに応答して、ソフトウェアによって実行されるグラフィック環境を動的に更新することができる。
また、コントローラ100は、プロセッサ108から制御信号を受信するとハプティック効果を出力するように構成された先端アクチュエータ106Aを含んでもよい。このハプティック効果は、ポップ、クリック、振動、又はこれら以外のハプティック効果であり、このアクチュエータ106Aは、表面に接触しているマーカ100の実際の感触や表示をユーザに提供する適当なハプティック効果を出力する。
追加的に又は代替的に、本体アクチュエータ106Bは、好ましくはコントローラ100の本体102内に配置され、プロセッサから対応する制御信号を受信するとハプティック効果を出力する。本体アクチュエータ106Bは、使用しているマーカの実際の感触をユーザに提供する。かかるハプティック効果には、振動、衝撃、制動効果等が含まれるがこれらには限られない。このアクチュエータ106A、106Bの一方又は両方による振動出力は、ユーザによってマーカに加えられる力の大きさによる。これにより、先端センサー104Aは、力の大きさ(又は先端101が動いた距離)を検出する。例えば、ユーザがマーカ100表面を押す力を強くするほど、アクチュエータ106A、106Bの一方又は両方による振動出力は増加する。一方、ユーザによって表面に加える力が緩められるほど、アクチュエータ106A、106Bの一方又は両方による振動出力は減少する。ソフトウェアは、ゲームの状況に応じて、制御信号を先端アクチュエータ及び/又は本体アクチュエータに適宜送信するようにプログラムされる。
図2Aに示すブラシ型コントローラ200の実施形態に関して、コントローラは、ブラシ状の先端201を有する本体202を含むように示されている。コントローラ本体は、2つの部分、すなわち、先端部202Aと主本体部202Bとを有する。先端部202A及び主本体部202Bは、図2Aの実施形態200に示されているように、一体に又はモノリシックに構成されていてもよく、図2Bの実施形態250に示されているように、着脱可能なモジュールを含んでもよい。相補的な締結機構210A、210B及び212A、212Bを用いて、主本体部202Bを先端部202Aに結合することができる。
コントローラ200は、一又は複数のセンサー204A、204B、一又は複数のアクチュエータ206A、206B、一又は複数のセンサー204A、204B及び一又は複数のアクチュエータ206A、206Bに接続されたローカル・プロセッサ208、及び入出力ポート210を含む。入出力ポート210は、コントローラ200が一又は複数のホストコンピュータと通信できるように、適当な公知の技術を用いて図示のような有線又は無線で構成される。コントローラ200は、インクカートリッジ又は塗料カートリッジを内部に収容するように構成されてもよい。これにより、カートリッジは、表面にインクや塗料を塗布するために、ホストコンピュータのコマンド又はユーザのコマンドに基づいてインク又は塗料をブラシ201に供給する。他の実施形態において、コントローラ200は、実際にはインクや塗料を表面に塗布せずに「仮想的なインク」又は「仮想的な塗料」をブラシ201によって塗布するように構成されてもよい。コントローラ200は、ユーザがブラシ状の先端201を塗料に浸すことができるように構成されてもよく、これにより、当該ブラシ状の先端201は、塗料を表面に塗布することができる実際の絵筆として機能する。図示されていないが、コントローラ200は、図1A及び図1Bに示されているコントローラ100、150のスピーカ140と同様に、コントローラ200の使用に関連する音を発生するように構成されたスピーカを含んでもよい。
一実施形態において、マーカ型コントローラ200は、先端センサー204A及び本体センサー204Bを含む。これにより、先端センサー204Aは、ブラシ型の先端201が実際の又は仮想的なキャンバスといつ接触するかを監視し、ローカル・プロセッサ208(ローカル・メモリ207に接続されている)及び/又はホストコンピュータ(図2A、図2Bにおいては不図示)に先端センサー信号を送信する。ローカル・プロセッサ208は、好ましくは、ホストコンピュータに、ユーザが表面に塗料を塗布しようとしていることを通知する。コントローラ200は、先端センサー204Aの代わりに、ユーザに押されたときに同様の通知をホストコンピュータに送信することができるボタン(不図示)を含んでもよい。
本体センサー204Bは、図2Aに示すようにコントローラ200に組み込まれていてもよく、これにより、その本体センサー204Bは、二次元空間又は三次元空間におけるコントローラの動きを監視及び追跡する。かかる本体センサーは、二次元又は三次元対応の加速度計、ジャイロスコープ又はこれら以外の適切な機構を含んでもよい。あるいは、本体センサー204Bは、光、光学、赤外線、RFID、又はこれら以外の同様の技術を用いてコントローラ200の位置、速度、及び/又は加速度値をホストコンピュータに通信することもできる。他の実施形態において、当該コントローラは、タッチスクリーン又はタッチパッドとともに用いられる。本実施形態において、先端201は、タッチスクリーン又はタッチパッドのタッチ面に接触しており、これによって、タッチスクリーン又はタッチパッドに沿った先端201の動きを追跡することができる。ホストコンピュータは、これに応答して、ソフトウェアによって実行されるグラフィック環境を動的に更新することができる。
また、コントローラ200は、プロセッサ208から制御信号を受信するとハプティック効果を出力するように構成された先端アクチュエータ206Aを含んでもよい。このハプティック効果は、ポップ、クリック、振動、又はこれら以外のハプティック効果であり、このアクチュエータ206Aは、表面に接触しているブラシ型コントローラ200の実際の感触をユーザに提供する適当なハプティック効果を出力する。
追加的に又は代替的に、コントローラ200の本体202B内に配置される本体アクチュエータ106Bは、ブラシの実際の使用感をユーザに提供するハプティック効果を出力する。かかるハプティック効果には、振動、衝撃、制動効果等が含まれるがこれらには限られない。このアクチュエータ206A、206Bの一方又は両方による振動出力は、ユーザによってブラシに加えられる力の大きさによる。これにより、先端センサー204Aは、力の大きさ(又はブラシ状の先端201が動いた距離)を検出する。例えば、ユーザがブラシ型コントローラ200表面を押す力を強くするほど、アクチュエータ206A、206Bの一方又は両方による振動出力又はテキスチャー出力は増加する。一方、ユーザによって表面に加える力が緩められるほど、アクチュエータ206A、206Bの一方又は両方による振動出力は減少する。
図3Aに示す塗料用スプレー缶型コントローラの実施形態300に関して、コントローラ300は、ノズル301を有する本体302、一又は複数のセンサー304、一又は複数のアクチュエータ306、ローカル・メモリ307及び一又は複数のセンサー304及び一又は複数のアクチュエータ306に接続されたローカル・プロセッサ308、及び、適当な公知の技術を用いて図示のような有線又は無線で構成された入出力ポート310も含まれる。入出力ポート310によって、コントローラ300は、一又は複数のホストコンピュータ(不図示)と通信することができる。コントローラ300は、スプレー塗料カートリッジを内部に収容するように構成されてもよい。これにより、カートリッジは、塗料を表面に塗布するために、ノズル300から放出された塗料を供給する。他の実施形態においては、コントローラ300は、実際には表面にインク又は塗料を塗布せずに「仮想的な塗料」を塗布するように構成されてもよい。
コントローラ本体は、2つの部分、すなわち、先端部302Aと主本体部302Bとを有する。先端部302Aと主本体部302Bとは、図3Aの実施形態300に示されているように、一体に又はモノリシックに構成されてもよく、図3Bの実施形態350に示されているように着脱可能に構成されてもよい。相補的な締結機構310A、310B及び312A、312Bを用いて、図3B示されているように、主本体部302Bを先端部302Aに結合することができる。着脱可能な先端部302Aは、様々な代替的な構成を有する。図3C‐3Eは、先端部302Aの3つの例示的な構成、すなわち、構成302C、構成302D、及び構成302Eを示す。構成302A、302C、302D、及び302Eにおいては、機能ブロック(太線で示されている)並びに締結機構310A、310Bに通じる内部の有線接続又は無線接続(細線で示されている)の物理的配置が互いに異なっている。機能ブロック及び有線/無線接続の物理的配置によって本発明の範囲が限定されるものでないことは当業者であれば理解できる。先端構成302Eは、2組の締結機構310A−310B及び310C−310Dを示す。通常の塗料スプレー缶モードが使用されるときには締結機構310A−310Bが用いられ、マーカ/スプレー缶の混合モードが使用されるときには、図5に示すように、締結機構310C−310Dが用いられる。
一実施形態において、コントローラ300は、ノズルセンサー304A及び本体センサー304Bを含む。ノズルセンサー304Aは、好ましくは、ノズル301がユーザによっていつ押されるかを監視する。センサー304Aは、ノズル301がユーザによって押された距離又は開放された距離を測定することもできる。ノズルセンサー304Aは、ユーザによってノズルがいつ押されたか及び/又はどの程度の距離だけ押されたかを示すノズルセンサー信号をローカル・プロセッサ308及び/又はホストコンピュータに送信するように構成される。好ましくは、ローカル・プロセッサ308は、ホストコンピュータ(不図示)に、ノズル301が押されたか否か及びノズル301がどの程度の距離だけ押されたかを提示する。ソフトウェアは、ホストコンピュータが表示された表面に仮想的にスプレーされた塗料を対応するように表示できるようにする。ソフトウェアによって、ユーザによって押し下げられたノズル301の距離に基づいて、塗料がより濃く又はより薄く表される(例えば、ノズルが軽く押された場合には塗料も薄く表示される)。コントローラ300は、先端センサー304Aの代わりに、ユーザによって押されたときに同様の通知をホストコンピュータに送信することができるボタン(不図示)を含んでもよい。
また、コントローラ300は、プロセッサ308から対応する制御信号を受信するとハプティック効果を出力するように構成されるノズルアクチュエータ306Aを含んでもよい。かかるハプティック効果には、振動、衝撃、制動効果等が含まれるがこれらには限られない。これにより、アクチュエータ306Aは、缶300を開けるユーザの指を介してユーザに現実の感覚を提供する適当なハプティック効果をノズルに出力する。ノズル301が押し下げられるときに、ノズルアクチュエータ306B又は別体の装置が反対方向の力を生成してもよい。
追加的に又は代替的に、コントローラ300の本体302内に配置される本体アクチュエータ306Bは、使用される缶300の現実の感覚をユーザに提供するハプティック効果を出力する。このアクチュエータ306A、306Bの一方又は両方による振動出力は、「仮想スプレー塗料」の量によって異なる。例えば、好ましくは、ノズル301が所定のしきい値に相当する距離だけ(例えば、ニュートラルな位置から最も遠い位置まで)、又は、その距離の近くまで押されたことが検知されたときに、ノズル及び/又は本体アクチュエータによって生成される振動が大きくなる。一方、ノズル301が軽く押されたときには、振動も小さくなる。
図3A及び3Bに示す基本的な塗料スプレー缶の実施形態は、多くの機能コンポーネントを、周辺装置として又はコントローラに一体化された/組み込まれた装置として追加することにより改善される。この追加されたコンポーネントによって、ユーザ体験を改善することができる。例えば、図3Fは、改良された塗料スプレー缶の実施形態385を示す。実施形態385は、振動可能なラトル/ボール325、共同設置スピーカ340、エアコンプレッサ335、適合モータ330、及び任意に設けられるGPS装置345、及びカメラ355を含む。当業者であれば、これらの装置の全てが単一の実施形態に含まれる必要はないこと、及び異なる実施形態は異なる追加コンポーネントの組み合わせを有してもよいことを理解するであろう。
一実施形態において、エアコンプレッサ335又はそれ以外の同様の装置は、ユーザがノズル301を押し下げたときにノズル301から空気を放出する。空気を排出するときに、エアコンプレッサ335によって、スプレー缶コントローラが軽くなっているように感じられる。空気の放出音を増幅するために、エアコンプレッサ335をスピーカ340と接続してもよい。多くの場合、音響がユーザ体験を向上させるための重要な要素となる。そこで、一実施形態には、共同設置スピーカ340が含まれる。コントローラの使用体験をより現実に近いものとするために、スプレー缶コントローラにこれら以外の特徴が含められてもよい。例えば、コントローラ385は、振動可能なラトル/ボール325を本体内に含み、振られたときに現実のスプレー缶を再現できるようにしてもよい。ラトルを揺らすときの音は、共同設置スピーカ340によって増幅される。より多くの塗料を消費して缶内での塗料の量が少なくなると、異なる粘着感がシミュレートされラトルの振動と関連づけられる。ハプティックフィードバックは、実際のスプレー缶の使用体験をシミュレートするためにアクチュエータ306Bに接続された適合モータ330によって生成される。また、スプレー缶コントローラは、外表面に結合されたペルチェ冷却装置又はそれ以外の冷却装置を含んでもよく、これにより、より多くの空気が放出されるほどスプレー缶コントローラの外表面が冷たく感じられるようになる。
GPS345及びカメラ355は、図7を参照して説明されるように、マルチプレイ用のオンラインゲームにおける体験を向上させることができる。
図3Gは、外部装着キャップ322の正面図を示す。外部装着キャップ322は、適切に位置合わせすることによってノズル301とともに用いられるステンシル303を有する。図3Fに、キャップ322及び位置決めされたステンシル303の側面図が示されている。当業者であれば、キャップ322と類似の実際のキャップを接続するか、ソフトウェアによってステンシルの形状をシミュレートすることにより、様々なステンシル形状が適用可能であることを理解するであろう。ユーザは、一連の利用可能な形状から好ましいステンシルの形状を自由に選択することができる。
また、図4に示されているように、コントローラは、3つの主要コンポーネント、すなわち、先端部、主本体部、及び主要回路にモジュール化することができる。図4は、絵筆先端部202A(図4(C))及びマーカ先端部102A(図4(D))等の様々な先端部、絵筆本体202B(図4(A))及びマーカ本体(図4(B))等の様々な主本体部、並びに絵筆主要回路400A(図4(E))及びマーカ主要回路400B(図4(F))等の様々な主要回路を示す。コントローラをこのようにモジュール化することで、他のコントローラに変更することなく新しいハードウェア構成や新しいユーザ体験のための混合又は変形されたコンポーネントが可能になる。また、このモジュール化コンポーネントシステムによって、より小さなコントローラ本体をより大きな本体に収容すること、例えば、ユーザがマーカ先端を取り除くことでスプレー缶本体と協調した素早い対話ができるようにマーカ本体をスプレー缶ハウジング内に収容することが可能になる。スプレー缶本体に挿入されたマーカ本体の一実施形態が図5におけるスプレー缶の実施形態500において示されている。本体302Eの先端部の内部配線及び締結機構の構成によって、マーカ型コントローラ本体102B及びマーカ型コントローラ主要回路400Bと連動した動作が支援される。
上述したコントローラの任意のもの又は全てにおいて、当該コントローラは、ゲームプレイ中に様々な機能を作動するように構成された一又は複数の十字キーを含むことができる。例えば、当該十字キーを用いて、ユーザをシミュレートしたキャラクター及び/又はグラフィック環境において表示されたブラシ又はスプレー缶を操作することができる。
図6は、ソフトウェアプログラムを動作させるホストコンピュータ690とともに用いられるコントローラ600のブロック図を示す。以後、説明を簡潔にするために、「コントローラ」という用語は、コントローラ600のことを示すものとする。ただし、上述の任意のコントローラ、すなわち、マーカ型コントローラ、塗料ブラシ型コントローラ、スプレー缶コントローラ又はこれらの組み合わせも利用できる。
コントローラの一又は複数のアクチュエータについて、ローカル・プロセッサ608は、好ましくは、ホストコンピュータ690からの高レベル監督コマンド又はストリーミングコマンドに基づいて、ハプティック効果信号をアクチュエータ606A−606Bに提供する。ストリーミングの実施形態においては、電圧振幅及び期間がコントローラ600に流され、情報がホストコンピュータ690におってアクチュエータ606A−606Bに提供される。動作時には、ホストコンピュータ690は、ローカル・プロセッサ608に対して、一又は複数の選択されたアクチュエータによって出力すべきハプティック効果の種類(例えば、振動、衝撃、戻り止め(detent)、ポップ等)等の高レベルコマンドを提供することができる。これにより、ローカル・プロセッサ608は、アクチュエータ606A−606Bに対して、出力すべきハプティック効果の具体的な特徴(例えば、大きさ、頻度、期間等)を指示することができる。このようなハプティック効果によって、ユーザは、コントローラ600が実際の筆記/ペインティング装置と類似する感触を持つと感じるようになる。
一実施形態において、ホストコンピュータ690は、Play station、Xbox、又はWii等の専用のテレビゲームシステムであってもよい。一実施形態において、ホストコンピュータ690は、コントローラ600と通信する一又は複数のサーバであってもよく、又は、そのようなサーバと接続されていてもよい。これにより、ソフトウェアプログラムの少なくとも一部がサーバ及び/又はホストコンピュータの一又は複数において実行される。一実施形態において、当該ソフトウェアは、オンラインゲーム又は多人数同時参加型オンラインゲーム(MMOG)を実行可能に構成される。この場合、当該ソフトウェアは、複数のリモートサーバ及び/又はローカルサーバで同時に処理されてもよい。
一実施形態において、ソフトウェアを用いることにより、ユーザは、仮想的なペインティング(painting)又はドローイング(drawing)を生成することができる。仮想的なペインティング又はドローイングは、本体センサー及び/又は先端センサー604A−604Bを用いて、ユーザの操作による二次元又は三次元のコントローラ600の動きを追跡することにより行われる。例えば、当該ソフトウェアは、表面の正面に(すなわち、一人称視点)ユーザのマーカ、絵筆、又はスプレー缶の仮想的な描写又はグラフィック描写を表示する。これにより、ソフトウェアは、コントローラ600の動きの検出結果に応答して、ユーザのマーカ、絵筆、又はスプレー缶のグラフィック描写を対応するように動かすことができる。好ましくは、このソフトウェアは、ユーザがコントローラ600を用いて様々な色及び様々な種類の筆記具/ペインティング用具(例えば、ペン、木炭、絵筆等)を選択することができるようにする。また、手や使用する筆記用具/ペインティング用具を描画し、それによりユーザの実世界の動きを再現する。例えば、円弧や任意の軌道上を滑らかで自然に様々な速度で動く手の動きが再現される。他の実施例では、ソフトウェアは、アバターやゲームキャラクターの仮想的な描写又はグラフィック描写を表示することができる(すなわち、三人称視点)。ユーザは、十字キーを用いるなどして、コントローラ600により、このアバターやキャラクターを制御することができる。この例では、ソフトウェアは、ユーザがユーザのキャラクターの制御(すなわち、三人称視点)と筆記具/ペインティング用具(すなわち、一人称視点)の制御とを十分な正確性で切り替えることができるようにする。ハプティックス(触覚)によって、体験の質をさらに向上させることができる。例えば、ソフトウェアは、コントローラ600により把握されるユーザのジェスチャーを一又は複数の所定の記憶されたジェスチャーと比較することができる。一実施形態において、コントローラ600は、ユーザのジェスチャーが記憶されたジェスチャーに従っている限り、ハプティック効果(例えば、低周期で強い振動)を出力するようにプログラムされる。あるいは、コントローラ600に備えられたアクチュエータは、ユーザのジェスチャーが比較対象の記憶されたジェスチャーから外れたときに、ハプティック効果(例えば、衝撃又は弱い振動)を出力するようにプログラムされる。このようなハプティックスの利用により、所定の絵画技術(例えば、幅広のストロークとそれに対する短いストローク)や所定のスタイル(例えば、印象派と抽象派)に関してユーザを効率よくトレーニングすることができる。
一実施形態において、ソフトウェアは、テレビゲームとして構成される。これにより、ユーザは、三次元のオープンなシティ環境(例えば、グランド・セフト・オート(Grand Theft Auto)やセカンドライフ(Second Life))を行き来し探索することができる。この三次元のオープンなシティ環境において、ユーザは、コントローラ600を用いてその仮想環境を行き来し、環境に表示される仮想構造物(例えば、給水塔、列車の車両、政府ビル等)に絵を描くことができる。このゲームの実施形態における目的は、ミッションに基づいてシティにおいて指定された構造物を「タグ付け」することであってもよい。「タグ」は、ユーザが生成又は指定するユーザの名前、ロゴ、シンボル、又はデザイン(以下「デザイン」という。)であってもよい。一実施形態において、ソフトウェアは、ユーザがコントローラ600を用いて手動でデザインを描写することができるようにする。あるいは、ユーザは、予め描画されたデザインを選択することができる。この場合、ソフトウェアは自動的に記憶されたデザインを読み出し、読み出したデザインをユーザの操作に応じて壁又は構造物にタグ付けする。追加的に又は代替的に、ユーザは、任意にタグを描き直すことができ、異なるデザインを描くこともできる。ゲームは、ユーザが「タグ付け」した壁や又は構造物の数に基づいてポイントを付与するように設計されてもよい。この場合、プレイヤーは、累積ポイントによって名声(又は汚名)を得ることになる。
ソフトウェアは、オンライン又はオフラインのマルチプレイヤー動作を可能とする機能を有する。マルチプレイヤー動作においては、他のプレイヤーは、既存のタグの上に自らのタグを付けることでより多くのポイントを獲得し、及び/又は、「重ね付けされた(over-tagged)」プレイヤーのポイントを減少させることができる。一実施形態において、ソフトウェアは、好ましくは、ユーザの各々がタグ付けした構造物の仮想環境内での位置を追跡し、タイムスタンプを各タグに付する。これにより、ソフトウェアは、記憶された位置、デザインの種類、及び/又は所定期間におけるタグ付け(又は重ね付け)の回数に基づいて、ポイントを付与(又は剥奪)することができる。ソフトウェアは、ゲームがサンドボックス・スタイル(sandbox style)となるように構成されてもよいが、追加的に又は代替的に、ゲームをミッションに基づくもの(mission-based)として構成することもできる。
上述したように、ソフトウェアによって仮想のオープン環境が提供される。この仮想のオープン環境において、ユーザは、コントローラ600を用いて仮想のタグを仮想の建築物に付することができる。この実施形態において、ユーザは、現実の世界においてコントローラ600を用い、現実の表面及び構造物に「透明インク(invisible
ink)」又は「透明塗料(invisible
paint)」を利用したタグを付することができる。この実施形態において、コントローラ600は、構造物がタグ付けされたときにユーザの位置を一又は複数のサーバ及び/又はホストコンピュータ690に提供する送受信機に接続されたグローバル・ポジショニング・システム(GPS)モジュールを含むことができる。このアップロードされる情報には、好ましくは、ユーザの識別情報、タグの位置、タグ付けが行われた時のタイムスタンプ、及び、写真、説明、又はこれら以外のタグ付けされたデザインに関する情報が含まれる。
一実施形態において、コントローラ600により、ユーザは、透明インクを用いて任意のものに自由に描画することができる。具体的には、ソフトウェア及びコントローラ600は、ユーザの絵を描くジェスチャー又はマーキングするジェスチャーを再現して完成した芸術作品をそのジェスチャーに基づいて作成することにより、ユーザがその芸術的才能を発揮できるようにする。具体的には、コトローラ600の先端センサー及び/又は本体センサー604A、604Bは、ユーザが実際の表面に描画するときに、コントローラ600の動きを追跡する。この場合、プロセッサは、追跡された情報を記憶し、ユーザが描いたものを再現するために、コントローラ600の位置情報の値に基づいて記憶した情報を処理する。一実施形態において、当該情報は、コントローラ(又は、ホストコンピュータ690のディスプレイスクリーン642等の他の装置)ですぐに見ることができる。当該コントローラは、ユーザの完成した芸術作品自身、又は仮想的に表面に重畳された当該作品を示す。ホストコンピュータ690に接続されたスピーカ640A、又は、コントローラ600と共同設置されたスピーカ640Bは、音響効果を統一することによりユーザ体験を向上させることができる。
タグデータを、ユーザがアクセス及び閲覧可能な一又は複数の中央サーバ及び/又はホストコンピュータにアップロードすることができる。当該システムにおいて、ユーザは、タグの位置や回数を他のユーザのものと比較することができる。ソフトウェアは、好ましくは、全ての登録ユーザについてタグデータを追跡する。この場合、当該ユーザは、自らのホストコンピュータ又は携帯装置から当該ソフトウェアにアクセスし、当該位置における自らのタグ・ヒストリー及び他のユーザのタグ・ヒストリーを確認することができる。具体的には、当該ソフトウェアは、既存の携帯アプリケーション・ソフトウェア(例えば、Google
Maps)と協働することができる。この場合、ユーザは、当該携帯アプリケーションを用いて、一又は複数の登録ユーザによってタグ付けされたエリアを確認することができる。好ましくは、ユーザは、ユーザの識別情報及び当該「タグポイント」がタグ付けされた時間を確認するとともに写真又は芸術作品を読み出すために、当該ソフトウェアを利用して、特定の「タグポイント(tag
point)」を選択する。好ましくは、ユーザは、当該ソフトウェアを用いることにより、ユーザが蓄積した(又は、重ね付けによって失った)ポイントやタグ付け位置の数を確認することができる。当該ソフトウェアは、ソーシャルネットワーキング・アプリケーションを扱うこともできる。
一実施形態において、ユーザは、当該ソフトウェアを用いて、ソーシャルネットワーク環境において、自らの芸術作品又は創造物を共有及び比較することもできる。ユーザは、同様の作品を製作しているアーティストを発見することもできる。また、当該ソフトウェアは、関心度、ユーザプロファイル、及び今までに製作された作品に基づいて、他のアーティストにより製作された幾つかの作品を推薦することができる。
一実施形態において、ユーザは、当該ソフトウェアを用いて、仮想の商品を、様々な色、素材、ブラシ、及びこれら以外の絵画用具の形で購入することができ、ストリート・アーティストのための用具をスプレー缶、スプレーキャップの形で購入することができる。
一実施形態において、ソフトウェアは、ビューア装置又はカメラ装置とともに動作するように構成される。このビューア装置やカメラ装置によって、ユーザは、物体や構造物がタグ付けされた物理的な場所を実際に訪れることができ、当該ビューアを通して芸術作品を鑑賞することができる。図7は、一実施形態に従って、ビューアのブロック図を示す。図7に示されているように、ビューア700は、好ましくは、プロセッサ708、プロセッサ708に接続されたGPS送受信機745、プロセッサ708に接続されたディスプレイ742、任意のスピーカ740、及びプロセッサ708に接続された任意のアクチュエータ706を含む。好ましくは、ビューア700は、少なくとも受信した情報(すなわち、タグデータ)を蓄積するメモリ等の蓄積装置707を含む。一実施形態において、ビューアは専用装置であるが、図7に示したハードウェア・コンポーネントを備える装置(すなわち、携帯電話)に当該ソフトウェアと同じ機能をロードすることもできる。
GPS送受信機は、好ましくは、トランスポンダ780に信号を送信するアンテナ750を介して、ビューアの位置をホストコンピュータ790又はサーバ795と通信する。これにより、ホストコンピュータ790又はビューア700のいずれかが、ビューアの位置を記録されたタグの位置を比較する。ビューア700は、タグ付けされた物体又は構造物の位置にあることが指示されると、(視覚的に、音響的に、及び/又はハプティック効果により)通知を受ける。一実施形態において、ユーザは、ボタンを押したり、音声で命令を行うことにより、実際のタグ付けされた作品をディスプレイ742を介して見ることができる。タグ付けされた作品は、通常は肉眼では見ることができない。
上述したコントローラ及びゲームの構成は、よく知られている「ギターヒーロー(Guitar Hero)」ゲームに似た「アートヒーロー(Art Hero)」又は「グラフィティヒーロー(Graffiti Hero)」と称される総合的なゲームに統合されてもよい。アートヒーローは、グラフィティヒーローゲームのより簡単なバージョンであってもよい。アートヒーローゲームは、芸能、トレーニング、クリエイティブな趣味等により適したものであってもよい。一方、グラフィティヒーローは、刺激に満ちた(high-excitement)マルチプレイヤーゲームにより適したものであってもよい。アートヒーロー又はグラフィティヒーローのいずれかにおいて、ユーザは、触覚的に改良された(haptic-enhanced)コントローラ(絵筆、マーカ、スプレー缶、又はこれら以外の種類の筆記具/ペインティング用具)を有することが望ましい。また、ユーザは、コントローラの外部にあるゲーム表面に実際に又は仮想的に描画を行うときに、表面に使用される塗料の現実的な感覚、徐々に軽くなるスプレー缶、スプレーノズルが強く押されたときに濃くなる色等を経験する。この種のゲームにおいては、ハプティックフィードバックを用いて、所望のテキスチャーやアーティストの署名パターンを生成することができる。ライティング/ペインティングのコンセプトは、グランド・セフト・オートをプレイするときのように、現実世界においてアドレナリンが放出されるような経験に統合することが可能である。例えば、ユーザは、グラフィティヒーローゲームによって、「仮想」の警察捜査が間近に迫っているというプレッシャーの下で、より効率よく作業することができる。様々なグラフィティ(Graffiti)アーティストは、自らのグラフィティで可能な限り多くの建物を覆ったり、競争相手のグラフィティを上書きしたりすることにより、名誉や勝利のために互いに競争する。ゲームの高度に発展した究極のバージョンにおいては、ユーザは、「セカンドライフ(Second Life)」に似た仮想空間に居住することができる。
以上、実施形態及び応用例を図示し説明したが、当業者に明らかなように、本明細書を参照することにより、本明細書に開示された発明概念から逸脱することなく、以上明示されたもの以外にもさらに多くの改変を行うことができる。したがって、本発明は、特許請求の範囲の趣旨に限定されることを除けば、何ら限定されるものではない。

Claims (11)

  1. ディスプレイにグラフィックシミュレーションを表示するソフトウェアプログラムを実行するように構成されたコンピュータと、
    三次元空間を自由に移動できるように構成されたユーザによって把持可能なコントローラと、を備え、
    前記ソフトウェアプログラムは、ユーザが前記グラフィックシミュレーション内で視覚芸術作品を制作できるように構成され、
    前記コントローラは、プロセッサと、前記三次元空間における前記コントローラの位置情報を追跡するとともに前記位置情報を表す第1のセンサー信号を前記コンピュータに送信するように構成された第1のセンサーと、前記プロセッサから第1の制御信号を受信すると第1のハプティック効果を前記ユーザに出力するように構成された第1のアクチュエータと、を備え、
    前記ユーザによって把持可能なコントローラは、前記視覚芸術作品を制作するように構成された筆記用具及び絵画用具を表し、
    前記第1の制御信号は、振動、衝撃、デテント、及びポップから選択される、出力されるハプティック効果の種類を示すものであり、
    前記第1のアクチュエータは、前記第1の制御信号に基づいて、大きさ、頻度、及び期間から選択される特徴を有する前記第1のハプティック効果を出力し、
    前記コンピュータは、前記出力される前記第1のハプティック効果の種類に関する命令を前記プロセッサに送信するように構成され、前記プロセッサは、前記第1のアクチュエータに前記第1のハプティック効果の特徴を指示するように構成され、
    前記コントローラは、前記コントローラに接続された第2のセンサーと、前記コントローラに接続された第2のアクチュエータとを備え、
    前記第2のセンサーは、前記コントローラが現実の表面に接触したとき、または、前記コントローラが押されたときに、前記コントローラの操作を示す第2のセンサー信号を送信するように構成され、
    前記コンピュータは、前記第2のセンサー信号に応答して仮想的なインク又は仮想的な塗料を塗布するように構成され、
    前記第2のアクチュエータは、前記プロセッサから第2の制御信号を受信すると第2のハプティック効果を出力する、
    システム。
  2. 前記プロセッサが前記センサー信号を受信するとともに前記センサー信号を前記コンピュータに提供するように構成された請求項1に記載のシステム。
  3. 前記コントローラが塗料スプレー缶形状の外形を有するように構成された請求項1に記載のシステム。
  4. 前記第2のセンサーがノズルに接続されたノズルセンサーを含み、前記ノズルが押されたときにノズルセンサー信号として前記第2のセンサー信号を送信するように構成され、前記コンピュータが、前記ノズルが押されたことに応答して仮想的なインク又は仮想的な塗料を塗布するように構成された請求項3に記載のシステム。
  5. 前記第2のアクチュエータが、前記コントローラの前記ノズルに接続され、当該第2のアクチュエータが、前記プロセッサからの前記第2の制御信号の受信に応答して前記第2のハプティック効果を出力する請求項4に記載のシステム。
  6. 前記コントローラが絵筆形状の外形を有するように構成された請求項1に記載のシステム。
  7. 前記第2のセンサーが、前記絵筆のブラシ状の先端部に接続された先端センサーをさらに備え、前記先端センサーが、前記先端が押されたときに先端センサー信号として前記第2のセンサー信号を送信するように構成され、前記コンピュータが、前記先端が押されたことに応答して仮想的なインク又は仮想的な塗料を塗布するように構成された請求項6に記載のシステム。
  8. 前記第2のアクチュエータが、前記絵筆のブラシ状の先端部に接続され、当該第2のアクチュエータが、前記プロセッサからの前記第2の制御信号の受信に応答して前記第2のハプティック効果を出力する請求項7に記載のシステム。
  9. 前記コントローラがマーカ形状の外形を有するように構成された請求項1に記載のシステム。
  10. 前記第2のセンサーが前記マーカの先端に接続された先端センサーを含み、前記先端センサーが、前記先端が押されたときに先端センサー信号として前記第2のセンサー信号を送信するように構成され、前記コンピュータが、前記先端が押されたことに応答して仮想的なインク又は仮想的な塗料を塗布するように構成された請求項9に記載のシステム。
  11. 前記第2のアクチュエータが前記マーカの前記先端に接続され、当該第2のアクチュエータが、前記プロセッサからの前記第2の制御信号の受信に応答して前記第2のハプティック効果を出力する請求項10に記載のシステム。
JP2011542497A 2008-12-19 2009-12-18 対話型ペインティングゲーム及び関連するコントローラ Expired - Fee Related JP5951994B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US13950608P 2008-12-19 2008-12-19
US61/139,506 2008-12-19
PCT/US2009/068797 WO2010071827A2 (en) 2008-12-19 2009-12-18 Interactive painting game and associated controller

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2014139366A Division JP6182114B2 (ja) 2008-12-19 2014-07-07 対話型ペインティングゲーム及び関連するコントローラ

Publications (2)

Publication Number Publication Date
JP2012512724A JP2012512724A (ja) 2012-06-07
JP5951994B2 true JP5951994B2 (ja) 2016-07-13

Family

ID=42266929

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2011542497A Expired - Fee Related JP5951994B2 (ja) 2008-12-19 2009-12-18 対話型ペインティングゲーム及び関連するコントローラ
JP2014139366A Expired - Fee Related JP6182114B2 (ja) 2008-12-19 2014-07-07 対話型ペインティングゲーム及び関連するコントローラ
JP2017142158A Active JP6568902B2 (ja) 2008-12-19 2017-07-21 対話型ペインティングゲーム及び関連するコントローラ

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2014139366A Expired - Fee Related JP6182114B2 (ja) 2008-12-19 2014-07-07 対話型ペインティングゲーム及び関連するコントローラ
JP2017142158A Active JP6568902B2 (ja) 2008-12-19 2017-07-21 対話型ペインティングゲーム及び関連するコントローラ

Country Status (3)

Country Link
US (4) US8884870B2 (ja)
JP (3) JP5951994B2 (ja)
WO (1) WO2010071827A2 (ja)

Families Citing this family (69)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8939831B2 (en) 2001-03-08 2015-01-27 Brian M. Dugan Systems and methods for improving fitness equipment and exercise
US20020160883A1 (en) 2001-03-08 2002-10-31 Dugan Brian M. System and method for improving fitness equipment and exercise
JP2017073100A (ja) 2015-10-05 2017-04-13 株式会社ミライセンス 触力覚情報提示システム
US11826652B2 (en) 2006-01-04 2023-11-28 Dugan Health, Llc Systems and methods for improving fitness equipment and exercise
US8781568B2 (en) 2006-06-23 2014-07-15 Brian M. Dugan Systems and methods for heart rate monitoring, data transmission, and use
US8976007B2 (en) 2008-08-09 2015-03-10 Brian M. Dugan Systems and methods for providing biofeedback information to a cellular telephone and for using such information
US20090270743A1 (en) * 2008-04-17 2009-10-29 Dugan Brian M Systems and methods for providing authenticated biofeedback information to a mobile device and for using such information
US20090312100A1 (en) * 2008-06-12 2009-12-17 Harris Scott C Face Simulation in Networking
US8454437B2 (en) * 2009-07-17 2013-06-04 Brian M. Dugan Systems and methods for portable exergaming
US9710097B2 (en) 2009-07-10 2017-07-18 Adobe Systems Incorporated Methods and apparatus for natural media painting using touch-and-stylus combination gestures
US8947455B2 (en) * 2010-02-22 2015-02-03 Nike, Inc. Augmented reality design system
US20110276891A1 (en) * 2010-05-06 2011-11-10 Marc Ecko Virtual art environment
US10922870B2 (en) * 2010-06-01 2021-02-16 Vladimir Vaganov 3D digital painting
US10217264B2 (en) * 2010-06-01 2019-02-26 Vladimir Vaganov 3D digital painting
US9310923B2 (en) 2010-12-03 2016-04-12 Apple Inc. Input device for touch sensitive devices
US9953494B2 (en) * 2011-02-25 2018-04-24 Leigh M. Rothschild Device, system and method for mobile devices to communicate through skin response
US20120253489A1 (en) 2011-03-28 2012-10-04 Dugan Brian M Systems and methods for fitness and video games
US9610506B2 (en) 2011-03-28 2017-04-04 Brian M. Dugan Systems and methods for fitness and video games
US9533228B2 (en) 2011-03-28 2017-01-03 Brian M. Dugan Systems and methods for fitness and video games
US8947226B2 (en) 2011-06-03 2015-02-03 Brian M. Dugan Bands for measuring biometric information
US9329703B2 (en) 2011-06-22 2016-05-03 Apple Inc. Intelligent stylus
US20130227409A1 (en) * 2011-12-07 2013-08-29 Qualcomm Incorporated Integrating sensation functionalities into social networking services and applications
US20130215132A1 (en) * 2012-02-22 2013-08-22 Ming Fong System for reproducing virtual objects
JP5458196B2 (ja) * 2012-03-02 2014-04-02 株式会社 資生堂 塗布動作評価装置、塗布動作評価方法、及び塗布動作評価プログラム
US9025111B2 (en) 2012-04-20 2015-05-05 Google Inc. Seamless display panel using fiber optic carpet
JP6052704B2 (ja) * 2012-07-10 2016-12-27 カシオ計算機株式会社 入力装置、および、入力操作解析方法、入力操作解析プログラム
US20140028635A1 (en) * 2012-07-27 2014-01-30 Christoph Horst Krah Modular stylus device
US9652090B2 (en) 2012-07-27 2017-05-16 Apple Inc. Device for digital communication through capacitive coupling
US9557845B2 (en) 2012-07-27 2017-01-31 Apple Inc. Input device for and method of communication with capacitive devices through frequency variation
US9176604B2 (en) 2012-07-27 2015-11-03 Apple Inc. Stylus device
US9195320B1 (en) 2012-10-22 2015-11-24 Google Inc. Method and apparatus for dynamic signage using a painted surface display system
US9014417B1 (en) 2012-10-22 2015-04-21 Google Inc. Method and apparatus for themes using photo-active surface paint
US9164596B1 (en) 2012-10-22 2015-10-20 Google Inc. Method and apparatus for gesture interaction with a photo-active painted surface
US9014469B2 (en) 2012-11-01 2015-04-21 Yael Zimet-Rubner Color-mapping wand
US10048775B2 (en) 2013-03-14 2018-08-14 Apple Inc. Stylus detection and demodulation
JP2014222492A (ja) * 2013-05-14 2014-11-27 株式会社東芝 描画装置及び描画システム
US10845901B2 (en) 2013-07-31 2020-11-24 Apple Inc. Touch controller architecture
US9489048B2 (en) * 2013-12-13 2016-11-08 Immersion Corporation Systems and methods for optical transmission of haptic display parameters
CN103716396B (zh) * 2013-12-27 2017-01-04 北京像素软件科技股份有限公司 一种涂鸦方法
KR102191345B1 (ko) 2014-04-03 2020-12-15 삼성전자 주식회사 전자 기기의 입력 장치, 방법 및 시스템
US20160093000A1 (en) * 2014-09-25 2016-03-31 Collectrium Inc. Novel cloud-based art inventory management system, incorporating techniques, methods and devices
US10067618B2 (en) 2014-12-04 2018-09-04 Apple Inc. Coarse scan and targeted active mode scan for touch
US20180095653A1 (en) * 2015-08-14 2018-04-05 Martin Hasek Device, method and graphical user interface for handwritten interaction
EP3172996B1 (en) * 2015-11-30 2021-01-13 Whirlpool Corporation Cooking system
EP3936153A1 (en) 2016-01-11 2022-01-12 Celator Pharmaceuticals, Inc. Inhibiting ataxia telangiectasia and rad3-related protein (atr)
US10198074B2 (en) * 2016-02-18 2019-02-05 Immersion Corporation Haptically-enabled modular peripheral device assembly
US10474277B2 (en) 2016-05-31 2019-11-12 Apple Inc. Position-based stylus communication
US10602284B2 (en) * 2016-07-18 2020-03-24 Cochlear Limited Transducer management
US10296089B2 (en) 2016-08-10 2019-05-21 Microsoft Technology Licensing, Llc Haptic stylus
US10203777B2 (en) * 2016-12-27 2019-02-12 Asustek Computer Inc. Stylus having detachable functional parts and operation method thereof
JP6612470B2 (ja) * 2017-03-13 2019-11-27 圭司 田谷 電子機器および情報処理方法
US10102659B1 (en) 2017-09-18 2018-10-16 Nicholas T. Hariton Systems and methods for utilizing a device as a marker for augmented reality content
US10105601B1 (en) 2017-10-27 2018-10-23 Nicholas T. Hariton Systems and methods for rendering a virtual content object in an augmented reality environment
KR101997770B1 (ko) * 2017-12-06 2019-07-08 한국광기술원 증강현실 이미지 생성장치 및 방법
US10636188B2 (en) 2018-02-09 2020-04-28 Nicholas T. Hariton Systems and methods for utilizing a living entity as a marker for augmented reality content
WO2019203848A1 (en) * 2018-04-20 2019-10-24 Hewlett-Packard Development Company, L.P. Tracking stylus in a virtual reality system
US10198871B1 (en) 2018-04-27 2019-02-05 Nicholas T. Hariton Systems and methods for generating and facilitating access to a personalized augmented rendering of a user
CN112041789A (zh) 2018-05-21 2020-12-04 株式会社和冠 位置指示设备及空间位置指示系统
JP7256611B2 (ja) 2018-07-11 2023-04-12 任天堂株式会社 タッチペンアタッチメント、操作システム、および、ゲームシステム
EP3877955A4 (en) 2019-02-05 2022-07-20 Motive Drilling Technologies, Inc. BORE HOLE INDICATOR
US10586396B1 (en) 2019-04-30 2020-03-10 Nicholas T. Hariton Systems, methods, and storage media for conveying virtual content in an augmented reality environment
CN111161581B (zh) * 2020-01-04 2021-06-22 国家电网有限公司 一种具有力触觉反馈的虚拟电力安全培训系统
TWI731650B (zh) * 2020-04-15 2021-06-21 宏碁股份有限公司 觸控筆、觸控電子裝置與觸控系統
CN212906235U (zh) * 2020-07-07 2021-04-06 深圳市鹰硕教育服务有限公司 智能笔红外驱动电路
CN212906230U (zh) * 2020-07-07 2021-04-06 深圳市鹰硕教育服务有限公司 智能笔摄像驱动电路
CN112035036A (zh) * 2020-08-28 2020-12-04 深圳创维数字技术有限公司 电子白板共享方法、系统、终端设备及存储介质
JP2022104105A (ja) * 2020-12-28 2022-07-08 日本電産株式会社 入力デバイス、及び、表示入力システム
US11644907B2 (en) * 2021-02-26 2023-05-09 Logitech Europe S.A. Systems, devices, and methods for physical surface tracking with a stylus device in an AR/VR environment
US11726570B2 (en) 2021-09-15 2023-08-15 Hewlett-Packard Development Company, L.P. Surface classifications

Family Cites Families (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5237647A (en) * 1989-09-15 1993-08-17 Massachusetts Institute Of Technology Computer aided drawing in three dimensions
US5625576A (en) * 1993-10-01 1997-04-29 Massachusetts Institute Of Technology Force reflecting haptic interface
JPH10232135A (ja) 1997-02-20 1998-09-02 Sony Corp 画像データ収集方法、画像データ提供方法、地図作成方法、位置データ提供方法、ナビゲーション装置及び車両
CN1262734A (zh) 1997-06-03 2000-08-09 斯蒂芬·拜德 包含方向检测器、位置检测器及数据库的便携式导航系统
US6720949B1 (en) * 1997-08-22 2004-04-13 Timothy R. Pryor Man machine interfaces and applications
US6552722B1 (en) * 1998-07-17 2003-04-22 Sensable Technologies, Inc. Systems and methods for sculpting virtual objects in a haptic virtual reality environment
JP2000051522A (ja) * 1998-08-04 2000-02-22 Enix Corp ビデオゲーム装置およびプログラムを格納した記録媒体
JP4371182B2 (ja) 1999-07-31 2009-11-25 株式会社セガ ゲーム装置、これに使用する入力手段、及び記憶媒体
JP2001077621A (ja) * 1999-09-01 2001-03-23 Alps Electric Co Ltd 一次放射器
US7116992B1 (en) 2000-04-05 2006-10-03 Hitachi, Ltd. Mobile station using positional information
JP2002205499A (ja) 2001-01-09 2002-07-23 Norio Yoshida 描画の縁取りが各々補色によって彩られる色付き描画ガラス
JP2003047773A (ja) 2001-08-08 2003-02-18 Taito Corp スプレー缶形コントローラ装置
JP2003053036A (ja) 2001-08-13 2003-02-25 Taito Corp スプレー缶形コントローラ装置
US6801211B2 (en) * 2001-12-21 2004-10-05 Ladd B. Forsline Computer painting system with passive paint brush stylus
JP2003288158A (ja) * 2002-01-28 2003-10-10 Sony Corp タクタイル・フィードバック機能を持つ携帯型機器
DE20208162U1 (de) * 2002-05-24 2002-08-22 Fraunhofer Ges Forschung System zur Erzeugung großflächiger digitaler Bilder
WO2004053644A2 (en) * 2002-12-08 2004-06-24 Immersion Corporation Using haptic effects to enhance information content in communications
US7886236B2 (en) * 2003-03-28 2011-02-08 Microsoft Corporation Dynamic feedback for gestures
KR100754704B1 (ko) * 2003-08-29 2007-09-03 삼성전자주식회사 위치에 따라 설정 변경이 가능한 이동통신 단말기 및 방법
US20050248549A1 (en) * 2004-05-06 2005-11-10 Dietz Paul H Hand-held haptic stylus
JP5243025B2 (ja) * 2004-05-17 2013-07-24 エポス ディベロップメント リミテッド 音響測位システムのための頑健な音響同期シグナリング
US20060024647A1 (en) * 2004-07-30 2006-02-02 France Telecom Method and apparatus for communicating graphical information to a visually impaired person using haptic feedback
DE202005001702U1 (de) * 2005-02-02 2006-06-14 Sata Farbspritztechnik Gmbh & Co.Kg Virtuelles Lackiersystem und Farbspritzpistole
US7394405B2 (en) * 2005-06-01 2008-07-01 Gm Global Technology Operations, Inc. Location-based notifications
US20070188477A1 (en) * 2006-02-13 2007-08-16 Rehm Peter H Sketch pad and optical stylus for a personal computer
US7750911B2 (en) * 2006-02-21 2010-07-06 Chrysler Group Llc Pen-based 3D drawing system with 3D mirror symmetric curve drawing
JP5089078B2 (ja) 2006-05-02 2012-12-05 株式会社ソニー・コンピュータエンタテインメント ゲーム装置
JP5506129B2 (ja) 2006-05-08 2014-05-28 任天堂株式会社 ゲームプログラム、ゲーム装置、ゲームシステムおよびゲーム処理方法
JP4125764B2 (ja) * 2006-09-21 2008-07-30 株式会社スクウェア・エニックス ビデオゲーム制御システム、及びビデオゲーム制御サーバ
JP2008238894A (ja) 2007-03-26 2008-10-09 Sony Ericsson Mobilecommunications Japan Inc ナビゲーションシステム及び方法、携帯情報端末
US8427434B1 (en) * 2007-11-05 2013-04-23 Alfred F. Merolla Electronic linear perspective drawing aid
US8253686B2 (en) * 2007-11-26 2012-08-28 Electronics And Telecommunications Research Institute Pointing apparatus capable of providing haptic feedback, and haptic interaction system and method using the same
JP4827262B2 (ja) * 2008-04-17 2011-11-30 株式会社バンダイナムコゲームス 情報提供システム、分配端末装置、プログラムおよび情報記憶媒体
EP2297703A1 (en) * 2008-06-03 2011-03-23 ETH Zurich Method and system for generating a pictorial reference database using geographical information
US9509867B2 (en) * 2008-07-08 2016-11-29 Sony Corporation Methods and apparatus for collecting image data
US9191238B2 (en) * 2008-07-23 2015-11-17 Yahoo! Inc. Virtual notes in a reality overlay
US8351910B2 (en) * 2008-12-02 2013-01-08 Qualcomm Incorporated Method and apparatus for determining a user input from inertial sensors
US9727139B2 (en) * 2008-12-12 2017-08-08 Immersion Corporation Method and apparatus for providing a haptic monitoring system using multiple sensors

Also Published As

Publication number Publication date
US10152134B2 (en) 2018-12-11
US8884870B2 (en) 2014-11-11
JP2012512724A (ja) 2012-06-07
JP2017213385A (ja) 2017-12-07
US20170277264A1 (en) 2017-09-28
US20100160041A1 (en) 2010-06-24
JP6182114B2 (ja) 2017-08-16
WO2010071827A3 (en) 2010-08-12
JP2014221396A (ja) 2014-11-27
WO2010071827A2 (en) 2010-06-24
JP6568902B2 (ja) 2019-08-28
US20190107892A1 (en) 2019-04-11
US20150029125A1 (en) 2015-01-29
US10591995B2 (en) 2020-03-17
US9710064B2 (en) 2017-07-18

Similar Documents

Publication Publication Date Title
JP6568902B2 (ja) 対話型ペインティングゲーム及び関連するコントローラ
US7934995B2 (en) Game system and information processing system
US8727878B2 (en) Video game controller
US8970476B2 (en) Motion controlled image creation and/or editing
US7819748B2 (en) Game apparatus and storage medium storing game program
US20070178952A1 (en) Game apparatus and game program
US20160147404A1 (en) New uses of smartphones and comparable mobile digital terminal devices
EP1926051A2 (en) Network connected media platform
KR20040035881A (ko) 대화형 시스템 및 대화 방법
US20170113142A1 (en) Image processing device, image processing method, and image processing program
US20080043042A1 (en) Locality Based Morphing Between Less and More Deformed Models In A Computer Graphics System
Liarokapis et al. Multimodal augmented reality tangible gaming
Liarokapis et al. A pervasive augmented reality serious game
US8702510B2 (en) Method and apparatus for user-selected manipulation of gameplay mechanics
Cheiran et al. Inclusive games: a multimodal experience for blind players
JP2005312758A (ja) ゲームシステムおよびゲームプログラム
Tang et al. Emerging human-toy interaction techniques with augmented and mixed reality
US20130106689A1 (en) Methods of operating systems having optical input devices
Loviscach Playing with all senses: Human–Computer interface devices for games
Hendricks et al. EEG: the missing gap between controllers and gestures
Shen et al. BlowBrush: a design of tangible painting system using blowing action
Windsrygg Learning Algorithms in Virtual Reality as Part of a Virtual University
WO2020261454A1 (ja) グラフィックゲームプログラム
Rodriguez Improving the experience of exploring a virtual museum
Liarokapis et al. Coventry University Repository for the Virtual Environment (CURVE)

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140318

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140616

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140623

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140707

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20140722

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141125

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20141202

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20150109

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20160108

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20160215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160314

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160609

R150 Certificate of patent or registration of utility model

Ref document number: 5951994

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D04

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D02

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees