JPWO2020039479A1 - 端末装置、プログラム、方法、及びシステム - Google Patents

端末装置、プログラム、方法、及びシステム Download PDF

Info

Publication number
JPWO2020039479A1
JPWO2020039479A1 JP2018544286A JP2018544286A JPWO2020039479A1 JP WO2020039479 A1 JPWO2020039479 A1 JP WO2020039479A1 JP 2018544286 A JP2018544286 A JP 2018544286A JP 2018544286 A JP2018544286 A JP 2018544286A JP WO2020039479 A1 JPWO2020039479 A1 JP WO2020039479A1
Authority
JP
Japan
Prior art keywords
user
input
operation input
information
intention
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018544286A
Other languages
English (en)
Other versions
JP6710771B1 (ja
Inventor
一喜 森下
一喜 森下
賢 成田
賢 成田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Gungho Online Entertainment Inc
Original Assignee
Gungho Online Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Gungho Online Entertainment Inc filed Critical Gungho Online Entertainment Inc
Application granted granted Critical
Publication of JP6710771B1 publication Critical patent/JP6710771B1/ja
Publication of JPWO2020039479A1 publication Critical patent/JPWO2020039479A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/35Details of game servers
    • A63F13/352Details of game servers involving special game server arrangements, e.g. regional servers connected to a national server or a plurality of servers managing partitions of the game world
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/212Input arrangements for video game devices characterised by their sensors, purposes or types using sensors worn by the player, e.g. for measuring heart beat or leg activity
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/214Input arrangements for video game devices characterised by their sensors, purposes or types for locating contacts on a surface, e.g. floor mats or touch pads
    • A63F13/2145Input arrangements for video game devices characterised by their sensors, purposes or types for locating contacts on a surface, e.g. floor mats or touch pads the surface being also a display device, e.g. touch screens
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/23Input arrangements for video game devices for interfacing with the game device, e.g. specific interfaces between game controller and console
    • A63F13/235Input arrangements for video game devices for interfacing with the game device, e.g. specific interfaces between game controller and console using a wireless connection, e.g. infrared or piconet
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • G06F3/0418Control or interface arrangements specially adapted for digitisers for error correction or compensation, e.g. based on parallax, calibration or alignment
    • G06F3/04186Touch location disambiguation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/45Controlling the progress of the video game
    • A63F13/48Starting a game, e.g. activating a game device or waiting for other players to join a multiplayer session
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/10Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals
    • A63F2300/1012Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals involving biosensors worn by the player, e.g. for measuring heart beat, limb activity
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/10Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals
    • A63F2300/1068Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals being specially adapted to detect the point of contact of the player on a surface, e.g. floor mat, touch pad
    • A63F2300/1075Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals being specially adapted to detect the point of contact of the player on a surface, e.g. floor mat, touch pad using a touch screen
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/60Methods for processing data by generating or executing the game program
    • A63F2300/63Methods for processing data by generating or executing the game program for controlling the execution of the game in time
    • A63F2300/636Methods for processing data by generating or executing the game program for controlling the execution of the game in time involving process of starting or resuming a game

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Neurology (AREA)
  • Neurosurgery (AREA)
  • Dermatology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biophysics (AREA)
  • Cardiology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • User Interface Of Digital Computer (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Abstract

【課題】あらかじめ端末装置における処理を開始し、実際に端末装置に操作入力がなされてから処理が完了するまでの時間をより短縮しうる、端末装置を提供する。【解決手段】ユーザによる一又は複数の操作入力を受け付ける入力インターフェイスと、前記ユーザの意思を検出可能なセンサ装置から、前記ユーザの意思情報を受信する外部通信インターフェイスと、前記入力インターフェイスが少なくとも一つの操作入力を受け付ける前に、前記外部通信インターフェイスが受信した前記意思情報に基づいてこれから前記ユーザが行おうとする操作入力を特定し、前記特定された操作入力に対応する処理を開始し、前記入力インターフェイスにより操作入力が受け付けられると、前記意思情報に基づいて既に処理された情報を利用して、前記入力インターフェイスにより受け付けられた操作入力に対応する処理をするように構成されたプロセッサと、を含む端末装置である。【選択図】 図1

Description

本開示は、検出されたユーザの意思を利用した端末装置、プログラム、方法、及びシステムに関する。
ヒトは、外部から刺激を受けると、感覚受容器でその刺激を知覚し、判断し、なすべきことをデザインし、最終的に末梢の筋肉を収縮させ動作する。そして、一般的に、この刺激から動作まで何ら負荷のない状況でさえ200ミリ秒の時間を要することが知られていた(非特許文献1)。例えばスマートフォンに代表されるような端末装置の操作においては、端末装置以外からも様々な刺激を受けそれによる判断が必要とされる状況下で操作されるため、ディスプレイから何らかの刺激を受けて指示入力を与えるまでに、200ミリ秒以上の時間を要することが容易に考えられる。
また、入力インターフェイスにおいては、筋肉を収縮させ動作を開始してからも、手指やマウスの移動、位置決め、タッチ(クリック)などの各タスクをこなす必要があり、全てを完結させるのに200ミリ秒〜1200ミリ秒もの時間を要することが知られている(非特許文献2)
一方、従来より、ユーザの脳波を検出して、測定された脳波に基づいてユーザの意図を測り、様々な機器を操作し得ることが知られていた。たとえば、特許文献1には、ユーザの脳波によりユーザの注意領域及び注意度を測定し、電動車椅子の移動方向や速度を制御することが記載されている。
特開2015−156912号公報
川村仁視ら「『反応時間の筋電図学的研究』 I」 愛知工業大学研究報告 No.7,33〜43頁,1972年3月30日発行 駒崎雅信「タッチスクリーンにおける人のポインティング特性に関する研究」 電気通信大学博士論文,2008年9月
そこで、上記のような技術を踏まえ、本開示では、様々な実施形態により、ユーザが端末装置に対して操作することをデザインしてから動作が完了するまでの時間を利用して、あらかじめ端末装置における処理を開始し、実際に端末装置に操作入力がなされてから処理が完了するまでの時間をより短縮しうる、端末装置、プログラム、方法、及びシステムを提供する。
本開示の一態様によれば、「ユーザによる一又は複数の操作入力を受け付ける入力インターフェイスと、有線又は無線により接続され、かつ前記ユーザの意思を検出可能なセンサ装置から、少なくとも一つの操作入力をする前記ユーザの意思情報を受信する外部通信インターフェイスと、所定の指示命令を記憶するように構成されたメモリと、前記指示命令に基づいて、前記入力インターフェイスが少なくとも一つの操作入力を受け付ける前に、前記外部通信インターフェイスが受信した前記意思情報に基づいてこれから前記ユーザが行おうとする操作入力を特定し、前記特定された操作入力に対応する処理を開始し、前記入力インターフェイスにより操作入力が受け付けられると、前記意思情報に基づいて既に処理された情報を利用して、前記入力インターフェイスにより受け付けられた操作入力に対応する処理をするように構成されたプロセッサと、を含む端末装置」が提供される。
本開示の一態様によれば、「ユーザによる一又は複数の操作入力を受け付ける入力インターフェイスと、有線又は無線により接続され、かつ前記ユーザの意思を検出可能なセンサ装置から、少なくとも一つの操作入力をする前記ユーザの意思情報を受信する外部通信インターフェイスと、所定の指示命令を記憶するように構成されたメモリと、を含むコンピュータを、前記指示命令に基づいて、前記入力インターフェイスが少なくとも一つの操作入力を受け付ける前に、前記外部通信インターフェイスが受信した前記意思情報に基づいてこれから前記ユーザが行おうとする操作入力を特定し、前記特定された操作入力に対応する処理を開始し、前記入力インターフェイスにより操作入力が受け付けられると、前記意思情報に基づいて既に処理された情報を利用して、前記入力インターフェイスにより受け付けられた操作入力に対応する処理をするように構成されたプロセッサ、として機能させるプログラム」が提供される。
本開示の一態様によれば、「ユーザによる一又は複数の操作入力を受け付ける入力インターフェイスと、有線又は無線により接続され、かつ前記ユーザの意思を検出可能なセンサ装置から、少なくとも一つの操作入力をする前記ユーザの意思情報を受信する外部通信インターフェイスと、所定の指示命令を記憶するように構成されたメモリと、を含むコンピュータにおいて、前記プロセッサが前記指示命令を実行することによりなされる方法であって、前記入力インターフェイスが少なくとも一つの操作入力を受け付ける前に、前記外部通信インターフェイスが受信した前記意思情報に基づいてこれから前記ユーザが行おうとする操作入力を特定する段階と、前記特定された操作入力に対応する処理を開始する段階と、前記入力インターフェイスにより操作入力が受け付けられると、前記意思情報に基づいて既に処理された情報を利用して、前記入力インターフェイスにより受け付けられた操作入力に対応する処理をする段階と、を含む方法」が提供される。
本開示の一態様によれば、「いずれかの端末装置と、前記端末装置に有線又は無線により接続され、かつ前記端末装置の入力インターフェイスに一又は複数の操作入力をするユーザの意思を検出可能なセンサ装置と、を含む、システム」が提供される。
本開示の一態様によれば、「ユーザによる一又は複数の操作入力を受け付ける入力インターフェイスと、有線又は無線により接続され、かつ一又は複数の電極で検出された前記ユーザの意思を示す信号を受信する外部通信インターフェイスと、所定の指示命令を記憶するとともに、前記信号と前記ユーザの意思との対応関係を記憶するメモリと、前記指示命令に基づいて、前記入力インターフェイスにより前記操作入力を受け付ける前に、受信した前記信号と前記メモリに記憶された前記対応関係とから前記ユーザの意思情報を生成し、生成された前記意思情報に基づいてこれから前記ユーザが行おうとする操作入力を特定し、前記特定された操作入力に対応する処理を開始し、前記入力インターフェイスにより操作入力が受け付けられると、前記意思情報に基づいて既に処理された情報を利用して、前記入力インターフェイスにより受け付けられた操作入力に対応する処理をするように構成されたプロセッサと、を含む端末装置」が提供される。
本開示の様々な実施形態によれば、ユーザが端末装置に対して操作することをデザインしてから動作が完了するまでの時間を利用して、あらかじめ端末装置における処理を開始し、実際に端末装置に操作入力がなされてから処理が完了するまでの時間をより短縮しうる、端末装置、プログラム、方法、及びシステムを提供することができる。
なお、上記効果は説明の便宜のための例示的なものであるにすぎず、限定的なものではない。上記効果に加えて、または上記効果に代えて、本開示中に記載されたいかなる効果や当業者であれば明らかな効果を奏することも可能である。
図1は、本開示の様々な実施形態に係るシステムにおける処理を概念的に示す図である。 図2は、本開示の第1実施形態に係るシステムにおける処理を概念的に示す図である。 図3は、本開示の第1実施形態に係るシステム1の構成の例を示すブロック図である。 図4は、本開示の第1実施形態に係る脳波センサ装置200のメモリ212に記憶される操作特定テーブルを概念的に示す図である。 図5は、本開示の第1実施形態に係る端末装置100、脳波センサ装置200、及びサーバー装置300との間で実行される処理シーケンスを示す図である。 図6は、本開示の第1実施形態にかかる端末装置100において実行される処理フローを示す図である。 図7は、本開示の第2実施形態に係るシステムにおける処理を概念的に示す図である。 図8は、本開示の第2実施形態に係る端末装置100のメモリ113に記憶されるアイコンテーブルを概念的に示す図である。 図9は、本開示の第2実施形態に係る端末装置100、脳波センサ装置200、及びサーバー装置300との間で実行される処理シーケンスを示す図である。 図10は、本開示の第2実施形態にかかる端末装置100において実行される処理フローを示す図である。 図11Aは、本開示の第2実施形態にかかるタッチセンサ115による操作入力の受け付けを概念的に示す図である。 図11Bは、本開示の第2実施形態にかかるタッチセンサ115による操作入力の受け付けを概念的に示す図である。
添付図面を参照して本開示の様々な実施形態を説明する。なお、図面における共通する構成要素には同一の参照符号が付されている。
<本開示に係るシステムの概要>
図1は、本開示の様々な実施形態に係るシステムにおける処理を概念的に示す図である。図1によると、当該システムでは、ユーザ11に取り付けた脳波センサ装置200により検出した脳波に基づいて、ユーザ11の操作入力をするという意思を検出し、その検出結果に応じて、実際にユーザが入力インターフェイス(タッチセンサ115)に操作入力するよりも前に、ユーザ11が入力しようとする操作に対応する処理を開始し、実際に操作入力が行われた場合には、既に開始された処理内容をそのまま利用して、順次処理をする。
その一例としては、ユーザ11に取り付けた脳波センサ装置200で、タッチセンサ115を通じてスタートアイコンを押下するというユーザ11の意思を検出すると、タッチセンサ115に実際に操作入力するよりも前に、前もってサーバー装置300との通信を開始し、必要な情報の送受信を行う。そして、実際にユーザ11の指示体12(指)によりタッチセンサ115に操作入力がされると、あらかじめ送受信された情報の続きから、引き続き送受信を行う。このようにすることで、操作入力をするという判断を脳がなして実際に末梢の筋肉を収縮させ動作するまでの時間を有効に活用し、動作が完了したと知覚してから処理が完了するまでの時間を短縮させることが可能となる。
なお、本開示においては、「処理」の例として、ユーザ11の操作入力によりサーバー装置300との間で情報の送受信をする場合を挙げた。しかし、これに限らず、一定の時間を要する処理であれば、いかなる処理に対しても本開示に係るシステムを適用することが可能である。たとえば、他の例としては、ディスプレイ画面の描画処理、ユーザ等の認証処理、各アプリケーションの起動処理などが挙げられる。
<第1実施形態>
1.本開示の第1実施形態に係るシステム1の構成
図2は、本開示の第1実施形態に係るシステムにおける処理を概念的に示す図である。図2によると、ユーザ11に取り付けた脳波センサ装置200で、タッチセンサ115に対する画面のタッチ、又はハードキー116に対する押下をするというユーザ11の意思を検出すると、実際に操作入力されるよりも前に、前もってサーバー装置300との通信を開始し、必要な情報の送受信を行う。そして、実際にユーザ11の指示体12(指)によりタッチセンサ115にタッチがされるか、又はハードキー116が押下されると、あらかじめ送受信された情報の続きから、引き続き送受信を行う。このようにすることで、操作入力をするという判断を脳がなして実際に末梢の筋肉を収縮させて動作するまでの時間を有効に活用し、動作が完了したことを知覚してから処理が完了するまでの時間を短縮させることが可能となる。
図3は、本開示の第1実施形態に係るシステム1の構成の例を示すブロック図である。図3を参照すると、システム1は、端末装置100と、当該端末装置100と有線又は無線により通信可能に接続された脳波センサ装置200とを含む。端末装置100及び脳波センサ装置200は、図3に示す構成要素の全てを備える必要はなく、一部を省略した構成をとることも可能であるし、他の構成要素を加えることも可能である。
端末装置100は、一例としては、スマートフォンに代表される無線通信可能な携帯型の端末装置が挙げられる。しかし、それ以外にも、携帯型ゲーム機、フィーチャーフォン、携帯情報端末、PDA、ラップトップパソコン、デスクトップパソコン、据え置き型ゲーム機、音楽プレイヤー、複合機やレーザープリンターなどの印刷装置、工作機械や製造機械などの操作装置、カーナビゲーションシステムや自動車などの車載装置など、他の装置や他のモジュールなどと情報の入出力が可能で、ユーザによる操作入力が可能な装置であれば、本実施形態に係るシステム1を好適に適用することが可能である。
図3によると、端末装置100は、ディスプレイ111、プロセッサ112、メモリ113、タッチセンサ115及びハードキー116を含む入力インターフェイス114、並びにアンテナに接続された無線通信処理回路118及びI/Oポート119を含む外部通信インターフェイス117を含む。そして、これらの各構成要素が制御ライン及びデータラインを介して互いに電気的に接続される。
ディスプレイ111は、プロセッサ112の指示に応じて、メモリ113に記憶された画像情報を読み出して各種表示を行う表示部として機能する。具体的には、ディスプレイ111は、例えば、図2の例においては、ゲームアプリケーションを起動した直後の画面において、ユーザからのスタート操作を受け付けるタイトル画面を表示する。また、特に図示はしないが、タイトル画面でタッチセンサ115又はハードキー116に対する操作入力を受け付けた場合には、当該ゲームアプリケーションのスタート画面を表示する。ディスプレイ111は、例えば液晶ディスプレイから構成される。
プロセッサ112は、CPU(マイクロコンピュータ:マイコン)から構成され、メモリ113に記憶された各種プログラムに基づいて、接続された他の構成要素を制御する制御部として機能する。プロセッサ112は、メモリ113に記憶された指示命令、すなわち本実施形態に係るゲームアプリケーションを実行するためのプログラムやOSを実行するためのプログラムを処理する。具体的には、プロセッサ112は、脳波センサ装置200から受信した「操作入力をする」というユーザの意思を示す意思情報に基づいて、入力インターフェイス114によりユーザの操作入力を実際に受け付ける前に、意思情報により特定される操作情報に対応する処理を実行する。また、プロセッサ112は、実際に入力インターフェイス114によりユーザの操作入力を受け付けると、当該操作入力により特定される操作情報に対応する処理を行う。このとき、プロセッサ112は、既に意思情報に基づいて処理を開始している場合には、既に処理された情報をそのまま利用して処理を行う。なお、プロセッサ112は、単一のCPUで構成されても良いが、複数のCPUで構成されても良い。また、画像処理を担うGPU等、他の種類のプロセッサを適宜組み合わせてもよい。
メモリ113は、RAM、ROM、又は不揮発性メモリ(場合によっては、HDD)を含み、記憶部として機能する。ROMは、本実施形態に係るアプリケーションやOSを実行するための指示命令をプログラムとして記憶する。RAMは、ROMに記憶されたプログラムがプロセッサ112により処理されている間、データの書き込み及び読み込みをするために用いられるメモリである。不揮発性メモリは、当該プログラムの実行によってデータの書き込み及び読み込みが実行されるメモリであって、ここに書き込まれたデータは、当該プログラムの実行が終了した後でも保存される。本実施形態においては、特に図示はしないが、各操作入力(タッチ、長押し、スワイプ、ハードキーの押下)に対応づけて、各操作入力が検出されると実行される処理内容が記憶されている。また、必要に応じて、メモリ113には、例えばアイコンテーブルが記憶される。
入力インターフェイス114は、タッチセンサ115及びハードキー116を含み、ユーザからの様々な操作入力を受け付けるための入力部として機能する。タッチセンサ115は、ディスプレイ111に表示されたアイコンの操作や、ユーザによる文字列の入力など、ユーザからの各種操作入力の受け付けに利用される。タッチセンサ115は、ディスプレイ111を被覆するように配置され、ディスプレイ111の表示する画像データに対応して、指示体12(ユーザの指やスタイラス等)の近接座標や接触座標の情報を出力する。タッチセンサ方式としては、抵抗膜方式、静電容量結合方式、超音波表面弾性波方式など、公知の方式を利用することができる。本実施形態においては、ユーザの指示体12の近接も検出するため、静電容量結合方式のタッチセンサ115を用いるのが好ましい。ハードキー116には公知のものを適宜利用することができる。
外部通信インターフェイス117は、無線通信処理回路118、及び当該無線通信処理装置に接続されたアンテナ、並びにI/Oポート119を含み、通信部として機能する。外部通信インターフェイス117は、遠隔に設置され、ネットワークを介して接続されたサーバー装置300と、様々なアプリケーションの実行に必要なプログラムや、ユーザ情報、描画情報などの送受信を行う。特に本実施形態では、操作入力をするユーザの意思情報を脳波センサ装置から受信する。
無線通信処理回路118及びアンテナは、W−CDMA(Wideband−Code Division Multiple Access)方式やLTE(Long Term Evolution)方式に代表されるような広帯域の無線通信方式に基づいて処理されるが、IEEE802.11に代表されるような無線LANやBluetooth(登録商標)のような狭帯域の無線通信に関する方式に基づいて処理することも可能である。
I/Oポート119は、有線により接続された外部装置のI/Oポートと接続される。I/Oポート119は、シリアルポート、パラレルポート、USB等、所望の接続形式を採用することが可能である。
なお、本実施形態においては、脳波センサ装置200との間で意思情報を含む様々な情報の送受信を行うが、この送受信は、無線通信処理回路118を介した無線通信と、I/Oポート119を介した有線通信とのいずれで行ってもよい。本実施形態にかかる端末装置100を使用する場合、間隔受容器でその刺激を知覚し(ディスプレイ111上に表示された情報を認識し)、判断し、操作入力を決定し、最終的に末梢の筋肉を収縮させて動作(タッチセンサ115への操作入力)させるまでに200ミリ秒以上の時間を要する。したがって、この時間を考慮して、脳波センサ装置200との間の通信方式は、通信速度が早ければ早いほど好ましいが、一定以上の通信速度が確保できればよく、通信の安定性や速度の観点から適宜選択することが可能である。
また、図3によると、脳波センサ装置200は、一又は複数の電極E1〜Enを含む脳波センサ211、メモリ212、プロセッサ213、外部通信インターフェイス214を含む。そして、これらの各構成要素が制御ライン及びデータラインを介して互いに電気的に接続される。
脳波センサ211は、一又は複数の電極E1〜Enを含む。脳は、一般に大脳皮質が知覚、随意運動、思考、推理などの各機能をつかさどり、さらに大脳皮質の中でも各部位ごとに果たす役割が異なることが知られている。たとえば、端末装置100の操作入力を指で行うには、眼窩前頭皮質、運動連合野、一次運動野の働きが必要となる。したがって、電極E1〜Enは、これらの活動部位に対応する頭皮上の位置に配置される。なお、電極E1〜Enの配置及び個数は、あらかじめ脳波センサ装置200を用いて、ユーザの脳波のサンプリングを行い、入力インターフェイス114への操作を行うときに観測されるピークが最も強く検出される電極を適宜選択することで決定することも可能である。各電極E1〜Enから出力されるアナログ信号は適宜デジタル信号に変換されてその後の処理に用いられる。
メモリ212は、RAM、ROM、又は不揮発性メモリ等を含み、記憶部として機能する。ROMは、本実施形態に係る脳波センサ211の制御や端末装置100への情報の送受信を実行するための指示命令をプログラムとして記憶する。RAMは、ROMに記憶されたプログラムがプロセッサ213により処理されている間、データの書き込み及び読み込みをするために用いられるメモリである。不揮発性メモリは、当該プログラムの実行によってデータの書き込み及び読み込みが実行されるメモリであって、ここに書き込まれたデータは、当該プログラムの実行が終了した後でも保存される。本実施形態においては、メモリ212には、例えば操作特定テーブル(図4)が記憶される。
プロセッサ213は、CPU(マイクロコンピュータ:マイコン)から構成され、メモリ212に記憶された各種プログラムに基づいて、接続された他の構成要素を制御する制御部として機能する。プロセッサ213は、メモリ212に記憶された指示命令を実行するためのプログラムを処理する。具体的には、プロセッサ213は、脳波センサ211から出力された脳波信号と、操作特定テーブルを参照し、あらかじめサンプリングされた脳波信号の特徴点との一致点を判定し、ユーザがどのような操作内容の入力を行おうとしていたのかを判定する。
外部通信インターフェイス214は、端末装置100との情報の送受信のために用いられる通信部として機能する。したがって、外部通信インターフェイス214は、端末装置100の外部通信インターフェイス117に対応して、無線通信処理回路118、当該無線通信処理装置に接続されたアンテナ、並びにI/Oポート119を適宜含む。
2.メモリ212に記憶された情報
図4は、本開示の第1実施形態に係る脳波センサ装置200のメモリ212に記憶される操作特定テーブルを概念的に示す図である。具体的には、当該テーブルは、あらかじめサンプリングされたユーザが各操作入力を行う時の脳波信号の特徴点が記憶され、ユーザがどのような操作内容の入力を行おうとしていたのかの判定に用いられる。図4によると、各操作入力ID情報に対応付けて、特徴点情報と、操作内容情報とが記憶されている。特徴点情報は、あらかじめユーザが各種操作入力を入力インターフェイス114に対して行う時の脳波をサンプリングし、そこから得られた波形から各操作入力時の特徴的なピークに関する情報である。操作内容情報は、各特徴点情報が得られたときにユーザが行っていた操作入力の内容を示す情報である。本実施形態においては、例えば脳波センサ211において検出された脳波の波形が有する特徴点と、図4の操作特定テーブルに記憶された各特徴点とを比較し、「T1」の特徴点情報と一致した場合には、操作内容情報として「タッチ」入力が特定される。そして、脳波センサ装置200からは、「タッチ」入力に対応する操作入力ID情報「O1」が意思情報として端末装置100に出力される。
3.各装置間で実行される処理シーケンス
図5は、本開示の第1実施形態に係る端末装置100、脳波センサ装置200、及びサーバー装置300との間で実行される処理シーケンスを示す図である。具体的には、図5は、図2に示す「格闘ゲームA」のゲームアプリケーションを端末装置100において起動しタイトル画面が表示されたときに行う操作入力の例であって、脳波センサ装置200においてユーザの操作入力を行うという意思を検出し、その検出に基づいて生成された意思情報を脳波センサ装置200が送信することによって開始される割り込み処理のシーケンスを示す。なお、図5は、図2のタイトル画面での操作入力をすることで行われるサーバー装置300との情報の送受信の例を挙げた。しかし、これは単なる一例である。つまり、ユーザに知覚させる状況は、タイトル画面に限らず他の状況であってもよい。また、サーバー装置300が関わらない処理を行ってもよいし、他のサーバー装置や他の端末装置が関わる処理を行ってもよい。
図5において、初期画面が表示されると、それを知覚したユーザは、スタートアイコン又は設定アイコンのいずれのアイコンに対して操作入力を行うかの判断を行う。そして、ユーザは、その判断の結果、スタートアイコンをタッチしてスタート画面に移行させるという意思決定を行う。この間、脳波センサ装置200のプロセッサ213は、電極E1〜Enを有する脳波センサ211から出力される波形が有する特徴点を随時監視する(S11)。プロセッサ213は、得られた特徴点を、その都度、図4に示す操作特定テーブルを参照し、あらかじめサンプリングされたユーザの操作入力が有する特徴点との一致を判定する。一致がなかった場合には、プロセッサ213は再び波形の監視処理に戻る。
一方、特徴点の一致があった場合には、プロセッサ213は、一致した特徴点と対応付けられた操作内容情報を参照しユーザが操作入力しようとした内容を特定する。本実施形態においては、上記のとおり、タッチセンサ115のタッチという操作入力をする意思決定が行われているので、操作入力ID情報が「O1」の特徴点と一致する。したがって、プロセッサ213は、操作入力ID情報として「O1」を少なくとも含む意思情報を生成し、当該意思情報(T11)を、外部通信インターフェイス214を介して端末装置100に送信するよう制御する。
次に、端末装置100は、スタート画面におけるタッチセンサ115へのタッチにあらかじめ対応付けられた処理を開始する(S12)。本実施形態においては、まず、端末装置100は、サーバー装置300へ、メモリ113に記憶されたユーザ情報(T12)を送信する。そして、これを受信したサーバー装置300は、ユーザの認証処理を行い(S13)、「格闘ゲームA」のゲームアプリケーションの正当なユーザであると認証がされると、サーバー装置300に記憶された当該ユーザのゲームデータ(T13)を端末装置100に送信する。
端末装置100は、サーバー装置300から送信されたゲームデータを順次受信する(S14)。ゲームデータの受信が完了すると、端末装置100は、受信したゲームデータや、メモリ113に記憶されたスタート画面の描画情報を利用して、ディスプレイ111にスタート画面を表示するための描画処理を開始する(S15)。
次に、入力インターフェイス114からタッチ検出の割り込みを受信すると(S16)、端末装置100は、タッチ検出に対応付けられた処理を行う(S17)。このとき、T11で送信されたタッチセンサ115へのタッチという意思情報と、実際の操作入力とが一致する場合には、S12以降により既に開始した処理の結果をそのまま利用して、S17の処理を行う。
なお、本実施形態では、入力インターフェイス114でのタッチ検出の割り込みをS15の後に受信した場合について説明した。しかし、当該割り込みはS12以降のどのタイミングでも受信し得る。したがって、例えば割り込みをS14の後に受信した場合には、S17の処理をゲームデータの受信の途中から再開するようにしてもよい。
また、本実施形態では、タイトル画面において、「タッチセンサ115をタッチする」という意思情報を受信する場合について説明した。しかし、例えば、ハードキー116を押下する」という意思情報を受信した場合でも、同様の処理を行うことが可能である。
4.端末装置100で実行される処理フロー
図6は、本開示の第1実施形態にかかる端末装置100において実行される処理フローを示す図である。具体的には、当該処理フローは、脳波センサ装置200から意思情報を受信することによって開始される割り込み処理に関する。
図6によると、プロセッサ112が、外部通信インターフェイス117を介して、脳波センサ装置200から意思情報を受信したと判断することによって開始される(S101)。そして、当該意思情報から、ユーザがこれから行おうとしている操作入力が、タッチセンサ115へのタッチであると特定する。そして、タイトル画面において当該タッチ操作に対応付けられた処理を実行する。つまり、本実施形態においては、ユーザが入力インターフェイスへの実際の操作入力をする前に、脳波センサ装置200から意思情報を受信することにより操作情報を特定し、この特定された操作情報に対応する処理をあらかじめ開始する。
具体的には、まず、プロセッサ112は、サーバー装置300にメモリ113に記憶されたユーザ情報を送信するよう、外部通信インターフェイス117を制御する(S102)。そして、プロセッサ112は、サーバー装置300においてユーザの認証が行われゲームアプリケーションの実行に必要なゲームデータの受信を開始するよう制御する(S103)。次に、プロセッサ112は、受信したゲームデータと、メモリ113に記憶された描画情報に基づいて、順次、次の画面(スタート画面)の描画を開始する。
ここで、入力インターフェイス114がユーザによるタッチセンサ115への実際の操作入力を受け付けると、入力インターフェイス114は、この操作入力の割り込み信号を送信する。プロセッサ112は、当該割り込み信号を受信すると(S104)、タッチセンサ115で検出された操作情報を特定する。本実施形態においては、タイトル画面において、タッチセンサ115が「タッチ」操作を検出した場合について説明する。
このとき、プロセッサ112は、特定された操作情報が、意思情報を受信することにより特定された操作情報と一致するか否かを判断する。その結果、いずれもが、タッチセンサ115に対する「タッチ」操作である場合には、プロセッサ112は、S103において受信されたゲームデータについて、未取得のゲームデータが存在するか否かを判断する(S105)。未取得のゲームデータが存在する場合には、プロセッサ112は、未取得のゲームデータをサーバー装置から受信するよう外部通信インターフェイス117を制御する(S106)。そして、プロセッサ112は、あらかじめ意思情報に基づいて受信されたゲームデータと、実際に操作入力されることにより受信されたゲームデータの両方を利用して、次画面(スタート画面)の描画をし、次画面へとディスプレイ111の表示を遷移させる(S107)。
一方、入力インターフェイス114で割り込みを受信しなかった場合には、実際にはタッチセンサ115への操作入力がなされなかったものとして、プロセッサ112は、あらかじめ意思情報により受信されたゲームデータ等をメモリ113から消去する(S108)。
なお、本実施形態では、タイトル画面において、「タッチセンサ115をタッチする」という意思情報を受信する場合について説明した。しかし、例えば、ハードキー116を押下する」という意思情報を受信した場合でも、同様の処理を行うことが可能である。
以上、本実施形態においては、脳波センサ装置200によってユーザの操作入力に対する意思を検出することで、ユーザが端末装置100に対して操作することをデザインしてから動作が完了するまでの時間を利用して、あらかじめ端末装置100における処理を開始し、実際に端末装置に操作入力がなされてから処理が完了するまでの時間をより短縮することが可能となる。
<第2実施形態>
第1実施形態では、タイトル画面において、ユーザがタッチセンサ115をタッチ又はハードキー116を押下することによって、スタート画面に移行する場合について説明した。つまり、脳波センサ装置200によってタッチセンサ115へのタッチ又はハードキー116への押下という意思情報を受信する場合について説明した。第2実施形態においては、タイトル画面に複数のアイコンを表示し、いずれのアイコンに対する操作入力であるのかを区別して、それに応じた処理をする場合について説明する。なお、本実施形態は、以下で具体的に説明する点を除いて、第1実施形態における構成、処理、手順と同様である。したがって、それらの事項の詳細な説明は省略する。
図7は、本開示の第2実施形態に係るシステムにおける処理を概念的に示す図である。ユーザ11に取り付けた脳波センサ装置200で、タッチセンサ115を通じてスタートアイコンを押下するというユーザ11の意思を検出すると、タッチセンサ115に実際に操作入力するよりも前に、前もってサーバー装置300との通信を開始し、必要な情報の送受信を行う。そして、実際にユーザ11の指示体12(指)によりタッチセンサ115に操作入力がされると、あらかじめ送受信された情報の続きから、引き続き送受信を行う。このようにすることで、操作入力をするという判断を脳がなして実際に末梢の筋肉を収縮させ動作するまでの時間を有効に活用し、動作が完了したと知覚してから処理が完了するまでの時間を短縮させることが可能となる。
なお、本実施形態においては、ディスプレイ111は、図7に示す通り、タイトル画面に、ユーザに操作入力をさせるための様々なアイコン(スタートアイコン及び設定アイコン)を表示する。また、メモリ113は、これらのアイコンンと処理内容とが対応付けられたアイコンテーブルを記憶する。
図8は、本開示の第2実施形態に係る端末装置100のメモリ113に記憶されるアイコンテーブルを概念的に示す図である。具体的には、当該テーブルには、ディスプレイ111に表示される各アイコンと、対応して配置されたタッチセンサ115を介して行った各アイコンに対する操作入力によりなされる処理が記憶されている。図8によると、各アイコンID情報に対応付けて、描画データ情報、配置座標情報、処理情報がそれぞれ記憶されている。描画データ情報は、アイコンがディスプレイに表示されるときの形状、色彩、大きさなどを決定する情報である。配置座標情報は、アイコンのディスプレイ上の配置座標を決定する情報である。処理情報は、当該アイコンに対する操作入力がなされることにより開始される処理内容を特定する情報である。一例としては、アイコンID情報が「I1」のアイコンに対して操作入力がなされると、「ユーザ情報をサーバー装置300に送信し、サーバー装置300から受信したゲームデータ情報とメモリ113に記憶された画像データ等に基づいてスタート画面をディスプレイ111に描画する」という処理を行う。
図9は、本開示の第2実施形態に係る端末装置100、脳波センサ装置200、及びサーバー装置300との間で実行される処理シーケンスを示す図である。具体的には、図9は、図7に示す「格闘ゲームA」のゲームアプリケーションを端末装置100において起動しタイトル画面が表示されたときに行う操作入力の例であって、脳波センサ装置200においてユーザの操作入力を行うという意思を検出し、その検出に基づいて生成された意思情報を脳波センサ装置200が送信することによって開始される割り込み処理のシーケンスを示す。なお、図9は、図7のタイトル画面での操作入力をすることで行われるサーバー装置300との情報の送受信の例を挙げた。しかし、これは単なる一例である。つまり、ユーザに知覚させる状況は、初期画面に限らず他の状況であってもよい。また、サーバー装置300が関わらない処理を行ってもよいし、他のサーバー装置や他の端末装置が関わる処理を行ってもよい。
図9において、初期画面が表示されると、それを知覚したユーザは、スタートアイコン又は設定アイコンのいずれのアイコンに対して操作入力を行うかの判断を行う。そして、ユーザは、その判断の結果、スタートアイコンをタッチしてスタート画面に移行させるという意思決定を行う。この間、脳波センサ装置200のプロセッサ213は、電極E1〜Enを有する脳波センサ211から出力される波形が有する特徴点を随時監視する(S21)。プロセッサ213は、得られた特徴点を、その都度、図4に示す操作特定テーブルを参照し、あらかじめサンプリングされたユーザの操作入力が有する特徴点との一致を判定する。一致がなかった場合には、プロセッサ213は再び波形の監視処理に戻る。
一方、特徴点の一致があった場合には、プロセッサ213は、一致した特徴点と対応付けられた操作内容情報を参照しユーザが操作入力しようとした内容を特定する。本実施形態においては、上記のとおり、スタートアイコンのタッチという操作入力をする意思決定が行われているので、操作入力ID情報が「O1」の特徴点と一致する。したがって、プロセッサ213は、操作入力ID情報として「O1」を少なくとも含む意思情報を生成し、当該意思情報(T21)を、外部通信インターフェイス214を介して端末装置100に送信するよう制御する。
ここで、ユーザのタッチセンサ115に対する操作入力は、まず指示体12(例えば、指)の移動を行い、位置決めをし、タッチをするというステップを経て行われる。したがって、通常、指示体12の移動が完了した段階で、ある程度ユーザがタッチセンサ115に対して操作入力を行いたい位置上に指示体12が存在している。本実施形態では、この状態を利用して、タッチセンサ115によって指示体12の近接座標を検出し、これからユーザがタッチしようとする位置を特定する(S22)。次に、端末装置100は、アイコンテーブル(図8)を参照し、特定された位置(近接座標)の対応する座標に配置されたアイコンを特定する。そして、端末装置100は、特定されたアイコンに対応づけられた処理を開始する(S23)。
まず、端末装置100は、サーバー装置300へ、メモリ113に記憶されたユーザ情報(T22)を送信する。そして、これを受信したサーバー装置300は、ユーザの認証処理を行い(S24)、「格闘ゲームA」のゲームアプリケーションの正当なユーザであると認証がされると、サーバー装置300に記憶された当該ユーザのゲームデータ(T23)を端末装置100に送信する。
端末装置100は、サーバー装置300から送信されたゲームデータを順次受信する(S25)。ゲームデータの受信が完了すると、端末装置100は、受信したゲームデータや、メモリ113に記憶されたスタート画面の描画情報を利用して、ディスプレイ111にスタート画面を表示するための描画処理を開始する(S26)。
次に、入力インターフェイス114からタッチ検出の割り込みを受信すると(S27)、アイコンテーブル(図8)を参照し、入力インターフェイス114で検出された接触座標に対応する座標に配置されたアイコンを特定する。そして、端末装置100は、特定されたアイコンに対応付けられた処理を行う(S28)。このとき、近接座標から特定された処理と、接触座標から特定された処理とが一致する場合には、S23以降により既に開始した処理の結果をそのまま利用して、S28の処理を行う。
なお、本実施形態では、入力インターフェイス114でのタッチ検出の割り込みをS26の後に受信した場合について説明した。しかし、当該割り込みはS23以降のどのタイミングでも受信し得る。したがって、例えば割り込みをS25の後に受信した場合には、S28の処理をゲームデータの受信の途中から再開するようにしてもよい。
図10は、本開示の第2実施形態にかかる端末装置100において実行される処理フローを示すである。具体的には、当該処理フローは、脳波センサ装置200から意思情報を受信することによって開始される割り込み処理に関する。
図10によると、プロセッサ112が、外部通信インターフェイス117を介して、脳波センサ装置200から意思情報を受信したと判断することによって開始される(S201)。ここで、ユーザのタッチセンサ115に対する操作入力は、まず指示体12(例えば、指)の移動を行い、位置決めをし、タッチをするというステップを経て行われる。したがって、通常、指示体12の移動が完了した段階で、ある程度ユーザがタッチセンサ115に対して操作入力を行いたい位置上に指示体12が存在している。したがって、プロセッサ112は、当該意思情報を受信すると、タッチセンサ115を制御して、ユーザの指示体12(指)の近接座標の検出を行う(S202)。
ここで、図11A及び図11Bは、本開示の第2実施形態にかかるタッチセンサ115による操作入力の受け付けを概念的に示す図である。具体的には、図11Aは、意思情報を受信したときのユーザの指示体12とタッチセンサ115との位置関係を示す図である。また、図11Bは、図11Aの位置関係にある場合のタッチセンサ115で検出される静電容量値(図11Aの領域13の範囲)の一例を示す図である。図11Aによると、タッチセンサ115から距離dだけ離れた位置に指示体12が存在している。このとき、図11Bによると、指示体12が近接することで、x軸電極及びy軸電極間で形成される静電容量が変化する。その変化量の相対値が静電容量値として図11Bには示されている。図11Bの例においては、静電容量値として最も高い「83」を検出した座標位置(x1,y1)が、図11Aの場合における指示体12の近接位置として検出される。
再び図10に戻り、プロセッサ112はメモリ113に記憶されたアイコンテーブル(図8)を参照して、当該近接座標に対応する座標に配置にアイコンが存在するか否かを判断する(S203)。そして、アイコンがなければ、脳波による事前の処理を必要としない操作入力であるとして、本処理フローを終了する。一方で、アイコンが存在する場合には、プロセッサ112は、アイコンテーブルの処理情報を参照して、操作情報を特定する。本実施形態においては、図7に示されたスタートアイコン(アイコンID情報=「I1」)に対する操作入力の意思情報を受信した場合について説明する。したがって、近接座標が配置座標「C1」の範囲内にある場合には、アイコンID情報が「I1」のアイコンに対する操作であると操作情報を特定する。そして、処理内容が「P1」(ユーザ情報をサーバー装置300に送信し、サーバー装置300から受信したゲームデータ情報とメモリ113に記憶された画像データ等に基づいてスタート画面をディスプレイ111に描画する)の処理を実行する。つまり、本実施形態においては、ユーザが入力インターフェイスへの実際の操作入力をする前に、脳波センサ装置200から意思情報を受信することにより操作情報を特定し、この特定された操作情報に対応する処理をあらかじめ開始する。
具体的には、まず、プロセッサ112は、サーバー装置300にメモリ113に記憶されたユーザ情報を送信するよう、外部通信インターフェイス117を制御する(S204)。そして、プロセッサ112は、サーバー装置300においてユーザの認証が行われゲームアプリケーションの実行に必要なゲームデータの受信を開始するよう制御する(S205)。次に、プロセッサ112は、受信したゲームデータと、メモリ113に記憶された描画情報に基づいて、順次、次の画面(スタート画面)の描画を開始する。
ここで、入力インターフェイス114がユーザによるタッチセンサ115への実際の操作入力を受け付けると、入力インターフェイス114は、この操作入力がなされた接触座標を含む割り込み信号を送信する。プロセッサ112は、当該割り込み信号を受信すると(S206)、実際に操作入力がなされた接触座標に基づいて、アイコンテーブル(図8)を参照して、操作情報を特定する。本実施形態においては、図7に示されたスタートアイコン(アイコンID情報=「I1」)に対する操作入力が実際に行われた場合について説明する。したがって、操作入力がなされた接触座標が配置座標「C1」の範囲内にある場合には、アイコンID情報が「I1」のアイコンに対する操作であると操作情報を特定する。
このとき、プロセッサ112は、特定された操作情報が、意思情報を受信することにより特定された操作情報と一致するか否かを判断する(S207)。その結果、いずれもが、アイコンID情報が「I1」のアイコンに対する操作である場合には、プロセッサ112は、S205において受信されたゲームデータについて、未取得のゲームデータが存在するか否かを判断する(S208)。未取得のゲームデータが存在する場合には、プロセッサ112は、未取得のゲームデータをサーバー装置から受信するよう外部通信インターフェイス117を制御する(S209)。そして、プロセッサ112は、あらかじめ意思情報に基づいて受信されたゲームデータと、実際に操作入力されることにより受信されたゲームデータの両方を利用して、次画面(スタート画面)の描画をし、次画面へとディスプレイ111の表示を遷移させる(S210)。
一方、入力インターフェイス114への操作入力により特定される操作情報と、意思情報を受信することにより特定される操作情報とが一致しなかった場合、プロセッサ112は、検出された接触座標に基づいて、入力インターフェイス114への操作入力が他のアイコンへの操作入力であるか否かを判断する(S211)。そして、他のアイコンへの操作入力であると判断された場合には、プロセッサ112は、あらかじめ意思情報により受信されたゲームデータ等をメモリ113から消去し(S212)、他のアイコンに対応付けられた処理を実行する(S213)。
また、他のアイコンへの操作入力でなかった場合には、プロセッサ112は、あらかじめ意思情報により受信されたゲームデータ等をメモリ113から消去し(S214)、特段の処理を開始することなくディスプレイ111に現在の画像をそのまま表示し続ける(S215)。
以上、本実施形態においては、脳波センサ装置200によってユーザの操作入力に対する意思を検出することで、ユーザが端末装置100に対して操作することをデザインしてから動作が完了するまでの時間を利用して、あらかじめ端末装置100における処理を開始し、実際に端末装置に操作入力がなされてから処理が完了するまでの時間をより短縮することが可能となる。
<第3実施形態>
第1及び第2実施形態では、脳波センサ装置200において、ユーザの脳波を検出し、あらかじめサンプリングされたユーザの脳波と検出された脳波とを比較して、ユーザの意思情報を特定する場合について説明した。第3実施形態においては、電極E1〜Enによって検出されたユーザの脳波をA/D変換等の処理を行った信号を端末装置100に送信し、端末装置100のプロセッサ112においてユーザの意思情報を特定する。なお、本実施形態は、以下で具体的に説明する点を除いて、第1又は第2実施形態における構成、処理、手順と同様である。したがって、それらの事項の詳細な説明は省略する。
本実施形態においては、上記のとおり、端末装置100のプロセッサ112においてユーザの意思情報を特定するため、図4に示す操作特定テーブルは端末装置100のメモリ113に記憶される。そして、図4のS11及びS12の間に、第1実施形態では意思情報(T11)の受信がなされるが、本実施形態においては、脳波センサ211によって検出された脳波信号を受信する。そして、脳波信号を受信すると、プロセッサ112は、メモリ113に記憶された操作特定テーブルを参照して、ユーザの意思情報を特定する。そして、特定されたユーザの意思情報に基づいて、第1又は第2実施形態と同様に、当該意思情報に基づく処理を行う。以降の処理は、第1実施形態と同様である。
以上、本実施形態においては、脳波センサ装置200によってユーザの操作入力に対する意思を検出することで、ユーザが端末装置100に対して操作することをデザインしてから動作が完了するまでの時間を利用して、あらかじめ端末装置100における処理を開始し、実際に端末装置に操作入力がなされてから処理が完了するまでの時間をより短縮することが可能となる。また、より高速処理が可能な端末装置100のプロセッサによって意思情報の生成を行うため、さらに処理を早めることが可能となる。
<その他>
第2実施形態においては、ユーザがこれから操作入力を行おうとする操作情報を、近接座標を検出することにより特定した。しかし、あらかじめ、図7のスタートアイコンをタッチしたときの脳波のサンプリング、図7の設定アイコンをタッチしたときの脳波のサンプリングなどを行い、「タッチ」だけではなく「何に対するタッチか」までも区別可能に操作特定テーブルを形成しておけば、近接座標を検出する必要はない。つまり、図4の操作特定テーブルの操作内容情報として、「XXに対するタッチ」、「XXに対する長押し」などのように操作入力する位置も特定可能にした場合、図9のS102及びS103を省略した処理をプロセッサ112は実行することが可能である。
また、第1〜第3実施形態においては、脳波センサ装置200を用いる場合について説明した。しかし、本開示においては、ユーザの意思情報が検出されれば良いので、脳波に限らず様々な信号を用いて実施することが可能である。一例としては、ユーザの意思を脳から筋肉に伝達し、筋肉が動くときに検出される電気信号が検出可能なセンサ装置を利用することも可能である。
なお、各実施形態で説明した各要素を適宜組み合わせるか、それらを置き換えてシステムを構成することも可能である。
本明細書で説明される処理及び手順は、実施形態において明示的に説明されたものによってのみならず、ソフトウェア、ハードウェア又はこれらの組み合わせによっても実現可能である。具体的には、本明細書で説明された処理及び手順は、集積回路、揮発性メモリ、不揮発性メモリ、磁気ディスク、光ストレージ等の媒体に、当該処理に相当するロジックを実装することによって実現される。また、本明細書で説明される処理及び手順は、それらの処理・手順をコンピュータプログラムとして実装し、端末装置やサーバー装置を含む各種のコンピュータに実行させることが可能である。
本明細書中で説明される処理及び手順が単一の装置、ソフトウェア、コンポーネント、モジュールによって実行される旨が説明されたとしても、そのような処理又は手順は、複数の装置、複数のソフトウェア、複数のコンポーネント、及び/又は、複数のモジュールによって実行可能である。また、本明細書中で説明される各種情報が単一のメモリや記憶部に格納される旨が説明されたとしても、そのような情報は、単一の装置に備えられた複数のメモリ又は複数の装置に分散して配置された複数のメモリに分散して格納可能である。さらに、本明細書において説明されるソフトウェアおよびハードウェアの要素は、それらをより少ない構成要素に統合して、又は、より多い構成要素に分解することによって実現可能である。
100 端末装置
200 脳波センサ装置
300 サーバー装置

Claims (11)

  1. ユーザによる一又は複数の操作入力を受け付ける入力インターフェイスと、
    有線又は無線により接続され、かつ前記ユーザの意思を検出可能なセンサ装置から、少なくとも一つの操作入力をする前記ユーザの意思情報を受信する外部通信インターフェイスと、
    所定の指示命令を記憶するように構成されたメモリと、
    前記指示命令に基づいて、前記入力インターフェイスが少なくとも一つの操作入力を受け付ける前に、前記外部通信インターフェイスが受信した前記意思情報に基づいてこれから前記ユーザが行おうとする操作入力を特定し、前記特定された操作入力に対応する処理を開始し、前記入力インターフェイスにより操作入力が受け付けられると、前記意思情報に基づいて既に処理された情報を利用して、前記入力インターフェイスにより受け付けられた操作入力に対応する処理をするように構成されたプロセッサと、
    を含む端末装置。
  2. 前記プロセッサは、前記意思情報に基づく前記特定された操作入力と、前記入力インターフェイスにより受け付けられた操作入力とが一致する場合には、前記意思情報に基づいて既に処理された前記情報を利用する、請求項1に記載の端末装置。
  3. 前記外部通信インターフェイスは、遠隔に設置されたサーバー装置との間で所定の情報の送受信を行い、
    前記処理は、前記サーバー装置との間で前記所定の情報の送受信を行う処理である、
    請求項1又は2に記載の端末装置。
  4. 前記入力インターフェイスは、前記ユーザの指示体の近接座標及び接触座標を検出する、請求項1〜3のいずれか一項に記載の端末装置。
  5. 前記意思情報は、前記入力インターフェイスに前記ユーザの指示体を接触させるという意思に関連する情報である、請求項4に記載の端末装置。
  6. 前記意思情報に基づく前記特定された操作入力は、前記意思情報を受信したときに前記入力インターフェイスで検出された前記指示体の近接座標に基づいて特定され、
    前記入力インターフェイスにより受け付けられた操作入力は、前記入力インターフェイスで検出された前記指示体の接触座標に基づいて特定される、
    請求項4又は5に記載の端末装置。
  7. 前記センサ装置は、前記ユーザの脳波を検出するための一又は複数の電極を含む、請求項1〜6のいずれか一項に記載の端末装置。
  8. ユーザによる一又は複数の操作入力を受け付ける入力インターフェイスと、有線又は無線により接続され、かつ前記ユーザの意思を検出可能なセンサ装置から、少なくとも一つの操作入力をする前記ユーザの意思情報を受信する外部通信インターフェイスと、所定の指示命令を記憶するように構成されたメモリと、を含むコンピュータを、
    前記指示命令に基づいて、前記入力インターフェイスが少なくとも一つの操作入力を受け付ける前に、前記外部通信インターフェイスが受信した前記意思情報に基づいてこれから前記ユーザが行おうとする操作入力を特定し、前記特定された操作入力に対応する処理を開始し、前記入力インターフェイスにより操作入力が受け付けられると、前記意思情報に基づいて既に処理された情報を利用して、前記入力インターフェイスにより受け付けられた操作入力に対応する処理をするように構成されたプロセッサ、
    として機能させるプログラム。
  9. ユーザによる一又は複数の操作入力を受け付ける入力インターフェイスと、有線又は無線により接続され、かつ前記ユーザの意思を検出可能なセンサ装置から、少なくとも一つの操作入力をする前記ユーザの意思情報を受信する外部通信インターフェイスと、所定の指示命令を記憶するように構成されたメモリと、を含むコンピュータにおいて、プロセッサが前記指示命令を実行することによりなされる方法であって、
    前記入力インターフェイスが少なくとも一つの操作入力を受け付ける前に、前記外部通信インターフェイスが受信した前記意思情報に基づいてこれから前記ユーザが行おうとする操作入力を特定する段階と、
    前記特定された操作入力に対応する処理を開始する段階と、
    前記入力インターフェイスにより操作入力が受け付けられると、前記意思情報に基づいて既に処理された情報を利用して、前記入力インターフェイスにより受け付けられた操作入力に対応する処理をする段階と、
    を含む方法。
  10. 請求項1〜7のいずれか一項に記載の端末装置と、
    前記端末装置に有線又は無線により接続され、かつ前記端末装置の入力インターフェイスに一又は複数の操作入力をするユーザの意思を検出可能なセンサ装置と、
    を含む、システム。
  11. ユーザによる一又は複数の操作入力を受け付ける入力インターフェイスと、
    有線又は無線により接続され、かつ一又は複数の電極で検出された前記ユーザの意思を示す信号を受信する外部通信インターフェイスと、
    所定の指示命令を記憶するとともに、前記信号と前記ユーザの意思との対応関係を記憶するメモリと、
    前記指示命令に基づいて、前記入力インターフェイスにより前記操作入力を受け付ける前に、受信した前記信号と前記メモリに記憶された前記対応関係とから前記ユーザの意思情報を生成し、生成された前記意思情報に基づいてこれから前記ユーザが行おうとする操作入力を特定し、前記特定された操作入力に対応する処理を開始し、前記入力インターフェイスにより操作入力が受け付けられると、前記意思情報に基づいて既に処理された情報を利用して、前記入力インターフェイスにより受け付けられた操作入力に対応する処理をするように構成されたプロセッサと、
    を含む端末装置。
JP2018544286A 2018-08-20 2018-08-20 端末装置、プログラム、方法、及びシステム Active JP6710771B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/030664 WO2020039479A1 (ja) 2018-08-20 2018-08-20 端末装置、プログラム、方法、及びシステム

Publications (2)

Publication Number Publication Date
JP6710771B1 JP6710771B1 (ja) 2020-06-17
JPWO2020039479A1 true JPWO2020039479A1 (ja) 2020-08-27

Family

ID=69523995

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018544286A Active JP6710771B1 (ja) 2018-08-20 2018-08-20 端末装置、プログラム、方法、及びシステム

Country Status (3)

Country Link
US (1) US10754426B2 (ja)
JP (1) JP6710771B1 (ja)
WO (1) WO2020039479A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7120280B2 (ja) 2020-09-11 2022-08-17 カシオ計算機株式会社 端末装置及びプログラム
WO2022182526A1 (en) * 2021-02-26 2022-09-01 Hi Llc Brain activity tracking during electronic gaming

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4093478B2 (ja) * 2003-09-10 2008-06-04 日本電信電話株式会社 リンク先コンテンツの先読み装置及び先読み方法
JP5150942B2 (ja) 2006-02-03 2013-02-27 株式会社国際電気通信基礎技術研究所 活動補助システム
JP5283065B2 (ja) 2008-08-26 2013-09-04 学校法人慶應義塾 運動関連電位信号検出システム
JP2013128642A (ja) 2011-12-21 2013-07-04 Kumamoto Univ ブレイン・コンピュータ・インターフェース及びブレイン・コンピュータ・インターフェースにおける対象物の制御方法
JP2014174880A (ja) * 2013-03-12 2014-09-22 Aisin Aw Co Ltd 情報提供装置、及び情報提供プログラム
JP2015156912A (ja) 2014-02-21 2015-09-03 株式会社コロプラ ゲームサーバ、ゲームサーバ用プログラム及びゲームシステム
US9855494B2 (en) * 2014-04-01 2018-01-02 Zynga Inc. Systems and methods for providing efficient game access
KR101648017B1 (ko) * 2015-03-23 2016-08-12 현대자동차주식회사 디스플레이 장치, 차량 및 디스플레이 방법
US20170102697A1 (en) * 2015-10-08 2017-04-13 General Motors Llc Selecting a vehicle function to control using a wearable electronic device
JP6759496B2 (ja) 2016-05-12 2020-09-23 株式会社国際電気通信基礎技術研究所 脳波パターン分類装置、脳波パターン分類方法、脳波パターン分類プログラムおよびニューロフィードバックシステム
JP2018025888A (ja) * 2016-08-08 2018-02-15 日本精機株式会社 操作装置
JP6790813B2 (ja) * 2016-12-27 2020-11-25 日産自動車株式会社 操舵支援方法及び操舵支援装置

Also Published As

Publication number Publication date
WO2020039479A1 (ja) 2020-02-27
US20200057497A1 (en) 2020-02-20
US10754426B2 (en) 2020-08-25
JP6710771B1 (ja) 2020-06-17

Similar Documents

Publication Publication Date Title
CN106598335B (zh) 一种移动终端的触摸屏控制方法、装置及移动终端
WO2018196699A1 (zh) 一种指纹识别区域的显示方法和移动终端
EP2752749B1 (en) Processing method of touch screen device user interface and touch screen device
US8599131B2 (en) Information display apparatus, mobile information unit, display control method, and display control program
KR20180124640A (ko) 전자 장치 및 전자 장치 제어 방법
US20110260990A1 (en) System integration of tactile feedback and touchscreen controller for near-zero latency haptics playout
CN113821113B (zh) 电子设备和触控笔的交互方法、系统和电子设备
US20190272090A1 (en) Multi-touch based drawing input method and apparatus
KR20190010388A (ko) 펜 장치 및 펜 장치가 출력한 전자기 신호에 의한 패널 상호 작용
US20230359351A1 (en) Virtual keyboard processing method and related device
JP6710771B1 (ja) 端末装置、プログラム、方法、及びシステム
KR20130118032A (ko) 전자 장치의 다기능 제공 방법 및 장치
US20230359279A1 (en) Feedback method and related device
JP5949010B2 (ja) 入力制御装置、入力制御プログラム、及び入力制御方法
JP6695004B1 (ja) 検出されたユーザの意思を利用した端末装置
JP2015032010A (ja) デジタイザペン
JP2014182429A (ja) 情報処理装置、情報処理方法及び情報処理プログラム
US20100125196A1 (en) Ultrasonic Diagnostic Apparatus And Method For Generating Commands In Ultrasonic Diagnostic Apparatus
JP5204343B1 (ja) テストシステム及びプログラム
CN109388316B (zh) 绘图方法、装置、存储介质及电子设备
JP2012238128A (ja) 背面入力機能を有する情報機器、背面入力方法、およびプログラム
KR102353919B1 (ko) 터치의 압력에 응답하여 지정된 동작을 수행하는 전자 장치 및 방법
CN106873779B (zh) 一种手势识别装置及手势识别方法
JP6216909B1 (ja) シリアル通信方法及びセンサコントローラ
JP2015201038A (ja) 情報処理装置及び情報処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180820

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191023

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191218

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20200106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200526

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200527

R150 Certificate of patent or registration of utility model

Ref document number: 6710771

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250