JP7272278B2 - 情報処理装置、情報処理方法及びプログラム - Google Patents
情報処理装置、情報処理方法及びプログラム Download PDFInfo
- Publication number
- JP7272278B2 JP7272278B2 JP2019563929A JP2019563929A JP7272278B2 JP 7272278 B2 JP7272278 B2 JP 7272278B2 JP 2019563929 A JP2019563929 A JP 2019563929A JP 2019563929 A JP2019563929 A JP 2019563929A JP 7272278 B2 JP7272278 B2 JP 7272278B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- user
- gaze
- gaze score
- viewpoint
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/0093—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0141—Head-up displays characterised by optical features characterised by the informative content of the display
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Optics & Photonics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- User Interface Of Digital Computer (AREA)
- Position Input By Displaying (AREA)
Description
<<<第1の実施形態>>>
<<構成>>
<全体構成>
<情報処理装置10の構成>
<<動作>>
<動作例1>
<動作例2>
<動作例3>
<動作例4>
<動作例5>
<動作例6>
<動作例7>
<<<第2の実施形態>>>
<<構成>>
<<動作>>
<<<ハードウェア構成>>>
<<<結び>>>
<<構成>>
まず、図1、図2、および図3を参照して本開示の一実施形態に係る情報処理システム1の全体構成を説明する。図1は、本開示の一実施形態に係る情報処理システム1の構成例を示すブロック図である。図2は、同実施形態に係る頭部回転情報の概要を説明するための説明図である。図3は、同実施形態に係る頭部回転情報の概要を説明するための説明図である。
図1に示すように、本実施形態に係る情報処理システム1は、情報処理装置10を少なくとも備える。情報処理装置10は、必要に応じてインターネット等の公知のネットワーク30を介して、1または複数の各種のサーバ20と相互に通信を行うことが可能である。
次に、本実施形態に係る情報処理装置10の構成について詳細に説明する。本実施形態に係る情報処理装置10は、例えば、視点情報取得部101と、位置関連情報取得部103と、頭部回転情報取得部105と、注視スコア算出部107と、判定部109と、表示制御部111と、通信制御部113と、記憶部115とを備える。
頭部回転情報取得部105は、ユーザUの頭部の回転に伴う角速度と角速度の変化に関する頭部回転情報を取得する。
注視スコア算出部107は、少なくとも視点情報取得部101で取得された視点情報、位置関連情報取得部103で取得された位置関連情報、及び頭部回転情報取得部105で取得された頭部回転情報に応じて、オブジェクトob毎に、オブジェクトobに対するユーザUの注視の程度を表す注視スコアSを算出する。算出された注視スコアSは、判定部109又は表示制御部111の少なくともいずれか一方に送信される。
St2=f(St1)+A (1)
A=c/ωt (2)
ただし、ωt≠0とする。
判定部109は、注視スコア算出部107により算出された注視スコアSに基づいて、ユーザUがオブジェクトobを注視しているかどうかを、オブジェクトob毎に判定する。具体的には、判定部109は、オブジェクトobの注視スコアSが予め設定された所定の判定閾値以上のときに、ユーザUがオブジェクトobを注視している注視状態であると判定することが好ましい。判定結果は、表示制御部111に少なくとも送信され、必要に応じて記憶部115に送信され、履歴情報として保存されてもよい。
表示制御部111は、オブジェクトobの注視スコアSに応じて、表示画面への当該オブジェクトobの表示方法及びオブジェクトobの表示内容の少なくともいずれか一方を制御する。
通信制御部113は、サーバ20等に保存されたオブジェクト情報やユーザUの属性に関連するユーザ情報等を、ネットワーク30を介して取得し、受信したオブジェクト情報やユーザ情報等を表示制御部に送信する際の通信制御機能を有する。
記憶部115は、本実施形態に係る情報処理装置10が備える記憶装置の一例である。記憶部115には、情報処理装置10が、上記のような各種の処理を実施する際に利用する各種のプログラムやデータベース等が適宜記録されている。記憶部115には、上記のような視点情報取得部101や位置関連情報取得部103等が取得した各種の情報が履歴情報として記録されていてもよい。更に、記憶部115には、例えば、注視スコア算出部107及び判定部109のそれぞれがそれぞれの処理を行う際に、保存する必要が生じた様々なパラメータや処理の途中経過等が適宜記録されてもよい。注視スコア算出部107及び判定部109が実行する処理に限られず、本実施形態に係る情報処理装置10が何らかの処理を行う際に保存する必要が生じた様々なパラメータや処理の途中経過等が適宜記録されてもよい。この記憶部115は、視点情報取得部101、位置関連情報取得部103、頭部回転情報取得部105、注視スコア算出部107、判定部109等が、自由にリード/ライト処理を実施することが可能である。
<動作例1>
本実施形態に係る情報処理装置10の動作について、図11を参照しながら説明する。図11は、本実施形態に係る情報処理装置10の動作の流れの一例を示す流れ図である。
動作例1では、視点情報取得部101により取得された視点情報に基づき、ユーザUの視点Pがオブジェクトob上にあるときに、注視スコア算出部107が注視スコアSを算出する場合を説明した。しかしながら、ユーザUの視点Pがオブジェクトob上になくとも、そのオブジェクトobについて注視スコアSが算出されてもよい。
また、注視スコア算出部107は、更に、位置関連情報の一つである、ユーザUとオブジェクトobとの間の離隔距離に応じて、注視スコアSを算出してもよい。
注視スコア算出部107は、更に、予め設定された、ユーザの特徴及びユーザの嗜好を特徴づける情報等を含むユーザ情報に基づいて注視スコアSを算出してもよい。
注視スコア算出部107は、更に、図15に示すような、予め設定されたオブジェクト情報に基づいて注視スコアSを算出してもよい。また、例えば、オブジェクトobがショーウインドウに展示された商品であり、その商品を販売する会社が所定のカテゴリの商品や所定の商品の販売を促進させようとする場合、オブジェクト情報に優先度情報が設定されてもよい。注視スコア算出部107は、設定された優先度に応じてオブジェクト毎に算出式を設定して注視スコアSを算出することができる。
注視スコア算出部107は、更に、履歴情報に基づいて注視スコアSを算出してもよい。具体的には、ユーザUが既に視認したことがあるオブジェクトobに対して注視スコアSが算出される場合、注視スコア算出部107は、そのオブジェクトobに対する累積の注視スコアS、注視状態であると判定された回数や頻度等の履歴情報に応じて注視スコア算出式及び、情報表示閾値S2thを変更してもよい。
表示制御部111は、図16に示すように、オブジェクト情報や注視スコア等の履歴情報を参照して、所定の条件に合致するオブジェクト画像を表示させてもよい。具体的には、ユーザUは、図17に示すような、オブジェクトを注視した日時や場所、注視スコアS、オブジェクトobのカテゴリ等の様々な情報に基づいて、画像表示条件を設定する。そして、表示制御部111は、ユーザUに対して、その検索条件に合致したオブジェクト画像を、所定の表示方法で表示させることができる。例えば、図16に示すように、表示制御部111は、ユーザUが所定の期間内に視認した所定のカテゴリに含まれるオブジェクトobを、累積注視スコアSが高いオブジェクトobから順に表示させることができる。このとき、表示制御部111は、表示させたオブジェクト画像に対応したオブジェクト情報を表示させてもよい。
<<構成>>
次いで、本開示に係る第2の実施形態について説明する。図18は、本実施形態に係る情報処理システム5の構成を示したブロック図である。情報処理システム5は、情報処理装置50と、サーバ60と、ネットワーク70とで構成される。ここでサーバ60及びネットワーク70は、情報処理システム1のサーバ20及びネットワーク30と基本的に同様であるため、ここでの説明は省略する。
情報処理装置50は、撮像装置510と、表示制御装置550とを有する。本実施形態に係る撮像装置510は、情報処理装置50が配置される空間の少なくとも一部を撮像して撮像画像を生成する機能を有する。本実施形態に係る撮像装置510は、例えば、デジタルスチルカメラやデジタルビデオカメラ等のような、撮像機能を有する公知の撮像装置を使用することができる。本実施形態に係る表示制御装置550は、撮像装置510で取得された、撮像画像、位置関連情報、撮像空間内に存在する人物の視点情報等に基づいて、その空間内の所定の位置に表示させる情報の表示方法及び表示内容等を制御する機能を有する。
撮像装置510は、撮像空間内の位置関連情報及び視点情報等を取得する。
表示制御装置550は、図19に示すように、表示制御部557と、通信制御部559と、記憶部561とを少なくとも備え、必要に応じて、頭部回転情報取得部551と、注視スコア算出部553と、判定部555とを備えていてもよい。図19は、本実施形態に係る表示制御装置550の構成を示したブロック図である。
続いて、本実施形態に係る情報処理システム5の動作について、図20及び図21を参照しながら説明する。図20は、本実施形態に係る情報処理システム5の動作の流れの一例を示す流れ図である。図21は、本実施形態に係る情報処理システム5の動作の一例を説明するための説明図である。
以上、本開示に係る実施形態について説明した。上述した情報処理は、ソフトウェアと、以下に説明する情報処理装置のハードウェアとの協働により実現される。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
(1)
ユーザの視点に関する視点情報を取得する視点情報取得部と、
前記ユーザと所定のオブジェクトとの位置に関連する位置関連情報を取得する位置関連情報取得部と、
前記ユーザの頭部の回転に伴う角速度と前記角速度の変化に関する頭部回転情報を取得する頭部回転情報取得部と、
前記視点情報、前記位置関連情報及び前記頭部回転情報に応じてオブジェクト毎に算出され、前記オブジェクトに対する前記ユーザUの注視の程度を表す注視スコアに基づいて、前記ユーザが前記オブジェクトを注視しているかどうかを判定する判定部と、を備える情報処理装置。
(2)
前記判定部は、前記オブジェクトの前記注視スコアが所定の閾値以上のときに、前記ユーザUが前記オブジェクトを注視している注視状態であると判定する、(1)に記載の情報処理装置。
(3)
前記視点情報、前記位置関連情報及び前記頭部回転情報に基づいて、注視スコアを算出する注視スコア算出部を更に備える、(1)又は(2)に記載の情報処理装置。
(4)
前記注視スコア算出部は、前回の算出タイミングで算出された注視スコアと、取得された前記視点情報、前記位置関連情報及び前記頭部回転情報に応じた注視スコア加算量とに基づき、前記注視スコアを算出する、(3)に記載の情報処理装置。
(5)
前記注視スコア算出部は、前記視点情報と前記位置関連情報から算出された前記ユーザの視点と前記オブジェクトの所定の位置との間の距離に応じて前記注視スコアを算出する、(3)又は(4)に記載の情報処理装置。
(6)
前記注視スコア算出部は、前記視点情報と前記位置関連情報から算出された前記ユーザの視点と前記オブジェクトの中心との間の距離に応じて前記注視スコアを算出する、(3)~(5)のいずれか1つに記載の情報処理装置。
(7)
前記注視スコア算出部は、前記視点情報と前記位置関連情報から算出された前記オブジェクトの外側にある前記ユーザの視点と前記オブジェクトの端部との間の距離に応じて前記注視スコアを算出する、(3)~(6)のいずれか1つに記載の情報処理装置。
(8)
前記注視スコア算出部は、予め設定された前記オブジェクトに関するオブジェクト情報に基づいて前記注視スコアを算出する、(3)~(7)のいずれか1つに記載の情報処理装置。
(9)
前記注視スコア算出部は、予め設定された前記ユーザの嗜好を特徴づけるユーザ情報に基づいて前記注視スコアを算出する、(3)~(8)のいずれか1つに記載の情報処理装置。
(10)
前記注視スコア算出部は、前記注視スコアの履歴に関する注視スコア履歴情報に基づいて、前記注視スコアを算出する、(3)~(9)のいずれか1つに記載の情報処理装置。
(11)
前記位置関連情報は、前記ユーザと前記オブジェクトとの間の距離に関する距離情報を含み、
前記注視スコア算出部は、前記距離情報に応じて前記注視スコアを算出する、(3)~(10)のいずれか1つに記載の情報処理装置。
(12)
前記位置関連情報は、前記ユーザの前記オブジェクトに対する相対速度に関する相対速度情報を含み、
前記注視スコア算出部は、前記相対速度情報に応じて前記注視スコアを算出する、(3)に記載の情報処理装置。
(13)
前記オブジェクトの前記注視スコアに応じた、前記オブジェクトの表示方法及び前記注視スコアに応じて提供される前記オブジェクトに関する前記オブジェクトの表示内容の少なくともいずれか一方を制御する表示制御部をさらに備える、(1)~(12)のいずれか1つに記載の情報処理装置。
(14)
前記判定部は、前記オブジェクトの前記注視スコアが所定の閾値以上のときに、前記ユーザが前記オブジェクトを注視している注視状態であると判定し、
前記表示制御部は、前記注視状態にある前記オブジェクトについて、当該オブジェクトの前記注視スコアが所定の閾値以上であるときに、前記注視スコアに応じて提供される前記オブジェクトに関するオブジェクト情報を表示させる、(1)~(13)のいずれか1つに記載の情報処理装置。
(15)
前記表示制御部は、前記注視スコアが所定の閾値以上であるときに、前記注視スコアに応じて提供される前記オブジェクトに関するオブジェクト情報を、前記ユーザの視界に重畳するように表示させる、(1)~(14)のいずれか1つに記載の情報処理装置。
(16)
前記表示制御部は、前記注視スコアが所定の閾値以上である前記オブジェクトを拡大して表示させる、(1)~(15)のいずれか1つに記載の情報処理装置。
(17)
各々の前記オブジェクトについて予め複数の情報が関連付けられたオブジェクト情報として格納されており、
前記表示制御部は、前記オブジェクト情報の中から、所定の条件に応じて前記オブジェクト情報を出力させる、(1)~(16)のいずれか1つに記載の情報処理装置。
(18)
前記オブジェクトの前記注視スコアに応じた、前記オブジェクトの表示方法及び前記注視スコアに応じて提供される前記オブジェクトに関する前記オブジェクトの表示内容の少なくともいずれか一方を制御する表示制御部をさらに備え、
前記注視スコア算出部により算出された前記注視スコアを有する前記オブジェクトに関するオブジェクト履歴情報として格納し、
前記表示制御部は、格納された前記オブジェクト履歴情報を参照して、所定の条件に合致する前記オブジェクト情報を出力させる、(1)~(17)のいずれか1つに記載の情報処理装置。
(19)
ユーザの視点に関する視点情報を取得することと、
前記ユーザと所定のオブジェクトとの位置に関連する位置関連情報を取得することと、
前記ユーザの頭部の回転に伴う角速度と前記角速度の変化に関する頭部回転情報を取得することと、
前記視点情報、前記位置関連情報及び前記頭部回転情報に応じてオブジェクト毎に算出され、前記オブジェクトに対する前記ユーザの注視の程度を表す注視スコアに基づいて、前記ユーザが前記オブジェクトを注視しているかどうかを判定すること、を含む、情報処理方法。
(20)
コンピュータを、
ユーザの視点に関する視点情報を取得する視点取得部、
前記ユーザと所定のオブジェクトとの位置に関連する位置関連情報を取得する位置関連情報取得部、
前記ユーザの頭部の回転に伴う角速度と前記角速度の変化に関する頭部回転情報を取得する頭部情報取得部、及び
前記視点情報、前記位置関連情報及び前記頭部回転情報に応じてオブジェクト毎に算出され、前記オブジェクトに対する前記ユーザの注視の程度を表す注視スコアに基づいて、前記ユーザが前記オブジェクトを注視しているかどうかを判定する注視スコア算出部、
として機能させるためのプログラム。
10、50 情報処理装置
20、60 サーバ
30、70 ネットワーク
101 視点情報取得部
103 位置関連情報取得部
105、551 頭部回転情報取得部
107、553 注視スコア算出部
109、555 判定部
111、557 表示制御部
113、559 通信制御部
115、561 記憶部
510 撮像装置
550 表示制御装置
Claims (20)
- ユーザの視点であって、所定のオブジェクトの上に位置する前記視点に関する視点情報を取得する視点情報取得部と、
前記ユーザと前記オブジェクトとの位置に関連する位置関連情報を取得する位置関連情報取得部と、
前記ユーザの頭部の回転に伴う角速度と、前記角速度の変化と、前記オブジェクトに対する前記頭部の回転方向とに関する頭部回転情報を取得する頭部回転情報取得部と、
前記視点情報、前記位置関連情報及び前記頭部回転情報に応じてオブジェクト毎に算出され、前記オブジェクトに対する前記ユーザの注視の程度を表す注視スコアであって、前記回転方向が、前記回転の中心と前記オブジェクトの中心とを結ぶ直線と、前記頭部の方向とのなす角度が減少する方向である場合に増大し、かつ、前記回転方向が前記角度が増大する方向である場合であっても前記角速度が所定の閾値以下である場合に増大する前記注視スコアに基づいて、前記ユーザが前記オブジェクトを注視しているかどうかを判定する判定部と、
を備える情報処理装置。 - 前記判定部は、前記オブジェクトの前記注視スコアが所定の閾値以上のときに、前記ユーザが前記オブジェクトを注視している注視状態であると判定する、
請求項1に記載の情報処理装置。 - 前記視点情報、前記位置関連情報及び前記頭部回転情報に基づいて、注視スコアを算出する注視スコア算出部を更に備える、
請求項1に記載の情報処理装置。 - 前記注視スコア算出部は、前回の算出タイミングで算出された注視スコアと、取得された前記視点情報、前記位置関連情報及び前記頭部回転情報に応じた注視スコア加算量とに基づき、前記注視スコアを算出する、
請求項3に記載の情報処理装置。 - 前記注視スコア算出部は、前記視点情報と前記位置関連情報から算出された前記ユーザの視点と前記オブジェクトの所定の位置との間の距離に応じて前記注視スコアを算出する、
請求項4に記載の情報処理装置。 - 前記注視スコア算出部は、前記視点情報と前記位置関連情報から算出された前記ユーザの視点と前記オブジェクトの中心との間の距離に応じて前記注視スコアを算出する、
請求項5に記載の情報処理装置。 - 前記注視スコア算出部は、前記視点情報と前記位置関連情報から算出された前記オブジェクトの外側にある前記ユーザの視点と前記オブジェクトの端部との間の距離に応じて前記注視スコアを算出する、
請求項5に記載の情報処理装置。 - 前記注視スコア算出部は、予め設定された前記オブジェクトに関するオブジェクト情報に基づいて前記注視スコアを算出する、
請求項4に記載の情報処理装置。 - 前記注視スコア算出部は、予め設定された前記ユーザの嗜好を特徴づけるユーザ情報に基づいて前記注視スコアを算出する、
請求項4に記載の情報処理装置。 - 前記注視スコア算出部は、前記注視スコアの履歴に関する注視スコア履歴情報に基づいて、前記注視スコアを算出する、
請求項4に記載の情報処理装置。 - 前記位置関連情報は、前記ユーザと前記オブジェクトとの間の距離に関する距離情報を含み、
前記注視スコア算出部は、前記距離情報に応じて前記注視スコアを算出する、
請求項4に記載の情報処理装置。 - 前記位置関連情報は、前記ユーザの前記オブジェクトに対する相対速度に関する相対速度情報を含み、
前記注視スコア算出部は、前記相対速度情報に応じて前記注視スコアを算出する、
請求項3に記載の情報処理装置。 - 前記オブジェクトの前記注視スコアに応じた前記オブジェクトの表示方法、及び前記注視スコアに応じて提供される前記オブジェクトに関する前記オブジェクトの表示内容の少なくともいずれか一方を制御する表示制御部をさらに備える、
請求項1に記載の情報処理装置。 - 前記判定部は、前記オブジェクトの前記注視スコアが所定の閾値以上のときに、前記ユーザが前記オブジェクトを注視している注視状態であると判定し、
前記表示制御部は、前記注視状態にある前記オブジェクトについて、当該オブジェクトの前記注視スコアが所定の閾値以上であるときに、前記注視スコアに応じて提供される前記オブジェクトに関するオブジェクト情報を表示させる、
請求項13に記載の情報処理装置。 - 前記表示制御部は、前記注視スコアが所定の閾値以上であるときに、前記注視スコアに応じて提供される前記オブジェクトに関するオブジェクト情報を、前記ユーザの視界に重畳するように表示させる、
請求項13に記載の情報処理装置。 - 前記表示制御部は、前記注視スコアが所定の閾値以上である前記オブジェクトを拡大して表示させる、
請求項13に記載の情報処理装置。 - 各々の前記オブジェクトについて予め複数の情報が関連付けられたオブジェクト情報として格納されており、
前記表示制御部は、前記オブジェクト情報の中から、所定の条件に応じて前記オブジェクト情報を出力させる、
請求項13に記載の情報処理装置。 - 前記オブジェクトの前記注視スコアに応じた、前記オブジェクトの表示方法及び前記注視スコアに応じて提供される前記オブジェクトに関する前記オブジェクトの表示内容の少なくともいずれか一方を制御する表示制御部をさらに備え、
前記注視スコア算出部により算出された前記注視スコアを有する前記オブジェクトに関するオブジェクト履歴情報として格納し、
前記表示制御部は、格納された前記オブジェクト履歴情報を参照して、所定の条件に合致する前記オブジェクトの画像を含むオブジェクト情報を出力させる、
請求項3に記載の情報処理装置。 - ユーザの視点であって、所定のオブジェクトの上に位置する前記視点に関する視点情報を取得することと、
前記ユーザと前記オブジェクトとの位置に関連する位置関連情報を取得することと、
前記ユーザの頭部の回転に伴う角速度と、前記角速度の変化と、前記オブジェクトに対する前記頭部の回転方向とに関する頭部回転情報を取得することと、
前記視点情報、前記位置関連情報及び前記頭部回転情報に応じてオブジェクト毎に算出され、前記オブジェクトに対する前記ユーザの注視の程度を表す注視スコアであって、前記回転方向が、前記回転の中心と前記オブジェクトの中心とを結ぶ直線と、前記頭部の方向とのなす角度が減少する方向である場合に増大し、かつ、前記回転方向が前記角度が増大する方向である場合であっても前記角速度が所定の閾値以下である場合に増大する前記注視スコアにに基づいて、前記ユーザが前記オブジェクトを注視しているかどうかを判定すること、
を含む、情報処理方法。 - コンピュータを、
ユーザの視点であって、所定のオブジェクトの上に位置する前記視点に関する視点情報を取得する視点取得部、
前記ユーザと前記オブジェクトとの位置に関連する位置関連情報を取得する位置関連情報取得部、
前記ユーザの頭部の回転に伴う角速度と、前記角速度の変化と、前記オブジェクトに対する前記頭部の回転方向とに関する頭部回転情報を取得する頭部情報取得部、及び
前記視点情報、前記位置関連情報及び前記頭部回転情報に応じてオブジェクト毎に算出され、前記オブジェクトに対する前記ユーザの注視の程度を表す注視スコアであって、前記回転方向が、前記回転の中心と前記オブジェクトの中心とを結ぶ直線と、前記頭部の方向とのなす角度が減少する方向である場合に増大し、かつ、前記回転方向が前記角度が増大する方向である場合であっても前記角速度が所定の閾値以下である場合に増大する前記注視スコアに基づいて、前記ユーザが前記オブジェクトを注視しているかどうかを判定する注視スコア算出部、
として機能させるためのプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018000262 | 2018-01-04 | ||
JP2018000262 | 2018-01-04 | ||
PCT/JP2018/041436 WO2019135313A1 (ja) | 2018-01-04 | 2018-11-08 | 情報処理装置、情報処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019135313A1 JPWO2019135313A1 (ja) | 2020-12-17 |
JP7272278B2 true JP7272278B2 (ja) | 2023-05-12 |
Family
ID=67144428
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019563929A Active JP7272278B2 (ja) | 2018-01-04 | 2018-11-08 | 情報処理装置、情報処理方法及びプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US11314326B2 (ja) |
EP (1) | EP3736666B1 (ja) |
JP (1) | JP7272278B2 (ja) |
CN (1) | CN111527466A (ja) |
WO (1) | WO2019135313A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7363271B2 (ja) * | 2019-09-25 | 2023-10-18 | 株式会社Jvcケンウッド | 表示装置、表示方法、及び表示プログラム |
US11354026B1 (en) * | 2020-01-28 | 2022-06-07 | Apple Inc. | Method and device for assigning an operation set |
US11625973B2 (en) * | 2020-04-22 | 2023-04-11 | Igt | Multi-user gaze detection at electronic gaming devices |
WO2022114177A1 (ja) * | 2020-11-30 | 2022-06-02 | 株式会社Jvcケンウッド | 表示装置、表示方法及びプログラム |
US20240028112A1 (en) * | 2020-12-08 | 2024-01-25 | Maxell, Ltd. | Image display device and image display method |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000348215A (ja) | 1999-06-02 | 2000-12-15 | Fujitsu Ltd | 仮想現実感マルチウィンドウシステムおよび表計算アプリケーションソフトウェア |
JP2006154890A (ja) | 2004-11-25 | 2006-06-15 | Olympus Corp | 情報端末装置及びシステム |
JP2014086063A (ja) | 2012-10-29 | 2014-05-12 | Kyocera Corp | 電子機器、視線入力プログラムおよび視線入力方法 |
WO2016002445A1 (ja) | 2014-07-03 | 2016-01-07 | ソニー株式会社 | 情報処理装置、情報処理方法、及びプログラム |
JP2016035742A (ja) | 2014-07-31 | 2016-03-17 | キヤノンマーケティングジャパン株式会社 | 情報処理システム、その制御方法、及びプログラム、並びに、情報処理装置、その制御方法、及びプログラム |
JP2017040970A (ja) | 2015-08-17 | 2017-02-23 | 株式会社コロプラ | ヘッドマウントディスプレイシステムを制御する方法、および、プログラム |
JP2017191377A (ja) | 2016-04-11 | 2017-10-19 | 株式会社バンダイナムコエンターテインメント | シミュレーション制御装置及びシミュレーション制御プログラム |
JP6236691B1 (ja) | 2016-06-30 | 2017-11-29 | 株式会社コナミデジタルエンタテインメント | 端末装置、及びプログラム |
Family Cites Families (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4604190B2 (ja) | 2004-02-17 | 2010-12-22 | 国立大学法人静岡大学 | 距離イメージセンサを用いた視線検出装置 |
WO2009019760A1 (ja) * | 2007-08-07 | 2009-02-12 | Osaka Electro-Communication University | 動体検出装置、動体検出方法、ポインティングデバイス、コンピュータプログラム及び記憶媒体 |
JP4990234B2 (ja) | 2008-07-07 | 2012-08-01 | オリンパス株式会社 | 測距装置、測距方法、測距プログラム又は撮像装置 |
CN102472620B (zh) | 2010-06-17 | 2016-03-02 | 松下电器产业株式会社 | 图像处理装置及图像处理方法 |
US9122053B2 (en) * | 2010-10-15 | 2015-09-01 | Microsoft Technology Licensing, Llc | Realistic occlusion for a head mounted augmented reality display |
JP5602708B2 (ja) * | 2011-11-09 | 2014-10-08 | 楽天株式会社 | 注視位置推定システム、注視位置推定システムの制御方法、注視位置推定装置、注視位置推定装置の制御方法、プログラム、及び情報記憶媒体 |
JP6015743B2 (ja) * | 2012-03-07 | 2016-10-26 | ソニー株式会社 | 情報処理装置、情報処理方法及びプログラム |
US9400553B2 (en) * | 2013-10-11 | 2016-07-26 | Microsoft Technology Licensing, Llc | User interface programmatic scaling |
JP2015153302A (ja) | 2014-02-18 | 2015-08-24 | ソニー株式会社 | 表示制御装置、表示制御方法および記録媒体 |
EP3120221A1 (en) * | 2014-03-17 | 2017-01-25 | ITU Business Development A/S | Computer-implemented gaze interaction method and apparatus |
US9804753B2 (en) * | 2014-03-20 | 2017-10-31 | Microsoft Technology Licensing, Llc | Selection using eye gaze evaluation over time |
US9723298B2 (en) * | 2014-06-13 | 2017-08-01 | International Business Machines Corporation | Managing a display |
WO2016009864A1 (ja) * | 2014-07-18 | 2016-01-21 | ソニー株式会社 | 情報処理装置、表示装置、情報処理方法、プログラム、および情報処理システム |
US9779633B2 (en) * | 2014-08-08 | 2017-10-03 | Greg Van Curen | Virtual reality system enabling compatibility of sense of immersion in virtual space and movement in real space, and battle training system using same |
US9599821B2 (en) * | 2014-08-08 | 2017-03-21 | Greg Van Curen | Virtual reality system allowing immersion in virtual space to consist with actual movement in actual space |
US9277857B1 (en) * | 2014-11-06 | 2016-03-08 | Bertec Corporation | System for testing and/or training the vision of a subject |
US9517008B1 (en) * | 2014-11-06 | 2016-12-13 | Bertec Corporation | System and method for testing the vision of a subject |
US9066667B1 (en) * | 2014-11-06 | 2015-06-30 | Bertec Corporation | System and method for testing dynamic visual acuity and/or gaze stabilization |
JP2016151798A (ja) | 2015-02-16 | 2016-08-22 | ソニー株式会社 | 情報処理装置および方法、並びにプログラム |
JP6298432B2 (ja) * | 2015-10-19 | 2018-03-20 | 株式会社コロプラ | 画像生成装置、画像生成方法、及び画像生成プログラム |
JP6756127B2 (ja) | 2016-03-22 | 2020-09-16 | 日本電気株式会社 | 視線推定装置及び視線推定方法 |
JP2017182739A (ja) | 2016-03-31 | 2017-10-05 | 富士通株式会社 | 視線検出装置、視線検出方法及び視線検出用コンピュータプログラム |
WO2018006013A1 (en) * | 2016-06-30 | 2018-01-04 | Cornell University | Optokinesys |
CN106155326A (zh) * | 2016-07-26 | 2016-11-23 | 北京小米移动软件有限公司 | 虚拟现实通讯中的对象识别方法和装置、虚拟现实设备 |
CN107844190B (zh) * | 2016-09-20 | 2020-11-06 | 腾讯科技(深圳)有限公司 | 基于虚拟现实vr设备的图像展示方法及装置 |
US10438418B2 (en) * | 2016-12-08 | 2019-10-08 | Colopl, Inc. | Information processing method for displaying a virtual screen and system for executing the information processing method |
US10769797B2 (en) * | 2017-01-05 | 2020-09-08 | Samsung Electronics Co., Ltd. | Virtual reality experience sharing |
JP6266814B1 (ja) * | 2017-01-27 | 2018-01-24 | 株式会社コロプラ | 情報処理方法及び当該情報処理方法をコンピュータに実行させるためのプログラム |
US10768693B2 (en) * | 2017-04-19 | 2020-09-08 | Magic Leap, Inc. | Multimodal task execution and text editing for a wearable system |
JP2019054385A (ja) * | 2017-09-14 | 2019-04-04 | カシオ計算機株式会社 | 集音機器、補聴器、及び集音機器セット |
US10890968B2 (en) * | 2018-05-07 | 2021-01-12 | Apple Inc. | Electronic device with foveated display and gaze prediction |
KR20200091988A (ko) * | 2019-01-23 | 2020-08-03 | 삼성전자주식회사 | 장치를 제어하기 위한 방법 및 그 전자 장치 |
-
2018
- 2018-11-08 EP EP18898932.1A patent/EP3736666B1/en active Active
- 2018-11-08 JP JP2019563929A patent/JP7272278B2/ja active Active
- 2018-11-08 US US16/958,344 patent/US11314326B2/en active Active
- 2018-11-08 WO PCT/JP2018/041436 patent/WO2019135313A1/ja unknown
- 2018-11-08 CN CN201880083778.XA patent/CN111527466A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000348215A (ja) | 1999-06-02 | 2000-12-15 | Fujitsu Ltd | 仮想現実感マルチウィンドウシステムおよび表計算アプリケーションソフトウェア |
JP2006154890A (ja) | 2004-11-25 | 2006-06-15 | Olympus Corp | 情報端末装置及びシステム |
JP2014086063A (ja) | 2012-10-29 | 2014-05-12 | Kyocera Corp | 電子機器、視線入力プログラムおよび視線入力方法 |
WO2016002445A1 (ja) | 2014-07-03 | 2016-01-07 | ソニー株式会社 | 情報処理装置、情報処理方法、及びプログラム |
JP2016035742A (ja) | 2014-07-31 | 2016-03-17 | キヤノンマーケティングジャパン株式会社 | 情報処理システム、その制御方法、及びプログラム、並びに、情報処理装置、その制御方法、及びプログラム |
JP2017040970A (ja) | 2015-08-17 | 2017-02-23 | 株式会社コロプラ | ヘッドマウントディスプレイシステムを制御する方法、および、プログラム |
JP2017191377A (ja) | 2016-04-11 | 2017-10-19 | 株式会社バンダイナムコエンターテインメント | シミュレーション制御装置及びシミュレーション制御プログラム |
JP6236691B1 (ja) | 2016-06-30 | 2017-11-29 | 株式会社コナミデジタルエンタテインメント | 端末装置、及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
US20210064129A1 (en) | 2021-03-04 |
US11314326B2 (en) | 2022-04-26 |
JPWO2019135313A1 (ja) | 2020-12-17 |
EP3736666B1 (en) | 2024-06-05 |
EP3736666A1 (en) | 2020-11-11 |
EP3736666A4 (en) | 2021-03-03 |
WO2019135313A1 (ja) | 2019-07-11 |
CN111527466A (zh) | 2020-08-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7272278B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
US20230176661A1 (en) | Data and user interaction based on device proximity | |
JP7191714B2 (ja) | デジタルデバイスとの対話のための直接的なポインティング検出のためのシステムおよび方法 | |
EP3332285B1 (en) | Gaze direction mapping | |
US20170092002A1 (en) | User interface for augmented reality system | |
US10444987B2 (en) | Facilitating selection of holographic keyboard keys | |
US9245501B2 (en) | Total field of view classification | |
TWI534654B (zh) | 用於在一頭部安裝裝置上選擇一擴充實境物件之方法及電腦可讀媒體與用於選擇一擴充實境物件之頭部安裝裝置 | |
US9289681B2 (en) | Suggested actions within a virtual environment | |
CN112219205A (zh) | 内容到空间3d环境的匹配 | |
US10733799B2 (en) | Augmented reality sensor | |
KR20160071404A (ko) | 사용자 인터페이스 프로그래밍적 스케일링 | |
US11854148B2 (en) | Virtual content display opportunity in mixed reality | |
US20190121429A1 (en) | Gaze direction mapping | |
US20190243461A1 (en) | Cable movable region display device, cable movable region display method, and cable movable region display program | |
US9619707B2 (en) | Gaze position estimation system, control method for gaze position estimation system, gaze position estimation device, control method for gaze position estimation device, program, and information storage medium | |
WO2022179344A1 (en) | Methods and systems for rendering virtual objects in user-defined spatial boundary in extended reality environment | |
WO2023093329A1 (zh) | 信息输出方法、头戴式显示设备及可读存储介质 | |
WO2020192544A1 (zh) | 用于选择在设备的显示媒介上的交互对象的方法 | |
EP3695622B1 (en) | Adaptation of presentation speed | |
WO2020113185A1 (en) | Control system for a three dimensional environment | |
KR102283257B1 (ko) | 워크 도네이션을 위한 사용자 단말 장치, 서버, 방법 및 시스템 | |
JP2570966B2 (ja) | ポイントデバイス装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211005 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230110 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230310 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230328 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230410 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7272278 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |