JP2015518592A - 観察された情報及び関連コンテキストを眼球運動追跡を用いて検索するシステム、方法及びコンピュータプログラム - Google Patents
観察された情報及び関連コンテキストを眼球運動追跡を用いて検索するシステム、方法及びコンピュータプログラム Download PDFInfo
- Publication number
- JP2015518592A JP2015518592A JP2015500417A JP2015500417A JP2015518592A JP 2015518592 A JP2015518592 A JP 2015518592A JP 2015500417 A JP2015500417 A JP 2015500417A JP 2015500417 A JP2015500417 A JP 2015500417A JP 2015518592 A JP2015518592 A JP 2015518592A
- Authority
- JP
- Japan
- Prior art keywords
- observed
- user
- record
- interest
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/10—Office automation; Time management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/13—File access structures, e.g. distributed indices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
- G06F16/43—Querying
- G06F16/435—Filtering based on additional data, e.g. user or group profiles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
- G06F16/48—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/955—Retrieval from the web using information identifiers, e.g. uniform resource locators [URL]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/19—Sensors therefor
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Business, Economics & Management (AREA)
- Entrepreneurship & Innovation (AREA)
- Strategic Management (AREA)
- Human Resources & Organizations (AREA)
- Human Computer Interaction (AREA)
- General Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Quality & Reliability (AREA)
- Operations Research (AREA)
- Marketing (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Ophthalmology & Optometry (AREA)
- Economics (AREA)
- Library & Information Science (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Description
ステップ220にて、このデータがリポジトリに格納され得る。一実施形態において、上述のアイテムの各々用のフィールドを含んだ、ROIに関するレコードが作成され得る。そして、レコードがリポジトリに保存され得る。複数のROIが継続的に記録されるので、このプロセスはステップ210に戻ることができ、ユーザが別の領域を眺めると、次のROIに関連する上述のデータアイテムが捕捉され得る。
Claims (27)
- ディスプレイ上でユーザによって観察されている関心領域(ROI)を決定することと、
前記領域内で観察されているコンテンツを記録することと、
前記コンテンツの処理コンテキストを記録することと、
記録された情報をリポジトリに格納することと、
その後の要求に応じて、前記ユーザに、前記記録された情報をアクセス可能にすることと、
を有する方法。 - 前記コンテンツはテキスト情報及び画像情報のうちの1つ以上を有する、請求項1に記載の方法。
- 前記処理コンテキストは、
前記領域内で観察されているアプリケーションと、
前記アプリケーション内の位置と、
前記領域内で開かれているファイルと、
前記領域内にある、前記ファイル内の位置と、
前記領域内で観察されているウェブページと、
前記領域内にある、前記ウェブページ内の位置と、
のうちの1つ以上を有する、請求項1に記載の方法。 - 前記格納することの前に、前記関心領域が観察された時間を記録すること、を更に有する請求項1に記載の方法。
- 前記格納することの前に、観察された前記関心領域のスクリーン座標を記録すること、を更に有する請求項1に記載の方法。
- 前記格納することは、
レコードを作成することと、
前記記録された情報を前記レコードに格納することと
を有する、請求項1に記載の方法。 - 1つ以上の関係するレコードへのリンクを前記レコードに格納すること、を更に有する請求項6に記載の方法。
- 前記1つ以上の関係するレコードは、
先に観察された関心領域に関するレコードと、
後に観察された関心領域に関するレコードと、
前記観察されている関心領域に隣接していた領域に関するレコードと、
のうちの少なくとも1つを有する、請求項7に記載の方法。 - 前記レコードに、
前記観察の前に為されたユーザアクションを特定するものと、
前記観察の後に為されたユーザアクションを特定するものと、
のうちの1つ以上を格納すること、を更に有する請求項6に記載の方法。 - 前記ユーザが前記領域に視覚的にとどまっていた期間を前記レコードに格納すること、を更に有する請求項6に記載の方法。
- 前記情報をアクセス可能にすることは、
前記ユーザから検索基準を受信することと、
前記検索基準に合致する記録情報に関して前記リポジトリを検索することと、
前記検索基準に合致する記録情報への1つ以上の参照を前記ユーザに返すことと、
前記参照のうちの1つ以上の選択を前記ユーザから受信することと、
前記選択に対応するコンテンツを、該対応するコンテンツに関連する再現されたコンテキストで、前記ユーザに提示することと
を有する、請求項1に記載の方法。 - 前記検索基準は、
前記関心領域内のコンテンツの記述と、
前記関心領域が観察された時間又は時間範囲への参照と、
前記関心領域が観察された前記ディスプレイ上の位置又は領域への参照と、
前記観察の前に為されたユーザアクションへの参照と、
前記観察の後に為されたユーザアクションへの参照と、
前に観察された関心領域への参照と、
後に観察された関心領域への参照と、
前記観察されている関心領域に隣接していた領域への参照と、
のうちの1つ以上を有する、請求項11に記載の方法。 - 請求項1乃至12の何れかに記載の方法をプロセッサに実行させるコンピュータ制御ロジックを有するコンピュータプログラム。
- プロセッサと、
前記プロセッサと通信するメモリであり、前記プロセッサに、
ディスプレイ上でユーザによって観察されている関心領域(ROI)を決定し、
前記領域内で観察されているコンテンツを記録し、
前記コンテンツの処理コンテキストを記録し、
記録された情報をリポジトリに格納し、且つ
その後の要求に応じて、前記ユーザに、前記記録された情報をアクセス可能にする、
ように指示するよう構成された複数の処理命令を格納したメモリと、
を有するシステム。 - 前記コンテンツはテキスト情報及び画像情報のうちの1つ以上を有する、請求項14に記載のシステム。
- 前記処理コンテキストは、
前記領域内で観察されているアプリケーションと、
前記アプリケーション内の位置と、
前記領域内で開かれているファイルと、
前記領域内にある、前記ファイル内の位置と、
前記領域内で観察されているウェブページと、
前記領域内にある、前記ウェブページ内の位置と、
のうちの1つ以上を有する、請求項14に記載のシステム。 - 前記複数の処理命令は更に、前記プロセッサに、
前記格納することの前に、前記関心領域が観察された時間を記録する
ように指示するよう構成される、請求項14に記載のシステム。 - 前記複数の処理命令は更に、前記プロセッサに、
前記格納することの前に、観察された前記関心領域のスクリーン座標を記録する
ように指示するよう構成される、請求項14に記載のシステム。 - 前記格納することは、
レコードを作成することと、
前記記録された情報を前記レコードに格納することと
を有する、請求項14に記載のシステム。 - 前記複数の処理命令は更に、前記プロセッサに、
1つ以上の関係するレコードへのリンクを前記レコードに格納する
ように指示するよう構成される、請求項19に記載のシステム。 - 前記1つ以上の関係するレコードは、
先に観察された関心領域に関するレコードと、
後に観察された関心領域に関するレコードと、
前記観察されている関心領域に隣接していた領域に関するレコードと、
のうちの少なくとも1つを有する、請求項20に記載のシステム。 - 前記記録された情報を前記レコードに格納するように前記プロセッサに指示するよう構成された前記複数の処理命令は、
前記観察の前に為されたユーザアクションを特定するものと、
前記観察の後に為されたユーザアクションを特定するものと、
のうちの1つ以上を前記レコードに格納するように前記プロセッサに指示するよう構成された複数の処理命令を有する、請求項19に記載のシステム。 - 前記記録された情報を前記レコードに格納するように前記プロセッサに指示するよう構成された前記複数の処理命令は、
前記ユーザが前記領域に視覚的にとどまっていた期間
を前記レコードに格納するように前記プロセッサに指示するよう構成された複数の処理命令を有する、請求項19に記載のシステム。 - 前記情報をアクセス可能にするように前記プロセッサに指示するよう構成された前記複数の処理命令は、
前記ユーザから検索基準を受信し、
前記検索基準に合致する記録情報に関して前記リポジトリを検索し、
前記検索基準に合致する記録情報への1つ以上の参照を前記ユーザに返し、
前記参照のうちの1つ以上の選択を前記ユーザから受信し、且つ
前記選択に対応するコンテンツを、該対応するコンテンツに関連する再現されたコンテキストで、前記ユーザに提示する、
ように前記プロセッサに指示するよう構成された複数の処理命令を有する、請求項14に記載のシステム。 - 前記検索基準は、
前記関心領域内のコンテンツの記述と、
前記関心領域が観察された時間又は時間範囲への参照と、
前記関心領域が観察された前記ディスプレイ上の位置又は領域への参照と、
前記観察の前に為されたユーザアクションへの参照と、
前記観察の後に為されたユーザアクションへの参照と、
前に観察された関心領域への参照と、
後に観察された関心領域への参照と、
前記観察されている関心領域に隣接していた領域への参照と、
のうちの1つ以上を有する、請求項24に記載のシステム。 - 前記リポジトリを格納するように構成された不揮発性メモリ、を更に有する請求項14に記載のシステム。
- 前記リポジトリを格納するように構成された不揮発性メモリへの遠隔アクセスを提供するように構成されたネットワークへの接続、を更に有する請求項14に記載のシステム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/US2012/034700 WO2013162508A1 (en) | 2012-04-23 | 2012-04-23 | System, method, and computer program product for using eye movement tracking for retrieval of observed information and of related specific context |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015518592A true JP2015518592A (ja) | 2015-07-02 |
JP5969108B2 JP5969108B2 (ja) | 2016-08-10 |
Family
ID=49483622
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015500417A Active JP5969108B2 (ja) | 2012-04-23 | 2012-04-23 | 観察された情報及び関連コンテキストを眼球運動追跡を用いて検索するシステム、方法及びコンピュータプログラム |
Country Status (7)
Country | Link |
---|---|
US (1) | US9483480B2 (ja) |
EP (1) | EP2842065A4 (ja) |
JP (1) | JP5969108B2 (ja) |
KR (1) | KR101638812B1 (ja) |
CN (1) | CN104205101B (ja) |
TW (1) | TWI570593B (ja) |
WO (1) | WO2013162508A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9483480B2 (en) | 2012-04-23 | 2016-11-01 | Intel Corporation | System, method, and computer program product for using eye movement tracking for retrieval of observed information and of related specific context |
KR101848475B1 (ko) | 2014-06-30 | 2018-04-13 | 주식회사 퓨처플레이 | 문맥 정보에 기초하여 스크롤을 제어하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 |
CN104318223A (zh) * | 2014-11-18 | 2015-01-28 | 新开普电子股份有限公司 | 一种人脸显著特征位置标定方法及系统 |
BR102019007123A2 (pt) * | 2018-04-16 | 2019-10-29 | Panasonic Avionics Corp | assistentes digitais e métodos associados para um veículo de transporte |
CN109726167B (zh) * | 2018-12-29 | 2023-08-18 | 咪咕数字传媒有限公司 | 一种信息提示方法、装置及存储介质 |
CN111488057B (zh) * | 2020-03-30 | 2022-08-09 | 维沃移动通信有限公司 | 页面内容处理方法及电子设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020103625A1 (en) * | 2000-12-08 | 2002-08-01 | Xerox Corporation | System and method for analyzing eyetracker data |
JP2005025550A (ja) * | 2003-07-03 | 2005-01-27 | Fujitsu Ltd | 電子文書管理装置および管理方法 |
WO2006110472A2 (en) * | 2005-04-07 | 2006-10-19 | User Centric, Inc. | Website evaluation tool |
JP2007226357A (ja) * | 2006-02-21 | 2007-09-06 | Canon Inc | データ閲覧装置及び方法、並びにプログラム及び記録媒体 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4974010A (en) * | 1989-06-09 | 1990-11-27 | Lc Technologies, Inc. | Focus control system |
US6351273B1 (en) * | 1997-04-30 | 2002-02-26 | Jerome H. Lemelson | System and methods for controlling automatic scrolling of information on a display or screen |
US6873314B1 (en) | 2000-08-29 | 2005-03-29 | International Business Machines Corporation | Method and system for the recognition of reading skimming and scanning from eye-gaze patterns |
US6886137B2 (en) * | 2001-05-29 | 2005-04-26 | International Business Machines Corporation | Eye gaze control of dynamic information presentation |
US7343365B2 (en) * | 2002-02-20 | 2008-03-11 | Microsoft Corporation | Computer system architecture for automatic context associations |
US7365738B2 (en) * | 2003-12-02 | 2008-04-29 | International Business Machines Corporation | Guides and indicators for eye movement monitoring systems |
US7590310B2 (en) * | 2004-05-05 | 2009-09-15 | Facet Technology Corp. | Methods and apparatus for automated true object-based image analysis and retrieval |
US7783645B2 (en) * | 2005-12-14 | 2010-08-24 | Siemens Aktiengesellschaft | Methods and apparatus to recall context relevant information |
DE602007001600D1 (de) * | 2006-03-23 | 2009-08-27 | Koninkl Philips Electronics Nv | Hotspots zur blickfokussierten steuerung von bildmanipulationen |
JP2007287018A (ja) * | 2006-04-19 | 2007-11-01 | Fujifilm Corp | 診断支援システム |
US8255827B2 (en) * | 2009-01-26 | 2012-08-28 | Microsoft Corporation | Dynamic feature presentation based on vision detection |
EP2264988A1 (en) * | 2009-06-18 | 2010-12-22 | Deutsche Telekom AG | Method of detecting a current user activity and environment context of a user of a mobile phone using an accelerator sensor and a microphone, computer program product, and mobile phone |
US9024844B2 (en) * | 2012-01-25 | 2015-05-05 | Microsoft Technology Licensing, Llc | Recognition of image on external display |
US9483480B2 (en) | 2012-04-23 | 2016-11-01 | Intel Corporation | System, method, and computer program product for using eye movement tracking for retrieval of observed information and of related specific context |
-
2012
- 2012-04-23 US US13/983,930 patent/US9483480B2/en active Active
- 2012-04-23 CN CN201280071855.2A patent/CN104205101B/zh active Active
- 2012-04-23 WO PCT/US2012/034700 patent/WO2013162508A1/en active Application Filing
- 2012-04-23 JP JP2015500417A patent/JP5969108B2/ja active Active
- 2012-04-23 EP EP12875472.8A patent/EP2842065A4/en not_active Withdrawn
- 2012-04-23 KR KR1020147026951A patent/KR101638812B1/ko active IP Right Grant
-
2013
- 2013-04-17 TW TW102113631A patent/TWI570593B/zh active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020103625A1 (en) * | 2000-12-08 | 2002-08-01 | Xerox Corporation | System and method for analyzing eyetracker data |
JP2002238856A (ja) * | 2000-12-08 | 2002-08-27 | Xerox Corp | 眼球追跡データを分析するシステムおよび方法 |
JP2005025550A (ja) * | 2003-07-03 | 2005-01-27 | Fujitsu Ltd | 電子文書管理装置および管理方法 |
WO2006110472A2 (en) * | 2005-04-07 | 2006-10-19 | User Centric, Inc. | Website evaluation tool |
JP2007226357A (ja) * | 2006-02-21 | 2007-09-06 | Canon Inc | データ閲覧装置及び方法、並びにプログラム及び記録媒体 |
Non-Patent Citations (1)
Title |
---|
JPN6015043469; 中村 亮太: 'Webページ評価のための視線測定と文書構造解析を組み合わせた注視情報視覚化' 情報処理学会論文誌 論文誌ジャーナル Vol.52 No.12, 20111215, 第3868-3875ページ, 一般社団法人情報処理学会 * |
Also Published As
Publication number | Publication date |
---|---|
JP5969108B2 (ja) | 2016-08-10 |
CN104205101B (zh) | 2018-07-03 |
US20140006463A1 (en) | 2014-01-02 |
KR20140129293A (ko) | 2014-11-06 |
WO2013162508A1 (en) | 2013-10-31 |
TWI570593B (zh) | 2017-02-11 |
TW201403384A (zh) | 2014-01-16 |
CN104205101A (zh) | 2014-12-10 |
US9483480B2 (en) | 2016-11-01 |
KR101638812B1 (ko) | 2016-07-12 |
EP2842065A1 (en) | 2015-03-04 |
EP2842065A4 (en) | 2016-09-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101634154B1 (ko) | 눈 추적에 기초한 디스플레이의 선택적 백라이팅 | |
KR102178892B1 (ko) | 정보 제공 방법 및 그 전자 장치 | |
US10122839B1 (en) | Techniques for enhancing content on a mobile device | |
US9984408B1 (en) | Method, medium, and system for live video cooperative shopping | |
JP5969108B2 (ja) | 観察された情報及び関連コンテキストを眼球運動追跡を用いて検索するシステム、方法及びコンピュータプログラム | |
US8724963B2 (en) | Method and system for gesture based searching | |
CN108920515B (zh) | 网页显示过程的信息推荐方法、装置、设备及存储介质 | |
CN105653134B (zh) | 应用切换方法及其系统 | |
US10241994B2 (en) | Electronic device and method for providing content on electronic device | |
US11194863B2 (en) | Searching method and apparatus, device and non-volatile computer storage medium | |
KR20090111826A (ko) | 문서 내 링크들을 표시하기 위한 방법 및 시스템 | |
US11086483B2 (en) | Global filter | |
KR20140100315A (ko) | 이동 단말기 및 그것의 제어 방법 | |
US20160004784A1 (en) | Method of providing relevant information and electronic device adapted to the same | |
US10482151B2 (en) | Method for providing alternative service and electronic device thereof | |
US10496715B2 (en) | Method and device for providing information | |
KR102335207B1 (ko) | 전자 장치 및 그의 소셜 미디어 컨텐츠 제공 방법 | |
KR101757755B1 (ko) | 선행기술조사의 분배처리 방법 및 이를 운용하는 서버 및 시스템 | |
CN110399572B (zh) | 一种资讯应用控制方法、装置及资讯展示系统 | |
KR20180071886A (ko) | 컨텐트를 분류하는 방법 및 전자 장치 | |
CN103646120A (zh) | 一种信息处理方法及电子设备 | |
CN115904569A (zh) | 资源分享方法、装置、电子设备和存储介质 | |
CN115269936A (zh) | 应用搜索方法、装置、电子设备及介质 | |
US20170154248A1 (en) | Multi-Scale Computer Vision |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20151023 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20151104 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160204 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160607 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160706 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5969108 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |