CN106020591A - 一种眼控人机交互移动窗口技术 - Google Patents

一种眼控人机交互移动窗口技术 Download PDF

Info

Publication number
CN106020591A
CN106020591A CN201610304543.1A CN201610304543A CN106020591A CN 106020591 A CN106020591 A CN 106020591A CN 201610304543 A CN201610304543 A CN 201610304543A CN 106020591 A CN106020591 A CN 106020591A
Authority
CN
China
Prior art keywords
attentively
window
user
watches
grids
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201610304543.1A
Other languages
English (en)
Inventor
汪江林
杜煜
詹培忠
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SHANGHAI QINGTECH INFORMATION TECHNOLOGY CO LTD
Original Assignee
SHANGHAI QINGTECH INFORMATION TECHNOLOGY CO LTD
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SHANGHAI QINGTECH INFORMATION TECHNOLOGY CO LTD filed Critical SHANGHAI QINGTECH INFORMATION TECHNOLOGY CO LTD
Priority to CN201610304543.1A priority Critical patent/CN106020591A/zh
Publication of CN106020591A publication Critical patent/CN106020591A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明提出了一种眼控人机交互中的移动窗口技术。首先用户注视显示器屏幕某一位置超过设定时间,然后显示出新窗口,窗口与该位置的距离关系具有自适应性。窗口中包含测定注视位置,不同方向的箭头和部分功能键。当显示的测定注视位置与真实注视位置不同时,可使用人眼注视不同方向的箭头,调整测定注视位置,窗口也会根据注视位置进行自动调整,直到测定注视位置与真实注视位置距离一致。最后注视功能键位置,实现特定的功能。该发明使用户方便校准误差,节省了调整误差的时间,使用户体验和精确度都得到极大改善。

Description

一种眼控人机交互 移动窗口技术
技术领域
本发明涉及一种眼控人机交互移动窗口技术,属于计算机软件和信息技术领域。
背景技术
残疾人、老年人等肢体有障碍的人群在使用手机、电脑时十分困难,眼控仪可以通过人眼控制屏幕代替手指完成对这些设备的操作,能够有效改善此类人群对手机、电脑等设备的使用需求,因而眼控仪受到了越来越多的关注,并且在商业上已经有所应用。眼控仪的控制精度和复杂程度是决定眼控仪是否能够满足用户需要的两个重要因素。由于眼控仪硬件设备的限制和用户个体差异较大,在眼控过程中,测定注视位置与真实注视位置之间有可能会出现存在偏差的情况,影响用户的操作结果,降低了用户体验。
有的眼控仪在注视位置设置放大镜功能,通过增大注视位置所在区域的显示面积,帮助用户调整注视位置。然而,放大区域会遮挡部分未放大区域,影响用户对屏幕的观察,放大功能只是帮助用户在放大区域进行注视位置的移动,对于偏差较大的情况,使用放大镜仍然很难进行误差调整。
目前眼控仪可以帮助用户通过眼控进行简单的人机交互,但在实际操作中,眼控仪引起的误差会导致眼控的准确性降低,影响用户体验。
现有眼控仪存在的问题主要有:
1 注视位置的放大窗口会影响屏幕的其他内容;
2 注视位置的误差调整很困难;
3 对所选区域进行如右击,双击等的功能操作较困难。
发明内容
本发明利用眼控移动窗口技术,充分结合人眼视觉特点,降低眼控误差,进而改善用户体验,解决了上述背景描述中所提到的问题,主要的技术特征为:在不增加用户用眼负担的基础下,在测定注视位置周围显示半透明窗口,窗口内包含测定注视位置,调整注视位置的方向箭头,及部分功能键。半透明窗口内各个组成部分的布局根据注视位置自动变化。半透明窗口中的各个组成部分会随着测定注视位置的移动自适应进行调整,保证了屏幕内容不受遮挡。另外,窗口内还设置了常用的功能按键,帮助用户完成对注视区域的多项操作。
为实现上述目的,本发明采用如下技术方案:
(1)用户注视显示器屏幕某一位置超过设定的时间阈值后,弹出一个小窗口,该窗口中至少包含指示该用户在屏幕中注视点的测定注视位置,进行方向调整的指示箭头和进行选择和操作的功能键,所述小窗口为半透明窗口,所述指示箭头用于调整测定注视位置与真实注视位置之间的偏差;
(2)用户通过目光注视所述小窗口进行校准操作,主要方法为:用户观察测定注视位置与真实注视位置之间的偏差,在注视小窗口内可以修正该偏差方向的箭头时,可以用余光看到测定注视位置与真实注视位置之间相对位置,直到测定注视位置到达真实注视位置;
(3)用户通过目光注视所述小窗口进行功能操作,在完成对测定注视位置的校准后,注视所述功能键进行功能选择和操作,所述功能键至少包含单击、右击、双击、取消中的一个或多个。
所述用户注视显示器屏幕某一位置的时间阈值可由用户依据个人习惯自行设置。
所述小窗口与用户注视位置的距离关系具有自适应性,半透明窗口可随着测定注视位置调整而连续移动。
所述小窗口位置根据注视位置不同,自动进行调整为适合眼控操作的窗口布局方式,所述窗口为一个N*M的功能模块矩阵窗口,其中N和M的取值范围为2~8。
当所述N*M的功能模块矩形窗口为3*3的九宫格窗口时,九宫格窗口的内小方格组成的排列方式根据用户真实注视位置位于显示器屏幕中的位置状态来自适应变化,用户真实注视位置在屏幕中的位置与测定注视位置在九宫格窗口内的位置相一致,当用户真实注视位置在屏幕中间位置时,测定注视位置在窗口内也在中间方格内,当用户真实注视位置在屏幕的四个角落时,测定注视位置在窗口内也在九宫格的四角,当用户真实注视位置在屏幕的四个边时,测定注视位置在窗口内也在九宫格的四边。
此时在所述小窗口内用“十”字交叉的位置显示的测定注视位置。所述 “十”字交叉的初始位置为所在九宫格中的小方格的中央,当通过箭头调整“十”字交叉的位置过程中,其移动到所在九宫格中的小方格的边缘时,九宫格窗口会自动进行相对应的整体移动,保证“十”字交叉位置仍处于所在九宫格中的小方格的中央,窗口不会遮挡测定注视位置。
此时的眼控人机交互移动窗口技术可以被描述为:
(1)用户注视显示器屏幕某一位置超过设定的时间阈值后,弹出一个小窗口,该窗口中用“十”字交叉指示该用户在屏幕中注视点的测定注视位置;
(2)用户观察“十”字交叉位置与真实注视位置是否存在偏差,根据“十”字交叉位置与真实注视位置的相对位置偏差,用户注视“↑”、“↓”、“←”、“→”箭头区域,“十”字交叉位置依照用户注视箭头方向进行移动调整,最终使“十”字交叉移动到真实注视位置;
(3)用户将“十”字交叉移动到真实注视位置后,注视所述功能键进行功能选择和操作,九宫格窗口中只显示经常需要的功能键,而其他功能键排列在屏幕一侧的侧边栏,用户根据需要注视相应功能键区域,完成特定功能。
值得一提的是,眼控指示的测定注视位置例如“十”字交等,可以与手控鼠标并存,当残疾人用眼睛控制十字操作电脑时,家人可以对其进行辅助操作。
本发明方法的优势在于:
(1)考虑到人机交互的复杂性和精确度都是影响眼控技术用户体验的重要影响因素,将测定注视位置定位在半透明窗口内,修正测定注视位置与真实注视位置该偏差的图标在测定注视位置周围,在进行修正时可以用余光看到测定注视位置,减少了用户眼睛注视点在测定注视位置与箭头位置之间来回跳跃的距离,便于操作,也节省了时间,降低了用户疲劳度。
(2)半透明窗口可随着测定注视位置调整而连续移动,以九宫格为例,当“十”字交叉移到该九宫格中所在小方格的边缘时,该九宫格会整体移动。移动后“十”字交叉仍在该九宫格中所在小方格的中央,保证窗口不会遮挡操作区域,提高测定注视位置移动的准确性。
(3)半透明窗口内的各部分组成及排列方式都可根据注视具体位置自动变化,在屏幕边缘和角落时九宫格排列自适应,进一步降低人机交互复杂性。
(4)眼控指示的测定注视位置例如“十”字交等,可以与手控鼠标并存,当残疾人用眼睛控制十字操作电脑时,家人可以对其进行辅助操作。
附图说明
图1是本发明的框架图。
图2是测定注视位置在屏幕中间时窗口的九宫格布局。
图3是测定注视位置在屏幕左上方时窗口的九宫格布局。
图4是调整测定注视位置到方格边缘时的窗口位置。
图5是调整测定注视位置到方格边缘后的窗口变化后的位置。
图6是侧边栏的功能键布局。
具体实施方式
下面结合附图与实施例对本发明作进一步说明。
图1给出了本发明一种眼控人机交互移动窗口技术的流程图,本发明的基本思想是利用移动窗口减少测定注视位置与真实注视位置的误差,提高人机交互精确度,改善用户体验。以九宫格窗口为例,本发明的具体步骤如下:
1、注视屏幕某一位置,具体实施步骤如下:
(1)眼控软件设定完毕后,打开操纵电脑选项;
(2)眼睛注视屏幕中将要进行操作的区域一段时间,将时间阈值设定为1秒,当注视时间超过阈值后,进行下一步操作。
2、显示半透明窗口,对测定注视位置进行调整,具体实施步骤如下:
(1)半透明窗口显示在屏幕上,布局方式为九宫格,窗口内“十”字交叉位置代表眼控软件测得的人眼注视位置,包含在九宫格内的一格中。“十”字交叉位置在九宫格内的位置根据其在屏幕中的位置自动变化。当测定注视位置在屏幕中间位置时,“十”字交叉位置在九宫格内也在中间方格内,如图2所示。当测定注视位置在屏幕左上方位置时,“十”字交叉位置在九宫格内也在左上方方格内,如图3所示,其他方向如此;
(2)九宫格窗口内包含“↑”、“↓”、“←”、“→”四个方向的箭头标示,当测定注视位置与真实注视位置存在偏差时,根据两位置的相对位置,人眼注视相应方向箭头,测定注视位置按注视箭头方向进行移动调整。经过调整,使得测定注视位置与真实注视位置重合;
(3)当两位置偏差较大时,“十”字交叉位置可能会移动到方格边缘,此时,窗口会自动移动,保证“十”字交叉位置在九宫格一格中的中间位置。图4是移动之前的窗口位置,图5是移动之后的窗口位置;
3、校准注视位置后,注视窗口内功能按键,实现相应功能,具体步骤如下:
(1)窗口内包含单击、双击、取消、键盘等功能标示,在注视位置校准之后,根据对该位置将要执行的操作,注视相应功能标示,完成相应功能;
(2)如果对该位置执行的操作在窗口内没有相应功能,可在侧边栏中寻找相应的功能进行注视选择并执行,如图6所示。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,所做的变化和改进,也应视为本发明的保护范围。

Claims (10)

1.一种眼控人机交互移动窗口技术,其特征在于:(1)用户注视显示器屏幕某一位置超过设定的时间阈值后,弹出一个小窗口,该窗口中至少包含指示该用户在屏幕中注视点的测定注视位置,进行方向调整的指示箭头和进行选择和操作的功能键,所述小窗口为半透明窗口,所述指示箭头用于调整测定注视位置与真实注视位置之间的偏差;(2)用户通过目光注视所述小窗口进行校准操作,主要方法为:用户观察测定注视位置与真实注视位置之间的偏差,在注视小窗口内可以修正该偏差方向的箭头时,可以用余光看到测定注视位置与真实注视位置之间相对位置,直到测定注视位置到达真实注视位置;(3)用户通过目光注视所述小窗口进行功能操作,在完成对测定注视位置的校准后,注视所述功能键进行功能选择和操作,所述功能键至少包含单击、右击、双击、取消中的一个或多个。
2.根据权利要求1所述的眼控人机交互移动窗口技术,其特征在于:所述用户注视显示器屏幕某一位置的时间阈值可由用户依据个人习惯自行设置。
3.根据权利要求1所述的眼控人机交互移动窗口技术,其特征在于:所述小窗口与用户注视位置的距离关系具有自适应性,所述小窗口可随着测定注视位置调整而连续移动。
4.根据权利要求1所述的眼控人机交互移动窗口技术,其特征在于:所述小窗口位置根据注视位置不同,自动进行调整为适合眼控控制操作的窗口布局方式,所述窗口为一个N*M的功能模块矩阵窗口,其中N和M的取值范围为2~8。
5.根据权利要求4所述的眼控人机交互移动窗口技术,其特征在于:所述N*M的功能模块矩形窗口为3*3的九宫格窗口。
6.根据权利要求5所述的眼控人机交互移动窗口技术,其特征在于:所述九宫格窗口的内小方格组成的排列方式根据用户真实注视位置位于显示器屏幕中的位置状态来自适应变化,用户真实注视位置在屏幕中的位置与测定注视位置在九宫格窗口内的位置相一致,当用户真实注视位置在屏幕中间位置时,测定注视位置在窗口内也在中间方格内,当用户真实注视位置在屏幕的四个角落时,测定注视位置在窗口内也在九宫格的四角,当用户真实注视位置在屏幕的四个边时,测定注视位置在窗口内也在九宫格的四边。
7.根据权利要求5所述的眼控人机交互移动窗口技术,其特征在于:在所述小窗口内用“十”字交叉的位置显示的测定注视位置。
8.根据权利要求5所述的眼控人机交互移动窗口技术,其特征在于:所述“十”字交叉的初始位置为所在九宫格中的小方格的中央,当通过箭头调整“十”字交叉的位置过程中,其移动到所在九宫格中的小方格的边缘时,九宫格窗口会自动进行相对应的整体移动,保证“十”字交叉位置仍处于所在九宫格中的小方格的中央,窗口不会遮挡测定注视位置。
9.根据权利要求5所述的眼控人机交互移动窗口技术,其特征在于:
(1)用户注视显示器屏幕某一位置超过设定的时间阈值后,弹出一个小窗口,该窗口中用“十”字交叉指示该用户在屏幕中注视点的测定注视位置;
(2)用户观察“十”字交叉位置与真实注视位置是否存在偏差,根据“十”字交叉位置与真实注视位置的相对位置偏差,用户注视“↑”、“↓”、“←”、“→”箭头区域,“十”字交叉位置依照用户注视箭头方向进行移动调整,最终使“十”字交叉移动到真实注视位置;
(3)用户将“十”字交叉移动到真实注视位置后,注视所述功能键进行功能选择和操作,九宫格窗口中只显示经常需要的功能键,而其他功能键排列在屏幕一侧的侧边栏,用户根据需要注视相应功能键区域,完成特定功能。
10.根据权利要求1所述的眼控人机交互移动窗口技术,其特征在于:眼控指示的“十”字交与手控鼠标并存,残疾人用眼睛控制十字操作电脑,家人能辅助操作。
CN201610304543.1A 2016-05-10 2016-05-10 一种眼控人机交互移动窗口技术 Pending CN106020591A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610304543.1A CN106020591A (zh) 2016-05-10 2016-05-10 一种眼控人机交互移动窗口技术

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610304543.1A CN106020591A (zh) 2016-05-10 2016-05-10 一种眼控人机交互移动窗口技术

Publications (1)

Publication Number Publication Date
CN106020591A true CN106020591A (zh) 2016-10-12

Family

ID=57099233

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610304543.1A Pending CN106020591A (zh) 2016-05-10 2016-05-10 一种眼控人机交互移动窗口技术

Country Status (1)

Country Link
CN (1) CN106020591A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107506030A (zh) * 2017-08-16 2017-12-22 陈乾 视控仪
CN108984082A (zh) * 2018-07-09 2018-12-11 维沃移动通信有限公司 一种图像显示方法及移动终端
EP3511803A1 (en) * 2018-01-10 2019-07-17 Samsung Electronics Co., Ltd. Method and apparatus to determine trigger intent of user
CN110032372A (zh) * 2018-01-11 2019-07-19 武汉斗鱼网络科技有限公司 一种创建窗口边框的方法、装置及计算机设备

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6637883B1 (en) * 2003-01-23 2003-10-28 Vishwas V. Tengshe Gaze tracking system and method
CN101297259A (zh) * 2005-10-28 2008-10-29 托比技术有限公司 具有视觉反馈的眼跟踪器
CN103309451A (zh) * 2013-06-20 2013-09-18 上海华勤通讯技术有限公司 移动终端的显示方法及移动终端
US20140354785A1 (en) * 2013-05-29 2014-12-04 C Vision Technology Co., Ltd. Method of providing a correct 3d image for a viewer at different watching angles of the viewer
CN104866105A (zh) * 2015-06-03 2015-08-26 深圳市智帽科技开发有限公司 头显设备的眼动和头动交互方法
CN104951084A (zh) * 2015-07-30 2015-09-30 京东方科技集团股份有限公司 视线追踪方法及装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6637883B1 (en) * 2003-01-23 2003-10-28 Vishwas V. Tengshe Gaze tracking system and method
CN101297259A (zh) * 2005-10-28 2008-10-29 托比技术有限公司 具有视觉反馈的眼跟踪器
US20140354785A1 (en) * 2013-05-29 2014-12-04 C Vision Technology Co., Ltd. Method of providing a correct 3d image for a viewer at different watching angles of the viewer
CN103309451A (zh) * 2013-06-20 2013-09-18 上海华勤通讯技术有限公司 移动终端的显示方法及移动终端
CN104866105A (zh) * 2015-06-03 2015-08-26 深圳市智帽科技开发有限公司 头显设备的眼动和头动交互方法
CN104951084A (zh) * 2015-07-30 2015-09-30 京东方科技集团股份有限公司 视线追踪方法及装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107506030A (zh) * 2017-08-16 2017-12-22 陈乾 视控仪
CN107506030B (zh) * 2017-08-16 2021-03-30 陈乾 视控仪
EP3511803A1 (en) * 2018-01-10 2019-07-17 Samsung Electronics Co., Ltd. Method and apparatus to determine trigger intent of user
CN110032372A (zh) * 2018-01-11 2019-07-19 武汉斗鱼网络科技有限公司 一种创建窗口边框的方法、装置及计算机设备
CN108984082A (zh) * 2018-07-09 2018-12-11 维沃移动通信有限公司 一种图像显示方法及移动终端

Similar Documents

Publication Publication Date Title
US20220284683A1 (en) Systems for augmented reality visual aids and tools
CN106020591A (zh) 一种眼控人机交互移动窗口技术
KR100826194B1 (ko) 터치 패널형 리모트 콘트롤러 및 이 터치 패널형 리모트콘트롤러에서 기능을 수행하는 방법
Park et al. One-handed thumb interaction of mobile devices from the input accuracy perspective
Weir et al. A user-specific machine learning approach for improving touch accuracy on mobile devices
US10268433B2 (en) Display system
US20130307765A1 (en) Contactless Gesture-Based Control Method and Apparatus
DE112013004437B4 (de) Verfahren zum Definieren einer Eingebetaste auf einer Tastatur und Verfahren zur Interpretation von Tastenanschlägen
CN101727243A (zh) 一种触摸屏校准参数的获取方法及装置
DE112010002760T5 (de) Benutzerschnittstelle
DE112011101203T5 (de) Tragbare elektronische Vorrichtung und Verfahren zu deren Steuerung
US20130100042A1 (en) Touch screen implemented control panel
CN104364723A (zh) 用于操作工业机器人的方法
CN104182155B (zh) 触摸屏自动调整键盘显示区块的方法
EP3051399A1 (en) Method for implementing control of keys of virtual keyboard on wide screen with two thumbs
DE102014112837A1 (de) Elektronische Vorrichtung und Informationsverarbeitungsverfahren
US10156984B2 (en) Method for implementing control of keys of virtual keyboard on wide touch screen with two thumbs
Jung et al. Development of a two-step touch method for website navigation on smartphones
DE102012220062A1 (de) Einstellung mehrerer benutzereingabeparameter
CN104216644A (zh) 一种映射被遮挡区的系统和方法
CN104407753A (zh) 一种触摸屏界面操作方法和终端设备
CN106325490A (zh) 控制电子设备的方法及电子设备
CN105283124B (zh) 用于外科手术控制台的图形用户界面
Colley et al. Guided touch screen: Enhanced eyes-free interaction
KR20160050972A (ko) 이미지 작업 히스토리 표시를 위한 장치, 방법 및 컴퓨터 프로그램

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
CB02 Change of applicant information

Address after: 200233 Shanghai, Yishan Road, room 822, No. 408, room

Applicant after: Shanghai Green Technology Co., Ltd.

Address before: 200233 Shanghai, Yishan Road, room 822, No. 408, room

Applicant before: Shanghai QingTech Information Technology Co.,Ltd.

COR Change of bibliographic data
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20161012

RJ01 Rejection of invention patent application after publication