CN106020591A - 一种眼控人机交互移动窗口技术 - Google Patents
一种眼控人机交互移动窗口技术 Download PDFInfo
- Publication number
- CN106020591A CN106020591A CN201610304543.1A CN201610304543A CN106020591A CN 106020591 A CN106020591 A CN 106020591A CN 201610304543 A CN201610304543 A CN 201610304543A CN 106020591 A CN106020591 A CN 106020591A
- Authority
- CN
- China
- Prior art keywords
- attentively
- window
- user
- watches
- grids
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明提出了一种眼控人机交互中的移动窗口技术。首先用户注视显示器屏幕某一位置超过设定时间,然后显示出新窗口,窗口与该位置的距离关系具有自适应性。窗口中包含测定注视位置,不同方向的箭头和部分功能键。当显示的测定注视位置与真实注视位置不同时,可使用人眼注视不同方向的箭头,调整测定注视位置,窗口也会根据注视位置进行自动调整,直到测定注视位置与真实注视位置距离一致。最后注视功能键位置,实现特定的功能。该发明使用户方便校准误差,节省了调整误差的时间,使用户体验和精确度都得到极大改善。
Description
技术领域
本发明涉及一种眼控人机交互移动窗口技术,属于计算机软件和信息技术领域。
背景技术
残疾人、老年人等肢体有障碍的人群在使用手机、电脑时十分困难,眼控仪可以通过人眼控制屏幕代替手指完成对这些设备的操作,能够有效改善此类人群对手机、电脑等设备的使用需求,因而眼控仪受到了越来越多的关注,并且在商业上已经有所应用。眼控仪的控制精度和复杂程度是决定眼控仪是否能够满足用户需要的两个重要因素。由于眼控仪硬件设备的限制和用户个体差异较大,在眼控过程中,测定注视位置与真实注视位置之间有可能会出现存在偏差的情况,影响用户的操作结果,降低了用户体验。
有的眼控仪在注视位置设置放大镜功能,通过增大注视位置所在区域的显示面积,帮助用户调整注视位置。然而,放大区域会遮挡部分未放大区域,影响用户对屏幕的观察,放大功能只是帮助用户在放大区域进行注视位置的移动,对于偏差较大的情况,使用放大镜仍然很难进行误差调整。
目前眼控仪可以帮助用户通过眼控进行简单的人机交互,但在实际操作中,眼控仪引起的误差会导致眼控的准确性降低,影响用户体验。
现有眼控仪存在的问题主要有:
( 1 )注视位置的放大窗口会影响屏幕的其他内容;
( 2 )注视位置的误差调整很困难;
( 3 )对所选区域进行如右击,双击等的功能操作较困难。
发明内容
本发明利用眼控移动窗口技术,充分结合人眼视觉特点,降低眼控误差,进而改善用户体验,解决了上述背景描述中所提到的问题,主要的技术特征为:在不增加用户用眼负担的基础下,在测定注视位置周围显示半透明窗口,窗口内包含测定注视位置,调整注视位置的方向箭头,及部分功能键。半透明窗口内各个组成部分的布局根据注视位置自动变化。半透明窗口中的各个组成部分会随着测定注视位置的移动自适应进行调整,保证了屏幕内容不受遮挡。另外,窗口内还设置了常用的功能按键,帮助用户完成对注视区域的多项操作。
为实现上述目的,本发明采用如下技术方案:
(1)用户注视显示器屏幕某一位置超过设定的时间阈值后,弹出一个小窗口,该窗口中至少包含指示该用户在屏幕中注视点的测定注视位置,进行方向调整的指示箭头和进行选择和操作的功能键,所述小窗口为半透明窗口,所述指示箭头用于调整测定注视位置与真实注视位置之间的偏差;
(2)用户通过目光注视所述小窗口进行校准操作,主要方法为:用户观察测定注视位置与真实注视位置之间的偏差,在注视小窗口内可以修正该偏差方向的箭头时,可以用余光看到测定注视位置与真实注视位置之间相对位置,直到测定注视位置到达真实注视位置;
(3)用户通过目光注视所述小窗口进行功能操作,在完成对测定注视位置的校准后,注视所述功能键进行功能选择和操作,所述功能键至少包含单击、右击、双击、取消中的一个或多个。
所述用户注视显示器屏幕某一位置的时间阈值可由用户依据个人习惯自行设置。
所述小窗口与用户注视位置的距离关系具有自适应性,半透明窗口可随着测定注视位置调整而连续移动。
所述小窗口位置根据注视位置不同,自动进行调整为适合眼控操作的窗口布局方式,所述窗口为一个N*M的功能模块矩阵窗口,其中N和M的取值范围为2~8。
当所述N*M的功能模块矩形窗口为3*3的九宫格窗口时,九宫格窗口的内小方格组成的排列方式根据用户真实注视位置位于显示器屏幕中的位置状态来自适应变化,用户真实注视位置在屏幕中的位置与测定注视位置在九宫格窗口内的位置相一致,当用户真实注视位置在屏幕中间位置时,测定注视位置在窗口内也在中间方格内,当用户真实注视位置在屏幕的四个角落时,测定注视位置在窗口内也在九宫格的四角,当用户真实注视位置在屏幕的四个边时,测定注视位置在窗口内也在九宫格的四边。
此时在所述小窗口内用“十”字交叉的位置显示的测定注视位置。所述 “十”字交叉的初始位置为所在九宫格中的小方格的中央,当通过箭头调整“十”字交叉的位置过程中,其移动到所在九宫格中的小方格的边缘时,九宫格窗口会自动进行相对应的整体移动,保证“十”字交叉位置仍处于所在九宫格中的小方格的中央,窗口不会遮挡测定注视位置。
此时的眼控人机交互移动窗口技术可以被描述为:
(1)用户注视显示器屏幕某一位置超过设定的时间阈值后,弹出一个小窗口,该窗口中用“十”字交叉指示该用户在屏幕中注视点的测定注视位置;
(2)用户观察“十”字交叉位置与真实注视位置是否存在偏差,根据“十”字交叉位置与真实注视位置的相对位置偏差,用户注视“↑”、“↓”、“←”、“→”箭头区域,“十”字交叉位置依照用户注视箭头方向进行移动调整,最终使“十”字交叉移动到真实注视位置;
(3)用户将“十”字交叉移动到真实注视位置后,注视所述功能键进行功能选择和操作,九宫格窗口中只显示经常需要的功能键,而其他功能键排列在屏幕一侧的侧边栏,用户根据需要注视相应功能键区域,完成特定功能。
值得一提的是,眼控指示的测定注视位置例如“十”字交等,可以与手控鼠标并存,当残疾人用眼睛控制十字操作电脑时,家人可以对其进行辅助操作。
本发明方法的优势在于:
(1)考虑到人机交互的复杂性和精确度都是影响眼控技术用户体验的重要影响因素,将测定注视位置定位在半透明窗口内,修正测定注视位置与真实注视位置该偏差的图标在测定注视位置周围,在进行修正时可以用余光看到测定注视位置,减少了用户眼睛注视点在测定注视位置与箭头位置之间来回跳跃的距离,便于操作,也节省了时间,降低了用户疲劳度。
(2)半透明窗口可随着测定注视位置调整而连续移动,以九宫格为例,当“十”字交叉移到该九宫格中所在小方格的边缘时,该九宫格会整体移动。移动后“十”字交叉仍在该九宫格中所在小方格的中央,保证窗口不会遮挡操作区域,提高测定注视位置移动的准确性。
(3)半透明窗口内的各部分组成及排列方式都可根据注视具体位置自动变化,在屏幕边缘和角落时九宫格排列自适应,进一步降低人机交互复杂性。
(4)眼控指示的测定注视位置例如“十”字交等,可以与手控鼠标并存,当残疾人用眼睛控制十字操作电脑时,家人可以对其进行辅助操作。
附图说明
图1是本发明的框架图。
图2是测定注视位置在屏幕中间时窗口的九宫格布局。
图3是测定注视位置在屏幕左上方时窗口的九宫格布局。
图4是调整测定注视位置到方格边缘时的窗口位置。
图5是调整测定注视位置到方格边缘后的窗口变化后的位置。
图6是侧边栏的功能键布局。
具体实施方式
下面结合附图与实施例对本发明作进一步说明。
图1给出了本发明一种眼控人机交互移动窗口技术的流程图,本发明的基本思想是利用移动窗口减少测定注视位置与真实注视位置的误差,提高人机交互精确度,改善用户体验。以九宫格窗口为例,本发明的具体步骤如下:
1、注视屏幕某一位置,具体实施步骤如下:
(1)眼控软件设定完毕后,打开操纵电脑选项;
(2)眼睛注视屏幕中将要进行操作的区域一段时间,将时间阈值设定为1秒,当注视时间超过阈值后,进行下一步操作。
2、显示半透明窗口,对测定注视位置进行调整,具体实施步骤如下:
(1)半透明窗口显示在屏幕上,布局方式为九宫格,窗口内“十”字交叉位置代表眼控软件测得的人眼注视位置,包含在九宫格内的一格中。“十”字交叉位置在九宫格内的位置根据其在屏幕中的位置自动变化。当测定注视位置在屏幕中间位置时,“十”字交叉位置在九宫格内也在中间方格内,如图2所示。当测定注视位置在屏幕左上方位置时,“十”字交叉位置在九宫格内也在左上方方格内,如图3所示,其他方向如此;
(2)九宫格窗口内包含“↑”、“↓”、“←”、“→”四个方向的箭头标示,当测定注视位置与真实注视位置存在偏差时,根据两位置的相对位置,人眼注视相应方向箭头,测定注视位置按注视箭头方向进行移动调整。经过调整,使得测定注视位置与真实注视位置重合;
(3)当两位置偏差较大时,“十”字交叉位置可能会移动到方格边缘,此时,窗口会自动移动,保证“十”字交叉位置在九宫格一格中的中间位置。图4是移动之前的窗口位置,图5是移动之后的窗口位置;
3、校准注视位置后,注视窗口内功能按键,实现相应功能,具体步骤如下:
(1)窗口内包含单击、双击、取消、键盘等功能标示,在注视位置校准之后,根据对该位置将要执行的操作,注视相应功能标示,完成相应功能;
(2)如果对该位置执行的操作在窗口内没有相应功能,可在侧边栏中寻找相应的功能进行注视选择并执行,如图6所示。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,所做的变化和改进,也应视为本发明的保护范围。
Claims (10)
1.一种眼控人机交互移动窗口技术,其特征在于:(1)用户注视显示器屏幕某一位置超过设定的时间阈值后,弹出一个小窗口,该窗口中至少包含指示该用户在屏幕中注视点的测定注视位置,进行方向调整的指示箭头和进行选择和操作的功能键,所述小窗口为半透明窗口,所述指示箭头用于调整测定注视位置与真实注视位置之间的偏差;(2)用户通过目光注视所述小窗口进行校准操作,主要方法为:用户观察测定注视位置与真实注视位置之间的偏差,在注视小窗口内可以修正该偏差方向的箭头时,可以用余光看到测定注视位置与真实注视位置之间相对位置,直到测定注视位置到达真实注视位置;(3)用户通过目光注视所述小窗口进行功能操作,在完成对测定注视位置的校准后,注视所述功能键进行功能选择和操作,所述功能键至少包含单击、右击、双击、取消中的一个或多个。
2.根据权利要求1所述的眼控人机交互移动窗口技术,其特征在于:所述用户注视显示器屏幕某一位置的时间阈值可由用户依据个人习惯自行设置。
3.根据权利要求1所述的眼控人机交互移动窗口技术,其特征在于:所述小窗口与用户注视位置的距离关系具有自适应性,所述小窗口可随着测定注视位置调整而连续移动。
4.根据权利要求1所述的眼控人机交互移动窗口技术,其特征在于:所述小窗口位置根据注视位置不同,自动进行调整为适合眼控控制操作的窗口布局方式,所述窗口为一个N*M的功能模块矩阵窗口,其中N和M的取值范围为2~8。
5.根据权利要求4所述的眼控人机交互移动窗口技术,其特征在于:所述N*M的功能模块矩形窗口为3*3的九宫格窗口。
6.根据权利要求5所述的眼控人机交互移动窗口技术,其特征在于:所述九宫格窗口的内小方格组成的排列方式根据用户真实注视位置位于显示器屏幕中的位置状态来自适应变化,用户真实注视位置在屏幕中的位置与测定注视位置在九宫格窗口内的位置相一致,当用户真实注视位置在屏幕中间位置时,测定注视位置在窗口内也在中间方格内,当用户真实注视位置在屏幕的四个角落时,测定注视位置在窗口内也在九宫格的四角,当用户真实注视位置在屏幕的四个边时,测定注视位置在窗口内也在九宫格的四边。
7.根据权利要求5所述的眼控人机交互移动窗口技术,其特征在于:在所述小窗口内用“十”字交叉的位置显示的测定注视位置。
8.根据权利要求5所述的眼控人机交互移动窗口技术,其特征在于:所述“十”字交叉的初始位置为所在九宫格中的小方格的中央,当通过箭头调整“十”字交叉的位置过程中,其移动到所在九宫格中的小方格的边缘时,九宫格窗口会自动进行相对应的整体移动,保证“十”字交叉位置仍处于所在九宫格中的小方格的中央,窗口不会遮挡测定注视位置。
9.根据权利要求5所述的眼控人机交互移动窗口技术,其特征在于:
(1)用户注视显示器屏幕某一位置超过设定的时间阈值后,弹出一个小窗口,该窗口中用“十”字交叉指示该用户在屏幕中注视点的测定注视位置;
(2)用户观察“十”字交叉位置与真实注视位置是否存在偏差,根据“十”字交叉位置与真实注视位置的相对位置偏差,用户注视“↑”、“↓”、“←”、“→”箭头区域,“十”字交叉位置依照用户注视箭头方向进行移动调整,最终使“十”字交叉移动到真实注视位置;
(3)用户将“十”字交叉移动到真实注视位置后,注视所述功能键进行功能选择和操作,九宫格窗口中只显示经常需要的功能键,而其他功能键排列在屏幕一侧的侧边栏,用户根据需要注视相应功能键区域,完成特定功能。
10.根据权利要求1所述的眼控人机交互移动窗口技术,其特征在于:眼控指示的“十”字交与手控鼠标并存,残疾人用眼睛控制十字操作电脑,家人能辅助操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610304543.1A CN106020591A (zh) | 2016-05-10 | 2016-05-10 | 一种眼控人机交互移动窗口技术 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610304543.1A CN106020591A (zh) | 2016-05-10 | 2016-05-10 | 一种眼控人机交互移动窗口技术 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN106020591A true CN106020591A (zh) | 2016-10-12 |
Family
ID=57099233
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610304543.1A Pending CN106020591A (zh) | 2016-05-10 | 2016-05-10 | 一种眼控人机交互移动窗口技术 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106020591A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107506030A (zh) * | 2017-08-16 | 2017-12-22 | 陈乾 | 视控仪 |
CN108984082A (zh) * | 2018-07-09 | 2018-12-11 | 维沃移动通信有限公司 | 一种图像显示方法及移动终端 |
EP3511803A1 (en) * | 2018-01-10 | 2019-07-17 | Samsung Electronics Co., Ltd. | Method and apparatus to determine trigger intent of user |
CN110032372A (zh) * | 2018-01-11 | 2019-07-19 | 武汉斗鱼网络科技有限公司 | 一种创建窗口边框的方法、装置及计算机设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6637883B1 (en) * | 2003-01-23 | 2003-10-28 | Vishwas V. Tengshe | Gaze tracking system and method |
CN101297259A (zh) * | 2005-10-28 | 2008-10-29 | 托比技术有限公司 | 具有视觉反馈的眼跟踪器 |
CN103309451A (zh) * | 2013-06-20 | 2013-09-18 | 上海华勤通讯技术有限公司 | 移动终端的显示方法及移动终端 |
US20140354785A1 (en) * | 2013-05-29 | 2014-12-04 | C Vision Technology Co., Ltd. | Method of providing a correct 3d image for a viewer at different watching angles of the viewer |
CN104866105A (zh) * | 2015-06-03 | 2015-08-26 | 深圳市智帽科技开发有限公司 | 头显设备的眼动和头动交互方法 |
CN104951084A (zh) * | 2015-07-30 | 2015-09-30 | 京东方科技集团股份有限公司 | 视线追踪方法及装置 |
-
2016
- 2016-05-10 CN CN201610304543.1A patent/CN106020591A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6637883B1 (en) * | 2003-01-23 | 2003-10-28 | Vishwas V. Tengshe | Gaze tracking system and method |
CN101297259A (zh) * | 2005-10-28 | 2008-10-29 | 托比技术有限公司 | 具有视觉反馈的眼跟踪器 |
US20140354785A1 (en) * | 2013-05-29 | 2014-12-04 | C Vision Technology Co., Ltd. | Method of providing a correct 3d image for a viewer at different watching angles of the viewer |
CN103309451A (zh) * | 2013-06-20 | 2013-09-18 | 上海华勤通讯技术有限公司 | 移动终端的显示方法及移动终端 |
CN104866105A (zh) * | 2015-06-03 | 2015-08-26 | 深圳市智帽科技开发有限公司 | 头显设备的眼动和头动交互方法 |
CN104951084A (zh) * | 2015-07-30 | 2015-09-30 | 京东方科技集团股份有限公司 | 视线追踪方法及装置 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107506030A (zh) * | 2017-08-16 | 2017-12-22 | 陈乾 | 视控仪 |
CN107506030B (zh) * | 2017-08-16 | 2021-03-30 | 陈乾 | 视控仪 |
EP3511803A1 (en) * | 2018-01-10 | 2019-07-17 | Samsung Electronics Co., Ltd. | Method and apparatus to determine trigger intent of user |
CN110032372A (zh) * | 2018-01-11 | 2019-07-19 | 武汉斗鱼网络科技有限公司 | 一种创建窗口边框的方法、装置及计算机设备 |
CN108984082A (zh) * | 2018-07-09 | 2018-12-11 | 维沃移动通信有限公司 | 一种图像显示方法及移动终端 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220284683A1 (en) | Systems for augmented reality visual aids and tools | |
CN106020591A (zh) | 一种眼控人机交互移动窗口技术 | |
KR100826194B1 (ko) | 터치 패널형 리모트 콘트롤러 및 이 터치 패널형 리모트콘트롤러에서 기능을 수행하는 방법 | |
Park et al. | One-handed thumb interaction of mobile devices from the input accuracy perspective | |
Weir et al. | A user-specific machine learning approach for improving touch accuracy on mobile devices | |
US10268433B2 (en) | Display system | |
US20130307765A1 (en) | Contactless Gesture-Based Control Method and Apparatus | |
DE112013004437B4 (de) | Verfahren zum Definieren einer Eingebetaste auf einer Tastatur und Verfahren zur Interpretation von Tastenanschlägen | |
CN101727243A (zh) | 一种触摸屏校准参数的获取方法及装置 | |
DE112010002760T5 (de) | Benutzerschnittstelle | |
DE112011101203T5 (de) | Tragbare elektronische Vorrichtung und Verfahren zu deren Steuerung | |
US20130100042A1 (en) | Touch screen implemented control panel | |
CN104364723A (zh) | 用于操作工业机器人的方法 | |
CN104182155B (zh) | 触摸屏自动调整键盘显示区块的方法 | |
EP3051399A1 (en) | Method for implementing control of keys of virtual keyboard on wide screen with two thumbs | |
DE102014112837A1 (de) | Elektronische Vorrichtung und Informationsverarbeitungsverfahren | |
US10156984B2 (en) | Method for implementing control of keys of virtual keyboard on wide touch screen with two thumbs | |
Jung et al. | Development of a two-step touch method for website navigation on smartphones | |
DE102012220062A1 (de) | Einstellung mehrerer benutzereingabeparameter | |
CN104216644A (zh) | 一种映射被遮挡区的系统和方法 | |
CN104407753A (zh) | 一种触摸屏界面操作方法和终端设备 | |
CN106325490A (zh) | 控制电子设备的方法及电子设备 | |
CN105283124B (zh) | 用于外科手术控制台的图形用户界面 | |
Colley et al. | Guided touch screen: Enhanced eyes-free interaction | |
KR20160050972A (ko) | 이미지 작업 히스토리 표시를 위한 장치, 방법 및 컴퓨터 프로그램 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
CB02 | Change of applicant information |
Address after: 200233 Shanghai, Yishan Road, room 822, No. 408, room Applicant after: Shanghai Green Technology Co., Ltd. Address before: 200233 Shanghai, Yishan Road, room 822, No. 408, room Applicant before: Shanghai QingTech Information Technology Co.,Ltd. |
|
COR | Change of bibliographic data | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20161012 |
|
RJ01 | Rejection of invention patent application after publication |