CN108984489A - 用于电子文档的阅读方法、装置、终端设备及存储介质 - Google Patents

用于电子文档的阅读方法、装置、终端设备及存储介质 Download PDF

Info

Publication number
CN108984489A
CN108984489A CN201810784394.2A CN201810784394A CN108984489A CN 108984489 A CN108984489 A CN 108984489A CN 201810784394 A CN201810784394 A CN 201810784394A CN 108984489 A CN108984489 A CN 108984489A
Authority
CN
China
Prior art keywords
blinkpunkt
user
electronic document
reading
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810784394.2A
Other languages
English (en)
Other versions
CN108984489B (zh
Inventor
孔祥晖
秦林婵
黄通兵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Qixin Yiwei Information Technology Co Ltd
Original Assignee
Beijing Qixin Yiwei Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Qixin Yiwei Information Technology Co Ltd filed Critical Beijing Qixin Yiwei Information Technology Co Ltd
Priority to CN201810784394.2A priority Critical patent/CN108984489B/zh
Publication of CN108984489A publication Critical patent/CN108984489A/zh
Application granted granted Critical
Publication of CN108984489B publication Critical patent/CN108984489B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/103Formatting, i.e. changing of presentation of documents
    • G06F40/117Tagging; Marking up; Designating a block; Setting of attributes

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Abstract

本发明实施例公开了用于电子文档的阅读方法、装置、终端设备及存储介质。该方法包括:通过在接收到电子文档的打开指令后,获取电子文档标识;获取用户的身份标识,并基于用户身份标识和电子文档标识查找相应的阅读中断信息;在阅读终端信息为空时,确定用户注视阅读界面的目标注视点,并在目标注视点离开阅读界面时确定中断坐标和阅读界面的终端页码更新存储阅读中断信息。采用上述技术方案减少了继续阅读时的准备时间,增强了用户的阅读体验。

Description

用于电子文档的阅读方法、装置、终端设备及存储介质
技术领域
本发明实施例涉及电子信息技术领域,尤其涉及用于电子文档的阅读方法、 装置、终端设备及存储介质。
背景技术
由于携带方便以及文本数据资源丰富,使得用于文本显示的终端设备逐渐 受到阅读用户的青睐。
当用户使用终端设备进行阅读的过程中,由于中途离开不得不暂停阅读或 将终端设备转借他人使用后,当用户继续阅读同一文本时,通常需要耗费一定 的时间来寻找上次阅读的中断位置,影响了用户的阅读效率,同时降低了用户 的阅读体验。
发明内容
本发明提供用于电子文档的阅读方法、装置、终端设备及存储介质,以实 现使用终端设备阅读中断后能够自动定位到中断位置,提升用户的阅读体验。
第一方面,本发明实施例提供了一种用于电子文档的阅读方法,该方法包 括:
在接收到电子文档的打开指令后,获取电子文档标识;
获取用户的用户身份标识,并基于所述用户身份标识和所述电子文档标识 查找相应的阅读中断信息;
若所述阅读中断信息为空,则确定所述用户的注视阅读界面的目标注视点;
当所述目标注视点离开所述阅读界面时,获取所述阅读界面的页码标签作 为中断页码,并结合所述目标注视点的坐标形成新的阅读中断信息;
将新的阅读中断信息与所述用户身份标识和所述电子文档标识对应存储。 第二方面,本发明实施例还提供了一种用于电子文档的阅读装置,该装置包括:
获取模块,用于在接收到电子文档的打开指令后,获取电子文档标识;
查找模块,用于获取用户的用户身份标识,并基于所述用户身份标识和所 述电子文档标识查找相应的阅读中断信息;
注视点确定模块,用于在所述阅读中断信息为空时,确定所述用户的注视 阅读界面的目标注视点;
中断信息确定模块,用于在所述目标注视点离开所述阅读界面时,获取所 述阅读界面的页码标签作为中断页码,并结合所述目标注视点的坐标形成新的 阅读中断信息;
存储模块,用于将新的阅读中断信息与所述用户身份标识和所述电子文档 标识对应存储。
第三方面,本发明实施例还提供了一种终端设备,包括红外光源、红外摄 像头和显示装置,该终端设备还包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
所述一个或多个程序被所述一个或多个处理器执行,使用所述一个或多个 处理器实现本发明任一实施例所提供的一种用于电子文档的阅读方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有 计算机程序,该程序被处理器执行时实现本发明任一实施例所提供的一种用于 电子文档的阅读方法。
本发明实施例通过在接收到电子文档的打卡指令后,获取电子文档标识; 获取用户的身份标识,并基于用户身份标识和电子文档标识查找相应的阅读中 断信息;在阅读终端信息为空时,确定用户注视阅读界面的目标注视点,并在 目标注视点离开阅读界面时确定中断坐标和阅读界面的终端页码更新存储阅读 中断信息。采用上述技术方案解决了阅读用户中途暂停阅读或将终端设备转借 给他人使用后,继续阅读同一文本需要花费时间寻找上次阅读的中断位置的技 术问题,减少了继续阅读时的准备时间,增强了用户的阅读体验。
附图说明
图1是本发明实施例一中的用于电子文档的阅读方法的流程示意图;
图2A是本发明实施例二中的用于电子文档的阅读方法的流程示意图;
图2B是本发明实施例二中的用户采用终端设备阅读电子文档的示意图;
图2C是阅读界面的示意图;
图3A是本发明实施例三中的用于电子文档的阅读方法的流程示意图;
图3B是本发明实施例三中的目标注视点确定原理示意图;
图4是本发明实施例四中的用户电子文档的阅读装置的结构示意图;
图5是本发明实施例五中的一种终端设备的硬件结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此 处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需 要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结 构。
实施例一
图1是本发明实施例一中的用于电子文档的阅读方法的流程示意图。本实 施例可适用于采用配备红外摄像头和红外光源的终端设备进行电子文档阅读的 情况,该方法可以由用于电子文档的阅读装置来执行,该装置由软件和/或硬件 组成,并配置于终端设备上,该方法具体包括:
S110、在接收到电子文档的打开指令后,获取电子文档标识。
其中,电子文档是指以计算机盘片、磁盘、光盘以及存储卡等固态存储介 质或者云端等非固态存储介质为载体的文字材料。其中,电子文档包括电子书、 电子信件以及电子图纸等。其中,电子文档标识可以是电子文档的存储地址、 存储编号或者名称等。
在用户打开终端设备中的电子文档进行阅读时,对应生成一条打开指令。 当终端设备接收到该打开指令后,终端设备会获取电子文档标识。
S120、获取用户的用户身份标识,并基于所述用户身份标识和所述电子文 档标识查找相应的阅读中断信息。
示例性地,可以通过人脸识别、结构光和/或飞行时间技术确定用户身份标 识;示例性地,还可以根据虹膜、视网膜和/或声纹等信息确定用户身份标识; 示例性地,还可以根据用户登录的电子文档账户信息等确定用户身份标识。
终端设备基于确定的用户身份标识和获取的电子文档标识在存储服务器或 云端中查找确定当前用户阅读该电子文档标识所对应的电子文档的阅读记录。 其中,阅读记录至少包括用户身份标识所对应的阅读用户阅读电子文档标识所 对应的电子文档的阅读中断信息。
S130、若所述阅读中断信息为空,则确定所述用户注视阅读界面的目标注 视点。
示例性地,可以通过拍摄眼睛图像,并基于所拍摄的眼睛图像追踪用户视 线,以确定用户注视阅读界面的目标注视点;还可以通过巩膜接触镜、微机械 系统、肌电流以及电容等的一种或几种来追踪用户视线,以确定用户注视阅读 界面的目标注视点。
S140、当所述目标注视点离开所述阅读界面时,确定相应的目标用户注视 点的坐标为中断坐标。
当基于用户身份标识和电子文档标识查找相应的阅读中断信息失败时,表 示当前阅读用户第一次使用该终端设备阅读当前电子文档,因此在存储服务器 或云端中并不存在与用户身份标识和电子文档标识相对应的阅读中断信息。因 此,需要在当前阅读用户结束本次阅读时的目标用户注视点的坐标作为中断坐 标,以对应更新阅读中断信息。
其中,终端设备根据目标注视点确定当前阅读界面是否离开阅读界面。其 中,离开阅读界面包括下述至少一种情况:最小化阅读界面;关闭阅读界面; 切换显示其他界面;目标注视点超出当前阅读界面;以及,用户视线离开阅读 界面超过固定时间阈值;示例性地,固定时间阈值可以是5秒。
S150、获取所述阅读界面的页码标签作为中断页码,并结合所述中断坐标 形成新的阅读中断信息。
其中,中断页码是指用户视线离开阅读界面时,阅读界面所显示文本的页 码标签。其中,中断页码可以在确定用户视线离开阅读界面时,由终端设备通 过屏幕抓取分析的方式获取;也可以实时获取文档页码,并在确定用户视线离 开阅读界面后进行存储;还可以在用户阅读电子文档时,根据用户翻页的次数 累计确定。
S160、将新的阅读中断信息与所述用户身份标识和所述电子文档标识对应 存储。
将新的阅读中断信息存储到存储服务器或云端中与用户身份标识和电子文 档标识所对应的阅读记录中。
本发明实施例通过在接收到电子文档的打卡指令后,获取电子文档标识; 获取用户的身份标识,并基于用户身份标识和电子文档标识查找相应的阅读中 断信息;在阅读终端信息为空时,确定用户注视阅读界面的目标注视点,并在 目标注视点离开阅读界面时确定中断坐标和阅读界面的终端页码更新存储阅读 中断信息。采用上述技术方案解决了阅读用户中途暂停阅读或将终端设备转借 给他人使用后,继续阅读同一文本需要花费时间寻找上次阅读的中断位置的技 术问题,减少了继续阅读时的准备时间,增强了用户的阅读体验。
实施例二
图2A为本发明实施例二提供的用于电子文档的阅读方法的流程示意图。 本发明实施例在上述各实施例的技术方案的基础上,进行了优化。
进一步地,将特征“获取用户的用户身份标识”细化为“获取用户的第一 眼睛图像,并基于所述第一眼睛图像获取用户身份标识”;相应的,将特征“若 所述阅读中断信息为空,则确定所述用户注视阅读界面的目标注视点”细化为 “若所述阅读中断信息为空,则捕获用户的第二眼睛图像;基于所述第二眼睛 图像,提取眼球标志点位置和终端设备所配置的红外光源所对应的角膜反射光 斑位置,并结合注视点算法确定与所述眼球标志点位置相对应的目标注视点”; 相应的,将特征“当所述目标注视点离开所述阅读界面时,确定相应的目标用 户注视点的坐标为中断坐标”细化为“当所述目标注视点离开阅读界面时,确 定上一帧第二眼睛图像所对应的目标注视点的坐标为中断坐标”,以进一步完善 用户身份标识和目标注视点的确定方式。
S210、在接收到电子文档的打开指令后,获取电子文档标识,并获取用户 的第一眼睛图像。
其中,第一眼睛图像可以是包含用户眼睛的图像,用以基于该第一眼睛图 像确定当前电子文档阅读用户。
在用户打开终端设备中的电子文档进行阅读时,对应生成一条打开指令。 当终端设备接收到该打开指令后,终端设备会获取电子文档标识,同时接收红 外摄像头采集或捕获的用户的第一眼睛图像。
S220、基于所述第一眼睛图像获取用户身份标识,并基于所述用户身份标 识和所述电子文档标识查找相应的阅读中断信息;
其中,用户身份标识可以是第一眼睛图像按照设定规则提取的特征点形成 的特征向量;用户身份标识还可以是第一眼睛图像确定的人体特征信息。示例 性的,人体特征信息可以是虹膜信息,其中虹膜信息包括但不限于眼睛的斑点、 细丝、冠状、条纹及隐窝等。
终端设备基于第一眼睛图像确定当前阅读用户的用户身份标识,并基于该 用户身份标识和获取的电子文档标识在存储服务器或云端中查找确定当前用户 阅读该电子文档标识所对应的电子文档的阅读记录。其中,阅读记录至少包括 用户身份标识所对应的阅读用户阅读电子文档标识所对应的电子文档的阅读中 断信息。其中,阅读中断信息包括中断坐标和中断页码。其中,中断页码可以 理解为当前用户结束上次阅读时,阅读界面所显示电子文档的页码标签。其中, 中断坐标可以理解为当前用户结束上一次阅读时,用户的注视点所对应的阅读 界面的二维坐标。
S230、若所述阅读中断信息为空,则捕获用户的第二眼睛图像。
S240、基于所述第二眼睛图像,提取眼球标志点位置和终端设备所配置的 红外光源所对应的角膜反射光斑位置,并结合注视点算法确定与所述眼球标志 点位置相对应的目标注视点。
终端设备的显示屏幕所在侧配置有至少一个红外光源和一个红外摄像头。 因此红外摄像头所捕获的当前阅读用户的第二眼睛图像中会存在至少一个红外 光源在角膜上对应形成的角膜反射光斑。终端设备基于第二眼睛图像提取至少 一个角膜反射光斑和眼球标志点,确定各角膜反射光斑和眼球标志点在第二眼 睛图像所在平面的二维坐标分别作为角膜反射光斑位置和眼球标志点位置。终 端设备基于确定的角膜反射光斑位置和眼球标志点位置,结合注视点算法确定 终端设备显示屏幕上与眼球标志点位置相对应的注视点作为目标注视点。
其中,眼球标志点包括瞳孔中心和/或虹膜-巩膜边缘的中心。需要说明的是, 注视点算法可以是预先根据大量的角膜反射光斑位置和眼球标志点位置以及与 眼球标志点位置相对应的已知目标注视点所确定的注视点确定模型的函数表达 式。需要说明的是,注视点确定模型可以是基于阅读用户的左眼的眼睛图像所 提取的膜反射光斑位置和眼球标志点位置所确定,也可以是基于阅读用户的右 眼的眼睛图像所提取的膜反射光斑位置和眼球标志点位置所确定,还可以是基 于阅读用户的双眼的眼睛图像所提取的膜反射光斑位置和眼球标志点位置所确 定。
S250、当所述目标注视点离开阅读界面时,确定上一帧第二眼睛图像所对 应的目标注视点的坐标为中断坐标。
终端设备根据目标注视点确定当前阅读界面是否离开阅读界面。其中,离 开阅读界面包括下述至少一种情况:最小化阅读界面;关闭阅读界面;切换显 示其他界面;目标注视点超出当前阅读界面;以及,用户视线离开阅读界面超 过固定时间阈值;示例性地,固定时间阈值可以是5秒。
当用户执行了最小化或关闭阅读界面的操作后,会产生对应的最小化指令 或关闭指令。相应的,终端设备接收该最小化指令或关闭指令,并确定用户视 线离开了该阅读界面。其中,用户执行的操作可以是按钮点击、手势呈现、图 案绘制以及语音控制等。当用户重新打开了其他显示界面,并且打开的显示界 面覆盖了电子文档的阅读界面,会生成对应的失活指令。相应的,终端设备接 收该失活指令,并确定用户视线离开了该阅读界面。或者,当用户视线离开阅 读界面并离开时间超过了固定时间阈值,终端设备确定用户视线离开了该阅读 界面。
当确定目标注视点离开阅读界面时,获取上一帧第二眼睛图像,并确定上 一帧第二眼睛图像所对应的目标注视点的坐标为中断坐标。中断坐标可以理解 为用户最后一次注视点在阅读界面上的二维坐标,以记录用户离开阅读界面时 的位置信息。需要说明的是,可以将坐标原点设置在阅读界面的左边界和下边 界的交点,也可以将坐标原点设定为终端设备显示屏幕的任意位置,对此不做 任何限定。
示例性地,图2B示意性给出了用户采用终端设备阅读电子文档的情况。如 图2B所示当用户11在终端设备12的显示屏幕前方时,使用红外摄像头14获 取用户11的第二眼睛图像,并根据第二眼睛图像确定用户11的注视点。确定 阅读界面13的左边界线与下边界线的交点O为原点;以下边界线为X轴,并 确定右侧为X轴正方向;确定左边界为Y轴,并确定向上为Y轴正方向,建立 阅读界面坐标系。若在阅读界面坐标系中确定的用户11的注释点为A注视点, 因为A注释点的坐标位于阅读界面中,则表示用户11正在阅读。当下一次使 用红外摄像头14获取用户11的当前眼睛图像,并基于该当前眼睛图像确定用 户11的注释点为B注视点。因为B注视点的坐标为阅读边界以外,则确定用 户11的用户视线离开阅读界面,并将A注视点的坐标确定为中断坐标。
S260、获取所述阅读界面的页码标签作为中断页码,并结合所述中断坐标 形成新的阅读中断信息。
其中,中断页码是指用户视线离开阅读界面时,阅读界面所显示文本的页 码标签。其中,中断页码可以在确定用户视线离开阅读界面时,由终端设备通 过屏幕抓取分析的方式获取;也可以实时获取文档页码,并在确定用户视线离 开阅读界面后进行存储;还可以在用户阅读电子文档时,根据用户翻页的次数 累计确定。
示例性地,图2C所示的阅读界面包括当前显示电子文档的标题15、文本 内容16以及页码18。其中,用户注视点位于注视点17所在位置。“MM”为 阅读界面当前显示电子文档的页码18。当图2C中的阅读界面为上一帧第二眼 睛图像所对应的阅读界面时,可以将标题为“XXX电子书”的电子文档的名称 或存储地址作为电子文档标识,可以将页码“MM”作为中断页码,可以将注 视点17的坐标作为中断坐标。
S270、将新的阅读中断信息与所述用户身份标识和所述电子文档标识对应 存储。
将新的阅读中断信息存储到存储服务器或云端中与用户身份标识和电子文 档标识所对应的阅读记录中。
本发明实施例通过在接收到电子文档的打开指令后,获取电子文档标识, 并获取用户的第一眼睛图像;基于所述第一眼睛图像获取用户身份标识,并结 合所述电子文档标识查找相应的阅读中断信息;在所述阅读中断信息为空时, 追踪用户的注视点,并在目标注视点离开阅读界面时,确定中断坐标和阅读界 面的中断页码更新存储阅读中断信息。采用上述技术方案解决了阅读用户中途 暂停阅读或将终端设备转借给他人使用后,继续阅读同一文本需要花费时间寻 找上次阅读的中断位置的技术问题,减少了继续阅读时的准备时间,增强了用 户的阅读体验。
实施例三
图3A是实施例三提供的用于电子文档的阅读方法的流程示意图,该实施 例在上述各实施例的技术方案的基础上,将特征进行了进一步的细化和追加。
进一步地,在步骤“基于所述用户身份标识和所述电子文档标识查找相应 的阅读中断信息”之后,追加特征“若所述阅读中断信息不为空,则控制当前 阅读界面显示与所述阅读中断信息所包含的中断页码所在页的文本内容,并区 别显示与所述中断坐标相对应的文本内容;继续执行捕获用户的第二眼睛图像 的操作,直至对应存储新的阅读中断信息”,用于在查找到阅读中断信息时告知 用户上次中断阅读时的位置信息,;同时继续追踪用户视线并在中断本次阅读时 更新阅读中断信息。
进一步地,在步骤“基于所述第二眼睛图像,提取眼球标志点位置和终端 设备所配置的红外光源所对应的角膜反射光斑位置,并结合注视点算法确定与 所述眼球标志点位置相对应的目标注视点”进一步细化为“基于所述第二眼睛 图像,提取眼球标志点位置以及与终端设备所配置的红外光源所对应的至少一 个角膜反射光斑位置;根据各角膜反射光斑位置以及与各角膜反射光斑所对应 的红外光源的预设标准化坐标,确定将角膜反射光斑所在第一平面映射到标准 化平面的第一映射系数;根据所述第一映射系数与所述眼球标志点位置的乘积, 确定所述标准化平面中与所述眼球标志点位置相对应的标准眼球标志位;根据 第二映射系数与所述标准眼球标志位的乘积,确定与所述眼球标志点位置相对 应的目标注视点;其中所述第二映射系数根据已知的注视点和相应的标准眼球 标志位构建线性模型确定”,以完善目标注视点确定步骤。
进一步地,将特征“目标注视点离开阅读界面”细化为“所述目标注视点 的坐标超出所述阅读界面所在区域;和/或所述目标注释点与上一帧第二眼睛图 像所对应的目标注视点的坐标差值超出设定阈值”,以便进一步完善确定目标注 视点离开阅读界面的方式。
如图3A所示的用于电子文档的阅读方法,该包括:
S310、在接收到电子文档的打开指令后,获取电子文档标识,并获取用户 的第一眼睛图像。
S320、基于所述第一眼睛图像获取用户身份标识,并基于所述用户身份标 识和所述电子文档标识查找相应的阅读中断信息。
S330、判断阅读中断信息是否为空;如果否,则执行S340;如果是则执行S350。
S340、控制当前阅读界面显示与所述阅读中断信息所包含的中断页码所在 页的文本内容,并区别显示与所述中断坐标相对应的文本内容,继续执行S350。
终端设备控制当前阅读界面显示与电子文档标识所对应的电子文档中,阅 读中断信息所包含的中断页码所在页的文本内容。同时,终端设备区别显示当 前阅读界面中与中断坐标所对应的文本内容。其中,区别显示可以采用以下至 少一种方式:加粗显示、高亮显示、阴影显示、添加背景颜色、改变字体颜色、 改变字体大小、添加下划线以及斜体显示等。
S350、捕获用户的第二眼睛图像。
将步骤“基于所述第二眼睛图像,提取眼球标志点位置和终端设备所配置 的红外光源所对应的角膜反射光斑位置,并结合注视点算法确定与所述眼球标 志点位置相对应的目标注视点”进一步细化为S361~S364。
S361、基于所述第二眼睛图像,提取眼球标志点位置以及与终端设备所配 置的红外光源所对应的至少一个角膜反射光斑位置。
图3B示意性的给出了终端设备中设置三个不共线的红外光源L1、L2和L3的情况,红外光源L1、L2和L3辐射红外光后,将会在当前阅读用户的角膜中反 射形成相应的三个角膜反射光斑V1、V2和V3。用户在终端设备屏幕上形成的 注视点J与第二眼睛图像中的眼球标志点P相对应。
终端设备可以首先从红外摄像头所捕获的第二眼睛图像中选取眼睛区域, 然后再确定眼睛区域中所包含各眼球标志点以及角膜反射光斑的位置。以下内 容均以选取左眼的眼睛区域为例进行说明。
示例性地,可以通过动态阈值来选取指定区域中具有白色光斑(对应角膜 反射光斑)的区域作为候选区域,然后再在候选区域中动态阈值检测是否含有 黑色像素点(对应眼球标志点),如果存在黑色像素点则确定候选区域为眼睛 区域。其中,眼球标志点为眼球瞳孔中心和/或虹膜-巩膜边缘的中心。
S362、根据各角膜反射光斑位置以及与各角膜反射光斑所对应的红外光源 的预设标准化坐标,确定将角膜反射光斑所在第一平面映射到标准化平面的第 一映射系数。
如图3B所示,将V1V2V3所在第一平面映射到标准化平面N1N2N3,其中标 准反射点N1与角膜反射光斑V1相对应;其中标准反射点N2与角膜反射光斑 V2相对应;其中标准反射点N3与角膜反射光斑V3相对应;标准眼球标志位Q 与眼球标志点P相对应。
根据公式确定第一映射系数N。其中,(xvi,yvi)(i=1,2,3)分别对应角膜反射光斑V1、V2和V3的位置坐标;(xni,yni)(i=1,2,3) 分别对应标准反射点N1、N2和N3的位置坐标,且N1、N2和N3的位置坐标已 知;其中未知数n11、n12、n13、n21、n22和n23是第一映射系数N中的部分矩阵 元。通过求解n11、n12、n13、n21、n22和n23即可最终确定第一映射系数N。
S363、根据所述第一映射系数与所述眼球标志点位置的乘积,确定所述标 准化平面中与所述眼球标志点位置相对应的标准眼球标志位。
根据公式确定标准化平面中与眼球标志点P所对应的标准眼球标注点Q的标准眼球标志位(xQ,yQ)。
S364、根据第二映射系数与所述标准眼球标志位的乘积,确定与所述眼球 标志点位置相对应的目标注视点。
根据公式确定与眼球标志点P相对应的目标注视点J。其中, (xQ,yQ)为眼球标志点P在第一平面的位置坐标;(xJ,yJ)为确定的目标注视点J 在阅读界面所在平面的位置坐标。其中,第二映射系数M根据已知的注视点和 相应的标准眼球标志位构建线性模型确定。
S370、当所述目标注视点离开阅读界面时,确定上一帧第二眼睛图像所对 应的目标注视点的坐标为中断坐标。
其中,目标注视点离开阅读界面包括:所述目标注视点的坐标超出所述阅 读界面所在区域;和/或所述目标注释点与上一帧第二眼睛图像所对应的目标注 视点的坐标差值超出设定阈值。
S380、获取所述阅读界面的页码标签作为中断页码,并结合所述中断坐标 形成新的阅读中断信息。
其中,终端设备获取阅读界面的页码标签的方式可以是以下至少一种:由 终端设备通过屏幕抓取分析的方式获取;实时获取页码标签,并在确定用户视 线离开阅读界面后进行存储;在用户阅读电子文档时,根据用户翻页的次数累 计确定。
S390、将新的阅读中断信息与所述用户身份标识和所述电子文档标识对应 存储。
终端设备将中断页码以及中断坐标作为阅读中断信息存储至与所述用户身 份标识和电子文档标识相对应的阅读记录中。通过将阅读中断信息与用户身份 标识的对应存储,可以在终端设备被至少一个用户共享使用时,能够有效区分 不同用户的阅读记录;通过将阅读中断信息与电子文档标识的对应存储,可以 在使用同一终端设备阅读不同电子文档时,能够有效区分不同电子文档的阅读 记录。
本发明实施例通过追加阅读中断信息不为空时,控制当前阅读界面显示文 本内容以告知用户上次中断阅读时的位置信息,同时继续追踪用户视线并在中 断本次阅读时更新阅读中断信息;通过细化注视点确定步骤以进一步完善注视 点确定方案;通过细化目标注视点离开阅读界面的相关特征进一步完善了目标 注视点离开的确定方式。采用上述技术方案解决了阅读用户中途暂停阅读或将 终端设备转借给他人使用后,继续阅读同一文本需要花费时间寻找上次阅读的 中断位置的技术问题,减少了继续阅读时的准备时间,增强了用户的阅读体验。
实施例四
图4是本发明实施例四提供的用户电子文档的阅读装置的结构示意图,本 实施例可适用于于采用配备有眼动图像采集装置的终端设备进行电子文档阅读 的情况,该装置具体包括:获取模块410,查找模块420,注视点确定模块430, 中断坐标确定模块440,中断信息确定模块450以及存储模块460,其中:
获取模块410,用于在接收到电子文档的打开指令后,获取电子文档标识;
查找模块420,用于获取用户的用户身份标识,并基于所述用户身份标识 和所述电子文档标识查找相应的阅读中断信息;
注视点确定模块430,用于在所述阅读中断信息为空时,确定所述用户的 注视阅读界面的目标注视点;
中断坐标确定模块440,用于在所述目标注视点离开所述阅读界面时,确 定相应的目标用户注视点的坐标为中断坐标;
中断信息确定模块450,用于获取所述阅读界面的页码标签作为中断页码, 并结合所述中断坐标形成新的阅读中断信息;
存储模块460,用于将新的阅读中断信息与所述用户身份标识和所述电子 文档标识对应存储。
本发明实施例通过获取模块在接收到电子文档的打卡指令后,获取电子文 档标识;通过查找模块获取用户的身份标识,并基于用户身份标识和电子文档 标识查找相应的阅读中断信息;通过注视点确定模块在阅读终端信息为空时, 确定用户注视阅读界面的目标注视点,并通过中断坐标确定模块和中断信息确 定模块在目标注视点离开阅读界面时确定中断坐标和阅读界面的终端页码更新 阅读中断信息,通过存储模块对应存储阅读中断信息。采用上述技术方案解决 了阅读用户中途暂停阅读或将终端设备转借给他人使用后,继续阅读同一文本 需要花费时间寻找上次阅读的中断位置的技术问题,减少了继续阅读时的准备 时间,增强了用户的阅读体验。
在上述实施例的技术方案的基础上,进一步地,所述查找模块420,用于 获取用户的第一眼睛图像,并基于所述第一眼睛图像获取用户身份标识;
在上述实施例的技术方案的基础上,进一步地,所述注视点确定模块430, 包括:
眼睛图像捕获单元,用于捕获用户的第二眼睛图像;
注视点确定单元,用于基于所述第二眼睛图像,提取眼球标志点位置和终 端设备所配置的红外光源所对应的角膜反射光斑位置,并结合注视点算法确定 与所述眼球标志点位置相对应的目标注视点。
在上述实施例的技术方案的基础上,进一步地,所述中断坐标确定模块440, 包括:
中断坐标确定单元,用于在所述目标注视点离开阅读界面时,确定上一帧 第二眼睛图像所对应的目标注视点的坐标为中断坐标。
在上述实施例的技术方案的基础上,进一步地,该装置还包括:
控制显示模块,用于在所述阅读中断信息不为空时,控制当前阅读界面显 示与所述阅读中断信息所包含的中断页码所在页的文本内容,并区别显示与所 述中断坐标相对应的文本内容。
在上述实施例的技术方案的基础上,进一步地,所述注视点确定单元,包 括:
提取子单元,用于基于所述第二眼睛图像,提取眼球标志点位置以及与终 端设备所配置的红外光源所对应的至少一个角膜反射光斑位置;
第一确定子单元,用于根据各角膜反射光斑位置以及与各角膜反射光斑所 对应的红外光源的预设标准化坐标,确定将角膜反射光斑所在第一平面映射到 标准化平面的第一映射系数;
第二确定子单元,用于根据所述第一映射系数与所述眼球标志点位置的乘 积,确定所述标准化平面中与所述眼球标志点位置相对应的标准眼球标志位;
第三确定子单元,用于根据第二映射系数与所述标准眼球标志位的乘积, 确定与所述眼球标志点位置相对应的目标注视点;其中所述第二映射系数根据 已知的注视点和相应的标准眼球标志位构建线性模型确定。
在上述实施例的技术方案的基础上,进一步地,所述目标注视点离开阅读 界面,包括:
所述目标注视点的坐标超出所述阅读界面所在区域;和/或
所述目标注释点与上一帧第二眼睛图像所对应的目标注视点的坐标差值超 出设定阈值。
在上述实施例的技术方案的基础上,进一步地,所述眼球标志点为眼球瞳 孔中心和/或虹膜-巩膜边缘的中心。
在上述实施例的技术方案的基础上,进一步地,所述用户身份标识为虹膜 信息。
上述用于电子文档的阅读装置可执行本发明任意实施例所提供的用于电子 文档的阅读方法,具备执行用于电子文档的阅读方法相应的功能模块和有益效 果。
实施例五
图5是本发明实施例五提供的一种终端设备的硬件结构示意图,如图5所 示,本发明实施例四提供的终端设备包括红外光源510、红外摄像头520、显示 装置530、处理器540以及存储装置550。该终端设备具体包括:
红外光源510,用于发射红外光,以在用户角膜中形成角膜反射光斑;
红外摄像头520,用于在接收到电子文档的打开指令后,获取用户的第一 眼睛图像;还用于在所述阅读中断信息为空,捕获用户的第二眼睛图像;
显示装置530,用于展示电子文档阅读界面;
一个或多个处理器540;
存储装置550,用于存储一个或多个程序;
图5中以一个处理器540为例,所述终端设备中的红外光源510、红外摄 像头520和显示装置530可以通过总线或其他方式与处理器540以及存储装置 550相连,且处理器540和存储装置550也通过总线或其他方式连接,图5中 以通过总线连接为例。
该终端设备中的存储装置550作为一种计算机可读存储介质,可用于存储 一个或多个程序,所述程序可以是软件程序、计算机可执行程序以及模块,如 本发明实施例中用于电子文档的阅读方法对应的程序指令/模块(例如,附图4 所示的用于电子文档的阅读装置中的模块,包括:获取模块410,查找模块420, 注视点确定模块430,中断坐标确定模块440,中断信息确定模块450以及存储 模块460)。处理器540通过运行存储在存储装置550中的软件程序、指令以及 模块,从而执行终端设备的各种功能应用以及数据处理,即实现上述方法实施 例中用于电子文档的阅读方法。
存储装置550可包括存储程序区和存储数据区,其中,存储程序区可存储 操作系统、至少一个功能所需的应用程序;存储数据区可存储根据设备的使用 所创建的数据等(如上述实施例中的电子文档标识、用户身份标识、目标注视 点以及阅读中断信息等)。此外,存储装置550可以包括高速随机存取存储器, 还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他 非易失性固态存储器件。在一些实例中,存储装置550可进一步包括相对于处 理器540远程设置的存储器,这些远程存储器可以通过网络连接至设备。上述 网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
此外,本发明实施例还提供一种计算机可读存储介质,其上存储有计算机 程序,该程序被用于电子文档的阅读装置执行时实现本发明各实施例提供的用 于电子文档的阅读方法,该方法包括:在接收到电子文档的打开指令后,获取 电子文档标识;获取用户的用户身份标识,并基于所述用户身份标识和所述电 子文档标识查找相应的阅读中断信息;若所述阅读中断信息为空,则确定所述 用户注视阅读界面的目标注视点;当所述目标注视点离开所述阅读界面时,确 定相应的目标用户注视点的坐标为中断坐标;获取所述阅读界面的页码标签作 为中断页码,并结合所述中断坐标形成新的阅读中断信息;将新的阅读中断信 息与所述用户身份标识和所述电子文档标识对应存储。
通过以上关于实施方式的描述,所属领域的技术人员可以清楚地了解到, 本发明可借助软件及必需的通用硬件来实现,当然也可以通过硬件实现,但很 多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上 或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机 软件产品可以存储在计算机可读存储介质中,如计算机的软盘、只读存储器 (Read-Only Memory,ROM)、随机存取存储器(RandomAccess Memory,RAM)、 闪存(FLASH)、硬盘或光盘等,包括若干指令用以使得一台计算机设备(可以 是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员 会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进 行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽 然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以 上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例, 而本发明的范围由所附的权利要求范围决定。

Claims (10)

1.一种用于电子文档的阅读方法,其特征在于,包括:
在接收到电子文档的打开指令后,获取电子文档标识;
获取用户的用户身份标识,并基于所述用户身份标识和所述电子文档标识查找相应的阅读中断信息;
若所述阅读中断信息为空,则确定所述用户注视阅读界面的目标注视点;
当所述目标注视点离开所述阅读界面时,确定相应的目标用户注视点的坐标为中断坐标;
获取所述阅读界面的页码标签作为中断页码,并结合所述中断坐标形成新的阅读中断信息;
将新的阅读中断信息与所述用户身份标识和所述电子文档标识对应存储。
2.根据权利要求1所述的方法,其特征在于,所述获取用户的用户身份标识,包括:获取用户的第一眼睛图像,并基于所述第一眼睛图像获取用户身份标识;
相应的,若所述阅读中断信息为空,则确定所述用户注视阅读界面的目标注视点,包括:
若所述阅读中断信息为空,则捕获用户的第二眼睛图像;
基于所述第二眼睛图像,提取眼球标志点位置和终端设备所配置的红外光源所对应的角膜反射光斑位置,并结合注视点算法确定与所述眼球标志点位置相对应的目标注视点;
相应的,所述当所述目标注视点离开所述阅读界面时,确定相应的目标用户注视点的坐标为中断坐标,包括:
当所述目标注视点离开阅读界面时,确定上一帧第二眼睛图像所对应的目标注视点的坐标为中断坐标。
3.根据权利要求2所述的方法,其特征在于,在所述基于所述用户身份标识和所述电子文档标识查找相应的阅读中断信息之后,还包括:
若所述阅读中断信息不为空,则控制当前阅读界面显示与所述阅读中断信息所包含的中断页码所在页的文本内容,并区别显示与所述中断坐标相对应的文本内容;
继续执行捕获用户的第二眼睛图像的操作,直至对应存储新的阅读中断信息。
4.根据权利要求2所述的方法,其特征在于,所述基于所述第二眼睛图像,提取眼球标志点位置和终端设备所配置的红外光源所对应的角膜反射光斑位置,并结合注视点算法确定与所述眼球标志点位置相对应的目标注视点,包括:
基于所述第二眼睛图像,提取眼球标志点位置以及与终端设备所配置的红外光源所对应的至少一个角膜反射光斑位置;
根据各角膜反射光斑位置以及与各角膜反射光斑所对应的红外光源的预设标准化坐标,确定将角膜反射光斑所在第一平面映射到标准化平面的第一映射系数;
根据所述第一映射系数与所述眼球标志点位置的乘积,确定所述标准化平面中与所述眼球标志点位置相对应的标准眼球标志位;
根据第二映射系数与所述标准眼球标志位的乘积,确定与所述眼球标志点位置相对应的目标注视点;其中所述第二映射系数根据已知的注视点和相应的标准眼球标志位构建线性模型确定。
5.根据权利要求2-4任一项所述的方法,其特征在于,所述目标注视点离开阅读界面,包括:
所述目标注视点的坐标超出所述阅读界面所在区域;和/或
所述目标注释点与上一帧第二眼睛图像所对应的目标注视点的坐标差值超出设定阈值。
6.根据权利要求5所述的方法,其特征在于,所述眼球标志点为眼球瞳孔中心和/或虹膜-巩膜边缘的中心。
7.根据权利要求5所述的方法,其特征在于,所述用户身份标识为虹膜信息。
8.一种用于电子文档的阅读装置,其特征在于,包括:
获取模块,用于在接收到电子文档的打开指令后,获取电子文档标识;
查找模块,用于获取用户的用户身份标识,并基于所述用户身份标识和所述电子文档标识查找相应的阅读中断信息;
注视点确定模块,用于在所述阅读中断信息为空时,确定所述用户的注视阅读界面的目标注视点;
中断坐标确定模块,用于在所述目标注视点离开所述阅读界面时,确定相应的目标用户注视点的坐标为中断坐标;
中断信息确定模块,用于获取所述阅读界面的页码标签作为中断页码,并结合所述中断坐标形成新的阅读中断信息;
存储模块,用于将新的阅读中断信息与所述用户身份标识和所述电子文档标识对应存储。
9.一种终端设备,包括红外光源、红外摄像头和显示装置,其特征在于,还包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
所述一个或多个程序被所述一个或多个处理器执行,使用所述一个或多个处理器实现如权利要求1-7中任一项所述的一种用于电子文档的阅读方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-7中任一项所述的一种用于电子文档的阅读方法。
CN201810784394.2A 2018-07-17 2018-07-17 用于电子文档的阅读方法、装置、终端设备及存储介质 Active CN108984489B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810784394.2A CN108984489B (zh) 2018-07-17 2018-07-17 用于电子文档的阅读方法、装置、终端设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810784394.2A CN108984489B (zh) 2018-07-17 2018-07-17 用于电子文档的阅读方法、装置、终端设备及存储介质

Publications (2)

Publication Number Publication Date
CN108984489A true CN108984489A (zh) 2018-12-11
CN108984489B CN108984489B (zh) 2023-02-28

Family

ID=64549867

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810784394.2A Active CN108984489B (zh) 2018-07-17 2018-07-17 用于电子文档的阅读方法、装置、终端设备及存储介质

Country Status (1)

Country Link
CN (1) CN108984489B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110334579A (zh) * 2019-05-06 2019-10-15 北京七鑫易维信息技术有限公司 一种虹膜识别图像确定方法、装置、终端设备及存储介质
CN110531853A (zh) * 2019-08-23 2019-12-03 西安交通大学 一种基于人眼注视点检测的电子书阅读器控制方法及系统
CN110781287A (zh) * 2019-09-02 2020-02-11 上海连尚网络科技有限公司 一种提供电子书籍的方法与设备
CN110928407A (zh) * 2019-10-30 2020-03-27 维沃移动通信有限公司 信息显示方法及装置
CN112861042A (zh) * 2021-01-14 2021-05-28 支付宝(杭州)信息技术有限公司 一种信息显示方法、装置、设备和可读介质
CN113297142A (zh) * 2021-05-31 2021-08-24 深圳市小石头信息科技有限公司 一种电子文件合成方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060256083A1 (en) * 2005-11-05 2006-11-16 Outland Research Gaze-responsive interface to enhance on-screen user reading tasks
CN102289426A (zh) * 2011-08-29 2011-12-21 惠州Tcl移动通信有限公司 一种电子书定位阅读位置的方法及移动终端
CN104516498A (zh) * 2013-10-04 2015-04-15 由田新技股份有限公司 记录阅读行为的方法及装置
CN106445108A (zh) * 2016-08-29 2017-02-22 浙江工业大学 一种基于眼动跟踪的最后阅读位置显示方法和系统
CN107357430A (zh) * 2017-07-13 2017-11-17 湖南海翼电子商务股份有限公司 自动记录阅读位置的方法与装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060256083A1 (en) * 2005-11-05 2006-11-16 Outland Research Gaze-responsive interface to enhance on-screen user reading tasks
CN102289426A (zh) * 2011-08-29 2011-12-21 惠州Tcl移动通信有限公司 一种电子书定位阅读位置的方法及移动终端
CN104516498A (zh) * 2013-10-04 2015-04-15 由田新技股份有限公司 记录阅读行为的方法及装置
CN106445108A (zh) * 2016-08-29 2017-02-22 浙江工业大学 一种基于眼动跟踪的最后阅读位置显示方法和系统
CN107357430A (zh) * 2017-07-13 2017-11-17 湖南海翼电子商务股份有限公司 自动记录阅读位置的方法与装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
程时伟等: "移动设备眼动跟踪技术", 《浙江大学学报(工学版)》 *

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110334579A (zh) * 2019-05-06 2019-10-15 北京七鑫易维信息技术有限公司 一种虹膜识别图像确定方法、装置、终端设备及存储介质
CN110334579B (zh) * 2019-05-06 2021-08-03 北京七鑫易维信息技术有限公司 一种虹膜识别图像确定方法、装置、终端设备及存储介质
CN110531853A (zh) * 2019-08-23 2019-12-03 西安交通大学 一种基于人眼注视点检测的电子书阅读器控制方法及系统
CN110781287A (zh) * 2019-09-02 2020-02-11 上海连尚网络科技有限公司 一种提供电子书籍的方法与设备
CN110781287B (zh) * 2019-09-02 2022-12-30 上海连尚网络科技有限公司 一种提供电子书籍的方法与设备
CN110928407A (zh) * 2019-10-30 2020-03-27 维沃移动通信有限公司 信息显示方法及装置
CN110928407B (zh) * 2019-10-30 2023-06-09 维沃移动通信有限公司 信息显示方法及装置
CN112861042A (zh) * 2021-01-14 2021-05-28 支付宝(杭州)信息技术有限公司 一种信息显示方法、装置、设备和可读介质
CN112861042B (zh) * 2021-01-14 2024-02-06 支付宝(杭州)信息技术有限公司 一种信息显示方法、装置、设备和可读介质
CN113297142A (zh) * 2021-05-31 2021-08-24 深圳市小石头信息科技有限公司 一种电子文件合成方法
CN113297142B (zh) * 2021-05-31 2022-01-18 深圳市小石头信息科技有限公司 一种电子文件合成方法

Also Published As

Publication number Publication date
CN108984489B (zh) 2023-02-28

Similar Documents

Publication Publication Date Title
CN108984489A (zh) 用于电子文档的阅读方法、装置、终端设备及存储介质
Li et al. Learning to predict gaze in egocentric video
Xu et al. Turkergaze: Crowdsourcing saliency with webcam based eye tracking
US11295127B2 (en) Electronic device, information processing method, and program
US10460164B2 (en) Information processing apparatus, information processing method, eyewear terminal, and authentication system
US9489574B2 (en) Apparatus and method for enhancing user recognition
CA2882413C (en) System and method for on-axis eye gaze tracking
TW202013244A (zh) 注視點判斷方法和裝置、電子設備和電腦儲存介質
EP3230825B1 (en) Device for and method of corneal imaging
US20180211096A1 (en) Living-body detection method and device and computer program product
CN105892685B (zh) 一种智能设备的题目搜索方法和装置
CN108681399B (zh) 一种设备控制方法、装置、控制设备及存储介质
CN110674664A (zh) 视觉注意力的识别方法及系统、存储介质、处理器
EP2515526A2 (en) Display device with image capture and analysis module
JP2020509441A5 (zh)
ES2883563T3 (es) Método y aparato de estimación de la mirada
Chen et al. Efficient and robust pupil size and blink estimation from near-field video sequences for human–machine interaction
JP6956986B1 (ja) 判定方法、判定装置、及び判定プログラム
CN114391117A (zh) 眼睛跟踪延迟增强
US20220270287A1 (en) Eye gaze detection method, eye gaze detection device, and non-transitory computer readable storage medium
JP2018205819A (ja) 注視位置検出用コンピュータプログラム、注視位置検出装置及び注視位置検出方法
Shanmugavadivu et al. Rapid face detection and annotation with loosely face geometry
Lin et al. Finding stars from fireworks: Improving non-cooperative iris tracking
CN108093165A (zh) 一种图像处理方法和装置
KR101121712B1 (ko) 시선 경로 제공장치

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant