CN104281847B - 一种点读方法、装置及设备 - Google Patents

Abstract

本发明适用于点读设备技术领域，提供一种点读方法、装置及设备，包括：点读设备获取包含书本特征的局部图像；在所述局部图像中提取书本特征；根据提取到的书本特征，在预先存储的书本特征库中，对提取到的书本特征进行特征匹配，所述书本特征库中存储了书本特征以及与所述书本特征相对应的定位信息，所述定位信息包括所述书本特征所在的书本页面以及所述书本特征处于所述书本页面的位置信息；当特征匹配成功时，在预先存储的书本特征库中，调用与提取到的书本特征相对应的定位信息，根据所述定位信息，实时定位提取到的书本特征所在的书本页面以及处于所述书本页面的位置。在本实施例中，提高了点读设备发音朗读的适用性、准确率以及用户的操作效率。

Description

一种点读方法、装置及设备

技术领域

本发明属于点读设备技术领域，尤其涉及一种点读方法、装置及设备。

背景技术

目前，点读设备由于其可以使书本实时发音朗读而受到儿童的喜爱，越来越多的家长给儿童购买点读设备，以让儿童尽早学习文化知识。点读设备包括点读机和点读笔，点读机兼容学校发的语、数、外等书本，音质好，有较多功能让儿童参与互动，使用时，用点击笔点击书本上有文字的位置，点读机发音朗读该文字，从而实现点读功能，而点读笔在特制的书本上点击有文字的位置也可发音朗读该文字，实现点读功能。

然而，现有点读设备中缺乏对书本页面的定位，降低了点读设备发音朗读的适用性、准确率以及用户的操作效率。

为便于说明，以点读设备中的点读机为例，使用时，需要把用户在点读机中选中该书本对应的名以及该页码的页码，再用点击笔点击书本上有文字的位置，才能使得点读机发音朗读该文字。由于用户为儿童，当儿童的年龄较小时，存在不认识书本的名字，也不认识页码的情况，此时，儿童需要家长选好书并摆好才能顺利使用点读机，使得点读设备不适用于不识字的儿童，缩小了适用的人群范围，降低了点读设备发音朗读的适用性；

此外，若书本和\或页码与在点读机中选中的书本和\或页码不一致时，如用户在点读机中选择的是第一页，而实际采用第二页，此时，点读机中只会朗读第一页中的用户点击的文字，朗读的文字所在书本页面并不是用户需要点击的，降低了点读设备发音朗读的准确率；

另外，当用户进行换书或翻页时，还需要用重复手动选定书本或页码，操作繁琐，降低了用户的操作效率。

发明内容

本发明实施例的目的在于提供一种点读方法，以解决现有点读设备中缺乏对书本页面的定位，降低了点读设备发音朗读的适用性、准确率以及用户的操作效率的问题。

本发明实施例是这样实现的，一种点读方法；

点读设备获取包含书本特征的局部图像；

在所述局部图像中提取书本特征；

根据提取到的书本特征，在预先存储的书本特征库中，对提取到的书本特征进行特征匹配，所述书本特征库中存储了书本特征以及与所述书本特征相对应的定位信息，所述定位信息包括所述书本特征所在的书本页面以及所述书本特征处于所述书本页面的位置信息；

当特征匹配成功时，在预先存储的书本特征库中，调用与提取到的书本特征相对应的定位信息，根据所述定位信息，实时定位提取到的书本特征所在的书本页面以及处于所述书本页面的位置。

本发明实施例的另一目的是提供一种点读装置，包括：

第一获取单元，用于点读设备获取包含书本特征的局部图像；

提取单元，用于在所述局部图像中提取书本特征；

匹配单元，用于根据提取到的书本特征，根据提取到的书本特征，在预先存储的书本特征库中，对提取到的书本特征进行特征匹配，所述书本特征库中存储了书本特征以及与所述书本特征相对应的定位信息，所述定位信息包括所述书本特征所在的书本页面以及所述书本特征处于所述书本页面的位置信息；

定位单元，用于当特征匹配成功时，在预先存储的书本特征库中，调用与提取到的书本特征相对应的定位信息，根据所述定位信息，实时定位提取到的书本特征所在的书本页面以及处于所述书本页面的位置。

本发明实施例的另一目的是提供一种点读设备，包括上述点读装置。

在本发明实施例中，当特征匹配成功时，在预先存储的书本特征库中，调用与提取到的书本特征相对应的定位信息，根据所述定位信息，实时定位提取到的书本特征所在的书本页面以及处于所述书本页面的位置，从而避免了出现点读设备不适用于不识字的儿童，缩小了适用的人群范围，降低了点读设备发音朗读的适用性的情况，同时避免了出现朗读的文字所在书本页面并不是用户需要点击的，降低了点读设备发音朗读的准确率的情况，还避免了当用户进行换书或翻页时，还需要用重复手动选定书本或页码，操作繁琐，降低了用户的操作效率的情况，使得现有点读设备中可对书本页面的定位，从而提高了点读设备发音朗读的适用性、准确率以及用户的操作效率。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本发明实施例提供的点读方法的流程图；

图2是本发明实施例在实际应用中较佳的实施流程图；

图3是本发明实施例提供的点读装置的结构示意图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

在本发明实施例中，当特征匹配成功时，在预先存储的书本特征库中，调用与提取到的书本特征相对应的定位信息，根据所述定位信息，实时定位提取到的书本特征所在的书本页面以及处于所述书本页面的位置，从而避免了出现点读设备不适用于不识字的儿童，缩小了适用的人群范围，降低了点读设备发音朗读的适用性的情况，同时避免了出现朗读的文字所在书本页面并不是用户需要点击的，降低了点读设备发音朗读的准确率的情况，还避免了当用户进行换书或翻页时，还需要用重复手动选定书本或页码，操作繁琐，降低了用户的操作效率的情况，使得现有点读设备中可对书本页面的定位，从而提高了点读设备发音朗读的适用性、准确率以及用户的操作效率。

为了说明本发明所述的技术方案，下面通过具体实施例来进行说明。

实施例一：

图1示出了本发明实施例一提供的点读方法的实现流程，为了便于说明，仅示出了与本发明实施例相关的流程图，具体步骤详述如下：

在步骤S101中，点读设备获取包含书本特征的局部图像；

在本实施例中，点读设备为手持式设备，无需固定支架或面板，可在移动手持式设备的移动过程中，获取包含书本特征的图像。如点读设备为具备摄像头的点读笔，其轻巧便携，便于儿童通过点读笔对书本进行点读操作。

在本实施例中，书本特征包括但不限于书本页面局部图像的颜色特征、书本页面局部图像的纹理特征、书本页面局部图像的形状特征、书本页面局部图像的内容空间关系特征。

在本实施例中，点读设备获取包含书本特征的局部图像，具体地，当获取到点读设备的点读笔点下的消息时，点读设备获取点读笔点下的位置，通过摄像设备的镜头捕捉点读笔点下的位置所在的局部区域，从而生成包含书本特征的局部图像，以使点读设备获取到包含书本特征的局部图像。

在本实施例中，为便于说明，以实际应用为例，以点读设备的点读笔点下的消息作为触发条件，当在点读设备中获取到点读笔的笔尖点下的消息时，表示用户通过点读笔点下了书本特征，摄像设备的镜头捕捉点读笔的笔尖点下的位置所在的局部区域，从而生成包含书本特征的局部图像，便于后续点读设备在图像中提取书本特征。

在步骤S102中，在所述局部图像中提取书本特征；

在本实施例中，在图像中提取书本特征，具体地，可对图像进行特征提取，以提取书本特征。对图像进行特征提取，可采用现有技术中的任意一种特征提取方法进行提取。特征提取方法包括但不限于颜色直方图特征提取方法、SIFT特征提取方法、灰度共生矩阵法、laws纹理特征法。在本实施例中，书本特征包括书本页面的颜色特征、书本页面的纹理特征、书本页面的形状特征、书本页面的内容空间关系特征。

在本实施例中，在图像中提取书本特征，具体地，采用摄像方式或扫描方式将一本书的所有页面的图像采集并存入存储器；根据不同的图像传感器，如电荷耦合器件（chargecouple device，CCD）、氧化物半导体（complementary metal oxide semiconductor，CMOS）、接触式图像传感器（contact image sensor，CIS）等的不同，采用相应的图像修正，如采取中值滤波，滤除孤立噪点等，使采集的图像数据具有较好的一致性。对采集来的图像数据，采用腐蚀算法，将轮廓线细化为单像素，像素少的非主要连通域，保留主要轮廓特征线，并根据其色调（hue）、饱和度（saturation）、亮度（lightness）的突变点，获取图像轮廓，其中根据不同的突变形式如阶跃式、屋顶式，采用相应的算子如Roberts算子、Sobel算子、Prewitt算子等来进行边缘检测，以提取轮廓线中的端点、角点、交点，以提取到形成书本特征的特征点，再建立相近特征点之间的向量，并记录直接联通关系。直接连通为实向量，非直接连通为虚向量，以提取到形成书本特征的特征向量，将特征向量集合表示，从而完成了书本特征的提取。

优选地，将特征点的相关特征向量，以其中的最大特征向量为基准，作归一化处理，以提高图像特征向量的抗干扰性，提高提取到书本特征的特征向量的抗干扰性。

在步骤S103中，根据提取到的书本特征，在预先存储的书本特征库中，对提取到的书本特征进行特征匹配，所述书本特征库中存储了书本特征以及与所述书本特征相对应的定位信息，所述定位信息包括所述书本特征所在的书本页面以及所述书本特征处于所述书本页面的位置信息；

在本实施例中，在预先存储的书本特征库中，对提取到的书本特征进行特征匹配，其中，对图像进行特征匹配，是根据预设匹配算法对提取到的书本特征进行特征匹配，预设匹配算法包括但不限于颜色直方图特征匹配方法、SIFT特征匹配方法。

在本实施例中，所述书本特征库中存储了书本特征以及与所述书本特征相对应的定位信息，所述定位信息包括所述书本特征所在的书本页面以及所述书本特征处于所述书本页面的位置信息。

其中，位置信息包括但不限于像素坐标。

在本实施例中，对提取到的书本特征进行特征匹配，解决了现有点读设备需要特殊制作印刷的书本或需要面板才能匹配到书本页面的问题，从而提高了书本页面定位的适用范围。

作为本发明的一个优选实施例，在步骤S103之前，包括：

获取预先建立的书本特征库。

在本实施例中，书本特征库是通过电脑终端预先处理生成。

在本实施例中，获取预先建立的书本特征库，可通过网络获取，或者通过本地存储设备上传，以获取到预先建立的书本特征库。

在本实施例中，建立的书本特征库，可通过获取到的书本页内容，获取页面图像轮廓。提取页面图文轮廓的像素点。将获取的页面图像轮廓，转化为分散的多个像素点，生成书本特征。

在本实施例中，所述书本特征库中存储了书本特征以及与所述书本特征相对应的定位信息，所述定位信息包括所述书本特征所在的书本页面以及所述书本特征处于所述书本页面的位置信息。

通过上述步骤将书本的所有页面建立特征库，使用时，用实时拍摄的书本的局部图像与书本特征库进行对比，便于后续调用提取到的书本特征相对应的定位信息。

在本实施例中，将获取到的书本特征库存储在本地存储系统或分布式存储系统。

在步骤S104中，当特征匹配成功时，在预先存储的书本特征库中，调用与提取到的书本特征相对应的定位信息，根据所述定位信息，实时定位提取到的书本特征所在的书本页面以及处于所述书本页面的位置。

在本实施例中，当特征匹配成功时，表示预先存储的书本特征库中已存在与提取到的书本特征了。此时，点读设备根据书本特征库中记录存储的书本特征和定位信息的对应关系，以书本特征为索引，调用与提取到的书本特征相对应的定位信息，根据定位信息中书本特征所在的书本页面，查找出与书本特征对应的书本页面，并在该书本页面中，根据定位信息中的位置信息对书本特征进行定位，实时定位提取到的书本特征所在的书本页面以及处于所述书本页面的位置，以使运行在点读设备的应用程序加载该位置信息的语音文件，并播放语音文件，实现点读功能。

在本实施例中，当定位信息中的位置信息为像素坐标时，调用与提取到的书本特征相对应的定位信息，查找出与书本特征对应的书本页面，并在该书本页面中，根据定位信息中的像素坐标对书本特征进行定位，以实现像素级别的高精度定位。

在实施例中，通过上述步骤，避免了出现点读设备不适用于不识字的儿童，缩小了适用的人群范围，降低了点读设备发音朗读的适用性的情况，同时避免了出现朗读的文字所在书本页面并不是用户需要点击的，降低了点读设备发音朗读的准确率的情况，还避免了当用户进行换书或翻页时，还需要用重复手动选定书本或页码，操作繁琐，降低了用户的操作效率的情况，使得现有点读设备中可对书本页面的定位，从而提高了点读设备发音朗读的适用性、准确率以及用户的操作效率。作为本发明的优选实施例，读取系统时间和配置的更新时限，判断更新时限是否到达；

在判断所述更新时限到达时，连接服务器，更新存储的书本特征库。

在本实施例中，书本特征库的存储位置，可以是服务器，也可以存储在本地中。

在本发明实施例中，书本特征库的更新指令可以是用户主动输入的更新启动命令触发，也可以是系统根据配置的更新时限，在更新时限到时自动触发。

作为本发明的一个实施例，用户可以预先配置书本特征库的更新时限，例如配置为每日、每周或者每10天更新一次等，系统监测更新时限，在更新时限到时，自动连接服务器，发起书本特征库的更新过程。

实施例二：

图2示出了本发明实施例一在实际应用中的实施过程，详述如下：

在S201中，在书本图像中提取特征点；

在本实施例中，获取书本图像，在书本图像中提取特征点后，对书本原图的特征点以及特征描述子保存在书本特征库中。

在本实施例中，提取图像中具有某些独特性的点，将独特性的点作为特征点，特征点作为待比较的对象。其中，特征点包括但不限于hurris角点、Shi-Tomasi角点。

在本实施例中，将获取到的书本特征库存储在本地存储系统或分布式存储系统。

在S202中，建立特征点描述子；

在本实施例中，特征点描述子用于描述特征点的独特信息，特征点描述子用于在比较中衡量特征点的相似度。

为便于说明，以实际应用为例，采用特征点及其8邻域点的梯度分布，取最大梯度方向作为特征点主方向，连同特征点周围8*8区域内梯度8向分布归一化直方图作为描述子。

在S203中，特征点相似度匹配；

在本实施例中，特征点相似度匹配，是用于比较两幅图像中的特征点，建立两幅图像的特征点映射匹配对。

为便于说明，以实际应用为例，以特征点主方向为基准，比较梯度8向直方图的欧式距离，采取距离最小的点作为映射对。每个映射对都确定了一个映射坐标系，统计符合该映射坐标系的映射对数量，取数量最多的坐标系以及映射对为最终匹配结果。

在S204中，定位坐标。

在本实施例中，定位坐标用于得出最终点击的坐标。

为便于说明，以实际应用为例，通过映射关系计算出笔尖所在位置映射到原图的位置，得出所点击的坐标。

实施例三：

如图3所示为本发明提供的一种点读装置，该装置可以运行于各种终端，包括但不限于点读设备、移动电话、口袋计算机（Pocket Personal Computer，PPC）、掌上电脑、计算机、笔记本电脑、个人数字助理（Personal Digital Assistant，PDA）、MP4、MP3等。为了便于说明，仅示出了与本实施例相关的部分。

参照图3，该点读装置，包括：

第一获取单元31，用于点读设备获取包含书本特征的局部图像；

提取单元32，用于在所述局部图像中提取书本特征；

匹配单元33，用于根据提取到的书本特征，根据提取到的书本特征，在预先存储的书本特征库中，对提取到的书本特征进行特征匹配，所述书本特征库中存储了书本特征以及与所述书本特征相对应的定位信息，所述定位信息包括所述书本特征所在的书本页面以及所述书本特征处于所述书本页面的位置信息；

定位单元34，用于当特征匹配成功时，在预先存储的书本特征库中，调用与提取到的书本特征相对应的定位信息，根据所述定位信息，实时定位提取到的书本特征所在的书本页面以及处于所述书本页面的位置。

进一步地，在该装置中，所述第一获取单元还用于当获取到点读设备的点读笔点下的消息时，点读设备获取包含书本特征的局部图像。

进一步地，在该装置中，所述匹配单元还用于根据预设匹配算法对提取到的书本特征进行特征匹配。

进一步地，在该装置中，还包括：

第二获取单元，用于获取预先建立的书本特征库。

存储单元，用于将获取到的书本特征库存储在本地存储系统或分布式存储系统。

本发明实施例提供的装置可以应用在前述对应的方法实施例一、二中，详情参见上述实施例一、二的描述，在此不再赘述。

在本发明实施例中，当特征匹配成功时，在预先存储的书本特征库中，调用与提取到的书本特征相对应的定位信息，根据所述定位信息，实时定位提取到的书本特征所在的书本页面以及处于所述书本页面的位置，从而避免了出现点读设备不适用于不识字的儿童，缩小了适用的人群范围，降低了点读设备发音朗读的适用性的情况，同时避免了出现朗读的文字所在书本页面并不是用户需要点击的，降低了点读设备发音朗读的准确率的情况，还避免了当用户进行换书或翻页时，还需要用重复手动选定书本或页码，操作繁琐，降低了用户的操作效率的情况，使得现有点读设备中可对书本页面的定位，从而提高了点读设备发音朗读的适用性、准确率以及用户的操作效率。

本领域技术人员可以理解，上述特征提取装置所包括的各个单元仅按照功能逻辑进行划分，但并不局限于上述划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。

本领域普通技术人员还可以理解，实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关硬件完成，所述程序可以存储于计算机可读取存储介质中，所述的存储介质，包括ROM/RAM、磁盘、光盘等。

以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下做出若干等同替代或明显变型，然而性能或用途相同，都应当视为属于由本发明所提交的权利要求书确定的专利保护范围。

Claims (10)

1.一种点读方法，其特征在于：

点读设备获取包含书本特征的局部图像；

在所述局部图像中提取书本特征；

根据提取到的书本特征，在预先存储的书本特征库中，对提取到的书本特征进行特征匹配，所述书本特征库中存储了书本特征以及与所述书本特征相对应的定位信息，所述定位信息包括所述书本特征所在的书本页面以及所述书本特征处于所述书本页面的位置信息；

当特征匹配成功时，在预先存储的书本特征库中，调用与提取到的书本特征相对应的定位信息，根据所述定位信息，实时定位提取到的书本特征所在的书本页面以及处于所述书本页面的位置；

当定位信息中的位置信息为像素坐标时，调用与提取到的书本特征相对应的定位信息，查找出与书本特征对应的书本页面，并在该书本页面中，根据定位信息中的像素坐标对书本特征进行定位，以实现像素级别的高精度定位。

2.如权利要求1所述的点读方法，其特征在于，所述点读设备获取包含书本特征的局部图像，包括：

当获取到点读设备的点读笔点下的消息时，点读设备获取包含书本特征的局部图像。

3.如权利要求1或2所述的点读方法，其特征在于，所述对提取到的书本特征进行特征匹配，包括：

根据预设匹配算法对提取到的书本特征进行特征匹配。

4.如权利要求1所述的点读方法，其特征在于，在所述根据提取到的书本特征，在预先存储的书本特征库中，对提取到的书本特征进行特征匹配之前，还包括：

获取预先建立的书本特征库。

5.如权利要求4所述的点读方法，其特征在于，包括：

将获取到的书本特征库存储在本地存储系统或分布式存储系统。

6.一种点读装置，其特征在于，包括：

第一获取单元，用于点读设备获取包含书本特征的局部图像；

提取单元，用于在所述局部图像中提取书本特征；

匹配单元，用于根据提取到的书本特征，根据提取到的书本特征，在预先存储的书本特征库中，对提取到的书本特征进行特征匹配，所述书本特征库中存储了书本特征以及与所述书本特征相对应的定位信息，所述定位信息包括所述书本特征所在的书本页面以及所述书本特征处于所述书本页面的位置信息；

定位单元，用于当特征匹配成功时，在预先存储的书本特征库中，调用与提取到的书本特征相对应的定位信息，根据所述定位信息，实时定位提取到的书本特征所在的书本页面以及处于所述书本页面的位置；

当定位信息中的位置信息为像素坐标时，调用与提取到的书本特征相对应的定位信息，查找出与书本特征对应的书本页面，并在该书本页面中，根据定位信息中的像素坐标对书本特征进行定位，以实现像素级别的高精度定位。

7.如权利要求6所述的点读装置，其特征在于，所述第一获取单元还用于当获取到点读设备的点读笔点下的消息时，点读设备获取包含书本特征的局部图像。

8.如权利要求6或7所述的点读装置，其特征在于，所述匹配单元还用于根据预设匹配算法对提取到的书本特征进行特征匹配。

9.如权利要求6所述的点读装置，其特征在于，还包括：

第二获取单元，用于获取预先建立的书本特征库；

存储单元，用于将获取到的书本特征库存储在本地存储系统或分布式存储系统。

10.一种点读设备，其特征在于，所述点读设备包括权利要求6至9任一权利要求所述的点读装置。