CN112307869A - 语音点读方法、装置、设备和介质 - Google Patents

Abstract

本公开的实施例公开了语音点读方法、装置、设备和介质。该方法的一具体实施方式包括：获取待点读图像，待点读图像中包括待点读文本对象；基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落；基于识别结果，生成与待点读文本中的各段落一一对应的音频和翻译文本；响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频。本实施方式丰富了语音点读的操作方式，提高了语音点读的便捷性和效率。

Description

语音点读方法、装置、设备和介质

技术领域

本公开的实施例涉及计算机技术领域，具体涉及一种语音点读方法、装置、设备和介质。

背景技术

点读技术作为一种新型多媒体教学的技术手段，能够实现准确的文本定位，即点即读，可以帮助学生修正读音、校准语调、控制节奏、调整语速，有助于学生构建标准的语言环境，形成良好的学习习惯。目前，在点读技术方面的相关产品主要包括点读机、点读笔和移动客户端点读技术。

其中，点读机通过万点电磁感应定位系统等手段，预先在机体系统内收录课本的音频文件，并设置好对应在书本内容中的页码和位置，点读机根据页码和位置获取到对应的音频文件，使用内置音频系统播放对应内容。

点读笔技术是融合光学图像识别技术和数码语音技术的智能阅读和学习工具，一般是采用RFID(Radio Frequency Identification，射频识别)技术进行文字识别，即在书本印刷过程中，预先在文字中添加识别码，基于文字识别码，调用内部预先存储的数据进行解码、译码和音频转换，最终实现点读。

移动客户端点读技术一般预先将所支持的书本内容电子化，并人工框选出可读内容的坐标位置，基于人工录制的音频，进行书本页码和位置匹配，以实现点读。

发明内容

本公开提出了语音点读方法、装置、设备和介质。

第一方面，本公开的实施例提供了一种语音点读方法，该方法包括：获取待点读图像，待点读图像中包括待点读文本对象；基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落；基于识别结果，生成与待点读文本中的各段落一一对应的音频和翻译文本；响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频。

在一些实施例中，上述基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落，包括：基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像上添加与待点读文本中的各段落一一对应的段落框选图层。

在一些实施例中，上述基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像上添加与待点读文本中的各段落一一对应的段落框选图层，包括：基于对待点读文本对象所表征的待点读文本的识别结果，确定待点读文本中的各段落中的字符的位置信息；根据各段落中的字符的位置信息，生成包含该段落中的所有字符的包围区域；以包围区域为参照，在待点读图像上添加与各段落一一对应的段落框选图层。

在一些实施例中，上述在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，包括：根据获取的点读操作所指示的预设标识的位置信息以及翻译文本，确定显示区域的位置信息以及尺寸信息；以显示区域为参照，在待点读图像上添加显示图层显示点读操作所指示的预设标识所指示的段落对应的翻译文本。

在一些实施例中，上述基于识别结果，生成与待点读文本中的各段落一一对应的音频和翻译文本，包括：基于识别结果，生成待点读文本中的各段落一一对应的音频和翻译文本，以及与各翻译文本一一对应的音频。

在一些实施例中，上述响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频，包括：响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频以及该翻译文本对应的音频。

在一些实施例中，上述方法还包括：响应于接收到用户的第二点读操作，播放第二点读操作所指示的位置的翻译文本对应的音频。

在一些实施例中，上述方法还包括：响应于接收到用户的调整操作，根据用户的调整操作调整音频的播放参数，其中，播放参数包括以下至少一项：语速、读音间隔、播放次数、播放模式。

在一些实施例中，上述方法还包括：响应于接收到用户的调取操作，获取调取操作所指示的历史记录中的待点读图像，其中，历史记录中的待点读图像和与该待点读图像对应的待点读文本，与该待点读文本中的各段落一一对应的音频、翻译文本，以及与各翻译文本一一对应的音频关联存储。

第二方面，本公开的实施例提供了一种语音点读装置，包括：获取单元，被配置成获取待点读图像，待点读图像中包括待点读文本对象；标注单元，被配置成基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落；生成单元，被配置成基于识别结果，生成与待点读文本中的各段落一一对应的音频和翻译文本；点读单元，被配置成响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频。

第三方面，本公开的实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当上述一个或多个程序被上述一个或多个处理器执行，使得该一个或多个处理器实现如上述语音点读方法中任一实施例的方法。

第四方面，本公开的实施例提供了一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如上述语音点读方法中任一实施例的方法。

本公开的实施例提供的语音点读方法、装置、设备和介质，通过获取待点读图像，待点读图像中包括待点读文本对象；然后，基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落；然后，基于识别结果，生成与待点读文本中的各段落一一对应的音频和翻译文本；最后，响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频，从而丰富了语音点读的操作方式，提高了语音点读的便捷性和效率。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显：

图1是本公开的一个实施例可以应用于其中的示例性系统架构图；

图2是根据本公开的语音点读方法的一个实施例的流程图；

图3是根据本公开的语音点读方法的被标注的待点读图像的示意图；

图4是根据本公开的语音点读方法的被点读后的待点读图像的示意图；

图5是根据本公开的语音点读方法的一个应用场景的示意图；

图6是根据本公开的语音点读方法的又一个实施例的流程图；

图7是根据本公开的语音点读装置的一个实施例的结构示意图；

图8是适于用来实现本公开的实施例的电子设备的计算机系统的结构示意图。

具体实施方式

下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本公开，而非对本公开的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本公开相关的部分。

需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。

图1示出了可以应用本公开的实施例的语音点读方法或语音点读装置的实施例的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送数据(例如待点读图像)等。终端设备101、102、103上可以安装有各种客户端应用，例如视频播放软件、视频处理应用、新闻资讯类应用、图像处理类应用、网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是具有图像处理功能的各种电子设备，包括但不限于点读机、点读笔、智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

服务器105可以是提供各种服务的服务器，例如基于终端设备101、102、103发送的待点读图像，生成对应的音频和翻译文本的后台信息处理服务器。后台信息处理服务器可以对接收到的待点读图像等数据进行文本识别等处理，从而生成对应于待点读图像的音频和翻译文本。可选的，后台信息处理服务器还可以将所生成的音频和翻译文本反馈给终端设备，以供终端设备播放和显示。作为示例，服务器105可以是云端服务器。

需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

还需要说明的是，本公开的实施例所提供的语音点读方法可以由服务器执行，也可以由终端设备执行，还可以由服务器和终端设备彼此配合执行。相应地，语音点读装置包括的各个部分(例如各个单元、子单元、模块、子模块)可以全部设置于服务器中，也可以全部设置于终端设备中，还可以分别设置于服务器和终端设备中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。当语音点读方法运行于其上的电子设备不需要与其他电子设备进行数据传输时，该系统架构可以仅包括语音点读方法运行于其上的电子设备(例如服务器或终端设备)。

继续参考图2，示出了根据本公开的语音点读方法的一个实施例的流程200。该语音点读方法，包括以下步骤：

步骤201，获取待点读图像。

在本实施例中，语音点读方法的执行主体(例如图1所示的服务器或终端设备)可以通过有线连接方式或者无线连接方式从其他电子设备，或者本地获取待点读图像。

其中，待点读图像中包括待点读文本对象。待点读文本对象所表征的待点读文本可以是任意字体、任意种类的文本。

需要说明的是，本步骤的执行主体可以是终端设备，也可以是服务器。当终端设备具有图像获取功能时，本步骤的执行主体则可以是具有图像获取功能的终端设备；当服务器具有图像获取功能时，本步骤的执行主体则可以是具有图像获取功能的服务器。

步骤202，基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落。

在本实施例中，针对步骤201获取到的待点读图像，上述执行主体可以基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落。其中，预设标识可以是任意的标识，例如箭头、下划线等标识。对应于不同段落的预设标识可以是相同的标识，也可以是不同的标识。

作为示例，上述执行主体可以基于OCR(Optical Character Recognition，光学字符识别)技术，获得待点读图像中的待点读文本对象所表征的待点读文本。为了提高从待点读图像中识别待点读文本的准确率，执行主体可以首先对包括待点读文本对象的待点读图像进行图像处理，基于图像处理后的待点读图像进行文本识别，以提取待点读图像中的待点读文本。具体地，首先，对待点读图像进行灰度处理，得到灰度图。接着，对灰度图进行二值化，得到黑白图。接着，对黑白图进行噪声消除。由于待识别图像的品质受限于输入设备、环境以及被拍摄文档的印刷质量，在对图像进行OCR识别前，需要根据噪声的特征对待识别图像进行降噪处理，提升识别处理的精确度。然后，对降噪后的图像进行倾斜校正，使得待点读图像中的文本内容水平显示；最后，对校正后的图像进行水平切割和垂直切割，得到基于待点读图像中的文本内容的各字符以及各字符的位置信息。

其中，具体的待点读文本识别过程如下：首先，基于人们生活学习中用到的所有字符，生成字符在各种字体下的模板字符；基于图像处理后得到的待点读文本中的待识别字符，对其进行归一化，并记录其meta(元素)信息；最后，根据归一化后的待识别字符以及对应的meta信息，进行模板字符与待识别字符的匹配以识别待识别字符，其具体的匹配方法包括但不限于：字符像素匹配、投影区块匹配、九宫格匹配、中心匹配、宽高比匹配等方法。

执行主体根据待点读文本中的各字符的识别结果和位置信息，得到待点读文本中的各段落一一对应的区域信息，从而可以在待点读图像中以预设标识标注待点读文本中的各段落。

在本实施例的一些可选的实现方式中，执行主体基于对待点读文本对象所表征的待点读文本的识别结果，可以在待点读图像上添加与待点读文本中的各段落一一对应的段落框选图层。其中，进一步可以在段落框选图层进行颜色填充，以突出显示处于段落框选图层中的待点读文本的段落。可以理解，填充的颜色后的段落框选图层要满足以下要求：段落框选图层中的段落仍能被用户清晰地查看。

本实施例中，待点读文本对象所表征的待点读文本可以是手写文本。针对待点读文本为手写文本的情况，执行主体可以执行如下识别步骤：

步骤一，识别待点读文本对象所表征的手写文本，得到待纠错文本。

由于不同人员的手写文本中字体差异较大，因此，手写文本的识别难度远大于印刷体文本的识别难度，待纠错文本中可能会出现很多错别字，需要根据后续步骤对待纠错文本进行进一步处理。

步骤二，识别待纠错文本中的错别字。

本实施例中，上述执行主体可以基于步骤一得到的待纠错文本进行错别字识别，得到待纠错文本中的错别字。

作为示例，执行主体可以将待纠错文本输入预先训练的纠错模型，得到待纠错文本中的错别字。其中，纠错模型可以是通过RNN(Recurrent Neural Network，循环神经网络)模型来训练的语言模型，其可以结合上下文的语境，通过上文来预测接下来的词汇。

步骤三，基于待纠错文本中的错别字，得到错别字对应的相似字。

本实施例中，上述执行主体可以基于步骤二得到的待纠错文本中的错别字，得到错别字对应的相似字。

作为示例，可以将错别字的四角号码、结构、电码、笔顺、拼音五方面的特征作为预先训练的相似字确定模型的输入，输出为与错别字相近的至少一个相近字，以及各相似字与错别字的相似度。相似字确定模型可以采用多元神经网络模型，其中，四角号码、结构、电码、笔顺、拼音等五方面的权重可以通过多元神经网络模型的训练过程得到，以更准确的输出错别字的相似字及其相似度。

步骤四，基于待纠错文本的语义连贯性，确定相似字中与错别字对应的正确文字，采用正确文字替换错别字，得到待点读文本对象所表征的待点读文本。

在本实施例中，上述执行主体可以基于待纠错文本的语义连贯性，确定步骤三中得到的相似字中与错别字对应的正确文字，采用正确文字替换错别字，得到待点读文本对象所表征的待点读文本。

在一些可选的实现方式中，对于任意一个相似字，执行主体执行如下步骤：首先，将该相似字替换待纠错文本中对应的错别字，得到替换文本，并判断替换文本中含有该相似字的词语是否与预设词库匹配。其中，预设词库是包含与待纠错文本对应的语种的各词语、短语的词库。

然后，响应于确定含有该相似字的词语与预设词库匹配，得到待纠错文本中含有词语的短语的流畅度，并根据流畅度筛选出候选词语，得到候选词文本；其中，短语的流畅度可以基于对短语的语义分析得到。

最后，根据候选词文本，得到包括候选词语的句子的连贯性数值。

进而，执行主体根据各替换文本的连贯性数值，确定错别字的正确文字，采用正确文字替换错别字，得到待点读文本。

如图3所示，示出了本实施例的通过段落框选图层标注的待点读图像。在图3中，包括与待点读文本中的第一段落对应的段落框选图层301，与待点读文本中的第二段落对应的段落框选图层302。

在本实现方式中，执行主体可以首先基于对待点读文本对象所表征的待点读文本的识别结果，确定待点读文本中的各段落中的字符的位置信息；然后，根据各段落中的字符的位置信息，生成包含该段落中的所有字符的包围区域；最后，以包围区域为参照，在待点读图像上添加与各段落一一对应的段落框选图层。

需要说明的是，本步骤的执行主体可以是终端设备，也可以是服务器。当终端设备具有文本识别和标注功能时，本步骤的执行主体则可以是具有文本识别和标注功能的终端设备；当服务器具有文本识别和标注功能时，本步骤的执行主体则可以是具有文本识别和标注功能的服务器。

步骤203，基于识别结果，生成与待点读文本中的各段落一一对应的音频和翻译文本。

在本实施例中，上述执行主体可以基于对待点读文本对象所表征的待点读文本的识别结果，生成与待点读文本中的各段落一一对应的音频和翻译文本。其中，所生成的音频可以是表征待点读文本的语音信息，也可以是对待点读文本进行语义分析后的反馈音频信息，例如是针对于待点读文本所表征的问题的解答音频、针对于待点读文本所表征的名胜古迹的讲解音频等等。

作为示例，执行主体可以首先根据提取出的待点读文本中的各段落生成对应的翻译文本。具体的，采用基于神经网络的机器翻译技术，将待点读文本中的各段落作为输入序列进行编码，并提取出该段落在对应的源语言中的信息，通过反编码把源语言信息转换到与翻译文本对应的目标语言中，从而生成待点读文本中的各段落一一对应的翻译文本。

然后，执行主体可以生成待点读文本中的各段落一一对应的音频。作为示例，可以通过预先训练的神经网络模型，将待点读文本中的各段落输入神经网络模型,神经网络模型直接输出音频波形，最终根据音频波形输出音频。

需要说明的是，本步骤的执行主体可以是终端设备，也可以是服务器。当终端设备具有音频生成和翻译功能时，本步骤的执行主体则可以是具有音频生成和翻译功能的终端设备；当服务器具有音频生成和翻译功能时，本步骤的执行主体则可以是具有音频生成和翻译功能的服务器。

步骤204，响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频。

本实施例中，执行主体响应于接收到用户的点读操作，可以在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，并播放该段落对应的音频。其中，点读操作可以是任意形式的操作，例如触摸、点击等操作。

本实施例中，翻译文本的显示位置与该翻译文本对应的段落的位置相对应，以使用户可以方便的查看；音频可以以任意音色进行播放，例如预先建立预设音色数据库，用户可以在音色数据库中选取喜欢的音色播放待点读文本中的各段落一一对应的音频。

在本实施例的一些可选的实现方式中，执行主体可以首先根据获取的点读操作所指示的预设标识的位置信息以及翻译文本，确定显示区域的位置信息以及尺寸信息；然后，以显示区域为参照，在待点读图像上添加显示图层显示点读操作所指示的预设标识所指示的段落对应的翻译文本。

在一些可选的实现方式中，可以通过如下方式实现在待点读图像上添加显示图层显示点读操作所指示的预设标识所指示的段落对应的翻译文本：首先，检测预设标识所指示的段落的文本的显示方向；然后，根据段落的文本的字体以及显示图层，等比例缩放该段落对应的翻译文本，等比例缩放用于表征翻译文本的字符的长度和宽度的缩放比例相同；最后，在该段落对应的显示图层，以该段落文本的显示方向显示等比例缩放后的该段落对应的翻译文本。

如图4所示，示出了本实施例的显示翻译文本后的待点读图像。对应于该待点读图像400，包括与待点读文本中的第一段落对应的段落框选图层401，与待点读文本中的第二段落对应的段落框选图层402。用户对待点读文本的第一段进行点读，则执行主体在该待点读图像400的第一段对应的显示区域设置显示有第一段对应的翻译文本的显示图层403，并播放第一段对应的音频。

继续参见图5，图5是根据本实施例的语音点读方法的应用场景的一个示意图。在图5的应用场景中，用户501正在阅读英文读物。阅读的过程中，用户501发现不认识当前页中的很多单词。于是，用户501通过终端设备502针对当前页进行拍摄得到待点读图像，并将待点读图像发送至服务器503。服务器503基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落；基于识别结果，生成与待点读文本中的各段落一一对应的音频和翻译文本，并将各音频和各翻译文本发送至终端设备502。终端设备502响应于接收到用户501的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频。

本公开的上述实施例提供的方法，通过获取待点读图像，待点读图像中包括待点读文本对象；然后，基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落；然后，基于识别结果，生成与待点读文本中的各段落一一对应的音频和翻译文本；最后，响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频，从而丰富了语音点读的操作方式，提高了语音点读的便捷性和效率。

在本实施例的一些可选的实现方式中，在音频播放器前或播放过程中，执行主体响应于接收到用户的调整操作，可以根据用户的调整操作调整音频的播放参数，其中，播放参数包括以下至少一项：语速、读音间隔、播放次数、播放模式。

可以理解，本实现方式中，用户根据自身需求对音频在语速、读音间隔、播放次数、播放模式等方面进行调整，提高了语音点读的适用性以及与用户的匹配性。

在本实施例的一些可选的实现方式中，执行主体响应于接收到用户的调取操作，可以获取调取操作所指示的历史记录中的待点读图像。

其中，历史记录中的待点读图像和与该待点读图像对应的待点读文本，与该待点读文本中的各段落一一对应的音频、翻译文本，以及与各翻译文本一一对应的音频关联存储。

可以理解，本实现方式中，用户可以在历史记录中查找相应的待点读图像，直接进行语音点读，提高了语音点读的效率，提高了用户使用语音点读的便捷性。

进一步参考图6，其示出了语音点读方法的又一个实施例的流程600。该语音点读方法的流程600，包括以下步骤：

步骤601，获取待点读图像。

在本实施例中，步骤601与图2对应实施例中的步骤201基本一致，这里不再赘述。

步骤602，基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落。

在本实施例中，步骤602与图2对应实施例中的步骤201基本一致，这里不再赘述。

步骤603，基于识别结果，生成待点读文本中的各段落一一对应的音频和翻译文本，以及与各翻译文本一一对应的音频。

本实施例中，执行主体基于识别结果，生成待点读文本中的各段落一一对应的音频和翻译文本，以及与各翻译文本一一对应的音频。

其中，各段落一一对应的音频，以及各翻译文本一一对应的音频，可以采用如步骤203中各段落一一对应的音频的生成方式生成，在此不再赘述。

步骤604，响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频以及该翻译文本对应的音频。

本实施例中，执行主体响应于接收到用户的点读操作，可以在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频以及该翻译文本对应的音频

需要说明的是，除上面所记载的内容外，本申请实施例还可以包括与图2对应的实施例相同或类似的特征、效果，在此不再赘述。

从本实施例中可以看出，与图2对应的实施例相比，本实施例中的语音点读方法的流程600具体说明了生成各翻译文本一一对应的音频，并根据用户的点读操作进行音频播放。如此，提高了语音点读的智能化程度。

在另外一些实施例中，执行主体响应于接收到用户的第二点读操作，可以播放第二点读操作所指示的位置的翻译文本对应的音频。

在本实施例中，执行主体可以单独播放待点读文本中的各段落一一对应的音频、各段落的翻译文本一一对应的音频。

进一步参考图7，作为对上述各图所示方法的实现，本公开提供了一种语音点读装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，除下面所记载的特征外，该装置实施例还可以包括与图2所示的方法实施例相同或相应的特征，以及产生与图2所示的方法实施例相同或相应的效果。该装置具体可以应用于各种电子设备中。

如图7所示，本实施例的语音点读装置700包括：获取单元701、标注单元702、生成单元703和点读单元704。其中，获取单元701，被配置成获取待点读图像，待点读图像中包括待点读文本对象；标注单元702，被配置成基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落；生成单元703，被配置成基于识别结果，生成与待点读文本中的各段落一一对应的音频和翻译文本；点读单元704，被配置成响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频。

在本实施例的一些可选的实现方式中，标注单元702进一步被配置成基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像上添加与待点读文本中的各段落一一对应的段落框选图层。

在本实施例的一些可选的实现方式中，标注单元702进一步被配置成基于对待点读文本对象所表征的待点读文本的识别结果，确定待点读文本中的各段落中的字符的位置信息；根据各段落中的字符的位置信息，生成包含该段落中的所有字符的包围区域；以包围区域为参照，在待点读图像上添加与各段落一一对应的段落框选图层。

在本实施例的一些可选的实现方式中，点读单元704进一步被配置成根据获取的点读操作所指示的预设标识的位置信息以及翻译文本，确定显示区域的位置信息以及尺寸信息；以显示区域为参照，在待点读图像上添加显示图层显示点读操作所指示的预设标识所指示的段落对应的翻译文本。

在本实施例的一些可选的实现方式中，生成单元703进一步被配置成基于识别结果，生成待点读文本中的各段落一一对应的音频和翻译文本，以及与各翻译文本一一对应的音频。

在本实施例的一些可选的实现方式中，点读单元704进一步被配置成响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频以及该翻译文本对应的音频。

在本实施例的一些可选的实现方式中，还包括：第二点读单元(图中未示出)，被配制成响应于接收到用户的第二点读操作，播放第二点读操作所指示的位置的翻译文本对应的音频。

在本实施例的一些可选的实现方式中，还包括：调整单元(图中未示出)，被配制成响应于接收到用户的调整操作，根据用户的调整操作调整音频的播放参数，其中，播放参数包括以下至少一项：语速、读音间隔、播放次数、播放模式。

在本实施例的一些可选的实现方式中，还包括：调取单元(图中未示出)，被配制成响应于接收到用户的调取操作，获取调取操作所指示的历史记录中的待点读图像，其中，历史记录中的待点读图像和与该待点读图像对应的待点读文本，与该待点读文本中的各段落一一对应的音频、翻译文本，以及与各翻译文本一一对应的音频关联存储。

本公开的上述实施例提供的装置，通过获取单元获取待点读图像，待点读图像中包括待点读文本对象；标注单元基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落；生成单元基于识别结果，生成与待点读文本中的各段落一一对应的音频和翻译文本；点读单元响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频，从而丰富了语音点读的操作方式，提高了语音点读的便捷性和效率。

下面参考图8，其示出了适于用来实现本公开的实施例的电子设备的计算机系统800的结构示意图。图8示出的电子设备仅仅是一个示例，不应对本公开的实施例的功能和使用范围带来任何限制。

如图8所示，计算机系统800包括中央处理单元(CPU)801，其可以根据存储在只读存储器(ROM)802中的程序或者从存储部分808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。在RAM 803中，还存储有系统800操作所需的各种程序和数据。CPU 801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。

以下部件连接至I/O接口805：包括键盘、鼠标等的输入部分806；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分807；包括硬盘等的存储部分808；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至I/O接口805。可拆卸介质811，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器810上，以便于从其上读出的计算机程序根据需要被安装入存储部分808。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分809从网络上被下载和安装，和/或从可拆卸介质811被安装。在该计算机程序被中央处理单元(CPU)801执行时，执行本公开的方法中限定的上述功能。

需要说明的是，本公开所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，所述程序设计语言包括面向目标的程序设计语言—诸如Python、Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

根据本公开的一个或多个实施例，本公开提供了一种语音点读方法，该方法包括：获取待点读图像，待点读图像中包括待点读文本对象；基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落；基于识别结果，生成与待点读文本中的各段落一一对应的音频和翻译文本；响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频。

根据本公开的一个或多个实施例，本公开提供的语音点读方法中，上述基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落，包括：基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像上添加与待点读文本中的各段落一一对应的段落框选图层。

根据本公开的一个或多个实施例，本公开提供的语音点读方法中，上述基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像上添加与待点读文本中的各段落一一对应的段落框选图层，包括：基于对待点读文本对象所表征的待点读文本的识别结果，确定待点读文本中的各段落中的字符的位置信息；根据各段落中的字符的位置信息，生成包含该段落中的所有字符的包围区域；以包围区域为参照，在待点读图像上添加与各段落一一对应的段落框选图层。

根据本公开的一个或多个实施例，本公开提供的语音点读方法中，上述在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，包括：根据获取的点读操作所指示的预设标识的位置信息以及翻译文本，确定显示区域的位置信息以及尺寸信息；以显示区域为参照，在待点读图像上添加显示图层显示点读操作所指示的预设标识所指示的段落对应的翻译文本。

根据本公开的一个或多个实施例，本公开提供的语音点读方法中，上述基于识别结果，生成与待点读文本中的各段落一一对应的音频和翻译文本，包括：基于识别结果，生成待点读文本中的各段落一一对应的音频和翻译文本，以及与各翻译文本一一对应的音频。

根据本公开的一个或多个实施例，本公开提供的语音点读方法中，上述响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频，包括：响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频以及该翻译文本对应的音频。

根据本公开的一个或多个实施例，本公开提供的语音点读方法中，上述方法还包括：响应于接收到用户的第二点读操作，播放第二点读操作所指示的位置的翻译文本对应的音频。

根据本公开的一个或多个实施例，本公开提供的语音点读方法中，上述方法还包括：响应于接收到用户的调整操作，根据用户的调整操作调整音频的播放参数，其中，播放参数包括以下至少一项：语速、读音间隔、播放次数、播放模式。

根据本公开的一个或多个实施例，本公开提供的语音点读方法中，上述方法还包括：响应于接收到用户的调取操作，获取调取操作所指示的历史记录中的待点读图像，其中，历史记录中的待点读图像和与该待点读图像对应的待点读文本，与该待点读文本中的各段落一一对应的音频、翻译文本，以及与各翻译文本一一对应的音频关联存储。

根据本公开的一个或多个实施例，本公开提供了一种语音点读装置，该装置包括：获取单元，被配置成获取待点读图像，待点读图像中包括待点读文本对象；标注单元，被配置成基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落；生成单元，被配置成基于识别结果，生成与待点读文本中的各段落一一对应的音频和翻译文本；点读单元，被配置成响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频。

根据本公开的一个或多个实施例，本公开提供的语音点读装置中，标注单元进一步被配置成基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像上添加与待点读文本中的各段落一一对应的段落框选图层。

根据本公开的一个或多个实施例，本公开提供的语音点读装置中，标注单元进一步被配置成基于对待点读文本对象所表征的待点读文本的识别结果，确定待点读文本中的各段落中的字符的位置信息；根据各段落中的字符的位置信息，生成包含该段落中的所有字符的包围区域；以包围区域为参照，在待点读图像上添加与各段落一一对应的段落框选图层。

根据本公开的一个或多个实施例，本公开提供的语音点读装置中，点读单元进一步被配置成根据获取的点读操作所指示的预设标识的位置信息以及翻译文本，确定显示区域的位置信息以及尺寸信息；以显示区域为参照，在待点读图像上添加显示图层显示点读操作所指示的预设标识所指示的段落对应的翻译文本。

根据本公开的一个或多个实施例，本公开提供的语音点读装置中，生成单元进一步被配置成基于识别结果，生成待点读文本中的各段落一一对应的音频和翻译文本，以及与各翻译文本一一对应的音频。

根据本公开的一个或多个实施例，本公开提供的语音点读装置中，点读单元进一步被配置成响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频以及该翻译文本对应的音频。

根据本公开的一个或多个实施例，本公开提供的语音点读装置中，还包括：第二点读单元，被配制成响应于接收到用户的第二点读操作，播放第二点读操作所指示的位置的翻译文本对应的音频。

根据本公开的一个或多个实施例，本公开提供的语音点读装置中，还包括：调整单元，被配制成响应于接收到用户的调整操作，根据用户的调整操作调整音频的播放参数，其中，播放参数包括以下至少一项：语速、读音间隔、播放次数、播放模式。

根据本公开的一个或多个实施例，本公开提供的语音点读装置中，还包括：调取单元，被配制成响应于接收到用户的调取操作，获取调取操作所指示的历史记录中的待点读图像，其中，历史记录中的待点读图像和与该待点读图像对应的待点读文本，与该待点读文本中的各段落一一对应的音频、翻译文本，以及与各翻译文本一一对应的音频关联存储。

描述于本公开的实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括获取单元、标注单元、生成单元和点读单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，获取单元还可以被描述为“获取待点读图像的单元”。

作为另一方面，本公开还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取待点读图像，待点读图像中包括待点读文本对象；基于对待点读文本对象所表征的待点读文本的识别结果，在待点读图像中以预设标识标注待点读文本中的各段落；基于识别结果，生成与待点读文本中的各段落一一对应的音频和翻译文本；响应于接收到用户的点读操作，在待点读图像中显示点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频。。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离本公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (12)

1.一种语音点读方法，包括：

获取待点读图像，所述待点读图像中包括待点读文本对象；

基于对所述待点读文本对象所表征的待点读文本的识别结果，在所述待点读图像中以预设标识标注所述待点读文本中的各段落；

基于所述识别结果，生成与所述待点读文本中的各段落一一对应的音频和翻译文本；

响应于接收到用户的点读操作，在所述待点读图像中显示所述点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频。

2.根据权利要求1所述的方法，其中，所述基于对所述待点读文本对象所表征的待点读文本的识别结果，在所述待点读图像中以预设标识标注所述待点读文本中的各段落，包括：

基于对所述待点读文本对象所表征的待点读文本的识别结果，在所述待点读图像上添加与所述待点读文本中的各段落一一对应的段落框选图层。

3.根据权利要求2所述的方法，其中，所述基于对所述待点读文本对象所表征的待点读文本的识别结果，在所述待点读图像上添加与所述待点读文本中的各段落一一对应的段落框选图层，包括：

基于对所述待点读文本对象所表征的待点读文本的识别结果，确定所述待点读文本中的各段落中的字符的位置信息；

根据各段落中的字符的位置信息，生成包含该段落中的所有字符的包围区域；

以包围区域为参照，在所述待点读图像上添加与各段落一一对应的段落框选图层。

4.根据权利要求1所述的方法，其中，所述在所述待点读图像中显示所述点读操作所指示的预设标识所指示的段落对应的翻译文本，包括：

根据获取的所述点读操作所指示的预设标识的位置信息以及所述翻译文本，确定显示区域的位置信息以及尺寸信息；

以所述显示区域为参照，在所述待点读图像上添加显示图层显示所述点读操作所指示的预设标识所指示的段落对应的翻译文本。

5.根据权利要求1所述的方法，其中，所述基于所述识别结果，生成与所述待点读文本中的各段落一一对应的音频和翻译文本，包括：

基于所述识别结果，生成所述待点读文本中的各段落一一对应的音频和翻译文本，以及与各翻译文本一一对应的音频。

6.根据权利要求5所述的方法，其中，所述响应于接收到用户的点读操作，在所述待点读图像中显示所述点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频，包括：

响应于接收到用户的点读操作，在所述待点读图像中显示所述点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频以及该翻译文本对应的音频。

7.根据权利要求5所述的方法，其中，所述方法还包括：

响应于接收到用户的第二点读操作，播放所述第二点读操作所指示的位置的翻译文本对应的音频。

8.根据权利要求1或5所述的方法，其中，所述方法还包括：

响应于接收到用户的调整操作，根据所述用户的调整操作调整音频的播放参数，其中，所述播放参数包括以下至少一项：语速、读音间隔、播放次数、播放模式。

9.根据权利要求5所述的方法，其中，所述方法还包括：

响应于接收到用户的调取操作，获取所述调取操作所指示的历史记录中的待点读图像，其中，所述历史记录中的待点读图像和与该待点读图像对应的待点读文本，与该待点读文本中的各段落一一对应的音频、翻译文本，以及与各翻译文本一一对应的音频关联存储。

10.一种语音点读装置，包括：

获取单元，被配置成获取待点读图像，所述待点读图像中包括待点读文本对象；

标注单元，被配置成基于对所述待点读文本对象所表征的待点读文本的识别结果，在所述待点读图像中以预设标识标注所述待点读文本中的各段落；

生成单元，被配置成基于所述识别结果，生成与所述待点读文本中的各段落一一对应的音频和翻译文本；

点读单元，被配置成响应于接收到用户的电镀操作，在所述待点读图像中显示所述点读操作所指示的预设标识所指示的段落对应的翻译文本，播放该段落对应的音频。

11.一种电子设备，包括：

一个或多个处理器；

存储装置，其上存储有一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-9中任一所述的方法。

12.一种计算机可读介质，其上存储有计算机程序，其中，所述程序被处理器执行时实现如权利要求1-9中任一所述的方法。

Images