CN112328088B - 图像的呈现方法和装置 - Google Patents
图像的呈现方法和装置 Download PDFInfo
- Publication number
- CN112328088B CN112328088B CN202011321647.6A CN202011321647A CN112328088B CN 112328088 B CN112328088 B CN 112328088B CN 202011321647 A CN202011321647 A CN 202011321647A CN 112328088 B CN112328088 B CN 112328088B
- Authority
- CN
- China
- Prior art keywords
- character
- person
- combination information
- image
- page
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- Processing Or Creating Images (AREA)
Abstract
本申请公开了图像的呈现方法和装置,涉及增强现实和深度学习技术领域。具体实施方式包括:按照预设阅读顺序,从书籍的页面图像中确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息;获取目标组合信息指示的文字对应的语音;确定目标组合信息指示的人物的位姿,按照位姿,基于该人物对应的人物形象模型生成该人物的三维形象,其中,人物形象模型包括头部形象模型;生成并输出包括三维形象的图像,输出语音。本申请可以通过人物和文字的对应关系,呈现人物的图像并播放模拟出的该人物的语音,以生动地还原出人物在当时场景中的形象和语言表现。并且,还可以通过还原书籍中人物的位姿,提高还原形象的准确和逼真程度。
Description
技术领域
本申请涉及人工智能技术领域,具体涉及增强现实和深度学习技术领域,尤其涉及图像的呈现方法和装置。
背景技术
漫画书籍是日常生活中常见的休闲类书籍。在漫画书籍中,通常包括人物形象和人物形象的话语也即文字。
传统的漫画书籍一般以纸质书籍的形式呈现,随着互联网技术的发展,多种漫画书籍也出现了电子版本,这样,用户无需携带纸质书籍,直接使用手机等移动终端就可以欣赏漫画了。
发明内容
提供了一种图像的呈现方法、装置、电子设备以及存储介质。
根据第一方面,提供了一种图像的呈现方法,包括:按照预设阅读顺序,从书籍的页面图像中确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息,其中,书籍的页面呈现有人物和人物话语的文字,预设阅读顺序用于指示多个人物文字组合之间的阅读先后顺序,人物文字组合信息用于指示人物和文字的对应关系;获取目标组合信息指示的文字对应的语音;确定目标组合信息指示的人物的位姿,按照位姿,基于该人物对应的人物形象模型生成该人物的三维形象,其中,人物形象模型包括头部形象模型;生成并输出包括三维形象的图像,输出语音。
根据第二方面,提供了一种图像的呈现装置,包括:目标获取单元,被配置成按照预设阅读顺序,从书籍的页面图像中确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息,其中,书籍的页面呈现有人物和人物话语的文字,预设阅读顺序用于指示多个人物文字组合之间的阅读先后顺序,人物文字组合信息用于指示人物和文字的对应关系;语音获取单元,被配置成获取目标组合信息指示的文字对应的语音;确定单元,被配置成确定目标组合信息指示的人物的位姿,按照位姿,基于该人物对应的人物形象模型生成该人物的三维形象,其中,人物形象模型包括头部形象模型;生成单元,被配置成生成并输出包括三维形象的图像,输出语音。
根据第三方面,提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如图像的呈现方法中任一实施例的方法。
根据第四方面,提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如图像的呈现方法中任一实施例的方法。
根据本申请的方案,可以通过人物和文字的对应关系,呈现人物的增强现实图像并播放模拟出的该人物的语音,以生动地还原出人物在当时场景中的形象和语言表现。并且,还可以通过还原书籍中人物的位姿,提高还原形象的准确和逼真程度。通过预设阅读顺序,可以按照准确的阅读顺序呈现三维形象,避免漫画书籍等特殊类型的书籍中阅读顺序不定导致输出的内容先后错乱的问题。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1是本申请一些实施例可以应用于其中的示例性系统架构图;
图2是根据本申请的图像的呈现方法的一个实施例的流程图;
图3是根据本申请的图像的呈现方法的一个应用场景的示意图;
图4是根据本申请的图像的呈现方法中目标组合信息指示的人物的确定的流程图;
图5是根据本申请的图像的呈现装置的一个实施例的结构示意图;
图6是用来实现本申请实施例的图像的呈现方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的图像的呈现方法或图像的呈现装置的实施例的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如视频类应用、直播应用、即时通信工具、邮箱客户端、社交平台软件等。
这里的终端设备101、102、103可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103提供支持的后台服务器。后台服务器可以对接收到的书籍(比如漫画书籍)的页面图像等数据进行分析等处理,并将处理结果(例如图像和语音)反馈给终端设备。
需要说明的是,本申请实施例所提供的图像的呈现方法可以由服务器105或者终端设备101、102、103执行,相应地,图像的呈现装置可以设置于服务器105或者终端设备101、102、103中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,示出了根据本申请的图像的呈现方法的一个实施例的流程200。该图像的呈现方法,包括以下步骤:
步骤201,按照预设阅读顺序,从书籍的页面图像中确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息,其中,书籍的页面呈现有人物和人物话语的文字,预设阅读顺序用于指示多个人物文字组合之间的阅读先后顺序,人物文字组合信息用于指示人物和文字的对应关系。
在本实施例中,图像的呈现方法运行于其上的执行主体(例如图1所示的服务器或终端设备)可以获取书籍的页面图像,并按照预设阅读顺序,从该页面图像中确定待识别的人物文字组合的人物文字组合信息,并将该人物文字组合作为目标组合。这里的书籍指页面呈现有人物和人物话语的书籍,比如可以是漫画书。上述执行主体可以通过预设阅读顺序,确定出当前要阅读的人物文字组合。比如,刚刚已经阅读了该页面的2号人物文字组合信息,也即对该人物文字组合信息确定并输出了增强现实图像和语音,按照预设阅读顺序,当前要确定该页面的3号人物文字组合信息。
页面图像指对该书籍的页面所拍摄的图像。在实践中,若上述执行主体为终端设备,上述执行主体可以直接利用摄像头拍摄页面图像。或者,若上述执行主体为服务器,上述执行主体可以接收终端设备拍摄并上传的页面图像。预设阅读顺序可以包括各个人物文字组合信息之间的阅读先后顺序的指示信息。
预设阅读顺序指对于书籍的阅读顺序,可以是以整个书籍为单位的书籍整体阅读顺序,也可以是以页面或章节为单位的局部阅读顺序。人物与人物话语的文字之间存在对应关系,存在对应关系的人物和人物话语的文字可以作为一个组合,也即人物文字组合。举例来说,人物文字组合信息可以包括相对应的人物标识(比如姓名和/或编号)和文字信息,比如,这两个相对应的信息可以采用键值对的方式存储,这里的文字信息可以是指示文字的标识和/或位置,也可以是文字本身。或者,人物文字组合信息可以指示该人物文字组合中人物在页面中所在的人物区域,以及该组合中文字在页面中所在的文字区域,从而人物文字组合信息可以用于直接对这些区域进行识别。或者,人物文字组合信息也可以包括该人物区域和文字区域在数据库中的索引信息。
步骤202,获取目标组合信息指示的文字对应的语音。
在本实施例中,上述执行主体可以获取对目标组合信息指示的文字进行语音合成所得到的语音。在实践中,上述执行主体可以采用各种方式获取上述语音。比如,如果上述执行主体为终端设备,上述执行主体可以将该文字发送给服务器,并接收服务器返回的合成的语音。如果上述执行主体为服务器,上述执行主体可以接收语音合成服务器针对文字合成的语音,或者自行对文字合成语音。
步骤203,确定目标组合信息指示的人物的位姿,按照位姿,基于该人物对应的人物形象模型生成该人物的三维形象,其中,人物形象模型包括头部形象模型。
在本实施例中,上述执行主体可以确定目标组合信息指示的人物的位姿,并基于该人物对应的人物形象模型,按照该位姿生成该人物的三维形象。这里的位姿指位置和姿态,该三维形象的位姿即是书籍页面中该人物的位姿。
在实践中,人物形象模型可以包括头部形象模型和身体形象模型,或者也可以仅仅包括头部形象模型。上述电子设备或者其它电子设备,针对书籍中的每个人物,都可以设定一个人物形象模型。该人物的人物形象模型可以被驱动,从而表现出该人物的说出上述语音的样子和/或呈现该人物的表情。
步骤204,生成并输出包括三维形象的图像,输出语音。
在本实施例中,上述执行主体可以生成包括三维形象的图像并输出,以及输出上述语音。如果上述执行主体为终端设备,上述执行主体可以显示图像并播放语音,以实现输出语音。如果上述执行主体为服务器,上述执行主体可以向获取页面图像的终端设备发送图像和语音,这样,该终端设备就可以显示图像并播放语音,以进行语音的输出。具体地,这里的图像可以是增强现实图像。
本申请的上述实施例提供的方法可以通过人物和文字的对应关系,呈现人物的图像(比如增强现实图像)并播放模拟出的该人物的语音,以生动地还原出人物在当时场景中的形象和语言表现。并且,还可以通过还原书籍中人物的位姿,提高还原形象的准确和逼真程度。通过预设阅读顺序,可以按照准确的阅读顺序呈现三维形象,避免漫画书籍等特殊类型的书籍中阅读顺序不定导致输出的内容先后错乱的问题。
在本实施例的一些可选的实现方式中,上述书籍的页面呈现有页面标识,页面标识的面积不小于指定面积;上述方法还可以包括:对页面图像中的页面标识与标准页面标识进行形状比对,得到页面图像中呈现的页面的空间位置;以及生成并输出包括三维形象的图像,包括:根据空间位置,确定三维显示位置,生成在三维显示位置呈现三维形象的图像,输出该图像。
在这些可选的实现方式中,在书籍的页面中可以有页面标识,页面标识的面积可以较大。上述执行主体可以将页面图像中的页面标识与标准页面标识进行形状比对,以得到页面的空间位置。在实践中,标准页面标识可以表示为页面图像中页面标识实际的尺寸和位置。这里的尺寸可以包括页面标识的边缘的坐标,比如矩形框的尺寸和位置,具体可以包括宽度、高度和一个目标点(比如矩形框中心点或者左上角的顶点)的坐标。这里的指定面积指一个设定好的面积数值。可选地,页面标识可以是二维码等各种图形码,也可以是图形、数字等等。
具体地,这里的空间位置可以是拍摄页面图像的终端设备距离上述书籍的当前页面(页面图像指示的页面)的相对位置。
在实践中,上述执行主体可以采用各种方式根据空间位置,确定三维显示位置。比如,上述执行主体可以将该空间位置的几何中心点作为三维显示位置的最下方平面的中心点。或者,上述执行主体可以获取预设的位置确定模型,将上述空间位置输入该位置确定模型中,并得到该模型输出的三维显示位置。该位置确定模型用于指示空间位置和三维显示位置之间的对应关系。
此外,上述执行主体还可以通过上述比对,得到该页面标识指示的页面的页码,从而,可以在预设阅读顺序中找到该页码对应的阅读顺序。
在这些可选的实现方式中,上述执行主体可以通过形状比对,准确地确定页面的空间位置,确定出三维显示位置,从而实现显示包括三维形象的图像。
可选地,上述按照预设阅读顺序,从书籍的页面图像中确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息,可以包括:对所述页面图像中的页面标识进行识别,得到所述页面的页码,其中,所述页面图像中的页面标识为页码符号或图形码;确定所得到的页码指示的、所述页面的预设阅读顺序,按照该预设阅读顺序,确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息。
具体地,这里对页面标识的识别可以是针对页码符号(比如宋体呈现的页码“1”)的对象识别,也可以是针对图形码(比如二维码、条形码)的图形码识别(比如二维码识别)。图形码中可以包括指示页码的页码信息。页面符号是预设类型的号码,比如阿拉伯数字号码。
这些实现方式可以准确地确定出每一页的预设阅读顺序,从而快速针对该页,确定出准确的人物文字组合信息。
在本实施例的一些可选的实现方式中,上述基于该人物对应的人物形象模型生成该人物的三维形象,可以包括:获取对该人物的表情识别结果,基于人物形象模型,生成与表情识别结果对应的三维形象。
在这些实现方式中,上述执行主体或者其它电子设备可以利用预先设置的表情识别模型,对人物区域进行表情识别,从而得到该人物的表情识别结果。在其它电子设备进行表情识别的情况下,上述执行主体可以从该其它电子设备获取到该表情识别结果。上述执行主体可以在三维形象中展示出页面中人物的表情,从而让三维形象更加贴合书籍中的人物形象。
继续参见图3,图3是根据本实施例的图像的呈现方法的应用场景的一个示意图。在图3的应用场景中,执行主体301获取漫画书籍的第12页的页面图像302,按照预设阅读顺序(比如按照图1、图2、图3…的顺序)303,从页面图像中确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息304,其中,书籍的页面呈现有人物和人物话语的文字,预设阅读顺序用于指示多个人物文字组合之间的阅读先后顺序,人物文字组合信息用于指示人物和文字的对应关系。执行主体301获取目标组合信息304指示的文字对应的语音305。执行主体301确定目标组合信息指示的人物的位姿,按照位姿,基于该人物对应的人物形象模型生成该人物的三维形象306,其中,人物形象模型包括头部形象模型。执行主体301生成并输出包括三维形象的图像307,输出语音304。
进一步参考图4,其示出了图像的呈现方法中目标组合信息指示的人物的确定流程400。该流程400中,人物文字组合信息包括人物位置;目标组合信息指示的人物的确定步骤包括:
步骤401,将目标组合信息中的人物位置所在的人物区域输入预设人物识别模型,得到人物识别结果,其中,人物识别结果为书籍对应的人物标识集合中的其中一个人物标识。
在本实施例中,图像的呈现方法运行于其上的执行主体(例如图1所示的服务器或终端设备)或者其它电子设备可以将上述人物的人物区域输入预设人物识别模型,得到人物识别结果。这里的预设人物识别模型用于进行书籍中的人物的人物识别,是采用该书籍中人物的人物图像训练得到的,可以识别出书籍中各个人物的各种特征,比如头部特征、衣服特征等等。预设人物识别模型为深度神经网络,比如,卷积神经网络或残差神经网络等等。书籍中的每个人物都可以对应一个人物标识,各个人物的人物标识则存在于人物标识集合中。
在实践中,上述执行主体或者其它电子设备可以采用各种方式确定人物区域,比如这里的人物区域可以是人物所在位置,也即人物位置,并且人物区域存在于预先获取的人物文字组合信息中,那么,找到了目标组合信息,就得到了其中的人物区域。
人物文字组合信息可以包括相对应的人物位置和文字位置。这里的位置可以是点的坐标也即点位置,比如人物位置即是在人物形象中的一个坐标点的位置,文字位置是在文字框中的一个文字中或者一段文字行间的坐标点的位置。或者人物位置和文字位置也可以是矩形框的位置,比如人物的全身的包围框的坐标位置,一段人物话语中文字的包围框的坐标位置。
步骤402,将人物识别结果指示的人物作为目标组合信息指示的人物。
在本实施例中,上述执行主体可以将人物识别结果指示的人物,作为上述目标组合信息指示的人物,从而完成该人物的确定步骤。
这些实现方式可以通过神经网络准确地识别出场景中是哪个人物,从而有助于呈现出更加准确的图像。
在本实施例的一些可选的实现方式中,人物位置为点位置,该点位置在人物头部区域;人物区域的确定步骤包括:确定目标组合中作为人物位置的点位置所在的人物头部区域,确定包括该人物头部区域的人物区域。
在这些可选的实现方式中,上述的人物位置可以是点位置,比如,指示人物位置的点位置可以点在人物头部区域。上述执行主体或者其它电子设备可以确定人物头部区域。在实践中,上述执行主体或者其它电子设备可以采用各种方式确定人物头部区域。比如,在上述执行主体或其它电子设备上可以存在预先设置的点位置和人物头部区域之间的对应关系,从而可以在目标组合信息指示该点位置的情况下,确定出该点位置对应的人物头部区域。或者,上述执行主体可以将上述页面图像输入预先训练的人物检测模型,并在每次确定该页面图像对应的页面中的人物时,将输出的头部区域的坐标中,包括上述点位置的头部区域,作为上述人物头部区域。这里的人物检测模型可以用于检测人物所在的位置,比如用于检测人物头部所在的位置,或者人物全身所在的位置。
具体地,上述执行主体可以采用各种方式确定包括人物头部区域的人物区域。比如,上述执行主体可以直接将上述人物头部区域作为人物区域,或者上述执行主体还可以在人物检测模型可以输出人物全身区域的情况下,将该模型输出的包括人物头部区域的人物全身区域作为上述人物区域。该模型可以是各种深度神经网络,比如卷积神经网络。
在这些可选的实现方式中,可以通过指示人物位置的点位置,准确定位人物所在位置,并通过点出人物头部中的点位置,准确地确定出最能够体现人物特点的人物头部位置,实现准确的确定出人物区域,以及最大化体现人物特点。
本申请还提供了一种图像的呈现方法的又一个实施例的流程。该流程中,人物文字组合信息包括文字位置;目标组合信息指示的文字的确定步骤包括:将目标组合信息中的文字位置所在的文字区域输入预设文字识别模型,得到文字识别结果;将文字识别结果作为目标组合信息指示的文字。
在这些可选的实现方式中,人物文字组合信息可以包括文字位置。在实践中,上述文字区域可以采用各种方式得到。比如,该文字区域可以是文字位置并存在于预先确定的人物文字组合中,那么,找到了目标组合信息,就得到了其中的文字区域。这里的预设文字识别模型可以用于进行OCR(Optical Character Recognition,光学字符识别)。文字识别结果可以是文字本身。
本实施例可以通过文字识别模型,准确地得到目标组合信息指示的文字。
在本实施例的一些可选的实现方式中,文字位置为点位置;文字区域的确定步骤包括:确定目标组合中作为文字位置的点位置所在的文字区域。
在这些可选的实现方式中,上述执行主体可以采用各种方式确定点位置所在的文字区域。比如,上述执行主体可以获取作为文字位置的点位置和文字区域之间的对应关系,并在该对应关系中,查找上述作为文字位置的点位置所对应的文字区域。或者,上述执行主体可以将上述页面图像输入预先训练的文字检测模型,并在每次确定该页面图像对应的页面中的文字时,将输出的文字区域的坐标中包括上述点位置的区域,作为上述文字区域。这里的文字检测模型可以用于检测文字所在的位置。
这些实现方式可以通过标注点位置,准确定位文字所在位置,实现了准确的确定出文字区域。
在本实施例的一些可选的实现方式中,上述语音的生成步骤可以包括:获取目标组合信息指示的人物对应的音色,其中,书籍中不同的人物对应的音色不同;按照所获取的音色,合成文字识别结果所对应的语音。
在这些可选的实现方式中,上述执行主体或者其它电子设备可以获取目标组合信息指示的人物的音色,并按照该音色,合成文字识别结果所对应的语音。这样,输出的语音就更加符合人物的特点,通过音色,让语音可以达到更加逼真的效果。
进一步参考图5,作为对上述各图所示方法的实现,本申请提供了一种图像的呈现装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,除下面所记载的特征外,该装置实施例还可以包括与图2所示的方法实施例相同或相应的特征或效果。该装置具体可以应用于各种电子设备中。
如图5所示,本实施例的图像的呈现装置500包括:目标获取单元501、语音获取单元502、确定单元503和生成单元504。其中,目标获取单元501,被配置成按照预设阅读顺序,从书籍的页面图像中确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息,其中,书籍的页面呈现有人物和人物话语的文字,预设阅读顺序用于指示多个人物文字组合之间的阅读先后顺序,人物文字组合信息用于指示人物和文字的对应关系;语音获取单元502,被配置成获取目标组合信息指示的文字对应的语音;确定单元503,被配置成确定目标组合信息指示的人物的位姿,按照位姿,基于该人物对应的人物形象模型生成该人物的三维形象,其中,人物形象模型包括头部形象模型;生成单元504,被配置成生成并输出包括三维形象的图像,输出语音。
在本实施例中,图像的呈现装置500的目标获取单元501、语音获取单元502、确定单元503和生成单元504的具体处理及其所带来的技术效果可分别参考图2对应实施例中步骤201、步骤202步骤203和步骤204的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,人物文字组合信息包括人物位置;目标组合信息指示的人物的确定步骤包括:将目标组合信息中的人物位置所在的人物区域输入预设人物识别模型,得到人物识别结果,其中,人物识别结果为书籍对应的人物标识集合中的其中一个人物标识;将人物识别结果指示的人物作为目标组合信息指示的人物。
在本实施例的一些可选的实现方式中,人物位置为点位置,该点位置在人物头部区域;人物区域的确定步骤包括:确定目标组合中作为人物位置的点位置所在的人物头部区域,确定包括该人物头部区域的人物区域。
在本实施例的一些可选的实现方式中,人物文字组合信息包括文字位置;目标组合信息指示的文字的确定步骤包括:将目标组合信息中的文字位置所在的文字区域输入预设文字识别模型,得到文字识别结果;将文字识别结果作为目标组合信息指示的文字。
在本实施例的一些可选的实现方式中,文字位置为点位置;文字区域的确定步骤包括:确定目标组合中作为文字位置的点位置所在的文字区域。
在本实施例的一些可选的实现方式中,语音的生成步骤包括:获取目标组合信息指示的人物对应的音色,其中,书籍中不同的人物对应的音色不同;按照所获取的音色,合成文字识别结果所对应的语音。
在本实施例的一些可选的实现方式中,书籍的页面呈现有页面标识,页面标识的面积不小于指定面积;装置还包括:比对单元,被配置成对页面图像中的页面标识与标准页面标识进行形状比对,得到页面图像中呈现的页面的空间位置;以及生成单元,进一步被配置成按照如下方式执行生成并输出包括三维形象的图像:根据空间位置,确定三维显示位置,生成在三维显示位置呈现三维形象的图像,输出该图像。
在本实施例的一些可选的实现方式中,所述目标获取单元,进一步被配置成按照如下方式执行所述按照预设阅读顺序,从书籍的页面图像中确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息:对所述页面图像中的页面标识进行识别,得到所述页面的页码,其中,所述页面图像中的页面标识为页码符号或图形码;确定所述页码指示的、所述页面的预设阅读顺序,按照该预设阅读顺序,确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息。
在本实施例的一些可选的实现方式中,确定单元,进一步被配置成按照如下方式执行基于该人物对应的人物形象模型生成该人物的三维形象:获取对该人物的表情识别结果,基于人物形象模型,生成与表情识别结果对应的三维形象。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图6所示,是根据本申请实施例的图像的呈现方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示,该电子设备包括:一个或多个处理器601、存储器602,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器601为例。
存储器602即为本申请所提供的非瞬时计算机可读存储介质。其中,存储器存储有可由至少一个处理器执行的指令,以使至少一个处理器执行本申请所提供的图像的呈现方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的图像的呈现方法。
存储器602作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的图像的呈现方法对应的程序指令/模块(例如,附图5所示的获取单元501、语音获取单元502、确定单元503和生成单元504)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的图像的呈现方法。
存储器602可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据图像的呈现电子设备的使用所创建的数据等。此外,存储器602可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器602可选包括相对于处理器601远程设置的存储器,这些远程存储器可以通过网络连接至图像的呈现电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
图像的呈现方法的电子设备还可以包括:输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线或者其他方式连接,图6中以通过总线连接为例。
输入装置603可接收输入的数字或字符信息,以及产生与图像的呈现电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括获取单元、语音获取单元、确定单元和生成单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,获取单元还可以被描述为“获取目标组合信息指示的文字对应的语音的单元”。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的装置中所包含的;也可以是单独存在,而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该装置执行时,使得该装置:按照预设阅读顺序,从书籍的页面图像中确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息,其中,书籍的页面呈现有人物和人物话语的文字,预设阅读顺序用于指示多个人物文字组合之间的阅读先后顺序,人物文字组合信息用于指示人物和文字的对应关系;获取目标组合信息指示的文字对应的语音;确定目标组合信息指示的人物的位姿,按照位姿,基于该人物对应的人物形象模型生成该人物的三维形象,其中,人物形象模型包括头部形象模型;生成并输出包括三维形象的图像,输出语音。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (14)
1.一种图像的呈现方法,所述方法包括:
按照预设阅读顺序,从书籍的页面图像中确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息,其中,所述书籍的页面呈现有人物和人物话语的文字,所述预设阅读顺序用于指示多个人物文字组合之间的阅读先后顺序,人物文字组合信息用于指示人物和文字的对应关系,所述人物文字组合信息包括文字位置,所述文字位置为点位置,所述书籍的页面呈现有页面标识,所述页面标识的面积不小于指定面积;
获取所述目标组合信息指示的文字对应的语音;
确定所述目标组合信息指示的人物的位姿,按照所述位姿,基于该人物对应的人物形象模型生成该人物的三维形象,其中,所述人物形象模型包括头部形象模型;
对所述页面图像中的页面标识与标准页面标识进行形状比对,得到所述页面图像中呈现的页面的空间位置;
根据所述空间位置,确定三维显示位置,生成在所述三维显示位置呈现所述三维形象的图像,输出该图像,输出所述语音;
其中,所述目标组合信息指示的文字的确定步骤包括:将所述目标组合信息中的文字位置所在的文字区域输入预设文字识别模型,得到文字识别结果;将所述文字识别结果作为所述目标组合信息指示的文字;
所述语音的生成步骤包括:获取所述目标组合信息指示的人物对应的音色,其中,所述书籍中不同的人物对应的音色不同;按照所获取的音色,合成所述文字识别结果所对应的语音。
2.根据权利要求1所述的方法,其中,人物文字组合信息包括人物位置;所述目标组合信息指示的人物的确定步骤包括:
将所述目标组合信息中的人物位置所在的人物区域输入预设人物识别模型,得到人物识别结果,其中,所述人物识别结果为所述书籍对应的人物标识集合中的其中一个人物标识;
将所述人物识别结果指示的人物作为所述目标组合信息指示的人物。
3.根据权利要求2所述的方法,其中,所述人物位置为点位置,该点位置在人物头部区域;
所述人物区域的确定步骤包括:
确定所述目标组合中作为所述人物位置的点位置所在的人物头部区域,确定包括该人物头部区域的所述人物区域。
4.根据权利要求1所述的方法,其中,所述文字位置为点位置;
所述文字区域的确定步骤包括:
确定所述目标组合中作为文字位置的点位置所在的文字区域。
5.根据权利要求1所述的方法,其中,所述按照预设阅读顺序,从书籍的页面图像中确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息,包括:
对所述页面图像中的页面标识进行识别,得到所述页面的页码,其中,所述页面图像中的页面标识为页码符号或图形码;
确定所述页码指示的、所述页面的预设阅读顺序,按照该预设阅读顺序,确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息。
6.根据权利要求1所述的方法,其中,所述基于该人物对应的人物形象模型生成该人物的三维形象,包括:
获取对该人物的表情识别结果,基于所述人物形象模型,生成与所述表情识别结果对应的三维形象。
7.一种图像的呈现装置,所述装置包括:
目标获取单元,被配置成按照预设阅读顺序,从书籍的页面图像中确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息,其中,所述书籍的页面呈现有人物和人物话语的文字,所述预设阅读顺序用于指示多个人物文字组合之间的阅读先后顺序,人物文字组合信息用于指示人物和文字的对应关系,所述人物文字组合信息包括文字位置,所述文字位置为点位置,所述书籍的页面呈现有页面标识,所述页面标识的面积不小于指定面积;
语音获取单元,被配置成获取所述目标组合信息指示的文字对应的语音;
确定单元,被配置成确定所述目标组合信息指示的人物的位姿,按照所述位姿,基于该人物对应的人物形象模型生成该人物的三维形象,其中,所述人物形象模型包括头部形象模型;
比对单元,被配置成对所述页面图像中的页面标识与标准页面标识进行形状比对,得到所述页面图像中呈现的页面的空间位置;
生成单元,被配置成根据所述空间位置,确定三维显示位置,生成在所述三维显示位置呈现所述三维形象的图像,输出该图像,输出所述语音;
其中,所述目标组合信息指示的文字的确定步骤包括:将所述目标组合信息中的文字位置所在的文字区域输入预设文字识别模型,得到文字识别结果;将所述文字识别结果作为所述目标组合信息指示的文字;
所述语音的生成步骤包括:获取所述目标组合信息指示的人物对应的音色,其中,所述书籍中不同的人物对应的音色不同;按照所获取的音色,合成所述文字识别结果所对应的语音。
8.根据权利要求7所述的装置,其中,人物文字组合信息包括人物位置;所述目标组合信息指示的人物的确定步骤包括:
将所述目标组合信息中的人物位置所在的人物区域输入预设人物识别模型,得到人物识别结果,其中,所述人物识别结果为所述书籍对应的人物标识集合中的其中一个人物标识;
将所述人物识别结果指示的人物作为所述目标组合信息指示的人物。
9.根据权利要求8所述的装置,其中,所述人物位置为点位置,该点位置在人物头部区域;
所述人物区域的确定步骤包括:
确定所述目标组合中作为所述人物位置的点位置所在的人物头部区域,确定包括该人物头部区域的所述人物区域。
10.根据权利要求7所述的装置,其中,所述文字位置为点位置;
所述文字区域的确定步骤包括:
确定所述目标组合中作为文字位置的点位置所在的文字区域。
11.根据权利要求7所述的装置,其中,所述目标获取单元,进一步被配置成按照如下方式执行所述按照预设阅读顺序,从书籍的页面图像中确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息:
对所述页面图像中的页面标识进行识别,得到所述页面的页码,其中,所述页面图像中的页面标识为页码符号或图形码;
确定所述页码指示的、所述页面的预设阅读顺序,按照该预设阅读顺序,确定待识别的人物文字组合的人物文字组合信息,作为目标组合信息。
12.根据权利要求7所述的装置,其中,所述确定单元,进一步被配置成按照如下方式执行所述基于该人物对应的人物形象模型生成该人物的三维形象:
获取对该人物的表情识别结果,基于所述人物形象模型,生成与所述表情识别结果对应的三维形象。
13.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-6中任一所述的方法。
14.一种计算机可读存储介质,其上存储有计算机程序,其中,该程序被处理器执行时实现如权利要求1-6中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011321647.6A CN112328088B (zh) | 2020-11-23 | 2020-11-23 | 图像的呈现方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011321647.6A CN112328088B (zh) | 2020-11-23 | 2020-11-23 | 图像的呈现方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112328088A CN112328088A (zh) | 2021-02-05 |
CN112328088B true CN112328088B (zh) | 2023-08-04 |
Family
ID=74322731
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011321647.6A Active CN112328088B (zh) | 2020-11-23 | 2020-11-23 | 图像的呈现方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112328088B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113901785A (zh) * | 2021-09-29 | 2022-01-07 | 联想(北京)有限公司 | 一种标记方法及电子设备 |
CN114693844A (zh) * | 2022-03-23 | 2022-07-01 | 北京百度网讯科技有限公司 | 一种电子绘本生成方法、装置及电子设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1362682A (zh) * | 2000-12-28 | 2002-08-07 | 卡西欧计算机株式会社 | 电子书籍数据传递设备、电子书籍设备和记录媒介 |
CN107330961A (zh) * | 2017-07-10 | 2017-11-07 | 湖北燿影科技有限公司 | 一种文字影音转换方法和系统 |
KR20180080668A (ko) * | 2017-01-04 | 2018-07-12 | (주)디엔소프트 | 증강현실 마커를 포함하는 한자 교재를 이용한 증강현실 한자교육방법 및 그 기록매체 |
CN108665742A (zh) * | 2018-05-11 | 2018-10-16 | 亮风台(上海)信息科技有限公司 | 一种通过阅读设备进行阅读的方法与设备 |
CN111182387A (zh) * | 2019-12-03 | 2020-05-19 | 广东小天才科技有限公司 | 一种学习互动方法及智能音箱 |
CN111833418A (zh) * | 2020-07-14 | 2020-10-27 | 北京百度网讯科技有限公司 | 动画交互方法、装置、设备以及存储介质 |
-
2020
- 2020-11-23 CN CN202011321647.6A patent/CN112328088B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1362682A (zh) * | 2000-12-28 | 2002-08-07 | 卡西欧计算机株式会社 | 电子书籍数据传递设备、电子书籍设备和记录媒介 |
KR20180080668A (ko) * | 2017-01-04 | 2018-07-12 | (주)디엔소프트 | 증강현실 마커를 포함하는 한자 교재를 이용한 증강현실 한자교육방법 및 그 기록매체 |
CN107330961A (zh) * | 2017-07-10 | 2017-11-07 | 湖北燿影科技有限公司 | 一种文字影音转换方法和系统 |
CN108665742A (zh) * | 2018-05-11 | 2018-10-16 | 亮风台(上海)信息科技有限公司 | 一种通过阅读设备进行阅读的方法与设备 |
CN111182387A (zh) * | 2019-12-03 | 2020-05-19 | 广东小天才科技有限公司 | 一种学习互动方法及智能音箱 |
CN111833418A (zh) * | 2020-07-14 | 2020-10-27 | 北京百度网讯科技有限公司 | 动画交互方法、装置、设备以及存储介质 |
Non-Patent Citations (1)
Title |
---|
基于可视语音合成的3D通信技术研究;杨志晓;隋菲;张德贤;;计算机应用研究(11);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN112328088A (zh) | 2021-02-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112541957B (zh) | 动画生成方法、装置、电子设备以及计算机可读介质 | |
CN111860362A (zh) | 生成人脸图像校正模型及校正人脸图像的方法和装置 | |
CN112328088B (zh) | 图像的呈现方法和装置 | |
CN111259183B (zh) | 图像识图方法、装置、电子设备和介质 | |
CN112328345A (zh) | 用于确定主题色的方法、装置、电子设备及可读存储介质 | |
CN112241716B (zh) | 训练样本的生成方法和装置 | |
CN111768356A (zh) | 一种人脸图像融合方法、装置、电子设备及存储介质 | |
US20210118232A1 (en) | Method and System for Translating Air Writing To An Augmented Reality Device | |
CN111539897A (zh) | 用于生成图像转换模型的方法和装置 | |
CN112967180A (zh) | 一种生成对抗网络的训练方法、图像风格转换方法和装置 | |
CN111523467A (zh) | 人脸跟踪方法和装置 | |
CN113055593B (zh) | 图像的处理方法和装置 | |
CN112116548A (zh) | 人脸图像的合成方法、装置 | |
CN111523292B (zh) | 用于获取图像信息的方法和装置 | |
CN111638792A (zh) | Ar效果的呈现方法、装置、计算机设备及存储介质 | |
CN109461203B (zh) | 手势三维图像生成方法、装置、计算机设备及存储介质 | |
CN111274447A (zh) | 基于视频的目标表情生成方法、装置、介质、电子设备 | |
CN112835807B (zh) | 界面识别方法、装置、电子设备和存储介质 | |
CN111986332A (zh) | 展示留言板的方法、装置、电子设备及存储介质 | |
CN114898019A (zh) | 一种动画融合方法和装置 | |
CN106547891A (zh) | 针对掌上显示设备的图片化文本信息的快速可视化方法 | |
CN113033485A (zh) | 关键点的检测方法和装置 | |
CN112329732A (zh) | 模型生成方法、装置、电子设备及存储介质 | |
CN112733879A (zh) | 针对不同场景的模型蒸馏方法和装置 | |
CN112558810A (zh) | 检测指尖位置的方法、装置、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |