CN116524156A - 模型展示方法、装置、电子设备及存储介质 - Google Patents
模型展示方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN116524156A CN116524156A CN202310461509.5A CN202310461509A CN116524156A CN 116524156 A CN116524156 A CN 116524156A CN 202310461509 A CN202310461509 A CN 202310461509A CN 116524156 A CN116524156 A CN 116524156A
- Authority
- CN
- China
- Prior art keywords
- painting
- virtual
- picture
- dimensional model
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 63
- 238000010422 painting Methods 0.000 claims abstract description 199
- 230000004927 fusion Effects 0.000 claims abstract description 92
- 230000000694 effects Effects 0.000 claims description 50
- 238000004590 computer program Methods 0.000 claims description 8
- 238000013528 artificial neural network Methods 0.000 description 16
- 238000012549 training Methods 0.000 description 12
- 238000001514 detection method Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 8
- 230000003190 augmentative effect Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 239000003973 paint Substances 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000018109 developmental process Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000006978 adaptation Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000010428 oil painting Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000004576 sand Substances 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 238000010429 water colour painting Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/003—Navigation within 3D models or images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/02—Non-photorealistic rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Geometry (AREA)
- Multimedia (AREA)
- Processing Or Creating Images (AREA)
Abstract
本公开提供了一种模型展示方法、装置、电子设备及存储介质,该方法包括:响应于目标设备扫描画作,对所述画作进行特征识别,确定所述画作的风格信息;基于所述风格信息,生成与所述画作上的画作内容匹配的至少一个虚拟三维模型;将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面;并控制所述目标设备展示所述融合画面。
Description
技术领域
本公开涉及增强现实技术领域,具体而言,涉及一种模型展示方法、装置、电子设备及存储介质。
背景技术
随着电子科技微元化、集成化的发展,智能设备在不断的演变发展,比如手机等移动设备的功能需求从通信功能转变为个人智能终端的需求。同时用户对追求高质量物质文化生活的需求也变得越来越旺盛,对娱乐场景的要求也越来越高。
一般的,用户能够在设备的展示平面上欣赏画作、图片等,或者,也可以在展览馆内观看展示的画作。但是,上述用户在观看画作时,无法与画作形成互动,画作的展示方式受限,展示不灵活。
发明内容
有鉴于此,本公开至少提供一种模型展示方法、装置、电子设备及存储介质,以提高画作的展示效果。
第一方面,本公开提供了一种模型展示方法,包括:
响应于目标设备扫描画作,对所述画作进行特征识别,确定所述画作的风格信息;
基于所述风格信息,生成与所述画作上的画作内容匹配的至少一个虚拟三维模型;
将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面;并控制所述目标设备展示所述融合画面。
上述方法中,通过对画作进行特征识别,确定画作的风格信息,并基于风格信息,生成与画作上的画作内容匹配的虚拟三维模型,使得该虚拟三维模型与画作的适配性较佳;再将至少一个虚拟三维模型融入画作的展示画面,生成融合画面;并控制目标设备展示融合画面,提升画作展示的灵活性和多样性,以达到提升画作展示效果的目的,实现画作与目标设备所属用户之间的互动。
一种可能的实施方式中,所述对所述画作进行特征识别,确定所述画作的风格信息,包括:
对所述画作进行特征识别,确定所述画作包括的元素类别;
基于所述画作上的画作内容,确定所述元素类别的属性信息;
根据所述画作包括的元素类别以及所述元素类别的属性信息,确定所述画作的风格信息。
这里,在确定画作包括的元素类别之后,基于画作上的画作内容,确定元素类别的属性信息,再利用画作包括的元素类别以及元素类别的属性信息,较准确的确定画作的风格信息,以便后续为画作生成适配度较高的虚拟三维模型。
一种可能的实施方式中,所述基于所述风格信息,生成与所述画作上的画作内容匹配的至少一个虚拟三维模型,包括:
从预先构建的多个预设虚拟模型中,确定与所述风格信息相匹配的候选虚拟模型;
对所述候选虚拟模型进行调整,生成与所述画作上的画作内容匹配的虚拟三维模型。
通过上述方式,可以较快速的确定与风格信息匹配的候选虚拟模型,再对候选虚拟模型进行调整,较准确的生成与画作内容匹配的虚拟三维模型。
一种可能的实施方式中,所述将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面,包括:
对所述画作进行特征点检测,确定所述画作上多个特征点的特征信息;其中,所述特征信息包括特征点的位置信息和类别信息;
基于所述画作上多个特征点的特征信息,确定所述画作包括的背景区域信息;
基于所述背景区域信息,在所述画作的展示画面中确定融合位置;
将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面。
这里,通过确定画作包括的背景区域信息,基于背景区域信息,在画作的展示画面中确定融合位置,将虚拟三维模型融入该融合位置,生成融合画面,缓解了在存在对象的前景区域内插入虚拟三维模型时造成的融合冲突问题,保障了融合的真实性,提高融合画面的展示效果。
一种可能的实施方式中,所述将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面,包括:
按照确定的动态展示特效,将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面。
通过为虚拟三维模型赋予动态展示特效,实现对虚拟三维模型的动态展示,使得画作的展示具有趣味性,提高画作的展示效果。
一种可能的实施方式中,所述动态展示特效包括移动特效,所述融合位置为多个;所述按照确定的动态展示特效,将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面,包括:
基于多个所述融合位置,在所述画作的展示画面中生成移动路线;
按照所述动态展示特效,生成所述虚拟三维模型沿着所述移动路线进行移动的融合画面。
一种可能的实施方式中,在所述确定所述画作的风格信息之后,还包括:
从预先存储的多个文本信息中,确定与所述风格信息匹配的目标文本信息;
所述将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面,包括:
将所述至少一个虚拟三维模型和所述目标文本信息融入所述画作的展示画面,生成融合画面。
通过在融合画面中展示目标文本信息和虚拟三维模型,可以利用虚拟三维模型提高画作展示的趣味性,以及可以利用目标文本信息对画作内容进行辅助,丰富展示内容,提高画作的展示效果。
以下装置、电子设备等的效果描述参见上述方法的说明,这里不再赘述。
第二方面,本公开提供了一种模型展示装置,包括:
识别模块,用于响应于目标设备扫描画作,对所述画作进行特征识别,确定所述画作的风格信息;
生成模块,用于基于所述风格信息,生成与所述画作上的画作内容匹配的至少一个虚拟三维模型;
展示模块,用于将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面;并控制所述目标设备展示所述融合画面。
一种可能的实施方式中,所述识别模块,在对所述画作进行特征识别,确定所述画作的风格信息时,用于:
对所述画作进行特征识别,确定所述画作包括的元素类别;
基于所述画作上的画作内容,确定所述元素类别的属性信息;
根据所述画作包括的元素类别以及所述元素类别的属性信息,确定所述画作的风格信息。
一种可能的实施方式中,所述生成模块,在基于所述风格信息,生成与所述画作上的画作内容匹配的至少一个虚拟三维模型时,用于:
从预先构建的多个预设虚拟模型中,确定与所述风格信息相匹配的候选虚拟模型;
对所述候选虚拟模型进行调整,生成与所述画作上的画作内容匹配的虚拟三维模型。
一种可能的实施方式中,所述展示模块,在将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面时,用于:
对所述画作进行特征点检测,确定所述画作上多个特征点的特征信息;其中,所述特征信息包括特征点的位置信息和类别信息;
基于所述画作上多个特征点的特征信息,确定所述画作包括的背景区域信息;
基于所述背景区域信息,在所述画作的展示画面中确定融合位置;
将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面。
一种可能的实施方式中,所述展示模块,在将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面时,用于:
按照确定的动态展示特效,将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面。
一种可能的实施方式中,所述动态展示特效包括移动特效,所述融合位置为多个;所述展示模块,在按照确定的动态展示特效,将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面时,用于:
基于多个所述融合位置,在所述画作的展示画面中生成移动路线;
按照所述动态展示特效,生成所述虚拟三维模型沿着所述移动路线进行移动的融合画面。
一种可能的实施方式中,在所述确定所述画作的风格信息之后,还包括:确定模块,用于:从预先存储的多个文本信息中,确定与所述风格信息匹配的目标文本信息;
所述展示模块,在将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面时,用于:将所述至少一个虚拟三维模型和所述目标文本信息融入所述画作的展示画面,生成融合画面。
第三方面,本公开提供一种电子设备,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行如上述第一方面或任一实施方式所述的模型展示方法的步骤。
第四方面,本公开提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如上述第一方面或任一实施方式所述的模型展示方法的步骤。
为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本公开实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,此处的附图被并入说明书中并构成本说明书中的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。应当理解,以下附图仅示出了本公开的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本公开实施例所提供的一种模型展示方法的流程示意图;
图2示出了本公开实施例所提供的一种模型展示方法中,目标设备的界面示意图;
图3a示出了本公开实施例所提供的一种模型展示方法中,目标设备的界面示意图;
图3b示出了本公开实施例所提供的一种模型展示方法中,目标设备的界面示意图;
图4示出了本公开实施例所提供的一种模型展示方法中,目标设备的界面示意图;
图5示出了本公开实施例所提供的一种模型展示装置的架构示意图;
图6示出了本公开实施例所提供的一种电子设备的结构示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本公开实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本公开的实施例的详细描述并非旨在限制要求保护的本公开的范围,而是仅仅表示本公开的选定实施例。基于本公开的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。
一般的,用户能够在设备的展示平面上欣赏画作、图片等,或者,也可以在展览馆内观看展示的绘画作品、摄影作品等。但是,上述用户在观看画作时,无法与画作形成互动,画作的展示方式受限,展示不灵活。为了缓解上述问题,本公开实施例提供了一种模型展示方法、装置、电子设备及存储介质。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
为便于对本公开实施例进行理解,首先对本公开实施例所公开的一种模型展示方法进行详细介绍。本公开实施例所提供的模型展示方法的执行主体一般为具有一定计算能力的计算机设备,该计算机设备例如包括:终端设备或服务器或其它处理设备,服务器比如包括本地服务器、云端服务器等,终端设备比如包括手机、电脑、平板、增强现实(AugmentedReality,AR)眼镜等。在一些可能的实现方式中,该模型展示方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。
参见图1所示,为本公开实施例所提供的模型展示方法的流程示意图,该方法包括S101-S103,其中:
S101,响应于目标设备扫描画作,对所述画作进行特征识别,确定所述画作的风格信息;
S102,基于所述风格信息,生成与所述画作上的画作内容匹配的至少一个虚拟三维模型;
S103,将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面;并控制所述目标设备展示所述融合画面。
上述方法中,通过对画作进行特征识别,确定画作的风格信息,并基于风格信息,生成与画作上的画作内容匹配的虚拟三维模型,使得该虚拟三维模型与画作的适配性较佳;再将至少一个虚拟三维模型融入画作的展示画面,生成融合画面;并控制目标设备展示融合画面,提升画作展示的灵活性和多样性,以达到提升画作展示效果的目的,实现画作与目标设备所属用户之间的互动。
下述对S101-S103进行具体说明。
针对S101:
画作可以为任一绘画作品,比如可以为现代绘画作品,也可以为古代绘画作品等等,此处不进行具体限制。目标设备可以包括但不限于手机、平板、AR眼镜等智能设备。
响应于目标设备扫描画作,对画作进行特征识别,确定画作的风格信息,该风格信息可以包括:画作所描绘的朝代,比如宋朝、清朝等,画作所描绘的季节,比如春、夏、秋、冬。实施时,可以获取目标设备采集的包括画作的视频帧,对该视频帧包括的画作进行特征识别,确定画作的风格信息。比如,可以利用训练后的风格检测神经网络,对目标设备采集的视频帧进行特征识别,确定画作的风格信息。
风格检测神经网络的训练过程包括:获取包括不同朝代、不同季节的画作图像的训练数据集,利用训练数据集对第一待训练神经网络进行训练,直至训练后神经网络收敛、或者训练次数大于设置次数阈值等,得到训练后的风格检测神经网络。其中,风格检测神经网络的网络结构可以根据实际需要进行设置。
一种可选实施方式中,对画作进行特征识别,确定画作的风格信息,具体包括:对所述画作进行特征识别,确定所述画作包括的元素类别;基于所述画作上的画作内容,确定所述元素类别的属性信息;根据所述画作包括的元素类别以及所述元素类别的属性信息,确定所述画作的风格信息。
实施时,可以先对画作进行特征识别,确定画作包括的元素类别。元素类别包括但不限于:人物、景色、建筑物等。比如,可以利用特征点检测算法,对画作进行特征识别,确定画作上多个特征点的特征信息;其中,特征信息包括特征点的位置信息和类别信息。根据多个特征点的特征信息,确定画作包括的元素类别。
再比如,可以利用训练后的对象识别神经网络,对画作进行特征识别,确定画作包括的目标对象。在目标对象包括人类时,确定画作的元素类别包括人物。在目标对象包括数木、太阳等时,确定画作的元素类别包括景色。在目标对象包括凉亭、桥梁、房屋等时,确定画作的元素类别包括建筑物。其中,对象识别神经网络的网络结构可以根据实际需要进行设置。
在确定画作包括的元素类别后,根据画作上的画作内容,确定元素类别的属性信息。其中,画作内容可以为该画作所描述的内容信息、画作本身的属性信息等,比如画作内容可以包括画作上展示的动物、植物、建筑物、山川地势、人物行为、人物的神情形态等等,画作本身的属性信息比如可以包括画作种类、画作色调等等,比如画作种类可以包括风景画、人物画、山水画等,或者也可以包括水彩画、漫画、油画、水墨画等;画作色调比如可以包括浅色调、深色调、冷色调、暖色调等等。
示例性的,在元素类别包括人物时,该元素类别的属性信息包括但不限于:性别、状态(比如少年、中年、老年)、衣着(比如服饰类别、服饰颜色等)、动作等。比如,人物的属性信息可以包括:男、中年、灰色长袍、灰色帽子、骑马等。在元素类别包括景色时,可以为该景色包括的树木、太阳等赋予时间属性,比如该元素类别的属性可以包括:树木所表征的季节、太阳所表征的时辰等,还可以包括树木、太阳的颜色等。在该元素类别包括建筑物时,该元素类别的属性信息可以包括:建筑物的类型、建筑物的细节特征,比如建筑物的类型包括宫殿、阁楼、凉亭、桥梁等,建筑物的细节特征包括:建筑规模、雕花、建筑形状等等。
实施时,可以利用训练后的属性识别神经网络,对画作进行识别,确定每种元素类别的属性信息。或者,也可以响应于属性确定操作,确定每种元素类别的属性信息。其中,其中,属性识别神经网络的网络结构可以根据实际需要进行设置。属性识别神经网络的训练过程可以包括:获取多个训练样本,该训练样本上标注有元素类别、以及该元素类别对应的属性信息。利用多个训练样本对第二待训练神经网络进行训练,直至满足训练截止条件,比如神经网络收敛、识别精度大于精度阈值等,得到属性识别神经网络。
最后根据画作包括的元素类别和元素类别的属性信息,确定画作的风格信息。实施时,可以预先设置每个朝代(和/或每个季节)的画作所具有的特性,比如建筑物特性、人物特性、景色特性等,进而可以将画作包括的元素类别和元素类别的属性信息、与预先设置的每个朝代的画作所具有的特性进行匹配,确定画作的风格信息。
另一种可实现的方式中,可以利用风格检测神经网络,对画作进行特征识别,确定元素类别;再利用风格检测神经网络,提取与每种元素类别相匹配的属性特征信息;将各种元素类别分别匹配的属性特征信息、与每个朝代(和/或每个季节)的画作所具有的特性进行特征匹配,确定画作的风格信息。
这里,在确定画作包括的元素类别之后,基于画作上的画作内容,确定元素类别的属性信息,再利用画作包括的元素类别以及元素类别的属性信息,较准确的确定画作的风格信息,以便后续为画作生成适配度较高的虚拟三维模型。
针对S102:
在得到画作的风格信息之后,可以生成与画作内容匹配的虚拟三维模型。比如,可以利用人工智能生成内容(Artificial Intelligence-Generated Content,AIGC)技术和三维3D建模算法重建与画作内容匹配的虚拟三维模型。
示例性的,可以利用AIGC技术生成与该风格信息匹配的模型特征。在模型为人物时,可以通过AIGC技术生成该风格下的人物特征,比如,人物特征可以包括:清代的中年男性身着灰色长袍等,根据该人物特征,利用3D建模算法重建虚拟三维模型。
一种可选实施方式中,所述基于所述风格信息,生成与所述画作上的画作内容匹配的至少一个虚拟三维模型,包括:从预先构建的多个预设虚拟模型中,确定与所述风格信息相匹配的候选虚拟模型;对所述候选虚拟模型进行调整,生成与所述画作上的画作内容匹配的虚拟三维模型。
实施时,可以预先为每个朝代和/或每个季节,生成匹配的预设虚拟模型。比如,针对宋朝,可以生成宋朝画作风格相匹配的人物模型、建筑模型等等。进而,可以从预先构建的多个预设虚拟模型中,确定与画作的风格信息匹配的候选虚拟模型。
再对候选虚拟模型进行调整,比如,在画作内容中人物身着灰色长袍时,可以将候选虚拟模型的服饰调整为灰色长袍。在画作内容的整体颜色为暗黄色时,可以将候选虚拟模型的模型颜色调整为暗黄色等,得到与画作内容匹配的虚拟三维模型。
通过上述方式,可以较快速的确定与风格信息匹配的候选虚拟模型,再对候选虚拟模型进行调整,较准确的生成与画作上画作内容匹配的虚拟三维模型。
针对S103:
在生成至少一个虚拟三维模型之后,可以将虚拟三维模型融入画作的展示画面上,生成融合画面,该融合画面为虚拟三维模型与画作相融合的画面。并控制目标设备展示融合画面。参见图2所示的目标设备的界面示意图,展示的融合画面中包括画作21和虚拟三维模型22。
实施时,可以将画作作为标定物,对展示画面中的画作进行跟踪,确定画作在展示画面中的区域,将该三维模型展示在展示画面的画作所处的区域内,得到融合画面。
一种可选实施方式中,所述将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面,包括:对所述画作进行特征点检测,确定所述画作上多个特征点的特征信息;其中,所述特征信息包括特征点的位置信息和类别信息;基于所述画作上多个特征点的特征信息,确定所述画作包括的背景区域信息;基于所述背景区域信息,在所述画作的展示画面中确定融合位置;将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面。
实施时,可以利用特征点检测算法,对画作进行特征点检测,确定画作上多个特征点的特征信息,特征信息包括特征点在视频帧上的位置信息、特征点的类别信息等。再根据画作上多个特征点的特征信息,确定画作包括的背景区域信息,比如,将确定的不存在特征点的区域,确定为背景区域。
根据背景区域信息,确定画作的展示画面上背景区域所处的区域范围,从该区域范围内确定融合位置。在虚拟三维模型为多个时,可以为每个虚拟三维模型确定一个融合位置。将每个虚拟三维模型融入对应的融合位置,生成融合画面。
这里,通过确定画作包括的背景区域信息,基于背景区域信息,在画作的展示画面中确定融合位置,将虚拟三维模型融入该融合位置,生成融合画面,缓解了在存在对象的前景区域内插入虚拟三维模型时造成的融合冲突问题,保障了融合的真实性,提高融合画面的展示效果。
一种可选实施方式中,将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面,包括:按照确定的动态展示特效,将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面。
可以设置虚拟三维模型的动态展示特效,比如在虚拟三维模型为人物时,动态展示特效包括移动特效、招手特效、嬉笑特效等。
实施时,可以将至少一个虚拟三维模型融入融合位置,并控制虚拟三维模型在该融合位置执行动态展示特效指示的动作,比如招手、嬉笑等,生成融合画面,该融合画面可以为视频画面。
通过为虚拟三维模型赋予动态展示特效,实现对虚拟三维模型的动态展示,使得画作的展示具有趣味性,提高画作的展示效果。
一种可选实施方式中,所述动态展示特效包括移动特效,所述融合位置为多个;所述按照确定的动态展示特效,将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面,包括:基于多个所述融合位置,在所述画作的展示画面中生成移动路线;按照所述动态展示特效,生成所述虚拟三维模型沿着所述移动路线进行移动的融合画面。
在动态展示特效包括移动特效时,可以提前确定多个融合位置,根据多个融合位置,在画作的展示画面中生成移动路线。按照动态展示特效,生成虚拟三维模型沿着移动路线进行移动的融合画面,虚拟三维模型移动的步长、速度等信息可以根据需要进行设置。
具体实施时,还可以在目标设备的展示界面上设置控制虚拟三维模型移动方向的控制按钮,比如用户操作控制按钮向上,则虚拟三维模型向上移动;用户操作控制按钮向下,则虚拟三维模型向下移动。响应于用户对控制按钮的操作,控制虚拟三维模型在画作的展示画面上进行移动,生成具有移动特效的融合画面。
参见图3a所示,该图3a中包括画作31、虚拟三维模型32、以及移动路线33。图3a所示的融合画面中虚拟三维模型位于移动路线的起始位置,在虚拟三维模型按照移动路线移动后,得到移动后的融合画面,如图3b所示。
一种可选实施方式中,在确定所述画作的风格信息之后,还包括:从预先存储的多个文本信息中,确定与所述风格信息匹配的目标文本信息;
所述将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面,包括:将所述至少一个虚拟三维模型和所述目标文本信息融入所述画作的展示画面,生成融合画面。
实施时,可以预先存储每种风格对应的文本信息,文本信息包括诗词歌赋、名言名句、解说内容等等。比如,可以预先存储每个朝代的诗句、描述每个季节的诗句等等。在确定画作的风格信息之后,可以从预先存储的多个文本信息中确定与风格信息匹配的目标文本信息,比如,在画作为宋代的画作时,可以从预先存储的宋代的诗句、词曲中,确定目标文本信息。在画作为唐代的描述春耕的画作时,可以从预先存储的唐代的诗句中,将与春耕相关的诗句确定为目标文本信息。
再将至少一个虚拟三维模型和目标文本信息融入画作的展示画面,生成融合画面。其中,目标文本信息、虚拟三维模型的融入位置可以为预先位置、也可以为画作中的背景区域位置(即空白区域位置)。参见图4所示,该图4中包括画作41、虚拟三维模型42和目标文本信息43。
实施时,可以控制虚拟三维模型在画作中进行移动,在移动到特定位置、或者移动特定距离时,触发展示目标文本信息,在不同的特定位置或不同的特定距离,展示不同的目标文本信息。比如,虚拟三维模型移动至第一特定位置时,展示第一目标文本信息,移动至第二特定位置时,展示第二目标文本信息。或者,虚拟三维模型移动1厘米时,展示第一目标文本信息,移动2厘米时,展示第二目标文本信息,实现画作的灵活、多样展示。
通过在融合画面中展示目标文本信息和虚拟三维模型,可以利用虚拟三维模型提高画作展示的趣味性,以及可以利用目标文本信息对画作内容进行辅助,丰富展示内容,提高画作的展示效果。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
基于相同的构思,本公开实施例还提供了一种模型展示装置,参见图5所示,为本公开实施例提供的模型展示装置的架构示意图,包括识别模块501、生成模块502、展示模块503,具体的:
识别模块501,用于响应于目标设备扫描画作,对所述画作进行特征识别,确定所述画作的风格信息;
生成模块502,用于基于所述风格信息,生成与所述画作上画作内容匹配的至少一个虚拟三维模型;
展示模块503,用于将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面;并控制所述目标设备展示所述融合画面。
一种可能的实施方式中,所述识别模块501,在对所述画作进行特征识别,确定所述画作的风格信息时,用于:
对所述画作进行特征识别,确定所述画作包括的元素类别;
基于所述画作上的画作内容,确定所述元素类别的属性信息;
根据所述画作包括的元素类别以及所述元素类别的属性信息,确定所述画作的风格信息。
一种可能的实施方式中,所述生成模块502,在基于所述风格信息,生成与所述画作上的画作内容匹配的至少一个虚拟三维模型时,用于:
从预先构建的多个预设虚拟模型中,确定与所述风格信息相匹配的候选虚拟模型;
对所述候选虚拟模型进行调整,生成与所述画作上的画作内容匹配的虚拟三维模型。
一种可能的实施方式中,所述展示模块503,在将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面时,用于:
对所述画作进行特征点检测,确定所述画作上多个特征点的特征信息;其中,所述特征信息包括特征点的位置信息和类别信息;
基于所述画作上多个特征点的特征信息,确定所述画作包括的背景区域信息;
基于所述背景区域信息,在所述画作的展示画面中确定融合位置;
将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面。
一种可能的实施方式中,所述展示模块503,在将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面时,用于:
按照确定的动态展示特效,将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面。
一种可能的实施方式中,所述动态展示特效包括移动特效,所述融合位置为多个;所述展示模块503,在按照确定的动态展示特效,将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面时,用于:
基于多个所述融合位置,在所述画作的展示画面中生成移动路线;
按照所述动态展示特效,生成所述虚拟三维模型沿着所述移动路线进行移动的融合画面。
一种可能的实施方式中,在确定所述画作的风格信息之后,还包括:确定模块504,用于:从预先存储的多个文本信息中,确定与所述风格信息匹配的目标文本信息;
所述展示模块503,在将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面时,用于:将所述至少一个虚拟三维模型和所述目标文本信息融入所述画作的展示画面,生成融合画面。
在一些实施例中,本公开实施例提供的装置具有的功能或包含的模板可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
基于同一技术构思,本公开实施例还提供了一种电子设备。参照图6所示,为本公开实施例提供的电子设备的结构示意图,包括处理器601、存储器602、和总线603。其中,存储器602用于存储执行指令,包括内存6021和外部存储器6022;这里的内存6021也称内存储器,用于暂时存放处理器601中的运算数据,以及与硬盘等外部存储器6022交换的数据,处理器601通过内存6021与外部存储器6022进行数据交换,当电子设备600运行时,处理器601与存储器602之间通过总线603通信,使得处理器601在执行以下指令:
响应于目标设备扫描画作,对所述画作进行特征识别,确定所述画作的风格信息;
基于所述风格信息,生成与所述画作上的画作内容匹配的至少一个虚拟三维模型;
将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面;并控制所述目标设备展示所述融合画面。
其中,处理器601的具体处理流程可以参照上述方法实施例的记载,这里不再赘述。
此外,本公开实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述方法实施例中所述的模型展示方法的步骤。其中,该存储介质可以是易失性或非易失的计算机可读取存储介质。
本公开实施例还提供一种计算机程序产品,该计算机程序产品承载有程序代码,所述程序代码包括的指令可用于执行上述方法实施例中所述的模型展示方法的步骤,具体可参见上述方法实施例,在此不再赘述。
其中,上述计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中,所述计算机程序产品具体体现为计算机存储介质,在另一个可选实施例中,计算机程序产品具体体现为软件产品,例如软件开发包(Software Development Kit,SDK)等等。
本公开涉及增强现实领域,通过获取现实环境中的目标对象的图像信息,进而借助各类视觉相关算法实现对目标对象的相关特征、状态及属性进行检测或识别处理,从而得到与具体应用匹配的虚拟与现实相结合的AR效果。示例性的,目标对象可涉及与人体相关的脸部、肢体、手势、动作等,或者与物体相关的标识物、标志物,或者与场馆或场所相关的沙盘、展示区域或展示物品等。视觉相关算法可涉及视觉定位、SLAM、三维重建、图像注册、背景分割、对象的关键点提取及跟踪、对象的位姿或深度检测等。具体应用不仅可以涉及跟真实场景或物品相关的导览、导航、讲解、重建、虚拟效果叠加展示等交互场景,还可以涉及与人相关的特效处理,比如妆容美化、肢体美化、特效展示、虚拟模型展示等交互场景。可通过卷积神经网络,实现对目标对象的相关特征、状态及属性进行检测或识别处理。上述卷积神经网络是基于深度学习框架进行模型训练而得到的网络模型。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。在本公开所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本公开各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本公开的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本公开各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上仅为本公开的具体实施方式,但本公开的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种模型展示方法,其特征在于,包括:
响应于目标设备扫描画作,对所述画作进行特征识别,确定所述画作的风格信息;
基于所述风格信息,生成与所述画作上的画作内容匹配的至少一个虚拟三维模型;
将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面;并控制所述目标设备展示所述融合画面。
2.根据权利要求1所述的方法,其特征在于,所述对所述画作进行特征识别,确定所述画作的风格信息,包括:
对所述画作进行特征识别,确定所述画作包括的元素类别;
基于所述画作上的画作内容,确定所述元素类别的属性信息;
根据所述画作包括的元素类别以及所述元素类别的属性信息,确定所述画作的风格信息。
3.根据权利要求1或2所述的方法,其特征在于,所述基于所述风格信息,生成与所述画作上的画作内容匹配的至少一个虚拟三维模型,包括:
从预先构建的多个预设虚拟模型中,确定与所述风格信息相匹配的候选虚拟模型;
对所述候选虚拟模型进行调整,生成与所述画作上的画作内容匹配的虚拟三维模型。
4.根据权利要求1-3任一所述的方法,其特征在于,所述将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面,包括:
对所述画作进行特征点检测,确定所述画作上多个特征点的特征信息;其中,所述特征信息包括特征点的位置信息和类别信息;
基于所述画作上多个特征点的特征信息,确定所述画作包括的背景区域信息;
基于所述背景区域信息,在所述画作的展示画面中确定融合位置;
将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面。
5.根据权利要求4所述的方法,其特征在于,所述将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面,包括:
按照确定的动态展示特效,将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面。
6.根据权利要求5所述的方法,其特征在于,所述动态展示特效包括移动特效,所述融合位置为多个;所述按照确定的动态展示特效,将所述至少一个虚拟三维模型融入所述融合位置,生成融合画面,包括:
基于多个所述融合位置,在所述画作的展示画面中生成移动路线;
按照所述动态展示特效,生成所述虚拟三维模型沿着所述移动路线进行移动的融合画面。
7.根据权利要求1-6任一所述的方法,其特征在于,在所述确定所述画作的风格信息之后,还包括:
从预先存储的多个文本信息中,确定与所述风格信息匹配的目标文本信息;
所述将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面,包括:
将所述至少一个虚拟三维模型和所述目标文本信息融入所述画作的展示画面,生成融合画面。
8.一种模型展示装置,其特征在于,包括:
识别模块,用于响应于目标设备扫描画作,对所述画作进行特征识别,确定所述画作的风格信息;
生成模块,用于基于所述风格信息,生成与所述画作上的画作内容匹配的至少一个虚拟三维模型;
展示模块,用于将所述至少一个虚拟三维模型融入所述画作的展示画面,生成融合画面;并控制所述目标设备展示所述融合画面。
9.一种电子设备,其特征在于,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行如权利要求1至7任一所述的模型展示方法的步骤。
10.一种计算机可读存储介质,其特征在于,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如权利要求1至7任一所述的模型展示方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310461509.5A CN116524156A (zh) | 2023-04-23 | 2023-04-23 | 模型展示方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310461509.5A CN116524156A (zh) | 2023-04-23 | 2023-04-23 | 模型展示方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116524156A true CN116524156A (zh) | 2023-08-01 |
Family
ID=87393512
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310461509.5A Pending CN116524156A (zh) | 2023-04-23 | 2023-04-23 | 模型展示方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116524156A (zh) |
-
2023
- 2023-04-23 CN CN202310461509.5A patent/CN116524156A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11790589B1 (en) | System and method for creating avatars or animated sequences using human body features extracted from a still image | |
CN106803057B (zh) | 图像信息处理方法及装置 | |
CN110515452B (zh) | 图像处理方法、装置、存储介质和计算机设备 | |
US20190220983A1 (en) | Image matting using deep learning | |
US9659381B2 (en) | Real time texture mapping for augmented reality system | |
Zhi et al. | Texmesh: Reconstructing detailed human texture and geometry from rgb-d video | |
JP2019510297A (ja) | ユーザの真実の人体モデルへの仮想的な試着 | |
KR101894955B1 (ko) | 가상 휴먼 인식 및 실시간 증강 합성 기술을 이용한 라이브 소셜 미디어 시스템 및 증강 합성 서버 | |
CN111833458B (zh) | 图像显示方法及装置、设备、计算机可读存储介质 | |
CN108876886B (zh) | 图像处理方法、装置和计算机设备 | |
KR102671707B1 (ko) | 디오라마 적용을 위한 다수 참여 증강현실 콘텐츠 제공 장치 및 그 방법 | |
CN111627117B (zh) | 画像展示特效的调整方法、装置、电子设备及存储介质 | |
CN111638784B (zh) | 人脸表情互动方法、互动装置以及计算机存储介质 | |
CN106203286A (zh) | 一种增强现实的内容获取方法、装置及移动终端 | |
CN113362263B (zh) | 变换虚拟偶像的形象的方法、设备、介质及程序产品 | |
CN114332374A (zh) | 一种虚拟显示方法、设备以及存储介质 | |
CN111638797A (zh) | 一种展示控制方法及装置 | |
CN111667588A (zh) | 人物图像处理方法、装置、ar设备以及存储介质 | |
CN112308977B (zh) | 视频处理方法、视频处理装置和存储介质 | |
CN111640192A (zh) | 场景图像处理方法、装置、ar设备以及存储介质 | |
CN111639613B (zh) | 一种增强现实ar特效生成方法、装置及电子设备 | |
CN111598824A (zh) | 场景图像处理方法、装置、ar设备以及存储介质 | |
US11200650B1 (en) | Dynamic image re-timing | |
CN111752391A (zh) | 一种虚拟互动方法及计算机可读存储介质 | |
CN116524156A (zh) | 模型展示方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |