CN109615682A - 动画生成方法、装置、电子设备及计算机可读存储介质 - Google Patents
动画生成方法、装置、电子设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN109615682A CN109615682A CN201811496521.5A CN201811496521A CN109615682A CN 109615682 A CN109615682 A CN 109615682A CN 201811496521 A CN201811496521 A CN 201811496521A CN 109615682 A CN109615682 A CN 109615682A
- Authority
- CN
- China
- Prior art keywords
- music
- animation
- target
- picture
- target music
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
- G11B27/02—Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
- G11B27/031—Electronic editing of digitised analogue information signals, e.g. audio or video signals
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
- G11B27/10—Indexing; Addressing; Timing or synchronising; Measuring tape travel
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Processing Or Creating Images (AREA)
Abstract
本公开提供了一种动画生成方法、装置、电子设备及计算机可读存储介质,应用于图片处理技术领域,其中该方法包括:通过预定的语音识别方法确定目标音乐的音乐要素特征,然后,确定多张动画组成图片,并根据目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果,继而,根据动画播放效果及多张动画组成图片,生成目标动画,并将目标音乐与目标动画进行合成处理,以使得目标音乐与目标动画能相应的同步播放展示,即本公开根据目标音乐的音乐要素特征确定各个图片的动画播放效果,避免图片的播放效果与音乐要素特征不相关所带来的不适感,从而提升了用户的动画观看体验。
Description
技术领域
本公开涉及图片处理技术领域,具体而言,本公开涉及一种动画生成方法、装置、电子设备及计算机可读存储介质。
背景技术
通过拍摄图片记录生活的点滴成为了人们的一种重要的生活方式,随着动画处理技术的发展,人们可以选择一定数量的图片及相应的音乐通过相应的动画处理技术直接生成相应的多媒体动画,然后可以通过相应的社交网络平台分享生成的相应动画,向其他的社交网络用户展示自己的生活点滴。
目前,根据选择的图片及音乐生成的相应多媒体动画中的图片的播放方式是随机确定的,即生成的动画中的图片的播放方式与选择的音乐没有关联关系,然而,根据现有的基于选择的图片及音乐生成相应动画的方式,生成的动画中音乐的特征(如音乐的节奏、节拍及旋律等)对图片的播放方式并不产生影响,从而音乐的特征与图片的播放方式并不相关,造成动画观看者的观看体验不高,如某一动画片段中音乐的节奏是较为舒缓的,而对应的图片的转场方式却非常快,该突兀的图片播放方式,给视频观看者带来不适感,降低了用户的观看体验。因此,现有技术存在基于图片及音乐生成的动画中图片的播放方式与音乐无关联,视频观看者体验差的问题。
发明内容
本公开提供了一种动画生成方法、装置、电子设备及计算机可读存储介质,用于建立动画组成图片的播放方式与目标音乐的关联关系,从而提升用户的动画观看体验,本公开采用的技术方案如下:
第一方面,提供了一种动画生成方法,该方法包括:
通过预定的语音识别方法确定目标音乐的音乐要素特征;
确定多张动画组成图片,并根据目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果;
根据动画播放效果及多张动画组成图片生成目标动画;
将目标音乐与目标动画进行合成处理,以使得目标音乐与目标动画能相应的同步播放展示。
第二方面,提供了一种动画生成装置,该装置包括:
第一确定模块,用于通过预定的语音识别方法确定目标音乐的音乐要素特征;
第二确定模块,用于确定多张动画组成图片,并根据第一确定模块确定的目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果;
动画生成模块,用于根据第二确定模块确定的多张动画组成图片及与各张动画组成图片相匹配的动画播放效果生成目标动画;
合成处理模块,用于将目标音乐与动画生成模块生成的目标动画进行合成处理,以使得目标音乐与目标动画能相应的同步播放展示。
第三方面,提供了一种电子设备,该电子设备包括:
一个或多个处理器;
存储器;
一个或多个应用程序,其中一个或多个应用程序被存储在存储器中并被配置为由一个或多个处理器执行,一个或多个程序配置用于:执行第一方面所示的动画生成方法。
第四方面,提供了一种计算机可读存储介质,计算机存储介质用于存储计算机指令,当其在计算机上运行时,使得计算机可以执行第一方面所示的动画生成方法。
本公开提供了一种动画生成方法、装置、电子设备及计算机可读存储介质,与现有技术基于选择的图片及音乐生成的动画中的图片的播放方式与音乐无关联相比,本公开通过预定的语音识别方法确定目标音乐的音乐要素特征,然后,确定多张动画组成图片,并根据目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果,继而,根据动画播放效果及多张动画组成图片,生成目标动画,并将目标音乐与目标动画进行合成处理,以使得目标音乐与目标动画能相应的同步播放展示,即本公开根据目标音乐的音乐要素特征确定动画播放效果,各张动画组成图片都对应有与目标音乐的音乐要素特征相匹配的播放效果,避免图片的播放效果与音乐要素特征不相关所带来的不适感(如相应的目标音乐的速度特征较为舒缓,而对应的图片的极快的转场方式所带来的与音乐特征不匹配的不适感),从而提升了用户的动画观看体验。
本公开附加的方面和优点将在下面的描述中部分给出,这些将从下面的描述中变得明显,或通过本公开的实践了解到。
附图说明
本公开上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1为本公开实施例的一种动画生成方法的流程示意图;
图2为本公开实施例的一种动画生成装置的结构示意图;
图3为本公开实施例的另一种动画生成装置的结构示意图;
图4为本公开实施例的一种电子设备的结构示意图。
具体实施方式
下面详细描述本公开的实施例,各实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本公开,而不能解释为对本公开的限制。
本技术领域技术人员可以理解,除非特意声明,这里使用的单数形式“一”、“一个”和“该”也可包括复数形式。应该进一步理解的是,本公开的说明书中使用的措辞“包括”是指存在特征、整数、步骤、操作、元件和/或组件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。这里使用的措辞“和/或”包括一个或更多个相关联的列出项的全部或任一单元和全部组合。
为使本公开的目的、技术方案和优点更加清楚,下面将结合附图对本公开实施方式作进一步地详细描述。
下面以具体地实施例对本公开的技术方案以及本公开的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本公开的实施例进行描述。
本公开的一个实施例中提供了一种动画生成方法,如图1所示,该方法可以包括以下步骤:
步骤S101,通过预定的语音识别方法确定目标音乐的音乐要素特征;
对于本实施例,音乐识别是一个交叉型的研究领域,涉及到音乐知识和信号处理技术,音乐识别包括通过对音乐的分析,得到目标音乐的音乐要素特征。其中,目标音乐可以是WAV(short for Waveform audio format)格式的音乐文件,WAV文件一种波形文件,它存放的音乐是无损的;目标音乐也可以是MIDI(Musical Instrument Digital Interface,乐器数字接口)格式的音乐文件,与波形文件不同,MIDI文件不对音乐进行抽样,而是对音乐的每个音符记录为一个数字,所以与波形文件相比文件要小得多。
对于本实施例,目标音乐可以是通过弹唱或哼唱等方式输入得到的,也可以是通过查找本地音乐库或通过网络下载得到的。其中,如果目标音乐为MP3、WMA等格式的文件,由于MP3、WMA等格式的音乐文件为压缩格式的音乐文件,可以对目标音乐的格式进行解码处理(即解压缩),解码为WAV等格式的文件。
对于本实施例,通过预定的语音识别方法确定目标音乐的音乐要素特征,其中,该预定的语音识别方法可以是基于时频分析的方法,也可以是基于时域分析的方法、基于频域分析的方法,或者通过相应的其他方法,此处不做限定。
步骤S102,确定多张动画组成图片,并根据目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果;
对于本实施例,确定多张动画组成图片,其中,多张动画组成图片可以是用户从图片库中人工选择确定的,也可以通过相应的图片确定方法从图片库中自动确定的。
对于本实施例,可以基于预定的音乐要素特征与动画组成图片播放效果的匹配规则,根据目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果。
步骤S103,根据多张动画组成图片及与各张动画组成图片相匹配的动画播放效果生成目标动画;
具体地,可以基于各张动画组成图片分别对应的相匹配的动画播放效果,对各张动画组成图片进行处理,使得各张动画组成图片能按照确定的相匹配的播放效果进行播放,然后对处理后的各张动画组成图片进行融合处理生成目标动画。
步骤S104,将目标音乐与目标动画进行合成处理,以使得目标音乐与目标动画能相应的同步播放展示。
具体地,可以基于时间状态信息,将目标音乐与目标动画进行合成处理,以使得目标音乐与目标动画能相应的同步播放显示,其中,相应的同步播放显示可以是动画组成图片根据对应的时间点或时间段的目标音乐的音乐要素特征进行相应播放效果的播放显示。
本公开一个实施例提供了一种动画生成方法,与现有技术基于选择的图片及音乐生成的动画中的图片的播放方式与音乐无关联相比,本公开实施例通过预定的语音识别方法确定目标音乐的音乐要素特征,然后,确定多张动画组成图片,并根据目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果,继而,根据动画播放效果及多张动画组成图片,生成目标动画,并将目标音乐与目标动画进行合成处理,以使得目标音乐与目标动画能相应的同步播放展示,即本公开中根据目标音乐的音乐要素特征确定动画播放效果,各张动画组成图片都对应有与目标音乐的音乐要素特征相匹配的播放效果,避免图片的播放效果与音乐要素特征不相关所带来的不适感(如相应的目标音乐的速度特征较为舒缓,而对应的图片的极快的转场方式所带来的与音乐特征不匹配的不适感),从而提升了用户的动画观看体验。
本公开实施例提供了一种可能的实现方式,具体地,步骤S101包括:
步骤S1011(图中未示出),提取目标音乐的音频信息;
具体地,通过相应的音频信息提取技术提取得到目标音乐的音频信息,其中,在目标音乐的音频信息中可能夹杂着很多噪音信息,因为在录制音乐时可能受到来自电器设备的干扰,或者是其他物体的杂音,也有可能是工频信号的干扰,从而噪音信息是不可避免的,所以可以对提取得到音频信息进行预处理,去除相应噪音信息的影响,以及压缩音频信息的数据以减少计算量。
步骤S1012(图中未示出),基于提取到的音频信息通过声学特征提取方法提取得到相应的声学特征信息;
具体地,可以通过相应的滤波器对音频信息进行处理,从而得到目标音乐的声学特征信息;其中,可以通过基于高斯低通的FIR滤波器对音频信息进行处理,得到PCM格式的目标音乐信号的包络线,然后通过频域分析与时域分析相结合的方法进行峰值检测,确定目标音乐的音符位置,继而得到各个音符的声学特征信息;其中,声学特征信息包括但不限于过零率、短时能量等特征信息。
步骤S1013(图中未示出),基于提取得到的声学特征信息确定目标音乐的音乐要素特征。
对于本实施例,通过对提取得到的声学特征信息进行相应的分析得到目标音乐的音乐要素特征。
对于本公开实施例,通过提取目标音乐的声学特征信息,并根据提取的声学特征信息确定目标音乐的音乐要素特征,解决了目标音乐的音乐要素特征的确定问题。
进一步地,音乐要素特征包括但不限于以下至少一项:
音强;音高;音长;节拍;节奏;速度;旋律。
对于本实施例,音乐要素特征包括但不限于音强、音高、音长、节拍、节奏、速度、旋律等特征。
其中,音高由物体振动的频率决定,如果振动的频率越快,则音越高,反之,则音越低;音长由物体振动时间的长短决定,振动时间越长,音就越长;音强指的是音的大小,它是由物体的振动幅度决定的,如果振动幅度越大,那么音越强;节奏是指用强弱组织起来的音的长短关系,节奏不尽与音的长短有关系,而且与音的强弱有关系;节拍就是有强有弱的相同的时间片段,按照一定的顺序循环重复,就形成了节拍;速度是衡量音乐节拍快慢的一个量,例如144BMP,表示每分钟有144个音符;旋律通常指若干乐音经过艺术构思而形成的有组织、节奏的序列,旋律是由许多音乐基本要素,如节奏、节拍、音强、音长等,有机结合而形成的,其中旋律有三种形式,分别为:下降式、水平式、上升式。
其中,从音乐的组织结构来看,音乐由乐段组成,乐段有音乐小节构成,音乐小节由音符构成,音符是音乐的最基本要素;对目标音乐的音乐要素特征的提取可以先确定目标音乐音符的特征,其中,音符特征包括音高、音强、音长等基本特征,然后通过对目标音乐的音符特征进行分析得到目标音乐更复杂的音乐要素特征,如节拍、节奏、速度、旋律等特征。
对于本公开实施例,音乐要素特征包括音强、音高、音长、节拍、节奏、速度、旋律,多样化的音乐要素特征,为提升动画组成图片的播放效果与目标音乐的关联性提供了基础。
本公开的实施例提供了一种可能的实现方式,具体地,步骤S102中的确定多张动画组成图片,包括:
步骤S1021(图中未示出),根据目标音乐的音乐要素特征,确定目标音乐的音乐类型;
具体地,可基于目标音乐的音乐要素特征得到目标音乐的特征向量,然后通过预训练的神经网络模型得到目标音乐的音乐类型;其中,目标音乐的音乐类型可以是目标音乐的某一乐段的音乐类型,也可以是目标音乐整体的音乐类型;其中,目标音乐的音乐类型包括但不限于轻缓、激烈、平静等。
步骤S1022(图中未示出),基于目标音乐的音乐类型,确定与目标音乐匹配的多张动画组成图片。
具体地,根据目标音乐的音乐类型不同,分别确定与目标音乐相匹配的多张动画组成图片。
对于本公开实施例,根据目标音乐的音乐类型确定与目标音乐匹配的多张动画组成图片,从而提升了动画组成图片与目标音乐的关联性。
本公开的再一实施例提供了一种可能的实现方式,具体地,步骤S1022,包括:
步骤S10221(图中未示出),确定与目标音乐的音乐类型相匹配的图片场景类型;
对于本实施例,确定与目标音乐的音乐类型相匹配的图片场景类型,例如,对于轻缓型的音乐可以用于旅游风景的场景,对于激烈型的音乐可以用于运动竞技比赛、摇滚音乐会现场等场景。
步骤S10222(图中未示出),确定符合图片场景类型的多张动画组成图片。
具体地,可以通过预先已经进行场景分类处理的图片库,基于图片的场景类型标签确定符合场景类型的多张动画组成图片;也可以通过相应的图片识别方法对多个候选图片进行识别,从而确定符合图片场景类型的多张动画组成图片。
对于本公开实施例,根据与目标音乐的音乐类型相匹配的图片场景类型确定多张动画组成图片,解决了如何根据目标音乐的类型确定动画组成图片的问题。
本公开的实施例提供了一种可能的实现方式,步骤S102包括:
步骤S1023(图中未示出),依据目标音乐的音乐要素特征对目标音乐进行分段处理,得到多个音乐片段;
对于本实施例,根据目标音乐的音乐要素特征对目标音乐进行分段处理,得到多个音乐片段;其中,音乐片段对应的可以是目标音乐的一个或多个音乐小节,也可以是目标音乐的一个是乐段;其中,音乐小节的划分可以基于音符之间的音乐要素的强弱特征得到的,乐段的划分可以是基于划分的音乐小节之间的相似度得到的。
步骤S1024(图中未示出),依据各个音乐片段分别对应的音乐要素特征确定各个音乐段内对应的各张动画组成图片的动画播放效果,播放效果包括转场模式、动画特效以及滤镜模式中的至少一项。
对于本实施例,依据各个音乐片段分别对应的音乐要素特征确定各个音乐段内对应的各张动画组成图片的动画播放效果,其中,可以根据某一特征或多个特征的组合确定各张动画组成图片的动画播放效果,如可以根据节奏、速度确定动画组成图片的转场方式,根据旋律确定相应的滤镜模式。
对于本公开实施例,根据目标音乐的音乐要素特征对目标音乐进行分段处理得到多个音乐片段,然后根据各个音乐片段分别对应的音乐要素特征确定各个音乐段内对应的各张动画组成图片的动画播放效果,解决了如何根据音乐要素特征确定动画组成图片的动画播放效果的问题。
图2为本公开的一个实施例中提供的一种动画生成装置,该装置20包括:第一确定模块201,第二确定模块202,动画生成模块203,合成处理模块204,其中,
第一确定模块201,用于通过预定的语音识别方法确定目标音乐的音乐要素特征;
第二确定模块202,用于确定多张动画组成图片,并根据第一确定模块201确定的目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果;
动画生成模块203,用于根据第二确定模块202确定的多张动画组成图片及与各张动画组成图片相匹配的动画播放效果生成目标动画;
合成处理模块204,用于将目标音乐与动画生成模块203生成的目标动画进行合成处理,以使得目标音乐与目标动画能相应的同步播放展示。
本公开的一个实施例提供了一种动画生成装置,与现有技术基于选择的图片及音乐生成的动画中的图片的播放方式与音乐无关联相比,本公开实施例通过预定的语音识别方法确定目标音乐的音乐要素特征,然后,确定多张动画组成图片,并根据目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果,继而,根据动画播放效果及多张动画组成图片,生成目标动画,并将目标音乐与目标动画进行合成处理,以使得目标音乐与目标动画能相应的同步播放展示,即本公开中根据目标音乐的音乐要素特征确定动画播放效果,各张动画组成图片都对应有与目标音乐的音乐要素特征相匹配的播放效果,避免图片的播放效果与音乐要素特征不相关所带来的不适感(如相应的目标音乐的速度特征较为舒缓,而对应的图片的极快的转场方式所带来的与音乐特征不匹配的不适感),从而提升了用户的动画观看体验。
本实施例的装置可执行本公开上述实施例中提供的一种动画生成方法,其实现原理相类似,此处不再赘述。
本公开实施例提供了一种可能的动画生成装置,如图3所示,本实施例的装置30可以包括:第一确定模块301,第二确定模块302,动画生成模块303,合成处理模块304;
第一确定模块301,用于通过预定的语音识别方法确定目标音乐的音乐要素特征;
其中,图3中的第一确定模块301与图2中的第一确定模块201的功能相同或者相似。
第二确定模块302,用于确定多张动画组成图片,并根据第一确定模块301确定的目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果;
其中,图3中的第二确定模块302与图2中的第二确定模块202的功能相同或者相似。
动画生成模块303,用于根据第二确定模块302确定的多张动画组成图片及与各张动画组成图片相匹配的动画播放效果生成目标动画;
其中,图3中的动画生成模块303与图2中的动画生成模块203的功能相同或者相似。
合成处理模块304,用于将目标音乐与动画生成模块303生成的目标动画进行合成处理,以使得目标音乐与目标动画能相应的同步播放展示。
其中,图3中的合成处理模块304与图2中的合成处理模块204的功能相同或者相似。
本公开实施例提供了一种可能的动画生成装置,具体地,第一确定模块301包括第一提取单元3011、第二提取单元3012及第一确定单元3013;
第一提取单元3011,用于提取目标音乐的音频信息;
第二提取单元3012,用于基于第一提取单元3011提取到的音频信息通过声学特征提取方法提取得到相应的声学特征信息;
第一确定单元3013,用于基于第二提取单元3012提取得到的声学特征信息确定目标音乐的音乐要素特征。
对于本公开实施例,通过提取目标音乐的声学特征信息,并根据提取的声学特征信息确定目标音乐的音乐要素特征,解决了目标音乐的音乐要素特征的确定问题。
进一步地,音乐要素特征包括以下至少一项:
音高;音强;音长;节拍;节奏;速度;旋律。
对于本公开实施例,音乐要素特征包括音强、音高、音长、节拍、节奏、速度、旋律,多样化的音乐要素特征,为提升动画组成图片的播放效果与目标音乐的关联性提供了基础。
本公开实施例提供了一种可能的动画生成装置,具体地,第二确定模块302包括第二确定单元3021及第三确定单元3022;
第二确定单元3021,用于根据目标音乐的音乐要素特征,确定目标音乐的音乐类型;
第三确定单元3022,用于基于第二确定单元3021确定的目标音乐的音乐类型,确定与目标音乐匹配的多张动画组成图片。
对于本公开实施例,根据目标音乐的音乐类型确定与目标音乐匹配的多张动画组成图片,从而提升了动画组成图片与目标音乐的关联性。
本公开实施例提供了一种可能的另一种动画生成装置,具体地,第三确定单元还用于确定与目标音乐的音乐类型相匹配的图片场景类型,以及用于确定符合图片场景类型的多张动画组成图片。
对于本公开实施例,根据与目标音乐的音乐类型相匹配的图片场景类型确定多张动画组成图片,解决了如何根据目标音乐的类型确定动画组成图片的问题。
本公开实施例提供了一种可能的动画生成装置,具体地,第二确定模块302还包括分段处理单元3023以及第四确定单元3024;
分段处理单元3023,用于依据目标音乐的音乐要素特征对目标音乐进行分段处理,得到多个音乐片段;
第四确定单元3024,用于依据分段处理单元3023分段处理得到的各个音乐片段分别对应的音乐要素特征确定各个音乐段内对应的各张动画组成图片的动画播放效果,播放效果包括转场模式、动画特效以及滤镜模式中的至少一项。
对于本公开实施例,根据目标音乐的音乐要素特征对目标音乐进行分段处理得到多个音乐片段,然后根据各个音乐片段分别对应的音乐要素特征确定各个音乐段内对应的各张动画组成图片的动画播放效果,解决了如何根据音乐要素特征确定动画组成图片的动画播放效果的问题。
本公开实施例提供了一种动画生成装置,与现有技术基于选择的图片及音乐生成的动画中的图片的播放方式与音乐无关联相比,本公开实施例通过预定的语音识别方法确定目标音乐的音乐要素特征,然后,确定多张动画组成图片,并根据目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果,继而,根据动画播放效果及多张动画组成图片,生成目标动画,并将目标音乐与目标动画进行合成处理,以使得目标音乐与目标动画能相应的同步播放展示,即本公开中根据目标音乐的音乐要素特征确定动画播放效果,各张动画组成图片都对应有与目标音乐的音乐要素特征相匹配的播放效果,避免图片的播放效果与音乐要素特征不相关所带来的不适感(如相应的目标音乐的速度特征较为舒缓,而对应的图片的极快的转场方式所带来的与音乐特征不匹配的不适感),从而提升了用户的动画观看体验。
本公开实施例提供的动画生成装置,适用于上述实施例所示的方法,在此不再赘述。
在一个可选的实施例中,提供了一种电子设备,如图4所示,其示出了适于用来实现本公开实施例的电子设备(例如终端设备或服务器)40的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图4示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图4所示,电子设备40可以包括处理装置(例如中央处理器、图形处理器等)401,其可以根据存储在只读存储器(ROM)402中的程序或者从存储装置408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中,还存储有电子设备40操作所需的各种程序和数据。处理装置401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
通常,以下装置可以连接至I/O接口405:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置406;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置407;包括例如磁带、硬盘等的存储装置408;以及通信装置409。通信装置409可以允许电子设备40与其他设备进行无线或有线通信以交换数据。虽然图4示出了具有各种装置的电子设备40,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
本公开一个实施例提供了一种电子设备,与现有技术基于选择的图片及音乐生成的动画中的图片的播放方式与音乐无关联相比,本公开实施例通过预定的语音识别方法确定目标音乐的音乐要素特征,然后,确定多张动画组成图片,并根据目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果,继而,根据动画播放效果及多张动画组成图片,生成目标动画,并将目标音乐与目标动画进行合成处理,以使得目标音乐与目标动画能相应的同步播放展示,即本公开中根据目标音乐的音乐要素特征确定动画播放效果,各张动画组成图片都对应有与目标音乐的音乐要素特征相匹配的播放效果,避免图片的播放效果与音乐要素特征不相关所带来的不适感(如相应的目标音乐的速度特征较为舒缓,而对应的图片的极快的转场方式所带来的与音乐特征不匹配的不适感),从而提升了用户的动画观看体验。
本实施例提供了一种电子设备适用于上述方法实施例,在此不再赘述。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置409从网络上被下载和安装,或者从存储装置408被安装,或者从ROM 402被安装。在该计算机程序被处理装置401执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:执行上述方法实施例所示的动画生成方法。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
本公开一个实施例提供了一种计算机可读存储介质,与现有技术基于选择的图片及音乐生成的动画中的图片的播放方式与音乐无关联相比,本公开实施例通过预定的语音识别方法确定目标音乐的音乐要素特征,然后,确定多张动画组成图片,并根据目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果,继而,根据动画播放效果及多张动画组成图片,生成目标动画,并将目标音乐与目标动画进行合成处理,以使得目标音乐与目标动画能相应的同步播放展示,即本公开中根据目标音乐的音乐要素特征确定动画播放效果,各张动画组成图片都对应有与目标音乐的音乐要素特征相匹配的播放效果,避免图片的播放效果与音乐要素特征不相关所带来的不适感(如相应的目标音乐的速度特征较为舒缓,而对应的图片的极快的转场方式所带来的与音乐特征不匹配的不适感),从而提升了用户的动画观看体验。
本实施例提供了一种计算机可读存储介质适用于上述方法实施例,在此不再赘述。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (10)
1.一种动画生成方法,其特征在于,包括:
通过预定的语音识别方法确定目标音乐的音乐要素特征;
确定多张动画组成图片,并根据所述目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果;
根据所述多张动画组成图片及所述与各张动画组成图片相匹配的动画播放效果生成目标动画;
将所述目标音乐与所述目标动画进行合成处理,以使得所述目标音乐与所述目标动画能相应的同步播放展示。
2.根据权利要求1所述的方法,其特征在于,所述通过预定的语音识别方法确定目标音乐的音乐要素特征,包括:
提取所述目标音乐的音频信息;
基于提取到的所述音频信息通过声学特征提取方法提取得到相应的声学特征信息;
基于提取得到的所述声学特征信息确定所述目标音乐的音乐要素特征。
3.根据权利要求1或2所述的方法,其特征在于,所述音乐要素特征包括以下至少一项:
音高;音强;音长;节拍;节奏;速度;旋律。
4.根据权利要求1所述的方法,其特征在于,所述确定多张动画组成图片,包括:
根据所述目标音乐的音乐要素特征,确定所述目标音乐的音乐类型;
基于所述目标音乐的音乐类型,确定与所述目标音乐匹配的多张动画组成图片。
5.根据权利要求4所述的方法,其特征在于,所述基于所述目标音乐的音乐类型,确定与所述目标音乐匹配的多张动画组成图片,包括:
确定与所述目标音乐的音乐类型相匹配的图片场景类型;
确定符合所述图片场景类型的多张动画组成图片。
6.根据权利要求1所述的方法,其特征在于,所述根据所述目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果,包括:
依据所述目标音乐的音乐要素特征对所述目标音乐进行分段处理,得到多个音乐片段;
依据各个音乐片段分别对应的音乐要素特征确定各个音乐段内对应的各张动画组成图片的动画播放效果,所述播放效果包括转场模式、动画特效以及滤镜模式中的至少一项。
7.一种动画生成装置,其特征在于,包括:
第一确定模块,用于通过预定的语音识别方法确定目标音乐的音乐要素特征;
第二确定模块,用于确定多张动画组成图片,并根据所述第一确定模块确定的所述目标音乐的音乐要素特征确定与各张动画组成图片相匹配的动画播放效果;
动画生成模块,用于根据所述第二确定模块确定的所述多张动画组成图片及所述与各张动画组成图片相匹配的动画播放效果生成目标动画;
合成处理模块,用于将所述目标音乐与所述动画生成模块生成的所述目标动画进行合成处理,以使得所述目标音乐与所述目标动画能相应的同步播放展示。
8.根据权利要求7所述的装置,其特征在于,所述第一确定模块包括第一提取单元、第二提取单元及第一确定单元;
所述第一提取单元,用于提取所述目标音乐的音频信息;
所述第二提取单元,用于基于所述第一提取单元提取到的所述音频信息通过声学特征提取方法提取得到相应的声学特征信息;
所述第一确定单元,用于基于所述第二提取单元提取得到的所述声学特征信息确定所述目标音乐的音乐要素特征。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储器;
一个或多个应用程序,其中所述一个或多个应用程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行,所述一个或多个程序配置用于:执行根据权利要求1至6任一项所述的动画生成方法。
10.一种计算机可读存储介质,其特征在于,所述计算机存储介质用于存储计算机指令,当其在计算机上运行时,使得计算机可以执行上述权利要求1至6中任一项所述的动画生成方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811496521.5A CN109615682A (zh) | 2018-12-07 | 2018-12-07 | 动画生成方法、装置、电子设备及计算机可读存储介质 |
PCT/CN2018/125392 WO2020113733A1 (zh) | 2018-12-07 | 2018-12-29 | 动画生成方法、装置、电子设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811496521.5A CN109615682A (zh) | 2018-12-07 | 2018-12-07 | 动画生成方法、装置、电子设备及计算机可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109615682A true CN109615682A (zh) | 2019-04-12 |
Family
ID=66008353
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811496521.5A Pending CN109615682A (zh) | 2018-12-07 | 2018-12-07 | 动画生成方法、装置、电子设备及计算机可读存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN109615682A (zh) |
WO (1) | WO2020113733A1 (zh) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110097618A (zh) * | 2019-05-09 | 2019-08-06 | 广州小鹏汽车科技有限公司 | 一种音乐动画的控制方法、装置、车辆及存储介质 |
CN111611430A (zh) * | 2020-05-26 | 2020-09-01 | 广州酷狗计算机科技有限公司 | 歌曲播放方法、装置、终端及存储介质 |
CN111857923A (zh) * | 2020-07-17 | 2020-10-30 | 北京字节跳动网络技术有限公司 | 特效展示方法、装置、电子设备及计算机可读介质 |
WO2020232796A1 (zh) * | 2019-05-17 | 2020-11-26 | 腾讯音乐娱乐科技(深圳)有限公司 | 多媒体数据匹配方法、装置和存储介质 |
CN112164128A (zh) * | 2020-09-07 | 2021-01-01 | 广州汽车集团股份有限公司 | 一种车载多媒体的音乐可视化交互方法、计算机设备 |
CN112804578A (zh) * | 2021-01-28 | 2021-05-14 | 广州虎牙科技有限公司 | 氛围特效生成方法、装置、电子设备和存储介质 |
CN113365134A (zh) * | 2021-06-02 | 2021-09-07 | 北京字跳网络技术有限公司 | 音频分享方法、装置、设备及介质 |
WO2021248964A1 (zh) * | 2020-06-09 | 2021-12-16 | 广东美的制冷设备有限公司 | 家电及其控制方法和计算机可读存储介质 |
CN113938751A (zh) * | 2020-06-29 | 2022-01-14 | 北京字节跳动网络技术有限公司 | 视频转场类型确定方法、设备及存储介质 |
CN113938744A (zh) * | 2020-06-29 | 2022-01-14 | 北京字节跳动网络技术有限公司 | 视频转场类型处理方法、设备及存储介质 |
CN114154003A (zh) * | 2021-11-11 | 2022-03-08 | 北京达佳互联信息技术有限公司 | 图片的获取方法、装置及电子设备 |
CN114820888A (zh) * | 2022-04-24 | 2022-07-29 | 广州虎牙科技有限公司 | 动画生成方法、系统及计算机设备 |
WO2023091090A3 (zh) * | 2021-11-18 | 2023-08-10 | 脸萌有限公司 | 视频生成方法、装置、设备及存储介质 |
WO2023174066A1 (zh) * | 2022-03-18 | 2023-09-21 | 北京字跳网络技术有限公司 | 视频生成方法、装置、电子设备和存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101141603A (zh) * | 2006-09-06 | 2008-03-12 | 富士胶片株式会社 | 用于产生音乐与图像同步的动画的脚本的方法、程序和设备 |
CN101853668A (zh) * | 2010-03-29 | 2010-10-06 | 北京中星微电子有限公司 | 一种将midi音乐生成动画的方法和系统 |
CN101901595A (zh) * | 2010-05-05 | 2010-12-01 | 北京中星微电子有限公司 | 一种根据音频音乐生成动画的方法和系统 |
CN105227864A (zh) * | 2015-10-16 | 2016-01-06 | 南阳师范学院 | 一种图片生成动画并与视频片段拼接合成的视频编辑方法 |
CN105224581A (zh) * | 2014-07-03 | 2016-01-06 | 北京三星通信技术研究有限公司 | 在播放音乐时呈现图片的方法和装置 |
CN105550251A (zh) * | 2015-12-08 | 2016-05-04 | 小米科技有限责任公司 | 图片播放方法和装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101826217A (zh) * | 2010-05-07 | 2010-09-08 | 上海交通大学 | 人脸动画快速生成方法 |
US20140181668A1 (en) * | 2012-12-20 | 2014-06-26 | International Business Machines Corporation | Visual summarization of video for quick understanding |
CN107172485B (zh) * | 2017-04-25 | 2020-01-31 | 北京百度网讯科技有限公司 | 一种用于生成短视频的方法与装置、输入设备 |
CN108428441B (zh) * | 2018-02-09 | 2021-08-06 | 咪咕音乐有限公司 | 多媒体文件生成方法、电子设备和存储介质 |
-
2018
- 2018-12-07 CN CN201811496521.5A patent/CN109615682A/zh active Pending
- 2018-12-29 WO PCT/CN2018/125392 patent/WO2020113733A1/zh active Application Filing
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101141603A (zh) * | 2006-09-06 | 2008-03-12 | 富士胶片株式会社 | 用于产生音乐与图像同步的动画的脚本的方法、程序和设备 |
CN101853668A (zh) * | 2010-03-29 | 2010-10-06 | 北京中星微电子有限公司 | 一种将midi音乐生成动画的方法和系统 |
CN101901595A (zh) * | 2010-05-05 | 2010-12-01 | 北京中星微电子有限公司 | 一种根据音频音乐生成动画的方法和系统 |
CN105224581A (zh) * | 2014-07-03 | 2016-01-06 | 北京三星通信技术研究有限公司 | 在播放音乐时呈现图片的方法和装置 |
CN105227864A (zh) * | 2015-10-16 | 2016-01-06 | 南阳师范学院 | 一种图片生成动画并与视频片段拼接合成的视频编辑方法 |
CN105550251A (zh) * | 2015-12-08 | 2016-05-04 | 小米科技有限责任公司 | 图片播放方法和装置 |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110097618B (zh) * | 2019-05-09 | 2023-05-12 | 广州小鹏汽车科技有限公司 | 一种音乐动画的控制方法、装置、车辆及存储介质 |
CN110097618A (zh) * | 2019-05-09 | 2019-08-06 | 广州小鹏汽车科技有限公司 | 一种音乐动画的控制方法、装置、车辆及存储介质 |
WO2020232796A1 (zh) * | 2019-05-17 | 2020-11-26 | 腾讯音乐娱乐科技(深圳)有限公司 | 多媒体数据匹配方法、装置和存储介质 |
CN111611430A (zh) * | 2020-05-26 | 2020-09-01 | 广州酷狗计算机科技有限公司 | 歌曲播放方法、装置、终端及存储介质 |
WO2021248964A1 (zh) * | 2020-06-09 | 2021-12-16 | 广东美的制冷设备有限公司 | 家电及其控制方法和计算机可读存储介质 |
CN113852521A (zh) * | 2020-06-09 | 2021-12-28 | 广东美的制冷设备有限公司 | 家电及其控制方法和计算机可读存储介质 |
CN113938751A (zh) * | 2020-06-29 | 2022-01-14 | 北京字节跳动网络技术有限公司 | 视频转场类型确定方法、设备及存储介质 |
CN113938744A (zh) * | 2020-06-29 | 2022-01-14 | 北京字节跳动网络技术有限公司 | 视频转场类型处理方法、设备及存储介质 |
CN113938744B (zh) * | 2020-06-29 | 2024-01-23 | 抖音视界有限公司 | 视频转场类型处理方法、设备及存储介质 |
CN113938751B (zh) * | 2020-06-29 | 2023-12-22 | 抖音视界有限公司 | 视频转场类型确定方法、设备及存储介质 |
CN111857923A (zh) * | 2020-07-17 | 2020-10-30 | 北京字节跳动网络技术有限公司 | 特效展示方法、装置、电子设备及计算机可读介质 |
WO2022012182A1 (zh) * | 2020-07-17 | 2022-01-20 | 北京字节跳动网络技术有限公司 | 特效展示方法、装置、电子设备及计算机可读介质 |
CN112164128B (zh) * | 2020-09-07 | 2024-06-11 | 广州汽车集团股份有限公司 | 一种车载多媒体的音乐可视化交互方法、计算机设备 |
CN112164128A (zh) * | 2020-09-07 | 2021-01-01 | 广州汽车集团股份有限公司 | 一种车载多媒体的音乐可视化交互方法、计算机设备 |
CN112804578A (zh) * | 2021-01-28 | 2021-05-14 | 广州虎牙科技有限公司 | 氛围特效生成方法、装置、电子设备和存储介质 |
CN113365134A (zh) * | 2021-06-02 | 2021-09-07 | 北京字跳网络技术有限公司 | 音频分享方法、装置、设备及介质 |
CN114154003A (zh) * | 2021-11-11 | 2022-03-08 | 北京达佳互联信息技术有限公司 | 图片的获取方法、装置及电子设备 |
WO2023091090A3 (zh) * | 2021-11-18 | 2023-08-10 | 脸萌有限公司 | 视频生成方法、装置、设备及存储介质 |
WO2023174066A1 (zh) * | 2022-03-18 | 2023-09-21 | 北京字跳网络技术有限公司 | 视频生成方法、装置、电子设备和存储介质 |
CN114820888A (zh) * | 2022-04-24 | 2022-07-29 | 广州虎牙科技有限公司 | 动画生成方法、系统及计算机设备 |
Also Published As
Publication number | Publication date |
---|---|
WO2020113733A1 (zh) | 2020-06-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109615682A (zh) | 动画生成方法、装置、电子设备及计算机可读存储介质 | |
CN109257659A (zh) | 字幕添加方法、装置、电子设备及计算机可读存储介质 | |
CN108737872A (zh) | 用于输出信息的方法和装置 | |
WO2007132286A1 (en) | An adaptive user interface | |
US20190051276A1 (en) | Mapping characteristics of music into a visual display | |
CN107871500A (zh) | 一种播放多媒体的方法和装置 | |
CN110324718A (zh) | 音视频生成方法、装置、电子设备及可读介质 | |
CN110278388A (zh) | 展示视频的生成方法、装置、设备及存储介质 | |
CN109147800A (zh) | 应答方法和装置 | |
CN110211556A (zh) | 音乐文件的处理方法、装置、终端及存储介质 | |
CN108428441B (zh) | 多媒体文件生成方法、电子设备和存储介质 | |
CN109257499A (zh) | 一种歌词的动态展示方法及装置 | |
CN110312162A (zh) | 精选片段处理方法、装置、电子设备及可读介质 | |
CN113257218B (zh) | 语音合成方法、装置、电子设备和存储介质 | |
CN110223677A (zh) | 空间音频信号滤波 | |
Müller et al. | Interactive fundamental frequency estimation with applications to ethnomusicological research | |
CN109493888A (zh) | 漫画配音方法及装置、计算机可读存储介质、电子设备 | |
CN110418183A (zh) | 音视频同步方法、装置、电子设备及可读介质 | |
CN113691909A (zh) | 具有音频处理推荐的数字音频工作站 | |
JP6701478B2 (ja) | 映像生成装置、映像生成モデル学習装置、その方法、及びプログラム | |
CN109618116A (zh) | 多媒体信息的处理方法、电子设备及计算机存储介质 | |
CN112435641B (zh) | 音频处理方法、装置、计算机设备及存储介质 | |
CN109410972A (zh) | 生成音效参数的方法、装置及存储介质 | |
Taenzer et al. | Analysis and visualisation of music | |
Filimowicz | Foundations in sound design for linear media: a multidisciplinary approach |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190412 |