CN106383676B - 用于声音的即时光色渲染系统及其应用 - Google Patents

用于声音的即时光色渲染系统及其应用 Download PDF

Info

Publication number
CN106383676B
CN106383676B CN201510448252.5A CN201510448252A CN106383676B CN 106383676 B CN106383676 B CN 106383676B CN 201510448252 A CN201510448252 A CN 201510448252A CN 106383676 B CN106383676 B CN 106383676B
Authority
CN
China
Prior art keywords
rendering
sound
unit
color
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201510448252.5A
Other languages
English (en)
Other versions
CN106383676A (zh
Inventor
李琳琳
季永康
董建飞
贺家乐
李顺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guizhou zhongshengtaike Intelligent Technology Co.,Ltd.
Original Assignee
Zhuhai Hengqin Great Aim Visible Light Communication Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhuhai Hengqin Great Aim Visible Light Communication Technology Co ltd filed Critical Zhuhai Hengqin Great Aim Visible Light Communication Technology Co ltd
Priority to CN201510448252.5A priority Critical patent/CN106383676B/zh
Publication of CN106383676A publication Critical patent/CN106383676A/zh
Application granted granted Critical
Publication of CN106383676B publication Critical patent/CN106383676B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Reverberation, Karaoke And Other Acoustics (AREA)

Abstract

本发明公开了一种用于声音的即时光色渲染系统,其包括一光色渲染单元和被所述光色渲染单元耦接的一处理器,所述处理器提供一监控与管理中心和一渲染中心,所述监控与管理中心通过监控与所述声音相关的内容获得所述声音的渲染特征,并且基于所述声音的渲染特征生成一渲染数据,所述渲染中心匹配一渲染模式于所述渲染数据,并且所述渲染中心执行所述渲染模式以使所述光色渲染单元产生渲染光线,从而对所述声音进行渲染。

Description

用于声音的即时光色渲染系统及其应用
技术领域
本发明涉及一种用于声音的渲染系统,特别涉及一种用于声音的即时光色渲染系统及其应用。
背景技术
声音是实现人与人之间、人与物之间沟通的重要的媒介,不同类型的声音可以给人们带来不同的感受。声音的类型藉由声音的音响、音调和音色决定。音响是指人们在主观上感觉到的声音的大小,即俗称的音量,其由振幅和人距离声源的距离决定,振幅越大音响越大,人距离声源的距离越近音响越大;音调是指声音的高度,其由声音的频率决定,频率越高音调越高;音色是指音品,其由声音的波形决定。
通常情况下,处于高音区的音符经常会让人们和明亮的视觉感受、积极或者快乐的情态感受等非听觉器官联系起来,而处于低音区的音符经常会让人们和昏暗的视觉感受、消沉或者哀伤的情态感受等非听觉器官联系起来;舒缓的节奏容易让人们感受到开阔的空间和较为平静的情绪,急促的节奏则容易让人们感觉到空间狭窄、情绪躁动等。也就是说,当人们听到声音时、尤其是当人们在听音乐时,会不自觉地将这些音乐给人们带来的听觉感受与人们的其他的非听觉感受联系起来,例如视觉感受、触觉感受等,这种现象可以成为联觉。
近年来,市场上已经出现了一种能够将听觉感受和视觉感受进行联系的技术,例如目前市场上流行一种灯具,其灯光产生的颜色和频率能够随着音乐的音响、音调和音色的变化而变化,即实现将音乐和灯光的联系,然而,现有技术的这种灯具的灯光的颜色和频率都是被预定义的,并且现有技术的灯具仅能够针对固定的一首或者几首音乐进行声光的联系,这对于使用者的需求来说是远远不够的。另外,现有技术的灯具在进行声光联系时,声音和灯光的同步性差,即灯光的变化往往延迟于声音的变化,这给使用者带来的用户体验较差。
发明内容
本发明的一个目的在于提供一种用于声音的即时光色渲染系统及其应用,其中所述即时光色渲染系统能够将使用者的听觉器官的感受和其他的非听觉器官的感受联系起来,例如所述即时光色渲染系统能够将使用者的听觉器官与视觉器官和/或触觉器官的感受联系起来,以增加使用者在欣赏音乐时的体验。
本发明的一个目的在于提供一种用于声音的即时光色渲染系统及其应用,其中所述即时光色渲染系统能够被广泛地应用于商业、艺术品展示或者家庭等方面,以提高所述即时光色渲染系统的适用范围。
本发明的一个目的在于提供一种用于声音的即时光色渲染系统及其应用,其中所述即时光色渲染系统可以利用光色对声音进行渲染,并且在渲染声音的过程中,所述即时光色渲染系统能够使声光同步,也就是说,所述即时光色渲染系统能够对声音进行同步地渲染,以此使得所述即时光色渲染系统对于声音的渲染没有延迟。
本发明的一个目的在于提供一种用于声音的即时光色渲染系统及其应用,其中所述即时光色渲染系统提供一监控与管理中心,所述监控与管理中心可以通过实时地监控与声音相关的内容获得声音的渲染特征,并且所述监控与管理中心根据声音的渲染特征生成与声音的渲染特征相关的一渲染数据,可以理解的是,本发明的所述即时光色渲染系统通过持续地且实时地获得声音的渲染特征的方式,可以使得所述即时光色渲染系统对于声音的渲染没有延迟。
本发明的一个目的在于提供一种用于声音的即时光色渲染系统及其应用,其中所述监控与管理中心监控的与声音相关的内容可以是声音的音频信号或者与声音相关的显示于交互界面上的图像等内容。
本发明的一个目的在于提供一种用于声音的即时光色渲染系统及其应用,其中当所述监控与管理中心通过监控与声音相关的显示于交互界面上的图像时,可以提取图像的色彩特征,以在后续生成与所述渲染数据匹配一渲染模式,从而在后续执行所述渲染模式对声音进行渲染,以达到声光一致。
本发明的一个目的在于提供一种用于声音的即时光色渲染系统及其应用,其中所述即时光色渲染系统提供一渲染中心和一光色渲染单元,所述渲染中心与所述光色渲染单元连接,所述渲染中心在接受所述渲染数据后,可以基于所述渲染数据匹配所述渲染模式于所述渲染数据,并且所述渲染中心执行所述渲染模式,以使所述光色渲染单元提供的渲染效果匹配于所述声音。
本发明的一个目的在于提供一种用于声音的即时光色渲染系统及其应用,其中所述监控与管理中心提供一监控单元和一管理单元,所述监控单元实时地监控与声音相关的内容以获得声音的渲染特征,所述管理单元根据所述监控单元监控所获得的声音的渲染特征生成所述渲染数据。
本发明的一个目的在于提供一种用于声音的即时光色渲染系统及其应用,其中所述渲染中心提供相互连接的一配置单元、一控制单元以及一判断单元,所述渲染中心在接受所述渲染数据后,所述判断单元基于所述渲染数据判断声音是否存在渲染记录,如果声音存在渲染记录,则所述配置单元可以直接读取上次渲染声音时使用的所述渲染模式,以藉由所述控制单元执行,如果声音没有存在渲染记录,则所述配置单元匹配所述渲染模式于所述渲染数据,以藉由所述控制单元执行,通过这样的方式,可以使得所述即时光色宣若男系统的渲染过程更加的流畅,从而提高所述即时光色渲染系统对声音进行渲染时的渲染效率和渲染效果。
本发明的一个目的在于提供一种用于声音的即时光色渲染系统及其应用,其中所述即时光色渲染系统还提供一云服务器,所述云服务器提供所述渲染模式,并且在后续,还允许从所述云服务器上下载所述渲染模式,以给使用者提供持续性的服务。
为了达到上述目的,本发明提供一种用于声音的即时光色渲染系统,其通过执行一渲染模式对一声音进行渲染,其中所述即时光色渲染系统包括相互连接的一光色渲染单元、一监控与管理中心以及一渲染中心;其中,
所述监控与管理中心通过监控与所述声音相关的内容获得所述声音的渲染特征,并且所述监控与管理中心生成与所述声音的渲染特征相关的一渲染数据;和
所述渲染中心在接受所述渲染数据后匹配所述渲染模式于所述渲染数据,并且所述渲染中心执行所述渲染模式以使所述光色渲染单元产生渲染光线,从而对所述声音进行渲染。
根据本发明的一个优选的实施例,所述即时光色渲染系统还包括一存储单元以供存储所述渲染模式,所述存储单元连接于所述渲染中心,所述渲染中心从所述存储单元读取匹配于所述渲染数据的所述渲染模式。
根据本发明的一个优选的实施例,所述即时光色渲染系统还包括一云服务器以供存储所述渲染模式,所述云服务器连接于所述存储单元,被存储于所述云服务器的所述渲染模式得以被下载并存储至所述存储单元。
根据本发明的一个优选的实施例,根据本发明的一个优选的实施例,包括相互连接的一监控单元和一管理单元,所述监控单元监控与所述声音相关的内容以获得所述声音的渲染特征,所述管理单元根据所述声音的渲染特征生成与所述声音的渲染特征相关的所述渲染数据。
根据本发明的一个优选的实施例,所述监控单元监控所述声音的音频信号的实时状态和与所述声音匹配一图像的实时状态,所述管理单元很据所述声音的音频信号的实时状态生成所述渲染数据,并且所述管理单元提取所述图像的色彩特征以基于所述图像的色彩特征生成所述渲染模式。
根据本发明的一个优选的实施例,所述渲染数据包括以下内容中的至少一个:所述声音的来源、名称、作者以及所属的专辑。
根据本发明的一个优选的实施例,所述管理单元提取所述图像的主色、次主色或者使用者关注的预设颜色作为所述图像的色彩特征。
根据本发明的一个优选的实施例,所述渲染中心进一步包括相互连接的一配置单元和一控制单元,所述渲染中心在接受所述渲染特征后,所述配置单元从所述存储单元内配置所述渲染模式于所述渲染数据,所述控制单元执行所述渲染数据以使所述光色渲染单元产生渲染光线。
根据本发明的一个优选的实施例,所述渲染中心进一步包括相互连接的一配置单元和一控制单元,所述渲染中心在接受所述渲染特征后,所述配置单元接受所述渲染模式,所述控制单元执行所述渲染数据以使所述光色渲染单元产生渲染光线。
根据本发明的一个优选的实施例,所述渲染中心进一步包括一判断单元,所述存储单元包括相互独立的一数据库和一渲染日志,所述渲染中心在接受所述渲染数据后,所述判断单元基于所述渲染数据判断所述声音是否存在渲染记录,如果所述判断单元判断所述声音存在渲染记录,所述配置单元从所述渲染日志中读取上次渲染所述声音的所述渲染模式,如果所述判断单元判断所述声音没有存在渲染记录,所述配置单元从所述数据库中读取匹配于所述渲染数据的所述渲染模式。
根据本发明的一个优选的实施例,所述渲染中心进一步包括一判断单元,所述存储单元包括相互独立的一数据库和一渲染日志,所述渲染中心在接受所述渲染数据后,所述判断单元基于所述渲染数据判断所述声音是否存在渲染记录,如果所述判断单元判断所述声音存在渲染记录,所述配置单元从所述日志中读取上次渲染所述声音的所述渲染模式,如果所述判断单元判断所述声音没有存在渲染记录,所述判断单元进一步判断是否有所述图像与所述声音同步播出,如果所述判断单元判断没有所述图像与所述声音同步播出,所述配置单元从所述数据库中读取匹配于所述渲染数据的所述渲染模式,如果所述判断单元判断有所述图像与所述声音同步播出,所述管理单元生成所述渲染模式。
根据本发明的一个优选的实施例,所述光色渲染单元是一LED灯具。
]根据本发明的另一个方面,本发明还提供一种通过一光色渲染单元对一声音进行即时光色渲染的方法,其中所述即时光色渲染方法包括如下步骤:
(a)监控与所述声音相关的内容以获得所述声音的渲染特征;
(b)生成基于所述声音的渲染特征相关的一渲染数据;
(c)匹配一渲染模式于所述渲染数据;以及
(d)执行所述渲染模式以使所述光色渲染单元产生渲染光线,从而对所述声音进行渲染。
根据本发明的一个优选的实施例,在所述步骤(c)之前还包括步骤,预存所述渲染模式于一存储单元,从而在所述步骤(c)中,从所述存储单元读取匹配于所述渲染数据的所述渲染模式。
根据本发明的一个优选的实施例,在上述方法中,还包括步骤:
判断所述声音是否存在渲染记录,如果所述声音存在所述渲染记录,在所述步骤(c)中读取上次渲染所述声音的所述渲染模式,如果所述声音没有存在所述渲染记录,在所述步骤(c)中,从所述存储单元读取匹配于所述渲染数据的所述渲染模式。
根据本发明的一个优选的实施例,在上述方法中,还包括步骤:
判断是否有图像与所述声音同步播出,如果没有所述图像与所述声音同步播出,在所述步骤(c)中,从所述存储单元读取匹配于所述渲染数据的所述渲染模式,如果有所述图像与所述声音同步的播出,提取所述图像的色彩特征以生成所述渲染模式。
根据本发明的一个优选的实施例,在上述方法中,在所述步骤(a)中,实时地监控所述声音的音频信号以获得所述声音的实时渲染特征,从而在所述步骤(b)中,基于所述声音的实时状态特征生成所述渲染数据;在所述步骤(a)中,实时地监控与所述声音同步播出的一图像以获得所述图像的实时状态,从而在所述步骤(c)中,提取所述图像的色彩特征以生成所述渲染模式。
根据本发明的一个优选的实施例,在上述方法中,将用于渲染所述声音的所述渲染模式存储至所述存储单元的一渲染日志。
根据本发明的一个优选的实施例,在上述方法中,提取所述图像的主色、次主色或者使用者关注的预设颜色作为所述图像的色彩特征。
根据本发明的一个优选的实施例,在上述方法中,从所述图像的全部区域或者局部区域提取所述图像的色彩特征。
附图说明
图1是根据本发明的一个优选实施例的即时光色渲染系统的一个结构框图。
图2是根据本发明的上述优选实施例的即时光色渲染系统的另一个结构框图。
图3是根据本发明的上述优选实施例的即时光色渲染系统在渲染声音时的流程示意图。
图4是根据本发明的上述优选实施例的即时光色渲染系统应用于计算机设备的示意图。
图5是根据本发明的上述优选实施例在计算机设备播放乐曲时的交互界面示意图。
图6是根据本发明的上述优选实施例的即时光色渲染系统即有频域信号分析方法对声音进行处理的方法的流程示意图。
图7是根据本发明的上述优选实施例的声音在半音转化前后的频率与MIDI音符的对应状态示意图。
图8是根据本发明的上述优选实施例的声音的音符与色彩的对应状态的示意图。
图9是根据本发明的上述优选实施例的即时光色渲染系统渲染录入的声音的方法的流程示意图。
图10是根据本发明的上述优选实施例的即时光色渲染系统基于语音识别的渲染方法的流程示意图。
图11是根据本发明的上述优选实施例的音乐波形示意图。
图12是根据本发明的上述优选实施例的音量强度曲线示意图。
图13是根据本发明的上述优选实施例的在某一具体时间的音乐的音频信号的波形示意图。
图14是根据本发明的上述优选实施例在上述具体时间的音乐的音频信号的频谱示意图。
图15是根据本发明的上述优选实施例的即时光色渲染系统通过光色渲染单元对声音进行即时渲染的方法的流程示意图。
具体实施方式
下面将通过结合附图和实施例对本发明作进一步说明,以使任何所属领域的技术人员能够制造和使用本发明。在下面的描述中的实施例仅作为例子和修改物对该领域熟练的技术人员将是显而易见的。在下面的描述中定义的一般原理将适用于其它实施例,替代物,修改物,等效实施和应用中,而不脱离本发明的精神和范围。
如图1和图2所示,依据本发明的一个优选实施例的用于声音的即时光色渲染系统在接下来的描述中将被揭露和阐述。出于便利起见,所述用于声音的即时光色渲染系统还可以被简称为“即时光色渲染系统”。也就是说,在图1和图2中本发明提供了一种即时光色渲染系统,其通过光色对一声音进行即时渲染,通过这样的方式将使用者的听觉感受和视觉感受联系起来,以用于增强使用者在收听所述声音时的整体感受。
具体地说,所述即时光色渲染系统可以包括一个或多个处理器10、一存储单元20以及一光色渲染单元30,所述处理器10、所述存储单元20和所述光色渲染单30相互连接。所述存储单元20可以用于存储至少一个渲染模式以及其他的资源,例如所述存储单元20还可以存储所述即时光色渲染系统对于所述声音的渲染记录;所述处理器10用于处理所述声音,例如所述存储器10可以通过监控与所述声音相关的内容的方式获得所述声音的渲染特征,并且所述处理器10还可以基于所述声音的渲染其特征生成与所述声音的渲染特征相关的一渲染数据;后续,所述处理器10从所述存储单元20中读取并执行匹配于所述渲染数据的所述渲染模式,以使所述光色渲染单元30产生渲染光线,从而对所述声音进行渲染,通过本发明的所述即时光色渲染系统提供的渲染方式,可以将使用者的听觉感受与视觉感受联系起来,例如当所述声音是被播放的音乐时,所述即时光色渲染系统可以给使用者营造更佳的听音环境。
在本发明的另一个示例中,所述渲染模式也可以没有被预存于所述存储单元20中,而是所述渲染模式在所述即时光色渲染系统对所述声音进行渲染的过程中基于与所述声音相关的内容实时地生成,通过这样的方式,可以使得所述光色渲染单元30提供的渲染效果更好地匹配于所述声音的渲染需要。
值得一提的是,所述处理器10具有计算、处理和分析数据的能力,也就是说,所述处理器10可以执行指令以提供不同的功能,例如在本发明的一个较佳的实施方式中,所述处理器10可以被实施为一个CPU(CentralProcessingUnit,中央处理器)。优选地,所述处理器10可以是一个多核处理器,以提供多线程的处理数据的方式和能力。另外,所述处理器10还可以是以CPU为核心的经由扩展之后的处理系统,本发明在这方面不受限制。
另外,所述存储单元20可以被实施为一个存储器,并且所述存储单元20具有非暂态性存储数据和资源的能力,例如所述存储单元20具体可以被实施为诸如硬盘的硬件,本发明提供的所述渲染模式可以被长时间地存储在所述存储单元20提供的存储空间内,并且在所述即时光色渲染系统对所述声音进行渲染的过程中,所述渲染模式可以被所述处理器10从所述存储单元20内反复地读取,或者所述存储单元20允许新的所述渲染模式被存储于所述存储单元20提供的所述存储空间内。
所述光色渲染单元30可以被实施为一个LED灯具,也就是说,所述即时光色渲染系统可以被实施为一个LED光色渲染单元,当所述渲染模式被执行时,所述LED光色渲染单元产生的渲染光线提供的渲染效果与所述渲染模式的程序相对应。尽管如此,本领域的技术人员可以理解的是,所述光色渲染单元30还可以有其他的实施方式,在本发明在这方面不受限制。在所述即时光色渲染系统需要对所述声音进行渲染时,所述渲染模式可以在被所述处理器10执行后使所述光色渲染单元30产生渲染光线,并且通过改变所述光色渲染单元30产生的渲染光线的色彩、色温以及亮度等参数使得渲染光线的实时状态与所述声音的实时状态的改变是一致且同步的,从而所述即时光色渲染系统对于所述声音的渲染可以没有延迟,以进一步增强使用者在收听所述声音时的整体感受。
值得一提的是,本发明提供的所述渲染模式可以是任何合适的为所述声音提供渲染效果的程序,例如在本发明的一个实施例中,所述渲染模式可以是:得到与所述声音匹配的显示于交互界面的图像的色彩特征,并且基于所述图像的色彩特征生成用于控制所述光色渲染单元30提供与所述图像的色彩特征一致的控制指令。值得一提的是,在获得所述图像的色彩特征时,可以针对所述图像的全部区域进行颜色模拟,也可以针对所述图像的一个或者多个局部区域进行颜色模拟,渲染效果也可以是提供有别于所述图像的色彩特征的其他具有烘托效果的光效颜色,例如当所述图像的色彩特征以蓝色为主时,可以提取所述图像的蓝色作为色彩特征,并且在后续生成所述渲染模式,从而当所述处理器10执行所述渲染模式时可以使所述光色渲染单元产生以蓝色为主并渐次变化的渲染光线。
也就是说,在本发明的一个较佳的实施方式中,可以通过提取与所述声音相互匹配的显示于交互界面的所述图像的主色、次主色或者其他吸引眼球的颜色作为所述图像的色彩特征,用于在后续生成所述渲染模式,从而当所述渲染模式被所述处理器10执行时,所述光色渲染单元30产生的渲染光线提供的渲染效果能够与所述声音以及所述图像相互匹配。尽管如此,本发明还可以预定义大量的渲染模式并将其存储于所述存储单元20内,以在后续,所述处理器10能够从所述存储单元20内直接读取并执行所述渲染模式,从而使得所述光色渲染单元30产生渲染光线以对所述声音进行渲染,这样的方式可以极大地提高所述即时光色渲染系统对于所述声音进行渲染时的渲染效率。
另外,所述即时光色渲染系统还可以提供一个云服务器70,以供存储更多的所述渲染模式以及其他的资源,例如当一个新的唱片或者影片发布时,发行商可以将匹配于该唱片或者该影片的所述渲染模式上传并存储在所述云服务器70内,以在后续当使用者收听该唱片或者观看该影片时,能够从所述云服务器70内下载与该唱片或者该影片匹配的所述渲染模式。所述处理器10和所述存储单元20分别与所述云服务器70连接,从而在本发明的一个较佳的实施方式中,所述处理器10可以直接从所述云服务器70内读取并执行所述渲染模式,而在本发明的另一个较佳的实施方式中,可以先将被存储在所述云服务器70内的所述渲染模式下载并保存到所述存储单元20内,同时在后续允许所述处理器10从所述存储单元20内读取并执行所述渲染模式,从而当所述处理器10执行所述渲染模式时使所述光色渲染单元30产生渲染光线,以对所述声音进行渲染。
另外,本发明的技术人员可以理解的是,所述渲染模式还可以被存储至一个存储设备或者存储网盘内,当所述存储单元20需要添加或者更新所述渲染模式时,可以将所述存储设备或者存储网盘连接至所述即时光色渲染系统,此时,所述即时光色渲染系统的所述存储单元20可以从所述存储设备或者存储网盘中获取并存储所述渲染模式于所述存储单元20提供的存储空间内。例如,所述存储设备具体地可以被实施为U盘、光盘或者移动硬盘等硬件设备,相应地,所述存储网盘可以是“360云盘”、“百度云盘”或者“Icloud”等虚拟存储云盘。
也就是说,本发明可以提供一个存储模块,以供存储所述渲染模式,并且可以理解的是,在不同的实施例中,所述存储模块可以具有不同的实施方式,例如所述存储模块可以被实施为上述提及的所述云服务器70、所述存储设备或者所述存储网盘,其可以根据不同的使用需要被设定。在本发明接下来的描述中,可以以将所述存储模块实施为所述云服务器70为例来对所述存储模块的基本功能以及所述存储模块与其他元件之间的关系进行揭露和阐述。
当所述渲染模式被存储于所述云服务器70时,多个所述即时光色渲染系统都可以从所述云服务器70下载所述渲染模式,当所述渲染模式被存储至所述即时光色渲染系统的所述存储单元20时,所述即时光色渲染系统阻止其他的所述即时光色渲染系统从所述存储单元20内读取所述渲染模式。另外,所述即时光色渲染系统还允许将存储于所述存储单元20的所述渲染模式上传到所述云服务器70或者所述存储设备或者所述存储网盘中,从而允许其他的所述即时光色渲染系统下载这个所述渲染模式,通过这样的方式,能够使得所述渲染模式在不同的所述即时光色渲染系统之间共享。
如图1所示,所述处理器10进一步包括一监控与管理中40和一渲染中心50,所述监控与管理中心40和所述渲染中心50相连接。所述监控与管理中心40可以通过监控与所述声音相关的内容的方式获得所述声音的渲染特征,并且所述监控与管理中心40基于所述声音的渲染特征生成与所述声音的渲染特征匹配的所述渲染数据,后续,所述渲染数据可以被发送至所述渲染中心50,所述渲染中心50在接受所述渲染数据后匹配并执行所述渲染模式,从而使得所述光色渲染单元30产生渲染光线以对所述声音进行渲染。
在本发明的一个较佳的实施例中,当所述声音播放时,所述监控与管理中心40可以实时地监控与所述声音相关的内容以获得所述声音的渲染特征,并且基于所述声音的渲染特征生成与所述声音的渲染特征相关的所述渲染数据,所述渲染数据可以包括以下内容中的至少一个:所述声音的来源、名称、作者以及所属的专辑等。后续,所述渲染中心50接受所述监控与管理中心40发送的所述渲染数据,并从所述存储单元20中读取并执行匹配于所述渲染数据的所述渲染模式,以使所述光色渲染单元30产生渲染光线,从而对所述声音进行渲染。值得一提的是,在这个实施例中,所述渲染模式可以是预定义的,例如所述即时光色渲染系统可以预定义所述声音的整体情感、氛围以及格调等特征。还值得一提的是,在这个实施例中,所述监控与管理中心40并不需要对所述声音进行实时地监控,仅需要在所述声音开始播放时获取所述声音的渲染特征即可,这样的方式,可以极大地提高所述即时光色渲染系统的渲染效率,以保证所述即时光色渲染系统对于所述声音的渲染能够同步。
在本发明的另一个较佳的实施方式中,所述监控与管理中心40可以持续地且实时地监控与所述声音相关的内容以获得所述声音的实时渲染特征,例如所述处理器10可以预定义所述监控与管理中心40在每个单位时间内监控与所述声音相关的内容的次数,从而获得所述声音的实时渲染特征,以能够在后续使得所述渲染模式随着所述声音的实时状态的改变而改变,从而使得所述渲染模式被执行时所述光色渲染单元30产生的渲染效果能够更好地匹配于所述声音。具体地说,所述监控与管理中心40可以分别获得与所述声音的音响、音调和音色等特征相关的所述渲染数据,以及获得与所述声音相匹配的显示于交互界面的所述图像的色彩特征,并且所述图像的色彩特征可以在后续用于生成所述渲染模式,也就是说,所述渲染模式是基于与所述声音相匹配的显示于交互界面的所述图像的色彩特征实时地形成的,从而当所述渲染中心50执行所述渲染模式时,可以使得所述光色渲染单元30产生的渲染光线提供的渲染效果能够更好地匹配所述声音的渲染需要。例如,当播放的所述声音包含在电影、MV或者MTV内时,电影、MV或者MTV显示的图像(包括故事情节以及色彩等特征)与所述声音是相互匹配的,从而所述监控与管理中心40可以分别监控所述声音和所述图像的实时状态以分别获得所述声音的渲染特征和所述图像的色彩特征,例如可以获得所述图像的主色、次主色或者其他吸引眼球的颜色作为所述图像的色彩特征,并且所述图像的色彩特征可以在后续生成所述渲染模式,从而使得所述渲染模式与所述声音相互匹配。
如图2所示,所述监控与管理中心40进一步包括一监控单元41和一管理单元42,所述监控单元41和所述管理单元42相连接。所述监控单元41监控与所述声音相关的内容以获得所述声音的渲染特征,所述管理单元42管理所述声音的渲染特征,并且所述管理单元42基于所述声音的渲染特征生成与所述声音的渲染特征相关的所述渲染数据。所述管理单元42进一步包括一内容管理模块421和一数据管理模块422,所述内容管理模块421分别连接所述数据管理模块422和所述监控单元41。当所述监控单元41监控与所述声音相关的内容并获得所述声音的渲染特征时,所述内容管理模块421可以管理所述声音的渲染特征,并且所述数据管理模块422根据所述监控单元41监控所获得的所述声音的实时渲染特征生成与所述声音的渲染特征相关的所述渲染数据,并且在后续所述数据管理模块422将所述渲染数据发送至所述渲染中心50。
所述渲染中心50进一步包括相互连接的一匹配单元51和一控制单元52,在所述渲染中心50接受所述渲染数据后,所述匹配单元51基于所述渲染数据从所述存储单元20内读取匹配于所述渲染数据的所述渲染模式,所述控制单元52可以执行所述渲染模式以使所述光色渲染单元30产生渲染光线,从而对所述声音进行渲染。值得一提的是,所述渲染模式包括为所述声音提供渲染效果的程序,例如,当所述控制单元52执行所述渲染模式时,所述光色渲染单元30产生的渲染光线的色彩、色温以及亮度都可以实时地改变以匹配所述声音。
所述渲染中心50还可以包括一判断单元53,当所述渲染中心50接受所述渲染数据后,所述判断单元53能够基于所述渲染数据判断所述声音是否存在渲染记录,如果所述判断单元53判断所述声音存在渲染记录,则所述匹配单元51可以直接从所述存储单元20内读取所述渲染模式并发送至所述控制单元52执行,如果所述判断单元53判断所述声音不存在渲染记录则所述匹配单元51可以从所述存储单元20内读取匹配于所述渲染数据的所述渲染模式并发送至所述控制单元52执行。
所述存储单元20进一步包括一数据库21和一渲染日志22,所述数据库21和所述渲染日志22均可以提供存储空间以供存储所述渲染模式。具体地说,所述数据库21可以被预存所述渲染模式、或者将从所述云服务器70或者所述存储设备或者所述存储网盘中获得所述渲染模式存储至所述数据库21;所述渲染日志22用于存储曾被执行以渲染过所述声音的所述渲染模式。也就是说,当所述渲染模式被执行以渲染过所述声音时,所述渲染模式可以被存储在所述渲染日志22内,同时所述渲染日志22内还可以存储与所述声音的相关内容,例如所述声音的来源等内容,从而在后续,如果使用者重新欣赏所述声音时,所述匹配单元51可以直接从所述渲染日志22内读取所述渲染模式并发送至所述控制单元52执行,通过这样的方式,可以极大地提升所述即时光色渲染系统对所述声音的渲染效率。
如图3所示是所述即时光色渲染系统在对所述声音进行渲染时的流程示意图。在所述声音播放时,所述监控单元41可以监控与所述声音相关的内容以获得所述声音的渲染特征,例如所述监控单元41可以通过监控所述声音的音响、音调和音色等特征来获得所述声音的渲染特征,从而在后续,所述管理单元42能够基于所述监控单元41监控所获得的所述声音的渲染特征生成与所述声音的渲染特征相关的所述渲染数据,所述渲染数据可以包括以下内容中的至少一个:所述声音的来源、名称、作者以及所属的专辑等。
值得一提的是,上述播放的所述声音可以是被所述即时光色渲染系统所应用的硬件设备播放的声音,具体地说,所述即时光色渲染系统可以被应用于一个计算机设备100,例如所述计算机设备100可以是一个台式电脑或者笔记本电脑或者便携式电子设备等任何能够播放音效的硬件设备,通常所述计算机设备100还提供一个音箱,所述音箱可以被与所述计算机设备100集成为一体,或者所述音箱邻近地设置于所述计算机设备100,当所述计算机设备100需要通过所述音箱来播放所述声音时,所述计算机设备100可以发送音频信号至所述音箱,所述音箱能够响应音频信号的输入而产生所述声音。值得一提的是,所述音箱的数量不受限制,例如在所述即时光色渲染系统被应用的过程中,所述音箱的数量可以是一个、两个也可以是更多个。在一个实施例中,所述监控单元41可以通过监控所述计算机设备100向所述音箱输入的音频信号的方式来获得所述声音的渲染特征。本领域的技术人员应该理解的而是,所述声音的音响、音调和音色等参数藉由所述声音的音频信号决定。
在另一个实施例中,所述声音还可以是被通过电连接于或者信号连接于所述计算机设备100或者其他被所述即时光色渲染系统应用的设备的一个录音设备输入,例如当所述即时光色渲染系统被应用于演唱会时,所述录音设备可以被实施为歌手使用的麦克风,麦克风可以通过网络(例如因特网)连接于远处的所述计算机设备100,从而当使用者所述计算机设备100观看演唱会时,演唱会现场的声音可以通过所述录音设备被发送至所述计算机设备100,并藉由所述计算机设备100的所述音箱重放,此时,所述监控单元41可以实时地监控与所述声音相关的内容来获得所述声音的渲染特征,在后续的描述中,本发明会对如何获得所述声音的实时渲染特征的方式进行详细的揭露和阐述。
所述判断单元53可以判断所述声音是否存在渲染记录,也就是说,所述判断单元53可以判断需要被渲染的所述声音是否在本次渲染执行之前有过被渲染的经历。如果所述判断单元53判断所述声音存在渲染记录,则所述配置单元51可以从所述存储单元20的所述渲染日志22内读取之前被执行过的所述渲染模式,并且在后续,藉由所述控制单元52执行所述渲染模式以使所述光色渲染单元30产生渲染光线,从而对所述声音进行渲染,通过这样的方式,能够极大地提高所述即时光色渲染系统对所述声音进行渲染时的渲染效率。如果所述判断单元53判断所述声音没有存在渲染记录,则所述判断单元53继续判断在交互界面内是否有图像与所述声音同步播出,如果所述判断单元53判断在交互界面内没有所述图像与所述声音同步播出,则所述配置单元53基于所述渲染数据从所述存储单元20的所述数据库21内匹配所述渲染模式于所述渲染数据,并且在后续,藉由所述控制单元52执行所述渲染模式以使所述光色渲染单元30产生渲染光线,从而对所述声音进行渲染。值得一提的是,所述渲染模式还可以被存储至所述存储单元20的所述渲染日志22内,以方便下次对相同的所述声音进行渲染时使用。如果所述判断单元53判断在交互界面内有所述图像与所述声音同步地播出,则所述监控单元41实时地监控所述图像,以提取所述图像的色彩特征。
所述监控单元41通过实施地监控所述图像的实时状态,以藉由所述管理单元42从所述图像内提取所述色彩特征,从而在后续基于所述图像的色彩特征生成匹配于所述渲染数据的所述渲染模式。例如所述管理单元42的所述内容管理模块421可以提取所述图像的全部区域或者局部区域的主色、次主色或者其他吸引眼球的颜色作为所述图像的色彩特征,所述管理单元42的所述数据管理模块422可以基于所述图像的色彩特征生成所述渲染模式,并且在后续,藉由所述控制单元52执行所述渲染模式以使所述光色渲染单元30产生渲染光线,从而对所述声音进行渲染,通过这样的方式,可以使得所述即时光色渲染系统对所述声音进行渲染时,所述光色渲染单元30产生的光线提供的渲染效果能够更好地匹配于所述声音的渲染需要。值得一提的是,所述渲染模式还可以被存储至所述存储单元20的所述渲染日志22内,以方便下次对相同的所述声音进行渲染时使用。本领域的技术人员可以理解的是,本发明提供的对所述声音的渲染方法可以使得声音和光色更好地配合,从而营造更佳的听音氛围。
作为一个示例性的说明,如图4和图5所示,当使用者需要在所述计算机设备100提供的交互界面上使用一个播放器应用播放经典乐曲《蓝色多瑙河》时,在所述播放器应用的音乐介绍栏可以显示如图5所示的音乐介绍。所述监控单元41可以通过监控与乐曲《蓝色多瑙河》相关的内容来获得其渲染特征,例如在本发明中,与乐曲《蓝色多瑙河》相关的内容可以是用于在所述播放器应用的音乐介绍栏显示音乐介绍的信号,或者在所述播放器应用的音乐介绍栏显示的音乐介绍信息等内容。另外,乐曲《蓝色多瑙河》的渲染特征可以是以下内容中的至少一个:音乐的名称是《蓝色多瑙河(An der
Figure GDA0002088263410000111
blauen Donau walzerOp.314)》,歌手是Carlos Kleiber,所属专辑是《Carlos Kleiber Conducts JohannStrauss》等。跟领域的技术人员可以理解的是,根据乐曲《蓝色多瑙河》的渲染特征可以很明确地判断所述播放器应用正在播放的音乐内容,随后,所述管理单元42可以基于乐曲《蓝色多瑙河》的渲染特征生成与乐曲《蓝色多瑙河》相关的所述渲染数据。
所述判断单元53可以判断所述播放器应用正在播放的乐曲《蓝色多瑙河》是否存在渲染记录,如果所述播放器应用播放的乐曲《蓝色多瑙河》存在渲染记录,也就是说,乐曲《蓝色多瑙河》在本次播放之前被播放并且渲染过,则所述配置单元51可以直接从所述存储单元20的所述渲染日志22中读取之前渲染乐曲《蓝色多瑙河》时使用的所述渲染模式,并且在后续,藉由所述控制单元52执行所述渲染模式以使所述光色渲染单元30产生渲染光线,从而对乐曲《蓝色多瑙河》进行渲染。
如果所述播放器应用播放的乐曲《蓝色多瑙河》没有存在渲染记录,则所述判断单元53可以进一步判断所述计算机设备100提供的交互界面内是否有图像与乐曲《蓝色多瑙河》的所述声音同时播出,如果所述计算机设备100提供的交互界面内没有所述图像与乐曲《蓝色多瑙河》的所述声音同时播出,则所述配置单元51可以基于所述渲染数据从所述存储单元20的所述数据库21内匹配所述渲染模式于所述渲染数据,并且在后续,藉由所述控制单元52执行所述渲染模式以使所述光色渲染单元30产生渲染光线,从而对乐曲《蓝色多瑙河》进行渲染。值得一提的是,与乐曲《蓝色多瑙河》匹配的所述渲染模式还可以被存储至所述存储单元20的所述渲染日志22内,从而当所述计算机设备100再次通过所述播放器应用播放经典乐曲《蓝色多瑙河》时,所述配置单元51可以直接从所述存储单元20的所述渲染日志22内读取所述渲染模式,以减少所述即时光色渲染系统的计算量,从而提高所述即时光色渲染系统的渲染效率和渲染质量。
值得一提的是,被预先存储于所述存储单元20的所述数据库21或者所述云服务器70的所述渲染模式可以是根据每首音乐的主题、特征定制的,例如在本发明的这个示例中,当所述播放器应用播放的乐曲是《蓝色多瑙河》时,所述处理器10可以从所述存储单元20的所述数据库21中配置与乐曲《蓝色多瑙河》相对应的所述渲染模式,例如,所述渲染模式在被执行后提供的渲染效果可以是蓝色主题色、具有与音乐节奏呼应的频率、以及具有与音量对应的亮度,从而当所述渲染模式被所述控制单元42执行时,所述光色渲染单元30可以在不同的时间内产生这样的渲染光线:有规律地显示蓝色、并且蓝色有深浅变化、明暗变化,例如所述光色渲染单元30产生的渲染光线可以像流水一样的欢快。所述即时光色渲染系统对于乐曲《蓝色多瑙河》的渲染效果可以使得音乐与灯光的交相辉映可以使优美动听、节奏明快而富有弹性的音乐发挥的淋漓尽致,给使用者无限的享受。
本领域的技术人员可以理解的是,所述渲染模式可以一一对应于每首音乐,例如当有一首新的音乐发布时,音乐的发行商可以将匹配于该音乐的所述渲染模式上传到所述云服务器70以供使用者下载,从而当使用者在欣赏该音乐的时候,也可以调取所述渲染模式同步地对该音乐进行渲染。
如果所述计算器设备提供的交互界面内有所述图像与乐曲《蓝色多瑙河》同时播出时,所述监控单元41可以通过实时地监控所述图像的实时状态,以藉由所述管理单元42从所述图像内提取所述图像的色彩特征,以在后续基于所述图像的色彩特征生成匹配于所述渲染数据的所述渲染模式。例如与乐曲《蓝色多瑙河》相匹配的所述图像的色彩可以以蓝色为主,则所述管理单元42可以从所述图像内提取蓝色作为所述图像的色彩特征,尽管如此,本领域的技术人员可以理解的是,所述管理单元42还可以从所述图像内提取其他的颜色作为所述图像的色彩特征。值得一提的是,所述管理单元42从所述图像提取的色彩特征不同,则在后续生成的所述渲染模式被执行后对应的渲染效果也不相同。在后续,所述控制单元52可以执行所述渲染模式以使所述光色渲染单元30产生渲染光线,从而对乐曲《蓝色多瑙河》进行渲染。值得一提的是,与乐曲《蓝色多瑙河》匹配的所述渲染模式还可以被存储至所述存储单元20的所述渲染日志22内,从而当所述计算机设备100再次通过所述播放器应用播放经典乐曲《蓝色多瑙河》时,所述配置单元51可以直接从所述存储单元20的所述渲染日志22内读取所述渲染模式,以减少所述即时光色渲染系统的计算领,从而提高所述即时光色渲染系统的渲染效率和渲染质量。
在本发明的另一个示例中,用于播放所述声音的所述音箱与用于产生渲染光线的所述光色渲染单元30可以没有被集成在一个设备上或者没有被邻近地设置,例如当所述即时光色渲染系统被应用于商场时,所述音响可以被按照声学的要求布置于商场的各个位置,所述光色渲染单元30可以被按照光学的要求被布置于商场的各个位置,这样的布置方式可能会使得所述音箱与所述光色渲染单元30在空间位置上存在一定的差异。在所述即时光色渲染系统被使用以对藉由所述音箱产生的所述声音进行渲染时,所述监控单元41可以监控音频信号以获得与音频信号相对应的所述声音的渲染特征,并且所述管理单元42可以基于所述声音的渲染特征生成与所述声音相对应的所述渲染数据。后续,所述配置单元51可以在所述存储单元20内读取匹配于所述渲染数据的所述渲染模式,所述控制单元52可以执行所述渲染模式以使所述光色渲染单元30产生渲染光线,从而对通过所述音箱播放的所述声音进行渲染。通过这样的方式,本领域的技术人员可以理解的是,可以在商场的空间内营造良好的购物氛围。例如在商场内一般会播放欢快、动感的音乐来提高顾客的兴奋性,从而增强顾客的购买欲,对于商场来说,预存于所述存储单元20的所述渲染模式对应的渲染效果可以是喜庆的红色等。
在本发明的另一个示例中,与上述示例类似的是,所述即时光色渲染系统还可以被应用于餐厅,通常情况下餐厅会播放欢快、轻松的音乐为顾客提供安静放松的就餐环境,对于餐厅来说,预存于所述存储单元20的所述渲染模式对应的渲染效果可以是静谧的蓝色等。另外,所述即时光色渲染系统还可以被应用于电影院,例如当一部新的电影上映时,电影的制作方可以将与电影匹配的所述渲染模式上传到所述云服务器70内或者将所述渲染模式与电影的播放资源一同传送给各个电影院,从而在电影院的播放厅内播放电影的时,所述即时光色渲染系统的所述渲染中心50可以执行所述渲染模式以使所述光色渲染单元30产生渲染光线,从而对电影的所述声音进行渲染,以给顾客营造更好的观影效果。本领域的技术人员可以理解的是,上述所描述的所述即时光色渲染系统的适用范围仅作为举例性的描述,其不构成对本发明的内容的范围的限制,例如在本发明的其他的示例中,所述即时光色渲染系统还可以被应用于艺术品展示等方面。
对于通过所述录音设备输入的所述声音,所述即时光色渲染系统可以对所述声音进行处理和分析,以获得所述声音的音量和音高曲线,从而基于所述声音的音量和音高曲线生成所述渲染数据。在本发明中,可以通过计算所述声音的音框能量曲线来量化所述声音的音量大小,并且在这个过程中,:可以定义一个具体的计算公式
Figure GDA0002088263410000141
其中Si(t)为输入信号在第i个音框中第t个取样点的量值大小,T为音框长度,Ei代表的则是第i个音框的平均能量,并且定义音框的数量参数为i,取样点参数为t,音框长度参数为T,其中T表示第i个音框的平均能量。在获得所述声音的音量强度曲线后,可以根据所述声音的音量的高低来对所述声音进行渲染,例如所述即时光色渲染系统的所述光色渲染单元30提供的渲染效果可以是:对于所述声音的音量高的区域来说,其对应的渲染效果可以是亮度高或者色彩艳丽,对于所述声音的音量低的区域来说,其对应的渲染效果可以是亮度低或者色彩较暗。当所述声音的音量过高时可能会危害使用者的身体健康,可以预定义所述声音的音量允许的安全值,例如当所述声音的音量高于安全值时,所述光色渲染单元30提供的渲染效果可以按照一定的频率闪烁或者按照某一顺序显示某一颜色或者几种颜色或者以其他的显示方式告知使用者降低所述声音的音量,以保证使用者的健康。
另一方面,音高是构成所述声音的重要要素,在声学中,音高通常与声带的振动有关,通常情况下,音高又可以被称为基本频率。本领域的技术人员可以理解的是,频率低的调子给人以低沉、厚实、粗狂的感觉,频率高的调子给人以明亮、亮丽、尖刻的感觉。通常情况下,对于基本频率的估算方式有两种,第一种是在时域信号进行分析,例如可以通过自相关函数法或则平均能量差异法等方式估算所述声音的基本频率;另一种是在频域信号进行分析,例如可以通过次谐波合成法SHS估算所述声音的基本频率。因为在估算所述声音的基本频率时,时域信号分析方法与频域信号分析方法的运算量较小,能够极大地提高所述即时光色渲染系统对于所述声音的渲染效率,从而本发明在估算所述声音的基本频率时可以采取时域信号分析方法或者频域信号分析方法。
如图6所示是本发明的所述即时光色渲染系统藉由频域信号分析方法对通过所述录音设备录入的声音进行处理的方法600的流程示意图,其中所述声音处理方法600可以包括如下步骤:
步骤610:监控所述声音的输入,并采集所述声音的音频信号;
步骤620:音框化和汉明窗化所述声音的音频信号;
步骤630:对所述声音的音频信号进行转速傅里叶转化;
步骤640:对所述声音的音频信号进行频率刻度转换;
步骤650:求取所述声音的音频信号的次谐波总和;以及
步骤660:获得能力极大值。
值得一提的是,在所述步骤640中,对于所述声音的音频信号进行频率刻度的转化的含义是指将所述声音的基本频率转化成MIDI(Musical Instrument DigitalInterface,乐器数字接口)所定义的半音。例如中央Do(C4)的频率为261.6HZ为例,经过半音转化后得到的中央Do的MIDI的音符为60;C3的频率为130.81HZ,经过半音转化后得到的MIDI音符为48;C5的频率为523.25HZ,经过半音转化后得到的MIDI音符为72。值得一提的是,对于各个位置的所述声音在经过半音转化前后的频率与MIDI音符的对应情况可以如图7所示。
另外,分析所述声音的音高的目的是将所述声音的渲染特征在后续转化为与所述声音的渲染特征相关的所述渲染数据。本发明的所述即时光色渲染系统可以将从Do到Xi的七个音符对应不同的颜色不同,其中颜色可以以参数H标示,相同音符按照高低音的不同分别对应的饱和度不同,其中饱和度可以以参数S标示,某一高音的能量大小对应不同的亮度,其中亮度以参数V标示。值得一提的是,HSV颜色是一种颜色空间,从而在后续可以将HSV颜色转化为通常使用的RGB颜色,以便于所述即时光色渲染系统执行。如图8所示为所述声音的音符与色彩以及饱和度的对照表,本领域的技术人员可以理解的是,图8所描述的所述声音的音符与色彩以及饱和度的对照关系还可以基于所述即时光色渲染系统的使用需要被改变和调整,因此,如图8所示的内容并不能构成对本发明的内容的范围的限制。
还值得一提的是,在所述步骤620中,当所述声音的音频信号经过音框化和汉明窗化处理之后,可以计算在第n个音框信号的某一个FFT(Fast Fourier Transformation,快速傅里叶转化)频率刻度上的振幅。如果将FFT刻度转化为MIDI音符刻度,则可求取所述声音的音频信号在某一时间属于音符的能力。为避免误判,本发明将利用SHS的观念检查各音符及其他音符的加权能量和,即音频强度。然后选取音频强度最大或者前几位的作为音符,并对选取的一个或几个音符进行后续的渲染。
当得到所有音框的所述声音的音符后,会发现音符轨迹曲线在一音符长度内可能会得到许多不等值的音符号码,影响音符号码不等值的原因会有很多种,可采用平滑基频轨迹的方式来改善这种音符长度内基本频率跳动的不合理情况。本发明的所述即时光色渲染系统可以通过中位数滤波器将连续音框的基本频率平滑化,例如在一个具体应用示例中可以利用一固定长度的滑动视窗求出视窗内连续若干音框的基本频率的中位数,再以此中位数取代这些连续音框的基本频率。从而在所述步骤620之后,还可以包括步骤:平滑化所述声音的音频信号的曲线。
经由上述步骤,可得到输入的所述声音的音高轨迹曲线。针对可通过预定义或实时检测曲线的方式来检测音高轨迹曲线,对曲线上音高值进行渲染,尤其是对于特殊点或特殊段,比如波峰、波谷、高于或低于某一阈值的区域等。曲线上不同的音高值代表所述声音的不同频率,也对应所述光色渲染单元30的闪烁的频率,但两频率之间有相应的对应关系,其关系可进行预定义。例如所述声音的频率与所述光色渲染单元30的频率的对应关系需满足某一数学表达式,当所述声音出现时所述光色渲染单元30会跟随其频率而跳动;或者将所述声音的频率进行分段,即当音高高于某一阈值时,所述光色渲染单元30闪烁在某一频率上,当音高处在某段区间内,所述光色渲染单元30在另外一个频率上闪烁,当音高低于某一阈值时,所述光色渲染单元30在另一新的频率上闪烁。这时的所述光色渲染单元30可全部显示、区域显示或指定区域显示等,如此渲染之后,使所述光色渲染单元30产生的渲染光线会随音乐节奏变化。
如图9所示是根据本发明的所述即时光色渲染系统渲染通过所述录音设备输入的所述声音的方法900,其中所述渲染方法900包括如下步骤:
步骤910:监控所述声音的输入,并采集所述声音的音频信号;
步骤920:获得所述声音的音频信号的音量曲线;
步骤930:获得所述声音的音频信号的音高曲线;
步骤940:基于所述声音的音量曲线和音高曲线获得所述声音的渲染特征;
步骤950:基于所述声音的渲染特征生成与所述声音的渲染特征相关的所述渲染数据;
步骤960:匹配所述渲染模式于所述渲染数据;以及
步骤970:执行所述渲染数据以使所述光色渲染单元30产生渲染光线,从而对所述声音进行渲染。
如图10所示,在本发明的另一个较佳的实施方式中,本发明的所述即时光色渲染系统还可以识别使用者的语音输入。具体地说,当使用者通过所述录音设备将语音输入之后,所述处理器10可以对语音信号进行预处理并从语音信号中提取渲染特征,从而在后续生成所述渲染数据。例如,当使用者通过所述录音设备录入语音“红色灯光”时,所述处理器10可以从这个语音信号中提取渲染特征并将其生成所述渲染数据,例如所述渲染数据包含的内容可以是“渲染红色”,后续,所述渲染中心50可以从所述存储单元20内读取能够提供红色渲染效果的所述渲染模式并执行,从而在所述渲染中心50执行所述渲染模式的过程中,所述光色渲染单元30可以产生以红色为主的渲染光线。也就是说,所述即时光色渲染系统还提供一种基于语音识别的渲染方法1000,其中所述渲染方法1000可以包括如下步骤:
步骤1010:语音输入;
步骤1020:预处理语音的音频信号;
步骤1030:从语音的音频信号中提取渲染特征;
步骤1040:基于语音的渲染特征生成所述渲染数据;
步骤1050:匹配所述渲染模式于所述渲染数据;以及
步骤1060:执行所述渲染模式以使所述光色渲染单元30产生渲染光线。
值得一提的是,未知语音在经过所述录音设备的输入而变换成电信号后加载识别系统的输入端,首先需要经过预处理,再根据人的语音特点建立语音模型,对输入的语音信号进行分析,并抽取所需的所述声音的渲染特征,在此基础上建立语音识别所需的模板。而计算机在识别过程中需要根据识别的模型,将计算机中存放的语音模板与输入的语音信号的特征进行比较,根据一定的搜索和匹配策略,找出一系列最优的与输入语音匹配的模板。然后根据此模板的定义,通过查表等方式获得识别结果。在语音识别过程中,需要鉴别输入语音每个音档的不同,从而找出不易受到环境干扰且具有鉴别性的渲染特征。通常可使用倒频谱,其具有将频谱上的高低频分离的特性,只要取前面几个参数即能代表该语音讯号的特征,从而提高辨识率。线性预估系数倒数的频谱参数、梅尔频率倒频谱参数等都是属于倒频域上的语音特征。本文以梅尔频率倒频谱系数作为特征参数,从而所述即时光色渲染系统在识别使用者的语音时的流程如图11所示。
作为一个示例性的说明,如图12所示,当通过所述录音设备输入乐曲《蓝色多瑙河》音乐一段时间时,例如该段时间可以是5秒钟,所述即时光色渲染系统可以检测到乐曲《蓝色多瑙河》并实时地绘制输入的所述声音的信号波形。值得一提的是,乐曲《蓝色多瑙河》可以是被现场演奏的。
后续,根据计算所述声音的音框能量曲线以实现量化所述声音的音量大小的函数表达式,可以计算得到所述声音的音框能量图,即音量强度曲线,如图12所示,其中音框长度T被取值为0.005。随着乐曲《蓝色多瑙河》的不断输入,所述声音的音量前度曲线也不断被计算得出,所述即时光色渲染系统可以根据预设的检测规则检测音量强度曲线在此时的音量强度。当所述声音的音量大于最大允许的阈值TEMax时,所述光色渲染单元30的最大亮度可以达到100%,相应地,当所述声音的音量小于最小允许的阈值TEMin时,所述光色渲染单元30的最小亮度可以达到0%,所述声音的处于最大允许阈值TEMax和最小允许阈值TEMin之间的音量在变化的过程中可以分别对应于所述光色渲染单元30在对所述声音进行渲染时的亮度。
值得一提的是,如果在持续一段时间内所述声音的音量强度均大于最大允许阈值TEMax时,则所述即时光色渲染系统可以判断输入的所述声音的音量过高,可能会危害到使用者的身体健康,此时所述光色渲染单元30可以通过持续闪烁或者其他的方式提醒使用者。
所述即时光色渲染系统可以在每个单位时间分别采集乐曲《蓝色多瑙河》的音频信号,例如在一个具体的示例中,所述即时光色渲染系统可以每秒采集一次,如图13所示是乐曲《蓝色多瑙河》的音频信号在某一秒的信号波形。在对图13所示的信号波形进行处理之后,可以得到如图14所示的音频波形。具体地说,如图14所示,在频谱图中圆圈所标注的位置表示各个音符对应的频率刻度,星号所标注的位置表示幅值最大的点,方块所标注的位置表示幅值第二、第三以及第四大的点。本领域的技术人员可以清晰的观察到,幅值最大的点对应的频率刻度以及音符,然后将获取值的大小转化为后续的渲染特征。
如图7和图14所示,在图14中能量最大的点对应的频率刻度是580-600HZ,转化为对应的音符为74,对应D5的音符,587.33HZ,对照在图8的所述声音的音符与颜色对照表,其对应的颜色为绿色,饱和度为0.8。所述即时光色渲染系统可以从图14中选取幅值最大的几个音符,分别获得所述声音在这种实时状态下的渲染特征,例如在本发明的一个具体的实施例中,可以分别选取幅值最大的四个音符,其分别是:
74,对应的频率是587.33HZ;
86,对应的频率是1174.66HZ;
46,对应的频率是116.54HZ;
83,对应的频率是987.77HZ。
根据图8分别获得其对应的颜色和饱和度等参数,从而获得所述声音的实时渲染特征,以在后续基于所述声音的实时渲染特征匹配所述渲染模式,从而当所述渲染中心50在执行所述渲染模式时,可以使得所述光色渲染单元30产生相对应的渲染光线,以对所述声音进行渲染。
根据本发明的另一个方面,如图15所示,本发明还提供一种通过一光色渲染单元30对一声音进行即时光色渲染的方法1500,其特征在于,所述即时光色渲染方法1500包括如下步骤:
步骤1510:(a)监控与所述声音相关的内容以获得所述声音的渲染特征;
步骤1520:(b)生成基于所述声音的渲染特征相关的一渲染数据;
步骤1530:(c)匹配一渲染模式于所述渲染数据;以及
步骤1540:(d)执行所述渲染模式以使所述光色渲染单元30产生渲染光线,从而对所述声音进行渲染。
本领域技术人员应明白附图中所示的和以上所描述的本发明实施例仅是对本发明的示例而不是限制。
由此可以看到本发明目的可被充分有效完成。用于解释本发明功能和结构原理的该实施例已被充分说明和描述,且本发明不受基于这些实施例原理基础上的改变的限制。因此,本发明包括涵盖在附属权利要求书要求范围和精神之内的所有修改。

Claims (13)

1.一种用于声音的即时光色渲染系统,其特征在于,其通过执行一渲染模式对一声音进行渲染,其中所述即时光色渲染系统包括相互连接的一光色渲染单元、一监控与管理中心以及一渲染中心;其中,
所述监控与管理中心通过监控与所述声音相关的内容获得所述声音的渲染特征,并且所述监控与管理中心生成与所述声音的渲染特征相关的一渲染数据;和
所述渲染中心在接受所述渲染数据后匹配所述渲染模式于所述渲染数据,并且所述渲染中心执行所述渲染模式以使所述光色渲染单元产生渲染光线,从而对所述声音进行渲染;
还包括一存储单元以供存储所述渲染模式,所述存储单元连接于所述渲染中心,所述渲染中心从所述存储单元读取匹配于所述渲 染数据的所述渲染模式;
其中所述监控与管理中心进一步包括相互连接的一监控单元和一管理单元,所述监控单元监控与所述声音相关的内容以获得所述声 音的渲染特征,所述管理单元根据所述声音的渲染特征生成与所述声音的渲染特征相关的 所述渲染数据;
其中所述监控单元监控所述声音的音频信号的实时状态和与所述声音匹配一图像的实时状态,所述管理单元很据所述声音的音频信 号的实时状态生成所述渲染数据,并且所述管理单元提取所述图像的色彩特征以基于所述 图像的色彩特征生成所述渲染模式。
2.如权利要求1所述的即时光色渲染系统,还包括一云服务器以供存储所述渲染模式,所述云服务器连接于所述存储单元,被存储于所述云服务器的所述渲染模式得以被下 载并存储至所述存储单元。
3.如权利要求1所述的即时光色渲染系统,其中所述渲染数据包括以下内容中的至少一个:所述声音的来源、名称、作者以及所属的专辑。
4.如权利要求1所述的即时光色渲染系统,其中所述管理单元提取所述图像的主色、次主色或者使用者关注的预设颜色作为所述图像的色彩特征。
5.如权利要求1所述的即时光色渲染系统,其中所述渲染中心进一步包括相互连接的一配置单元和一控制单元,所述渲染中心在接受所述渲染特征后,所述配置单元从所述存储单元内配置所述渲染模式于所述渲染数据,所述控制单元执行所述渲染数据以使所述光色渲染单元产生渲染光线。
6.如权利要求1所述的即时光色渲染系统,其中所述渲染中心进一步包括相互连接的一配置单元和一控制单元,所述渲染中心在接受所述渲染特征后,所述配置单元接受所述渲染模式,所述控制单元执行所述渲染数据以使所述光色渲染单元产生渲染光线。
7.如权利要求5所述的即时光色渲染系统,其中所述渲染中心进一步包括一判断单元,所述存储单元包括相互独立的一数据库和一渲染日志,所述渲染中心在接受所述渲染 数据后,所述判断单元基于所述渲染数据判断所述声音是否存在渲染记录,如果所述判断 单元判断所述声音存在渲染记录,所述配置单元从所述渲染日志中读取上次渲染所述声音的所述渲染模式,如果所述判断单元判断所述声音没有存在渲染记录,所述配置单元从所述数据库中读取匹配于所述渲染数据的所述渲染模式。
8.如权利要求6所述的即时光色渲染系统,其中所述渲染中心进一步包括一判断单元,所述存储单元包括相互独立的一数据库和一渲染日志,所述渲染中心在接受所述渲染 数据后,所述判断单元基于所述渲染数据判断所述声音是否存在渲染记录,如果所述判断 单元判断所述声音存在渲染记录,所述配置单元从所述日志中读取上次渲染所述声音的所述渲染模式,如果所述判断单元判断所述声音没有存在渲染记录,所述判断单元进一步判断是否有所述图像与所述声音同步播出,如果所述判断单元判断没有所述图像与所述声音同步播出,所述配置单元从所述数据库中读取匹配于所述渲染数据的所述渲染模式,如果所述判断单元判断有所述图像与所述声音同步播出,所述管理单元生成所述渲染模式。
9.如权利要求1所述的即时光色渲染系统,其中所述光色渲染单元是一LED 灯具。
10.一种通过一光色渲染单元对一声音进行即时光色渲染的方法,其特征在于,所述即时光色渲染方法包括如下步骤 :
(a)监控与所述声音相关的内容以获得所述声音的渲染特征;
(b)生成基于所述声音的渲染特征相关的一渲染数据 ;
(c)匹配一渲染模式于所述渲染数据;以及
(d)行所述渲染模式以使所述光色渲染单元产生渲染光线,从而对所述声音进行渲染;
其中在所述步骤 (c)之前还包括步骤,预存所述渲染模式于一存储单元,从而在所述步骤(c) 中,从所述存储单元读取匹配于所述渲染数据的所述渲染模式;
其中在上述方法中,还包括步骤 :判断所述声音是否存在渲染记录,如果所述声音存在所述渲染记录,在所述步骤 (c)中读取上次渲染所述声音的所述渲染模式,如果所述声音没有存在所述渲染记录,在所述 步骤(c)中,从所述存储单元读取匹配于所述渲染数据的所述渲染模式;
其中在上述方法中,还包括步骤 :判断是否有图像与所述声音同步播出,如果没有所述图像与所述声音同步播出,在所述步骤(c)中,从所述存储单元读取匹配于所述渲染数据的所述渲染模式,如果有所述图 像与所述声音同步的播出,提取所述图像的色彩特征以生成所述渲染模式;
其中在上述方法中,在所述步骤 (a)中,实时地监控所述声音的音频信号以获得所述声音的实时渲染特征,从而在所述步骤 (b) 中,基于所述声音的实时状态特征生成所述渲染数据;在所述步骤 (a)中,实时地监控与所 述声音同步播出的一图像以获得所述图像的实时状态,从而在所述步骤 (c)中,提取所述 图像的色彩特征以生成所述渲染模式。
11.如权利要求10所述的通过一光色渲染单元对一声音进行即时光色渲染的方法,其中在上述方法中,将用于渲染所述声音的所述渲染模式存储至所述存储单元的一渲染日志。
12.如权利要求10所述的通过一光色渲染单元对一声音进行即时光色渲染的方法,其中在上述方法中,提取所述图像的主色、次主色或者使用者关注的预设颜色作为所述图像的色彩特征。
13.如权利要求10所述的通过一光色渲染单元对一声音进行即时光色渲染的方法,其中在上述方法中,从所述图像的全部区域或者局部区域提取所述图像的色彩特征。
CN201510448252.5A 2015-07-27 2015-07-27 用于声音的即时光色渲染系统及其应用 Active CN106383676B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510448252.5A CN106383676B (zh) 2015-07-27 2015-07-27 用于声音的即时光色渲染系统及其应用

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510448252.5A CN106383676B (zh) 2015-07-27 2015-07-27 用于声音的即时光色渲染系统及其应用

Publications (2)

Publication Number Publication Date
CN106383676A CN106383676A (zh) 2017-02-08
CN106383676B true CN106383676B (zh) 2020-04-07

Family

ID=57916041

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510448252.5A Active CN106383676B (zh) 2015-07-27 2015-07-27 用于声音的即时光色渲染系统及其应用

Country Status (1)

Country Link
CN (1) CN106383676B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022054618A1 (ja) * 2020-09-11 2022-03-17 パナソニックIpマネジメント株式会社 照明制御システム、照明制御方法、及び、プログラム

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107329980B (zh) * 2017-05-31 2022-04-12 福建星网视易信息系统有限公司 一种基于音频的实时联动显示方法及存储设备
CN107610716A (zh) * 2017-09-22 2018-01-19 上海韵焰智能科技有限公司 音乐分析方法及装置
CN111223174B (zh) * 2018-11-27 2023-10-24 冠捷视听科技(深圳)有限公司 一种环境渲染系统及渲染方法
CN111225233A (zh) * 2018-11-27 2020-06-02 深圳桑菲消费通信有限公司 一种多维环境渲染系统及渲染方法
CN112099443A (zh) * 2020-01-14 2020-12-18 河南紫联物联网技术有限公司 一种智能家居音光律动系统、方法、控制单元及灯具
CN113707110B (zh) * 2021-06-15 2023-12-01 浙江意博高科技术有限公司 智能照明的控制方法和系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1384446A (zh) * 2001-04-28 2002-12-11 中国科学院自动化研究所 多媒体计算机音乐喷泉智能控制系统及方法
CN1703130A (zh) * 2004-12-24 2005-11-30 北京中星微电子有限公司 一种音乐控制发光灯组的装置
CN103793010A (zh) * 2014-02-28 2014-05-14 苏州三星电子电脑有限公司 随韵律动态变换外壳色彩的多媒体播放设备及其控制方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050239009A1 (en) * 2004-04-22 2005-10-27 Keith Holmburg Sound-producing candle assembly
CN201004313Y (zh) * 2006-12-04 2008-01-09 范姜永富 音乐节拍控制装置
CN102177703A (zh) * 2008-10-07 2011-09-07 皇家飞利浦电子股份有限公司 用于生成要被显示而同时伴随有音频的多个图像的序列的方法和设备
CN104696727A (zh) * 2013-12-04 2015-06-10 深圳市奇脉电子技术有限公司 一种智能led灯

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1384446A (zh) * 2001-04-28 2002-12-11 中国科学院自动化研究所 多媒体计算机音乐喷泉智能控制系统及方法
CN1703130A (zh) * 2004-12-24 2005-11-30 北京中星微电子有限公司 一种音乐控制发光灯组的装置
CN103793010A (zh) * 2014-02-28 2014-05-14 苏州三星电子电脑有限公司 随韵律动态变换外壳色彩的多媒体播放设备及其控制方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022054618A1 (ja) * 2020-09-11 2022-03-17 パナソニックIpマネジメント株式会社 照明制御システム、照明制御方法、及び、プログラム
JP7482442B2 (ja) 2020-09-11 2024-05-14 パナソニックIpマネジメント株式会社 照明制御システム、照明制御方法、及び、プログラム

Also Published As

Publication number Publication date
CN106383676A (zh) 2017-02-08

Similar Documents

Publication Publication Date Title
CN106383676B (zh) 用于声音的即时光色渲染系统及其应用
US20210295811A1 (en) Mapping characteristics of music into a visual display
US9467673B2 (en) Method, system, and computer-readable memory for rhythm visualization
MX2011012749A (es) Sistema y metodo para recibir, analizar y editar audio para crear composiciones musicales.
Friberg A fuzzy analyzer of emotional expression in music performance and body motion
CN112216294B (zh) 音频处理方法、装置、电子设备及存储介质
Danielsen et al. Effects of instructed timing and tempo on snare drum sound in drum kit performance
US20230343321A1 (en) Method and apparatus for processing virtual concert, device, storage medium, and program product
CN112799771A (zh) 一种动态壁纸的播放方法、装置、电子设备及存储介质
CN208507176U (zh) 一种影音交互系统
Fabiani et al. Systems for interactive control of computer generated music performance
CN112927713A (zh) 音频特征点的检测方法、装置和计算机存储介质
CN111182409B (zh) 一种基于智能音箱的屏幕控制方法及智能音箱、存储介质
Hermes Towards Measuring Music Mix Quality: the factors contributing to the spectral clarity of single sounds
JP2006235201A (ja) 楽音コンテンツ構成方法と装置および楽音コンテンツ構成プログラムと記録媒体
CN203165441U (zh) 交响乐器
Mayor et al. Kaleivoicecope: voice transformation from interactive installations to video games
WO2016039465A1 (ja) 音響解析装置
WO2016039463A1 (ja) 音響解析装置
JP5342841B2 (ja) 長音符の歌唱部分で歌声の倍音特性を測定して表示するカラオケ装置
TWI579836B (zh) Real - time music emotion recognition system
Hermes Interpretative Summary
Fourney Making the invisible visible: visualization of music and lyrics for deaf and hard of hearing audiences
Doll et al. An audio DSP toolkit for rapid application development in flash
JP2022171300A (ja) コンピュータプログラム、方法及びサーバ装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20220309

Address after: Building B7-1, shawen Ecological Industrial Park, national high tech Industrial Development Zone, Guiyang City, Guizhou Province

Patentee after: Guizhou zhongshengtaike Intelligent Technology Co.,Ltd.

Address before: 213100, 7th floor, block B, building 1, Chuangyan port, science and Education City, Changzhou City, Jiangsu Province

Patentee before: CHANGZHOU INSTITUTE OF TECHNOLOGY RESEARCH FOR SOLID STATE LIGHTING

TR01 Transfer of patent right