CN116405774A - 视频处理方法与电子设备 - Google Patents
视频处理方法与电子设备 Download PDFInfo
- Publication number
- CN116405774A CN116405774A CN202210320689.0A CN202210320689A CN116405774A CN 116405774 A CN116405774 A CN 116405774A CN 202210320689 A CN202210320689 A CN 202210320689A CN 116405774 A CN116405774 A CN 116405774A
- Authority
- CN
- China
- Prior art keywords
- audio data
- amplitude spectrum
- electronic device
- camera
- energy
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 71
- 238000012545 processing Methods 0.000 claims abstract description 95
- 238000001228 spectrum Methods 0.000 claims description 352
- 238000000034 method Methods 0.000 claims description 87
- 230000003321 amplification Effects 0.000 claims description 80
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 80
- 238000001514 detection method Methods 0.000 claims description 69
- 238000004422 calculation algorithm Methods 0.000 claims description 48
- 230000015654 memory Effects 0.000 claims description 38
- 230000008569 process Effects 0.000 claims description 38
- 238000012935 Averaging Methods 0.000 claims description 30
- 238000000926 separation method Methods 0.000 claims description 24
- 238000004590 computer program Methods 0.000 claims description 12
- 238000010586 diagram Methods 0.000 description 18
- 230000005236 sound signal Effects 0.000 description 17
- 230000000694 effects Effects 0.000 description 14
- 238000004891 communication Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 12
- 239000000203 mixture Substances 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 230000001133 acceleration Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 230000009977 dual effect Effects 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000004807 localization Effects 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000007405 data analysis Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000005284 excitation Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 230000003595 spectral effect Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 230000001131 transforming effect Effects 0.000 description 2
- 241000282326 Felis catus Species 0.000 description 1
- 239000008186 active pharmaceutical agent Substances 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000011410 subtraction method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Studio Devices (AREA)
Abstract
本申请涉及视频处理领域,提供了一种视频处理方法与电子设备,该视频处理方法包括:运行电子设备中的相机应用程序;显示第一图像,第一图像为电子设备处于第一拍摄模式时采集的图像;获取音频数据,音频数据为至少两个拾音装置采集的数据;基于音频数据得到切换指令,切换指令用于指示电子设备从第一拍摄模式切换至第二拍摄模式;显示第二图像,第二图像为电子设备处于第二拍摄模式时采集的图像。基于本申请的技术方案,能够在无需用户切换电子设备的拍摄模式的情况下完成视频的录制,提高用户的拍摄体验。
Description
本申请要求于2021年12月27日提交国家知识产权局、申请号为202111636357.5、申请名称为“视频处理方法与电子设备”的中国专利申请的优先权,其全部内容通过引用结合在本申请中。
技术领域
本申请涉及视频处理领域,具体地,涉及一种视频处理方法与电子设备。
背景技术
电子设备在录像或者视频通话的场景中,经常会面临镜头转换的需求,需要对拍摄模式进行切换;例如,前置镜头与后置镜头的切换、多镜头录像或者单镜头录像的切换;目前,电子设备的镜头切换依赖于用户手动操作,因此需要拍摄者在拍摄过程中与电子设备之间的距离较近;若用户与电子设备之间的距离较远,则需要基于蓝牙技术实现电子设备的镜头切换;基于蓝牙技术实现电子设备的镜头切换时,需要通过控制设备对电子设备的镜头进行相应的操作,一方面操作较复杂;另一方面控制设备容易暴露在视频中,影响视频的美感,从而导致用户体验较差。
因此,在视频场景中,电子设备如何基于用户需求自动切换镜头成为一个亟需解决的问题。
发明内容
本申请提供了一种视频处理方法与电子设备,能够在无需用户切换电子设备的拍摄模式的情况下完成视频的录制,提高用户的拍摄体验。
第一方面,提供了一种视频处理方法,应用于电子设备,所述电子设备包括至少两个拾音装置,所述视频处理方法包括:
运行所述电子设备中的相机应用程序;
显示第一图像,所述第一图像为所述电子设备处于第一拍摄模式时采集的图像;
获取音频数据,所述音频数据为所述至少两个拾音装置采集的数据;
基于所述音频数据得到切换指令,所述切换指令用于指示所述电子设备从所述第一拍摄模式切换至第二拍摄模式;
显示第二图像,所述第二图像为所述电子设备处于所述第二拍摄模式时采集的图像。
在本申请的实施例中,电子设备可以通过至少两个拾音装置(例如,麦克风)采集拍摄环境中的音频数据;基于音频数据生成切换指令,电子设备基于切换指令自动从当前的第一拍摄模式切换至第二拍摄模式,显示在第二拍摄模式采集的第二图像;在无需用户切换电子设备的拍摄模式的情况下,电子设备能够自动切换拍摄模式完成视频的录制,提高用户的拍摄体验。
应理解,在本申请的实施例中,由于电子设备需要对音频数据进行方向性判断,因此在本申请的实施例中电子设备中至少包括两个拾音装置,对拾音装置的具体数量不作任何限定。
在一种可能的实现方式中,第一拍摄模式可以是指单摄模式,或者多摄模式中的任意一种;其中,单摄模式可以包括前置单摄模式或者后置单摄模式;多摄模式可以包括前/后双摄模式、后/前双摄模式、画中画前置主画模式,或者画中画后置主画模式。
例如,在前置单摄模式下,采用电子设备中的一个前置摄像头进行视频拍摄;在后置单摄模式下,采用电子设备中的一个后置摄像头进行视频拍摄;在前后双摄模式下,采用一个前置摄像头和一个后置摄像头进行视频拍摄;在画中画前置模式下,采用一个前置摄像头和一个后置摄像头进行视频拍摄,且将后置摄像头拍摄的画面置于前置摄像头拍摄的画面之中,前指摄像头拍摄的画面为主画面;在画中画后置模式下,采用一个前置摄像头和一个后置摄像头进行视频拍摄,且将前置摄像头拍摄的画面置于后置摄像头拍摄的画面之中,后指摄像头拍摄的画面为主画面。
可选地,多摄模式还可以包括前置双摄模式、后置双摄模式、前置画中画模式或者后置画中画模式等。
应理解,第一拍摄模式与第二拍摄模式可以是指相同的拍摄模式或者不同的拍摄模式;若切换指令为默认当前拍摄模式,则第二拍摄模式与第一拍摄模式可以为相同的拍摄模式;在其他情况下,第二拍摄模式与第一拍摄模式可以为不同的拍摄模式。
结合第一方面,在第一方面的某些实现方式中,所述电子设备包括第一摄像头与第二摄像头,所述第一摄像头与所述第二摄像头位于所述电子设备的不同方向,所述基于音频数据得到切换指令,包括:
识别所述音频数据中是否包括目标关键词,所述目标关键词为所述切换指令对应的文本信息;
在所述音频数据中识别到所述目标关键词的情况下,基于所述目标关键词得到所述切换指令;
在所述音频数据中未识别所述目标关键词的情况下,对所述音频数据进行处理,得到第一方向的音频数据和/或第二方向的音频数据,所述第一方向用于表示所述第一摄像头对应的第一预设角度范围,所述第二方向用于表示所述第二摄像头对应的第二预设角度范围;基于所述第一方向的音频数据和/或所述第二方向音频数据,得到所述切换指令。
在本申请的实施例中,可以先识别音频数据中是否包括目标关键词;若音频数据中包括目标关键词,则电子设备将拍摄模式切换至目标关键词对应的第二拍摄模式;若音频数据中不包括目标关键词,则电子设备可以基于第一方向的音频数据和/或第二方向的音频数据得到切换指令;例如,若用户在电子设备的前方,则一般通过前置摄像头采集图像;若电子设备的前向方向存在用户的音频信息,则可以认为用户在电子设备的前向方向,此时可以开启前置摄像头;若用户在电子设备的后方,则一般通过后置摄像头采集图像;若电子设备的后向方向存在用户的音频信息,则可以认为用户在电子设备的后向方向,此时可以开启后置摄像头。
结合第一方面,在第一方面的某些实现方式中,所述对所述音频数据进行处理,得到第一方向的音频数据和/或第二方向的音频数据,包括:
基于声音方向概率计算算法对所述音频数据进行处理,得到所述第一方向的音频数据和/或所述第二方向的音频数据。
在本申请的实施例中,可以计算音频数据在各个方向的概率大小,从而将音频数据进行方向分离,得到第一方向的音频数据与第二方向的音频数据;基于第一方向的音频数据和/后第二方向的音频数据可以得到切换指令;电子设备基于切换指令可以自动实现拍摄模式的切换。
结合第一方面,在第一方面的某些实现方式中,所述基于所述第一方向的音频数据和/或所述第二方向音频数据,得到所述切换指令,包括:
基于第一幅度谱的能量和/或第二幅度谱的能量,得到所述切换指令,所述第一幅度谱为所述第一方向的音频数据的幅度谱,所述第二幅度谱为所述第二方向的音频数据的幅度谱。
应理解,在录制视频场景中,通常可以认为音频数据的能量越大的方向(例如,音频信息的音量越大的方向)为主要拍摄方向;可以基于不同方向的音频数据的幅度谱的能量得到主要拍摄方向;比如,若第一方向的音频数据的幅度谱的能量大于第二方向的音频数据的幅度谱的能量,则可以认为第一方向为主要拍摄方向;此时,可以开启电子设备中第一方向对应的摄像头。
结合第一方面,在第一方面的某些实现方式中,所述切换指令包括当前拍摄模式、第一画中画模式、第二画中画模式、第一双景模式、第二双景模式、所述第一摄像头的单摄模式或者所述第二摄像头的单摄模式,所述基于第一幅度谱的能量和/或第二幅度谱的能量,得到所述切换指令,包括:
若所述第一幅度谱的能量与所述第二幅度谱的能量均小于第一预设阈值,得到所述切换指令为保持所述当前拍摄模式;
若所述第一幅度谱的能量大于第二预设阈值,且所述第二幅度谱的能量小于或者等于所述第二预设阈值,所述切换指令为切换为所述第一摄像头的单摄模式;
若所述第二幅度谱的能量大于第二预设阈值,且所述第一幅度谱的能量小于或者等于所述第二预设阈值,所述切换指令为切换为所述第二摄像头的单摄模式;
若所述第一幅度谱的能量大于第二预设阈值,且所述第二幅度谱的能量大于或者等于第一预设阈值,所述切换指令为切换为所述第一画中画模式;
若所述第二幅度谱的能量大于第二预设阈值,且所述第一幅度谱的能量大于或者等于第一预设阈值,所述切换指令为切换为所述第二画中画模式;
若所述第一幅度谱的能量与所述第二幅度谱的能量均大于或者等于第二预设阈值,且所述第一幅度谱的能量大于所述第二幅度谱的能量,所述切换指令为切换为所述第一双景模式;
若所述第一幅度谱的能量与所述第二幅度谱的能量均大于或者等于第二预设阈值,且所述第二幅度谱的能量大于所述第一幅度谱的能量,所述切换指令为切换为所述第二双景模式;
其中,所述第二预设阈值大于所述第一预设阈值,所述第一画中画模式是指所述第一摄像头采集的图像为主画面的拍摄模式,所述第二画中画模式是指所述第二摄像头采集的图像为主画面的拍摄模式,所述第一双景模式是指所述第一摄像头采集的图像位于所述电子设备的显示屏的上侧或者左侧的拍摄模式,所述第二双景模式是指所述第二摄像头采集的图像位于所述电子设备的显示屏的上侧或者左侧的拍摄模式。
结合第一方面,在第一方面的某些实现方式中,所述第一幅度谱为所述第一方向的音频数据中各个频点对应的幅度谱取平均得到的第一平均幅度谱;和/或,
所述第二幅度谱为所述第二方向的音频数据中各个频点对应的幅度谱取平均得到的第二平均幅度谱。
在本申请的实施例中,对第一方向的音频数据中的不同频点的幅度谱取平均值后得到的幅度谱可以称为第一平均幅度谱;对第二方向的音频数据中的不同频点的幅度谱取平均值后得到的幅度谱可以称为第二平均幅度谱;由于第一平均幅度谱和/或第二平均幅度谱是对不同频点的幅度谱取均值得到的幅度谱;因此,可以提高第一方向的音频数据和/或第一方向的音频数据中信息的准确性。
结合第一方面,在第一方面的某些实现方式中,所述第一幅度谱为对第一平均幅度谱进行第一放大处理和/或第二放大后得到的幅度谱,所述第一平均幅度谱为对所述第一方向的音频数据中各个频点对应的幅度谱取平均得到的。
结合第一方面,在第一方面的某些实现方式中,所述视频处理方法还包括:
对所述第一方向的音频数据进行语音检测,得到第一检测结果;
对所述至少两个拾音装置采集的数据进行波达方向估计,得到预测角度信息;
若所述第一检测检测指示所述第一方向的音频数据包括用户的音频信息,对所述第一方向的音频数据的幅度谱进行所述第一放大处理;和/或
若所述预测角度信息包括所述第一预设角度范围中的角度信息,对所述第一方向的音频数据的幅度谱进行所述第二放大处理。
结合第一方面,在第一方面的某些实现方式中,所述第二幅度谱为对第二平均幅度谱进行第一放大处理和/或第二放大后得到的幅度谱,所述第二平均幅度谱为对所述第二方向的音频数据中各个频点对应的幅度谱取平均得到的。
结合第一方面,在第一方面的某些实现方式中,所述视频处理方法还包括:
对所述第二方向的音频数据进行语音检测,得到第二检测结果;
对所述至少两个拾音装置采集的数据进行波达方向估计,得到预测角度信息;
若所述第二检测检测指示所述第二方向的音频数据包括用户的音频信息,对所述第二方向的音频数据的幅度谱进行所述第一放大处理;和/或
若所述预测角度信息包括所述第二预设角度范围中的角度信息,对所述第二方向的音频数据的幅度谱进行所述第二放大处理。
应理解,在录制视频场景中,通常可以认为用户所在的方向为主要拍摄方向;若检测结果中指示该方向包括用户的音频信息,则可以认为用户在该方向;此时,可以对该方向的音频数据进行第一放大处理,通过第一放大处理能够提高获取的用户音频信息的准确性。
其中,波达方向估计是指将接收的信号进行空间傅里叶变换,进而取模的平方得到空间谱,估计出信号的到达方向的算法。
应理解,在录制视频场景中,通常可以认为用户所在的方向为主要拍摄方向;若检测结果中指示该方向包括用户的音频信息,则可以认为用户在该方向;此时,可以对该方向的音频数据进行第一放大处理,通过第一放大处理能够提高获取的用户音频信息的准确性;当预测角度信息包括第一预设角度范围和/或第二预设角度范围,则可以说明电子设备的第一方向和/后第二方向存在音频信息;通过第二放大处理,能够提高第一幅度谱或者第二幅度谱的准确性;在幅度谱与用户音频信息的准确性提升的情况下,能够准确地得到切换指令。
结合第一方面,在第一方面的某些实现方式中,所述识别所述音频数据中是否包括目标关键词,包括:
基于盲信号分离算法对所述音频数据进行分离处理,得到N个音频信息,所述N个音频信息为不同用户的音频信息;
对所述N个音频信息中的每个音频信息进行识别,确定所述N个音频信息中是否包括所述目标关键词。
在本申请的实施例中,可以先将至少两个拾音装置采集的音频数据进行分离处理,得到N个不同源的音频信息;在N个音频信息中分别识别是否包括目标关键词,从而能够提高识别目标关键词的准确性。
结合第一方面,在第一方面的某些实现方式中,所述第一图像为所述电子设备处于多镜录像时采集的预览图像。
结合第一方面,在第一方面的某些实现方式中,所述第一图像为所述电子设备处于多镜录像时采集的视频画面。
结合第一方面,在第一方面的某些实现方式中,所述音频数据是指在所述电子设备所处的拍摄环境中所述拾音装置采集的数据。
第二方面,提供了一种电子设备,所述电子设备包括一个或多个处理器、存储器、至少两个拾音装置;所述存储器与所述一个或多个处理器耦合,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行:
运行所述电子设备中的相机应用程序;
显示第一图像,所述第一图像为所述电子设备处于第一拍摄模式时采集的图像;
获取音频数据,所述音频数据为所述至少两个拾音装置采集的数据;
基于所述音频数据得到切换指令,所述切换指令用于指示所述电子设备从所述第一拍摄模式切换至第二拍摄模式;
显示第二图像,所述第二图像为所述电子设备处于所述第二拍摄模式时采集的图像。
结合第二方面,在第二方面的某些实现方式中,所述电子设备包括第一摄像头与第二摄像头,所述第一摄像头与所述第二摄像头位于所述电子设备的不同方向,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行:
识别所述音频数据中是否包括目标关键词,所述目标关键词为所述切换指令对应的文本信息;
在所述音频数据中识别到所述目标关键词的情况下,基于所述目标关键词得到所述切换指令;
在所述音频数据中未识别所述目标关键词的情况下,对所述音频数据进行处理,得到第一方向的音频数据和/或第二方向的音频数据,所述第一方向用于表示所述第一摄像头对应的第一预设角度范围,所述第二方向用于表示所述第二摄像头对应的第二预设角度范围;基于所述第一方向的音频数据和/或所述第二方向音频数据,得到所述切换指令。
结合第二方面,在第二方面的某些实现方式中,所述对所述音频数据进行处理,得到第一方向的音频数据和/或第二方向的音频数据,包括:
基于声音方向概率计算算法对所述音频数据进行处理,得到所述第一方向的音频数据和/或所述第二方向的音频数据。
结合第二方面,在第二方面的某些实现方式中,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行:
基于第一幅度谱的能量和/或第二幅度谱的能量,得到所述切换指令,所述第一幅度谱为所述第一方向的音频数据的幅度谱,所述第二幅度谱为所述第二方向的音频数据的幅度谱。
结合第二方面,在第二方面的某些实现方式中,所述切换指令包括当前拍摄模式、第一画中画模式、第二画中画模式、第一双景模式、第二双景模式、所述第一摄像头的单摄模式或者所述第二摄像头单摄模式,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行:
若所述第一幅度谱的能量与所述第二幅度谱的能量均小于第一预设阈值,得到所述切换指令为保持所述当前拍摄模式;
若所述第一幅度谱的能量大于第二预设阈值,且所述第二幅度谱的能量小于或者等于所述第二预设阈值,所述切换指令为切换为所述第一摄像头的单摄模式;
若所述第二幅度谱的能量大于第二预设阈值,且所述第一幅度谱的能量小于或者等于所述第二预设阈值,所述切换指令为切换为所述第二摄像头的单摄模式;
若所述第一幅度谱的能量大于第二预设阈值,且所述第二幅度谱的能量大于或者等于第一预设阈值,所述切换指令为切换为所述第一画中画模式;
若所述第二幅度谱的能量大于第二预设阈值,且所述第一幅度谱的能量大于或者等于第一预设阈值,所述切换指令为切换为所述第二画中画模式;
若所述第一幅度谱的能量与所述第二幅度谱的能量均大于或者等于第二预设阈值,且所述第一幅度谱的能量大于所述第二幅度谱的能量,所述切换指令为切换为所述第一双景模式;
若所述第一幅度谱的能量与所述第二幅度谱的能量均大于或者等于第二预设阈值,且所述第二幅度谱的能量大于所述第一幅度谱的能量,所述切换指令为切换为所述第二双景模式;
其中,所述第二预设阈值大于所述第一预设阈值,所述第一画中画模式是指所述第一摄像头采集的图像为主画面的拍摄模式,所述第二画中画模式是指所述第二摄像头采集的图像为主画面的拍摄模式,所述第一双景模式是指所述第一摄像头采集的图像位于所述电子设备的显示屏的上侧或者左侧的拍摄模式,所述第二双景模式是指所述第二摄像头采集的图像位于所述电子设备的显示屏的上侧或者左侧的拍摄模式。
结合第二方面,在第二方面的某些实现方式中,所述第一幅度谱为所述第一方向的音频数据中各个频点对应的幅度谱取平均得到的第一平均幅度谱;和/或,
所述第二幅度谱为所述第二方向的音频数据中各个频点对应的幅度谱取平均得到的第二平均幅度谱。
结合第二方面,在第二方面的某些实现方式中,所述第一幅度谱为对第一平均幅度谱进行第一放大处理和/或第二放大后得到的幅度谱,所述第一平均幅度谱为对所述第一方向的音频数据中各个频点对应的幅度谱取平均得到的。
结合第二方面,在第二方面的某些实现方式中,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行:
对所述第一方向的音频数据进行语音检测,得到第一检测结果;
对所述至少两个拾音装置采集的数据进行波达方向估计,得到预测角度信息;
若所述第一检测检测指示所述第一方向的音频数据包括用户的音频信息,对所述第一方向的音频数据的幅度谱进行所述第一放大处理;和/或
若所述预测角度信息包括所述第一预设角度范围中的角度信息,对所述第一方向的音频数据的幅度谱进行所述第二放大处理。
结合第二方面,在第二方面的某些实现方式中,所述第二幅度谱为对第二平均幅度谱进行第一放大处理和/或第二放大后得到的幅度谱,所述第二平均幅度谱为对所述第二方向的音频数据中各个频点对应的幅度谱取平均得到的。
结合第二方面,在第二方面的某些实现方式中,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行:
对所述第二方向的音频数据进行语音检测,得到第二检测结果;
对所述至少两个拾音装置采集的数据进行波达方向估计,得到预测角度信息;
若所述第二检测检测指示所述第二方向的音频数据包括用户的音频信息,对所述第二方向的音频数据的幅度谱进行所述第一放大处理;和/或
若所述预测角度信息包括所述第二预设角度范围中的角度信息,对所述第二方向的音频数据的幅度谱进行所述第二放大处理。
结合第二方面,在第二方面的某些实现方式中,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行:
基于盲信号分离算法对所述音频数据进行分离处理,得到N个音频信息,所述N个音频信息为不同用户的音频信息;
对所述N个音频信息中的每个音频信息进行识别,确定所述N个音频信息中是否包括所述目标关键词。
结合第二方面,在第二方面的某些实现方式中,所述第一图像为所述电子设备处于多镜录像时采集的预览图像。
结合第二方面,在第二方面的某些实现方式中,所述第一图像为所述电子设备处于多镜录像时采集的视频画面。
结合第二方面,在第二方面的某些实现方式中,所述音频数据是指在所述电子设备所处的拍摄环境中所述拾音装置采集的数据。
第三方面,提供了一种电子设备,包括用于执行第一方面或者第一方面中任一种视频处理方法的模块/单元。
第四方面,提供一种电子设备,所述电子设备包括一个或多个处理器、存储器;所述存储器与所述一个或多个处理器耦合,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行第一方面或者第一方面中的任一种方法。
第五方面,提供了一种芯片系统,所述芯片系统应用于电子设备,所述芯片系统包括一个或多个处理器,所述处理器用于调用计算机指令以使得所述电子设备执行第一方面或第一方面中的任一种方法。
第六方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序代码,当所述计算机程序代码被电子设备运行时,使得该电子设备执行第一方面或第一方面中的任一种方法。
第七方面,提供了一种计算机程序产品,所述计算机程序产品包括:计算机程序代码,当所述计算机程序代码被电子设备运行时,使得该电子设备执行第一方面或第一面中的任一种方法。
在本申请的实施例中,电子设备可以通过至少两个拾音装置(例如,麦克风)采集拍摄环境中的音频数据;基于音频数据生成切换指令,电子设备基于切换指令自动从当前的第一拍摄模式切换至第二拍摄模式,显示在第二拍摄模式采集的第二图像;在无需用户切换电子设备的拍摄模式的情况下,电子设备能够自动切换拍摄模式完成视频的录制,提高用户的拍摄体验。
附图说明
图1是一种适用于本申请的电子设备的硬件系统的示意图;
图2是一种适用于本申请的电子设备的软件系统的示意图;
图3是一种适用于本申请实施例的应用场景的示意图;
图4是一种适用于本申请实施例的应用场景的示意图;
图5是一种适用于本申请实施例的应用场景的示意图;
图6是一种适用于本申请实施例的应用场景的示意图;
图7是本申请实施例提供的一种视频处理方法的示意性流程图;
图8是本申请实施例提供的一种视频处理方法的示意性流程图;
图9是本申请实施例提供的一种视频处理方法的示意性流程图;
图10是本申请实施例提供的一种电子设备的目标角度的示意图;
图11是本申请实施例提供的一种切换指令的识别方法的示意性流程图;
图12是本申请实施例提供的一种波达方向估计的示意图;
图13是一种适用于本申请实施例的图形用户界面的示意图;
图14是一种适用于本申请实施例的图形用户界面的示意图;
图15是一种适用于本申请实施例的图形用户界面的示意图;
图16是本申请实施例提供的一种电子设备的结构示意图;
图17是本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
在本申请的实施例中,以下术语“第一”、“第二”等仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
为了便于对本申请实施例的理解,首先对本申请实施例中涉及的相关概念进行简要说明。
1、傅立叶变换
傅立叶变换是一种线性积分变换,用于表示信号在时域(或者,空域)与频域之间的变换。
2、快速傅立叶变换(fast fouriertransform,FFT)
FFT是指离散傅立叶变换的快速算法,可以将一个信号由时域变换到频域。
3、盲信号分离(blind signal separation,BSS)
盲信号分离是指从获取的混合信号(通常是多个传感器的输出)中恢复独立的源信号的算法。
4、波束形成
基于不拾音装置(例如,麦克风)采集的输入信号进行FFT变换后所得到的频域信号与不同角度的滤波器系数,可以得到不同角度的波束结果。
例如,其中,y(ω)表示不同角度的波束结果;/>表示不同角度的滤波器系数;xi(ω)表示拾音装置获取的输入信号做FFT变换后所得到的频域信号;i表示表示的是第i个麦克风的拾音信号;M表示麦克风的数量。
5、语音活性检测(voice activity detection,VAD)
语音活性检测是一项用于语音处理的技术,目的是检测语音信号是否存在。
6、波达方向估计(direction of arrival,DPA)
波达方向估计是指将接收的信号进行空间傅里叶变换,进而取模的平方得到空间谱,估计出信号的到达方向的算法。
7、基于到达时间差(time difference of arrival,TDOA)
TDOA用于表示声源到达电子设备中不同麦克风的时间差。
8、广义互相关-相位变换(generalized cross correlation-phase transform,GCC-PHAT)
GCC-PHAT是一种计算到达角(angle of arrival,AOA)的算法,如图12所示。
9、基于旋转不变技术的信号参数估计(estimating signal parameter viarotational invariance techniques,ESPRIT)
ESRT是指一种旋转不变性技术算法,其原理主要是基于信号的旋转不编写估算信号参数。
10、可控波束形成的定位算法
可控波束形成方法的定位算法的原理是将麦克风接收到的信号进行滤波加权求和来形成波束,按照一定的规律对声源位置进行搜索,当麦克风达到最大输出功率时,搜索到的声源位置即为真实的声源方位。
11、倒谱算法
倒谱算法是信号处理和信号检测中的方法;所谓倒谱是指信号对数功率谱的功率谱;通过倒谱求语音的原理为:由于浊音信号是周期性激励的,因此浊音信号在倒谱上是周期的冲激,从而可以求得基音周期;一般把倒谱波形中第二个冲激(第一个是包络信息),认为是激励源的基频。
12、离散傅里叶反变换(inverse discrete fouriertransform,IDFT)
IDFT是指反变换就是傅里叶变换的逆过程。
13、角度中心高斯混合模型(complex angular central gaussian mixturemodel,cACGMM)
cACGMM是一种高斯混合模型;高斯混合模型是指用高斯概率密度函数(例如,正态分布曲线)精确地量化事物,将一个事物分解为若干的基于高斯概率密度函数(例如,正态分布曲线)形成的模型。
14、幅度谱
将信号变换到频域上之后,对信号进行取模操作即可获取幅度谱。
15、多镜录像
如图4中的(a)所示,多镜录像可以是指相机应用程序中与录像、拍摄等类似的一种相机模式;在多镜录像中可以包括多种不同的拍摄模式;例如,如图4中的(b)所示,拍摄模式可以包括但不限于:前/后双摄模式、后/前双摄模式、画中画1模式、画中画2模式、后置单摄模式或者前置单摄模式等。
下面将结合附图,对本申请实施例中的视频处理方法与电子设备进行描述。
图1示出了一种适用于本申请的电子设备的硬件系统。
电子设备100可以是手机、智慧屏、平板电脑、可穿戴电子设备、车载电子设备、增强现实(augmented reality,AR)设备、虚拟现实(virtual reality,VR)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、个人数字助理(personal digital assistant,PDA)、投影仪等等,本申请实施例对电子设备100的具体类型不作任何限制。
电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
示例性地,音频模块170用于将数字音频信息转换成模拟音频信号输出,也可以用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170或者音频模块170的部分功能模块可以设置于处理器110中。
例如,在本申请的实施例中,音频模块170可以将麦克风采集的音频数据向处理器110发送。
需要说明的是,图1所示的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图1所示的部件更多或更少的部件,或者,电子设备100可以包括图1所示的部件中某些部件的组合,或者,电子设备100可以包括图1所示的部件中某些部件的子部件。图1示的部件可以以硬件、软件、或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元。例如,处理器110可以包括以下处理单元中的至少一个:应用处理器(application processor,AP)、调制解调处理器、图形处理器(graphics processing unit,GPU)、图像信号处理器(image signal processor,ISP)、控制器、视频编解码器、数字信号处理器(digital signal processor,DSP)、基带处理器、神经网络处理器(neural-network processing unit,NPU)。其中,不同的处理单元可以是独立的器件,也可以是集成的器件。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
示例性地,处理器110可以用于执行本申请实施例的视频处理方法;例如,运行电子设备中的相机应用程序;显示第一图像,第一图像为电子设备处于第一拍摄模式时采集的图像;获取音频数据,音频数据为至少两个拾音装置采集的数据;基于音频数据得到切换指令,切换指令用于指示电子设备从第一拍摄模式切换至第二拍摄模式;显示第二图像,第二图像为电子设备处于第二拍摄模式时采集的图像。
图1所示的各模块间的连接关系只是示意性说明,并不构成对电子设备100的各模块间的连接关系的限定。可选地,电子设备100的各模块也可以采用上述实施例中多种连接方式的组合。
电子设备100的无线通信功能可以通过天线1、天线2、移动通信模块150、无线通信模块160、调制解调处理器以及基带处理器等器件实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
电子设备100可以通过GPU、显示屏194以及应用处理器实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194可以用于显示图像或视频。
电子设备100可以通过ISP、摄像头193、视频编解码器、GPU、显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP可以对图像的噪点、亮度和色彩进行算法优化,ISP还可以优化拍摄场景的曝光和色温等参数。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的红绿蓝(red green blue,RGB),YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或N个摄像头193,N为大于1的正整数。
示例性地,在本申请的实施例中,电子设备可以包括多个摄像头193;多个摄像头中可以包括前置摄像头与后置摄像头。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1、MPEG2、MPEG3和MPEG4。
陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即,x轴、y轴和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。例如,当快门被按下时,陀螺仪传感器180B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航和体感游戏等场景。
加速度传感器180E可检测电子设备100在各个方向上(一般为x轴、y轴和z轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。加速度传感器180E还可以用于识别电子设备100的姿态,作为横竖屏切换和计步器等应用程序的输入参数。
距离传感器180F用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,例如在拍摄场景中,电子设备100可以利用距离传感器180F测距以实现快速对焦。
环境光传感器180L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测电子设备100是否在口袋里,以防误触。
指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现解锁、访问应用锁、拍照和接听来电等功能。
触摸传感器180K,也称为触控器件。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,触摸屏也称为触控屏。触摸传感器180K用于检测作用于其上或其附近的触摸操作。触摸传感器180K可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,并且与显示屏194设置于不同的位置。
上文详细描述了电子设备100的硬件系统,下面介绍电子设备100的软件系统。
图2是本申请实施例提供的电子设备的软件系统的示意图。
如图2所示,系统架构中可以包括应用层210、应用框架层220、硬件抽象层230、驱动层240以及硬件层250。
应用层210可以包括相机应用程序、图库、日历、通话、地图、导航、WLAN、蓝牙、音乐、视频、短信息等应用程序;应用层210又可以分为应用界面与应用逻辑;其中,相机应用的应用界面可以包括单景模式、双景模式、画中画模式等,对应于不同的视频拍摄模式。
应用框架层220为应用层的应用程序提供应用程序编程接口(applicationprogramming interface,API)和编程框架;应用框架层可以包括一些预定义的函数。
例如,应用框架层220可以包括相机访问接口;相机访问接口中可以包括相机管理与相机设备。其中,相机管理可以用于提供管理相机的访问接口;相机设备可以用于提供访问相机的接口。
硬件抽象层230用于将硬件抽象化。比如,硬件抽象层可以包相机抽象层以及其他硬件设备抽象层;相机硬件抽象层可以调用相机算法。
例如,硬件抽象层230中包括相机硬件抽象层与相机算法;相机算法中可以包括用于视频处理或者图像处理的软件算法。
示例性地,相机算法中的算法可以是指不依赖特定硬件实现;比如,通常可以在CPU中运行的代码等。
驱动层240用于为不同硬件设备提供驱动。例如,驱动层可以包括摄像头驱动。
硬件层250位于操作系统的最底层;如图2所示,硬件层250可以包括摄像头1、摄像头2、摄像头3等。其中,摄像头1、摄像头2、摄像头3可对应于电子设备上的多个摄像头
示例性地,本申请实施例提供的视频处理方法与电子设备可以在硬件抽象层中运行;或者,可以在应用框架层运行;或者,可以在数字信号处理器中运行。
目前,电子设备的拍摄模式(例如,摄像头)的切换依赖于用户手动操作,因此需要用户在拍摄过程中与电子设备之间的距离较近;若用户与电子设备之间的距离较远,则需要基于蓝牙技术实现电子设备的拍摄模式的切换;基于蓝牙技术实现电子设备的拍摄模式切换时,需要通过控制设备对电子设备的镜头进行相应的操作,一方面操作较复杂;另一方面控制设备容易暴露在视频中,影响视频的美感,从而导致用户体验较差。
有鉴于此,本申请的实施例提供了一种视频处理方法,用户在使用电子设备拍摄视频的过程中,电子设备可以根据拍摄环境中的音频数据得到切换指令,基于切换指令电子设备能够自动切换电子设备的拍摄模式;例如,可以自动切换电子设备中的不同摄像头;比如,电子设备能够自动判断是否切换摄像头,或者是否开启多镜录像,或者是否在多镜录像中切换不同的拍摄模式等,使得在无需用户切换电子设备的拍摄模式的情况下完成视频的录制,实现一镜到底的录像体验。
应理解,“一镜到底”是指用户在选择某一拍摄模式后,用户无需再进行相应操作切换拍摄模式;电子设备可以基于采集的拍摄环境中的音频数据,自动生成切换指令;电子设备基于切换指令,自动切换拍摄模式。
下面结合图3至图15对本申请实施例提供的视频处理方法进行详细说明。
示例性地,本申请实施例中的视频处理方法可以应用于录制视频领域、视频通话领域或者其他图像处理领域;在本申请实施例中,通过电子设备中的至少两个拾音装置(例如,麦克风)采集拍摄环境中的音频数据;基于音频数据生成切换指令,电子设备基于切换指令自动从第一拍摄模式切换至第二拍摄模式,显示在第二拍摄模式采集的第二图像;在无需用户切换电子设备的拍摄模式的情况下,电子设备能够自动切换拍摄模式完成视频的录制,提高用户的拍摄体验。
在一个示例中,本申请实施例中的视频处理方法可以应用于录制视频的预览状态。
如图3所示,电子设备处于多镜录像的预览状态,电子设备当前的拍摄模式可以默认为前/后双景的拍摄模式,其中,前景画面可以如图像251所示,后景画面可以如图像252所示;前景画面可以是指电子设备的前置摄像头采集的图像,后景画面可以是指电子设备的后置摄像头采集的图像;下面以前景画面为图像251,后景画面为图像252为例进行举例说明。
如图4中的(a)所示,在电子设备检测到对多镜录像的拍摄模式的控件260的操作后,电子设备可以显示多镜录像中的多种不同的拍摄模式;例如,多种不同的拍摄模式可以包括但不限于:前/后双摄模式、后/前双摄模式、画中画1模式(后置画中画模式)、画中画2模式(前置画中画模式)、后置摄像头单摄模式、或者前置摄像头单摄模式等,如图4中的(b)所示;通过本申请实施例中的视频处理方法,在电子设备处于多镜录像的预览状态的情况下,电子设备中的至少两个拾音装置(例如,麦克风)采集拍摄环境中的音频数据;基于音频数据生成切换指令,电子设备基于切换指令自动从第一拍摄模式切换至第二拍摄模式,显示在第二拍摄模式采集的第二图像;例如,假设电子设备进入多镜录像的预览状态时,默认的拍摄模式为如图3所示的前/后双摄模式,基于电子设备中至少两个拾音装置采集的音频数据得到的切换指令为,将电子设备的拍摄模式切换至后置画中画模式;则在无需用户操作的情况下,电子设备可以自动从前/后双摄模式切换至后置画中画模式,显示第二图像,第二图像为预览图像。
其中,单摄模式可以包括前置单摄模式、后置单摄模式等;多摄模式可以包括前/后双摄模式、后/前双摄模式、画中画1模式、画中画2模式等。
可选地,多摄模式还可以包括前置双摄模式,或者后置双摄模式等。
应理解,在单摄模式下,采用电子设备中的一个摄像头进行视频拍摄;在多摄模式下,采用电子设备中的两个或两个以上摄像头进行视频拍摄。
示例性地,在前置单摄模式下,采用一个前置摄像头进行视频拍摄;在后置单摄模式下,采用一个后置摄像头进行视频拍摄;在前置双摄模式下,采用两个前置摄像头进行视频拍摄;在后置双摄模式下,采用两个后置摄像头进行视频拍摄;在前后双摄模式下,采用一个前置摄像头和一个后置摄像头进行视频拍摄;在前置画中画模式下,采用两个前置摄像头进行视频拍摄,且将一个前置摄像头拍摄的画面置于另一个前置摄像头拍摄的画面之中;在后置画中画模式下,采用两个后置摄像头进行视频拍摄,且将一个后置摄像头拍摄的画面置于另一个后置摄像头拍摄的画面之中;在前后画中画模式下,采用一个前置摄像头和一个后置摄像头进行视频拍摄,且将前置摄像头或后置摄像头拍摄的画面置于后置摄像头或前置摄像头拍摄的画面之中。
应理解,图4所示可以为电子设备在竖屏状态下,多镜录像的不同拍摄模式的拍摄界面;图5所示可以为电子设备在横屏状态下,多镜录像的不同拍摄模式的拍摄界面;其中,图4中的(a)与图5中的(a)对应,图4中的(b)与图5中的(b)对应;电子设备可以根据用户使用电子设备的状态确定竖屏显示或者横屏显示。
在一个示例中,本申请实施例中的视频处理方法可以应用于录制视频的过程中。
如图6所示,电子设备处于多镜录像的视频录制状态,电子设备当前的拍摄模式可以默认为前/后双景的拍摄模式,如图6中的(a)所示,在电子设备录制视频的第5秒时,检测到对多镜录像的拍摄模式的控件270的操作后,电子设备可以显示多镜录像中的多种不同的拍摄模式,如图6中的(b)所示;通过本申请实施例中的视频处理方法,在电子设备处于多镜录像的录制状态的情况下,电子设备中的至少两个拾音装置(例如,麦克风)采集拍摄环境中的音频数据;基于音频数据生成切换指令,电子设备基于切换指令自动从第一拍摄模式切换至第二拍摄模式,显示在第二拍摄模式采集的第二图像;例如,假设电子设备当前正在录制视频,电子设备开始录制视频时采用的默认的前/后双摄模式的拍摄模式,基于电子设备中至少两个拾音装置采集的音频数据得到的切换指令为,将电子设备的拍摄模式切换至后置画中画模式;则在无需用户操作的情况下,电子设备可以自动从前/后双摄模式切换至后置画中画模式,显示第二图像,第二图像为视频画面。
应理解,上述以多镜录像进行举例说明,本申请实施例中的视频处理方法还可以应用于:视频通话、视频会议应用、长短视频应用、视频直播类应用、视频网课应用、人像智能运镜应用场景、系统相机录像功能录制视频、视频监控或者智能猫眼等拍摄类场景中。
在一个示例中,本申请实施例中的视频处理方法还可以应用于电子设备的录像状态;例如,电子设备处于录像状态时可以采用默认的后置单摄的拍摄模式,电子设备中的至少两个拾音装置(例如,麦克风)采集拍摄环境中的音频数据;基于音频数据生成切换指令,电子设备基于切换指令可以自动从后置单摄模式切换至前置单摄模式;或者,电子设备基于切换指令可以自动从单摄模式切换至多摄模式,显示在第二拍摄模式采集的第二图像;第二图像可以为预览图像,或者第二图像也可以为视频画面。可选地,本申请实施例中的视频处理方法还可以应用于拍照领域;例如,电子设备处于录像状态时可以采用默认的后置单摄的拍摄模式,电子设备中的至少两个拾音装置(例如,麦克风)采集拍摄环境中的音频数据;基于音频数据生成切换指令,电子设备基于切换指令自动从后置单摄模式切换至前置单摄模式,显示在第二拍摄模式采集的第二图像;第二图像可以为预览图像,或者第二图像也可以为视频画面。
应理解,上述为对应用场景的举例说明,并不对本申请的应用场景作任何限定。
图7是本申请实施例提供的视频处理方法的示意性流程图。该视频处理方法300包括可以由图1所示的电子设备执行;该视频处理方法包括步骤S310至步骤S350,下面分别对步骤S310至步骤S350进行详细的描述。
步骤S310、运行电子设备的相机应用程序。
示例性地,用户可以通过单击“相机”应用程序的图标,指示电子设备运行相机应用。或者,电子设备处于锁屏状态时,用户可以通过在电子设备的显示屏上向右滑动的手势,指示电子设备运行相机应用。又或者,电子设备处于锁屏状态,锁屏界面上包括相机应用程序的图标,用户通过点击相机应用程序的图标,指示电子设备运行相机应用程序。又或者,电子设备在运行其他应用时,该应用具有调用相机应用程序的权限;用户通过点击相应的控件可以指示电子设备运行相机应用程序。例如,电子设备正在运行即时通信类应用程序时,用户可以通过选择相机功能的控件,指示电子设备运行相机应用程序等。
步骤S320、显示第一图像。
其中,第一图像为电子设备处于第一拍摄模式时采集的图像。
示例性地,第一拍摄模式可以是指单摄模式,或者多摄模式中的任意一种;其中,单摄模式可以包括前置单摄模式或者后置单摄模式;多摄模式可以包括前/后双摄模式、后/前双摄模式、画中画前置主画模式,或者画中画后置主画模式。
例如,在前置单摄模式下,采用电子设备中的一个前置摄像头进行视频拍摄;在后置单摄模式下,采用电子设备中的一个后置摄像头进行视频拍摄;在前后双摄模式下,采用一个前置摄像头和一个后置摄像头进行视频拍摄;在画中画前置模式下,采用一个前置摄像头和一个后置摄像头进行视频拍摄,且将后置摄像头拍摄的画面置于前置摄像头拍摄的画面之中,前指摄像头拍摄的画面为主画面;在画中画后置模式下,采用一个前置摄像头和一个后置摄像头进行视频拍摄,且将前置摄像头拍摄的画面置于后置摄像头拍摄的画面之中,后指摄像头拍摄的画面为主画面。
可选地,多摄模式还可以包括前置双摄模式、后置双摄模式、前置画中画模式或者后置画中画模式等。
可选地,在电子设备处于录像预览时,第一图像为预览图像。
可选地,在电子设备处于录像时,第一图像为视频画面。
可选地,在电子设备处于多镜录像预览时,第一图像为预览图像。
可选地,在电子设备处于多镜录像时,第一图像为视频画面。
步骤S330、获取音频数据。
其中,音频数据为电子设备中的至少两个拾音装置采集的数据;例如,至少两个麦克风采集的数据。
应理解,在本申请的实施例中,由于电子设备需要对音频数据进行方向性判断,因此在本申请的实施例中电子设备中至少包括两个拾音装置,对拾音装置的具体数量不作任何限定。
示例性地,如后续图9所示,电子设备中包括3个拾音装置。
示例性地,音频数据可以是指在电子设备所处的拍摄环境中拾音装置采集的数据。
步骤S340、基于音频数据得到切换指令。
其中,切换指令用于指示电子设备从第一拍摄模式切换至第二拍摄模式。
应理解,第一拍摄模式与第二拍摄模式可以为相同的拍摄模式,或者不同的拍摄模式;若切换指令为默认当前拍摄模式,则第二拍摄模式与第一拍摄模式可以为相同的拍摄模式,如表1所示的标识0;在其他情况下,第二拍摄模式与第一拍摄模式可以为不同的拍摄模式,如表1所示的标识1至标识6。
步骤是350、显示第二图像。
其中,第二图像为电子设备处于第二拍摄模式时采集的图像。
在本申请的实施例中,电子设备可以通过至少两个拾音装置(例如,麦克风)采集拍摄环境中的音频数据;基于音频数据生成切换指令,电子设备基于切换指令自动从当前的第一拍摄模式切换至第二拍摄模式,显示在第二拍摄模式采集的第二图像;在无需用户切换电子设备的拍摄模式的情况下,电子设备能够自动切换拍摄模式完成视频的录制,提高用户的拍摄体验。
示例性地,电子设备可以包括第一摄像头(例如,前置摄像头)与第二摄像头(例如,后置摄像头),第一摄像头与第二摄像头可以位于电子设备的不同方向;上述基于音频数据得到切换指令,包括:
识别音频数据中是否包括目标关键词,目标关键词为切换指令对应的文本信息;
在音频数据中识别到目标关键词的情况下,基于目标关键词得到切换指令;
在音频数据中未识别目标关键词的情况下,对音频数据进行处理,得到第一方向的音频数据和/或第二方向的音频数据,第一方向用于表示第一摄像头对应的第一预设角度范围,第二方向用于表示第二摄像头对应的第二预设角度范围;基于第一方向的音频数据和/或第二方向音频数据,得到切换指令。
在本申请的实施例中,可以先识别音频数据中是否包括目标关键词;若音频数据中包括目标关键词,则电子设备将拍摄模式切换至目标关键词对应的第二拍摄模式;若音频数据中不包括目标关键词,则电子设备可以基于第一方向的音频数据和/或第二方向的音频数据得到切换指令;例如,若用户在电子设备的前方,则一般通过前置摄像头采集图像;若电子设备的前向方向存在用户的音频信息,则可以认为用户在电子设备的前向方向,此时可以开启前置摄像头;若用户在电子设备的后方,则一般通过后置摄像头采集图像;若电子设备的后向方向存在用户的音频信息,则可以认为用户在电子设备的后向方向,此时可以开启后置摄像头。
其中,目标关键词可以包括但不限于:前置摄像头、后置摄像头、前置录像、后置录像、双景录像、画中画录像等;第一方向可以是指电子设备的前向方向,第一预设角度范围可以是指-30度值30度;第二方向可以是指电子设备的后向方向,第二预设角度范围可以是指150度值210度,如图10所示。
示例性地,可以基于声音方向概率计算算法对音频数据进行处理,得到第一方向的音频数据(例如,前向方向)和/或第二方向(例如,后向方向)的音频数据。具体过程可以参见后续图9所示的步骤S507至步骤S510,以及步骤S512,此处不再赘述。
在本申请的实施例中,可以计算音频数据在各个方向的概率大小,从而将音频数据进行方向分离,得到第一方向的音频数据与第二方向的音频数据;基于第一方向的音频数据和/后第二方向的音频数据可以得到切换指令;电子设备基于切换指令可以自动实现拍摄模式的切换。
示例性地,基于第一方向的音频数据和/或第二方向音频数据,得到切换指令,包括:
基于第一幅度谱的能量和/或第二幅度谱的能量,得到切换指令,第一幅度谱为第一方向的音频数据的幅度谱,第二幅度谱为第二方向的音频数据的幅度谱。
应理解,在录制视频场景中,通常可以认为音频数据的能量越大的方向(例如,音频信息的音量越大的方向)为主要拍摄方向;可以基于不同方向的音频数据的幅度谱的能量得到主要拍摄方向;比如,若第一方向的音频数据的幅度谱的能量大于第二方向的音频数据的幅度谱的能量,则可以认为第一方向为主要拍摄方向;此时,可以开启电子设备中第一方向对应的摄像头。
示例性地,切换指令可以包括当前拍摄模式、第一画中画模式、第二画中画模式、第一双景模式、第二双景模式、所述第一摄像头的单摄模式或者所述第二摄像头的单摄模式,基于第一幅度谱的能量和/或第二幅度谱的能量,得到切换指令,包括:
若第一幅度谱的能量与第二幅度谱的能量均小于第一预设阈值,得到切换指令为保持当前拍摄模式;
若第一幅度谱的能量大于第二预设阈值,且第二幅度谱的能量小于或者等于第二预设阈值,切换指令为切换为第一摄像头单摄模式;
若第二幅度谱的能量大于第二预设阈值,且第一幅度谱的能量小于或者等于第二预设阈值,切换指令为切换为第二摄像头单摄模式;
若第一幅度谱的能量大于第二预设阈值,且第二幅度谱的能量大于或者等于第一预设阈值,切换指令为切换为第一画中画模式;
若第二幅度谱的能量大于第二预设阈值,且第一幅度谱的能量大于或者等于第一预设阈值,切换指令为切换为第二画中画模式;
若第一幅度谱的能量与第二幅度谱的能量均大于或者等于第二预设阈值,且第一幅度谱的能量大于第二幅度谱的能量,切换指令为切换为第一双景模式;
若第一幅度谱的能量与第二幅度谱的能量均大于或者等于第二预设阈值,且第二幅度谱的能量大于第一幅度谱的能量,切换指令为切换为第二双景模式;
其中,第二预设阈值大于第一预设阈值,第一画中画模式是指第一摄像头采集的图像为主画面的拍摄模式,第二画中画模式是指第二摄像头采集的图像为主画面的拍摄模式,第一双景模式是指第一摄像头采集的图像位于电子设备的显示屏的上侧或者左侧的拍摄模式,第二双景模式是指第二摄像头采集的图像位于电子设备的显示屏的上侧或者左侧的拍摄模式。
可选地,上述过程的具体实现方式可以参见图9所示的步骤S515的相关描述。
示例性地,第一幅度谱为第一方向的音频数据中各个频点对应的幅度谱取平均得到的第一平均幅度谱;和/或,
第二幅度谱为第二方向的音频数据中各个频点对应的幅度谱取平均得到的第二平均幅度谱。
在本申请的实施例中,对第一方向的音频数据中的不同频点的幅度谱取平均值后得到的幅度谱可以称为第一平均幅度谱;对第二方向的音频数据中的不同频点的幅度谱取平均值后得到的幅度谱可以称为第二平均幅度谱;由于第一平均幅度谱和/或第二平均幅度谱是对不同频点的幅度谱取均值得到的幅度谱;因此,可以提高第一方向的音频数据和/或第一方向的音频数据中信息的准确性。
可选地,第一幅度谱为对第一平均幅度谱进行第一放大处理和/或第二放大后得到的幅度谱,第一平均幅度谱为对第一方向的音频数据中各个频点对应的幅度谱取平均得到的。
示例性地,上述视频处理方法还包括:
对第一方向的音频数据进行语音检测,得到第一检测结果;
对至少两个拾音装置采集的数据进行波达方向估计,得到预测角度信息;
若第一检测检测指示第一方向的音频数据包括用户的音频信息,对第一方向的音频数据的幅度谱进行第一放大处理;和/或,若预测角度信息包括第一预设角度范围中的角度信息,对第一方向的音频数据的幅度谱进行第二放大处理。
可选地,第二幅度谱为对第二平均幅度谱进行第一放大处理和/或第二放大后得到的幅度谱,第二平均幅度谱为对所述第二方向的音频数据中各个频点对应的幅度谱取平均得到的。
示例性地,上述视频处理方法还包括:
对第二方向的音频数据进行语音检测,得到第二检测结果;
对至少两个拾音装置采集的数据进行波达方向估计,得到预测角度信息;
若第二检测检测指示第二方向的音频数据包括用户的音频信息,对第二方向的音频数据的幅度谱进行第一放大处理;和/或,若预测角度信息包括第二预设角度范围中的角度信息,对第二方向的音频数据的幅度谱进行第二放大处理。
应理解,在录制视频场景中,通常可以认为用户所在的方向为主要拍摄方向;若检测结果中指示该方向包括用户的音频信息,则可以认为用户在该方向;此时,可以对该方向的音频数据进行第一放大处理,通过第一放大处理能够提高获取的用户音频信息的准确性。
还应理解,在录制视频场景中,通常可以认为用户所在的方向为主要拍摄方向;若检测结果中指示该方向包括用户的音频信息,则可以认为用户在该方向;此时,可以对该方向的音频数据进行第一放大处理,通过第一放大处理能够提高获取的用户音频信息的准确性;当预测角度信息包括第一预设角度范围和/或第二预设角度范围,则可以说明电子设备的第一方向和/后第二方向存在音频信息;通过第二放大处理,能够提高第一幅度谱或者第二幅度谱的准确性;在幅度谱与用户音频信息的准确性提升的情况下,能够准确地得到切换指令。
可选地,上述语音检测的具体过程可以参见后续图9中的步骤S511,或者步骤S513的相关描述。
可选地,上述第一放大处理和/或第二放大处理的具体过程可以参见图9中的步骤S515的相关描述。
示例性地,波达方向估计是指将接收的信号进行空间傅里叶变换,进而取模的平方得到空间谱,估计出信号的到达方向的算法。
可选地,波达方向估计的具体过程可以参见后续图8中步骤S407的相关描述,或者,图9中步骤S514的相关描述。
示例性地,识别音频数据中是否包括目标关键词,包括:
基于盲信号分离算法对音频数据进行分离处理,得到N个音频信息,N个音频信息为不同用户的音频信息;
对N个音频信息中的每个音频信息进行识别,确定N个音频信息中是否包括目标关键词。
在本申请的实施例中,可以先将至少两个拾音装置采集的音频数据进行分离处理,得到N个不同源的音频信息;在N个音频信息中分别识别是否包括目标关键词,从而能够提高识别目标关键词的准确性。
示例性地,盲信号分离算法是指从获取的混合信号(通常是多个传感器的输出)中恢复独立的源信号的算法。
可选地,盲信号分离算法的具体过程可以参见后续图8中的步骤S405的相关描述,或者图9中的步骤S504的相关描述。
可选地,识别音频数据中的目标关键词的具体过程可以参见后续图11的相关描述。
在本申请的实施例中,电子设备可以通过至少两个拾音装置(例如,麦克风)采集拍摄环境中的音频数据;基于音频数据生成切换指令,电子设备基于切换指令自动从当前的第一拍摄模式切换至第二拍摄模式,显示在第二拍摄模式采集的第二图像;在无需用户切换电子设备的拍摄模式的情况下,电子设备能够自动切换拍摄模式完成视频的录制,提高用户的拍摄体验。
图8是本申请实施例提供的视频处理方法的示意性流程图。该视频处理方法400包括可以由图1所示的电子设备执行;该视频处理方法包括步骤S401至步骤S410,下面分别对步骤S401至步骤S410进行详细的描述。
步骤S401、获取N个拾音装置(例如,麦克风)采集的音频数据。
步骤S402、对音频数据进行音源分离处理,得到M个音频信息。
应理解,音源分离也可以称为声源分离;例如,可以将采集的N路音频数据做傅里叶变换,之后将N路音频数据的频域数据加上超参数送入分离器进行声源分离,得到M个音频信息。
步骤S403、判断M个音频信息中每个音频信息中是否包括切换指令(目标关键词的一个示例);若M个音频信息中任意一个音频包括切换指令,则执行步骤S404;若M个音频信息中均不包括切换指令,则执行步骤S405至步骤S410。
示例性地,切换指令可以包括但不限于:切换至前置摄像头、切换至后置摄像头、前置录像、后置录像、双景录像、画中画录像等。可选地,切换指令的识别方法可以后续图11所示。
步骤S404、电子设备执行切换指令。
应理解,电子设备执行切换指令可以是指无需用户在手动切换相机应用程序的情况下,电子设备可以基于切换指令自动切换电子设备的摄像头。
步骤S405、对N个麦克风采集的音频数据进行方向分离处理,得到前向音频信息(第一方向的音频数据的一个示例)和/或后向音频信息(第二方向的音频数据的一个示例)。
在本申请的实施例中,若在M个音频信息中检测到切换指令,则电子设备自动执行该切换指令;若在M个音频信息中未检测到切换指令,电子设备可以根据拾音装置采集的N路音频数据得到在电子设备的前向方向的目标角度内的前向音频信息,和/或在电子设备的后向方向的目标角度内的后向音频信息;基于前向音频信息的能量与后向音频信息的能量,进行分析可以得到切换指令;使得电子设备执行相应的切换指令。
示例性地,如图10所示,前向语音波束可以是指在电子设备的前向方向上的音频数据;其中,电子设备的前向方向的目标角度(第一预设角度范围的一个示例)可以为[-30,30];后向语音波束可以是指在电子设备的后向方向上的音频数据;其中,电子设备的后向方向的目标角度(第二预设角度范围的一个示例)可以为[150,210]。
可选地,可以基于拾音装置采集的N路音频数据在电子设备的各个方向的声音方向概率,将N路音频数据分离为前向音频数据和/或后向音频数据;例如,具体实现方法可以参见图6所示的步骤S507至步骤S511。
步骤S406、对前向音频信息和/或后向音频信息进行语音检测处理,得到检测结果。
在本申请的实施例中,对前向音频信息和/后向音频信息进行语音检测处理是为了确定前向音频信息和/或后向音频信息中是否包括用户的音频信息;若前向音频信息(或者,后向音频信息)包括用户的音频信息,则可以对前向音频信息(或者,后向音频信息)进行放大处理,从而确保能够准确地获取用户的音频信息。
示例性地,语音检测处理可以包括但不限于:语音活性检测,或者其他用户音频信息的检测方法,本申请对此不作任何限定。
步骤S407、对N个麦克风采集的音频数据进行波达方向估计,得到预测角度信息。
在本申请的实施例中,通过步骤S405与步骤S406可以将拾音装置采集的N路音频数据分为前向音频信息和/或后向音频信息;进一步,通过对拾音装置采集的N路音频数据进行波达方向估计可以得到音频数据对应的角度信息,从而可以确定拾音装置获取的音频数据是否在目标角度范围内;例如,确定音频数据是否在电子设备的前向方向的目标角度范围内,或者,后向方向的目标角度范围内。
可选地,对N个麦克风采集的音频数据进行波达方向估计,得到预测角度信息的具体实现方法可以参见图9所示的步骤S514。
可选地,在每个音频信息中不包括切换指令的情况下,可以执行步骤S405、步骤S406、步骤S408至步骤S410。
步骤S408、对前向音频信息和/或后向音频信息的幅度谱进行放大处理。
示例性地,可以基于语音检测处理的检测结果可以对前向音频信息和/或后向音频信息的幅度谱进行放大处理。
在本申请的实施例中,在前向音频信息(或者,后向音频信息)对应的语音检测的检测结果为包括用户的音频信息时,可以对前向音频信息(或者,后向音频信息)的幅度谱进行放大处理,从而提高获取的用户音频信息的准确性。
示例性地,可以基于语音检测处理的检测结果与预测角度信息对前向音频信息和/或后向音频信息的幅度谱进行放大处理。
在本申请的实施例中,在预测角度信息包括电子设备的前向方向或者后向方向的目标角度时,可以对前向音频信息(或者,后向音频信息)的幅度谱进行放大处理,从而提高幅度谱的准确性;此外,在前向音频信息(或者,后向音频信息)对应的语音检测的检测结果为包括用户的音频信息时,可以对前向音频信息(或者,后向音频信息)的幅度谱进行放大处理,从而提高获取的用户音频信息的准确性;在幅度谱的准确性与用户的音频信息的准确性提升的情况下,能够提高得到的切换指令的准确性。
示例性地,分别计算前向音频信息与后向音频信息的幅度谱;当语音检测处理的检测结果表示前向音频信息中包括用户的音频信息时,可以对前向音频信息的幅度谱进行第一放大处理;或者,当语音活性检测结果表示后向音频信息中包括用户的音频信息时,可以对后向音频信息的幅度谱进行第一放大处理;例如,第一放大处理的放大系数为α(1<α<2)。
示例性地,当基于波达方向估计得到的预测角度信息表示拾音装置采集的N路音频数据包括前向方向的目标角度时,可以对前向音频信息的幅度谱进行第二放大处理;或者,当基于波达方向估计得到的预测角度信息表示拾音装置采集的N路音频数据包括后向方向的目标角度时,可以对后向音频信息的幅度谱进行第二放大处理;例如,第二放大处理的放大系数为β(1<β<2),得到放大处理后的前向音频信息和/或后向音频信息的幅度谱。
可选地,放大处理的具体实现可以参见后续图9所示的步骤S515。
步骤S409、基于放大处理后的前向音频信息和/或后向音频信息的幅度谱的能量得到切换指令。
在一个示例中,若放大处理后的前向音频信息的幅度谱与放大处理后的后向音频信息的幅度谱的能量均小于第一预设阈值,则认为电子设备的前向方向上与后向方向上均没有音频数据,则电子设备保持默认镜头录制视频;例如,该切换指令可以对应标识0。
在一个示例中,若放大处理后的前向音频信息的幅度谱,或者放大处理后的后向音频信息的幅度谱中仅有一个能量大于第二预设阈值,则电子设备确定能量大于第一预设阈值的幅度谱对应的方向为主声源方向,将电子设备的镜头切换至该方向;例如,该切换指令可以是切换至后置镜头,该切换指令可以对应标识1;或者,该切换指令可以是的切换至前置镜头,该切换指令可以对应标识2。
在一个示例中,若放大处理后的前向音频信息的幅度谱,或者放大处理后的后向音频信息的幅度谱中仅有一个能量大于或者等于第二预设阈值,且另一个能量大于或者等于第一预设阈值,其中,第二预设阈值大于第一预设阈值,则电子设备可以确定能量大于第二预设阈值的幅度谱对应的方向为主声源方向,能量大于第一预设阈值的幅度谱对应的方向为第二声源方向,此时电子设备可以启动画中画录制模式;将能量大于或者等于第二预设阈值的幅度谱对应的方向的画面作为主画面,将能量大于或者等于第一预设阈值的幅度谱对应的方向的画面作为副画面。
例如,若前向音频信息对应的幅度谱的能量大于或者等于第二预设阈值,且后向音频信息对应的幅度谱的能量大于或者等于第一预设阈值,则电子设备的切换指令可以为画中画前置主画,该切换指令可以对应标识3。
例如,若后向音频信息对应的幅度谱的能量大于或者等于第二预设阈值,且前向音频信息对应的幅度谱的能量大于或者等于第一预设阈值,则电子设备的切换指令可以为画中画后置主画,该切换指令可以对应标识4。
在一个示例中,若放大处理后的前向音频信息的幅度谱,或者放大处理后的后向音频信息的幅度谱的能量均大于或者等于第二预设阈值,电子设备可以确定开启双景录制,即开启前置镜头与后置镜头;可选地,可以将能量较大的方向对应的镜头采集的画面显示在显示屏的上侧或者左侧。
例如,若前向音频信息与后向音频信息对应的幅度谱的能量均大于或者等于第二预设阈值,且前向音频信息对应的幅度谱的能量大于后向音频信息对应的幅度谱的能量,则电子设备的切换指令可以为前后双景录制,将电子设备的前置镜头采集的画面显示在显示屏的上侧或者左侧,该切换指令可以对应标识5。
例如,若前向音频信息与后向音频信息对应的幅度谱的能量均大于或者等于第二预设阈值,且后向音频信息对应的幅度谱的能量大于前向音频信息对应的幅度谱的能量,则电子设备的切换指令可以为后前双景录制,将电子设备的后置镜头采集的画面显示在显示屏的上侧或者左侧,该切换指令可以对应标识6。
步骤S410、电子设备执行切换指令。
示例性地,电子设备可以基于对放大处理后的前向音频信息和/或放大处理后的后向音频信息的幅度谱得到切换指令,并自动执行该切换指令;即电子设备可以在无需用户手动切换相机应用程序的情况下,基于切换指令自动切换电子设备的摄像头。
在本申请的实施例中,在视频拍摄的场景中,可以根据拍摄环境内的音频数据得到切换指令,使得电子设备能够自动判断是否切换镜头,或者是否开启多镜录像等,使得在用户无需手动操作的情况下实现一镜到底的录像体验,提高用户体验。
图9是本申请实施例提供的视频处理方法得示意性流程图。该视频处理方法500包括可以由图1所示的电子设备执行;该视频处理方法包括步骤S501至步骤S515,下面分别对步骤S501至步骤S515进行详细的描述。
应理解,图8所示的视频处理方法以电子设备中包括3个拾音装置进行举例说明;由于电子设备需要对音频信息进行方向性判断,因此在本申请的实施例中电子设备中至少包括两个拾音装置,对拾音装置的具体数量不作任何限定。
步骤S501、拾音装置1采集音频数据。
步骤S502、拾音装置2采集音频数据。
步骤S503、拾音装置3采集音频数据。
示例性地,拾音装置1、拾音装置2或者拾音装置3可以位于电子设备中的不同位置,用于采集不同方向的音频信息;例如,拾音装置1、拾音装置2或者拾音装置3可以是指麦克风。
可选地,可以在电子设备检测到用户选择录像模式,开启录制视频后,启动拾音装置1、拾音装置2、拾音装置3开始采集音频数据。
应理解,上述步骤S501至步骤S503可以是同时执行的。
步骤S504、对拾音装置采集的音频数据进行盲信号分离,得到M路音频信息。
应理解,盲信号分离也可以称为盲源分离(blind signal/source separation,BSS),是指在不知道源信号及信号混合参数的情况下,根据混合信号估计源信号。在本申请的实施例中,通过对采集的音频数据进行盲音信号分离可以得到不同源的音频信息,即不同对象的音频信号。
示例性地,在电子设备所处的拍摄环境中包括3个用户,分别为用户A、用户B与用户C;通过盲信号分离,可以得到音频数据中的用户A的音频信息、用户B的音频信息与用户C的音频信息。
步骤S505、判断M路音频信息中是否包括切换指令;若M路音频信息中包括切换指令,则执行步骤S506;若M路音频信息中未包括切换指令,则执行步骤S507至步骤S515。
示例性地,通过步骤S504可以得到M个音频信息;通过对M个音频信息中的每路音频信号进行切换指令识别,确定M个音频信息中的每路音频信号是否包括切换指令;其中,切换指令可以包括但不限于:切换至前置摄像头、切换至后置摄像头、前置录像、后置录像、双景录像、画中画录像等。
可选地,图11是本申请实施例提供的一种切换指令的识别方法的示意性流程图。该识别方法600包括步骤S601至步骤S606,下面分别对步骤S601至步骤S606进行详细的描述。
步骤S601、获取分离处理后的M个音频信号。
可选地,步骤S601中也可以是获取拾音装置采集的音频数据,如图8所示的步骤S401。
步骤S602、对M个音频信息分别进行降噪处理。
示例性地,降噪处理可以采用任意一种降噪处理算法;例如,降噪处理算法可以包括谱减法或者维纳滤波算法;其中,减谱法的原理是用带噪信号的频谱减去噪声信号的频谱,得到干净信号的频谱;维纳滤波算法的原理是将带噪信号经过线性滤波器变换来逼近原信号,并求均方误差最小时的线性滤波器参数。
步骤S603、将降噪处理后的M个音频信息分别输入至声学模型,其中,声学模型为预先训练的深度神经网络。
步骤S604、对于M个音频信息中每一路音频信息输出一个置信度,置信度用于表示一路音频信息中包括某一切换指令的置信度大小。
步骤S605、将置信度与预设阈值进行比较;在置信度大于预设阈值时,执行步骤S606。
步骤S606、得到切换指令。
应理解,上述步骤S601至步骤S606为举例说明;也可以通过其他识别方法识别音频信息中是否包括切换指令,本申请对此不作任何限定。
步骤S506、执行切换指令。
示例性地,基于步骤S505识别到的切换指令,电子设备自动执行该切换指令。
应理解,电子设备自动执行该切换指令可以是指无需用户在手动切换相机应用程序的情况下,电子设备可以基于切换指令自动切换电子设备的摄像头。
应理解,步骤S507至步骤S509用于输出M个音频信息的指向性,即确定M个音频信息中前向音频信号与后向音频信号;其中,前向音频信号可以是指在电子设备的前置摄像头的预设角度范围内的音频信号;后向音频信号可以是指在电子设备的后置摄像头的预设角度范围内的音频信号。
步骤S507、在M个音频信息不包括切换指令的情况下,对M个音频信息进行声音方向概率计算。
示例性地,基于cACGMM以及3个拾音装置采集的音频数据,可以计算当前输入音频数据的频点在各个方向存在的概率值。
应理解,cACGMM是一种高斯混合模型;高斯混合模型是指用高斯概率密度函数(例如,正态分布曲线)精确地量化事物,将一个事物分解为若干的基于高斯概率密度函数(例如,正态分布曲线)形成的模型。
例如,音频数据的频点在各个方向的概率值满足以下约束条件:
其中,Pk(t,f)表示在k方向的概率值;t表示语音帧(例如,一帧音频数据),f表示频点(例如,一帧音频数据的频率角度)。
应理解,在本申请的实施例中,频点可以是指时频点;时频点可以包括音频数据对应的时间信息、频率范围信息与能量信息。
示例性地,在本申请的实施例中K可以为36;由于电子设备的一周为360度,K为36则可以每隔10度可以设置为一个方向。
应理解,上述约束条件可以表示某个频点在所有方向的概率总和为1。
步骤S508、空间聚类。
应理解,在本申请的实施例中,通过空间聚类可以确定音频数据在电子设备的摄像头的视角范围内的概率值。
示例性地,电子设备的屏幕正前方通常为0度方向,为了确保电子设备的摄像头内的音频数据不损失,如图10所示,可以将前向方向的目标角度设置为[-30,30];将电子设备的后向方向的目标角度设置为[150,210];对应的角度方向索引分别为k1~k2,空间聚类概率为:
其中,P(t,f)表示音频数据的频点在目标角度的概率;Pk(t,f)表示音频数据的频点在k方向的概率值。
步骤S509、增益计算。
其中,gmask(t,f)表示音频数据的频点增益;Pth1表示第一概率阈值;Pth2表示第二概率阈值;gmask-min表示非目标角度中的音频数据的频点增益。
应理解,当音频数据的频点在目标角度的概率大于第一概率阈值时,可以表示该频点在目标角度范围内;当音频数据的频点在目标角度的概率小于或者等于第二概率阈值,则可以表示该频点在非目标角度范围;例如,第一概率阈值可以为0.8;非目标角度中的音频数据的频点增益可以是预先配置的参数;例如,0.2;第二概率阈值可以为0.1。
还应理解,通过上述音频数据的增益计算可以实现对音频数据的平滑处理;使得目标角度范围内的音频数据的频点增强,非目标角度范围内的音频数据的频点减弱。
步骤S510、基于音频数据的频点增益与傅里叶变换处理,可以得到后向音频数据。
示例性地,如图10所示,后向音频数据可以是指在电子设备的后向方向上的音频数据;其中,电子设备的后向方向的目标角度可以为[150,210]。
例如,yback(t,f)=gback-mask(t,f)*xback(t,f);其中,yback(t,f)可以表示后向音频数据;gback-mask(t,f)表示后向音频数据的频点增益;xback(t,f)表示后向音频数据的傅里叶变换。
步骤S511、对后向音频数据进行语音活性检测。
示例性地,可以通过倒谱算法对后向音频数据进行语义检测,得到语音活性检测结果;若检测到基频,则确定后向语音波束中包括用户的音频信息;若未检测到基频,则确定后向语音波束中不包括用户的语音信息。
需要说明的是,后向音频数据是指电子设备采集的在后向方向的角度范围中的音频数据;后向音频数据中可以包括拍摄环境中的音频信息(例如,车辆的鸣笛声等),或者用户的语音信息;通过对后向音频数据进行语音检测是为了确定后向语音数据中是否包括用户的语音信息;在后向语音数据中包括用户的语音信息时,在执行后续步骤S515时可以对后向语音数据进行放大处理,从而使得能够提高获取用户的语音信息的准确性。
应理解,倒谱算法是信号处理和信号检测中的方法;所谓倒谱是指信号对数功率谱的功率谱;倒谱算法是信号处理和信号检测中的方法;所谓倒谱是指信号对数功率谱的功率谱;通过倒谱求语音的原理为:由于浊音信号是周期性激励的,因此浊音信号在倒谱上是周期的冲激,从而可以求得基音周期;一般把倒谱波形中第二个冲激(第一个是包络信息),认为是激励源的基频;基频是指语音的特征之一,若存在基频则表示当前音频数据中存在语音。
步骤S512、基于音频数据的频点增益与音频数据的能量,可以得到前向音频数据。
示例性地,如图10所示,前向音频数据可以是指在电子设备的前向方向上的音频数据;其中,电子设备的前向方向的目标角度可以为[-30,30]。
例如,yfront(t,f)=gfront-mask(t,f)*xfront(t,f);其中,yfront(t,f)可以表示前向语音波束;gfront-mask(t,f)表示前向音频数据的频点增益;xfront(t,f)表示前向音频数据的傅里叶变换。
步骤S513、对前向音频数据进行语音活性检测。
示例性地,可以通过倒谱算法对前向音频数据进行语义检测,得到语音活性检测结果;若检测到基频,则确定前向语音波束中包括用户的音频信息;若未检测到基频,则确定前向语音波束中不包括用户的语音信息。
需要说明的是,前向音频数据是指电子设备采集的在前向方向的角度范围中的音频数据;前向音频数据中可以包括拍摄环境中的音频信息(例如,车辆的鸣笛声等),或者用户的语音信息;通过对前向音频数据进行语音检测是为了确定前向语音数据中是否包括用户的语音信息;在前向语音数据中包括用户的语音信息时,在执行后续步骤S515时可以对前向语音数据进行放大处理,从而使得能够提高获取用户的语音信息的准确性。
步骤S514、对拾音装置采集的音频数据进行波达方向估计。
应理解,在本申请的实施例中,通过对拾音装置采集的音频数据进行波达方向估计可以得到音频数据对应的角度信息,从而可以确定拾音装置获取的音频数据是否在目标角度范围内;例如,确定音频数据是否在电子设备的前向方向的目标角度范围内,或者,后向方向的目标角度范围内。
示例性地,可以采用高分辨率谱估计的定位算法(例如,基于旋转不变技术的信号参数估计(estimating signal parameter via rotational invariance techniques,ESPRIT))、可控波束形成的定位算法或者基于到达时间差(time difference of arrival,TDOA)的定位算法等,对拾音装置采集的音频数据进行波达方向估计。
其中,ESRT是指一种旋转不变性技术算法,其原理主要是基于信号的旋转不变性估算信号参数。可控波束形成方法的定位算法的原理是将麦克风接收到的信号进行滤波加权求和来形成波束,按照一定的规律对声源位置进行搜索,当麦克风达到最大输出功率时,搜索到的声源位置即为真实的声源方位。TDOA用于表示声源到达电子设备中不同麦克风的时间差。
在一个示例中,TDOA的定位算法可以包括GCC-PHAT算法;以GCC-PHAT算法为例,对基于音频数据进行波达方向估计进行说明;如图12所示,拾音装置1与拾音装置2采集到音频数据;拾音装置1与拾音装置2之间的距离为d,则可以根据GCC-PHAT算法得到音频数据与电子设备之间的角度信息。
例如,图12所示的角度θ可以基于以下公式得到:
其中,IDFT表示离散傅立叶逆变换的逆运算;xa(t,f)表示拾音装置1采集的音频数据进行傅立叶变换后得到的频域信息;xb(t,f)表示拾音装置2采集的音频数据进行傅立叶变换后得到的频域信息;arg表示变元(即自变量argument的英文缩写);arg max表示使后面的公式达到最大值时的变量的取值。
步骤S515、根据波达方向估计得到的角度信息与语音活性检测结果,可以对前向语音波束与后向语音波束进行数据分析,得到切换指令。
示例性地,分别计算前向语音波束与后向语音波束的平均幅度谱;当语音活性检测结果表示前向语音波束中包括用户的音频信息时,可以对前向语音波束的平均幅度谱分别进行第一放大处理;或者当语音活性检测结果表示后向语音波束中包括用户的音频信息时,可以对后向语音波束的平均幅度谱分别进行第一放大处理;例如,第一放大处理的放大系数为α(1<α<2)。
应理解,对前向语音波束中的不同频点的幅度谱取平均值后得到的幅度谱可以称为前向波束的平均幅度谱;对后向语音波束中的不同频点的幅度谱取平均值后得到的幅度谱可以称为后向波束的平均幅度谱;基于前向语音波束的平均幅度谱和/或后向语音波束的平均幅度谱进行数据分析,可以提高前向语音波束和/或后向语音波束中信息的准确性。
进一步地,当基于波达方向估计得到的角度信息确定前向语音波束在前向的目标角度范围时,可以对前向语音波束的平均幅度谱进行第二放大处理;或者,当基于波达方向估计得到的角度信息确定后向语音波束在后向的目标角度范围时,可以对后向语音波束的平均幅度谱进行第二放大处理;例如,第二放大处理的放大系数为β(1<β<2),得到放大处理后的前向语音波束的幅度谱与后向语音波束的幅度谱。
应理解,在本申请的实施例中,对前向语音波束或者后向语音波束进行放大处理是为了调整幅度谱的准确性;此外,在语音波束(例如,前向语音波束和/或后向语音波束)中包括用户的音频信息时,对语音波束的幅度谱进行放大处理,能够提高获取的用户音频信息的准确性;在幅度谱与用户音频信息的准确性提升的情况下,能够准确地得到语音波束中的切换指令。
例如,音频数据中一个频点对应的幅度谱可以通过以下公式计算:
其中,Mag(i)表示第i个频点对应的幅度谱;i表示第i个频点;K表示频点范围;Ki-1~Ki表示取平均所需要的频点范围;应理解,可以无需对所有频点取平均,获取部分频点的平均值。
例如,当语音活性检测结果表示前向语音波束中包括用户的音频信息,且前向语音波束在前向的目标角度范围内时,放大处理后的前向语音波束的平均幅度谱为:
MagFront=MagFront1*α*β;
其中,MagFront表示放大处理后的前向语音波束的平均幅度谱;MagFront1表示原始的前向语音波束的平均幅度谱;α表示预设的第一放大系数;β表示预设的第二放大系数。
应理解,对前向语音波束中的不同频点的幅度谱取平均值后得到的幅度谱可以称为前向波束的平均幅度谱。
例如,当语音活性检测结果表示后向语音波束中包括用户的音频信息,且后向语音波束在后向的目标角度范围内时,放大处理后的后向语音波束的平均幅度谱为:
MagBack=MagBack1*α*β;
其中,MagBack表示放大处理后的后向语音波束的平均幅度谱;MagBack1表示原始的后向语音波束的平均幅度谱;α表示预设的第一放大系数;β表示预设的第二放大系数。
应理解,对后向语音波束中的不同频点的幅度谱取平均值后得到的幅度谱可以称为后向波束的平均幅度谱。
在一个示例中,若MagFront与MagBack的能量均小于第一预设阈值,则认为电子设备的前向方向上与后向方向上均没有音频数据,则电子设备保持默认镜头录制视频;例如,如表1所示,该切换指令可以对应标识0。
在一个示例中,若MagFront或者MagBack中仅有一个能量大于第二预设阈值,则电子设备确定能量大于第一预设阈值的幅度谱对应的方向为主声源方向,将电子设备的镜头切换至该方向;例如,如表1所示,切换指令可以是切换至后置镜头,该切换指令可以对应标识1;或者,切换指令可以是的切换至前置镜头,该切换指令可以对应标识2。
在一个示例中,若MagFront或者MagBack中仅有一个能量大于或者等于第二预设阈值,且另一个能量大于或者等于第一预设阈值,其中,第二预设阈值大于第一预设阈值,则电子设备可以确定能量大于第二预设阈值的幅度谱对应的方向为主声源方向,能量大于第一预设阈值的幅度谱对应的方向为第二声源方向,此时电子设备可以启动画中画录制模式;将能量大于或者等于第二预设阈值的幅度谱对应的方向的画面作为主画面,将能量大于或者等于第一预设阈值的幅度谱对应的方向的画面作为副画面。
例如,若MagFront的能量大于或者等于第二预设阈值,且MagBack的能量大于或者等于第一预设阈值,则电子设备的切换指令可以为画中画前置主画,该切换指令可以对应标识3。
例如,若后向语音波束对应的幅度谱的能量大于或者等于第二预设阈值,且前向语音波束对应的幅度谱的能量大于或者等于第一预设阈值,则电子设备的切换指令可以为画中画后置主画;例如,如表1所示,该切换指令可以对应标识4。
在一个示例中,若MagFront或者MagBack的能量均大于或者等于第二预设阈值,电子设备可以确定开启双景录制,即开启前置镜头与后置镜头。可选地,可以将能量较大的方向对应的镜头采集的画面显示在显示屏的上侧或者左侧。
例如,若MagFront与MagBack的能量均大于或者等于第二预设阈值,且MagFront的能量大于MagBack的能量,则电子设备的切换指令可以为前后双景录制,将电子设备的前置镜头采集的画面显示在显示屏的上侧或者左侧;例如,如表1所示,该切换指令可以对应标识5。
例如,若MagFront与MagBack的能量均大于或者等于第二预设阈值,且MagBack的能量大于MagFront的能量,则电子设备的切换指令可以为后前双景录制,将电子设备的后置镜头采集的画面显示在显示屏的上侧或者左侧;例如,如表1所示,该切换指令可以对应标识6。
表1
应理解,表1中是对录制场景对应的标识进行举例说明,本申请对此不作任何限定;电子设备在不同的录制场景中,可以自动切换电子设备中的不同摄像头。
示例性地,电子设备可以基于对放大处理后的前向音频信息和/或放大处理后的后向音频信息的幅度谱得到切换指令,并自动执行该切换指令;即电子设备可以在无需用户手动切换相机应用程序的情况下,基于切换指令自动切换电子设备的摄像头。
在本申请的实施例中,在视频拍摄的场景中,可以根据拍摄环境内的音频数据得到切换指令,使得电子设备能够自动判断是否切换镜头,或者是否开启多镜录像等,使得在用户无需手动操作的情况下实现一镜到底的录像体验,提高用户体验。
图13示出了电子设备的一种图形用户界面(graphical user interface,GUI)。
如图13中的(a)所示,在多镜录像的预览界面中可以包括用于指示设置的控件600;检测到用户点击控件600的操作,响应于用户操作显示设置界面,如图13中的(b)所示;在设置界面上包括声控拍照的控件610,检测到用户开启声控拍照;在声控拍照中包括自动切换拍摄模式的控件620,检测到用户点击自动切换拍摄模式的控件620后,电子设备可以开启相机应用程序的自动切换拍摄模式;即可以执行本申请实施例提供的视频处理方法,在视频拍摄的场景中,可以根据拍摄环境内的音频数据得到切换指令,使得电子设备能够自动判断是否切换拍摄模式;在无需用户切换电子设备的拍摄模式的情况下完成视频的录制,提高用户的拍摄体验。
在一个示例中,如图14所示,在多镜录像的预览界面中可以包括指示开启自动切换拍摄模式的控件630,检测到用户点击自动切换拍摄模式的控件630后,电子设备可以开启相机应用程序的自动切换拍摄模式;即可以执行本申请实施例提供的视频处理方法,在视频拍摄的场景中,可以根据拍摄环境内的音频数据得到切换指令,使得电子设备能够自动判断是否切换拍摄模式;在无需用户切换电子设备的拍摄模式的情况下完成视频的录制,提高用户的拍摄体验。
图15示出了电子设备的一种图形用户界面(graphical user interface,GUI)。
图15中的(a)所示的GUI为电子设备的桌面640;当电子设备检测到用户点击桌面640上的设置的图标650的操作后,可以显示如图15中的(b)所示的另一GUI;图15中的(b)所示的GUI可以是设置的显示界面,在设置的显示界面中可以包括无线网络、蓝牙或者相机等选项;点击相机选项,进入相机的设置界面,显示如图15中的(c)所示的相机设置界面;在相机设置界面中可以包括自动切换拍摄模式的控件660;检测到用户点击自动切换拍摄模式的控件660后,电子设备可以开启相机应用程序的自动切换拍摄模式;即可以执行本申请实施例提供的视频处理方法,在视频拍摄的场景中,可以根据拍摄环境内的音频数据得到切换指令,使得电子设备能够自动判断是否切换拍摄模式;在无需用户切换电子设备的拍摄模式的情况下完成视频的录制,提高用户的拍摄体验。
应理解,上述举例说明是为了帮助本领域技术人员理解本申请实施例,而非要将本申请实施例限于所例示的具体数值或具体场景。本领域技术人员根据所给出的上述举例说明,显然可以进行各种等价的修改或变化,这样的修改或变化也落入本申请实施例的范围内。
上文结合图1至图15详细描述了本申请实施例提供的视频处理方法;下面将结合图16与图17详细描述本申请的装置实施例。应理解,本申请实施例中的装置可以执行前述本申请实施例的各种方法,即以下各种产品的具体工作过程,可以参考前述方法实施例中的对应过程。
图16是本申请实施例提供的一种电子设备的结构示意图。该电子设备700包括处理模块710与显示模块720;电子设备700还可以包括至少两个拾音装置;例如,至少两个麦克风。
其中,所述处理模块710用于启动所述电子设备中的相机应用程序;显示模块720用于显示第一图像,所述第一图像为所述电子设备处于第一拍摄模式时采集的图像;处理模块710还用于获取音频数据,所述音频数据为所述至少两个拾音装置采集的数据;基于所述音频数据得到切换指令,所述切换指令用于指示所述电子设备从所述第一拍摄模式切换至第二拍摄模式;所述显示模块720还用于显示第二图像,所述第二图像为所述电子设备处于所述第二拍摄模式时采集的图像。
可选地,作为一个实施例,所述电子设备包括第一摄像头与第二摄像头,所述第一摄像头与所述第二摄像头位于所述电子设备的不同方向,所述处理模块710具体用于:
识别所述音频数据中是否包括目标关键词,所述目标关键词为所述切换指令对应的文本信息;
在所述音频数据中识别到所述目标关键词的情况下,基于所述目标关键词得到所述切换指令;
在所述音频数据中未识别所述目标关键词的情况下,对所述音频数据进行处理,得到第一方向的音频数据和/或第二方向的音频数据,所述第一方向用于表示所述第一摄像头对应的第一预设角度范围,所述第二方向用于表示所述第二摄像头对应的第二预设角度范围;基于所述第一方向的音频数据和/或所述第二方向音频数据,得到所述切换指令。
可选地,作为一个实施例,所述处理模块710具体用于:
基于声音方向概率计算算法对所述音频数据进行处理,得到所述第一方向的音频数据和/或所述第二方向的音频数据。
可选地,作为一个实施例,所述处理模块710具体用于:
基于第一幅度谱的能量和/或第二幅度谱的能量,得到所述切换指令,所述第一幅度谱为所述第一方向的音频数据的幅度谱,所述第二幅度谱为所述第二方向的音频数据的幅度谱。
可选地,作为一个实施例,所述切换指令包括当前拍摄模式、第一画中画模式、第二画中画模式、第一双景模式、第二双景模式、所述第一摄像头的单摄模式或者所述第二摄像头的单摄模式,所述处理模块710具体用于:
若所述第一幅度谱的能量与所述第二幅度谱的能量均小于第一预设阈值,得到所述切换指令为保持所述当前拍摄模式;
若所述第一幅度谱的能量大于第二预设阈值,且所述第二幅度谱的能量小于或者等于所述第二预设阈值,所述切换指令为切换为所述第一摄像头的单摄模式;
若所述第二幅度谱的能量大于第二预设阈值,且所述第一幅度谱的能量小于或者等于所述第二预设阈值,所述切换指令为切换为所述第二摄像头的单摄模式;
若所述第一幅度谱的能量大于第二预设阈值,且所述第二幅度谱的能量大于或者等于第一预设阈值,所述切换指令为切换为所述第一画中画模式;
若所述第二幅度谱的能量大于第二预设阈值,且所述第一幅度谱的能量大于或者等于第一预设阈值,所述切换指令为切换为所述第二画中画模式;
若所述第一幅度谱的能量与所述第二幅度谱的能量均大于或者等于第二预设阈值,且所述第一幅度谱的能量大于所述第二幅度谱的能量,所述切换指令为切换为所述第一双景模式;
若所述第一幅度谱的能量与所述第二幅度谱的能量均大于或者等于第二预设阈值,且所述第二幅度谱的能量大于所述第一幅度谱的能量,所述切换指令为切换为所述第二双景模式;
其中,所述第二预设阈值大于所述第一预设阈值,所述第一画中画模式是指所述第一摄像头采集的图像为主画面的拍摄模式,所述第二画中画模式是指所述第二摄像头采集的图像为主画面的拍摄模式,所述第一双景模式是指所述第一摄像头采集的图像位于所述电子设备的显示屏的上侧或者左侧的拍摄模式,所述第二双景模式是指所述第二摄像头采集的图像位于所述电子设备的显示屏的上侧或者左侧的拍摄模式。
可选地,作为一个实施例,所述第一幅度谱为所述第一方向的音频数据中各个频点对应的幅度谱取平均得到的第一平均幅度谱;和/或,
所述第二幅度谱为所述第二方向的音频数据中各个频点对应的幅度谱取平均得到的第二平均幅度谱。
可选地,作为一个实施例,所述第一幅度谱为对第一平均幅度谱进行第一放大处理和/或第二放大后得到的幅度谱,所述第一平均幅度谱为对所述第一方向的音频数据中各个频点对应的幅度谱取平均得到的。
可选地,作为一个实施例,所述处理模块710具体用于:
对所述第一方向的音频数据进行语音检测,得到第一检测结果;
对所述至少两个拾音装置采集的数据进行波达方向估计,得到预测角度信息;
若所述第一检测检测指示所述第一方向的音频数据包括用户的音频信息,对所述第一方向的音频数据的幅度谱进行所述第一放大处理;和/或
若所述预测角度信息包括所述第一预设角度范围中的角度信息,对所述第一方向的音频数据的幅度谱进行所述第二放大处理。
可选地,作为一个实施例,所述第二幅度谱为对第二平均幅度谱进行第一放大处理和/或第二放大后得到的幅度谱,所述第二平均幅度谱为对所述第二方向的音频数据中各个频点对应的幅度谱取平均得到的。
可选地,作为一个实施例,所述处理模块710具体用于:
对所述第二方向的音频数据进行语音检测,得到第二检测结果;
对所述至少两个拾音装置采集的数据进行波达方向估计,得到预测角度信息;
若所述第二检测检测指示所述第二方向的音频数据包括用户的音频信息,对所述第二方向的音频数据的幅度谱进行所述第一放大处理;和/或
若所述预测角度信息包括所述第二预设角度范围中的角度信息,对所述第二方向的音频数据的幅度谱进行所述第二放大处理。
可选地,作为一个实施例,所述处理模块710具体用于:
基于盲信号分离算法对所述音频数据进行分离处理,得到N个音频信息,所述N个音频信息为不同用户的音频信息;
对所述N个音频信息中的每个音频信息进行识别,确定所述N个音频信息中是否包括所述目标关键词。
可选地,作为一个实施例,所述第一图像为所述电子设备处于多镜录像时采集的预览图像。
可选地,作为一个实施例,所述第一图像为所述电子设备处于多镜录像时采集的视频画面。
可选地,作为一个实施例,所述音频数据是指在所述电子设备所处的拍摄环境中所述拾音装置采集的数据。
需要说明的是,上述电子设备700以功能模块的形式体现。这里的术语“模块”可以通过软件和/或硬件形式实现,对此不作具体限定。
例如,“模块”可以是实现上述功能的软件程序、硬件电路或二者结合。所述硬件电路可能包括应用特有集成电路(application specific integrated circuit,ASIC)、电子电路、用于执行一个或多个软件或固件程序的处理器(例如共享处理器、专有处理器或组处理器等)和存储器、合并逻辑电路和/或其它支持所描述的功能的合适组件。
因此,在本申请的实施例中描述的各示例的单元,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
图17示出了本申请提供的一种电子设备的结构示意图。图17中的虚线表示该单元或该模块为可选的;电子设备800可以用于实现上述方法实施例中描述的方法。
电子设备800包括一个或多个处理器801,该一个或多个处理器801可支持电子设备800实现方法实施例中的视频处理方法。处理器801可以是通用处理器或者专用处理器。例如,处理器801可以是中央处理器(central processing unit,CPU)、数字信号处理器(digital signal processor,DSP)、专用集成电路(application specific integratedcircuit,ASIC)、现场可编程门阵列(field programmable gate array,FPGA)或者其它可编程逻辑器件,如分立门、晶体管逻辑器件或分立硬件组件。
处理器801可以用于对电子设备800进行控制,执行软件程序,处理软件程序的数据。电子设备800还可以包括通信单元805,用以实现信号的输入(接收)和输出(发送)。
例如,电子设备800可以是芯片,通信单元805可以是该芯片的输入和/或输出电路,或者,通信单元805可以是该芯片的通信接口,该芯片可以作为终端设备或其它电子设备的组成部分。
又例如,电子设备800可以是终端设备,通信单元805可以是该终端设备的收发器,或者,通信单元805可以是该终端设备的收发电路。
电子设备800中可以包括一个或多个存储器802,其上存有程序804,程序804可被处理器801运行,生成指令803,使得处理器801根据指令803执行上述方法实施例中描述的视频处理方法。
可选地,存储器802中还可以存储有数据。
可选地,处理器801还可以读取存储器802中存储的数据,该数据可以与程序804存储在相同的存储地址,该数据也可以与程序804存储在不同的存储地址。
处理器801和存储器802可以单独设置,也可以集成在一起,例如,集成在终端设备的系统级芯片(system on chip,SOC)上。
示例性地,存储器802可以用于存储本申请实施例中提供的视频处理方法的相关程序804,处理器801可以用于在执行视频处理方法时调用存储器802中存储的视频处理方法的相关程序804,执行本申请实施例的视频处理方法;例如,启动电子设备中的相机应用程序;显示第一图像,第一图像为电子设备处于第一拍摄模式时采集的图像;获取音频数据,音频数据为电子设备中的至少两个拾音装置采集的数据;基于音频数据得到切换指令,切换指令用于指示电子设备从第一拍摄模式切换至第二拍摄模式;显示第二图像,第二图像为电子设备处于第二拍摄模式时采集的图像。
本申请还提供了一种计算机程序产品,该计算机程序产品被处理器801执行时实现本申请中任一方法实施例的视频处理方法。
该计算机程序产品可以存储在存储器802中,例如是程序804,程序804经过预处理、编译、汇编和链接等处理过程最终被转换为能够被处理器801执行的可执行目标文件。
本申请还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被计算机执行时实现本申请中任一方法实施例所述的视频处理方法。该计算机程序可以是高级语言程序,也可以是可执行目标程序。
该计算机可读存储介质例如是存储器802。存储器802可以是易失性存储器或非易失性存储器,或者,存储器802可以同时包括易失性存储器和非易失性存储器。其中,非易失性存储器可以是只读存储器(read-only memory,ROM)、可编程只读存储器(programmableROM,PROM)、可擦除可编程只读存储器(erasable PROM,EPROM)、电可擦除可编程只读存储器(electrically EPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(randomaccess memory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(static RAM,SRAM)、动态随机存取存储器(dynamicRAM,DRAM)、同步动态随机存取存储器(synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(double data rate SDRAM,DDR SDRAM)、增强型同步动态随机存取存储器(enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(synchlink DRAM,SLDRAM)和直接内存总线随机存取存储器(direct rambus RAM,DR RAM)。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的电子设备的实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
应理解,在本申请的各种实施例中,各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请的实施例的实施过程构成任何限定。
另外,本文中的术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准总之,以上所述仅为本申请技术方案的较佳实施例而已,并非用于限定本申请的保护范围。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (17)
1.一种视频处理方法,其特征在于,应用于电子设备,所述电子设备包括至少两个拾音装置,所述视频处理方法包括:
运行所述电子设备中的相机应用程序;
显示第一图像,所述第一图像为所述电子设备处于第一拍摄模式时采集的图像;
获取音频数据,所述音频数据为所述至少两个拾音装置采集的数据;
基于所述音频数据得到切换指令,所述切换指令用于指示所述电子设备从所述第一拍摄模式切换至第二拍摄模式;
显示第二图像,所述第二图像为所述电子设备处于所述第二拍摄模式时采集的图像。
2.如权利要求1所述的视频处理方法,其特征在于,所述电子设备包括第一摄像头与第二摄像头,所述第一摄像头与所述第二摄像头位于所述电子设备的不同方向,所述基于所述音频数据得到切换指令,包括:
识别所述音频数据中是否包括目标关键词,所述目标关键词为所述切换指令对应的文本信息;
在所述音频数据中识别到所述目标关键词的情况下,基于所述目标关键词得到所述切换指令;
在所述音频数据中未识别所述目标关键词的情况下,对所述音频数据进行处理,得到第一方向的音频数据和/或第二方向的音频数据,所述第一方向用于表示所述第一摄像头对应的第一预设角度范围,所述第二方向用于表示所述第二摄像头对应的第二预设角度范围;基于所述第一方向的音频数据和/或所述第二方向音频数据,得到所述切换指令。
3.如权利要求2所述的视频处理方法,其特征在于,所述对所述音频数据进行处理,得到第一方向的音频数据和/或第二方向的音频数据,包括:
基于声音方向概率计算算法对所述音频数据进行处理,得到所述第一方向的音频数据和/或所述第二方向的音频数据。
4.如权利要求2或3所述的视频处理方法,其特征在于,所述基于所述第一方向的音频数据和/或所述第二方向音频数据,得到所述切换指令,包括:
基于第一幅度谱的能量和/或第二幅度谱的能量,得到所述切换指令,所述第一幅度谱为所述第一方向的音频数据的幅度谱,所述第二幅度谱为所述第二方向的音频数据的幅度谱。
5.如权利要求4所述的视频处理方法,其特征在于,所述切换指令包括当前拍摄模式、第一画中画模式、第二画中画模式、第一双景模式、第二双景模式、所述第一摄像头的单摄模式或者所述第二摄像头的单摄模式,所述基于第一幅度谱的能量和/或第二幅度谱的能量,得到所述切换指令,包括:
若所述第一幅度谱的能量与所述第二幅度谱的能量均小于第一预设阈值,得到所述切换指令为保持所述当前拍摄模式;
若所述第一幅度谱的能量大于第二预设阈值,且所述第二幅度谱的能量小于或者等于所述第二预设阈值,所述切换指令为切换为所述第一摄像头的单摄模式;
若所述第二幅度谱的能量大于第二预设阈值,且所述第一幅度谱的能量小于或者等于所述第二预设阈值,所述切换指令为切换为所述第二摄像头的单摄模式;
若所述第一幅度谱的能量大于第二预设阈值,且所述第二幅度谱的能量大于或者等于第一预设阈值,所述切换指令为切换为所述第一画中画模式;
若所述第二幅度谱的能量大于第二预设阈值,且所述第一幅度谱的能量大于或者等于第一预设阈值,所述切换指令为切换为所述第二画中画模式;
若所述第一幅度谱的能量与所述第二幅度谱的能量均大于或者等于第二预设阈值,且所述第一幅度谱的能量大于所述第二幅度谱的能量,所述切换指令为切换为所述第一双景模式;
若所述第一幅度谱的能量与所述第二幅度谱的能量均大于或者等于第二预设阈值,且所述第二幅度谱的能量大于所述第一幅度谱的能量,所述切换指令为切换为所述第二双景模式;
其中,所述第二预设阈值大于所述第一预设阈值,所述第一画中画模式是指所述第一摄像头采集的图像为主画面的拍摄模式,所述第二画中画模式是指所述第二摄像头采集的图像为主画面的拍摄模式,所述第一双景模式是指所述第一摄像头采集的图像位于所述电子设备的显示屏的上侧或者左侧的拍摄模式,所述第二双景模式是指所述第二摄像头采集的图像位于所述电子设备的显示屏的上侧或者左侧的拍摄模式。
6.如权利要求4或5所述的视频处理方法,其特征在于,所述第一幅度谱为所述第一方向的音频数据中各个频点对应的幅度谱取平均得到的第一平均幅度谱;和/或,
所述第二幅度谱为所述第二方向的音频数据中各个频点对应的幅度谱取平均得到的第二平均幅度谱。
7.如权利要求4或5所述的视频处理方法,其特征在于,所述第一幅度谱为对第一平均幅度谱进行第一放大处理和/或第二放大后得到的幅度谱,所述第一平均幅度谱为对所述第一方向的音频数据中各个频点对应的幅度谱取平均得到的。
8.如权利要求7所述的视频处理方法,其特征在于,所述视频处理方法还包括:
对所述第一方向的音频数据进行语音检测,得到第一检测结果;
对所述至少两个拾音装置采集的数据进行波达方向估计,得到预测角度信息;
若所述第一检测检测指示所述第一方向的音频数据包括用户的音频信息,对所述第一方向的音频数据的幅度谱进行所述第一放大处理;和/或
若所述预测角度信息包括所述第一预设角度范围中的角度信息,对所述第一方向的音频数据的幅度谱进行所述第二放大处理。
9.如权利要求4或5所述的视频处理方法,其特征在于,所述第二幅度谱为对第二平均幅度谱进行第一放大处理和/或第二放大后得到的幅度谱,所述第二平均幅度谱为对所述第二方向的音频数据中各个频点对应的幅度谱取平均得到的。
10.如权利要求9所述的视频处理方法,其特征在于,所述视频处理方法还包括:
对所述第二方向的音频数据进行语音检测,得到第二检测结果;
对所述至少两个拾音装置采集的数据进行波达方向估计,得到预测角度信息;
若所述第二检测检测指示所述第二方向的音频数据包括用户的音频信息,对所述第二方向的音频数据的幅度谱进行所述第一放大处理;和/或
若所述预测角度信息包括所述第二预设角度范围中的角度信息,对所述第二方向的音频数据的幅度谱进行所述第二放大处理。
11.如权利要求2至10中任一项所述的视频处理方法,其特征在于,所述识别所述音频数据中是否包括目标关键词,包括:
基于盲信号分离算法对所述音频数据进行分离处理,得到N个音频信息,所述N个音频信息为不同用户的音频信息;
对所述N个音频信息中的每个音频信息进行识别,确定所述N个音频信息中是否包括所述目标关键词。
12.如权利要求1至11中任一项所述的视频处理方法,其特征在于,所述第一图像为所述电子设备处于多镜录像时采集的预览图像。
13.如权利要求1至11中任一项所述的视频处理方法,其特征在于,所述第一图像为所述电子设备处于多镜录像时采集的视频画面。
14.如权利要求1至13中任一项所述的视频处理方法,其特征在于,所述音频数据是指在所述电子设备所处的拍摄环境中所述拾音装置采集的数据。
15.一种电子设备,其特征在于,包括:
一个或多个处理器和存储器;
所述存储器与所述一个或多个处理器耦合,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行如权利要求1至14中任一项所述的视频处理方法。
16.一种芯片系统,其特征在于,所述芯片系统应用于电子设备,所述芯片系统包括一个或多个处理器,所述处理器用于调用计算机指令以使得所述电子设备执行如权利要求1至14中任一项所述的视频处理方法。
17.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储了计算机程序,当所述计算机程序被处理器执行时,使得处理器执行权利要求1至14中任一项所述的视频处理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/CN2022/117323 WO2023124200A1 (zh) | 2021-12-27 | 2022-09-06 | 视频处理方法与电子设备 |
EP22882090.8A EP4231622A4 (en) | 2021-12-27 | 2022-09-06 | VIDEO PROCESSING METHOD AND ELECTRONIC DEVICE |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2021116363575 | 2021-12-27 | ||
CN202111636357 | 2021-12-27 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116405774A true CN116405774A (zh) | 2023-07-07 |
Family
ID=87006279
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210320689.0A Pending CN116405774A (zh) | 2021-12-27 | 2022-03-29 | 视频处理方法与电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116405774A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117714802A (zh) * | 2023-12-15 | 2024-03-15 | 杭州无忧数字信息科技有限公司 | 一种网络直播智能机器人系统 |
-
2022
- 2022-03-29 CN CN202210320689.0A patent/CN116405774A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117714802A (zh) * | 2023-12-15 | 2024-03-15 | 杭州无忧数字信息科技有限公司 | 一种网络直播智能机器人系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111050269B (zh) | 音频处理方法和电子设备 | |
US9692959B2 (en) | Image processing apparatus and method | |
CN111183632A (zh) | 图像捕捉方法及电子设备 | |
CN114365476A (zh) | 一种拍摄方法及设备 | |
CN112633306B (zh) | 对抗图像的生成方法及装置 | |
CN111917980B (zh) | 拍照控制方法及装置、存储介质和电子设备 | |
CN110661970B (zh) | 拍照方法、装置、存储介质及电子设备 | |
KR20160108827A (ko) | 이미지 필터를 생성하기 위한 방법 및 장치 | |
CN111741284A (zh) | 图像处理的装置和方法 | |
CN113393856B (zh) | 拾音方法、装置和电子设备 | |
CN112689221B (zh) | 录音方法、录音装置、电子设备及计算机可读存储介质 | |
CN113744750B (zh) | 一种音频处理方法及电子设备 | |
EP3930321A1 (en) | Large aperture blurring method based on dual camera + tof | |
EP4376433A1 (en) | Camera switching method and electronic device | |
CN113711123B (zh) | 一种对焦方法、装置及电子设备 | |
CN113573120B (zh) | 音频的处理方法及电子设备、芯片系统及存储介质 | |
CN116405774A (zh) | 视频处理方法与电子设备 | |
CN113053406A (zh) | 声音信号识别方法及装置 | |
CN112508959A (zh) | 视频目标分割方法、装置、电子设备及存储介质 | |
CN116546316B (zh) | 切换摄像头的方法与电子设备 | |
CN116095254B (zh) | 音频处理方法和装置 | |
CN115150542B (zh) | 一种视频防抖方法及相关设备 | |
WO2023124200A1 (zh) | 视频处理方法与电子设备 | |
CN114302063B (zh) | 一种拍摄方法及设备 | |
CN116128739A (zh) | 下采样模型的训练方法、图像处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |