CN112669883A - 用于音频播放设备的异常检查方法、装置和存储介质 - Google Patents

用于音频播放设备的异常检查方法、装置和存储介质 Download PDF

Info

Publication number
CN112669883A
CN112669883A CN202011544628.XA CN202011544628A CN112669883A CN 112669883 A CN112669883 A CN 112669883A CN 202011544628 A CN202011544628 A CN 202011544628A CN 112669883 A CN112669883 A CN 112669883A
Authority
CN
China
Prior art keywords
signal
watermark
audio
watermark signal
frequency
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011544628.XA
Other languages
English (en)
Inventor
郑羲光
张晨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Dajia Internet Information Technology Co Ltd
Original Assignee
Beijing Dajia Internet Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Dajia Internet Information Technology Co Ltd filed Critical Beijing Dajia Internet Information Technology Co Ltd
Priority to CN202011544628.XA priority Critical patent/CN112669883A/zh
Publication of CN112669883A publication Critical patent/CN112669883A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

本公开提供了一种用于音频播放设备的异常检查方法、装置和存储介质。该方法包括:生成与水印信息相应的水印信号,其中,所述水印信号的频率位于人耳不敏感的频带;将生成的水印信号添加到将通过音频播放设备输出的原始音频信号以生成混合音频信号;通过音频播放设备输出混合音频信号并通过电子设备的麦克风接收混合音频信号;从接收的混合音频信号中过滤出与水印信号相应的频带的部分信号,并对过滤出的部分信号进行解析以检测混合音频信号中的水印信号;根据针对水印信号的检测结果确定音频播放设备是否异常。该方法和装置能够在不干扰用户的情况下实现对音频播放设备的检查,为用户提供了更好的用户体验。

Description

用于音频播放设备的异常检查方法、装置和存储介质
技术领域
本公开涉及音频技术领域,尤其涉及一种用于音频播放设备的异常检查方法、装置、电子设备和计算机可读存储介质。
背景技术
由于音频硬件工艺、使用音频播放设备的操作系统和相应驱动的复杂性,导致很多场景会出现播放设备无声的现象。在这种情况下,如果从音频硬件设备的日志信息或者数据上报进行检查,通常是无法发现问题的,需要依赖用户反馈才知道真正的问题。
在相关技术的音视频通话应用当中,通常需要通知用户播放特定的文件来检查音频播放设备是否异常。由于播放特定的文件会打断正常的音视频通话,并且需要用户在使用中主动切换到设备检测页面,而一般人并不知道产品中是否有这个检查功能,也不知道是发生了什么异常,会对产品的可用性产生误解,提高了用户的使用成本。
发明内容
本公开提供一种检查音频播放设备的方法、装置、存储介质及电子设备,以至少解决相关技术中的检查音频播放设备为用户带来困扰的问题,也可不解决任何上述问题。
根据本公开的第一方面,提供了一种异常检查方法,所述方法用于检查电子设备的音频播放设备,所述方法包括:生成与水印信息相应的水印信号,其中,所述水印信号的频率位于人耳不敏感的频带;将生成的水印信号添加到将通过音频播放设备输出的原始音频信号以生成混合音频信号;通过音频播放设备输出混合音频信号并通过电子设备的麦克风接收混合音频信号;从接收的混合音频信号中过滤出与水印信号相应的频带的部分信号,并对过滤出的部分信号进行解析以检测混合音频信号中的水印信号;根据针对水印信号的检测结果确定音频播放设备是否异常。
根据本公开的第一方面,所述水印信息是在电子设备中能够唯一确定的字符信息,所述水印信号的频率大于16kHz。
根据本公开的第一方面,所述生成与水印信息相应的水印信号包括:获取所述水印信息的信息元素;生成与获取的信息元素相应的多个信号作为水印信号,其中,所述多个信号中的每个信号是具有彼此不同的频率的单频信号或者具有相同的多个频率的多频信号。
根据本公开的第一方面,所述生成水印信号还包括:在生成的水印信号中加入用于指示水印信息的开始位置的同步信号,和/或在生成的水印信号中加入用于校验或自我更正的冗余信号。
根据本公开的第一方面,所述将水印信号添加到将通过音频装置的扬声器输出的原始音频信号包括:分别对水印信号和原始音频信号应用不同的增益,并将应用了增益的水印信号和原始音频信号混合以生成所述混合音频信号,其中,水印信号的增益和原始音频信号的增益由预先设置的水印信号的输出强度、水印信号的最大强度以及原始音频信号的最大强度确定。
根据本公开的第一方面,所述对过滤出的部分信号进行解析以检测混合音频信号中的水印信号包括:确定所述部分信号与水印信号的相关性;响应于所述部分信号与水印信号的相关性高于阈值,确定在所述混合音频信号中检测到水印信号,响应于所述部分信号与水印信号的相关性低于阈值,确定所述混合音频信号中没有检测到水印信号。
根据本公开的第一方面,所述对过滤出的部分信号进行解析以检测混合音频信号中的水印信号还包括:在过滤出的部分信号中检测同步信号;响应于在过滤出的部分信号检测到同步信号,开始对同步信号之后的信号进行解析以确定在解析出的信号中是否存在水印信号。
根据本公开的第一方面,所述在过滤出的部分信号中检测同步信号包括:确定过滤出的部分信号与同步信号的相关性,并且当过滤出的部分信号与同步信号的相关性高于阈值时,确定在过滤出的部分信号检测到同步信号。
根据本公开的第一方面,所述方法还包括:使用冗余信号对解析出的水印信号进行校验。
根据本公开的第一方面,所述方法由使用音频播放设备的应用在开启音频播放设备时执行,其中,所述方法还包括:响应于确定音频播放设备出现异常,向用户输出指示音频播放设备异常的提示。
根据本公开的第二方面,提供了一种异常检查装置,所述装置用于检查电子设备的音频播放设备,所述装置包括:水印生成模块,被配置为生成与水印信息相应的水印信号,其中,所述水印信号的频率位于人耳不敏感的频带;混合模块,被配置为将生成的水印信号添加到将通过音频播放设备输出的原始音频信号以生成混合音频信号;输入输出模块,被配置为通过音频播放设备输出混合音频信号并通过电子设备的麦克风接收混合音频信号;水印检测模块,被配置为从接收的混合音频信号中过滤出与水印信号相应的频带的部分信号,并对过滤出的部分信号进行解析以检测混合音频信号中的水印信号;异常确定模块,被配置为根据针对水印信号的检测结果确定音频播放设备是否异常。
根据本公开的第二方面,所述水印信息是在电子设备中能够唯一确定的字符信息,所述水印信号的频率大于16kHz。
根据本公开的第二方面,所述水印生成模块包括:信息元素获取模块,被配置为获取所述水印信息的信息元素;水印信号生成模块,被配置为生成与获取的信息元素相应的多个信号作为水印信号,其中,所述多个信号中的每个信号是具有彼此不同的频率的单频信号或者具有相同的多个频率的多频信号。
根据本公开的第二方面,所述水印生成模块还包括:同步信号模块,被配置为在生成的水印信号中加入用于指示水印信息的开始位置的同步信号,和/或冗余信号模块,被配置为在生成的水印信号中加入用于校验或自我更正的冗余信号。
根据本公开的第二方面,所述混合模块被配置为分别对水印信号和原始音频信号应用不同的增益,并将应用了增益的水印信号和原始音频信号混合以生成所述混合音频信号,其中,水印信号的增益和原始音频信号的增益由预先设置的水印信号的输出强度、水印信号的最大强度以及原始音频信号的最大强度确定。
根据本公开的第二方面,所述水印检测模块包括:相关性检测模块,被配置为确定所述部分信号与水印信号的相关性;判断模块,被配置为响应于所述部分信号与水印信号的相关性高于阈值,确定在所述混合音频信号中检测到水印信号,响应于所述部分信号与水印信号的相关性低于阈值,确定所述混合音频信号中没有检测到水印信号。
根据本公开的第二方面,所述水印检测模块包括:同步信号检测模块,被配置为在过滤出的部分信号中检测同步信号;解析模块,被配置为响应于在过滤出的部分信号检测到同步信号,开始对同步信号之后的信号进行解析,以确定在解析出的信号中是否存在水印信号。
根据本公开的第二方面,所述同步信号检测模块被配置为确定过滤出的部分信号与同步信号的相关性,并且当过滤出的部分信号与同步信号的相关性高于阈值时,确定在过滤出的部分信号检测到同步信号。
根据本公开的第二方面,所述水印检测模块还包括:校验模块,被配置为使用冗余信号对解析出的水印信号进行校验。
根据本公开的第二方面,所述装置在音频播放设备被开启时检查所述音频播放设备,其中,异常确定模块还被配置为响应于确定音频播放设备出现异常,向用户输出指示音频播放设备异常的提示。
根据本公开的第三方面,提供了一种电子设备,包括:音频播放设备;麦克风;至少一个处理器;至少一个存储计算机可执行指令的存储器,其中,所述计算机可执行指令在被所述至少一个处理器运行时,促使所述至少一个处理器执行如上所述的异常检查方法。
根据本公开的第四方面,提供了一种计算机可读存储介质,当所述计算机可读存储介质中的指令由电子设备执行时,使得电子设备能够执行如上所述的异常检查方法。
根据本公开的第五方面,提供了一种计算机程序产品,其特征在于所述计算机程序产品中的指令被电子设备中的至少一个处理器运行以执行如上所述的异常检查方法。
本公开的实施例提供的技术方案至少带来以下有益效果:
在不干扰用户的情况下实现对音频播放设备的检查,不需要用户执行相应的检查操作,从而提高了用户体验。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理,并不构成对本公开的不当限定。
图1是示出根据示例性实施例的检查音频播放设备的方法和装置的应用环境的示意图。
图2是示出根据示例性实施例的检查电子设备的音频播放设备的方法的流程图。
图3和图4是分别示出根据本公开示例性实施例的单频水印信号和多频水印信号的时频域示图。
图5是示出根据示例性实施例检查音频播放设备的装置的框图根据另一示例性实施例的检查音频播放设备的方法的流程图。
图6是示出根据一示例性实施例的执行检查音频播放设备的电子设备的示意图。
具体实施方式
为了使本领域普通人员更好地理解本公开的技术方案,下面将结合附图,对本公开实施例中的技术方案进行清楚、完整地描述。
需要说明的是,本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
在此需要说明的是,在本公开中出现的“若干项之中的至少一项”均表示包含“该若干项中的任意一项”、“该若干项中的任意多项的组合”、“该若干项的全体”这三类并列的情况。例如“包括A和B之中的至少一个”即包括如下三种并列的情况:(1)包括A;(2)包括B;(3)包括A和B。又例如“执行步骤一和步骤二之中的至少一个”,即表示如下三种并列的情况:(1)执行步骤一;(2)执行步骤二;(3)执行步骤一和步骤二。
图1示出了根据示例性实施例的检查音频播放设备的方法和装置的应用环境的示意图。
如图1所示,具有音频处理能力的设备100例如可通过扬声器播放添加有特定水印信号的音频信号,并通过自身的麦克风接收到播放的音频信号。然后,设备100可对音频信号中的水印信号进行检测来确定音频播放设备(例如,包括扬声器硬件及其驱动)是否存在异常。
应理解,根据本公开的示例性实施例的方法可以在具有音频处理能力(例如,设置有麦克风和扬声器以及相应的音频处理功能)的任何设备中执行。例如,可以在具有音频播放接收能力和处理能力的终端设备中执行该方法。这里,终端设备可以是手机、平板电脑、桌面型、膝上型、手持计算机、笔记本电脑、上网本、个人数字助理(personal digitalassistant,PDA)、增强现实(augmented reality,AR)/虚拟现实(virtual reality,VR)设备。可在设备上可运行需要使用音频播放设备的应用,诸如音视频播放应用、短视频应用、网络视频平台应用、音视频通话应用等。当这些应用在每次启用音频播放设备来输出音频信号时,可在应用中实现如上所述的检测过程,从而实现无需人工干预即可检测音频播放设备的效果。另外,也可在诸如视频会议系统的包括音频播放设备和音频接收设备的系统中实现根据本公开示例性示例的检查音频播放设备的方法和装置,在这样的系统中,音频播放设备(例如,音箱)和音频接收设备(麦克风)可以彼此分离并通过单独的控制设备连接和处理声音信号。
下面,将参照图2来说明根据本公开的示例性实施例的检查音频播放设备的方法。
首先,在步骤S210,生成与水印信息相应的水印信号。这里,水印信息可以是在电子设备中能够唯一确定的字符信息。例如,该字符信息可以是电子设备中的应用中使用的用户ID、用户的手机SIM卡的电话号码、在电子设备的操作系统中注册的用户账号等。应理解,这里的字符信息的例子仅是水印信息的示例,可采用任何可用的或预先设置的水印信息来生成水印信号。例如,可在存储器中预先存储一段水印信息,每次需要检查音频播放设备时从存储器中直接获取水印信息并生成与该水印信息相应的水印信号。生成的水印信号可被保存用于后续的检测过程。
这里,生成的水印信号的频率位于对于人耳不敏感的频带。这样,可以在用户不易察觉的情况下完成后续的检测操作,从而不会对用户带来困扰,例如,在通话过程中不会让用户听到语音信号以外的杂音,因此,可以在用户完全不知情的情况下完成音频播放设备的检查。可选地,可使用18kHz以上的高频频带来生成水印信号。这样的高频频带来生成水印信号在被扬声器播放时,如果播放音量适中,人耳将非常难以感知到水印信号的声音。
根据本公开的示例性实施例,可通过以下方式来生成水印信号:获取所述水印信息的信息元素;生成与获取的信息元素相应的多个信号作为水印信号。信息元素是组成水印信息的基本单位。例如,如果水印信息是用户的手机号码,则可获取的信息元素是手机号码的每个数字。例如,如果采用手机号码作为水印信息,则信息元素可以是手机号码的每个数字;如果采用用户注册的ID作为水印信息,则信息元素可以是数字、字母和/或符号。
根据本公开的示例性实施例,可采用与每个信息元素相应的频率的信号来表示不同的信息元素。例如,可采用具有彼此不同的频率的单频信号或者具有相同的多个频率的多频信号来表示信息元素。下面将参照图3和图4来说明根据本公开示例性实施例的单频水印信号和多频水印信号的时频域示图。
图3是示出根据本公开的示例性实施例的单频水印信号的时频域示图。如图3所示,在16500Hz以下的部分是原始音频信号的时频域图。从16500Hz开始,可每隔500Hz生成一个预定长度的信号来代表不同的数字。例如,使用17000Hz的信号来表示0,使用17500Hz的信号来表示1,…,依次类推。这样的信号序列可称为单频信号序列。应理解,这里的频率间隔和表示数字的方式仅是示意性的,可以采用其他的频率间隔或其他表示字符信息的方式。
图4是示出根据本公开的示例性实施例的多频水印信号的时频域示图。如图4所示,可采用固定的预定数量的频率的信号来表示符号。在图4中,使用4个频率17000Hz、17500Hz、18000Hz和18500Hz的信号通过二进制数来表示不同的十进制数字。即,当该频率的信号存在时表示二进制数1,该频率的信号不存在时表示二进制数0,这样,可通过多频信号表示二进制数来表示十进制数字0~9。例如,图4中示出的第一个多频信号的二进制数序列可以被表示为1111,0110,1100,1111,0001,1011,1111…。
应理解,以上的表示水印信号中的水印信息的方式仅是示意性的,本领域的技术人员可利用其他的人耳不敏感频率的信号以预定的方式来表示水印信号中的水印信息。
根据本公开的示例性实施例,在生成水印信号的过程中,还可在生成的水印信号中加入用于确定水印信息的开始位置的同步信号。可根据水印信号的表示方式来产生同步信号。例如,在使用如图3所示的单频水印信号的情况下,可使用全部频带都为1的信号作为同步信号。在使用如图4所示的多频水印信号的情况下,可使用某一个固定的组合频率信号作为同步信号,例如,可使用表示1111的多频信号作为同步信号。
根据本公开的示例性实施例,在生成水印信号的过程中,还可在生成的水印信号中加入用于对水印信号进行校验或自我更正的冗余信号。例如,可在生成的水印信号中加入循环冗余校验(CRC)信号来作为对生成的水印信号的校验码,从而在接收解码端可以检查水印信息是否被正确还原。
应理解,以上描述的添加同步信号和冗余信号的方式仅是示意性的,根据本公开的示例性实施例的生成水印信号可采用其他类型和方式的同步信号和冗余信号。
接下来,在步骤S220,将生成的水印信号添加到将通过音频播放设备输出的原始音频信号以生成混合音频信号。也就是说,将原始音频信号作为水印信号的载波信号来输出混合音频信号,从而在音频播放设备输出混合音频信号。这里,原始音频信号是电子设备原本将通过音频播放设备输出的音频信号,例如,可以是在免提模式下播放的通话语音信号、视频播放器输出的声音信号、音乐播放器输出的音乐信号等。
根据本公开的示例性实施例,在生成混合音频信号的过程中,可分别对水印信号和原始音频信号应用不同的增益,并将应用了增益的水印信号和原始音频信号混合以生成所述混合音频信号,其中,水印信号的增益和原始音频信号的增益由预先设置的水印信号的强度确定。
例如,可通过以下等式来对水印信号和原始音频信号进行混合:
Signalspeaker(t)=Watermark(t)*gainw+Audio(t)*gaina
应满足:
Figure BDA0002855605240000081
这里,Signalspeaker(t)表示生成的混合音频信号,Watermark(t)表示水印信号,Audio(t)表示原始音频信号,gainw表示水印信号的增益,gaina表示原始音频信号的增益。
假设需要输出的水印信号的强度为XdB,则可通过以下等式来计算gaina和gainw
Figure BDA0002855605240000082
也就是说,可通过需要输出的水印信号的强度X、水印信号的最大强度max(Watermark(t))以及原始音频信号的最大强度max(Audio(t))来确定水印信号和原始音频信号的增益。
接下来,在步骤S230,通过音频播放设备输出混合音频信号并通过电子设备的麦克风接收混合音频信号。也就是说,可控制电子设备通过扬声器外放播放混合音频信号以形成相应的声音,并同时启动麦克风来接收播放的混合音频信号的声音。由于水印信号的频带位于高频频带,因此对于用户来说听到的是和普通的外放的音频信号的声音几乎相同的声音。接收的混合音频信号的声音被转换为电信号并被发送到后续处理模块以进行处理。
在步骤S240,从接收的混合音频信号中过滤出与水印信号相应的频带的部分信号,并对过滤出的部分信号进行解析以检测混合音频信号中的水印信号。
根据本公开的示例性实施例,可采用与水印信号的频带相应的滤波器来过滤出与水印信号相应的部分信号。例如,如果使用16kHz以上的频带来生成了水印信号,则可使用截止频率为16kHz的高通滤波器从接收到的混合音频信号过滤掉载波信号(即,原始音频信号),过滤出相应频带的部分信号,从而可对该部分信号进行检测。
具体地,可根据过滤出的部分信号与水印信号的相关性来确定是否检测出水印信号。即,可确定部分信号与水印信号的相关性,响应于所述部分信号与水印信号的相关性高于阈值,确定在所述混合音频信号中检测到水印信号,响应于所述部分信号与水印信号的相关性低于阈值,确定所述混合音频信号中没有检测到水印信号。例如,可通过以下等式来计算相关性:
Figure BDA0002855605240000091
其中,Rsignal_watermark(m)表示经过过滤后的部分信号与水印信号的相关性序列,Signalspeaker(n+m)表示过滤后的混合音频信号的序列,Watermark(n)表示水印信号的序列,N表示最大的信号序列长度,m表示相关性搜索范围,m的取值范围是[-M,+M],M为正整数。一旦检测到max(Rsignal_watermark(m))大于阈值,即,如果在相关性序列Rsignal_watermark(m)中检测到大于阈值的相关性值,则可判定在接收到的混合音频信号中检测到水印信号。应理解,以上仅是计算相关性的一种示例,本领域的技术人员可采用其他方式来计算接收的信号(即,过滤后的部分信号)与目标信号(即,生成的水印信号)之间的相关性。
根据本公开的示例性实施例,如果在生成水印信号的过程中在水印信号中加入了用于指示水印信息的开始位置的同步信号,则S240还可包括检测同步信号的过程。也就是说,可在过滤出的部分信号中检测同步信号,响应于在过滤出的部分信号检测到同步信号,开始对同步信号之后的信号进行解析以确定在解析出的信号中是否存在水印信号。这里,检测同步信号可包括确定过滤出的部分信号与同步信号的相关性,并且当过滤出的部分信号与同步信号的相关性高于阈值时,确定在过滤出的部分信号检测到同步信号。计算与同步信号的相关性的过程可以与如上所述的计算与水印信号的相关性的方式类似,在此不再赘述。
根据本公开的示例性实施例,如果在生成水印信号的过程中在水印信号中加入用于对水印信号进行校验的冗余信号,则S240可还包括使用冗余信号对解析出的水印信号进行校验。如果校验结果表示水印信号正确,则表示解析出的水印信号是正确的因此可用于最终的判断,反之,则需要重新解析水印信号。
最后,在步骤S250,根据针对水印信号的检测结果确定音频播放设备是否异常。也就是说,响应于在步骤S240检测出了水印信号,确定音频播放设备正常,响应于在步骤S240没有检测出水印信号,确定音频播放设备异常。
根据本公开的示例性实施例,可在开启音频播放设备时执行如上所述的检查音频播放设备的方法。例如,在使用扬声器的应用(诸如,视频播放应用)被打开并通过扬声器输出声音时可以执行上述检查方法。如果确定音频播放设备出现异常,则该应用可向用户提供相应的提示。例如,可在应用的用户界面上弹出相应的窗口或消息来向用户提示扬声器可能出现问题,用户可根据提示对扬声器进行进一步检查或者送到专业维修进行检查。如果确定音频播放设备正常,则该应用可不进行任何操作,直到下次应用被重新打开并输出音频为止,可再次执行检查。应理解,以上的执行检查音频播放设备的方法的时机、执行方法的主体以及提供关于音频播放设备的异常的指示的示例仅是示意性的,可根据需要由电子设备上的任何应用或系统自身功能在任何不干扰到用户的情况下执行如图2所述的检查音频播放设备的方法。
通过如上所述的检查音频播放设备的方法,可以在不对用户的日常使用产生干扰的情况下自动地检查音频播放设备的状况,从而为用户提供了更好的体验。
图5是示出根据本公开的示例性实施例的检查音频播放设备的装置的框图。
如图5所示,根据本公开的示例性实施例的检查音频设备的装置500包括:水印生成模块510、混合模块520、输入输出模块530、水印检测模块540和异常确定模块550。
水印生成模块510被配置为生成与水印信息相应的水印信号,其中,所述水印信号的频率位于人耳不敏感的频带。如上所述,可使用在电子设备中能够唯一确定的字符信息作为水印信息。例如,该字符信息可以是电子设备中的应用中使用的用户ID、用户的手机SIM卡的电话号码、在电子设备的操作系统中注册的用户账号等。水印信号的频率可大于16kHz。
根据本公开的示例性实施例,水印生成模块510可包括:信息元素获取模块511,被配置为获取所述水印信息的信息元素;水印信号生成模块512,被配置为生成与获取的信息元素相应的多个信号作为水印信号。如上所述,可采用具有彼此不同的频率的单频信号来表示水印信息的每个信息元素,或者可采用具有相同的多个频率的多频信号来表示水印信息的每个信息元素,从而生成相应的水印信号。
根据本公开的示例性实施例,水印生成模块510可还包括:同步信号模块513,被配置为在生成的水印信号中加入用于指示水印信息的开始位置的同步信号。可根据水印信号的表示方式来产生同步信号。例如,在使用如图3所示的单频水印信号的情况下,同步信号模块513可使用全部频带都为1的信号作为同步信号。在使用如图4所示的多频水印信号的情况下,同步信号模块513可使用某一个固定的组合频率信号作为同步信号,例如,可使用表示1111的多频信号作为同步信号。
根据本公开的示例性实施例,水印生成模块510可还包括:冗余信号模块514,被配置为在生成的水印信号中加入用于校验或自我更正的冗余信号。例如,冗余信号模块514可在生成的水印信号中加入循环冗余校验(CRC)信号来作为对生成的水印信号的校验码,从而在接收解码端可以检查水印信息是否被正确还原。
混合模块520被配置为将生成的水印信号添加到将通过音频播放设备输出的原始音频信号以生成混合音频信号。根据本公开的示例性实施例,混合模块520可被配置为分别对水印信号和原始音频信号应用不同的增益,并将应用了增益的水印信号和原始音频信号混合以生成所述混合音频信号,其中,水印信号的增益和原始音频信号的增益由预先设置的水印信号的输出强度、水印信号的最大强度以及原始音频信号的最大强度确定。以上已经参照图2详细说明了计算增益的过程,在此不再重复描述。
输入输出模块530被配置为通过音频播放设备输出混合音频信号并通过电子设备的麦克风接收混合音频信号。输入输出模块530可控制电子设备通过扬声器外放播放混合音频信号以形成相应的声音,并同时启动麦克风来接收播放的混合音频信号的声音。
水印检测模块540被配置为从接收的混合音频信号中过滤出与水印信号相应的频带的部分信号,并对过滤出的部分信号进行解析以检测混合音频信号中的水印信号。水印检测模块540可采用与水印信号的频带相应的滤波器来过滤出与水印信号相应的部分信号。例如,如果使用16kHz以上的频带来生成了水印信号,则水印检测模块540可使用截止频率为16kHz的高通滤波器从接收到的混合音频信号过滤掉载波信号(即,原始音频信号),过滤出相应频带的部分信号,从而可对该部分信号进行检测。
根据本公开的示例性实施例,水印检测模块540可包括:相关性检测模块541,被配置为确定所述部分信号与水印信号的相关性;判断模块542,被配置为响应于所述部分信号与水印信号的相关性高于阈值,确定在所述混合音频信号中检测到水印信号,响应于所述部分信号与水印信号的相关性低于阈值,确定所述混合音频信号中没有检测到水印信号。以上已经参照图2描述了确定所述部分信号与水印信号的相关性的示例,在此不再重复描述。
根据本公开的示例性实施例,如果在生成水印信号的过程中在水印信号中加入了同步信号,则水印检测模块540还可包括:同步信号检测模块543,被配置为在过滤出的部分信号中检测同步信号;解析模块544,被配置为响应于在过滤出的部分信号检测到同步信号,开始对同步信号之后的信号进行解析,以确定在解析出的信号中是否存在水印信号。同步信号检测模块543被配置为确定过滤出的部分信号与同步信号的相关性,并且当过滤出的部分信号与同步信号的相关性高于阈值时,确定在过滤出的部分信号检测到同步信号。
根据本公开的示例性实施例,如果在生成水印信号的过程中在水印信号中加入用于校验或自我更正的冗余信号时,水印检测模块540还可包括:校验模块545,被配置为使用冗余信号对解析出的水印信号进行校验。
以上已经参照图2对检测同步信号和使用冗余信号进行校验做出了说明,在此不再重复描述。
异常确定模块550被配置为根据针对水印信号的检测结果确定音频播放设备是否异常。响应于水印检测模块540在过滤出的部分信号中检测出了水印信号,异常确定模块550确定音频播放设备正常,响应于水印检测模块5640没有检测在过滤出的部分信号中检测出水印信号,异常确定模块550确定音频播放设备异常。响应于确定音频播放设备出现异常,异常确定模块550还可向用户输出指示音频播放设备异常的提示。
根据本公开的示例性实施例,装置500可在音频播放设备被开启时执行上述的操作来检查音频播放设备的情况。
图6是示出根据本公开的示例性实施例的一种用于检查音频播放设备的电子设备的结构框图。该电子设备600例如可以是:智能手机、平板电脑、MP3播放器(Moving PictureExperts Group Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(MovingPicture Experts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。电子设备600还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。
通常,电子设备600包括有:处理器601和存储器602。
处理器601可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器601可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(FieldProgrammable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器601也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(Central ProcessingUnit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器601可以在集成有GPU(Graphics Processing Unit,图像处理器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器601还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器602可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器602还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器602中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器601所执行以实现本公开的如图3所示的方法实施例提供的检查音频播放设备的方法。
在一些实施例中,电子设备600还可选包括有:外围设备接口603和至少一个外围设备。处理器601、存储器602和外围设备接口603之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口603相连。具体地,外围设备包括:射频电路604、触摸显示屏605、摄像头606、音频电路607、定位组件608和电源609中的至少一种。
外围设备接口603可被用于将I/O(Input/Output,输入/输出)相关的至少一个外围设备连接到处理器601和存储器602。在一些实施例中,处理器601、存储器602和外围设备接口603被集成在同一芯片或电路板上;在一些其他实施例中,处理器601、存储器602和外围设备接口603中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
射频电路604用于接收和发射RF(Radio Frequency,射频)信号,也称电磁信号。射频电路604通过电磁信号与通信网络以及其他通信设备进行通信。射频电路604将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路604包括:天线系统、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路604可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于:城域网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)网络。在一些实施例中,射频电路604还可以包括NFC(Near Field Communication,近距离无线通信)有关的电路,本公开对此不加以限定。
显示屏605用于显示UI(User Interface,用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏605是触摸显示屏时,显示屏605还具有采集在显示屏605的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器601进行处理。此时,显示屏605还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏605可以为一个,设置在电子设备600的前面板;在另一些实施例中,显示屏605可以为至少两个,分别设置在终端600的不同表面或呈折叠设计;在再一些实施例中,显示屏605可以是柔性显示屏,设置在终端600的弯曲表面上或折叠面上。甚至,显示屏605还可以设置成非矩形的不规则图形,也即异形屏。显示屏605可以采用LCD(Liquid Crystal Display,液晶显示屏)、OLED(Organic Light-Emitting Diode,有机发光二极管)等材质制备。
摄像头组件606用于采集图像或视频。可选地,摄像头组件606包括前置摄像头和后置摄像头。通常,前置摄像头设置在终端的前面板,后置摄像头设置在终端的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件606还可以包括闪光灯。闪光灯可以是单色温闪光灯,也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,可以用于不同色温下的光线补偿。
音频电路607可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器601进行处理,或者输入至射频电路604以实现语音通信。出于立体声采集或降噪的目的,麦克风可以为多个,分别设置在终端600的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器601或射频电路604的电信号转换为声波。扬声器可以是传统的薄膜扬声器,也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅可以将电信号转换为人类可听见的声波,也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路607还可以包括耳机插孔。
定位组件608用于定位电子设备600的当前地理位置,以实现导航或LBS(LocationBased Service,基于位置的服务)。定位组件608可以是基于美国的GPS(GlobalPositioning System,全球定位系统)、中国的北斗系统、俄罗斯的格雷纳斯系统或欧盟的伽利略系统的定位组件。
电源609用于为电子设备600中的各个组件进行供电。电源609可以是交流电、直流电、一次性电池或可充电电池。当电源609包括可充电电池时,该可充电电池可以支持有线充电或无线充电。该可充电电池还可以用于支持快充技术。
在一些实施例中,电子设备600还包括有一个或多个传感器610。该一个或多个传感器610包括但不限于:加速度传感器611、陀螺仪传感器612、压力传感器613、指纹传感器614、光学传感器615以及接近传感器616。
加速度传感器611可以检测以终端600建立的坐标系的三个坐标轴上的加速度大小。比如,加速度传感器611可以用于检测重力加速度在三个坐标轴上的分量。处理器601可以根据加速度传感器611采集的重力加速度信号,控制触摸显示屏605以横向视图或纵向视图进行用户界面的显示。加速度传感器611还可以用于游戏或者用户的运动数据的采集。
陀螺仪传感器612可以检测终端600的机体方向及转动角度,陀螺仪传感器612可以与加速度传感器611协同采集用户对终端600的3D动作。处理器601根据陀螺仪传感器612采集的数据,可以实现如下功能:动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器613可以设置在终端600的侧边框和/或触摸显示屏605的下层。当压力传感器613设置在终端600的侧边框时,可以检测用户对终端600的握持信号,由处理器601根据压力传感器613采集的握持信号进行左右手识别或快捷操作。当压力传感器613设置在触摸显示屏605的下层时,由处理器601根据用户对触摸显示屏605的压力操作,实现对UI上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器614用于采集用户的指纹,由处理器601根据指纹传感器614采集到的指纹识别用户的身份,或者,由指纹传感器614根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时,由处理器601授权该用户执行相关的敏感操作,该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器614可以被设置电子设备600的正面、背面或侧面。当电子设备600上设置有物理按键或厂商Logo时,指纹传感器614可以与物理按键或厂商Logo集成在一起。
光学传感器615用于采集环境光强度。在一个实施例中,处理器601可以根据光学传感器615采集的环境光强度,控制触摸显示屏605的显示亮度。具体地,当环境光强度较高时,调高触摸显示屏605的显示亮度;当环境光强度较低时,调低触摸显示屏605的显示亮度。在另一个实施例中,处理器601还可以根据光学传感器615采集的环境光强度,动态调整摄像头组件606的拍摄参数。
接近传感器616,也称距离传感器,通常设置在电子设备600的前面板。接近传感器616用于采集用户与电子设备600的正面之间的距离。在一个实施例中,当接近传感器616检测到用户与终端600的正面之间的距离逐渐变小时,由处理器601控制触摸显示屏605从亮屏状态切换为息屏状态;当接近传感器616检测到用户与电子设备600的正面之间的距离逐渐变大时,由处理器601控制触摸显示屏605从息屏状态切换为亮屏状态。
本领域技术人员可以理解,图6中示出的结构并不构成对电子设备600的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
根据本公开的实施例,还可提供一种存储指令的计算机可读存储介质,其中,当指令被至少一个处理器运行时,促使至少一个处理器执行根据本公开的检查音频播放设备的方法。这里的计算机可读存储介质的示例包括:只读存储器(ROM)、随机存取可编程只读存储器(PROM)、电可擦除可编程只读存储器(EEPROM)、随机存取存储器(RAM)、动态随机存取存储器(DRAM)、静态随机存取存储器(SRAM)、闪存、非易失性存储器、CD-ROM、CD-R、CD+R、CD-RW、CD+RW、DVD-ROM、DVD-R、DVD+R、DVD-RW、DVD+RW、DVD-RAM、BD-ROM、BD-R、BD-R LTH、BD-RE、蓝光或光盘存储器、硬盘驱动器(HDD)、固态硬盘(SSD)、卡式存储器(诸如,多媒体卡、安全数字(SD)卡或极速数字(XD)卡)、磁带、软盘、磁光数据存储装置、光学数据存储装置、硬盘、固态盘以及任何其他装置,所述任何其他装置被配置为以非暂时性方式存储计算机程序以及任何相关联的数据、数据文件和数据结构并将所述计算机程序以及任何相关联的数据、数据文件和数据结构提供给处理器或计算机使得处理器或计算机能执行所述计算机程序。上述计算机可读存储介质中的计算机程序可在诸如客户端、主机、代理装置、服务器等计算机设备中部署的环境中运行,此外,在一个示例中,计算机程序以及任何相关联的数据、数据文件和数据结构分布在联网的计算机系统上,使得计算机程序以及任何相关联的数据、数据文件和数据结构通过一个或多个处理器或计算机以分布式方式存储、访问和执行。
根据本公开的实施例中,还可提供一种计算机程序产品,该计算机程序产品中的指令可由计算机设备的处理器执行以完成上述方法。
根据本公开的检查音频播放设备的方法、装置、电子设备、计算机可读存储介质能够在不干扰用户的情况下实现对音频播放设备的检查,不需要用户执行相应的检查操作,从而提高了用户体验。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (10)

1.一种异常检查方法,所述方法用于检查电子设备的音频播放设备,其特征在于,所述方法包括:
生成与水印信息相应的水印信号,其中,所述水印信号的频率位于人耳不敏感的频带;
将生成的水印信号添加到将通过音频播放设备输出的原始音频信号以生成混合音频信号;
通过音频播放设备输出混合音频信号并通过电子设备的麦克风接收混合音频信号;
从接收的混合音频信号中过滤出与水印信号相应的频带的部分信号,并对过滤出的部分信号进行解析以检测混合音频信号中的水印信号;
根据针对水印信号的检测结果确定音频播放设备是否异常。
2.如权利要求1所述的方法,其特征在于,所述水印信息是在电子设备中能够唯一确定的字符信息,所述水印信号的频率大于16kHz。
3.如权利要求1所述的方法,其特征在于,所述生成与水印信息相应的水印信号包括:
获取所述水印信息的信息元素;
生成与获取的信息元素相应的多个信号作为水印信号,其中,所述多个信号中的每个信号是具有彼此不同的频率的单频信号或者具有相同的多个频率的多频信号。
4.如权利要求1-3中的任意一个权利要求所述的方法,其特征在于,所述方法由使用音频播放设备的应用在开启音频播放设备时执行,
其中,所述方法还包括:响应于确定音频播放设备出现异常,向用户输出指示音频播放设备异常的提示。
5.一种异常检查装置,所述装置用于检查电子设备的音频播放设备,其特征在于,所述装置包括:
水印生成模块,被配置为生成与水印信息相应的水印信号,其中,所述水印信号的频率位于人耳不敏感的频带;
混合模块,被配置为将生成的水印信号添加到将通过音频播放设备输出的原始音频信号以生成混合音频信号;
输入输出模块,被配置为通过音频播放设备输出混合音频信号并通过电子设备的麦克风接收混合音频信号;
水印检测模块,被配置为从接收的混合音频信号中过滤出与水印信号相应的频带的部分信号,并对过滤出的部分信号进行解析以检测混合音频信号中的水印信号;
异常确定模块,被配置为根据针对水印信号的检测结果确定音频播放设备是否异常。
6.如权利要求5所述的装置,其特征在于,所述水印生成模块还包括:
同步信号模块,被配置为在生成的水印信号中加入用于指示水印信息的开始位置的同步信号,和/或
冗余信号模块,被配置为在生成的水印信号中加入用于校验或自我更正的冗余信号。
7.如权利要求6所述的装置,其特征在于,所述水印检测模块还包括:
同步信号检测模块,被配置为在过滤出的部分信号中检测同步信号;
解析模块,被配置为响应于在过滤出的部分信号检测到同步信号,开始对同步信号之后的信号进行解析,以确定在解析出的信号中是否存在水印信号。
8.如权利要求7所述的装置,其特征在于,所述同步信号检测模块被配置为确定过滤出的部分信号与同步信号的相关性,并且当过滤出的部分信号与同步信号的相关性高于阈值时,确定在过滤出的部分信号检测到同步信号。
9.一种电子设备,其特征在于,包括:
音频播放设备;
麦克风;
至少一个处理器;
至少一个存储计算机可执行指令的存储器,
其中,所述计算机可执行指令在被所述至少一个处理器运行时,促使所述至少一个处理器执行如权利要求1至3中的任一权利要求所述的异常检查方法。
10.一种计算机可读存储介质,当所述计算机可读存储介质中的指令由电子设备执行时,使得电子设备能够执行如权利要求1至3中任一项所述的异常检查方法。
CN202011544628.XA 2020-12-24 2020-12-24 用于音频播放设备的异常检查方法、装置和存储介质 Pending CN112669883A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011544628.XA CN112669883A (zh) 2020-12-24 2020-12-24 用于音频播放设备的异常检查方法、装置和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011544628.XA CN112669883A (zh) 2020-12-24 2020-12-24 用于音频播放设备的异常检查方法、装置和存储介质

Publications (1)

Publication Number Publication Date
CN112669883A true CN112669883A (zh) 2021-04-16

Family

ID=75409815

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011544628.XA Pending CN112669883A (zh) 2020-12-24 2020-12-24 用于音频播放设备的异常检查方法、装置和存储介质

Country Status (1)

Country Link
CN (1) CN112669883A (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090225996A1 (en) * 2008-03-07 2009-09-10 Ksc Industries, Inc. Speakers with a digital signal processor
CN108124042A (zh) * 2017-12-19 2018-06-05 厦门美图移动科技有限公司 器件故障检测方法、装置及移动终端
CN110430518A (zh) * 2018-05-01 2019-11-08 阿尔派株式会社 故障检测装置、故障检测系统、故障检测方法
CN110798790A (zh) * 2018-08-01 2020-02-14 杭州海康威视数字技术股份有限公司 麦克风异常检测方法、装置存储介质
CN111199745A (zh) * 2018-11-20 2020-05-26 尼尔森网联媒介数据服务有限公司 广告识别方法、设备、媒体平台、终端、服务器、介质
WO2020107261A1 (zh) * 2018-11-28 2020-06-04 华为技术有限公司 一种检测概率无声故障的方法和装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090225996A1 (en) * 2008-03-07 2009-09-10 Ksc Industries, Inc. Speakers with a digital signal processor
CN108124042A (zh) * 2017-12-19 2018-06-05 厦门美图移动科技有限公司 器件故障检测方法、装置及移动终端
CN110430518A (zh) * 2018-05-01 2019-11-08 阿尔派株式会社 故障检测装置、故障检测系统、故障检测方法
CN110798790A (zh) * 2018-08-01 2020-02-14 杭州海康威视数字技术股份有限公司 麦克风异常检测方法、装置存储介质
CN111199745A (zh) * 2018-11-20 2020-05-26 尼尔森网联媒介数据服务有限公司 广告识别方法、设备、媒体平台、终端、服务器、介质
WO2020107261A1 (zh) * 2018-11-28 2020-06-04 华为技术有限公司 一种检测概率无声故障的方法和装置

Similar Documents

Publication Publication Date Title
CN110798790B (zh) 麦克风异常检测方法、装置及存储介质
CN109359262B (zh) 动画播放方法、装置、终端及存储介质
CN109994127B (zh) 音频检测方法、装置、电子设备及存储介质
CN108243481B (zh) 文件传输方法及装置
CN108897659B (zh) 修改日志级别的方法、装置及存储介质
CN111083289B (zh) 音频播放方法、装置、存储介质及移动终端
CN109243479B (zh) 音频信号处理方法、装置、电子设备及存储介质
CN111241499A (zh) 应用程序登录的方法、装置、终端及存储介质
CN111128115B (zh) 信息验证方法、装置、电子设备及存储介质
CN110278273B (zh) 多媒体文件上传方法、装置、终端、服务器和存储介质
CN110808021A (zh) 音频播放的方法、装置、终端及存储介质
CN112911337B (zh) 用于配置终端设备的视频封面图片的方法和装置
CN111081277A (zh) 音频测评的方法、装置、设备及存储介质
CN110827830B (zh) 基于语音数据的声纹识别方法、装置、终端及存储介质
CN112614507A (zh) 检测噪声的方法和装置
CN112133319A (zh) 音频生成的方法、装置、设备及存储介质
CN110933454A (zh) 处理直播萌脸礼物的方法、装置、设备及存储介质
CN112669883A (zh) 用于音频播放设备的异常检查方法、装置和存储介质
CN109597951B (zh) 信息分享方法、装置、终端及存储介质
CN111131619B (zh) 账号切换处理的方法、装置及系统
CN110708582B (zh) 同步播放的方法、装置、电子设备及介质
CN111798863A (zh) 消除回声的方法、装置、电子设备及可读存储介质
CN113162837A (zh) 语音消息的处理方法、装置、设备及存储介质
CN111313979B (zh) 数据传输方法、装置、电子设备及存储介质
CN111613252B (zh) 音频录制的方法、装置、系统、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20210416

RJ01 Rejection of invention patent application after publication