CN108630215B - 一种基于视联网的回声抑制方法及装置 - Google Patents

一种基于视联网的回声抑制方法及装置 Download PDF

Info

Publication number
CN108630215B
CN108630215B CN201710862103.2A CN201710862103A CN108630215B CN 108630215 B CN108630215 B CN 108630215B CN 201710862103 A CN201710862103 A CN 201710862103A CN 108630215 B CN108630215 B CN 108630215B
Authority
CN
China
Prior art keywords
data
audio data
video
terminal
video networking
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710862103.2A
Other languages
English (en)
Other versions
CN108630215A (zh
Inventor
王艳辉
赵广石
刘宝臣
韩杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hainan Qiantang Shilian Information Technology Co.,Ltd.
Original Assignee
Visionvera Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Visionvera Information Technology Co Ltd filed Critical Visionvera Information Technology Co Ltd
Priority to CN201710862103.2A priority Critical patent/CN108630215B/zh
Publication of CN108630215A publication Critical patent/CN108630215A/zh
Application granted granted Critical
Publication of CN108630215B publication Critical patent/CN108630215B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208—Noise filtering
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208—Noise filtering
    • G10L21/0216—Noise filtering characterised by the method used for estimating noise
    • G10L21/0224—Processing in the time domain
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/14—Systems for two-way working
    • H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/14—Systems for two-way working
    • H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/142—Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208—Noise filtering
    • G10L2021/02082—Noise filtering the noise being echo, reverberation of the speech

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computational Linguistics (AREA)
  • Quality & Reliability (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Telephonic Communication Services (AREA)

Abstract

本发明提供了一种基于视联网的回声抑制方法及装置，涉及视联网技术领域。本发明实施例提供的基于视联网的回声抑制方法及装置，会先对接收到的由第一视联网终端发送的第一音频数据进行解码播放，然后采集第二多媒体数据，该第二多媒体数据中包括第二音频数据，接着对第二音频数据进行回声抑制处理，使得所述第二音频数据的数据量与所述第一音频数据的数据量的差值在预设范围内，进而保证第二音频数据与第一音频数据的时间差在合理范围内，这样，将处理后的第二音频数据发送给第一视联网终端之后，当第一视联网终端播放该第二音频数据时，用户便感知不到第二音频数据中的回声，进而避免了回声干扰，提升了通话质量。

Description

一种基于视联网的回声抑制方法及装置
技术领域
本发明涉及视联网的技术领域，特别是涉及一种基于视联网的回声抑制方法及装置。
背景技术
随着视联网技术的快速发展，视频会议、视频教学等双向通信的应用越来越广泛。
由于通信一般涉及本端与对端的语音信号传输，即，本端的语音信号传到对端，由于对端空间的反射，形成回音重新从麦克风输入，同时叠加了对端的语音信号，返回到本端播放。此时，本端将会听到对端的声音叠加了本端的声音，即就是，出现回声现象，影响正常的通话质量。
发明内容
鉴于上述问题，提出了本发明实施例以便提供一种克服上述问题或者至少部分地解决上述问题的一种基于视联网的回声抑制方法及装置。
为了解决上述问题，本发明实施例公开了一种基于视联网的回声抑制方法，该方法包括：
接收由第一视联网终端发送的第一多媒体数据；其中，所述第一多媒体数据包括第一音频数据；
对所述第一音频数据进行解码播放；
通过所述目标视联网终端采集第二多媒体数据；其中，所述第二多媒体数据包括第二音频数据；
根据所述第一音频数据以及第二音频数据对所述第二音频数据进行回声抑制处理，以使所述第二音频数据的数据量与所述第一音频数据的数据量的差值在预设范围内；
将处理后的第二音频数据发送给所述第一视联网终端。
可选的，所述根据所述第一音频数据以及第二音频数据对所述第二音频数据进行回声抑制处理的步骤，包括：
计算所述第二音频数据的数据量与所述第一音频数据的数据量的差值，得到数据量差值；
根据所述数据量差值对所述第二音频数据进行处理。
可选的，所述根据所述数据量差值对所述第二音频数据进行处理的步骤，包括：
若所述数据量差值小于第一预设阈值，则在所述第二音频数据中增加空数据，以使所述数据量差值不小于所述第一预设阈值；
若所述数据量差值大于第二预设阈值，则删除所述第二音频数据中的部分数据，以使所述数据量差值不大于所述第二预设阈值。
可选的，所述预设范围为不小于所述第一预设阈值且不大于所述第二预设阈值；
其中，所述第一预设阈值为2.5千字节，所述第二预设阈值为6.25千字节。
可选的，所述将处理后的第二音频数据发送给所述第一视联网终端的步骤，包括：
将所述处理后的第二音频数据发送至视联网服务器，以使所述视联网服务器按照对所述第一视联网终端配置的下行通信链路将所述处理后的第二音频数据发送至所述第一视联网终端。
为了解决上述问题，本发明实施例还公开了一种基于视联网的回声抑制装置，该装置包括：
接收模块，用于接收由第一视联网终端发送的第一多媒体数据；其中，所述第一多媒体数据包括第一音频数据；
播放模块，用于对所述第一音频数据进行解码播放；
采集模块，用于通过所述目标视联网终端采集第二多媒体数据；其中，所述第二多媒体数据包括第二音频数据；
处理模块，用于根据所述第一音频数据以及第二音频数据对所述第二音频数据进行回声抑制处理，以使所述第二音频数据的数据量与所述第一音频数据的数据量的差值在预设范围内；
发送模块，用于将处理后的第二音频数据发送给所述第一视联网终端。
可选的，所述处理模块，包括：
计算子模块，用于计算所述第二音频数据的数据量与所述第一音频数据的数据量的差值，得到数据量差值；
处理子模块，用于根据所述数据量差值对所述第二音频数据进行处理。
可选的，所述处理子模块，用于：
若所述数据量差值小于第一预设阈值，则在所述第二音频数据中增加空数据，以使所述数据量差值不小于所述第一预设阈值；
若所述数据量差值大于第二预设阈值，则删除所述第二音频数据中的部分数据，以使所述数据量差值不大于所述第二预设阈值。
可选的，所述预设范围为不小于所述第一预设阈值且不大于所述第二预设阈值；
其中，所述第一预设阈值为2.5千字节，所述第二预设阈值为6.25千字节。
可选的，所述发送模块，包括：
发送子模块，用于将所述处理后的第二音频数据发送至视联网服务器，以使所述视联网服务器按照对所述第一视联网终端配置的下行通信链路将所述处理后的第二音频数据发送至所述第一视联网终端。
本发明实施例至少包括以下优点：目标视联网终端会先对接收到的由第一视联网终端发送的第一音频数据进行解码播放，然后采集第二多媒体数据，该第二多媒体数据中包括第二音频数据，最后根据第一音频数据以及第二音频数据对第二音频数据进行回声抑制处理，使得所述第二音频数据的数据量与所述第一音频数据的数据量的差值在预设范围内，进而保证第二音频数据与第一音频数据的时间差在合理范围内，这样，将处理后的第二音频数据发送给第一视联网终端之后，当第一视联网终端播放该第二音频数据时，用户便感知不到第二音频数据中的回声，进而避免了回声干扰，提升了通话质量。
附图说明
图1是本发明的一种视联网的组网示意图；
图2是本发明的一种节点服务器的硬件结构示意图；
图3是本发明的一种接入交换机的硬件结构示意图；
图4是本发明的一种以太网协转网关的硬件结构示意图；
图5是本发明实施例提供的一种基于视联网的回声抑制方法的步骤流程图；
图6是本发明实施例提供的另一种基于视联网的回声抑制方法的步骤流程图；
图7是本发明实施例提供的一种基于视联网的回声抑制装置的框图；
图8是本发明实施例提供的另一种基于视联网的回声抑制装置的框图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。
视联网是网络发展的重要里程碑，是一个实时网络，能够实现高清视频实时传输，将众多互联网应用推向高清视频化，高清面对面。
视联网采用实时高清视频交换技术，可以在一个网络平台上将所需的服务，如高清视频会议、视频监控、智能化监控分析、应急指挥、数字广播电视、延时电视、网络教学、现场直播、VOD点播、电视邮件、个性录制(PVR)、内网(自办)频道、智能化视频播控、信息发布等数十种视频、语音、图片、文字、通讯、数据等服务全部整合在一个系统平台，通过电视或电脑实现高清品质视频播放。
为使本领域技术人员更好地理解本发明实施例，以下对视联网进行介绍：
视联网所应用的部分技术如下所述：
网络技术(Network Technology)
视联网的网络技术创新改良了传统以太网(Ethernet)，以面对网络上潜在的巨大视频流量。不同于单纯的网络分组包交换(Packet Switching)或网络电路交换(CircuitSwitching)，视联网技术采用Packet Switching满足Streaming需求。视联网技术具备分组交换的灵活、简单和低价，同时具备电路交换的品质和安全保证，实现了全网交换式虚拟电路，以及数据格式的无缝连接。
交换技术(Switching Technology)
视联网采用以太网的异步和包交换两个优点，在全兼容的前提下消除了以太网缺陷，具备全网端到端无缝连接，直通用户终端，直接承载IP数据包。用户数据在全网范围内不需任何格式转换。视联网是以太网的更高级形态，是一个实时交换平台，能够实现目前互联网无法实现的全网大规模高清视频实时传输，将众多网络视频应用推向高清化、统一化。
服务器技术(Server Technology)
视联网和统一视频平台上的服务器技术不同于传统意义上的服务器，它的流媒体传输是建立在面向连接的基础上，其数据处理能力与流量、通讯时间无关，单个网络层就能够包含信令及数据传输。对于语音和视频业务来说，视联网和统一视频平台流媒体处理的复杂度比数据处理简单许多，效率比传统服务器大大提高了百倍以上。
储存器技术(Storage Technology)
统一视频平台的超高速储存器技术为了适应超大容量和超大流量的媒体内容而采用了最先进的实时操作系统，将服务器指令中的节目信息映射到具体的硬盘空间，媒体内容不再经过服务器，瞬间直接送达到用户终端，用户等待一般时间小于0.2秒。最优化的扇区分布大大减少了硬盘磁头寻道的机械运动，资源消耗仅占同等级IP互联网的20％，但产生大于传统硬盘阵列3倍的并发流量，综合效率提升10倍以上。
网络安全技术(Network Security Technology)
视联网的结构性设计通过每次服务单独许可制、设备与用户数据完全隔离等方式从结构上彻底根除了困扰互联网的网络安全问题，一般不需要杀毒程序、防火墙，杜绝了黑客与病毒的攻击，为用户提供结构性的无忧安全网络。
服务创新技术(Service Innovation Technology)
统一视频平台将业务与传输融合在一起，不论是单个用户、私网用户还是一个网络的总合，都不过是一次自动连接。用户终端、机顶盒或PC直接连到统一视频平台，获得丰富多彩的各种形态的多媒体视频服务。统一视频平台采用“菜谱式”配表模式来替代传统的复杂应用编程，可以使用非常少的代码即可实现复杂的应用，实现“无限量”的新业务创新。
视联网的组网如下所述：
视联网是一种集中控制的网络结构，该网络可以是树型网、星型网、环状网等等类型，但在此基础上网络中需要有集中控制节点来控制整个网络。
图1是本发明的一种视联网的组网示意图，如图1所示，视联网分为接入网和城域网两部分。
接入网部分的设备主要可以分为3类：节点服务器，接入交换机，终端(包括各种机顶盒、编码板、存储器等)。节点服务器与接入交换机相连，接入交换机可以与多个终端相连，并可以连接以太网。
其中，节点服务器是接入网中起集中控制功能的节点，可控制接入交换机和终端。节点服务器可直接与接入交换机相连，也可以直接与终端相连。
类似的，城域网部分的设备也可以分为3类：城域服务器，节点交换机，节点服务器。城域服务器与节点交换机相连，节点交换机可以与多个节点服务器相连。
其中，节点服务器即为接入网部分的节点服务器，即节点服务器既属于接入网部分，又属于城域网部分。
城域服务器是城域网中起集中控制功能的节点，可控制节点交换机和节点服务器。城域服务器可直接连接节点交换机，也可直接连接节点服务器。
由此可见，整个视联网络是一种分层集中控制的网络结构，而节点服务器和城域服务器下控制的网络可以是树型、星型、环状等各种结构。
形象地称，接入网部分可以组成统一视频平台(虚线圈中部分)，多个统一视频平台可以组成视联网；每个统一视频平台可以通过城域以及广域视联网互联互通。
视联网设备分类
1.1本发明实施例的视联网中的设备主要可以分为3类：服务器，交换机(包括以太网网关)，终端(包括各种机顶盒，编码板，存储器等)。视联网整体上可以分为城域网(或者国家网、全球网等)和接入网。
1.2其中接入网部分的设备主要可以分为3类：节点服务器，接入交换机(包括以太网网关)，终端(包括各种机顶盒，编码板，存储器等)。
各接入网设备的具体硬件结构为：
节点服务器：
图2是本发明的一种节点服务器的硬件结构示意图，如图2所示，主要包括网络接口模块201、交换引擎模块202、CPU模块203、磁盘阵列模块204；
其中，网络接口模块201，CPU模块203、磁盘阵列模块204进来的包均进入交换引擎模块202；交换引擎模块202对进来的包进行查地址表205的操作，从而获得包的导向信息；并根据包的导向信息把该包存入对应的包缓存器206的队列；如果包缓存器206的队列接近满，则丢弃；交换引擎模202轮询所有包缓存器队列，如果满足以下条件进行转发：1)该端口发送缓存未满；2)该队列包计数器大于零。磁盘阵列模块204主要实现对硬盘的控制，包括对硬盘的初始化、读写等操作；CPU模块203主要负责与接入交换机、终端(图中未示出)之间的协议处理，对地址表205(包括下行协议包地址表、上行协议包地址表、数据包地址表)的配置，以及，对磁盘阵列模块204的配置。
接入交换机：
图3是本发明的一种接入交换机的硬件结构示意图，如图3所示，主要包括网络接口模块(下行网络接口模块301、上行网络接口模块302)、交换引擎模块303和CPU模块304；
其中，下行网络接口模块301进来的包(上行数据)进入包检测模块305；包检测模块305检测包的目地地址(DA)、源地址(SA)、数据包类型及包长度是否符合要求，如果符合，则分配相应的流标识符(stream-id)，并进入交换引擎模块303，否则丢弃；上行网络接口模块302进来的包(下行数据)进入交换引擎模块303；CPU模块204进来的数据包进入交换引擎模块303；交换引擎模块303对进来的包进行查地址表306的操作，从而获得包的导向信息；如果进入交换引擎模块303的包是下行网络接口往上行网络接口去的，则结合流标识符(stream-id)把该包存入对应的包缓存器307的队列；如果该包缓存器307的队列接近满，则丢弃；如果进入交换引擎模块303的包不是下行网络接口往上行网络接口去的，则根据包的导向信息，把该数据包存入对应的包缓存器307的队列；如果该包缓存器307的队列接近满，则丢弃。
交换引擎模块303轮询所有包缓存器队列，在本发明实施例中分两种情形：
如果该队列是下行网络接口往上行网络接口去的，则满足以下条件进行转发：1)该端口发送缓存未满；2)该队列包计数器大于零；3)获得码率控制模块产生的令牌；
如果该队列不是下行网络接口往上行网络接口去的，则满足以下条件进行转发：1)该端口发送缓存未满；2)该队列包计数器大于零。
码率控制模块208是由CPU模块204来配置的，在可编程的间隔内对所有下行网络接口往上行网络接口去的包缓存器队列产生令牌，用以控制上行转发的码率。
CPU模块304主要负责与节点服务器之间的协议处理，对地址表306的配置，以及，对码率控制模块308的配置。
以太网协转网关：
图4是本发明的一种以太网协转网关的硬件结构示意图，如图4所示，主要包括网络接口模块(下行网络接口模块401、上行网络接口模块402)、交换引擎模块403、CPU模块404、包检测模块405、码率控制模块408、地址表406、包缓存器407和MAC添加模块409、MAC删除模块410。
其中，下行网络接口模块401进来的数据包进入包检测模块405；包检测模块405检测数据包的以太网MAC DA、以太网MAC SA、以太网length or frame type、视联网目地地址DA、视联网源地址SA、视联网数据包类型及包长度是否符合要求，如果符合则分配相应的流标识符(stream-id)；然后，由MAC删除模块410减去MAC DA、MAC SA、length or frame type(2byte)，并进入相应的接收缓存，否则丢弃；
下行网络接口模块401检测该端口的发送缓存，如果有包则根据包的视联网目地地址DA获知对应的终端的以太网MAC DA，添加终端的以太网MAC DA、以太网协转网关的MACSA、以太网length or frame type，并发送。
以太网协转网关中其他模块的功能与接入交换机类似。
终端：
主要包括网络接口模块、业务处理模块和CPU模块；例如，机顶盒主要包括网络接口模块、视音频编解码引擎模块、CPU模块；编码板主要包括网络接口模块、视音频编码引擎模块、CPU模块；存储器主要包括网络接口模块、CPU模块和磁盘阵列模块。
1.3城域网部分的设备主要可以分为2类：节点服务器，节点交换机，城域服务器。其中，节点交换机主要包括网络接口模块、交换引擎模块和CPU模块；城域服务器主要包括网络接口模块、交换引擎模块和CPU模块构成。
2、视联网数据包定义
2.1接入网数据包定义
接入网的数据包主要包括以下几部分：目的地址(DA)、源地址(SA)、保留字节、payload(PDU)、CRC。
如下表所示，接入网的数据包主要包括以下几部分：
DA SA Reserved Payload CRC
其中：
目的地址(DA)由8个字节(byte)组成，第一个字节表示数据包的类型(例如各种协议包、组播数据包、单播数据包等)，最多有256种可能，第二字节到第六字节为城域网地址，第七、第八字节为接入网地址；
源地址(SA)也是由8个字节(byte)组成，定义与目的地址(DA)相同；
保留字节由2个字节组成；
payload部分根据不同的数据报的类型有不同的长度，如果是各种协议包的话是64个字节，如果是单组播数据包话是32+1024＝1056个字节，当然并不仅仅限于以上2种；
CRC有4个字节组成，其计算方法遵循标准的以太网CRC算法。
2.2城域网数据包定义
城域网的拓扑是图型，两个设备之间可能有2种、甚至2种以上的连接，即节点交换机和节点服务器、节点交换机和节点交换机、节点交换机和节点服务器之间都可能超过2种连接。但是，城域网设备的城域网地址却是唯一的，为了精确描述城域网设备之间的连接关系，在本发明实施例中引入参数：标签，来唯一描述一个城域网设备。
本说明书中标签的定义和MPLS(Multi-Protocol Label Switch，多协议标签交换)的标签的定义类似，假设设备A和设备B之间有两个连接，那么数据包从设备A到设备B就有2个标签，数据包从设备B到设备A也有2个标签。标签分入标签、出标签，假设数据包进入设备A的标签(入标签)是0x0000，这个数据包离开设备A时的标签(出标签)可能就变成了0x0001。城域网的入网流程是集中控制下的入网过程，也就意味着城域网的地址分配、标签分配都是由城域服务器主导的，节点交换机、节点服务器都是被动的执行而已，这一点与MPLS的标签分配是不同的，MPLS的标签分配是交换机、服务器互相协商的结果。
如下表所示，城域网的数据包主要包括以下几部分：
DA SA Reserved 标签 Payload CRC
即目的地址(DA)、源地址(SA)、保留字节(Reserved)、标签、payload(PDU)、CRC。其中，标签的格式可以参考如下定义：标签是32bit，其中高16bit保留，只用低16bit，它的位置是在数据包的保留字节和payload之间。
基于视联网的上述特性，提出了本发明实施例的核心构思之一，目标视联网终端会根据接收到的第一音频数据以及采集到的第二音频数据对第二音频数据进行回声抑制处理，然后将处理后的第二音频数据发送给第一视联网终端。
图5是本发明实施例提供的一种基于视联网的回声抑制方法的步骤流程图，如图5所示，该方法应用于视联网中，该方法应用于目标视联网终端，该方法可以包括：
步骤501、接收由第一视联网终端发送的第一多媒体数据；其中，所述第一多媒体数据包括第一音频数据。
本发明实施例中，第一视联网终端以及目标视联网终端可以为机顶盒(SetTopBox，STB)，通常称作机顶盒或机上盒，是一个连接电视机与外部信号源的设备，它可以将压缩的数字信号转成电视内容，并在电视机上显示出来。一般而言，机顶盒可以连接摄像头和麦克风，用于采集视频数据和音频数据等多媒体数据，也可以连接电视机，用于播放视频数据和音频数据等多媒体数据。
在视频会议等应用场景中，第一视联网终端与目标视联网终端之间可以进行通信。具体的，第一视联网终端可以采集第一多媒体数据并发送给目标视联网终端，目标视联网终端可以接收并播放该第一多媒体数据，同时，目标视联网终端可以采集第二多媒体数据并发送给第一视联网终端，第一视联网终端可以接收并播放该第二多媒体数据。
进一步的，该第一多媒体数据可以包括第一音频数据，示例的，在视频会议等应用场景中，第一视联网终端的用户可以通过与第一视联网终端相连的麦克风说话，生成第一音频数据。实际应用中，该第一多媒体数据中也可以包括视频数据，本发明实施例对此不作限定。
步骤502、对所述第一音频数据进行解码播放。
本发明实施例中，目标视联网终端可以对接收到的第一音频数据进行解码播放。具体的，目标视联网终端可以通过预设的音频解码接口对第一音频数据进行解码，然后利用预设的播放器对解码后的第一音频数据进行播放。
步骤503、通过所述目标视联网终端采集第二多媒体数据；其中，所述第二多媒体数据包括第二音频数据。
在视频会议等应用场景中，由于通信交流是持续的，因此目标视联网终端在播放第一音频数据时，用户可以通过目标视联网终端采集第二多媒体数据，该第二多媒体数据中包括第二音频数据。在播放第一音频数据时，播放的声音从扬声器出来以后，可能会经过空气或其他的传播媒介传到目标视联网终端的话筒，再通过目标视联网终端的话筒录音后被收集到第二音频数据中，即就是，第二音频数据中会包括播放第一音频数据时产生的回声。
步骤504、根据所述第一音频数据以及第二音频数据对所述第二音频数据进行回声抑制处理，以使所述第二音频数据的数据量与所述第一音频数据的数据量的差值在预设范围内。
本发明实施例中，该预设范围为该差值不小于第一预设阈值且不大于第二预设阈值。优选的，该第一预设阈值可以为2.5千字节(Kbytes，KB)，该第二预设阈值可以为6.25KB。当原声和回声的时间差在一定的范围内时，人耳便感知不到回声，本发明实施例中，通过对包含回声的第二音频数据进行回声抑制处理，使得第二音频数据的数据量与第一音频数据的数据量的差值在预设范围内，进而保证第一音频数据和第二音频数据之间的时间差保持在人耳感知不到回声的范围内，进而避免回声的干扰。
步骤505、将处理后的第二音频数据发送给所述第一视联网终端。
本发明实施中，目标视联网终端可以先将该处理后的第二音频数据发送给视联网服务器，然后由视联网服务器将该处理后的第二音频数据发送给第一视联网终端，第一视联网终端在接收到该处理后的第二音频数据之后，可以对该处理后的第二音频数据进行解码播放。需要说明的是，实际应用中，如果第二多媒体数据中还包括其他数据，比如，第二视频数据，那么目标视联网终端还会将该第二视频数据发送给第一视联网终端。
综上所述，本发明实施例提供的基于视联网的回声抑制处理方法，目标视联网终端会先对接收到的由第一视联网终端发送的第一音频数据进行解码播放，然后采集第二多媒体数据，该第二多媒体数据中包括第二音频数据，接着根据第一音频数据以及第二音频数据对第二音频数据进行回声抑制处理，使得所述第二音频数据的数据量与所述第一音频数据的数据量的差值在预设范围内，进而保证第二音频数据与第一音频数据的时间差在合理范围内，这样，将处理后的第二音频数据发送给第一视联网终端之后，当第一视联网终端播放该第二音频数据时，用户便感知不到第二音频数据中的回声，进而避免了回声干扰，提升了通话质量。
图6是本发明实施例提供的另一种基于视联网的回声抑制方法的步骤流程图，如图6所示，该方法可以包括：
步骤601、接收由第一视联网终端发送的第一多媒体数据；其中，所述第一多媒体数据包括第一音频数据。
具体的，本步骤的实现方式可以参考上述步骤501，本发明实施例在此不做赘述。
步骤602、对所述第一音频数据进行解码播放。
具体的，本步骤的实现方式可以参考上述步骤502，本发明实施例在此不做赘述。
步骤603、通过所述目标视联网终端采集第二多媒体数据；其中，所述第二多媒体数据包括第二音频数据。
具体的，本步骤的实现方式可以参考上述步骤503，本发明实施例在此不做赘述。
步骤604、根据所述第一音频数据以及第二音频数据对所述第二音频数据进行回声抑制处理，以使所述第二音频数据的数据量与所述第一音频数据的数据量的差值在预设范围内。
具体的，本步骤中，可以通过下述步骤实现对第二音频数据进行回声抑制处理：
步骤6041、计算所述第二音频数据的数据量与所述第一音频数据的数据量的差值，得到数据量差值。
本步骤中，第一音频数据的数据量以及第二音频数据的数据量用于表征第一音频数据以及第二音频数据的大小。示例的，假设第一音频数据的数据量为1120KB，第二音频数据的数据量为1127KB，那么可以将1127-1120＝7KB确定为数据量差值。
步骤6042、根据所述数据量差值对所述第二音频数据进行处理。
具体的，步骤6042可以包括：
步骤6042a、若所述数据量差值小于第一预设阈值，则在所述第二音频数据中增加空数据，以使所述数据量差值不小于所述第一预设阈值。
实际生活中，当原声和回声的时间差在合理的范围内时，人耳便感知不到回声，该时间差范围一般为40毫秒(millisecond，ms)～500ms。因此本发明实施例中，可以通过控制第二音频数据与第一音频数据之间的数据量差值，来实现将第二音频数据和第一音频数据的时间差控制在合理的时间差范围内，进而让用户感知不到回声的存在，即就是，可以将视联网终端40毫秒能够采样到的数据量作为第一预设阈值，将视联网终端200毫秒能够采样到的数据量作为第二预设阈值。
本步骤中，假设该数据量差值为2000字节(Byte，B)，该第一预设阈值为2.5KB，其中，2.5KB＝2560B，由于数据量差值小于第一预设阈值，因此，可以在第二音频数据中增加至少560B的空数据，以使数据量差值不小于第一预设阈值。具体的增加的时候，可以是将该560B的空数据分成若干个数据随机增加在第二音频数据的不同位置中，也可以是将该560B的空数据全部增加在第二音频数据的同一个位置，本发明实施例对此不作限定。需要说明的是，实际应用中，第二音频数据的数据量相对于需要增加的空数据的数据量会大得多，因此，增加的空数据对第二音频数据整体的影响可以忽略，进而不会影响到用户的听觉感受。
步骤6042b、若所述数据量差值大于第二预设阈值，则删除所述第二音频数据中的部分数据，以使所述数据量差值不大于所述第二预设阈值。
本步骤中，假设该数据量差值为6800B，该第二预设阈值为6.25KB，其中，6.25KB＝6400B，由于数据量差值大于第二预设阈值，因此，可以在第二音频数据中删除至少400B的数据，以使数据量差值不大于第一预设阈值。具体的增加的时候，可以是删除第二音频数据的不同位置的部分数据，保证最后删除的数据量达到400B即可，也可以是在第二音频数据的同一个位置删除400B的数据，本发明实施例对此不作限定。需要说明的是，实际应用中，第二音频数据的数据量相对于需要删除的数据的数据量会大得多，因此，删除的数据对第二音频数据整体的影响可以忽略，进而不会影响到用户的听觉感受。
步骤605、将所述处理后的第二音频数据发送至视联网服务器，以使所述视联网服务器按照对所述第一视联网终端配置的下行通信链路将所述处理后的第二音频数据发送至所述第一视联网终端。
本发明实施例中，视联网为具有集中控制功能的网络，包括视联网服务器和下级网络设备，该下级网络设备包括视联网终端。在实现将处理后的第二音频数据发送给第一视联网终端时，可以由视联网服务器通知交换设备配置针对当次服务的下行通信链路配表，然后基于该配置的表进行数据包的传送，进而实现将处理后的第二音频数据发送给第一视联网终端，基于下行通信链路配表进行数据包传输，由于配表中已经设定好了传输过程中的参数，因此可以提高数据包传输的准确率。
需要说明的是，在本发明的另一可选实施例中，第一视联网终端以及目标视联网终端还可以是手机、电脑、便携式电子设备或者整合了机顶盒功能的电视，等等，本发明实施例对此不作限定。
综上所述，本发明实施例提供的另一种基于视联网的回声抑制方法，目标视联网终端会先对接收到的由第一视联网终端发送的第一音频数据进行解码播放，然后采集第二多媒体数据，该第二多媒体数据中包括第二音频数据，接着根据第一音频数据以及第二音频数据对第二音频数据进行回声抑制处理，使得所述第二音频数据的数据量与所述第一音频数据的数据量的差值在预设范围内，进而保证第二音频数据与第一音频数据的时间差在合理范围内，最后通过视联网服务器将处理后的第二音频数据发送给第一视联网终端之后，当第一视联网终端播放该第二音频数据时，用户便感知不到第二音频数据中的回声，进而避免了回声干扰，提升了通话质量。
图7是本发明实施例提供的一种基于视联网的回声抑制装置的框图，如图7所示，该装置70可以包括：
接收模块701，用于接收由第一视联网终端发送的第一多媒体数据；其中，所述第一多媒体数据包括第一音频数据。
播放模块702，用于对所述第一音频数据进行解码播放。
采集模块703，用于通过所述目标视联网终端采集第二多媒体数据；其中，所述第二多媒体数据包括第二音频数据。
处理模块704，用于根据所述第一音频数据以及第二音频数据对所述第二音频数据进行回声抑制处理，以使所述第二音频数据的数据量与所述第一音频数据的数据量的差值在预设范围内。
发送模块705，用于将处理后的第二音频数据发送给所述第一视联网终端。
综上所述，本发明实施例提供的基于视联网的回声抑制装置，播放模块会先对接收到的由第一视联网终端发送的第一音频数据进行解码播放，然后采集模块可以采集第二多媒体数据，该第二多媒体数据中包括第二音频数据，接着处理模块可以根据第一音频数据以及第二音频数据对第二音频数据进行回声抑制处理，使得所述第二音频数据的数据量与所述第一音频数据的数据量的差值在预设范围内，进而保证第二音频数据与第一音频数据的时间差在合理范围内，最后发送模块可以将处理后的第二音频数据发送给第一视联网终端之后，当第一视联网终端播放该第二音频数据时，用户便感知不到第二音频数据中的回声，进而避免了回声干扰，提升了通话质量。
图8是本发明实施例提供的另一种基于视联网的回声抑制装置的框图，如图8所示，该装置80包括：
接收模块801，用于接收由第一视联网终端发送的第一多媒体数据；其中，所述第一多媒体数据包括第一音频数据。
播放模块802，用于对所述第一音频数据进行解码播放。
采集模块803，用于通过所述目标视联网终端采集第二多媒体数据；其中，所述第二多媒体数据包括第二音频数据。
处理模块804，用于根据所述第一音频数据以及第二音频数据对所述第二音频数据进行回声抑制处理，以使所述第二音频数据的数据量与所述第一音频数据的数据量的差值在预设范围内。
发送模块805，用于将处理后的第二音频数据发送给所述第一视联网终端。
可选的，上述处理模块804，可以包括：
计算子模块8041，用于计算所述第二音频数据的数据量与所述第一音频数据的数据量的差值，得到数据量差值。
处理子模块8042，用于根据所述数据量差值对所述第二音频数据进行处理。
可选的，上述处理子模块8042，可以用于:
若所述数据量差值小于第一预设阈值，则在所述第二音频数据中增加空数据，以使所述数据量差值不小于所述第一预设阈值。
若所述数据量差值大于第二预设阈值，则删除所述第二音频数据中的部分数据，以使所述数据量差值不大于所述第二预设阈值。
可选的，所述预设范围为不小于所述第一预设阈值且不大于所述第二预设阈值；其中，所述第一预设阈值为2.5千字节，所述第二预设阈值为6.25千字节。
可选的，上述发送模块805，包括：
发送子模块8051，用于将所述处理后的第二音频数据发送至视联网服务器，以使所述视联网服务器按照对所述第一视联网终端配置的下行通信链路将所述处理后的第二音频数据发送至所述第一视联网终端。
综上所述，本发明实施例提供的基于视联网的回声抑制装置，播放模块会先对接收到的由第一视联网终端发送的第一音频数据进行解码播放，然后采集模块可以采集第二多媒体数据，该第二多媒体数据中包括第二音频数据，接着处理模块可以根据第一音频数据以及第二音频数据对第二音频数据进行回声抑制处理，使得所述第二音频数据的数据量与所述第一音频数据的数据量的差值在预设范围内，进而保证第二音频数据与第一音频数据的时间差在合理范围内，最后发送模块可以将处理后的第二音频数据发送给第一视联网终端之后，当第一视联网终端播放该第二音频数据时，用户便感知不到第二音频数据中的回声，进而避免了回声干扰，提升了通话质量。
对于装置实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。
本领域内的技术人员应明白，本发明实施例的实施例可提供为方法、装置、或计算机程序产品。因此，本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上，使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明实施例的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例做出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。
最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
以上对本发明所提供的一种视频数据处理方法及装置，进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (8)

1.一种基于视联网的回声抑制方法，其特征在于，应用于视联网中，所述方法应用于目标视联网终端，所述方法包括：
接收由第一视联网终端发送的第一多媒体数据；其中，所述第一多媒体数据包括第一音频数据；
对所述第一音频数据进行解码播放；
通过所述目标视联网终端采集第二多媒体数据；其中，所述第二多媒体数据包括第二音频数据；
根据所述第一音频数据以及第二音频数据对所述第二音频数据进行回声抑制处理，以使所述第二音频数据的数据量与所述第一音频数据的数据量的差值在预设范围内；所述预设范围为不小于第一预设阈值且不大于第二预设阈值；将处理后的第二音频数据发送给所述第一视联网终端；
其中，根据所述第一音频数据以及第二音频数据对所述第二音频数据进行回声抑制处理，包括：若所述第二音频数据的数据量与所述第一音频数据的数据量的差值小于所述第一预设阈值，则在所述第二音频数据中增加空数据，以使所述数据量差值不小于所述第一预设阈值；
其中，在所述第二音频数据中增加空数据，包括：将空数据分成多个数据随机增加在所述第二音频数据的不同位置中，或，将空数据直接增加在所述第二音频数据的同一个位置。
2.根据权利要求1所述的方法，其特征在于，所述根据所述数据量差值对所述第二音频数据进行处理的步骤，包括:
若所述数据量差值大于所述第二预设阈值，则删除所述第二音频数据中的部分数据，以使所述数据量差值不大于所述第二预设阈值。
3.根据权利要求2所述的方法，其特征在于，所述第一预设阈值为2.5千字节，所述第二预设阈值为6.25千字节。
4.根据权利要求1所述的方法，其特征在于，所述将处理后的第二音频数据发送给所述第一视联网终端的步骤，包括：
将所述处理后的第二音频数据发送至视联网服务器，以使所述视联网服务器按照对所述第一视联网终端配置的下行通信链路将所述处理后的第二音频数据发送至所述第一视联网终端。
5.一种基于视联网的回声抑制装置，其特征在于，应用于视联网中，所述装置应用于目标视联网终端,所述装置包括：
接收模块，用于接收由第一视联网终端发送的第一多媒体数据；其中，所述第一多媒体数据包括第一音频数据；
播放模块，用于对所述第一音频数据进行解码播放；
采集模块，用于通过所述目标视联网终端采集第二多媒体数据；其中，所述第二多媒体数据包括第二音频数据；
处理模块，用于根据所述第一音频数据以及第二音频数据对所述第二音频数据进行回声抑制处理，以使所述第二音频数据的数据量与所述第一音频数据的数据量的差值在预设范围内；所述预设范围为不小于第一预设阈值且不大于第二预设阈值；
发送模块，用于将处理后的第二音频数据发送给所述第一视联网终端；
其中，根据所述第一音频数据以及第二音频数据对所述第二音频数据进行回声抑制处理，包括：若所述第二音频数据的数据量与所述第一音频数据的数据量的差值小于所述第一预设阈值，则在所述第二音频数据中增加空数据，以使所述数据量差值不小于所述第一预设阈值；
其中，在所述第二音频数据中增加空数据，包括：将空数据分成多个数据随机增加在所述第二音频数据的不同位置中，或，将空数据直接增加在所述第二音频数据的同一个位置。
6.根据权利要求5所述的装置，其特征在于，所述处理模块，用于:
若所述数据量差值大于所述第二预设阈值，则删除所述第二音频数据中的部分数据，以使所述数据量差值不大于所述第二预设阈值。
7.根据权利要求6所述的装置，其特征在于，所述第一预设阈值为2.5千字节，所述第二预设阈值为6.25千字节。
8.根据权利要求5所述的装置，其特征在于，所述发送模块，包括：
发送子模块，用于将所述处理后的第二音频数据发送至视联网服务器，以使所述视联网服务器按照对所述第一视联网终端配置的下行通信链路将所述处理后的第二音频数据发送至所述第一视联网终端。
CN201710862103.2A 2017-09-21 2017-09-21 一种基于视联网的回声抑制方法及装置 Active CN108630215B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710862103.2A CN108630215B (zh) 2017-09-21 2017-09-21 一种基于视联网的回声抑制方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710862103.2A CN108630215B (zh) 2017-09-21 2017-09-21 一种基于视联网的回声抑制方法及装置

Publications (2)

Publication Number Publication Date
CN108630215A CN108630215A (zh) 2018-10-09
CN108630215B true CN108630215B (zh) 2020-02-21

Family

ID=63705684

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710862103.2A Active CN108630215B (zh) 2017-09-21 2017-09-21 一种基于视联网的回声抑制方法及装置

Country Status (1)

Country Link
CN (1) CN108630215B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110085256B (zh) * 2019-03-21 2021-11-19 视联动力信息技术股份有限公司 信息处理方法和装置
CN110366067B (zh) * 2019-05-27 2021-07-20 深圳康佳电子科技有限公司 一种远场语音模块回声消除电路及装置
CN111212032B (zh) * 2019-12-13 2022-12-23 视联动力信息技术股份有限公司 基于视联网的音频处理方法、装置、电子设备及存储介质
CN111724803B (zh) * 2020-06-29 2023-08-08 北京达佳互联信息技术有限公司 音频处理方法、装置、电子设备及存储介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102568494B (zh) * 2012-02-23 2014-02-05 贵阳朗玛信息技术股份有限公司 消除回声的优化方法、装置及系统
US8874175B2 (en) * 2012-11-08 2014-10-28 Stmicroelectronics Asia Pacific Pte. Ltd. Converting samples of a signal at a sample rate into samples of another signal at another sample rate
US8914007B2 (en) * 2013-02-27 2014-12-16 Nokia Corporation Method and apparatus for voice conferencing
CN104822001B (zh) * 2015-04-23 2018-12-18 腾讯科技（深圳）有限公司 回声消除数据同步控制方法和装置
CN106341563A (zh) * 2015-07-06 2017-01-18 北京视联动力国际信息技术有限公司 一种基于终端通信的回声抑制方法和装置
CN106210371B (zh) * 2016-08-31 2018-09-18 广州视源电子科技股份有限公司 一种回声时延的确定方法、装置及智能会议设备

Also Published As

Publication number Publication date
CN108630215A (zh) 2018-10-09

Similar Documents

Publication Publication Date Title
CN106549912B (zh) 一种视频数据的播放方法和系统
CN108574688B (zh) 一种参会方信息的显示方法和装置
CN109302576B (zh) 会议处理方法和装置
CN108632558B (zh) 一种视频通话的方法和装置
CN109618120B (zh) 视频会议的处理方法和装置
CN108616487B (zh) 基于视联网的混音方法和装置
CN109246486B (zh) 一种组帧方法和装置
CN109547163B (zh) 一种数据传输速率的控制方法和装置
CN108630215B (zh) 一种基于视联网的回声抑制方法及装置
CN110572607A (zh) 一种视频会议方法、系统及装置和存储介质
CN108809921B (zh) 一种音频处理方法、视联网服务器和视联网终端
CN110049273B (zh) 一种基于视联网的会议录制方法和中转服务器
CN109788235B (zh) 一种基于视联网的会议记录信息的处理方法和系统
CN108574816B (zh) 一种视联网终端以及基于视联网终端的通信方法、装置
CN110149305B (zh) 一种基于视联网的多方播放音视频的方法和中转服务器
CN109905616B (zh) 一种切换视频画面的方法和装置
CN111327868A (zh) 设置会议发言方角色的方法、终端、服务器、设备及介质
CN109743284B (zh) 一种基于视联网的视频处理方法及系统
CN109286775B (zh) 一种多人会议控制方法及系统
CN110769179B (zh) 一种音视频数据流的处理方法和系统
CN110072154B (zh) 一种基于视联网的建群方法和中转服务器
CN109586851B (zh) 基于视联网的数据传输方法和装置
CN111654659A (zh) 一种会议控制方法和装置
CN110049069B (zh) 一种数据获取方法及装置
CN108964965B (zh) 一种视频会议的预约方法和系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: 100000 Dongcheng District, Beijing, Qinglong Hutong 1, 1103 house of Ge Hua building.

Applicant after: Video Link Power Information Technology Co., Ltd.

Address before: 100000 Beijing Dongcheng District Qinglong Hutong 1 Song Hua Building A1103-1113

Applicant before: BEIJING VISIONVERA INTERNATIONAL INFORMATION TECHNOLOGY CO., LTD.

GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20201230

Address after: 570105 room 1201, Central International Plaza, 77 Binhai street, Longhua District, Haikou City, Hainan Province

Patentee after: Hainan Qiantang Shilian Information Technology Co.,Ltd.

Address before: 100000 Dongcheng District, Beijing, Qinglong Hutong 1, 1103 house of Ge Hua building.

Patentee before: VISIONVERA INFORMATION TECHNOLOGY Co.,Ltd.