CN113747063A - 一种视频传输的方法、装置、电子设备及可读存储介质 - Google Patents

一种视频传输的方法、装置、电子设备及可读存储介质 Download PDF

Info

Publication number
CN113747063A
CN113747063A CN202110996736.9A CN202110996736A CN113747063A CN 113747063 A CN113747063 A CN 113747063A CN 202110996736 A CN202110996736 A CN 202110996736A CN 113747063 A CN113747063 A CN 113747063A
Authority
CN
China
Prior art keywords
image
information
incomplete
preset
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110996736.9A
Other languages
English (en)
Other versions
CN113747063B (zh
Inventor
鲁霖
鲁鹏飞
王春海
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Xinzhongxin Technology Co Ltd
Original Assignee
Shenzhen Xinzhongxin Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Xinzhongxin Technology Co Ltd filed Critical Shenzhen Xinzhongxin Technology Co Ltd
Priority to CN202110996736.9A priority Critical patent/CN113747063B/zh
Publication of CN113747063A publication Critical patent/CN113747063A/zh
Application granted granted Critical
Publication of CN113747063B publication Critical patent/CN113747063B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/06Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L69/00Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
    • H04L69/04Protocols for data compression, e.g. ROHC
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L69/00Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
    • H04L69/16Implementation or adaptation of Internet protocol [IP], of transmission control protocol [TCP] or of user datagram protocol [UDP]
    • H04L69/164Adaptation or special uses of UDP protocol
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects

Abstract

本申请涉及数据传输的领域,尤其是涉及一种视频传输的方法、装置、电子设备及可读存储介质,其包括通过与预设设备建立的UDP数据传输通道向预设设备发送传输信号;通过与预设设备建立的UDP数据传输通道获取预设设备发送的多组图像信息,每组图像信息均包括多个数据包,每组图像信息均是由对应帧原图像经过预设设备的压缩和分包后得到的,每组图像信息中的每个数据包还包括包号信息和总包数信息,包号信息表征数据包在每组图像信息中的次序,总包数信息表征每组图像信息中数据包的总数;基于每组图像信息,确定各个对应帧原图像分别对应的预览图像;基于各个对应帧原图像分别对应的预览图像生成预览视频。本申请能够减少视频的卡顿,提高流畅度。

Description

一种视频传输的方法、装置、电子设备及可读存储介质
技术领域
本申请涉及数据传输的领域,尤其是涉及一种视频传输的方法、装置、电子设备及可读存储介质。
背景技术
目前市场上存在很多利用WiFi传输数据的设备,例如可视耳镜和可视牙镜,这种可视类产品通常设置有摄像头,能够在人们不便于看到的地方进行图像的采集,手机或平板电脑等电子终端通过http请求的方式获取到设备端采集的图像,然后在屏幕上进行显示,便于人们查看。
但是,http传输方式占用的带宽比较大,且耗时长,因此会存在视频延迟,掉帧的情况,进而导致画面卡顿,不流畅。视频即连续的多帧图像,视频的卡顿,视频画面卡顿,即相邻帧图像之间传输需要的时间间隔大,图像的传输速度慢。因此上述方案无法满足需要传输较高帧数和较高分辨率的视频的场景,给使用者带来不好的体验。
发明内容
为了减少视频的卡顿,提高流畅度,本申请提供一种视频传输的方法、装置、电子设备及可读存储介质。
第一方面,本申请提供一种视频传输的方法,采用如下的技术方案:
通过与预设设备建立的UDP数据传输通道向所述预设设备发送传输信号;
通过与所述预设设备建立的UDP数据传输通道获取所述预设设备发送的多组图像信息,每组图像信息均包括多个数据包,每组图像信息均是由对应帧原图像经过预设设备的压缩和分包后得到的,每组图像信息中的每个数据包还包括包号信息和总包数信息,包号信息表征数据包在每组图像信息中的次序,总包数信息表征每组图像信息中数据包的总数;
基于所述每组图像信息,确定各个对应帧原图像分别对应的预览图像;
基于各个对应帧原图像分别对应的预览图像生成预览视频。
通过采用上述技术方案,采用UDP传输协议与预设设备进行数据的传输,UDP是一种面向无连接的传输层通信协议,其传输效率相比http请求传输的效率高;其次,本方案在传输图像时,将图像进行压缩后再分包成多个数据包进行传输,在与http请求传输的方式采用相同带宽的情况下,使得传输图像的速度增加,进而减少了视频的卡顿,提高了流畅度;同时UDP传输可以在没有互联网的情况下进行数据传输,提升了便利性。
在一种可能实现的方式中,所述通过与预设设备建立的UDP数据传输通道向所述预设设备发送传输信号,还包括:
每隔第一预设时间,向所述预设设备发送一次传输信号;
在每一次向预设设备发送传输信号后,检测是否接收到预设设备发送的图像信息,直至满足预设条件时停止;
其中,所述预设条件包括以下任一项;
发送传输信号达到预设次数;
接收到预设设备发送的图像信息。
通过采用上述技术方案,若第一次向与预设设备发送传输信号后,没有获取到预设设备发送的图像信息,则可能是预设设备发生故障或者暂时性延迟,因此重复向预设设备发送传输信号,并且在每次发送后检测一次是否接收到图像信息,若接受到图像信息则停止向预设设备发送信号,即说明预设设备是暂时性延迟,若达到预设的发射次数时,认为接收到预设设备发送的图像信息,则说明此时预设设备故障。
在一种可能实现的方式中,一种视频传输的方法,还包括:
当向预设设备发送传输信号达到预设次数时,输出警示信息,所述警示信息包括以下至少一种格式;
文字信息格式;
声音信息格式;
灯光信息格式。
通过采用上述技术方案,当向预设设备发送传输信号达到预设次数时,若认为接收到预设设备发送的图向信息,则能够确定此时预设设备发生故障,此时输出警示信息便于对使用者进行提醒。
在一种可能实现的方式中,所述基于所述每组图像信息,确定各个对应帧原图像分别对应的预览图像,包括:
对于每组图像信息,基于每个数据包的包号信息和总包数信息进行解析,得到各个对应帧原图像分别对应的解析图像;
确定所述各个对应帧原图像分别对应的解析图像中符合预设格式的图像为预览图像。
通过采用上述技术方案,对于每组图像信息,将数据包基于包号信息和总包数信息进行组包,然后经过解压缩得到原图像对应的解析图像,将得到的解析图像进行筛选,符合预设格式解析图像作为预览图像去生成视频;将不符合预设格式的预览图像播放会造成视频的卡顿,因此,基于预览确定预览视频能够提高视频的流畅度,减少卡顿。
在一种可能实现的方式中,所述基于各个对应帧原图像分别对应的预览图像生成预览视频,包括:
确定所述预览图像中的每个不完整图像和每个完整图像,所述不完整图像为预览图像中缺失数据包的图像;
确定各个所述不完整图像分别对应的候补信息,所述候补信息为与所述不完整图像相邻的各个解析图像分别对应的图像信息;
基于不完整图像对应的候补信息对所述不完整图像进行补全,以得到各个所述不完整图像分别对应的预估完整图像;
基于各个所述不完整图像分别对应的预估完整图像和各个所述完整图像生成预览视频。
通过采用上述技术方案,将不完完整的图像进行播放会造成视频画面的卡顿,造成不流畅的观感,因此基于不完整图像的候补信息对不完整图像丢失的数据包进行补全,基于预估完整图像和完整图像生成预览视频信息,能够提高视频的流畅度,减少卡顿。
在一种可能实现的方式中,针对任一不完整图像,基于所述任一不完整图像对应的候补信息对所述任一不完整图像进行补全,包括:
获取所述不完整图像对应的图像信息;
基于所述不完整图像对应的图像信息确定所述不完整图像缺失的数据包的包号信息;
获取所述不完整图像对应的候补信息中的预估信息,所述预估信息为所述不完整图像对应的候补信息中与所述不完整图像缺失的数据包的包号信息相同的数据包;
若所述预估信息为两个,则判断两个所述预估信息是否相同;
若相同,则基于所述预估信息与所述不完整图像对应的图像信息得到所述不完整图像对应的预估完整图像;
若不同,则舍弃所述不完整图像;
若预估信息为一个,则舍弃所述不完整图像。
通过采用上述技术方案,预设设备采集的图像是连续的,则电子设备接受图像信息解析得到的解析图像也应该是连续的,即相邻的解析图像的内容存在相同的部分;在确定不完整图像丢失的数据包后,获得不完整图像对应的预估信息,若是一个不完整图像对应的预估信息为两个且相同,则说明不完整图像确实的数据包在图像中表示内容与预估信息相同,此时能够对不完整图像进行补全;当预估信息为两个不相同的时或者预估信息为一个时,则此时为了基于展示给用户的画面的真实性,则舍弃该不完整图像。
在一种可能实现的方式中,若所述不完整图像为第一帧或最后一帧,则所述基于所述不完整图像对应的候补信息对所述不完整图像进行补全,以得到所述不完整图像对应的预估完整图像,对于每个所述不完整图像,包括:
获取所述不完整图像对应的图像信息;
基于所述不完整图像对应的图像信息确定所述不完整图像缺失的数据包的包号信息;
获取所述不完整图像对应的候补信息中的预估信息;
基于所述预估信息与不完整图像对应的图像信息得到所述不完整图像对应的预估完整图像。
通过采用上述技术方案,若第一帧或最后一帧的图像不完整,此时该不完整的图像只有一个预估信息;因为与设设备采集相邻帧图像的时间间隔相对较小,因此相邻的图像的内容变化有限,因此基于视频的流畅度考虑,可以基于不完整图像的一个预估信息对不完整图像进行补全。
第二方面,本申请提供一种视频传输的装置,采用如下的技术方案:
一种视频传输的装置,包括:
传输信号发送模块,用于通过与预设设备建立的UDP数据传输通道向所述预设设备发送传输信号;
图像信息获取模块,用于通过与所述预设设备建立的UDP数据传输通道获取所述预设设备发送的多组图像信息,每组图像信息均包括多个数据包,每组图像信息均是由对应帧原图像经过预设设备的压缩和分包后得到的,每组图像信息中的每个数据包还包括包号信息和总包数信息,包号信息表征数据包在每组图像信息中的次序,总包数信息表征每组图像信息中数据包的总数;
预览图像确定模块,用于基于所述每组图像信息,确定各个对应帧原图像分别对应的预览图像;
预览视频生成模块,用于基于各个对应帧原图像分别对应的预览图像生成预览视频。
在图像信息获取模块通过与预设设备建立的UDP数据传输通道向所述预设设备发送传输信号之前,还包括:
循环发送模块,用于每隔第一预设时间,向所述预设设备发送一次传输信号;
检测模块,用于在每一次向预设设备发送传输信号后,检测是否接收到预设设备发送的图像信息,直至满足预设条件时停止;
其中,所述预设条件包括以下至少一项;
发送传输信号达到预设次数;
接收到预设设备发送的图像信息。
一种视频传输的装置,还包括:
警示信息输出模块,用于当向预设设备发送传输信号达到预设次数时,输出警示信息;
所述警示信息包括以下至少一种;
文字信息;
声音信息;
灯光信息。
当预览视频生成模块基于各个对应帧原图像分别对应的预览图像生成预览视频时,具体用于:
对于每组图像信息,基于每个数据包的包号信息和总包数信息进行解析,得到每一帧原图像对应的解析图像;
确定所述解析图像中符合预设格式的图像为预览图像。
当所述预览视频生成模块基于各个对应帧原图像分别对应的预览图像生成预览视频时,具体用于:
确定所述预览图像中的不完整图像和完整图像,所述不完整图像为对应的图像信息中缺失数据包的预览图像;
确定所述不完整图像对应的候补信息,所述候补信息为与所述不完整图像在解析图像中相邻的图像对应的图像信息;
基于所述不完整图像对应的候补信息对所述不完整图像进行补全,以得到所述不完整图像对应的预估完整图像;
基于所述预估完整图像和所述完整图像生成预览视频。
当所述预览视频生成模块针对任一不完整图像,基于所述任一不完整图像对应的候补信息对所述任一不完整图像进行补全时,具体用于:
对于每张所述不完整图像,获取所述不完整图像对应的图像信息;
基于所述不完整图像对应的图像信息确定所述不完整图像缺失的数据包的包号信息;
获取所述不完整图像对应的候补信息中的预估信息,所述预估信息为所述不完整图像对应的候补信息中与所述不完整图像缺失的数据包的包号信息相同的数据包;
若所述预估信息为两个,则判断两个所述预估信息是否相同;
若相同,则基于所述预估信息与不完整图像对应的图像信息得到所述不完整图像对应的预估完整图像;
若不同,则舍弃所述不完整图像;
若预估信息为一个,则舍弃所述不完整图像。
当所述不完整图像为第一帧或最后一帧时,所述预览视频生成模块基于所述不完整图像对应的候补信息对所述不完整图像进行补全,以得到所述不完整图像对应的预估完整图像时,对于每个所述不完整图像,具体用于:
获取所述不完整图像对应的候补信息中的预估信息;
基于所述预估信息与不完整图像对应的图像信息得到所述不完整图像对应的预估完整图像。
第三方面,本申请提供一种电子设备,采用如下的技术方案:
一种电子设备,该电子设备包括:
一个或多个处理器;
存储器;
一个或多个应用程序,其中一个或多个应用程序被存储在存储器中并被配置为由一个或多个处理器执行,一个或多个程序配置用于:执行上述视频传输的方法。
第四方面,本申请提供一种计算机可读存储介质,采用如下的技术方案:
一种计算机可读存储介质,包括:存储有能够被处理器加载并执行上述视频传输方法的计算机程序。
综上所述,本申请包括以下至少一种有益技术效果:
1.采用UDP传输协议与预设设备进行数据的传输,UDP是一种面向无连接的传输层通信协议,其传输效率相比http请求传输的效率高;其次,本方案在传输图像时,将图像进行压缩后再分包成多个数据包进行传输,在与http请求传输的方式采用相同带宽的情况下,使得传输图像的速度增加,进而减少了视频的卡顿,提高了流畅度;同时UDP传输可以在没有互联网的情况下进行数据传输,提升了便利性;
2.对于每组图像信息,将数据包基于包号信息和总包数信息进行组包,然后经过解压缩得到原图像对应的解析图像,将得到的解析图像进行筛选,符合预设格式解析图像作为预览图像去生成视频;将不符合预设格式的预览图像播放会造成视频的卡顿,因此,基于预览确定预览视频能够提高视频的流畅度,减少卡顿;
3.将不完完整的图像进行播放会造成视频画面的卡顿,造成不流畅的观感,因此基于不完整图像的候补信息对不完整图像丢失的数据包进行补全,基于预估完整图像和完整图像生成预览视频信息,能够提高视频的流畅度,减少卡顿。
附图说明
图1是本申请实施例中视频传输的方法的流程示意图;
图2是本申请实施例中视频传输的装置的示意图;
图3是本申请实施例中电子设备的示意图。
具体实施方式
以下结合附图1-3对本申请作进一步详细说明。
本领域技术人员在阅读完本说明书后可以根据需要对本实施例做出没有创造性贡献的修改,但只要在本申请的权利要求范围内都受到专利法的保护。
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
另外,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,如无特殊说明,一般表示前后关联对象是一种“或”的关系。
本申请实施例提供了一种视频传输的方法,由电子设备执行,参照图1,该方法包括步骤S101、步骤S102、步骤S103以及步骤S104,其中:
步骤S101、通过与预设设备建立的UDP数据传输通道向预设设备发送传输信号。
在本申请实施例中,预设设备作为Accesspoint,电子设备作为Station,将电子设备连接到预设设备的站点,电子设备获取预设设备的IP地址,即可以与预设设备建立连接,进而电子设备和预设设备之间能够建立基于UDP传输协议的数据传输通道,实现图像信息的传输。例如预设设备可以为可视耳镜,电子设备可以为智能手机。
步骤S102、通过与预设设备建立的UDP数据传输通道获取预设设备发送的多组图像信息,每组图像信息均包括多个数据包,每组图像信息均是由对应帧原图像经过预设设备的压缩和分包后得到的,每组图像信息中的每个数据包还包括包号信息和总包数信息,包号信息表征数据包在每组图像信息中的次序,总包数信息表征每组图像信息中数据包的总数。
在本申请实施例中,预设设备采集的原图像经过压缩,每张原图像均获得对应的体积缩小的压缩文件,再将每个压缩文件进行分包,可以得到包含多个数据包的一组图像信息,进而便于进行传输,减小了传输整张大体积的原图像对带宽的占用,使得数据的传输更快;同时每组图像信息中的每个数据包都携带有对应的包号信息和对应的原图像被分割成的总包数的信息,便于进行组包时的数据包校验。
例如一个图像信息包括6个数据包,则这6个数据包的包号信息和总包数信息依次为:(1,6)、(2,6)、(3,6)、(4,6)、(5,6)和(6,6),其中括号内第一个数字表示每个数据包的次序,括号内的第二个数字表述每组图像信息包含的总包数。进一步地,对于每组图像数据,其总包数都应是相同的。
步骤S103、基于每组图像信息,确定各个对应帧原图像分别对应的预览图像。
在本申请实施例中,对于每组图像信息,需要将每组图像信息中的多个数据包进行组包和解压缩后,才能得到原图像对应的预览图像。
步骤S104、基于各个对应帧原图像分别对应的预览图像生成预览视频。
在本申请实施例中,按照预设设备采集原图像的顺序依次对预览图像进行排列得到视频信息;进一步地,可以将连续的预设数量的预览图像生成一端预览视频,延时一段时间后再进行播放;也可以实时将得到连续的预览图像与已经接收到的预览图像生成预览视频进行播放。
对于本申请实施例的方案,采用UDP传输协议与预设设备进行数据的传输,UDP是一种面向无连接的传输层通信协议,其传输效率相比http请求传输的效率高;其次,本方案在传输图像时,将图像进行压缩后再分包成多个数据包进行传输,在与http请求传输的方式采用相同带宽的情况下,使得传输图像的速度增加,进而减少了视频的卡顿,提高了流畅度;同时UDP传输可以在没有互联网的情况下进行数据传输,提升了便利性。
进一步地,在步骤S102之前,还包括:步骤A(图中未示出)、步骤B(图中未示出)以及步骤C(图中未示出),具体地:
步骤A、每隔第一预设时间,向预设设备发送一次传输信号。
第一预设时间可以认为设置,例如1S,2S,但本申请实施例中第一预设时间的长度不做任何的限定。
步骤B、在每一次向预设设备发送传输信号后,检测是否接收到预设设备发送的图像信息,直至满足预设条件时停止。
其中,预设条件包括以下至少一项;
发送传输信号达到预设次数;
接收到预设设备发送的图像信息。
具体地,当预设设备接收到电子设备发送的传输信号后,但是电子设备未检测到预设设备发送的信号,有可能是UDP数据传输通道发生了暂时性的延迟或者图像缓存加载时间过长,因此此时循环向预设设备发送传输信号,若是故障为前述情况,则延迟一段时间过后,电子设备能够接收到预设设备发送的图像信息;且当电子设备接收到图像信息时,应停止向预设设备再发送传输信号了,避免预设设备向电子设备发送重复的图像信息导致UDP数据传输通道堵塞。
但是,若是电子设备未接收到预设设备发送的图像信息是其他原因导致,例如预设设备的数据发送单元存在故障,此时循环向预设设备发送传输信息,电子设备也无法接收到图像信息了,因此当电子设备向预设设备发送传输信号达到预设的次数时,例如5次,却仍未接收到预设设备发送的图像,此时应停止向预设设备发送传输信号。
步骤C、当向预设设备发送传输信号达到预设次数时,输出警示信息,警示信息包括以下至少一种格式;
文字信息格式;
声音信息格式;
灯光信息格式。
具体地,警示信息能够提示使用者当前电子设备与预设设备之间的数据传输出现了故障,同时警示信息可以以文字信息的方式进行展示,例如输出“传输故障”字样,或者以声音信息进行警示,输出“传输故障”的声音,再或者通过频闪的警示灯对使用者进行警示,但是具体的警示信息的种类和内容,本申请实施例中不做任何限定,只要能够对使用者起到警示提醒的作用即可。
进一步地,步骤S103具体包括步骤S1031(图中未示出)和步骤S1032(图中未示出),其中:
S1031、对于每组图像信息,基于每个数据包的包号信息和总包数信息进行解析,得到各个对应帧原图像分别对应的解析图像。
具体地、预设设备发送的每组图像信息实际上是将原图像进行压缩和分包得到的多个数据包,因此电子设备要想得到原图像对应的解析图像,需要对每组图像信息进行解析,即对每组图像信息进行组包和解压缩,才能得到每组图像信息的原图像对应的解析图像;但是解析图像中会存在不完整的图像和不符合预设格式的图像。
步骤S1032、确定各个对应帧原图像分别对应的解析图像中符合预设格式的图像为预览图像。
具体地,为了减少视频播放过程中的卡顿,应确保每张预览图像都应该符合预设的格式,因此有必要对解析后得到的预览图像进行筛选,以确定出符合预设格式的图像然后进行整合得到视频信息,例如预设格式可以为JPEG,但是对于预设格式的具体格式,本申请实施例中不做任何限定。
进一步地,步骤S104具体包括步骤Ⅰ(图中未示出)、步骤Ⅱ(图中未示出)、步骤Ⅲ(图中未示出)以及步骤Ⅳ(图中未示出),其中:
步骤Ⅰ、确定预览图像中的每个不完整图像和每个完整图像,不完整图像为预览图像中缺失数据包的图像。
具体地,通过UDP传输协议进行数据的传输,虽然具有传输速度快的优点,但是也存在丢包现象的发生,由于符合预设格式的预览图像是用于生成视频信息的,因此在确定符合预设格式的图像之前,应该先对预览图像的完整性进行判断,并且在完整的预览图像中进行筛选以获得符合预设格式的预览图像。
进一步地,由于电子设备接收到的是数据包,参照步骤S102处示例,可以根据每组图像信息中每个数据包的包号信息和总包数信息判断解析得到的解析图像是否完整,例如电子设备接收到的一组数据包中包扩,(1,6)、(2,6)、(3,6)、(4,6)、(5,6)和(6,6)6个数据包,则判断该组数据包解析后得到的解析图像是完整的;电子设备接收到的一组数据包中缺少至少一个数据包,例如缺少(3,6)包,则判断该组图像信息解析后的解析图像不完整。
步骤Ⅱ、确定各个不完整图像分别对应的候补信息,候补信息为与不完整图像相邻的各个解析图像分别对应的图像信息。
具体地,在解析图像中,不完整图像相邻的图像可能有都是完整图像,也有可能存在不完整图像。
步骤Ⅲ、基于不完整图像对应的候补信息对不完整图像进行补全,以得到各个不完整图像分别对应的预估完整图像。
在本申请实施例中,具体地,由于视频信息为连续的多张图像,例如视频信息的帧率是18帧,则代表每秒播放18张图像,即预设设备每秒要采集18张图像,也就是说,采集相邻的图像之间的时间间隔很小,因此相邻的图像之间存在很多相同的内容,因此能够根据相邻的图像中的内容对不完整的图像的缺失部分进行预估,以得到不完整图像的预估完整图像,进而能够提升视频播放的流畅性,减少卡顿的发生。
步骤Ⅳ、基于各个不完整图像分别对应的预估完整图像和各个完整图像生成预览视频。
在本申请实施例中,不完整的图像可以选择舍弃或者进行补全。具体地,若是直接将不完整图像进行删除则将造成图像的不连续,可能会导致画面内容突变,即使视频是流畅的,但由于图像内容的不连续,仍会给使用者造成不流畅的体验。
因此,对于能够补全的不完整图像,得到预估完整图像,基于预估完整图像和完整图像生成预览视频,在减少卡顿的前提下,同时展示给用户更多的图像内容,能够提高用户的体验。
进一步地,针对任一不完整图像,步骤Ⅲ具体还包括:步骤a(图中未示出)、步骤b(图中未示出)、步骤c(图中未示出)、步骤d(图中未示出)、步骤e(图中未示出)以及步骤f(图中未示出)其中:
步骤a、获取不完整图像对应的图像信息;
步骤b、基于不完整图像对应的图像信息确定不完整图像缺失的数据包的包号信息。
具体地,基于不完整图像对应的图像信息中每个数据包的包号信息和总包数信息,来确定不完整图像丢失的数据包的包号信息,例如,接上述步骤Ⅰ中的示例,则能够确定不完整图像缺少的包号为(3,6)。
步骤c、获取不完整图像对应的候补信息中的预估信息,预估信息为不完整图像对应的候补信息中与不完整图像缺失的数据包的包号信息相同的数据包。
具体地,接上述示例,若一个不完整的图像缺失的数据包为(3,6),则应该获取在解析图像中与该不完整图像相邻的图像的图像信息中次序为3的数据包作为该不完整图像的预估信息。
步骤d、若预估信息为两个,则判断两个预估信息是否相同;
具体地,接上述,若该不完整图像存在两个相邻图像,且这两个相邻图像对应的图像信息中(3,6)数据包均不缺失,则该不完整图像的预估信息为两个。
步骤e、若相同,则基于预估信息与不完整图像对应的图像信息得到不完整图像对应的预估完整图像。
具体地,若是一个不完整图像对应的预估信息为两个且相同,则说明不完整图像缺失的数据包在图像中表示内容与预估信息相同,此时能够将预估信息作为不完整图像确实的数据包补充至不完整图像对应的图像信息中,然后重新对补全后的图像信息进行解析,能够得到预估完整图像。
步骤f、若不同或者预估信息为一个,则舍弃不完整图像。
具体地,当两个预估信息不同时,则无法基于前述逻辑对不完整图像进行补全,此时为了基于展示给用户的画面的真实性,同时减少播放视频是的卡顿,应舍弃该不完整的图像。
具体地,接上述示例,当不完整图像只有一个预估信息时,其中一种情况是,该不完整图像存在两个相邻图像,且其中一个相邻的图像对应的图像信息中也缺失(3,6)数据包,此时该不完整图像的预估信息只有一个。
此时,也无法对不完整图像进行补全,此时为了基于展示给用户的画面的真实性,同时减少播放视频是的卡顿,应舍弃该不完整的图像。
进一步地,当不完整图像只有一个预估信息时,另一种情况是,该不完整的图像为第一帧图像或者最后一帧图像,此时该不完整图像在解析图像中只有一个相邻的图像,因此也只有一个预估信息。
当不完整的图像为第一帧图像或者最后一帧图像,则依次对该不完整图像执行步骤a、步骤b、步骤c以及步骤e。
具体地,当不完整图像为第一帧或者最后一帧时,则视频内容的连续性对于该不完整图像的的优先级应该降低,即图像的完整性更重要。因此接上述示例,可以直接将该不完整图像在接续图像中相邻退昂的的(3,6)数据包对不完整图像进行补全,进而能够保证视频的帧率,提升视频流畅性。
进一步地,上述方法实施例中以示例角度介绍了如何对缺少一个数据包的不完整图像进行补全,但在实际中,每组图像信息中总包数的数量是可以改变的,因此在步骤b中确定不完整图像丢失的数据包时,还应判断丢失的数据包的个数,以及丢失的数据包个数占总包数的比重,当这个比值等于或大于某一个预设值时,应直接舍弃该不完整图像。对于该预设值的具体值,本申请实施例中不作任何限定。
上述实施例从方法流程的角度介绍一种视频传输的方法,下述实施例从虚拟模块或者虚拟单元的角度介绍了一种视频传输的装置,具体详见下述实施例。
本申请实施例提供一种视频传输装置200,如图2所示,该装置具体可以包括:传输信号发送模块201、图像信息获取模块202、预览图像确定模块203以及预览视频生成模块204,具体地:
传输信号发送模块201,用于通过与预设设备建立的UDP数据传输通道向预设设备发送传输信号;
图像信息获取模块202,用于通过与预设设备建立的UDP数据传输通道获取预设设备发送的多组图像信息,每组图像信息均包括多个数据包,每组图像信息均是由对应帧原图像经过预设设备的压缩和分包后得到的,每组图像信息中的每个数据包还包括包号信息和总包数信息,包号信息表征数据包在每组图像信息中的次序,总包数信息表征每组图像信息中数据包的总数;
预览图像确定模块203,用于基于每组图像信息,确定各个对应帧原图像分别对应的预览图像;
预览视频生成模块204,用于基于各个对应帧原图像分别对应的预览图像生成预览视频。
在图像信息获取模块202通过与预设设备建立的UDP数据传输通道向预设设备发送传输信号之前,还包括:
循环发送模块,用于每隔第一预设时间,向预设设备发送一次传输信号;
检测模块,在每一次向预设设备发送传输信号后,检测是否接收到预设设备发送的图像信息,直至满足预设条件时停止;
其中,预设条件包括以下至少一项;
发送传输信号达到预设次数;
接收到预设设备发送的图像信息。
一种视频传输的装置200,还包括:
警示信息输出模块,用于当向预设设备发送传输信号达到预设次数时,输出警示信息;
警示信息包括以下至少一种;
文字信息;
声音信息;
灯光信息。
当预览视频生成模块204基于各个对应帧原图像分别对应的预览图像生成预览视频时,具体用于:
对于每组图像信息,基于每个数据包的包号信息和总包数信息进行解析,得到每一帧原图像对应的解析图像;
确定解析图像中符合预设格式的图像为预览图像。
当预览视频生成模块基于各个对应帧原图像分别对应的预览图像生成预览视频时,具体用于:
确定预览图像中的不完整图像和完整图像,不完整图像为对应的图像信息中缺失数据包的预览图像;
确定不完整图像对应的候补信息,候补信息为与不完整图像在解析图像中相邻的图像对应的图像信息;
基于不完整图像对应的候补信息对不完整图像进行补全,以得到不完整图像对应的预估完整图像;
基于预估完整图像和完整图像生成预览视频。
当预览视频生成模块204针对任一不完整图像,基于任一不完整图像对应的候补信息对任一不完整图像进行补全时,具体用于:
对于每张不完整图像,获取不完整图像对应的图像信息;
基于不完整图像对应的图像信息确定不完整图像缺失的数据包的包号信息;
获取不完整图像对应的候补信息中的预估信息,预估信息为不完整图像对应的候补信息中与不完整图像缺失的数据包的包号信息相同的数据包;
若预估信息为两个,则判断两个预估信息是否相同;
若相同,则基于预估信息与不完整图像对应的图像信息得到不完整图像对应的预估完整图像;
若不同,则舍弃不完整图像;
若预估信息为一个,则舍弃不完整图像。
当不完整图像为第一帧或最后一帧时,预览视频生成模块204基于不完整图像对应的候补信息对不完整图像进行补全,以得到不完整图像对应的预估完整图像时,对于每个不完整图像,具体用于:
获取不完整图像对应的候补信息中的预估信息;
基于预估信息与不完整图像对应的图像信息得到不完整图像对应的预估完整图像。
本申请实施例中提供了一种电子设备,如图3所示,图3所示的电子设备300包括:处理器301和存储器303。其中,处理器301和存储器303相连,如通过总线302相连。可选地,电子设备300还可以包括收发器304。需要说明的是,实际应用中收发器304不限于一个,该电子设备300的结构并不构成对本申请实施例的限定。
处理器301可以是CPU(Central Processing Unit,中央处理器),通用处理器,DSP(Digital Signal Processor,数据信号处理器),ASIC(Application SpecificIntegrated Circuit,专用集成电路),FPGA(Field Programmable Gate Array,现场可编程门阵列)或者其他可编程逻辑器件、晶体管逻辑器件、硬件部件或者其任意组合。其可以实现或执行结合本申请公开内容所描述的各种示例性的逻辑方框,模块和电路。处理器301也可以是实现计算功能的组合,例如包含一个或多个微处理器组合,DSP和微处理器的组合等。
总线302可包括一通路,在上述组件之间传送信息。总线302可以是PCI(Peripheral Component Interconnect,外设部件互连标准)总线或EISA(ExtendedIndustry Standard Architecture,扩展工业标准结构)总线等。总线302可以分为地址总线、数据总线、控制总线等。为便于表示,图3中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
存储器303可以是ROM(Read Only Memory,只读存储器)或可存储静态信息和指令的其他类型的静态存储设备,RAM(Random Access Memory,随机存取存储器)或者可存储信息和指令的其他类型的动态存储设备,也可以是EEPROM(Electrically ErasableProgrammable Read Only Memory,电可擦可编程只读存储器)、CD-ROM(Compact DiscRead Only Memory,只读光盘)或其他光盘存储、光碟存储(包括压缩光碟、激光碟、光碟、数字通用光碟、蓝光光碟等)、磁盘存储介质或者其他磁存储设备、或者能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。
存储器303用于存储执行本申请方案的应用程序代码,并由处理器301来控制执行。处理器301用于执行存储器303中存储的应用程序代码,以实现前述方法实施例所示的内容。
其中,电子设备包括但不限于:移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。还可以为服务器等。图3示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
本申请实施例提供了一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,当其在计算机上运行时,使得计算机可以执行前述方法实施例中相应内容。
应该理解的是,虽然附图的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
以上仅是本申请的部分实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本申请的保护范围。

Claims (10)

1.一种视频传输的方法,其特征在于,包括:
通过与预设设备建立的UDP数据传输通道向所述预设设备发送传输信号;
通过与所述预设设备建立的UDP数据传输通道获取所述预设设备发送的多组图像信息,每组图像信息均包括多个数据包,每组图像信息均是由对应帧原图像经过预设设备的压缩和分包后得到的,每组图像信息中的每个数据包还包括包号信息和总包数信息,包号信息表征数据包在每组图像信息中的次序,总包数信息表征每组图像信息中数据包的总数;
基于所述每组图像信息,确定各个对应帧原图像分别对应的预览图像;
基于各个对应帧原图像分别对应的预览图像生成预览视频。
2.根据权利要求1所述的一种视频传输的方法,其特征在于,所述通过与预设设备建立的UDP数据传输通道向所述预设设备发送传输信号,还包括:
每隔第一预设时间,向所述预设设备发送一次传输信号;
在每一次向预设设备发送传输信号后,检测是否接收到预设设备发送的图像信息,直至满足预设条件时停止;
其中,所述预设条件包括以下任一项;
发送传输信号达到预设次数;
接收到预设设备发送的图像信息。
3.根据权利要求2所述的一种视频传输的方法,其特征在于,还包括:
当向预设设备发送传输信号达到预设次数时,输出警示信息,所述警示信息包括以下至少一种格式;
文字信息格式;
声音信息格式;
灯光信息格式。
4.根据权利要求1所述的一种视频传输的方法,其特征在于,所述基于所述每组图像信息,确定各个对应帧原图像分别对应的预览图像,包括:
对于每组图像信息,基于每个数据包的包号信息和总包数信息进行解析,得到各个对应帧原图像分别对应的解析图像;
确定所述各个对应帧原图像分别对应的解析图像中符合预设格式的图像为预览图像。
5.根据权利要求4所述的一种视频传输的方法,其特征在于,所述基于各个对应帧原图像分别对应的预览图像生成预览视频,包括:
确定所述预览图像中的每个不完整图像和每个完整图像,所述不完整图像为预览图像中缺失数据包的图像;
确定各个所述不完整图像分别对应的候补信息,所述候补信息为与所述不完整图像相邻的各个解析图像分别对应的图像信息;
基于不完整图像对应的候补信息对所述不完整图像进行补全,以得到各个所述不完整图像分别对应的预估完整图像;
基于各个所述不完整图像分别对应的预估完整图像和各个所述完整图像生成预览视频。
6.根据权利要求5所述的一种视频传输的方法,其特征在于,针对任一不完整图像,基于所述任一不完整图像对应的候补信息对所述任一不完整图像进行补全,包括:
获取所述不完整图像对应的图像信息;
基于所述不完整图像对应的图像信息确定所述不完整图像缺失的数据包的包号信息;
获取所述不完整图像对应的候补信息中的预估信息,所述预估信息为所述不完整图像对应的候补信息中与所述不完整图像缺失的数据包的包号信息相同的数据包;
若所述预估信息为两个,则判断两个所述预估信息是否相同;
若相同,则基于所述预估信息与所述不完整图像对应的图像信息得到所述不完整图像对应的预估完整图像;
若不同,则舍弃所述不完整图像;
若预估信息为一个,则舍弃所述不完整图像。
7.根据权利要求5所述的任一种视频传输的方法,其特征在于,若所述不完整图像为第一帧或最后一帧,则所述基于所述不完整图像对应的候补信息对所述不完整图像进行补全,以得到所述不完整图像对应的预估完整图像,对于每个所述不完整图像,包括:
获取所述不完整图像对应的图像信息;
基于所述不完整图像对应的图像信息确定所述不完整图像缺失的数据包的包号信息;
获取所述不完整图像对应的候补信息中的预估信息;
基于所述预估信息与不完整图像对应的图像信息得到所述不完整图像对应的预估完整图像。
8.一种视频传输的装置,其特征在于,包括:
传输信号发送模块,用于通过与预设设备建立的UDP数据传输通道发送传输信号以被预设设备接收,所述预设设备接收到传输信号能够发送图像信息;
图像信息获取模块,用于获取预设设备发送的多组图像信息,每组图像信息均包括多个数据包,每组图像信息均由对应帧的原图像经过预设设备的压缩和分包后得到,每组图像信息中的每个数据包还包括与对应帧原图像对应的包号信息和总包数信息,所述包号信息用以表征一组图像信息中每个数据包的次序;
预览图像确定模块,用于基于所述图像信息,确定原图像对应的预览图像;
预览视频生成模块,用于基于所述预览图像生成预览视频。
9.一种电子设备,其特征在于,该电子设备包括:
一个或多个处理器;
存储器;
一个或多个应用程序,其中一个或多个应用程序被存储在存储器中并被配置为由一个或多个处理器执行,一个或多个程序配置用于:执行权利要求1-7中任一项所述的视频传输的方法。
10.一种计算机可读存储介质,其特征在于,包括:存储有能够被处理器加载并执行如权利要求1-7中任一种方法的计算机程序。
CN202110996736.9A 2021-08-27 2021-08-27 一种视频传输的方法、装置、电子设备及可读存储介质 Active CN113747063B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110996736.9A CN113747063B (zh) 2021-08-27 2021-08-27 一种视频传输的方法、装置、电子设备及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110996736.9A CN113747063B (zh) 2021-08-27 2021-08-27 一种视频传输的方法、装置、电子设备及可读存储介质

Publications (2)

Publication Number Publication Date
CN113747063A true CN113747063A (zh) 2021-12-03
CN113747063B CN113747063B (zh) 2023-08-04

Family

ID=78733668

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110996736.9A Active CN113747063B (zh) 2021-08-27 2021-08-27 一种视频传输的方法、装置、电子设备及可读存储介质

Country Status (1)

Country Link
CN (1) CN113747063B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116112712A (zh) * 2023-01-12 2023-05-12 联通沃音乐文化有限公司 一种自适应影音视频传输播放方法

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04340886A (ja) * 1991-05-17 1992-11-27 Nec Corp 動画像符号化装置及び動画像復号化装置
JP2002247578A (ja) * 2001-02-21 2002-08-30 Nec Corp ビデオパケットの受信復号システムおよび送信システム
JP2004350252A (ja) * 2003-05-21 2004-12-09 Tietech Co Ltd 圧縮動画像情報の伝送方法
WO2006134110A1 (en) * 2005-06-14 2006-12-21 Thomson Licensing Method and apparatus for transmitting encoded video data, and method and apparatus for decoding video data
WO2018082033A1 (zh) * 2016-11-04 2018-05-11 北京小米移动软件有限公司 协议数据单元pdu包生成方法和装置
CN108282657A (zh) * 2018-01-24 2018-07-13 深圳市道通科技股份有限公司 视频帧传输方法、探测器及用户设备
US20180205963A1 (en) * 2017-01-17 2018-07-19 Seiko Epson Corporation Encoding Free View Point Data in Movie Data Container
CN110557655A (zh) * 2019-09-06 2019-12-10 香港乐蜜有限公司 一种视频画面显示方法、装置、电子设备及存储介质
CN111696168A (zh) * 2020-06-13 2020-09-22 中北大学 基于残差自注意力图像增强的高倍速采mri重建方法
CN113301299A (zh) * 2021-05-06 2021-08-24 厦门市思芯微科技有限公司 一种多通道视频传输方法、系统、终端以及存储介质

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04340886A (ja) * 1991-05-17 1992-11-27 Nec Corp 動画像符号化装置及び動画像復号化装置
JP2002247578A (ja) * 2001-02-21 2002-08-30 Nec Corp ビデオパケットの受信復号システムおよび送信システム
JP2004350252A (ja) * 2003-05-21 2004-12-09 Tietech Co Ltd 圧縮動画像情報の伝送方法
WO2006134110A1 (en) * 2005-06-14 2006-12-21 Thomson Licensing Method and apparatus for transmitting encoded video data, and method and apparatus for decoding video data
WO2018082033A1 (zh) * 2016-11-04 2018-05-11 北京小米移动软件有限公司 协议数据单元pdu包生成方法和装置
US20180205963A1 (en) * 2017-01-17 2018-07-19 Seiko Epson Corporation Encoding Free View Point Data in Movie Data Container
CN108282657A (zh) * 2018-01-24 2018-07-13 深圳市道通科技股份有限公司 视频帧传输方法、探测器及用户设备
CN110557655A (zh) * 2019-09-06 2019-12-10 香港乐蜜有限公司 一种视频画面显示方法、装置、电子设备及存储介质
CN111696168A (zh) * 2020-06-13 2020-09-22 中北大学 基于残差自注意力图像增强的高倍速采mri重建方法
CN113301299A (zh) * 2021-05-06 2021-08-24 厦门市思芯微科技有限公司 一种多通道视频传输方法、系统、终端以及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
陈娟;应骏;王健;曾爽;: "一种基于帧间差与图像分割的运动目标分割方法", 上海师范大学学报(自然科学版), no. 02 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116112712A (zh) * 2023-01-12 2023-05-12 联通沃音乐文化有限公司 一种自适应影音视频传输播放方法
CN116112712B (zh) * 2023-01-12 2023-09-26 联通沃音乐文化有限公司 一种自适应影音视频传输播放方法

Also Published As

Publication number Publication date
CN113747063B (zh) 2023-08-04

Similar Documents

Publication Publication Date Title
CN113423018B (zh) 一种游戏数据处理方法、装置及存储介质
US11128893B2 (en) Live streaming method and system, server, and storage medium
US20140187331A1 (en) Latency reduction by sub-frame encoding and transmission
CN108337246B (zh) 防止重放延迟的媒体重放设备和媒体服务设备
CN110830460B (zh) 一种连接建立方法、装置、电子设备及存储介质
CN110996160B (zh) 视频处理方法、装置、电子设备及计算机可读取存储介质
CN112953850B (zh) 数据传输方法、装置、计算机可读介质及电子设备
CN112199174A (zh) 消息发送的控制方法、装置、电子设备及计算机可读存储介质
WO2023040825A1 (zh) 媒体信息的传输方法、计算设备及存储介质
CN113747063B (zh) 一种视频传输的方法、装置、电子设备及可读存储介质
CN110300278A (zh) 视频传输方法和设备
CN112243105A (zh) 分布式拼接显示系统、方法、装置及电子设备
US20150092832A1 (en) Delay Tolerant Decoder
US11405442B2 (en) Dynamic rotation of streaming protocols
WO2021093608A1 (zh) 视频数据的处理方法、装置、电子设备及计算机可读介质
CN111918074A (zh) 直播视频故障预警方法及相关设备
CN112866745B (zh) 流媒体视频数据处理方法、装置、计算机设备和存储介质
JP2015082842A (ja) クローズド・キャプション検査システム及び方法
CN108200481B (zh) 一种rtp-ps流处理方法、装置、设备及存储介质
CN110324608B (zh) 视频流质量的检测方法、装置和计算机设备
CN111416994A (zh) 视频流和跟踪信息的同步呈现的方法、装置及电子设备
CN115942000B (zh) H.264格式的视频流转码方法及装置、设备及介质
CN115086756B (zh) 视频处理方法、装置及存储介质
CN109729370A (zh) 一种视频直播流生成方法、装置及电子设备
US20240129537A1 (en) Method and apparatus for signaling cmaf switching sets in isobmff

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant