CN111866586B - 井下视频数据处理方法、装置、电子设备及存储介质 - Google Patents
井下视频数据处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111866586B CN111866586B CN202010735089.1A CN202010735089A CN111866586B CN 111866586 B CN111866586 B CN 111866586B CN 202010735089 A CN202010735089 A CN 202010735089A CN 111866586 B CN111866586 B CN 111866586B
- Authority
- CN
- China
- Prior art keywords
- video
- bandwidth
- video data
- underground
- frame loss
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
- H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
- H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
- H04N21/440281—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the temporal resolution, e.g. by frame skipping
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
- H04N21/44245—Monitoring the upstream path of the transmission network, e.g. its availability, bandwidth
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
- H04N21/4508—Management of client data or end-user data
- H04N21/4516—Management of client data or end-user data involving client characteristics, e.g. Set-Top-Box type, software version or amount of memory available
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
本申请是关于一种井下视频数据处理方法、装置、电子设备及存储介质。该方法获得井下视频设备所采集的井下视频数据;依据每一个视频流的视频流带宽得到所述井下视频数据的视频数据带宽;依据每一个视频流的视频流丢帧率得到所述井下视频数据的视频数据丢帧率;当所述视频数据丢帧率与预设丢帧率的关系表征所述井下视频数据的视频质量不符合预设视频质量时,根据所述视频数据带宽与适宜带宽的关系确定目标设备参数,以设置所述井下视频设备的设备参数;本申请提供的方案,能够通过处理井下视频设备的井下视频数据得到井下视频设备在当前网络架构下的最佳设置参数,从而无需升级井下网络设备的硬件以及增加网络带宽就可以提高井下视频数据质量。
Description
技术领域
本申请涉及互联网技术领域,尤其涉及井下视频数据处理方法、装置、电子设备及存储介质。
背景技术
近年来,随着信息技术的不断成熟以及其在煤炭行业的广泛应用,煤炭行业的传统模式已经在慢慢发生变化,矿井传统的矿用摄像头布设在煤矿生产、安全管理的多个关键场景,用于信息的汇总呈现。
但由于煤炭行业的井下环境恶劣,在井下所拍摄的视频时,由于摄像机与服务器之间的网络链路带宽瓶颈,会出现常会出现视频内容模糊、失真等井下视频数据质量差的现象。
相关技术中,解决视频数据质量差的一种方法是升级网络设备的硬件以及增加网络带宽,但是,由于井下升级改造工作量巨大、投入较高,因此,此种方法不适用于提高井下视频数据质量。
发明内容
为克服相关技术中存在的问题,本申请提供井下视频数据处理方法、装置、电子设备及存储介质,该处理方法,能够通过处理井下视频设备的井下视频数据得到井下视频设备在当前网络架构下的最佳设置参数,从而无需升级井下网络设备的硬件以及增加网络带宽就可以提高井下视频数据质量。
本申请第一方面提供一种井下视频数据处理方法,包括:
获得井下视频设备所采集的井下视频数据;所述井下视频数据至少包括一个视频流,其中,一路所述井下视频设备对应一个视频流;
依据每一个视频流的视频流带宽得到所述井下视频数据的视频数据带宽;
依据每一个视频流的视频流丢帧率得到所述井下视频数据的视频数据丢帧率;
当所述视频数据丢帧率与预设丢帧率的关系表征所述井下视频数据的视频质量不符合预设视频质量时,根据所述视频数据带宽与适宜带宽的关系确定目标设备参数,以设置所述井下视频设备的设备参数;所述适宜带宽为对所述井下视频设备进行带宽测试的结果。
可选的,所述获得井下视频设备所采集的井下视频数据前还包括:
截取井下视频设备的视频流;
判断所述视频流中是否包括所述井下视频设备在工作状态下所采集的活动视频图像;
如果包括活动视频图像,则确定所述井下视频设备处于在线状态,执行所述获得井下视频设备所采集的井下视频数据的步骤。
可选的,所述依据每一个视频流的视频流带宽得到所述井下视频数据的视频数据带宽包括:
确定每一个视频流对应的流量端口;
统计所述流量端口在第一时间段t内接收的端口总流量k;
根据公式M=k*8/t计算得到该视频流的视频流带宽M;
将全部视频流的视频流带宽累加得到视频数据带宽。
可选的,所述依据每一个视频流的视频流丢帧率得到所述井下视频数据的视频数据丢帧率包括:
解析每一个视频流在第二时间段内对应的总帧数n以及丢帧数m;
根据公式a=m/n*100%计算每一个视频流对应的视频流丢帧率a;
将全部视频流的视频流丢帧率进行累加得到视频数据丢帧率。
可选的,根据所述视频数据丢帧率与预设丢帧率的关系确定所述井下视频数据的视频质量包括:
当所述视频数据丢帧率小于第一预设丢帧率时,确定所述井下视频的视频质量为第一视频质量;
当所述视频数据丢帧率大于或等于所述第一预设丢帧率且小于或等于第二预设丢帧率时,确定所述视频质量为第二视频质量;
当所述视频数据丢帧率大于第三预设丢帧率时,确定所述视频质量为第三视频质量;其中,所述第一预设丢帧率小于所述第二预设丢帧率,所述第二预设丢帧率小于所述第三预设丢帧率。
可选的,所述根据对所述井下视频设备进行带宽测试包括:
设置所有井下视频设备的测试参数,所述测试参数中摄像机帧数为预设帧数且摄像机分辨率为预设分辨率;
按照预设规则逐步调整所有井下视频设备的码率以及各个码率下接入井下视频设备的路数,并对接入的井下视频设备进行网络压力测试;
获得网络压力测试的测试结果;
计算所述测试结果中视频数据丢帧率为零时所有接入的井下视频设备占用的总带宽;
将多个不同所述测试参数下各自对应的多个总带宽的平均值作为适宜带宽。
可选的,所述根据所述视频数据带宽与适宜带宽的关系确定目标设备参数包括:
判断所述视频数据带宽是否超过所述适宜带宽;
若未超过,则依据所述测试结果确定所述目标设备参数中的第一参数,所述第一参数至少包括分辨率和\或码率,其中,所述第一参数的设置使所述视频质量符合预设视频质量;
若超过,则依据所述测试结果确定所述目标设备参数中的第二参数,所述第二参数至少包括码率,其中,所述第二参数的设置使所述视频质量符合预设视频质量。
本申请第二方面提供一种井下视频数据处理装置,包括:
获取模块,用于获得井下视频设备所采集的井下视频数据;所述井下视频数据至少包括一个视频流,其中,一路所述井下视频设备对应一个视频流;
第一计算模块,用于依据每一个视频流的视频流带宽得到所述井下视频数据的视频数据带宽;
第二计算模块,用于依据每一个视频流的视频流丢帧率得到所述井下视频数据的视频数据丢帧率;
参数设置模块,用于当所述视频数据丢帧率与预设丢帧率的关系表征所述井下视频数据的视频质量不符合预设视频质量时,根据所述视频数据带宽与适宜带宽的关系确定目标设备参数,以设置所述井下视频设备的设备参数;所述适宜带宽为对所述井下视频设备进行带宽测试的结果。
本申请第三方面提供一种电子设备,包括:
处理器;以及
存储器,其上存储有可执行代码,当所述可执行代码被所述处理器执行时,使所述处理器执行如上所述的方法。
本申请第四方面提供一种非暂时性机器可读存储介质,其上存储有可执行代码,当所述可执行代码被电子设备的处理器执行时,使所述处理器执行如上所述的方法。
本申请提供的技术方案可以包括以下有益效果:
本申请的技术方案,可以通过处理井下视频设备的井下视频数据得到井下视频设备在当前网络架构下的最佳设置参数,从而无需升级井下网络设备的硬件以及增加网络带宽就可以提高井下视频数据质量,为实现人工智能视频识别做好数据基础。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。
附图说明
通过结合附图对本申请示例性实施方式进行更详细的描述,本申请的上述以及其它目的、特征和优势将变得更加明显,其中,在本申请示例性实施方式中,相同的参考标号通常代表相同部件。
图1是是本申请实施例示出的一种井下视频数据处理方法的流程示意图;
图2是本申请实施例中公开的一种井下视频数据处理方法中对井下视频设备进行带宽测试的流程示意图;
图3是本申请实施例示出的井下视频数据处理装置的结构示意图;
图4是本申请实施例示出的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本申请的优选实施方式。虽然附图中显示了本申请的优选实施方式,然而应该理解,可以以各种形式实现本申请而不应被这里阐述的实施方式所限制。相反,提供这些实施方式是为了使本申请更加透彻和完整,并且能够将本申请的范围完整地传达给本领域的技术人员。
在本申请使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本申请可能采用术语“第一”、“第二”、“第三”等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本申请范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本申请的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
本申请实施例主要应用在煤炭行业,尤其是井下作业环境,煤炭是工业发展的必备资源之一,随着经济的不断发展,我国对煤炭的需求也与日俱增。我国对煤炭资源的开发基本上处于一个高投入、低产出、高消耗、低回报的粗放型的发展模式。近年来,随着信息技术的不断成熟以及其在煤炭行业的广泛应用,煤炭行业的传统模式已经在慢慢发生变化,矿井传统的矿用摄像头布设在煤矿生产、安全管理的多个关键场景,用于信息的汇总呈现,但因信息数据量大,数据应用多限于跟踪记录和事后追责。对于被观察场景来说,风险的监测、识别有赖于人的直接观察,人为疏忽、失当的可能性大,因此摄像头的“威慑效力”大于其实际监管、监测能力。
将机器视觉技术与安全生产、安全管理的多个实际场景相结合并产品化,在不需要替换现有摄像头设备或简单改造的情况下,实现了传统摄像头对安全生产、安全管理的实时风险识别和感知,不仅进一步丰富了现有风险监测感知网络,检测井下作业规范,实现远距离精准监控,不仅节省了人力成本,也降低了井下事故发生的可能性,通过其实时性、精确性、可靠性对人形成替代或辅助决策,有助于企业、监管“减人增效”的目标实现。但煤炭行业的井下环境恶劣,部署设备比较复杂,井下的网络环境改善成为了一件非常棘手的事情。在井下视频识别时常常会出现视频内容模糊、失真、丢帧、带宽不足等现象,这是因为摄像机与服务器之间的网络链路带宽瓶颈导致的,升级网络设备增加网络带宽是解决的一种方法,但井下升级改造工作量巨大,投入较高,因此在不升级网络设备,在现有带宽情况,不降低识别精度的前提下优化前端数据,以此来保证传输质量,获取到最优的井下视频实现人工智能视频识别,是相关技术需要解决的技术问题。
可见,相关技术中,井下的环境相对比较复杂,相比于正常环境,井下视频设备所拍摄的视频数据的视频数据质量如果无法保证,那么对后续的人工智能识别等将造成无法估量的影响。可能会使得例如提前预警事故等失效,从而导致较大的损失。
另一方面,由于井下施工的线路较为复杂,井下的网络拓扑也很错杂,因此,如果要改变拓扑提升硬件或网络带宽,几乎是不可能的。因此,如何保证传输质量,而不对井下现有的线路、硬件进行改动,是本申请实施例所需要解决的技术问题。
针对上述问题,本申请实施例提供一种井下视频数据处理方法,能够通过处理井下视频设备的井下视频数据得到井下视频设备在当前网络架构下的最佳设置参数,从而无需升级井下网络设备的硬件以及增加网络带宽就可以提高井下视频数据质量,实现人工智能视频识别。
以下结合附图详细描述本申请实施例的技术方案。
图1是本申请实施例示出的一种井下视频数据处理方法的流程示意图。
参见图1。
本申请实施例提供了一种井下视频数据处理方法,包括:
S101、获得井下视频设备所采集的井下视频数据;井下视频数据至少包括一个视频流,其中,一路井下视频设备对应一个视频流;
本申请实施例中,井下视频设备可以是网络摄像头,摄像机或其它可以拍摄井下视频的设备。其可以通过网络地址,如IP地址进行访问。
可以理解的是,一路井下视频设备通常为一个摄像头,对应一个视频流。视频流可以是HLS视频流或Rtsp视频流。
可以理解的是,本申请实施例中,与相关技术不同的是,相关技术通常通过OSI模型的第三层即网络层进行相关数据的传输,而本申请实施例中,不涉及对网络层的改进,而是应用级的改进。
可以理解的是,如果井下视频设备不在线,或能够连接但工作不正常,则无法保证所拍摄的视频质量,因此,本申请实施例中,在步骤S101之前,还有判断井下视频设备是否在线的过程。
具体的。
获得井下视频设备所采集的井下视频数据前还包括:
截取井下视频设备的视频流;
判断视频流中是否包括井下视频设备在工作状态下所采集的活动视频图像;
如果包括活动视频图像,则确定井下视频设备处于在线状态,执行获得井下视频设备所采集的井下视频数据的步骤。
本申请实施例中,会判断井下视频设备是否在线。其中一种实现方式可以是使用opencv判断摄像头是否处于在线状态。当然,其它截取视频流的方式也可以,只需要实现与本申请实施例相同的效果即可,在此不进行限定。
本申请实施例中,会截取井下视频设备的视频流。然后确定其是否包括活动视频图像。其中,活动视频图像为井下视频设备在正常工作时所能够拍摄和采集到的视频图像,如果井下视频设备处于非工作状态或故障状态,例如由于镜头故障而无法采集到任何数据,则确定井下视频设备不在线。
当然,活动视频图像可以是一幅静态图像也可以是N秒的动态图像,只需要可以确定出该井下视频设备是否是在正常工作状态下进行拍摄的即可。在此不进行具体限定。
可以理解的是,如果确定井下视频设备不在线时,则会发出该井下视频不在线的提示信息。该提示信息可以直接发送给预定地址,例如邮件、某系统接入端口或通信终端号码。
与相关技术不同的是,相关技术中,通常采用网络层的方式去验证是否在线,例如,某井下视频设备的IP地址为192.168.0.2,则会通过ping指令去确定是否可以与该地址正常连通,但是,此种方式仅能够确定网络是否通畅,而无法确定井下视频设备是否正常工作。由此,本申请实施例中,通过截取视频流中活动视频图像的方式,可以直观的确定出该井下视频设备是否正常工作。相比于相关技术更加精确有效的确定井下视频设备的工作状态。
本申请实施例中,服务端通过启动检测模型的方式来触发步骤S101。其中,检测模型是预先设置好具有对井下视频数据进行分析的机器学习模型。只需要启动该模型,就可以执行本申请实施例中步骤S101-S104的步骤。
可以理解的是,井下视频数据可以是启动检测模型后,前端的井下视频设备进行了一段时间视频采集后,将采集的视频流存储在流数据库中,然后从该流数据库中进行提取所得到的。本申请实施例中,也可以通过一个拉流的程序从井下视频设备中获得视频流。
S102、依据每一个视频流的视频流带宽得到井下视频数据的视频数据带宽;
S103、依据每一个视频流的视频流丢帧率得到井下视频数据的视频数据丢帧率;
本申请实施例中,在步骤S101后,步骤S102和步骤S103会计算井下视频数据的视频数据带宽和视频数据丢帧率。
具体的。
依据每一个视频流的视频流带宽得到井下视频数据的视频数据带宽包括:
确定每一个视频流对应的流量端口;
统计流量端口在第一时间段t内接收的端口总流量k;
根据公式M=k*8/t计算得到该视频流的视频流带宽M;
将全部视频流的视频流带宽累加得到视频数据带宽。
依据每一个视频流的视频流丢帧率得到井下视频数据的视频数据丢帧率包括:
解析每一个视频流在第二时间段内对应的总帧数n以及丢帧数m;
根据公式a=m/n*100%计算每一个视频流对应的视频流丢帧率a;
将全部视频流的视频流丢帧率进行累加得到视频数据丢帧率。
本申请实施例中,确定视频流对应的流量端口。可以是,通过启动前述拉流程序来直接获得,也可以是通过该井下视频设备的网络地址对应的端口号获得。
本申请实施例中,可以通过信息包过滤工具iptables工具对流量端口的数据进行监测,从而获得该井下视频设备所占用的带宽。
通过获取视频流对应的流量端口,统计在一定秒数(t)内接收的总流量(k),从而计算视频流所占带宽(M),M=k*8/t。
本申请实施例中,利用包检测工具来对视频流进行解析,获得解析的总帧数(n)、丢帧数(m)、丢帧率(a),a=m/n*100%。其中,通过计算摄像头每秒传输的视频帧数与理论的视频帧数进行比较的差值,得到摄像头图像在传输过程中的丢帧数m。
每一个视频流的视频流带宽和视频流丢帧率计算完成后,进行合计后,得到井下视频数据的视频数据带宽和视频数据丢帧率。例如,有6路井下视频设备,则对这6路井下视频设备对应的视频流进行拉取、解析后,得到的结果进行整合,得到整个井下视频数据的视频数据带宽和视频数据丢帧率。
本申请实施例中,可以通过视频解析程序来执行步骤S101-步骤S103的过程,该视频解析程序基于VLC开源项目的源码开发。
S104、当视频数据丢帧率与预设丢帧率的关系表征井下视频数据的视频质量不符合预设视频质量时,根据视频数据带宽与适宜带宽的关系确定目标设备参数,以设置井下视频设备的设备参数;适宜带宽为对井下视频设备进行带宽测试的结果。
本申请实施例中,计算了视频数据丢帧率后,会确定井下视频数据的视频质量。
具体的。
根据视频数据丢帧率与预设丢帧率的关系确定井下视频数据的视频质量包括:
当视频数据丢帧率小于第一预设丢帧率时,确定井下视频的视频质量为第一视频质量;
当视频数据丢帧率大于或等于第一预设丢帧率且小于或等于第二预设丢帧率时,确定视频质量为第二视频质量;
当视频数据丢帧率大于第三预设丢帧率时,确定视频质量为第三视频质量;其中,第一预设丢帧率小于第二预设丢帧率,第二预设丢帧率小于第三预设丢帧率。
本申请实施例中,视频质量可以分为三种,第一视频质量、第二视频质量和第三视频质量。其中,第一视频质量表征视频质量优良,第二视频质量表征视频质量一般,第三视频质量表征视频质量较差。
实际使用中,可以根据丢帧率a来判断视频质量,a<1%为优良,1%<a<3%为一般,a>3%为较差。
本申请实施例中,可以根据对井下视频数据进行质量分类,能够更加准确的得知井下视频设备采集数据的情况,进而进行有针对性的调整。例如,第一视频质量符合预设视频质量,则不需要优化参数,第二视频质量以及第三视频质量不符合预设视频质量,则需要优化。
本申请实施例中,设置有适宜带宽,该数值是通过井下视频设备进行带宽测试的结果。测试的过程在后面进行详细介绍。适宜带宽表征当前网络环境下,吞吐量最适合的带宽值,
本申请实施例中,会根据视频数据带宽与适宜带宽的关系确定目标设备参数,该目标设备参数值用设置井下视频设备的设备参数。其中,设置井下视频设备的设备参数,可以通过人工手动调整,本申请实施例中,优选自动根据所得出的目标设备参数对井下视频设备的设备参数进行调整。
其中,调整的设备参数例如,将井下视频设备的码率调整为22M,或者将帧数调整为24帧等。
为了实现自动调整,本申请实施例中,发送设置设备参数的指令到井下视频设备对应的设置接口,当井下视频设备接收到该指令后,会自动调整相应的参数。可以理解的是,不具备自动调整功能的井下视频设备可以对井下视频设备进行软件升级,来实现自动接收指令后进行自动调整。此过程参考相关技术即可,在此不进行赘述。
本申请实施例中,设置设备参数的目的是使得井下视频设备所拍摄的视频数据质量最高。优选的,设备参数可以包括,分辨率、码率、帧数,相关技术中,相同分辨率下的视频,码率越高,画面越清晰,通常情况下的码率、分辨率具有对应关系,在本申请实施例中,打破了常规设置方式,采用动态调整的方式,来提高井下视频数据的视频质量。
实际使用中,在各路视频总带宽即步骤S102的视频数据带宽未超过适宜带宽时,出现丢帧情况,是摄像机硬件配置等原因不足以支持当前配置,应当降低摄像头的分辨率和码率;若是各路视频总带宽超过适宜带宽,应降低各路视频的带宽,合理的配置摄像机参数,降低帧率、码率以及分辨率,以此来保证视频质量。
可以看出,本申请实例中,可以通过处理井下视频设备视频数据得到井下视频设备在当前网络架构下的最佳设置参数,从而无需升级井下网络设备的硬件以及增加网络带宽就可以提高井下视频数据质量,实现人工智能视频识别。
前述实施例介绍了对井下视频设备进行带宽测试而得到适宜带宽的过程,下面对此过程进行详细介绍。
参见图2,图2是本申请实施例中公开的一种井下视频数据处理方法中对井下视频设备进行带宽测试的流程示意图。
本申请实施例公开的根据对所述井下视频设备进行带宽测试包括:
S201、设置所有井下视频设备的测试参数,所述测试参数中摄像机帧数为预设帧数且摄像机分辨率为预设分辨率;
S202、按照预设规则逐步调整所有井下视频设备的码率以及各个码率下接入井下视频设备的路数,并对接入的井下视频设备进行网络压力测试;
S203、获得网络压力测试的测试结果;
S204、计算测试结果中视频数据丢帧率为零时所有接入的井下视频设备占用的总带宽;
S205、将多个不同所述测试参数下各自对应的多个总带宽的平均值作为适宜带宽。
本申请实施例中,在步骤S201中,将所有井下视频设备的测试参数设置为最优参数,该最优参数是指用户在观看井下视频设备所采集的视频时清晰度和流畅度最适合的参数。其中,设置测试参数中摄像机帧数为预设帧数,例如设置为25帧,设置摄像机分辨率为1920*1080P,此为煤矿井底识别的最佳值。
在步骤S202-S204中,计算丢帧率为零的情况下井下视频设备所占用的总带宽,然后不同测试参数下对应的多个总带宽的平均值作为适宜带宽。
其中,预设规则可以是有高到低的顺序设置井下视频设备的码率,也可以是依据预设测试标定表设置井下视频设备的码率。
本申请实施例中,在各个码率下,逐渐增加接入的井下视频设备的路数,例如,在码率为4M时,从5路增加到6路,并执行网络压力测试。网络压力测试的目的是为了测试设置网络瓶颈。测试结果中可以包括有井下视频设备的摄像机参数、各个井下视频设备所占用的带宽以及各个路数下视频数据丢帧率。其中,摄像机参数中可以包括有摄像机地址、分辨率、码率、帧数等摄像机相关参数,带宽可以包括有路数以及该路数下各个摄像机所占用的带宽。
在执行完网络压力测试后,计算该测试结果中视频数据丢帧率为零时所有接入的井下视频设备占用的总带宽。例如,码率为4M时,视频数据丢帧率为零,接入了6路井下视频设备,计算这6路井下视频设备占用的总带宽为25.1M。并且,当码率为5M时,接入5路井下视频设备时的视频数据丢帧率为零,计算这5路井下视频设备占用的总带宽为25.2M。则将25.1M和25.2M的平均值作为总带宽。实际使用中,为了使得视频质量更佳,通常会向上取整,例如前述例子中,将26M作为适宜带宽。
可以理解的是,不同测试参数的前提下,步骤S201和步骤S202可以重复多次,获得多个测试结果,每个测试结果中均记录有摄像机参数、带宽以及丢帧率等数据。在步骤S204和S205中,还可以是综合多个测试结果后所得到的适宜带宽。
本申请实施例中,为了使得目标设备参数的设置更精确,可以根据前述测试结果确定目标设备参数。
本申请实施例中,根据视频数据带宽与适宜带宽的关系确定目标设备参数包括:
判断视频数据带宽是否超过适宜带宽;
若未超过,则依据测试结果确定目标设备参数中的第一参数,第一参数至少包括分辨率和\或码率,其中,第一参数的设置使视频质量符合预设视频质量;
若超过,则依据测试结果确定目标设备参数中的第二参数,第二参数至少包括码率,其中,第二参数的设置使得视频质量符合预设视频质量。
本申请实施例中,帧数是流畅度的保证,通常情况下,不会牺牲流畅度来换取高质量,而是会将分辨率、码率作为调整对象。因此,本申请实施例中,第一参数和第二参数中都可以包括分辨率和/或码率。
优选的,当视频数据带宽超过适宜带宽时,通常是由于硬件不足而导致视频质量不符合预设视频质量,因此,应当调整摄像机参数中的分辨率和/或码率来使得视频质量符合预设视频质量。
可以理解的是,本申请实施例中,对各个井下视频设备还设置有不同的优先级,若在预设分辨率和预设帧数的前提下,需要舍弃一路或N路才能使得视频质量符合预设视频质量,则按照优先级的先后顺序,依次断开相对应的井下视频设备,来满足视频质量符合预设视频质量。
本申请实施例中,第一参数和第二参数中,还可以包括帧数,在某些场景下,不需要流畅的画面时,通过降低帧数来可以降低视频数据丢帧率,来保证视频质量。
可以理解的是,在进行调整时,会先获得当前井下视频设备的当前摄像机参数,这样在确定目标设备参数时,仅需要确定低于当前摄像机参数的数值即可,缩短计算的时间,提高计算效率。
在实际使用中,进行测试的过程如下。
将摄像机帧数、摄像机分辨率设置均为煤矿井底识别的最佳值,在识别无误的情况况下保证最低占用带宽;
摄像机到服务器网络链路带宽上限压力测试表:
表(1)
表(2)
表(3)
测试过程如下:
首先将一路视频码率调节至最高16M,测试其占用总带宽,发现少量丢帧,实际带宽与理论带宽差别不大;判断此处丢帧可能为摄像机硬件配置等原因不足以支持最大码率;
然后增加视频路数。当视频路数增加到2路时,测试结果发现总带宽为30M,理论总带宽为32M,而且2路视频丢帧明显;逐渐增加视频路数,发现测试结果带宽峰值大约为35M;
将6路视频的码率全部降低到5M,发现丢帧较为明显;将6路视频的码率全部降低到4M,未丢帧,此时总带宽大约为26M;
减少视频路数。测试5路视频,将视频码率设置为6M,发现丢帧较明显;将每路视频码率调整为5M,测试结果显示未丢帧,总带宽大约为26M;
由上述分析得知,在摄像机分辨率与帧数设置为最优值时,码率与带宽关系接近一比一,即码率值≈带宽值。此次测试环境的网络链路总带宽上限约为35M,总带宽的适宜带宽约为26M。由表(3)分析得知,当摄像机码率设置为16M的时候,带宽占用率为56.3%,但是此时摄像机丢帧率较高,说明极限码率16M会引发摄像机发生丢帧状况,所以应该给出降低码率的优化方案;由表(1)(2)分析得知,总带宽未超过适宜带宽,在合理的参数配置情况下,均不会出现明显丢帧现象;若当总带宽超过适宜带宽,就会发生丢帧情况,所以应该降低各个摄像头码率,以此来降低总带宽,避免丢帧。
因此,本申请实施例可以通过测试来确定当前网络环境下的适宜带宽,在各路视频总带宽未超过适宜带宽时,出现丢帧情况,是摄像机硬件配置等原因不足以支持当前配置,应当降低摄像头的分辨率和/或码率;若是各路视频总带宽超过适宜带宽,应降低各路视频的带宽,合理的配置摄像机参数,降低码率,以此来保证视频质量。
本申请实施例使用视频质量检测方式以及带宽检测技术来对摄像机各项数据进行检测,可以根据丢帧率判断视频质量,再结合视频所占带宽提出建议,以便于合理的配置摄像机参数,优化视频质量。
与前述应用功能实现方法实施例相对应,本申请还提供了一种井下视频数据处理装置装置、电子设备及相应的实施例。
图3是本申请实施例示出的井下视频数据处理装置的结构示意图。
参见图3,本申请实施例公开的一种井下视频数据处理装置,包括:
获取模块1,用于获得井下视频设备所采集的井下视频数据;井下视频数据至少包括一个视频流,其中,一路井下视频设备设备对应一个视频流;
第一计算模块2,用于依据每一个视频流的视频流带宽得到井下视频数据的视频数据带宽;
第二计算模块3,用于依据每一个视频流的视频流丢帧率得到井下视频数据的视频数据丢帧率;
参数设置模块4,用于当视频数据丢帧率与预设丢帧率的关系表征井下视频数据的视频质量不符合预设视频质量时,根据视频数据带宽与适宜带宽的关系确定目标设备参数,以设置井下视频设备的设备参数;适宜带宽为对井下视频设备进行带宽测试的结果。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不再做详细阐述说明。
图4是本申请实施例示出的电子设备的结构示意图。
参见图4,电子设备1000包括存储器1010和处理器1020。
处理器1020可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器1010可以包括各种类型的存储单元,例如系统内存、只读存储器(ROM),和永久存储装置。其中,ROM可以存储处理器1020或者计算机的其他模块需要的静态数据或者指令。永久存储装置可以是可读写的存储装置。永久存储装置可以是即使计算机断电后也不会失去存储的指令和数据的非易失性存储设备。在一些实施方式中,永久性存储装置采用大容量存储装置(例如磁或光盘、闪存)作为永久存储装置。另外一些实施方式中,永久性存储装置可以是可移除的存储设备(例如软盘、光驱)。系统内存可以是可读写存储设备或者易失性可读写存储设备,例如动态随机访问内存。系统内存可以存储一些或者所有处理器在运行时需要的指令和数据。此外,存储器1010可以包括任意计算机可读存储媒介的组合,包括各种类型的半导体存储芯片(DRAM,SRAM,SDRAM,闪存,可编程只读存储器),磁盘和/或光盘也可以采用。在一些实施方式中,存储器1010可以包括可读和/或写的可移除的存储设备,例如激光唱片(CD)、只读数字多功能光盘(例如DVD-ROM,双层DVD-ROM)、只读蓝光光盘、超密度光盘、闪存卡(例如SD卡、min SD卡、Micro-SD卡等等)、磁性软盘等等。计算机可读存储媒介不包含载波和通过无线或有线传输的瞬间电子信号。
存储器1010上存储有可执行代码,当可执行代码被处理器1020处理时,可以使处理器1020执行上文述及的方法中的部分或全部。
上文中已经参考附图详细描述了本申请的方案。在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详细描述的部分,可以参见其他实施例的相关描述。本领域技术人员也应该知悉,说明书中所涉及的动作和模块并不一定是本申请所必须的。另外,可以理解,本申请实施例方法中的步骤可以根据实际需要进行顺序调整、合并和删减,本申请实施例装置中的模块可以根据实际需要进行合并、划分和删减。
此外,根据本申请的方法还可以实现为一种计算机程序或计算机程序产品,该计算机程序或计算机程序产品包括用于执行本申请的上述方法中部分或全部步骤的计算机程序代码指令。
或者,本申请还可以实施为一种非暂时性机器可读存储介质(或计算机可读存储介质、或机器可读存储介质),其上存储有可执行代码(或计算机程序、或计算机指令代码),当所述可执行代码(或计算机程序、或计算机指令代码)被电子设备(或电子设备、服务器等)的处理器执行时,使所述处理器执行根据本申请的上述方法的各个步骤的部分或全部。
本领域技术人员还将明白的是,结合这里的申请所描述的各种示例性逻辑块、模块、电路和算法步骤可以被实现为电子硬件、计算机软件或两者的组合。
附图中的流程图和框图显示了根据本申请的多个实施例的系统和方法的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标记的功能也可以以不同于附图中所标记的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本申请的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (10)
1.一种井下视频数据处理方法,其特征在于,包括:
获得井下视频设备所采集的井下视频数据;所述井下视频数据至少包括一个视频流,其中,一路所述井下视频设备对应一个视频流;
依据每一个视频流的视频流带宽得到所述井下视频数据的视频数据带宽;
依据每一个视频流的视频流丢帧率得到所述井下视频数据的视频数据丢帧率;
当所述视频数据丢帧率与预设丢帧率的关系表征所述井下视频数据的视频质量不符合预设视频质量时,根据所述视频数据带宽与适宜带宽的关系确定目标设备参数,以动态调整的方式设置所述井下视频设备的设备参数;所述适宜带宽为对所述井下视频设备进行带宽测试的结果,其中所述动态调整的方式包括:在各路所述视频数据带宽未超过适宜带宽时,降低摄像头的分辨率和码率;若是各路所述视频数据带宽超过适宜带宽,降低各路视频的带宽。
2.根据权利要求1所述的方法,其特征在于,所述获得井下视频设备所采集的井下视频数据前还包括:
截取井下视频设备的视频流;
判断所述视频流中是否包括所述井下视频设备在工作状态下所采集的活动视频图像;
如果包括活动视频图像,则确定所述井下视频设备处于在线状态,执行所述获得井下视频设备所采集的井下视频数据的步骤。
3.根据权利要求1或2所述的方法,其特征在于,所述依据每一个视频流的视频流带宽得到所述井下视频数据的视频数据带宽包括:
确定每一个视频流对应的流量端口;
统计所述流量端口在第一时间段t内接收的端口总流量k;
根据公式M=k*8/t计算得到该视频流的视频流带宽M;
将全部视频流的视频流带宽累加得到视频数据带宽。
4.根据权利要求1或2所述的方法,其特征在于,所述依据每一个视频流的视频流丢帧率得到所述井下视频数据的视频数据丢帧率包括:
解析每一个视频流在第二时间段内对应的总帧数n以及丢帧数m;
根据公式a=m/n*100%计算每一个视频流对应的视频流丢帧率a;
将全部视频流的视频流丢帧率进行累加得到视频数据丢帧率。
5.根据权利要求1所述的方法,其特征在于,根据所述视频数据丢帧率与预设丢帧率的关系确定所述井下视频数据的视频质量包括:
当所述视频数据丢帧率小于第一预设丢帧率时,确定所述井下视频的视频质量为第一视频质量;
当所述视频数据丢帧率大于或等于所述第一预设丢帧率且小于或等于第二预设丢帧率时,确定所述视频质量为第二视频质量;
当所述视频数据丢帧率大于第三预设丢帧率时,确定所述视频质量为第三视频质量;其中,所述第一预设丢帧率小于所述第二预设丢帧率,所述第二预设丢帧率小于所述第三预设丢帧率。
6.根据权利要求1所述的方法,其特征在于,所述根据对所述井下视频设备进行带宽测试包括:
设置所有井下视频设备的测试参数,所述测试参数中摄像机帧数为预设帧数且摄像机分辨率为预设分辨率;
按照预设规则逐步调整所有井下视频设备的码率以及各个码率下接入井下视频设备的路数,并对接入的井下视频设备进行网络压力测试;
获得网络压力测试的测试结果;
计算所述测试结果中视频数据丢帧率为零时所有接入的井下视频设备占用的总带宽;
将多个不同所述测试参数下各自对应的多个总带宽的平均值作为适宜带宽。
7.根据权利要求6所述的方法,其特征在于,所述根据所述视频数据带宽与适宜带宽的关系确定目标设备参数包括:
判断所述视频数据带宽是否超过所述适宜带宽;
若未超过,则依据所述测试结果确定所述目标设备参数中的第一参数,所述第一参数至少包括分辨率和\或码率,其中,所述第一参数的设置使所述视频质量符合预设视频质量;
若超过,则依据所述测试结果确定所述目标设备参数中的第二参数,所述第二参数至少包括码率,其中,所述第二参数的设置使所述视频质量符合预设视频质量。
8.一种井下视频数据处理装置,其特征在于,包括:
获取模块,用于获得井下视频设备所采集的井下视频数据;所述井下视频数据至少包括一个视频流,其中,一路所述井下视频设备对应一个视频流;
第一计算模块,用于依据每一个视频流的视频流带宽得到所述井下视频数据的视频数据带宽;
第二计算模块,用于依据每一个视频流的视频流丢帧率得到所述井下视频数据的视频数据丢帧率;
参数设置模块,用于当所述视频数据丢帧率与预设丢帧率的关系表征所述井下视频数据的视频质量不符合预设视频质量时,根据所述视频数据带宽与适宜带宽的关系确定目标设备参数,以动态调整的方式设置所述井下视频设备的设备参数;所述适宜带宽为对所述井下视频设备进行带宽测试的结果,其中所述动态调整的方式包括:在各路所述视频数据带宽未超过适宜带宽时,降低摄像头的分辨率和码率;若是各路所述视频数据带宽超过适宜带宽,降低各路视频的带宽。
9.一种电子设备,其特征在于,包括:
处理器;以及
存储器,其上存储有可执行代码,当所述可执行代码被所述处理器执行时,使所述处理器执行如权利要求1-7中任一项所述的方法。
10.一种非暂时性机器可读存储介质,其上存储有可执行代码,当所述可执行代码被电子设备的处理器执行时,使所述处理器执行如权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010735089.1A CN111866586B (zh) | 2020-07-28 | 2020-07-28 | 井下视频数据处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010735089.1A CN111866586B (zh) | 2020-07-28 | 2020-07-28 | 井下视频数据处理方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111866586A CN111866586A (zh) | 2020-10-30 |
CN111866586B true CN111866586B (zh) | 2022-08-02 |
Family
ID=72947780
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010735089.1A Active CN111866586B (zh) | 2020-07-28 | 2020-07-28 | 井下视频数据处理方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111866586B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104702922A (zh) * | 2013-12-10 | 2015-06-10 | 中国电信股份有限公司 | 一种视频传输方法和系统 |
CN105472477A (zh) * | 2015-12-08 | 2016-04-06 | 广州华多网络科技有限公司 | 一种数据传输方法、装置及设备 |
CN105490953A (zh) * | 2014-09-17 | 2016-04-13 | 联想(北京)有限公司 | 一种信息处理方法及电子设备 |
CN109195010A (zh) * | 2018-08-15 | 2019-01-11 | 咪咕视讯科技有限公司 | 一种码率调节方法及装置 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2429190A1 (en) * | 2010-09-13 | 2012-03-14 | NTT DoCoMo, Inc. | Method and apparatus for transferring a video stream |
CN103607564B (zh) * | 2013-11-11 | 2016-08-17 | 天脉聚源(北京)传媒科技有限公司 | 一种基于摄像头的视频采集实现的方法及装置 |
CN105827633B (zh) * | 2016-05-06 | 2021-02-02 | 浙江大华技术股份有限公司 | 一种视频传输方法及装置 |
CN108270721A (zh) * | 2016-12-30 | 2018-07-10 | 展讯通信(上海)有限公司 | 多路视频流的控制方法、装置及多通终端 |
CN107734360B (zh) * | 2017-09-15 | 2020-04-21 | 深圳英飞拓科技股份有限公司 | 流媒体服务器的控制方法及装置 |
CN108881780B (zh) * | 2018-07-17 | 2021-02-12 | 聚好看科技股份有限公司 | 视频通话中动态调整清晰度模式的方法、服务器 |
CN111225240A (zh) * | 2020-01-19 | 2020-06-02 | 安徽文香信息技术有限公司 | 自动调整占用带宽的方法、装置、存储介质与电子设备 |
-
2020
- 2020-07-28 CN CN202010735089.1A patent/CN111866586B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104702922A (zh) * | 2013-12-10 | 2015-06-10 | 中国电信股份有限公司 | 一种视频传输方法和系统 |
CN105490953A (zh) * | 2014-09-17 | 2016-04-13 | 联想(北京)有限公司 | 一种信息处理方法及电子设备 |
CN105472477A (zh) * | 2015-12-08 | 2016-04-06 | 广州华多网络科技有限公司 | 一种数据传输方法、装置及设备 |
CN109195010A (zh) * | 2018-08-15 | 2019-01-11 | 咪咕视讯科技有限公司 | 一种码率调节方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN111866586A (zh) | 2020-10-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103731631B (zh) | 一种传输视频图像的方法、装置及系统 | |
WO2022237591A1 (zh) | 运动对象的识别方法、装置、电子设备及可读存储介质 | |
US8659676B2 (en) | Image analysis device and method thereof | |
CN107155093B (zh) | 一种视频预览方法、装置及设备 | |
CN110392232B (zh) | 实时数据监控平台 | |
US20230156324A1 (en) | Multi-Channel Image and Video Stream Synchronization and Distributed Processing Method and System Based on 5G Environment | |
CN107770538A (zh) | 一种检测场景切换帧的方法、装置和系统 | |
WO2022135539A1 (zh) | 设备配置参数处理方法和装置、数据分析方法和装置、计算设备、计算机可读存储介质、以及计算机程序产品 | |
CN113660427A (zh) | 一种应用于视频监控测试仪的图像分析系统及其分析方法 | |
CN112242971A (zh) | 一种流量异常检测方法、装置、网络设备及存储介质 | |
CN111866586B (zh) | 井下视频数据处理方法、装置、电子设备及存储介质 | |
CN116723131B (zh) | Ipc网络摄像头传输性能监测方法及系统 | |
CN104378629B (zh) | 一种摄像机故障的检测方法 | |
CN116684326A (zh) | 一种基于单向通道物理设备的实时数据可靠传输方法及系统 | |
US20170140004A1 (en) | Intelligently distributed stage data mining system | |
CN105471850A (zh) | 一种视频上传方法及装置 | |
CN108073854A (zh) | 一种现场巡检的检测方法及装置 | |
WO2023280117A1 (zh) | 指示信号识别方法、设备以及计算机存储介质 | |
CN115878379A (zh) | 一种数据备份方法、主服务器、备份服务器及存储介质 | |
CN113794908B (zh) | 一种网络状态调整方法及存储介质 | |
JP4932741B2 (ja) | 監視装置 | |
US11398091B1 (en) | Repairing missing frames in recorded video with machine learning | |
CN111372071B (zh) | 一种搜集视频图像异常信息的方法及装置 | |
CN115147752A (zh) | 一种视频分析方法、装置及计算机设备 | |
CN113242431A (zh) | 一种面向路侧感知的标注数据预处理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |