CN110287934A - 一种对象检测方法、装置、客户端及服务器 - Google Patents
一种对象检测方法、装置、客户端及服务器 Download PDFInfo
- Publication number
- CN110287934A CN110287934A CN201910588790.2A CN201910588790A CN110287934A CN 110287934 A CN110287934 A CN 110287934A CN 201910588790 A CN201910588790 A CN 201910588790A CN 110287934 A CN110287934 A CN 110287934A
- Authority
- CN
- China
- Prior art keywords
- target object
- image frame
- training pattern
- target
- mark
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Multimedia (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Human Computer Interaction (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了一种对象检测方法、装置、客户端及服务器,所述方法包括:获得目标对象标识,所述目标对象标识为待检测的目标对象的标识;获得所述目标对象标识对应的训练模型,其中,所述训练模型利用具有预设对象标识的样本进行训练得到;将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域;其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。可见,本申请中利用目标对象的训练模型对画面帧进行检测,即使画面帧中不出现目标对象的正脸也可以将目标对象所在的区域识别出来,由此提高了识别的可靠性。
Description
技术领域
本申请涉及图像处理技术领域,特别涉及一种对象检测方法、装置、客户端及服务器。
背景技术
观众通过各大直播网站或者视频网站观看赛事直播或录播,来关注赛事中各比赛队员的表现,尤其是对于某位比赛队员的粉丝来说,其偶像队员的表现更需要实时关注。
而为了对比赛画面中的队员身份进行识别,尤其是观众所关注的队员的身份进行识别,通常是采用人脸识别的方式将画面中队员进行识别并标识出来,以提高观众在观看赛事直播时的观看体验。
但是,由于比赛画面中队员随时变动导致多数情况下画面中并不呈现队员的正脸,由此,导致通过人脸识别的方式识别出队员身份的可靠性较低。
发明内容
有鉴于此,本申请的目的在于提供一种对象检测方法、装置、客户端及服务器,用以解决现有技术中队员识别可靠性较低的技术问题。
本申请提供了一种对象检测方法,所述方法包括:
获得目标对象标识,所述目标对象标识为待检测的目标对象的标识;
获得所述目标对象标识对应的训练模型,其中,所述训练模型利用具有预设对象标识的样本进行训练得到;
将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
上述方法,优选地,还包括:
对所述目标区域进行图像跟踪,以获得第二画面帧中所述目标对象所处的区域;
其中,所述第二画面帧为输出顺序在所述第一画面帧之后的画面帧。
上述方法,优选地,还包括:
获得所述目标对象标识对应的校验参数,所述校验参数中至少包括所述目标对象预设的特征参数;
其中,所述方法还包括:
基于所述特征参数,对所述目标区域进行校验,以确定所述目标区域满足校验规则。
上述方法,优选地,还包括:
输出所述第一画面帧,其中,所述目标区域在所述第一画面帧中具有预设的输出方式。
上述方法,优选地,所述训练模型利用具有预设对象标识的样本进行训练得到,包括:
获得多个样本,所述样本具有预设对象标识;
基于所述样本及其预设对象标识,对基于轻量级深度学习算法的训练模型进行训练。
上述方法,优选地,所述获得目标对象标识,包括:
获得输入操作数据,所述输入操作数据为用户在至少一个对象标识中进行选择操作所生成的数据;其中,所述对象标识对应于待检测的对象;
在所述输入操作数据中,提取到目标对象标识。
本申请还提供了一种对象检测装置,所述装置包括:
标识获得单元,用于获得目标对象标识,所述目标对象标识为待检测的目标对象的标识;
模型获得单元,用于获得所述目标对象标识对应的训练模型,其中,所述训练模型利用具有预设对象标识的样本进行训练得到;
画面处理单元,用于将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
本申请还提供了一种客户端,包括:
存储器,用于存储应用程序及所述应用程序运行所产生的数据;
处理器,用于运行所述应用程序,以实现功能:获得目标对象标识,所述目标对象标识为待检测的目标对象的标识;从服务器中获得所述目标对象标识对应的训练模型,其中,所述训练模型为利用具有预设对象标识的样本进行训练得到;将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
本申请还提供了一种服务器,包括:
存储器,用于存储应用程序及所述应用程序运行所产生的数据;
处理器,用于运行所述应用程序,以实现功能:将训练模型发送给客户端,以使得所述客户端获得与目标对象标识对应的训练模型,所述目标对象标识为待检测的目标对象的标识,所述训练模型利用具有预设对象的样本进行训练得到,以使得所述客户端将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
本申请还提供了另一种客户端,包括:
存储器,用于存储应用程序及所述应用程序运行所产生的数据;
处理器,用于运行所述应用程序,以实现功能:获得目标对象标识,所述目标对象标识为待检测的目标对象的标识;将所述目标对象标识传输给服务器,以使得所述服务器获得所述目标对象标识对应的训练模型,并将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域,其中,所述训练模型为利用具有预设对象标识的样本进行训练得到;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
本申请还提供了另一种服务器,包括:
存储器,用于存储应用程序及所述应用程序运行所产生的数据;
处理器,用于运行所述应用程序,以实现功能:获得客户端发送的目标对象标识,所述目标对象标识为待检测的目标对象的标识;获得所述目标对象标识对应的训练模型,所述训练模型利用具有预设对象的样本进行训练得到;将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
由以上方案可知,本申请提供的一种对象检测方法、装置、客户端及服务器,在获得待检测对象的目标对象标识之后,利用其对应的训练模型对画面帧进行检测,而由于训练模型是利用具有预设对象标识的样本进行训练得到的,因此在经过画面帧的检测之后就可以得到该画面帧中目标对象所在的目标区域,由此实现目标对象的识别。可见,本申请中利用目标对象对应的训练模型对画面帧进行检测,即使画面帧中不出现目标对象的正脸也可以将目标对象所在的区域识别出来,由此提高了识别的可靠性。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本申请实施例中实现对象检测的系统架构图;
图2为本申请实施例提供的一种对象检测方法的流程图;
图3为本申请实施例的应用示例图;
图4为本申请实施例中服务器与客户端之间的交互示意图;
图5为本申请实施例提供的一种客户端的结构示意图;
图6为本申请实施例提供的一种服务器的结构示意图;
图7为本申请实施例提供的一种对象检测装置的结构示意图;
图8及图9分别为本申请实施例在对足球赛事进行球员检测的示例图。
具体实施方式
本申请发明人通过研究发现:随着视频技术的发展,互联网体育赛事直播变得日益普及。各大直播网站除了争夺赛事版权之外,也在努力提高直播的清晰度和流畅度,以提供更好的用户体验。但是,即使清晰度不断提高,用户在观看比赛时仍然面临一个问题,就是在比赛画面切到远景镜头时,看不清场上的球员。尤其是对于某些球星的粉丝来说,观看比赛可能主要就是关注明星的表现。因此,如若能够提供一个选项标注特定的球员,势必会提高很多观众的观看体验。
另一方面,互联网的优势就在于实时交互。一直以来,观众看球时都会遇到想要查询某个球员信息的情况,为此进行球员检测,是实现该场景的基础。因此理想的看球场景很可能是,用户选择了某个球员,光标会在画面上进行跟踪,而他的一些数据会显示在旁边,最终达到智能看球的体验。
为此,目前在用户的指示下采用人脸识别或球衣识别的方案对球员进行检测,但是,在比赛中大部分时间都不会拍摄到人物正脸,而且采用球衣颜色、号码、步态、肤色发色等特征的其中之一时也不会收到好的效果,因为这些特征要么不具备区分度,要么在很多角度下并不可用,导致识别的可靠性较低。
而且在直播节目制作时进行球员检测,无疑会增加计算成本和时间成本。尤其对于比赛直播,会增加中转耗时,导致直播延迟较大,造成直播效果较差。
基于以上缺陷,本申请发明人进一步研究发现:可以预先利用具有对象如球员标识如名称等信息的赛事画面或图像等进行训练,得到各个球员的轻量级深度学习算法的训练模型,之后,在观众通过客户端观看直播或录播时,可以利用观众所关注的球员标识获得对应的训练模型之后,利用该训练模型对直播到客户端上的画面帧进行检测计算,进而得到该画面帧中球员所在的位置,并在客户端上输出画面帧时以特殊标记如设置线框的方式显示所检测出的球员的位置区域。
进一步的,可以在前一画面帧检测出球员所在区域之后,对该球员采用图像跟踪算法进行跟踪,进而获得下一帧或者后续多帧上球员所在的区域,在发现跟踪不准确之后重新执行以上方案对下一帧的画面帧进行球员检测,进而在画面帧的持续输出中,能够快速且准确的检测出各画面帧中的球员,由此在客户端输出给观众之后,观众能够从画面帧中的特殊标记中轻松获得到球员的位置甚至与该球员相关的其他信息。
需要说明的是,本申请中的对象检测方案中执行画面帧检测的流程可以在直播或录播的后台服务器上进行,而为了减少服务器上的计算量,避免中转耗时过长,本申请中执行画面帧检测的流程也可以在客户端上进行,考虑到客户端上的计算资源有限,可以采用轻量级的深度学习算法的训练模型在客户端上进行画面帧的检测,由此,在客户端上输出带有球员标记的画面帧时不会因为计算量大而出现客户端过热或画面卡顿的情况。
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
为了便于理解,本文中先对本申请的方案所适用的系统进行介绍,参考图1,其示出了本申请一种实现对象检测的系统的一种组成架构示意图。
由图1中可知,该系统中可以包括有:服务器10、客户端20,其中,服务器10和客户端20之间通过网络实现通信连接。
其中,服务器10为能够为客户端20提供浏览页面或视频的服务器,如视频网站服务器。
而客户端20为能够向用户输出数据的客户端,如手机或pad等,该客户端20上通过安装服务器10对应的应用来获取服务器10的数据,如浏览器、视频播放器等。
例如,服务器10上可以有直播视频流,为客户端20提供直播视频的网络地址,或者,服务器10上可以有录播的视频文件或网页,为客户端20提供录播的视频链接或网页地址。而客户端20通过视频播放器在服务器10提供的多个链接中选择需要的浏览链接,该浏览链接可以为直播链接地址、也可以为录播链接地址、也可以为网页地址,等等。之后,服务器10将该链接地址对应的数据向客户端20传输,以使得客户端20上播放直播视频、录播视频、网页图像等。
本实施例中,客户端20获得用户选择的目标对象标识之后,将该目标对象标识发送给服务器10,而服务器10在预先利用具有预设对象标识的样本进行训练得到的各种训练模型中,筛选出目标对象标识对应的训练模型,之后,服务器10将第一画面帧输入到训练模型,得到训练模型输出的第一画面帧的目标区域,最后,服务器10将包含该第一画面帧的视频流传输给客户端20,以使得客户端20将包含第一画面帧的视频流进行输出,而输出的视频流的第一画面帧中目标区域以预设的输出方式输出,如高亮显示或者以线框标记等。
需要说明的是,预先利用具有预设对象标识的样本进行训练得到的各种训练模型可以是在服务器10中进行训练完成的,也可以是在其他能够进行模型训练的设备如其他服务器上完成的。
而在直播等要求画面播放实时性的场景中,为了减轻服务器10一侧的计算量,避免中转耗时过长,在本实施例中,客户端20在获得用户选择的目标对象标识之后,可以获得目标对象标识对应的训练模型,由此在客户端20一侧,将第一画面帧输入到训练模型,得到训练模型输出的第一画面帧的目标区域,最后,客户端20将包含第一画面帧的视频流进行输出,而输出的视频流的第一画面帧中目标区域以预设的输出方式输出,如高亮显示或者以线框标记等。
需要说明的是,客户端20可以基于目标对象标识向服务器10发请求,由服务器10返回目标对象标识对应的训练模型,或者服务器10预先将各种训练模型发送到客户端20,客户端20在缓存的训练模型中获取到目标对象标识对应的训练模型。
结合以上共性,参考图2,为本申请实施例提供的一种对象检测方法的实现流程图,本实施例中的方法可以适用于客户端20中,也可以适用于服务器10中,以下以本实施例中的方法适用于客户端20为例对本实施例中的方法进行说明,具体可以包括以下步骤:
步骤201:获得目标对象标识。
其中,目标对象标识为待检测的目标对象的标识。
需要说明的是,本实施例中的目标对象标识可以基于用户的输入操作数据获得,具体的:在客户端20在输出视频流中第一画面帧及其他画面帧的过程中,向用户输出第一画面帧所属的视频流对应的多个对象标识,第一画面帧可以为需要在客户端20上播放输出的视频数据(视频流)中的画面帧,该视频数据可以为多个待检测的对象的视频数据,如22个球员的赛事直播视频流,对象标识即为球员的名称或在所属球队下的号码等,用于唯一标识该对象,而用户在观看到这些多个对象标识之后,可以选择想要关注的一个或多个对象的标识进行点击或选定,客户端20上采集用户进行选择操作所生成的数据即输入操作数据,进而在输入操作数据中提取到用户所选定的目标对象标识,如A队的5号球员或球员C等,用于后续对目标对象进行检测。
步骤202:获得目标对象标识对应的训练模型。
其中,训练模型为利用具有预设对象标识的样本进行训练得到的,训练模型可以由训练服务器实现,训练服务器可以为服务器10,也可以为区别于服务器10的其他服务器实现。具体的,客户端20在获得目标对象标识之后,可以将目标对象标识发送给服务器10,服务器10中从预先训练得到的多个训练模型中选出与目标对象标识相对应的训练模型,并返回给客户端20,由此,客户端20获得到目标对象标识对应的训练模型;
或者,服务器10在客户端20要求视频流播放时就将视频流所关联的对象的训练模型发送给客户端20,客户端20在获得目标对象标识之后直接从缓存的训练模型中获得目标对象标识对应的训练模型,由此,客户端20获得到目标对象标识对应的训练模型。
需要说明的是,在服务器10中可以预先存储有多个训练模型,每个训练模型均分别对应一个待检测的对象,或者每个训练模型对应于至少一个待检测的对象,例如,对于一场赛事中,每个球队的每个球员在服务器10中分别对应一个训练模型,或者,每个球队在服务器10中分别对应一个训练模型(此时一个训练模型对于其所对应的球队中的每个球员)。而且训练模型可以为基于轻量级深度学习算法的数学模型,由此,在服务器10发送给客户端20之后,客户端20上基于训练模型进行对象检测时所产生的计算量较低。
另外,本实施例中可以通过以下方式训练得到每个对象的训练模型:
首先,获得每个对象的多个样本,每个样本均具有预设对象标识。例如,对于当前赛事中的A队和B队,预先获取A队和B队中各球员的训练样本,如在网络上爬取到的图像、各球员在历史赛事中的视频画面帧等,之后,对于每个图像和画面帧,利用图像标注工具对其中的球员进行标注,标注时将各球员用矩形框框出来并输入相应的标识信息,如名称或球队号码等,得到具有预设对象标识的样本;
之后,基于这些样本及其标注的预设对象标识,对基于轻量级深度学习算法的训练模型进行训练。例如,将A队和B队中各球员的训练样本输入到初始搭建的深度学习模型进行模型训练,最终得到各球员的训练模型。而且,为了降低模型计算量,本实施例中可以采用ssd结合mobilenet搭建深度学习模型。
步骤203:将第一画面帧输入到训练模型,以得到训练模型输出的第一画面帧中的目标区域。
其中,目标区域为目标对象在第一画面帧中的画面区域。
也就是说,本实施例中利用目标对象标识对应的训练模型对第一画面帧中的目标对象进行检测,从而得到目标对象在第一画面帧中的画面区域,即目标区域,实现对象检测。
需要说明的是,本实施例中可以对第一画面帧的后续输出的所有画面帧均进行以上对象检测流程,但这样可能会引起计算量较大导致画面输出卡顿的情况,为此,本实施例中可以在完成对第一画面帧中的目标对象的检测之后,对于输出顺序在第一画面帧之后的一个或多个画面帧不再执行以上对象检测流程,而是对第一画面帧中的目标区域进行图像跟踪,从而在第一画面帧之后的一个或多个第二画面帧中确定出目标区域所对应的区域,即每间隔一定数量的画面帧执行一次对象检测流程,对于间隔内的画面帧执行画面跟踪,从而进一步减少计算量,避免客户端画面的卡顿或其他因客户端计算量增加而导致的情况。
进一步的,在具体实现中,对第一画面帧中目标对象的检测可能存在误差,因此,对于第一画面帧中所检测出的目标对象所在的目标区域可能为1个,也可能为多个,为此,为了提高对象检测的准确性,本实施例中可以预先获得目标对象标识对应的校验参数,而该校验参数中包括目标对象预设的特征参数,进而在检测出第一画面帧中目标对象的目标区域之后,基于特征参数对该目标区域进行校验,从而确定出目标区域是否满足校验规则,进而校验出该目标区域是否真的为目标对象的区域,从而提高检测准确性。
其中,校验参数中的特征参数是指客户端当前播放事件中如包含第一画面帧的视频流中各对象的特征参数,如球员C1在当前赛事中的球衣颜色、首发或替补等参数信息。而校验规则可以为:特征参数与目标区域相匹配的置信度高于预设阈值,如球衣颜色与目标区域中的像素值的相似度高于阈值,等等。
需要说明的是,本实施例中的校验参数可以预先进行设置,如通过服务器10或其他服务器预先进行设置,并在设置之后存储在服务器10,与视频流相关联,相应的,在服务器将包含第一画面帧的视频流向客户端传输时,将该视频流相关联的校验参数向客户端传输。
由此,服务器中的校验参数可以用于在进行对象检测时的二次校验,只有目标区域与校验参数中的特征参数相匹配时,目标区域作为目标对象的检测结果才能作为正确的检测结果。
步骤204:输出第一画面帧。
其中,目标区域在第一画面帧中具有预设的输出方式。而预设输出方式可以为特殊标记的输出方式,如线框标记等,如图3中所示。
需要说明的是,在第一画面帧输出之后,相继输出视频流中第一画面帧之后的其他画面帧,为用户提供视频观看服务。
由以上方案可知,本申请实施例提供的一种对象检测方法,在获得待检测对象的目标对象标识之后,利用其对应的训练模型对画面帧进行检测,而由于训练模型是利用具有预设对象标识的样本进行训练得到的,因此在经过画面帧的检测之后就可以得到该画面帧中目标对象所在的目标区域,由此实现目标对象的识别。可见,本申请中利用目标对象的训练模型对画面帧进行检测,即使画面帧中不出现目标对象的正脸也可以将目标对象所在的区域识别出来,由此提高了识别的可靠性。
参考图4,为本申请实施例中在实现图1中的对象检测时服务器和客户端及用户之间的交互流程图,具体可以包括以下步骤:
步骤401:服务器存储至少一个训练模型。
具体的,服务器中可以预先训练有训练模型,或者服务器中存储其他训练服务器所预先训练的训练模型,其中,训练模型可以为一个,该训练模型对应于至少一个待检测的对象,或者,训练模型可以为多个,每个训练模型分别对应于一个或多个待检测的对象。例如,对于一场赛事中,每个球队的每个球员在服务器10中分别对应一个训练模型,或者,每个球队在服务器10中分别对应一个训练模型,该训练模型对应于相应球队中的每个球员。而且训练模型可以为基于轻量级深度学习算法的数学模型,由此,在服务器10发送给客户端20之后,客户端20上基于训练模型进行对象检测时所产生的计算量较低。
步骤402:服务器存储每个对象的校验参数。
其中,校验参数中至少可以包括有各个对象预设的特征参数,这里的特征参数是指客户端当前播放事件如播放的视频流中各个对象的特征参数,如球员C1在当前赛事中的球衣颜色、首发或替补等参数信息。
相应的,服务器中的校验参数可以用于在后续进行对象检测时的二次校验,只有与校验参数中的特征参数相匹配或者满足校验规则的检测结果才能作为正确的检测结果。
步骤403:客户端接收用户的点击操作数据。
其中,用户的点击操作数据是指用户点击画面播放的操作所生成的数据,如用户在赛事直播页面上点击赛事直播的按钮,客户端对用户点击按钮的点击操作数据进行获取。
步骤404:客户端基于点击操作数据向服务器请求播放地址。
其中,播放地址可以理解为:客户端中需要输出的视频流在服务器上的链接地址,该视频流中包含多个画面帧。
步骤405:客户端将播放地址的请求发送给服务器。
其中,客户端可以通过网络连接将播放地址的请求发送给服务器。
步骤406:服务器将播放地址及对应的训练模型和校验参数发送给客户端。
其中,服务器在播放地址输出给客户端之后,持续将视频流中第一画面帧及之后的其他画面帧依次向客户端传输。
另外,服务器中向客户端发送的训练模型和校验参数可以为包含第一画面帧的视频流所关联的全部对象的训练模型及相应的校验参数,如A队和B队所有球员的训练模型和校验参数;也可以为包含第一画面帧的视频流所关联的部分对象的训练模型及相应的校验参数,如A队和B队中前锋球员和后卫球员的训练模型及校验参数。
步骤407:客户端接收播放地址、训练模型和校验参数,并输出对象选择选项。
需要说明的是,客户端在接收到播放地址之后,客户端上开始输出播放地址对应的视频流中的画面帧,如第一画面帧及之后的其他画面帧,同时在输出第一画面帧时浮窗输出对象选择选项。其中,对象选择选项中包括多个对象的标识,用户可以在对象选择选项中点击相应的控件,以表征其所想要关注的对象。
其中,对象选择选项中可以包括有下拉菜单选项,在对象选择选项随着第一画面帧输出在客户端上时,对象选择选项中可以只有一个或两个等较少数的对象标识,在用户选择下拉菜单选项之后,将更多个对象标识输出在客户端上,以供用户选择。
步骤408:客户端获得用户的输入操作数据。
其中,输入操作数据即为用户在对象选择选项中进行控件点击等选择操作所生成的数据。
步骤409:客户端在输入操作数据中提取目标对象标识。
其中,目标对象标识为待检测的目标对象的标识。
步骤410:客户端获得目标对象标识对应的训练模型及校验参数。
其中,客户端可以在缓存的服务器发送来的训练模型及校验参数中获得到目标对象标识对应的训练模型和校验参数。
步骤411:客户端将第一画面帧输入到训练模型,以得到训练模型输出的第一画面帧中的目标区域。
步骤412:客户端利用校验参数对目标区域进行校验,以确定目标区域是否为目标对象的区域。
步骤413:客户端输出第一画面帧。
其中,目标区域在第一画面帧中具有预设的输出方式。而预设输出方式可以为特殊标记的输出方式,如线框标记等。
步骤414:客户端对第一画面帧之后输出的第二画面帧基于目标区域进行持续跟踪。
步骤415:客户端输出第二画面帧及后续画面帧。
其中,第二画面帧中以预设的输出方式输出跟踪的与目标区域相对应的区域。
需要说明的是,在步骤415之后,客户端可以持续多帧进行图像跟踪,并在跟踪一定数量的画面帧之后,返回步骤411,对后续的画面帧输入到训练模型中,再次进行对象检测,避免图像跟踪带来的对象检测错误的情况。
其中,为了实现客户端上相应的功能,客户端的存储器中需要存储实现相应功能的程序。为了便于理解客户端的硬件构成,下面以客户端为例进行介绍。如图5中所示,为本申请的客户端的一种组成结构示意图,本实施例中的客户端20可以为手机或pad等能够进行视频播放的终端设备,具体的,客户端20可以包括有:处理器501、存储器502、通信接口503、输入单元504、显示器505和通信总线506。
其中,处理器501、存储器502、通信接口503、输入单元504、显示器505、均通过通信总线506完成相互间的通信。其中,输入单元504和显示器505通过客户端20的触控屏实现其功能。
在本实施例中,该处理器501,可以为中央处理器(Central Processing Unit,CPU),特定应用集成电路,数字信号处理器、现成可编程门阵列或者其他可编程逻辑器件等。
该处理器501可以调用存储器502中存储的程序。具体的,处理器501可以执行以下服务调用方法的实施例中服务器侧所执行的操作。
存储器502中用于存放一个或者一个以上程序,程序可以包括程序代码,所述程序代码包括计算机操作指令,在本申请实施例中,该存储器中至少存储有用于实现以下功能的程序:
获得目标对象标识,所述目标对象标识为待检测的目标对象的标识;从服务器中获得所述目标对象标识对应的训练模型,其中,所述训练模型为所述服务器利用具有预设对象标识的样本进行训练得到;将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
或者,在本申请实施例中,该存储器中至少存储有用于实现以下功能的程序:
获得目标对象标识,所述目标对象标识为待检测的目标对象的标识;将所述目标对象标识传输给服务器,以使得所述服务器获得所述目标对象标识对应的训练模型,并将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域,其中,所述训练模型为利用具有预设对象标识的样本进行训练得到;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
在一种可能的实现方式中,该存储器502可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、以及至少一个功能(比如入口对象的显示等)所需的应用程序等;存储数据区可存储根据计算机的使用过程中所创建的数据,比如,应用服务组件对应的入口对象等等。
此外,存储器502可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件或其他易失性固态存储器件。
该通信接口503可以为通信模块的接口,如GSM模块的接口。
当然,图5所示的客户端的结构并不构成对本申请实施例中客户端的限定,在实际应用中客户端可以包括比图5所示的更多或更少的部件,或者组合某些部件。
其中,为了实现服务器上相应的功能,服务器的存储器中需要存储实现相应功能的程序。为了便于理解服务器的硬件构成,下面以服务器为例进行介绍。如图6中所示,为本申请的服务器的一种组成结构示意图,本实施例中的服务器10可以包括有:处理器601、存储器602、通信接口603、输入单元604、显示器605和通信总线606。
其中,处理器601、存储器602、通信接口603、输入单元604、显示器605、均通过通信总线606完成相互间的通信。
在本实施例中,该处理器601,可以为中央处理器(Central Processing Unit,CPU),特定应用集成电路,数字信号处理器、现成可编程门阵列或者其他可编程逻辑器件等。
该处理器601可以调用存储器602中存储的程序。具体的,处理器601可以执行以下服务调用方法的实施例中服务器侧所执行的操作。
存储器602中用于存放一个或者一个以上程序,程序可以包括程序代码,所述程序代码包括计算机操作指令,在本申请实施例中,该存储器中至少存储有用于实现以下功能的程序:
将训练模型发送给客户端,以使得所述客户端获得与目标对象标识对应的训练模型,所述目标对象标识为待检测的目标对象的标识,所述训练模型利用具有预设对象的样本进行训练得到,以使得所述客户端将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
或者,该存储器中至少存储有用于实现以下功能的程序:
获得客户端发送的目标对象标识,所述目标对象标识为待检测的目标对象的标识;获得所述目标对象标识对应的训练模型,所述训练模型利用具有预设对象的样本进行训练得到;将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
在一种可能的实现方式中,该存储器602可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、以及至少一个功能(比如入口对象的显示等)所需的应用程序等;存储数据区可存储根据计算机的使用过程中所创建的数据,比如,应用服务组件对应的入口对象等等。
此外,存储器602可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件或其他易失性固态存储器件。
该通信接口603可以为通信模块的接口,如GSM模块的接口。
当然,图6所示的服务器的结构并不构成对本申请实施例中服务器的限定,在实际应用中服务器可以包括比图6所示的更多或更少的部件,或者组合某些部件。
参考图7,为本申请实施例提供的一种对象检测装置的结构示意图,该装置可以配置在客户端20上,也可以配置在服务器10上,本实施例中的装置主要用于对服务器输出给客户端的画面帧进行对象检测。
在本实施例中,该装置可以包括以下功能组件:
标识获得单元701,用于获得目标对象标识,所述目标对象标识为待检测的目标对象的标识;
模型获得单元702,用于获得所述目标对象标识对应的训练模型,其中,所述训练模型利用具有预设对象标识的样本进行训练得到;
画面处理单元703,用于将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
输出单元704,用于将所述第一画面帧输出,其中,所述目标区域在所述第一画面帧中具有预设的输出方式。
由以上方案可知,本申请实施例提供的一种对象检测装置,在获得待检测对象的目标对象标识之后,利用其对应的训练模型对画面帧进行检测,而由于训练模型是利用具有预设对象标识的样本进行训练得到的,因此在经过画面帧的检测之后就可以得到该画面帧中目标对象所在的目标区域,由此实现目标对象的识别。可见,本申请中利用目标对象的训练模型对画面帧进行检测,即使画面帧中不出现目标对象的正脸也可以将目标对象所在的区域识别出来,由此提高了识别的可靠性。
下面以足球比赛直播为例,比赛录像点播、其它体育赛事甚至娱乐节目播放,均可按照本实施例中同样的方案进行特定人员的检测。
如图8中所示,为本申请实施例提供的播放器球员检测的流程图,如图8所示,分为服务端和客户端两部分。
其中,服务端一侧:
1、存储提前训练的球星检测模型。比如对于本次比赛A队VS B队,两队的明星球员C和D展开训练,训练过程如下:
a、获取球员C和D的训练数据集,比如网络爬取图片,或球员之前比赛视频进行抽帧。
b、采用图像标注工具对训练集图像中的球员进行标注,标注时将球员C和D用矩形框框出并输入相应的标签,得到标注后的训练集。
c、将训练集交与深度学习模型进行训练,为了适用于移动端,考虑轻量级模型比如ssd+mobilenet的检测模型(训练模型)。
2、根据比赛确定二次校验的参数,比如球员C的球衣颜色,球员D是首发还是替补等,可以根据这些参数对检测结果进行二次校验。
3、客户端获取直播地址时,同时下发用于检测模型和二次校验参数。
其中,模型的训练可以在服务端的服务器实现,也可以是在其他训练服务器上完成,之后服务端再进行获取并存储。
在客户端一侧:
1、获取直播地址时同时获取球员检测配置,包括检测球员列表、检测模型和二次校验参数。
2、开始播放后展示检测球员选项。
3、若用户选择检测球员C,则启动检测线程,加载球员C的检测模型,并获取播放器解码后的画面进行检测。
4、验证检测结果,只保留置信度高于某阈值的检测框(目标区域),然后根据二次校验参数过滤掉明显不合理的结果,最后选择置信度最高的检测框。
5、将检测框交给跟踪模块,在连续的视频帧上进行跟踪,比如采用光流算法跟踪。
6、将跟踪结果显示到播放画面上,如图9的线框标记所示。
7、重复执行以上的3-6,持续对视频帧中的球员执行检测和跟踪。
可见,以上实施例中在播放器进行特定人员检测的实现方案,尤其适合为网络观看体育赛事的用户提供智能辅助,以跟踪特定球员,满足用户寻找球员、查询球员信息等需求,提升用户观赛体验。
具体的,本实施例中采用深度学习的训练模型进行检测,可以在频繁切换的运动场景中,抓住球员综合特征,解决单纯依靠跟踪或者人脸识别等方法无法应用在复杂场景的问题。
进一步的,本实施例在播放器所在的客户端进行检测,避免了服务端增加额外的计算成本和时间成本。而且,为了降低客户端端计算量,采用轻量级检测模型,并结合检测和跟踪的方式,基本能够满足移动端实时性的要求。
需要说明的是,本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上对本申请所提供的一种对象检测方法、装置、客户端及服务器进行了详细介绍,对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (11)
1.一种对象检测方法,其特征在于,所述方法包括:
获得目标对象标识,所述目标对象标识为待检测的目标对象的标识;
获得所述目标对象标识对应的训练模型,其中,所述训练模型利用具有预设对象标识的样本进行训练得到;
将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
2.根据权利要求1所述的方法,其特征在于,还包括:
对所述目标区域进行图像跟踪,以获得第二画面帧中所述目标对象所处的区域;
其中,所述第二画面帧为输出顺序在所述第一画面帧之后的画面帧。
3.根据权利要求1所述的方法,其特征在于,还包括:
获得所述目标对象标识对应的校验参数,所述校验参数中至少包括所述目标对象预设的特征参数;
其中,所述方法还包括:
基于所述特征参数,对所述目标区域进行校验,以确定所述目标区域满足校验规则。
4.根据权利要求1或3所述的方法,其特征在于,还包括:
输出所述第一画面帧,其中,所述目标区域在所述第一画面帧中具有预设的输出方式。
5.根据权利要求1所述的方法,其特征在于,所述训练模型利用具有预设对象标识的样本进行训练得到,包括:
获得多个样本,所述样本具有预设对象标识;
基于所述样本及其预设对象标识,对基于轻量级深度学习算法的训练模型进行训练。
6.根据权利要求1所述的方法,其特征在于,所述获得目标对象标识,包括:
获得输入操作数据,所述输入操作数据为用户在至少一个对象标识中进行选择操作所生成的数据;其中,所述对象标识对应于待检测的对象;
在所述输入操作数据中,提取到目标对象标识。
7.一种对象检测装置,其特征在于,所述装置包括:
标识获得单元,用于获得目标对象标识,所述目标对象标识为待检测的目标对象的标识;
模型获得单元,用于获得所述目标对象标识对应的训练模型,其中,所述训练模型利用具有预设对象标识的样本进行训练得到;
画面处理单元,用于将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
8.一种客户端,其特征在于,包括:
存储器,用于存储应用程序及所述应用程序运行所产生的数据;
处理器,用于运行所述应用程序,以实现功能:获得目标对象标识,所述目标对象标识为待检测的目标对象的标识;从服务器中获得所述目标对象标识对应的训练模型,其中,所述训练模型为利用具有预设对象标识的样本进行训练得到;将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
9.一种服务器,其特征在于,包括:
存储器,用于存储应用程序及所述应用程序运行所产生的数据;
处理器,用于运行所述应用程序,以实现功能:将训练模型发送给客户端,以使得所述客户端获得与目标对象标识对应的训练模型,所述目标对象标识为待检测的目标对象的标识,所述训练模型利用具有预设对象的样本进行训练得到,以使得所述客户端将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
10.一种客户端,其特征在于,包括:
存储器,用于存储应用程序及所述应用程序运行所产生的数据;
处理器,用于运行所述应用程序,以实现功能:获得目标对象标识,所述目标对象标识为待检测的目标对象的标识;将所述目标对象标识传输给服务器,以使得所述服务器获得所述目标对象标识对应的训练模型,并将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域,其中,所述训练模型为利用具有预设对象标识的样本进行训练得到;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
11.一种服务器,其特征在于,包括:
存储器,用于存储应用程序及所述应用程序运行所产生的数据;
处理器,用于运行所述应用程序,以实现功能:获得客户端发送的目标对象标识,所述目标对象标识为待检测的目标对象的标识;获得所述目标对象标识对应的训练模型,所述训练模型利用具有预设对象的样本进行训练得到;将第一画面帧输入到所述训练模型,得到所述训练模型输出的所述第一画面帧中的目标区域;
其中,所述目标区域为所述目标对象在所述第一画面帧中的画面区域。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910588790.2A CN110287934B (zh) | 2019-07-02 | 2019-07-02 | 一种对象检测方法、装置、客户端及服务器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910588790.2A CN110287934B (zh) | 2019-07-02 | 2019-07-02 | 一种对象检测方法、装置、客户端及服务器 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110287934A true CN110287934A (zh) | 2019-09-27 |
CN110287934B CN110287934B (zh) | 2022-12-02 |
Family
ID=68021710
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910588790.2A Active CN110287934B (zh) | 2019-07-02 | 2019-07-02 | 一种对象检测方法、装置、客户端及服务器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110287934B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114501051A (zh) * | 2022-01-24 | 2022-05-13 | 广州繁星互娱信息科技有限公司 | 直播对象的标记显示方法和装置、存储介质及电子设备 |
WO2023103883A1 (zh) * | 2021-12-10 | 2023-06-15 | 杭州海康威视数字技术股份有限公司 | 对象自动标注方法、装置、电子设备及存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103870798A (zh) * | 2012-12-18 | 2014-06-18 | 佳能株式会社 | 对象检测方法、对象检测设备以及图像拾取设备 |
CN105227918A (zh) * | 2015-09-30 | 2016-01-06 | 珠海安联锐视科技股份有限公司 | 一种智能监控方法及装置 |
CN107871120A (zh) * | 2017-11-02 | 2018-04-03 | 汕头市同行网络科技有限公司 | 基于机器学习的体育赛事理解系统及方法 |
CN109145781A (zh) * | 2018-08-03 | 2019-01-04 | 北京字节跳动网络技术有限公司 | 用于处理图像的方法和装置 |
CN109190631A (zh) * | 2018-08-31 | 2019-01-11 | 阿里巴巴集团控股有限公司 | 图片的目标对象标注方法及装置 |
WO2019090954A1 (zh) * | 2017-11-07 | 2019-05-16 | 华为技术有限公司 | 一种预测方法及终端、服务器 |
CN109871730A (zh) * | 2017-12-05 | 2019-06-11 | 杭州海康威视数字技术股份有限公司 | 一种目标识别方法、装置及监控设备 |
-
2019
- 2019-07-02 CN CN201910588790.2A patent/CN110287934B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103870798A (zh) * | 2012-12-18 | 2014-06-18 | 佳能株式会社 | 对象检测方法、对象检测设备以及图像拾取设备 |
CN105227918A (zh) * | 2015-09-30 | 2016-01-06 | 珠海安联锐视科技股份有限公司 | 一种智能监控方法及装置 |
CN107871120A (zh) * | 2017-11-02 | 2018-04-03 | 汕头市同行网络科技有限公司 | 基于机器学习的体育赛事理解系统及方法 |
WO2019090954A1 (zh) * | 2017-11-07 | 2019-05-16 | 华为技术有限公司 | 一种预测方法及终端、服务器 |
CN109871730A (zh) * | 2017-12-05 | 2019-06-11 | 杭州海康威视数字技术股份有限公司 | 一种目标识别方法、装置及监控设备 |
CN109145781A (zh) * | 2018-08-03 | 2019-01-04 | 北京字节跳动网络技术有限公司 | 用于处理图像的方法和装置 |
CN109190631A (zh) * | 2018-08-31 | 2019-01-11 | 阿里巴巴集团控股有限公司 | 图片的目标对象标注方法及装置 |
Non-Patent Citations (3)
Title |
---|
TSUNG-HAN TSAI等: "Foreground Object Detection based on Multi-model Background Maintenance", 《NINTH IEEE INTERNATIONAL SYMPOSIUM ON MULTIMEDIA 2007》 * |
张容娟等: "网球视频中球员的侦测与追踪", 《延边大学报(自然科学版)》 * |
闵召阳等: "基于卷积神经网络检测的单镜头多目标跟踪算法", 《舰船电子工程》 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023103883A1 (zh) * | 2021-12-10 | 2023-06-15 | 杭州海康威视数字技术股份有限公司 | 对象自动标注方法、装置、电子设备及存储介质 |
CN114501051A (zh) * | 2022-01-24 | 2022-05-13 | 广州繁星互娱信息科技有限公司 | 直播对象的标记显示方法和装置、存储介质及电子设备 |
CN114501051B (zh) * | 2022-01-24 | 2024-02-02 | 广州繁星互娱信息科技有限公司 | 直播对象的标记显示方法和装置、存储介质及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN110287934B (zh) | 2022-12-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11496814B2 (en) | Method, system and computer program product for obtaining and displaying supplemental data about a displayed movie, show, event or video game | |
CN102290082B (zh) | 视频精彩回放片段的处理方法及装置 | |
CN102263907B (zh) | 比赛视频的播放控制方法及其片段信息的生成方法和装置 | |
CN109040766B (zh) | 直播视频处理方法、装置及存储介质 | |
US20120185482A1 (en) | Methods, systems, and computer readable media for dynamically searching and presenting factually tagged media clips | |
EP3679718A1 (en) | Personalized live media content | |
US20100050082A1 (en) | Interactive Video Insertions, And Applications Thereof | |
US20180137363A1 (en) | System for the automated analisys of a sporting match | |
WO2016138121A1 (en) | System and method for creating a sports video | |
CN111757147B (zh) | 一种赛事视频结构化的方法、装置及系统 | |
US9087380B2 (en) | Method and system for creating event data and making same available to be served | |
JPWO2019021375A1 (ja) | 映像生成プログラム、映像生成方法および映像生成装置 | |
CN108337573A (zh) | 一种赛事实时解说的实现方法和介质 | |
CN108848401A (zh) | 视频起播方法及装置 | |
CN110944123A (zh) | 一种体育赛事智能导播方法 | |
CN105981103A (zh) | 经由分段列表浏览视频 | |
CN110287934A (zh) | 一种对象检测方法、装置、客户端及服务器 | |
KR20150011562A (ko) | 이벤트별 스포츠 경기의 기록과 동영상을 이용한 스포츠 경기 분석 시스템 및 방법 | |
US10659848B1 (en) | Display overlays for prioritization of video subjects | |
CN111163306B (zh) | 一种vr视频处理的方法及相关装置 | |
CN111277866B (zh) | 一种控制vr视频播放的方法及相关装置 | |
KR101943554B1 (ko) | 스포츠 경기 정보 제공 방법 및 시스템 | |
US20210211758A1 (en) | Automatic generation of augmented reality media | |
US20220053245A1 (en) | Systems and methods for augmenting video content | |
JP2009519539A (ja) | イベントデータを作成し、これをサービス提供可能な状態にするための方法及びシステム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |