CN111556332A - 直播方法、电子设备和可读存储介质 - Google Patents

直播方法、电子设备和可读存储介质 Download PDF

Info

Publication number
CN111556332A
CN111556332A CN202010440459.9A CN202010440459A CN111556332A CN 111556332 A CN111556332 A CN 111556332A CN 202010440459 A CN202010440459 A CN 202010440459A CN 111556332 A CN111556332 A CN 111556332A
Authority
CN
China
Prior art keywords
live broadcast
content
target content
live
enhanced image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010440459.9A
Other languages
English (en)
Other versions
CN111556332B (zh
Inventor
张进
王科
琚彬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Mobile Communications Group Co Ltd
MIGU Culture Technology Co Ltd
Original Assignee
China Mobile Communications Group Co Ltd
MIGU Culture Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Mobile Communications Group Co Ltd, MIGU Culture Technology Co Ltd filed Critical China Mobile Communications Group Co Ltd
Priority to CN202010440459.9A priority Critical patent/CN111556332B/zh
Publication of CN111556332A publication Critical patent/CN111556332A/zh
Application granted granted Critical
Publication of CN111556332B publication Critical patent/CN111556332B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/2187Live feed
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/435Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/439Processing of audio elementary streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

本发明实施例涉及直播技术领域,公开了一种直播方法、电子设备和可读存储介质。本发明中,上述直播方法包括:确定当前直播画面中是否包括预设的目标内容;若所述当前直播画面中包括所述目标内容,则获取所述当前直播画面中的目标内容对应的增强图像;其中,所述增强图像为对所述目标内容进行增强显示处理后的图像;将所述增强图像显示在所述当前直播画面中的目标位置,通过个性化的显示方式使得直播内容不再单调,有利于提高直播内容对用户的吸引力,从而使得用户可以集中精力观看直播。

Description

直播方法、电子设备和可读存储介质
技术领域
本发明实施例涉及直播技术领域,特别涉及一种直播方法、电子设备和可读存储介质。
背景技术
目前,用户在观看直播培训时,通常都是直播方发起直播培训,用户被动的观看单调的直播培训内容。
然而,发明人发现相关技术中至少存在如下问题:单调的直播培训内容难以吸引用户的注意力让用户集中精力观看直播。
发明内容
本发明实施方式的目的在于提供一种直播方法、电子设备和可读存储介质,通过个性化的显示方式使得直播内容不再单调,有利于提高直播内容对用户的吸引力,从而使得用户可以集中精力观看直播。
为解决上述技术问题,本发明的实施方式提供了一种直播方法,包括以下步骤:确定当前直播画面中是否包括预设的目标内容;若所述当前直播画面中包括所述目标内容,则获取所述当前直播画面中的目标内容对应的增强图像;其中,所述增强图像为对所述目标内容进行增强显示处理后的图像;将所述增强图像显示在所述当前直播画面中的目标位置。
本发明的实施方式还提供了一种电子设备,包括:至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述的直播方法。
本发明的实施方式还提供了一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时实现上述的直播方法。
本发明实施方式相对于现有技术而言,确定当前直播画面中是否包括预设的目标内容;若当前直播画面中包括目标内容,则获取当前直播画面中的目标内容对应的增强图像;其中,增强图像为对目标内容进行增强显示处理后的图像。增强显示后的图像中的目标内容相比未进行增强显示的图像中的目标内容在视觉上更容易吸引用户的注意力。将增强图像显示在当前直播画面中的目标位置,使得用户在观看直播时,可以被显示在目标位置处的增强图像所吸引。本发明实施方式中,若当前直播画面中包括目标内容,则直播界面不再单调的显示当前直播画面的内容,还会在当前直播画面的目标位置处显示目标内容对应的增强图像,通过个性化的显示方式使得直播内容不再单调,有利于提高直播内容对用户的吸引力,从而使得用户可以集中精力观看直播。
另外,在所述将所述增强图像显示在所述当前直播画面中的目标位置之前,还包括:提取直播过程中的直播语音;识别所述直播语音的语音内容;所述将所述增强图像显示在所述当前直播画面中的目标位置,包括:当从所述语音内容中识别出所述预设的目标内容时,将识别出的目标内容对应的增强图像显示在所述当前直播画面中的目标位置。通过直播语音的语音内容识别,当从语音内容中识别出目标内容时,将识别出的目标内容对应的增强图像显示在当前直播画面中的目标位置,有利于将当前直播画面中显示的内容与直播语音的语音内容相结合,使得目标位置处显示的增强图像与直播语音的语音内容相对应,有利于在视觉和听觉上同时提高直播内容对用户的吸引力,进一步使得用户可以集中精力观看直播,且操作简单易于实现。
另外,所述获取所述当前直播画面中的目标内容对应的增强图像,包括:确定所述目标内容在所述当前直播画面中的边界框;截取所述边界框内的图像,得到截取图像;对所述截取图像进行增强显示处理,得到所述目标内容对应的增强图像。提供了一种增强图像的获取方式,通过确定目标内容在当前直播画面中的边界框,有利于准确的定位目标内容在当前直播画面中的位置,通过截取边界框内的图像,方便了得到目标内容所在位置的图像,对截取图像进行增强显示处理,有利于针对性的得到目标内容对应的增强图像。
另外,直播的内容包括,可预先识别的内容,在所述获取所述当前直播画面中的目标内容对应的增强图像之前,还包括:对所述可预先识别的内容进行识别,确定所述可预先识别的内容对应的所有画面中的各个候选画面;其中,所述候选画面中包括所述预设的目标内容;获取所述各个候选画面中的目标内容对应的增强图像,并存储所述各个候选画面中的目标内容对应的增强图像;所述获取所述当前直播画面中的目标内容对应的增强图像,包括:
根据存储的所述各个候选画面中的目标内容对应的增强图像,查找所述当前直播画面中的目标内容对应的增强图像。也就是说,如果直播的内容包括,可预先识别的内容,则可以预先一次性对可预先识别的内容对应的所有画面进行识别,确定包括预设的目标内容的各个候选画面,从而获取并存储各个候选画面中的目标内容对应的增强图像。方便后续在播放到包括预设的目标内容的画面时,可以直接在存储的各个候选画面中的目标内容对应的增强图像中,查找得到所需的增强图像。通过查找的方式获取当前直播画面中的目标内容对应的增强图像,有利于提高在直播过程中获取增强图像的速度。
另外,确定在播放所述当前直播画面的过程中,是否检测到用于指示剪辑的第一类关键字;若检测到用于指示剪辑的第一类关键字,则将检测到所述第一类关键字的时间点作为截止时间点;对所述直播的起始时间点到所述截止时间点之间形成的视频流进行内容识别,剪辑得到与所述第一类关键字关联的视频片段;以预设的第一显示方式显示所述视频片段。通过显示剪辑得到的视频片段,使得即使用户从直播中途才进入直播,也可以通过剪辑得到的视频片段观看进入直播之前播放的内容,而无需等到直播结束再回看。并且,由于剪辑的视频片段与第一类关键字关联,有利于剪辑得到用户感兴趣的视频片段。
附图说明
一个或多个实施例通过与之对应的附图中的图片进行示例性说明,这些示例性说明并不构成对实施例的限定。
图1是根据本发明第一实施方式中的直播方法的流程图;
图2是根据本发明第二实施方式中的直播方法的流程图;
图3是根据本发明第三实施方式中的直播方法的流程图;
图4是根据本发明第四实施方式中的电子设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的各实施方式进行详细的阐述。然而,本领域的普通技术人员可以理解,在本发明各实施方式中,为了使读者更好地理解本申请而提出了许多技术细节。但是,即使没有这些技术细节和基于以下各实施方式的种种变化和修改,也可以实现本申请所要求保护的技术方案。以下各个实施例的划分是为了描述方便,不应对本发明的具体实现方式构成任何限定,各个实施例在不矛盾的前提下可以相互结合相互引用。
本发明的第一实施方式涉及一种直播方法,应用于电子设备。其中,电子设备可以为用于播放直播视频的手机、电脑等终端,也可以为下发直播流的服务器,本实施方式对此不做具体限定。下面对本实施方式的实现细节进行具体的说明,以下内容仅为方便理解提供的实现细节,并非实施本方案的必须。
本实施方式中的直播方法可以如图1所示,具体包括:
步骤101:确定当前直播画面中是否包括预设的目标内容;如果是,则执行步骤102,否则该流程结束。
其中,直播的类型可以为:教育培训类直播、体育赛事类直播、游戏类直播等,预设的目标内容,可以根据直播的类型确定。该预设的目标内容可以由用户根据各自的偏好自行选择设置,也可以由电子设备根据直播的类型直接默认设置,无需用户选择。
在一个例子中,直播的类型为教育培训类直播,则预设的目标内容可以为:培训的知识点。比如,直播培训的内容包括公式、定理、公理等,则可以将预设的目标内容设置为公式、定理、公理等。在具体实现中,可以根据实际需要,确定要将哪些知识点作为预设的目标内容,本实施方式对此不做具体限定。可以理解的是,如果预设的目标内容为公式,则直播画面中出现公式1、公式2、公式3等公式类的内容都可以认为直播画面中包括预设的目标内容。如果预设的目标内容为公式1,则只有直播画面中出现公式1,才会确定直播画面中包括预设的目标内容。也就是说,预设的目标内容可以为属于预设类型的内容,也可以为预设类型下的一个或几个具体的内容。另外,预设的目标内容也可以为属于多种预设类型的内容,比如公式类的内容、定理类的内容、图表类的内容等。其中,预设类型可以根据实际需要进行设置,本实施方式对此不做具体限定。
在另一个例子中,直播的类型为体育赛事类直播,则预设的目标内容可以为:参加比赛的某一个运动员或者比赛中的精彩动作,然而,本实施方式对此不做具体限定。
在一个例子中,确定当前直播画面中是否包括预设的目标内容的方式可以为:首先,提取直播过程中的直播语音。然后,识别直播语音的语音内容,比如对直播语音进行词法分析和句法分析,从而识别出直播语音的语音内容。接着,根据语音内容,确定当前直播画面中是否包括预设的目标内容。其中,提取的直播语音可以为与直播主题关联的语音,比如,直播主题为教育培训类,则提取的直播语音可以为教育培训过程中培训讲师发出的语音。在具体实现中,如果语音内容中提到预设的目标内容,则可以确定当前直播画面中包括预设的目标内容,如果语音内容中未提到预设的目标内容,则可以确定当前直播画面中不包括预设的目标内容。通过直播语音的识别,可以简单方便的确定当前视频帧中是否包括预设的目标内容,且操作简单易于实现。
可选的,还可以在确定语音内容中提到预设的目标内容后,对当前的直播画面进行图像识别,根据图像识别的结果确定直播画面中是否包括预设的目标内容。即先对直播语音进行语音识别,再对直播画面进行图像识别,从而确定直播画面中是否包括预设的目标内容,使得无需对每一张直播画面均进行较为复杂的图像识别,且语音识别与图像识别结合的方式有利于提高确定当前直播画面中是否包括预设的目标内容的速度和准确度。
以教育培训类直播为例,假设预设的目标内容为定理,则可以在直播过程中提取培训讲师语音,识别培训讲师语音的语音内容,如果语音内容中提到定理1、定理2、定理3等关键词,则可以确定当前直播画面中包括预设的目标内容。可选的,假设培训讲师语音的语音内容中提到定理1,则还可以进一步对当前直播画面进行图像识别,根据图像识别的结果确定当前直播画面中是否显示有定理1。
在另一个例子中,确定当前直播画面中是否包括预设的目标内容的方式可以为:直接采用图像识别技术对当前直播画面中包括的内容进行识别,从而确定当前直播画面中是否包括预设的目标内容。比如,培训讲师在黑板上板书教学的直播场景下,可以通过图像识别技术对当前直播画面中黑板上的内容进行识别,从而确定黑板上的内容是否包括预设的目标内容。比如在当前直播画面中,培训讲师在黑板上写出了定理、公理、公式等预设的目标内容,则通过图像识别技术可以在当前直播画面中识别到黑板上的定理、公理、公式等,从而可以确定当前直播画面包括预设的目标内容。
步骤102:获取当前直播画面中的目标内容对应的增强图像。
其中,增强图像为对目标内容进行增强显示处理后的图像。增强显示后的图像主要是突出希望强调的部分即目标内容,以引起用户的注意力。增强显示处理可以包括对当前直播画面中的目标内容的曝光度增强、去燥、边缘锐化、对比度增加或饱和度增加、字体加粗、放大中的至少一种。
在一个例子中,获取当前直播画面中的目标内容对应的增强图像的方式,可以如下:
首先,确定目标内容在当前直播画面中的边界框。比如,可以采用物体检测算法,检测当前直播画面中的各个物体,并标记直播画面中的各个物体的边界框。然后,在标记的各个物体的边界框中,选择出标记的目标内容的边界框,将选择出的边界框作为确定的目标内容在当前直播画面中的边界框。
接着,截取边界框内的图像,得到截取图像。也就是说,以目标内容在当前直播画面中的边界框为截取的边界,根据该截取的边界,截取位于该边界内的直播画面,得到截取图像。
然后,对截取图像进行增强显示处理,得到目标内容对应的增强图像。
在一个例子中,增强显示处理的方式可以为:在不降低图像清晰度的条件下对截取图像进行放大。比如,可以使用OPENCV通过锐化、图像增强、维纳滤波以及小波等方法来增强截取图像的对比度,再进行放大。放大的程度可以根据实际需要进行设置,旨在突出强调目标内容,本实施方式对放大的程度不做具体限定。
在另一个例子中,增强显示处理的方式可以为:通过增强截取图像的色彩和对比度,降低外界因素对截取图像的影响,比较常见的有直方图均衡法、偏振图像处理法、小波变化法和Retinex法等。
可选的,进行增强显示处理的方式还可以为:对截取图像增加闪烁、浮动等特效以引起观众的注意力。
需要说明的是,本实施方式中只是为方便理解提供上述三种进行增强显示处理的方式,在具体实现中,并不以此为限。并且,在具体实现中,可以选择上述任意一种方式进行增强显示处理,也可以将上述几种方式以任意形式组合来进行增强显示处理。
在一个例子中,直播的内容包括,可预先识别的内容。其中,可预先识别的内容可以理解为PPT、文档等无需等到已经出现在直播画面中才能进行识别的内容。在这种场景下,可以预先对直播中的可预先识别的内容进行识别,确定可预先识别的内容对应的所有画面中的各个候选画面;其中,候选画面中包括预设的目标内容。然后,可以按照上述获取增强图像的方式,获取各个候选画面中的目标内容对应的增强图像,并存储各个候选画面中的目标内容对应的增强图像。其中,各个候选画面中的目标内容对应的增强图像可以存储在用于播放直播视频的终端中,也可以存储在用于下发直播流的服务器中,本实施方式对此不做限定。因此,本步骤中,可以根据存储的各个候选画面中的目标内容对应的增强图像,查找当前直播画面中的目标内容对应的增强图像。比如,各个候选画面中的目标内容对应的增强图像可以携带预设的标记,即存储的每个增强图像均携带有不同的标记,该标记可以根据实际需要进行设置,比如增强图像中的目标内容为定理或公式时,标记可以设置为定理或公式的名称。当需要获取当前直播画面中的目标内容对应的增强图像时,可以将当前直播画面中的目标内容与存储的增强图像携带的标记进行匹配,得到与当前直播画面中的目标内容匹配的标记,从而根据匹配的标记查找携带该标记的增强图像,将查找到的增强图像作为当前直播画面中的目标内容对应的增强图像。
比如,在教育培训类直播中,培训讲师可以通过提前制作好的PPT或是文档进行直播培训,假设预设的目标内容为公式,则可以先对PPT或是文档进行识别,并在一次识别后,识别出PPT或是文档对应的所有画面中包括公式的各个候选画面。然后获取各个候选画面的中的公式对应的增强图像,并存储各个候选画面的中的公式对应的增强图像,存储的增强图像可以携带增强图像中的公式的编号或名称。当需要获取当前直播画面中的目标内容对应的增强图像时,可以直接在存储的各个候选画面的中的公式对应的增强图像中查询得到。
步骤103:将增强图像显示在当前直播画面中的目标位置。
其中,目标位置可以为当前直播画面中的任一位置,也可以为当前直播画面中的空白位置,在目标位置处以悬浮框、画中画的形式显示增强图像。然而,本实施方式对此不做具体限定,在具体实现中,目标位置可以根据实际需要进行设置。另外,当前直播画面可以在多个屏幕上显示,因此,增强图像与当前直播画面可以同屏显示也可以分屏显示。
在一个例子中,可以先提取直播过程中的直播语音,比如在播放当前直播画面过程中的直播语音。然后,识别直播语音的语音内容,当从语音内容中识别出预设的目标内容时,将识别出的目标内容对应的增强图像显示在当前直播画面中的目标位置。其中,提取的直播语音可以为与直播主题关联的直播语音。比如,直播主题为教育培训类,则提取的直播语音可以为教育培训过程中培训讲师发出的语音。可以理解的是,在具体实现中,当前直播画面中可能存在多个不同的目标内容,则可以在从直播语音的语音内容中识别出预设的目标内容时,将识别出的目标内容对应的增强图像显示在当前直播画面中的目标位置。比如,在语音内容中识别到目标内容1时,将目标内容1对应的增强图像显示在当前直播画面中的目标位置;在语音内容中识别到目标内容2时,停止显示目标内容1对应的增强图像,将目标内容2对应的增强图像显示在当前直播画面中的目标位置。
下面提供一个本实施方式的具体应用场景以方便对本实施方式的理解:
对于直播内容包括PPT的教育培训类直播,假设预设的目标内容为定理。可以先对PPT进行全部识别,并在一次识别后,识别出PPT对应的所有画面中包括定理的各个候选画面。然后获取各个候选画面的中的定理对应的增强图像,并存储各个候选画面的中的定理对应的增强图像。比如,可能存储了定理1、定理2……定理n对应的增强图像。然后,在直播的过程中如果确定当前直播画面包括定理1,则可以直接从存储的各个候选画面的中的各个定理对应的增强图像中查找定理1对应的增强图像,将定理1对应的增强图像显示在当前直播画面的目标位置处,比如增强图像中的定理1以放大的、深颜色的方式进行显示,使得用户可以更清楚的、更集中精力地进行学习。可选的,在直播过程中可以识别培训讲师的语音,识别出培训讲师讲到定理1,则查找到定理1对应的增强图像显示在当前直播画面的目标位置处,当培训讲师讲完定理1,开始讲定理2,则停止显示定理1对应的增强图像,开始显示定理2对应的增强图像。
需要说明的是,本实施方式中的上述各示例均为为方便理解进行的举例说明,并不对本发明的技术方案构成限定。
与现有技术相比,本实施方式中若当前直播画面中包括目标内容,则直播界面不再单调的显示当前直播画面的内容,还会在当前直播画面的目标位置处显示目标内容对应的增强图像,通过个性化的显示方式使得直播内容不再单调,有利于提高直播内容对用户的吸引力,从而使得用户可以集中精力观看直播。另外,如果直播的内容包括,可预先识别的内容,则可以预先一次性对可预先识别的内容对应的所有画面进行识别,确定包括预设的目标内容的各个候选画面,从而获取并存储各个候选画面中的目标内容对应的增强图像。方便后续在播放到包括预设的目标内容的画面时,可以直接在存储的各个候选画面中的目标内容对应的增强图像中,查找得到所需的增强图像。通过查找的方式获取当前直播画面中的目标内容对应的增强图像,有利于提高在直播过程中获取增强图像的速度。
本发明的第二实施方式涉及一种直播方法,下面对本实施方式的实现细节进行具体的说明,以下内容仅为方便理解提供的实现细节,并非实施本方案的必须。
本实施方式中的直播方法可以如图2所示,具体包括:
步骤201:确定当前直播画面中是否包括预设的目标内容;如果是,则执行步骤202,否则执行步骤204。
步骤202:获取当前直播画面中的目标内容对应的增强图像。
步骤203:将增强图像显示在当前直播画面中的目标位置。
其中,步骤201至步骤203分别与第一实施方式中的步骤101至步骤103大致相同,为避免重复在此不再赘述。
步骤204:确定在播放当前直播画面的过程中,是否检测到用于指示剪辑的第一类关键字,如果是,则执行步骤205,否则该流程结束。
步骤205:将检测到第一关键字的时间点作为截止时间点。
在一个例子中,第一类关键字可以为预设的关键字,比如在直播之前根据直播的内容提前确定直播的关键内容,根据关键内容提取关键字作为第一类关键字。第一类关键字可以由观看直播的用户提前预设,也可以由直播发起方设定,比如可以由培训讲师设定,然而,本实施方式对此不做具体限定。在直播过程中,可以提取直播语音,若从直播语音中识别出第一类关键字,则将识别出第一类关键字的时间点作为截止时间点。
在另一个例子中,第一类关键字为用户在直播过程中输入的关键字,比如,用于播放直播视频的终端上可以预设有用于指示剪辑的功能按键。当检测到用户点击该功能按键后,终端的播放界面可以弹出文本输入框,用户可以通过该文本输入框输入关键字。用户通过该文本输入框输入的关键字,可以作为用于指示剪辑的第一类关键字。如果在直播过程中检测到用户输入了用于指示剪辑的第一类关键字,则将所述用户输入所述第一类关键字的时间点作为截止时间点。
步骤206:对直播的起始时间点到截止时间点之间形成的视频流进行内容识别,剪辑得到与第一类关键字关联的视频片段。
其中,第一关键字可以对应有第一直播内容,比如,第一关键字为“勾股定理”,则第一直播内容可以为与“勾股定理”相关的直播内容,该直播内容可以为直播画面或是直播语音。与第一类关键字关联的视频片段可以理解为:从直播的起始时间点到截止时间点之间形成的视频流中,由多个包含有第一直播内容的视频帧组成的视频片段。比如,可以对直播的起始时间点到截止时间点之间形成的视频流中的各个视频帧进行内容识别,筛选出与第一关键字关联的视频帧,对筛选出来的视频帧进行剪辑,得到与第一类关键字关联的视频片段。
在一个例子中,内容识别的方式可以为图像识别,比如可以对视频流中的每个视频帧进行图像识别,确定视频帧中是否包括第一关键字对应的第一直播内容,从而确定该视频帧是否为与第一关键字关联的视频帧。比如,如果一个视频帧中包括第一关键字对应的第一直播内容,则可以确定该视频帧为与第一关键字关联的视频帧。在具体实现中,如果直播画面中以文字为主,则图像识别可以理解为文字识别。
在另一个例子中,内容识别的方式可以为语音识别,比如可以对视频流对应的直播语音进行语音识别,确定在直播语音中是否识别到第一关键字。然后,确定在直播语音中识别到第一关键字时所播放的视频帧,将确定的视频帧作为与第一关键字关联的视频帧。
在一个例子中,剪辑得到与第一类关键字关联的视频片段的方式可以如下:
首先,对直播的起始时间点到截止时间点之间形成的视频流进行分帧处理,得到视频流中的各个视频帧。然后,对分帧处理后得到的各个视频帧进行内容识别,并根据各相邻视频帧是否与第一类关键字关联,确定开始关联时间点和停止关联时间点。若确定了多组开始关联时间点和停止关联时间点,则对多组开始关联时间点和停止关联时间点之间播放的视频帧进行剪辑,得到多组开始关联时间点和停止关联时间点对应的多个视频子片段,对多个视频子片段进行组合,得到与第一类关键字关联的视频片段。
例如,用户输入“勾股定理”(第一类关键字),基于输入时间确定视频剪辑的截止时间点为开始直播后30分钟处,然后会对在0—30分钟之间的视频流进行内容识别。比如先对视频流进行分帧处理,再对分帧后的各个视频帧进行文本识别,确定是否包含“勾股定理”的内容。根据各相邻视频帧是否包含“勾股定理”的内容,确定开始关联时间点和停止关联时间点,即“勾股定理”在视频流中的开始出现时间点和消失时间点。假设,确定了多组开始关联时间点和停止关联时间点分别为2:30-2:33、2:40-2:45、2:52-2:57。则可以将2:30-2:33、2:40-2:45、2:52-2:57作为剪辑位置进行视频剪辑。即对2:30-2:33之间播放的视频帧进行剪辑得到视频子片段1,对2:40-2:45之间播放的视频帧进行剪辑得到视频子片段2,对2:52-2:57之间播放的视频帧进行剪辑得到视频子片段3。最终将3个时间段剪辑得到的3个视频子片段,按照时间先后顺序组合起来,得到包含“勾股定理”的视频片段。
在具体实现中,剪辑得到的与第一类关键字关联的视频片段可以存储在电子设备中,如果后续再次检测到该用户或是其他用户输入相同的第一类关键字,则可以直接获取存储的与该第一类关键字关联的视频片段。
步骤207:以预设的第一显示方式在直播界面上显示视频片段。
也就是说,在直播的过程中将上述剪辑得到的视频片段,以预设的第一显示方式在直播界面上进行显示。其中,第一预设显示方式可以包括:预设的显示位置、显示状态、显示时长等。
显示位置,可以根据实际需要进行设置,比如为直播界面中的空白位置,在具体实现中,在预设的显示位置显示视频片段后,用户可以根据实际需要拖动视频片段的显示位置。另外,根据实际需要,直播界面也可以分别在多个屏幕上显示,剪辑得到的视频片段可以与原直播画面分屏显示。
显示状态,可以包括静态显示或是动态显示。其中,静态显示可以理解为:剪辑得到的视频片段以文件的形式显示在预设的显示位置,当检测到用户点击了静态显示的文件后,可以开始播放该视频片段。动态显示可以理解为:剪辑得到的视频片段直接在预设的显示位置处播放。
显示时长即为视频片段在直播界面上的显示时长,该显示时长可以提前预先设置。在具体实现中,用户在观看的过程中也可以调整该显示时长,比如缩短或延长该显示时长。用户在观看视频片段的过程中,也可以根据实际需要随时关闭视频片段。
本实施方式中,对步骤201与步骤204的执行顺序不做具体限定,在具体实现中,根据实际需要也可以先执行步骤204再执行步骤201,或者同时执行步骤201和步骤204。
需要说明的是,本实施方式中的上述各示例均为为方便理解进行的举例说明,并不对本发明的技术方案构成限定。
与现有技术相比,本实施方式通过显示剪辑得到的视频片段,使得即使用户从直播中途才进入直播,也可以通过剪辑得到的视频片段观看进入直播之前播放的内容,而无需等到直播结束再回看。并且,由于剪辑的视频片段与第一类关键字关联,有利于剪辑得到用户感兴趣的视频片段。
本发明的第三实施方式涉及一种直播方法,下面对本实施方式的实现细节进行具体的说明,以下内容仅为方便理解提供的实现细节,并非实施本方案的必须。
本实施方式中的直播方法可以如图3所示,具体包括:
步骤301:确定当前直播画面中是否包括预设的目标内容;如果是,则执行步骤302,否则该流程结束。
步骤302:获取当前直播画面中的目标内容对应的增强图像。
步骤303:将增强图像显示在当前直播画面中的目标位置。
其中,步骤301至步骤303分别与第一实施方式中的步骤101至步骤103大致相同,为避免重复在此不再赘述。
步骤304:确定在播放当前直播画面的过程中,是否检测到用户输入的知识点;若是则执行步骤305,否则该流程结束。
步骤305:获取知识点的知识图谱。
其中,直播的类型为教育培训类直播,用户输入的知识点可以为用户在观看直播的过程中想要查询的知识点。知识图谱可以包括与用户输入的知识点关联的知识内容。
在一个例子中,用于播放直播视频的终端上可以预设有用于指示查询的功能按键。当检测到用户点击该用于指示查询的功能按键后,终端的播放界面可以弹出文本输入框,用户可以通过该文本输入框输入想要查询的知识点的名称。如果在直播的过程中检测到用户输入的知识点,则获取用户输入的该知识点的知识图谱。假设,用户输入的知识点为“勾股定理”,则可以获取“勾股定理”的知识图谱。“勾股定理”的知识图谱可以包括与“勾股定理”关联的知识内容,比如“勾股定理”的相应定义、推导过程、例题分析、习题强化训练等。
步骤306:以预设的第二显示方式在直播界面上显示知识图谱。
也就是说,在直播的过程中将上述知识点的知识图谱,以预设的第二显示方式在直播界面上进行显示。其中,第二预设显示方式可以包括:预设的显示位置、显示状态、显示维持时长等。第二预设显示方式与第二实施方式中提到的第一预设显示方式大致相同,为避免重复本实施方式对此不再赘述。在具体实现中,第一预设显示方式和第二预设显示方式可以相同也可以不同,本实施方式对此不做具体限定。
本实施方式中,对步骤301与步骤304的执行顺序不做具体限定,在具体实现中,根据实际需要也可以先执行步骤304再执行步骤301,或者同时执行步骤301和步骤304。
本实施例的应用场景可以理解为,用户在观看教育培训类直播的过程中,如果想要进一步查询培训讲师讲到的某一个知识点,可以输入想要查询的知识点的名称,比如文字输入或语音输入。电子设备可以基于用户输入的知识点,自动获取输入的该知识点的知识图谱,然后将知识图谱显示在直播界面的预设位置,比如显示在直播界面的右下角供用户观看,方便了用户学习。
需要说明的是,本实施方式中的上述各示例均为为方便理解进行的举例说明,并不对本发明的技术方案构成限定。
与现有技术相比,本实施方式在用户观看教育培训类直播的过程中,可以根据实际需要输入想查询的知识点,从而可以在观看教育培训类直播的同时,观看想查询的知识点的知识图谱,方便了用户学习,有利于提高培训直播的培训效果,有利于提升用户的观看体验。
上面各种方法的步骤划分,只是为了描述清楚,实现时可以合并为一个步骤或者对某些步骤进行拆分,分解为多个步骤,只要包括相同的逻辑关系,都在本专利的保护范围内;对算法中或者流程中添加无关紧要的修改或者引入无关紧要的设计,但不改变其算法和流程的核心设计都在该专利的保护范围内。
本发明第四实施方式涉及一种电子设备,如图4所示,包括至少一个处理器401;以及,与至少一个处理器401通信连接的存储器402;其中,存储器402存储有可被至少一个处理器401执行的指令,指令被至少一个处理器401执行,以使至少一个处理器401能够执行上述直播方法。
其中,存储器402和处理器401采用总线方式连接,总线可以包括任意数量的互联的总线和桥,总线将一个或多个处理器401和存储器402的各种电路连接在一起。总线还可以将诸如外围设备、稳压器和功率管理电路等之类的各种其他电路连接在一起,这些都是本领域所公知的,因此,本文不再对其进行进一步描述。总线接口在总线和收发机之间提供接口。收发机可以是一个元件,也可以是多个元件,比如多个接收器和发送器,提供用于在传输介质上与各种其他装置通信的单元。经处理器401处理的数据通过天线在无线介质上进行传输,进一步,天线还接收数据并将数据传送给处理器401。
处理器401负责管理总线和通常的处理,还可以提供各种功能,包括定时,外围接口,电压调节、电源管理以及其他控制功能。而存储器402可以被用于存储处理器401在执行操作时所使用的数据。
本发明第五实施方式涉及一种计算机可读存储介质,存储有计算机程序。计算机程序被处理器执行时实现上述方法实施例。
即,本领域技术人员可以理解,实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
本领域的普通技术人员可以理解,上述各实施方式是实现本发明的具体实施例,而在实际应用中,可以在形式上和细节上对其作各种改变,而不偏离本发明的精神和范围。

Claims (10)

1.一种直播方法,其特征在于,包括:
确定当前直播画面中是否包括预设的目标内容;
若所述当前直播画面中包括所述目标内容,则获取所述当前直播画面中的目标内容对应的增强图像;其中,所述增强图像为对所述目标内容进行增强显示处理后的图像;
将所述增强图像显示在所述当前直播画面中的目标位置。
2.根据权利要求1所述的直播方法,其特征在于,在所述将所述增强图像显示在所述当前直播画面中的目标位置之前,还包括:
提取直播过程中的直播语音;
识别所述直播语音的语音内容;
所述将所述增强图像显示在所述当前直播画面中的目标位置,包括:
当从所述语音内容中识别出所述预设的目标内容时,将识别出的目标内容对应的增强图像显示在所述当前直播画面中的目标位置。
3.根据权利要求1或2所述的直播方法,其特征在于,所述获取所述当前直播画面中的目标内容对应的增强图像,包括:
确定所述目标内容在所述当前直播画面中的边界框;
截取所述边界框内的图像,得到截取图像;
对所述截取图像进行增强显示处理,得到所述目标内容对应的增强图像。
4.根据权利要求1所述的直播方法,其特征在于,直播的内容包括:可预先识别的内容,在所述获取所述当前直播画面中的目标内容对应的增强图像之前,还包括:
对所述可预先识别的内容进行识别,确定所述可预先识别的内容对应的所有画面中的各个候选画面;其中,所述候选画面中包括所述预设的目标内容;
获取所述各个候选画面中的目标内容对应的增强图像,并存储所述各个候选画面中的目标内容对应的增强图像;
所述获取所述当前直播画面中的目标内容对应的增强图像,包括:
根据存储的所述各个候选画面中的目标内容对应的增强图像,查找所述当前直播画面中的目标内容对应的增强图像。
5.根据权利要求1所述的直播方法,其特征在于,所述方法还包括:
确定在播放所述当前直播画面的过程中,是否检测到用于指示剪辑的第一类关键字;
若检测到用于指示剪辑的第一类关键字,则将检测到所述第一类关键字的时间点作为截止时间点;
对所述直播的起始时间点到所述截止时间点之间形成的视频流进行内容识别,剪辑得到与所述第一类关键字关联的视频片段;
以预设的第一显示方式显示所述视频片段。
6.根据权利要求5所述的直播方法,其特征在于,所述对所述直播的起始时间点到所述截止时间点之间形成的视频流进行内容识别,剪辑得到与所述第一类关键字关联的视频片段;
对所述直播的起始时间点到所述截止时间点之间形成的视频流进行分帧处理,得到所述视频流中的各个视频帧;
对所述各个视频帧进行内容识别,并根据各相邻视频帧是否与所述第一类关键字关联,确定开始关联时间点和停止关联时间点;
若确定了多组开始关联时间点和停止关联时间点,则对所述多组开始关联时间点和停止关联时间点之间播放的视频帧进行剪辑,得到所述多组开始关联时间点和停止关联时间点对应的多个视频子片段;
对所述多个视频子片段进行组合,得到与所述第一类关键字关联的视频片段。
7.根据权利要求5或6所述的直播方法,其特征在于,所述若检测到用于指示剪辑的第一类关键字,则将检测到所述第一类关键字的时间点作为截止时间点,包括:
若在直播过程中从直播语音中识别出所述第一类关键字,则将识别出所述第一类关键字的时间点作为截止时间点;
或者,
所述若检测到用于指示剪辑的第一类关键字,则将检测到所述第一类关键字的时间点作为截止时间点,包括:
若在直播过程中检测到用户输入了用于指示剪辑的第一类关键字,则将所述用户输入所述第一类关键字的时间点作为截止时间点。
8.根据权利要求1所述的直播方法,其特征在于,直播的类型为教育培训类直播;所述方法还包括:
确定在播放所述当前直播画面的过程中,是否检测到用户输入的知识点;
若检测到用户输入的知识点,则获取所述知识点的知识图谱;其中,所述知识图谱包括与所述知识点关联的知识内容;
以预设的第二显示方式显示所述知识图谱。
9.一种电子设备,其特征在于,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至8中任一所述的直播方法。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至8中任一项所述的直播方法。
CN202010440459.9A 2020-05-22 2020-05-22 直播方法、电子设备和可读存储介质 Active CN111556332B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010440459.9A CN111556332B (zh) 2020-05-22 2020-05-22 直播方法、电子设备和可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010440459.9A CN111556332B (zh) 2020-05-22 2020-05-22 直播方法、电子设备和可读存储介质

Publications (2)

Publication Number Publication Date
CN111556332A true CN111556332A (zh) 2020-08-18
CN111556332B CN111556332B (zh) 2022-05-10

Family

ID=72008397

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010440459.9A Active CN111556332B (zh) 2020-05-22 2020-05-22 直播方法、电子设备和可读存储介质

Country Status (1)

Country Link
CN (1) CN111556332B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112165626A (zh) * 2020-09-24 2021-01-01 腾讯科技(深圳)有限公司 图像处理方法、资源获取方法、相关设备及介质
CN112702616A (zh) * 2020-12-08 2021-04-23 珠海格力电器股份有限公司 一种播放内容的处理方法以及装置
CN113490009A (zh) * 2021-07-06 2021-10-08 广州虎牙科技有限公司 内容信息植入方法、装置、服务器和存储介质
CN113709545A (zh) * 2021-04-13 2021-11-26 腾讯科技(深圳)有限公司 视频的处理方法、装置、计算机设备和存储介质
CN114466203A (zh) * 2020-11-10 2022-05-10 阿里巴巴集团控股有限公司 视频的处理方法、装置及系统
CN114500773A (zh) * 2021-12-28 2022-05-13 天翼云科技有限公司 一种转播方法及装置
CN114745558A (zh) * 2021-01-07 2022-07-12 北京字节跳动网络技术有限公司 直播监控方法、装置、系统、设备及介质
CN114979741A (zh) * 2021-02-20 2022-08-30 腾讯科技(北京)有限公司 播放视频的方法、装置、计算机设备和存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107276984A (zh) * 2017-05-15 2017-10-20 武汉斗鱼网络科技有限公司 游戏直播方法、装置及移动终端
CN109788345A (zh) * 2019-03-29 2019-05-21 广州虎牙信息科技有限公司 直播控制方法、装置、直播设备及可读存储介质
CN109922354A (zh) * 2019-03-29 2019-06-21 广州虎牙信息科技有限公司 直播互动方法、装置、直播系统及电子设备
CN110505521A (zh) * 2019-08-28 2019-11-26 咪咕动漫有限公司 一种直播比赛互动方法、电子设备、存储介质及系统
CN110602516A (zh) * 2019-09-16 2019-12-20 腾讯科技(深圳)有限公司 基于视频直播的信息交互方法、装置及电子设备
US20200074181A1 (en) * 2014-02-28 2020-03-05 Second Spectrum, Inc. Data processing systems and methods for generating interactive user interfaces and interactive game systems based on spatiotemporal analysis of video content

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200074181A1 (en) * 2014-02-28 2020-03-05 Second Spectrum, Inc. Data processing systems and methods for generating interactive user interfaces and interactive game systems based on spatiotemporal analysis of video content
CN107276984A (zh) * 2017-05-15 2017-10-20 武汉斗鱼网络科技有限公司 游戏直播方法、装置及移动终端
CN109788345A (zh) * 2019-03-29 2019-05-21 广州虎牙信息科技有限公司 直播控制方法、装置、直播设备及可读存储介质
CN109922354A (zh) * 2019-03-29 2019-06-21 广州虎牙信息科技有限公司 直播互动方法、装置、直播系统及电子设备
CN110505521A (zh) * 2019-08-28 2019-11-26 咪咕动漫有限公司 一种直播比赛互动方法、电子设备、存储介质及系统
CN110602516A (zh) * 2019-09-16 2019-12-20 腾讯科技(深圳)有限公司 基于视频直播的信息交互方法、装置及电子设备

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112165626A (zh) * 2020-09-24 2021-01-01 腾讯科技(深圳)有限公司 图像处理方法、资源获取方法、相关设备及介质
CN114466203A (zh) * 2020-11-10 2022-05-10 阿里巴巴集团控股有限公司 视频的处理方法、装置及系统
CN112702616A (zh) * 2020-12-08 2021-04-23 珠海格力电器股份有限公司 一种播放内容的处理方法以及装置
CN114745558A (zh) * 2021-01-07 2022-07-12 北京字节跳动网络技术有限公司 直播监控方法、装置、系统、设备及介质
CN114745558B (zh) * 2021-01-07 2024-04-09 北京字节跳动网络技术有限公司 直播监控方法、装置、系统、设备及介质
CN114979741A (zh) * 2021-02-20 2022-08-30 腾讯科技(北京)有限公司 播放视频的方法、装置、计算机设备和存储介质
CN113709545A (zh) * 2021-04-13 2021-11-26 腾讯科技(深圳)有限公司 视频的处理方法、装置、计算机设备和存储介质
CN113490009A (zh) * 2021-07-06 2021-10-08 广州虎牙科技有限公司 内容信息植入方法、装置、服务器和存储介质
CN114500773A (zh) * 2021-12-28 2022-05-13 天翼云科技有限公司 一种转播方法及装置
CN114500773B (zh) * 2021-12-28 2023-10-13 天翼云科技有限公司 一种转播方法、系统和存储介质

Also Published As

Publication number Publication date
CN111556332B (zh) 2022-05-10

Similar Documents

Publication Publication Date Title
CN111556332B (zh) 直播方法、电子设备和可读存储介质
CN108419141B (zh) 一种字幕位置调整的方法、装置、存储介质及电子设备
CN111415399B (zh) 图像处理方法、装置、电子设备及计算机可读存储介质
CN107147939A (zh) 用于调整视频直播封面的方法和装置
CN109218629A (zh) 视频生成方法、存储介质和装置
CN111355977B (zh) 一种网络直播视频的优化保存方法及装置
US20190213998A1 (en) Method and device for processing data visualization information
WO2020166382A1 (ja) 検出装置、検出方法およびプログラム
CN113038175B (zh) 视频处理方法、装置、电子设备及计算机可读存储介质
CN112492382B (zh) 视频帧提取方法、装置、电子设备和存储介质
CN113391745A (zh) 网络课程的重点内容处理方法、装置、设备及存储介质
CN111339809A (zh) 一种课堂行为分析方法及装置、电子设备
CN111008295A (zh) 书页检索方法、装置、电子设备和存储介质
CN116524906A (zh) 用于语音识别的训练数据生成方法、系统和电子设备
US10593366B2 (en) Substitution method and device for replacing a part of a video sequence
US20170171644A1 (en) Method and electronic device for creating video image hyperlink
EP1979876A1 (en) Method of verifying the saliency areas of a multimedia document, method of creating an advertising document, method of automatically verifying the saliency areas of an internet site, and associated computer program product
CN112860941A (zh) 一种封面推荐方法、装置、设备及介质
US20210158723A1 (en) Method and System for Teaching Language via Multimedia Content
CN105307001A (zh) 在视频节目上实时显示发布信息的方法和装置
CN110598012A (zh) 一种音视频播放的方法及多媒体播放装置
CN115720279B (zh) 一种在直播场景中展现任意特效的方法及装置
CN117979123B (zh) 一种用于旅行记录的视频集锦生成方法、装置及电子设备
CN110392313B (zh) 特定语音评论的展现方法、系统、介质和电子设备
CN114399571A (zh) 动画视频生成方法、系统、计算机设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant