CN105554570B - 一种版权视频监控方法和装置 - Google Patents

一种版权视频监控方法和装置 Download PDF

Info

Publication number
CN105554570B
CN105554570B CN201511028452.1A CN201511028452A CN105554570B CN 105554570 B CN105554570 B CN 105554570B CN 201511028452 A CN201511028452 A CN 201511028452A CN 105554570 B CN105554570 B CN 105554570B
Authority
CN
China
Prior art keywords
picture
picture set
video
value
lbp
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201511028452.1A
Other languages
English (en)
Other versions
CN105554570A (zh
Inventor
李亚宁
李蹊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing QIYI Century Science and Technology Co Ltd
Original Assignee
Beijing QIYI Century Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing QIYI Century Science and Technology Co Ltd filed Critical Beijing QIYI Century Science and Technology Co Ltd
Priority to CN201511028452.1A priority Critical patent/CN105554570B/zh
Publication of CN105554570A publication Critical patent/CN105554570A/zh
Application granted granted Critical
Publication of CN105554570B publication Critical patent/CN105554570B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44236Monitoring of piracy processes or activities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23418Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Security & Cryptography (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Virology (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Databases & Information Systems (AREA)
  • Storage Device Security (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

本发明实施例公开了一种版权视频监控方法和装置,方案包括:在获得具有版权的第一视频的第一图片集合和待监控的第二视频的第二图片集合后,结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从第二图片集合中筛选与第一图片集合中符合相似度条件的图片,根据该符合相似度条件的图片,确定待监控的第二视频是否为盗播视频。应用本发明实施例可以提高对盗版视频的识别率,从而提高版权视频盗播的监控力度。

Description

一种版权视频监控方法和装置
技术领域
本发明涉及视频版权领域,特别涉及一种版权视频监控方法和装置。
背景技术
近年来,随着网络的发展,视频播放领域发展迅速,为了增加用户量,各视频播放器开发商会购买一些视频的播放版权,只有购买了视频的播放版权的视频播放器才可以合法的播放该视频。而实际中,往往会出现部分网站通过修改版权视频的标题等手段盗播版权视频。
现有技术是通过文字搜索等手段来监控版权视频的播放,防止版权视频被盗播。而现有技术对通过修改版权视频的标题的等手段盗播版权视频的情况是不易察觉的,导致了盗版视频的识别率较低。这时,对版权视频盗播的监控,就存在明显的漏洞。
发明内容
本发明实施例公开了一种版权视频监控方法和装置,可以提高对盗版视频的识别率,从而提高对版权视频盗播的监控力度。具体方案如下:
一方面,本发明实施例提供了一种版权视频监控方法,所述方法包括步骤:
获得从具有版权的第一视频中提取的第一图片集合以及从待监控的第二视频中提取的第二图片集合;
结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从所述第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片;
如果从所述第二图片集合中筛选得到与第一图片集合中的图片的相似度符合相似度条件的至少一张图片,则确定所述第二视频为盗播视频,否则,确定所述第二视频为非盗播视频。
较佳的,在所述获得从具有版权的第一视频中提取的第一图片集合以及从待监控的第二视频中提取的第二图片集合之前,本发明实施例所提供的一种版权视频监控方法还包括:
获得具有版权的第一视频和待监控的第二视频;
按照预设图片提取规则,提取所述第一视频中的视频图片,构成第一图片集合,以及
按所述预设图片提取规则,提取所述第二视频中的视频图片,构成第二图片集合。
较佳的,所述结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从所述第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片,包括:
计算所述第一图片集合和第二图片集合中图片的哈希值,分别将所述第二图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第二图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第三图片集合;
计算所述第一图片集合和所述第三图片集合中的图片的LBP值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第三图片集合中的至少一次比对所得的所述LBP相似度值大于第二阈值的图片和/或汉明距离为0的所述LBP相似度值小于等于所述第二阈值的图片组成第四图片集合;
分别将所述第四图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第四图片集合中的至少一次比对所得的所述结构相似度值大于第三阈值的图片组成第五图片集合;
获取所述第一图片集合和所述第五图片集合中图片的特征点,分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第五图片集合中的至少一次比对所得的所述特征点匹配数量大于第四阈值的图片组成第六图片集合;
将所述第六图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片。
较佳的,所述结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从所述第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片,包括:
计算所述第一图片集合和第二图片集合中图片的哈希值,分别将所述第二图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第二图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第三图片集合;
计算所述第一图片集合和所述第三图片集合中的图片的LBP值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第三图片集合中的至少一次比对所得的所述LBP相似度值大于第二阈值的图片和/或汉明距离为0的所述LBP相似度值小于等于所述第二阈值的图片组成第四图片集合;
对所述第四图片集合进行纯色图片过滤处理,确定第五图片集合;
分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第五图片集合中的至少一次比对所得的所述结构相似度值大于第三阈值的图片组成第六图片集合;
获取所述第一图片集合和所述第六图片集合中图片的特征点,分别将所述第六图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第六图片集合中的至少一次比对所得的所述特征点匹配数量大于第四阈值的图片组成第七图片集合;
将所述第七图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片。
较佳的,所述结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从所述第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片,包括:
计算所述第一图片集合和所述第二图片集合中的图片的LBP值,分别将所述第二图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第三图片集合中的至少一次比对所得的所述LBP相似度值大于第一阈值的图片组成第三图片集合;
计算所述第一图片集合和第三图片集合中图片的哈希值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第三图片集合中的至少一次比对的汉明距离小于第二阈值的图片组成第四图片集合;
分别将所述第四图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第四图片集合中的至少一次比对所得的所述结构相似度值大于第三阈值的图片组成第五图片集合;
获取所述第一图片集合和所述第五图片集合中图片的特征点,分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第五图片集合中的至少一次比对所得的所述特征点匹配数量大于第四阈值的图片组成第六图片集合;
将所述第六图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片。
较佳的,所述结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从所述第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片,包括:
对所述第二图片集合进行纯色图片过滤处理,确定第三图片集合;
计算所述第一图片集合和第三图片集合中图片的哈希值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第三图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第四图片集合;
计算所述第一图片集合和所述第四图片集合中的图片的LBP值,分别将所述第四图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第四图片集合中的至少一次比对所得的所述LBP相似度值大于第二阈值的图片和/或汉明距离为0的所述LBP相似度值小于等于所述第二阈值的图片组成第五图片集合;
获取所述第一图片集合和所述第五图片集合中图片的特征点,分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第五图片集合中的至少一次比对所得的所述特征点匹配数量大于第三阈值的图片组成第六图片集合;
分别将所述第六图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第六图片集合中的至少一次比对所得的所述结构相似度值大于第四阈值的图片组成第七图片集合;
将所述第七图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片。
较佳的,本发明实施例所提供的一种版权视频监控方法还包括:
当确定出所述第二视频为盗播视频时,
提取盗播版权视频的相关描述信息,将所述盗播版权视频所述相关信息写入数据库,其中,所述相关描述信息包括:位置信息和内容描述信息中的至少一种。
另一方面,本发明实施例还提供了一种版权视频监控装置,所述装置包括:
图片集合获得模块:用于获得从具有版权的第一视频中提取的第一图片集合以及从待监控的第二视频中提取的第二图片集合;
图片筛选模块:用于结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从所述第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片;
确定模块:用于如果从所述第二图片集合中筛选得到与第一图片集合中的图片的相似度符合相似度条件的至少一张图片,则确定所述第二视频为盗播视频,否则,确定所述第二视频为非盗播视频。
较佳的,本发明实施例所提供的一种版权视频监控装置还包括视频获得模块和图片提取模块;
所述视频获得模块:用于在所述图片集合获得模块获得从具有版权的第一视频中提取的第一图片集合以及从待监控的第二视频中提取的第二图片集合之前,获得具有版权的第一视频和待监控的第二视频;
所述图片提取模块:用于按照预设图片提取规则,提取所述第一视频中的视频图片,构成第一图片集合,以及
按所述预设图片提取规则,提取所述第二视频中的视频图片,构成第二图片集合。
较佳的,所述图片筛选模块包括:
第一哈希比对单元:用于计算所述第一图片集合和第二图片集合中图片的哈希值,分别将所述第二图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第二图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第三图片集合;
第一LBP比对单元:用于计算所述第一图片集合和所述第三图片集合中的图片的LBP值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第三图片集合中的至少一次比对所得的所述LBP相似度值大于第二阈值的图片和/或汉明距离为0的所述LBP相似度值小于等于所述第二阈值的图片组成第四图片集合;
第一SSIM比对单元:用于分别将所述第四图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第四图片集合中的至少一次比对所得的所述结构相似度值大于第三阈值的图片组成第五图片集合;
第一SURF比对单元:用于获取所述第一图片集合和所述第五图片集合中图片的特征点,分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第五图片集合中的至少一次比对所得的所述特征点匹配数量大于第四阈值的图片组成第六图片集合;
第一图片确定单元:用于将所述第六图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片。
较佳的,所述图片筛选模块包括:
第二哈希比对单元:用于计算所述第一图片集合和第二图片集合中图片的哈希值,分别将所述第二图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第二图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第三图片集合;
第二LBP比对单元:用于计算所述第一图片集合和所述第三图片集合中的图片的LBP值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第三图片集合中的至少一次比对所得的所述LBP相似度值大于第二阈值的图片和/或汉明距离为0的所述LBP相似度值小于等于所述第二阈值的图片组成第四图片集合;
第一纯色图片滤除单元:用于对所述第四图片集合进行纯色图片过滤处理,确定第五图片集合;
第二SSIM比对单元:用于分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第五图片集合中的至少一次比对所得的所述结构相似度值大于第三阈值的图片组成第六图片集合;
第二SURF比对单元:用于获取所述第一图片集合和所述第六图片集合中图片的特征点,分别将所述第六图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第六图片集合中的至少一次比对所得的所述特征点匹配数量大于第四阈值的图片组成第七图片集合;
第二图片确定单元:用于将所述第七图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片。
较佳的,所述图片筛选模块包括:
第三LBP比对单元:用于计算所述第一图片集合和所述第二图片集合中的图片的LBP值,分别将所述第二图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第三图片集合中的至少一次比对所得的所述LBP相似度值大于第一阈值的图片组成第三图片集合;
第三哈希比对单元:用于计算所述第一图片集合和第三图片集合中图片的哈希值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第三图片集合中的至少一次比对的汉明距离小于第二阈值的图片组成第四图片集合;
第三SSIM比对单元:用于分别将所述第四图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第四图片集合中的至少一次比对所得的所述结构相似度值大于第三阈值的图片组成第五图片集合;
第三SURF比对单元:用于获取所述第一图片集合和所述第五图片集合中图片的特征点,分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第五图片集合中的至少一次比对所得的所述特征点匹配数量大于第四阈值的图片组成第六图片集合;
第三图片确定单元:用于将所述第六图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片。
较佳的,所述图片筛选模块包括:
第二纯色图片滤除单元:用于对所述第二图片集合进行纯色图片过滤处理,确定第三图片集合;
第四哈希比对单元:用于计算所述第一图片集合和第三图片集合中图片的哈希值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第三图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第四图片集合;
第四LBP比对单元:用于计算所述第一图片集合和所述第四图片集合中的图片的LBP值,分别将所述第四图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第四图片集合中的至少一次比对所得的所述LBP相似度值大于第二阈值的图片和/或汉明距离为0的所述LBP相似度值小于等于所述第二阈值的图片组成第五图片集合;
第四SURF比对单元:用于获取所述第一图片集合和所述第五图片集合中图片的特征点,分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第五图片集合中的至少一次比对所得的所述特征点匹配数量大于第三阈值的图片组成第六图片集合;
第四SSIM比对单元:用于分别将所述第六图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第六图片集合中的至少一次比对所得的所述结构相似度值大于第四阈值的图片组成第七图片集合;
第四图片确定单元:用于将所述第七图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片。
较佳的,本发明实施例所提供的一种版权视频监控装置还包括信息提取模块:
所述信息提取模块:用于当确定出所述第二视频为盗播视频时,
提取盗播版权视频的相关描述信息,将所述盗播版权视频所述相关信息写入数据库,其中,所述相关描述信息包括:位置信息和内容描述信息中的至少一种。
本发明实施例中,在获得具有版权的第一视频的第一图片集合和待监控的第二视频的第二图片集合后,结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从第二图片集合中筛选与第一图片集合中符合相似度条件的图片,根据该符合相似度条件的图片,确定待监控的第二视频是否为盗播视频。可见,相对于现有技术的通过视频名称来确定盗版视频而言,本方案将视频中的图片作为识别依据,由于图片相对于视频名称不易被更改,因此可以提高盗版视频的识别率,从而提高对版权视频盗播的监控力度。当然,实施本发明的任一产品或方法必不一定需要同时达到以上所述的所有优点。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种版权视频监控方法的流程示意图;
图2为本发明实施例提供的一种版权视频监控方法的另一流程示意图;
图3为本发明实施例提供的一种版权视频监控方法的另一流程示意图;
图4为本发明实施例提供的一种版权视频监控装置的结构示意图;
图5为本发明实施例提供的一种版权视频监控装置的另一结构示意图;
图6为本发明实施例提供的一种版权视频监控装置的另一结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
为了解决现有技术,本发明实施例提供了一种版权视频监控方法和装置,可以提高盗版视频的识别率,从而提高版权视频盗播的监控力度。
下面首先对本发明实施例提供的一种版权视频监控方法进行介绍。
需要说明的是,在对版权视频进行版权监控前,需要先获得具有版权的第一视频和待监控的第二视频,其中,可以通过网络爬虫工具或开放的应用程序接口API下载待监控的第二视频,并且下载具有版权的第一视频。
本发明实施例所提供的一种版权视频监控方法可以应用于服务器也可以应用于终端,具体如图1所示,所述方法可以包括如下步骤:
S101:获得从具有版权的第一视频中提取的第一图片集合以及从待监控的第二视频中提取的第二图片集合;
为了实现对版权视频的监控,在本发明实施例所提供的方法中,可以首先获得从具有版权的第一视频中提取的第一图片集合以及从待监控的第二视频中提取的第二图片集合,进而后续利用第一图片集合和第二图片集合,从视频内容的角度对具有版权的第一视频进行监控。
可以理解的是,为了保证监控的可靠性,从第一视频中提取第一图片集合的方式和从第二视频中提取第二图片集合的方式相同,以此保证第一图片和第二图片集合中的图片具有对应性,该对应性可以体现在时间点上或体现在帧标识上,这都是合理的。
S102:结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从该第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片;
在获得从具有版权的第一视频中提取的第一图片集合以及从待监控的第二视频中提取的第二图片集合后,为了具有较高的识别率,从而提高对版权视频盗播的监控力度,可以结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从该第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片,进而后续根据筛选结果来确定第二视频是否为盗版视频。
可以理解的是,上述图片比对方式可以从不同角度对图片进行分析比对,且比对方式之间并不存在限制关系,因此可以将上述比对方式进行任意排序。在实际应用中,考虑时间、成本等因素,一般先进行相对简单快速且成本相对较低的比对方式,后续比对方式,根据该标准依次进行。为了布局清楚,后续对结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从该第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片的具体实现方式进行举例介绍。
S103:如果从该第二图片集合中筛选得到与第一图片集合中的图片的相似度符合相似度条件的至少一张图片,则确定该第二视频为盗播视频,否则,确定该第二视频为非盗播视频。
如果从该第二图片集合中筛选得到与第一图片集合中的图片的相似度符合相似度条件的至少一张图片,表明第一视频和第二视频在视频内容上的相似度满足盗版视频的条件,此时,可以将该第二视频确定为盗播视频;当然,如果从该第二图片集合中未筛选得到与第一图片集合中的图片的相似度符合相似度条件的图片,表明第一视频和第二视频在视频内容上的相似度不满足盗版视频的条件,此时,可以将该第一视频确定为非盗播视频。需要说明的是,依据上述图片比对方法,由于每种比对方法所提取的特征都不尽相同,可以从图片的多个角度对图片进行分析比对,经过层层筛选,最后筛选得到与第一图片集合中的图片的相似度符合相似度条件的至少一张图片,即可确定该第二视频为盗播视频。
应用本发明实施例,获得对于具有版权的第一视频的第一图片集合与待监控的第二视频的第二图片集合后,结合哈希值图片比对方式、LBP值图片比对方式、SSIM图片比对方式以及SURF图片比对方式,进行多层级的滤除筛选,在该第二图片集合中筛选与该第一图片集合中的图片的相似度符合相似度条件的图片,根据该相似度符合相似度条件的图片,确定该第二视频是否为盗播视频,可见,相对于现有技术的通过视频名称来确定盗版视频而言,本方案将视频中的图片作为识别依据,由于图片相对于视频名称不易被更改,因此可以提高盗版视频的识别率,从而提高版权视频盗播的监控力度。
更进一步的,在所述获得从具有版权的第一视频中提取的第一图片集合以及从待监控的第二视频中提取的第二图片集合之前,本发明实施例所提供的一种版权视频监控方法还可以包括:
获得具有版权的第一视频和待监控的第二视频;
按照预设图片提取规则,提取该第一视频中的视频图片,构成第一图片集合,以及
按该预设图片提取规则,提取该第二视频中的视频图片,构成第二图片集合。
需要说明的是,在按该预设图片提取规则提取视频图片时,可以采用FFmpeg对视频进行视频图片提取,可以预先设置时间间隔,每隔一段时间对视频进行一次图片提取,对于提取图片的数量,可以根据实际情况进行调整设置。在实际应用中,由于具有版权的第一视频是唯一确定的,而对于待监控的第二视频则会多种多样,在保证比对精确度的前提下,为了减少比对数据量,降低数据处理时的压力,因此,优选的,可以对第一视频的视频图片相对多提取,对第二视频图片相对少提取一些。其中,FFmpeg是一套可以用来记录、转换数字音频、视频,并能将其转化为流的开源计算机程序,提供了录制、转换以及流化音视频的完整解决方案。
更进一步的,在确定该第二视频为盗播视频时,为了更好的跟踪该盗播视频,本发明实施例还可以包括:
提取盗播版权视频的相关描述信息,将该盗播版权视频该相关信息写入数据库,其中,该相关描述信息包括:位置信息和内容描述信息中的至少一种。
可以理解的是,该位置信息可以包括该盗播版权视频所在的网站的网址信息,内容描述信息可以包括该盗播版权视频的相关简介的描述信息以及评论信息,等等,这都是合理的。另外,将该该盗播版权视频该相关信息写入数据库,有利于对该盗播版权视频的监管,实时跟踪该盗播版权视频的相关动态,对该盗播版权视频的责任追究提供方便。
进一步的,为更好的体现对图片滤除筛选的过程,本发明实施例所提供的版权视频监控方法中,所述结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从该第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片,如图2所示,可以包括如下一种比对顺序:
S201:计算该第一图片集合和第二图片集合中图片的哈希值,分别将该第二图片集合中的每一张图片与该第一图片集合中的图片依次进行哈希值图片比对,将第二图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第三图片集合;
需要说明的是,图片的哈希值的计算可以采用现有技术,在此不作赘述。其中,哈希值为一组拥有固定长度的较小的二进制值,且每张图片都对应唯一的哈希值,而汉明距离则表示两个相同长度数值或字符对应位所不同的数量,即对两个相同长度数值或字符的对应位进行异或运算,其中汉明距离越大,代表两张图片的相似性越低,其中,哈希值比对的速度相对较快、提取过程的数据量相对较小,对整体结构轮廓识别比较好。
可以理解的是,对于每张图片来说,都对应了唯一的哈希值,因此哈希值的确定,即代表了图片的确定,通过对图片哈希值的比对,可以确定对图片的整体结构轮廓的相似性。
举例而言,第一图片集合中存在A、B、C、D、E、F六张视频图片,第二图片集合中存在a、b、c、d四张视频图片,其中a分别对应于A、B、C、D、E、F的汉明距离分别为0、2、1、4、5、3;b分别对应于A、B、C、D、E、F的汉明距离分别为5、6、5、7、8、5;c分别对应于A、B、C、D、E、F的汉明距离分别为0、2、1、1、3、3;d分别对应于A、B、C、D、E、F的汉明距离分别为1、4、0、2、5、3;第一阈值为4,则可知第三图片集合包括a、c、d,而b由于每一次比对的汉明距离都大于4则被滤除。
需要说明的是,为了全面的对图片进行比对,提高确定图片相似度的准确性,除了针对图片的整体结构轮廓进行比对外,还可以针对图片的灰度,对图片进行分析比对,如步骤S202;
S202:计算该第一图片集合和该第三图片集合中的图片的LBP值,分别将该第三图片集合中的每一张图片与该第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将该第三图片集合中的至少一次比对所得的该LBP相似度值大于第二阈值的图片和/或汉明距离为0的该LBP相似度值小于等于该第二阈值的图片组成第四图片集合;
需要说明的是,图片LBP值的计算可以采用现有技术,在此不作赘述。通过LBP值图片比对可以根据图片的灰度确定图片的相似性,与哈希值图片比对处于同一数量级,对图片的纹理细节识别相对较好。在通过对图片的哈希值设置阈值,找到关于图片整体结构轮廓与第一图片集合相似的第三图片集合中,对第三图片集合中的图片再继续进行LBP值比对,从图片灰度的角度对图片再次进行比对,通过设定阈值对图片进行筛选,进一步提高了剩余图片与该第一图片集合的相似度,提高确定盗播版权视频的精确性。同理,后续的结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,更进一步的提高了确定盗播版权视频的精确性。
可以理解的是,对于图片的哈希值来说,因为是唯一确定的,当两张图片的哈希值的汉明距离为0时,基本可以确定该两张图片对于整体结构轮廓的角度为同一张图片,因此,在进行LBP图片比对时,可以放松限制条件,以避免对相似性图片的误删情况。
举例而言,根据步骤S201得到第三图片集合包括a、c、d,其中a分别对应于A、B、C、D、E、F的LBP相似度值为0.75、0.87、0.91、0.50、0.89、0.67,c分别对应于A、B、C、D、E、F的LBP相似度值为0.50、0.75、0.87、0.67、0.91、0.89,d分别对应于A、B、C、D、E、F的LBP相似度值为0.50、0.49、0.29、0.50、049、0.67,第二阈值为0.85,则可确定第四图片集合包括a、c,而d由于每一次比对的LBP相似度值均小于0.85且汉明距离不为0被滤除。
S203:分别将该第四图片集合中的每一张图片与该第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将该第四图片集合中的至少一次比对所得的该结构相似度值大于第三阈值的图片组成第五图片集合;
需要说明的是,进行SSIM图片比对可以从图片结构上对图片进行分析比对,获得结构相似度值,对于图片的结构化识别相对较好。SSIM图片比对涉及了对图片的结构的比对,相比于哈希值图片比对和LBP值图片比对的方式复杂,基于在实际应用中在保证识别精确的前提下,对时间、成本等客观因素的考虑,一般会应用在哈希值图片比对和LBP值图片比对之后。
举例而言,根据步骤S201至步骤S202,可确定第四图片集合包括a、c,其中a分别相对于A、B、C、D、E、F的结构相似度值为0.8、0.86、0.67、0.81、0.58、0.78,c分别相对于A、B、C、D、E、F的结构相似度值为0.81、0.58、0.78、0.8、0.86、0.67,第三阈值为0.8,a、c分别与A、B、C、D、E、F的比对结果,均至少有一次大于第三阈值0.8,可确定第五图片集合包括a、c。
S204:获取该第一图片集合和该第五图片集合中图片的特征点,分别将该第五图片集合中的每一张图片与该第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将该第五图片集合中的至少一次比对所得的该特征点匹配数量大于第四阈值的图片组成第六图片集合;
需要说明的是,进行SURF图片比对是对模糊图片的滤除处理,可以根据计算图片的特征点,比对图片特征点的相似性,获得特征点匹配度值,进而确定特征点匹配数量,SURF图片比对对于点和周围点的像素值的变化识别较好,且不受图片旋转的影响;其中,对于图片特征点的计算可以采用现有技术,在此不作赘述。
需要说明的是,在进行SURF图片比对时,针对第五图片集合中的每一张图片中的至少一个特征点,计算该至少一个特征点和第一图片集合每一张图片中每个特征点之间的欧式距离,将该欧式距离确定为特征点匹配度值。可以根据该欧式距离的最小值是否小于设定数量阈值,确定第一图片集合的图片中是否存在与该特征点匹配的特征点,如果存在,记录第五图片集合中的该特征点;统计记录的第五图片组中的特征点的数量,确定特征点匹配数量;将该第五图片集合中的至少一次比对所得的该特征点匹配数量大于第四阈值的图片组成第六图片集合。
当然,也可以根据该欧式距离的最小值与次最小值的比值是否小于设定比值阈值,确定第一图片集合的图片中是否存在与该特征点匹配的特征点,如果存在,记录第五图片集合中的该特征点;统计记录的第五图片组中的特征点的数量,确定特征点匹配数量;将该第五图片集合中的至少一次比对所得的该特征点匹配数量大于第四阈值的图片组成第六图片集合。
举例而言,根据步骤S201至步骤S203,确定第五图片集合包括a、c,其中,a分别相对于A、B、C、D、E、F的特征点匹配度值超过设定数量阈值0.75的特征点匹配数量分别为为5、2、0、0、0、0,c分别相对于A、B、C、D、E、F的特征点匹配度值为0、0、2、1、0、0,第四阈值为4,则可确定第六图片集合包括a,而c被滤除。
需要说明的是,在实际应用中在确保对图片相似性确定精确的前提下,确定的相似性图片越多,确定该第二视频为盗播版权视频的说服力越大,因此,优选的,在对图片进行各层级的相似性比对时,排在前面的比对方式的阈值可以放宽些,以确保确定的相似性图片相对较多,排在后面的比对方式的阈值可以放窄些,以确保确定的相似性图片相对精确些。
S205:将该第六图片集合中的图片作为与该第一图片集合中的图片的相似度符合相似度条件的图片。
可以理解的是,则将第六图片集合中的a作为与该第一图片集合中的图片的相似度符合相似度条件的图片。
可以理解的是,根据该层层的比对滤除筛选,可以相对精确的得到与该第一图片集合中的图片相似的图片。
在提取视频图片时也许会出现一些纯色的图片,如纯黑色、纯白色、纯红色,这时会对图片的比对带来不便,进一步的,本发明实施例所提供提供的一种版权视频监控方法为更好的对图片进行比对筛选,还增加了对纯色图片的滤除处理,当然该对纯色图片的滤除处理过程的位置也是可以变动的,如图3所示,所述结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从该第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片,可以包括如下一种比对顺序:
S301:计算该第一图片集合和第二图片集合中图片的哈希值,分别将该第二图片集合中的每一张图片与该第一图片集合中的图片依次进行哈希值图片比对,将第二图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第三图片集合;
S302:计算该第一图片集合和该第三图片集合中的图片的LBP值,分别将该第三图片集合中的每一张图片与该第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将该第三图片集合中的至少一次比对所得的该LBP相似度值大于第二阈值的图片和/或汉明距离为0的该LBP相似度值小于等于该第二阈值的图片组成第四图片集合;
S303:对该第四图片集合进行纯色图片过滤处理,确定第五图片集合;
S304:分别将该第五图片集合中的每一张图片与该第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将该第五图片集合中的至少一次比对所得的该结构相似度值大于第三阈值的图片组成第六图片集合;
S305:获取该第一图片集合和该第六图片集合中图片的特征点,分别将该第六图片集合中的每一张图片与该第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将该第六图片集合中的至少一次比对所得的该特征点匹配数量大于第四阈值的图片组成第七图片集合;
S306:将该第七图片集合中的图片作为与该第一图片集合中的图片的相似度符合相似度条件的图片。
进一步的,所述结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从该第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片,可以包括如下一种比对顺序:
计算该第一图片集合和该第二图片集合中的图片的LBP值,分别将该第二图片集合中的每一张图片与该第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将该第三图片集合中的至少一次比对所得的该LBP相似度值大于第一阈值的图片组成第三图片集合;
计算该第一图片集合和第三图片集合中图片的哈希值,分别将该第三图片集合中的每一张图片与该第一图片集合中的图片依次进行哈希值图片比对,将第三图片集合中的至少一次比对的汉明距离小于第二阈值的图片组成第四图片集合;
分别将该第四图片集合中的每一张图片与该第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将该第四图片集合中的至少一次比对所得的该结构相似度值大于第三阈值的图片组成第五图片集合;
获取该第一图片集合和该第五图片集合中图片的特征点,分别将该第五图片集合中的每一张图片与该第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将该第五图片集合中的至少一次比对所得的该特征点匹配数量大于第四阈值的图片组成第六图片集合;
将该第六图片集合中的图片作为与该第一图片集合中的图片的相似度符合相似度条件的图片。
进一步的,所述结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从该第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片,可以包括如下一种比对顺序:
对该第二图片集合进行纯色图片过滤处理,确定第三图片集合;
计算该第一图片集合和第三图片集合中图片的哈希值,分别将该第三图片集合中的每一张图片与该第一图片集合中的图片依次进行哈希值图片比对,将第三图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第四图片集合;
计算该第一图片集合和该第四图片集合中的图片的LBP值,分别将该第四图片集合中的每一张图片与该第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将该第四图片集合中的至少一次比对所得的该LBP相似度值大于第二阈值的图片和/或汉明距离为0的该LBP相似度值小于等于该第二阈值的图片组成第五图片集合;
获取该第一图片集合和所述第五图片集合中图片的特征点,分别将该第五图片集合中的每一张图片与该第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将该第五图片集合中的至少一次比对所得的该特征点匹配数量大于第三阈值的图片组成第六图片集合;
分别将该第六图片集合中的每一张图片与该第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将该第六图片集合中的至少一次比对所得的该结构相似度值大于第四阈值的图片组成第七图片集合;
将该第七图片集合中的图片作为与该第一图片集合中的图片的相似度符合相似度条件的图片。
可以理解的是,在下载该待监控第二视频时,已经实施了对该第二视频的定位操作,当然在众多播放器中,该第二视频不仅只存在于一个播放器中,且不仅只有一个形式,还有可能其他播放器也以该第二视频的形式,根据该第二视频对其他播放器进行相应定位,提取相关信息,写入数据库。
另外,本发明实施例提供了一种版权视频监控装置,如图4所示,所述装置可以应用于服务器,也可以应用于终端,所述装置可以包括:
图片集合获得模块401:用于获得从具有版权的第一视频中提取的第一图片集合以及从待监控的第二视频中提取的第二图片集合;
图片筛选模块402:用于结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从该第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片;
确定模块403:用于如果从该第二图片集合中筛选得到与第一图片集合中的图片的相似度符合相似度条件的至少一张图片,则确定该第二视频为盗播视频,否则,确定该第二视频为非盗播视频。
应用本发明实施例,获得对于具有版权的第一视频的第一图片集合与待监控的第二视频的第二图片集合后,结合哈希值图片比对方式、LBP值图片比对方式、SSIM图片比对方式以及SURF图片比对方式,进行多层级的滤除筛选,在该第二图片集合中筛选与该第一图片集合中的图片的相似度符合相似度条件的图片,根据该相似度符合相似度条件的图片,确定该第二视频是否为盗播视频,可见,相对于现有技术的通过视频名称来确定盗版视频而言,本方案将视频中的图片作为识别依据,由于图片相对于视频名称不易被更改,因此可以提高对盗版视频的识别率,从而提高版权视频盗播的监控力度。
具体的,本发明实施例还包括视频获得模块和图片提取模块;
该视频获得模块:用于在该图片集合获得模块获得从具有版权的第一视频中提取的第一图片集合以及从待监控的第二视频中提取的第二图片集合之前,获得具有版权的第一视频和待监控的第二视频;
该图片提取模块:用于按照预设图片提取规则,提取该第一视频中的视频图片,构成第一图片集合,以及
按所述预设图片提取规则,提取该第二视频中的视频图片,构成第二图片集合。
相应于上述方法实施例,本发明实施例所提供的另一版权视频监控装置,如图5所示,具体的,所述图片筛选模块402可以包括:
第一哈希比对单元501:用于计算该第一图片集合和第二图片集合中图片的哈希值,分别将该第二图片集合中的每一张图片与该第一图片集合中的图片依次进行哈希值图片比对,将第二图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第三图片集合;
第一LBP比对单元502:用于计算该第一图片集合和所述第三图片集合中的图片的LBP值,分别将该第三图片集合中的每一张图片与该第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将该第三图片集合中的至少一次比对所得的该LBP相似度值大于第二阈值的图片和/或汉明距离为0的所述LBP相似度值小于等于该第二阈值的图片组成第四图片集合;
第一SSIM比对单元503:用于分别将该第四图片集合中的每一张图片与该第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将该第四图片集合中的至少一次比对所得的该结构相似度值大于第三阈值的图片组成第五图片集合;
第一SURF比对单元504:用于获取该第一图片集合和所述第五图片集合中图片的特征点,分别将该第五图片集合中的每一张图片与该第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将该第五图片集合中的至少一次比对所得的该特征点匹配数量大于第四阈值的图片组成第六图片集合;
第一图片确定单元505:用于将该第六图片集合中的图片作为与该第一图片集合中的图片的相似度符合相似度条件的图片。
具体的,在另一实施例中,如图6所示,所述图片筛选模块402可以包括:
第二哈希比对单元601:用于计算该第一图片集合和第二图片集合中图片的哈希值,分别将该第二图片集合中的每一张图片与该第一图片集合中的图片依次进行哈希值图片比对,将第二图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第三图片集合;
第二LBP比对单元602:用于计算该第一图片集合和该第三图片集合中的图片的LBP值,分别将该第三图片集合中的每一张图片与该第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将该第三图片集合中的至少一次比对所得的该LBP相似度值大于第二阈值的图片和/或汉明距离为0的所述LBP相似度值小于等于该第二阈值的图片组成第四图片集合;
第二纯色图片滤除单元603:用于对该第四图片集合进行纯色图片过滤处理,确定第五图片集合;
第二SSIM比对单元604:用于分别将该第五图片集合中的每一张图片与该第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将该第五图片集合中的至少一次比对所得的该结构相似度值大于第三阈值的图片组成第六图片集合;
第二SURF比对单元605:用于获取该第一图片集合和所述第六图片集合中图片的特征点,分别将该第六图片集合中的每一张图片与该第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将该第六图片集合中的至少一次比对所得的该特征点匹配数量大于第四阈值的图片组成第七图片集合;
第二图片确定单元606:用于将该第七图片集合中的图片作为与该第一图片集合中的图片的相似度符合相似度条件的图片。
具体的,在另一实施例中,所述图片筛选模块402可以包括:
第三LBP比对单元:用于计算该第一图片集合和该第二图片集合中的图片的LBP值,分别将该第二图片集合中的每一张图片与该第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将该第三图片集合中的至少一次比对所得的该LBP相似度值大于第一阈值的图片组成第三图片集合;
第三哈希比对单元:用于计算该第一图片集合和第三图片集合中图片的哈希值,分别将该第三图片集合中的每一张图片与该第一图片集合中的图片依次进行哈希值图片比对,将第三图片集合中的至少一次比对的汉明距离小于第二阈值的图片组成第四图片集合;
第三SSIM比对单元:用于分别将该第四图片集合中的每一张图片与该第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将该第四图片集合中的至少一次比对所得的该结构相似度值大于第三阈值的图片组成第五图片集合;
第三SURF比对单元:用于获取该第一图片集合和该第五图片集合中图片的特征点,分别将该第五图片集合中的每一张图片与该第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将该第五图片集合中的至少一次比对所得的该特征点匹配数量大于第四阈值的图片组成第六图片集合;
第三图片确定单元:用于将该第六图片集合中的图片作为与该第一图片集合中的图片的相似度符合相似度条件的图片。
具体的,在另一实施例中,所述图片筛选模块402可以包括:
第二纯色图片滤除单元:用于对该第二图片集合进行纯色图片过滤处理,确定第三图片集合;
第四哈希比对单元:用于计算该第一图片集合和第三图片集合中图片的哈希值,分别将该第三图片集合中的每一张图片与该第一图片集合中的图片依次进行哈希值图片比对,将第三图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第四图片集合;
第四LBP比对单元:用于计算该第一图片集合和所述第四图片集合中的图片的LBP值,分别将该第四图片集合中的每一张图片与该第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将该第四图片集合中的至少一次比对所得的该LBP相似度值大于第二阈值的图片和/或汉明距离为0的该LBP相似度值小于等于该第二阈值的图片组成第五图片集合;
第四SURF比对单元:用于获取该第一图片集合和所述第五图片集合中图片的特征点,分别将该第五图片集合中的每一张图片与该第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将该第五图片集合中的至少一次比对所得的该特征点匹配数量大于第三阈值的图片组成第六图片集合;
第四SSIM比对单元:用于分别将该第六图片集合中的每一张图片与该第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将该第六图片集合中的至少一次比对所得的该结构相似度值大于第四阈值的图片组成第七图片集合;
第四图片确定单元:用于将该第七图片集合中的图片作为与该第一图片集合中的图片的相似度符合相似度条件的图片。
具体的,本发明实施例还可以包括:信息提取模块:
该信息提取模块:用于当确定出该第二视频为盗播视频时,
提取盗播版权视频的相关描述信息,将该盗播版权视频所述相关信息写入数据库,其中,该相关描述信息包括:位置信息和内容描述信息中的至少一种。
对于系统/装置实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本领域普通技术人员可以理解实现上述方法实施方式中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,所述的程序可以存储于计算机可读取存储介质中,这里所称得的存储介质,如:ROM/RAM、磁碟、光盘等。
以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。

Claims (6)

1.一种版权视频监控方法,其特征在于,所述方法包括步骤:
获得从具有版权的第一视频中提取的第一图片集合以及从待监控的第二视频中提取的第二图片集合;
结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从所述第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片;
如果从所述第二图片集合中筛选得到与第一图片集合中的图片的相似度符合相似度条件的至少一张图片,则确定所述第二视频为盗播视频,否则,确定所述第二视频为非盗播视频;
其中,所述结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从所述第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片,包括下述中的任一种实现方式:
第一种实现方式:
计算所述第一图片集合和第二图片集合中图片的哈希值,分别将所述第二图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第二图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第三图片集合;
计算所述第一图片集合和所述第三图片集合中的图片的LBP值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第三图片集合中的至少一次比对所得的所述LBP相似度值大于第二阈值的图片和/或汉明距离为0的所述LBP相似度值小于等于所述第二阈值的图片组成第四图片集合;
分别将所述第四图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第四图片集合中的至少一次比对所得的所述结构相似度值大于第三阈值的图片组成第五图片集合;
获取所述第一图片集合和所述第五图片集合中图片的特征点,分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第五图片集合中的至少一次比对所得的所述特征点匹配数量大于第四阈值的图片组成第六图片集合;
将所述第六图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片;
第二种实现方式:
计算所述第一图片集合和第二图片集合中图片的哈希值,分别将所述第二图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第二图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第三图片集合;
计算所述第一图片集合和所述第三图片集合中的图片的LBP值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第三图片集合中的至少一次比对所得的所述LBP相似度值大于第二阈值的图片和/或汉明距离为0的所述LBP相似度值小于等于所述第二阈值的图片组成第四图片集合;
对所述第四图片集合进行纯色图片过滤处理,确定第五图片集合;
分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第五图片集合中的至少一次比对所得的所述结构相似度值大于第三阈值的图片组成第六图片集合;
获取所述第一图片集合和所述第六图片集合中图片的特征点,分别将所述第六图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第六图片集合中的至少一次比对所得的所述特征点匹配数量大于第四阈值的图片组成第七图片集合;
将所述第七图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片;
第三种实现方式:
计算所述第一图片集合和所述第二图片集合中的图片的LBP值,分别将所述第二图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第三图片集合中的至少一次比对所得的所述LBP相似度值大于第一阈值的图片组成第三图片集合;
计算所述第一图片集合和第三图片集合中图片的哈希值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第三图片集合中的至少一次比对的汉明距离小于第二阈值的图片组成第四图片集合;
分别将所述第四图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第四图片集合中的至少一次比对所得的所述结构相似度值大于第三阈值的图片组成第五图片集合;
获取所述第一图片集合和所述第五图片集合中图片的特征点,分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第五图片集合中的至少一次比对所得的所述特征点匹配数量大于第四阈值的图片组成第六图片集合;
将所述第六图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片;
第四种实现方式:
对所述第二图片集合进行纯色图片过滤处理,确定第三图片集合;
计算所述第一图片集合和第三图片集合中图片的哈希值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第三图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第四图片集合;
计算所述第一图片集合和所述第四图片集合中的图片的LBP值,分别将所述第四图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第四图片集合中的至少一次比对所得的所述LBP相似度值大于第二阈值的图片和/或汉明距离为0的所述LBP相似度值小于等于所述第二阈值的图片组成第五图片集合;
获取所述第一图片集合和所述第五图片集合中图片的特征点,分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第五图片集合中的至少一次比对所得的所述特征点匹配数量大于第三阈值的图片组成第六图片集合;
分别将所述第六图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第六图片集合中的至少一次比对所得的所述结构相似度值大于第四阈值的图片组成第七图片集合;
将所述第七图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片。
2.根据权利要求1所述的方法,其特征在于,在所述获得从具有版权的第一视频中提取的第一图片集合以及从待监控的第二视频中提取的第二图片集合之前,还包括:
获得具有版权的第一视频和待监控的第二视频;
按照预设图片提取规则,提取所述第一视频中的视频图片,构成第一图片集合,以及
按所述预设图片提取规则,提取所述第二视频中的视频图片,构成第二图片集合。
3.根据权利要求1或2所述的方法,其特征在于,还包括:
当确定出所述第二视频为盗播视频时,
提取盗播版权视频的相关描述信息,将所述盗播版权视频所述相关描述信息写入数据库,其中,所述相关描述信息包括:位置信息和内容描述信息中的至少一种。
4.一种版权视频监控装置,其特征在于,所述装置包括:
图片集合获得模块:用于获得从具有版权的第一视频中提取的第一图片集合以及从待监控的第二视频中提取的第二图片集合;
图片筛选模块:用于结合哈希值图片比对方式、局部二值模式LBP值图片比对方式、结构相似性SSIM图片比对方式以及加速健壮特征SURF图片比对方式,从所述第二图片集合中筛选与第一图片集合中的图片的相似度符合相似度条件的图片;
确定模块:用于如果从所述第二图片集合中筛选得到与第一图片集合中的图片的相似度符合相似度条件的至少一张图片,则确定所述第二视频为盗播视频,否则,确定所述第二视频为非盗播视频;
其中,所述图片筛选模块包括:
第一哈希比对单元:用于计算所述第一图片集合和第二图片集合中图片的哈希值,分别将所述第二图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第二图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第三图片集合;
第一LBP比对单元:用于计算所述第一图片集合和所述第三图片集合中的图片的LBP值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第三图片集合中的至少一次比对所得的所述LBP相似度值大于第二阈值的图片和/或汉明距离为0的所述LBP相似度值小于等于所述第二阈值的图片组成第四图片集合;
第一SSIM比对单元:用于分别将所述第四图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第四图片集合中的至少一次比对所得的所述结构相似度值大于第三阈值的图片组成第五图片集合;
第一SURF比对单元:用于获取所述第一图片集合和所述第五图片集合中图片的特征点,分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第五图片集合中的至少一次比对所得的所述特征点匹配数量大于第四阈值的图片组成第六图片集合;
第一图片确定单元:用于将所述第六图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片;或
或者,所述图片筛选模块包括:
第二哈希比对单元:用于计算所述第一图片集合和第二图片集合中图片的哈希值,分别将所述第二图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第二图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第三图片集合;
第二LBP比对单元:用于计算所述第一图片集合和所述第三图片集合中的图片的LBP值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第三图片集合中的至少一次比对所得的所述LBP相似度值大于第二阈值的图片和/或汉明距离为0的所述LBP相似度值小于等于所述第二阈值的图片组成第四图片集合;
第一纯色图片滤除单元:用于对所述第四图片集合进行纯色图片过滤处理,确定第五图片集合;
第二SSIM比对单元:用于分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第五图片集合中的至少一次比对所得的所述结构相似度值大于第三阈值的图片组成第六图片集合;
第二SURF比对单元:用于获取所述第一图片集合和所述第六图片集合中图片的特征点,分别将所述第六图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第六图片集合中的至少一次比对所得的所述特征点匹配数量大于第四阈值的图片组成第七图片集合;
第二图片确定单元:用于将所述第七图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片;或
或者,所述图片筛选模块包括:
第三LBP比对单元:用于计算所述第一图片集合和所述第二图片集合中的图片的LBP值,分别将所述第二图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第三图片集合中的至少一次比对所得的所述LBP相似度值大于第一阈值的图片组成第三图片集合;
第三哈希比对单元:用于计算所述第一图片集合和第三图片集合中图片的哈希值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第三图片集合中的至少一次比对的汉明距离小于第二阈值的图片组成第四图片集合;
第三SSIM比对单元:用于分别将所述第四图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第四图片集合中的至少一次比对所得的所述结构相似度值大于第三阈值的图片组成第五图片集合;
第三SURF比对单元:用于获取所述第一图片集合和所述第五图片集合中图片的特征点,分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第五图片集合中的至少一次比对所得的所述特征点匹配数量大于第四阈值的图片组成第六图片集合;
第三图片确定单元:用于将所述第六图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片;或
或者,所述图片筛选模块包括:
第二纯色图片滤除单元:用于对所述第二图片集合进行纯色图片过滤处理,确定第三图片集合;
第四哈希比对单元:用于计算所述第一图片集合和第三图片集合中图片的哈希值,分别将所述第三图片集合中的每一张图片与所述第一图片集合中的图片依次进行哈希值图片比对,将第三图片集合中的至少一次比对的汉明距离小于第一阈值的图片组成第四图片集合;
第四LBP比对单元:用于计算所述第一图片集合和所述第四图片集合中的图片的LBP值,分别将所述第四图片集合中的每一张图片与所述第一图片集合中的图片依次进行LBP值图片比对,获取LBP相似度值,将所述第四图片集合中的至少一次比对所得的所述LBP相似度值大于第二阈值的图片和/或汉明距离为0的所述LBP相似度值小于等于所述第二阈值的图片组成第五图片集合;
第四SURF比对单元:用于获取所述第一图片集合和所述第五图片集合中图片的特征点,分别将所述第五图片集合中的每一张图片与所述第一图片集合中的图片依次进行SURF图片比对,获得特征点匹配度值,确定特征点匹配数量,将所述第五图片集合中的至少一次比对所得的所述特征点匹配数量大于第三阈值的图片组成第六图片集合;
第四SSIM比对单元:用于分别将所述第六图片集合中的每一张图片与所述第一图片集合中的图片依次进行SSIM图片比对,获得结构相似度值,将所述第六图片集合中的至少一次比对所得的所述结构相似度值大于第四阈值的图片组成第七图片集合;
第四图片确定单元:用于将所述第七图片集合中的图片作为与所述第一图片集合中的图片的相似度符合相似度条件的图片。
5.根据权利要求4所述的装置,其特征在于,还包括视频获得模块和图片提取模块;
所述视频获得模块:用于在所述图片集合获得模块获得从具有版权的第一视频中提取的第一图片集合以及从待监控的第二视频中提取的第二图片集合之前,获得具有版权的第一视频和待监控的第二视频;
所述图片提取模块:用于按照预设图片提取规则,提取所述第一视频中的视频图片,构成第一图片集合,以及
按所述预设图片提取规则,提取所述第二视频中的视频图片,构成第二图片集合。
6.根据权利要求4或5所述的装置,其特征在于,还包括信息提取模块:
所述信息提取模块:用于当确定出所述第二视频为盗播视频时,
提取盗播版权视频的相关描述信息,将所述盗播版权视频所述相关描述信息写入数据库,其中,所述相关描述信息包括:位置信息和内容描述信息中的至少一种。
CN201511028452.1A 2015-12-31 2015-12-31 一种版权视频监控方法和装置 Active CN105554570B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201511028452.1A CN105554570B (zh) 2015-12-31 2015-12-31 一种版权视频监控方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201511028452.1A CN105554570B (zh) 2015-12-31 2015-12-31 一种版权视频监控方法和装置

Publications (2)

Publication Number Publication Date
CN105554570A CN105554570A (zh) 2016-05-04
CN105554570B true CN105554570B (zh) 2019-04-12

Family

ID=55833472

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201511028452.1A Active CN105554570B (zh) 2015-12-31 2015-12-31 一种版权视频监控方法和装置

Country Status (1)

Country Link
CN (1) CN105554570B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106126617B (zh) * 2016-06-22 2018-11-23 腾讯科技(深圳)有限公司 一种视频检测方法及服务器
CN106355183A (zh) * 2016-08-16 2017-01-25 珠海市魅族科技有限公司 检测主题文件相似度的方法及装置
CN109933704A (zh) * 2019-03-15 2019-06-25 杭州一骑轻尘信息技术有限公司 车辆咨询信息处理方法及装置
CN110222594B (zh) * 2019-05-20 2021-11-16 厦门能见易判信息科技有限公司 盗版视频识别方法及系统
CN111882536A (zh) * 2020-07-24 2020-11-03 富德康(北京)科技股份有限公司 一种基于图片对比实现散货数量监测的方法
CN112149744B (zh) * 2020-09-25 2022-09-16 浙江数秦科技有限公司 一种侵权图片快速识别方法
CN112383821B (zh) * 2020-11-17 2023-03-24 有米科技股份有限公司 相似视频的智能化合并方法及装置
CN114693956A (zh) * 2020-12-29 2022-07-01 杭州安存网络科技有限公司 比对视频相似度的方法与装置及电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101807257A (zh) * 2010-05-12 2010-08-18 上海交通大学 图像标签信息识别方法
CN101901346A (zh) * 2010-05-06 2010-12-01 复旦大学 一种对彩色数字图像进行不良内容识别的方法
CN102393900A (zh) * 2011-07-02 2012-03-28 山东大学 基于鲁棒哈希的视频拷贝检测方法
CN104036009A (zh) * 2014-06-24 2014-09-10 北京奇虎科技有限公司 一种搜索匹配图片的方法、图片搜索方法及装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150220808A1 (en) * 2014-02-03 2015-08-06 Steven White Method for visual image detection

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101901346A (zh) * 2010-05-06 2010-12-01 复旦大学 一种对彩色数字图像进行不良内容识别的方法
CN101807257A (zh) * 2010-05-12 2010-08-18 上海交通大学 图像标签信息识别方法
CN102393900A (zh) * 2011-07-02 2012-03-28 山东大学 基于鲁棒哈希的视频拷贝检测方法
CN104036009A (zh) * 2014-06-24 2014-09-10 北京奇虎科技有限公司 一种搜索匹配图片的方法、图片搜索方法及装置

Also Published As

Publication number Publication date
CN105554570A (zh) 2016-05-04

Similar Documents

Publication Publication Date Title
CN105554570B (zh) 一种版权视频监控方法和装置
US11902711B2 (en) Systems and methods for generating bookmark video fingerprints
US8830331B2 (en) Method and apparatus for detecting near-duplicate videos using perceptual video signatures
US9785757B2 (en) System for identifying content of digital data
CN110324729B (zh) 一种识别侵权视频链接的方法、装置、电子设备及介质
CN108647245B (zh) 多媒体资源的匹配方法、装置、存储介质及电子装置
US8855420B2 (en) Descriptor determination in a multimedia content
US20080215889A1 (en) Efficient Watermark Detection
Lian et al. Content-based video copy detection–a survey
CN111539929A (zh) 一种版权检测方法、装置及电子设备
Nadeem et al. Deep labeller: automatic bounding box generation for synthetic violence detection datasets
CN114519818A (zh) 检测家居场景的方法、装置、电子设备及介质
Allouche et al. Video fingerprinting: Past, present, and future
Giammarrusco Source identification of high definition videos: A forensic analysis of downloaders and YouTube video compression using a group of action cameras
RUIkAR et al. Copy move image forgery detection using SIFT
CN103605914B (zh) 一种网络影视资源侵权预测指数的计算方法
KR101081308B1 (ko) 동영상 저작권 위반 판별방법 및 그것을 이용한 동영상 저작권 위반 판별장치
KR100930869B1 (ko) 오디오 식별을 통한 성인물 동영상 검열 시스템 및 방법
Kim et al. Research on advanced performance evaluation of video digital contents
Bharadwaj et al. VANE-Bench: Video Anomaly Evaluation Benchmark for Conversational LMMs
Li et al. Forensic authentication examination of webcam videos
Gao et al. On image similarity in the context of multimedia social computing

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant