CN111737522A - 视频匹配方法、基于区块链的侵权存证方法和装置 - Google Patents

视频匹配方法、基于区块链的侵权存证方法和装置 Download PDF

Info

Publication number
CN111737522A
CN111737522A CN202010816354.9A CN202010816354A CN111737522A CN 111737522 A CN111737522 A CN 111737522A CN 202010816354 A CN202010816354 A CN 202010816354A CN 111737522 A CN111737522 A CN 111737522A
Authority
CN
China
Prior art keywords
video
candidate
videos
target video
time domain
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010816354.9A
Other languages
English (en)
Other versions
CN111737522B (zh
Inventor
蒋晨
张伟
王清
程远
徐富荣
黄凯明
张晓博
钱烽
杨旭东
潘覃
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alipay Hangzhou Information Technology Co Ltd
Original Assignee
Alipay Hangzhou Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alipay Hangzhou Information Technology Co Ltd filed Critical Alipay Hangzhou Information Technology Co Ltd
Priority to CN202010816354.9A priority Critical patent/CN111737522B/zh
Publication of CN111737522A publication Critical patent/CN111737522A/zh
Application granted granted Critical
Publication of CN111737522B publication Critical patent/CN111737522B/zh
Priority to TW110115336A priority patent/TW202207154A/zh
Priority to PCT/CN2021/105214 priority patent/WO2022033252A1/zh
Priority to US18/149,552 priority patent/US11954152B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7837Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using objects detected or recognised in the video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/75Clustering; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/73Querying
    • G06F16/732Query formulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/7867Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, title and artist information, manually generated time, location and usage information, user ratings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/901Indexing; Data structures therefor; Storage structures
    • G06F16/9024Graphs; Linked lists
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/10Protecting distributed programs or content, e.g. vending or licensing of copyrighted material ; Digital rights management [DRM]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/10Protecting distributed programs or content, e.g. vending or licensing of copyrighted material ; Digital rights management [DRM]
    • G06F21/16Program or content traceability, e.g. by watermarking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/602Providing cryptographic facilities or services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/64Protecting data integrity, e.g. using checksums, certificates or signatures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0464Convolutional networks [CNN, ConvNet]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/09Supervised learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/091Active learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/48Matching video sequences

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Library & Information Science (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computer Security & Cryptography (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Computer Hardware Design (AREA)
  • Bioethics (AREA)
  • Technology Law (AREA)
  • Probability & Statistics with Applications (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Abstract

本说明书公开了一种视频匹配方法、基于区块链的侵权存证方法和装置,该基于区块链的侵权存证方法包括:获取目标视频的多个特征向量;基于所述目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;当相似度大于或等于预设相似度阈值时,将包含有所述目标视频的摘要、所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度的侵权证据上传至区块链中。

Description

视频匹配方法、基于区块链的侵权存证方法和装置
技术领域
本文件涉及计算机技术领域,尤其涉及一种视频匹配方法、基于区块链的侵权存证方法和装置。
背景技术
目前,在对某个可疑的侵权视频进行侵权定位时,通常是首先从该视频中提取多种特征,再经过搜索引擎检索后,得到与该视频相匹配的多个候选视频的匹配结果。而对该可疑的侵权视频进行最终的侵权定位,还需要分别计算多个候选视频与该可疑的侵权视频的相似度。这需要一种高鲁棒性的算法来应对视频与视频之间的多种特征的误匹配和漏匹配,以及支持多个视频片段的侵权定位。
然而,现有的视频匹配方法容易受到特征检索结果的噪声影响,且随着视频时长的增加,视频与视频之间匹配的效率也急剧降低。此外,针对侵权视频以及其侵权证据的存证,对于业界来说,也是亟需解决的问题。
发明内容
本说明书实施例提供了一种视频匹配方法、基于区块链的侵权存证方法和装置,以应对视频与视频之间的多种特征的误匹配和漏匹配,以及支持多个视频片段的侵权定位,提高视频匹配的效率,从而降低人工审核的成本。
为解决上述技术问题,本说明书实施例是这样实现的:
第一方面,提出了一种视频匹配方法,包括:
基于目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
当所述候选视频中与所述目标视频相匹配的视频片段对应的相似度大于或等于预设相似度阈值时,将包含有所述目标视频的摘要、所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度的侵权证据上传至区块链中。
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
第二方面,一种基于区块链的侵权视频存证方法,包括:
获取目标视频的多个特征向量;
基于所述目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
第三方面,提出了一种基于区块链的侵权存证装置,包括:
候选视频检索模块,基于目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
特征图构建模块,基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
模型输出模块,将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
证据上传模块,当所述候选视频中与所述目标视频相匹配的视频片段对应的相似度大于或等于预设相似度阈值时,将包含有所述目标视频的摘要、所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度的侵权证据上传至区块链中。
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
第四方面,提出了一种视频匹配装置,包括:
特征向量获取模块,获取目标视频的多个特征向量;
候选视频检索模块,基于所述目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
特征图构建模块,基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
模型输出模块,将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
第五方面,提出了一种电子设备,包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行以下操作:
基于目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
当所述候选视频中与所述目标视频相匹配的视频片段对应的相似度大于或等于预设相似度阈值时,将包含有所述目标视频的摘要、所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度的侵权证据上传至区块链中。
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
第六方面,提出了一种计算机可读存储介质,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被包括多个应用程序的电子设备执行时,使得所述电子设备执行以下操作:
基于目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
当所述候选视频中与所述目标视频相匹配的视频片段对应的相似度大于或等于预设相似度阈值时,将包含有所述目标视频的摘要、所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度的侵权证据上传至区块链中。
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
第七方面,提出了一种电子设备,包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行以下操作:
获取目标视频的多个特征向量;
基于所述目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
第八方面,提出了一种计算机可读存储介质,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被包括多个应用程序的电子设备执行时,使得所述电子设备执行以下操作:
获取目标视频的多个特征向量;
基于所述目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
本说明书实施例采用上述技术方案至少可以达到下述技术效果:
在对目标视频进行侵权定位时,能够基于该目标视频的多个特征向量,从视频数据库中检索与目标视频相似的候选视频,再基于目标视频和候选视频,构建目标视频和候选视频之间的时域相似度矩阵特征图,最后,将时域相似度矩阵特征图作为深度学习检测模型的输入,输出得到候选视频中与目标视频相匹配的视频片段和对应的相似度;并在候选视频中与目标视频相匹配的视频片段对应的相似度大于或等于预设相似度阈值时,将包含有目标视频的摘要、候选视频中与目标视频相匹配的视频片段和对应的相似度的侵权证据上传至区块链中。本说明书实施例提供的方法利用深度学习检测模型,一方面在侵权定位的效率上,能够检测可能的侵权视频的任意多个侵权片段,同时利用向量检索结合检测模型能够极大地提高侵权视频的检测效率;另一方面,也降低了人工审核的成本。此外,还利用区块链不可篡改的特性,将存在侵权的目标视频的摘要、候选视频中与目标视频相匹配的视频片段和对应的相似度上传至区块链中,以备侵权指证时从区块链中获取目标视频侵权的证据。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解,构成本说明书的一部分,本说明书的示意性实施例及其说明用于解释本说明书,并不构成对本说明书的不当限定。在附图中:
图1为本说明书一个实施例提供的基于区块链的侵权存证方法的实现流程示意图;
图2为本说明书一个实施例提供的一种视频匹配方法的实现流程示意图;
图3为本说明书一个实施例提供的视频匹配方法的应用于一种场景中的流程示意图;
图4为本说明书一个实施例提供的视频匹配方法中绘制的时域相似度矩阵特征图的示意图;
图5为本说明书一个实施例提供的基于区块链的侵权存证装置的结构示意图;
图6为本说明书一个实施例提供的视频匹配装置的结构示意图;
图7为本说明书一个实施例提供的一种电子设备的结构示意图;
图8为本说明书一个实施例提供的另一种电子设备的结构示意图。
具体实施方式
为使本文件的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本文件一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本文件保护的范围。
以下结合附图,详细说明本说明书各实施例提供的技术方案。
针对侵权视频以及其侵权证据的存证,对于业界来说,也是亟需解决的问题。本说明书实施例通过引入区块链,利用区块链的不可篡改的特性,将目标视频的相关信息、候选视频相关信息及目标视频是否侵权的信息写入到区块链中,从而保证区块链中的侵权信息的可信性,以用于对目标视频是否侵权进行快速取证。具体地,图1是本说明书一个实施例提供的一种基于区块链的侵权视频存证方法的实现流程示意图,包括:
S110,基于目标视频的多个特征向量,从视频数据库中检索与目标视频相似的候选视频。
S120,基于目标视频和所述候选视频,构建目标视频和候选视频之间的时域相似度矩阵特征图。
S130,将时域相似度矩阵特征图作为深度学习检测模型的输入,以输出候选视频中与目标视频相匹配的视频片段和对应的相似度。
其中,深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
S140,当候选视频中与目标视频相匹配的视频片段对应的相似度大于或等于预设相似度阈值时,将包含有目标视频的摘要、候选视频中与目标视频相匹配的视频片段和对应的相似度的侵权证据上传至区块链中。
其中,预设相似度阈值可根据经验值得到,用于界定目标视频是否存在侵权,比如可以设置为60%。应理解,由于区块链中的存储空间有限,本说明书实施例对目标视频的侵权证据进行存证时,可将目标视频通过哈希加密算法转化为一串哈希值,将该目标视频的哈希值、以及候选视频中与目标视频相匹配的视频片段和对应的相似度上传至区块链中,由区块链中具备存证权限的节点对该侵权证据进行共识操作,并在共识之后记录到新生成的区块中。当需要获取该侵权证据时,可基于目标视频的哈希值从区块链中下载包含有目标视频的哈希值的侵权证据。
图1所示实施例相关步骤的具体实现可参考下文所述的图2所示实施例中对应的步骤的具体实现,本说明书一个或多个实施例在此不再赘述。
在对目标视频进行侵权定位时,能够基于该目标视频的多个特征向量,从视频数据库中检索与目标视频相似的候选视频,再基于目标视频和候选视频,构建目标视频和候选视频之间的时域相似度矩阵特征图,最后,将时域相似度矩阵特征图作为深度学习检测模型的输入,输出得到候选视频中与目标视频相匹配的视频片段和对应的相似度;并在候选视频中与目标视频相匹配的视频片段对应的相似度大于或等于预设相似度阈值时,将包含有目标视频的摘要、候选视频中与目标视频相匹配的视频片段和对应的相似度的侵权证据上传至区块链中,其中,深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。本说明书实施例提供的方法利用区块链不可篡改的特性,将存在侵权的目标视频的摘要、候选视频中与目标视频相匹配的视频片段和对应的相似度上传至区块链中,以备侵权指证时从区块链中获取目标视频侵权的证据。
如背景技术中所述,在对侵权视频进行侵权定位时,需要从侵权视频中提取的多种特征向量,经过指定搜索引擎检索后,得到的向量检索结果中会包含N个候选视频的匹配结果。这些结果,需要分别与侵权视频计算相似度并进行侵权定位。这里就需要高鲁棒性的算法来应对特征向量的误匹配和漏匹配,同时检索结果中如果包含的搜索引擎粗排序的视频集合大,则要求高效率。
此外,该视频匹配算法还要支持多个视频片段的侵权定位,来降低人工审核的成本。然而业界常用的动态规划算法,CCF竞赛等方案都容易受到特征向量检索结果的噪声影响,不够鲁棒,而且随着侵权视频时长的增加,视频匹配的效率也急剧降低。
本说明书实施例为了解决现有的侵权视频的检测效率和准确率较低的问题,还提出一种视频匹配方法,能够获取目标视频的多个特征向量,并基于该目标视频的多个特征向量,从视频数据库中检索与目标视频相似的候选视频,再基于目标视频和候选视频,构建目标视频和候选视频之间的时域相似度矩阵特征图,最后,将时域相似度矩阵特征图作为深度学习检测模型的输入,输出得到候选视频中与目标视频相匹配的视频片段和对应的相似度;其中,深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,样本视频包含查询视频和查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
本说明书实施例提供的方法利用深度学习检测模型,一方面在侵权定位的效率上,能够检测可能的侵权视频的任意多个侵权片段,同时利用向量检索结合检测模型能够极大地提高侵权视频的检测效率;另一方面,也降低了人工审核的成本。
本说明书实施例提供的视频方法,该方法的执行主体,可以但不限于个人电脑、服务器等能够被配置为执行本发明实施例提供的该方法的装置中的至少一种。
为便于描述,下文以该方法的执行主体为能够执行该方法的服务器为例,对该方法的实施方式进行介绍。可以理解,该方法的执行主体为服务器只是一种示例性的说明,并不应理解为对该方法的限定。
具体地,本说明书一个或多个实施例提供的一种视频匹配方法的实现流程示意图如图2所示,包括:
S210,获取目标视频的多个特征向量。
其中,目标视频具体可以是可疑的侵权视频,后续所述的候选视频即可以作为该可疑的侵权视频侵权的证据。
可选地,获取目标视频的多个特征向量具体可以将目标视频拆分为多个视频片段,再针对每个视频片段抽取一种或多种特征向量。或者,还可以对目标视频进行抽帧得到多个视频帧,可抽取目标视频中的关键帧也可随机抽取目标视频中的多个视频帧,还可以每隔预设时间段抽取目标视频中的一个视频帧得到多个视频帧,再对抽取的视频帧抽取一种或多种特征向量。其中一种特征向量对应于一种特征提取算法。
因此,目标视频的多个特征向量具体可以包括目标视频的多个视频片段或视频帧对应的多个特征向量,一个视频片段或视频帧对应一个特征向量;或者,目标视频的多个特征向量还可以包括:通过多种特征提取算法提取得到的目标视频的多种特征向量;或者,目标视频的多个特征向量还可以包括:通过多种特征提取算法分别对目标视频的多个视频片段或视频帧提取得到的多个特征向量,一个视频片段或视频帧对应多种特征向量。
S220,基于目标视频的多个特征向量,从视频数据库中检索与目标视频相似的候选视频。
其中,视频数据库中包含了海量的视频,每个视频对应一种或多种特征向量,一种特征向量对应于一种特征提取算法。
可选地,可分别基于目标视频的多个特征向量中的各特征向量,从视频数据库中检索与目标视频的各特征向量相匹配的特征向量,再确定这些相匹配的特征向量对应的视频即为候选视频。具体地,基于目标视频的多个特征向量,从视频数据库中检索与目标视频相似的候选视频,包括:
从视频数据库中,获取与目标视频的多个特征向量相似的特征向量检索结果;
基于与目标视频的多个特征向量相似的特征向量检索结果,从视频数据库中获取与目标视频相似的候选视频。
其中,与目标视频的多个特征向量相似的特征向量检索结果具体可包括:与各特征向量相匹配的前几个特征向量,或者与各特征向量最匹配的一个特征向量。比如,可以从视频数据库中,分别获取与目标视频的多个特征向量中的各视频向量相匹配的前k个特征向量,再确定这前k个特征向量对应的m个候选视频,其中m小于或等于k,且m大于或等于1,当m=k时,则表明这k个特征向量来自k个不同的候选视频,当m=1时,则表明这k个特征向量来自同一个候选视频,或者也可以从视频数据库中,分别获取与目标视频的多个特征向量中的各视频向量最匹配的一个特征向量,再确定该最匹配的一个特征向量对应的候选视频。也就是说,一个特征向量的检索结果,可能对应于一个候选视频的多个匹配特征向量,也可能是多个候选视频的不同匹配特征向量。
如图3所示,为本说明书实施例提供的视频匹配方法应用于一种实际场景中的示意图。在图3中,q1~qn为目标视频的多个特征向量,V3和V1为从视频数据库中检索到的与目标视频相似的两个候选视频的向量检索结果。图左侧中,V3,q1为候选视频V3中与目标视频的特征向量q1匹配位置的相似度值,V3,q2为候选视频V3中与目标视频的特征向量q2匹配位置的相似度值,V3,qn为候选视频V3中与目标视频的特征向量qn匹配位置的相似度值;图右侧中,V1,q1为候选视频V1中与目标视频的特征向量q1匹配位置的相似度值,V1,qn为候选视频V1中与目标视频的特征向量qn匹配位置的相似度值。
S230,基于目标视频和候选视频,构建目标视频和所述候选视频之间的时域相似度矩阵特征图。
应理解,由于上述目标视频的多个特征向量、与候选视频中的多个特征向量之间的向量检索结果中会包含有图3所示的目标视频的特征向量与候选视频的特征向量之间相匹配的位置(也就是相似的位置)和对应位置的相似度,为了便于深度学习检测模型能够准确地学习到目标视频与候选视频之间相匹配的视频片段和对应的相似度,本说明书实施例可基于目标视频和候选视频之间的向量检索结果构建时域相似度矩阵特征图。具体地,基于目标视频和候选视频,构建目标视频和候选视频之间的时域相似度矩阵特征图,包括:
基于目标视频的多个特征向量、与候选视频中的多个特征向量之间的向量检索结果,构建目标视频的多个特征向量与候选视频的多个特征向量之间的相似度矩阵;
基于目标视频的多个特征向量与候选视频中的多个特征向量之间的相似度矩阵,在时域维度上,构建目标视频和候选视频之间的时域相似度矩阵特征图。
当候选视频的数量为一个时,可基于目标视频的与候选视频中的多个特征向量之间的相似度矩阵,在同一时域维度上,将目标视频的多个特征向量与候选视频中的多个特征向量之间的相似度矩阵的分布绘制在二维特征图中。如图4所示,为本说明书实施例提供的视频匹配方法中绘制得到的目标视频和候选视频之间的时域相似度矩阵特征图。在图4中,横坐标为目标视频的时域轴,纵坐标为候选视频的时域值,三角形状的图样对应于目标视频和候选视频的一种特征向量,方块形状的对应于目标视频和候选视频的另一种特征向量,各图样的取值为向量检索结果中的相似度分数。在实际应用中,为提高视频匹配的效率,可将这不同的特征向量绘制在同一时域相似度矩阵特征图中。
或者,还可将不同的特征向量绘制在不同的时域相似度矩阵特征图中,即如图3所示的下半部分的左侧,可将每一种特征向量绘制得到的时域相似度矩阵特征图作为深度学习检测模型的一个通道输入,那么目标向量的多个特征向量存在多种特征向量时,则会存在多个时域相似度矩阵特征图作为深度学习检测模型的多个通道的输入。
可选地,为便于深度学习检测模型准确高效地确定目标视频与候选视频之间的相似视频片段和对应的相似度,本说明书实施例可根据目标视频和候选视频之间的时域对应关系,构建目标视频和候选视频之间的时域相似度矩阵特征图。具体地,基于目标视频的多个特征向量与候选视频中的多个特征向量之间的相似度矩阵,在时域维度上,构建目标视频和候选视频之间的时域相似度矩阵特征图,包括:
根据目标视频和候选视频之间的时域对应关系,将目标视频的多个特征向量与候选视频中的多个特征向量之间的相似度矩阵,绘制在二维特征图上,得到目标视频和候选视频之间的时域相似度矩阵特征图。
可选地,当候选视频有多个时,根据目标视频和候选视频之间的时域对应关系,将目标视频的多个特征向量与候选视频中的各候选视频的多个特征向量之间的相似度矩阵,绘制在二维特征图上,得到目标视频和候选视频之间的时域相似度矩阵特征图,包括:
根据目标视频和多个候选视频之间的时域对应关系,分别将目标视频的多个特征向量与多个候选视频中的各候选视频的多个特征向量之间的相似度矩阵,绘制在多个二维特征图上,得到目标视频和多个候选视频之间的多个时域相似度矩阵特征图;
将目标视频和多个候选视频之间的多个时域相似度矩阵特征图进行拼接,得到目标视频和多个候选视频之间的时域相似度矩阵特征图。
当候选视频有多个时,则可分别将目标视频的多个特征向量与多个候选视频中的各候选视频的多个特征向量之间的相似度矩阵,绘制在多个二维特征图上,得到目标视频和多个候选视频之间的多个时域相似度矩阵特征图。为了提高深度学习检测模型的学习效率,可将这多个时域相似度矩阵特征图进行拼接,得到一个时域相似度矩阵特征图。比如,当候选视频有四个时,则会得到目标视频和四个候选视频之间的四个时域相似度矩阵特征图,再将这四个时域相似度矩阵特征图拼接为2×2的时域相似度矩阵特征图作为深度学习检测模型的输入。
S240,将时域相似度矩阵特征图作为深度学习检测模型的输入,以输出候选视频中与目标视频相匹配的视频片段和对应的相似度。
其中,深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志,侵权标志用于标识该相匹配的视频片段是否存在侵权。应理解,查询视频对应的候选视频可以是一个也可以是多个。当查询视频对应的候选视频为多个时,样本视频包含查询视频和查询视频对应的多个候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的各个候选视频中所匹配的视频片段及侵权标志。具体地,样本视频对应的标签包括视频片段和对应的label(标签),label为侵权或非侵权。
应理解,在对深度学习检测模型进行训练时,用于训练深度学习检测模型的样本视频对应的标签通常为离散化的标签,即“是”或“否”,对应于本说明书实施例中的标签即为“侵权”或“非侵权”,而在深度学习检测模型进行预测时,输出的则是检测框位置[x1,y1,x2,y2] , 其中[x1, x2]对应于目标视频中的匹配时间片段,[y1, y2]对应于候选视频中的匹配时间片段,以及[x1,y1,x2,y2]对应的置信度,用于表征匹配时间片段的相似度。
其中,每组样本视频的时域相似度矩阵特征图为该组查询视频和其对应的候选视频之间的时域相似度矩阵特征图,该时域相似度矩阵特征图的获取方式与上文所述的时域相似度矩阵特征图的获取方式一致,本文不再赘述。
可选地,本说明书实施例中的深度学习检测模型包括但不限于下述模型:
更快速的基于卷积神经网络的候选区域检测模型Faster-Rcnn;
带掩码的基于卷积神经网络的候选区域检测模型Mask-Rcnn;
实时物体检测模型YOLO;
单次多框检测模型SSD。
其中,深度学习检测模型Faster-Rcnn的训练过程为:输入测试图像;将整张图片输入卷积神经网络,进行特征提取;用RPN生成一堆锚框,对其进行裁剪过滤后通过softmax判断anchors属于前景(foreground)或者后景(background),即是物体或者不是物体,即是一个二分类过程;同时,另一分支边框回归修正锚框,形成较精确的proposal(注:这里的较精确是相对于后面全连接层的再一次边框回归而言);把建议窗口映射卷积神经网络的最后一层卷积特征图上;通过RoI pooling层使每个RoI生成固定尺寸的特征图;利用SoftmaxLoss(探测分类概率) 和Smooth L1 Loss(探测边框回归)对分类概率和边框回归联合训练。
深度学习检测模型Mask-Rcnn以Faster RCNN原型,增加了一个分支用于分割任务,即对于Faster RCNN的每个Proposal Box都要使用FCN(全卷积神经网络,将传统卷积神经网络中的全连接层转化成一个个的卷积层)进行语义分割,分割任务与定位、分类任务是同时进行的。
深度学习检测模型YOLO(英文全称:You Only Look Once),是一种对象检测模型,YOLO有基于CNN和锚框的简洁架构,并且是一种针对普遍使用问题的实时对象检测技术。YOLO将图像分成13×13个单元格:每个单元格负责预测5个边界框。边界框描述包围对象的矩形。YOLO还输出一个置信度(即本说明书实施例中的相似度),用于指示预测的边界框实际包含某个对象的程度。先前的检测系统使用分类器或定位器进行检测,将模型应用于图像的多个位置和尺度,图像的高得分区域作为检测目标。YOLO则采取了完全不同的方法。它将单个神经网络应用于整个图像,该网络将图像分成区域,预测每个区域的边界框和概率,并依据概率大小对所有边框分配权重。
与Faster-Rcnn相比,SSD没有生成proposal的过程,这就极大提高了检测速度。针对不同大小的目标检测,传统的做法是先将图像转换成不同大小(图像金字塔),然后分别检测,最后将结果综合起来(NMS)。而SSD算法则利用不同卷积层的特征图进行综合也能达到同样的效果。算法的主网络结构是VGG16,将最后两个全连接层改成卷积层,并随后增加了4个卷积层来构造网络结构。对其中5种不同的卷积层的输出(特征图)分别用两个不同的3×3的卷积核进行卷积,一个输出分类用的confidence,每个default box 生成21个类别confidence;一个输出回归用的localization,每个default box生成4个坐标值(x, y, w,h)。
可选地,将时域相似度矩阵特征图作为深度学习检测模型的输入,以输出候选视频中与目标视频相匹配的视频片段和对应的相似度,包括:
将时域相似度矩阵特征图作为深度学习检测模型的输入,以输出候选视频中与目标视频相匹配的视频片段在时域维度上的区间范围、以及相匹配的视频片段之间的相似度。
具体地,深度学习检测模型输出各个时域相似度矩阵特征图上的检测框位置以及置信度,达到对目标视频的侵权定位的目的。其中,候选视频中与目标视频相匹配的视频片段在时域维度上的区间范围,具体可以是检测框位置:[x1,y1,x2,y2],其中[x1, x2]为目标视频中的时间片段,[y1,y2]为候选视频中的时间片段,相匹配的视频片段之间的相似度具体可以用置信度来表征。如图3下半部分的右侧所示,将时域相似度矩阵特征图作为深度学习检测模型的输入后,便可输出候选视频中与目标视频相匹配的检测框、以及相匹配的检测框之间的相似度。
在对目标视频进行侵权定位时,能够获取目标视频的多个特征向量,并基于该目标视频的多个特征向量,从视频数据库中检索与目标视频相似的候选视频,再基于目标视频和候选视频,构建目标视频和候选视频之间的时域相似度矩阵特征图,最后,将时域相似度矩阵特征图作为深度学习检测模型的输入,输出得到候选视频中与目标视频相匹配的视频片段和对应的相似度;其中,深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,样本视频包含查询视频和查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。本说明书实施例提供的方法利用深度学习检测模型,一方面在侵权定位的效率上,能够检测可能的侵权视频的任意多个侵权片段,同时利用向量检索结合检测模型能够极大地提高侵权视频的检测效率;另一方面,也降低了人工审核的成本。
图5是本说明书一个或多个实施例提供的一种基于区块链的侵权存证装置500的结构示意图,包括:
候选视频检索模块510,基于目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
特征图构建模块520,基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
模型输出模块530,将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
证据上传模块540,当所述候选视频中与所述目标视频相匹配的视频片段对应的相似度大于或等于预设相似度阈值时,将包含有所述目标视频的摘要、所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度的侵权证据上传至区块链中。
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
视频匹配装置500能够实现图1和图2的方法实施例的方法,具体可参考图1和图2所示实施例的基于区块链的侵权存证方法和视频匹配方法,不再赘述。
图6是本说明书一个或多个实施例提供的一种视频匹配装置600的结构示意图,包括:
特征向量获取模块610,获取目标视频的多个特征向量;
候选视频检索模块620,基于所述目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
特征图构建模块630,基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
模型输出模块640,将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
可选地,在一种实施方式,所述候选视频检索模块620,用于:
从所述视频数据库中,获取与所述目标视频的多个特征向量相似的特征向量检索结果;
基于与所述目标视频的多个特征向量相似的特征向量检索结果,从视频数据库中获取与所述目标视频相似的候选视频。
可选地,在一种实施方式,所述特征图构建模块630,用于:
基于所述目标视频的多个特征向量、与所述候选视频中的各候选视频的多个特征向量之间的向量检索结果,构建所述目标视频的多个特征向量与所述候选视频的多个特征向量之间的相似度矩阵;
基于所述目标视频的多个特征向量与所述候选视频中的多个特征向量之间的相似度矩阵,在时域维度上,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图。
可选地,在一种实施方式,所述特征图构建模块630,用于:
根据所述目标视频和所述候选视频之间的时域对应关系,将所述目标视频的多个特征向量与所述候选视频的多个特征向量之间的相似度矩阵,绘制在二维特征图上,得到所述目标视频和所述候选视频之间的时域相似度矩阵特征图。
可选地,在一种实施方式,当所述候选视频有多个时,所述特征图构建模块630,用于:
根据所述目标视频和所述多个候选视频之间的时域对应关系,分别将所述目标视频的多个特征向量与所述多个候选视频中的各候选视频的多个特征向量之间的相似度矩阵,绘制在多个二维特征图上,得到所述目标视频和所述多个候选视频之间的多个时域相似度矩阵特征图;
将所述目标视频和所述多个候选视频之间的多个时域相似度矩阵特征图进行拼接,得到所述目标视频和所述多个候选视频之间的时域相似度矩阵特征图。
可选地,在一种实施方式,所述模型输出模块640,用于:
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段在时域维度上的区间范围、以及所述相匹配的视频片段之间的相似度。
可选地,在一种实施方式,所述深度学习检测模型包括下述至少一种:
更快速的基于卷积神经网络的候选区域检测模型Faster-Rcnn;
带掩码的基于卷积神经网络的候选区域检测模型Mask-Rcnn;
实时物体检测模型YOLO;
单次多框检测模型SSD。
视频匹配装置600能够实现图2~图4的方法实施例的方法,具体可参考图2~图4所示实施例的视频匹配方法,不再赘述。
图7是本说明书的一个实施例提供的电子设备的结构示意图。请参考图7,在硬件层面,该电子设备包括处理器,可选地还包括内部总线、网络接口、存储器。其中,存储器可能包含内存,例如高速随机存取存储器(Random-Access Memory,RAM),也可能还包括非易失性存储器(non-volatile memory),例如至少1个磁盘存储器等。当然,该电子设备还可能包括其他业务所需要的硬件。
处理器、网络接口和存储器可以通过内部总线相互连接,该内部总线可以是ISA(Industry Standard Architecture,工业标准体系结构)总线、PCI(PeripheralComponent Interconnect,外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture,扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图7中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
存储器,用于存放程序。具体地,程序可以包括程序代码,所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器,并向处理器提供指令和数据。
处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,在逻辑层面上形成基于区块链的侵权存证装置。处理器,执行存储器所存放的程序,并具体用于执行以下操作:
基于目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
当所述候选视频中与所述目标视频相匹配的视频片段对应的相似度大于或等于预设相似度阈值时,将包含有所述目标视频的摘要、所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度的侵权证据上传至区块链中。
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
上述如本说明书图1所示实施例揭示的基于区块链的侵权存证方法可以应用于处理器中,或者由处理器实现。处理器可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本说明书一个或多个实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本说明书一个或多个实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法的步骤。
该电子设备还可执行图1的基于区块链的侵权存证方法,本说明书在此不再赘述。
当然,除了软件实现方式之外,本说明书的电子设备并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
本说明书实施例还提出了一种计算机可读存储介质,该计算机可读存储介质存储一个或多个程序,该一个或多个程序包括指令,该指令当被包括多个应用程序的便携式电子设备执行时,能够使该便携式电子设备执行图4所示实施例的方法,并具体用于执行以下操作:
基于目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
当所述候选视频中与所述目标视频相匹配的视频片段对应的相似度大于或等于预设相似度阈值时,将包含有所述目标视频的摘要、所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度的侵权证据上传至区块链中。
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
图8是本说明书的一个实施例提供的电子设备的结构示意图。请参考图8,在硬件层面,该电子设备包括处理器,可选地还包括内部总线、网络接口、存储器。其中,存储器可能包含内存,例如高速随机存取存储器(Random-Access Memory,RAM),也可能还包括非易失性存储器(non-volatile memory),例如至少1个磁盘存储器等。当然,该电子设备还可能包括其他业务所需要的硬件。
处理器、网络接口和存储器可以通过内部总线相互连接,该内部总线可以是ISA(Industry Standard Architecture,工业标准体系结构)总线、PCI(PeripheralComponent Interconnect,外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture,扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图8中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
存储器,用于存放程序。具体地,程序可以包括程序代码,所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器,并向处理器提供指令和数据。
处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,在逻辑层面上形成视频匹配装置。处理器,执行存储器所存放的程序,并具体用于执行以下操作:
获取目标视频的多个特征向量;
基于所述目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
采用本说明书实施例提供的电子设备可知道:在对目标视频进行侵权定位时,能够获取目标视频的多个特征向量,并基于该目标视频的多个特征向量,从视频数据库中检索与目标视频相似的候选视频,再基于目标视频和候选视频,构建目标视频和候选视频之间的时域相似度矩阵特征图,最后,将时域相似度矩阵特征图作为深度学习检测模型的输入,输出得到候选视频中与目标视频相匹配的视频片段和对应的相似度,一方面在侵权定位的效率上,能够检测可能的侵权视频的任意多个侵权片段的多个特征,同时利用向量检索结合检测模型能够极大地提高侵权视频的检测效率;另一方面,也降低了人工审核的成本。
上述如本说明书图2~图4所示实施例揭示的视频匹配方法可以应用于处理器中,或者由处理器实现。处理器可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本说明书一个或多个实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本说明书一个或多个实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法的步骤。
该电子设备还可执行图2~图4的视频匹配方法,本说明书在此不再赘述。
当然,除了软件实现方式之外,本说明书的电子设备并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
本说明书实施例还提出了一种计算机可读存储介质,该计算机可读存储介质存储一个或多个程序,该一个或多个程序包括指令,该指令当被包括多个应用程序的便携式电子设备执行时,能够使该便携式电子设备执行图2~图4所示实施例的方法,并具体用于执行以下操作:
获取目标视频的多个特征向量;
基于所述目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
总之,以上所述仅为本说明书的较佳实施例而已,并非用于限定本说明书的保护范围。凡在本说明书一个或多个实施例的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本说明书一个或多个实施例的保护范围之内。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。

Claims (14)

1.一种基于区块链的侵权存证方法,包括:
基于目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
当所述候选视频中与所述目标视频相匹配的视频片段对应的相似度大于或等于预设相似度阈值时,将包含有所述目标视频的摘要、所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度的侵权证据上传至区块链中;
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
2.一种视频匹配方法,包括:
获取目标视频的多个特征向量;
基于所述目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
3.如权利要求2所述的方法,基于所述目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频,包括:
从所述视频数据库中,获取与所述目标视频的多个特征向量相似的特征向量检索结果;
基于与所述目标视频的多个特征向量相似的特征向量检索结果,从视频数据库中获取与所述目标视频相似的候选视频。
4.如权利要求3所述的方法,基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图,包括:
基于所述目标视频的多个特征向量、与所述候选视频中的各候选视频的多个特征向量之间的向量检索结果,构建所述目标视频的多个特征向量与所述候选视频的多个特征向量之间的相似度矩阵;
基于所述目标视频的多个特征向量与所述候选视频中的多个特征向量之间的相似度矩阵,在时域维度上,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图。
5.如权利要求4所述的方法,基于所述目标视频的多个特征向量与所述候选视频中的各候选视频的多个特征向量之间的相似度矩阵,在时域维度上,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图,包括:
根据所述目标视频和所述候选视频之间的时域对应关系,将所述目标视频的多个特征向量与所述候选视频的多个特征向量之间的相似度矩阵,绘制在二维特征图上,得到所述目标视频和所述候选视频之间的时域相似度矩阵特征图。
6.如权利要求5所述的方法,当所述候选视频有多个时,根据所述目标视频和所述候选视频之间的时域对应关系,将所述目标视频的多个特征向量与所述候选视频中的各候选视频的多个特征向量之间的相似度矩阵,绘制在二维特征图上,得到所述目标视频和所述候选视频之间的时域相似度矩阵特征图,包括:
根据所述目标视频和所述多个候选视频之间的时域对应关系,分别将所述目标视频的多个特征向量与所述多个候选视频中的各候选视频的多个特征向量之间的相似度矩阵,绘制在多个二维特征图上,得到所述目标视频和所述多个候选视频之间的多个时域相似度矩阵特征图;
将所述目标视频和所述多个候选视频之间的多个时域相似度矩阵特征图进行拼接,得到所述目标视频和所述多个候选视频之间的时域相似度矩阵特征图。
7.如权利要求2或6所述的方法,将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度,包括:
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段在时域维度上的区间范围、以及所述相匹配的视频片段之间的相似度。
8.如权利要求2所述的方法,所述深度学习检测模型包括下述至少一种:
更快速的基于卷积神经网络的候选区域检测模型Faster-Rcnn;
带掩码的基于卷积神经网络的候选区域检测模型Mask-Rcnn;
实时物体检测模型YOLO;
单次多框检测模型SSD。
9.一种基于区块链的侵权存证装置,包括:
候选视频检索模块,基于目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
特征图构建模块,基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
模型输出模块,将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
证据上传模块,当所述候选视频中与所述目标视频相匹配的视频片段对应的相似度大于或等于预设相似度阈值时,将包含有所述目标视频的摘要、所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度的侵权证据上传至区块链中;
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
10.一种视频匹配装置,包括:
特征向量获取模块,获取目标视频的多个特征向量;
候选视频检索模块,基于所述目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
特征图构建模块,基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
模型输出模块,将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
11.一种电子设备,包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行以下操作:
基于目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
当所述候选视频中与所述目标视频相匹配的视频片段对应的相似度大于或等于预设相似度阈值时,将包含有所述目标视频的摘要、所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度的侵权证据上传至区块链中;
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
12.一种计算机可读存储介质,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被包括多个应用程序的电子设备执行时,使得所述电子设备执行以下操作:
基于目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
当所述候选视频中与所述目标视频相匹配的视频片段对应的相似度大于或等于预设相似度阈值时,将包含有所述目标视频的摘要、所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度的侵权证据上传至区块链中;
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
13.一种电子设备,包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行以下操作:
获取目标视频的多个特征向量;
基于所述目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
14.一种计算机可读存储介质,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被包括多个应用程序的电子设备执行时,使得所述电子设备执行以下操作:
获取目标视频的多个特征向量;
基于所述目标视频的多个特征向量,从视频数据库中检索与所述目标视频相似的候选视频;
基于所述目标视频和所述候选视频,构建所述目标视频和所述候选视频之间的时域相似度矩阵特征图;
将所述时域相似度矩阵特征图作为深度学习检测模型的输入,以输出所述候选视频中与所述目标视频相匹配的视频片段和对应的相似度;
其中,所述深度学习检测模型为基于多组样本视频的时域相似度矩阵特征图和对应的标签训练得到的,其中样本视频包含查询视频和所述查询视频对应的候选视频,样本视频对应的标签包括样本视频中的查询视频在对应的候选视频中所匹配的视频片段及侵权标志。
CN202010816354.9A 2020-08-14 2020-08-14 视频匹配方法、基于区块链的侵权存证方法和装置 Active CN111737522B (zh)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN202010816354.9A CN111737522B (zh) 2020-08-14 2020-08-14 视频匹配方法、基于区块链的侵权存证方法和装置
TW110115336A TW202207154A (zh) 2020-08-14 2021-04-28 視頻匹配方法、基於區塊鏈的侵權存證方法和裝置
PCT/CN2021/105214 WO2022033252A1 (zh) 2020-08-14 2021-07-08 视频匹配方法、基于区块链的侵权存证方法和装置
US18/149,552 US11954152B2 (en) 2020-08-14 2023-01-03 Video matching methods and apparatuses, and blockchain-based infringement evidence storage methods and apparatuses

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010816354.9A CN111737522B (zh) 2020-08-14 2020-08-14 视频匹配方法、基于区块链的侵权存证方法和装置

Publications (2)

Publication Number Publication Date
CN111737522A true CN111737522A (zh) 2020-10-02
CN111737522B CN111737522B (zh) 2021-03-02

Family

ID=72658482

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010816354.9A Active CN111737522B (zh) 2020-08-14 2020-08-14 视频匹配方法、基于区块链的侵权存证方法和装置

Country Status (4)

Country Link
US (1) US11954152B2 (zh)
CN (1) CN111737522B (zh)
TW (1) TW202207154A (zh)
WO (1) WO2022033252A1 (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112347478A (zh) * 2020-10-13 2021-02-09 北京天融信网络安全技术有限公司 一种恶意软件检测方法及装置
CN112507875A (zh) * 2020-12-10 2021-03-16 上海连尚网络科技有限公司 一种用于检测视频重复度的方法与设备
CN113038195A (zh) * 2021-03-17 2021-06-25 北京市商汤科技开发有限公司 视频处理方法、装置、系统、介质及计算机设备
CN113255484A (zh) * 2021-05-12 2021-08-13 北京百度网讯科技有限公司 视频匹配方法、视频处理方法、装置、电子设备及介质
CN113283351A (zh) * 2021-05-31 2021-08-20 深圳神目信息技术有限公司 一种使用cnn优化相似度矩阵的视频抄袭检测方法
CN113360709A (zh) * 2021-05-28 2021-09-07 维沃移动通信(杭州)有限公司 短视频侵权风险的检测方法、装置和电子设备
CN113378902A (zh) * 2021-05-31 2021-09-10 深圳神目信息技术有限公司 一种基于优化视频特征的视频抄袭检测方法
CN113763211A (zh) * 2021-09-23 2021-12-07 支付宝(杭州)信息技术有限公司 基于区块链的侵权检测方法及装置和电子设备
WO2022033252A1 (zh) * 2020-08-14 2022-02-17 支付宝(杭州)信息技术有限公司 视频匹配方法、基于区块链的侵权存证方法和装置

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114710713B (zh) * 2022-03-31 2023-08-01 慧之安信息技术股份有限公司 基于深度学习的自动化视频摘要生成方法
CN114707022B (zh) * 2022-05-31 2022-09-06 浙江大学 视频问答数据集标注方法、装置、存储介质及电子设备
CN116188815A (zh) * 2022-12-12 2023-05-30 北京数美时代科技有限公司 一种视频相似度检测方法、系统、存储介质和电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102737135A (zh) * 2012-07-10 2012-10-17 北京大学 基于变形敏感的软级联模型的视频拷贝检测方法及系统
CN106778464A (zh) * 2016-11-09 2017-05-31 深圳市深网视界科技有限公司 一种基于深度学习的行人重识别方法和装置
US20170289409A1 (en) * 2016-03-30 2017-10-05 Nec Laboratories America, Inc. Large margin high-order deep learning with auxiliary tasks for video-based anomaly detection
CN110851761A (zh) * 2020-01-15 2020-02-28 支付宝(杭州)信息技术有限公司 基于区块链的侵权检测方法、装置、设备及存储介质

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8019763B2 (en) * 2006-02-27 2011-09-13 Microsoft Corporation Propagating relevance from labeled documents to unlabeled documents
US20150170333A1 (en) * 2011-08-31 2015-06-18 Google Inc. Grouping And Presenting Images
CN107180056B (zh) 2016-03-11 2020-11-06 阿里巴巴集团控股有限公司 视频中片段的匹配方法和装置
CN106778686A (zh) 2017-01-12 2017-05-31 深圳职业技术学院 一种基于深度学习和图论的拷贝视频检测方法和系统
CN106991373A (zh) 2017-03-02 2017-07-28 中国人民解放军国防科学技术大学 一种基于深度学习和图论的拷贝视频检测方法
CN108647245B (zh) * 2018-04-13 2023-04-18 腾讯科技(深圳)有限公司 多媒体资源的匹配方法、装置、存储介质及电子装置
CN108763295B (zh) 2018-04-18 2021-04-30 复旦大学 一种基于深度学习的视频近似拷贝检索算法
CN113434592A (zh) 2018-10-31 2021-09-24 创新先进技术有限公司 基于区块链的数据存证方法及装置、电子设备
CN110569702B (zh) * 2019-02-14 2021-05-14 创新先进技术有限公司 视频流的处理方法和装置
CN110958319B (zh) * 2019-12-05 2022-07-12 腾讯科技(深圳)有限公司 一种基于区块链的侵权存证管理方法及装置
US20220027407A1 (en) * 2020-07-27 2022-01-27 Audible Magic Corporation Dynamic identification of unknown media
CN111737522B (zh) * 2020-08-14 2021-03-02 支付宝(杭州)信息技术有限公司 视频匹配方法、基于区块链的侵权存证方法和装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102737135A (zh) * 2012-07-10 2012-10-17 北京大学 基于变形敏感的软级联模型的视频拷贝检测方法及系统
US20170289409A1 (en) * 2016-03-30 2017-10-05 Nec Laboratories America, Inc. Large margin high-order deep learning with auxiliary tasks for video-based anomaly detection
CN106778464A (zh) * 2016-11-09 2017-05-31 深圳市深网视界科技有限公司 一种基于深度学习的行人重识别方法和装置
CN110851761A (zh) * 2020-01-15 2020-02-28 支付宝(杭州)信息技术有限公司 基于区块链的侵权检测方法、装置、设备及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
周立志: "基于内容的视频拷贝检测算法研究", 《中国优秀硕士学位论文全文数据库信息科技辑》 *

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11954152B2 (en) 2020-08-14 2024-04-09 Alipay (Hangzhou) Information Technology Co., Ltd. Video matching methods and apparatuses, and blockchain-based infringement evidence storage methods and apparatuses
WO2022033252A1 (zh) * 2020-08-14 2022-02-17 支付宝(杭州)信息技术有限公司 视频匹配方法、基于区块链的侵权存证方法和装置
CN112347478A (zh) * 2020-10-13 2021-02-09 北京天融信网络安全技术有限公司 一种恶意软件检测方法及装置
CN112347478B (zh) * 2020-10-13 2021-08-24 北京天融信网络安全技术有限公司 一种恶意软件检测方法及装置
CN112507875A (zh) * 2020-12-10 2021-03-16 上海连尚网络科技有限公司 一种用于检测视频重复度的方法与设备
CN113038195B (zh) * 2021-03-17 2023-04-11 北京市商汤科技开发有限公司 视频处理方法、装置、系统、介质及计算机设备
CN113038195A (zh) * 2021-03-17 2021-06-25 北京市商汤科技开发有限公司 视频处理方法、装置、系统、介质及计算机设备
CN113255484A (zh) * 2021-05-12 2021-08-13 北京百度网讯科技有限公司 视频匹配方法、视频处理方法、装置、电子设备及介质
CN113255484B (zh) * 2021-05-12 2023-10-03 北京百度网讯科技有限公司 视频匹配方法、视频处理方法、装置、电子设备及介质
CN113360709A (zh) * 2021-05-28 2021-09-07 维沃移动通信(杭州)有限公司 短视频侵权风险的检测方法、装置和电子设备
CN113360709B (zh) * 2021-05-28 2023-02-17 维沃移动通信(杭州)有限公司 短视频侵权风险的检测方法、装置和电子设备
CN113283351A (zh) * 2021-05-31 2021-08-20 深圳神目信息技术有限公司 一种使用cnn优化相似度矩阵的视频抄袭检测方法
CN113283351B (zh) * 2021-05-31 2024-02-06 深圳神目信息技术有限公司 一种使用cnn优化相似度矩阵的视频抄袭检测方法
CN113378902B (zh) * 2021-05-31 2024-02-23 深圳神目信息技术有限公司 一种基于优化视频特征的视频抄袭检测方法
CN113378902A (zh) * 2021-05-31 2021-09-10 深圳神目信息技术有限公司 一种基于优化视频特征的视频抄袭检测方法
CN113763211A (zh) * 2021-09-23 2021-12-07 支付宝(杭州)信息技术有限公司 基于区块链的侵权检测方法及装置和电子设备

Also Published As

Publication number Publication date
CN111737522B (zh) 2021-03-02
US11954152B2 (en) 2024-04-09
TW202207154A (zh) 2022-02-16
US20230177084A1 (en) 2023-06-08
WO2022033252A1 (zh) 2022-02-17

Similar Documents

Publication Publication Date Title
CN111737522B (zh) 视频匹配方法、基于区块链的侵权存证方法和装置
US20230376527A1 (en) Generating congruous metadata for multimedia
US20190188729A1 (en) System and method for detecting counterfeit product based on deep learning
US10685236B2 (en) Multi-model techniques to generate video metadata
CN111079570A (zh) 一种人体关键点识别方法、装置及电子设备
CN111079816A (zh) 图像的审核方法、装置和服务器
WO2020125100A1 (zh) 一种图像检索方法、装置以及设备
CN111191591A (zh) 一种水印检测、视频处理方法和相关设备
CN111027412A (zh) 一种人体关键点识别方法、装置及电子设备
CN111783812A (zh) 违禁图像识别方法、装置和计算机可读存储介质
CN114663871A (zh) 图像识别方法、训练方法、装置、系统及存储介质
CN111753729B (zh) 一种假脸检测方法、装置、电子设备及存储介质
CN111738173B (zh) 视频片段检测方法、装置、电子设备及存储介质
CN112287905A (zh) 车辆损伤识别方法、装置、设备及存储介质
CN111898570A (zh) 基于双向特征金字塔网络的图像中文本识别方法
CN112925939A (zh) 图片搜索方法、描述信息生成方法、设备及存储介质
CN111709951B (zh) 目标检测网络训练方法及系统及网络及装置及介质
CN114117423A (zh) 仿冒应用信息获取方法、装置和设备
Peng et al. The knowing camera 2: recognizing and annotating places-of-interest in smartphone photos
CN115129915A (zh) 重复图像检索方法、装置、设备及存储介质
Cheng et al. Image-to-gps verification through a bottom-up pattern matching network
CN112884866A (zh) 一种黑白视频的上色方法、装置、设备及存储介质
CN117392374B (zh) 目标检测方法、装置、设备及存储介质
KR102619275B1 (ko) 객체 검색 모델 및 그 학습 방법
CN109543736B (zh) 一种特征对比方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40039031

Country of ref document: HK