CN111460971A - 视频概念检测方法、装置以及电子设备 - Google Patents
视频概念检测方法、装置以及电子设备 Download PDFInfo
- Publication number
- CN111460971A CN111460971A CN202010234158.0A CN202010234158A CN111460971A CN 111460971 A CN111460971 A CN 111460971A CN 202010234158 A CN202010234158 A CN 202010234158A CN 111460971 A CN111460971 A CN 111460971A
- Authority
- CN
- China
- Prior art keywords
- concept
- video
- processed
- recognition model
- probability
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/70—Information retrieval; Database structures therefor; File system structures therefor of video data
- G06F16/78—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/783—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/46—Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Library & Information Science (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了视频概念检测方法、装置以及电子设备,涉及知识图谱技术领域。具体实现方案为:提取待处理视频的特征信息;根据特征信息以及概念识别模型集合中各个概念对应的概念识别模型,确定待处理视频属于各个概念的概率;根据待处理视频属于各个概念的概率,确定待处理视频所属的概念;根据待处理视频所属的概念的概率,对特征信息进行更新,重新根据更新后的特征信息以及概念识别模型集合,确定待处理视频所属的概念,直至满足预设的迭代结束条件,从而能够根据待处理视频的特征信息以及待处理视频所属的概念的概率,对视频进行概念识别,扩展了视频的特征信息,提高了视频概念的识别效率。
Description
技术领域
本申请涉及数据处理技术领域,具体涉及知识图谱技术领域,尤其涉及视频概念检测方法、装置以及电子设备。
背景技术
目前获取视频的概念的方法主要是,针对每个概念,人工的标注样本数据,基于标注数据进行模型训练,采用训练得到的模型对视频进行识别,判断该概念是否为视频的概念。
上述方法中,对视频进行识别时,只采用视频的特征信息进行一次识别,识别得到的概念的准确度低,训练模型时也只采用特征信息对模型进行训练,训练得到的模型的准确度较低,降低了视频概念的识别效率。
发明内容
本申请提出一种视频概念检测方法、装置以及电子设备,通过根据视频的特征信息对视频进行识别,确定视频所属的概念,并根据视频所属的概念的概率对特征信息进行更新,重新进行识别,从而提高了视频概念的识别效率。
本申请第一方面实施例提出了一种视频概念检测方法,包括:
提取待处理视频的特征信息;
根据所述特征信息以及概念识别模型集合中各个概念对应的概念识别模型,确定所述待处理视频属于各个概念的概率;
根据所述待处理视频属于各个概念的概率,确定所述待处理视频所属的概念;
根据所述待处理视频所属的概念的概率,对所述特征信息进行更新,重新根据更新后的特征信息以及所述概念识别模型集合,确定所述待处理视频所属的概念,直至满足预设的迭代结束条件。
在本申请一个实施例中,所述根据所述待处理视频所属的概念的概率,对所述特征信息进行更新,重新根据更新后的特征信息以及所述概念识别模型集合,确定所述待处理视频所属的概念,直至满足预设的迭代结束条件之后,还包括:
针对所述待处理视频所属的每个概念,查询概念图谱,判断所述概念图谱中是否存在所述概念对应的上级概念;
在所述概念图谱中存在所述概念对应的上级概念时,将所述上级概念确定为所述待处理视频所属的概念。
在本申请一个实施例中,所述待处理视频的特征信息包括以下特征中的任意一种或者多种:文本特征、语音特征、画面纹理特征、运动特征、实体特征、实体内容特征。
在本申请一个实施例中,所述根据所述待处理视频属于各个概念的概率,确定所述待处理视频所属的概念,包括:
针对所述各个概念中的每个概念,判断所述待处理视频属于所述概念的概率是否大于预设概率阈值;
若所述待处理视频属于所述概念的概率大于预设概率阈值,则将所述概念确定为所述待处理视频所属的概念。
在本申请一个实施例中,所述根据所述特征信息以及概念识别模型集合中各个概念对应的概念识别模型,确定所述待处理视频属于各个概念的概率之前,还包括:
对视频语料库中各个视频语料的文本信息进行概念提取处理,生成概念池;
为所述概念池中的每个概念构建概念识别模型和训练数据并进行训练,将满足训练要求的训练后概念识别模型添加到概念识别模型集合中;
获取对应的训练后概念识别模型不满足训练要求的第一概念,根据概念识别模型集合对所述第一概念的训练数据进行更新,重新根据更新后的训练数据对所述第一概念的概念识别模型进行训练,直至满足预设的迭代训练结束条件。
在本申请一个实施例中,所述对视频语料库中各个视频语料的文本信息进行概念提取处理,生成概念池,包括:
获取所述各个视频语料的文本信息;
对所述各个视频语料的文本信息进行分词以及语言处理,生成概念池;
去除所述潜在概念池中对应的频率位于预设频率范围外的概念;
对所述概念池中的同义概念进行归一化处理。
在本申请一个实施例中,所述概念池中每个概念的训练数据包括:正样本数据和负样本数据;
所述正样本数据包括:对应的文本信息中包括所述概念的视频对应的特征信息;
所述负样本数据包括:对应的文本信息中不包括所述概念的视频对应的特征信息。
本申请实施例的视频概念检测方法,通过提取待处理视频的特征信息;根据特征信息以及概念识别模型集合中各个概念对应的概念识别模型,确定待处理视频属于各个概念的概率;根据待处理视频属于各个概念的概率,确定待处理视频所属的概念;根据待处理视频所属的概念的概率,对特征信息进行更新,重新根据更新后的特征信息以及概念识别模型集合,确定待处理视频所属的概念,直至满足预设的迭代结束条件,从而能够根据待处理视频的特征信息以及待处理视频所属的概念的概率,对视频进行概念识别,扩展了视频的特征信息,提高了视频概念的识别效率。
本申请第二方面实施例提出了一种视频概念检测装置,包括:
提取模块,用于提取待处理视频的特征信息;
第一确定模块,用于根据所述特征信息以及概念识别模型集合中各个概念对应的概念识别模型,确定所述待处理视频属于各个概念的概率;
第二确定模块,用于根据所述待处理视频属于各个概念的概率,确定所述待处理视频所属的概念;
所述第一确定模块,还用于根据所述待处理视频所属的概念的概率,对所述特征信息进行更新,重新根据更新后的特征信息以及所述概念识别模型集合,确定所述待处理视频所属的概念,直至满足预设的迭代结束条件。
在本申请一个实施例中,所述的装置还包括:查询模块和第三确定模块;
所述查询模块,用于针对所述待处理视频所属的每个概念,查询概念图谱,判断所述概念图谱中是否存在所述概念对应的上级概念;
所述第三确定模块,用于在所述概念图谱中存在所述概念对应的上级概念时,将所述上级概念确定为所述待处理视频所属的概念。
在本申请一个实施例中,所述待处理视频的特征信息包括以下特征中的任意一种或者多种:文本特征、语音特征、画面纹理特征、运动特征、实体特征、实体内容特征。
在本申请一个实施例中,所述第二确定模块具体用于,
针对所述各个概念中的每个概念,判断所述待处理视频属于所述概念的概率是否大于预设概率阈值;
若所述待处理视频属于所述概念的概率大于预设概率阈值,则将所述概念确定为所述待处理视频所属的概念。
在本申请一个实施例中,所述的装置还包括:生成模块和训练模块;
所述生成模块,用于对视频语料库中各个视频语料的文本信息进行概念提取处理,生成概念池;
所述训练模块,用于为所述概念池中的每个概念构建概念识别模型和训练数据并进行训练,将满足训练要求的训练后概念识别模型添加到概念识别模型集合中;
所述训练模块,还用于获取对应的训练后概念识别模型不满足训练要求的第一概念,根据概念识别模型集合对所述第一概念的训练数据进行更新,重新根据更新后的训练数据对所述第一概念的概念识别模型进行训练,直至满足预设的迭代训练结束条件。
在本申请一个实施例中,所述生成模块具体用于,
获取所述各个视频语料的文本信息;
对所述各个视频语料的文本信息进行分词以及语言处理,生成概念池;
去除所述潜在概念池中对应的频率位于预设频率范围外的概念;
对所述概念池中的同义概念进行归一化处理。
在本申请一个实施例中,所述概念池中每个概念的训练数据包括:正样本数据和负样本数据;
所述正样本数据包括:对应的文本信息中包括所述概念的视频对应的特征信息;
所述负样本数据包括:对应的文本信息中不包括所述概念的视频对应的特征信息。
本申请实施例的视频概念检测装置,通过提取待处理视频的特征信息;根据特征信息以及概念识别模型集合中各个概念对应的概念识别模型,确定待处理视频属于各个概念的概率;根据待处理视频属于各个概念的概率,确定待处理视频所属的概念;根据待处理视频所属的概念的概率,对特征信息进行更新,重新根据更新后的特征信息以及概念识别模型集合,确定待处理视频所属的概念,直至满足预设的迭代结束条件,从而能够根据待处理视频的特征信息以及待处理视频所属的概念的概率,对视频进行概念识别,扩展了视频的特征信息,提高了视频概念的识别效率。
本申请第三方面实施例提出了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的视频概念检测方法。
本申请第四方面实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如上所述的视频概念检测方法。
上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是根据本申请第一实施例的示意图;
图2是根据本申请第二实施例的示意图;
图3是根据本申请第三实施例的示意图;
图4是根据本申请第四实施例的示意图;
图5是根据本申请第五实施例的示意图;
图6是用来实现本申请实施例的视频概念检测方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
下面参考附图描述本申请实施例的视频概念检测方法、装置以及电子设备。
图1是根据本申请第一实施例的示意图。其中,需要说明的是,本实施例提供的视频概念检测方法的执行主体为视频概念检测装置,视频概念检测装置具体可以为硬件设备,或者硬件设备中的软件等。其中,硬件设备例如终端设备、服务器等。
如图1所示,视频概念检测方法具体实现过程如下:
步骤101,提取待处理视频的特征信息。
本实施例中,待处理视频的特征信息可以包括以下特征中的任意一种或者多种:文本特征、语音特征、画面纹理特征、运动特征、实体特征、实体内容特征。
本实施例中,语音特征是区分音乐、影视、动画等等不同类型电影的重要特征。语音特征的获取方式为,采用语音滤波器对待处理视频对应的音频进行滤波处理,得到待处理视频的语音特征。其中,语音滤波器例如可以为,听觉图像滤波器SAI(stabilizedauditory image)。
本实施例中,画面纹理特征的获取方式为,提取待处理视频中的关键帧,例如每秒提取一个关键帧,对关键帧采用残差网络(ResNet)进行画面纹理提取,得到待处理视频的画面纹理特征。
本实施例中,运动特征的获取方式为,对待处理视频的连续多帧图像采用视频动作识别模型进行识别,提取待处理视频的运动特征。
本实施例中,实体特征指的是待处理视频中的实体,例如人物、动物、物品等。实体内容特征指的是待处理视频中实体的内容,例如明星、演员角色、车型等。文本特征指的是待处理视频的文本信息中的名词、动词、数字等。
步骤102,根据特征信息以及概念识别模型集合中各个概念对应的概念识别模型,确定待处理视频属于各个概念的概率。
本实施例中,概念识别模型集合中包括各个概念对应的概念识别模型,可以将待处理视频的特征信息依次输入各个概念对应的概念识别模型,获取待处理视频属于各个概念的概率。其中,概念例如可以为电影、电视剧、动作片、喜剧片等等。其中,概念对应的概念识别模型的输入可以为视频的特征信息;输出可以为视频属于该概念的概率。
步骤103,根据待处理视频属于各个概念的概率,确定待处理视频所属的概念。
本实施例中,视频概念检测装置执行步骤103的过程具体可以为,针对各个概念中的每个概念,判断待处理视频属于所述概念的概率是否大于预设概率阈值;若待处理视频属于所述概念的概率大于预设概率阈值,则将所述概念确定为待处理视频所属的概念。其中,预设概率阈值例如可以为0.5等,可以根据实际需要进行设定。
步骤104,根据待处理视频所属的概念的概率,对特征信息进行更新,重新根据更新后的特征信息以及概念识别模型集合,确定待处理视频所属的概念,直至满足预设的迭代结束条件。
本实施例中,视频概念检测装置根据待处理视频所属的概念的概率,对特征信息进行更新的过程例如可以为,将待处理视频所属的概念的概率作为特征添加到特征信息中,得到更新后的特征信息。其中,迭代结束条件例如可以为,迭代次数大于预设次数阈值,或者,相邻多次迭代中待处理视频所属的概念的数量未发生变化。
本实施例中,为了扩展待处理视频所属的概念的数量,步骤104之后,所述的方法还可以包括以下步骤:针对待处理视频所属的每个概念,查询概念图谱,判断概念图谱中是否存在概念对应的上级概念;在概念图谱中存在概念对应的上级概念时,将上级概念确定为待处理视频所属的概念。
本申请中,概念图谱中包括多个概念之间的关系。针对待处理视频所属的每个概念,视频概念检测装置可以计算该概念与概念图谱中各个概念的距离,将对应的距离满足预设距离阈值的概念确定为与该概念匹配的概念,将概念图谱中匹配的概念的上级概念,确定为待处理视频所属的概念。
本实施例中,获取待处理视频所属的概念后,可以基于概念,对待处理视频进行分类、检索以及推荐等,提高视频管理效率、分类效率、检索效率以及推荐效率等。
本申请实施例的视频概念检测方法,通过提取待处理视频的特征信息;根据特征信息以及概念识别模型集合中各个概念对应的概念识别模型,确定待处理视频属于各个概念的概率;根据待处理视频属于各个概念的概率,确定待处理视频所属的概念;根据待处理视频所属的概念的概率,对特征信息进行更新,重新根据更新后的特征信息以及概念识别模型集合,确定待处理视频所属的概念,直至满足预设的迭代结束条件,从而能够根据待处理视频的特征信息以及待处理视频所属的概念的概率,对视频进行概念识别,扩展了视频的特征信息,提高了视频概念的识别效率。
图2为是根据本申请第二实施例的示意图。如图2所示,步骤102之前,所属的方法还可以包括以下步骤:
步骤201,对视频语料库中各个视频语料的文本信息进行概念提取处理,生成概念池。
本实施例中,视频语料的文本信息例如可以为,视频的标题、标签、描述信息等。视频概念检测装置对视频语料库中各个视频语料的文本信息进行概念提取处理的过程具体可以为,获取各个视频语料的文本信息;对各个视频语料的文本信息进行分词以及语言处理,生成概念池;去除潜在概念池中对应的频率位于预设频率范围外的概念;对概念池中的同义概念进行归一化处理。
其中,语言处理可以采用N-gram模型,其中N例如可以为2、3、5等。当N为2时,N-gram模型用于对任意两个分词词语进行组合,并判断组合得到的短语是否合理,并输出合理的短语作为概念。
步骤202,为概念池中的每个概念构建概念识别模型和训练数据并进行训练,将满足训练要求的训练后概念识别模型添加到概念识别模型集合中。
本实施例中,视频概念检测装置可以为概念池中的每个概念构建概念识别模型和训练数据。其中,构建的概念识别模型可以为初始的概念识别模型。训练数据可以包括:正样本数据和负样本数据。正样本数据包括:对应的文本信息中包括概念的视频对应的特征信息;负样本数据包括:对应的文本信息中不包括概念的视频对应的特征信息。其中,为了进一步提高训练后概念识别模型的准确度,负样本数据的数量例如可以为正样本数据的数量的3倍以上。
本实施例中,可以根据视频语料库构建每个概念对应的训练数据以及多个批次的验证数据。批次的数量可以与模型训练时的最大迭代数量一致。在步骤202中每个概念的概念识别训练完成后,可以采用一个批次的验证数据对训练后概念识别模型进行验证,判断训练后概念识别模型的准确度和召回率是否满足训练要求,将满足训练要求的训练后概念识别模型添加到概念识别模型集合中。
步骤203,获取对应的训练后概念识别模型不满足训练要求的第一概念,根据概念识别模型集合对第一概念的训练数据进行更新,重新根据更新后的训练数据对第一概念的概念识别模型进行训练,直至满足预设的迭代训练结束条件。
本实施例中,视频概念检测装置根据概念识别模型集合对第一概念的训练数据进行更新的过程例如可以为,针对第一概念的训练数据中的每个视频,将该视频的特征信息输入概念识别模型集合中的各个概念的概念识别模型中,获取视频属于所述各个概念的概率,将视频属于所述各个概念的概率作为特征添加到视频的特征信息中,从而得到更新后的训练数据。对训练数据中视频的特征信息的扩展,能够提高训练后概念识别模型的准确度,使得训练后概念识别模型满足训练要求。
本实施例中,迭代训练结束条件可以为,迭代次数大于预设的迭代次数阈值,或者,相邻多次迭代过程中概念识别模型集合中的概念识别模型数量未发生变化。
本申请实施例的视频概念检测方法,通过对视频语料库中各个视频语料的文本信息进行概念提取处理,生成概念池;为概念池中的每个概念构建概念识别模型和训练数据并进行训练,将满足训练要求的训练后概念识别模型添加到概念识别模型集合中;获取对应的训练后概念识别模型不满足训练要求的第一概念,根据概念识别模型集合对第一概念的训练数据进行更新,重新根据更新后的训练数据对第一概念的概念识别模型进行训练,直至满足预设的迭代训练结束条件,从而能够自动发现新的概念,且能够针对新的概念训练概念识别模型,对概念识别模型集合中的概念识别模型进行扩展,从而能够针对新的概念对待处理视频进行识别,提高了视频概念的识别效率。
为了实现图1至图2所述实施例,本申请实施例还提出一种视频概念检测装置。
图3是根据本申请第三实施例的示意图。如图3所示,该视频概念检测装置300包括:提取模块310、第一确定模块320和第二确定模块330。
其中,提取模块310,用于提取待处理视频的特征信息;
第一确定模块320,用于根据所述特征信息以及概念识别模型集合中各个概念对应的概念识别模型,确定所述待处理视频属于各个概念的概率;
第二确定模块330,用于根据所述待处理视频属于各个概念的概率,确定所述待处理视频所属的概念;
所述第一确定模块320,还用于根据所述待处理视频所属的概念的概率,对所述特征信息进行更新,重新根据更新后的特征信息以及所述概念识别模型集合,确定所述待处理视频所属的概念,直至满足预设的迭代结束条件。
在本申请一个实施例中,结合参考图4,所述的装置还可以包括:查询模块340和第三确定模块350。
其中,所述查询模块340,用于针对所述待处理视频所属的每个概念,查询概念图谱,判断所述概念图谱中是否存在所述概念对应的上级概念;
所述第三确定模块350,用于在所述概念图谱中存在所述概念对应的上级概念时,将所述上级概念确定为所述待处理视频所属的概念。
在本申请一个实施例中,所述待处理视频的特征信息包括以下特征中的任意一种或者多种:文本特征、语音特征、画面纹理特征、运动特征、实体特征、实体内容特征。
在本申请一个实施例中,所述第二确定模块330具体用于,
针对所述各个概念中的每个概念,判断所述待处理视频属于所述概念的概率是否大于预设概率阈值;
若所述待处理视频属于所述概念的概率大于预设概率阈值,则将所述概念确定为所述待处理视频所属的概念。
在本申请一个实施例中,结合参考图5,所述的装置还可以包括:生成模块360和训练模块370;
所述生成模块360,用于对视频语料库中各个视频语料的文本信息进行概念提取处理,生成概念池;
所述训练模块370,用于为所述概念池中的每个概念构建概念识别模型和训练数据并进行训练,将满足训练要求的训练后概念识别模型添加到概念识别模型集合中;
所述训练模块370,还用于获取对应的训练后概念识别模型不满足训练要求的第一概念,根据概念识别模型集合对所述第一概念的训练数据进行更新,重新根据更新后的训练数据对所述第一概念的概念识别模型进行训练,直至满足预设的迭代训练结束条件。
在本申请一个实施例中,所述生成模块360具体用于,获取所述各个视频语料的文本信息;对所述各个视频语料的文本信息进行分词以及语言处理,生成概念池;去除所述潜在概念池中对应的频率位于预设频率范围外的概念;对所述概念池中的同义概念进行归一化处理。
在本申请一个实施例中,所述概念池中每个概念的训练数据包括:正样本数据和负样本数据;所述正样本数据包括:对应的文本信息中包括所述概念的视频对应的特征信息;所述负样本数据包括:对应的文本信息中不包括所述概念的视频对应的特征信息。
本申请实施例的视频概念检测装置,通过提取待处理视频的特征信息;根据特征信息以及概念识别模型集合中各个概念对应的概念识别模型,确定待处理视频属于各个概念的概率;根据待处理视频属于各个概念的概率,确定待处理视频所属的概念;根据待处理视频所属的概念的概率,对特征信息进行更新,重新根据更新后的特征信息以及概念识别模型集合,确定待处理视频所属的概念,直至满足预设的迭代结束条件,从而能够根据待处理视频的特征信息以及待处理视频所属的概念的概率,对视频进行概念识别,扩展了视频的特征信息,提高了视频概念的识别效率。
为了实现上述实施例,本申请实施例还提出一种电子设备。
如图6所示,是根据本申请实施例的视频概念检测方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示,该电子设备包括:一个或多个处理器501、存储器502,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器501为例。
存储器502即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的视频概念检测方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的视频概念检测方法。
存储器502作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的视频概念检测方法对应的程序指令/模块(例如,附图3所示的提取模块310、第一确定模块320、第二确定模块330;附图4所示的查询模块340、第三确定模块350;附图5所示的生成模块360、训练模块370)。处理器501通过运行存储在存储器502中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的视频概念检测方法。
存储器502可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据视频概念检测的电子设备的使用所创建的数据等。此外,存储器502可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器502可选包括相对于处理器501远程设置的存储器,这些远程存储器可以通过网络连接至视频概念检测的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
视频概念检测方法的电子设备还可以包括:输入装置503和输出装置504。处理器501、存储器502、输入装置503和输出装置504可以通过总线或者其他方式连接,图6中以通过总线连接为例。
输入装置503可接收输入的数字或字符信息,以及产生与视频概念检测的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置504可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (16)
1.一种视频概念检测方法,其特征在于,包括:
提取待处理视频的特征信息;
根据所述特征信息以及概念识别模型集合中各个概念对应的概念识别模型,确定所述待处理视频属于各个概念的概率;
根据所述待处理视频属于各个概念的概率,确定所述待处理视频所属的概念;
根据所述待处理视频所属的概念的概率,对所述特征信息进行更新,重新根据更新后的特征信息以及所述概念识别模型集合,确定所述待处理视频所属的概念,直至满足预设的迭代结束条件。
2.根据权利要求1所述的方法,其特征在于,所述根据所述待处理视频所属的概念的概率,对所述特征信息进行更新,重新根据更新后的特征信息以及所述概念识别模型集合,确定所述待处理视频所属的概念,直至满足预设的迭代结束条件之后,还包括:
针对所述待处理视频所属的每个概念,查询概念图谱,判断所述概念图谱中是否存在所述概念对应的上级概念;
在所述概念图谱中存在所述概念对应的上级概念时,将所述上级概念确定为所述待处理视频所属的概念。
3.根据权利要求1所述的方法,其特征在于,所述待处理视频的特征信息包括以下特征中的任意一种或者多种:文本特征、语音特征、画面纹理特征、运动特征、实体特征、实体内容特征。
4.根据权利要求1所述的方法,其特征在于,所述根据所述待处理视频属于各个概念的概率,确定所述待处理视频所属的概念,包括:
针对所述各个概念中的每个概念,判断所述待处理视频属于所述概念的概率是否大于预设概率阈值;
若所述待处理视频属于所述概念的概率大于预设概率阈值,则将所述概念确定为所述待处理视频所属的概念。
5.根据权利要求1所述的方法,其特征在于,所述根据所述特征信息以及概念识别模型集合中各个概念对应的概念识别模型,确定所述待处理视频属于各个概念的概率之前,还包括:
对视频语料库中各个视频语料的文本信息进行概念提取处理,生成概念池;
为所述概念池中的每个概念构建概念识别模型和训练数据并进行训练,将满足训练要求的训练后概念识别模型添加到概念识别模型集合中;
获取对应的训练后概念识别模型不满足训练要求的第一概念,根据概念识别模型集合对所述第一概念的训练数据进行更新,重新根据更新后的训练数据对所述第一概念的概念识别模型进行训练,直至满足预设的迭代训练结束条件。
6.根据权利要求5所述的方法,其特征在于,所述对视频语料库中各个视频语料的文本信息进行概念提取处理,生成概念池,包括:
获取所述各个视频语料的文本信息;
对所述各个视频语料的文本信息进行分词以及语言处理,生成概念池;
去除所述潜在概念池中对应的频率位于预设频率范围外的概念;
对所述概念池中的同义概念进行归一化处理。
7.根据权利要求5所述的方法,其特征在于,所述概念池中每个概念的训练数据包括:正样本数据和负样本数据;
所述正样本数据包括:对应的文本信息中包括所述概念的视频对应的特征信息;
所述负样本数据包括:对应的文本信息中不包括所述概念的视频对应的特征信息。
8.一种视频概念检测装置,其特征在于,包括:
提取模块,用于提取待处理视频的特征信息;
第一确定模块,用于根据所述特征信息以及概念识别模型集合中各个概念对应的概念识别模型,确定所述待处理视频属于各个概念的概率;
第二确定模块,用于根据所述待处理视频属于各个概念的概率,确定所述待处理视频所属的概念;
所述第一确定模块,还用于根据所述待处理视频所属的概念的概率,对所述特征信息进行更新,重新根据更新后的特征信息以及所述概念识别模型集合,确定所述待处理视频所属的概念,直至满足预设的迭代结束条件。
9.根据权利要求8所述的装置,其特征在于,还包括:查询模块和第三确定模块;
所述查询模块,用于针对所述待处理视频所属的每个概念,查询概念图谱,判断所述概念图谱中是否存在所述概念对应的上级概念;
所述第三确定模块,用于在所述概念图谱中存在所述概念对应的上级概念时,将所述上级概念确定为所述待处理视频所属的概念。
10.根据权利要求8所述的装置,其特征在于,所述待处理视频的特征信息包括以下特征中的任意一种或者多种:文本特征、语音特征、画面纹理特征、运动特征、实体特征、实体内容特征。
11.根据权利要求8所述的装置,其特征在于,所述第二确定模块具体用于,
针对所述各个概念中的每个概念,判断所述待处理视频属于所述概念的概率是否大于预设概率阈值;
若所述待处理视频属于所述概念的概率大于预设概率阈值,则将所述概念确定为所述待处理视频所属的概念。
12.根据权利要求8所述的装置,其特征在于,还包括:生成模块和训练模块;
所述生成模块,用于对视频语料库中各个视频语料的文本信息进行概念提取处理,生成概念池;
所述训练模块,用于为所述概念池中的每个概念构建概念识别模型和训练数据并进行训练,将满足训练要求的训练后概念识别模型添加到概念识别模型集合中;
所述训练模块,还用于获取对应的训练后概念识别模型不满足训练要求的第一概念,根据概念识别模型集合对所述第一概念的训练数据进行更新,重新根据更新后的训练数据对所述第一概念的概念识别模型进行训练,直至满足预设的迭代训练结束条件。
13.根据权利要求12所述的装置,其特征在于,所述生成模块具体用于,
获取所述各个视频语料的文本信息;
对所述各个视频语料的文本信息进行分词以及语言处理,生成概念池;
去除所述潜在概念池中对应的频率位于预设频率范围外的概念;
对所述概念池中的同义概念进行归一化处理。
14.根据权利要求12所述的装置,其特征在于,所述概念池中每个概念的训练数据包括:正样本数据和负样本数据;
所述正样本数据包括:对应的文本信息中包括所述概念的视频对应的特征信息;
所述负样本数据包括:对应的文本信息中不包括所述概念的视频对应的特征信息。
15.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010234158.0A CN111460971B (zh) | 2020-03-27 | 2020-03-27 | 视频概念检测方法、装置以及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010234158.0A CN111460971B (zh) | 2020-03-27 | 2020-03-27 | 视频概念检测方法、装置以及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111460971A true CN111460971A (zh) | 2020-07-28 |
CN111460971B CN111460971B (zh) | 2023-09-12 |
Family
ID=71684986
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010234158.0A Active CN111460971B (zh) | 2020-03-27 | 2020-03-27 | 视频概念检测方法、装置以及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111460971B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112487239A (zh) * | 2020-11-27 | 2021-03-12 | 北京百度网讯科技有限公司 | 视频检索方法、模型训练方法、装置、设备及存储介质 |
Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101299241A (zh) * | 2008-01-14 | 2008-11-05 | 浙江大学 | 基于张量表示的多模态视频语义概念检测方法 |
CN101968797A (zh) * | 2010-09-10 | 2011-02-09 | 北京大学 | 一种基于镜头间上下文的视频概念标注方法 |
CN102385592A (zh) * | 2010-09-03 | 2012-03-21 | 中国电信股份有限公司 | 图像概念的检测方法和装置 |
US20140058982A1 (en) * | 2012-08-22 | 2014-02-27 | Alexander C. Loui | Audio based control of equipment and systems |
CN105718890A (zh) * | 2016-01-22 | 2016-06-29 | 北京大学 | 一种基于卷积神经网络的特定视频检测方法 |
CN106649661A (zh) * | 2016-12-13 | 2017-05-10 | 税云网络科技服务有限公司 | 知识库构建方法和装置 |
CN107533638A (zh) * | 2015-08-11 | 2018-01-02 | 谷歌有限责任公司 | 利用标签正确性概率来注释视频 |
CN108090232A (zh) * | 2009-03-20 | 2018-05-29 | 高智83基金会有限责任公司 | 利用跨域知识的语义事件检测 |
CN108171134A (zh) * | 2017-12-20 | 2018-06-15 | 中车工业研究院有限公司 | 一种操作动作辨识方法及装置 |
CN109583340A (zh) * | 2018-11-15 | 2019-04-05 | 中山大学 | 一种基于深度学习的视频目标检测方法 |
CN109726726A (zh) * | 2017-10-27 | 2019-05-07 | 北京邮电大学 | 视频中的事件检测方法及装置 |
CN109947989A (zh) * | 2019-03-18 | 2019-06-28 | 北京字节跳动网络技术有限公司 | 用于处理视频的方法和装置 |
CN110175246A (zh) * | 2019-04-09 | 2019-08-27 | 山东科技大学 | 一种从视频字幕中提取概念词的方法 |
CN110287369A (zh) * | 2019-06-25 | 2019-09-27 | 中科软科技股份有限公司 | 一种基于语义的视频检索方法及系统 |
CN110443291A (zh) * | 2019-07-24 | 2019-11-12 | 阿里巴巴集团控股有限公司 | 一种模型训练方法、装置及设备 |
-
2020
- 2020-03-27 CN CN202010234158.0A patent/CN111460971B/zh active Active
Patent Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101299241A (zh) * | 2008-01-14 | 2008-11-05 | 浙江大学 | 基于张量表示的多模态视频语义概念检测方法 |
CN108090232A (zh) * | 2009-03-20 | 2018-05-29 | 高智83基金会有限责任公司 | 利用跨域知识的语义事件检测 |
CN102385592A (zh) * | 2010-09-03 | 2012-03-21 | 中国电信股份有限公司 | 图像概念的检测方法和装置 |
CN101968797A (zh) * | 2010-09-10 | 2011-02-09 | 北京大学 | 一种基于镜头间上下文的视频概念标注方法 |
US20140058982A1 (en) * | 2012-08-22 | 2014-02-27 | Alexander C. Loui | Audio based control of equipment and systems |
CN107533638A (zh) * | 2015-08-11 | 2018-01-02 | 谷歌有限责任公司 | 利用标签正确性概率来注释视频 |
CN105718890A (zh) * | 2016-01-22 | 2016-06-29 | 北京大学 | 一种基于卷积神经网络的特定视频检测方法 |
CN106649661A (zh) * | 2016-12-13 | 2017-05-10 | 税云网络科技服务有限公司 | 知识库构建方法和装置 |
CN109726726A (zh) * | 2017-10-27 | 2019-05-07 | 北京邮电大学 | 视频中的事件检测方法及装置 |
CN108171134A (zh) * | 2017-12-20 | 2018-06-15 | 中车工业研究院有限公司 | 一种操作动作辨识方法及装置 |
CN109583340A (zh) * | 2018-11-15 | 2019-04-05 | 中山大学 | 一种基于深度学习的视频目标检测方法 |
CN109947989A (zh) * | 2019-03-18 | 2019-06-28 | 北京字节跳动网络技术有限公司 | 用于处理视频的方法和装置 |
CN110175246A (zh) * | 2019-04-09 | 2019-08-27 | 山东科技大学 | 一种从视频字幕中提取概念词的方法 |
CN110287369A (zh) * | 2019-06-25 | 2019-09-27 | 中科软科技股份有限公司 | 一种基于语义的视频检索方法及系统 |
CN110443291A (zh) * | 2019-07-24 | 2019-11-12 | 阿里巴巴集团控股有限公司 | 一种模型训练方法、装置及设备 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112487239A (zh) * | 2020-11-27 | 2021-03-12 | 北京百度网讯科技有限公司 | 视频检索方法、模型训练方法、装置、设备及存储介质 |
CN112487239B (zh) * | 2020-11-27 | 2024-04-05 | 北京百度网讯科技有限公司 | 视频检索方法、模型训练方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111460971B (zh) | 2023-09-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6594534B2 (ja) | テキスト情報処理方法およびデバイス | |
CN111967262B (zh) | 实体标签的确定方法和装置 | |
CN111221984A (zh) | 多模态内容处理方法、装置、设备及存储介质 | |
CN113094550B (zh) | 视频检索方法、装置、设备和介质 | |
CN110096655B (zh) | 搜索结果的排序方法、装置、设备及存储介质 | |
JP6986187B2 (ja) | 人物識別方法、装置、電子デバイス、記憶媒体、及びプログラム | |
CN112541076B (zh) | 目标领域的扩充语料生成方法、装置和电子设备 | |
CN111460153A (zh) | 热点话题提取方法、装置、终端设备及存储介质 | |
CN114861889B (zh) | 深度学习模型的训练方法、目标对象检测方法和装置 | |
CN113660541B (zh) | 新闻视频的摘要生成方法及装置 | |
CN112988753B (zh) | 一种数据搜索方法和装置 | |
CN112559800A (zh) | 用于处理视频的方法、装置、电子设备、介质和产品 | |
CN110874532A (zh) | 提取反馈信息的关键词的方法和装置 | |
CN111797216B (zh) | 检索项改写方法、装置、设备以及存储介质 | |
CN111078878A (zh) | 文本处理方法、装置、设备及计算机可读存储介质 | |
CN111460296B (zh) | 用于更新事件集合的方法和装置 | |
CN114168798A (zh) | 文本存储管理与检索方法及装置 | |
CN111460971B (zh) | 视频概念检测方法、装置以及电子设备 | |
CN110750994A (zh) | 一种实体关系抽取方法、装置、电子设备及存储介质 | |
CN111783433A (zh) | 一种文本检索纠错方法和装置 | |
CN115098729A (zh) | 视频处理方法、样本生成方法、模型训练方法及装置 | |
CN113312451B (zh) | 文本标签确定方法和装置 | |
CN111125362B (zh) | 一种异常文本确定方法、装置、电子设备和介质 | |
CN114218431A (zh) | 视频搜索方法、装置、电子设备以及存储介质 | |
CN112926297A (zh) | 处理信息的方法、装置、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |