CN113918769B - 视频中关键动作标记方法、装置、设备及存储介质 - Google Patents
视频中关键动作标记方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN113918769B CN113918769B CN202111183030.7A CN202111183030A CN113918769B CN 113918769 B CN113918769 B CN 113918769B CN 202111183030 A CN202111183030 A CN 202111183030A CN 113918769 B CN113918769 B CN 113918769B
- Authority
- CN
- China
- Prior art keywords
- image
- action
- video
- target
- key
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000009471 action Effects 0.000 title claims abstract description 222
- 238000000034 method Methods 0.000 title claims abstract description 38
- 239000012634 fragment Substances 0.000 claims abstract description 17
- 239000013598 vector Substances 0.000 claims description 24
- 238000004422 calculation algorithm Methods 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 9
- 239000011159 matrix material Substances 0.000 claims description 7
- 238000000605 extraction Methods 0.000 claims description 5
- 238000009432 framing Methods 0.000 claims description 4
- 238000013473 artificial intelligence Methods 0.000 abstract description 7
- 238000005516 engineering process Methods 0.000 abstract description 7
- 238000004458 analytical method Methods 0.000 description 14
- 230000006870 function Effects 0.000 description 12
- 238000004891 communication Methods 0.000 description 8
- 238000007726 management method Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 239000003550 marker Substances 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 241001425761 Parthenos sylvia Species 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000009193 crawling Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/70—Information retrieval; Database structures therefor; File system structures therefor of video data
- G06F16/78—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/783—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
- G06F16/7837—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using objects detected or recognised in the video content
- G06F16/784—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using objects detected or recognised in the video content the detected or recognised objects being people
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/70—Information retrieval; Database structures therefor; File system structures therefor of video data
- G06F16/78—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/783—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
- G06F16/7844—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using original textual content or text extracted from visual content or transcript of audio data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/70—Information retrieval; Database structures therefor; File system structures therefor of video data
- G06F16/78—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/7867—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, title and artist information, manually generated time, location and usage information, user ratings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Library & Information Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及人工智能技术，揭露了一种视频中关键动作标记方法，包括：提取预设的视频片段内每一帧图像，并逐个选取其中一帧图像为目标图像；提取目标图像的动作轮廓区域，根据动作轮廓区域中所有像素点的像素值生成动作特征；计算动作特征与预设标准特征的匹配值，将匹配值大于预设阈值的动作特征对应的目标图像标记为关键动作图像；按照预设时长从视频片段中逐个选取目标片段，对目标片段中包含的关键动作图像进行相似图像合并；将相似图像合并后的视频片段内所有的关键动作图像进行突出显示。此外，本发明还涉及区块链技术，视频片段可存储于区块链的节点。本发明还提出一种视频中关键动作标记装置、设备及介质。本发明可以提高产品推荐精确度。
Description
技术领域
本发明涉及人工智能技术领域，尤其涉及一种视频中关键动作标记方法、装置、电子设备及计算机可读存储介质。
背景技术
近年来，随着信息技术的发展，互联网产业得到了快速的发展，特别是对于教育行业来说，信息技术与教育的融合打破了传统的教育模式，为教育变革带来了新的源泉。例如瑜伽、舞蹈等各种教学视频，受到人们的广泛好评，但视频教学存在着没有现场真人教学更加直观的缺陷，因此为了更好地实现教学，视频中需要对人物做出的关键动作进行标记。
现有的视频中关键动作提取方法多为基于时间点的标记方法，即在视频中选取预设时间点的图像标记为关键动作。实际应用中，由于视频中人物的动作流程并不能严格一致，会导致仅依据时间点对关键动作进行选取，选取出的关键动作图像的精确度较低。
发明内容
本发明提供一种视频中关键动作标记方法、装置及计算机可读存储介质，其主要目的在于解决对视频中关键动作进行标记的精确度较低的问题。
为实现上述目的，本发明提供的一种视频中关键动作标记方法，包括：
提取预设的视频片段内每一帧图像，并逐个选取其中一帧图像为目标图像；
提取所述目标图像的动作轮廓区域，根据所述动作轮廓区域中所有像素点的像素值生成动作特征；
计算所述动作特征与预设标准特征的匹配值，将所述匹配值大于预设阈值的动作特征对应的目标图像标记为关键动作图像；
按照预设时长从所述视频片段中逐个选取目标片段，对所述目标片段中包含的关键动作图像进行相似图像合并；
将相似图像合并后的视频片段内所有的关键动作图像进行突出显示。
可选地，所述提取预设的视频片段内每一帧图像，包括：
提取所述视频片段的帧率和片段时长；
根据所述帧率和所述片段时长计算所述视频片段的帧数；
根据所述帧数对所述视频片段进行分割，得到所述视频片段的每一帧图像。
可选地，所述提取所述目标图像的动作轮廓区域，包括：
利用预设的滑动窗口对所述目标图像进行逐一框选，得到像素窗口；
从所述像素窗口中逐个选取其中一个像素点为目标像素点；
判断所述目标像素点的像素值在所述像素窗口内是否为极值；
当所述目标像素点的像素值在所述像素窗口内不是极值时，返回从所述像素窗口中逐个选取其中一个像素点为目标像素点的步骤；
当所述目标像素点的像素值在所述像素窗口内是极值时，则确定所述目标像素点为关键点；
确定所有关键点包围的区域为所述目标图像的动作轮廓区域。
可选地，所述根据所述动作轮廓区域中所有像素点的像素值生成动作特征，包括：
将动作轮廓区域内的所有关键点的像素值进行向量化；
将得到的向量汇集为所述目标区域的向量矩阵，并将所述向量矩阵作为所述动作轮廓区域的动作特征。
可选地，所述计算所述动作特征与预设标准特征的匹配值，包括：
利用如下匹配值算法计算所述动作特征与预设标准特征的匹配值：
其中，D为所述匹配值，An为所述视频片段中第n帧图像对应的动作特征，Bm为所述预设标准特征中第m个特征。
可选地，所述对所述目标片段中包含的关键动作图像进行相似图像合并，包括：
随机从所述目标片段中包含的关键动作图像内选取两张不同图像为第一图像和第二图像；
分别将所述第一图像和所述第二图像按照预设比例划分为多个图像块，计算每一个图像块中每个像素的像素梯度，根据所述像素梯度统计得到每一个图像块的梯度直方图；
将所述梯度直方图转换为向量，并将所述第一图像的所有梯度直方图的向量拼接所述第一图像的图像特征，以及将所述第二图像的所有梯度直方图的向量拼接所述第二图像的图像特征；
计算所述第一图像的图像特征与所述第二图像的图像特征之间的相似度；
当所述相似度小于预设相似阈值时，返回随机从所述目标片段中包含的关键动作图像内选取两张不同图像为第一图像和第二图像的步骤；
当所述相似度大于或等于所述预设相似阈值时，任意取消其中一张图像的关键动作图像的标记。
可选地，所述将相似图像合并后的视频片段内所有的关键动作图像进行突出显示，包括：
将所述视频片段中每个关键动作图像的动作轮廓区域以高亮颜色进行显示；
获取所述视频片段中每个关键动作图像的动作注释；
在每个关键动作图像中的预设区域展示所述动作注释。
为了解决上述问题，本发明还提供一种视频中关键动作标记装置，所述装置包括：
视频分帧模块，用于提取预设的视频片段内每一帧图像，并逐个选取其中一帧图像为目标图像；
特征提取模块，用于提取所述目标图像的动作轮廓区域，根据所述动作轮廓区域中所有像素点的像素值生成动作特征；
第一标记模块，用于计算所述动作特征与预设标准特征的匹配值，将所述匹配值大于预设阈值的动作特征对应的目标图像标记为关键动作图像；
图像合并模块，用于按照预设时长从所述视频片段中逐个选取目标片段，对所述目标片段中包含的关键动作图像进行相似图像合并；
第二标记模块，用于将相似图像合并后的视频片段内所有的关键动作图像进行突出显示。
为了解决上述问题，本发明还提供一种电子设备，所述电子设备包括：
至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述所述的视频中关键动作标记方法。
为了解决上述问题，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一个计算机程序，所述至少一个计算机程序被电子设备中的处理器执行以实现上述所述的视频中关键动作标记方法。
本发明实施例能够提取视频片段中每一帧图像的动作轮廓区域，进而结合动作轮廓区域的特征和预设标准特征进行关键动作的识别，避免对目标图像中所有图像信息进行分析，提高分析效率，同时去除背景画面中的图像信息对后续分析的影响，提高分析结果的精确度；进一步地，对标记出的关键动作图像进行相似图像合并，以避免关键动作图像的冗余，提高关键动作标记的精确度。因此本发明提出的视频中关键动作标记方法、装置、电子设备及计算机可读存储介质，可以解决对视频中关键动作进行标记的精确度较低的问题。
附图说明
图1为本发明一实施例提供的视频中关键动作标记方法的流程示意图；
图2为本发明一实施例提供的提取视频片段中每一帧图像的流程示意图；
图3为本发明一实施例提供的将关键动作图像进行突出显示的流程示意图；
图4为本发明一实施例提供的视频中关键动作标记装置的功能模块图；
图5为本发明一实施例提供的实现所述视频中关键动作标记方法的电子设备的结构示意图。
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
本申请实施例提供一种视频中关键动作标记方法。所述视频中关键动作标记方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之，所述视频中关键动作标记方法可以由安装在终端设备或服务端设备的软件或硬件来执行，所述软件可以是区块链平台。所述服务端包括但不限于：单台服务器、服务器集群、云端服务器或云端服务器集群等。所述服务器可以是独立的服务器，也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network，CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。
参照图1所示，为本发明一实施例提供的视频中关键动作标记方法的流程示意图。在本实施例中，所述视频中关键动作标记方法包括：
S1、提取预设的视频片段内每一帧图像，并逐个选取其中一帧图像为目标图像。
本发明实施例中，所述预设的视频片段包括任何包含人物动作的视频片段，例如，舞蹈教学视频的片段、体操教学视频的片段或健身教学视频的片段等。
详细地，可利用具有数据抓取功能的计算机语句(如java语句、python语句等)从预先构建的存储区域抓取预先存储的视频片段，所述存储区域包括但不限于数据库、网络云盘、区块链。
本发明其中一个实际应用场景中，由于所述视频片段是有大量的图像帧所组成，因此，为了实现对所述视频片段中关键动作的识别，可提取所述视频片段中的每一帧图像，以便于后续对每一帧图像进行分析，进而识别出包含关键动作的图像。
本发明实施例中，参图2所示，所述提取预设的视频片段内每一帧图像，包括：
S21、提取所述视频片段的帧率和片段时长；
S22、根据所述帧率和所述片段时长计算所述视频片段的帧数；
S23、根据所述帧数对所述视频片段进行分割，得到所述视频片段的每一帧图像。
详细地，可利用具有帧率识别功能的java语句提取所述视频片段的帧率，所述帧率是指该视频片段每秒内包含的图像帧数，例如，该视频片段的帧率为24帧，则该视频片段每秒内包含24张图像。
具体地，可将所述帧率和所述片段时长(单位：秒)进行相乘，得到所述视频片段的帧数。
本发明实施例中，可根据所述视频片段的帧数对所述视频片段中的画面进行截取、分离，进而得到该视频片段包含的每一帧图像，进而逐个选取其中一帧图像为目标图像。
S2、提取所述目标图像的动作轮廓区域，根据所述动作轮廓区域中所有像素点的像素值生成动作特征。
本发明其中一个实际应用场景中，由于所述目标图像的画面中可能包含较多的背景画面，但在进行关键动作识别时，仅需要关注图像中人物的动作，因此，若直接对所述目标图像进行图像分析，会导致分析效率的低下，同时，由于背景画面中图像信息的影响，会导致分析结果的精确度不高。
本发明实施例中，可先提取所述目标图像中任务的动作轮廓区域，进而避免对目标图像中所有图像信息进行分析，提高分析效率，同时去除背景画面中的图像信息对后续分析的影响，提高分析结果的精确度。
本发明实施例中，所述提取所述目标图像的动作轮廓区域，包括：
利用预设的滑动窗口对所述目标图像进行逐一框选，得到像素窗口；
从所述像素窗口中逐个选取其中一个像素点为目标像素点；
判断所述目标像素点的像素值在所述像素窗口内是否为极值；
当所述目标像素点的像素值在所述像素窗口内不是极值时，返回从所述像素窗口中逐个选取其中一个像素点为目标像素点的步骤；
当所述目标像素点的像素值在所述像素窗口内是极值时，则确定所述目标像素点为关键点；
确定所有关键点包围的区域为所述目标图像的动作轮廓区域。
本发明实施例中，所述滑动窗口可以为预先构建的具有一定面积的选择框，可用于对所述目标区域中的像素进行框选，例如，以10像素为高度，10像素为宽度构建的方形选择框。
详细地，所述极值包括极大值与极小值，当所述目标像素点的像素值在所述像素窗口内为极大值或极小值时，即确定所述目标像素点为所述像素窗口的关键点。
具体地，可将将所有关键点在所述目标图像中包围的区域确定为所述目标图像的动作轮廓区域。
进一步地，为了实现对所述视频片段中关键动作的识别，可生成该提取出的动作轮廓区域对应的动作特征。
本发明实施例中，所述根据所述动作轮廓区域中所有像素点的像素值生成动作特征，包括：
将动作轮廓区域内的所有关键点的像素值进行向量化；
将得到的向量汇集为所述目标区域的向量矩阵，并将所述向量矩阵作为所述动作轮廓区域的动作特征。
详细地，可将每一行像素的像素值转换为行向量，并拼接为所述动作轮廓区域的动作特征。
例如，动作轮廓区域中包括三行共9个关键点像素，第一行像素的像素值为a,b,c，第二行像素的像素值为d,e,f，第三行像素的像素值为g,h,i，则可分别将每一行像素的像素值作为行向量，拼接为如下向量矩阵：
本发明其他实施例中，可采用HOG(Histogram of Oriented Gradient，方向梯度直方图)、DPM(Deformable Part Model，可变性组件模型)、LBP(Local Binary Patterns，局部二值模式)等方式来提取所述动作轮廓区域的动作特征，或者，可采用预先训练的具体图像特征提取功能的人工智能模型来提取所述动作轮廓区域的动作特征，所述人工智能模型包括但不限于VGG-net模型、U-net模型。
S3、计算所述动作特征与预设标准特征的匹配值，将所述匹配值大于预设阈值的动作特征对应的目标图像标记为关键动作图像。
本发明实施例中，所述预设标准特征包括预先获取的多种不同的关键动作对应的特征，可分别计算所述视频片段中每一个目标图像的动作特征与预设标准特征的匹配值，进而判断目标图像是否为关键动作图像。
本发明实施例中，所述计算所述动作特征与预设标准特征的匹配值，包括：
利用如下匹配值算法计算所述动作特征与预设标准特征的匹配值：
其中，D为所述匹配值，An为所述视频片段中第n帧图像对应的动作特征，Bm为所述预设标准特征中第m个特征。
进一步地，可选取所述匹配值大于预设阈值的动作特征对应的模板图像，并将被选取的图像标记为关键动作图像，以便于后续在该视频片段中对关键动作进行精确的标记。
S4、按照预设时长从所述视频片段中逐个选取目标片段，对所述目标片段中包含的关键动作图像进行相似图像合并。
本发明实施例中，由于视频片段的连续性，即该视频片段中人物的动作均是连续的，因此，利用预设标准特征筛选出的关键动作图像中可能存在连续时间段内，包含多张相似度较高的图像，导致在该连续时间段内识别出的关键动作图像数量较多，不利于对视频片段进行标记的简洁性与精确性。
因此，本发明实施例可对所述视频片段中包含的相似度较高的关键动作图像进行合并，以减少该视频片段中关键动作图像的个数，提高关键动作识别的精确度。
详细地，可按照预设时长从所述视频片段中逐个选取目标片段，例如，该视频片段时长为60s，可按照每10s为预设时长，将所述视频片段划分为6个片段，并逐个选取其中一个片段为目标片段。
具体地，可分别对该目标片段中包含的关键动作图像进行相似度分析，进而将相似度较高的关键动作图像进行合并。
本发明实施例中，所述对所述目标片段中包含的关键动作图像进行相似图像合并，包括：
随机从所述目标片段中包含的关键动作图像内选取两张不同图像为第一图像和第二图像；
分别将所述第一图像和所述第二图像按照预设比例划分为多个图像块，计算每一个图像块中每个像素的像素梯度，根据所述像素梯度统计得到每一个图像块的梯度直方图；
将所述梯度直方图转换为向量，并将所述第一图像的所有梯度直方图的向量拼接所述第一图像的图像特征，以及将所述第二图像的所有梯度直方图的向量拼接所述第二图像的图像特征；
计算所述第一图像的图像特征与所述第二图像的图像特征之间的相似度；
当所述相似度小于预设相似阈值时，返回随机从所述目标片段中包含的关键动作图像内选取两张不同图像为第一图像和第二图像的步骤；
当所述相似度大于或等于所述预设相似阈值时，任意取消其中一张图像的关键动作图像的标记。
详细地，可将所述第一图像和所述第二图像按照预设比例划分为多个图像块，并逐一计算每一个像素块中每个像素的像素梯度，通过计算像素梯度，可捕获图像的图像特征。
其中，可利用预设的梯度算法计算每一个图像块中每个像素的像素梯度，所述梯度算法包括但不限于二维离散求导算法、soble算子等。
具体地，可根据所述像素梯度，统计出每个图像块中的梯度直方图，进而利用所述梯度直方图中各梯度的值，生成用于标识该梯度直方图的向量，并将所述第一图像的所有梯度直方图的向量拼接所述第一图像的图像特征，以及将所述第二图像的所有梯度直方图的向量拼接所述第二图像的图像特征。
本发明实施例中，可利用预设的具有相似度计算功能的算法计算所述第一图像的图像特征与所述第二图像的图像特征之间的相似度，所述具有相似度计算功能的算法包括但不限于余弦距离算法、欧式距离算法。
本发明实施例中，当所述相似度小于预设相似阈值时，则说明两张图像中动作不相似，即确定两张图像中包含的不是同一个关键动作，因此返回随机从所述目标片段中包含的关键动作图像内选取两张不同图像为第一图像和第二图像的步骤，重新选取图像进行计算。
当所述相似度大于或等于所述预设相似阈值时，则说明两张图像中动作相似，即确定两张图像中包含的是同一个关键动作，则可取消该两张图像中任一张图像在步骤S3中生成的标记。
S5、将相似图像合并后的视频片段内所有的关键动作图像进行突出显示。
本发明实施例中，当所述视频片段中所有的关键动作图像完成相似图像合并后，可将剩余的关键动作图像在所述视频片段中进行突出显示，以实现对视频中的关键动作的精准标记。
本发明实施例中，参图3所示，所述将相似图像合并后的视频片段内所有的关键动作图像进行突出显示，包括：
S31、将所述视频片段中每个关键动作图像的动作轮廓区域以高亮颜色进行显示；
S32、获取所述视频片段中每个关键动作图像的动作注释；
S33、在每个关键动作图像中的预设区域展示所述动作注释。
详细地，可利用黄色、红色等高亮颜色对所述视频片段中每个关键动作图像的动作轮廓区域以高亮颜色进行显示，以突出所述动作轮廓区域的细节。
具体地，所述动作注释为预先生成的用于对不同的关键动作进行讲解的文本，可获取所述视频片段中每一个关键动作的注释，并在对应的关键动作图像内的预设区域内进行展示，以对视频观看者进行提示。
本发明实施例能够提取视频片段中每一帧图像的动作轮廓区域，进而结合动作轮廓区域的特征和预设标准特征进行关键动作的识别，避免对目标图像中所有图像信息进行分析，提高分析效率，同时去除背景画面中的图像信息对后续分析的影响，提高分析结果的精确度；进一步地，对标记出的关键动作图像进行相似图像合并，以避免关键动作图像的冗余，提高关键动作标记的精确度。因此本发明提出的视频中关键动作标记方法，可以解决对视频中关键动作进行标记的精确度较低的问题。
如图4所示，是本发明一实施例提供的视频中关键动作标记装置的功能模块图。
本发明所述视频中关键动作标记装置100可以安装于电子设备中。根据实现的功能，所述视频中关键动作标记装置100可以包括视频分帧模块101、特征提取模块102、第一标记模块103、图像合并模块104及第二标记模块105。本发明所述模块也可以称之为单元，是指一种能够被电子设备处理器所执行，并且能够完成固定功能的一系列计算机程序段，其存储在电子设备的存储器中。
在本实施例中，关于各模块/单元的功能如下：
所述视频分帧模块101，用于提取预设的视频片段内每一帧图像，并逐个选取其中一帧图像为目标图像；
所述特征提取模块102，用于提取所述目标图像的动作轮廓区域，根据所述动作轮廓区域中所有像素点的像素值生成动作特征；
所述第一标记模块103，用于计算所述动作特征与预设标准特征的匹配值，将所述匹配值大于预设阈值的动作特征对应的目标图像标记为关键动作图像；
所述图像合并模块104，用于按照预设时长从所述视频片段中逐个选取目标片段，对所述目标片段中包含的关键动作图像进行相似图像合并；
所述第二标记模块105，用于将相似图像合并后的视频片段内所有的关键动作图像进行突出显示。
详细地，本发明实施例中所述视频中关键动作标记装置100中所述的各模块在使用时采用与上述图1至图3中所述的视频中关键动作标记方法一样的技术手段，并能够产生相同的技术效果，这里不再赘述。
如图5所示，是本发明一实施例提供的实现视频中关键动作标记方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11、通信总线12以及通信接口13，还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序，如视频中关键动作标记程序。
其中，所述处理器10在一些实施例中可以由集成电路组成，例如可以由单个封装的集成电路所组成，也可以是由多个相同功能或不同功能封装的集成电路所组成，包括一个或者多个中央处理器(Central Processing unit，CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(ControlUnit)，利用各种接口和线路连接整个电子设备的各个部件，通过运行或执行存储在所述存储器11内的程序或者模块(例如执行视频中关键动作标记程序等)，以及调用存储在所述存储器11内的数据，以执行电子设备的各种功能和处理数据。
所述存储器11至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如：SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备的内部存储单元，例如该电子设备的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备的外部存储设备，例如电子设备上配备的插接式移动硬盘、智能存储卡(Smart Media Card，SMC)、安全数字(Secure Digital，SD)卡、闪存卡(Flash Card)等。进一步地，所述存储器11还可以既包括电子设备的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备的应用软件及各类数据，例如视频中关键动作标记程序的代码等，还可以用于暂时地存储已经输出或者将要输出的数据。
所述通信总线12可以是外设部件互连标准(peripheral componentinterconnect，简称PCI)总线或扩展工业标准结构(extended industry standardarchitecture，简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
所述通信接口13用于上述电子设备与其他设备之间的通信，包括网络接口和用户接口。可选地，所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等)，通常用于在该电子设备与其他电子设备之间建立通信连接。所述用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard))，可选地，用户接口还可以是标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode，有机发光二极管)触摸器等。其中，显示器也可以适当的称为显示屏或显示单元，用于显示在电子设备中处理的信息以及用于显示可视化的用户界面。
图5仅示出了具有部件的电子设备，本领域技术人员可以理解的是，图5示出的结构并不构成对所述电子设备1的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。
例如，尽管未示出，所述电子设备还可以包括给各个部件供电的电源(比如电池)，优选地，电源可以通过电源管理装置与所述至少一个处理器10逻辑相连，从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备还可以包括多种传感器、蓝牙模块、Wi-Fi模块等，在此不再赘述。
应该了解，所述实施例仅为说明之用，在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的视频中关键动作标记程序是多个指令的组合，在所述处理器10中运行时，可以实现：
提取预设的视频片段内每一帧图像，并逐个选取其中一帧图像为目标图像；
提取所述目标图像的动作轮廓区域，根据所述动作轮廓区域中所有像素点的像素值生成动作特征；
计算所述动作特征与预设标准特征的匹配值，将所述匹配值大于预设阈值的动作特征对应的目标图像标记为关键动作图像；
按照预设时长从所述视频片段中逐个选取目标片段，对所述目标片段中包含的关键动作图像进行相似图像合并；
将相似图像合并后的视频片段内所有的关键动作图像进行突出显示。
具体地，所述处理器10对上述指令的具体实现方法可参考附图对应实施例中相关步骤的描述，在此不赘述。
进一步地，所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。所述计算机可读存储介质可以是易失性的，也可以是非易失性的。例如，所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)。
本发明还提供一种计算机可读存储介质，所述可读存储介质存储有计算机程序，所述计算机程序在被电子设备的处理器所执行时，可以实现：
提取预设的视频片段内每一帧图像，并逐个选取其中一帧图像为目标图像；
提取所述目标图像的动作轮廓区域，根据所述动作轮廓区域中所有像素点的像素值生成动作特征；
计算所述动作特征与预设标准特征的匹配值，将所述匹配值大于预设阈值的动作特征对应的目标图像标记为关键动作图像；
按照预设时长从所述视频片段中逐个选取目标片段，对所述目标片段中包含的关键动作图像进行相似图像合并；
将相似图像合并后的视频片段内所有的关键动作图像进行突出显示。
在本发明所提供的几个实施例中，应该理解到，所揭露的设备，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。
因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(Artificial Intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一、第二等词语用来表示名称，而并不表示任何特定的顺序。
最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。
Claims (7)
1.一种视频中关键动作标记方法，其特征在于，所述方法包括：
提取预设的视频片段内每一帧图像，并逐个选取其中一帧图像为目标图像；
提取所述目标图像的动作轮廓区域，根据所述动作轮廓区域中所有像素点的像素值生成动作特征；
计算所述动作特征与预设标准特征的匹配值，将所述匹配值大于预设阈值的动作特征对应的目标图像标记为关键动作图像；
按照预设时长从所述视频片段中逐个选取目标片段，对所述目标片段中包含的关键动作图像进行相似图像合并；
将相似图像合并后的视频片段内所有的关键动作图像进行突出显示；
其中，所述计算所述动作特征与预设标准特征的匹配值，包括：利用如下匹配值算法计算所述动作特征与预设标准特征的匹配值：
其中，为所述匹配值，/>为所述视频片段中第/>帧图像对应的动作特征，/>为所述预设标准特征中第/>个特征；
所述对所述目标片段中包含的关键动作图像进行相似图像合并，包括：随机从所述目标片段中包含的关键动作图像内选取两张不同图像为第一图像和第二图像；分别将所述第一图像和所述第二图像按照预设比例划分为多个图像块，计算每一个图像块中每个像素的像素梯度，根据所述像素梯度统计得到每一个图像块的梯度直方图；将所述梯度直方图转换为向量，并将所述第一图像的所有梯度直方图的向量拼接所述第一图像的图像特征，以及将所述第二图像的所有梯度直方图的向量拼接所述第二图像的图像特征；计算所述第一图像的图像特征与所述第二图像的图像特征之间的相似度；当所述相似度小于预设相似阈值时，返回随机从所述目标片段中包含的关键动作图像内选取两张不同图像为第一图像和第二图像的步骤；当所述相似度大于或等于所述预设相似阈值时，任意取消其中一张图像的关键动作图像的标记；
所述将相似图像合并后的视频片段内所有的关键动作图像进行突出显示，包括：将所述视频片段中每个关键动作图像的动作轮廓区域以高亮颜色进行显示；获取所述视频片段中每个关键动作图像的动作注释；在每个关键动作图像中的预设区域展示所述动作注释。
2.如权利要求1所述的视频中关键动作标记方法，其特征在于，所述提取预设的视频片段内每一帧图像，包括：
提取所述视频片段的帧率和片段时长；
根据所述帧率和所述片段时长计算所述视频片段的帧数；
根据所述帧数对所述视频片段进行分割，得到所述视频片段的每一帧图像。
3.如权利要求1所述的视频中关键动作标记方法，其特征在于，所述提取所述目标图像的动作轮廓区域，包括：
利用预设的滑动窗口对所述目标图像进行逐一框选，得到像素窗口；
从所述像素窗口中逐个选取其中一个像素点为目标像素点；
判断所述目标像素点的像素值在所述像素窗口内是否为极值；
当所述目标像素点的像素值在所述像素窗口内不是极值时，返回从所述像素窗口中逐个选取其中一个像素点为目标像素点的步骤；
当所述目标像素点的像素值在所述像素窗口内是极值时，则确定所述目标像素点为关键点；
确定所有关键点包围的区域为所述目标图像的动作轮廓区域。
4.如权利要求1所述的视频中关键动作标记方法，其特征在于，所述根据所述动作轮廓区域中所有像素点的像素值生成动作特征，包括：
将动作轮廓区域内的所有关键点的像素值进行向量化；
将得到的向量汇集为向量矩阵，并将所述向量矩阵作为所述动作轮廓区域的动作特征。
5.一种视频中关键动作标记装置，用于实现如权利要求1至4中任意一项所述的视频中关键动作标记方法，其特征在于，所述装置包括：
视频分帧模块，用于提取预设的视频片段内每一帧图像，并逐个选取其中一帧图像为目标图像；
特征提取模块，用于提取所述目标图像的动作轮廓区域，根据所述动作轮廓区域中所有像素点的像素值生成动作特征；
第一标记模块，用于计算所述动作特征与预设标准特征的匹配值，将所述匹配值大于预设阈值的动作特征对应的目标图像标记为关键动作图像；
图像合并模块，用于按照预设时长从所述视频片段中逐个选取目标片段，对所述目标片段中包含的关键动作图像进行相似图像合并；
第二标记模块，用于将相似图像合并后的视频片段内所有的关键动作图像进行突出显示。
6.一种电子设备，其特征在于，所述电子设备包括：
至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行如权利要求1至4中任意一项所述的视频中关键动作标记方法。
7.一种计算机可读存储介质，存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至4中任意一项所述的视频中关键动作标记方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111183030.7A CN113918769B (zh) | 2021-10-11 | 2021-10-11 | 视频中关键动作标记方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111183030.7A CN113918769B (zh) | 2021-10-11 | 2021-10-11 | 视频中关键动作标记方法、装置、设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113918769A CN113918769A (zh) | 2022-01-11 |
| CN113918769B true CN113918769B (zh) | 2024-06-04 |
Family
ID=79239232
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111183030.7A Active CN113918769B (zh) | 2021-10-11 | 2021-10-11 | 视频中关键动作标记方法、装置、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113918769B (zh) |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110705605A (zh) * | 2019-09-11 | 2020-01-17 | 北京奇艺世纪科技有限公司 | 特征数据库建立及动作识别方法、装置、系统及存储介质 |
| CN111368730A (zh) * | 2020-03-04 | 2020-07-03 | 上海东普信息科技有限公司 | 快件分拣异常动作的识别方法、装置、设备及存储介质 |
| CN111401318A (zh) * | 2020-04-14 | 2020-07-10 | 支付宝(杭州)信息技术有限公司 | 动作识别方法及装置 |
| CN112016538A (zh) * | 2020-10-29 | 2020-12-01 | 腾讯科技（深圳）有限公司 | 视频处理方法、装置、计算机设备和存储介质 |
| CN112329656A (zh) * | 2020-11-10 | 2021-02-05 | 广西大学 | 一种视频流中人体动作关键帧的特征提取方法 |
| CN112464882A (zh) * | 2020-12-11 | 2021-03-09 | 东莞先知大数据有限公司 | 连续动作的识别方法、装置、介质及设备 |
| CN112784807A (zh) * | 2021-02-04 | 2021-05-11 | 新华智云科技有限公司 | 手语提取方法及计算机可读存储介质、电子设备 |
-
2021
- 2021-10-11 CN CN202111183030.7A patent/CN113918769B/zh active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110705605A (zh) * | 2019-09-11 | 2020-01-17 | 北京奇艺世纪科技有限公司 | 特征数据库建立及动作识别方法、装置、系统及存储介质 |
| CN111368730A (zh) * | 2020-03-04 | 2020-07-03 | 上海东普信息科技有限公司 | 快件分拣异常动作的识别方法、装置、设备及存储介质 |
| CN111401318A (zh) * | 2020-04-14 | 2020-07-10 | 支付宝(杭州)信息技术有限公司 | 动作识别方法及装置 |
| CN112016538A (zh) * | 2020-10-29 | 2020-12-01 | 腾讯科技（深圳）有限公司 | 视频处理方法、装置、计算机设备和存储介质 |
| CN112329656A (zh) * | 2020-11-10 | 2021-02-05 | 广西大学 | 一种视频流中人体动作关键帧的特征提取方法 |
| CN112464882A (zh) * | 2020-12-11 | 2021-03-09 | 东莞先知大数据有限公司 | 连续动作的识别方法、装置、介质及设备 |
| CN112784807A (zh) * | 2021-02-04 | 2021-05-11 | 新华智云科技有限公司 | 手语提取方法及计算机可读存储介质、电子设备 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113918769A (zh) | 2022-01-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113283446B (zh) | 图像中目标物识别方法、装置、电子设备及存储介质 | |
| WO2019109526A1 (zh) | 人脸图像的年龄识别方法、装置及存储介质 | |
| CN103824053B (zh) | 一种人脸图像的性别标注方法及人脸性别检测方法 | |
| CN110033018B (zh) | 图形相似度判断方法、装置及计算机可读存储介质 | |
| CN111898538B (zh) | 证件鉴伪方法、装置、电子设备及存储介质 | |
| CN108304757A (zh) | 身份识别方法及装置 | |
| CN113449725B (zh) | 对象分类方法、装置、设备及存储介质 | |
| CN112651342B (zh) | 人脸识别方法、装置、电子设备及存储介质 | |
| CN113887438B (zh) | 人脸图像的水印检测方法、装置、设备及介质 | |
| CN113704614A (zh) | 基于用户画像的页面生成方法、装置、设备及介质 | |
| CN112214707A (zh) | 网页内容表征方法、分类方法、装置及设备 | |
| CN115374189B (zh) | 基于区块链的食品安全溯源方法、装置及设备 | |
| CN116311214B (zh) | 车牌识别方法和装置 | |
| CN115690615B (zh) | 一种面向视频流的深度学习目标识别方法及系统 | |
| CN115471775A (zh) | 基于录屏视频的信息验证方法、装置、设备及存储介质 | |
| CN112528903B (zh) | 人脸图像获取方法、装置、电子设备及介质 | |
| CN113705469A (zh) | 人脸识别方法、装置、电子设备及计算机可读存储介质 | |
| CN110427828B (zh) | 人脸活体检测方法、装置及计算机可读存储介质 | |
| CN113918769B (zh) | 视频中关键动作标记方法、装置、设备及存储介质 | |
| CN113792801B (zh) | 人脸炫光程度的检测方法、装置、设备及存储介质 | |
| CN112541436B (zh) | 专注度分析方法、装置、电子设备及计算机存储介质 | |
| CN112529116B (zh) | 场景元素融合处理方法、装置和设备及计算机存储介质 | |
| CN110942056A (zh) | 服饰关键点定位方法、装置、电子设备及介质 | |
| CN114677526A (zh) | 图像分类方法、装置、设备及介质 | |
| CN112949571A (zh) | 识别年龄的方法、年龄识别模型的训练方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |