CN112507927A - 一种板书内容自动生成方法和装置 - Google Patents

一种板书内容自动生成方法和装置 Download PDF

Info

Publication number
CN112507927A
CN112507927A CN202011488534.5A CN202011488534A CN112507927A CN 112507927 A CN112507927 A CN 112507927A CN 202011488534 A CN202011488534 A CN 202011488534A CN 112507927 A CN112507927 A CN 112507927A
Authority
CN
China
Prior art keywords
blackboard
area
image
images
blackboard area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011488534.5A
Other languages
English (en)
Inventor
苏松剑
蔡国榕
苏松志
陈延艺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Lop Xiamen System Integration Co ltd
Ropt Technology Group Co ltd
Original Assignee
Lop Xiamen System Integration Co ltd
Ropt Technology Group Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lop Xiamen System Integration Co ltd, Ropt Technology Group Co ltd filed Critical Lop Xiamen System Integration Co ltd
Priority to CN202011488534.5A priority Critical patent/CN112507927A/zh
Publication of CN112507927A publication Critical patent/CN112507927A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/46—Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07—Target detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computational Linguistics (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种板书内容自动生成方法和装置，通过获取教学录像视频中每帧图像的黑板区域图像，采用尺度不变特征变换技术按照时间顺序计算一个时刻与下一时刻的黑板区域图像之间的匹配点的数目，根据匹配点的数目对黑板区域图像进行分组；对每组黑板区域图像中的任意两张图像采用尺度不变特征描述子计算两两黑板区域图像之间的匹配点，基于匹配点构建目标优化函数，并采用高斯‑牛顿迭代法求解出黑板区域图像内每个像素之间的映射关系；获得每组黑板区域图像中包含文字的像素点，并基于像素点通过区域增长算法获得文字区域，基于初始图像计算文字区域的像素变化区域，通过映射关系将像素变化区域切割并填充到初始图像中，输出最终的板书内容。

Description

一种板书内容自动生成方法和装置
技术领域
本发明涉及视频文字内容生成领域，具体涉及一种板书内容自动生成方法和装置。
背景技术
教学录像视频中的板书内容提取是理解教学视频内容的关键。当教师在黑板前板书授课时可以从教学录像视频中提取完整的黑板板书的内容作为该视频内容的摘要图片。
目前教学视频内容摘要的生成主要是通过视频关键帧技术。利用关键帧技术的优点是方法简单，实现速度快。缺点是：分析把握教学视频的内容，教师可能存在遮挡住黑板的情况。
有鉴于此，建立一种板书内容自动生成方法和装置是非常具有意义的。
发明内容
针对上述提到现有技术中难以根据教学视频自动生成完整的板书内容作为视频摘要等问题。本申请的实施例的目的在于提出了一种板书内容自动生成方法和装置来解决以上背景技术部分提到的技术问题。
第一方面，本申请的实施例提供了一种板书内容自动生成方法，包括以下步骤：
黑板区域分组步骤，获取教学录像视频中每帧图像的黑板区域图像，采用尺度不变特征变换技术按照时间顺序依次计算一个时刻与其下一时刻的黑板区域图像之间的匹配点的数目，根据匹配点的数目对黑板区域图像进行分组；
匹配点映射步骤，对每组黑板区域图像中的任意两张图像采用尺度不变特征描述子计算两两黑板区域图像之间的匹配点，基于匹配点构建目标优化函数，并采用高斯-牛顿迭代法求解出黑板区域图像内每个像素之间的两两映射关系；以及
板书内容输出步骤，获得每组黑板区域图像中包含文字的像素点，并基于像素点通过区域增长算法获得文字区域，选择每组黑板区域图像中的第一张图像作为输出结果的初始图像，基于初始图像计算文字区域的像素变化区域，通过映射关系将像素变化区域切割并填充到初始图像中，重复以上步骤遍历同一个组中的黑板区域图像，输出最终的板书内容。
在一些实施例中，黑板区域分组步骤中的获取教学录像视频中每帧图像的黑板区域图像具体包括以下步骤：
建立深度学习目标检测模型并进行训练，同时检测出每帧图像中的黑板区域和人体区域；
对每帧图像中的人体区域的所有像素的值设为0，将每帧图像中的黑板区域进行切割，并按照时间顺序排列形成黑板区域图像。
在一些实施例中，深度学习目标检测模型包括YOLO v3。
在一些实施例中，黑板区域分组步骤中若匹配点的数目小于设定阈值，则将一个时刻以及一个时刻之前的所有黑板区域图像归类为一组。
在一些实施例中，设定阈值设置为黑板区域图像宽度的20％。
在一些实施例中，目标优化函数采用非线性最小二乘法构建，公式如下：
Figure BDA0002840061780000021
Figure BDA0002840061780000022
Figure BDA0002840061780000023
Figure BDA0002840061780000024
其中，I表示图像灰度值，θ为仿射变换矩阵，θ＝(a,b,c,d,e,f)，a、b、c、d、e、f分别为仿射变换的六个参数，pi和pj分别为所述黑板区域图像的像素点。
在一些实施例中，板书内容输出步骤具体包括：
对每组黑板区域图像中的图像分别进行二值化处理，其中二值化的值为1表示文字的像素点；
以黑板区域图像中的像素点为初始点，执行m次的膨胀操作，分别获得文字区域A和文字区域B，其中初始图像对应于文字区域A，除初始图像以外的其他任一黑板区域图像对应于文字区域B；
对文字区域B和文字区域A进行集合的差运算，获得像素变化区域C。
第二方面，本申请的实施例中还提供了一种板书内容自动生成装置，包括：
黑板区域分组模块，被配置为获取教学录像视频中每帧图像的黑板区域图像，采用尺度不变特征变换技术按照时间顺序依次计算一个时刻与其下一时刻的黑板区域图像之间的匹配点的数目，根据匹配点的数目对黑板区域图像进行分组；
匹配点映射模块，被配置为对每组黑板区域图像中的任意两张图像采用尺度不变特征描述子计算两两黑板区域图像之间的匹配点，基于匹配点构建目标优化函数，并采用高斯-牛顿迭代法求解出黑板区域图像内每个像素之间的两两映射关系；以及
板书内容输出模块，被配置为获得每组黑板区域图像中包含文字的像素点，并基于像素点通过区域增长算法获得文字区域，选择每组黑板区域图像中的第一张图像作为输出结果的初始图像，基于初始图像计算文字区域的像素变化区域，通过映射关系将像素变化区域切割并填充到初始图像中，重复以上步骤遍历同一个组中的黑板区域图像，输出最终的板书内容。
第三方面，本申请实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。
第四方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如第一方面中任一实现方式描述的方法。
本发明提出了一种板书内容自动生成方法，通过获取教学录像视频中每帧图像的黑板区域图像，采用尺度不变特征变换技术按照时间顺序依次计算一个时刻与其下一时刻的黑板区域图像之间的匹配点的数目，根据匹配点的数目对黑板区域图像进行分组；对每组黑板区域图像中的任意两张图像采用尺度不变特征描述子计算两两黑板区域图像之间的匹配点，基于匹配点构建目标优化函数，并采用高斯-牛顿迭代法求解出黑板区域图像内每个像素之间的两两映射关系；获得每组黑板区域图像中包含文字的像素点，并基于像素点通过区域增长算法获得文字区域，选择每组黑板区域图像中的第一张图像作为输出结果的初始图像，基于初始图像计算文字区域的像素变化区域，通过映射关系将像素变化区域切割并填充到初始图像中，重复以上步骤遍历同一个组中的黑板区域图像，输出最终的板书内容。因此可以教学视频的每帧图像的黑板区域的文字进行融合，并获得教学视频中完整的板书信息。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简要介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请的一个实施例可以应用于其中的示例性装置架构图；
图2为本发明的实施例的板书内容自动生成方法的流程示意图；
图3为本发明的实施例的板书内容自动生成方法的步骤S1的获取教学录像视频中每帧图像的黑板区域图像的流程示意图；
图4为本发明的实施例的板书内容自动生成方法的步骤S3的流程示意图；
图5为本发明的实施例的板书内容自动生成装置的示意图；
图6是适于用来实现本申请实施例的电子设备的计算机装置的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作进一步地详细描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。
图1示出了可以应用本申请实施例的板书内容自动生成方法或板书内容自动生成装置的示例性装置架构100。
如图1所示，装置架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种应用，例如数据处理类应用、文件处理类应用等。
终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上传的文件或数据进行处理的后台数据处理服务器。后台数据处理服务器可以对获取的文件或数据进行处理，生成处理结果。
需要说明的是，本申请实施例所提供的板书内容自动生成方法可以由服务器105执行，也可以由终端设备101、102、103执行，相应地，板书内容自动生成装置可以设置于服务器105中，也可以设置于终端设备101、102、103中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。在所处理的数据不需要从远程获取的情况下，上述装置架构可以不包括网络，而只需服务器或终端设备。
图2示出了本申请的实施例公开了一种板书内容自动生成方法，包括以下步骤：
步骤S1，获取教学录像视频中每帧图像的黑板区域图像，采用尺度不变特征变换技术按照时间顺序依次计算一个时刻与其下一时刻的黑板区域图像之间的匹配点的数目，根据匹配点的数目对黑板区域图像进行分组。
在具体的实施例中，如图3所示，步骤S1中的获取教学录像视频中每帧图像的黑板区域图像具体包括以下步骤：
S11，建立深度学习目标检测模型并进行训练，同时检测出每帧图像中的黑板区域和人体区域；
S12，对每帧图像中的人体区域的所有像素的值设为0，将每帧图像中的黑板区域进行切割，并按照时间顺序排列形成黑板区域图像。
在具体的实施例中，对深度学习目标检测模型进行训练的步骤如下：
样本收集：收集大量包含黑板或者包含人体的图片，并标注出每张图片中黑板的矩形区域和人体的矩形区域，用<x1,y1,x2,y2,label>表示，其中<x1,y1>表示左上角坐标，<x2,y2>表示右下角坐标，label＝1表示黑板，label＝2表示人体。
模型训练：由于黑板和人体的矩形框比较大，此处采用一阶段的深度学习目标检测，针对教学录像场景物体的尺寸较为固定，在算法的参数设置过程可以将anchor的数目设置为1。
在优选的实施例中，深度学习目标检测模型包括YOLO v3。
对于输入教学录像视频，对图片中的每帧图像，利用训练好的深度学习目标检测模型，输出每帧图像中黑板区域的左上角坐标和右下角坐标；若每帧图像中包含人体，则同样输出人体区域的左上角坐标和右下角坐标。将每帧图像中检测到的人体矩形区域内的所有像素的值设置为0。将每帧图像中检测到黑板区域，将其对应的区域切割出来，并按照时间顺序进行排列，记为black_board_region_i，i＝1，2，…，n。
在具体的实施例中，从i＝1开始，采用尺度不变特征变换技术计算black_board_region_i和black_board_region_j之间的匹配点的数目；若相邻两张图像之间的匹配点数目小于设定阈值(设定阈值可以设置为矩形区域宽度的20％)，则将black_board_region_1，…，black_board_region_i归类为一组；然后从i+1开始，重复上述过程。对黑板区域图像分组后可以将每张板书内容进行区分，不同的板书内容所对应的黑板区域图像形成一组，便于后续对每组黑板区域图像的板书内容进行自动生成。
步骤S2，对每组黑板区域图像中的任意两张图像采用尺度不变特征描述子计算两两黑板区域图像之间的匹配点，基于匹配点构建目标优化函数，并采用高斯-牛顿迭代法求解出黑板区域图像内每个像素之间的两两映射关系。
在具体的实施例中，目标优化函数采用非线性最小二乘法构建，公式如下：
Figure BDA0002840061780000061
Figure BDA0002840061780000062
Figure BDA0002840061780000063
Figure BDA0002840061780000064
其中，I表示图像灰度值，θ为仿射变换矩阵，θ＝(a,b,c,d,e,f)，a、b、c、d、e、f分别为仿射变换的六个参数，pi和pj分别为所述黑板区域图像的像素点。
其中，高斯-牛顿迭代法(Gauss-Newton iteration method)是非线性回归模型中求回归参数进行最小二乘的一种迭代方法，主要是使用泰勒级数展开式去近似地代替非线性回归模型，然后通过多次迭代，多次修正回归系数，使回归系数不断通过通近非线性回归模型的最佳回归系数，最后使原模型的残差平方和达到最小。建立每组黑板区域图像内每个像素之间的两两映射关系，有利于内容的切割和融合。
步骤S3，获得每组黑板区域图像中包含文字的像素点，并基于像素点通过区域增长算法获得文字区域，选择每组黑板区域图像中的第一张图像作为输出结果的初始图像，基于初始图像计算文字区域的像素变化区域，通过映射关系将像素变化区域切割并填充到初始图像中，重复以上步骤遍历同一个组中的黑板区域图像，输出最终的板书内容。
在具体的实施例中，如图4所示，步骤S3具体包括：
S31，对每组黑板区域图像中的图像分别进行二值化处理，其中二值化的值为1表示文字的像素点；
S32，以黑板区域图像中的像素点为初始点，执行m次的膨胀操作，分别获得文字区域A和文字区域B，其中初始图像对应于文字区域A，除初始图像以外的其他任一黑板区域图像对应于文字区域B；以及
S33，对文字区域B和文字区域A进行集合的差运算，获得像素变化区域C。
进一步参考图5，作为对上述各图所示方法的实现，本申请提供了一种板书内容自动生成装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
本申请的实施例提出的一种板书内容自动生成装置包括：
黑板区域分组模块1，被配置为获取教学录像视频中每帧图像的黑板区域图像，采用尺度不变特征变换技术按照时间顺序依次计算一个时刻与其下一时刻的黑板区域图像之间的匹配点的数目，根据匹配点的数目对黑板区域图像进行分组。
在具体的实施例中，黑板区域分组模块1中的获取教学录像视频中每帧图像的黑板区域图像具体包括：
建立深度学习目标检测模型并进行训练，同时检测出每帧图像中的黑板区域和人体区域；
对每帧图像中的人体区域的所有像素的值设为0，将每帧图像中的黑板区域进行切割，并按照时间顺序排列形成黑板区域图像。
在具体的实施例中，对深度学习目标检测模型进行训练采用如下方式：
样本收集：收集大量包含黑板或者包含人体的图片，并标注出每张图片中黑板的矩形区域和人体的矩形区域，用<x1,y1,x2,y2,label>表示，其中<x1,y1>表示左上角坐标，<x2,y2>表示右下角坐标，label＝1表示黑板，label＝2表示人体。
模型训练：由于黑板和人体的矩形框比较大，此处采用一阶段的深度学习目标检测，针对教学录像场景物体的尺寸较为固定，在算法的参数设置过程可以将anchor的数目设置为1。
在优选的实施例中，深度学习目标检测模型包括YOLO v3。
对于输入教学录像视频，对图片中的每帧图像，利用训练好的深度学习目标检测模型，输出每帧图像中黑板区域的左上角坐标和右下角坐标；若每帧图像中包含人体，则同样输出人体区域的左上角坐标和右下角坐标。将每帧图像中检测到的人体矩形区域内的所有像素的值设置为0。将每帧图像中检测到黑板区域，将其对应的区域切割出来，并按照时间顺序进行排列，记为black_board_region_i，i＝1，2，…，n。
在具体的实施例中，从i＝1开始，采用尺度不变特征变换技术计算black_board_region_i和black_board_region_j之间的匹配点的数目；若相邻两张图像之间的匹配点数目小于设定阈值(设定阈值可以设置为矩形区域宽度的20％)，则将black_board_region_1，…,black_board_region_i归类为一组；然后从i+1开始，重复上述过程。对黑板区域图像分组后可以将每张板书内容进行区分，不同的板书内容所对应的黑板区域图像形成一组，便于后续对每组黑板区域图像的板书内容进行自动生成。
匹配点映射模块2，被配置为对每组黑板区域图像中的任意两张图像采用尺度不变特征描述子计算两两黑板区域图像之间的匹配点，基于匹配点构建目标优化函数，并采用高斯-牛顿迭代法求解出黑板区域图像内每个像素之间的两两映射关系。
在具体的实施例中，目标优化函数采用非线性最小二乘法构建，公式如下：
Figure BDA0002840061780000081
Figure BDA0002840061780000082
Figure BDA0002840061780000083
Figure BDA0002840061780000084
其中，I表示图像灰度值，θ为仿射变换矩阵，θ＝(a,b,c,d,e,f)，a、b、c、d、e、f分别为仿射变换的六个参数，pi和pj分别为所述黑板区域图像的像素点。
其中，高斯-牛顿迭代法(Gauss-Newton iteration method)是非线性回归模型中求回归参数进行最小二乘的一种迭代方法，主要是使用泰勒级数展开式去近似地代替非线性回归模型，然后通过多次迭代，多次修正回归系数，使回归系数不断通过通近非线性回归模型的最佳回归系数，最后使原模型的残差平方和达到最小。建立每组黑板区域图像内每个像素之间的两两映射关系，有利于内容的切割和融合。
板书内容输出模块3，被配置为获得每组黑板区域图像中包含文字的像素点，并基于像素点通过区域增长算法获得文字区域，选择每组黑板区域图像中的第一张图像作为输出结果的初始图像，基于初始图像计算文字区域的像素变化区域，通过映射关系将像素变化区域切割并填充到初始图像中，重复以上步骤遍历同一个组中的黑板区域图像，输出最终的板书内容。
在具体的实施例中，板书内容输出模块3具体包括：
对每组黑板区域图像中的图像分别进行二值化处理，其中二值化的值为1表示文字的像素点；
以黑板区域图像中的像素点为初始点，执行m次的膨胀操作，分别获得文字区域A和文字区域B，其中初始图像对应于文字区域A，除初始图像以外的其他任一黑板区域图像对应于文字区域B；以及
对文字区域B和文字区域A进行集合的差运算，获得像素变化区域C。
本发明提出了一种板书内容自动生成方法，通过获取教学录像视频中每帧图像的黑板区域图像，采用尺度不变特征变换技术按照时间顺序依次计算一个时刻与其下一时刻的黑板区域图像之间的匹配点的数目，根据匹配点的数目对黑板区域图像进行分组；对每组黑板区域图像中的任意两张图像采用尺度不变特征描述子计算两两黑板区域图像之间的匹配点，基于匹配点构建目标优化函数，并采用高斯-牛顿迭代法求解出黑板区域图像内每个像素之间的两两映射关系；获得每组黑板区域图像中包含文字的像素点，并基于像素点通过区域增长算法获得文字区域，选择每组黑板区域图像中的第一张图像作为输出结果的初始图像，基于初始图像计算文字区域的像素变化区域，通过映射关系将像素变化区域切割并填充到初始图像中，重复以上步骤遍历同一个组中的黑板区域图像，输出最终的板书内容。因此可以教学视频的每帧图像的黑板区域的文字进行融合，并获得教学视频中完整的板书信息。
下面参考图6，其示出了适于用来实现本申请实施例的电子设备(例如图1所示的服务器或终端设备)的计算机装置600的结构示意图。图6示出的电子设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。
如图6所示，计算机装置600包括中央处理单元(CPU)601和图形处理器(GPU)602，其可以根据存储在只读存储器(ROM)603中的程序或者从存储部分609加载到随机访问存储器(RAM)604中的程序而执行各种适当的动作和处理。在RAM 604中，还存储有装置600操作所需的各种程序和数据。CPU 601、GPU602、ROM 603以及RAM604通过总线605彼此相连。输入/输出(I/O)接口606也连接至总线605。
以下部件连接至I/O接口606：包括键盘、鼠标等的输入部分607；包括诸如、液晶显示器(LCD)等以及扬声器等的输出部分608；包括硬盘等的存储部分609；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分610。通信部分610经由诸如因特网的网络执行通信处理。驱动器611也可以根据需要连接至I/O接口606。可拆卸介质612，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器611上，以便于从其上读出的计算机程序根据需要被安装入存储部分609。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分610从网络上被下载和安装，和/或从可拆卸介质612被安装。在该计算机程序被中央处理单元(CPU)601和图形处理器(GPU)602执行时，执行本申请的方法中限定的上述功能。
需要说明的是，本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读介质或者是上述两者的任意组合。计算机可读介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的装置、装置或器件，或者任意以上的组合。计算机可读介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行装置、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行装置、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本申请各种实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的装置来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中。
作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：通过获取教学录像视频中每帧图像的黑板区域图像，采用尺度不变特征变换技术按照时间顺序依次计算一个时刻与其下一时刻的黑板区域图像之间的匹配点的数目，根据匹配点的数目对黑板区域图像进行分组；对每组黑板区域图像中的任意两张图像采用尺度不变特征描述子计算两两黑板区域图像之间的匹配点，基于匹配点构建目标优化函数，并采用高斯-牛顿迭代法求解出黑板区域图像内每个像素之间的两两映射关系；获得每组黑板区域图像中包含文字的像素点，并基于像素点通过区域增长算法获得文字区域，选择每组黑板区域图像中的第一张图像作为输出结果的初始图像，基于初始图像计算文字区域的像素变化区域，通过映射关系将像素变化区域切割并填充到初始图像中，重复以上步骤遍历同一个组中的黑板区域图像，输出最终的板书内容。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (10)

1.一种板书内容自动生成方法，其特征在于，包括以下步骤：
黑板区域分组步骤，获取教学录像视频中每帧图像的黑板区域图像，采用尺度不变特征变换技术按照时间顺序依次计算一个时刻与其下一时刻的所述黑板区域图像之间的匹配点的数目，根据所述匹配点的数目对所述黑板区域图像进行分组；
匹配点映射步骤，对每组所述黑板区域图像中的任意两张图像采用尺度不变特征描述子计算两两所述黑板区域图像之间的匹配点，基于所述匹配点构建目标优化函数，并采用高斯-牛顿迭代法求解出所述黑板区域图像内每个像素之间的两两映射关系；以及
板书内容输出步骤，获得每组所述黑板区域图像中包含文字的像素点，并基于所述像素点通过区域增长算法获得文字区域，选择每组所述黑板区域图像中的第一张图像作为输出结果的初始图像，基于所述初始图像计算所述文字区域的像素变化区域，通过所述映射关系将所述像素变化区域切割并填充到所述初始图像中，重复以上步骤遍历同一个组中的所述黑板区域图像，输出最终的板书内容。
2.根据权利要求1所述的板书内容自动生成方法，其特征在于，所述黑板区域分组步骤中的获取教学录像视频中每帧图像的黑板区域图像具体包括以下步骤：
建立深度学习目标检测模型并进行训练，同时检测出所述每帧图像中的黑板区域和人体区域；
对所述每帧图像中的所述人体区域的所有像素的值设为0，将所述每帧图像中的所述黑板区域进行切割，并按照时间顺序排列形成所述黑板区域图像。
3.根据权利要求2所述的板书内容自动生成方法，其特征在于，所述深度学习目标检测模型包括YOLO v3。
4.根据权利要求1所述的板书内容自动生成方法，其特征在于，所述黑板区域分组步骤中若所述匹配点的数目小于设定阈值，则将所述一个时刻以及所述一个时刻之前的所有黑板区域图像归类为一组。
5.根据权利要求1所述的板书内容自动生成方法，其特征在于，所述设定阈值设置为所述黑板区域图像宽度的20％。
6.根据权利要求1所述的板书内容自动生成方法，其特征在于，所述目标优化函数采用非线性最小二乘法构建，公式如下：
Figure FDA0002840061770000021
Figure FDA0002840061770000022
Figure FDA0002840061770000023
Figure FDA0002840061770000024
其中，I表示图像灰度值，θ为仿射变换矩阵，θ＝(a,b,c,d,e,f)，a、b、c、d、e、f分别为仿射变换的六个参数，pi和pj分别为所述黑板区域图像的像素点。
7.根据权利要求1所述的板书内容自动生成方法，其特征在于，所述板书内容输出步骤具体包括：
对每组所述黑板区域图像中的图像分别进行二值化处理，其中二值化的值为1表示文字的所述像素点；
以所述黑板区域图像中的所述像素点为初始点，执行m次的膨胀操作，分别获得文字区域A和文字区域B，其中所述初始图像对应于所述文字区域A，除所述初始图像以外的其他任一所述黑板区域图像对应于文字区域B；
对所述文字区域B和所述文字区域A进行集合的差运算，获得所述像素变化区域C。
8.一种板书内容自动生成装置，其特征在于，包括：
黑板区域分组模块，被配置为获取教学录像视频中每帧图像的黑板区域图像，采用尺度不变特征变换技术按照时间顺序依次计算一个时刻与其下一时刻的所述黑板区域图像之间的匹配点的数目，根据所述匹配点的数目对所述黑板区域图像进行分组；
匹配点映射模块，被配置为对每组所述黑板区域图像中的任意两张图像采用尺度不变特征描述子计算两两所述黑板区域图像之间的匹配点，基于所述匹配点构建目标优化函数，并采用高斯-牛顿迭代法求解出所述黑板区域图像内每个像素之间的两两映射关系；以及
板书内容输出模块，被配置为获得每组所述黑板区域图像中包含文字的像素点，并基于所述像素点通过区域增长算法获得文字区域，择每组所述黑板区域图像中的第一张图像作为输出结果的初始图像，基于所述初始图像计算所述文字区域的像素变化区域，通过所述映射关系将所述像素变化区域切割并填充到所述初始图像中，重复以上步骤遍历同一个组中的所述黑板区域图像，输出最终的板书内容。
9.一种电子设备，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一所述的方法。
CN202011488534.5A 2020-12-16 2020-12-16 一种板书内容自动生成方法和装置 Pending CN112507927A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011488534.5A CN112507927A (zh) 2020-12-16 2020-12-16 一种板书内容自动生成方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011488534.5A CN112507927A (zh) 2020-12-16 2020-12-16 一种板书内容自动生成方法和装置

Publications (1)

Publication Number Publication Date
CN112507927A true CN112507927A (zh) 2021-03-16

Family

ID=74972822

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011488534.5A Pending CN112507927A (zh) 2020-12-16 2020-12-16 一种板书内容自动生成方法和装置

Country Status (1)

Country Link
CN (1) CN112507927A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113326813A (zh) * 2021-07-08 2021-08-31 长春电子科技学院 数学课堂板书电子格式转换方法
CN113873292A (zh) * 2021-09-30 2021-12-31 联想(北京)有限公司 一种处理方法及电子设备
CN114898409A (zh) * 2022-07-14 2022-08-12 深圳市海清视讯科技有限公司 数据处理方法和设备
CN114945107A (zh) * 2022-04-15 2022-08-26 北京奕斯伟计算技术股份有限公司 视频处理方法和相关装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113326813A (zh) * 2021-07-08 2021-08-31 长春电子科技学院 数学课堂板书电子格式转换方法
CN113326813B (zh) * 2021-07-08 2022-10-21 长春电子科技学院 数学课堂板书电子格式转换方法
CN113873292A (zh) * 2021-09-30 2021-12-31 联想(北京)有限公司 一种处理方法及电子设备
CN114945107A (zh) * 2022-04-15 2022-08-26 北京奕斯伟计算技术股份有限公司 视频处理方法和相关装置
CN114945107B (zh) * 2022-04-15 2024-02-02 北京奕斯伟计算技术股份有限公司 视频处理方法和相关装置
CN114898409A (zh) * 2022-07-14 2022-08-12 深圳市海清视讯科技有限公司 数据处理方法和设备
CN114898409B (zh) * 2022-07-14 2022-09-30 深圳市海清视讯科技有限公司 数据处理方法和设备

Similar Documents

Publication Publication Date Title
CN112507927A (zh) 一种板书内容自动生成方法和装置
CN109766879B (zh) 字符检测模型的生成、字符检测方法、装置、设备及介质
CN108229303B (zh) 检测识别和检测识别网络的训练方法及装置、设备、介质
CN110458918B (zh) 用于输出信息的方法和装置
CN109308681B (zh) 图像处理方法和装置
US20190164250A1 (en) Method and apparatus for adding digital watermark to video
US20200134380A1 (en) Method for Updating Neural Network and Electronic Device
CN109255767B (zh) 图像处理方法和装置
CN109919209A (zh) 一种领域自适应深度学习方法及可读存储介质
CN115457531A (zh) 用于识别文本的方法和装置
CN113344826A (zh) 图像处理方法、装置、电子设备及存储介质
CN112183492A (zh) 一种人脸模型精度矫正方法、装置及存储介质
WO2023019995A1 (zh) 训练方法、译文展示方法、装置、电子设备以及存储介质
CN112686243A (zh) 智能识别图片文字的方法、装置、计算机设备及存储介质
CN112396032A (zh) 书写检测方法、装置、存储介质及电子设备
CN113411550B (zh) 视频上色方法、装置、设备及存储介质
CN111741329B (zh) 一种视频处理方法、装置、设备及存储介质
CN113657411A (zh) 神经网络模型的训练方法、图像特征提取方法及相关装置
CN113052143A (zh) 手写数字生成方法和装置
US10542176B2 (en) Enhancing graph visualization with supplemental data
CN115082800B (zh) 图像分割方法
CN112015936B (zh) 用于生成物品展示图的方法、装置、电子设备和介质
CN108921792B (zh) 用于处理图片的方法和装置
CN113762260A (zh) 一种版面图片的处理方法、装置、设备及存储介质
CN114187598A (zh) 手写数字识别方法、系统、设备及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination