CN112270319B - 一种事件标注方法、装置及电子设备 - Google Patents
一种事件标注方法、装置及电子设备 Download PDFInfo
- Publication number
- CN112270319B CN112270319B CN202011248229.9A CN202011248229A CN112270319B CN 112270319 B CN112270319 B CN 112270319B CN 202011248229 A CN202011248229 A CN 202011248229A CN 112270319 B CN112270319 B CN 112270319B
- Authority
- CN
- China
- Prior art keywords
- event
- elements
- area
- image
- preset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Biomedical Technology (AREA)
- Evolutionary Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Multimedia (AREA)
- Medical Informatics (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例提供了一种事件标注方法、装置及电子设备,涉及图像处理技术领域,上述方法包括:获得目标数据包含的事件元素所在的图像区域,作为元素区域,并获得表征图像中预设事件发生区域的界限信息;基于所获得的元素区域和界限信息,确定用于描述预设事件的事件描述区域,其中,事件描述区域包含多个事件元素,其中,多个事件元素之间的关联关系表征预设事件;基于事件描述区域和多个事件元素,生成事件标注数据。应用本发明实施例提供的方案生成事件标注数据,能够丰富事件标注数据所包含的信息。
Description
技术领域
本发明涉及图像处理技术领域,特别是涉及一种事件标注方法、装置及电子设备。
背景技术
随着技术的发展,基于机器学习的检测模型被广泛应用于各行各业,示例性的,事件检测模型可以用于对图像采集设备采集到的图像进行分析,以检测图像中的违章摆摊、违章停放、打架斗殴等事件。其中,事件为人为或自然因素导致的各种现象或行为。
为了提高事件检测模型检测事件的能力,需要使用包含有事件标注数据的样本图像对其进行训练。其中,一个样本图像的事件标注数据为对该样本图像所包含的事件进行事件标注所得到标注数据。例如,标注数据可以包括:图像中表示事件所对应图像区域的标注框、事件类型等类型的数据。
现有技术中,主要沿用物体检测中所使用的数据标注方案对图像中包含的事件进行事件标注。简单而言,物体检测中所使用的数据标注方案为将图像中包含的物体使用标注框进行标注,相应的,在进行事件标注时,将图像中包含的事件作为一个物体,使用标注框对该事件进行标注。
由于将图像中包含的事件作为一个物体时,标注框仅仅反映事件发生的图像区域,而事件发生的图像区域仅为事件在空间维度上的特征,因此,通过现有技术进行事件标注所得到的事件标注数据所包含的信息较为单一。
发明内容
本发明实施例的目的在于提供一种事件标注方法、装置及电子设备,以实现丰富事件标注数据所包含的信息。具体技术方案如下:
本发明实施例还提供了一种事件标注方法,包括:
获得目标数据包含的事件元素所在的图像区域,作为元素区域,并获得表征所述图像中预设事件描述区域的界限信息;
基于所获得的元素区域和所述界限信息,确定用于描述所述预设事件的事件描述区域,其中,所述事件描述区域包含多个事件元素,其中,所述多个事件元素之间的关联关系表征所述预设事件;
基于所述事件描述区域和所述多个事件元素,生成事件标注数据。
本发明的一个实施例中,所述界限信息包括:最小界限和最大界限;
所述基于所获得的元素区域和所述界限信息,确定包含多个事件元素的事件描述区域,包括:
从所述目标数据包含的事件元素中,筛选出元素区域位于所述最大界限对应的图像区域内的事件元素,作为预选元素;
基于筛选出的预选元素的元素区域与所述最小界限对应的图像区域之间的位置关系,从筛选出的预选元素中,确定用于描述所述预设事件的元素组合,其中,所述元素组合中包含的预选元素之间存在表征所述预设事件的关联关系;
确定包含所述元素组合内每个预选元素的元素区域的图像区域,作为事件描述区域。
本发明的一个实施例中,所述基于筛选出的预选元素的元素区域与所述最小界限对应的图像区域之间的位置关系,从筛选出的预选元素中,确定用于描述所述预设事件的元素组合,包括:
从筛选出的预选元素中,确定位于所述最小界限对应的图像区域内的多个主元素,以及确定不位于所述最小界限所对应的图像区域中的多个次元素;
基于所述多个主元素和所述多个次元素,构建用于表征所述预设事件的多个元素组合,其中,每个元素组合内至少包含所述多个主元素,且任意两个元素组合不同。
本发明的一个实施例中,所述获得目标数据包含的事件元素所在的图像区域,作为元素区域,包括:
基于预选训练的深度学习模型对目标数据中的事件元素进行事件元素检测,得到所述目标数据所包含事件元素所在的图像区域,作为预标记区域;
对所确定的预标记区域进行复检,得到所述目标数据所包含事件元素的复检后图像区域,作为元素区域。
本发明的一个实施例中,所述基于所述事件描述区域和所述多个事件元素,生成事件标注数据,包括:
基于所述事件描述区域,生成区域标注数据,且基于所述多个事件元素,生成元素标注数据;
所述方法还包括:
按照预设存储结构存储所述区域标注数据和所述元素标注数据。
本发明实施例还提供了一种事件标注装置,包括:
信息获得模块,用于获得目标数据包含的事件元素所在的图像区域,作为元素区域,并获得表征所述图像中预设事件描述区域的界限信息;
区域确定模块,用于基于所获得的元素区域和所述界限信息,确定用于描述所述预设事件的事件描述区域,其中,所述事件描述区域包含多个事件元素,其中,所述多个事件元素之间的关联关系表征所述预设事件;
数据生成模块,用于基于所述事件描述区域和所述多个事件元素,生成事件标注数据。
本发明的一个实施例中,所述界限信息包括:最小界限和最大界限;
所述数据生成模块,包括:
元素筛选子模块,用于从所述目标数据包含的事件元素中,筛选出元素区域位于所述最大界限对应的图像区域内的事件元素,作为预选元素;
元素确定子模块,用于基于筛选出的预选元素的元素区域与所述最小界限对应的图像区域之间的位置关系,从筛选出的预选元素中,确定用于描述所述预设事件的元素组合,其中,所述元素组合中包含的预选元素之间存在表征所述预设事件的关联关系;
区域确定子模块,用于确定包含所述元素组合内每个预选元素的元素区域的图像区域,作为事件描述区域。
本发明的一个实施例中,所述元素确定子模块,具体用于从筛选出的预选元素中,确定位于所述最小界限对应的图像区域内的多个主元素,以及确定不位于所述最小界限所对应的图像区域中的多个次元素;基于所述多个主元素和所述多个次元素,构建用于表征所述预设事件的多个元素组合,其中,每个元素组合内至少包含所述多个主元素,且任意两个元素组合不同。
本发明的一个实施例中,所述信息获得模块,具体用于基于预选训练的深度学习模型对目标数据中的事件元素进行事件元素检测,得到所述目标数据所包含事件元素所在的图像区域,作为预标记区域;对所确定的预标记区域进行复检,得到所述目标数据所包含事件元素的复检后图像区域,作为元素区域。
本发明的一个实施例中,所述数据生成模块,具体用于基于所述事件描述区域,生成区域标注数据,且基于所述多个事件元素,生成元素标注数据;
所述装置还包括:
存储模块,用于按照预设存储结构存储所述区域标注数据和所述元素标注数据。
本发明实施例还提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现上述任一所述的事件标注方法步骤。
本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述任一所述的事件标注方法步骤。
本发明实施例还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述任一所述的事件标注方法。
本发明实施例有益效果:
本发明实施例提供的一种事件标注数据的生成方法、装置及电子设备,可以获得目标数据包含的事件元素所在的图像区域,作为元素区域,并获得表征图像中预设事件描述区域的界限信息,并且基于所获得的元素区域和界限信息,确定用于描述预设事件的事件描述区域,其中,事件描述区域包含多个事件元素,其中,多个事件元素之间的关联关系表征预设事件,以及基于事件描述区域和多个事件元素,生成事件标注数据。由于事件标注数据是基于事件描述区域和描述区域包含的多个事件元素生成的,使得事件标注数据不仅包含有事件在空间维度上的特征,还包含组成事件的多个事件元素,从而丰富了事件标注数据所包含的信息。
当然,实施本发明的任一产品或方法并不一定需要同时达到以上所述的所有优点。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的实施例。
图1为本发明一个实施例提供的事件标注方法的流程图。
图2为本发明一个实施例提供的占道经营事件的示意图。
图3为本发明一个实施例提供的事件元素标注框的示意图。
图4为本发明一个实施例提供的界限标注框的示意图。
图5为本发明一个实施例提供的事件标注框示意图。
图6为本发明另一个实施例提供的事件标注方法的流程图。
图7为本发明又一个实施例提供的事件标注方法的流程图。
图8为本发明一个实施例提供的事件标注装置的结构示意图。
图9为本发明一个实施例提供的电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
为了清楚地阐述本发明实施例提供的技术方案,首先简单地对数据标注进行介绍,数据标注为对文本、图像、语音、视频等待标注数据进行归类、整理、编辑、纠错、标记和批注等操作,为待标注数据增加标签,生产满足机器学习训练要求的机器可读数据编码。简单而言数据标注是为了得到用于对机器学习模型进行训练的标注数据。
而对于本发明实施例而言,则是为了得到用于对基于机器学习的事件检测模型进行训练的事件标注数据。现有技术中,主要沿用物体检测中所使用的数据标注方案对图像中包含的事件进行事件标注,仅能得到事件的标注框。然而由于事件是一个抽象概念,其是通过不同事件元素之间的相互关系体现出来的,而将事件作为物体进行事件标注所得到的事件标注数据其仅能体现出事件在空间维度的特征,其包含的信息较为单一,并不能很好的体现出事件的本质特征。当使用现有技术所得到的事件标注数据对事件检测模型进行训练时,使得事件检测模型对于学习的目标不清晰,导致事件检测模型效果较差。
为了解决现有技术所存在的问题,本发明实施例提供的如图1所示的事件标注方法,如图1所示,该方法包括:
S101:获得目标数据包含的事件元素所在的图像区域,作为元素区域,并获得表征图像中预设事件发生区域的界限信息。
S102:基于所获得的元素区域和界限信息,确定用于描述预设事件的事件描述区域,其中,事件描述区域包含多个事件元素,其中,多个事件元素之间的关联关系表征预设事件。
S103:基于事件描述区域和多个事件元素,生成事件标注数据。
本发明实施例提供的如图1所示的事件标注方法,由于事件标注数据是基于事件描述区域和描述区域包含的多个事件元素生成的,使得事件标注数据不仅包含有事件在空间维度上的特征,还包含组成事件的多个事件元素,从而丰富了事件标注数据所包含的信息。
为了清楚地阐述本发明实施例的技术方案,下面分步骤阐述本发明实施例提供的如图1所示的事件标注方法。
针对步骤S101,上述目标数据可以为视频数据,视频数据中包括至少两帧视频帧。目标数据还可以为图像或单张视频帧。图像可以为用于对事件检测模型进行训练的样本图像,一般而言,为了对事件检测模型进行训练,图像中应当至少包含一个预设事件,示例性的,如图2所示,为占道经营事件的示意图。
上述事件指人为或自然因素导致的各种现象或行为,在城管场景中,所指事件可以包括上述提及的占道经营事件,还可以包括违章停放事件、打架斗殴事件等违反城市管理条例的事件,在灾难预防场景中,事件可以包括失火事件、倒塌事件等,在交通管理场景中,事件可以包括各类事故事件、堵车事件、超车事件等。
在一个实施例中,上述事件元素为构成事件的各独立单元,而针对不同的使用场景,构成事件的事件元素可以是不同的,如构成占道经营事件的事件元素可以包括人物、摊位等,而构成违章停放事件的事件元素可以包括人物、车辆等,又如构成发传单事件的事件元素可以包括人物、传单等。
在一个实施例中,事件元素所在的图像区域可以为包含有事件元素的最小区域,可选的,可以使用标注框标注出事件元素的所在的图像区域,如图3所示,为本发明实施例提供的事件元素标注框的示意图,图中事件元素为人物,图中矩形框为对检测到的人物添加的标注框,标注框所在的图像区域即为事件元素的所在的图像区域,可选的,还可以使用对角坐标表示事件元素的所在的图像区域,示例性的,如事件元素的对角坐标为{(x1,y1),(x2,y2)},则表示在图像中横坐标位于区间[x1,x2],纵坐标位于[y1,y2]的内的像素点所在的区域即为事件元素的所在的图像区域,可选的,还可以使用角坐标和图像区间的长和宽表示事件元素的所在的图像区域。
在一个实施例中,图像中包含的事件元素所在的图像区域可以为事先已确定的,也可以为通过预先训练完成的机器学习模型对图像进行检测所得到的,还可以是人工标注所得到的。
在一个实施例中,由于预设事件是由不同事件元素之间的关联关系所表征的,因此,预设事件的发生区域并不是唯一的,如在占道经营事件中,经营者和摊位之间可以构成占道经营事件,经营者、摊位和购买者之间也可以构成占道经营事件,经营者、摊位、购买者和围观者之间同样也可以认为构成了占道经营事件。
由于预设事件的发生区域并不是唯一的,而是具有一定的界限。可选的,表征图像中预设事件的发生区域的界限信息可以为图像中事件发生的最小界限,也可以为图像中事件发生的最大界限,还可以包括图像中预设事件的发生区域的最小界限和最大界限,其中,位于最小界限所对应的图像区域内的任意子图像区域均不能完整的构成该事件,当事件元素所在的图像区域位于最大界限所对应的图像区域之外时,则认为该事件元素与当前事件无关。
可选的,表征图像中预设事件的发生区域的界限信息可以使用界限标注框表示,如图4所示,为本发明实施例提供的界限标注框的示意图,图中,包含有两个界限标注框,其中,面积较小的为最小界限所对应的界限标注框,面积较大的为最大界限所对应的界限标注框。
在一个实施例中,图像中事件描述区域的界限信息可以为事先已确定的,也可以为通过预先训练完成的机器学习模型对图像进行检测所得到的,还可以为基于人工方式对图像中事件描述区域进行划分所得到的区域的信息。
针对步骤S102,在一个实施例中,事件描述区域为用于描述预设事件的事件描述区域,其中,事件描述区域包含多个事件元素,而这多个事件元素之间的关联关系表征预设事件。示例性的,在如图2所示示意图中,预设事件为占道经营事件,事件描述区域可以为经营者和摊位所在的区域,其中,占道经营事件正是经营者和摊位之间的关联关系所表征。
在一个实施例中,可以基于所获得的元素区域和界限信息确定出与图像内的与预设事件相关的事件元素,再基于与预设事件相关的事件元素的元素区块确定图像内的事件描述区域。
可选的,由于事件元素是构成预设事件的基本单元,因此,事件描述区域可以为包含构成预设事件的事件元素的最小区域,因此,当事件元素的元素区域使用标准框表示时,图像内的事件描述区域可以为覆盖组成图像中预设事件的事件元素的标注框的标注框。示例性的,如图5所示,为本发明实施例提供的事件标注框示意图,图5中示意的三个矩形框都可以用于描述该预设事件的发生,每个矩形标注框为一个事件描述区域,其中一个事件描述区域刚好等于最小界限框。。当事件元素的元素区域使用对角坐标表示时,可以确定出横坐标最小值和最大值,以及纵坐标最小值和最大值确定出事件描述区域。
针对步骤S103,在确定出事件描述区域和事件描述区域包含的多个事件元素后,可以将位于事件描述区域内的多个事件元素的元素区域与事件描述区域合并作为事件标注数据。
在一个实现方式中,还可以基于事件描述区域,生成区域标注数据,且基于事件描述区域内的多个事件元素,生成元素标注数据。
进一步的,可以将所得到的事件描述区域存储在预设的存储介质中。可选的,可以按照预设存储结构存储区域标注数据和元素标注数据。
进一步的,事件标注数据除上述元素区域和所确定的事件描述区域外,还可以包括各个元素区域和事件描述区域的标注。
下面结合本发明的一个具体实施例对本发明实施例进行阐述:
在一个实施例中,界限信息包括最小界限和最大界限,在如图1所示事件标注方法的基础上,如图6所示,本发明实施例还提供了一种事件标注方法,实现步骤S102,其中,该方法包括:
S601:从目标数据包含的事件元素中,筛选出元素区域位于最大界限对应的图像区域内的事件元素,作为预选元素。
其中,最大界限表示图像中预设事件发生的最大的发生区域,当事件元素所在的图像区域位于最大界限所对应的图像区域之外时,则认为该事件元素与预设事件无关。
在一种实现方式中,可以根据目标数据中各事件元素的元素区域的位置,筛选出元素区域位于最大界限对应的图像区域内的事件元素,作为预选元素。
上述筛选出的预选元素为与预设事件相关的事件元素,针对任一预选元素,可以使用其与其他预选元素之间的关联关系表征预设事件。
S602:基于筛选出的预选元素的元素区域与最小界限对应的图像区域之间的位置关系,从筛选出的预选元素中,确定用于描述预设事件的元素组合,其中,元素组合中包含的预选元素之间存在表征预设事件的关联关系。
其中,最小界限表示图像中预设事件发生的最小的发生区域,位于最小界限所对应的图像区域内的任意子图像区域均不能完整的构成该事件。简单而言,只要位于最小界限所对应的图像区域内的所有事件元素之间的关联关系才可以完整的表征预设事件。
可选的,可以基于筛选出的预选元素的元素区域与最小界限对应的图像区域之间的位置关系,确定各预选元素中位于最小界限对应的图像区域之内的预选元素,位于最小界限对应的图像区域之内的所有预选元素之间的关联关系可以表征出预设事件。因此,位于最小界限对应的图像区域之内的所有预选元素可以组成最小的元素组合。
进一步的,可以基于确定的最小的元素组合和未位于最小界限对应的图像区域之内的预选元素组成不同的元素组合,这些元素组合中包含的预选元素之间均存在表征预设事件的关联关系。
在一种实现方式中,可以从筛选出的预选元素中,确定位于最小界限对应的图像区域内的多个主元素,以及确定不位于最小界限所对应的图像区域中的多个次元素;基于多个主元素和多个次元素,构建用于表征预设事件的多个元素组合,其中,每个元素组合内至少包含多个主元素,且任意两个元素组合不同。
示例性的,当预设事件为占道经营事件时,主元素可以包括经营者和摊位,而次元素可以包括购买者或观察者。从而所生成的每个元素组合中至少包括经营者和摊位,还可以包括购买者和/或观察者。
S603:确定包含元素组合内每个预选元素的元素区域的图像区域,作为事件描述区域。
本步骤中,针对每一个所确定出的元素组合,均可以确定与该元素组合对应的事件描述区域。当事件元素的元素区域使用标准框表示时,与每一元素组合对应的事件描述区域可以为覆盖该元素组合中事件元素的标注框的最小标注框。当事件元素的元素区域使用对角坐标表示时,可以确定元素组合中所有事件元素中横坐标最小值和最大值,以及纵坐标最小值和最大值确定出事件描述区域。
本发明实施例提供的如图6所示的事件标注方法,在如图1所示事件标注方法的有益效果的基础,可以直接基于元素区域和界限信息确定出图像内的事件描述区域,提供了一种根据元素区域确定事件描述区域的方法。进一步的,通过元素区域和界限信息,可以全面地确定出图像中的事件描述区域,使得可以得到的大量的事件标注数据,可以提升训练事件检测模型训练的效果。
在如图1所示事件标注方法的基础上,如图7所示,本发明实施例还提供了一种事件标注方法,实现步骤S101,其中,该方法包括:
S701:基于预选训练的深度学习模型对目标数据中的事件元素进行事件元素检测,得到目标数据所包含事件元素所在的图像区域,作为预标记区域。
本步骤中,可以将目标数据输入至预选训练的用于进行事件元素检测的深度学习模型,得到预标记区域。
可选的,上述深度学习模型可以为CNN(Convolutional Neural Networ,卷积神经网络)、GCN(Graph Convolutional Network,图卷积网络)、TagProp(标签道具)等。
S702:对所确定的预标记区域进行复检,得到目标数据所包含事件元素的复检后图像区域,作为元素区域。
本步骤中,通过预选训练的深度学习模型得到的预标记区域可能存在错误,如在不包含事件元素的区域存在预标记区域,或者在包含事件元素的区域不存在预标记区域,或者包含事件元素的区域与预标记区域存在较大的偏差,因此,对所确定的预标记区域进行复检,将在不包含事件元素的区域存在预标记区域删除,在包含事件元素的区域不存在预标记区域增添图像区域,或者将与事件元素所在区域存在较大偏差的预标记区域进行调整。
可选的,对所确定的预标记区域进行复检的方式可以为人工检测方式。
本发明实施例提供的如图7所示的事件标注方法,在如图1所示事件标注方法的有益效果的基础,通过预选训练的深度学习模型检测事件元素所在的图像区域,并通过对得到的图像所包含事件元素所在的图像区域进行复检,可以使得得到的元素所在的图像区域更准确。
基于同一发明构思,根据本发明实施例提供的事件标注方法,如图8所示,本发明实施例还提供了一种事件标注装置,该装置包括:
信息获得模块801,用于获得目标数据包含的事件元素所在的图像区域,作为元素区域,并获得表征图像中预设事件描述区域的界限信息;
区域确定模块802,用于基于所获得的元素区域和界限信息,确定用于描述预设事件的事件描述区域,其中,事件描述区域包含多个事件元素,其中,多个事件元素之间的关联关系表征预设事件;
数据生成模块803,用于基于事件描述区域和多个事件元素,生成事件标注数据。
本发明的一个实施例中,界限信息包括:最小界限和最大界限;
数据生成模块,包括:
元素筛选子模块,用于从目标数据包含的事件元素中,筛选出元素区域位于最大界限对应的图像区域内的事件元素,作为预选元素;
元素确定子模块,用于基于筛选出的预选元素的元素区域与最小界限对应的图像区域之间的位置关系,从筛选出的预选元素中,确定用于描述预设事件的元素组合,其中,元素组合中包含的预选元素之间存在表征预设事件的关联关系;
区域确定子模块,用于确定包含元素组合内每个预选元素的元素区域的图像区域,作为事件描述区域。
本发明的一个实施例中,元素确定子模块,具体用于从筛选出的预选元素中,确定位于最小界限对应的图像区域内的多个主元素,以及确定不位于最小界限所对应的图像区域中的多个次元素;基于多个主元素和多个次元素,构建用于表征预设事件的多个元素组合,其中,每个元素组合内至少包含多个主元素,且任意两个元素组合不同。
本发明的一个实施例中,信息获得模块,具体用于基于预选训练的深度学习模型对目标数据中的事件元素进行事件元素检测,得到目标数据所包含事件元素所在的图像区域,作为预标记区域;对所确定的预标记区域进行复检,得到目标数据所包含事件元素的复检后图像区域,作为元素区域。
本发明的一个实施例中,数据生成模块,具体用于基于事件描述区域,生成区域标注数据,且基于多个事件元素,生成元素标注数据;
装置还包括:
存储模块,用于按照预设存储结构存储区域标注数据和元素标注数据。
本发明实施例提供的如图8所示的事件标注装置,由于事件标注数据是基于事件描述区域和描述区域包含的多个事件元素生成的,使得事件标注数据不仅包含有事件在空间维度上的特征,还包含组成事件的多个事件元素,从而丰富了事件标注数据所包含的信息。
本发明实施例还提供了一种电子设备,如图9所示,包括处理器901、通信接口902、存储器903和通信总线904,其中,处理器901,通信接口902,存储器903通过通信总线904完成相互间的通信,
存储器903,用于存放计算机程序;
处理器901,用于执行存储器903上所存放的程序时,实现如下步骤:
获得目标数据包含的事件元素所在的图像区域,作为元素区域,并获得表征所述图像中预设事件发生区域的界限信息;
基于所获得的元素区域和所述界限信息,确定用于描述所述预设事件的事件描述区域,其中,所述事件描述区域包含多个事件元素,其中,所述多个事件元素之间的关联关系表征所述预设事件;
基于所述事件描述区域和所述多个事件元素,生成事件标注数据。
本发明实施例提供的如图9所示的电子设备,由于事件标注数据是基于事件描述区域和描述区域包含的多个事件元素生成的,使得事件标注数据不仅包含有事件在空间维度上的特征,还包含组成事件的多个事件元素,从而丰富了事件标注数据所包含的信息。
需要说明的是,上述电子设备实现基于固态硬盘的指令响应的其他实施例,与前述方法实施例部分提及的滤波方法相同,在此不再赘述。
上述电子设备提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect,PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture,EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述电子设备与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory,RAM),也可以包括非易失性存储器(Non-Volatile Memory,NVM),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital SignalProcessing,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本发明提供的又一实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述任一事件标注方法的步骤。
在本发明提供的又一实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述实施例中任一事件标注方法。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置、电子设备、计算机可读存储介质和计算机程序产品实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。
Claims (10)
1.一种事件标注方法,其特征在于,包括:
获得目标数据包含的事件元素所在的图像区域,作为元素区域,并获得表征所述图像中预设事件发生区域的界限信息;
基于所获得的元素区域和所述界限信息,确定用于描述所述预设事件的事件描述区域,其中,所述事件描述区域包含多个事件元素,其中,所述多个事件元素之间的关联关系表征所述预设事件;所述界限信息包括:最小界限和最大界限;
基于所述事件描述区域和所述多个事件元素,生成事件标注数据;
所述基于所获得的元素区域和所述界限信息,确定包含多个事件元素的事件描述区域,包括:
从所述目标数据包含的事件元素中,筛选出元素区域位于所述最大界限对应的图像区域内的事件元素,作为预选元素;
基于筛选出的预选元素的元素区域与所述最小界限对应的图像区域之间的位置关系,从筛选出的预选元素中,确定用于描述所述预设事件的元素组合,其中,所述元素组合中包含的预选元素之间存在表征所述预设事件的关联关系;
确定包含所述元素组合内每个预选元素的元素区域的图像区域,作为事件描述区域。
2.根据权利要求1所述的方法,其特征在于,所述基于筛选出的预选元素的元素区域与所述最小界限对应的图像区域之间的位置关系,从筛选出的预选元素中,确定用于描述所述预设事件的元素组合,包括:
从筛选出的预选元素中,确定位于所述最小界限对应的图像区域内的多个主元素,以及确定不位于所述最小界限所对应的图像区域中的多个次元素;
基于所述多个主元素和所述多个次元素,构建用于表征所述预设事件的多个元素组合,其中,每个元素组合内至少包含所述多个主元素,且任意两个元素组合不同。
3.根据权利要求1-2任一项所述的方法,其特征在于,所述获得目标数据包含的事件元素所在的图像区域,作为元素区域,包括:
基于预选训练的深度学习模型对目标数据中的事件元素进行事件元素检测,得到所述目标数据所包含事件元素所在的图像区域,作为预标记区域;
对所确定的预标记区域进行复检,得到所述目标数据所包含事件元素的复检后图像区域,作为元素区域。
4.根据权利要求1所述的方法,其特征在于,所述基于所述事件描述区域和所述多个事件元素,生成事件标注数据,包括:
基于所述事件描述区域,生成区域标注数据,且基于所述多个事件元素,生成元素标注数据;
所述方法还包括:
按照预设存储结构存储所述区域标注数据和所述元素标注数据。
5.一种事件标注装置,其特征在于,包括:
信息获得模块,用于获得目标数据包含的事件元素所在的图像区域,作为元素区域,并获得表征所述图像中预设事件描述区域的界限信息;
区域确定模块,用于基于所获得的元素区域和所述界限信息,确定用于描述所述预设事件的事件描述区域,其中,所述事件描述区域包含多个事件元素,其中,所述多个事件元素之间的关联关系表征所述预设事件;所述界限信息包括:最小界限和最大界限;
数据生成模块,用于基于所述事件描述区域和所述多个事件元素,生成事件标注数据;
所述区域确定模块,包括:
元素筛选子模块,用于从所述目标数据包含的事件元素中,筛选出元素区域位于所述最大界限对应的图像区域内的事件元素,作为预选元素;
元素确定子模块,用于基于筛选出的预选元素的元素区域与所述最小界限对应的图像区域之间的位置关系,从筛选出的预选元素中,确定用于描述所述预设事件的元素组合,其中,所述元素组合中包含的预选元素之间存在表征所述预设事件的关联关系;
区域确定子模块,用于确定包含所述元素组合内每个预选元素的元素区域的图像区域,作为事件描述区域。
6.根据权利要求5所述的装置,其特征在于,所述元素确定子模块,具体用于从筛选出的预选元素中,确定位于所述最小界限对应的图像区域内的多个主元素,以及确定不位于所述最小界限所对应的图像区域中的多个次元素;基于所述多个主元素和所述多个次元素,构建用于表征所述预设事件的多个元素组合,其中,每个元素组合内至少包含所述多个主元素,且任意两个元素组合不同。
7.根据权利要求5-6任一项所述的装置,其特征在于,所述信息获得模块,具体用于基于预选训练的深度学习模型对目标数据中的事件元素进行事件元素检测,得到所述目标数据所包含事件元素所在的图像区域,作为预标记区域;对所确定的预标记区域进行复检,得到所述目标数据所包含事件元素的复检后图像区域,作为元素区域。
8.根据权利要求5所述的装置,其特征在于,所述数据生成模块,具体用于基于所述事件描述区域,生成区域标注数据,且基于所述多个事件元素,生成元素标注数据;
所述装置还包括:
存储模块,用于按照预设存储结构存储所述区域标注数据和所述元素标注数据。
9.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现权利要求1-4任一所述的方法步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1-4任一所述的方法步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011248229.9A CN112270319B (zh) | 2020-11-10 | 2020-11-10 | 一种事件标注方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011248229.9A CN112270319B (zh) | 2020-11-10 | 2020-11-10 | 一种事件标注方法、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112270319A CN112270319A (zh) | 2021-01-26 |
CN112270319B true CN112270319B (zh) | 2023-09-05 |
Family
ID=74339436
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011248229.9A Active CN112270319B (zh) | 2020-11-10 | 2020-11-10 | 一种事件标注方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112270319B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113852788A (zh) * | 2021-09-03 | 2021-12-28 | 泰华智慧产业集团股份有限公司 | 一种基于视频智能分析的城市管理系统 |
CN115223099A (zh) * | 2022-08-02 | 2022-10-21 | 上海三力信息科技有限公司 | 一种托育儿童在校安全智慧监护方法 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104376580A (zh) * | 2014-11-21 | 2015-02-25 | 西安理工大学 | 一种视频摘要中非关注区域事件的处理方法 |
CN108985214A (zh) * | 2018-07-09 | 2018-12-11 | 上海斐讯数据通信技术有限公司 | 图像数据的标注方法和装置 |
CN109858869A (zh) * | 2018-12-21 | 2019-06-07 | 厦门市美亚柏科信息股份有限公司 | 用于处理事件信息的方法和装置 |
CN110008445A (zh) * | 2019-03-08 | 2019-07-12 | 阿里巴巴集团控股有限公司 | 事件抽取方法及装置、电子设备 |
CN110232713A (zh) * | 2019-06-13 | 2019-09-13 | 腾讯数码(天津)有限公司 | 一种图像目标定位修正方法及相关设备 |
CN110598743A (zh) * | 2019-08-12 | 2019-12-20 | 北京三快在线科技有限公司 | 一种目标对象的标注方法和装置 |
CN110651276A (zh) * | 2017-03-17 | 2020-01-03 | 纽拉拉股份有限公司 | 标注和标记用于深度神经网络和神经网络应用的数据流的在线增量实时学习 |
CN110993064A (zh) * | 2019-11-05 | 2020-04-10 | 北京邮电大学 | 面向深度学习的医学影像标注方法及装置 |
CN111639284A (zh) * | 2020-05-29 | 2020-09-08 | 深圳壹账通智能科技有限公司 | 网页标注方法、装置、电子设备及介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108734739A (zh) * | 2017-04-25 | 2018-11-02 | 北京三星通信技术研究有限公司 | 用于时间对齐标定、事件标注、数据库生成的方法及装置 |
-
2020
- 2020-11-10 CN CN202011248229.9A patent/CN112270319B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104376580A (zh) * | 2014-11-21 | 2015-02-25 | 西安理工大学 | 一种视频摘要中非关注区域事件的处理方法 |
CN110651276A (zh) * | 2017-03-17 | 2020-01-03 | 纽拉拉股份有限公司 | 标注和标记用于深度神经网络和神经网络应用的数据流的在线增量实时学习 |
CN108985214A (zh) * | 2018-07-09 | 2018-12-11 | 上海斐讯数据通信技术有限公司 | 图像数据的标注方法和装置 |
CN109858869A (zh) * | 2018-12-21 | 2019-06-07 | 厦门市美亚柏科信息股份有限公司 | 用于处理事件信息的方法和装置 |
CN110008445A (zh) * | 2019-03-08 | 2019-07-12 | 阿里巴巴集团控股有限公司 | 事件抽取方法及装置、电子设备 |
CN110232713A (zh) * | 2019-06-13 | 2019-09-13 | 腾讯数码(天津)有限公司 | 一种图像目标定位修正方法及相关设备 |
CN110598743A (zh) * | 2019-08-12 | 2019-12-20 | 北京三快在线科技有限公司 | 一种目标对象的标注方法和装置 |
CN110993064A (zh) * | 2019-11-05 | 2020-04-10 | 北京邮电大学 | 面向深度学习的医学影像标注方法及装置 |
CN111639284A (zh) * | 2020-05-29 | 2020-09-08 | 深圳壹账通智能科技有限公司 | 网页标注方法、装置、电子设备及介质 |
Non-Patent Citations (1)
Title |
---|
徐雷 等.叙事型图像语义标注模型研究.《中国图书馆学报》.2017,第43卷(第231期),全文. * |
Also Published As
Publication number | Publication date |
---|---|
CN112270319A (zh) | 2021-01-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11455805B2 (en) | Method and apparatus for detecting parking space usage condition, electronic device, and storage medium | |
CN112270319B (zh) | 一种事件标注方法、装置及电子设备 | |
CN112200081A (zh) | 异常行为识别方法、装置、电子设备及存储介质 | |
CN111144215A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN112686595A (zh) | 物流操作违规行为的检测方法、装置、设备和存储介质 | |
CN110969600A (zh) | 一种产品缺陷检测方法、装置、电子设备及存储介质 | |
DE102018109276A1 (de) | Bildhintergrundsubtraktion für dynamische beleuchtungsszenarios | |
CN114626477A (zh) | 一种目标检测方法、装置及设备 | |
CN111401228A (zh) | 视频目标标注方法、装置及电子设备 | |
CN112734046A (zh) | 模型训练及数据检测方法、装置、设备及介质 | |
CN113516251B (zh) | 一种机器学习系统及模型训练方法 | |
CN110807493A (zh) | 一种车辆分类模型的优化方法及设备 | |
CN110969602B (zh) | 一种图像清晰程度检测方法及装置 | |
CN113095178A (zh) | 不良信息检测方法、系统、电子设备和可读存储介质 | |
CN112686298A (zh) | 一种目标检测方法、装置及电子设备 | |
CN112434585A (zh) | 一种车道线的虚实识别方法、系统、电子设备及存储介质 | |
CN106682595A (zh) | 一种图像内容标注方法和装置 | |
CN113591885A (zh) | 目标检测模型训练方法、设备及计算机存储介质 | |
CN114708582B (zh) | 基于ai和rpa的电力数据智慧稽查方法及装置 | |
CN112289026B (zh) | 一种车辆路径还原方法、设备及介质 | |
CN111767937A (zh) | 目标检测模型训练方法、装置、电子设备及存储介质 | |
CN117710756B (zh) | 一种目标检测及模型训练方法、装置、设备、介质 | |
CN116578438B (zh) | 一种适老化改造的自动化检测方法及装置 | |
CN117808816B (zh) | 图像异常检测方法、装置及电子设备 | |
CN111177501B (zh) | 一种标签处理方法、装置及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |