CN111105434A - 运动轨迹合成方法及电子设备 - Google Patents
运动轨迹合成方法及电子设备 Download PDFInfo
- Publication number
- CN111105434A CN111105434A CN201811250802.2A CN201811250802A CN111105434A CN 111105434 A CN111105434 A CN 111105434A CN 201811250802 A CN201811250802 A CN 201811250802A CN 111105434 A CN111105434 A CN 111105434A
- Authority
- CN
- China
- Prior art keywords
- image
- images
- frame
- motion
- grid
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000033001 locomotion Effects 0.000 title claims abstract description 119
- 238000001308 synthesis method Methods 0.000 title claims abstract description 32
- 238000000034 method Methods 0.000 claims abstract description 20
- 230000002194 synthesizing effect Effects 0.000 claims abstract description 8
- 238000012216 screening Methods 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 6
- 230000015572 biosynthetic process Effects 0.000 abstract description 19
- 238000003786 synthesis reaction Methods 0.000 abstract description 19
- 230000000694 effects Effects 0.000 abstract description 7
- 230000008859 change Effects 0.000 abstract description 4
- 238000012545 processing Methods 0.000 abstract description 3
- 230000008569 process Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 238000013461 design Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/2228—Video assist systems used in motion picture production, e.g. video cameras connected to viewfinders of motion picture cameras or related video signal processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30241—Trajectory
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例涉及图像处理技术领域,公开了一种运动轨迹合成方法及电子设备。本发明实施方式中,运动轨迹合成方法包括:获取多帧图像;其中,多帧图像按照采集时间排列;根据预设方式将多帧图像分别划分成多个栅格区域;从多帧图像中选择满足预设条件的若干帧图像;其中,预设条件包括,若干帧图像均包含运动主体且任意两帧图像中的运动主体所占的栅格区域不重叠;根据选取的若干帧图像合成所述运动主体的运动轨迹。本发明实施例还提供一种电子设备,本发明实施例利用栅格法筛选出用于合成的图像,不受运动主体的运动快慢、运动方向、运动主体大小变化的影响,都可以使得合成后的运动轨迹中运动主体不发生重叠,合成效果较好。
Description
技术领域
本发明实施例涉及图像处理技术领域,特别涉及运动轨迹合成方法及电子设备。
背景技术
针对运动主体的场景拍照、摄像是相机拍照的常用生活场景之一。精彩的运动场景总是稍纵即逝,比如篮球比赛时灌篮动作、足球比赛时带球射门、跳高、跳远等过程,运动主体活动时会产生一个运动剪影,将多幅运动图像合成到一幅图像中,就可以合成一系列的运动主体的运动轨迹剪影图像。
发明人发现背景技术中至少存在如下问题:运动主体的运动速度快慢不同,运动方向不定,运动主体的大小不同,合成的图像中可能会出现运动主体的重叠在一起,看不清完整运动主体的动作,如图1所示,因此合成效果并不是很好。
发明内容
本发明实施方式的目的在于提供一种运动轨迹合成方法及电子设备,可以使得合成后的运动轨迹中运动主体不发生重叠,合成效果较好。
为解决上述技术问题,本发明的实施方式提供了一种运动轨迹合成方法,包括:获取多帧图像;其中,所述多帧图像按照采集时间排列;根据预设方式将所述多帧图像划分成多个栅格区域;从所述多帧图像中选择满足预设条件的若干帧图像;其中,所述预设条件包括,所述若干帧图像均包含运动主体且任意两帧图像中的运动主体所占的栅格区域不重叠;根据选取的所述若干帧图像合成所述运动主体的运动轨迹。
本发明的实施方式还提供了一种电子设备,包括:至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;与所述至少一处理器和所述存储器连接的摄像头;其中,所述摄像头用于采集图像;所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述运动轨迹合成方法。
本发明的实施方式还提供了一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时实现上述运动轨迹合成方法。
本发明实施方式相对于现有技术而言,根据预设方式将图像划分成多个栅格区域;从多帧图像中选择满足预设条件的若干帧图像进行合成,其中,预设条件包括,图像包含运动主体且任意两帧图像中的运动主体所占的栅格区域不重叠。因此,利用栅格法筛选出用于合成的图像,不受运动主体的运动快慢、运动方向、运动主体大小变化的影响,都可以使得合成后的运动轨迹中运动主体不发生重叠,合成效果较好。
附图说明
一个或多个实施例通过与之对应的附图中的图片进行示例性说明,这些示例性说明并不构成对实施例的限定,附图中具有相同参考数字标号的元件表示为类似的元件,除非有特别申明,附图中的图不构成比例限制。
图1是现有技术中合成的运动轨迹的示意图;
图2是根据本发明第一实施例的运动轨迹合成方法的流程图;
图3是根据本发明第一实施例中合成的运动轨迹的示意图;
图4是根据本发明第二实施例的运动轨迹合成方法的流程图;
图5是根据本发明第三实施例的运动轨迹合成方法的流程图;
图6是根据本发明第三实施例中划分出的栅格区域的示意图;
图7是根据本发明第三实施例中子步骤3032中筛选方式的流程图;
图8是根据本发明第四实施例中子步骤3032中筛选方式的流程图;
图9是根据本发明第五实施例的运动轨迹合成方法的流程图;
图10是根据本发明第六实施例的电子设备的示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的各实施方式进行详细的阐述。然而,本领域的普通技术人员可以理解,在本发明各实施方式中,为了使读者更好地理解本申请而提出了许多技术细节。但是,即使没有这些技术细节和基于以下各实施方式的种种变化和修改,也可以实现本申请所要求保护的技术方案。
本发明的第一实施方式涉及一种运动轨迹合成方法。具体流程如图2所示。
步骤101,获取多帧图像;其中,多帧图像按照采集时间排列;
步骤102,根据预设方式将多帧图像分别划分成多个栅格区域;
步骤103,从多帧图像中选择满足预设条件的若干帧图像;其中,预设条件包括,若干帧图像均包含运动主体且任意两帧图像中的运动主体所占的栅格区域不重叠;
步骤104,根据选取的若干帧图像合成运动主体的运动轨迹。
本实施方式相对于现有技术而言,本发明实施方式相对于现有技术而言,根据预设方式将图像划分成多个栅格区域;从多帧图像中选择满足预设条件的若干帧图像进行合成,其中,预设条件包括,图像包含运动主体且任意两帧图像中的运动主体所占的栅格区域不重叠。因此,利用栅格法筛选出用于合成的图像,不受运动主体的运动快慢、运动方向、运动主体大小变化的影响,都可以使得合成后的运动轨迹中运动主体不发生重叠,合成效果较好。
下面对本实施方式的运动轨迹合成方法的实现细节进行具体的说明,以下内容仅为方便理解提供的实现细节,并非实施本方案的必须。
本实施方式的运动轨迹合成方法可以应用于电子设备,且该电子设备例如为个人电脑、手机等,不以此为限。请一并参考图2和图3,其中图3为本实施例中合成后的运动轨迹的示意图。
在步骤101中,电子设备可以通过摄像头采集多帧图像;该摄像头可以是集成在电子设备上的,也可以是外接的。摄像头可以以预设频率采集图像,其中,可以预设采集的图像的帧数,例如,预设60帧,则摄像头以预设频率采集60帧图像;或者,可以预设采集图像的时间,例如预设10秒,则摄像头以预设频率采集图像,到达10秒后就停止采集,采集到的图像的数量跟预设的时间和预设频率有关。采集的多帧图像按照采集时间排列。
在步骤102中,可以按照该预设方式将每帧图像都划分成多个栅格区域。图3中由虚线划分的各区域即为栅格区域。
预设方式可以根据需要设定。例如,预设了将图像分成X个栅格区域,则根据图像的宽度W和高度h,计算出每个栅格区域宽度W1和高度h1,然后再进行栅格划分,其中,图像的宽度W和高度h可以根据采集的图像计算出来,也可以提前预设;或者,预设了每个栅格区域的宽度W1和高度h1,此时可以进行栅格划分;以上仅为举例,并不以此为限。其中,成X为大于0的整数,在图像大小不变的情况下,X越大,划分出的栅格区域越小。
其中,由于每帧图像的拍摄背景都是相同的(即使拍摄时出现抖动导致背景略有差别,也可以通过校准来使得背景对位),因此,当映射到同一个坐标系中时,每帧图像所占的总区域是相同的,即,每帧图像按照预设方式被划分栅格后,具有相同数量的栅格区域,且对应的栅格区域的坐标位置是相同的;例如,将每帧图像的各栅格区域按照相同顺序编码(例如从第一排到最后一排,并以从左到右的顺序,依次编码),各帧图像中编码相同的栅格区域即为对应的栅格区域。
步骤103可以以如下方式实现。
首先,按照排列顺序,依次对每帧图像都进行运动识别,并识别出包含运动主体的图像,识别出的包含运动主体的图像也按照采集时间依次排列;其中,运动识别可以采用现有技术中的根据特征点提取匹配等方法,此处不再详述。假设,采集到的60帧图像中,只有第6帧图像~第45帧图像中包含运动主体,而第1帧图像~第5帧图像、第46帧图像~第60帧图像中不包含运动主体,则可以仅保存第6帧图像~第45帧图像,且可以将第1帧图像~第5帧图像、第46帧图像~第60帧图像丢弃掉(即删除)。
其次,对于包含运动主体的图像,确定各图像中运动主体所占的栅格区域,并从这些包含运动主体的图像中选取若干帧图像,若干帧图像中任意两帧图像中的运动主体所占的栅格区域不重叠。具体的,例如可以为每个栅格区域编号;然后先选定一帧图像,确定选定的该图像中运动主体所占栅格区域的编号,选定的图像被认为是满足预设条件的图像,如上面的例子中,可以选定第6帧图像,且确认第6帧图像中运动主体所占栅格区域的编号为1、2,其中,第6帧图像被认为是满足预设条件的图像;然后按照图像的排列顺序对各图像中的运动主体所占的栅格区域分别进行判断,如上面的例子中,对第7帧图像~第45帧图像依次进行筛选,假设第7帧图像中运动主体所占栅格区域的编号为3、4,则判断出第7帧图像中运动主体所占栅格区域与第6帧图像中运动主体所占栅格区域不重叠(编号3、4的栅格区域和编号1、2的栅格区域不重叠),因此第7帧图像被认为是满足预设条件的图像;第8帧图像中运动主体所占栅格区域的编号为4、6、7,则判断出第8帧图像中运动主体所占栅格区域与第7帧图像中运动主体所占栅格区域发生重叠(第8帧图像和第7帧图像都占用了编号4的栅格区域),因此,第8帧图像不是满足预设条件的图像,可以将其丢弃;第9帧图像中运动主体所占栅格区域的编号为7、9、10,则判断出第9帧图像中运动主体所占栅格区域与第6帧图像、第7帧图像中运动主体所占栅格区域均不重叠(编号7、9、10的栅格区域和编号1~4的栅格区域不重叠),因此,第9帧图像可以被认为是满足预设条件的图像;以此类推,直至对第45帧图像筛选完毕。从而,筛选出的若干帧图像中任意两帧图像中的运动主体所占的栅格区域不重叠。其中,选定的图像可以根据需要设置,可以将包含运动主体的图像中的任一帧图像作为选定的图像,例如,将第1帧图像作为选定的图像(如上述例子中的第6帧图像)。
或者,步骤103还可以以如下方式实现。按照排列顺序,依次对每帧图像都进行运动识别并在识别出包含运动主体的图像时,确定该图像中的运动主体所占的栅格区域,并判断该图像中的运动主体所占的栅格区域是否与其他图像中的运动主体所占的栅格区域重叠。如上面的例子中,对第1帧图像~第5帧图像依次进行运动识别,均未识别出运动主体,则将第1帧图像~第5帧图像丢弃;对第6帧图像进行运动识别且识别出了运动主体,并确定出运动主体所占的栅格区域的编号为1、2,由于第6帧图像是第一个识别出包含运动主体的,因此将第6帧图像认为是满足预设条件的第图像,对第7帧图像进行运动识别且识别出了运动主体,并确定出运动主体所占的栅格区域的编号为3、4,则判断出第7帧图像中运动主体所占栅格区域与第6帧图像中运动主体所占栅格区域不重叠(编号3、4的栅格区域和编号1、2的栅格区域不重叠),因此第7帧图像被认为是满足预设条件的图像;第8帧图像~第45帧图像的识别方式与上述例子中类似,此处不再赘述;第46帧图像~第60帧图像中都没有识别出运动主体,则将第46帧图像~第60帧图像丢弃。
需要强调的是,本实施例以及后续实施例中所提到的,图像中的运动主体,均是指图像中的运动主体的画面。
在步骤104中,如果将图像中的运动主体和背景图像分离开来,则将各帧图像中分离出来的运动主体合成在一张背景图像上,如果没有将图像的运动主体和背景图像分离开来,直接进行合成(如果过拍摄时出现抖动,各帧图像的背景图像之间可能会有些偏差,可以先校准偏差再进行合成)。这里的合成方式均与现有技术类似,此处不再赘述。
本发明的第二实施方式涉及一种运动轨迹合成方法。第二实施方式与第一实施方式大致相同,主要区别之处在于:在本发明第二实施方式中,会对当前采集的图像进行运动识别,筛选出包含运动主体的图像,且在连续多次采集的图像中没有识别出运动主体时,停止采集。
如图4所示为根据本发明第二实施例的运动轨迹合成方法的流程图;其中,步骤202~204与图2中的步骤102~104大致相同,此处不再赘述,不同之处在于,步骤201,获取多帧图像,包含如下子步骤:
子步骤2011,按照预设频率采集图像;
子步骤2012,对当前采集的图像进行运动识别,并判断是否识别成功;若是,则进入子步骤2013,若否,则进入子步骤2014;
子步骤2013,将当前采集的图像加入第一图像序列集;返回子步骤2011。
子步骤2014,将当前采集的图像丢弃;然后进入子步骤2015。
子步骤2015,累计连续丢弃的图像的帧数,并判断是否达到预设的帧数K;若是,则停止采集,并进入步骤202;若否,则返回子步骤2011。其中K为预设的帧数且L大于1
本实施方式中,电子设备内部可以预先设置第一图像序列集,例如数列P。电子设备实时对当前采集的图像进行运动识别,如果从当前采集的图像中识别出运动主体,表示识别成功,则将该当前采集的图像加入第一图像序列集P,即作为第一图像序列集P的一个元素Pi,i为大于或等于1的整数,i表述该图像在第一图像序列集P的排序号;如果从当前采集的图像中没有识别出运动主体,表示识别失败,则将该当前采集的图像丢弃。由于被加入第一图像序列集的图像是按照采集顺序加入的,因此,第一图像序列集中的图像按照采集时间排列的。例如数列P={P1,P2,P3,...,Pm},表示获取了m帧图像。
电子设备还会累计连续丢弃的图像的帧数,并判断连续丢弃的图像的帧数是否达到预设的帧数K,如果连续丢弃的图像的帧数达到预设的帧数K,即从连续采集的K帧图像中均未识别出运动主体,就认为一直没有检测到运动主体,此时停止采集。其中,预设的帧数K可以根据实际经验或者实际需求设定。例如,K为10,如果采集的第1帧图像~第10帧图像中都没有识别出运动主体,则连续丢弃的图像的帧数为10帧,达到了预设的帧数K,因此认为运动主体始终没有进入拍摄画面,则停止采集(本次运动轨迹合成结束);或者,采集的第1帧图像~第45帧图像中都有识别出运动主体,而从第46帧图像开始,一直连续采集了10帧,采集到的图像中都没有识别出运动主体,即采集的第46帧图像~第56帧图像都没有识别出运动主体,则认为运动主体已经跑出了拍摄画面,则停止采集;且以第1帧图像~第45帧图像作为获取的多帧图像。假如采集的第1帧图像~第30帧图像中都有识别出运动主体,采集的第31帧图像~第35帧图像中都没有识别出运动主体,采集的第36帧图像~第50帧图像中都有识别出运动主体,那么,第31帧图像~第35帧图像被丢弃,但是由于丢弃的图像的帧数仅为5次,小于预设的帧数K,因此,不会停止采集,并且记录后续采集的第36帧图像~第50帧图像,并且将第1帧图像~第30帧图像、第36帧图像~第50帧图像作为获取的图像,即,总共获取了45帧图像。
本实施方式中,在运动轨迹合成中,采用运动识别的方式来初步筛选采集的图像,继续采集图像或是停止采集图像,由运动主体是否位于拍摄画面内决定,而不是如现有技术中采集预设的固定帧数的图像;即,本实施方式中,如果检测到连续采集的K帧图像中均未识别出运动主体,那么即使当前获得的包含运动主体的图像的数量没有达到预设的固定帧数,也会停止采集,因为即使继续采集,由于运动主体已经不在拍摄画面内,采集到的图像对运动轨迹的合成也没有实际用处;因此本实施方式在采集图像时更加符合运动轨迹合成的实际需求,提高了图像采集的更有效性,从而可以提高运动轨迹的合成效率。
本发明的第三实施方式涉及一种运动轨迹合成方法。第三实施方式与第二实施方式大致相同,主要区别之处在于:在本发明第三实施方式中,提供了划分多个栅格区域的一种具体方式。
如图5所示为第三实施例的运动轨迹合成方法的流程图,其中,步骤301、304与图4中的步骤201、204大致相同,此处不再赘述,不同之处在于,
步骤302,根据预设方式将图像划分成多个栅格区域,包含如下子步骤:
子步骤3021,从多帧图像中选定一帧包含运动主体的图像,并确定选定的图像中运动主体的目标框区域;其中,选定的图像中的运动主体位于目标框区域中。
由于第三实施方式是基于第二实施方式基础上的改进,因此,这里获取的多帧图像均为包含运动主体的图像且按照采集顺序依次排列;即第二实施例中第一图像序列集P中的多帧图像。选定的图像可以是第一图像序列集P中的任一帧图像;例如,可以选定第一图像序列集P中的第1帧图像P1,并确定选定的图像P1中运动主体的目标框区域R1,或者,可以选定第一图像序列集P中排在中间的一帧图像;或者,选定的图像还可以是第一图像序列集P中的排列靠前的几帧图像中运动主体最大的图像,例如,对第一图像序列集P中的前3帧图像P1、P2、P3中的运动主体的大小进行比较,选取运动主体的较大的那帧图像,如果第2帧图像中运动主体最大,则选定的图像是第一图像序列集P中的第2帧图像P2。需要说明的是,选定的图像并不限于上述例子,设计人员可以根据实际需要设定,例如还可以计算获取的多帧图像或其中若干帧图像中的运动主体大小的平均值,并将平均值附近的运动主体所在的图像作为选定的图像。其中,对于同一个运动主体而言,运动时离摄像头越近,采集到的图像中的运动主体越大,运动时离摄像头越远,采集到的图像中的运动主体越小。
本实施例中,如图6中,目标框区域R1为矩形框区域,目标框区域R1可以为运动主体的最小外接矩形框所在的区域,从而保证运动主体位于目标框区域R1中。或者,目标框区域R1可以与最小外接矩形框所在的区域形状相似,但是面积比最小外接矩形框所在的区域大,即在识别出运动主体的最小外接矩形框后,对最小外接矩形框进行放大,目标框区域R1比R1min略大但最好不要超过最小外接矩形框所在的区域的1/4;即,目标框区域与最小外接矩形框所在的区域的面积比例为大于1且小于或等于5/4。
子步骤3022,根据目标框区域的大小将选定的图像划分成多个栅格区域;其中,目标框区域位于其中一个栅格区域中。
本实施方式中,将目标框区域R1作为一个基础单元格对图像进行栅格划分。例如,图像的宽度W和高度H,可以以目标框区域R1的其中一个角点的坐标位置为起始点,以目标框区域R1的宽w1和高h1为标准分别将整张图像的宽度W每间隔w1划分,将整张图像的高度H每隔h1划分为栅格区域;较佳的,例如以目标框区域R1的上角角点的坐标位置为起始点。因此,目标框区域位于其中一个栅格区域中;本实施例中,目标框区域即为一个栅格单元,但并不以此为限。需要说明的是,由于图像宽度W和高度H的限制,位于图像边缘的栅格区域可能会小于目标框区域。
步骤303,从多帧图像中选择满足预设条件的若干帧图像;其中,预设条件包括,图像包含运动主体且任意两帧图像中的运动主体所占的栅格区域不重叠,包含如下子步骤:
子步骤3031,将选定的图像加入第二图像序列集,且将选定的图像所在的栅格区域标记为已占用。
其中,电子设备内可以预设第二图像序列集Q,用于保存满足预设条件的的图像;选定的图像是作为其他图像比较的基础的,故将选定的图像认为是满足预设条件的图像,加入第二图像序列集Q,并将选定的图像所在的栅格区域标记为已占用,其中,选定的图像所在的栅格区域即为上述目标框区域R1。本实施方式中,对已经被运动主体占用的栅格区域进行标记,以便于后续比较。
子步骤3032,对于多帧图像中除选定的图像以外的每帧图像,按照排列顺序进行筛选。
如图7所示,筛选方式包括,
子步骤3032-1,判断图像中的运动主体所在的栅格区域是否被标记为已占用;若否,则进入子步骤3032-2;若是,则进入子步骤3032-3;
子步骤3032-2,将图像加入第二图像序列集,并将图像中的运动主体所在的栅格区域标记为已占用。
子步骤3032-3,丢弃该图像。
对于第一图像序列集P中除选定的图像以外的每帧图像,先确定运动主体所在的栅格区域,然后判断该图像中运动主体所在的栅格区域是否被标记为已占用。本实施例中,可以先确定该图像中运动主体的目标框区域,然后判断该图像中运动主体的目标框区域所在的栅格区域是否被标记为已占用;如果未被标记为已占用,则认为该图像满足预设条件,加入第二图像序列集Q;如果被标记为已占用,则认为该图像不满足预设条件,丢弃该图像。其中,运动主体的目标框区域所在的栅格区域的数量可以为一个或多个,如果运动主体的目标框区域所在的栅格区域的数量为多个,则只要有一个栅格区域被标记为已占用,就认为该图像不满足预设条件。
例如,设定第二图像序列集Q,如果从第一图像序列集P={P1,P2,P3,...,Pm}中选定的图像是P1,则令Q1=P1,并将P1所在的栅格区域标记为已占用;对第一图像序列集P={P1,P2,P3,...,Pm}中的P2~Pm依次进行筛选,先确定当前筛选的图像中运动主体的目标框区域,当该目标框区域未被标记为已占用时,则将该图像加入第二图像序列集Q,如果被标记为已占用,则丢弃该图像。具体的,可以对栅格区域进行编号,用编号表示图像中运动主体所在的栅格区域,确定图像中的运动主体所在的栅格区域的编号,判断该编号表示的栅格区域是否已经被标记为占用,如果已经被标记为已占用,则表示该图像不满足预设条件。如,P1所在的栅格区域的编号为3,则将编号3的栅格区域标记为已占用;P2所在的栅格区域的编号为5,由于编号5的栅格区域未被标记为已占用,则将P2加入第二图像序列集Q,即令Q2=P2,同时,将编号5的栅格区域标记为已占用;P3所在的栅格区域的编号为6、7,由于编号6、7的栅格区域未被标记为已占用,则将P3加入第二图像序列集Q,即令Q3=P3,同时,将编号6、7的栅格区域标记为已占用;P4所在的栅格区域的编号为7、8,由于编号7的栅格区域被标记为已占用,所以丢弃P4;P5所在的栅格区域的编号为8,由于编号8的栅格区域未被标记为已占用,则将P5加入第二图像序列集Q,即令Q4=P5,同时,将编号8的栅格区域标记为已占用;以此类推,直到对Pm筛选结束,第二图像序列集Q={Q1,Q2,Q3...,Qs},表示从第一图像序列集P中m帧图像中筛选出来满足预设条件的s帧图像,其中,s为小于或等于m的整数。
本实施方式中,提出了划分栅格区域的一种具体方式,即选定一帧图像中运动主体的目标框区域作为基础单元进行划分,其中选定的图像中的运动主体位于目标框区域中;这种方式中划分出的栅格区域的大小合适,便于较为快速地进行重叠判断;因为相对于运动主体的大小而言,如果栅格区域过小,则每个图像中的运动主体会占用多个栅格区域,那么重叠判断中耗费的工作量就会较大(因为要核对每个栅格区域是否被标记为已占用),如果栅格区域过大,那么筛选出的满足预设条件的图像中运动主体之间的距离会相对较大,使得最后合成的运动轨迹中相邻两个运动主体之间距离较大,影响合成效果。
需要说明的是,第三实施方式也可以是在第一实施方式的基础上的改进;当第三实施方式在第一实施方式的基础上进行改进时,由于在步骤301中并没有采用运动识别的方式对采集的图像进行筛选,故获取的多帧图像中可能存在未包含运动主体的图像;在步骤302中,选定的图像必须要是包含运动主体,因此,该选定的图像可以是多帧图像中第一帧包含运动主体的图像。
本发明的第四实施方式涉及一种运动轨迹合成方法。第四实施方式与第三实施方式大致相同,主要区别之处在于:在本发明第四实施方式中,可以剔除运动主体突然过大的图像,排除外界干扰,提高运动轨迹的合成效果。
如图8所示为第四实施方式中筛选方式的流程图,图8是在图7基础上的改进,在子步骤3032-1之前,还包括子步骤3032-0,判断图像中运动主体的目标框区域是否全部位于其中一个栅格区域内;若是,则进入子步骤3032-1,若否,则进入子步骤3032-3。
具体的,拍摄时由于不稳定,可能导致摄像头突然靠近运动主体或远离运动主体,此时,图像中运动主体就会突然变大,即图像中运动主体的目标框区域就会超出一个栅格区域(如同时占用两个或更多的栅格区域)。其中,在设定运动主体的目标框区域是,可以将目标框区域设定得比运动主体的最小外接矩形框所在的区域大一些,如第三实施例的子步骤3021中所述的,目标框区域与最小外接矩形框所在的区域的面积比例可以大于1且小于或等于5/4,从而留有正常的可变余量,该正常的可变余量,是指运动主体在运动过程中正常的靠近或远离摄像头时导致图像中运动主体大小的变化量。
本实施方式中,在选取满足预设条件的图像时,增加了对所占用的栅格区域数量的判断,可以剔除运动主体突然过大的运动主体,即可以尽可能避免由于拍摄不稳定导致拍摄到不太准确的图像参与轨迹合成,从而提高了运动轨迹的合成效果和真实性。
本发明的第五实施方式涉及一种运动轨迹合成方法。第五实施方式与第二实施方式大致相同,主要区别之处在于:在本发明第五实施方式中,可以剔除运动主体过大的图像,并且当连续多帧图像存在运动主体过大的现象时,表示很可能拍摄距离太近,产生提示信息。
如图9所示为根据本发明第五实施例的运动轨迹合成方法的流程图;其中,步骤602~604与图4中的步骤202~204大致相同,此处不再赘述,步骤601包含子步骤6011~子步骤6019,其中,子步骤6011~子步骤6012、子步骤6014、子步骤6018、子步骤6019和图4中的子步骤2011~子步骤2015大致相同,此处也不再赘述,不同之处在于,还包括:
子步骤6013,判断当前采集的图像中运动主体是否满足预设的尺寸条件;其中,尺寸条件包括,运动主体的宽度小于当前采集的图像的宽度的一半,且运动主体的高度小于当前采集的图像的高度。当子步骤6013的判断结果为是,进入子步骤6014;当子步骤6013的判断结果否,则进入子步骤6015,再进入子步骤6016。
子步骤6015,将当前采集的图像丢弃。
子步骤6016,累计连续丢弃的图像的帧数,并判断是否达到预设的帧数L;其中L为预设的帧数且L大于1。若判断结果为是,则进入子步骤6017,然后返回子步骤601,若判断结果为否,则直接返回子步骤6011。
子步骤6017,产生表征运动主体过大的提示信息。
如果子步骤6013的判断结果为否,则表示图像中的运动主体过大,即运动主体离摄像头过近,提示信息例如可以是用文字显示或用语音提示的“运动主体过大,不合适合成轨迹,请离远一些”。
在子步骤6016中,预设的帧数L可以根据实际需要设置,且预设的帧数L和子步骤6019中的预设的帧数K可以相同,也可以不同。
其中,子步骤6015、子步骤6016分别与子步骤6018、子步骤6019类似,但不同在于,子步骤6015中丢弃的是运动主体过大的图像,而子步骤6018中丢弃的是不存在运动主体的图像;子步骤6016中累计的是连续采集的运动主体过大的图像的帧数,而子步骤6019中累计的是连续采集的没有识别出运动主体的图像的帧数。
因此,本实施方式中可以剔除运动主体过大的图像,并且可以及时提示拍摄者拍摄距离过近,从而有利于采集包含大小较为合适的运动主体的图像用于运动轨迹的合成,从而可以提高运动轨迹的合成效果。
上面各种方法的步骤划分,只是为了描述清楚,实现时可以合并为一个步骤或者对某些步骤进行拆分,分解为多个步骤,只要包括相同的逻辑关系,都在本专利的保护范围内;对算法中或者流程中添加无关紧要的修改或者引入无关紧要的设计,但不改变其算法和流程的核心设计都在该专利的保护范围内。
本发明第六实施方式涉及一种电子设备,如图10所示,包括:
至少一个处理器10;以及,
与所述至少一个处理器通信连接的存储器11;
与所述至少一处理器和所述存储器连接的摄像头12;
其中,所述摄像头12用于采集图像;所述存储器11存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器10执行,以使所述至少一个处理器10能够执行上述方法实施例。
其中,存储器11和处理器10采用总线方式连接,总线可以包括任意数量的互联的总线和桥,总线将一个或多个处理器10和存储器11的各种电路连接在一起。总线还可以将诸如外围设备、稳压器和功率管理电路等之类的各种其他电路连接在一起,这些都是本领域所公知的,因此,本文不再对其进行进一步描述。总线接口在总线和收发机之间提供接口。收发机可以是一个元件,也可以是多个元件,比如多个接收器和发送器,提供用于在传输介质上与各种其他装置通信的单元。经处理器10处理的数据通过天线在无线介质上进行传输,进一步,天线还接收数据并将数据传送给处理器10。
处理器10负责管理总线和通常的处理,还可以提供各种功能,包括定时,外围接口,电压调节、电源管理以及其他控制功能。而存储器11可以被用于存储处理器10在执行操作时所使用的数据。
本发明第七实施方式涉及一种计算机可读存储介质,存储有计算机程序。计算机程序被处理器执行时实现上述方法实施例。
即,本领域技术人员可以理解,实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
本领域的普通技术人员可以理解,上述各实施方式是实现本发明的具体实施例,而在实际应用中,可以在形式上和细节上对其作各种改变,而不偏离本发明的精神和范围。
Claims (10)
1.一种运动轨迹合成方法,其特征在于,包括:
获取多帧图像;其中,所述多帧图像按照采集时间排列;
根据预设方式将所述多帧图像分别划分成多个栅格区域;
从所述多帧图像中选择满足预设条件的若干帧图像;其中,所述预设条件包括,所述若干帧图像均包含运动主体且任意两帧图像中的运动主体所占的栅格区域不重叠;
根据选取的所述若干帧图像合成所述运动主体的运动轨迹。
2.根据权利要求1所述的运动轨迹合成方法,其特征在于,所述获取多帧图像,包括:
按照预设频率采集图像;
对当前采集的图像进行运动识别,若从所述当前采集的图像中识别出运动主体,则将所述当前采集的图像加入第一图像序列集;其中,所述第一图像序列集中包含获取的所述多帧图像;
若从连续采集的K帧图像中均未识别出所述运动主体,则停止采集;其中K为预设的帧数且K大于1。
3.根据权利要求1所述的运动轨迹合成方法,其特征在于,所述根据预设方式将所述多帧图像分别划分成多个栅格区域,包括:
从所述多帧图像中选定一帧包含运动主体的图像,并确定所述选定的图像中运动主体的目标框区域;其中,所述选定的图像中的运动主体位于所述目标框区域中;
根据所述目标框区域的大小将所述选定的图像划分成多个栅格区域;其中,所述目标框区域位于其中一个所述栅格区域中。
4.根据权利要求3所述的运动轨迹合成方法,其特征在于,所述从所述多帧图像中选择满足预设条件的若干帧图像,包括:
将所述选定的图像加入第二图像序列集,且将所述选定的图像所在的栅格区域标记为已占用;
对于所述多帧图像中除所述选定的图像以外的每帧图像,按照排列顺序进行筛选,筛选方式包括,当判断出所述图像中的运动主体所在的栅格区域未被标记为已占用时,将所述图像加入所述第二图像序列集,并将所述图像中的运动主体所在的栅格区域标记为已占用;
其中,所述第二图像序列集包含满足预设条件的所述若干帧图像。
5.根据权利要求4所述的运动轨迹合成方法,其特征在于,所述判断出所述图像中的运动主体所在的栅格区域未被标记为已占用,包括:
确定所述图像中运动主体的目标框区域;
判断出所述图像中运动主体的目标框区域所在的栅格区域未被标记为已占用。
6.根据权利要求4所述的运动轨迹合成方法,其特征在于,所述判断出所述图像中运动主体的目标框区域所在的栅格区域未被标记为已占用之前,还包括:
判断出所述图像中运动主体的目标框区域全部位于其中一个所述栅格区域内。
7.根据权利要求2所述的运动轨迹合成方法,其特征在于,在从所述当前采集的图像中识别出运动主体之后,且将所述当前采集的图像加入所述第一图像序列集之前,还包括:
判断出所述当前采集的图像中运动主体满足预设的尺寸条件,其中,所述尺寸条件包括,所述运动主体的宽度小于所述当前采集的图像的宽度的一半,且所述运动主体的高度小于所述当前采集的图像的高度;
若连续采集的L帧图像中运动主体都不满足所述尺寸条件,则产生表征所述运动主体过大的提示信息;其中L为预设的帧数且L大于1。
8.根据权利要求3至7中任一项所述的运动轨迹合成方法,其特征在于,所述目标框区域为所述运动主体的最小外接矩形框所在的区域;或者,所述目标框区域与所述最小外接矩形框所在的区域形状相似,且面积比例为大于1且小于或等于5/4。
9.一种电子设备,其特征在于,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;
与所述至少一处理器和所述存储器连接的摄像头;
其中,所述摄像头用于采集图像;所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至8中任一所述的运动轨迹合成方法。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至8中任一项所述的运动轨迹合成方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811250802.2A CN111105434A (zh) | 2018-10-25 | 2018-10-25 | 运动轨迹合成方法及电子设备 |
PCT/CN2019/101435 WO2020082866A1 (zh) | 2018-10-25 | 2019-08-19 | 运动轨迹合成方法及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811250802.2A CN111105434A (zh) | 2018-10-25 | 2018-10-25 | 运动轨迹合成方法及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111105434A true CN111105434A (zh) | 2020-05-05 |
Family
ID=70330775
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811250802.2A Pending CN111105434A (zh) | 2018-10-25 | 2018-10-25 | 运动轨迹合成方法及电子设备 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN111105434A (zh) |
WO (1) | WO2020082866A1 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112686941A (zh) * | 2020-12-24 | 2021-04-20 | 北京英泰智科技股份有限公司 | 一种车辆运动轨迹合理性识别方法、装置及电子设备 |
CN112785573A (zh) * | 2021-01-22 | 2021-05-11 | 上海商汤智能科技有限公司 | 图像处理方法及相关装置、设备 |
CN113810587A (zh) * | 2020-05-29 | 2021-12-17 | 华为技术有限公司 | 一种图像处理方法及装置 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112433529B (zh) * | 2020-11-30 | 2024-02-27 | 东软睿驰汽车技术(沈阳)有限公司 | 运动物体确定方法、装置及设备 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4217876B2 (ja) * | 2002-12-20 | 2009-02-04 | 財団法人生産技術研究奨励会 | 画像における移動物体の追跡方法及び装置 |
CN101833791B (zh) * | 2010-05-11 | 2012-04-18 | 成都索贝数码科技股份有限公司 | 一种单摄像机下的场景建模方法及系统 |
CN104751489A (zh) * | 2015-04-09 | 2015-07-01 | 苏州阔地网络科技有限公司 | 一种在线课堂中基于网格的接力跟踪方法及装置 |
CN106228835B (zh) * | 2016-07-18 | 2019-04-26 | 北京精英智通科技股份有限公司 | 一种车位停车事件判断方法及系统 |
CN106340032B (zh) * | 2016-08-27 | 2019-03-15 | 浙江捷尚视觉科技股份有限公司 | 一种基于光流场聚类的运动目标检测方法 |
-
2018
- 2018-10-25 CN CN201811250802.2A patent/CN111105434A/zh active Pending
-
2019
- 2019-08-19 WO PCT/CN2019/101435 patent/WO2020082866A1/zh active Application Filing
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113810587A (zh) * | 2020-05-29 | 2021-12-17 | 华为技术有限公司 | 一种图像处理方法及装置 |
CN113810587B (zh) * | 2020-05-29 | 2023-04-18 | 华为技术有限公司 | 一种图像处理方法及装置 |
CN112686941A (zh) * | 2020-12-24 | 2021-04-20 | 北京英泰智科技股份有限公司 | 一种车辆运动轨迹合理性识别方法、装置及电子设备 |
CN112686941B (zh) * | 2020-12-24 | 2023-09-19 | 北京英泰智科技股份有限公司 | 一种车辆运动轨迹合理性识别方法、装置及电子设备 |
CN112785573A (zh) * | 2021-01-22 | 2021-05-11 | 上海商汤智能科技有限公司 | 图像处理方法及相关装置、设备 |
Also Published As
Publication number | Publication date |
---|---|
WO2020082866A1 (zh) | 2020-04-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111105434A (zh) | 运动轨迹合成方法及电子设备 | |
CN110866480B (zh) | 对象的跟踪方法及装置、存储介质、电子装置 | |
US8355048B2 (en) | Subject tracking computer program product, subject tracking device and camera | |
EP2273450A2 (en) | Target tracking apparatus, image tracking apparatus, methods of controlling operation of same, and digital camera | |
US10115178B2 (en) | Image processing apparatus, image capturing apparatus, image processing method, and storage medium | |
CN105554367B (zh) | 一种运动拍摄方法及移动终端 | |
CN104185981A (zh) | 从连拍图像中选择图像的方法和终端 | |
CN105049728A (zh) | 一种拍摄图像的获取方法和装置 | |
CN103209291A (zh) | 一种用于控制自动拍摄图像的方法、装置和设备 | |
CN111310727B (zh) | 对象检测方法及装置、存储介质、电子装置 | |
CN105898135A (zh) | 相机成像方法及相机装置 | |
CN112449117B (zh) | 一种聚焦步长确定方法、装置、存储介质及电子装置 | |
CN108702456A (zh) | 一种对焦方法、设备及可读存储介质 | |
US20140169689A1 (en) | Image processing apparatus, image processing method, and computer program | |
CN109635800A (zh) | 一种图像对焦方法及其相关设备 | |
CN108702463A (zh) | 一种图像处理方法、装置以及终端 | |
CN103577520A (zh) | 目标检索装置、目标检索方法以及计算机可读取记录介质 | |
CN109257540B (zh) | 多摄镜头组的摄影校正方法及摄影装置 | |
CN105657262B (zh) | 一种图像处理方法和装置 | |
CN112446254A (zh) | 人脸追踪的方法及相关装置 | |
JP6819785B2 (ja) | 位置推定装置、位置推定方法及びプログラム | |
CN111192286A (zh) | 一种图像合成方法、电子设备及存储介质 | |
CN105467741A (zh) | 一种全景拍照方法及终端 | |
EP3493162A1 (en) | Virtual viewpoint synthesis | |
CN109598195A (zh) | 一种基于监控视频的清晰人脸图像处理方法与装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |