CN112616325A - 图像处理方法、装置、可移动平台、摄像装置及存储介质 - Google Patents

图像处理方法、装置、可移动平台、摄像装置及存储介质 Download PDF

Info

Publication number
CN112616325A
CN112616325A CN201980050290.1A CN201980050290A CN112616325A CN 112616325 A CN112616325 A CN 112616325A CN 201980050290 A CN201980050290 A CN 201980050290A CN 112616325 A CN112616325 A CN 112616325A
Authority
CN
China
Prior art keywords
image
image frame
plane
target
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201980050290.1A
Other languages
English (en)
Inventor
屈信超
李琛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SZ DJI Technology Co Ltd
Original Assignee
SZ DJI Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SZ DJI Technology Co Ltd filed Critical SZ DJI Technology Co Ltd
Publication of CN112616325A publication Critical patent/CN112616325A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64DEQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
    • B64D47/00Equipment not otherwise provided for
    • B64D47/08Arrangements of cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U10/00Type of UAV
    • B64U10/10Rotorcrafts
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/51Housings
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Mechanical Engineering (AREA)
  • Remote Sensing (AREA)
  • Studio Devices (AREA)

Abstract

一种图像处理方法、装置、可移动平台、摄像装置及存储介质,可解决场景变化过快的问题。该图像处理方法包括:获取第一图像帧和第二图像帧,所述第一图像帧与第二图像帧的视角方向不同(S100);依据所述第一图像帧和第二图像帧确定目标图像,所述第一图像帧和所述第二图像帧均包含所述目标图像中的场景(S200)。

Description

图像处理方法、装置、可移动平台、摄像装置及存储介质
技术领域
本发明涉及图像技术领域,尤其是涉及一种图像处理方法、装置、可移动平台、摄像装置及存储介质。
背景技术
在图像播放时,有可能出现不同图像的场景变化过快的情况,这种情况下,播放画面整体会比较模糊影响用户的观看体验。图像的场景变化过快有可能是由于不同成像设备从不同视角方向采集的;也有可能是由于成像设备变换不同视角方向采集图像时,视角方向变换过快。
比如,无人机在航拍过程中,经常需要通过旋转来转换视角方向,如果无人机的旋转速度较大,采集图像时视角方向变化也会很快,那么,后续在播放图像时,可能出现播放画面中的场景变化较快的情况。
发明内容
本发明提供一种图像处理方法、装置、可移动平台、摄像装置及存储介质,可解决场景变化过快的问题。
本发明实施例第一方面,提供一种图像处理方法,包括:
获取第一图像帧和第二图像帧,所述第一图像帧与第二图像帧的视角方向不同;
依据所述第一图像帧和第二图像帧确定目标图像,所述第一图像帧和所述第二图像帧均包含所述目标图像中的场景。
本发明实施例第二方面,提供一种图像处理装置,包括存储器和处理器;
所述存储器,用于存储程序代码;
所述处理器,用于调用所述程序代码,当程序代码被执行时,用于实现如前述实施例所述的图像处理方法。
本发明实施例第三方面,提供一种可移动平台,包括:
机体;
动力系统,设于所述机体,所述动力系统用于为所述可移动平台提供动力;
图像采集装置,设于所述机体,用于采集图像帧;
存储器,用于存储程序代码;以及
处理器,用于调用所述程序代码,当程序代码被执行时,用于实现如前述实施例所述的图像处理方法。
本发明实施例第四方面,提供一种摄像装置,包括:
外壳;
镜头组件,设于所述外壳内部;
存储器,用于存储程序代码;以及
处理器,用于调用所述程序代码,当程序代码被执行时,用于实现如前述实施例所述的图像处理方法。
本发明实施例第五方面,提供一种计算机可读存储介质,
所述计算机可读存储介质上存储有程序代码,所述程序代码被执行时,实现如前述实施例所述的图像处理方法。
基于上述技术方案,本发明实施例中,在获取到视角方向不同的第一图像帧和第二图像帧时,可以根据这两个图像帧确定目标图像,第一图像帧和第二图像帧均包含该目标图像中的场景,换言之,目标图像中的场景被包含在第一图像帧和第二图像帧中,那么,在将目标图像插入到第一图像帧和第二图像帧间播放时,或者,将目标图像插入到第一图像帧和第二图像帧分别经处理后的图像间播放时,可以起到场景过渡的作用,减缓了播放时场景变化的速度,解决场景变化过快的问题。
附图说明
为了更加清楚地说明本发明实施例中的技术方案,下面将对本发明实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明中记载的一些实施例,对于本领域普通技术人员来讲,还可以根据本发明实施例的这些附图获得其它的附图。
图1是本发明一实施例的图像处理方法的流程示意图;
图2是本发明一实施例的第一平面与第二平面的关系示意图;
图3是本发明一实施例的第一平面、第二平面与目标平面的关系示意图;
图4是本发明一实施例的图像处理装置的结构框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。另外,在不冲突的情况下,下述的实施例及实施例中的特征可以相互组合。
本发明使用的术语仅仅是出于描述特定实施例的目的,而非限制本发明。本发明和权利要求书所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其它含义。应当理解的是,本文中使用的术语“和/或”是指包含一个或多个相关联的列出项目的任何或所有可能组合。
尽管在本发明可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语用来将同一类型的信息彼此区分开。例如,在不脱离本发明范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,此外,所使用的词语“如果”可以被解释成为“在……时”,或者,“当……时”,或者,“响应于确定”。
下面对本发明实施例的图像处理方法进行详细描述,但不应以此作为限制。
在一个实施例中,参看图1,一种图像处理方法,可以包括以下步骤:
S100:获取第一图像帧和第二图像帧,所述第一图像帧与第二图像帧的视角方向不同;
S200:依据所述第一图像帧和第二图像帧确定目标图像,所述第一图像帧和所述第二图像帧均包含所述目标图像中的场景。
本发明实施例中,图像处理方法的执行主体可以为电子设备。电子设备可以为成像设备,比如可以为摄像装置,或者搭载有摄像装置的可移动片平台比如无人机、车辆等。当然,电子设备也可以为其他设备,只要具有一定的图像处理能力即可。
本发明实施例中,图像帧的视角方向可以指:采集图像帧时镜头视角的平分线往被采集场景的方向。
步骤S100中,获取第一图像帧和第二图像帧。
第一图像帧和第二图像帧可以是同一成像设备采集的,也可以是不同成像设备采集的。第一图像帧和第二图像帧可以是由外部的成像设备采集的;或者,在执行主体电子设备为成像设备的情况下,第一图像帧和第二图像帧可以由电子设备自身采集获得。
第一图像帧与第二图像帧的视角方向不同,换言之,第一图像帧和第二图像帧的视角方向相差一定角度,所以,第一图像帧和第二图像帧中的场景也会有所不同。
第一图像帧和第二图像帧可以是在同一位置但不同视角方向下采集的两个图像帧,或者,也可以是在不同位置且不同视角方向下采集的两个图像帧。
由于第一图像帧和第二图像帧的视角方向不同,如果第一图像帧和第二图像帧被连续播放、且播放速度较快(两帧播放时间间隔较短)时,就会发生场景变化较快的问题。本发明实施例通过后续步骤解决该问题。
为解决该问题,本发明实施例中,在获取第一图像帧和第二图像帧的基础上,还执行步骤S200:依据所述第一图像帧和第二图像帧确定目标图像。
第一图像帧和所述第二图像帧均包含所述目标图像中的场景。换言之,第一图像帧和第二图像帧中有部分场景是相同的,目标图像中的场景为该部分场景、或者该部分场景的一部分。
第一图像帧和第二图像帧的视角方向之间的夹角,需要保证采集第一图像帧和第二图像帧时的视场存在交集,如此,便可使得第一图像帧和第二图像帧中存在部分场景是相同的。
为了保证在第一图像帧和第二图像帧的视角方向之间的夹角较大的情况下,采集第一图像帧和第二图像帧时的视场仍存在较大的交集,可以采用大FOV(field of view,视角)的镜头来采集得到第一图像帧和第二图像帧。
依据所述第一图像帧和第二图像帧确定目标图像时,可以根据第一图像帧和第二图像帧中相同的场景(下面简称第一场景,第一场景是第一图像帧中的一部分场景,也是第二图像帧中的一部分场景)来确定目标图像。可选的,可以确定第一图像帧中该第一场景所在的第一图像区域、与第二图像帧中该第一场景所在的第二图像区域,根据该第一图像区域和第二图像区域生成目标图像,比如可以先将两个图像区域进行仿射变换,在仿射变换后再进行融合处理,生成目标图像。
可以理解,上述仅是确定目标图像的一个例子,并不作为限制,还可以通过其他方式确定目标图像,只要保证目标图像中的场景存在于第一图像帧和第二图像帧中即可。
确定出的目标图像可以为一个或者多个。在多个的情况下,不同目标图像对应的视场可以不同,相应的,不同目标图像中的场景可以有所不同、但都存在于第一图像帧和第二图像帧中。
本发明实施例中,在获取到视角方向不同的第一图像帧和第二图像帧时,可以根据这两个图像帧确定目标图像,第一图像帧和第二图像帧均包含该目标图像中的场景,换言之,目标图像中的场景被包含在第一图像帧和第二图像帧中,那么,在将目标图像插入到第一图像帧和第二图像帧间播放时,或者,将目标图像插入到第一图像帧和第二图像帧分别经处理后的图像间播放时,可以起到场景过渡的作用,减缓了播放时场景变化的速度,解决场景变化过快的问题。
在无人机的航拍场景中,例如,当需要通过旋转或倾斜的方式转换视角时,可以通过以上方式控制画面播放的速度,从而可以避免无人机速度变化过大而导致视频时而模糊时而清晰的现象。
在一个实施例中,步骤S200中,依据所述第一图像帧和第二图像帧确定目标图像,包括:
将第一图像帧和第二图像帧投影至同一目标平面上,生成所述目标图像;其中,所述目标平面所对应的视角方向不同于所述第一图像帧与第二图像帧的视角方向。
由于第一图像帧和第二图像帧的视角方向不同,所以第一图像帧和第二图像帧中相同的场景(即第一场景)是以不同角度呈现在第一图像帧和第二图像帧中的,将第一图像帧和第二图像帧投影到同一目标平面上,可以使得投影所得的两个图像帧中场景(包括第一场景)的角度一致,以便于生成所需的目标图像。
而目标平面对应的视角方向与第一图像帧和第二图像帧的视角方向均不同,可以保证在将目标图像插入到第一图像帧和第二图像帧间播放时,或者,将目标图像插入到第一图像帧和第二图像帧分别经处理后的图像间播放时,在减缓场景变化的同时,可以逐渐调整场景的角度,以使得场景变化的过渡更平滑,避免突兀的场景变化。
将第一图像帧和第二图像帧投影至同一目标平面上,可以是分别将第一图像帧和第二图像帧直接投影目标平面上,也可以是先分别将第一图像帧和第二图像帧投影至曲面上、再从曲面投影到目标平面上,具体方式不限。
在一个实施例中,步骤S200中,将第一图像帧和第二图像帧投影至同一目标平面上,生成所述目标图像,包括:
将第一图像帧和第二图像帧投影至同一目标平面后进行融合处理,生成所述目标图像。
将第一图像帧和第二图像帧投影至同一目标平面后,可以将所得的两个图像帧进行融合处理,以得到更满足要求的目标图像。
当然,投影之后除了融合处理,还可以包含其他图像处理方式,比如图像截取等,具体不做限制。
在一个实施例中,步骤S200中,将第一图像帧和第二图像帧投影至同一目标平面后进行融合处理,生成所述目标图像,可以包括以下步骤:
S201:获取目标平面对应的投影关系,所述投影关系包括用于投影第一图像帧的第一投影关系、及用于投影第二图像帧的第二投影关系;
S202:按照所述第一投影关系将所述第一图像帧从所处的第一平面投影到所述目标平面,得到第三图像帧;
S203:按照所述第二投影关系将所述第二图像帧从所处的第二平面投影到所述目标平面,得到第四图像帧;
S204:将所述第三图像帧和第四图像帧进行融合处理,得到处于所述目标平面的目标图像;
其中,所述第一平面、第二平面和目标平面是不同视角方向下的成像平面。
第一投影关系可以根据第一平面与目标平面之间的关系、或者第一平面对应的视角方向与目标平面对应的视角方向之间的关系来确定,可以用于将第一平面上的图像帧投影到目标平面上。
按照第一投影关系将第一图像帧从所处的第一平面投影到目标平面,得到第三图像帧。第三图像帧相比于第一图像帧而言,场景不变,但是场景在图像帧中呈现的角度有所不同。
第二投影关系可以根据第二平面与目标平面之间的关系、或者第二平面所对应的视角方向与目标平面对应的视角方向之间的关系来确定,可以用于将第二平面上的图像帧投影到目标平面上。
按照第二投影关系将第二图像帧从所处的第二平面投影到目标平面,得到第四图像帧。第四图像帧相比于第二图像帧而言,场景不变,但是场景在图像帧中呈现的角度有所不同。
投影完成后,将第三图像帧和第四图像帧进行融合处理,得到处于目标平面的目标图像。
在一个实施例中,所述第一图像帧和所述第二图像帧是由同一成像设备在旋转过程中采集的,所述第一平面是所述成像设备在第一旋转角度下的成像平面,所述第二平面是所述成像设备在第二旋转角度下的成像平面,所述目标平面对应于所述成像设备在第三旋转角度下的成像平面。
第一图像帧和第二图像帧是由同一成像设备在旋转过程中采集的,所以采集时的视角方向是在随成像设备的旋转角度的变化而变化的。成像设备在第一旋转角度下采集图像得到成像在第一平面的第一图像帧。成像设备在第二旋转角度下采集图像得到成像在第二平面的第二图像帧。第一旋转角度和第二旋转角度不同,相应的,第一图像帧和第二图像帧的视角方向也不同。
目标图像并非是采集所得的图像,而是根据采集的第一图像帧和第二图像帧生成的图像,但是,目标图像是处于目标平面的图像,该目标平面对应于成像设备在第三旋转角度下的成像平面,所以,假设成像设备在第三旋转角度下采集的图像帧,那么该图像帧中至少部分场景与目标图像中的场景相同,并且场景呈现的角度也相同。
优选来说,所述第三旋转角度处于所述第一旋转角度与第二旋转角度之间。目标图像可以充当成像设备在旋转过程中在第一图像帧之后、第二图像帧之前采集的图像帧或图像帧中的部分图像区域。
如此,可以实现在将目标图像插入到第一图像帧和第二图像帧间播放时,或者,将目标图像插入到第一图像帧和第二图像帧分别经处理后的图像间播放时,在减缓场景变化的同时,场景的角度也可以逐渐变化。
在一个实施例中,所述第一投影关系是依据所述第一旋转角度与所述第三旋转角度之间的角度差确定的,所述第二投影关系是依据所述第二旋转角度与所述第三旋转角度之间的角度差确定的。
第一旋转角度和第二旋转角度可以从成像设备中获取,比如,成像设备中设置有惯性传感器,可以从该惯性传感器中获取第一旋转角度和第二旋转角度。
第一旋转角度与第三旋转角度之间的角度差可以是预设的,在该角度差与第一旋转角度确定的情况下,可以计算出第三旋转角度,进而可以计算出第二旋转角度与第三旋转角度之间的角度差。当然,第一旋转角度与第三旋转角度之间的角度差、第二旋转角度与第三旋转角度之间的角度差的确定方式也不限于此。
在第一旋转角度与第三旋转角度之间的角度差被确定的情况下,可以计算出第一旋转角度对应的第一平面到第三旋转角度对应的目标平面的投影变换矩阵,将该投影变换矩阵确定为第一投影关系。
在第二旋转角度与第三旋转角度之间的角度差被确定的情况下,可以计算出第二旋转角度对应的第二平面到第三旋转角度对应的目标平面的投影变换矩阵,将该投影变换矩阵确定为第二投影关系。
在一个实施例中,所述第一图像帧和所述第二图像帧也可以是不同的成像设备以不同的视角方向采集的。
两个成像设备可以在处于同一位置、或者所处位置相差不远时,以不同的视角方向分别采集第一图像帧和第二图像帧。
前述实施例中确定目标图像的方式对于此情况而言,仍是适用的,只是在确定第一投影关系和第二投影关系时,考虑的是两个成像设备的旋转角度,当然如果有需要,还可以考虑两个成像设备的位置关系。
在一个实施例中,步骤S204中,所述将所述第三图像帧和第四图像帧进行融合处理,生成处于所述目标平面的目标图像,可以包括以下步骤:
S2041:从所述第三图像帧中截取出第一图像,从所述第四图像帧中截取出第二图像,所述第一图像与所述第二图像中的场景相同;
S2042:融合所述第一图像和第二图像,得到所述目标图像。
第一图像帧和第二图像帧中部分场景(即第一场景)是相同的,所以投影到目标平面的第三图像帧和第四图像帧中的该第一场景仍是相同的,只是这第一场景呈现在图像帧中的角度发生了一些变化。
从第三图像帧中截取出第一图像时,可以截取第三图像帧中该第一场景所在图像区域、或者从该图像区域中截取出一部分区域作为第一图像。从第四图像帧中截取出第二图像时,可以截取第四图像帧中该第一场景所在图像区域、或者从该图像区域中截取出一部分区域作为第二图像。
当然,具体截取方式及截取尺寸不限,只要保证第一图像和第二图像中的场景相同即可。
得到第一图像和第二图像后,可以按照预设的图像融合算法融合第一图像和第二图像,得到目标图像。图像融合算法比如可以包括金字塔融合算法,当然也可以为其他图像融合算法,具体不限。
在一个实施例中,所述第一图像在所述目标平面的位置与所述第二图像在所述目标平面的位置相同。
第三图像帧和第四图像帧在目标平面存在交集区域,第三图像帧和第四图像帧在交集区域的场景是相同的。所以,可以分别从第三图像帧和第四图像帧的交集区域截取同一位置的图像区域作为第一图像和第二图像,保证第一图像在目标平面的位置与第二图像在目标平面的位置相同,那么,第一图像和第二图像中的场景也是相同的。
交集区域一般处于目标平面中与目标平面对应的视场的中心位置处,可以预先根据该视场的中心位置确定截取所需的目标区域位置,在投影得到处于目标平面的第三图像帧和第四图像帧时,可以分别从第三图像帧和第四图像帧中截取目标区域位置对应的区域,作为第一图像和第二图像。
下面结合图2和图3,举例说明一下本发明实施例生成目标图像的方式。
a1b1所在平面为成像设备采集第一图像帧时的成像平面即第一平面,∠a1Ob1为第一平面对应的视角,∠a1Ob1的平分线往场景的方向为第一平面对应的视角方向,a1b1为第一平面对应的视场。
a2b2所在平面为成像设备采集第二图像帧时的成像平面即第二平面,∠a2Ob2为第二平面对应的视角,∠a2Ob2的平分线往场景的方向为第二平面对应的视角方向,a2b2为第一平面对应的视场。
a3b3所在平面为目标平面,∠a3Ob3为目标平面对应的视角,∠a3Ob3的平分线往场景的方向为目标平面对应的视角方向,a3b3为目标平面对应的视场。
a1b1所在平面、a2b2所在平面对应的视角方向不同,角度差为β;a3b3所在平面对应的视角方向与a1b1所在平面、a2b2所在平面对应的视角方向均不同,其中,a3b3所在平面对应的视角方向与a1b1所在平面对应的视角方向之间的角度差为α,相应的,a3b3所在平面对应的视角方向与a2b2所在平面对应的视角方向之间的角度差为β-α。
根据α可以确定a1b1所在平面与a3b3所在平面之间的第一投影关系,根据β-α可以确定a2b2所在平面与a3b3所在平面之间的第二投影关系。
按照第一投影关系将第一图像帧从a1b1所在平面投影到a3b3所在平面,得到第三图像帧;按照第二投影关系将第二图像帧从a2b2所在平面投影到a3b3所在平面,得到第四图像帧。
接着,从第三图像帧中截取出与预设的目标区域位置对应的区域作为第一图像,从第四图像帧中截取出与预设的目标区域位置对应的区域作为第二图像,其中,该目标区域位置为以目标平面即a3b3所在平面对应的视场a3b3的中心位置为中心的一块区域位置。
然后,采用预设的融合算法将第一图像和第二图像融合,得到目标图像。
上述例子中,成像设备采集第一图像帧后,旋转了一定角度β,再采集第二图像帧。在旋转速度较快时,β较大,那么第一图像帧和第二图像帧中场景的变化也较大,但是两个视场存在交集,所以第一图像帧和第二图像帧中存在部分场景(即第一场景)相同。本发明实施例中,根据第一图像帧和第二图像帧生成包含该第一场景、或该第一场景的一部分的目标图像,目标图像中的场景可作为第一图像帧、第二图像帧中场景的过渡,减缓图像间的场景变化。
在一个实施例中,依据所述第一图像帧和第二图像帧确定目标图像之后,该方法还包括以下步骤:
S300:确定第三图像和第四图像所在的图像序列,所述第三图像是从所述第一图像帧中截取的图像,所述第四图像是从所述第二图像帧中截取的图像;
S400:将所述目标图像插入至所述图像序列的所述第三图像和第四图像之间,以生成视频流进行播放。
在从第一图像帧中截取出第三图像时,可以截取出第一图像帧的中心区域作为第三图像。在从第二图像帧中截取出第四图像时,可以截取出第二图像帧的中心区域作为第四图像。当然,具体截取的位置不限,此处只是优选的方式。
第三图像和第四图像所在的图像序列中的图像是用于播放的,图像序列中所有图像的尺寸可以是相同的,具体大小可以根据播放需要而定。
将目标图像插入至图像序列的第三图像和第四图像中,得到的图像序列作为视频流进行播放。目标图像的尺寸可以与图像序列中各图像的尺寸相同。
如此,视频流被播放时,会依次播放第三图像、目标图像、第四图像,或者依次播放第四图像、目标图像、第三图像,目标图像中的场景作为第三图像和第四图像中场景的过渡,可以使得视频流播放时更为流畅,避免视频帧间的场景切换过快,导致肉眼看起来很模糊的问题。
当然,被播放的视频流中,还可以有其他图像是通过本发明实施例的上述方式插入的。
比如,视频流中有一半的图像是从采集的图像帧中截取的,而另一半的图像是通过上述方式插入的,且每两个从采集的图像帧中截取的图像间插入一个通过上述方式确定的目标图像。在此情况下,假设以播放帧率f1播放该视频流,播放该视频流时的场景变化速度,是仅播放采集的图像帧中截取的图像的场景变化速度的1/2,大大减缓了场景变化速度。
在一个实施例中,所述第一图像帧和第二图像帧是成像设备在旋转过程中采集的两个图像帧。
优选的,第一图像帧和第二图像帧是成像设备在旋转过程中采集的两个相邻图像帧。相邻图像帧的视场交集范围更大,更利于得到目标图像。
当然,第一图像帧和第二图像帧也可以是中间相隔一帧或几帧的两帧图像,只要保证第一图像帧和第二图像帧的视场存在交集即可。
在一个实施例中,步骤S100中,获取第一图像帧和第二图像帧,可以包括以下:
当确定成像设备在旋转时,获取成像设备采集的当前图像帧并获取当前图像帧的前一个历史图像帧,将当前图像帧确定为所述第二图像帧并将该历史图像帧确定为所述第一图像帧。
成像设备的旋转通常会有指令触发,可以在被指令触发时,确定成像设备在旋转,当然,具体确定成像设备在旋转的方式不限于此。
成像设备采集的第一个图像帧可以先缓存,之后采集时,可以将当前采集的当前图像帧作为第二图像帧,并将当前图像帧的前一个历史图像帧作为第一图像帧。
如此,可以使得成像设备每采集一个图像帧,便可执行一遍上述确定并插入目标图像的步骤,减缓整个视频流的场景变化速度。
在一个实施例中,获取成像设备采集的当前图像帧之后,该方法还进一步包括:
对获取的所述当前图像帧进行畸变校正,以校正所述当前图像帧中产生的场景变形;
所述将当前图像帧确定为所述第二图像帧,包括:
将畸变校正后的当前图像帧确定为所述第二图像帧。
由于成像设备的硬件原因等,采集的图像帧可能会存在变形,比如在图像帧的边缘处会有拉伸的情况,为了避免得到的目标图像受畸变影响,对当前图像帧进行畸变校正,以校正当前图像帧中产生的场景变形。
在对当前图像帧进行畸变校正时,可以按照小孔成像原理并根据成像设备的相机参数来实现畸变校正,具体畸变校正方式不限,只要能够校正当前图像帧中产生的场景变形即可。
可选的,获取的历史图像帧可以是已经经过畸变校正后的图像帧。如果该历史图像帧未经过畸变校正,那么也可以对该历史图像帧进行畸变校正,以校正历史图像帧中产生的场景变形。
对当前图像帧进行畸变校正后,还可以将当前图像帧进行缓存,在采集到下一个图像帧时作为该图像帧的前一个历史图像帧。
可选的,如果采集第一图像帧、第二图像帧的成像设备存在抖动,可以采用电子防抖、光学防抖等技术实现防抖,以减少第一平面与目标平面、第二平面与目标平面之间的误差。
基于与上述方法同样的发明构思,本发明还提供一种图像处理装置,参看图4,该图像处理装置100可以包括:处理器102和存储器101。
在一个实施例中,继续参看图4,所述存储器101,用于存储程序代码;
所述处理器102,用于调用所述程序代码,当程序代码被执行时,用于实现如前述实施例所述的图像处理方法。
基于与上述方法同样的发明构思,本发明还提供一种可移动平台,该可移动平台可以包括:
机体;
动力系统,设于所述机体,所述动力系统用于为所述可移动平台提供动力;
图像采集装置,设于所述机体,用于采集图像帧;
存储器,用于存储程序代码;以及
处理器,用于调用所述程序代码,当程序代码被执行时,用于实现如前述实施例所述的图像处理方法。
在一个实施例中,所述可移动平台为无人机。
基于与上述方法同样的发明构思,本发明还提供一种摄像装置,该摄像装置可以包括:
外壳;
镜头组件,设于所述外壳内部;
存储器,用于存储程序代码;以及
处理器,用于调用所述程序代码,当程序代码被执行时,用于实现如前述实施例所述的图像处理方法。
基于与上述方法同样的发明构思,本发明实施例中还提供一种计算机可读存储介质上存储有程序代码,所述程序代码被执行(如所述程序代码被处理器执行)时,可以实现图1所述的图像处理方法。
上述实施例阐明的系统、装置、模块或单元,可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机,计算机的具体形式可以是个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件收发设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任意几种设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本发明时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本发明实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可以由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其它可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其它可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
而且,这些计算机程序指令也可以存储在能引导计算机或其它可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或者多个流程和/或方框图一个方框或者多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其它可编程数据处理设备,使得在计算机或者其它可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其它可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述仅为本发明实施例而已,并不用于限制本发明。对于本领域技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原理之内所作的任何修改、等同替换、改进,均应包含在本发明的权利要求范围之内。

Claims (20)

1.一种图像处理方法,其特征在于,包括:
获取第一图像帧和第二图像帧,所述第一图像帧与第二图像帧的视角方向不同;
依据所述第一图像帧和第二图像帧确定目标图像,所述第一图像帧和所述第二图像帧均包含所述目标图像中的场景。
2.如权利要求1所述的图像处理方法,其特征在于,依据所述第一图像帧和第二图像帧确定目标图像,包括:
将第一图像帧和第二图像帧投影至同一目标平面上,生成所述目标图像;其中,所述目标平面所对应的视角方向不同于所述第一图像帧与第二图像帧的视角方向。
3.如权利要求2所述的图像处理方法,其特征在于,将第一图像帧和第二图像帧投影至同一目标平面上,生成所述目标图像,包括:
将第一图像帧和第二图像帧投影至同一目标平面后进行融合处理,生成所述目标图像。
4.如权利要求3所述的图像处理方法,其特征在于,将第一图像帧和第二图像帧投影至同一目标平面后进行融合处理,生成所述目标图像,包括:
获取目标平面对应的投影关系,所述投影关系包括用于投影第一图像帧的第一投影关系、及用于投影第二图像帧的第二投影关系;
按照所述第一投影关系将所述第一图像帧从所处的第一平面投影到所述目标平面,得到第三图像帧;
按照所述第二投影关系将所述第二图像帧从所处的第二平面投影到所述目标平面,得到第四图像帧;
将所述第三图像帧和第四图像帧进行融合处理,得到处于所述目标平面的目标图像;
其中,所述第一平面、第二平面和目标平面是不同视角方向下的成像平面。
5.如权利要求4所述的图像处理方法,其特征在于,
所述第一图像帧和所述第二图像帧是由同一成像设备在旋转过程中采集的,所述第一平面是所述成像设备在第一旋转角度下的成像平面,所述第二平面是所述成像设备在第二旋转角度下的成像平面,所述目标平面对应于所述成像设备在第三旋转角度下的成像平面。
6.如权利要求5所述的图像处理方法,其特征在于,
所述第三旋转角度处于所述第一旋转角度与第二旋转角度之间。
7.如权利要求5所述的图像处理方法,其特征在于,所述第一投影关系是依据所述第一旋转角度与所述第三旋转角度之间的角度差确定的,所述第二投影关系是依据所述第二旋转角度与所述第三旋转角度之间的角度差确定的。
8.如权利要求4所述的图像处理方法,其特征在于,
所述第一图像帧和所述第二图像帧是不同的成像设备以不同的视角方向采集的。
9.如权利要求4所述的图像处理方法,其特征在于,所述将所述第三图像帧和第四图像帧进行融合处理,生成处于所述目标平面的目标图像,包括:
从所述第三图像帧中截取出第一图像,从所述第四图像帧中截取出第二图像,所述第一图像与所述第二图像中的场景相同;
融合所述第一图像和第二图像,得到所述目标图像。
10.如权利要求9所述的图像处理方法,其特征在于,所述第一图像在所述目标平面的位置与所述第二图像在所述目标平面的位置相同。
11.如权利要求1所述的图像处理方法,其特征在于,依据所述第一图像帧和第二图像帧确定目标图像之后,该方法还包括:
确定第三图像和第四图像所在的图像序列,所述第三图像是从所述第一图像帧中截取的图像,所述第四图像是从所述第二图像帧中截取的图像;
将所述目标图像插入至所述图像序列的所述第三图像和第四图像之间,以生成视频流进行播放。
12.如权利要求1-11中任一项所述的图像处理方法,其特征在于,所述第一图像帧和第二图像帧是成像设备在旋转过程中采集的两个图像帧。
13.如权利要求12所述的图像处理方法,其特征在于,所述第一图像帧和第二图像帧是成像设备在旋转过程中采集的两个相邻图像帧。
14.如权利要求1-11中任一项所述的图像处理方法,其特征在于,获取第一图像帧和第二图像帧,包括:
当确定成像设备在旋转时,获取成像设备采集的当前图像帧并获取当前图像帧的前一个历史图像帧,将当前图像帧确定为所述第二图像帧并将该历史图像帧确定为所述第一图像帧。
15.如权利要求14所述的图像处理方法,其特征在于,获取成像设备采集的当前图像帧之后,该方法还进一步包括:
对获取的所述当前图像帧进行畸变校正,以校正所述当前图像帧中产生的场景变形;
所述将当前图像帧确定为所述第二图像帧,包括:
将畸变校正后的当前图像帧确定为所述第二图像帧。
16.一种图像处理装置,其特征在于,包括存储器和处理器;
所述存储器,用于存储程序代码;
所述处理器,用于调用所述程序代码,当程序代码被执行时,用于实现如权利要求1-15中任一项所述的图像处理方法。
17.一种可移动平台,其特征在于,包括:
机体;
动力系统,设于所述机体,所述动力系统用于为所述可移动平台提供动力;
图像采集装置,设于所述机体,用于采集图像帧;
存储器,用于存储程序代码;以及
处理器,用于调用所述程序代码,当程序代码被执行时,用于实现如权利要求1-15中任一项所述的图像处理方法。
18.如权利要求17所述的可移动平台,其特征在于,所述可移动平台为无人机。
19.一种摄像装置,其特征在于,包括:
外壳;
镜头组件,设于所述外壳内部;
存储器,用于存储程序代码;以及
处理器,用于调用所述程序代码,当程序代码被执行时,用于实现如权利要求1-15中任一项所述的图像处理方法。
20.一种计算机可读存储介质,其特征在于,
所述计算机可读存储介质上存储有程序代码,所述程序代码被执行时,实现如权利要求1-15中任一项所述的图像处理方法。
CN201980050290.1A 2019-12-30 2019-12-30 图像处理方法、装置、可移动平台、摄像装置及存储介质 Pending CN112616325A (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2019/129860 WO2021134183A1 (zh) 2019-12-30 2019-12-30 图像处理方法、装置、可移动平台、摄像装置及存储介质

Publications (1)

Publication Number Publication Date
CN112616325A true CN112616325A (zh) 2021-04-06

Family

ID=75225802

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980050290.1A Pending CN112616325A (zh) 2019-12-30 2019-12-30 图像处理方法、装置、可移动平台、摄像装置及存储介质

Country Status (2)

Country Link
CN (1) CN112616325A (zh)
WO (1) WO2021134183A1 (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170070720A1 (en) * 2015-09-04 2017-03-09 Apple Inc. Photo-realistic Shallow Depth-of-Field Rendering from Focal Stacks
CN107615756A (zh) * 2015-07-10 2018-01-19 华为技术有限公司 实现快速平滑视点切换的多视点视频流媒体
CN108298101A (zh) * 2017-12-25 2018-07-20 上海歌尔泰克机器人有限公司 云台旋转的控制方法及装置、无人机
CN110177211A (zh) * 2012-06-06 2019-08-27 索尼公司 图像处理装置、图像处理方法以及程序

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10432856B2 (en) * 2016-10-27 2019-10-01 Mediatek Inc. Method and apparatus of video compression for pre-stitched panoramic contents
US10217488B1 (en) * 2017-12-15 2019-02-26 Snap Inc. Spherical video editing
CN108320304A (zh) * 2017-12-18 2018-07-24 广州亿航智能技术有限公司 一种无人机航拍视频媒体的自动编辑方法与系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110177211A (zh) * 2012-06-06 2019-08-27 索尼公司 图像处理装置、图像处理方法以及程序
CN107615756A (zh) * 2015-07-10 2018-01-19 华为技术有限公司 实现快速平滑视点切换的多视点视频流媒体
US20170070720A1 (en) * 2015-09-04 2017-03-09 Apple Inc. Photo-realistic Shallow Depth-of-Field Rendering from Focal Stacks
CN108298101A (zh) * 2017-12-25 2018-07-20 上海歌尔泰克机器人有限公司 云台旋转的控制方法及装置、无人机

Also Published As

Publication number Publication date
WO2021134183A1 (zh) 2021-07-08

Similar Documents

Publication Publication Date Title
US10789676B2 (en) Image processing device, image processing method, and program
US10609273B2 (en) Image pickup device and method of tracking subject thereof
CN108335323B (zh) 一种图像背景的虚化方法及移动终端
CN107197137B (zh) 图像处理装置、图像处理方法以及记录介质
CN109474780B (zh) 一种用于图像处理的方法和装置
CN113973190A (zh) 视频虚拟背景图像处理方法、装置及计算机设备
US8723965B2 (en) Image processing device, imaging device, and image processing method for performing blur correction on an input picture
US11902660B2 (en) Image processing device, image processing method, and program
CN107615744B (zh) 一种图像拍摄参数的确定方法及摄像装置
CN110248115B (zh) 图像处理方法、装置及存储介质
US11244423B2 (en) Image processing apparatus, image processing method, and storage medium for generating a panoramic image
CN113875220B (zh) 拍摄防抖方法、装置、终端及存储介质
US10297285B2 (en) Video data processing method and electronic apparatus
CN108776800B (zh) 一种图像处理方法、移动终端及计算机可读存储介质
CN110021071A (zh) 一种增强现实应用中的渲染方法、装置及设备
CN112616325A (zh) 图像处理方法、装置、可移动平台、摄像装置及存储介质
CN107993253B (zh) 目标跟踪方法及装置
CN114125298A (zh) 视频生成方法及装置、电子设备及计算机可读存储介质
CN113438421A (zh) 图像处理方法、装置、终端和可读存储介质
CN114302071B (zh) 视频处理方法、装置、存储介质及电子设备
CN112862657B (zh) 图像处理方法、装置、电子设备及计算机存储介质
CN116471483A (zh) 一种全景画面调用方法及全景相机系统
CN112637482B (zh) 图像处理方法、装置、存储介质及电子设备
CN113034369B (zh) 一种基于多摄像头的图像生成方法、装置和计算机设备
CN112433599A (zh) 显示方法、装置和计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20210406