CN107409166A - 摇摄镜头的自动生成 - Google Patents
摇摄镜头的自动生成 Download PDFInfo
- Publication number
- CN107409166A CN107409166A CN201680018026.6A CN201680018026A CN107409166A CN 107409166 A CN107409166 A CN 107409166A CN 201680018026 A CN201680018026 A CN 201680018026A CN 107409166 A CN107409166 A CN 107409166A
- Authority
- CN
- China
- Prior art keywords
- image
- target object
- images
- sequence
- exercise data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000004091 panning Methods 0.000 title claims abstract description 51
- 238000012545 processing Methods 0.000 claims abstract description 67
- 230000015654 memory Effects 0.000 claims description 39
- 238000000034 method Methods 0.000 claims description 37
- 238000004891 communication Methods 0.000 claims description 9
- 238000006073 displacement reaction Methods 0.000 claims description 9
- 238000013481 data capture Methods 0.000 claims description 8
- 238000003384 imaging method Methods 0.000 claims description 8
- 238000010606 normalization Methods 0.000 claims description 4
- 230000033001 locomotion Effects 0.000 description 24
- 238000005516 engineering process Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 8
- 238000004590 computer program Methods 0.000 description 7
- 230000009471 action Effects 0.000 description 6
- 230000008901 benefit Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 230000000712 assembly Effects 0.000 description 3
- 238000000429 assembly Methods 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000037396 body weight Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000003381 stabilizer Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000011282 treatment Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/215—Motion-based segmentation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
- H04N5/145—Movement estimation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2625—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of images from a temporal image sequence, e.g. for a stroboscopic effect
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
- Studio Circuits (AREA)
Abstract
一般来说,本公开的各方面涉及通过图像捕捉设备生成表示物体的摇摄镜头的图像。在一个实施例中,可对场景的一连串图像执行摇摄镜头。所述一连串图像可至少包含在所述场景内移动的目标物体。可通过将所述一连串图像的第二图像中的所述目标物体与所述一连串图像的第一图像中的所述目标物体进行比较来捕捉所述目标物体的运动数据。通过基于所述运动数据使用所述第一图像和所述第二图像来实施模糊处理会生成背景图像。通过将所述目标物体的所述图像包含在所述背景图像中来生成最终图像。
Description
技术领域
本申请案通常涉及摇摄镜头的生成,且更具体地说涉及用于利用移动穿过场景的目标物体的多个图像来自动生成摇摄镜头的系统、方法和装置。
背景技术
摇摄镜头是运动的目标物体的图像。目标物体是由图像捕捉装置捕捉的场景内的任何关注物体。在摇摄镜头内,目标物体清晰而场景的背景(例如除目标物体以外的其它场景的方面)模糊。目标物体方向上的模糊在摇摄镜头中会形成运动的视觉效果。摇摄镜头通常由经验丰富的摄影师拍摄。举例来说,可通过将快门速度/曝光时间降低到摇摄镜头小于经校准以捕捉目标物体的清晰图像的值的一值来拍摄摇摄镜头。在这种情形下,由于曝光时间随目标物体的运动以及环境光而改变,因此可能难以确定理想的曝光时间。作为另一实例,可通过在与目标物体相同的运动方向上移动图像捕捉装置来拍摄摇摄镜头。然而,这种摇摄镜头将需要手或三角架稳定以追踪目标物体。并且,图像捕捉装置的移动速率和运动方向将被控制成符合移动中的目标物体的移动速率和运动方向或摇摄镜头可被过度模糊。相应地,用于促进摇摄镜头的生成的经改进系统和方法将是有益的。
发明内容
本发明的系统、方法和装置各自具有若干方面,其中无单一方面单独地负责其合乎需要的属性。在不限制如随附申请专利范围所表达的本发明范围的情况下,现将简述各种实施例的一些特征。在考虑本论述之后,并且尤其在审阅名为“具体实施方式”的章节之后,将会理解本发明的各种实施例的特征是如何提供包含更易于或自动地生成摇摄镜头的优点的。一些实施例可能包含额外特征,且一些实施例可能不包含“发明内容”章节的实施例中所描述的每个特征。
本公开中描述的主题的一个创新是一种用于生成摇摄图像的系统。在一些实施例中,系统包含存储器组件,其经配置以存储场景的至少两个图像的一连串图像。一连串图像包含在场景内移动的至少一个物体。系统包含与存储器组件通信的至少一个处理器。处理器经配置以存取存储在存储器组件上的一连串图像。处理器经进一步配置以确定在一连串图像中描绘且在场景中移动的目标物体。处理器经进一步配置以从一连串图像中的至少一个拷贝描绘目标物体的图像数据。处理器经进一步配置以基于目标物体在一连串图像的第二图像中的位置到目标物体在一连串图像的第一图像中的位置来确定目标物体的运动数据。第二图像在第一图像之后捕捉。处理器经进一步配置以通过使用第一图像、第二图像和运动数据来生成背景图像。处理器经进一步配置以通过将目标物体的图像添加到背景图像上来生成最终图像。
本公开中描述的主题的另一方面是一种用于生成摇摄图像的方法。在一些实施例中,方法包含接收场景的一连串图像,所述一连串图像包含在场景内移动的至少一个物体以及背景信息。方法进一步包含拷贝描绘在一连串图像中运动的至少一个物体的目标物体的图像数据。方法进一步包括通过将目标物体在一连串图像中的第二位置与目标物体在一连串图像的第一图像中的第一位置进行比较来确定目标物体的运动数据,在第一图像之后捕捉第二图像。方法进一步包含通过使用第一图像和第二图像以及运动数据来生成背景图像。方法进一步包含通过将描绘目标物体的图像重叠到背景图像上来生成最终图像。方法可通过使用第一图像和第二图像以及运动数据来生成背景图像。为了生成背景图像,方法可实施使用第一图像和第二图像以及运动数据的模糊处理。
本公开中描述的主题的另一创新是一种用于生成摇摄图像的系统。在一些实施例中,系统包含经配置以至少存储计算机可执行指令的存储器。系统进一步包含计算装置,所述计算装置包含一或多个处理器,所述计算装置与存储器通信并且经配置以执行计算机可执行指令以实施:图像收集模块,其经配置以接收场景的一连串图像,所述一连串图像包含在场景内移动的至少一个物体。计算装置经进一步配置以实施目标物体捕捉模块,所述目标物体捕捉模块经配置以拷贝描绘选自在一连串图像中运动的至少一个物体的目标物体的图像数据。计算装置经进一步配置以实施运动数据捕捉模块,所述运动数据捕捉模块经配置以通过将目标物体在一连串图像的第二图像中的第二位置与目标物体在一连串图像的第一图像中的第一位置进行比较来确定目标物体的运动数据,第二图像在第一图像之后捕捉。计算装置经进一步配置以实施模糊处理应用程序模块,所述模糊处理应用程序模块经配置以使用第一图像、第二图像和运动数据来生成背景图像。计算装置经进一步配置以实施图像最终化模块,所述图像最终化模块经配置以通过将描绘目标物体的图像数据重叠到背景图像上来生成最终图像。
本公开中描述的主题的另一创新是一种计算机可读非暂时性存储媒体,其存储计算机可执行指令,所述计算机可执行指令在由一或多个计算机系统执行时会配置一或多个计算机系统执行用于生成摇摄图像的操作。操作包含接收场景的一连串图像,所述一连串图像包含在场景内移动的至少一个物体以及背景信息。操作还包含拷贝描绘在一连串图像中运动的至少一个物体的目标物体的图像数据。操作还包含通过将在一连串图像的第二图像中的目标物体与在一连串图像的第一图像中的目标物体进行比较来确定目标物体的运动数据,第二图像在第一图像之后捕捉。操作还包含通过使用第一图像、第二图像和运动数据来生成背景图像。操作还包含通过将描绘目标物体的图像数据重叠到背景图像上来生成最终图像。
附图说明
现将参考附图,结合各种实施例描述上文所提到的方面以及本发明技术的其它特征、方面和优点。然而,所说明的实施例仅为实例,且并不希望是限制性的。在整个附图中,除非上下文另外规定,否则相似符号通常识别相似组件。应注意,以下各图的相对尺寸可能未按比例绘制。
图1说明可用于本文所述实施例的图像捕捉装置的实施例的框图。
图2A是说明可用于图1的图像捕捉装置中用以生成表示摇摄镜头的图像示范性方法的流程图。
图2B是说明用于使用第一图像及第二图像生成表示摇摄镜头的图像且可用于图1的图像捕捉装置中的的示范性方法的流程图。
图3A到3B说明具有运动的多个物体的通过(例如图1的)图像捕捉装置由图像捕捉的场景的实例。
图4A到4H说明跨越图3A的场景的一连串图像所实施的生成摇摄镜头的模糊处理。
图5说明可用于图1的图像捕捉装置的摇摄模块的框图。
具体实施方式
下文参考附图更充分地描述新颖系统、设备和方法的各个方面。然而,本公开可以许多不同形式来体现,且不应将其解释为限于贯穿本公开所呈现的任何特定结构或功能。而是,提供这些方面以使得本公开可为透彻且完整的,且将向所属领域的技术人员充分传达本公开的范围。基于本文中的教示,所属领域的技术人员应了解,本公开的范围既定涵盖无论是独立于本公开的任何其它方面而实施还是与之组合而实施的本文中所公开的新颖系统、设备和方法的任何方面。举例来说,可以使用本文中所阐述的任何数目个方面来实施设备或实践方法。此外,本发明的范围既定涵盖使用作为本文中所陈述的本发明的各种方面的补充或替代的其它结构、功能性或结构与功能性来实践的此设备或方法。应理解,可通过权利要求书的一或多个要素来体现本文中所公开的任何方面。
尽管本文描述了特定方面,但这些方面的许多变化及排列落在本公开的范围内。尽管提及了优选方面的一些益处及优点,但本公开的范围不欲限于特定益处、用途或目标。而是,本公开的方面既定广泛地适用于不同无线技术、系统配置、网络及发射协议,其中的一些是借助于实例而在图中以及在优选方面的以下描述中说明。详细描述和附图仅说明而非限制本公开,本公开的范围由所附权利要求书和其等效内容界定。
一般来说,本公开的方面涉及通过图像捕捉装置来生成摇摄镜头。图像捕捉装置可以是经配置以捕捉场景的视觉图像的任何装置,如下文将描述。可使用经配置具有存储器中的指令的的处理器利用在场景内移动的目标物体的一连串图像来自动生成摇摄镜头。目标物体可于场景内在任何方向上移动,包含在任何方向上跨越场景、朝向图像捕捉装置或远离图像捕捉装置。摇摄镜头可由经验丰富的摄影师拍摄,所述摄影师基于包含环境光和场景内目标物体的运动的各种因素来确定图像捕捉装置的曝光时间、移动速率和运动方向。然而,在几乎不或不手动调整图像捕捉装置的情况下,除了捕捉场景内移动的目标物体的多个图像之外,摇摄镜头的自动(或大体上自动)生成还会产生摇摄镜头。通过降低用来创建摇摄镜头的专业技能量,自动生成摇摄镜头将使得除了经验丰富的摄影师之外的更广泛的用户受众可使用摇摄镜头创建。此外,有利的是,摇摄镜头的自动(或大体上自动)生成可应用到集成型图像捕捉设备(包含具有处理器的相机),其可包含处理能力以及图像捕捉能力,从而能够在相同位置和/或在单个电子装置内实时地创建摇摄镜头。此外,通过与经配置以执行用于生成摇摄镜头的处理的专用硬件一起实施,摇摄镜头的自动(或大体上自动)生成还可用于相对于台式和/或常规通用计算装置而具有较大移植性和有限处理功率的消费型电子装置(包含具有相机的智能手机)。
在一个实施例中,生成摇摄镜头可由包含经配置以接收场景的一连串图像的至少一个处理器的系统来执行。一连串图像可以是在相邻递增时间下捕捉的多个图像。一连串图像可捕捉在场景内移动的至少一个物体以及背景信息。背景信息可以是从不是目标物体的一部分的场景所捕捉的任何信息。在场景内移动的多个物体中的一个物体可指定为目标物体,且可从一连串图像中的一个拷贝。可手动(例如从用户输入)或自动地(例如基于物体检测算法)来获得目标物体的指定,如下文将进一步论述。并且,运动数据可利用一连串图像的至少一部分来确定,且可定义方向值和量值。举例来说,在一个实施例中,可利用一连串图像的初始图像和当前图像,通过比较所述两个图像来确定运动数据。在另一实施例中,可通过将新的当前图像与先前“当前图像”进行比较来确定运动数据,如结合图4A到4H所描述。在一些实施例中,可利用超过两个和/或所有一连串图像来确定运动数据。
可通过使用一连串图像中的两个图像来实施模糊处理,从而生成背景图像。举例来说,可通过使用初始图像和当前图像,基于通过将初始图像与当前图像进行比较而确定的运动数据来实施模糊处理,从而生成背景图像。在一些实施例中,可通过叠加处理来实施模糊处理,所述叠加处理可包含:执行表示当前图像在初始图像上叠加,和将当前图像在运动数据的方向上移位一运动数据的量值(即,将初始图像的像素映射到当前图像的像素中,如图4A到4H中所描述)的计算。可将经移位的当前图像的像素值添加到初始图像,以生成背景图像的像素值。可通过归一化背景图像的像素值来生成背景图像(例如通过使像素值中的每一个除以二)。在一些实施例中,可通过以下实现模糊处理:使用模糊核(或功能)将初始图像或当前图像在运动数据的方向上模糊一运动数据的量值,并接着使用模糊图像来生成背景图像。结合图4A至4H进一步详细地论述模糊处理的实例。最后,可通过在当前图像中的目标物体的位置处将目标物体的图像包含在背景图像中来生成摇摄镜头。
图1说明可用于生成图像的图像捕捉装置100的实施例的框图,所述图像似乎已经使用手动摇摄技术生成,例如通过移动相机以使得相机视野(FOV)内的物体在FOV中保持大致相同位置,从而生成物体清晰且背景模糊的图像。图像捕捉装置100可包含与相机模块115通信的图像处理器120。图像处理器120还可与工作存储器105、存储器130和装置处理器150通信,装置处理器150又与电子存储模块110和电子显示器125通信。在一些实施例中,可使用单个处理器而非两个单独处理器。一些实施例可包含三个或超过三个处理器。在某些实施例中,上文所描述的组件中的一些可不包含在图像捕捉装置100中。在一些实施例中,上文中未描述的额外部件可包含在图像捕捉装置100中。举例来说,在一些实施例中,相机模块115和/或显示器125可不包含在图像捕捉装置100中,或工作存储器105和存储器130可组合成单个存储器组件。
图1中说明的图像捕捉装置100实施例可以是以下各项或可以是以下各项的一部分:蜂窝电话、数码相机、平板电脑、智能手机、个人数字助理等。图像捕捉装置100还可以是固定计算装置或有利于自动生成摇摄镜头的任何装置。除经配置以提供摇摄镜头的自动生成的处理之外,用户可对图像捕捉装置100使用多个处理。这些处理可包含传统摄影和视频捕捉处理、高动态范围成像处理、全景摄影捕捉处理或立体成像处理。如本文中所使用,“摇摄镜头的自动生成”的各种实施例可包含各种水平的自动化处理,且可包含至少一个用户输入,例如选择物体和/或选择背景图像的特征。在选择背景图像的特征的实例中,包含选择背景图像的模糊量。
图像捕捉装置100包含用于捕捉外部图像的相机模块115。相机模块115可包含为清楚目的起见而未图示的各种组件,包含但不限于传感器、镜头系统和自动对焦总成。尽管说明了单个相机模块115,但任何数量的相机模块和/或相机模块组件(包含传感器或镜头系统)可用于如本文中所描述的摇摄镜头的自动摇摄生成。举例来说,可增加相机或光学装置的数量,以实现给定视野的更大纵深能力或更好分辨率。相机模块115可耦合到图像处理器120,以将所捕捉图像发射到图像处理器120。图像处理器120或装置处理器150可经配置以接收所捕捉图像,从而执行与摇摄镜头的自动生成相关联的各种处理。
图像处理器120可经配置以执行用于本文中所描述的摇摄镜头的生成的各种处理操作。图像处理器120可以是针对成像应用而专门设计的处理器。图像处理操作的实例包含裁剪、按比例缩放(例如,按比例缩放到不同分辨率)、图像拼接、图像格式转换、颜色内插、颜色处理、图像滤波(例如,空间图像滤波)、透镜伪影或缺陷校正、渐晕导致的透镜光滚降或光级降低等等。在一些实施例中,图像处理器120可包括多个处理器。举例来说,多个处理器中的每一个可经配置以执行如由存储在存储器130中的不同模块所确定的不同功能,如下文将进一步论述。图像处理器120可为一或多个专用图像信号处理器(ISP)或处理器的软件实施方案。
仍参考图1中说明的实施例,如所示出,图像处理器120连接到存储器130和工作存储器105。存储器130可含有图像处理器120执行以便实施各种功能的计算机程序指令(在一些实施例中分组成模块)。存储器120可包含RAM、ROM和/或其他持久辅助性或非暂时性计算机可读媒体。存储器130可存储操作系统模块145,所述操作系统模块提供在图像捕捉装置100的一般管理和操作中由图像处理器120和/或装置处理器150使用的计算机程序指令。举例来说,操作系统模块145可配置图像处理器120以管理装置100的工作存储器105和处理资源。并且,操作系统模块145可包含管理硬件资源的装置驱动器,例如相机模块115。因此,在一些实施例中,上文所论述的图像处理模块中包含的指令可不与这些硬件资源直接交互,而是经由位于操作系统模块145中的标准子例程或API交互。操作系统模块145内的指令可接着与这些硬件组件直接交互。操作系统模块145可进一步配置图像处理器120与装置处理器150共享信息。
存储器130还可进一步包含用于实施本公开的方面的计算机程序指令和其它信息。举例来说,在一个实施例中,存储器130包含产生用户接口(和/或其对应指令)的用户接口模块140,以供在显示器125上呈现。存储器130还可存储摇摄模块155。摇摄模块155可包含额外模块,所述额外模块包含图像收集模块、目标物体捕捉模块、运动数据捕捉模块、模糊处理应用程序模块和图像最终化模块,如参看图5将论述。额外模块可包含在一些实施例中,或更少模块可包含在某些实施例中。工作存储器105可由图像处理器120用于存储存储器130的模块中所含有的处理器指令的工作集。工作存储器105还可由图像处理器120用于存储在图像捕捉装置100操作期间创建的动态数据(例如用于摇摄镜头的自动生成的信息)。尽管额外模块或用于外部装置或硬件的连接可能未在本附图中示出,但其可存在,以提供关于生成摇摄镜头的其它操作。
装置处理器150可经配置以控制显示器125将如由图像捕捉装置所处理的图像(例如摇摄镜头)显示给用户。显示器125可在图像捕捉装置100外部,或可为图像捕捉装置100的一部分。显示器125还可经配置以显示存储在存储器中或由用户最近所捕捉的所捕捉图像,以便用户输入(例如便于从场景内的多个物体中选择目标物体)。显示器125可包含面板显示器,例如LCD屏幕、LED屏幕或其它显示器技术,且可实施触敏技术。装置处理器150还可经配置以接收来自用户的输入。举例来说,显示器125还可经配置成触摸屏,且因此可经配置以接收来自用户的输入。用户可使用显示器125来输入处理器可用于生成摇摄镜头的信息。举例来说,用户可使用触摸屏来在显示器125上所显示的视野中选择目标物体。
装置处理器150可将数据写入到存储组件110,例如表示所捕捉图像的数据。虽然存储组件110以图形方式表示为传统磁盘装置,但所属领域的技术人员应理解,可将存储组件110配置成任何存储媒体装置。举例来说,存储组件110可包含磁盘驱动器,例如软盘驱动器、硬盘驱动器、光盘驱动器或磁光盘驱动器,或固态存储器,例如闪存、RAM、ROM和/或EEPROM。存储组件110还可包含多个存储器单元,且存储器单元中的任一个可经配置在图像捕捉装置100内部,或可在图像捕捉装置100外部。存储组件110还可包含经配置以存储所捕捉图像的可从相机拆卸的存储卡或高速存储器。
尽管图1描绘具有单独组件以包含处理器、成像传感器及存储器的装置,但所属领域的技术人员将认识到,这些单独组件可用多种方式组合以实现特定的设计目标。举例来说,在替代实施例中,存储器组件可与处理器组件组合以节省成本并改进性能。
此外,尽管图1说明了多个存储器组件,其包含包括若干模块的存储器组件130以及单独存储器105,但所属领域的技术人员将认识到,使用不同存储器架构的若干实施例。举例来说,一种设计可以使用ROM或静态RAM存储器来存储实施含于存储器130中的模块的处理器指令。处理器指令可加载到RAM中以便于由图像处理器120执行。举例来说,工作存储器105可包括RAM存储器,其中指令在由图像处理器120执行之前被加载到工作存储器105中。
图2A说明用于使用一连串图像来生成摇摄镜头的处理200的实例的流程图。根据一些实施例,处理200可并入图1中的摇摄模块155中。处理200可在框202处开始。
在框202处,处理200可存取可被称为“初始图像”的图像。初始图像可为由图像捕捉装置100所捕捉的一连串图像的第一图像。
在框204处,处理200可存取可被称为“当前图像”的图像。当前图像可为捕捉初始图像之后所捕捉的任何图像,例如初始图像之后的一连串图像中的下一个(相连)图像。在一些处理中,当前图像位于(一连串图像中的)初始图像的若干图像之后,这可允许目标物体从其描绘于初始图像中的位置移动一段(所要)距离。
在框206处,处理200可将描绘目标物体的当前图像的一部分(例如)存储在工作存储器105(图1)中。可在无需用户输入的情况下,从当前图像和/或初始图像自动地识别目标物体。在一些实施例中,可基于用户输入手动识别目标物体,如结合图3B进一步详细论述。举例来说,可通过处理一连串图像以识别在图像中描绘的满足某种准则的物体,从而自动地识别目标物体。这种准则可包含(但不限于):跨越多个图像保持对焦,具有某种形状、大小和/或颜色,位于初始图像的某个区域或具有特定标记。
在框208处,处理200可确定关于目标物体的运动数据。在一些实施例中,可基于一连串图像的不同图像之间的差的分析来确定运动数据,例如目标物体在当前图像中和初始图像中的位置的差,或如一连串图像的超过两个图像中所描绘的目标物体的位置的差,如参考图4A到4H进一步详细论述。运动数据可包含方向值和量值。方向值可指定目标物体在初始图像与当前图像之间的移动方向(或在新的当前图像与先前当前图像之间的运动方向,如参考图4A到4H所论述)。量值可表示目标物体在初始图像与当前图像之间的移动量。
在框210处,处理200可基于所确定运动数据执行模糊处理。在某些实施例中,可使用第一图像、第二图像和运动数据执行模糊处理,如参考图4A到4H进一步详细论述。
在框212处,处理200确定一连串图像中的额外当前图像是否可用于生成摇摄镜头。如果额外当前图像可用,那么处理200返回到框204。并且,在所述模糊处理(框210)之后生成的背景图像表示为新的初始图像,并将额外当前图像当作新的当前图像予以存取。如果无额外当前图像,那么处理100进行到框214。因为与使用三个图像相比,使用全部图像(例如30个图像)可能不能获得显著的益处,因此在各种实施例中可存在所用图像的最大数量的值,其可要么由用户设定或被设为默认值,和/或要么动态地设定。
在框214处,处理200通过将目标物体与由模糊处理(框210)所生成的背景图像合并来生成摇摄镜头。在一些实施例中,可通过检索(保存在工作存储器105中的)目标物体并将目标物体放置在由模糊处理(框210)所生成的图像上来合并目标物体。举例来说,以目标物体的像素替换由模糊处理所生成的图像的某些像素。所添加的目标物体的位置可以是对应于目标物体在当前图像中的位置的位置(例如目标物体在一连串图像内的上一个已知位置)。
图2B说明根据一些实施例的用于由第一图像和第二图像来生成摇摄镜头的处理250的实例的流程图。举例来说,这可通过摇摄模块155(图1)来完成。处理250可在框252处开始。
在框252处,处理250接收或存取场景的一连串图像。一连串图像可包含在场景内移动的至少一个物体以及背景信息。背景信息可以是与移动物体不相关的信息。
在框254处,处理250生成描绘在一连串图像中运动的至少一个物体的目标物体的图像数据。可通过从一连串图像中的图像中的一个拷贝图像数据来生成图像数据。
在框256处,处理250确定运动数据。运动数据是基于如一连串图像中所描绘的目标物体的移动。场景可包含第一图像和在第一图像之后捕捉的第二图像。可通过将目标物体在一连串图像的第二图像中的第二位置与目标物体在一连串图像的第一图像中的第一位置进行比较来确定运动数据。
在框258处,处理250生成背景图像。可通过使用第一图像、第二图像和运动数据实施模糊处理来生成背景图像。如结合图4A到4H进一步详细论述,可执行模糊处理。
在框260处,处理250生成最终图像。可通过将描绘目标物体的图像数据包含在背景图像中来生成最终图像。可在一个位置处包含图像数据,所述位置对应于目标物体在第二(或最终)图像中的位置。
图3A说明具有多个运动的物体的场景300,其可通过图1的图像捕捉装置捕捉。物体包含于场景内在不同方向上移动的圆形320、矩形340和椭圆形330(如用各种物体后的箭头所表示)。
图3B说明图3A的场景300的图像350。图像350包含圆形320、矩形340和椭圆形330中的每一个。在某些实施例中,图像350可用于与摇摄镜头的生成相关的处理。举例来说,图像350可用于确定场景300内的目标物体。在某些实施例中,可由用户输入来确定目标物体,例如由从图像350内的物体中的目标物体的用户选择确定。举例来说,图像捕捉装置100可经配置以从显示器125(图1)接收用户输入,其中用户可直接在显示器125上选择关注物体(其中显示器125包含触摸屏能力)。图像捕捉装置100还可经配置以通过为用户提供光标以从所显示图像选择关注物体来促进用户输入。在某些实施例中,用于目标物体的确定的图像可被称为参考图像。在一些实施例中,图像捕捉装置100可经配置以自动地确定目标物体,而无需用户输入。举例来说,图像捕捉装置可基于满足某种准则来确定目标物体。这种准则可包含(但不限于):跨越多个图像保持对焦,具有某种形状、大小或颜色,位于初始图像的某个区域中或以特定标记为特征。
图4A到4H说明模糊处理的一些实施例的方面。可跨越场景300(图3A)的一连串图像执行模糊处理,以生成摇摄镜头。如图4A中所说明,可将图像350的圆形320选为目标物体。图像350可表示为描绘目标物体的一连串图像中的初始图像,且将被称为图4A到4H的剩余描述中的初始图像350。参考图4B,场景300的一连串图像的下一个图像表示为当前图像404。可基于初始图像350与当前图像404之间的差来确定表征运动方向和运动量值的运动数据。举例来说,可通过表征目标物体320在初始图像350与当前图像404之间所产生的运动量(或新的当前图像与先前当前图像之间的差,如下文所论述),来确定运动数据。为了清晰起见,图4C说明具有竖直线的初始图像350和具有水平线的当前图像404。
如图4A到4C中说明,当前图像404可叠加,且可相对于初始图像350在如运动数据所指示的量值和方向上移位。叠加是指将一个图像的每一位置处的每个像素映射到另一图像的另一像素。移位是指将一个图像的每一位置处的每一像素映射到在不同位置处的另一图像的另一像素。举例来说,图4A的初始图像350中的像素360A、360B、360C和360D可被映射到图4B的当前图像404中的像素402A、402B、402C和402D。因此,图4A的初始图像350中的像素360A、360B、360C和360D被图4B的当前图像404中的像素402A、402B、402C和402D叠加。并且,图4A的初始图像350中的像素360A、360B、360C和360D可位于从图4B的当前图像404中的像素402A、402B、402C及402D的位置偏移由运动数据所确定的量值和方向的位置处。因此,由于图4A的初始图像350中的像素360A、360B、360C和360D相对于图4B的当前图像404中的402A、402B、402C、和402D的位置的不同位置处叠加,所以像素中的每一个被移位。
此外,如图4C中所说明,可通过添加经叠加且经移位图像来生成背景图像407。为了清晰起见,图4C中的背景图像说明为具有水平线和竖直线。添加是指将每一图像的经叠加且经移位的像素值添加到彼此。举例来说,如果像素360A、360B、360C和360D中的每一个具有像素值40,且像素402A、402B、402C和402D中的每一个具有像素值60,那么添加像素值会在对应于非归一化背景图像的每个像素处会得到像素值100。这些经添加像素值将位于图像350和图像404中存在像素数据的像素位置处。换句话说,在图像350和404重叠的位置处。可生成背景图像407作为对应于图像350和404的重叠的位置处的像素值集合。
可通过归一化背景图像来最终形成背景图像407。归一化是指使经添加像素值除以二,并将经添加像素按比例缩放到一连串图像中的图像的标准尺寸以得到背景图像。如图4C中所说明,背景图像407生成模糊目标物体406但也损失分辨率,这是因为初始图像350与当前图像404的某些区域可能未重叠。换句话说,分辨率可能因空值而损失,所述空值导致当前图像404的像素不具有初始图像350的对应像素,或初始图像350的像素不具有当前图像404的对应像素(例如,在初始图像350的区域403中,或在当前图像404的区域405中)。可通过使经添加像素值除以二并将分辨率按比例放大到一连串图像中的图像的标准尺寸,来归一化经添加像素值。按比例缩放后的背景图像407可为用作图4E中的新的初始图像406的最终背景图像407。
在图4E中,在图4D中所说明的最终背景图像表示为新的初始图像408,且场景的一连串图像中的下一个图像表示为新的当前图像408。基于先前当前图像404与新的当前图像410之间的差来确定表征运动方向和运动量值的运动数据,如结合图2的框208所论述。先前当前图像是在使用新的当前图像时被先前用作当前图像的图像。随后,新的当前图像410在新的初始图像408上方叠加,在如运动数据所指示的量值和方向上移位。添加经叠加新的初始图像408和新的当前图像410的像素值,从而生成背景图像413。随后,归一化这个背景图像413,从而生成在图4D中被用作新的初始图像414的最终背景图像。
在图4F中,在图4C中所生成的背景图像表示为新的初始图像414,且场景的一连串图像中的下一个图像表示为新的当前图像416。基于先前当前图像410与新的当前图像416之间的差来确定表征运动方向和运动量值的运动数据,如结合图2的框208所论述。随后,新的当前图像416在新的初始图像414上方叠加,并在如运动数据所指示的量值和方向上移位。添加经叠加新的初始图像414的像素值和新的当前图像416,从而生成背景图像419。随后,归一化这个背景图像419,从而生成在图4E中被用作新的初始图像420的最终背景图像。
在图4G中,在图4D中所说明的背景图像419表示为新的初始图像420,且场景的一连串图像中的下一个图像表示为新的当前图像422。基于先前当前图像416与新的当前图像422之间的差来确定表征运动方向和运动量值的运动数据,如结合图2的框208所论述。随后,新的当前图像422在新的初始图像420上方叠加,并在如运动数据所指示的量值和方向上移位。添加经叠加新的初始图像420和新的当前图像422的像素值,从而生成新的背景图像425。随后,归一化这个背景图像425,从而产生在图4E中被用作新的初始图像426的最终背景图像。
在图4H中,说明为在图4E中所生成的背景图像425表示为新的初始图像426,且场景的一连串图像中的下一个图像表示为新的当前图像428。因为这个新的当前图像428是一连串图像的上一个图像,所以抽出新的当前图像428内的目标物体,以便在生成背景图像之后使用。基于先前当前图像422与新的当前图像428之间的差来确定表征运动方向和运动量值的运动数据,如结合图2的框208所论述。随后,新的当前图像428在新的初始图像426上方叠加,并在如运动数据所指示的量值和方向上移位。添加经叠加新的初始图像426和新的当前图像428的像素值并随后归一化,以生成背景图像431。随后,将这个背景图像431的分辨率按比例放大到一连串图像中的图像的标准大小,并将目标物体的清晰图像叠加在新的当前图像428中的目标物体的上一个位置上方,从而生成摇摄镜头。
图5说明可用于图1的图像捕捉装置的摇摄模块155的框图。摇摄模块155包含:图像收集模块502、目标物体捕捉模块504、运动数据捕捉模块506、模糊处理应用程序模块508和图像最终化模块510。如结合图1所描述,视不同应用的需要,模块中的每一个可与相同图像处理器120或不同图像处理器结合使用。举例来说,在某些实施例中,模块中的每一个可被分配到服务指定模块的不同图像处理器。
图像收集模块502可存取初始图像和当前图像,并将初始图像和当前图像传递到目标物体捕捉模块504。目标物体捕捉模块504可用于利用初始图像或当前图像,在无需用户输入的情况下自动地或以用户输入来手动地确定目标物体,如结合图3B进一步详细论述。举例来说,可拷贝当前图像中的目标物体,并将其存储在工作存储器105(图1)中。目标物体捕捉模块可识别用于运动数据捕捉模块506的目标物体。运动数据捕捉模块506可基于一连串图像的不同图像之间的差的分析来确定运动数据,例如当前图像与初始图像之间的差(或新的当前图像与先前当前图像之间的差,如结合图4A到4H所描述)或跨越一连串图像的超过两个图像之间的差,如结合图4A到4H所论述。
在某些实施例中,运动数据可包含方向值和量值。方向值可指定目标物体在初始图像与当前图像之间的移动方向(或在新的当前图像与先前当前图像之间的运动方向,如结合图4A到4H所描述)。量值可表明在初始图像与当前图像之间所作出的移动量。模糊处理应用程序模块508可通过基于从运动数据捕捉模块506所捕捉的运动数据来实施模糊处理从而生成背景图像。可通过将初始图像和当前图像叠加且添加带彼此之上的叠加处理来实施模糊处理,如结合图4A到4H所论述。如果在一连串图像中存在另一当前图像,那么模糊处理应用程序模块508可指示图像收集模块将新的背景图像指定为新的初始图像,并继续处理新的初始图像和新的当前图像,如图2中的框212中所论述。如果一连串图像中不存在额外当前图像,那么将背景图像传递到图像最终化模块,所述最终化模块通过将目标物体重叠在背景图像上方来生成摇摄镜头。重叠的位置可以是对应于目标物体在当前图像中的位置的位置(例如目标物体在一连串图像内的上一个已知位置)。
如本文所使用,术语“确定”涵盖各种各样的动作。举例来说,“确定”可包含推算、计算、处理、导出、研究、查找(例如,在表、数据库或另一数据结构中查找)、断定等等。而且,“确定”可包含接收(例如,接收信息)、存取(例如,存取存储器中的数据)等等。此外,“确定”可包含解析、选择、挑选、建立等。此外,如本文所使用,在某些方面,“信道宽度”可涵盖或也可被称作带宽。
如本文所使用,提到一列项目“中的至少一个”的短语是指那些项目的任何组合,包含单个成员。作为实例,“a、b或c中的至少一个”意在涵盖:a、b、c、a-b、a-c、b-c和a-b-c。
上文所描述的方法的各种操作可由能够执行操作的任何合适装置(例如各种硬件和/或软件组件、电路和/或模块)执行。一般来说,各图中所说明的任何操作可以由能够执行所述操作的对应功能装置执行。
如本文中所使用,术语接口可指经配置以将两个或多于两个装置连接在一起的硬件或软件。举例来说,接口可为处理器或总线的部分且可经配置以允许信息或数据在装置之间的传达。可将接口集成到芯片或其它装置中。举例来说,在一些实施例中,接口可包括经配置以在一个装置处从另一装置接收信息或通信。接口(例如,处理器或总线的接口)可接收由前端或另一装置处理的信息或数据,或可处理所接收到的信息。在一些实施例中,接口可包括经配置以将信息或数据发射或传达到另一装置的发射器。因此,接口可发射信息或数据或可准备用于输出的信息或数据以供发射(例如,经由总线)。
可使用通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列信号(FPGA)或其它可编程逻辑装置(PLD)、离散门或晶体管逻辑、离散硬件组件或其经设计以执行本文所描述的功能的任何组合来实施或执行结合本公开而描述的各种说明性逻辑块、模块和电路。通用处理器可为微处理器,但在替代方案中,处理器可为任何市售处理器、控制器、微控制器或状态机。处理器还可实施为计算装置的组合,例如DSP与微处理器的组合、多个微处理器、一或多个微处理器结合DSP核心,或任何其它此类配置。
在一或多个方面中,所描述功能可在硬件、软件、固件或其任何组合中实施。如果实施于软件中,那么可将功能作为一或多个指令或代码存储在计算机可读媒体上或经由计算机可读媒体发射。计算机可读媒体包含计算机存储媒体及通信媒体两个,通信媒体包含促进将计算机程序从一处传送到另一处的任何媒体。存储媒体可以是可由计算机存取的任何可用媒体。举例来说且非限制,这类计算机可读媒体可包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储装置、磁盘存储装置或其它磁性存储装置,或可用于携载或存储呈指令或数据结构的形式的所要程序代码且可由计算机存取的任何其它媒体。如本文中所使用,磁盘和光盘包含压缩光盘(CD)、激光光盘、光学光盘、数字多功能光盘(DVD)、软盘和蓝光光盘,其中磁盘通常以磁性方式再现数据,而光盘利用激光以光学方式再现数据。因此,在一些方面中,计算机可读媒体可包括非暂时性计算机可读媒体(例如,有形媒体)。
本文中所公开的方法包括用于实现所描述的方法的一或多个步骤或动作。在不偏离权利要求书的范围的情况下,方法步骤和/或动作可彼此互换。换句话说,除非规定了步骤或动作的特定顺序,否则在不偏离权利要求书的范围的情况下可对特定步骤及/或动作的顺序及/或用法加以修改。
可将本文中所描述的功能作为一或多个指令存储在处理器可读或计算机可读媒体上。术语“计算机可读媒体”是指可由计算机或处理器存取的任何可用媒体。借助于实例而非限制,这类媒体可包括RAM、ROM、EEPROM、快闪存储器、CD-ROM或其它光盘存储装置、磁盘存储装置或其它磁性存储装置或可用来存储呈指令或数据结构的形式的所要程序代码并且可由计算机存取的任何其它媒体。如本文中所使用,磁盘及光盘包含压缩光盘(CD)、激光光盘、光学光盘、数字多功能光盘(DVD)、软盘和光盘,其中磁盘通常以磁性方式再现数据,而光盘利用激光以光学方式再现数据。应注意,计算机可读媒体可为有形且非暂时性的。术语“计算机程序产品”是指计算装置或处理器,其与可由计算装置或处理器执行、处理或计算的代码或指令(例如“程序”)组合。如本文中所使用,术语“代码”可指可由计算装置或处理器执行的软件、指令、代码或数据。发射(或通信)装置可用于在两个装置之间通信。举例来说,如果使用同轴电缆、光纤电缆、双绞线、数字订户线(DSL)或无线技术(例如红外线、无线电和微波)从网站、服务器或其它远程源来获得信息,那么同轴电缆、光纤电缆、双绞线、DSL或无线技术(例如红外线、无线电和微波)包含在发射(或通信)装置的定义中。
因此,某些方面可包括用于执行本文中所提出的操作的计算机程序产品。举例来说,这种计算机程序产品可包括其上存储有(和/或编码有)指令的计算机可读媒体,所述指令可由一或多个处理器执行以执行本文中所描述的操作。
另外,应了解,用于执行本文所描述的方法和技术的模块和/或其它适当装置可在适用时由用户终端和/或基站下载和/或以其它方式获得。举例来说,可将此装置耦合到服务器以促进传送用于执行本文所描述方法的装置。或者,可经由存储装置(例如RAM、ROM、诸如压缩光盘(CD)或软盘的物理存储媒体等)提供本文中所描述的各种方法,以使得用户终端和/或基站可获得将耦合到或将存储装置提供到装置的各种方法。此外,可利用用于将本文中所描述的方法及技术提供到装置的任何其它合适的技术。
应理解,所附权利要求书不限于上文所说明的精确配置和组件。在不偏离权利要求书的范围的情况下,可在上文所描述的方法和设备的布置、操作和细节中作出各种修改、改变和变化。
虽然前述内容是针对本公开的各方面,但在不偏离本发明的基本范围的情况下,可设计出本公开的其它及另外方面,且由所附权利要求书确定本公开的范围。
Claims (30)
1.一种系统,其包括:
存储器组件,其经配置以存储场景的至少两个图像的一连串图像,所述一连串图像包含在所述场景内移动的至少一个物体;及
至少一个处理器,其与所述存储器组件通信,所述处理器经配置以:
确定所述至少两个图像中的目标物体;
利用所述至少两个图像中的至少一个来生成描绘所述目标物体的图像数据,
基于所述目标物体在所述至少两个图像中的位置来确定所述目标物体的运动数据,
通过使用所述至少两个图像和所述运动数据来生成背景图像,及
通过将描绘所述目标物体的所述图像数据包含在所述背景图像中来生成最终图像。
2.根据权利要求1所述的系统,其中所述运动数据包括方向和量值,所述至少两个图像包括第一图像和在所述第一图像后捕捉的第二图像,且通过使用包括以下的模糊处理来生成所述背景图像:
将所述第二图像在所述运动数据的所述方向上移位所述运动数据的所述量值,
将所述经移位第二图像叠加到所述第一图像上方,
将所述经移位第二图像的像素值添加到所述第一图像,以生成所述背景图像的像素值,及
归一化所述背景图像的所述像素值。
3.根据权利要求2所述的系统,其中归一化所述像素值包括将所述背景图像按比例缩放到所述第二图像的尺寸。
4.根据权利要求2所述的系统,其中所述归一化所述像素值包括使所述背景图像的所述像素值中的每一个除以二。
5.根据权利要求2所述的系统,其中将所述经移位第二图像叠加到所述第一图像上方将所述第一图像的第一像素值映射到所述第二图像的第二像素值。
6.根据权利要求1所述的系统,其中所述至少两个图像包括第一图像和在所述第一图像之后捕捉的第二图像,且其中所述至少一个处理器经进一步配置以:
通过将所述一连串图像的第三图像中的所述目标物体的位置与所述第二图像中的目标物体的位置进行比较,来确定所述目标物体的第二运动数据,所述第三图像在所述第二图像之后捕捉;及
通过使用所述背景图像和所述第二运动数据更新所述背景图像。
7.根据权利要求1所述的系统,其中所述至少一个处理器经进一步配置以通过在所述第二图像中的所述目标物体的位置处将描绘所述目标物体的所述图像数据包含到所述背景图像上来生成最终图像。
8.根据权利要求7所述的系统,其中所述至少一个处理器经进一步配置以利用所述第二图像生成在所述一连串图像中运动的至少一个物体的目标物体的图像。
9.根据权利要求1所述的系统,其中所述至少一个处理器经进一步配置以接收用户输入并使用所述用户输入来识别所述目标物体。
10.根据权利要求9所述的系统,其中所述至少一个处理器经进一步配置以在显示器上显示移动跨越所述场景的至少两个物体,并接收用户输入以识别所述至少两个物体中的哪一个是所述目标物体。
11.根据权利要求1所述的系统,其中所述至少一个处理器经进一步配置以将所述一连串图像中的一个确定为用以识别所述目标物体的参考图像。
12.根据权利要求11所述的系统,其中至少一个处理器经进一步配置以接收指示所述一连串图像中的哪一个是所述参考图像的用户输入。
13.根据权利要求1所述的系统,其进一步包括:
相机模块,其经配置以捕捉所述场景的所述一连串图像;
显示器,其经配置以显示移动跨越所述场景的至少两个物体;及
壳体,其经配置以包封所述存储器、所述至少一个处理器、所述相机模块和所述显示器,其中所述显示器和所述相机模块经进一步配置以形成所述壳体的表面的一部分。
14.一种用于生成摇摄镜头的方法,其包括:
接收场景的一连串图像,所述一连串图像包含至少一个物体和背景信息;
生成描绘在所述一连串图像中运动的所述至少一个物体的目标物体的图像数据;
通过将所述一连串图像的第二图像中的所述目标物体的第二位置与所述一连串图像的第一图像中的所述目标物体的第一位置进行比较,来确定所述目标物体的运动数据,所述第二图像在所述第一图像之后捕捉;
通过使用所述第一图像、所述第二图像和所述运动数据来生成背景图像;及
通过将描绘所述目标物体的所述图像数据包含在所述背景图像中来生成最终图像。
15.根据权利要求14所述的方法,其中所述运动数据包括方向和量值,且生成背景图像进一步包括实施包括以下的模糊处理:
将所述第二图像在所述运动数据的所述方向上移位所述运动数据的所述量值,
将所述经移位第二图像叠加到所述第一图像上方,
将所述经移位第二图像的像素值添加到所述第一图像,以产生所述背景图像的像素值,及
归一化所述背景图像的所述像素值。
16.根据权利要求14所述的方法,其进一步包括:
通过将所述一连串图像的第三图像与所述第二图像进行比较来确定所述目标物体的第二运动数据,所述第三图像在所述第二图像之后捕捉;及
通过使用所述背景图像和所述第二运动数据来更新所述背景图像。
17.根据权利要求14所述的方法,其中所述生成所述最终图像包括在所述第二图像中的所述目标物体的位置处将所述目标物体的所述图像包含到所述背景图像上。
18.根据权利要求14所述的方法,其中从所述第二图像拷贝在所述一连串图像中运动的所述至少一个物体的所述目标物体。
19.根据权利要求14所述的方法,其中归一化所述像素值包括将所述背景图像按比例缩放到所述第二图像的尺寸。
20.根据权利要求14所述的方法,其中归一化所述像素值包括使所述背景图像的所述像素值中的每一个除以二。
21.根据权利要求14所述的方法,其中具有因将所述经移位第二图像的像素值添加到所述第一图像而产生的像素值的像素数量小于所述第二图像中的像素数量。
22.一种系统,其包括:
存储器,其经配置以至少存储计算机可执行指令;及
计算装置,其包含一或多个处理器,所述计算装置与所述存储器通信且经配置以执行所述计算机可执行指令从而实施:
图像收集模块,其经配置以接收场景的一连串图像,所述一连串图像捕捉所述场景内的至少一个物体;
目标物体捕捉模块,其经配置以生成描绘选自所述至少一个物体的目标物体的图像数据,
运动数据捕捉模块,其经配置以基于所述一连串图像中的所述目标物体的位置来确定所述目标物体的运动数据,
模糊处理应用程序模块,其经配置以通过使用所述一连串图像和所述运动数据来生成背景图像,及
图像最终化模块,其经配置以通过将描绘所述目标物体的所述图像资料包含在所述背景图像中来生成最终图像。
23.根据权利要求22所述的系统,其中所述目标物体捕捉模块经进一步配置以接收用户输入并使用所述用户输入来识别所述目标物体。
24.根据权利要求23所述的系统,其中所述目标物体捕捉模块经进一步配置以在显示器上显示移动跨越所述场景的至少两个物体,并接收用户输入以识别所述至少两个物体中的哪一个是所述目标物体。
25.根据权利要求23所述的系统,其中所述目标物体捕捉模块经进一步配置以将所述一连串图像中的一个确定为用作识别所述目标物体的参考图像。
26.根据权利要求25所述的系统,其中所述目标物体捕捉模块经进一步配置以接收指示所述一连串图像中的哪一个是所述参考图像的用户输入。
27.一种计算机可读非暂时性存储媒体,其存储有计算机可执行指令,所述指令在由一或多个计算机系统执行时配置所述一或多个计算机系统以执行包括以下的操作:
接收场景的一连串图像,所述一连串图像包含所述场景内的至少一个物体以及背景信息;
基于所述至少一个物体产生描绘目标物体的图像数据;
通过比较跨越所述一连串图像的所述目标物体来确定所述目标物体的运动数据;
通过使用所述一连串图像和所述运动数据来生成背景图像;及
通过将描绘所述目标物体的所述图像数据包含在所述背景图像中来生成最终图像。
28.根据权利要求27所述的计算机可读非暂时性存储媒体,其中所述运动数据包括方向和量值,所述一连串图像包括第一图像和在所述第一图像之后捕捉的第二图像,且生成最终图像包括:
将所述第二图像在所述运动数据的所述方向上移位所述运动数据的所述量值,
将所述经移位第二图像叠加到所述第一图像上方,
将所述经移位第二图像的像素值添加到所述第一图像,以生成所述背景图像的像素值,及
归一化所述背景图像的所述像素值。
29.根据权利要求28所述的计算机可读非暂时性存储媒体,其中所述归一化所述像素值包括将所述背景图像按比例缩放到所述第二图像的大小。
30.根据权利要求28所述的计算机可读非暂时性存储媒体,其中所述归一化所述像素值包括使所述背景图像的所述像素值中的每一个除以二。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US14/684,227 | 2015-04-10 | ||
US14/684,227 US9591237B2 (en) | 2015-04-10 | 2015-04-10 | Automated generation of panning shots |
PCT/US2016/023581 WO2016164166A1 (en) | 2015-04-10 | 2016-03-22 | Automated generation of panning shots |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107409166A true CN107409166A (zh) | 2017-11-28 |
CN107409166B CN107409166B (zh) | 2021-04-20 |
Family
ID=55650749
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201680018026.6A Expired - Fee Related CN107409166B (zh) | 2015-04-10 | 2016-03-22 | 摇摄镜头的自动生成 |
Country Status (6)
Country | Link |
---|---|
US (1) | US9591237B2 (zh) |
EP (1) | EP3281400A1 (zh) |
JP (1) | JP6746607B2 (zh) |
KR (1) | KR102480245B1 (zh) |
CN (1) | CN107409166B (zh) |
WO (1) | WO2016164166A1 (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110049233A (zh) * | 2018-01-16 | 2019-07-23 | 佳能株式会社 | 图像处理设备、图像处理系统和图像处理方法 |
CN110223245A (zh) * | 2019-05-16 | 2019-09-10 | 华南理工大学 | 基于深度神经网络的模糊图片清晰化处理方法及系统 |
CN110782459A (zh) * | 2019-01-08 | 2020-02-11 | 北京嘀嘀无限科技发展有限公司 | 一种图像处理方法及装置 |
CN113315903A (zh) * | 2020-02-26 | 2021-08-27 | 北京小米移动软件有限公司 | 图像获取方法和装置、电子设备、存储介质 |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108388005A (zh) | 2013-07-04 | 2018-08-10 | 核心光电有限公司 | 小型长焦透镜套件 |
CN108989649B (zh) | 2013-08-01 | 2021-03-19 | 核心光电有限公司 | 具有自动聚焦的纤薄多孔径成像系统及其使用方法 |
US9392188B2 (en) | 2014-08-10 | 2016-07-12 | Corephotonics Ltd. | Zoom dual-aperture camera with folded lens |
KR102143309B1 (ko) | 2015-08-13 | 2020-08-11 | 코어포토닉스 리미티드 | 비디오 지원 및 스위칭/비스위칭 동적 제어 기능이 있는 듀얼-애퍼처 줌 카메라 |
EP3758356B1 (en) | 2016-05-30 | 2021-10-20 | Corephotonics Ltd. | Actuator |
KR102390572B1 (ko) | 2016-07-07 | 2022-04-25 | 코어포토닉스 리미티드 | 폴디드 옵틱용 선형 볼 가이드 음성 코일 모터 |
WO2018116322A1 (en) * | 2016-12-20 | 2018-06-28 | Indian Institute Of Technology Madras | System and method for generating pan shots from videos |
KR102317624B1 (ko) | 2017-03-27 | 2021-10-26 | 삼성전자 주식회사 | 전자 장치 및 그의 이미지 처리 방법 |
CN106791456A (zh) * | 2017-03-31 | 2017-05-31 | 联想(北京)有限公司 | 一种拍照方法及电子设备 |
US10499042B2 (en) * | 2017-04-01 | 2019-12-03 | Intel Corporation | Barreling and compositing of images |
US11151727B2 (en) * | 2017-08-24 | 2021-10-19 | Sony Group Corporation | Image processing devices with efficient motion blur detection and methods of operating same |
CN110140076B (zh) | 2017-11-23 | 2021-05-21 | 核心光电有限公司 | 紧凑型折叠式摄影机结构 |
US10600157B2 (en) * | 2018-01-05 | 2020-03-24 | Qualcomm Incorporated | Motion blur simulation |
WO2019207464A2 (en) | 2018-04-23 | 2019-10-31 | Corephotonics Ltd. | An optical-path folding-element with an extended two degree of freedom rotation range |
WO2020039302A1 (en) | 2018-08-22 | 2020-02-27 | Corephotonics Ltd. | Two-state zoom folded camera |
KR102061867B1 (ko) * | 2018-09-10 | 2020-01-02 | 한성욱 | 이미지 생성 장치 및 그 방법 |
EP3837662A4 (en) * | 2019-07-31 | 2021-12-15 | Corephotonics Ltd. | SYSTEM AND METHOD FOR GENERATING BACKGROUND BLUR DURING CAMERA PAN or MOVEMENT |
US11164299B1 (en) * | 2020-04-06 | 2021-11-02 | Gopro, Inc. | Systems and methods for generating panning images |
CN116582741B (zh) * | 2020-05-07 | 2023-11-28 | 华为技术有限公司 | 一种拍摄方法及设备 |
CN117572549A (zh) | 2020-05-30 | 2024-02-20 | 核心光电有限公司 | 用于获得超微距图像的系统和方法 |
US11637977B2 (en) | 2020-07-15 | 2023-04-25 | Corephotonics Ltd. | Image sensors and sensing methods to obtain time-of-flight and phase detection information |
US11328437B2 (en) | 2020-09-08 | 2022-05-10 | Weta Digital Limited | Method for emulating defocus of sharp rendered images |
US11308586B2 (en) * | 2020-09-08 | 2022-04-19 | Unity Technologies Sf | Method for applying a vignette effect to rendered images |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006050070A (ja) * | 2004-08-02 | 2006-02-16 | Fuji Photo Film Co Ltd | 画像処理方法および装置並びにプログラム |
JP2006080844A (ja) * | 2004-09-09 | 2006-03-23 | Nikon Corp | 電子カメラ |
JP2007074031A (ja) * | 2005-09-02 | 2007-03-22 | Canon Inc | 撮像装置、及び、画像処理装置及び方法 |
CN101312501A (zh) * | 2007-05-21 | 2008-11-26 | 奥林巴斯映像株式会社 | 摄像装置和显示方法 |
US20100208140A1 (en) * | 2009-02-13 | 2010-08-19 | Olympus Corporation | Image processing apparatus, image processing method and storage medium storing image processing program |
CN101867723A (zh) * | 2009-04-16 | 2010-10-20 | 三洋电机株式会社 | 图像处理装置、摄像装置及图像再生装置 |
US20120242853A1 (en) * | 2011-03-25 | 2012-09-27 | David Wayne Jasinski | Digital camera for capturing an image sequence |
US20150002684A1 (en) * | 2013-06-28 | 2015-01-01 | Canon Kabushiki Kaisha | Image processing apparatus |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07254071A (ja) * | 1994-03-15 | 1995-10-03 | Matsushita Electric Ind Co Ltd | アニメーション表示平滑化方法およびアニメーション表示平滑化装置 |
JP4067138B2 (ja) * | 1994-06-07 | 2008-03-26 | 株式会社セガ | ゲーム装置 |
JP2003228735A (ja) * | 2002-02-05 | 2003-08-15 | Shinnichi Electronics Kk | パチンコ機の画像表示装置、パチンコ機の画像表示装置に於ける画像表示方法及び画像表示プログラム |
JP2006025312A (ja) | 2004-07-09 | 2006-01-26 | Konica Minolta Photo Imaging Inc | 撮像装置、及び画像取得方法 |
JP4639965B2 (ja) * | 2005-05-31 | 2011-02-23 | カシオ計算機株式会社 | 撮像装置、画像処理方法及びプログラム |
US20080309770A1 (en) | 2007-06-18 | 2008-12-18 | Fotonation Vision Limited | Method and apparatus for simulating a camera panning effect |
JP4561845B2 (ja) | 2008-02-29 | 2010-10-13 | カシオ計算機株式会社 | 撮像装置と画像処理プログラム |
JP2011114823A (ja) * | 2009-11-30 | 2011-06-09 | Sanyo Electric Co Ltd | 画像処理装置及び撮像装置 |
WO2011074049A1 (ja) | 2009-12-18 | 2011-06-23 | 富士通株式会社 | 画像選別装置及び画像選別方法 |
JP5581728B2 (ja) * | 2010-02-24 | 2014-09-03 | カシオ計算機株式会社 | 画像処理装置及び方法、並びにプログラム |
JP5018937B2 (ja) * | 2010-07-16 | 2012-09-05 | カシオ計算機株式会社 | 撮像装置と画像処理プログラム |
WO2013021767A1 (ja) | 2011-08-10 | 2013-02-14 | 富士フイルム株式会社 | 動体検出装置及び方法 |
WO2013150829A1 (ja) * | 2012-04-03 | 2013-10-10 | ソニー株式会社 | 画像処理装置、画像処理装置の制御方法およびプログラム |
KR20140132568A (ko) | 2013-05-08 | 2014-11-18 | 삼성전자주식회사 | 움직이는 물체를 하나의 이미지에 합성하기 위한 장치 및 방법 |
JP6261205B2 (ja) * | 2013-06-28 | 2018-01-17 | キヤノン株式会社 | 画像処理装置 |
JP2015012482A (ja) * | 2013-06-28 | 2015-01-19 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
-
2015
- 2015-04-10 US US14/684,227 patent/US9591237B2/en active Active
-
2016
- 2016-03-22 CN CN201680018026.6A patent/CN107409166B/zh not_active Expired - Fee Related
- 2016-03-22 EP EP16714158.9A patent/EP3281400A1/en not_active Withdrawn
- 2016-03-22 JP JP2017553001A patent/JP6746607B2/ja active Active
- 2016-03-22 KR KR1020177028259A patent/KR102480245B1/ko active IP Right Grant
- 2016-03-22 WO PCT/US2016/023581 patent/WO2016164166A1/en active Application Filing
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006050070A (ja) * | 2004-08-02 | 2006-02-16 | Fuji Photo Film Co Ltd | 画像処理方法および装置並びにプログラム |
JP2006080844A (ja) * | 2004-09-09 | 2006-03-23 | Nikon Corp | 電子カメラ |
JP2007074031A (ja) * | 2005-09-02 | 2007-03-22 | Canon Inc | 撮像装置、及び、画像処理装置及び方法 |
CN101312501A (zh) * | 2007-05-21 | 2008-11-26 | 奥林巴斯映像株式会社 | 摄像装置和显示方法 |
US20100208140A1 (en) * | 2009-02-13 | 2010-08-19 | Olympus Corporation | Image processing apparatus, image processing method and storage medium storing image processing program |
CN101867723A (zh) * | 2009-04-16 | 2010-10-20 | 三洋电机株式会社 | 图像处理装置、摄像装置及图像再生装置 |
US20120242853A1 (en) * | 2011-03-25 | 2012-09-27 | David Wayne Jasinski | Digital camera for capturing an image sequence |
US20150002684A1 (en) * | 2013-06-28 | 2015-01-01 | Canon Kabushiki Kaisha | Image processing apparatus |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110049233A (zh) * | 2018-01-16 | 2019-07-23 | 佳能株式会社 | 图像处理设备、图像处理系统和图像处理方法 |
US11064092B2 (en) | 2018-01-16 | 2021-07-13 | Canon Kabushiki Kaisha | Image processing apparatus and image processing method for detecting a predetermined object in a captured image |
CN110049233B (zh) * | 2018-01-16 | 2021-09-14 | 佳能株式会社 | 图像处理设备、图像处理系统和图像处理方法 |
CN110782459A (zh) * | 2019-01-08 | 2020-02-11 | 北京嘀嘀无限科技发展有限公司 | 一种图像处理方法及装置 |
CN110223245A (zh) * | 2019-05-16 | 2019-09-10 | 华南理工大学 | 基于深度神经网络的模糊图片清晰化处理方法及系统 |
CN110223245B (zh) * | 2019-05-16 | 2021-07-16 | 华南理工大学 | 基于深度神经网络的模糊图片清晰化处理方法及系统 |
CN113315903A (zh) * | 2020-02-26 | 2021-08-27 | 北京小米移动软件有限公司 | 图像获取方法和装置、电子设备、存储介质 |
CN113315903B (zh) * | 2020-02-26 | 2023-08-22 | 北京小米移动软件有限公司 | 图像获取方法和装置、电子设备、存储介质 |
Also Published As
Publication number | Publication date |
---|---|
KR20170135855A (ko) | 2017-12-08 |
US9591237B2 (en) | 2017-03-07 |
EP3281400A1 (en) | 2018-02-14 |
US20160301868A1 (en) | 2016-10-13 |
CN107409166B (zh) | 2021-04-20 |
JP2018513640A (ja) | 2018-05-24 |
WO2016164166A1 (en) | 2016-10-13 |
KR102480245B1 (ko) | 2022-12-21 |
JP6746607B2 (ja) | 2020-08-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107409166A (zh) | 摇摄镜头的自动生成 | |
Wadhwa et al. | Synthetic depth-of-field with a single-camera mobile phone | |
US10477005B2 (en) | Portable electronic devices with integrated image/video compositing | |
CN107113415B (zh) | 用于多技术深度图获取和融合的方法和设备 | |
KR101602394B1 (ko) | 3d 깊이 정보를 기반으로 한 이미지 블러 | |
CN107948519A (zh) | 图像处理方法、装置及设备 | |
CN102843509B (zh) | 图像处理装置和图像处理方法 | |
CN106233329A (zh) | 3d拉东图像的产生和使用 | |
Jacobs et al. | Focal stack compositing for depth of field control | |
CN106982387A (zh) | 弹幕的显示、推送方法及装置及弹幕应用系统 | |
CN108322646A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN110324532A (zh) | 一种图像虚化方法、装置、存储介质及电子设备 | |
CN105812649B (zh) | 一种摄像方法和装置 | |
CN103534726A (zh) | 用于全景摄影的位置传感器辅助的图像配准 | |
CN108053363A (zh) | 背景虚化处理方法、装置及设备 | |
CN107945105A (zh) | 背景虚化处理方法、装置及设备 | |
CN108024054A (zh) | 图像处理方法、装置及设备 | |
CN109151329A (zh) | 拍照方法、装置、终端及计算机可读存储介质 | |
CN104919490B (zh) | 用于图像处理的结构描述符 | |
CN114095662A (zh) | 拍摄指引方法及电子设备 | |
CN108024058A (zh) | 图像虚化处理方法、装置、移动终端和存储介质 | |
CN108702457A (zh) | 基于不规则区域的自动图像校正 | |
US20160292842A1 (en) | Method and Apparatus for Enhanced Digital Imaging | |
CN110809797B (zh) | 微视频系统、格式和生成方法 | |
CN107437268A (zh) | 拍照方法、装置、移动终端和计算机存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20210420 |
|
CF01 | Termination of patent right due to non-payment of annual fee |