CN105407266A - 摄像装置及其控制方法 - Google Patents
摄像装置及其控制方法 Download PDFInfo
- Publication number
- CN105407266A CN105407266A CN201510551146.XA CN201510551146A CN105407266A CN 105407266 A CN105407266 A CN 105407266A CN 201510551146 A CN201510551146 A CN 201510551146A CN 105407266 A CN105407266 A CN 105407266A
- Authority
- CN
- China
- Prior art keywords
- dynamic image
- subject
- camera head
- special efficacy
- probability
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2621—Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/64—Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/001—Texturing; Colouring; Generation of texture or colour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Television Signal Processing For Recording (AREA)
Abstract
本发明公开一种摄像装置及其控制方法。摄像装置拍摄多个动态图像。控制单元向多个动态图像中的每个添加多个动态图像的全部所通用的第一特效,并向多个动态图像中的一个或更多个动态图像的每个添加基于逐个动态图像确定的第二特效。生成单元生成通过控制单元添加了特效的多个动态图像构成的组合动态图像。
Description
技术领域
本发明涉及一种摄像装置及其控制方法。
背景技术
近来,随着通过互联网共享拍摄的动态图像的动态图像共享站点的发展,用户越来越多地希望拍有创意且有趣的动态图像。然而,对于不习惯拍摄动态图像的典型用户,拍摄此类有创意且有趣的动态图像并不容易。此外,诸如对动态图像添加特效、将动态图像组合到一起等的编辑作业对此类典型用户来说是复杂的,因此,在创建有趣的动态图像时会产生问题。
日本特开第2002-218384号公报被认为是使将动态图像组合到一起更容易的技术。根据日本特开第2002-218384号公报公开的数字照相机,当使用模式设置拨盘设置连续记录模式时,将拍摄的动态图像追加记录在记录有其他动态图像的现存文件中。
同时,主要作为智能手机应用(app),也正在提出使用户能够通过简单的操作来拍摄添加了特效的动态图像的功能。例如,提出了用于对动态图像添加特殊颜色/色调转换滤波效果的功能、用于多次拍摄预定短长度动态图像,然后自动将动态图像组合到一起的功能等。
此外,提出了如下技术:通过基于在拍摄动态图像时照相机设备中的加速度,在调整动态图像的帧速率的同时记录动态图像,而使动态图像的回放速度变化(参见日本特开第2006-262135号公报)。
当连续回放组合到一起的多个动态图像时,用户将连续地注意到对各动态图像添加的任何特效。还能够认为从动态图像到动态图像的特效间的关系会影响生成的动态图像的有趣程度,而传统技术并未考虑这点。同时,当多种特效可用时,确定分别适合于各动态图像的特效并基于确定结果应用那些特效会增加处理负荷。
针对用于使动态图像的回放速度变化的技术,日本特开第2006-262135号公报中公开的技术仅考虑了照相机设备的加速度,而并未考虑被摄体的运动、这样的被摄体中的主要被摄体的类型等。
发明内容
鉴于这种情况,本发明提供一种根据特效的类型控制是否对多个动态图像统一添加特效的技术。本发明还提供一种使得能够基于通常不被考虑的条件来控制记录的动态图像的回放速度的技术。
根据本发明的第一方面,提供一种摄像装置,所述摄像装置包括:摄像单元,其被配置为拍摄多个动态图像;控制单元,其被配置为向所述多个动态图像中的每个添加所述多个动态图像的全部所通用的第一特效,而向所述多个动态图像中的一个或更多个动态图像的每个添加基于逐个动态图像确定的第二特效;以及生成单元,其被配置为生成通过所述控制单元添加了特效的所述多个动态图像构成的组合动态图像。
根据本发明的第二方面,提供一种摄像装置的控制方法,所述摄像装置的控制方法包括:拍摄步骤,其拍摄多个动态图像;控制步骤,其向所述多个动态图像中的每个添加所述多个动态图像的全部所通用的第一特效,并向所述多个动态图像中的一个或更多个动态图像的每个添加基于逐个动态图像确定的第二特效;以及生成步骤,其生成由在所述控制步骤中添加了特效的所述多个动态图像构成的组合动态图像。
根据本发明的第三方面,提供一种摄像装置,所述摄像装置包括:摄像单元,其配置为拍摄动态图像;记录单元,其被配置为记录所述动态图像;确定单元,其被配置为基于所述动态图像中的被摄体的运动及所述被摄体中的主要被摄体的类型中的至少一者确定所述动态图像的回放速度;以及控制单元,其被配置为控制所述摄像单元及所述记录单元,以便记录以通过所述确定单元确定的回放速度回放的动态图像。
根据本发明的第四方面,提供一种摄像装置的控制方法,所述摄像装置的控制方法包括:拍摄步骤,其拍摄动态图像;记录步骤,其记录所述动态图像;确定步骤,其基于所述动态图像中被摄体的运动及所述被摄体中的主要被摄体的类型确定所述动态图像的回放速度;以及控制步骤,其控制所述拍摄步骤及所述记录步骤,以便记录所述确定步骤中确定的以所述回放速度回放的动态图像。
根据以下参照附图对示例性实施例的详细描述,本发明的其他特征将变得清楚。
附图说明
图1是例示根据第一实施例的摄像装置100的配置的框图。
图2是例示包含摄像装置100生成的多章的组合动态图像文件的概念图。
图3是例示模板合成效果的示例图。
图4A至图4C是例示可变帧率效果的示例图。
图5是例示各种特效的分类的图。
图6是例示摄像装置100执行的动态图像拍摄处理的流程图。
图7是例示用于确定图6的步骤S603中的特效处理A组的处理的详情的流程图。
图8是例示用于图7的步骤S702中的特效处理A组的选择算法的详情的流程图。
图9是例示用于特效处理A组的选择算法中的评价值的更新的概念图。
图10是例示用于确定图6的步骤S604中的特效处理B组的可变帧率效果的处理的详情的流程图。
图11A至图11C是例示用于检测被摄体的运动的方法的概念图。
图12是例示运动确定区域的概念图。
图13是例示用于确定针对可变帧率效果的权重模式的方法的概念图。
图14是例示用于可变帧率效果的权重模式的示例图。
图15是例示图10的步骤S1007中执行的处理的详情的流程图。
图16是例示用于确定可变帧率效果的处理的其他示例图。
图17是例示用于确定可变帧率效果的处理的另一其他示例图。
图18是例示添加了各种特效的组合动态图像文件的示例图。
具体实施方式
现将参照附图描述本发明的实施例。应当注意,本发明的技术范围由权利要求定义,并且不限于以下描述的任何实施例。此外,并非实施例中描述的特征的所有组合都是实现本发明所必须的。
第一实施例
图1是例示根据第一实施例的摄像装置100的配置的框图。在图1中,101表示包括多个透镜组和光圈机构的光学系统,尤其是聚焦透镜、变焦透镜及光圈机构。
102表示由CCD、CMOS等构成的图像传感器,并包括将模拟信号转换为数字信号的A/D转换器。例如通过诸如拜耳阵列等的RGB颜色滤波器覆盖图像传感器102的表面,并将图像传感器102的表面配置为能够拍摄彩色图像。当在图像传感器102上形成被摄体图像时,生成图像数据(图像信号)并将其存储于存储器103中。
103表示存储器,其能够保持通过图像传感器102生成的图像信号、针对通过摄像装置100执行的全部处理所需的数据等。104表示图像处理电路,其对存储器103中保持的图像信号执行预定像素插值处理、颜色转换处理等。图像处理电路104使用拍摄的图像数据执行预定运算处理,基于获得的处理结果确定拍摄条件,并向系统控制单元105传达拍摄条件。图像处理电路104还具有诸如图像分析、滤波处理、降噪处理、合成处理等的各种功能,并包括特效处理确定单元,特效处理确定单元根据将随后描述的算法选择适合于拍摄场景的特效。
105表示作为整体控制摄像装置100的系统控制单元。系统控制单元105监督对快门速度、光圈机构、聚焦透镜以及变焦透镜的控制,以便在图像处理电路104确定的拍摄条件下拍摄图像。这样,系统控制单元105向曝光量控制单元106、聚焦透镜控制单元107及焦距控制单元108发出指令。
106表示曝光量控制单元,其通过调整光学系统101的光圈机构以及图像传感器102的曝光时间及拍摄敏感度执行控制以达到适当的曝光量。107表示聚焦透镜控制单元,其控制光学系统101的聚焦透镜。108表示焦距控制单元,其控制光学系统101的变焦透镜,并根据来自系统控制单元105的指示改变焦距。
109表示压缩电路,其根据通过H.264/AVC示例的压缩算法压缩动态图像,并将动态图像转换为MPEG文件、MOV文件等。将转换的动态图像记录到记录介质110中。
111表示显示单元,其在摄像装置100的LCD、外部监视器等中显示通过图像处理电路104生成的所拍摄图像。112表示控制单元,其接受用户的输入,并具有按钮、触摸面板等。系统控制单元105基于通过控制单元112接受的用户操作确定并改变通过摄像装置100执行的操作。
接下来,将参照图2至图5描述通过摄像装置100执行的动态图像拍摄处理概览。摄像装置100执行多次动态图像拍摄,将从各拍摄实例获得的动态图像数据组合到一起,并生成单幅动态图像数据。在图2中,“章”表示从单个拍摄实例获得的动态图像数据,而“组合的动态图像文件”表示通过将多章组合到一起而获得的单幅动态图像数据。
摄像装置100对拍摄的各动态图像(各章)添加各种特效,以下将举出特效的示例。
(1)颜色/色调转换滤波效果
(2)模板合成效果
(3)可变帧率效果
(4)残像效果
“(1)颜色/色调转换滤波效果”是通过使用图像处理电路104改变动态图像的着色、对比度等而向动态图像添加适合被摄体、拍摄场景等氛围的特效。换言之,“(1)颜色/色调转换滤波效果”对应于应用转换颜色和色调中的至少一者的滤波器的控制。例如,图像处理电路104能够从拍摄的彩色动态图像生成高对比度黑白动态图像。
“(2)模板合成效果”是通过使用图像处理电路104将动态图像中的各帧与预定模板数据(以下简单称为“模板”)合成而达到的特效。换言之,“(2)模板合成效果”对应于与模板的合成的控制。例如,根据图像处理电路104,能够如图3的左侧所例示的那样合成装饰框,并且能够如图3的右侧所例示那样添加周边减光效果等。
“(3)可变帧率效果”是通过减速或加速动态图像的全部或部分来强调被摄体的运动的特效。换言之,“(3)可变帧率效果”对应于动态图像的回放速度的控制。作为实现此效果的方法,以回放帧速率Fplay的N倍的帧速率Frec(Frec=N×Fplay)记录动态图像,使得能够以(1/N)倍缓慢回放。相反地,将以与Fplay相等的帧速率Frec拍摄的动态图像的帧稀疏至1/N,使得能够以N倍快进回放。以这种方式,通过控制拍摄帧速率及记录帧速率能够控制回放速度。此外,如图4B中所示,使用此种系统能够生成使回放速度例如从正常到变慢再回到正常而变化的动态图像。具体地说,在回放帧速率Fplay是30(fps)的情况下,摄像装置100使以90(fps)的Frec在几秒内拍摄的数据的部分片段稀疏至1/3,并记录数据。这就能以1/3倍速度的慢动作回放未稀疏化的片段。将此类以慢动作回放至少部分动态图像的回放模式称为“慢动作回放模式”。同样地,如图4C中所示,能够生成使回放速度例如从正常到变化再回到正常而变化的动态图像。具体地说,在回放帧速率Fplay是30(fps)的情况下,摄像装置100使以30(fps)的Frec在几秒内拍摄的数据的部分片段稀疏至1/3,并记录数据。这就能够以3倍速度更快地回放稀疏化的片段。将此类更快地回放至少部分动态图像的回放模式称为“快进回放模式”。在诸如图4A等的情况下,在Fplay=Frec以及不执行稀疏化的情况下,正常回放整个动态图像。将此类以正常速度回放整个动态图像的回放模式称为“正常回放模式”。
“(4)残像效果”是使用递归滤波器向动态被摄体添加残像的特效。换言之,“(4)残像效果”与向动态被摄体添加残像的控制对应。
摄像装置100基于拍摄场景确定各种特效的详情。例如,针对特效类型“(2)模板合成效果”,摄像装置100基于拍摄场景选择“装饰框(decorativeframe)”、“周边减光(limbdarkening)”或“无”。随后将描述确定算法的详情。
尽管存在针对将特效统一应用于所有章的几种特效将提高作为整体的组合动态图像的品质,但也存在根据拍摄场景逐章地(逐个动态图像)添加特效时使动态图像更有趣的其他种类的特效。在本实施例中,前种特效被称为“特效处理A组”,而后种特效被称为“特效处理B组”。如图5所示,在本实施例中,“(1)颜色/色调转换滤波效果”及“(2)模板合成效果”与“特效处理A组”对应,而“(3)可变帧率效果”及“(4)残像效果”与“特效处理B组”对应。从图5可以看出,在“(2)模板合成效果”的情况下,特效(特效组)的具体种类包括诸如“装饰框”、“周边减光”等多个特效。
请注意,“特效处理A组”和“特效处理B组”的分类并不限于图5中示出的那些。此外,特效种类、能够从各种特效选择的特效等并不限于图5中例示的那些。在本实施例中,存在至少一种被分类为“特效处理A组”(第一特效组)的特效以及至少一种被分类为“特效处理B组”(第二特效组)的特效即可。
接下来,将参照图6详细描述摄像装置100执行的动态图像拍摄处理。请注意,除非另作规定,否则通过系统控制单元105根据控制程序控制摄像装置100的各构成元件来实现本实施例中的各流程图的步骤中的处理。
在步骤S601中,摄像装置100分析要拍摄的场景。具体地说,摄像装置100分析要拍摄的场景的亮度、被摄体是否是人物、被摄体是否正在运动等。基于来自诸如加速计(未示出)、陀螺传感器(未示出)等的各种传感器的信息,及通过图像传感器102生成的图像数据等执行此分析。能够使用图像处理电路104执行基于图像数据的分析。
在步骤S602中,摄像装置100确定用户是否已指示拍摄。在指示拍摄前,摄像装置100重复步骤S601的场景分析。当指示拍摄时,处理进入到步骤S603。
在步骤S603中,摄像装置100基于步骤S601中执行的场景分析的结果,确定从特效处理A组(参见图5)向拍摄的动态图像添加特效。随后将详细描述此确定处理。
在步骤S604中,摄像装置100基于步骤S601中执行的场景分析的结果,确定从特效处理B组(参见图5)向拍摄的动态图像添加特效。随后将详细描述此确定处理。
通过步骤S603和步骤S604的处理,在紧接开始拍摄章之前确定要向将要拍摄的章添加的特效。
在步骤S605中,摄像装置100执行动态图像的摄像控制,并获得动态图像的单帧。这里,摄像装置100根据步骤S604中确定的可变帧率效果的详情控制摄像系统的驱动频率和曝光量。例如,在向动态图像添加慢动作回放效果的情况下,摄像装置100控制图像传感器102以比回放帧速率更高的频率拍摄图像。同样,在向动态图像添加快进回放效果的情况下,摄像装置100控制图像传感器102以与回放帧速率相同的频率拍摄图像。此外,摄像装置100使用曝光量控制单元106正确地设置通过光圈、快门速度及感光度控制的曝光量。
在步骤S606中,摄像装置100向步骤S605中获得的帧添加步骤S603中确定的特效处理A组的特效。在步骤S607中,摄像装置100向步骤S605中获得的帧添加步骤S604中确定的特效处理B组的特效。例如,摄像装置100通过控制拍摄帧速率及记录帧速率(稀疏化)向动态图像添加可变帧率,以便以与步骤S604中确定的可变帧率效果对应的回放速度记录回放的动态图像。
请注意,添加特效的顺序并不限于图6中例示的那样。例如,可以首先添加特效处理B组的特效,并可以其后添加特效处理A组的特效。可选地,可以首先添加特效处理A组的若干特效,然后可以添加特效处理B组的特效,并且可以最后添加特效处理A组剩余的特效。
在步骤S608中,摄像装置100压缩添加了特效的帧,并将此帧记录为组合动态图像文件的帧(参见图2)。请注意,摄像装置100能够在任意期望的定时组合各章。例如,摄像装置100能够通过针对各章生成各动态图像文件,然后在生成预定数量的动态图像文件后将这些动态图像文件组合到一起,而生成组合动态图像文件。可选地,摄像装置100可以通过将新章的帧添加到紧接新章之前的章来生成组合动态图像文件。同时,在如图4B和图4C中例示的稀疏化记录的情况下,在当前帧是要被稀疏化的帧的情况下,摄像装置100可以丢弃当前帧,而不记录该帧。
在步骤S609中,摄像装置100确定用户是否已做出结束拍摄的指示。在结束拍摄的指示之前,摄像装置100通过重复步骤S605至步骤S608的处理而继续拍摄当前章。可选地,在从动态图像的拍摄开始时经过预定量的时间之前,摄像装置100重复步骤S605至步骤S608的处理,并在经过了预定量的时间的情况下确定动态图像拍摄将要结束。
在做出结束拍摄的指示时,处理从步骤S609返回到步骤S601,然后,在做出下个拍摄的指示之前,摄像装置100分析场景。当做出下个拍摄的指示时,摄像装置100通过再次执行从步骤S603开始的处理来拍摄下章。然而,针对步骤S603的特效处理A组确定处理,在拍摄第二及后续章时确定与第一(起始)章中相同的特效。
同时,尽管未例示,但在拍摄预定数量的章后,摄像装置100可以拍摄不同的组合动态图像文件的第一章。例如,假定摄像装置100被配置为生成包括四章的组合动态图像文件。在这种情况下,在摄像装置100结束拍摄第四章时,处理从步骤S609返回步骤S601,然后,在步骤S603中,在做出拍摄的指示时,摄像装置100针对下个组合动态图像文件的第一章确定特效处理A组的特效。
接下来,将参照图7至图9详细描述图6的步骤S603中执行的用于确定特效处理A组的处理。首先,在图7的步骤S701中,摄像装置100确定正在拍摄的当前章是否是组合动态图像文件的第一(起始)章。在该章是第一章的情况下,在步骤S702中,摄像装置100执行特效处理A组选择算法。在该章不是第一章的情况下,在步骤S703中,摄像装置100选择与之前在步骤S702中针对第一章选择的特效相同的特效。
通过图7的处理,能够向组合动态图像文件中的各章统一添加特效处理A组的特效,以使能够生成具有更高品质及一致感的动态图像。然而,尽管未在此例示,在从用户接收到变更滤波效果的指示的情况下,即使针对第二及后续章,摄像装置100也能够选择优先用户需求(用户指示)的滤波器。换言之,在这种情况下,摄像装置100向与用户指示对应的章添加通过用户指示选择的特效,而不是针对第一章而在步骤S702中选择的特效。
图8是例示用于图7的步骤S702中的特效处理A组的选择算法的详情的流程图。尽管下文将“(1)颜色/色调转换滤波效果”描述为附属于特效处理A组的特效类型的示例,但也能够对其他类型特效(例如,“(2)模板合成效果”)使用相同的算法。
本实施例假定摄像装置100能够选择M种颜色/色调转换滤波器。首先,在步骤S801中,摄像装置100根据以下等式(1)将用于M个滤波器的所有评价值都设置为默认值P。
x[m]=P(m=0,1,2,...,M-1)...(1)
在步骤S802中,摄像装置100根据图6的步骤S601中执行的场景分析的结果(例如,被摄体信息、拍摄图像的颜色分布信息等)更新评价值。例如,在被摄体包括人物的情况下,摄像装置100基于要拍摄的场景的分析结果而多次执行评价值计算处理(例如,提高适合于人物的滤波器的评价值而降低不适合人物的滤波器的评价值等)。通过此,如图9中所示,最终评价值X[m]根据要拍摄的场景而变化。
然后,在步骤S803中,摄像装置100选择具有最高评价值的滤波器。可选地,摄像装置100能够通过使用诸如从评价值比预定阈值更高的滤波器中任意选择单一滤波器等的方法来选择适合于所要拍摄的场景的滤波效果。
接下来,将参照图10至图17详细描述图6的步骤S604中执行的用于确定特效处理B组的处理。尽管下文将“(3)可变帧率效果”描述为附属于特效处理B组的特效类型的示例,但也能够对其他类型特效(例如“(4)残像效果”)使用相同的算法。
首先,在步骤S1001中,摄像装置100基于在图6的步骤S601中对场景的分析结果获得摄像装置100的运动信息。假定摄像装置100本身在用户追踪被摄体的同时拍摄动态被摄体时比用户拍摄诸如花、风景等被摄体时具有更大运动量。因此,摄像装置100基于来自摄像装置100中设置的速度传感器、加速计等的输出来检测摄像装置100是否正在运动。可以将如下方法视为确定摄像装置100是否正在运动的方法:在预定时间量上平均从速度传感器等输出的值,在平均值大于预定阈值Th_G的情况下确定摄像装置100正在运动,而在平均值小于或等于阈值的情况下确定摄像装置100没有运动。
在步骤S1002中,摄像装置100基于图6的步骤S601中的场景分析结果检测被摄体类型(被摄体中主要被摄体的类型)。一般来说,能够通过诸如模式匹配等方法在画面内检测到面部,并在找到面部的情况下将被摄体定义为“人物”。同时,一般已知如下主要被摄体检测算法:基于画面内的亮度或颜色区域分布、边缘信息等确定画面内是否存在主要被摄体。因此,在使用主要被摄体检测算法未检测出面部而检测到被摄体的情况下,将被摄体类型定义为“除人物之外的主要被摄体”。在通过上述任一方法而未检测到被摄体的情况下,将被摄体类型定义为“无主要被摄体”。
在步骤S1003中,摄像装置100基于步骤S1002中检测到的被摄体类型获得被摄体的运动信息。作为用于检测被摄体的运动的方法,在被摄体类型是“人物”的情况下,如图11A所示,例如在时间F(t)处的帧和在F(t+α)处的帧之间的面部位置中的变化量大于阈值Th_F的情况下,被摄体被检测为正在运动。同时,在被摄体类型是“除人物外的主要被摄体”的情况下,如图11B所示,例如在时间F(t)处的帧和在F(t+α)处的帧之间的主要被摄体区域的中心位置中的变化量大于阈值Th_M的情况下,被摄体被检测为正在运动。此外,在被摄体类型是“无主要被摄体”的情况下,如图11C所示,针对画面中的预定区域,通过以下等式(2)计算帧间亮度差异值的总和S,并且在总和S大于阈值Th_Sad的情况下,被摄体被检测为正在运动。
S=∑(Y1(x,y)-Y0(x,y))...(2)
Y1:帧1的亮度
Y0:帧0的亮度
接下来,在步骤S1004中,摄像装置100基于步骤S1001及步骤S1003中获得的运动信息确定运动检测区域。如图12所示,能够基于摄像装置100是否正在运动以及被摄体是否正在运动而将运动检测区域分为四个区域。
在步骤S1005中,摄像装置100根据步骤S1004中对区域的确定结果以及步骤S1002中检测出的被摄体类型而确定用于可变帧率效果的权重模式。这里,“权重模式”表示参照4A至图4C描述的正常/慢动作/快进效果出现的比率。如图13所示,基于区域及被摄体类型从图14中例示的四个模式中选择权重模式。各模式定义了要选择“正常”的概率(第一概率)、要选择“慢动作”的概率(第二概率)以及要选择“快进”的概率(第三概率)。例如,针对表示为“正常优先”的模式,将要选择“正常”的概率(第一概率)设置为最高,以便优先选择“正常”。此外,例如,针对表示为“正常固定”的模式,将要选择“正常”的概率(第一概率)设置为100%,以便总是选择“正常”。
尽管在图13中的示例将摄像装置100例示作为基于摄像装置100的运动、被摄体的运动以及主要被摄体的所有确定权重模式,但是摄像装置100可以仅基于这些中的一者确定权重模式。例如,基于被摄体是否正在运动,摄像装置100可以被配置为选择“慢动作优先”(在被摄体正在运动的情况下)或“正常-优先”(在被摄体没有运动的情况下)。
在步骤S1006中,摄像装置100基于正在拍摄的当前章的章数、所选择的可变帧率效果的类型等,以及摄像装置100的焦距等而校正步骤S1005中确定的权重模式。以下将针对步骤S1005中选择的“慢动作优先”的情况列举用于校正权重的方法的四个示例。
(i)在正在拍摄的当前章是章1的情况下,“正常”的比率略有上升,而其他比率下降。
(校正前)正常∶慢动作∶快进=20∶60∶20
(校正后)正常∶慢动作∶快进=30∶40∶30
→不太可能向组合动态图像文件的起始章添加A特效。
(ii)在正在拍摄的当前章是最终章N的情况下,“慢动作”和“快进”的比率略有上升,而其他比率下降。
(校正前)正常∶慢动作∶快进=20∶60∶20
(校正后)正常∶慢动作∶快进=10∶65∶25
→更可能向组合动态图像文件的最终(结尾)章添加A特效。
(iii)在正在拍摄的当前章是除章1外的章且针对章1选择的效果是“慢动作”的情况下,“慢动作”的比率略有上升,而其他比率下降。
(校正前)正常∶慢动作∶快进=20∶60∶20
(校正后)正常∶慢动作∶快进=10∶80∶10
→将要在组合动态图像文件内选择相似特效的概率增加。
(iv)在摄像装置100的焦距大于或等于预置焦距f_Th(大于或等于阈值)的情况下,手的抖动将增加对动态图像的影响,因此“快进”比率下降,而其他比率上升。
(校正前)正常∶慢动作∶快进=20∶60∶20
(校正后)正常∶慢动作∶快进=30∶70∶0
上文表示的权重模式校正是在作为动态图像观看连接多章的整体组合动态图像文件的情况下,以增加观看者满意度为目的而采取的措施。请注意,用于校正权重的方法并不限于上述四种类型,而能够根据设计者的需求考虑各种权重模式校正方法。一般而言,针对可变帧率效果,摄像装置100考虑预定章的拍摄参数、组合动态图像文件中的预定章的位置以及向起始章添加的特效来确定向预定章添加的特效。请注意,摄像装置100不需要考虑所有这些要素,而可以仅考虑这些要素中的部分。
最后,在步骤S1007中,摄像装置100确定最终可变帧率效果的详情。具体地说,在图15的步骤S1501中,摄像装置100生成[1,100]的正常随机数R,并确定是否R<Td。Td是“正常”出现的概率。在R<Td的情况下,在步骤S1502中,摄像装置100选择针对可变帧率效果的“正常”。在R≥Td的情况下,在步骤S1503中,摄像装置100确定是否R<Td+Ts。Ts是“慢动作”出现的概率。在R<Td+Ts的情况下,在步骤S1504中,摄像装置100选择针对可变帧率效果的“慢动作”。在R≥Td+Ts的情况下,在步骤S1505中,摄像装置100选择针对可变帧率效果的“快进”。
基于图6和图10的内容,在紧接开始拍摄前确定可变帧率效果的详情。然而,摄像装置100也可以在其他定时确定可变帧率效果的详情。例如,如图16所示,摄像装置100能够在拍摄期间的一定时间间隔分析运动信息,并在检测到被摄体运动的情况下,在其后一定期间内提高摄像率,以便向动态图像添加“慢动作”可变帧率效果。可选地,如图17所例示,摄像装置100能够以最高帧速率拍摄动态图像,并在拍摄之后分析动态图像中的被摄体运动,然后向动态图像添加具有预定详细内容的可变帧率效果。
通过以上描述的处理,生成基于拍摄场景添加了各种效果的组合动态图像文件。图18例示了通过这种方式生成的组合动态图像文件的示例。图18中例示的组合动态图像文件包含四章,并向各章添加四种特效。针对属于特效处理A组种类的特效的“(1)颜色/色调转换滤波器效果”以及“(2)模板合成效果”,向所有章统一添加相同的特效。同时,针对属于特效处理B组种类的特效的“(3)可变帧率效果”以及“(4)残像效果”,基于拍摄场景逐章添加特效。可以看出,由于实际上确定章1的残像效果是“无”,因此并不一定向所有章都添加特效处理B组特效。换言之,针对特效处理B组,摄像装置100向构成组合动态图像文件的多章中一个或更多个章的各章添加逐章确定的特效。这就能够在维持整体组合动态图像文件的一致感的同时生成适应于拍摄场景的“有趣的”动态图像。此外,因为向所有章统一添加特效处理A组特效,所以会减轻所添加特效的确定中涉及的处理负荷。
如上所述,根据第一实施例,针对特效处理A组,摄像装置100向所有章添加通用的特效,而针对特效处理B组,摄像装置100添加逐章确定的特效。通过这种方式,如下配置摄像装置100:根据特效类型控制是否向多个动态图像统一添加特效。通过此,针对一些种类的特效,统一应用向多个动态图像添加的特效,这就使得能够减轻要添加的特效的确定中涉及的处理负荷。此外,如下配置摄像装置100:基于诸如被摄体运动、主要被摄体类型等通常未考虑的条件,向动态图像添加可变帧率效果(即,控制所记录的动态图像的回放速度)。
其他实施例
本发明的实施例还可以通过如下的方法来实现,即,通过网络或者各种存储介质将执行上述实施例的功能的软件(程序)提供给系统或装置,该系统或装置的计算机或是中央处理单元(CPU)、微处理单元(MPU)读出并执行程序的方法。
虽然参照示例性实施例描述了本发明,但是应当理解,本发明并不限于所公开的示例性实施例。应当对权利要求的范围赋予最宽的解释,以使其涵盖所有这些变型例以及等同的结构及功能。
Claims (25)
1.一种摄像装置,所述摄像装置包括:
摄像单元,其被配置为拍摄多个动态图像;
控制单元,其被配置为向所述多个动态图像中的每个添加所述多个动态图像的全部所通用的第一特效,以及向所述多个动态图像中的一个或更多个动态图像中的每个添加基于逐个动态图像而确定的第二特效;以及
生成单元,其被配置为生成通过所述控制单元添加了特效的所述多个动态图像构成的组合动态图像。
2.根据权利要求1所述的摄像装置,
其中,所述控制单元基于所述组合动态图像中的起始动态图像中的拍摄场景确定所述第一特效。
3.根据权利要求1或2所述的摄像装置,
其中,所述控制单元从包括多个特效的第一特效组确定所述第一特效。
4.根据权利要求3所述的摄像装置,所述摄像装置还包括:
接收单元,其被配置为接收如下用户指令:从所述第一特效组选择要添加到所述多个动态图像中的预定动态图像的特效,
其中,在接收到用户指令的情况下,所述控制单元向预定动态图像添加通过所述用户指令选择的特效,而不是所述第一特效。
5.根据权利要求3所述的摄像装置,
其中,所述第一特效组包括与应用转换颜色和色调中至少一者的滤波器的控制对应的颜色/色调转换滤波效果组,以及与合成模板数据的控制对应的模板合成效果组中的至少一组。
6.根据权利要求1所述的摄像装置,
其中,所述控制单元基于所述多个动态图像中的预定动态图像中的拍摄场景确定要添加到所述预定动态图像的第二特效。
7.根据权利要求1所述的摄像装置,
其中,所述控制单元基于所述多个动态图像中的预定动态图像的拍摄参数、所述组合动态图像中的预定动态图像的位置,以及要添加到所述组合动态图像中的起始动态图像的第二特效中的至少一者确定要添加到所述多个动态图像中的预定动态图像的第二特效。
8.根据权利要求1所述的摄像装置,
其中,所述控制单元从包括多个特效的第二特效组中确定基于逐个动态图像的第二特效。
9.根据权利要求8所述的摄像装置,
其中,所述第二特效组包括与动态图像的回放速度的控制对应的可变帧率效果组以及用于向动态被摄体添加残像的控制对应的残像效果组中的至少一者。
10.一种摄像装置的控制方法,所述摄像装置的控制方法包括:
拍摄步骤,其拍摄多个动态图像;
控制步骤,其向所述多个动态图像中的每个添加所述多个动态图像的全部所通用的第一特效,并向所述多个动态图像中的一个或更多个动态图像中的每个添加基于逐个动态图像而确定的第二特效;以及
生成步骤,其生成由在所述控制步骤中添加了特效的所述多个动态图像构成的组合动态图像。
11.一种摄像装置,所述摄像装置包括:
摄像单元,其被配置为拍摄动态图像;
记录单元,其被配置为记录所述动态图像;
确定单元,其被配置为基于所述动态图像中的被摄体的运动及所述被摄体中的主要被摄体的类型中的至少一者确定所述动态图像的回放速度;以及
控制单元,其被配置为控制所述摄像单元及所述记录单元,以便记录以通过所述确定单元确定的回放速度回放的动态图像。
12.根据权利要求11所述的摄像装置,
其中,所述确定单元除所述被摄体的运动及所述主要被摄体的类型中的至少一者外,还基于所述摄像装置的运动确定所述回放速度。
13.根据权利要求12所述的摄像装置,
其中,所述确定单元基于所述被摄体的运动、所述主要被摄体的类型及所述摄像装置的运动确定所述回放速度。
14.根据权利要求13所述的摄像装置,
其中,所述确定单元确定所述回放速度,以便以如下回放模式中的一种回放模式回放所述动态图像:以正常速度回放整个动态图像的正常回放模式,以慢动作回放所述动态图像中的至少一部分的慢动作回放模式,以及快速回放所述动态图像中的至少一部分的快进回放模式。
15.根据权利要求14所述的摄像装置,
其中,所述确定单元执行以下操作中的至少一者:
在所述摄像装置正在运动、所述被摄体正在运动及所述主要被摄体是人物的情况下,优先选择所述慢动作回放模式;
在所述摄像装置正在运动、所述被摄体正在运动及所述主要被摄体是除人物之外的被摄体的情况下,优先选择所述慢动作回放模式;
在摄像装置正在运动、所述被摄体正在运动及在所述被摄体中不存在主要被摄体的情况下,优先选择所述正常回放模式;
在所述摄像装置正在运动、所述被摄体没有运动及所述主要被摄体是人物的情况下,优先选择所述慢动作回放模式;
在所述摄像装置正在运动、所述被摄体没有运动以及所述主要被摄体是除人物之外的被摄体的情况下,优先选择所述慢动作回放模式;
在所述摄像装置正在运动、所述被摄体没有运动及在所述被摄体中不存在主要被摄体的情况下,总是选择所述正常回放模式;
在所述摄像装置没有运动、所述被摄体正在运动及所述主要被摄体是人物的情况下,优先选择所述慢动作回放模式;
在所述摄像装置没有运动、所述被摄体正在运动及所述主要被摄体是除人物外的被摄体的情况下,优先选择所述快进回放模式;
在所述摄像装置没有运动、所述被摄体正在运动及在所述被摄体中不存在主要被摄体的情况下,优先选择所述快进回放模式;
在所述摄像装置没有运动、所述被摄体没有运动及所述主要被摄体是人物的情况下,优先选择所述慢动作回放模式;
在所述摄像装置没有运动、所述被摄体没有运动及所述主要被摄体是除人物之外的被摄体的情况下,优先选择所述正常回放模式;以及
在所述摄像装置没有运动、所述被摄体没有运动及在所述被摄体中不存在主要被摄体的情况下,优先选择所述正常回放模式。
16.根据权利要求14或15所述的摄像装置,
其中,所述确定单元基于被摄体的运动、主要被摄体的类型及所述摄像装置的运动确定第一概率、第二概率及第三概率,以所述第一概率选择所述正常回放模式,以所述第二概率选择所述慢动作回放模式,并以所述第三概率选择所述快进回放模式。
17.根据权利要求16所述的摄像装置,
其中,所述确定单元进一步基于所述动态图像的拍摄参数确定所述第一概率、所述第二概率及所述第三概率。
18.根据权利要求17所述的摄像装置,
其中,在拍摄所述动态图像时的焦距大于或等于阈值的情况下,所述确定单元降低所述第三概率。
19.根据权利要求16所述的摄像装置,
其中,所述控制单元控制所述摄像单元及所述记录单元,以便拍摄多个动态图像并将所述多个动态图像记录为单一组合动态图像;以及
所述确定单元进一步基于所述组合动态图像中的预定动态图像的位置以及所述组合动态图像中的起始动态图像的回放模式中的至少一者确定针对构成所述组合动态图像的预定动态图像的所述第一概率、第二概率以及第三概率。
20.根据权利要求19所述的摄像装置,
其中,针对预定动态图像,所述确定单元提高所述第一概率、所述第二概率及所述第三概率中与所述组合动态图像中的起始动态图像的回放模式对应的概率。
21.根据权利要求19所述的摄像装置,
其中,在预定动态图像是所述组合动态图像中的起始动态图像的情况下,所述确定单元提高针对预定动态图像的所述第一概率。
22.根据权利要求19所述的摄像装置,
其中,在预定动态图像是所述组合动态图像中的结尾动态图像的情况下,所述确定单元提高针对预定动态图像的所述第二概率和所述第三概率中的至少一者。
23.根据权利要求11所述的摄像装置,
其中,所述控制单元控制所述摄像单元及所述记录单元,以便拍摄多个动态图像并将所述多个动态图像记录为单一组合动态图像;以及
针对构成所述组合动态图像的预定动态图像,所述确定单元进一步基于所述组合动态图像中的预定动态图像的位置以及所述组合动态图像中的起始动态图像的回放速度中的至少一者确定预定动态图像的回放速度。
24.根据权利要求23所述的摄像装置,
其中,与在预定动态图像是所述组合动态图像中的起始动态图像的情况下相比,在预定动态图像是所述组合动态图像中的结尾动态图像的情况下,所述确定单元确定将预定动态图像的回放速度确定为慢动作回放或快进回放的概率更高。
25.一种摄像装置的控制方法,所述摄像装置的控制方法包括:
拍摄步骤,其拍摄动态图像;
记录步骤,其记录所述动态图像;
确定步骤,其基于所述动态图像中被摄体的运动及所述被摄体中的主要被摄体的类型确定所述动态图像的回放速度;以及
控制步骤,其控制所述拍摄步骤及所述记录步骤,以便记录所述确定步骤中确定的以所述回放速度回放的动态图像。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014181596A JP6378589B2 (ja) | 2014-09-05 | 2014-09-05 | 撮像装置、その制御方法、及びプログラム |
JPJP2014-181596 | 2014-09-05 | ||
JP2014181595A JP6346529B2 (ja) | 2014-09-05 | 2014-09-05 | 撮像装置、その制御方法、及びプログラム |
JPJP2014-181595 | 2014-09-05 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105407266A true CN105407266A (zh) | 2016-03-16 |
CN105407266B CN105407266B (zh) | 2018-07-20 |
Family
ID=54011561
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510551146.XA Active CN105407266B (zh) | 2014-09-05 | 2015-09-01 | 摄像装置及其控制方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9723201B2 (zh) |
EP (1) | EP2993895A1 (zh) |
KR (1) | KR101871675B1 (zh) |
CN (1) | CN105407266B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110622517A (zh) * | 2018-01-19 | 2019-12-27 | 深圳市大疆创新科技有限公司 | 视频处理方法及设备 |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10178196B2 (en) * | 2015-08-21 | 2019-01-08 | Comcast Cable Communications, Llc | Local cache maintenance for media content |
US10991393B2 (en) * | 2016-01-07 | 2021-04-27 | Samsung Electronics Co., Ltd. | Electronic device and method of managing a playback rate of a plurality of images |
CN108012091A (zh) * | 2017-11-29 | 2018-05-08 | 北京奇虎科技有限公司 | 图像处理方法、装置、设备及其存储介质 |
CN112860168B (zh) * | 2018-02-08 | 2022-08-02 | 北京市商汤科技开发有限公司 | 特效程序文件包的生成及特效生成方法与装置、电子设备 |
JP2021125820A (ja) * | 2020-02-06 | 2021-08-30 | キヤノン株式会社 | 撮像装置、制御方法、プログラムおよび記録媒体 |
EP4179733A4 (en) * | 2021-01-20 | 2023-12-06 | Samsung Electronics Co., Ltd. | METHOD AND ELECTRONIC DEVICE FOR DETERMINING MOTION SALIENCY AND VIDEO PLAYBACK STYLE IN VIDEO |
EP4272426A1 (en) * | 2021-06-30 | 2023-11-08 | Samsung Electronics Co., Ltd. | Method and electronic device for a slow motion video |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1766887A (zh) * | 2004-10-29 | 2006-05-03 | 微软公司 | 诸如标题、过渡和/或效果等依照位置变化的特征 |
CN102984449A (zh) * | 2011-09-06 | 2013-03-20 | 卡西欧计算机株式会社 | 能控制再生速度的运动图像再生装置 |
CN103327248A (zh) * | 2009-07-30 | 2013-09-25 | 奥林巴斯映像株式会社 | 照相机 |
US20140232911A1 (en) * | 2013-02-18 | 2014-08-21 | Canon Kabushiki Kaisha | Image capturing apparatus and control method thereof |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4048407B2 (ja) | 2001-01-18 | 2008-02-20 | 富士フイルム株式会社 | デジタルカメラ |
JP4407549B2 (ja) | 2005-03-17 | 2010-02-03 | カシオ計算機株式会社 | 撮影装置、動画再生装置、動画記録再生プログラム |
KR20150025214A (ko) * | 2013-08-28 | 2015-03-10 | 삼성전자주식회사 | 동영상에 비주얼 객체를 중첩 표시하는 방법, 저장 매체 및 전자 장치 |
-
2015
- 2015-08-20 EP EP15181738.4A patent/EP2993895A1/en not_active Withdrawn
- 2015-08-28 US US14/839,787 patent/US9723201B2/en active Active
- 2015-09-01 KR KR1020150123405A patent/KR101871675B1/ko active IP Right Grant
- 2015-09-01 CN CN201510551146.XA patent/CN105407266B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1766887A (zh) * | 2004-10-29 | 2006-05-03 | 微软公司 | 诸如标题、过渡和/或效果等依照位置变化的特征 |
CN103327248A (zh) * | 2009-07-30 | 2013-09-25 | 奥林巴斯映像株式会社 | 照相机 |
CN102984449A (zh) * | 2011-09-06 | 2013-03-20 | 卡西欧计算机株式会社 | 能控制再生速度的运动图像再生装置 |
US20140232911A1 (en) * | 2013-02-18 | 2014-08-21 | Canon Kabushiki Kaisha | Image capturing apparatus and control method thereof |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110622517A (zh) * | 2018-01-19 | 2019-12-27 | 深圳市大疆创新科技有限公司 | 视频处理方法及设备 |
Also Published As
Publication number | Publication date |
---|---|
US9723201B2 (en) | 2017-08-01 |
KR20160029672A (ko) | 2016-03-15 |
US20160073011A1 (en) | 2016-03-10 |
CN105407266B (zh) | 2018-07-20 |
KR101871675B1 (ko) | 2018-06-27 |
EP2993895A1 (en) | 2016-03-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105407266A (zh) | 摄像装置及其控制方法 | |
CN102611845B (zh) | 拍摄运动图像的摄像装置以及摄像处理方法 | |
JP5791336B2 (ja) | 画像処理装置及びその制御方法 | |
JP5898466B2 (ja) | 撮像装置、その制御方法、及びプログラム | |
US8638374B2 (en) | Image pickup apparatus, image pickup system, and image pickup method | |
CN103002210B (zh) | 图像处理装置以及图像处理方法 | |
JP4923005B2 (ja) | ディジタル・スチル・カメラおよびその制御方法 | |
CN103108193A (zh) | 摄像装置以及摄像装置的控制方法 | |
JP6304293B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2009516448A (ja) | 調節可能な光学系を有する撮像システム | |
JP2008139683A (ja) | 撮像装置及びオートフォーカス制御方法 | |
JP2015231118A (ja) | 画像合成装置、画像合成システム及び画像合成方法 | |
JP7142507B2 (ja) | 画像処理装置および画像処理方法、ならびに撮像装置 | |
JP6346529B2 (ja) | 撮像装置、その制御方法、及びプログラム | |
JP6378589B2 (ja) | 撮像装置、その制御方法、及びプログラム | |
JP5406619B2 (ja) | 動画像再生装置及び撮像装置並びにそれらの制御方法、プログラム | |
JP6075829B2 (ja) | 撮像装置、カメラシステム、撮像装置の制御方法、プログラム、記憶媒体 | |
JP2013084124A (ja) | 撮像システム、撮像装置および画像処理方法 | |
JP4936816B2 (ja) | 撮像装置及び同時表示制御方法 | |
JP7175941B2 (ja) | 画像処理装置、画像処理装置の制御方法、プログラム | |
JP6742862B2 (ja) | 撮像装置、画像処理装置、撮像装置の制御方法、プログラム | |
US20220321742A1 (en) | Image processing apparatus that carries out noise reduction process when playing video, image processing method, and storage medium | |
JP6976808B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6555978B2 (ja) | 画像処理装置、その制御方法およびプログラム | |
JP6797566B2 (ja) | 撮像装置、撮像装置の制御方法、および、画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |