CN103731603B - 用于在相机装置和便携式终端中处理图像的设备和方法 - Google Patents
用于在相机装置和便携式终端中处理图像的设备和方法 Download PDFInfo
- Publication number
- CN103731603B CN103731603B CN201310477591.7A CN201310477591A CN103731603B CN 103731603 B CN103731603 B CN 103731603B CN 201310477591 A CN201310477591 A CN 201310477591A CN 103731603 B CN103731603 B CN 103731603B
- Authority
- CN
- China
- Prior art keywords
- image
- photographing information
- camera
- information
- buffer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 49
- 239000000872 buffer Substances 0.000 claims abstract description 133
- 238000012545 processing Methods 0.000 claims abstract description 55
- 230000003068 static effect Effects 0.000 claims abstract description 28
- 238000003860 storage Methods 0.000 claims description 31
- 238000000605 extraction Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 7
- 239000000284 extract Substances 0.000 claims description 5
- 230000004913 activation Effects 0.000 claims description 3
- 230000003139 buffering effect Effects 0.000 claims description 3
- 238000011094 buffer selection Methods 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 22
- 230000006870 function Effects 0.000 description 18
- 238000012805 post-processing Methods 0.000 description 15
- 238000012937 correction Methods 0.000 description 11
- 238000003384 imaging method Methods 0.000 description 7
- 238000003672 processing method Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 230000006835 compression Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000010365 information processing Effects 0.000 description 3
- 230000010354 integration Effects 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 235000013399 edible fruits Nutrition 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005303 weighing Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/64—Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
Abstract
提供一种用于在相机装置和便携式终端中处理图像的设备和方法。所述方法包括:处理预览图像,其中,在所述处理中,获得用于在预览模式下控制相机驱动的第一拍摄信息和在图像处理中收集的第二拍摄信息,存储第一拍摄信息和第二拍摄信息以及相应帧图像;处理静止图像,其中,在所述处理中,在捕捉模式期间通过使用相应拍摄信息来处理从在缓冲器中存储的帧图像选择的特定帧图像的静止图像。
Description
技术领域
本发明涉及一种用于在相机装置中处理图像的设备和方法,更具体地讲,涉及一种用于处理通过使用拍摄信息获得的图像的设备和方法。
背景技术
相机装置和便携式终端两者都配备有用于提供高清晰度图像的相机功能和各种用户功能。
在操作中,相机装置将由相机传感器检测到的图像显示为预览图像,并且如果用户按压快门按钮则存储由相机传感器获得的图像。当处理由相机获得的图像时,相机装置根据图像的亮度来优化图像。
然而,在拍摄时无法通过使用拍摄信息(诸如镜头和光圈信息、闪光灯信息、致动器(actuator)信息、朝向信息等)来处理通过以上方法获得的图像。这是因为在相机装置中在拍摄图像与相机图像的处理时间之间产生延迟。由于所述延迟,无法将相机的实时拍摄信息考虑用于增强图像质量,因此无法最佳地处理图像。这里,例如,在由相机拍摄的图像与由相机的图像处理单元处理的图像之间造成一个帧差。
如上所述,当用户按压相机装置的快门按钮(快门打开)时,在相机中在检测图像与捕捉图像之间存在时间延迟(快门延迟或快门滞后)。也就是说,在用户的快门打开活动与通过相机传感器的对象的拍摄活动之间存在时间差,可根据对象的拍摄环境和图像处理器的处理时间来产生这种时间差。
发明内容
本发明提出一种能够在相机装置中在拍摄图像时通过使用拍摄信息来处理图像的设备和方法。
本发明提出一种能够在图像的同一帧中缓存在拍摄时使用的拍摄信息和从图像处理提取的信息(诸如元数据)并通过使用在相机装置中的拍摄信息来处理缓存的图像以提高图像的最优质量的设备和方法。
本发明提出一种能够在高分辨率相机装置中在拍摄图像的同时通过使用控制变量、镜头和光圈信息、闪光灯信息、致动器信息以及传感器(像陀螺仪传感器)的信息来处理图像的设备和方法。
根据本发明的示例性实施例的用于在相机装置中处理图像的设备包括:相机,根据第一拍摄信息捕获图像;缓冲器,存储多个帧图像;图像处理器,处理在预览模式期间由相机捕获的图像,当处理由相机捕获的图像时获得第二拍摄信息;控制单元,在预览模式期间输出第一拍摄信息,在缓冲器中存储第一拍摄信息和第二拍摄信息以及相应的帧图像,在捕获模式期间将预定帧图像和相应的第一拍摄信息以及第二拍摄信息输出到图像处理器。
根据本发明的另一示例性实施例的用于在相机装置中处理图像的方法包括:处理预览图像,其中,在所述处理中获得用于在预览模式期间控制相机驱动的第一拍摄信息和当处理预览时获得的第二拍摄信息;将第一拍摄信息和第二拍摄信息存储在缓冲器的相应帧图像中;处理静止图像,其中,在所述处理中,在捕获模式期间通过使用第一拍摄信息和第二拍摄信息来处理从缓冲器选择的特定帧图像。
根据本发明的另一示例性实施例的用于在便携式终端中处理图像的设备包括:相机,根据第一拍摄信息来捕捉图像;缓冲器,用于存储由相机输出的多个帧图像;图像处理器,操作性地连接到缓冲器,被配置用于在预览模式期间处理由相机输出的图像,从处理图像中获得第二拍摄信息,将特定帧图像以及相应的第一拍摄信息和第二拍摄信息存储在缓冲器中,并在捕获模式期间通过使用相应帧的第一拍摄信息和第二拍摄信息来处理静止图像;控制器,控制图像处理器的预览模式和捕获模式并控制显示器以显示由图像处理器输出的图像。
根据本发明的另一示例性实施例的用于在相机装置中处理图像的设备包括:相机,根据第一拍摄信息捕获图像;输入单元,产生预览模式和捕获模式的信号;图像处理器,操作性地连接到缓冲器,被配置用于存储多个帧图像,在预览模式期间当处理由相机输出的图像时获得第二拍摄信息,将特定帧图像以及第一拍摄信息和第二拍摄信息存储在缓冲器中,并在捕获模式期间通过使用相应帧图像的第一拍摄信息和第二拍摄信息将由缓冲器输出的图像处理为静止图像;存储单元,存储由图像处理器输出的静止图像;显示单元,在图像处理器的控制下显示静止图像。
本发明提供一种使用元数据的方法,使得可最佳地调整在高分辨率相机的缓冲器中存储的原始数据。
附图说明
从以下结合附图的详细描述中,本发明的特征和优点将会更清楚,其中:
图1是根据本发明的示例性实施例的解释相机装置的操作的框图;
图2是示出根据本发明的示例性实施例的获得拍摄信息的相机装置的配置的框图;
图3示出在相机的缓冲器中存储由图像处理器获得的拍摄信息的操作;
图4是示出图1的相机的配置的框图;
图5是示出根据本发明的第一示例性实施例的用于产生拍摄信息并通过使用产生的拍摄信息处理图像的配置的框图;
图6是示出根据本发明的第一示例性实施例的相机装置的详细配置的框图;
图7是示出根据本发明的第二示例性实施例的相机装置的配置的框图;
图8是示出根据本发明的第二示例性实施例的相机装置的详细配置的框图;
图9是示出根据本发明的第三示例性实施例的相机装置的配置的框图;
图10是示出根据本发明的第三示例性实施例的相机装置的详细配置的框图;
图11是示出根据本发明的示例性实施例的处理由相机装置的相机拍摄的图像的过程的流程图;
图12是示出根据本发明的示例性实施例的在相机装置的预览模式下处理图像和拍摄信息的过程的流程图;
图13是示出根据本发明的示例性实施例的使用图像处理方法的便携式终端的配置的框图;
图14是示出根据本发明的另一示例性实施例的使用图像处理方法的相机装置的配置的框图。
具体实施方式
在下文中,参照附图详细描述本发明的示例性实施例。相同的参考符号在整个附图中被用于指示相同或相似的部分。为了清晰简明,可省略包含于此的公知的功能和结构的详细描述以避免模糊本发明的主题。
简单地说,相机装置在快门打开点与图像获得点之间具有延迟时间(快门滞后),延迟时间表示针对光穿过的预定时间段。因此,根据本发明的示例性实施例的相机装置提供用于存储独立于显示图像的由相机捕获的全分辨率图像的缓冲器或存储介质,并且在驱动相机时在缓冲器中缓存全分辨率图像。当请求拍摄时,可通过从早先缓存的帧图像中选择请求拍摄的帧图像来实现零快门滞后。在本发明的示例性实施例中,将缓冲器配置有存储预定数量的帧图像的大小,并且可将帧的大小设置为足以消除快门滞后。一般而言,如果用于缓存的帧的数量是大约2帧,则产生快门滞后,因而可被设置为小于5帧。也就是说,当捕获图像时,通常存在大约3帧延迟,因此通过在预览模式期间一次缓存大约5帧,当处理图像时相机可返回并取得正被缓存的早先的帧以补偿延迟时间。另外,根据本发明的教导,缓冲器可具有用于按照每个帧来存储拍摄信息和帧图像的环形缓冲器结构。当处理在缓冲器中存储的图像(原始数据)时,图像处理器在设置同一帧中缓存的拍摄信息(元数据)之后处理图像(原始数据)。在这里,拍摄信息可包括由终端的相机单元产生的第一拍摄信息和由终端的图像处理器产生的第二拍摄信息。也就是说,在帧中存储与在捕捉图像时的图像相应的第一拍摄信息和第二拍摄信息(元数据)两者。此后,如稍后详细解释的,可通过图像处理器的后处理器来执行使用第一拍摄信息和第二拍摄信息两者处理图像。
在下文中,将从相机获得的拍摄信息和相机控制信息称为第一拍摄信息(元数据1,MD1),并将从图像处理器(例如,预处理器)提取的信息称为第二拍摄信息(元数据2,MD2)。将通过集成第一拍摄信息MD1和第二拍摄信息MD2而产生的拍摄信息称为集成拍摄信息(集成元数据,MD)。此外,将由相机获得的图像称为原始数据(RD)。在下文中,术语“全分辨率图像”表示未缩放的由相机获得的图像。术语“显示图像”表示从由相机获得的图像被缩放到预定大小(或分辨率)的在预览模式下由显示单元显示的图像或运动图像。在显示图像的情况下,预览图像和运动图像的分辨率可以是相同的或不同的。术语“捕获的图像”表示被存储为静止图像的图像,并且可以是由相机获得的图像或从由相机获得的全分辨率图像缩放到预定大小的图像。在本发明的示例性实施例中,假设捕获的图像是相机的全分辨率图像。
根据本发明的示例性实施例的相机的图像处理器可包括被配置有存储帧数据的多个帧缓冲器的缓冲器。将在预览模式下的与每个帧缓冲器相应的帧图像、从同一帧获得的相机的第一拍摄信息和从图像处理器获得的第二拍摄信息一起存储。通过使用与在选择的帧缓冲器中存储的图像相应的拍摄信息来处理静止图像。
在本公开中,在预览模式下获得的拍摄信息可包括传感器控制变量、镜头和光圈信息、闪光灯信息、致动器(actuator)信息(Bv、Ev、Sv、Tv、Av、模拟增益、数字增益、镜头阴影校正参数、帧计数器、时间戳、闪光灯开/关、AE目标、镜头位置、边界值、白平衡增益和色温信息)以及传感器(诸如陀螺仪传感器)的传感器信息。
当在捕获模式下处理AE(自动曝光)包围曝光(bracketing)和AWB(自动白平衡)包围曝光时,可将传感器设置为连续帧模式,将由设置值应用的原始数据存储在具有上述元数据的环形缓冲器中,并且控制单元通过使用相应的拍摄信息(元数据)和存储的原始数据来连续处理在包围曝光拍摄中获得的图像。此外,可通过使用在缓冲器(环形缓冲器)中存储的拍摄信息(元数据)的边界值来调整JPEG的压缩率。可选地,可通过使用在缓冲器(环形缓冲器)中存储的拍摄信息(元数据)的时间戳或帧计数器来仅处理用户期望的数据。
图1是根据本发明的示例性实施例的解释相机装置的操作的框图。
参照图1,相机110在驱动相机时执行通过内部传感器获得图像的功能。由相机110获得的图像是作为具有图像传感器的全分辨率的图像的原始图像。控制单元100输出用于控制相机110的驱动的信息,并获得由相机110获得的图像的拍摄信息,诸如帧计数器和时间戳。在这里,用于控制相机110的驱动的信息和从相机110获得的拍摄信息可以是第一拍摄信息MD1。控制单元100将由相机110获得的图像存储在缓冲器130中,并缓存第一拍摄信息MD1。
通过图像处理器120处理由相机110输出的图像,并且在图像处理中获得的拍摄信息被发送到控制单元100。在这里,由图像处理器120获得的拍摄信息可以是第二拍摄信息MD2。由图像处理器120处理的图像是在显示单元(未示出)中显示的预览图像。
如果从图像处理器120接收到第二拍摄信息MD2,控制单元100通过集成第一拍摄信息MD1和第二拍摄信息MD2来产生集成拍摄信息MDT,并且在缓冲器130中存储集成拍摄信息以及相应帧图像。注意到:可从不同于第一拍摄信息MD1的另一帧部分获得第二拍摄信息MD2。也就是说,在由相机110获得图像时,图像处理器120处理从先前帧获得的图像。因此,在第一拍摄信息MD1与第二拍摄信息MD2之间存在帧差。
如果由用户请求捕获图像,控制单元100从缓冲器130中访问零快门滞后的帧图像(即,被存储用于实现零快门滞后的早先的帧)和与所述帧图像关联的集成拍摄信息,并将所述帧图像和所述集成拍摄信息输出到图像处理器120。然后,图像处理器120通过使用集成拍摄信息来处理图像并存储图像。因此,图像处理器120通过使用从在缓冲器中存储的同一帧(或早先的帧)获得的拍摄信息并在处理捕获的图像时提供零快门滞后效果来处理图像,因而可将图像调整到优化的静止图像。
图2是示出根据本发明的示例性实施例的获得拍摄信息的相机装置的配置的框图,图3示出在相机的缓冲器中存储由图像处理器获得的拍摄信息的操作。
参照图2和图3,控制单元100输出用于控制相机110的驱动的控制信息(诸如时间戳和帧计数器值),反过来,相机110通过使用由控制单元100输出的控制信息获得图像,然后将获得的图像输出到图像处理器120。相机110产生从每个帧获得的图像的帧计数值和时间戳。在这里,第一拍摄信息可包括由控制单元100输出的用于相机110的控制信息和由相机110产生的帧图像信息。
控制单元100将由相机110输出的图像存储在缓冲器130中。缓冲器130被配置有存储多个帧图像的环形缓冲器,并且将缓冲器130的大小设置为足以补偿在相机装置中的快门滞后的大小。例如,如果快门滞后或延迟与大约3帧相应,则接着可将缓冲器130的大小设置为容纳5帧。在本发明的示例性实施例中,缓冲器130在控制单元100的控制下存储与相应帧图像相关的拍摄信息。
图像处理器120处理由相机110输出的图像。图像处理器120可包括预处理器和后处理器,并且当预处理器处理由相机110输出的图像时,预处理器执行3A(AWB(自动白平衡)、AE(自动曝光)和AF(自动聚焦))的提取并执行图像的补偿。可由后处理器使用上述信息,诸如提取的3A。后处理器通过使用拍摄信息来执行色彩补偿和色彩转换。因此,图像处理器120在图像处理中提取在后处理中使用的第二拍摄信息。
首先,在下文中描述第一拍摄信息和获得第一拍摄信息的方法。
控制单元100控制相机110的传感器的曝光时间(Tv)、增益(模拟增益和数字增益)和帧率,使得传感器执行针对每个帧的自动亮度调整并且如果安装光圈则控制光圈停止(Av)。如果提供自动聚焦功能,则控制单元100控制针对最佳焦点的镜头的位置和闪光灯的驱动。在这里,拍摄信息可以是由相机110输出的第一拍摄信息。相机110产生针对每个帧的时间戳和帧计数器值,控制单元100将由相机110输出的时间戳和帧计数器值用作第一拍摄信息。如果在相机装置中安装外部传感器(诸如陀螺仪传感器、加速度传感器、GPS接收器和高度传感器),则控制单元100可在获得图像时读取传感器值并将其用作第一拍摄信息。
第二,在下文中描述第二拍摄信息和获得第二拍摄信息的方法。
图像处理器120提取针对每个帧的图像的亮度信息(Bv、Ev))和高频信息,其中,在处理由相机110输出的帧图像时从内部镜头阴影校正参数和3A统计中获得所述亮度信息和高频信息。可将高频信息用作AF滤波值。可从整个图像、被划分为多个区域的块或线或者特定区域中获得高频信息。图像处理器120提取用于白平衡的白平衡增益(红增益和蓝增益)。如上提取的拍摄信息可以是第二拍摄信息。
控制单元100将由图像处理器120提取的第二拍摄信息与第一拍摄信息集成并作为集成拍摄信息存储于在缓冲器130中存储的相应帧图像中。也就是说,控制单元100通过集成提取的信息(诸如Bv、Ev、Sv、Tv、Av、模拟增益、数字增益、帧计数器、时间戳、闪光灯开/关、AE目标、镜头位置、边界值和白平衡增益或上述项的任意组合)来产生元数据并将产生的具有与相应帧的原始数据的索引相同的索引的元数据存储在缓冲器130中。
在这里,可从不同的帧部分产生第二拍摄信息和帧图像的第一拍摄信息。例如,如图3所示,从帧部分310获得第一拍摄信息并且可从与相应帧图像部分相同的部分获得第一拍摄信息。然而,由图像处理器120在与获得第一拍摄信息不同的时间获得第二拍摄信息。例如,如果在图像处理器120中的图像的处理时间具有1帧延迟,则针对同一帧图像的第一拍摄信息和第二拍摄信息变为具有如图3的310和320所示的1帧差。
在图2中,可将拍摄信息获得器210和220、拍摄信息产生器230和缓冲器控制器240配置到控制单元100中。在这里,拍摄信息产生器230通过集成与相机110的驱动相关的第一拍摄信息和由图像处理器120获得的第二拍摄信息来产生如图3的330所示的拍摄信息,并在缓冲器控制器240的控制下将所述拍摄信息存储在缓冲器130的相应帧图像中。在本发明的示例性实施例中,通过将与相机110的驱动相关的第一拍摄信息和由图像处理器120获得的第二拍摄信息合成来产生集成拍摄信息,接着将第一拍摄信息和第二拍摄信息存储在同一帧图像中。在这里,可按照各种方法来执行将拍摄信息存储在缓冲器130中。将由相机110拍摄的图像存储在缓冲器130中,当获得第二拍摄信息时通过将第一拍摄信息与第二拍摄信息集成来产生集成拍摄信息,并且将所述集成拍摄信息存储在相应帧图像中。可选地,将第一拍摄信息以及由相机110拍摄的图像存储在缓冲器130中,当获得第二拍摄信息时将第二拍摄信息存储在相应帧图像中。在本发明的示例性实施例中,为了示意目的,假设按照前一种方法来存储拍摄信息。
图4是示出图1的相机的配置的框图。
参照图4,由机械快门、电机440和致动器450来驱动光学单元410,由致动器450来执行变焦和聚焦操作。光学单元410接收对象的反射光,图像传感器420检测由光学单元410接收到的光并将其转换成电信号。在这里,图像传感器420可以是CMOS传感器或CCD传感器,并且可以是高分辨率图像传感器。可将相机的图像传感器420以及全域快门安装在内部。全域快门执行与被集成在传感器中的机械快门的功能类似的功能。相机110还可被配置有取景器。
在本发明的示例性实施例中,图像传感器420可以是检测高于UHD(超高清)级的图像的传感器。由图像传感器420检测到的图像通过经由A/D转换器430转换成数字图像被输出。由相机110输出的数据可以是拜耳(Bayer)数据(原始数据)。相机110还包括闪光灯460,并且如果接收到用于驱动闪光灯460的信号则在获得图像时相机110驱动闪光灯460。
图5是示出根据本发明的第一示例性实施例的用于产生拍摄信息并通过使用产生的拍摄信息处理图像的配置的框图。
参照图5,如果用户产生相机驱动命令,则控制单元100在预览模式下驱动相机装置。在预览模式下,控制单元100控制选择器510,使得将来自相机110的输出发送到预处理器520,并且设置预处理器520、缩放器530和后处理器540以处理显示图像。
在预览模式下,控制单元100通过输出包括具有图4的配置的相机110的设置信息的第一拍摄信息来驱动相机110。相机110根据第一拍摄信息来执行光学单元的设置,并且根据拍摄信息的设置来获得并输出图像。相机110接着输出与获得的图像相应的时间戳和帧计数器。在这里,由相机110输出的图像可以是相机110的全分辨率拜耳图像,在控制单元100的控制下所述图像通过选择器510被发送到预处理器520并同时被存储在缓冲器130中。控制单元100接着通过使用用于驱动相机110的控制信息和在获得图像时从相机110提取的信息来产生第一拍摄信息。
预处理器520通过选择器510接收由相机110输出的图像并预处理图像。预处理器520从帧图像提取3A(AWB(自动白平衡)、AE(自动曝光)、AF(自动聚焦))并且执行镜头阴影校正、坏点校正、拐点校正。预处理的图像是全分辨率图像并且每个图像被发送到图像缩放器530。预处理器520还提取第二拍摄信息并将其输出到控制单元100。如先前所述,通过将与相机110的驱动相关的第一拍摄信息和由图像处理器120获得的第二拍摄信息合成来产生集成拍摄信息,并且当将第一拍摄信息和第二拍摄信息存储在缓冲器中时将这两者存储在同一帧图像中。
缩放器530将接收到的全分辨率图像缩放到用于在显示单元中显示的大小。在这里,可通过使用各种方法(诸如调整大小、抽取、插值、裁剪、添加和平均值计算)中的至少一个来执行图像缩放。缩放器530通过减少像素的数量来将由相机110获得的全分辨率图像缩放到用于在显示单元中显示的大小,并且也可缩放使得图像适合于显示单元的屏幕比例。
由后处理器540来后处理如上被缩放的图像。后处理器540通过使用拍摄信息来执行诸如色彩插值、降噪、伽马校正和色彩变换的功能。也就是说,通过执行色彩插值来将像素数据转换成包括RGB分量的数据,降低色彩插值后的像素数据的噪声,将数据转换成YUV数据。在这里,在显示单元中显示由后处理器540后处理后的显示图像。
缓冲器130针对每个帧缓存相机110的图像(原始图像)和由控制单元100产生的拍摄信息。缓冲器130具有可缓存预定数量的帧图像和相应帧的拍摄信息的环形缓冲器结构。也就是说,缓冲器130具有用于存储N个帧图像和拍摄信息的N个环形缓冲器的结构。在控制单元100的控制下将帧图像和从每个帧产生的信息从第一环形缓冲器顺序地缓存,并且如果最后一个缓冲器填充满帧图像和拍摄信息,则控制单元100覆写(overwrite)第一环形缓冲器。如果假设快门延迟(快门滞后)为3帧,则缓冲器130可配置有处理不少于3个帧图像和相应拍摄信息的环形缓冲器。在预览模式下,控制单元100控制缓冲器130针对每个帧缓存帧图像和相应拍摄信息而不驱动压缩编码器550。
如果在预览模式下检测到请求捕获图像的用户信号,则控制单元100通过控制选择器510来选择缓冲器130的输出,并且控制预处理器520和后处理器540以处理在缓冲器130中存储的图像(例如,相机110的全分辨率图像)。此时,不驱动缩放器530,并将预处理器520的输出绕开后处理器540。然后将压缩编码器550激活以产生被压缩并被编码的静止图像。
控制单元100控制缓冲器130根据捕捉图像的请求输出先前的图像(这用于在用户的快门打开动作时的快门滞后的补偿)和相应拍摄信息。控制单元100还控制使得由缓冲器130输出的帧图像被发送到预处理器520并且拍摄信息被发送到后处理器540。
在捕捉模式下,控制单元100通过考虑快门滞后来从缓冲器130中缓存的图像中访问相应帧图像并将其发送到选择器510,并且选择器510将缓冲器130的输出发送到预处理器520。预处理器520按照以上方法预处理帧图像并将其输出到后处理器540。控制单元100将与处理的帧图像相应的拍摄信息(包含第一拍摄信息和第二拍摄信息)发送到后处理器540。后处理器540通过使用拍摄信息执行色彩插值、降噪、伽马校正和图像变换来后处理由缓冲器130输出的帧图像。压缩编码器550编码由后处理器540输出的图像并将其存储。在这里,后处理器540可输出YUV图像,并且压缩编码器550可以是产生静止图像的JPEG编码器。在本发明的示例性实施例中,将JPEG(联合图像专家组)的静止图像作为示例来描述,然而,可通过使用另一编码方法(例如,TIFF(标签文件图像格式))来产生静止图像。
当处理静止图像时,被发送到后处理器540的拍摄信息是与如在图2和图3中所述的被处理的帧图像相应的拍摄信息,因而,随着处理与捕获图像时相应的拍摄信息,后处理器540可将静止图像调整到最佳情况。
图6是示出根据本发明的第一示例性实施例的相机装置的详细配置的框图。
参照图6,相机110包括如图4所示的镜头、传感器、致动器和闪光灯,图像处理器120包括存储原始数据的多个环形缓冲器、预处理器、后处理器和用于改变图像大小的大小调整器。在具有以上配置的相机装置中,控制单元100通过输出第一拍摄信息来控制相机110,其中,第一拍摄信息可包括控制信息(诸如曝光时间(Tv)、增益(模拟增益和数字增益)和帧率)使得传感器可利用自动亮度功能来操作。如果在相机110中安装光圈,则第一拍摄信息可包括光圈停止(Av)信息。如果提供自动聚焦功能,则第一拍摄信息可包括用于最佳地聚焦并驱动闪光灯所需要的信息。当执行自动聚焦功能时,控制单元100获得作为第一拍摄信息的镜头位置的信息和闪光灯的操作状态。
当传感器操作以获得图像时,根据由控制单元100输出的第一拍摄信息而驱动的相机110测量针对每个帧的输出图像的时间和通过时间戳块的时间,针对每个帧为帧计数器块编索引,并且每当增加帧时将索引数加1。相机110将作为第一拍摄信息的时间戳和帧计数器输出到控制单元100。在这里,控制单元100可通过分配到系统存储器、寄存器或变量来处理第一拍摄信息。当拍摄图像时,控制单元100还可将从各种传感器(诸如陀螺仪传感器)获得的相应帧的信息设置到第一拍摄信息。控制单元100将如上获得的相应帧的第一拍摄信息发送到拍摄信息产生器610,并且拍摄信息产生器610将第一拍摄信息存储在存储相应帧图像的缓冲器130中。
控制单元100还可包括缓冲器控制器(例如,DMA控制器)。在这种情况下,缓冲器控制器在缓冲器130的相应帧图像缓冲器中存储由相机110输出的图像,也可将由拍摄信息产生器610输出的第一拍摄信息存储在相应帧图像缓冲器中。这里,可执行使输入到环形缓冲器130中的数据通过或阻止数据的功能。
当驱动相机时,控制单元100执行预览模式并通过控制选择器510将由相机110输出的图像发送到预处理器520。控制单元100还控制缩放器530和后处理器540以处理显示图像。这里,压缩编码器550被控制以不进行操作。
因此,在预览模式下,由相机110输出的帧图像通过选择器510并被发送到预处理器520。预处理器520执行预处理从相机110获得的图像的功能。这里,预处理图像的功能可包括3A(AWB(自动白平衡)、AE(自动曝光)和AF(自动聚焦))的提取和处理、镜头阴影校正、坏点校正和拐点校正。当执行预处理时,预处理器520获得第二拍摄信息。第二拍摄信息可包括预处理器520的内部镜头阴影校正参数、从3A统计获得的亮度信息(Bv、Ev)、图像的高频信息。AF滤波值可被用作图像的高频信息。可选地,可从整个图像、从被划分成多个区域的块或线或者从特定区域获得高频信息。第二拍摄信息还包括在白平衡中使用的白平衡增益(红增益和蓝增益)。
通过第二拍摄信息获得器620将第二拍摄信息发送到拍摄信息产生器230并且拍摄信息产生器230将第二拍摄信息存储在缓冲器130的相应帧图像缓冲器中。这里,如图3所示,可从不同帧部分获得第一拍摄信息和第二拍摄信息,并且必须存储从不同帧部分获得第一拍摄信息和第二拍摄信息以及缓冲器的相应帧图像。为了获得第一拍摄信息和第二拍摄信息,可使用如上所述的通过集成第一拍摄信息和第二拍摄信息的存储的方法或在产生时单独地存储第一拍摄信息和第二拍摄信息的方法。
被存储的拍摄信息可包括Bv、Ev、Sv、Tv、Av、模拟增益、数字增益、帧计数器、时间戳、闪光灯开/关、AE目标、镜头位置、边界值和白平衡增益,其中,如上所述,将上述项集成并用与图像(原始数据)的索引相同的索引来将集成的上述项存储在缓冲器130的相应帧缓冲器中。
由预处理器520预处理的图像可以是相机110的全分辨率图像,并且被发送到缩放器530用于缩放到显示图像大小。这里,可使用调整大小的方法。
后处理器540包括色彩插值器和IPC(图像处理链(chain))并且通过使用拍摄信息来后处理预处理后的图像。首先,色彩插值器执行将由相机110输出的图像数据(拜耳数据)转换为彩色图像的色彩插值功能。相机110的图像传感器可以是CCD传感器或CMOS传感器。这里,CCD和CMOS图像传感器使用色彩滤波阵列,因而每个像素传感器仅具有3个色彩通道中的一个以实现彩色图像。色彩插值器执行将由相机110输出的图像的像素转换为包括3种色彩(RGB)的图像的功能(即,全色彩转换)。色彩插值器通过使用在相邻像素之间的相关性来执行色彩插值功能。总体上在图像处理装置中,将在色彩插值之前处理图像称为预处理并将在色彩插值之后处理图像称为后处理。其次,IPC针对色彩插值的图像执行降噪、伽马校正和亮度校正并将后处理后的图像转换为YUV图像。也就是说,在色彩插值和后处理之后,后处理器540执行将通过调整大小的缩放后的图像转换为YUV图像的功能。
由缩放器530将后处理后的图像调整大小到适合于在显示单元(未示出)中显示的图像大小并输出,并且显示单元将由图像处理器120输出的图像显示为预览图像。
在预览模式下,相机装置获得拍摄信息,存储获得的拍摄信息和相应图像,针对每个帧执行图像处理并且在显示单元将图像处理器120的输出显示为预览图像。因此,缓冲器130总是在预览模式期间存储预定数量的帧图像和拍摄信息。
如果用户请求在以上状态下捕获图像,则控制单元100控制选择器510以将由缓冲器130输出的图像发送到预处理器520,并控制缩放器530以将调整图像大小并将其发送到后处理器540。例如,在控制单元100的控制下,缩放器530将预处理器520的输出图像发送到后处理器540,就如同静止图像的预定大小与相机110的全分辨率大小相同一样,并且如果静止图像的大小被用户设置则通过预处理器520的输出图像缩放到预定大小来将其发送到后处理器540。后处理器540处理通过控制单元100的控制预先确定的大小的静止图像。控制单元100控制缓冲器130,使得从缓冲器130中存储的帧图像和拍摄信息访问用于产生静止图像的帧图像和拍摄信息。然后,缓冲器130将通过控制单元100的控制而选择的帧图像输出到选择器510,并将拍摄信息发送到后处理器540。
如果缓冲器130的图像和拍摄信息被访问,则控制单元100通过从在缓冲器130中存储的帧图像和拍摄信息中取得或访问与快门打开时间相应的图像和拍摄信息来执行功能,诸如零快门滞后。当利用闪光灯拍摄时,控制单元100通过分析拍摄信息来选择利用闪光灯拍摄的帧图像和拍摄信息,并且控制缓冲器130顺序地访问多个帧图像和拍摄信息,就像已经执行包围曝光拍摄。
在下文中,描述通过使用拍摄信息来处理静止图像的示例。
当在捕获模式下处理AE包围曝光和AWB包围曝光时,传感器设置被设置为连续帧模式,将由设置值应用的原始数据以及元数据存储在环形缓冲器中,接着控制单元100通过使用与所述原始数据相应的元数据来连续处理图像。
另外,可通过使用来自在缓冲器(环形缓冲器)中存储的拍摄信息(元数据)的边界值来调整JPEG压缩率。
在捕获模式下,通过控制单元100的控制而选择的图像绕开选择器510和缩放器530,由预处理器520预处理后的图像被发送到后处理器540,并且后处理器540通过使用相应帧的拍摄信息来后处理预处理后的图像。
在图像处理操作中,如果在连续地改变相机110的传感器设置时执行使用AE包围曝光(诸如高动态范围)和AWB包围曝光的应用,则控制单元100通过与相机110的传感器的终止时间同步来存储包围曝光的输出以便缩短处理时间(即,阻止到图像处理器120的直接发送),并随后针对通过包围曝光拍摄而获得的并被存储在缓冲器130中的帧,顺序地对图像和拍摄信息进行处理并将它们输出到图像处理器120。
如果由在拍摄信息中存储的边界值限制JPEG图像大小,则可通过改变拍摄信息中的压缩率的Q值设置来有效管理系统存储器。因此,可在没有重复的情况下通过单路径编码(one-path encoding)来执行JPEG压缩,并且处理时间变得较短。
图7是示出根据本发明的第二示例性实施例的相机装置的配置的框图,图8是示出根据本发明的第二示例性实施例的相机装置的详细配置的框图。根据本发明的第二示例性实施例的相机装置具有图像处理器120的配置,使得通过预处理器520来预处理由相机110产生的图像并存储在缓冲器130中。
参照图7和图8,在预览模式下,控制单元100控制选择器510,使得缩放器530的输出被发送到后处理器540。因此,在本发明的第二示例性实施例中,在缓冲器130中存储的图像是由相机110拍摄并由预处理器520处理后的图像。控制单元100按照与第一示例性实施例相同的方式来获得第一拍摄信息和第二拍摄信息,并且将第一拍摄信息和第二拍摄信息以及相应帧图像存储在缓冲器130中。也就是说,在第二示例性实施例中,按照与第一示例性实施例相同的方式来执行获得第一拍摄信息和第二拍摄信息以及将第一拍摄信息和第二拍摄信息存储在缓冲器130中的方法。因此,省略相同组件的讨论以避免冗余。通过预处理器520预处理由相机110拍摄的图像,通过缩放器530将所述图像缩放到显示图像大小并且通过经由图像后处理器540的处理将图像显示为预览图像。
在操作中,如果用户请求捕获图像,则控制单元100控制选择器510以将由缓冲器130输出的图像发送到后处理器540。控制单元100还控制缓冲器130以选择性地输出预定帧图像和相应拍摄信息,并且将由缓冲器130输出的图像通过选择器510发送到后处理器540。将由缓冲器130输出的拍摄信息发送到后处理器540。这里,在缓冲器130中存储的图像是预处理后的图像。后处理器540通过使用响应于取得的预处理后的图像的拍摄信息来后处理预处理后的图像,然后后处理后的图像在被压缩编码器550压缩并编码之后被存储。
图9是示出根据本发明的第三示例性实施例的相机装置的配置的框图,图10是示出根据本发明的第三示例性实施例的相机装置的详细配置的框图。根据本发明的第三示例性实施例的相机装置具有以下配置:图像处理器120包括独立地处理显示图像的组件和处理静止图像的组件。
参照图9和图10,在预览模式下,将由相机110拍摄的图像发送到预处理器910,将由预处理器910预处理后的图像发送到缩放器920并存储在缓冲器130中。缩放器920将预处理后的图像缩放到显示图像大小,并且后处理器930通过后处理被缩放到显示图像大小的图像来在显示单元(未示出)中显示图像。控制单元100按照与第一示例性实施例和第二示例性实施例相同的方式获得第一拍摄信息和第二拍摄信息,并将第一拍摄信息和第二拍摄信息以及相应帧图像存储在缓冲器130中。这里,省略相同组件的讨论以避免冗余。也就是说,在第三示例性实施例中,按照与第一示例性实施例和第二示例性实施例的操作相同的方法来执行获得第一拍摄信息和第二拍摄信息并将第一拍摄信息和第二拍摄信息存储在缓冲器130中。
在操作中,如果用户请求捕获图像,则控制单元100控制缓冲器130以选择性地输出帧图像和相应拍摄信息,并且将由缓冲器130输出的帧图像和拍摄信息发送到后处理器940。这里,在缓冲器130中存储的图像是预处理后的图像,后处理器940通过使用拍摄信息来后处理预处理后的图像,并且后处理后的在被压缩编码器950压缩并编码之后被存储。后处理器930后处理显示图像,并且可后处理具有相机110的全分辨率的静止图像。
图11是示出根据本发明的示例性实施例的处理由相机装置的相机拍摄的图像的过程的流程图,图12是示出根据本发明的示例性实施例的在相机装置的预览模式下处理图像和拍摄信息的过程的流程图。
参照图11和图12,如果用户打开快门,则控制单元100检测相机驱动(1111)并且通过执行预览模式来显示预览图像(1113)。在预览模式下,控制单元100获得用于驱动相机110的拍摄信息和作为第一拍摄信息的由相机110输出的拍摄信息,并且还获得作为第二拍摄信息的在通过图像处理器120的处理图像中的拍摄信息。控制单元100将由相机110拍摄的图像存储在缓冲器130中,并且存储从存储的图像的相同帧获得的第一拍摄信息和第二拍摄信息。
在下文中,参照图12描述预览模式的操作。控制单元100在缓冲器130中缓存由相机110拍摄的图像(1211)并且获得作为第一拍摄信息的用于控制相机110的驱动的拍摄信息和由相机110输出的拍摄信息。这里,第一拍摄信息包括曝光时间(Tv)、增益(模拟增益和数字增益)、用于控制帧率的信息、光圈停止(Av)信息、聚焦信息、闪光灯驱动信息、镜头位置信息、由相机110输出的时间戳和帧计数器、传感器(诸如陀螺仪传感器)的信息。这里,可在缓冲器130中存储第一拍摄信息以及相应帧图像或者通过集成第一拍摄信息和第二拍摄信息来存储两种信息。
随后,控制单元100处理由相机110输出的图像。所述图像由图像处理器120预处理,并且在所述处理中获得第二拍摄信息(1213)。这里,第二拍摄信息可包括镜头阴影校正参数、从3A统计获得的亮度信息(Bv、Ev)、图像的高频信息和在白平衡处理中使用的白平衡增益(红增益和蓝增益)。如果已经存储第一拍摄信息以及帧图像,则控制单元100紧挨着相应帧的第一拍摄信息来存储第二拍摄信息。可选地或另外,如果在当时未存储第一拍摄信息,则将第二拍摄信息与第一拍摄信息集成并存储在帧图像区域中。可在捕获模式下处理拍摄信息以及图像并且可将拍摄信息用于图像的后处理中。
随后,控制单元100将预处理后的图像缩放到显示图像大小,并通过集成来将获得的第一拍摄信息和第二拍摄信息存储在缓冲器130中(1215)。这里,可在存储相应帧图像的缓冲器位置存储集成拍摄信息。也就是说,在不同帧部分中产生第一拍摄信息和第二拍摄信息,然而,在本发明的示例性实施例中,在存储帧图像(或相同帧)的位置存储拍摄信息以及相应帧图像。然后,可在捕获模式期间处理拍摄信息以及图像两者,并将拍摄信息用于图像的后处理。
控制单元100控制后处理被缩放到显示图像大小的图像(1217)并且控制以通过输出后处理后的图像来显示预览图像(1219)。
重复所述预览模式直到在驱动相机之后请求捕获模式或者相机的驱动被终止为止。如果在预览模式下请求捕获图像,则控制单元100检测所述请求(1115),控制缓冲器130以根据针对捕捉的请求来选择性地输出图像和拍摄信息(1117)。这里,所述图像可以是零快门滞后的帧图像、利用根据拍摄信息驱动的闪光灯拍摄的帧图像或通过包围曝光拍摄来获得的多个帧图像。控制单元100控制使得由图像处理器120来处理由缓冲器130输出的帧图像,同时控制以将相应帧的拍摄信息发送到图像处理器120,使得图像通过使用所述拍摄信息被处理(1119)。这里,被处理的图像可以是静止图像,并且控制单元100将处理后的图像在压缩和编码之后存储在存储单元中(1121)。
也可在具有相机和相机装置的便携式终端中使用上述图像处理器。图13是示出根据本发明的示例性实施例的使用图像处理方法的便携式终端的配置的框图,图14是示出根据本发明的示例性实施例的使用图像处理方法的相机装置的配置的框图。
图13示出显示根据本发明的示例性实施例的使用图像处理方法的便携式终端的配置的框图。
图像处理器1330通过处理由相机1320获得的图像来产生用于在显示单元1340中显示的显示图像和根据针对捕获图像的请求而将被存储的捕获的图像。这里,显示图像可以是YUV图像,并且捕获图像可以是按照JPEG格式压缩并编码的图像。图像处理器1330将由相机1320获得的图像缩放到针对在显示单元1340中显示的适当的图像大小并且转换为YUV图像,使得图像可在显示单元1340中显示。图像处理器1330缓存由相机1320输出的全分辨率图像,并且当打开或激活快门时,将选择的可补偿快门延迟时间的帧图像压缩并编码。这里,捕获的图像可以是具有相机1320的全分辨率的图像。图像处理器1330针对每个帧产生显示图像并且缓存捕获的图像。当缓存捕获的图像时,存储从捕获的图像获得的第一拍摄信息和第二拍摄信息以及相应的捕获的图像,即,存储在同一帧中。
当驱动相机时,应用处理器1300缓存由图像处理器1330产生的显示图像,并且如果请求捕获图像,则缓存显示图像和捕获的图像。应用处理器1300控制以在显示单元1340中显示缓存的显示图像,并且如果请求捕获图像,则在存储单元1310中存储捕捉的图像。
输入单元1350产生针对应用处理器1300的相机驱动命令和捕捉命令。显示单元1340在预览模式下显示由应用处理器1300输出的显示图像。这里,输入单元1350可以是检测用户的触摸输入的触摸面板并且显示单元1340可以是显示在程序的执行期间产生的数据和图像的LCD面板或OLED面板。这里,输入单元1350和显示单元1340可配置有集成类型的触摸屏。输入单元1350还可包括在便携式终端的外部布置的按钮。
如果请求捕获图像,则存储单元1310存储由应用处理器1300输出的捕获的图像。在具有以上配置的便携式终端中,应用处理器1300可包括通信单元1360。通信单元1360执行与外部装置或与基站的通信功能。通信单元1360可包括将发送信号转换为RF带的频率上转换器、具有电放大器的发送器、低噪声放大接收到的RF信号的放大器、将RF信号转换为基带的频率下转换器、通过调制将发送信号输出到发送器的调制器以及解调由接收器输出的信号的解调器。这里,调制器和解调器可以是根据通信方法的WCDMA、GSM和LTE中的一个,或者可以是调制器/解调器,诸如WIFI、WIBRO及其组合。如果安装通信单元1360,则应用处理器1300可配置有移动处理器(MP)和应用处理器。
图14示出显示根据本发明的另一示例性实施例的使用图像处理方法的相机装置的配置的框图。
图像处理器1400通过处理由相机1420获得的图像来产生用于在显示单元1440中显示的显示图像和如果请求捕获图像则将被存储的捕获的图像。这里,显示图像可以是YUV图像,并且捕获的图像可以是按照JPEG格式压缩并编码的图像。图像处理器1400将由相机1420获得的图像缩放到用于在显示单元1440中显示的图像大小并且将图像转换为YUV图像,以便被显示在显示单元1440中。图像处理器1400缓存由相机1420输出的全分辨率图像,并且当打开快门时,将选择的可补偿快门延迟时间的帧图像压缩并编码,并将图像存储在存储单元1410中。这里,捕获的图像可以是具有相机1420的全分辨率的图像。图像处理器1400针对每个帧产生显示图像并且通过显示单元1440来显示所述图像。当缓存捕获的图像时,将从捕获的图像帧获得的第一拍摄信息和第二拍摄信息以及相应图像或相同的捕获的帧缓存。
输入单元1450在图像处理器1400的控制下产生相机驱动命令和捕捉命令。显示单元1440在预览模式下显示由图像处理器1400输出的显示图像。这里,输入单元1450可以是检测用户的触摸输入的触摸面板并且显示单元1440可以是显示在程序的执行期间产生的数据和图像的LCD面板或OLED面板。这里,输入单元1450和显示单元1440可配置为集成类型的触摸屏。输入单元1450还可包括在便携式终端的外部布置的按钮。
如果请求捕获图像,则存储单元1410存储由图像处理器1400输出的捕获的图像。在具有图13的配置的便携式终端和具有图14的配置的相机装置中,图像处理器1330和图像处理器1400可具有图5、图7或图9的配置。在预览模式下,图像处理器1330和图像处理器1400缓存帧图像并同时获得与相应缓存的帧图像相关的第一拍摄信息和第二拍摄信息。这里,第一拍摄信息是与相机1320的控制和操作相关的拍摄信息并且第二拍摄信息是在图像处理中获得的拍摄信息。当在预览模式下处理预览图像时,图像处理器1330和图像处理器1400存储将在捕捉模式下使用的拍摄信息和相机的全分辨率图像。拍摄信息包括从与相机的驱动相关的相应帧图像获得的第一拍摄信息和通过图像处理器获得的第二拍摄信息。这里,由于如上所述的帧的延迟,第一拍摄信息和第二拍摄信息被从同一帧图像但从不同帧部分获得。在本发明的示例性实施例中,将拍摄信息集成并与相应帧图像缓存在缓冲器的同一帧区域中。当在捕获模式下处理缓存的图像时,可通过使用与图像存储的拍摄信息(即,从同一帧获得的拍摄信息)来执行图像处理。
已经描述用于处理图像的方法的优选实施例,对本领域技术人员应该清楚的是:已经实现了系统的特定优点。前述内容将仅被理解为本发明的说明性的实施例。
另外,根据本公开的原理的上述方法可在硬件、固件中实施或被实施为可在记录介质(诸如CD ROM、RAM、软盘、硬盘或磁光盘)中存储的软件或计算机代码,或被实施为通过网络下载的最初存储在远程记录介质或非暂时性机器可读介质上并将被存储在本地记录介质上的计算机代码,使得描述于此的方法可使用通用计算机或专用处理器在被存储在记录介质上的软件中实施,或者在可编程硬件或专用硬件(诸如ASIC或FPGA)中实施。如将本领域中所理解的:计算机、处理器、微处理器控制器或可编程硬件包括可存储或接收软件或计算机代码的存储器组件(例如RAM、ROM、闪存等),其中,当所述软件或计算机代码被计算机、处理器或硬件访问并执行时实施描述于此的处理方法。此外,将认识到:当通用计算机访问用于实施在此示出的所述处理的代码时,所述代码的执行将通用计算机转变为用于执行在此示出的所述处理的专用计算机。
虽然本发明的示例性实施例已在上文中被详细描述,但是,应该理解:描述于此的基本发明构思的许多变化和修改将仍然落入由权利要求限定的本发明的精神和范围内。
Claims (15)
1.一种用于处理图像的设备,包括:
相机,根据第一拍摄信息来捕获图像;
缓冲器,存储多个帧图像;
图像处理器,处理在预览模式期间由相机捕获的图像并且当处理由相机捕获的图像时获得第二拍摄信息;以及
控制单元,在预览模式期间输出第一拍摄信息,在缓冲器中存储第一拍摄信息和第二拍摄信息以及相应帧图像,并且在捕获模式期间将预定帧图像和相应的第一拍摄信息以及第二拍摄信息输出到图像处理器,
其中,第一拍摄信息是相机在捕获图像时产生的信息,第二拍摄信息是图像处理器在处理捕获的图像时提取的信息,
其中,图像处理器使用所述相应的第一拍摄信息和第二拍摄信息来处理所述预定帧图像。
2.如权利要求1所述的设备,其中,缓冲器是具有用于存储多个帧图像的多个帧缓冲器的环形缓冲器,并且所述多个帧缓冲器中的每个帧缓冲器存储特定帧图像以及相应的第一拍摄信息和第二拍摄信息。
3.如权利要求2所述的设备,其中,控制单元包括:拍摄信息产生器,集成第一拍摄信息和第二拍摄信息以在缓冲器中存储。
4.如权利要求3所述的设备,其中,第一拍摄信息包括相机的闪光灯驱动信息、曝光时间、增益,第二拍摄信息包括Bv、Ev和白平衡。
5.如权利要求2所述的设备,其中,控制单元控制以针对特定帧图像来集成第一拍摄信息和第二拍摄信息并将集成拍摄信息存储在相应的帧缓冲器中,并且控制以在捕捉模式期间将针对预定帧缓冲器的集成拍摄信息和相应帧图像输出到图像处理器。
6.如权利要求5所述的设备,其中,预定帧缓冲器存储零快门滞后的帧图像和拍摄信息。
7.如权利要求5所述的设备,其中,图像处理器包括:
预处理器,在预处理操作期间预处理图像并提取第二拍摄信息;
缩放器,将预处理后的图像缩放到预定义的显示图像大小;以及
后处理器,通过色彩插值和色彩变换来后处理图像,
其中,在捕获模式期间,预处理器预处理预定帧缓冲器的图像,后处理器通过使用第一拍摄信息和第二拍摄信息来后处理预处理后的图像。
8.如权利要求5所述的设备,其中,图像处理器包括:
预处理器,通过在预处理操作中预处理图像并提取第二拍摄信息来将图像存储在缓冲器中;
缩放器,将预处理后的图像缩放到显示图像的大小;以及
后处理器,通过色彩插值和色彩变换来后处理图像,
其中,在预览模式期间,预处理器、缩放器和后处理器在控制单元的控制下产生预览图像,并且在捕获模式期间,后处理器通过使用第一拍摄信息和第二拍摄信息来后处理由缓冲器输出的图像。
9.如权利要求5所述的设备,其中,图像处理器包括:
预处理器,通过在预处理操作期间预处理图像并提取第二拍摄信息来将由相机输出的图像存储在缓冲器中;
缩放器,将预处理后的图像缩放到显示图像的大小;
第一后处理器,通过色彩插值和色彩变换来后处理缩放后的图像;以及第二后处理器,后处理通过色彩插值和色彩变换而输出的图像,
其中,在预览模式期间,预处理器、缩放器和第一后处理器在控制单元的控制下产生预览图像,并且在捕获模式期间,第二后处理器通过使用第一拍摄信息和第二拍摄信息来后处理由缓冲器输出的图像。
10.一种用于在相机装置中处理图像的方法,包括:
处理预览图像,其中,在所述处理中,获得用于在预览模式期间控制相机驱动的第一拍摄信息和当处理预览时获得的第二拍摄信息;
将第一拍摄信息和第二拍摄信息存储在缓冲器的相应帧图像中;以及
处理静止图像,其中,在所述处理中,在捕获模式期间通过使用第一拍摄信息和第二拍摄信息来处理从缓冲器选择的特定帧图像,
其中,第一拍摄信息是相机在捕获图像时产生的信息,第二拍摄信息是相机装置的图像处理器在处理捕获的图像时提取的信息。
11.如权利要求10所述的方法,其中,处理预览图像的步骤包括:
存储由相机输出的每个帧部分的图像并获得作为第一拍摄信息的与所述图像相关的相机控制信息;
当处理由相机输出的图像时获得第二拍摄信息;以及
将针对由相机输出的特定帧图像的第一拍摄信息和第二拍摄信息存储在缓冲器中;
其中,缓冲器被配置有存储每个帧图像以及相应的第一拍摄信息和第二拍摄信息的多个帧缓冲器。
12.如权利要求11所述的方法,其中,处理静止图像的步骤包括:
输出从缓冲器选择的帧图像并通过使用与选择的帧图像关联的第一拍摄信息和第二拍摄信息来处理静止图像;以及
通过压缩编码操作来存储处理后的静止图像。
13.如权利要求12所述的方法,其中,第一拍摄信息包括相机的闪光灯驱动信息、曝光时间、增益,第二拍摄信息包括Bv、Ev和白平衡。
14.如权利要求11所述的方法,其中,第一拍摄信息和第二拍摄信息被集成并被存储在缓冲器中。
15.如权利要求12所述的方法,其中,选择的帧是在请求图像的捕获时的零快门滞后的帧图像。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020120113295A KR101953614B1 (ko) | 2012-10-12 | 2012-10-12 | 카메라장치의 이미지처리장치 및 방법 |
KR10-2012-0113295 | 2012-10-12 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103731603A CN103731603A (zh) | 2014-04-16 |
CN103731603B true CN103731603B (zh) | 2018-05-25 |
Family
ID=49322234
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310477591.7A Expired - Fee Related CN103731603B (zh) | 2012-10-12 | 2013-10-14 | 用于在相机装置和便携式终端中处理图像的设备和方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9516221B2 (zh) |
EP (1) | EP2720451B1 (zh) |
KR (1) | KR101953614B1 (zh) |
CN (1) | CN103731603B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109167930A (zh) * | 2018-10-11 | 2019-01-08 | Oppo广东移动通信有限公司 | 图像显示方法、装置、电子设备和计算机可读存储介质 |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102206866B1 (ko) * | 2014-05-02 | 2021-01-25 | 삼성전자주식회사 | 전자 장치 및 전자 장치에서 촬영 방법 |
CN105338289B (zh) * | 2014-06-03 | 2019-02-26 | 杭州海康威视数字技术股份有限公司 | 静电干扰的处理方法及装置 |
CN104184948A (zh) * | 2014-08-22 | 2014-12-03 | 惠州Tcl移动通信有限公司 | 通过移动终端远程控制拍照设备延时拍照的方法及系统 |
CN104184946A (zh) * | 2014-08-22 | 2014-12-03 | 惠州Tcl移动通信有限公司 | 利用蓝牙技术实现远程控制拍照设备拍照的方法及系统 |
CN105376473A (zh) * | 2014-08-25 | 2016-03-02 | 中兴通讯股份有限公司 | 一种拍照方法、装置及设备 |
CN105681600B (zh) * | 2016-04-05 | 2019-03-08 | Oppo广东移动通信有限公司 | 一种拍照方法、装置及智能终端 |
US10187587B2 (en) * | 2016-04-13 | 2019-01-22 | Google Llc | Live updates for synthetic long exposures |
CN106454081B (zh) * | 2016-09-29 | 2019-03-22 | 宇龙计算机通信科技(深圳)有限公司 | 拍照方法及装置 |
CN106341615B (zh) * | 2016-09-29 | 2018-10-26 | 宇龙计算机通信科技(深圳)有限公司 | 控制闪光灯的方法及终端 |
US10455121B2 (en) | 2017-05-12 | 2019-10-22 | Microsoft Technology Licensing, Llc | Representing advanced color images in legacy containers |
CN107302664B (zh) * | 2017-08-11 | 2020-06-16 | 维沃移动通信有限公司 | 一种拍摄方法及移动终端 |
KR102499033B1 (ko) | 2018-01-31 | 2023-02-13 | 삼성전자주식회사 | 스택형 이미지 센서 및 스택형 이미지 센서를 포함하는 전자 장치 |
CN115037884B (zh) * | 2018-06-01 | 2024-09-20 | 苹果公司 | 用于融合图像的方法和电子设备 |
KR20190143169A (ko) * | 2018-06-20 | 2019-12-30 | 삼성전자주식회사 | 이미지 센서, 및 이를 포함하는 전자 기기 |
WO2020181494A1 (zh) * | 2019-03-12 | 2020-09-17 | 深圳市大疆创新科技有限公司 | 参数同步方法、拍摄装置和可移动平台 |
KR102252852B1 (ko) * | 2020-02-13 | 2021-05-14 | 한림대학교 산학협력단 | 제스처 데이터 수집 및 관리 시스템 |
CN113286073A (zh) | 2020-02-19 | 2021-08-20 | 北京小米移动软件有限公司 | 拍摄方法、拍摄装置及存储介质 |
KR102251142B1 (ko) * | 2021-04-13 | 2021-05-11 | 한림대학교 산학협력단 | 제스처 데이터 수집 및 관리 시스템 |
CN115802146B (zh) * | 2021-09-07 | 2024-04-02 | 荣耀终端有限公司 | 一种录像中抓拍图像的方法及电子设备 |
CN114286007A (zh) * | 2021-12-28 | 2022-04-05 | 维沃移动通信有限公司 | 图像处理电路、图像处理方法、电子设备和可读存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1769994A (zh) * | 2004-11-01 | 2006-05-10 | 三星Techwin株式会社 | 半按下快门机构时处理屏幕上显示的装置和方法 |
CN102088560A (zh) * | 2009-12-02 | 2011-06-08 | 精工爱普生株式会社 | 摄像装置、摄像方法及摄像程序的存储介质 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7352390B2 (en) | 2003-10-08 | 2008-04-01 | Hewlett-Packard Development Company, L.P. | Digital camera for capturing image data with rapid response between activating a capture trigger and capturing image data |
JP2007256907A (ja) * | 2006-02-10 | 2007-10-04 | Fujifilm Corp | デジタルカメラ |
US7893975B2 (en) | 2006-10-13 | 2011-02-22 | Apple Inc. | System and method for processing images using predetermined tone reproduction curves |
TWI418210B (zh) * | 2010-04-23 | 2013-12-01 | Alpha Imaging Technology Corp | 避免快門延遲之影像擷取模組及影像擷取方法 |
JP2011234180A (ja) * | 2010-04-28 | 2011-11-17 | Panasonic Corp | 撮像装置、再生装置、および再生プログラム |
JP5707809B2 (ja) * | 2010-09-22 | 2015-04-30 | カシオ計算機株式会社 | 撮像装置、画像処理装置、画像処理方法及びプログラム |
-
2012
- 2012-10-12 KR KR1020120113295A patent/KR101953614B1/ko active IP Right Grant
-
2013
- 2013-09-24 US US14/035,264 patent/US9516221B2/en active Active
- 2013-10-04 EP EP13187339.0A patent/EP2720451B1/en not_active Not-in-force
- 2013-10-14 CN CN201310477591.7A patent/CN103731603B/zh not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1769994A (zh) * | 2004-11-01 | 2006-05-10 | 三星Techwin株式会社 | 半按下快门机构时处理屏幕上显示的装置和方法 |
CN102088560A (zh) * | 2009-12-02 | 2011-06-08 | 精工爱普生株式会社 | 摄像装置、摄像方法及摄像程序的存储介质 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109167930A (zh) * | 2018-10-11 | 2019-01-08 | Oppo广东移动通信有限公司 | 图像显示方法、装置、电子设备和计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN103731603A (zh) | 2014-04-16 |
US9516221B2 (en) | 2016-12-06 |
KR20140048407A (ko) | 2014-04-24 |
EP2720451A1 (en) | 2014-04-16 |
KR101953614B1 (ko) | 2019-05-22 |
EP2720451B1 (en) | 2017-04-26 |
US20140104455A1 (en) | 2014-04-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103731603B (zh) | 用于在相机装置和便携式终端中处理图像的设备和方法 | |
US7705908B2 (en) | Imaging method and system for determining camera operating parameter | |
US8937677B2 (en) | Digital photographing apparatus, method of controlling the same, and computer-readable medium | |
KR101071625B1 (ko) | 카메라, 카메라 제어 프로그램을 기억한 기억 매체 및 카메라 제어 방법 | |
CN103379275B (zh) | 摄像机的图像处理装置和方法 | |
JP5131257B2 (ja) | 表示制御装置及び表示制御プログラム | |
JP4305434B2 (ja) | 電子カメラ及びプログラム | |
JP5652649B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
US7956906B2 (en) | Image correction device, image correction method, and computer readable medium | |
US8269850B2 (en) | Signal processing method and signal processing system | |
WO2009044246A1 (en) | Multi-exposure pattern for enhancing dynamic range of images | |
JP2013520934A (ja) | 悪条件下での視認性が改善されたディスプレイを有する携帯撮像装置 | |
CN103259975A (zh) | 使用相机的数据处理设备和方法 | |
US8237854B2 (en) | Flash emission method and flash emission apparatus | |
CN103260037A (zh) | 用于发送相机的帧图像的设备和方法 | |
JP4807432B2 (ja) | 撮像装置、画像処理方法及びプログラム | |
JP2010147786A (ja) | 撮像装置及び画像処理方法 | |
US8237802B2 (en) | Method and apparatus for determining shaken image by using auto focusing | |
KR101931631B1 (ko) | 카메라 장치의 이미지 부호화장치 및 방법 | |
US8934042B2 (en) | Candidate image presenting method using thumbnail image and image signal processing device and imaging device performing the same | |
US7301562B2 (en) | Imaging system with delayed verification image presentation | |
JP2008017198A (ja) | 光源色算出装置、光源色算出方法及び撮影装置 | |
JP2000307921A (ja) | 画像処理装置 | |
JP3947970B2 (ja) | 撮像装置 | |
WO2024070618A1 (ja) | 撮像装置、プログラム、撮像システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
EXSB | Decision made by sipo to initiate substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20180525 |
|
CF01 | Termination of patent right due to non-payment of annual fee |