CN104584532A - 图像处理装置、摄像装置、计算机、图像处理方法及程序 - Google Patents
图像处理装置、摄像装置、计算机、图像处理方法及程序 Download PDFInfo
- Publication number
- CN104584532A CN104584532A CN201380043509.8A CN201380043509A CN104584532A CN 104584532 A CN104584532 A CN 104584532A CN 201380043509 A CN201380043509 A CN 201380043509A CN 104584532 A CN104584532 A CN 104584532A
- Authority
- CN
- China
- Prior art keywords
- data
- image
- amplification
- photography
- photography conditions
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4015—Demosaicing, e.g. colour filter array [CFA], Bayer pattern
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Studio Devices (AREA)
- Color Television Image Signal Generators (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
- Facsimile Image Signal Circuits (AREA)
- Color Image Communication Systems (AREA)
Abstract
本发明提供对于有无光学低通滤光器、各种排列图案的滤色器能够适当地进行对应的图像放大处理,并能够防止分辨率感的降低而生成莫尔条纹等图像劣化不明显的放大图像的图像处理装置、摄像装置、计算机、图像处理方法及程序。图像处理装置的图像放大处理部(16)具备:数据获取部(70),判别在图像摄影数据中是否包含摄影条件数据,且在判别为在所输入的图像摄影数据中包含摄影条件数据的情况下获取摄影条件数据的内容;及放大处理决定部(72),决定与根据摄像数据生成放大图像数据的放大处理关联的放大关联处理(轮廓强调处理等)执行与否、放大关联处理的处理参数和放大处理的处理参数中的至少任一个,摄影条件数据包含与摄像数据的摄像生成时的与光学低通滤光器的有无相关的信息/与摄像数据的摄像生成时所用的摄像部的滤色器的排列相关的信息。
Description
技术领域
本发明涉及图像处理装置、摄像装置、图像处理方法及程序,特别是涉及根据摄影图像生成放大图像的图像放大处理。
背景技术
在相机等摄像装置的领域中,由配置有RGB等滤色器的摄像元件(CCD、CMOS等)获取数字摄影图像。在如此获取的摄影图像中有时所谓的莫尔条纹、离焦、纹理紊乱、伪色、重叠失真等画质劣化较为明显,特别是,有时根据摄影图像生成的变倍图像中这些画质劣化较为显著地表现。因此,提出了对莫尔条纹等图像劣化进行抑制的各种各样的技术。
例如专利文献1公开了如下技术:根据边缘区域的检测结果、变倍率、利用者的指定信息对低通滤光器进行切换而实施与图像种类和变倍率对应的平滑化处理,由此生成莫尔条纹、离焦较少的变倍图像。
另外,专利文献2公开了如下技术:取入由多个像素数据构成的处理对象的图像,使这多个像素数据的位置在各像素数据的附近区域内对应每个像素数据随机地移动,从而与图案、网点等重复图案的周期无关地降低莫尔条纹。
专利文献
专利文献1:日本特开平05-328106号公报
专利文献2:日本特开2005-056006号公报
发明内容
发明要解决的课题
如专利文献1所公开的技术那样,为了抑制莫尔条纹等图像劣化将空间频率较高的成分(高频成分)去除较为有效,通常使用低通滤光器(LPF)。作为该低通滤光器,除了基于信号处理的低通滤光器外,将照射到摄像元件的光中的高频成分光学性地截止的光学低通滤光器(OLPF)的活用也有所进展。
另一方面,通过对滤色器的排列图案进行改良等,即使不使用低通滤光器,也能够获取充分地抑制了莫尔条纹等图像劣化的摄影图像。因此,在滤色器的排列图案的情况下,不积极地使用光学低通滤光器,也能够在不丧失高频成分的情况下获取进一步提高了分辨率感的摄影图像。
如此,光学低通滤光器的有无、各种排列图案的滤色器的使用等摄像装置的结构和功能也多样化,但是在如专利文献1、专利文献2所公开那样的以往的技术中,与上述多样化对应的适当的图像放大加工较为困难。
例如,在专利文献1所公开的技术中,根据变倍率、图像种类等而对低通滤光器的种类进行切换,但是关于光学低通滤光器的有无、对滤色器的排列图案进行了变更的情况的处理,在专利文献1中既没有公开也没有给出启示。
另外,在专利文献2中虽然也公开了莫尔条纹降低处理技术,但是并没有根据光学低通滤光器的有无、滤色器的排列图案而使莫尔条纹降低处理最佳化。因此,根据专利文献2的莫尔条纹降低处理技术,例如,在对经由拜耳排列滤色器而得到的摄影图像和经由具有进行了防止莫尔条纹的改良的其他图案排列的滤色器而得到的摄影图像实施相同的图像放大处理的情况下,分辨率感在两者之间不同,或者在一方的放大图像中莫尔条纹等图像劣化也有可能比较显著。
如此,将从所使用的滤色器的种类、光学低通滤光器的有无等摄影条件不同的摄像装置获取的摄影图像(图像数据)以同样的放大率进行放大的情况下,也设想分辨率感不同等、在摄影图像间无法得到同样画质的情况。
本发明鉴于上述的情形而提出,目的在于提供一种能够对光学低通滤光器的有无、各种排列图案的滤色器适当地进行对应的图像放大处理,并能够防止分辨率感的降低而生成图像劣化不明显的放大图像的技术。
用于解决课题的手段
本发明的一方式涉及一种图像处理装置,被输入包含摄像数据的图像摄影数据,该图像处理装置具备:数据获取单元,判别在所输入的图像摄影数据中是否包含摄影条件数据,且在判别为在所输入的图像摄影数据中包含摄影条件数据的情况下获取摄影条件数据的内容;及放大处理决定单元,基于由数据获取单元获取的摄影条件数据的获取结果,决定与根据摄像数据生成放大图像数据的放大处理关联的放大关联处理执行与否、放大关联处理的处理参数和放大处理的处理参数中的至少任一个,摄影条件数据包含与摄像数据的摄像生成时的光学低通滤光器的有无相关的信息。
根据本方式,能够基于与光学低通滤光器的有无相关的信息,决定放大关联处理执行与否、放大关联处理的处理参数和放大处理的处理参数中的至少任一个。由此,能够使与光学低通滤光器的有无对应的放大关联处理和放大处理最佳化。
另外,在此所谓的“放大关联处理”,是能够包含与摄像数据的放大处理相关联的全部处理的概念,包含能够提高通过放大处理得到的放大图像的画质的处理。具体来说,在放大关联处理中包含提高图像清晰度的轮廓强调处理、其他处理。因此,作为“放大关联处理的处理参数”,例如能够列举出对轮廓强调处理中的轮廓强调程度进行规定的参数,更具体来说,能够列举出轮廓强调处理滤光器的滤光系数等。
另外,所谓“放大处理”,是能够包含对摄像数据的图像尺寸进行放大的全部处理的概念,包括获取使通过摄像数据再现的图像的横向像素数/纵向像素数增大后的放大图像的图像处理。例如,基于能够对VGA、SVGA、XGA、SXGA、UXGA、QXGA、全尺寸图像(摄像元件的能够拍摄的最大尺寸的图像)、或者其他尺寸的图像进行再现的摄像数据,生成用于放大图像的图像数据的图像处理包含于放大处理。因此,作为“放大处理的处理参数”,例如能够列举出放大处理中的放大率、放大插值处理的处理参数。另外,本方式对于在放大图像中向分辨率感的降低、图像劣化易于明显的尺寸的放大处理特别有效,但摄像数据的尺寸、放大图像的尺寸不特别被限定。
另外,所谓“光学低通滤光器”是将光的高频成分光学性地截止的滤光要素,能够适当配置于从照射到摄像元件之前的光将高频成分截止的位置。另外,与光学低通滤光器的有无相关的信息也可以直接包含于摄影条件数据,例如,如对应摄像装置的每个机种来决定光学低通滤光器的有无的情况那样,能够间接地获取与光学低通滤光器的有无相关的信息的机种名等其他信息也可以包含在摄影条件数据中。
本发明的其他方式涉及一种图像处理装置,被输入包含摄像数据的图像摄影数据,该图像处理装置具备:数据获取单元,判别在所输入的图像摄影数据中是否包含摄影条件数据,且在判别为在所输入的图像摄影数据中包含摄影条件数据的情况下获取摄影条件数据的内容;及放大处理决定单元,基于由数据获取单元获取的摄影条件数据的获取结果,决定与根据摄像数据生成放大图像数据的放大处理关联的放大关联处理执行与否、放大关联处理的处理参数和放大处理的处理参数中的至少任一个,摄影条件数据包含与摄像数据的摄像生成时所用的摄像部的滤色器的排列相关的信息。
根据本方式,能够基于与滤色器的排列相关的信息,决定放大关联处理执行与否、放大关联处理的处理参数和放大处理的处理参数中的至少任一个。由此,能够使与滤色器的排列图案特性对应的放大关联处理和放大处理最佳化。
另外,所谓“滤色器”是用于在照射到摄像元件时使光通过而对每种颜色的光的强度进行判断的滤光要素,能够将原色滤光片(红、绿、蓝等)、互补色滤光片(青色、品红色、黄色、绿色等)作为滤色器而使用。另外,滤色器的排列图案、结构颜色要素不特别被限定。与滤色器的排列相关的信息可以直接包含在摄影条件数据中,例如像对应摄像装置的每个机种决定滤色器的排列的情况那样,能够间接地获取与滤色器的排列相关的信息的机种名等其他信息也可以包含在摄影条件数据中。
优选为,放大关联处理是对摄像数据的轮廓强调处理。
根据本方式,能够在利用轮廓强调处理提高摄像数据中的图像清晰度后进行放大处理。由此,在通过放大处理得到的放大图像中,能够进一步防止产生分辨率感的降低、图像劣化。另外,在此所谓的“轮廓强调处理”能够设为对图像的轮廓部分进行强调的任意的处理(锐度处理),并不特别限定。
优选为,放大处理的处理参数是放大处理中的放大率。
根据本方式,能够利用与摄影条件数据(与光学低通滤光器的有无、滤色器的排列相关的信息)对应的放大率,实施摄像数据的放大处理。由此,在利用放大处理得到的放大图像中,能够进一步防止产生分辨率感的降低、图像劣化。
优选为,放大处理的处理参数是放大处理中的插值处理的处理参数。
根据本方式,能够利用与摄影条件数据(与光学低通滤光器的有无、滤色器的排列相关的信息)对应的处理参数,进行放大处理的插值处理。由此,在通过放大处理得到的放大图像中,能够进一步防止产生图像劣化。另外,在此所谓的插值处理并不特别被限定,能够采用能够得到期望的放大图像数据的任意的插值处理。
作为这种插值处理,能够列举例如近邻取样(Nearest Neighbor)法、双线性插值(Bi-linear Interpolation)法、双三次插值(Bi-cubicConvolution Interpolation)法、样条插值(Spline Interpolation)法或者其他插值处理方法。
优选为,插值处理基于样条插值处理法,插值处理的处理参数是样条插值系数。
如本方式那样,利用基于插值再现性优良的样条插值处理法的插值处理实施放大处理,从而使分辨率感的降低、图像劣化非常难以发生,能够生成优异画质的放大图像的图像数据。
样条插值处理法是已经公知的手法,但是其插值方法不特别被限定。因此,也能够基于例如日本特开平09-050515记载的样条插值处理法进行放大处理。
优选为,图像处理装置被输入包含由多个摄像部摄像生成的摄像数据的图像摄影数据,该多个摄像部至少包括第一摄像部和第二摄像部,放大处理决定单元以在由第一摄像部摄像生成的图像摄影数据和由第二摄像部摄像生成的图像摄影数据之间使放大处理后的放大图像数据的画质包含于预定的容许范围的方式,决定放大关联处理执行与否、放大关联处理的处理参数和放大处理的处理参数中的至少任一个。
根据本方式,在由多个摄像部摄像生成的图像摄影数据被输入到图像处理装置的情况下,以在由第一摄像部摄像生成的图像摄影数据和由第二摄像部摄像生成的图像摄影数据之间使放大处理后的画质包含于预定的容许范围的方式,决定放大关联处理执行与否、放大关联处理的处理参数和放大处理的处理参数中的至少任一个。因此,即使在多个摄像部间的摄像能力不同的情况下,也能够生成均匀画质的放大图像。
另外,在此所谓的“放大处理后的放大图像的画质包含于预定的容许范围”,是指通过放大处理得到的放大图像的画质包含于预定的容许范围的范围,例如,是指成为分辨率感的降低、放大图像的图像劣化(莫尔条纹等)的要因的各种参数处于预定的容许范围内。作为这种“放大图像的画质”,例如,能够列举出空间频率、色度量等。
另外,所谓“摄像部”,是能够包含有助于摄像数据的生成的各种设备类的概念,也能够将摄像元件自身作为摄像部而理解,也能够将包含把光导入到摄像元件的透镜类的整体的结构作为摄像部而理解。因此,对于被输入包含由不同的摄像元件、不同的透镜、或者透镜~摄像元件间的结构不同的摄像装置摄像生成的摄像数据的图像摄影数据的图像处理装置,也能够适用本方式。
优选为,图像处理装置还具备根据放大处理决定单元的决定结果进行放大关联处理的放大关联处理单元。
根据本方式,能够基于与根据摄影条件数据而决定的摄像数据的放大处理关联的放大关联处理执行与否、放大关联处理的处理参数的决定结果,利用放大关联处理单元进行摄像数据的放大关联处理。因此,在根据摄影条件数据判断为不需要放大关联处理的情况下不进行放大关联处理,另外,能够利用适合于摄影条件数据的处理参数实施放大关联处理。
优选为,图像处理装置还具备根据放大处理决定单元的决定结果进行放大处理的放大处理单元。
根据本方式,能够基于根据摄影条件数据而决定的放大处理的处理参数进行基于放大处理单元的放大处理。因此,能够利用适合于摄影条件数据的处理参数实施放大处理。
优选为,图像处理装置还具备对放大处理决定单元的决定结果进行显示的显示单元。
根据本方式,用户能够经由基于显示单元的显示对放大处理决定单元的决定结果进行确认。在此,基于显示单元的显示方法不特别被限定,可以对用户警告通知放大处理决定单元的决定结果,也可以进行选择显示使得用户能够了解(确定)/不了解(不确定)放大处理决定单元的决定结果。
优选为,显示单元能够选择地显示关于放大关联处理执行与否的放大处理决定单元的决定结果的确定,图像处理装置还具备接受与放大处理决定单元的决定结果的确定相关的用户的选择的选择单元,放大处理决定单元根据经由选择单元而接受的选择结果,确定放大关联处理执行与否。
根据本方式,用户能够对显示单元所显示的放大处理决定单元的决定结果(放大关联处理执行与否)进行确定选择,并能够根据该用户的选择结果来决定放大关联处理执行与否。
优选为,由放大处理决定单元决定的放大关联处理的处理参数和放大处理的处理参数包含多个选择候补,显示单元从多个选择候补之中能够选择地显示放大关联处理的处理参数和放大处理的处理参数,图像处理装置还具备接受用户从多个选择候补之中的选择的选择单元,放大处理决定单元根据经由选择单元而接受的选择结果,确定放大关联处理的处理参数和放大处理的处理参数。
根据本方式,用户能够从显示单元所显示的多个选择候补之中选择放大关联处理的处理参数和放大处理的处理参数,并根据该用户的选择结果而决定放大关联处理的处理参数和放大处理的处理参数。因此,通过根据摄影条件数据而使选择候补的范围最佳化,基于用户的最佳的处理参数的选择变得容易。
优选为,图像处理装置还具备根据确定出的放大关联处理执行与否和放大关联处理的处理参数进行放大关联处理的放大关联处理单元。
根据本方式,能够基于确定出的放大关联处理执行与否、放大关联处理的处理参数的决定结果,利用放大关联处理单元进行摄像数据的放大关联处理。因此,若用户根据摄影条件数据判断为不需要放大关联处理的情况下,不进行放大关联处理,另外,能够根据用户的意图,实施基于适合于摄影条件数据的处理参数的放大关联处理。
优选为,图像处理装置还具备根据确定出的放大处理的处理参数进行放大处理的放大处理单元。
根据本方式,能够基于确定出的放大处理的处理参数,进行基于放大处理单元的放大处理。因此,能够根据用户的意图,实施基于适合于摄影条件数据的处理参数的放大处理。
本发明的其他方式涉及摄像装置,具备:摄像单元,具有对包含摄像数据的图像摄影数据进行摄像生成的摄像部;及上述的图像处理装置。
本方式的摄像装置不特别被限定,除了以摄像为主要功能的数码相机外也具备摄像以外的其他功能(通话功能、通信功能、其他计算机功能)的移动设备类也包含于在此所说的摄像装置。
本发明的其他方式涉及摄像装置,具备:摄像单元,具有至少包括第一摄像部和第二摄像部的多个摄像部;及上述的图像处理装置。
本方式的摄像装置不特别被限定,除了具备多个摄像部且以摄像为主要功能的数码相机(例如能够与3D对应的相机等)之外也具备摄像以外的其他功能(通话功能、通信功能、其他计算机功能)的移动设备类也包含于在此所说的摄像装置。
本发明的其他方式涉及摄像装置,具备:摄像单元,具有对包含摄像数据的图像摄影数据进行摄像生成的摄像部,摄像部能够从至少包括第一摄像部和第二摄像部的多个摄像部之中选择互换;及上述的图像处理装置。
本方式的摄像装置不特别被限定,例如,能够由用户互换透镜、摄像元件(CCD、CMOS等)的数码相机等能够包含于在此所说的摄像装置。
本发明的其他方式涉及具备上述的图像处理装置的计算机。
本发明的其他方式涉及图像处理方法,具备:数据获取步骤,判别在包含摄像数据的图像摄影数据中是否包含摄影条件数据,且在判别为在所输入的图像摄影数据中包含摄影条件数据的情况下获取摄影条件数据的内容;及放大处理决定步骤,基于摄影条件数据的获取结果,决定与根据摄像数据生成放大图像数据的放大处理关联的放大关联处理执行与否、放大关联处理的处理参数和放大处理的处理参数中的至少任一个,摄影条件数据包含与摄像数据的摄像生成时的光学低通滤光器的有无相关的信息。
本发明的其他方式涉及图像处理方法,具备:数据获取步骤,判别在包含摄像数据的图像摄影数据中是否包含摄影条件数据,且在判别为在所输入的图像摄影数据中包含摄影条件数据的情况下获取摄影条件数据的内容;及放大处理决定步骤,基于摄影条件数据的获取结果,决定与根据摄像数据生成放大图像数据的放大处理关联的放大关联处理执行与否、放大关联处理的处理参数和放大处理的处理参数中的至少任一个,摄影条件数据包含与摄像数据的摄像生成时所用的摄像部的滤色器的排列相关的信息。
本发明的其他方式涉及一种程序,用于使计算机执行如下步骤:判别在包含摄像数据的图像摄影数据中是否包含摄影条件数据,且在判别为在所输入的图像摄影数据中包含摄影条件数据的情况下获取摄影条件数据的内容;及基于摄影条件数据的获取结果,决定与根据摄像数据生成放大图像数据的放大处理关联的放大关联处理执行与否、放大关联处理的处理参数和放大处理的处理参数中的至少任一个,摄影条件数据包含与摄像数据的摄像生成时的光学低通滤光器的有无相关的信息。
本发明的其他方式涉及一种程序,用于使计算机执行如下步骤:判别在包含摄像数据的图像摄影数据中是否包含摄影条件数据,且在判别为在所输入的图像摄影数据中包含摄影条件数据的情况下获取摄影条件数据的内容;及基于摄影条件数据的获取结果,决定与根据摄像数据生成放大图像数据的放大处理关联的放大关联处理执行与否、放大关联处理的处理参数和放大处理的处理参数中的至少任一个,摄影条件数据包含与摄像数据的摄像生成时所用的摄像部的滤色器的排列相关的信息。
发明效果
根据本发明,能够基于与摄像数据生成时的光学低通滤光器的有无相关的信息或者与摄像部的滤色器的排列相关的信息,决定放大关联处理执行与否、放大关联处理的处理参数和放大处理的处理参数中的至少任一个。因此,能够使与光学低通滤光器的有无、摄像部的滤色器的排列对应的放大关联处理和放大处理最佳化,能够生成分辨率感降低、图像劣化不明显的放大图像。
附图说明
图1是例示能够适用本发明的设备种类的功能框图,(a)表示具备一个摄像部的摄像装置的一例,(b)表示具备二个(多个)摄像部的摄像装置的一例,(c)表示将摄像部和图像放大处理部分体设置的例子。
图2是表示图像放大处理部的输入输出图像摄影数据的概略的图,(a)表示图像放大处理部中的处理前后的数据构造,(b)表示附带信息(摄影条件数据)的一例。
图3是表示摄像装置(数码相机)的一实施方式的框图。
图4是表示滤色器的基本排列图案例的图,(a)表示拜耳排列的滤色器,(b)表示具有其他类型的排列的滤色器(“X-Trans”(注册商标))。
图5表示将图4(b)所示的基本排列图案的滤色器在水平方向和垂直方向以每二个并排配置而成的滤色器排列。
图6是与以图像放大处理部为主体的图像放大处理相关联的功能框图。
图7是表示第一实施方式的图像放大处理的流程的流程图,(a)是与处理A(放大关联处理)相关的流程图,(b)是作为处理A采用了轮廓强调处理的情况下的流程图。
图8是表示第一实施方式的一变形例的流程图。
图9是表示第二实施方式的放大处理的流程的流程图,(a)是与处理A(放大关联处理)相关的流程图,(b)是作为处理A采用了轮廓强调处理的情况下的流程图。
图10是表示第三实施方式的放大处理的流程的流程图,(a)是与处理B(放大处理)相关的流程图,(b)是作为处理B采用了基于样条插值处理法的放大处理的情况下的流程图。
图11是表示第三实施方式的一变形例的流程图。
图12是表示第四实施方式的放大处理的流程的流程图。
图13是表示第四实施方式的一变形例的流程图。
图14是表示第五实施方式的放大处理的流程的流程图。
图15是表示第六实施方式的放大处理的流程的流程图。
图16是表示第七实施方式的放大处理的流程的流程图。
图17是表示第八实施方式的放大处理的流程的流程图。
图18是作为本发明的摄影装置的一例的智能手机的外观图。
图19是表示图18所示的智能手机的结构的框图。
具体实施方式
以下,参照附图对本发明的实施方式进行说明。首先,对本发明的概略进行说明,其后,对具体性的应用例进行说明。另外,下述的结构不过是例示,对于其他结构也能够适用本发明。另外,各结构能够通过任意的硬件、软件或者两者的组合适当实现。
本申请发明涉及摄影图像的放大处理技术,能够适用于能够进行摄影图像的图像处理的全部设备种类。因此,例如也能够通过能够对图像进行摄影的相机等摄像装置、与摄像装置连接的计算机而实现本发明。
图1(a)是表示具备一个摄像部的摄像装置的一例的功能框图,图1(b)是表示具备二个(多个)摄像部的摄像装置的一例的功能框图。另外,图1(c)是表示摄像装置和与该摄像装置连接的计算机的一例的功能框图。
图1(a)所示的摄像单元10具备:相互连接的摄像部12、数字图像处理部14、图像放大处理部16、用户I/F(用户接口)17、输入输出控制部18、存储部20、显示部22和信号输入输出I/F(信号输入输出接口)24。
摄像部12根据需要例如具备透镜、光圈、快门、配置有滤色器的摄像元件(CCD、CMOS等)等,进行摄影而生成摄像数据。另外,后述的光学低通滤光器(OLPF)可以设于摄像部12,也可以不设于摄像部12。
数字图像处理部14对由摄像部12生成的摄像数据实施数字图像处理,根据需要而进行例如偏置校正处理、WB(白平衡)校正处理、泛白像素检测校正处理、曝光校正处理、γ(伽马)校正处理、去马赛克算法处理等。
另外,由摄像部12获取摄像数据时的摄影条件的数据(摄影条件数据(摄影日、像素数、F值(光圈值)等))也可以附加于摄像数据。摄影条件数据可以在摄像时在摄像部12中附加于摄像数据,也可以在摄像后在数字图像处理部14等中附加于摄像数据。在没有将摄影条件数据附加于摄像数据的情况下,生成不包含摄影条件数据但是包含摄像数据的图像摄影数据。如此生成的图像摄影数据被发送到后级的图像放大处理部16。
图像放大处理部16基于所输入的图像摄影数据,生成摄影图像的放大图像。关于详细信息留作后述,但是如图2(a)所示,包含摄影数据(主图像)32和摄影条件数据(附带信息)34的图像摄影数据30在图像放大处理部16中生成放大图像,并从图像放大处理部16输出还包含放大图像数据38的图像摄影数据36。特别是,在以下的实施方式中,在摄影条件数据34包含“与光学低通滤光器的有无相关的信息”和/或“与滤色器的排列图案相关的信息”的情况下,图像放大处理部16实施最适合于“与光学低通滤光器的有无相关的信息”和/或“与滤色器的排列图案相关的信息”的图像放大处理,从而能够生成优异画质的放大图像。另外,图像摄影数据36被广义地解释,只要将图像摄影数据30和摄像数据32建立关联即可。
被输入到图像放大处理部16的图像摄影数据30也可以不包含图2(b)所示的摄影条件数据(特别是“与光学低通滤光器的有无相关的信息”和/或“与滤色器的排列图案相关的信息”)34。在该情况下,图像放大处理部16进行适合于没有附加摄影条件数据的摄像数据32的图像放大处理,而生成放大图像。
该图像放大处理部16中的图像放大处理的详细情况留作后述(参照图6~图17)。
包含“放大图像数据38”和“摄影数据(主图像)32”的图像摄影数据36由图1(a)所示的输入输出控制部18进行输出控制,存储于存储部(存储器等)20,在显示部(液晶显示器等)22显示放大图像,或者经由信号输入输出I/F24而输出到外部。
另外,摄像部12、数字图像处理部14、图像放大处理部16和输入输出控制部18中的各种处理的信息能够经由显示部22而提供给用户。用户也能够一边对显示部22所示的信息进行确认,一边经由用户I/F17对摄像部12、数字图像处理部14、图像放大处理部16和输入输出控制部18发送控制指示信号。
上述的放大图像的生成处理在具备图1(b)所示的多个摄像部(第一摄像部12A、第二摄像部12B)的摄像单元10’中也同样能够实施。即,由第一摄像部12A和第二摄像部12B分别生成的摄像数据与摄像部是一个的摄像单元10(图1(a))同样,在数字图像处理部14中实施数字图像处理,在图像放大处理部16中生成放大图像,包含放大图像的图像摄影数据36由输入输出控制部18进行输入输出控制,并在存储部20中存储图像摄影数据36,或在显示部22显示放大图像,或经由信号输入输出I/F24而输出到外部。另外,在用户能够经由用户I/F17对摄像部(第一摄像部12A、第二摄像部12B)、数字图像处理部14、图像放大处理部16和输入输出控制部18发送控制指示信号这一点上也是同样的。
另外,也可以将摄像部设为能够互换的结构,采用能够从至少包含第一摄像部和第二摄像部的多个摄像部之中进行选择互换的摄像单元。例如,将图1(b)所示的第一摄像部12A和第二摄像部12B作为能够安装和卸下的结构而理解,也可以设为能够选择第一摄像部12A和第二摄像部12B的任一个而使用的结构。作为采用这种结构的设备种类,例如,可以列举出能够对包含透镜~摄像元件的透镜单元(摄像部)进行互换的相机(透镜互换相机等)。
在图1(a)和图1(b)中示出了单体设置摄像部12、12A、12B和图像放大处理部16的例子,但是摄像部和图像放大处理部也可以如图1(c)所示分体设置。
例如,对于具备摄像部12的摄像单元10”和具备图像放大处理部16的计算机11能够经由彼此的信号输入输出I/F24A、24B而连接的系统,也能够适用本申请发明。
在该情况下,数字图像处理部可以设于摄像单元10”侧(参照图1(c)的附图标记“14A”),也可以设于计算机11侧(参照图1(c)的附图标记“14B”)。在摄像单元10”侧设置数字图像处理部14A的情况下,数字图像处理后的图像摄影数据经由信号输入输出I/F24A而从摄像单元10”输出,并经由信号输入输出I/F24B输入到计算机11。输入到计算机11的图像摄影数据30与上述同样,在图像放大处理部16中生成放大图像,包含放大图像的图像摄影数据36由输入输出控制部18控制,而被适当输出到存储部20、显示部22和信号输入输出I/F24B。另外,在计算机11侧设置数字图像处理部14B的情况下,包含数字图像处理前的摄影数据(RAW数据等)的图像摄影数据30经由信号输入输出I/F24A从摄像单元10”输出,并经由信号输入输出I/F24B输入到计算机11。输入到计算机11的图像摄影数据30与上述同样,在数字图像处理部14B中被实施数字图像处理,在图像放大处理部16中生成放大图像,包含放大图像的图像摄影数据36由输入输出控制部18控制,而适当输出到存储部20、显示部22和信号输入输出I/F24B。
另外,该功能结构不仅对于图1(c)所示的“具备具有对包含摄像数据32的图像摄影数据30进行摄像生成的摄像部12的摄像单元10”和具有图像放大处理部(图像处理装置)16的计算机11的摄像装置(系统)”,而且对于图1(b)所示的、摄像单元10’与计算机11连接的情况那样的“具备具有至少包含第一摄像部12A和第二摄像部12B的多个摄像部的摄像单元10’及具有图像放大处理部(图像处理装置)16的计算机的摄像装置(系统)”也能够适用。
接下来,对将上述的图1(a)所示的类型的摄像单元10适用于数码相机的情况的、更详细的具体例进行说明。
图3是表示摄像装置(数码相机)的一实施方式的框图。
该摄像装置40是将拍摄到的图像记录于内部存储器(存储器部56)或外部的记录介质(未图示)的数码相机,装置整体的动作由CPU(中央处理装置)42集中控制。
在摄像装置40,设有包含快门按钮(快门开关)、模式拨盘、重放按钮、菜单/OK键、十字键、变焦按钮、返回键等的操作部44。来自该操作部44的信号被输入到CPU42,CPU42基于输入信号对摄像装置40的各电路进行控制,例如,经由设备控制部46对透镜部48、快门50、作为图像获取单元而发挥功能的摄像元件52进行控制,另外,进行摄影动作控制、图像处理控制、图像数据的记录/重放控制、显示部55的显示控制等。
透镜部48包含聚焦透镜、变焦透镜、光圈等,通过了透镜部48和快门50的光束在摄像元件52的受光面成像。
摄像元件52是CMOS(Complementary Metal-OxideSemiconductor:互补金属氧化物半导体)型、XY寻址型、或CCD(ChargeCoupled Device:电荷耦合设备)型等彩色图像传感器,具有将滤色器和对通过了滤色器的光进行接收的多个受光元件(光电二极管)二维排列而成的构造。在各光电二极管的受光面上成像的被摄体像被转换为与其入射光量对应的信号电压(或电荷)。
图4是表示滤色器的基本排列图案例的图,图4(a)表示所谓的拜耳(Bayer)排列的滤色器,图4(b)表示具有其他类型的排列的滤色器(本说明书中也被称作“X-Trans”(注册商标))。另外,在图4中,“R”表示red(红色)滤光片,“G”表示green(绿色)滤光片,“B”表示blue(蓝色)滤光片。
将由与M×N(2×2、6×6等)像素对应的正方排列图案组成的基本排列图案P沿水平方向和垂直方向重复配置而构成本例的摄像元件52的滤色器。因此,在进行从摄像元件52读出的RGB的RAW数据(马赛克图像)的图像处理等时,能够按照重复图案而进行处理。这种滤色器排列中,红(R)、绿(G)、蓝(B)各色滤光片(R滤光片、G滤光片、B滤光片)保持预定的周期性而排列。
例如,在图4(a)所示的拜耳排列的滤色器中,将G滤光片和R滤光片交替地配置的行(水平方向排列)与将G滤光片和B滤光片交替地配置的行在垂直方向上交替地配置,在各R滤光片和各B滤光片的上下左右的位置配置G滤光片。并且,在各R滤光片的倾斜方向的位置配置B滤光片,在各B滤光片的倾斜方向的位置配置R滤光片,在各G滤光片的倾斜方向的位置配置G滤光片。
另一方面,在图4(b)所示的其他排列的滤色器中,由实线的框围成的3×3像素的A排列和由虚线的框围成的3×3像素的B排列成为在水平方向和垂直方向上交替地排列而成的的排列。
A排列和B排列中,G滤光片分别被配置在4角和中央,在两对角线上配置G滤光片。在A排列中,R滤光片隔着中央的G滤光片而排列在水平方向,B滤光片隔着中央的G滤光片而排列在垂直方向。另一方面,在B排列中,B滤光片隔着中央的G滤光片而排列在水平方向,R滤光片隔着中央的G滤光片而排列在垂直方向。即,A排列与B排列中的R滤光片和B滤光片的位置关系颠倒,但是其他配置是同样的。
另外,通过将A排列和B排列在水平方向和垂直方向上交替地配置,A排列和B排列的4角的G滤光片构成与2×2像素对应的正方排列的G滤光片。
图5表示将图4(b)所示的基本排列图案的滤色器在水平方向和垂直方向上每二个并排配置而成的滤色器排列。在该滤色器排列中,如从图5所说明的那样,通常,与最有助于得到亮度信号的颜色(该实施方式中为G色)对应的G滤光片在滤色器排列的水平、垂直、斜右上(NE)和斜左上(NW)方向的各行内配置一个以上。
NE表示图5的斜右上方向,NW表示图5的斜右下方向。例如,在正方形的像素的排列的情况下,斜右上和斜右下方向相对于水平方向分别成为45°的方向,但是若各滤光片为长方形,则NE和NW是各滤光片的长方形的对角线的方向,其角度根据长边/短边的长度而变化。
根据这种滤色器排列,与亮度系像素对应的G滤光片配置在滤色器排列的水平、垂直和倾斜(NE、NW)方向的各行内,因此无论成为高频的方向如何都能够提供高频区域中的去马赛克算法处理的再现精度。
另外,图5所示的滤色器排列中,与上述G色以外的两种颜色以上的其他色(该实施方式中为R、B色)对应的R滤光片、B滤光片分别在基本排列图案的水平和垂直方向的各行内配置一个以上。
根据图5所示的滤色器排列,由于R滤光片、B滤光片配置于滤色器排列的水平和垂直方向的各行内,因此能够降低伪色(彩色莫尔条纹)的发生。由此,能够将用于降低(抑制)伪色的发生的光学低通滤光器省略。另外,能够设为,即使在适用光学低通滤光器的情况下也能够适用用于防止伪色的发生的、将高频成分截止的功能较弱的光学低通滤光片而不有损分辨率。
此外,图5所示的滤色器排列的基本排列图案P中,与该基本排列图案内的R、G、B滤光片对应的R像素、G像素、B像素的像素数分别为8像素、20像素、8像素。即,RGB像素的各像素数的比率为2:5:2,最有助于得到亮度信号的G像素的像素数的比率大于其他色的R像素、B像素的像素数的比率。
如上述那样,在图5所示的滤色器排列中,G像素的像素数与R、B像素的像素数的比率不同,特别是使得最有助于得到亮度信号的G像素的像素数的比率大于R、B像素的像素数的比率,因此能够对去马赛克算法处理时的混淆进行抑制,并且也能够改善高频再现性。
在具备具有上述的图4(a)、图4(b)所示的基本排列的滤色器的摄像元件52中蓄积的信号电荷基于从设备控制部46施加的读出信号而作为与信号电荷对应的电压信号被读出。从摄像元件52读出的电压信号被施加于A/D转换器(模拟/数字转换器)54,在该A/D转换器54中,被依次转换为与滤色器排列对应的数字的R、G、B信号,被数字转换后的R、G、B信号暂且保存于存储器部56。
存储器部56包括作为易失性存储器的SDRAM、作为可擦写的非易失性存储器的EEPROM(存储单元)等,SDRAM作为由CPU42执行程序时的工作区域,并且作为将摄像而获取的数字图像信号暂时保持的存储区域而使用。另一方面,在EEPROM存储有包含图像处理程序的相机控制程序、摄像元件52的像素的缺陷信息、包含混色校正的图像处理等中使用的各种参数、表等。
图像处理部58对暂且存储于存储器部56的数字的图像信号进行混色校正、白平衡校正、伽玛校正处理、去马赛克算法处理(去马赛克算法处理)、RGB/YC转换等预定的信号处理。
由图像处理部58处理后的图像数据在编码器60中被编码为图像显示用的数据,并经由驱动器62输出到设于相机背面的显示部55。由此,被摄体像连续地在显示部55的显示画面上显示。
若存在操作部44的快门按钮的第一阶段的按下(半按),则CPU42进行控制,使得开始AF动作(自动焦点)和AE动作(自动曝光),并经由设备控制部46使透镜部48的聚焦透镜沿光轴方向移动,使聚焦透镜到达对焦位置。
CPU42在快门按钮的半按时基于从A/D转换器54输出的图像数据,算出被摄体的亮度(摄影Ev值),并根据该摄影Ev值决定曝光条件(F值、快门速度)。
若AE动作和AF动作结束,并存在快门按钮的第二阶段的按下(全按),则根据所决定的曝光条件而对光圈、快门50和摄像元件52中的电荷累积时间进行控制,从而进行主摄像。主摄像时从摄像元件52读出,并由A/D转换器54进行了A/D转换后的RGB的马赛克图像(与图4和图5所示的滤色器排列对应的图像)的图像数据被暂时性地存储于存储器部56。
被暂时性地存储于存储器部56的图像数据由图像处理部58适当读出,在此,进行包括混色校正、白平衡校正、伽玛校正、去马赛克算法处理、RGB/YC转换等预定的信号处理。被RGB/YC转换后的图像数据(YC数据)按照预定的压缩格式(例如JPEG方式)被压缩,被压缩后的图像数据以预定的图像文件(例如Exif文件)形式记录于内部存储器、外部存储器。
在这种摄像装置40中,有时配置将照射到摄像元件52的光的高频成分光学性地截止的光学低通滤光器(OLPF)64。例如,在使用具有图4(a)所示的拜耳型的基本排列的滤色器的情况下,所得到的图像的高频成分易于成为莫尔条纹等图像劣化的主要原因。因此,在使用高频成分易于有助于图像劣化的拜耳型那样的滤色器而获取摄像数据(图像数据)的情况下,通过配置光学低通滤光器64而能够抑制图像劣化。另一方面,在使用具有图4(b)所示的基本排列的滤色器(X-Trans)的情况下,能够如上述那样进一步降低莫尔条纹等图像劣化,因此通过不设置光学低通滤光器,能够得到保留了高频成分的、分辨率高的摄像数据。
如此,根据摄像装置40中使用的摄像元件(滤色器)的种类、具体的图像处理内容等装置结构而适当决定是否配置光学低通滤光器64的判别。
接下来,对与具有上述的装置结构的摄像装置40中的图像放大处理关联的具体的处理内容进行说明。
如参照图2(a)说明的那样,在图像放大处理中,不包含放大图像数据的图像摄影数据30被输入到图像放大处理部(图像处理部)16,在图像放大处理部16中生成放大图像数据38,包含放大图像数据38的摄影条件数据34从图像放大处理部16被输出。
图6是与以图像放大处理部16为主体的图像放大处理相关联的功能框图。图像放大处理部16具有数据获取部(数据获取单元)70、放大处理决定部(放大处理决定单元)72、放大关联处理部(放大处理关联处理单元)74和放大处理部(放大处理单元)76。
数据获取部70判别在所输入的图像摄影数据30(参照图2)中是否包含摄影条件数据34,且在判别为在所输入的图像摄影数据中包含摄影条件数据的情况下获取摄影条件数据34的内容。在由数据获取部70获取的摄影条件数据34中,可以包含与能够对在后级生成的放大图像数据产生影响的信息相关的全部数据。特别是在本例中,在摄影条件数据34中能够包含:成为放大图像中的分辨率感的相异、莫尔条纹等图像劣化的主要因素之一即高频成分的有无、多少的判断基准的“与摄像数据32的摄像生成时的光学低通滤光器64(参照图3)的有无相关的信息”、“与摄像数据的摄像生成时所用的摄像元件的滤色器的排列(参照图4和图5)相关的信息”等。
放大处理决定部72基于由数据获取部70获取的摄影条件数据34的获取结果,决定与图像摄影数据30的图像放大处理关联的放大关联处理执行与否、放大关联处理的处理参数和图像放大处理的处理参数中的至少任一个。
在此,所谓“放大关联处理”可以包含与后级的图像放大处理关联的全部处理,例如具有在图像放大处理之前进行图像摄影数据30的加工处理的放大前处理。作为放大前处理,例如能够列举出为了防止放大图像中的分辨率感的降低、图像劣化的处理,具体来说,能够将利用轮廓强调处理等对图像摄影数据30的图像轮廓进行强调的处理设为放大关联处理。因此,在放大关联处理为轮廓强调处理的情况下,放大处理决定部72基于数据获取部70中的摄影条件数据34的获取结果,决定是否执行轮廓强调处理和/或轮廓强调处理的处理参数。
另外,这种放大处理决定部72中的决定可以按照向用户催促选择决定(确定)的对话形式进行处理,也可以基于数据获取部70中的决定结果不向用户催促选择决定而进行处理。在是与用户的对话形式的情况下,例如放大处理决定部72在显示部22上能够选择地显示决定结果。在该情况下,用户能够经由选择指示部78而选择是否对显示部22所显示的放大处理决定部72的决定结果进行确定。
另外,选择指示部78能够具有任意的结构,可以与显示部22一体地设置,也可以与显示部22作为分体而设置。通过如触摸面板等那样,将选择指示部78和显示部22一体地设置,用户能够直感地进行由显示部22所提示的选择决定、确定选择。另外,在由与显示部22分体设置的按钮等构成选择指示部78的情况下,用户能够利用选择指示部78对由显示部22所显示的光标等的显示与期望的选择候补对应而进行选择决定、确定选择。
放大处理决定部72根据与决定结果的确定相关的用户的选择结果,对放大关联处理执行与否、放大关联处理的处理参数和图像放大处理的处理参数进行确定。因此,例如在所谓的“存在放大关联处理的执行”的放大处理决定部72中的决定结果在显示部22上显示的情况下,用户在进行了对“存在放大关联处理的执行”进行确定的选择的情况下,在后级执行放大关联处理,但是用户在没有进行对“存在放大关联处理的执行”进行确定的选择的情况下(进行了拒绝“存在放大关联处理的执行”的选择的情况下、在选择了“不存在放大关联处理的执行”的情况下),在后级不执行放大关联处理。
另外,由放大处理决定部72决定的放大关联处理的处理参数和图像放大处理的处理参数也可以包含多个选择候补,在该情况下,显示部22从多个选择候补之中能够选择地显示图像放大处理的处理参数。用户能够从显示部22所显示的多个选择候补之中选择作为处理参数而采用的候补,放大处理决定部72能够根据用户的选择,对放大关联处理的处理参数和图像放大处理的处理参数进行确定。
在放大处理决定部72中若决定了放大关联处理执行与否、放大关联处理的处理参数和图像放大处理的处理参数,则放大关联处理部74和放大处理部76基于放大处理决定部72中的决定(确定)而进行放大关联处理和图像放大处理。
放大关联处理部74根据放大处理决定部72的决定结果而进行摄像数据32的放大关联处理。特别是,在由用户经由显示部22和选择指示部78选择确定放大关联处理执行与否和放大关联处理的处理参数的情况下,根据该确定出的放大关联处理执行与否和放大关联处理的处理参数,放大关联处理部74进行摄像数据32的放大关联处理。
另外,也可以不执行放大关联处理。例如,在放大处理决定部72中决定了“不存在放大关联处理的执行”的情况下,跳过放大关联处理部74中的放大关联处理,进行后级的放大处理部76中的图像放大处理。另外,也可以不设置放大关联处理部74,在该情况下,在放大处理决定部72中不进行放大关联处理执行与否、放大关联处理的处理参数的决定。
并且,放大处理部76根据放大处理决定部72的决定结果进行摄像数据32的图像放大处理。在由用户经由显示部22和选择指示部78而选择确定图像放大处理的处理参数的情况下,放大处理部76根据该确定出的图像放大处理的处理参数,进行摄像数据32的图像放大处理。
如此,利用基于摄影条件数据34而确定的处理参数进行图像放大处理,从而能够将通过该放大处理得到的放大图像的画质适当化,并能够进一步防止分辨率感的降低、图像劣化。特别是,对于在放大处理部76中的图像放大处理之前根据基于摄影条件数据34的处理参数进行轮廓强调处理等放大关联处理的情况,能够进一步防止分辨率感的降低、图像劣化。
另外,在上述的摄像装置40(参照图3)中,透镜部48、光学低通滤光器64、快门50、摄像元件52作为图1的摄像部12、12A、12B而发挥功能,图像处理部58作为图1的数字图像处理部14、14A、14B和图像放大处理部16而发挥功能,操作部44作为图1的用户I/F17而发挥功能,CPU42作为图1的输入输出控制部18而发挥功能,编码器60和驱动器62作为图1的输入输出控制部18而发挥功能,存储器部56作为图1的存储部20而发挥功能,显示部55作为图1的显示部22而功能。另外,图6的选择指示部(选择单元)78与图1的用户I/F17、图3的操作部44对应。
接下来,对具体性的图像放大处理例进行说明。
<第一实施方式>
针对第一实施方式所涉及的图像放大处理例,参照图6和图7进行说明。图7是表示第一实施方式的图像放大处理的流程的流程图。
本实施方式能够适用于例如在连接有摄像单元的计算机中进行图像放大处理的情况(参照图1(c)),设想在计算机中安装用于执行下述的一系列图像放大处理(包含放大关联处理)的程序(软件)的情况等。
在本实施方式中,根据摄影条件数据的有无、光学低通滤光器的有无和滤色器排列而对与放大关联处理(处理A、轮廓强调处理)的执行相关的选择显示的有无进行控制。
即,若将图像摄影数据(没有放大图像数据)30输入到图像放大处理部16,则在数据获取部70中进行摄影条件数据34的获取(图7(a)的步骤S11)。数据获取部70判别在图像摄影数据30是否包含摄影条件数据34,且在判别为在所输入的图像摄影数据中包含摄影条件数据的情况下获取摄影条件数据34的内容(数据获取步骤)。在本实施方式中,使用“与光学低通滤光器的有无相关的信息”和“滤色器的排列信息”作为摄影条件数据34。
并且放大处理决定部72基于数据获取部70中的摄影条件数据的获取结果,决定与摄像数据的图像放大处理关联的放大关联处理执行与否、放大关联处理的处理参数和图像放大处理的处理参数中的至少任一个(放大处理决定步骤)。
在图像摄影数据30中是否包含摄影条件数据34的判别中(S12),在判别为在图像摄影数据30中不包含摄影条件数据34的情况下(S12的否),放大处理决定部72在显示部22中不进行处理A(放大关联处理)的选择显示(S16)。
另一方面,在判别为在图像摄影数据30中包含摄影条件数据34的情况下(S12的是),放大处理决定部72对光学低通滤光器(OLPF)64(参照图3)的有无进行判别(S13)。在判别为使用了光学低通滤光器64的情况下(S13的是),放大处理决定部72在显示部22中不进行处理A的选择显示(S16)。
另一方面,在判别为没有光学低通滤光器64的情况下(S13的否),放大处理决定部72对所使用的滤色器(CF)排列进行判别,对使用了滤色器A和滤色器B中的哪一种滤色器排列进行判别(S14)。在判别为所使用的滤色器排列是基于滤色器B的滤色器排列的情况下,放大处理决定部72在显示部22中不进行处理A的选择显示(S16)。另一方面,在判别为所使用的滤色器排列是基于滤色器A的滤色器排列的的情况下,放大处理决定部72在显示部22中进行处理A的选择显示(S15)。
另外,能够基于与需要相对应的任意的方法而实施上述的滤色器的判别(S14)。例如,在所使用的滤色器的种类预先确定的情况下,也可以对使用了确定出的种类中的哪一种滤色器直接地进行判别。因此,在如上述那样明确使用了滤色器A(例如X-Trans排列滤色器(图4(b)和图5))和滤色器B(例如拜耳排列滤色器(图4(a)))中的哪一种的情况下,也可以对是滤色器A还是滤色器B直接地进行检测。作为这种情况,可以设想例如将具备滤色器A的摄像部和具备滤色器B的摄像部安装在同一装置,在该装置中进行图像放大处理的情况。另外,在所使用的滤色器的种类未必确定的情况下,也可以根据是否为使用的可能性高的滤色器而进行滤色器的判别。例如,在拜耳排列滤色器的使用可能性高的情况下,也可以判别所使用的滤色器是否为拜耳排列滤色器,在是拜耳排列滤色器的情况下作为上述的“滤色器B”而处理,在不是拜耳排列滤色器的情况下作为上述的“滤色器A”而处理。同样地,在X-Trans排列滤色器的使用可能性高的情况下,也可以判别所使用的滤色器是否为X-Trans排列滤色器,在是X-Trans排列滤色器的情况下作为上述的“滤色器A”而处理,在不是X-Trans排列滤色器的情况下作为上述的“滤色器B”而处理。作为这种情况,设想在计算机中安装了例如以由预定的摄像装置摄影获取的摄像数据的图像放大处理为主而准备的程序(软件)而在该计算机中进行图像放大处理的情况。
用户能够基于显示部22中的处理A的选择显示而对选择指示部78进行操作,从而进行处理A执行的确定选择。
另外,显示部22中的选择显示的方法不特别被限定,例如可以是作为对用户的警告而通知的形式,也可以表示放大处理决定部72的决定结果并向用户询问是否知道该判断结果的形式,也可以是示出放大处理决定部72的决定结果及与该决定结果相反的选项而由用户选择任一个的形式。
放大处理决定部72判断是否由用户进行了处理A执行的选择确定(S17)。在判断为由用户选择并确定了处理A的执行的情况下(S17的是),在放大关联处理部74中执行处理A(S18),其后,在放大处理部76中进行图像放大处理(S19)。
另一方面,在没有由用户选择处理A的执行的情况下(选择并确定了处理A的非执行的情况下)(S17的否),跳过处理A,而以不进行处理A的状态在放大处理部76中进行图像放大处理(S19)。
另外,如在判别为没有摄影条件数据34的情况下(S12的否)、判别为具有光学低通滤光器的情况下(S13的否)和判别为滤色器排列是基于滤色器B的滤色器排列的情况下(S14)的那样,在显示部22不进行处理A的选择显示的情况下(S16),不进行用户对处理A的选择确定,在放大关联处理部74中强制性地执行处理A(S18),其后在放大处理部76中进行图像放大处理(S19)。
图7(b)是在图7(a)的处理流程中将轮廓强调处理作为处理A(放大关联处理)而采用的情况下的流程图。图7(b)的步骤S111~S119除了“滤色器排列的判别(图7(a)的S14)”成为“是否为拜耳排列的判别”的方面(图7(b)的S114)和“处理A”被置换为“轮廓强调处理”的方面外,与图7(a)的步骤S11~S19相同。
即,在判别为在所输入的图像摄影数据30中包含摄影条件数据34(S112中为是)、判别为没有光学低通滤光器64(S113的否)且判别为所使用的滤色器排列不是拜耳排列(例如是图4(b)和图5所示的滤色器排列)的情况下(S114的否),在显示部22中进行轮廓强调处理的选择显示(S115)。并且,判断是否由用户进行了轮廓强调处理执行的选择确定(S117),在判断为由用户选择确定了轮廓强调处理的执行的情况下(S117的是),在放大关联处理部74中执行轮廓强调处理(S118),在放大处理部76中进行图像放大处理(S119)。另一方面,在没有由用户选择轮廓强调处理的执行的情况下(S117的否),以不进行轮廓强调处理的状态在放大处理部76中进行图像放大处理(S119)。另外,在判别为没有摄影条件数据34的情况下(S112的否)、在判别为存在光学低通滤光器的情况下(S113的是)、或者在判别为滤色器排列是拜耳排列的情况下(S114的是),在显示部22中不进行轮廓强调处理的选择显示(S116),不进行用户对轮廓强调处理的选择确定,强制性地执行轮廓强调处理(S118),在此基础上进行图像放大处理(S119)。
根据图7(a)和图7(b)所示的处理流程,在摄影条件数据34不明的情况下(S12和S112的否),在存在光学低通滤光器的状态下被摄影而使摄像数据32的图像分辨率感降低的情况下(S13和S113的是)、或者在滤色器排列具有拜耳排列的情况下(S14和S114的是),不对用户进行选择显示(S16和S116),在放大处理(S19)之前强制性地执行放大关联处理(处理A、轮廓强调处理)(S18和S118)。
例如,在摄影时使用光学低通滤光器(OLPF)且存在“摄影时具有光学低通滤光器”的图像信息的情况下,若不进行放大关联处理而进行图像放大处理,则放大图像的分辨率感降低的可能性较高。然而,根据上述的本实施方式所涉及的图像放大处理流程(图7(b)),在存在“摄影时具有光学低通滤光器”的图像信息的情况下,成为不对用户进行轮廓强调处理的选择显示的设定,在放大处理前强制性地执行轮廓强调处理,因此能够进一步抑制放大图像的分辨率感的降低。
另外,在摄像部中所用的滤色器具有拜耳排列的情况下,例如与图4(b)和图5所示的滤色器相比,放大图像的分辨率感降低的可能性较高,因此成为不对用户进行轮廓强调处理的选择显示的设定,能够在放大处理前强制性地执行轮廓强调处理,进一步抑制放大图像的分辨率感的降低。
另一方面,得到在没有光学低通滤光器的状态下进行摄影而对分辨率感进行控制的包含高频成分的摄像数据32(S13和S113的否),在使用适合于获取高分辨率图像的图4(b)、图5所示的滤色器的情况下(S14和S114的否),经由显示部22向用户询问有无放大关联处理(处理A、轮廓强调处理)的执行,并根据经由用户的选择指示部78的选择确定结果,执行放大关联处理(S17和S117的是)或不执行放大关联处理(S17和S117的否)。
另外,在上述的实施方式中,对在判别为在图像摄影数据30中不包含摄影条件数据34的情况下(S12和S112的否)在显示部22中不进行轮廓强调处理(处理A)的选择显示的例子进行了说明,但是也可以在显示部22中进行轮廓强调处理(处理A)的选择显示。图8是表示上述的第一实施方式的一变形例的流程图,除了“在判别为在图像摄影数据30中不包含摄影条件数据34的情况下(S12和S112的否)在显示部22中进行轮廓强调处理(处理A)的选择显示(图8的S215)”的方面以外,与上述的图7(b)所示的流程图相同。
根据以上说明的本实施方式(变形例),根据光学低通滤光器的有无和滤色器的排列图案,能够使基于显示部22和选择指示部78的可设定范围和/或处理选择内容最佳化,用户能够与基于摄像数据32的放大图像数据38的生成相关而任意地选择最佳的处理。因此,能够以非常高的水准实现与放大图像中的分辨率感的降低、图像劣化的抑制及用户的需求相对应的灵活的放大关联处理和放大处理。
另外,在上述的实施方式(变形例)中,对进行光学低通滤光器的有无的判别(S13、S113、S213)和滤色器的排列图案的判别(S14、S114、S214)两者的例子进行了说明,但是也可以仅进行任一方的判别。例如,在仅对光学低通滤光器的有无进行判别的情况下,不进行“所使用的滤色器(CF)是滤色器A和滤色器B中的哪一个(图7(a)的S14)、是否为拜耳排列的判别(图7(b)的S114、图8的S214)”,在判别为使用了光学低通滤光器的情况下,放大处理决定部72在显示部22中进行处理A/轮廓强调处理的选择显示(S15、S115、S215)。另一方面,在仅对滤色器的排列图案进行判别的情况下,不进行“光学低通滤光器的有无的判别(S13、S113、S213)”,在判别为在图像摄影数据30中包含摄影条件数据34的情况下(S12、S112的是),放大处理决定部72进行所使用的滤色器(CF)是滤色器A和滤色器B中的哪一种(图7(a)的S14)、是否为拜耳排列的判别(图7(b)的S114、图8的S214)(S14和S114)。
另外,在图7(a)和(b)所示的实施方式中,对如在判别为不存在摄影条件数据34的情况下(S12和S112的否)、判别为存在光学低通滤光器的情况下(S13和S113的是)及判别为滤色器是滤色器B/拜耳排列的情况下(S14和S114的是)那样,在显示部22不进行处理A的选择显示的情况下(S16和S116),在放大关联处理部74中强制性地执行放大关联处理(处理A、轮廓强调处理)(S18和S118)的例子进行了说明,但是在这种情况下也可以将放大关联处理强制性地设为非执行。
<第二实施方式>
针对第二实施方式所涉及的图像放大处理例,参照图6和图9进行说明。图9(a)是表示第二实施方式的放大处理的流程的流程图。
在本实施方式中,针对与上述的第一实施方式相同或类似的处理省略详细的说明。
在本实施方式中,也利用摄影条件数据的有无、光学低通滤光器的有无和滤色器排列,对放大关联处理(处理A、轮廓强调处理)的执行的选择显示的有无进行控制。
即,与第一实施方式同样地,若将图像摄影数据(没有放大图像数据)30输入到图像放大处理部16,则在数据获取部70中进行摄影条件数据34的获取(图9(a)的步骤S21)。另外,在放大处理决定部72中进行在图像摄影数据30中是否包含摄影条件数据的判别(S22)、进行光学低通滤光器(OLPF)64的有无的判别(S23)及进行所使用的滤色器(CF)是滤色器A还是滤色器B的判别(S24)这些方面也与第一实施方式(参照图7(a)的S12~S14)是同样的。
其中,在本实施方式中,在判别为在图像摄影数据30中包含摄影条件数据34(S22的是)、没有使用光学低通滤光器64(S23的否)且所使用的滤色器是滤色器A的(S24)情况下,放大处理决定部72不进行显示部22中的处理A的选择显示(S25),强制性地跳过处理A,在不进行处理A的状态下在放大处理部76中进行图像放大处理(S29)。
另一方面,在判别为在图像摄影数据30中不包含摄影条件数据(S22的否)或使用了光学低通滤光器64(S23的是)或所使用的滤色器是滤色器B(S24)的情况下,放大处理决定部72进行显示部22中的处理A的选择显示(S26)。用户基于该显示部22中的处理A的选择显示而对选择指示部78进行操作,从而能够进行处理A执行的确定选择。
并且,放大处理决定部72判断是否由用户进行了处理A执行的选择确定(S27)。在判断为由用户选择并确定了处理A的执行的情况下(S27的是),在放大关联处理部74中执行处理A(S28),其后,在放大处理部76中进行图像放大处理(S29)。
另一方面,在用户没有选择执行处理A的情况下(选择并确定了处理A的非执行的情况下)(S27的否),跳过处理A,以不进行处理A的状态在放大处理部76中进行图像放大处理(S29)。
图9(b)是图9(a)的处理流程中将轮廓强调处理作为处理A(放大关联处理)而采用的情况下的流程图。图9(b)的步骤S121~S129除了“滤色器排列的判别(图9(a)的S24)”成为“是否为拜耳排列的判别”的方面(图7(b)的S124)和“处理A”被置换为“轮廓强调处理”的方面外,与图9(a)的步骤S21~S29相同。
即,在判别为在所输入的图像摄影数据30中包含摄影条件数据34(S122是)、判别为没有光学低通滤光器64(S123的否)且判别为所使用的滤色器排列并非拜耳排列(例如,是图4(b)和图5所示的滤色器排列)的情况下(S124的否),在显示部22中不进行轮廓强调处理的选择显示(S125),而进行图像放大处理(S129)。另一方面,在判别为没有摄影条件数据34的情况下(S122的否)、判别为存在光学低通滤光器的情况下(S123的是)或者判别为滤色器排列是拜耳排列的情况下(S124的是),在显示部22进行轮廓强调处理的选择显示(S126)。并且,判断是否由用户进行了轮廓强调处理执行的选择确定(S127),在判断为由用户选择确定了轮廓强调处理的执行的情况下(S127的是),在放大关联处理部74中执行轮廓强调处理(S128),在放大处理部76中进行图像放大处理(S129)。另一方面,在用户没有选择轮廓强调处理的执行的情况下(S127的否)以不进行轮廓强调处理的状态在放大处理部76中进行图像放大处理(S129)。
如此,在本实施方式中,也能够以非常高的水准实现与放大图像中的分辨率感的降低和图像劣化的回避及用户的需求相对应的灵活的放大关联处理和放大处理。
<第三实施方式>
针对第三实施方式所涉及的图像放大处理例,参照图6和图10进行说明。图10(a)是表示第三实施方式的放大处理的流程的流程图。
在本实施方式中,针对与上述的第一实施方式相同或类似的处理省略详细的说明。
在本实施方式中,根据摄影条件数据的有无、光学低通滤光器的有无和滤色器排列,对放大处理中的处理(处理B、插值处理)的参数范围进行控制。
本实施方式中,也与第一实施方式同样地,若将图像摄影数据(没有放大图像数据)30输入到图像放大处理部16,则在数据获取部70中进行摄影条件数据34的获取(图10(a)的步骤S31)。另外,在放大处理决定部72中,进行在图像摄影数据30中是否包含摄影条件数据的判别(S32)、进行光学低通滤光器(OLPF)64的有无的判别(S33)及进行所使用的滤色器(CF)是滤色器A和滤色器B中的哪一个的判别(S34)的方面也与第一实施方式(参照图7(a)的S12~S14)同样。
其中,在本实施方式中,根据摄影条件数据34的有无、光学低通滤光器64的有无和使用滤色器是滤色器A和滤色器B中哪一种的判别而决定放大处理中的处理B(插值处理)的参数的可选择范围(包括多个选择候补的范围)。
例如,在判别为在图像摄影数据30中不包含摄影条件数据的情况下(S32的否),放大处理决定部72将“最大范围”作为处理B的处理参数的可选择范围在显示部22上显示(S35d)。另外,在判别为在图像摄影数据30中包含摄影条件数据(S32的是)且使用了光学低通滤光器64(S33的是)的情况下,放大处理决定部72将“范围γ”作为处理B的处理参数的可选择范围而在显示部22上显示(S35c)。另外,在判别为没有使用光学低通滤光器64(S33的否)且滤色器的排列是滤色器B(S34)的情况下,放大处理决定部72将“范围β”作为处理B的处理参数的可选择范围而在显示部22上显示(S35b)。另一方面,在判别为滤色器的排列是滤色器A的(S34)情况下,放大处理决定部72将“范围α”作为处理B的处理参数的可选择范围而在显示部22上显示(S35a)。
用户能够经由选择指示部78从如此决定的可选择范围(α、β、γ、最大范围)中所包含的选择候补之中选择任意的参数。若进行经由选择指示部78的用户对处理B的参数的选择输入(S36),则放大处理部76基于由该用户选择输入的参数而进行处理B(S37)。
图10(b)是在图10(a)的处理流程中将“是否为拜耳排列的判别”作为“滤色器排列的判别(图10(a)的S34)”而采用(图10(b)的S134)、将“放大处理中的样条插值处理”作为处理B而采用的情况下的流程图的一例。
在图10(b)所示的例子中,在数据获取部70中获取摄影条件数据34(图10(b)的步骤S131),在判别为在图像摄影数据30中不包含摄影条件数据的情况下(S132的否),放大处理决定部72将作为样条插值系数的最大范围的0~1.0作为可设定范围(S135d)。
另外,在摄影时,在存在“没有光学低通滤光器”的信息的情况下(S133的否),放大处理决定部72将样条插值系数可设定范围缩小,将样条插值系数的可设定范围设为0.2~1.0(S135c)。
这是由于考虑了如下情况:不使用光学低通滤光器而获取的摄像数据的分辨率感较高,即使原样进行图像放大处理也难以引起明显的分辨率感的降低。在样条插值中,样条插值系数越大则图像清晰度越高,另一方面,若样条插值系数过小则有可能引起分辨率感的降低。经由光学低通滤光器而获取的摄像数据的分辨率感稍微降低,但在不使用光学低通滤光器的情况下,能够获取具有比较高的分辨率感的摄像数据,另外图像放大时的分辨率感的降低比较少。因此,对于不使用光学低通滤光器而摄影获取的摄像数据,能够将样条插值系数的可设定范围设定为0.2~1.0。
另一方面,在摄影时存在“具有光学低通滤光器”的信息的情况下(S133的是),放大处理决定部72对使用滤色器是否为拜耳排列进行判别(S134)。在所使用滤色器的排列图案是拜耳排列以外的图案(图4(b)和图5所示的排列图案等)的情况下(S134的否),放大处理决定部72将样条插值系数的可设定范围设为0.3~1.0(S135b)。另一方面,在滤色器的排列图案是拜耳排列的情况下(S134的是),放大处理决定部72将样条插值系数可设定范围设为0.4~1.0(S135a)。这是因为考虑了以下情况:经由拜耳排列的滤色器而得到的摄像数据32与图4(b)和图5的滤色器相比高频成分丢失,易于引起分辨率感的降低。
接下来,针对上述的第三实施方式的一变形例,参照图11所示的流程图进行说明。
在本变形例中,如“不利用光学低通滤光器(图11的S233a的否)”而“使用能够获取高分辨率的摄像数据的图4(b)和图5的滤色器(X-Trans排列)(S233b的是)”的情况下那样,在即使进行图像放大处理也不降低图像数据的分辨率感的条件下获取摄影数据的情况较为明确的情况下,使样条插值系数可设定范围保持灵活性,将0.2~1.0的范围设为样条插值系数可设定范围(S235c)。另一方面,在“不利用光学低通滤光器(图11的S233a的否)”、“并非使用图4(b)和图5的滤色器(X-Trans排列)而使用图4(a)所示的拜耳排列等其他滤色器(S233b的否)”的情况下,放大图像的分辨率感的降低不明显的可能性较高,但是存在彩色莫尔条纹等图像劣化较为明显的可能性,因此将0.3~1.0的范围设为样条插值系数可设定范围(S235b)。
另外,在利用光学低通滤光器(S233a的是)、使用图4(b)和图5的滤色器(X-Trans排列)的情况下(S234的是),同样地,将0.3~1.0的范围设为样条插值系数可设定范围(S235b)。另一方面,在利用光学低通滤光器(S233a的是)、并非使用图4(b)和图5的滤色器(X-Trans排列)而是使用图4(a)所示的拜耳排列等其他滤色器的情况下(S234b的否),将0.4~1.0的范围设为样条插值系数可设定范围(S235a)。其他处理步骤与上述的图10(b)中的处理步骤同样。
根据该图11所示的变形例,在是分辨率高的摄像数据且图像放大时的分辨率感的降低较小这一情况较为明确的情况下,进行考虑了该图像特性的放大处理(样条插值系数设定),而能够得到高倍率的放大图像数据。
另外,图10(b)和图11所示的样条插值系数可设定范围的数值不过是一例,也可以利用其他数值适当设定样条插值系数可设定范围,例如,也能够利用数值的大小关系不变的其他值,对各个情况下的样条插值系数可设定范围进行规定。
另外,放大处理时能够使用的插值处理不限于样条插值法,能够利用任意的插值处理。例如,也可以替代样条插值法而利用具有下述的表所示的特性的近邻取样(最邻近取样)法、双线性插值法、双三次插值法等,也可以替代上述样条插值系数可设定范围而对各插值法的处理参数的设定范围进行选择显示。
[表1]
如以上说明那样,根据本实施方式,根据光学低通滤光器的有无和滤色器的排列图案,能够对处理B的处理参数(样条插值处理的样条插值系数)的可设定范围进行切换,用户能够与基于摄像数据32的放大图像数据38的生成相关地任意地选择最佳的处理。
<第四实施方式>
针对第四实施方式所涉及的图像放大处理例,参照图6和图12进行说明。图12是表示第四实施方式的放大处理的流程的流程图。
在本实施方式中,针对与上述的第三实施方式相同或类似的处理,省略详细的说明。
在本实施方式中,根据摄影条件数据的有无、光学低通滤光器的有无和滤色器排列,对放大处理中的放大率的参数可设定范围进行控制。
在本实施方式中,也与第三实施方式同样地,若将图像摄影数据(没有放大图像数据)30输入到图像放大处理部16,则在数据获取部70中进行摄影条件数据34的获取(图12的步骤S41)。另外,在放大处理决定部72中,进行在图像摄影数据30中是否包含摄影条件数据的判别(S42),进行光学低通滤光器(OLPF)64的有无的判别(S43)及进行所使用的滤色器(CF)是否为图4(b)和图5的滤色器(X-Trans排列)的判别(S44)。
在本实施方式中,根据摄影条件数据34的有无、光学低通滤光器64的有无和使用滤色器是否为X-Trans排列而决定放大处理中的放大率的参数的可选择范围(包含多个选择候补的范围)。
例如,在判别为在图像摄影数据30中不包含摄影条件数据的情况下(S42的否),放大处理决定部72将范围比较广的放大率“1.0~4.0”作为放大率的可选择范围在显示部22上显示(S45d)。另外,在判别为在图像摄影数据30中包含摄影条件数据(S42的是)且没有使用光学低通滤光器64(S43的否)的情况下,即使原样放大产生分辨率感的降低的可能性也较低,因此放大处理决定部72将“范围1.0~3.0”作为放大率的可选择范围在显示部22上显示(S45c)。另外,在是利用具备具有图4(b)和图5所示的排列图案(X-Trans排列)的滤色器的摄像元件拍摄的图像的情况下,与拜耳排列的图像相比能够获取高频成分的图像数据,即使原样进行放大处理产生分辨率感降低的可能性也较低。因此,在使用光学低通滤光器64(S43的是)、使用图4(b)和图5所示的X-Trans排列滤色器的情况下(S44的是),放大处理决定部72将“范围1.0~2.0”作为放大率的可选择范围在显示部22上显示(S45b)。另一方面,在使用图4(b)和图5所示的X-Trans排列滤色器以外的拜耳排列等滤色器的情况下(S44的否),放大处理决定部72将比较窄的范围“1.0~1.5”作为放大率的可选择范围在显示部22上显示(S45a)。
用户能够经由选择指示部78从如此决定的可选择范围中所包含的选择候补之中选择任意的放大率。若经由选择指示部78进行了放大率的选择输入(S46),则放大处理部76基于由该用户选择输入的放大率进行放大处理(S47)。
接下来,针对上述的第四实施方式的一变形例,参照图13所示的流程图进行说明。
在本变形例中,如“不利用光学低通滤光器(图13的S243a的否)”、“使用能够获取高分辨率的摄像数据32的图4(b)和图5的滤色器(X-Trans排列)(S243b的是)”的情况那样,在即使进行图像放大处理图像数据的分辨率感也不降低的条件下获取摄像数据这一情况较为明确的情况下,使放大率可设定范围保持灵活性,将1.0~5.0的范围设为放大率可设定范围(S245d)。另一方面,在“不利用光学低通滤光器(S243a的否)”、“不使用图4(b)和图5的滤色器(X-Trans排列)而使用图4(a)所示的拜耳排列等其他滤色器(S243b的否)”的情况下,摄像数据的分辨率感的降低不明显的可能性较高,但是存在图像劣化较为明显的可能性,因此将放大率可设定范围设为中间的范围1.0~3.0(S245c)。
另外,在利用光学低通滤光器(S243a的是)且使用图4(b)和图5的滤色器(X-Trans排列)的情况下(S244的是),将1.0~2.0的范围设为放大率可设定范围(S235b)。另一方面,在利用光学低通滤光器(S243a的是)且不使用图4(b)和图5的滤色器(X-Trans排列)而使用图4(a)所示的拜耳排列等其他滤色器的情况下(S244的否),将1.0~1.5的范围设为放大率可设定范围(S235a)。其他处理步骤与上述的图12中的处理步骤同样。
根据图13所示的变形例,在是分辨率高的摄像数据且图像放大时的分辨率感的降低较小这一情况较为明确的情况下,进行考虑了该图像特性的放大处理(样条插值系数设定),也能够得到高倍率的放大图像数据。
另外,图12和图13所示的放大率可设定范围的数值不过是一例,也可以适当利用其他数值确定放大率可设定范围,也能够利用例如数值的大小关系不变的其他值,对各个情况下的放大率可设定范围进行规定。
如以上说明那样,根据本实施方式,能够根据光学低通滤光器的有无和滤色器的排列图案,对放大处理中的放大率的可设定范围进行切换,用户能够与基于摄像数据32的放大图像数据38的生成相关地任意地选择最佳的处理。
<第五实施方式>
针对第五实施方式所涉及的图像放大处理例,参照图6和图14进行说明。图14是表示第五实施方式的放大处理的流程的流程图。
在本实施方式中,针对与上述的第二实施方式相同或类似的处理,省略详细的说明。
本实施方式中,设想如下那样的摄像单元等:能够适用于在例如传感器互换型相机中进行图像放大处理的情况,例如包含图3中的透镜部48~摄像元件52的透镜单元(摄像部)能够至少从第一透镜单元(第一摄像部)和第二透镜单元(第二摄像部)之中选择互换。
在上述的第二实施方式(图9(a)参照)中,在显示部22上暂且显示放大关联处理(处理A、轮廓强调处理)执行与否后,基于用户的选择确定(图9(a)的S27),决定处理A执行与否。与此相对,在本实施方式中,在显示部22中不显示放大关联处理(处理A、轮廓强调处理)执行与否,无论用户的选择确定如何,都强制性地执行放大关联处理(处理A、轮廓强调处理)。
即,若将图像摄影数据(没有放大图像数据)30输入到图像放大处理部16,则在数据获取部70中进行摄影条件数据34的获取(图14的步骤S51),并在放大处理决定部72中判别为在图像摄影数据30中包含摄影条件数据(S52的是)、没有使用光学低通滤光器64(S53的否)、所使用的滤色器不是拜耳排列(S54的否)的情况下,以不进行处理A的状态在放大处理部76中进行图像放大处理(S56)。
另一方面,在判别为在图像摄影数据30中不包含摄影条件数据(S52的否)、或使用了光学低通滤光器64(S53的是)、或所使用的滤色器具有拜耳排列(S54的是)的情况下,放大关联处理部74强制性地执行处理A(轮廓强调处理等)(S55),其后在放大处理部76中执行放大处理(S56)。
<第六实施方式>
针对第六实施方式所涉及的图像放大处理例,参照图6和图15进行说明。图15是表示第六实施方式的放大处理的流程的流程图。
在本实施方式中,针对与上述的第三实施方式相同或类似的处理,省略详细的说明。
在上述的第三实施方式(参照图10(a))中,将放大处理(处理B、样条插值处理)的参数范围在显示部22上暂且显示后,基于用户的选择确定(图10(a)的S36),执行处理B。与此相对,在本实施方式中,在显示部22中不显示放大处理的处理(处理B、样条插值处理)的参数,无论用户的选择确定如何都对放大处理的处理(处理B,样条插值处理)的参数强制性地进行规定,而执行处理B(放大处理)。
即,若将图像摄影数据(没有放大图像数据)30输入到图像放大处理部16,则在数据获取部70中进行摄影条件数据34的获取(图15的步骤S61),在判别为在图像摄影数据30中不包含摄影条件数据的情况下(S62的否),放大处理决定部72决定采用“δ’”作为处理B的处理参数(样条插值系数等)(S65d)。另外,在判别为在图像摄影数据30中包含摄影条件数据(S62的是)且使用了光学低通滤光器64(S63的是)的情况下,放大处理决定部72决定采用“γ’”作为处理B的处理参数(S65c)。另外,在判别为没有使用光学低通滤光器64(S63的否)且滤色器的排列是拜耳排列(S64的是)的情况下,放大处理决定部72决定采用“β’”作为处理B的处理参数(S65b)。另一方面,在判别为滤色器的排列不是拜耳排列(S64的否)的情况下,放大处理决定部72决定采用“α’”作为处理B的处理参数(S65a)。
基于如此决定采用的处理参数α’、β’、γ’、δ’,放大处理部76进行处理B(放大处理)(S66)。
<第七实施方式>
针对第七实施方式所涉及的图像放大处理例,参照图6和图16进行说明。图16是表示第七实施方式的放大处理的流程的流程图。
在本实施方式中,针对与上述的第六实施方式相同或类似的处理,省略详细的说明。
在本实施方式中,涉及将所使用的滤色器的排列图案设想为3种以上的情况下的放大处理。
即,若将图像摄影数据(没有放大图像数据)30输入到图像放大处理部16,则在数据获取部70中进行摄影条件数据34的获取(图16的步骤S71),并判别为在图像摄影数据30中不包含摄影条件数据的情况下(S72的否),放大处理决定部72决定执行处理D(S75d)。另外,在判别为在图像摄影数据30中包含摄影条件数据(S72的是)且没有使用光学低通滤光器64(S73的否)的情况下,放大处理决定部72决定执行处理D(S75c)。
并且,在判别为使用了光学低通滤光器64(S73的是)且滤色器的排列图案是A图案(S74a的是)的情况下,放大处理决定部72决定执行处理A(S75a)。另一方面,在判别为滤色器的排列图案并非A图案(S74a的否)而是B图案(S74b的是)的情况下,放大处理决定部72决定执行处理B(S75b)。另外,在判别为滤色器的排列图案并非B图案(S74b的否)而是C图案(S74c的是)的情况下,放大处理决定部72决定执行处理C(S75c)。并且,在判别为滤色器的排列图案也非C图案(S74c的否)的情况下,放大处理决定部72决定执行处理D(S75d)。
基于如此决定的处理A、处理B、处理C、处理D,在放大关联处理部74和放大处理部76中进行处理(S76)。另外,这些处理A、处理B、处理C、处理D可以是放大关联处理部74中的放大关联处理,也可以是放大处理部76中的放大处理。在处理A、处理B、处理C、处理D是放大关联处理部74中的放大关联处理的情况下,能够对放大处理的前处理适当地进行切换,例如轮廓强调处理的轮廓强调度也可以分别针对处理A、处理B、处理C和处理D而规定。另外,处理A、处理B、处理C和处理D也可以是对放大处理部76中的放大处理的插值系数(样条插值系数等)、放大率分别进行规定的处理。
<第八实施方式>
针对第八实施方式所涉及的图像放大处理例,参照图6和图17进行说明。图17是表示第八实施方式的放大处理的流程的流程图。
在本实施方式中,针对与上述的第一实施方式相同或类似的处理,省略详细的说明。
在本实施方式中,涉及将由多个摄像装置(本例中为摄像装置1和摄像装置2)生成的图像摄影数据30输入到图像放大处理部16的情况下的图像放大处理。
即,在本实施方式中,也与第一实施方式同样地,将图像摄影数据(没有放大图像数据)30输入到图像放大处理部16,将图像摄影数据30从摄像装置1和摄像装置2分别发送到图像放大处理部16。
数据获取部70从摄像装置1的图像摄影数据30获取摄影条件数据34(图17的步骤S81),另外从摄像装置2的图像摄影数据30获取摄影条件数据34(S82)。在放大处理决定部72中,进行在图像摄影数据30中是否包含摄影条件数据的判别、光学低通滤光器(OLPF)64的有无的判别和所使用的滤色器(CF)的判别(例如“是滤色器A和滤色器B中的哪一种”、“是否为拜耳排列”或者“是否为X-Trans排列”的判别)。
并且,放大处理决定部72以在由摄像装置1摄像生成的图像摄影数据和由摄像装置2摄像生成的图像摄影数据之间使放大处理后的画质包含于预定的容许范围的方式,对处理C(放大关联处理执行与否、放大关联处理的处理参数和放大处理的处理参数的中的至少任一个)进行判别执行。
在此所谓的“放大处理后的放大图像的画质包含于预定的容许范围”,是指通过放大处理得到的图像的画质被收纳于预定的容许范围的范围,例如,是指成为放大图像的分辨率感、图像劣化(莫尔条纹等)的要因的各种参数处于预定的容许范围内。作为这种“放大图像的画质”,能够列举出空间频率、色度量等。例如,为了进一步防止颜色附着于本来具有灰色的被摄体的图像的现象即彩色莫尔条纹,采用色度量作为放大图像的画质,并以色度量处于预定的容许范围内的方式对应各摄像部(摄像装置)中的每个摄像部决定放大关联处理的有无、放大关联处理的参数、放大处理的参数。具体来说,能够预先对应多个摄像部中的每个摄像部对分辨率表进行摄影获取,针对其放大图像对画质进行评价,并以该评价结果包含于预定的容许范围的方式预先对应每个摄像部决定放大率、处理参数等。另外,在此所谓的“预定的容许范围”并不特别被限定,能够将与各种要求对应的适当的范围作为“预定的容许范围”而采用,例如,能够根据摄像元件、透镜的特性、图像处理特性等而规定“预定的容许范围”。
本实施方式的放大处理决定部72基于数据获取部70的摄影条件数据的获取结果,判别设定(决定)对由摄像装置1生成的图像(摄像数据32)的处理C的处理参数α’,放大关联处理部74针对由摄像装置1生成的图像,以处理参数α’执行处理C(S83)。
另外放大处理决定部72基于数据获取部70的获取结果,判别由摄像装置2生成的图像(摄像数据32)的摄影条件数据34是否与由摄像装置1生成的图像(摄像数据32)的摄影条件数据34相同(S84)。更具体来说,放大处理决定部72与作为摄影条件数据34所采用的光学低通滤光器的有无和滤色器的排列是否相同相关地,判别由摄像装置1生成的图像和由摄像装置2生成的图像是否相同。
在判别为由摄像装置1生成的图像和由摄像装置2生成的图像的摄影条件数据相同的情况下(S84的是),放大处理决定部72将对由摄像装置2生成的图像的处理C的处理参数设定为与由摄像装置1生成的图像相同的“α’”,放大关联处理部74针对由摄像装置2生成的图像以处理参数α’执行处理C(S85a)。
另一方面,在判别为由摄像装置1生成的图像和由摄像装置2生成的图像的摄影条件数据不同的情况下(S84的否),放大处理决定部72将对由摄像装置2生成的图像的处理C的处理参数判别设定为与由摄像装置1生成的图像不同的“β’”,放大关联处理部74针对由摄像装置2生成的图像,以处理参数β’执行处理C(S85b)。另外,关于处理参数β’的设定,以与上述的处理参数α’同样的基准和顺序进行。
如此,实施了处理C后的由摄像装置1生成的图像和由摄像装置2生成的图像其后分别在放大处理部76中进行图像放大处理(S86,S87)。
另外,在此所谓的处理C可以是放大关联处理(轮廓强调处理等),也可以是用于放大处理部76中的放大处理的处理参数(插值系数、放大率等)的简单的设定处理。
如以上说明那样,根据本实施方式,在根据由多个不同的摄像装置摄影生成的摄像数据32生成放大图像数据的情况下,无论从哪个摄像装置获取图像摄影数据30,都能够根据光学低通滤光器的有无和滤色器的排列图案,使放大图像的画质相同。
另外,多个摄像装置(摄像装置1、摄像装置2)可以组装到同一装置,也可以组装到其他装置。
在同一装置中组装了多个摄像装置的情况下,例如能够具有图1(b)的第一摄像部12A和第二摄像部12B那样的结构。另一方面,在其他装置中组装了多个摄像装置的情况下,例如,也能够设为在图1(c)的计算机11上连接的摄像单元10”存在多台那样的结构,在不同的摄像单元10”连接在计算机11的情况下,也能够将放大图像的画质保持在相同程度,因此能够减轻用户所感觉的不适感等不良情况。
以上,对本发明的优选实施方式进行了说明,但是本发明不限于上述的实施方式,针对其他形态也能够适当应用。
例如,在上述实施方式中对数码相机进行了说明(参照图3),但是摄影装置的结构不限于此。作为能够适用本发明的其他摄影装置(摄像装置),例如,能够设为内置型或外附带型的PC用相机、或者如以下说明那样的具有摄影功能的便携式终端装置。另外,针对使计算机执行上述的各处理步骤的程序,也能够适用本发明。
作为本发明的摄影装置的一实施方式的便携式终端装置,例如能够列举出便携式电话、智能手机、PDA(Personal Digital Assistants:个人数字助理)、便携式游戏机。以下,以智能手机为例进行列举,并参照附图详细地进行说明。
图18是表示作为本发明的摄影装置的一实施方式的智能手机101的外观的图。图18所示的智能手机101具有平板状的壳体102,并在壳体102的一面具备作为显示部的显示面板121和作为输入部的操作面板122成为一体的显示输入部120。另外,所涉及的壳体102具备扬声器131、麦克风132、操作部140和相机部141。另外,壳体102的结构不限于此,例如,也能够采用显示部和输入部独立的结构,或采用具有折叠构造、滑动机构的结构。
图19是表示图18所示的智能手机101的结构的框图。如图19所示,作为智能手机的主要的结构要素,具备无线通信部110、显示输入部120、通话部130、操作部140、相机部141、存储部150、外部输入输出部160、GPS(Global Positioning System:全球定位系统)接收部170、运动传感器部180、电源部190和主控制部100。另外,作为智能手机101的主要的功能,具备进行经由基地站装置BS和移动通信网NW的移动无线通信的无线通信功能。
无线通信部110按照主控制部100的指示,对收容于移动通信网NW的基地站装置BS进行无线通信。使用该无线通信,进行音声数据、图像数据等各种文件数据、电子邮件数据等的收发、Web数据、流数据等的接收。
显示输入部120是通过主控制部101的控制而对图像(静止图像和动态图像)、文字信息等进行显示从而视觉性地向用户传递信息并且对与所显示的信息对应的用户操作进行检测的、所谓的触摸面板,具备显示面板121和操作面板122。
显示面板121是将LCD(Liquid Crystal Display:液晶显示器)、OELD(Organic Electro-Luminescence Display:有机发光显示器)等作为显示装置而使用的器件。操作面板122是将显示面板121的显示面上所显示的图像载置成能够视觉辨认,并对由用户的手指、尖笔操作的1个或多个坐标进行检测的装置。若利用用户的手指、尖笔对该装置进行操作,则将由于操作而产生的检测信号输出到主控制部100。接下来,主控制部100基于接收到的检测信号,对显示面板121上的操作位置(坐标)进行检测。
如图18所示,作为本发明的摄影装置的一实施方式而例示的智能手机101的显示面板121和操作面板122成为一体而构成显示输入部120,但是操作面板122成为对显示面板121完全地进行覆盖那样的配置。在采用该配置的情况下,操作面板122对于显示面板121外的区域也可以具备对用户操作进行检测的功能。换言之,操作面板122也可以具备关于与显示面板121重合的重叠部分的检测区域(以下,称作显示区域)和关于除此以外的不与显示面板121重合的外边缘部分的检测区域(以下,称作非显示区域)。
另外,虽然也可以使显示区域的大小和显示面板121的大小完全一致,但是也没有必要必须使两者一致。另外,操作面板122也可以具备外边缘部分和除此以外的内侧部分这两个感应区域。此外,根据壳体102的大小等而适当设计外边缘部分的宽度。此外,另外,作为由操作面板122所采用的位置检测方式,能够列举出矩阵开关方式、电阻膜方式、表面弹性波方式、红外线方式、电磁感应方式和静电电容方式等,也能够采用其中任一种方式。
通话部130具备扬声器131和麦克风132,将通过麦克风132而输入的用户的声音转换为能够由主控制部100处理的声音数据而输出到主控制部100,对由无线通信部110或外部输入输出部160接收到的声音数据进行解码而从扬声器131输出。另外,如图18所示,例如,能够将扬声器131搭载于与设有显示输入部120的面相同的面,并将麦克风132搭载于壳体102的侧面。
操作部140可以是使用键开关等的硬件键,接受来自用户的指示。例如,如图18所示,操作部140是如下的按钮式的开关:搭载于智能手机101的壳体102的侧面,若利用手指等按下则接通,若使手指离开则通过弹簧等的恢复力而成为断开状态。
存储部150对主控制部100的控制程序、控制数据、应用软件、与通信对方的名称、电话号码等建立对应关系的地址数据、收发的电子邮件的数据、利用Web浏览下载的Web数据、下载的内容数据进行存储,并对流数据等暂时性地进行存储。另外,存储部150由智能手机内置的内部存储部151和具有装卸自如的外部存储器插槽的外部存储部152构成。另外,构成存储部150的各内部存储部151和外部存储部152使用闪存型(flash memory type)、硬盘型(hard disk type)、缩微多媒体卡型(multi media card micro type)、卡型的存储器(例如,Micro SD(注册商标)存储器等)、RAM(Random Access Memory)、ROM(Read Only Memory)等存储介质而实现。
外部输入输出部160起到与连接于智能手机101的所有外部设备的接口的作用,用于通过通信等(例如,通用串行总线(USB)、IEEE1394等)或网络(例如,互联网、无线LAN、蓝牙Bluetooth(注册商标)、RFID(Radio Frequency Identification:无线射频识别)、红外线通信(Infrared Data Association:IrDA)(注册商标)、UWB(Ultra WideBand)(注册商标)、紫蜂(Zig Bee)(注册商标)等)与其他外部设备直接或间接地连接。
作为与智能手机101连接的外部设备,例如具有:有/无线头戴式耳机、有/无线外部充电器、有/无线数据端口、经由卡插座而连接的存储卡(Memory card)、SIM(Subscriber Identity Module Card)/UIM(UserIdentity Module Card)卡、经由音频/视频I/O(Input/Output)端子而连接的外部音频/视频设备、无线连接的外部音频/视频设备、有/无线连接的智能手机、有/无线连接的个人计算机、有/无线连接的PDA、有/无线连接的个人计算机、耳机等。外部输入输出部能够将从这种外部设备接受了传送后的数据传递到智能手机101的内部的各结构要素,并能够将智能手机101的内部的数据传送到外部设备。
GPS接收部170按照主控制部100的指示,对从GPS卫星ST1~STn发送的GPS信号进行接收,并执行基于接收到的多个GPS信号的测位运算处理,对该智能手机101的由纬度、经度、高度构成的位置进行检测。GPS接收部170在能够从无线通信部110、外部输入输出部160(例如无线LAN)获取位置信息时,也能够使用该位置信息对位置进行检测。
运动传感器部180例如具备三轴加速度传感器等,能够按照主控制部100的指示,对智能手机101的物理性的移动进行检测。通过对智能手机101的物理性的移动进行检测,能够检测智能手机101的移动方向、加速度。该检测结果被输出到主控制部100。
电源部190按照主控制部100的指示将蓄积于蓄电池(未图示)的电力供给到智能手机101的各部。
主控制部100具备微处理器,按照存储部150所存储的控制程序、控制数据而动作,对智能手机101的各部集中地进行控制。另外,主控制部100为了通过无线通信部110进行声音通信、数据通信而具备对通信系统的各部进行控制的移动通信控制功能和应用处理功能。
按照存储部150所存储的应用软件使主控制部100动作从而实现应用处理功能。作为应用处理功能,例如,具有:对外部输入输出部160进行控制而与相向设备进行数据通信的红外线通信功能、进行电子邮件的收发的电子邮件功能、阅览Web网页的Web浏览功能等。
另外,主控制部100具备基于接收数据、下载的流数据等图像数据(静止图像、动态图像的数据)而将影像在显示输入部120显示等的图像处理功能。所谓图像处理功能是指,主控制部100对上述图像数据进行解码,对该解码结果实施图像处理,从而将图像在显示输入部120上显示的功能。
此外,主控制部100执行对显示面板121的显示控制和对通过了操作部140、操作面板122的用户操作进行检测的操作检测控制。
通过显示控制的执行,主控制部100对用于启动应用软件的图标、滚动条等软件键进行显示,或显示用于生成电子邮件的窗口。另外,所谓滚动条,是指对于没有完全收纳到显示面板121的显示区域的较大的图像等,用于接受使图像的显示部分移动的指示的软件键。
另外,通过操作检测控制的执行,主控制部100对通过了操作部140的用户操作进行检测,通过操作面板122接受对上述图标的操作、对上述窗口的输入栏的文字列的输入,或者接受通过滚动条的显示图像的滚动要求。
此外,通过操作检测控制的执行,主控制部100具备判定对操作面板122的操作位置是与显示面板121重叠的重叠部分(显示区域)还是除此以外的不与显示面板121重叠的外边缘部分(非显示区域),并对操作面板122的感应区域、软件键的显示位置进行控制的触摸面板控制功能。
另外,主控制部100检测对操作面板122的手势操作,根据检测出的手势操作,能够执行预先设定的功能。所谓手势操作并非以往的单纯的触摸操作,而是指利用手指等描绘轨迹或对多个位置同时进行指定、或将它们组合而从多个位置对至少一个位置描绘轨迹的操作。
相机部141是使用CMOS(Complementary Metal OxideSemiconductor:互补性金属氧化物半导体)、CCD(Charge-CoupledDevice:电荷耦合设备)等摄像元件进行电子摄影的数码相机。另外,相机部141能够通过主控制部100的控制,将通过摄像所得到的图像数据转换为例如JPEG(Joint Photographic coding Experts Group:联合图像专家小组)等压缩后的图像数据,记录于存储部150,或通过外部输入输出部160、无线通信部110而输出。如图18所示在智能手机101中,将相机部141搭载于与显示输入部120相同的面,但是相机部141的搭载位置不限于此,也可以搭载于显示输入部120的背面,或者搭载多个相机部141。另外,在搭载多个相机部141的情况下,也能够对提供摄影的相机部141进行切换而单独地进行摄影,或同时使用多个相机部141而进行摄影。
另外,相机部141能够用于智能手机101的各种功能。例如,能够在显示面板121显示由相机部141获取的图像、能够利用相机部141的图像作为操作面板122的操作输入之一。另外,在GPS接收部170对位置进行检测时,也能够对来自相机部141的图像进行参照而对位置进行检测。此外,也能够参照来自相机部141的图像,不使用三轴加速度传感器或与三轴加速度传感器并用,判断智能手机101的相机部141的光轴方向、判断当前的使用环境。当然也能够在应用软件内利用来自相机部141的图像。
此外,也能够在静止画面或动态画面的图像数据附加由GPS接收部170获取的位置信息、由麦克风132获取的声音信息(也可以利用主控制部等进行声音文本转换而成为文本信息)、由运动传感器部180获取的姿势信息等而记录于存储部150,或者通过外部输入输出部160、无线通信部110而输出。
另外,在上述的智能手机101中,相机部141作为图1的摄像部(12、12A、12B)而发挥功能,主控制部100作为图1的数字图像处理部(14、14A、14B)及图像放大处理部16而发挥功能,操作部140及操作面板122作为用户I/F17而发挥功能,主控制部100及外部输入输出部160作为图1的输入输出控制部18而发挥功能,存储部150作为图1的存储部20而发挥功能,显示面板121作为图1的显示部22而发挥功能。
附图标记说明
10…摄像单元,11…计算机,12…摄像部,12A…第一摄像部,12B…第二摄像部,14…数字图像处理部,16…图像放大处理部,17…用户I/F,18…输入输出控制部,20…存储部,22…显示部,24…信号输入输出I/F,30…图像摄影数据,32…摄像数据,34…摄影条件数据,36…图像摄影数据,38…放大图像数据,40…摄像装置,42…CPU,44…操作部,46…设备控制部,48…透镜部,50…快门,52…摄像元件,54…A/D转换器,55…显示部,56…存储器部,58…图像处理部,60…编码器,62…驱动器,64…光学低通滤光器,70…数据获取部,72…放大处理决定部,74…放大关联处理部,76…放大处理部,78…选择指示部,100…主控制部,101…智能手机,102…壳体,110…无线通信部,120…显示输入部,121…显示面板,122…操作面板,130…通话部,131…扬声器,132…麦克风,140…操作部,141…相机部,150…存储部,151…内部存储部,152…外部存储部,160…外部输入输出部,170…GPS接收部,180…运动传感器部,190…电源部。
Claims (22)
1.一种图像处理装置,被输入包含摄像数据的图像摄影数据,
所述图像处理装置具备:
数据获取单元,判别在所输入的所述图像摄影数据中是否包含摄影条件数据,且在判别为在所输入的图像摄影数据中包含摄影条件数据的情况下获取摄影条件数据的内容;及
放大处理决定单元,基于由所述数据获取单元获取的摄影条件数据的获取结果,决定与根据所述摄像数据生成放大图像数据的放大处理关联的放大关联处理执行与否、所述放大关联处理的处理参数和所述放大处理的处理参数中的至少任一个,
所述摄影条件数据包含与所述摄像数据的摄像生成时的光学低通滤光器的有无相关的信息。
2.一种图像处理装置,被输入包含摄像数据的图像摄影数据,
所述图像处理装置具备:
数据获取单元,判别在所输入的所述图像摄影数据中是否包含摄影条件数据,且在判别为在所输入的图像摄影数据中包含摄影条件数据的情况下获取摄影条件数据的内容;及
放大处理决定单元,基于由所述数据获取单元获取的摄影条件数据的获取结果,决定与根据所述摄像数据生成放大图像数据的放大处理关联的放大关联处理执行与否、所述放大关联处理的处理参数和所述放大处理的处理参数中的至少任一个,
所述摄影条件数据包含与所述摄像数据的摄像生成时所用的摄像部的滤色器的排列相关的信息。
3.根据权利要求1或2所述的图像处理装置,其中,
所述放大关联处理是对所述摄像数据的轮廓强调处理。
4.根据权利要求1~3中任一项所述的图像处理装置,其中,
所述放大处理的处理参数是所述放大处理中的放大率。
5.根据权利要求1~3中任一项所述的图像处理装置,其中,
所述放大处理的处理参数是所述放大处理中的插值处理的处理参数。
6.根据权利要求5所述的图像处理装置,其中,
所述插值处理基于样条插值处理法,
所述插值处理的处理参数是样条插值系数。
7.根据权利要求1~6中任一项所述的图像处理装置,其中,
被输入包含由多个摄像部摄像生成的所述摄像数据的所述图像摄影数据,所述多个摄像部至少包括第一摄像部和第二摄像部,
所述放大处理决定单元以在由所述第一摄像部摄像生成的所述图像摄影数据和由所述第二摄像部摄像生成的所述图像摄影数据之间使所述放大处理后的所述放大图像数据的画质包含于预定的容许范围的方式,决定所述放大关联处理执行与否、所述放大关联处理的处理参数和所述放大处理的处理参数中的至少任一个。
8.根据权利要求1~7中任一项所述的图像处理装置,其中,
还具备根据所述放大处理决定单元的决定结果进行所述放大关联处理的放大关联处理单元。
9.根据权利要求1~8中任一项所述的图像处理装置,其中,
还具备根据所述放大处理决定单元的决定结果进行所述放大处理的放大处理单元。
10.根据权利要求1~7中任一项所述的图像处理装置,其中,
还具备对所述放大处理决定单元的决定结果进行显示的显示单元。
11.根据权利要求10所述的图像处理装置,其中,
所述显示单元能够选择地显示关于所述放大关联处理执行与否的所述放大处理决定单元的决定结果的确定,
所述图像处理装置还具备接受与所述放大处理决定单元的决定结果的确定相关的用户的选择的选择单元,
所述放大处理决定单元根据经由所述选择单元而接受的选择结果,确定所述放大关联处理执行与否。
12.根据权利要求10所述的图像处理装置,其中,
由所述放大处理决定单元决定的所述放大关联处理的处理参数和所述放大处理的处理参数包含多个选择候补,
所述显示单元从所述多个选择候补之中能够选择地显示所述放大关联处理的处理参数和所述放大处理的处理参数,
所述图像处理装置还具备接受用户从所述多个选择候补之中的选择的选择单元,
所述放大处理决定单元根据经由所述选择单元而接受的选择结果,确定所述放大关联处理的处理参数和所述放大处理的处理参数。
13.根据权利要求10~12中任一项所述的图像处理装置,其中,
还具备根据确定出的所述放大关联处理执行与否和所述放大关联处理的处理参数进行所述放大关联处理的放大关联处理单元。
14.根据权利要求10~13中任一项所述的图像处理装置,其中,
还具备根据确定出的所述放大处理的处理参数进行所述放大处理的放大处理单元。
15.一种摄像装置,具备:
摄像单元,具有对包含摄像数据的图像摄影数据进行摄像生成的摄像部;及
权利要求1~14中任一项所述的图像处理装置。
16.一种摄像装置,具备:
摄像单元,具有至少包括第一摄像部和第二摄像部的多个摄像部;及
权利要求7所述的图像处理装置。
17.一种摄像装置,具备:
摄像单元,具有对包含摄像数据的图像摄影数据进行摄像生成的摄像部,摄像部能够从至少包括第一摄像部和第二摄像部的多个摄像部之中选择互换;及
权利要求7所述的图像处理装置。
18.一种计算机,具备权利要求1~14中任一项所述的图像处理装置。
19.一种图像处理方法,具备:
数据获取步骤,判别在包含摄像数据的图像摄影数据中是否包含摄影条件数据,且在判别为在所输入的图像摄影数据中包含摄影条件数据的情况下获取摄影条件数据的内容;及
放大处理决定步骤,基于所述摄影条件数据的获取结果,决定与根据所述摄像数据生成放大图像数据的放大处理关联的放大关联处理执行与否、所述放大关联处理的处理参数和所述放大处理的处理参数中的至少任一个,
所述摄影条件数据包含与所述摄像数据的摄像生成时的光学低通滤光器的有无相关的信息。
20.一种图像处理方法,具备:
数据获取步骤,判别在包含摄像数据的图像摄影数据中是否包含摄影条件数据,且在判别为在所输入的图像摄影数据中包含摄影条件数据的情况下获取摄影条件数据的内容;及
放大处理决定步骤,基于所述摄影条件数据的获取结果,决定与根据所述摄像数据生成放大图像数据的放大处理关联的放大关联处理执行与否、所述放大关联处理的处理参数和所述放大处理的处理参数中的至少任一个,
所述摄影条件数据包含与所述摄像数据的摄像生成时所用的摄像部的滤色器的排列相关的信息。
21.一种程序,用于使计算机执行如下步骤:
判别在包含摄像数据的图像摄影数据中是否包含摄影条件数据,且在判别为在所输入的图像摄影数据中包含摄影条件数据的情况下获取摄影条件数据的内容;及
基于所述摄影条件数据的获取结果,决定与根据所述摄像数据生成放大图像数据的放大处理关联的放大关联处理执行与否、所述放大关联处理的处理参数和所述放大处理的处理参数中的至少任一个,
所述摄影条件数据包含与所述摄像数据的摄像生成时的光学低通滤光器的有无相关的信息。
22.一种程序,用于使计算机执行如下步骤:
判别在包含摄像数据的图像摄影数据中是否包含摄影条件数据,且在判别为在所输入的图像摄影数据中包含摄影条件数据的情况下获取摄影条件数据的内容;及
基于所述摄影条件数据的获取结果,决定与根据所述摄像数据生成放大图像数据的放大处理关联的放大关联处理执行与否、所述放大关联处理的处理参数和所述放大处理的处理参数中的至少任一个,
所述摄影条件数据包含与所述摄像数据的摄像生成时所用的摄像部的滤色器的排列相关的信息。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012-183984 | 2012-08-23 | ||
JP2012183984 | 2012-08-23 | ||
PCT/JP2013/061876 WO2014030390A1 (ja) | 2012-08-23 | 2013-04-23 | 画像処理装置、撮像装置、コンピュータ、画像処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104584532A true CN104584532A (zh) | 2015-04-29 |
CN104584532B CN104584532B (zh) | 2017-07-28 |
Family
ID=50149710
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201380043509.8A Active CN104584532B (zh) | 2012-08-23 | 2013-04-23 | 图像处理装置、摄像装置、计算机、图像处理方法及程序 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9350962B2 (zh) |
JP (1) | JP5749406B2 (zh) |
CN (1) | CN104584532B (zh) |
WO (1) | WO2014030390A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107948498A (zh) * | 2017-10-30 | 2018-04-20 | 维沃移动通信有限公司 | 一种消除相机摩尔条纹方法及移动终端 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014030390A1 (ja) * | 2012-08-23 | 2014-02-27 | 富士フイルム株式会社 | 画像処理装置、撮像装置、コンピュータ、画像処理方法及びプログラム |
WO2015156152A1 (ja) | 2014-04-11 | 2015-10-15 | 富士フイルム株式会社 | 画像処理装置、撮像装置、画像処理方法及びプログラム |
EP3522106A1 (en) * | 2018-01-31 | 2019-08-07 | InterDigital CE Patent Holdings | A filter array enabling easy demosaicing |
JP6877654B2 (ja) * | 2018-08-30 | 2021-05-26 | 富士フイルム株式会社 | 撮像装置、撮像方法、及びプログラム |
KR102661114B1 (ko) | 2020-11-10 | 2024-04-25 | 삼성전자주식회사 | 카메라 모듈 검사 장치, 카메라 모듈 검사 방법 및 이미지 생성 장치 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000188689A (ja) * | 1998-10-14 | 2000-07-04 | Konica Corp | 画像処理方法及び画像処理システム |
JP2000268168A (ja) * | 1999-03-19 | 2000-09-29 | Fuji Photo Film Co Ltd | 画像変換方法および装置並びに記録媒体 |
JP2002369036A (ja) * | 2001-06-07 | 2002-12-20 | Fuji Photo Film Co Ltd | 画像処理方法 |
CN1604613A (zh) * | 2003-09-30 | 2005-04-06 | 松下电器产业株式会社 | 成像设备 |
CN1610412A (zh) * | 2003-10-23 | 2005-04-27 | 索尼株式会社 | 图像处理装置和图像处理方法以及程序 |
CN1835565A (zh) * | 2005-03-15 | 2006-09-20 | 佳能株式会社 | 图像捕获装置、图像传感器和图像捕获处理方法 |
US20080291312A1 (en) * | 2007-05-21 | 2008-11-27 | Yoshitaka Egawa | Imaging signal processing apparatus |
CN101588453A (zh) * | 2008-05-19 | 2009-11-25 | 三洋电机株式会社 | 图像处理装置、拍摄装置及图像处理方法 |
CN102450020A (zh) * | 2009-05-28 | 2012-05-09 | 美商豪威科技股份有限公司 | 四通道滤色器阵列内插 |
Family Cites Families (36)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3143209B2 (ja) | 1992-05-25 | 2001-03-07 | 株式会社リコー | 画像変倍装置 |
US5917963A (en) * | 1995-09-21 | 1999-06-29 | Canon Kabushiki Kaisha | Image processing apparatus and image processing method |
JP4131348B2 (ja) * | 1998-11-18 | 2008-08-13 | ソニー株式会社 | 画像処理装置及び画像処理方法 |
JP4599672B2 (ja) * | 1999-12-21 | 2010-12-15 | 株式会社ニコン | 補間処理装置および補間処理プログラムを記録した記録媒体 |
JP4081219B2 (ja) * | 2000-04-17 | 2008-04-23 | 富士フイルム株式会社 | 画像処理方法及び画像処理装置 |
JP2002024815A (ja) * | 2000-06-13 | 2002-01-25 | Internatl Business Mach Corp <Ibm> | 拡大画像データに変換するための画像変換方法、画像処理装置、および画像表示装置 |
JP2002262094A (ja) | 2001-02-27 | 2002-09-13 | Konica Corp | 画像処理方法及び画像処理装置 |
JP3750797B2 (ja) * | 2001-06-20 | 2006-03-01 | ソニー株式会社 | 画像処理方法および装置 |
JP2003061034A (ja) * | 2001-08-10 | 2003-02-28 | Canon Inc | 画像データ処理方法およびプリントシステム |
JP4250437B2 (ja) * | 2003-03-04 | 2009-04-08 | キヤノン株式会社 | 信号処理装置、信号処理方法およびプログラム |
JP2005056006A (ja) | 2003-08-07 | 2005-03-03 | Nikon Corp | モアレ低減装置およびプログラム |
US7889252B2 (en) * | 2004-11-30 | 2011-02-15 | Mitsubishi Electric Corporation | Image processing device, non-capture color signal calculating device, and image processing method |
JP2007011926A (ja) * | 2005-07-04 | 2007-01-18 | Fujifilm Holdings Corp | 画像処理方法および装置並びにプログラム |
JP5011814B2 (ja) * | 2006-05-15 | 2012-08-29 | ソニー株式会社 | 撮像装置、および画像処理方法、並びにコンピュータ・プログラム |
JP4983141B2 (ja) * | 2006-08-04 | 2012-07-25 | ソニー株式会社 | カラーフィルタ |
WO2008020487A1 (fr) * | 2006-08-17 | 2008-02-21 | Fujitsu Limited | dispositif de traitement d'image, programme DE TRAITEMENT D'IMAGE, et procédé de traitement d'image |
JP4893489B2 (ja) * | 2007-06-15 | 2012-03-07 | ソニー株式会社 | 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体 |
JP4962573B2 (ja) * | 2007-12-06 | 2012-06-27 | 富士通株式会社 | 画像処理装置 |
JP4586893B2 (ja) * | 2008-06-13 | 2010-11-24 | ソニー株式会社 | 信号処理装置および方法、並びにプログラム |
JP5075795B2 (ja) * | 2008-11-14 | 2012-11-21 | 株式会社東芝 | 固体撮像装置 |
KR100992362B1 (ko) * | 2008-12-11 | 2010-11-04 | 삼성전기주식회사 | 컬러 보간 장치 |
US20100157079A1 (en) * | 2008-12-19 | 2010-06-24 | Qualcomm Incorporated | System and method to selectively combine images |
US8111300B2 (en) * | 2009-04-22 | 2012-02-07 | Qualcomm Incorporated | System and method to selectively combine video frame image data |
JP4803284B2 (ja) * | 2009-07-08 | 2011-10-26 | カシオ計算機株式会社 | 画像処理装置、及び画像処理プログラム |
JP5631325B2 (ja) * | 2009-10-05 | 2014-11-26 | キヤノン株式会社 | 撮像装置の欠陥検出方法及び撮像装置 |
JP5387377B2 (ja) * | 2009-12-14 | 2014-01-15 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
JP2011130169A (ja) * | 2009-12-17 | 2011-06-30 | Sanyo Electric Co Ltd | 画像処理装置及び撮影装置 |
JP5724185B2 (ja) * | 2010-03-04 | 2015-05-27 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
JP2011216948A (ja) * | 2010-03-31 | 2011-10-27 | Sony Corp | カメラシステム、映像処理装置及びカメラ装置 |
JP5657375B2 (ja) * | 2010-12-24 | 2015-01-21 | オリンパス株式会社 | 内視鏡装置及びプログラム |
JP5178898B1 (ja) * | 2011-10-21 | 2013-04-10 | 株式会社東芝 | 画像信号補正装置、撮像装置、内視鏡装置 |
US9113059B2 (en) * | 2011-11-30 | 2015-08-18 | Canon Kabushiki Kaisha | Image pickup apparatus and image region discrimination method |
WO2013183379A1 (ja) * | 2012-06-08 | 2013-12-12 | 富士フイルム株式会社 | 画像処理装置、撮像装置、コンピュータ、画像処理方法及びプログラム |
CN104380706B (zh) * | 2012-06-11 | 2016-06-08 | 富士胶片株式会社 | 图像处理装置、摄像装置、计算机及图像处理方法 |
JP6083972B2 (ja) * | 2012-07-28 | 2017-02-22 | キヤノン株式会社 | 撮像装置 |
WO2014030390A1 (ja) * | 2012-08-23 | 2014-02-27 | 富士フイルム株式会社 | 画像処理装置、撮像装置、コンピュータ、画像処理方法及びプログラム |
-
2013
- 2013-04-23 WO PCT/JP2013/061876 patent/WO2014030390A1/ja active Application Filing
- 2013-04-23 CN CN201380043509.8A patent/CN104584532B/zh active Active
- 2013-04-23 JP JP2014531519A patent/JP5749406B2/ja active Active
-
2015
- 2015-02-20 US US14/627,233 patent/US9350962B2/en active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000188689A (ja) * | 1998-10-14 | 2000-07-04 | Konica Corp | 画像処理方法及び画像処理システム |
JP2000268168A (ja) * | 1999-03-19 | 2000-09-29 | Fuji Photo Film Co Ltd | 画像変換方法および装置並びに記録媒体 |
JP2002369036A (ja) * | 2001-06-07 | 2002-12-20 | Fuji Photo Film Co Ltd | 画像処理方法 |
CN1604613A (zh) * | 2003-09-30 | 2005-04-06 | 松下电器产业株式会社 | 成像设备 |
CN1610412A (zh) * | 2003-10-23 | 2005-04-27 | 索尼株式会社 | 图像处理装置和图像处理方法以及程序 |
CN1835565A (zh) * | 2005-03-15 | 2006-09-20 | 佳能株式会社 | 图像捕获装置、图像传感器和图像捕获处理方法 |
US20080291312A1 (en) * | 2007-05-21 | 2008-11-27 | Yoshitaka Egawa | Imaging signal processing apparatus |
CN101588453A (zh) * | 2008-05-19 | 2009-11-25 | 三洋电机株式会社 | 图像处理装置、拍摄装置及图像处理方法 |
CN102450020A (zh) * | 2009-05-28 | 2012-05-09 | 美商豪威科技股份有限公司 | 四通道滤色器阵列内插 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107948498A (zh) * | 2017-10-30 | 2018-04-20 | 维沃移动通信有限公司 | 一种消除相机摩尔条纹方法及移动终端 |
CN107948498B (zh) * | 2017-10-30 | 2019-10-18 | 维沃移动通信有限公司 | 一种消除相机摩尔条纹方法及移动终端 |
Also Published As
Publication number | Publication date |
---|---|
JP5749406B2 (ja) | 2015-07-15 |
US20150172614A1 (en) | 2015-06-18 |
US9350962B2 (en) | 2016-05-24 |
WO2014030390A1 (ja) | 2014-02-27 |
CN104584532B (zh) | 2017-07-28 |
JPWO2014030390A1 (ja) | 2016-07-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9172927B2 (en) | Imaging device, and image processing method | |
US10003731B2 (en) | Image element, and imaging device and imaging method using the same for achieving improved image quality regardless of an incident angle of light | |
US9148560B2 (en) | Imaging device, and image processing method | |
JP5830186B2 (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
CN104380706B (zh) | 图像处理装置、摄像装置、计算机及图像处理方法 | |
CN105103534B (zh) | 摄像装置及校准方法 | |
WO2015046045A1 (ja) | 撮像装置及び撮像方法 | |
US9172926B2 (en) | Imaging device, and image processing method | |
CN104823094B (zh) | 摄像装置及对焦控制方法 | |
CN104995912A (zh) | 摄像装置、图像处理装置、图像处理方法及程序 | |
CN104838646A (zh) | 图像处理装置、图像处理方法、程序及记录介质 | |
US9479689B2 (en) | Imaging device and focusing-verification display method | |
CN104380168A (zh) | 摄像装置及自动调焦方法 | |
CN104584532B (zh) | 图像处理装置、摄像装置、计算机、图像处理方法及程序 | |
CN104813648A (zh) | 图像处理装置、摄像装置、图像处理方法及图像处理程序 | |
CN105453534A (zh) | 图像处理装置、摄像装置、图像处理方法及程序 | |
JP5702891B2 (ja) | 画像処理装置、撮像装置、コンピュータ、画像処理方法及びプログラム | |
JP2009033385A (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置 | |
JP5680803B2 (ja) | 画像処理装置および方法ならびに撮像装置 | |
JP5740053B6 (ja) | 撮像装置及び画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |