CN101465943A - 图像处理设备、图像处理方法、程序和学习设备 - Google Patents
图像处理设备、图像处理方法、程序和学习设备 Download PDFInfo
- Publication number
- CN101465943A CN101465943A CNA2008101863807A CN200810186380A CN101465943A CN 101465943 A CN101465943 A CN 101465943A CN A2008101863807 A CNA2008101863807 A CN A2008101863807A CN 200810186380 A CN200810186380 A CN 200810186380A CN 101465943 A CN101465943 A CN 101465943A
- Authority
- CN
- China
- Prior art keywords
- fuzzy
- fuzzy quantity
- removal
- image
- pixels
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 180
- 238000003672 processing method Methods 0.000 title claims description 7
- 238000001514 detection method Methods 0.000 claims abstract description 47
- 238000003860 storage Methods 0.000 claims description 55
- 230000002093 peripheral effect Effects 0.000 claims description 27
- 238000012360 testing method Methods 0.000 claims description 15
- 230000004044 response Effects 0.000 claims description 9
- 230000000052 comparative effect Effects 0.000 claims description 3
- 238000000034 method Methods 0.000 abstract description 56
- 230000008569 process Effects 0.000 abstract description 6
- 230000014509 gene expression Effects 0.000 description 53
- 230000007850 degeneration Effects 0.000 description 32
- 101710163391 ADP-ribosyl cyclase/cyclic ADP-ribose hydrolase Proteins 0.000 description 25
- 230000008878 coupling Effects 0.000 description 18
- 238000010168 coupling process Methods 0.000 description 18
- 238000005859 coupling reaction Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 16
- 230000002950 deficient Effects 0.000 description 10
- 239000011159 matrix material Substances 0.000 description 8
- 238000012986 modification Methods 0.000 description 7
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 230000003412 degenerative effect Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 241001269238 Data Species 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 101150018765 OM14 gene Proteins 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000009792 diffusion process Methods 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/21—Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/20—Circuitry for controlling amplitude response
- H04N5/205—Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic
- H04N5/208—Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic for compensating for attenuation of high frequency components, e.g. crispening, aperture distortion correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
一种图像处理设备包括:模糊去除处理部分,配置为使用用于去除多个不同模糊量的模糊的多个模糊去除系数,对输入图像执行模糊去除处理,以产生多个不同的模糊去除结果图像;特征检测装置,配置为从每个所述不同的模糊去除结果图像中检测特征;模糊量种类确定部分,配置为从所述特征确定代表模糊量的种类的模糊量种类;以及预测处理部分,配置为执行输入图像的预定像素的像素值以及事先学习并且相应于所述模糊量种类的预测系数的数学运算,以产生去除了模糊的输出图像。
Description
与相关申请的交叉引用
本发明包含2007年12月21日提交日本专利局的日本专利申请JP2007-330454有关的主题,通过引用将其完整内容结合在此。
技术领域
本发明涉及图像处理设备、图像处理方法、程序和学习设备,尤其涉及可以去除由包括在图像中的不同距离处的多个不同图像拾取对象引起的模糊(blur)的图像处理设备、图像处理方法、程序和学习设备。
背景技术
已经提出了用于去除图像模糊的各种图像处理。
例如,已知一种方法,其中具有不同焦距并且被单独聚焦在前景、背景等上的多个图像被拾取,并且产生模糊控制图像,其上对前景和背景上的图像拾取对象的模糊程度进行了调整。在例如日本专利公开No.2002-77591(此后称为专利文档1)中公开了该方法。
还已知另一种方法,其中在小块单元内根据边缘的倾斜度是否超过预定的阈值确定是否建立了聚焦状态。考虑所述小块的离差(dispersion),优化所述阈值,并且将被确定为处于聚焦状态的那些小块彼此连接以提取聚焦区域。在例如日本专利公开No.2001-331806(此后称为专利文档2)中公开了该方法。
发明内容
然而,采用专利文档1公开的方法,预先假定事先拾取多个图像。因此,该方法具有的问题是该处理不能应用于已拾取的图像或通过广播传输的图像。
同时,采用专利文档2公开的方法,由于确定每个小块是否处于聚焦状态,不执行关于一个屏幕图像中具有不同模糊量的多个不同区域的确定。因此,在屏幕图像被分为多个区域的情况下,必须准备多个阈值。因此,该方法具有的问题是难以为每个输入图像以高精确度优化阈值。
因此,需要提供一种图像处理设备、图像处理方法、程序和学习设备,通过其可以最佳地去除由包括在图像内的不同距离处的多个不同图像拾取对象引起的模糊。
根据本发明的第一实施例,提供了一种包括模糊去除处理部分的图像处理设备,模糊去除处理部分配置为,使用用于去除多个不同模糊量的模糊的多个模糊去除系数,对输入图像执行模糊去除处理,以产生多个不同的模糊去除结果图像。该设备还包括特征检测部分,配置为从不同的模糊去除结果图像中的每一个检测特征;模糊量种类确定部分,配置为根据所述特征确定代表模糊量的种类的模糊量种类;以及预测处理部分,配置为执行对输入图像的预定像素的像素值以及事先学习并且相应于模糊量种类的预测系数的数学运算,以产生去除了模糊的输出图像。
可以这样配置图像处理设备,使得模糊量种类确定部分包括模糊量产生概率存储部分,配置为通过使用多个不同的模糊去除系数,从通过将多个不同模糊量的模糊添加到输入图像获得的模糊图像中去除模糊所获得所述多个不同的模糊去除结果图像中检测特征,以事先检测关于多个不同模糊量中的每一个的特征频率分布,并且为每个特征存储代表模糊量的产生概率的概率分布。模糊量种类确定部分从关于特征检测部分检测到的特征的存储在模糊量产生概率存储部分中的概率分布,将表现出最高产生概率的一个模糊量确定为模糊量种类。
这种情况下,还可以这样配置图像处理设备,使得特征检测部分检测关于相应于感兴趣的像素的每个模糊去除结果图像的像素和感兴趣的像素周围的外围像素中的每一个的特征,并且在相同模糊量中,模糊量种类确定部分增加相应于特征检测部分检测的每个特征的模糊量的产生概率,并且从增加结果确定相应于感兴趣的像素的模糊量种类。
另外,还可以这样配置这种图像处理设备,使得模糊量种类确定部分还包括噪声信息存储部分,配置为通过使用多个模糊去除系数,从通过将噪声增加到平坦图像获得的噪声添加图像中去除模糊所获得多个不同的模糊去除结果图像中事先检测特征,以存储代表噪声的特征的产生概率的信息。模糊量种类确定部分不执行感兴趣的像素和感兴趣的像素周围的外围像素的特征中由噪声产生的概率高的特征的模糊量的产生概率的增加。
还可以这样配置图像处理设备,使得特征检测部分对相应于感兴趣的像素的每个模糊去除结果图像的像素和相应于感兴趣的像素的像素周围的特定区域中的多个像素的像素值和阈值彼此进行比较,并且响应比较结果为每个模糊量检测特征。模糊量种类确定部分响应特征检测部分的检测结果确定模糊量种类。
可以这样配置该图像处理设备,使得特征检测部分包括第一图像特性检测部分,配置为从相应于感兴趣的像素的输入图像的像素和感兴趣的像素周围的外围像素检测第一图像特性。特征检测部分还包括第二图像特性检测部分,配置为从相应于感兴趣的像素的每个模糊去除结果图像的像素和感兴趣的像素周围的外围像素检测第二图像特性。模糊量种类确定部分包括特征属性值存储部分,配置为将多个图像以第一图像特性按像素单元进行分类,并且为每个第一图像特性检测和存储第二图像特性的属性值。模糊量种类确定部分从特征属性值存储部分获取相应于第一图像特性检测部分检测的第一图像特性的第二图像特性的属性值,随后模糊量种类确定部分对第二图像特性检测部分检测到的第二图像特性和所获取的属性值彼此进行比较,以确定模糊量种类。
根据第一实施例,还提供了一种图像处理方法,包括步骤:使用用于去除多个不同模糊量的模糊的多个模糊去除系数对输入图像执行模糊去除处理,以产生多个不同的模糊去除结果图像。该方法还包括步骤:从每个不同的模糊去除结果图像检测特征,从所述特征确定代表模糊量的种类的模糊量种类,并且执行输入图像的预定像素的像素值以及事先学习的并且相应于所述模糊量种类的预测系数的数学运算,以产生去除了模糊的输出图像。
根据本实施例,还提供了用于使得计算机执行图像处理的程序,包括步骤:使用用于去除多个不同模糊量的模糊的多个模糊去除系数对输入图像执行模糊去除处理,以产生多个不同的模糊去除结果图像。用于使得计算机执行图像处理的程序还包括步骤:从每个不同的模糊去除结果图像检测特征,从所述特征确定代表模糊量的种类的模糊量种类,并且执行事先学习的并且相应于该模糊量种类的预测系数和输入图像的预定像素的像素值的数学运算,以产生去除了模糊的输出图像。
在所述图像处理设备和方法以及程序中,使用用于去除多个不同模糊量的模糊的多个模糊去除系数对输入图像执行模糊去除处理,以产生多个不同的模糊去除结果图像。然后,从所述不同的模糊去除结果图像中检测到的特征,确定代表模糊量的种类的模糊量种类。然后,执行事先学习的并且相应于该模糊量种类的预测系数和输入图像的预定像素的像素值的数学运算,以产生去除了模糊的输出图像。
使用所述图像处理设备和方法以及程序,可以最佳地去除由包括在图像中的不同距离处的多个不同的图像拾取对象产生的模糊。
根据本发明的第二实施例,提供了一种学习设备,用于学习去除图像模糊的图像处理设备所使用的预测系数。学习设备包括:模糊增加部分,配置为将模糊添加到作为教师图像输入并且没有模糊的输入图像以产生学生图像,以及模糊去除处理部分,配置为使用用于去除多个不同模糊量的多个模糊去除系数,对学生图像执行模糊去除处理,以产生多个不同的模糊去除结果图像。学习设备还包括特征检测部分,配置为从每个不同的模糊去除结果图像检测特征,模糊量种类确定部分,配置为从所述特征确定代表模糊量的种类的模糊量种类,以及数学运算部分,配置为使用学生图像和教师图像确定每个模糊量种类的预测系数。
还可以这样配置该学习设备,使得模糊量种类确定部分包括模糊量产生概率存储部分,配置为通过使用多个不同的模糊去除系数,从通过将多个不同模糊量的模糊添加到输入图像获得的模糊图像中去除模糊所获得的多个不同的模糊去除结果图像中检测特征,以事先检测关于多个不同模糊量中的每一个的特征的频率分布,并且为每个特征存储代表模糊量的产生概率的概率分布。模糊量种类确定部分从关于特征检测部分检测到的特征的存储在模糊量产生概率存储部分中的概率分布,将表现出最高产生概率的一个模糊量确定为模糊量种类。
这种情况下,还可这样配置所述学习设备,使得特征检测部分检测关于相应于感兴趣的像素的每个模糊去除结果图像的像素和感兴趣的像素周围的外围像素中的每一个的特征,并且在相同模糊量中,模糊量种类确定部分增加相应于特征检测部分检测的每个特征的模糊量的产生概率,并且从增加结果确定相应于感兴趣的像素的模糊量种类。
另外,还可以这样配置这种学习设备,使得模糊量种类确定部分还包括噪声信息存储部分,配置为通过使用多个模糊去除系数,从通过将噪声增加到平坦图像获得的噪声添加图像中去除模糊获得的多个不同的模糊去除结果图像中事先检测特征,以存储代表噪声的特征的产生概率的信息。模糊量种类确定部分不执行感兴趣的像素和感兴趣的像素周围的外围像素的特征中由噪声产生的概率高的特征的模糊量的产生概率的增加。
还可以这样配置学习设备,使得特征检测部分对相应于感兴趣的像素的每个模糊去除结果图像的像素和相应于感兴趣的像素的像素周围的特定区域中的多个像素的像素值和阈值彼此进行比较,并且响应于比较结果为每个模糊量检测特征,并且模糊量种类确定部分响应于特征检测部分的检测结果确定模糊量种类。
可以这样配置学习设备,使得特征检测部分包括第一图像特性检测部分,配置为从相应于感兴趣的像素和感兴趣的像素周围的外围像素的输入图像的像素检测第一图像特性。此外,特征检测部分还包括第二图像特性检测部分,配置为从相应于感兴趣的像素和感兴趣的像素周围的外围像素的每个模糊去除结果图像的像素检测第二图像特性。模糊量种类确定部分包括特征属性值存储部分,配置为将多个图像以第一图像特性按像素单元进行分类,并且为每个第一图像特性检测和存储第二图像特性的属性值。模糊量种类确定部分从特征属性值存储部分获取相应于第一图像特性检测部分检测的第一图像特性的第二图像特性的属性值,随后,模糊量种类确定部分对第二图像特性检测部分检测到的第二图像特性和所获取的属性值彼此进行比较,以确定模糊量种类。
在学习设备中,模糊被添加到作为教师图像输入并且没有模糊的输入图像以产生学生图像,并且使用用于去除多个不同模糊量的多个模糊去除系数,对学生图像执行模糊去除处理,以产生多个不同的模糊去除结果图像。然后,根据从所述不同的模糊去除结果图像中检测到的特征,确定代表模糊量的种类的模糊量种类。然后,使用学生图像和教师图像确定每个模糊量种类的预测系数。
采用该学习设备,可以确定图像处理设备中使用的预测系数,其最佳地去除由包括在图像中的不同距离处的多个不同的图像拾取对象产生的模糊。
附图说明
图1示出应用本发明的图像处理设备的配置例子的方框图;
图2示出输入图像例子的示意图;
图3示出模糊去除系数学习设备的配置例子的方框图;
图4示出感兴趣的像素的预测抽头集的例子的图示;
图5示出图1的图像处理设备进行的图像处理的流程图;
图6示出模糊去除图像的例子的示意图;
图7示出模糊量种类生成部分的第一形式的示意视图;
图8示出模糊量种类生成部分的第一形式的配置例子的方框图;
图9示出第一模糊量种类生成处理流程图;
图10是示出模糊量种类生成部分的第二形式的操作的图;
图11和12示出模糊量种类生成部分的第二形式的操作流程图;
图13是示出模糊量种类生成部分的第二形式的操作的图;
图14示出模糊量种类生成部分的第二形式的配置例子的方框图;
图15示出第二模糊量种类生成处理的流程图;
图16示出模糊量种类生成部分的第二形式的另一个配置例子的方框图;
图17示出模糊量种类生成部分的第三形式的方框图;
图18示出模糊量种类生成部分的第三形式的配置例子的方框图;
图19示出第三模糊量种类生成处理的流程图;
图20示出模糊量种类生成部分的第三形式的另一个配置例子的方框图;
图21是示出模糊量种类生成部分的第三形式的操作的视图;
图22示出模糊量种类生成部分的第三形式的噪声数据库生成部分的配置例子的方框图;
图23示出模糊量种类生成部分的第三形式的另一个配置例子的方框图;
图24示出学习预测系数的预测系数学习设备的配置例子的方框图;
图25示出应用本发明的计算机的配置例子的方框图;和
图26、27和28示出图1的图像处理设备的处理效果的示意图。
具体实施方式
首先参考图1,图1示出了应用本发明的图像处理设备的配置例子。
示出的图像处理设备1包括去除系数ROM10,模糊去除处理部分11a到11f,感兴趣的像素设置部分12,模糊量种类生成部分13,预测系数ROM14和预测处理部分15。
图像处理设备1接收具有多个对象区域的图像作为其输入图像,根据图像拾取对象和照相机之间的距离,所述对象区域具有彼此不同模糊量。图像处理设备1输出从中去除了输入图像的模糊的图像作为输出图像。
图2示出了将输入所述图像处理设备1的输入图像的例子。
通过照相机拍摄放置在预定平坦表面22上的玩具飞机21(此后仅称为飞机21)的图像获得图2所示的图像,即输入图像。如果,例如,注意图2所示的图像的平坦表面22的部分区域31,飞机21的部分区域32和飞机21的背景23的部分区域33,则在区域31到33中,所包括的图像拾取对象和照相机之间的距离不同。因此,具有这样多个对象区域(如刚才描述的,根据图像拾取对象和照相机之间的距离,所述多个对象区域具有不同模糊量)的图像被输入作为图像处理设备1的处理对象的图像。
参考图1,去除系数ROM10存储被模糊去除处理部分11a到11f单独使用的模糊去除系数。注意,模糊去除系数在模糊去除处理部分11a到11f之间是不同的。
模糊去除处理部分11a到11f给模糊量种类生成部分13提供模糊去除结果图像(此后被简称为模糊去除图像),是去除应用于输入图像的预定量的模糊的模糊去除处理的结果。当对输入图像应用模糊去除处理时,模糊去除处理部分11a到11f使用不同模糊量。例如,模糊去除处理部分11a执行去除输入图像的数量a的模糊的模糊去除处理,并且模糊去除处理部分11b执行去除输入图像的另一数量b的模糊的模糊去除处理。类似地,模糊去除处理部分11c到11f去除的模糊量分别为模糊量c到f,并且假设,例如,模糊量a到f按这个顺序(即按a,b,c,d,e和f的顺序)减小。
模糊去除处理部分11a连续地将输入图像的像素设置为感兴趣的像素,并且提取相对于所述感兴趣的像素的预定区域内的像素(即像素的像素值)作为预测抽头。此外,模糊去除处理部分11a提取相对于所述感兴趣的像素的所述预定区域内的像素(即像素的像素值)作为种类抽头,以将感兴趣的像素划分到预定种类中。种类抽头和预测抽头可以彼此相同或不同。另外,模糊去除处理部分11a从去除系数ROM10获取用于相应于从种类抽头确定的种类代码的模糊量a的模糊去除系数。然后,模糊去除处理部分11a执行形成预测抽头的像素的像素值和从去除系数ROM10获取的用于模糊量a的模糊去除系数的积和数学运算,以确定当去除模糊量a的模糊时,感兴趣的像素的像素量。
以x1到xN表示形成预测抽头的像素的像素值,并且以w1到wN表示从去除系数ROM10提供的预定种类的模糊量a的模糊去除系数,可用下面的表达式(1)表示当去除模糊量a的模糊时,用于确定感兴趣的像素的像素值y的积和数学运算:
y=w1x1+w2x2+…+wNxN …(1)
另外,模糊去除处理部分11b到11f执行类似于模糊去除处理部分11a的处理,除了模糊量不同之外。具体地,模糊去除处理部分11b到11f单独地从去除系数ROM10获取分别用于模糊去除处理部分11b到11f的模糊去除系数,并且执行模糊去除系数和各个预测抽头的像素值的积和数学运算。
感兴趣的像素设置部分12连续地将形成输出图像的每个像素设置为感兴趣的像素。模糊量种类生成部分13、预测系数ROM14和预测处理部分15对感兴趣的像素设置部分12设置的感兴趣的像素执行相应的处理。在模糊量种类生成部分13对感兴趣的像素执行预定的处理的情况下,由于模糊去除图像必须被从模糊去除处理部分11a到11f输出,在模糊去除处理部分11a到11f中设置的上述感兴趣的像素和由感兴趣的像素设置部分12设置的感兴趣的像素彼此不同或彼此独立。在下面的描述中,术语“感兴趣的像素”表示由感兴趣的像素设置部分12设置的感兴趣的像素。
模糊量种类生成部分13使用从模糊去除处理部分11a到11f各自提供的模糊去除图像,以将每个感兴趣的像素的模糊量划分到预定的种类,并且将得到的模糊量种类代码提供给预测系数ROM14。此后参考从图6开始的图,描述模糊量种类生成部分13如何计算代表感兴趣的像素的模糊量的模糊量种类代码。
预测系数ROM14存储相应于下面参考图24描述的预测系数学习设备221确定的各个模糊量种类的预测系数。如果一个预定的模糊量种类代码被从模糊量种类生成部分13提供到预测系数ROM14,则预测系数ROM14将相应于该模糊量种类代码的预测系数提供给预测处理部分15。
预测处理部分15将相对于该感兴趣的像素的预定区域设置为预测抽头范围,并且将包括在设置的预测抽头范围内的输入图像的每个像素设置为预测抽头,通过预测抽头的像素值和预测系数的积和数学运算,计算形成输出图像的感兴趣的像素的像素值。
现在,描述存储在去除系数ROM10内的模糊去除系数的生成方法。
图3示出用于确定存储在去除系数ROM10内的模糊去除系数的模糊去除系数学习设备41的配置例子。
参考图3,示出的模糊去除系数学习设备41包括模糊增加部分42和学习部分43。
没有模糊的图像被作为教师图像或输入图像输入到模糊去除系数学习设备41,并且被提供到模糊增加部分42和学习部分43。
模糊增加部分42人为地将模糊添加到输入图像,以产生其上具有模糊的图像,并且将产生的图像作为学生图像提供给学习部分43。具体地,模糊增加部分42根据下面的表达式(2)产生学生图像:
其中,X(x+i,y+j)表示坐标X(x+i,y+j)处的没有模糊出现的教师图像的像素值,并且通过对以加权系数W(i,j)乘以这种像素值X(x+i,y+j)获得的值进行卷积,产生出现模糊的学生图像的像素值Y(x,y)。加权系数W(i,j)是高斯函数,如以下面的表达式(3)给出的,它表示由透镜的离焦状态产生的模糊:
其中参数σ相应于模糊,并且随着参数σ的值增加,模糊也增加。相反,随着参数σ的值减小,模糊也减小。
根据表达式(2)和(3),通过将从x坐标为x+i并且y坐标为y+j的位置处的像素扩散而来的像素值积分到x坐标为x并且y坐标为y的位置处的感兴趣的像素,确定添加模糊之后的感兴趣的像素的像素值。
学习部分43使用输入图像作为教师图像并且使用从模糊增加部分42提供的图像作为学生图像,建立标准方程,并且以最小平方法执行学习处理以计算模糊去除系数。下面,简要描述模糊去除系数的确定方法,其中建立和求解标准方程。还应注意,预测处理部分15从预测系数ROM14获取的并且用于与预测抽头的像素值的积和数学运算的预测系数的确定方法与此类似。
上面给出的表达式(1)可被表示为下面的表达式(1’):
其中xn是添加了模糊的学生图像的第n个像素的像素值(此后适当称为低图像质量像素),该像素形成关于没有模糊的教师图像的像素(此后被适当地称为高图像质量像素)y的预测抽头,并且wn是将被第n个低图像质量像素的像素值相乘的第n个模糊去除系数或预测系数。
现在,如果以yk表示第k个样本的高图像质量像素的像素值的真实值,并且以yk’表示基于表达式(1’)获得的真实值yk的预测值,则以下面的表达式(4)表示预测值yk’的预测误差ek:
ek=yk-yk′ ...(4)
由于根据表达式(1’)确定表达式(4)的预测值yk’,如果根据表达式(1’)取代表达式(4)的yk’,则获得下面的表达式(5):
其中xn,k是形成关于第k个样本的高图像质量像素的预测抽头的第n个低图像质量像素。
虽然对于高图像质量像素的预测来说,表达式(5)(或表达式(4))的预测误差ek为0的模糊去除系数wn是最佳的,一般难以为所有高图像质量像素确定这种模糊去除系数wn。
因此,如果例如采用最小平方法作为表示模糊去除系数wn最优的模型,则可以通过最小化下面的表达式(6)表示的平方误差的总和E,确定最佳的模糊去除系数wn:
其中k是一组高质量像素yk和形成关于高质量像素yk的预测抽头的低图像质量像素x1,k,x2,k,...,xN,k的样本数目,即用于学习的样本的数目。
如表达式(7)给出的,以对模糊去除系数wn的偏微分为0的wn给出表达式(6)的平方误差总和E的最小值:
(n=1,2,…,N)...(7)
因此,如果以模糊去除系数wn对上面给出的表达式(5)进行偏微分,则获得下面的表达式(8):
(k=1,2,…,K)...(8)
根据表达式(7)和(8)获得下面的表达式(9):
通过将表达式(5)代入表达式(9)中的ek,可由以下面的表达式(10)给出的标准方程表示表达式(9):
可以例如通过使用扫除法(Gauss-Jordan消除处理)求解表达式(10)的标准方程以获得模糊去除系数wn。
通过为每个种类建立并且求解表达式(10)的标准方程,可以为每个种类确定最优模糊去除系数wn,这里是最小化平方误差总和E的模糊去除系数。将以上述方式确定的模糊去除系数存储在去除系数ROM10内。
这里,假设存储在去除系数ROM10内的模糊去除系数是参数σ被设置为σ=0.3,0.6,1.2,1.8,2.4,2.7的模糊去除系数。具体地,模糊去除处理部分11a执行相应于参数σ=0.3的模糊去除处理;模糊去除处理部分11b执行相应于参数σ=0.6的模糊去除处理;模糊去除处理部分11c执行相应于参数σ=1.2的模糊去除处理;模糊去除处理部分11d执行相应于参数σ=1.8的模糊去除处理;模糊去除处理部分11e执行相应于参数σ=2.4的模糊去除处理;模糊去除处理部分11f执行相应于参数σ=2.7的模糊去除处理。
图4示出了预测处理部分15为一个感兴趣的像素设置的预测抽头的例子。
预测处理部分15根据在学习中使用的模糊参数σ中的最大模糊参数σmax确定预测抽头范围,在上面的例子中,参数σmax=2.7。更具体地,预测处理部分15确定以感兴趣的像素为圆心以3×σmax为半径的圆内的范围作为预测抽头范围。这是因为,为了对表现出σmax的模糊的区域获得足够的模糊去除结果,需要大小诸如半径为3×σmax的预测抽头。例如,图4示出了参数σmax被设置为σmax的预测抽头。
参考图5描述图像处理设备1进行的图像处理,即,模糊去除处理。
首先,在步骤S1,模糊去除处理部分11a到11f单独对输入图像执行用于去除模糊量a到f的模糊的模糊去除处理,并且将相应于模糊量a到f的模糊去除图像提供给模糊量种类生成部分13。
在步骤S2,感兴趣的像素设置部分12将输出图像的预定像素设置为感兴趣的像素。
在步骤S3,模糊量种类生成部分13使用从模糊去除处理部分11a到11f提供的模糊去除图像,将感兴趣的像素的模糊量划分到预定的种类,并且将得到的模糊量种类代码提供给预测系数ROM14。
在步骤S4,预测系数ROM14将相应于从模糊量种类生成部分13提供给它的模糊量种类代码的预测系数提供给预测处理部分15。
在步骤S5,预测处理部分15执行预测抽头的像素值和预测系数的积和数学运算,以计算形成输出图像的感兴趣的像素的像素值或输出像素值。
在步骤S6,预测处理部分15判定是否为输出图像的所有像素确定了输出像素值。如果在步骤S6判定尚未为输出图像的所有像素确定输出像素值,则处理返回步骤S2,从而再次执行以步骤S2开始的步骤的处理。具体地,将尚未确定输出像素值的像素设置为感兴趣的像素,并且然后确定输出像素值。
另一方面,如果在步骤S6确定为输出图像的所有像素确定了输出像素值,则处理结束。
如上所述,图像处理设备1基于以各种模糊量执行的输入图像的模糊去除处理的结果,将输入图像的每个像素的模糊量划分到预定的种类,并且然后使用基于被划分的模糊量种类代码确定的预测系数执行积和数学运算,以产生去除了模糊的输出图像或输出像素值。
可以采用各种方法实现模糊量种类生成部分13的模糊量种类的分类方法,并且下面描述模糊量种类生成部分13的各种形式。
首先,描述模糊量种类生成部分13的第一形式。
图6示出了模糊去除处理部分11a到11f分别以模糊参数σ=0.3,0.6,1.2,1.8,2.4对图2的输入图像进行了模糊去除处理之后的区域31到33的模糊去除图像。
参考图6,上层示出了区域33的模糊去除图像,并且中层示出了区域32的模糊去除图像,而下层示出了区域31的模糊去除图像。
在区域31到33中,区域33中的图像拾取对象距离照相机最远地放置,并且在模糊去除结果中,相应于5个不同的参数σ中的参数σ=1.8的模糊去除图像为最佳。
同时,在区域31到33中,区域31中的图像拾取对象距离照相机最近地放置,并且在模糊去除结果中,相应于5个不同的参数σ中的参数σ=0.6的模糊去除图像为最佳。
另一方面,区域32中的图像拾取对象居中地放置在区域31到33中的图像拾取对象之间,并且在模糊去除结果中,相应于5个不同的参数σ中的参数σ=1.2的模糊去除图像为最佳。
因此,可以认识到,被认为是最优的模糊去除参数根据输入图像中的每个区域内的模糊程度而不同。
另外,根据图6所示的模糊去除图像,以超过被视为良好模糊量的参数σ去除模糊的模糊去除图像具有这样的缺陷,即,随之出现强烈的环(ringing)。例如,在区域33中,在参数σ=2.4的模糊去除图像上观察到缺陷;在区域32中,在参数σ=1.8的模糊去除图像上观察到缺陷;并且在区域31中,在参数σ=1.2的模糊去除图像上观察到缺陷。
因此认为,当逐渐增加参数σ以执行模糊去除处理时,首先出现缺陷的参数根据输入图像中的每个像素的模糊程度而不同。
这里,第一形式的模糊量种类生成部分13(此后称为模糊量种类生成部分131)通过检测首先出现缺陷的模糊去除图像,计算代表感兴趣的像素的模糊量的模糊量种类代码。
具体地,模糊量种类生成部分131设置如图4所示的以感兴趣的像素为中心的这种圆形区域,并且对该区域内满足下面的表达式(11)的像素数目进行计数:
|Z(x,y)-Offset(x,y)|≥阈值 ...(11)
其中Z(x,y)是模糊去除图像的像素(x,y)的像素值,并且Offset(x,y)和阈值可被分别设置,例如Offset(x,y)=0并且阈值=255。此后该方法被称为第一形式的第一计数方法。这个例子中,意味着模糊量种类生成部分131对超过输入图像的亮度级别的上限255的模糊去除图像的像素数目进行计数。
或者,在表达式(11)中,例如,Offset(x,y)可被设置为输入图像的像素值,并且阈值可被设置为预定值(此后称为第一形式的第二计数方法)。这个例子中,意味着模糊量种类生成部分131对这样的像素的数目进行计数,这些像素相对于输入图像表现出模糊去除图像的像素值的大变化(高于阈值)。可以事先通过试验将阈值设置为最优值。
图7示出了上述的第一或第二计数方法的计数结果。
模糊量种类生成部分131基于第一或第二计数方法的计数结果产生模糊量种类代码。
例如,如果计数结果为“0”,则模糊量种类生成部分131分配“0”的代码,但是如果计数结果是“除0之外的任意值”,则模糊量种类生成部分131分配另一代码“1”,以产生退化的模糊量种类代码。这种判决方法此后被称为第一形式的第一判决方法。
图7的“种类代码0/1判决”示出了相应于图7所示的“计数结果”的以第一判决方法产生的模糊量种类代码。
或者,如果计数结果高于最大值和最小值之间的中间值,即,高于((最大值-最小值)/2),则模糊量种类生成部分131可以分配“1”的代码,但是如果计数结果低于该中间值,则模糊量种类生成部分131可以分配另一代码“0”,以产生退化的模糊量种类代码。这种判决方法此后称为第一形式的第二判决方法。
图7的“种类代码阈值判决”示出了相应于图7所示的“计数结果”的以第二判决方法产生的模糊量种类代码。
注意,除了上述的第一和第二判决方法之外,还可以采用某些其他判决方法。例如,计数结果的最大值和最小值之间的差DR=(最大值-最小值)根据输入图像的模糊量是大还是小而不同。具体地,当输入图像的模糊量小时,可能出现缺陷,并且最大值和最小值之间的差DR大。相反,当输入图像的模糊量大时,最大值和最小值之间的差DR小。因此,可以添加最大值和最小值之间的差DR的值作为一个模糊量种类。这使得更易于区分输入图像的模糊量。
图8示出了模糊量种类生成部分13,特别地,通过执行第一或第二判决方法产生模糊量种类代码的模糊量种类生成部分131的配置例子。
参考图8,模糊量种类生成部分131包括特征计算部分81a到81f,阈值计算部分82,阈值判决部分83a到83f和模糊量种类输出部分84。
作为模糊去除处理部分11a执行的模糊去除处理的结果的模糊去除图像被提供给特征计算部分81a。此后这种模糊去除图像被恰当称为模糊量a的模糊去除图像。将作为模糊去除处理部分11b执行的模糊去除处理的结果的模糊去除图像提供给特征计算部分81b。此后这种模糊去除图像被恰当称为模糊量b的模糊去除图像。另外,将作为由模糊去除处理部分11c到11f执行的模糊去除处理的结果的模糊去除图像分别提供给特征计算部分81c到81f。此后这种模糊去除图像被分别恰当称为模糊量c到f的模糊去除图像。
特征计算部分81a相对于感兴趣的像素设置如图4所示的这种圆形区域,并且判定包括在设置区域内的模糊量a的模糊去除图像的那些像素中的每一个是否满足表达式(11)。然后,特征计算部分81a对满足表达式(11)的那些像素的数目计数,并且将计数结果作为感兴趣的像素的特征提供给阈值判决部分83a。另外,特征计算部分81b到81f分别对模糊去除处理部分11b到11f的模糊去除图像执行类似的处理。
当特征计算部分81a到81f采用第一计数方法时,阈值计算部分82将255作为表达式(11)的阈值提供给特征计算部分81a到81f,但是当采用第二计数方法时,阈值计算部分82将事先设置的值作为阈值提供给特征计算部分81a到81f。
另外,当阈值判决部分83a到83f采用第二判决方法时,阈值计算部分82获取特征计算部分81a到81f的计数结果,并且将计数结果中的最大值和最小值之间的中间值提供给阈值判决部分83a到83f。
阈值判决部分83a基于第一或第二判决方法将来自特征计算部分81a的计数结果转化为“0”或“1”的代码或输出代码,并且输出该输出代码。具体地,当采用第一判决方法时,阈值判决部分83a基于从特征计算部分81a提供给它的计数结果是否是“0”来确定代码,但是当采用第二判决方法时,阈值判决部分83a根据从特征计算部分81a提供给它的计数结果是否高于从阈值计算部分82提供给它的计数结果中的最大值和最小值之间的中间值,来确定“0”或“1”的代码。这类似地也适用于阈值判决部分83b到83f。
模糊量种类输出部分84以预定顺序连接从阈值判决部分83a到83f提供给它的“0”或“1”的输出代码,并且输出这些输出代码的连接作为6比特的模糊量种类代码。
图9示出了模糊量种类生成部分131的模糊量种类生成处理,即,第一模糊量种类生成处理。
参考图9,所示出的第一模糊量种类生成处理中,特征计算部分81a首先在步骤S21相对于感兴趣的像素设置如图4所示的这种圆形区域,并且对满足表达式(11)的像素的数目计数。将计数结果作为感兴趣的像素的特征提供给阈值判决部分83a。特征计算部分81b到81f也对满足表达式(11)的像素的数目计数,并且分别将计数结果提供给阈值判决部分83b到83f。
在步骤S22,阈值计算部分82将表达式(11)的阈值提供给阈值判决部分83a到83f。当阈值判决部分83a到83f采用第二判决方法时,阈值计算部分82获取特征计算部分81a到81f的计数结果,计算计数结果中最大值和最小值之间的中间值,并且将计算的中间值提供给阈值判决部分83a到83f。
在步骤S23,阈值判决部分83a基于来自特征计算部分81a的计数结果输出“0”或“1”的代码。阈值判决部分83b到83f也类似地基于来自特征计算部分81b到81f的计数结果分别输出“0”或“1”的代码。
在步骤S24,模糊量种类输出部分84产生并且输出模糊量种类代码。具体地,模糊量种类输出部分84将从阈值判决部分83a到83f输出的“0”或“1”的代码以预定顺序彼此连接,并且输出连接的代码作为6比特的模糊量种类代码,从而结束该处理。
现在,描述模糊量种类生成部分13的第二形式。
根据第二形式的模糊量种类生成部分13基于统计数据产生模糊量种类代码。所述的模糊量种类生成部分13此后称为模糊量种类生成部分132。
例如,当像素值(特别是关于x方向的相邻像素)之间的相邻差绝对值|X(x,y)-X(x+1,y)|被确定为特征,并且图像的大部分(像素的像素值)被用于产生该特征的频率分布时,获得如图10所示的结果。可以从图10认识到,作为特征的相邻差绝对值的上限值,即,该特征的属性值为191,并且对于所述许多图像的全部,该相邻差绝对值很可能小于191。
以图11所示的特征上限值计算处理确定图10所示的频率分布和特征的上限值。
参考图11,首先在步骤S41针对大量图像的像素计算相邻差绝对值作为特征。在步骤S42,为每个特征的频率进行计数。然后,在步骤S43,计算频率不等于0的最大特征,并且将其确定为该特征的上限值。
虽然根据上述处理收集的数据发现了,图像的相邻差绝对值被估计为低于预定的值,另外在不是以图像为单位而是以预定区域为单位计算数据的情况下,根据该区域是否处于像素值大体均匀的平坦位置、该区域是否处于陡峭的边缘位置、该区域是否是具有复杂细节的位置等(这与特征的上限值相关联),考虑到特征的上限值不同。
因此,通过图12的DB(数据库)存储处理,对于预定区域(例如,对3×3像素的区域,以感兴趣的像素为中心,与用来确定图10的频率分布的图像相同)执行1比特ADRC(自适应动态范围编码)处理。然后,为通过1比特ADRC处理获得的每个ADRC代码确定相邻差绝对值的上限。
在DB存储处理中,首先将用于数据库生成的所有图像的像素设置为感兴趣的像素,并且然后执行步骤S61和S62的处理。在步骤S61,模糊量种类生成部分132为以感兴趣的像素为中心的预定区域,即,感兴趣的像素的外围区域执行1比特ADRC处理,以计算ADRC代码。在步骤S62,模糊量种类生成部分132计算感兴趣的像素的外围区域的特征。这里,特征是相邻差绝对值。
在步骤S63,模糊量种类生成部分132对为每个ADRC代码产生的每个特征的频率进行计数。然后在步骤S64,模糊量种类生成部分132为每个ADRC代码计算其频率不为0的最大特征。
在步骤S65,模糊量种类生成部分132将在步骤S64确定的每个ADRC代码的特征的最大值作为该特征的上限存储在数据库内。
图13示出了图12的DB存储处理的结果。
根据图13的结果,虽然整个图像的相邻差绝对值的上限为191,可以认识到在ADRC代码之间该特征的上限非常不同。
在模糊量种类生成部分132的模糊量种类生成处理中,即,在第二模糊量种类生成处理中,利用ADRC代码的特征的所述上限值产生模糊量种类代码。
图14示出了根据第二形式的模糊量种类生成部分13,即,模糊量种类生成部分132的配置例子。
参考图14,模糊量种类生成部分132包括特征计算部分101a到101f,最大值计算部分102a到102f,ADRC处理部分103,特征上限值数据库(DB)104,阈值计算部分105,阈值判决部分106a到106f,以及模糊量种类输出部分107。
将模糊量a的模糊去除图像提供给特征计算部分101a。将模糊量b的模糊去除图像提供给特征计算部分101b。将模糊量c到f的模糊去除图像分别提供给特征计算部分101c到101f。
特征计算部分101a给相应于感兴趣的像素的模糊量a的模糊去除图像的像素设置如上面参考图4所述的这种圆形区域,为该区域内的每个像素计算特征,即,相邻差绝对值,并且将计算的特征提供给最大值计算部分102a。同样,特征计算部分101b到101f对模糊去除处理部分11b到11f的模糊去除图像分别执行类似的处理。
最大值计算部分102a计算特征的最大值,并且将该最大值提供给阈值判决部分106a。具体地,最大值计算部分102a将特征计算部分101a计算的以感兴趣的像素为中心的预定区域内的像素的特征中的最大一个提供给阈值判决部分106a。同样,最大值计算部分102b到102f分别对从特征计算部分101b到101f提供的特征执行类似的处理。
ADRC处理部分103对以相应于该感兴趣的像素的输入图像的一个像素为中心的3×3区域执行1比特ADRC处理,并且将以1比特ADRC处理获得的ADRC代码提供给阈值计算部分105。
根据1比特ADRC处理,以相应于感兴趣的像素的输入图像的像素为中心的3×3区域中的像素的像素值除以最大值MAX和最小值MIN(丢弃小数)的平均值,以将这些像素的像素值转换为1比特值,即二进制值。然后,将3×3区域内的1比特像素值以预定顺序布置的比特串被确定为ADRC代码。注意,对于种类的划分技术,可以使用多于2比特的ADRC,或可以使用某些其他的分类技术。
在特征上限值数据库104中,存储通过上面参考图12所述的DB存储处理获得的每个ADRC代码的特征的上限值。阈值计算部分105从特征上限值数据库104获取相应于来自ADRC处理部分103的ADRC代码的特征的上限值,并且将获取的上限值作为阈值提供给阈值判决部分106a到106f。
阈值判决部分106a对从最大值计算部分102a提供的特征的最大值和从阈值计算部分105提供的阈值进行比较。然后,阈值判决部分106a在特征的最大值高于阈值的情况下输出“1”的代码,而在特征的最大值低于阈值的情况下输出另一代码“0”。
阈值判决部分106b到106f还判定从最大值计算部分102b到102f提供的特征的最大值是否高于所述阈值,并且输出“1”或“0”的代码。
类似于第一形式的模糊量种类输出部分84,模糊量种类输出部分107以预定顺序连接从阈值判决部分106a到106f提供的“0”或“1”的代码,即输出代码,并且输出被连接的代码作为6比特的模糊量种类代码。
图15示出模糊量种类生成部分132的模糊量种类生成处理,即,第二模糊量种类生成处理。
参考图15,示出的第二模糊量种类生成处理中,首先在步骤S81,特征计算部分101a为相应于感兴趣的像素的模糊量a的模糊去除图像的像素设置上面参考图4所述的这种圆形区域,并且为该区域内的每个像素计算特征,即,相邻差绝对值。同样,特征计算部分101b到101f分别对模糊去除处理部分11b到11f的模糊去除图像执行类似的处理。
在步骤S82,最大值计算部分102a计算特征的最大值,并且将最大值提供给阈值判决部分106a。同样,最大值计算部分102a到102f分别计算从特征计算部分101b到101f提供的特征的最大值。
在步骤S83,ADRC处理部分103对相应于感兴趣的像素的输入图像的一个像素周围的3×3区域执行1比特ADRC处理,并且将以1比特ADRC处理获得的ADRC代码提供给阈值计算部分105。
在步骤S84,阈值计算部分105从特征上限值数据库104获取相应于来自ADRC处理部分103的ADRC代码的特征的上限值,并且将获取的上限值作为阈值提供给阈值判决部分106a到106f。
步骤S81和S82或步骤S83和S84的处理可同时或并行执行。
在步骤S85,阈值判决部分106a对特征的最大值和阈值彼此进行比较。然后,如果特征的最大值高于阈值,阈值判决部分106a输出“1”的代码,而如果特征的最大值低于阈值,阈值判决部分106a向模糊量种类输出部分107输出另一代码“0”。
在步骤S86,模糊量种类输出部分107以预定顺序连接从阈值判决部分106a到106f提供的“0”或“1”的代码,并且输出连接结果作为6比特模糊量种类代码,从而结束处理。
如上所述,在第二模糊量种类生成处理中,确定相应于感兴趣的像素的输入图像的像素的ADRC代码,并且计算特征的上限值,即,以相应于感兴趣的像素的模糊去除图像的一个像素为中心的预定区域内的相邻差绝对值。然后,根据计算的特征的上限值是否高于与确定的ADRC代码相同的ADRC代码(见于图13的数据库中)的相邻差绝对值的上限,确定“0”或“1”的代码。然后,将“0”或“1”的代码连接并且输出为6比特的模糊去除种类代码。
以不适合的模糊参数执行了模糊去除处理的模糊去除图像存在诸如环(ringing)的缺陷。因此,如果出现这种缺陷,虽然频繁地超过从一般图像数据统计计算的物理量的上限,认为第二模糊量种类生成处理是利用刚才描述的现象的处理。另外,根据第二模糊量种类生成处理,通过响应于不同的图像特性(诸如1比特ADRC),使用不同的阈值,可以提高掌握上述现象的准确性。
应注意,虽然上面所述的第二形式采用相邻差绝对值作为特征,可以不采用单个特征而是采用多个特征。
图16示出了输出具有多个特征的模糊量种类代码的配置例子。
参考图16,模糊量种类生成部分132α,132β和132γ具有与上面参考图14所述类似的配置。然而,为了便于理解模糊量种类生成部分132α,132β和132γ和图14的模糊量种类生成部分132之间的不同,用于图14所示特征的特征上限值数据库104被分离地显示为特征上限值数据库104α,104β和104γ。
在特征上限值数据库104α中,存储每个ADRC代码的特征α的上限。另外,在特征上限值数据库104β中,存储每个ADRC代码的特征β的上限。在特征上限值数据库104γ中,存储每个ADRC代码的特征γ的上限。
模糊量种类生成部分132α输出关于特征α的模糊量种类代码,并且模糊量种类生成部分132β输出关于特征β的模糊量种类代码,而模糊量种类生成部分132γ输出关于特征γ的模糊量种类代码。
OR数学运算部分111对从模糊量种类生成部分132α,132β和132γ输出的模糊量种类代码的每个特征执行OR处理,并且输出OR操作的结果作为最终模糊量种类代码。
例如,如果如图16所示模糊量种类生成部分132α输出“001000”的模糊量种类代码,并且模糊量种类生成部分132β输出“101000”的模糊量种类代码,而模糊量种类生成部分132γ输出“000010”的模糊量种类代码,则从OR数学运算部分111输出的最终模糊量种类代码是“101010”。
可以作为特征α、β和γ采用的特征例如可以是水平或x方向,垂直或y方向,以及倾斜方向等的一阶导数绝对值或二阶导数绝对值。
可由下面给出的表达式(12)、(13)和(14)分别表示水平、垂直和倾斜方向的一阶导数绝对值P1(x,y),并且可由下面给出的表达式(15)、(16)和(17)分别表示水平、垂直和倾斜方向上的二阶导数绝对值P2(x,y)。
P1(x,y)=|X(x,y)-X(x+1,y)| ...(12)
P1(x,y)=|X(x,y)-X(x,y+1)| ...(13)
P1(x,y)=|X(x,y)-X(x+1,y+1)| ...(14)
P2(x,y)=
|2×X(x,y)-X(x+1,y)-X(x-1,y)| ...(15)
P2(x,y)=
|2×X(x,y)-X(x,y+1)-X(x,y-1)| ...(16)
P2(x,y)=
|2×X(x,y)-X(x+1,y+1)-X(x-1,y-1)| ...(17)
现在,描述模糊量种类生成部分13的第三形式。
第三形式的模糊量种类生成部分13(此后称为模糊量种类生成部分133)也事先存储数据库,并且类似于上面所述的第二形式,基于该数据库生成模糊量种类代码。
图17示出了数据库(DB)生成部分120的配置例子,其生成在第三形式的模糊量种类生成部分133中使用的数据库。
参考图17,数据库生成设备120包括模糊增加部分121,模糊去除处理部分122a到122f,特征计算部分123a到123f,退化部分124a到124f,连接部分125,存储部分126,概率计算部分127和概率分布数据库128。
模糊增加部分121执行表达式(2)的卷积数学运算,其中与上面参考图3所述的模糊增加部分42类似,从外部给其提供模糊参数σ以为输入信号产生模糊图像。
模糊去除处理部分122a到122f分别对来自模糊增加部分121的模糊图像执行模糊去除处理,类似于上面参考图1所述的模糊去除处理部分11a到11f。模糊去除处理部分122a到122f去除的图像的模糊量分别为a到f。注意,假设在数据库生成设备120中在模糊去除处理部分122a到122f内分别存储用于积和数学运算的模糊去除系数。
特征计算部分123a到123f中的每一个计算相对于感兴趣的像素设置的预定区域,诸如例如,上面参考图4所述的这种圆形区域内的每个像素的特征。计算的特征被提供给退化部分124a到124f。在当前形式中,特征计算部分123a到123f计算上面以表达式(12)到(17)表示的特征或导数类特征之一。
退化部分124a到124f分别对从特征计算部分123a到123f提供的特征执行比特退化处理。例如,当从特征计算部分123a到123f提供的特征是8比特数据时,退化部分124a到124f通过删除LSB(最不重要比特)侧上的3比特将特征退化为5比特数据并且输出退化的特征。
连接部分125以预定顺序连接从退化部分124a到124f提供的退化特征以产生特征代码,并且将该特征代码提供给存储部分126。例如,如果在上面的例子中假设从退化部分124a到124f提供5比特的特征,则从30比特形成提供给存储部分126的特征代码。这个例子中,可以在后续阶段给存储部分126提供230个不同的特征代码。然而,当特征代码的种类数目很大时,增加了退化部分124a到124f的退化数量。相反地说,通过试验等设置退化部分124a到124f的每一个中的退化数量,从而存储部分126的特征代码的种类数目可以是适合的数目。
每次一个特征代码被从连接部分125提供给存储部分126时,存储部分126将该特征代码的频次增加1,以存储特征代码的频率分布。另外,将与提供给模糊增加部分121的模糊参数σ相同的模糊参数提供给存储部分126,并且存储部分126还存储用于确定提供的特征代码的参数σ。
对于从模糊增加部分121提供的输入图像,数据库生成设备120将模糊参数σ设置为各种值,从而确定由此产生的各种模糊量的模糊图像的特征代码。然后,将这样确定的特征与模糊参数σ的信息一起存储在存储部分126。另外,对于输入图像,通过不仅把模糊参数σ分配给一个图像、而且分配给大量图像所获得的特征代码和模糊参数σ的信息被存储在存储部分126。
结果,如果参考存储在存储部分126中的数据,可以与每个特征代码的频率一起(即,与所述特征代码出现的总次数一起)得知关于每个特征代码的每个模糊参数的频率,即,出现次数。
概率计算部分127计算关于每个特征代码的每个模糊参数σ的概率。概率计算部分127为所有特征代码执行处理以确定以每个模糊参数σ的频率除以预定特征代码的频率(即,模糊参数σ的频率/特征代码的频率)时的值。
概率分布数据库128存储概率计算部分127计算的关于每个特征代码的每个模糊参数σ的概率。
图18示出了第三形式的模糊量种类生成部分13,即,模糊量种类生成部分133的配置例子。
参考图18,模糊量种类生成部分133包括特征计算部分141a到141f,退化部分142a到142f,连接部分143,模糊量种类判决部分145和概率分布数据库144。
特征计算部分141a到141f,退化部分142a到142f和连接部分143分别执行与上面参考图17所述的数据库生成设备120的特征计算部分123a到123f,退化部分124a到124f和连接部分125类似的处理。
具体地,特征计算部分141a到141f计算关于相应于感兴趣的像素设置的模糊去除图像的预定区域内的每个像素的特征,并且将这些特征分别输出到退化部分124a到124f。退化部分142a到142f分别对从特征计算部分141a到141f提供的特征进行比特退化处理。连接部分143以预定顺序连接从退化部分124a到124f提供的退化特征,以产生特征代码。
概率分布数据库144存储由上面参考图17所述的数据库生成设备120产生的数据。概率分布数据库144拷贝或移动并且存储关于存储在数据库生成设备120的概率分布数据库128中的每个特征代码的每个模糊参数σ的概率。注意,数据库生成设备120的概率计算部分127可替换地可以在概率分布数据库144中直接存储关于每个特征代码的每个模糊参数σ的计算的概率。
模糊量种类判决部分145参考概率分布数据库144并且输出相应于从连接部分143提供的特征代码的模糊量种类代码。具体地,模糊量种类判决部分145基于概率分布数据库144指定与从连接部分143提供的特征代码相同的特征代码,并输出在指定的特征代码的每个模糊参数σ的概率中具有最高概率的模糊参数σ作为模糊量种类代码。
图19示出模糊量种类生成部分133的模糊量种类生成处理,即,第三模糊量种类生成处理。
参考图19,首先在步骤S101,特征计算部分141a到141f计算相应于感兴趣的像素而设置的模糊去除图像的预定区域中的每个像素的特征。
在步骤S102,退化部分142a到142f分别对从特征计算部分141a到141f提供的特征执行比特退化处理。
在步骤S103,连接部分143以预定顺序连接从退化部分124a到124f提供的退化特征以产生特征代码。
在步骤S104,模糊量种类判决部分145参考概率分布数据库144并且输出相应于从连接部分143提供的特征代码的模糊量种类代码,从而结束处理。
图20示出了模糊量种类生成部分133-2的配置例子,模糊量种类生成部分133-2是对第三形式的模糊量种类生成部分133的修改。
参考图20,模糊量种类生成部分133-2包括与上面参考图18所述的模糊量种类生成部分133类似的特征计算部分141a到141f,退化部分142a到142f,连接部分143和概率分布数据库144。
参考图21,对相应于感兴趣的像素的模糊去除图像的像素,以及事先确定的区域(即,该像素周围的外围区域)内的像素,模糊量种类判决部分161选择相应于一个特征代码表示出最高概率的模糊参数σ。
因此,特征计算部分141a到141f、退化部分142a到142f和连接部分143计算相应于该周围区域内的各个像素的特征代码,并且将该特征代码提供给模糊量种类判决部分161。然后,对于该外围区域中的像素,模糊量种类判决部分161将所选择的具有最高概率的模糊参数σ以及该概率(即,判决概率)提供给增加部分162。
图21所示的25个像素中的那些应用相同图案的像素指示选择了同一模糊参数σ。
增加部分162为每个相同的所选择的模糊参数σ,添加外围区域内的像素的判决概率。然后,增加部分162将所选择的模糊参数σ和增加的概率(作为增加所选择的模糊参数σ的结果)提供给模糊量种类确定部分163。模糊量种类确定部分163输出表现出最高的增加概率的所选择的模糊参数σ作为模糊量种类代码。
图20的模糊量种类生成部分133-2利用这样的性质,即,除非相应于感兴趣的像素的输入图像的像素处于对象等的边界上,该像素周围的外围像素具有大体相同的模糊量。因此,模糊量种类生成部分132不仅使用相应于感兴趣的像素的输入图像的像素的概率,还使用外围区域中的像素的概率以执行全面的判定,从而提高了模糊量分类的准确性。
现在,描述对第三形式的模糊量种类生成部分133的其他修改。
在上面参考图20所述的模糊量种类生成部分133-2中,增加部分162增加每个相同的所选择的模糊参数σ的概率,并且输出表现出增加后的增加概率的模糊参数σ作为模糊量种类代码。然而,在下面描述的对模糊量种类生成部分133的其他修改中,当相同的所选择的模糊参数σ的概率被增加时,判定噪声的概率,在对所选择的模糊参数σ做出了噪声的判定的情况下,不执行所选择的模糊参数σ的增加。
当噪声和图像中的平坦位置重叠时,频繁地出现模糊量的检测错误。这是因为这样的事实,即,不能从特征中区分出图像的平坦位置所具有的模糊大小。在上述这种位置,即使某个模糊量被确定为一个种类,由于它具有受到包含在输入图像内的噪声影响的特征,所确定的模糊量的可靠性很低。
因此,如果将从图像的原始特征计算的模糊量和从噪声计算的模糊量彼此区分开,则可以提高从图像的原始特征计算的模糊量的检测准确性。
为此,需要事先产生用于噪声判定的数据库。图22示出了噪声数据库(DB)产生装置180的配置例子,用于产生用于噪声判定的噪声频率分布数据库。
参考图22,噪声数据库生成设备180包括噪声增加部分191,模糊去除处理部分192a到192f,特征计算部分193a到193f,退化部分194a到194f,连接部分195,频率计算部分196和噪声频率分布数据库(DB)197。
将大体平坦的图像作为输入图像提供给噪声增加部分191。噪声增加部分191将随机噪声添加到该输入图像,以产生噪声添加图像,并且将该噪声添加图像提供给模糊去除处理部分192a到192f。
模糊去除处理部分192a到192f,特征计算部分193a到193f,退化部分194a到194f和连接部分195分别执行与图17的数据库生成设备120的模糊去除处理部分122a到122f,特征计算部分123a到123f,退化部分124a到124f和连接部分125类似的处理。
具体地,模糊去除处理部分192a到192f对来自噪声增加部分191的噪声添加图像执行模糊去除处理。特征计算部分193a到193f计算对感兴趣的像素而设置的预定区域内的每个像素的特征,并且将计算的特征分别提供给退化部分194a到194f。
退化部分194a到194f分别对从特征计算部分193a到193f提供的特征执行比特退化处理。连接部分195以预定顺序连接从退化部分194a到194f提供的退化特征以产生特征代码。
频率计算部分196对从连接部分195提供的特征代码分类,并且将每个特征代码的分类特征代码存储在噪声频率分布数据库197中。结果,噪声的特征代码的频率分布被存储。
图23示出对第三形式的模糊量种类生成部分133的修改,并且尤其示出了模糊量种类生成部分133-3的配置例子,模糊量种类生成部分133-3利用了存储在图22所示的噪声频率分布数据库197内的噪声的特征代码的频率分布。
参考图23,模糊量种类生成部分133-3还是对图20所示的模糊量种类生成部分133-2的修改,但是与模糊量种类生成部分133-2的不同在于它额外包括噪声频率分布数据库(DB)201,还分别包括增加部分202和模糊量种类确定部分203,以取代增加部分162和模糊量种类确定部分163。
模糊量种类判决部分161将关于外围区域内的每个像素的所选择的模糊参数σ和所选择的模糊参数σ的判决概率提供给增加部分202。在当前修改中,模糊量种类判决部分161还将特征代码提供给增加部分202。
通过拷贝或移动,将图22所示的噪声数据库生成设备180产生并且存储在噪声频率分布数据库197中的噪声的特征代码的频率分布被存储在噪声频率分布数据库201。
增加部分202为相同选择的模糊参数σ增加外围区域内的像素的概率。此后,增加部分202参考从模糊量种类判决部分161提供的特征代码的频率,并且如果特征代码的频率高于预定频率,则由于确定噪声的概率高,增加部分202不执行概率的增加。将不执行概率增加的所选择的模糊参数σ的增加概率设置为0。另一方面,如果噪声频率分布数据库201中从模糊量种类判决部分161提供的特征代码的频率低于预定的频率,则类似于上面参考图20所述的增加部分162,增加部分202增加每个相同的所选择的模糊参数σ的概率。
将所选择的模糊参数σ和增加概率的超过一个的组合,提供给模糊量种类确定部分203。模糊量种类确定部分203从提供给它的增加概率中确定具有最高增加概率的所选择的模糊参数σ。如果确定的所选择的模糊参数σ的增加概率为除0之外的任意其他值,模糊量种类确定部分203输出所选择的模糊参数σ作为模糊量种类代码。另一方面,如果确定的所选择的模糊参数σ的增加概率为0,则模糊量种类确定部分203输出不同于从模糊量确定的模糊量种类代码的不同种类的种类代码。确定的所选择的模糊参数σ的增加概率为0意味着,存在感兴趣的像素的外围区域内的所有模糊参数σ可能受噪声影响的可能。
由于不论对同一平坦位置应用何种类型的处理,图像中的平坦位置不表现出变化,即使应用不同种类也不会出现问题。另一方面,通过执行如上所述的这种噪声判定,可以提高除平坦位置之外的任意其他位置的模糊量的确定准确性。
图24示出了预测系数学习设备221的配置例子,预测系数学习设备221为存储在图1所示的图像处理设备1的预测系数ROM14中的每个模糊量种类学习预测系数。
参考图24,预测系数学习设备221包括感兴趣的像素设置部分241,模糊增加部分242,去除系数ROM243,模糊去除处理部分244a到244f,模糊量种类生成部分245,标准方程相加部分246,矩阵数学运算部分247和预测系数ROM248。
输入到预测系数学习设备221的输入图像是没有模糊的图像,并且用作教师图像。感兴趣的像素设置部分241连续地将教师图像的像素设置为感兴趣的像素。
模糊增加部分242执行以上面给出的表达式(2)表示的卷积数学运算,以人为地给输入图像添加模糊,以产生模糊图像,并且将模糊图像作为学生图像提供给模糊去除处理部分244a到244f。
模糊去除处理部分244a到244f执行类似于模糊去除处理部分11a到11f的处理。具体地,模糊去除处理部分244a到244f提取感兴趣的像素的预定区域内的像素(其像素值)作为预测抽头,并且提取感兴趣的像素的所述预定区域中的像素(其像素值)作为种类抽头。模糊去除处理部分244a到244f从去除系数ROM243获取相应于从种类抽头确定的种类代码的模糊量a到f的模糊去除系数,并且执行形成预测抽头的像素的像素值和从去除系数ROM243获取的用于模糊量a到f的模糊去除系数的积和数学运算,以确定去除模糊量a到f时所述感兴趣的像素的像素值。
模糊去除处理部分244a到244f去除的模糊量和存储在去除系数ROM243中的模糊去除系数分别与图1所示的模糊去除处理部分11a到11f和去除系数ROM14的那些相同。
类似于上面参考图1所述的模糊量种类生成部分13,模糊量种类生成部分245使用从模糊去除处理部分244a到244f提供的模糊去除图像将感兴趣的像素的模糊量划分到预定的种类中,并且将通过分类获得的模糊量种类代码提供给标准方程相加部分246。因此,模糊量种类生成部分245可以采用上面所述的第一到第三形式的配置的任意一种。
标准方程相加部分246将相应于学生图像的感兴趣的像素的像素的预定区域确定为预测抽头范围,并且将包括在预测抽头范围内的像素确定为预测抽头。
对相应于从模糊量种类生成部分245提供的模糊量种类代码的每一种,标准方程相加部分246使用预测抽头或学生图像xn,k执行相应于表达式(10)左侧矩阵的学生图像的乘(xn,kxn’,k)和累加(∑)的数学运算。
另外,标准方程相加部分246使用预测抽头或学生图像xn,k和教师图像yk为相应于从模糊量种类生成部分245提供的模糊量种类代码的每个种类执行相应于表达式(10)的谱中的学生图像的xn,k和教师图像yk的乘(xn,kyk)和累加(∑)的数学运算。
具体地,在前一操作循环中,将关于感兴趣的像素的教师图像而确定的表达式(10)左侧的矩阵的分量(∑xn,kxn’,k)和右侧的矢量的分量(∑xn,kyk)存储在内建于标准方程相加部分246的存储器(未示出)内。因此,标准方程相加部分246执行以表达式(10)的求和表示的相加,其中对被新确定为感兴趣的像素的一个教师图像,使用这个教师图像yk+1或学生图像xn,k+1而计算的相应的分量(xn,k+1xn’,k+1)或矢量的分量(xn,k+1yk+1)累加到矩阵的分量(∑xn,kxn’,k)或矢量的分量(∑xn,kyk)。
然后,标准方程相加部分246执行如上所述的这种相加,确定教师图像的所有像素确定为感兴趣的像素,以为每个种类建立以表达式(8)表示的标准方程。然后,标准方程相加部分246将该标准方程提供给矩阵数学运算部分247。
矩阵数学运算部分247求解从标准方程相加部分246提供的种类的标准方程,以确定用于每个种类的模糊量种类代码的最优预测系数wn,并且将确定的预测系数wn输出到预测系数ROM248。预测系数ROM248存储从矩阵数学运算部分247提供的预测系数wn。预测系数wn被存储在图1的图像处理设备1的预测系数ROM14。注意,可替换地,可将从矩阵数学运算部分247输出的预测系数直接存储在图像处理设备1的预测系数ROM14。
虽然可由硬件执行上述处理序列,也可由软件执行该处理序列。在以软件执行该处理序列的情况下,构成软件的程序被从程序记录介质安装到可以通过安装各种程序执行各种功能的结合在专用硬件内的计算机,或例如,通用的个人计算机内。
图25示出了根据程序执行上述处理序列的计算机的硬件配置例子。
参考图25,在所示的计算机中,CPU(中央处理单元)301,ROM(只读存储器)302和RAM(随机访问存储器)303通过总线304彼此连接。
另外,输入/输出接口305连接到总线304。包括键盘、鼠标、麦克风等的输入部分306,包括显示单元、扬声器等的输出部分307,由硬盘、非易失存储器等形成的存储部分308,包括网络接口等的通信部分309,用于驱动可移动介质311诸如磁盘、光盘、磁光盘或半导体存储器的驱动器310连接到输入/输出接口305。
在以上述这种方式配置的计算机中,CPU301通过输入/输出接口305和总线304将例如存储在存储部分308中的程序装入RAM303,并且然后执行上述的一系列处理。
CPU301执行的程序被记录在可移动介质311内并且与可移动介质311一起提供,或被通过有线或无线传输介质诸如局域网、Internet或数字广播提供,其中可移动介质311为采用诸如例如磁盘(包括柔性盘)、光盘(包括CD-ROM(压缩盘只读存储器)和DVD(数字通用盘))、磁光盘、或半导体存储器构成的包装介质的形式。
可以通过将可移动介质311装入驱动器310,通过输入/输出接口305将程序安装在存储部分308内。或者可以通过通信部分309通过有线或无线传输介质接收该程序,并且将其安装在存储部分308。或者可以事先将该程序安装在ROM302或存储部分308。
注意,由计算机执行的程序可以是这样的类型,其中以本说明书描述顺序在时间上串行执行所述处理,或者该程序是这样的类型,其中并行执行所述处理,或是在必要的时刻(诸如当被调用时)执行所述处理。
参考图26到28描述应用本发明的图像处理设备1的图像处理效果。
图26示出了被输入到图像处理设备1的输入图像,其包括花的拾取图像作为主要图像拾取对象。参考图26,按照图像拾取对象和照相机之间的距离,所示的输入图像一般包括3个距离,包括从照相机到花的第一距离,从照相机到花的背景的第二距离,以及从照相机到花的左侧的叶子的第三距离。输入图像聚焦在第二距离的花的背景。
图27示出了使用相关技术的模糊去除处理将相同的模糊去除处理应用到图26的输入图像的整个范围时的处理后的图像。注意,由用户手工地设置将被去除的模糊量以去除花的模糊。在图27的处理后的图像中,虽然从花的图像部分去除了模糊,过分强调了处理后的图像最初聚焦的花的背景的图像部分,并且由于环的出现看上去不自然。
图28示出以图像处理设备1对图26的输入图像进行模糊去除处理的处理后的图像。
通过图像处理设备1,为第一距离的花的图像部分、第二距离的花的背景的图像部分、以及第三距离的花左侧的叶子的图像部分中的每一个选择最优的模糊量,并且执行去除最优模糊量的模糊去除处理。因此,在图28的处理后的图像中,在整个区域上去除了模糊。例如,处理后的图像最初聚焦的花的背景的图像部分处未出现诸如在图27中所见到的过多的环。
以这种方式,图像处理设备1可以最佳地去除由于包括在图像内的不同距离的图像拾取对象引起的、并且在不同的像素之间有不同模糊量的模糊。另外,采用图像处理设备1,用户不需要执行特殊操作,诸如根据模糊量选择最优的模糊去除系数,即不必执行模糊去除的调整。
注意,输入到图像处理设备1的输入图像可以是静态图像和运动图像中的任意一个。
图像处理设备1的图像处理使用这样的处理,即,分类自适应处理,其使用种类(即,以通过将感兴趣的像素划分到多个种类之一而获得的模糊量种类代码表示的种类)的预测系数,以及相对于感兴趣的像素所选择的输入图像中的像素(其像素值),通过积和数学运算确定感兴趣的像素(其像素值)。因此,即使发生模糊量种类的检测遗漏,也不会出现极端缺陷。另外,包括离焦状态以外的退化因素(诸如例如,运动模糊或噪声)的图像不会经受显著的衰退,并且可被健壮地处理。
注意,在本说明书中,可以但并非必需按照描述的时间串行顺序处理描述记录在记录介质内或记录介质上的程序的步骤,可以包括并行执行或单独执行而不按时间串行处理的处理。
虽然已经使用特定的术语描述了本发明的优选实施例,这种描述仅是出于说明目的,并且应当理解可以做出修改和变型而不脱离下面的权利要求的精神和范围。
Claims (16)
1.一种图像处理设备,包括:
模糊去除处理装置,用于使用用于去除多个不同模糊量的模糊的多个模糊去除系数,对输入图像执行模糊去除处理,以产生多个不同的模糊去除结果图像;
特征检测装置,用于从每个所述不同的模糊去除结果图像中检测特征;
模糊量种类确定装置,用于从所述特征确定代表模糊量的种类的模糊量种类;以及
预测处理装置,用于执行所述输入图像的预定像素的像素值以及事先学习并且相应于所述模糊量种类的预测系数的数学运算,以产生去除了模糊的输出图像。
2.权利要求1的图像处理设备,其中
所述模糊量种类确定装置包括
模糊量产生概率存储装置,用于通过使用多个不同的模糊去除系数,从通过将多个不同模糊量的模糊添加到所述输入图像获得的模糊图像中去除模糊而获得的所述多个不同的模糊去除结果图像中检测特征,以事先检测关于多个不同模糊量中的每一个的特征的概率分布,并且为每个特征存储代表各模糊量的产生概率的概率分布,
所述模糊量种类确定装置从相对于所述特征检测装置检测到的特征的存储在模糊量产生概率存储装置中的概率分布中,将表现出最高产生概率的一个模糊量确定为模糊量种类。
3.权利要求2的图像处理设备,其中
所述特征检测装置检测关于相应于感兴趣的像素的每个模糊去除结果图像的像素和所述感兴趣的像素周围的外围像素中的每一个的特征,以及
以相同模糊量,所述模糊量种类确定装置增加相应于所述特征检测装置检测的每个特征的模糊量的产生概率,以及从增加结果确定相应于感兴趣的像素的模糊量种类。
4.权利要求3的图像处理设备,其中
所述模糊量种类确定装置还包括
噪声信息存储装置,用于通过使用多个模糊去除系数,从通过将噪声增加到平坦图像获得的噪声添加图像中去除模糊而获得的多个不同的模糊去除结果图像中事先检测特征,以存储代表噪声的特征的产生概率的信息,以及
所述模糊量种类确定装置不执行感兴趣的像素和感兴趣的像素周围的外围像素的特征中的由噪声产生的概率高的特征的模糊量的产生概率的增加。
5.权利要求1的图像处理设备,其中
所述特征检测装置对相应于感兴趣的像素的每个模糊去除结果图像的像素和相应于感兴趣的像素的像素周围的特定区域中的多个像素的像素值和阈值彼此进行比较,并且响应于所述比较的结果为每个模糊量检测特征,以及
所述模糊量种类确定装置响应于所述特征检测装置的检测结果来确定模糊量种类。
6.权利要求1的图像处理设备,其中
所述特征检测装置包括
第一图像特性检测装置,用于从相应于感兴趣的像素的输入图像的像素和感兴趣的像素周围的外围像素检测第一图像特性,以及
第二图像特性检测装置,用于从相应于感兴趣的像素的每个模糊去除结果图像的像素和感兴趣的像素周围的外围像素检测第二图像特性;和
所述模糊量种类确定装置包括
特征属性值存储装置,用于将多个图像以第一图像特性按像素单元进行分类,并且为每个第一图像特性检测和存储第二图像特性的属性值;
所述模糊量种类确定装置从所述特征属性值存储装置获取相应于所述第一图像特性检测装置检测的第一图像特性的第二图像特性的属性值,随后,所述模糊量种类确定装置对所述第二图像特性检测装置检测到的第二图像特性和所获取的属性值彼此进行比较,以确定模糊量种类。
7.一种图像处理方法,包括步骤:
使用用于去除多个不同模糊量的模糊的多个模糊去除系数,对输入图像执行模糊去除处理,以产生多个不同的模糊去除结果图像;
从每个不同的模糊去除结果图像检测特征;
从所述特征确定代表模糊量的种类的模糊量种类;以及
执行对输入图像的预定像素的像素值以及事先学习的并且相应于所述模糊量种类的预测系数的数学运算,以产生去除了模糊的输出图像。
8.一种用于使得计算机执行图像处理的程序,包括步骤:
使用用于去除多个不同模糊量的模糊的多个模糊去除系数,对输入图像执行模糊去除处理,以产生多个不同的模糊去除结果图像;
从每个不同的模糊去除结果图像检测特征;
从所述特征确定代表模糊量的种类的模糊量种类;以及
执行对输入图像的预定像素的像素值和事先学习的并且相应于所述模糊量种类的预测系数的数学运算,以产生去除了模糊的输出图像。
9.一种学习设备,用于学习去除图像模糊的图像处理设备所使用的预测系数,包括:
模糊添加装置,用于将模糊添加到作为教师图像输入并且没有模糊的输入图像,以产生学生图像,
模糊去除处理装置,用于使用用于去除多个不同模糊量的模糊的多个模糊去除系数,对所述学生图像执行模糊去除处理,以产生多个不同的模糊去除结果图像;
特征检测装置,用于从每个不同的模糊去除结果图像检测特征;
模糊量种类确定装置,用于从所述特征确定代表模糊量的种类的模糊量种类;以及
数学运算装置,用于使用学生图像和教师图像确定每个模糊量种类的预测系数。
10.权利要求9的学习设备,其中
所述模糊量种类确定装置包括
模糊量产生概率存储装置,用于通过使用多个不同的模糊去除系数,从通过将多个不同模糊量的模糊添加到输入图像获得的模糊图像中去除模糊而获得的所述多个不同的模糊去除结果图像中检测特征,以事先检测关于多个不同模糊量中的每一个的特征的概率分布,并且为每个特征存储代表各模糊量的产生概率的概率分布,
所述模糊量种类确定装置从关于所述特征检测装置检测到的特征的存储在所述模糊量产生概率存储装置中的概率分布,将表现出最高产生概率的一个模糊量确定为模糊量种类。
11.权利要求10的学习设备,其中
所述特征检测装置检测相应于感兴趣的像素的每个模糊去除结果图像的像素和感兴趣的像素周围的外围像素中的每一个的特征,以及
以相同模糊量,所述模糊量种类确定装置增加相应于所述特征检测装置检测的每个特征的模糊量的产生概率,并且从所述增加结果确定相应于感兴趣的像素的模糊量种类。
12.权利要求11的学习设备,其中
所述模糊量种类确定装置还包括
噪声信息存储装置,用于通过使用多个模糊去除系数,从通过将噪声增加到平坦图像获得的噪声添加图像中去除模糊而获得的多个不同的模糊去除结果图像中事先检测特征,以存储代表噪声的特征的产生概率的信息;以及
所述模糊量种类确定装置不执行感兴趣的像素和感兴趣的像素周围的外围像素的特征中的由噪声产生的概率高的特征的模糊量的产生概率的增加。
13.权利要求9的学习设备,其中
所述特征检测装置对相应于感兴趣的像素的每个模糊去除结果图像的像素和相应于感兴趣的像素的像素周围的特定区域中的多个像素的像素值和阈值彼此进行比较,并且响应于所述比较结果为每个模糊量检测特征,以及
所述模糊量种类确定装置响应于所述特征检测装置的检测结果确定模糊量种类。
14.权利要求9的学习设备,其中
所述特征检测装置包括
第一图像特性检测装置,用于从相应于感兴趣的像素的输入图像的像素和感兴趣的像素周围的外围像素检测第一图像特性,以及
第二图像特性检测装置,用于从相应于感兴趣的像素的每个模糊去除结果图像的像素和感兴趣的像素周围的外围像素检测第二图像特性;和
所述模糊量种类确定装置包括
特征属性值存储装置,用于将多个图像以第一图像特性按像素单元进行分类,并且为每个第一图像特性检测和存储第二图像特性的属性值;
所述模糊量种类确定装置从所述特征属性值存储装置获取相应于所述第一图像特性检测装置检测的第一图像特性的第二图像特性的属性值,随后,所述模糊量种类确定装置对所述第二图像特性检测装置检测到的第二图像特性和所获取的属性值彼此进行比较,以确定模糊量种类。
15.一种图像处理设备,包括:
模糊去除处理部分,配置为使用用于去除多个不同模糊量的模糊的多个模糊去除系数,对输入图像执行模糊去除处理,以产生多个不同的模糊去除结果图像;
特征检测装置,配置为从每个所述不同的模糊去除结果图像中检测特征;
模糊量种类确定部分,配置为从所述特征确定代表模糊量的种类的模糊量种类;以及
预测处理部分,配置为执行对事先学习并且相应于所述模糊量种类的预测系数以及输入图像的预定像素的像素值的数学运算,以产生去除了模糊的输出图像。
16.一种学习设备,用于学习去除图像模糊的图像处理设备所使用的预测系数,包括:
模糊增加部分,配置为将模糊添加到作为教师图像输入并且没有模糊的输入图像,以产生学生图像,
模糊去除处理部分,配置为使用用于去除多个不同模糊量的模糊的多个模糊去除系数,对学生图像执行模糊去除处理,以产生多个不同的模糊去除结果图像;
特征检测部分,配置为从每个不同的模糊去除结果图像检测特征;
模糊量种类确定部分,配置为从所述特征确定代表模糊量的种类的模糊量种类;以及
数学运算部分,配置为使用学生图像和教师图像确定每个模糊量种类的预测系数。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007330454 | 2007-12-21 | ||
JP2007330454A JP4882999B2 (ja) | 2007-12-21 | 2007-12-21 | 画像処理装置、画像処理方法、プログラム、および学習装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN101465943A true CN101465943A (zh) | 2009-06-24 |
Family
ID=40788726
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNA2008101863807A Pending CN101465943A (zh) | 2007-12-21 | 2008-12-19 | 图像处理设备、图像处理方法、程序和学习设备 |
Country Status (4)
Country | Link |
---|---|
US (1) | US8331713B2 (zh) |
JP (1) | JP4882999B2 (zh) |
KR (1) | KR20090068162A (zh) |
CN (1) | CN101465943A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103503433A (zh) * | 2011-02-25 | 2014-01-08 | 得克萨斯系统大学董事会 | 图像的聚焦误差估计 |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4915341B2 (ja) * | 2007-12-20 | 2012-04-11 | ソニー株式会社 | 学習装置および方法、画像処理装置および方法、並びにプログラム |
JP5061882B2 (ja) * | 2007-12-21 | 2012-10-31 | ソニー株式会社 | 画像処理装置、画像処理方法、およびプログラム、並びに学習装置 |
US8532422B2 (en) * | 2008-08-08 | 2013-09-10 | Tokyo University of Science Educational Foundation Administration Organization | Image restoring device and image restoring method |
JP5179398B2 (ja) * | 2009-02-13 | 2013-04-10 | オリンパス株式会社 | 画像処理装置、画像処理方法、画像処理プログラム |
US20120128263A1 (en) * | 2009-07-30 | 2012-05-24 | Koninklijke Philips Electronics N.V. | Method of filtering a signal and of obtaining filter coefficients |
KR20110065997A (ko) * | 2009-12-10 | 2011-06-16 | 삼성전자주식회사 | 영상처리장치 및 영상처리방법 |
US8503801B2 (en) * | 2010-09-21 | 2013-08-06 | Adobe Systems Incorporated | System and method for classifying the blur state of digital image pixels |
US20120212477A1 (en) * | 2011-02-18 | 2012-08-23 | Intergraph Technologies Company | Fast Haze Removal and Three Dimensional Depth Calculation |
US8830378B2 (en) * | 2011-03-29 | 2014-09-09 | Olympus Corporation | Image capturing system and image capturing method, involving image restoration processing |
WO2013148566A1 (en) * | 2012-03-26 | 2013-10-03 | Viewdle, Inc. | Image blur detection |
KR102456436B1 (ko) * | 2015-02-17 | 2022-10-20 | 삼성디스플레이 주식회사 | 유기 발광 표시 장치 |
US20230247323A1 (en) * | 2020-07-02 | 2023-08-03 | Sony Semiconductor Solutions Corporation | Imaging device and imaging method |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6678405B1 (en) * | 1999-06-08 | 2004-01-13 | Sony Corporation | Data processing apparatus, data processing method, learning apparatus, learning method, and medium |
JP4135045B2 (ja) * | 1999-06-08 | 2008-08-20 | ソニー株式会社 | データ処理装置およびデータ処理方法、並びに媒体 |
US6898327B1 (en) * | 2000-03-23 | 2005-05-24 | International Business Machines Corporation | Anti-flicker system for multi-plane graphics |
JP2001331806A (ja) | 2000-05-22 | 2001-11-30 | Nec Corp | 画像処理方式 |
JP2002077591A (ja) * | 2000-09-05 | 2002-03-15 | Minolta Co Ltd | 画像処理装置および撮像装置 |
US8717456B2 (en) * | 2002-02-27 | 2014-05-06 | Omnivision Technologies, Inc. | Optical imaging systems and methods utilizing nonlinear and/or spatially varying image processing |
JP4144374B2 (ja) * | 2003-02-25 | 2008-09-03 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
JP4143916B2 (ja) * | 2003-02-25 | 2008-09-03 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
JP4265237B2 (ja) * | 2003-02-27 | 2009-05-20 | ソニー株式会社 | 画像処理装置および方法、学習装置および方法、記録媒体、並びにプログラム |
JP4144378B2 (ja) * | 2003-02-28 | 2008-09-03 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
JP4144377B2 (ja) * | 2003-02-28 | 2008-09-03 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
JP2007206738A (ja) * | 2006-01-30 | 2007-08-16 | Kyocera Corp | 撮像装置およびその方法 |
US8306280B2 (en) * | 2006-04-11 | 2012-11-06 | Nikon Corporation | Electronic camera and image processing apparatus |
US8830340B2 (en) * | 2006-09-08 | 2014-09-09 | Sri International | System and method for high performance image processing |
US8184926B2 (en) * | 2007-02-28 | 2012-05-22 | Microsoft Corporation | Image deblurring with blurred/noisy image pairs |
JP5061883B2 (ja) * | 2007-12-21 | 2012-10-31 | ソニー株式会社 | 画像処理装置、画像処理方法、プログラム、および学習装置 |
-
2007
- 2007-12-21 JP JP2007330454A patent/JP4882999B2/ja not_active Expired - Fee Related
-
2008
- 2008-12-10 US US12/331,815 patent/US8331713B2/en not_active Expired - Fee Related
- 2008-12-19 KR KR1020080130224A patent/KR20090068162A/ko not_active Application Discontinuation
- 2008-12-19 CN CNA2008101863807A patent/CN101465943A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103503433A (zh) * | 2011-02-25 | 2014-01-08 | 得克萨斯系统大学董事会 | 图像的聚焦误差估计 |
CN103503433B (zh) * | 2011-02-25 | 2017-01-18 | 得克萨斯系统大学董事会 | 图像的聚焦误差估计 |
Also Published As
Publication number | Publication date |
---|---|
JP4882999B2 (ja) | 2012-02-22 |
KR20090068162A (ko) | 2009-06-25 |
US20090161977A1 (en) | 2009-06-25 |
JP2009151659A (ja) | 2009-07-09 |
US8331713B2 (en) | 2012-12-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101465943A (zh) | 图像处理设备、图像处理方法、程序和学习设备 | |
US8346003B2 (en) | Image processing for reducing blur | |
US8805120B2 (en) | Image processing apparatus and method which generates reference data according to learning images | |
JP7058941B2 (ja) | 辞書生成装置、辞書生成方法、及びプログラム | |
US7656942B2 (en) | Denoising signals containing impulse noise | |
KR100913861B1 (ko) | 데이터 처리 장치 및 데이터 처리 방법, 데이터 처리 시스템, 기록 매체 | |
CN111816312B (zh) | 基于模型解释的健康状态检测方法、设备及可读存储介质 | |
JP5476879B2 (ja) | 画像処理装置および係数学習装置。 | |
US20120321214A1 (en) | Image processing apparatus and method, program, and recording medium | |
JP5347862B2 (ja) | 係数学習装置および方法、画像処理装置および方法、プログラム、並びに記録媒体 | |
JP2001008056A (ja) | データ処理装置およびデータ処理方法、並びに媒体 | |
US20100138369A1 (en) | Learning apparatus, learning method, information modification apparatus, information modification method, and program | |
JP5061882B2 (ja) | 画像処理装置、画像処理方法、およびプログラム、並びに学習装置 | |
US7061539B2 (en) | Information signal processing device, information signal processing method, image signal processing device, image display comprising the same, and information providing medium | |
CN103428403A (zh) | 图像处理设备和方法、学习设备和方法以及程序 | |
CN114841887B (zh) | 一种基于多层次差异学习的图像恢复质量评价方法 | |
CN102209224A (zh) | 系数学习设备和方法以及图像处理设备和方法 | |
JP4337186B2 (ja) | 画像情報変換装置および画像情報変換方法、学習装置および学習方法 | |
JP2003303330A5 (zh) | ||
CN114868124B (zh) | 控制方法、信息处理装置以及控制程序 | |
US20210233222A1 (en) | Computer implemented method and device for anomaly detection | |
JP2009253873A (ja) | 画像処理装置及び方法、並びにプログラム | |
CN101466015B (zh) | 信号处理设备、信号处理方法和学习设备 | |
JP2010079411A (ja) | 学習装置、画像処理装置、学習方法、画像処理方法、及びプログラム | |
CN112768041A (zh) | 医疗云管平台 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
AD01 | Patent right deemed abandoned |
Effective date of abandoning: 20090624 |
|
C20 | Patent right or utility model deemed to be abandoned or is abandoned |