CN1860779A - 图像处理设备和方法、记录介质、和程序 - Google Patents

图像处理设备和方法、记录介质、和程序 Download PDF

Info

Publication number
CN1860779A
CN1860779A CNA2005800010981A CN200580001098A CN1860779A CN 1860779 A CN1860779 A CN 1860779A CN A2005800010981 A CNA2005800010981 A CN A2005800010981A CN 200580001098 A CN200580001098 A CN 200580001098A CN 1860779 A CN1860779 A CN 1860779A
Authority
CN
China
Prior art keywords
pixel
image processing
value
motion picture
speed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CNA2005800010981A
Other languages
English (en)
Other versions
CN1860779B (zh
Inventor
西亨
上田和彦
浅野光康
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN1860779A publication Critical patent/CN1860779A/zh
Application granted granted Critical
Publication of CN1860779B publication Critical patent/CN1860779B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T5/73
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration by the use of local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • H04N5/205Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic
    • H04N5/208Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic for compensating for attenuation of high frequency components, e.g. crispening, aperture distortion correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20201Motion blur correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors

Abstract

一种图像处理设备和方法、记录介质和程序,用于抑制由于成像模糊而将发生的图像降级(模糊的图像),由此提供帧频变换的图像的显著清晰的显示。高帧频变换部分(11)使得输入运动图像经过高帧频变换处理。对于构成该运动图像的多个帧中的每一个,成像模糊抑制部分(13)基于代表成像模糊特性检测部分(12)所检测的成像模糊特性的参数值中的对应于要处理的帧的一个或多个值,而校正构成要处理的帧的像素值。这可以提供这样的运动图像,其比输入时具有更高的帧频并且其像素值已被合适地校正,从而抑制成像模糊。本发明可应用于电视系统。

Description

图像处理设备和方法、记录介质、和程序
技术领域
本发明涉及图像处理设备和方法、记录介质、和程序,并更具体地,涉及能够通过抑制由于成像操作引起的模糊所造成的图像质量的降低(模糊的图像)而非常清晰地显示经过帧频变换的视频图像的图像处理设备和方法、记录介质、和程序。
背景技术
最近,在用于显示视频图像(运动画面)的视频信号变换设备中,作为即使输入侧的电视系统和输出侧的电视系统之间不存在帧频或场频的恒定同步关系、也在不降低图像质量的情况下显示视频图像的方法,考虑了帧频调节方法(下面称为“帧频变换方法”)(见专利文献1)。
[专利文献1]日本未审专利申请公开号7-59054
发明内容
本发明要解决的问题
然而,在不考虑成像操作引起的运动模糊(下面称为“成像模糊”)的情况下,作出了通过利用例如专利文献1中公开的已知帧频变换方法的帧频的改善。因此,由成像模糊引起的图像质量的降低(模糊的图像)仍然没有被特别改善,并因此很难在显示装置上显示清晰的视频图像。
考虑到以上背景,本发明的目的是通过抑制由成像模糊所引起的图像质量的降低(模糊的图像)而非常清晰地显示经过帧频变换的视频图像。
用于解决上述问题的手段
本发明的第一图像处理设备是用于基于存取单元处理由预定拍摄装置拍摄的运动画面的图像处理设备。该第一图像处理设备包括:高速率变换部件,用于执行将运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;检测部件,用于对于形成运动画面的多个存取单元中的每一个,而检测代表当拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值;和校正部件,用于在高速率变换部件执行的高速率变换处理之前或之后,基于由检测部件检测的参数值中的对应于主体存取单元的至少一个值而校正形成运动画面的每一主体存取单元的每一像素值。
该高速率变换部件可通过使用检测部件所检测的参数值而执行高速率变换处理。
该第一速率可以是当该拍摄装置拍摄运动画面时的存取单元的速率。
对于形成该运动画面的多个存取单元中的每一个,该检测部件可以检测形成每一主体存取单元的像素中的至少一个像素的运动矢量作为参数值。
作为至少部分高速率变换处理,该高速率变换部件可以通过使用检测部件所检测的运动矢量而执行运动补偿帧内插处理。
该检测部件可以检测作为该参数值的当拍摄装置拍摄形成运动画面的多个存取单元中的每一个时的拍摄装置的快门速度。
对于形成该运动画面的多个存取单元中的每一个,该校正部件可以将形成该主体存取单元的像素中的主体像素设置为聚焦像素。该校正部件可包括:滤波器特性变换部件,用于根据检测部件所检测的所述至少一个参数值中的对应于聚焦像素的值,而变换指明成像模糊的低通滤波器的特性;逆滤波器生成部件,用于生成由滤波器特性变换部件变换其特性的低通滤波器的逆滤波器;和滤波部件,用于通过将逆滤波器生成部件生成的逆滤波器应用到主体存取单元中的包括聚焦像素的预定块,而校正该聚焦像素的像素值。
对于形成该运动画面的多个存取单元中的每一个,该校正部件可以将形成主体存取单元的像素中的主体像素设置为聚焦像素。该校正部件可包括:滤波器特性变换部件,用于根据检测部件所检测的所述至少一个参数值中的对应于聚焦像素的值,而变换指明成像模糊的低通滤波器的特性;滤波部件,用于将由滤波器特性变换部件变换其特性的低通滤波器应用到主体存取单元中的包括聚焦像素的预定块,以输出该聚焦像素的校正像素值作为第一值;减法部件,用于计算校正前的聚焦像素的像素值和从滤波部件输出的第一值之间的差值,以将得到的差值作为第二值输出;和加法部件,用于将从减法部件输出的第二值与校正前的聚焦像素的像素值相加,以输出得到的加法值作为校正后的聚焦像素的像素值。
对于形成该运动画面的多个存取单元中的每一个,该校正部件可以将形成主体存取单元的像素中的主体像素设置为聚焦像素。该校正部件可包括:第一延迟部件,用于依次接收与其中沿着预定方向连续定位包括聚焦像素的像素的主体存取单元的像素组对应的第一图像信号,并用于将所接收的第一图像信号延迟与N个像素(N是1或大于1的整数)对应的第一延迟时间,以输出得到的第二图像信号;第二延迟部件,用于依次接收从第一延迟单元输出的第二图像信号,并用于将所接收的第二图像信号延迟与M个像素(M是包括N的1或大于1的整数)对应的第二延迟时间,以输出得到的第三图像信号;像素值校正单元,用于通过利用输入到第一延迟部件的第一图像信号、从第一延迟部件输出并输入到第二延迟部件中的第二图像信号、和从第二延迟部件输出的第三图像信号,而校正聚焦像素的像素值;和延迟时间改变部件,用于根据检测部件所检测的参数值中的对应于聚焦像素的值来改变第一延迟部件的第一延迟时间和第二延迟部件的第二延迟时间。
第一速率可以是30Hz,而第二速率可以是120Hz。
第一速率可以是60Hz,而第二速率可以是120Hz。
第一速率可以是60Hz,而第二速率可以是240Hz。
第一速率可以是50Hz,而第二速率可以是100Hz。
第一速率可以是50Hz,而第二速率可以是200Hz。
本发明的用于图像处理设备的图像处理方法是一种用于图像处理设备的图像处理方法,该图像处理设备用于基于存取单元处理由预定拍摄装置拍摄的运动画面。该图像处理方法包括:高速率变换步骤,用于执行将运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;检测步骤,用于对于形成运动画面的多个存取单元中的每一个,而检测代表当拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值;和校正步骤,用于在高速率变换步骤中执行的高速率变换处理之前或之后,基于由检测步骤的处理所检测的参数值中的对应于主体存取单元的至少一个值而校正形成运动画面的每一主体存取单元的每一像素值。
该高速率变换步骤可以是通过使用检测步骤中的处理所检测的参数值而执行高速率变换处理的步骤。
该第一速率可以是当该拍摄装置拍摄运动画面时的存取单元的速率。
对于形成该运动画面的多个存取单元中的每一个,该检测步骤可以包括用于检测形成每一主体存取单元的像素中的至少一个像素的运动矢量作为参数值的处理。
该高速率变换步骤可以是通过使用检测步骤中的处理所检测的运动矢量而执行运动补偿帧内插处理作为至少部分高速率变换处理的步骤。
该检测步骤可以包括用于检测作为该参数值的当拍摄装置拍摄形成运动画面的多个存取单元中的每一个时的拍摄装置的快门速度的处理。
对于形成该运动画面的多个存取单元中的每一个,该校正步骤可以将形成该主体存取单元的像素中的主体像素设置为聚焦像素。所述用于聚焦像素的步骤可包括:滤波器特性变换步骤,用于根据检测步骤中的处理所检测的所述至少一个参数值中的对应于聚焦像素的值,而变换指明成像模糊的低通滤波器的特性;逆滤波器生成步骤,用于生成由滤波器特性变换步骤中的处理变换其特性的低通滤波器的逆滤波器;和滤波步骤,用于通过将逆滤波器生成步骤中的处理所生成的逆滤波器应用到主体存取单元中的包括聚焦像素的预定块,而校正该聚焦像素的像素值。
对于形成该运动画面的多个存取单元中的每一个,该校正步骤可以将形成主体存取单元的像素中的主体像素设置为聚焦像素。所述用于聚焦像素的步骤可包括:滤波器特性变换步骤,用于根据检测步骤中的处理所检测的所述至少一个参数值中的对应于聚焦像素的值,而变换指明成像模糊的低通滤波器的特性;滤波步骤,用于将由滤波器特性变换步骤中的处理变换其特性的低通滤波器应用到主体存取单元中的包括聚焦像素的预定块,以输出该聚焦像素的校正像素值作为第一值;减法步骤,用于计算校正前的聚焦像素的像素值和作为滤波步骤的处理结果输出的第一值之间的差值,以将得到的差值作为第二值输出;和加法步骤,用于将作为减法步骤的处理结果的结果输出的第二值与校正前的聚焦像素的像素值相加,以输出得到的加法值作为校正后的聚焦像素的像素值。
对于形成该运动画面的多个存取单元中的每一个,该校正步骤可以将形成主体存取单元的像素中的主体像素设置为聚焦像素。所述用于聚焦像素的步骤可包括:第一延迟步骤,用于依次接收与其中沿着预定方向连续定位包括聚焦像素的像素的主体存取单元的像素组对应的第一图像信号,并用于将所接收的第一图像信号延迟与N个像素(N是1或大于1的整数)对应的第一延迟时间,以输出得到的第二图像信号;第二延迟步骤,用于依次接收作为第一延迟步骤的处理结果而输出的第二图像信号,并用于将所接收的第二图像信号延迟与M个像素(M是包括N的1或大于1的整数)对应的第二延迟时间,以输出得到的第三图像信号;像素值校正步骤,用于通过利用作为要在第一延迟步骤中处理的主体而输入的第一图像信号、作为第一延迟步骤的处理结果而输出并作为要在第二延迟步骤中处理的主体而输入的第二图像信号、和作为第二延迟步骤的处理结果而输出的第三图像信号,而校正聚焦像素的像素值;和延迟时间改变步骤,用于根据检测步骤中的处理所检测的参数值中的对应于聚焦像素的值来改变第一延迟步骤中的第一延迟时间和第二延迟步骤中的第二延迟时间。
第一速率可以是30Hz,而第二速率可以是120Hz。
第一速率可以是60Hz,而第二速率可以是120Hz。
第一速率可以是60Hz,而第二速率可以是240Hz。
第一速率可以是50Hz,而第二速率可以是100Hz。
第一速率可以是50Hz,而第二速率可以是200Hz。
本发明的第一记录介质的程序是要由计算机执行的程序,用于控制基于存取单元对预定拍摄装置拍摄的运动画面执行的图像处理。该程序包括:高速率变换步骤,用于执行将运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;检测步骤,用于对于形成运动画面的多个存取单元中的每一个,而检测代表当拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值;和校正步骤,用于在高速率变换步骤中执行的高速率变换处理之前或之后,基于由检测步骤的处理所检测的参数值中的对应于主体存取单元的至少一个值而校正形成运动画面的每一主体存取单元的每一像素值。
本发明的第一程序是一种要由计算机执行的程序,用于控制基于存取单元对预定拍摄装置拍摄的运动画面执行的图像处理。该第一程序包括:高速率变换步骤,用于执行将运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;检测步骤,用于对于形成运动画面的多个存取单元中的每一个,而检测代表当拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值;和校正步骤,用于在高速率变换步骤中执行的高速率变换处理之前或之后,基于由检测步骤中的处理所检测的参数值中的对应于主体存取单元的至少一个值而校正形成运动画面的每一主体存取单元的每一像素值。
根据本发明的第一图像处理设备和方法、第一记录介质和第一程序,基于存取单元对预定拍摄装置拍摄的运动画面执行图像处理。更具体地,执行将运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理。对于形成运动画面的多个存取单元中的每一个,而检测代表当拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值。在高速率变换处理之前或之后,基于所检测的参数值中的对应于主体存取单元的至少一个值而校正形成运动画面的每一主体存取单元的每一像素值。
本发明的第二图像处理设备是一种图像处理设备,用于当从不同的图像处理设备接收运动画面、和对于形成该运动画面的多个存取单元中的每一个而接收代表当预定拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值时,对该拍摄装置拍摄的运动画面执行处理。该第二图像处理设备包括:高速率变换部件,用于执行将从该不同图像处理设备提供的运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;和校正部件,用于在高速率变换部件执行的高速率变换处理之前或之后,基于从该不同图像处理设备提供的参数值中的对应于主体存取单元的至少一个值,而校正形成从该不同图像处理设备提供的运动画面的每一主体存取单元的每一像素值。
第一速率可以是30Hz,而第二速率可以是120Hz。
第一速率可以是60Hz,而第二速率可以是120Hz。
第一速率可以是60Hz,而第二速率可以是240Hz。
第一速率可以是50Hz,而第二速率可以是100Hz。
第一速率可以是50Hz,而第二速率可以是200Hz。
用于第二图像处理设备的图像处理方法是一种用于图像处理设备的图像处理方法,该图像处理设备用于当从不同的图像处理设备接收运动画面、和对于形成该运动画面的多个存取单元中的每一个而接收代表当预定拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值时,对该拍摄装置拍摄的运动画面执行处理。该图像处理方法包括:高速率变换步骤,用于执行将从该不同图像处理设备提供的运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;和校正步骤,用于在高速率变换步骤中执行的高速率变换处理之前或之后,基于从该不同图像处理设备提供的参数值中的对应于主体存取单元的至少一个值,而校正形成从该不同图像处理设备提供的运动画面的每一主体存取单元的每一像素值。
第一速率可以是30Hz,而第二速率可以是120Hz。
第一速率可以是60Hz,而第二速率可以是120Hz。
第一速率可以是60Hz,而第二速率可以是240Hz。
第一速率可以是50Hz,而第二速率可以是100Hz。
第一速率可以是50Hz,而第二速率可以是200Hz。
本发明的第二记录介质的程序是要由计算机执行的程序,用于当接收运动画面、和对于形成该运动画面的多个存取单元中的每一个而接收代表当预定拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值时,控制对该拍摄装置拍摄的运动画面执行的图像处理。该程序包括:高速率变换步骤,用于执行将所提供的运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;和校正步骤,用于在高速率变换步骤中执行的高速率变换处理之前或之后,基于所提供的参数值中的对应于主体存取单元的至少一个值,而校正形成所提供的运动画面的每一主体存取单元的每一像素值。
本发明的第二程序是要由计算机执行的程序,用于当接收运动画面、和对于形成该运动画面的多个存取单元中的每一个而接收代表当预定拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值时,控制对该拍摄装置拍摄的运动画面执行的图像处理。该程序包括:高速率变换步骤,用于执行将所提供的运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;和校正步骤,用于在高速率变换步骤中执行的高速率变换处理之前或之后,基于所提供的参数值中的对应于主体存取单元的至少一个值,而校正形成所提供的运动画面的每一主体存取单元的每一像素值。
根据本发明的第二图像处理设备和方法、第二记录介质、和第二程序,当接收运动画面、和对于形成该运动画面的多个存取单元中的每一个而接收代表当预定拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值时,对该拍摄装置拍摄的运动画面执行图像处理。更具体地,执行将所提供的运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理。在高速率变换处理之前或之后,基于所提供的参数值中的对应于主体存取单元的至少一个值,而校正形成所提供的运动画面的每一主体存取单元的每一像素值。
优点
从以上描述可以看出,根据本发明,运动画面的帧频可被变换为比输入运动画面的帧频高的帧频。特别是,通过抑制由成像模糊引起的图像质量的降低(模糊的图像),可非常清晰地显示经过帧频变换之后的运动画面。
附图说明
图1是图示了应用了本发明的图像处理设备的功能配置的示例的方框图。
图2图示了在人的视网膜上形成的图像的模糊的频率特性。
图3是图示了图1所示图像处理设备所执行的图像处理的流程图。
图4图示了根据运动矢量(运动速度)的成像模糊的频率特性。
图5是图示了图1所示图像处理设备的成像模糊抑制处理器的功能配置的例子的方框图。
图6是图示了与图5所示不同的、图1所示图像处理设备的成像模糊抑制处理器的功能配置的例子的方框图。
图7是图示了与图5或6所示不同的、图1所示图像处理设备的成像模糊抑制处理器的功能配置的例子的方框图。
图8是图示了形成图7所示成像模糊抑制处理器的各元件的输出信号的例子的时序图。
图9是图示了与图5、6、或7所示不同的、图1所示图像处理设备的成像模糊抑制处理器的功能配置的例子的方框图。
图10是图示了图9所示成像模糊抑制处理器的各元件的输出信号的例子的时序图。
图11图示了相机的快门速度和成像模糊特性。
图12是图示了与图1所示不同的、应用了本发明的图像处理设备的功能配置的示例的方框图。
图13是图示了与图1或12所示不同的、应用了本发明的图像处理设备的功能配置的示例的方框图。
图14是图示了与图1、12、或13所示不同的、应用了本发明的图像处理设备的功能配置的示例的方框图。
图15是图示了与图1、12、13、或14所示不同的、应用了本发明的图像处理设备的功能配置的示例的方框图。
图16是图示了应用了本发明的图像处理设备的整体或部分的硬件配置的例子的方框图。
附图标记
1图像处理设备,11高帧频变换器,12成像模糊特性检测器,13成像模糊抑制处理器,21移动平均值滤波器(低通滤波器)特性变换器,22反向移动平均值滤波器(高通滤波器)发生器,23移动平均值滤波器(高通滤波器),31移动平均值滤波器(低通滤波器)特性变换器,32移动平均值滤波器(低通滤波器),33加法器,34加法器,51输入单元,52可变DL单元,53可变DL单元,54-1,54-2校正单元,55延迟时间改变单元,56输出单元,101,102,112,131图像处理设备,201CPU,202ROM,203RAM,208存储单元,211可去除记录介质
具体实施方式
下面参考附图来描述本发明的实施例。
图1图示了应用了本发明的图像处理设备的功能配置的例子。
图像处理设备1基于存取单元而对运动画面数据执行各种图像处理操作。所述存取单元是运动画面的单元(例如帧或场),并更具体地,是形成运动画面的每一帧(静止图像)的整体或部分。为了便于描述,假设图像处理设备1以帧为单位对运动画面数据执行各种图像处理操作。
图像处理设备1包括图1所示高帧频变换器11、成像模糊特性检测器12、和成像模糊抑制处理器13。
例如,运动画面信号(例如电视广播信号)作为运动画面数据以帧为单位被输入到高帧频变换器11。
其后,运动画面和对应运动画面数据被统称为“运动画面”,除非必须单独区分它们。类似地,帧和对应帧数据被统称为“帧”,除非必须单独区分它们。
当输入具有第一帧频的运动画面时,高帧频变换器11对输入运动画面执行高帧频变换处理,并将具有比第一帧频高的第二帧频的结果运动画面提供到成像模糊特性检测器12和成像模糊抑制处理器13。
当输入运动画面的第一帧频低于输出(显示的)运动画面的第二帧频时,执行高帧频变换处理。通过创建新帧并在输入运动画面的相邻帧之间插入新帧,高帧频变换处理用于将第一帧频变换为比第一帧频高的第二帧频。
第一帧频是当将运动画面输入到高帧频变换器11时的帧频。因此,第一帧频可以是任意帧频,并且此处假设第一帧频是当运动画面由成像装置(未示出)捕获时的运动画面的帧频,即第一帧频是成像帧频。
成像模糊特性检测器12对于从高帧频变换器11提供的运动画面的每一帧检测代表成像模糊的特性的参数值。成像模糊特性检测器12的检测结果(即代表成像模糊的特性的参数值)被提供到成像模糊抑制处理器13。
代表成像模糊的特性的参数没有特别限制,并可使用各种参数。下面给定指明成像模糊的特性的参数的特定例子。
指明一帧中的成像模糊的特性的要检测的参数值的数目没有特别限制。例如,可对于每一帧仅检测指明成像模糊的特性的一个参数值,或者可对于形成该帧的每一像素而检测指明成像模糊的特性的一个参数值。可替换地,该帧可被划分为几块,并且可对于每一块检测指明成像模糊的特性的一个参数值。
成像模糊抑制处理器13基于从成像模糊特性检测器12所检测的参数值中选择的主体帧的参数值,而校正形成从高帧频变换器11提供的运动画面的主体帧的每一像素值。也就是说,成像模糊抑制处理器13根据主体帧的成像模糊的特性(参数值)而校正形成该主体帧的每一像素值,从而可抑制该成像模糊。
因此,通过在变换为比输入运动画面的第一帧频高的第二帧频之后校正形成每一帧的每一像素值而经过成像模糊抑制的运动画面被从成像模糊抑制处理器13输出到图像处理设备1的外部。
在图1所示例子中,一套成像模糊特性检测器12和成像模糊抑制处理器13与高帧频变换器11一起使用。然而,一套成像模糊特性检测器12和成像模糊抑制处理器13可单独使用,或可结合另一块(执行预定图像处理的另一图像处理器)(未示出)使用。
也就是说,可通过仅利用一套成像模糊特性检测器12和成像模糊抑制处理器13而有利地抑制成像模糊。为了使得该优点更显而易见,如上所述,优选的是,一套成像模糊特性检测器12和成像模糊抑制处理器13与高帧频变换器11相组合。下面讨论这样做的理由。
当显示装置(未示出)上显示的运动画面被形成为人的视网膜上的图像时,这个人所识别的模糊是通过这个人跟踪运动画面中包括的运动物体而引起的保留型(hold-type)模糊和成像操作引起的上述成像模糊的组合。
如下参考图4所述,成像模糊的特性可由低通滤波器表示。也就是说,发生成像模糊后的图像信号等同于通过低通滤波器之后发生成像模糊之前的图像信号(理想信号)。因此,发生成像模糊后的图像信号的频率特性低于发生成像模糊之前的图像信号的频率特性。也就是说,基本上,随着发生成像模糊后的图像信号的频率变高,该图像信号的增益和发生成像模糊前的图像信号相比变低。
和成像模糊的特性一样,保留型模糊的特性也可由低通滤波器表示。也就是说,发生保留型模糊后的图像信号等同于通过低通滤波器之后发生保留型模糊之前的图像信号(发生成像模糊后的图像信号)。因此,发生保留型模糊后的图像信号的频率特性低于发生保留型模糊之前的图像信号的频率特性。也就是说,基本上,随着发生保留型模糊后的图像信号的频率变高,该图像信号的增益和发生保留型模糊前的图像信号相比变低。应该注意仅当显示装置为固定像素(保留)型显示装置时,才发生保留型模糊。
由此,通过对在发生成像模糊之后、具有低频率特性的图像信号执行高帧频变换处理,可抑制保留型模糊。然而,即使这样的高帧频变换处理也不能降低成像模糊,而且抑制人的视网膜上的模糊的效果也被减半。这将在下面参考图2进行描述。
图2图示了当在拍摄装置(下面称为“相机”)的拍摄范围内拍摄以4(像素/帧)的速率移动的实物时在人的视网膜上形成的图像的模糊的频率特性。在图2中,横轴指明频率,而纵轴指明增益。应注意横轴上的频率指明当奈奎斯特频率为1时的相对值。
在图2中,由点划线指明的曲线h0表示当没有特别执行降低模糊(包括成像模糊和保留型模糊)的处理时在人的视网膜上形成的图像的模糊的频率特性。也就是说,在图1的示例中,如果应输入到图像处理设备1中的图像被直接提供到显示装置而没有被输入到图像处理设备1(没有被处理)、并在显示装置上显示,则人的视网膜上形成的图像的模糊的频率特性是曲线h0。
相反,如果例如显示速度通过高帧频变换处理而被加倍,则仅降低保留型模糊,并且作为结果,在人的视网膜上形成的图像的模糊的频率特性变为图2的虚线所示的曲线h1。也就是说,如果运动画面被输入到图像处理设备1,并经过高帧频变换器11的高帧频变换处理,并然后被提供到显示装置并在其上显示而没有被输入到成像模糊抑制处理器13(不降低成像模糊),则视网膜上形成的图像的模糊的频率特性是曲线h1。
如果通过应用了本发明的高帧频变换处理使得显示速度被加倍(如果保留型模糊被降低)并且如果成像模糊被减半,则在人的视网膜上形成的图像的模糊的频率特性变为图2的实线所示的曲线h2。也就是说,如果输入到图1所示图像处理设备1的运动画面经过高帧频变换器11的高帧频变换处理,并还由成像模糊抑制处理器13抑制了其成像模糊,并且然后该运动画面被提供到显示装置并在其上显示,则在人的视网膜上形成的图像的模糊的频率特性是曲线h2。
一旦比较了曲线h1和曲线h2,就可看出用于降低保留型模糊的高帧频变换处理不足以改善人的视网膜上形成的图像的模糊的特性,并且除了降低保留型模糊之外,仍然必须降低成像模糊。然而,如上所述,在已知方法中,仅执行高帧频变换处理,而不考虑降低成像模糊的必要性。
因此,和图1所示实施例中讨论的本发明的图像形成设备一样,在下面讨论的图12和13所示实施例中的图像处理设备中,不仅安排高帧频变换器11,而且安排成像模糊特性检测器12和成像模糊抑制处理器13,从而降低成像模糊,即将人的视网膜上的图像的模糊的特性从图2的曲线h0改善为曲线h2。然而,和下面讨论的图14和15中所示实施例中一样,成像模糊特性检测器12对于本发明的图像处理设备不是必须的。
更具体地,图像模糊抑制处理器13基于从代表成像模糊特性检测器12检测的成像模糊的特性的参数值中选择的主体帧的参数值,而校正主体帧的每一像素值,由此改善由经过高帧频变换的主体帧的成像模糊引起的降低的图像质量。也就是说,通过将从本发明的图像处理设备(例如图像处理设备1)输出的图像信号提供到显示装置(未示出),显示装置可显示具有抑制的图像模糊(模糊的图像)的清晰图像作为对应于该图像信号的图像。
如上所述,优选的是,一套成像模糊特性检测器12和成像模糊抑制处理器13可与高帧频变换器11相组合。
现在参考图3的流程图来描述由具有图1所示功能配置的图像处理设备1执行的图像处理。
在步骤S1,该高帧频变换器11接收具有第一帧频的运动画面。
在步骤S2,该高帧频变换器11将运动画面的帧频变换为高于第一帧频的第二帧频。
当从第一帧频变换为第二帧频的运动画面从高帧频变换器11提供到成像模糊检测器12和成像模糊抑制处理器13时,该处理进行到步骤S3。
在步骤S3,成像模糊特性检测器12检测代表运动画面的每一帧的成像模糊的特性的至少一个参数值。
当代表运动画面的每一帧的成像模糊的特性的至少一个参数值从成像模糊特性检测器12提供到成像模糊抑制处理器13时,该处理进行到步骤S4。
在步骤S4,成像模糊抑制处理器13基于从成像模糊特性检测器12检测的参数值中选择的主体帧的至少一个参数值,而校正形成从高帧频变换器11提供的运动画面的每一帧的每一像素值。
在步骤S5,成像模糊抑制处理器13输出具有每一帧的校正的像素值并从第一帧频变换为第二帧频的运动画面。
然后,完成图3所示的图像处理。
在以上讨论中,为了描述简明,在步骤S1到S5的每一步骤中的处理的处理单元是运动画面。然而,实际上,经常的情况是该处理单元是帧。
在图3所示图像处理中,在步骤S1到S5将运动画面用作处理单元意味着从目标步骤移动到下一步骤的条件是应该对整个运动画面执行目标步骤中的处理。
相反,在图3所示图像处理中,在步骤S1到S5将帧用作处理单元意味着从目标步骤移动到下一步骤的条件是应该对整个一帧执行目标步骤中的处理。换言之,在每一步骤中将帧用作处理单元意味着可独立于其它帧(与其它帧并行)对每一帧连续执行从步骤S1到S5的处理。在该情况下,例如,当对第一帧执行步骤S3时,可并行地对不同于第一帧的第二帧执行步骤S2。
实际上,经常的情况是形成主体帧的像素被一个接一个地依次设置为要聚焦的像素(下面称为“聚焦像素”),并且对聚焦像素单独执行至少步骤S3和S4。也就是说,经常的情况是步骤S3和S4中的处理单元是像素。
因此,在以下描述中,目前假设步骤S3和S4中的处理单元是像素。也就是说,步骤S3是由成像模糊特性检测器12执行的处理,而步骤S4是由成像模糊抑制处理器13执行的处理。由此,在以下描述中,假设成像模糊特性检测器12和成像模糊抑制处理器13的处理单元是像素。
下面描述图1所示图像处理设备1的成像模糊抑制处理器13的几种模式。更具体地,例如,下面讨论当运动矢量的绝对值(下面称为“运动速度”)用作代表成像模糊的特性的参数时的成像模糊抑制处理器13的几种模式。
当运动速度用作代表成像模糊的特性的参数时,成像模糊特性检测器12依次将形成运动画面的每一帧的单独像素设置为聚焦像素,以依次检测单独聚焦像素的运动矢量,并然后将该运动矢量依次提供到成像模糊抑制处理器13,作为代表聚焦像素的成像模糊的特性的参数值。
因此,成像模糊抑制处理器13依次将形成运动画面的每一帧的单独像素设置为聚焦像素,并基于从成像模糊特性检测器12提供的运动矢量中选择的聚焦像素的运动矢量的绝对值(即基于聚焦像素的运动速度),而依次校正聚焦像素的像素值。
下面讨论运动速度可用作代表成像模糊的特性的参数的原因。
一般地,成像模糊的特性可以由依赖于物体的运动速度的模式来代表。
物体的运动速度包括当在物体移动而相机被固定在实空间中的同时、由相机拍摄物体时的一帧中的物体(图像)的运动速度。这里讨论的物体的运动速度还包括当在物体固定并且相机由于手的移动而在实空间中移动的同时、或者在物体和相机都在实空间中移动的同时、由相机拍摄物体时的一帧中的物体(图像)的相对运动速度。
因此,成像模糊的特性可以由依赖于形成物体图像的每一像素的运动速度的模式来代表。
聚焦像素的运动速度指明主体帧中的像素和前一帧中的对应像素(对应点)之间的空间距离。例如,如果主体帧中的像素和前一帧(时间上靠前的一帧)中的对应像素(对应点)之间的空间距离为K(K是0或大于0的整数)个像素,则该像素的运动速度为K[像素/帧]。
在该情况下,如果形成物体图像的预定像素被设置为聚焦像素,则该聚焦像素的成像模糊的特性可由依赖于聚焦像素的运动速度K[像素/帧]的大小的模式来代表。
更具体地,当聚焦像素的运动速度为2、3、和4[像素/帧]时,聚焦像素的成像模糊的频率特性分别为图4所示的H2到H4。
也就是说,图4示出了当聚焦像素的运动速度为2、3、和4[像素/帧]时的聚焦像素的成像模糊的频率特性。在图4中,横轴指明频率,而纵轴代表增益。应该注意横轴上的频率指明当奈奎斯特频率为1时的相对值。
上面已讨论了运动速度可用作代表成像模糊的特性的参数的原因。
图4所示频率特性H2到H4揭示了空间域中的聚焦像素的成像模糊的特性可由移动平均值滤波器(低通滤波器)代表。
更具体地,当代表移动平均值滤波器(低通滤波器)的转移函数(下面称为“成像模糊转移函数”)由H指明时,并且当没有成像模糊的理想图像信号(下面称为“发生成像模糊前的信号”)由频域中的F指明时,并且当从相机输出的实际图像信号、即具有成像模糊的图像信号(下面称为“发生成像模糊后的图像信号”)由频率中的H指明时,发生成像模糊后的信号可以由以下公式(1)表示。
G=H×F                 ...(1)
本发明的目标是去除(抑制)成像模糊,并由此,为了达到本发明的目标,通过根据发生成像模糊后的已知信号G和已知成像模糊转移函数H进行计算,而预测发生成像模糊前的信号F。也就是说,根据以下公式(2)进行预测性计算。
F=inv(H)×G            ...(2)
在公式(2)中,inv(H)指定转移函数H的反函数。由于成像模糊转移函数H具有低通滤波器的特性,所以如上所述,反函数inv(H)具有高通滤波器的特性。
而且,如上所述,成像模糊转移函数H的特性根据运动速度而改变。更具体地,例如,当聚焦像素的运动速度为2、3、和4[像素/帧]时,聚焦像素的成像模糊转移函数H的频率特性不同,如图4的曲线H2、H3、和H4所指明的那样。
因此,成像模糊抑制处理器13根据运动速度而改变成像模糊转移函数H的性质,以确定改变的转移函数H的反函数inv(H),并利用该反函数inv(H)而执行公式(2)所示的计算,由此实现本发明的目标,即去除(抑制)成像模糊的目标。
可替换地,由于公式(2)中的计算是频域中的计算,所以成像模糊抑制处理器13可执行与公式(2)所示计算等同的空间域中的处理,以实现本发明的目标。更具体地,成像模糊抑制处理器13可执行以下第一处理到第三处理。
第一处理是根据从成像模糊特性检测器12提供的聚焦像素的运动速度而变换代表聚焦像素的成像模糊的移动平均值滤波器(低通滤波器)的特性的处理。更具体地,在第一处理中,例如,为多个运动速度中的每一个准备移动平均值滤波器,并从多个移动平均值滤波器中选择与聚焦像素的运动速度对应的移动平均值滤波器。
第二处理包括以下处理2-1到处理2-3。
处理2-1是对其特性已由第一处理改变的移动平均值滤波器执行傅立叶变换从而用频率指明移动平均值滤波器。更具体地,当聚焦像素的运动速度是2、3、和4[像素/帧]时、获得图4所示曲线H2、曲线H3、和曲线H4的处理是处理2-1。也就是说,在频域中考虑,用于确定聚焦像素的成像模糊转移函数H的处理是处理2-1。
处理2-2是用于计算由处理2-1中的频率代表的移动平均值滤波器的倒数的处理。也就是说,在频域中考虑,用于产生成像模糊转移函数H的反函数inv(H)的处理是处理2-2。
处理2-3是用于对处理2-2中计算的由频率代表的移动平均值滤波器的倒数执行傅立叶变换的处理。也就是说,用于产生与反函数inv(H)对应的高通滤波器(维纳滤波器,Wiener filter)的处理是处理2-3。换言之,用于产生移动平均值滤波器的逆滤波器的处理是处理2-3。处理2-3所产生的高通滤波器在下面被称为“逆移动平均值滤波器”。
第三处理如下所示。与公式(2)中的频域中的发生成像模糊后的信号G对应的空间域中的图像信号g被作为输入图像输入,并且由处理2-3产生的逆移动平均值滤波器被施加到图像信号g。通过该第三处理,与公式(2)中的频域中的发生成像模糊前的信号F对应的空间域中的图像信号f可被重构(预测)。更具体地,通过将逆移动平均值滤波器施加到主体帧的包括聚焦像素的预定块而校正聚焦像素的像素值的处理是第三处理。
图5中示出了能执行第一处理到第三处理的成像模糊抑制处理器13的功能配置的实施例。也就是说,图5图示了成像模糊抑制处理器13的功能配置的实施例。
图5所示成像模糊抑制处理器13包括移动平均值滤波器(低通滤波器)特性变换器21、逆移动平均值滤波器(高通滤波器)发生器22、和逆移动平均值滤波器(高通滤波器)23。
移动平均值滤波器特性变换器21执行上述第一处理。逆移动平均值滤波器发生器22执行上述第二处理。逆移动平均值滤波器23执行上述第三处理。
然而,如果如图5所示配置成像模糊抑制处理器13,则出现新问题。也就是说,如图4所示频率特性H2到H4所示,代表成像模糊的移动平均值滤波器(其频率特性)包括增益为0的频率。因此,逆移动平均值滤波器发生器22很难产生移动平均值滤波器的完全的逆滤波器(perfct inverse filter)(完全的逆移动平均值滤波器)。
可以说图5所示移动平均值滤波器23的处理,即将逆移动平均值滤波器(高通滤波器)施加到输入图像的处理,是增加输入图像的频率特性的对应频带中的已由代表成像模糊的低通滤波器衰减的增益。
为了解决该新问题,取代使用如图5所示配置的成像模糊抑制处理器13,应使用具有增加对应频带中衰减的增益的功能的成像模糊抑制处理器13。更具体地,例如可使用图6所示配置的成像模糊抑制处理器13。也就是说,图6所示成像模糊抑制处理器13的功能配置与图5中的不同。
换言之,为了实现该功能,图6所示成像模糊抑制处理器13装备有移动平均值滤波器(低通滤波器)特性变换器31、移动平均值滤波器(低通滤波器)32、减法器33、和加法器34。
基本上,移动平均值滤波器特性变换器31具有和图5所示移动平均值滤波器特性变换器21类似的功能和配置。也就是说,移动平均值滤波器特性变换器31根据主体帧(输入图像)中的聚焦像素的运动速度而变换代表成像模糊的移动平均值滤波器(低通滤波器)的性质。在图6中,该运动速度由成像模糊特性检测器12提供的参数值表示。也就是说,从成像模糊特性检测器12提供该运动速度。
移动平均值滤波器32(低通滤波器32)通过将由移动平均值滤波器特性变换器31改变了其性质的移动平均值滤波器施加到主体帧(输入图像)中的包括聚焦像素的预定块,而校正聚焦像素的像素值。由移动平均值滤波器32校正的聚焦像素的像素值被提供到减法器33。
也就是说,在反转移动平均值滤波器32校正的聚焦像素的像素值的极性之后,将像素值输入到减法器中。校正之前的主体帧(输入图像)的聚焦像素的像素值也被输入到减法器33中。
因此,减法器33确定校正之前的聚焦像素的像素值和移动平均值滤波器32所校正的聚焦像素的像素值之间的差值,并将该差值提供到加法器34。加法器33的输出在下面被称为“移动平均值滤波器前后之间的差值”。
以这种方式,移动平均值滤波器前后之间的差值被输入到加法器34中。校正之前的主体帧(输入图像)的聚焦像素的像素值也被输入到加法器34中。
然后,加法器34将移动平均值滤波器前后之间的差值与校正前的聚焦像素的像素值相加作为校正值,并输出该相加结果作为输出图像(或部分输出图像)。也就是说,该输出图像是校正的像素值形成的帧或这些帧形成的运动画面。
总而言之,图6所示成像模糊抑制处理器13通过将移动平均值滤波器前后之间的对应差值与像素值相加作为校正值,而校正形成运动画面的每一主体帧的每一像素值。
如果在频域中考虑空间域中的图6所示成像模糊抑制处理器13的处理,则像素校正如下。
当考虑作为加法器33的输出信号的移动平均值滤波器前后之间的差值时,如果在频域中对预定频率聚焦,则加法器33的输出信号的增益是输入图像信号的增益和施加了移动平均值滤波器的输入图像信号的增益之间的差值。加法器33的输出信号的增益在下面被称为“移动平均值滤波器前后之间的差值增益”。
因此,当在频域中考虑从图6所示成像模糊抑制处理器13(加法器34)输出的图像信号时,如果在频域中对预定频率聚焦,则输出图像信号的增益是通过将移动平均值滤波器前后之间的差值增益和输入图像信号的增益相加而获得的值。也就是说,在每一频率中,与输入图像的增益相比,输出图像信号的增益被增加与移动平均值滤波器前后之间的差值增益相等的量。
换言之,在图6所示整个成像模糊抑制处理器13中,执行与应用高通滤波器基本等同的处理。
作为成像模糊抑制处理器13的实施例,已讨论了应用高通滤波器的图5所示例子和执行与应用高通滤波器基本等同的处理的图6所示例子。
可以说将高通滤波器应用到图像信号是边缘增强处理。也就是说,可以说成像模糊抑制处理器13所执行的处理的目的不是增强绘图的边缘,而是增强由成像模糊使其变得比较不清晰的边缘。因此,为了实现该目的,成像模糊抑制处理器13通过利用成像模糊和运动速度之间的上述关系(即成像模糊特性依赖于运动速度的大小)而控制边缘增强的电平(增强量)。也就是说,可以说成像模糊抑制处理器13根据边缘部分(对应像素)的运动速度而改变边缘增强的电平。例如,在图5和6所示例子中,成像模糊抑制处理器13通过根据运动速度变换代表成像模糊的移动平均值滤波器(低通滤波器)的性质而改变边缘增强电平。
该边缘增强电平对应于每一像素值所被校正的量。
所以,在本发明中,如果成像模糊抑制处理器13根据聚焦像素的运动速度改变校正量(边缘增强电平)并将该校正量添加到校正前(输入时)的聚焦像素的像素值上,这是足够的。也就是说,可以以各种模式形成成像模糊抑制处理器13,而无需被限制在图5或6所示例子中。
例如,成像模糊抑制处理器13可包括第一延迟单元、第二延迟单元、校正单元、和延迟时间改变单元,下面将对它们进行讨论。
当依次输入与其中沿着运动矢量的方向连续定位像素的主体帧的像素组(包括聚焦像素的像素组)对应的第一图像信号时,第一延迟单元将第一图像信号延迟第一延迟时间,并输出得到的第二图像信号。第一延迟时间是将与第一图像信号的N个像素(N是1或大于1的整数)对应的部分信号输入到第一延迟单元所需的时间。
一旦依次接收了从第一延迟单元输出的第二图像信号,第二延迟单元就将第二图像信号延迟第二延迟时间,并输出得到的第三图像信号。第二延迟时间是将与第二图像信号的M个像素(M是包括N的1或大于1的整数)对应的部分信号输入到第二延迟单元所需的时间。
校正单元通过利用第一到第三信号而确定校正量,并将所确定的校正量添加到聚焦像素的像素值,由此校正聚焦像素的像素值。
延迟时间改变单元根据从成像模糊特性检测器12提供的聚焦像素的运动速度来改变第一延迟单元的第一延迟时间和第二延迟单元的第二延迟时间。
如果第一延迟时间和第二延迟时间根据聚焦像素的运动速度而被合适地改变,则第二信号和第三信号的模式(波形)也因此而改变。利用第一信号到第三信号确定的校正量也根据聚焦像素的运动速度而改变。由此,具有成像模糊的边缘部分可被合适地增强与成像模糊相等的量,并且作为结果,在经过帧频变换后的帧中,可抑制由成像模糊引起的降低的图像质量(模糊的图像)。由此可能在显示装置上显示清晰的图像。
包括第一延迟单元、第二延迟单元、校正单元、和延迟时间改变单元的成像模糊抑制处理器13可被特别配置,例如如图7所示。也就是说,图7图示了与图5或6所示不同的成像模糊抑制处理器13的功能配置的实施例。
图7所示成像模糊抑制处理器13包括输入单元51、充当第一延迟单元的可变DL单元52、充当第二延迟单元的可变DL单元53、校正单元54-1、延迟时间改变单元55、和输出单元56。校正单元54-1包括减法器61、全波整流器62、65和68、反相器63、66和69、减法器64、67和71、MIN输出单元70、限幅器72、和加法器73。
下面参考图8所示信号讨论成像模糊抑制处理器13的详细配置(各块的连接状态)和操作。也就是说,图8是图示了图7所示成像模糊抑制处理器13的各块的输出信号的例子的时序图。
在图7中,经过高帧频变换器11的高帧频变换处理的输入图像信号(例如图8所示信号a)被提供到输入单元51。输入到输入单元51中的信号a被提供到可变DL单元52。然后,相对于信号a延迟第一延迟时间T的图8所示信号b从DL延迟单元52输出。然后,可变DL单元52的输出信号b被提供到可变DL单元53。然后,相对于信号b延迟第二延迟时间T的图8所示信号c(即相对于信号a延迟时间2T的信号c)从可变DL单元53输出。
可变DL单元52的输入信号a和可变DL单元53的输出信号c被提供到减法器61。减法器61从信号c中减去信号a,并将得到的信号(例如图8所示信号d)提供到全波整流器62。信号d还经由全波整流器62被提供到反相器63,该反相器63将正信号变换为负信号。结果,图8所示信号e从反相器63输出并被提供到减法器71。
输入信号a和可变DL单元52的输出信号b被提供到减法器64。减法器64从信号b中减去信号a,并将得到的信号(例如图8所示信号f)提供到全波整流器65。信号f在经过全波整流器65和反相器66之后被进一步变换为信号g,并然后被提供到MIN输出单元70。
可变DL单元53的输入信号(可变DL单元52的输出信号b)和输出信号被提供到减法器67。减法器67从信号c中减去信号b,并将得到的信号(例如图8所示信号h)提供到全波整流器68。信号h在经过全波整流器68和反相器69之后被进一步变换为例如图8所示信号i,并然后被提供到MIN输出单元70。
MIN(最小值)输出单元70提取两个信号g和i中的较小的信号。因此,例如图8所示信号j从MIN输出单元70输出并被提供到减法器71。
减法器71从反相器63提供的信号e中减去MIN输出单元70提供的信号j,并将得到的信号(例如图8所示信号k)提供到限幅器72。
提供到限幅器72的信号k被变换为例如图8所示信号l,并然后被提供到加法器73。
加法器73将限幅器72提供的信号l与可变DL单元52的输出信号b相加作为校正信号,并将得到的信号(例如图8所示信号m)作为输出图像信号经由输出单元56输出。
换言之,在校正单元54-1中,通过利用与从可变DL单元52输出之后输入到可变DL单元53的图像信号b的聚焦像素对应的第一部分信号、比对应于图像信号a的聚焦像素的部分信号输入到可变DL单元52的时间基本上早第一延迟时间T而输入到可变DL单元52的第二部分信号、和比对应于图像信号c的聚焦像素的部分信号从可变DL单元53输出的时间基本上晚第二延迟时间T而从可变DL单元53输出的第三部分信号,而确定第一部分信号的电平(聚焦像素的像素值)的校正量。也就是说,第一部分信号的电平(聚焦像素的像素值)的校正量是与从限幅器72输出并输入到加法器73的信号l的聚焦像素对应的第四部分信号的电平。然后,加法器73将信号l的第四部分信号的电平(校正量)与信号b的第一部分信号的电平(聚焦像素的像素值)相加,由此校正第一部分信号的电平。
因此,通过根据聚焦像素的运动速度而合适地改变可变DL单元52的第一延迟时间T和可变DL单元53的第二延迟时间T,可以合适地改变聚焦像素的校正量(信号l的第四部分信号的电平)。
换言之,上述信号a的第二部分信号的电平对应于第一不同像素的像素值,该第一不同像素沿着运动矢量的方向或反方向与聚焦像素相隔对应于第一延迟时间T的N个像素。类似地,上述信号c的第三部分信号的电平对应于第二不同像素的像素值,该第二不同像素沿着运动矢量的方向或反方向与聚焦像素相隔对应于第二延迟时间T的M(=N)个像素。
由此,可以说信号l的第四部分信号的电平是基于聚焦像素的像素值、第一不同像素的像素值、和第二不同像素的像素值确定的校正量。也可以说根据聚焦像素的运动速度改变可变DL单元52的第一延迟时间T和可变DL单元53的第二延迟时间T就是根据聚焦像素的运动速度改变第一不同像素和第二不同像素。
如上所述,通过根据聚焦像素的运动速度合适地改变第一不同像素和第二不同像素,图7所示成像模糊抑制处理器13可以输出具有已经变得比输入图像(输入信号a)不清晰的增强边缘的信号作为输出图像(输出信号m)。由此,由成像模糊在每一帧中引起降低的质量(模糊的图像)的部分可基本上被恢复为原始图像的质量(没有模糊的图像)。结果,可以在显示装置(未示出)上显示清晰的图像。
如果没有为图7所示成像模糊抑制处理器13提供限幅器72,则例如图8所示信号n作为输出图像信号从输出单元56输出。在该情况下,上升脉冲的电平变高,这使得显示装置(未示出)上显示的图像不自然,并且下降脉冲的中心凹下相当大的量,这使得显示装置(未示出)上显示的图像不自然。
相反,由于图7所示成像模糊抑制处理器13装备有限幅器72,所以可防止不自然的图像的产生。
如上所述,图7所示成像模糊抑制处理器13的校正单元54-1对通过对可变DL单元52和可变DL单元53的输入信号和输出信号中的预定两个信号执行相减而获得的减法信号中的三个减法信号执行全波整流和反相,并对得到的三个信号执行预定计算。然后,校正单元54-1仅提取包括负信号分量的信号l,并利用该信号l作为聚焦像素的校正量。结果,可获得没有前冲或过冲的输出信号,例如图8所示输出信号m。
也就是说,本发明的目的是(基本上)根据发生成像模糊后的图像信号重构发生成像模糊前的图像信号。发生成像模糊前的图像信号的边缘部分没有发生前冲或过冲。因此,如果成像模糊抑制处理器13的输出信号发生了前冲或过冲,则输出信号不是根据发生成像模糊前的图像信号重构的信号,而是作为过度校正成像模糊的结果的信号。图7所示成像模糊抑制处理器13输出没有发生前冲或过冲的输出信号,即与发生成像模糊前的图像信号接近的图像信号。
作为包括第一延迟单元、第二延迟单元、校正单元、和延迟时间改变单元的成像模糊抑制处理器13,已讨论了图7所示成像模糊抑制处理器13。然而,可以以各种模式形成包括第一延迟单元、第二延迟单元、校正单元、和延迟时间改变单元的成像模糊抑制处理器13,而不受到图7所示例子的限制。
更具体地,例如可如图9所示配置包括第一延迟单元、第二延迟单元、校正单元、和延迟时间改变单元的成像模糊抑制处理器13,而不是图7所示配置。也就是说,图9图示了与图5、6、或7所示不同的成像模糊抑制处理器13的功能配置的实施例。
在图9所示成像模糊抑制处理器13中,与图7所示成像模糊抑制处理器13具有相同功能和配置的元件被指定相同的附图标记。
图9所示成像模糊抑制处理器13包括输入单元51、充当第一延迟单元的可变DL单元52、充当第二延迟单元的可变DL单元53、校正单元54-2、延迟时间改变单元55、和输出单元56。除了为图7所示校正单元54-1提供的减法器61、全波整流器62、65和68、反相器63、66和69、减法器64、67和71、MIN输出单元70、限幅器72、和加法器73之外,校正单元54-2还包括极性倒相器74、MAX输出单元75和77、MIN输出单元76和78、加法器79、81和83、倒相器放大器80和82、以及乘法器84。
也就是说,一旦比较图9和图7的配置,就会发现对应于输入单元51、可变DL单元52、可变DL单元53、延迟时间改变单元55、和输出单元56、以及校正单元54-2的减法器61、全波整流器62、65和68、反相器63、66和69、减法器64、67和71、MIN输出单元70、限幅器72、和加法器73的配置相同。
现在参考图10所示信号给出对与图7所示不同的成像模糊抑制处理器13的部分的详细配置(各块的连接状态)和操作的描述,即极性倒相器74、MAX输出单元75和77、MIN输出单元76和78、加法器79、81和83、倒相器放大器80和82、以及乘法器84。也就是说,图10是图示了与图7所示不同的图9所示成像模糊抑制处理器13的各块的输出信号的例子的时序图。
现在例如假设与图8所示信号l相同的图10所示信号aa是从图9所示限幅器72输出的。然而,限幅器72的输出信号aa被提供到图9所示乘法器84而不是加法器73。
在图10中,为了阐明信号aa到nn的时间变化,与图8的包括信号l的信号a到n相比,包括限幅器72的输出信号aa的信号aa到nn的大小被加倍。
与图8所示信号f相同的图10的信号bb是从图9所示减法器64输出的。减法器64的输出信号bb不仅被提供到全波整流器65,而且被提供到MAX输出单元75和MIN输出单元76。
减法器67的输出信号不仅被提供到全波整流器68,而且被提供到极性倒相器74。提供到极性倒相器74的信号的极性被反转,并且作为结果,图10所示信号cc被获得并提供到MAX输出单元77和MIN输出单元78。
AC地电势被提供到MAX输出单元75、MIN输出单元76、MAX输出单元77和MIN输出单元78中的每一个。
利用该配置,作为减法器64的输出信号bb的正部分的图10所示信号dd从MAX输出单元75输出并被提供到加法器79。作为减法器64的输出信号bb的负部分的图10所示信号gg从MIN输出单元76输出并被提供到加法器81。作为极性倒相器74的输出信号cc的正部分的图10所示信号ff从MAX输出单元77输出并被提供到加法器81。作为极性倒相器74的输出信号cc的负部分的图10所示信号ee从MIN输出单元78输出并被提供到加法器79。
加法器79将MAX输出单元75的输出信号与MIN输出单元78的信号ee相加,并将得到的信号(例如图10所示信号hh)提供到倒相器放大器80。加法器81将MIN输出单元76的输出信号gg与MAX输出单元77的输出信号ff相加,并将得到的信号(例如图10所示信号jj)提供到倒相器放大器82。
倒相器放大器80反转信号hh的极性,以将加法器79的输出信号hh整形为矩形波,并将得到的信号(例如图10所示信号ii)提供到加法器83。类似地,倒相器放大器82反转输出信号jj的极性,以将输出信号jj整形为矩形波,并将得到的信号(例如图10所示信号kk)提供到加法器83。
加法器83将倒相器放大器80的输出信号ii与倒相器放大器82的输出信号kk相加,并将得到的信号(例如图10所示信号ll)提供到乘法器84。
一旦接收到加法器83的输出信号ll和限幅器72的输出信号aa,乘法器84就将信号aa和信号ll相乘,并输出得到的信号,例如图10所示信号mm,其中限幅器72的输出信号aa的倾斜部分(其符号改变的部分)的极性被反转。
然后,乘法器84的输出信号mm作为校正信号被提供到加法器73。加法器73然后将校正信号mm与可变DL单元52的输出信号(与图8所示信号b相同的信号)相加,并经由输出单元56输出得到的信号(例如图10所示信号nn)作为输出图像信号。
如上所述,与图7所示成像模糊抑制处理器13形成对比的是,图9所示成像模糊抑制处理器13将减法信号bb和cc中的每一个分离为正部分和负部分,并对这些信号部分执行预定计算以产生矩形波信号ll。通过利用该矩形波信号ll,成像模糊抑制处理器13控制校正信号aa的极性,由此校正输出信号,使得输出信号的边缘更尖锐(锋利)。
作为应用了本发明的图1所示图像处理设备1的成像模糊抑制处理器13的实施例,已讨论了具有图5、6、7和9所示功能配置的成像模糊抑制处理器13。
在上述示例中,当校正每一像素的像素值时,具有前述功能配置的成像模糊抑制处理器13使用运动速度(运动矢量的绝对值)作为参数。然而,可以使用除了运动速度之外的代表成像模糊的特性的另一参数。
更具体地,作为代表成像模糊的特性的参数,例如成像模糊抑制处理器13可使用当拍摄主体运动画面时的相机的快门速度。使用快门速度作为参数的原因在于成像模糊的级别根据快门速度的差别(例如图11所示时间Ts)而变得不同。
也就是说,图11的上部图示了快门速度是1/30秒,其与帧频相同,而图11的下部图示了快门速度是(1/30-Ts)秒,其比帧频快。在图11的上部和下部中,横轴代表时间轴,而纵轴表示快门打开时间的比例。快门打开时间的比例是当快门速度为V[秒](V是0或大于0的某一值)、当在打开快门的第一时间时的快门打开时间的比例是0%、当从第一时间经过V[秒]之后关闭快门的第二时间时的快门打开时间的比例是100%、并且当从第一时间到当前时间的时间段是Ta[秒](Ta是范围在0到V的某一正值)时由(Ta/V)×100[%]代表的比例。在该情况下,在图11的上部和下部的纵轴中,纵轴与时间轴接触的点是100[%],而纵轴的最大值(每一直线中的最高值)是0[%]。也就是说,在图11的上部和下部的纵轴中,随着沿纵轴向下,快门打开时间的比例变得越大。
现在假定相机的一个感测元件对应于一帧中的一个像素。在该情况下,当如图11的上部所示快门速度为1/30秒时,在快门打开的1/30秒期间的入射光的积分值从感测元件输出作为对应像素的像素值。相反,当快门速度为(1/30-Ts)秒时,在快门打开的(1/30-Ts)秒期间的入射光的积分值从感测元件输出作为对应像素的像素值。
更具体地,快门速度对应于感测元件中的光积累周期。因此,如果物体在实空间中跨越过预定感测元件,则与对应于物体的光不同的一定量的光(例如背景光)被入射到感测元件上,该入射光量当快门速度为1/30秒时比快门速度为(1/30-Ts)秒时多等于时间Ts[秒]的量。由此,对应于与来自物体的光不同的例如来自背景的光的一定比例的光的积累值与从一个感测元件输出的像素值混合,该比例当快门速度为1/30秒时比快门速度为(1/30-Ts)秒时大,由此增加成像模糊的级别。
总而言之,随着快门速度变慢,成像模糊的级别变大。也就是说,可以说快门速度代表成像模糊的特性。因此,如同运动速度一样,快门速度可用作代表成像模糊的特性的参数。
当将快门速度用作代表成像模糊的特性的参数时,图1所示成像模糊特性检测器12可通过分析例如添加到从高帧频变换器11提供的运动画面(数据)上的报头信息而检测每一帧的快门速度,并将所检测的快门速度作为代表成像模糊的特性的参数提供到成像模糊抑制处理器13。该成像模糊抑制处理器13可通过利用快门速度而非运动速度执行上述一系列处理操作,而合适地校正每一像素值。当利用快门速度时的成像模糊抑制处理器13的配置可基本上类似于当利用运动速度时的成像模糊抑制处理器13的配置。也就是说,具有图5、6、7或9所示功能配置的任一种的成像模糊抑制处理器13可通过利用快门速度作为参数值执行上述一系列处理操作,而合适地校正每一像素值。
已讨论了具有图1所示功能配置的成像处理设备1作为应用了本发明的图像处理设备的实施例。然而,可以以各种模式形成图像处理设备,而不限于图1所示例子。
更具体地,例如,图12到15图示了应用了本发明的图像处理设备的其它实施例的功能块。
例如,如同图1所示图像处理设备1一样,图12所示图像处理设备101包括高帧频变换器11、成像模糊特性检测器12、和成像模糊抑制处理器13。
然而,在图12所示图像处理设备101中,成像模糊抑制处理器13校正输入到图像处理设备101中的运动画面,即经过高帧频变换器11执行的高帧频变换之前的运动画面。因此,成像模糊特性检测器12从经过高帧频变换器11执行的高帧频变换之前的运动画面中检测代表成像模糊的特性的参数值,并将检测结果提供到成像模糊抑制处理器13。
由此,按照图3的图像处理的步骤S1、S3、S4、S2、和S5的顺序执行图12所示图像处理设备101的图像处理。
此外,如同图1所示图像处理设备1或图12所示图像处理设备101一样,图13所示图像处理设备102包括高帧频变换器11、成像模糊特性检测器12、和成像模糊抑制处理器13。
在图13所示图像处理设备102中,如同图1所示图像处理设备1一样,成像模糊抑制处理器13对作为由高帧频变换器11对输入运动画面执行高帧频变换的结果而获得的运动画面进行校正。也就是说,成像模糊抑制处理器13校正经过高帧频变换之后的运动画面。
然而,图13所示图像处理设备102的成像模糊特性检测器12从经过高帧频变换器11执行的高帧频变换之前的运动画面中检测代表成像模糊的特性的参数,并将检测结果提供到成像模糊抑制处理器13。也就是说,成像模糊抑制处理器13通过利用从经过高帧频变换之前的运动画面中检测的参数值,而校正每一像素值。
从以上描述中可以看出,图13所示图像处理设备102的图像处理也按照图3的图像处理的步骤S1、S2、S3、S4、和S5的顺序执行。然而,步骤S3中的处理是“从经过高帧频变换处理之前的运动画面中(即从形成步骤S1中输入的运动画面的每一帧中)检测代表成像模糊的特性的参数值”。
与图12所示图像处理设备101和图13所示图像处理设备102形成对比的是,图14所示图像处理设备112和图15所示图像处理设备131各自包括高帧频变换器11和成像模糊抑制处理器13,而不包括成像模糊特性检测器12。
如图14和15所示,在另一图像处理设备111(下面结合图14和15称为“图像信号生成设备111”)中安排了成像模糊特性检测器12、以及叠加器121。输入到图像信号生成设备111的运动画面被提供到成像模糊特性检测器12以及叠加器121。成像模糊特性检测器12从运动画面中检测代表成像模糊的特性的参数值,并将所检测的参数值提供到叠加器121。叠加器121将代表成像模糊的特性的参数值叠加到运动画面上,并输出得到的信号。
因此,在代表成像模糊的特性的参数值上叠加的运动画面(信号)从图像信号生成设备111提供到图14所示图像处理设备112或图15所示图像处理设备131。
然后,例如,在图14所示图像处理设备112中,成像模糊抑制处理器13将代表成像模糊的特性的参数值与运动画面分离开,并基于所分离的代表成像模糊的特性的参数值而校正所分离的运动画面的每一帧的每一像素值。
然后,高帧频变换器11对成像模糊抑制处理器13校正的运动画面执行高帧频变换,并输出得到的运动画面,即所校正的具有高帧频的运动画面。
从以上描述中可以看出,按照图3所示图像处理的步骤S1、S4、S2和S5的顺序执行图14所示图像处理设备112的图像处理。
相反,例如,在图15所示图像处理设备131中,高帧频变换器11将代表成像模糊的特性的参数值与运动画面分离开,以对所分离的运动画面执行高帧频变换,并将得到的运动画面(即变换为高帧频的运动画面)提供到成像模糊抑制处理器13。在该情况下,从高帧频变换器11分离的代表成像模糊的特性的参数值也被提供到成像模糊抑制处理器13。
然后,成像模糊抑制处理器13基于代表成像模糊的特性的参数值而校正形成变换为高帧频的运动画面的每一帧的每一像素值,并输出得到的运动画面,即所校正的具有高帧频的运动画面。
在图1所示图像处理设备1、图12所示图像处理设备101、图13所示图像处理设备102、图14所示图像处理设备112、或图15所示图像处理设备131中,高帧频变换器11利用成像模糊特性检测器12所检测的参数值而执行上变频处理。通常,在执行上变频处理的同时,执行运动补偿帧内插。如上所述,成像模糊特性检测器12可检测运动矢量作为参数值。因此,高帧频变换器11利用成像模糊特性检测器12所检测的运动矢量而执行运动补偿帧内插处理。
上述一系列处理操作(或一部分处理操作)可通过硬件或软件执行。
在该情况下,图1所示图像处理设备1的全体或部分(例如成像模糊抑制处理器13)、图12所示图像处理设备101的全体或部分、图13所示图像处理设备102的全体或部分、图14所示图像处理设备112的全体或部分、或图15所示图像处理设备131的全体或部分可由计算机形成,例如如图16所示。
在图16中,CPU(中央处理单元)201根据ROM(只读存储器)202中存储的程序或从存储单元208装载到RAM(随机存取存储器)203中的程序而执行各种处理操作。在RAM 203中,合适地存储CPU 201执行各种处理操作所必须的数据。
CPU 201、ROM 202、和RAM 203经由总线204彼此连接。输入/输出接口205也连接到总线204。
输入/输出接口205连接到包括键盘、鼠标等的输入单元206、包括显示器等的输出单元207、包括硬盘等的存储单元208、和包括调制解调器、终端适配器等的通信单元209。通信单元209执行经由包括因特网的网络与另一图像处理设备的通信。
驱动器210如果必要的话也连接到输入/输出接口205,并且包括磁盘、光盘、磁光盘、或半导体存储器的可拆卸记录介质311被合适地安装在驱动器210中,并且如果必要的话,从可拆卸记录介质311读取的计算机程序被安装在存储单元208中。
如果软件用于执行一系列处理操作,则对应的软件程序从网络或记录介质而被安装到作为专用硬件的组成部分的计算机或者能通过在其中安装各种程序而执行各种功能的例如通用目的计算机的计算机中。
其中包括程序的记录介质可以是从为用户提供程序的设备单独分发的如图16所示的由磁盘(包括软盘)、光盘(包括CD-ROM(致密盘-只读存储器)或DVD(数字多功能盘))、磁光盘(包括MD(迷你盘))、或半导体存储器形成的可拆卸记录介质(封装介质)211。可替换地,该记录介质可以是其上记录程序的ROM 202或存储单元208中包括的硬盘,它们被集成在该设备中,同时被提供给用户。
在该说明书中,形成在记录介质上记录的程序的步骤包括按照说明书中指定的时间顺序执行的处理。形成该程序的步骤也可包括并行或单独执行的处理。
如上所述,在该说明书中,该系统代表包括多个处理单元或处理器的整个设备。
在上述实施例中执行的高帧频变换处理中,可没有特别限制地使用输入视频信号的第一帧频(帧频率)和输出视频信号的第二帧频(帧频率)的期望组合。更具体地,例如,输入视频信号的第一帧频可以是60(或30)[Hz],而输出视频信号的第二帧频可以是120[Hz]。可替换地,输入视频信号的第一帧频可以是60(或30)[Hz],而输出视频信号的第二帧频可以是240[Hz]。可替换地,输入视频信号的第一帧频可以是与PAL(逐行倒相制式)制式兼容的50[Hz],而输出视频信号的第二帧频可以是100[Hz]或200[Hz]。可替换地,输入视频信号的第一帧频可以是与电视电影处理兼容的48[Hz],而输出视频信号的第二帧频可以是48[Hz]或更高。
对现有电视系统中的输入视频信号执行上述实施例中采用的高帧频变换处理使得可能以高质量显示现有内容。

Claims (44)

1.一种图像处理设备,用于基于存取单元处理由预定拍摄装置拍摄的运动画面,包括:
高速率变换部件,用于执行将运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;
检测部件,用于对于形成运动画面的多个存取单元中的每一个,而检测代表当拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值;和
校正部件,用于在高速率变换部件执行的高速率变换处理之前或之后,基于由检测部件检测的参数值中的对应于主体存取单元的至少一个值而校正形成运动画面的每一主体存取单元的每一像素值。
2.根据权利要求1的图像处理设备,其中该高速率变换部件通过使用检测部件所检测的参数值而执行高速率变换处理。
3.根据权利要求1的图像处理设备,其中该第一速率是当该拍摄装置拍摄运动画面时的存取单元的速率。
4.根据权利要求1的图像处理设备,其中对于形成该运动画面的多个存取单元中的每一个,该检测部件检测形成每一主体存取单元的像素中的至少一个像素的运动矢量作为参数值。
5.根据权利要求4的图像处理设备,其中作为至少部分高速率变换处理,该高速率变换部件通过使用检测部件所检测的运动矢量而执行运动补偿帧内插处理。
6.根据权利要求1的图像处理设备,其中该检测部件检测作为该参数值的当拍摄装置拍摄形成运动画面的多个存取单元中的每一个时的拍摄装置的快门速度。
7.根据权利要求1的图像处理设备,其中对于形成该运动画面的多个存取单元中的每一个,该校正部件将形成该主体存取单元的像素中的主体像素设置为聚焦像素,该校正部件包括:
滤波器特性变换部件,用于根据检测部件所检测的所述至少一个参数值中的对应于聚焦像素的值,而变换指明成像模糊的低通滤波器的特性;
逆滤波器生成部件,用于生成由滤波器特性变换部件变换其特性的低通滤波器的逆滤波器;和
滤波部件,用于通过将逆滤波器生成部件生成的逆滤波器应用到主体存取单元中的包括聚焦像素的预定块,而校正该聚焦像素的像素值。
8.根据权利要求1的图像处理设备,其中对于形成该运动画面的多个存取单元中的每一个,该校正部件将形成主体存取单元的像素中的主体像素设置为聚焦像素,该校正部件包括:
滤波器特性变换部件,用于根据检测部件所检测的所述至少一个参数值中的对应于聚焦像素的值,而变换指明成像模糊的低通滤波器的特性;
滤波部件,用于将由滤波器特性变换部件变换其特性的低通滤波器应用到主体存取单元中的包括聚焦像素的预定块,以输出该聚焦像素的校正像素值作为第一值;
减法部件,用于计算校正前的聚焦像素的像素值和从滤波部件输出的第一值之间的差值,以将得到的差值作为第二值输出;和
加法部件,用于将从减法部件输出的第二值与校正前的聚焦像素的像素值相加,以输出得到的加法值作为校正后的聚焦像素的像素值。
9.根据权利要求1的图像处理设备,其中对于形成该运动画面的多个存取单元中的每一个,该校正部件将形成主体存取单元的像素中的主体像素设置为聚焦像素,该校正部件包括:
第一延迟部件,用于依次接收与其中沿着预定方向连续定位包括聚焦像素的像素的主体存取单元的像素组对应的第一图像信号,并用于将所接收的第一图像信号延迟与N个像素(N是1或大于1的整数)对应的第一延迟时间,以输出得到的第二图像信号;
第二延迟部件,用于依次接收从第一延迟单元输出的第二图像信号,并用于将所接收的第二图像信号延迟与M个像素(M是包括N的1或大于1的整数)对应的第二延迟时间,以输出得到的第三图像信号;
像素值校正单元,用于通过利用输入到第一延迟部件的第一图像信号、从第一延迟部件输出并输入到第二延迟部件中的第二图像信号、和从第二延迟部件输出的第三图像信号,而校正聚焦像素的像素值;和
延迟时间改变部件,用于根据检测部件所检测的参数值中的对应于聚焦像素的值来改变第一延迟部件的第一延迟时间和第二延迟部件的第二延迟时间。
10.根据权利要求1的图像处理设备,其中第一速率是30Hz,而第二速率是120Hz。
11.根据权利要求1的图像处理设备,其中第一速率是60Hz,而第二速率是120Hz。
12.根据权利要求1的图像处理设备,其中第一速率是60Hz,而第二速率是240Hz。
13.根据权利要求1的图像处理设备,其中第一速率是50Hz,而第二速率是100Hz。
14.根据权利要求1的图像处理设备,其中第一速率是50Hz,而第二速率是200Hz。
15.一种用于图像处理设备的图像处理方法,该图像处理设备用于基于存取单元处理由预定拍摄装置拍摄的运动画面,该图像处理方法包括:
高速率变换步骤,用于执行将运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;
检测步骤,用于对于形成运动画面的多个存取单元中的每一个,而检测代表当拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值;和
校正步骤,用于在高速率变换步骤中执行的高速率变换处理之前或之后,基于由检测步骤的处理所检测的参数值中的对应于主体存取单元的至少一个值而校正形成运动画面的每一主体存取单元的每一像素值。
16.根据权利要求15的图像处理方法,其中该高速率变换步骤通过使用检测步骤中的处理所检测的参数值而执行高速率变换处理的步骤。
17.根据权利要求15的图像处理方法,其中该第一速率是当该拍摄装置拍摄运动画面时的存取单元的速率。
18.根据权利要求15的图像处理方法,其中对于形成该运动画面的多个存取单元中的每一个,该检测步骤包括用于检测形成每一主体存取单元的像素中的至少一个像素的运动矢量作为参数值的处理。
19.根据权利要求18的图像处理方法,其中该高速率变换步骤是通过使用检测步骤中的处理所检测的运动矢量而执行运动补偿帧内插处理作为至少部分高速率变换处理的步骤。
20.根据权利要求15的图像处理方法,其中该检测步骤包括用于检测作为该参数值的当拍摄装置拍摄形成运动画面的多个存取单元中的每一个时的拍摄装置的快门速度的处理。
21.根据权利要求15的信息处理方法,其中对于形成该运动画面的多个存取单元中的每一个,该校正步骤将形成该主体存取单元的像素中的主体像素设置为聚焦像素,所述用于聚焦像素的步骤包括:
滤波器特性变换步骤,用于根据检测步骤中的处理所检测的所述至少一个参数值中的对应于聚焦像素的值,而变换指明成像模糊的低通滤波器的特性;
逆滤波器生成步骤,用于生成由滤波器特性变换步骤中的处理变换其特性的低通滤波器的逆滤波器;和
滤波步骤,用于通过将逆滤波器生成步骤中的处理所生成的逆滤波器应用到主体存取单元中的包括聚焦像素的预定块,而校正该聚焦像素的像素值。
22.根据权利要求15的信息处理方法,其中对于形成该运动画面的多个存取单元中的每一个,该校正步骤将形成主体存取单元的像素中的主体像素设置为聚焦像素,所述用于聚焦像素的步骤包括:
滤波器特性变换步骤,用于根据检测步骤中的处理所检测的所述至少一个参数值中的对应于聚焦像素的值,而变换指明成像模糊的低通滤波器的特性;
滤波步骤,用于将由滤波器特性变换步骤中的处理变换其特性的低通滤波器应用到主体存取单元中的包括聚焦像素的预定块,以输出该聚焦像素的校正像素值作为第一值;
减法步骤,用于计算校正前的聚焦像素的像素值和作为滤波步骤的处理结果输出的第一值之间的差值,以将得到的差值作为第二值输出;和
加法步骤,用于将作为减法步骤的处理结果的结果输出的第二值与校正前的聚焦像素的像素值相加,以输出得到的加法值作为校正后的聚焦像素的像素值。
23.根据权利要求15的信息处理方法,其中对于形成该运动画面的多个存取单元中的每一个,该校正步骤将形成主体存取单元的像素中的主体像素设置为聚焦像素,所述用于聚焦像素的步骤包括:
第一延迟步骤,用于依次接收与其中沿着预定方向连续定位包括聚焦像素的像素的主体存取单元的像素组对应的第一图像信号,并用于将所接收的第一图像信号延迟与N个像素(N是1或大于1的整数)对应的第一延迟时间,以输出得到的第二图像信号;
第二延迟步骤,用于依次接收作为第一延迟步骤的处理结果而输出的第二图像信号,并用于将所接收的第二图像信号延迟与M个像素(M是包括N的1或大于1的整数)对应的第二延迟时间,以输出得到的第三图像信号;
像素值校正步骤,用于通过利用作为要在第一延迟步骤中处理的主体而输入的第一图像信号、作为第一延迟步骤的处理结果而输出并作为要在第二延迟步骤中处理的主体而输入的第二图像信号、和作为第二延迟步骤的处理结果而输出的第三图像信号,而校正聚焦像素的像素值;和
延迟时间改变步骤,用于根据检测步骤中的处理所检测的参数值中的对应于聚焦像素的值来改变第一延迟步骤中的第一延迟时间和第二延迟步骤中的第二延迟时间。
24.根据权利要求15的图像处理方法,其中第一速率是30Hz,而第二速率是120Hz。
25.根据权利要求15的图像处理方法,其中第一速率是60Hz,而第二速率是120Hz。
26.根据权利要求15的图像处理方法,其中第一速率是60Hz,而第二速率是240Hz。
27.根据权利要求15的图像处理方法,其中第一速率是50Hz,而第二速率是100Hz。
28.根据权利要求15的图像处理方法,其中第一速率是50Hz,而第二速率是200Hz。
29.一种记录介质,其上记录有要由计算机执行的程序,用于控制基于存取单元对预定拍摄装置拍摄的运动画面执行的图像处理,该程序包括:
高速率变换步骤,用于执行将运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;
检测步骤,用于对于形成运动画面的多个存取单元中的每一个,而检测代表当拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值;和
校正步骤,用于在高速率变换步骤中执行的高速率变换处理之前或之后,基于由检测步骤的处理所检测的参数值中的对应于主体存取单元的至少一个值而校正形成运动画面的每一主体存取单元的每一像素值。
30.一种要由计算机执行的程序,用于控制基于存取单元对预定拍摄装置拍摄的运动画面执行的图像处理,该程序包括:
高速率变换步骤,用于执行将运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;
检测步骤,用于对于形成运动画面的多个存取单元中的每一个,而检测代表当拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值;和
校正步骤,用于在高速率变换步骤中执行的高速率变换处理之前或之后,基于由检测步骤中的处理所检测的参数值中的对应于主体存取单元的至少一个值而校正形成运动画面的每一主体存取单元的每一像素值。
31.一种图像处理设备,用于当从不同的图像处理设备接收运动画面、和对于形成该运动画面的多个存取单元中的每一个而接收代表当预定拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值时,对该拍摄装置拍摄的运动画面执行处理,
该图像处理设备包括:
高速率变换部件,用于执行将从该不同图像处理设备提供的运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;和
校正部件,用于在高速率变换部件执行的高速率变换处理之前或之后,基于从该不同图像处理设备提供的参数值中的对应于主体存取单元的至少一个值,而校正形成从该不同图像处理设备提供的运动画面的每一主体存取单元的每一像素值。
32.根据权利要求31的图像处理设备,其中第一速率是30Hz,而第二速率是120Hz。
33.根据权利要求31的图像处理设备,其中第一速率是60Hz,而第二速率是120Hz。
34.根据权利要求31的图像处理设备,其中第一速率是60Hz,而第二速率是240Hz。
35.根据权利要求31的图像处理设备,其中第一速率是50Hz,而第二速率是100Hz。
36.根据权利要求1的图像处理设备,其中第一速率是50Hz,而第二速率是200Hz。
37.一种用于图像处理设备的图像处理方法,该图像处理设备用于当从不同的图像处理设备接收运动画面、和对于形成该运动画面的多个存取单元中的每一个而接收代表当预定拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值时,对该拍摄装置拍摄的运动画面执行处理,
该图像处理方法包括:
高速率变换步骤,用于执行将从该不同图像处理设备提供的运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;和
校正步骤,用于在高速率变换步骤中执行的高速率变换处理之前或之后,基于从该不同图像处理设备提供的参数值中的对应于主体存取单元的至少一个值,而校正形成从该不同图像处理设备提供的运动画面的每一主体存取单元的每一像素值。
38.根据权利要求37的图像处理方法,其中第一速率是30Hz,而第二速率是120Hz。
39.根据权利要求37的图像处理方法,其中第一速率是60Hz,而第二速率是120Hz。
40.根据权利要求37的图像处理方法,其中第一速率是60Hz,而第二速率是240Hz。
41.根据权利要求37的图像处理方法,其中第一速率是50Hz,而第二速率是100Hz。
42.根据权利要求37的图像处理方法,其中第一速率是50Hz,而第二速率是200Hz。
43.一种记录介质,其上记录有要由计算机执行的程序,用于当接收运动画面、和对于形成该运动画面的多个存取单元中的每一个而接收代表当预定拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值时,控制对该拍摄装置拍摄的运动画面执行的图像处理,
该程序包括:
高速率变换步骤,用于执行将所提供的运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;和
校正步骤,用于在高速率变换步骤中执行的高速率变换处理之前或之后,基于所提供的参数值中的对应于主体存取单元的至少一个值,而校正形成所提供的运动画面的每一主体存取单元的每一像素值。
44.一种由计算机执行的程序,用于当接收运动画面、和对于形成该运动画面的多个存取单元中的每一个而接收代表当预定拍摄装置拍摄运动画面时发生的成像模糊的特性的至少一个参数值时,控制对该拍摄装置拍摄的运动画面执行的图像处理,
该程序包括:
高速率变换步骤,用于执行将所提供的运动画面的存取单元的速率从当前第一速率变换为高于第一速率的第二速率的高速率变换处理;和
校正步骤,用于在高速率变换步骤中执行的高速率变换处理之前或之后,基于所提供的参数值中的对应于主体存取单元的至少一个值,而校正形成所提供的运动画面的每一主体存取单元的每一像素值。
CN2005800010981A 2004-08-11 2005-07-06 图像处理设备和方法 Expired - Fee Related CN1860779B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP234051/2004 2004-08-11
JP2004234051 2004-08-11
PCT/JP2005/012469 WO2006016454A1 (ja) 2004-08-11 2005-07-06 画像処理装置および方法、記録媒体、並びにプログラム

Publications (2)

Publication Number Publication Date
CN1860779A true CN1860779A (zh) 2006-11-08
CN1860779B CN1860779B (zh) 2010-05-12

Family

ID=35839230

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2005800010981A Expired - Fee Related CN1860779B (zh) 2004-08-11 2005-07-06 图像处理设备和方法

Country Status (4)

Country Link
EP (1) EP1777939A4 (zh)
KR (1) KR101125977B1 (zh)
CN (1) CN1860779B (zh)
WO (1) WO2006016454A1 (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101996387A (zh) * 2009-08-20 2011-03-30 佳能株式会社 图像处理装置及图像处理方法
CN101543043B (zh) * 2007-02-20 2011-05-18 索尼株式会社 图像显示装置、视频信号处理器和视频信号处理方法
CN102111554A (zh) * 2009-12-23 2011-06-29 索尼公司 处理运动图像的图像处理方法、设备和程序
CN102739923A (zh) * 2011-04-08 2012-10-17 索尼公司 图像处理设备、图像处理方法和程序
CN101304531B (zh) * 2007-05-08 2012-11-07 株式会社日立制作所 图像变换装置
CN103348287A (zh) * 2010-12-06 2013-10-09 阿法开发有限公司 成像模糊校正单元、成像模糊校正装置及光学装置
CN107306339A (zh) * 2016-04-20 2017-10-31 佳能株式会社 图像稳定设备及其控制方法、摄像设备和存储介质

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008018006A2 (en) * 2006-08-09 2008-02-14 Koninklijke Philips Electronics N.V. Image rate increasing
JP5060200B2 (ja) * 2007-08-08 2012-10-31 キヤノン株式会社 画像処理装置および画像処理方法
WO2009083925A1 (en) * 2007-12-28 2009-07-09 Nxp B.V. Arrangement and approach for motion-based image data processing
JP5424835B2 (ja) * 2009-11-30 2014-02-26 キヤノン株式会社 画像処理装置、画像処理方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61118082A (ja) 1984-11-14 1986-06-05 Nippon Hoso Kyokai <Nhk> フレ−ム数変換方式
JPH0646321A (ja) * 1992-07-21 1994-02-18 Sony Corp ビデオカメラ
JPH06276413A (ja) * 1993-03-19 1994-09-30 Canon Inc 撮像装置
JPH0832022B2 (ja) 1993-08-16 1996-03-27 日本電気株式会社 映像信号変換装置
GB9325302D0 (en) * 1993-12-10 1994-02-16 Philips Electronics Uk Ltd Matrix video display systems and methods of operating such systems
US5790709A (en) * 1995-02-14 1998-08-04 Ben-Gurion, University Of The Negev Method and apparatus for the restoration of images degraded by mechanical vibrations
EP0874523B1 (en) * 1997-04-24 2004-03-03 STMicroelectronics S.r.l. Method for motion-estimated and compensated field rate up-conversion (FRU) for video applications, and device for actuating such a method
JP2001078075A (ja) * 1999-09-08 2001-03-23 Toshiba Corp 画像入力装置及び画像入力方法
US6847406B2 (en) * 2000-12-06 2005-01-25 Koninklijke Philips Electronics N.V. High quality, cost-effective film-to-video converter for high definition television
KR100892228B1 (ko) * 2001-06-18 2009-04-09 코닌클리케 필립스 일렉트로닉스 엔.브이. 안티 움직임 흐림 디스플레이
AU2003224369A1 (en) * 2002-05-24 2003-12-12 Koninklijke Philips Electronics N.V. A unit for and method of sharpness enhancement
JP4367100B2 (ja) * 2003-11-18 2009-11-18 日本ビクター株式会社 画像表示装置

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101543043B (zh) * 2007-02-20 2011-05-18 索尼株式会社 图像显示装置、视频信号处理器和视频信号处理方法
CN101304531B (zh) * 2007-05-08 2012-11-07 株式会社日立制作所 图像变换装置
CN101996387A (zh) * 2009-08-20 2011-03-30 佳能株式会社 图像处理装置及图像处理方法
CN102111554A (zh) * 2009-12-23 2011-06-29 索尼公司 处理运动图像的图像处理方法、设备和程序
CN103348287A (zh) * 2010-12-06 2013-10-09 阿法开发有限公司 成像模糊校正单元、成像模糊校正装置及光学装置
CN103348287B (zh) * 2010-12-06 2016-01-13 阿法开发有限公司 成像模糊校正单元、成像模糊校正装置及光学装置
CN102739923A (zh) * 2011-04-08 2012-10-17 索尼公司 图像处理设备、图像处理方法和程序
CN107306339A (zh) * 2016-04-20 2017-10-31 佳能株式会社 图像稳定设备及其控制方法、摄像设备和存储介质
US10536642B2 (en) 2016-04-20 2020-01-14 Canon Kabushiki Kaisha Image stabilization apparatus that corrects for image blurring, control method therefor, image pickup apparatus, and storage medium
CN107306339B (zh) * 2016-04-20 2020-05-22 佳能株式会社 图像稳定设备及其控制方法、摄像设备和存储介质

Also Published As

Publication number Publication date
EP1777939A1 (en) 2007-04-25
EP1777939A4 (en) 2011-04-13
CN1860779B (zh) 2010-05-12
WO2006016454A1 (ja) 2006-02-16
KR101125977B1 (ko) 2012-03-19
KR20070049097A (ko) 2007-05-10

Similar Documents

Publication Publication Date Title
CN1860779A (zh) 图像处理设备和方法、记录介质、和程序
CN100344153C (zh) 确定照相环境的方法和成像装置
CN1208947C (zh) 图像处理装置和方法、噪声量估算装置和方法及存储介质
CN1252999C (zh) 用于隔行至渐进式变换的高级边缘自适应插值方法和系统
CN1078420C (zh) 电视信号的帧格式转换装置
CN1195374C (zh) 图像信号处理装置
CN1929562A (zh) 闪烁减少方法、闪烁减少电路和图像拾取装置
CN1305010C (zh) 在考虑其噪声的情况下改变数字图像的方法和系统
CN1262120C (zh) 数据限制装置、数据限制方法及振幅判断值设定方法
CN1110198C (zh) 视频格式转换装置和方法
CN1156152C (zh) 照明闪烁检测、补偿装置和交流电源频率检测装置及其方法
CN1627814A (zh) 图像处理的方法、装置以及程序
CN1463534A (zh) 图像处理装置和图像处理方法
CN1825972A (zh) 图像信号处理装置
CN1812489A (zh) 用于去除视频信号的噪声的装置
CN1592398A (zh) 帧插值方法和使用该方法的图像显示系统
CN1726529A (zh) 用于处理图像信号的设备和方法、用于执行该方法的程序、以及用于记录该程序的计算机可读介质
CN1662071A (zh) 色空间的图像数据处理方法
CN1756299A (zh) 用于处理运动图像的设备和方法以及计算机程序产品
CN1671203A (zh) 像素内插装置、像素内插方法、程序和记录介质
CN1518350A (zh) 帧数据修正量输出装置、修正装置和方法、显示装置
CN1928917A (zh) 数字水印嵌入设备和方法以及数字水印检测设备和方法
CN1878246A (zh) 图像处理装置和图像拍摄装置
CN1838737A (zh) 帧速率变换装置、摇摄·倾斜判断装置及视频装置
CN1765124A (zh) 图像处理装置、图像处理方法以及程序

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20100512

Termination date: 20170706