CN102739922B - 图像处理装置、图像处理方法和程序 - Google Patents

图像处理装置、图像处理方法和程序 Download PDF

Info

Publication number
CN102739922B
CN102739922B CN201210073578.0A CN201210073578A CN102739922B CN 102739922 B CN102739922 B CN 102739922B CN 201210073578 A CN201210073578 A CN 201210073578A CN 102739922 B CN102739922 B CN 102739922B
Authority
CN
China
Prior art keywords
eye image
striped
image
light
noise
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201210073578.0A
Other languages
English (en)
Other versions
CN102739922A (zh
Inventor
荒船晶
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN102739922A publication Critical patent/CN102739922A/zh
Application granted granted Critical
Publication of CN102739922B publication Critical patent/CN102739922B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • G06T5/70
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/133Equalising the characteristics of different image components, e.g. their average brightness or colour balance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Processing Or Creating Images (AREA)
  • Studio Devices (AREA)
  • Cameras In General (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)

Abstract

本发明公开了图像处理装置、图像处理方法和程序。一种图像处理装置包括噪声去除单元,该噪声去除单元通过执行噪声去除处理来校正左眼图像和右眼图像的光学噪声的几何失配,该噪声去除处理用于去除由两个透镜类型的立体图像捕获相机所捕获并获得的左眼图像和右眼图像上单独生成的光学噪声。

Description

图像处理装置、图像处理方法和程序
技术领域
本公开涉及图像处理装置、图像处理方法和程序。具体地,本公开涉及处理由两个透镜类型的立体图像捕获相机所捕获的左眼图像和右眼图像的图像处理装置等。
背景技术
作为通过拍照来获取形成立体(3D)图像的左眼图像和右眼图像的方法,存在单个透镜类型的获取方法,其中,由单个透镜所感知的光被光学地分为光系统内的左图像和右图像,并且,存在两个透镜类型的获取方法,其中,在相同时间点处的图像通过同步不同的左相机系统和右相机系统来获得。
在相机系统中,条纹(striation)被看作是出现在如下的场景中:太阳照射在作品上侧的天空中,而风景在下侧延伸的场景,或者,在夜间拍摄的夜空下利用强光照射运动场的场景,等等。在两个透镜的类型的图像获取方法中,出现在左眼图像和右眼图像中的条纹形状与导致立体(3D)感觉的几何相关无关,并且,是给图像内容的观看者带来不舒服的因素,因为其被光源或条纹以及背景的对比所强调。
例如,日本未审查专利申请公开No.2003-69896公开了实施例,其中,包括在由相机所拍摄的图像中的闪光被校正。在该实施例中,相机的闪光特点被预先测量,并且,所捕获的图像中的闪光被利用闪光特点来校正。另外,闪光是包括条纹和光线的概念。
发明内容
希望防止由于出现在左眼图像和右眼图像中的光学噪声而使感知立体图像的观看者感觉不舒服。
根据本公开的实施例,提供了图像处理装置,其包括:噪声去除单元,该噪声去除单元通过执行噪声去除处理来校正左眼图像和右眼图像的光学噪声的几何失配,该噪声去除处理用于去除由两个透镜类型的立体图像捕获相机所捕获并获得的左眼图像和右眼图像上单独生成的光学噪声。
左眼图像和右眼图像的几何失配由噪声去除单元通过执行噪声去除处理来被校正,该噪声去除处理用于去除由两个透镜类型的立体图像捕获相机所捕获并获得的左眼图像和右眼图像上单独生成的光学噪声。此处,光学噪声包括由于经由透镜卷筒从成像透镜所生成的光反射到成像设备所出现的闪光,并且,该闪光包括条纹或光线。
如此,根据本公开的实施例,左眼图像和右眼图像的几何失配被校正。出于此原因,可以防止感知立体图像的观看者感觉由于出现在左眼图像和右眼图像中的光学噪声所导致的不舒服。
例如,噪声去除单元可从所述左眼图像和所述右眼图像中的每一个检测包括光源、条纹和光线的条纹区域以及邻近所述条纹区域的条纹背景区域,并且,将一个图像的条纹区域和条纹背景区域用另一图像的条纹区域和条纹背景区域来替换。因此,左眼图像和右眼图像的几何失配被校正。
在该情形中,例如,噪声去除单元可包括:区域分割部件,该区域分割部件将所述左眼图像和所述右眼图像中的每一个分割为多个区域;分割区域相关部件,该分割区域相关部件将包括彼此相同的对象的区域、或由所述区域分割部件所分割的左眼图像和右眼图像的所分割区域中由光学上彼此相同的原因所生成的图像的区域相关;条纹搜索部件,该条纹搜索部件从由所述区域分割部件所分割的左眼图像和右眼图像的所分割区域检测包括光源、条纹和光线的条纹区域以及邻近所述条纹区域的条纹背景区域;以及图像替换部件,该图像替换部件基于来自所述分割区域相关部件的相关结果,将左眼图像和右眼图像中的一个的条纹区域和条纹背景区域用另一图像的条纹区域和条纹背景区域来替换。
另外,例如,噪声去除单元可从左眼图像和右眼图像中的每一个检测包括光源、条纹和光线的条纹区域和邻近所述条纹区域的条纹背景区域,从左眼图像和右眼图像中去除包括在所述条纹区域中的所述光源、所述条纹和所述光线,并且,向所述左眼图像和所述右眼图像给出具有适合于观看立体图像的几何相关的光源、条纹和光线效果。因此,左眼图像和右眼图像的几何失配被校正。
在该情形中,例如,噪声去除单元可包括:区域分割部件,该区域分割部件将所述左眼图像和所述右眼图像中的每一个分割为多个区域;条纹搜索部件,该条纹搜索部件从由所述区域分割部件所分割的左眼图像和右眼图像的所分割区域检测包括光源、条纹和光线的条纹区域以及邻近所述条纹区域的条纹背景区域;以及图像替换部件,该图像替换部件从左眼图像和右眼图像中去除包括在所述条纹区域中的所述光源、所述条纹和所述光线,并且,向左眼图像和右眼图像给出具有适合于观看立体图像的几何相关的光源、条纹和光线效果。。
另外,例如,图像处理装置还可包括噪声去除处理判定单元,该噪声去除处理判定单元所述噪声去除单元是否执行所述噪声去除处理。因此,可以防止噪声去除处理不必要地执行在左眼图像和右眼图像上。在该情形中,例如,可以减少CPU(中央处理单元)的计算量,并且从而减少其负载。
在该情形中,例如,图像处理装置还可包括输入终端单元,从相机系统传输的左眼图像和右眼图像被输入到该输入终端单元,并且,从所述相机系统传输的拍摄设定信息被输入到该输入终端单元,并且,噪声去除处理判定单元基于包括在从所述相机系统所传输的所述拍摄设定信息中的光圈值来判定是否执行所述噪声去除处理。
另外,例如,光学噪声可以是条纹或光线,并且,噪声去除处理判定单元基于出现在左眼图像和右眼图像中的条纹或光线的半径来判定是否执行所述噪声去除处理。另外,在该情形中,光学噪声可以是条纹,并且,噪声去除处理判定单元基于出现在左眼图像和右眼图像中的条纹数来判定是否执行所述噪声去除处理。
另外,在该情形中,光学噪声可以是条纹,并且,噪声去除处理判定单元基于用于获得左眼图像和右眼图像的相机的相机透镜的光圈片的数目的信息来判定是否执行所述噪声去除处理。另外,在该情形中,光学噪声可以是条纹,并且,噪声去除处理判定单元基于出现在左眼图像和右眼图像中的条纹或光线的持续时段来判定是否执行所述噪声去除处理。
根据本公开的实施例,可以校正左眼图像和右眼图像的几何失配,并且从而可以防止感受立体图像的观看者感觉不舒服。
附图说明
图1是示出了根据本公开的第一实施例的图像处理装置的配置示例的框图。
图2是示出了中央处理单元中的噪声去除处理的处理流程的示例的流程图。
图3是示出了包括对足球场和标记结果的全景示图的原始图像(左眼图像和右眼图像)的示图。
图4是示出了针对每个所分割的区域的区域分割结果和标记结果的示图。
图5是示出了对左眼图像和右眼图像的各自区域的分割区域校正的示例的示图。
图6是示出了用于检测光源位置的算法示例的示图。
图7是示出了中央处理单元中的噪声去除处理的处理流程的示例的流程图。
图8是示出了根据本公开的第二实施例的图像处理装置的配置示例的框图。
图9是示出了计算条纹数的方法的示例的示图。
图10A和图10B是示出了通过比较在F10的光圈处的图像示例和在F2的光圈处的图像示例的示图。
具体实施方式
以下,将描述本公开的实施例。将以以下的次序来做出描述。
1.第一实施例
2.第二实施例
3.修改示例
1.第一实施例
图像处理装置的配置示例
图1示出了根据第一实施例的图像处理装置100的配置示例。图像处理装置100处理由两个透镜的类型的立体图像捕获相机所捕获并获得的左眼图像和右眼图像。
也就是说,图像处理装置100执行用于去除独立地生成在左眼图像和右眼图像上的光学噪声的噪声去除处理,从而校正光学噪声的几何失配。此处,光学噪声包括由于从成像透镜所生成的光经由透镜卷筒(barrel)反射到成像设备所出现的闪光,并且,该闪光包括条纹或光线。条纹与光线相同,但是,一般而言,条纹指示轮廓清晰的状态,而光线指示轮廓模糊的状态。在以下的描述中,为了简化描述,假定光学噪声为条纹。
图像处理装置100包括中央处理单元(CPU)101、主存储设备102、用户指令输入设备103、用户信息输出设备104、图像数据累积设备105,以及程序累积设备106。各个设备被连接至内部总线107。
图像数据累积设备105累积由两个透镜类型的立体图像捕获相机所捕获并获得的左眼图像和右眼图像的数据。另外,图像数据累积设备105还在噪声去除处理被执行之后累积左眼图像和右眼图像的数据。程序累积设备106累积中央处理单元101的处理程序。中央处理单元101控制图像处理装置100的各个设备,并且,执行用于去除在图像数据累积设备105中所累积的左眼图像和右眼图像上的上述光学噪声的噪声去除处理。
主存储设备102例如包括ROM(只读存储器)、RAM(随机访问存储器)等。例如,中央处理单元101从程序累积设备106读取处理程序,并且,例如在主存储设备102的RAM上开发所读取的程序,从而执行上述控制处理和噪声去除处理。用户指令输入设备103是用于输入用户指令的键盘、鼠标等。用户信息输出设备104是显示器或处理用户操作信息、处理进程信息等的设备,并且,为了用户方便,其被设置。
噪声去除处理的细节
将描述由中央处理单元101所执行的噪声去除处理。包括(1)区域分割算法、(2)分割区域相关算法、(3)条纹搜索算法和(4)图像替换算法的程序被以可执行的格式预留在程序累积设备106中。该程序被读取到主存储设备102,并且,中央处理单元101将每个算法应用到从图像数据累积设备105所读取的图像数据。
区域分割算法通过利用每个像素的颜色、亮度和位置坐标的分类将图像数据分割成多个区域。分割区域相关算法校正包括彼此相同的对象的区域、或左眼图像和右眼图像的所分割区域中由光学上相同的原因所生成的图像的区域。
条纹搜索算法检测条纹区域。换言之,条纹搜索算法例如指定在图像的X轴方向和Y轴方向上来自亮度直方图的光源的中央位置,在距离中心相同间隔的圆半径上采样多个点,并且,通过比较所采样的亮度分布和之前的区域分割结果来判定条纹区域。
另外,条纹搜索算法检测条纹背景区域。换言之,条纹搜索算法检测如下区域作为条纹背景区域:该区域由这种均一的颜色点所形成,其中构成像素的色度信息或亮度信息被包括在所希望的方差内。例如,所分割区域中所有点的亮度接近0的部分被指定为条纹背景区域,其用“LBACK”和“RBACK”表示。由其亮度接近记录比特宽度的饱和值的点所形成的部分被指定为条纹区域,其用“Lray”和“Rray”表示。
图像替换算法利用区域分割结果来将一个图像的条纹区域和条纹背景区域用另一图像的条纹区域和条纹背景区域来替换。可替换地,图像替换算法从左眼图像和右眼图像去除光源和包括在条纹区域中的条纹,并且,将具有适于查看立体图像的几何相关的光源和条纹效果给予两个图像。
图2中的流程图示出了由中央处理单元101所执行的噪声去除处理的处理流程示例。该示例对应于如下情形中的处理流程:图像替换算法利用区域分割结果将一个图像的条纹区域和条纹背景区域用另一图像的条纹区域和条纹背景区域来替换。
中央处理单元101在步骤ST1中开始处理,并且然后,流程进行到步骤ST2中的处理。在步骤ST2中,中央处理单元101将将要在主存储设备102中处理的左眼图像数据和右眼图像数据存储在来自图像数据累积设备105的主存储设备102中。
接下来,在步骤ST3中,中央处理单元101将左眼图像和右眼图像中的每一个分割成多个区域。另外,在步骤ST4中,中央处理单元101校正包括彼此相同的对象的区域,或校正左眼图像和右眼图像的所分割区域中由光学上相同的原因所生成的图像。
接下来,在步骤ST5中,中央处理单元101从左眼图像和右眼图像的各个所分割的区域中检测包括光源和条纹的条纹区域以及邻近条纹区域的条纹背景区域。另外,在步骤ST6中,中央处理单元101基于所分割区域的相关结果将左眼图像和右眼图像中的一个的条纹区域和条纹背景区域用另一图像的对应区域(条纹区域和条纹背景区域)来替换。在该情形中,中央处理单元101不是简单地执行替换,而是可在执行给一个图像的条纹区域和条纹背景区域提供视差的修改之后执行替换。
接下来,在步骤ST7中,中央处理单元101在图像数据累积设备105中保存替换之后的图像数据,即,另一图像的图像数据。以后,中央处理单元101在步骤ST8中完成处理。
将更加详细地描述图2中的流程图的每个步骤中的处理。在步骤ST2中,中央处理单元101从图像数据累积设备105将具有相同的时间点信息的左眼图像L和右眼图像R读取到主存储设备102。另外,在步骤ST3中,中央处理单元101将区域分割算法应用到每个图像,并且,执行区域分割处理。在该情形中,中央处理单元101通过应用现有的方法(例如,在L*a*b的颜色空间中的分簇)来执行区域分割处理。
另外,在步骤ST4中,中央处理单元101将分割区域相关算法应用到左图像和右图像,并且,执行所分割区域的相关。此处,所分割的子区域由左眼图像AL、BL、CL、...和右眼图像AR、BR、CR、...来表示。
例如,如在图3中所示,考虑包括夜间足球场全景示图的作品示例。在该作品示例的左眼图像L和右眼图像R中,天空部分由AL和AR表示,光源和条纹部分由BL和BR表示,位于中心右侧的看台和人物部分由CL和CR表示,而足球场区域由DL和DR表示。图4示出了区域分割结果和各个所分割区域的标记名称。中央处理单元101基于L*a*b空间中的分簇结果中的每个簇(cluster)的中心坐标、簇中的像素数和形成簇的像素的坐标来使每个区域的左侧和右侧相关。图5示出了每个区域的左相关结果和右相关结果。
另外,在步骤ST5中,中央处理单元101应用条纹搜索算法(光源和条纹检测算法),并且,利用区域分割结果来检测条纹区域和条纹背景区域。将描述条纹搜索算法的示例。
对光源的检测
假定如下的图像区域是光源区域:该图像区域形成以一区域作为中心的簇,该区域被预测为包括L*a*b空间中的光源并且其亮度为高(例如,白色)。另外,假定如下的图像区域是诸如天空之类的背景区域:该图像区域形成以在L*a*b空间中的几乎均一的背景颜色(例如,黑色至深蓝色)作为中心的簇。在图3、图4和图5中所示的示例中,背景和天空基本上对应于区域1(AL和AR),而光源基本上对应于区域2(BL和BR)。
如在图6中所示,在左眼图像L中,组合了AL和BL的图像区域被用作整个扫描范围,并且,在X方向和Y方向中的每一个方向上的一行上的像素的总亮度信息被获取。在X方向和Y方向二者上都具有峰值的像素位置Px(Xp,Yp)被用作光源的坐标位置。虽然未示出,但在右眼图像R中,组合了AR和BR的图像区域被用作整个扫描范围,并且,在X方向和Y方向中的每一个方向上的一行上的像素的总亮度信息被获取。在X方向和Y方向二者上都具有峰值的像素位置Px(Xp,Yp)被用作光源的坐标位置。
对条纹区域和条纹背景区域的检测
另外,如下的图像区域被重新判定为条纹区域:该图像区域的亮度根据到光源的坐标的距离而单调递减,并且,像素的亮度等于或大于所希望的阈值Vth。重新判定的区域(条纹区域和条纹背景区域)用AL’、BL’、AR’和BR’表示。另外,此处,如果重新判定的结果和初始区域分割结果可被看作是彼此相同的,例如AL和AL’、BL和BL’、AR’和AR、BR’和BR彼此相同,或重叠的像素数等于或大于99%,则使用原始参考标号。
另外,在步骤ST6中,中央处理单元101应用图像替换算法,并且,将由右眼图像的背景区域AR和条纹区域BR所形成的区域用由左眼图像的背景区域AL和条纹区域BL所形成的图像来替换。另外,中央处理单元101在图像数据累积设备105中保存替换之后的右眼图像的图像数据。另外,在该情形中,当由右眼图像的背景区域AR和条纹区域BR所形成的区域用由左眼图像的背景区域AL和条纹区域BL所形成的图像来替换时,该替换不是简单地执行的,而是可在用于给出视差的修改之后执行该替换。
在图像处理装置100之后经由单独的终端或通信网络向另一系统传送用于立体显示的两个视点的图像的情形中,中央处理单元101提供替换之后的原始的左眼图像和右眼图像。
图7中的流程图示出了由中央处理单元101所执行的噪声去除处理的处理流程的示例。该示例对应于在如下情形中的处理流程:从左眼图像和右眼图像去除包括在条纹区域中的光源和光线,并且,向两个图像给出具有适合于查看立体图像的几何相关的光源和光线效果。
中央处理单元101开始步骤ST11中的处理,并且然后,流程进行到步骤ST12中的处理。在步骤ST12中,中央处理单元101存储来自图像数据累积设备105的将要在主存储设备102中处理的左眼图像数据和右眼图像数据。
接下来,在步骤ST13中,中央处理单元101将左眼图像和右眼图像中的每一个分成多个区域。另外,在步骤ST14中,中央处理单元101使包括彼此相同的对象的区域相关,或使左眼图像和右眼图像的所分割区域中由光学上相同的原因所生成的图像相关。
接下来,在步骤ST15中,中央处理单元101从左眼图像和右眼图像的各个所分割区域中检测包括光源和条纹的条纹区域以及邻近条纹区域的条纹背景区域。
接下来,在步骤ST16中,中央处理单元101基于光源信息和虚拟光源系统来创建条纹图像F。另外,在步骤ST17中,中央处理单元101将条纹图像F与右眼图像合成,并且,在步骤ST18中,将条纹图像F与左眼图像合成。另外,在步骤ST19中,中央处理单元101将合成的左眼图像和右眼图像的图像数据保存在图像数据累积设备105中。
将更加详细地描述图7中的流程图的每个步骤中的处理。另外,图7的流程图的步骤ST12至ST15中的处理与图2的流程图的步骤ST2至ST5中的处理相同,并且因此,将省略对其的详细描述。也就是说,此处,将描述步骤ST16中的处理。
在步骤ST16至ST18中,中央处理单元101应用图像替换算法。也就是说,中央处理单元101将包括在条纹区域中的光源和条纹从左眼图像L和右眼图像R中去除,并且,向两个图像给出具有适合于观看立体图像的几何相关的光源和条纹效果。
换言之,中央处理单元101利用条纹背景区域Ax的颜色信息和纹理信息来在左眼图像L和右眼图像R二者中校正条纹区域,就好像不存在光源和条纹一样。另外,中央处理单元101设定具有所希望的光强度特点的虚拟光源,将其设置在如下光源位置处:该光源位置具有三维位置信息,并且,被投影到步骤ST15中所检测到的原始图像上的光源位置Px上。此时,光源的辐射方向性(radiation directivity)可被添加到虚拟光源的特点中。
中央处理单元101将光源位置、光强、辐射方向性等一起用作光源信息。另外,中央处理单元101创建虚拟条纹图像F,该虚拟条纹图像F由从具有光源信息特点的虚拟光源经过虚拟光学系统的光束所生成,并且,中央处理单元101将虚拟条纹图像F与已校正的左眼图像和右眼图像合成。
具体地,通过呈现光衍射(light diffraction)现象来获得条纹图像F,该光衍射现象是由来自上述虚拟光源经过虚拟光学系统的入射光生成的,该虚拟光学系统被设置在与捕获原始图像的右图像光学系统相对相同的位置处。中央处理单元101以所希望的混合比率将条纹图像F叠加到已校正的右眼图像上。中央处理单元101在执行视差校正之后将条纹图像F与左眼图像合成。另外,中央处理单元101将左眼图像和右眼图像的图像数据保存在图像数据累积设备105中,利用该左眼图像和右眼图像,条纹图像F已经被合成。
在立体显示器的两视点的图像之后经由单独的终端或通信网络被传送到另一系统的情形中,中央处理单元101提供左眼图像和右眼图像,利用该左眼图像和右眼图像,条纹图像F已经被合成。
另外,中央处理单元101可创建并利用过滤图像(条纹图像),该过滤图像通过CG由诸如缓冲减少方法之类的现存方法单独创建,而非通过上述呈现所创建的条纹图像F。在该情形中,例如,中央处理单元101以所希望的混合比率将过滤图像叠加到已校正的右眼图像上,执行处理以引起条纹和光线效果,并且,以相同的方式,在执行视差校正之后,将过滤图像F与左眼图像合成。
如上所述,在图1中所示的图像处理装置100中,用于去除单独生成的光学噪声的噪声去除处理被执行在由两个透镜的类型的立体图像捕获相机所捕获并获得的左眼图像和右眼图像上。另外,左眼图像和右眼图像的几何失配被校正。
例如,从左眼图像和右眼图像中的每一个中检测到包括光源和条纹的条纹区域以及邻近条纹区域的条纹背景区域,并且,一个图像的条纹区域和条纹背景区域用另一图像的条纹区域和条纹背景区域来替换。另外,例如,从左眼图像和右眼图像中的每一个中检测到包括光源和条纹的条纹区域以及邻近条纹区域的条纹背景区域,并且,包括在条纹区域中的光源和条纹被从左眼图像和右眼图像中去除。另外,可以向左眼图像和右眼图像给出具有适合于观看立体图像的几何相关的光源和条纹效果。
出于该原因,在图1中所示的图像处理装置100中,可以顺利地防止感知立体图像的观看者由于光学噪声(例如,出现在左眼图像和右眼图像中的条纹)而感觉不舒服。
2.第二实施例
图像处理装置的配置示例
图8示出了根据第二实施例的图像处理装置100A的配置示例。以与图1中所示的图像处理装置100相同的方式,图像处理装置100A也在由两个透镜的类型的立体图像捕获相机所捕获并获得的左眼图像和右眼图像上执行处理。在图8中,对应于图1中的部分被给予相同的参考标号,并且,省略了对其的详细描述。
图像处理装置100A包括中央处理单元101、主存储设备102、用户指令输入设备103、用户信息输出设备104、程序累积设备106、图像数据输入终端111L和111R,以及图像数据输出终端112。各个部分被连接至内部总线107。
图像数据输入终端111L是用于输入由相机系统200L所捕获的左眼图像的图像数据和拍摄设定信息(诸如,相机系统200L中的光圈值)的终端。图像数据输入终端111R是用于输入由相机系统200R所捕获的右眼图像的图像数据和拍摄设定信息(诸如,相机系统200R中的光圈值)的终端。图像数据输出终端112是用于将所处理的左眼图像数据和右眼图像数据输出到图像数据输出监视器300的终端。
虽然未详细描述,但是,以与图1中所示的上述图像处理装置100相同的方式,中央处理单元101从程序累积设备106读取处理程序,并且,开发例如主存储设备102的RAM上的程序,从而执行噪声去除处理。也就是说,中央处理单元101执行用于去除从相机系统200L和200R输入的左眼图像和右眼图像的图像数据上的光学噪声的处理,并且,从图像数据输出终端112将已处理的图像数据输出到监视器300。
另外,中央处理单元101利用从相机系统200L和200R输入的拍摄设定信息和图像数据一起来执行处理。中央处理单元101例如利用光圈值来判定是否执行噪声去除处理,并且因此,防止噪声去除处理被浪费地执行。稍后将再次描述关于是否执行噪声去除处理的判定。
图8中所示的图像处理装置100A的其余部件与图1中所示的图像处理装置100的那些部件相同。因此,图8中所示的图像处理装置100A也可获得与图1中所示的图像处理装置100相同的效果。
在图8中所示的图像处理装置100A中,左眼图像数据被从相机系统200L输入,而右眼图像数据被从相机系统200R中输入。但是,左眼图像数据和右眼图像数据不必从两个相机系统输入。例如,两个相机系统200L和200R部分可以是包括两个或更多个光学系统的一个相机系统,并且因此,可输出从分离的视场(viewing field)所捕获的多个图像。
3.修改示例
另外,在上述实施例中,已经存在对示例的描述,其中,噪声去除处理被执行,以便校正累积在图像数据累积设备105中或从相机系统输入的左眼图像和右眼图像的光学噪声的几何失配。中央处理单元101可判定是否执行噪声去除处理,并且然后,可防止噪声去除处理被不必要地执行。例如,通过这些,可以减少中央处理单元(CPU)101的计算量,并且因此,减少其负载。此后,将描述不执行噪声去除处理的条件。
(1)在条纹的最大半径小于所希望的半径的情形中
如果条纹的半径小于所希望的阈值半径,例如,如果图像的X方向上的像素数小于1/30,则中央处理单元101不在关于光源所生成的条纹上执行噪声去除处理。
(2)在从光源所生成的条纹数大于所希望的数目并且因此条纹束之间的间隔小的情形中
如果从一个光源所生成的条纹数大于单独设定的阈值数,则中央处理单元101不在任意条纹或部分条纹上执行噪声去除处理。在该情形中,这是因为超过了可视的判定极限,即,其数目大并且间隔小,并且因此,邻近某条纹的条纹无法区分。
此处,将参照图9做出对计算条纹数的方法的示例的描述。当条纹区域BR和光源位置Px被固定时,中央处理单元101用距离r来绘制点的亮度,该距离r在角度Θ(范围:0<Θ<2π)上以光源位置(Xp,Yp)作为中心点,同时变化r。另外,中央处理单元101例如从所绘制的曲线Lrk中任意选择两个Lr1和Lr2,并且,计算其相关度“L(Θ)=Lr1(Θ)×Lr2(Θ)”。接下来,中央处理单元101每当通过计算L(Θ)的关于Θ的第一导数而获得最大值时将条纹数增加1,并且,将0<Θ<2π中的最大值数(此处为六)作为条纹数。
(3)相机透镜的偶数和奇数以及光圈片(diaphragm blade)的数目相机透镜的光圈片的数目W与条纹数具有某些规则,并且,如果W是偶数,则生成W个条纹,并且,如果W是奇数,则生成2W个条纹。换言之,对从上述光源所生成的条纹数与所希望的数目的比较可被透镜光圈是具有偶数片还是奇数片以及光圈片的数目所替代。因此,透镜光圈片的数目被从相机设定信息获得,并且,如果例如该值为七或更大的奇数,则使得不执行噪声去除处理。
(4)在条纹的持续时间短于所希望的阈值的情形中
如果由于相机的闪光等而从任意光源生成条纹时的时间(从运动图像中的相同光源生成条纹的连续帧的数目)短于所希望的阈值,则使得不执行噪声去除处理。在该情形中,这是因为条纹并不长时间地在观看体验中吸引注意力。
(5)在相机的光圈值小于设定值的情形中
如果相机透镜的光圈值变大,一般而言,则条纹束的长度增加。例如,图10A示出了在F10的光圈处的图像示例,而图10B示出了在F2的光圈处的图像示例。因此,如果光圈值小于所设定的阈值(例如,F8),则条纹束的长度被看作是足够短以可以被允许,并且因此,不使得噪声去除处理被执行。
虽然在上述描述中已经描述了不执行处理的条件,但是,用于执行处理的条件可通过反转与阈值的幅度关系而被设定。另外,可通过组合多个条件来设定用于执行处理的条件或不执行处理的条件。
本公开保护与2011年3月22日递交日本专利局的日本优先权专利申请JP 2011-062020公开的内容相关的主题,其全部内容通过引用被结合于此。
本领域技术人员应当理解,取决于设计要求和其他因素,可以发生各种修改、组合、子组合和变更,只要它们在所附权利要求或其等同物的范围内即可。

Claims (13)

1.一种图像处理装置,包括:
噪声去除单元,该噪声去除单元通过执行噪声去除处理来校正左眼图像和右眼图像的光学噪声的几何失配,该噪声去除处理用于去除由两个透镜类型的立体图像捕获相机所捕获并获得的所述左眼图像和所述右眼图像上单独生成的光学噪声,所述噪声去除单元校正出现在所述左眼图像中的条纹和光线以及出现在所述右眼图像中的条纹和光线的几何失配,
其中,所述噪声去除单元从所述左眼图像和所述右眼图像中的每一个检测包括光源、条纹和光线的条纹区域以及临近所述条纹区域的条纹背景区域,并且,将一个图像的条纹区域和条纹背景区域用另一图像的条纹区域和条纹背景区域来替换。
2.根据权利要求1所述的图像处理装置,其中,所述噪声去除单元包括:
区域分割部件,该区域分割部件将所述左眼图像和所述右眼图像中的每一个分割为多个区域;
分割区域相关部件,该分割区域相关部件将由所述区域分割部件所分割的所述左眼图像和所述右眼图像的所分割的区域中的包括彼此相同的对象的区域、或由光学上彼此相同的原因所生成的图像的区域相关;
条纹搜索部件,该条纹搜索部件从由所述区域分割部件所分割的所述左眼图像和所述右眼图像的所分割的区域检测包括光源、条纹和光线的条纹区域以及临近所述条纹区域的条纹背景区域;以及
图像替换部件,该图像替换部件基于来自所述分割区域相关部件的相关结果,将左眼图像和右眼图像中的一个的条纹区域和条纹背景区域用另一图像的条纹区域和条纹背景区域来替换。
3.根据权利要求1所述的图像处理装置,还包括噪声去除处理判定单元,该噪声去除处理判定单元判定所述噪声去除单元是否执行所述噪声去除处理。
4.根据权利要求3所述的图像处理装置,还包括输入终端单元,从相机系统传输的所述左眼图像和所述右眼图像被输入到该输入终端单元,并且,从所述相机系统传输的拍摄设定信息被输入到该输入终端单元,
其中,所述噪声去除处理判定单元基于包括在从所述相机系统传输的所述拍摄设定信息中的光圈值来判定是否执行所述噪声去除处理。
5.根据权利要求3所述的图像处理装置,其中,所述光学噪声是条纹或光线,并且
其中,所述噪声去除处理判定单元基于出现在所述左眼图像和所述右眼图像中的条纹或光线的半径来判定是否执行所述噪声去除处理。
6.根据权利要求3所述的图像处理装置,其中,所述光学噪声是条纹,并且
其中,所述噪声去除处理判定单元基于出现在所述左眼图像和所述右眼图像中的条纹数来判定是否执行所述噪声去除处理。
7.根据权利要求3所述的图像处理装置,其中,所述光学噪声是条纹,并且
其中,所述噪声去除处理判定单元基于用于获得所述左眼图像和所述右眼图像的相机的相机透镜的光圈片的数目的信息来判定是否执行所述噪声去除处理。
8.根据权利要求3所述的图像处理装置,其中,所述光学噪声是条纹,并且
其中,所述噪声去除处理判定单元基于出现在所述左眼图像和所述右眼图像中的条纹或光线的持续时段来判定是否执行所述噪声去除处理。
9.一种图像处理装置,包括:
噪声去除单元,该噪声去除单元通过执行噪声去除处理来校正左眼图像和右眼图像的光学噪声的几何失配,该噪声去除处理用于去除由两个透镜类型的立体图像捕获相机所捕获并获得的所述左眼图像和所述右眼图像上单独生成的光学噪声,所述噪声去除单元校正出现在所述左眼图像中的条纹和光线以及出现在所述右眼图像中的条纹和光线的几何失配,
其中,所述噪声去除单元从所述左眼图像和所述右眼图像中的每一个检测包括光源、条纹和光线的条纹区域和邻近所述条纹区域的条纹背景区域,从所述左眼图像和所述右眼图像中去除包括在所述条纹区域中的所述光源、所述条纹和所述光线,并且,向所述左眼图像和所述右眼图像给出具有适合于观看立体图像的几何相关的光源、条纹和光线效果。
10.根据权利要求9所述的图像处理装置,其中,所述噪声去除单元包括:
区域分割部件,该区域分割部件将所述左眼图像和所述右眼图像中的每一个分割为多个区域;
条纹搜索部件,该条纹搜索部件从由所述区域分割部件所分割的所述左眼图像和所述右眼图像的所分割的区域检测包括光源、条纹和光线的条纹区域以及邻近所述条纹区域的条纹背景区域;以及
图像替换部件,该图像替换部件从所述左眼图像和所述右眼图像中去除包括在所述条纹区域中的所述光源、所述条纹和所述光线,并且,向所述左眼图像和所述右眼图像给出具有适合于观看立体图像的几何相关的光源、条纹和光线效果。
11.一种图像处理方法,包括:
通过执行噪声去除处理来校正左眼图像和右眼图像的光学噪声的几何失配,该噪声去除处理用于去除由两个透镜类型的立体图像捕获相机所捕获并获得的所述左眼图像和所述右眼图像上单独生成的光学噪声,其中,所述通过执行噪声去除处理来校正左眼图像和右眼图像的光学噪声的几何失配包括:校正出现在所述左眼图像中的条纹和光线以及出现在所述右眼图像中的条纹和光线的几何失配,从所述左眼图像和所述右眼图像中的每一个检测包括光源、条纹和光线的条纹区域以及临近所述条纹区域的条纹背景区域,并且,将一个图像的条纹区域和条纹背景区域用另一图像的条纹区域和条纹背景区域来替换。
12.一种使能计算机用作如下部件的装置,该计算机处理由两个透镜类型的立体图像捕获相机所捕获并获得的左眼图像和右眼图像:
区域分割部件,该区域分割部件将所述左眼图像和所述右眼图像中的每一个分割为多个区域;
分割区域相关部件,该分割区域相关部件将由所述区域分割部件所分割的所述左眼图像和所述右眼图像的所分割区域中的包括彼此相同的对象的区域、或由光学上彼此相同的原因所生成的图像的区域相关;
条纹搜索部件,该条纹搜索部件从由所述区域分割部件所分割的所述左眼图像和所述右眼图像的所分割区域检测包括光源、条纹和光线的条纹区域以及邻近所述条纹区域的条纹背景区域;以及
图像替换部件,该图像替换部件基于来自所述分割区域相关部件的相关结果,将所述左眼图像和所述右眼图像中的一个的条纹区域和条纹背景区域用另一图像的条纹区域和条纹背景区域来替换。
13.一种使能计算机用作如下部件的装置,该计算机处理由两个透镜类型的立体图像捕获相机所捕获并获得的左眼图像和右眼图像:
区域分割部件,该区域分割部件将所述左眼图像和所述右眼图像中的每一个分割为多个区域;
条纹搜索部件,该条纹搜索部件从由所述区域分割部件所分割的所述左眼图像和所述右眼图像的所分割区域检测包括光源、条纹和光线的条纹区域以及邻近所述条纹区域的条纹背景区域;以及
图像替换部件,该图像替换部件从所述左眼图像和所述右眼图像中去除包括在所述条纹区域中的所述光源、所述条纹和所述光线,并且,向所述左眼图像和所述右眼图像给出具有适合于观看立体图像的几何相关的光源、条纹和光线效果。
CN201210073578.0A 2011-03-22 2012-03-15 图像处理装置、图像处理方法和程序 Expired - Fee Related CN102739922B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2011-062020 2011-03-22
JP2011062020A JP5807354B2 (ja) 2011-03-22 2011-03-22 画像処理装置、画像処理方法およびプログラム

Publications (2)

Publication Number Publication Date
CN102739922A CN102739922A (zh) 2012-10-17
CN102739922B true CN102739922B (zh) 2017-03-01

Family

ID=45936743

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201210073578.0A Expired - Fee Related CN102739922B (zh) 2011-03-22 2012-03-15 图像处理装置、图像处理方法和程序

Country Status (4)

Country Link
US (1) US8837814B2 (zh)
EP (1) EP2521361A3 (zh)
JP (1) JP5807354B2 (zh)
CN (1) CN102739922B (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014053651A (ja) * 2012-09-04 2014-03-20 Sony Corp 画像処理装置、画像処理方法、およびプログラム
JP6365477B2 (ja) * 2015-09-16 2018-08-01 トヨタ自動車株式会社 物体認識装置及び汚れ検出方法
JP6702148B2 (ja) * 2016-11-11 2020-05-27 株式会社デンソー 立体物認識装置
WO2020069752A1 (en) 2018-10-05 2020-04-09 Vestel Elektronik Sanayi Ve Ticaret A.S. Method for modifying stereoscopic pairs of images and apparatus
CN109859182B (zh) * 2019-01-29 2021-02-19 上海联影医疗科技股份有限公司 医学图像失配检测方法、装置、计算机设备和存储介质
CN110489580B (zh) * 2019-08-26 2022-04-26 Oppo(重庆)智能科技有限公司 图像处理方法、装置、显示屏组件以及电子设备
WO2021210399A1 (ja) * 2020-04-13 2021-10-21 ソニーグループ株式会社 画像処理装置および方法、並びにプログラム
CN112037142B (zh) * 2020-08-24 2024-02-13 腾讯科技(深圳)有限公司 一种图像去噪方法、装置、计算机及可读存储介质
CN112990231B (zh) * 2021-03-12 2022-08-26 河北经贸大学 一种图像误匹配对去除方法、装置及终端

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3108702B2 (ja) * 1992-06-08 2000-11-13 旭光学工業株式会社 撮像装置
JP2003069896A (ja) 2001-08-29 2003-03-07 Fuji Photo Film Co Ltd フレア補正方法とこの方法を用いるカメラ並びに前記フレア補正方法のプログラムおよびこれを記録した媒体
TW584815B (en) * 2001-09-13 2004-04-21 Silicon Integrated Sys Corp Method for removing noise regions in a stereo 3D display system
JP4156893B2 (ja) * 2002-09-27 2008-09-24 富士フイルム株式会社 画像処理装置、方法及びプログラム
US7432924B2 (en) * 2003-08-28 2008-10-07 Kabushiki Kaisha Toshiba 3D digital subtraction angiography image processing apparatus
EP1528797B1 (en) * 2003-10-31 2015-07-08 Canon Kabushiki Kaisha Image processing apparatus, image-taking system and image processing method
WO2006062325A1 (en) * 2004-12-06 2006-06-15 Electronics And Telecommunications Research Institute Apparatus for correcting image distortion of stereo-camera and method thereof
US20070165942A1 (en) * 2006-01-18 2007-07-19 Eastman Kodak Company Method for rectifying stereoscopic display systems
JP4745147B2 (ja) * 2006-06-22 2011-08-10 富士フイルム株式会社 撮像装置
JP4853320B2 (ja) * 2007-02-15 2012-01-11 ソニー株式会社 画像処理装置、画像処理方法
US8300086B2 (en) * 2007-12-20 2012-10-30 Nokia Corporation Image processing for supporting a stereoscopic presentation
JP4257382B1 (ja) * 2007-12-26 2009-04-22 株式会社東芝 ノイズリダクション装置、ノイズリダクション方法
CN101262559B (zh) * 2008-03-28 2010-09-29 北京中星微电子有限公司 一种序列图像噪声消除的方法及装置
WO2010035486A1 (ja) * 2008-09-29 2010-04-01 パナソニック株式会社 映像信号処理装置
CN101448077B (zh) * 2008-12-26 2010-06-23 四川虹微技术有限公司 一种自适应视频图像3d降噪方法
JP2011055337A (ja) * 2009-09-03 2011-03-17 Fujifilm Corp 撮像装置
JP2011062020A (ja) 2009-09-11 2011-03-24 Advics Co Ltd 直流モータ管理装置
KR20120067888A (ko) * 2010-12-16 2012-06-26 한국전자통신연구원 스테레오 영상 처리 장치 및 그 방법

Also Published As

Publication number Publication date
EP2521361A3 (en) 2014-10-22
US8837814B2 (en) 2014-09-16
CN102739922A (zh) 2012-10-17
US20120243776A1 (en) 2012-09-27
EP2521361A2 (en) 2012-11-07
JP5807354B2 (ja) 2015-11-10
JP2012199736A (ja) 2012-10-18

Similar Documents

Publication Publication Date Title
CN102739922B (zh) 图像处理装置、图像处理方法和程序
KR101994121B1 (ko) 중간 뷰로부터의 효율적인 캔버스 뷰 생성
US8405708B2 (en) Blur enhancement of stereoscopic images
US8000521B2 (en) Stereoscopic image generating method and apparatus
US9811946B1 (en) High resolution (HR) panorama generation without ghosting artifacts using multiple HR images mapped to a low resolution 360-degree image
CN101542529B (zh) 图像的深度图的生成方法和图像处理单元
Yang et al. A content-aware metric for stitched panoramic image quality assessment
US6608622B1 (en) Multi-viewpoint image processing method and apparatus
US20110205226A1 (en) Generation of occlusion data for image properties
EP2509326A2 (en) Analysis of 3D video
WO2017176947A2 (en) Transition between binocular and monocular views
JP5464279B2 (ja) 画像処理装置、そのプログラム、および画像処理方法
CN107529096A (zh) 图像处理方法及装置
TW200933491A (en) Method of synthesizing an image with multi-view images
US20110169820A1 (en) 3d image special effect device and a method for creating 3d image special effect
US20160180514A1 (en) Image processing method and electronic device thereof
GB2489931A (en) Analysis of 3D video to detect frame violation within cropped images
JP7408298B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US20150116202A1 (en) Image processing device and method, and program
US20220335578A1 (en) Colorization To Show Contribution of Different Camera Modalities
JP2021047468A (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JP5428723B2 (ja) 画像生成装置、画像生成方法、および、プログラム
Audu et al. Generation of three-dimensional content from stereo-panoramic view
KR101336955B1 (ko) 다시점 영상 생성 방법 및 시스템
Xi et al. Multiview virtual image synthesis for auto-stereoscopic display based on two views

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20170301

Termination date: 20180315

CF01 Termination of patent right due to non-payment of annual fee