CN102014249A - 图像处理装置和成像设备 - Google Patents
图像处理装置和成像设备 Download PDFInfo
- Publication number
- CN102014249A CN102014249A CN2010102696368A CN201010269636A CN102014249A CN 102014249 A CN102014249 A CN 102014249A CN 2010102696368 A CN2010102696368 A CN 2010102696368A CN 201010269636 A CN201010269636 A CN 201010269636A CN 102014249 A CN102014249 A CN 102014249A
- Authority
- CN
- China
- Prior art keywords
- image data
- memory
- pixel
- reading
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 77
- 238000003384 imaging method Methods 0.000 title claims abstract description 23
- 238000000034 method Methods 0.000 claims abstract description 21
- 238000006243 chemical reaction Methods 0.000 claims description 48
- 230000007480 spreading Effects 0.000 claims description 16
- 238000003892 spreading Methods 0.000 claims description 16
- 241001269238 Data Species 0.000 claims description 10
- 230000003139 buffering effect Effects 0.000 claims description 5
- 230000008676 import Effects 0.000 claims description 3
- 230000008569 process Effects 0.000 abstract description 3
- 238000003860 storage Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 7
- 238000012937 correction Methods 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 238000003672 processing method Methods 0.000 description 4
- 230000001360 synchronised effect Effects 0.000 description 4
- 238000013500 data storage Methods 0.000 description 2
- 230000014759 maintenance of location Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 1
- 241000905137 Veronica schmidtiana Species 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Image Input (AREA)
Abstract
本发明涉及图像处理装置和成像设备。图像处理装置包括:存储器接口,用于从存储器读取图像数据;以及,存储器访问控制器,用于控制存储器接口的读取处理,从而保持在从存储器读出的图像数据的主扫描方向上的像素的数目小于在图像数据输出到的屏幕的主扫描方向上的像素的数目。
Description
相关申请的交叉引用
本申请基于并主张2009年9月3日向日本专利局递交的日本专利申请No.2009-204054的优先权,其全部披露通过参考而引入。
技术领域
本发明总体涉及一种图像处理装置和提供有该图像处理装置的成像设备,并且更特别地涉及一种用于诸如汽车照相机系统的照相机系统的图像处理装置和成像设备。
背景技术
汽车照相机系统通常提供有诸如鱼眼镜头的广角镜头,以捕捉较广区域范围内的物体的图像。由于广角镜头产生的图更容易受到失真的影响,因此照相机系统使用照相机系统中通常采用的图像处理装置来将图像处理应用于修正捕捉到的图像中的失真。图像处理装置从传感器单元以图像数据的形式接收捕捉到的图像,并且将图像数据存储在存储器中,存储器例如为静态随机访问存储器(SRAM)或动态随机访问存储器(DRAM)。在通过照相机系统的显示器输出捕捉到的图像时,图像处理装置访问存储器中的特定地址以产生修正了失真的图像数据。例如,如日本专利申请公开No.2008-092602A中所述,通过使用先前存储的参数信息计算用于访问的特定地址的值并且访问所计算的特定地址以获取修正后的图像数据,来修正捕捉到的图像中的失真。这种计算用于访问的特定地址并访问所计算的特定地址的方法也可以用于产生照相机系统的用户有时候可能要求的变形的图像数据。
为了实时地产生修正的图像数据或变形的图像数据,要求图像处理装置以高的处理速度计算用于访问的特定地址的值。然而,这导致了照相机系统的制造成本的增加,因为高性能存储器也趋向于高成本。
发明内容
本发明的示例实施例包括图像处理装置,该图像处理装置即便在不采用高性能存储器时也能以高图像质量实时地提供修正或变形的图像数据。
根据本发明的第一方面,提供了一种图像处理装置,用于处理要通过屏幕输出的图像数据,所述图像处理装置包括:存储器,用于存储至少一帧图像数据;读取地址计算器,用于计算从输入图像数据变换的输出图像数据的读取地址,读取地址用于通过坐标转换将从存储器读出的输入图像数据变换为输出图像数据;存储器接口,用于将输入图像数据写入到存储器,并基于由读取地址计算器计算的输出图像数据的读取地址从存储器读出输入图像数据作为输出图像数据;存储器访问控制器,用于控制对存储器接口的读取处理,以保持在从存储器读出的输出图像数据的主扫描方向上的像素的数目小于在屏幕的主扫描方向上的像素的数目;图像扩展器,用于扩展从存储器读出的输出图像数据以产生扩展的图像数据,从而将在输出图像数据的主扫描方向上的像素的数目增加到在屏幕的主扫描方向上的像素的数目;以及图像输出端,用于将扩展的图像数据编码成预定的格式,并通过屏幕输出编码后的图像数据。
根据本发明的第二方面,在本发明的第一方面所述的图像处理装置中,存储器访问控制器对在从存储器读出的输出图像数据的主扫描方向上的像素的数目进行计数以获得计数值,并在计数值达到预定值时使存储器接口停止读取输入图像数据的处理,以保持在从存储器读出的输出图像数据的主扫描方向上的像素的数目小于在屏幕的主扫描方向上的像素的数目。
根据本发明的第三方面,在本发明的第一方面所述的图像处理装置中,存储器访问控制器通过对读取地址计算器输入的读取地址计数以输出计数值,并在计数值达到预定值时使读取地址计算器停止计算和输入读取地址的处理,从而保持在从存储器读出的输出图像数据的主扫描方向上的像素的数目小于在屏幕的主扫描方向上的像素的数目。
根据本发明的第四方面,在本发明的第一至第三方面中任一方面所述的图像处理装置中,存储器接口包括存储器访问控制器。
根据本发明的第五方面,在本发明的第一至第四方面中任一方面所述的图像处理装置中,存储器包括用于存储至少两帧图像数据的动态随机访问存储器,并且,存储器接口使用双缓冲器方法关于动态随机访问存储器写入和读取图像数据。
根据本发明的第六方面,在本发明的第一至第五方面中任一方面所述的图像处理装置中,读取地址计算器包括用于存储多个坐标转换表的存储器,所述多个坐标转换表是分别为多种类型的输出图像数据准备的,并且读取地址计算器使用所述多个坐标转换表中的、依据从图像处理装置外部接收的指令而选择的一个坐标转换表,来计算输出图像数据的读取地址。
根据本发明的第七方面,在本发明的第一至第六方面中任一方面所述的图像处理装置中,图像扩展器在主扫描方向上将从存储器读出的输出图像数据分成多个部分,每个部分具有预定数目的像素,并且,图像扩展器应用插值法将预定数目的像素增加到所述多个部分的每个部分,从而使得扩展后的图像数据在主扫描方向上的像素的数目等于在屏幕的主扫描方向上的像素的数目。
根据本发明的第八方面,提供了一种成像设备,包括:传感器单元,用于通过捕捉物体的图像获取图像数据;以及在本发明的第一至第七方面中任一方面中的图像处理装置。
除上述示例实施例之外,本发明还可以以各种其他方式实施。
附图说明
可以通过参考附图,从以下具体实施方式更容易地获得并理解本披露的更完整的理解及其伴随的优点和特征,其中:
图1是描述了依据本发明的示例实施例的成像设备的结构的示意图,该成像设备包括传感器单元和图像处理装置;
图2是图1的成像设备的传感器单元的结构;
图3是说明使用双缓冲器方法从存储器读出图像数据或将图像数据写入存储器的操作的图示;
图4A是说明通过坐标转换执行图像数据的旋转的图示;
图4B是示出了存储在存储器中的输入图像数据与从存储器读出的输出图像数据之间的坐标值差异的图示;
图5是从输出图像数据划分的多个块的图示,每个块具有采样像素;
图6A是扩展前的图像数据的图示;
图6B是扩展后的图像数据的图示;
图7是说明在成像设备被实现为汽车照相机系统时的成像设备的结构的示意性框图,该成像设备包括传感器单元和图像处理装置;以及
图8是示出了图7的成像设备输出的亮度信号的频率特性的曲线图。
附图是试图描述本发明的示例实施例,而不应当解释为限制其范围。除非特别指出,附图不应被考虑为按照比例绘制。
具体实施方式
这里使用的术语仅仅用于描述特定实施例的目的,并不试图限制本发明。除非上下文清楚地指出,否则如这里所使用的,单数形式“一”、“一个”和“该”也包括复数形式。会进一步认识到,术语“包含”和/或“包括”当在本说明书中使用时,指定所述特征、整数、步骤、操作、元件和/或组件的存在,而不排除一个或多个其他特征、整数、步骤、操作、元件、组件和/或其组合的存在或增加。
在描述附图中的示例实施例时,采用特定术语是为了清楚的目的。然而,本披露并不试图限定于这样选择的特定术语,并且,应当理解,每个特定元件包括以类似方式操作的所有技术等同物。
现在参考图1,依据本发明示例实施例说明成像系统的结构。
图1的成像系统包括具有成像元件的传感器单元100、以及处理从传感器单元100输出的图像数据的图像处理装置200。例如,图1的成像系统可以被实现为汽车照相机系统。在此情况下,传感器单元100和图像处理装置200容纳在一个壳体内,该壳体安装在车辆的后侧部上,例如在汽车的后窗。尽管图1中未示出,图像处理装置200连接到显示装置,例如显示器。该显示装置可以提供在汽车内部,以向驾驶汽车的驾驶员显示从图像处理装置200输出的图像。
传感器单元100捕捉物体的图像以产生模拟信号,并将模拟信号转化为数字信号。数字信号被作为图像数据输出到图像处理装置200。传感器单元100向图像处理装置200输出水平的和垂直的同步信号,该水平的和垂直的同步信号可以被共同称为同步信号。
图2示出了传感器单元100的示例结构。传感器单元100主要包括镜头光学系统110、成像元件120、自动增益控制(automatic gain control,AGC)电路130、自动白平衡(automatic white balance,AWB)电路140以及模数转换器(analog digital converter,ADC)150。
光学系统110将光线聚焦到成像元件120上。在汽车照相机系统的情况下,光学系统110通常提供有具有大的像差的广角镜头。成像装置120可以由电荷耦合器件(CCD)图像传感器或互补金属氧化物半导体(CMOS)图像传感器实现,依据光学图像的强度水平将光学系统110产生的光学图像转化为具有高和低电平的电模拟信号。
由成像装置120获得的捕捉到的图像的模拟信号通过AGC电路130和AWB电路140传递到ADC 150。在ADC 150,将模拟信号转换为数字信号。AGC 130是输出具有期望电平的信号的电路,该具有期望电平的信号被输入到全国电视系统委员会制式(NTSC)编码器。更具体的,随着物体接收更多光线,放大器的增益减少,并且,随着物体接收更少的光线,放大器的增益增加到预定水平。由于噪声趋向于随着增益增加而增加,因此,减少信号的S/N比来抑制S/N比的增加。AWB电路140修正每种色彩通道的增益,使得每种色彩的信号强度对于白色的物体保持相等。ADC 150对于每种色彩将模拟信号转换为数字信号。数字信号可以是各色彩的8比特数据,各色彩的8比特数据可以被共同称为图像数据。
尽管图2中未示出,传感器单元100将产生同步信号的同步信号发生器结合于其中。由此,依据同步信号发生器产生的同步信号,使得由传感器单元100的装置执行的处理彼此同步地进行。如图1所示,传感器单元100将同步信号与图像数据一起输出。可选择的,同步信号发生器可以独立于传感器单元100而提供,并且同步信号发生器将同步信号输出到传感器单元100和图像处理装置200。
返回参考图1,图像处理装置200主要包括存储器接口210、存储器220、读取地址计算器230、图像扩展器240和图像输出端250。存储器接口210提供有存储器访问控制器212。尽管图1中未示出,图像处理装置200还包括色彩空间转换器、调制传递函数(modulation transfer function,MTF)修正电路和伽玛修正电路。
存储器接口210接收从传感器单元100输出的图像数据,并至少临时地将接收到的图像数据存储在存储器220中。在这个示例中,存储器220可以由帧缓冲器实现,帧缓冲器例如能存储多于一帧的图像数据的DRAM。在这个示例中,可以互换地使用一帧图像数据和一屏图像数据。存储在存储器220中的图像数据由存储器接口220基于读取地址读出,该读取地址是基于要输出到显示装置的变换的图像数据而确定的。该读取地址由读取地址计算器230计算。
在这个示例中,使用双缓冲器方法从存储器220读取图像数据或将图像数据写入存储器220。为了说明的目的,如图3所示,假设两帧图像数据,也就是两屏图像数据要被分别存储在存储器220的存储地址空间的区域A和区域B中。如图3(a)所示,当正从存储地址空间的区域A读出一帧图像数据时,将从传感器单元100接收到的一帧图像数据存储到存储地址空间的区域B。换句话说,区域A作为用于读取的地址空间,而区域B作为用于写入的地址空间。如图3(b)所示,当对于区域A和B二者访问所有地址时,区域A和区域B的读取和写入功能颠倒。更具体的,如图3(c)所示,将一帧图像数据写入到存储地址空间的区域A,同时从存储地址空间的区域B读出一帧图像数据。如图3(d)所示,当对于区域A和区域B访问所有地址时,区域A和区域B的写入和读取功能颠倒,以重复图3(a)到3(d)所示的处理。
参考图3,当以相同的速度,例如30帧/每秒(fps)进行图像数据的读取和写入时,每个帧图像数据要互换区域A和区域B的功能。可选择的,可以不以相同的速度处理图像数据的读取和写入。例如,当读取图像数据的速度是30fps且写入图像数据的速度是15fps时,即便写入处理未完成一帧图像数据的写入,读取处理也可能访问该图像数据,导致图像停滞在屏幕上。为了减少图像停滞,已经由读取处理读取过一次的一帧图像数据可能需要被再次读取,直到写入处理完成一帧图像数据的写入。在使用隔行扫描方法读取图像数据的情况下,例如通过首先读取包含图像数据中的所有奇数行的第一场并在读取第一场后读取包含图像的所有偶数行的第二场,每隔一行地读取图像数据。该隔行扫描方法可以用于抑制屏幕上的闪烁。
在这个示例中,存储器访问控制器212控制从存储器220读取图像数据的操作,使得在从存储器220读出的图像数据的主扫描方向上的像素的数目保持小于要通过显示装置的屏幕输出的图像数据的主扫描方向上的像素的数目。
读取地址计算器230计算基于变换的图像数据确定的读取地址。存储器接口210访问存储器220中的地址数据来以期望的方式读出图像数据。更具体的,将计算出的读取地址用于通过坐标转换来转换要输入到存储器220的图像数据(“输入图像数据”),以产生要从存储器220输出的输出图像数据(“输出图像数据”)。读取地址计算器230计算输入图像数据中的每个像素的坐标值,输入图像数据中的每个像素与输出图像数据中的每个像素对应。
图4A和4B是用于说明读取地址计算器230执行的处理的图示。图4A和4B特定地给出了将输入图像数据旋转90度来产生输出图像数据的示例。
参考图4A,假设将位于输入图像数据中的坐标(x1,y1)的第一像素通过坐标转换移动到输出图像数据中的坐标(X1,Y1),并且将位于输入图像数据中的坐标(x2,y2)的第二像素通过坐标转换移动到输出图像数据中的坐标(X2,Y2)。图4(b)示出了输入到存储器210的输入图像数据与从存储器210输出的输出图像数据之间每个像素的坐标值差异。
在将图像数据的第一像素输出用于显示时,读取地址计算器230确定输入图像数据中与输出图像数据的第一像素对应的像素,并获得输入图像数据中与输出图像数据的第一像素对应的像素的坐标值作为输出图像数据的第一像素的读取地址。基于计算出的读取地址,读取位于输入图像数据的坐标(x1,y1)的第一像素作为位于输出图像数据的坐标(X1,Y1)的第一像素。类似的,在输出图像数据的第二像素用于显示时,读取地址计算器230确定输入图像数据中的与输出图像数据的第二像素对应的像素,并获得输入图像数据中与输出图像数据的第二像素对应的像素的坐标值作为输出图像数据的第二像素的读取地址。基于计算出的读取地址,读取位于输入图像数据的坐标(x2,y2)的第二像素作为位于输出图像数据的坐标(X2,Y2)的第二像素。对于输出图像数据的每个像素,存储器接口210访问存储器220中的、由通过读取地址计算器230计算出的读取地址所指定的地址,以获得与输出图像数据的像素对应的像素,并输出输出图像数据,该输出图像数据是旋转了90度的输入图像数据。
读取地址计算器230实现为大规模集成(LSI)电路。在汽车照相机系统的情况下,在将存储在存储器220中的图像数据输出之前,可能需要依据用户的需求以各种方式转换或变换图像数据。按照用户请求执行的图像处理的示例包括但不限于,失真修正、图像旋转和生成鸟瞰图(bird’s eye view)的图像处理。为了减少LSI的开发成本和电路尺寸,将LSI设计成仅提供对于所有类型的输出图像数据共同的处理,例如,双线性插值。为了生成不同类型的输出图像数据,可能要准备分别与多种类型的输出图像数据对应的多个坐标转换表,并存储在例如可编程只读存储器(PROM)的存储器中。例如,可以以查找表的形式准备多个坐标转换表,该查找表可以由软件提供。
相应地,在一个示例中,读取地址计算器230包括存储多种类型的坐标转换表的PROM、以及例如通过使用至少一个坐标转换表应用双线性插值来提供坐标转换功能的LSI。
为了准备坐标转换表,将输出图像数据分为多个块,从该多个块中的每个块选择采样像素。每个块的采样像素可以是,例如,在相同块中包含的像素中要被首先处理的顶部像素。对于分别为输出图像数据的多个块获得的采样像素中的每一个采样像素,获得与输入图像数据中的采样像素对应的像素的坐标值,并存储在坐标转换表中。以此方式,对于输出图像数据的划分的块的每一个采样像素,坐标转换表存储了输入图像数据的坐标值。
图5示出了将具有720像素×480像素的图像大小的输出图像数据分为12×15=180个块,每个块具有60像素×32像素的图像大小的示例情况。在图5中,数字0到205每个表示分配给输出图像数据中每个块的、作为顶部像素的采样像素的数字。坐标转换表对每个分配给采样像素的数字存储了输入图像数据中的采样像素的坐标值。
在生成输出图像数据用于显示时,LSI用作坐标转换器,基于同步信号计算输出图像数据的每个像素的坐标值。当要输出的像素的坐标值与坐标转换表中存储的采样像素的坐标值匹配时,LSI将分配给采样像素的数字输入到坐标转换表中,以获得输入图像数据中与输入的数字对应的坐标值,并将获得的坐标值输出作为要被输出的像素的读取地址。当要被输出的像素的坐标值与坐标转换表中存储的采样像素的坐标值不匹配时,LSI从坐标转换表中指定围绕该要被输出的像素的多个采样像素作为参考像素,并获得输入图像数据中的与指定的参考像素对应的多个坐标值。基于获得的多个坐标值,LSI应用双线性插值来计算输入图像数据中的与要被输出的像素对应的坐标值,并输出计算出的坐标值作为要被输出的像素的读取地址。
对于上述获得读取地址的功能或方法可选择的是,读取地址计算器230可以使用任何期望的已知方法以任何其他方式获得读取地址。
返回参考图1,存储器接口210与同步信号同步地从读取地址计算器230顺序地接收读取地址,并从存储器220顺序地读取该读取地址的图像数据。此时,存储器访问控制器212控制从存储器220读取图像数据的处理,使得在主扫描方向上正在从存储器220读出的图像数据的像素的数目保持小于在主扫描方向上要被输出到显示装置的屏幕上的像素的数目。更具体的,存储器访问控制器212对正从存储器220读取出的每一行图像数据中的像素的数目进行计数,以获得计数值。当计数值达到预定值时,存储器访问控制器212使存储器接口210停止从存储器220读取图像数据的目标行。
例如,假设存储器220中存储的输入图像数据具有640像素×480像素的图像大小并且输出图像数据具有720像素×480像素的图像大小,则存储器访问控制器212在已从存储器220读出504像素的图像数据时,停止从存储器220读出主扫描方向上的图像数据的行的处理。
对于对已从存储器220读出的像素的数目进行计数可选择的是,存储器访问控制器212可以对于每行图像数据对从读取地址计算器230接收的读取地址的数目进行计数以获得计数值。当计数值达到预定值时,存储器访问控制器212可以指示读取地址计算器230停止对图像数据的剩余行计算读取地址。相应地,在主扫描方向上正在从存储器220读出的图像数据的像素的数目保持小于在主扫描方向上要被输出到屏幕的像素的数目。
图像扩展器240接收通过存储器接口210从存储器220读出的输出图像数据,并扩展或增加输出图像数据的主扫描方向上的像素的数目,使得得到的输出图像数据具有与屏幕大小对应的期望的像素数目。例如,图像扩展器240使用插值法扩展图像数据。
图6A和6B示出了图像扩展器240执行的示例操作。在图6A和6B中,假设要通过屏幕输出的在主扫描方向上的像素的数目是720像素并且从存储器220读出的图像数据的主扫描方向上的像素的数目是504像素。
图像扩展器240将从存储器220读出的具有每行504像素的图像数据写入到例如先入先出(FIFO)存储器。然后从FIFO存储器读出图像数据。对于14个块,将使得从FIFO存储器读取图像数据能进行的读取使能信号设置为高,而对于6个块,将读取使能信号设置为低。将读取14个像素的图像数据的操作重复36次,以获得具有每行504像素的图像数据。图6A示出了从FIFO存储器一次读出的一组图像数据,该组图像数据未被扩展。通过应用插值法对图6A的图像数据组进行扩展以产生图6B的图像数据组。通过重复扩展处理36次,将具有每行504像素的图像数据扩展为具有每行720像素的图像数据。
对于图6A和6B所示的扩展处理可选择的是,可以通过各种其他方式扩展图像数据来获得与屏幕大小对应的、具有在主扫描方向上的期望数目的像素的图像数据。
参考图1,图像输出端250接收从图像扩展器240输出的图像数据,并对该图像数据进行编码以产生与显示装置的屏幕对应的、期望格式的图像数据。在这个示例中,将图像数据转换为NTSC格式的图像数据并在例如显示器的显示装置上显示。
图7示出了当图1的成像设备实现为汽车照相机系统时,图1中的具有传感器单元100和图像处理装置200的成像设备的示例结构。
传感器单元100输出通过从汽车后侧捕捉物体的图像而获得的图像数据。在这个示例中,以YUV 422格式获得8比特图像数据。传感器单元100与27MHz时钟信号同步地按照Y,U,Y,V,Y,U,Y,V…的顺序输出图像数据。图像数据的有效大小是640像素乘以480像素,帧频是30fps。通过屏幕显示的输出图像的期望大小是720像素乘以480像素。
从传感器单元100输出的图像数据经由存储器接口210存储在存储器220中。存储器220由DRAM实现,存储超过一帧或超过一屏的图像数据。在这个示例中,存储器220的DRAM具有存储1M×16比特数据的能力。当在每个地址中存储图像数据时,将上部8比特图像数据按照8比特亮度信号的形式进行存储,并将下部8比特图像数据按照8比特色彩差异信号的形式进行存储。如以上参考图3所述,使用双缓冲器方法对DRAM进行写入和读出。使用逐行扫描方法执行写入处理,并使用隔行扫描方法执行读取处理。写入处理和读取处理二者都以速度30fps执行。
在通过存储器接口210从存储器220读取图像数据时,读取地址计算器230计算基于从输入图像数据变换的输出图像数据确定的读取地址。更具体的,如以上参考图1所述,读取地址用于通过坐标转换将输入图像数据转换为输出图像数据。读取地址计算器包括PROM 234,PROM 234存储了对不同类型的转换分别准备的多个坐标转换表,各种类型的转换包括逐行交错转换、失真修正、旋转、以及鸟瞰图转换。对于每种转换类型,坐标转换表存储与输出图像数据的采样像素对应的输入图像数据的坐标值。
坐标转换器232使用PROM 234中存储的多个坐标转换表中所选择的一个坐标转换表,例如通过应用双线性插值,计算与输出图像数据的每个像素对应的输入图像数据的坐标值,以将输出图像数据的每个像素的读取地址输出到存储器接口210。可以依据从外部接收的指示,例如用户指示,来确定对PROM234中的坐标转换表的选择。
存储器接口210基于从坐标转换器232接收到的读取地址从存储器220读取图像数据。存储器访问控制器212针对每行计数正从存储器220读出的图像数据中的像素的数目,以获得计数值。当计数值达到预定值时,存储器访问控制器212停止读取处理,使得不读取后续的行。在这个示例中,从存储器220读出的图像数据是每行504像素。
从存储器220读出的图像数据被输入到图像扩展器240。YUV 444转换器242将图像数据转换为YUV 444图像数据。扩展器244将具有每行504像素的图像数据扩展为在屏幕的主扫描方向上具有720像素的图像数据。YUV 422转换器246将扩展后的图像数据转换为YUV 422图像数据。如以上参考图6A和6B所述,扩展器244将具有每行504像素的图像数据写入到FIFO存储器中,一次读出14像素的图像数据,并将读取的图像数据从14像素扩展为20像素。重复执行读取14像素的图像数据并扩展为20像素的这个操作36次,以获得在屏幕的主扫描方向上具有720像素的扩展后的图像数据。
图像扩展器240将图像数据输出到图像输出端250。BT656缩放252对图像数据的亮度信号和差异信号应用缩放。DAC 254将图像数据转换为NTSC格式的图像信号。在这个示例中,依据DAC 254的规范,以与BT656兼容的方式执行缩放。更具体的,亮度信号和差异信号在输入到DAC 254之前分别被转换成适应于16到235和16到240的范围内。
图像输出端250连接到图像显示装置,在图像显示装置上依据从DAC 254输出的图像信号显示图像数据。
图8示出了在连接到图像处理装置200的图像显示装置上显示的图像数据的亮度信号的频率特性。从图像输出端250输出的NTSC信号的水平解析度被计算为8.0MHz/30fps/525行=507。参考图8,即便在从存储器220读出具有每行720像素的图像数据时,NTSC信号输出也保持为恒定电平,使得在500像素也几乎不存在恶化。
如上所述,存储器访问控制器212提供在图像处理装置200中,控制在正从存储器读出的图像数据的主扫描方向上的像素的数目小于在要通过屏幕输出的图像数据的主扫描方向上的像素的数目。进一步,图像扩展器240提供在图像处理装置200中,对从存储器读出的图像数据进行扩展,使得在图像数据的主扫描方向上的像素的数目增加到在要通过屏幕要被输出的图像数据的主扫描方向上的像素的数目。
相应地,即便当工作在相对低的驱动速度的存储器,例如DRAM用于随机访问存储器的地址空间时,图像处理装置200也能产生依据用户的需求的、高质量的变换图像数据,例如NTSC图像数据。通过如上所述的图像处理装置,能得到低成本、小尺寸且高质量的例如汽车照相机系统的照相机系统。
依据以上教导,多种额外的修改和变型也是可能的。因此,应当理解,在所附权利要求的范围内,可以以除了这里具体描述的之外的其他方式实施本发明的披露。
通过已经描述的本发明的一些实施例,很明显可以以许多方式对本发明的这些实施例进行变型。这样的变型不应当认为是偏离本发明的精神和范围,且所有这些修改意图包含在本发明的范围内。
例如,在本披露和所附权利要求的范围内,不同示意性实施例的元件和/或特征可以彼此组合和/或彼此替代。
例如,图1的成像系统可以实现为除了汽车照相机系统之外的照相机系统,例如便携式照相机或视频照相机。
进一步,由图1的成像系统捕捉或处理的图像数据包括各种类型的图像数据,例如静态图像数据、运动图像数据和三维图像数据。
进一步,通过屏幕输出的图像数据的格式不限于以上参考图7描述的NTSC格式,因此,可以使用任何其他期望格式,例如逐行倒相制式(phase alternating line,PAL)。
进一步,如上所述,本发明的以上所述的或其他的方法中的任何一种可以体现为存储在任何类型的存储介质中的计算机程序的形式。存储介质的示例包括但不限于,软盘、硬盘、光盘、磁光盘、磁带、非易失性存储卡、ROM(只读存储器),等等。
可选择的,本发明的如上所述的和其他的方法中的任何一种可以通过ASIC实现,该ASIC通过互连传统部件电路的网络或相应地通过组合一个或多个传统通用微处理器和/或可编程信号处理器来准备。
在一个示例中,本发明可以属于:用于处理通过屏幕要被输出的图像数据的图像处理装置。该图像处理装置包括:存储器,存储至少一帧图像数据;读取地址计算部,用于计算从输入图像数据变换的输出图像数据的读取地址,读取地址用于通过坐标转换将从存储器读出的输入图像数据变换为输出图像数据;存储器接口部,用于将输入图像数据写入到存储器,并基于由读取地址计算部计算并输入的输出图像数据的读取地址从存储器读出输入图像数据作为输出图像数据;存储器访问控制器部,用于控制对存储器接口部的读取处理,以保持在从存储器读出的输出图像数据的主扫描方向上的像素的数目小于在屏幕的主扫描方向上的像素的数目;图像扩展器部,用于扩展从存储器读出的输出图像数据以产生扩展的图像数据,从而将在输出图像数据的主扫描方向上的像素的数目增加到在屏幕的主扫描方向上的像素的数目;以及,图像输出部,用于将扩展的图像数据编码成预定的格式,并通过屏幕输出编码后的图像数据。
在上述的示例,在一个示例中,存储器访问控制器部对在从存储器读出的输出图像数据的主扫描方向上的像素的数目进行计数以获得计数值,并在计数值达到预定值时使存储器接口部停止读取输入图像数据的处理,以保持在从存储器读出的输出图像数据的主扫描方向上的像素的数目小于在屏幕的主扫描方向上的像素的数目。
在上述的示例,在一个示例中,存储器访问控制器部通过对读取地址计算部输入的读取地址计数以输出计数值,并在计数值达到预定值时使读取地址计算部停止计算和输入读取地址的处理,从而保持在从存储器读出的输出图像数据的主扫描方向上的像素的数目小于在屏幕的主扫描方向上的像素的数目。
在另一个示例中,本发明属于处理要通过屏幕输出的图像数据的图像处理方法。该图像处理方法包括:在存储器中存储至少一帧图像数据;计算从输入图像数据变换的输出图像数据的读取地址,读取地址用于通过坐标转换将从存储器读出的输入图像数据变换为输出图像数据;将输入图像数据写入到存储器;基于输出图像数据的读取地址,从存储器读出输入图像数据作为输出图像数据;控制读取操作,以保持在从存储器读出的输出图像数据的主扫描方向上的像素的数目小于在屏幕的主扫描方向上的像素的数目;扩展从存储器读出的输出图像数据以产生扩展的图像数据,从而将在输出图像数据的主扫描方向上的像素的数目增加到在屏幕的主扫描方向上的像素的数目;将扩展的图像数据编码成预定的格式;以及,通过屏幕输出编码后的图像数据。
在另一个示例中,本发明可以属于:多个指令,使得处理器执行上述图像处理方法。
在另一个示例中,本发明可以属于:记录介质,存储使处理器执行上述图像处理方法的多个指令。
Claims (8)
1.一种图像处理装置,用于处理要通过屏幕输出的图像数据,所述图像处理装置包括:
存储器,用于存储至少一帧图像数据;
读取地址计算器,用于计算从输入图像数据变换的输出图像数据的读取地址,读取地址用于通过坐标转换将从存储器读出的输入图像数据变换为输出图像数据;
存储器接口,用于将输入图像数据写入到存储器,并基于由读取地址计算器计算的输出图像数据的读取地址从存储器读出输入图像数据作为输出图像数据;
存储器访问控制器,用于控制对存储器接口的读取处理,以保持在从存储器读出的输出图像数据的主扫描方向上的像素的数目小于在屏幕的主扫描方向上的像素的数目;
图像扩展器,用于扩展从存储器读出的输出图像数据以产生扩展的图像数据,从而将在输出图像数据的主扫描方向上的像素的数目增加到在屏幕的主扫描方向上的像素的数目;以及,
图像输出端,用于将扩展的图像数据编码成预定的格式,并通过屏幕输出编码后的图像数据。
2.根据权利要求1所述的图像处理装置,其中,存储器访问控制器对在从存储器读出的输出图像数据的主扫描方向上的像素的数目进行计数以获得计数值,并在计数值达到预定值时使存储器接口停止读取输入图像数据的处理,以保持在从存储器读出的输出图像数据的主扫描方向上的像素的数目小于在屏幕的主扫描方向上的像素的数目。
3.根据权利要求1所述的图像处理装置,其中,存储器访问控制器通过对读取地址计算器输入的读取地址计数以输出计数值,并在计数值达到预定值时使读取地址计算器停止计算和输入读取地址的处理,从而保持在从存储器读出的输出图像数据的主扫描方向上的像素的数目小于在屏幕的主扫描方向上的像素的数目。
4.根据权利要求1至3任一项所述的图像处理装置,其中,存储器接口包括存储器访问控制器。
5.根据权利要求1所述的图像处理装置,其中,存储器包括用于存储至少两帧图像数据的动态随机访问存储器,并且,存储器接口使用双缓冲器方法关于动态随机访问存储器写入和读取图像数据。
6.根据权利要求1所述的图像处理装置,其中,读取地址计算器包括用于存储多个坐标转换表的存储器,所述多个坐标转换表是分别为多种类型的输出图像数据准备的,并且
读取地址计算器使用所述多个坐标转换表中的、依据从图像处理装置外部接收的指令而选择的一个坐标转换表,来计算输出图像数据的读取地址。
7.根据权利要求1所述的图像处理装置,其中,图像扩展器在主扫描方向上将从存储器读出的输出图像数据分成多个部分,每个部分具有预定数目的像素,并且,图像扩展器应用插值法将预定数目的像素增加到所述多个部分的每个部分,从而使得扩展后的图像数据在主扫描方向上的像素的数目等于在屏幕的主扫描方向上的像素的数目。
8.一种成像设备,包括:
传感器单元,用于通过捕捉物体的图像获取图像数据;以及
权利要求1至7任一项中的图像处理装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009-204054 | 2009-09-03 | ||
JP2009204054A JP5376313B2 (ja) | 2009-09-03 | 2009-09-03 | 画像処理装置及び画像撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102014249A true CN102014249A (zh) | 2011-04-13 |
CN102014249B CN102014249B (zh) | 2013-02-27 |
Family
ID=42797314
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2010102696368A Expired - Fee Related CN102014249B (zh) | 2009-09-03 | 2010-08-31 | 图像处理装置和成像设备 |
Country Status (4)
Country | Link |
---|---|
US (1) | US8570334B2 (zh) |
EP (1) | EP2293240B1 (zh) |
JP (1) | JP5376313B2 (zh) |
CN (1) | CN102014249B (zh) |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012142865A (ja) * | 2011-01-05 | 2012-07-26 | Sony Corp | 画像処理装置及び画像処理方法 |
JP5585885B2 (ja) * | 2011-03-18 | 2014-09-10 | 株式会社リコー | 画像処理装置及び画像処理方法 |
US9137517B2 (en) * | 2012-10-05 | 2015-09-15 | Blackberry Limited | Methods and devices for generating a stereoscopic image |
JP6417666B2 (ja) | 2013-05-15 | 2018-11-07 | 株式会社リコー | 画像処理システム |
JP6380843B2 (ja) | 2013-12-19 | 2018-08-29 | 株式会社リコー | 物体検出装置及びこれを備えた移動体機器制御システム並びに物体検出用プログラム |
JP6417729B2 (ja) | 2014-06-09 | 2018-11-07 | 株式会社リコー | 画像処理装置、画像処理方法、プログラム、視差データの生産方法、機器制御システム |
CN105405178B (zh) * | 2014-09-12 | 2018-08-31 | 联咏科技股份有限公司 | 行车记录器及其操作方法 |
EP3002550B1 (en) | 2014-10-03 | 2017-08-30 | Ricoh Company, Ltd. | Information processing system and information processing method for distance measurement |
JP6805534B2 (ja) | 2015-07-02 | 2020-12-23 | 株式会社リコー | 視差画像生成装置、視差画像生成方法及び視差画像生成プログラム、物体認識装置、機器制御システム |
WO2017047282A1 (ja) | 2015-09-15 | 2017-03-23 | 株式会社リコー | 画像処理装置、物体認識装置、機器制御システム、画像処理方法およびプログラム |
JP6662388B2 (ja) | 2015-11-27 | 2020-03-11 | 株式会社リコー | 画像処理装置、撮像装置、機器制御システム、分布データ生成方法、及びプログラム |
JP6597792B2 (ja) | 2015-11-30 | 2019-10-30 | 株式会社リコー | 画像処理装置、物体認識装置、機器制御システム、画像処理方法およびプログラム |
JP6547841B2 (ja) | 2015-12-10 | 2019-07-24 | 株式会社リコー | 画像処理装置、物体認識装置、機器制御システム、画像処理方法およびプログラム |
EP3392830B1 (en) | 2015-12-14 | 2023-09-06 | Ricoh Company, Ltd. | Image processing device, object recognition device, apparatus control system, image processing method and program |
WO2017130640A1 (ja) | 2016-01-28 | 2017-08-03 | 株式会社リコー | 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム |
JP6587000B2 (ja) | 2016-01-28 | 2019-10-09 | 株式会社リコー | 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム |
JP6687039B2 (ja) | 2016-02-05 | 2020-04-22 | 株式会社リコー | 物体検出装置、機器制御システム、撮像装置、物体検出方法、及びプログラム |
WO2017154305A1 (ja) | 2016-03-10 | 2017-09-14 | 株式会社リコー | 画像処理装置、機器制御システム、撮像装置、画像処理方法、及び、プログラム |
EP3432265A4 (en) | 2016-03-14 | 2019-03-20 | Ricoh Company, Ltd. | IMAGE PROCESSING DEVICE, DEVICE CONTROL SYSTEM, IMAGE CAPTURE DEVICE, IMAGE PROCESSING METHOD, AND PROGRAM |
WO2017158958A1 (ja) | 2016-03-15 | 2017-09-21 | 株式会社リコー | 画像処理装置、物体認識装置、機器制御システム、画像処理方法およびプログラム |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0375053A2 (de) * | 1988-12-22 | 1990-06-27 | Philips Patentverwaltung GmbH | Schaltungsanordnung zur geometrischen Bildtransformation |
US20040202380A1 (en) * | 2001-03-05 | 2004-10-14 | Thorsten Kohler | Method and device for correcting an image, particularly for occupant protection |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6331862B1 (en) * | 1988-07-06 | 2001-12-18 | Lg Philips Lcd Co., Ltd. | Image expansion display and driver |
JPH09322057A (ja) * | 1996-05-28 | 1997-12-12 | Canon Inc | 撮像装置 |
US6369818B1 (en) * | 1998-11-25 | 2002-04-09 | Be Here Corporation | Method, apparatus and computer program product for generating perspective corrected data from warped information |
JP2002016833A (ja) | 2000-06-28 | 2002-01-18 | Ricoh Co Ltd | 画像入力装置、デジタルカメラ、携帯情報入力装置、画像入力システム、画像入力方法、およびコンピュータが読取可能な記録媒体 |
JP4337081B2 (ja) * | 2002-11-15 | 2009-09-30 | パナソニック株式会社 | フレームメモリアクセス方法及び回路 |
JP4375523B2 (ja) * | 2002-12-20 | 2009-12-02 | 富士ゼロックス株式会社 | 画像処理装置、画像処理方法、画像処理プログラム、印刷物検査装置、印刷物検査方法、印刷物検査プログラム |
US8001455B2 (en) * | 2004-10-14 | 2011-08-16 | Daktronics, Inc. | Translation table |
JP4799009B2 (ja) * | 2005-02-17 | 2011-10-19 | キヤノン株式会社 | 画像処理装置及び方法 |
US7822121B2 (en) * | 2005-03-17 | 2010-10-26 | Lsi Corporation | Method and/or apparatus for implementing global motion compensation in a video system |
US7925860B1 (en) * | 2006-05-11 | 2011-04-12 | Nvidia Corporation | Maximized memory throughput using cooperative thread arrays |
JP4781229B2 (ja) * | 2006-11-01 | 2011-09-28 | キヤノン株式会社 | 歪曲収差補正装置、撮像装置、及び歪曲収差補正装置の制御方法 |
JP2009010730A (ja) * | 2007-06-28 | 2009-01-15 | Kyocera Corp | 画像処理方法と該画像処理方法を用いた撮像装置 |
JP4285575B2 (ja) | 2007-12-10 | 2009-06-24 | ソニー株式会社 | 画像処理装置とカメラシステム及び画像処理方法 |
-
2009
- 2009-09-03 JP JP2009204054A patent/JP5376313B2/ja not_active Expired - Fee Related
-
2010
- 2010-08-06 US US12/805,578 patent/US8570334B2/en not_active Expired - Fee Related
- 2010-08-16 EP EP10172919.2A patent/EP2293240B1/en not_active Not-in-force
- 2010-08-31 CN CN2010102696368A patent/CN102014249B/zh not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0375053A2 (de) * | 1988-12-22 | 1990-06-27 | Philips Patentverwaltung GmbH | Schaltungsanordnung zur geometrischen Bildtransformation |
US20040202380A1 (en) * | 2001-03-05 | 2004-10-14 | Thorsten Kohler | Method and device for correcting an image, particularly for occupant protection |
Also Published As
Publication number | Publication date |
---|---|
US20110050714A1 (en) | 2011-03-03 |
EP2293240A1 (en) | 2011-03-09 |
CN102014249B (zh) | 2013-02-27 |
EP2293240B1 (en) | 2016-09-28 |
US8570334B2 (en) | 2013-10-29 |
JP5376313B2 (ja) | 2013-12-25 |
JP2011055367A (ja) | 2011-03-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102014249B (zh) | 图像处理装置和成像设备 | |
JP3996631B2 (ja) | 画像処理方法、画像記録方法、画像処理装置および画像ファイルフォーマット | |
US20100265353A1 (en) | Image Processing Device, Image Sensing Device And Image Reproduction Device | |
US8009337B2 (en) | Image display apparatus, method, and program | |
US8072511B2 (en) | Noise reduction processing apparatus, noise reduction processing method, and image sensing apparatus | |
CN101489021B (zh) | 图像处理系统和包含该图像处理系统的相机 | |
US8861846B2 (en) | Image processing apparatus, image processing method, and program for performing superimposition on raw image or full color image | |
US20110001846A1 (en) | Image processing device, image processing method recording medium, and program | |
CN101490708B (zh) | 图像处理设备、图像处理方法和程序 | |
US20100277613A1 (en) | Image recording device and image reproduction device | |
US9247168B2 (en) | Imaging device including focusing pixels | |
JP5585885B2 (ja) | 画像処理装置及び画像処理方法 | |
JP4225241B2 (ja) | 画像表示装置 | |
JP4606218B2 (ja) | 歪補正装置 | |
JP2013084124A (ja) | 撮像システム、撮像装置および画像処理方法 | |
JP2012186705A (ja) | 撮像装置 | |
JP4697094B2 (ja) | 画像信号出力装置及びその制御方法 | |
JP5820213B2 (ja) | 画像処理装置及びその方法、撮像装置 | |
JP7357734B2 (ja) | 撮像装置及びその制御方法 | |
JP2013187630A (ja) | 画像処理装置及び方法、並びに撮像装置 | |
JP2006186441A (ja) | 画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20130227 Termination date: 20210831 |