JP4261416B2 - Image processing device - Google Patents
Image processing device Download PDFInfo
- Publication number
- JP4261416B2 JP4261416B2 JP2004136950A JP2004136950A JP4261416B2 JP 4261416 B2 JP4261416 B2 JP 4261416B2 JP 2004136950 A JP2004136950 A JP 2004136950A JP 2004136950 A JP2004136950 A JP 2004136950A JP 4261416 B2 JP4261416 B2 JP 4261416B2
- Authority
- JP
- Japan
- Prior art keywords
- conversion
- value
- image signal
- image processing
- reference voltage
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
この発明は、画像処理装置、特に、最適なデジタル画像信号を用いて画像認識を行う画像処理装置に関するものである。 The present invention relates to an image processing apparatus, and more particularly to an image processing apparatus that performs image recognition using an optimal digital image signal.
従来技術において、画像処理を行うにあたり、コントラストが良好なデジタル画像信号を得る方策は、いくつか提案されている。
その一つは、フレーム画像の全体、あるいは一部の領域より輝度の最大値と最小値を求め、求められた最大値と最小値を基準にして、次フレームの画像信号をA/D変換するものである(例えば、特許文献1参照)。
In the prior art, several methods have been proposed for obtaining a digital image signal with good contrast when performing image processing.
One is that the maximum and minimum luminance values are obtained from the entire frame image or a part of the area, and the image signal of the next frame is A / D converted based on the obtained maximum and minimum values. (For example, refer to Patent Document 1).
上記のような画像処理装置では、輝度の最大値と最小値を求める領域を対象物周辺に限定することができるので、不要な部分の輝度値に影響されず、コントラストを改善することができるが、対象物周辺の明暗差が大きく、かつ必要な対象物の明暗差が小さい場合には、その効果を得ることができない。 In the image processing apparatus as described above, since the region for obtaining the maximum value and the minimum value of the luminance can be limited to the periphery of the object, the contrast can be improved without being influenced by the luminance value of an unnecessary part. When the difference in brightness around the object is large and the difference in brightness of the necessary object is small, the effect cannot be obtained.
例えば、トンネル入り口付近を撮影した画像から白線を認識するような場合、トンネル内部と外部の輝度差は大きく、フレーム画像全体から求めた輝度の最大値と最小値を基準にA/D変換を行っても、それぞれ白つぶれレベルと黒つぶれレベルとなる為コントラストは改善されない。また、輝度の最大値と最小値を求める領域を、トンネル内部、或いは外部に限定すれば、領域内のコントラストは改善され、その領域内の白線認識は容易になるが、領域外のコントラストは劣化し、白線認識は困難になる。 For example, when a white line is recognized from an image taken near the tunnel entrance, the brightness difference between the inside and outside of the tunnel is large, and A / D conversion is performed based on the maximum and minimum brightness values obtained from the entire frame image. However, the contrast is not improved because the level is white and black. In addition, if the area for obtaining the maximum and minimum luminance values is limited to the inside or outside of the tunnel, the contrast in the area is improved and the white line in the area can be easily recognized, but the contrast outside the area is deteriorated. However, white line recognition becomes difficult.
また、車載カメラ映像のように高速移動する動画では、1フレーム後では全く異なる映像となることがあるので、1フレーム前のデータを用いてA/D変換を行っても、良好なコントラストの画像信号を得ることができないという問題点があった。 In addition, a moving image such as an in-vehicle camera image may be a completely different image after one frame, so even if A / D conversion is performed using data one frame before, an image with good contrast is obtained. There was a problem that a signal could not be obtained.
さらに、撮影範囲の明るさが急変するような場合においても、1フレーム前のデータを用いてA/D変換を行っても、良好なコントラストの画像信号を得ることができないという問題点があった。 Furthermore, even when the brightness of the shooting range changes suddenly, there is a problem that an image signal with good contrast cannot be obtained even if A / D conversion is performed using data of the previous frame. .
この発明は、かかる問題点を解決するためになされたもので、対象物周辺の明暗差が大きい場合や、撮影範囲の明るさが急変するような場合でも、画像認識に適したコントラストの良い画像信号を得て、精度の高い画像認識を行える画像処理装置を提供することを目的とする。 The present invention has been made to solve such a problem, and an image having a good contrast suitable for image recognition even when the brightness difference around the object is large or the brightness of the photographing range changes suddenly. An object of the present invention is to provide an image processing apparatus capable of obtaining a signal and performing highly accurate image recognition.
この発明に係る画像処理装置では、入射光を走査して光電変換する撮像手段により得られるアナログ画像信号をデジタル画像信号に変換するためのA/D変換処理手段と、前記A/D変換処理手段で得られたデジタル画像信号に画像処理を施し、対象物の抽出を行う画像処理手段を備えた画像処理装置において、前記A/D変換処理手段におけるA/D変換を行う範囲を決定するために参照される基準値を、画像の1フレームに相当する走査線数よりも小さな所定の走査線数範囲毎に設定するA/D基準値設定手段を具備するものである。 In the image processing apparatus according to the present invention, an A / D conversion processing means for converting an analog image signal obtained by an imaging means for scanning and photoelectrically converting incident light into a digital image signal, and the A / D conversion processing means In the image processing apparatus having the image processing means for performing the image processing on the digital image signal obtained in step (1) and extracting the object, the range for performing the A / D conversion in the A / D conversion processing means is determined. A / D reference value setting means is provided for setting a reference value to be referenced for each predetermined scanning line number range smaller than the number of scanning lines corresponding to one frame of the image.
この発明によれば、対象物周辺の明暗差が大きい場合や、撮影範囲の明るさが急変するような場合でも、画像認識に適したコントラストの良い画像信号を得て、精度の高い画像認識を行える画像処理装置を提供することができる。 According to the present invention, even when there is a large difference in brightness around the object or when the brightness of the shooting range changes suddenly, an image signal with good contrast suitable for image recognition is obtained, and highly accurate image recognition is performed. An image processing apparatus capable of performing the processing can be provided.
実施の形態1.
この発明による実施の形態1を図1から図3までについて説明する。図1は実施の形態1における画像処理装置の構成を示すブロック図である。図2は実施の形態1における前方の走行画像の一例を示す説明図である。図3は図2の領域(a),(b),(c)における輝度ヒストグラムを示す特性線図である。
Embodiment 1 FIG.
A first embodiment of the present invention will be described with reference to FIGS. FIG. 1 is a block diagram showing the configuration of the image processing apparatus according to the first embodiment. FIG. 2 is an explanatory diagram illustrating an example of a forward traveling image according to the first embodiment. FIG. 3 is a characteristic diagram showing a luminance histogram in the regions (a), (b), and (c) of FIG.
図1において、撮像装置1は入射光を光電変換してアナログ画像信号を出力する。A/D基準電圧設定部2はA/D変換時に参照する基準電圧を設定する。A/D変換処理装置3はアナログ画像信号をデジタル画像信号に変換する。画像認識処理装置4はA/D変換処理装置3で得られたデジタル画像信号を用いて画像の認識を行う。
撮像装置1は、CCTV(Closed_Cicuit_Television)用CCDカメラ等で構成され、マトリックス状に配置されたCCD素子等の光電変換要素に入射される入射光を前記マトリックス状に配置されたCCD素子等の光電変換要素につき水平走査および垂直走査を行い光電変換することによりアナログ画像信号を出力するものである。
In FIG. 1, an imaging apparatus 1 photoelectrically converts incident light and outputs an analog image signal. The A / D reference voltage setting unit 2 sets a reference voltage that is referred to during A / D conversion. The A / D
The imaging device 1 is configured by a CCD camera for CCTV (Closed_Cicuit_Television) or the like, and incident light incident on photoelectric conversion elements such as CCD elements arranged in a matrix is subjected to photoelectric conversion such as CCD elements arranged in the matrix. An analog image signal is output by performing horizontal scanning and vertical scanning for each element and performing photoelectric conversion.
撮像装置1で得られるアナログ画像信号は、A/D基準電圧設定部2とA/D変換処理装置3に入力される。
A/D基準電圧設定部2は、入力されたアナログ画像信号の輝度レベルを基に、A/D変換処理装置3で参照する基準電圧の設定を走査線毎に行う。基準電圧は、A/D変換を行う範囲を決定するための電圧であり、範囲の上限を決定する上限基準電圧(High)と、範囲の下限を決定する下限基準電圧(low)の二つの電圧がある。A/D基準電圧設定部2では、走査線毎に適したA/D基準電圧を設定する。
An analog image signal obtained by the imaging device 1 is input to the A / D reference voltage setting unit 2 and the A / D
The A / D reference voltage setting unit 2 sets a reference voltage that is referred to by the A / D
ここで、図2は前方の走行画像の一例で、遠距離領域を(a)、中距離領域を(b)、近距離領域を(c)としている。
通常、路面の反射光は遠方に行けば行く程、全反射に近づいていくため、路面と白線の輝度値は近づき、そのコントラストは低下する。
Here, FIG. 2 shows an example of a forward traveling image, where the long-distance area is (a), the middle-distance area is (b), and the short-distance area is (c).
Normally, the farther away the reflected light from the road surface, the closer to the total reflection, the closer the brightness value between the road surface and the white line becomes, and the contrast decreases.
この図2の(a)領域,(b)領域,(c)領域における輝度ヒストグラムをそれぞれ図3の(a),(b),(c)に示す。Lは路面輝度ヒストグラムの平均値、Hは白線輝度ヒストグラムの平均値である。
このヒストグラムからわかるように、路面と白線の輝度差は前方距離に応じて異なっている。したがって、領域に応じてA/D変換の上限と下限の基準電圧をそれぞれ、(a)領域に相当する走査線ではHa,La、同様に(b)領域においてはHb,Lb、(c)領域においてはHc,Lcと設定する。
Luminance histograms in the regions (a), (b), and (c) of FIG. 2 are shown in FIGS. 3 (a), (b), and (c), respectively. L is the average value of the road surface luminance histogram, and H is the average value of the white line luminance histogram.
As can be seen from this histogram, the difference in luminance between the road surface and the white line differs depending on the forward distance. Therefore, the upper and lower reference voltages of A / D conversion are set according to the area, respectively, for the scanning lines corresponding to area (a), Ha, La, and similarly for area (b), Hb, Lb, (c) area. Is set to Hc, Lc.
この実施の形態1では、A/D変換処理装置3で実行するA/D変換処理における上限と下限の基準電圧を走査線毎に設定する。
領域(a)113に属する1番目の走査線a1では、この走査線a1についてのA/D変換を行うための上限と下限の基準電圧を領域(a)でのコントラストに適応した上限基準電圧Haおよび下限基準電圧Laと設定する。
また、領域(a)113に属する2番目の走査線a2でも、この走査線a2についてのA/D変換を行うための上限と下限の基準電圧を領域(a)でのコントラストに適応した上限基準電圧Haおよび下限基準電圧Laと設定する。
さらに、領域(a)113に属する3番目の走査線a3でも、この走査線a3についてのA/D変換を行うための上限と下限の基準電圧を領域(a)でのコントラストに適応した上限基準電圧Haおよび下限基準電圧Laと設定する。
このように、領域(a)113に属する1〜n番目の走査線a1〜anにおいて、これらの走査線a1〜anについてのA/D変換を行うための上限と下限の基準電圧を走査線1〜an毎に領域(a)でのコントラストに適応した上限基準電圧Haおよび下限基準電圧Laとなるようにそれぞれ設定する。ここで、anは領域(a)113に属する数十本ないし百数十本に達する走査線数を示すものである。
In the first embodiment, the upper and lower reference voltages in the A / D conversion process executed by the A / D
In the first scanning line a1 belonging to the region (a) 113, the upper and lower reference voltages Ha to which the upper and lower reference voltages for performing A / D conversion for the scanning line a1 are adapted to the contrast in the region (a). The lower limit reference voltage La is set.
In the second scanning line a2 belonging to the region (a) 113, the upper and lower reference voltages for applying the upper and lower reference voltages for the A / D conversion for the scanning line a2 to the contrast in the region (a). The voltage Ha and the lower limit reference voltage La are set.
Further, even in the third scanning line a3 belonging to the region (a) 113, the upper and lower reference voltages for applying the upper and lower reference voltages for the A / D conversion for the scanning line a3 to the contrast in the region (a). The voltage Ha and the lower limit reference voltage La are set.
In this way, in the 1st to nth scanning lines a1 to an belonging to the region (a) 113, the upper and lower reference voltages for performing A / D conversion on these scanning lines a1 to an are set to the scanning line 1. Each is set to be an upper limit reference voltage Ha and a lower limit reference voltage La adapted to the contrast in the region (a) for each of an. Here, an indicates the number of scanning lines belonging to the region (a) 113 reaching several tens to hundreds.
そして、領域(a)113と同様に、領域(b)114および領域(c)115においても、それぞれ基準電圧Hb,Lbおよび基準電圧Hc,Lcを用いてA/D変換処理装置3によりA/D変換を実行するものである。 Similarly to the region (a) 113, the region (b) 114 and the region (c) 115 also use the reference voltages Hb and Lb and the reference voltages Hc and Lc, respectively. D conversion is executed.
このように、A/D変換処理装置3では領域(a),領域(b),領域(c)に属する走査線毎に異なるA/D基準電圧を参照してA/D変換を行う。
これにより、どの領域においても白線と路面の輝度差がA/Dレンジの全レンジに相当することになるので、対象物周辺の明暗差が領域によって異なる場合でも、他の領域あるいは走査線の明るさに関わらず、コントラストが良好な画像信号を得ることができる。
As described above, the A / D
As a result, the brightness difference between the white line and the road surface corresponds to the entire range of the A / D range in any region. Therefore, even if the brightness difference around the object varies depending on the region, the brightness of other regions or scanning lines Regardless, it is possible to obtain an image signal with good contrast.
画像認識処理装置4では、A/D変換処理装置3で得られるデジタル画像信号に、二値化やエッジ抽出などの画像処理を施して対象物の認識を行うので、認識率は従来より向上し、信頼性のある結果を得ることができる。
In the image recognition processing device 4, since the digital image signal obtained by the A / D
なお、上記例では領域を3分割したが、特に3分割にこだわるものではない。例えば前方距離に応じて上下限基準電圧を設定しても良いし、走査線毎に、例えばデータテーブルの様な記憶手段を用いて設定してもよい。 In the above example, the area is divided into three, but the area is not particularly divided into three. For example, the upper and lower reference voltages may be set according to the forward distance, or may be set for each scanning line using a storage means such as a data table.
また、上記例においては、領域(a),領域(b),領域(c)に属する走査線毎に異なるA/D基準電圧を参照してA/D変換を行うように記述したが、1走査線毎に異なる上限基準電圧および下限基準電圧を設定してA/D変換処理装置3によりA/D変換を行ってもよい。
In the above example, A / D conversion is described with reference to different A / D reference voltages for each scanning line belonging to the regions (a), (b), and (c). A / D conversion may be performed by the A / D
この発明による実施の形態1によれば、入射光を走査して光電変換するCCDカメラ等で構成される撮像装置1からなる撮像手段と、前記撮像装置1からなる撮像手段により得られるアナログ画像信号をデジタル画像信号に変換するためのA/D変換処理装置3からなるA/D変換処理手段と、前記A/D変換処理装置3からなるA/D変換処理手段で得られたデジタル画像信号に画像処理を施し、対象物の抽出を行う画像認識処理装置4からなる画像処理手段を備えた画像処理装置において、前記A/D変換処理装置3からなるA/D変換処理手段におけるA/D変換を行う範囲を決定するために参照される上限基準電圧Ha,Hb,Hcおよび下限基準電圧La,Lb,Lcからなる基準電圧等の基準値を、1走査線毎、あるいは、所定の領域、すなわち領域(a),領域(b),領域(c)のそれぞれに属する複数走査線毎等の、画像の1フレームに相当する走査線数よりも小さな所定の走査線数範囲毎に設定するA/D基準電圧設定部2からなるA/D基準値設定手段を具備するので、対象物周辺の明暗差が大きい場合や、撮影範囲の明るさが急変するような場合でも、画像認識に適したコントラストの良い画像信号を得て、精度の高い画像認識を行える画像処理装置を提供することができる。
According to the first embodiment of the present invention, an image pickup means including an image pickup apparatus 1 configured by a CCD camera or the like that scans and photoelectrically converts incident light, and an analog image signal obtained by the image pickup means including the image pickup apparatus 1. A / D conversion processing means comprising an A / D
実施の形態2.
この発明による実施の形態2を図4から図8までについて説明する。図4は実施の形態2における画像処理装置の構成を示すブロック図である。図5は実施の形態2における動作を示す説明図である。図6は実施の形態2における動作を示す説明図である。図7は実施の形態2における最大ピーク値検出手段および最小ピーク値検出手段を実現する回路の一例を示す接続図である。図8は実施の形態2におけるピーク値保持手段を実現する回路の一例を示す接続図である。
この実施の形態2において、ここで説明する特有の構成以外の構成については、先に説明した実施の形態1における構成と同一の構成内容を具備し、同様の作用を奏するものである。図中、同一符号は同一または相当部分を示す。
Embodiment 2. FIG.
A second embodiment of the present invention will be described with reference to FIGS. FIG. 4 is a block diagram showing the configuration of the image processing apparatus according to the second embodiment. FIG. 5 is an explanatory diagram showing the operation in the second embodiment. FIG. 6 is an explanatory diagram showing the operation in the second embodiment. FIG. 7 is a connection diagram showing an example of a circuit for realizing the maximum peak value detecting means and the minimum peak value detecting means in the second embodiment. FIG. 8 is a connection diagram showing an example of a circuit for realizing the peak value holding means in the second embodiment.
In the second embodiment, the configuration other than the specific configuration described here has the same configuration contents as the configuration in the first embodiment described above, and exhibits the same operation. In the drawings, the same reference numerals indicate the same or corresponding parts.
図4は、走査線毎に検出した輝度のピーク値を、基準電圧に設定するA/D基準値設定手段を備えた画像処理装置の一例である。 FIG. 4 is an example of an image processing apparatus provided with A / D reference value setting means for setting a luminance peak value detected for each scanning line as a reference voltage.
図4において、撮像装置1は入射光を光電変換してアナログ画像信号を出力する。A/D基準電圧設定部2はA/D変換時に参照する基準電圧を設定する。A/D変換処理装置3はアナログ画像信号をデジタル画像信号に変換する。画像認識処理装置4はA/D変換処理装置3で得られたデジタル画像信号を用いて画像の認識を行う。
この実施の形態2においては、A/D基準電圧設定部2からなるA/D基準値設定手段は、最大ピーク値検出回路10、最大ピーク値保持回路11、最小ピーク値検出回路12、最小ピーク値保持回路13で構成される。
In FIG. 4, the imaging apparatus 1 photoelectrically converts incident light and outputs an analog image signal. The A / D reference voltage setting unit 2 sets a reference voltage that is referred to during A / D conversion. The A / D
In the second embodiment, the A / D reference value setting means including the A / D reference voltage setting unit 2 includes a maximum peak
図5および図6は、この実施の形態2における動作説明図で、あるn番目の走査線における輝度信号211を対象とし、輝度信号211の最大値212および輝度信号211の最小値213が示されている。
FIG. 5 and FIG. 6 are explanatory diagrams of the operation in the second embodiment, and the
最大ピーク値検出回路10は、撮像装置1で得られたアナログ画像信号より、1走査期間中の輝度レベルの上限値、すなわち、最大電圧値を検出する。検出された最大電圧値は、最大ピーク値保持回路11で、1走査期間保持され、保持された電圧値がA/D変換処理装置3の上限基準電圧(High)に入力される。最小ピーク値検出手段回路は、撮像装置1で得られたアナログ画像信号から、1走査期間中の輝度レベルの下限値、すなわち、最小電圧値を検出する。検出された最小電圧値は、最小ピーク値保持回路13で、1走査期間保持され、保持された電圧値がA/D変換装置3の下限基準電圧(Low)に入力される。
A/D変換装置3では、入力された映像信号を、上述のA/D基準電圧設定部2で設定された上限基準電圧(High)と、下限基準電圧(Low)の間でA/D変換し、階調を有効に利用したデジタル画像信号を1走査線毎に出力する。
The maximum peak
In the A /
この様子を図5および図6に示す。図5はn番目の走査線における輝度信号出力の模式図である。
上述の動作によれば、最大ピーク値検出回路10でその最大値212が検出され、最小ピーク値検出回路12で最小値213が検出される。したがって、この2つの値を上下限基準電圧に設定することで、白線と路面のコントラストを最大限に生かし、なおかつ実施の形態1で述べた方法に比べ、各走査線毎に基準電圧を設定できるので映像の急変にも適応することが可能になる。
ただし、最大値、最小値の検出は1ライン分の信号をすべてサーチした後にしか得られないので設定値は1Hデイレイすることになる。
This state is shown in FIGS. FIG. 5 is a schematic diagram of luminance signal output in the nth scanning line.
According to the above-described operation, the maximum peak
However, since the maximum value and the minimum value can be detected only after searching all the signals for one line, the set value is delayed by 1H.
この様子を図6に示す。図6においてn−1ラインに対しA/D変換基準電圧設定部2で検出された最大値n−1と最小値n−1は、撮像装置1がnライン目を出力するタイミングで設定され、これら2つの値は1H期間保持されることから、nラインの信号に対して、n−1ラインの最大電圧値、最小電圧値でA/D変換されることになる。映像では1フレーム内における隣合う走査線の類似性が高いという性質を持つため、上述の設定方法で、1走査線毎に明るさが異なるような空間周波数の高い急激な映像変化がない限り問題なく対応できる。 This is shown in FIG. In FIG. 6, the maximum value n−1 and the minimum value n−1 detected by the A / D conversion reference voltage setting unit 2 for the n−1 line are set at the timing at which the imaging device 1 outputs the nth line. Since these two values are held for 1H period, A / D conversion is performed on the n-line signal with the maximum voltage value and the minimum voltage value of the n-1 line. Since video has the property that the similarity between adjacent scanning lines within one frame is high, there is a problem unless there is a sudden change in video with a high spatial frequency such that the brightness differs for each scanning line in the above setting method. It can respond without any problems.
なお、最大ピーク値検出回路10および最小ピーク値検出回路12は、図7に示す簡単な回路構成で実現できる。図中のクリア信号は、水平同期信号を流用することで簡単に実現できる。
また、ピーク値保持回路11,13についても、図8に示す簡単な回路構成で実現でき、図中のスイッチのOn/Offについても水平同期信号が流用できる。
また、上述の例では、1走査線毎について説明したが、複数の走査線毎でもよい。
The maximum peak
Further, the peak
In the above example, each scanning line has been described, but a plurality of scanning lines may be used.
この発明による実施の形態2によれば、実施の形態1における構成において、前記A/D基準電圧設定部2からなるA/D基準値設定手段は、前記撮像装置1からなる撮像手段により得られるアナログ画像信号について少なくとも1走査線毎に輝度の最大ピーク値を検出する最大ピーク検出回路10からなる最大ピーク検出手段と、前記撮像装置1からなる撮像手段により得られるアナログ画像信号について少なくとも1走査線毎、すなわち1走査線毎または複数走査線毎に、輝度の最小ピーク値を検出する最小ピーク値検出回路12からなる最小ピーク値検出手段と、それぞれのピーク値を所定の時間保持する最大ピーク保持回路11からなる最大ピーク値保持手段と最小ピーク値保持回路13からなる最小ピーク値保持手段とを有し、前記最大ピーク保持回路11からなる最大ピーク値保持手段と最小ピーク値保持回路13からなる最小ピーク値保持手段とにより保持された保持された最大ピーク値と最小ピーク値を前記A/D変換装置3からなるA/D変換処理手段の上限基準電圧および下限基準電圧等の基準値として設定するようにしたので、A/D変換処理手段の基準値を適切に設定することにより、対象物周辺の明暗差が大きい場合や、撮影範囲の明るさが急変するような場合でも、画像認識に適したコントラストの良い画像信号を得て、精度の高い画像認識を行える画像処理装置を提供することができる。
According to the second embodiment of the present invention, in the configuration of the first embodiment, the A / D reference value setting means including the A / D reference voltage setting unit 2 is obtained by the imaging means including the imaging device 1. The maximum peak detection means comprising a maximum
実施の形態3.
この発明による実施の形態3を図9および図10について説明する。図9は実施の形態3における画像処理装置の構成を示すブロック図である。図10は実施の形態3における動作を示す説明図である。
この実施の形態3において、ここで説明する特有の構成以外の構成については、先に説明した実施の形態1および実施の形態2における構成と同一の構成内容を具備し、同様の作用を奏するものである。図中、同一符号は同一または相当部分を示す。
A third embodiment of the present invention will be described with reference to FIGS. FIG. 9 is a block diagram showing the configuration of the image processing apparatus according to the third embodiment. FIG. 10 is an explanatory diagram showing the operation in the third embodiment.
In the third embodiment, the configuration other than the specific configuration described here has the same configuration contents as the configurations in the first and second embodiments described above and exhibits the same operation. It is. In the drawings, the same reference numerals indicate the same or corresponding parts.
図9は、走査線毎に検出した輝度のピーク値を基準電圧に設定するA/D基準値設定手段と、A/D変換処理手段に入力するアナログ画像信号を1走査期間遅延させる遅延手段を備えた画像処理装置の一例である。 FIG. 9 shows A / D reference value setting means for setting a peak value of luminance detected for each scanning line as a reference voltage, and delay means for delaying an analog image signal input to the A / D conversion processing means by one scanning period. 1 is an example of an image processing apparatus provided.
図9において、撮像装置1は入射光を光電変換してアナログ画像信号を出力する。A/D基準電圧設定部2はA/D変換時に参照する基準電圧を設定する。A/D変換処理装置3はアナログ画像信号をデジタル画像信号に変換する。画像認識処理装置4はA/D変換処理装置3で得られたデジタル画像信号を用いて画像の認識を行う。
この実施の形態3においては、A/D基準電圧設定部2からなるA/D基準値設定手段は、最大ピーク値検出回路10、最大ピーク値保持回路11、最小ピーク値検出回路12、最小ピーク値保持回路13で構成される。そして、遅延回路5からなる遅延手段が設けられている。
In FIG. 9, the imaging device 1 photoelectrically converts incident light and outputs an analog image signal. The A / D reference voltage setting unit 2 sets a reference voltage that is referred to during A / D conversion. The A / D
In the third embodiment, the A / D reference value setting means including the A / D reference voltage setting unit 2 includes a maximum peak
遅延回路5からなる遅延手段は、撮像装置1から得られたアナログ画像信号を、1走査期間遅延させる。
遅延回路5で、1走査期間遅延させたアナログ画像信号は、A/D変換装置3に入力される。A/D変換装置3では、A/D基準電圧設定部2で設定された基準電圧を参照して、遅延回路5から入力されたアナログ画像信号のA/D変換を行う。
The delay means including the
The analog image signal delayed by one scanning period by the
この様子を図10に示す。例えば、撮像装置1のnライン目の出力が、A/D基準電圧設定部2と遅延回路5に同時に入力されたとする。
A/D基準電圧設定部2では、1Hの期間で最大値nと最小値nを検出する。そして、撮像装置1がn+1ライン目の出力を出している間、最大ピーク値保持回路11と最小ピーク値保持回路13で、その値が保持される。
一方、遅延回路5では、撮像装置1がn+1ライン目の信号を出力する時に、1H遅延されたnライン目の信号が出力される。従って、A/D変換処理装置3への入力は、上限基準電圧(High)が最大値n、下限基準電圧(Low)が最小値nとなり、信号入力がnラインの映像値号となる。
すなわち、基準電圧の設定に用いたアナログ画像信号と、A/D変換に用いるアナログ画像信号は、同じ走査線上のものを用いて行うことができるので、画面が急変するような場合でも、走査線毎にコントラストの良好なデジタル画像信号を得ることができる。
なお、遅延回路5については、CCD遅延素子等を用いて容易に実現できる。
また、上述の例では、1走査線毎について説明したが。複数の走査線毎でもよく、この場合は、遅延回路5の遅延値は、複数の走査線分の遅延量となる。
This is shown in FIG. For example, it is assumed that the output of the nth line of the imaging device 1 is simultaneously input to the A / D reference voltage setting unit 2 and the
The A / D reference voltage setting unit 2 detects the maximum value n and the minimum value n in the period of 1H. While the imaging apparatus 1 outputs the (n + 1) th line, the maximum peak
On the other hand, in the
In other words, the analog image signal used for setting the reference voltage and the analog image signal used for A / D conversion can be performed on the same scanning line, so even if the screen changes suddenly, the scanning line A digital image signal with good contrast can be obtained every time.
The
In the above example, each scanning line has been described. In this case, the delay value of the
この発明による実施の形態3によれば、実施の形態1または実施の形態2における構成において、前記A/D変換装置3からなるA/D変換処理手段でA/D変換に用いるアナログ画像信号は、遅延回路5からなる遅延手段により、少なくとも1走査期間遅延させるようにしたので、アナログ画像信号を適切に処理し、対象物周辺の明暗差が大きい場合や、撮影範囲の明るさが急変するような場合でも、画像認識に適したコントラストの良い画像信号を得て、精度の高い画像認識を行える画像処理装置を提供することができる。
According to the third embodiment of the present invention, in the configuration of the first or second embodiment, the analog image signal used for A / D conversion by the A / D conversion processing means including the A /
実施の形態4.
この発明による実施の形態4を図11および図12について説明する。図11は実施の形態4における画像処理装置の構成を示すブロック図である。図12は実施の形態4における動作を示す説明図である。
この実施の形態4において、ここで説明する特有の構成以外の構成については、先に説明した実施の形態1から実施の形態3までにおける構成と同一の構成内容を具備し、同様の作用を奏するものである。図中、同一符号は同一または相当部分を示す。
Embodiment 4 FIG.
A fourth embodiment of the present invention will be described with reference to FIGS. FIG. 11 is a block diagram showing the configuration of the image processing apparatus according to the fourth embodiment. FIG. 12 is an explanatory diagram showing the operation in the fourth embodiment.
In the fourth embodiment, the configuration other than the specific configuration described here has the same configuration contents as those in the first to third embodiments described above, and has the same operation. Is. In the drawings, the same reference numerals indicate the same or corresponding parts.
実施の形態2では、アナログ信号より最大値と最小値を求めていたが、この実施の形態4では、デジタル信号で行う場合の例を述べる。
図11は、所定の基準電圧を参照してA/D変換を行い、得られた結果を用いて基準電圧を設定するA/D基準値設定手段を備えた画像処理装置の一例である。
In the second embodiment, the maximum value and the minimum value are obtained from the analog signal. In the fourth embodiment, an example in which the digital signal is used will be described.
FIG. 11 shows an example of an image processing apparatus including A / D reference value setting means for performing A / D conversion with reference to a predetermined reference voltage and setting the reference voltage using the obtained result.
図11において、撮像装置1は入射光を光電変換してアナログ画像信号を出力する。A/D基準電圧設定装置2はA/D変換時に参照する基準電圧を設定する。A/D変換処理装置3はアナログ画像信号をデジタル画像信号に変換する。画像認識処理装置4はA/D変換処理装置3で得られたデジタル画像信号を用いて画像の認識を行う。
この実施の形態4においては、A/D基準電圧設定装置2は、基準電圧設定用A/D変換部21と、基準値設定部22で構成される。
ここで、実施の形態1との違いは、A/D基準電圧設定装置2の構成が、基準電圧設定用A/D変換部21と基準値設定部22で構成されている点にある。すなわち、図2のアナログ処理による構成をデジタル処理で実現したものである。
In FIG. 11, the imaging device 1 photoelectrically converts incident light and outputs an analog image signal. The A / D reference voltage setting device 2 sets a reference voltage that is referred to during A / D conversion. The A / D
In the fourth embodiment, the A / D reference voltage setting device 2 includes a reference voltage setting A /
Here, the difference from the first embodiment is that the configuration of the A / D reference voltage setting device 2 includes a reference voltage setting A /
基準電圧設定用A/D変換部21は、撮像装置1で得られたアナログ画像信号を、所定の基準電圧でA/D変換し、得られるデジタル画像信号を基準電圧設定部22に入力する。基準電圧設定部22では、入力されたデジタル画像信号の1走査期間中のデータより最大値と最小値を求め、求められた最大値の輝度レベルに相当する電圧をA/D変換処理装置3の上限基準電圧(High)に設定し、求められた最小値の輝度レベルに相当する電圧をA/D変換装置3の下限基準電圧(Low)に設定する。
The reference voltage setting A /
この様子を図12に示す。以下ではまず、最大値を求める方法について述べる。ここで比較器411は値の大きい方を検出する。ラッチ421によりパルスが入力されるとその値がラッチされる。D/A変換回路413は、このラッチされた信号をA/D変換するものである。
A/D変換器21で量子化された信号は、図12のAに入力され比較器411でBの信号と比較される。Bはその走査線が始まる前に、0でクリアされている。このクリアのタイミニグは、例えば、水平同期信号でクリアすればよい。
次に、比較器411の出力CはBの出力ヘフイードバックされ、次のA/D信号と比較され、AとBのうち、大きい方が出力される。この動作を1H期間繰り返せば、その間の最大値を求めることができる。そして、次の走査線の信号が出力される前、例えば水平同期信号でラッチすれば、その値が保持され、これをD/A変換することで、次段のA/D変換処理装置3の上限基準信号(High)が得られる。最小値の場合は、あらかじめ0でクリアするのではなく、入力される信号が表現できる最も大きな値をセットし、比較算出力を小さい方とすることで、容易に実現できる。
This is shown in FIG. In the following, a method for obtaining the maximum value will be described first. Here, the comparator 411 detects the larger value. When a pulse is input by the latch 421, the value is latched. The D /
The signal quantized by the A /
Next, the output C of the comparator 411 is fed back to the output of B and compared with the next A / D signal, and the larger one of A and B is output. If this operation is repeated for 1H period, the maximum value during that period can be obtained. If the signal is latched with, for example, a horizontal synchronization signal before the signal of the next scanning line is output, the value is held, and this value is D / A converted so that the A / D
このように、1走査線上の最大輝度レベルと最小輝度レベルの間のみがA/D変換されるようにA/D変換装置3の上下限基準電圧を設定するので、撮像装置1より入力されたアナログ画像信号をA/D変換するA/D変換装置3は、階調を有効に利用したデジタル画像信号を1走査線毎に出力することができる。
なお、上述の例では、1走査線毎について説明したが、複数の走査線毎でもよく、この場合はラッチ回路のクリアパルスを上記複数走査線分毎に入力すればよい。
As described above, the upper / lower limit reference voltage of the A /
In the above example, each scanning line has been described. However, it may be a plurality of scanning lines. In this case, a clear pulse of the latch circuit may be input for each of the scanning lines.
この発明による実施の形態4によれば、実施の形態1における構成において、前記A/D基準電圧設定装置2からなるA/D基準値設定手段は、前記撮像装置1からなる撮像手段により得られるアナログ画像信号をデジタル画像信号に変換するための基準電圧設定用A/D変換部21からなる基準値設定用A/D変換手段を有し、前記基準電圧設定用A/D変換部21からなる基準値設定用A/D変換手段により得られたデジタル画像信号から、基準電圧設定部22により、少なくとも1走査線毎、すなわち1走査線毎または複数走査線毎に、輝度の最大値と最小値を検出し、検出された値を用いて前記A/D変換処理手段の上限基準電圧および下限基準電圧等の基準値を設定するようにしたので、デジタル信号を用いてA/D変換処理手段の基準値を設定し、対象物周辺の明暗差が大きい場合や、撮影範囲の明るさが急変するような場合でも、画像認識に適したコントラストの良い画像信号を得て、精度の高い画像認識を行える画像処理装置を提供することができる。
According to the fourth embodiment of the present invention, in the configuration of the first embodiment, the A / D reference value setting means comprising the A / D reference voltage setting device 2 is obtained by the imaging means comprising the imaging device 1. Reference value setting A / D conversion means comprising a reference voltage setting A /
実施の形態5.
この発明による実施の形態5を図13について説明する。図13は実施の形態5における画像処理装置の構成を示すブロック図である。
この実施の形態5において、ここで説明する特有の構成以外の構成については、先に説明した実施の形態1から実施の形態4までにおける構成と同一の構成内容を具備し、同様の作用を奏するものである。図中、同一符号は同一または相当部分を示す。
A fifth embodiment of the present invention will be described with reference to FIG. FIG. 13 is a block diagram showing the configuration of the image processing apparatus according to the fifth embodiment.
In the fifth embodiment, the configuration other than the specific configuration described here has the same configuration contents as those in the first to fourth embodiments described above, and exhibits the same operation. Is. In the drawings, the same reference numerals indicate the same or corresponding parts.
実施の形態3では、アナログ信号より最大値と最小値を求め、アナログの遅延手段を用いていたが、この実施の形態5では、デジタル信号で行う場合の例を述べる。
図13は、所定の基準電圧を参照してA/D変換を行った結果を用いて基準電圧を設定するA/D基準値設定手段2と、A/D変換処理装置3に入力するアナログ画像信号を1走査期間遅延させる遅延手段を備えた画像処理装置の一例である。
In the third embodiment, the maximum value and the minimum value are obtained from the analog signal and the analog delay means is used. In the fifth embodiment, an example in which the digital signal is used will be described.
FIG. 13 shows an A / D reference value setting means 2 for setting a reference voltage using a result of A / D conversion with reference to a predetermined reference voltage, and an analog image input to the A / D
図13において、撮像装置1は入射光を光電変換してアナログ画像信号を出力する。A/D基準電圧設定部2はA/D変換時に参照する基準電圧を設定する。A/D変換処理装置3はアナログ画像信号をデジタル画像信号に変換する。画像認識処理装置4はA/D変換処理装置3で得られたデジタル画像信号を用いて画像の認識を行う。
この実施の形態5においては、A/D基準電圧設定装置2は、基準電圧設定用A/D変換部21と、基準値設定部22で構成される。そして、遅延回路5からなる遅延手段が設けられている。
In FIG. 13, the imaging device 1 photoelectrically converts incident light and outputs an analog image signal. The A / D reference voltage setting unit 2 sets a reference voltage that is referred to during A / D conversion. The A / D
In the fifth embodiment, the A / D reference voltage setting device 2 includes a reference voltage setting A /
遅延回路5は、撮像装置1から得られたアナログ画像信号を、1走査期間遅延させる。この遅延回路5については、実施の形態3で述べたように、CCD遅延素子等を用いて容易に実現できる。
遅延回路5で、1走査期間遅延させたアナログ画像信号は、A/D変換処理装置3に入力される。A/D変換処理装置3では、A/D基準電圧設定装置2で設定された基準電圧を参照して、遅延回路5から入力されたアナログ画像信号のA/D変換を行う。
The
The analog image signal delayed by one scanning period by the
すなわち、基準電圧の設定に用いたアナログ画像信号と、A/D変換に用いるアナログ画像信号は、同じ走査線上のものを用いて行うことができるので、画面が急変するような場合でも、走査線毎にコントラストの良好なデジタル画像信号を得ることができる。
また、上述の例では、1走査繚毎について説明したが、複数の走査線毎でもよく、この場合は、遅延手段5の遅延量は、複数の走査線分の遅延量となる。
In other words, the analog image signal used for setting the reference voltage and the analog image signal used for A / D conversion can be performed on the same scanning line, so even if the screen changes suddenly, the scanning line A digital image signal with good contrast can be obtained every time.
In the above-described example, the description has been made for each scanning line, but it may be performed for each of a plurality of scanning lines. In this case, the delay amount of the delay means 5 is a delay amount for a plurality of scanning lines.
この発明による実施の形態5によれば、前記A/D変換処理装置3からなるA/D変換処理手段において、前記基準電圧設定用A/D変換部21からなる基準値設定用A/D変換手段を有するA/D基準電圧設定装置2による基準値設定後のA/D変換に用いるアナログ画像信号は、遅延回路5からなる遅延手段により、少なくとも1走査期間遅延させるようにしたので、デジタル信号を用いてA/D変換処理手段の基準値を設定するとともに、アナログ画像信号を適切に処理し、対象物周辺の明暗差が大きい場合や、撮影範囲の明るさが急変するような場合でも、画像認識に適したコントラストの良い画像信号を得て、精度の高い画像認識を行える画像処理装置を提供することができる。
According to the fifth embodiment of the present invention, in the A / D conversion processing means including the A / D
実施の形態6.
この発明による実施の形態6を図14および図15について説明する。図14は実施の形態6における画像処理装置の構成を示すブロック図である。図15は実施の形態6における動作を示す説明図である。
この実施の形態6において、ここで説明する特有の構成以外の構成については、先に説明した実施の形態1から実施の形態5までにおける構成と同一の構成内容を具備し、同様の作用を奏するものである。図中、同一符号は同一または相当部分を示す。
Embodiment 6 FIG.
A sixth embodiment according to the present invention will be described with reference to FIGS. FIG. 14 is a block diagram showing the configuration of the image processing apparatus according to the sixth embodiment. FIG. 15 is an explanatory diagram showing the operation in the sixth embodiment.
In the sixth embodiment, the configuration other than the specific configuration described here has the same configuration contents as those in the first to fifth embodiments described above, and exhibits the same operation. Is. In the drawings, the same reference numerals indicate the same or corresponding parts.
図14は、画像認識手段4で認識された対象物の輝度レベルを参照して基準電圧を設定するA/D基準値設定手段を備えた画像処理装置の一例である。 FIG. 14 is an example of an image processing apparatus provided with A / D reference value setting means for setting a reference voltage with reference to the luminance level of the object recognized by the image recognition means 4.
図14において、撮像装置1は入射光を光電変換してアナログ画像信号を出力する。A/D基準電圧設定装置2はA/D変換時に参照する基準電圧を設定する。A/D変換処理装置3はアナログ画像信号をデジタル画像信号に変換する。画像認識処理装置4はA/D変換処理装置3で得られたデジタル画像信号を用いて画像の認識を行う。
この実施の形態6においては、A/D基準電圧設定装置2は、基準電圧設定用A/D変換部21と、画像処理結果より求められた最大値、あるいは最小値を、A/D変換の上下限基準電圧に設定する基準電圧設定部23で構成される。画像認識処理装置6は、A/D変換処理装置3の上下限基準電圧設定用の信号を出力する設定値出力部30を含む構成とする。
In FIG. 14, the imaging apparatus 1 photoelectrically converts incident light and outputs an analog image signal. The A / D reference voltage setting device 2 sets a reference voltage that is referred to during A / D conversion. The A / D
In the sixth embodiment, the A / D reference voltage setting device 2 uses the reference voltage setting A /
画像認識処理装置6に設けられた設定値出力手段30は、認識された対象物が走査線上にある場合、その走査線上、あるいは対象領域内での対象物の輝疫レベルを検出し、画像処理上都合の良い上限設定値と下限設定値を求める。ここで、画像処理上部合の良い上限設定値とは、例えば、対象の走査線、あるいは領域内の最大輝度値に所定の値を加えたものとする。同様に画像処理上都合の良い下限設定値とは、対象の走査線、あるいは領域内の最小輝度値より所定の値を減じたものとする。
このようにして求められた上限設定値と下限設定値は、基準電圧設定部23に入力される。この基準電圧設定部23では、入力された上限設定値値をA/D変換処理装置3の上限基準電圧(High)にし、下限設定値を下限基準電圧(Low)に設定する。
When the recognized object is on the scanning line, the set value output means 30 provided in the image recognition processing device 6 detects the brightening level of the object on the scanning line or in the target area, and performs image processing. Find the upper and lower limit settings that are convenient for you. Here, the good upper limit setting value for the upper part of the image processing is, for example, a value obtained by adding a predetermined value to the maximum luminance value in the target scanning line or region. Similarly, the lower limit setting value that is convenient for image processing is a value obtained by subtracting a predetermined value from the minimum luminance value in the target scanning line or region.
The upper limit set value and the lower limit set value obtained in this way are input to the reference
この様子を図15に示す。例えば、輝度出力部30から出力された上限設定値と下限設定値がデジタル値の場合、それぞれラッチ回路23a,23bでラッチされ、その後D/A変換器23c,23dでD/A変換される。この上限設定値と下限設定値の2つのD/A値が、A/D変換の上下限基準電圧としてA/D変換処理装置3に入力される。
このように、走査線上に対象物が存在した場合は、対象物の最大輝度レベル近辺と最小輝度レベル近辺の間のみがA/D変換されるように基準電圧を設定するので、撮像装置1より入力されたアナログ画像信号をA/D変換するA/D変換処理装置3では、対象物の階調を有効に利用したデジタル画像信号を1走査線毎に出力することができる。画像認識処理装置6では、このデジタル画像信号に、二値化やエッジ抽出などの画像処理を施して、対象物の認識を行うので、認識率は従来より向上し、信頼性のある結果を得ることができる。
This is shown in FIG. For example, when the upper limit set value and the lower limit set value output from the
As described above, when the object is present on the scanning line, the reference voltage is set so that only A / D conversion is performed between the vicinity of the maximum luminance level and the vicinity of the minimum luminance level of the object. The A / D
この発明による実施の形態6によれば、実施の形態1における構成において、前記A/D基準電圧設定装置2からなるA/D基準値設定手段は、前記画像認識処理装置6からなる画像処理手段で検出された輝度値出力部30からの対象物の輝度値を基に前記A/D変換処理装置3からなるA/D変換処理手段の上限基準電圧および下限基準電圧等の基準値を設定するようにしたので、対象物の輝度値を用いてA/D変換処理手段の基準値を設定し、対象物周辺の明暗差が大きい場合や、撮影範囲の明るさが急変するような場合でも、画像認識に適したコントラストの良い画像信号を得て、精度の高い画像認識を行える画像処理装置を提供することができる。
According to the sixth embodiment of the present invention, in the configuration of the first embodiment, the A / D reference value setting means comprising the A / D reference voltage setting device 2 is an image processing means comprising the image recognition processing device 6. Based on the luminance value of the object from the luminance
実施の形態7.
この発明による実施の形態7を図16について説明する。図16は実施の形態7における特性を従来技術と比較して示す特性線図である。
この実施の形態7において、ここで説明する特有の構成以外の構成については、先に説明した実施の形態1から実施の形態6までにおける構成と同一の構成内容を具備し、同様の作用を奏するものである。図中、同一符号は同一または相当部分を示す。
Embodiment 7 FIG.
A seventh embodiment of the present invention will be described with reference to FIG. FIG. 16 is a characteristic diagram showing the characteristics of the seventh embodiment in comparison with the prior art.
In the seventh embodiment, the configuration other than the specific configuration described here has the same configuration contents as those in the first to sixth embodiments described above, and has the same effect. Is. In the drawings, the same reference numerals indicate the same or corresponding parts.
以上、実施の形態1から実施の形態6までに述べた構成は、撮像装置1の入力輝度ダイナミックレンジが広い場合に特に有効となる。
この実施の形態7では、実施の形態1から実施の形態6までにおける構成において入出力特性に非線形特性を持たせた広い明暗差を撮像できる入力輝度ダイナミックレンジが広い撮像装置1からなる撮像手段を用いたものについて説明する。
As described above, the configurations described in the first to sixth embodiments are particularly effective when the input device has a wide input luminance dynamic range.
In the seventh embodiment, there is provided an imaging means including the imaging device 1 having a wide input luminance dynamic range capable of imaging a wide contrast difference in which the input / output characteristics have a nonlinear characteristic in the configuration in the first to sixth embodiments. What was used will be described.
図16は、入力輝度ダイナミックレンジが広い撮像手段と従来の撮像手段の人出力特性図で、横軸が撮像手段に入力される輝度、縦軸が撮像手段の出力を示す。ここで、従来の撮像手段の人出力特性701、入力輝度ダイナミックレンジが広い撮像手段の入出力特性702が示されている。また、撮像対象の最小輝度値aが703として示され、撮像対象の最大輝度値bが704として示されている。そして、従来の撮像手段の入出力特性に従うaとbの出力差(コントラスト)705、入力輝度ダイナミックレンジが広い撮像手段の人出力特性に従うaとbの出力差(コントラスト)706、従来のA/D変換レンジ707、この発明に従うA/D変換レンジ708が示されている。
FIG. 16 is a human output characteristic diagram of an imaging unit having a wide input luminance dynamic range and a conventional imaging unit, where the horizontal axis indicates the luminance input to the imaging unit and the vertical axis indicates the output of the imaging unit. Here, a human output characteristic 701 of the conventional imaging means and an input /
図に示すように、従来特性701においては、その入力輝度ダイナミックレンジが狭い代わりに、例えば、撮像対象の上下限輝度値a、bのコントラストは大きい(705)。 一方、入力輝度ダイナミックレンジが広い撮像手段の入出力特性702においては、その入力輝度ダイナミックレンジが広い代わりわりに、撮像対象の上下限輝度値a、bのコントラストは小さい(706)。画像処理では、輝度差が存在することが大前提であり、広いダイナミックレンジの撮像手段では、従来に比べてその輝度差が小さいため、画像処理上不利になることは否めない。
As shown in the figure, in the conventional characteristic 701, instead of the input luminance dynamic range being narrow, for example, the contrast of the upper and lower limit luminance values a and b to be imaged is large (705). On the other hand, in the input /
この発明によれば、従来のA/D変換レンジ707を適用するわけではなく、対象の最小輝度aと最大輝度bに相当する電圧をA/D変換の上下限基準電圧に設定する。このように設定した場合、入力輝度ダイナミックレンジが広い撮像手段による輝度差706は、A/D変換レンジ708でA/D変換されるため、A/D変換器のBit数をほぼフルに使って量子化される。
例えば、A/D変換器のBit数が8Bitであった場合、従来のA/D変換レンジ707で輝度差706をA/D変換した場合は、その最大分解能256の一部でしか表現できないが、この発明のA/D変換レンジ708で変換した場合には、最大値256にほぼ近い分解能で表現できる。
According to the present invention, the conventional A /
For example, if the number of bits of the A / D converter is 8 bits, and the
この発明による実施の形態7によれば、実施の形態1から実施の形態6までのいずれかの構成において、前記撮像装置1からなる撮像手段は、入出力特性に非線形特性を持たせた広い明暗差を撮像できる広ダイナミックレンジ撮像手段であることを特徴とするので、対象物周辺の明暗差が大きい場合や、撮影範囲の明るさが急変するような場合でも、画像認識に適したコントラストの良い画像信号を得て、精度の高い画像認識を行えるとともに、高分解能を確保できる画像処理装置を提供することができる。 According to the seventh embodiment of the present invention, in any configuration from the first to sixth embodiments, the image pickup means including the image pickup apparatus 1 has a wide contrast with a non-linear characteristic in the input / output characteristic. Since it is a wide dynamic range imaging means that can capture the difference, it has good contrast suitable for image recognition even when the brightness difference around the object is large or the brightness of the shooting range changes suddenly It is possible to provide an image processing apparatus that can obtain an image signal and perform high-accuracy image recognition and ensure high resolution.
この発明による実施の形態では、次の(1)〜(6)項に記載した構成が提案されている。
(1)入射光を光電変換する撮像手段と、前記撮像手段から得られるアナログ画像信号をデジタル画像信号に変換するためのA/D変換処理手段と、前記A/D変換処理手段で得られたデジタル画像信号に画像処理を施し、対象物の抽出を行う画像処理手段を備えた画像処理装置において、前記A/D変換の手段の前段に、A/D変換時に参照する基準電圧を、走査線毎あるいは領域毎に設定するA/D基準値設定手段を具備することを特徴とした画像処理装置。
(2)前記A/D基準値設定手段は、前記撮像手段より得られるアナログ画像信号より、少なくとも1走査線毎に輝度の最大ピーク値を検出する最大ピーク検出手段と、最小ピーク値を検出する最小ピーク値検出手段と、それぞれのピーク値を所定の時間保持する最大ピーク値保持手段と最小ピーク値保持手段とからなり、保持された最大ピーク値と最小ピーク値をA/D変換処理手段の基準電圧に設定することを特徴とした(1)項記載の画像処理装置。
(3)前記A/D変換処理手段において、A/D変換に用いるアナログ画像信号は、少なくとも1走査期間遅延させることを特徴とした(2)項記載の画像処理装置。
(4)前記A/D基準値設定手段は、まず、所定の基準電圧を用いてA/D変換を行い、得られたデジタル画像信号より、少なくとも1走査線毎に輝度の最大値と最小値を検出し、検出された値を用いてA/D変換処理手段の基準電圧を設定することを特徴とした(1)項記載の画像処理装置。
(5)前記A/D変換処理手段において、基準電圧設定後のA/D変換に用いるアナログ画像信号は、少なくとも1走査期間遅延させることを特徴とした(4)項記載の画像処理装置。
(6)前記A/D基準値設定手段は、前記画像処理手段で検出された対象物の輝度値を基にA/D変換処理手段の基準電圧を設定することを特徴とした(1)項記載の画像処理装置。
In the embodiment according to the present invention, the configurations described in the following items (1) to (6) are proposed.
(1) Obtained by an imaging means for photoelectrically converting incident light, an A / D conversion processing means for converting an analog image signal obtained from the imaging means into a digital image signal, and the A / D conversion processing means In an image processing apparatus having image processing means for performing image processing on a digital image signal and extracting an object, a reference voltage to be referred to at the time of A / D conversion is set to a scanning line before the A / D conversion means. An image processing apparatus comprising A / D reference value setting means for setting for each area or for each area.
(2) The A / D reference value setting means detects, from the analog image signal obtained from the imaging means, a maximum peak detecting means for detecting a maximum peak value of luminance at least for each scanning line, and a minimum peak value. It comprises a minimum peak value detecting means, a maximum peak value holding means for holding each peak value for a predetermined time, and a minimum peak value holding means, and the stored maximum peak value and minimum peak value are stored in the A / D conversion processing means. The image processing apparatus according to item (1), wherein the image processing apparatus is set to a reference voltage.
(3) The image processing apparatus according to (2), wherein the analog image signal used for A / D conversion is delayed by at least one scanning period in the A / D conversion processing means.
(4) The A / D reference value setting means first performs A / D conversion using a predetermined reference voltage, and from the obtained digital image signal, the maximum value and the minimum value of luminance at least for each scanning line. And the reference voltage of the A / D conversion processing means is set using the detected value. The image processing apparatus according to item (1),
(5) The image processing apparatus according to (4), wherein in the A / D conversion processing means, an analog image signal used for A / D conversion after setting a reference voltage is delayed by at least one scanning period.
(6) The A / D reference value setting means sets the reference voltage of the A / D conversion processing means based on the luminance value of the object detected by the image processing means (1) The image processing apparatus described.
この発明に係る画像処理装置は、画像信号をA/D変換する際に参照する基準電圧を、領域毎に設定するものである。 The image processing apparatus according to the present invention sets, for each region, a reference voltage that is referred to when A / D converting an image signal.
また、この発明に係る画像処理装置は、画像信号をA/D変換する隙に参照する基準電圧を、少なくとも1走査線毎に設定するものであり、1走査線毎あるいは複数の走査線で検出されたアナログ画像信号のピーク電圧を基準電圧に設定するものである。 In the image processing apparatus according to the present invention, a reference voltage to be referred to in a gap for A / D conversion of an image signal is set for at least one scanning line, and is detected for each scanning line or a plurality of scanning lines. The peak voltage of the analog image signal thus set is set as a reference voltage.
さらに、アナログ画像信号のピーク電圧を求めて基準電圧に設定するA/D変換においては、入力されるアナログ画像信号を少なくとも1走査線分遅延させて用いるものである。 Further, in the A / D conversion in which the peak voltage of the analog image signal is obtained and set to the reference voltage, the input analog image signal is delayed by at least one scanning line.
また、この発明に係る画像処理装置は、所定の基準電圧を用いてA/D変換を行い、得られるデジタル画像信号より、少なくとも1走査線毎に最大値と最小値を検出し、検出された値を基にして基準電圧を設定し、再度A/D変換を行い、得られる画像信号を用いて画像認識処理を行うものである。 The image processing apparatus according to the present invention performs A / D conversion using a predetermined reference voltage, detects the maximum value and the minimum value for each scanning line from the obtained digital image signal, and detects the maximum value and the minimum value. A reference voltage is set based on the value, A / D conversion is performed again, and image recognition processing is performed using the obtained image signal.
さらに、所定の基準電圧でA/D変換した結果を用いて基準電圧を設定するA/D変換においては、入力されるアナログ画像信号を少なくとも1走査線分遅延させて用いるものである。 Further, in A / D conversion in which a reference voltage is set using a result of A / D conversion with a predetermined reference voltage, an input analog image signal is used after being delayed by at least one scanning line.
また、この発明に係る画像処理装置は、画像信号をA/D変換する際に参照する基準電圧を、画像認識処理で認識された対象物の輝度を用いて、少なくとも1走査線毎に設定するものである。 The image processing apparatus according to the present invention sets a reference voltage to be referred to when the image signal is A / D converted at least for each scanning line using the luminance of the object recognized by the image recognition process. Is.
また、この発明に係る画像処理装置の撮像手段は、明暗差の大きい状況でも、明側、暗側共に信号が飽和することなく、撮像できる広ダイナミックレンジ撮像手段を用いるものである。 Further, the image pickup means of the image processing apparatus according to the present invention uses a wide dynamic range image pickup means that can pick up an image without saturating the signal on both the bright side and the dark side even in a situation where the contrast between light and dark is large.
以上のように、この発明による画像処理装置では、領域毎に、明るさに応じた基準電圧を設定するので、他の領域の明るさに影響されず適切な基準電圧を用いて、A/D変換を行うことができる。その結果、コントラストが良好なデジタル画像信号を得ることができるので、このデジタル画像信号を用いれば、精度の良い画像認識を行うことができる。 As described above, in the image processing apparatus according to the present invention, since the reference voltage corresponding to the brightness is set for each area, the A / D is used by using an appropriate reference voltage without being affected by the brightness of other areas. Conversion can be performed. As a result, a digital image signal with good contrast can be obtained, and therefore, using this digital image signal, accurate image recognition can be performed.
上記のような画像処理装置では、A/D変換時の基準電圧を、少なくとも1走査線毎に設定することにより、対象物周辺の明暗差が大きい場合でも、他の走査線の明るさに関わらず、該走査線毎に適した基準電圧を参照してA/D変換を行うことができる。 In the image processing apparatus as described above, by setting the reference voltage at the time of A / D conversion at least for each scanning line, even if the brightness difference around the object is large, the brightness of other scanning lines is affected. Instead, A / D conversion can be performed with reference to a reference voltage suitable for each scanning line.
さらに、アナログ画像信号より、走査線上のピーク電圧を検出し、そのピーク電圧を基準電圧に設定してA/D変換を行うことにより、該走査線上のデジタル画像信号の階調を有効に利用することができるので、画像認識に適したコントラストの良い画像信号を得ることができる。 Further, by detecting the peak voltage on the scanning line from the analog image signal, setting the peak voltage as a reference voltage and performing A / D conversion, the gradation of the digital image signal on the scanning line is effectively used. Therefore, an image signal with good contrast suitable for image recognition can be obtained.
さらに、各走査線の輝度信号の最大ピーク電圧値と最小ピーク電圧値を検出し、検出された値を上下限基準電圧に設定する1走査期間、A/D変換に入力するアナログ画像信号を遅延させることにより、上下限基準電圧に設定する最大電圧と最小電圧を検出する輝度信号と、A/D変換を行う輝度信号は、同じ走査線上のものを用いることができる。その結果、画面が急変し撮影範囲の明るさが急変するような場合でも、各走査線毎に、階調を有効に利用したデジタル画像信号を得ることができるので、このデジタル画像信号を用いれば、精度の良い画像認識を行うことができる。 Further, the maximum peak voltage value and the minimum peak voltage value of the luminance signal of each scanning line are detected, and the analog image signal input to the A / D conversion is delayed for one scanning period in which the detected value is set to the upper and lower limit reference voltages. By doing so, the luminance signal for detecting the maximum voltage and the minimum voltage set as the upper and lower reference voltages and the luminance signal for A / D conversion can be those on the same scanning line. As a result, even when the screen changes suddenly and the brightness of the shooting range changes suddenly, a digital image signal using gradation effectively can be obtained for each scanning line. Therefore, accurate image recognition can be performed.
この発明による画像処理装置では、所定の基準電圧を用いて行ったA/D変換の結果より、走査線上の輝度の最大値と最小値を求め、求められた値をD/A変換した結果を基準電圧に設定して、再度A/D変換を行う。その結果、映像が急変し撮影範囲の明るさが急変するような場合でも、各走査線毎に、階調を有効に利用したデジタル画像信号を得ることができるので、1走査線毎の画像データを扱う画像認識処理には有効なものとなり、このデジタル画像信号を用いわは、精度の良い画像認識を行うことができる。 In the image processing apparatus according to the present invention, the maximum value and the minimum value of the luminance on the scanning line are obtained from the result of A / D conversion performed using a predetermined reference voltage, and the result of D / A conversion of the obtained value is obtained. Set to the reference voltage and perform A / D conversion again. As a result, even when the video changes suddenly and the brightness of the shooting range changes suddenly, a digital image signal using gradation effectively can be obtained for each scanning line. It is effective for image recognition processing that handles image data, and this digital image signal can be used to perform accurate image recognition.
さらに、所定の基準電圧を用いて行ったA/D変換の結果より、輝度の最大値と最小値を求め、求められた値を基に基準電圧の設定を行う間、設定された基準電圧を用いて行うA/D変換に入力されるアナログ画像信号を遅延させることにより、上下限基準電圧を設定するための輝度の最大値と最小値を検出する輝度信号と、設定された基準電圧でA/D変換を行う輝度信号は、同じ走査線上のものを用いることができる。その結果、画面が急変し撮影範囲の明るさが急変するような場合でも、各走査線毎に、階調を有効に利用したデジタル画像信号を得ることができるので、このデジタル画像信号を用いれば、精度の良い画像認識を行うことができる。 Furthermore, the maximum and minimum luminance values are obtained from the result of A / D conversion performed using a predetermined reference voltage, and the set reference voltage is set while the reference voltage is set based on the obtained value. By delaying the analog image signal input to the A / D conversion performed using the luminance signal for detecting the maximum value and the minimum value for setting the upper and lower limit reference voltage, and the set reference voltage A As the luminance signal for performing the / D conversion, those on the same scanning line can be used. As a result, even when the screen changes suddenly and the brightness of the shooting range changes suddenly, a digital image signal using gradation effectively can be obtained for each scanning line. Therefore, accurate image recognition can be performed.
また、A/D変換時に参照する基準電圧は、画像認識手段で認識された対象物の輝度値をもとに少なくとも1走査線毎に設定することにより、デジタル画像信号のフルスケールを、画像認識に必要な輝度の範囲に設定することができるので、画像認識に適したコントラストの良い画像信号を得ることができる。 In addition, the reference voltage to be referred to at the time of A / D conversion is set at least for each scanning line based on the luminance value of the object recognized by the image recognition means, so that the full scale of the digital image signal can be recognized. Therefore, it is possible to obtain an image signal with good contrast suitable for image recognition.
また、広ダイナミックレンジ撮像装置を用いたので、通常、明側或いは暗側で、信号が飽和或いは黒潰れするような状況であっても、明暗差を再現できるだけでなく、低コントラストな状況であっても、デジタル画像信号のフルスケールを、画像認識に必要な輝度の範囲に設定することができるので、画像認識に適したコントラストの良い画像信号を得ることができる。 In addition, since a wide dynamic range imaging device is used, it is possible not only to reproduce the difference in brightness, but also in a low-contrast situation, even if the signal is saturated or blacked out on the bright side or dark side. However, since the full scale of the digital image signal can be set within the luminance range necessary for image recognition, an image signal with good contrast suitable for image recognition can be obtained.
この発明による画像処理装置では、各走査線の経度信号の最大電圧性と最小電圧値を検出し、検出された値を上下限基準電圧に設定してA/D変換を行う。その結果、映像が急変するような場合でも、各走査線に、階調を有効に利用したデジタル画像信号を得ることができるので、1走査線毎の画像データを扱う画像認識処理には有効なものとなり、このデジタル画像信号を用いれば、精度の良い画像認識を行うことができる。 In the image processing apparatus according to the present invention, the maximum voltage characteristic and the minimum voltage value of the longitude signal of each scanning line are detected, and the detected value is set as the upper and lower limit reference voltage to perform A / D conversion. As a result, even when the video changes suddenly, a digital image signal using gradation effectively can be obtained for each scanning line, which is effective for image recognition processing that handles image data for each scanning line. If this digital image signal is used, accurate image recognition can be performed.
この発明による画像処理装置では、走査線毎に、画像認識手段で検出された対象物の輝度を参照し、基準電圧を設定してA/D変換を行う。その結果、対象物より輝度の高い不要とされる輝度レベルを除き、階調を有効に利用したデジタル画像信号を得ることができるので、このデジタル画像信号を用いれば、精度の良い画像認識を行うことができる。 The image processing apparatus according to the present invention refers to the brightness of the object detected by the image recognition means for each scanning line, sets the reference voltage, and performs A / D conversion. As a result, it is possible to obtain a digital image signal that effectively uses the gradation except for an unnecessary luminance level that is higher than that of the object. Therefore, accurate image recognition can be performed using this digital image signal. be able to.
また、この発明による画像処理装置では、走査線上の最大輝度レベルと最小輝度レベルの間のみをA/D変換する、あるいは走査線上の対象物の輝度レベルと最小輝度しベルの問のみをA/D変換するといった具合に、各走査線毎に、必要な部分のみをA/D変換する。その結果、広い明暗差が撮像できることを特徴した広ダイナミックレンジ撮像手段を用いた画像処理装置においては、必要な輝度レベルのデータのみを抽出し、階調を有効に利用したデジタル画像信号を得ることができるので、このデジタル画像信号を用いれば、精度の良い画像認識を行うことができる。 In the image processing apparatus according to the present invention, A / D conversion is performed only between the maximum luminance level and the minimum luminance level on the scanning line, or the luminance level and the minimum luminance of the object on the scanning line are only A / D converted. For example, only a necessary part is A / D converted for each scanning line. As a result, in an image processing apparatus using a wide dynamic range imaging means that can capture a wide contrast difference, only data of a necessary luminance level is extracted, and a digital image signal using gradation effectively is obtained. Therefore, if this digital image signal is used, accurate image recognition can be performed.
また、この発明によれば、入力輝度ダイナミックレンジが広い撮像手段であっても、対象の最小輝度と最大輝度に相当する電圧をA/D変換の上下限基準電圧に設定するため、低いコントラストしか得られない対象であっても、量子化段階でコントラストを改善できるため、階調を有効に利用したデジタル画像信号を得ることができ、このデジタル画像信号を用いれば、精度の良い画像認識を行うことができる。 Further, according to the present invention, even in an imaging means with a wide input luminance dynamic range, the voltage corresponding to the minimum luminance and the maximum luminance of the target is set as the upper / lower reference voltage for A / D conversion, so that only low contrast can be obtained. Even if the target cannot be obtained, the contrast can be improved at the quantization stage, so that it is possible to obtain a digital image signal that effectively uses gradation, and with this digital image signal, accurate image recognition is performed. be able to.
1 撮像装置、2 A/D基準電圧設定装置、3 A/D変換装置、4 画像認識処理装置、5 遅延回路、6 画像認識処理装置、10 最大ピーク値検出回路、11 最大ピーク値保持回路、12 最小ピーク値検出回路、13 最小ピーク値保持回路、21 基準電圧設定用A/D変換部、22,23 基準電圧設定部、30 輝度出力部、111 白線、112 路面、113 領域(a)、114 領域(b)、115 領域(c)、211 n番目の走査線における輝度信号、212 n番目の走査線における輝度信号の最大値、213 n番目の走査線における輝度信号の最小値、411 比較器、412 ラッチ、413 D/A変換器、701 従来技術における撮像装置の人出力特性、702 入力輝度ダイナミックレンジが広い撮像装置の入出力特性、703 撮像対象の最小輝度値a、704 撮像対象の最大輝度値b、705 従来技術における撮像装置の入出力特性に従うaとbの出力差(コントラスト)、706 入力ダイナミックレンジが広い撮像装置の人出力特性に従うaとbの出力差(コントラスト)、707 従来技術によるA/D変換レンジ、708 この発明によるA/D変換レンジ。
1 imaging device, 2 A / D reference voltage setting device, 3 A / D conversion device, 4 image recognition processing device, 5 delay circuit, 6 image recognition processing device, 10 maximum peak value detection circuit, 11 maximum peak value holding circuit, 12 Minimum peak value detection circuit, 13 Minimum peak value holding circuit, 21 Reference voltage setting A / D converter, 22, 23 Reference voltage setting unit, 30 Luminance output unit, 111 White line, 112 Road surface, 113 area (a), 114 region (b), 115 region (c), 211 luminance signal in the nth scanning line, 212 maximum luminance signal value in the nth scanning line, 213 minimum luminance signal value in the nth scanning line, 411 comparison , 412 latch, 413 D / A converter, 701 Human output characteristics of an imaging apparatus in the prior art, 702 Input / output characteristics of an imaging apparatus with a wide input luminance dynamic range, 7 3 Minimum brightness value a of the imaging target a, 704 Maximum brightness value b of the imaging target, 705 Output difference (contrast) between a and b according to the input / output characteristics of the imaging device in the prior art, 706 Human output of the imaging device with a wide input dynamic range Output difference (contrast) between a and b according to characteristics, 707 A / D conversion range according to prior art, 708 A / D conversion range according to the present invention.
Claims (8)
The image processing apparatus according to any one of claims 1 to 7, wherein the imaging unit is a wide dynamic range imaging unit that can capture a wide difference in brightness with an input / output characteristic having a nonlinear characteristic. .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004136950A JP4261416B2 (en) | 2004-05-06 | 2004-05-06 | Image processing device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004136950A JP4261416B2 (en) | 2004-05-06 | 2004-05-06 | Image processing device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005322950A JP2005322950A (en) | 2005-11-17 |
JP4261416B2 true JP4261416B2 (en) | 2009-04-30 |
Family
ID=35469922
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004136950A Expired - Fee Related JP4261416B2 (en) | 2004-05-06 | 2004-05-06 | Image processing device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4261416B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007251560A (en) * | 2006-03-15 | 2007-09-27 | Omron Corp | Image processing system, image processing apparatus and image processing method, imaging apparatus and imaging method, and program |
-
2004
- 2004-05-06 JP JP2004136950A patent/JP4261416B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2005322950A (en) | 2005-11-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8189069B2 (en) | Image processing apparatus and method | |
JP4668185B2 (en) | Image processing method | |
US20080192131A1 (en) | Image pickup apparatus and method for extending dynamic range thereof | |
CN101296315A (en) | Image noise reduction apparatus and method | |
JP4261416B2 (en) | Image processing device | |
JP2001078211A (en) | Device and method for color component generation and multi-colored image pickup device using same | |
JP2009194786A (en) | Object detecting device, and imaging apparatus | |
KR101665392B1 (en) | Shape detection method in camera | |
KR101630285B1 (en) | Apparatus and method for color rolling suppression | |
US10306153B2 (en) | Imaging apparatus, image sensor, and image processor | |
EP3799420A1 (en) | Image processing apparatus, method of processing image and program | |
JP2669416B2 (en) | Shading extraction circuit | |
KR100699983B1 (en) | Apparatus and method for removing zipper noise | |
JP2000321035A (en) | Detecting device | |
JP2672285B2 (en) | Defect detection method for solid-state image sensor | |
JP2005057608A (en) | Image pickup signal processing method | |
KR100188671B1 (en) | Apparatus for selective image processing | |
JP2003296878A (en) | Vehicle detection method | |
CN117082324A (en) | Photosensitive chip, image processing method and electronic equipment | |
JPH0894729A (en) | Target-classifying method | |
KR101521458B1 (en) | Apparatus and method for removing smear | |
JP4700597B2 (en) | Image binarization apparatus and image binarization method | |
JPH11196429A (en) | Character picture restoration device, electronic still camera system and electronic still camera | |
JP2008263339A (en) | Imaging apparatus | |
JPH07123416A (en) | Motion vector detector |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061208 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090126 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090203 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090205 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120220 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130220 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130220 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140220 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |