JP2001333435A - Beautiful skin processing circuit and color discrimination circuit - Google Patents

Beautiful skin processing circuit and color discrimination circuit

Info

Publication number
JP2001333435A
JP2001333435A JP2000151690A JP2000151690A JP2001333435A JP 2001333435 A JP2001333435 A JP 2001333435A JP 2000151690 A JP2000151690 A JP 2000151690A JP 2000151690 A JP2000151690 A JP 2000151690A JP 2001333435 A JP2001333435 A JP 2001333435A
Authority
JP
Japan
Prior art keywords
color
skin
circuit
space
parameters
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000151690A
Other languages
Japanese (ja)
Other versions
JP3649653B2 (en
Inventor
Kazuto Nishida
一人 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2000151690A priority Critical patent/JP3649653B2/en
Publication of JP2001333435A publication Critical patent/JP2001333435A/en
Application granted granted Critical
Publication of JP3649653B2 publication Critical patent/JP3649653B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To provide a beautiful skin processing circuit and a color discrimination circuit that can accurately separate and discriminate a skin color area being an asymmetrical color space or an optional color, approximate the space with the adjustment of a few parameters together with the separation and discrimination and adjust a moving picture in real time with a reduced circuit scale. SOLUTION: The beautiful skin processing circuit comprises a skin color discrimination means consisting of an arithmetic means that translates a three- dimensional space in which a luminance signal and two color difference signals of a color image or three different RGB primary color signals exist, an arithmetic means that rotates the three-dimensional space that is translated, a means that calculates an expression of ((X/a)2+(Y/b)2+(Z/c)2)=r2, where X, Y and Z are values along the 3 axes of the rotated space and a, b and c are scale parameters of each axis, a means that discriminates the sign of the X, Y and Z to switch the scale parameters a, b and c into two kinds of parameters ap, am bp, bm, cp and cm respectively, and a linear conversion means whose input/ output characteristics are nonlinear.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、ビデオカメラ/テ
レビモニタ/プリンタ/画像記録装置などのカラー画像
を扱う装置に関する技術である。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a technology relating to a device for handling color images, such as a video camera / television monitor / printer / image recording device.

【0002】[0002]

【従来の技術】図2に美肌処理回路の構成を示す。2. Description of the Related Art FIG. 2 shows the configuration of a beautiful skin processing circuit.

【0003】この肌色処理回路においては、カラー画像
の輝度信号Yi[2−7]、色差信号Cb[2−8]、
Cr[2−9]は肌色判別回路[2−2]に入力され、
この肌色判別回路[2−2]は肌色に近い色ほど値が大
きくなる信号である肌色強度値fを出力する。前記輝度
信号Yi[2−7]は、また、平滑フィルタ[2−1]
に入力され、該平滑フィルタ[2−1]は高域成分が減
衰したディテール成分の少ない輝度信号を作成し出力す
る。ディテール成分の低下した輝度信号である平滑フィ
ルタ[2−1]出力に対して乗算器[2−5]により肌
色強度値fがかけられる。また、肌色強度値fより(1
−f)の減算回路[2−3]にて減算された係数と前記
輝度信号入力Yi[2−7]が乗算器[2−4]でかけ
られる。最後にこの2つの乗算器[2−5],[2−
4]出力が加算回路[2−6]で加算されて美肌処理さ
れた輝度信号としてYo[2−10]が出力される。
In this skin color processing circuit, a luminance signal Yi [2-7] of a color image, a color difference signal Cb [2-8],
Cr [2-9] is input to the skin color determination circuit [2-2],
The skin color discrimination circuit [2-2] outputs a skin color intensity value f, which is a signal whose value increases as the color approaches the skin color. The luminance signal Yi [2-7] is also converted to a smoothing filter [2-1].
, And the smoothing filter [2-1] creates and outputs a luminance signal with attenuated high-frequency components and little detail components. The multiplier [2-5] multiplies the output of the smoothing filter [2-1], which is the luminance signal with the reduced detail component, by the skin color intensity value f. Also, from the skin color intensity value f, (1
The coefficient subtracted by the subtraction circuit [2-3] of -f) and the luminance signal input Yi [2-7] are multiplied by the multiplier [2-4]. Finally, these two multipliers [2-5], [2-
4] The outputs are added by an adder circuit [2-6], and Yo [2-10] is output as a luminance signal subjected to skin-smoothing processing.

【0004】ここで、出力Yo[2−10]は Yo=f×([2―5]出力)+(1−f)×Yi で表され、肌色強度値fが小さいときはYiの成分が多
く、肌色強度値fが1に近い場合はディテール成分を減
衰させて肌の荒れを軽減した輝度信号の成分が多くなる
ことによって、人物の肌に部分に対してのみ肌の荒れを
取り除いた輝度信号が作成されて美肌処理の効果を得
る。
Here, the output Yo [2-10] is represented by Yo = f × ([2-5] output) + (1-f) × Yi. When the skin color intensity value f is small, the component of Yi is In many cases, when the skin color strength value f is close to 1, the luminance component in which the detail component is attenuated and the skin roughness is reduced is increased, so that the luminance obtained by removing the skin roughness only on the part of the human skin A signal is created to obtain the effect of the beautiful skin processing.

【0005】ところで、前記の肌色判別回路について
「特開平6−105323号公報」の実施例などに従来
技術が記載されている。図6は、この公報の方式を図示
したものである。
The prior art is described in the embodiment of Japanese Patent Application Laid-Open No. 6-105323 with respect to the skin color discriminating circuit. FIG. 6 illustrates the method of this publication.

【0006】すなわち、RGB入力に対してマトリック
ス回路[6−1]でIQ変換した後、加算器[6−
2],[6−3]にてI,Q軸の座標原点を移動する。
座標変換されたI,Q信号は絶対値演算回路[6−4]
[6−5]にて絶対値が算出され、乗算器[6−6],
[6−7]にて係数がかけられた後に加算器[6−
8],[6−9]にてRsetから減算される。この処理
を式で表すと
That is, after the RGB input is subjected to IQ conversion by the matrix circuit [6-1], the adder [6-]
2] and [6-3], the coordinate origins of the I and Q axes are moved.
The coordinate-converted I and Q signals are used for an absolute value calculation circuit [6-4].
The absolute value is calculated in [6-5], and the multiplier [6-6],
After the coefficient is multiplied in [6-7], the adder [6-
8], it is subtracted from the R The set at [6-9]. This process can be expressed as

【0007】 Fout=Rset−K1(I−Iset)−K2(Q−Qset) となる。その後、負クリップ回路[6−10]にて[6
−11]のような特性となる。肌色強度値の領域は図の
「四角すい」の底面の領域となり、また、肌色強度値等
位面は[6−11]のような平面で囲まれた「四角す
い」となって、Ise t,Qsetを中心にI,Q方向の正負
に対称な特性となる。
F out = R set −K 1 (I−I set ) −K 2 (Q−Q set ) After that, the negative clip circuit [6-10] sets [6
-11]. Area of skin color intensity values becomes a bottom surface area of the "square Sui" figure also skin color intensity values, etc. proximal surface is a "square Sui" surrounded by plane as the [6-11], I se The characteristic becomes symmetrical in the I and Q directions with respect to t and Q set .

【0008】また、肌色判別回路の他の実施例として
は、R/G/Bまたは、Y/R−Y/B−Yの3信号を
3次元アドレスに割り当てたメモリを用いて各アドレス
のデータとして肌色強度値を格納する方法がある。
In another embodiment of the skin color discriminating circuit, data of each address is stored using a memory in which three signals of R / G / B or Y / RY / BY are assigned to three-dimensional addresses. There is a method of storing a skin color intensity value.

【0009】[0009]

【発明が解決しようとする課題】前記したように、カラ
ー画像に映る人物の顔などの肌のディテール成分を軽減
することで人物をきれいに映す機能を有する美肌処理回
路において、肌色を判別する回路が設けられている。
SUMMARY OF THE INVENTION As described above, in a beautiful skin processing circuit having a function of reducing a detail component of the skin such as a person's face reflected in a color image to clearly project the person, a circuit for discriminating the skin color is used. Is provided.

【0010】しかしながら、従来の肌色判別回路におい
ては、前述のように、色空間の肌色領域を切り出すとき
に回路の規模から肌色領域を平面で切った空間で表した
り、その空間を対称であると仮定したものがあるが、実
際の肌色領域は色空間としては非対称でありまた、曲面
を有しているため、切り出した肌色領域と実際の肌色領
域とに誤差が発生することになって、肌色判別を正確に
行えない。したがって、美肌処理が正確に行われないた
めに美肌処理の効果が十分発揮されなかった。
However, in the conventional skin color discriminating circuit, as described above, when the skin color region of the color space is cut out, the skin color region is represented by a space obtained by cutting the skin color region in a plane from the circuit scale, or the space is symmetric. Although it is assumed that the actual skin color area is asymmetrical as a color space and has a curved surface, an error occurs between the cut skin color area and the actual skin color area, and Judgment cannot be performed accurately. Therefore, the effect of the beautiful skin treatment was not sufficiently exhibited because the beautiful skin treatment was not performed accurately.

【0011】また、正確に肌色領域を判別する回路とし
てメモリを使用する場合があるが、3次元色空間の座標
を8ビット、判別信号を8ビットのデータで表すと25
3×8=134217728bitsにもなり、回路
規模が大きくなってしまう。
In some cases, a memory is used as a circuit for accurately determining a flesh-color area. However, if the coordinates in a three-dimensional color space are represented by 8-bit data and the discrimination signal is represented by 8-bit data, 25 bits are used.
6 3 × 8 = 134217728 bits, which increases the circuit scale.

【0012】また、肌色判別データは3次元空間の個々
の点(2563=16777216箇所)について設定
する必要があり、判別データの設定が非常に困難とな
る。
Also, it is necessary to set the skin color discrimination data for each point (256 3 = 16777216 places) in the three -dimensional space, and it is very difficult to set the discrimination data.

【0013】さらに、ビデオカメラなど時々刻々と撮影
条件が変わる動画像について撮影条件に従ってリアルタ
イムに調整するとなると、個々の条件について予め用意
した複数のメモリを持つ必要があり、回路規模が大きく
なって実現が困難となる。
Further, when a moving image such as a video camera, whose photographing conditions change every moment, is adjusted in real time in accordance with the photographing conditions, it is necessary to have a plurality of memories prepared in advance for each condition, thereby increasing the circuit scale. Becomes difficult.

【0014】美肌処理回路の肌色判別回路の他、カラー
画像の肌色以外の任意の色を判別する回路においても、
上記と同様の問題点が生じる。
In addition to the skin color determination circuit of the beautiful skin processing circuit, a circuit for determining an arbitrary color other than the skin color of a color image also includes
The same problem as described above occurs.

【0015】本発明は、前記従来の問題点を解消するべ
くなされたものであって、非対称な色空間である肌色領
域あるいは任意の色を正確に分離し判別することがで
き、それと共に、少ないパラメータ調整で空間を近似で
きることにより回路規模を縮小し、動画像に対してリア
ルタイムに調整が可能な美肌処理回路および色判別回路
を提供することを目的とする。
SUMMARY OF THE INVENTION The present invention has been made to solve the above-mentioned conventional problems, and it is possible to accurately separate and discriminate a flesh color region or an arbitrary color which is an asymmetrical color space. An object of the present invention is to provide a beautiful skin processing circuit and a color discrimination circuit that can reduce the circuit scale by approximating a space by parameter adjustment and can adjust a moving image in real time.

【0016】[0016]

【課題を解決するための手段】本発明では、前記課題を
解決すべく、次の構成を有する。本発明は、カラー画像
の肌色部分を判別し、その判別信号により画像の肌色部
分のディテール成分の周波数帯域を調整することにより
カラー画像における人物の肌の荒れを軽減して映す美肌
処理回路において、カラー画像の輝度信号と2つの色差
信号、あるいはRGBの3原色信号の3つの異なる信号
の張る3次元空間を平行移動する演算手段と、平行移動
された3次元空間を回転する演算手段と、回転された空
間の3軸それぞれの値X,Y,Zに対して、各軸のスケ
ールパラメータa,b,cを用いて
The present invention has the following configuration in order to solve the above-mentioned problems. The present invention provides a skin-skin processing circuit that determines a flesh-color portion of a color image and adjusts the frequency band of the detail component of the flesh-color portion of the image based on the discrimination signal to reduce the roughness of the human skin in the color image and project the image. A computing means for translating a three-dimensional space spanned by three different signals of a luminance signal of a color image and two color difference signals or three different primary color signals of RGB; a computing means for rotating the translated three-dimensional space; Using the scale parameters a, b, and c of each axis for the values X, Y, and Z of the three axes in the

【数3】 を演算する手段と、X、Y、Zの符号を判別してスケー
ルパラメータa,b,cを各々2種類のパラメータa
p,am,bp,bm,cp,cmに切替える手段と、
入出力特性が非線形な1次元変換手段により構成される
肌色判別手段を有することを特徴とする美肌処理回路で
ある。
(Equation 3) And scale parameters a, b, and c are determined by determining the signs of X, Y, and Z.
means for switching to p, am, bp, bm, cp, cm;
A beautiful skin processing circuit comprising a skin color discriminating means constituted by a one-dimensional conversion means having a non-linear input / output characteristic.

【0017】本発明においては、カラー画像に映る人物
の顔などの肌のディテール成分を軽減することで人物を
きれいに映す機能を有する美肌処理回路の肌色を判別す
る回路において、輝度信号と2つの色差信号、あるいは
RGBの3原色信号の3つの異なる信号の張る3次元空
間を平行移動する演算手段により色空間の肌色中心に座
標を変換し、さらに平行移動された3次元空間を回転す
る演算手段により肌色空間の座標軸調整した後、回転さ
れた空間の3軸それぞれの値X,Y,Zに対して、X,
Y,Zの符号により切り替わる各軸のスケールパラメー
タa,b,cを用いて
According to the present invention, in a circuit for judging a skin color of a beautiful skin processing circuit having a function of clearly displaying a person by reducing skin detail components such as a person's face reflected in a color image, a luminance signal and two color differences The arithmetic means for translating the three-dimensional space spanned by the three different signals of the signals or the three primary color signals of RGB converts the coordinates to the flesh color center of the color space, and the arithmetic means for rotating the three-dimensional space translated further. After adjusting the coordinate axes of the flesh color space, X, Y, and Z values of the three axes of the rotated space are expressed as X,
Using the scale parameters a, b, and c of each axis that are switched by the signs of Y and Z

【数4】 を演算することで座標(X、Y、Z)の原点を中心にr
2の等位曲面が非対称な楕円曲面となる肌色空間データ
を作成し、その肌色空間デーを入出力特性が非線形な1
次元変換手段に入力することで画像の肌色部のディテー
ル信号を調整するための肌色強度値を作成する。
(Equation 4) Is calculated so that r is centered on the origin of the coordinates (X, Y, Z).
2. Create skin color space data in which the coordinated surface of 2 is an asymmetric elliptic surface, and convert the skin color space data to a non-linear 1
A skin color intensity value for adjusting a detail signal of a skin color portion of an image is created by inputting the signal to a dimension conversion unit.

【0018】本発明によれば、上記のようにして、非対
称な色空間である肌色領域を正確に分離し判別すること
ができ、また、少ないパラメータ調整にて空間を近似で
きることにより回路規模を縮小し、動画像に対してリア
ルタイムに調整が可能になるものである。
According to the present invention, as described above, the skin color area, which is an asymmetric color space, can be accurately separated and discriminated, and the space can be approximated by a small number of parameter adjustments, thereby reducing the circuit scale. In addition, it is possible to adjust a moving image in real time.

【0019】また、本発明は、カラー画像の任意の色
(非対称な色空間を有することが好適である)を判別す
る色判別回路において、カラー画像の輝度信号と2つの
色差信号、あるいはRGBの3原色信号の3つの異なる
信号の張る3次元空間を平行移動する演算手段と、平行
移動された3次元空間を回転する演算手段と、回転され
た空間の3軸それぞれの値X,Y,Zに対して、各軸の
スケールパラメータa,b,cを用いて
According to the present invention, there is provided a color discriminating circuit for discriminating an arbitrary color (preferably having an asymmetrical color space) of a color image, wherein a luminance signal of the color image and two color difference signals or an RGB signal are provided. A computing means for translating the three-dimensional space spanned by three different signals of the three primary color signals, a computing means for rotating the translated three-dimensional space, and values X, Y, and Z for each of the three axes of the rotated space Using the scale parameters a, b, and c of each axis

【数5】 を演算する手段と、X、Y、Zの符号を判別してスケー
ルパラメータa,b,cを各々2種類のパラメータa
p,am,bp,bm,cp,cmに切替える手段と、
入出力特性が非線形な1次元変換手段を備えることを特
徴とする色判別回路である。
(Equation 5) And scale parameters a, b, and c are determined by determining the signs of X, Y, and Z.
means for switching to p, am, bp, bm, cp, cm;
A color discriminating circuit comprising one-dimensional conversion means having a non-linear input / output characteristic.

【0020】本発明においては、任意の色を判別する回
路において、輝度信号と2つの色差信号、あるいはRG
Bの3原色信号の3つの異なる信号の張る3次元空間を
平行移動する演算手段により非対称な色空間を有する前
記任意の色中心に座標を変換し、さらに平行移動された
3次元空間を回転する演算手段により任意の色空間の座
標軸調整した後、回転された空間の3軸それぞれの値
X,Y,Zに対して、X,Y,Zの符号により切り替わ
る各軸のスケールパラメータa,b,cを用いて
According to the present invention, in a circuit for determining an arbitrary color, a luminance signal and two color difference signals or RG
The arithmetic means for translating the three-dimensional space spanned by three different signals of the three primary color signals B converts the coordinates to the arbitrary color center having an asymmetrical color space, and further rotates the translated three-dimensional space. After adjusting the coordinate axes of an arbitrary color space by the arithmetic means, the scale parameters a, b, and b of the respective axes switched by the signs of X, Y, and Z with respect to the values X, Y, and Z of the three axes in the rotated space. using c

【数6】 を演算することで座標(X、Y、Z)の原点を中心にr
2の等位曲面が非対称な楕円曲面となる任意の色空間デ
ータを作成し、その肌色空間データを入出力特性が非線
形な1次元変換手段に入力することで画像の任意色部の
ディテール信号を調整するための肌色強度値を作成す
る。
(Equation 6) Is calculated so that r is centered on the origin of the coordinates (X, Y, Z).
2. Create arbitrary color space data in which the coordinated surface of 2 becomes an asymmetrical elliptic surface, and input the skin color space data to the one-dimensional conversion means whose input / output characteristics are non-linear. Create a skin color intensity value for adjustment.

【0021】本発明は、上記のようにして、任意色領域
を正確に分離し判別することができ、また、少ないパラ
メータ調整にて空間を近似できることにより回路規模を
縮小し、動画像に対してリアルタイムに調整が可能にな
るものである。
According to the present invention, as described above, an arbitrary color area can be accurately separated and discriminated, and a space can be approximated by a small number of parameter adjustments. This allows adjustment in real time.

【0022】本発明の原理を説明する。例として色空間
を輝度(Y)と色差信号Cb,Crの3軸のベクトル空
間における肌色強度値について説明する。非対称な色空
間を有する任意色でも同様である。
The principle of the present invention will be described. As an example, a description will be given of a skin color intensity value in a color space in a three-axis vector space of luminance (Y) and color difference signals Cb and Cr. The same applies to any color having an asymmetric color space.

【0023】なお、ここで色差信号Cb,CrとB−
Y,R−Yとは適当なゲイン調整と回転による線形変換
でそれぞれ変換できるので色差信号Cb,Crを色差信
号B−Y,R−Yと置き換えても等価である。
Here, the color difference signals Cb, Cr and B-
Since Y and RY can be respectively converted by appropriate gain adjustment and linear conversion by rotation, it is equivalent to replace the color difference signals Cb and Cr with the color difference signals BY and RY.

【0024】図7は、垂直軸に輝度(Y)、水平方向に
色差信号Cb,Crのベクトル平面としたYCC空間を
示す。
FIG. 7 shows a YCC space in which the vertical axis represents luminance (Y) and the horizontal direction represents a vector plane of color difference signals Cb and Cr.

【0025】肌色中心は色差信号Cb、Crベクトル平
面上でI軸上にほぼ位置し、肌色の濃さに応じてベクト
ルの彩度方向、および輝度値によりY方向に分布する。
Q軸方向には光源の色温度や他の被写体からの反射光に
より若干ふくらみを持ち、I軸方向、Y軸方向には非対
称な形で分布する。
The center of the flesh color is located substantially on the I axis on the color difference signal Cb, Cr vector plane, and is distributed in the saturation direction of the vector according to the density of the flesh color and in the Y direction according to the luminance value.
There is some swelling in the Q-axis direction due to the color temperature of the light source and the reflected light from other subjects, and distribution is asymmetric in the I-axis direction and the Y-axis direction.

【0026】よって、図7に示すように肌色中心と思わ
れる点を原点として(Cb,Cr,Y)の座標軸から
(x,y,z)の座標変換をおこない、(x,y,z)
座標上で非対称楕円曲面を等位面とする空間にて肌色領
域を分離する。
Therefore, as shown in FIG. 7, a coordinate conversion of (x, y, z) is performed from the coordinate axis of (Cb, Cr, Y) with the point considered to be the center of flesh color as the origin, and (x, y, z)
The skin color region is separated in a space where the asymmetrical elliptical curved surface is the coordinate surface on the coordinates.

【0027】非対称楕円演算により算出される中心から
の距離に相当するrの値により、rが小さいときに1、
大きくなるにつれて0になる非線形特性曲線によって肌
色強度値を求める。
According to the value of r corresponding to the distance from the center calculated by the asymmetric elliptic operation, when r is small, 1
A skin color intensity value is obtained from a non-linear characteristic curve that becomes 0 as the size increases.

【0028】図8に座標変換の説明図を示す。座標変換
の処理は、 1.(Cb,Cr,Y)上にて肌色中心(図8(a)の
P点)ヘ平行移動させる。 2.P点を中心にCb、Cr軸を回転し、I/Q軸に座
標変換する。 3.z軸は図8のようにY信号値にしたがってY軸に対
してI軸の正方向に傾きを持っていることから、図8
(b)に示すようにQ軸を中心にY軸とI軸を回転させ
て(x′,y′,z′)座標のz′軸、y′軸を作成す
る。なお、x′軸はQ軸と一致する。 4.最後に図8(c)に示すようにy軸を中心にz′軸
とx′軸を回転させて(x,y,z)座標のz軸とx軸
を作成する。なお、y軸はy′軸と一致する。
FIG. 8 is an explanatory diagram of the coordinate conversion. The coordinate conversion process is as follows: A parallel movement is performed on (Cb, Cr, Y) to the center of the flesh color (point P in FIG. 8A). 2. The Cb and Cr axes are rotated around the point P, and the coordinates are converted to I / Q axes. 3. Since the z-axis has a slope in the positive direction of the I-axis with respect to the Y-axis according to the Y signal value as shown in FIG.
As shown in (b), the Y-axis and the I-axis are rotated around the Q-axis to create the z'-axis and the y'-axis of the (x ', y', z ') coordinates. Note that the x 'axis coincides with the Q axis. 4. Finally, as shown in FIG. 8C, the z 'axis and the x' axis are rotated about the y axis to create the z axis and the x axis of the (x, y, z) coordinates. Note that the y axis coincides with the y 'axis.

【0029】図8(a)において(Cb,Cr,Y)の
各軸の単位ベクトルをEb/Er/E y、Q/I軸の単位
ベクトルをEq/Eiとすると、
In FIG. 8A, (Cb, Cr, Y)
The unit vector of each axis is Eb/ Er/ E y, Q / I axis unit
Vector Eq/ EiThen

【数7】 (Equation 7)

【0030】図8(b)において(x′,y′,z′)
の各軸の単位ベクトルをE′x/E′y/E′zとする
と、
In FIG. 8B, (x ', y', z ')
When the unit vectors of each axis of the E 'x / E' y / E 'z,

【数8】 (Equation 8)

【0031】図8(c)において(x,y,z)の各軸
の単位ベクトルをEx/Ey/Ezとすると、
In FIG. 8C, if the unit vector of each axis of (x, y, z) is E x / E y / E z ,

【数9】 (Equation 9)

【0032】(Cb,Cr,Y)座標上の、肌色中心
(P点)の座標値を(Pb,Pr,PY)、任意の色(C
点)の座標値を(Cb,Cr,CY)とすると、(x,
y,z)座標上でのC点の座標値(Cx,Cy,Cz
は、
[0032] (Cb, Cr, Y) on the coordinate, the coordinate values of the skin color center (P point) (P b, P r, P Y), any color (C
Assuming that the coordinate value of (point) is (C b , C r , C Y ), (x,
y, z) Coordinate value of point C on coordinates (C x , C y , C z )
Is

【数10】 (Equation 10)

【0033】よって、 (Cxyz)=(Cb−Pbr−PrY−PY)・A・B・C …(1) の式により(x,y,z)への座標変換を行うことがで
きる。
[0033] Thus, (C x C y C z ) = (C b -P b C r -P r C Y -P Y) · A · B · C ... formula by (x in (1), y, z ) Can be performed.

【0034】図9(a)に示す楕円曲面の式はThe equation of the elliptic curved surface shown in FIG.

【数11】 で表され、x,y,zの座標軸とそれぞれ±a,±b,
±cの点と交差する。
[Equation 11] And x, y, z coordinate axes and ± a, ± b,
Intersects the point ± c.

【0035】この式からFrom this equation

【数12】 を考える。(Equation 12) think of.

【0036】a,b,cを固定しておき、任意の点
(x,y,z)に対してr2を求めた場合、この式から
When a, b, and c are fixed and r 2 is obtained for an arbitrary point (x, y, z),

【数13】 となり、これはx,y,zの座標軸と±ar,±br,
±crの点で交差する(2A)式の楕円と相似な楕円曲
面となる。よって、rは楕円曲面の大きさを示すことに
なり、任意の点(x,y,z)の中心P点からの距離に
相当する値と考えることが出来る。
(Equation 13) Which are the x, y, z coordinate axes and ± ar, ± br,
An elliptical curved surface similar to the ellipse of the formula (2A) crossing at a point of ± cr is obtained. Therefore, r indicates the size of the elliptical curved surface, and can be considered as a value corresponding to the distance from the center P point of an arbitrary point (x, y, z).

【0037】以上のことから、任意の色の座標値(x,
y,z)に対して(2B)式の演算を行いrを求めると
中心P点からの各座標軸方向に異方性を持つ距離が得ら
れる。
From the above, the coordinate values (x,
When the value of r is obtained by performing the calculation of the expression (2B) on (y, z), a distance having anisotropy from the center P point in each coordinate axis direction is obtained.

【0038】(2A),(2B)式で得られる楕円曲面
はx,y,z軸に対して異方性を持つが軸の正負の方向
に対しては対称となる。
The elliptical surfaces obtained by the equations (2A) and (2B) have anisotropy with respect to the x, y, and z axes, but are symmetric with respect to the positive and negative directions of the axes.

【0039】そこで、Then,

【数14】 とx,y,zの値によりa,b,cの値をap,am,
bp,bm,cp,cmに切替えることにより、図9
(b)に示すような非対称楕円曲面を得ることが出来
る。
[Equation 14] And the values of a, b, and c are defined as ap, am,
By switching to bp, bm, cp, cm, FIG.
An asymmetric elliptical curved surface as shown in (b) can be obtained.

【0040】以上の演算を行うことで肌色中心からの距
離に相当する値rを求め、このrを用いて次に示す非線
形変換特性である肌色強度テーブルにより肌色強度値を
求める。ここで、非線形特性への入力はrではなく、r
2とする。これはrとr2は共に単調増加であって非線形
特性においてr2に対する平方根の演算特性を組み込む
ことが可能であることにより、平方根の演算回路の削減
を行うためである。
By performing the above calculation, a value r corresponding to the distance from the center of the flesh color is obtained, and using this r, a flesh color intensity value is obtained from a flesh color intensity table which is a non-linear conversion characteristic shown below. Here, the input to the nonlinear characteristic is not r, but r
Assume 2 . This is because both r and r 2 are monotonically increasing, and it is possible to incorporate the square root operation characteristic of r 2 in the non-linear characteristic, thereby reducing the square root operation circuit.

【0041】楕円曲面演算により求めたr2の値から、
図10に示すような非線形曲線の特性により肌色強度値
を求める。
From the value of r 2 obtained by the elliptic surface calculation,
The skin color intensity value is obtained from the characteristic of the nonlinear curve as shown in FIG.

【0042】非線形曲線を図10(a)から(b)のよ
うに右方向に移動することで検出する肌色領域を広くす
ることができる。また、前述の楕円曲面演算のrの算出
方法から、肌色強度値の分布はa,b,cの値が小さい
程、肌色強度の変化は急峻になる。
By moving the nonlinear curve to the right as shown in FIGS. 10 (a) and 10 (b), the skin color region to be detected can be widened. In addition, according to the above-described method of calculating r in the elliptic surface calculation, the distribution of the flesh color intensity value becomes steeper as the values of a, b, and c are smaller.

【0043】[0043]

【発明の実施の形態】以下、図面を参照して本発明に実
施形態を説明する。図1は実施形態に係る肌色判別回路
の構成を示す。図1に示すように、肌色判別回路は、主
に、座標変換部[1−1]楕円曲面演算部[1−2],
非線形変換部[1−3]を有している。
Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 shows a configuration of a skin color determination circuit according to the embodiment. As shown in FIG. 1, the skin color determination circuit mainly includes a coordinate conversion unit [1-1], an elliptic surface calculation unit [1-2],
It has a non-linear converter [1-3].

【0044】図1の座標変換部[1−1]では輝度信号
Yi、色差信号Cb,Crが入力されて、図8に示した
色空間の座標の原点移動と回転の処理を行う。座標変換
されたデータは楕円曲面演算部[1−2]において図9
に示す非対称楕円曲面の演算が行われ、肌色中心からの
距離の2乗値r2が作成される。
The coordinate conversion unit [1-1] in FIG. 1 receives the luminance signal Yi and the color difference signals Cb and Cr, and performs the process of moving and rotating the origin of the coordinates in the color space shown in FIG. The coordinate-transformed data is obtained by the elliptic surface calculation unit [1-2] in FIG.
The calculation of the asymmetrical elliptical surface shown in (1) is performed, and the square value r 2 of the distance from the center of the skin color is created.

【0045】次に、非線形変換部[1−3]にて図10
に示す非線形特性によりr2から肌色強度値f[1−
7]が出力される。
Next, the nonlinear conversion section [1-3] shown in FIG.
Skin color from r 2 by a nonlinear characteristic shown in intensity value f [1-
7] is output.

【0046】図3は、図1の座標変換部[1−1]の構
成の詳細を示したものである。入力されたカラー画像の
輝度信号Yi,色差信号Cb,Crに対して座標の原点
移動を行うため、パラメータPy[3−4],Pb[3
−5],Pr[3−6]の値が加算器[3−1],[3
−2],[3−3]にて減算される。その後、乗算器
[3−10],[3−11],[3−12]にて座標軸
の回転を行うパラメータ[3−7],[3−8],[3
−9]が加算器[3−1],[3−2],[3−3]の
出力に乗算されて座標変換が行われ、座標変換された画
素データ(x,y,z)が出力される。
FIG. 3 shows details of the configuration of the coordinate conversion unit [1-1] of FIG. The parameters Py [3-4], Pb [3] are used to move the origin of the coordinates to the input luminance signal Yi and color difference signals Cb, Cr of the color image.
−5] and Pr [3-6] are added to adders [3-1] and [3]
-2] and [3-3]. Then, the parameters [3-7], [3-8], [3-3] for rotating the coordinate axes by the multipliers [3-10], [3-11], [3-12]
−9] is multiplied by the outputs of the adders [3-1], [3-2] and [3-3] to perform coordinate conversion, and output pixel data (x, y, z) subjected to coordinate conversion. Is done.

【0047】ここで、パラメータ[3−7],[3−
8],[3−9]には前記した式(1)で表されるA・
B・Cの3×3の行列演算結果が格納される。
Here, parameters [3-7] and [3-
8] and [3-9] include A ·
A 3 × 3 matrix operation result of B · C is stored.

【0048】図4は、図1の楕円曲面演算部[1−2]
の構成の詳細を示したものである。座標変換された入力
データ(x,y,z)に対して非対称楕円曲面演算を行
う。
FIG. 4 shows the elliptic surface calculation unit [1-2] of FIG.
3 shows the details of the configuration. An asymmetric elliptic surface calculation is performed on the coordinate-transformed input data (x, y, z).

【0049】入力データx[4−20],y[4−2
1],z[4−22]に対して符号判定回路[4−
1],[4−7],[4−12]にてx,y,zの符号
を判定する。符号が正のときは、セレクタ[4−4],
[4−10],[4−16]にてパラメータap[4−
2],bp[4−8],cp[4−14]が選択され
る。また、負の場合は、パラメータam[4−3],b
m[4−9],cm[4−15]が選択される。除算器
[4−5],[4−11],[4−17]にてx,y,
zに対してセレクタ[4−4],[4−10],[4−
16]に出力されるパラメータが除算される。
The input data x [4-20], y [4-2]
1], z [4-22] for the sign determination circuit [4-
1], [4-7], and [4-12], the signs of x, y, and z are determined. When the sign is positive, the selector [4-4],
In [4-10] and [4-16], the parameter ap [4-
2], bp [4-8] and cp [4-14] are selected. In the case of a negative value, the parameters am [4-3], b
m [4-9] and cm [4-15] are selected. In the dividers [4-5], [4-11], [4-17], x, y,
Selectors [4-4], [4-10], [4-
16] is divided.

【0050】除算された除算器[4−5],[4−1
1],[4−17]の出力データは除算器[4−6],
[4−12],[4−18]にて2乗される。さらに、
この2乗された3信号データは加算器[4−19]にて
加算され、前記の式(2B)で示されるr2の値が計算
され、出力される。
The divided dividers [4-5] and [4-1]
1] and [4-17] are output from the divider [4-6],
Squared in [4-12] and [4-18]. further,
The squared 3 signal data are added by the adder [4-19], the value of r 2 represented by the above formula (2B) is calculated and outputted.

【0051】図5は、図1の非線形変換部[1−3]の
構成の詳細を示したものである。ここでは、例として、
図10の非線形特性を3折れ線で近似した場合の構成を
示したものである。
FIG. 5 shows the details of the configuration of the non-linear converter [1-3] of FIG. Here, as an example,
FIG. 11 shows a configuration in a case where the nonlinear characteristic of FIG. 10 is approximated by a three-fold line.

【0052】レジスタ[5−4],[5−5],[5−
6],[5−7]には折れ線の端点のx座標の値が格納
されており、[5−19],[5−20],[5−2
1],[5−22]には折れ線の端点のy座標値が格納
されている。また、[5−14],[5−15],[5
−16],[5−17]には折れ線の傾きを示す値が格
納されている。この折れ線で近似した非線形特性を式で
表すと、
Registers [5-4], [5-5], [5-
6] and [5-7] store the x-coordinate values of the end points of the polygonal line, and [5-19], [5-20], [5-2]
1] and [5-22] store the y-coordinate values of the end points of the polygonal line. Also, [5-14], [5-15], [5
-16] and [5-17] store values indicating the inclination of the polygonal line. Expressing the nonlinear characteristic approximated by this broken line by an equation,

【数15】 (Equation 15)

【0053】ここで、Where

【数16】 とする。(Equation 16) And

【0054】図4の楕円曲面計算の出力r2は比較器
[5−8],[5−9],[5−10],[5−11]
にてレジスタ[5−4],[5−5],[5−6],
[5−7]のxiのx座標値と比較される。
[0054] The output r 2 of the elliptic surface calculation of FIG. 4 is a comparator [5-8], [5-9], [5-10], [5-11]
In registers [5-4], [5-5], [5-6],
It is compared with the x-coordinate value of x i in [5-7].

【0055】その結果がデコーダ回路[5−12]にて
デコードされ、パラメータを選択するセレクタ[5−1
3],[5−18],[5−23]のセレクト信号が作
成される。デコーダ回路[5−12]の出力によりセレ
クタ[5−13]にてxi、セレクタ[5−18]にて
i、セレクタ[5−23]にてyiが選択される。減算
器[5−1]にてr2からxiが減算された後、乗算器
[5−2]にてaiが掛けられ、さらに加算器[5−
3]にてyiが加算されて、最後に減算器[5−24]
にて1から減算されることにより式(5−1)の処理が
行われて、肌色強度値fが出力される。なお、折れ線の
数はここでは3本であるが、xi,ai,yiのレジスタ
とセレクタ[5−13],[5−18],[5−23]
の選択肢の入力ポートを増やすことで容易に折れ線の数
を増やすことが出来る。
The result is decoded by the decoder circuit [5-12], and the selector [5-1] for selecting a parameter is used.
3], [5-18], and [5-23] are generated. X i the selector [5-13] by the output of the decoder circuit [5-12], a i the selector [5-18], y i is selected by the selector [5-23]. After being subtracted from r 2 x i by the subtractor [5-1], a i is multiplied by the multiplier 5-2, further adder [5-
3], y i is added, and finally a subtractor [5-24]
Is subtracted from 1 to perform the processing of Expression (5-1), and the skin color intensity value f is output. Although the number of polygonal lines is three in this case, x i, a i, a y i register selector [5-13], [5-18], [5-23]
The number of polygonal lines can be easily increased by increasing the number of input ports.

【0056】[0056]

【発明の効果】本発明によって、カラー画像に映る人物
の顔などの肌のディテール成分を軽減することで人物を
きれいにする美肌処理回路の肌色を判別する回路におい
て、非対称な色空間である肌色領域を正確に分離し判別
することができ、また、少ないパラメータ調整にて空間
を近似できることにより回路規模を縮小し、動画像に対
してリアルタイムに調整が可能な美肌処理回路を実現す
ることが可能となる。
According to the present invention, a skin color region which is an asymmetric color space in a circuit for determining a skin color of a beautiful skin processing circuit which cleans a person by reducing skin detail components such as a person's face reflected in a color image. Can be accurately separated and discriminated, and the space can be approximated with a small number of parameter adjustments, thereby reducing the circuit scale and realizing a beautiful skin processing circuit that can adjust video in real time. Become.

【0057】なお、この肌色判別回路は肌色だけでな
く、任意の色空間を判別することも可能であり、カラー
画像を扱う機能における色再現性の改善回路などの特定
の色を判別する回路として使用することが出来る。
The skin color discriminating circuit can discriminate not only a flesh color but also an arbitrary color space, and is used as a circuit for discriminating a specific color such as a circuit for improving color reproducibility in a function for handling a color image. Can be used.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の実施形態にかかる肌色判別回路の構成
説明図である。
FIG. 1 is an explanatory diagram of a configuration of a skin color determination circuit according to an embodiment of the present invention.

【図2】美肌処理回路の構成説明図である。FIG. 2 is an explanatory diagram of a configuration of a beautiful skin processing circuit.

【図3】図1における座標変換部の詳細説明図である。FIG. 3 is a detailed explanatory diagram of a coordinate conversion unit in FIG. 1;

【図4】図1における楕円曲面演算部の詳細説明図であ
る。
FIG. 4 is a detailed explanatory diagram of an elliptic curved surface calculation unit in FIG. 1;

【図5】図1における非線形変換部の詳細説明図であ
る。
FIG. 5 is a detailed explanatory diagram of a nonlinear conversion unit in FIG. 1;

【図6】肌色判別回路の従来例の説明図である。FIG. 6 is an explanatory diagram of a conventional example of a skin color determination circuit.

【図7】色空間説明図である。FIG. 7 is an explanatory diagram of a color space.

【図8】座標変換の説明図ある。FIG. 8 is an explanatory diagram of coordinate conversion.

【図9】非対称楕円曲面演算の特性の説明図である。FIG. 9 is an explanatory diagram of characteristics of an asymmetric elliptic surface calculation.

【図10】非線形変換の特性の説明図である。FIG. 10 is an explanatory diagram of characteristics of nonlinear conversion.

【符号の説明】[Explanation of symbols]

1−1 座標変換部 1−2 楕円曲面演算部 1−3 非線形変換部 1−4 輝度信号入力:Yi 1−5 色差信号入力:Cb 1−6 色差信号入力:Cr 1−7 肌色強度値出力:f 1-1 Coordinate conversion unit 1-2 Elliptic surface calculation unit 1-3 Nonlinear conversion unit 1-4 Luminance signal input: Yi 1-5 Color difference signal input: Cb 1-6 Color difference signal input: Cr 1-7 Skin color intensity value output : F

フロントページの続き Fターム(参考) 5B057 AA11 CA01 CA08 CB01 CB08 CE01 CE18 5C066 AA01 AA03 AA05 AA06 BA20 CA05 GA01 GA02 GA05 KD06 KE01 KE02 KE03 KE04 KF05 KG01 KL13 5C077 MP08 PP19 PP31 PP32 PP34 PP37 PP49 PQ12 SS06 TT02 TT09 5C079 HB01 HB04 HB05 HB11 LA02 LA15 LA31 LB01 MA11 NA03 NA07 NA09 NA11 NA15 NA29Continued on front page F-term (reference) 5B057 AA11 CA01 CA08 CB01 CB08 CE01 CE18 5C066 AA01 AA03 AA05 AA06 BA20 CA05 GA01 GA02 GA05 KD06 KE01 KE02 KE03 KE04 KF05 KG01 KL13 5C077 MP08 PP19 PP31 PP32 P04P37 PP31 PP32 PP04 HPP HB05 HB11 LA02 LA15 LA31 LB01 MA11 NA03 NA07 NA09 NA11 NA15 NA29

Claims (2)

【特許請求の範囲】[Claims] 【請求項1】 カラー画像の肌色部分を判別し、その判
別信号により画像の肌色部分のディテール成分の周波数
帯域を調整することによりカラー画像における人物の肌
の荒れを軽減する美肌処理回路において、 カラー画像の輝度信号と2つの色差信号、あるいはRG
Bの3原色信号の3つの異なる信号の張る3次元空間を
平行移動する演算手段と、 平行移動された3次元空間を回転する演算手段と、 回転された空間の3軸それぞれの値X,Y,Zに対し
て、各軸のスケールパラメータa,b,cを用いて 【数1】 を演算する手段と、 X、Y、Zの符号を判別してスケールパラメータa,
b,cを各々2種類のパラメータap,am,bp,b
m,cp,cmに切替える手段と、 入出力特性が非線形な1次元変換手段により構成される
肌色判別手段を有することを特徴とする美肌処理回路。
1. A skin-smoothing circuit for determining a flesh-color portion of a color image and adjusting a frequency band of a detail component of the flesh-color portion of the image based on the discrimination signal to reduce rough skin of a person in the color image. Image luminance signal and two color difference signals, or RG
Computing means for translating the three-dimensional space spanned by three different signals of the three primary color signals of B; computing means for rotating the translated three-dimensional space; and values X and Y for each of the three axes of the rotated space , Z using the scale parameters a, b, c of each axis. And a scale parameter a, by determining the sign of X, Y, Z.
b and c are respectively set to two kinds of parameters ap, am, bp, b
A beautiful skin processing circuit comprising: means for switching to m, cp, cm; and skin color discriminating means constituted by one-dimensional conversion means having non-linear input / output characteristics.
【請求項2】 カラー画像の任意の色を判別する色判別
回路において、 カラー画像の輝度信号と2つの色差信号、あるいはRG
Bの3原色信号の3つの異なる信号の張る3次元空間を
平行移動する演算手段と、 平行移動された3次元空間を回転する演算手段と、 回転された空間の3軸それぞれの値X,Y,Zに対し
て、各軸のスケールパラメータa,b,cを用いて 【数2】 を演算する手段と、 X、Y、Zの符号を判別してスケールパラメータa,
b,cを各々2種類のパラメータap,am,bp,b
m,cp,cmに切替える手段と、 入出力特性が非線形な1次元変換手段を備えることを特
徴とする色判別回路。
2. A color discriminating circuit for discriminating an arbitrary color of a color image, comprising: a luminance signal of the color image and two color difference signals;
Computing means for translating the three-dimensional space spanned by three different signals of the three primary color signals of B; computing means for rotating the translated three-dimensional space; and values X and Y for each of the three axes of the rotated space , Z using the scale parameters a, b, c of each axis. And a scale parameter a, by determining the sign of X, Y, Z.
b and c are respectively set to two kinds of parameters ap, am, bp, b
A color discriminating circuit comprising: means for switching between m, cp, and cm; and one-dimensional conversion means having non-linear input / output characteristics.
JP2000151690A 2000-05-23 2000-05-23 Skin color intensity value discrimination circuit and color intensity value discrimination circuit Expired - Fee Related JP3649653B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000151690A JP3649653B2 (en) 2000-05-23 2000-05-23 Skin color intensity value discrimination circuit and color intensity value discrimination circuit

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000151690A JP3649653B2 (en) 2000-05-23 2000-05-23 Skin color intensity value discrimination circuit and color intensity value discrimination circuit

Publications (2)

Publication Number Publication Date
JP2001333435A true JP2001333435A (en) 2001-11-30
JP3649653B2 JP3649653B2 (en) 2005-05-18

Family

ID=18657205

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000151690A Expired - Fee Related JP3649653B2 (en) 2000-05-23 2000-05-23 Skin color intensity value discrimination circuit and color intensity value discrimination circuit

Country Status (1)

Country Link
JP (1) JP3649653B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004088993A1 (en) * 2003-03-28 2004-10-14 Sony Corporation Imaging device
JP2006186812A (en) * 2004-12-28 2006-07-13 Matsushita Electric Ind Co Ltd Camera instrument
JP2016171445A (en) * 2015-03-12 2016-09-23 オムロン株式会社 Image processing apparatus and image processing method

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004088993A1 (en) * 2003-03-28 2004-10-14 Sony Corporation Imaging device
JP2006186812A (en) * 2004-12-28 2006-07-13 Matsushita Electric Ind Co Ltd Camera instrument
JP2016171445A (en) * 2015-03-12 2016-09-23 オムロン株式会社 Image processing apparatus and image processing method

Also Published As

Publication number Publication date
JP3649653B2 (en) 2005-05-18

Similar Documents

Publication Publication Date Title
JPH02162475A (en) Picture contour correcting method
JPH06225329A (en) Method and device for chromakey processing
JP3581835B2 (en) Color conversion method and apparatus in chroma key processing
US6115078A (en) Image sharpness processing method and apparatus, and a storage medium storing a program
US20060182364A1 (en) System and method for sharpening vector-valued digital images
WO2002021849A1 (en) Image processor and colorimetric system converting method
US5442717A (en) Sharpness processing apparatus
JP3539665B2 (en) Face area correction method, face area correction apparatus, and recording medium storing face area correction program
JPWO2002071761A1 (en) Image processing apparatus and image processing program
CN109274949A (en) A kind of method of video image processing and its device, display equipment
JP2001014454A (en) Picture processor
JP2002281327A (en) Device, method and program for image processing
JP2001333435A (en) Beautiful skin processing circuit and color discrimination circuit
JP2003123063A (en) Image processor
JPH05244406A (en) Color adjustment device
JP3492151B2 (en) Image sharpness processing method and apparatus, and storage medium storing program
KR20050019883A (en) Non-linear picture processing
JP4345366B2 (en) Image processing program and image processing apparatus
CN110298812A (en) A kind of method and device of image co-registration processing
EP2352123A1 (en) Specified color area demarcation circuit, detection circuit, and image processing apparatus using same
JP4382832B2 (en) Image processing apparatus and program
JP2882754B2 (en) Soft chroma key processing method
JP2000152268A (en) Video signal processing unit
JP2663878B2 (en) Human motion area detection device
Strickland et al. Luminance, hue, and saturation processing of digital color images

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040312

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040413

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040611

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050215

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050215

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080225

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090225

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100225

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100225

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110225

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120225

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120225

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130225

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130225

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140225

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees