JP2000023174A - 画像処理装置及び画像処理方法 - Google Patents

画像処理装置及び画像処理方法

Info

Publication number
JP2000023174A
JP2000023174A JP10185851A JP18585198A JP2000023174A JP 2000023174 A JP2000023174 A JP 2000023174A JP 10185851 A JP10185851 A JP 10185851A JP 18585198 A JP18585198 A JP 18585198A JP 2000023174 A JP2000023174 A JP 2000023174A
Authority
JP
Japan
Prior art keywords
image
interpolation filter
signal
luminance gradient
rgb
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10185851A
Other languages
English (en)
Other versions
JP3771054B2 (ja
Inventor
Shin Aoki
青木  伸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP18585198A priority Critical patent/JP3771054B2/ja
Priority to US09/346,277 priority patent/US6882365B1/en
Publication of JP2000023174A publication Critical patent/JP2000023174A/ja
Application granted granted Critical
Publication of JP3771054B2 publication Critical patent/JP3771054B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)

Abstract

(57)【要約】 【課題】単板式CCDで得られるデータからRGBなど
の画像データに変換するときに、モアレやエッジ色付き
などが生じることを防ぎ画質劣化を抑制する。 【解決手段】フィルタ係数選択部7はラインバッファ5
から得られた3×3画素分の画像データに対して所定の
演算を行ない、閾値と比較して輝度勾配方向に応じた
縦,横,通常の3種類の補間フィルタ係数を選択する信
号を各係数メモリ8に出力する。各係数メモリ8は送ら
れた係数選択信号と行/列カウンタ6からの行/列信号
にしたがい、あらかじめ記録してある補間用フィルタ係
数の中の一組を各補間フィルタ9に出力する。各補間フ
ィルタ9はラインバッファ5から入力する画像データを
送られた補間用フィルタ係数を使って積和演算を行いフ
ィルタを処理しR,G,Bの画像信号を出力する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】この発明は、例えばデジタル
カメラやデジタルスキャナ等のように複数の色分解フィ
ルタを配列した撮像素子の出力する信号から通常のカラ
ーデジタル画像信号に変換する画像処置装置及び画像処
理方法、特に画質劣化の抑制に関するものである。
【0002】
【従来の技術】1個の撮像デバイスから3原色信号を得
るために、2次元に配列した画素おのおの色フィルタを
重ね合わせ、色情報を輝度情報に多重された形式で撮像
デバイスから取り出す単板式CCDがデジタルカメラや
デジタルスキャナに使用されている。この単板式CCD
で色再現性の向上を図る処理装置が、例えば特開平2−
128591号公報に示されている。特開平2−128
591号公報に示されている処理装置は、CCDに4種
のカラーフィルタを設け、CCDから出力する各色フィ
ルタ毎の信号を補間して、各々同時化されたマゼンタM
r,シアンCr,イェローYr,グリーンGrの色信号
を得た後、各色信号を行列演算してR,G,Bの3信号
を生成するようにしている。
【0003】
【発明が解決しようとする課題】しかしながら、各色フ
ィルタの配列によっては補間によりモアレやエッジの色
付きなどといった画質劣化が生じる。例えば、RGBの
3種類の色分解フィルタをもつ単板式CCDの場合、3
×3画素が図2に示すように、ある点を中心にして
(G,R,G),(B,G,B),(G,R,G)と配
列されている場合、中心の画素位置のR,G,B値を求
めるためには、従来の線形補間ではそれぞれ図5に示す
ように9画素に重み付けをしたR,G,Bの補間フィル
タを用い、その和を求めて中心の位置の色信号を得てい
る。例えば図2に示す場合は上下のR画素の平均値を注
目画素のR値としている。
【0004】このような補間フィルタを使用すると、撮
像面上で図7(a),(b)に示すように、2画素周期
の白黒の横縞の像を撮像した場合、像が白黒であるから
色フィルタの種類によらず各画素から、図に示すよう
に、白か黒を示す「0」と「255」数値を出力するた
め、補間結果の(R,G,B)値は、図7(a)の場合
(255,0,0)となり、(b)の場合は(0,25
5,255)となる。すなわち、撮像面上では白/黒の
像が補間処理された画像信号では赤/シアンになってし
まう。同様なことが他の配置についても起こり、像の変
化が激しいと実際の色とは異なる色をもつRGB画像デ
ータが得られてしまい、モアレや色付きの原因になって
しまう。
【0005】この発明はかかる短所を改善し、単板式C
CDで得られるデータからRGBなどの画像データに変
換するときに、モアレやエッジ色付きなどが生じること
を防ぎ、画質劣化を抑制することができる画像処理装置
及び画像処理方法を提供することを目的とするものであ
る。
【0006】
【課題を解決するための手段】この発明に係る画像処理
装置は、複数の色分解フィルタを配列した撮像素子から
出力する撮像信号をRGBのカラーデジタル画像信号に
変換する画像処理装置において、撮像信号から画像の輝
度勾配方向を推定する手段と、推定された輝度勾配方向
にしたがい補間フィルタ処理の特性を決定する手段と、
決定した特性の補間フィルタ処理を行う補間フィルタ演
算手段を有することを特徴とする。
【0007】この発明に係る第2の画像処理装置は、複
数の色分解フィルタを配列した撮像素子から出力する撮
像信号をRGBのカラーデジタル画像信号に変換する画
像処理装置において、撮像信号にあらかじめ定められた
特性で補間フィルタ処理を行なう複数の補間フィルタ演
算手段と、撮像信号から画像の輝度勾配方向を推定する
手段と、推定された輝度勾配方向にしたがいRGB変換
行列の特性を決定する手段と、上記補間フィルタ演算手
段から出力する信号に対して輝度勾配方向にしたがって
決定された特性のRGB変換行列の演算を行なうRGB
変換手段を有することを特徴とする。この輝度勾配方向
にしたがって決定されたRGB変換行列の特性を輝度勾
配の方向により連続的に変化させると良い。
【0008】この発明に係る他の画像処理装置は、複数
の色分解フィルタを配列した撮像素子から出力する撮像
信号をRGBのカラーデジタル画像信号に変換する画像
処理装置において、撮像信号にあらかじめ定められた特
性で補間フィルタ処理を行なう複数の補間フィルタ演算
手段と、撮像信号から画像の輝度勾配方向を推定する手
段と、補間フィルタ演算手段から出力する信号を、推定
された輝度勾配方向にしたがい修正してRGB変換行列
の演算を行なうRGB変換手段を有することを特徴とす
る。
【0009】この発明に係る画像形成方法は、複数の色
分解フィルタを配列した撮像素子から出力する撮像信号
をRGBのカラーデジタル画像信号に変換する画像処理
方法において、撮像信号から画像の輝度勾配方向を推定
し、推定された輝度勾配方向にしたがい補間フィルタ処
理の特性を決定し、決定した特性の補間フィルタ処理を
行うことを特徴とする。
【0010】この発明に係る第2の画像形成方法は、複
数の色分解フィルタを配列した撮像素子から出力する撮
像信号をRGBのカラーデジタル画像信号に変換する画
像処理方法において、撮像信号にあらかじめ定められた
特性で補間フィルタ処理を行うとともに撮像信号から画
像の輝度勾配方向を推定し、推定された輝度勾配方向に
したがいRGB変換行列の特性を決定し、補間フィルタ
処理した信号に対して輝度勾配方向にしたがって決定さ
れた特性のRGB変換行列の演算を行なうことを特徴と
する。この輝度勾配方向にしたがって決定されたRGB
変換行列の特性を輝度勾配の方向により連続的に変化さ
せると良い。
【0011】この発明に係る他の画像形成方法は、複数
の色分解フィルタを配列した撮像素子から出力する撮像
信号をRGBのカラーデジタル画像信号に変換する画像
処理方法において、映像信号にあらかじめ定められた特
性で補間フィルタ処理を行なうとともに撮像信号から画
像の輝度勾配方向を推定し、補間フィルタ処理された信
号を、推定された輝度勾配方向にしたがい修正してRG
B変換行列の演算を行なうことを特徴とする。
【0012】
【発明の実施の形態】この発明の画像入力装置は、2×
2画素周期のRGB型単板CCDを有する撮像手段と信
号処理部を有する。信号処理部はA/D変換器とライン
バッファと行/列カウンタとフィルタ係数選択部及び3
組の係数メモリと3組の補間フィルタを有する。A/D
変換器は撮像手段で撮像した画像の画素毎の画像信号を
A/D変換する。ラインバッファは撮像手段からスキャ
ンライン順にシリアルに転送されてくる画像データから
縦横3×3画素分のデータを取り出す。行/列カウンタ
は撮像手段が出力するデータ中の現在の注目画素位置の
行と列をカウントし、行/列信号を出力して色フィルタ
の配列パターンを示す。フィルタ係数選択部はラインバ
ッファから得られる3×3画素分の画像データに対して
所定の演算を行ない、所定の閾値と比較して、縦,横,
通常の3種類の補間フィルタ係数を選択する信号を出力
する。係数メモリには2画素周期の縦縞用補間フィルタ
の補間用フィルタ係数と、線形補間用の補間用フィルタ
係数があらかじめ記録され、フィルタ係数選択部からの
係数選択信号と行/列カウンタからの行/列信号により
あらかじめ記録してある補間用フィルタ係数の中の1組
を出力する。補間フィルタはラインバッファから入力す
る画像データを係数メモリから入力する補間用フィルタ
係数を使って積和演算を行いRGB信号に変換する。
【0013】撮像手段から画素毎の画像信号が入力する
とA/D変換器でA/D変換したのちラインバッファに
送る。ラインバッファは送られた画像データから縦横3
×3画素分のデータを取り出してフィルタ係数選択部と
補間フィルタに出力する。一方、行/列カウンタは撮像
手段が出力するデータ中の現在の注目画素位置の行と列
をカウントし、「0/0」,「0/1」,「1/0」,
「1/1」の行/列信号を係数メモリに出力して色フィ
ルタの配列パターンを示す。フィルタ係数選択部はライ
ンバッファから得られた3×3画素分の画像データに対
してあらかじめ定めた演算を行ない、所定の閾値と比較
して、輝度勾配方向に応じた縦,横,通常の3種類の補
間フィルタ係数を選択する信号を各係数メモリに出力す
る。各係数メモリはフィルタ係数選択部からの係数選択
信号と行/列カウンタからの行/列信号にしたがい、あ
らかじめ記録してある補間用フィルタ係数の中の一組を
それぞれ補間フィルタに出力する。補間フィルタはライ
ンバッファから入力する画像データをフィルタ係数メモ
リから入力する補間用フィルタ係数を使って積和演算を
行いフィルタを処理しR,G,Bの画像信号を出力す
る。このようにして、輝度勾配の方向を調べ、方向に応
じた補間用フィルタ係数を採用し、モアレや色付きなど
の画質劣化を抑制する。
【0014】
【実施例】図1はこの発明の一実施例の画像入力装置の
構成を示すブロック図である。図に示すように、画像入
力装置1は、2×2画素周期のRGB型単板CCDを有
する撮像手段2と信号処理部3を有する。撮像手段2の
CCDは3×3画素周期の色フィルタ配列を有する。こ
の色フィルタは、例えば図2に示すように、3×3画素
のある点を中心にして(G,R,G),(B,G,
B),(G,R,G)の画素配置を有する。この3×3
画素の範囲内のRGBの色フィルタ配列として図3に示
す2×2の行/列信号で定まる4種類を有する。
【0015】信号処理部3はA/D変換器4とラインバ
ッファ5と行/列カウンタ6とフィルタ係数選択部7及
び3組の係数メモリ8a,8b,8cと補間フィルタ9
a,9b,9cを有する。A/D変換器4は撮像手段2
で撮像した画像の画素毎の画像信号を入力して読出クロ
ックに同期したタイミングでA/D変換する。ラインバ
ッファ5は、例えば図4に示すように、FIFOメモリ
を使った1ライン遅延メモリ51a,51bと、3×3
画素の各行に対応して直列に接続された3組のラッチ5
2a,52b,52cと3組のラッチ53a,53b,
53cと3組のラッチ54a,54b,54cからな
り、撮像手段2からスキャンライン順にシリアルに転送
されてくる画像データから縦横3×3画素分のデータを
取り出す。行/列カウンタ6は撮像手段2のCCDが出
力するデータ中の現在の注目画素位置の行と列をカウン
トし、図3に示すように、「0/0」,「0/1」,
「1/0」,「1/1」の行/列信号を出力して色フィ
ルタの配列パターンを示す。フィルタ係数選択部7はラ
インバッファ5から得られる3×3画素分の画像データ
に対して所定の演算を行ない、所定の閾値と比較して、
縦,横,通常の3種類の補間フィルタ係数を選択する信
号(0,1,2)を出力する。係数メモリ8a,8b,
8cには2画素周期の縦縞用補間フィルタの補間用フィ
ルタ係数と、図5に示す線形補間用の補間用フィルタ係
数があらかじめ記録され、フィルタ係数選択部7からの
係数選択信号と行/列カウンタ6からの行/列信号にし
たがい、あらかじめ記録してある補間用フィルタ係数の
中の1組を出力する。補間フィルタ9a,9b,9c
は、ラインバッファ5から入力する画像データを係数メ
モリ8a〜8cから入力する補間用フィルタ係数を使っ
て積和演算を行いRGB信号に変換する。
【0016】上記のように構成された画像入力装置1の
動作を説明するにあたり、まず、入力した各画素の画像
データ信号をR,G,B信号に変換する補間用フィルタ
係数について説明する。
【0017】図2に示す色フィルタの配列についての補
間フィルタとしては、図6に示す構成を考える。この補
間フィルタの特徴は、R画素にかかる係数は図5に示す
従来の線形補間用の補間フィルタと同じ「1/2」であ
り、B画素にかかる係数も従来の補間フィルタと同じ
「0」と「1/2」であり、G画素にかかる係数は従来
の補間フィルタと異なり「1/2」と「−1/8」と
「1/8」であり、G画素の係数の総和は「0」であ
る。したがって3×3画素領域内の4つのG画像が同じ
値を持っていれば、図5に示した従来の補間フィルタに
よる補間と全く同じ結果になる。さらに、このフィルタ
係数には、横方向の3画素分の係数の和は上から順に
「1/4」,「1/2」,「1/4」である。この特徴
により図7(a),(b)に示すように、2画素周期の
白黒の横縞の像を撮像した場合、補間結果の(R,G,
B)値は、(a)の場合と(b)の場合で同じ値(12
8,128,128)になる。すなわち、このような補
間フィルタを使えば、平坦な画像に対しては従来の補間
と同じ値を持ち、2画素周期の白黒の横縞に対してはモ
アレがでないフラットな出力をすることができる。ま
た、上記と同じ特徴を有する図8に示す係数を有する補
間フィルタを使用しても、平坦な画像に対しての補間特
性を保ったまま、2画素周期の縦縞に対してフラットな
出力を得ることができる。
【0018】このような特徴を有する補間フィルタの補
間フィルタ係数は次のようにして得ることができる。こ
こで3×3画素の補間フィルタの補間フィルタ係数が上
下左右で対象とする制約をつけると、補間フィルタ係数
の自由度は図9に示すように(a,b,c,d)の4つ
である。これらの補間フィルタ係数には平坦な画像に対
応するためRGBごとの制約がある。すなわち、R信号
を出力する補間フィルタは、Rフィルタ位置の係数の和
が1となり、G,Bフィルタ位置の係数の和はそれぞれ
0とはならなければならない。このため2c=1と(a
+4d)=0と2b=0の関係を満たさなければならな
い。さらに、2画素周期の横縞を透過させないために、
上下行の係数の和と中段の係数の和を等しくすると、
(2c+4d)=(2b+a)となる。この関係からR
信号を出力する補間フィルタの補間フィルタ係数は、
(a,b,c,d)=(1/2,0,1/2,−1/
8)となる。G,B信号を出力する補間フィルタの補間
フィルタ係数も同様にして得ることができ、図10及び
図11に示す2画素周期の縦縞用補間用フィルタ係数を
得ることができる。この図10及び図11に示す2画素
周期の縦縞用補間フィルタ係数と図5に示す線形補間用
の補間用フィルタ係数をあらかじめ係数メモリ8a〜8
cに記憶しておく。
【0019】しかしながら3×3画素の補間フィルタで
は、上記のように4つの自由度に対して、制約条件はR
GBそれぞれの和について3つである。残りの自由度は
1つなので、縦または横方向の縞に対しての要求のどち
らかしか満たすことはできない。3×3画素より大きい
補間フィルタを使用すれば自由度は増すが、RGBそれ
ぞれの制約条件があるため自由な周波数特性を作ること
はできず、遠くの画素の影響が大きければそれだけ補間
結果がぼけることになる。また、マスクが大きくなれば
バッファメモリ、加算器など必要なハードウエアも増え
てしまう。このため輝度勾配の方向を調べ、方向によっ
て上記のような補間方法のいずれかを採用することによ
り、モアレ色付きなどの画質劣化を抑制する。
【0020】この輝度勾配の方向を推定するため、注目
画素の周囲3×3画素の画像データを図12に示すよう
にV(x,y)とする。ここでxは(i−1),
(i),(i+1)、yは(j−1),(j),(j+
1)である。この画像デ−タV(x,y)に対して、注
目画素v(i,j)の左側の輝度変化を表す量dlと、
注目画素v(i,j)の右側と上側と下側の輝度変化を
それぞれ表す量dr,du,ddを下記(1)式で計算
する。
【0021】
【数1】
【0022】次にdl,dr,du,ddの最大値を探
す。最大値がdlまたはdrである場合、注目画素v
(i,j)付近では横方向の輝度変化が大きいと判断で
きるので、図8に示す補間用フィルタ係数を使う。逆に
最大値がduまたはddである場合は、図6に示す補間
用フィルタ係数を使う。このような方法により、縦縞ま
たは横縞の対象物を撮影した場合でもモアレや色付きの
ないRGB画像を得ることができる。また、斜め方向の
縞を撮影した場合、縦横ともに変化が大きくなる。その
場合、縦/横どちらのフィルタをつかっても多少モアレ
が生る。また、わずかな雑音などにより図6,図8の縦
横用フィルタ係数の処理結果が混在することで画質劣化
が生じる。これを避けるために下記(2)式を演算す
る。
【0023】
【数2】
【0024】上記(2)式においてmax(dl,d
r)はdl,drの最大値を示す。フィルタ係数選択部
7は、この(1),(2)の演算を行ない、演算したd
irを所定の閾値trと比較し、dir>trの場合は
縦用、dir<−trの場合は横用、それ以外は図5に
示す線形補間用の補間用フィルタ係数を選択して選択信
号(0,1,2)を出力する。
【0025】上記のように構成された画像入力装置1に
おいて、撮像手段2から入力した画像の画素毎の画像信
号はA/D変換器4でA/D変換したのちラインバッフ
ァ5に送られる。ラインバッファ5は送られた画像デー
タから縦横3×3画素分のデータを取り出してフィルタ
係数選択部7と補間フィルタ9a〜9cに出力する。一
方、行/列カウンタ6は撮像手段2のCCDが出力する
データ中の現在の注目画素位置の行と列をカウントし、
図3に示すように「0/0」,「0/1」,「1/
0」,「1/1」の行/列信号を係数メモリ8a〜8c
に出力して色フィルタの配列パターンを示す。フィルタ
係数選択部7はラインバッファ5から得られた3×3画
素分の画像データに対して前記(1)、(2)式の演算
を行ない、所定の閾値trと比較して、縦,横,通常の
3種類の補間フィルタ係数を選択する信号(0,1,
2)を係数メモリ8a〜8cに出力する。係数メモリ8
a〜8cはフィルタ係数選択部7からの係数選択信号と
行/列カウンタ6からの行/列信号にしたがい、あらか
じめ記録してある補間用フィルタ係数の中の一組を補間
フィルタ9a〜9cに出力する。補間フィルタ9a〜9
cはラインバッファ5から入力する画像データをフィル
タ係数メモリ8a〜8cからの補間用フィルタ係数を使
って積和演算を行いフィルタを処理しR,G,Bの画像
信号を出力する。
【0026】このようにして、輝度勾配の方向を調べ、
方向によって上記のような補間方法のいずれかを採用す
ることにより、モアレや色付きなどの画質劣化を抑制す
ることができる。また、例えば撮影対象が一様なシアン
(R=G=255,B=0)の場合、入力データは図1
3に示すようになり、輝度勾配の方向を推定しない場合
は、勾配が無いにもかかわらず縦と判断されるが、輝度
勾配の方向を推定して補間用フィルタ係数を選択するこ
とにより、補間フィルタ9a〜9cは輝度勾配のない入
力に対しては縦でも横でも同じ出力をするので、画像の
輝度勾配に適応した補間処理を行なうことができる。
【0027】上記実施例は画像の輝度勾配によって補間
用フィルタ係数を切り替える場合について説明したが、
画像の輝度勾配の方向によってRGB変換行列を変える
ようにしても上記実施例と同様にが知るの劣化を抑制す
ることができる。
【0028】この画像の輝度勾配の方向によってRGB
変換行列を変える実施例の構成を図14に示す。図に示
すように、画像入力装置1の信号処理部3にはA/D変
換器4とラインバッファ5と行/列カウンタ6と変換係
数選択部11と変換係数メモリ12と補間フィルタ13
a〜13d及びRGB変換部14を有する。変換係数選
択部11は前記第1の実施例のフィルタ係数選択部7と
同様な演算を行い、縦,横,通常の3種類の係数を選択
する信号(0,1,2)を出力する。変換係数メモリ1
2には、図15に示すように、行/列信号毎に横勾配用
の行列と縦勾配用の行列の勾配方向係数があらかじめ記
憶され、変換係数選択部11からの係数選択信号と行/
列カウンタ6からの行/列信号にしたがい勾配方向係数
の中の一組を選択して出力する。補間フィルタ13aに
は、例えば図2に示す3×3画素の配置に対して図16
に示すCh0の補間用フィルタ係数を有し、補間フィル
タ13bはCh1の補間用フィルタ係数を有し、補間フ
ィルタ13cにはCh2の補間用フィルタ係数、補間フ
ィルタ13dにはCh3の補間用フィルタ係数を有し、
ラインバッファ5から入力した画像データに対して各補
間用フィルタ係数を使用して演算処理する。この補間フ
ィルタ13a〜13dの各補間用フィルタ係数は「0」
か「1」なので、演算処理を下記(3)式により選択と
加算だけで実現することができる。したがって補間フィ
ルタ13a〜13dを前記第1の実施例と比べて簡単な
回路構成で形成することができる。
【0029】
【数3】
【0030】RGB変換部14は補間フィルタ13a〜
13dで得た結果Ch0〜Ch3と変換係数メモリ12
からの勾配方向係数により下記(4)式に示す行列演算
してRGB信号を出力する。
【0031】
【数4】
【0032】このRGB変換部14でRGB信号を求め
るとき、変換係数メモリ12から下記(5)式に示す横
勾配用行列の勾配方向係数と(6)式に示す縦勾配用行
列の勾配方向係数のいずれかが選択された場合、図12
に示す注目画素V(x,y)のRGB信号は下記(7)
式又は(8)式で得られる。
【0033】
【数5】
【0034】この結果、前記図6,図8に示した補間用
フィルタ係数を使用した場合と同じ結果を得ることがで
きる。また、このRGB変換と同時に色補正処理を行っ
たり、色差信号を生成することもできる。その場合、乗
算処理が必要になるが、行列演算処理を簡単な回路構成
で行なうことができる。
【0035】次に、勾配方向係数によりRGB変換行列
を連続的に変化させる第3の実施例について説明する。
この実施例の画像入力装置1は、図17のブロック図に
示すように、信号処理部3にA/D変換器4とラインバ
ッファ5と行/列カウンタ6と勾配係数フィルタ15と
変換係数決定部16と補間フィルタ13a〜13d及び
RGB変換部14を有する。勾配係数フィルタ15は第
1の実施例のフィルタ係数選択部7と同様に(1),
(2)式の計算を行い、その演算結果dirを下記
(9)式に示すように、所定の閾値trでクリッピング
して正規化したdirを出力する。
【0036】
【数6】
【0037】変換係数決定部16は、例えば図15に示
す勾配方向係数を記憶しておき、6行/列カウンタ6か
らの入力にしたがい勾配方向係数を選択し、選択した勾
配方向係数に変換係数フィルタ15から入力したdir
の値を乗じてRGB変換部14に出力する。RGB変換
部14は補間フィルタ13a〜13dから出力されるC
h0〜Ch3と変換係数決定部16から出力される勾配
方向係数にdirの値を乗算した結果から行列演算して
RGB信号を出力する。このように勾配方向係数により
RGB変換行列を連続的に変化させることにより、斜め
方向の輝度勾配などによる画質劣化を低減することがで
きる。すなわち、(5)式と(6)式を比べると、2組
の勾配方向係数で係数r0,r3,b0,b3の符号が
反転している。また、通常の線形補間はこれらを全て
「0」とした場合に対応する。そこで、縦から横へ
「1」から「−1」まで変化する数値dirを出力し、
係数r0,r3,b0,b3にdirを乗算することで
縦縞用と横縞用及びその他用の処理を連続的に変化させ
るができる。したがって斜め方向の縞などで縦用と横用
係数が混在することによる画質劣化を抑えることができ
る。
【0038】上記第2,第3の実施例は画像の輝度勾配
の方向によってRGB変換行列を変える場合について説
明したが、RGB変換行列の係数は一定にしておき、補
間フィルタ13a〜13dから出力するCh0〜Ch3
のデータを勾配方向係数により修正する用にしても良
い。この場合の実施例の画像入力装置1の構成を図18
に示す。図18に示すように、信号処理部3の勾配係数
フィルタ15で演算した結果をRBG変換部14に送
る。変換係数決定部16は、例えば図15に示す勾配方
向係数を記憶しておき、変換係数決定部16は行/列カ
ウンタ6から入力する行/列信号により勾配方向係数を
選択してRGB変換部14に送る。RGB変換部14は
補間フィルタ13a〜13dから出力されるCh0〜C
h3データと勾配係数フィルタ15から送られた演算結
果dir及び変換係数決定部16から送られた勾配方向
係数により下記(10)式でRGB信号を演算して出力
する。
【0039】
【数7】
【0040】このように、補間フィルタ13a〜13d
から出力されるCh0〜Ch3データを勾配方向係数で
修正することにより、簡単な回路構成で画質の劣化を抑
制することができる。
【0041】上記各実施例は画素ごとのRGB信号を出
力する場合について説明したが、補間用フィルタ係数又
はRGB変換係数を変更することにより、輝度信号と色
差信号を得ることもできる。さらに、補間用フィルタ係
数又はRGB変換係数を変更することにより色分解フィ
ルタの特性を補正する色補正処理を組み込むこともでき
る。
【0042】上記各実施例は撮像手段2から入力した画
像データを信号処理部3で所定の演算処理をして各画素
毎のRGB信号を出力する場合について説明したが、図
19のブロック図に示すように、信号処理部3の各演算
処理をプログラムとしてハードディスク装置23に格納
しておき、CPU21でハードディスク装置23に格納
した各演算処理プログラムにより演算処理を実行して画
素毎のRGB信号を得るようにしても良い。
【0043】この場合、例えばデジタルカメラ28で撮
像した画像データをA/D変換してから通信装置27を
介して入力する。CPU21は入力した画像データをハ
ードディスク装置23に格納された演算処理プログラム
により、上記各実施例と同様に演算処理して画素毎のR
GB信号を算出し、入力した画像のカラーデジタル画像
信号を得る。このカラーデジタル画像信号により入力し
た画像のカラー画像をディスプレイ24やプリンタ25
に出力して表示したり印刷する。このようにハードディ
スク装置23に格納した各演算処理プログラムによりC
PU21で演算処理を実行して画素毎のRGB信号を得
ることにより、フロッピーディスクに記憶した画像デー
タをフロッピーディスク装置26で読み取って再現する
こともできる。
【0044】
【発明の効果】この発明は以上説明したように、撮像信
号から画像の輝度勾配方向を推定し、推定された輝度勾
配方向にしたがい補間フィルタ処理の特性を決定して補
間フィルタ処理を行うから、画像の勾配に適応した補間
処理を行うことができ、モアレ、色つきを低減すること
ができる。
【0045】また、撮像信号にあらかじめ定められた特
性で補間フィルタ処理するとともに撮像信号から画像の
輝度勾配方向を推定し、推定された輝度勾配方向にした
がいRGB変換行列の特性を決定し、補間フィルタ処理
した信号に輝度勾配方向にしたがって決定された特性の
RGB変換行列の演算を行なうから、画像の勾配に適応
したRGB変換処理を行うことができ、モアレ、色つき
を低減することができる。さらに、補間処理は加算だけ
で済むから、小規模な演算回路で補間処理を行なうこと
ができる。
【0046】また、輝度勾配方向にしたがって決定され
たRGB変換行列の特性を輝度勾配の方向により連続的
に変化させることにより、斜め方向の勾配などによる画
質劣化を低減することができる。
【0047】また、撮像信号にあらかじめ定められた特
性で補間フィルタ処理を行なうとともに撮像信号から画
像の輝度勾配方向を推定し、補間フィルタ処理された信
号を、推定された輝度勾配方向にしたがい修正してRG
B変換行列の演算を行なうことにより、小規模な演算回
路で任意の色変換行列に対応することができる。
【図面の簡単な説明】
【図1】この発明の実施例の構成を示すブロック図であ
る。
【図2】3×3画素の配置図である。
【図3】色フィルタの配列パターンを示す説明図であ
る。
【図4】ラインバッファの構成を示すブロック図であ
る。
【図5】線形補間用の補間フィルタの補間用フィルタ係
数を示す説明図である。
【図6】横縞用の補間フィルタの補間用フィルタ係数を
示す説明図である。
【図7】横縞の入力データを示す3×3画素の配置図で
ある。
【図8】他の横縞用の補間フィルタの補間用フィルタ係
数を示す説明図である。
【図9】3×3画素の補間用フィルタ係数の自由度を示
す説明図である。
【図10】横縞用の補間用フィルタ係数を示す説明図で
ある。
【図11】他の横縞用の補間用フィルタ係数を示す説明
図である。
【図12】注目画素の周囲3×3画素のデータを示す説
明図である。
【図13】シアンの入力データを示す説明図である。
【図14】第2の実施例の構成を示すブロック図であ
る。
【図15】横勾配用の行列と縦勾配用の行列の勾配方向
係数を示す説明図である。
【図16】第2の実施例の補間用フィルタ係数を示す説
明図である。
【図17】第3の実施例の構成を示すブロック図であ
る。
【図18】第4の実施例の構成を示すブロック図であ
る。
【図19】第5の実施例の構成を示すブロック図であ
る。
【符号の説明】
1 画像入力装置 2 撮像手段 3 信号処理部 4 A/D変換器 5 ラインバッファ 6 行/列カウンタ 7 フィルタ係数選択部 8 係数メモリ 9 補間フィルタ 11 変換係数選択部 12 変換係数メモリ 13 補間フィルタ 14 RGB変換部 15 勾配係数フィルタ 16 変換係数決定部

Claims (8)

    【特許請求の範囲】
  1. 【請求項1】 複数の色分解フィルタを配列した撮像素
    子から出力する撮像信号をRGBのカラーデジタル画像
    信号に変換する画像処理装置において、 撮像信号から画像の輝度勾配方向を推定する手段と、推
    定された輝度勾配方向にしたがい補間フィルタ処理の特
    性を決定する手段と、決定した特性の補間フィルタ処理
    を行う補間フィルタ演算手段を有することを特徴とする
    画像処理装置。
  2. 【請求項2】 複数の色分解フィルタを配列した撮像素
    子から出力する撮像信号をRGBのカラーデジタル画像
    信号に変換する画像処理装置において、 撮像信号にあらかじめ定められた特性で補間フィルタ処
    理を行なう複数の補間フィルタ演算手段と、撮像信号か
    ら画像の輝度勾配方向を推定する手段と、推定された輝
    度勾配方向にしたがいRGB変換行列の特性を決定する
    手段と、上記補間フィルタ演算手段から出力する信号に
    対して輝度勾配方向にしたがって決定された特性のRG
    B変換行列の演算を行なうRGB変換手段を有すること
    を特徴とする画像処理装置。
  3. 【請求項3】 上記輝度勾配方向にしたがって決定され
    たRGB変換行列の特性を輝度勾配の方向により連続的
    に変化させる請求項2記載の画像処理装置。
  4. 【請求項4】 複数の色分解フィルタを配列した撮像素
    子から出力する撮像信号をRGBのカラーデジタル画像
    信号に変換する画像処理装置において、 撮像信号にあらかじめ定められた特性で補間フィルタ処
    理を行なう複数の補間フィルタ演算手段と、撮像信号か
    ら画像の輝度勾配方向を推定する手段と、補間フィルタ
    演算手段から出力する信号を推定された輝度勾配方向に
    したがい修正してRGB変換行列の演算を行なうRGB
    変換手段を有することを特徴とする画像処理装置。
  5. 【請求項5】 複数の色分解フィルタを配列した撮像素
    子から出力する撮像信号をRGBのカラーデジタル画像
    信号に変換する画像処理方法において、 撮像信号から画像の輝度勾配方向を推定し、推定された
    輝度勾配方向にしたがい補間フィルタ処理の特性を決定
    し、決定した特性の補間フィルタ処理を行うことを特徴
    とする画像処理方法。
  6. 【請求項6】 複数の色分解フィルタを配列した撮像素
    子から出力する撮像信号をRGBのカラーデジタル画像
    信号に変換する画像処理方法において、 撮像信号にあらかじめ定められた特性で補間フィルタ処
    理を行うとともに撮像信号から画像の輝度勾配方向を推
    定し、推定された輝度勾配方向にしたがいRGB変換行
    列の特性を決定し、補間フィルタ処理した信号に対して
    輝度勾配方向にしたがって決定された特性のRGB変換
    行列の演算を行なうことを特徴とする画像処理方法。
  7. 【請求項7】 上記輝度勾配方向にしたがって決定され
    たRGB変換行列の特性を輝度勾配の方向により連続的
    に変化させる請求項6記載の画像処理方法。
  8. 【請求項8】 複数の色分解フィルタを配列した撮像素
    子から出力する撮像信号をRGBのカラーデジタル画像
    信号に変換する画像処理方法において、 撮像信号にあらかじめ定められた特性で補間フィルタ処
    理を行なうとともに撮像信号から画像の輝度勾配方向を
    推定し、補間フィルタ処理された信号を推定された輝度
    勾配方向にしたがい修正してRGB変換行列の演算を行
    なうことを特徴とする画像処理方法。
JP18585198A 1998-07-01 1998-07-01 画像処理装置及び画像処理方法 Expired - Fee Related JP3771054B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP18585198A JP3771054B2 (ja) 1998-07-01 1998-07-01 画像処理装置及び画像処理方法
US09/346,277 US6882365B1 (en) 1998-07-01 1999-07-01 Direction-sensitive correction method and system for data including abrupt intensity gradients

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP18585198A JP3771054B2 (ja) 1998-07-01 1998-07-01 画像処理装置及び画像処理方法

Publications (2)

Publication Number Publication Date
JP2000023174A true JP2000023174A (ja) 2000-01-21
JP3771054B2 JP3771054B2 (ja) 2006-04-26

Family

ID=16177998

Family Applications (1)

Application Number Title Priority Date Filing Date
JP18585198A Expired - Fee Related JP3771054B2 (ja) 1998-07-01 1998-07-01 画像処理装置及び画像処理方法

Country Status (2)

Country Link
US (1) US6882365B1 (ja)
JP (1) JP3771054B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002010279A (ja) * 2000-06-21 2002-01-11 Nikon Corp 補間処理装置および補間処理プログラムを記録した記録媒体
JP2002218483A (ja) * 2001-01-15 2002-08-02 Asahi Optical Co Ltd 画像補間装置
JP2002232902A (ja) * 2001-02-07 2002-08-16 Asahi Optical Co Ltd 画像補間装置
WO2009001785A1 (ja) * 2007-06-22 2008-12-31 Olympus Corporation 色補間装置及び画像処理システム
KR20100078623A (ko) * 2008-12-30 2010-07-08 주식회사 동부하이텍 컬러 보간 장치 및 컬러 보간 방법
JP2012014691A (ja) * 2010-06-30 2012-01-19 Hand Held Products Inc モノクロ画像データおよびカラー画像データを出力する端末
WO2012124184A1 (ja) * 2011-03-11 2012-09-20 富士フイルム株式会社 撮像装置およびその動作制御方法ならびに撮像システム
WO2014034486A1 (ja) * 2012-08-27 2014-03-06 富士フイルム株式会社 画像処理装置、方法、プログラム及び記録媒体並びに撮像装置
JP2016503624A (ja) * 2012-11-22 2016-02-04 華為技術有限公司Huawei Technologies Co.,Ltd. 画像処理方法および装置ならびにイメージングデバイス

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100396898B1 (ko) * 2001-09-13 2003-09-02 삼성전자주식회사 이미지센서 출력데이터 처리장치 및 처리방법
JP4451044B2 (ja) * 2002-02-21 2010-04-14 株式会社メガチップス 混成画素補間装置および混成画素補間方法
KR100505681B1 (ko) * 2003-03-31 2005-08-02 삼성전자주식회사 베이어 패턴 컬러 신호에 대한 적응형 필터로 보간을수행하여 해상도를 높이는 보간기, 이를 구비한 디지털영상 신호 처리 장치, 및 그 방법
EP1812968B1 (en) * 2004-08-25 2019-01-16 Callahan Cellular L.L.C. Apparatus for multiple camera devices and method of operating same
ITVA20040038A1 (it) * 2004-10-04 2005-01-04 St Microelectronics Srl Metodo di interpolazione del colore di una immagine acquisita da un sensore digitale mediante il filtraggio direzionale
GB2426881B (en) * 2005-06-01 2010-12-29 Snell & Wilcox Ltd Method and apparatus for spatial interpolation of colour images
KR101201672B1 (ko) * 2005-12-20 2012-11-15 삼성전자주식회사 의사 색 억제 기능을 갖는 디지털 영상 신호 처리 장치 및그 방법
CN101150731B (zh) * 2006-09-22 2012-05-23 罗罡 用于数字成像的彩色滤波阵列及其成像方法
US8229212B2 (en) * 2008-04-08 2012-07-24 Qualcomm Incorporated Interpolation system and method
JP2010081024A (ja) * 2008-09-24 2010-04-08 Oki Semiconductor Co Ltd 画像補間処理装置
US20110013053A1 (en) * 2008-09-29 2011-01-20 Rui Chen Defective pixel detection and correction
JP5446521B2 (ja) 2009-07-06 2014-03-19 株式会社リコー 撮像装置
JP5440461B2 (ja) 2010-09-13 2014-03-12 株式会社リコー 校正装置、距離計測システム、校正方法および校正プログラム
JP5870510B2 (ja) 2010-09-14 2016-03-01 株式会社リコー ステレオカメラ装置、校正方法およびプログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4630307A (en) * 1984-09-10 1986-12-16 Eastman Kodak Company Signal processing method and apparatus for sampled image signals
JP2733859B2 (ja) * 1989-09-28 1998-03-30 キヤノン株式会社 カラー撮像装置
US5382976A (en) * 1993-06-30 1995-01-17 Eastman Kodak Company Apparatus and method for adaptively interpolating a full color image utilizing luminance gradients
US5373322A (en) * 1993-06-30 1994-12-13 Eastman Kodak Company Apparatus and method for adaptively interpolating a full color image utilizing chrominance gradients
JP2931520B2 (ja) * 1993-08-31 1999-08-09 三洋電機株式会社 単板式カラービデオカメラの色分離回路
US5629734A (en) * 1995-03-17 1997-05-13 Eastman Kodak Company Adaptive color plan interpolation in single sensor color electronic camera
US5652621A (en) * 1996-02-23 1997-07-29 Eastman Kodak Company Adaptive color plane interpolation in single sensor color electronic camera
US5805217A (en) * 1996-06-14 1998-09-08 Iterated Systems, Inc. Method and system for interpolating missing picture elements in a single color component array obtained from a single color sensor
JP3806211B2 (ja) * 1997-01-08 2006-08-09 株式会社リコー 撮像信号処理方法及び撮像信号処理装置
US6563537B1 (en) * 1997-07-31 2003-05-13 Fuji Photo Film Co., Ltd. Image signal interpolation
JPH11122626A (ja) * 1997-10-17 1999-04-30 Nikon Corp 画像処理方法及び装置並びに画像処理プログラムを記録した記録媒体
US6229578B1 (en) * 1997-12-08 2001-05-08 Intel Corporation Edge-detection based noise removal algorithm

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002010279A (ja) * 2000-06-21 2002-01-11 Nikon Corp 補間処理装置および補間処理プログラムを記録した記録媒体
JP2002218483A (ja) * 2001-01-15 2002-08-02 Asahi Optical Co Ltd 画像補間装置
JP4495355B2 (ja) * 2001-01-15 2010-07-07 Hoya株式会社 画像補間装置
JP4666786B2 (ja) * 2001-02-07 2011-04-06 Hoya株式会社 画像補間装置
JP2002232902A (ja) * 2001-02-07 2002-08-16 Asahi Optical Co Ltd 画像補間装置
WO2009001785A1 (ja) * 2007-06-22 2008-12-31 Olympus Corporation 色補間装置及び画像処理システム
KR20100078623A (ko) * 2008-12-30 2010-07-08 주식회사 동부하이텍 컬러 보간 장치 및 컬러 보간 방법
KR101580168B1 (ko) 2008-12-30 2015-12-24 주식회사 동부하이텍 컬러 보간 장치
JP2012014691A (ja) * 2010-06-30 2012-01-19 Hand Held Products Inc モノクロ画像データおよびカラー画像データを出力する端末
WO2012124184A1 (ja) * 2011-03-11 2012-09-20 富士フイルム株式会社 撮像装置およびその動作制御方法ならびに撮像システム
JP5378627B2 (ja) * 2011-03-11 2013-12-25 富士フイルム株式会社 撮像装置およびその動作制御方法ならびに撮像システム
US8730360B2 (en) 2011-03-11 2014-05-20 Fujifilm Corporation Color imaging apparatus having color imaging element, method of controlling operation of same and image sensing system
WO2014034486A1 (ja) * 2012-08-27 2014-03-06 富士フイルム株式会社 画像処理装置、方法、プログラム及び記録媒体並びに撮像装置
US9363493B2 (en) 2012-08-27 2016-06-07 Fujifilm Corporation Image processing apparatus, method, recording medium and image pickup apparatus
JP2016503624A (ja) * 2012-11-22 2016-02-04 華為技術有限公司Huawei Technologies Co.,Ltd. 画像処理方法および装置ならびにイメージングデバイス

Also Published As

Publication number Publication date
JP3771054B2 (ja) 2006-04-26
US6882365B1 (en) 2005-04-19

Similar Documents

Publication Publication Date Title
JP3771054B2 (ja) 画像処理装置及び画像処理方法
USRE47062E1 (en) Image processing apparatus and method for generating a restoration image
JP4054184B2 (ja) 欠陥画素補正装置
US7835573B2 (en) Method and apparatus for edge adaptive color interpolation
JP4385282B2 (ja) 画像処理装置および画像処理方法
US8131067B2 (en) Image processing apparatus, image processing method, and computer-readable media for attaining image processing
US7479998B2 (en) Image pickup and conversion apparatus
JP3806211B2 (ja) 撮像信号処理方法及び撮像信号処理装置
JP4668185B2 (ja) 画像処理方法
US9338364B2 (en) Imaging device and image generation method
US6809765B1 (en) Demosaicing for digital imaging device using perceptually uniform color space
US20070280539A1 (en) Image Processing Method and Image Processing Device
KR100765751B1 (ko) 비월 주사 방식의 cmyg 컬러 포맷의 컬러 보간 방법 및그 장치
JP2005159957A (ja) 色補間方法
US20030160875A1 (en) Image processing device
US20100134661A1 (en) Image processing apparatus, image processing method and program
JP3730063B2 (ja) 色成分生成装置および色成分生成方法並びにこれを用いた多色画像撮像装置
JP4122082B2 (ja) 信号処理装置およびその処理方法
JP4334150B2 (ja) 画像補間装置
JP3660504B2 (ja) カラー固体撮像装置
JP2003134523A (ja) 撮像装置及び撮像方法
JP2001186534A (ja) 固体撮像装置
JP2009290568A (ja) 撮像装置
JP4334152B2 (ja) 画像補間装置
JPH0242875A (ja) カラー画像読取り装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050516

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060208

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100217

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110217

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120217

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130217

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130217

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140217

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees