JP3709733B2 - Image processing device - Google Patents

Image processing device Download PDF

Info

Publication number
JP3709733B2
JP3709733B2 JP07483699A JP7483699A JP3709733B2 JP 3709733 B2 JP3709733 B2 JP 3709733B2 JP 07483699 A JP07483699 A JP 07483699A JP 7483699 A JP7483699 A JP 7483699A JP 3709733 B2 JP3709733 B2 JP 3709733B2
Authority
JP
Japan
Prior art keywords
image data
color
correction
image
line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP07483699A
Other languages
Japanese (ja)
Other versions
JP2000270173A (en
Inventor
和宏 石黒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Business Technologies Inc
Original Assignee
Konica Minolta Business Technologies Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Business Technologies Inc filed Critical Konica Minolta Business Technologies Inc
Priority to JP07483699A priority Critical patent/JP3709733B2/en
Priority to US09/495,899 priority patent/US7339699B1/en
Publication of JP2000270173A publication Critical patent/JP2000270173A/en
Application granted granted Critical
Publication of JP3709733B2 publication Critical patent/JP3709733B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、ディジタル式のカラー複写機などに搭載される画像処理装置に関し、詳しくは、縮小型のカラーCCDセンサなどにおける副走査方向のR,G,B間の位置ずれを補正するライン間補正処理に関する。
【0002】
【従来の技術】
カラー複写機などの画像読み取り部は、例えば特開平9−261491号公報に記載されているように、光学系を介して原稿画像を縮小投影した情報を縮小型のカラーCCDセンサで読み取るものが、コスト面の有利さから一般的である。縮小型のカラーCCDセンサは、図12に示すように、画素が主走査方向に並べられたR(赤)、G(緑)、B(青)それぞれの素子列が、副走査方向に所定間隔dを隔てて互いに平行に配置された構造を有する。
【0003】
上記のようなカラーCCDセンサを用いて画像の読み取りを行う場合には、原稿とCCDセンサとが機械的に相対移動する方向である副走査方向でのR,G,Bの位置ずれ(間隔d)に起因して、CCDセンサから得られるR,G,B各色の画像信号の間に時間的なずれ、つまり位相ずれが生ずる。
【0004】
R,G,B間の位相ずれ(以下「位置ずれ」ともいう)を補正するために、最初に生ずるR出力画像データを間隔2d(例えば8ライン分)に相当する時間だけ遅延させ、次に生ずるG出力画像データを間隔d(例えば4ライン分)に相当する時間だけ遅延させることにより、最後に生ずる出力画像データと位相をあわせる補正処理が行われる。
【0005】
また、例えば縮小・拡大機能を有するカラー複写機において副走査方向の走査速度が変化する場合のように、原稿画像を縮小投影する変倍率が変化すると、R,G,B間の位相ずれが1ライン分の整数倍とならずに、端数(小数部)が生ずる場合がある。このような場合は、補間処理によってR,G,B間の位相ずれをできるだけ正確に補正する必要がある。つまり、補正後の位置がライン間のある位置となった場合に、その位置における各色の濃度の値を、両側のライン上における値の加重平均によって求める。
【0006】
【発明が解決しようとする課題】
しかしながら、上記のようなカラーCCDセンサを用いた場合のR,G,B間の位相ずれの補正において、補間処理による小数部の補正を行うと、黒細線の再現性が悪くなる場合がある。これは、黒細線を縮小投影したものが例えば1ドット幅に近くなった場合に、上記の補間処理を行うと、R,G,B各色の読み取り特性のバランスが大きく崩れることが原因であると考えられる。
【0007】
したがって、補正の基準となった色以外について、その濃度のレベルが低くなる。その結果、黒細線が、緑がかったり赤味を帯びたりし、その再現性が低下するのである。
【0008】
本発明は、上述の問題に鑑みてなされたもので、素子列間の位相ずれの補正をできるだけ正確に行うとともに、黒細線の再現性を高めることのできる画像処理装置を提供することを目的とする。
【0009】
【課題を解決するための手段】
請求項1の発明に係る画像処理装置は、図2に示すように、主走査方向に長い互いに異なる色用の複数の素子列が副走査方向に所定のライン分のピッチで互いに平行に配置された構造を有するイメージセンサから得られる各色の画像データの補正処理を行う画像処理装置であって、前記各色のうちの1色を基準色として他の色の画像データについて前記副走査方向における前記基準色との素子列間の位置ずれに起因する位相ずれの1ライン分未満を補正するものであって前記基準色を互いに異にする複数のライン間補正手段15R,15G,15Bと、前記複数のライン間補正手段ごとに出力される前記各色の画像データから平均値を求めて、補正された画像データROUT,GOUT,BOUTとして、色ごとに出力する補正出力手段と、を有してなる。1ライン未満の補正は、通常、補間処理によって行われる。
【0010】
請求項2の発明に係る画像処理装置において、イメージセンサの各素子列からは、R,G,Bの各色の画像信号が出力され、ライン間補正手段15R,15G,15Bは、R,G,Bの各色を補正における基準色としてライン補正処理を行う。補正出力手段15Aは、各色毎の画像データについての平均値を求めて出力する。
【0011】
【発明の実施の形態】
図1は本発明に係る画像処理装置M1の全体構成を示すブロック図、図2はライン間補正部15の構成を示すブロック図である。
【0012】
図1において、光学系を介して原稿画像を縮小投影した情報が、縮小型のカラーのCCDセンサ12により読み取られる。得られたR,G,Bの各色の画像信号は、A/D変換器13に入力される。A/D変換器13は、アナログ信号であるR,G,Bの画像信号を8ビットのディジタルデータ(256階調の濃度データ)であるR,G,Bの画像データに変換する。得られたR,G,Bの画像データは、シェーディング補正部14によって、主走査方向の光量むらを補正するシェーディング補正が施された後、ライン間補正部15に入力される。
【0013】
ライン間補正部15は、CCDセンサ12のR,G,Bの各ライン間の位置ずれに起因する画像信号(画像データ)の位相ずれを補正する回路である。
図2に示すように、ライン間補正部15には、R,G,Bのそれぞれを基準色とした3つのライン間補正回路15R,15G,15B、及び、それらから出力される画像データについて各色毎に平均値を求めて補正された画像データを出力する補正出力部15Aが設けられている。各ライン間補正回路15R,G,Bでは、フィールドメモリを用いて、それぞれ基準色以外の画像データを遅延させることにより補正を行う。具体的な回路構成については後述する。
【0014】
図1に戻って、ライン間補正部15から出力されたR,G,Bの画像データは、色収差補正部16にてレンズ系の色収差に起因する色ずれが補正される。さらに、変倍用ラインメモリを含む変倍・移動処理部17にて、変倍率に応じた主走査方向の拡大・縮小処理が施される。
【0015】
変倍・移動処理部17から出力された画像データは、色変換部18に入力され、R,G,B間の調整が行われた後、色補正部19にてRGB系(加色系)の画像データからCMY系(減色系)の画像データC(シアン)、M(マゼンタ)、Y(イエロー)、Bk(ブラック)に変換される。C,M,Y,Bkの画像データは、MTF補正部20にてエッジ強調、スムージングなどの処理を施された後、プリンタインターフェイス21を介してプリンタ部に与えられる。
【0016】
また、色変換部18から出力されたR,G,Bの画像データは、領域判別部22にも与えられ、読み取られた画像が、網点画像か、文字画像か、又は写真画像かといった判別が、領域判別部22で行われる。その判別結果がMTF補正部20に与えられることにより、MTF補正部20はその領域の画像の種類に応じて、エッジ強調、スムージングなどの補正処理を施すか否かを切り換える。
【0017】
なお、領域判別部22からは、上に述べた判別結果を示す信号の他に、黒文字領域、内エッジ、外エッジ、黒エッジ補正量などを示す信号が出力される。
また、図示は省略したが、画像処理装置M1には、基準駆動パルス発生部、ラインバッファ部、ヒストグラム生成部、及びACS判定部などが設けられている。基準駆動パルス発生部は、CCDセンサ12を始めとして各部の処理に必要なクロック信号を発生する。ラインバッファ部は、CCDセンサ12で読み取ったR,G,Bの各色の画像データを1ライン分記憶する。ヒストグラム生成部は、予備スキャンで得られるR,G,Bの各色の画像データから明度データを生成し、そのヒストグラムをメモリ上に作成する。ACS判定部は、彩度データによって1ドット毎にカラードットか否かを判定し、原稿上で512ドット四方のブロック領域毎のカラードット数をカウントしてカラー領域であるかモノクロ領域であるかを判定する。
【0018】
また、現在読み取り中の画像がほぼ1ドット幅の黒細線であるか否かを検出する1ドット幅黒細線検出部が設けられることもある。このような1ドット幅黒細線検出部は、シェーディング補正部14から出力されるB画像データと、ライン間補正部15から出力されるR画像遅延データRMD及びG画像遅延データGMDとに基づいて、CCDセンサ12に投影された画像情報における現在処理中の画像部分が1ドット幅黒細線か否かを判断する。この判断結果は、例えば領域判別部22に出力される。
【0019】
なお、画像処理装置M1において、各部の配置の順番、つまり画像データに対する処理を行う順番は、上に述べた以外に種々変更することができる。
図3はライン間補正回路15Gのブロック図、図4は補間演算部38の構成の例を示すブロック図、図5はリセット信号RES及び各出力画像データのタイミングの例を示す図である。
【0020】
なお、ここで説明するライン間補正回路15Gは、G(緑)を基準色とする補正回路である。R(赤)を基準色とするライン間補正回路15R、及びB(青)を基準色とするライン間補正回路15Bについては、その基本的な構成及び動作がライン間補正回路15Gと同一であるので、ここでの具体的な説明は省略する。
【0021】
図3において、信号RIN,BIN,GINは、それぞれR(赤)、B(青)、G(緑)の画像データ入力である。これらの画像データ入力RIN,BIN,GINは、第1補正部30で整数ライン分の遅延補正が施され、第2補正部31で端数(小数)分の補間処理が施されて、画像データ出力R1,B1,G1となる。
【0022】
第1補正部30は、フィールドメモリ33〜35を用いて、画像データ入力RIN及びGINを画像データ入力BINに対して遅延させる。つまり、従来技術の説明で述べたように、画像データ入力RINをCCDセンサ12の副走査方向でのR素子列とB素子列との間の間隔(素子列間隔)2dに相当する時間だけ遅延させるとともに、画像データ入力GINをCCDセンサ12の副走査方向でのG素子列とB素子列との間の素子列間隔dに相当する時間だけ遅延させる。素子列間隔dは、両素子列間においてずれたライン数で表される。本実施形態では、G素子列とB素子列との素子列間隔dは「4」であり、R素子列とB素子列との素子列間隔2dは「8」である。
【0023】
フィールドメモリ33〜35は、画像データを複数のライン単位で遅延させるために用いられている。例えば、各フィールドメモリ33〜35が256KByteの記憶容量を有し、1ライン当たりの各色の画像データ容量が5KByte(5,000画素分)とすれば、1フィールドメモリ当たり51ライン分の画像データを遅延させることができる。
【0024】
図3に示すように、画像データ入力RINは、シリアル接続された2つのフィールドメモリ33,34によって102ライン分まで遅延することができ、画像データ入力GINは、1つのフィールドメモリ35によって51ライン分まで遅延させることができる。
【0025】
その場合に、実際の遅延量は、各フィールドメモリ33〜35のリードリセット端子RRES及びライトリセット端子WRESに与えられるリセット信号のタイミングを制御することによって行われる。なお、各信号の符号の先頭に付された「−」は負論理信号であることを意味し、本説明中では「−」を省略して記す。他の図とその説明についても同様である。
【0026】
各フィールドメモリ33〜35は、ライトリセット端子WRESにリセット信号が与えられると、入力データを書き始め、リードリセット端子RRESにリセット信号が与えられると、蓄積されたデータの出力を始める。したがって、ライトリセット端子WRESにリセット信号が与えられてからリードリセット端子RRESにリセット信号が与えられるまでの期間が遅延量となる。
【0027】
フィールドメモリ33及び35のライトリセット端子WRESにはリセット信号RES0が与えられ、リードリセット端子RRESにはリセット信号RES1が与えられる。また、フィールドメモリ34のライトリセット端子WRESにはリセット信号RES1が与えられ、リードリセット端子RRESにはリセット信号RES2が与えられる。したがって、画像データ入力RINはシリアル接続された2つのフィールドメモリ33,34によってリセット信号RES0からリセット信号RES2までの期間だけ遅延し、画像データ入力GINはフィールドメモリ35によってリセット信号RES0からリセット信号RES1までの期間だけ遅延する。画像データ入力BINは、遅延なしで第2補正部31に渡される。
【0028】
図5において、B画像データに対してnライン遅れでG画像遅延データGMDが得られ、更にnライン遅れでR画像遅延データRMDが得られる様子が示されている。nの値、つまり、リセット信号RES0からリセット信号RES1までの遅延時間に相当するライン数は、素子列間隔に変倍率を掛けた値の整数部(int)である。等倍の場合は素子列間隔そのもの、例えば4ラインであるが、例えば変倍率が0.6の場合は、4×0.6=2.4の整数部2となる。実際には、この値に1を加えたものを最終的な遅延量(ライン数)としている。これは、後述する第2補正部31における補間処理を容易にするためである。リセット信号RES0からリセット信号RES2までの遅延時間に相当するライン数についても同様に、素子列間隔に変倍率を掛けた値の整数部(int)の2倍に1を加えたものを最終的な遅延量(ライン数)としている。
【0029】
上記のようにして、得られたR遅延画像データ及びG遅延画像データは遅延していないB画像データと共に第2補正部31に与えられる。第2補正部31は、G遅延画像データについては補正処理を行わずにそのまま画像データ出力G1として出力し、R遅延画像データ及びB画像データについてはG遅延画像データを基準として補間処理を施す。
【0030】
第2補正部31は、R遅延画像データ及びB画像データのそれぞれについて、画像データを1ライン分遅延させるためのFIFOメモリ(フィールドメモリともいう)36,37と補間演算部38,39を有する。補間演算部38のA入力端子にはR遅延画像データRn が入力され、B端子にはFIFOメモリ36で1ライン分更に遅延したR遅延画像データRn-1 が入力される。また、K端子にはCPUなどから補間係数αが入力される。補間演算部38は、補間係数αを用いて後述の式にしたがってデータRn とデータRn-1 との補間データRn ’を演算する。
【0031】
一方、補間演算部39のA入力端子にはFIFOメモリ37で1ライン分遅延したB画像データBn-1 が入力され、B端子には遅延前のB画像データBn が入力される。また、K端子には補間係数αが入力される。補間演算部39は、補間係数αを用いて後述の式にしたがってデータBn とデータBn-1 との補間データBn ’を演算する。
【0032】
補間係数αは、素子列間隔に変倍率を掛けたときの端数(小数部)であり、上述の例では、素子列間隔「4」に変倍率が0.6を掛けた値2.4の小数部0.4である。したがって、補間係数αは下記の式から求められる。
【0033】
【数1】
α=素子列間隔×変倍率−int(素子列間隔×変倍率)
ただし、int( )は、( )の数値の整数部を抽出する演算子である。
【0034】
この補間係数αを用いて、補間演算後のR及びBの画像データ、すなわち補間データRn ’及びBn ’は下記の式から求められる。
【0035】
【数2】

Figure 0003709733
【0036】
【数3】
Figure 0003709733
【0037】
上記の式(数2及び数3)において、第(n−1)ラインのデータと第nラインのデータとに掛けられる係数α又は(α−1)が、R画像データとB画像データとで逆になっている。これに関連して、図3に示すように、補間演算部38,39のA端子及びB端子に入力される画像データとその1ライン分遅延データとの関係が、R画像データ用の補間演算部38とB画像データ用の補間演算部39とで逆になっている。これは、前述のように、CCDセンサ12においてG素子列を挟んでR素子列とB素子列とが前後に配置されている構造を有するからである。つまり、式(数2及び数3)の関係を模式的に示すと図6のようになる。
【0038】
図6において、Rn ,Rn-1 ,Bn ,Bn-1 の位置が固定とすれば、補間係数αの値が0から1まで変化すると、Gn は位置がBn-1 (Rn )側からBn (Rn-1 )側まで変化する。前述のように、第1補正部30において、B画像データに比べてR画像データを1ライン余分に遅延させているが、この、第2補正部31での補間演算によって、その1ライン分が補償され、R,G,Bそれぞれの画像データの位相が揃うことになる。
【0039】
上記のようにして、第1補正部30での整数ライン分の位置ずれ補正に加えて第2補正部31での小数部の補間処理を行うことにより、より詳細な色ずれ補正を行うことができる。
【0040】
しかしながら、小数部の補間処理は、前後のラインにおける濃度の加重平均をとるものであるから、例えば1ドット幅細線の場合には、その濃度がこの補間処理により大きく低下する。このため、黒細線の場合に、R,G,B各色の濃度のバランスが崩れ、再現性が悪くなることがある。これについて図7を用いて説明する。
【0041】
図7は1ドット幅黒細線の場合のR,G,B各画像データの位相と濃度とを模式的に示す図である。
図7において、(a)はライン間補正回路15Gによる補正前の状態を示している。(b)は変倍率が等倍の場合、つまり補正係数αが0の場合における補正後のR,G,B各画像データの位置(位相)と濃度を示している。この場合に、第2補正部31での小数部の補間処理は実際上行われないので、各画像データの濃度低下は無く、第1補正部30での整数ライン分の位置ずれ補正のみが行われることになる。
【0042】
図7の(c)は変倍率が等倍ではなく、補正係数αが0にならない場合において、ライン間補正部15の第1補正部30及び第2補正部31の両方による補正が行われたときのR,G,B各画像データの位相と濃度を示している。この場合に、基準となるつまり補間処理の行われないG画像データの濃度が変化しないのに対して、R及びBの画像データの濃度が補間処理によって大きく低下している。この結果、そのままでは各色の濃度のバランスが大きく崩れ、黒細線の再現性が悪くなる。
【0043】
図10は細線の場合の補正による濃度値の変化の様子を示す図、図11は細線でない場合の補正による濃度値の変化の様子を示す図である。
これらの図でわかるように、基準色に対してずれた画像データは、補正を行うことによって濃度値が低下することが分かる。
【0044】
そこで、本実施形態においては、図2に示すように、R(赤)、B(青)、G(緑)の各色を基準色とした3つのライン間補正回路15R,15G,15Bによってそれぞれ補間処理を行い、補正出力部15Aにより、それらから出力される画像データの各色毎の平均値を求めるのである。
【0045】
図2において、補正出力部15Aは、ライン間補正回路15R,15G,15Bから出力される画像データについて、各色毎に平均値を求め、画像データROUT,GOUT,BOUTを出力する。すなわち、
ROUT=(R0+R1+R2)/3
GOUT=(G0+G1+G2)/3
BOUT=(B0+B1+B2)/3
図8は補正出力部15Aの構成の例を示すブロック図、図9は補正出力部15Aの動作を説明するための図である。
【0046】
図8に示すように、補正出力部15Aは、3つの加算器151〜153、及び3つの除算器(乗算器)154〜156によって構成することができる。
図9では、R,G,Bの各色の濃度値が全く等しい場合、つまり無彩色を理想的に読み取った場合の画像データが示されている。このうち、図9(A)にはRを基準色として補正された画像データR0,G0,B0が、図9(B)にはGを基準色として補正された画像データR1,G1,B1が、図9(C)にはBを基準色として補正された画像データR2,G2,B2が、図9(D)にはそれらの平均値の画像データROUT,GOUT,BOUTが示されている。この例では、平均された後の3つの画像データROUT,GOUT,BOUTは、互いに同一となる。
【0047】
このように、R,G,Bのそれぞれを基準色とした3つのライン間補正回路15R,15G,15Bから出力される画像データについて、各色毎に平均値を求め、これによってライン間補正が施された画像データを得ているので、CCDセンサ12の素子列間の位相ずれの補正を正確に行うことができ、しかも、R,G,Bの各色の濃度のバランスが維持される。その結果、黒細線の再現性を高めることができる。
【0048】
上述の実施形態において、素子列間隔dを「4」とし、素子列間隔2dを「8」としたが、例えば、素子列間隔dを「8」、素子列間隔2dを「16」とするなど、これら以外の数値とし、又は整数でない数値としてもよい。3つのライン間補正回路15R,15G,15Bから出力される画像データの平均値を求めたが、加重係数を用いたり、2乗平均を行ったりしてもよい。また、2つのライン間補正回路からの画像データに基づいて補正された画像データを得てもよい。
【0049】
上述の実施形態において、ライン間補正部15及びライン間補正回路15R,15G,15Bなどは、ハードウエア回路によってハード的に、プログラムをCPUにより実行することによってソフト的に、又はそれらの組み合わせにより、それぞれ実現することができる。その他、ライン間補正部15又は画像処理装置M1の各部又は全体の構成、処理内容、処理順序などは、本発明の趣旨に沿って適宜変更することができる。
【0050】
【発明の効果】
本発明によると、素子列間の位相ずれの補正をできるだけ正確に行うとともに、黒細線の再現性を高めることができる。
【図面の簡単な説明】
【図1】本発明の実施形態に係る画像処理装置の全体構成を示すブロック図である。
【図2】ライン間補正部の構成を示すブロック図である。
【図3】ライン間補正回路のブロック図である。
【図4】補間演算部の構成の例を示すブロック図である。
【図5】リセット信号及び各出力画像データのタイミングの例を示す図である。
【図6】ライン間補正回路の第2補正部による小数部補間処理を説明するための模式図である。
【図7】1ドット幅黒細線の場合の各色の画像データの位相と濃度とを模式的に示す図である。
【図8】補正出力部の構成の例を示すブロック図である。
【図9】補正出力部の動作を説明するための図である。
【図10】細線の場合の補正による濃度値の変化の様子を示す図である。
【図11】細線でない場合の補正による濃度値の変化の様子を示す図である。
【図12】縮小型のカラーCCDセンサの構造を示す模式図である。
【符号の説明】
M1 画像処理装置
12 CCDセンサ(イメージセンサ)
15 ライン間補正部
15R,15G,15B ライン間補正回路(ライン間補正手段)
15A 補正出力部(補正出力手段)[0001]
BACKGROUND OF THE INVENTION
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image processing apparatus mounted on a digital color copier or the like, and more specifically, line-to-line correction for correcting misalignment between R, G, and B in the sub-scanning direction in a reduction type color CCD sensor or the like. Regarding processing.
[0002]
[Prior art]
For example, as described in JP-A-9-261491, an image reading unit such as a color copying machine reads information obtained by reducing and projecting an original image through an optical system with a reduction type color CCD sensor. It is general because of cost advantages. In the reduction type color CCD sensor, as shown in FIG. 12, each element row of R (red), G (green), and B (blue) in which pixels are arranged in the main scanning direction has a predetermined interval in the sub-scanning direction. It has the structure arrange | positioned mutually parallel through d.
[0003]
When an image is read using the color CCD sensor as described above, R, G, and B misregistration (interval d) in the sub-scanning direction, which is the direction in which the original and the CCD sensor mechanically move relative to each other. ) Causes a time shift, that is, a phase shift, between the R, G, and B color image signals obtained from the CCD sensor.
[0004]
In order to correct a phase shift between R, G, and B (hereinafter also referred to as “position shift”), the R output image data generated first is delayed by a time corresponding to an interval 2d (for example, 8 lines), and then By delaying the generated G output image data by a time corresponding to the interval d (for example, for 4 lines), a correction process for adjusting the phase with the finally generated B output image data is performed.
[0005]
Further, for example, in a color copying machine having a reduction / enlargement function, when the scaling factor for reducing and projecting the original image changes, such as when the scanning speed in the sub-scanning direction changes, the phase shift between R, G, and B is 1. A fraction (fractional part) may occur without being an integral multiple of the line. In such a case, it is necessary to correct the phase shift between R, G, and B as accurately as possible by interpolation processing. That is, when the corrected position is a certain position between the lines, the density value of each color at that position is obtained by a weighted average of the values on the lines on both sides.
[0006]
[Problems to be solved by the invention]
However, in correcting the phase shift between R, G, and B when using the color CCD sensor as described above, if the fractional part is corrected by interpolation processing, the reproducibility of the black thin line may be deteriorated. This is because the balance of the reading characteristics of the R, G, and B colors is greatly lost when the above interpolation processing is performed when the black projection is reduced to, for example, one dot width. Conceivable.
[0007]
Accordingly, the density levels of the colors other than the color used as the correction reference are lowered. As a result, the black thin line becomes greenish or reddish, and its reproducibility is lowered.
[0008]
The present invention has been made in view of the above-described problems, and an object of the present invention is to provide an image processing apparatus capable of correcting a phase shift between element rows as accurately as possible and improving the reproducibility of black thin lines. To do.
[0009]
[Means for Solving the Problems]
In the image processing apparatus according to the first aspect of the present invention, as shown in FIG. 2, a plurality of element rows for different colors that are long in the main scanning direction are arranged in parallel to each other at a predetermined line pitch in the sub-scanning direction. An image processing apparatus that performs correction processing of image data of each color obtained from an image sensor having a structure, wherein the reference in the sub-scanning direction is used for image data of another color using one of the colors as a reference color A plurality of inter-line correction means 15R, 15G, and 15B that correct a phase shift of less than one line caused by a positional shift between the element rows and the color and that make the reference colors different from each other; the output for each line correction means an average value from image data of each color, the corrected image data ROUT, GOUT, as BOUT, a correction output means for force out for each color, It has composed. Correction of less than one line is usually performed by interpolation processing.
[0010]
In the image processing apparatus according to the second aspect of the present invention, image signals of each color of R, G, B are output from each element array of the image sensor, and the interline correction means 15R, 15G, 15B are R, G, Line correction processing is performed using each color of B as a reference color for correction. The correction output means 15A calculates and outputs an average value for the image data for each color.
[0011]
DETAILED DESCRIPTION OF THE INVENTION
FIG. 1 is a block diagram showing the overall configuration of the image processing apparatus M1 according to the present invention, and FIG. 2 is a block diagram showing the configuration of the interline correction unit 15.
[0012]
In FIG. 1, information obtained by reducing and projecting an original image through an optical system is read by a reduction type color CCD sensor 12. The obtained R, G, B color image signals are input to the A / D converter 13. The A / D converter 13 converts R, G, B image signals, which are analog signals, into R, G, B image data, which is 8-bit digital data (256-gradation density data). The obtained R, G, B image data is subjected to shading correction by the shading correction unit 14 to correct unevenness in the amount of light in the main scanning direction, and then input to the interline correction unit 15.
[0013]
The interline correction unit 15 is a circuit that corrects a phase shift of an image signal (image data) caused by a positional shift between the R, G, and B lines of the CCD sensor 12.
As shown in FIG. 2, the interline correction unit 15 includes three interline correction circuits 15R, 15G, and 15B that use R, G, and B as reference colors, and image data that is output from each of the colors. A correction output unit 15A is provided that outputs an image data corrected by obtaining an average value every time. Each of the inter-line correction circuits 15R, 15G, and 15B performs correction by delaying image data other than the reference color using a field memory. A specific circuit configuration will be described later.
[0014]
Returning to FIG. 1, the R, G, B image data output from the interline correction unit 15 is corrected by the chromatic aberration correction unit 16 for color shift caused by chromatic aberration of the lens system. Further, the enlargement / reduction processing in the main scanning direction according to the magnification is performed in the magnification / movement processing unit 17 including the line memory for magnification.
[0015]
The image data output from the scaling / movement processing unit 17 is input to the color conversion unit 18, and after adjustment between R, G, and B is performed, the color correction unit 19 performs RGB system (additional color system). Are converted to CMY (subtractive color) image data C (cyan), M (magenta), Y (yellow), and Bk (black). The C, M, Y, and Bk image data is subjected to processing such as edge enhancement and smoothing by the MTF correction unit 20 and then supplied to the printer unit via the printer interface 21.
[0016]
The R, G, B image data output from the color conversion unit 18 is also supplied to the region determination unit 22 to determine whether the read image is a halftone image, a character image, or a photographic image. Is performed by the area determination unit 22. When the determination result is given to the MTF correction unit 20, the MTF correction unit 20 switches whether to perform correction processing such as edge enhancement and smoothing according to the type of image in the area.
[0017]
In addition to the signal indicating the determination result described above, the region determination unit 22 outputs a signal indicating a black character region, an inner edge, an outer edge, a black edge correction amount, and the like.
Although not shown, the image processing apparatus M1 includes a reference drive pulse generation unit, a line buffer unit, a histogram generation unit, an ACS determination unit, and the like. The reference drive pulse generator generates a clock signal necessary for processing of each unit including the CCD sensor 12. The line buffer unit stores image data of R, G, and B colors read by the CCD sensor 12 for one line. The histogram generation unit generates lightness data from the image data of each color of R, G, and B obtained by the preliminary scan, and creates the histogram on the memory. The ACS determination unit determines whether or not each dot is a color dot based on the saturation data, and counts the number of color dots for each 512-dot block area on the document to determine whether it is a color area or a monochrome area. Determine.
[0018]
In addition, a one-dot-width black thin line detection unit that detects whether or not the image currently being read is a black thin line with a width of about one dot may be provided. Such a 1-dot wide black thin line detection unit is based on the B image data output from the shading correction unit 14 and the R image delay data RMD and the G image delay data GMD output from the interline correction unit 15. It is determined whether the image portion currently being processed in the image information projected onto the CCD sensor 12 is a 1-dot wide black thin line. This determination result is output to, for example, the region determination unit 22.
[0019]
In the image processing apparatus M1, the order of arrangement of the respective units, that is, the order of performing the processing on the image data can be variously changed in addition to the above.
3 is a block diagram of the interline correction circuit 15G, FIG. 4 is a block diagram showing an example of the configuration of the interpolation calculation unit 38, and FIG. 5 is a diagram showing an example of the timing of the reset signal RES and each output image data.
[0020]
The inter-line correction circuit 15G described here is a correction circuit using G (green) as a reference color. The inter-line correction circuit 15R using R (red) as a reference color and the inter-line correction circuit 15B using B (blue) as a reference color have the same basic configuration and operation as the inter-line correction circuit 15G. Therefore, the specific description here is omitted.
[0021]
In FIG. 3, signals RIN, BIN, and GIN are image data inputs of R (red), B (blue), and G (green), respectively. These image data inputs RIN, BIN, and GIN are subjected to delay correction for integer lines by the first correction unit 30 and subjected to interpolation processing for fractions (decimal points) by the second correction unit 31 to output image data. R1, B1, and G1.
[0022]
The first correction unit 30 uses the field memories 33 to 35 to delay the image data inputs RIN and GIN with respect to the image data input BIN. That is, as described in the description of the prior art, the image data input RIN is delayed by a time corresponding to the interval (element row interval) 2d between the R element row and the B element row in the sub scanning direction of the CCD sensor 12. At the same time, the image data input GIN is delayed by a time corresponding to the element array interval d between the G element array and the B element array in the sub-scanning direction of the CCD sensor 12. The element row interval d is represented by the number of lines shifted between the two element rows. In the present embodiment, the element column interval d between the G element column and the B element column is “4”, and the element column interval 2d between the R element column and the B element column is “8”.
[0023]
The field memories 33 to 35 are used for delaying image data in units of a plurality of lines. For example, if each field memory 33 to 35 has a storage capacity of 256 Kbytes and the image data capacity of each color per line is 5 Kbytes (for 5,000 pixels), 51 lines of image data per field memory are stored. Can be delayed.
[0024]
As shown in FIG. 3, the image data input RIN can be delayed up to 102 lines by two field memories 33 and 34 connected in series, and the image data input GIN can be delayed by 51 lines by one field memory 35. Can be delayed.
[0025]
In this case, the actual amount of delay is performed by controlling the timing of the reset signal supplied to the read reset terminal RRES and the write reset terminal WRES of each field memory 33-35. Note that “−” added to the head of the sign of each signal means a negative logic signal, and “−” is omitted in this description. The same applies to the other drawings and the description thereof.
[0026]
Each field memory 33 to 35 starts writing input data when a reset signal is given to the write reset terminal WRES, and starts outputting accumulated data when a reset signal is given to the read reset terminal RRES. Therefore, a period from when the reset signal is supplied to the write reset terminal WRES to when the reset signal is supplied to the read reset terminal RRES is a delay amount.
[0027]
A reset signal RES0 is applied to the write reset terminal WRES of the field memories 33 and 35, and a reset signal RES1 is applied to the read reset terminal RRES. Further, the reset signal RES1 is given to the write reset terminal WRES of the field memory 34, and the reset signal RES2 is given to the read reset terminal RRES. Thus, the image data input RI N is delayed by a period from the reset signal RES0 by two field memories 33 and 34 which are serially connected to a reset signal RES2, the image data input GI N is a reset signal from the reset signal RES0 by the field memory 35 Delay by the period up to RES1. The image data input BIN is passed to the second correction unit 31 without delay.
[0028]
FIG. 5 shows how the G image delay data GMD is obtained with a delay of n lines with respect to the B image data, and further the R image delay data RMD is obtained with a delay of n lines. The value of n, that is, the number of lines corresponding to the delay time from the reset signal RES0 to the reset signal RES1, is an integer part (int) of a value obtained by multiplying the element array interval by a scaling factor. In the case of the same magnification, the element row interval itself is, for example, 4 lines. However, for example, when the scaling factor is 0.6, the integer part 2 is 4 × 0.6 = 2.4. Actually, the value obtained by adding 1 to this value is the final delay amount (number of lines). This is for facilitating interpolation processing in the second correction unit 31 described later. Similarly, for the number of lines corresponding to the delay time from the reset signal RES0 to the reset signal RES2, a value obtained by adding 1 to twice the integer part (int) of the value obtained by multiplying the element array interval by the scaling factor is finally obtained. The amount of delay (number of lines) is used.
[0029]
As described above, the obtained R delay image data and G delay image data are supplied to the second correction unit 31 together with the non-delayed B image data. The second correction unit 31 outputs the G delay image data as it is as the image data output G1 without performing the correction process, and performs the interpolation process on the R delay image data and the B image data on the basis of the G delay image data.
[0030]
The second correction unit 31 includes FIFO memories (also referred to as field memories) 36 and 37 and interpolation calculation units 38 and 39 for delaying the image data by one line for each of the R delayed image data and the B image data. The R delay image data R n is input to the A input terminal of the interpolation calculation unit 38, and the R delay image data R n−1 further delayed by one line in the FIFO memory 36 is input to the B terminal. An interpolation coefficient α is input to the K terminal from a CPU or the like. The interpolation calculation unit 38 calculates the interpolation data R n ′ of the data R n and the data R n−1 according to the formula described later using the interpolation coefficient α.
[0031]
Meanwhile, the A input terminal of the interpolation operation unit 39 is the B image data B n-1 delayed by one line in the FIFO memory 37 is input, the B terminal is input B image data B n before the delay. An interpolation coefficient α is input to the K terminal. The interpolation calculation unit 39 calculates the interpolation data B n ′ of the data B n and the data B n−1 according to the formula described later using the interpolation coefficient α.
[0032]
The interpolation coefficient α is a fraction (decimal part) when the element array interval is multiplied by the scaling factor. In the above example, the interpolation coefficient α is a value 2.4 obtained by multiplying the element array interval “4” by 0.6. The decimal part is 0.4. Therefore, the interpolation coefficient α is obtained from the following equation.
[0033]
[Expression 1]
α = element array interval × magnifying power−int (element array interval × magnifying power)
However, int () is an operator that extracts the integer part of the numerical value of ().
[0034]
Using this interpolation coefficient α, R and B image data after interpolation calculation, that is, interpolation data R n ′ and B n ′ are obtained from the following equations.
[0035]
[Expression 2]
Figure 0003709733
[0036]
[Equation 3]
Figure 0003709733
[0037]
In the above formulas (Equation 2 and Equation 3), the coefficient α or (α−1) multiplied by the data on the (n−1) -th line and the data on the n-th line is given by R image data and B image data. It is reversed. In relation to this, as shown in FIG. 3, the relationship between the image data input to the A terminal and the B terminal of the interpolation calculation units 38 and 39 and the delay data for one line is the interpolation calculation for the R image data. The section 38 and the interpolation calculation section 39 for B image data are reversed. This is because, as described above, the CCD sensor 12 has a structure in which the R element array and the B element array are arranged on the front and rear sides of the G element array. That is, the relationship between the equations (Equation 2 and Equation 3) is schematically shown in FIG.
[0038]
In FIG. 6, if the positions of R n , R n−1 , B n , and B n−1 are fixed, when the value of the interpolation coefficient α changes from 0 to 1, G n has a position of B n−1 ( changes from R n) side to B n (R n-1) side. As described above, in the first correction unit 30, the R image data is delayed by one extra line compared to the B image data. As a result, the phases of the R, G, and B image data are aligned.
[0039]
As described above, more detailed color misregistration correction can be performed by performing the decimal part interpolation processing in the second correction unit 31 in addition to the positional deviation correction for the integer lines in the first correction unit 30. it can.
[0040]
However, since the interpolation processing for the fractional part takes a weighted average of the density in the preceding and succeeding lines, for example, in the case of a 1-dot width thin line, the density is greatly reduced by this interpolation process. For this reason, in the case of a black thin line, the density balance of each of the R, G, and B colors may be lost, resulting in poor reproducibility. This will be described with reference to FIG.
[0041]
FIG. 7 is a diagram schematically showing the phase and density of each R, G, B image data in the case of a 1-dot wide black thin line.
7A shows a state before correction by the inter-line correction circuit 15G. (B) shows the position (phase) and density of each R, G, B image data after correction when the variable magnification is equal, that is, when the correction coefficient α is zero. In this case, since the interpolation processing of the decimal part in the second correction unit 31 is not actually performed, there is no decrease in the density of each image data, and only the displacement correction for the integer lines in the first correction unit 30 is performed. It will be.
[0042]
FIG. 7 (c) shows that the correction by both the first correction unit 30 and the second correction unit 31 of the inter-line correction unit 15 is performed when the scaling factor is not equal and the correction coefficient α is not zero. The phase and density of each R, G, B image data are shown. In this case, the density of the G image data that is the reference, that is, the G image data that is not subjected to the interpolation process does not change, whereas the density of the R and B image data is greatly reduced by the interpolation process. As a result, the balance of the density of each color is greatly lost as it is, and the reproducibility of the black thin line is deteriorated.
[0043]
FIG. 10 is a diagram illustrating a change in density value due to correction in the case of a thin line, and FIG. 11 is a diagram illustrating a change in density value due to correction in the case of a non-thin line.
As can be seen from these drawings, it is understood that the density value of the image data shifted from the reference color is lowered by performing correction.
[0044]
Therefore, in the present embodiment, as shown in FIG. 2, interpolation is performed by three interline correction circuits 15R, 15G, and 15B using R (red), B (blue), and G (green) as reference colors. Processing is performed, and an average value for each color of image data output from the correction output unit 15A is obtained.
[0045]
In FIG. 2, the correction output unit 15A obtains an average value for each color of the image data output from the interline correction circuits 15R, 15G, and 15B, and outputs the image data ROUT, GOUT, and BOUT. That is,
ROUT = (R0 + R1 + R2) / 3
GOUT = (G0 + G1 + G2) / 3
BOUT = (B0 + B1 + B2) / 3
FIG. 8 is a block diagram showing an example of the configuration of the correction output unit 15A, and FIG. 9 is a diagram for explaining the operation of the correction output unit 15A.
[0046]
As shown in FIG. 8, the correction output unit 15 </ b> A can be configured by three adders 151 to 153 and three dividers (multipliers) 154 to 156.
FIG. 9 shows image data when density values of R, G, and B colors are completely equal, that is, when an achromatic color is ideally read. Of these, FIG. 9A shows image data R0, G0, B0 corrected with R as a reference color, and FIG. 9B shows image data R1, G1, B1 corrected with G as a reference color. FIG. 9C shows image data R2, G2, B2 corrected with B as a reference color, and FIG. 9D shows image data ROUT, GOUT, BOUT of their average values. In this example, the three averaged image data ROUT, GOUT, and BOUT are the same as each other.
[0047]
As described above, the average value is obtained for each color of the image data output from the three interline correction circuits 15R, 15G, and 15B using R, G, and B as reference colors, thereby performing interline correction. Since the obtained image data is obtained, the phase shift between the element rows of the CCD sensor 12 can be corrected accurately, and the balance of the density of each color of R, G, B is maintained. As a result, the reproducibility of the black thin line can be improved.
[0048]
In the above-described embodiment, the element column interval d is “4” and the element column interval 2d is “8”. For example, the element column interval d is “8”, and the element column interval 2d is “16”. It is good also as a numerical value other than these, or a numerical value which is not an integer. Although the average value of the image data output from the three interline correction circuits 15R, 15G, and 15B is obtained, a weighting coefficient may be used or a square average may be performed. Further, image data corrected based on the image data from the two interline correction circuits may be obtained.
[0049]
In the above-described embodiment, the inter-line correction unit 15 and the inter-line correction circuits 15R, 15G, and 15B are hardware by a hardware circuit, software by executing a program by a CPU, or a combination thereof. Each can be realized. In addition, the configuration of each part or the whole of the interline correction unit 15 or the image processing apparatus M1, the processing content, the processing order, and the like can be appropriately changed in accordance with the spirit of the present invention.
[0050]
【The invention's effect】
According to the present invention, it is possible to correct the phase shift between the element rows as accurately as possible, and to improve the reproducibility of the black thin line.
[Brief description of the drawings]
FIG. 1 is a block diagram showing an overall configuration of an image processing apparatus according to an embodiment of the present invention.
FIG. 2 is a block diagram illustrating a configuration of an interline correction unit.
FIG. 3 is a block diagram of an inter-line correction circuit.
FIG. 4 is a block diagram illustrating an example of a configuration of an interpolation calculation unit.
FIG. 5 is a diagram illustrating an example of a reset signal and timing of each output image data.
FIG. 6 is a schematic diagram for explaining decimal part interpolation processing by a second correction unit of the inter-line correction circuit;
FIG. 7 is a diagram schematically showing the phase and density of image data of each color in the case of a 1-dot wide black thin line.
FIG. 8 is a block diagram illustrating an example of a configuration of a correction output unit.
FIG. 9 is a diagram for explaining the operation of a correction output unit;
FIG. 10 is a diagram illustrating a change in density value due to correction in the case of a thin line.
FIG. 11 is a diagram illustrating a change in density value due to correction when the line is not a thin line.
FIG. 12 is a schematic diagram showing a structure of a reduction type color CCD sensor.
[Explanation of symbols]
M1 image processing device 12 CCD sensor (image sensor)
15 Interline correction unit 15R, 15G, 15B Interline correction circuit (interline correction means)
15A correction output unit (correction output means)

Claims (2)

主走査方向に長い互いに異なる色用の複数の素子列が副走査方向に所定のライン分のピッチで互いに平行に配置された構造を有するイメージセンサから得られる各色の画像データの補正処理を行う画像処理装置であって、
前記各色のうちの1色を基準色として他の色の画像データについて前記副走査方向における前記基準色との素子列間の位置ずれに起因する位相ずれの1ライン分未満を補正するものであって前記基準色を互いに異にする複数のライン間補正手段と、
前記複数のライン間補正手段ごとに出力される前記各色の画像データから平均値を求めて、補正された画像データとして、色ごとに出力する補正出力手段と、
を有してなることを特徴とする画像処理装置。
An image for correcting image data of each color obtained from an image sensor having a structure in which a plurality of element rows for different colors long in the main scanning direction are arranged in parallel to each other at a predetermined line pitch in the sub-scanning direction A processing device comprising:
One of the colors is used as a reference color, and image data of other colors is corrected for less than one line of phase shift caused by position shift between element rows with the reference color in the sub-scanning direction. A plurality of inter-line correction means for making the reference colors different from each other;
And an average value from said image data of each color is output for each correction means among the plurality of lines, as corrected image data, a correction output means for force out for each color,
An image processing apparatus comprising:
主走査方向に長いR,G,B用の各素子列が副走査方向に所定のライン分のピッチで互いに平行に配置されたイメージセンサから得られるR,G,Bの各色の画像データの補正処理を行う画像処理装置であって、
R,G,Bのうちの1色を基準色として他の色の画像データについて副走査方向における前記基準色との素子列間の位置ずれに起因する位相ずれの1ライン分未満を補正するものであって前記基準色を互いに異にする複数のライン間補正手段と、
前記複数のライン間補正手段ごとに出力される前記各色の画像データの平均値を色ごとに求め、補正された画像データとして出力する補正出力手段と、
を有してなることを特徴とする画像処理装置。
Correction of R, G, and B color image data obtained from an image sensor in which element rows for R, G, and B that are long in the main scanning direction are arranged in parallel to each other at a predetermined line pitch in the sub-scanning direction An image processing apparatus that performs processing,
Correcting less than one line of phase shift caused by positional shift between element rows with respect to the reference color in the sub-scanning direction for image data of other colors using one of R, G and B as a reference color A plurality of inter-line correction means for making the reference colors different from each other;
Correction output means for obtaining an average value of the image data of each color output for each of the plurality of inter-line correction means for each color, and outputting the corrected image data;
An image processing apparatus comprising:
JP07483699A 1999-02-03 1999-03-19 Image processing device Expired - Fee Related JP3709733B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP07483699A JP3709733B2 (en) 1999-03-19 1999-03-19 Image processing device
US09/495,899 US7339699B1 (en) 1999-02-03 2000-02-02 Image processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP07483699A JP3709733B2 (en) 1999-03-19 1999-03-19 Image processing device

Publications (2)

Publication Number Publication Date
JP2000270173A JP2000270173A (en) 2000-09-29
JP3709733B2 true JP3709733B2 (en) 2005-10-26

Family

ID=13558833

Family Applications (1)

Application Number Title Priority Date Filing Date
JP07483699A Expired - Fee Related JP3709733B2 (en) 1999-02-03 1999-03-19 Image processing device

Country Status (1)

Country Link
JP (1) JP3709733B2 (en)

Also Published As

Publication number Publication date
JP2000270173A (en) 2000-09-29

Similar Documents

Publication Publication Date Title
US5721628A (en) Color image processing apparatus
JP3399486B2 (en) Color image processing apparatus and method
JP3253125B2 (en) Color image reading correction device
US10834292B2 (en) Image processing apparatus, image processing method, and non-transitory computer-readable storage medium
JP3664231B2 (en) Color image processing device
US7339699B1 (en) Image processing apparatus
EP0892551B1 (en) Image processing device
JP4006947B2 (en) Image reading device
JP3709733B2 (en) Image processing device
JP2001016442A (en) Picture processing method and picture processor
JP3861498B2 (en) Black edge discrimination device and image processing device
JP3713348B2 (en) Image reading device
JP4042335B2 (en) Document reader
JP2000236450A (en) Image processing unit
JP3236281B2 (en) Color image processing apparatus and color image processing method
JP3911898B2 (en) Color conversion apparatus and method
JP3262553B2 (en) Color image processing apparatus and color image processing method
JP3379462B2 (en) Image processing device
JP3700456B2 (en) Color image processing device
JP2001320593A (en) Image processing unit, and image forming device provided with it, and image processing method
JPH11234528A (en) Image reader, its method and recording medium
JPH1141479A (en) Image processor
JP4192120B2 (en) Image processing device
JP5206396B2 (en) Image processing device
JP2862280B2 (en) Image processing apparatus and method

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040611

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041019

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20041126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041215

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20041215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20041126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050426

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050627

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050719

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050801

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080819

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090819

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090819

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100819

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100819

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110819

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120819

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130819

Year of fee payment: 8

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees