JP3618826B2 - Image signal processing apparatus and method - Google Patents

Image signal processing apparatus and method Download PDF

Info

Publication number
JP3618826B2
JP3618826B2 JP15165795A JP15165795A JP3618826B2 JP 3618826 B2 JP3618826 B2 JP 3618826B2 JP 15165795 A JP15165795 A JP 15165795A JP 15165795 A JP15165795 A JP 15165795A JP 3618826 B2 JP3618826 B2 JP 3618826B2
Authority
JP
Japan
Prior art keywords
line
parallel
image
image signal
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP15165795A
Other languages
Japanese (ja)
Other versions
JPH0896116A (en
Inventor
秀昭 清水
了介 宮本
博之 矢口
康弘 瀧山
匡 高橋
正広 船田
弘幸 市川
雅紀 坂井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP15165795A priority Critical patent/JP3618826B2/en
Publication of JPH0896116A publication Critical patent/JPH0896116A/en
Application granted granted Critical
Publication of JP3618826B2 publication Critical patent/JP3618826B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

【0001】
【産業上の利用分野】
本発明は、複写機やファクシミリ装置等において、画像信号に対してフィルタ処理等の画像処理を行う画像信号処理装置及び方法に関する。
【0002】
【従来の技術】
複写機、ファクシミリ装置等の一般的なデジタル画像処理装置には、エッジ強調やスムージング処理に用いられるデジタルフィルター等のマトリクス処理を行う部分が複数存在する。この画像信号に対するマトリクス処理を図10を用いて説明する。ここでは9×9の正方形のマトリクスを用いる例を説明する。また、画像信号は基本的にライン単位のラスタースキャン方式で転送される。
【0003】
図において、601を現在転送されているライン(line N+4)とする。602は夫々1ライン分の画像信号を遅延させるラインバッファ8本を示す。また、603は各ライン当り8個のフリップフロップを示す。1ライン前のline N+3がラインバッファ602によって1ライン遅延して、line N+4の画像信号と同時に主走査方向遅延用のフリップフロップ603に入力される。同様にline N+2、line N+1、line N、line N−1、line N−2、line N−3、line N−4は夫々ラインバッファ602によって1ラインづつ遅延させられることにより、line N+4に同期して主走査方向遅延用のフリップフロップ603に入力される。この様にして9×9のマトリクスを構成する副走査方向に連続した9ラインを作り出す。
【0004】
また、前述の9ラインの画像信号は、各ラインに8個設けられた主走査方向遅延用のフリップフロップ603により1画素づつ遅延される。従って、フリップフロップ603による遅延前の1画素と遅延後の8画素を使うことにより、9×9のマトリクスを構成する主走査方向に連続した9画素を作り出す。9×9の画素は夫々演算回路604に入力され、所定の演算を行った後、line Nの画像信号605として出力される。
【0005】
以上の説明はごく一般的なデジタル画像処理装置におけるマトリクス画像処理部についてのものであるが、最近のデジタル画像処理装置は処理能力向上化と高解像度化の相乗効果で画像信号の高速転送が不可欠になってきている。この高速化を実現する場合、前記説明のマトリクス画像処理の構成では回路スピードが追いつかなくなりつつある。そこで、低速のマトリクス画像処理部を用いて、画像信号の高速転送を実現する必要が生じる。
【0006】
そのために、画素順次でシリアルに高速転送される画像信号をパラレルに並べ替え転送速度を下げる手法が考えられる。例えば画素単位でパラレル処理を行う画素パラレル処理では、2画素づつにパラレル処理を行えば転送速度は2分の1に、3画素づつ行えば転送速度は3分の1になる。またそれ以外にも、1ラインの画像信号をライン方向に複数に分割しパラレル処理を行うライン分割パラレル処理なども考えられる。
【0007】
この様なパラレル処理を用いると、比較的低速な画像処理をパラレルに行うことにより、結果として、高速な画像処理を行ったことになり、従って、画像信号の高速転送にも対処することが可能となる。
【0008】
【発明が解決しようとする課題】
しかしながら、上記パラレル処理によってマトリクスを用いた画像処理を行う場合の回路構成は非常に複雑になる。その構成を図11に示す。ここでは、転送速度を4分の1に落とすために4画素毎にパラレル処理を行った例について説明する。
【0009】
図10と同様に入力画像ラインは701のline N+4であり、前処理によってシリアル/パラレル変換されたline N+4中のn、n+1、n+2、n+3という主走査方向に連続した4画素が同時にパラレル入力されることになる。ここで前記と同様の9×9マトリクス処理をパラレル入力される4画素に行うためには、副走査方向の9ラインを作り出すためのラインバッファ702が32個必要になる。従って、図10の例に比べてラインバッファの個数は4倍になる。
【0010】
尚、1ラインを4つに分割するために各ラインバッファ702の必要容量は4分の1でよいために、トータルのバッファ容量は図10と同じである。しかし、通常のラインバッファのラインナップはその容量に対応したものは希で、結果的にはラインバッファ部のかなりのコストアップにつながる。
【0011】
また、マトリクス画像処理部105でラインバッファ702を含まない部分、つまりフリップフロップ部703、演算回路704の部分はASICとして1チップ化されるのが一般的である。1チップ化を考えると、この画素パラレル処理では入力信号の端子数に大きな問題がある。つまり、1入力あたり8ビットの画像信号であるとすると、ASICの入力端子数は、
9ライン×4画素パラレル×8ビット=288入力端子数
となり、ASIC化は非常に困難なものとなる。この様に、画素パラレル処理での問題は、ラインバッファ部のコストアップとASIC化に限界があるという2つが挙げられる。
【0012】
【課題を解決するための手段】
本発明は以上の点に鑑みてなされたもので、マトリクス演算等の複雑な画像処理を、簡易な構成で、高速に実行可能とすることを目的とする。
【0013】
また、本発明は、ライン毎に入力される画像信号に対する画像処理を簡易な構成で、高速に実行可能とすることを目的とする。
【0014】
また、本発明は、デジタル複写機やファクシミリ装置等において、高速な画像処理を可能とすることを目的とする。
【0015】
即ち、本発明は、画像信号をライン毎に複数画素ずつパラレルに入力する入力手段と、前記入力手段から入力された画像信号を、複数ライン、パラレルな画像信号に変換して出力する変換手段と、前記変換手段からパラレルに出力される複数ラインの画像信号の夫々に対して画像処理を施す処理手段とを有する画像信号処理装置を提供するものである。
【0016】
また、本発明による前記処理手段は、複数ラインの画像信号の夫々に対して、並行して同一の画像処理を施すものであり、また、本発明による前記処理手段は、複数ラインの画像信号をそれぞれ遅延して画像マトリクスを形成し、マトリクス演算を行うものである。
【0017】
以上の本発明の目的及び効果、そして、本発明による他の目的、効果は以下の説明から明らかとなるであろう。
【0018】
【実施例】
以下、本発明を好ましい実施例を用いて詳細に説明する。図1は全体構成を示す。101は紙面の画像を読み取りCCDラインセンサーであり、光電変換により画像を画素毎の電気信号に置き換える。このCCDラインセンサー部を図2を用いてさらに詳しく説明する。
【0019】
201は光量を電荷に置き換えるフォトダイオード部であり、それが数千個配列されたアレイ構造になりラインセンサーを構成する。また、蓄積された電荷を高速転送するためにフォトダイオード部201の両サイドには202、203、204、205で示す2対のCCDをトータル4ライン分構成する。フォトダイオード部201は所定のチャージ時間を経た後、画素1,画素5,…画素4n+1はCCD202に、画素2,画素6,…画素4n+2はCCD203に、画素3,画素7,…画素4n+3はCCD204に、画素4,画素8,画素4n+4はCCD205の如く、フォトダイオード部201からCCD202〜205に転送される。尚、nは0,1,2…なる整数である。次のサイクルでCCD202〜205中の各画素はCCDライン方向にシフトされ出力部206、207、208、209に出力される。この様にCCDラインセンサー101の出力は、4画素単位でパラレル画像信号として転送される。
【0020】
説明は図1に戻る。102はアナログ・デジタル変換部でCCDラインセンサー101から4画素パラレルに出力されるアナログ画像信号を夫々増幅し、4系統のデジタル画像信号に変換する。103はシェーディング処理部で4画素パラレルなデジタル画像信号を入力し、画像信号の黒補正、白補正をライン方向に対して行うものである。この段階でCCDラインセンサー101によって読み取られた画像は正規化されたデジタル画像信号としての形になる。
【0021】
次の104は、4画素毎の画素パラレル転送で転送される画像データを、4ラインまとめて4ラインパラレル転送する変換するための画素パラレル/ラインパラレル変換部である。そのブロック図を図3に示す。
【0022】
4画素毎の画素パラレル画像信号301を4ラインまとめてラインパラレル画像信号302に変換するために、画素パラレル/ラインパラレル変換部104は16個のラインバッファLBで構成される。変換動作のタイミングを図4に示す。画素パラレル画像信号のライン方向の画像有効領域を示す信号を401とする。また、その下にNライン目、N+1ライン目、N+2ライン目、N+3ライン目の画像信号が画素単位で4つのパラレルになっている状態を示している。Nライン目の4画素パラレルな画像信号はラインバッファLB00〜LB03に入力される。そして、このラインバッファLB00〜LB03から順次画像信号を読出すことによりシリアルなNライン目の画像信号を得ることができる。N+1,N+2,N+3ラインに関してもラインバッファLB10〜13,20〜23,30〜33を用いてシリアルな画像信号に変換する。この様に画素パラレルな画像信号を画素パラレル/ラインパラレル転送変換部104で各ライン毎のシリアル画像信号に変換し、Nライン、N+1ライン、N+2ライン、N+3ラインの画像信号を同時に入力時の略1/4の速度でパラレル転送する。その画像有効領域は402に示すものとなる。
【0023】
尚、図4に示す様に、画素パラレル/ラインパラレル変換部104では、N〜N+3ラインの画像信号の入力時に、それに並行して、N−4〜N−1ラインの画像信号のパラレル出力が行われる。従って、この並行処理のために、各ラインバッファLB00〜LB33は、2ライン分の画像信号を記憶可能な容量を備えて、先のラインの画像信号の読出しに並行して、次のラインの書込みが可能な構成とする。尚、図3の画素パラレル/ラインパラレル変換部104を2組設け、それを書き込み、読出しに交互に利用する構成としてもよい。
【0024】
4ラインパラレル転送に変換された後に、画像処理部105にて画像処理が行われる。ここではエッジ強調やスムージング処理等画像をマトリクスとして扱う様々な処理や、画像の影付け、斜体、回転などを行う画像加工処理が含まれている。ここでは、いくつかの画像処理の1つとして9×9の正方形の画像マトリクスを用いるマトリクス画像処理を図5を用いて説明する。
【0025】
マトリクス画像処理とは、エッジ強調、スムージングやエリアでのパターンマッチングなどであって、画像処理では比較的多く使われる方法である。今、N+4ライン、N+5ライン、N+6ライン、N+7ラインの4ラインはマトリクス画像処理部105に501として入力される。
【0026】
マトリクス画像処理部105には、1ライン分の画像信号を遅延させる8本のラインバッファ502及び4本の入力ライン及び8本のラインバッファの夫々に8個のフリップフロップが設けてある。例えば、4ラインパラレル転送なのでN+4ライン画像信号の1ライン前に同一ラインを介して入力する画像信号は、Nラインになる。また、Nラインの画像信号の1ライン前に同一ラインを介して入力する画像信号はN−4ラインになる。よってNラインの画像信号がラインバッファ502によって1ライン遅延して、また、N−4ラインの画像信号がラインバッファ502によって2ライン遅延して、N+4ラインの画像信号と同時に主走査方向遅延用のフリップフロップ503に入力される。
【0027】
また、残りの3本の入力ラインに夫々入力されるN+5,N+6,N+7ラインの画像信号の1ライン前に入力されるN+1,N+2,N+3ラインの画像信号及び2ライン前に入力されるN−3,N+2,N−1ラインの画像信号が、ラインバッファ502から出力される。
【0028】
以上の様にして、ラインバッファ502を用いることにより、N−4ラインからN+7ラインまでの12ライン分の全ての画像信号は同期して、主走査方向遅延用のフリップフロップ503に入力される。
【0029】
即ち、副走査方向に連続した12ライン分の画像信号が形成される。そして、この12ラインの画像信号より、9×9のマトリクスを副走査方向に1ラインずつずれて4個作り出す。つまり、N−4ラインからN+4ラインの画像信号がNラインの画像信号を処理するためのマトリクスに、N−3ラインからN+5ラインの画像信号がN+1ラインの画像信号を処理するためのマトリクスに、N−2ラインからN+6ラインの画像信号がN+2ラインの画像信号を処理するためのマトリクスに、また、N−1ラインからN+7ラインの画像信号がN+3ラインの画像信号を処理するためのマトリクスに、夫々利用される。
【0030】
つまり、N−3ラインからN+6ラインまでの画像信号は複数のマトリクスで共有できる。また、主走査方向の9画素分は主走査方向遅延用のフリップフロップ503により1画素づつ遅延された夫々の画素を使うことにより、主走査方向に連続した9画素を作り出す。
【0031】
この様にして作り出された4つの9×9マトリクスの画素は夫々4つのマトリクス演算回路504に入力され、所定のマトリクス演算を行った後、Nライン、N+1ライン、N+2ライン、N+3ラインの画像信号505として出力される。これによりラインパラレルな4ラインの画像信号に対するマトリクス画像処理の工程が終了する。
【0032】
これらのラインパラレル処理が有利な画像処理が終了した後、ラインパラレル/画素パラレル変換部106によって再び画素パラレル転送に変換する。即ち、通常のデータ転送で最も多く使われる画素パラレル転送に切り替えることで、他のユニットに対し標準的な転送画像を供給できる。このラインパラレル/画素パラレル変換部106は図3に示した画素パラレル/ラインパラレル変換部104と逆の動作を実行するものである。尚、4画素パラレル転送に限らず、後段回路の転送速度に応じてパラレル無しのシリアル信号として転送することも可能である。また、同様に転送速度の遅い後段回路に対しては8画素パラレル転送や16画素パラレル転送で送り出すことも可能である。
【0033】
以上説明した様に、ライン毎の画像信号をラインパラレル転送に変換する手段を持ち、転送方向を変換した後にマトリクス画像処理などの処理を行い再び画素パラレル転送に変換するものである。これにより、前記例に示すような4系統の9×9の画素マトリクスを処理する場合において、図5に示すようにラインバッファの個数は、従来例の図9に示した4系統の並列処理を行わない単なる1系統のマトリクス処理の場合と同じ8個で実現できる。また、画素パラレル処理での問題として挙げたASICの入力端子数の限界に対しても、ラインパラレル処理では次に示すものになる(ただし、1入力あたり8ビットの画像信号であるとする)。
【0034】
12ライン×8ビット=96入力端子数
従って、図10に示した画素パラレル処理の288端子と比べると格段に現実性を帯びる。
【0035】
また、ここではマトリクス画像処理のみについて説明してきたが、画像処理はマトリクス処理だけではなく、様々な処理が行われる。例えば、誤差を広い面積に拡散する誤差拡散処理や、ページバッファに入れた画像を回転するような場合にも、処理時間や回路規模の点で有効である。
【0036】
尚、以上説明した実施例構成では、CCDラインセンサー101が4ラインのCCDを備え、画素4n+1,4n+2,4n+3,4n+4(nは0以上の整数)を夫々4系統パラレル出力する構成であり、CCDラインセンサー101から4画素パラレルに画像信号が出力される。
【0037】
従って、画素パラレル/ラインパラレル変換部104は、CCDラインセンサー101から4画素パラレルに出力され、アナログ・デジタル変換部102及びシェーディング処理部103を介した、4画素パラレルな画像信号に対して画素パラレル/ラインパラレル変換を行う。
【0038】
しかしながら、CCDラインセンサーとして、4画素パラレル出力を行うものではなく、ODD/EVENの2画素パラレル出力のものや、画素シリアル出力のものを用いてもよい。
【0039】
この場合には、2画素パラレル出力または画素シリアル出力の画像信号を取り込み、4画素パラレル出力に変換する画素パラレル変換回路を設ける。そして、この画素パラレル変換回路からの4画素パラレルな画像信号を画素パラレル/ラインパラレル変換部104に導入して、ラインパラレルな画像信号に変換して前述と同様の処理を実行するものである。
【0040】
(他の実施例)
図6に本発明の他の実施例構成を示す。
【0041】
基本的に前記実施例と同様の構成であるが、CCDラインセンサー801からはライン毎のシリアルデータとして1系統の画像信号が出力される。画像信号はアナログデジタル変換部802、シェーディング処理部803を通ることにより、正規化されたデジタル画像信号とされる。ラインパラレル変換部804では、1ラインづつ入力される画像信号を2ライン毎にまとめ、2ラインパラレル信号として出力するものである。
【0042】
図7にラインパラレル変換部804の構成を示す。LB0,LB1は夫々ラインバッファであり、これらラインバッファLB0,LB1の容量は夫々2ライン以上の画像信号を記憶可能なものである。
【0043】
図8にラインパラレル変換部804の変換動作のタイミングを示す。
【0044】
シェーディング処理部803からのラインシリアルな画像信号301はラインバッファLB0,LB1に交互に書き込まれる。即ち、Nラインの画像信号はラインバッファLB0に書き込まれ、N+1ラインの画像信号はラインバッファLB1に書き込まれる。信号901は入力画像信号の有効領域を示す。その後、入力時の略1/2の速度でNライン及びN+1ラインの画像信号がラインバッファLB0,LB1からラインパラレル信号302としてパラレル転送される。
【0045】
また、このパラレル転送に並行して、N+2ライン及びN+3ラインの画像信号のラインバッファLB0,LB1への書き込みがなされる。そして、N+2ライン及びN+3ラインの画像信号がパラレル転送される。尚、信号902はパラレル転送される画像信号の有効領域を示す。
【0046】
2ラインパラレル変換された画像信号は画像処理部805にて画像処理される。図9に画像処理部805の構成を示す。ここでは、前述の例と同様に9×9の正方形の画像マトリクスを用いるマトリクス画像処理を行う。
【0047】
画像処理部805には、1ライン分の画像信号を遅延させる8本のラインバッファ902及び2本の入力ライン及び8本のラインバッファの夫々に8個のフリップフロップが設けてある。例えば、2ラインパラレル転送なのでN+4ラインの1ライン前に同一ラインを介して入力する画像信号は、N+2ラインになる。よってN+2ラインの画像信号がラインバッファ902によって1ライン遅延して、N+4ラインの画像信号と同時に主走査方向遅延用のフリップフロップ903に入力される。同様にN−4ラインからN+5ラインまでの10ライン全ての画像信号は同期して、主走査方向遅延用のフリップフロップ903に入力される。この時点で10ラインの画像信号があるが、これにより9×9のマトリクスを副走査方向に1ラインずれて2個作り出すことができる。つまり、N−3ラインからN+4ラインまでの画像信号は2個のマトリクスで共有できる。また、主走査方向の9画素分は主走査方向遅延用のフリップフロップ903により1画素づつ遅延された夫々の画素を使うことにより、主走査方向に連続した9画素を作り出す。
【0048】
この様にして作り出された2つの9×9マトリクスの画素は夫々2つのマトリクス演算回路904に入力され、所定のマトリクス演算を行った後、Nライン、N+1ラインの画像信号905として出力される。これによりラインパラレルな2ラインの画像信号に対するマトリクス画像処理の工程が終了する。
【0049】
これらのラインパラレル処理が有利な画像処理が終了した後、ラインパラレル/画素シリアル変換部806によって再び元の画素トリアル転送に変換する。このユニットに対し標準的な転送画像を供給できる。このラインパラレル/画素シリアル変換部806は図7に示したラインパラレル変換部804と逆の動作を実行するものである。
【0050】
以上説明した様に、ライン毎の画素シリアルな画像信号をラインパラレル転送に変換する手段を持ち、転送方法を変換した後にマトリクス画像処理などの処理を行い再び画素シリアル転送に変換するものである。これにより、2系統の9×9の画像マトリクスを処理する場合において、図9に示すようにラインバッファの個数は、2系統の並列処理を行わない単なる1系統のマトリクス処理の場合と同じ8個で実現できる。
【0051】
また、ここではマトリクス画像処理のみについて説明してきたが、画像処理はマトリクス処理だけではなく、様々な処理が行われる。例えば、誤差を広い面積に拡散する誤差拡散処理や、ページバッファに入れた画像を回転するような場合にも、処理時間や回路規模の点で有効である。
【0052】
また、マトリクス画像処理も9×9の正方形の画像マトリクスに限るものではなく、他のサイズのマトリクス画像処理にも適用可能であり、また、他のサイズに適用する場合はバッアァメモリやフリップフロップの数やラインパラレル後のライン数等を、その処理に合わせて適宜変更することは言う迄もない。
【0053】
【発明の効果】
以上説明した様に、本発明によると、複数画素ずつパラレルに入力するライン毎の画像信号を、複数ラインずつパラレルな画像信号に変換して、パラレルに出力される複数ライン分の画像信号の夫々に対して画像処理を施すので、エッジ強調、スムージング、パターンマッチング等の複数ライン分の画像信号を用いる画像処理に際し、その画像処理を小規模の回路構成で高速に実行可能となる。
【図面の簡単な説明】
【図1】本発明を適用した画像処理装置の構成を示す図。
【図2】CCSラインセンサーの構造を示す図。
【図3】画素パラレル/ラインパラレル変換部の構成を示す図。
【図4】画素パラレル/ラインパラレル変換動作を示す図。
【図5】画像処理部の構成を示す図。
【図6】画像処理装置の他の実施例構成を示す図。
【図7】ラインパラレル変換部の構成を示す図。
【図8】ラインパラレル変換動作を示す図。
【図9】画像処理部の構成を示す図。
【図10】一般的なマトリクス画像処理部の構成を示す図。
【図11】従来のマトリクス画像処理部の構成を示す図。
【符号の説明】
101 CCDラインセンサー
104 画素パラレル/ラインパラレル変換部
105 画像処理部
502 ラインバッファ
503 フリップフロップ
504 演算回路
[0001]
[Industrial application fields]
The present invention relates to an image signal processing apparatus and method for performing image processing such as filter processing on an image signal in a copying machine, a facsimile machine or the like.
[0002]
[Prior art]
A general digital image processing apparatus such as a copying machine or a facsimile apparatus has a plurality of portions for performing matrix processing such as a digital filter used for edge enhancement and smoothing processing. The matrix processing for this image signal will be described with reference to FIG. Here, an example using a 9 × 9 square matrix will be described. The image signal is basically transferred by a raster scan method in units of lines.
[0003]
In the figure, 601 is a currently transferred line (line N + 4). Reference numeral 602 denotes eight line buffers for delaying image signals for one line. Reference numeral 603 denotes eight flip-flops per line. The line N + 3 one line before is delayed by one line by the line buffer 602 and input to the main scanning direction delay flip-flop 603 simultaneously with the line N + 4 image signal. Similarly, line N + 2, line N + 1, line N, line N-1, line N-2, line N-3, and line N-4 are respectively delayed by one line by the line buffer 602, and thus synchronized with line N + 4. To the flip-flop 603 for main scanning direction delay. In this way, nine lines that form a 9 × 9 matrix and are continuous in the sub-scanning direction are created.
[0004]
Further, the above-mentioned nine lines of image signals are delayed by one pixel by a main scanning direction delay flip-flop 603 provided on each line. Accordingly, by using one pixel before the delay by the flip-flop 603 and eight pixels after the delay, nine pixels that are continuous in the main scanning direction forming a 9 × 9 matrix are created. The 9 × 9 pixels are respectively input to the arithmetic circuit 604, and after a predetermined calculation, are output as a line N image signal 605.
[0005]
The above description is about a matrix image processing unit in a general digital image processing apparatus. However, in recent digital image processing apparatuses, high-speed transfer of an image signal is indispensable due to a synergistic effect of improved processing capability and higher resolution. It is becoming. When realizing this high speed, the circuit speed cannot keep up with the matrix image processing configuration described above. Therefore, it is necessary to realize high-speed transfer of image signals using a low-speed matrix image processing unit.
[0006]
For this purpose, a method can be considered in which image signals that are serially transferred at high speed are rearranged in parallel to reduce the transfer speed. For example, in pixel parallel processing in which parallel processing is performed in units of pixels, the transfer speed is reduced by one-half if parallel processing is performed every two pixels, and the transfer speed is reduced by one-third if performed by three pixels. In addition, line division parallel processing, in which one line of image signal is divided into a plurality of lines in the line direction and parallel processing is performed, is also conceivable.
[0007]
When such parallel processing is used, relatively low-speed image processing is performed in parallel, resulting in high-speed image processing. Therefore, it is possible to cope with high-speed image signal transfer. It becomes.
[0008]
[Problems to be solved by the invention]
However, the circuit configuration when performing image processing using a matrix by the parallel processing becomes very complicated. The configuration is shown in FIG. Here, an example will be described in which parallel processing is performed for every four pixels in order to reduce the transfer rate to a quarter.
[0009]
As in FIG. 10, the input image line is a line N + 4 of 701, and four consecutive pixels in the main scanning direction of n, n + 1, n + 2, and n + 3 in the line N + 4 serial / parallel converted by the preprocessing are simultaneously input in parallel. Will be. Here, in order to perform the 9 × 9 matrix processing similar to the above to four pixels that are input in parallel, 32 line buffers 702 for generating nine lines in the sub-scanning direction are required. Therefore, the number of line buffers is four times that of the example of FIG.
[0010]
In addition, since the required capacity of each line buffer 702 is sufficient to divide one line into four, the total buffer capacity is the same as in FIG. However, the lineup of the normal line buffer rarely corresponds to the capacity, and as a result, the cost of the line buffer unit is considerably increased.
[0011]
Further, the part of the matrix image processing unit 105 that does not include the line buffer 702, that is, the part of the flip-flop unit 703 and the arithmetic circuit 704 is generally integrated into one chip as an ASIC. Considering one-chip implementation, this pixel parallel processing has a big problem with the number of input signal terminals. In other words, if it is an 8-bit image signal per input, the number of input terminals of the ASIC is
9 lines × 4 pixels parallel × 8 bits = 288 input terminals, making ASIC very difficult. As described above, there are two problems in the pixel parallel processing: the cost increase of the line buffer unit and the limitation to the ASIC.
[0012]
[Means for Solving the Problems]
The present invention has been made in view of the above points, and an object of the present invention is to enable complex image processing such as matrix calculation to be executed at high speed with a simple configuration.
[0013]
It is another object of the present invention to perform image processing on an image signal input for each line at high speed with a simple configuration.
[0014]
Another object of the present invention is to enable high-speed image processing in a digital copying machine, a facsimile machine, or the like.
[0015]
That is, the present invention provides an input means for inputting an image signal in parallel for each pixel by a plurality of pixels, and a conversion means for converting the image signal input from the input means into a plurality of lines and a parallel image signal for output. An image signal processing apparatus having processing means for performing image processing on each of a plurality of lines of image signals output in parallel from the conversion means.
[0016]
Further, the processing means according to the present invention performs the same image processing in parallel on each of the image signals of a plurality of lines, and the processing means according to the present invention converts the image signals of a plurality of lines. Each is delayed to form an image matrix, and matrix calculation is performed.
[0017]
The above objects and effects of the present invention and other objects and effects of the present invention will be apparent from the following description.
[0018]
【Example】
Hereinafter, the present invention will be described in detail using preferred embodiments. FIG. 1 shows the overall configuration. Reference numeral 101 denotes a CCD line sensor that reads an image on a paper surface and replaces the image with an electrical signal for each pixel by photoelectric conversion. The CCD line sensor unit will be described in more detail with reference to FIG.
[0019]
Reference numeral 201 denotes a photodiode portion that replaces the amount of light with an electric charge. The photodiode unit 201 has an array structure in which thousands are arranged to constitute a line sensor. Further, in order to transfer the accumulated charges at high speed, two pairs of CCDs indicated by 202, 203, 204, and 205 are formed on both sides of the photodiode portion 201 for a total of four lines. After the photodiode section 201 has passed a predetermined charging time, the pixel 1, pixel 5,..., Pixel 4n + 1 are in the CCD 202, the pixel 2, pixel 6,..., Pixel 4n + 2 are in the CCD 203, and the pixel 3, pixel 7,. In addition, the pixel 4, the pixel 8, and the pixel 4n + 4 are transferred from the photodiode unit 201 to the CCDs 202 to 205 like the CCD 205. Note that n is an integer of 0, 1, 2,. In the next cycle, each pixel in the CCDs 202 to 205 is shifted in the CCD line direction and output to the output units 206, 207, 208 and 209. Thus, the output of the CCD line sensor 101 is transferred as a parallel image signal in units of four pixels.
[0020]
The description returns to FIG. An analog / digital conversion unit 102 amplifies analog image signals output from the CCD line sensor 101 in parallel with four pixels, and converts them into four digital image signals. A shading processing unit 103 inputs a 4-pixel parallel digital image signal and performs black correction and white correction of the image signal in the line direction. At this stage, the image read by the CCD line sensor 101 is in the form of a normalized digital image signal.
[0021]
A next 104 is a pixel parallel / line parallel conversion unit for converting image data transferred by pixel parallel transfer for every four pixels into four lines in parallel by transferring four lines. The block diagram is shown in FIG.
[0022]
In order to convert the pixel parallel image signal 301 for every four pixels into four line parallel image signals 302, the pixel parallel / line parallel conversion unit 104 includes 16 line buffers LB. The timing of the conversion operation is shown in FIG. A signal indicating the image effective area in the line direction of the pixel parallel image signal is denoted by 401. Below that, the image signals of the N-th, N + 1-th, N + 2-th, and N + 3-th lines are in a state of four parallel pixels. The N-line 4-pixel parallel image signal is input to the line buffers LB00 to LB03. The serial N-th line image signal can be obtained by sequentially reading out the image signals from the line buffers LB00 to LB03. The N + 1, N + 2, and N + 3 lines are also converted into serial image signals using the line buffers LB10 to 13, 20 to 23, and 30 to 33. In this way, the pixel parallel image signal is converted into a serial image signal for each line by the pixel parallel / line parallel transfer conversion unit 104, and the image signals of the N line, N + 1 line, N + 2 line, and N + 3 line are simultaneously input. Parallel transfer at 1/4 speed. The effective image area is indicated by 402.
[0023]
As shown in FIG. 4, in the pixel parallel / line parallel conversion unit 104, when N to N + 3 line image signals are input, parallel output of N-4 to N-1 line image signals is performed in parallel therewith. Done. Therefore, for this parallel processing, each line buffer LB00 to LB33 has a capacity capable of storing image signals for two lines, and writes the next line in parallel with reading the image signal of the previous line. The configuration is possible. Note that two sets of the pixel parallel / line parallel conversion unit 104 in FIG. 3 may be provided and used alternately for writing and reading.
[0024]
After conversion to 4-line parallel transfer, the image processing unit 105 performs image processing. Here, various processes for handling an image as a matrix, such as edge enhancement and smoothing, and image processing for performing shadowing, italics, rotation, and the like of the image are included. Here, matrix image processing using a 9 × 9 square image matrix as one of several image processing will be described with reference to FIG.
[0025]
Matrix image processing is edge enhancement, smoothing, pattern matching in an area, and the like, and is a method that is relatively frequently used in image processing. Now, four lines of N + 4 line, N + 5 line, N + 6 line, and N + 7 line are input to the matrix image processing unit 105 as 501.
[0026]
The matrix image processing unit 105 is provided with eight flip-flops for each of eight line buffers 502 and four input lines and eight line buffers for delaying an image signal for one line. For example, because of 4-line parallel transfer, the image signal input via the same line one line before the N + 4 line image signal becomes N lines. Further, the image signal input via the same line one line before the image signal of N lines becomes N-4 lines. Therefore, the N line image signal is delayed by one line by the line buffer 502, and the N-4 line image signal is delayed by 2 lines by the line buffer 502, so as to delay the main scanning direction simultaneously with the N + 4 line image signal. Input to the flip-flop 503.
[0027]
Further, the N + 1, N + 2, N + 3 line image signals input one line before the N + 5, N + 6, N + 7 line image signals input to the remaining three input lines, respectively, and the N− input input two lines before. The image signals of the 3, N + 2, N−1 lines are output from the line buffer 502.
[0028]
As described above, by using the line buffer 502, all image signals for 12 lines from the N-4 line to the N + 7 line are input to the flip-flop 503 for delay in the main scanning direction in synchronization.
[0029]
That is, image signals for 12 lines continuous in the sub-scanning direction are formed. Then, four 9 × 9 matrices are generated from the 12-line image signals by shifting one line in the sub-scanning direction. That is, the image signal from the N-4 line to the N + 4 line is a matrix for processing the image signal of the N line, and the image signal from the N-3 line to the N + 5 line is a matrix for processing the image signal of the N + 1 line. N-2 to N + 6 line image signals are processed into a matrix for processing N + 2 line image signals, and N-1 to N + 7 line image signals are processed into a matrix for processing N + 3 line image signals. Each is used.
[0030]
That is, the image signals from the N-3 line to the N + 6 line can be shared by a plurality of matrices. Further, nine pixels in the main scanning direction are generated by using the pixels delayed by one pixel by the main scanning direction delay flip-flop 503, thereby generating nine pixels in the main scanning direction.
[0031]
The four 9 × 9 matrix pixels generated in this way are respectively input to four matrix calculation circuits 504, and after performing a predetermined matrix calculation, image signals of N line, N + 1 line, N + 2 line, and N + 3 line. It is output as 505. Thus, the matrix image processing process for the line parallel image signals of 4 lines is completed.
[0032]
After the image processing that is advantageous for the line parallel processing is completed, the line parallel / pixel parallel conversion unit 106 performs conversion again to pixel parallel transfer. That is, by switching to the pixel parallel transfer that is most frequently used in normal data transfer, a standard transfer image can be supplied to other units. The line parallel / pixel parallel conversion unit 106 performs the reverse operation of the pixel parallel / line parallel conversion unit 104 shown in FIG. It should be noted that the transfer is not limited to the 4-pixel parallel transfer, and can be transferred as a serial signal without parallel according to the transfer speed of the subsequent circuit. Similarly, it is possible to send out to the subsequent circuit having a low transfer rate by 8-pixel parallel transfer or 16-pixel parallel transfer.
[0033]
As described above, there is means for converting the image signal for each line into line parallel transfer, and after converting the transfer direction, processing such as matrix image processing is performed to convert it again into pixel parallel transfer. Thus, when processing four systems of 9 × 9 pixel matrices as shown in the above example, the number of line buffers as shown in FIG. 5 is the same as the four systems of parallel processing shown in FIG. It can be realized with the same eight as in the case of a simple one-line matrix processing that is not performed. In addition, the line parallel processing is also as follows with respect to the limit of the number of input terminals of the ASIC cited as a problem in the pixel parallel processing (assuming that it is an 8-bit image signal per input).
[0034]
12 lines × 8 bits = 96 number of input terminals Accordingly, the present invention is much more realistic than the 288 terminals of the pixel parallel processing shown in FIG.
[0035]
Although only the matrix image processing has been described here, the image processing is not limited to matrix processing, but various processing is performed. For example, it is effective in terms of processing time and circuit scale even when error diffusion processing for diffusing errors over a wide area or when rotating an image stored in a page buffer.
[0036]
In the configuration of the embodiment described above, the CCD line sensor 101 is provided with four lines of CCDs and outputs four lines of pixels 4n + 1, 4n + 2, 4n + 3, 4n + 4 (n is an integer of 0 or more) in parallel. An image signal is output from the line sensor 101 in parallel to four pixels.
[0037]
Accordingly, the pixel parallel / line parallel conversion unit 104 outputs the pixel parallel to the 4-pixel parallel image signal output from the CCD line sensor 101 in a 4-pixel parallel manner via the analog / digital conversion unit 102 and the shading processing unit 103. / Line parallel conversion is performed.
[0038]
However, as a CCD line sensor, an ODD / EVEN two-pixel parallel output or a pixel serial output may be used instead of a four-pixel parallel output.
[0039]
In this case, a pixel parallel conversion circuit is provided that takes in an image signal of 2-pixel parallel output or pixel serial output and converts it to 4-pixel parallel output. Then, the 4-pixel parallel image signal from the pixel parallel conversion circuit is introduced into the pixel parallel / line parallel conversion unit 104, converted into a line parallel image signal, and the same processing as described above is executed.
[0040]
(Other examples)
FIG. 6 shows another embodiment of the present invention.
[0041]
The configuration is basically the same as that in the above embodiment, but one line of image signal is output from the CCD line sensor 801 as serial data for each line. The image signal is converted into a normalized digital image signal by passing through the analog-digital conversion unit 802 and the shading processing unit 803. The line parallel conversion unit 804 collects the image signals input line by line for every two lines and outputs them as a two line parallel signal.
[0042]
FIG. 7 shows the configuration of the line parallel conversion unit 804. LB0 and LB1 are line buffers, and the capacity of these line buffers LB0 and LB1 can store image signals of two lines or more.
[0043]
FIG. 8 shows the timing of the conversion operation of the line parallel conversion unit 804.
[0044]
The line serial image signal 301 from the shading processing unit 803 is alternately written in the line buffers LB0 and LB1. That is, the N line image signal is written in the line buffer LB0, and the N + 1 line image signal is written in the line buffer LB1. A signal 901 indicates an effective area of the input image signal. After that, the N-line and N + 1-line image signals are transferred in parallel as line parallel signals 302 from the line buffers LB0 and LB1 at a speed approximately half that at the time of input.
[0045]
In parallel with this parallel transfer, image signals of N + 2 line and N + 3 line are written to the line buffers LB0 and LB1. The N + 2 line and N + 3 line image signals are transferred in parallel. A signal 902 indicates an effective area of an image signal to be transferred in parallel.
[0046]
The image signal that has been subjected to the two-line parallel conversion is subjected to image processing by an image processing unit 805. FIG. 9 shows the configuration of the image processing unit 805. Here, matrix image processing using a 9 × 9 square image matrix is performed as in the above example.
[0047]
The image processing unit 805 is provided with eight flip-flops in each of eight line buffers 902 for delaying an image signal for one line, two input lines, and eight line buffers. For example, because of 2-line parallel transfer, an image signal input via the same line one line before N + 4 lines becomes N + 2 lines. Therefore, the N + 2 line image signal is delayed by one line by the line buffer 902 and is input to the main scanning direction delay flip-flop 903 simultaneously with the N + 4 line image signal. Similarly, the image signals of all 10 lines from the N-4 line to the N + 5 line are input to the flip-flop 903 for delaying in the main scanning direction in synchronization. At this time, there are 10 lines of image signals, and this makes it possible to create two 9 × 9 matrices that are shifted by one line in the sub-scanning direction. That is, the image signals from the N-3 line to the N + 4 line can be shared by two matrices. Further, nine pixels in the main scanning direction are generated by using the pixels delayed by one pixel by the main scanning direction delay flip-flop 903, thereby generating nine pixels continuous in the main scanning direction.
[0048]
The two 9 × 9 matrix pixels generated in this way are input to two matrix operation circuits 904, respectively, and after performing a predetermined matrix operation, are output as N-line and N + 1-line image signals 905. As a result, the matrix image processing process for the two line parallel image signals is completed.
[0049]
After the image processing that is advantageous for the line parallel processing is completed, the line parallel / pixel serial conversion unit 806 converts the image data back to the original pixel trial transfer again. Standard transfer images can be supplied to this unit. The line parallel / pixel serial conversion unit 806 performs the reverse operation of the line parallel conversion unit 804 shown in FIG.
[0050]
As described above, it has means for converting the pixel serial image signal for each line into line parallel transfer, and after converting the transfer method, performs processing such as matrix image processing and converts it again into pixel serial transfer. As a result, when processing two systems of 9 × 9 image matrices, as shown in FIG. 9, the number of line buffers is eight, which is the same as in the case of mere one system matrix processing without performing two systems of parallel processing. Can be realized.
[0051]
Although only the matrix image processing has been described here, the image processing is not limited to matrix processing, but various processing is performed. For example, it is effective in terms of processing time and circuit scale even when error diffusion processing for diffusing errors over a wide area or when rotating an image stored in a page buffer.
[0052]
In addition, the matrix image processing is not limited to a 9 × 9 square image matrix, but can be applied to matrix image processing of other sizes, and the number of buffer memories and flip-flops can be applied to other sizes. Needless to say, the number of lines after line parallel or the like is appropriately changed according to the processing.
[0053]
【The invention's effect】
As described above, according to the present invention, an image signal for each line that is input in parallel for each of a plurality of pixels is converted into a parallel image signal for each of a plurality of lines , and each of the image signals for a plurality of lines that are output in parallel. Therefore, when image processing using image signals for a plurality of lines such as edge enhancement, smoothing, and pattern matching is performed, the image processing can be executed at high speed with a small circuit configuration.
[Brief description of the drawings]
FIG. 1 is a diagram showing a configuration of an image processing apparatus to which the present invention is applied.
FIG. 2 is a diagram showing a structure of a CCS line sensor.
FIG. 3 is a diagram illustrating a configuration of a pixel parallel / line parallel conversion unit.
FIG. 4 is a diagram illustrating a pixel parallel / line parallel conversion operation.
FIG. 5 is a diagram illustrating a configuration of an image processing unit.
FIG. 6 is a diagram showing a configuration of another embodiment of the image processing apparatus.
FIG. 7 is a diagram showing a configuration of a line parallel conversion unit.
FIG. 8 is a diagram illustrating a line parallel conversion operation.
FIG. 9 is a diagram illustrating a configuration of an image processing unit.
FIG. 10 is a diagram illustrating a configuration of a general matrix image processing unit.
FIG. 11 is a diagram showing a configuration of a conventional matrix image processing unit.
[Explanation of symbols]
101 CCD line sensor 104 pixel parallel / line parallel conversion unit 105 image processing unit 502 line buffer 503 flip-flop 504 arithmetic circuit

Claims (8)

画像信号をライン毎に複数画素ずつパラレルに入力する入力手段と、
前記入力手段から入力された画像信号を、複数ライン、パラレルな画像信号に変換して出力する変換手段と、
前記変換手段からパラレルに出力される複数ラインの画像信号の夫々に対して画像処理を施す処理手段とを有することを特徴とする画像信号処理装置。
Input means for inputting image signals in parallel by a plurality of pixels for each line;
Conversion means for converting the image signal input from the input means into a multi-line, parallel image signal and outputting it;
An image signal processing apparatus comprising: processing means for performing image processing on each of a plurality of lines of image signals output in parallel from the conversion means.
前記処理手段は、複数ラインの画像信号の夫々に対して、並行して同一の画像処理を施すことを特徴とする請求項1に記載の画像信号処理装置。2. The image signal processing apparatus according to claim 1, wherein the processing unit performs the same image processing in parallel on each of the image signals of a plurality of lines. 前記処理手段は、複数ラインの画像信号をそれぞれ遅延して画像マトリクスを形成し、マトリクス演算を行うことを特徴とする請求項1に記載の画像信号処理装置。The image signal processing apparatus according to claim 1, wherein the processing unit delays the image signals of a plurality of lines to form an image matrix and performs matrix calculation. 画像信号をライン毎に複数画素ずつパラレルに入力する入力手段と、Input means for inputting image signals in parallel by a plurality of pixels for each line;
前記入力手段から入力された画像信号を、複数ライン、パラレルな画像信号に変換して出力する変換手段と、Conversion means for converting the image signal input from the input means into a multi-line, parallel image signal and outputting it;
前記変換手段からパラレルに出力される複数ラインの画像信号の夫々を遅延する複数の遅延手段と、A plurality of delay means for delaying each of a plurality of lines of image signals output in parallel from the conversion means;
前記複数の遅延手段により遅延された複数ラインの画像信号に対してマトリクス画像処理を行う処理手段とを有することを特徴とする画像信号処理装置。An image signal processing apparatus comprising: processing means for performing matrix image processing on the image signals of a plurality of lines delayed by the plurality of delay means.
前記処理手段は、前記複数の遅延手段により夫々遅延された複数ラインの画像信号に対して同一のマトリクス画像処理を並行して行うことを特徴とする請求項4に記載の画像信号処理装置。5. The image signal processing apparatus according to claim 4, wherein the processing unit performs the same matrix image processing in parallel on the image signals of a plurality of lines delayed by the plurality of delay units. 前記複数の遅延手段は、複数の画像マトリクスを形成することを特徴とする請求項4に記載の画像信号処理装置。The image signal processing apparatus according to claim 4, wherein the plurality of delay units form a plurality of image matrices. 画像信号をライン毎に複数画素ずつパラレルに入力する入力ステップと、An input step of inputting an image signal in parallel by a plurality of pixels for each line;
前記入力ステップで入力された画像信号を、複数ライン、パラレルな画像信号に変換して出力する変換ステップと、A conversion step of converting the image signal input in the input step into a plurality of lines and a parallel image signal and outputting the image signal;
前記変換ステップからパラレルに出力される複数ラインの画像信号の夫々に対して画像処理を施す処理ステップとを有することを特徴とする画像信号処理方法。And a processing step of performing image processing on each of a plurality of lines of image signals output in parallel from the conversion step.
前記処理ステップにおいて、複数ラインの画像信号の夫々に対して、並行して同一の画像処理を施すことを特徴とする請求項7に記載の画像信号処理方法。The image signal processing method according to claim 7, wherein in the processing step, the same image processing is performed in parallel on each of the image signals of a plurality of lines.
JP15165795A 1994-07-25 1995-06-19 Image signal processing apparatus and method Expired - Fee Related JP3618826B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP15165795A JP3618826B2 (en) 1994-07-25 1995-06-19 Image signal processing apparatus and method

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP6-172337 1994-07-25
JP17233794 1994-07-25
JP15165795A JP3618826B2 (en) 1994-07-25 1995-06-19 Image signal processing apparatus and method

Publications (2)

Publication Number Publication Date
JPH0896116A JPH0896116A (en) 1996-04-12
JP3618826B2 true JP3618826B2 (en) 2005-02-09

Family

ID=26480836

Family Applications (1)

Application Number Title Priority Date Filing Date
JP15165795A Expired - Fee Related JP3618826B2 (en) 1994-07-25 1995-06-19 Image signal processing apparatus and method

Country Status (1)

Country Link
JP (1) JP3618826B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3105168B2 (en) * 1996-06-19 2000-10-30 株式会社東芝 Image forming apparatus and image processing method
JP4670185B2 (en) * 2001-06-04 2011-04-13 ソニー株式会社 Image generating apparatus, image processing apparatus, and methods thereof
JP6098366B2 (en) 2013-05-27 2017-03-22 株式会社ソシオネクスト Image data processing apparatus and image data processing method

Also Published As

Publication number Publication date
JPH0896116A (en) 1996-04-12

Similar Documents

Publication Publication Date Title
US5650862A (en) Image signal processing apparatus with improved pixel parallel/line parallel conversion
US8289414B2 (en) Scan conversion device and electronic camera
US5070531A (en) Method of and means for processing image data
JP3618826B2 (en) Image signal processing apparatus and method
JPH03102955A (en) Picture reader
JP3751931B2 (en) Area image sensor
JP2996692B2 (en) Picture reader
JP4132264B2 (en) Image signal processing circuit
JPH10164363A (en) Image reader
JP4039329B2 (en) Image reading apparatus and data output method in image reading apparatus
JP3987652B2 (en) Image processing device
JP2887840B2 (en) Image reading device
JP2593152B2 (en) Image reading device
JP2576987B2 (en) Color image reader
JP2643273B2 (en) Image processing device
JP3454488B2 (en) Image processing circuit and image reduction method thereof
JP2002165064A (en) Image pickup element, image input device and image data processing method
JPH04148292A (en) Picture input circuit
JPS6096065A (en) Shading distortion correcting device
JPH04297935A (en) Input device and output device
JPH10257269A (en) Image sensor
JPH0923317A (en) Picture processor
JPH0213876B2 (en)
JPH09179965A (en) Image printer
JPS6382164A (en) Picture reader

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040720

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040921

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041019

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041111

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071119

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081119

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081119

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091119

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101119

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101119

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111119

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121119

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131119

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees