JP2004056350A - Image identification circuit - Google Patents
Image identification circuit Download PDFInfo
- Publication number
- JP2004056350A JP2004056350A JP2002209452A JP2002209452A JP2004056350A JP 2004056350 A JP2004056350 A JP 2004056350A JP 2002209452 A JP2002209452 A JP 2002209452A JP 2002209452 A JP2002209452 A JP 2002209452A JP 2004056350 A JP2004056350 A JP 2004056350A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- image
- unit
- discriminating
- counting unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Facsimile Image Signal Circuits (AREA)
- Image Analysis (AREA)
Abstract
Description
【0001】
【発明の属する技術分野】
本発明は、ディジタル画像処理におけるテキスト画(コンピュータ画像)と自然画とが混在する画像の精度の高い識別処理を行う画像識別回路に関するものである。
【0002】
【従来の技術】
画像にはそれぞれ特質があり、その特質によって、例えば、テキスト画(コンピュータ画像)と自然画とに分類される。従来より、これらの画像の種類毎にフィルタ処理などの画像処理の方法を切り替えることが行われており、1画面にテキスト画と自然画が混在する画像には、それぞれの特質を抽出して識別を行い、その識別結果に基づいて画像処理を行っていた。従来の識別処理方法の一例として、以下に挙げるものが存在する。
【0003】
(1)周波数帯域から識別する方法
一般に、自然画には低周波成分が多く含まれることが知られている。これに対して、テキスト画には自然画と比較して高周波成分が含まれることが知られている。この特質を用いて画像の識別を行うため、映像信号をいくつかの周波数帯域毎に分割して抽出し、その分割した周波数帯域に応じた重み付け係数、例えば、低周波成分では小、高周波成分では大の係数を掛けて、それぞれを比較する。このとき高周波成分が多く含まれる画像部分はテキスト画と識別し、低周波成分が多く含まれる画像部分は自然画と識別する。
画像中に低周波成分が多く含まれる傾向にあるとはいえ、一般的に、テキスト画と自然画とを周波数によって区別できるものではないので、この方法は、分割した周波数帯域に応じた重み付け係数を掛けるときに、最適な係数を選択することが難しく、ある画像に対しては最適であった係数が、別の画像では適当ではないという問題が生じてしまう。
【0004】
(2)着目画素の周辺画素に使われる色数から識別する方法
自然画は、色の変化が多段階であり使用する色数も多いという特質があり、これに対して、テキスト画では、色の変化は輪郭部分に集中し他の部分では色の変化が少なく、使用する色数も少ないという特質がある。この特質を用いて画像の識別を行うため、映像信号のうち、着目画素の周辺画素に何種類の色が使用されているかをカウントし、そのカウント値が少ない場合はテキスト画と識別し、多い場合は自然画と識別する。
この方法は、カウントする周辺画素の数を多くすると、テキスト画と自然画のそれぞれの領域内ではある程度精度の高い識別を行えるが、自然画とテキスト画の境界部分において、テキスト画の一部が自然画と識別されてしまうという問題が生じてしまう場合があった。
【0005】
(3)1画面全体又は一定領域に使用される色数のヒストグラムで識別する方法画像の明度分布を表わしたグラフとしてヒストグラムがあり、このヒストグラムのピークが1つ存在するのが自然画で、ピークが2つ存在するのがテキスト画と判別する。
このヒストグラムは、1画面全体とか、ある程度大きさを持った領域単位で特性をとる必要があり、小領域でヒストグラムをとったときは判別精度が低く、また、画素単位でヒストグラムをとっても判別することができない。逆に、大きな領域単位での識別は、その領域内にテキスト画と自然画が混在する可能性が高く、精度の高い識別を行うことができないという問題があった。
【0006】
【発明が解決しようとする課題】
上記(1)〜(3)で述べた従来方法は、いずれも何らかの問題点があり、識別が必ずしも精度高く行えないので、より精度の高いテキスト画と自然画の識別方法が必要とされていた。
【0007】
本発明は、上記問題点に鑑みなされたもので、テキスト画と自然画とが混在する画像のより精度の高い識別処理を行う技術を提供することを目的とするものである。
【0008】
【課題を解決するための手段】
本発明は、入力ディジタル映像信号の着目画素について、周辺画素と比較することによって画像の種類を画素毎に判別する画素別判別部と、この画素別判別部の判別結果を1画面を複数に分割した領域単位で集計し、この集計結果から画像の種類を領域毎に判別する領域別判別部とを具備し、画素別判別部は、入力ディジタル映像信号における着目画素の輝度と、この着目画素に連続する周辺の複数画素の輝度との一致数をカウントする一致輝度数カウント部と、このカウントした一致数から画素毎に画像の種類を判別する画素判別部とからなり、領域別判別部は、画素別判別部で画素毎に判別された画像データを、予め設定された1画面を複数に分割した領域毎に集計する集計部と、領域内で集計された画素数の領域内全体の割合から画像の種類を領域単位で判別する領域判別部とからなることを特徴とする画像識別回路である。
【0009】
このような構成とすることで、テキスト画なのか自然画なのかを、先ず画素単位で正確に識別し、さらにm画素×n画素(m、nともに自然数)の領域単位で判別を行う構成となり、より精度の高い画像の識別を行うことが出来る。なお、一致数をカウントするカウント部は、輝度の一致数に替えて色差の濃度の一致数をカウントするものであってもよい。
【0010】
【発明の実施の形態】
本発明の実施の形態を説明する。
本発明は、少なくとも次の2つの判別条件を併用することにより、課題を解決しようとするものである。
A:第1の判別条件では、着目した画素を中心として設定画素ライン内の入力カラー映像信号における同一輝度の画素数を計数し、その画素数が一定値以上かどうかで画素単位でテキスト画であるか自然画であるかを判別する。この第1の判別条件における設定画素ライン内とは、次の2つの場合がある。
(A−1)着目画素を中心とした水平、垂直、左上り斜め、右上り斜めの4方向のラインの合計画素数である場合
(A−2)水平、垂直、左上り斜め、右上り斜めの4方向のラインのうち、少なくともいずれか1方向のラインの合計画素数である場合
B:第2の判別条件では、画素単位で行った第1の判別条件による判別結果を設定された領域毎に集計し、集計値が設定された領域の全画素数の一定割合以上かどうかで判別する。
なお、前記A、Bにおいて、入力カラー映像信号における同一輝度の画素数は、入力した輝度信号の同一輝度数を計数する場合と、入力した色差信号の濃度について同一濃度の画素数を計数する場合とがある。
【0011】
次に、本発明の実施例を図面に基づいて説明する。
図1は、本発明の画像識別回路の構成を示したブロック図である。この図1は、カラー映像信号入力端子10に、輝度信号を入力する場合を例とする。なお、カラー映像信号入力端子10に、色差信号を入力する場合は、図3に基づき後述する。このカラー映像信号入力端子10の後段には、画素別判別部21、領域別判別部22、メモリ15、判別結果出力端子16が直列に接続されて構成されている。
前記画素別判別部21は、一致輝度数カウント部11と画素判別部12とで構成されており、カラー映像信号入力端子10からのカラー映像信号は一致輝度数カウント部11に入力され、この一致輝度数カウント部11の出力は画素判別部12に入力され、画素判別部の出力は、前記領域別判別部22に入力される。
前記領域別判別部22は、集計部13と領域判別部14とで構成されており、前記画素判別部12の出力は集計部13に入力され、この集計部13の出力は領域判別部14に入力され、領域判別部14の出力は、前記メモリ15に入力される。
【0012】
前記一致輝度数カウント部11は、水平方向カウント部17、垂直方向カウント部18、斜め0方向(左上り斜め方向)カウント部19、斜め1方向(右上り斜め方向)カウント部20の4つのカウント部で構成され、これらのカウント部にはそれぞれカラー映像信号が入力され、それぞれのカウント部において着目画素を中心にして4方向の同一輝度の画素数のカウントを行う。
【0013】
図2を用いてさらに詳しく説明する。この一致輝度数カウント部11は、ある着目画素(x,y)を中心として設定ライン内の水平ライン▲1▼、垂直ライン▲2▼、左上りの斜め0ライン▲3▼、右上りの斜め1ライン▲4▼の各ラインにある周辺画素の中に、着目画素と同一輝度の画素が存在するかどうかを判断し、同一輝度である画素の数をカウントするものである。図2は、着目画素(x,y)を中心として各ラインで5画素ずつをカウントするようにした例で、▲1▼〜▲4▼の破線は、4つのカウント部がそれぞれカウントするラインに対応したもので、水平ライン▲1▼は(x−2,y)、・・・、(x,y)、・・・、(x+2,y)の順で水平方向カウント部17によってカウントされ、垂直ライン▲2▼は(x,y−2)、・・・、(x,y)、・・・、(x,y+2)の順で垂直方向カウント部18によってカウントされ、斜め0ライン▲3▼は(x−2,y−2)、・・・、(x,y)、・・・、(x+2,y+2)の順で斜め0方向カウント部19によってカウントされ、斜め1ライン▲4▼は(x+2,y−2)、・・・、(x,y)、・・・、(x−2,y+2)の順で斜め1方向カウント部20によってカウントされる。それぞれのラインでは、着目画素と同一輝度である画素が1つもない場合には、着目画素のみがカウントされてカウント値は1となり、ラインにあるすべての画素が着目画素と同一輝度である場合には、着目画素を含めてカウント値は5となる。それぞれのカウント結果は、後段の画素判別部12に独立に入力される。
【0014】
画素判別部12は、前記一致輝度数カウント部11からのカウント値に基づいて、着目画素がテキスト画であるか自然画であるかを判別する。判別方法は、前述のように、
(A−1):水平方向カウント部17、垂直方向カウント部18、斜め0方向カウント部19、斜め1方向カウント部20の4つのカウント部でのカウント値を合計して、その合計値が一定の値以上である場合にはテキスト画と判断するようにする。図2の例のように各方向5画素ずつカウントした場合には、カウント値の合計は最小で5、最大で20となり、このとき、例えばカウント値の合計が設定値以上、例えば10以上であった場合には、その着目画素はテキスト画であると判断する。
(A−2):▲1▼〜▲4▼のラインのうち、少なくともある一方向のカウント値が設定値以上、例えば4以上である場合には、その着目画素はテキスト画であると判断するようにする。これは、前記(A−1)だけでは、テキスト画がある一方向にのみ連続している場合に、着目画素はその連続したテキスト部分の一部でありながら、カウント値の合計が10未満であるために自然画と判断されてしまう可能性があり、これを解消するためのものである。
上述のテキスト画と判別する条件を式で表すと以下のようになる。
(A−1)各ラインのカウント値の合計≧10
(A−2)ある一方向のカウント値≧4
この(A−1)及び/又は(A−2)の方法により、自然画とテキスト画の一応の判別をし、自然画と判別された画素は0として、テキスト画と判別された画素は1として、後段の集計部13に出力される。なお、上記(A−1)式における「10」、(A−2)式における「4」は、実験やシミュレーションによって判別の精度を考慮して設定されたもので、カウントする画素数によっても異なる値に設定されるものである。
【0015】
以上の判別は、着目画素を1画素ずつずらして全ての画素を着目画素として判別させるものである。
集計部13では、画素判別部12からの各画素を着目画素とする判別結果を、自然画を0、テキスト画を1として、領域毎に集計する。ここで、領域とは、1画面をm画素×n画素(m、nは1以上)を1単位とする複数の小領域に分割したもののことで、例えば、4画素×4画素を1領域の単位とすると、全16画素の合計値を算出する。このとき、全ての画素が自然画である場合には集計結果は0となり、全ての画素がテキスト画である場合には集計結果は16となる。集計部13で算出した集計結果は、後段の領域判別部14に出力される。
【0016】
領域判別部14では、集計部13で算出した集計結果に基づいて、その領域が自然画の領域であるのかテキスト画の領域であるのかを前述の判別方法(B)により判別する。すなわち、領域の全画素数のうち、テキスト画と判別された画素数が集計部13で算出されるので、この集計結果が、領域の全画素数の2分の1以上であればその領域はテキスト画の領域であると判別し、2分の1未満であればその領域は自然画であると判別する。式で表すと、次のようになる。
(B)テキスト画と識別された画素数≧領域の全画素数/2
上記4画素×4画素を1領域の単位とする例では、全16画素のうちテキスト画と判別された画素が8画素以上であるか8画素未満であるかによって、その領域がテキスト画の領域か自然画の領域かを判別することになる。この領域判別部14の判別結果は、後段のメモリ15に出力される。この(B)式における「2分の1」は、実験やシミュレーションによって判別の精度を考慮して設定されたもので、これに限られるものではない。
【0017】
上記の画素別の画像判別で用いた判別条件(A−1)、(A−2)と、領域別の画像判別で用いた判別条件(B)は、適宜組合わせて用いることが出来るものであり、以下の3つの組合せのうち、どの組合わせで行っても、精度よく画像を判別することが出来る。
1.(A−1)+(B)
2.(A−2)+(B)
3.(A−1)+(A−2)+(B)
特に、上記3の場合には、画素別の判別を各ラインのカウント値の合計が10以上である条件で行うとともに、少なくともある一方向のラインのカウント値が4以上である条件で判別を行っているため、より精度の高い判別を行えるものである。
【0018】
メモリ15は、領域判別部14からの判別結果を保存するためのもので、領域毎に送られてくる判別結果を1フレーム分保存し、これを次のフレームにおいて、フィルタ処理などの各種画像処理に用いるために判別結果出力端子16から出力する。また、図1ではメモリ15を用いた構成になっているが、メモリ15を用いずに、領域判別部14からの判別結果を直接判別結果出力端子16から出力して、リアルタイムに各種画像処理を行うようにしてもよい。
【0019】
前記実施例では、画素別判別部21は一致輝度数カウント部11と画素判別部12とで構成して、一致輝度数カウント部11において、入力ディジタル映像信号における着目画素の輝度と、この着目画素に連続する周辺の複数画素の輝度との一致数をカウントするようにした。しかし、本発明はこれに限られるものではなく、輝度数をカウントする構成に替えて、図3に示すように、入力ディジタル映像信号における着目画素の色差の濃度と、この着目画素に連続する周辺の複数画素の色差の濃度との一致数をカウントする一致色差数カウント部11aを設けるようにしてもよい。このような構成とした場合、その後の画素判別、領域判別は色差の濃度の一致数に基づいて行われる。一致色差数カウント部11aの基本的な構成は、前記一致輝度数カウント部11と同様の構成であり、一致色差数カウント部11aを用いて本発明の画像識別回路を構成した場合の全体の作用も同様のものである。
【0020】
ここで、一致色差数カウント部11aは、着目画素を中心とする周辺の複数画素で構成される水平、垂直、斜めの各ライン毎の一致色差数をカウントする水平方向カウント部17、垂直方向カウント部18、斜め0方向カウント部19、斜め1方向カウント部20で構成され、後段の画素判別部において、水平、垂直、斜めの各ラインの一致色差数の合計カウント値を求め、この合計カウント値に基づいて画素毎にテキスト画と自然画との画像の種類を判別する(A−1)条件と、前記一致色差数カウント部11aの水平方向カウント部17、垂直方向カウント部18、斜め0方向カウント部19、斜め1方向カウント部20でそれぞれカウントしたカウント値のうち、少なくとも1つのラインで一定値以上であることに基づいて画素毎にテキスト画と自然画との画像の種類を判別する(A−2)条件とを組み合わせて、画素別の判別を行う。
その後、領域別判別部22では、画素別判別部21で色差の濃度に基づいて画素毎に判別された画像データを、集計部13によって、予め設定された1画面を複数に分割した領域毎に集計し、領域内で集計された画素数の領域内全体の割合から画像の種類を領域単位で判別する(B)条件によって領域判別部14で領域毎に判別する
上記一致色差数カウント部11aを用いた場合の(A−1)、(A−2)、(B)の条件における各数値は、輝度数判別部11を用いた場合と同様の数値を用いることができるものであり、また、実験やシミュレーションによって判別の精度を考慮して適宜設定されるものである。
【0021】
一般に、テキスト画は、ほとんど一定の輝度値で構成され、また、ほとんど一定の色差値(色差の濃度の値)で構成されている。自然画は、一定の輝度値で構成されることはほとんどなく、また、一定の色差値(色差の濃度の値)で構成されることはほとんどない。したがって、使用輝度数と使用色数は同じ傾向にあるため、テキスト画と自然画とを判別する際には、どちらを用いて判別を行っても精度に差異は生じず、それぞれ良好な結果が得られる。より正確さを求めるならば、判別結果を輝度を基準とする調整等に適用する場合は輝度によって判別を行い、判別結果を色差を基準とする調整等に適用する場合は色差によって判別を行うことが望ましい。
【0022】
前記第1の判別条件(A−1)、(A−2)において、一致輝度数カウント部11(又は、一致色差数カウント部11a)は、ある着目画素(x,y)を中心として縦、横、斜め方向の各ラインで5画素ずつをカウントするようにした。しかし、本発明はこれに限られるものではなく、着目画素(x,y)が中心にくるようにすれば何画素ずつをカウントするようにしてもよい。但し、画素の判別を正確に行うためには5画素以上であることが望ましい。
また、画素判別部でのテキスト画の判別条件は、各ラインで5画素ずつをカウントする場合には、合計カウント値≧10、又は、ある方向のカウント値≧4としたが、この条件は、着目画素(x,y)を中心として何画素ずつをカウントするかによっても異なる条件であり、テキスト画と自然画の判別が最も精度よく行える条件に適宜設定されるものである。
また、前記実施例では、着目画素を1画素ずつずらして全ての画素を着目画素として判別させるようにしたが、着目画素を複数画素ずつずらして判別するようにしてもよい。
前記実施例では、着目画素が各ラインの中心にある場合を説明したが、これに限られるものではなく、中心からずれていたり、端部であってもよい。
【0023】
前記第2の判別条件(B)において、m画素×n画素を領域の1単位として1画面を複数に分割する点について説明したが、m、nは1以上の自然数であればどのような分割方法でもよい。
【0024】
【発明の効果】
請求項1記載の発明によれば、テキスト画なのか自然画なのか等の画像の種類を画素単位で正確に識別し、さらに領域単位で判別を行うことにより、精度の高い画像の識別を行うことが出来る。
【0025】
請求項2記載の発明によれば、画素別判別部で画素毎に判別された画像データを、予め設定された1画面を複数に分割した領域毎に集計する集計部と、領域内で集計された画素数の領域内全体の割合から画像の種類を領域単位で判別する領域判別部とからなるようにしたので、領域がテキスト画であるのか自然画であるのかを正確に判別することができる。
【0026】
請求項3記載の発明によれば、入力ディジタル映像信号における着目画素の輝度と、この着目画素に連続する周辺の複数画素の輝度との一致数をカウントする一致輝度数カウント部と、このカウントした一致数から画素毎に画像の種類を判別する画素判別部とからなるようにしたので、テキスト画の特徴を抽出し易く、画素の判別を正確に行える。
【0027】
請求項4記載の発明によれば、入力ディジタル映像信号における着目画素の輝度と、この着目画素に連続する周辺の複数画素の輝度との一致数をカウントする一致輝度数カウント部と、このカウントした一致数から画素毎に画像の種類を判別する画素判別部とからなり、領域別判別部は、画素別判別部で画素毎に判別された画像データを、予め設定された1画面を複数に分割した領域毎に集計する集計部と、領域内で集計された画素数の領域内全体の割合から画像の種類を領域単位で判別する領域判別部とからなるようにしたので、画素毎の判別と領域毎の判別を組合わせることにより、より精度の高い画素の判別を行うことができる。
【0028】
請求項5記載の発明によれば、一致輝度数カウント部は、着目画素を中心とする周辺の複数画素で構成される水平、垂直、斜めの各ライン毎の一致輝度数をカウントする水平方向カウント部、垂直方向カウント部、斜め0方向カウント部、斜め1方向カウント部からなり、画素判別部は、水平、垂直、斜めの各ラインの一致輝度数の合計カウント値を求め、この合計カウント値に基づいて画素毎にテキスト画と自然画との画像の種類を判別するものからなるようにしたので、画素単位での画像の識別を精度高く行うことができる。
【0029】
請求項6記載の発明によれば、一致輝度数カウント部は、着目画素を中心とする周辺の複数画素で構成される1つのラインのカウント値を求めるカウント部からなり、画素判別部は、1つのラインのカウント値に基づいて画素毎にテキスト画と自然画との画像の種類を判別するものからなるようにしたので、画素単位での画像の識別を精度高く行うことができる。
【0030】
請求項7記載の発明によれば、一致輝度数カウント部は、着目画素を中心とする周辺の複数画素で構成される水平、垂直、斜めの各ライン毎の一致輝度数をカウントする水平方向カウント部、垂直方向カウント部、斜め0方向カウント部、斜め1方向カウント部からなり、画素判別部は、前記一致輝度数カウント部の水平方向カウント部、垂直方向カウント部、斜め0方向カウント部、斜め1方向カウント部でそれぞれカウントしたカウント値のうち、少なくとも1つのラインで一定値以上であることに基づいて画素毎にテキスト画と自然画との画像の種類を判別するものからなるようにしたので、テキスト画の方向性を高い精度で識別することができる。
【0031】
請求項8記載の発明によれば、一致輝度数カウント部は、着目画素を中心とする周辺の複数画素で構成される水平、垂直、斜めの各ライン毎の一致輝度数をカウントする水平方向カウント部、垂直方向カウント部、斜め0方向カウント部、斜め1方向カウント部からなり、画素判別部は、水平、垂直、斜めの各ラインの一致輝度数の合計カウント値を求め、この合計カウント値に基づいて画素毎にテキスト画と自然画との画像の種類を判別するとともに、前記一致輝度数カウント部の水平方向カウント部、垂直方向カウント部、斜め0方向カウント部、斜め1方向カウント部でそれぞれカウントしたカウント値のうち、少なくとも1つのラインで一定値以上であることに基づいて画素毎にテキスト画と自然画との画像の種類を判別するものからなるようにしたので、一致輝度数の合計カウント値による判別条件と、少なくとも1つのラインで一定値以上であることによる判別条件を併用でき、より精度の高い画素の判別を行うことができる。
【0032】
請求項9記載の発明によれば、入力ディジタル映像信号における着目画素の色差の濃度と、この着目画素に連続する周辺の複数画素の色差の濃度との一致数をカウントする一致色差数カウント部と、このカウントした一致数から画素毎に画像の種類を判別する画素判別部とからなるようにしたので、テキスト画の特徴を抽出し易く、画素の判別を正確に行える。
【0033】
請求項10記載の発明によれば、画素別判別部は、入力ディジタル映像信号における着目画素の色差の濃度と、この着目画素に連続する周辺の複数画素の色差の濃度との一致数をカウントする一致色差数カウント部と、このカウントした一致数から画素毎に画像の種類を判別する画素判別部とからなり、領域別判別部は、画素別判別部で画素毎に判別された画像データを、予め設定された1画面を複数に分割した領域毎に集計する集計部と、領域内で集計された画素数の領域内全体の割合から画像の種類を領域単位で判別する領域判別部とからなるようにしたので、画素毎の判別と領域毎の判別を組合わせることにより、より精度の高い画素の判別を行うことができる。
【0034】
請求項11記載の発明によれば、一致色差数カウント部は、着目画素を中心とする周辺の複数画素で構成される水平、垂直、斜めの各ライン毎の一致色差数をカウントする水平方向カウント部、垂直方向カウント部、斜め0方向カウント部、斜め1方向カウント部からなり、画素判別部は、水平、垂直、斜めの各ラインの一致色差数の合計カウント値を求め、この合計カウント値に基づいて画素毎にテキスト画と自然画との画像の種類を判別するものからなるようにしたので、画素単位での画像の識別を精度高く行うことができる。
【0035】
請求項12記載の発明によれば、一致色差数カウント部は、着目画素を中心とする周辺の複数画素で構成される1つのラインのカウント値を求めるカウント部からなり、画素判別部は、1つのラインのカウント値に基づいて画素毎にテキスト画と自然画との画像の種類を判別するものからなるようにしたので、画素単位での画像の識別を精度高く行うことができる。
【0036】
請求項13記載の発明によれば、一致色差数カウント部は、着目画素を中心とする周辺の複数画素で構成される水平、垂直、斜めの各ライン毎の一致色差数をカウントする水平方向カウント部、垂直方向カウント部、斜め0方向カウント部、斜め1方向カウント部からなり、画素判別部は、前記一致色差数カウント部の水平方向カウント部、垂直方向カウント部、斜め0方向カウント部、斜め1方向カウント部でそれぞれカウントしたカウント値のうち、少なくとも1つのラインで一定値以上であることに基づいて画素毎にテキスト画と自然画との画像の種類を判別するものからなるようにしたので、テキスト画の方向性を高い精度で識別することができる。
【0037】
請求項14記載の発明によれば、一致色差数カウント部は、着目画素を中心とする周辺の複数画素で構成される水平、垂直、斜めの各ライン毎の一致色差数をカウントする水平方向カウント部、垂直方向カウント部、斜め0方向カウント部、斜め1方向カウント部からなり、画素判別部は、水平、垂直、斜めの各ラインの一致色差数の合計カウント値を求め、この合計カウント値に基づいて画素毎にテキスト画と自然画との画像の種類を判別するとともに、前記一致色差数カウント部の水平方向カウント部、垂直方向カウント部、斜め0方向カウント部、斜め1方向カウント部でそれぞれカウントしたカウント値のうち、少なくとも1つのラインで一定値以上であることに基づいて画素毎にテキスト画と自然画との画像の種類を判別するものからなるようにしたので、一致輝度数の合計カウント値による判別条件と、少なくとも1つのラインで一定値以上であることによる判別条件を併用でき、より精度の高い画素の判別を行うことができる。
【図面の簡単な説明】
【図1】本発明の画像識別装置の構成を示したブロック図である。
【図2】本発明の画像識別装置における一致輝度数カウント部でカウントする各ラインを示した模式図である。
【図3】本発明の他の実施例としての画像識別装置の構成を示したブロック図である。
【符号の説明】
10…カラー映像信号入力端子、11…一致輝度数カウント部、11a…一致色差数カウント部、12…画素判別部、13…集計部、14…領域判別部、15…メモリ、16…判別結果出力端子、17…水平方向カウント部、18…垂直方向カウント部、19…斜め0方向カウント部、20…斜め1方向カウント部、21…画素別判別部、22…領域別判別部。[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to an image identification circuit for performing highly accurate identification processing of an image in which a text image (computer image) and a natural image are mixed in digital image processing.
[0002]
[Prior art]
Each image has a characteristic, and for example, is classified into a text image (computer image) and a natural image according to the characteristic. Conventionally, image processing methods such as filter processing have been switched for each type of these images. For an image in which a text image and a natural image are mixed on one screen, each characteristic is extracted and identified. And image processing is performed based on the identification result. As an example of a conventional identification processing method, there is the following.
[0003]
(1) Method of identifying from frequency band
Generally, it is known that a natural image contains many low frequency components. On the other hand, it is known that a text image contains a high frequency component as compared with a natural image. In order to identify an image using this characteristic, a video signal is divided and extracted for each of several frequency bands, and a weighting coefficient according to the divided frequency band, for example, small for a low frequency component and small for a high frequency component Multiply by a large coefficient and compare each. At this time, an image portion containing a large amount of high frequency components is identified as a text image, and an image portion containing a large amount of low frequency components is identified as a natural image.
Although the image tends to contain many low-frequency components, it is generally not possible to distinguish between a text image and a natural image by frequency, so this method uses a weighting coefficient according to the divided frequency band. , It is difficult to select an optimum coefficient, and a problem arises in that the coefficient that was optimal for one image is not appropriate for another image.
[0004]
(2) A method for discriminating from the number of colors used for peripheral pixels of a target pixel
Natural images have the characteristic that the color changes are multi-step and use a large number of colors.On the other hand, in a text image, the color changes are concentrated in the outline and the color changes are small in other parts. It has the characteristic of using fewer colors. In order to identify an image using this characteristic, the number of colors used for pixels surrounding the pixel of interest in the video signal is counted. In this case, it is identified as a natural picture.
According to this method, if the number of peripheral pixels to be counted is increased, identification with high accuracy can be performed to some extent in each region of the text image and the natural image. There was a case where a problem of being identified as a natural image occurred.
[0005]
(3) Method of identifying with a histogram of the number of colors used for one entire screen or a certain area A histogram is a graph representing the brightness distribution of an image, and one peak of the histogram is a natural image, and the peak is a natural image. Is determined to be a text image.
This histogram needs to be characterized in the whole screen or in an area unit having a certain size. When a histogram is obtained in a small area, the accuracy of determination is low. Can not. Conversely, identification in a large area unit has a high possibility that a text image and a natural image are mixed in the area, and there is a problem that identification with high accuracy cannot be performed.
[0006]
[Problems to be solved by the invention]
All of the conventional methods described in the above (1) to (3) have some problems, and cannot always be performed with high accuracy. Therefore, a more accurate method of distinguishing between a text image and a natural image is required. .
[0007]
SUMMARY OF THE INVENTION The present invention has been made in view of the above problems, and has as its object to provide a technique for performing more accurate identification processing of an image in which a text image and a natural image are mixed.
[0008]
[Means for Solving the Problems]
The present invention provides a pixel-by-pixel determination unit that determines the type of an image for each pixel by comparing a pixel of interest of an input digital video signal with peripheral pixels, and divides a determination result of the pixel-by-pixel determination unit into a plurality of screens. A region-by-region discriminating unit for discriminating the type of image for each region from the result of the aggregation, and the pixel-by-pixel discriminating unit includes a luminance of a pixel of interest in the input digital video signal, A coincidence luminance number counting unit that counts the number of coincidences with the luminance of a plurality of continuous peripheral pixels, and a pixel determination unit that determines the type of image for each pixel from the counted number of coincidences, A totaling unit that totals image data determined for each pixel by the pixel-by-pixel determining unit for each region obtained by dividing a predetermined screen into a plurality of regions, and a ratio of the number of pixels totaled in the region to the entire region. image An image identification circuit, characterized in that comprising the region discriminator for discriminating the kind in region units.
[0009]
With such a configuration, a text image or a natural image is first accurately identified on a pixel-by-pixel basis, and further a determination is made on an m pixel × n pixel (m and n are both natural numbers) area units. It is possible to perform more accurate image identification. The counting unit that counts the number of coincidences may count the number of coincidences of the density of the color difference instead of the number of coincidences of the luminance.
[0010]
BEST MODE FOR CARRYING OUT THE INVENTION
An embodiment of the present invention will be described.
The present invention is intended to solve the problem by using at least the following two determination conditions.
A: In the first determination condition, the number of pixels having the same luminance in the input color video signal in the set pixel line is counted centering on the pixel of interest, and whether or not the number of pixels is equal to or more than a certain value is converted into a text image in pixel units. It is determined whether the image is a natural image. The inside of the set pixel line in the first determination condition includes the following two cases.
(A-1) A case where the total number of pixels is four in the horizontal, vertical, left-up diagonal, and right-up diagonal directions centering on the target pixel
(A-2) When the total number of pixels is at least one of the four horizontal, vertical, left-up diagonal, and right-up diagonal lines
B: In the second discrimination condition, the discrimination results based on the first discrimination condition performed on a pixel basis are totaled for each set region, and whether or not the total value is equal to or more than a certain percentage of the total number of pixels in the region where the total value is set is determined. Determine.
In the above-mentioned A and B, the number of pixels having the same luminance in the input color video signal is the case where the same luminance number of the input luminance signal is counted, and the case where the number of pixels of the same density is counted for the density of the input color difference signal. There is.
[0011]
Next, embodiments of the present invention will be described with reference to the drawings.
FIG. 1 is a block diagram showing the configuration of the image identification circuit of the present invention. FIG. 1 shows an example in which a luminance signal is input to a color video
The pixel-by-pixel determination unit 21 includes a coincidence luminance
The region-by-region discriminating unit 22 is composed of a tallying
[0012]
The coincidence luminance
[0013]
This will be described in more detail with reference to FIG. The coincidence luminance
[0014]
The
(A-1): The count values of the four count units of the
(A-2): If the count value in at least one direction is equal to or more than a set value, for example, 4 or more in the lines of (1) to (4), it is determined that the target pixel is a text image. To do. This is because, in the case of (A-1) alone, when the text image is continuous only in one direction, the target pixel is a part of the continuous text portion, but the total count value is less than 10. For this reason, there is a possibility that the image is determined to be a natural image, and this is to eliminate this.
The conditions for determining the above-described text image are expressed by the following equations.
(A-1) Sum of count values of each line ≧ 10
(A-2) Count value in one direction ≧ 4
According to the method (A-1) and / or (A-2), a natural image and a text image are tentatively determined. Pixels determined to be a natural image are set to 0, and pixels determined to be a text image are set to 1. Is output to the tallying
[0015]
In the above determination, the target pixel is shifted one pixel at a time, and all the pixels are determined as the target pixel.
The
[0016]
The area determination unit 14 determines whether the area is a natural image area or a text image area based on the aggregation result calculated by the
(B) Number of pixels identified as text image ≧ total number of pixels in area / 2
In the example in which 4 pixels × 4 pixels are used as a unit of one area, the area is determined to be a text image area depending on whether the number of pixels determined as a text image among all 16 pixels is 8 pixels or more or less than 8 pixels. Or a natural image area. The result of the determination by the area determination unit 14 is output to the
[0017]
The discrimination conditions (A-1) and (A-2) used in the above-described pixel-based image discrimination and the discrimination condition (B) used in the area-based image discrimination can be appropriately combined and used. Yes, an image can be determined with high accuracy regardless of which of the following three combinations is performed.
1. (A-1) + (B)
2. (A-2) + (B)
3. (A-1) + (A-2) + (B)
In particular, in the case of the above 3, the determination for each pixel is performed under the condition that the total count value of each line is 10 or more, and the determination is performed under the condition that the count value of at least one line in one direction is 4 or more. Therefore, it is possible to perform a highly accurate determination.
[0018]
The
[0019]
In the above-described embodiment, the pixel-by-pixel determination unit 21 is configured by the coincidence luminance
[0020]
Here, the matching color difference number counting unit 11a includes a horizontal
After that, in the region-specific determination unit 22, the image data determined for each pixel by the pixel-specific determination unit 21 based on the density of the color difference is divided by the tallying
The numerical values under the conditions (A-1), (A-2), and (B) when the matching color difference number counting section 11a is used are the same as those when the luminance
[0021]
Generally, a text image is composed of almost constant luminance values, and is composed of almost constant color difference values (color difference density values). A natural image is hardly constituted by a fixed luminance value, and is hardly constituted by a fixed color difference value (color difference density value). Therefore, since the number of used luminances and the number of used colors tend to be the same, when discriminating between a text image and a natural image, there is no difference in accuracy regardless of which one is used, and good results are obtained. can get. If more accuracy is required, the determination should be made based on the luminance when the determination result is applied to the adjustment based on the luminance, and the determination should be performed based on the color difference when the determination result is applied to the adjustment based on the color difference. Is desirable.
[0022]
In the first determination conditions (A-1) and (A-2), the coincident luminance number counting unit 11 (or the coincident color difference number counting unit 11a) is arranged vertically around a pixel of interest (x, y). Five pixels were counted for each line in the horizontal and diagonal directions. However, the present invention is not limited to this. Any number of pixels may be counted as long as the target pixel (x, y) is located at the center. However, it is desirable that the number of pixels is 5 or more in order to accurately determine the pixels.
The text image discriminating condition in the pixel discriminating unit is such that when counting 5 pixels in each line, the total count value ≧ 10 or the count value in a certain direction ≧ 4. The condition differs depending on how many pixels are counted with the pixel of interest (x, y) as a center, and is appropriately set to a condition under which a text image and a natural image can be distinguished with the highest accuracy.
In the above embodiment, the target pixel is shifted one pixel at a time, and all the pixels are determined as the target pixel. However, the target pixel may be shifted a plurality of pixels at a time.
In the above-described embodiment, the case where the target pixel is located at the center of each line has been described. However, the present invention is not limited to this, and may be shifted from the center or at the end.
[0023]
In the second determination condition (B), a case has been described in which one screen is divided into a plurality of screens using m pixels × n pixels as one unit of an area. It may be a method.
[0024]
【The invention's effect】
According to the first aspect of the present invention, the type of an image such as a text image or a natural image is accurately identified on a pixel basis, and further, the determination is performed on a region basis, thereby performing highly accurate image identification. I can do it.
[0025]
According to the second aspect of the present invention, the image data determined for each pixel by the pixel-by-pixel determination unit is aggregated for each region obtained by dividing a predetermined screen into a plurality of regions, and the image data is aggregated within the region. And a region discriminating unit for discriminating the type of image in units of regions from the ratio of the entire number of pixels in the region, so that it is possible to accurately determine whether the region is a text image or a natural image. .
[0026]
According to the third aspect of the present invention, a coincidence luminance number counting unit that counts the number of coincidences between the luminance of the pixel of interest in the input digital video signal and the luminance of a plurality of peripheral pixels continuous with the pixel of interest, Since it is composed of a pixel discriminating unit for discriminating the type of image for each pixel from the number of matches, it is easy to extract the features of the text image, and the pixel can be accurately discriminated.
[0027]
According to the invention described in claim 4, a coincidence luminance number counting unit that counts the number of coincidences between the luminance of the pixel of interest in the input digital video signal and the luminance of a plurality of peripheral pixels continuous with the pixel of interest, A pixel discriminating unit for discriminating the type of image for each pixel from the number of matches; the discriminating unit for each region divides the image data discriminated for each pixel by the discriminating unit for each pixel into a predetermined one screen; A totaling unit that totals each region, and a region determining unit that determines the type of image in units of regions from the ratio of the total number of pixels in the region in the region. By combining the determination for each area, it is possible to determine pixels with higher accuracy.
[0028]
According to the fifth aspect of the present invention, the coincidence luminance number counting section counts the coincidence luminance number for each of horizontal, vertical, and diagonal lines composed of a plurality of peripheral pixels centering on the target pixel. , A vertical counting section, a diagonal 0-direction counting section, and a diagonal 1-direction counting section. The pixel determining section obtains a total count value of the matching luminance numbers of the horizontal, vertical, and diagonal lines, and calculates the total count value. Since it is configured to determine the type of image between the text image and the natural image for each pixel based on the pixel, it is possible to identify the image in pixel units with high accuracy.
[0029]
According to the sixth aspect of the present invention, the coincidence luminance number counting unit includes a counting unit that obtains a count value of one line composed of a plurality of peripheral pixels around the pixel of interest. Since the image type of the text image and the natural image is determined for each pixel based on the count value of one line, the image can be identified in pixel units with high accuracy.
[0030]
According to the seventh aspect of the present invention, the coincidence luminance number counting section counts the coincidence luminance number for each of horizontal, vertical, and diagonal lines composed of a plurality of peripheral pixels around the pixel of interest. , A vertical direction counting unit, a diagonal zero direction counting unit, and a diagonal one direction counting unit. The pixel determining unit is a horizontal direction counting unit, a vertical direction counting unit, a diagonal zero direction counting unit, and a diagonal counting unit of the coincidence luminance number counting unit. Of the count values counted by the one-direction counting unit, the type of image of a text image and a natural image is determined for each pixel based on the fact that the count value is equal to or more than a certain value in at least one line. The direction of the text image can be identified with high accuracy.
[0031]
According to the invention described in claim 8, the coincidence luminance number counting section counts the coincidence luminance number for each of horizontal, vertical, and diagonal lines composed of a plurality of peripheral pixels centered on the target pixel. , A vertical counting section, a diagonal 0-direction counting section, and a diagonal 1-direction counting section. The pixel determining section obtains a total count value of the matching luminance numbers of the horizontal, vertical, and diagonal lines, and calculates the total count value. The image type of the text image and the natural image is determined for each pixel based on the pixels, and the horizontal count unit, the vertical count unit, the oblique 0-direction count unit, and the oblique 1-direction count unit of the coincidence luminance number count unit respectively Whether the image type of a text image or a natural image is determined for each pixel based on the counted value being equal to or greater than a certain value in at least one line Since the manner made, a determination condition by the total count value of the matching luminance number, can mix determination condition by being greater than a specific value at least one line, it is possible to perform more determination of accurate pixel.
[0032]
According to the ninth aspect of the present invention, there is provided a coincidence color difference number counting section for counting the number of coincidences between the color difference density of the target pixel in the input digital video signal and the color difference densities of a plurality of peripheral pixels adjacent to the target pixel. Since it is composed of a pixel discriminating unit for discriminating the type of image for each pixel from the counted number of matches, the features of the text image can be easily extracted, and the pixel discrimination can be performed accurately.
[0033]
According to the tenth aspect, the pixel-by-pixel determination unit counts the number of coincidences between the density of the color difference of the target pixel in the input digital video signal and the density of the color differences of a plurality of peripheral pixels adjacent to the target pixel. A matching color difference number counting unit, and a pixel determining unit for determining the type of image for each pixel from the counted number of matches, the region-specific determining unit, the image data determined for each pixel by the pixel determining unit, It is composed of a counting unit that counts up each of a plurality of divided areas of one screen set in advance, and an area determining unit that determines the type of image on a region-by-region basis based on the total number of pixels in the region. Thus, by combining the determination for each pixel and the determination for each area, it is possible to perform more accurate pixel determination.
[0034]
According to the eleventh aspect, the matching color difference number counting unit counts the number of matching color differences for each of horizontal, vertical, and diagonal lines composed of a plurality of peripheral pixels centered on the target pixel. , A vertical direction counting unit, a diagonal zero direction counting unit, and a diagonal one direction counting unit. The pixel discriminating unit obtains a total count value of the number of matching color differences of the horizontal, vertical, and diagonal lines, and calculates the total count value. Since it is configured to determine the type of image between the text image and the natural image for each pixel based on the pixel, it is possible to identify the image in pixel units with high accuracy.
[0035]
According to the twelfth aspect of the present invention, the matching color difference number counting unit includes a counting unit that calculates a count value of one line composed of a plurality of peripheral pixels around the pixel of interest. Since the image type of the text image and the natural image is determined for each pixel based on the count value of one line, the image can be identified in pixel units with high accuracy.
[0036]
According to the thirteenth aspect, the matching color difference number counting unit counts the number of matching color differences for each of horizontal, vertical, and diagonal lines composed of a plurality of pixels around the target pixel. , A vertical counting section, a diagonal 0-direction counting section, and a diagonal 1-direction counting section. The pixel discriminating section includes a horizontal counting section, a vertical counting section, a diagonal 0-direction counting section, and a diagonal counting section of the matching color difference number counting section. Of the count values counted by the one-direction counting unit, the type of image of a text image and a natural image is determined for each pixel based on the fact that the count value is equal to or more than a certain value in at least one line. The direction of the text image can be identified with high accuracy.
[0037]
According to the fourteenth aspect, the matching color difference number counting unit counts the number of matching color differences for each of horizontal, vertical, and diagonal lines composed of a plurality of peripheral pixels around the pixel of interest. , A vertical direction counting unit, a diagonal zero direction counting unit, and a diagonal one direction counting unit. The pixel discriminating unit obtains a total count value of the number of matching color differences of the horizontal, vertical, and diagonal lines, and calculates the total count value. The image type of the text image and the natural image is determined for each pixel based on the pixel count, and the horizontal count unit, the vertical count unit, the oblique 0-direction count unit, and the oblique 1-direction count unit of the matching color difference number counting unit respectively Among the counted values, the type of image of a text image and a natural image is determined for each pixel based on the fact that at least one line has a certain value or more. Since the Ranaru so, a determination condition by the total count value of the matching luminance number, can mix determination condition by being greater than a specific value at least one line, it is possible to perform more determination of accurate pixel.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a configuration of an image identification device of the present invention.
FIG. 2 is a schematic diagram showing each line counted by a coincidence luminance number counting unit in the image identification device of the present invention.
FIG. 3 is a block diagram showing a configuration of an image identification device as another embodiment of the present invention.
[Explanation of symbols]
Reference Signs List 10: Color video signal input terminal, 11: Matching luminance number counting section, 11a: Matching color difference number counting section, 12: Pixel discriminating section, 13: Aggregating section, 14: Area discriminating section, 15: Memory, 16: Discrimination result output Terminals: 17: horizontal counting section, 18: vertical counting section, 19: oblique 0-direction counting section, 20: oblique 1-direction counting section, 21: pixel-based determination section, 22: area-based determination section.
Claims (14)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002209452A JP4147322B2 (en) | 2002-07-18 | 2002-07-18 | Image identification circuit |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002209452A JP4147322B2 (en) | 2002-07-18 | 2002-07-18 | Image identification circuit |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004056350A true JP2004056350A (en) | 2004-02-19 |
JP4147322B2 JP4147322B2 (en) | 2008-09-10 |
Family
ID=31933298
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002209452A Expired - Fee Related JP4147322B2 (en) | 2002-07-18 | 2002-07-18 | Image identification circuit |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4147322B2 (en) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008060722A (en) * | 2006-08-29 | 2008-03-13 | Sony Corp | Image processor and image processing method |
JP2010102478A (en) * | 2008-10-23 | 2010-05-06 | Nec Electronics Corp | Display area extracting device and display area extracting method |
US8098329B2 (en) | 2006-08-29 | 2012-01-17 | Sony Corporation | Image determination apparatus, image determination method, and program, and image processing apparatus, image processing method, and program |
JP2014072667A (en) * | 2012-09-28 | 2014-04-21 | Brother Ind Ltd | Image processing device and program |
KR20170039075A (en) | 2014-08-07 | 2017-04-10 | 도레이 카부시키가이샤 | Multilayer film |
-
2002
- 2002-07-18 JP JP2002209452A patent/JP4147322B2/en not_active Expired - Fee Related
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008060722A (en) * | 2006-08-29 | 2008-03-13 | Sony Corp | Image processor and image processing method |
US8098329B2 (en) | 2006-08-29 | 2012-01-17 | Sony Corporation | Image determination apparatus, image determination method, and program, and image processing apparatus, image processing method, and program |
JP2010102478A (en) * | 2008-10-23 | 2010-05-06 | Nec Electronics Corp | Display area extracting device and display area extracting method |
JP2014072667A (en) * | 2012-09-28 | 2014-04-21 | Brother Ind Ltd | Image processing device and program |
US9582744B2 (en) | 2012-09-28 | 2017-02-28 | Brother Kogyo Kabushiki Kaisha | Image processing device and computer-readable medium using photographic and non-photographic correspondence data |
KR20170039075A (en) | 2014-08-07 | 2017-04-10 | 도레이 카부시키가이샤 | Multilayer film |
Also Published As
Publication number | Publication date |
---|---|
JP4147322B2 (en) | 2008-09-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8368956B2 (en) | Methods and systems for segmenting a digital image into regions | |
EP2509044B1 (en) | Local definition of global image transformations | |
CN108470334A (en) | A kind of method and device of acquisition screen intensity and coloration | |
US8437054B2 (en) | Methods and systems for identifying regions of substantially uniform color in a digital image | |
CN112102164B (en) | Image processing method, device, terminal and storage medium | |
CN105975939A (en) | Video detection method and device | |
CN110136166B (en) | Automatic tracking method for multi-channel pictures | |
CN109345480A (en) | A kind of face based on inpainting model goes acne method automatically | |
US9131097B2 (en) | Method and system for black bar identification | |
CN113301408A (en) | Video data processing method and device, electronic equipment and readable storage medium | |
JP2004056350A (en) | Image identification circuit | |
TW200820136A (en) | Video content detector | |
CN108171683A (en) | A kind of method for cell count using software automatic identification | |
Hu et al. | Jpeg ringing artifact visibility evaluation | |
CN100562135C (en) | The image quality evaluating system | |
CN114881889A (en) | Video image noise evaluation method and device | |
CN109118441A (en) | A kind of low-light (level) image and video enhancement method, computer installation and storage medium | |
CN106851168A (en) | Video format recognition methods, device and player | |
CN114677319A (en) | Stem cell distribution determination method and device, electronic equipment and storage medium | |
CN114463168A (en) | Data desensitization processing method and device and electronic equipment | |
CN109242750B (en) | Picture signature method, picture matching method, device, equipment and storage medium | |
CN109087362B (en) | System and method for determining dominant colors in images and non-transitory computer readable medium | |
CN112291548B (en) | White balance statistical method, device, mobile terminal and storage medium | |
CN116225972B (en) | Picture difference comparison method, device and storage medium | |
CN103548057A (en) | Character region pixel identification device and method thereof |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050228 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070319 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070605 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070803 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070918 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080122 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080321 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080513 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20080515 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080603 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080620 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110704 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070803 |
|
LAPS | Cancellation because of no payment of annual fees |