JP4200681B2 - 画像信号処理回路 - Google Patents

画像信号処理回路 Download PDF

Info

Publication number
JP4200681B2
JP4200681B2 JP2002070651A JP2002070651A JP4200681B2 JP 4200681 B2 JP4200681 B2 JP 4200681B2 JP 2002070651 A JP2002070651 A JP 2002070651A JP 2002070651 A JP2002070651 A JP 2002070651A JP 4200681 B2 JP4200681 B2 JP 4200681B2
Authority
JP
Japan
Prior art keywords
telop
motion
image signal
pixel data
amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002070651A
Other languages
English (en)
Other versions
JP2003271970A (ja
Inventor
哲二郎 近藤
勉 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2002070651A priority Critical patent/JP4200681B2/ja
Publication of JP2003271970A publication Critical patent/JP2003271970A/ja
Application granted granted Critical
Publication of JP4200681B2 publication Critical patent/JP4200681B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Television Systems (AREA)
  • Image Analysis (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、画面のうちテロップを含む領域を抽出する際に適用して好適な画像信号処理回路に関する。
【0002】
詳しくは、この発明は、テロップを含むテロップ領域か否かを判別すべき判別領域に対応した複数画素の動き量の度数分布を作成し、この度数分布よりテロップの動き量の候補をそれぞれ含む複数の動き量範囲を選択し、この複数の動き量範囲のそれぞれについて動き量の分布に基づく特徴量を求め、この特徴量に基づいて判別領域がテロップを含むテロップ領域か否かを判別することによって、テロップを含む領域を精度よく抽出できるようにした画像信号処理路に係るものである。
【0003】
【従来の技術】
従来、フィールド周波数を例えば50Hzから100Hzに変換するフィールド周波数の変換方法として、フィールド間の動きを推定し、推定した動き量を用いてフィールド間に新しいフィールドを生成する処理が知られている。しかし、この方法は、動き推定に失敗すると、処理結果に直接影響するという問題があった。また、この方法は、単なる補間処理であり、時間的または空間的な解像度を向上させることはできない。
【0004】
そこで、本出願人は、先に、入力画像信号の複数個のフィールドから抽出した画素データを使用して、クラス分類適応処理によって新たなフィールドを生成することにより、フィールド周波数を変換する方法を提案した(特開2000−324495号参照)。
【0005】
【発明が解決しようとする課題】
この場合、入力画像信号により得られる画面のうちテロップに対応する位置でも、他の位置と同様のクラス分類適応処理が行われるため、出力画像信号により得られる画面で、テロップが見えにくくなるという問題があった。
この発明の目的は、画面のうちテロップを含む領域を精度よく抽出することにある。また、この発明の目的は、例えばクラス分類適用処理により入力画像信号から出力画像信号を得る場合にテロップが見えにくくなることを防止することにある。
【0006】
【課題を解決するための手段】
この発明に係る画像信号処理回路は、複数の画素データからなる第1の画像信号を複数の画素データからなる第2の画像信号に変換する画像信号処理回路であって、第1の画像信号に基づいて、第2の画像信号における注目位置の動き情報を出力するテロップ領域抽出手段と、このテロップ領域抽出手段により出力される注目位置の動き情報に基づいて、第1の画像信号に対して動き補償を行う動き補償手段と、この動き補償手段で動き補償が行われた第1の画像信号から、注目位置に対して時間方向および空間方向の周辺に位置する複数の第1の画素データを選択する第1のデータ選択手段と、この第1のデータ選択手段で選択された複数の第1の画素データを用いて、第2の画像信号における注目位置の画素データを生成する画素データ生成手段とを備え、テロップ領域抽出手段は、第1の画像信号に基づいて、画面を構成する各画素の動き量をそれぞれ検出する動き量検出手段と、この動き量検出手段で検出された各画素の動き量のうち、テロップを含むテロップ領域か否かを判別すべき判別領域に対応した複数画素の動き量の度数分布を作成する度数分布作成手段と、この度数分布作成手段で作成された度数分布より、テロップの動き量の候補をそれぞれ含む複数の動き量範囲を選択する候補選択手段と、この候補選択手段で選択された複数の動き量範囲のそれぞれについて動き量の散らばり度合いを示す特徴量を求める演算手段と、この演算手段で求められた複数の動き量に基づいて、判別領域がテロップを含む領域か否かを判別し、その判別結果および当該領域がテロップ領域であると判別するときはさらにテロップの動き量を、動き情報として出力する判別手段と、この判別手段から出力される各判別領域の動き情報を格納する記憶手段と、この記憶手段から注目位置に対応する判別領域の動き情報を当該注目位置の動き情報として読み出して出力する動き情報出力手段とを有するものである。
【0007】
この発明においては、入力画像信号に基づいて、画面を構成する各画素の動き量がそれぞれ検出される。このように各画素の動き量は、例えばブロックマッチング法等によって検出される。このように検出される各画素の動き量のうち、テロップを含むテロップ領域か否かを判別すべき判別領域に対応した複数画素の動き量の度数分布が作成される。ここで、テロップが水平方向に帯状に流れる場合、例えば判別領域はライン単位、あるいは横方向(水平方向)に長い矩形領域に設定することで、テロップ領域の抽出を良好に行うことができる。
【0008】
この度数分布よりテロップの動き量の候補をそれぞれ含む複数の動き量範囲が選択される。この場合、度数の大きな動き量を中心とする所定の動き量範囲が順次選択されていく。この複数の動き量範囲のそれぞれについて動き量の分布に基づく特徴量が求められる。例えば、特徴量として分散または周波数パワースペクトラムが算出される。ある動き量範囲がテロップに係るものである場合には分散は小さくなり、また中域から高域にかけての周波数パワースペクトラムが増加する。
【0009】
そして、複数の動き量範囲のそれぞれについての特徴量に基づいて、判別領域がテロップを含むテロップ領域か否かが判別される。この場合、複数の動き量範囲のうちのいずれかに対応した特徴量がテロップの動き量を含むことを示すときには、判別領域はテロップを含むものと判別される。なおこの場合、ある動き量範囲の特徴量がテロップの動き量を含むことを示し、判別領域がテロップを含むものと判別される場合、当該動き量範囲の中心の動き量がテロップの動き量として決定される。
【0010】
このように、テロップを含むテロップ領域か否かを判別すべき判別領域に対応した複数画素の動き量の度数分布を作成し、この度数分布よりテロップの動き量の候補をそれぞれ含む複数の動き量範囲を選択し、この複数の動き量範囲のそれぞれについて動き量の分布に基づく特徴量を求め、この特徴量に基づいて判別領域がテロップを含むテロップ領域か否かを判別するものであり、テロップを含む領域を精度よく抽出できるようになる。
【0011】
またこの発明においては、テロップ領域抽出手段から、第2の画像信号における注目位置の動き情報が出力される。この動き情報は、第1の画像信号に基づいて得られる。この動き情報は、注目位置に対応する判別領域がテロップを含む領域であるか否かの判断結果および当該領域がテロップ領域であると判別されるときはさらにテロップの動き量からなっている。
【0012】
この注目位置の動き情報に基づいて、第1の画像信号に対して動き補償が行われる。つまり、第1の画像信号により得られる各画面に存在するテロップの空間方向の位置が一致するようにされる。このように動き補償が行われた第1の画像信号から、注目位置に対して時間方向および空間方向の周辺に位置する複数の第1の画素データが選択される。そして、この第1の画素データを用いて、第2の画像信号における注目位置の画素データが生成される。
【0013】
このように、第1の画像信号により得られる画面のうちテロップを含む領域の動きを検出し、この動きに基づいて第1の画像信号の動き補償を行った後にこの第1の画像信号を用いて第2の画像信号を得る処理を行うものであり、第2の画像信号により得られる画面ではテロップが見やすいものとなる。
【0018】
【発明の実施の形態】
以下、図面を参照しながら、この発明の実施の形態について説明する。図1は、実施の形態としてのテレビ受信機100の構成を示している。このテレビ受信機100は、放送信号よりフィールド周波数が50Hzであるインタレース方式の映像信号Vaを得、この映像信号Vaをフィールド周波数が100Hzであるインタレース方式の映像信号Vbに変換し、その映像信号Vbによる画像を表示するものである。
【0019】
テレビ受信機100は、マイクロコンピュータを備え、システム全体の動作を制御するためのシステムコントローラ101と、リモートコントロール信号を受信するリモコン信号受信回路102とを有している。リモコン信号受信回路102は、システムコントローラ101に接続され、リモコン送信機200よりユーザの操作に応じて出力されるリモートコントロール信号RMを受信し、その信号RMに対応する操作信号をシステムコントローラ101に供給するように構成されている。
【0020】
また、テレビ受信機100は、受信アンテナ105と、この受信アンテナ105で捕らえられた放送信号(RF変調信号)が供給され、選局処理、中間周波増幅処理、検波処理等を行って画像信号としてのフィールド周波数が50Hzであるインタレース方式の映像信号Vaを得るチューナ部106と、このチューナ部106より出力される映像信号Vaを一時的に保存するためのバッファメモリ109とを有している。
【0021】
また、テレビ受信機100は、バッファメモリ109に一時的に保存される映像信号Vaを、画像信号としてのフィールド周波数が100Hzであるインタレース方式の映像信号Vbに変換する画像信号処理部110と、この画像信号処理部110より出力される映像信号Vbによる画像を表示するディスプレイ部111とを有している。ディスプレイ部111は、例えばCRT(cathode-ray tube)ディスプレイ、あるいはLCD(liquid crystal display)等の表示器で構成されている。
【0022】
図1に示すテレビ受信機100の動作を説明する。
チューナ部106より出力されるフィールド周波数が50Hzである映像信号Vaは、バッファメモリ109に供給されて一時的に記憶される。そして、このバッファメモリ109に一時的に記憶された映像信号Vaは画像信号処理部110に供給され、フィールド周波数が100Hzである映像信号Vbに変換される。すなわち、画像信号処理部110では、映像信号Vaを構成する画素データから、映像信号Vbを構成する画素データが生成される。この画像信号処理部110より出力される映像信号Vbはディスプレイ部111に供給され、このディスプレイ部111の画面上にはその映像信号Vbによる画像が表示される。
【0023】
次に、画像信号処理部110の詳細を説明する。
この画像信号処理部110は、バッファメモリ109に記憶されている映像信号Vaに基づいて、映像信号Vbにおける注目位置の動き情報MOVを出力するテロップ領域抽出部120を有している。
【0024】
図2は、テロップ領域抽出部120の構成を示している。
このテロップ領域抽出部120は、映像信号Vaを入力する入力端子121と、この映像信号Vaに基づいて、画面を構成する各画素の動き量をそれぞれ検出する動き量検出部122と、この動き量検出部122で検出された各画素の動き量を格納する記憶部123とを有している。
【0025】
本実施の形態においては、水平方向に帯状に流れるテロップを想定している。そのため、この動き量検出部122は、各画素の水平方向の動き量を検出する。例えば、ブロックマッチングの処理により、各画素におけるフレーム間の水平方向の動き量を求める。
【0026】
すなわち、図3に示すように、現在ラインの着目画素を含むm個の画素からなる参照ブロックB1と、探索範囲である過去フレームの対応するライン(以下、「過去ライン」という)に設定したs個の画素からなる探索範囲S1中のm個の画素からなる候補ブロックB2との間でマッチング演算をする。すなわち、参照ブロックB1と候補ブロックB2との間で対応する位置の画素値の差分をとり、差分の絶対値をブロック全体にわたった累積する等の処理によって候補ブロックB2についての評価値を作成する。
【0027】
そして、このような評価値を探索範囲S1中の画素を含む全候補ブロックB2について作成し、評価値が最小となる候補ブロックB2の位置を最もマッチングのよい候補ブロックB2の位置として決定することにより、参照ブロックB1に対応する水平方向の動き量を検出する。この場合、候補ブロックとして1画素ずつずれたブロックを用いる場合には、全部でs個の候補ブロックを取り扱うことになる。
【0028】
また、テロップ領域抽出部120は、領域切出部124と度数分布作成部125とを有している。領域切出部124は、記憶部123に格納された各画素の水平方向の動き量のうち、テロップを含むテロップ領域か否かを判別すべき判別領域に対応した複数画素の動き量を、判別領域毎に順次読み出して出力する。度数分布作成部125は、領域切出部124より出力される判別領域に対応した複数画素の動き量を用いてその度数分布を作成する。上述したように本実施の形態においては、水平方向に帯状に流れるテロップを想定していることから、判別領域をライン単位として、テロップ領域の抽出を良好に行い得るようにしている。
【0029】
図4は、度数分布作成部125で作成される度数分布の一例を示すものである。曲線aは判別領域にテロップを含む場合の度数分布を示しており、曲線bは判別領域にテロップを含んでいない場合の度数分布を示している。判別領域にテロップを含む場合には、テロップの動き量に対応した度数が突出した度数分布となる。曲線aで示される度数分布によれば、判別領域に動き量が−26のテロップを含んでいるものと推定される。
【0030】
また、テロップ領域抽出部120は、度数分布作成部125で作成された度数分布より、テロップの動き量の候補をそれぞれ含む複数の動き量範囲を選択する候補選択部126を有している。候補選択部126は、度数の大きな動き量を中心とした±pの範囲を順次選択していく。
【0031】
例えば、度数分布作成部125で図4の曲線aで示す度数分布が作成される場合であって、p=4である3つの動き量範囲を選択する場合を考える。この場合、まず、度数が最大である−26の動き量を中心とした±4の範囲を動き量範囲として選択する(EX1の範囲参照)。次に、度数が2番目に大きな0の動き量を中心とした±4の範囲を動き量範囲として選択する(EX2の範囲参照)。最後に、度数が3番目に大きな10の動き量を中心とした±4の範囲を動き量範囲として選択する(EX3の範囲参照)。
【0032】
また、テロップ領域抽出部120は、候補選択部126で選択された複数の動き量範囲のそれぞれについて、動き量の分布に基づく特徴量としての分散σ2を求める分散演算部127を有している。この分散σ2は、動き量範囲に含まれる動き量xi(i=1〜N)を用いて、(1)式に基づいて求められる。この(1)式において、Nは度数の合計である。
【0033】
【数1】
Figure 0004200681
【0034】
また、テロップ領域抽出部120は、分散演算部127で求められた複数の動き量範囲のそれぞれについての分散σ2に基づいて、判別領域がテロップを含むテロップ領域か否かを判別する判別部128を有している。テロップの動き量を含む動き量範囲では、当該テロップの動き量に対応した度数が突出したものとなっている。そのため、テロップの動き量を含む動き量範囲についての分散σ2は、テロップの動き量を含まない動き量範囲に比較して、小さくなる。
【0035】
そこで、判別部128は、複数の動き量範囲のそれぞれについての分散σ2をそれぞれ所定の閾値と比較し、当該閾値より小さな分散σ2があるときは、判別領域がテロップを含むテロップ領域であると判別する。さらに、判別部128は、分散σ2が閾値より小さくなる動き量範囲の中心の動き量をテロップの動き量として決定する。
【0036】
また、テロップ領域抽出部120は、記憶部129と動き情報出力部130とを有している。記憶部129は、判別部128より順次出力される、各判別領域がテロップ領域であるか否かの判別結果および当該判別領域がテロップ領域であると判別するときはさらにテロップの動き量を、動き情報として格納する。動き情報出力部130は、記憶部129から映像信号Vbにおける注目位置に対応する判別領域の動き情報を、当該注目位置の動き情報MOVとして読み出して出力する。ここで、注目位置に対応する判別領域の動き情報とは、後述するように注目位置の周辺に位置し、予測タップやクラスタップの画素データとして使用される画素データを含む判別領域(ライン)の動き情報を意味している。
【0037】
図2に示すテロップ領域抽出部120の動作を説明する。
入力端子121に入力される映像信号Vaは動き量検出器122に供給される。この動き量検出器122では、その映像信号Vaに基づいて、例えばブロックマッチングの処理によって、画面を構成する各画素の動き量がそれぞれ検出される。この各画素の動き量は記憶部123に格納される。
【0038】
また、領域切出部124によって、テロップを含むテロップ領域か否かを判別すべき判別領域(本実施の形態ではライン)に対応した複数画素の動き量が、記憶部123より判別領域毎に読み出されて度数分布作成部125に供給される。度数分布作成部125では、判別領域に対応した複数画素の動き量の度数分布が作成される。この度数分布は、候補選択部126に供給される。
【0039】
そして、候補選択部126では、度数分布に基づいて、テロップの動き量の候補をそれぞれ含む複数の動き量範囲が選択される。この場合、度数の大きな動き量を中心とした±pの範囲が順次選択される。そして、このように選択された複数の動き量範囲の度数分布情報が、候補選択部126から分散演算部127に供給される。
【0040】
分散演算部127では、複数の動き量範囲のそれぞれについて、動き量の分布に基づく特徴量としての分散σ2が求められる((1)式参照)。この分散σ2は、動き量範囲における平均値のまわりの散らばり度合いを示すものであり、テロップの動き量を含む動き量範囲についての分散σ2は、テロップの動き量を含まない動き量範囲に比較して、小さくなる。
【0041】
そして、分散演算部127から判別部128に、複数の動き量範囲における、度数分布情報(動き量範囲における最大度数の動き量のみであってもよい)および分散σ2が供給される。判別部128では、複数の動き量範囲のそれぞれについての分散σ2に基づいて、判別領域がテロップを含むテロップ領域か否かの判別が行われる。この場合、複数の動き量範囲のそれぞれについての分散σ2がそれぞれ所定の閾値と比較され、閾値より小さな分散σ2があるときは、判別領域がテロップを含むテロップ領域であると判別される。またこの場合、分散σ2が閾値より小さくなる動き量範囲の中心の動き量が、テロップの動き量として決定される。
【0042】
例えば、図4の曲線aで示す度数分布に対して、動き量範囲EX1〜EX3が選択され、動き量範囲EX1にはテロップの動き量を含み、動き量範囲EX2,EX3にはテロップの動き量を含まないものとする。その場合、動き量範囲EX1についての分散σ2は小さく、それに比べて動き量範囲EX2,EX3についての分散σ2は大きくなる。この場合、動き量範囲EX1についての分散σ2が閾値より小さくなることから、判別領域はテロップ領域と判別され、テロップの動き量は−26と決定される。
【0043】
判別部128より順次出力される、各判別領域についてのテロップ領域であるか否かの判別結果およびテロップの動き量は、動き情報として記憶部129に記憶される。そして、動き情報出力部130は、記憶部129から映像信号Vbにおける注目位置に対応する判別領域の動き情報を、当該注目位置の動き情報MOVとして読み出して出力する。
【0044】
なお、上述したテロップ領域の抽出動作を、ソフトウェアで実現することも可能である。図5のフローチャートを参照して、各判別領域について、テロップ領域であるか否かの判別結果およびテロップの動き量を得るまでの処理手順を説明する。
まず、ステップST1で、映像信号Vaに基づいて、画面を構成する各画素の動き量を、例えばブロックマッチングの処理によってそれぞれ検出してメモリに記憶する。
【0045】
次に、ステップST2で、テロップを含むテロップ領域か否かを判別すべき判別領域(ライン)に対応した複数画素の動き量を、メモリから読み出す。そして、ステップST3で、読み出した複数の動き量の度数分布を作成し、ステップST4で、度数分布に基づいて、テロップの動き量の候補をそれぞれ含む複数の動き量範囲を選択する。
【0046】
次に、ステップST5で、複数の動き量範囲のそれぞれについて、(1)式によって、動き量の分布に基づく特徴量としての分散σ2を求める。そして、ステップST6で、複数の動き量範囲のそれぞれについての分散σ2に基づいて、判別領域がテロップを含むテロップ領域か否かの判別をする。
【0047】
この場合、複数の動き量範囲のそれぞれについての分散σ2をそれぞれ所定の閾値と比較し、閾値より小さな分散σ2があるときは、判別領域がテロップを含むテロップ領域であると判別する。また、このステップST6では、判別領域がテロップ領域であると判別するとき、分散σ2が閾値より小さくなる動き量範囲の中心の動き量をテロップの動き量として決定する。
【0048】
次に、ステップST7で、ステップST6で得られる、判別領域についてのテロップ領域であるか否かの判別結果およびテロップの動き量を、当該判別領域の動き情報としてメモリに記憶する。
次に、ステップST8で、画面上の全ての判別領域(ライン)での判別が終了したか否かを判定する。全ての判別領域での判別が終了していないときは、ステップST2に戻り、次の判別領域について、上述したと同様の処理をする。一方、全ての判別領域での判別が終了したときは、処理を終了する。
【0049】
図1に戻って、画像信号処理部110は、テロップ情報抽出部120より出力される動き情報MOVに基づいて、バッファメモリ109からの映像信号Vaに対して動き補償を行う動き補償部131を有している。この動き補償部131では、後述する予測タップおよびクラスタップの画素データを抽出するための各フィールドにおいて、テロップの水平方向の動きがほぼうち消された状態とされる。
【0050】
また、画像信号処理部110は、動き補償部131で動き補償が行われた映像信号Va′の複数のフィールドから、映像信号Vbにおける注目位置に対して時間方向および空間方向(水平方向、垂直方向)の周辺に位置する複数の画素データを選択的に取り出して出力する第1、第2のタップ選択回路132,133を有している。第1のタップ選択回路132は、予測に使用する画素データ(予測タップの画素データ)を選択的に取り出すものである。第2のタップ選択回路133は、クラス分類に使用する画素データ(クラスタップの画素データ)を選択的に取り出すものである。
【0051】
また、画像信号処理部110は、第2のタップ選択回路133で選択的に取り出されるクラスタップの画素データからレベル分布パターンを特徴量として検出し、このレベル分布パターンに基づいてクラスコードCLを発生するクラス検出回路134を有している。
【0052】
このクラス検出回路134では、例えば、まず8ビットの各データを2ビットに圧縮するような演算が行われる。ここでは、ADRCによってデータ圧縮が行われる、この場合、各データの最大値をMAX、最小値をMIN、ダイナミックレンジをDR(=MAX−MIN+1)、再量子化ビット数をPとすると、各データkiに対して、(2)式の演算により、圧縮データとしての再量子化コードqiが得られる。ただし、(2)式において、[ ]は切り捨て処理を意味している。第2のタップ選択回路133で選択されたデータの個数がNaであるとき、i=1〜Naである。
qi=[(ki−MIN+0.5)*2P/DR] ・・・(2)
【0053】
クラス検出回路134では、次に、上述したように得られる再量子化コードqiに基づき、(3)式によって、作成すべき映像信号Vbにおける注目位置の画素データが属するクラスを示すクラスコードCLが演算される。
【0054】
【数2】
Figure 0004200681
【0055】
また、画像信号処理部110は、係数メモリ135を有している。この係数メモリ135は、後述する推定予測演算回路136で使用される推定式の係数データを格納するものである。この係数データは、映像信号Vaを、映像信号Vbに変換する際に使用する情報である。係数メモリ135には、クラスコードCLで示される各クラスの係数データが格納されている。この係数メモリ135には、上述したクラス検出回路134より出力されるクラスコードCLが読み出しアドレス情報として供給される。この係数メモリ135からはクラスコードCLに対応した係数データwiが読み出され、推定予測演算回路136に供給される。係数データの生成方法については後述する。
【0056】
また、画像信号処理部110は、第1のタップ選択回路132で選択的に取り出される予測タップの画素データxiと、係数メモリ135より読み出される係数データwiとから、作成すべき映像信号Vbの画素データ(注目位置の画素データ)yを演算する推定予測演算回路136を有している。
【0057】
この推定予測演算回路136には、第1のタップ選択回路126より注目位置に対応した予測タップのデータxiと、係数メモリ135よりその注目位置に対応した係数データwiとが供給され、注目位置の画素データyは(4)式の推定式で演算される。
【0058】
【数3】
Figure 0004200681
【0059】
また、画像信号処理部110は、推定予測演算回路136より順次出力される注目位置の画素データyを、フィールド周波数が100Hzのインタレース方式の映像信号Vbとして出力する後処理回路137を有している。
【0060】
次に、画像信号処理部110の動作を説明する。
バッファメモリ109に記憶されている映像信号Vaがテロップ領域抽出部120に供給される。このテロップ領域抽出部120は、映像信号Vaに基づいて、画面の各判別領域、本実施の形態においては各ラインがテロップを含むテロップ領域であるか否かを判別し、その判別結果およびテロップ領域であると判別するときはさらにテロップの動き量を、動き情報として取得し、作成すべき映像信号Vbにおける注目位置に対応した動き情報MOVを順次出力していく。
【0061】
このようにテロップ領域抽出部120より出力される動き情報MOVは、動き補償部131に供給される。この動き補償部131では、動き情報MOVに基づいて、バッファメモリ109からの映像信号Vaに対して動き補償が行われる。この場合、映像信号Vbにおける注目位置がテロップ領域あるいはその近傍にあるとき、予測タップおよびクラスタップの画素データを抽出するための各フィールドにおいてテロップの水平方向の動きがほぼうち消された状態となる。
【0062】
動き補償部131より出力される映像信号Va′より、第2のタップ選択回路133で、映像信号Vbにおける注目位置の周辺に位置するクラスタップの画素データが選択的に取り出される。このクラスタップの画素データはクラス検出回路134に供給される。このクラス検出回路134では、クラスタップのデータからレベル分布パターンが特徴量として検出され、このレベル分布パターンに基づいて、上述の注目位置の画素データが属するクラスを示すクラスコードCLが得られる((3)式参照)。そして、このクラスコードCLは、係数メモリ135に読み出しアドレス情報として供給される。
【0063】
また、動き補償部131より出力される映像信号Va′より、第1のタップ選択回路132で、映像信号Vbにおける注目位置の周辺に位置する予測タップの画素データxiが選択的に取り出される。この予測タップの画素データxiは、推定予測演算回路136に供給される。推定予測演算回路136では、予測タップの画素データxiと、係数メモリ135より読み出される注目位置に対応した係数データwiとを用いて、推定式((4)式参照)に基づいて、注目位置の画素データyが求められる。
【0064】
そして、この推定予測演算回路136より順次出力される映像信号Vbにおける注目位置の画素データyは、後処理回路137に供給される。この後処理回路137は、推定予測演算回路136より順次出力される画素データyより、フィールド周波数が100Hzのインタレース方式の映像信号を生成する。つまり、この後処理回路137からは、フィールド周波数が100Hzのインタレース方式の映像信号Vbが出力される。
【0065】
上述したように、テロップ領域抽出部120では、テロップを含むテロップ領域か否かを判別すべき判別領域(ライン)に対応した複数画素の動き量の度数分布を作成し、この度数分布よりテロップの動き量の候補をそれぞれ含む複数の動き量範囲を選択し、この複数の動き量範囲のそれぞれについて動き量の分布に基づく特徴量として分散を求め、この分散に基づいて判別領域がテロップを含むテロップ領域か否かを判別するものであり、テロップを含む領域を精度よく抽出できる。
【0066】
また、画像信号処理部110では、テロップ領域抽出部120から作成すべき映像信号Vbにおける注目位置に対応した動き情報MOVを順次出力し、この動き情報に基づいて映像信号Vaの動き補償を行って予測タップおよびクラスタップの画素データを抽出するための各フィールドをテロップの水平方向の動きがほぼうち消された状態とし、動き補償後の映像信号Vaを用いて映像信号Vbを得るものであり、映像信号Vbによってディスプレイ部111に表示される画面ではテロップが見やすいものとなる。
【0067】
次に、係数メモリ135に記憶される係数データの生成方法について説明する。この係数データは、予め学習によって生成されたものである。
まず、この学習方法について説明する。上述の、(4)式において、学習前は係数データw1 ,w2,‥‥,wn は未定係数である。学習は、クラス毎に、複数の信号データに対して行う。学習データ数がmの場合、(4)式に従って、以下に示す(5)式が設定される。nは予測タップの数を示している。
k =w1 ×xk1+w2 ×xk2+‥‥+wn ×xkn ・・・(5)
(k=1,2,‥‥,m)
【0068】
m>nの場合、係数データw1 ,w2,‥‥,wnは、一意に決まらないので、誤差ベクトルeの要素ekを、以下の式(6)で定義して、(7)式のe2を最小にする係数データを求める。いわゆる最小2乗法によって係数データを一意に定める。
k=yk−{w1×xk1+w2×xk2+‥‥+wn×xkn} ・・・(6)
(k=1,2,‥‥m)
【0069】
【数4】
Figure 0004200681
【0070】
(7)式のe2を最小とする係数データを求めるための実際的な計算方法としては、まず、(8)式に示すように、e2を係数データwi(i=1,2,・・・,n)で偏微分し、iの各値について偏微分値が0となるように係数データwiを求めればよい。
【0071】
【数5】
Figure 0004200681
【0072】
(8)式から係数データwiを求める具体的な手順について説明する。(9)式、(10)式のようにXji,Yi を定義すると、(8)式は、(11)式の行列式の形に書くことができる。
【0073】
【数6】
Figure 0004200681
【0074】
【数7】
Figure 0004200681
【0075】
(11)式は、一般に正規方程式と呼ばれるものである。この正規方程式を掃き出し法(Gauss-Jordanの消去法)等の一般解法で解くことにより、係数データwi(i=1,2,・・・,n)を求めることができる。
【0076】
図6は、係数データ生成装置150を示している。この係数データ生成装置150は、教師信号としての、フィールド周波数が100Hzでインタレース方式の映像信号Vbが入力される入力端子151と、この映像信号Vbから、生徒信号としての、フィールド周波数が50Hzでインタレース方式の映像信号Vaを得る生徒信号生成回路152とを有している。
【0077】
また、係数データ生成装置150は、生徒信号生成回路152より出力される映像信号Vaに基づいて、映像信号Vbにおける注目位置の動き情報MOVを出力するテロップ領域抽出部153を有している。このテロップ領域抽出部153は、上述した画像信号処理部110のテロップ領域抽出部120と同様に構成され、同様の処理を行う。
【0078】
すなわち、映像信号Vaに基づいて、画面の各判別領域、本実施の形態においては各ラインがテロップを含むテロップ領域であるか否かを判別し、その判別結果およびテロップ領域であると判別するときはさらにテロップの動き量を、動き情報として取得し、映像信号Vbにおける注目位置に対応した動き情報MOVを順次出力していく。
【0079】
また、係数データ生成装置150は、テロップ領域抽出部153より出力される動き情報MOVに基づいて、生徒信号生成回路152より出力される映像信号Vaに対して動き補償を行う動き補償部154を有している。この動き補償部154は、上述した画像信号処理部110の動き補償部131と同様に構成され、同様の処理を行う。
【0080】
すなわち、この動き補償部154では、映像信号Vbにおける注目位置がテロップ領域あるいはその近傍にあるとき、後述する予測タップおよびクラスタップの画素データを抽出するための各フィールドにおいてテロップの水平方向の動きがほぼうち消された状態とされる。
【0081】
また、係数データ生成装置150は、動き補償部154で動き補償が行われた映像信号Va′より、映像信号Vbにおける注目位置に対して時間方向および空間方向の周辺に位置する複数の画素データを選択的に取り出して出力する第1のタップ選択回路155および第2のタップ選択回路156を有している。これら第1、第2のタップ選択回路155,156は、上述した画像信号処理部110の第1、第2のタップ選択回路132,133と同様に構成される。
【0082】
また、係数データ生成装置150は、第2のタップ選択回路156で選択的に取り出されるクラスタップのデータからレベル分布パターンを特徴量として検出し、このレベル分布パターンに基づいて、映像信号Vbにおける注目位置の画素データが属するクラスを示すクラスコードCLを発生するクラス検出回路158を有している。このクラス検出回路158は、上述した画像信号処理部110のクラス検出回路134と同様に構成される。
【0083】
また、係数データ生成装置150は、正規方程式生成部161を有している。この正規方程式生成部161は、入力端子151に供給される映像信号Vbから得られる注目位置の各データyと、この各データyにそれぞれ対応して第1のタップ選択回路155で選択的に取り出される予測タップのデータxiと、各データyにそれぞれ対応してクラス検出回路158で発生されるクラスコードCLとを用いて、クラス毎に、n個の係数データwiを得るための正規方程式((11)式参照)を生成する。
【0084】
この場合、1個の画素データyとそれに対応するn個の予測タップの画素データxi(i=1〜n)との組み合わせで上述した1個の学習データが生成される。したがって、正規方程式生成部161では多くの学習データが登録された正規方程式が生成される。
【0085】
また、係数データ生成装置150は、正規方程式生成部161でクラス毎に生成された正規方程式のデータが供給され、クラス毎に生成された正規方程式を解いて、各クラスの係数データwiを求める係数データ決定部162と、この求められた係数データwiを記憶する係数メモリ163とを有している。係数データ決定部162では、正規方程式が例えば掃き出し法などによって解かれて、係数データwiが求められる。
【0086】
図6に示す係数データ生成装置150の動作を説明する。
入力端子151には教師信号としての映像信号Vb(フィールド周波数が100Hzでインタレース方式の映像信号)が供給される。この映像信号Vbは生徒信号生成回路152に供給され、生徒信号としての映像信号Va(フィールド周波数が50Hzでインタレース方式の映像信号)が生成される。
【0087】
そして、映像信号Vaがテロップ領域抽出部153に供給される。このテロップ領域抽出部153では、映像信号Vaに基づいて、画面の各判別領域、つまり各ラインがテロップを含むテロップ領域であるか否かを判別し、その判別結果およびテロップ領域であると判別するときはさらにテロップの動き量を、動き情報として取得し、映像信号Vbにおける注目位置に対応した動き情報MOVを順次出力していく。
【0088】
この動き情報MOVは動き補償部154に供給される。動き補償部154では、動き情報MOVに基づいて、生徒信号生成回路152より出力される映像信号Vaに対して動き補償が行われる。これにより、映像信号Vbにおける注目位置がテロップ領域あるいはその近傍にあるとき、後述する予測タップおよびクラスタップの画素データを抽出するための各フィールドは、テロップの水平方向の動きがほぼうち消された状態とされる。
【0089】
動き補償部154より出力される映像信号Va′より、第2のタップ選択回路156で、映像信号Vbにおける注目位置の周辺に位置するクラスタップのデータが選択的に取り出される。このクラスタップのデータはクラス検出回路158に供給される。このクラス検出回路158では、クラスタップのデータからレベル分布パターンが特徴量として検出され、このレベル分布パターンに基づいて、映像信号Vbにおける注目位置の画素データが属するクラスを示すクラスコードCLが発生される((3)式参照)。
【0090】
また、動き補償部154より出力される映像信号Va′より、第1のタップ選択回路155で、映像信号Vbにおける注目位置の周辺に位置する予測タップの画素データが選択的に取り出される。そして、入力端子151に供給される映像信号Vbより順次得られる注目位置の画素データyと、この画素データyに対応して第1のタップ選択回路155で選択的に取り出される予測タップの画素データxiと、この画素データyに対応してクラス検出回路158より出力されるクラスコードCLとから、正規方程式生成部161では、クラス毎に、n個の係数データwiを生成するための正規方程式が生成される。
そして、係数データ決定部162でその正規方程式が解かれ、各クラスの係数データwiが求められ、その係数データwiはクラス別にアドレス分割された係数メモリ163に記憶される。
【0091】
このように、図6に示す係数データ生成装置150においては、図1の画像信号処理部110の係数メモリ135に記憶される各クラスの係数データwiを生成できる。
なお、上述実施の形態においては、各動き量範囲についての分散σ2を求めて使用するものを示したが、動き量の散らばり度合いを示すものとして、分散の代わりに標準偏差等のその他の統計値を求めて使用してもよい。
【0092】
また、分散の代わりに、各動き量範囲について、FFT(fast Fourier transform)やLPC(linear predictive coding)等の周波数解析処理によって、動き量の散らばり度合いを示す周波数パワースペクトラムを求めて使用してもよい。この周波数パワースペクトラムは、テロップの動き量を含む動き量範囲については中域から高域にかけての周波数パワースペクトラムが増加する。したがって、この周波数パワースペクトラムに基づいて、各動き量範囲がテロップの動き量を含むか否かを判別できる。
【0093】
図7は、FFTの周波数解析処理によって求めた周波数パワースペクトラムの一例を示しており、曲線aがテロップの動き量を含む動き量範囲に対応したものであり、曲線bがテロップの動き量を含まない動き量範囲に対応したものである。また、図8は、LPCの周波数解析処理によって求めた周波数パワースペクトラムの一例を示しており、曲線aがテロップの動き量を含む動き量範囲に対応したものであり、曲線bがテロップの動き量を含まない動き量範囲に対応したものである。
【0094】
また、上述実施の形態においては、水平方向に帯状に流れるテロップを想定しており、判別領域をライン単位として、テロップ領域の抽出を良好に行い得るようにしているが、この判別領域はライン単位ではなく、水平方向(横方向)に長い矩形領域としても、テロップ領域の抽出を良好に行うことができる。また、垂直方向に帯状に流れるテロップを想定した場合には、判別領域を垂直方向(縦方向)に長い矩形領域とすることで、テロップ領域の抽出を良好に行うことができる。また、このように垂直方向に帯状に流れるテロップを想定した場合には、画面を構成する各画素の動き量として、水平方向の動き量ではなく、垂直方向の動き量を検出して使用すればよい。
【0095】
【発明の効果】
この発明によれば、テロップを含むテロップ領域か否かを判別すべき判別領域に対応した複数画素の動き量の度数分布を作成し、この度数分布よりテロップの動き量の候補をそれぞれ含む複数の動き量範囲を選択し、この複数の動き量範囲のそれぞれについて動き量の分布に基づく特徴量を求め、この特徴量に基づいて判別領域がテロップを含むテロップ領域か否かを判別するものであり、テロップを含む領域を精度よく抽出できる。
【0096】
また、この発明によれば、第1の画像信号により得られる画面のうちテロップを含む領域の動きを検出し、この動きに基づいて第1の画像信号の動き補償を行った後にこの第1の画像信号を用いて第2の画像信号を得る処理を行うものであり、第2の画像信号により得られる画面ではテロップが見やすいものとなる。
【図面の簡単な説明】
【図1】実施の形態としてのテレビ受信機の構成を示すブロック図である。
【図2】テロップ領域抽出部120の構成を示すブロック図である。
【図3】ブロックマッチングの処理を説明するための図である。
【図4】度数分布の一例を示す図である。
【図5】テロップ領域抽出動作を説明するためのフローチャートである。
【図6】係数データ生成装置の構成を示すブロック図である。
【図7】FFTの周波数解析処理による周波数パワースペクトラムの一例を示す図である。
【図8】LPCの周波数解析処理による周波数パワースペクトラムの一例を示す図である。
【符号の説明】
100・・・テレビ受信機、101・・・システムコントローラ、102・・・リモコン信号受信回路、105・・・受信アンテナ、106・・・チューナ部、109・・・バッファメモリ、110・・・画像信号処理部、120・・・テロップ領域抽出部、121・・・入力端子、122・・・動き量検出器、123,129・・・記憶部、124・・・領域切出部、125・・・度数分布作成部、126・・・候補選択部、127・・・分散演算部、128・・・判別部、130・・・動き情報出力部、131・・・動き補償部、132・・・第1のタップ選択回路、133・・・第2のタップ選択回路、134・・・クラス検出回路、135・・・係数メモリ、136・・・推定予測演算回路、137・・・後処理回路

Claims (2)

  1. 複数の画素データからなる第1の画像信号を複数の画素データからなる第2の画像信号に変換する画像信号処理回路であって、
    上記第1の画像信号に基づいて、上記第2の画像信号における注目位置の動き情報を出力するテロップ領域抽出手段と、
    上記テロップ領域抽出手段により出力される上記注目位置の動き情報に基づいて、上記第1の画像信号に対して動き補償を行う動き補償手段と、
    上記動き補償手段で動き補償が行われた上記第1の画像信号から、上記注目位置に対して時間方向および空間方向の周辺に位置する複数の第1の画素データを選択する第1のデータ選択手段と、
    上記第1のデータ選択手段で選択された複数の第1の画素データを用いて、上記第2の画像信号における注目位置の画素データを生成する画素データ生成手段とを備え、
    上記テロップ領域抽出手段は、
    上記第1の画像信号に基づいて、画面を構成する各画素の動き量をそれぞれ検出する動き量検出手段と、
    上記動き量検出手段で検出された各画素の動き量のうち、テロップを含むテロップ領域か否かを判別すべき判別領域に対応した複数画素の動き量の度数分布を作成する度数分布作成手段と、
    上記度数分布作成手段で作成された度数分布より、上記テロップの動き量の候補をそれぞれ含む複数の動き量範囲を選択する候補選択手段と、
    上記候補選択手段で選択された上記複数の動き量範囲のそれぞれについて動き量の散らばり度合いを示す特徴量を求める演算手段と、
    上記演算手段で求められた上記複数の動き量に基づいて、上記判別領域がテロップを含む領域か否かを判別し、その判別結果および当該領域がテロップ領域であると判別するときはさらにテロップの動き量を、動き情報として出力する判別手段と、
    上記判別手段から出力される各判別領域の動き情報を格納する記憶手段と、
    上記記憶手段から上記注目位置に対応する判別領域の動き情報を当該注目位置の動き情報として読み出して出力する動き情報出力手段とを有する画像信号処理回路。
  2. 上記画素データ生成手段は、
    上記動き補償手段で動き補償が行われた上記第1の画像信号から、上記注目位置の周辺に位置する複数の第2の画素データを選択する第2のデータ選択手段と、
    上記第2のデータ選択手段で選択された複数の第2の画素データに基づいて、上記注目位置の画素データが属するクラスを検出するクラス検出手段と、
    上記クラス検出手段で検出されたクラスに対応した、推定式の係数データを発生する係数データ発生手段と、
    上記係数データ発生手段で発生された係数データおよび上記第1のデータ選択手段で選択された複数の第1の画素データを用いて、上記推定式に基づいて、上記第2の画像信号における上記注目位置の画素データを算出して得る演算手段とを有する請求項に記載の画像信号処理回路。
JP2002070651A 2002-03-14 2002-03-14 画像信号処理回路 Expired - Fee Related JP4200681B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002070651A JP4200681B2 (ja) 2002-03-14 2002-03-14 画像信号処理回路

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002070651A JP4200681B2 (ja) 2002-03-14 2002-03-14 画像信号処理回路

Publications (2)

Publication Number Publication Date
JP2003271970A JP2003271970A (ja) 2003-09-26
JP4200681B2 true JP4200681B2 (ja) 2008-12-24

Family

ID=29201159

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002070651A Expired - Fee Related JP4200681B2 (ja) 2002-03-14 2002-03-14 画像信号処理回路

Country Status (1)

Country Link
JP (1) JP4200681B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4048996B2 (ja) 2003-04-11 2008-02-20 ソニー株式会社 テロップの抽出装置および抽出方法、並びにプログラムおよび媒体
WO2009130972A1 (ja) * 2008-04-22 2009-10-29 日本電気株式会社 テロップ移動ベクトル算出方法、装置及びプログラムを格納する記録媒体
JP5164716B2 (ja) * 2008-07-28 2013-03-21 株式会社日立製作所 映像処理装置および映像表示装置
JP5479080B2 (ja) * 2009-12-24 2014-04-23 キヤノン株式会社 映像処理装置及び方法

Also Published As

Publication number Publication date
JP2003271970A (ja) 2003-09-26

Similar Documents

Publication Publication Date Title
CN101646034B (zh) 图像处理器和图像处理方法
KR100939736B1 (ko) 계수 데이터 생성장치 및 생성방법, 그것을 사용한 정보신호 처리장치 및 처리방법, 그것에 사용하는 종계수 데이터 생성장치 및 생성방법, 및 정보제공매체
US7551226B2 (en) Image signal conversion apparatus, method and, display for image signal conversion based on selected pixel data
CN101631211B (zh) 遥控器、图像信号处理设备和图像信号处理方法
US20040070685A1 (en) Method and apparatus for processing information, storage medium, and program
JP4277446B2 (ja) 情報信号処理装置、情報信号処理方法、画像信号処理装置およびそれを使用した画像表示装置、それに使用される係数種データ生成装置および生成方法、並びに記録媒体
JP3885786B2 (ja) 情報信号の処理装置および処理方法、並びにその処理方法を実行させるためのプログラム
JP4200681B2 (ja) 画像信号処理回路
KR100770067B1 (ko) 정보 신호 처리 장치, 정보 신호 처리 방법, 화상 신호처리 장치 및 그것을 사용한 화상 표시 장치, 그리고 정보제공 매체
KR101089853B1 (ko) 계수 데이터의 생성 장치 및 생성 방법, 계수종 데이터의 생성 장치 및 생성 방법, 정보 신호 처리 장치, 및 프로그램을 기록한 매체
JP2002374505A (ja) 係数データの生成装置および生成方法、それを使用した情報信号の処理装置および処理方法、それに使用する係数データの取得装置および取得方法、並びに情報提供媒体
KR100982625B1 (ko) 정보 신호의 처리 장치 및 처리 방법
JP4311166B2 (ja) 情報信号の処理装置および処理方法、それに使用される係数種データの生成装置および生成方法、並びに各方法を実行するためのプログラム、そのプログラムを記録した媒体
JP4349086B2 (ja) 情報信号の処理装置および処理方法、並びにその処理方法を実行するためのプログラム、そのプログラムを記録した媒体
JP4457277B2 (ja) 画像信号変換装置、画像信号変換方法、およびそれを使用した画像表示装置
JP4441860B2 (ja) 情報信号の処理装置および処理方法、並びにプログラムおよびそれを記録した媒体
JP3912161B2 (ja) 画像表示装置、それに使用する画像信号処理装置および画像信号処理方法、並びにその方法を実行するためのプログラムおよびそのプログラムを記録したコンピュータ読み取り可能な媒体
JP4051934B2 (ja) 情報信号処理装置、情報信号処理方法およびそれを使用した画像処理装置および画像処理方法、並びに情報信号処理方法又は画像処理方法を実行するためのプログラムおよびそのプログラムを記録したコンピュータ読み取り可能な媒体
CN100367789C (zh) 系数数据产生和信息信号处理设备和方法
JP4042402B2 (ja) 画像信号処理装置および画像信号処理方法、係数データ生成装置および係数データ生成方法、並びに各方法を実行するためのプログラムおよびそのプログラムを記録したコンピュータ読み取り可能な媒体
JP4692801B2 (ja) 係数データの生成装置および生成方法、それを使用した情報信号の処理装置および処理方法、並びに、それに使用する係数情報の生成装置および生成方法
JP4649812B2 (ja) 画像信号処理装置、画像信号処理方法およびそれを使用した画像表示装置、並びに各画像信号処理方法を実行するためのプログラムおよびそのプログラムを記録したコンピュータ読み取り可能な媒体
JP4692798B2 (ja) 情報信号処理装置、情報信号処理方法、画像信号処理装置およびそれを使用した画像表示装置、並びに記録媒体
JP4154961B2 (ja) 画像信号の処理装置および処理方法、画像表示装置、それに使用される係数データの生成装置および生成方法、並びに各方法を実行するためのプログラムおよびそのプログラムを記録したコンピュータ読み取り可能な媒体
JP2004173012A (ja) 画像信号の処理装置および処理方法、それに使用される係数データの生成装置および生成方法、並びに各方法を実行するためのプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050310

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060425

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080307

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080318

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080519

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080610

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080811

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080819

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080916

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080929

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111017

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121017

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131017

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees