JP3651477B2 - 画像信号処理装置 - Google Patents

画像信号処理装置 Download PDF

Info

Publication number
JP3651477B2
JP3651477B2 JP2004023447A JP2004023447A JP3651477B2 JP 3651477 B2 JP3651477 B2 JP 3651477B2 JP 2004023447 A JP2004023447 A JP 2004023447A JP 2004023447 A JP2004023447 A JP 2004023447A JP 3651477 B2 JP3651477 B2 JP 3651477B2
Authority
JP
Japan
Prior art keywords
signal
image
line
output
image signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004023447A
Other languages
English (en)
Other versions
JP2004215286A (ja
Inventor
祐一 柴田
明伸 市川
政ニ 吉田
浩介 木下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP2004023447A priority Critical patent/JP3651477B2/ja
Publication of JP2004215286A publication Critical patent/JP2004215286A/ja
Application granted granted Critical
Publication of JP3651477B2 publication Critical patent/JP3651477B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

本発明は画像信号処理装置に係り、特にNTSC方式等の標準テレビジョン方式の約2倍の垂直解像度を得る、医療用や工業用の硬性内視鏡に最適な画像信号処理装置に関する。
硬性内視鏡は直径10mm、長さ300mm程度のステンレス製の筒状の中に複数のレンズの組み合わせによって構成される内視鏡である。特に医療の分野でこの硬性内視鏡を用いた手術は、低侵襲性から安全性が高く、術後の回復が早い等の利点より近年急速に普及してきているものである。かかる硬性内視鏡を用いた手術は、通常、硬性内視鏡に装着したNTSC方式の撮像装置(以下、テレビカメラともいう)で被写体を撮像し、得られた画像信号をテレビジョン受像機でモニターしながら行われる。
上記の手術の安全性をより向上させるためには、テレビカメラの出力画像信号の高解像度化、高画質化が必要とされている。
そのため、硬性内視鏡に装着したNTSC方式のテレビカメラは当初、一つの固体撮像素子を用いた単板式が用いられていたが、近年は高画質化のために光の3原色それぞれ独立に3枚の固体撮像素子を用いた3板式のテレビカメラが用いられるようになってきている。
NTSC方式の3板テレビカメラでは、水平方向解像度に関しては空間画素ずらし法を用いることによって、約750TV本まで高められているが、垂直解像度に関してはNTSC方式の有効走査線数が485本であること、2:1インターレース走査を行うことなどのために約350本が限界になる(例えば、特許文献1参照。)。従って、より高解像度を実現するためには、NTSC方式のテレビカメラではなく、より走査線数の多い方式のテレビカメラを使用する必要がある。
特開平5−316522号公報
NTSC方式よりも走査線数の多いテレビカメラとしては、NTSC方式の約2倍の走査線数を持つ、ハイビジョン方式などのHDTV(HighDefinition TV)方式のテレビカメラが従来より知られている。このHDTV方式のテレビカメラとしては、放送局用と業務用が商品化されているが、NTSC方式用テレビカメラに比べ放送局用で約5倍、業務用で約2.5倍の画素数が必要とされるために、その撮像素子の光学サイズは小さいもので2/3インチであり、NTSC方式の民生用テレビカメラの主流となっている1/3インチに比べ装置が大きく、また重いものとなってしまう。従って、テレビカメラの操作を手動で行う硬性内視鏡用テレビカメラとしては、上記のHDTV用テレビカメラは大型で重量が重いために不向きであるという問題がある。
一方、硬性内視鏡から得られる映像は、円形で視野を広く取る必要があるので、撮像素子に結像される画額は撮像素子の有効画素領域に外接するように、又は外接と内接の中間に設定される。従って、NTSC方式のテレビカメラの場合、内視鏡から得られる映像は、図16(A)に1で示すように撮像素子の有効画素領域2に対して内接するか、同図(B)に3で示すように撮像素子の有効画素領域2に対して内接と外接の中間の設定とされる。
これに対し、仮にHDTV方式のテレビカメラを硬性内視鏡に使用する場合は、HDTV方式ではアスペクト比が16:9のワイドな有効画素領域を持つので、内視鏡から得られる映像は、図16(C)に4で示すように撮像素子の有効画素領域5に対して内接するか、同図(D)に6で示すように撮像素子の有効画素領域5に対して内接と外接の中間の設定とされる。従って、図16(A)〜(D)からわかるように、硬性内視鏡にHDTV方式テレビカメラを用いたときは、同図(C)の場合は撮像素子の有効画素領域5の不使用部分が多く、また同図(D)の場合は撮像不可な領域が多過ぎ、16:9のワイドアスペクト比は全く無駄になってしまう。
また、従来の画像信号処理装置では日付、時間、テレビカメラの各種モード情報等のキャラクタ(文字や記号)を画像と同時に出力する場合は、図17に示すように画面の垂直ブランキング領域7と有効画像領域8のうち、有効画像領域8の一部分にキャラクタ画
像9を有効画像にミックスして表示するようにしている。このため、従来はキャラクタ画像9がミックスしている部分の有効画像情報が欠落する。硬性内視鏡による手術では画像中心部の情報だけでなく、周辺部の情報も手術の安全上重要であり、上記の有効画像情報の欠落は問題である。
本発明は以上の点に鑑みなされたもので、標準テレビジョン方式とアスペクト比が同一で、かつ、垂直解像度を向上した画像信号を出力し得る撮像装置を用いる際に、有効画像の欠落無くキャラクタ画像を表示し得る画像信号処理装置を提供することにある。
本発明は、上記課題を解決するために、以下1)〜2)に記載の手段よりなる。
すなわち、
1)標準テレビジョン方式とアスペクト比が同一で、かつ、前記標準テレビジョン方式よりも垂直解像度を向上した画像信号を出力し得る撮像装置に用いる画像信号処理装置であって、
被写体からの入射光を少なくとも3原色光に分離する色分離光学系と、
前記色分離光学系からの各原色光を受光して原色信号を得ると共に、それぞれ標準テレビジョン方式のアスペクト比に相当する複数の画素からなり、かつ、互いの垂直方向の画素位置が特定の位置関係となるように配置された複数の固体撮像素子と、
前記複数の固体撮像素子の出力原色信号から前記標準テレビジョン方式の約2倍の垂直解像度を有し、かつ、HDTVスタジオ規格の水平走査周波数の画像信号を生成する信号処理手段と、
前記信号処理手段の出力画像信号に前記HDTVスタジオ規格の同期信号を付加して出力する第1の付加手段と、
前記第1の付加手段により前記HDTVスタジオ規格の同期信号が付加された画像信号の前記標準テレビジョン方式の約2倍の垂直解像度に相当する有効画像走査期間以外の走査期間、かつ、垂直ブランキング期間以外の走査期間にキャラクタを付加する第2の付加手段と、
を有することを特徴とする画像信号処理装置
2)前記第2の付加手段は、前記標準テレビジョン方式の約2倍の垂直解像度に相当する有効画像走査期間以外の前記HDTVスタジオ規格の走査線番号の第41ラインから第72ライン間と、第603ラインから第635ライン間までのそれぞれの走査期間内の前記画像信号に前記キャラクタを付加することを特徴とする1)記載の画像信号処理装置。
本発明によれば、標準テレビジョン方式の画像信号に比べて垂直解像度の高い高精細度の画像信号を当該標準テレビジョン方式と同一のアスペクト比4:3で表示するに際し、有効画像走査期間以外の領域でキャラクタデータを表示させることができるため、有効画像を欠落させることなく、日付、時間、各種モード等の情報をキャラクタとして表示でき、よって、特に画像中心部の情報だけでなく周辺部の情報も手術の安全上重要な硬性内視鏡による手術の際に硬性内視鏡に取り付けられて使用するテレビカメラに適用したとき、有効画像の欠落が無いので特に好適である。
以下、本発明に係る画像信号処理装置の発明を実施するための最良の形態につき、好ましい実施例により説明する。
まず、本実施例に用いられる撮像装置について参考例を示して説明する。第1の参考例に適用される撮像装置は、NTSC方式に対応した撮像素子を複数使用してアスペクト比が4:3でNTSC方式の垂直解像度の約2倍の600〜750TV本の垂直解像度を有する画像信号を得るものである。
この第1の参考例の撮像装置は図1に示す色分解光学系を有し、その色分解光学系を構成する複数の固体撮像素子の画素が図2に示す配置関係とされている。また、第1の参考例に用いる画像信号処理については、第1の参考例の撮像装置と図3〜図5に示す信号処理回路によって構成される。
まず、撮像装置の色分解光学系について図1と共に説明するに、この色分解光学系は、入射光から青色(B)光成分を取り出すためのBプリズム10と、Bプリズム10からダイクロイック膜10aを透過した光から赤色(R)光成分を取り出すためのRプリズム
12と、Rプリズム12の透過光から緑色(G)光成分を取り出すためのGプリズム14と、Gプリズム14に設けられたハーフミラー16と、Bプリズム10からダイクロイック膜10a及びBプリズム10の入射面でそれぞれ反射されて取り出された青色光がBトリミングフィルタ13を通して入射される青色用固体撮像素子19Bと、Rプリズム12のダイクロイック膜12a及びRプリズム12の入射面でそれぞれ反射されて取り出された赤色光がRトリミングフィルタ15を通して入射される赤色用固体撮像素子19Rと、ハーフミラー16で反射され、Gトリミングフィルタ17を通して緑色光が入射される第1の緑色用固体撮像素子19G1と、ハーフミラー16及びGトリミングフィルタ18をそれぞれ透過した緑色光が入射される第2の緑色光用固体撮像素子19G2とより構成されている。
固体撮像素子19B、19R、19G1及び19G2はそれぞれ電荷結合素子(CCD)により構成されており、NTSC方式のアスペクト比4:3に相当する例えば水平方向768画素、垂直方向494画素から構成されている。
また、固体撮像素子19B、19R、19G1及び19G2は、図2に示す画素配列になるように配置されている。図2において、大文字G、B、Rは奇数フィールド、小文字g、b、rは偶数フィールドでそれぞれ読み出される画素であり、また、「G」及び「g」は緑信号、「R」及び「r」は赤信号、「B」及び「b」は青信号をそれぞれ示している。また、大文字の「1」、「2」は、2枚のG用固体撮像素子19G1及び19G2からそれぞれ読み出された画素であることを示している。更に「rb」及び「RB」はR信号とB信号が同時に、かつ、別々にそれぞれの固体撮像素子19B、19Rから読み出された画素である。
G用の固体撮像素子19G1及び19G2は、図2に示すように、垂直方向に1画素ずらし、かつ、水平方向に1/2画素ピッチずらして配置されている。しかし、これだけでは垂直解像度はG用固体撮像素子19G1及び19G2の持つ画素相当の解像度しか得
られないため、解像力向上のために、B用及びR用の固体撮像素子19B及び19Rを、一方のG用の固体撮像素子に対して1/2画素ピッチ垂直方向にずらして配置している。
画像の垂直解像度を決定する輝度信号(Y)は、例えば国際電気通信連合(ITU)で規定されたHDTVスタジオ規格(ITU−R勧告709)では、
Y=0.212R+0.701G+0.087B (1)
で表されるため、G信号により主として決定されるが、R信号及びB信号にも依存している。このため、R用固体撮像素子19R及びB用固体撮像素子19Bを有効利用して輝度信号Yを生成することにより、垂直解像度の向上を図ることができる。なお、G用固体撮像素子19G1及び19G2を互いに水平方向に1/2画素ピッチずらしたのは、水平解像度向上のためである。
4枚の固体撮像素子19B、19R、19G1及び19G2は同時駆動されるようにされているから、図2において(m,n)の同じ画素が同時に読み出される。例えば、G1m,n、G2m,n、RBm,n(=Rm,n、Bm,n)の4つは奇数フィールドで
同時に読み出される。
各固体撮像素子19B、19R、19G1及び19G2からの撮像信号の読み出し処理は、図3に示す信号処理回路によって行われる。同図において、B用とR用の各固体撮像素子19B、19Rから取り出され、図示しないA/D変換器を通して得られたB画素データDB及びR画素データDRは、フィールドメモリ25、26とフレーム合成回路27、28によりフレーム合成されて、対応する垂直高域フィルタ29、30へ入力される。垂直高域フィルタ29、30より取り出された垂直高域成分は、それぞれ加算器31、32に供給されて、次式により加算演算されて垂直高域周波数信号VH1、VH2が生成される。
Figure 0003651477
一方、各入力ディジタル信号(画素データ)DB、DR、DG1及びDG2はマトリクス回路33に供給されて、以下の(4)式〜(7)式のマトリクス演算により輝度信号Y1、Y2、y1及びy2を生成させる。
Y1m,n=0.701G1m,n+{0.212(Rm,n+Rm+1,n)/2}
+0.087(Bm,n+Bm+1,n)/2 (4)
Y2m,n=0.701G2m,n+0.212Rm,n+0.087Bm,n (5)
y1m,n=0.701g1m,n+{0.212(rm,n+rm+1,n)/2}
+0.087(bm,n+bm+1,n)/2 (6)
y2m,n=0.701g2m,n+0.212rm,n+0.087bm,n (7)
また、マトリクス回路33は下記の(8)式〜(11)式により色差信号(R−Y)、(B−Y)、(r−y)及び(b−y)を生成出力する。
(R−Y)m,n=Rm,n−Ym,n (8)
(B−Y)m,n=Bm,n−Ym,n (9)
(r−y)m,n=rm,n−ym,n (10)
(b−y)m,n=bm,n−ym,n (11)
マトリクス回路33より出力された輝度信号Y1及びy1は加算器34に供給されて、加算器31よりの信号と加算されることにより(12)式で表される広帯域の高域付加信号Y1*とされる。
Y1*m,n=Y1m,n+VH1m,n (12)
また、マトリクス回路33より出力された輝度信号Y2及びy2は加算器35に供給されて、加算器32よりの信号と加算されることにより(13)式で表される広帯域の高域付加信号Y2*とされる。
Y2*m,n=Y2m,n+VH2m,n (13)
切換スイッチ36はフィールドパルスに基づいて、奇数フィールドは高域付加信号Y1*を選択し、偶数フィールドはマトリクス回路33の出力信号y1をそのまま選択する。同様に、切換スイッチ37はフィールドパルスに基づいて、奇数フィールドは高域付加信号Y2*を選択し、偶数フィールドはマトリクス回路33の出力信号y2をそのまま選択する。
倍速変換回路38はこれら切換スイッチ36及び37の出力信号とマトリクス回路33の出力色差信号とに基づいて輝度信号Y、色差信号R−Y及びB−Yをそれぞれ生成して出力する。この倍速変換回路38自体は公知の回路で、例えば図4に示す如き構成とされている。図3の切換スイッチ36及び37からの輝度信号Y1*とy1、Y2*とy2は図4のラインメモリ41、43に入力され、また、図3のマトリクス回路33からの色差信号(B−Y)と(b−y)、(R−Y)と(r−y)はそれぞれ図4のラインメモリ46、50に入力され、それぞれ1ライン分の画素データが格納される。
これらの入力信号の水平走査周波数は、HDTVスタジオ規格信号の水平走査周波数fHの1/2倍の周波数の16.875kHzである。NTSC方式の固体撮像素子の信号読み出し走査周波数は15.75kHzであるが、この値はfH/2と概略同じであるので、格別な対策を講ずることなく使用できる。
ラインメモリ41、43、46及び50はそれぞれ1ライン分の入力画素データを格納した時点で、次段のラインメモリ42、44、47及び48、51及び52にそれぞれ高速で出力して格納させる。出力制御部54の出力制御信号に基づいてラインメモリ42、44、47及び48、51及び52に格納された信号は、HDTVスタジオ規格信号の水平走査周波数fHで読み出される。
ラインメモリ42及び44から読み出された画素データは切換スイッチ45に入力され、ラインメモリ47及び48から読み出された画素データは切換スイッチ49に入力され、ラインメモリ51及び52から読み出された画素データは切換スイッチ53に入力される。切換スイッチ45、49及び53は、それぞれ出力制御部54からの制御信号により、入力画素データを1ライン毎に交互に選択出力して走査変換を行う。このようにして切換スイッチ45、49及び53から得られた信号は、HDTVスタジオ規格の水平走査周波数33.75kHzの信号となる。
上記の構成の倍速変換回路38から上記のようにして取り出されたHDTVスタジオ規格の水平走査周波数33.75kHzの信号のうち、色差信号(R−Y)及び(B−Y)はそれぞれ図5に示す乗算回路61、62に別々に入力されて所定の係数「0.635」、「0.539」を乗じられて色差信号PR、PBとされた後、加算器64、65で同期信号発生回路63よりのHDTVスタジオ規格で定められた同期信号が付加されて出力端子67、68へ出力される。
また、これと同時に、倍速変換回路38より出力されたHDTVスタジオ規格の水平走査周波数33.75kHzの輝度信号Yは、加算器66で同期信号発生回路63よりのHDTVスタジオ規格で定められた同期信号が付加されて出力端子69へ出力される。このようにして得られる輝度信号Yは、例えば水平方向1536画素、垂直方向988画素の、NTSC方式の約4倍の画素数に相当する高解像度な信号である。しかも、上記Y、PR及びPBの各信号は、アスペクト比がNTSC方式と同じ4:3であるため、HDTV信号とは異なり、円形の画像を撮像する硬性内視鏡用テレビカメラとして無駄になる画素を大幅に少なくでき、最適な高解像度テレビカメラが実現される。
以上説明した第1の参考例によれば、通常のNTSC方式の3板テレビカメラに比し、撮像素子を1枚追加するだけでよいので、現行の硬性内視鏡用3板テレビカメラとほぼ同等のサイズと重量で実現できる。更に、このようにして得られた画像信号に対し、HDTVスタジオ規格に定められる同期信号を付加して出力するので、手術の際に必要な記録がHDTV信号記録装置を変更無しに使用することが可能である。HDTV信号記録装置にはW−VHS方式VTRやUNIHI方式VTRがあり、特にW−VHS方式VTRは民生用に開発された装置であるので、安価なシステム構成が可能になる。
次に、本発実施例に適用される撮像装置の第2参考例について説明する。この第2参考例の撮像素子及び画像信号処理回路は、NTSC方式に対応した撮像素子で、かつ、1フィールド間に全画素が読み出せる、いわゆる全画素タイプの撮像素子を複数使用して、NTSC方式の約2倍の垂直解像度を得るものである。
この第2の参考例の撮像装置は図6に示す色分解光学系を有し、その色分解光学系を構成する複数の固体撮像素子の画素が図7に示す配置関係とされている。また、第2の参考例の画像信号処理は、第2の参考例の撮像装置と図8に示す信号処理回路によって構成される。
まず、全画素読み出し方式の固体撮像素子(CCD)について説明する。全画素読み出し方式のCCDは、EDTV−II方式のようなノンインターレース方式や静止画像取り込み装置用に開発された撮像装置で、図9に示す構成とされている。2次元マトリクス状に配列された画素に相当する複数のフォトセンサ80のうち、垂直方向に配列された複数のフォトセンサ80毎に、対応する垂直転送CCD82に接続されている。垂直転送CCD82の出力側は、水平転送CCD83及び84に接続されている。水平転送CCD83及び84の出力側は、増幅器85、86を介して出力端子に接続されている。垂直転送用クロックとしてφV1、φV2、φV3が垂直転送CCD8に入力され、水平転送用クロックとしてφH1、φH2が水平転送CCD83及び84に入力されている。
この全画素読み出し方式CCDが通常の2画素混合読み出し方式CCDと相違する点は主に2つある。第1の相違点は、垂直方向に隣接する2つのフォトセンサ80からの電荷信号が垂直転送CCD82で混合されない点である。第2の相違点は、垂直転送CCD82により垂直転送された電荷信号は、偶数ラインの画素を読み出すための水平転送CCD83と、奇数ラインの画素を読み出すための水平転送CCD84のそれぞれによって転送出力されるので、水平転送CCDが2つ並列に必要である点である。
通常の2画素混合読み出しCCDに対して水平転送CCDが1本追加となるので、若干のコスト高となるが、1本当りの水平転送CCDの転送速度は通常の2画素混合読み出しCCDの転送速度と同じでよいので、技術的な難易度は高くない。そこで、例えば水平方向724画素、垂直方向494画素の有効画素を持ち、アスペクト比4:3の全画素読み出し方式CCDを使用して、NTSC方式の約2倍の垂直解像度を得る撮像装置を実現する。
この第2の参考例で使用される撮像装置の色分解光学系は、図6に示すように、入射光から青色(B)光成分を取り出すためのBプリズム10と、Bプリズム10からダイクロイック膜10aを透過した光から赤色(R)光成分を取り出すためのRプリズム12と、Rプリズム12の透過光から緑色(G)光成分を取り出すためのGプリズム20と、Bプリズム10からダイクロイック膜10a及びBプリズムの入射面でそれぞれ反射されて取り出された青色光がBトリミングフィルタ13を通して入射される青色用固体撮像素子21Bと、Rプリズム12のダイクロイック膜12a及びRプリズム12の入射面でそれぞれ反射されて取り出された赤色光がRトリミングフィルタ15を通して入射される赤色用固体撮像素子21Rと、Gプリズム20及びGトリミングフィルタ18をそれぞれ透過した緑色光が入射される緑色用固体撮像素子21Gとにより構成されている。
固体撮像素子21B、21R及び21Gは、それぞれCCDにより構成されており、NTSC方式のアスペクト比4:3に相当する、例えば水平方向724画素、垂直方向494画素から構成されている。これらの固体撮像素子21B、21R及び21Gの画素配列は、図7に示す画素配列に設定されている。図7は図6に示した色分解光学系の光入射側から見た各センサの水平垂直方向の位置関係が示されている。図7において、「R、B」は固体撮像素子21B及び21Rそれぞれの画面上の画素配置位置、「G」は固体撮像素子21Gの画面上の画素配置位置を示し、「n,m」は撮像素子における画素位置座標が(n,m)であることを示す。また、この撮像装置により得られた画像を表示する画面上の水平画素位置の順番を「k」等、垂直方向のライン順は「j」等で示す。
まず、垂直方向から説明すると、図7に示すように固体撮像素子21B及び21Rは固体撮像素子21Gに対し垂直方向に1/2画素ピッチずらして配置されている。これにより、固体撮像素子21Gの各ラインの間に固体撮像素子21B及び21Rの各ラインが位置することになり、全体としてライン数がNTSC方式の約2倍となり、NTSC方式の垂直解像度の約2倍の垂直解像度を得ることができる。
次に、水平方向について説明すると、図7に示すように、固体撮像素子21B及び21Rは固体撮像素子21Gに対し水平方向に1/2画素ピッチずらして配置されている。これにより、固体撮像素子21Gの各画素の間に固体撮像素子21B及び21Rの各画素が位置することになり、全体として水平方向の画素数が約2倍となり、水平解像度を向上することができる。
画像の垂直解像度を決定する輝度信号Yは、第1の参考例で説明したように、G信号により主として決定されるが、R信号及びB信号にも依存するため、R用固体撮像素子21R及びB用固体撮像素子21Bを有効利用して輝度信号Yを生成することにより、垂直解像度の向上を図ることができる。
各固体撮像素子21R、21B及び21Gからの撮像信号の読み出し処理は、図8に示す信号処理回路によって行われる。同図において、各固体撮像素子21B、21R及び21Gから取り出されたB画素データDB、R画素データDR及びG画素データDGは、読み出し処理部71に供給され、ここでA/D変換、倍速変換が行われた後、マトリクス回路75に供給されて輝度信号Yと色差信号R−YL、B−YLを生成させる。
ここで、マトリクス回路75による低域輝度信号YLの生成について説明する。マトリクス回路75は図7に示した画面上における(2k−1,j)の位置、すなわち同図中のGの位置におけるR信号とB信号の低域成分RL2k-1,j、BL2k-1,jを(14)式、(15)式に示すように周辺の4画素の平均値として生成し、更に、この低域成分RL2k-1,j、BL2k-1,jと帯域が近くなるように、G信号の低域成分GL2k-1,jを(16)式に従って生成する。
Figure 0003651477
そして、マトリクス回路75はこのようにして算出した低域成分GL、RL及びBLを用いて(1)式に示したHDTVスタジオ規格の輝度信号と同様の次式により、低域輝度信号YL2k-1,jを生成する。
YL2k-1,j=0.212RL2k-1,j+0.701GL2k-1,j+0.087BL2k-1,j (17)
このようにして生成された低域輝度信号YL2k-1,jの画面上における位置は、図7における(2k−1,j)のGの位置となる。他のGの位置にも同様にして生成された低域輝度信号YLが位置する。図7に示すように、画面上のGの位置は、水平方向では奇数番目にのみ位置するから、低域輝度信号YLは水平方向では奇数番目にのみ位置する。
そこで、水平方向の偶数番目の画面上の画素位置には、水平方向の両隣の2つの画素の低域輝度信号YLの平均値を低域輝度信号YL*として算出して補間する。従って、画面上の(2k,j)の位置の低域輝度信号YL*2k,jは次の(18)式により算出される。
YL*2k,j=(YL2k-1,j+YL2k+1,j)/2 (18)
このようにして生成された低域輝度信号YL及びYL*(以下、特に断らない限り、YLで低域輝度信号を総称する)により、画面水平方向には奇数フィールド(第1フィールド)の全画素位置の低域輝度信号YLが生成されたことになる。
次に、高域輝度信号YHの生成方法について説明する。この高域輝度信号YHは、画面水平方向に関する水平高域輝度信号YHHと画面垂直方向に関する垂直高域輝度信号YVHからなる。マトリクス回路75は水平高域輝度信号YHHを生成する。すなわち、マトリクス回路75は画面水平方向の奇数番目の画素位置(図7のGの位置)の水平高域輝度信号YHHを、その画素位置のG信号とその両隣のG信号を用いて生成する。例えば、jラインの2k−1番目の画素位置の水平高域輝度信号YHHは、(19)式に従って生成される。
Figure 0003651477
また、マトリクス回路75は画面水平方向の偶数番目の画素位置の水平高域輝度信号YHHについては、その画素位置のR信号の水平高域成分RHHとB信号の水平高域成分BHHの和の平均値として生成する。従って、例えば、jラインの2k番目の画素位置の水平高域輝度信号YHHは、(20)式に従って生成される。
Figure 0003651477
これにより、奇数フィールドの全画素位置について水平高域輝度信号YHHが生成される。
次に、垂直高域輝度信号YVHの生成方法について説明する。前述したように、奇数フィールドに関しては、すべての画素位置に低域輝度信号YLと水平方向高域輝度信号YHHが生成されている。しかし、偶数フィールドの全画素位置にはYL、YHHのいずれも存在していない。従って、偶数フィールドの信号に奇数フィールドの位置にある信号から補間を行って輝度信号Yを生成しても、垂直解像度は向上しない。
そこで、この参考例では、垂直解像度の向上のために、偶数フィールドの各画素位置に輝度信号Yの垂直高域成分を生成する。すなわち、図8の読み出し処理部71より取り出されたB信号の画素データDBは、垂直高域フィルタ72に供給されて(21)式によりB信号の垂直高域成分BVHが生成されると共に、読み出し処理部71より取り出されたR信号の画素データDRは、垂直高域フィルタ73に供給されて(22)式によりR信号の垂直高域成分RVHが生成される。
Figure 0003651477
垂直高域フィルタ72及び73より取り出された垂直高域成分BVH及びRVHはそれぞれ加算器74に供給されて加算され、次の(23)式により表される垂直高域輝度信号YVHが生成される。
Figure 0003651477
以上のようにして得られた低域輝度信号YL、水平高域輝度信号YHH及び垂直高域輝度信号YVHから、垂直解像度が高い輝度信号Yを生成する。奇数フィールドについては、マトリクス回路75により同じ画素位置の低域輝度信号YLと水平高域輝度信号YHHとを加算して得られた輝度信号Yを出力する。従って、jラインの2k−1番目と2k番目の各輝度信号は(24)式で表される。
Figure 0003651477
一方、偶数フィールドについては、マトリクス回路75により生成された奇数フィールドの輝度信号Yに、図8の加算器76において加算器74からの垂直高域輝度信号YVHを加算して輝度信号Yを生成する。従って、j+563ラインの2k−1番目と2k番目の各輝度信号は(25)式で表される。
Figure 0003651477
図8の切換スイッチ77はフィールドパルスに基づいて奇数フィールドはマトリクス回路75より出力された(24)式で表される輝度信号Yをそのまま選択し、偶数フィールドでは加算器76で加算して得られた(25)式で表される輝度信号Yを選択する。これにより、輝度信号Yの垂直解像度の向上が図られる。
また、マトリクス回路75は、図示しない減算器を使用して、色差信号(R−YL)、(B−YL)を生成する。出力処理部78は、マトリクス回路75から出力された上記の色差信号(R−YL)及び(B−YL)と、切換スイッチ77からの輝度信号Yとをそれぞれ入力信号として受け、これら入力信号別にD/A変換してアナログ信号である色差信号(R−YL)及び(B−YL)と輝度信号Yを出力する。
これらアナログ信号である色差信号(R−YL)及び(B−YL)は、第1の参考例の図5に従って所定の係数「0.635」、「0.539」を乗じられた後、HDTVスタジオ規格の同期信号が付加されて色差信号PR、PBとされ、輝度信号Yは、同様に前記図5の構成によりHDTVスタジオ規格の同期信号が付加されて輝度信号Yとされる。
この第2の参考例で得られた輝度信号Yは、例えば水平画素数1448画素、垂直画素数988画素のNTSC方式の約4倍の画素数に相当する高解像度画像信号である。
以上より、この第2の参考例によれば、硬性内視鏡テレビカメラとして、HDTV方式に比し画像領域の無駄の少ない4:3のアスペクト比でNTSC方式の約2倍の垂直解像度の画像信号が現行のNTSC方式RGB3板テレビカメラとほぼ同じサイズと重量で実現される。また、HDTV方式に対応した記録装置等の機材を変更無しに使用可能である。
ところで、HDTVスタジオ規格では、フレーム当りの走査線数が1125本存在し、垂直ブランキングが90本と定められている。一方、以上の参考例では4:3のアスペクト比でNTSC方式の2倍の垂直解像度を得る画像信号に、上記HDTVスタジオ規格の同期信号を付加して出力するようにしているため、上記の画像信号のフレーム当りの垂直画素数を988画素としたときには、フレーム当り47本(=1125−988−90)の有効画像走査線でも垂直ブランキングでもない無信号期間が存在する。
図10はこの無信号期間の一例を示す図で、上記の各参考例の画像信号を表示すると、垂直ブランキング期間90と有効画像領域91の他に第41ラインから第63ラインまでと第603ラインから第626ラインまでの間に無信号期間92が存在する。
ここで、現在商品化されているキャラクタジェネレータIC(集積回路)には、キャラクタを垂直方向に18ビット程度で構成するものがあるので、フレーム当り36ラインあればキャラクタを表示できる。一方、上記したように、無信号期間92は約47本存在
するので、図10に示すように、例えば第43ラインから第60ラインまでと第605ラインから第622ラインまでの領域93を利用することにより、1行のキャラクタを表示することができる。
なお、図10では画面上部にキャラクタを表示するように説明したが、画面下部にキャラクタを表示するように設定してもよい。ただし、VTRに記録再生する場合、画面下部に記録再生ヘッドの切換ポイントがあるので、切換ポイントの近くの走査線を避けた方が望ましい。また、いわゆるW−VHS方式のVTRでは第603ラインにタイムコードが記録されているので、第603ラインはキャラクタ表示領域として使用しない方がよい。
なお、従来のNTSC方式の撮像装置の垂直方向の画素数は最低でも485画素であるので、この参考例では4:3のアスペクト比でNTSC方式の2倍の垂直解像度を得る画像信号のフレーム当りの垂直画素数は最低でも970画素必要となる。この場合は前記無信号期間は最大となり、フレーム当り65本(=1125−970−90)の無信号期間(HDTVスタジオ規格の走査線番号の第41ラインから第72ライン間と、第603ラインから第635ライン間までのそれぞれの走査期間)が生じる。この場合の無信号期間を、キャラクタ表示領域として使用できることは勿論である。
次に、このキャラクタ表示を可能とした本発明の画像信号処理装置の実施例について説明する。図11は本発明になる画像信号処理装置の実施例のブロック図を示す。この実施例の色分解光学系は、例えば図6に示した3枚の固体撮像素子21G、21R及び21Bを用いた構成である。
図11において、74.25MHzの基準クロックCK0に同期して読出し制御部150により生成された読出し用クロックに基づいて固体撮像素子21Gから読み出された奇数ラインG信号G1及び偶数ラインG信号G2、固体撮像素子21Rから読み出された奇数ラインR信号R1及び偶数ラインR信号R2、固体撮像素子21Bから読み出された奇数ラインB信号B1及び偶数ラインB信号B2は、それぞれ読出し処理部100G、100R及び100Bに入力され、ここでA/D変換及び倍速変換処理が行われてG信号、R信号及びB信号に変換されて演算部200に入力される。
読出し処理部100G、100R及び100Bはそれぞれ同一構成で、図12に100で示す構成とされている。この読出し処理部100の動作について説明するに、奇数ライン信号と偶数ライン信号はそれぞれプリアンプ(PA)102、104で前置増幅された後、基準クロックCK0に同期して図11に示した信号処理クロック発生部170により生成された18.5625MHzの第2のクロックCK2に基づいてA/D変換器106、108でアナログ−ディジタル変換され、更に2倍速変換回路110、112に供給され、ここで図11のラインメモリ入出力制御部160により生成された書き込みパルスCKWに基づいて内部のラインメモリに各ライン毎に書き込まれた後読み出しパルスCKRに基づいて読み出され倍速変換処理される。
倍速変換処理された奇数ライン信号と偶数ライン信号は、切換スイッチ114に入力され、ここで、74.25MHzの基準クロックCK0に同期して図11の同期信号発生部180により生成された、HDTVスタジオ規格信号の水平走査周波数fHの1/2倍の周波数の16.875kHzのライン切換パルスに基づいて交互に選択されて時系列的に合成され、HDTVスタジオ規格信号の水平走査周波数fHの原色信号としてライン順に出力される。従って、図11の読出し処理部100GからはG信号が、読出し処理部100RからはR信号が、読出し処理部100BからはB信号がそれぞれ取り出されて図11の演算部200に入力され、ここでNTSC方式の約2倍の垂直解像度を持つ輝度信号Yと色差信号PB及びPRに変換される。
この演算部200は、例えば図13のブロック図に示す如き構成とされている。図13と共に演算部200の動作について説明するに、前記G信号、R信号、B信号は、対応する演算回路202、206、212に供給されて前記(16)式、(14)式、(15)式に従う演算が行われた後、演算回路218に共通に入力され、ここで前記(17)式に従って低域輝度信号YLとして算出される。この低域輝度信号YLは更に演算回路222に入力されて前記(18)式に基づく演算を行われて低域輝度信号YL*として生成される。
また、前記G信号、R信号、B信号は、対応する演算回路204、208、214に供給され、それぞれ水平高域成分GHH、RHH、BHHに算出される。演算回路208及び214から取り出された水平高域成分RHH及びBHHは、加算器226で加算された後、乗算回路228に供給されて係数1/2と乗算されることにより、前記(20)式で表される画面水平方向の偶数番目の画素位置の水平高域輝度信号YHHとされる。この乗算回路226から出力された水平高域輝度信号YHHと、演算回路204から取り出された水平高域成分GHH、すなわち、画面水平方向の奇数番目の画素位置の水平高域輝度信号YHHとは、それぞれ合成回路220で合成された後、加算器234へ出力される。
また、前記R信号、B信号は、対応する演算回路210、216に供給され、それぞれ前記(22)式、(21)式による演算によりR信号の垂直高域成分RVH、B信号の垂直高域成分BVHに変換された後、演算回路224にそれぞれ入力されて前記(23)式による演算が行われて、垂直高域輝度信号YVHとして生成される。この垂直高域輝度信号YVHは、スイッチ回路232により偶数フィールドのみ選択出力されて加算器234へ供給される。
加算器234は、合成回路220よりの画面水平方向の偶数番目の画素位置の水平高域輝度信号YHHと、合成回路230により演算回路218及び222の両出力低域輝度信号を合成して得られた低域輝度信号YLと、スイッチ回路232を通過した垂直高域輝度信号YVHとをそれぞれ加算合成して、奇数フィールドのときは前記(24)式で、また偶数フィールドのときは前記(25)式で表される輝度信号Yを生成し、出力する。
一方、演算回路206、212より取り出されたR信号の低域成分RL、B信号の低域成分BLは、減算器236、238に供給され、ここで演算回路218により前記(17)式に従って生成された低域輝度信号YLとそれぞれ減算されることにより、色差信号(RL−YL)、(BL−YL)とされる。この色差信号(RL−YL)、(BL−YL)は乗算回路240、242によりそれぞれ係数(1/1.576)、(1/1.826)を乗じられて出力される。
再び図11に戻って説明するに、上記の演算部200により演算して得られたHDTVスタジオ規格の水平走査周波数の輝度信号Yと2種類の色差信号は、それぞれ出力処理部300に供給され、ここでD/A変換されてそれぞれアナログ輝度信号Yとアナログ色差信号PR及びPBとされると共に、同期信号発生部180により基準クロックCK0に同期して生成されたHDTVスタジオ規格の複合同期信号C.SYNCが付加される。
図14はこの出力処理部300の一例のブロック図を示す。D/A変換器302は演算部200から出力された輝度信号Yを前記74.25MHzの基準クロックに基づいて、ディジタル・アナログ変換する。また、D/A変換器304及び306はそれぞれ演算部200から出力された色差信号(RL−YL)/1.576、(BL−YL)/1.826を、図11に示した信号処理クロック発生部170により生成された、周波数37.125MHzの第1のクロックCK1に基づいてディジタル・アナログ変換する。
加算器308、310及び312は、それぞれD/A変換器302、304及び306から出力されたアナログ輝度信号Y、アナログ色差信号(RL−YL)/1.576、(BL−YL)/1.826にそれぞれ同期信号発生部180から出力されたHDTVスタジオ規格の複合同期信号C.SYNCを所定期間に加算して輝度信号Y、色差信号PR及びPBとして出力する。
図11に戻って説明するに、出力処理部300より出力された輝度信号Y、色差信号PR及びPBのうち、輝度信号Yは加算器420に供給される。この実施例では1チップマイクロプロセッサである中央処理装置(CPU)400により制御されるキャラクタジェネレータ(CG)410を有する点に特徴がある。
CG410には、同期信号発生部180から出力されたHDTVスタジオ規格の図15(A)、(C)にそれぞれ示す垂直同期信号VDと、図15(B)、(D)、(F)にそれぞれ示す水平同期信号HDとがそれぞれ入力され、キャラクタ発生の垂直方向のスタート位置、水平方向のスタート位置、及び表示するデータ(日時、時間、各種モードなど)がCPU400により制御される。ここでは、VDの立ち上がりから37ライン後に表示スタートとされることにより、第43ラインと第605ラインがキャラクタ表示のスタートとなる。なお、図15(A)、(C)の中の波形上部の数値は、HDTVスタジオ規格の走査線番号を示す。
加算器420は上記の出力処理部300からの図15(E)に示す出力輝度信号(HDTV信号)にCG410からのキャラクタデータを加算し、得られた輝度信号を出力する。これにより、図10に示したように、無信号期間中にキャラクタデータが1行分表示されることとなる。従って、この実施例では、有効画像を欠落させることなく、日時、時間、各種モードなどの情報を表示したり、記録装置に記録することができる。また、HDTV方式に比し画像領域の無駄の少ない4:3のアスペクト比でNTSC方式の約2倍の垂直解像度の画像信号が現行のNTSC方式RGB3板テレビカメラと同じサイズと重量で実現される。更に、HDTV方式に対応した記録装置等の機材を変更無しに使用可能である。
なお、本発明は以上の参考例の撮像装置に限定されるものではなく、例えば輝度信号Yを求める際に、垂直高域成分RVH、BVHを奇数フィールド時に加算し、偶数フィールド時に非加算とした撮像装置に用いてもよい。
また、図3の参考例ではB画素データDB及びR画素データDRの両方をそれぞれフレーム合成したが、少なくとも一方をフレーム合成し、そのフレーム合成信号から垂直方向の第1及び第2の高域周波数信号を抽出するようにしてもよい。また、垂直高域成分RVH及びBVHの一方のみを加算してもよい。更に、垂直高域輝度信号YVHは(23)式に限らず、(26)式により算出することも可能である。
本実施例に適用される撮像装置の第1の参考例の構成図である。 図1の撮像装置における固体撮像素子の画面での画素位置の一例を示す図である。 図1の撮像装置を有する画像信号処理回路のブロック図である。 図3中の倍速変換回路の一例のブロック図である。 図1の撮像装置を有する画像信号処理回路の出力側のブロック図である。 本実施例に適用される撮像装置の第2の参考例の構成図である。 図6の撮像装置における固体撮像素子の画面での画素位置の一例を示す図である。 図6の撮像装置を有する画像信号処理回路のブロック図である。 図6の撮像装置における固体撮像素子の読出し方式を説明する図である。 本実施例に適用される画像信号処理装置の画像表示画面の一例を説明する図である。 本実施例に適用される画像信号処理装置のブロック図である。 図11中の読出し処理部の一例のブロック図である。 図11中の演算部の一例のブロック図である。 図11中の出力処理部の一例のブロック図である。 図11の要部の動作説明用信号波形図である。 硬性内視鏡におけるNTSC方式の映像及びHDTV方式の映像と有効画素領域との関係を示す図である。 従来の画像信号処理装置における画像表示画面の一例を示す図である。
符号の説明
10 Bプリズム
12 Rプリズム
13 Bトリミングフィルタ
14、20 Gプリズム
15 Rトリミングフィルタ
16 ハーフミラー
17、18 Gトリミングフィルタ
19B、21B 青色用固体撮像素子
19R、21R 赤色用固体撮像素子
19G1、19G2、21G 緑色用固体撮像素子
25、26 フィールドメモリ
27、28 フレーム合成回路
29、30、72、73 垂直高域フィルタ
31、32、34、35、74、76、420 加算器
33、75 マトリクス回路
36、37、77 切換スイッチ
38 倍速変換回路
71 読出し処理部
78 出力処理部
92 無信号期間
93 キャラクタ表示領域
100G、100R、100G 読出し処理部
150 読出し制御部
160 ラインメモリ入出力制御部
170 信号処理クロック発生部
180 同期信号発生部
200 演算部
300 出力処理部
400 中央処理装置(CPU)
410 キャラクタジェネレータ(CG)

Claims (2)

  1. 標準テレビジョン方式とアスペクト比が同一で、かつ、前記標準テレビジョン方式よりも垂直解像度を向上した画像信号を出力し得る撮像装置に用いる画像信号処理装置であって、
    被写体からの入射光を少なくとも3原色光に分離する色分離光学系と、
    前記色分離光学系からの各原色光を受光して原色信号を得ると共に、それぞれ標準テレビジョン方式のアスペクト比に相当する複数の画素からなり、かつ、互いの垂直方向の画素位置が特定の位置関係となるように配置された複数の固体撮像素子と、
    前記複数の固体撮像素子の出力原色信号から前記標準テレビジョン方式の約2倍の垂直解像度を有し、かつ、HDTVスタジオ規格の水平走査周波数の画像信号を生成する信号処理手段と、
    前記信号処理手段の出力画像信号に前記HDTVスタジオ規格の同期信号を付加して出力する第1の付加手段と、
    前記第1の付加手段により前記HDTVスタジオ規格の同期信号が付加された画像信号の前記標準テレビジョン方式の約2倍の垂直解像度に相当する有効画像走査期間以外の走査期間、かつ、垂直ブランキング期間以外の走査期間にキャラクタを付加する第2の付加手段と、
    を有することを特徴とする画像信号処理装置
  2. 前記第2の付加手段は、前記標準テレビジョン方式の約2倍の垂直解像度に相当する有効画像走査期間以外の前記HDTVスタジオ規格の走査線番号の第41ラインから第72ライン間と、第603ラインから第635ライン間までのそれぞれの走査期間内の前記画像信号に前記キャラクタを付加することを特徴とする請求項1記載の画像信号処理装置。
JP2004023447A 2004-01-30 2004-01-30 画像信号処理装置 Expired - Fee Related JP3651477B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004023447A JP3651477B2 (ja) 2004-01-30 2004-01-30 画像信号処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004023447A JP3651477B2 (ja) 2004-01-30 2004-01-30 画像信号処理装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP31912295A Division JP3734104B2 (ja) 1995-12-07 1995-12-07 画像信号処理装置

Publications (2)

Publication Number Publication Date
JP2004215286A JP2004215286A (ja) 2004-07-29
JP3651477B2 true JP3651477B2 (ja) 2005-05-25

Family

ID=32822013

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004023447A Expired - Fee Related JP3651477B2 (ja) 2004-01-30 2004-01-30 画像信号処理装置

Country Status (1)

Country Link
JP (1) JP3651477B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7733584B2 (en) 2007-05-04 2010-06-08 Smith & Nephew, Inc. Color-corrected optical system

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008136732A (ja) * 2006-12-04 2008-06-19 Pentax Corp 三板式電子内視鏡および電子内視鏡システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7733584B2 (en) 2007-05-04 2010-06-08 Smith & Nephew, Inc. Color-corrected optical system

Also Published As

Publication number Publication date
JP2004215286A (ja) 2004-07-29

Similar Documents

Publication Publication Date Title
JP3991543B2 (ja) 撮像装置
US5604530A (en) Solid-state image sensing device for endoscope and endoscope imaging apparatus
US7349016B2 (en) Solid-state color imaging apparatus capable of reducing false signals with regard to both luminance and chrominance
JP4142340B2 (ja) 撮像装置
JP4555775B2 (ja) 撮像装置
JP2004336608A (ja) 画像データの変換方法および変換回路と、電子カメラ
EP1173029A2 (en) Color image pickup device
JP3651477B2 (ja) 画像信号処理装置
KR100195129B1 (ko) 가정용 hdtv 카메라를 위한 수직라인 배속 변환방법 및 그 회로
JP3734104B2 (ja) 画像信号処理装置
JP4246018B2 (ja) 電子カメラ装置及びその画像処理方法
JP3932006B2 (ja) 撮像装置
JP2000023046A (ja) 撮像装置
JP3909930B2 (ja) 単板カラー固体撮像装置
JP3967392B2 (ja) 撮像装置
JP4195148B2 (ja) 固体撮像装置および信号読出し方法
JP3767367B2 (ja) 撮像装置
JP2003158681A (ja) 撮像装置
JPH06269010A (ja) 色分解光学系,撮像方法,及び撮像装置
JP3925479B2 (ja) 撮像装置
JP2004228775A (ja) フレーム変換方法、フレーム変換回路および電子カメラ
KR100222971B1 (ko) 3판식 고해상도 촬상 장치
JP3344202B2 (ja) 画像信号処理装置
JP3767338B2 (ja) 撮像装置
JP3948456B2 (ja) 固体撮像素子および固体撮像素子の制御方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20041109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050214

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090304

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090304

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100304

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110304

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120304

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees