JP3718239B2 - Image signal processing device - Google Patents
Image signal processing device Download PDFInfo
- Publication number
- JP3718239B2 JP3718239B2 JP11295094A JP11295094A JP3718239B2 JP 3718239 B2 JP3718239 B2 JP 3718239B2 JP 11295094 A JP11295094 A JP 11295094A JP 11295094 A JP11295094 A JP 11295094A JP 3718239 B2 JP3718239 B2 JP 3718239B2
- Authority
- JP
- Japan
- Prior art keywords
- signal
- image
- output
- image data
- block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Description
【0001】
【産業上の利用分野】
本発明は、撮像装置などにて得られた画像信号を処理する画像信号処理装置に係わり、たとえば、画像信号を圧縮処理してメモリカード等の記録媒体に記録するとともに、記録媒体から読み出した画像信号を伸張再生する電子スチルカメラに適用して好適な画像信号処理装置に関するものである。
【0002】
【従来の技術】
従来、スチルカメラといえば、銀塩感光材を塗布したフィルムを画像の記録媒体とした装置を意味するものであった。しかし最近では、半導体メモリにて構成されたメモリカードを情報記録媒体とし、被写体を表わす画像情報をディジタル信号の形式で記憶させる電子スチルカメラが市販されている。電子スチルカメラは、小型軽量、画像情報のメモリカードへ記録保存が可能、可視画像への再現の即時性およびディジタル化された画像データの利用性の拡大など多くの特徴を有している。しかも昨今では電子スチルカメラにて撮影された画像の画質が向上し、被写体を撮像する撮像素子として、たとえば約 130万画素程度の高画素密度を有する撮像素子を採用する電子スチルカメラでは、銀塩写真における画質を得ることが可能になった。
【0003】
図9には、電子スチルカメラに適用された従来技術に基づく画像信号処理装置の一例が示されている。同図を参照すると、光学レンズ10から入射される被写体を表わす光学像が撮像素子12にて撮像され、この光学像を表わす映像信号は前処理回路14にて白バランス調整や階調補正などの信号処理が施され、さらにアナログ・ディジタル(A/D) 変換器16にてディジタル値で表わされた画像データに変換される。 A/D変換器16から出力された画像データは、メモリコントローラ18の制御を受けたフレームメモリ28に格納され、格納された画像データは、YC処理回路24にて輝度信号Yおよび色差信号R-Y,B-Y にて表わされた画像データに変換される。YC処理回路24にて変換された画像データは、再びフレームメモリ28に格納される。
【0004】
図10は、フレームメモリ28の記憶領域が2個の領域に分割され、分割されたそれぞれの領域に輝度信号Yと、色差信号R-Y,B-Y とがそれぞれ書き込まれた形態を概念的に表わしている。このフレームメモリ28に格納されたYC処理後の画像データは、複数のブロックに分割して読み出されて圧縮伸張回路20へ送られ、圧縮伸張回路20にて圧縮符号化され、圧縮符号化されたデータがメモリカード22に書き込まれて記憶させる。メモリカード22に記憶されたデータの再生時には、メモリカード22から圧縮符号化されたデータが読み出されて圧縮伸張回路20により伸張復号される。復号された画像データは、フレームメモリ28に一旦書き込まれ、書き込まれた画像データは再生回路26へ送られ、映像モニタ32により可視画像として再生される。
【0005】
【発明が解決しようとする課題】
しかしながら、上記の構成を有する従来技術による画像信号処理装置は、銀塩写真における画質を目標に画素数を増加してきたため各種の矛盾を生じている。たとえば、被写体を撮像する撮像素子として130 万画素の固体撮像素子(CCD) にて得られた画像信号を処理する画像信号処理装置における主要な問題点を掲げると、第1に、とくに被写体像を表わす画像データが格納される大容量のフレームメモリが必要となってコストアップの要因となること、第2に、高速な画像処理およびデータ転送を行なうために、機器の動作のためのマスタクロックとして50〜75MHz 程度の高速な周波数のクロックが必要となることである。これらの問題点は、さらに下記の問題点を誘発する。
【0006】
1;消費電力が増大してしまうため電源供給のためのバッテリが大型化してカメラの携帯性が損なわれるという問題があった。
【0007】
2;消費電力の増大にともなって発熱量が大きくなり、カメラ内の熱を放熱させるためにパッケージが大型化する等である。
【0008】
本発明は、これらの欠点に鑑み、メモリの容量および消費電力を減少し、廉価および小型軽量化し得る画像信号処理装置を提供することを目的とする。
【0009】
【課題を解決するための手段】
本発明は上述の課題を解決するために、被写体を撮像する撮像素子にて得られた画像信号を処理して情報を記憶する情報記録媒体に記録するための画像情報を生成する画像信号処理装置において、この装置は、画像信号の出力を要求する第1の要求信号に応じて、撮像素子にて得られた画像信号を所定の順序で出力するコントローラと、第1の要求信号をコントローラへ出力し、このコントローラから出力された画像信号を輝度信号および色差信号により構成される画像データに変換する変換処理手段であって、この画像データの出力を要求する第2の要求信号に応じて出力する変換処理手段と、第2の要求信号を変換処理手段へ出力し、この変換処理手段にて変換された画像データを圧縮する圧縮処理手段であって、情報記録媒体の情報記録動作に応じて生成された第3の要求信号に応じて圧縮処理後の画像データを出力する圧縮処理手段とを備えることを特徴とする。
【0010】
この場合、この装置は、撮像手段にて得られた画像信号を蓄積する第1の蓄積手段であって、コントローラの制御に応じて、この蓄積した画像信号をコントローラに出力する第1の蓄積手段を備え、コントローラは、第1の要求信号に応じて、第1の蓄積手段に蓄積された画像信号をラスタスキャンにて読み出してこの読み出した画像信号を変換手段に出力するとよい。
【0011】
この場合、さらにこの装置は、圧縮手段に接続され、変換手段にて変換された画像データを交互に蓄積する2つの記憶領域を有する記憶手段を有し、圧縮手段は、記憶手段の記憶領域に蓄積された画像データを所定のブロック単位ごとに読み出し、この読み出したブロック単位の画像データを順次圧縮するとよい。
【0012】
また、この装置は、撮像手段にて得られた画像信号を蓄積する第2の蓄積手段であって、コントローラの制御に応じて、この蓄積した画像信号にて構成される画像のフレームを所定の画素ごとに分割したブロック単位ごとにコントローラに出力する第2の蓄積手段を備え、コントローラは、第1の要求信号に応じて、第2の蓄積手段に蓄積された画像信号をブロックごとに読み出し、この読み出したブロック単位の画像信号を変換手段に出力するとよい。
【0013】
この場合、変換手段は、コントローラにて読み出された前記画像信号の所定のブロックに対して、このブロックの垂直方向に前のブロックにおける画像データを1水平走査期間分遅延させる第1の遅延手段と、このブロックの水平方向に隣接するブロックに対応する垂直方向の画像信号を1ブロック分遅延させる第2の遅延手段とを備え、変換手段は、第1の遅延手段および第2の遅延手段にて遅延された画像信号に基づいて、コントローラから出力された画像信号を輝度信号および色差信号により構成される画像データに変換するとよい。
【0014】
また、コントローラは、変換手段から出力される第1の要求信号に応じて、撮像手段からの画像信号の出力を要求する第4の要求信号を生成し、この装置はさらに、第4の信号に応じて撮像手段を駆動する駆動信号を生成する信号発生手段を備えるとよい。
【0015】
また、この装置は、圧縮処理手段にて圧縮処理された画像データを情報記録媒体に記録する情報記録手段であって、この情報記録媒体における情報記録動作に応じて第3の要求信号を前記圧縮処理手段へ出力する情報記録手段を備えるとよい。
【0016】
また、圧縮処理手段は、変換手段にて変換された画像データを可変長に圧縮符号化するとよい。
【0017】
【作用】
本発明の画像信号処理装置によれば、コントローラから出力される画像信号の変換処理手段への受け渡し、変換処理手段から出力される画像データの圧縮処理手段への受け渡しおよび圧縮処理手段から出力される画像データの他の手段への受け渡しが第1、第2、および第3の要求信号によるハンドシェイクによって行われる。このため、変換処理手段にて輝度信号および色差信号に変換された後の画像データをフレームメモリに記憶させる必要がない。したがって変換手段にて変換された画像データを格納する従来のフレームメモリを削減し、これによりメモリコストの低減、消費電力の低減および回路の小型化を実現し得る。
【0018】
【実施例】
次に図1〜図8に示した添付図面を参照して本発明による画像信号処理装置の実施例を詳細に説明する。これらの添付図において、同一機能部は説明上区別を必要としない限り同一番号を附している。
【0019】
図1を参照すると本発明の画像信号処理装置が適用されるスチルカメラの実施例が示されている。このスチルカメラ1は、光学レンズ10から入射される被写体の光学像を表わす映像信号を撮像素子12にて生成し、この映像信号を表わす画像データを圧縮してメモリカード23に記録し、またこの画像データが表わす画像を表示装置32の画面に可視画像として再生する装置である。また、スチルカメラ1は、メモリカード23に記録されている画像データを読み出して伸張復号し、これを表示装置32に出力して再生する機能を有している。しかし本発明ではこれのみに限定されず、メモリカード23に代えて磁気ディスクや光ディスクなどの他のファイル記憶装置も効果的に適用され得る。
【0020】
撮像素子12は、光学レンズ10から入射されてその撮像面に結像した被写体像を撮像して電気信号に変換した映像信号を出力する。撮像素子12は、たとえばRGB セグメント配列のカラーフィルタを備え、約130 万画素の画素数を有した単板式固体撮像デバイス(CCD) が有利に適用される。撮像素子12の出力100 は、 A/D変換器16に接続され、 A/D変換器16は、撮像素子12の入力 100に現われたアナログの映像信号をディジタルの画像データに変換する。 A/D変換器16の出力102 はメモリコントローラ18に接続されている。
【0021】
メモリコントローラ18は、フレームメモリ29への書き込みおよびフレームメモリ29からの読み出しを制御する記憶制御回路である。詳しくはメモリコントローラ18は、入力102 に現われた画像データを出力104 に出力して、その出力104 に接続されたフレームメモリ29の記憶領域に格納させ、またフレームメモリ29の記憶領域に格納された画像データを読み出して入力106 に入力し、読み出した画像データを出力108 に出力する。このフレームメモリ29は、被写体像などを表わす画像データが蓄積、格納されるメモリ回路である。フレームメモリ29は、メモリコントローラ18の制御に基づいて、入力104 に現われた画像データを記憶領域に格納させる。またフレームメモリ29は、メモリコントローラ18の制御に基づいて、記憶領域に格納された画像データを出力106 に出力する。このフレームメモリ29の記憶領域は、たとえば撮像された画面における水平方向に1280画素が配列され、これら画素がそれぞれ垂直方向に1024画素が配列された合計約130 万画素のRGB 画素データが記憶される記憶容量を有している。
【0022】
さらにメモリコントローラ18は、出力108 への画像データ送出の可否を表わすレディ/ビジー(Redy/Busy) 信号を入力109 に入力し、入力したレディ/ビジー信号に応じて、フレームメモリ29に格納された画像データの読み出しと出力108 への画像データの出力を制御する。たとえばメモリコントローラ18は、入力109 に接続されたYC処理回路24からのビジー信号(BUSY)を検出する機能を有し、たとえばこのビジー信号の検出中にはフレームメモリ29に格納された画像データの読み出しを中断する機能を有している。
【0023】
メモリコントローラ18は、フレームメモリ29から読み出された画像データを出力108 に出力し、また、フレームメモリ29から読み出された表示のための画像データを出力110 に出力する。メモリコントローラ18の出力108 はYC処理回路24に接続され、出力110 は再生回路26に接続されている。
【0024】
YC処理回路24は、メモリコントローラ18から出力された3原色信号の形式にて表わされたRGB 画像データを輝度信号と色差信号とから構成された信号に変換する処理回路である。詳しくはYC処理回路24は、 A/D変換器16およびメモリコントローラ18を経由してフレームメモリ29に格納された画像データを輝度信号Yおよび色差信号R-Y,B-Y にて構成される画像データに変換する。YC処理回路24は、ラスタスキャンにてフレームメモリ29から読み出された画像データから生成した輝度信号Yを出力112 に出力し、生成した色差信号R-Y,B-Y を出力114 に出力し、これら出力112 および出力114 は圧縮伸張回路20に接続されている。
【0025】
また、YC処理回路24は、入力116 に接続された圧縮伸張回路20からのレディ/ビジー信号(Redy/Busy) を検出する機能を有し、たとえばYC処理回路24は、ビジー信号の検出中には、出力109 にビジー信号を出力するとともに、YC処理回路24における処理を一時中断する。
【0026】
圧縮伸張回路20は、画像データの圧縮処理または伸張処理を行なう回路部である。圧縮伸張回路20は、入力112 および入力114 にそれぞれラスタ入力された輝度信号Yおよび色差信号R-Y,B-Y を圧縮し、またメモリカード23に圧縮されて格納された画像データを伸張する回路である。この実施例における圧縮処理および伸張処理は、ラスタ/ブロック変換メモリ21の介在の下に実行される。圧縮伸張回路20は、入力112 および入力114 にラスタ入力した画像データを出力120 に接続されたラスタ/ブロック変換メモリ21に転送する。圧縮伸張回路20はラスタ/ブロック変換メモリ21に格納された画像データをブロックスキャンにて入力122 に入力し、入力されたブロック単位の画像データを圧縮する。圧縮伸張回路20は、圧縮した画像データを出力124 に出力する。
【0027】
また圧縮伸張回路20は、入力126 に接続されたメモリカード23からのレディ/ビジー(Redy/Busy) 信号を検出する機能を有し、たとえば圧縮伸張回路20は、ビジー信号の検出中には、出力116 にビジー信号を出力するとともに、圧縮伸張回路20における処理を一時中断する。さらに圧縮伸張回路20は、圧縮処理の処理速度に対応したデータの通信容量が入力112 および入力114 に入力される画像データのデータ転送速度に対して充分に高くない場合、データ転送を一時中断させるためにビジー信号を出力116 に出力する。
【0028】
ラスタ/ブロック変換メモリ21は、画像データの圧縮および伸張処理を行うためのメモリである。このメモリは図2に示すように2個のバンクAおよびバンクBで構成される。また、バンクAおよびバンクBのそれぞれのバンクは、1つのバンク(記憶領域)が水平画素が1280画素、垂直方向が8ライン分の画像データを記憶する80Kbit(1280 ×8 ×8[bit]) の記憶容量で構成された2つの記憶領域を有し、これら記憶領域の一方には輝度信号Yが記憶され、また他方には色差信号R-Y および色差信号B-Y が記憶される。したがって、ラスタ/ブロック変換メモリ21の全体の記憶容量は、320Kbit(1280×8 ×8 ×2 ×2[bit]) の記憶容量を有している。
【0029】
メモリカード23は、圧縮伸張回路20にて圧縮処理された画像データを記憶保持する記憶装置である。メモリカード23は、たとえば記憶内容を保持するためのバッテリが不要のEEPROM(電気的に消去および再書き込みが可能なROM )が適用され、また、スタティックRAM などの記憶素子にて構成されたメモリカードでもよい。このメモリカード23は、たとえば圧縮伸張回路20にて可変長符号に圧縮された圧縮データを記憶する。この実施例におけるメモリカード23は、圧縮伸張回路20にて圧縮された画像データを記憶素子に記憶させる際、画像データの送出要求としてのレディー(Redy)信号を出力126 に出力する。また、画像データの入力中に、たとえば画像データ量が多いために記憶素子への画像データの蓄積が間に合わなくなった場合、データ転送を一時中断させるためのビジー(Busy)信号を出力126 に出力する。
【0030】
また、本実施例のスチルカメラ1や他の画像記録再生装置などのホスト機器によりメモリカード14に記憶された画像データは読み出され、読み出された画像データは、圧縮伸張回路20にて伸張処理が施された後、フレームメモリ29に格納される。フレームメモリ29に格納された画像データは、読み出されて表示装置32に出力されて、その表示装置32の表示画面に可視画像が表示される。
【0031】
次に画像信号の流れにおいて説明する。撮像素子13の出力100 に出力された画像信号は、 A/D変換器16にてディジタル信号に変換され、メモリコントローラ18の制御によりフレームメモリ29に一旦格納される。フレームメモリ29からラスタスキャンにて読み出された画像データは、YC処理回路24にて輝度信号Yおよび色差信号R-Y,B-Y にて構成された画像データに変換される。変換された画像データは、圧縮伸張回路20を介してラスタ/ブロック変換メモリ21に入力され、入力された画像データは、ラスタ/ブロック変換メモリ21のバンクAおよびバンクBのそれぞれのバンクに交互に書き込まれる。ラスタ/ブロック変換メモリ21に格納された画像データはブロックスキャンにて読み出され、この場合たとえば、一方のブロックAでラスタデータ格納中に他方のブロックBに格納されたデータがブロックスキャンにて読み出される。この読み出された画像データは圧縮伸張回路20にて圧縮されて、圧縮されたデータはメモリカード23に書き込まれる。
【0032】
上記の動作において、メモリコントローラ18からYC処理回路24へのデータ転送、YC処理回路24から圧縮伸張回路20へのデータ転送および圧縮伸張回路20からメモリカード23へのデータ転送は、各回路間でレディ/ビジー信号によるハンドシェイクがとられて実行される。つまり、フレームメモリ29からYC処理回路24への画像データの転送は、YC処理回路24からメモリコントローラ18に出力されたレディ信号による画像信号の送出要求に応じてメモリコントローラ18は、フレームメモリ29から画像データを読み出し、読み出した画像データをYC処理回路24に出力する。以下、YC処理回路24、圧縮伸張回路20、メモリカード23の各回路間においても、同様にレディ/ビジー信号による要求に応じて信号のハンドシェイクが行なわれる。
【0033】
このハンドシェイクによれば、一番処理速度の遅い回路部の動作に合わせて全体の処理が実行されることとなる。つまり、フレームメモリ29から読み出された画像データは、YC処理回路24にてYC処理が施され、圧縮伸張回路20にて画像データが圧縮され、圧縮された画像データがメモリカード23へ記録される。このときYC処理回路24は、YC処理された画像データを圧縮伸張回路20へ送信した後、次の画像データをメモリコントローラ18から受信して新たなYC処理を実行するが、処理済みのデータを圧縮伸張回路20からのレディ信号による送信要求があるまでは保持する。
【0034】
メモリカード23以外の記録媒体へデータを記録するために圧縮伸張回路20からデータが送信される場合も同じである。このハンドシェイクを必要とする理由は、特に、圧縮伸張回路20からの出力信号が可変長符号であることによる。なお、フレームメモリ29は、伸張再生時に輝度信号Yおよび色差信号R-Y,B-Y の1画面分全ての画像データを蓄えることができないため、たとえば水平方向1/2の間引き処理などを行なうことによりフレームメモリ29を用いて画像再生を行なうことができる。
【0035】
図3は、本発明の画像信号処理装置が適用される第2の実施例のスチルカメラ2を示している。このスチルカメラ2を図1に示したスチルカメラ1の実施例と比較して相違する要点は、フレームメモリ29に蓄積された画像データを読み出してYC処理を行なう際、メモリコントローラ38は、フレームメモリ29からの読み出しを8画素×8画素のブロックごとに読み出すブロックキャンにて行なう点と、YC処理回路25におけるYC処理手順が異なる点である。これによりこの実施例では、フレームメモリ29からの画像データ読み出しをブロックスキャンにて行なうため図1に示した実施例のラスタ/ブロック変換メモリ21が不要であり、また、この実施例はフレームメモリ28の読み出しを制御するメモリコントローラ38の一部の機能構成を除いて、図1に示した実施例の構成と同じでよい。以下、相違点のメモリコントローラ38の機能およびYC処理の手順を主体としてその内容を詳述する。
【0036】
フレームメモリ29内の画像データの構成を概念的に表わしたものが図5に示されている。フレームメモリ29は、入力した画像データの水平方向の1280画素を垂直方向に8ライン分格納する2つのバンクAおよびバンクBの記憶領域にて構成される。フレームメモリ29は、メモリコントローラ38の書込制御および読出制御を受けて、画像データの書き込みおよび読み出しを行なう。メモリコントローラ38は、フレームメモリ29に格納された画像データを水平方向の8画素毎に分割して8画素×8画素の1ブロックごとに読み出す制御を行ない、読み出したブロックごとの画像データを出力108 に出力して、出力108 に接続されたYC処理回路24に転送する。このメモリコントローラ38の構成によればバンクの1つの記憶領域は160 個(1280/8=160)のブロックに分割された構成となる。たとえば同図を参照すると、バンクBの第nブロック500 は8画素×8画素で構成され、この第nブロック5の上方の斜線で表わした水平方向の1Hライン502 は、バンクAの第nブロックの第8行目のデータである。また、この第nブロック左隣のブロックの列504 は、バンクBの第n-1 ブロックの垂直方向の第8列目のデータである。この第nブロック500 の詳細を図6を参照して説明すると、同図には8画素×8画素で構成される第nブロック500 、およびこのブロックの垂直方向に隣接するブロックの第8行目の1Hライン502 (1H遅延)および水平方向に隣接するブロックの第8列目の列504 のデータが示されている。この第nブロック500 のブロックデータを画素単位で分割し、記号iを1行〜8行,記号jを1列〜8列とすると、ブロック内の不特定画素のアドレスはn(i,j) と表わすことができる。同図に示した4個の画素の組み合わせ画素は、ブロック内の不特定組画素600 を表わしている。図7を参照すると同図には不特定組画素600 の詳細が示され、また同図には各画素と画素位置n(i,j) との関係が示されている。但し、この位置は記号iおよびjが2以上の場合であり、i=1またはj=1の場合は上側の2画素または左側の2画素が隣接ブロック内の画素となる。輝度信号YH は、たとえばこれら4個の画素(R、B、GおよびG)の値の平均値から求められる。
【0037】
【数1】
Y=YH /4=(R+B+G+G)/4
図4には、YC処理回路25の輝度信号YH を求めるための構成の一部のブロック図が示されている。同図を参照すると、YC処理回路25におけるYC処理、つまり撮像素子13にて撮像されフレームメモリ29に格納されたRGB 信号形式の画像データを輝度信号Yおよび色差信号R-Y,B-Y の形式画像データに変換する処理のうち、輝度信号Yを求める回路を機能ブロック図として示している。この実施例におけるYC処理回路25は、フレームメモリ29から8×8画素ごとのブロックスキャンにて読み出された画像データに基づいて、YC処理を行なうYC処理回路である。
【0038】
このYC処理回路25の書き込み制御部42は、不特定画素のアドレスn(i,j) の記号i が8であるときにのみ、入力される画像データを1Hラインメモリ43に出力して格納させる。また、セレクタ44は、不特定画素のアドレスn(i,j) の記号i が1であるときのみ、1Hラインメモリ43の出力を選択し、セレクタ47および50は、不特定画素のアドレスn(i,j) の記号j が1であるときのみ、1ブロックディレイ45および48の出力を選択する。
【0039】
このYC処理回路25を上述の図5〜図7の説明との関連において説明する。まず図6に示した第nブロック内の記号iおよびjが2以上であるときの位置の画素を加算する場合、フレームメモリ29から読み出された画像データの画素n(i,j) がデータライン54を通して加算器51に入力され、一方、8CLKディレイ41にて8クロック分遅延された画素n(i-1,j) がセレクタ44を介して加算器51に入力される。加算器51に入力したこれらの画素は加算されて、データライン55へ加算画素、n(i,j)+n(i-1,j) が出力される。
【0040】
また、1CLKディレイ46にて1クロック分遅延されてセレクタ47を経た出力画素n(i,j-1) と、1CLKディレイ49にて1クロック分遅延されてセレクタ50を経た出力画素n(i-1,j-1) とが加算器52にて加算され、加算された加算画素n(i,j-1)+n(i-1,j-1) はデータライン56に出力される。
【0041】
加算器53は、加算器51および52から出力された加算画素をさらに加算し、4個の画素を加算した加算画素から、
【0042】
【数2】
YH =n(i,j)+n(i-1,j)+n(i,j-1)+n(i-1,j-1)
が得られる。この出力YH は、それぞれの画素の内容を表わす記号R,B,Gにおいて、
【0043】
【数3】
YH =R+B+G+G
と置き換えられる。
【0044】
記号iまたはjが1である場合における隣接するブロックの画素との加算は、書き込み制御部42の制御により、図6に示した画素600 に隣接した1Hライン502 の画素データが1Hラインメモリ43に記憶されており、セレクタ44の切り換え選択により1Hラインメモリ43が選択されて1Hラインの画素データの1画素が出力される。1ブロックディレイ46および48には、列 504の画素データが上記の1Hライン502 の画素データと同様に記憶されており、これら記憶されたデータはセレクタ47およびセレクタ50により切り換え選択されて加算器52に出力される。上記の手順により輝度信号Yが得られYC処理が実行される。この処理において、1Hライン502 の画素データの保持のために,1280×8[bit]と、列504 の画素データの保持のために 8×8[bit]との各容量のメモリを必要とするが、この実施例では、図1に示した第1の実施例のラスタ/ブロック変換メモリ21が不要となる。
【0045】
次に図8を参照すると、本発明が適用される第3の実施例のスチルカメラ3が示されている。このスチルカメラ3は撮像画面を構成する1画面分の画像データを蓄積するフレームメモリを備えず、またスチルカメラ3は、撮像素子13、 A/D変換器16、コントローラ40、YC処理回路25、圧縮伸張回路20およびメモリカード23の各機能部の動作をレディ/ビジー(BUSY)信号によるハンドシェイクに基づいて行なうカメラである。このスチルカメラ3は、コントローラ40を除いて図3に示した実施例のスチルカメラ2と同じ構成でよく、さらに、スチルカメラ3は、コントローラ40の制御に応じて撮像素子13を駆動するためのサンプリングシグナル発振器(SSG)15 を備えている。この実施例におけるコントローラ40は、YC処理回路25から出力されたレディ/ビジー信号に応じて、撮像素子13の駆動を制御するためのレディ/ビジー信号をサンプリングシグナル発振器15に出力する機能を有し、サンプリングシグナル発振器15は、コントローラ40から供給されるレディ/ビジー信号に応じて、撮像素子13を駆動する駆動信号を生成する。このときサンプリングシグナル発振器15は、コントローラ40からビジー信号が供給されると撮像素子13の駆動を一時中断し、レディ信号が供給されると撮像素子13の駆動を開始する。撮像素子13はサンプリングシグナル発振器15から供給される駆動信号に応じて駆動される。このように、この実施例におけるスチルカメラ3では、撮像素子13からの画像信号の出力がビジー信号に応じたサンプリングシグナル発振器(SSG)15 の制御により制御される。とくにこの実施例では、撮像素子13の画素信号の出力からメモリカード23における画像データの記憶までの間におけるハンドシェイク処理により、フレームメモリを削減することができ、これによりスチルカメラ3は、YC処置および圧縮処理のためのバッファを備えるだけでよい。
【0046】
以上説明したように第1,第2および第3の各実施例は、ハード上のコスト割合が比較的高いメモリを削減することを解決している。したがって、メモリ容量の減少化は、単に、メモリ素子の減少のみに留まらず、これに付随する周辺回路の減少、信号処理回数の減少、処理時間の短縮、処理するためのマシンクロックの周波数の低下、消費電力の低下、発熱量の減少および装置の小型化など各回路および装置間での波及的効果が発生する。
【0047】
なお、上述の実施例は本発明の好適な実施の一例ではあるがこれに限定されるものではなく本発明の要旨を逸脱しない範囲において種々変形実施可能である。たとえば、画像信号処理装置は、再生回路を有さない記録専用の装置としたり、画像信号保存用の記録媒体としてメモリカードでなく磁気方式による記録媒体を用いたり、あるいは、光学的な記録方式による装置を用いるなどしてもよい。
【0048】
【発明の効果】
以上説明したように、本発明の画像信号処理装置によれば、コントローラから出力される画像信号の変換処理手段への受け渡し、変換処理手段から出力される画像データの圧縮処理手段への受け渡しおよび圧縮処理手段から出力される画像データの他の手段への受け渡しが第1、第2および第3の要求信号によるハンドシェイクによって行われるため、変換処理手段にて変換された後の画像データをフレームメモリへ記憶させることなく、次段の圧縮処理手段に出力することができる。これにより変換手段にて変換された後の画像データを蓄積する従来のフレームメモリを削減し、また、フレームメモリの記憶容量を少なくすることができる。したがってメモリコストの低減および消費電力の低減を実現することができ、さらには小形軽量な画像信号処理装置を提供することができる。
【図面の簡単な説明】
【図1】本発明の画像信号処理装置が適用されるスチルカメラの一実施例を示すブロック図である。
【図2】図1に示した実施例のフレームメモリに記憶される画像信号の形態を説明するための概念図である。
【図3】本発明の画像信号処理装置が適用されるスチルカメラの一実施例を示すブロック図である。
【図4】図3に示した実施例のYC処理回路におけるYC処理手順を説明するための機能構成ブロック図である。
【図5】図3に示した実施例のYC処理手順を説明するためのフレームメモリに記憶される画像信号の構成概念図である。
【図6】図5に示した画像信号の構成概念図における第nブロックの詳細図である。
【図7】図6に示した画像信号の第nブロックの4個の組画素の詳細図である。
【図8】本発明の画像信号処理装置が適用されるスチルカメラの一実施例を示すブロック図である。
【図9】従来技術に基づく画像信号処理装置の一例を示すブロック図である。
【図10】図9に示した従来技術に基づく画像信号処理装置のフレームメモリ内に記憶される画像信号の形態を説明するための概念図である。
【符号の説明】
10 光学レンズ
13 固体撮像素子(CCD)
16 A/D変換器
18 メモリコントローラ
20 圧縮伸張回路
21 ラスタ/ブロック変換メモリ
23 メモリカード
24 YC処理回路
26 再生回路
32 表示装置[0001]
[Industrial application fields]
The present invention relates to an image signal processing apparatus that processes an image signal obtained by an imaging apparatus or the like. For example, an image signal is compressed and recorded on a recording medium such as a memory card, and an image read from the recording medium is used. The present invention relates to an image signal processing apparatus suitable for application to an electronic still camera for expanding and reproducing a signal.
[0002]
[Prior art]
Conventionally, a still camera means a device using a film coated with a silver salt photosensitive material as an image recording medium. However, recently, an electronic still camera is commercially available that uses a memory card formed of a semiconductor memory as an information recording medium and stores image information representing a subject in the form of a digital signal. The electronic still camera has many features such as being small and light, capable of recording and storing image information in a memory card, immediacy of reproduction into a visible image, and expanding the utilization of digitized image data. Moreover, in recent years, the quality of images taken with an electronic still camera has improved, and an electronic still camera that employs an image sensor with a high pixel density of about 1.3 million pixels as an image sensor for imaging a subject, It has become possible to obtain image quality in photographs.
[0003]
FIG. 9 shows an example of an image signal processing apparatus based on the prior art applied to an electronic still camera. Referring to the figure, an optical image representing a subject incident from the
[0004]
FIG. 10 conceptually shows a form in which the storage area of the
[0005]
[Problems to be solved by the invention]
However, the image signal processing apparatus according to the prior art having the above configuration has various inconsistencies because the number of pixels is increased with the aim of image quality in silver halide photography. For example, the main problems in an image signal processing apparatus that processes an image signal obtained by a 1.3 million pixel solid-state image sensor (CCD) as an image sensor for imaging a subject are as follows. A large-capacity frame memory for storing the image data to be represented is required, which causes an increase in cost. Second, as a master clock for the operation of the device in order to perform high-speed image processing and data transfer. This means that a clock with a high frequency of about 50 to 75 MHz is required. These problems further induce the following problems.
[0006]
1: The power consumption increases, so that there is a problem that the battery for power supply is enlarged and the portability of the camera is impaired.
[0007]
2: The amount of heat generation increases as the power consumption increases, and the size of the package increases in order to dissipate the heat in the camera.
[0008]
In view of these drawbacks, an object of the present invention is to provide an image signal processing apparatus that can reduce the capacity and power consumption of a memory, and can be reduced in price, size, and weight.
[0009]
[Means for Solving the Problems]
In order to solve the above-described problems, the present invention processes an image signal obtained by an image sensor that images a subject and generates image information for recording on an information recording medium that stores information. The apparatus outputs a first request signal to the controller and a controller that outputs the image signals obtained by the image sensor in a predetermined order in response to a first request signal that requests output of the image signal. And a conversion processing unit that converts the image signal output from the controller into image data composed of a luminance signal and a color difference signal, and outputs the image signal in response to a second request signal for requesting output of the image data. A compression processing means for outputting the second request signal to the conversion processing means and compressing the image data converted by the conversion processing means, the information recording medium storing information; Characterized in that it comprises a compression process means for outputting the image data after the compression processing in response to the third request signal generated in response to the operation.
[0010]
In this case, the apparatus is a first storage unit that stores the image signal obtained by the imaging unit, and that outputs the stored image signal to the controller in accordance with the control of the controller. In accordance with the first request signal, the controller may read the image signal stored in the first storage unit by raster scanning and output the read image signal to the conversion unit.
[0011]
In this case, the apparatus further includes storage means connected to the compression means and having two storage areas for alternately storing the image data converted by the conversion means. The compression means is stored in the storage area of the storage means. The stored image data may be read for each predetermined block unit, and the read image data for each block unit may be sequentially compressed.
[0012]
The apparatus is a second accumulating unit for accumulating the image signal obtained by the imaging unit, and a frame of an image constituted by the accumulated image signal is determined in accordance with a control of the controller. Second storage means for outputting to the controller for each block unit divided for each pixel, the controller reads the image signal stored in the second storage means for each block in response to the first request signal, The read image signal in units of blocks may be output to the conversion means.
[0013]
In this case, the conversion means is a first delay means for delaying the image data in the previous block in the vertical direction of this block by one horizontal scanning period with respect to the predetermined block of the image signal read by the controller. And a second delay means for delaying the image signal in the vertical direction corresponding to the block adjacent to the block in the horizontal direction by one block, and the conversion means includes a first delay means and a second delay means. Based on the delayed image signal, the image signal output from the controller may be converted into image data composed of a luminance signal and a color difference signal.
[0014]
Further, the controller generates a fourth request signal for requesting the output of the image signal from the imaging unit in response to the first request signal output from the conversion unit, and the device further generates a fourth signal. Accordingly, it is preferable to provide signal generation means for generating a drive signal for driving the imaging means.
[0015]
The apparatus is an information recording means for recording the image data compressed by the compression processing means on an information recording medium, and the third request signal is compressed according to an information recording operation in the information recording medium. Information recording means for outputting to the processing means may be provided.
[0016]
The compression processing means may compress and encode the image data converted by the conversion means to a variable length.
[0017]
[Action]
According to the image signal processing apparatus of the present invention, the image signal output from the controller is transferred to the conversion processing means, the image data output from the conversion processing means is transferred to the compression processing means, and is output from the compression processing means. Delivery of the image data to other means is performed by handshaking with the first, second and third request signals. For this reason, it is not necessary to store the image data after being converted into the luminance signal and the color difference signal by the conversion processing means in the frame memory. Therefore, it is possible to reduce the conventional frame memory for storing the image data converted by the conversion means, thereby realizing reduction in memory cost, power consumption and circuit size.
[0018]
【Example】
Next, an embodiment of an image signal processing apparatus according to the present invention will be described in detail with reference to the accompanying drawings shown in FIGS. In these accompanying drawings, the same functional parts are given the same numbers unless they need to be distinguished for explanation.
[0019]
FIG. 1 shows an embodiment of a still camera to which an image signal processing apparatus of the present invention is applied. The still
[0020]
The
[0021]
The
[0022]
Further, the
[0023]
The
[0024]
The
[0025]
The
[0026]
The compression /
[0027]
The compression /
[0028]
The raster /
[0029]
The
[0030]
Further, the image data stored in the
[0031]
Next, the flow of the image signal will be described. The image signal output to the
[0032]
In the above operation, data transfer from the
[0033]
According to this handshake, the entire process is executed in accordance with the operation of the circuit unit having the slowest processing speed. That is, the image data read from the
[0034]
The same applies to the case where data is transmitted from the compression /
[0035]
FIG. 3 shows a still
[0036]
A conceptual representation of the configuration of the image data in the
[0037]
[Expression 1]
Y = YH / 4 = (R + B + G + G) / 4
FIG. 4 shows a partial block diagram of a configuration for obtaining the luminance signal YH of the
[0038]
The write control unit 42 of the
[0039]
The
[0040]
Also, an output pixel n (i, j-1) delayed by one clock by
[0041]
The
[0042]
[Expression 2]
YH = n (i, j) + n (i-1, j) + n (i, j-1) + n (i-1, j-1)
Is obtained. This output YH is represented by symbols R, B and G representing the contents of the respective pixels.
[0043]
[Equation 3]
YH = R + B + G + G
Is replaced.
[0044]
In the case where the symbol i or j is 1, the addition with the pixels of the adjacent block is performed by the control of the writing control unit 42 so that the pixel data of the
[0045]
Next, referring to FIG. 8, there is shown a still
[0046]
As described above, each of the first, second, and third embodiments solves the problem of reducing the memory having a relatively high hardware cost ratio. Therefore, the reduction of the memory capacity is not limited to the reduction of the memory elements, but also the accompanying peripheral circuits, the number of signal processing operations, the processing time, the processing time, and the machine clock frequency for processing. Ripple effects occur between circuits and devices, such as a reduction in power consumption, a reduction in heat generation, and a reduction in device size.
[0047]
The above-described embodiment is an example of a preferred embodiment of the present invention, but the present invention is not limited to this, and various modifications can be made without departing from the scope of the present invention. For example, the image signal processing apparatus is a recording-only apparatus that does not have a reproduction circuit, uses a magnetic recording medium instead of a memory card as a recording medium for storing an image signal, or uses an optical recording system An apparatus may be used.
[0048]
【The invention's effect】
As described above, according to the image signal processing device of the present invention, the image signal output from the controller is transferred to the conversion processing means, and the image data output from the conversion processing means is transferred to the compression processing means and compressed. Since the image data output from the processing means is transferred to other means by handshaking using the first, second and third request signals, the image data converted by the conversion processing means is stored in the frame memory. Can be output to the next-stage compression processing means without being stored. As a result, the conventional frame memory for storing the image data converted by the conversion means can be reduced, and the storage capacity of the frame memory can be reduced. Accordingly, it is possible to reduce the memory cost and power consumption, and to provide a small and light image signal processing apparatus.
[Brief description of the drawings]
FIG. 1 is a block diagram showing an embodiment of a still camera to which an image signal processing apparatus of the present invention is applied.
2 is a conceptual diagram for explaining the form of an image signal stored in the frame memory of the embodiment shown in FIG. 1; FIG.
FIG. 3 is a block diagram showing an embodiment of a still camera to which the image signal processing apparatus of the present invention is applied.
4 is a functional configuration block diagram for explaining a YC processing procedure in the YC processing circuit of the embodiment shown in FIG. 3; FIG.
FIG. 5 is a conceptual diagram of a configuration of an image signal stored in a frame memory for explaining a YC processing procedure of the embodiment shown in FIG. 3;
6 is a detailed diagram of an nth block in the configuration conceptual diagram of the image signal illustrated in FIG. 5;
7 is a detailed view of four group pixels of an nth block of the image signal shown in FIG.
FIG. 8 is a block diagram showing an embodiment of a still camera to which the image signal processing apparatus of the present invention is applied.
FIG. 9 is a block diagram illustrating an example of an image signal processing apparatus based on a conventional technique.
10 is a conceptual diagram for explaining a form of an image signal stored in a frame memory of the image signal processing apparatus based on the prior art shown in FIG. 9;
[Explanation of symbols]
10 Optical lens
13 Solid-state image sensor (CCD)
16 A / D converter
18 Memory controller
20 Compression / decompression circuit
21 Raster / block conversion memory
23 Memory card
24 YC processing circuit
26 Playback circuit
32 display devices
Claims (3)
第1の要求信号を受け、該受けた第1の要求信号における前記画像信号の出力または出力の停止の要求に基づいて、前記撮像素子にて得られた前記画像信号の所定の順序での出力または出力の停止を行なうコントローラと、
前記画像信号の出力の可否を表わす第1の要求信号を前記コントローラへ出力し、該コントローラから出力された前記画像信号を輝度信号および色差信号により構成される画像データに変換する変換処理手段であって、第2の要求信号を受け、該受けた第2の要求信号における前記変換した画像データの出力または出力の停止の要求に基づいて、前記変換した画像データの出力または出力の停止を行なう変換処理手段と、
前記変換した画像データの出力の可否を表わす第2の要求信号を前記変換処理手段へ出力し、該変換処理手段にて変換された画像データを圧縮する圧縮処理手段であって、前記情報記録媒体の情報記録動作に応じて生成された前記圧縮した画像データの出力の可否を表わす第3の要求信号を受け、該受けた第3の要求信号における前記圧縮した画像データの出力または出力の停止の要求に基づいて、前記圧縮した画像データの出力または出力の停止を行なう圧縮処理手段と、
前記撮像手段にて得られた画像信号を蓄積する第1の蓄積手段であって、前記コントローラの制御に応じて、該蓄積した画像信号にて構成される画像のフレームを所定の画素ごとに分割したブロック単位ごとに前記コントローラに出力する第1の蓄積手段とを有し、
前記コントローラは、第1の要求信号に応じて、第2の蓄積手段に蓄積された前記画像信号をブロックごとに読み出し、該読み出したブロック単位の画像信号を前記変換手段に出力し、
前記変換手段は、
前記コントローラにて読み出された前記画像信号の所定のブロックに対して、該ブロックの垂直方向に前のブロックにおける画像データを1水平走査期間分遅延させる第1の遅延手段と、
該ブロックの水平方向に隣接するブロックに対応する垂直方向の画像信号を1ブロック分遅延させる第2の遅延手段とを含み、
前記変換手段は、第1の遅延手段および第2の遅延手段にて遅延された画像信号に基づいて、前記コントローラから出力された画像信号を輝度信号および色差信号により構成される画像データに変換することを特徴とする画像信号処理装置。In an image signal processing apparatus that processes image signals obtained by an image sensor that captures a subject and generates image information for recording on an information recording medium that stores information, the apparatus includes:
The first request signal is received, and the image signal obtained by the imaging device is output in a predetermined order based on the output request of the image signal or the output stop request in the received first request signal. Or a controller that stops output,
Conversion processing means for outputting a first request signal indicating whether or not the image signal can be output to the controller, and converting the image signal output from the controller into image data composed of a luminance signal and a color difference signal. A conversion for receiving the second request signal and stopping the output or the output of the converted image data based on the request for the output or the stop of the output of the converted image data in the received second request signal. Processing means;
A compression processing means for outputting a second request signal indicating whether or not to output the converted image data to the conversion processing means, and compressing the image data converted by the conversion processing means, the information recording medium; Receiving the third request signal indicating whether or not the compressed image data generated according to the information recording operation is output, and stopping the output or the output of the compressed image data in the received third request signal. A compression processing means for outputting or stopping the output of the compressed image data based on a request ;
A first accumulator for accumulating the image signal obtained by the imaging means, and dividing an image frame constituted by the accumulated image signal into predetermined pixels in accordance with the control of the controller; First storage means for outputting to the controller for each block unit,
The controller reads the image signal stored in the second storage unit for each block in response to the first request signal, and outputs the read block unit image signal to the conversion unit,
The converting means includes
First delay means for delaying image data in a previous block in the vertical direction of the block by one horizontal scanning period with respect to a predetermined block of the image signal read by the controller;
Second delay means for delaying an image signal in the vertical direction corresponding to a block adjacent in the horizontal direction of the block by one block;
The conversion means converts the image signal output from the controller into image data composed of a luminance signal and a color difference signal based on the image signal delayed by the first delay means and the second delay means. image signal processing apparatus according to claim and this.
前記圧縮処理手段にて圧縮処理された前記画像データを前記情報記録媒体に記録する情報記録手段であって、該情報記録媒体における情報記録動作に応じて第3の要求信号を前記圧縮処理手段へ出力する情報記録手段を備えることを特徴とする画像信号処理装置。The image signal processing device according to claim 1, wherein the device includes:
An information recording means for recording the image data compressed by the compression processing means on the information recording medium, wherein a third request signal is sent to the compression processing means in response to an information recording operation on the information recording medium. An image signal processing apparatus comprising an information recording means for outputting .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP11295094A JP3718239B2 (en) | 1994-05-26 | 1994-05-26 | Image signal processing device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP11295094A JP3718239B2 (en) | 1994-05-26 | 1994-05-26 | Image signal processing device |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH07322289A JPH07322289A (en) | 1995-12-08 |
JP3718239B2 true JP3718239B2 (en) | 2005-11-24 |
Family
ID=14599590
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP11295094A Expired - Lifetime JP3718239B2 (en) | 1994-05-26 | 1994-05-26 | Image signal processing device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3718239B2 (en) |
-
1994
- 1994-05-26 JP JP11295094A patent/JP3718239B2/en not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH07322289A (en) | 1995-12-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3764493B2 (en) | Electronic still camera and image data processing method | |
JP4131052B2 (en) | Imaging device | |
US8610793B2 (en) | Electronic camera that reduces processing time by performing different processes in parallel | |
JP3822380B2 (en) | Image signal processing device | |
JP4245139B2 (en) | Image processing device | |
JP3348917B2 (en) | Image signal processing device | |
JP4150112B2 (en) | Image data processing method and image data processing apparatus | |
JP4636755B2 (en) | Imaging apparatus, image processing method, recording medium, and program | |
JP4579613B2 (en) | Image processing apparatus and method, and imaging apparatus | |
US6661452B1 (en) | Digital camera capable of decreasing a required memory capacity | |
US6774940B1 (en) | Electronic camera apparatus having image reproducing function and method for controlling reproduction thereof | |
JP3718239B2 (en) | Image signal processing device | |
JP3858447B2 (en) | Electronic camera device | |
JP4048615B2 (en) | Pixel number conversion device and digital camera device | |
JPH0549000A (en) | Electronic camera | |
JPH11177868A (en) | Image pickup method, reproduction method and device therefor | |
JP3710066B2 (en) | Electronic still video camera | |
JP3815068B2 (en) | Electronic still camera and control method thereof | |
JP4408478B2 (en) | Video recording device | |
JP4704525B2 (en) | Image signal processing device | |
JP2000115605A (en) | Digital camera | |
JP3081665B2 (en) | Frame memory device | |
JP3745605B2 (en) | Electronic still camera | |
JPH11261949A (en) | Image processor, image processing method and computer readable storage medium | |
JP2004328405A (en) | Moving image recording and reproducing device, its still image compression recording method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20040323 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040518 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20040714 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050809 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050902 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080909 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080909 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090909 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090909 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100909 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100909 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110909 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120909 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130909 Year of fee payment: 8 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |