JPH10178612A - 撮像装置及び該装置におけるメモリ制御方法 - Google Patents

撮像装置及び該装置におけるメモリ制御方法

Info

Publication number
JPH10178612A
JPH10178612A JP8339913A JP33991396A JPH10178612A JP H10178612 A JPH10178612 A JP H10178612A JP 8339913 A JP8339913 A JP 8339913A JP 33991396 A JP33991396 A JP 33991396A JP H10178612 A JPH10178612 A JP H10178612A
Authority
JP
Japan
Prior art keywords
memory
data
signal
video
video signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP8339913A
Other languages
English (en)
Other versions
JP3483411B2 (ja
Inventor
Nobuo Fukushima
信男 福島
Motohiro Ishikawa
基博 石川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP33991396A priority Critical patent/JP3483411B2/ja
Publication of JPH10178612A publication Critical patent/JPH10178612A/ja
Application granted granted Critical
Publication of JP3483411B2 publication Critical patent/JP3483411B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Input (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

(57)【要約】 【課題】 メモリ容量を増大させることなく、撮影した
映像信号を記憶して信号処理を行うことができる撮像装
置と該装置におけるメモリ制御方法を提供する。 【解決手段】 カメラの記憶モードでは、CCDから所
定の周期で出力される映像信号を奇数フィールドと偶数
フィールドとに分けて(S7,S8)、それぞれメモリ
の異なる領域に記憶し、その所定の周期とは異なる周期
で、そのメモリから8ライン分ずつ映像信号を読み出し
て輝度及び色差データを作成し、その輝度データ及び色
差データをメモリの別の領域に記憶する(S10)。こ
うしてメモリに記憶された8ライン分の輝度及び色差デ
ータをJPEG処理部に出力して圧縮し(S12)、そ
の圧縮した映像データを記憶媒体に記憶する(S1
4)。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、例えばデジタルス
チルカメラ等の撮像装置に関し、特に撮影した映像信号
を記憶するメモリを有する撮像装置と該装置におけるメ
モリ制御方法に関するものである。
【0002】
【従来の技術】図5は、従来のDSC(デジタル・スチ
ル・カメラ)の画像データ生成ブロックを示すブロック
図である。尚、ここでは説明を簡単にするために、一般
的なレンズや絞りなどのカメラに付随する光学部のブロ
ックを省略して示している。
【0003】図5において、破線50で囲んだ部分は、
CCD1から出力される画像信号から輝度、色差信号を
生成するプロセスブロックを示し、破線部分51はプロ
セスブロック50から出力される輝度、色差信号を圧縮
するJPEGブロック、破線部分52は圧縮された画像
データをファイルとして、記憶媒体である記憶用メモリ
9に記憶するための記憶ブロックを示している。
【0004】CCD1は被写体像を撮影して光電変換す
る固体撮像素子で、このCCD1は、例えばムービーカ
メラなどで使用されるインタレース・スキャンのCCD
である。A/D変換器2は、CCD1から出力されるア
ナログ信号をディジタル信号に変換しており、このデジ
タル信号からプロセス部4で、輝度信号Y、色差信号C
が生成される。YCメモリ12は、プロセス部4で生成
された輝度信号Y、及び色差信号Cを、後段のJPEG
回路6でのJPEG圧縮に適したデータ並びに変換する
ために輝度信号Y、及び色差信号Cを記憶している。J
PEG回路6は、これら輝度信号や色差信号にJPEG
圧縮を行う圧縮処理部である。CPU8は、JPEG回
路6で圧縮されたデータを記憶用メモリ9に記憶するた
めにファイル化などの処理を行う。CPUワークメモリ
7は、CPU8による動作時に、各種データを一時的に
記憶するためのワークエリアとして使用され、このメモ
リ7上で、JPEG回路6で圧縮された画像データに、
撮影時の日付やファイルとしての管理情報が付加され
る。つまり、記録のためデータ・フォーマットに変換す
るのに使用される。記憶用メモリ9は、圧縮された画像
データを記録するための記憶媒体で、例えばカメラ本体
と着脱可能なメモリカードなどである。EVF(電子ビ
ューファインダ)10は、例えば液晶等のディスプレイ
で、撮像した画像を表示して確認するのに使用される。
【0005】ところで、CCD1は、現在ではムービカ
ムコーダ用が主流であるため、NTSCやPALなどの
TV動画モードでプロセス部4から出力される。従っ
て、例えばEVF10では、通常のテレビジョン画面の
ように、撮影した画像を動画として観察できる。
【0006】一方、静止画を記録するためには、その動
画の内の1つのフィールド画像をYCメモリ12にフリ
ーズして行う。そして、このYCメモリ12にフリーズ
された画像をJPEG圧縮して記憶する。しかしこの場
合では、CCD1の画素の半分(奇数ラインの信号の
み、または偶数ラインの信号のみ)しかデータ生成に使
用されていないので、CCD1の有する解像度の半分の
画像しか得られず、解像度の高い画像は得られない。そ
こで、より高画質の画像を得るには、CCD1の全ての
画素を使用して画像データを生成しなければならない。
【0007】ところが、通常のインタレース・スキャン
のCCDでは、そのCCDの有する全素子により撮影し
た画素を1ラインずつ順に画像信号として出力すること
ができない。つまりテレビジョンの同期信号でいうとこ
ろの、ODD(奇数)フィールドでCCDよりの奇数ラ
インの映像信号を読み出し、次のEVEN(偶数)フィ
ールドで偶数ラインの映像信号を読み出す必要がある。
従って、CCDの有する全素子に対応する画素データを
使って静止画像であるフレーム画像を生成するには、C
CDの全素子に対応する画素データを一時的に蓄えるこ
とができるフレームメモリが必要となる。
【0008】これを実現した例を図6に示す。尚、図6
において、図5と共通する部分は同じ番号で示し、その
説明を省略している。ここで図5と比較すると明らかな
ように、プロセス部50aにデータフロー制御部11が
設けられている点が図5の構成と異なっている。
【0009】図6において、CCDメモリ3は、CCD
1から出力されA/D変換器2によりデジタル信号に変
換された画像データを蓄積しており、データフロー切換
制御部11は、このA/D変換されたデジタル画像デー
タの流れを選択的に切り替えている。即ち、CCD1よ
りのテレビジョン信号でいうところのODDフィールド
信号/EVENフィールド信号に相当する画像データ
は、データフロー切替制御部11のスイッチSEL1に
より切替えられて、それぞれCCDメモリ3の奇数デー
タメモリ領域3a及び偶数データメモリ領域3bに記憶
されている。また、データフロー切替制御部11のスイ
ッチSEL2は、CCDメモリ3のODD画像データと
EVEN画像データのそれぞれを、CCDメモリ3の夫
々のメモリ空間3a,3bから1ラインずつ線順次で選
択して読み出すものである。
【0010】
【発明が解決しようとする課題】以上ように構成するこ
とにより、CCD1の全画素を使ってフレーム画像を静
止画像として記憶することができるが、この場合、CC
Dメモリ3の容量が非常に大きくなる。即ち、CCD1
の画素数を仮に水平方向が811画素、垂直方向が50
9画素(何れもオプティカル・ブラック部を含む)とす
る。ここでA/D変換の量子化ビット数を10ビットと
すると、このCCDの全画素データを記憶するために約
4.1Mビットの(811×509×10=4,12
7,990)のメモリ容量が必要となる。
【0011】そして、このCCD1よりの画素データを
もとに輝度信号と色差信号とを生成すると、総データ量
は約6Mビットになる。つまり、有効画素数を水平76
8、垂直494、量子化8ビット、輝度信号Yと色差信
号Cr,Cbの比率をいわゆる4:2:2モードで計算
すると、 768×494×8(1+0.5+0.5)=6,07
0,272(ビット) となる。
【0012】以上のように、従来のDSCで高画質の画
像を得るために、フレーム画像をメモリに記憶してJP
EG圧縮する場合には、そのメモリの容量が非常に大き
くなるという問題があった。
【0013】本発明は上記従来例に鑑みてなされたもの
で、メモリ容量を増大させることなく、撮影した映像信
号を記憶して信号処理を行うことができる撮像装置と該
装置におけるメモリ制御方法を提供することを目的とす
る。
【0014】また本発明の目的は、撮影した映像信号を
格納するメモリ容量の増大を招くことなく、映像信号を
処理して映像データを生成できる撮像装置及び該装置に
おけるメモリ制御方法を提供することにある。
【0015】
【課題を解決するための手段】上記目的を達成するため
に本発明の撮像装置は以下のような構成を備える。即
ち、撮影した映像信号を所定の周期で発生する撮影手段
と、前記撮影手段からの映像信号を第1の所定量記憶す
る第1の記憶手段と、前記第1の記憶手段に記憶された
映像信号を、前記第1の所定量より少ない第2の所定量
ずつ読み出して信号処理する第1の信号処理手段と、前
記第1の信号処理手段により処理された映像データを記
憶する第2の記憶手段と、前記第2の記憶手段に記憶さ
れた映像データを前記第2の所定量単位で処理する第2
の信号処理手段と、映像信号をモニタ表示するための表
示手段とを有することを特徴とする。
【0016】また上記目的を達成するために本発明の撮
像装置におけるメモリ制御方法は以下のような工程を備
える。即ち、撮像部により撮影した映像信号をメモリに
記憶する撮像装置におけるメモリ制御方法であって、前
記撮像部から所定の周期で出力される映像信号を第1の
所定量単位で前記メモリに記憶する第1の記憶工程と、
前記所定の周期とは異なる周期で、前記メモリから前記
第1の所定量より少ない第2の所定量ずつ前記映像信号
を読み出して信号処理する信号処理工程と、前記信号処
理工程で信号処理された映像データを前記メモリに記憶
する第2の記憶工程と、前記メモリに記憶された前記映
像データを前記第2の所定量単位で圧縮する圧縮工程
と、前記圧縮工程により圧縮された映像データを記憶部
に記憶する工程とを有することを特徴とする。
【0017】
【発明の実施の形態】以下、添付図面を参照して本発明
の好適な実施の形態を詳細に説明する。
【0018】図1〜図3のそれぞれは本実施の形態のデ
ジタルスチルカメラの構成を示すブロック図で、図1は
モニタモード、図2は記憶(REC)モード、そして図
3は再生(PLAY)モードでのそれぞれの接続形態を
示している。
【0019】CCD101は、図5及び図6のCCD1
と同様であり、被写体像を撮像して光電変換する固体撮
像素子で、例えばムービーカメラなどで使用されるイン
タレース・スキャンのCCDである。102A/D変換
器で、CCD101から出力されるアナログ画像信号を
ディジタル信号に変換している。103は操作パネル
で、オペレータにより後述する再生モード、記憶モー
ド、モニタモード等が指定されるとともに、各種カメラ
操作の指示も入力される。104はYCプロセス部で、
生の画像信号より輝度信号Y、色差信号Cが生成され
る。プロセス用メモリ112は、YCプロセス部104
で生成された輝度信号Y、及び色差信号Cを、後段のJ
PEG処理部106でのJPEG圧縮に適したデータ並
びに変換するために輝度信号Y、及び色差信号Cを記憶
している。105はタイミング発生回路(TG)で、C
PU108よりの指示により、CCD101を駆動する
ためのクロック信号を切り換えて、CCD101のため
の駆動信号を出力している。
【0020】JPEG処理部106は、JPEG圧縮を
行う圧縮処理部である。CPU108は、圧縮されたデ
ータを、例えばカメラ本体と着脱可能なメモリカードな
どの記憶用メモリ109に記憶するためにファイル化な
どの処理を行う。CPUワークメモリ107は、CPU
108による動作時に、各種データを一時的に記憶する
ためのワークエリアとして使用され、このワークメモリ
107上で、JPEG処理部106で圧縮された画像デ
ータに、撮影時の日付やファイルとしての管理情報が付
加される。110はEVF(電子ビューファインダ)
で、例えば液晶等のディスプレイで、撮像した画像を表
示して確認するのに使用される。
【0021】113はEVFデータ合成部で、映像デー
タとオーバレイ(OVERLAY)データとを合成して
いる。ここでオーバレイデータとは、前記映像データと
は独立に、文字や記号、線などを表示するためのデータ
のことで、通常、映像データに重ねて、各種情報を画面
上に表示するための文字情報や図形情報等である。11
4はデータフロー切替制御部で、前述の図6と同様に、
CPU108の指示に従って、A/D変換された画像デ
ータの流れを切り替えている。尚、このデータフロー切
替制御部114は、図6の構成に、更にスイッチSEL
3〜SEL6が追加されている。
【0022】ところで、本実施の形態のデジタルスチル
カメラは、撮像している画像をEVF110に動画とし
て表示するモニタモード(図1)、CCD101により
撮像した画像を記録(記憶)する記憶(REC)モード
(図2)、そして記憶された画像を再生する再生(PL
AY)モード(図3)を有する。これらのモードは、オ
ペレータが操作パネル103等を用いて指示することに
より選択され、この選択されたモードに応じて、画像デ
ータの流れ及びその処理方法が切り替えられる。
【0023】図4は、本実施の形態のカメラにおける処
理の流れを示すフローチャートで、この処理はCPU1
08のプログラムメモリ108aに記憶された制御プロ
グラムに従ってCPU108の制御の下に実行される。
【0024】図4において、まずステップS1にて電源
投入が行われると、CPU108や各制御部材の初期設
定を行う。次にステップS2に進み、操作パネル103
により再生モードが指示されているか、またステップS
3では、操作パネル103よりモニタ(ファインダ)モ
ードが指定されているかを判別する。ここでモニタモー
ドであればステップS15以降へ、再生モードであれば
ステップS18以降の処理に進み、またモニタモードで
も再生モードでもなければ記憶モードであるとしてステ
ップS4以降の動作を処理する。
【0025】以下、各動作モードにおける処理を図1〜
図4を参照して説明する。
【0026】<モニタモード(図1)>この処理は、図
4のステップS3でモニタ(ファインダ)モードが指示
されていることにより開始され、まずステップS15
で、画像データの流れをEVF110用にセットする。
つまり、図1に示すように、データフロー切替制御部1
14のスイッチSEL3はy側に接続され、スイッチS
EL4がx側に接続される。これによりA/D変換され
た画像データはYCプロセス部104に入力され、その
YCプロセス部104において、その画像データは輝度
信号Yと色差信号Cに変換される。こうして変換された
輝度信号Yと色差信号Cは、スイッチSEL5(y側に
接続されている)及びSEL6(x側に接続されてい
る)を介してEVF10に出力される。
【0027】次にステップS16に進み、CCD101
の画像信号の読み出し及び蓄積方法をフィールドモード
にする。つまり、このモニタモードにおいては、CCD
101から、フィールド毎(ODD/EVEN)に、交
互に画像信号が出力される。この場合、CCD101の
内部では、上下に隣接している読取り素子(画素)の画
素信号同士が加算され、1ラインの画像信号として出力
される。そして、この上下に隣接する読取り素子の組み
合わせが、フィールド毎に1ラインずれるようにして行
われる。この交互読み出しは、CCD駆動回路(一般に
TG:タイミング発生回路)105からの読み出しタイ
ミング信号をCCD101に印加することによって行わ
れる。
【0028】こうして、CCD101からの映像信号は
1ラインが交互に読み出された画像信号となり、この画
像信号は直接YC(輝度信号、色差信号)プロセス部1
04に入力され、更にEVF110などに転送される
(ステップS17)。このように、モニタモードにおい
ては、CCD101から出力される生の画像信号を、1
フィールド期間に、1フィールド単位のデータを処理し
て、輝度信号、色差信号を生成している。
【0029】<記憶(REC)モード(図2)>ステッ
プS2及びステップS3で、それぞれ対応するモードが
設定されていない時は、記憶モードであると判断してス
テップS3からステップS4に進んで記憶モードにセッ
トし、次にステップS5に進み、CCD101を、いわ
ゆるフレーム蓄積モードにする。つまり撮像時に、CC
D101からの画像信号の出力を停止させ、不図示の機
械的なシャッタなどの遮光部材による制御によりCCD
101への画像の露光時間を制御し、適切な露光された
画像信号がCCD101に蓄積されるようにする(ステ
ップS6)。
【0030】次にステップS7に進み、データフロー切
替制御部114のスイッチの接続状態を、図2に示すよ
うにスイッチSEL3をx側に接続してSEL1に出力
するようにし、遮光部材でCCD101を遮光した状態
のまま、CCD101からODDフィールドの全ての画
像信号を読み出し、その画像信号をA/D変換し、その
ままCCD生データ(生画像信号)(RAW_ODD)として
プロセス用メモリ112の奇数生データメモリ領域(RA
W_ODDエリア)112aに蓄積する。この時、データフ
ロー切替制御部114のSEL1はx側に接続される。
【0031】次にステップS8に進み、CCD101か
ら偶数フィールド(EVEN)の画像信号を全て読み出
して、その画像信号をA/D変換し、そのままCCD生
データ(生画像信号)(RAW_EVEN)としてプロセス用メ
モリ112の偶数生データメモリ領域(RAW_EVENエリ
ア)112bに蓄積する。この時、データフロー切替制
御部114のスイッチSEL1はy側に、SEL3はx
側にそれぞれ接続される。
【0032】こうして画像信号の奇数フィールドと偶数
フィールドのメモリ112への書込みが終了するとステ
ップS9に進み、そのプロセス用メモリ112に記憶さ
れたCCD101からの生の画像信号を、プロセス用メ
モリ112のどのメモリアドレスから読み出すのかを決
定するためのメモリアドレスを設定する。
【0033】そして、ステップS10に進み、プロセス
メモリ112のメモリ領域112a,112bのそれぞ
れに蓄積したRAW_ODD,RAW_EVENデータを、各1行(水
平ライン)ずつ、メモリ領域112a,112bから交
互に読み出してYCプロセス部104に出力する。これ
によりYCプロセス部104は、輝度データと色差(R
−Y、B−Y)データを生成する。従って、このプロセ
ス用メモリ112からの読み出し時には、データフロー
切替制御部112のスイッチSEL4はy側に接続さ
れ、スイッチSEL2は奇数フィールド、偶数フィール
ドに応じて交互にx,y側に切り替えられる。このプロ
セス用メモリ112の読み出しに際して、生の奇数フィ
ールドの画像信号(RAW_ODD)の1ライン分と、
生の偶数フィールドの画像信号(RAW_EVEN)の
1ライン分とから、2ライン分の輝度データと、2ライ
ン分の色差データ(R−Yデータ1ライン、B−Yデー
タが各1ライン分)が生成される。
【0034】こうしてYCプロセス部104により生成
された輝度データと色差(R−Y、B−Y)データのそ
れぞれは、プロセス用メモリ112のYCデータメモリ
112cの輝度データエリアと色差データエリア(R−
Yデータエリア、B−Yデータエリア)に蓄積される。
この時、データフロー切替制御部114のスイッチSE
L5はx側に接続されている。
【0035】このように、メモリ領域112a,112
bに記憶された生データからYCデータへの変換操作
を、順次、行を変えて同様に行い、合計8ライン分の輝
度データと8ライン分の色差データ(R−Yが8ライン
分、B−Yが8ライン分)を生成して、プロセス用メモ
リ112のYCデータメモリ112cに蓄積する(尚、
ここで輝度信号と色差信号の比率はいわゆる4:2:2
方式を前提としている)。
【0036】またここでは、プロセス用メモリ112に
おいて、メモリ領域112a,112bからの生画像デ
ータの読み出しと、YCプロセス部104で作成された
輝度及び色差データのYCデータメモリ112cへの書
き込みが行われる。そこで、この例ではプロセス用メモ
リ112のデータバスが2つ以上あり、これら2つのデ
ータバスを使用して、メモリ112からのデータの読み
出しと、メモリ112へのデータの書き込みとが、それ
ぞれ異なるデータバスを介して同時に行なうことができ
るようにしている。
【0037】ところで、画像データを圧縮する方法とし
てはいろいろあるが、一般にはJPEG方式が用いられ
る。そこで、JPEG方式により画像データを圧縮する
ことを前提に説明する。
【0038】このJPEG方式は、輝度信号と色差信号
をそれぞれ水平方向8画素、垂直方向8画素からなる合
計64画素分の画像を1つの単位(MCU:Minimum Code Un
it)として圧縮を行うものである。従って、JPEG処
理部106には、このMCUの単位となるように、画像
データが並べ変えて入力される。ここで既に、輝度信号
は8ライン分、色差信号はR−Yが8ライン分、B−Y
が8ライン分がプロセス用メモリ112のYCデータメ
モリ112cに蓄積されている。従って、次にステップ
S11では、このYCデータメモリ112cに記憶され
た画像データをMCU単位で読み出して、JPEG処理
部106に送れば良い。
【0039】これによりJPEG処理部106では、プ
ロセス用メモリ112からMCU単位で送られてきた輝
度信号、色差信号をそれぞれ圧縮し、その圧縮したデー
タをCPUワークメモリ107に出力して記憶する(ス
テップS12)。
【0040】こうして輝度信号を8ライン分、色差信号
ではR−Yが8ライン分、B−Yが8ライン分の圧縮が
終了したら、その画面の全画像データに対する処理が終
了するまでステップS9からステップS13の動作を繰
り返すことにより、1画面分の生画像データを輝度、色
差信号に変換して圧縮する。この時、ステップS10で
生成されたYCデータは、プロセス用メモリ112のY
Cデータメモリ112cのエリアに重ね書きされる。従
って、YCデータメモリ112cのメモリエリアは、輝
度信号は8ライン分、色差信号はR−Yが8ライン分、
B−Yが8ライン分で良いことになる。
【0041】こうしてステップS13で1画面分の画像
圧縮データが生成されたらステップS14に進み、その
画像の撮影時の情報(日時、露光情報など)や、ファイ
ルとしての管理情報(ファイル名、ファイル属性)を生
成し、圧縮された画像データと共に記憶用メモリ109
に記憶する。
【0042】つまり、この記憶モードでは、所定のライ
ン数分の輝度信号、色差信号を生成してプロセス用メモ
リ112のYCデータメモリ112cに記憶する。また
このプロセス用メモリ112への画像データを格納する
タイミングは、プロセス用メモリ112からJPEG処
理部106への画像データの転送によってプロセス用メ
モリ112のメモリ容量に空きが生じるのを見込んで、
次のCCD生データの格納処理を開始するようにする。
【0043】尚、この図2の記憶モードにおいても、デ
ータフロー切替制御部114のスイッチSEL6がy側
に接続されており、合成部113を介して電子ビューフ
ァインダ(EVF)110に記憶される画像データが表
示されている。また、CPU108からのオーバーレイ
される画像信号がプロセス用メモリ112のオーバレイ
領域112dを介して合成部113に入力されており、
EVF110にはこれら合成された画像が表示されるこ
とになる。
【0044】<再生モード(図3)>図4のステップS
2で、操作パネル103により再生モードが指示されて
いるとステップS18に進み、データフロー切替制御部
114におけるスイッチの接続を再生モードにセットす
る。これによりスイッチSEL6はy側に接続される。
次にステップS19に進み、一旦、記憶用メモリ109
からCPUワークメモリ107に画像データを読み込
む。こうしてワークメモリ107に格納した画像データ
からJPEGデータを取り出してJPEG処理部106
に出力し、その圧縮データを伸長する(ステップS2
0)。こうしてJPEG処理部106により圧縮画像デ
ータが伸長され、プロセス用メモリ112のYC伸長領
域112eに1画面分の輝度、色差データが展開され
る。この後、YC伸長領域112eに記憶された画像デ
ータを1ラインずつ読み出し、合成部113を介してE
VF10に転送する。このようにして、EVF110に
より、記憶用メモリ109に記憶された画像データの再
生が可能となる(ステップS21)。
【0045】次に、プロセス用メモリ112として必要
なメモリ容量について検証する。
【0046】CCD101の画素数は従来例と同様とし
て考える。つまり、CCD101の画素数は、水平方向
が811画素、垂直方向が509画素(いずれもオプテ
ィカル・ブラック部を含む)とする。また、A/D変換
器102によるA/D変換の量子化ビット数は10ビッ
ト、CCD101の全撮像素子からの画素を生画像デー
タとして記憶するためのメモリ容量は約4.1Mビット
(811×509×10=4,127,990)であ
る。
【0047】このCCD101よりの画像データをもと
に輝度信号と色差信号とを生成するが、本発明の実施の
形態ではそれぞれ8ライン分の記憶容量で良いことにな
る。つまり、輝度と色差信号の各8ライン分の画素数を
水平786、量子化数を8ビット、輝度信号Yと色差信
号Cr,Cbの比率を、いわゆる4:2:2モードで計
算すると、約98Kビット、即ち、 (768×8(ビット)×8(ライン)×(1(Y)+
0.5(Cr)+0.5(Cb))=98,304) で済むことになる。
【0048】これは従来例では、生画像データ用に約
4.1Mビットと、輝度・色差信号用に約6Mビットで
合計約10.1Mビットが必要だったのに対し、本実施
の形態では合計約4.2M(生画像データ用に4Mバイ
ト、輝度・色差信号用に約0.1Mバイト))ビットで
済むことになる。
【0049】なお、図1〜図3において、プロセス用メ
モリ112にオーバレイ領域112dが設けられている
が、これは後述するオーバレイ表示のために設けたもの
で、オーバレイ表示を行わないのであれば、このメモリ
領域112dは不要である。詳しくは後述する。
【0050】以上説明したように本実施の形態によれ
ば、各モードに応じて、画像データの流れを切り替える
とともに、画像データの処理量の単位を切替ることによ
り、ディジタル・スチルカメラで高画質の画像を得るた
めに、フレーム画像をJPEG圧縮を行う場合でも、装
置のメモリの増大を招くことなく高画質の画像を得るこ
とができる。
【0051】[他の実施例] 表示用オーバレイデータエリアの共有 次に、EVF110に表示される画像に重ねて、文字や
グラフィックなどのデータ(ここではオーバレイ・デー
タと呼ぶことにする)を表示する場合について説明す
る。
【0052】前述した図1〜図3において、プロセス用
メモリ112にオーバレイ領域112dを設けている。
CPU108は、EVF110に表示したいオーバレイ
画像のビットマップデータを、このオーバレイ領域11
2dに書き込む。例えば、文字などは予め文字フォント
として用意したものを書き込んでも良く、或はカーソル
やユーザ・インターフェースによる描画を行ってもよ
い。このオーバレイ領域112dに記憶されたオーバレ
イイメージを合成部113に出力することにより、合成
部113によりCCD101或は記憶用メモリ109か
ら読出された画像データと重畳されてEVF110に表
示される。
【0053】この場合、プロセス用メモリ112のオー
バレイ領域112dからのオーバレイデータの読み出し
と、その他の領域112a〜112dからのデータの読
み出しとは競合しないようにする必要がある。
【0054】図1のモニタモードの場合は、プロセス用
メモリ112は、オーバレイ領域112d以外では使用
しないので競合の心配は無い。
【0055】これに対し図2の記憶モードでは、CCD
101からの生画像データの生画像データメモリ領域1
12,112bへの書き込みと、YCデータエリア11
2cからの輝度・色差データの読み出しが行なわれてい
る。しかし、これらメモリアクセスは、テレビジョン信
号における水平ブランキング期間と垂直ブランキング期
間には行なわれない。従って、これら水平、垂直ブラン
キング期間に、プロセス用メモリ112のオーバレイ領
域112dからオーバレイデータを読み出すように制御
すれば良い。
【0056】図3の再生モードでも同様に、輝度・色差
データの読み出しを水平ブランキング期間と垂直ブラン
キング期間では行わないようにし、この水平、垂直ブラ
ンキング期間にオーバレイデータをオーバレイ領域11
2dから読み出すように制御すれば良い。
【0057】次に、プロセス用メモリ112へのアクセ
スに関して、その他の実施の形態を説明する。
【0058】このプロセス用メモリ112のデータ入出
力ポートが1つの場合は、このメモリ112からのデー
タ読み出しと、書き込みは同時にはできない。このた
め、実際は、わずかな時間差を持ってメモリよりのデー
タの読み出しと、メモリへのデータの書き込みを交互に
行う。例えば、通常のDRAMにはリードモディファイ
ライトモードと呼ばれているメモリアクセス方法があ
る。これは、メモリのあるアドレスでデータを読み出
し、直後に同じアドレスに別のデータを書き込むモード
である。本実施の形態のカメラの記憶モードでは、CC
D101から出力される生画像データは既にプロセス用
メモリ112のメモリ領域112a,112bに記憶さ
れているので、プロセス用メモリ112から輝度、色差
信号生成のためのYCプロセス部104への出力は、C
CD101からの読み出しタイミングに同期させる必要
はない。従って、CCD101からの生画像データの取
り込みと、プロセス用メモリ112からの画像データの
読み出しは、わずかな時間差を取って別々に実施され
る。従って、この場合の処理速度は、プロセッサ用メモ
リ112よりの画像データの読み書きを同時に行う場合
よりも若干遅くなるが、このようにして、単一の入出力
バスを有するメモリを使用しても実現できる。
【0059】更に、このプロセス用メモリ112のエリ
アの配分に関して、その他の実施の形態を説明する。
【0060】前述の実施の形態では、CCD101から
の生画像データを記憶するメモリ領域112a,112
bと、YCデータメモリ112cとは同一メモリの別の
アドレス空間に配した。しかし、一旦、YCプロセス部
104に出力されて輝度、色差信号に変換された生画像
データは通常は不要になるので、これらメモリ領域11
2a,112bに記憶されている生画像データは、YC
プロセス部104に出力された後は、消去しても良い。
つまり、オーバレイのためのイメージを記憶するための
エリアとして用いられても良い。こうすることにより、
プロセス用メモリ112にオーバレイ情報をより多く記
憶できるので、表示内容をより充実することが可能で、
操作性や視認性の向上が図られる。
【0061】或は、この処理済みの生画像データが記憶
されていたエリア112a,112bを、CPU108
のワークエリアとして開放すれば、CPU108の処理
速度や能力の向上も期待できる。
【0062】また、或は生画像データが記憶されていた
エリア112a,112bを、YCデータを記憶するた
めのメモリ領域として開放しても良い。この場合は、J
PEG処理部106の処理時間が遅い場合に、そのJP
EG処理部106に輝度・色差信号を伝送するためのバ
ッファとして使用しても良い。この場合、JPEG処理
部106の処理の完了を待たずに、YCプロセス部10
4に生画像データを出力してYCデータを生成する処理
を先行して実行することができ、これにより、YCプロ
セス部104における処理が先に完了するので、例えば
YCプロセス部104への電力供給を早めに遮断して節
電したり、システムとしての次の処理動作を実行するこ
とも可能になる。
【0063】また、輝度、色差信号への変換処理が済ん
だ生画像データが記憶されていたメモリ領域112a,
112bを、YCプロセス部104で作成されたYCデ
ータを記憶するためのメモリ領域としてもよい。つま
り、処理済みの生画像データが記憶されていたメモリ領
域は、YCデータエリアとして使用することにより、Y
C処理するデータ単位を増やしても良い。
【0064】また或は、メモリ領域112a,112b
に記憶されている生画像データがYC処理され、所定量
の空きエリアができた時は、次の撮影を行って、新たに
撮影した生画像データを、その空きエリアに格納しても
よい。この場合は、次の撮影までのインターバル時間を
短くでき、撮影チャンスを的確に捉えた撮影ができると
いうメリットがある。
【0065】また、前述の実施の形態では、映像信号の
処理単位を輝度信号8ライン分、色差信号8ライン分単
位で処理してプロセス用メモリ112のYCデータエリ
ア112cに保持した。しかしながら実際は、メモリI
Cの1チップ当りの容量は1Mビット、4Mビット、1
6Mビット、64Mビットというように離散的である。
従って、CCD101からの生画像データやオーバレイ
などのデータを加えても、プロセス用メモリ112のメ
モリ容量に8ライン分以上の映像信号の空きが生じる場
合もある。この様な場合は、8ラインの倍数のデータ単
位で処理及びデータ保持を行っても良い。この場合、Y
Cプロセス部104の電源を早めに落とせるなど、シス
テムの制御シーケンスを考える上で設計上の自由度が増
すという可能性がある。
【0066】更に、前述の実施の形態では、CPU10
8のワークエリア107を、プロセス用メモリ112と
は別に専用に設けたが、このCPU108のワークメモ
リ107もプロセス用メモリ112と共有してもよい。
この場合は更にメモリ容量を削減できるというメリット
がある。しかし、この場合、プロセス用メモリ112へ
のメモリのアクセスを、CPU108と画像データの転
送等のための時間とが分割されるため、全体としての処
理速度が遅くなる場合がある。よって、このようなメモ
リの配分は、装置の目的や要求される機能、性能に応じ
て適用されるべきである。
【0067】なお、本発明は、複数の機器(例えばホス
トコンピュータ,インタフェイス機器,リーダ,プリン
タなど)から構成されるシステムに適用しても、一つの
機器からなる装置(例えば、複写機,ファクシミリ装置
など)に適用してもよい。
【0068】また、本発明の目的は、前述した実施形態
の機能を実現するソフトウェアのプログラムコードを記
録した記憶媒体を、システムあるいは装置に供給し、そ
のシステムあるいは装置のコンピュータ(またはCPU
やMPU)が記憶媒体に格納されたプログラムコードを
読出し実行することによっても達成される。
【0069】この場合、記憶媒体から読出されたプログ
ラムコード自体が前述した実施形態の機能を実現するこ
とになり、そのプログラムコードを記憶した記憶媒体は
本発明を構成することになる。
【0070】プログラムコードを供給するための記憶媒
体としては、例えば、フロッピディスク,ハードディス
ク,光ディスク,光磁気ディスク,CD−ROM,CD
−R,磁気テープ,不揮発性のメモリカード,ROMな
どを用いることができる。
【0071】また、コンピュータが読出したプログラム
コードを実行することにより、前述した実施形態の機能
が実現されるだけでなく、そのプログラムコードの指示
に基づき、コンピュータ上で稼働しているOS(オペレ
ーティングシステム)などが実際の処理の一部または全
部を行い、その処理によって前述した実施形態の機能が
実現される場合も含まれる。
【0072】さらに、記憶媒体から読出されたプログラ
ムコードが、コンピュータに挿入された機能拡張ボード
やコンピュータに接続された機能拡張ユニットに備わる
メモリに書込まれた後、そのプログラムコードの指示に
基づき、その機能拡張ボードや機能拡張ユニットに備わ
るCPUなどが実際の処理の一部または全部を行い、そ
の処理によって前述した実施形態の機能が実現される場
合も含まれる。
【0073】以上説明したように本実施の形態によれ
ば、映像データを圧縮して記録する記録モードと、撮像
素子により撮像された画像を圧縮せずに観察するための
モニタモードと、圧縮された画像データを伸長して表示
手段に表示する再生モードを有する撮像装置において、
メモリ容量の著しい増大を招くことなく、固体撮像素子
の出力信号を処理して映像データを生成することができ
る。
【0074】また本実施の形態によれば、メモリの容量
の増大を招くことなく、フレーム画像を圧縮して、高画
質の画像を得ることができる。
【0075】また本実施の形態によれば、固体撮像素子
の出力信号を処理して映像データを生成するための信号
処理を行う際に、メモリ容量の著しい増大を招くことな
く、固体撮像素子の出力信号を処理し、映像データを生
成するための信号処理、及び映像データとは別のオーバ
レイデータを映像データに重畳して表示することが可能
になる。
【0076】また本実施の形態では、撮像した映像信号
をメモリに記憶する時の撮像素子の画像入力タイミング
と、メモリに記憶された映像信号を処理して再度メモリ
に記憶するための映像信号の読み出し/書込みタイミン
グとを別々にし、その処理済みの映像信号の記憶エリア
を解放することにより、信号処理した映像データを記憶
するためのエリアをメモリに確保できることにより、メ
モリ容量の増大を防止できる。
【0077】また、処理済みの映像データを、例えば後
段のJPEG処理部での処理を容易にするために、例え
ば輝度信号と色差信号のそれぞれに対して少なくとも8
ライン単位として画像処理及び記憶を行うことにより、
映像データを記憶するためのメモリ容量の増大を抑える
ことができる。
【0078】
【発明の効果】以上説明したように本発明によれば、メ
モリ容量を増大させることなく、撮影した映像信号を記
憶して信号処理を行うことができるという効果がある。
【0079】また本発明によれば、撮影した映像信号を
格納するメモリ容量の増大を招くことなく、映像信号を
処理して映像データを生成できるという効果がある。
【0080】
【図面の簡単な説明】
【図1】本実施の形態のカメラの構成を示すブロック図
で、撮影した映像をモニタするモニタモードの場合を示
している。
【図2】本実施の形態のカメラの構成を示すブロック図
で、撮影した映像を記憶媒体に記憶(記録)する記憶
(REC)モードの場合を示している。
【図3】本実施の形態のカメラの構成を示すブロック図
で、記憶媒体に記憶されている映像を再生する再生(P
LAY)モードの場合を示している。
【図4】本実施の形態のカメラにおける処理を示すフロ
ーチャートである。
【図5】従来のカメラの構成を示すブロック図である。
【図6】従来のカメラの構成を示すブロック図である。
【符号の説明】
101 CCD(個体撮像素子) 104 YCプロセス部 106 JPEG処理部 107 CPU用ワークメモリ 108 CPU 109 記憶用メモリ 110 電子ビューファインダ(EVF) 112 プロセス用メモリ 112a 奇数生画像データメモリ領域 112b 偶数生画像データメモリ領域 112c YCデータエリア 112d オーバレイメモリ領域 113 合成部 114 データフロー切替制御部
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.6 識別記号 FI H04N 9/804 H04N 9/80 B 9/808

Claims (20)

    【特許請求の範囲】
  1. 【請求項1】 撮影した映像信号を所定の周期で発生す
    る撮影手段と、 前記撮影手段からの映像信号を第1の所定量記憶する第
    1の記憶手段と、 前記第1の記憶手段に記憶された映像信号を、前記第1
    の所定量より少ない第2の所定量ずつ読み出して信号処
    理する第1の信号処理手段と、 前記第1の信号処理手段により処理された映像データを
    記憶する第2の記憶手段と、 前記第2の記憶手段に記憶された映像データを前記第2
    の所定量単位で処理する第2の信号処理手段と、 映像信号をモニタ表示するための表示手段と、を有する
    ことを特徴とする撮像装置。
  2. 【請求項2】 請求項1に記載の撮像装置であって、前
    記撮影手段により撮影された映像信号を前記表示手段に
    よりモニタする時、前記撮影手段を前記所定の周期で駆
    動し、前記第1の信号処理手段は前記第1の所定量のデ
    ータ単位で前記映像信号を処理して前記表示手段に表示
    することを特徴とする。
  3. 【請求項3】 請求項1に記載の撮像装置であって、前
    記撮影手段により撮影された映像信号を記憶する時、前
    記第1の信号処理手段は、前記所定の周期とは異なる周
    期で、前記第2の所定量のデータ単位で前記映像信号を
    処理することを特徴とする。
  4. 【請求項4】 請求項1乃至3のいずれか1項に記載の
    撮像装置であって、前記第1の信号処理手段は、前記撮
    影手段からの映像信号から輝度信号と色差信号を生成す
    ることを特徴とする。
  5. 【請求項5】 請求項1乃至3のいずれか1項に記載の
    撮像装置であって、前記第2の信号処理手段は前記第2
    の所定量単位で映像データを圧縮することを特徴とす
    る。
  6. 【請求項6】 請求項1乃至5のいずれか1項に記載の
    撮像装置であって、前記第2の信号処理手段により処理
    された映像データを記憶する映像記憶手段を更に有する
    ことを特徴とする。
  7. 【請求項7】 請求項1に記載の撮像装置であって、前
    記第1の記憶手段は映像信号の奇数フィールド及び偶数
    フィールドをそれぞれ別のアドレス空間に記憶すること
    を特徴とする。
  8. 【請求項8】 請求項1に記載の撮像装置であって、前
    記第1の所定量は映像信号の奇数フィールド及び偶数フ
    ィールド単位であることを特徴とする。
  9. 【請求項9】 請求項1に記載の撮像装置であって、前
    記第2の所定量は、前記映像データの少なくとも8ライ
    ン分であることを特徴とする。
  10. 【請求項10】 請求項1乃至9のいずれか1項に記載
    の撮像装置であって、前記映像データは、輝度データと
    色差データを含むことを特徴とする。
  11. 【請求項11】 請求項1乃至10のいずれか1項に記
    載の撮像装置であって、前記第2の信号処理手段は、J
    PEG符号化或は復号化を行う処理部であることを特徴
    とする。
  12. 【請求項12】 請求項1乃至11のいずれか1項に記
    載の撮像装置であって、前記映像データにオーバレイす
    る画像データを記憶する第3の記憶手段と、前記第3の
    記憶手段から読み出した画像データに基づいてオーバレ
    イ表示を行うオーバレイ表示手段とを更に有することを
    特徴とする。
  13. 【請求項13】 撮像部により撮影した映像信号をメモ
    リに記憶する撮像装置におけるメモリ制御方法であっ
    て、 前記撮像部から所定の周期で出力される映像信号を第1
    の所定量単位で前記メモリに記憶する第1の記憶工程
    と、 前記所定の周期とは異なる周期で、前記メモリから前記
    第1の所定量より少ない第2の所定量ずつ前記映像信号
    を読み出して信号処理する信号処理工程と、 前記信号処理工程で信号処理された映像データを前記メ
    モリに記憶する第2の記憶工程と、 前記メモリに記憶された前記映像データを前記第2の所
    定量単位で圧縮する圧縮工程と、 前記圧縮工程により圧縮された映像データを記憶部に記
    憶する工程と、を有することを特徴とする撮像装置にお
    けるメモリ制御方法。
  14. 【請求項14】 請求項13に記載のメモリ制御方法で
    あって、前記第1の記憶工程では、前記映像信号の奇数
    フィールドと偶数フィールドのそれぞれを、前記メモリ
    の別のメモリ空間に記憶することを特徴とする。
  15. 【請求項15】 請求項13に記載のメモリ制御方法で
    あって、前記第2の所定量は、少なくとも8ライン分で
    あることを特徴とする。
  16. 【請求項16】 請求項13に記載のメモリ制御方法で
    あって、前記第2の記憶工程では、前記映像信号の輝度
    信号と色差信号成分を記憶することを特徴とする。
  17. 【請求項17】 請求項13に記載のメモリ制御方法で
    あって、前記メモリにオーバレイ用の画像データを更に
    記憶する工程を有することを特徴とする。
  18. 【請求項18】 請求項13に記載のメモリ制御方法で
    あって、前記第2の記憶工程では、前記第1の記憶工程
    で記憶され、処理済みとなった前記映像信号を消去し、
    これにより前記メモリの空いたメモリエリアに記憶する
    ことを特徴とする。
  19. 【請求項19】 請求項17に記載のメモリ制御方法で
    あって、前記オーバレイデータ用の画像データは、前記
    メモリの処理済みの映像信号或は映像データが記憶され
    ていた部分に記憶されることを特徴とする。
  20. 【請求項20】 請求項13に記載のメモリ制御方法で
    あって、前記圧縮工程は、JPEGによる画像データの
    圧縮を行うことを特徴とする。
JP33991396A 1996-12-19 1996-12-19 撮像装置及び該装置におけるメモリ制御方法 Expired - Fee Related JP3483411B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP33991396A JP3483411B2 (ja) 1996-12-19 1996-12-19 撮像装置及び該装置におけるメモリ制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP33991396A JP3483411B2 (ja) 1996-12-19 1996-12-19 撮像装置及び該装置におけるメモリ制御方法

Publications (2)

Publication Number Publication Date
JPH10178612A true JPH10178612A (ja) 1998-06-30
JP3483411B2 JP3483411B2 (ja) 2004-01-06

Family

ID=18331960

Family Applications (1)

Application Number Title Priority Date Filing Date
JP33991396A Expired - Fee Related JP3483411B2 (ja) 1996-12-19 1996-12-19 撮像装置及び該装置におけるメモリ制御方法

Country Status (1)

Country Link
JP (1) JP3483411B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7382402B2 (en) 2002-07-24 2008-06-03 Matsushita Electric Industrial Co., Ltd. Imaging system
US7424207B2 (en) 2000-02-18 2008-09-09 Sanyo Electric Co., Ltd. Digital camera
JP2009261011A (ja) * 2009-08-05 2009-11-05 Panasonic Corp 撮像装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7424207B2 (en) 2000-02-18 2008-09-09 Sanyo Electric Co., Ltd. Digital camera
US8005342B2 (en) 2000-02-18 2011-08-23 Sanyo Electric Co., Ltd. Digital camera
US7382402B2 (en) 2002-07-24 2008-06-03 Matsushita Electric Industrial Co., Ltd. Imaging system
JP2009261011A (ja) * 2009-08-05 2009-11-05 Panasonic Corp 撮像装置

Also Published As

Publication number Publication date
JP3483411B2 (ja) 2004-01-06

Similar Documents

Publication Publication Date Title
JP2848396B2 (ja) 電子スチルカメラ
KR100541301B1 (ko) 디지탈 카메라
JP2003158653A (ja) ディジタル・ムービ・カメラおよびその動作制御方法
JPH06253251A (ja) デジタル電子カメラ装置
KR100483191B1 (ko) 전자 줌기능을 갖는 디지털 카메라 및 이미지 처리방법
JP3348917B2 (ja) 画像信号処理装置
US7038719B2 (en) Image sensing apparatus, image processing method, recording medium, and program
JPH114402A (ja) テンプレート画像と撮影画像の合成方法,テンプレート画像の記録方法,ディジタルカメラおよびテンプレート画像記録装置
US6661452B1 (en) Digital camera capable of decreasing a required memory capacity
JP3483411B2 (ja) 撮像装置及び該装置におけるメモリ制御方法
JP2000270255A (ja) 電子スチルカメラ及びその制御方法
JP3858447B2 (ja) 電子カメラ装置
JP3253538B2 (ja) 画像処理装置及びその画像処理方法
KR100579029B1 (ko) 디지탈 카메라
JP2929956B2 (ja) ビデオカメラにおける静止画像データの作成方法
JPH11296155A (ja) 表示装置およびその制御方法
US7573511B2 (en) Digital camera
US20020039202A1 (en) Image processor
JP2000101916A (ja) 電子スチルカメラ及びその制御方法
JP3815068B2 (ja) 電子スチルカメラ及びその制御方法
JPH10108133A (ja) 撮像装置及びその制御方法
JP2000115694A (ja) 画像データ記録方法、画像データ記録装置、画像データ再生方法、画像データ再生装置、情報記録媒体及びコンピュータ読み取り可能な記録媒体
JP4016473B2 (ja) 撮像方法及び撮像装置
JPH07322114A (ja) 撮像装置
JP2000115693A (ja) 画像データ記録方法、画像データ記録装置、画像データ再生方法、画像データ再生装置、情報記録媒体及びコンピュータ読み取り可能な記録媒体

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20030926

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071017

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081017

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091017

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091017

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101017

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101017

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111017

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111017

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121017

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131017

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees