JP3384459B2 - Imaging device - Google Patents

Imaging device

Info

Publication number
JP3384459B2
JP3384459B2 JP12416092A JP12416092A JP3384459B2 JP 3384459 B2 JP3384459 B2 JP 3384459B2 JP 12416092 A JP12416092 A JP 12416092A JP 12416092 A JP12416092 A JP 12416092A JP 3384459 B2 JP3384459 B2 JP 3384459B2
Authority
JP
Japan
Prior art keywords
image
camera shake
sampling
signal
detection information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP12416092A
Other languages
Japanese (ja)
Other versions
JPH05316404A (en
Inventor
深雪 岡田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP12416092A priority Critical patent/JP3384459B2/en
Publication of JPH05316404A publication Critical patent/JPH05316404A/en
Application granted granted Critical
Publication of JP3384459B2 publication Critical patent/JP3384459B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】本発明は、ビデオカメラの撮
影時に生ずる手振れにより、撮影画面が大きく揺れる現
象を補正する手振れ補正手段を有する撮像装置に関す
る。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image pickup apparatus having a camera shake correction means for correcting a phenomenon in which a shooting screen is largely shaken due to a camera shake generated when a video camera shoots.

【0002】[0002]

【従来の技術】ビデオカメラを手持ちにより撮影を行う
とき、手振れによる画面の揺れが生ずることはよく知ら
れており、特にズームレンズを望遠側に設定した場合に
は、その現象が顕著に現れる。この様な手振れ現象が生
じた場合には、静止しているものが揺れて動いてしま
い、撮影画像が見にくくなり、目が疲れるという問題が
生ずる。また時には目的とする被写体の一部が瞬間的に
画面から外れてしまうという問題が生じ、さらには手振
れにより被写体がぼけてしまうといった現象も生ずる。
2. Description of the Related Art It is well known that when a video camera is handheld for shooting, a shake of the screen occurs due to camera shake. Especially, when the zoom lens is set to the telephoto side, the phenomenon becomes remarkable. When such a hand shake phenomenon occurs, a stationary object shakes and moves, which makes it difficult to view a captured image and causes eyestrain. Further, sometimes a problem arises in that a part of the target subject is momentarily removed from the screen, and further, a phenomenon occurs in which the subject blurs due to camera shake.

【0003】このような問題を解決するために、ビデオ
カメラの撮影時に生ずる手振れを補正する手段が提案さ
れている。例えば手振れ現象がどの程度であるかを検出
する手振れ検出手段としては、 (1)センサによる速度検出、方向検出 (2)画像処理による動きベクトル検出 が一般的に用いられる。
In order to solve such a problem, there has been proposed a means for correcting camera shake that occurs when a video camera shoots. For example, (1) speed detection by a sensor and direction detection (2) motion vector detection by image processing are generally used as a camera shake detection unit for detecting the degree of the camera shake phenomenon.

【0004】また、前記した手段により手振れ現象を検
出した場合に、撮影画像を補正する補正手段としては、 (1)CCD等のイメージャの画像データの読み出し位
置を変更する手段 (2)画像データを蓄積する画像メモリからの画像デー
タの読み出し位置を変更する手段 が一般的に用いられる。
Further, when the camera shake phenomenon is detected by the above-mentioned means, as a correction means for correcting the photographed image, (1) means for changing the read position of the image data of the imager such as CCD (2) image data A means for changing the read position of the image data to be stored in the image memory is generally used.

【0005】[0005]

【発明が解決しようとする課題】ところで、従来のビデ
オカメラにおける手振れ補正装置によると、前者の手振
れ検出手段はいずれもフィールドに1回、定められたタ
イミングにおける手振れ情報をサンプリングし、これを
処理して前記後者の補正手段等を利用して、画面全体の
補正値を求めるものであった。
By the way, according to the conventional camera shake correction device in a video camera, each of the former camera shake detection means samples the camera shake information at a predetermined timing once in the field and processes it. Then, the correction value of the entire screen is obtained using the latter correction means.

【0006】ところが実際には、手振れ情報はフィール
ドの間で、時々刻々と変化しており、フィールドに1回
の定められたタイミングにおけるサンプリングであって
は、画像全体に対して必ずしも最適な補正値を得ること
は困難である。
However, in actuality, the camera shake information changes from moment to moment between fields, and in the case of sampling at a predetermined timing once in the field, the optimum correction value is not necessarily obtained for the entire image. Is hard to get.

【0007】また、手振れが発生すると、被写体が小刻
みに動くのと等価であるから、1フィールド内でCCD
等のイメージャが電価を蓄積する間にも、被写体が動
き、画像に「ぼけ」が生ずる。これを回避するために、
手振れ補正手段と高速シャッタとを併用することが知ら
れている。高速シャッタを用いると、フィールドの最初
の何分の1かは、電価蓄積が行われず、シャッタが高速
になるほど、画像の中心が後ろへずれる。これに伴っ
て、手振れ情報の取り込みタイミングも、後ろへずらす
必要がある。
Further, when camera shake occurs, it is equivalent to the subject moving in small steps.
While the imager such as the above accumulates the electric charge, the subject moves and "blurring" occurs in the image. To avoid this,
It is known to use the image stabilization means and a high-speed shutter together. With the high speed shutter, no charge accumulation occurs in the first fraction of the field and the faster the shutter, the more the center of the image shifts backward. Along with this, it is necessary to shift the timing of capturing the camera shake information backward.

【0008】本発明はこの様な点に着目して成されたも
のであり、シャッタスピードに応じて演算された画像の
中心に最も近いタイミングの手振れ情報に基づいて、手
振れ補正を行うようにしたビデオカメラにおける手振れ
補正装置を提供することを課題としている。
The present invention has been made paying attention to such a point, and the camera shake correction is performed based on the camera shake information of the timing closest to the center of the image calculated according to the shutter speed. An object is to provide a camera shake correction device for a video camera.

【0009】[0009]

【課題を解決するための手段】前記課題を達成するため
に成された本発明の請求項1に記載の撮像装置は、手振
れ検出手段からもたらされる手振れ検出情報に応じて撮
像素子によって得られる画像信号の読み出し位置を変更
して手振れ補正を行う手振れ補正手段を有する撮像装置
であって、撮像素子の垂直駆動パルスに基づいて、垂直
駆動パルスのオーバサンプリング信号を生成するオーバ
サンプリング信号生成手段と、撮像素子を露出させるシ
ャッタスピードに基づくシャッタ開口区間の中心位置
と、オーバサンプリング信号生成手段によってもたらさ
れる複数のサンプリング信号との関係が設定されたテー
ブルから、1つのサンプリング信号を、シャッタースピ
ードに基づき抽出するサンプリング信号抽出手段と、サ
ンプリング信号抽出手段によって得られるサンプリング
信号に基づいて手振れ検出手段からもたらされる手振れ
検出情報をサンプリングするサンプリング手段とを具備
し、サンプリング手段によってサンプリングされた手振
れ検出情報に基づいて撮像素子によって得られる画像信
号の読み出し位置を変更するようにした点に特徴を有す
る。
The image pickup apparatus according to claim 1 of the present invention, which has been made to achieve the above-mentioned object, is an image obtained by an image pickup device in accordance with camera shake detection information provided by the camera shake detection means. An image pickup apparatus having a camera shake correction means for correcting a camera shake by changing a signal read position, wherein an oversampling signal generation means for generating an oversampling signal of a vertical drive pulse based on a vertical drive pulse of an image pickup element, The relationship between the center position of the shutter opening section based on the shutter speed that exposes the image sensor and the plurality of sampling signals provided by the oversampling signal generation means is set.
One sampling signal from the
Comprising a sampling signal extraction means for extracting, based on the over-de, and sampling means for sampling the vibration detection information resulting from the hand shake detecting means based on the sampling signal obtained by the sampling signal extracting means, shake sampled by the sampling means It is characterized in that the read position of the image signal obtained by the image sensor is changed based on the detection information.

【0010】また、本発明の請求項2に記載の撮像装置
は、請求項1に記載の構成において、さらにサンプリン
グ手段によってサンプリングされた手振れ検出情報に基
づいて、撮像素子によって得られる画像信号を蓄積する
画像メモリからの画像信号の読み出し位置を変更するよ
うにした点に特徴を有する。
According to a second aspect of the present invention, in the image pickup device according to the first aspect, the image pickup element is obtained based on the shake detection information sampled by the sampling means. It is characterized in that the read position of the image signal from the image memory that stores the image signal is changed.

【0011】さらに、本発明の請求項3に記載の撮像装
は、請求項1に記載の構成において、さらにサンプリ
ング手段によってサンプリングされた手振れ検出情報に
基づいて、撮像素子および撮像素子によって得られる画
像信号を蓄積する画像メモリからの画像信号の読み出し
位置をそれぞれ変更するようにした点に特徴を有する。
Further, the image pickup device according to claim 3 of the present invention.
In the arrangement according to claim 1, the image pickup device and the image signal read-out position from the image memory for accumulating the image signal obtained by the image pickup device are respectively based on the camera shake detection information sampled by the sampling means. It has a feature in that it is changed.

【0012】[0012]

【作用】請求項1に記載の撮像装置においては、撮像素
子の垂直駆動パルスに基づいて、垂直駆動パルスのオー
バサンプリング信号を生成するオーバサンプリング信号
生成手段と、前記撮像素子を露出させるシャッタスピー
ドに基づくシャッタ開口区間の中心位置と、前記オーバ
サンプリング信号生成手段によってもたらされる複数の
サンプリング信号との関係が設定されたテーブルから、
1つのサンプリング信号を、シャッタースピードに基づ
抽出するサンプリング信号抽出手段と、サンプリング
信号抽出手段によって得られるサンプリング信号に基づ
いて手振れ検出手段からもたらされる手振れ検出情報を
サンプリングするサンプリング手段とが具備されてお
り、サンプリング手段によってサンプリングされた手振
れ検出情報に基づいて撮像素子によって得られる画像信
号の読み出し位置を変更するように成されるため、シャ
ッタスピードに応じて演算された画像の中心に最も近い
タイミングの手振れ情報に基づいて手振れ補正を行うこ
とができる。
According to the first aspect of the present invention, there is provided an oversampling signal generating means for generating an oversampling signal of a vertical drive pulse based on a vertical drive pulse of the image pickup element, and a shutter speed for exposing the image pickup element. From the table in which the relationship between the center position of the shutter opening section based on the plurality of sampling signals provided by the oversampling signal generating means is set,
One sampling signal based on shutter speed
A sampling signal extracting means for can extract, the sampling signal extraction are provided and a sampling means for sampling the vibration detection information resulting from the hand shake detecting means based on the sampling signal obtained by the means, the hand shake detection sampled by the sampling means Since the read position of the image signal obtained by the image sensor is changed based on the information, the camera shake correction is performed based on the camera shake information at the timing closest to the center of the image calculated according to the shutter speed. You can

【0013】また、請求項2に記載の撮像装置において
は、前記したビデオカメラにおける手振れ補正装置にお
いて、サンプリング手段によってサンプリングされた手
振れ検出情報に基づいて、撮像素子によって得られる画
像信号を蓄積する画像メモリからの画像信号の読み出し
位置を変更するように成される。
Further, in the image pickup device according to the second aspect, in the image stabilizer in the video camera, an image for accumulating an image signal obtained by the image pickup device based on the image pickup detection information sampled by the sampling means. The reading position of the image signal from the memory is changed.

【0014】さらに、請求項3に記載の撮像装置におい
ては、サンプリング手段によってサンプリングされた手
振れ検出情報に基づいて、撮像素子および撮像素子によ
って得られる画像信号を蓄積する画像メモリからの画像
信号の読み出し位置をそれぞれ変更するように成され
る。
Further, in the image pickup device according to the third aspect, the image pickup device and the image memory for accumulating the image signal obtained by the image pickup device based on the camera shake detection information sampled by the sampling means. The read position of the image signal is changed.

【0015】[0015]

【実施例】以下、本発明を図に示す実施例に基づいて説
明する。図1は、本発明の撮像装置の一実施例の構成を
ブロック図で示したものである。この実施例において
は、記録時(撮影時)において手振れを検出し、これを
補正することを前提としており、従って図1は記録系の
ブロックのみを示している。図1における実施例は、手
振れ検出手段として手振れセンサを用い、また撮影画面
を補正する補正手段として、画像メモリからの画像デー
タの読み出し位置を変更する手段を採用した場合を示し
ている。
The present invention will be described below based on the embodiments shown in the drawings. FIG. 1 is a block diagram showing the configuration of an embodiment of the image pickup apparatus of the present invention. In this embodiment, it is premised that hand shake is detected during recording (shooting) and is corrected, and therefore FIG. 1 shows only the blocks of the recording system. The embodiment shown in FIG. 1 shows a case where a camera shake sensor is used as the camera shake detection means, and a means for changing the read position of the image data from the image memory is used as the correction means for correcting the photographing screen.

【0016】前記手振れ検出手段としての手振れセンサ
1は、いわゆる角速度センサが用いられる。この角速度
センサは一般に、上下(垂直)方向のピッチング成分角
速度を検出する垂直センサ1−1と、左右(水平)方向
のヨーイング成分角速度を検出する水平センサ1−2と
を独立に検出する2つのセンサより構成している。そし
て図3(a)に示すように前記垂直センサ1−1の出力
はA/D変換器1−3に供給され、また水平センサ1−
2の出力はA/D変換器1−4に供給される。これら2
つのA/D変換器1−3および1−4からのデジタル出
力はマイクロコンピュータ1−5に供給されて手振れ量
が演算される。
A so-called angular velocity sensor is used as the camera shake sensor 1 as the camera shake detection means. This angular velocity sensor generally includes two sensors that independently detect a vertical sensor 1-1 that detects a vertical (vertical) pitching component angular velocity and a horizontal sensor 1-2 that detects a lateral (horizontal) yawing component angular velocity. It is composed of sensors. As shown in FIG. 3A, the output of the vertical sensor 1-1 is supplied to the A / D converter 1-3, and the horizontal sensor 1-
The output of 2 is supplied to the A / D converter 1-4. These two
Digital outputs from the one A / D converters 1-3 and 1-4 are supplied to the microcomputer 1-5 to calculate the amount of camera shake.

【0017】図3(b)に示した例は垂直センサ1−1
の出力および水平センサ1−2の出力を時分割で選択す
るスイッチ1−6を介してA/D変換器1−7に供給さ
れ、このA/D変換器1−7によってデジタル変換され
た出力がマイクロコンピュータ1−5に供給されて手振
れ量が演算される。さらに図3(c)に示した例は垂直
センサ1−1の出力および水平センサ1−2の出力がマ
イクロコンピュータ1−9のA/D入力端子に供給さ
れ、マイクロコンピュータ1−9内において、それぞれ
デジタル変換されて手振れ量が演算される。
The example shown in FIG. 3B is a vertical sensor 1-1.
Of the output of the horizontal sensor 1-2 and the output of the horizontal sensor 1-2 are supplied to the A / D converter 1-7 via the switch 1-6, which is digitally converted by the A / D converter 1-7. Is supplied to the microcomputer 1-5 to calculate the amount of camera shake. Further, in the example shown in FIG. 3C, the output of the vertical sensor 1-1 and the output of the horizontal sensor 1-2 are supplied to the A / D input terminal of the microcomputer 1-9, and in the microcomputer 1-9, Each is digitally converted and the amount of camera shake is calculated.

【0018】これら、図3(a)乃至(c)に示したい
ずれの例を採用するにしても、マイクロコンピュータ1
−5,1−8,1−9からの出力がサンプリングおよび
フィルタリング回路2に供給される。
Whichever of the examples shown in FIGS. 3A to 3C is adopted, the microcomputer 1 is used.
The outputs from -5, 1-8 and 1-9 are supplied to the sampling and filtering circuit 2.

【0019】前記サンプリングおよびフィルタリング回
路2には、例えばCCD等の撮像素子より構成するイメ
ージャ3からもたらされる輝度信号が供給される。イメ
ージャ3からサンプリングおよびフィルタリング回路2
に対してもたらされる輝度信号は、自動露出撮影モード
においては、前記イメージャ3を露出させるシャッタス
ピードを定めるために利用される。
The sampling and filtering circuit 2 is supplied with a luminance signal provided by an imager 3 which is composed of an image pickup device such as a CCD. Imager 3 to sampling and filtering circuit 2
The luminance signal provided to the image sensor is used to determine the shutter speed at which the imager 3 is exposed in the automatic exposure photographing mode.

【0020】また、前記サンプリングおよびフィルタリ
ング回路2には、シャッタスピード切り換え回路4から
の出力も供給されるよう成されており、これはマニュア
ル露出撮影モードにおいて、マニュアルによって設定さ
れたシャッタスピードで前記イメージャ3を露出させる
場合に出力が供給される。
The sampling and filtering circuit 2 is also adapted to be supplied with the output from the shutter speed switching circuit 4, which operates in the manual exposure photographing mode at the shutter speed set manually. Output is provided when exposing 3.

【0021】一方、前記サンプリングおよびフィルタリ
ング回路2およびイメージャ3には、オーバサンプリン
グ信号生成手段を構成するタイミングジェネレータ5か
らのパルス信号がそれぞれ供給されている。このタイミ
ングジェネレータ5は、図4(a)に示すように、前記
イメージャ3の垂直駆動パルス、すなわちVDパルスを
前記イメージャ3に対してVリセット信号として供給
し、また図4(c)に示すようにVDパルスを8倍にオ
ーバサンプリングして成るオーバサンプリング信号が前
記サンプリングおよびフィルタリング回路2に供給され
る。
On the other hand, the sampling and filtering circuit 2 and the imager 3 are each supplied with a pulse signal from a timing generator 5 which constitutes an oversampling signal generating means. The timing generator 5 supplies a vertical drive pulse for the imager 3, that is, a VD pulse, as a V reset signal to the imager 3 as shown in FIG. 4A, and as shown in FIG. An oversampling signal obtained by oversampling the VD pulse by 8 times is supplied to the sampling and filtering circuit 2.

【0022】そして自動露出撮影モードにおいては、サ
ンプリングおよびフィルタリング回路2は、イメージャ
3からもたらされる輝度信号を検出し、輝度信号に応じ
てイメージャ3を1/60秒(1フィールド)の周期で
露出させるシャッタスピード(シャッタ開口時間)が決
定される。またマニュアル露出撮影モードにおいては、
サンプリングおよびフィルタリング回路2には、前記シ
ャッタスピード切り換え回路4からの出力を受けて、マ
ニュアルで設定されたシャッタスピードの情報が取り込
まれる。
In the automatic exposure photographing mode, the sampling and filtering circuit 2 detects the luminance signal supplied from the imager 3 and exposes the imager 3 in a cycle of 1/60 second (1 field) according to the luminance signal. The shutter speed (shutter opening time) is determined. In the manual exposure shooting mode,
The sampling and filtering circuit 2 receives the output from the shutter speed switching circuit 4 and fetches the manually set shutter speed information.

【0023】ここで、サンプリングおよびフィルタリン
グ回路2は、サンプリング信号抽出手段を兼ねており、
前記シャッタ速度に基づいて、シャッタ開口区間の中心
位置に対応したサンプリング信号を、前記オーバサンプ
リング信号生成手段、すなわち、タイミングジェネレー
タ5によってもたらされる複数のサンプリング信号より
抽出する。
Here, the sampling and filtering circuit 2 also serves as sampling signal extracting means,
A sampling signal corresponding to the central position of the shutter opening section is extracted from the plurality of sampling signals provided by the oversampling signal generating means, that is, the timing generator 5 based on the shutter speed.

【0024】例えばシャッタスピードが1/125秒で
ある場合には、図4(b)に示すように、1フィールド
の後半の約1/2においてシャッタがオープンすること
になる。この時のシャッタ開口区間の中心位置は、図4
(c)に示す8倍のオーバサンプリング信号の第6番目
のサンプリング信号が、最も近いものとなる。この時、
シャッタスピードと、それに対応して抽出されるサンプ
リング信号との関係は、図5に示すテーブルより求める
ことができる。図5に示すように、シャッタスピードは
5ビットのシャッタスピードコードとしてコード化され
ており、それぞれのシャッタスピードコードに応じてそ
の右側に記載されたシャッタスピードが求められる。そ
してシャッタスピードに応じてシャッタ開口区間の中心
がフィールドの先端からどれだけ遅れた時刻にあるかの
関係が、画像の中心として求められる。
For example, when the shutter speed is 1/125 second, the shutter opens in about half of the latter half of one field as shown in FIG. 4 (b). The center position of the shutter opening section at this time is shown in FIG.
The sixth sampling signal of the eight times oversampling signal shown in (c) is the closest one. This time,
The relationship between the shutter speed and the sampling signal extracted corresponding thereto can be obtained from the table shown in FIG. As shown in FIG. 5, the shutter speed is coded as a 5-bit shutter speed code, and the shutter speed described on the right side of the shutter speed code is required according to each shutter speed code. Then, the relationship of how much the center of the shutter opening section is delayed from the front end of the field according to the shutter speed is obtained as the center of the image.

【0025】例えばシャッタスピードが1/60秒の場
合には、画像の中心はフィールドの先頭から“0.5”
の位置であり、シャッタスピードが上昇するに従って画
像の中心はフィールドの後方に移行する。そして例えば
シャッタスピードが1/10000秒の場合には、画像
の中心はフィールドの先頭から“0.997”の位置に
移行する。この画像の中心位置に最も近いサンプリング
信号のナンバを求めたものが、図5の使用サンプルで示
されている。
For example, when the shutter speed is 1/60 second, the center of the image is "0.5" from the beginning of the field.
The image center shifts to the rear of the field as the shutter speed increases. Then, for example, when the shutter speed is 1/10000 second, the center of the image shifts to the position "0.997" from the beginning of the field. Obtaining the number of the sampling signal closest to the center position of this image is shown in the sample used in FIG.

【0026】例えば、シャッタスピードが1/60秒の
場合には、8倍のオーバサンプリング信号の第4番目の
サンプリング信号が、画像の中心に最も近い位置にある
ことになり、シャッタスピードが1/10000秒の場
合には、8倍のオーバサンプリング信号の第7番目のサ
ンプリング信号が、画像の中心に最も近い位置にあるこ
とになる。
For example, when the shutter speed is 1/60 second, the fourth sampling signal of the 8 times oversampling signal is located closest to the center of the image, and the shutter speed is 1 / 60th. In the case of 10000 seconds, the 7th sampling signal of the 8 times oversampling signal is located closest to the center of the image.

【0027】前記サンプリングおよびフィルタリング回
路2は、サンプリング手段を兼ねており、図5に示した
テーブルに基づいて、画像の中心に最も近い位置にある
サンプリング信号によって、手振れセンサ1から供給さ
れる手振れ検出情報をサンプリングする。図4(d)は
この時サンプリングされる手振れ検出情報を示してい
る。
The sampling and filtering circuit 2 also serves as sampling means, and based on the table shown in FIG. 5, the camera shake detection supplied from the camera shake sensor 1 by the sampling signal located at the position closest to the center of the image. Sample information. FIG. 4D shows camera shake detection information sampled at this time.

【0028】図6は、シャッタスピードが1/60秒の
場合と1/125秒の場合のサンプリングタイミングの
関係を例示したものである。図6(a)は、図4に示し
たと同様のVDパルスを示し、図6(b)におけるAは
図4(d)に示したと同様の手振れ検出情報を示す。そ
して図6(c)に示した矢印は、シャッタスピードが1
/60秒の場合のサンプリンクポイントを示しており、
図6(d)に示した矢印はシャッタスピードが1/12
5秒の場合のサンプリンクポイントを示している。この
結果、シャッタスピードが1/60秒の場合には、図6
(b)においてBの実線で示す手振れ検出情報が得ら
れ、またシャッタスピードが1/125秒の場合には、
図6(b)においてCの破線で示す手振れ検出情報が得
られることになる。
FIG. 6 illustrates the relationship between sampling timings when the shutter speed is 1/60 second and 1/125 second. FIG. 6A shows the same VD pulse as that shown in FIG. 4, and A in FIG. 6B shows the same camera shake detection information as that shown in FIG. 4D. The arrow shown in FIG. 6C indicates that the shutter speed is 1
It shows the sampling point in the case of / 60 seconds,
The arrow shown in FIG. 6D indicates that the shutter speed is 1/12.
The sampling point in the case of 5 seconds is shown. As a result, when the shutter speed is 1/60 second, as shown in FIG.
In the case where the camera shake detection information indicated by the solid line B is obtained in (b) and the shutter speed is 1/125 second,
The camera shake detection information indicated by the broken line C in FIG. 6B is obtained.

【0029】こうしてサンプリングされた手振れ検出情
報は、フィルタリングされてサンプリングおよびフィル
タリング回路2よりメモリコントローラ6に供給され
る。メモリコントローラ6は、画像メモリ7および電子
拡大回路8に対し、サンプリングされた手振れ検出情報
に基づいて読み出し制御信号を供給する。すなわち、画
像メモリ7には前記イメージャ3によって得られた画像
信号が蓄積されており、画像メモリ7に蓄積された画像
信号の読み出し位置をサンプリングされた手振れ検出情
報に基づいて変更するように成される。
The camera shake detection information sampled in this way is filtered and supplied from the sampling and filtering circuit 2 to the memory controller 6. The memory controller 6 supplies a read control signal to the image memory 7 and the electronic enlarging circuit 8 based on the sampled camera shake detection information. That is, the image signal obtained by the imager 3 is stored in the image memory 7, and the read position of the image signal stored in the image memory 7 is changed based on the sampled camera shake detection information. It

【0030】図7は、その作用を説明するものであり、
図7(a)は手振れ現象がなく、手振れ補正量がゼロで
ある場合を、また図7(b)は手振れ現象が生じ、手振
れ補正が行われる場合をそれぞれ示している。まず手振
れ現象がなく、手振れ補正量がゼロである場合には、図
7(a)に示すようにイメージャ1から供給される有効
メモリ領域Dの中央部分Eが画像メモリ7より読み出さ
れる。そして画像メモリ7より読み出された中央部分E
に対応する部分が電子拡大回路8により拡大されFとし
て示す画像が得られる。また手振れ現象が生じた場合に
は、図7(b)に示すように、前記メモリコントローラ
6から供給される読み出し制御信号によって、有効メモ
リ領域Dの中央部分Eに対し、垂直方向の手振れ量に対
応した例えば補正量+vが加えられ、また水平方向の手
振れ量に対応した例えば補正量−hが加えられて成る位
置E´に対応する部分が読み出され、これが電子拡大回
路8により拡大されてF´として示す画像が得られる。
FIG. 7 illustrates the operation,
FIG. 7A shows the case where there is no camera shake phenomenon and the camera shake correction amount is zero, and FIG. 7B shows the case where the camera shake phenomenon occurs and camera shake correction is performed. First, when there is no camera shake phenomenon and the camera shake correction amount is zero, the central portion E of the effective memory area D supplied from the imager 1 is read from the image memory 7 as shown in FIG. 7A. Then, the central portion E read from the image memory 7
The portion corresponding to is enlarged by the electronic enlargement circuit 8 and an image shown as F is obtained. Further, when a hand shake phenomenon occurs, as shown in FIG. 7B, the read control signal supplied from the memory controller 6 causes the hand shake amount in the vertical direction with respect to the central portion E of the effective memory area D. A portion corresponding to the position E ′, which is formed by adding a corresponding correction amount + v, for example, and by adding a correction amount −h corresponding to the horizontal shake amount, is read out and enlarged by the electronic enlargement circuit 8. An image shown as F'is obtained.

【0031】この結果、電子拡大回路8より得られる画
像信号は、手振れによって生じた画像の揺れに相当する
補正が施され、図7(a)に対してほぼ変化のない図7
(b)示したような静止画面が得られることになる。
As a result, the image signal obtained from the electronic enlarging circuit 8 is subjected to correction corresponding to the image shake caused by camera shake, and there is almost no change from that in FIG. 7A.
(B) A still screen as shown is obtained.

【0032】こうして手振れ補正が成された画像信号
は、記録系信号処理回路9に供給され、これによって信
号処理され、記録ヘッド10によって記録媒体である磁
気テープ11に対して記録される。
The image signal thus subjected to the camera shake correction is supplied to the recording system signal processing circuit 9, where it is signal-processed and recorded by the recording head 10 on the magnetic tape 11 which is a recording medium.

【0033】以上の構成は、サンプリング手段を構成す
るサンプリングおよびフィルタリング回路2によってサ
ンプリングされた手振れ検出情報に基づいて、イメージ
ャ3によって得られる画像信号を蓄積する画像メモリ7
からの画像信号の読み出し位置を変更するようにした例
を示したが、図2に示すような構成を採用することもで
きる。
With the above configuration, the image memory 7 for accumulating the image signal obtained by the imager 3 based on the camera shake detection information sampled by the sampling and filtering circuit 2 which constitutes the sampling means.
Although the example is shown in which the read position of the image signal from is changed, the configuration as shown in FIG. 2 can also be adopted.

【0034】図2に示す構成は、サンプリング手段によ
ってサンプリングされた手振れ検出情報に基づいて、イ
メージャ3およびイメージャ3によって得られる画像信
号を蓄積する画像メモリ7からの画像信号の読み出し位
置をそれぞれ変更するようにした場合を示す。すなわち
図2において、図1と同一符号部分は同一の機能を達成
するものであり、従ってその詳細な説明は省略する。
In the configuration shown in FIG. 2, the read position of the image signal from the imager 3 and the image memory 7 for accumulating the image signal obtained by the imager 3 is changed based on the camera shake detection information sampled by the sampling means. The following shows the case. That is, in FIG. 2, the same reference numerals as those in FIG. 1 achieve the same functions, and therefore detailed description thereof will be omitted.

【0035】図2に示す例においては、手振れセンサ1
より供給される手振れ検出情報はサンプリングおよびフ
ィルタリング回路2によってシャッタスピードに応じた
サンプリングタイミングによってサンプリングされ、サ
ンプリングおよびフィルタリング回路2より読み出し制
御信号としてイメージャ3に供給される。ここで、サン
プリングおよびフィルタリング回路2よりイメージャ3
に供給される制御信号は、イメージャ3におけるVリセ
ット信号として作用する。すなわち、垂直方向の手振れ
情報に基づいてフィールド毎に補正されたタイミングの
Vリセット信号が供給され、イメージャ3における垂直
方向の画像信号の読み出し開始位置が手振れ情報によっ
て補正される。この結果、イメージャ3から画像メモリ
7に対して供給される画像信号は、垂直方向の手振れが
補正されたものとなる。
In the example shown in FIG. 2, the camera shake sensor 1
The camera shake detection information supplied by the sampling is sampled by the sampling and filtering circuit 2 at a sampling timing corresponding to the shutter speed, and is supplied from the sampling and filtering circuit 2 to the imager 3 as a read control signal. Here, the sampling and filtering circuit 2 causes the imager 3
The control signal supplied to the image sensor 3 acts as a V reset signal in the imager 3. That is, the V reset signal at the timing corrected for each field based on the vertical shake information is supplied, and the vertical image signal read start position in the imager 3 is corrected by the shake information. As a result, the image signal supplied from the imager 3 to the image memory 7 is one in which the camera shake in the vertical direction has been corrected.

【0036】従って、画像メモリ7に蓄積される画像信
号は垂直方向の手振れが補正されたものとなっており、
前記メモリコントローラ6から画像メモリ7に対して供
給される読み出し制御信号は、水平方向の手振れを補正
すべく、水平方向の手振れ量に対応した補正量が加えら
れた位置より画像信号を読み出すように成される。
Therefore, the image signal stored in the image memory 7 is one in which camera shake in the vertical direction has been corrected,
The read control signal supplied from the memory controller 6 to the image memory 7 reads the image signal from a position where a correction amount corresponding to the horizontal shake amount is added in order to correct the horizontal shake. Is made.

【0037】以上のとおり、図2に示す構成は、垂直方
向の手振れをイメージャ3からの画像信号の読み出し位
置を変更することで補正するようにし、水平方向の手振
れを画像メモリ7からの画像信号の読み出し位置を変更
することで補正するように成される。
As described above, in the configuration shown in FIG. 2, the vertical camera shake is corrected by changing the read position of the image signal from the imager 3, and the horizontal camera shake is corrected by the image signal from the image memory 7. The correction is performed by changing the read position of.

【0038】また、以上の説明から容易に想起し得るよ
うに、垂直方向の手振れを画像メモリ7からの画像信号
の読み出し位置を変更することで補正するようにし、水
平方向の手振れをイメージャ3からの画像の信号読み出
し位置を変更することで補正するようにすることもでき
る。
Further, as can be easily recalled from the above description, the camera shake in the vertical direction is corrected by changing the read position of the image signal from the image memory 7, and the camera shake in the horizontal direction is corrected by the imager 3. It is also possible to perform correction by changing the signal read position of the image.

【0039】さらに図8に示すように、撮像素子すなわ
ちイメージャ3の有効画面G内に手振れ補正用のエリア
Hを上下左右方向にブランキングとして保有し、このブ
ランキング部分を利用して、手振れ検出情報に応じてイ
メージャ3の上下方向および左右方向の画像信号の読み
出し位置をフレーム毎に変更させるように構成すると、
前記した図1または図2に示すように、特に画像メモリ
7を具備する必要性はなくなる。
Further, as shown in FIG. 8, an image pickup element, that is, an effective screen G of the imager 3, has an image-shake correction area H held in the vertical and horizontal directions as blanking, and this image blanking portion is used to detect an image-shake. If the vertical and horizontal image signal read positions of the imager 3 are changed frame by frame in accordance with information,
As shown in FIG. 1 or 2, the image memory 7 need not be provided in particular.

【0040】[0040]

【発明の効果】以上の説明で明らかなように、請求項1
に記載の撮像装置によれば、イメージャの垂直駆動パル
スに基づいて、垂直駆動パルスのオーバサンプリング信
号を生成するオーバサンプリング信号生成手段と、前記
撮像素子を露出させるシャッタスピードに基づくシャッ
タ開口区間の中心位置と、オーバサンプリング信号生成
手段によってもたらされる複数のサンプリング信号との
関係が設定されたテーブルから、1つのサンプリング信
号が、シャッタースピードに基づき抽出するサンプリン
グ信号抽出手段と、サンプリング信号抽出手段によって
得られるサンプリング信号に基づいて手振れ検出手段か
らもたらされる手振れ検出情報をサンプリングするサン
プリング手段とを具備し、サンプリング手段によってサ
ンプリングされた手振れ検出情報に基づいて前記イメー
ジャによって得られる画像信号の読み出し位置を変更す
るよう成される。
As is apparent from the above description, claim 1
According to the image pickup apparatus described in (1), an oversampling signal generation unit that generates an oversampling signal of a vertical drive pulse based on a vertical drive pulse of an imager, and a center of a shutter opening section based on a shutter speed that exposes the image pickup element. From the table in which the relationship between the position and the plurality of sampling signals provided by the oversampling signal generating means is set, one sampling signal is set.
No. includes sampling signal extracting means for extracting on the basis of the shutter speed, and sampling means for sampling camera shake detection information provided by the camera shake detecting means on the basis of the sampling signal obtained by the sampling signal extracting means, and sampling by the sampling means. The read position of the image signal obtained by the imager is changed based on the detected camera shake detection information.

【0041】従って、シャッタスピードに応じて演算さ
れた画像の中心に最も近いタイミングの手振れ情報に基
づいて、手振れ補正が行なわれ、高域の手振れに対して
も揺れの少ない画像を得ることができる。
Therefore, camera shake correction is performed based on the camera shake information at the timing closest to the center of the image calculated according to the shutter speed, and an image with less shaking can be obtained even in a high range camera shake. .

【0042】また、請求項2に記載の撮像装置によれ
ば、前記したビデオカメラにおける手振れ補正装置にお
いて、サンプリング手段によってサンプリングされた手
振れ検出情報に基づいて、イメージャによって得られる
画像信号を蓄積する画像メモリからの画像信号の読み出
し位置を変更するように成される。このために前記した
独自の効果に加え、さらにCCD等で構成されるイメー
ジャが保有する画素の大部分を有効に使用することがで
きるようになるため、解像度を犠牲にすることのない手
振れ補正装置を提供することが可能となる。
Further, according to the image pickup device of the second aspect, in the image stabilization device in the video camera, an image for accumulating an image signal obtained by the imager based on the image stabilization information sampled by the sampling means. The reading position of the image signal from the memory is changed. For this reason, in addition to the above-described unique effect, most of the pixels possessed by the imager composed of a CCD or the like can be effectively used, so that the image stabilization apparatus does not sacrifice resolution. Can be provided.

【0043】さらに、請求項3に記載の撮像装置によれ
ば、サンプリング手段によってサンプリングされた手振
れ検出情報に基づいて、イメージャおよびイメージャに
よって得られる画像信号を蓄積する画像メモリの双方か
らの画像信号の読み出し位置をそれぞれ変更するように
成される。このため、例えば垂直方向の揺れに対する補
正をイメージャの読み出し位置で補正し、水平方向の揺
れに対する補正を画像メモリの読み出し位置で補正する
ことができ、比較的容量の少ない画像メモリを使用する
ことが可能となる。
Further, according to the image pickup device of the third aspect, the image signals from both the imager and the image memory for accumulating the image signals obtained by the imager are generated based on the camera shake detection information sampled by the sampling means. The reading position is changed respectively. Therefore, for example, the correction for the vertical shake can be corrected at the read-out position of the imager, and the correction for the horizontal shake can be corrected at the read-out position of the image memory, and an image memory having a relatively small capacity can be used. It will be possible.

【図面の簡単な説明】[Brief description of drawings]

【図1】本発明の撮像装置の一実施例の構成を示すブロ
ック図である。
FIG. 1 is a block diagram showing the configuration of an embodiment of an image pickup apparatus of the present invention.

【図2】本発明の撮像装置の他の実施例の構成を示すブ
ロック図である。
FIG. 2 is a block diagram showing the configuration of another embodiment of the image pickup apparatus of the present invention.

【図3】手振れセンサからの手振れ検出情報を取り込む
場合の例を示したブロック図である。
FIG. 3 is a block diagram showing an example of a case in which camera shake detection information is captured from a camera shake sensor.

【図4】手振れ検出情報をサンプリングする状態を示し
たタイミング図である。
FIG. 4 is a timing chart showing a state in which camera shake detection information is sampled.

【図5】シャッタスピードと使用サンプルとの関係を示
したテーブル図である。
FIG. 5 is a table showing the relationship between shutter speed and used samples.

【図6】シャッタスピードに応じて手振れ検出情報がサ
ンプリングされる状況を示すタイミング図である。
FIG. 6 is a timing chart showing a situation in which camera shake detection information is sampled according to shutter speed.

【図7】画像メモリにおける画像信号の読み出し状況を
説明する模式図である。
FIG. 7 is a schematic diagram illustrating how an image signal is read out from an image memory.

【図8】本発明の撮像装置のその他の実施例に使用され
るイメージャの構成を示す正面図である。
FIG. 8 is a front view showing the configuration of an imager used in another embodiment of the image pickup apparatus of the present invention.

【符号の説明】[Explanation of symbols]

1 手振れセンサ(手振れ検出手段) 2 サンプリングおよびフィルタリング回路(サンプリ
ング信号抽出手段、サンプリング手段) 3 イメージャ(撮像素子) 4 シャッタスピード切り換え回路 5 タイミングジェネレータ(オーバサンプリング信号
生成手段) 6 メモリコントローラ 7 画像メモリ 8 電子拡大回路 9 記録系信号処理回路 10 記録ヘッド 11 磁気テープ
DESCRIPTION OF SYMBOLS 1 Shake sensor (shake detection means) 2 Sampling and filtering circuit (sampling signal extraction means, sampling means) 3 Imager (imaging device) 4 Shutter speed switching circuit 5 Timing generator (oversampling signal generation means) 6 Memory controller 7 Image memory 8 Electronic expansion circuit 9 Recording system signal processing circuit 10 Recording head 11 Magnetic tape

Claims (3)

(57)【特許請求の範囲】(57) [Claims] 【請求項1】 手振れ検出手段からもたらされる手振れ
検出情報に応じて撮像素子によって得られる画像信号の
読み出し位置を変更して手振れ補正を行う手振れ補正手
段を有する撮像装置において、 前記撮像素子の垂直駆動パルスに基づいて、垂直駆動パ
ルスのオーバサンプリング信号を生成するオーバサンプ
リング信号生成手段と、 前記撮像素子を露出させるシャッタスピードに基づくシ
ャッタ開口区間の中心位置と、前記オーバサンプリング
信号生成手段によってもたらされる複数のサンプリング
信号との関係が設定されたテーブルから、1つのサンプ
リング信号を、前記シャッタースピードに基づき抽出す
るサンプリング信号抽出手段と、 前記サンプリング信号抽出手段によって得られる前記サ
ンプリング信号に基づいて前記手振れ検出手段からもた
らされる手振れ検出情報をサンプリングするサンプリン
グ手段とを具備し、 前記サンプリング手段によってサンプリングされた手振
れ検出情報に基づいて前記撮像素子によって得られる画
像信号の読み出し位置を変更するようにした手振れ補正
手段を有することを特徴とする撮像装置。
1. An image pickup apparatus having a camera shake correction unit for correcting a camera shake by changing a read position of an image signal obtained by the image sensor according to camera shake detection information provided by the camera shake detection unit. Oversampling signal generating means for generating an oversampling signal of a vertical drive pulse based on the pulse, a center position of a shutter opening section based on a shutter speed for exposing the image pickup device, and a plurality of means provided by the oversampling signal generating means. From the table in which the relationship with the sampling signal of
Sampling signal extracting means for extracting a ring signal based on the shutter speed, and sampling means for sampling camera shake detection information provided from the camera shake detecting means based on the sampling signal obtained by the sampling signal extracting means. An image pickup apparatus comprising a camera shake correction unit configured to change a read position of an image signal obtained by the image sensor based on the camera shake detection information sampled by the sampling unit.
【請求項2】 前記サンプリング手段によってサンプリ
ングされた手振れ検出情報に基づいて、撮像素子によっ
て得られる画像信号を蓄積する画像メモリからの画像信
号の読み出し位置を変更するようにした手振れ補正手段
を有することを特徴とする請求項1に記載の撮像装置。
2. A camera shake correction means adapted to change a read position of an image signal from an image memory for accumulating an image signal obtained by an image pickup device based on the camera shake detection information sampled by the sampling means. The image pickup apparatus according to claim 1, wherein:
【請求項3】 前記サンプリング手段によってサンプリ
ングされた手振れ検出情報に基づいて、撮像素子および
撮像素子によって得られる画像信号を蓄積する画像メモ
リからの画像信号の読み出し位置をそれぞれ変更するよ
うにした手振れ補正手段を有することを特徴とする請求
項1に記載の撮像装置。
3. A camera shake correction in which an image signal read position from an image sensor and an image memory for accumulating an image signal obtained by the image sensor is changed based on the camera shake detection information sampled by the sampling means. The image pickup apparatus according to claim 1, further comprising means.
JP12416092A 1992-04-17 1992-04-17 Imaging device Expired - Lifetime JP3384459B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP12416092A JP3384459B2 (en) 1992-04-17 1992-04-17 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP12416092A JP3384459B2 (en) 1992-04-17 1992-04-17 Imaging device

Publications (2)

Publication Number Publication Date
JPH05316404A JPH05316404A (en) 1993-11-26
JP3384459B2 true JP3384459B2 (en) 2003-03-10

Family

ID=14878430

Family Applications (1)

Application Number Title Priority Date Filing Date
JP12416092A Expired - Lifetime JP3384459B2 (en) 1992-04-17 1992-04-17 Imaging device

Country Status (1)

Country Link
JP (1) JP3384459B2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7692688B2 (en) 2006-02-13 2010-04-06 Sony Corporation Method for correcting distortion of captured image, device for correcting distortion of captured image, and imaging device
US7821540B2 (en) 2006-02-20 2010-10-26 Sony Corporation Imager-created image signal-distortion compensation method, imager-created image signal-distortion compensation apparatus, image taking method and image taking apparatus
US8009872B2 (en) 2006-02-01 2011-08-30 Sony Corporation Taken-image signal-distortion compensation method, taken-image signal-distortion compensation apparatus, image taking method and image-taking apparatus
US8264551B2 (en) 2004-12-28 2012-09-11 Sony Corporation Methods for correcting distortions of image-taking video signals and apparatus for correcting distortions of image-taking video signals

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6982746B1 (en) 1998-02-24 2006-01-03 Canon Kabushiki Kaisha Apparatus and method for correcting shake by controlling sampling timing of shake signal
JP4310645B2 (en) 2004-12-28 2009-08-12 ソニー株式会社 Method for correcting distortion of captured image signal and distortion correction apparatus for captured image signal
JP4665541B2 (en) * 2005-02-08 2011-04-06 セイコーエプソン株式会社 Imaging apparatus and camera shake correction method
JP4661277B2 (en) * 2005-03-10 2011-03-30 セイコーエプソン株式会社 Imaging apparatus and camera shake correction processing method
JP4274233B2 (en) 2006-11-30 2009-06-03 ソニー株式会社 Imaging apparatus, image processing apparatus, image processing method therefor, and program causing computer to execute the method
JP2009017030A (en) 2007-07-02 2009-01-22 Sony Corp Image imaging apparatus, and imaging control method
JP4982341B2 (en) * 2007-11-30 2012-07-25 オンセミコンダクター・トレーディング・リミテッド Anti-vibration control circuit for imaging device

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8264551B2 (en) 2004-12-28 2012-09-11 Sony Corporation Methods for correcting distortions of image-taking video signals and apparatus for correcting distortions of image-taking video signals
US8009872B2 (en) 2006-02-01 2011-08-30 Sony Corporation Taken-image signal-distortion compensation method, taken-image signal-distortion compensation apparatus, image taking method and image-taking apparatus
USRE45231E1 (en) 2006-02-01 2014-11-04 Sony Corporation Taken-image signal-distortion compensation method, taken-image signal-distortion compensation apparatus, image taking method and image-taking apparatus
US7692688B2 (en) 2006-02-13 2010-04-06 Sony Corporation Method for correcting distortion of captured image, device for correcting distortion of captured image, and imaging device
US7821540B2 (en) 2006-02-20 2010-10-26 Sony Corporation Imager-created image signal-distortion compensation method, imager-created image signal-distortion compensation apparatus, image taking method and image taking apparatus

Also Published As

Publication number Publication date
JPH05316404A (en) 1993-11-26

Similar Documents

Publication Publication Date Title
JP4401949B2 (en) Moving picture imaging apparatus and moving picture imaging method
JP4434939B2 (en) Imaging apparatus and control method thereof
JP2006317848A (en) Still picture imaging apparatus
JP3384459B2 (en) Imaging device
JP4390274B2 (en) Imaging apparatus and control method
JP2009130577A (en) Imaging device and its program
JP4281724B2 (en) Imaging apparatus and method
JP3279342B2 (en) Camera shake correction device for video cameras
JP4200767B2 (en) Blur correction device and camera
JPH01146476A (en) High-sensitive television camera
JP3298211B2 (en) Video camera and video playback device
JP2011135537A (en) Imaging apparatus and control method of the same
JPH11224324A (en) Image signal processing method and device
JP3937795B2 (en) Imaging apparatus, image interpolation method, recording medium, and program
JP7214424B2 (en) Imaging device and its control method
JP3697050B2 (en) Imaging method and apparatus, and storage medium
JP4011723B2 (en) Imaging method and apparatus, and storage medium
JP2924805B2 (en) High-sensitivity camera device for head monitoring
JP2010081422A (en) Photographing apparatus
JP2877523B2 (en) Video camera with electronic viewfinder
JP3460382B2 (en) Image stabilizer and video camera
JP3053681B2 (en) Image stabilization device
JP2962240B2 (en) High sensitivity camera device for remote control head
JPH10164412A (en) Digital still camera
JPH11308523A (en) Image pickup device

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20021128

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071227

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081227

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091227

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091227

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101227

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111227

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121227

Year of fee payment: 10

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121227

Year of fee payment: 10