JP2003078808A - Device and method for detecting motion vector, device and method for correcting camera shake and imaging apparatus - Google Patents

Device and method for detecting motion vector, device and method for correcting camera shake and imaging apparatus

Info

Publication number
JP2003078808A
JP2003078808A JP2001264382A JP2001264382A JP2003078808A JP 2003078808 A JP2003078808 A JP 2003078808A JP 2001264382 A JP2001264382 A JP 2001264382A JP 2001264382 A JP2001264382 A JP 2001264382A JP 2003078808 A JP2003078808 A JP 2003078808A
Authority
JP
Japan
Prior art keywords
motion vector
field
frame
video signal
representative point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2001264382A
Other languages
Japanese (ja)
Inventor
Hirobumi Nomura
博文 野村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2001264382A priority Critical patent/JP2003078808A/en
Publication of JP2003078808A publication Critical patent/JP2003078808A/en
Pending legal-status Critical Current

Links

Landscapes

  • Adjustment Of Camera Lenses (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

PROBLEM TO BE SOLVED: To detect a motion vector and to correct camera shake even when a field with video signal omission exists. SOLUTION: An input video signal is supplied to a representative point storage circuit 43 and a subtracter 44 through a filter processing circuit 42, and a finite difference between a representative point of a previous field and a pixel of the present field is operated. An absolute value conversion circuit 45 converts the finite difference into an absolute value, a cumulative addition circuit 46 integrates the absolute value, and a motion vector generation circuit 47 generates a motion vector on the basis of an integral value. CAMERA shake is corrected with the motion vector. In a field in which a video signal is omitted with a representative point storage enabling signal from a terminal 48, a representative point is not stored. As a result that the representative point storage circuit 43 does not perform a storage operation previously stored representative point data are stored. Even if previous field is omitted, the subtracter 44 can operate a correlation value.

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】この発明は、例えば手振れに
よる動きベクトルを検出する動きベクトル検出装置およ
び方法、手振れ補正装置および方法、並びに撮像装置に
関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a motion vector detection apparatus and method, a camera shake correction apparatus and method, and an image pickup apparatus for detecting a motion vector due to, for example, camera shake.

【0002】[0002]

【従来の技術】カメラ一体型撮像装置により被写体を撮
影する時に、手振れによって撮像画像が揺れる問題があ
り、これを補正するために、動きベクトルを検出し、撮
像画像の揺れを補正する手振れ補正が行なわれている。
動きベクトルは、前のフィールド(またはフレーム)と
現在のフィールド(またはフレーム)間の相関を検出す
ることで求められる。手振れ補正による動きは、画面全
体の動きであり、画面全体の動きベクトルが検出され
る。
2. Description of the Related Art When a subject is photographed by a camera-integrated image pickup device, there is a problem that a picked-up image shakes due to camera shake. To correct this, a shake vector correction is performed to detect a motion vector and correct the shake of the picked-up image. Has been done.
The motion vector is obtained by detecting the correlation between the previous field (or frame) and the current field (or frame). The motion due to camera shake correction is the motion of the entire screen, and the motion vector of the entire screen is detected.

【0003】従来の動きベクトル検出装置は、前フィー
ルドに設定された代表点と現フィールドにおける画素の
輝度レベルの相関を演算することで動きベクトルを検出
していた。すなわち、代表点の記憶周期は、1フィール
ドであった。
A conventional motion vector detecting device detects a motion vector by calculating the correlation between the representative point set in the previous field and the luminance level of the pixel in the current field. That is, the storage cycle of the representative points was one field.

【0004】[0004]

【発明が解決しようとする課題】しかしながら、カメラ
一体型撮像装置において、暗い被写体を撮影するため
に、撮像素子の露光時間を1フィールドより長い時間と
する場合がある。この場合では、映像信号が欠落したフ
ィールドが発生する。そこでは、比較元の代表点のデー
タが記憶できないために、動きベクトルの検出が不可能
となる問題があった。
However, in a camera-integrated image pickup device, the exposure time of the image pickup device may be longer than one field in order to photograph a dark subject. In this case, a field in which the video signal is missing occurs. There is a problem that the motion vector cannot be detected because the representative point data of the comparison source cannot be stored.

【0005】したがって、この発明の目的は、かかる問
題を解決し、代表点を露光時間に応じた周期で記憶する
ことによって、1フィールドより長い露光時間において
も動きベクトルの検出と手振れ補正とを可能とする動き
ベクトル検出装置および方法、手振れ補正装置および方
法、並びに撮像装置を提供することにある。
Therefore, an object of the present invention is to solve such a problem and to store a representative point in a cycle corresponding to the exposure time, thereby making it possible to detect a motion vector and correct a camera shake even in an exposure time longer than one field. A motion vector detecting device and method, a camera shake correcting device and method, and an imaging device.

【0006】[0006]

【課題を解決するための手段】上述した課題を解決する
ために、請求項1の発明は、撮像装置の手振れにより生
じる動きベクトルを入力映像信号から検出する動きベク
トル検出装置において、時間的に前のフィールドまたは
フレームから複数の代表点を抽出して記憶する代表点記
憶手段と、現在のフィールドまたはフレームに代表点の
それぞれと同一の位置の画素を含む複数の領域を設定
し、各領域内の複数の画素と代表点との相関値を演算す
る相関値演算手段と、相関値演算手段からの相関値を所
定の範囲で積分する積分手段と、積分手段からの相関値
の積分値に基づいて所定の範囲の動きベクトルを決定す
る動きベクトル決定手段とを備え、露光時間が1フィー
ルドまたは1フレームより長い結果、映像信号が欠落し
たフィールドまたはフレームが発生する場合では、映像
信号が存在するフィールドまたはフレームにおいての
み、代表点記憶手段が代表点の記憶動作を行うようにし
た動きベクトル検出装置である。請求項2の発明は、露
光時間が1フィールドまたは1フレームより長い結果、
映像信号が欠落したフィールドまたはフレームが発生す
る場合では、映像信号が存在するフィールドまたはフレ
ームにおいてのみ、代表点記憶ステップの処理を行うよ
うにした動きベクトル検出方法である。
In order to solve the above-mentioned problems, the invention of claim 1 is a motion vector detecting device for detecting a motion vector caused by camera shake of an image pickup device from an input video signal. The representative point storage means for extracting and storing a plurality of representative points from the field or frame, and a plurality of areas including pixels at the same position as each of the representative points in the current field or frame are set. On the basis of the correlation value calculating means for calculating the correlation value between the plurality of pixels and the representative point, the integrating means for integrating the correlation value from the correlation value calculating means within a predetermined range, and the integrated value of the correlation value from the integrating means. A motion vector determining means for determining a motion vector in a predetermined range, and as a result of the exposure time being longer than one field or one frame, In the case of frame occurs only in the field or frame video signal is present, the representative point storage means is a motion vector detection apparatus to perform the storage operation of the representative point. In the invention of claim 2, as a result that the exposure time is longer than one field or one frame,
When a field or frame in which a video signal is missing occurs, the representative vector storing step is performed only in the field or frame in which the video signal exists.

【0007】請求項3の発明は、撮像装置の手振れによ
り生じる動きベクトルを入力映像信号から検出し、検出
された動きベクトルによって手振れを補正する手振れ補
正装置において、補正すべき映像信号を蓄積するメモリ
と、動きベクトル検出装置と、補正制御手段とを備え、
動きベクトル検出装置は、時間的に前のフィールドまた
はフレームから複数の代表点を抽出して記憶する代表点
記憶手段と、現在のフィールドまたはフレームに代表点
のそれぞれと同一の位置の画素を含む複数の領域を設定
し、各領域内の複数の画素と代表点との相関値を演算す
る相関値演算手段と、相関値演算手段からの相関値を所
定の範囲で積分する積分手段と、積分手段からの相関値
の積分値に基づいて所定の範囲の動きベクトルを決定す
る動きベクトル決定手段とを備え、露光時間が1フィー
ルドまたは1フレームより長い結果、映像信号が欠落し
たフィールドまたはフレームが発生する場合では、映像
信号が存在するフィールドまたはフレームにおいての
み、代表点記憶手段が代表点の記憶動作を行うようにな
され、補正制御手段は、動きベクトル決定手段からの動
きベクトルが供給され、動きベクトルに基づいて、手振
れを補正するように、メモリを制御する構成とされ、露
光時間が1フィールドまたは1フレームより長い結果、
映像信号が欠落したフィールドまたはフレームが発生す
る場合では、映像信号が存在するフィールドまたはフレ
ームにおいてのみ、制御動作を行うようにされた手振れ
補正装置である。請求項4の発明は、露光時間が1フィ
ールドまたは1フレームより長い結果、映像信号が欠落
したフィールドまたはフレームが発生する場合では、映
像信号が存在するフィールドまたはフレームにおいての
み、代表点の記憶ステップの処理を行うようになされ、
露光時間が1フィールドまたは1フレームより長い結
果、映像信号が欠落したフィールドまたはフレームが発
生する場合では、映像信号が存在するフィールドまたは
フレームにおいてのみ、補正制御のステップの処理を行
うようにされた手振れ補正方法である。
According to a third aspect of the present invention, in a camera shake correction device that detects a motion vector caused by camera shake of an image pickup device from an input video signal and corrects the camera shake by the detected motion vector, a memory that stores a video signal to be corrected. And a motion vector detection device, and a correction control means,
The motion vector detection device includes a representative point storage unit that extracts and stores a plurality of representative points from a temporally previous field or frame, and a plurality of pixels including a pixel at the same position as each representative point in the current field or frame. Area, the correlation value calculating means for calculating the correlation value between the plurality of pixels in each area and the representative point, the integrating means for integrating the correlation value from the correlation value calculating means within a predetermined range, and the integrating means. And a motion vector determining means for determining a motion vector within a predetermined range based on the integrated value of the correlation value from 1 to 2. As a result of the exposure time being longer than one field or one frame, a field or frame in which a video signal is missing occurs. In this case, the representative point storage means performs the storage operation of the representative point only in the field or frame in which the video signal is present. Is supplied motion vector from the motion vector determining means, based on the motion vector, so as to correct the camera shake, is configured to control the memory, the exposure time is longer than one field or one frame result,
The image stabilization apparatus is configured to perform the control operation only in the field or frame in which the video signal is present when the field or frame in which the video signal is missing occurs. According to a fourth aspect of the present invention, when a field or frame in which a video signal is missing occurs as a result of the exposure time being longer than one field or one frame, the representative point storage step is performed only in the field or frame in which the video signal exists. To do the processing,
When a field or frame in which a video signal is missing occurs as a result of the exposure time being longer than one field or one frame, the shake control process is performed only in the field or frame in which the video signal exists. This is a correction method.

【0008】請求項5の発明は、撮像装置の手振れによ
り生じる動きベクトルを入力映像信号から検出し、検出
された動きベクトルによって手振れを補正する手振れ補
正装置を備えた撮像装置において、手振れ補正装置は、
補正すべき映像信号を蓄積するメモリと、動きベクトル
検出装置と、補正制御手段とを備え、動きベクトル検出
装置は、時間的に前のフィールドまたはフレームから複
数の代表点を抽出して記憶する代表点記憶手段と、現在
のフィールドまたはフレームに代表点のそれぞれと同一
の位置の画素を含む複数の領域を設定し、各領域内の複
数の画素と代表点との相関値を演算する相関値演算手段
と、相関値演算手段からの相関値を所定の範囲で積分す
る積分手段と、積分手段からの相関値の積分値に基づい
て所定の範囲の動きベクトルを決定する動きベクトル決
定手段とを備え、露光時間が1フィールドまたは1フレ
ームより長い結果、映像信号が欠落したフィールドまた
はフレームが発生する場合では、映像信号が存在するフ
ィールドまたはフレームにおいてのみ、代表点記憶手段
が代表点の記憶動作を行うようになされ、補正制御手段
は、動きベクトル決定手段からの動きベクトルが供給さ
れ、動きベクトルに基づいて、手振れを補正するよう
に、メモリを制御する構成とされ、露光時間が1フィー
ルドまたは1フレームより長い結果、映像信号が欠落し
たフィールドまたはフレームが発生する場合では、映像
信号が存在するフィールドまたはフレームにおいての
み、制御動作を行うようにされた撮像装置である。
According to a fifth aspect of the present invention, in the image pickup apparatus equipped with a camera shake correction apparatus for detecting a motion vector caused by camera shake of an image pickup apparatus from an input video signal and correcting the camera shake by the detected motion vector, the camera shake correction apparatus is ,
The motion vector detecting device includes a memory for accumulating a video signal to be corrected, a motion vector detecting device, and a correction control means, and the motion vector detecting device extracts and stores a plurality of representative points from a temporally previous field or frame. Correlation value calculation for setting a point storage means and a plurality of areas including pixels at the same positions as the representative points in the current field or frame, and calculating a correlation value between the plurality of pixels in each area and the representative point Means, integrating means for integrating the correlation value from the correlation value calculating means within a predetermined range, and motion vector determining means for determining a motion vector within a predetermined range based on the integrated value of the correlation values from the integrating means. , If the field or frame in which the video signal is missing is generated as a result of the exposure time being longer than 1 field or frame, the field or frame in which the video signal exists Only in the frame, the representative point storage means performs the storage operation of the representative point, and the correction control means is supplied with the motion vector from the motion vector determination means, and corrects the camera shake based on the motion vector. If the field or frame in which the video signal is missing is generated as a result of the exposure time being longer than one field or one frame, the control operation is performed only in the field or frame in which the video signal exists. The image pickup device is configured as described above.

【0009】この発明では、映像信号が存在するフィー
ルドまたはフレームにおいてのみ、代表点の記憶動作を
行うようになされているので、露光時間が1フィールド
を越えるような動作時でも、動きベクトルの検出並びに
手振れ補正が不可能となる問題を回避することができ
る。
According to the present invention, the operation of storing the representative point is performed only in the field or frame in which the video signal is present. Therefore, even when the exposure time exceeds one field, the motion vector can be detected and detected. It is possible to avoid the problem that camera shake correction becomes impossible.

【0010】[0010]

【発明の実施の形態】以下、この発明の一実施形態につ
いて図面を参照して説明する。この発明の理解を容易と
するために、手振れ補正装置の一例を説明する。図1
は、かかる手振れ補正装置を示し、参照符号1は、手振
れ補正の対象となるディジタル映像信号の入力端子であ
る。入力映像信号は、撮像装置により撮像されたもので
ある。入力映像信号が動きベクトル検出装置2およびフ
ィールドメモリ4に供給される。動きベクトル検出装置
2が動きベクトルを検出し、検出した動きベクトルの信
頼性を判断し、信頼性の高い動きベクトルから画面全体
の動きベクトルを検出する。動きベクトル検出装置2で
検出された動きベクトルが補正制御部3に供給される。
BEST MODE FOR CARRYING OUT THE INVENTION An embodiment of the present invention will be described below with reference to the drawings. In order to facilitate understanding of the present invention, an example of a camera shake correction device will be described. Figure 1
Indicates such a camera shake correction device, and reference numeral 1 indicates an input terminal of a digital video signal to be a target for camera shake correction. The input video signal is picked up by the image pickup device. The input video signal is supplied to the motion vector detection device 2 and the field memory 4. The motion vector detection device 2 detects a motion vector, determines the reliability of the detected motion vector, and detects the motion vector of the entire screen from the highly reliable motion vector. The motion vector detected by the motion vector detection device 2 is supplied to the correction control unit 3.

【0011】補正制御部3は、検出された動きベクトル
に基づいた手振れ補正を行う。補正制御部3からの動き
ベクトルがフィールドメモリ4に供給される。フィール
ドメモリ4には、撮像部からの入力映像信号(ディジタ
ル)が蓄積されている。例えば撮像部は、出力画像領域
より大きな領域とされ、それによって生じた余剰エリア
を使用して手振れ補正を行うようにされている。フィー
ルドメモリ4には、かかる余剰エリアを含む画像が蓄積
され、動きベクトルに基づいて出力画像領域として切り
出す位置を変更することによって手振れを補正してい
る。フィールドメモリ4は、手振れ補正の内で、整数画
素単位の補正を行う。すなわち、手振れと逆の方向に画
像をシフトする処理がなさる。このシフトの処理を行う
時に、余剰エリアを利用することによって画像の欠落を
生じないようになされる。撮像部の読み出しを制御した
り、撮像した画像を拡大してフィールドメモリ4に蓄積
しても良い。
The correction control unit 3 performs camera shake correction based on the detected motion vector. The motion vector from the correction controller 3 is supplied to the field memory 4. An input video signal (digital) from the image pickup unit is stored in the field memory 4. For example, the image pickup unit is configured to have a larger area than the output image area, and uses the surplus area generated thereby to perform camera shake correction. An image including such a surplus area is accumulated in the field memory 4, and the camera shake is corrected by changing the position to be cut out as the output image region based on the motion vector. The field memory 4 performs correction in units of integer pixels among the camera shake corrections. That is, the process of shifting the image in the direction opposite to the camera shake is performed. By using the surplus area when performing this shift processing, it is possible to prevent image loss. The reading of the image pickup unit may be controlled, or the picked-up image may be enlarged and stored in the field memory 4.

【0012】フィールドメモリ4から読み出された映像
信号が補間部5に供給される。補間部5では、補正制御
部3で求められた動きベクトルに基づく補正量のうち
で、整数画素以下の補正量が補間によって補正される。
補間は、整数画素以下の補正量に応じた重み付け加算で
実現される。水平方向の動きベクトルの成分が例えば
0.5画素であれば、隣接する2画素の平均値によって
水平方向に0.5画素ずれた画像が生成される。垂直方
向に関しても同様の補間がなされる。
The video signal read from the field memory 4 is supplied to the interpolation section 5. In the interpolation unit 5, among the correction amounts based on the motion vector calculated by the correction control unit 3, the correction amount of an integer pixel or less is corrected by interpolation.
The interpolation is realized by weighted addition according to the correction amount of integer pixels or less. If the component of the horizontal motion vector is, for example, 0.5 pixel, an image shifted by 0.5 pixel in the horizontal direction is generated by the average value of two adjacent pixels. Similar interpolation is performed in the vertical direction.

【0013】なお、本説明では、1フィールドを1画面
として扱うが、1フレームを1画面として扱うようにし
ても良い。また、映像信号は、インターレース信号およ
びノンインターレース信号の何れでも良い。さらに、こ
の発明は、カラー映像信号の手振れ補正に対しても適用
できる。但し、動きベクトルは、輝度信号を使用して検
出され、手振れ補正が輝度信号およびカラーコンポーネ
ント信号の両者に施される。
In this description, one field is treated as one screen, but one frame may be treated as one screen. The video signal may be either an interlaced signal or a non-interlaced signal. Furthermore, the present invention can be applied to image stabilization of a color video signal. However, the motion vector is detected using the luminance signal, and camera shake correction is applied to both the luminance signal and the color component signal.

【0014】動きベクトル検出装置2では、代表点マッ
チング法によって動きベクトルを検出する。代表点マッ
チング法は、前フィールドに代表点を設定し、現フィー
ルドのサーチ範囲の画素の輝度レベルと前フィールドの
代表点の輝度レベルとを比較し、サーチ範囲の画素のう
ち代表点の画素に最も近い画素から動きベクトルを検出
する方法である。
The motion vector detecting device 2 detects a motion vector by the representative point matching method. In the representative point matching method, a representative point is set in the previous field, the luminance level of the pixel in the search range of the current field is compared with the luminance level of the representative point in the previous field, and the pixel of the representative point is selected from the pixels in the search range. This is a method of detecting a motion vector from the closest pixel.

【0015】図2は、代表点マッチング法による動きベ
クトル検出方法を示すものである。現フィールドに複数
の画素からなるサーチ範囲SRnが設定される。サーチ
範囲SRnと同一位置で、同一の大きさの前フィールド
の領域SRn-1 の例えば中心位置の画素の値が代表点S
t-1(Xk,Yk)とされる。代表点St-1(Xk,Y
k)と 、サーチ範囲SRn内の複数の画素との輝度レ
ベルの差の絶対値が演算される。サーチ範囲で発生した
差の絶対値が相関値である。1フィールド内には、複数
のサーチ範囲が設定され、各サーチ範囲で求められた相
関値が1フィールドにわたって積分されることによっ
て、相関値の積分値が形成される。この積分値から動き
ベクトルが検出される。
FIG. 2 shows a motion vector detecting method by the representative point matching method. A search range SRn including a plurality of pixels is set in the current field. At the same position as the search range SRn, for example, the value of the pixel at the center position of the area SRn-1 of the previous field having the same size is the representative point S.
t-1 (Xk, Yk). Representative point St-1 (Xk, Y
k) and the absolute value of the difference in brightness level between the plurality of pixels within the search range SRn. The absolute value of the difference generated in the search range is the correlation value. A plurality of search ranges are set in one field, and the correlation value obtained in each search range is integrated over one field to form an integrated value of the correlation values. A motion vector is detected from this integrated value.

【0016】このように、輝度レベルの相関を表す相関
値は、代表点の輝度レベルとサーチ範囲SRnの各画素
の輝度レベルの差の絶対値である。相関値としては、差
の自乗を使用しても良い。相関値が積分された積分値か
ら動きベクトルが検出される。サーチ範囲SRnを相関
値の積分値とした場合、積分値が最小の位置aが検出さ
れる。代表点の位置と検出された位置aとの偏移から動
きベクトルMvが検出される。
As described above, the correlation value representing the correlation of the brightness levels is the absolute value of the difference between the brightness level of the representative point and the brightness level of each pixel in the search range SRn. The square of the difference may be used as the correlation value. A motion vector is detected from the integrated value obtained by integrating the correlation values. When the search range SRn is used as the integral value of the correlation value, the position a with the smallest integral value is detected. The motion vector Mv is detected from the deviation between the position of the representative point and the detected position a.

【0017】撮影時の手振れにより発生する画像の揺れ
は、画面全体の揺れであり、手振れ補正は、フィールド
メモリ4を使用して画面全体を手振れで発生した動きベ
クトルと逆の方向にシフトする処理である。画面全体の
動きベクトルを求める方法の一例についてより具体的に
説明する。
The shake of the image caused by the shake during photographing is the shake of the entire screen, and the shake correction uses the field memory 4 to shift the entire screen in the direction opposite to the motion vector generated by the shake. Is. An example of the method of obtaining the motion vector of the entire screen will be described more specifically.

【0018】図3は、撮像された1画面に設定される検
出領域の例である。各フィールド(各画面)をほぼ4分
割した各分割領域に検出領域D0,D1,D2,D3が
設定される。各検出領域の動きベクトルが求められ、各
検出領域の動きベクトルから画面全体の動きベクトルが
求められる。なお、検出領域を設定することは、必ずし
も必要ではなく、画面全体で相関値の積分値を求め、積
分値から画面全体の動きベクトルを検出するようにして
も良い。
FIG. 3 is an example of a detection area set in one imaged screen. Detection areas D0, D1, D2, D3 are set in each divided area obtained by dividing each field (each screen) into four. The motion vector of each detection area is obtained, and the motion vector of the entire screen is obtained from the motion vector of each detection area. It is not always necessary to set the detection area, and the integral value of the correlation value may be obtained in the entire screen and the motion vector of the entire screen may be detected from the integral value.

【0019】図4は、検出領域Di(i=0,1,2,
3)の一例を詳細に示す。前フィールドの検出領域に
は、複数例えば水平方向に8個、垂直方向に6個の合計
48個の代表点が含まれる。各代表点に対応する空間的
位置に、代表点と同数のサーチ範囲SRn(n=0〜4
7)が現フィールドに設定される。サーチ範囲は、水平
方向の位置が(0,1,2,・・・,X)とされ、垂直
方向の位置が(0,1,2,・・・,Y)とされる。こ
の両方の位置によって、各画素の位置が規定される。代
表点の位置は、例えばサーチ範囲と同一位置の領域の中
心位置である。そして、代表点の位置に対する偏移x、
偏移yが規定される。代表点と同一位置では、偏移xお
よびyが共に0である。
FIG. 4 shows the detection area Di (i = 0, 1, 2,
An example of 3) will be described in detail. The detection area of the previous field includes a plurality of 48 representative points, for example, 8 in the horizontal direction and 6 in the vertical direction. At the spatial position corresponding to each representative point, as many search ranges SRn (n = 0 to 4) as the representative points are provided.
7) is set in the current field. In the search range, the horizontal position is (0, 1, 2, ..., X) and the vertical position is (0, 1, 2, ..., Y). Both of these positions define the position of each pixel. The position of the representative point is, for example, the center position of the area at the same position as the search range. Then, the deviation x with respect to the position of the representative point,
The deviation y is defined. The deviations x and y are both 0 at the same position as the representative point.

【0020】検出領域Diのそれぞれにおいて、各サー
チ範囲で、各画素毎に相関値例えば代表点と各画素の差
の絶対値が求められる。相関値が検出領域毎に積分さ
れ、相関値の積分値(以下、適宜検出領域の積分値と称
する)からその検出領域の動きベクトルが求められる。
図5は、相関値の積分値を求める方法を示す。図5で
は、1つの検出領域内にZ+1個のサーチ範囲SR0〜
SRzが含まれる例である。
In each of the detection areas Di, the correlation value, for example, the absolute value of the difference between the representative point and each pixel is obtained for each pixel in each search range. The correlation value is integrated for each detection area, and the motion vector of the detection area is obtained from the integrated value of the correlation value (hereinafter, appropriately referred to as the integration value of the detection area).
FIG. 5 shows a method of obtaining an integrated value of correlation values. In FIG. 5, Z + 1 search ranges SR0 to SR0 are included in one detection area.
In this example, SRz is included.

【0021】図5の最上段には、サーチ範囲SR0で求
められた相関値が示されている。各画素の位置に対応し
て相関値が発生するので、各相関値の位置が示されてい
る。他のサーチ範囲の相関値も、同様に各画素の位置で
発生する。そして、検出領域内の全てのサーチ範囲の相
関値の中で、同じ位置のものが加算されることによっ
て、相関値の積分値SRdが求められる。例えば(0,
0,0)の位置の相関値、(0,0,1)の位置き相関
値、・・・、(0,0,Z)の位置の相関値が合計され
た値が相関値の積分値SRdの(0,0)の位置の成分
である。
The correlation value found in the search range SR0 is shown at the top of FIG. Since the correlation value is generated corresponding to the position of each pixel, the position of each correlation value is shown. Correlation values in other search ranges also occur at the position of each pixel. Then, among the correlation values of all the search ranges in the detection area, those at the same position are added to obtain the integrated value SRd of the correlation value. For example (0,
The correlation value at the position of (0,0), the correlation value at the position of (0,0,1), ..., The sum of the correlation values at the positions of (0,0, Z) is the integrated value of the correlation values. It is the component at the position (0, 0) of SRd.

【0022】図6は、このようにして求められた1つの
検出領域の相関値の積分値を3次元(偏移xおよびyと
相関値の大きさ)で表すものである。図6において、積
分値が最小となる位置aから動きベクトルを検出する。
すなわち、位置aに対応する偏移xおよびyの値をその
検出領域の相関値積分値の最小値とする。なお、上述し
たように、1つの検出領域内に複数のサーチ範囲を持つ
ことによって、検出精度の低下を防止することができ
る。さらに、1つの検出領域内に設定される複数のサー
チ範囲が互いにオーバーラップ部分を持つようにしても
良い。
FIG. 6 shows the integrated value of the correlation values of one detection region thus obtained in three dimensions (shifts x and y and the magnitude of the correlation value). In FIG. 6, the motion vector is detected from the position a where the integrated value is the minimum.
That is, the values of the shifts x and y corresponding to the position a are set to the minimum value of the correlation value integral value of the detection area. Note that, as described above, by having a plurality of search ranges in one detection area, it is possible to prevent the detection accuracy from decreasing. Further, a plurality of search ranges set in one detection area may have overlapping portions with each other.

【0023】図7は、動きベクトル検出装置2における
動きベクトル検出部20の一例の構成を示す。入力端子
21から映像信号が入力され、フィルタ処理回路22に
供給される。フィルタ処理回路22によって動き検出に
不要な周波数成分を除去する。フィルタ処理回路22の
出力信号が代表点記憶回路23および減算器24の一方
の入力端子に供給される。減算器24の他方の入力端子
には、代表点記憶回路23からの代表点の値が供給され
る。
FIG. 7 shows an example of the configuration of the motion vector detecting section 20 in the motion vector detecting device 2. The video signal is input from the input terminal 21 and supplied to the filter processing circuit 22. The filter processing circuit 22 removes frequency components unnecessary for motion detection. The output signal of the filter processing circuit 22 is supplied to the representative point storage circuit 23 and one input terminal of the subtracter 24. The value of the representative point from the representative point storage circuit 23 is supplied to the other input terminal of the subtractor 24.

【0024】代表点記憶回路23によって、サーチ範囲
に対応する2次元領域の中心位置の画素の値が代表点と
して記憶される。例えば、代表点記憶回路23は、現フ
ィールドの代表点を選択的に記憶するメモリと、前フィ
ールドの代表点を保持するメモリとから構成される。代
表点記憶回路23から減算器24の他方の入力端子に対
しては、前フィールドの代表点の値が供給される。
The representative point storage circuit 23 stores the value of the pixel at the center position of the two-dimensional area corresponding to the search range as a representative point. For example, the representative point storage circuit 23 includes a memory that selectively stores the representative point of the current field and a memory that holds the representative point of the previous field. The value of the representative point of the previous field is supplied from the representative point storage circuit 23 to the other input terminal of the subtractor 24.

【0025】減算器24では、代表点からサーチ範囲内
の各画素値が減算される。減算器24からの差のデータ
が絶対値変換回路25に供給され、差の絶対値に変換さ
れる。差の絶対値が相関値である。相関値が累積加算回
路26に供給され、図5を参照して説明したように、検
出領域に含まれる全ての相関値が積分される。累積加算
回路26によって、1検出領域の相関値の積分値が得ら
れる。
The subtractor 24 subtracts each pixel value within the search range from the representative point. The difference data from the subtractor 24 is supplied to the absolute value conversion circuit 25 and converted into the absolute value of the difference. The absolute value of the difference is the correlation value. The correlation value is supplied to the cumulative addition circuit 26, and all the correlation values included in the detection area are integrated as described with reference to FIG. The cumulative addition circuit 26 obtains the integrated value of the correlation values of one detection area.

【0026】累積加算回路26からの相関値の積分値が
動きベクトル発生回路27に供給される。動きベクトル
発生回路27では、積分値の最小値を検出し、その偏移
xおよびyから動きベクトルを検出し、出力する。出力
される動きベクトルは、1つの検出領域で検出されたも
のである。
The integrated value of the correlation value from the cumulative addition circuit 26 is supplied to the motion vector generation circuit 27. The motion vector generation circuit 27 detects the minimum value of the integrated value, detects the motion vector from the deviations x and y, and outputs it. The output motion vector is one detected in one detection area.

【0027】図8は、動きベクトル検出装置2の構成の
一例を示す。動きベクトル検出装置2の内の動きベクト
ル検出部20については、図7と対応する部分に同一符
号を付してその説明は、重複を避けるために省略する。
動きベクトル検出装置2は、動きベクトル検出部20の
他に、ベクトル特徴検出回路31、信頼性判別回路32
およびベクトル検出回路33によって構成される。動き
ベクトル検出部20の累算加算回路26から出力される
相関値の積分値が動きベクトル発生回路27と共に、ベ
クトル特徴検出回路31に供給される。
FIG. 8 shows an example of the configuration of the motion vector detecting device 2. Regarding the motion vector detection unit 20 in the motion vector detection device 2, the portions corresponding to those in FIG. 7 are denoted by the same reference numerals, and the description thereof will be omitted to avoid duplication.
In addition to the motion vector detection unit 20, the motion vector detection device 2 includes a vector feature detection circuit 31 and a reliability determination circuit 32.
And a vector detection circuit 33. The integrated value of the correlation value output from the cumulative addition circuit 26 of the motion vector detection unit 20 is supplied to the vector feature detection circuit 31 together with the motion vector generation circuit 27.

【0028】ベクトル特徴検出回路31は、図6に示す
最小値の点aの周辺の特徴、相関値積分値の特徴を検出
する回路である。ベクトル特徴検出回路31で検出され
た特徴が信頼性判別回路32に供給される。信頼性判別
回路32は、検出された特徴に基づいて信頼性の程度を
示す信頼性情報を生成し、信頼性情報をベクトル決定回
路33に供給する。ベクトル決定回路33では、信頼性
情報を使用して信頼性の高い動きベクトルを決定する。
動きベクトル決定回路33は、信頼性情報と各検出領域
の動きベクトルとを使用して画面全体の動きベクトルを
決定し、決定された動きベクトルを出力する。
The vector feature detection circuit 31 is a circuit for detecting the feature around the point a having the minimum value shown in FIG. 6 and the feature of the correlation value integral value. The features detected by the vector feature detection circuit 31 are supplied to the reliability determination circuit 32. The reliability determination circuit 32 generates reliability information indicating the degree of reliability based on the detected characteristics, and supplies the reliability information to the vector determination circuit 33. The vector determining circuit 33 uses the reliability information to determine a highly reliable motion vector.
The motion vector determination circuit 33 determines the motion vector of the entire screen using the reliability information and the motion vector of each detection area, and outputs the determined motion vector.

【0029】図3を参照して説明したように、1画面に
4個の検出領域D1〜D4を設定している。動きベクト
ル検出部20では、D1から順に各検出領域の動きベク
トルを検出し、ベクトル決定回路33には、検出領域D
1、D2、D3、D4の順で、検出された動きベクトル
と各検出領域の信頼性情報とが供給される。なお、各検
出領域の動きベクトルを並列的に求めても良い。また、
動きベクトル検出装置2の全体または一部の機能をソフ
トウェア処理で実現しても良い。
As described with reference to FIG. 3, four detection areas D1 to D4 are set on one screen. The motion vector detection unit 20 detects the motion vector of each detection area in order from D1, and the vector determination circuit 33 notifies the detection area D
The detected motion vector and the reliability information of each detection area are supplied in the order of 1, D2, D3, D4. The motion vector of each detection area may be obtained in parallel. Also,
All or part of the functions of the motion vector detection device 2 may be realized by software processing.

【0030】信頼性判別回路32は、例えば、撮像面の
被写体のコントラストが低い場合に、動きベクトル検出
装置2から出力される動きベクトルが本来の手振れによ
る動きベクトルと異なることがあるために設けられてい
る。図9は、信頼性の判別に使用される相関値の積分値
の特徴を説明するものである。積分値の特徴例えば最小
値、積分値の平均値に基づいて信頼性が判別される。最
小値が大きい値である場合は、移動物体が画面に進入し
た時に生じ、平均値が小さい場合は、コントラストが低
い時に生じる。これらの場合に検出された動きベクトル
は、手振れを正確に反映しないことが多いので、信頼性
が低いものと判別される。
The reliability discriminating circuit 32 is provided because the motion vector output from the motion vector detecting device 2 may be different from the motion vector due to the original hand shake when the contrast of the object on the image pickup surface is low. ing. FIG. 9 illustrates the characteristics of the integrated value of the correlation value used for reliability determination. The reliability is determined based on the characteristics of the integrated value, for example, the minimum value and the average value of the integrated values. A large minimum value occurs when a moving object enters the screen, and a small average value occurs when the contrast is low. In many cases, the motion vector detected in these cases does not accurately reflect the camera shake, so it is determined that the reliability is low.

【0031】ベクトル決定回路33では、4個の検出領
域でそれぞれ求められた動きベクトルと信頼性の情報か
ら画面全体の動きベクトルを検出する。このアルゴリズ
ムは、種々のものが可能である。単純な例としては、最
も信頼性が高いと判別された動きベクトルが画面全体の
動きベクトルとして選択される。他の例としては、信頼
性の高い動きベクトルが複数あった場合に、それらの平
均値を画面全体の動きベクトルとして採用する。これら
以外の方法も可能である。
The vector determination circuit 33 detects the motion vector of the entire screen from the motion vector and reliability information obtained in each of the four detection areas. This algorithm can be various. As a simple example, the motion vector determined to have the highest reliability is selected as the motion vector for the entire screen. As another example, when there are a plurality of highly reliable motion vectors, the average value of them is adopted as the motion vector of the entire screen. Other methods are possible.

【0032】上述した動きベクトル検出装置において
は、前フィールドで設定された代表点と、現フィールド
の画素との比較を行なっているので、時間的に連続する
2フィールドの中で、1フィールドが欠落すると、動き
ベクトルを検出することが不可能となる問題が生じる。
この問題について、図10を参照して説明する。
In the above-mentioned motion vector detecting device, since the representative point set in the previous field is compared with the pixel in the current field, one field is missing out of two fields which are temporally continuous. Then, there arises a problem that the motion vector cannot be detected.
This problem will be described with reference to FIG.

【0033】図10Aが1フィールドの期間を規定する
垂直同期信号を示し、図10Bが露光期間を示し、図1
0Cが映像信号入力を示す。1フィールド以上の露光時
間によって、1フィールドおきに映像信号が発生する。
図10の例では、フィールドFn-2 ,Fn,・・・に映
像信号が存在し、フィールドFn-1 ,Fn+1 では、映像
信号が欠落している。記録再生装置とビデオカメラが一
体とされたカメラ一体型記録再生装置では、暗い被写体
も撮影することを可能とするために、1フィールド以上
の露光を行う動作モードが用意されていることがあり、
そのような動作モードでは、1フィールド以上の長さの
露光期間が生じる。
FIG. 10A shows a vertical synchronizing signal that defines a period of one field, FIG. 10B shows an exposure period, and FIG.
0C indicates a video signal input. A video signal is generated every other field due to the exposure time of one field or more.
In the example of FIG. 10, the video signals are present in the fields Fn-2, Fn, ... And the video signals are missing in the fields Fn-1, Fn + 1. In a camera-integrated recording / reproducing device in which a recording / reproducing device and a video camera are integrated, an operation mode for performing exposure of one field or more may be prepared in order to enable photographing of a dark subject.
In such an operation mode, an exposure period having a length of 1 field or more occurs.

【0034】この発明では、図11に示すように、映像
信号が欠落するフィールド例えばFn-1 がある場合で
は、代表点データを記憶しないで、実際に映像信号が入
力されるフィールドFnにおいて、フィールドFn-2 で
記憶した代表点データとフィールドFnの画素との相関
演算を行うことによって、フィールドFn-2 からフィー
ルドFnまでの間で変化した動きベクトルMvを検出す
ることが可能となる。なお、図11において、SRn
は、図2と同様に、現フィールドFnに設定されたサー
チ範囲SRnを示す。サーチ範囲SRnと同一位置で、
同一の大きさのフィールドFn-2 の領域SRn-2 の例え
ば中心位置の画素の値が代表点Sn-2 とされる。代表点
Sn-2 と 、サーチ範囲SRn内の複数の画素との輝度
レベルの差の絶対値が演算される。サーチ範囲で発生し
た差の絶対値が相関値である。1フィールド内には、複
数のサーチ範囲が設定され、各サーチ範囲で求められた
相関値が1フィールド(または1検出領域)にわたって
積分されることによって、相関値の積分値が形成され
る。この積分値から1フィールド(または1検出領域)
の動きベクトルMvが検出される。但し、この場合で
は、動きベクトルMvが2フィールド期間での動き量を
示している。
According to the present invention, as shown in FIG. 11, when there is a field in which the video signal is missing, for example, Fn-1, the representative point data is not stored and the field Fn in which the video signal is actually input is not stored. By performing the correlation calculation between the representative point data stored in Fn-2 and the pixel in the field Fn, it is possible to detect the motion vector Mv changed from the field Fn-2 to the field Fn. In FIG. 11, SRn
Indicates the search range SRn set in the current field Fn, as in FIG. At the same position as the search range SRn,
The value of, for example, the pixel at the center position of the area SRn-2 of the field Fn-2 having the same size is used as the representative point Sn-2. The absolute value of the difference in brightness level between the representative point Sn-2 and a plurality of pixels within the search range SRn is calculated. The absolute value of the difference generated in the search range is the correlation value. A plurality of search ranges are set in one field, and the correlation value obtained in each search range is integrated over one field (or one detection region) to form an integrated value of the correlation value. 1 field (or 1 detection area) from this integrated value
Motion vector Mv is detected. However, in this case, the motion vector Mv indicates the motion amount in the two-field period.

【0035】図12において、参照符号40は、この発
明が適用された動きベクトル検出部の一実施形態であ
る。上述した図7に示す動きベクトル検出部20と同様
に、動きベクトル検出部40は、入力端子41からの映
像信号が入力されるフィルタ処理回路42と、代表点記
憶回路43と、代表点と画素の差分を演算する減算器4
4と、差を絶対値へ変換する絶対値変換回路45と、累
算加算回路46と、動きベクトル発生回路47とから構
成される。なお、図8と同様に、検出された動きベクト
ルの信頼性を判別する信頼性判別のための構成が付加さ
れることによって、動きベクトル検出装置(参照符号
2’)が構成される。
In FIG. 12, reference numeral 40 is an embodiment of the motion vector detecting section to which the present invention is applied. Similar to the motion vector detecting unit 20 shown in FIG. 7 described above, the motion vector detecting unit 40 includes a filter processing circuit 42 to which a video signal from an input terminal 41 is input, a representative point storage circuit 43, a representative point and a pixel. Subtractor 4 for calculating the difference of
4, an absolute value conversion circuit 45 for converting the difference into an absolute value, a cumulative addition circuit 46, and a motion vector generation circuit 47. As in the case of FIG. 8, a motion vector detection device (reference numeral 2 ′) is configured by adding a configuration for reliability determination that determines the reliability of the detected motion vector.

【0036】代表点記憶回路43に対して、端子48か
ら代表点記憶許可信号が供給される。代表点記憶許可信
号は、映像信号が欠落するフィールドでは、代表点を記
憶させないように、記憶動作を制御するための信号であ
る。代表点記憶回路43が記憶動作を行なわない結果、
以前に記憶された代表点のデータがそのまま保存され
る。したがって、前フィールドが欠落する場合でも、減
算器44によって、相関値を演算することが可能とな
る。
A representative point storage permission signal is supplied from the terminal 48 to the representative point storage circuit 43. The representative point storage permission signal is a signal for controlling the storage operation so that the representative point is not stored in the field where the video signal is missing. As a result of the representative point storage circuit 43 not performing the storage operation,
The previously stored representative point data is saved as it is. Therefore, even if the previous field is missing, the subtractor 44 can calculate the correlation value.

【0037】図13は、一実施形態における手振れ補正
装置の構成を示す。手振れ補正装置は、入力端子51か
らの入力映像信号から動きベクトルを検出する動きベク
トル検出装置2’と、検出された動きベクトルが供給さ
れる補正制御部53と、補正制御部53からの補正制御
信号によって手振れ補正を行うためのフィールドメモリ
54および補間部55とから構成され、手振れ補正され
た映像信号が出力される。動きベクトル検出装置2’に
対して、端子48から代表点記憶許可信号が供給され、
入力映像信号が存在するフィールドで代表点が記憶され
る。代表点記憶許可信号と同期した補正制御許可信号が
入力端子56から補正制御部53に供給され、映像信号
が欠落しているフィールドでは、補正動作を行なわない
ように制御される。
FIG. 13 shows the structure of a camera shake correction device in one embodiment. The camera shake correction device includes a motion vector detection device 2 ′ that detects a motion vector from an input video signal from an input terminal 51, a correction control unit 53 to which the detected motion vector is supplied, and a correction control from the correction control unit 53. It is composed of a field memory 54 and an interpolator 55 for carrying out image stabilization by a signal, and outputs an image signal subjected to image stabilization. A representative point storage permission signal is supplied from the terminal 48 to the motion vector detection device 2 ′,
The representative point is stored in the field where the input video signal exists. A correction control permission signal synchronized with the representative point storage permission signal is supplied from the input terminal 56 to the correction control unit 53, and control is performed so that the correction operation is not performed in the field where the video signal is missing.

【0038】図14は、動きベクトル検出装置2’の動
作を示すタイミングチャートである。図14Aが垂直同
期信号を示し、図14Bが露光動作を示し、図14Cが
映像信号入力を示す。例えばフィールドFn-2 とフィー
ルドFn-1 にまたがる1フィールド期間以上の露光によ
って、フィールドFnの映像信号が形成される。映像信
号が存在するフィールドに対応して、ハイレベルとなる
代表点記憶許可信号(図14D)が形成される。さら
に、代表点記憶許可信号と同期した補正制御許可信号
(図14E)が生成される。代表点記憶許可信号は、例
えばカメラ一体型記録再生装置の場合であれば、設定さ
れた動作モードに応じて生成される。
FIG. 14 is a timing chart showing the operation of the motion vector detecting device 2 '. 14A shows a vertical synchronizing signal, FIG. 14B shows an exposure operation, and FIG. 14C shows a video signal input. For example, the image signal of the field Fn is formed by the exposure for one field period or more that spans the field Fn-2 and the field Fn-1. A representative point storage permission signal (FIG. 14D) having a high level is formed corresponding to the field in which the video signal exists. Further, a correction control permission signal (FIG. 14E) synchronized with the representative point storage permission signal is generated. The representative point storage permission signal is generated according to the set operation mode in the case of a camera-integrated recording / reproducing apparatus, for example.

【0039】図15は、この発明の一実施形態における
相関演算動作を示し、図15Aが垂直同期信号を示し、
図15Bが露光期間を示す。図15Cに示すように、フ
ィールドFn-2 に存在する映像信号から代表点が抽出さ
れ、代表点記憶回路43に記憶される。代表点とフィー
ルドFnの画素値とが減算器44において減算され、絶
対値に変換されることによって、相関値が生成される。
FIG. 15 shows a correlation calculation operation in one embodiment of the present invention, and FIG. 15A shows a vertical synchronizing signal.
FIG. 15B shows the exposure period. As shown in FIG. 15C, a representative point is extracted from the video signal existing in the field Fn-2 and stored in the representative point storage circuit 43. The representative point and the pixel value of the field Fn are subtracted by the subtractor 44 and converted into an absolute value, whereby a correlation value is generated.

【0040】この発明は、上述したこの発明の一実施形
態等に限定されるものでは無く、この発明の要旨を逸脱
しない範囲内で様々な変形や応用が可能である。例えば
2フィールド期間を越える露光を行う場合に対してもこ
の発明を適用できる。また、この発明は、動画および静
止画の何れの撮像画像を得る場合に対しても適用でき
る。
The present invention is not limited to the above-described embodiment of the present invention and the like, and various modifications and applications are possible without departing from the gist of the present invention. For example, the present invention can be applied to the case where exposure is performed for more than 2 field periods. Further, the present invention can be applied to the case of obtaining both picked-up images of moving images and still images.

【0041】[0041]

【発明の効果】この発明では、露光時間に応じた周期で
代表点記憶の記憶許可を制御することによって、露光時
間が数フィールドにわたる場合でも、動きベクトルを検
出することが可能となり、検出された動きベクトルによ
って手振れ補正を行うことが可能となる。また、この発
明では、露光時間が1フィールドまたは1フレームを越
える場合に、補正制御を映像信号が存在するフィールド
でのみ行うので、補正動作を正しく行うことができる。
According to the present invention, by controlling the storage permission of the representative point storage in a cycle according to the exposure time, it becomes possible to detect the motion vector even when the exposure time extends over several fields. It is possible to perform camera shake correction using the motion vector. Further, in the present invention, when the exposure time exceeds one field or one frame, the correction control is performed only in the field in which the video signal exists, so that the correction operation can be performed correctly.

【図面の簡単な説明】[Brief description of drawings]

【図1】手振れ補正装置の一例を示すブロック図であ
る。
FIG. 1 is a block diagram illustrating an example of a camera shake correction device.

【図2】動きベクトル検出方法の説明に用いる略線図で
ある。
FIG. 2 is a schematic diagram used to describe a motion vector detection method.

【図3】動きベクトル検出のための検出領域を示す略線
図である。
FIG. 3 is a schematic diagram showing a detection area for detecting a motion vector.

【図4】動きベクトル検出のための代表点とサーチ範囲
の関係を示す略線図である。
FIG. 4 is a schematic diagram showing a relationship between a representative point for motion vector detection and a search range.

【図5】相関値の積分値を説明するための略線図であ
る。
FIG. 5 is a schematic diagram for explaining an integrated value of correlation values.

【図6】相関値の積分値を3次元的に示す略線図であ
る。
FIG. 6 is a schematic diagram showing a three-dimensional integrated value of a correlation value.

【図7】動きベクトル検出装置の一例のブロック図であ
る。
FIG. 7 is a block diagram of an example of a motion vector detection device.

【図8】動きベクトル検出装置の一例のブロック図であ
る。
FIG. 8 is a block diagram of an example of a motion vector detection device.

【図9】検出された動きベクトルの信頼性評価の説明に
用いる略線図である。
FIG. 9 is a schematic diagram used for explaining reliability evaluation of a detected motion vector.

【図10】動きベクトル検出動作を説明するためのタイ
ミングチャートである。
FIG. 10 is a timing chart for explaining a motion vector detecting operation.

【図11】この発明による動きベクトル検出動作を説明
するための略線図である。
FIG. 11 is a schematic diagram for explaining a motion vector detecting operation according to the present invention.

【図12】この発明による動きベクトル検出装置の一実
施形態のブロック図である。
FIG. 12 is a block diagram of an embodiment of a motion vector detecting device according to the present invention.

【図13】この発明による手振れ補正装置の一実施形態
のブロック図である。
FIG. 13 is a block diagram of an embodiment of an image stabilization apparatus according to the present invention.

【図14】この発明による手振れ補正の説明に用いるタ
イミングチャートである。
FIG. 14 is a timing chart used for explaining the image stabilization according to the present invention.

【図15】この発明による動きベクトル検出動作を説明
するためのタイミングチャートである。
FIG. 15 is a timing chart for explaining a motion vector detecting operation according to the present invention.

【符号の説明】[Explanation of symbols]

2,2’・・・動きベクトル検出装置、20,40・・
・動きベクトル検出部、43・・・代表点記憶回路、4
4・・・減算器、46・・・累算加算回路、48・・・
代表点記憶許可信号の入力端子、53・・・補正制御
部、54・・・フィールドメモリ、56・・・補正制御
許可信号の入力端子
2, 2 '... Motion vector detection device, 20, 40 ...
・ Motion vector detection unit, 43 ... Representative point storage circuit, 4
4 ... Subtractor, 46 ... Cumulative addition circuit, 48 ...
Representative point storage permission signal input terminal, 53 ... Correction control unit, 54 ... Field memory, 56 ... Correction control permission signal input terminal

Claims (5)

【特許請求の範囲】[Claims] 【請求項1】 撮像装置の手振れにより生じる動きベク
トルを入力映像信号から検出する動きベクトル検出装置
において、 時間的に前のフィールドまたはフレームから複数の代表
点を抽出して記憶する代表点記憶手段と、 現在のフィールドまたはフレームに上記代表点のそれぞ
れと同一の位置の画素を含む複数の領域を設定し、各領
域内の複数の画素と上記代表点との相関値を演算する相
関値演算手段と、 上記相関値演算手段からの相関値を所定の範囲で積分す
る積分手段と、 上記積分手段からの相関値の積分値に基づいて上記所定
の範囲の動きベクトルを決定する動きベクトル決定手段
とを備え、 露光時間が1フィールドまたは1フレームより長い結
果、映像信号が欠落したフィールドまたはフレームが発
生する場合では、映像信号が存在するフィールドまたは
フレームにおいてのみ、上記代表点記憶手段が上記代表
点の記憶動作を行うようにした動きベクトル検出装置。
1. A motion vector detecting device for detecting a motion vector caused by camera shake of an imaging device from an input video signal, and a representative point storing means for extracting and storing a plurality of representative points from a field or frame temporally preceding. Correlation value calculation means for setting a plurality of regions including pixels at the same positions as the representative points in the current field or frame and calculating a correlation value between the plurality of pixels in each region and the representative points An integrating means for integrating the correlation value from the correlation value calculating means within a predetermined range, and a motion vector determining means for determining a motion vector within the predetermined range based on the integrated value of the correlation values from the integrating means. If a field or frame in which the video signal is missing occurs as a result of the exposure time being longer than one field or one frame, the video signal is present. In field or frame only, a motion vector detecting device in which the representative point storage means is to perform the storage operation of the representative points.
【請求項2】 撮像装置の手振れにより生じる動きベク
トルを入力映像信号から検出する動きベクトル検出方法
において、 時間的に前のフィールドまたはフレームから複数の代表
点を抽出して記憶する代表点記憶ステップと、 現在のフィールドまたはフレームに上記代表点のそれぞ
れと同一の位置の画素を含む複数の領域を設定し、各領
域内の複数の画素と上記代表点との相関値を演算する相
関値演算ステップと、 演算された上記相関値を所定の範囲で積分する積分ステ
ップと、 求められた相関値の積分値に基づいて上記所定の範囲の
動きベクトルを決定する動きベクトル決定ステップとか
らなり、 露光時間が1フィールドまたは1フレームより長い結
果、映像信号が欠落したフィールドまたはフレームが発
生する場合では、映像信号が存在するフィールドまたは
フレームにおいてのみ、上記代表点記憶ステップの処理
を行うようにした動きベクトル検出方法。
2. A representative point storing step for extracting and storing a plurality of representative points from a temporally previous field or frame in a motion vector detecting method for detecting a motion vector caused by camera shake of an imaging device from an input video signal. A correlation value calculating step of setting a plurality of regions including pixels at the same positions as the respective representative points in the current field or frame and calculating a correlation value between the plurality of pixels in each region and the representative point; , An integration step for integrating the calculated correlation value in a predetermined range, and a motion vector determination step for determining a motion vector in the predetermined range based on the obtained integrated value of the correlation value. If a field or frame in which the video signal is missing is generated as a result of longer than one field or one frame, the video signal is present. In field or frame only, a motion vector detection method to perform the processing of the representative point storing step.
【請求項3】 撮像装置の手振れにより生じる動きベク
トルを入力映像信号から検出し、検出された動きベクト
ルによって手振れを補正する手振れ補正装置において、 補正すべき映像信号を蓄積するメモリと、動きベクトル
検出装置と、補正制御手段とを備え、 上記動きベクトル検出装置は、時間的に前のフィールド
またはフレームから複数の代表点を抽出して記憶する代
表点記憶手段と、 現在のフィールドまたはフレームに上記代表点のそれぞ
れと同一の位置の画素を含む複数の領域を設定し、各領
域内の複数の画素と上記代表点との相関値を演算する相
関値演算手段と、 上記相関値演算手段からの相関値を所定の範囲で積分す
る積分手段と、 上記積分手段からの相関値の積分値に基づいて上記所定
の範囲の動きベクトルを決定する動きベクトル決定手段
とを備え、 露光時間が1フィールドまたは1フレームより長い結
果、映像信号が欠落したフィールドまたはフレームが発
生する場合では、映像信号が存在するフィールドまたは
フレームにおいてのみ、上記代表点記憶手段が上記代表
点の記憶動作を行うようになされ、 上記補正制御手段は、上記動きベクトル決定手段からの
動きベクトルが供給され、上記動きベクトルに基づい
て、手振れを補正するように、上記メモリを制御する構
成とされ、露光時間が1フィールドまたは1フレームよ
り長い結果、映像信号が欠落したフィールドまたはフレ
ームが発生する場合では、映像信号が存在するフィール
ドまたはフレームにおいてのみ、制御動作を行うように
された手振れ補正装置。
3. A camera shake correction apparatus for detecting a motion vector caused by camera shake of an image pickup apparatus from an input video signal and correcting the camera shake by the detected motion vector, a memory for accumulating a video signal to be corrected, and a motion vector detection. The motion vector detecting device includes a device and a correction control unit, and the motion vector detecting device includes a representative point storage unit that extracts and stores a plurality of representative points from a temporally previous field or frame, and the representative point in the current field or frame. Correlation value calculating means for setting a plurality of areas including pixels at the same position as each of the points and calculating a correlation value between the plurality of pixels in each area and the representative point, and correlation from the correlation value calculating means An integrating means for integrating the value in a predetermined range, and a motion for determining the motion vector in the predetermined range based on the integrated value of the correlation value from the integrating means. When a field or frame in which a video signal is missing is generated as a result of the exposure time being longer than one field or one frame, the representative point storage means is provided only in the field or frame in which the video signal exists. The correction control means is supplied with the motion vector from the motion vector determination means, and controls the memory so as to correct camera shake based on the motion vector. In the case where a field or frame in which a video signal is missing is generated as a result of the exposure time being longer than one field or one frame, the camera shake is such that the control operation is performed only in the field or frame in which the video signal exists. Correction device.
【請求項4】 撮像装置の手振れにより生じる動きベク
トルを入力映像信号から検出し、検出された動きベクト
ルによって手振れを補正する手振れ補正方法において、 時間的に前のフィールドまたはフレームから複数の代表
点を抽出して記憶する代表点記憶ステップと、 現在のフィールドまたはフレームに上記代表点のそれぞ
れと同一の位置の画素を含む複数の領域を設定し、各領
域内の複数の画素と上記代表点との相関値を演算する相
関値演算ステップと、 演算された上記相関値を所定の範囲で積分する積分ステ
ップと、 求められた相関値の積分値に基づいて上記所定の範囲の
動きベクトルを決定する動きベクトル決定ステップと、 動きベクトル決定ステップで求められた動きベクトルに
基づいて、手振れを補正するように、入力映像信号が蓄
積されているメモリを制御する補正制御のステップとか
らなり、 露光時間が1フィールドまたは1フレームより長い結
果、映像信号が欠落したフィールドまたはフレームが発
生する場合では、映像信号が存在するフィールドまたは
フレームにおいてのみ、上記代表点の記憶ステップの処
理を行うようになされ、 露光時間が1フィールドまたは1フレームより長い結
果、映像信号が欠落したフィールドまたはフレームが発
生する場合では、映像信号が存在するフィールドまたは
フレームにおいてのみ、上記補正制御のステップの処理
を行うようにされた手振れ補正方法。
4. A camera shake correction method for detecting a motion vector caused by a camera shake of an imaging device from an input video signal and correcting the camera shake by the detected motion vector, wherein a plurality of representative points are temporally preceding a field or frame. The representative point storing step of extracting and storing, and setting a plurality of areas including pixels at the same position as each of the representative points in the current field or frame, and setting a plurality of pixels in each area and the representative point Correlation value calculation step for calculating the correlation value, integration step for integrating the calculated correlation value in a predetermined range, and motion for determining the motion vector in the predetermined range based on the calculated integration value of the correlation value Based on the vector determination step and the motion vector obtained in the motion vector determination step, the input image signal is When the field or frame in which the video signal is lost occurs as a result of the exposure time being longer than one field or one frame, the field or frame in which the video signal exists The processing of the storage step of the representative point is performed only in the frame, and when the field or frame in which the video signal is missing is generated as a result of the exposure time being longer than 1 field or 1 frame, the field in which the video signal exists Alternatively, a camera shake correction method in which the process of the correction control step is performed only in a frame.
【請求項5】 撮像装置の手振れにより生じる動きベク
トルを入力映像信号から検出し、検出された動きベクト
ルによって手振れを補正する手振れ補正装置を備えた撮
像装置において、 手振れ補正装置は、補正すべき映像信号を蓄積するメモ
リと、動きベクトル検出装置と、補正制御手段とを備
え、 上記動きベクトル検出装置は、時間的に前のフィールド
またはフレームから複数の代表点を抽出して記憶する代
表点記憶手段と、 現在のフィールドまたはフレームに上記代表点のそれぞ
れと同一の位置の画素を含む複数の領域を設定し、各領
域内の複数の画素と上記代表点との相関値を演算する相
関値演算手段と、 上記相関値演算手段からの相関値を所定の範囲で積分す
る積分手段と、 上記積分手段からの相関値の積分値に基づいて上記所定
の範囲の動きベクトルを決定する動きベクトル決定手段
とを備え、 露光時間が1フィールドまたは1フレームより長い結
果、映像信号が欠落したフィールドまたはフレームが発
生する場合では、映像信号が存在するフィールドまたは
フレームにおいてのみ、上記代表点記憶手段が上記代表
点の記憶動作を行うようになされ、 上記補正制御手段は、上記動きベクトル決定手段からの
動きベクトルが供給され、上記動きベクトルに基づい
て、手振れを補正するように、上記メモリを制御する構
成とされ、露光時間が1フィールドまたは1フレームよ
り長い結果、映像信号が欠落したフィールドまたはフレ
ームが発生する場合では、映像信号が存在するフィール
ドまたはフレームにおいてのみ、制御動作を行うように
された撮像装置。
5. An image pickup apparatus equipped with a shake correction device for detecting a motion vector caused by a shake of an image pickup device from an input video signal and correcting the shake according to the detected motion vector, wherein the shake correction device is an image to be corrected. The motion vector detecting device includes a memory for accumulating signals, a motion vector detecting device, and a correction control means, and the motion vector detecting device extracts a plurality of representative points from a temporally previous field or frame and stores them. And a correlation value calculating means for setting a plurality of regions including pixels at the same position as each of the representative points in the current field or frame, and calculating a correlation value between the plurality of pixels in each region and the representative point. An integrating means for integrating the correlation value from the correlation value calculating means within a predetermined range, and the predetermined value based on the integrated value of the correlation values from the integrating means. When a field or frame in which a video signal is missing occurs as a result of the exposure time being longer than one field or one frame, the motion vector determining means for determining the motion vector in the range is included in the field or frame in which the video signal exists. Only, the representative point storage means performs the storage operation of the representative point, and the correction control means is supplied with the motion vector from the motion vector determination means, and corrects the camera shake based on the motion vector. When the field or frame in which the video signal is missing is generated as a result of the exposure time being longer than 1 field or 1 frame, the control is performed only in the field or frame in which the video signal exists. An imaging device adapted to perform an operation.
JP2001264382A 2001-08-31 2001-08-31 Device and method for detecting motion vector, device and method for correcting camera shake and imaging apparatus Pending JP2003078808A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001264382A JP2003078808A (en) 2001-08-31 2001-08-31 Device and method for detecting motion vector, device and method for correcting camera shake and imaging apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001264382A JP2003078808A (en) 2001-08-31 2001-08-31 Device and method for detecting motion vector, device and method for correcting camera shake and imaging apparatus

Publications (1)

Publication Number Publication Date
JP2003078808A true JP2003078808A (en) 2003-03-14

Family

ID=19090988

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001264382A Pending JP2003078808A (en) 2001-08-31 2001-08-31 Device and method for detecting motion vector, device and method for correcting camera shake and imaging apparatus

Country Status (1)

Country Link
JP (1) JP2003078808A (en)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1312911C (en) * 2003-07-15 2007-04-25 索尼株式会社 Image pickup apparatus and image pickup method
KR100792960B1 (en) 2006-02-13 2008-01-08 엘지전자 주식회사 Compensation apparatus for motion in the mobile terminal
KR100827794B1 (en) 2005-07-29 2008-05-07 재단법인서울대학교산학협력재단 compensating method for camera image fluctuation
JP2009542108A (en) * 2006-06-27 2009-11-26 モトローラ・インコーポレイテッド Image capturing device using rolling band shutter
US7742690B2 (en) 2005-04-07 2010-06-22 Sony Corporation Imaging apparatus and method for processing imaging results
KR100974685B1 (en) 2003-07-29 2010-08-06 엘지전자 주식회사 Hand quake correction method for camera of mobile communication terminal
JP2010288003A (en) * 2009-06-10 2010-12-24 Sanyo Electric Co Ltd Motion detector
KR101022984B1 (en) 2008-06-17 2011-03-18 주식회사 코아로직 Apparatus and Method for Real Time Motion Estimation
JP2011205284A (en) * 2010-03-25 2011-10-13 Toshiba Corp Image processing method and image processing device

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1312911C (en) * 2003-07-15 2007-04-25 索尼株式会社 Image pickup apparatus and image pickup method
KR100974685B1 (en) 2003-07-29 2010-08-06 엘지전자 주식회사 Hand quake correction method for camera of mobile communication terminal
US7742690B2 (en) 2005-04-07 2010-06-22 Sony Corporation Imaging apparatus and method for processing imaging results
KR100827794B1 (en) 2005-07-29 2008-05-07 재단법인서울대학교산학협력재단 compensating method for camera image fluctuation
KR100792960B1 (en) 2006-02-13 2008-01-08 엘지전자 주식회사 Compensation apparatus for motion in the mobile terminal
JP2009542108A (en) * 2006-06-27 2009-11-26 モトローラ・インコーポレイテッド Image capturing device using rolling band shutter
KR101022984B1 (en) 2008-06-17 2011-03-18 주식회사 코아로직 Apparatus and Method for Real Time Motion Estimation
JP2010288003A (en) * 2009-06-10 2010-12-24 Sanyo Electric Co Ltd Motion detector
JP2011205284A (en) * 2010-03-25 2011-10-13 Toshiba Corp Image processing method and image processing device
US8836800B2 (en) 2010-03-25 2014-09-16 Kabushiki Kaisha Toshiba Image processing method and device interpolating G pixels

Similar Documents

Publication Publication Date Title
US7750942B2 (en) Image processing apparatus and method, recording medium, and program for correcting camera shake
JP4489033B2 (en) Frame rate conversion device, pan / tilt determination device and video device
US7705884B2 (en) Processing of video data to compensate for unintended camera motion between acquired image frames
US8072511B2 (en) Noise reduction processing apparatus, noise reduction processing method, and image sensing apparatus
KR100252080B1 (en) Apparatus for stabilizing video signals through revising the motion of the video signals using bit plane matching and a stabilizing method therefor
JP4639555B2 (en) Motion vector detection apparatus and method, camera shake correction apparatus and method, and imaging apparatus
WO2011129249A1 (en) Image processing device, image capture device, program, and image processing method
KR100775104B1 (en) Image stabilizer and system having the same and method thereof
JPH08172566A (en) Camera-shake correction device and video camera using it
JP2507138B2 (en) Motion vector detection device and image shake correction device
JP4861636B2 (en) Image processing apparatus and image processing program
JPWO2006025396A1 (en) Image processing apparatus and image processing program
JP2860702B2 (en) Motion vector detection device
JP2003078808A (en) Device and method for detecting motion vector, device and method for correcting camera shake and imaging apparatus
JP5267279B2 (en) Image composition apparatus and program
JP2005027046A (en) Image processor and image processing method
JPH0846856A (en) Hand shake correcting device
JP4760484B2 (en) Camera shake correction apparatus, camera shake correction method, and program
JP2009027437A (en) Image processor, image processing method and imaging device
JP3200089B2 (en) Motion vector detection device and shake correction device
JP2004229084A (en) Blurring correcting instrument, method therefor and imaging apparatus
JP2005197862A (en) Image processing apparatus
JP2011176776A (en) Image processing apparatus and image processing method
JPH04145777A (en) Motion vector detecting device
JP2007259105A (en) Camera shake correcting method and its apparatus, and imaging apparatus