JPH043595A - Moving information detection system for moving picture and prediction coding system for inter-frame moving compensation for moving picture - Google Patents

Moving information detection system for moving picture and prediction coding system for inter-frame moving compensation for moving picture

Info

Publication number
JPH043595A
JPH043595A JP2104032A JP10403290A JPH043595A JP H043595 A JPH043595 A JP H043595A JP 2104032 A JP2104032 A JP 2104032A JP 10403290 A JP10403290 A JP 10403290A JP H043595 A JPH043595 A JP H043595A
Authority
JP
Japan
Prior art keywords
motion
moving
image
motion vector
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2104032A
Other languages
Japanese (ja)
Other versions
JP2586686B2 (en
Inventor
Yoshihiro Miyamoto
義弘 宮本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP10403290A priority Critical patent/JP2586686B2/en
Publication of JPH043595A publication Critical patent/JPH043595A/en
Application granted granted Critical
Publication of JP2586686B2 publication Critical patent/JP2586686B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

PURPOSE:To attain moving detection with high detection accuracy by providing a moving vector detection means for each small block and a moving parameter detection means outputting a moving parameter as moving information. CONSTITUTION:An input picture 101 and a reference picture 102 are fed to a moving vector detection circuit 11. The moving vector detection circuit 11 detects a moving vector (Vx, Vy) 103 for each picture element and each small block from the input picture 101 and gives it to a moving parameter detection circuit 12. Then the moving parameter detection circuit 12 obtains a moving parameter 104 featuring an affine transformation describing the movement as the entire picture from the moving vector 103 by calculation and outputs the result as moving information. Thus, the movement of the entire picture is more accurately described and the moving vector expanded from the moving parameter is used as a reference value to detect the movement for each small block. Thus, the movement detection with high detection accuracy is realized.

Description

【発明の詳細な説明】 (産業上の利用分野) 本発明は動画像の動き情報検出方式および動画像の動き
補償フレーム間予測符号化方式に関する。
DETAILED DESCRIPTION OF THE INVENTION (Field of Industrial Application) The present invention relates to a motion information detection method for moving images and a motion compensated interframe predictive coding method for moving images.

(従来の技術) 従来、動画像の動き補償フレーム間予測符号化方式とし
ては、供給された画像を定められた大きさの小ブロック
に分割し、その分割した各小ブロック毎に動ベクトルを
検出し、該動ベクトルの全てを伝送する方式が普通に用
いられていた。
(Prior art) Conventionally, a motion compensated interframe predictive coding method for moving images divides a supplied image into small blocks of a predetermined size, and detects a motion vector for each divided small block. However, a method of transmitting all of the motion vectors was commonly used.

この動画像の動き補償フレーム間予測符号化方式の改良
として特願昭63−230350号「画像符号化装!お
よび復号化装置」において、小ブロック毎に検出した動
ベクトルを周波数分解してその低周波成分を動ベクトル
場として出力する方式が説明されている。この方式では
、検出した動ベクトル場から小ブロック毎の動ベクトル
を展開してその展開した動ベクトルを動き補償フレーム
間予測に用いる。また動ベクトル場を符号化して復号化
装置に伝送することで、符号化・復号化側装置で同じ動
ベクトルを用いた動き補償を実現することができる。こ
のように動ベクトル情報として動ベクトル場を符号化伝
送することで、動ベクトル情報の符号量を削減している
As an improvement to this motion-compensated inter-frame predictive coding method for moving images, in Japanese Patent Application No. 1983-230350 ``Image Coding System! and Decoding Device'', a motion vector detected for each small block is frequency decomposed and its low frequency A method for outputting the components as a motion vector field is explained. In this method, a motion vector for each small block is developed from the detected motion vector field, and the developed motion vector is used for motion compensated interframe prediction. Furthermore, by encoding the motion vector field and transmitting it to the decoding device, it is possible to realize motion compensation using the same motion vector in the encoding and decoding devices. By encoding and transmitting the motion vector field as motion vector information in this manner, the amount of code for motion vector information is reduced.

(発明が解決しようとする課題) 小ブロック毎に検出しな動ベクトルを周波数分解してそ
の低周波成分を動ベクトル場として符号化伝送する方式
では、動ベクトル情報量を削減することができる。しか
し実際のカメラ操作によるズーム・回転等の動きは低周
波成分のみでは十分正確に記述することはできない。従
って動ベクトル場から小ブロック毎に展開された動ベク
トルを用いた動き補償フレーム間予測は必ずしも効果的
ではないという欠点があった。
(Problems to be Solved by the Invention) The amount of motion vector information can be reduced by a method in which a motion vector is not detected for each small block, but is frequency-decomposed and its low frequency components are encoded and transmitted as a motion vector field. However, movements such as zooming and rotation due to actual camera operations cannot be described accurately enough using only low frequency components. Therefore, motion compensated interframe prediction using motion vectors developed for each small block from a motion vector field has the disadvantage that it is not necessarily effective.

そこで本発明は、検出精度の高い動き検出を実現するこ
とを目的とする。
Therefore, an object of the present invention is to realize motion detection with high detection accuracy.

(課題を解決するための手段) 本発明に係る第1の動画像の動き情報検出方式動画像の
フレーム間の動き情報の検出を行う動画像の動き情報検
出方式であって、入力画像の画素毎または小ブロック毎
に動ベクトルを検出する動ベクトル検出手段と、入力画
像の画素毎または小ブロック毎に検出された前記動ベク
トルから画像全体の動きを記述しアフィン変換を特徴づ
ける動きパラメータを検出して該動きパラメータを動き
情報として出力する動きパラメータ検出手段とを備える
ことを特徴とする。
(Means for Solving the Problems) A first moving image motion information detection method according to the present invention is a moving image motion information detection method for detecting motion information between frames of a moving image, the method comprising: detecting motion information between frames of a moving image; a motion vector detecting means for detecting a motion vector for each pixel or each small block; and a motion parameter that describes the motion of the entire image and characterizes the affine transformation from the motion vector detected for each pixel or each small block of the input image. and a motion parameter detection means for outputting the motion parameter as motion information.

本発明に係る第2の動画像の動き情報検出方式前述した
第1の動画像の動き情報検出方式であって、前記動きパ
ラメータ検出手段は入力画像の画素毎または小ブロック
毎に検出された動ベクトルから最小2乗誤差法を用いて
前記動きパラメータを計算することを特徴とする。
Second moving image motion information detection method according to the present invention In the first moving image motion information detection method described above, the motion parameter detection means detects motion detected for each pixel or each small block of the input image. The motion parameter is calculated from a vector using a least squares error method.

本発明に係る第3の動画像の動き情報検出方式前述した
第1の動画像の動き情報検出方式であって、前記動きパ
ラメータ検出手段は入力画像の画素毎または小ブロック
毎に検出された動ベクトルのうち周囲の動ベクトルと大
きく異なる成分を取り除く働きを持つフィルタを備え、
該フィルタの出力である動ベクトル成分がら前記動きパ
ラメータを計算することを特徴とする。
Third moving image motion information detection method according to the present invention In the first moving image motion information detection method described above, the motion parameter detection means detects motion detected for each pixel or each small block of the input image. Equipped with a filter that removes components of the vector that are significantly different from surrounding motion vectors,
The method is characterized in that the motion parameter is calculated from a motion vector component that is an output of the filter.

本発明に係る第1の動画像の動き補償フレーム間予測符
号化方式は、 画像全体の動きを記述しアフィン変換を特徴づける動き
パラメータを変換係数とする画像上の位置に対する一次
変換を用いて入力画像の画素毎または小ブロック毎の動
ベクトルを展開し、該展開されな動ベクトルを用いて動
き補償フレーム間予測を行うことを特徴とする。
The first motion-compensated inter-frame predictive coding method for moving images according to the present invention uses a linear transformation for a position on an image as an input using a motion parameter that describes the motion of the entire image and characterizes the affine transformation as a transformation coefficient. It is characterized by developing a motion vector for each pixel or small block of an image, and performing motion compensated interframe prediction using the undeveloped motion vector.

本発明に係る第2の動画像の動き補償フレーム間予測符
号化方式は、 前述した第1の動画像の動き補償フレーム間予測符号化
方式が展開する動ベクトルを基準値として画素または小
ブロックの動ベクトルを検出し、該動ベクトルを用いて
動画像の動き補償フレーム間予測を行うことを特徴とす
る。
The second motion-compensated inter-frame predictive coding method for moving pictures according to the present invention uses the motion vector developed by the above-described first motion-compensated inter-frame predictive coding method for moving pictures as a reference value to encode pixels or small blocks. It is characterized by detecting a motion vector and performing motion compensated interframe prediction of a moving image using the motion vector.

(作用) 本発明に係る第1の動画像の動き情報検出方式の原理を
第6図を用いて説明する。入力画像の画素毎または小ブ
ロック毎に動ベクトルを検出した場合に、画像内で検出
される動ベクトルにはカメラ操作にしたがった特徴が見
られる。例えばカメラが横方向にバンニングを行ってい
る場合には、検出される動ベクトルは第6図<a)に示
すような一定の方向を示す、またカメラがズーミングを
行ってる場合には、第6図(b)に示すような放射状の
動ベクトルを発生する。さらにカメラが手振れ等により
回転している場合には第6図(c)に示すようになる。
(Operation) The principle of the first moving image motion information detection method according to the present invention will be explained using FIG. 6. When a motion vector is detected for each pixel or small block of an input image, the motion vectors detected within the image have characteristics according to the camera operation. For example, when the camera is performing horizontal vanning, the detected motion vector indicates a certain direction as shown in Figure 6<a), and when the camera is zooming, the detected motion vector indicates a certain direction as shown in A radial motion vector as shown in Figure (b) is generated. Furthermore, if the camera is rotated due to hand shake or the like, the situation will be as shown in FIG. 6(c).

同様な動ベクトルは編集装置による画像の平行移動・拡
大縮小・回転の櫟な操作によっても発生する。
Similar motion vectors are also generated by extensive operations such as parallel translation, scaling, and rotation of an image by an editing device.

これらの画像内の動ベクトルは画像上の位置の関数とし
て記述することができる。具体的には式(1)に示すア
フィン変換で記述される。
Motion vectors within these images can be described as a function of position on the image. Specifically, it is described by the affine transformation shown in equation (1).

によるズーミング・回転・バンニング各々による動きを
記述する変換に分離した形に展開できる。
It can be developed into separate transformations that describe the movements caused by zooming, rotation, and vanning.

なお式(2)において A1=<a+d)/2 A2 = (−b+c ) / 2 A3=(a−d)/2 A11=(b+c)/2 である。Note that in formula (2) A1=<a+d)/2 A2 = (-b+c) / 2 A3=(a-d)/2 A11=(b+c)/2 It is.

展開式(2)の第1項はズーミング、第2項は回転、第
5項(e、f)’はバンニングによる動きを示す。なぜ
ならばズーミングにより発生する動ベクトルはズーミン
グ中心からの放射線方向を持ち、かつその中心からの距
離に比例した大きさを持つ。従って式(2)第1項の形
で記述できる。
The first term of expansion formula (2) indicates movement due to zooming, the second term indicates rotation, and the fifth term (e, f)' indicates movement due to banging. This is because a motion vector generated by zooming has a radial direction from the zooming center and a magnitude proportional to the distance from the center. Therefore, it can be written in the form of the first term of equation (2).

また回転により発生する画像内の位置Pでの動ベクトル
は、画像の回転中心を中心点とし、かつP点を通過する
円を描いた場合に、この円のP点での接線と同じ方向を
持ち、大きさはその円の半径に比例する。これは式(2
)第2項の形で記述できる。さらにバンニングによる動
ベクトルは画像内で一様であるから式(2)第5項の形
となる。
In addition, the motion vector at position P in the image caused by rotation, if a circle is drawn with the rotation center of the image as the center point and passing through point P, will move in the same direction as the tangent to this circle at point P. and its size is proportional to the radius of the circle. This is the formula (2
) can be written in the form of the second term. Furthermore, since the motion vector due to banning is uniform within the image, it takes the form of the fifth term of equation (2).

なおズーミング・回転の中心が画像の原点位置(0,O
)からずれている場合には、中心位置のズレ成分は式(
2)第5項に含まれる。ただし、本発明ではフレーム間
での回転角度が十分率さいこと、またカメラのレンズの
焦点!?[iが十分大きく、バンニングにより発生する
動きが画像内で均一である場合を仮定している。なお式
(2)の第3項は第6図(d)に示した縦横歪、第4項
は第6図(e)に示した斜め歪の各々の変換による動ベ
クトルを表すが、実際のカメラ入力画像ではこのような
動きは存在しないので本発明では無視することとする。
Note that the center of zooming/rotation is the origin position of the image (0, O
), the deviation component of the center position is calculated using the formula (
2) Included in Section 5. However, in the present invention, the rotation angle between frames must be sufficiently high, and the focus of the camera lens must be adjusted to a sufficient degree. ? [This assumes that i is sufficiently large and the movement caused by banging is uniform within the image. Note that the third term in equation (2) represents the motion vector resulting from the transformation of the vertical and horizontal distortion shown in Figure 6(d), and the fourth term represents the motion vector resulting from the conversion of the diagonal distortion shown in Figure 6(e). Since such movement does not exist in the camera input image, it is ignored in the present invention.

以上に説明したようにカメラ操作により画像内に発生す
る動きはズーミング・回転・バンニング各々を記述する
変換の線形結合で表現でき、その変換を特徴づける動き
パラメータは式(1)の(a、b、c、d、e、f) または式(2)の (AI 、A2 、e、f) のどちらかの組合せで与えることができる。
As explained above, the movement that occurs in an image due to camera operation can be expressed as a linear combination of transformations that describe zooming, rotation, and banging, and the motion parameters that characterize the transformation are (a, b) in equation (1). , c, d, e, f) or (AI, A2, e, f) in formula (2).

動き情報の符号化においては、これらの動きパラメータ
のみを符号化することで、動き情報を減らした効率の良
い符号化を実現することができる。
In encoding motion information, by encoding only these motion parameters, it is possible to realize efficient encoding with reduced motion information.

またアフィン変換を特徴づける動きパラメータを用いる
ことで、画像全体の動きをより正確に記述することがで
きる。
Furthermore, by using motion parameters that characterize affine transformation, the motion of the entire image can be described more accurately.

本発明に係る第2の動画像の動き情報検出方式の画像全
体の動きを記述するアフィン変換を特徴づける動きパラ
メータの計算は、入力画像の画素毎または小ブロック毎
に検出した動ベクトル(V、、V、)から最小2乗誤差
法を用いておこなう。まず画像内の位置(x’ 、y’
 )と、その位置での動ベクトルのX成分の実測値VW
’とからパラメータa、b、eを求める方法を説明する
Calculation of motion parameters characterizing the affine transformation that describes the motion of the entire image in the second moving image motion information detection method according to the present invention is performed using a motion vector (V, , V, ) using the least squares error method. First, the position in the image (x', y'
) and the measured value VW of the X component of the motion vector at that position.
A method for determining parameters a, b, and e from ' is explained.

いよN個の実測値x’ 、y’ l  K ’  (i
=t〜N)に対してアフィン変換式(1)のパラメータ
a、b、eを仮定した場合に、v8の実測値との平均2
乗誤差MSEは式(3)で与えられる。
Now, N actual measured values x', y' l K' (i
= t~N), assuming parameters a, b, and e of affine transformation formula (1), the average 2 with the actual measured value of v8
The multiplicative error MSE is given by equation (3).

=E  <V、 2 > +a2 E  <X2 >+
b2 E  (y2 )+e2 2 a E  (v x  x )   2 b E2
eE  (vt )+2abE + 2 a e E  (x )  + 2 b e 
E(■エ y) (xy) (y) ・・・ (3) なだし、Eに)は平均を示し次式で表される。
=E <V, 2> +a2 E <X2>+
b2 E (y2)+e2 2 a E (v x x) 2 b E2
eE (vt) + 2abE + 2 ae E (x) + 2 b e
E (■E y) (xy) (y) ... (3) Indicates the average and is expressed by the following formula.

ここで式(3)をa、b、eそれぞれで微分して、その
結果を0に等しいと置けば平均2乗誤差を最小にするパ
ラメータa、b、eが求められる。すなわち N′−1 となる、さらに式(4)を行列化するとにとれば E (x>=E (y)=E (xy)=O−(7)で
あるから、式(5)は次のようになる。
Here, by differentiating equation (3) with respect to each of a, b, and e and setting the result equal to 0, parameters a, b, and e that minimize the mean square error can be found. In other words, N'-1. Furthermore, if we convert equation (4) into a matrix, E (x>=E (y)=E (xy)=O-(7), so equation (5) becomes become that way.

と記述できる。ここで式(5)の行列Mが正則であるな
らば、逆行列M−1が存在して式(5)は式(6)の様
に書き直すことができる。
It can be written as Here, if the matrix M in equation (5) is regular, an inverse matrix M-1 exists and equation (5) can be rewritten as equation (6).

ゆえに、 すなわちアフィン変換のパラメータa、b、eは実測値
x’ 、y’ 、vえ1から式(6)を用いて計算でき
ることが示される。また特殊な場合として実測を行う座
標位置(x’、y’)を原点対象である。従ってN個の
実測値X’、y’  vえ(1=1〜N)を原点対象に
測定すれば、式(9)を用いることでパラメータa、b
、eをより簡単に計算することができる。原点対象な測
定点の設定方法の一例として、画像の中心を原点(0,
O)としてこの原点対象位置(±j、±k)を測定点と
することができる(但し、N=(2m+1)*でJ、に
は0からmまでの整数とする)。また同様な方法を用い
ることでN個の実測値x’ 、y’v、 ’  (i 
=l 〜N)からパラメータc、d、fを計算すること
ができる。
Therefore, it is shown that the parameters a, b, and e of the affine transformation can be calculated from the measured values x', y', and v1 using equation (6). Further, as a special case, the coordinate position (x', y') at which actual measurement is performed is symmetrical to the origin. Therefore, if N actual measured values
, e can be more easily calculated. As an example of how to set a measurement point that corresponds to the origin, set the center of the image to the origin (0,
O), this origin target position (±j, ±k) can be used as a measurement point (however, N=(2m+1)* and J is an integer from 0 to m). Also, by using a similar method, N actual measured values x', y'v, ' (i
=l~N), the parameters c, d, and f can be calculated.

また本発明に係る第3の動画像の動き情報検出方式の画
像全体の動きを記述するアフィン変換を特徴づける動き
パラメータの計算方式では、まず入力画像の画素毎また
は小ブロック毎に動ベクトル(VX 、V−)を検出す
る。次に検出した動ベクトル(vx 、V、)をフィル
タに供給してフィルタ通過成分(V、L、 V、L)を
検出する。このフィルタのはたらきにより画素毎または
小ブロック毎に検出した動ベクトルのうち、周囲の動ベ
クトルとは大きく異なる動ベクトルを取り除く、前記フ
ィルタの一例としては、低域通過フィルタを用いること
ができる。この場合には、画像内の座標位置(i、 j
)での動ベクトルを(VxL(i、 j)、  (v、
 (i、 j))とおくと、そのフィルタ通過成分(V
EL(i、 j)、 vyt、(i、 mは・・・ (
10) で記述される。式(10)でf(q、r)は低域通過フ
ィルタ係数である。また他の例としてはメデイアン・フ
ィルタなどのノイズ除去フィルタを用いることも可能で
ある。画像全体の動きを記述するアフィン変換を特徴づ
ける動きパラメータはこのフィルタ通過成分(VえL+
 VFL)から計算する。
In addition, in the motion parameter calculation method that characterizes the affine transformation that describes the motion of the entire image in the third motion information detection method for moving images according to the present invention, first, the motion vector (VX , V-) is detected. Next, the detected motion vector (vx, V,) is supplied to a filter to detect filter-passing components (V, L, V, L). A low-pass filter can be used as an example of the filter that removes motion vectors that are significantly different from surrounding motion vectors from among the motion vectors detected for each pixel or each small block by the function of this filter. In this case, the coordinate position (i, j
) at (VxL(i, j), (v,
(i, j)), the filter passing component (V
EL(i, j), vyt, (i, m... (
10) It is described in In equation (10), f(q, r) is a low-pass filter coefficient. Further, as another example, it is also possible to use a noise removal filter such as a median filter. The motion parameter that characterizes the affine transformation that describes the motion of the entire image is the component passing through this filter (VeL+
Calculated from VFL).

このようにフィルタを用いることで個々の動ベクトル検
出に誤りがあってもこの影響を排除して、画像全体とし
ての動きを記述する動きパラメータをより正確に検出す
ることが可能となる。
By using a filter in this way, even if there is an error in individual motion vector detection, the influence of this error can be eliminated, and it becomes possible to more accurately detect motion parameters that describe the motion of the entire image.

本発明に係る第1の動画像の動き補償フレーム間予測符
号化方式においては、まず画像全体の動きを記述するア
フィン変換を特徴づける動きパラメータから画素毎また
は小ブロック毎の動ベクトルを展開して生成する。すな
わち入力画像に対して前記動きパラメータが与えられる
と、画像内の位置が(x、y)である画素または小ブロ
ックの動ベクトル(V、、Vア)は式(1)、tたは式
(2)の−時変換を用いて求めることができる。
In the first motion-compensated interframe predictive coding method for moving images according to the present invention, a motion vector for each pixel or each small block is first developed from motion parameters that characterize an affine transformation that describes the motion of the entire image. generate. That is, when the motion parameters are given to the input image, the motion vector (V,,Va) of a pixel or small block whose position in the image is (x, y) is expressed by equation (1), t or equation It can be obtained using the -time conversion in (2).

予測符号化においては、この展開された動ベクトルを用
いて動き補償フレーム間予測を行う。なお本発明で一次
変換係数として用いる動きパラメータは、入力画像から
本発明に係る第1の動画像の動き情報検出方式を用いて
検出することができる。
In predictive encoding, motion compensated interframe prediction is performed using this expanded motion vector. Note that the motion parameters used as linear transformation coefficients in the present invention can be detected from the input image using the first moving image motion information detection method according to the present invention.

またカメラ・編集装置の操作による動きパラメータがこ
れら装置から出力されている場合には、その動きパラメ
ータを用いることも可能である。
Furthermore, if motion parameters resulting from the operation of a camera/editing device are output from these devices, it is also possible to use those motion parameters.

本発明に係る第2の動画像の動き補償フレーム間予測符
号化方式に用いる動ベクトルの検出方式においては、ま
ず画像全体の動きを記述するアフィン変換を特徴づける
動きパラメータから画素毎または小ブロック毎の動ベク
トルを展開する。次に展開された動ベクトルを基準値と
して画素毎または小ブロック毎の動ベクトルを検出する
。動きパラメータから展開された動ベクトルは画像内で
滑らかに変化し、実際の画像全体の動きをかなり正確に
示すことができる9本発明ではこの展開された動ベクト
ルを動ベクトル探査の初期値として用いることで、誤検
出の少ない動ベクトルの検出を可能とする。また展開さ
れた動ベクトルを用いた動き補償フレーム間差分があら
かじめ定めたしきい値よりも小さい画素または小ブロッ
クについては、前記動ベクトルを検出動ベクトルとして
もよい。なお本発明で動ベクトル展開に用いる動きパラ
メータは、入力画像から本発明に係る第1の動画像の動
き情報検出方式を用いて検出することができる。またカ
メラ・編集装置の操作による動きパラメータがこれら装
置から出力されている場合には、その動きパラメータを
用いることも可能である。
In the motion vector detection method used in the second motion compensated interframe predictive coding method for moving images according to the present invention, first, motion parameters characterizing the affine transformation that describes the motion of the entire image are determined for each pixel or small block. Expand the motion vector of. Next, a motion vector for each pixel or small block is detected using the developed motion vector as a reference value. The motion vector developed from the motion parameters changes smoothly within the image and can fairly accurately represent the actual motion of the entire image.9 In the present invention, this developed motion vector is used as the initial value for motion vector exploration. This makes it possible to detect motion vectors with fewer false detections. Furthermore, for pixels or small blocks for which the motion-compensated inter-frame difference using the expanded motion vector is smaller than a predetermined threshold, the motion vector may be used as the detected motion vector. Note that the motion parameters used for motion vector expansion in the present invention can be detected from the input image using the first motion image motion information detection method according to the present invention. Furthermore, if motion parameters resulting from the operation of a camera/editing device are output from these devices, it is also possible to use those motion parameters.

(実施例) 第1図は本発明に係る第1の動画像の動き情報検出方式
の一実例のブロック図である。まず動べクトル検出回路
11に入力画像101と参照画像102とが供給される
。動ベクトル検出回F!@11では、入力画像101か
ら画素毎または小ブロック毎の動ベクトル(■8.V、
)1.03を検出し、該動ベクトル(V工、V、)を動
きパラメータ検出回路12に供給する。動きパラメータ
検出回路12は、動ベクトル103から画像全体として
の動きを記述するアフィン変換を特徴づける動きパラメ
ータ104を計算により求めて動き情報として出力する
(Embodiment) FIG. 1 is a block diagram of an example of a first moving image motion information detection method according to the present invention. First, an input image 101 and a reference image 102 are supplied to the motion vector detection circuit 11. Motion vector detection episode F! In @11, a motion vector (■8.V,
) 1.03 and supplies the motion vector (V, V, ) to the motion parameter detection circuit 12. The motion parameter detection circuit 12 calculates a motion parameter 104 characterizing an affine transformation that describes the motion of the entire image from the motion vector 103 and outputs it as motion information.

第2図は本発明に係る第2の動画像の動き情報検出方式
の動きパラメータ検出手段の一実施例のブロック図であ
る。まず入力画像の画素毎または小ブロック毎に実測さ
れた動ベクトル(vl。
FIG. 2 is a block diagram of an embodiment of the motion parameter detection means of the second moving image motion information detection method according to the present invention. First, a motion vector (vl) is actually measured for each pixel or small block of the input image.

■ア)のうちX方向成分■工は平均値検出回路21に、
またy方向成分V、は平均値検出回路23に供給される
。また動ベクトルの実測座標位置(x、y)は平均値検
出回路21.22.23の各々に供給される。つぎに各
平均値検出回路21゜22.23は各種平均値を計算し
てアフィン変換係数検出回路24.25に供給する。ア
フィン変換係数検出回路24は供給された各種平均値か
ら作用の項に示した式(6)を用いてアフィン変換係数
a、b、eを計算して出力する。またアフィン変換係数
検出回路25はアフィン変換係数検出回路24と同様の
方法によりアフィン変換係数C5d、fを計算して出力
する。なお実測座標位置(x、y)が原点対象にとられ
ている場合には、各種平均値のうちE (x)、E (
y)、E (xy)は全て0となるので計算して求める
必要がない。
Of ■a), the X-direction component ■ is sent to the average value detection circuit 21,
Further, the y-direction component V is supplied to the average value detection circuit 23. Furthermore, the measured coordinate position (x, y) of the motion vector is supplied to each of the average value detection circuits 21, 22, and 23. Next, each average value detection circuit 21.22.23 calculates various average values and supplies them to an affine transformation coefficient detection circuit 24.25. The affine transformation coefficient detection circuit 24 calculates and outputs affine transformation coefficients a, b, and e from the supplied various average values using equation (6) shown in the operation section. Further, the affine transformation coefficient detection circuit 25 calculates and outputs affine transformation coefficients C5d and f using the same method as the affine transformation coefficient detection circuit 24. In addition, when the actual measured coordinate position (x, y) is taken as the origin, E (x), E (
y) and E (xy) are all 0, so there is no need to calculate them.

この場合にはアフィン変換係数検出回路24は供給され
た各種平均値から作用の項に示した式(9)を用いてア
フィン変換係数a、b、eを計算して出力する。また同
様の計算によりアフィン変換係数検出回路25はアフィ
ン変換係数c、d、fを計算して出力する0以上の方法
により求めた係数(a、b、c、d、e、f>を動きパ
ラメータとする。さらにアフィン変換係数a、b、c、
dを変換式 %式%) によりA1 、A2に変換して、係数(AtA2.e、
f)の組合せを動きパラメータとして出力することも可
能である。
In this case, the affine transformation coefficient detection circuit 24 calculates and outputs affine transformation coefficients a, b, and e from the supplied various average values using equation (9) shown in the section of the function. In addition, by similar calculation, the affine transformation coefficient detection circuit 25 calculates and outputs affine transformation coefficients c, d, f. The coefficients (a, b, c, d, e, f> Furthermore, the affine transformation coefficients a, b, c,
Convert d into A1 and A2 using the conversion formula % formula %) and obtain the coefficients (AtA2.e,
It is also possible to output the combination f) as a motion parameter.

第3図は本発明に係る第3の動画像の動き情報検出方式
の動きパラメータ検出手段の一実施例のブロック図であ
る。まず入力画像の画素毎または小ブロック毎に検出さ
れた動ベクトル301(V、、Vア)がフィルタ回路3
1に供給される。
FIG. 3 is a block diagram of an embodiment of the motion parameter detection means of the third moving image motion information detection method according to the present invention. First, the motion vector 301 (V, , Va) detected for each pixel or each small block of the input image is sent to the filter circuit 301.
1.

フィルタ回路31は動ベクトル301に含まれている誤
検出ベクトルを取り除き、フィルタ通過成分302 (
V、L、 V、L) ヲ動キハラメー31検出回路32
に供給する。動きパラメータ検出回路32は、このフィ
ルタ通過成分302を用いて第1図に示した動きパラメ
ータ検出回路12と同じようにアフィン変換を特徴づけ
る動きパラメータ303を計算して出力する。動きパラ
メータ303は第2図に示した実施例と同じ方法を用い
ることで計算することができる。
The filter circuit 31 removes the false detection vector included in the motion vector 301, and filter-passing component 302 (
V, L, V, L) Activation Kiharame 31 Detection Circuit 32
supply to. The motion parameter detection circuit 32 uses this filter-passed component 302 to calculate and output a motion parameter 303 characterizing the affine transformation in the same way as the motion parameter detection circuit 12 shown in FIG. Motion parameters 303 can be calculated using the same method as in the embodiment shown in FIG.

第4図は本発明に係る第1の動画像の動き補償フレーム
間予測符号化方式の動ベクトルを展開する手段の実施例
のブロック図である。動ベクトル展開図B41または4
2は画像内の座標位f(xy)の−次変換を用いて、画
素または小ブロックに対する動ベクトル(V工、■、)
を展開して出力する構成となっている。ここで前記−次
変換の変換係数として第1図の実施例で示したアフィン
変換を特徴づける動きパラメータを用いている。
FIG. 4 is a block diagram of an embodiment of a means for developing a motion vector in the motion compensated interframe predictive coding method for a first moving picture according to the present invention. Motion vector development diagram B41 or 4
2 uses the -order transformation of the coordinate position f(xy) in the image to calculate the motion vector (V,
It is configured to expand and output. Here, the motion parameters characterizing the affine transformation shown in the embodiment of FIG. 1 are used as the transformation coefficients of the above-mentioned -order transformation.

なお第4図(a>は前記動きパラメータが作用の項に記
載した式(1)に示した変換係数(a、 bc、d、e
、f)の組合せで供給された場合の動ベクトル展開の実
施例である。また第4図(b)は前記動きパラメータが
作用の項に記載した式(2)に示した変換係数(A1.
A2 、e、f)の組合せで供給された場合の動ベクト
ル展開の実施例である。
Note that FIG. 4 (a>) indicates that the motion parameters are the transformation coefficients (a, bc, d, e
, f) is an example of motion vector expansion when supplied in combination. Further, FIG. 4(b) shows that the motion parameter is the conversion coefficient (A1.
This is an example of motion vector expansion when a combination of A2, e, f) is supplied.

第5図は本発明に係る第2の動画像の動き補償フレーム
間予測符号化方式の動ベクトル検出手段の一実施例のブ
ロック図である。まず第1図の実施例で示したアフィン
変換を特徴づける動きバラメータ503が動ベクトル展
開口Nl52に供給される。動ベクトル展開回路52は
、供給された動きパラメータ503を係数とする画像上
の位置の一次変換を用いて画素毎または小ブロック毎の
動ベクトル504 (V、t、V、t)を展開して動ベ
クトル検出回路51に供給する。動ベクトル検出回路5
1は、参照画像502を用いて入力画像501の画素毎
または小ブロック毎の動ベクトル505 <v、、v、
>を検出する。なお動ベクトルの検出に際しては、展開
された動ベクトル504を動ベクトル探査の基準値とし
て用いる。
FIG. 5 is a block diagram of an embodiment of the motion vector detection means of the second motion compensation interframe predictive coding method for moving pictures according to the present invention. First, a motion parameter 503 characterizing the affine transformation shown in the embodiment of FIG. 1 is supplied to the motion vector expansion port Nl52. The motion vector expansion circuit 52 expands a motion vector 504 (V, t, V, t) for each pixel or small block using linear transformation of the position on the image using the supplied motion parameter 503 as a coefficient. The signal is supplied to the motion vector detection circuit 51. Motion vector detection circuit 5
1 is a motion vector 505 for each pixel or small block of the input image 501 using the reference image 502 <v, , v,
> is detected. Note that when detecting a motion vector, the expanded motion vector 504 is used as a reference value for motion vector exploration.

(発明の効果) 以上に詳しく説明したように本発明によれば、動き補償
フレーム間予測に用いる動き情報の量を減らすことがで
きるだけでなく、アフィン変換係数を動きパラメータと
して用いることで画像全体の動きをより正確に記述する
ことができ、また動きパラメータから展開された動ベク
トルを基準値として用いて小ブロック毎の動き検出を行
うことでより検出精度の高い動き検出を実現することが
できる。
(Effects of the Invention) As described in detail above, according to the present invention, not only can the amount of motion information used in motion compensated interframe prediction be reduced, but also the amount of motion information used in motion compensated interframe prediction can be reduced, and by using affine transformation coefficients as motion parameters, Motion can be described more accurately, and motion detection with higher detection accuracy can be achieved by performing motion detection for each small block using a motion vector developed from motion parameters as a reference value.

【図面の簡単な説明】[Brief explanation of drawings]

第1図は本発明に係る第1の動画像の動き情報検出方式
の一実施例のブロック図、第2図は本発明に係る第2の
動画像の動き情報検出方式の動きパラメータ検出手段の
一実施例のブロック図、第3図は本発明に係る第3の動
画像の動き情報検出方式の動きパラメータ検出手段の一
実施例のブロック図、第4図は本発明に係る第1の動画
像の動き補償フレーム間予測符号化方式に用いる動ベク
トルを展開する手段の実施例のブロック図、第5図は本
発明に係る第2の動画像の動き補償フレーム間予測符号
化方式の動ベクトル検出手段の一実施例のブロック図、
第6図は動画像のフレーム間動ベクトルの構造を説明す
る図である。 11.51・・・動ベクトル検出回路、12.32・・
・動きパラメータ検出回路、21,22.23・・・平
均値検出回路、24.25・−・アフィン変換係数検出
回路、31・・・フィルタ回路、41,42゜52・・
・動ベクトル展開回路、411,412,413.41
4,421,422,423,424・・・乗算器、4
15,416,417,418,426.427,42
8・・・加算器、425・・・減算器、101.501
・・・入力画像、102,502・・・参照画像、10
3,301,302,504,505、・・・動ベクト
ル、104,303,503・・・動きパラメータ。
FIG. 1 is a block diagram of an embodiment of the first moving image motion information detection method according to the present invention, and FIG. 2 is a block diagram of a motion parameter detection means of the second moving image motion information detection method according to the present invention. FIG. 3 is a block diagram of an embodiment of the motion parameter detection means of the third moving image motion information detection method according to the present invention, and FIG. 4 is a block diagram of an embodiment of the motion parameter detection means of the third moving image motion information detection method according to the present invention. A block diagram of an embodiment of a means for developing a motion vector used in the motion compensation interframe predictive coding method for images, and FIG. A block diagram of an embodiment of the detection means,
FIG. 6 is a diagram illustrating the structure of an interframe motion vector of a moving image. 11.51... Motion vector detection circuit, 12.32...
・Motion parameter detection circuit, 21, 22.23... Average value detection circuit, 24.25... Affine transformation coefficient detection circuit, 31... Filter circuit, 41, 42° 52...
・Motion vector expansion circuit, 411, 412, 413.41
4,421,422,423,424...multiplier, 4
15,416,417,418,426.427,42
8...Adder, 425...Subtractor, 101.501
...Input image, 102,502...Reference image, 10
3,301,302,504,505...Motion vector, 104,303,503...Motion parameter.

Claims (5)

【特許請求の範囲】[Claims] (1)動画像のフレーム間の動き情報の検出を行う動画
像の動き情報検出方式において、入力画像の画素毎また
は小ブロック毎に動ベクトルを検出する動ベクトル検出
手段と、入力画像の画素毎または小ブロック毎に検出さ
れた前記動ベクトルから画像全体の動きを記述しアフィ
ン変換を特徴づける動きパラメータを検出して該動きパ
ラメータを動き情報として出力する動きパラメータ検出
手段とを備えることを特徴とする動画像の動き情報検出
方式。
(1) In a moving image motion information detection method that detects motion information between frames of a moving image, a moving vector detection means that detects a moving vector for each pixel or each small block of an input image, and or a motion parameter detection means that describes the motion of the entire image from the motion vector detected for each small block, detects a motion parameter that characterizes affine transformation, and outputs the motion parameter as motion information. A motion information detection method for moving images.
(2)請求項1に記載の動画像の動き情報検出方式にお
いて、前記動きパラメータ検出手段は入力画像の画素毎
または小ブロック毎に検出された動ベクトルから最小2
乗誤差法を用いて前記の動きパラメータを計算すること
を特徴とする動画像の動き情報検出方式。
(2) In the moving image motion information detection method according to claim 1, the motion parameter detection means is configured to detect at least two
A motion information detection method for moving images, characterized in that the motion parameters are calculated using a multiplicative error method.
(3)請求項1に記載の動画像の動き情報検出方式にお
いて、前記動きパラメータ検出手段は入力画像の画素毎
または小ブロック毎に検出された動ベクトルのうち周囲
の動ベクトルと大きく異なる成分を取り除く働きを持つ
フィルタを備え、該フィルタの出力である動ベクトル成
分から前記動きパラメータを計算することを特徴とする
動画像の動き情報検出方式。
(3) In the moving image motion information detection method according to claim 1, the motion parameter detecting means detects components of the motion vectors detected for each pixel or each small block of the input image that are significantly different from surrounding motion vectors. 1. A motion information detection method for a moving image, comprising a filter having a function of removing the motion information, and calculating the motion parameter from a motion vector component that is an output of the filter.
(4)画像全体の動きを記述しアフィン変換を特徴づけ
る動きパラメータを変換係数とする画像上の位置に対す
る一次変換を用いて入力画像の画素毎または小ブロック
毎の動ベクトルを展開し、該展開された動ベクトルを用
いて動き補償フレーム間予測を行うことを特徴とする動
画像の動き補償フレーム間予測符号化方式。
(4) Develop a motion vector for each pixel or small block of the input image using linear transformation for the position on the image using a motion parameter that describes the movement of the entire image and characterizes the affine transformation as a transformation coefficient, and 1. A motion-compensated inter-frame predictive coding method for moving images, characterized in that motion-compensated inter-frame prediction is performed using motion vectors.
(5)請求項4に記載の動画像の動き補償フレーム間予
測符号化方式が展開する動ベクトルを基準値として画素
または小ブロックの動ベクトルを検出し、該動ベクトル
を用いて動画像の動き補償フレーム間予測を行うことを
特徴とする動画像の動き補償フレーム間予測符号化方式
(5) A motion vector of a pixel or a small block is detected using the motion vector developed by the motion compensated interframe predictive coding method for a moving picture as a reference value, and the motion vector is used to determine the motion of the moving picture. A motion-compensated inter-frame predictive coding method for moving images, characterized by performing compensated inter-frame prediction.
JP10403290A 1990-04-19 1990-04-19 Motion picture motion information detecting apparatus and motion compensation inter-frame predictive coding apparatus for moving picture Expired - Fee Related JP2586686B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP10403290A JP2586686B2 (en) 1990-04-19 1990-04-19 Motion picture motion information detecting apparatus and motion compensation inter-frame predictive coding apparatus for moving picture

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP10403290A JP2586686B2 (en) 1990-04-19 1990-04-19 Motion picture motion information detecting apparatus and motion compensation inter-frame predictive coding apparatus for moving picture

Publications (2)

Publication Number Publication Date
JPH043595A true JPH043595A (en) 1992-01-08
JP2586686B2 JP2586686B2 (en) 1997-03-05

Family

ID=14369899

Family Applications (1)

Application Number Title Priority Date Filing Date
JP10403290A Expired - Fee Related JP2586686B2 (en) 1990-04-19 1990-04-19 Motion picture motion information detecting apparatus and motion compensation inter-frame predictive coding apparatus for moving picture

Country Status (1)

Country Link
JP (1) JP2586686B2 (en)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS51148708A (en) * 1975-06-16 1976-12-21 Kao Corp A method for deodorizing liquid lanolin
US6307969B1 (en) 1998-03-11 2001-10-23 Fujitsu Limited Dynamic image encoding method and apparatus
US6380986B1 (en) 1998-05-19 2002-04-30 Nippon Telegraph And Telephone Corporation Motion vector search method and apparatus
WO2003019950A1 (en) * 2001-08-23 2003-03-06 Sharp Kabushiki Kaisha Method and apparatus for motion vector coding with global motion parameters
CN1107415C (en) * 1995-04-08 2003-04-30 大宇电子株式会社 Method for parting and preliminary estimating movement of moving object
WO2007057986A1 (en) * 2005-11-15 2007-05-24 Sharp Kabushiki Kaisha Motion vector calculation device and motion vector calculation method
JP2008518331A (en) * 2004-10-25 2008-05-29 ヒューレット−パッカード デベロップメント カンパニー エル.ピー. Understanding video content through real-time video motion analysis
JP2009065332A (en) * 2007-09-05 2009-03-26 Sony Corp Image processor, image processing method, and computer program
JP2009258868A (en) * 2008-04-15 2009-11-05 Sony Corp Image processing apparatus and image processing method
JP2010041417A (en) * 2008-08-05 2010-02-18 Olympus Corp Image processing unit, image processing method, image processing program, and imaging apparatus
JP2011100428A (en) * 2009-10-06 2011-05-19 Nanao Corp Motion vector detection device, frame interpolation processor, and method therefor
JP2019013031A (en) * 2015-03-10 2019-01-24 ホアウェイ・テクノロジーズ・カンパニー・リミテッド Image prediction method and related apparatus
US11776320B2 (en) 2019-09-26 2023-10-03 Panasonic Intellectual Property Corporation Of America Information processing method of predicting calculation amount suitable for recognizing motion of object

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4566591B2 (en) 2004-03-19 2010-10-20 キヤノン株式会社 Image deformation estimation method and image deformation estimation apparatus

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03191688A (en) * 1989-12-21 1991-08-21 Nippon Telegr & Teleph Corp <Ntt> Method for estimating extension and reduction and parallel movement parameters of image

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03191688A (en) * 1989-12-21 1991-08-21 Nippon Telegr & Teleph Corp <Ntt> Method for estimating extension and reduction and parallel movement parameters of image

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS51148708A (en) * 1975-06-16 1976-12-21 Kao Corp A method for deodorizing liquid lanolin
CN1107415C (en) * 1995-04-08 2003-04-30 大宇电子株式会社 Method for parting and preliminary estimating movement of moving object
US6307969B1 (en) 1998-03-11 2001-10-23 Fujitsu Limited Dynamic image encoding method and apparatus
US6380986B1 (en) 1998-05-19 2002-04-30 Nippon Telegraph And Telephone Corporation Motion vector search method and apparatus
WO2003019950A1 (en) * 2001-08-23 2003-03-06 Sharp Kabushiki Kaisha Method and apparatus for motion vector coding with global motion parameters
US7050500B2 (en) 2001-08-23 2006-05-23 Sharp Laboratories Of America, Inc. Method and apparatus for motion vector coding with global motion parameters
JP2008518331A (en) * 2004-10-25 2008-05-29 ヒューレット−パッカード デベロップメント カンパニー エル.ピー. Understanding video content through real-time video motion analysis
WO2007057986A1 (en) * 2005-11-15 2007-05-24 Sharp Kabushiki Kaisha Motion vector calculation device and motion vector calculation method
JP2009065332A (en) * 2007-09-05 2009-03-26 Sony Corp Image processor, image processing method, and computer program
JP2009258868A (en) * 2008-04-15 2009-11-05 Sony Corp Image processing apparatus and image processing method
JP4544334B2 (en) * 2008-04-15 2010-09-15 ソニー株式会社 Image processing apparatus and image processing method
US8446957B2 (en) 2008-04-15 2013-05-21 Sony Corporation Image processing apparatus and method using extended affine transformations for motion estimation
JP2010041417A (en) * 2008-08-05 2010-02-18 Olympus Corp Image processing unit, image processing method, image processing program, and imaging apparatus
JP2011100428A (en) * 2009-10-06 2011-05-19 Nanao Corp Motion vector detection device, frame interpolation processor, and method therefor
JP2019013031A (en) * 2015-03-10 2019-01-24 ホアウェイ・テクノロジーズ・カンパニー・リミテッド Image prediction method and related apparatus
US10659803B2 (en) 2015-03-10 2020-05-19 Huawei Technologies Co., Ltd. Picture prediction method and related apparatus
US11178419B2 (en) 2015-03-10 2021-11-16 Huawei Technologies Co., Ltd. Picture prediction method and related apparatus
US11776320B2 (en) 2019-09-26 2023-10-03 Panasonic Intellectual Property Corporation Of America Information processing method of predicting calculation amount suitable for recognizing motion of object

Also Published As

Publication number Publication date
JP2586686B2 (en) 1997-03-05

Similar Documents

Publication Publication Date Title
JPH043595A (en) Moving information detection system for moving picture and prediction coding system for inter-frame moving compensation for moving picture
JPH0373076A (en) Method and device for detecting change of image
JPH09182082A (en) Movement compensation prediction encoding method for moving image and device therefor
JPH03280681A (en) Moving interpolation system using moving vector
JPH0478286A (en) Detection method for moving vector using initial deviation vector
JP2006215657A (en) Method, apparatus, program and program storage medium for detecting motion vector
Kim et al. Probabilistic global motion estimation based on Laplacian two-bit plane matching for fast digital image stabilization
JP2913846B2 (en) Video coding method
KR20020010171A (en) Adaptive Predicted Direction Search Method for Block Matching Motion Estimation
JP3252418B2 (en) Image shake determination device
JP2975146B2 (en) Motion vector detection device
JPH0984017A (en) Motion compensation prediction coding method for moving image
JPH0998424A (en) Method and device for extracting affine transformation parameter
WO1999038331A1 (en) Device and method for detecting moving vector
JPH0410885A (en) Movement vector detecting device
JP4274430B2 (en) Motion vector detection device
JP7185496B2 (en) Video interpolation device and program
JPH07240923A (en) Image encoding method
WO1999044369A1 (en) Device and method for coding image
JPH03253180A (en) Picture generating method
JP2596352B2 (en) Decimal precision motion vector search device
JP2000078590A (en) Device and method for encoding and provision medium
JP4100321B2 (en) Segment unit image encoding apparatus and segment unit image encoding program
JPH07222158A (en) Method and device for detecting moving amount
JPH07131790A (en) Motion vector detector

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071205

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081205

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091205

Year of fee payment: 13

LAPS Cancellation because of no payment of annual fees