JPH1013836A - Motion vector detector - Google Patents

Motion vector detector

Info

Publication number
JPH1013836A
JPH1013836A JP16191196A JP16191196A JPH1013836A JP H1013836 A JPH1013836 A JP H1013836A JP 16191196 A JP16191196 A JP 16191196A JP 16191196 A JP16191196 A JP 16191196A JP H1013836 A JPH1013836 A JP H1013836A
Authority
JP
Japan
Prior art keywords
search
motion vector
frame
motion
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP16191196A
Other languages
Japanese (ja)
Inventor
Hiroki Horikoshi
宏樹 堀越
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP16191196A priority Critical patent/JPH1013836A/en
Publication of JPH1013836A publication Critical patent/JPH1013836A/en
Pending legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

PROBLEM TO BE SOLVED: To reduce a processing quantity for calculation of motion vectors without losing detection accuracy. SOLUTION: A de-framing control section 202 de-frames an input image by the set number of frames. A motion vector detection section 213 uses a processing block in a processing image obtained by de-framing to retrieve a prescribed retrieval area in a reference image obtained from a frame memory 211 so as to detect a motion vector. In this case, a retrieval size selection section 212 sets a smaller retrieval area to reduce the processing quantity when the set number of de-framing is small thereby reducing the occupancy rate of a CPU and the retrieval size selection section 212 sets a larger retrieval area to attain accurate motion detection when the set number of de-framing is large.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、動画像情報の圧縮
符号化方式である動き補償フレーム間符号化に用いて好
適な動きベクトル検出装置に関するものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a motion vector detecting device suitable for use in motion compensation interframe coding, which is a compression coding method for moving picture information.

【0002】[0002]

【従来の技術】近年、画像圧縮符号化技術の発達とディ
ジタル通信回線の普及はめざましく、TV会議システム
等のAV(Audio Visual)サービス用のサ
ービス規定やプロトコル規定、マルチメディア多重化フ
レーム構成規定などの勧告が整備されるとともに、TV
電話装置やデスクトップTV会議システムなどをはじめ
とする様々なマルチメディア通信端末が提案されてい
る。これらマルチメディア通信においては、動画像や音
声によるコミュニケーションにとどまらず、データ通信
やアプリケーションの共有による遠隔地点での共同作業
などを実現する。
2. Description of the Related Art In recent years, the development of image compression encoding technology and the spread of digital communication lines have been remarkable, and service regulations and protocol regulations for AV (Audio Visual) services such as TV conference systems, multimedia multiplex frame configuration regulations and the like have been made. And the TV
Various multimedia communication terminals including a telephone device and a desktop TV conference system have been proposed. In these multimedia communications, not only communication using moving images and voices, but also data communication and joint work at remote points by sharing applications are realized.

【0003】周知の通り、TV画像情報を直接ディジタ
ル伝送するためには、数百Mbpsの伝送速度が必要と
なるため、伝送速度の低下、更に伝送コストの軽減の目
的で様々な圧縮符号化方式が提案されている。これら動
画像通信端末における動画像情報の圧縮符号化方式とし
ては、時間方向の相関を利用した動き補償フレーム間予
測符号化で時間的な冗長度を取り除き、空間方向の相関
を利用した直交変換符号化で空間的な冗長度を取り除く
ハイブリッド符号化方式が多く用いられる。
As is well known, a direct digital transmission of TV image information requires a transmission speed of several hundred Mbps. Therefore, various compression coding schemes are used to reduce the transmission speed and further reduce the transmission cost. Has been proposed. As a compression coding method for moving picture information in these moving picture communication terminals, a temporal redundancy is removed by a motion compensation inter-frame prediction coding using a correlation in a time direction, and an orthogonal transform code using a correlation in a space direction. Hybrid coding schemes that remove spatial redundancy by coding are often used.

【0004】次に、動画像情報の圧縮符号化に用いられ
る、動き補償フレーム間符号化の原理について簡単に説
明する。フレーム間で対象物体に動きがあった場合に
は、前符号化フレーム(参照フレーム)の同位置ではな
く、物体の動き分だけ離れたところに符号化処理部分
(マクロブロック)と似通った構造が存在することにな
る。そこで、前フレームと現フレームから物体の動きベ
クトルを推定して、似通ったブロックとの差分とその動
きベクトルを符号化する。動き補償フレーム間予測符号
化における予測誤差値は、単純フレーム間予測符号化に
おける予測誤差値よりも小さな値になるので、動きの大
きな画像に対しても効率のよい符号化か可能になる。
Next, the principle of motion-compensated inter-frame coding used for compression coding of moving picture information will be briefly described. If the target object moves between frames, a structure similar to the coding processing part (macroblock) is not located at the same position of the previous coded frame (reference frame) but at a distance corresponding to the movement of the object. Will exist. Therefore, the motion vector of the object is estimated from the previous frame and the current frame, and the difference between similar blocks and the motion vector are encoded. The prediction error value in the motion-compensated inter-frame prediction coding is smaller than the prediction error value in the simple inter-frame prediction coding, so that efficient coding can be performed even for an image having a large motion.

【0005】図7は動き補償を説明する概略図である。
現フレームである処理フレーム内の黒部分で示す処理ブ
ロックを用いて前フレームである参照フレームの上記処
理ブロック付近を検索領域として検索することにより動
きベクトルを検出する。この動きベクトルの検出は、現
フレームの処理ブロックと前符号化フレーム(参照フレ
ーム)の処理ブロック位置を中心とする検索領域とにつ
いて、対応する画素間の差分絶対値和などの評価値を算
出し、最小値(相関が最大)をとるブロックに対応する
ベクトルを動きベクトルと推定する方式が一般的であ
る。この手順としては、参照フレームの検索領域内のす
べてのブロック・パターンについて評価値演算を施すフ
ル・サーチ手順が多く用いられる。例えば、ITU−T
勧告H.261においては、16画素×16画素のマク
ロブロックに対して、最大47画素×47画素の動きベ
クトル検索領域を用い、動きベクトルの水平成分と垂直
成分は、それぞれ+/−15以内の整数と規定されてい
る。またMPEG等においては、1/2画素の検索精度
による動き補償を規定している。
FIG. 7 is a schematic diagram for explaining motion compensation.
A motion vector is detected by searching using a processing block indicated by a black portion in the processing frame as the current frame as a search area near the processing block in the reference frame as the previous frame. In the detection of the motion vector, an evaluation value such as a sum of absolute differences between corresponding pixels is calculated for the processing block of the current frame and the search area centered on the processing block position of the previous encoded frame (reference frame). , A vector corresponding to a block having a minimum value (maximum correlation) is generally estimated as a motion vector. As this procedure, a full search procedure for performing an evaluation value operation on all block patterns in the search area of the reference frame is often used. For example, ITU-T
Recommendation H. In H.261, a motion vector search area of a maximum of 47 pixels × 47 pixels is used for a macroblock of 16 pixels × 16 pixels, and the horizontal and vertical components of the motion vector are specified as integers within +/− 15, respectively. Have been. In MPEG and the like, motion compensation based on 1/2 pixel search accuracy is specified.

【0006】[0006]

【発明が解決しようとする課題】従来、動画像圧縮処理
はDSPや専用LSIなどのハードウエアにより実行す
るのが一般的であった。しかし、CPUの処理能力の大
幅な向上に伴い、動画像符号化処理の一部あるいは全部
をホストCPUによるソフトウエアで実現する形態が増
えつつある。しかしながら、動画像圧縮に関わる処理量
は極めて大きく、並行して他のアプリケーションを実行
する場合などにおいては、回線の伝送速度が動画像符号
化処理速度を上回ってしまい、伝送画像のフレーム・レ
ートが頭打ちになることでスムーズな(動きの滑らか
な)動画像通信の妨げになったり、CPUが動画像圧縮
処理に占有されてしまい、他のアプリケーションの動作
速度に大きな悪影響を及ぼす場合があるなどといった問
題点があった。
Conventionally, moving image compression processing has generally been performed by hardware such as a DSP or a dedicated LSI. However, as the processing capacity of the CPU has been greatly improved, a form in which part or all of the moving image encoding processing is realized by software by the host CPU is increasing. However, the amount of processing related to moving image compression is extremely large, and when executing other applications in parallel, the transmission speed of the line exceeds the moving image encoding processing speed, and the frame rate of the transmitted image increases. Smooth (smooth motion) video communication may be hindered by a plateau, or the CPU may be occupied by video compression processing, which may have a significant adverse effect on the operation speed of other applications. There was a problem.

【0007】一般的に、ブロック画素間の差分絶対値和
演算に代表される動きベクトル検出演算は、直交変換演
算などに代表されるその他の画像符号化処理と比較して
も、多大な演算量を必要とする。先に述べたフル・サー
チ手順において47画素×47画素の検索領域について
1画素精度の動きベクトル検索演算を実行する場合、2
56の差分絶対値和演算を961回だけ実行することに
なる。これを回避する手段として、常に検索領域を縮小
することにより演算回数を削減する方式が用いられる。
例えば、31画素×31画素の動きベクトル検索領域を
用い、水平・垂直方向+/−7以内の動きベクトルを算
出するものである。しかしながら、検索領域が狭められ
ることによって、符号化画面間で大きな動きがあった場
合においては正しい動き検索が実行できないといった欠
点があった。
In general, a motion vector detection operation represented by a sum of absolute differences between block pixels requires a large amount of operation even when compared with other image encoding processes represented by an orthogonal transformation operation. Need. In the above-described full search procedure, when a motion vector search operation with one pixel accuracy is performed for a search area of 47 pixels × 47 pixels, 2
The sum of 56 absolute differences is executed 961 times. As a means for avoiding this, a method is used in which the number of calculations is reduced by always reducing the search area.
For example, a motion vector within a horizontal / vertical direction +/− 7 is calculated using a motion vector search area of 31 pixels × 31 pixels. However, when the search area is narrowed, there is a disadvantage that a correct motion search cannot be executed when a large motion occurs between the encoded screens.

【0008】また、別の回避手段として、検索手順を簡
略化することにより演算量を削減する方式なども用いら
れる。これは、フル・サーチ手順ではなくステップ・サ
ーチなどを行うものであるが、途中の検索ステップで誤
ったベクトルが選択されてしまうと最適なサーチができ
なくなってしまう(誤ったベクトルを検出してしまう)
恐れがあるといった欠点があった。
As another avoiding means, a method of simplifying a search procedure to reduce the amount of calculation is used. In this method, a step search is performed instead of a full search procedure. However, if an erroneous vector is selected in a search step in the middle, an optimal search cannot be performed. Puts)
There was a drawback that there was fear.

【0009】本発明は、上記課題に鑑み成されたもので
あり、その目的は、動き検索精度を損なうことなく、ベ
クトル算出処理量を効率的に削減する優れた動きベクト
ル検出装置を提供することにある。
SUMMARY OF THE INVENTION The present invention has been made in view of the above problems, and has as its object to provide an excellent motion vector detecting device capable of efficiently reducing the amount of vector calculation processing without impairing the accuracy of motion search. It is in.

【0010】[0010]

【課題を解決するための手段】本発明によれば、処理画
面内の所定の処理ブロックの画像データを用いて上記処
理画面から所定の画面数だけ離れた参照画面の上記処理
ブロック位置近傍の検索領域の画像データを検索するこ
とにより動きベクトルを検出する動きベクトル検出装置
において、上記参照画面と処理画面との間の画面を設定
された画面数だけ駒落しする駒落し制御手段と、上記駒
落し制御手段により駒落しされた画面数に応じて上記参
照画面内の上記検索領域の大きさを制御する検索範囲制
御手段と、上記処理ブロックと上記検索範囲制御手段に
より決定された上記検索領域内の各ブロック・パターン
との相関を評価し、動きベクトルを出力する動き検索手
段とを設けている。
According to the present invention, a search for a reference screen located in the vicinity of a processing block by a predetermined number of screens from the processing screen using image data of a predetermined processing block in the processing screen. In a motion vector detecting device for detecting a motion vector by searching image data of an area, a frame drop control means for dropping a frame between the reference screen and the processing screen by a set number of frames, Search range control means for controlling the size of the search area in the reference screen in accordance with the number of screens dropped by the control means, and the search block in the search area determined by the processing block and the search range control means A motion search means for evaluating a correlation with each block pattern and outputting a motion vector is provided.

【0011】[0011]

【作用】上記構成により、動き検索の対象となる画面と
の間の期間に応じて動きベクトル検索範囲を制御するこ
とが可能になる。
According to the above arrangement, it is possible to control the motion vector search range according to the period between the screen and the motion search target screen.

【0012】[0012]

【発明の実施の形態】以下、図面を参照して本発明の実
施の形態を詳細に説明する。先ず、第1の実施の形態を
説明する。図1は本発明による動画像符号化装置の一部
の回路構成例を示す概略ブロック図である。201はフ
レームメモリ#1部であり、画像入力装置(図示せず)
からのディジタル入力動画像を一時格納するフレーム・
メモリである。202は駒落し制御部であり、駒落し数
決定部218の指示に従いフレームメモリ#1部201
に格納された動画像情報の読み出しを実行する。203
は減算部であり、入力画素値と予測画素値との減算処理
を行い、減算結果である予測誤差値と入力値とを選択し
て出力する。204はDCT部であり、入力された予測
誤差データ(あるいは入力データ)に対し直交変換の一
種である離散コサイン変換(以下DCTと称す)処理を
行う。205は量子化部であり、符号化制御部217か
らの指示により量子化ステップ・サイズを選択し、入力
されたDCT係数データを量子化する。206は可変長
符号化部であり、量子化されたDCT係数データに対し
可変長符号化を行う。207は送信バッファ部である。
Embodiments of the present invention will be described below in detail with reference to the drawings. First, a first embodiment will be described. FIG. 1 is a schematic block diagram showing an example of a circuit configuration of a part of a moving picture coding apparatus according to the present invention. Reference numeral 201 denotes a frame memory # 1 unit, which is an image input device (not shown)
Frame for temporarily storing digital input video from
Memory. Reference numeral 202 denotes a frame drop control unit, which is a frame memory # 1 unit 201 in accordance with an instruction from the frame drop number determination unit 218.
Of the moving image information stored in. 203
Denotes a subtraction unit that performs a subtraction process between an input pixel value and a prediction pixel value, and selects and outputs a prediction error value and an input value that are the result of the subtraction. A DCT unit 204 performs a discrete cosine transform (hereinafter, referred to as DCT) process, which is a type of orthogonal transform, on the input prediction error data (or input data). A quantization unit 205 selects a quantization step size according to an instruction from the encoding control unit 217, and quantizes the input DCT coefficient data. Reference numeral 206 denotes a variable-length coding unit that performs variable-length coding on the quantized DCT coefficient data. Reference numeral 207 denotes a transmission buffer unit.

【0013】208は逆量子化部であり、量子化された
DCT係数データを逆量子化する。209は逆DCT部
であり、入力されたDCT係数データの逆DCT変換処
理を行う。210は加算部であり、必要に応じて対応す
る予測値を加算する。211はフレーム・メモリ#2部
であり、動き補償フレーム間予測のために再生画像を一
時格納するフレーム・メモリである。
An inverse quantization unit 208 inversely quantizes the quantized DCT coefficient data. Reference numeral 209 denotes an inverse DCT unit that performs an inverse DCT transform process on the input DCT coefficient data. Reference numeral 210 denotes an adding unit that adds a corresponding predicted value as needed. Reference numeral 211 denotes a frame memory # 2, which is a frame memory for temporarily storing a reproduced image for motion compensation inter-frame prediction.

【0014】212は動きベクトル検索ブロック220
内の検索サイズ選択部であり、駒落し数決定部218の
出力に基づき動き検索領域の大きさを選択する。213
は動きベクトル検索ブロック220の動きベクトル検索
部であり、現フレームの処理ブロックのフレーム・メモ
リ#2部に格納された直前の再生画像に対する動きベク
トルを検出する。214は動き補償部であり、動きベク
トル検索ブロック220内の動きベクトル検出部213
で検出された動きベクトルに従い直前の再生フレームに
おける該当するブロック単位の画素値データを選択して
予測ブロックとして出力する。215はフィルタ部であ
り、動き補償フレーム間予測を行うブロックに対するロ
ーパス・フィルタである。216は遅延部であり、予測
ブロックを減算部203から逆DCT部209の処理時
間分だけ遅延処理して加算部210における加算処理の
タイミング合わせを行う。
Reference numeral 212 denotes a motion vector search block 220
And a search size selection unit for selecting the size of the motion search area based on the output of the number of dropped frames determination unit 218. 213
Reference numeral denotes a motion vector search unit of the motion vector search block 220, which detects a motion vector for the immediately preceding reproduced image stored in the frame memory # 2 of the processing block of the current frame. Reference numeral 214 denotes a motion compensation unit, which is a motion vector detection unit 213 in the motion vector search block 220.
According to the motion vector detected in step (1), the corresponding pixel value data in the immediately preceding reproduction frame is selected and output as a prediction block. A filter unit 215 is a low-pass filter for a block for which motion compensation inter-frame prediction is performed. A delay unit 216 delays the prediction block by the processing time of the inverse DCT unit 209 from the subtraction unit 203 and adjusts the timing of the addition process in the addition unit 210.

【0015】217は符号化制御部であり、外部からの
制御信号や、送信バッファ部207のバッファ蓄積量を
基に、量子化ステップ・サイズ選択、有意ブロック判
定、などの各種符号化制御を行う。218は符号化制御
部217内の駒落し数決定部であり、他の符号化制御と
同様にして駒落し(フレーム・スキップ)数を決定す
る。
Reference numeral 217 denotes an encoding control unit which performs various encoding controls such as quantization step size selection and significant block determination based on a control signal from the outside and the buffer accumulation amount of the transmission buffer unit 207. . Reference numeral 218 denotes a frame drop number determining unit in the encoding control unit 217, which determines the number of dropped frames (frame skip) in the same manner as in other encoding controls.

【0016】次に、以上の構成における動画像符号化装
置の動作について説明する。外部から一定のフレーム・
レートで入力された動画像情報は、フレーム・メモリ#
1部201に格納される。駒落し制御部202において
は、駒落し数決定部218の指示に従い駒落し処理を行
い、符号化フレームを選択して減算部203および動き
ベクトル検出部213へ所定のブロック単位で出力す
る。減算部203には、ブロック単位の入力画素値デー
タと予測値データとが入力され、画素値データと予測値
データとの差分値(予測誤差)を生成し、予測誤差ブロ
ックと入力ブロックとを選択してDCT部204へ出力
する。DCT部204では、減算部203の出力データ
をブロック単位で直交変換の一種であるDCT(離散コ
サイン変換)処理を行い、DCT係数データを量子化部
205へ出力する。量子化部205では、符号化制御部
217からの量子化特性制御に従い、選択されたステッ
プ・サイズで入力されたDCT係数を量子化する。可変
長符号化部206では、量子化されたDCT係数を可変
長符号化し、送信バッファ部207へ出力する。送信バ
ッファ部207は、バッファメモリで構成され、可変長
符号化データをバッファリングするとともに、バッファ
蓄積量やフレーム単位の符号化データ量を符号化制御部
217へ送出する。
Next, the operation of the moving picture coding apparatus having the above configuration will be described. Fixed frame from outside
The moving image information input at the rate is stored in the frame memory #
It is stored in the first unit 201. The frame drop control unit 202 performs frame drop processing according to the instruction of the frame drop number determination unit 218, selects an encoded frame, and outputs it to the subtraction unit 203 and the motion vector detection unit 213 in a predetermined block unit. The subtraction unit 203 receives input pixel value data and prediction value data in block units, generates a difference value (prediction error) between the pixel value data and the prediction value data, and selects a prediction error block and an input block. And outputs it to DCT section 204. The DCT unit 204 performs DCT (Discrete Cosine Transform) processing, which is a type of orthogonal transform, on the output data of the subtraction unit 203 in block units, and outputs DCT coefficient data to the quantization unit 205. The quantization unit 205 quantizes the input DCT coefficient with the selected step size according to the quantization characteristic control from the encoding control unit 217. The variable length coding unit 206 performs variable length coding on the quantized DCT coefficients and outputs the result to the transmission buffer unit 207. The transmission buffer unit 207 is configured by a buffer memory, buffers variable-length encoded data, and sends the buffer storage amount and the encoded data amount in frame units to the encoding control unit 217.

【0017】一方、逆量子化部208には、量子化部2
05の量子化出力が入力され、量子化部205において
選択された量子化ステップ・サイズを用いて逆量子化を
行い、DCT係数を出力する。逆DCT部209では、
逆量子化部208のDCT係数出力を逆DCT変換処理
し、加算部210へ出力する。加算部210では、逆D
CT部209において逆DCT処理された予測誤差デー
タに対して遅延部216の出力である対応する予測デー
タを加算して再生画像を出力する。フレーム・メモリ#
2部211は、例えば2フレーム分のフレーム・メモリ
で構成される動き補償フレーム間予測のためのフレーム
・メモリであり、加算部210の出力である再生画像を
蓄積すると同時に、動き補償フレーム間予測のために動
き補償部214の指示により直前の符号化フレーム(再
生画像)の画素値データを出力する。
On the other hand, the inverse quantization unit 208 includes the quantization unit 2
The quantization output unit 05 receives the quantization output, performs inverse quantization using the quantization step size selected by the quantization unit 205, and outputs DCT coefficients. In the inverse DCT unit 209,
The DCT coefficient output of the inverse quantization unit 208 is subjected to inverse DCT transform processing, and is output to the addition unit 210. In addition section 210, inverse D
The CT unit 209 adds the corresponding prediction data output from the delay unit 216 to the prediction error data subjected to the inverse DCT processing, and outputs a reproduced image. Frame memory #
The second unit 211 is a frame memory for motion-compensated inter-frame prediction composed of a frame memory for two frames, for example. Therefore, the pixel value data of the immediately preceding coded frame (reproduced image) is output according to the instruction of the motion compensation unit 214.

【0018】検索サイズ決定部212においては、駒落
し数決定部218において決定された駒落し(フレーム
・スキップ)数に基づいて動きベクトル検出部213に
おける検索領域の大きさを選択する(詳細は後述す
る)。動きベクトル検出部213では、現フレームの処
理ブロック位置付近の前符号化フレーム(再生画像)画
素値データを動きベクトル・サーチ・ウインドウ(検索
領域)としてフレーム・メモリ部211より読み出し、
送信バッファ部205のデータ蓄積量に応じた検索手順
でブロック・マッチング演算を行うことにより、動きベ
クトルを検出し、検出動きベクトルを動き補償部214
へ出力する。
The search size determining section 212 selects the size of the search area in the motion vector detecting section 213 based on the number of dropped frames (frame skip) determined by the dropped frame number determining section 218 (details will be described later). Do). The motion vector detecting unit 213 reads out the pixel value data of the pre-encoded frame (reproduced image) near the processing block position of the current frame from the frame memory unit 211 as a motion vector search window (search area).
By performing a block matching operation in a search procedure according to the data storage amount of the transmission buffer unit 205, a motion vector is detected, and the detected motion vector is
Output to

【0019】動き補償部214では、動きベクトル検出
部213で検出された動きベクトルに従い、前符号化フ
レームの該当するブロック単位の画素値データをフレー
ム・メモリ#2部211より読み出して出力する。フィ
ルタ部215は、動き補償を行ったことによるブロック
境界における不連続性の緩和を目的としたローパス・フ
ィルタであり、動き補償を行ったデータに対しフィルタ
リング処理を行い、予測値データとして減算部203お
よび遅延部216へ出力する。
In accordance with the motion vector detected by the motion vector detecting section 213, the motion compensating section 214 reads out pixel value data for each block of the corresponding pre-encoded frame from the frame memory # 2 section 211 and outputs it. The filter unit 215 is a low-pass filter for the purpose of reducing discontinuity at a block boundary due to the motion compensation. The filter unit 215 performs a filtering process on the data on which the motion compensation has been performed, and generates a subtraction unit 203 as predicted value data. And to the delay unit 216.

【0020】また、符号化制御部217では、画像符号
化装置全体のタイミングを制御すると同時に、送信バッ
ファ部207のデータ蓄積量やフレーム毎の圧縮データ
量に基づき、適応的に量子化特性制御信号による量子化
部203における量子化ステップサイズの選択や可変閾
値の制御などの適応的符号化制御を行う。また、常に画
像符号化装置全般、あるいは外部からの各種制御信号等
を監視することにより、画像入力装置の変更や利用者の
各種設定に対応する。符号化制御部217内の駒落し数
決定部218においては、上記と同様に送信バッファ部
207のデータ蓄積量やフレーム毎の圧縮データ量に基
づいて駒落し(フレームスキップ)数を決定し、駒落し
制御部202および検索サイズ選択部212に通知す
る。
The encoding control unit 217 controls the timing of the entire image encoding apparatus and, at the same time, adaptively controls the quantization characteristic control signal based on the amount of data stored in the transmission buffer unit 207 and the amount of compressed data for each frame. , Adaptive coding control such as selection of a quantization step size and control of a variable threshold in the quantization unit 203. Also, by constantly monitoring the entire image encoding device or various control signals from the outside, it is possible to respond to changes in the image input device and various settings of the user. The frame drop number determination unit 218 in the encoding control unit 217 determines the frame drop number (frame skip) based on the data storage amount of the transmission buffer unit 207 and the compressed data amount for each frame in the same manner as described above. It notifies the drop control unit 202 and the search size selection unit 212.

【0021】次に、符号化制御部217、動きベクトル
検出部213及び減算部203における符号化制御につ
いて説明する。量子化部203における量子化特性につ
いては、量子化ステップ・サイズを小さく設定すれば、
画質は向上するが有意データが増加して伝送ビット数の
増加につながり、量子化ステップ・サイズを大きく設定
すれば、発生データ量は減少するが画質は劣化する。画
質と動きに対する追従性とは相反するものであり、高画
質を追及すると必然的に動きに対する追従性は大きく劣
化することになる。そのため、符号化制御部217にお
いては、送信バッファ部207のデータ蓄積量を常に監
視し、適宜効率的に設定する必要がある。
Next, encoding control in the encoding control unit 217, the motion vector detecting unit 213, and the subtracting unit 203 will be described. Regarding the quantization characteristics in the quantization unit 203, if the quantization step size is set small,
Although the image quality is improved, significant data increases and leads to an increase in the number of transmission bits. If a large quantization step size is set, the amount of generated data decreases but the image quality deteriorates. The image quality and the ability to follow movement are contradictory, and the pursuit of high image quality inevitably deteriorates the ability to follow movement. Therefore, it is necessary for the encoding control unit 217 to constantly monitor the amount of data stored in the transmission buffer unit 207, and to set it appropriately and efficiently.

【0022】駒落し数決定部218においては、送信バ
ッファ部207からのバッファ蓄積量や一画面内の発生
データ量の通知に基づき、外部からの画質設定などと組
み合わせて、駒落し(フレーム・スキップ)数を決定す
る。図2は駒落しの様子を示す概念図である。
The number of dropped frames determination unit 218 is based on the notification of the buffer accumulation amount from the transmission buffer unit 207 and the amount of data generated in one screen, and is combined with an external image quality setting or the like to drop frames (frame skipping). ) Determine the number. FIG. 2 is a conceptual diagram showing the state of dropped frames.

【0023】また、動きベクトル検出部213において
は、主にブロック・マッチング演算の評価結果に基づ
き、動き補償を行うか否か、すなわち動き補償を行った
ブロックとの差分を符号化するか(INTER+MC)
もしくは動き補償を行わずに単純に参照フレームの同位
置ブロックとの差分を符号化するか(INTER+no
MCモード)の判定が行われる。動き補償フレーム間差
分情報が単純なフレーム間差分情報より大きくなること
はあり得ないが、動き補償を行うことによりベクトル情
報が必要になるためにかえって符号量が増大してしまっ
たり、効率的な圧縮符号化を妨げる場合があるために、
適応的に動き補償のON/OFF制御が実行される。具
体的には、処理ブロックと同位置における評価値と動き
補償位置(最大相関をもつブロック位置)における評価
値とに応じて決定される。
The motion vector detecting section 213 determines whether or not to perform motion compensation, that is, whether to encode the difference from the motion-compensated block based on the evaluation result of the block matching operation (INTER + MC )
Alternatively, simply encode the difference between the reference frame and the same-position block without performing motion compensation (INTER + no
(MC mode) is determined. Although motion-compensated inter-frame difference information cannot be larger than simple inter-frame difference information, the amount of code is increased because motion compensation requires vector information. To prevent compression encoding,
The ON / OFF control of the motion compensation is executed adaptively. Specifically, it is determined according to the evaluation value at the same position as the processing block and the evaluation value at the motion compensation position (the block position having the maximum correlation).

【0024】また、減算部203においては、所定の評
価関数を用いて予測誤差ブロックと入力ブロックとに対
する評価結果を比較することにより、予測誤差ブロック
を符号化するか(INTER+MC/noMCモー
ド)、入力ブロックを符号化するか(INTRAモー
ド)の判定を行い、何れか一方を後段へ出力することに
より、フレーム間符号化方式とフレーム内符号化方式と
を適応的に選択して圧縮符号化を行う。
The subtraction unit 203 compares the evaluation result of the prediction error block with the evaluation result of the input block using a predetermined evaluation function to encode the prediction error block (INTER + MC / noMC mode). It is determined whether the block is to be coded (INTRA mode), and one of the blocks is output to the subsequent stage, so that the compression coding is performed by adaptively selecting the inter-frame coding method and the intra-frame coding method. .

【0025】次に本発明において特徴的な動きベクトル
検索ブロック220における動きベクトル検索サイズの
選択制御について詳細に説明する。まず、動きベクトル
検出部213における1画素精度のベクトル検出動作に
ついて簡単に説明する。動きベクトルの検出は、現フレ
ームの処理ブロックと前符号化フレーム(参照フレー
ム)の処理ブロック位置を中心とする検索領域につい
て、対応する画素間の差分絶対値を算出し、その総和
(差分絶対値和)を相関評価値とし、評価値が最小値を
とる(相関が最大となる)ブロックに対応するベクトル
を動きベクトルと推定することにより行われる。
Next, the control for selecting the motion vector search size in the motion vector search block 220 characteristic of the present invention will be described in detail. First, the operation of detecting a vector with one-pixel accuracy in the motion vector detecting unit 213 will be briefly described. The motion vector is detected by calculating the absolute value of the difference between the corresponding pixels in the search area centered on the processing block position of the current frame and the processing block position of the previous coded frame (reference frame), and summing them (the absolute difference value). The sum is used as a correlation evaluation value, and a vector corresponding to a block whose evaluation value takes a minimum value (correlation is maximum) is estimated as a motion vector.

【0026】動きベクトルの検索領域の大きさは駒落し
数に基づいて決定する。以下、具体例を挙げて詳細に説
明する。ここでは符号化処理単位であるブロックは16
×16画素、動き補償範囲(検索範囲)は3種類から選
択するものとする。図3は3種類の検索サイズを説明す
る図である。図3(a)は最大検索範囲である+/−1
5(検索領域は47×47画素範囲)である。図3
(b)は+/−11(検索領域は39×39画素範囲)
である。図3(c)は+/−7(検索領域は31×31
画素範囲)である。
The size of the motion vector search area is determined based on the number of dropped frames. Hereinafter, a specific example will be described in detail. Here, the block which is the unit of the encoding process is 16
× 16 pixels and a motion compensation range (search range) are selected from three types. FIG. 3 is a diagram illustrating three types of search sizes. FIG. 3A shows the maximum search range +/- 1.
5 (the search area is a 47 × 47 pixel range). FIG.
(B) is +/− 11 (the search area is a 39 × 39 pixel range)
It is. FIG. 3C shows +/− 7 (the search area is 31 × 31).
Pixel range).

【0027】次に検索サイズ選択部212における駒落
し(フレーム・スキップ)数に基づく動きベクトル検索
領域の大きさ制御について詳細に説明する。検索サイズ
選択部212においては、駒落し数決定部218により
決定され通知された駒落し(フレーム・スキップ)数に
基づいて動き検索領域の大きさを選択する。ここで駒落
し数とは、直前の符号化(伝送)フレームと処理フレー
ムとの間のフレーム数である。すなわち何フレーム(時
間)隔たりのあるフレームとの間の動きを検索するか、
といった情報に応じてその処理フレームにおける検索サ
イズを決定するというものである。動き検索の対象とな
る直前の符号化フレームとの時間的な隔たりの大きさ
(駒落しフレーム数)によって、その期間に撮像対象物
が移動し得る範囲(大きさ)が変わることを利用し、駒
落しフレーム数が小さければ検索領域を小さく限定し、
駒落しフレーム数が大きければ検索領域を十分に大きく
とるように検索領域サイズを選択制御する。
Next, the size control of the motion vector search area based on the number of dropped frames (frame skip) in the search size selection unit 212 will be described in detail. The search size selection unit 212 selects the size of the motion search area based on the number of dropped frames (frame skip) determined and notified by the dropped frame determination unit 218. Here, the number of dropped frames is the number of frames between the immediately preceding encoded (transmitted) frame and the processing frame. In other words, how many frames (time) should be searched for movement between frames,
According to such information, the search size in the processing frame is determined. Utilizing the fact that the range (size) in which the imaging target can move during that period varies depending on the size of the temporal separation from the immediately preceding encoded frame to be searched for motion (the number of dropped frames), If the number of dropped frames is small, the search area is limited to a small size.
If the number of dropped frames is large, the search area size is selected and controlled so that the search area is sufficiently large.

【0028】図4は動きベクトル検索領域サイズの制御
手順の一例を示すフロー・チャートである。送信バッフ
ァ部207からのバッファ蓄積量情報や一符号化フレー
ムの発生圧縮符号量情報、さらには外部からのユーザ設
定情報などに基づいて、符号化制御部217内の駒落し
数決定部218により駒落し(フレーム・スキップ)数
が決定される(Sa1)。決定された駒落し数情報は駒
落し制御部202へ通知されるとともに、検索サイズ選
択部212へも通知される(Sa2)。検索サイズ選択
部212においては、次の処理フレームとその直前の処
理フレームとの間にいくつの駒落しフレームが存在する
か(駒落し数情報)に応じて、動き検索領域の大きさを
選択制御する。
FIG. 4 is a flowchart showing an example of the control procedure of the motion vector search area size. Based on the buffer storage amount information from the transmission buffer unit 207, the generated compression code amount information of one encoded frame, and the user setting information from the outside, the number of dropped frames determination unit 218 in the encoding control unit 217 determines The number of dropped frames (frame skips) is determined (Sa1). The determined number of dropped frames is reported to the dropped frame controller 202 and also to the search size selector 212 (Sa2). The search size selection unit 212 selectively controls the size of the motion search area according to how many dropped frames exist between the next processing frame and the immediately preceding processing frame (dropped frame number information). I do.

【0029】すなわち、駒落し数S>9である場合(S
a3)には、検索範囲として47画素×47画素(動き
ベクトル+/−15:図3(a))を選択し(Sa
4)、駒落し数9≧S>2である場合(Sa5)には、
検索範囲として39画素×39画素(動きベクトル+/
−11:図3(b))を選択し(Sa6)、駒落し数S
≦2である場合には、検索範囲として31画素×31画
素(動きベクトル+/−7:図3(c))を選択する
(Sa7)。動きベクトル検出部213においては、検
索サイズ選択部212により選択制御された動き検索サ
イズ(動き補償サイズ)に対して動きベクトル検出演算
を実行する(Sa8)。
That is, when the number of dropped frames S> 9 (S
In a3), 47 pixels × 47 pixels (motion vector +/− 15: FIG. 3A) are selected as a search range (Sa).
4) If the number of dropped frames 9 ≧ S> 2 (Sa5),
39 pixels x 39 pixels (motion vector + /
-11: FIG. 3 (b)) is selected (Sa6), and the number of dropped frames S
If ≦ 2, 31 pixels × 31 pixels (motion vector +/− 7: FIG. 3C) are selected as the search range (Sa7). The motion vector detection unit 213 performs a motion vector detection operation on the motion search size (motion compensation size) selected and controlled by the search size selection unit 212 (Sa8).

【0030】すなわち、動き検索の対象となる直前の符
号化フレームとの時間的な隔たりが小さい(伝送フレー
ム・レートが高い)とき、単位時間あたりにCPUが実
行しなければならない画像符号化処理量は必然的に増大
しているため、直前符号化フレームとの間に撮像対象物
が移動し得る範囲が狭いことを利用して、動き検索範囲
を小さく限定して効率的な動き検索処理を実行すること
により、CPU能力の占有量の削減、あるいは伝送画像
フレーム・レートのさらなる向上を実現する。一方で、
直前の符号化フレームとの時間的な隔たりが大きい(伝
送フレーム・レートが低い)ときには、十分に大きな検
索領域に対して動き検索を実行することによって、正確
な動き補償が実行され高能率な圧縮符号化が実現でき
る。
That is, when the temporal separation from the immediately preceding coded frame to be subjected to motion search is small (the transmission frame rate is high), the amount of image coding processing that must be executed by the CPU per unit time Is inevitably increased, so that an efficient motion search process is performed by limiting the motion search range to a small range, utilizing the narrow range in which the imaging target can move between the immediately preceding encoded frame and the current frame. By doing so, it is possible to reduce the occupation amount of the CPU capacity or further improve the transmission image frame rate. On the other hand,
When the temporal separation from the immediately preceding coded frame is large (the transmission frame rate is low), a motion search is performed on a sufficiently large search area, so that accurate motion compensation is performed and efficient compression is performed. Encoding can be realized.

【0031】以上詳細に説明したように、本実施の形態
によれば、動きベクトル検索演算の実行に先立ち参照画
面(直前の符号化伝送画面)と処理画面との間の駒落し
画面数に基づき動き検索(補償)領域の大きさを制御
し、参照画面と処理画面との間の期間が短い(フレーム
・レートが高い)ほどその期間に対象物体の移動し得る
距離(範囲)も狭まることを利用して、駒落し数が小さ
くなるに従い(フレーム・レートが高くなるに従い)検
索範囲を縮小することによって、合理的な動き検索範囲
(動き補償範囲)による動きベクトル検索を実行する。
すなわち、駒落し画面数が小さい場合においては、検索
領域を相対的に小さく設定してさらなるフレーム・レー
トの向上がCPUの処理能力の限界により妨げられるこ
とを回避するとともに、動きベクトル検索処理量の削減
によるCPUの占有率(稼働率)の低下を実現し、一方
で駒落し画面数が大きい場合においては検索領域を相対
的に大きく設定して十分に大きな検索範囲に対して動き
検索処理を行い正確な動き検出を実現することにより、
効率的な動きベクトル検索を行うことができる。
As described above in detail, according to the present embodiment, prior to the execution of the motion vector search calculation, the number of frames dropped between the reference screen (the immediately preceding encoded transmission screen) and the processing screen is determined. By controlling the size of the motion search (compensation) area, the shorter the period (higher frame rate) between the reference screen and the processing screen, the shorter the distance (range) that the target object can move during that period. Using this, the search range is reduced as the number of dropped frames decreases (as the frame rate increases), thereby executing a motion vector search with a reasonable motion search range (motion compensation range).
That is, when the number of dropped frames is small, the search area is set to be relatively small so that the further improvement of the frame rate is not hindered by the limit of the processing capacity of the CPU, and the amount of motion vector search processing is reduced. A reduction in the CPU occupation rate (operating rate) due to the reduction is realized. On the other hand, when the number of dropped frames is large, the search area is set relatively large and the motion search processing is performed for a sufficiently large search range. By realizing accurate motion detection,
An efficient motion vector search can be performed.

【0032】次に第2の実施の形態について説明する。
上記第1の実施の形態においては、直前の符号化伝送フ
レーム(参照フレーム)と処理フレームとの間の時間の
隔たりを表わす駒落し量に基づき、3種の検索領域に対
して駒落し数が小さくなるに従い小さな検索範囲(サイ
ズ)を選択制御して1画素単位の動きベクトル検索を実
行する処理について説明した。しかし、本発明はこれに
限定するものではなく、上記のような検索範囲の制御に
対して第2の実施の形態による検索精度の選択制御を組
み合わせることにより同様の効果を発揮することができ
る。
Next, a second embodiment will be described.
In the first embodiment, the number of dropped frames for three types of search areas is based on the dropped frames representing the time lag between the immediately preceding encoded transmission frame (reference frame) and the processing frame. The process of selecting and controlling a smaller search range (size) as the size becomes smaller and executing a motion vector search in units of one pixel has been described. However, the present invention is not limited to this, and the same effect can be exerted by combining the above-described control of the search range with the selection control of the search accuracy according to the second embodiment.

【0033】第2の実施の形態における画像符号化装置
の一部の回路構成例を示す概略ブロック図を図5に示
す。基本構成は図1の第1の実施の形態と同様であり、
図1と同一ブロックには同一番号を付してある。次に本
実施の形態において特徴的な動きベクトル検索ブロック
620における動きベクトル検索サイズおよび検索精度
の選択制御について詳細に説明する。まず、動きベクト
ル検出部613におけるベクトル検出動作について簡単
に説明する。はじめに、第1の実施の形態で説明したも
のと同様にして1画素精度の動き検索処理を実行する。
対応する画素間の差分絶対値を算出し、その総和(差分
絶対値和)を相関評価とし、評価値が最小値をとる(相
関が最大となる)ブロックを選択するというものである
(1画素精度の動きベクトル検索)。つづいて、1/2
画素精度の動き検索については1画素精度で検出したブ
ロックとその近傍を4つのブロックとからその間に位置
する半画素ずれた4つの補間ブロックを生成し、上記検
出ブロックとこの4つの補間ブロックとを合わせた5つ
のブロックについて、処理ブロックとの間の相関評価を
行い、最も相関の高いブロックを選択する(1/2画素
精度の動きベクトル検索)。以上の2段階の検索により
選択されたブロックに対するベクトルを1/2画素精度
の動きベクトルと推定する。
FIG. 5 is a schematic block diagram showing an example of a circuit configuration of a part of the image encoding apparatus according to the second embodiment. The basic configuration is the same as that of the first embodiment in FIG.
The same blocks as in FIG. 1 are given the same numbers. Next, selection control of the motion vector search size and the search accuracy in the motion vector search block 620 characteristic of the present embodiment will be described in detail. First, the vector detection operation in the motion vector detection unit 613 will be briefly described. First, a motion search process with one-pixel accuracy is performed in the same manner as described in the first embodiment.
The absolute value of the difference between the corresponding pixels is calculated, the sum of the differences (sum of the absolute values of the differences) is used as a correlation evaluation, and a block having the minimum evaluation value (the maximum correlation) is selected (one pixel). Precision motion vector search). Then, 1/2
For the motion search with pixel accuracy, four interpolated blocks which are shifted by half a pixel positioned between the block detected with one pixel accuracy and the four blocks near the block are generated, and the detected block and the four interpolated blocks are generated. With respect to the combined five blocks, the correlation between the block and the processing block is evaluated, and the block having the highest correlation is selected (a motion vector search with 1/2 pixel precision). The vector for the block selected by the above two-stage search is estimated as a motion vector with 1/2 pixel accuracy.

【0034】動きベクトルの検索精度および検索領域の
大きさについては、駒落し数に基づいて決定する。以
下、具体例を挙げて詳細に説明する。ここでは符号化処
理単位であるブロックは16×16画素、動き検索精度
は2種、動き補償範囲(検索範囲)は図3について説明
した3種類からそれぞれ選択するものとする。すなわ
ち、図3(a)は最大検索範囲である+/−15(検索
領域は47×47画素範囲)である。図3(b)は+/
−11(検索領域は39×39画素範囲)である。図3
(c)は+/−7(検索領域は31×31画素範囲)で
ある。動き検索精度については、1画素精度の検索と1
/2画素精度の検索を選択的に用いる。
The search accuracy of the motion vector and the size of the search area are determined based on the number of dropped frames. Hereinafter, a specific example will be described in detail. Here, it is assumed that a block which is an encoding processing unit is 16 × 16 pixels, two types of motion search accuracy are selected, and a motion compensation range (search range) is selected from the three types described with reference to FIG. That is, FIG. 3A shows a maximum search range of +/− 15 (the search area is a 47 × 47 pixel range). FIG. 3B shows + /
−11 (the search area is a 39 × 39 pixel range). FIG.
(C) is +/− 7 (the search area is a 31 × 31 pixel range). Regarding the motion search accuracy, one pixel accuracy search and 1
/ 2 pixel precision search is selectively used.

【0035】次に、検索サイズ選択部212における駒
落し(フレーム・スキップ)数に基づく動きベクトル検
索領域の大きさ制御について説明する。第1の実施の形
態と同様にして、検索サイズ選択部212においては、
駒落し数決定部218により決定され通知された駒落し
(フレーム・スキップ)数に基づいて動き検索領域の大
きさを選択する。動き検索の対象となる直前の符号化フ
レームとの時間的な隔たりの大きさ(駒落しフレーム
数)によって、その期間に撮像対象物が移動し得る範囲
(大きさ)が変わることを利用し、駒落しフレーム数が
小さければ検索領域を小さく限定し、駒落しフレーム数
が大きければ検索領域を十分に大きくとるよう、検索領
域サイズを選択制御する。
Next, the size control of the motion vector search area based on the number of dropped frames (frame skip) in the search size selection unit 212 will be described. As in the first embodiment, the search size selection unit 212
The size of the motion search area is selected based on the number of dropped frames (frame skip) determined and notified by the dropped frame determination unit 218. Utilizing the fact that the range (size) in which the imaging target can move during that period varies depending on the size of the temporal separation from the immediately preceding encoded frame to be searched for motion (the number of dropped frames), If the number of dropped frames is small, the search area is limited to a small size. If the number of dropped frames is large, the search area size is controlled so that the search area is sufficiently large.

【0036】次に、検索精度選択部619における駒落
し(フレーム・スキップ)数に基づく動きベクトル検索
精度の選択制御について詳細に説明する。検索精度選択
部619においては、駒落し数決定部218により決定
され通知された駒落し(フレーム・スキップ)数に基づ
いて動き検索領域の選択(1画素精度か1/2画素精度
か)制御を行う。上述の動き検索範囲の大きさ制御を補
う目的で、駒落しフレーム数が十分に小さい場合に、検
索精度を1画素精度に落とす、すなわち、1画素精度の
検索に続いて実行される1/2画素精度の検索処理を行
わないように制御する。
Next, the selection control of the motion vector search precision based on the number of dropped frames (frame skip) in the search precision selection section 619 will be described in detail. The search accuracy selection unit 619 controls the motion search area selection (1 pixel accuracy or 1/2 pixel accuracy) based on the number of dropped frames (frame skip) determined and notified by the dropped frame number determination unit 218. Do. In order to supplement the size control of the motion search range described above, when the number of dropped frames is sufficiently small, the search accuracy is reduced to one-pixel accuracy, that is, 1/2 that is executed following the one-pixel accuracy search. Control is performed so as not to perform the pixel accuracy search process.

【0037】図6は動きベクトル検索精度および領域サ
イズの制御手順の一例を示すフロー・チャートである。
送信バッファ部207からのバッファ蓄積量情報や一符
号化フレームの発生圧縮符号量情報、さらには外部から
のユーザ設定情報などに基づいて、符号化制御部217
内の駒落し数決定部218により駒落し(フレーム・ス
キップ)数が決定される(Sb1)。決定された駒落し
数情報は駒落し制御部202へ通知されるとともに、検
索サイズ選択部212および検索精度選択部619へも
通知される(Sb2)。検索サイズ選択部212および
検索精度選択部619においては、次の処理フレームと
その直前の処理フレームとの間にいくつの駒落しフレー
ムが存在するか(駒落し数情報)に応じて、動き検索領
域の大きさおよび検索精度をそれぞれ選択制御する。
FIG. 6 is a flowchart showing an example of a control procedure of the motion vector search accuracy and the area size.
The encoding control unit 217 is based on the buffer accumulation amount information from the transmission buffer unit 207, the generated compression code amount information of one encoded frame, and external user setting information.
The number of dropped frames (frame skip) is determined by the dropped frame determination unit 218 (Sb1). The determined frame drop number information is notified to the frame drop control unit 202 and also to the search size selection unit 212 and the search accuracy selection unit 619 (Sb2). In the search size selection unit 212 and the search accuracy selection unit 619, the motion search area is determined according to how many dropped frames exist between the next processing frame and the immediately preceding processing frame (dropped number information). The size and the search precision of each are selectively controlled.

【0038】すなわち、駒落し数S>9である場合(S
b3)には、検索範囲として47画素×47画素(動き
ベクトル+/−15:図3(a))を選択し(Sb
4)、検索精度として1/2画素精度を選択する(Sb
5)。また駒落し数9≧S>2である場合(Sb6)に
は、検索範囲として39画素×39画素(動きベクトル
+/−11:図3(b))を選択し(Sb7)、検索精
度として1/2画素精度を選択する(Sb8)。また駒
落し数S≦2である場合には、検索範囲を31画素×3
1画素(動きベクトル+/−7:図3(c))として選
択し(Sb9)。検索精度として1画素精度を選択する
(Sb10)。動きベクトル検出部513においては、
検索サイズ選択部212により選択制御された動き検索
サイズ(動き補償サイズ)に対して、検索精度選択部6
19により選択制御された動き検索精度により動きベク
トル検出演算を実行する(Sb11)。
That is, when the number of dropped frames S> 9 (S
In b3), 47 pixels × 47 pixels (motion vector +/− 15: FIG. 3A) are selected as the search range (Sb
4), 1/2 pixel accuracy is selected as the search accuracy (Sb)
5). If the number of dropped frames is 9 ≧ S> 2 (Sb6), 39 pixels × 39 pixels (motion vector +/− 11: FIG. 3 (b)) are selected as the search range (Sb7), and the search accuracy is determined. The half-pixel accuracy is selected (Sb8). If the number of dropped frames S ≦ 2, the search range is 31 pixels × 3.
One pixel (motion vector +/− 7: FIG. 3C) is selected (Sb9). One pixel accuracy is selected as the search accuracy (Sb10). In the motion vector detection unit 513,
For the motion search size (motion compensation size) selected and controlled by the search size selection unit 212, the search accuracy selection unit 6
The motion vector detection calculation is executed with the motion search accuracy selected and controlled by S19 (Sb11).

【0039】すなわち、動き検索の対象となる直前の符
号化フレームとの時間的な隔たりが小さい(伝送フレー
ム・レートが高い)とき、単位時間あたりにCPUが実
行しなければならない画像符号化処理量は必然的に増大
しているため、直前符号化フレームとの間に撮像対象物
が移動し得る範囲が狭いことを利用して動き検索範囲を
小さく限定し、さらに検索精度を落とすことにより、効
率的な動き検索処理を実行する。これにより、CPU能
力の占有量の削減、あるいは伝送画像フレーム・レート
のさらなる向上を実現する。一方で、直前の符号化フレ
ームとの時間的な隔たりが大きい(伝送フレーム・レー
トが低い)ときには、十分に大きな検索領域に対して十
分な検索精度をもって動き検索を実行することによっ
て、正確な動き補償が実行され高能率な圧縮符号化が実
現できる。
That is, when the time difference from the immediately preceding encoded frame to be subjected to motion search is small (the transmission frame rate is high), the amount of image encoding processing that must be executed by the CPU per unit time Is inevitably increased, so that the motion search range is limited to a small range by utilizing the narrow range in which the imaging target can move between the immediately preceding encoded frame and the search accuracy is further reduced, thereby improving the efficiency. Perform a typical motion search process. As a result, the occupation amount of the CPU capacity is reduced, or the transmission image frame rate is further improved. On the other hand, when the temporal separation from the immediately preceding coded frame is large (the transmission frame rate is low), by executing a motion search with sufficient search accuracy on a sufficiently large search area, accurate motion Compensation is performed, and highly efficient compression encoding can be realized.

【0040】以上詳細に説明したように、本実施の形態
によれば、動きベクトル検出処理において、動き検索対
象である直前の符号化フレーム(参照フレーム)と処理
フレームとの間の期間が小さい(フレーム・レートが高
い)ほどその期間に対象物体の移動し得る距離(範囲)
も狭まることを利用して、駒落し数(フレーム期間)が
小さくなるに従い(フレーム・レートが高くなるに従
い)検索範囲を縮小するよう制御し、さらに検索精度を
下げるように制御する。これにより、フレーム・レート
が十分高い場合においては、動き検索範囲を小さく設定
し、さらに検索精度を低下させて圧縮符号化処理量の増
大を抑え、さらなるフレーム・レートの向上を妨げるこ
とを回避するとともに、動きベクトル検索処理量の削減
によるCPUの占有率を低下を実現する。一方、フレー
ム・レートが低い場合においては、CPUの処理能力に
余裕があるため、十分に大きな検索範囲に対して高い検
索精度でもって動き検索処理を行うことにより、正しい
動き検出が実現できる。
As described in detail above, according to the present embodiment, in the motion vector detection processing, the period between the immediately preceding encoded frame (reference frame) to be searched for motion and the processing frame is short ( The higher the frame rate, the more distance (range) the target object can move during that period
Utilizing the fact that the search range is reduced, the search range is controlled to be reduced as the number of dropped frames (frame period) is reduced (as the frame rate is increased), and the search accuracy is further reduced. Thus, when the frame rate is sufficiently high, the motion search range is set to be small, the search accuracy is further reduced, the increase in the amount of compression encoding processing is suppressed, and the increase in the frame rate is prevented from being hindered. In addition, the occupancy of the CPU is reduced by reducing the amount of motion vector search processing. On the other hand, when the frame rate is low, the CPU has sufficient processing power, and therefore, by performing a motion search process with a high search accuracy in a sufficiently large search range, correct motion detection can be realized.

【0041】なお、上記第1、および上記第2の実施の
形態においては、3種類の検索範囲を選択する場合につ
いて説明したが、2種類のみの選択でもよいし4種類以
上の検索範囲の選択でもよい。また、検索範囲の大きさ
についても上記各実施の形態に限定するものではない。
また第2の実施の形態においては、2種の検索精度を選
択する場合についてのみ説明したが、3種類以上の検索
精度の選択でもよいことは言うまでもない。また、1画
素精度と1/2画素精度以外の検索精度であってもよ
い。また、1/2画素精度の検索方法についても第2の
実施の形態に示した方法に限定するものではない。
In the first and second embodiments, the case where three types of search ranges are selected has been described. However, only two types of search ranges may be selected, or four or more types of search ranges may be selected. May be. Also, the size of the search range is not limited to the above embodiments.
In the second embodiment, only the case where two types of search accuracy are selected has been described, but it goes without saying that three or more types of search accuracy may be selected. Further, search accuracy other than 1-pixel accuracy and 1 / 2-pixel accuracy may be used. Also, the search method with half-pixel accuracy is not limited to the method described in the second embodiment.

【0042】また、上記各実施の形態においては、対応
する画素間の差分絶対値和を相関の評価関数とするフル
・サーチ手順を例に挙げて説明したが、ステップ・サー
チなどの簡易手順とフル・サーチ手順との選択制御と組
み合わせてもよい。また、本発明はシステム、あるいは
装置にプログラムを供給することによって達成される場
合にも適用できる。
In the above embodiments, the full search procedure using the sum of absolute differences between corresponding pixels as an evaluation function for correlation has been described as an example. It may be combined with selection control with a full search procedure. The present invention is also applicable to a case where the present invention is achieved by supplying a program to a system or an apparatus.

【0043】[0043]

【発明の効果】以上説明したように、本発明によれば、
動きベクトル検出処理において、動き検索対象である直
前の符号化フレーム(参照フレーム)と処理フレームと
の間の期間が小さい(フレーム・レートが高い)ほどそ
の期間に対象物体の移動し得る距離(範囲)も狭まるこ
とを利用して、駒落し数(フレーム期間)に応じて検索
範囲を制御するようにしたことにより、フレーム・レー
トが十分高い場合、動き検索範囲を小さく設定すること
により、圧縮符号化処理量の増大を抑え、さらなるフレ
ーム・レートの向上を妨げることを回避するとともに、
ベクトル検索処理量の削減によるCPUの占有率を低
げ、フレーム・レートが低い場合にCPUの処理能力に
余裕があるため十分に大きな検索範囲により動き検索処
理を行うことにより、正確な動き検出を行うようにする
ことができる。
As described above, according to the present invention,
In the motion vector detection processing, the shorter the period (the higher the frame rate) between the immediately preceding coded frame (reference frame) as the motion search target and the processing frame, the more the distance (range) in which the target object can move during that period. ) Is used to control the search range according to the number of dropped frames (frame period). If the frame rate is sufficiently high, the motion search range is set to a small value, and the compression code is set. While suppressing the increase in the amount of data processing to avoid hindering further frame rate improvements,
By reducing the amount of vector search processing, the CPU occupancy is reduced, and when the frame rate is low, the CPU has enough processing power to perform motion search processing with a sufficiently large search range, thereby enabling accurate motion detection. Can be done.

【0044】また、設定された駒落し数に応じて検索精
度を制御することにより、さらに動き検索の対象となる
画面との間の期間に応じて動きベクトル検索精度を制御
することが可能になる。
Further, by controlling the search accuracy in accordance with the set number of dropped frames, it becomes possible to further control the motion vector search accuracy in accordance with the period from the screen to which the motion is to be searched. .

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の第1の実施の形態による画像符号化装
置の概略構成を示すブロック図である。
FIG. 1 is a block diagram illustrating a schematic configuration of an image encoding device according to a first embodiment of the present invention.

【図2】駒落し(フレーム・スキップ)を説明する構成
図である。
FIG. 2 is a configuration diagram illustrating dropped frames (frame skipping).

【図3】本発明の第1および第2の実施の形態の検索領
域の種類を示す構成図である。
FIG. 3 is a configuration diagram showing types of search areas according to the first and second embodiments of the present invention.

【図4】本発明の第1の実施の形態による動作を説明す
るフローチャートである。
FIG. 4 is a flowchart illustrating an operation according to the first embodiment of the present invention.

【図5】本発明の第2の実施の形態による画像符号化装
置の概略構成を示すブロック図である。
FIG. 5 is a block diagram illustrating a schematic configuration of an image encoding device according to a second embodiment of the present invention.

【図6】本発明の第2の実施の形態による動作を説明す
るフローチャートである。
FIG. 6 is a flowchart illustrating an operation according to the second exemplary embodiment of the present invention.

【図7】フレーム間の動き補償を説明する構成図であ
る。
FIG. 7 is a configuration diagram illustrating motion compensation between frames.

【符号の説明】[Explanation of symbols]

201 フレームメモリ 202 駒落し制御部 212 検索サイズ選択部 213 動きベクトル検出部 218 駒落し数決定部 613 動きベクトル検出部 619 検索精度選択部 201 frame memory 202 frame drop control unit 212 search size selection unit 213 motion vector detection unit 218 frame drop number determination unit 613 motion vector detection unit 619 search accuracy selection unit

Claims (4)

【特許請求の範囲】[Claims] 【請求項1】 処理画面内の所定の処理ブロックの画像
データを用いて上記処理画面から所定の画面数だけ離れ
た参照画面の上記処理ブロック位置近傍の検索領域の画
像データを検索することにより動きベクトルを検出する
動きベクトル検出装置において、 上記参照画面と処理画面との間の画面を設定された画面
数だけ駒落しする駒落し制御手段と、 上記駒落し制御手段により駒落しされた画面数に応じて
上記参照画面内の上記検索領域の大きさを制御する検索
範囲制御手段と、 上記処理ブロックと上記検索範囲制御手段により決定さ
れた上記検索領域内の各ブロック・パターンとの相関を
評価し、動きベクトルを出力する動き検索手段とを備え
た動きベクトル検出装置。
1. A motion by searching image data of a search area near a processing block position on a reference screen separated by a predetermined number of screens from the processing screen using image data of a predetermined processing block in the processing screen. In the motion vector detecting device for detecting a vector, the frame between the reference screen and the processing screen is frame-dropped by a set number of frames. A search range control means for controlling the size of the search area in the reference screen in response thereto; and evaluating a correlation between the processing block and each block pattern in the search area determined by the search range control means. A motion vector detecting device comprising: a motion search unit that outputs a motion vector.
【請求項2】 上記駒落し制御手段により駒落しされた
画面数に応じて動きベクトル検索精度を決定する検索精
度制御手段を設け、 上記動き検索手段は、上記検索精度制御手段により決定
された検索精度による動きベクトルの検出処理を行うこ
とを特徴とする請求項1記載の動きベクトル検出装置。
2. A search precision control means for determining a motion vector search precision in accordance with the number of frames dropped by the frame drop control means, wherein the motion search means comprises a search determined by the search precision control means. The motion vector detecting device according to claim 1, wherein a motion vector detecting process is performed based on accuracy.
【請求項3】 上記検索範囲制御手段は、上記駒落し制
御手段により駒落しされた画面数が小さいときに上記検
索領域の大きさを相対的に小さく設定制御することを特
徴とする請求項1記載の動きベクトル検出装置。
3. The search range control means sets and controls the size of the search area to be relatively small when the number of frames dropped by the drop control means is small. The motion vector detecting device as described in the above.
【請求項4】 上記検索範囲制御手段は、上記駒落し制
御手段により駒落しされた画面数が小さいときに上記検
索精度を相対的に低く制御することを特徴とする請求項
2記載の動きベクトル検出装置。
4. The motion vector according to claim 2, wherein said search range control means controls said search accuracy to be relatively low when the number of frames dropped by said drop control means is small. Detection device.
JP16191196A 1996-06-21 1996-06-21 Motion vector detector Pending JPH1013836A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP16191196A JPH1013836A (en) 1996-06-21 1996-06-21 Motion vector detector

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP16191196A JPH1013836A (en) 1996-06-21 1996-06-21 Motion vector detector

Publications (1)

Publication Number Publication Date
JPH1013836A true JPH1013836A (en) 1998-01-16

Family

ID=15744370

Family Applications (1)

Application Number Title Priority Date Filing Date
JP16191196A Pending JPH1013836A (en) 1996-06-21 1996-06-21 Motion vector detector

Country Status (1)

Country Link
JP (1) JPH1013836A (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1317146A2 (en) * 2001-12-03 2003-06-04 Monolith Co., Ltd. Image matching method and apparatus
JP2005318576A (en) * 2004-04-30 2005-11-10 Matsushita Electric Ind Co Ltd Motion detection employing adaptive spatial update vector
JP2010088066A (en) * 2008-10-03 2010-04-15 Nippon Telegr & Teleph Corp <Ntt> Frame rate conversion method, frame rate conversion apparatus, frame rate conversion program, and computer readable recording medium with the program recorded thereon
JP2010141451A (en) * 2008-12-10 2010-06-24 Nippon Telegr & Teleph Corp <Ntt> Method, device and program for converting frame rate, and computer readable recording medium recording the program
JP2011019142A (en) * 2009-07-10 2011-01-27 Nippon Telegr & Teleph Corp <Ntt> Frame rate conversion method, frame rate conversion apparatus and frame rate conversion program

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1317146A2 (en) * 2001-12-03 2003-06-04 Monolith Co., Ltd. Image matching method and apparatus
EP1317146A3 (en) * 2001-12-03 2008-07-23 Monolith Co., Ltd. Image matching method and apparatus
JP2005318576A (en) * 2004-04-30 2005-11-10 Matsushita Electric Ind Co Ltd Motion detection employing adaptive spatial update vector
JP4528662B2 (en) * 2004-04-30 2010-08-18 パナソニック株式会社 Motion detection using adaptive space latest vector
JP2010088066A (en) * 2008-10-03 2010-04-15 Nippon Telegr & Teleph Corp <Ntt> Frame rate conversion method, frame rate conversion apparatus, frame rate conversion program, and computer readable recording medium with the program recorded thereon
JP2010141451A (en) * 2008-12-10 2010-06-24 Nippon Telegr & Teleph Corp <Ntt> Method, device and program for converting frame rate, and computer readable recording medium recording the program
JP2011019142A (en) * 2009-07-10 2011-01-27 Nippon Telegr & Teleph Corp <Ntt> Frame rate conversion method, frame rate conversion apparatus and frame rate conversion program

Similar Documents

Publication Publication Date Title
US5453799A (en) Unified motion estimation architecture
US8385423B2 (en) Motion vector detecting device, motion vector detecting method, image encoding device, and program
JP3593929B2 (en) Moving picture coding method and moving picture coding apparatus
JPH07112284B2 (en) Predictive encoding device and decoding device
JPS61118085A (en) Coding system and device for picture signal
JP2755851B2 (en) Moving picture coding apparatus and moving picture coding method
JPH1013836A (en) Motion vector detector
JPH0832969A (en) Motion vector detector
JPH1051787A (en) Motion vector detector
JP2947103B2 (en) Moving picture coding apparatus and moving picture coding method
JP3947316B2 (en) Motion vector detection apparatus and moving picture encoding apparatus using the same
JP2001086508A (en) Method and device for moving image decoding
JPH09261530A (en) Video recorder
JP2883592B2 (en) Moving picture decoding apparatus and moving picture decoding method
JP2883585B2 (en) Moving picture coding apparatus and moving picture coding method
JPH04186985A (en) Animated picture encoding device
JP2758378B2 (en) Moving picture decoding apparatus and moving picture decoding method
JP2002112270A (en) Moving picture high-speed encoder and moving picture high-speed encoding method
JPH06105299A (en) Dynamic image compressor
JP2669119B2 (en) Motion compensation predictive coding device and decoding device
JP2001258039A (en) Variable image rate encoder, variable image rate decoder, variable image rate coding method, and variable image rate decoding method
JPH10155154A (en) Moving image coder and moving image decoder
KR100397133B1 (en) Method and System for compressing/transmiting of a picture data
JP4353928B2 (en) Data compression method, recording method, and transmission method
JP2006020355A (en) Coding mode selecting method, video encoding apparatus, encoding method, recording method, and transmission method