WO2004002148A1 - Motion vector detection device, detection method, motion compensation device, and motion compensation method - Google Patents
Motion vector detection device, detection method, motion compensation device, and motion compensation method Download PDFInfo
- Publication number
- WO2004002148A1 WO2004002148A1 PCT/JP2003/007438 JP0307438W WO2004002148A1 WO 2004002148 A1 WO2004002148 A1 WO 2004002148A1 JP 0307438 W JP0307438 W JP 0307438W WO 2004002148 A1 WO2004002148 A1 WO 2004002148A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- pixel
- field
- vector
- motion
- block
- Prior art date
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0127—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
- H04N7/0132—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter the field or frame frequency of the incoming video signal being multiplied by a positive integer, e.g. for flicker reduction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
- H04N5/145—Movement estimation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
- H04N7/014—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
Definitions
- the present invention relates to a motion vector detection device and a detection method capable of reducing a circuit scale while reducing an influence on image quality, and a motion vector detection device and a detection method.
- the present invention relates to a motion correction device and a motion correction method.
- This interlaced scanning system is adopted as a television standard system in various countries around the world.
- PAL Phase Alternation by Line
- the field frequency is 50%.
- [Hz] frame image is 25 frames / second
- field image is 50 fields Z seconds.
- the input image signal is subjected to processing such as internal processing in order to further suppress the interference of the plane frit, so that the field frequency is doubled from 50 Hz to 100 Hz.
- the field frequency double speed method which converts the image signal into an image signal, has conventionally been adopted.
- FIG. 1 shows a block diagram of a field double speed conversion circuit 7 to which the field frequency double system is applied.
- This field double speed conversion circuit 7 has input terminals 81 and The CRT 83 and the horizontal / vertical deflection circuit 82 are integrated in a television receiver 8.
- the field double speed conversion circuit 7 includes a double speed conversion unit 71 and a frame memory 72.
- the double-speed conversion unit 71 writes, for example, an image signal of 50 fields / second of the PAL system input from the input terminal 81 to the frame memory 72.
- the double-speed conversion section 71 reads out the image signal written in the frame memory 72 at twice the speed of writing. This makes it possible to double the frequency of the image signal of 50 fields / second and generate an image signal of 100 field seconds.
- the double speed conversion section 71 outputs the double speed converted image signal to the CRT 83.
- the CRT 83 displays the input image signal on the screen.
- the horizontal and vertical deflection of the image signal in the CRT 83 is controlled based on a horizontal / vertical sawtooth wave generated by the horizontal / vertical deflection circuit 82 and having twice the frequency of the input image signal.
- the image signal indicated by a white circle in FIG. 2A is an interlaced image signal of 50 fields Z seconds before double-speed conversion, and the image signal indicated by a black circle in FIG. This is a field / second interval image signal.
- field f1 and field f2 are signals created from the same frame of the film, and similarly, field f3 and field f4 also form the same frame. I do. Since these image signals are interlaced image signals, pixel positions in the vertical direction differ between adjacent fields. For this reason, it is not possible to create one new field between each field while maintaining the interlacing property.
- two new fields f′2 and f′1 are generated between the field f1 and the field f2.
- No field is generated between field f2 and field f3
- two new fields f'4 and f'3 are generated between field f3 and field f4. That is, one frame is formed by four fields and two frames.
- the newly generated fields f'1, f'2, ... May be obtained as a median value of three pixels around each pixel using a median filter or the like.
- the newly created fields: f'1, f'2, ... have the same contents as the fields fl, f2, ..., respectively.
- the field double-speed conversion circuit 5 alternately arranges a part for newly generating two fields and a part for no generation between the fields of the image signal before the double-speed conversion, thereby obtaining the number of screens per unit time. Can be increased, and it is possible to suppress the above-described surface frit force disturbance.
- FIG. 16 shows the relationship between each field and the image position when the image moves in the horizontal direction in the image signal after the telecine conversion.
- the horizontal axis indicates the position of the image in the horizontal direction
- the vertical axis indicates time.
- the fields fl and f2 constitute the same frame, so that the image is displayed at the same position. This image moves horizontally (to the right in Fig. 3) when moving to field 3.
- Field f4 is displayed at the same position as field f3 because it constitutes the same frame as field f3.
- the fields f1, f'2, and f 'constituting the same frame are obtained.
- the same image is displayed at the same position with 1, f2.
- the same image is displayed at the same position in the fields f3, f'4, f'3, and f4 that form the same frame.
- Figure 4A shows the relationship between each field and the image position when the image moves in the horizontal direction in the television signal before double-speed conversion (hereinafter referred to as TV signal).
- TV signal double-speed conversion
- the image signal of the TV signal shown in Fig. 4A is doubled by the field frequency double speed method.
- the same image is displayed at the same position in the fields f 1 and f ′ 2 constituting the same frame.
- the same image is displayed at the same position in the fields f ′ 1 and f 2 constituting the same frame.
- the image is displayed at the same position up to the fields f1 to f2, while shifting to f2 to f3 If you want to move greatly in the horizontal direction.
- the image signal obtained by converting the TV signal at double speed as shown in FIG. 4B, the image is displayed at the same position in the fields fl to f′2, but shifts to ⁇ ′2 to f′1 Move in the horizontal direction.
- the output image signal regularly configures each field with a period of 1/1100 second, the time period during which the image operates is shorter than the time period during which the image is stationary. There is a problem in that when viewing a program via a TV, the motion of the image looks discontinuous.
- the motion vector is obtained by dividing the screen into blocks of predetermined pixels based on, for example, a block matching method, and evaluating the similarity for each block.
- the motion was corrected by shifting the pixel position for each block according to the obtained motion vector.
- a reference field is divided into a plurality of reference blocks 101, and a block having the highest similarity to the reference block 101 in the reference field 80 is calculated as follows: It is detected from the search block 103 moving in the search range 104 in the reference field 90. The displacement between the detected search block 103 and the reference block 101, that is, the direction and magnitude of the movement is defined as the moving vector.
- the above-described determination of the degree of approximation is performed by first taking the difference between each pixel value of the search block 103 and the corresponding pixel value of the reference block 101, and evaluating the difference indicated by the difference, for example, the sum of absolute differences. Ask for. Next, the above-described determination operation is performed for all search blocks 103, and the smallest evaluation value is obtained from the sum of evaluation values obtained, that is, the sum of absolute differences.
- the search block 103 giving the minimum sum of absolute differences is a block showing the highest similarity to the reference block 101, and a motion vector is specified according to the pixel position of the block.
- FIG. 6A is a diagram illustrating a case where motion compensation is performed on each pixel of the image signal subjected to the double speed conversion after the telecine conversion illustrated in FIG. 3A
- FIG. 6B is a diagram illustrating a case where the TV signal illustrated in FIG. 4B is double speed converted.
- FIG. 3 is a diagram illustrating a case where motion correction is performed for each pixel of an image signal.
- the motion vector a 1 1 is obtained between the field f 1 and the field f 3, and in the vector direction of the obtained motion vector a 11 1 and within the range of the vector amount, the field f ′ 2 to field; each pixel of f2 is gradually shifted.
- the motion vector b 11 is obtained between the field f 1 and the field f ′ 1, and the field f is set in the vector direction of the obtained motion vector b 11 1 and within the range of the vector amount. 'Shift 2 pixels.
- a motion vector b 1 2 is obtained between the field f ′ 1 and the field f 3, and in the vector direction of the obtained motion vector b 1 2 and within the range of the vector amount, the field f Shift 2 pixels.
- the above-described reference block 101 and search block 103 are simply obtained by dividing the screen into a set of a predetermined number of pixels, and in these blocks 101 and 103, pixels are spread without gaps. It is configured.
- an absolute difference value is calculated for all pixels constituting each block 101, 103.
- the image signal generated by telecine conversion and double speed conversion is composed of 4 fields per frame, so the motion vector obtained by comparing with the image signal composed of 2 fields per frame obtained by converting the TV signal to double speed Is large (see all in Fig. 6A, bll in head 6B, b12). For this reason, when motion-correcting an image signal after telecine conversion, the search range 104 is wider than that of a TV signal.
- the search block 103 must be sequentially moved after setting, and the circuit scale is further increased due to the huge amount of calculation of the absolute difference value.
- the present invention is to provide a novel motion vector detecting device and method, and a motion correcting device and a motion correcting method that can solve the problems of the conventional technology as described above. .
- Another object of the present invention is to provide a motion vector detecting apparatus and a detecting method, and a motion correcting apparatus and a motion correcting method capable of reducing the amount of calculation of the absolute difference value while reducing the influence on the image quality. Is to provide.
- the motion vector detection device and detection method according to the present invention proposed to achieve the above-described object include a reference pixel in a reference field one frame or two frames before an input reference field.
- the sum of absolute differences of the pixel values is sequentially calculated between the reference block having the origin as the origin and the search block in which the reference field is moved at least every other pixel vertically or at least every other pixel horizontally,
- the motion vector between the pixel position of the search block and the pixel position of the reference pixel that minimizes the calculated sum of absolute differences, the amount of calculation while maintaining the required accuracy of the motion vector And reduce the circuit size.
- the motion vector detection device is a motion vector detection device that detects a motion vector by a block matching method for each pixel of a reference field one frame or two frames before an input reference field.
- a reference block starting from the reference pixel in the reference field is cut out, and a search block in the reference field is placed at least every other vertical pixel and / or at least one horizontal picture.
- Block extracting means for moving and cutting out every other; vector calculating means for sequentially calculating the sum of absolute differences of pixel values between a reference block and a search block cut out by the block extracting means; A vector specifying unit that specifies a motion vector between the pixel position of the search block and the pixel position of the reference pixel in which the sum of absolute differences calculated by the vector calculating unit is a minimum.
- the motion vector detection method is a motion vector detection method for detecting a motion vector by a block matching method for each pixel of a reference field one frame or two frames before an input reference field.
- a reference block having the reference pixel in the field as the origin is cut out, and the search block in the reference field is cut out by moving at least every other pixel vertically and / or at least every other pixel horizontally, and the cut out reference block and
- the sum of the absolute values of the pixel values is sequentially calculated between the search block and, and the motion vector is specified between the pixel position of the search block and the pixel position of the reference pixel where the calculated sum of the absolute differences is minimum-
- the motion compensation device and method according to the present invention may be configured such that one frame Or, the pixel value between the reference block whose origin is the reference pixel in the reference field two frames before, and the search block in which the reference field is moved at least every other pixel vertically and / or at least every other horizontal pixel The motion vector is detected by sequentially calculating the sum
- the motion compensation device is a motion compensation device that performs motion compensation for each pixel of a reference field two frames before a reference field to be input.
- the sum of the absolute differences of the pixel values is sequentially calculated between the block and the search block in which the reference field is moved at least every other pixel or at least every other pixel, and the calculated sum of the absolute differences is calculated.
- Vector specifying means for specifying the motion vector between the pixel position of the search block and the pixel position of the reference pixel, which is the minimum, and the amount of shift in the vector direction of the motion vector specified by the vector specifying means
- Pixel shift means for shifting the position of the reference pixel in the reference field so that the value falls within the range of the vector amount.
- Another motion compensating device uses one frame from an input reference field.
- a motion compensator for motion compensating each pixel of a previous reference field, a reference block whose origin is the reference pixel in the reference field and a reference field at least every other vertical pixel or Z and at least horizontal
- the sum of the absolute values of the pixel values is sequentially calculated with the search block shifted every other pixel, and the pixel position of the search block and the pixel position of the reference pixel at which the calculated sum of the absolute differences is minimized
- a vector specifying means for specifying a motion vector between the reference field and a reference field such that a shift amount in the vector direction of the motion vector specified by the vector specifying means is within the range of the vector amount.
- a pixel shifting means for shifting the position of the reference pixel.
- Still another motion compensating apparatus is a motion compensating apparatus which performs motion compensation for each pixel of a reference field one frame before or two frames before an input reference field.
- As bets amount is in the range of a vector quantity, the position of the reference pixels definitive based field and a pixel shifting means for shifting Bok.
- a motion compensation method is a motion compensation method for performing motion compensation for each pixel of a reference field two frames before an input reference field, comprising: a reference block having a reference pixel in a reference field as an origin; The sum of the absolute differences of the pixel values is sequentially calculated between the search block in which the field is moved at least every other pixel or at least every Z and at least every other horizontal pixel, and the calculated sum of the absolute differences is minimized.
- the motion vector is specified between the pixel position of the search block to be searched and the pixel position of the reference pixel.
- the reference is set so that the shift amount in the vector direction of the specified motion vector is within the range of the vector amount. Shift the position of the reference pixel in the field.
- Another motion compensation method is a motion compensation method for performing motion compensation for each pixel of a reference field one frame before a reference field to be inputted.
- the sum of the absolute differences of the pixel values is sequentially calculated between the reference block whose origin is the reference pixel from the field and the search block in which the reference field is moved at least every other pixel vertically or at least every other pixel horizontally,
- a motion vector is specified between the pixel position of the search block and the pixel position of the reference pixel, at which the calculated sum of absolute differences is minimized, and the shift amount in the vector direction of the specified motion vector is the vector amount.
- the position of the reference pixel in the reference field is shifted so as to fall within the range.
- Still another motion compensation method is a motion compensation method for performing motion compensation for each pixel of a reference field one frame before or two frames before an input reference field.
- the reference field of the previous or two frames before is switched, and the reference block having the reference pixel as the origin in the switched reference field and the reference field are moved at least every other pixel vertically and / or at least every other pixel horizontally.
- the sum of the absolute values of the pixel values is sequentially calculated with the search block, and the motion vector between the pixel position of the search block where the calculated sum of the absolute differences is the minimum and the pixel position of the reference pixel is calculated.
- the shift amount is within the range of the vector amount in the vector direction of the specified motion vector. Shifting the position of the original.
- FIG. 1 is a block diagram of a field double speed conversion circuit to which the field frequency double speed method is applied.
- 2A and 2B are diagrams showing the relationship between each field and the pixel position before and after the double-speed conversion.
- FIGS. 3A and 3B are diagrams showing the relationship between each field and the image position when the image moves in the horizontal direction when the telecine conversion signal is input ⁇ FIG. 4A and FIG. B means that when a TV signal is input, the image FIG. 4 is a diagram illustrating a relationship between each field and an image position when moving.
- FIG. 5 is a diagram for explaining a conventional block matching method.
- FIG. 6A and FIG. 6B are diagrams showing an example of obtaining a motion vector for a telecine conversion signal and a TV signal.
- FIG. 7 is a block diagram showing a motion correction device according to the present invention.
- 8A and 8B are diagrams showing the relationship between each field and the pixel position before and after the double speed conversion in the field double speed conversion circuit.
- FIG. 9 is a diagram showing the relationship between each field and the image position when the image moves in the horizontal direction in the TV signal.
- FIGS. 10A and 10B are diagrams for explaining an operation when a TV signal is input in the motion vector detection unit.
- FIG. 11 is a diagram showing an example in which the pixel position is shifted with respect to the input TV signal in the image shift unit.
- Fig. 12 shows an example where the shift amount of the first field is set to 0 and the shift amount of the second field is set to 1Z2 times the vector amount of the detected motion vector in the image shift unit. It is.
- FIG. 13 is a diagram showing the relationship between each field and the image position when the image moves in the horizontal direction in the telecine conversion signal.
- FIGS. 14A and 14B are diagrams for explaining the operation when a telecine conversion signal is input to the motion vector detection unit.
- FIG. 15 is a diagram illustrating an example in which the image shift unit shifts the pixel position of the input telecine conversion signal.
- FIG. 16 is a diagram showing an example in which the pixel position is shifted in the image shift unit, so that the image moves smoothly.
- FIG. 17 is a diagram showing an example in which the shift amount of the first field is set to 0 in the image shift unit, and thereafter, the amount of the motion vector is increased by ⁇ times.
- FIG. 18A and FIG. 18B are diagrams showing an example of detecting a motion vector based on each block formed by thinning out every vertical and horizontal pixels.
- Figures 19A and 19B show at least every other pixel vertically and / or at least FIG. 9 is a diagram showing an example in which a search block 53 is moved every other pixel.
- BEST MODE FOR CARRYING OUT THE INVENTION a motion correction device and method thereof, and a motion vector detection device and detection method to which the present invention is applied will be described in detail with reference to the drawings.
- the motion compensation apparatus 1 is built in a television receiver of, for example, a PAL (Phase Alternation by Line) method, and as shown in FIG. 7, a first image memory 11 and a second An image memory 12, a switch 13, a motion vector detection unit 14, and an image shift unit 15 are provided.
- PAL Phase Alternation by Line
- the first image memory 11 stores an interlaced image signal (hereinafter referred to as a TV signal) in which one frame generated by converting a television signal at double speed into two fields, or an image obtained by telecine conversion.
- An in-lace image signal (hereinafter referred to as a telecine conversion signal) in which one frame generated by double-speed conversion is composed of four fields is sequentially supplied.
- the first image memory 11 stores the supplied image signal for one frame in each field unit. That is, the image signal output from the first image memory 11 is one frame before the image signal supplied to the first image memory 11.
- the second image memory 12 has the same internal configuration as the first image memory 11, and stores the image signal supplied from the first image memory 11 for each field in units of one frame. I do. That is, the image signal output from the second image memory 12 is one frame earlier than the image signal supplied to the second image memory 12 and is supplied to the first image memory 11 Two frames before the image signal.
- the image signal stored in the second image memory 12 is supplied to an image shift unit 15 and a motion vector detection unit 14.
- the image signal transmitted from the second image memory 12 to the motion vector detection unit 14 is referred to as a reference field 30.
- the switch 13 sequentially switches between the image signal supplied to the first image memory 11 and the image signal output from the first image memory 11, and transmits this to the motion vector detection unit 14.
- this switch 13 sends a signal to the motion vector detector 14.
- the image signal to be referred to is referred to as a reference field 40.
- the switch 13 When a TV signal is input, the switch 13 is switched to the “Normal” (N) side in FIG. 7, and the reference field 40 transmitted to the motion vector detector 14 is a reference field. One frame after 30.
- the switch section 13 is switched to the “film” (F) side in FIG. 7, and the reference field 40 transmitted to the motion vector detection section 14 is Two frames after the reference field 30.
- the motion vector detector 14 detects the motion vector for each block or pixel based on the supplied reference field 30 and reference field 40, and detects the detected motion vector or shift based on the motion vector.
- the information about the amount and the shift direction is output to the image shift unit 15.
- the image shift unit 15 receives the motion vector detected by the motion vector detection unit 14 or information such as a shift amount based on the motion vector for each block or each pixel.
- the image shift unit 15 shifts each pixel position or each block in the image signal supplied from the second image memory 12 in the vector direction within the range of the vector amount of the received motion vector.
- the image shift unit 15 outputs the image signal shifted in the vector direction to CRT2.
- the CRT 2 displays the input image signal on the screen.
- the horizontal and vertical deflection of the image signal in the CRT2 may be controlled based on a horizontal / vertical deflection circuit (not shown).
- the motion correction device 1 may integrate a field double-speed conversion circuit 3 that double-converts the field frequency of an image signal.
- the field double speed conversion circuit 3 is integrated to improve the resolution and prevent the disturbance of the plane flit force. For example, by performing processing such as interpolation in the PAL method, the field frequency is reduced to 50H.
- the image signal of z is converted into an image signal of 100 Hz twice.
- the field frequency conversion circuit 3 includes an input terminal 31 connected to a television receiver, a double speed conversion unit 32, and a frame memory 33.
- the double-speed converter 32 writes the telecine-converted image signal input from the television receiver via the input terminal 31 to the frame memory 33.
- the double-speed conversion unit 32 converts the image signal written in the frame memory 33 into a signal twice as large as that in the writing. Read at speed. As a result, for example, the frequency of an image signal of 50 fields / second in the PAL system can be doubled, and an image signal of 100 fields / second can be generated.
- the double-speed conversion unit 32 supplies the double-speed-converted image signal to the motion correction device 1.
- FIG. 8A and 8B show the relationship between each field and the pixel position before and after the double speed conversion in the field double speed conversion circuit 3.
- FIG. Here, the horizontal axis indicates time, and the vertical axis indicates the vertical position of the pixel.
- the image signal before the double-speed conversion is a PAL-type interlace image signal of 50 fields / sec. As shown in FIG. 8A, one frame is formed by two fields. On the other hand, since the image signal after double-speed conversion is an in-race image signal of 100 fields // second, as shown in FIG. 8B, a new signal between field t1 and field t2 is newly added. Generate two fields t 2, t '1. Then, no field is generated between the field t2 and the field t3, and two new fields t'4 and t'3 are generated between the field t3 and the field t4. That is, in the case of an image signal, for example, a telecine conversion signal, one frame is formed in four fields.
- Each pixel value may be obtained as an intermediate value of three pixels around each pixel.
- the newly generated fields t'1, t'2,... Have the same contents as the fields tl, t2,.
- one frame is formed in four fields, and the resolution can be improved by increasing the number of screens per unit time, and it is possible to suppress surface flicker interference Becomes
- a field double speed conversion circuit 3 sequentially supplies a TV signal in which one frame generated by performing double speed conversion of a television signal is composed of two fields.
- Figure 9 shows the relationship between each field and the image position when the image moves in the horizontal direction of the TV signal.
- the horizontal axis represents the position of the image in the horizontal direction
- the vertical axis represents time.
- Field frequency double speed method The same image is displayed at the same position in the fields t 1 and t ′ 2 constituting the same frame in the TV signal that has been double-speed converted by the formula.
- the same image is displayed at the same position in the fields t'l and t2 constituting the same frame.
- Switch 13 receives the TV signal and switches to the “Normal” (N) side in FIG. 7, and the reference field 30 and the reference field 40 one frame after the reference field 30 move. It is supplied to the vector detector 14.
- the motion vector detection unit 14 detects a motion vector between the reference field 30 and the reference field 40 for each pixel or each block based on, for example, a block matching method.
- the motion vector detector 14 divides the reference field 30 into a reference block 51 composed of m ⁇ n pixels centered on a reference pixel 58 as shown in FIG.
- the block having the highest degree of approximation of 1 is detected from the search block 53 moving in the search range 54 in the reference field 40 shown in FIG. 10B.
- the search block 53 is composed of m ⁇ n pixels having the same size as the reference block 51 centered on the center pixel 59, and the search range 54 in which the search block 53 moves is composed of M ⁇ N pixels.
- the motion vector detection unit 14 specifies a motion vector between the reference block 51 and the center pixel 59 of the search block 53 having the highest similarity.
- the above-described determination of the degree of approximation is performed by first taking the difference between each pixel value of the search block 53 and the corresponding pixel value of the reference block 51, and evaluating the difference indicated by the difference, for example, the sum of absolute differences. Ask for. Next, the above-described determination operation is performed for all the search blocks 53, and the evaluation value obtained for each of the search blocks 53, that is, the smallest one from the sum of absolute differences is obtained.
- the search block 53 that gives the minimum sum of absolute differences is a block showing the highest similarity to the reference block 51, and a moving vector is specified according to the pixel position of the block.
- the search block 53 moves so that the center pixel 59 scans all the pixels constituting the search range 54 shown in FIG. 10B.
- the search block 53 moves the search range 54 so as to be shifted by one pixel.
- the required accuracy of the motion vector can be improved.
- the vector direction of the motion vector is the reference field 3
- the direction becomes rightward in the figure.
- the vector amount becomes C.
- the reference field is t3
- the reference field is t'1
- the vector amount of the motion vector is D.
- the image shift unit 15 shifts the position of the detection pixel in the vector direction of the image signal supplied from the first image memory 12 based on the context of each field.
- the first field to be entered is the first field
- the second field to be entered after the first field is the second field.
- the shift amount is sequentially increased so as to be equal to the first field and the second field.
- the image When the image is shifted as described above, it can be indicated by the dotted line in FIG. 11, but the image is shifted from the second field to the first field as compared with before the image is shifted. This makes it easier to move the image without making large movements.
- the field double speed conversion circuit 3 By integrating the field double speed conversion circuit 3 into the motion compensation device 1 having such a configuration and incorporating it in the television receiver, it is possible to eliminate the discontinuity of motion in the image obtained by converting the TV signal at double speed. it can. In other words, the image quality can be synergistically improved by improving the resolution by the field double speed conversion circuit 3 and smoothing the movement of each image in which the surface flicker interference is suppressed.
- the shift amount of the image in the image shift unit 15 is, for example, as shown in FIG. 12, the shift amount of the first field is set to 0, and the shift amount of the motion vector detected by It is also possible to make the amount of vector 1 to 2 times.
- the shift amount of the first field is set to 0, and when the vector amount is C, the second field is shifted by C X 1/2. If the vector quantity is D, the second field is shifted by D X 1 Z 2. Since one frame is composed of two fields, it is possible to increase the shift amount linearly with time by increasing the vector amount by 1/2 times, making the image movement even smoother. can do.
- the motion compensation device 1 sequentially receives from the field double speed conversion circuit 3 a telecine conversion signal in which one frame generated by performing double speed conversion of the telecine-converted image is composed of four fields.
- Figure 13 shows the relationship between each field and the image position when the image moves in the horizontal direction of the telecine conversion signal.
- the horizontal axis represents the position of the image in the horizontal direction
- the vertical axis represents time.
- the telecine conversion signal double-speed converted by the field frequency conversion method is supplied to the first image memory 11 at fixed time intervals in the order of fields tl, t'2, t'1, and t2, and all the images are It is displayed at the same position.
- the image shifts in the horizontal direction (rightward), and is supplied to the first image memory 11 in the order of the fields t3, t'4, t'3, and t4.
- the switch 13 receives the telecine conversion signal and switches to the “film” (F) side in FIG. 7, and sets the reference field 30 and the reference field two frames after the reference field 30. 40 is supplied to the motion vector detection unit 14.
- the motion vector detection unit 14 detects a motion vector between the reference field 30 and the reference field 40 for each pixel or each block based on, for example, a block matching method.
- the motion vector detection unit 14 uses a reference field 30 as shown in FIG.
- the reference block 51 is divided into a reference block 51 composed of m ⁇ n pixels centered on the reference pixel 58, and a block having the highest similarity to the reference block 51 is referred to as a reference field 40 shown in FIG. 14B.
- a reference field 40 shown in FIG. 14B.
- the search block 53 is composed of m ⁇ n pixels of the same size as the reference block 51, centered on the center pixel 59, and the search range 54 in which the search block 53 moves is 2 MX 2 N It is composed of pixels and is twice as long and wide in area and four times as large as the TV signal search range 54.
- the search range of the telecine conversion signal needs to be set to twice as large in the vertical and horizontal directions as described above.
- the search range is not limited to twice the vertical and horizontal lengths of the TV signal search range 54, and may be configured with any size.
- the motion vector detection unit 14 specifies a motion vector between the reference block 51 and the center pixel 59 of the search block 53 having the highest similarity.
- the search block 53 moves such that the center pixel 59 scans only the colored pixels every other vertical and horizontal pixels constituting the search range 54 shown in FIG. 14B. In other words, the search block 53 moves in such a way that the search range 54 is shifted every other pixel vertically and horizontally.
- the search range 54 consists of 2 MX 2 N pixels in the case of a telecine conversion signal, which is twice as long and wide (the area is 4 times) as compared to the search range 54 for a TV signal. By thinning out every other pixel in the vertical and horizontal directions, the amount of calculation of the absolute difference can be made equal to the search range 54 composed of the MXN pixels of the TV signal.
- a true motion vector when a telecine conversion signal is input, a true motion vector can be obtained by making the search range 54 four times as large as the search range of the TV signal. By scanning 53 every other pixel in the vertical and horizontal directions, the calculation amount of the absolute difference can be reduced, and the circuit scale can be reduced.
- the motion compensation is performed by sequentially switching the image signal after conversion and the TV signal.
- the circuit scale can be unified by using the same amount of calculation as when a TV signal is input, especially for a telecine conversion signal in which the calculation amount of the sum of absolute differences is enormous. Therefore, the specifications of the television receiver can be satisfied.
- the vector direction of the motion vector obtained by the motion vector detection unit 14 is rightward with respect to the reference field 30, and when the reference field is t 3.
- the vector quantity is A.
- the reference field is t5
- the reference field is t3
- the vector amount of the motion vector is B.
- the image shift unit 15 shifts the position of the detection pixel in the vector direction in the image signal supplied from the second image memory 12 based on the context of each field.
- the first field to be entered is the first field
- the next field to be entered after the first field is the second field
- the shift amount of each field is as follows: the first field ⁇ the second field followed by the third field ⁇ the fourth field, as shown in Figure 15 And so on.
- the image moves significantly when moving from the fourth field to the first field as compared to before the image is shifted, as shown in FIG. Without moving the image, the motion of the image can be smoothed.
- the circuit scale can be reduced to the TV signal even when the telecine conversion signal is input. It is possible to eliminate the inconsistency of movement while keeping it at the same level. That is, the resolution is improved by the field double-speed conversion circuit 3, and the movement of each image in which the surface fringe disturbance is suppressed is further smoothed, so that the image quality can be synergistically improved.
- This motion compensator 1 can be used not only when implemented alone, A remarkable effect can be obtained by implementing the method integrally with the circuit 3. Even a television receiver having a field double-speed conversion circuit already integrated therein can easily be upgraded by incorporating the motion compensation device 1 later.
- the image shift amount in the image shift unit 15 is, for example, as shown in FIG. 17, the shift amount of the first field is set to 0, and the shift amount of the second field is detected. It is possible to increase the amount by 1/4 times the vector amount of the vector, and then increase it by 1/4 times.
- the shift amount of the first field is set to 0, and if the vector amount is A, the second field is shifted by AX 1 Z 4 and the third field is shifted by AX 2 Z 4
- the shift amount can be linearly increased with time, and the motion of the image can be further smoothed.
- the motion vector required may have an error of one pixel ( however, this image shift unit 15 Since the pixels are shifted by the number obtained by dividing the obtained motion vector by 4, the error for one pixel is also divided by 4, and the visual inconvenience caused by such pixels is almost eliminated.
- image quality is significantly degraded due to discontinuous motion when no motion correction is performed, but by performing motion correction using the motion correction device 1 according to the present invention. Since the image quality can be significantly improved, even if the required accuracy of the motion vector is slightly lower, there is almost no visual effect.
- a low-pass filter (not shown) can be applied in advance before the motion vector detecting section 14 specifies a motion vector.
- LPF low-pass filter
- a motion vector may be detected by the following method.
- the motion vector detector 14 divides the reference field 30 into a reference block 61 composed of 2 mx 2 n pixels centered on the reference pixel 58 as shown in FIG. the block exhibiting the highest degree of approximation to the block 61, FIG. 1 8 c the reference proc 6 1 detected from the search block 6 3 moving the search range 6 4 in the reference field 4 0 shown in B, the above-described Compared to the reference block 51 composed of m X n pixels, the height and width are twice as large and the area is four times.
- the search block 63 is composed of 2 mx 2 n pixels of the same size as the reference block 61 with the center pixel 59 at the center, and is thinned out every other pixel in the vertical and horizontal directions.
- the search range 64 in which the search block 63 moves is composed of 2 MX 2 N pixels, and is twice as long and wide in area and four times as large as the search range 54 for TV signals.
- the motion vector detection unit 14 specifies a motion vector between the reference block 51 and the center pixel 59 of the search block 63 exhibiting the highest degree of approximation.
- the size of each of the blocks 61 and 63 and the search range 64 may be any size without being limited to the above.
- the search block 53 moves such that the center pixel 59 scans only the colored pixels every other vertical and horizontal pixels constituting the search range 54 shown in FIG. 14B.
- the search block 63 moves so that the search range 64 shown in FIG. 18B is shifted every other pixel vertically and horizontally.
- the search range 6 4 is composed of 2 MX 2 N pixels in the case of a telecine conversion signal, and is twice as long and wide (the area is 4 times) as compared with the search range 6 4 for a TV signal. By performing the search by thinning out every other pixel in the vertical and horizontal directions, the calculation amount of the absolute difference value can be made equal to the search range 54 composed of the MXN pixels of the TV signal.
- the motion vector detection unit 14 sets the center pixel 59 on the search ranges 54 and 64 as shown in FIGS. 14B and 18B.
- the search is performed so as to scan over the colored pixels, in other words, the search blocks 53 and 63 are shifted every other pixel in the vertical and horizontal directions, but this is not a limitation.
- a search may be performed by shifting only the horizontal at every other pixel, and a search may be performed without shifting the vertical at every other pixel. Similarly, shift only vertical by every other pixel The search may be performed without changing the horizontal position every other pixel.
- the interval at which the pixels are shifted is not limited to one pixel, but it is sufficient if at least one pixel is shifted, for example, every two pixels or every third pixel.
- FIG. 19B shows an example in which a search is performed by shifting the vertical by every other pixel and the horizontal by every three pixels. That is, in the present invention, any search method may be used as long as the search is performed by shifting the search block at least every other pixel or at least every other horizontal pixel. This makes it possible to reduce the circuit scale while making the search ranges 54 and 64 wide.
- the reference block 61 and the search block 63 shown in Fig. 18A are not limited to the case where they are thinned out every other vertical and horizontal pixels, but also at least every other vertical pixels and / or at least every other horizontal pixels. It is enough if it is thinned out. Therefore, it is a matter of course that block matching may be performed using the reference block 61 and the search block 63 thinned out, for example, every two or three pixels.
- the motion vector detection unit 14 searches not only when a telecine conversion signal is input but also every other vertical and horizontal pixels as shown in FIGS. 14B and 18B described above when a TV signal is input.
- the search may be performed by moving block 53.
- the search may be performed by moving the search block 53 at least every other vertical pixel and / or at least every other horizontal pixel as shown in FIG. 19B described above.
- LPF not-shown single pass filter
- the motion compensator 1 is not limited to the above-described embodiment.
- the switch 13 can be always switched to the “normal” (N) side. .
- the reference field 40 transmitted to the motion vector detection unit 14 is always one frame later than the reference field 30. Therefore, the motion compensator 1 employing such a configuration performs motion compensation only for the TV signal.
- a motion compensation circuit can be configured.
- the motion vector detection unit 14 performs a search block 5 every other pixel in the vertical and horizontal directions as shown in FIG. 14B and FIG. The search is performed by scanning 3. As a result, the motion vector can be And the circuit scale can be reduced.
- the motion compensator 1 is not limited to the above-described embodiment.
- the switch 13 can be always switched to the “film” (F) side. is there.
- the reference field 40 transmitted to the motion vector detecting unit 14 is always two frames later than the reference field 30.
- a motion compensation circuit that can perform motion compensation only is configured.
- the amount of operation of the absolute difference value can be reduced, and the circuit scale can be reduced.
- the present invention is not limited to the case where the present invention is applied to a television receiver based on the PAL system.
- the present invention is applied to the NTSC (National TV System Co. i.e.
- the present invention is also applicable to a television receiver to which an interlaced image signal of field seconds (30 frames / second) is input. It is also applicable to television receivers using the SECAM system.
- the present invention can be incorporated not only into a television receiver but also into a signal converter connected to the television receiver.
- the present invention can be applied to a case where an image signal transmitted on an Internet network is displayed on a PC or the like, or a case where a media image format is converted.
- the present invention has been described in the form of being realized by hardware such as a circuit, it is needless to say that the present invention can also be realized by software on a processor.
- the motion vector detecting apparatus and method according to the present invention can be used in the reference field one frame or two frames before the input reference field.
- the absolute value of the difference in pixel value between the reference block whose origin is the reference pixel of interest and the search block that moves within the search range of the reference field at least every other vertical pixel or at least every Z and every horizontal pixel Since the motion vector is specified between the pixel position of the search block and the pixel position of the reference pixel where the calculated sum of absolute differences is minimized, the accuracy of the motion vector to be obtained is maintained.
- the amount of calculation can be reduced, and the circuit scale can be reduced.
- the motion compensation device and method according to the present invention provide a reference block having an origin at a reference pixel in a reference field one frame or two frames before an input reference field, and at least a search range in the reference field.
- the motion vector is detected by sequentially calculating the absolute sum of the difference between the pixel value and the search block that moves every other vertical pixel or Z and at least every other horizontal pixel, and the motion vector is detected based on the motion vector. Since the position of the reference pixel in the reference field is shifted, the discontinuity of motion can be eliminated while reducing the amount of calculation and the circuit scale.
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Television Systems (AREA)
Abstract
A motion vector detection device for detecting a motion vector by the block matching method according to each pixel of the basic field by one or two frames before the input reference field. A sum of difference absolute values of pixel values is successively calculated between a basic block (51) having as an origin a reference pixel (58) in a basic field (30) by one or two frames before an input reference field (40) and a search block (53) in which the reference field (40) is shifted at least every other pixel in the longitudinal direction or/and every other pixel in the lateral direction, thereby specifying a motion vector between the pixel position of the lookup block (53) and the pixel position of the basic pixel (58) where the sum of the difference absolute values is minimum.
Description
明細書 動きべクトル検出装置及び検出方法、 並びに動き補正装置及び動き補正方法 技術分野 本発明は、 画質に与える影響を軽減しつつ、 回路規模を縮小できる動きべクト ル検出装置及び検出方法、 並びに動き補正装置及び動き補正方法に関する。 TECHNICAL FIELD The present invention relates to a motion vector detection device and a detection method capable of reducing a circuit scale while reducing an influence on image quality, and a motion vector detection device and a detection method. The present invention relates to a motion correction device and a motion correction method.
本出願は、 日本国において 2 0 0 2年 6月 1 9日に出願された日本特許出願番 号 2 0 0 2— 1 7 9 0 4 9を基礎として優先権を主張するものであり、 この出願 は参照することにより、 本出願に援用される。 景技術 従来、 テレビ放送の走査方式としては、 水平走査線を 1本おきに飛越して走査 するインタレース走査方式が最も広く採用されている。 このイン夕レース走査方 式では、 奇数番目の走査線から構成されるフィールド画像と、 偶数番目の走査線 から構成されるフィールド画像により 1枚のフレーム画像を形成し、 画面全体が ちらついて見える面フリッカ妨害を抑え、 画面品質の劣化を防止している。 This application claims priority on the basis of Japanese Patent Application No. 200-217-949, filed in Japan on June 19, 2022. The application is incorporated herein by reference. 2. Related Art Conventionally, as a scanning method for television broadcasting, an interlaced scanning method that scans every other horizontal scanning line has been most widely adopted. In this in-line scan method, a single frame image is formed by a field image composed of odd-numbered scanning lines and a field image composed of even-numbered scanning lines, and the entire screen appears to flicker. It suppresses flicker interference and prevents screen quality from deteriorating.
このィンタレ一ス走査方式は、 世界各国のテレビジョン標準方式として採用さ れており、 このうち例えば欧州のテレビジョン放送における P A L (Phase Al ter nat ion by L ine)方式では、 フィールド周波数が 5 0 〔H z〕 (フレーム画像が 2 5フレーム/秒、 フィールド画像が 5 0フィールド Z秒) で構成される。 This interlaced scanning system is adopted as a television standard system in various countries around the world. For example, in the PAL (Phase Alternation by Line) system in European television broadcasting, the field frequency is 50%. [Hz] (frame image is 25 frames / second, field image is 50 fields Z seconds).
特にこの P A L方式では、 更なる面フリツ力妨害の抑制を期すべく、 入力画像 信号へ内揷等の処理を施すことにより、 フィ一ルド周波数を 5 0 H zから 2倍の 1 0 0 H zの画像信号に変換する、 フィールド周波数倍速方式が従来より採用さ れている。 In particular, in this PAL system, the input image signal is subjected to processing such as internal processing in order to further suppress the interference of the plane frit, so that the field frequency is doubled from 50 Hz to 100 Hz. The field frequency double speed method, which converts the image signal into an image signal, has conventionally been adopted.
図 1は、 このフィールド周波数倍速方式を適用したフィールド倍速変換回路 7 のブロック図を示している。 このフィールド倍速変換回路 7は、 入力端子 8 1と、
C R T 8 3と、 水平垂直偏向回路 8 2とを備えるテレビジョン受像機 8に集積化 される。 このフィールド倍速変換回路 7は、 倍速変換部 7 1と、 フレームメモリ 7 2とを備える。 FIG. 1 shows a block diagram of a field double speed conversion circuit 7 to which the field frequency double system is applied. This field double speed conversion circuit 7 has input terminals 81 and The CRT 83 and the horizontal / vertical deflection circuit 82 are integrated in a television receiver 8. The field double speed conversion circuit 7 includes a double speed conversion unit 71 and a frame memory 72.
倍速変換部 7 1は、 入力端子 8 1から入力された、 例えば P A L方式の 5 0フ ィールド/秒の画像信号を、 フレームメモリ 7 2へ書き込む。 また、 この倍速変 換部 7 1は、 フレームメモリ 7 2へ書き込んだ画像信号を、 書込み時の 2倍の速 度で読み出す。 これにより、 5 0フィールド/秒の画像信号の周波数を 2倍に変 換し、 1 0 0フィ一ルド 秒の画像信号を生成することができる。 The double-speed conversion unit 71 writes, for example, an image signal of 50 fields / second of the PAL system input from the input terminal 81 to the frame memory 72. The double-speed conversion section 71 reads out the image signal written in the frame memory 72 at twice the speed of writing. This makes it possible to double the frequency of the image signal of 50 fields / second and generate an image signal of 100 field seconds.
倍速変換部 7 1は、 倍速変換した画像信号を C R T 8 3へ出力する。 C R T 8 3は、 入力された画像信号を画面上に表示する。 なお、 C R T 8 3における画像 信号の水平、 垂直の偏向は、 水平垂直偏向回路 8 2において生成された、 入力画 像信号の 2倍の周波数の水平垂直鋸歯状波に基づいて制御する。 The double speed conversion section 71 outputs the double speed converted image signal to the CRT 83. The CRT 83 displays the input image signal on the screen. The horizontal and vertical deflection of the image signal in the CRT 83 is controlled based on a horizontal / vertical sawtooth wave generated by the horizontal / vertical deflection circuit 82 and having twice the frequency of the input image signal.
図 2 A及び図 2 Bは、 倍速変換前後の各画像信号における各フィールドと画素 位置との閧係を示している。 ここで横軸は、 時間、 縦軸は画素の垂直方向の位置 を示す。 また、 図 2 Aの白丸で示した画像信号は、 倍速変換前の 5 0フィールド Z秒のインタレース画像信号であり、 図 2 Bの黒丸で示した画像信号は、 倍速変 換した 1 0 0フィールド /秒のィンタレ一ス画像信号である。 2A and 2B show the relationship between each field and the pixel position in each image signal before and after the double-speed conversion. Here, the horizontal axis indicates time, and the vertical axis indicates the vertical position of the pixel. The image signal indicated by a white circle in FIG. 2A is an interlaced image signal of 50 fields Z seconds before double-speed conversion, and the image signal indicated by a black circle in FIG. This is a field / second interval image signal.
図 2 Aに示す画像信号において、 フィールド f 1とフィールド f 2は、 フィル ムの同一のコマから作成された信号となり、 以下同様にフィ一ルド f 3とフィー ルド f 4も同一のコマを構成する。 これらの画像信号は、 インタレース画像信号 であるため、 隣り合うフィールド間で垂直方向の画素位置が異なる。 このため、 ィンタレース性を保ちつつ、 各フィールド間に 1個ずつのフィールドを新規に生 成することはできない。 In the image signal shown in Fig. 2A, field f1 and field f2 are signals created from the same frame of the film, and similarly, field f3 and field f4 also form the same frame. I do. Since these image signals are interlaced image signals, pixel positions in the vertical direction differ between adjacent fields. For this reason, it is not possible to create one new field between each field while maintaining the interlacing property.
そこで、 図 2 Bに示すように、 フィールド f 1とフィールド f 2の間に、 新規 に 2枚のフィールド f ' 2、 f ' 1を生成する。 フィールド f 2とフィールド f 3の間では、 フィールドの生成を行わず、 フィールド f 3とフィールド f 4の間 に、 新規に 2枚のフィールド f ' 4、 f ' 3を生成する。 すなわち 4フィールド、 2フレームで 1つのコマを形成する。 Thus, as shown in FIG. 2B, two new fields f′2 and f′1 are generated between the field f1 and the field f2. No field is generated between field f2 and field f3, and two new fields f'4 and f'3 are generated between field f3 and field f4. That is, one frame is formed by four fields and two frames.
この新規に生成したフィールド f ' 1、 f ' 2、 · · ·は、 それぞれの画素値
を、 各画素の周囲 3画素の中間値として、 メディアン · フィルタ等を用いて求め る場合もある。 この新規に生成したフィールド: f ' 1、 f ' 2、 ■ · ·は、 それ ぞれフィールド f l、 f 2、 ■ · と同じ内容となる。 The newly generated fields f'1, f'2, ... May be obtained as a median value of three pixels around each pixel using a median filter or the like. The newly created fields: f'1, f'2, ... have the same contents as the fields fl, f2, ..., respectively.
すなわち、 フィールド倍速変換回路 5は、 倍速変換前の画像信号のフィールド 間に 2枚のフィールドを新規に生成する部分と全く生成しない部分とを交互に配 置することで、 単位時間当たりの画面枚数を増やすことができ、 上述の面フリツ 力妨害を抑えることが可能となる。 In other words, the field double-speed conversion circuit 5 alternately arranges a part for newly generating two fields and a part for no generation between the fields of the image signal before the double-speed conversion, thereby obtaining the number of screens per unit time. Can be increased, and it is possible to suppress the above-described surface frit force disturbance.
ところで、 2 4コマ/秒の静止画で構成される映画のフィルムを通常のテレビ で見るためには、 イン夕レースの T V信号にするために、 テレビシネマ変換 (以 下、 テレシネ変換と称する) を行う。 このテレシネ変換後の画像信号において、 水平方向へ画像が移動する塲合における各フィールドと画像位置の関係を図 1 6 に示す。 ここで横軸は画像の水平方向における位置、 縦軸は時間を示している。 図 3 Aに示す倍速変換前の画像信号において、 フィールド f l、 f 2は、 同一の コマを構成するため、 同じ位置に画像が表示される。 この画像は、 フィールド 3に移行すると水平方向 (図 3中の右方向) へ移動する。 フィールド f 4は、 フ ィ一ルド f 3と同一のコマを構成するため、 フィールド f 3と同一の位置に表示 される。 By the way, in order to watch a movie film composed of 24 frames / second still images on a normal television, a TV cinema conversion (hereinafter referred to as “telecine conversion”) is required to obtain a TV signal for an in-night race. I do. FIG. 16 shows the relationship between each field and the image position when the image moves in the horizontal direction in the image signal after the telecine conversion. Here, the horizontal axis indicates the position of the image in the horizontal direction, and the vertical axis indicates time. In the image signal before the double-speed conversion shown in FIG. 3A, the fields fl and f2 constitute the same frame, so that the image is displayed at the same position. This image moves horizontally (to the right in Fig. 3) when moving to field 3. Field f4 is displayed at the same position as field f3 because it constitutes the same frame as field f3.
この図 3 Aに示すテレシネ変換後の画像信号をフィ一ルド周波数倍速方式によ り倍速変換すると、 図 3 Bに示すように、 同一のコマを構成するフィールド f 1、 f ' 2、 f ' 1、 f 2で、 同一位置に同一の画像が表示される。 同様に、 同一の コマを構成するフィールド f 3、 f ' 4、 f ' 3、 f 4で同一位置に同一の画像 が表示される。 When the image signal after the telecine conversion shown in FIG. 3A is double-speed-converted by the field frequency double-speed method, as shown in FIG. 3B, the fields f1, f'2, and f 'constituting the same frame are obtained. The same image is displayed at the same position with 1, f2. Similarly, the same image is displayed at the same position in the fields f3, f'4, f'3, and f4 that form the same frame.
また、 倍速変換前のテレビジョン信号 (以下、 T V信号という) において、 水 平方向へ画像が移動する場合における各フィールドと画像位置の関係を図 4 Aに 示す。 この図 4 Aにおいて、 フィールド ί 1、 f 2、 f 3 · · ·は、 それぞれ独 立したコマを形成するため、 別の位置に画像が表示される。 この画像は、 フィ一 ルド ί ΐから、 f 2、 f 3 · · · と移行する毎に、 水平方向 (図 4 A中の右方 向) へ移動する。 Figure 4A shows the relationship between each field and the image position when the image moves in the horizontal direction in the television signal before double-speed conversion (hereinafter referred to as TV signal). In FIG. 4A, since the fields # 1, f2, f3,... Form independent frames, images are displayed at different positions. This image moves in the horizontal direction (rightward in Fig. 4A) every time it moves from the field ί と to f 2, f 3 ···.
この図 4 Aに示す T V信号の画像信号をフィールド周波数倍速方式により倍速
変換すると、 図 4 Bに示すように、 同一のコマを構成するフィールド f 1、 f ' 2において、 同一位置に同一の画像が表示される。 同様に、 同一のコマを構成す るフィールド f ' 1、 f 2において、 同一位置に同一の画像が表示される。 The image signal of the TV signal shown in Fig. 4A is doubled by the field frequency double speed method. After the conversion, as shown in FIG. 4B, the same image is displayed at the same position in the fields f 1 and f ′ 2 constituting the same frame. Similarly, the same image is displayed at the same position in the fields f ′ 1 and f 2 constituting the same frame.
ところで、 図 3 Bに示すように、 テレシネ変換後、 倍速変換した画像信号にお いて、 画像はフィ一ルド f 1〜: f 2まで同じ位置に表示される一方、 f 2〜 f 3 に移行する場合に大きく水平方向へ移動する。 同様に T V信号を倍速変換した画 像信号についても、 図 4 Bに示すように、 画像はフィールド f l〜 f ' 2まで同 じ位置に表示される一方、 ί ' 2〜 f ' 1に移行する場合に大きく水平方向へ移 動する。 特に出力画像信号は、 1 / 1 0 0秒の周期で規則的に各フィールドを構 成しているため、 画像の動作する時間帯が画像の静止する時間帯と比較して短く、 実際に C R Tを介して番組を視聴すると画像の動きが不連続に見えるという問題 がある。 By the way, as shown in Fig. 3B, after the telecine conversion, in the double-speed-converted image signal, the image is displayed at the same position up to the fields f1 to f2, while shifting to f2 to f3 If you want to move greatly in the horizontal direction. Similarly, as for the image signal obtained by converting the TV signal at double speed, as shown in FIG. 4B, the image is displayed at the same position in the fields fl to f′2, but shifts to ί′2 to f′1 Move in the horizontal direction. In particular, since the output image signal regularly configures each field with a period of 1/1100 second, the time period during which the image operates is shorter than the time period during which the image is stationary. There is a problem in that when viewing a program via a TV, the motion of the image looks discontinuous.
このため、 かかる動きの不連続性を解消するため、 例えばブロックマッチング 法に基づき、 画面を所定の画素からなるブロックに分割し、 各ブロック単位で近 似度を評価することにより動きべクトルを求め、 当該求めた動きべクトルに応じ て各ブロック毎に画素位置をシフトさせて動き補正していた。 For this reason, in order to eliminate such discontinuity in motion, the motion vector is obtained by dividing the screen into blocks of predetermined pixels based on, for example, a block matching method, and evaluating the similarity for each block. The motion was corrected by shifting the pixel position for each block according to the obtained motion vector.
このブロックマッチング法は、 図 5に示すように、 基準フィールドを複数の基 準ブロック 1 0 1に分割し、 基準フィ一ルド 8 0における基準ブロック 1 0 1と 最も高い近似度を示すブロックを、 参照フィールド 9 0における探索範囲 1 0 4 内を移動する探索ブロック 1 0 3から検出する。 この検出された探索ブロック 1 0 3と基準ブロック 1 0 1間の位置のずれ、 すなわち、 移動の方向と大きさを動 きべクトルとする。 In this block matching method, as shown in FIG. 5, a reference field is divided into a plurality of reference blocks 101, and a block having the highest similarity to the reference block 101 in the reference field 80 is calculated as follows: It is detected from the search block 103 moving in the search range 104 in the reference field 90. The displacement between the detected search block 103 and the reference block 101, that is, the direction and magnitude of the movement is defined as the moving vector.
上述の近似度の判定は、 先ず探索ブロック 1 0 3の各画素値について、 基準ブ ロック 1 0 1の対応する画素値との差分をとり、 その差によって示される評価値, 例えば差分絶対値和を求める。 次に、 上述の判定操作を全ての探索ブロック 1 0 3について行い、 それぞれ求めた評価値和、 すなわち各差分絶対値和から最小の ものを求める。 この最小の差分絶対値和を与える探索ブロック 1 0 3を、 基準ブ ロック 1 0 1と最も高い近似度を示すブロックとし、 かかるブロックの画素位置 に応じて動きべクトルを特定する。
このようにして求められた動きべクトルのべクトル方向へ、 補正量が上記べク トル量の範囲内となるように、 上述の倍速変換した画像信号の各画素を動き補正 することにより、 上述した画像の動きの不連続性を解消することができる。 図 6 Aは、 図 3 Aに示すテレシネ変換後倍速変換した画像信号の各画素につい て動き補正する場合を示した図であり、 図 6 Bは、 図 4 Bに示す T V信号を倍速 変換した画像信号の各画素について動き補正する場合を示した図である。 The above-described determination of the degree of approximation is performed by first taking the difference between each pixel value of the search block 103 and the corresponding pixel value of the reference block 101, and evaluating the difference indicated by the difference, for example, the sum of absolute differences. Ask for. Next, the above-described determination operation is performed for all search blocks 103, and the smallest evaluation value is obtained from the sum of evaluation values obtained, that is, the sum of absolute differences. The search block 103 giving the minimum sum of absolute differences is a block showing the highest similarity to the reference block 101, and a motion vector is specified according to the pixel position of the block. By performing motion correction on each pixel of the above-described double-speed-converted image signal so that the correction amount is within the range of the vector amount in the vector direction of the motion vector thus obtained, It is possible to eliminate the discontinuity of the motion of the image. FIG. 6A is a diagram illustrating a case where motion compensation is performed on each pixel of the image signal subjected to the double speed conversion after the telecine conversion illustrated in FIG. 3A, and FIG. 6B is a diagram illustrating a case where the TV signal illustrated in FIG. 4B is double speed converted. FIG. 3 is a diagram illustrating a case where motion correction is performed for each pixel of an image signal.
図 6 Aの場合には、 フィールド f 1とフィールド f 3間で動きべクトル a 1 1 を求め、 この求めた動きベクトル a 1 1のベクトル方向へ、 かつベクトル量の範 囲内で、 フィールド f ' 2〜フィールド; f 2の各画素を徐々にシフトさせる。 図 6 Bの場合には、 フィールド f 1とフィールド f ' 1間で動きべクトル b 1 1を求め、 この求めた動きベクトル b 1 1のベクトル方向へ、 かつベクトル量の 範囲内で、 フィールド f ' 2の画素をシフトさせる。 同様に、 フィ一ルド f ' 1 とフィ一ルド f 3間で動きべクトル b 1 2を求め、 この求めた動きべクトル b 1 2のベクトル方向へ、 かつベクトル量の範囲内で、 フィールド f 2の画素をシフ トさせる。 In the case of FIG. 6A, the motion vector a 1 1 is obtained between the field f 1 and the field f 3, and in the vector direction of the obtained motion vector a 11 1 and within the range of the vector amount, the field f ′ 2 to field; each pixel of f2 is gradually shifted. In the case of FIG. 6B, the motion vector b 11 is obtained between the field f 1 and the field f ′ 1, and the field f is set in the vector direction of the obtained motion vector b 11 1 and within the range of the vector amount. 'Shift 2 pixels. Similarly, a motion vector b 1 2 is obtained between the field f ′ 1 and the field f 3, and in the vector direction of the obtained motion vector b 1 2 and within the range of the vector amount, the field f Shift 2 pixels.
これにより、 コマを構成するフィールドの各画素は、 点線に示す位置までシフ 卜させることができ、 全体としてスムーズな動きを実現することができることか ら上述した画像の動きの不連続性を改善することが可能となる。 This makes it possible to shift each pixel of the field composing the frame to the position shown by the dotted line, thereby achieving smooth motion as a whole, thereby improving the above-described discontinuity of the motion of the image. It becomes possible.
上述した基準ブロック 1 0 1及び探索ブロック 1 0 3は、 単に画面を所定の画 素数の集合に分割されてなり、 これらのブロック 1 0 1 、 1 0 3内は、 画素が間 隙なく敷き詰められて構成されている。 このような基準ブロック 1 0 1及び探索 ブロック 1 0 3との間で上述の近似度を判定する場合には、 各プロック 1 0 1 、 1 0 3を構成する全ての画素につき差分絶対値を求め、 該差分絶対値の総和を演 算しなければならず、 回路規模が著しく増大してしまう。 The above-described reference block 101 and search block 103 are simply obtained by dividing the screen into a set of a predetermined number of pixels, and in these blocks 101 and 103, pixels are spread without gaps. It is configured. When determining the above-mentioned degree of approximation between the reference block 101 and the search block 103, an absolute difference value is calculated for all pixels constituting each block 101, 103. However, it is necessary to calculate the sum of the absolute values of the differences, which significantly increases the circuit scale.
テレシネ変換後倍速変換して生成した画像信号は、 1コマ 4フィールドで構成 されているため、 T V信号を倍速変換した 1コマ 2フィールドで構成されている 画像信号と比較して、 求められる動きベクトルのベクトル量は大きい (図 6 A中 の a l l、 頭 6 B中の b l l 、 b 1 2参照。 ) 。 このためテレシネ変換後の画像 信号を動き補正する場合には、 T V信号の場合と比較して探索範囲 1 0 4を広く
設定して探索ブロック 1 0 3を順次移動させなければならず、 膨大な差分絶対値 の演算量により回路規模はさらに増大してしまう。 The image signal generated by telecine conversion and double speed conversion is composed of 4 fields per frame, so the motion vector obtained by comparing with the image signal composed of 2 fields per frame obtained by converting the TV signal to double speed Is large (see all in Fig. 6A, bll in head 6B, b12). For this reason, when motion-correcting an image signal after telecine conversion, the search range 104 is wider than that of a TV signal. The search block 103 must be sequentially moved after setting, and the circuit scale is further increased due to the huge amount of calculation of the absolute difference value.
更に、 テレシネ変換後の画像信号と T V信号とが双方とも入力される場合にお いても、 上述した画像の動きの不連続性を効率よく解消する必要があるが、 実装 されるテレビジョン受像機の仕様を満たすべく、 いずれの信号が入力された場合 にも、 T V信号が入力された場合の演算量と同等とすることで回路規模の統一化 を図る必要がある。 発明の開示 本発明は、 上述したような従来の技術が有する問題点を解消することができる 新規な動きべクトル検出装置及び検出方法、 並びに動き補正装置及び動き補正方 法を提供することにある。 Further, even when both the image signal after the telecine conversion and the TV signal are input, it is necessary to efficiently eliminate the above-described discontinuity of the motion of the image. In order to satisfy the specifications, it is necessary to standardize the circuit scale by making the amount of operation equivalent to the TV signal input regardless of which signal is input. DISCLOSURE OF THE INVENTION The present invention is to provide a novel motion vector detecting device and method, and a motion correcting device and a motion correcting method that can solve the problems of the conventional technology as described above. .
本発明の他の目的は、 画質に与える影響を軽減しつつ、 差分絶対値の演算量を 軽減させることにより回路規模を縮小できる動きべクトル検出装置及び検出方法, 並びに動き補正装置及び動き補正方法を提供することにある。 Another object of the present invention is to provide a motion vector detecting apparatus and a detecting method, and a motion correcting apparatus and a motion correcting method capable of reducing the amount of calculation of the absolute difference value while reducing the influence on the image quality. Is to provide.
上述したような目的を達成するために提案される本発明に係る動きべクトル検 出装置及び検出方法は、 入力される参照フィールドから 1フレーム或いは 2フレ ーム前の基準フィ一ルドにおける基準画素を原点とする基準プロックと、 参照フ ィ一ルドを少なくとも縦 1画素おきに又はノ及び少なくとも横 1画素おきに移動 させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、 演算された差 分絶対値和が最小となる探索ブロックの画素位置と基準画素の画素位置との間で 動きべクトルを特定することにより、 求められる動きべクトルの精度を維持しつ つ演算量を軽減し、 ひいては回路規模を縮小する。 The motion vector detection device and detection method according to the present invention proposed to achieve the above-described object include a reference pixel in a reference field one frame or two frames before an input reference field. The sum of absolute differences of the pixel values is sequentially calculated between the reference block having the origin as the origin and the search block in which the reference field is moved at least every other pixel vertically or at least every other pixel horizontally, By specifying the motion vector between the pixel position of the search block and the pixel position of the reference pixel that minimizes the calculated sum of absolute differences, the amount of calculation while maintaining the required accuracy of the motion vector And reduce the circuit size.
本発明に係る動きべクトル検出装置は、 入力される参照フィールドから 1フレ —ム或いは 2フレーム前の基準フィールドの各画素につき、 ブロックマッチング 法により動きべクトルを検出する動きべクトル検出装置において、 基準フィ一ル ドにおける基準画素を原点とする基準ブロックを切り出し、 また参照フィールド における探索ブロックを少なくとも縦 1画素おきに又は/及び少なくとも横 1画
素おきに移動させて切り出すブロック切出手段と、 このブロック切出手段より切 り出した基準ブロック及び探索プロックとの間で画素値の差分絶対値和を順次演 算するべクトル演算手段と、 べクトル演算手段により演算された差分絶対値和が 最小となる探索プロックの画素位置と基準画素の画素位置との間で動きべクトル を特定するべクトル特定手段とを備える。 The motion vector detection device according to the present invention is a motion vector detection device that detects a motion vector by a block matching method for each pixel of a reference field one frame or two frames before an input reference field. A reference block starting from the reference pixel in the reference field is cut out, and a search block in the reference field is placed at least every other vertical pixel and / or at least one horizontal picture. Block extracting means for moving and cutting out every other; vector calculating means for sequentially calculating the sum of absolute differences of pixel values between a reference block and a search block cut out by the block extracting means; A vector specifying unit that specifies a motion vector between the pixel position of the search block and the pixel position of the reference pixel in which the sum of absolute differences calculated by the vector calculating unit is a minimum.
本発明に係る動きべクトル検出方法は、 入力される参照フィールドから 1フレ —ム或いは 2フレーム前の基準フィールドの各画素につき、 ブロックマッチング 法により動きベクトルを検出する動きべクトル検出方法において、 基準フィール ドにおける基準画素を原点とする基準プロックを切り出し、 また参照フィ一ルド における探索ブロックを少なくとも縦 1画素おきに又は/及び少なくとも横 1画 素おきに移動させて切り出し、 この切り出した基準ブロック及び探索プロックと の間で画素値の差分絶対値和を順次演算し、 演算した差分絶対値和が最小となる 探索ブロックの画素位置と基準画素の画素位置との間で動きべクトルを特定する - また、 本発明に係る動き補正装置及びその方法は、 入力される参照フィールド から 1フレーム或いは 2フレーム前の基準フィールドにおける基準画素を原点と する基準プロックと、 参照フィールドを少なくとも縦 1画素おきに又は/及び少 なくとも横 1画素おきに移動させた探索ブロックとの間で画素値の差分絶対値和 を順次演算することにより動きべクトルを検出し、 当該動きべクトルに基づき基 準フィ一ルドにおける基準画素の位置をシフトさせる。 The motion vector detection method according to the present invention is a motion vector detection method for detecting a motion vector by a block matching method for each pixel of a reference field one frame or two frames before an input reference field. A reference block having the reference pixel in the field as the origin is cut out, and the search block in the reference field is cut out by moving at least every other pixel vertically and / or at least every other pixel horizontally, and the cut out reference block and The sum of the absolute values of the pixel values is sequentially calculated between the search block and, and the motion vector is specified between the pixel position of the search block and the pixel position of the reference pixel where the calculated sum of the absolute differences is minimum- In addition, the motion compensation device and method according to the present invention may be configured such that one frame Or, the pixel value between the reference block whose origin is the reference pixel in the reference field two frames before, and the search block in which the reference field is moved at least every other pixel vertically and / or at least every other horizontal pixel The motion vector is detected by sequentially calculating the sum of the absolute values of the differences, and the position of the reference pixel in the reference field is shifted based on the motion vector.
本発明に係る動き補正装置は、 具体的に、 入力される参照フィールドから 2フ レーム前の基準フィ一ルドの各画素につき動き補正する動き補正装置において、 基準フィールドにおける基準画素を原点とする基準ブロックと、 参照フィールド を少なくとも縦 1画素おきに又は 及び少なくとも横 1画素おきに移動させた探 索ブロックとの間で画素値の差分絶対値和を順次演算し、 演算された差分絶対値 和が最小となる探索ブロックの画素位置と基準画素の画素位置との間で動きべク トルを特定するべクトル特定手段と、 べクトル特定手段により特定された動きべ クトルのべク トル方向へシフト量がべクトル量の範囲内となるように、 基準フィ —ルドにおける基準画素の位置をシフトさせる画素シフト手段とを備える。 More specifically, the motion compensation device according to the present invention is a motion compensation device that performs motion compensation for each pixel of a reference field two frames before a reference field to be input. The sum of the absolute differences of the pixel values is sequentially calculated between the block and the search block in which the reference field is moved at least every other pixel or at least every other pixel, and the calculated sum of the absolute differences is calculated. Vector specifying means for specifying the motion vector between the pixel position of the search block and the pixel position of the reference pixel, which is the minimum, and the amount of shift in the vector direction of the motion vector specified by the vector specifying means Pixel shift means for shifting the position of the reference pixel in the reference field so that the value falls within the range of the vector amount.
本発明に係る他の動き補正装置は、 入力される参照フィールドから 1フレーム
前の基準フィ一ルドの各画素につき動き補正する動き補正装置において、 基準フ ィ一ルドにおける基準画素を原点とする基準ブロックと、 参照フィールドを少な くとも縦 1画素おきに又は Z及び少なくとも横 1画素おきに移動させた探索プロ ックとの間で画素値の差分絶対値和を順次演算し、 演算された差分絶対値和が最 小となる探索プロックの画素位置と基準画素の画素位置との間で動きベクトルを 特定するべクトル特定手段と、 このべクトル特定手段により特定された動きべク トルのベクトル方向へ、 シフト量がベクトル量の範囲内となるように、 基準フィ —ルドにおける基準画素の位置をシフトさせる画素シフト手段とを備える。 Another motion compensating device according to the present invention uses one frame from an input reference field. In a motion compensator for motion compensating each pixel of a previous reference field, a reference block whose origin is the reference pixel in the reference field and a reference field at least every other vertical pixel or Z and at least horizontal The sum of the absolute values of the pixel values is sequentially calculated with the search block shifted every other pixel, and the pixel position of the search block and the pixel position of the reference pixel at which the calculated sum of the absolute differences is minimized A vector specifying means for specifying a motion vector between the reference field and a reference field such that a shift amount in the vector direction of the motion vector specified by the vector specifying means is within the range of the vector amount. And a pixel shifting means for shifting the position of the reference pixel.
本発明に係る更に他の動き補正装置は、 入力される参照フィ一ルドから 1フレ —ム前或いは 2フレーム前の基準フィ一ルドの各画素につき動き補正する動き補 正装置において、 入力される上記 1フレーム前或いは 2フレーム前の基準フィ一 ルドを切り換える切換手段と、 この切換手段により切り換えられた基準フィ一ル ドにおける基準画素を原点とする基準プロックと参照フィールドを少なくとも縦 1画素おきに又は/及び少なくとも横 1画素おきに移動させた探索ブロックとの 間で画素値の差分絶対値和を順次演算し、 演算された差分絶対値和が最小となる 探索ブロックの画素位置と基準画素の画素位置との間で動きべクトルを特定する べクトル特定手段と、 このべクトル特定手段により特定された動きべクトルのベ クトル方向へ、 シフト量がベクトル量の範囲内となるように、 基準フィールドに おける基準画素の位置をシフ卜させる画素シフト手段とを備える。 Still another motion compensating apparatus according to the present invention is a motion compensating apparatus which performs motion compensation for each pixel of a reference field one frame before or two frames before an input reference field. Switching means for switching the reference field one frame before or two frames before, and a reference block and a reference field whose origin is the reference pixel in the reference field switched by this switching means at least every other vertical pixel And / or sequentially calculate the sum of absolute differences of pixel values between the search block and the search block shifted at least every other horizontal pixel, and calculate the sum of the calculated absolute difference values of the pixels at the pixel position of the search block and the reference pixel. A vector specifying means for specifying a motion vector between pixel positions, and a vector in a vector direction of the motion vector specified by the vector specifying means. As bets amount is in the range of a vector quantity, the position of the reference pixels definitive based field and a pixel shifting means for shifting Bok.
本発明に係る動き補正方法は、 入力される参照フィールドから.2フレーム前の 基準フィールドの各画素につき動き補正する動き補正方法において、 基準フィ一 ルドにおける基準画素を原点とする基準プロックと、 参照フィールドを少なくと も縦 1画素おきに又は Z及び少なくとも横 1画素おきに移動させた探索ブロック との間で画素値の差分絶対値和を順次演算し、 演算した差分絶対値和が最小とな る探索ブロックの画素位置と基準画素の画素位置との間で動きべクトルを特定し. 特定した上記動きべクトルのべクトル方向へ、 シフト量がべクトル量の範囲内と なるように、 基準フィ一ルドにおける基準画素の位置をシフトさせる。 A motion compensation method according to the present invention is a motion compensation method for performing motion compensation for each pixel of a reference field two frames before an input reference field, comprising: a reference block having a reference pixel in a reference field as an origin; The sum of the absolute differences of the pixel values is sequentially calculated between the search block in which the field is moved at least every other pixel or at least every Z and at least every other horizontal pixel, and the calculated sum of the absolute differences is minimized. The motion vector is specified between the pixel position of the search block to be searched and the pixel position of the reference pixel. The reference is set so that the shift amount in the vector direction of the specified motion vector is within the range of the vector amount. Shift the position of the reference pixel in the field.
本発明に係る他の動き補正方法は、 入力される参照フィールドから 1フレーム 前の基準フィールドの各画素につき動き補正する動き補正方法において、 基準フ
ィールドから基準画素を原点とする基準ブロックと参照フィールドを少なくとも 縦 1画素おきに又はノ及び少なくとも横 1画素おきに移動させた探索ブロックと の間で画素値の差分絶対値和を順次演算し、 演算した差分絶対値和が最小となる 探索プロックの画素位置と上記基準画素の画素位置との間で動きべクトルを特定 し、 この特定した上記動きベクトルのベクトル方向へ、 シフト量が上記ベクトル 量の範囲内となるように、 基準フィールドにおける基準画素の位置をシフトさせ る。 Another motion compensation method according to the present invention is a motion compensation method for performing motion compensation for each pixel of a reference field one frame before a reference field to be inputted. The sum of the absolute differences of the pixel values is sequentially calculated between the reference block whose origin is the reference pixel from the field and the search block in which the reference field is moved at least every other pixel vertically or at least every other pixel horizontally, A motion vector is specified between the pixel position of the search block and the pixel position of the reference pixel, at which the calculated sum of absolute differences is minimized, and the shift amount in the vector direction of the specified motion vector is the vector amount. The position of the reference pixel in the reference field is shifted so as to fall within the range.
本発明に係る更に他の動き補正方法は、 入力される参照フィールドから 1フレ —ム前或いは 2フレーム前の基準フィ一ルドの各画素につき、 動き補正する動き 補正方法において、 入力される 1フレーム前或いは 2フレーム前の基準フィ一ル ドを切り換え、 切り換えた基準フィールドにおける基準画素を原点とする基準ブ ロックと上記参照フィールドを少なくとも縦 1画素おきに又は/及び少なくとも 横 1画素おきに移動させた探索プロックとの間で画素値の差分絶対値和を順次演 算し、 演算したされた差分絶対値和が最小となる探索ブロックの画素位置と基準 画素の画素位置との間で動きべクトルを特定し、 この特定した動きべクトルのベ クトル方向へ、 シフト量が上記ベクトル量の範囲内となるように、 基準フィ一ル ドにおける基準画素の位置をシフトさせる。 Still another motion compensation method according to the present invention is a motion compensation method for performing motion compensation for each pixel of a reference field one frame before or two frames before an input reference field. The reference field of the previous or two frames before is switched, and the reference block having the reference pixel as the origin in the switched reference field and the reference field are moved at least every other pixel vertically and / or at least every other pixel horizontally. The sum of the absolute values of the pixel values is sequentially calculated with the search block, and the motion vector between the pixel position of the search block where the calculated sum of the absolute differences is the minimum and the pixel position of the reference pixel is calculated. In the reference field so that the shift amount is within the range of the vector amount in the vector direction of the specified motion vector. Shifting the position of the original.
本発明の更に他の目的、 本発明によって得られる具体的な利点は、 以下におい て図面を参照して説明される実施の形態の説明から一層明らかにされるであろう < 図面の簡単な説明 図 1は、 フィ一ルド周波数倍速方式を適用したフィ一ルド倍速変換回路のプロ ック図である。 Still other objects of the present invention and specific advantages obtained by the present invention will be more apparent from the description of the embodiments described below with reference to the drawings. FIG. 1 is a block diagram of a field double speed conversion circuit to which the field frequency double speed method is applied.
図 2 A及ぴ図 2 Bは、 倍速変換前後の各フィールドと画素位置の関係を示した 図である。 2A and 2B are diagrams showing the relationship between each field and the pixel position before and after the double-speed conversion.
図 3 A及び図 3 Bは、 テレシネ変換信号が入力される場合において、 水平方向 へ画像が移動する場合における各フィ一ルドと画像位置の関係を示した図である < 図 4 A及び図 4 Bは、 T V信号が入力される場合において、 水平方向へ画像が
移動するときの各フィールドと画像位置の関係を示した図である。 FIGS. 3A and 3B are diagrams showing the relationship between each field and the image position when the image moves in the horizontal direction when the telecine conversion signal is input <FIG. 4A and FIG. B means that when a TV signal is input, the image FIG. 4 is a diagram illustrating a relationship between each field and an image position when moving.
図 5は、 従来のブロックマッチング法について説明するための図である。 図 6 A及び図 6 Bは、 テレシネ変換信号及び T V信号につき動きべクトルを求 める例を示した図である。 FIG. 5 is a diagram for explaining a conventional block matching method. FIG. 6A and FIG. 6B are diagrams showing an example of obtaining a motion vector for a telecine conversion signal and a TV signal.
図 7は、 本発明に係る動き補正装置を示すプロック図である。 FIG. 7 is a block diagram showing a motion correction device according to the present invention.
図 8 A及び図 8 Bは、 フィールド倍速変換回路における倍速変換前後の各フィ ールドと画素位置の関係を示した図である。 8A and 8B are diagrams showing the relationship between each field and the pixel position before and after the double speed conversion in the field double speed conversion circuit.
図 9は、 T V信号において水平方向へ画像が移動する場合における各フィ一ル ドと画像位置の関係を示した図である。 FIG. 9 is a diagram showing the relationship between each field and the image position when the image moves in the horizontal direction in the TV signal.
図 1 0 A及び図 1 0 Bは、 動きベクトル検出部において、 T V信号が入力され た場合の動作を説明するための図である。 FIGS. 10A and 10B are diagrams for explaining an operation when a TV signal is input in the motion vector detection unit.
図 1 1は、 画像シフト部において、 入力された T V信号につき画素位置をシフ トさせる例を示した図である。 FIG. 11 is a diagram showing an example in which the pixel position is shifted with respect to the input TV signal in the image shift unit.
図 1 2は、 画像シフト部において、 第 1のフィールドのシフト量を 0とし、 第 2のフィールドのシフト量を検出した動きべクトルのべクトル量の 1 Z 2倍とし た例を示した図である。 Fig. 12 shows an example where the shift amount of the first field is set to 0 and the shift amount of the second field is set to 1Z2 times the vector amount of the detected motion vector in the image shift unit. It is.
図 1 3は、 テレシネ変換信号において水平方向へ画像が移動する場合における 各フィールドと画像位置の関係を示した図である。 FIG. 13 is a diagram showing the relationship between each field and the image position when the image moves in the horizontal direction in the telecine conversion signal.
図 1 4 A及び図 1 4 Bは、 動きベクトル検出部において、 テレシネ変換信号が 入力された場合の動作を説明するための図である。 FIGS. 14A and 14B are diagrams for explaining the operation when a telecine conversion signal is input to the motion vector detection unit.
図 1 5は、 画像シフト部において、 入力されたテレシネ変換信号につき画素位 置をシフ卜させる例を示した図である。 FIG. 15 is a diagram illustrating an example in which the image shift unit shifts the pixel position of the input telecine conversion signal.
図 1 6は、 画像シフト部において画素位置をシフトさせた結果、 画像の動きを スムーズにさせた例を示した図である。 FIG. 16 is a diagram showing an example in which the pixel position is shifted in the image shift unit, so that the image moves smoothly.
図 1 7は、 画像シフト部において、 第 1のフィ一ルドのシフト量を 0とし、 以 降動きベクトルのべクトル量の 1 / 4倍ずつ増加させる例を示した図である。 図 1 8 A及び図 1 8 Bは、 それぞれ縦横 1画素おきに間引いて構成した各プロ ックに基づき動きべクトルを検出する例を示した図である。 FIG. 17 is a diagram showing an example in which the shift amount of the first field is set to 0 in the image shift unit, and thereafter, the amount of the motion vector is increased by 倍 times. FIG. 18A and FIG. 18B are diagrams showing an example of detecting a motion vector based on each block formed by thinning out every vertical and horizontal pixels.
図 1 9 A及び図 1 9 Bは、 少なくとも縦 1画素おきに又は/及び少なくとも横
1画素おきに探索プロック 5 3を移動させる例を示した図である。 発明を実施するための最良の形態 以下、 本発明を適用した動き補正装置及びその方法、 並びに動きベクトル検出 装置及び検出方法について図面を参照して詳細に説明する。 Figures 19A and 19B show at least every other pixel vertically and / or at least FIG. 9 is a diagram showing an example in which a search block 53 is moved every other pixel. BEST MODE FOR CARRYING OUT THE INVENTION Hereinafter, a motion correction device and method thereof, and a motion vector detection device and detection method to which the present invention is applied will be described in detail with reference to the drawings.
本発明に係る動き補正装置 1は、 例えば P A L (Phase Al ternat ion by L ine)方 式によるテレビジョン受像機に内蔵され、 図 7に示すように、 第 1の画像メモリ 1 1と、 第 2の画像メモリ 1 2と、 スィッチ 1 3と、 動きべクトル検出部 1 4と、 画像シフト部 1 5とを備えている。 The motion compensation apparatus 1 according to the present invention is built in a television receiver of, for example, a PAL (Phase Alternation by Line) method, and as shown in FIG. 7, a first image memory 11 and a second An image memory 12, a switch 13, a motion vector detection unit 14, and an image shift unit 15 are provided.
第 1の画像メモリ 1 1は、 テレビジョン信号を倍速変換することにより生成さ れた 1コマが 2フィ一ルドで構成されたィンタレース画像信号 (以下 T V信号と 称する) や、 テレシネ変換した画像を倍速変換することにより生成された 1コマ が 4フィールドで構成されたイン夕レース画像信号 (以下テレシネ変換信号と称 する) が順次供給される。 The first image memory 11 stores an interlaced image signal (hereinafter referred to as a TV signal) in which one frame generated by converting a television signal at double speed into two fields, or an image obtained by telecine conversion. An in-lace image signal (hereinafter referred to as a telecine conversion signal) in which one frame generated by double-speed conversion is composed of four fields is sequentially supplied.
第 1の画像メモリ 1 1は、 供給された画像信号を各フィールド単位で 1フレー ム分格納する。 すなわち第 1の画像メモリ 1 1から出力される画像信号は、 この 第 1の画像メモリ 1 1に供給される画像信号より 1フレーム前になる。 The first image memory 11 stores the supplied image signal for one frame in each field unit. That is, the image signal output from the first image memory 11 is one frame before the image signal supplied to the first image memory 11.
第 2の画像メモリ 1 2は、 第 1の画像メモリ 1 1と同様の内部構成を有し、 第 1の画像メモリ 1 1から供給された画像信号を、 各フィールド単位で、 1フレー ム分格納する。 すなわち、 第 2の画像メモリ 1 2から出力される画像信号は、 こ の第 2の画像メモリ 1 2に供給される画像信号より 1フレーム前になり、 第 1の 画像メモリ 1 1に供給される画像信号より 2フレーム前になる。 この第 2の画像 メモリ 1 2に格納された画像信号は、 画像シフト部 1 5並びに動きベクトル検出 部 1 4に供給される。 以下、 第 2の画像メモリ 1 2から動きべクトル検出部 1 4 へ送信される画像信号を基準フィールド 3 0と称する。 The second image memory 12 has the same internal configuration as the first image memory 11, and stores the image signal supplied from the first image memory 11 for each field in units of one frame. I do. That is, the image signal output from the second image memory 12 is one frame earlier than the image signal supplied to the second image memory 12 and is supplied to the first image memory 11 Two frames before the image signal. The image signal stored in the second image memory 12 is supplied to an image shift unit 15 and a motion vector detection unit 14. Hereinafter, the image signal transmitted from the second image memory 12 to the motion vector detection unit 14 is referred to as a reference field 30.
スィッチ 1 3は、 第 1の画像メモリ 1 1に供給される画像信号と、 第 1の画像 メモリ 1 1から出力される画像信号を順次切り換え、 これを動きベクトル検出部 1 4へ送信する。 以下、 このスィッチ 1 3から動きべクトル検出部 1 4へ送信さ
れる画像信号を参照フィールド 4 0と称する。 このスィッチ 1 3は、 T V信号が 入力された場合には、 図 7中" ノーマル" (N ) 側に切り換えられ、 動きべクト ル検出部 1 4へ送信される参照フィールド 4 0は、 基準フィールド 3 0よりも 1 フレーム後となる。 一方、 このスィッチ部 1 3は、 テレシネ変換信号が入力され た場合に図 7中" フィルム" (F ) 側に切り換えられ、 動きベクトル検出部 1 4 へ送信される参照フィ一ルド 4 0は、 基準フィ一ルド 3 0よりも 2フレーム後と なる。 The switch 13 sequentially switches between the image signal supplied to the first image memory 11 and the image signal output from the first image memory 11, and transmits this to the motion vector detection unit 14. Hereinafter, this switch 13 sends a signal to the motion vector detector 14. The image signal to be referred to is referred to as a reference field 40. When a TV signal is input, the switch 13 is switched to the “Normal” (N) side in FIG. 7, and the reference field 40 transmitted to the motion vector detector 14 is a reference field. One frame after 30. On the other hand, when the telecine conversion signal is input, the switch section 13 is switched to the “film” (F) side in FIG. 7, and the reference field 40 transmitted to the motion vector detection section 14 is Two frames after the reference field 30.
動きべクトル検出部 1 4は、 供給される基準フィールド 3 0と参照フィールド 4 0に基づいて動きべクトルをブロック毎或いは画素毎に検出し、 検出した動き べクトル或いは当該動きべクトルに基づくシフト量、 シフト方向に関する情報を 画像シフト部 1 5へ出力する。 The motion vector detector 14 detects the motion vector for each block or pixel based on the supplied reference field 30 and reference field 40, and detects the detected motion vector or shift based on the motion vector. The information about the amount and the shift direction is output to the image shift unit 15.
画像シフト部 1 5は、 動きべクトル検出部 1 4が検出した動きべクトル或いは、 当該動きべクトルに基づくシフト量等の情報を各ブロック毎或いは各画素毎に受 信する。 画像シフト部 1 5は、 第 2の画像メモリ 1 2から供給された画像信号に おける各画素位置或いは各ブロックを、 受信した動きべクトルのべクトル量の範 囲内でベクトル方向へシフトさせる。 この画像シフト部 1 5は、 ベクトル方向へ シフトさせた画像信号を C R T 2へ出力する。 C R T 2は、 入力された画像信号 を画面上に表示する。 C R T 2における画像信号の水平、 垂直方向の偏向は、 図 示しない水平垂直偏向回路に基づき制御される場合もある。 The image shift unit 15 receives the motion vector detected by the motion vector detection unit 14 or information such as a shift amount based on the motion vector for each block or each pixel. The image shift unit 15 shifts each pixel position or each block in the image signal supplied from the second image memory 12 in the vector direction within the range of the vector amount of the received motion vector. The image shift unit 15 outputs the image signal shifted in the vector direction to CRT2. The CRT 2 displays the input image signal on the screen. The horizontal and vertical deflection of the image signal in the CRT2 may be controlled based on a horizontal / vertical deflection circuit (not shown).
本発明に係る動き補正装置 1には、 画像信号のフィールド周波数を倍速変換す るフィールド倍速変換回路 3が集積される場合もある。 フィールド倍速変換回路 3は、 解像度を向上させることにより、 面フリツ力妨害を防止すべく集積される ものであり、 例えば P A L方式において補間等の処理を行うことにより、 フィ一 ルド周波数が 5 0 H zの画像信号を 2倍の 1 0 0 H zの画像信号に変換する。 フィールド周波数変換回路 3は、 図 7に示すように、 テレビジョン受像機に接 続された入力端子 3 1と、 倍速変換部 3 2と、 フレームメモリ 3 3とを備える。 倍速変換部 3 2は、 テレビジョン受像機から入力端子 3 1を介して入力された、 テレシネ変換後の画像信号を、 フレームメモリ 3 3へ書き込む。 また、 この倍速 変換部 3 2は、 フレームメモリ 3 3へ書き込んだ画像信号を、 書込み時の 2倍の
速度で読み出す。 これにより、 例えば、 P A L方式の 5 0フィールド/秒の画像 信号の周波数を 2倍に変換し、 1 0 0フィ一ルド /秒の画像信号を生成すること ができる。 倍速変換部 3 2は、 この倍速変換した画像信号を動き補正装置 1へ供 給する。 The motion correction device 1 according to the present invention may integrate a field double-speed conversion circuit 3 that double-converts the field frequency of an image signal. The field double speed conversion circuit 3 is integrated to improve the resolution and prevent the disturbance of the plane flit force. For example, by performing processing such as interpolation in the PAL method, the field frequency is reduced to 50H. The image signal of z is converted into an image signal of 100 Hz twice. As shown in FIG. 7, the field frequency conversion circuit 3 includes an input terminal 31 connected to a television receiver, a double speed conversion unit 32, and a frame memory 33. The double-speed converter 32 writes the telecine-converted image signal input from the television receiver via the input terminal 31 to the frame memory 33. The double-speed conversion unit 32 converts the image signal written in the frame memory 33 into a signal twice as large as that in the writing. Read at speed. As a result, for example, the frequency of an image signal of 50 fields / second in the PAL system can be doubled, and an image signal of 100 fields / second can be generated. The double-speed conversion unit 32 supplies the double-speed-converted image signal to the motion correction device 1.
図 8 A及び図 8 Bは、 このフィールド倍速変換回路 3における倍速変換前後の 各フィールドと画素位置の関係を示している。 ここで横軸は時間、 縦軸は画素の 垂直方向の位置を示す。 8A and 8B show the relationship between each field and the pixel position before and after the double speed conversion in the field double speed conversion circuit 3. FIG. Here, the horizontal axis indicates time, and the vertical axis indicates the vertical position of the pixel.
倍速変換前の画像信号は、 P A L方式の 5 0フィールド/秒のィンタレ一ス画 像信号であり、 図 8 Aに示すように、 2フィールドで 1つのコマを形成する。 一方、 倍速変換後の画像信号は、 1 0 0フィールド //秒のイン夕レース画像信 号であるため、 図 8 Bに示すように、 フィールド t 1とフィールド t 2の間に、 新規に 2枚のフィールド t 2、 t ' 1を生成する。 そして、 フィールド t 2と フィールド t 3の間では、 フィールドの生成を行わず、 フィールド t 3とフィ一 ルド t 4の間に、 新規に 2枚のフィールド t ' 4、 t ' 3を生成する。 すなわち、 画像信号は、 例えばテレシネ変換信号の場合、 4フィールドで 1つのコマを形成 することとなる。 The image signal before the double-speed conversion is a PAL-type interlace image signal of 50 fields / sec. As shown in FIG. 8A, one frame is formed by two fields. On the other hand, since the image signal after double-speed conversion is an in-race image signal of 100 fields // second, as shown in FIG. 8B, a new signal between field t1 and field t2 is newly added. Generate two fields t 2, t '1. Then, no field is generated between the field t2 and the field t3, and two new fields t'4 and t'3 are generated between the field t3 and the field t4. That is, in the case of an image signal, for example, a telecine conversion signal, one frame is formed in four fields.
この新規に生成したフィールド t ' 1、 t ' 2 , · · ·は、 それぞれの画素値 を、 各画素の周囲 3画素の中間値として求めてもよい。 この新規に生成したフィ —ルド t ' 1、 t ' 2、 ■ · ·は、 それぞれフィールド t l、 t 2、 · · と同じ 内容となる。 これにより、 例えばテレシネ変換信号の場合、 4フィールドで 1つ のコマを形成することとなり、 単位時間当たりの画面枚数を増やすことで解像度 を向上させることができ、 面フリッカ妨害を抑制することが可能となる。 In the newly generated fields t'1, t'2,..., Each pixel value may be obtained as an intermediate value of three pixels around each pixel. The newly generated fields t'1, t'2,... Have the same contents as the fields tl, t2,. Thus, for example, in the case of a telecine conversion signal, one frame is formed in four fields, and the resolution can be improved by increasing the number of screens per unit time, and it is possible to suppress surface flicker interference Becomes
次に、 本発明を適用した動き補正装置 1の動作について、 先ず T V信号が入力 された場合を例にとり説明をする。 Next, the operation of the motion compensator 1 to which the present invention is applied will be described, first taking an example where a TV signal is input.
本発明に係る動き補正装置 1は、 フィールド倍速変換回路 3から、 テレビジョ ン信号を倍速変換することにより生成された 1コマが 2フィールドで構成された T V信号が順次供給される。 この T V信号の水平方向へ画像が移動する場合にお ける各フィールドと画像位置の関係を図 9に示す。 この図 9において、 横軸は画 像の水平方向における位置、 縦軸は時間を示している。 フィールド周波数倍速方
式により倍速変換された T V信号は、 同一のコマを構成するフィールド t 1、 t ' 2において、 同一位置に同一の画像が表示される。 同様に、 同一のコマを構成 するフィールド t ' l、 t 2において、 同一位置に同一の画像が表示される。 スィッチ 1 3は、 かかる T V信号を受けて、 図 7中" ノーマル" (N ) 側に切 り換えられ、 基準フィールド 3 0と、 当該基準フィールド 3 0より 1フレーム後 の参照フィールド 4 0が動きべクトル検出部 1 4へ供給される。 In the motion compensation device 1 according to the present invention, a field double speed conversion circuit 3 sequentially supplies a TV signal in which one frame generated by performing double speed conversion of a television signal is composed of two fields. Figure 9 shows the relationship between each field and the image position when the image moves in the horizontal direction of the TV signal. In FIG. 9, the horizontal axis represents the position of the image in the horizontal direction, and the vertical axis represents time. Field frequency double speed method The same image is displayed at the same position in the fields t 1 and t ′ 2 constituting the same frame in the TV signal that has been double-speed converted by the formula. Similarly, the same image is displayed at the same position in the fields t'l and t2 constituting the same frame. Switch 13 receives the TV signal and switches to the “Normal” (N) side in FIG. 7, and the reference field 30 and the reference field 40 one frame after the reference field 30 move. It is supplied to the vector detector 14.
動きべクトル検出部 1 4は、 基準フィールド 3 0と参照フィ一ルド 4 0との間 で、 例えばブロックマッチング法に基づき、 各画素又は各ブロック単位で動きべ クトルを検出する。 The motion vector detection unit 14 detects a motion vector between the reference field 30 and the reference field 40 for each pixel or each block based on, for example, a block matching method.
動きべクトル検出部 1 4は、 図 1 O Aに示すように基準フィールド 3 0を、 基 準画素 5 8を中心とした m X n画素からなる基準プロック 5 1に分割し、 当該基 準ブロック 5 1と最も高い近似度を示すブロックを、 図 1 0 Bに示す参照フィ一 ルド 4 0における探索範囲 5 4内を移動する探索ブロック 5 3から検出する。 探 索ブロック 5 3は、 中心画素 5 9を中心とし、 基準ブロック 5 1と同じサイズで ある m X n画素からなり、 この探索ブロック 5 3が移動する探索範囲 5 4は、 M X N画素からなる。 動きベクトル検出部 1 4は、 基準ブロック 5 1と最も高い近 似度を示す探索ブロック 5 3の中心画素 5 9との間で動きべクトルを特定する。 上述の近似度の判定は、 先ず探索ブロック 5 3の各画素値について、 基準プロ ック 5 1の対応する画素値との差分をとり、 その差によって示される評価値、 例 えば差分絶対値和を求める。 次に、 上述の判定操作を全ての探索ブロック 5 3に ついて行い、 それぞれ求めた評価値、 すなわち各差分絶対値和から最小のものを 求める。 この最小の差分絶対値和を与える探索ブロック 5 3を、 基準ブロック 5 1と最も高い近似度を示すブロックとし、 かかるブロックの画素位置に応じて動 きべクトルを特定する。 The motion vector detector 14 divides the reference field 30 into a reference block 51 composed of m × n pixels centered on a reference pixel 58 as shown in FIG. The block having the highest degree of approximation of 1 is detected from the search block 53 moving in the search range 54 in the reference field 40 shown in FIG. 10B. The search block 53 is composed of m × n pixels having the same size as the reference block 51 centered on the center pixel 59, and the search range 54 in which the search block 53 moves is composed of M × N pixels. The motion vector detection unit 14 specifies a motion vector between the reference block 51 and the center pixel 59 of the search block 53 having the highest similarity. The above-described determination of the degree of approximation is performed by first taking the difference between each pixel value of the search block 53 and the corresponding pixel value of the reference block 51, and evaluating the difference indicated by the difference, for example, the sum of absolute differences. Ask for. Next, the above-described determination operation is performed for all the search blocks 53, and the evaluation value obtained for each of the search blocks 53, that is, the smallest one from the sum of absolute differences is obtained. The search block 53 that gives the minimum sum of absolute differences is a block showing the highest similarity to the reference block 51, and a moving vector is specified according to the pixel position of the block.
ちなみに、 探索プロック 5 3は、 中心画素 5 9が図 1 0 Bに示される探索範囲 5 4を構成する画素全て走査するように移動する。 換言すれば、 探索ブロック 5 3は、 探索範囲 5 4を 1画素ずつずれるようにして移動していく。 これにより、 求められる動きべクトルの精度を高めることができる。 By the way, the search block 53 moves so that the center pixel 59 scans all the pixels constituting the search range 54 shown in FIG. 10B. In other words, the search block 53 moves the search range 54 so as to be shifted by one pixel. As a result, the required accuracy of the motion vector can be improved.
図 9に示す例の場合には、 動きベクトルのベクトル方向は、 基準フィールド 3
0を基準としたとき図中右方向となり、 参照フィ一ルドが t ' 1のときにべクト ル量は Cとなる。 同様に、 参照フィールドが t 3の場合には、 基準フィールドは、 t ' 1となり、 動きベクトルのベクトル量は Dとなる。 この手順を繰り返すこと により、 基準フィ一ルド 3 0を基準とした動きべクトルのベクトル方向とべクト ル量を順次求めることができる。 動きベクトル検出部 1 4は、 この求めた動きべ クトルのべクトル量とべクトル方向とを画像シフト部 1 5へ順次送信する。 In the case of the example shown in FIG. 9, the vector direction of the motion vector is the reference field 3 When 0 is used as the reference, the direction becomes rightward in the figure. When the reference field is t'1, the vector amount becomes C. Similarly, when the reference field is t3, the reference field is t'1, and the vector amount of the motion vector is D. By repeating this procedure, the vector direction and vector amount of the motion vector based on the reference field 30 can be sequentially obtained. The motion vector detection unit 14 sequentially transmits the obtained vector amount and vector direction of the motion vector to the image shift unit 15.
画像シフト部 1 5は、 第 1の画像メモリ 1 2から供給される画像信号を、 各フ ィールドの前後関係に基づき、 検出画素の位置をべクトル方向へシフトさせる。 ここでコマを構成する 2フィールドのうち、 最初に入力されるフィールドを第 1 のフィールドとし、 第 1のフィールドの次に入力されるフィールドを第 2のフィ 一ルドとしたときに、 各フィールドのシフト量は、 図 1 1に示すように、 第 1の フィールドぐ第 2のフィールド、 となるように順次増大させる。 なお、 各フィ一 ルドが第 1のフィールド又は第 2のフィ一ルドのいずれに該当するか判別するた めには、 2フィールド単位でのシーケンスを検出する必要があるが、 フィールド 倍速変換回路 3により倍速変換する際に該当するフィールドは判明するため、 こ のようなシーケンス検出の必要性は無い。 The image shift unit 15 shifts the position of the detection pixel in the vector direction of the image signal supplied from the first image memory 12 based on the context of each field. Here, of the two fields composing the frame, the first field to be entered is the first field, and the second field to be entered after the first field is the second field. As shown in FIG. 11, the shift amount is sequentially increased so as to be equal to the first field and the second field. In order to determine whether each field corresponds to the first field or the second field, it is necessary to detect a sequence in units of two fields. Therefore, there is no need to detect such a sequence because the corresponding field is identified when performing double-speed conversion.
上述のように画像をシフトさせると、 図 1 1の点線で示すことができるが、 画 像をシフ卜させる前と比べて、 第 2のフィールドから第 1のフィールドへ移行す る際に画像を大きく移動させることなく、 画像の動きをスムーズにすることがで さる。 When the image is shifted as described above, it can be indicated by the dotted line in FIG. 11, but the image is shifted from the second field to the first field as compared with before the image is shifted. This makes it easier to move the image without making large movements.
このような構成からなる動き補正装置 1に、 フィールド倍速変換回路 3を集積 化してテレビジョン受像機に内蔵することにより、 T V信号を倍速変換した画像 において、 動きの不連続感を解消することができる。 すなわち、 フィールド倍速 変換回路 3により解像度を向上させ、 面フリッカ妨害を抑制した各画像の動きを, 更にスムーズにすることにより、 相乗的に画質を向上させることができる。 By integrating the field double speed conversion circuit 3 into the motion compensation device 1 having such a configuration and incorporating it in the television receiver, it is possible to eliminate the discontinuity of motion in the image obtained by converting the TV signal at double speed. it can. In other words, the image quality can be synergistically improved by improving the resolution by the field double speed conversion circuit 3 and smoothing the movement of each image in which the surface flicker interference is suppressed.
本発明に係る動き補正装置 1は、 単独で実施する場合のみならず、 フィールド 倍速変換回路 3と一体で実施することで顕著な効果が得られる。 フィールド倍速 変換回路が既に集積化されているテレビジョン受像機に対しても、 後からこの動 き補正装置 1を内蔵することにより、 バ一ジョンアップを容易に実現することが
でさる。 A remarkable effect can be obtained by implementing the motion compensation device 1 according to the present invention not only when implemented alone, but also when implemented integrally with the field double speed conversion circuit 3. Even a television receiver having a field double-speed conversion circuit already integrated therein can be easily upgraded by incorporating the motion compensation device 1 later. Monkey
なお、 画像シフト部 1 5における画像のシフト量は、 例えば図 1 2に示すよう に、 第 1のフィ一ルドのシフト量を 0とし、 第 2のフィールドのシフト量を検出 した動きべクトルのべクトル量の 1ノ2倍にすることも可能である。 図 1 2の場 合には、 第 1のフィールドのシフト量を 0とし、 ベクトル量が Cの場合には、 第 2のフィールドを C X 1 / 2だけシフトさせる。 ベクトル量が Dの場合には、 第 2のフィールドを D X 1 Z 2だけシフトさせる。 1コマが 2フィールドで構成さ れているため、 ベクトル量の 1 / 2倍ずつ増加させることにより、 シフト量を時 間に対して線形に増加させることが可能となり、 画像の動きを更にスムーズにす ることができる。 The shift amount of the image in the image shift unit 15 is, for example, as shown in FIG. 12, the shift amount of the first field is set to 0, and the shift amount of the motion vector detected by It is also possible to make the amount of vector 1 to 2 times. In the case of FIG. 12, the shift amount of the first field is set to 0, and when the vector amount is C, the second field is shifted by C X 1/2. If the vector quantity is D, the second field is shifted by D X 1 Z 2. Since one frame is composed of two fields, it is possible to increase the shift amount linearly with time by increasing the vector amount by 1/2 times, making the image movement even smoother. can do.
次に、 本発明を適用した動き補正装置 1の動作について、 テレシネ変換信号が 入力された場合を例にとり説明をする。 Next, the operation of the motion compensator 1 to which the present invention is applied will be described using a case where a telecine conversion signal is input as an example.
動き補正装置 1は、 フィールド倍速変換回路 3から、 テレシネ変換した画像を 倍速変換することにより生成された 1コマが 4フィ一ルドで構成されるテレシネ 変換信号が順次供給される。 このテレシネ変換信号の水平方向へ画像が移動する 場合における各フィールドと画像位置の関係を図 1 3に示す。 この図 1 3におい て、 横軸は画像の水平方向における位置、 縦軸は時間を示している。 フィールド 周波数変換方式により倍速変換されたテレシネ変換信号は、 フィールド t l 、 t ' 2 、 t ' 1 、 t 2の順で、 一定の時間間隔で第 1の画像メモリ 1 1に供給され、 画像は全て同一の位置に表示される。 フィールド t 3に移行すると画像が水平方 向 (右方向) に移り、 フィールド t 3、 t ' 4、 t ' 3、 t 4の順で第 1の画像 メモリ 1 1に供給される。 The motion compensation device 1 sequentially receives from the field double speed conversion circuit 3 a telecine conversion signal in which one frame generated by performing double speed conversion of the telecine-converted image is composed of four fields. Figure 13 shows the relationship between each field and the image position when the image moves in the horizontal direction of the telecine conversion signal. In FIG. 13, the horizontal axis represents the position of the image in the horizontal direction, and the vertical axis represents time. The telecine conversion signal double-speed converted by the field frequency conversion method is supplied to the first image memory 11 at fixed time intervals in the order of fields tl, t'2, t'1, and t2, and all the images are It is displayed at the same position. When shifting to the field t3, the image shifts in the horizontal direction (rightward), and is supplied to the first image memory 11 in the order of the fields t3, t'4, t'3, and t4.
スィッチ 1 3は、 かかるテレシネ変換信号を受けて、 図 7中の" フィルム" ( F ) 側に切り換わり、 基準フィ一ルド 3 0と、 当該基準フィ一ルド 3 0より 2 フレーム後の参照フィールド 4 0が動きべクトル検出部 1 4へ供給される。 The switch 13 receives the telecine conversion signal and switches to the “film” (F) side in FIG. 7, and sets the reference field 30 and the reference field two frames after the reference field 30. 40 is supplied to the motion vector detection unit 14.
動きべクトル検出部 1 4は、 基準フィールド 3 0と参照フィールド 4 0との間 で、 例えばブロックマッチング法に基づき、 各画素又は各ブロック単位で動きべ クトルを検出する。 The motion vector detection unit 14 detects a motion vector between the reference field 30 and the reference field 40 for each pixel or each block based on, for example, a block matching method.
動きベクトル検出部 1 4は、 図 1 4 Aに示すように基準フィールド 3 0を、 基
準画素 5 8を中心とした m X n画素からなる基準ブロック 5 1に分割し、 当該基 準ブロック 5 1と最も高い近似度を示すブロックを、 図 1 4 Bに示す参照フィ一 ルド 4 0における探索範囲 5 4内を移動する探索ブロック 5 3から検出する。 探 索ブロック 5 3は、 中心画素 5 9を中心とし、 基準ブロック 5 1と同じサイズで ある m X n画素からなり、 またこの探索ブロック 5 3が移動する探索範囲 5 4は、 2 M X 2 N画素からなり、 T V信号の探索範囲 5 4と比較して縦横 2倍、 面積は 4倍とする。 The motion vector detection unit 14 uses a reference field 30 as shown in FIG. The reference block 51 is divided into a reference block 51 composed of m × n pixels centered on the reference pixel 58, and a block having the highest similarity to the reference block 51 is referred to as a reference field 40 shown in FIG. 14B. Are detected from the search block 53 moving in the search range 54 in. The search block 53 is composed of m × n pixels of the same size as the reference block 51, centered on the center pixel 59, and the search range 54 in which the search block 53 moves is 2 MX 2 N It is composed of pixels and is twice as long and wide in area and four times as large as the TV signal search range 54.
すなわち、 テレシネ変換信号は、 1コマ 4フィールドで構成されているため、 1コマ 2フィ一ルドで構成されている T V信号と比較して、 求められる動きべク トルのベクトル量は大きい。 例えば T V信号における画像の動き速度と、 テレシ ネ変換信号の画像の動き速度が同一である場合には、 テレシネ変換信号の探索範 囲を上述の如く縦横 2倍の大きさに設定する必要がある。 ちなみに、 この探索範 囲は、 T V信号の探索範囲 5 4の縦横 2倍に限定されることなく、 いかなるサイ ズで構成してもよい。 That is, since the telecine conversion signal is composed of four fields per frame, the required vector amount of the motion vector is larger than that of the TV signal composed of two fields per frame. For example, when the moving speed of the image in the TV signal is the same as the moving speed of the image of the telecine conversion signal, the search range of the telecine conversion signal needs to be set to twice as large in the vertical and horizontal directions as described above. . Incidentally, the search range is not limited to twice the vertical and horizontal lengths of the TV signal search range 54, and may be configured with any size.
動きべクトル検出部 1 4は、 基準ブロック 5 1と最も高い近似度を示す探索ブ ロック 5 3の中心画素 5 9との間で動きべクトルを特定する。 The motion vector detection unit 14 specifies a motion vector between the reference block 51 and the center pixel 59 of the search block 53 having the highest similarity.
なお、 探索ブロック 5 3は、 中心画素 5 9が図 1 4 Bに示される探索範囲 5 4 を構成する画素を縦横 1画素おきに、 色付画素上のみ走査するように移動する。 換言すれば、 探索ブロック 5 3は、 探索範囲 5 4を縦横 1画素おきにずれるよう にして移動していく。 探索範囲 5 4は、 テレシネ変換信号の場合に、 2 M X 2 N 画素からなり、 T V信号の探索範囲 5 4と比較して縦横 2倍 (面積は 4倍) とな るが、 探索範囲 5 4を縦横 1画素おきに間引いて探索することにより、 差分絶対 値の計算量が T V信号の M X N画素からなる探索範囲 5 4と等しくすることがで さる。 It should be noted that the search block 53 moves such that the center pixel 59 scans only the colored pixels every other vertical and horizontal pixels constituting the search range 54 shown in FIG. 14B. In other words, the search block 53 moves in such a way that the search range 54 is shifted every other pixel vertically and horizontally. The search range 54 consists of 2 MX 2 N pixels in the case of a telecine conversion signal, which is twice as long and wide (the area is 4 times) as compared to the search range 54 for a TV signal. By thinning out every other pixel in the vertical and horizontal directions, the amount of calculation of the absolute difference can be made equal to the search range 54 composed of the MXN pixels of the TV signal.
本発明は、 テレシネ変換信号が入力された場合に、 探索範囲 5 4を T V信号の 探索範囲と比較して 4倍とすることで、 真の動きべクトルを求めることができ、 また、 探索ブロック 5 3を縦横 1画素おきに走査させていくことにより、 差分絶 対和の演算量を抑えることができ、 回路規模の縮小を図ることが可能となる。 According to the present invention, when a telecine conversion signal is input, a true motion vector can be obtained by making the search range 54 four times as large as the search range of the TV signal. By scanning 53 every other pixel in the vertical and horizontal directions, the calculation amount of the absolute difference can be reduced, and the circuit scale can be reduced.
ネ変換後の画像信号と T V信号を順次切り換えて動き補正する本発明に
係る動き補正装置 1では、 特に差分絶対値和の演算量が膨大となるテレシネ変換 信号において、 T V信号が入力された場合と同等の演算量とすることで回路規模 の統一化を図ることができ、 ひいてはテレビジョン受像機の仕様を満たすことが できる。 In the present invention, the motion compensation is performed by sequentially switching the image signal after conversion and the TV signal. In the motion compensator 1, the circuit scale can be unified by using the same amount of calculation as when a TV signal is input, especially for a telecine conversion signal in which the calculation amount of the sum of absolute differences is enormous. Therefore, the specifications of the television receiver can be satisfied.
図 1 3に示す例の場合において、 この動きべクトル検出部 1 4により求められ る動きベクトルのベクトル方向は、 基準フィールド 3 0を基準としたとき右方向 となり、 参照フィールドが t 3のときにベクトル量は Aとなる。 同様に、 参照フ ィールドが t 5の場合には、 基準フィールドは t 3となり、 動きベクトルのべク トル量は Bとなる。 この手順を繰り返すことにより、 基準フィールド 3 0を基準 とした動きべクトルのべクトル方向とべクトル量を順次求めることができる。 動 きべクトル検出部 1 4は、 この求めた動きべクトルのべクトル量とべクトル方向 とを画像シフ ト部 1 5へ順次送信する。 In the example shown in FIG. 13, the vector direction of the motion vector obtained by the motion vector detection unit 14 is rightward with respect to the reference field 30, and when the reference field is t 3. The vector quantity is A. Similarly, when the reference field is t5, the reference field is t3, and the vector amount of the motion vector is B. By repeating this procedure, the vector direction and vector amount of the motion vector based on the reference field 30 can be sequentially obtained. The motion vector detection unit 14 sequentially transmits the obtained vector amount and vector direction of the motion vector to the image shift unit 15.
画像シフト部 1 5は、 第 2の画像メモリ 1 2から供給される画像信号を、 各フ ィ一ルドの前後関係に基づき、 検出画素の位置をべクトル方向へシフトさせる。 ここでコマを構成する 4フィ一ルドのうち、 最初に入力されるフィールドを第 1 のフィ一ルドとし、 第 1のフィ一ルドの次に入力されるフィールドを第 2のフィ —ルド、 以降第 3、 第 4とフィールドが続くときに、 各フィールドのシフト量は、 図 1 5に示すように、 第 1のフィールド <第 2のフィールドぐ第 3のフィールド <第 4のフィ一ルドとなるように順次増大させる。 The image shift unit 15 shifts the position of the detection pixel in the vector direction in the image signal supplied from the second image memory 12 based on the context of each field. Here, of the four fields that make up the frame, the first field to be entered is the first field, the next field to be entered after the first field is the second field, and so on. When the third and fourth fields follow, the shift amount of each field is as follows: the first field <the second field followed by the third field <the fourth field, as shown in Figure 15 And so on.
上述のように画像をシフトさせると、 図 1 6に示されるように、 画像をシフト させる前と比べて、 第 4のフィ一ルドから第 1のフィ一ルドへ移行する際に画像 を大きく移動させることなく、 画像の動きをスムーズにすることができる。 When the image is shifted as described above, the image moves significantly when moving from the fourth field to the first field as compared to before the image is shifted, as shown in FIG. Without moving the image, the motion of the image can be smoothed.
このような構成からなる動き補正装置 1に、 フィ一ルド倍速変換回路 3を集積 化してテレビジョン受像機に内蔵することにより、 テレシネ変換信号が入力され た場合においても、 回路規模を T V信号と同程度まで抑え込みつつ、 動きの不達 続感を解消することができる。 すなわち、 フィールド倍速変換回路 3により解像 度を向上させ、 面フリツ力妨害を抑制した各画像の動きを、 更にスムーズにする ことにより、 相乗的に画質を向上させることができる。 By integrating the field double speed conversion circuit 3 in the motion compensation device 1 having such a configuration and incorporating it in the television receiver, the circuit scale can be reduced to the TV signal even when the telecine conversion signal is input. It is possible to eliminate the inconsistency of movement while keeping it at the same level. That is, the resolution is improved by the field double-speed conversion circuit 3, and the movement of each image in which the surface fringe disturbance is suppressed is further smoothed, so that the image quality can be synergistically improved.
この動き補正装置 1は、 単独で実施する場合のみならず、 フィールド倍速変換
回路 3と一体で実施することで顕著な効果が得られる。 フィールド倍速変換回路 が既に集積化されているテレビジョン受像機に対しても、 後からこの動き補正装 置 1を内蔵することにより、 バージョンアップを容易に実現することができる。 なお、 画像シフト部 1 5における画像のシフト量は、 例えば図 1 7に示すよう に第 1のフィ一ルドのシフト量を 0とし、 第 2のフィ一ルドのシフト量を検出し た動きべクトルのべクトル量の 1 / 4倍とし、 以降 1 / 4倍ずつ増加させていく ことも可能である。 このとき、 第 1のフィールドのシフト量を 0とし、 ベクトル 量が Aの場合には、 第 2のフィールドを A X 1 Z 4だけシフトさせ、 第 3のフィ —ルドを A X 2 Z 4だけシフトさせ、 第 4のフィ一ルドを A X 3 / 4だけシフト させることにより、 シフト量を時間に対して線形に増加させることが可能となり, 画像の動きを更にスムーズにすることができる。 This motion compensator 1 can be used not only when implemented alone, A remarkable effect can be obtained by implementing the method integrally with the circuit 3. Even a television receiver having a field double-speed conversion circuit already integrated therein can easily be upgraded by incorporating the motion compensation device 1 later. Note that the image shift amount in the image shift unit 15 is, for example, as shown in FIG. 17, the shift amount of the first field is set to 0, and the shift amount of the second field is detected. It is possible to increase the amount by 1/4 times the vector amount of the vector, and then increase it by 1/4 times. At this time, the shift amount of the first field is set to 0, and if the vector amount is A, the second field is shifted by AX 1 Z 4 and the third field is shifted by AX 2 Z 4 By shifting the fourth field by AX3 / 4, the shift amount can be linearly increased with time, and the motion of the image can be further smoothed.
ちなみに、 テレシネ変換信号は、 探索範囲 5 4を縦横 1画素おきに間引いて探 索するため、 求められる動きベクトルは、 1画素分の誤差が生じる可能性がある ( しかしながら、 この画像シフト部 1 5において、 求めた動きベクトルを 4で除し た数だけ画素をシフトさせることため、 かかる 1画素分の誤差についても 4で除 されることとなり、 かかる画素による視覚上の不都合は殆ど解消されることとな る。 1コマ 4フィールドで構成されるテレシネ変換信号は、 動き補正を施さない 場合に不連続な動きによる画質劣化が著しいが、 本発明に係る動き補正装置 1に より動き補正することにより、 画質を格段に向上させることができるため、 求め られる動きべクトルの精度が少々低くても視覚上の影響は殆ど生じない。 Incidentally, since the telecine conversion signal is searched by thinning out the search range 54 every other pixel in the vertical and horizontal directions, the motion vector required may have an error of one pixel ( however, this image shift unit 15 Since the pixels are shifted by the number obtained by dividing the obtained motion vector by 4, the error for one pixel is also divided by 4, and the visual inconvenience caused by such pixels is almost eliminated. In the case of a telecine conversion signal composed of four fields per frame, image quality is significantly degraded due to discontinuous motion when no motion correction is performed, but by performing motion correction using the motion correction device 1 according to the present invention. Since the image quality can be significantly improved, even if the required accuracy of the motion vector is slightly lower, there is almost no visual effect.
本発明は、 テレシネ変換信号が入力された場合に、 動きベクトル検出部 1 4に おいて動きべクトルを特定する前に予め図示しないローパスフィルタ (L P F ) を掛けることもできる。 この L P Fの帯域を最適化することにより、 動きべクト ル検出部 1 4が縦横 1画素おきに探索範囲 5 4を探索する際に、 真の動きべクト ルが間引かれた画素位置に存在する場合でも、 全く異なる動きべクトルが求めら れるのを防止することができる。 According to the present invention, when a telecine conversion signal is input, a low-pass filter (L PF) (not shown) can be applied in advance before the motion vector detecting section 14 specifies a motion vector. By optimizing the band of this LPF, when the motion vector detector 14 searches the search range 54 every other pixel in the vertical and horizontal directions, the true motion vector exists at the pixel position where it was thinned out. In this case, a completely different motion vector can be prevented.
なお、 テレシネ変換信号が入力された場合における動きべクトルの検出例は、 上述した実施の形態に限定されるものではなく、 例えば以下の方法により動きべ クトルを検出しても良い。
動きベクトル検出部 1 4は、 図 1 8 Aに示すように基準フィールド 3 0を、 基 準画素 5 8を中心とした 2 m X 2 n画素からなる基準ブロック 6 1に分割し、 当 該基準ブロック 6 1と最も高い近似度を示すブロックを、 図 1 8 Bに示す参照フ ィールド 4 0における探索範囲 6 4内を移動する探索ブロック 6 3から検出する c この基準プロック 6 1は、 上述した m X n画素からなる基準プロック 5 1と比 較して縦横 2倍、 面積は 4倍である。 またこの基準ブロック 6 1は、 それぞれ縦 横 1画素おきに間引かれて構成されているため、 基準プロック 6 1を構成する画 素数は、 基準ブロック 5 1を構成する画素数と同一となる。 探索ブロック 6 3は, 中心画素 5 9を中心とし、 基準ブロック 6 1と同じサイズである 2 m X 2 n画素 からなり、 縦横 1画素おきに間引かれて構成される。 この探索ブロック 6 3が移 動する探索範囲 6 4は、 2 M X 2 N画素からなり、 T V信号の探索範囲 5 4と比 較して縦横 2倍、 面積は 4倍とする。 動きベクトル検出部 1 4は、 基準ブロック 5 1と最も高い近似度を示す探索プロック 6 3の中心画素 5 9との間で動きべク トルを特定する。 なお、 これらの各ブロック 6 1 、 6 3並びに探索範囲 6 4のサ ィズは、 上述に限定されることなくいかなるサイズであっても良い。 The example of detecting a motion vector when a telecine conversion signal is input is not limited to the above-described embodiment. For example, a motion vector may be detected by the following method. The motion vector detector 14 divides the reference field 30 into a reference block 61 composed of 2 mx 2 n pixels centered on the reference pixel 58 as shown in FIG. the block exhibiting the highest degree of approximation to the block 61, FIG. 1 8 c the reference proc 6 1 detected from the search block 6 3 moving the search range 6 4 in the reference field 4 0 shown in B, the above-described Compared to the reference block 51 composed of m X n pixels, the height and width are twice as large and the area is four times. Further, since the reference block 61 is formed by thinning out every other pixel in the vertical and horizontal directions, the number of pixels constituting the reference block 61 is the same as the number of pixels constituting the reference block 51. The search block 63 is composed of 2 mx 2 n pixels of the same size as the reference block 61 with the center pixel 59 at the center, and is thinned out every other pixel in the vertical and horizontal directions. The search range 64 in which the search block 63 moves is composed of 2 MX 2 N pixels, and is twice as long and wide in area and four times as large as the search range 54 for TV signals. The motion vector detection unit 14 specifies a motion vector between the reference block 51 and the center pixel 59 of the search block 63 exhibiting the highest degree of approximation. The size of each of the blocks 61 and 63 and the search range 64 may be any size without being limited to the above.
探索プロック 5 3は、 中心画素 5 9が図 1 4 Bに示される探索範囲 5 4を構成 する画素を縦横 1画素おきに、 色付画素上のみ走査するように移動する。 換言す れば、 探索ブロック 6 3は、 図 1 8 Bに示される探索範囲 6 4を縦横 1画素おき にずれるようにして移動していく。 探索範囲 6 4は、 テレシネ変換信号の場合に, 2 M X 2 N画素からなり、 T V信号の探索範囲 6 4と比較して縦横 2倍 (面積は 4倍) となるが、 探索範囲 6 4を縦横 1画素おきに間引いて探索することにより, 差分絶対値の計算量が T V信号の M X N画素からなる探索範囲 5 4と等しくする ことができる。 The search block 53 moves such that the center pixel 59 scans only the colored pixels every other vertical and horizontal pixels constituting the search range 54 shown in FIG. 14B. In other words, the search block 63 moves so that the search range 64 shown in FIG. 18B is shifted every other pixel vertically and horizontally. The search range 6 4 is composed of 2 MX 2 N pixels in the case of a telecine conversion signal, and is twice as long and wide (the area is 4 times) as compared with the search range 6 4 for a TV signal. By performing the search by thinning out every other pixel in the vertical and horizontal directions, the calculation amount of the absolute difference value can be made equal to the search range 54 composed of the MXN pixels of the TV signal.
なお、 動きベクトル検出部 1 4は、 テレシネ変換信号が入力された場合に、 図 1 4 B、 図 1 8 Bに示されるように、 探索範囲 5 4、 6 4上を、 中心画素 5 9が 色付画素上を走査していくように、 換言すれば探索ブロック 5 3、 6 3が縦横 1 画素おきにずれていくように探索を行うが、 かかる場合に限定されるものではな い。 例えば、 図 1 9 Aに示すように、 横のみ 1画素おきにずらして探索し、 縦は 1画素おきにずらさないで探索してもよい。 同様に縦のみ 1画素おきにずらして
探索し、 横は 1画素おきにずらさないで探索してもよい。 画素をずらす間隔も 1 画素に限定されるものではなく、 例えば 2画素おき或いは 3画素おき等のように、 少なくとも 1画素おきであれば足りる。 図 1 9 Bは、 縦を 1画素おきに、 横を 3 画素おきにずらして探索する例を示している。 すなわち、 本発明では、 探索プロ ックを少なくとも縦 1画素おきに又は 及び少なくとも横 1画素おきにずらして 探索すればいかなる探索方法であっても良い。 これにより探索範囲 5 4、 6 4を 広範囲としつつ、 回路規模を減縮させることが可能となる。 When the telecine conversion signal is input, the motion vector detection unit 14 sets the center pixel 59 on the search ranges 54 and 64 as shown in FIGS. 14B and 18B. The search is performed so as to scan over the colored pixels, in other words, the search blocks 53 and 63 are shifted every other pixel in the vertical and horizontal directions, but this is not a limitation. For example, as shown in FIG. 19A, a search may be performed by shifting only the horizontal at every other pixel, and a search may be performed without shifting the vertical at every other pixel. Similarly, shift only vertical by every other pixel The search may be performed without changing the horizontal position every other pixel. The interval at which the pixels are shifted is not limited to one pixel, but it is sufficient if at least one pixel is shifted, for example, every two pixels or every third pixel. FIG. 19B shows an example in which a search is performed by shifting the vertical by every other pixel and the horizontal by every three pixels. That is, in the present invention, any search method may be used as long as the search is performed by shifting the search block at least every other pixel or at least every other horizontal pixel. This makes it possible to reduce the circuit scale while making the search ranges 54 and 64 wide.
また、 図 1 8 Aに示される基準プロック 6 1、 探索プロック 6 3は、 縦横 1画 素おきに間引かれる場合のみならず、 少なくとも縦 1画素おきに又は/及び少な くとも横 1画素おきに間引かれれば足りる。 このため、 例えば 2画素おき或いは 3画素おきに間引かれた基準ブロック 6 1、 探索ブロック 6 3を用いてブロック マッチングを行ってもよいことは勿論である。 In addition, the reference block 61 and the search block 63 shown in Fig. 18A are not limited to the case where they are thinned out every other vertical and horizontal pixels, but also at least every other vertical pixels and / or at least every other horizontal pixels. It is enough if it is thinned out. Therefore, it is a matter of course that block matching may be performed using the reference block 61 and the search block 63 thinned out, for example, every two or three pixels.
この動きベクトル検出部 1 4は、 テレシネ変換信号が入力された場合のみなら ず、 T V信号が入力された場合に、 上述した図 1 4 B、 図 1 8 Bの如く縦横 1画 素おきに探索ブロック 5 3を移動させることより探索を行ってもよい。 上述した 図 1 9 Bの如く少なくとも縦 1画素おきに又は/及び少なくとも横 1画素おきに 探索ブロック 5 3を移動させることより探索を行ってもよい。 これにより、 T V 信号が入力された場合に、 さらに演算量を軽減させることができ、 図示しない口 一パスフィルタ (L P F ) の帯域を最適化することにより、 求められる動きべク トルの精度を維持することも可能となる。 The motion vector detection unit 14 searches not only when a telecine conversion signal is input but also every other vertical and horizontal pixels as shown in FIGS. 14B and 18B described above when a TV signal is input. The search may be performed by moving block 53. The search may be performed by moving the search block 53 at least every other vertical pixel and / or at least every other horizontal pixel as shown in FIG. 19B described above. As a result, when a TV signal is input, the amount of calculation can be further reduced, and the required motion vector accuracy is maintained by optimizing the bandwidth of a not-shown single pass filter (LPF). It is also possible to do.
本発明に係る動き補正装置 1は、 上述した実施の形態に限定されるものではな く、 例えば図 7において、 スィッチ 1 3を常時" ノーマル" (N) 側に切り換え ておくことも可能である。 これにより動きべクトル検出部 1 4へ送信される参照 フィールド 4 0は、 基準フィールド 3 0よりも常に 1フレーム後となるため、 か かる構成を採用する動き補正装置 1は、 T V信号のみ動き補正することができる 動き補正回路を構成することとなる。 この場合、 動きベクトル検出部 1 4は、 入 力される T V信号に対してテレシネ変換信号の場合と同様、 図 1 4 B、 図 1 8 B に示されるように縦横 1画素おきに探索ブロック 5 3を走査させることにより探 索を行う。 これにより、 入力された T V信号につき少ない演算量で動きベクトル
を求めることができ、 回路規模を縮小することができる。 The motion compensator 1 according to the present invention is not limited to the above-described embodiment. For example, in FIG. 7, the switch 13 can be always switched to the “normal” (N) side. . As a result, the reference field 40 transmitted to the motion vector detection unit 14 is always one frame later than the reference field 30. Therefore, the motion compensator 1 employing such a configuration performs motion compensation only for the TV signal. Thus, a motion compensation circuit can be configured. In this case, as in the case of the telecine conversion signal, the motion vector detection unit 14 performs a search block 5 every other pixel in the vertical and horizontal directions as shown in FIG. 14B and FIG. The search is performed by scanning 3. As a result, the motion vector can be And the circuit scale can be reduced.
本発明に係る動き補正装置 1は、 上述した実施の形態に限定されるものではな く、 例えぱ図 7において、 スィッチ 1 3を常時" フィルム" (F ) 側に切り換え ておくことも可能である。 これにより動きべクトル検出部 1 4へ送信される参照 フィ一ルド 4 0は、 基準フィールド 3 0よりも常に 2フレーム後となるため、 か かる構成を採用する動き補正装置 1は、 テレシネ変換信号のみ動き補正すること ができる動き補正回路を構成することとなる。 これにより、 T V信号と比較して より広範な探索範囲 5 4を必要とするテレシネ変換信号につき、 差分絶対値の演 算量を減らすことができ、 回路規模を縮小することができる。 The motion compensator 1 according to the present invention is not limited to the above-described embodiment. For example, in FIG. 7, the switch 13 can be always switched to the “film” (F) side. is there. As a result, the reference field 40 transmitted to the motion vector detecting unit 14 is always two frames later than the reference field 30. Thus, a motion compensation circuit that can perform motion compensation only is configured. As a result, for a telecine conversion signal requiring a wider search range 54 compared to a TV signal, the amount of operation of the absolute difference value can be reduced, and the circuit scale can be reduced.
なお、 本発明は、 P A L方式によるテレビジョン受像機に対して適用される場 合に限定されることはなく、 例えば、 N T S C (Na t i onal TV Sys t em Co賺 i U ee) 方式の 6 0フィールド秒 (3 0コマ/秒) のインタレース画像信号が入力される テレビジョン受像機に対しても適用可能である。 また、 S E C A M方式によるテ レビジョン受像機に対しても適用可能である。 Note that the present invention is not limited to the case where the present invention is applied to a television receiver based on the PAL system. For example, the present invention is applied to the NTSC (National TV System Co. i.e. The present invention is also applicable to a television receiver to which an interlaced image signal of field seconds (30 frames / second) is input. It is also applicable to television receivers using the SECAM system.
本発明は、 テレビジョン受像機に内蔵される場合のみならず、 テレビジョン受 像機に接続する信号変換器へも内蔵可能である。 The present invention can be incorporated not only into a television receiver but also into a signal converter connected to the television receiver.
本発明は、 ィン夕一ネットで伝送されるような画像信号を P Cなどで表示する 場合や、 メディァゃ画像フォーマツトを変換するケースにも応用することができ る。 The present invention can be applied to a case where an image signal transmitted on an Internet network is displayed on a PC or the like, or a case where a media image format is converted.
更に、 本発明は、 回路等、 ハードウェアで実現する形で説明しているが、 プロ セッサ上でのソフトウエアとしても実現可能であることは勿論である。 Further, although the present invention has been described in the form of being realized by hardware such as a circuit, it is needless to say that the present invention can also be realized by software on a processor.
なお、 本発明は、 添付の請求の範囲及びその主旨を逸脱することなく、 様々な 変更、 置換又はその同等のものを行うことができることは当業者にとって明らか である。 産業上の利用可能性 上述したように 本発明に係る動きベクトル検出装置及びその方法は、 入力さ れる参照フィールドから 1フレーム或いは 2フレーム前の基準フィ一ルドにおけ
る基準画素を原点とする基準プロックと、 参照フィ一ルドにおける探索範囲内を 少なくとも縦 1画素おきに又は Z及び少なくとも横 1画素おきに移動する探索ブ ロックとの間で画素値の差分絶対値和を順次演算し、 演算された差分絶対値和が 最小となる探索ブロックの画素位置と基準画素の画素位置との間で動きベクトル を特定しているので、 求める動きべクトルの精度を維持しつつ演算量を軽減する ことができ、 ひいては回路規模を縮小することができる。 It will be apparent to those skilled in the art that various changes, substitutions, or equivalents can be made to the present invention without departing from the scope and spirit of the appended claims. INDUSTRIAL APPLICABILITY As described above, the motion vector detecting apparatus and method according to the present invention can be used in the reference field one frame or two frames before the input reference field. The absolute value of the difference in pixel value between the reference block whose origin is the reference pixel of interest and the search block that moves within the search range of the reference field at least every other vertical pixel or at least every Z and every horizontal pixel Since the motion vector is specified between the pixel position of the search block and the pixel position of the reference pixel where the calculated sum of absolute differences is minimized, the accuracy of the motion vector to be obtained is maintained. In addition, the amount of calculation can be reduced, and the circuit scale can be reduced.
本発明に係る動き補正装置及び方法は、 入力される参照フィールドから 1フレ —ム或いは 2フレーム前の基準フィ一ルドにおける基準画素を原点とする基準ブ ロックと、 参照フィールドにおける探索範囲内を少なくとも縦 1画素おきに又は Z及び少なくとも横 1画素おきに移動する探索ブロックとの間で画素値の差分絶 対値和を順次演算することにより動きべクトルを検出し、 当該動きべクトルに基 づき、 基準フィールドにおける基準画素の位置をシフトさせているので、 演算量 を減らすことにより回路規模を縮小しつつ、 動きの不連続感を解消させることが できる。
The motion compensation device and method according to the present invention provide a reference block having an origin at a reference pixel in a reference field one frame or two frames before an input reference field, and at least a search range in the reference field. The motion vector is detected by sequentially calculating the absolute sum of the difference between the pixel value and the search block that moves every other vertical pixel or Z and at least every other horizontal pixel, and the motion vector is detected based on the motion vector. Since the position of the reference pixel in the reference field is shifted, the discontinuity of motion can be eliminated while reducing the amount of calculation and the circuit scale.
Claims
1 . 入力される参照フィ一ルドから 1フレーム或いは 2フレーム前の基準フィー ルドの各画素につき、 ブロックマッチング法により動きベクトルを検出する動き べクトル検出装置において、 1. A motion vector detection device that detects a motion vector by a block matching method for each pixel of the reference field one frame or two frames before the input reference field,
上記基準フィールドにおける基準画素を原点とする基準ブロックを切り出し、 また上記参照フィールドにおける探索ブロックを、 少なくとも縦 1画素おきに又 は/及び少なくとも横 1画素おきに、 移動させて切り出すブロック切出手段と、 上記プロック切出手段より切り出した基準プロック及び探索プロックとの間で 画素値の差分絶対値和を順次演算するべクトル演算手段と、 Block extracting means for extracting a reference block having the reference pixel as an origin in the reference field, and moving and extracting the search block in the reference field at least every other pixel and / or at least every horizontal pixel. A vector calculation means for sequentially calculating the sum of absolute differences of pixel values between the reference block and the search block cut by the block separation means,
上記ベクトル演算手段により演算された差分絶対値和が最小となる探索プロッ クの画素位置と上記基準画素の画素位置との間で動きべクトルを特定するべクト ル特定手段とを A vector specifying means for specifying a motion vector between the pixel position of the search block in which the sum of absolute differences calculated by the vector calculating means is minimum and the pixel position of the reference pixel;
備えることを特徴とする動きべクトル検出装置。 A motion vector detection device, comprising:
2 . 上記プロック切出手段は、 少なくとも縦 1画素おきに又は 及び少なくとも 横 1画素おきに配列された画素からなる上記基準プロックと、 少なくとも縦 1画 素おきに又は/及び少なくとも横 1画素おきに配列された画素からなる上記探索 ブロックとを切り出すことを特徴とする請求の範囲第 1項記載の動きべクトル検 出装置。 2. The block extracting means includes: the reference block having pixels arranged at least every other pixel and / or at least every other pixel; and at least every other pixel and / or at least every other pixel. 2. The motion vector detection device according to claim 1, wherein the search block including the arranged pixels is cut out.
3 . 上記ブロック切出手段は、 テレシネ変換した画像を倍速変換することにより 生成され 1コマが 4フィ一ルドで構成される各フィ一ルド、 或いはテレビジョン 信号を倍速変換することにより生成され 1コマが 2フィ一ルドで構成される各フ ィ一ルドから、 上記基準フィールド及び上記参照フィールドを特定し、 当該特定 した基準フィ一ルドにおける基準画素を原点とする基準プロックを切り出し、 ま た当該特定した参照フィールドにおける探索ブロックを、 少なくとも縦 1画素お きに又は Z及び少なくとも横 1画素おきに、 移動させて切り出すことを特徴とす る請求の範囲第 1項記載の動きべクトル検出装置。 3. The above-mentioned block extracting means is generated by converting a telecine-converted image at double speed, and each frame composed of 4 fields or a television signal is generated by double speed conversion. From each field where the frame is composed of two fields, the above-mentioned reference field and the above-mentioned reference field are specified, and a reference block starting from the reference pixel in the specified reference field is cut out. 2. The motion vector detection device according to claim 1, wherein the search block in the specified reference field is moved and cut out at least every vertical pixel or every Z and every horizontal pixel.
4 . 入力される参照フィールドから 1フレーム或いは 2フレーム前の基準フィ一 ルドの各画素につき、 ブロックマッチング法により動きべクトルを検出する動き
べクトル検出方法において、 4. Motion for detecting motion vector by block matching method for each pixel in the reference field one frame or two frames before the input reference field In the vector detection method,
上記基準フィ一ルドにおける基準画素を原点とする基準ブロックを切り出し、 また上記参照フィールドにおける探索ブロックを、 少なくとも縦 1画素おきに又 は/及び少なくとも横 1画素おきに、 移動させて切り出し、 A reference block whose origin is the reference pixel in the reference field is cut out, and a search block in the reference field is moved and cut out at least every vertical pixel and / or at least every horizontal pixel, and cut out.
上記切り出した基準ブロック及び探索ブロックとの間で画素値の差分絶対値和 を順次演算し、 The sum of absolute differences of pixel values between the extracted reference block and search block is sequentially calculated,
上記演算した差分絶対値和が最小となる探索ブロックの画素位置と上記基準画 素の画素位置との間で動きべクトルを特定すること Specifying a motion vector between the pixel position of the search block in which the calculated sum of absolute differences is the minimum and the pixel position of the reference pixel;
を特徴とする動きべクトル検出方法。 A motion vector detection method.
5 . 少なくとも縦 1画素おきに又は Z及び少なくとも横 1画素おきに配列された 画素からなる上記基準ブロックと、 少なくとも縦 1画素おきに又は/及び少なく とも横 1画素おきに配列された画素からなる上記探索プロックとを切り出すこと を特徴とする請求の範囲第 4項記載の動きべクトル検出方法。 5. The reference block consisting of pixels arranged at least every other pixel or every Z and at least every other pixel, and the pixels arranged at least every other pixel and / or at least every other pixel 5. The motion vector detection method according to claim 4, wherein the search block is cut out.
6 . テレシネ変換した画像を倍速変換することにより生成され 1コマが 4フィ一 ルドで構成される各フィールド、 或いはテレビジョン信号を倍速変換することに より生成され 1コマが 2フィールドで構成される各フィールドから、 上記基準フ ィ一ルド及び上記参照フィ一ルドを特定し、 当該特定した基準フィ一ルドにおけ る基準画素を原点とする基準ブロックを切り出し、 また当該特定した参照フィ一 ルドにおける探索ブロックを、 少なくとも縦 1画素おきに又は/及び少なくとも 横 1画素おきに、 移動させて切り出すことを特徴とする請求の範囲第 4項記載の 動きべクトル検出方法。 6. Each field consisting of 4 fields, generated by converting the telecine-converted image to double speed, or 1 frame consisting of 2 fields, generated by converting the television signal to double speed From each field, the above-mentioned reference field and the above-mentioned reference field are specified, and a reference block starting from the reference pixel in the specified reference field is cut out. 5. The motion vector detection method according to claim 4, wherein the search block is moved and cut out at least every other pixel and / or at least every other horizontal pixel.
7 . 入力される参照フィールドから 2フレーム前の基準フィ一ルドの各画素につ き動き補正する動き補正装置において、 7. In a motion compensator that performs motion compensation for each pixel of the reference field two frames before the input reference field,
上記基準フィールドにおける基準画素を原点とする基準ブロックと、 上記参照 フィールドを、 少なくとも縦 1画素おきに又は/及び少なくとも横 1画素おきに, 移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、 演算され た差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置 との間で動きべクトルを特定するべクトル特定手段と、 The absolute value of the difference in pixel value between the reference block whose origin is the reference pixel in the reference field and the search block in which the reference field is moved at least every other vertical pixel and / or at least every other horizontal pixel Vector calculation means for sequentially calculating the sum, and specifying a motion vector between a pixel position of the search block in which the calculated sum of absolute differences is a minimum and a pixel position of the reference pixel;
上記べクトル特定手段により特定された上記動きべクトルのベタトル方向へ、
シフト量が上記べクトル量の範囲内となるように、 上記基準フィールドにおける 基準画素の位置をシフ卜させる画素シフト手段とを備える In the vector direction of the moving vector specified by the vector specifying means, Pixel shift means for shifting the position of a reference pixel in the reference field so that the shift amount falls within the range of the vector amount.
ことを特徴とする動き補正装置。 A motion compensator characterized by the above-mentioned.
8 . 上記ベクトル特定手段は、 テレシネ変換した画像を倍速変換することにより 生成され 1コマが 4フィ一ルドで構成される各フィ一ルドが入力されることを特 徴とする請求の範囲第 7項記載の動き補正装置。 8. The vector specifying means according to claim 7, wherein each of the fields generated by converting the telecine-converted image at double speed and each frame being composed of four fields is input. The motion compensator according to the item.
9 . 上記画素シフト手段は、 上記コマにおける上記基準フィールドの配置される 位置に応じて上記基準画素のシフト量を変化させることを特徴とする請求の範囲 第 8項記載の動き捕正装置。 9. The motion detection device according to claim 8, wherein the pixel shift means changes a shift amount of the reference pixel in accordance with a position of the reference field in the frame.
1 0 . 上記ベクトル特定手段は、 少なくとも縦 1画素おきに又は/及び少なくと も横 1画素おきに配列された画素からなる上記基準プロックと、 少なくとも縦 1 画素おきに又は/及び少なくとも横 1画素おきに配列された画素からなる上記探 索プロックとの間で画素値の差分絶対値和を順次演算し、 演算された差分絶対値 和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動き べクトルを特定することを特徴とする請求の範囲第 7項記載の動き補正装置。 10. The vector specifying means includes: the reference block including pixels arranged at least every other pixel and / or at least every other pixel; and at least every other pixel and / or at least one pixel. The sum of the absolute values of the pixel values is sequentially calculated with the search block composed of every other pixels, and the pixel position of the search block where the calculated sum of the absolute differences is the minimum and the pixel of the reference pixel 8. The motion compensating device according to claim 7, wherein a motion vector is specified between the position and the position.
1 1 . 入力される参照フィールドから 1フレーム前の基準フィールドの各画素に つき動き補正する動き補正装置において、 1 1. In a motion compensator that performs motion compensation for each pixel in the reference field one frame before the input reference field,
上記基準フィールド おける基準画素を原点とする基準ブロックと、 上記参照 フィールドを、 少なくとも縦 1画素おきに又は/及び少なくとも横 1画素おきに、 移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、 演算され た差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置 との間で動きべクトルを特定するべクトル特定手段と、 The absolute value of the pixel value difference between the reference block whose origin is the reference pixel in the reference field and the search block in which the reference field is moved at least every other vertical pixel and / or at least every horizontal pixel Vector calculation means for sequentially calculating the sum, and specifying a motion vector between a pixel position of the search block in which the calculated sum of absolute differences is a minimum and a pixel position of the reference pixel;
上記べクトル特定手段により特定された上記動きべクトルのべクトル方向へ、 シフト量が上記べクトル量の範囲内となるように、 上記基準フィールドにおける 基準画素の位置をシフトさせる画素シフト手段とを備える Pixel shifting means for shifting the position of a reference pixel in the reference field so that the shift amount is within the range of the vector amount in the vector direction of the motion vector identified by the vector identification means. Prepare
ことを特徴とする動き補正装置。 A motion compensator characterized by the above-mentioned.
1 2 . 上記ベクトル特定手段は、 テレビジョン信号を倍速変換することにより生 成され 1コマが 2フィールドで構成される各フィールドが入力されることを特徴 とする請求の範囲第 1 1項記載の動き補正装置。
12. The method according to claim 11, wherein said vector specifying means is configured to input each field which is generated by converting a television signal at double speed, and one frame is composed of two fields. Motion compensator.
1 3 . 上記画素シフト手段は、 上記コマにおける上記基準フィールドの配置され る位置に応じて上記基準画素のシフト量を変化させることを特徴とする請求の範 囲第 1 2項記載の動き補正装置。 13. The motion correction device according to claim 12, wherein the pixel shift means changes a shift amount of the reference pixel according to a position of the reference field in the frame. .
1 4 . 上記ベクトル特定手段は、 少なくとも縦 1画素おきに又はノ及び少なくと も横 1画素おきに配列された画素からなる基準ブロックと、 少なくとも縦 1画素 おきに又はノ及び少なくとも横 1画素おきに配列された画素からなる探索プロッ クとの間で画素値の差分絶対値和を順次演算し、 演算された差分絶対値和が最小 となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトル を特定することを特徴とする請求の範囲第 1 1項記載の動き補正装置。 14. The above-mentioned vector specifying means comprises: a reference block composed of pixels arranged at least every other pixel or at least every other pixel and at least every other pixel at least every other pixel or at least every other pixel The sum of the absolute values of the pixel values is sequentially calculated between the search block consisting of the pixels arranged in the matrix and the pixel position of the search block in which the calculated sum of the absolute differences is the minimum and the pixel position of the reference pixel. 11. The motion compensating device according to claim 11, wherein a motion vector is specified between.
1 5 . 入力される参照フィールドから 1フレーム前或いは 2フレーム前の基準フ ィールドの各画素につき動き補正する動き補正装置において、 15 5. In a motion compensator that performs motion compensation for each pixel in the reference field one frame before or two frames before the input reference field,
入力される上記 1フレーム前或いは 2フレーム前の基準フィールドを切り換え る切換手段と、 Switching means for switching the input reference field one frame before or two frames before;
上記切換手段により切り換えられた基準フィールドにおける基準画素を原点と する基準プロックと、 上記参照フィールドを少なくとも縦 1画素おきに又は 及 び少なくとも横 1画素おきに移動させた探索プロックとの間で画素値の差分絶対 値和を順次演算し、 演算された差分絶対値和が最小となる探索ブロックの画素位 置と上記基準画素の画素位置との間で動きべクトルを特定するべクトル特定手段 と、 The pixel value between the reference block whose origin is the reference pixel in the reference field switched by the switching means and the search block in which the reference field has been moved at least every other pixel vertically and / or at least every other pixel horizontally. Vector specifying means for sequentially calculating the sum of absolute differences of the search block, and specifying a motion vector between the pixel position of the search block in which the calculated sum of absolute differences is the minimum and the pixel position of the reference pixel.
上記べクトル特定手段により特定された上記動きべクトルのべクトル方向へ、 シフト量が上記べクトル量の範囲内となるように、 上記基準フィールドにおける 基準画素の位置をシフ卜させる画素シフト手段とを備える Pixel shifting means for shifting the position of a reference pixel in the reference field so that the shift amount is within the range of the vector amount in the vector direction of the motion vector specified by the vector specifying means; Have
ことを特徴とする動き補正装置。 A motion compensator characterized by the above-mentioned.
1 6 . 上記ベクトル特定手段は、 少なくとも縦 1画素おきに又は/及び少なくと も横 1画素おきに配列された画素からなる上記基準ブロックと、 少なくとも縦 1 画素おきに又はノ及び少なくとも横 1画素おきに配列された画素からなる上記探 索ブロックとの間で画素値の差分絶対値和を順次演算し、 演算された差分絶対値 和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動き べクトルを特定することを特徴とする請求の範囲第 1 5項記載の動き補正装置。
16. The vector specifying means includes: the reference block including pixels arranged at least every other pixel or / and at least every other horizontal pixel; and at least every other vertical pixel or at least one horizontal pixel. The sum of the absolute values of the pixel values is sequentially calculated between the search block consisting of the pixels arranged every other pixel, and the pixel position of the search block where the calculated sum of the absolute differences is the minimum and the pixel of the reference pixel 16. The motion correction device according to claim 15, wherein a motion vector is specified between the position and the position.
1 7 . 入力される参照フィ一ルドから 2フレーム前の基準フィ一ルドの各画素に つき動き補正する動き補正方法において、 1 7. In the motion compensation method for compensating the motion of each pixel of the reference field two frames before the input reference field,
上記基準フィールドにおける基準画素を原点とする基準ブロックと、 上記参照 フィールドを少なくとも縦 1画素おきに又は Z及び少なくとも横 1画素おきに移 動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、 Sum of absolute differences in pixel values between a reference block whose origin is the reference pixel in the reference field and a search block in which the reference field is moved at least every other vertical pixel or Z and at least every horizontal pixel Are sequentially calculated,
演算した差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の 画素位置との間で動きべクトルを特定し、 The motion vector is specified between the pixel position of the search block where the calculated sum of absolute differences is the minimum and the pixel position of the reference pixel,
上記特定した上記動きべクトルのべクトル方向へ、 シフト量が上記べクトル量 の範囲内となるように、 上記基準フィールドにおける基準画素の位置をシフトさ せる画素シフト手段とを備える Pixel shifting means for shifting the position of the reference pixel in the reference field so that the shift amount is within the range of the vector amount in the vector direction of the specified motion vector.
ことを特徴とする動き補正方法。 A motion compensation method characterized in that:
1 8 . テレシネ変換した画像を倍速変換することにより生成され 1コマが 4フィ —ルドで構成される各フィールドにっき上記動きべクトルを特定することを特徴 とする請求の範囲第 1 7項記載の動き補正方法。 18. The moving vector according to claim 17, wherein the motion vector is specified in each field which is generated by converting the telecine-converted image at double speed and one frame is composed of four fields. Motion compensation method.
1 9 . 上記コマにおける上記基準フィールドの配置される位置に応じて上記基準 画素のシフト量を変化させることを特徴とする請求の範囲第 1 8項記載の動き補 正方法。 19. The motion correction method according to claim 18, wherein the shift amount of the reference pixel is changed according to the position of the reference field in the frame.
2 0 . 少なくとも縦 1画素おきに又は Z及び少なくとも横 1画素おきに配列され た画素からなる上記基準ブロックと、 少なくとも縦 1画素おきに又は/及び少な くとも横 1画素おきに配列された画素からなる上記探索ブロックとの間で画素値 の差分絶対値和を順次演算し、 演算した差分絶対値和が最小となる探索ブロック の画素位置と上記基準画素の画素位置との間で動きべクトルを特定することを特 徴とする請求の範囲第 1 7項記載の動き補正方法。 20. The reference block consisting of pixels arranged at least every other pixel or Z and at least every other pixel, and pixels arranged at least every other pixel and / or at least every other pixel The sum of the absolute values of the pixel values is sequentially calculated with the search block consisting of 18. The motion compensation method according to claim 17, wherein the method is characterized by specifying
2 1 . 入力される参照フィールドから 1フレーム前の基準フィールドの各画素に つき動き補正する動き補正方法において、 2 1. In the motion compensation method for motion compensation for each pixel of the reference field one frame before the input reference field,
上記基準フィ一ルドから基準画素を原点とする基準プロックと、 上記参照フィ ールドを少なくとも縦 1画素おきに又は 及び少なくとも横 1画素おきに移動さ せた探索プロックとの間で画素値の差分絶対値和を順次演算し、 Absolute pixel value difference between a reference block whose origin is the reference pixel from the reference field and a search block in which the reference field is moved at least every other vertical pixel and / or at least every horizontal pixel Calculate the sum of values sequentially,
演算した差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の
画素位置との間で動きべクトルを特定し、 The pixel position of the search block where the calculated sum of absolute differences is minimum and the reference pixel Specify the motion vector between the pixel position and
上記特定した上記動きべクトルのベクトル方向へ、 シフト量が上記べクトル量 の範囲内となるように、 上記基準フィ一ルドにおける基準画素の位置をシフトさ せる The position of the reference pixel in the reference field is shifted in the vector direction of the specified motion vector so that the shift amount is within the range of the vector amount.
ことを特徴とする動き補正方法。 A motion compensation method characterized in that:
2 2 . テレビジョン信号を倍速変換することにより生成され 1コマが 2フィ一ル ドで構成される各フィールドにっき上記動きべクトルを特定することを特徴とす る請求の範囲第 2 1項記載の動き補正方法。 22. The method according to claim 21, wherein the motion vector is specified in each field where one frame is generated by converting a television signal at double speed and one frame is composed of two fields. Motion compensation method.
2 3 . 上記コマにおける上記基準フィールドの配置される位置に応じて上記基準 画素のシフト量を変化させることを特徴とする請求の範囲第 2 2項記載の動き補 正方法。 23. The motion correction method according to claim 22, wherein a shift amount of the reference pixel is changed according to a position of the reference field in the frame.
2 4 . 少なくとも縦 1画素おきに又は/及び少なくとも横 1画素おきに配列され た画素からなる基準プロックと、 少なくとも縦 1画素おきに又は Z及び少なくと も横 1画素おきに配列された画素からなる探索プロックとの間で画素値の差分絶 対値和を順次演算し、 演算した差分絶対値和が最小となる探索ブロックの画素位 置と上記基準画素の画素位置との間で動きべクトルを特定することを特徴とする 請求の範囲第 2 1項記載の動き補正方法。 24. From a reference block consisting of pixels arranged at least every other pixel and / or at least every other pixel, and from pixels arranged at least every other pixel or at least Z and at least every other pixel The absolute value sum of the pixel values is sequentially calculated between the search block and the search block, and the motion vector is calculated between the pixel position of the search block where the calculated sum of the absolute differences is the minimum and the pixel position of the reference pixel. 21. The motion correction method according to claim 21, wherein the method is specified.
2 5 . 入力される参照フィールドから 1フレーム前或いは 2フレーム前の基準フ ィールドの各画素につき、 動き補正する動き補正方法において、 25. In the motion compensation method for motion compensation for each pixel of the reference field one frame before or two frames before the input reference field,
入力される上記 1フレーム前或いは 2フレーム前の基準フィールドを切り換え, 上記切り換えた基準フィールドにおける基準画素を原点とする基準ブロックと、 上記参照フィールドを少なくとも縦 1画素おきに又は/及び少なくとも横 1画素 おきに移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、 演算したされた差分絶対値和が最小となる探索プロックの画素位置と上記基準 画素の画素位置との間で動きべクトルを特定し、 Switching the reference field one frame before or two frames before the input, switching the reference field with the reference pixel as the origin in the switched reference field, and the reference field at least every other vertical pixel and / or at least one horizontal pixel The sum of the absolute values of the pixel values is sequentially calculated with respect to the search block shifted every other pixel, and between the pixel position of the search block where the calculated sum of the absolute differences is the minimum and the pixel position of the reference pixel. To identify the motion vector,
上記特定した上記動きべクトルのべクトル方向へ、 シフト量が上記べクトル量 の範囲内となるように、 上記基準フィールドにおける基準画素の位置をシフトさ せる The position of the reference pixel in the reference field is shifted in the vector direction of the specified motion vector so that the shift amount is within the range of the vector amount.
ことを特徴とする動き補正方法。
A motion compensation method characterized in that:
2 6 . 少なくとも縦 1画素おきに又は/及び少なくとも横 1画素おきに配列され た画素からなる上記基準ブロックと、 少なくとも縦 1画素おきに又はノ及ぴ少な くとも横 1画素おきに配列された画素からなる上記探索プロックとの間で画素値 の差分絶対値和を順次演算し、 演算した差分絶対値和が最小となる探索ブロック の画素位置と上記基準画素の画素位置との間で動きべクトルを特定することを特 徴とする請求の範囲第 2 5項記載の動き補正方法。
26. The reference block consisting of pixels arranged at least every other pixel or / and at least every other pixel, and arranged at least every other pixel or at least every other pixel The difference absolute value sum of the pixel values is sequentially calculated with the search block consisting of pixels, and the motion between the pixel position of the search block where the calculated difference absolute value sum is the minimum and the pixel position of the reference pixel is calculated. The motion compensation method according to claim 25, wherein the method is characterized by specifying a vector.
FIG.1
FIG.1
61/Z 61 / Z
ひ/■oo/eoozdf/ェ:) d 8 oo請 OAV
riz-:/ Ooo一AV- Hi / ■ oo / eoozdf / e :) d 8 oo ok OAV riz-: / Oooichi AV-
レ Les
/oo一- / oo-
00 L 00 L
響 Sound
®、 ®,
②、 ②,
①、 l. 001 / ①, l. 001 /
J- /0
J- / 0
5Z19 5Z19
FIG.
FIG.
嗨 ¾鳅 λ 嗨 ¾ 鳅 λ
コマ' Top '
FIG.eA FIG.GB
FIG.eA FIG.GB
FIG.
FIG.
ο—ι ο—ι
コマ コマ コマ コマ Frame frame frame frame frame
水 water
'ό 'ό
9 Φ G -I 9 Φ G -I
ό ό φ Φ φ I Iό ό φ Φ φ I I
I 1 や I I I や I I I , I I I , I 時間 時間 I 1, I I I, I I I, I I I, I Time Time
t' t' † t t' t' t t 't' † t t 't' t
© 0 © 0
FIG.8A FIG.8B
FIG.8A FIG.8B
aoに E Iョ ao to e io
0 0
61·ΖΟΙ·61
S£PL00/ 00Zd£/13d
11/19 S £ PL00 / 00Zd £ / 13d 11/19
水平 第 1のフィールド Horizontal first field
第 2のフィールド Second field
第 1のフィールド First field
第 2のフィールド Second field
第 1のフィールド First field
第 2のフィールド Second field
第 1のフィールド First field
第 2のフィールド Second field
第 1のフィールドFirst field
時間 Time
RIG.11
1 2/1 9 RIG.11 1 2/1 9
水平 第 1のフィールド Horizontal first field
第 2のフィールド Second field
第 1のフィールド First field
第 2のフィールド Second field
第 1のフィールド First field
第 2のフィールド Second field
第 1のフィールド First field
第 2のフィールド Second field
時間 Time
FIG一 1 2
13/19 FIG-I 1 2 13/19
時間 Time
FIG一 13
9 FIG-I 13 9
2M 2M
40 ^のみ探索 Search only 40 ^
FIG.14B
15/19 FIG.14B 15/19
水平 第 1のフィールド Horizontal first field
第 2のフィールド Second field
第 3のフィールド Third field
第 4のフィールド Fourth field
第 1のフィールド First field
第 2のフィールド Second field
第 3のフィールド Third field
第 4のフィールド Fourth field
時間 Time
IG-15
16/19 IG-15 16/19
第 1のフィールド First field
第 2のフィールド Second field
第 3のフィールド Third field
第 4のフィールド Fourth field
第 1のフィールド First field
第 2のフィールド Second field
第 3のフィールド Third field
第 4のフィールド Fourth field
時間 Time
RIG.16
1 7/1 9 RIG.16 1 7/1 9
第 1のフィールド First field
第 2のフィールド Second field
第 3のフィールド Third field
第 4のフィールド Fourth field
第 1のフィールド First field
第 2のフィールド Second field
第 3のフィールド Third field
第 4のフィールド Fourth field
第 1のフィールドFirst field
時間 Time
FIG 1 7
SSに Old o FIG 1 7 Old to SS
1717
V8 L V8 L
οε οε
6 l_Z86 l_Z8
Cl7.00/C00Zdf/X3d 8 Z00請 OAV
9Z19 Cl7.00 / C00Zdf / X3d 8 Z00 contract OAV 9Z19
40 ^のみ探索 Search only 40 ^
FIG.1 9 A FIG. 1 9 A
2 Two
40 ^のみ探索 Search only 40 ^
FIG.1 9B
FIG. 1 9B
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002179049A JP2004023673A (en) | 2002-06-19 | 2002-06-19 | Motion vector detecting apparatus and method therefor movement compensation and method therefor |
JP2002-179049 | 2002-06-19 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2004002148A1 true WO2004002148A1 (en) | 2003-12-31 |
Family
ID=29996550
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2003/007438 WO2004002148A1 (en) | 2002-06-19 | 2003-06-11 | Motion vector detection device, detection method, motion compensation device, and motion compensation method |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2004023673A (en) |
WO (1) | WO2004002148A1 (en) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE602004030993D1 (en) * | 2004-04-30 | 2011-02-24 | Panasonic Corp | Motion estimation using adaptive spatial refinement vectors |
WO2008136116A1 (en) * | 2007-04-26 | 2008-11-13 | Pioneer Corporation | Interpolation frame generation controller, frame rate converter, display apparatus, method for controlling generation of interpolation frame, program for the same, and recording medium storing the program |
JP2009060401A (en) | 2007-08-31 | 2009-03-19 | Sony Corp | Image display device, and image processing device |
JP4513913B2 (en) * | 2008-08-07 | 2010-07-28 | ソニー株式会社 | Image signal processing apparatus and method |
WO2010046989A1 (en) * | 2008-10-23 | 2010-04-29 | パイオニア株式会社 | Frame rate converting device, image processing device, display, frame rate converting method, its program, and recording medium where the program is recorded |
WO2010046990A1 (en) * | 2008-10-23 | 2010-04-29 | パイオニア株式会社 | Interpolation frame generating device, frame rate converting device, display, interpolation frame generating method, its program, and recording medium where its program is recorded |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05137122A (en) * | 1991-11-14 | 1993-06-01 | Hitachi Ltd | Signal processing method for video signal and circuit therefor |
JPH05260460A (en) * | 1992-03-09 | 1993-10-08 | Matsushita Electric Ind Co Ltd | Motion detector |
JPH06500910A (en) * | 1991-06-27 | 1994-01-27 | トムソン コンシュメ エレクトロニクス | How to convert the timing of a video sequence |
JPH07222176A (en) * | 1994-02-07 | 1995-08-18 | Graphics Commun Lab:Kk | Block matching method and device in moving picture compression |
JPH0884293A (en) * | 1994-03-30 | 1996-03-26 | Thomson Consumer Electron Sa | Method and apparatus for reducing conversion artifact |
JPH0898186A (en) * | 1994-09-22 | 1996-04-12 | Victor Co Of Japan Ltd | Motion vector detecting device |
JPH08223578A (en) * | 1995-02-13 | 1996-08-30 | Nippon Telegr & Teleph Corp <Ntt> | Method for searching motion vector and device therefor |
JPH0918882A (en) * | 1995-07-03 | 1997-01-17 | Matsushita Electric Ind Co Ltd | Motion vector retrieval method and device |
JPH09162747A (en) * | 1995-12-14 | 1997-06-20 | Matsushita Electric Ind Co Ltd | Device and method for detecting motion vector |
JPH10501953A (en) * | 1995-04-11 | 1998-02-17 | フィリップス エレクトロニクス ネムローゼ フェンノートシャップ | Motion compensated field rate conversion |
JP2000023163A (en) * | 1998-06-30 | 2000-01-21 | Sharp Corp | Notion vector detection circuit |
JP2000102015A (en) * | 1998-09-22 | 2000-04-07 | Sharp Corp | Motion vector detector and motion vector detection method |
-
2002
- 2002-06-19 JP JP2002179049A patent/JP2004023673A/en active Pending
-
2003
- 2003-06-11 WO PCT/JP2003/007438 patent/WO2004002148A1/en active Application Filing
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06500910A (en) * | 1991-06-27 | 1994-01-27 | トムソン コンシュメ エレクトロニクス | How to convert the timing of a video sequence |
JPH05137122A (en) * | 1991-11-14 | 1993-06-01 | Hitachi Ltd | Signal processing method for video signal and circuit therefor |
JPH05260460A (en) * | 1992-03-09 | 1993-10-08 | Matsushita Electric Ind Co Ltd | Motion detector |
JPH07222176A (en) * | 1994-02-07 | 1995-08-18 | Graphics Commun Lab:Kk | Block matching method and device in moving picture compression |
JPH0884293A (en) * | 1994-03-30 | 1996-03-26 | Thomson Consumer Electron Sa | Method and apparatus for reducing conversion artifact |
JPH0898186A (en) * | 1994-09-22 | 1996-04-12 | Victor Co Of Japan Ltd | Motion vector detecting device |
JPH08223578A (en) * | 1995-02-13 | 1996-08-30 | Nippon Telegr & Teleph Corp <Ntt> | Method for searching motion vector and device therefor |
JPH10501953A (en) * | 1995-04-11 | 1998-02-17 | フィリップス エレクトロニクス ネムローゼ フェンノートシャップ | Motion compensated field rate conversion |
JPH0918882A (en) * | 1995-07-03 | 1997-01-17 | Matsushita Electric Ind Co Ltd | Motion vector retrieval method and device |
JPH09162747A (en) * | 1995-12-14 | 1997-06-20 | Matsushita Electric Ind Co Ltd | Device and method for detecting motion vector |
JP2000023163A (en) * | 1998-06-30 | 2000-01-21 | Sharp Corp | Notion vector detection circuit |
JP2000102015A (en) * | 1998-09-22 | 2000-04-07 | Sharp Corp | Motion vector detector and motion vector detection method |
Also Published As
Publication number | Publication date |
---|---|
JP2004023673A (en) | 2004-01-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6118488A (en) | Method and apparatus for adaptive edge-based scan line interpolation using 1-D pixel array motion detection | |
US7671922B2 (en) | Chroma upsampling method and apparatus therefor | |
KR100303728B1 (en) | Deinterlacing method of interlaced scanning video | |
US6266093B1 (en) | Color video camera method and system | |
US6947094B2 (en) | Image signal processing apparatus and method | |
JPH1188893A (en) | Image signal processor | |
US8355442B2 (en) | Method and system for automatically turning off motion compensation when motion vectors are inaccurate | |
JP4510874B2 (en) | Composite image detector | |
US8345148B2 (en) | Method and system for inverse telecine and scene change detection of progressive video | |
JP2003339029A (en) | Motion vector correction circuit and method therefor | |
EP1460847B1 (en) | Image signal processing apparatus and processing method | |
US7327397B2 (en) | Image processing with pixel interpolation | |
WO2003055211A1 (en) | Image signal processing apparatus and processing method | |
USRE45306E1 (en) | Image processing method and device thereof | |
WO2004002148A1 (en) | Motion vector detection device, detection method, motion compensation device, and motion compensation method | |
US6417887B1 (en) | Image display processing apparatus and method for converting an image signal from an interlaced system to a progressive system | |
WO2012157618A1 (en) | Video-signal processing device and display device | |
JPS62111586A (en) | Movement adaptive signal processing circuit | |
JPS6235788A (en) | Conversion system for frame frequency of video signal | |
JP4337302B2 (en) | Motion compensation circuit and method | |
JP2009124261A5 (en) | ||
JP2001024987A (en) | Successive scanning converting circuit | |
JP2001103433A (en) | Scanning double-speed signal output method | |
JPS63141469A (en) | Movement detection circuit | |
JPH05268634A (en) | Detection of motion |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
AK | Designated states |
Kind code of ref document: A1 Designated state(s): CN KR US |
|
AL | Designated countries for regional patents |
Kind code of ref document: A1 Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IT LU MC NL PT RO SE SI SK TR |
|
DFPE | Request for preliminary examination filed prior to expiration of 19th month from priority date (pct application filed before 20040101) | ||
121 | Ep: the epo has been informed by wipo that ep was designated in this application | ||
122 | Ep: pct application non-entry in european phase |