WO2009102011A1 - 更新領域検出装置 - Google Patents

更新領域検出装置 Download PDF

Info

Publication number
WO2009102011A1
WO2009102011A1 PCT/JP2009/052399 JP2009052399W WO2009102011A1 WO 2009102011 A1 WO2009102011 A1 WO 2009102011A1 JP 2009052399 W JP2009052399 W JP 2009052399W WO 2009102011 A1 WO2009102011 A1 WO 2009102011A1
Authority
WO
WIPO (PCT)
Prior art keywords
area
threshold
update
detected
update area
Prior art date
Application number
PCT/JP2009/052399
Other languages
English (en)
French (fr)
Inventor
Jun Takada
Original Assignee
Nec Corporation
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nec Corporation filed Critical Nec Corporation
Priority to US12/865,188 priority Critical patent/US8331696B2/en
Priority to JP2009553459A priority patent/JP5446878B2/ja
Publication of WO2009102011A1 publication Critical patent/WO2009102011A1/ja

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/223—Analysis of motion using block-matching
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/507—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction using conditional replenishment

Definitions

  • the present invention relates to an update area detection apparatus, and more particularly to an update area detection apparatus for detecting an update area from previous and subsequent frames of drawing data of a computer screen.
  • the server device executes all the applications that are input / output and displayed on the terminal device.
  • a thin client system has been introduced in which all generated files associated with this are also managed by the server device.
  • drawing data of an application program executed on a server device is transferred to a terminal device on the client side through a network such as a LAN (Local Area Network) and displayed on the screen of the terminal device.
  • a network such as a LAN (Local Area Network)
  • the processing amount of drawing data increases or the number of terminal devices connected to the server device increases, the load on the server device for transferring the drawing data to the terminal device increases, and the response time decreases. And problems such as significant limitations on the number of connected terminal devices.
  • pixel values are compared between the previous frame and the current frame.
  • the difference between the pixel values is generally compared with the threshold and whether it is the update area or not depending on whether the difference exceeds the threshold Determine
  • the threshold value when the threshold value is set to a smaller value, it is susceptible to noise, and there is a problem that a size larger than the actual update area is detected as the update area.
  • the threshold when the threshold is set to a large value, detection of the update area is likely to be insufficient, and there is a problem that an area smaller than the actual update area is detected as the update area. If the detection of the update area becomes excessive, the code amount will increase even if the screen update is slight.
  • underdetection occurs over a plurality of frames, a discontinuous boundary of luminance comes to be perceived between an area which is successfully detected and an area which is missed.
  • An object of the present invention is to provide an update area detection apparatus capable of detecting an update area from drawing data of a computer screen with high accuracy.
  • the update area detection device of the present invention calculates a difference absolute value for each pixel between a current frame and a previous frame which is a frame before the current frame, and the shape whose difference absolute value is determined from pixels equal to or greater than a first threshold Further, an area including pixels having a difference absolute value equal to or larger than a second threshold larger than the first threshold is detected as an update area which is an area changing from the previous frame to the current frame.
  • an updated area detection device capable of detecting an updated area from drawing data on a computer screen with high accuracy.
  • FIG. 1 is a block diagram of a video signal encoding device according to an embodiment of the present invention. It is a flowchart which shows the flow of a process of the video signal coding apparatus based on embodiment of this invention. It is explanatory drawing of the encoding process of the video signal by the video signal encoding apparatus concerning embodiment of this invention. It is a block diagram of a 1st Example of a movement vector detection part. It is a flowchart which shows the flow of a process of the movement vector detection part which concerns on a 1st Example.
  • FIG. 10 is an explanatory diagram of edge extraction processing in the movement vector detection unit according to the first embodiment.
  • FIG. 1 It is a figure which shows an example of the hash table of the present flame
  • FIG. 8 is a diagram showing an example in which a rectangle circumscribing the feature point group in the moving area detection unit according to the first embodiment is a moving area; It is a flowchart which shows the 1st process example of the movement area
  • FIG. 7 is a block diagram of a first embodiment of an update area detection unit. It is a flowchart which shows the flow of a process of the update area
  • FIG. 8 is a diagram showing an example in which the upper end buffer, the lower end buffer, and the flag buffer used in the update area detection unit according to the first embodiment are updated according to the difference between the reference frame after motion compensation and the current frame.
  • Reference Signs List 100 video signal encoding apparatus 101 image input apparatus 102 data storage apparatus 103 data processing apparatus 104 code output apparatus 111 encoding target frame storage unit 112 reference frame storage unit 113 work area 121 movement vector detection unit 122 movement area detection unit 123 motion compensation Part 124 Update area detection area setting part 125 Update area detection part 126 Area coding part 131 Current frame 132 Reference frame 134 Movement vector 135 Area 136 area 137 Reference frame 138 Update area 139 Update area 201 Edge extraction part 202 Feature point extraction part 203 Feature point pair extraction unit 204 movement vector calculation unit 205 movement vector candidate generation unit 206 movement vector selection unit 301 initial candidate determination unit 302 movement region determination unit 401 movement region presence determination unit 402 movement direction determination 403 dividing unit 411 moving region presence determining unit 412 moving region overlap determining unit 413 moving direction determining unit 414 dividing unit 501 moving region presence determining unit 502 dividing unit 511 moving region presence determining unit 512 moving region overlap determining unit 513 dividing unit 601 pixel comparison Part 602
  • an example of a video signal encoding apparatus 100 includes an image input apparatus 101, a data storage apparatus 102, a data processing apparatus 103, and a code output apparatus 104. ing.
  • the image input device 101 is a device for inputting a video signal to be encoded, for example, an analog capture or digital capture of a color video signal of a display screen of a computer (not shown), and storing it in the data storage device 102.
  • the captured video signal for one screen is called frame or screen data.
  • the data storage device 102 stores an encoding target frame storage unit 111 that stores a frame input from the image input device 101, and a reference frame that stores a reference frame used for encoding a frame stored in the encoding target frame storage unit 111.
  • a storage unit 112 has a work area 113 for holding various data which are appropriately referred to and updated in the process of encoding a frame.
  • the data processing device 103 is a device that encodes the encoding target frame stored in the data storage device 102, and the movement vector detection unit 121, the movement area detection unit 122, the motion compensation unit 123, and the update area detection area setting unit An update region detection unit 125 and a region coding unit 126 are provided. Each part has the following functions.
  • the movement vector detection unit 121 has a function of detecting one main movement vector by comparing the encoding target frame with the frame immediately preceding it.
  • the main movement vector means, in other words, the dominant one or more movement vectors. For example, when map scrolling and mouse cursor movement occur simultaneously on the computer screen, most of the moving area is occupied by map scrolling, so the movement vector by map scrolling becomes the main movement vector.
  • the movement area detection unit 122 is an image area that is the same or similar image area that exists in both the encoding target frame and the frame immediately before it, and the movement vector whose position on the screen is detected by the movement vector detection unit 121 It has a function of detecting an image area that is changing only as a moving area.
  • the motion compensation unit 123 copies the movement area detected by the movement area detection unit 122 to the movement destination indicated by the movement vector in the reference frame used to encode the encoding target frame, and the reference frame after motion compensation Have the ability to generate
  • the update area detection area setting unit 124 has a function of setting one or more update area detection areas on the frame.
  • the update area detection unit 125 has a function of detecting, as an update area, an area in which the reference frame after motion compensation and the encoding target frame are different for each update area detection area set by the update area detection area setting unit 124. .
  • the area coding unit 126 generates a code obtained by coding the update area detected by the update area detection unit 125 as an image according to an arbitrary coding method.
  • the code output device 104 is a device that reads out and outputs the code generated for the encoding target frame from the work area 113 of the data storage device 102, and is configured of, for example, a communication device that communicates with a client terminal (not shown).
  • the code generated for one encoding target frame the code of the update area generated by the area coding unit 126, the movement area information detected by the movement vector detection unit 121 and the movement area detection unit 122 (the movement source The coordinates of the region and the movement vector) are included.
  • the motion vector detection unit 121, the movement area detection unit 122, the motion compensation unit 123, the update area detection area setting unit 124, the update area detection unit 125, and the area encoding unit 126 It can be realized with the program operating above.
  • the program is provided by being recorded in a computer-readable recording medium such as a CD-ROM, and is read by the computer at startup of the computer or the like to realize the above-described units on the computer by controlling the operation of the computer.
  • the image input device 101 of the video signal encoding device 100 captures a frame to be encoded, and stores it as the current frame in the encoding target frame storage unit 111 of the data storage device 102 (step S101 in FIG. 2).
  • the motion vector detection unit 121 compares the current frame with the frame (reference frame) stored in the reference frame storage unit 112 immediately before the end of the coding to detect one main motion vector. (Step S102). For example, if the movement vector 134 illustrated from the comparison of the current frame 131 and the reference frame 132 in FIG. 3 is dominant, the movement vector 134 is detected as the main movement vector. Information on the detected movement vector 134 is temporarily stored in the work area 113.
  • movement region detection unit 122 is the same or similar image region existing in both the current frame and the reference frame, and is displayed on the screen.
  • An image area in which the position at is changing by the movement vector detected by the movement vector detection unit 121 is detected as a movement area (step S104).
  • the areas 135 and 136 are detected as movement areas.
  • the coordinate information of the detected movement areas 135 and 136 is temporarily stored in the work area 113.
  • the motion compensating unit 123 performs movement compensation to copy the image of the moving area before the movement on the reference frame to the position after the movement indicated by the movement vector.
  • the reference frame storage unit 112 is updated (step S106). For example, in the case of FIG. 3, the area 136 is copied on the reference frame 132 to a position corresponding to the area 135 in the current frame 131. Thereby, the reference frame 137 after motion compensation of FIG. 3 is generated.
  • step S103 when the movement vector is not detected (NO in step S103), the detection of the movement area and the motion compensation are not performed. Further, even if the movement vector is detected, if the detection of the movement area fails (NO in step S105), the motion compensation is not performed.
  • the update area detection area setting unit 124 sets one or more update area detection areas for detecting the update area on the frame (step S107).
  • the update area detection unit 125 detects, as an update area, an area where the reference frame and the current frame are different for each of the update area detection areas set by the update area detection area setting unit 124 (step S108).
  • the update areas 138 and 139 are detected. Coordinate information of the detected update areas 138 and 139 is temporarily stored in the work area 113.
  • the area coding unit 126 generates a code obtained by coding the update area detected by the update area detection unit 125 as an image (step S109).
  • the generated code is temporarily stored in association with the coordinate information of the update area stored in the work area 113.
  • the code output device 104 generates the information generated for the current frame from the work area 113 of the data storage device 102, that is, coordinate information of each update area, its code, and movement area information (coordinate information of movement area and movement vector). Read out and output (step S110). For example, in the case of FIG. 3, the coordinate information and its code of the update area 138, the coordinate information and code of the update area 139, the coordinate information of the movement area 136 and the movement vector 134 are output as code information about the current frame.
  • the procedure is the reverse of encoding.
  • the moving area 136 of the reference frame 132 is copied to the location indicated by the movement vector 134 to generate the reference frame 137 after motion compensation.
  • the current frame 131 is generated by reflecting the update area 138 and the update area 139 decoded from the code information with respect to this reference frame.
  • the motion compensation unit 123 can be realized by a copy unit
  • the area coding unit 126 can be realized by a known image coding technique such as predictive coding, transform coding, vector quantization, entropy coding, etc.
  • the movement vector detection unit 121, the movement area detection unit 122, the update area detection area setting unit 124, and the update area detection unit 125 will be described in detail.
  • the first embodiment of the movement vector detection unit 121 includes an edge extraction unit 201, a feature point extraction unit 202, a feature point pair extraction unit 203, and a movement vector calculation unit 204. Each has almost the following functions.
  • the edge extraction unit 201 has a function of extracting a point having a large change in pixel value in the current frame and the reference frame as an edge point.
  • Edge points are two predetermined orthogonal directions (upper and left, left and lower, lower and right, right and upper, diagonal upper left and diagonal lower left, diagonal lower left and diagonal lower right, diagonal lower right and diagonal upper right,
  • the difference between the pixel values of the adjacent pixels at the upper right and the upper left of the diagonal is a pixel that differs by a preset threshold or more. For example, the difference between pixel values is obtained for each component of R, G, and B, and if the difference between any of the components is equal to or greater than the threshold, it is determined that the difference between pixel values of two pixels is equal to or greater than the threshold. .
  • the feature point extraction unit 202 is an edge point whose positional relationship with one or more other edge points is unique (also referred to as unique) in the frame (that is, other edge points).
  • the edge point where the positional relationship with one or more edge points of (1) only appears in the frame is extracted as a feature point.
  • one edge point that appears immediately before in the raster scan order of the frame is used as one or more other edge points.
  • a plurality of edge points may be used, such as the immediately preceding first edge point and the immediately preceding second edge point.
  • a value representing the distance between the edge points As data defining the positional relationship between an edge point and another edge point, it is possible to use a value representing the distance between the edge points by the number of pixels.
  • some lower bits of a bit string representing the distance may be used as a hash value, and an edge point unique to this hash value may be extracted as a feature point.
  • lower 11 bits of a bit string representing a distance are used as a hash value.
  • the feature point pair extraction unit 203 has a function of extracting a pair of feature points having the same positional relationship with other edge points from the current frame and the reference frame.
  • the feature point pair extraction unit 203 extracts a pair of feature points having the same positional relationship with other edge points and in which the difference in pixel value is equal to or less than a threshold.
  • the movement vector calculation unit 204 has a function of calculating, as a movement vector, a difference between coordinate values of a pair of feature points extracted from the current frame and the reference frame.
  • the movement vector calculation unit 204 includes a movement vector candidate generation unit 205 and a movement vector selection unit 206.
  • the movement vector candidate generation unit 205 has a function of generating, as movement vector candidates, differences in coordinate values for each feature point pair when there are a plurality of pairs of feature points extracted from the current frame and the reference frame.
  • the movement vector selection unit 206 has a function of selecting the most frequently appearing movement vector candidate among movement vector candidates as a movement vector.
  • the edge extraction unit 201 of the movement vector detection unit 121 focuses on the first pixel of the current frame stored in the encoding target frame storage unit 111 (step S201 in FIG. 5), and determines whether the pixel of interest is an edge point. It determines (step S202). If it is not an edge point, attention is shifted to the next pixel in the order of the raster scan direction (step S206), and it is determined whether the pixel of interest is an edge point (step S202).
  • step S202 If the pixel of interest is an edge point (YES in step S202), a set of coordinate values and pixel values of the pixel of interest is temporarily stored in the work area 113 as edge point information (step S203). Next, the distance to the immediately preceding edge point stored in the work area 113 is determined, and the lower 11 bits of the distance are calculated as a hash value (step S204), and the current frame stored in the work area 113 is handled.
  • the hash table to be updated is updated (step S205). For example, as shown in FIG.
  • an example of the hash table corresponding to the current frame has an entry corresponding to each hash value of 0 to 2047 in a one-to-one correspondence, and the appearance frequency, final appearance coordinate, and pixel value are stored in each entry. be registered.
  • the initial value of the appearance frequency is 0, and the initial values of the final appearance coordinate and the pixel value are NULL.
  • the edge extraction unit 201 increments the appearance frequency of the entry having the calculated hash value by one in the update process of the hash table in step S205, and detects the coordinate value of the detected edge point and the pixel value as the final appearance coordinate and the pixel value. Record in the field. For example, in the case of pixel P (5, 1) described above, the appearance frequency in the entry of hash value 4 in FIG. 7 is incremented by 1 and the coordinate value and pixel value of pixel P (5, 1) are recorded in the same entry. Be done.
  • the edge extraction unit 201 repeatedly executes the above processing up to the last pixel of the current frame.
  • the feature point extraction unit 202 refers to the hash table corresponding to the current frame, and the coordinate value and the pixel value for the entry whose appearance frequency is 1 All edge points for which are recorded are extracted as feature points (step S208). For example, if the hash table corresponding to the current frame at the time of completion of processing by the edge extraction unit 201 is as shown in FIG. 7, the pixel P (5, 1) is extracted as one feature point.
  • the feature point pair extraction unit 203 extracts all pairs of feature points having the same hash value with reference to the hash table corresponding to the current frame and the hash table corresponding to the previous frame (step S209).
  • the hash table corresponding to the previous frame is created by the edge extraction unit 201 when the previous frame is processed as the current frame, and is stored in the work area 113.
  • the hash value is the same as that of the pixel P (5, 1) extracted as the feature point from the current frame shown in FIG. Since the pixel P (5, 8) exists in the previous frame, the pair of the pixel P (5, 8) in the previous frame and the pixel P (5, 1) in the current frame is extracted as one feature point pair .
  • the feature point pair extracting unit 203 is highly likely to be a pair for which the difference between R, G, and B color components is less than or equal to a preset threshold. Therefore, the other feature point pairs are excluded (step S210).
  • the feature point pair extraction unit 203 records information on the remaining feature point pairs in the work area 113.
  • the movement vector candidate generation unit 205 of the movement vector calculation unit 204 reads the information of the feature point pair from the work area 113, and generates the difference of the coordinate value as a movement vector candidate for each pair (step S211). For example, in the case of the feature point pair of P (5, 8) and P (5, 1) described above, (0, -7) is generated as a motion vector candidate. In addition, since the static vector is ignored, when the difference is (0, 0), it is excluded from the candidates.
  • the movement vector candidate generation unit 205 records information of movement vector candidates in the work area 113.
  • the movement vector selection unit 206 reads out information on movement vector candidates from the work area 113, counts the total number of the same movement vector candidates to obtain the appearance frequency of each movement vector candidate, and obtains the most frequently appearing movement vector candidate. It is selected as an estimated value of the main movement vector (step S212). Then, the movement vector selection unit 206 records the detection result of the movement vector in the work area 113 (step S213).
  • FIG. 10 shows the relationship between an image obtained by plotting the pair of feature points included in the detection result in the previous frame and the current frame, and the estimated movement vector.
  • the movement vector estimated from the most frequent movement vector candidate is the main movement vector among the one or more movement vectors present in the current frame.
  • the main movement vector can be detected at high speed and with high accuracy from the video signal of the computer screen.
  • the first reason is that it is not necessary to search for various vectors in each pixel block, and movement vectors are determined by extraction and comparison of edge points and feature points.
  • the movement vector in a relatively large object unit such as a window can be detected as the main movement vector because the comparison is made not on a block basis but on the whole screen.
  • the pixel values do not have to exactly match at the movement source and movement destination, and it is also possible to cope with a video signal with much analog capture and noise .
  • the motion vector detection unit 121 of this embodiment (1) does not detect a plurality of vectors simultaneously, (2) does not detect motion vectors of objects with sub-pixel units or deformation, and (3) an object with few edges. There is a restriction that the movement vector is not detected. However, (1) and (2) are unlikely to occur on the computer screen, and the area as in (3) does not pose a major problem because the code amount is small even if it is encoded as an image as it is.
  • the first embodiment of the moving area detection unit 122 includes an initial candidate determining unit 301 and a moving area determining unit 302. Each has almost the following functions.
  • the initial candidate determination unit 301 has a function of determining an initial candidate of the moving area.
  • the movement area determination unit 302 moves the motion compensation unit 123 from among the initial candidate of the movement area determined by the initial candidate determination unit 301 and one or more other movement area candidates obtained by changing the size of the movement area of the initial candidate. It has the function of determining the movement area used for compensation.
  • the initial candidate determination unit 301 of the movement area detection unit 122 determines the movement area of the initial candidate (step S301 in FIG. 12).
  • a method of determining an initial candidate there is a method of using, as an initial candidate of a moving region, a rectangle circumscribing the feature point group which is the calculation source of the moving vector candidate used by the moving vector detection unit 121 to estimate the moving vector.
  • the movement area detection unit 122 extracts the feature points described in the above detection result from the work area 113. Read out every previous frame and current frame. For example, as illustrated in the previous frame of FIG.
  • the moving area detection unit 122 sets a rectangle circumscribing the feature point group as a moving area before moving. Then, as shown in the current frame of FIG. 13, the moving area detection unit 122 detects a rectangle circumscribing the feature point group as a moving area after movement. Information on the detected moving area of the initial candidate is temporarily recorded in the work area 113.
  • a rectangle circumscribing any three or more feature points in the feature point group included in the movement vector candidate used by the movement vector detection unit 121 for estimating the movement vector There are a method of making an initial candidate of a moving area, a method of making an entire frame an initial candidate of a moving area, and the like.
  • the movement area determination unit 302 of the movement area detection unit 122 determines a movement area to be used for motion compensation among the initial candidate and the other candidates (step S302).
  • a configuration example of the movement area determination unit 302 will be described in detail.
  • Example 1 of moving area determination unit 302 14A and 14B show an example of processing of the moving area determination unit 302 of this first example.
  • the movement area determination unit 302 actually performs motion compensation based on the determined movement area and movement vector of the initial candidate, compares each pixel value, and confirms whether or not it is correctly translated.
  • which of the code amount reduced by motion compensation and the code amount increased by motion compensation is larger is the degree to which the moving area is suitable and unsuitable as a moving area used for motion compensation.
  • the merit value and the demerit value respectively indicated are used as an evaluation measure, and estimation is made in the following manner (steps S311 and S312).
  • the merit value is an evaluation scale indicating the degree to which the movement area is suitable as a movement area used for motion compensation
  • the demerit value is an evaluation scale indicating the degree to which the movement area is not suitable as a movement area used for motion compensation
  • the initial value is 0.
  • the reason for adding the condition that there is a luminance gradient equal to or more than the threshold between adjacent pixels is that the code amount generally increases in the coding by the difference in the part including the point where the luminance gradient is included. .
  • the above-mentioned process a) is performed on the entire moving area of the initial candidate, and if the merit value is larger than the demerit value, it is adopted as the moving area, and otherwise discarded.
  • the process of adding the merit value and the demerit value according to the comparison result of the pixel values and comparing the final merit value and the demerit value is performed by adding only one of the merit value and the demerit value. It is equivalent to the method of using subtraction properly. Specifically, first, every time a pixel whose difference between the motion compensated pixel value and the true pixel value is equal to or greater than a predetermined threshold is detected, the merit value is subtracted by a predetermined value (or the demerit value is decreased by a predetermined value) to add. Next, every time a pixel whose difference between the motion-compensated pixel value and the true pixel value is smaller than a predetermined threshold and whose luminance gradient is greater than or equal to the threshold is detected. A process of adding a value by a predetermined value (or subtracting a demerit value by a predetermined value) is performed. Thus, positive and negative values of the final merit value (or disadvantage value) may be determined.
  • Step S312 When the initial candidate of the moving area is rejected (NO in step S312), in this example, the moving area is no longer detected at all, and the detection result of the detection of the moving area fails is recorded in the work area 113 ( Step S323) The processing of FIG. 14A and FIG. 14B is ended.
  • step S312 when the initial candidate of the movement area is adopted (YES in step S312), it is checked whether the area can be further expanded vertically and horizontally by the following procedure.
  • step S313 For each line in the movement area, check the number of consecutive pixels where the “pixel value after motion compensation” and the “true pixel value” match (the difference becomes less than the threshold) when the area is expanded to the right.
  • the right end is determined with the minimum value of the number of continuous pixels as the maximum enlargement width to the right (step S313). For example, as shown in FIG. 15, when the right end of the initial candidate is extended to the right, the first line and the third line have three consecutive pixels, and all the remaining lines have two consecutive pixels. Assuming that the pixel value and the true pixel value match, the maximum enlargement width to the right is two pixels which is the minimum value of the number of continuous pixels.
  • step S315 to S318 With respect to the movement area after the above processes (I) and (II), the area is further enlarged upward by one line (steps S315 to S318). Specifically, the merit value and the demerit value when one line is expanded are calculated by the same method as the above (A) and (A) (steps S315 and S316), and if the merit value is larger than the demerit value ( The process returns to step S315, and the same processing is performed on the next line. If the merit value is not larger than the demerit value, the upper end before the expansion of one line is determined to the upper end of the movement area (step S318).
  • the movement area determination unit 302 records the detection result including the coordinate information of the movement area after enlargement in the work area 113 (step S323), and ends the processing of FIGS. 14A and 14B.
  • the reason for adopting different methods for expanding the moving area to the left and right and up and down is that memory access to a plurality of pixels on the same line can be performed at high speed, but to pixels on different lines Because it takes time to access the memory of. That is, if the enlargement to the left and right is expanded one row at a time in the same manner as the upper and lower ones, even one row expansion requires memory access over the entire line of the movement area. However, under such a situation where the memory access time does not matter, the horizontal expansion of the moving area may be performed in the same manner as the vertical expansion. Conversely, enlargement of the movement area in the vertical direction may be performed by a simple method used for enlargement in the horizontal direction.
  • the validity of the initial candidate determined by the initial candidate determining unit 301 can be determined quantitatively, so that motion compensation using an inappropriate moving area is prevented. can do.
  • the initial candidate is valid, it is possible to search for a larger moving area with a large code amount reduction effect.
  • Example 2 of moving area determination unit 302 16A and 16B show a process example of the moving area determination unit 302 of this second example.
  • the difference between Example 2 and Example 1 is as follows. In Example 1, only moving areas larger in size than the initial candidate were searched. On the other hand, in Example 2, considering the possibility that the movement area is excessively detected as an area larger than the true movement area, the possibility of the area reduction is first determined for each side, The sides not detected were expanded in the same manner as in Example 1.
  • the movement area determination unit 302 determines the validity of the movement area of the initial candidate by the same method as in Example 1 (steps S331 and S332). If the initial candidate of the moving area is rejected (NO in step S332), the moving area is not detected at all in the present example as in Example 1, and the detection result indicating that the detection of the moving area has failed is displayed in the work area 113 (Step S357), and the process of FIG. 16A and FIG. 16B is complete
  • step S332 when the initial candidate of the moving area is adopted (YES in step S332), it is checked whether the area can be further reduced from upper, lower, left, and right, and can be expanded to upper, lower, left, or right.
  • the movement area determination unit 302 calculates the maximum reduction width from the right of the movement area of the initial candidate (step S333). Specifically, for each line in the moving area, when the area is narrowed from the right, the "pixel value after motion compensation" and the "true pixel value” do not match (the difference becomes a threshold or more) the number of consecutive pixels And determine the right end with the minimum value of the number of consecutive pixels as the maximum reduction width from the right. For example, as shown in FIG. 17, when the right end of the initial candidate is narrowed from the right, the first line, the fourth line, and the fifth line have three consecutive pixels, and all the remaining lines have two consecutive pixels. Assuming that the pixel value after motion compensation and the "true pixel value" do not match, the maximum reduction width from the right is two pixels which is the minimum value of the number of continuous pixels.
  • the movement region determination unit 302 determines whether or not the maximum reduction width is 0 (step S334). If the maximum reduction width is not 0, for example, as shown in FIG. The portion narrowed only is determined as the right end of the movement area (step S335). If the maximum reduction width is 0, the maximum expansion width to the right of the movement area is calculated by the same method as in Example 1, and the right end is determined (step S336).
  • the movement area determination unit 302 calculates the maximum reduction width from the left end of the initial area as well as the right end (step S337), and determines the left end from the maximum reduction width if the maximum reduction width is not 0 (step S338). , 339). If the maximum reduction width is 0, the maximum expansion width from the left end is calculated in the same manner as in Example 1, and the left end is determined (step S340).
  • the movement area determination unit 302 reduces the movement area by one line from the top, and calculates merit values and demerit values when one line is reduced by the same method as (a) and (b) described above (steps) S341, S342). If the merit value is smaller than the demerit value (YES in step S343), similar reduction processing is repeated for the next line (steps S344 to S346). Then, when it is detected that the merit value is not smaller than the demerit value, the upper end before the reduction by one line is decided to the upper end of the movement area (step S347). On the other hand, when it is determined in step S343 that the merit value is not smaller than the demerit value, the maximum extension width on the moving area is calculated by the same method as in example 1 and the upper end is determined (step S348).
  • the movement area determination unit 302 performs the same process from above and below the movement area (steps S349 to S356).
  • the movement area determination unit 302 records the detection result including the coordinate information of the movement area determined by the upper, lower, left, and right ends in the work area 113 (step S 357), and ends the processing of FIGS. 16A and 16B.
  • the reason for adopting different methods for reduction from the left and right of the movement area and reduction from the top and bottom is that memory access to a plurality of pixels on the same line can be performed at high speed, but to pixels on different lines Because it takes time to access the memory of. That is, if the reduction to the left and right is sequentially performed one column at a time in the same manner as the upper and lower ones, even if only one column reduction is performed, memory access over the entire line of the movement area is required. However, under such circumstances where the memory access time does not matter, the reduction from the left and right of the moving area may be performed in the same manner as the reduction from the top and bottom. Conversely, the reduction from the top and bottom of the movement area may be performed by a simple method used for the reduction from the left and right.
  • the validity of the initial candidate determined by the initial candidate determining unit 301 can be determined quantitatively, so that motion compensation using an inappropriate moving area is prevented. can do.
  • the initial candidate is valid, first attempt reduction from the top, bottom, left, and right, so if the moving area of the initial candidate is excessively detected as a larger area than the true moving area, reduce the excess detection amount. Becomes possible.
  • the side where there is no possibility of excessive detection it is possible to expand to a larger moving area in which the code amount reduction effect is large.
  • Example 3 of moving area determination unit 302 A process example of the moving area determination unit 302 of this example 3 is shown in FIG. The difference between Example 3 and Example 2 is that, in Example 2, the movement area detection is no longer detected if the merit value calculated for the initial candidate is below the demerit value. The possibility of the reduction of the area is determined for each side in consideration of the possibility that the area is detected too much more than the true movement area.
  • the movement area determination unit 302 determines the validity of the movement area of the initial candidate by the same method as in Example 2 (steps S361 and S362).
  • a process step S363 in the case where the initial candidate of the moving area is not rejected (YES in step S362) is the same as steps S333 to S356 in the second example.
  • step S362 when the initial candidate of the moving area is rejected (NO in step S362), it is checked whether the area can be further reduced from upper, lower, left, and right by the following procedure.
  • the movement area determination unit 302 calculates the maximum reduction width from the right of the movement area of the initial candidate in the same manner as in Example 2 (step S364).
  • the movement area determination unit 302 determines whether or not the maximum reduction width is equal to the width of the movement area (step S365). If the maximum reduction width is equal to the width of the movement area, detection of the movement area fails The detection result to that effect is generated (YES in step S365, step S372), and the process of FIG. 18 is ended. If the maximum reduction width is not equal to the lateral width of the movement area, a portion narrowed from the right end of the initial candidate by the maximum reduction width is decided as the right end of the movement area (step S366).
  • the movement area determination unit 302 calculates the maximum reduction width from the left end of the initial area as well as the right end, and determines the left end (step S367).
  • the movement area determination unit 302 calculates the maximum reduction width from the top of the movement area in the same manner as in Example 2 (step S368). If the maximum reduction width is equal to the vertical width of the movement area, it is determined that the movement area has failed to be detected, and a detection result to that effect is generated (YES in step S369, step S372), and the process of FIG. If the maximum reduction width is not equal to the vertical width of the movement area, the upper end of the movement area is determined from the maximum reduction width (step S370).
  • the movement area determination unit 302 calculates the maximum reduction width from the bottom of the movement area as well as from the top, and determines the lower end (step S371).
  • the movement area determination unit 302 records the detection result including the coordinate information of the movement area determined by the upper, lower, left, and right ends in the work area 113 (step S372), and ends the process of FIG.
  • the validity of the initial candidate determined by the initial candidate determining unit 301 can be determined quantitatively, so that motion compensation using an inappropriate moving area is prevented. can do.
  • the movement region is as large as possible even if the movement region of the initial candidate is extremely excessively detected compared to the true movement region in order to search for the possibility of reduction. It becomes possible to detect.
  • Example 2 if the initial candidate is valid, first reduction is attempted from the top, bottom, left, and right, so if the movement area of the initial candidate is excessively detected as an area larger than the true movement area It is possible to reduce the amount of detection.
  • Example 4 of moving area determination unit 302 19A and 19B show a process example of the moving area determination unit 302 of this fourth example.
  • Example 4 differs from Example 2 in that in Example 2, validity determination is performed on the initial candidate, and when it is determined that the movement area is attempted to be reduced or expanded, in Example 4 the initial candidate is tried. The point is to try to reduce or enlarge the initial candidate by omitting the judgment of the validity of.
  • the movement area determination unit 302 calculates the maximum reduction width from the right of the movement area of the initial candidate in the same manner as in Example 2 (step S381). Next, the movement area determination unit 302 determines whether the maximum reduction width is equal to the width of the movement area (step S382), and if the maximum reduction width is equal to the width of the movement area (NO in step S382), the movement area As a result of the detection failure in step S399, a detection result to that effect is generated (step S399), and the processing of FIGS. 19A and 19B is ended.
  • the movement area determination unit 302 determines whether the maximum reduction width is 0 (step S 383). The position narrowed by the maximum reduction width is determined as the right end of the movement area (step S384). If the maximum reduction width is 0, the movement area determination unit 302 calculates the maximum expansion width to the right in the same manner as in Example 2 and determines the right end (step S385).
  • the movement area determination unit 302 calculates the maximum reduction width from the left of the movement area of the initial candidate in the same manner as in Example 2 (step S386), and the maximum reduction width is not 0 (NO in step S387). A portion narrowed by the maximum reduction width from the left end of the initial candidate is decided as the left end of the movement area (step S388). If the maximum reduction width is 0, the moving area determination unit 302 calculates the maximum expansion width to the left in the same manner as in Example 2 and determines the left end (step S389).
  • the movement area determination unit 302 calculates the maximum reduction width from the top of the movement area in the same manner as in Example 2 (step S390). If the maximum reduction width is equal to the vertical width of the movement area, the detection of the movement area fails, and a detection result to that effect is generated (YES in step S391, S399), and the processing of FIGS. 19A and 19B ends. Do. If the maximum reduction width is not equal to the vertical width of the movement area, it is determined whether the maximum reduction width is 0 (NO in step S391, NO in step S392). If not 0, the maximum reduction width is narrowed from the top of the initial candidate The location is determined as the upper end of the movement area (step S393). If the maximum reduction width is 0, the moving area determination unit 302 calculates the maximum expansion width upward in the same manner as in Example 2 and determines the upper end (step S394).
  • the movement area determination unit 302 calculates the maximum reduction width from the bottom of the movement area in the same manner as in Example 2 (step S395), and if not 0, a location narrowed by the maximum reduction width from the lower end of the initial candidate. Is determined as the lower end of the movement area (NO in step S396, S397). If the maximum reduction width is 0, the moving area determination unit 302 calculates the maximum expansion width downward in the same manner as in Example 2 and determines the lower end (step S 398).
  • the movement area determination unit 302 records, in the work area 113, the detection result including the coordinate information of the movement area in which the upper, lower, left, and right ends are fixed (step S399), and ends the processing of FIGS. 19A and 19B.
  • the processing amount can be reduced.
  • the reduction from the top, bottom, left, and right is attempted first, it is possible to reduce the excess detection amount when the movement area of the initial candidate is excessively detected as an area larger than the true movement area.
  • the side where there is no possibility of excessive detection it is possible to expand to a larger moving area in which the code amount reduction effect is large.
  • the validity of the movement area of the initial candidate is not determined, there is a possibility that, for example, an area where the donut-shaped hole part is completely different before and after movement may be detected as the movement area.
  • Update area detection area setting unit 124 Referring to FIG. 20, the first embodiment of the update area detection area setting unit 124 includes a moving area presence / absence determination unit 401, a movement direction determination unit 402, and a division unit 403. Each has almost the following functions.
  • the moving area presence / absence determining unit 401 has a function of determining whether the moving area is detected by the moving area detecting unit 122.
  • the movement direction determination unit 402 has a function of determining the movement direction of the movement area detected by the movement area detection unit 122.
  • the dividing unit 403 has a function of determining the necessity of screen division and setting the update area detection area by screen division according to the determination results of the moving area presence / absence determination unit 401 and the movement direction determination unit 402.
  • the movement area presence / absence determination unit 401 of the update area detection area setting unit 124 determines whether or not the movement area is detected by reading out the detection result of the movement area detection unit 122 from the work area 113 and analyzing it.
  • the moving direction determination unit 402 and the division unit 403 are notified (step S501 in FIG. 21).
  • the movement direction determination unit 402 determines the movement direction (step S502). Specifically, the movement direction determination unit 402 first receives, from the movement area presence determination unit 401, a notification that the movement area has been detected. Next, the movement direction determination unit 402 compares the coordinates of the movement area before movement included in the detection result of the movement area detection unit 122 read from the work area 113 with the coordinates of the movement area after movement. It is determined whether the direction is a direction including a component moving downward from the top of the screen (hereinafter referred to as a downward direction) or a direction including a component moving upward from the bottom of the screen (hereinafter referred to as an upward direction). Then, the movement direction determination unit 402 notifies the division unit 403 of the determination result.
  • a downward direction a direction including a component moving downward from the top of the screen
  • an upward direction a direction including a component moving upward from the bottom of the screen
  • the determination result includes, other than the moving direction, the coordinates of the upper end of the moving area after movement in the downward direction, and the coordinates of the lower end of the moving area after movement in the upward direction.
  • a handling method in the case of the left-right direction which is neither downward nor upward it is conceivable to include, for example, either downward or upward.
  • the dividing unit 403 sets the entire screen as one update area detection area (step S503). Also, when receiving notification from the moving area presence / absence determining unit 401 that the moving area has been detected, the screen is divided according to the notification from the moving direction determining unit 402 (steps S504 to S506). Specifically, if the moving direction is downward, the screen is divided into two at the upper end of the moved area after movement, and each divided area is set as one update area detection area. If the moving direction is upward, the screen is divided into two at the lower end of the moved area after movement, and each divided area is set as one update area detection area. Thereafter, the update area detection unit 125 detects the update area for each update area detection area.
  • the upper left of FIG. 22 indicates that the screen R1 has moved from the moving area R11 to the moving area R12, that is, the moving area has moved downward.
  • the upper right of FIG. 22 shows the case where the entire screen R2 is set as the update area detection area. At this time, the entire area corresponding to the movement area R21 before movement is detected as the update area. In addition, the movement area R20 after movement is not detected.
  • the screen R3 is divided into two by the dividing line L221 at the upper end of the moved area R30 after movement, and the update areas R31 and R32 are detected in each update area detection area. As a result, it is possible to minimize the total area of the update area and to reduce the code amount.
  • the moving area presence / absence determining unit 401 of the update area detection area setting unit 124 determines whether a moving area is detected as in the first processing example, and notifies the moving direction determining unit 402 and the dividing unit 403 of the determination result. (Step S511 in FIG. 23).
  • the movement direction determination unit 402 receives from the movement area presence determination unit 401 a notification indicating that the movement area has been detected, the movement direction is either downward or upward.
  • the determination is made and the determination result is notified to the dividing unit 403 (step S512).
  • the determination result includes, in addition to the movement direction, the coordinates of the upper and lower ends of the movement area after movement, in both cases where the movement direction is downward and upward.
  • the dividing unit 403 sets the entire screen to one update area detection area as in the first processing example (step S513). ). Also, when receiving notification from the moving area presence / absence determining unit 401 that the moving area has been detected, the screen is divided according to the notification from the moving direction determining unit 402 (steps S514 to S516). Specifically, the screen is divided into three at the upper and lower ends of the moved area after movement, in both the downward and upward directions, and each divided area is set as one update area detection area. Thereafter, the update area detection unit 125 detects the update area for each update area detection area.
  • the upper left and upper right of FIG. 24 are the same as the upper left and upper right of FIG.
  • the screen R3 is divided into three by the dividing lines L241 and L242 at the upper and lower ends of the moved area R30 after movement, and the update areas R31 and R32 in each update area detection area Because the detection is performed, the total area of the update area can be minimized, and the code amount can be reduced.
  • the upper left of FIG. 25 shows the case where the movement area R13 detected on the screen R1 is smaller than the actual movement area R12.
  • the upper right of FIG. 25 shows the case where the first processing example of FIG. 21 is applied and the screen R2 is divided into two by the dividing line L251 only at the upper end after movement.
  • the moving area R20a is detected, and the large update areas R22 and R23 are detected unnecessarily.
  • the screen R3 is divided into three by the dividing lines L252 and L253 at the upper and lower ends of the moved area R30a after movement, and the update areas R331 and R332 in each update area detection area , R333 and R334, the total area of the update region can be reduced, and the code amount can be reduced accordingly.
  • the moving area presence / absence determining unit 401 of the update area detection area setting unit 124 determines whether a moving area has been detected as in the second processing example, and notifies the moving direction determining unit 402 and the dividing unit 403 of the determination result. (Step S521 in FIG. 26).
  • the movement direction determination unit 402 receives a notification that the movement area has been detected from the movement area presence determination unit 401, the movement direction is either downward or upward.
  • the determination is made and the determination result is notified to the dividing unit 403 (step S522).
  • the determination result includes the coordinates of the upper and lower ends of the movement area after movement and the lower end of the movement area before movement other than the movement direction, and the movement direction is upward.
  • the coordinates of the upper and lower ends of the movement area after movement and the upper end of the movement area before movement are included.
  • dividing section 403 sets the entire screen to one update area detection area as in the second processing example (step S523). ). Also, when receiving notification from the moving area presence / absence determining unit 401 that the moving area has been detected, the screen is divided according to the notification from the moving direction determining unit 402 (steps S524 to S526). Specifically, when the moving direction is downward, the screen is divided into four at the upper and lower ends of the moved area after movement and the lower end of the moved area before movement, and each divided area is set as one update area detection area .
  • the screen When the moving direction is upward, the screen is divided into four at the upper and lower ends of the moved area after movement and the upper end of the moved area before movement, and each divided area is set as one update area detection area. Thereafter, the update area detection unit 125 detects the update area for each update area detection area.
  • the upper left and upper right of FIG. 27 are the same as the upper left and upper right of FIG.
  • the screen R3 is divided into four by dividing lines L271, L272 and L273 at the upper and lower ends of the moving area R30 after movement and the lower end of the movement area before movement. Since detection of the update areas R31 and R32 is performed in the update area detection area, the total area of the update areas can be minimized, and the code amount can be reduced.
  • the upper left of FIG. 28 is the same as the upper left of FIG.
  • the upper right of FIG. 28 shows the case where the first processing example of FIG. 21 is applied and the screen R2 is divided into two by the dividing line L281 only at the upper end after movement.
  • the moving area R20a is detected, and the large update areas R22 and R23 are unnecessarily detected.
  • the screen R3 is divided into four by the dividing lines L281, L282 and L283 at the upper and lower ends of the moved area R30b after movement and the lower end of the moved area before movement. Since the detection of the update area is performed in the update area detection area, the total area of the update area can be reduced, and the code amount can be reduced accordingly.
  • the upper left of FIG. 29 shows the case where the movement area R14 detected on the screen R1 is larger than the actual movement area R12.
  • the upper right of FIG. 29 shows the case where the first processing example of FIG. 21 is applied and the screen R2 is divided into two by the dividing line L291 only at the upper end after movement.
  • the moving area R20b is detected, and a large update area R24 and R25 is detected unnecessarily.
  • the lower right part of FIG. 29 shows the case where the second processing example of FIG. 23 is applied and the screen R3 is divided into three by the dividing lines L292 and L293 only at the upper and lower ends of the moved area R30c after movement.
  • the detected moving area R30c is included, and the update areas R351 and R352 become somewhat redundant.
  • the screen R4 is divided into four by the dividing lines L294, L295 and L296 at the upper and lower ends of the moving area R40 after movement and the lower end of the movement area before moving Since the update areas R41, R42 and R43 are detected in the area detection area, the total area of the update areas can be reduced compared to the second processing example, and the code amount can be reduced accordingly. However, if the area of the over-detected area is not so large, the second processing example has the advantage of reducing the number of update areas.
  • the second embodiment of the update area detection area setting unit 124 includes a movement area presence / absence judgment unit 411, a movement area overlap judgment unit 412, a movement direction judgment unit 413, and a division unit 414. Be done. Each has almost the following functions.
  • the movement area presence determination unit 411 and the movement direction determination unit 413 have the same functions as the movement area presence determination unit 401 and the movement direction determination unit 402 in the first example of the update area detection area setting unit 124.
  • the moving area overlap determination unit 412 has a function of determining the presence or absence of the possibility of overlapping of the moving areas before and after the movement detected by the moving area detection unit 122.
  • the dividing unit 414 has a function of determining the necessity of screen division and setting the update area detection area by screen division according to the determination results of the moving area presence / absence determination unit 411, the moving area overlap determination unit 412, and the movement direction determination unit 413. .
  • the movement area presence / absence judgment unit 411 of the update area detection area setting unit 124 judges whether or not the movement area is detected similarly to the movement area presence / absence judgment unit 401 of the first embodiment, and the judgment result is the movement area overlap judgment unit It notifies 412 and the dividing unit 414 (step S531 in FIG. 31).
  • the moving area overlap determination unit 412 determines whether the moving areas before and after movement do not overlap (step S532). Specifically, the movement area duplication determination unit 412 first receives a notification that the movement area has been detected from the movement area presence determination unit 401. Next, the moving area overlap determination unit 412 reads from the work area 113 the coordinates of the moving area before the movement and the coordinates of the moving area after the movement included in the detection result of the moving area detection unit 122. Then, the moving area overlap determination unit 412 at least partially includes an area in which the moving area before movement is expanded vertically and horizontally by a predetermined width ⁇ , and an area in which the moved area after movement is expanded vertically and horizontally by a predetermined width ⁇ . Find out if they overlap.
  • the moving area overlap determining unit 412 notifies the moving direction determining unit 413 and the dividing unit 414 of the determination result of overlapping of moving areas when overlapping, and the determination result of overlapping of moving areas when overlapping.
  • the predetermined width ⁇ is set in advance according to the extent to which the detection of the movement area is insufficient.
  • the movement direction determination unit 413 determines the movement direction (step S533). Specifically, the movement direction determination unit 413 first receives, from the movement region overlap determination unit 412, a notification that there is no overlap of movement regions. Next, the movement direction determination unit 413 compares the coordinates of the movement area before movement included in the detection result of the movement area detection unit 122 read from the work area 113 with the coordinates of the movement area after movement. It is determined whether the movement direction is downward or upward. Then, the movement direction determination unit 413 notifies the division unit 414 of the determination result (step S533). Similar to the movement direction determination unit 402 in the first embodiment, the determination result includes coordinates for dividing the screen other than the movement direction.
  • the division unit 414 receives the notification that the movement area is not detected from the movement area presence determination unit 411, and receives the notification that there is no overlap of movement areas from the movement area overlap judgment unit 412, the entire screen is displayed.
  • One update area detection area is set (step S534).
  • the notification from the moving direction determining unit 413 is made.
  • the screen is divided and the update area detection area is set in the same manner as any of the first processing example, the second processing example, and the third processing example of the dividing unit 403 of the first embodiment (steps S535 to S537). ).
  • the update area detection unit 125 detects the update area for each update area detection area.
  • the update area detection area setting unit 124 of the second embodiment since the screen is not divided when there is no possibility that the movement areas before and after movement overlap, the increase in the number of divisions of the update area is suppressed. Can.
  • the third embodiment of the update area detection area setting unit 124 includes a moving area presence / absence determination unit 501 and a division unit 502. Each has almost the following functions.
  • the moving area presence / absence determining unit 501 has a function of determining whether the moving area is detected by the moving area detecting unit 122.
  • the division unit 502 has a function of determining the necessity of screen division and setting an update area detection area by screen division in accordance with the determination result of the moving area presence / absence determination unit 501.
  • the movement area presence / absence determination unit 501 of the update area detection area setting unit 124 determines whether or not the movement area has been detected by reading out the detection result of the movement area detection unit 122 from the work area 113 and analyzing it.
  • the division unit 502 is notified (step S601 in FIG. 33).
  • the dividing unit 502 sets the entire screen as one update area detection area (step S602). Also, when receiving notification from the moving area presence / absence determining unit 401 that the moving area has been detected, the coordinates of the moving area after moving included in the detection result of the moving area detection unit 122 are read from the work area 113 and after moving The screen is divided into three at the upper and lower ends of the movement area (step S603), and each divided area is set as one update area detection area (step S604). Thereafter, the update area detection unit 125 detects the update area for each update area detection area.
  • the upper left and upper right of FIG. 34 are the same as the upper left and upper right of FIG.
  • the screen R3 is divided into three by the dividing lines L341 and L342 at the upper and lower ends of the moved area R30 after movement, and the update areas R31 and R32 in each update area detection area Because the detection is performed, the total area of the update area can be minimized, and the code amount can be reduced.
  • the upper left of FIG. 35 is the same as the upper left of FIG.
  • the upper right of FIG. 35 shows the case where the entire screen R2 is set as the update area detection area.
  • a moving area R26 including the moving area R20c detected as shown in the upper right of FIG. 35 and including the moving area before and after moving is detected.
  • the screen R3 is divided into three by the dividing lines L351 and L352 at the upper and lower ends of the moved area R30a after movement, and the update areas R331 and R332 are detected in each update area detection area. , R333 and R334, the total area of the update region can be reduced, and the code amount can be reduced accordingly.
  • the moving area presence / absence determining unit 501 of the update area detection area setting unit 124 determines whether a moving area is detected as in the first processing example, and notifies the dividing unit 502 of the determination result (step S611 in FIG. 36). ).
  • the dividing unit 502 When receiving the notification that the moving area is not detected from the moving area presence / absence determining unit 501, the dividing unit 502 sets the entire screen as one update area detection area as in the first processing example (step S612). ). Also, when notified that the movement area has been detected from the movement area presence / absence determination unit 501, the coordinates of the movement area before and after movement included in the detection result of the movement area detection unit 122 are read from the work area 113 The screen is divided into five by the upper and lower ends of the moving area and the upper and lower ends of the moving area after movement (step S613), and each divided area is set as one update area detection area (step S614). Thereafter, the update area detection unit 125 detects the update area for each update area detection area.
  • the upper left and upper right of FIG. 37 are the same as the upper left and upper right of FIG.
  • the screen R3 is divided into five by the dividing lines L371, L372, L373 and L374 at the upper and lower ends of the movement area R30 before and after movement, and updated in each update area detection area Since the detection of the regions R31 and R32 is performed, the total area of the update regions can be minimized, and the code amount can be reduced.
  • the upper left and upper right of FIG. 38 are the same as the upper left and upper right of FIG.
  • the screen R3 is divided into five by the dividing lines L381, L382, L383 and L384 at the upper and lower ends of the movement area R30d before and after movement, and updated in each update area detection area Since the detection of the regions R 361, R 362, R 363, R 364, R 365, R 366 and R 367 is performed, the total area of the update regions can be reduced, and the code amount can be reduced accordingly.
  • FIG. 39 shows a case where the first processing example is applied and the screen R3 is divided into three by the dividing lines L391 and L392 at the upper and lower ends of the moved area R30c after movement.
  • redundant update areas R351 and R352 are detected, including the movement area R30c detected as shown in the lower right of FIG.
  • the lower left of FIG. 39 shows a case where the first processing example is applied and the screen R3 is divided into three by the dividing lines L391 and L392 at the upper and lower ends of the moved area R30c after movement.
  • redundant update areas R351 and R352 are detected, including the movement area R30c detected as shown in the lower right of FIG.
  • the screen R4 is divided into five by the dividing lines L393, L394, L395 and L396 at the upper and lower ends of the moving area R40 before and after movement, and the update area is detected in each update area detection area Since the detection of R41, R42 and R43 is performed, the total area of the update area can be reduced, and the code amount can be reduced accordingly.
  • the fourth embodiment of the update area detection area setting unit 124 includes a movement area presence / absence judgment unit 511, a movement area overlap judgment unit 512, and a division unit 513. Each has almost the following functions.
  • the movement area presence / absence judgment unit 511 has the same function as the movement area presence / absence judgment unit 501 in the third example of the update area detection area setting unit 124.
  • the moving area overlap determining unit 512 has a function of determining the possibility of overlapping of moving areas before and after movement detected by the moving area detection unit 122.
  • the dividing unit 513 has a function of determining the necessity of screen division and setting the update area detection area by screen division according to the determination results of the moving area presence / absence determination unit 511 and the moving area overlap determination unit 512.
  • the movement area presence / absence judgment unit 511 of the update area detection area setting unit 124 judges whether or not the movement area is detected similarly to the movement area presence / absence judgment unit 501 of the third embodiment, and the judgment result is the movement area overlap judgment unit It notifies 512 and the division unit 513 (step S621 in FIG. 41).
  • the moving area overlap determination unit 512 determines whether moving areas before and after movement overlap (step S 622). Specifically, the moving area overlap determining unit 512 first receives a notification that the moving area has been detected from the moving area presence / absence determining unit 511. Next, the moving area overlap determination unit 512 reads the coordinates of the moving area before and after the movement included in the detection result of the moving area detection unit 122 from the work area 113. Then, the moving area overlap determination unit 512 at least partially includes an area in which the moving area before movement is expanded vertically and horizontally by a predetermined width ⁇ and an area in which the moved area after movement is expanded vertically and horizontally by a predetermined width ⁇ . Find out if they overlap.
  • the moving area overlap determining unit 512 notifies the dividing unit 513 of the determination result of overlapping of moving areas when overlapping, and the determination result of overlapping without moving area when overlapping.
  • the predetermined width ⁇ is set in advance according to the extent to which the detection of the movement area is insufficient.
  • the division unit 513 receives the notification that the movement region is not detected from the movement region presence determination unit 512, and receives the notification that there is no overlap of movement regions from the movement region overlap judgment unit 512, the entire screen is displayed.
  • One update area detection area is set (step S623).
  • the dividing unit 502 of the third embodiment when receiving the notification that the moving area has been detected from the moving area presence / absence determining unit 512 and receiving the notification that the moving area overlap is present from the moving area overlap determining unit 512, the dividing unit 502 of the third embodiment.
  • the screen is divided into three or five in the same manner as any of the first processing example and the second processing example, and the update area detection area is set (steps S624 and S625). Thereafter, the update area detection unit 125 detects the update area for each update area detection area.
  • the update area detection area setting unit 124 of the fourth embodiment since the screen is not divided if there is no possibility that the movement areas before and after movement overlap, the increase in the number of divisions of the update area is suppressed. Can.
  • the first embodiment of the update area detection unit 125 includes the pixel comparison unit 601 and the update area extraction unit 602, and each update area detection area set by the update area detection area setting unit 124. Every time, an update area which is a difference area between the motion compensated reference frame and the current frame is detected.
  • the pixel comparison unit 601 and the update area extraction unit 602 generally have the following functions.
  • the pixel comparison unit 601 sets, for each of the update area detection areas to be processed, the difference between the values of the pixels at the same position in the reference frame after motion compensation and the current frame to be larger than the first threshold and the first threshold. It has the ability to compare to a second threshold of values.
  • the update area extraction unit 602 determines, for each update area detection area to be processed, a block including pixels in which a difference larger than the second threshold is detected among pixel blocks in which a difference larger than the first threshold is detected. Has a function of extracting as an update area.
  • the update area detection unit 125 reads the information of the update area detection area set by the update area detection area setting unit 124 from the work area 113, and focuses on one of the update area detection areas (step S701 in FIG. 43). Next, the update area is extracted from the update area detection area of interest, and the extraction result is stored in the work area 113 (step S702). When the update area detection unit 125 finishes extracting the update area from one update area detection area, it focuses attention on the next update area detection area (step S703), and repeats the same process as the process described above. . When the process of extracting update areas from all the update area detection areas is completed (YES in step S704), the process of FIG. 43 is ended.
  • step S702 the process executed in step S702 will be described in detail with reference to the flowcharts of FIGS. 44A and 44B.
  • the update area detection unit 125 initializes the upper end buffer, the lower end buffer, and the flag buffer used for the extraction process of the update area (step S711).
  • Each buffer has an entry corresponding to one to one in each column of the frame.
  • the upper end buffer is used to hold, for each column, the row number of the top row in which a difference larger than the first threshold is detected, and the lower end buffer detects a difference larger than the first threshold. Used to hold the row number of the lowest row for each column.
  • the flag buffer holds, for each column, a flag indicating whether a difference larger than the second threshold is detected.
  • the pixel comparison unit 601 pays attention to the top pixel pair among the plurality of pixel pairs included in the update region detection area of the reference frame after motion compensation and the current frame (S 712). For example, as shown in FIG. 45, when the update region detection area under consideration starts from the first row of the frame, pixel P (0, 0) of the reference frame after motion compensation and pixel P (0, 0) of the current frame Note the pair of).
  • the pixel comparison unit 601 calculates the difference between the pixel values of the pair of pixels under consideration (step S713).
  • the difference is compared with the first threshold (step S714), and if the difference is larger than the first threshold, the upper end buffer and the lower end buffer are updated (step S715).
  • the upper end buffer if the entry in the upper end buffer corresponding to the column in which the pixel of interest is located is NULL, the row number in which the pixel of interest is located is recorded in the entry, and not NULL If the line number is already recorded, leave it as it is.
  • the lower end buffer the number of the row in which the target pixel is unconditionally recorded is recorded in the entry of the lower end buffer corresponding to the column in which the target pixel is located.
  • the pixel comparison unit 601 compares the difference with the second threshold (step S716), and updates the flag buffer if the difference is larger than the second threshold (step S717). Specifically, 1 is unconditionally recorded in the entry of the flag buffer corresponding to the column in which the pixel of interest is located.
  • the pixel comparison unit 601 shifts attention to the pair of pixels in the next column of the same row in both frames (step S718), and returns to step S713. If the difference is not greater than the first threshold, the top and bottom buffers are not updated. Further, the flag buffer is not updated unless the difference is larger than the first threshold but not larger than the second threshold.
  • the calculation of the pixel value difference is performed, for example, for each of the R, G, and B components.
  • the comparison with the first and second threshold values is performed for each difference of each component, and if the difference of at least one component is larger than the threshold, it is determined that the difference of the pixel values is larger than the threshold.
  • the pixel comparison unit 601 ends the process for the pair of pixels in one row of the update area detection area of interest (YES in step S719). Then, the pixel comparison unit 601 determines the number of consecutive lines in which a difference larger than the first threshold has not been detected at all since the start of processing or when the update region extraction unit 602 has been called in the past. The number of consecutive update rows is counted (step S720). Subsequently, the pixel comparison unit 601 compares the threshold L set in advance with the number of consecutive non-updated rows (step S721). Here, the threshold L is set to one or more values (for example, 8) to avoid over-division of the update area.
  • the top line of the extraction range of the update area is the top line of the frame if the update area extraction unit 602 has not been called in the past, and if it has been called, it is the line following the last line specified at the previous call.
  • the last line of the extraction range of the update area is a line that has finished processing of the pixels of the last column at the present time.
  • the pixel comparison unit 601 focuses attention on the pair of pixels at the top of the next row of the frame (step S723), and returns to step S713.
  • the pixel comparison unit 601 shifts attention to the pair of pixels at the head of the next row of the frame without calling the update region extraction unit 602 (step S723), returns to step S713.
  • the pixel comparison unit 601 ends the processing until the last pixel pair of the last row of the update area detection area of interest (YES in step S724). Then, if the processing start time or the update area extraction unit 602 has been called in the past, the pixel comparison unit 601 determines whether there is a row in which a difference larger than the first threshold is detected after the previous call time. (Step S725). Here, if there is not, the processing of FIGS. 44A and 44B ends. Also, if it exists, the first row and the last row of the update region extraction range are specified, and the update region extraction unit 602 is called (step S 726), and after the update region detection processing by column division is completed, FIG. The process of FIG. 44B ends.
  • the top line of the extraction range of the update area is the top line of the frame if the update area extraction unit 602 has not been called in the past, and if it has been called, it is the line following the last line specified at the previous call.
  • the last line of the extraction range of the update area is the last line of the frame.
  • the matrix drawn on the upper side of FIG. 45 shows an example of the differential situation between the reference frame after motion compensation and the current frame, and one square indicates the differential situation of one pixel pair.
  • the blank squares indicate that the difference is smaller than the first threshold
  • the hatched squares indicate that the difference is greater than the first threshold and less than the second threshold
  • the black squares indicate the difference. Respectively indicate that they are larger than the second threshold.
  • the numerical values in the upper end buffer and the lower end buffer indicate line numbers, and the symbol "-" indicates NULL.
  • 0 and 1 in the flag buffer indicate the value of the flag, and the fact that the second threshold is exceeded is indicated by the value 1. Then, assuming that the threshold L is, for example, three rows, the number of consecutive non-updated rows becomes 4 when the processing up to the ninth row is finished, and the threshold L is exceeded, so the update region extraction unit 602 is called .
  • the update area extraction unit 602 refers to the upper end buffer or the lower end buffer, and from the update area extraction range specified in the current call, update columns (group of columns in which difference pixels exist) and non-update columns (difference pixels exist)
  • the grouping of the columns not performed is extracted (step S731). For example, in the case of FIG. 45, when the entry in the upper end buffer is sequentially referred to from column 0, since one NULL continues, 0 column is extracted as a non-updated column (0-0), and then a numerical value is recorded. Since there are five consecutive entries, one to five columns are extracted as update columns (1-5). Similarly, the non-updated column (6-7), the updated column (8-9), the non-updated column (10-14), the updated column (15-16), etc. are extracted.
  • the update area extraction unit 602 combines the update columns adjacent to each other into one update column with non-update columns less than or equal to the predetermined column number W in order to avoid over-division of the update area (step S732). For example, assuming that W is 3, in the case of FIG. 45, the update column (1-5) and the update column (8-9) are combined as an update column (1-9).
  • the update region extraction unit 602 refers to the flag buffer and changes the update sequence in which the value of the flag is all 0 into a non-update sequence (step S733).
  • the updated column (1-9) Leave as it is.
  • the flag corresponding to the column 15-16 in the flag buffer for the updated column (15-16) it is determined that the updated column (15-16) is highly likely to be caused by noise because all the values are 0. And change to a non-updated column.
  • the update area extraction unit 602 examines the top end and the bottom end row where the difference pixel occurs for each update column, and determines the update rectangle that defines the update area, together with the left end and the right end of the update column. (Step S734).
  • the update column (1-9) referring to the upper end buffer, the uppermost end is 2 and when the lower end buffer is referenced, the lower end is 5; the update column has 1 at the left end and 9 at the right end; When defining by the upper left and lower right end points, they are obtained as the upper left end point (2, 1) and the lower right end point (5, 9).
  • the information on the update area (coordinates of the update rectangle) thus obtained is recorded in the work area 113 as a part of the update area detection result.
  • the update region extraction unit 602 initializes the upper end buffer, the lower end buffer, and the flag buffer (step S735), and ends the processing of FIG.
  • the update region extraction unit 602 after connecting adjacent update columns to one update column with non-update columns equal to or smaller than the predetermined column number W interposed, one update column without pixels exceeding the second threshold does not exist. Changed to updated column. However, conversely, after changing an update column having no pixel exceeding the second threshold to a non-update column, update update columns adjacent to each other by one non-update column between the predetermined column number W or less. It is also possible to perform processing to combine in a row.
  • the update area of the computer screen captured analog can be detected with high accuracy.
  • the reason is that, using two types of thresholds, the first threshold and the second threshold larger than the first threshold, a difference larger than the first threshold is larger than the second threshold among the detected pixel clusters. Is to extract a block including the detected pixel as an update region. This makes it possible to prevent the excessive detection of the update area that is likely to occur when the update area is detected using only the first threshold, and is likely to occur when the update area is detected using only the second threshold. Insufficient detection of the update area can be prevented.
  • a single threshold may fail to detect an update region in a video.
  • FIG. 47 in which only the moving image window at the center of the screen is updated in the front and back frames 1 and 2, it is desirable that the entire moving image window in the center be detected as the update region.
  • the detection area becomes excessive as shown in the lower left of FIG.
  • the detection area is insufficient as shown in the lower right of FIG. . If the detection is excessive, the code amount will increase even if the screen update is slight. In addition, when a detection failure occurs over a plurality of frames, a discontinuous boundary of luminance comes to be perceived between an area which is successfully detected and an area which is not detected.
  • the update area detection unit 125 of this embodiment the update area is detected unnecessarily large compared to the method of detecting the update area with one rectangle circumscribing all the update areas existing in the update area detection area. Can be prevented.
  • the update area of the computer screen can be detected at high speed.
  • the reason is that the difference between the reference frame and the pixels of the current frame is compared in the raster scan order with the upper and lower end buffers holding the coordinates of the upper and lower ends of the difference pixel for each column of the frame If a pixel is found, the pixel comparison unit 601 rewrites the coordinates of the upper end and lower end of the corresponding column of the upper end and lower end buffer, and the update area extraction unit determines the update area with reference to the upper end and lower end buffer when predetermined lines continue non-updated And 602 so that the update area can be detected by so-called one-pass processing.
  • Pixel comparison means for comparing the difference between the pixel values at the same position in the previous frame and the current frame with a first threshold and a second threshold larger than the first threshold;
  • Update region extracting means for extracting, as an update region, a block including pixels in which a difference larger than the second threshold is detected among pixel blocks in which a difference larger than the first threshold is detected;
  • Update area detection device (Supplementary Note 2) The update area detection device according to claim 1, wherein the update area extraction unit sets a rectangle circumscribing the block of pixels as an update area.
  • the pixel comparing means sequentially compares the pixels of the previous frame and the current frame row by row, and records, for each column, the row coordinates of the upper end and the row coordinate of the lower end at which a difference larger than the first threshold is detected. And record whether there is a pixel for which a difference larger than the second threshold is detected between the upper end and the lower end.
  • the update area extraction means detects a difference larger than the first threshold value with reference to the recording by the pixel comparison means when a predetermined number of consecutive lines have not detected a difference larger than the first threshold value.
  • Extracting an updated row including pixels in which a difference between the second row and the second threshold is detected, and the uppermost row in which a difference greater than the first threshold is detected for each of the extracted updated rows A process of determining a rectangle defined from the coordinates and the lowermost row coordinates, and the leftmost row coordinates and the rightmost row coordinates of the update row as an updated region is performed.
  • apparatus (Supplementary Note 4)
  • a group of columns in which a difference larger than the first threshold is detected means a difference larger than the first threshold even if the columns in which the difference larger than the first threshold is detected are adjacent or not directly adjacent.
  • the update area detection apparatus according to claim 3, wherein the update area detection apparatus is an assembly of adjacent columns with no more than a predetermined number of columns not detected.
  • the update area extraction unit determines the update area with reference to the upper end buffer, the lower end buffer, and the flag buffer when predetermined number of consecutive lines where a difference larger than the first threshold is not detected.
  • the update area detection apparatus wherein: (Supplementary Note 6) a) the pixel comparing means compares the difference between the values of pixels at the same position in the previous frame and the current frame with a first threshold and a second threshold larger than the first threshold; b) extracting, as an update region, a cluster including the pixels in which the difference larger than the second threshold is detected among the pixel clusters in which the difference larger than the first threshold is detected; A method of detecting an update area characterized by including. (Appendix 7) The update area detection method according to claim 6, wherein the update area extraction unit sets a rectangle circumscribing the block of pixels as an update area.
  • the pixel comparing means sequentially compares the pixels of the previous frame and the current frame row by row, and records, for each column, the row coordinates of the upper end and the row coordinate of the lower end at which a difference larger than the first threshold is detected. And record whether there is a pixel for which a difference larger than the second threshold is detected between the upper end and the lower end.
  • the update area extraction means detects a difference larger than the first threshold value with reference to the recording by the pixel comparison means when a predetermined number of consecutive lines have not detected a difference larger than the first threshold value.
  • Extracting an updated row including pixels in which a difference between the second row and the second threshold is detected, and the uppermost row in which a difference greater than the first threshold is detected for each of the extracted updated rows A process of determining a rectangle defined from the coordinates, the lowermost row coordinates, the leftmost column coordinates and the rightmost column coordinates of the update column as an updated region is performed.
  • Method. Appendix 9
  • a group of columns in which a difference larger than the first threshold is detected means a difference larger than the first threshold even if the columns in which the difference larger than the first threshold is detected are adjacent or not directly adjacent.
  • the update region detection method according to appendix 8 wherein a group of columns not adjacent to a predetermined number of columns not detected is interposed.
  • the update area extraction unit determines the update area with reference to the upper end buffer, the lower end buffer, and the flag buffer when predetermined number of consecutive lines where a difference larger than the first threshold is not detected.
  • the update area detection method characterized in that (Supplementary Note 11) Computer, Pixel comparison means for comparing the difference between the pixel values at the same position in the previous frame and the current frame with a first threshold and a second threshold larger than the first threshold; An update area for functioning as an update area extracting unit that extracts as an update area a block including pixels in which a difference larger than the second threshold is detected among pixel blocks in which a difference larger than the first threshold is detected A program recording medium for recording a detection program in a readable manner on the computer. (Supplementary Note 12) The program storage medium recording the update area detection program according to claim 11, wherein the update area extraction unit sets a rectangle circumscribing the block of pixels as the update area.
  • the pixel comparing means sequentially compares the pixels of the previous frame and the current frame row by row, and records, for each column, the row coordinates of the upper end and the row coordinate of the lower end at which a difference larger than the first threshold is detected. And record whether there is a pixel for which a difference larger than the second threshold is detected between the upper end and the lower end.
  • the update area extraction means detects a difference larger than the first threshold value with reference to the recording by the pixel comparison means when a predetermined number of consecutive lines have not detected a difference larger than the first threshold value.
  • Extracting an updated row including pixels in which a difference between the second row and the second threshold is detected, and the uppermost row in which a difference greater than the first threshold is detected for each of the extracted updated rows Update area detection according to appendix 11, characterized in that a rectangle defined from the coordinates and the lowermost row coordinates, and the column coordinates of the left end and the right end of the update column is determined as the update area.
  • Program recording medium for recording programs characterized in that a rectangle defined from the coordinates and the lowermost row coordinates, and the column coordinates of the left end and the right end of the update column is determined as the update area.
  • a group of columns in which a difference larger than the first threshold is detected means a difference larger than the first threshold even if the columns in which the difference larger than the first threshold is detected are adjacent or not directly adjacent
  • the computer holds, for each column, an upper end buffer for holding, for each column, row coordinates in which a difference larger than the first threshold is detected, and row coordinates in which a difference larger than the first threshold is detected.
  • the pixel comparing means compares the pixels of the previous frame and the current frame in scan order, and rewrites the row coordinates of the corresponding column in the upper end buffer and the lower end buffer when a pixel having a difference larger than the first threshold is found. If the difference is greater than the second threshold, the flag of the corresponding column of the flag buffer is set,
  • the update area extraction unit determines the update area with reference to the upper end buffer, the lower end buffer, and the flag buffer when predetermined number of consecutive lines where a difference larger than the first threshold is not detected. 15.
  • a program recording medium for recording the update area detection program according to appendix 14 characterized in that: (Supplementary Note 16) Motion vector detection means for detecting a motion vector by comparing the previous frame and the current frame; An image area which is the same or similar image area which exists in both the previous frame and the current frame and whose position on the screen is changed by the movement vector detected by the movement vector detection means is used as the movement area Moving area detection means for detecting; Motion compensation means for copying the movement area detected by the movement area detection means to the movement destination indicated by the movement vector on the previous frame; Update area detection means for detecting an area where the previous frame after motion compensation and the current frame are different as an update area; A video signal encoding apparatus comprising: area coding means for coding the update area detected by the update area detection means as an image; The video signal encoding apparatus using the update area detection apparatus according to Appendix 1, as the update area detection means. (Supplementary Note 17) The video signal encoding apparatus according to claim 16, further comprising: an update area detection area setting means
  • the present invention can be widely applied as a server apparatus in a thin client system. Further, the update region detection apparatus of the present invention can be used in various fields such as detection of a moving object other than encoding.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Analysis (AREA)

Abstract

　コンピュータ画面の描画データから高精度に更新領域を検出することのできる更新領域検出装置を提供する。更新領域検出部１２５は、画素比較部６０１は、参照フレームと現フレームとにおける同じ位置の画素の値の差分を第１の閾値および第１の閾値よりも大きな値の第２の閾値と比較する。更新領域抽出部６０２は、第１の閾値より大きな差分が検出された画素の塊のうち、第２の閾値より大きな差分が検出された画素を含む塊を更新領域として抽出する。

Description

更新領域検出装置
　本発明は更新領域検出装置に関し、特にコンピュータ画面の描画データの前後フレームから更新領域を検出する更新領域検出装置に関する。
　近年、コンピュータの端末装置からの情報の漏洩の防止と端末側でのアプリケーション管理の容易性を図るため等を目的として、端末装置にて入出力および表示される全てのアプリケーションをサーバ装置で実行させ、これに伴う全ての生成ファイルもサーバ装置で管理するようにしたシン・クライアント・システムが導入されるようになってきた。
　このようなシン・クライアント・システムでは、サーバ装置で実行されるアプリケーションプログラムの描画データが、ＬＡＮ（Local Area Network）などのネットワークを通じてクライアント側の端末装置へ転送され、端末装置の画面に表示される。このため、描画データの処理量が大きくなる、又は、サーバ装置に接続される端末装置の台数が多くなると、描画データを端末装置に転送するためのサーバ装置の負荷が増大し、応答時間の低下や端末装置の接続台数の大幅な制限などの問題が生じる。
　そこで、ソフトウェアによる描画データの表示制御技術として、１画面内で描画更新された描画データ部分を含む矩形の描画領域のみを切り出し、さらにこれを必要に応じて圧縮して転送することで、コンピュータ画面の描画データの転送に伴うデータ量を削減してサーバ装置の負荷を軽減することが考えられている（例えば特許文献１参照）。しかし、描画データの高精細化やモニタ解像度の飛躍的な向上によって、コンピュータ画面の描画処理量は益々増大しているため、描画品質を低下させることなしにさらなる処理負荷の軽減が求められている。
特表２００４－５０３８６２号公報
　１画面内で描画更新された描画データ部分を抽出する際、前フレームと現フレームとの間で画素値を比較する。このとき、フレームの映像信号をアナログキャプチャした場合など画素値にノイズが含まれる状況の下では、一般に画素値の差分を閾値と比較し、閾値を超える差分があるかどうかによって更新領域か否かを判定する。
　しかし、閾値を小さめに設定した場合には、ノイズの影響を受け易くなり、実際の更新領域よりも大きなサイズを更新領域として検出してしまう課題がある。また、閾値を大きめに設定した場合、反対に、更新領域の検出不足が生じ易くなり、実際の更新領域よりもサイズの小さな領域を更新領域として検出してしまう課題がある。更新領域の検出が過大になると、画面更新が僅かな場合にも符号量が増大してしまう。また、検出不足が複数フレームにわたって発生すると、検出に成功した領域と検出漏れした領域との間で、輝度不連続な境界が知覚されるようになる。
　本発明の目的は、コンピュータ画面の描画データから高精度に更新領域を検出することのできる更新領域検出装置を提供することにある。
　本発明の更新領域検出装置は、現フレームと当該現フレーム以前のフレームである前フレームとの画素ごとの差分絶対値を算出し、前記差分絶対値が第１の閾値以上の画素から定まる形状、かつ、前記差分絶対値が該第１の閾値よりも大きな値の第２の閾値以上の画素を内包する領域を、前記前フレームから前記現フレームにおいて変化する領域である更新領域として検出する。
　本発明によれば、コンピュータ画面の描画データから高精度に更新領域を検出することのできる更新領域検出装置が得られる。
本発明の実施の形態に係る映像信号符号化装置のブロック図である。 本発明の実施の形態に係る映像信号符号化装置の処理の流れを示すフローチャートである。 本発明の実施の形態に係る映像信号符号化装置による映像信号の符号化処理の説明図である。 移動ベクトル検出部の第１の実施例のブロック図である。 第１の実施例に係る移動ベクトル検出部の処理の流れを示すフローチャートである。 第１の実施例に係る移動ベクトル検出部におけるエッジ抽出処理の説明図である。 第１の実施例に係る移動ベクトル検出部で使用する現フレームのハッシュテーブルの一例を示す図である。 第１の実施例に係る移動ベクトル検出部で使用する前フレームのハッシュテーブルの一例を示す図である。 第１の実施例に係る移動ベクトル検出部の検出結果の一例を示す図である。 第１の実施例に係る移動ベクトル検出部で検出された最頻出の移動ベクトル候補のリストに含まれる特徴点のペアを前フレームおよび現フレームにプロットしたイメージと、推定された移動ベクトルとの関係を示す図である。 移動領域検出部の第１の実施例のブロック図である。 第１の実施例に係る移動領域検出部の処理の流れを示すフローチャートである。 第１の実施例に係る移動領域検出部において特徴点群に外接する矩形を移動領域とする例を示す図である。 第１の実施例に係る移動領域検出部における移動領域決定部の第１の処理例を示すフローチャートである。 第１の実施例に係る移動領域検出部における移動領域決定部の第１の処理例を示すフローチャートである。 第１の実施例に係る移動領域検出部において移動領域の右への拡大幅を決定する方法の説明図である。 第１の実施例に係る移動領域検出部における移動領域決定部の第２の処理例を示すフローチャートである。 第１の実施例に係る移動領域検出部における移動領域決定部の第２の処理例を示すフローチャートである。 第１の実施例に係る移動領域検出部において移動領域の右からの縮小幅を決定する方法の説明図である。 第１の実施例に係る移動領域検出部における移動領域決定部の第３の処理例を示すフローチャートである。 第１の実施例に係る移動領域検出部における移動領域決定部の第４の処理例を示すフローチャートである。 第１の実施例に係る移動領域検出部における移動領域決定部の第４の処理例を示すフローチャートである。 更新領域検出域設定部の第１の実施例のブロック図である。 第１の実施例に係る更新領域検出域設定部の第１の処理例を示すフローチャートである。 第１の実施例に係る更新領域検出域設定部の第１の処理例による効果の説明図である。 第１の実施例に係る更新領域検出域設定部の第２の処理例を示すフローチャートである。 第１の実施例に係る更新領域検出域設定部の第２の処理例による効果の説明図である。 第１の実施例に係る更新領域検出域設定部の第２の処理例による効果の説明図である。 第１の実施例に係る更新領域検出域設定部の第３の処理例を示すフローチャートである。 第１の実施例に係る更新領域検出域設定部の第３の処理例による効果の説明図である。 第１の実施例に係る更新領域検出域設定部の第３の処理例による効果の説明図である。 第１の実施例に係る更新領域検出域設定部の第３の処理例による効果の説明図である。 更新領域検出域設定部の第２の実施例のブロック図である。 第２の実施例に係る更新領域検出域設定部の処理例を示すフローチャートである。 更新領域検出域設定部の第３の実施例のブロック図である。 第３の実施例に係る更新領域検出域設定部の第１の処理例を示すフローチャートである。 第３の実施例に係る更新領域検出域設定部の第１の処理例による効果の説明図である。 第３の実施例に係る更新領域検出域設定部の第１の処理例による効果の説明図である。 第３の実施例に係る更新領域検出域設定部の第２の処理例を示すフローチャートである。 第３の実施例に係る更新領域検出域設定部の第２の処理例による効果の説明図である。 第３の実施例に係る更新領域検出域設定部の第２の処理例による効果の説明図である。 第３の実施例に係る更新領域検出域設定部の第２の処理例による効果の説明図である。 更新領域検出域設定部の第４の実施例のブロック図である。 第４の実施例に係る更新領域検出域設定部の処理例を示すフローチャートである。 更新領域検出部の第１の実施例のブロック図である。 第１の実施例に係る更新領域検出部の処理の流れを示すフローチャートである。 第１の実施例に係る更新領域検出部における画素比較部による処理例を示すフローチャートである。 第１の実施例に係る更新領域検出部における画素比較部による処理例を示すフローチャートである。 第１の実施例に係る更新領域検出部で使用する上端バッファ、下端バッファおよびフラグバッファが、動き補償後の参照フレームと現フレームとの差分状況に応じて更新される例を示す図である。 第１の実施例に係る更新領域検出部における更新領域抽出部による処理例を示すフローチャートである。 単一の閾値による更新領域検出の実験例を示す図である。 第１の実施例に係る更新領域検出部による更新領域検出の実験例を示す図である。
符号の説明
　１００　映像信号符号化装置
　１０１　画像入力装置
　１０２　データ記憶装置
　１０３　データ処理装置
　１０４　符号出力装置
　１１１　符号化対象フレーム記憶部
　１１２　参照フレーム記憶部
　１１３　作業域
　１２１　移動ベクトル検出部
　１２２　移動領域検出部
　１２３　動き補償部
　１２４　更新領域検出域設定部
　１２５　更新領域検出部
　１２６　領域符号化部
　１３１　現フレーム
　１３２　参照フレーム
　１３４　移動ベクトル
　１３５　領域
　１３６　領域
　１３７　参照フレーム
　１３８　更新領域
　１３９　更新領域
　２０１　エッジ抽出部
　２０２　特徴点抽出部
　２０３　特徴点ペア抽出部
　２０４　移動ベクトル算出部
　２０５　移動ベクトル候補生成部
　２０６　移動ベクトル選択部
　３０１　初期候補決定部
　３０２　移動領域決定部
　４０１　移動領域有無判定部
　４０２　移動方向判定部
　４０３　分割部
　４１１　移動領域有無判定部
　４１２　移動領域重複判定部
　４１３　移動方向判定部
　４１４　分割部
　５０１　移動領域有無判定部
　５０２　分割部
　５１１　移動領域有無判定部
　５１２　移動領域重複判定部
　５１３　分割部
　６０１　画素比較部
　６０２　更新領域抽出部
　Ｒ１、Ｒ２、Ｒ３、Ｒ４　画面
　Ｒ１１、Ｒ１２、Ｒ１３、Ｒ１４、Ｒ２０、Ｒ２０ａ、Ｒ２０ｂ、Ｒ２０ｃ、Ｒ２１、Ｒ３０、Ｒ３０ａ、Ｒ３０ｂ、Ｒ３０ｃ、Ｒ３０ｄ　移動領域
　Ｒ２２、Ｒ２３、Ｒ２４、Ｒ２５、Ｒ２６、Ｒ３１、Ｒ３２、Ｒ３３１、Ｒ３３２、Ｒ３３３、Ｒ３３４、Ｒ３４１、Ｒ３４２、Ｒ３４３、Ｒ３４４、Ｒ３４５、Ｒ３４６、Ｒ３５１、Ｒ３５２、Ｒ３６１、Ｒ３６２、Ｒ３６３、Ｒ３６４、Ｒ３６５、Ｒ３６６、Ｒ３６７、Ｒ４０、Ｒ４１、Ｒ４２、Ｒ４３　更新領域
　Ｌ２２１、Ｌ２４１、Ｌ２４２、Ｌ２５１、Ｌ２５２、Ｌ２５３、Ｌ２８１、Ｌ２８２、Ｌ２８３、Ｌ２９１、Ｌ２９２、Ｌ２９３、Ｌ２９４、Ｌ２９５、Ｌ２９６、Ｌ３４１、Ｌ３４２、Ｌ３５１、Ｌ３５２、Ｌ３７１、Ｌ３７２、Ｌ３７３、Ｌ３７４、Ｌ３８１、Ｌ３８２、Ｌ３８３、Ｌ３８４、Ｌ３９１、Ｌ３９２、Ｌ３９３、Ｌ３９４、Ｌ３９５、Ｌ３９６　分割線
　図１を参照すると、本発明の実施の形態に係る映像信号符号化装置１００の一例は、画像入力装置１０１と、データ記憶装置１０２と、データ処理装置１０３と、符号出力装置１０４とから構成されている。
　画像入力装置１０１は、符号化の対象となる映像信号を入力する装置であり、例えば図示しないコンピュータのディスプレイ画面のカラー映像信号をアナログキャプチャあるいはディジタルキャプチャし、データ記憶装置１０２に記憶する。キャプチャされた１画面分の映像信号は、フレームあるいは画面データと呼ぶ。
　データ記憶装置１０２は、画像入力装置１０１から入力されたフレームを記憶する符号化対象フレーム記憶部１１１、符号化対象フレーム記憶部１１１に記憶したフレームの符号化に使用する参照フレームを記憶する参照フレーム記憶部１１２、フレームの符号化の過程で適宜参照更新される各種データを保持する作業域１１３を有する。
　データ処理装置１０３は、データ記憶装置１０２に記憶された符号化対象フレームの符号化を行う装置であり、移動ベクトル検出部１２１、移動領域検出部１２２、動き補償部１２３、更新領域検出域設定部１２４、更新領域検出部１２５および領域符号化部１２６を備えている。各部は、概略以下のような機能を有する。
　移動ベクトル検出部１２１は、符号化対象フレームとその直前のフレームとを比較して、主要な１つの移動ベクトルを検出する機能を有する。主要な移動ベクトルとは、換言すれば、１以上の移動ベクトルの内の支配的なものを意味する。例えば、コンピュータの画面で地図スクロールとマウスカーソル移動が同時に発生した場合、移動領域の大部分は地図スクロールによるものが占めるため、地図スクロールによる移動ベクトルが主要な移動ベクトルとなる。
　移動領域検出部１２２は、符号化対象フレームとその直前のフレームとの何れにも存在する同一または類似の画像領域であって、画面上での位置が移動ベクトル検出部１２１で検出された移動ベクトルだけ変化している画像領域を移動領域として検出する機能を有する。
　動き補償部１２３は、移動領域検出部１２２で検出された移動領域について、符号化対象フレームの符号化に使用する参照フレーム内で移動ベクトルが示す移動先へ複写を行い、動き補償後の参照フレームを生成する機能を有する。
　更新領域検出域設定部１２４は、フレーム上に１以上の更新領域検出域を設定する機能を有する。
　更新領域検出部１２５は、更新領域検出域設定部１２４により設定された更新領域検出域毎に、動き補償後の参照フレームと符号化対象フレームとが相違する領域を更新領域として検出する機能を有する。
　領域符号化部１２６は、更新領域検出部１２５で検出された更新領域を画像として任意の符号化方式によって符号化した符号を生成する。
　符号出力装置１０４は、データ記憶装置１０２の作業域１１３から符号化対象フレームについて生成された符号を読み出して出力する装置であり、例えば図示しないクライアント端末と通信する通信装置などで構成される。１つの符号化対象フレームについて生成された符号には、領域符号化部１２６で生成された更新領域の符号、移動ベクトル検出部１２１と移動領域検出部１２２で検出された移動領域情報（移動元の領域の座標と移動ベクトル）とが含まれる。
　上記の移動ベクトル検出部１２１、移動領域検出部１２２、動き補償部１２３、更新領域検出域設定部１２４、更新領域検出部１２５および領域符号化部１２６は、データ処理装置１０３を構成するコンピュータとその上で動作するプログラムとで実現することができる。プログラムは、ＣＤ－ＲＯＭ等のコンピュータ可読記録媒体に記録されて提供され、コンピュータの立ち上げ時などにコンピュータに読み取られ、コンピュータの動作を制御することにより、コンピュータ上に上記の各部を実現する。
　次に本実施の形態に係る映像信号符号化装置１００の全体的な動作を説明する。
　映像信号符号化装置１００の画像入力装置１０１は、符号化対象となるフレームをキャプチャし、データ記憶装置１０２の符号化対象フレーム記憶部１１１に現フレームとして記憶する（図２のステップＳ１０１）。
　次に、移動ベクトル検出部１２１は、現フレームと、参照フレーム記憶部１１２に記憶された既に符号化を終えた直前のフレーム（参照フレーム）とを比較し、主要な１つの移動ベクトルを検出する（ステップＳ１０２）。例えば、図３の現フレーム１３１と参照フレーム１３２との比較から図示した移動ベクトル１３４が支配的であれば、移動ベクトル１３４が主要な移動ベクトルとして検出される。検出された移動ベクトル１３４の情報は作業域１１３に一時的に保存される。
　次に移動領域検出部１２２は、現フレームから移動ベクトルが検出された場合（ステップＳ１０３でＹＥＳ）、現フレームと参照フレームとの何れにも存在する同一または類似の画像領域であって、画面上での位置が移動ベクトル検出部１２１で検出された移動ベクトルだけ変化している画像領域を移動領域として検出する（ステップＳ１０４）。例えば、図３の現フレーム１３１と参照フレーム１３２とにおいて、領域１３５と領域１３６とが同一または類似の画像領域であった場合、領域１３５、１３６が移動領域として検出される。検出された移動領域１３５、１３６の座標情報は作業域１１３に一時的に保存される。
　次に動き補償部１２３は、移動領域が検出された場合（ステップＳ１０５でＹＥＳ）、参照フレーム上で移動前の移動領域の画像を移動ベクトルが示す移動後の位置へ複写する動き補償を行うことにより、参照フレーム記憶部１１２を更新する（ステップＳ１０６）。例えば図３の場合、参照フレーム１３２上で、領域１３６を現フレーム１３１における領域１３５に相当する位置にコピーする。これにより、図３の動き補償後の参照フレーム１３７が生成される。
　ただし、移動ベクトルが検出されなかった場合（ステップＳ１０３でＮＯ）、移動領域の検出と動き補償は実行されない。また、移動ベクトルが検出されても移動領域の検出に失敗した場合（ステップＳ１０５でＮＯ）、動き補償は実行されない。
　次に更新領域検出域設定部１２４は、更新領域を検出する１以上の更新領域検出域をフレーム上に設定する（ステップＳ１０７）。次に、更新領域検出部１２５は、更新領域検出域設定部１２４により設定された更新領域検出域毎に、参照フレームと現フレームとが相違する領域を更新領域として検出する（ステップＳ１０８）。これにより、例えば図３の場合、更新領域１３８及び１３９が検出される。検出された更新領域１３８及び１３９の座標情報は作業域１１３に一時的に保存される。
　次に領域符号化部１２６は、更新領域検出部１２５で検出された更新領域を画像として符号化した符号を生成する（ステップＳ１０９）。生成された符号は、作業域１１３に記憶された更新領域の座標情報に対応付けて一時的に保存される。
　符号出力装置１０４は、データ記憶装置１０２の作業域１１３から現フレームについて生成された情報、すなわち各更新領域の座標情報とその符号および移動領域情報（移動元の領域の座標情報と移動ベクトル）を読み出し、出力する（ステップＳ１１０）。例えば、図３の場合、更新領域１３８の座標情報とその符号、更新領域１３９の座標情報とその符号、移動領域１３６の座標情報と移動ベクトル１３４が、現フレームに関する符号情報として出力される。
　符号情報からフレームを復号する場合、符号化と逆の手順で行う。例えば図３の現フレーム１３１を参照フレーム１３２と符号情報とから復号する場合、まず、参照フレーム１３２の移動領域１３６を移動ベクトル１３４が示す場所へ複写して動き補償後の参照フレーム１３７を生成する。その後、この参照フレームに対して、符号情報から復号した更新領域１３８および更新領域１３９を反映することにより、現フレーム１３１を生成する。
　次にデータ処理装置１０３が備える各部について説明する。ここで、動き補償部１２３はコピー手段で実現でき、また領域符号化部１２６は、予測符号化、変換符号化、ベクトル量子化、エントロピー符号化など周知の画像符号化技術で実現できるため、以下では、移動ベクトル検出部１２１、移動領域検出部１２２、更新領域検出域設定部１２４および更新領域検出部１２５について詳細に説明する。
（１）移動ベクトル検出部１２１
　図４を参照すると、移動ベクトル検出部１２１の第１の実施例は、エッジ抽出部２０１、特徴点抽出部２０２、特徴点ペア抽出部２０３および移動ベクトル算出部２０４から構成される。各々は、概ね以下のような機能を有する。
　エッジ抽出部２０１は、現フレームおよび参照フレーム内で画素値の変化が大きい点をエッジ点として抽出する機能を有する。エッジ点とは、予め定められた直交する２方向（上と左、左と下、下と右、右と上、斜め左上と斜め左下、斜め左下と斜め右下、斜め右下と斜め右上、斜め右上と斜め左上）の隣接画素との画素値の差分が共に予め設定された閾値以上相違している画素である。画素値の差分は例えばＲ、Ｇ、Ｂの各成分毎に求め、その何れかの成分の差分が閾値以上であれば、２つの画素の画素値の差分が閾値以上相違していると判断する。
　特徴点抽出部２０２は、現フレームおよび参照フレーム中から抽出されたエッジ点のうち、他の１以上のエッジ点との位置関係が当該フレームにおいて一意（ユニークとも言う）なエッジ点（すなわち、他の１以上のエッジ点との位置関係が当該フレームにおいて唯一度しか現れないエッジ点）を特徴点として抽出する機能を有する。本実施例では、他の１以上のエッジ点として、フレームのラスタスキャン順で直前に現れた１つのエッジ点を用いる。しかし、他の実施例として、直前１つ目のエッジ点と直前２つ目のエッジ点のように複数のエッジ点を用いても良い。一般に、直前１つのエッジ点だけを用いるよりも直前複数のエッジ点を用いた方が、当該フレームにおいて他のエッジ点との位置関係がユニークになるエッジ点の個数を少なくできるため、後述するようにハッシュ値を使う場合のハッシュ値のビット数を少なくできる利点がある。
　エッジ点と他のエッジ点との位置関係を規定するデータとしては、エッジ点同士の距離を画素数で表現した値を使用することができる。また、距離そのものでなく、距離を表すビット列の下位何ビットかをハッシュ値とし、このハッシュ値がユニークなエッジ点を特徴点として抽出するようにしても良い。本実施例では、距離を表すビット列のたとえば下位１１ビットをハッシュ値として使用する。
　特徴点ペア抽出部２０３は、他のエッジ点との位置関係が同一の特徴点のペアを現フレームおよび参照フレームから抽出する機能を有する。好ましくは、特徴点ペア抽出部２０３は、他のエッジ点との位置関係が同一かつ画素値の差が閾値以下の特徴点のペアを抽出する。
　移動ベクトル算出部２０４は、現フレームおよび参照フレームから抽出された特徴点のペアの座標値の差分を移動ベクトルとして算出する機能を有する。好ましくは、移動ベクトル算出部２０４は、移動ベクトル候補生成部２０５と移動ベクトル選択部２０６とで構成される。
　移動ベクトル候補生成部２０５は、現フレームと参照フレームから抽出された特徴点のペアが複数存在する場合、各特徴点のペア毎に座標値の差分を移動ベクトル候補として生成する機能を有する。
　移動ベクトル選択部２０６は、移動ベクトル候補のうち最も頻出する移動ベクトル候補を移動ベクトルとして選定する機能を有する。
　次に本実施例の移動ベクトル検出部１２１の動作を説明する。
　移動ベクトル検出部１２１のエッジ抽出部２０１は、符号化対象フレーム記憶部１１１に記憶された現フレームの先頭の画素に注目し（図５のステップＳ２０１）、注目中の画素がエッジ点かどうかを判定する（ステップＳ２０２）。エッジ点でなければ、ラスタスキャン方向の順で次の画素に注目を移し（ステップＳ２０６）、注目中の画素がエッジ点かどうかを判定する（ステップＳ２０２）。
　注目中の画素がエッジ点であれば（ステップＳ２０２でＹＥＳ）、注目中の画素の座標値と画素値の組をエッジ点情報として作業域１１３に一時的に保存する（ステップＳ２０３）。次に、作業域１１３に保存されている直前のエッジ点との距離を求め、その距離の下位１１ビットをハッシュ値として算出し（ステップＳ２０４）、作業域１１３に記憶されている現フレームに対応するハッシュテーブルを更新する（ステップＳ２０５）。例えば図６に示すように、ラスタスキャン順に処理を進めて、画素Ｐ（１，１）に続き画素Ｐ（５，１）がエッジ点として検出された場合、画素Ｐ（５，１）と画素Ｐ（１，１）の距離は画素数にして４なので、値４のハッシュ値が算出され、当該エッジ点の情報がハッシュテーブルに登録される。
　図７を参照すると、現フレームに対応するハッシュテーブルの一例は、０～２０４７の各ハッシュ値に１対１に対応するエントリを有し、各エントリに、出現頻度、最終出現座標、画素値が登録される。出現頻度の初期値は０、最終出現座標および画素値の初期値はＮＵＬＬである。エッジ抽出部２０１は、ステップＳ２０５のハッシュテーブルの更新処理において、算出したハッシュ値を持つエントリの出現頻度を１だけインクリメントし、検出したエッジ点の座標値と画素値を最終出現座標および画素値の欄に記録する。例えば前述した画素Ｐ（５，１）の場合、図７のハッシュ値４のエントリにおける出現頻度が１だけインクリメントされ、また画素Ｐ（５，１）の座標値と画素値とが同エントリに記録される。
　エッジ抽出部２０１は、以上のような処理を現フレームの最後の画素まで繰り返し実行する。
　エッジ抽出部２０１の処理が完了すると（ステップＳ２０７でＹＥＳ）、特徴点抽出部２０２は、現フレームに対応するハッシュテーブルを参照して、出現頻度が１になっているエントリに座標値と画素値とが記録されているエッジ点を特徴点としてすべて抽出する（ステップＳ２０８）。例えば、エッジ抽出部２０１の処理完了時点の現フレームに対応するハッシュテーブルが図７に示したものであった場合、画素Ｐ（５，１）が１つの特徴点として抽出される。
　次に特徴点ペア抽出部２０３は、現フレームに対応するハッシュテーブルおよび前フレームに対応するハッシュテーブルを参照して、ハッシュ値が同一の特徴点のペアをすべて抽出する（ステップＳ２０９）。ここで、前フレームに対応するハッシュテーブルは、前フレームが現フレームとして処理された際にエッジ抽出部２０１により作成され、作業域１１３に記憶されている。例えば前フレームに対応するハッシュテーブルが図８に示すような内容になっている場合、図７に示した現フレームから特徴点として抽出された画素Ｐ（５，１）とハッシュ値が同じ４の画素Ｐ（５，８）が前フレームに存在するため、前フレームにおける画素Ｐ（５，８）と現フレームにおける画素Ｐ（５，１）のペアが、１つの特徴点のペアとして抽出される。
　次に特徴点ペア抽出部２０３は、ステップＳ２０９で抽出した特徴点のペアのうち、Ｒ、Ｇ、Ｂの各色成分の差分が何れも予め設定された閾値以下となるペアは対応可能性が高いので残し、それ以外の特徴点のペアは除外する（ステップＳ２１０）。特徴点ペア抽出部２０３は、残した特徴点のペアの情報を作業域１１３に記録する。
　次に移動ベクトル算出部２０４の移動ベクトル候補生成部２０５は、作業域１１３から特徴点のペアの情報を読み出し、各ペア毎に座標値の差分を移動ベクトル候補として生成する（ステップＳ２１１）。例えば前述したＰ（５，８）とＰ（５，１）の特徴点のペアの場合、（０，－７）が移動ベクトル候補として生成される。なお、静止ベクトルは無視するため、差分が（０，０）となる場合は候補から外す。移動ベクトル候補生成部２０５は、移動ベクトル候補の情報を作業域１１３に記録する。
　次に、移動ベクトル選択部２０６は、作業域１１３から移動ベクトル候補の情報を読み出し、同じ移動ベクトル候補の総数をカウントすることにより各移動ベクトル候補の出現頻度を求め、最も頻出する移動ベクトル候補を主要な移動ベクトルの推定値として選択する（ステップＳ２１２）。そして、移動ベクトル選択部２０６は、移動ベクトルの検出結果を作業域１１３に記録する（ステップＳ２１３）。
　移動ベクトル選択部２０６が作業域１１３に記録した検出結果の一例を図９に示す。この例では、推定した移動ベクトル以外に最頻出の移動ベクトル候補の算出元となった特徴点のペアのリストが検出結果に含まれている。図１０は、検出結果に含まれる特徴点のペアを前フレームおよび現フレームにプロットしたイメージと、推定された移動ベクトルとの関係を示す。このように、最頻出の移動ベクトル候補から推定される移動ベクトルは、現フレームに存在する１以上の移動ベクトルのうちの主要な移動ベクトルとなる。
　このように本実施例の移動ベクトル検出部１２１によれば、コンピュータ画面の映像信号から高速かつ高精度に主要な移動ベクトルを検出することができる。その理由は、第１に、各画素ブロックで様々なベクトルを探索する必要がなく、エッジ点や特徴点の抽出と比較により移動ベクトルを求めていること、第２に、フレーム内ではラスタスキャン順の処理となるためにメモリアクセスの局所性が高いこと、第３に、ブロック単位ではなく画面全体で比較するため、ウィンドウ等、比較的大きなオブジェクト単位での移動ベクトルが主要な移動ベクトルとして検出できること、第４に、エッジ点を元にベクトルを検出しているため移動元と移動先で画素値が正確に一致する必要はなく、アナログキャプチャしたノイズの多い映像信号にも対応可能であることによる。
　反面、本実施例の移動ベクトル検出部１２１は、（１）同時に複数のベクトルは検出しない、（２）サブピクセル単位や変形を伴うオブジェクトの移動ベクトルは検出しない、（３）エッジの少ないオブジェクトの移動ベクトルは検出しないという制約がある。しかし、（１）と（２）はコンピュータ画面で生じる可能性は低く、（３）のような領域はそのまま画像として符号化しても符号量が小さくなるため大きな問題とはならない。
（２）移動領域検出部１２２
　図１１を参照すると、移動領域検出部１２２の第１の実施例は、初期候補決定部３０１と移動領域決定部３０２とから構成される。各々は、概ね以下のような機能を有する。
　初期候補決定部３０１は、移動領域の初期候補を決定する機能を有する。
　移動領域決定部３０２は、初期候補決定部３０１で決定された移動領域の初期候補および初期候補の移動領域のサイズを変更した１以上の他の移動領域の候補のうちから動き補償部１２３の動き補償に使用する移動領域を決定する機能を有する。
　次に本実施例の移動領域検出部１２２の動作を説明する。
　移動領域検出部１２２の初期候補決定部３０１は、初期候補の移動領域を決定する（図１２のステップＳ３０１）。初期候補を決定する方法の一例として、移動ベクトル検出部１２１が移動ベクトルの推定に使用した移動ベクトル候補の算出元となった特徴点群に外接する矩形を移動領域の初期候補とする方法がある。例えば、移動ベクトル検出部１２１の移動ベクトル選択部２０６が図９に示したような検出結果を生成した場合、移動領域検出部１２２は、作業域１１３から上記の検出結果に記述された特徴点を前フレームおよび現フレーム毎に読み出す。例えば、移動領域検出部１２２は、図１３の前フレームに示すように特徴点群に外接する矩形を移動前の移動領域とする。そして、移動領域検出部１２２は、図１３の現フレームに示すように特徴点群に外接する矩形を移動後の移動領域として検出する。検出した初期候補の移動領域の情報は作業域１１３に一時的に記録される。
　初期候補を決定する方法の他の例としては、移動ベクトル検出部１２１が移動ベクトルの推定に使用した移動ベクトル候補に含まれる特徴点群中の何れか３つ以上の特徴点に外接する矩形を移動領域の初期候補とする方法、フレーム全体を移動領域の初期候補とする方法などがある。
　次に移動領域検出部１２２の移動領域決定部３０２は、初期候補および他の候補のうちから動き補償に使用する移動領域を決定する（ステップＳ３０２）。以下、移動領域決定部３０２の構成例について詳細に説明する。
（Ａ）移動領域決定部３０２の例１
　この例１の移動領域決定部３０２の処理例を図１４Ａ及び図１４Ｂに示す。まず移動領域決定部３０２は、決定された初期候補の移動領域および移動ベクトルに基づいて実際に動き補償を行って各画素値を比較し、正しく平行移動したものであるかどうかを確認する。具体的には、動き補償によって低減される符号量と、動き補償によって増加する符号量のどちらが大きくなるかを、移動領域が動き補償に使用する移動領域として適している程度および適していない程度をそれぞれ示すメリット値およびデメリット値を評価尺度として使用して、以下のような手法で推定する（ステップＳ３１１、Ｓ３１２）。ここで、メリット値は、移動領域が動き補償に使用する移動領域として適している程度を示す評価尺度、デメリット値は、移動領域が動き補償に使用する移動領域として適していない程度を示す評価尺度であり、何れも初期値は０である。
（ア）「動き補償後の画素値」と「真の画素値」とが異なる場合（例えばＲ、Ｇ、Ｂの各成分毎の差分の何れかが予め設定された閾値以上異なる場合）、動き補償によって符号量が増える可能性があると見做し、デメリット値を１増やす。
（イ）「動き補償後の画素値」と「真の画素値」とが異ならない場合（例えばＲ、Ｇ、Ｂの各成分毎の差分の何れもが予め設定された閾値以上異ならない場合）で、かつ、その座標の画素とその隣接する画素との間に閾値以上の輝度勾配がある場合（例えば、上画素および左画素との差分の合計値が閾値以上になる場合や、上画素または左画素との差分が閾値以上になる場合など）、動き補償によって符号量が低減できる可能性があると見做し、メリット値を１増やす。ここで、隣接する画素との間に閾値以上の輝度勾配があることを条件に加えている理由は、輝度勾配がある点が含まれる箇所は差分による符号化では一般に符号量が増えるためである。
（ウ）初期候補の移動領域全体に対して、上記のア、イの処理を行い、メリット値がデメリット値より大きければ、移動領域として採用し、そうでなければ棄却する。
　なお、メリット値およびデメリット値を画素値の比較結果に応じて加算し、最終的なメリット値とデメリット値とを比較する処理は、メリット値およびデメリット値の何れか一方だけを使用して加算と減算を使い分ける方法と等価である。具体的には、まず、動き補償後の画素値と真の画素値との差分が所定の閾値以上となる画素が検出される毎にメリット値を所定値だけ減算（またはデメリット値を所定値だけ加算）する。次に、動き補償後の画素値と真の画素値との差分が所定の閾値より小さな画素であって且つ隣接する画素との間に閾値以上の輝度勾配がある画素が検出される毎にメリット値を所定値だけ加算（またはデメリット値を所定値だけ減算）する処理を行う。これにより、最終的なメリット値（またはデメリット値）の値の正、負を判定するようにしても良い。
　移動領域の初期候補が棄却された場合（ステップＳ３１２でＮＯ）、本例ではもはや移動領域の検出は一切行われず、移動領域の検出が失敗した旨の検出結果を作業域１１３に記録して（ステップＳ３２３）、図１４Ａ及び図１４Ｂの処理を終了する。
　他方、移動領域の初期候補が採用された場合（ステップＳ３１２でＹＥＳ）、以下の手順により、領域を更に上下左右へ拡張可能かどうかを調べる。
（Ｉ）移動領域の各ラインについて、領域を右に広げた際に「動き補償後の画素値」と「真の画素値」とが一致する（差分が閾値以下になる）連続画素数を調べ、連続画素数の最小値を右への最大拡大幅として、右端を確定する（ステップＳ３１３）。例えば図１５に示すように、初期候補の右端を右に広げた際、１ライン目と３ライン目は３画素連続して、残りの全ラインは２画素連続して、それぞれ「動き補償後の画素値」と「真の画素値」とが一致したとすると、右への最大拡大幅は連続画素数の最小値である２画素とする。
（ＩＩ）右への拡大方法と同様の方法で、移動領域の左への最大拡大幅を算出し、左端を確定する（ステップＳ３１４）。
（ＩＩＩ）上記の（Ｉ）および（ＩＩ）の処理を行った後の移動領域に対して、更に、領域を１ラインずつ上に拡大していく（ステップＳ３１５～Ｓ３１８）。具体的には、前述の（ア）、（イ）と同様の方式で、１ライン拡大した場合のメリット値、デメリット値を計算し（ステップＳ３１５、Ｓ３１６）、メリット値がデメリット値より大きければ（ステップＳ３１７でＹＥＳ）、ステップＳ３１５に戻って、更に次のラインについても同様の処理を行う。また、メリット値がデメリット値よりも大きくなければ、１ライン拡大前の上端を移動領域の上端に確定する（ステップＳ３１８）。
（ＩＶ）上への拡大と同様の方法で、移動領域を下に拡大していって、下端を確定する（図１４ＢのステップＳ３１９～Ｓ３２２）。
　最後に移動領域決定部３０２は、拡大後の移動領域の座標情報を含む検出結果を作業域１１３に記録し（ステップＳ３２３）、図１４Ａ及び図１４Ｂの処理を終える。
　ここで、移動領域の左右への拡大と上下への拡大とで異なる手法を採用している理由は、同じライン上の複数の画素へのメモリアクセスは高速に行えるが、異なるライン上の画素へのメモリアクセスには時間がかかるためである。つまり、左右への拡大を上下と同様に１列ずつ順に拡大していくと、１列拡大するだけでも移動領域の全ラインにわたるメモリアクセスが必要になるためである。しかし、このようなメモリアクセス時間が問題とならない状況の下では、移動領域の左右への拡大を上下への拡大と同じ手法で行っても良い。逆に、移動領域の上下への拡大を、左右への拡大に使用した簡易な手法で行うようにしても良い。
　この例１の移動領域決定部３０２によれば、初期候補決定部３０１で決定された初期候補の妥当性を定量的に判定することができるため、不適切な移動領域を使った動き補償を防止することができる。また、初期候補が妥当な場合、符号量の削減効果が大きい、よりサイズの大きな移動領域を探索することができる。
（Ｂ）移動領域決定部３０２の例２
　この例２の移動領域決定部３０２の処理例を図１６Ａ及び図１６Ｂに示す。例２が例１と相違するところは、次の通りである。例１では初期候補よりサイズの大きな移動領域だけを探索した。これに対して、例２では、移動領域が真の移動領域よりも大きな領域として過剰に検出されている可能性を考慮して、まず各辺毎に領域の縮小の可能性を判定し、過剰検出されていない辺については例１と同様に拡大していくようにした。
　まず移動領域決定部３０２は、例１と同様の方法により初期候補の移動領域の妥当性を判定する（ステップＳ３３１、Ｓ３３２）。移動領域の初期候補が棄却された場合（ステップＳ３３２でＮＯ）、本例でも例１と同様にもはや移動領域の検出は一切行われず、移動領域の検出が失敗した旨の検出結果を作業域１１３に記録して（ステップＳ３５７）、図１６Ａ及び図１６Ｂの処理を終了する。
　他方、移動領域の初期候補が採用された場合（ステップＳ３３２でＹＥＳ）、以下の手順により、領域を更に上下左右から縮小可能かどうか、上下左右へ拡張可能かどうかを調べる。
　まず移動領域決定部３０２は、初期候補の移動領域の右からの最大縮小幅を算出する（ステップＳ３３３）。具体的には、移動領域の各ラインについて、領域を右から狭めた際に「動き補償後の画素値」と「真の画素値」とが一致しない（差分が閾値以上になる）連続画素数を調べ、連続画素数の最小値を右からの最大縮小幅として、右端を確定する。例えば図１７に示すように、初期候補の右端を右から狭めた際、１ライン目と４ライン目と５ライン目は３画素連続して、残りの全ラインは２画素連続して、それぞれ「動き補償後の画素値」と「真の画素値」とが一致しなかったとすると、右からの最大縮小幅は連続画素数の最小値である２画素とする。
　次に移動領域決定部３０２は、最大縮小幅が０か否かを判定し（ステップＳ３３４）、最大縮小幅が０でなければ、例えば図１７に示すように、初期候補の右端から最大縮小幅だけ狭めた箇所を移動領域の右端として確定する（ステップＳ３３５）。また、最大縮小幅が０であれば、例１と同様の方法で移動領域の右への最大拡大幅を算出し、右端を確定する（ステップＳ３３６）。
　次に移動領域決定部３０２は、初期領域の左端からも右端と同様に最大縮小幅を算出し（ステップＳ３３７）、最大縮小幅が０でなければ、最大縮小幅から左端を確定する（ステップＳ３３８、３３９）。また、最大縮小幅が０であれば、例１と同様の方法で左端からの最大拡張幅を算出して、左端を確定する（ステップＳ３４０）。
　次に移動領域決定部３０２は、移動領域を上から１ライン縮小し、前述の（ア）、（イ）と同様の方式で、１ライン縮小した場合のメリット値、デメリット値を計算する（ステップＳ３４１、Ｓ３４２）。メリット値がデメリット値より小さければ（ステップＳ３４３でＹＥＳ）、更に次のラインについても同様の縮小処理を繰り返す（ステップＳ３４４～Ｓ３４６）。そして、メリット値がデメリット値よりも小さくないことが検出された場合、１ライン縮小前の上端を移動領域の上端に確定する（ステップＳ３４７）。他方、ステップＳ３４３でメリット値がデメリット値より小さくないと判定した場合、例１と同様の方法で移動領域の上への最大拡張幅を算出し、上端を確定する（ステップＳ３４８）。
　次に移動領域決定部３０２は、移動領域の下からも上からと同様の処理を行う（ステップＳ３４９～Ｓ３５６）。
　最後に移動領域決定部３０２は、上下左右の端部が確定した移動領域の座標情報を含む検出結果を作業域１１３に記録し（ステップＳ３５７）、図１６Ａ及び図１６Ｂの処理を終える。
　ここで、移動領域の左右からの縮小と上下からの縮小とで異なる手法を採用している理由は、同じライン上の複数の画素へのメモリアクセスは高速に行えるが、異なるライン上の画素へのメモリアクセスには時間がかかるためである。つまり、左右への縮小を上下と同様に１列ずつ順に行っていくと、１列縮小するだけでも移動領域の全ラインにわたるメモリアクセスが必要になるためである。しかし、このようなメモリアクセス時間が問題とならない状況の下では、移動領域の左右からの縮小を上下からの縮小と同じ手法で行っても良い。逆に、移動領域の上下からの縮小を、左右からの縮小に使用した簡易な手法で行うようにしても良い。
　この例２の移動領域決定部３０２によれば、初期候補決定部３０１で決定された初期候補の妥当性を定量的に判定することができるため、不適切な移動領域を使った動き補償を防止することができる。また、初期候補が妥当な場合、まず上下左右からの縮減を試みるため、初期候補の移動領域が真の移動領域よりも大きな領域として過剰に検出されていた場合に、過剰検出分を削減することが可能になる。更に、過剰検出の可能性がない辺については、符号量の削減効果が大きい、よりサイズの大きな移動領域へと拡大していくことが可能となる。
（Ｃ）移動領域決定部３０２の例３
　この例３の移動領域決定部３０２の処理例を図１８に示す。例３が例２と相違するところは、例２では初期候補について計算したメリット値がデメリット値を下回っていた場合にもはや移動領域の検出を断念していたのに対して、例３では、移動領域が真の移動領域よりも極めて過大に検出されている可能性を考慮して、各辺毎に領域の縮小の可能性を判定していくようにした点にある。
　まず移動領域決定部３０２は、例２と同様の方法により初期候補の移動領域の妥当性を判定する（ステップＳ３６１、Ｓ３６２）。移動領域の初期候補が棄却されなかった場合（ステップＳ３６２でＹＥＳ）の処理ステップＳ３６３は、例２のステップＳ３３３～Ｓ３５６と同じである。
　他方、移動領域の初期候補が棄却された場合（ステップＳ３６２でＮＯ）、以下の手順により、領域を更に上下左右から縮小可能かどうかを調べる。
　まず移動領域決定部３０２は、例２と同様の方法で、初期候補の移動領域の右からの最大縮小幅を算出する（ステップＳ３６４）。次に移動領域決定部３０２は、最大縮小幅が移動領域の横幅に等しいか否かを判定し（ステップＳ３６５）、最大縮小幅が移動領域の横幅に等しければ、移動領域の検出に失敗したとして、その旨の検出結果を生成し（ステップＳ３６５でＹＥＳ、ステップＳ３７２）、図１８の処理を終了する。最大縮小幅が移動領域の横幅に等しくなければ、初期候補の右端から最大縮小幅だけ狭めた箇所を移動領域の右端として確定する（ステップＳ３６６）。
　次に移動領域決定部３０２は、初期領域の左端からも右端と同様に最大縮小幅を算出し、左端を確定する（ステップＳ３６７）。
　次に移動領域決定部３０２は、移動領域の上からの最大縮小幅を例２と同様の方法で算出する（ステップＳ３６８）。もし、最大縮小幅が移動領域の縦幅に等しければ、移動領域の検出に失敗したとして、その旨の検出結果を生成し（ステップＳ３６９でＹＥＳ、ステップＳ３７２）、図１８の処理を終了する。最大縮小幅が移動領域の縦幅に等しくなければ、最大縮小幅から移動領域の上端を確定する（ステップＳ３７０）。
　次に移動領域決定部３０２は、移動領域の下からも上からと同様に最大縮小幅を算出し、下端を確定する（ステップＳ３７１）。
　最後に移動領域決定部３０２は、上下左右の端部が確定した移動領域の座標情報を含む検出結果を作業域１１３に記録し（ステップＳ３７２）、図１８の処理を終える。
　この例３の移動領域決定部３０２によれば、初期候補決定部３０１で決定された初期候補の妥当性を定量的に判定することができるため、不適切な移動領域を使った動き補償を防止することができる。また、初期候補が棄却された場合であっても、縮小の可能性を探索するため、初期候補の移動領域が真の移動領域よりも極めて過大に検出されていた場合でも移動領域を可能な限り検出することが可能になる。さらに、例２と同様に、初期候補が妥当な場合、まず上下左右からの縮小を試みるため、初期候補の移動領域が真の移動領域よりも大きな領域として過剰に検出されていた場合に、過剰検出分を削減することが可能になる。同様に、過剰検出の可能性がない辺については、符号量の削減効果が大きい、よりサイズの大きな移動領域へと拡大していくことが可能となる。
（Ｄ）移動領域決定部３０２の例４
　この例４の移動領域決定部３０２の処理例を図１９Ａ及び図１９Ｂに示す。例４が例２と相違するところは、例２では初期候補について妥当性の判定を行い、妥当と判定した場合に移動領域の縮小、拡大を試行するのに対して、例４では、初期候補の妥当性の判定を省略し、初期候補の縮小、拡大を試行する点にある。
　まず移動領域決定部３０２は、例２と同様の方法で、初期候補の移動領域の右からの最大縮小幅を算出する（ステップＳ３８１）。次に移動領域決定部３０２は、最大縮小幅が移動領域の横幅に等しいか否かを判定し（ステップＳ３８２）、最大縮小幅が移動領域の横幅に等しければ（ステップＳ３８２でＮＯ）、移動領域の検出に失敗したとして、その旨の検出結果を生成し（ステップＳ３９９）、図１９Ａ及び図１９Ｂの処理を終了する。
　最大縮小幅が移動領域の横幅に等しくなければ（ステップＳ３８２でＹＥＳ）、移動領域決定部３０２は、最大縮小幅が０かどうかを判定し（ステップＳ３８３）、０でなければ、初期候補の右端から最大縮小幅だけ狭めた箇所を移動領域の右端として確定する（ステップＳ３８４）。また、最大縮小幅が０であれば、移動領域決定部３０２は、例２と同様の方法で右への最大拡大幅を算出し、右端を確定する（ステップＳ３８５）。
　次に移動領域決定部３０２は、例２と同様の方法で初期候補の移動領域の左からの最大縮小幅を算出し（ステップＳ３８６）、最大縮小幅が０でなければ（ステップＳ３８７でＮＯ）、初期候補の左端から最大縮小幅だけ狭めた箇所を移動領域の左端として確定する（ステップＳ３８８）。また、最大縮小幅が０であれば、移動領域決定部３０２は、例２と同様の方法で左への最大拡大幅を算出し、左端を確定する（ステップＳ３８９）。
　次に移動領域決定部３０２は、移動領域の上からの最大縮小幅を例２と同様の方法で算出する（ステップＳ３９０）。もし、最大縮小幅が移動領域の縦幅に等しければ、移動領域の検出に失敗したとして、その旨の検出結果を生成し（ステップＳ３９１でＹＥＳ、Ｓ３９９）、図１９Ａ及び図１９Ｂの処理を終了する。最大縮小幅が移動領域の縦幅に等しくなければ、最大縮小幅が０かどうかを判定し（ステップＳ３９１でＮＯ、ステップＳ３９２）、０でなければ、初期候補の上端から最大縮小幅だけ狭めた箇所を移動領域の上端として確定する（ステップＳ３９３）。また、最大縮小幅が０であれば、移動領域決定部３０２は、例２と同様の方法で上への最大拡大幅を算出し、上端を確定する（ステップＳ３９４）。
　次に移動領域決定部３０２は、移動領域の下からの最大縮小幅を例２と同様の方法で算出し（ステップＳ３９５）、０でなければ、初期候補の下端から最大縮小幅だけ狭めた箇所を移動領域の下端として確定する（ステップＳ３９６でＮＯ、Ｓ３９７）。また、最大縮小幅が０であれば、移動領域決定部３０２は、例２と同様の方法で下への最大拡大幅を算出し、下端を確定する（ステップＳ３９８）。
　最後に移動領域決定部３０２は、上下左右の端部が確定した移動領域の座標情報を含む検出結果を作業域１１３に記録し（ステップＳ３９９）、図１９Ａ及び図１９Ｂの処理を終える。
　この例４の移動領域決定部３０２によれば、初期候補決定部３０１で決定された初期候補の妥当性を定量的に判定していないので、処理量を削減することができる。また、まず上下左右からの縮小を試みるため、初期候補の移動領域が真の移動領域よりも大きな領域として過剰に検出されていた場合に、過剰検出分を削減することが可能になる。同様に、過剰検出の可能性がない辺については、符号量の削減効果が大きい、よりサイズの大きな移動領域へと拡大していくことが可能となる。ただし、初期候補の移動領域の妥当性を判定していないため、例えばドーナツ型の穴の部分が移動前後で全く相違するような領域を移動領域として検出する可能性がある。
（３）更新領域検出域設定部１２４
　図２０を参照すると、更新領域検出域設定部１２４の第１の実施例は、移動領域有無判定部４０１と、移動方向判定部４０２と、分割部４０３とから構成される。各々は、概ね以下のような機能を有する。
　移動領域有無判定部４０１は、移動領域検出部１２２で移動領域が検出されたか否かを判定する機能を有する。
　移動方向判定部４０２は、移動領域検出部１２２で検出された移動領域の移動方向を判定する機能を有する。
　分割部４０３は、移動領域有無判定部４０１および移動方向判定部４０２の判定結果に従って画面分割の必要性の判定および画面分割による更新領域検出域の設定を行う機能を有する。
　次に本実施例の更新領域検出域設定部１２４の第１の処理例を説明する。
　更新領域検出域設定部１２４の移動領域有無判定部４０１は、移動領域検出部１２２の検出結果を作業域１１３から読み出して解析することにより、移動領域が検出されたかどうかを判定し、判定結果を移動方向判定部４０２および分割部４０３へ通知する（図２１のステップＳ５０１）。
　移動方向判定部４０２は、移動方向を判定する（ステップＳ５０２）。具体的には、移動方向判定部４０２は、まず、移動領域が検出された旨の通知を移動領域有無判定部４０１から受け取る。次に、移動方向判定部４０２は、作業域１１３から読み出された移動領域検出部１２２の検出結果に含まれる移動前の移動領域の座標と移動後の移動領域の座標とを比較する移動方向が、画面の上から下へ向かう成分を含む方向（以下、下方向と言う）、画面の下から上へ向かう成分を含む方向（以下、上方向と言う）の何れであるかを判定する。そして、移動方向判定部４０２は、判定結果を分割部４０３に通知する。判定結果には、移動方向以外に、下方向の場合には移動後の移動領域の上端の座標、上方向の場合には移動後の移動領域の下端の座標が含まれる。なお、下方向でもなく、上方向でもない左右方向の場合の扱い方としては、例えば、下方向あるいは上方向の何れかに含めることが考えられる。
　分割部４０３は、移動領域有無判定部４０１から移動領域が検出されなかった旨の通知を受けた場合、画面全体を１つの更新領域検出域に設定する（ステップＳ５０３）。また、移動領域有無判定部４０１から移動領域が検出された旨の通知を受けた場合、移動方向判定部４０２からの通知に従って画面を分割する（ステップＳ５０４～Ｓ５０６）。具体的には、移動方向が下方向であれば、移動後の移動領域の上端で画面を２分割し、各分割領域をそれぞれ１つの更新領域検出域に設定する。また、移動方向が上方向であれば、移動後の移動領域の下端で画面を２分割し、各分割領域をそれぞれ１つの更新領域検出域に設定する。その後、更新領域検出域毎に更新領域検出部１２５による更新領域の検出が行われる。
　第１の処理例の更新領域検出域設定部１２４による効果を説明する。以下では、移動方向が下方向の場合について説明しているが、上方向の場合も同様の効果が得られる。また、以降の効果を説明する図において、斜線部は差分画素を示す。また、以降の効果を説明する図において、同一の要素については同一の符号を付し、重複した説明は省略する。
　図２２の左上は、画面Ｒ１において移動領域Ｒ１１から移動領域Ｒ１２へ移動したこと、つまり、移動領域が下方向に移動したことを示す。図２２の右上は、画面Ｒ２全体を更新領域検出域に設定した場合を示す。このとき、移動前の移動領域Ｒ２１に相当する領域全体が更新領域として検出される。また、移動後の移動領域Ｒ２０は、検出されない。これに対して本例にかかる図２２の右下は、移動後の移動領域Ｒ３０の上端で画面Ｒ３が分割線Ｌ２２１により２分割され、各々の更新領域検出域で更新領域Ｒ３１及びＲ３２の検出が行われるため、更新領域の合計面積を最小限に抑えることができ、符号量の削減が可能になる。
　次に本実施例の更新領域検出域設定部１２４の第２の処理例を説明する。
　更新領域検出域設定部１２４の移動領域有無判定部４０１は、第１の処理例と同様に移動領域が検出されたかどうかを判定し、判定結果を移動方向判定部４０２および分割部４０３へ通知する（図２３のステップＳ５１１）。
　移動方向判定部４０２は、第１の処理例と同様に、移動領域が検出された旨の通知を移動領域有無判定部４０１から受け取ると、移動方向が下方向、上方向の何れであるかを判定し、判定結果を分割部４０３に通知する（ステップＳ５１２）。判定結果には、移動方向以外に、移動方向が下方向の場合も上方向の場合も共に、移動後の移動領域の上下端の座標が含まれる。
　分割部４０３は、移動領域有無判定部４０１から移動領域が検出されなかった旨の通知を受けた場合、第１の処理例と同様に画面全体を１つの更新領域検出域に設定する（ステップＳ５１３）。また、移動領域有無判定部４０１から移動領域が検出された旨の通知を受けた場合、移動方向判定部４０２からの通知に従って画面を分割する（ステップＳ５１４～Ｓ５１６）。具体的には、移動方向が下方向および上方向とも、移動後の移動領域の上下端で画面を３分割し、各分割領域をそれぞれ１つの更新領域検出域に設定する。その後、更新領域検出域毎に更新領域検出部１２５による更新領域の検出が行われる。
　次に、本処理例の更新領域検出域設定部１２４による効果を説明する。以下では、移動方向が下方向の場合について説明しているが、上方向の場合も同様の効果が得られる。
　図２４の左上及び右上は、図２２の左上及び右上と同様である。これに対して本例にかかる図２４の右下は、移動後の移動領域Ｒ３０の上下端で画面Ｒ３が分割線Ｌ２４１及びＬ２４２により３分割され、各々の更新領域検出域で更新領域Ｒ３１及びＲ３２の検出が行われるため、更新領域の合計面積を最小限に抑えることができ、符号量の削減が可能になる。
　また、図２５の左上は、画面Ｒ１において検出された移動領域Ｒ１３が実際の移動領域Ｒ１２よりも小さかった場合を示す。図２５の右上は、図２１の第１の処理例を適用し、移動後の上端のみで画面Ｒ２を分割線Ｌ２５１により２分割した場合を示す。この場合、図２５の右上に示すように検出された移動領域Ｒ２０ａを含み、無駄に大きな更新領域Ｒ２２及びＲ２３が検出されてしまう。これに対して本例にかかる図２５の右下は、移動後の移動領域Ｒ３０ａの上下端で画面Ｒ３が分割線Ｌ２５２及びＬ２５３により３分割され、各々の更新領域検出域で更新領域Ｒ３３１、Ｒ３３２、Ｒ３３３及びＲ３３４の検出が行われるため、更新領域の合計面積を小さくでき、その分、符号量の削減が可能になる。
　次に本実施例の更新領域検出域設定部１２４の第３の処理例を説明する。
　更新領域検出域設定部１２４の移動領域有無判定部４０１は、第２の処理例と同様に移動領域が検出されたかどうかを判定し、判定結果を移動方向判定部４０２および分割部４０３へ通知する（図２６のステップＳ５２１）。
　移動方向判定部４０２は、第２の処理例と同様に、移動領域が検出された旨の通知を移動領域有無判定部４０１から受け取ると、移動方向が下方向、上方向の何れであるかを判定し、判定結果を分割部４０３に通知する（ステップＳ５２２）。判定結果には、移動方向以外に、移動方向が下方向の場合には移動後の移動領域の上下端および移動前の移動領域の下端の座標が含まれ、移動方向が上方向の場合には移動後の移動領域の上下端および移動前の移動領域の上端の座標が含まれる。
　分割部４０３は、移動領域有無判定部４０１から移動領域が検出されなかった旨の通知を受けた場合、第２の処理例と同様に画面全体を１つの更新領域検出域に設定する（ステップＳ５２３）。また、移動領域有無判定部４０１から移動領域が検出された旨の通知を受けた場合、移動方向判定部４０２からの通知に従って画面を分割する（ステップＳ５２４～Ｓ５２６）。具体的には、移動方向が下方向の場合、移動後の移動領域の上下端と移動前の移動領域の下端で画面を４分割し、各分割領域をそれぞれ１つの更新領域検出域に設定する。また、移動方向が上方向の場合、移動後の移動領域の上下端と移動前の移動領域の上端で画面を４分割し、各分割領域をそれぞれ１つの更新領域検出域に設定する。その後、更新領域検出域毎に更新領域検出部１２５による更新領域の検出が行われる。
　次に、本処理例の更新領域検出域設定部１２４による効果を説明する。以下では、移動方向が下方向の場合について説明しているが、上方向の場合も同様の効果が得られる。
　図２７の左上及び右上は、図２２の左上及び右上と同様である。これに対して本例にかかる図２７の右下は、移動後の移動領域Ｒ３０の上下端および移動前の移動領域の下端で画面Ｒ３が分割線Ｌ２７１、Ｌ２７２及びＬ２７３により４分割され、各々の更新領域検出域で更新領域Ｒ３１及びＲ３２の検出が行われるため、更新領域の合計面積を最小限に抑えることができ、符号量の削減が可能になる。
　また、図２８の左上は、図２５の左上と同様である。図２８の右上は、図２１の第１の処理例を適用し、移動後の上端のみで画面Ｒ２を分割線Ｌ２８１により２分割した場合を示す。この場合、図２８の右上に示すように検出された移動領域Ｒ２０ａを含み、無駄に大きな更新領域Ｒ２２及びＲ２３が検出されてしまう。これに対して本例にかかる図２８の右下は、移動後の移動領域Ｒ３０ｂの上下端および移動前の移動領域の下端で画面Ｒ３が分割線Ｌ２８１、Ｌ２８２及びＬ２８３により４分割され、各々の更新領域検出域で更新領域の検出が行われるため、更新領域の合計面積を小さくでき、その分、符号量の削減が可能になる。
　さらに、図２９の左上は、画面Ｒ１において検出された移動領域Ｒ１４が実際の移動領域Ｒ１２よりも大きかった場合を示す。図２９の右上は、図２１の第１の処理例を適用し、移動後の上端のみで画面Ｒ２を分割線Ｌ２９１により２分割した場合を示す。この場合、図２９の右上に示すように検出された移動領域Ｒ２０ｂを含み、無駄に大きな更新領域Ｒ２４及びＲ２５が検出されてしまう。また、図２９の右下は、図２３の第２の処理例を適用し、移動後の移動領域Ｒ３０ｃの上下端のみで画面Ｒ３を分割線Ｌ２９２及びＬ２９３により３分割した場合を示す。この場合、図２９の右下に示すように検出された移動領域Ｒ３０ｃを含み、更新領域Ｒ３５１及びＲ３５２がやや冗長になる。これに対して本例にかかる図２９の左下は、移動後の移動領域Ｒ４０の上下端および移動前の移動領域の下端で画面Ｒ４が分割線Ｌ２９４、Ｌ２９５及びＬ２９６により４分割され、各々の更新領域検出域で更新領域Ｒ４１、Ｒ４２及びＲ４３の検出が行われるため、第２の処理例に比べて更新領域の合計面積を小さくでき、その分、符号量の削減が可能になる。ただし、過剰検出される領域の面積がそれほど大きくないならば、第２の処理例の方が更新領域の個数が少なくなる利点がある。
　図３０を参照すると、更新領域検出域設定部１２４の第２の実施例は、移動領域有無判定部４１１と、移動領域重複判定部４１２と、移動方向判定部４１３と、分割部４１４とから構成される。各々は、概ね以下のような機能を有する。
　移動領域有無判定部４１１および移動方向判定部４１３は、更新領域検出域設定部１２４の第１の実施例における移動領域有無判定部４０１および移動方向判定部４０２と同じ機能を有する。
　移動領域重複判定部４１２は、移動領域検出部１２２で検出された移動前後の移動領域の重なりの可能性の有無を判定する機能を有する。
　分割部４１４は、移動領域有無判定部４１１、移動領域重複判定部４１２および移動方向判定部４１３の判定結果に従って画面分割の必要性の判定および画面分割による更新領域検出域の設定を行う機能を有する。
　次に本実施例の更新領域検出域設定部１２４の処理例を説明する。
　更新領域検出域設定部１２４の移動領域有無判定部４１１は、第１の実施例の移動領域有無判定部４０１と同様に移動領域が検出されたかどうかを判定し、判定結果を移動領域重複判定部４１２および分割部４１４へ通知する（図３１のステップＳ５３１）。
　移動領域重複判定部４１２は、移動前後の移動領域が重なっていないかを判定する（ステップＳ５３２）。具体的には、移動領域重複判定部４１２は、まず、移動領域が検出された旨の通知を移動領域有無判定部４０１から受け取る。次に、移動領域重複判定部４１２は、作業域１１３から移動領域検出部１２２の検出結果に含まれる移動前の移動領域の座標と移動後の移動領域の座標とを読み出す。そして、移動領域重複判定部４１２は、移動前の移動領域を上下左右に所定幅Δだけ拡大した領域と、移動後の移動領域を上下左右に所定幅Δだけ拡大した領域とが少なくとも一部で重なるかどうかを調べる。その後、移動領域重複判定部４１２は、重なる場合には移動領域の重複ありの判定結果を、重ならない場合には移動領域の重複なしの判定結果を移動方向判定部４１３および分割部４１４に通知する。ここで、所定幅Δは、移動領域の検出不足の生じる程度に応じて事前に設定される。
　移動方向判定部４１３は、移動方向を判定する（ステップＳ５３３）。具体的には、移動方向判定部４１３は、まず、移動領域の重複なしの通知を移動領域重複判定部４１２から受け取る。次に、移動方向判定部４１３は、作業域１１３から読み出された移動領域検出部１２２の検出結果に含まれる移動前の移動領域の座標と移動後の移動領域の座標とを比較することにより、移動方向が下方向、上方向の何れであるかを判定する。そして、移動方向判定部４１３は、判定結果を分割部４１４に通知する（ステップＳ５３３）。判定結果には、第１の実施例における移動方向判定部４０２と同様に移動方向以外に、画面を分割する座標が含まれる。
　分割部４１４は、移動領域有無判定部４１１から移動領域が検出されなかった旨の通知を受けた場合、および移動領域重複判定部４１２から移動領域の重複なしの通知を受けた場合、画面全体を１つの更新領域検出域に設定する（ステップＳ５３４）。他方、移動領域有無判定部４１１から移動領域が検出された旨の通知を受けると共に、移動領域重複判定部４１２から移動領域の重複ありの通知を受けた場合、移動方向判定部４１３からの通知に従って第１の実施例の分割部４０３の第１の処理例、第２の処理例および第３の処理例の何れかと同じように画面を分割して更新領域検出域を設定する（ステップＳ５３５～Ｓ５３７）。その後、更新領域検出域毎に更新領域検出部１２５による更新領域の検出が行われる。
　この第２の実施例の更新領域検出域設定部１２４によれば、移動前後の移動領域が重なっている可能性がない場合には画面を分割しないので、更新領域の分割数の増加を抑えることができる。
　図３２を参照すると、更新領域検出域設定部１２４の第３の実施例は、移動領域有無判定部５０１と、分割部５０２とから構成される。各々は、概ね以下のような機能を有する。
　移動領域有無判定部５０１は、移動領域検出部１２２で移動領域が検出されたか否かを判定する機能を有する。
　分割部５０２は、移動領域有無判定部５０１の判定結果に従って画面分割の必要性の判定および画面分割による更新領域検出域の設定を行う機能を有する。
　次に本実施例の更新領域検出域設定部１２４の第１の処理例を説明する。
　更新領域検出域設定部１２４の移動領域有無判定部５０１は、移動領域検出部１２２の検出結果を作業域１１３から読み出して解析することにより、移動領域が検出されたかどうかを判定し、判定結果を分割部５０２へ通知する（図３３のステップＳ６０１）。
　分割部５０２は、移動領域有無判定部５０１から移動領域が検出されなかった旨の通知を受けた場合、画面全体を１つの更新領域検出域に設定する（ステップＳ６０２）。また、移動領域有無判定部４０１から移動領域が検出された旨の通知を受けた場合、作業域１１３から移動領域検出部１２２の検出結果に含まれる移動後の移動領域の座標を読み出し、移動後の移動領域の上下端で画面を３分割し（ステップＳ６０３）、各分割領域をそれぞれ１つの更新領域検出域に設定する（ステップＳ６０４）。その後、更新領域検出域毎に更新領域検出部１２５による更新領域の検出が行われる。
　第３の実施例の更新領域検出域設定部１２４の第１の処理例による効果を説明する。以下では、移動方向が下方向の場合について説明しているが、上方向の場合も同様の効果が得られる。
　図３４の左上及び右上は、図２２の左上及び右上と同様である。これに対して本例にかかる図３４の右下は、移動後の移動領域Ｒ３０の上下端で画面Ｒ３が分割線Ｌ３４１及びＬ３４２により３分割され、各々の更新領域検出域で更新領域Ｒ３１及びＲ３２の検出が行われるため、更新領域の合計面積を最小限に抑えることができ、符号量の削減が可能になる。
　また、図３５の左上は、図２５の左上と同様である。図３５の右上は、画面Ｒ２全体を更新領域検出域に設定した場合を示す。この場合、図３５の右上に示すように検出された移動領域Ｒ２０ｃを含み、移動前後の移動領域を包含するような移動領域Ｒ２６が検出されてしまう。これに対して本例にかかる図３５の右下は、移動後の移動領域Ｒ３０ａの上下端で画面Ｒ３が分割線Ｌ３５１及びＬ３５２により３分割され、各々の更新領域検出域で更新領域Ｒ３３１、Ｒ３３２、Ｒ３３３及びＲ３３４の検出が行われるため、更新領域の合計面積を小さくでき、その分、符号量の削減が可能になる。
　次に本実施例の更新領域検出域設定部１２４の第２の処理例を説明する。
　更新領域検出域設定部１２４の移動領域有無判定部５０１は、第１の処理例と同様に移動領域が検出されたかどうかを判定し、判定結果を分割部５０２へ通知する（図３６のステップＳ６１１）。
　分割部５０２は、移動領域有無判定部５０１から移動領域が検出されなかった旨の通知を受けた場合、第１の処理例と同様に画面全体を１つの更新領域検出域に設定する（ステップＳ６１２）。また、移動領域有無判定部５０１から移動領域が検出された旨の通知を受けた場合、作業域１１３から移動領域検出部１２２の検出結果に含まれる移動前後の移動領域の座標を読み出し、移動前の移動領域の上下端と移動後の移動領域の上下端とで画面を５分割し（ステップＳ６１３）、各分割領域をそれぞれ１つの更新領域検出域に設定する（ステップＳ６１４）。その後、更新領域検出域毎に更新領域検出部１２５による更新領域の検出が行われる。
　第３の実施例の更新領域検出域設定部１２４の第２の処理例による効果を説明する。以下では、移動方向が下方向の場合について説明しているが、上方向の場合も同様の効果が得られる。
　図３７の左上及び右上は、図２２の左上及び右上と同様である。これに対して本例にかかる図３７の右下は、移動前後の移動領域Ｒ３０の上下端で画面Ｒ３が分割線Ｌ３７１、Ｌ３７２、Ｌ３７３及びＬ３７４により５分割され、各々の更新領域検出域で更新領域Ｒ３１及びＲ３２の検出が行われるため、更新領域の合計面積を最小限に抑えることができ、符号量の削減が可能になる。
　また、図３８の左上及び右上は、図３５の左上及び右上と同様である。これに対して本例にかかる図３８の右下は、移動前後の移動領域Ｒ３０ｄの上下端で画面Ｒ３が分割線Ｌ３８１、Ｌ３８２、Ｌ３８３及びＬ３８４により５分割され、各々の更新領域検出域で更新領域Ｒ３６１、Ｒ３６２、Ｒ３６３、Ｒ３６４、Ｒ３６５、Ｒ３６６及びＲ３６７の検出が行われるため、更新領域の合計面積を小さくでき、その分、符号量の削減が可能になる。
　さらに、図３９の左上は、図２９の左上と同様である。図３９の右上は、図３５の右上と同様である。また、図３９の右下は、第１の処理例を適用し、移動後の移動領域Ｒ３０ｃの上下端で画面Ｒ３を分割線Ｌ３９１及びＬ３９２により３分割した場合を示す。この場合、図３９の右下に示すように検出された移動領域Ｒ３０ｃを含み、冗長な更新領域Ｒ３５１及びＲ３５２が検出される。これに対して本例にかかる図３９の左下は、移動前後の移動領域Ｒ４０の上下端で画面Ｒ４が分割線Ｌ３９３、Ｌ３９４、Ｌ３９５及びＬ３９６により５分割され、各々の更新領域検出域で更新領域Ｒ４１、Ｒ４２及びＲ４３の検出が行われるため、更新領域の合計面積を小さくでき、その分、符号量の削減が可能になる。
　図４０を参照すると、更新領域検出域設定部１２４の第４の実施例は、移動領域有無判定部５１１と、移動領域重複判定部５１２と、分割部５１３とから構成される。各々は、概ね以下のような機能を有する。
　移動領域有無判定部５１１は、更新領域検出域設定部１２４の第３の実施例における移動領域有無判定部５０１と同じ機能を有する。
　移動領域重複判定部５１２は、移動領域検出部１２２で検出された移動前後の移動領域の重なりの可能性の有無を判定する機能を有する。
　分割部５１３は、移動領域有無判定部５１１および移動領域重複判定部５１２の判定結果に従って画面分割の必要性の判定および画面分割による更新領域検出域の設定を行う機能を有する。
　次に本実施例の更新領域検出域設定部１２４の処理例を説明する。
　更新領域検出域設定部１２４の移動領域有無判定部５１１は、第３の実施例の移動領域有無判定部５０１と同様に移動領域が検出されたかどうかを判定し、判定結果を移動領域重複判定部５１２および分割部５１３へ通知する（図４１のステップＳ６２１）。
　移動領域重複判定部５１２は、移動前後の移動領域が重なっていないかを判定する（ステップＳ６２２）。具体的には、移動領域重複判定部５１２は、まず、移動領域が検出された旨の通知を移動領域有無判定部５１１から受け取る。次に、移動領域重複判定部５１２は、作業域１１３から移動領域検出部１２２の検出結果に含まれる移動前後の移動領域の座標を読み出す。そして、移動領域重複判定部５１２は、移動前の移動領域を上下左右に所定幅Δだけ拡大した領域と、移動後の移動領域を上下左右に所定幅Δだけ拡大した領域とが少なくとも一部で重なるかどうかを調べる。その後、移動領域重複判定部５１２は、重なる場合には移動領域の重複ありの判定結果を、重ならない場合には移動領域の重複なしの判定結果を分割部５１３に通知する。ここで、所定幅Δは、移動領域の検出不足の生じる程度に応じて事前に設定される。
　分割部５１３は、移動領域有無判定部５１２から移動領域が検出されなかった旨の通知を受けた場合、および移動領域重複判定部５１２から移動領域の重複なしの通知を受けた場合、画面全体を１つの更新領域検出域に設定する（ステップＳ６２３）。他方、移動領域有無判定部５１２から移動領域が検出された旨の通知を受けると共に、移動領域重複判定部５１２から移動領域の重複ありの通知を受けた場合、第３の実施例の分割部５０２の第１の処理例および第２の処理例の何れかと同じように画面を３分割または５分割して更新領域検出域を設定する（ステップＳ６２４、Ｓ６２５）。その後、更新領域検出域毎に更新領域検出部１２５による更新領域の検出が行われる。
　この第４の実施例の更新領域検出域設定部１２４によれば、移動前後の移動領域が重なっている可能性がない場合には画面を分割しないので、更新領域の分割数の増加を抑えることができる。
（４）更新領域検出部１２５
　図４２を参照すると、更新領域検出部１２５の第１の実施例は、画素比較部６０１および更新領域抽出部６０２から構成され、更新領域検出域設定部１２４により設定された各々の更新領域検出域毎に、動き補償後の参照フレームと現フレームとの差分領域である更新領域を検出する。画素比較部６０１および更新領域抽出部６０２は、概ね以下のような機能を有する。
　画素比較部６０１は、処理対象とする更新領域検出域毎に、動き補償後の参照フレームと現フレームとにおける同じ位置の画素の値の差分を、第１の閾値および第１の閾値よりも大きな値の第２の閾値と比較する機能を有する。
　更新領域抽出部６０２は、処理対象とする更新領域検出域毎に、第１の閾値より大きな差分が検出された画素の塊のうち、第２の閾値より大きな差分が検出された画素を含む塊を更新領域として抽出する機能を有する。
　次に本実施例の更新領域検出部１２５の動作を説明する。
　更新領域検出部１２５は、更新領域検出域設定部１２４が設定した更新領域検出域の情報を作業域１１３から読み出し、そのうちの１つの更新領域検出域に注目する（図４３のステップＳ７０１）。次に、注目中の更新領域検出域から更新領域の抽出を行い、抽出結果を作業域１１３に保存する（ステップＳ７０２）。更新領域検出部１２５は、１つの更新領域検出域からの更新領域の抽出処理を終えると、次の１つの更新領域検出域に注目を移し（ステップＳ７０３）、上述した処理と同様の処理を繰り返す。全ての更新領域検出域からの更新領域の抽出処理を終えると（ステップＳ７０４でＹＥＳ）、図４３の処理を終える。
　次にステップＳ７０２で実行される処理について、図４４Ａ及び図４４Ｂのフローチャートを参照して詳細に説明する。
　まず更新領域検出部１２５は、更新領域の抽出処理に使用する上端バッファ、下端バッファおよびフラグバッファの初期化を行う（ステップＳ７１１）。各バッファはフレームの各列に１対１に対応するエントリを有する。このうち、上端バッファは、第１の閾値より大きな差分が検出された最上位行の行番号を各列毎に保持するために使用し、下端バッファは、第１の閾値より大きな差分が検出された最下位行の行番号を各列毎に保持するために使用する。また、フラグバッファは、第２の閾値より大きな差分が検出されたか否かを示すフラグを各列毎に保持する。
　以降、更新領域検出部１２５の画素比較部６０１によって以下のような処理が実行される。
　まず画素比較部６０１は、動き補償後の参照フレームと現フレームとの更新領域検出域に含まれる複数の画素のペアのうち、先頭の画素のペアに注目する（Ｓ７１２）。例えば、図４５に示すように、注目中の更新領域検出域がフレームの１行目から始まる場合、動き補償後の参照フレームの画素Ｐ（０，０）と現フレームの画素Ｐ（０，０）のペアに注目する。
　次に画素比較部６０１は、注目中の画素のペアの画素値の差分を計算する（ステップＳ７１３）。次に、差分を第１の閾値と比較し（ステップＳ７１４）、差分が第１の閾値より大きければ、上端バッファおよび下端バッファを更新する（ステップＳ７１５）。具体的には、上端バッファについては、注目中の画素が位置する列に対応する上端バッファのエントリがＮＵＬＬであれば当該エントリに注目中の画素が位置する行の番号を記録し、ＮＵＬＬでなく既に行番号が記録されていればそのままにする。他方、下端バッファについては、注目中の画素が位置する列に対応する下端バッファのエントリに無条件に注目中の画素が位置する行の番号を記録する。
　次に画素比較部６０１は、差分を第２の閾値と比較し（ステップＳ７１６）、差分が第２の閾値より大きければ、フラグバッファを更新する（ステップＳ７１７）。具体的には、注目中の画素が位置する列に対応するフラグバッファのエントリに無条件に１を記録する。
　次に画素比較部６０１は、双方のフレームにおける同じ行の次の列の画素のペアに注目を移し（ステップＳ７１８）、ステップＳ７１３に戻る。差分が第１の閾値より大きくない場合、上端バッファおよび下端バッファの更新は行わない。また、差分が第１の閾値より大きくても第２の閾値より大きくなければ、フラグバッファの更新は行わない。
　ここで、画素値の差分の計算は、例えばＲ、Ｇ、Ｂの各成分毎に行う。また、第１および第２の閾値との比較は、各成分の差分毎に行い、少なくとも１つの成分の差分が閾値より大きければ、画素値の差分が閾値より大きいと判定する。
　その後、画素比較部６０１は、注目中の更新領域検出域の１行分の画素のペアについての処理を終える（ステップＳ７１９でＹＥＳ）。そして、画素比較部６０１は、処理の開始時点または更新領域抽出部６０２を過去に呼び出していれば前回の呼び出し時点から第１の閾値より大きな差分が全く検出されなかった行の連続数、つまり非更新行の連続数をカウントする（ステップＳ７２０）。続いて、画素比較部６０１は、予め設定された閾値Ｌと非更新行の連続数とを比較する（ステップＳ７２１）。ここで、閾値Ｌは更新領域の過分割を避けるために１以上の値（例えば８）に設定される。もし、非更新行の連続数が閾値Ｌを超えていれば、更新領域抽出範囲の先頭行と最終行とを指定して、更新領域抽出部６０２を呼び出し、列分割による更新領域の検出処理を行わせる（ステップＳ７２２）。更新領域の抽出範囲の先頭行は、更新領域抽出部６０２を過去に呼び出していなければフレームの先頭行であり、呼び出していれば、前回の呼び出し時に指定した最終行の次の行である。また、更新領域の抽出範囲の最終行は、現時点において最後の列の画素の処理を終えた行である。
　画素比較部６０１は、更新領域抽出部６０２の処理が完了すると、フレームの次の行の先頭の画素のペアに注目を移し（ステップＳ７２３）、ステップＳ７１３に戻る。
　なお、画素比較部６０１は、非更新行の連続数が閾値Ｌを超えていなければ、更新領域抽出部６０２は呼び出さずに、フレームの次の行の先頭の画素のペアに注目を移し（ステップＳ７２３）、ステップＳ７１３に戻る。
　さらに、画素比較部６０１は、注目中の更新領域検出域の最後の行の最後の画素のペアまで処理を終える（ステップＳ７２４でＹＥＳ）。そして、画素比較部６０１は、処理の開始時点または更新領域抽出部６０２を過去に呼び出していれば前回の呼び出し時点から後に第１の閾値より大きな差分が検出された行が存在したかどうかを判定する（ステップＳ７２５）。ここで、存在しなかった場合には図４４Ａ及び図４４Ｂの処理を終了する。また、存在した場合には、更新領域抽出範囲の先頭行と最終行とを指定して、更新領域抽出部６０２を呼び出し（ステップＳ７２６）、列分割による更新領域の検出処理の完了後に図４４Ａ及び図４４Ｂの処理を終了する。更新領域の抽出範囲の先頭行は、更新領域抽出部６０２を過去に呼び出していなければフレームの先頭行であり、呼び出していれば、前回の呼び出し時に指定した最終行の次の行である。また更新領域の抽出範囲の最終行はフレームの最終行である。
　図４５の上側に描いたマトリクスは、動き補償後の参照フレームと現フレームとの差分状況の一例を示しており、１つの枡目が１つの画素のペアの差分状況を示す。また、空白の枡目は差分が第１の閾値よりも小さいことを、ハッチングを施した枡目は差分が第１の閾値より大きく第２の閾値より小さいことを、黒く塗りつぶした枡目は差分が第２の閾値より大きいことをそれぞれ示す。このような状況の下に、フレームの９行目までの範囲について画素比較部６０１で上述したような動作が行われると、上端バッファ、下端バッファおよびフラグバッファには、図４５の下側に示すような内容が記録される。ここで、上端バッファおよび下端バッファ中の数値は行の番号を示し、記号「－」はＮＵＬＬを示す。また、フラグバッファ中の０、１はフラグの値を示し、第２の閾値を超えたことは値１で示される。そして、上記閾値Ｌを例えば３行とすると、９行目までの処理を終えた時点で非更新行の連続数が４となり、閾値Ｌを超えるので、更新領域抽出部６０２が呼び出されることになる。
　次に、更新領域抽出部６０２が実行する列分割による更新領域の検出処理について、図４６のフローチャートを参照して説明する。
　更新領域抽出部６０２は、上端バッファまたは下端バッファを参照して、今回の呼び出しで指定された更新領域抽出範囲から更新列（差分画素が存在した列のまとまり）と非更新列（差分画素が存在しなかった列のまとまり）を抽出する（ステップＳ７３１）。例えば図４５の場合、上端バッファのエントリを列０から順に参照すると、ＮＵＬＬが１つ連続しているので、０列を非更新列（０－０）として抽出し、次に数値が記録されたエントリが５つ連続しているので、１列から５列までを更新列（１－５）として抽出する。以下同様に、非更新列（６－７）、更新列（８－９）、非更新列（１０－１４）、更新列（１５－１６）等を抽出する。
　次に更新領域抽出部６０２は、更新領域の過分割を避けるために、所定列数Ｗ以下の非更新列を間にして互いに隣接する更新列を１つの更新列に結合する（ステップＳ７３２）。例えば、Ｗを３とすると、図４５の場合、更新列（１－５）と更新列（８－９）は更新列（１－９）として結合される。
　次に更新領域抽出部６０２は、フラグバッファを参照して、フラグの値が全て０の更新列を非更新列に変更する（ステップＳ７３３）。例えば図４５の場合、結合後の更新列（１－９）についてフラグバッファ中の列１～列９に対応するフラグを参照すると、値１が含まれているので、更新列（１－９）はそのままとする。他方、更新列（１５－１６）についてフラグバッファ中の列１５－１６に対応するフラグを参照すると、すべて値０なので、更新列（１５－１６）はノイズによって生じた可能性が高いと判断して非更新列に変更される。
　次に更新領域抽出部６０２は、各更新列毎に、差分画素が発生する最上端と最下端の行を調べ、その更新列の左端と右端と合わせて、更新領域を定める更新矩形を確定する（ステップＳ７３４）。この処理により、更新列（１－９）については、上端バッファを参照すると最上端は２、下端バッファを参照すると最下端は５、その更新列の左端は１、右端は９なので、更新矩形を左上および右下の端点で規定する場合、左上端点（２，１）、右下端点（５，９）として求められる。こうして求められた更新領域の情報（更新矩形の座標）は、更新領域検出結果の一部として作業域１１３に記録される。
　次に更新領域抽出部６０２は、上端バッファ、下端バッファおよびフラグバッファの初期化を行い（ステップＳ７３５）、図４６の処理を終了する。なお、図４６の処理では、所定列数Ｗ以下の非更新列を間にして互いに隣接する更新列を１つの更新列に結合した後、第２の閾値を超える画素が存在しない更新列を非更新列に変更した。しかし、それとは逆に、第２の閾値を超える画素が存在しない更新列を非更新列に変更した後、所定列数Ｗ以下の非更新列を間にして互いに隣接する更新列を１つの更新列に結合する処理を行うようにしても良い。
　次に本実施例の更新領域検出部１２５の効果を説明する。
　本実施例の更新領域検出部１２５によれば、アナログキャプチャされたコンピュータ画面の更新領域を精度良く検出することができる。その理由は、第１の閾値とそれより大きな第２の閾値との２種類の閾値を使用し、第１の閾値より大きな差分が検出された画素の塊のうち、第２の閾値より大きな差分が検出された画素を含む塊を更新領域として抽出するためである。これにより、第１の閾値だけを使用して更新領域を検出した場合に起こり易い更新領域の過度検出が防止でき、かつ、第２の閾値だけを使用して更新領域を検出した場合に起こり易い更新領域の検出不足が防止できる。
　具体的には、例えば動画などのグラデーション部に画素変化があった場合、単一の画素値の変化量だけを参照しても、画素が描画更新されたのか、アナログキャプチャに伴うノイズによる画素値変動なのかを識別することは難しい。こうした理由から単一の閾値では、動画において更新領域の検出に失敗する場合があった。例えば、画面中央の動画ウィンドウのみが前後フレーム１、２で更新されている図４７に示す実験例では、更新領域として中央の動画ウィンドウ全体が検出されることが望ましい。しかし、小さな値の閾値だけを使用すると、図４７の左下に示すように検出領域が過大となり、逆に大きな値の閾値だけを使用すると、図４７の右下に示すように検出領域が不足した。検出が過大になると、画面更新が僅かな場合にも符号量が増大してしまう。また、検出漏れが複数フレームにわたって発生すると、検出に成功した領域と検出漏れした領域との間で、輝度不連続な境界が知覚されるようになる。
　これに対して、差分判定用の閾値を２種類（大と小）設定した本実施例の更新領域検出部１２５によれば、図４８の実験例に示すように、中央の動画ウィンドウ全体を過不足なく更新領域として検出することができた。
　また本実施例の更新領域検出部１２５によれば、更新領域検出域内に存在する全ての更新領域に外接する１つの矩形で更新領域を検出する手法に較べて、更新領域を無駄に大きく検出することを防止できる。
　また本実施例の更新領域検出部１２５によれば、コンピュータ画面の更新領域を高速に検出することができる。その理由は、フレームの各列について差分画素の上端および下端の座標を保持する上端および下端バッファと、参照フレームと現フレームの画素をラスタスキャン順に比較して、差分が第１の閾値以上となる画素が見つかったら上端および下端バッファの該当列の上端および下端の座標を書き換える画素比較部６０１と、非更新行が所定行連続したら上端および下端バッファを参照して更新領域を確定する更新領域抽出部６０２とを備えており、いわゆる１パス処理で更新領域の検出が行えるためである。
　以上、本発明の更新領域検出装置を映像信号符号化装置に適用した実施の形態及び実施例について説明したが、本発明は、上述した実施の形態及び実施例に限定されるものではない。本発明の構成や詳細には、既に述べた本発明の要旨を逸脱しない範囲において種々の変更が可能であることは勿論である。
　尚、本発明の他の実施の形態には、以下のものも含まれる。
（付記１）
　前フレームと現フレームとにおける同じ位置の画素の値の差分を第１の閾値および該第１の閾値よりも大きな値の第２の閾値と比較する画素比較手段と、
　前記第１の閾値より大きな差分が検出された画素の塊のうち、第２の閾値より大きな差分が検出された画素を含む塊を更新領域として抽出する更新領域抽出手段とを備えることを特徴とする更新領域検出装置。
（付記２）
　前記更新領域抽出手段は、前記画素の塊に外接する矩形を更新領域とすることを特徴とする付記１に記載の更新領域検出装置。
（付記３）
　前記画素比較手段は、前フレームと現フレームの画素を１行ずつ順に比較して、各列毎に、第１の閾値より大きな差分が検出された上端の行座標と下端の行座標を記録すると共に当該上端と当該下端の間で第２の閾値より大きな差分が検出された画素が存在したか否かを記録し、
　前記更新領域抽出手段は、第１の閾値より大きな差分が検出されなかった行が所定行数連続した時点で、前記画素比較手段による記録を参照して、第１の閾値より大きな差分が検出された列のまとまりであって第２の閾値より大きな差分が検出された画素を含む更新列を抽出し、該抽出した更新列毎に、第１の閾値より大きな差分が検出された最上端の行座標と最下端の行座標、および当該更新列の左端の列座標と右端の列座標とから規定される矩形を更新領域として確定する処理を行うことを特徴とする付記１に記載の更新領域検出装置。
（付記４）
　第１の閾値より大きな差分が検出された列のまとまりとは、第１の閾値より大きな差分が検出された列が隣接しているか、直接隣接していなくても、第１の閾値より大きな差分が検出されなかった所定数以下の列を間にして隣接している列のまとまりであることを特徴とする付記３に記載の更新領域検出装置。
（付記５）
　第１の閾値より大きな差分が検出された行座標を各列毎に保持するための上端バッファと、第１の閾値より大きな差分が検出された行座標を各列毎に保持するための下端バッファと、第２の閾値より大きな差分が検出されたか否かを示すフラグを各列毎に保持するフラグバッファとを備え、
　前記画素比較手段は、前フレームと現フレームの画素をスキャン順に比較して、差分が第１の閾値より大きい画素が見つかったら前記上端バッファおよび前記下端バッファにおける該当列の行座標を書き換えると共に、前記差分が第２の閾値より大きければ前記フラグバッファの該当列のフラグをセットし、
　前記更新領域抽出手段は、第１の閾値より大きな差分が検出されなかった行が所定行連続した時点で、前記上端バッファ、前記下端バッファおよび前記フラグバッファを参照して更新領域を確定する前記処理を行うことを特徴とする付記４に記載の更新領域検出装置。
（付記６）
　ａ）画素比較手段が、前フレームと現フレームとにおける同じ位置の画素の値の差分を第１の閾値および該第１の閾値よりも大きな値の第２の閾値と比較するステップと、
　ｂ）更新領域抽出手段が、前記第１の閾値より大きな差分が検出された画素の塊のうち、第２の閾値より大きな差分が検出された画素を含む塊を更新領域として抽出するステップとを含むことを特徴とする更新領域検出方法。
（付記７）
　前記更新領域抽出手段は、前記画素の塊に外接する矩形を更新領域とすることを特徴とする付記６に記載の更新領域検出方法。
（付記８）
　前記画素比較手段は、前フレームと現フレームの画素を１行ずつ順に比較して、各列毎に、第１の閾値より大きな差分が検出された上端の行座標と下端の行座標を記録すると共に当該上端と当該下端の間で第２の閾値より大きな差分が検出された画素が存在したか否かを記録し、
　前記更新領域抽出手段は、第１の閾値より大きな差分が検出されなかった行が所定行数連続した時点で、前記画素比較手段による記録を参照して、第１の閾値より大きな差分が検出された列のまとまりであって第２の閾値より大きな差分が検出された画素を含む更新列を抽出し、該抽出した更新列毎に、第１の閾値より大きな差分が検出された最上端の行座標と最下端の行座標、および当該更新列の左端の列座標と右端の列座標とから規定される矩形を更新領域として確定する処理を行うことを特徴とする付記６に記載の更新領域検出方法。
（付記９）
　第１の閾値より大きな差分が検出された列のまとまりとは、第１の閾値より大きな差分が検出された列が隣接しているか、直接隣接していなくても、第１の閾値より大きな差分が検出されなかった所定数以下の列を間にして隣接している列のまとまりであることを特徴とする付記８に記載の更新領域検出方法。
（付記１０）
　第１の閾値より大きな差分が検出された行座標を各列毎に保持するための上端バッファと、第１の閾値より大きな差分が検出された行座標を各列毎に保持するための下端バッファと、第２の閾値より大きな差分が検出されたか否かを示すフラグを各列毎に保持するフラグバッファとを備え、
　前記画素比較手段は、前フレームと現フレームの画素をスキャン順に比較して、差分が第１の閾値より大きい画素が見つかったら前記上端バッファおよび前記下端バッファにおける該当列の行座標を書き換えると共に、前記差分が第２の閾値より大きければ前記フラグバッファの該当列のフラグをセットし、
　前記更新領域抽出手段は、第１の閾値より大きな差分が検出されなかった行が所定行連続した時点で、前記上端バッファ、前記下端バッファおよび前記フラグバッファを参照して更新領域を確定する前記処理を行うことを特徴とする付記９に記載の更新領域検出方法。
（付記１１）
　コンピュータを、
　前フレームと現フレームとにおける同じ位置の画素の値の差分を第１の閾値および該第１の閾値よりも大きな値の第２の閾値と比較する画素比較手段と、
　前記第１の閾値より大きな差分が検出された画素の塊のうち、第２の閾値より大きな差分が検出された画素を含む塊を更新領域として抽出する更新領域抽出手段として機能させるための更新領域検出プログラムを前記コンピュータに読取可能に記録するプログラム記録媒体。
（付記１２）
　前記更新領域抽出手段は、前記画素の塊に外接する矩形を更新領域とすることを特徴とする付記１１に記載の更新領域検出プログラムを記録するプログラム記録媒体。
（付記１３）
　前記画素比較手段は、前フレームと現フレームの画素を１行ずつ順に比較して、各列毎に、第１の閾値より大きな差分が検出された上端の行座標と下端の行座標を記録すると共に当該上端と当該下端の間で第２の閾値より大きな差分が検出された画素が存在したか否かを記録し、
　前記更新領域抽出手段は、第１の閾値より大きな差分が検出されなかった行が所定行数連続した時点で、前記画素比較手段による記録を参照して、第１の閾値より大きな差分が検出された列のまとまりであって第２の閾値より大きな差分が検出された画素を含む更新列を抽出し、該抽出した更新列毎に、第１の閾値より大きな差分が検出された最上端の行座標と最下端の行座標、および当該更新列の左端の列座標と右端の列座標とから規定される矩形を更新領域として確定する処理を行うことを特徴とする付記１１に記載の更新領域検出プログラムを記録するプログラム記録媒体。
（付記１４）
　第１の閾値より大きな差分が検出された列のまとまりとは、第１の閾値より大きな差分が検出された列が隣接しているか、直接隣接していなくても、第１の閾値より大きな差分が検出されなかった所定数以下の列を間にして隣接している列のまとまりであることを特徴とする付記１３に記載の更新領域検出プログラムを記録するプログラム記録媒体。
（付記１５）
　前記コンピュータは、第１の閾値より大きな差分が検出された行座標を各列毎に保持するための上端バッファと、第１の閾値より大きな差分が検出された行座標を各列毎に保持するための下端バッファと、第２の閾値より大きな差分が検出されたか否かを示すフラグを各列毎に保持するフラグバッファとを備え、
　前記画素比較手段は、前フレームと現フレームの画素をスキャン順に比較して、差分が第１の閾値より大きい画素が見つかったら前記上端バッファおよび前記下端バッファにおける該当列の行座標を書き換えると共に、前記差分が第２の閾値より大きければ前記フラグバッファの該当列のフラグをセットし、
　前記更新領域抽出手段は、第１の閾値より大きな差分が検出されなかった行が所定行連続した時点で、前記上端バッファ、前記下端バッファおよび前記フラグバッファを参照して更新領域を確定する前記処理を行うことを特徴とする付記１４に記載の更新領域検出プログラムを記録するプログラム記録媒体。
（付記１６）
　前フレームと現フレームを比較して移動ベクトルを検出する移動ベクトル検出手段と、
　前フレームと現フレームとの何れにも存在する同一または類似の画像領域であって、画面上での位置が前記移動ベクトル検出手段で検出された移動ベクトルだけ変化している画像領域を移動領域として検出する移動領域検出手段と、
　前記移動領域検出手段で検出された移動領域を前フレーム上の移動ベクトルが示す移動先に複写する動き補償手段と、
　動き補償後の前フレームと現フレームとが相違する領域を更新領域として検出する更新領域検出手段と、
　前記更新領域検出手段で検出された更新領域を画像として符号化する領域符号化手段とを備えた映像信号符号化装置であって、
　前記更新領域検出手段として、付記１に記載の更新領域検出装置を使用した映像信号符号化装置。
（付記１７）
　前記更新領域検出手段が更新領域を検出する更新領域検出域を、フレーム上に設定する更新領域検出域設定手段を備えることを特徴とする付記１６に記載の映像信号符号化装置。
　この出願は、２００８年２月１４日に出願された日本出願特願２００８－０３３０４３を基礎とする優先権を主張し、その開示の全てをここに取り込む。
　本発明は、シン・クライアント・システムにおけるサーバ装置として広く適用することができる。また、本発明の更新領域検出装置は符号化以外にも移動物体の検出など各種の分野に利用することが可能である。

Claims (20)

  1. 　現フレームと当該現フレーム以前のフレームである前フレームとの画素ごとの差分絶対値を算出し、前記差分絶対値が第１の閾値以上の画素から定まる形状、かつ、前記差分絶対値が該第１の閾値よりも大きな値の第２の閾値以上の画素を内包する領域を、前記前フレームから前記現フレームにおいて変化する領域である更新領域として検出することを特徴とする更新領域検出装置。
  2. 　前記現フレームと前記前フレームとにおける同じ位置の画素の値の差分絶対値を前記第１の閾値および前記第２の閾値と比較する画素比較手段と、
    　前記第１の閾値より大きな差分が検出された画素の塊を更新領域の候補として抽出する更新領域候補抽出手段と、
    　前記更新領域候補抽出手段によって抽出された更新領域の候補のうち、前記第２の閾値より大きな差分が検出された画素を含むものを更新領域として抽出する更新領域抽出手段とを備えることを特徴とする請求項１に記載の更新領域検出装置。
  3. 　前記更新領域抽出手段は、前記画素の塊に外接する矩形を更新領域とすることを特徴とする請求項２に記載の更新領域検出装置。
  4. 　前記現フレームと前記前フレームとにおける同じ位置の画素の値の差分絶対値を前記第１の閾値および前記第２の閾値と比較する画素比較手段と、
    　前記第１の閾値以上の画素から定まる形状を有し、かつ、前記第２の閾値以上の画素を内包する領域を更新領域として抽出する更新領域抽出手段を備え、
    　前記画素比較手段は、前記前フレームと前記現フレームの画素を１行ずつ順に比較して、各列毎に、前記第１の閾値より大きな差分が検出された上端の行座標と下端の行座標を記録すると共に当該上端と当該下端の間で前記第２の閾値より大きな差分が検出された画素が存在したか否かを記録し、
    　前記更新領域抽出手段は、前記第１の閾値より大きな差分が検出されなかった行が所定行数連続した時点で、前記画素比較手段による記録を参照して、前記第１の閾値より大きな差分が検出された列のまとまりであって前記第２の閾値より大きな差分が検出された画素を含む更新列を抽出し、該抽出した更新列毎に、前記第１の閾値より大きな差分が検出された最上端の行座標と最下端の行座標、および当該更新列の左端の列座標と右端の列座標とから規定される矩形を更新領域として確定する処理を行うことを特徴とする請求項１に記載の更新領域検出装置。
  5. 　前記第１の閾値より大きな差分が検出された列のまとまりとは、前記第１の閾値より大きな差分が検出された列が隣接しているか、直接隣接していなくても、前記第１の閾値より大きな差分が検出されなかった所定数以下の列を間にして隣接している列のまとまりであることを特徴とする請求項４に記載の更新領域検出装置。
  6. 　前記第１の閾値より大きな差分が検出された上端の行座標を各列毎に保持するための上端バッファと、前記第１の閾値より大きな差分が検出された下端の行座標を各列毎に保持するための下端バッファと、各列毎に、前記上端の行座標から前記下端の行座標までの間に第２の閾値より大きな差分が検出されたか否かを示すフラグを保持するフラグバッファとを備え、
    　前記画素比較手段は、前フレームと現フレームの画素をラスタスキャン順に比較して、差分が前記第１の閾値より大きい画素が見つかったら前記上端バッファおよび前記下端バッファにおける該当列の行座標を書き換えると共に、前記差分が第２の閾値より大きければ前記フラグバッファの該当列のフラグをセットし、
    　前記更新領域抽出手段は、前記第１の閾値より大きな差分が検出されなかった行が所定行連続した時点で、前記上端バッファ、前記下端バッファおよび前記フラグバッファを参照して更新領域を確定する前記処理を行うことを特徴とする請求項５に記載の更新領域検出装置。
  7. 　現フレームと当該現フレーム以前のフレームである前フレームとの画素ごとの差分絶対値を算出するステップと、
    　前記差分絶対値が第１の閾値以上の画素から定まる形状、かつ、前記差分絶対値が該第１の閾値よりも大きな値の第２の閾値以上の画素を内包する領域を、前記前フレームから前記現フレームにおいて変化する領域である更新領域として検出するステップを含むことを特徴とする更新領域検出方法。
  8. 　前記現フレームと前記前フレームとにおける同じ位置の画素の値の差分絶対値を前記第１の閾値および前記第２の閾値と比較する画素比較ステップと、
    　前記第１の閾値より大きな差分が検出された画素の塊を更新領域の候補として抽出する更新領域候補抽出ステップと、
    　前記更新領域候補抽出ステップによって抽出された更新領域の候補のうち、前記第２の閾値より大きな差分が検出された画素を含むものを更新領域として抽出する更新領域抽出ステップとを含むことを特徴とする請求項７に記載の更新領域検出方法。
  9. 　前記更新領域抽出ステップは、前記画素の塊に外接する矩形を更新領域とすることを特徴とする請求項８に記載の更新領域検出方法。
  10. 　前記現フレームと前記前フレームとにおける同じ位置の画素の値の差分絶対値を前記第１の閾値および前記第２の閾値と比較する画素比較ステップと、
    　前記第１の閾値以上の画素から定まる形状を有し、かつ、前記第２の閾値以上の画素を内包する領域を更新領域として抽出する更新領域抽出ステップを含み、
    　前記画素比較ステップは、前記前フレームと前記現フレームの画素を１行ずつ順に比較して、各列毎に、前記第１の閾値より大きな差分が検出された上端の行座標と下端の行座標を記録すると共に当該上端と当該下端の間で前記第２の閾値より大きな差分が検出された画素が存在したか否かを記録し、
    　前記更新領域抽出ステップは、前記第１の閾値より大きな差分が検出されなかった行が所定行数連続した時点で、前記画素比較ステップによる記録を参照して、前記第１の閾値より大きな差分が検出された列のまとまりであって前記第２の閾値より大きな差分が検出された画素を含む更新列を抽出し、該抽出した更新列毎に、前記第１の閾値より大きな差分が検出された最上端の行座標と最下端の行座標、および当該更新列の左端の列座標と右端の列座標とから規定される矩形を更新領域として確定する処理を行うことを特徴とする請求項７に更新領域検出方法。
  11. 　前記第１の閾値より大きな差分が検出された列のまとまりとは、前記第１の閾値より大きな差分が検出された列が隣接しているか、直接隣接していなくても、前記第１の閾値より大きな差分が検出されなかった所定数以下の列を間にして隣接している列のまとまりであることを特徴とする請求項１０に記載の更新領域検出方法。
  12. 　前記第１の閾値より大きな差分が検出された上端の行座標を各列毎に保持するための上端バッファと、前記第１の閾値より大きな差分が検出された下端の行座標を各列毎に保持するための下端バッファと、各列毎に、前記上端の行座標から前記下端の行座標までの間に第２の閾値より大きな差分が検出されたか否かを示すフラグを保持するフラグバッファとを備え、
    　前記画素比較ステップは、前フレームと現フレームの画素をラスタスキャン順に比較して、差分が前記第１の閾値より大きい画素が見つかったら前記上端バッファおよび前記下端バッファにおける該当列の行座標を書き換えると共に、前記差分が第２の閾値より大きければ前記フラグバッファの該当列のフラグをセットし、
    　前記更新領域抽出ステップは、前記第１の閾値より大きな差分が検出されなかった行が所定行連続した時点で、前記上端バッファ、前記下端バッファおよび前記フラグバッファを参照して更新領域を確定する前記処理を行うことを特徴とする請求項１１に記載の更新領域検出方法。
  13. 　コンピュータを、
    　現フレームと当該現フレーム以前のフレームである前フレームとの画素ごとの差分絶対値を算出し、前記差分絶対値が第１の閾値以上の画素から定まる形状、かつ、前記差分絶対値が該第１の閾値よりも大きな値の第２の閾値以上の画素を内包する領域を前記前フレームから前記現フレームにおいて変化する領域である更新領域として検出する手段として機能させるための更新領域検出プログラムを前記コンピュータに読み取り可能に記録するプログラム記録媒体。
  14. 　前記更新領域検出プログラムは、前記コンピュータを、
    　前記現フレームと前記前フレームとにおける同じ位置の画素の値の差分絶対値を前記第１の閾値および前記第２の閾値と比較する画素比較手段と、
    　前記第１の閾値より大きな差分が検出された画素の塊を更新領域の候補として抽出する更新領域候補抽出手段と、
    　前記更新領域候補抽出手段によって抽出された更新領域の候補のうち、前記第２の閾値より大きな差分が検出された画素を含むものを更新領域として抽出する更新領域抽出手段として機能させることを特徴とする請求項１３に記載のプログラム記録媒体。
  15. 　前記更新領域抽出手段は、前記画素の塊に外接する矩形を更新領域とすることを特徴とする請求項１４に記載のプログラム記録媒体。
  16. 　前記更新領域検出プログラムは、前記コンピュータを、
    　前記現フレームと前記前フレームとおける同じ位置の画素の値の差分絶対値を前記第１の閾値および前記第２の閾値と比較する画素比較手段と、
    　前記第１の閾値以上の画素から定まる形状を有し、かつ、前記第２の閾値以上の画素を内包する領域を更新領域として抽出する更新領域抽出手段として機能させ、
    　前記画素比較手段は、前記前フレームと前記現フレームの画素を１行ずつ順に比較して、各列毎に、前記第１の閾値より大きな差分が検出された上端の行座標と下端の行座標を記録すると共に当該上端と当該下端の間で前記第２の閾値より大きな差分が検出された画素が存在したか否かを記録し、
    　前記更新領域抽出手段は、前記第１の閾値より大きな差分が検出されなかった行が所定行数連続した時点で、前記画素比較手段による記録を参照して、前記第１の閾値より大きな差分が検出された列のまとまりであって前記第２の閾値より大きな差分が検出された画素を含む更新列を抽出し、該抽出した更新列毎に、前記第１の閾値より大きな差分が検出された最上端の行座標と最下端の行座標、および当該更新列の左端の列座標と右端の列座標とから規定される矩形を更新領域として確定することを特徴とする請求項１３に記載のプログラム記録媒体。
  17. 　前記第１の閾値より大きな差分が検出された列のまとまりとは、前記第１の閾値より大きな差分が検出された列が隣接しているか、直接隣接していなくても、前記第１の閾値より大きな差分が検出されなかった所定数以下の列を間にして隣接している列のまとまりであることを特徴とする請求項１６に記載のプログラム記録媒体。
  18. 　前記第１の閾値より大きな差分が検出された上端の行座標を各列毎に保持するための上端バッファと、前記第１の閾値より大きな差分が検出された下端の行座標を各列毎に保持するための下端バッファと、各列毎に、前記上端の行座標から前記下端の行座標までの間に第２の閾値より大きな差分が検出されたか否かを示すフラグを保持するフラグバッファとを備え、
    　前記画素比較手段は、前フレームと現フレームの画素をラスタスキャン順に比較して、差分が前記第１の閾値より大きい画素が見つかったら前記上端バッファおよび前記下端バッファにおける該当列の行座標を書き換えると共に、前記差分が第２の閾値より大きければ前記フラグバッファの該当列のフラグをセットし、
    　前記更新領域抽出手段は、前記第１の閾値より大きな差分が検出されなかった行が所定行連続した時点で、前記上端バッファ、前記下端バッファおよび前記フラグバッファを参照して更新領域を確定する前記処理を行うことを特徴とする請求項１７に記載のプログラム記録媒体。
  19. 　現フレームと当該現フレーム以前のフレームである前フレームとを比較して移動ベクトルを検出する移動ベクトル検出手段と、
    　前記前フレームと前記現フレームとの何れにも存在する同一または類似の画像領域であって、画面上での位置が前記移動ベクトル検出手段で検出された移動ベクトルだけ変化している画像領域を移動領域として検出する移動領域検出手段と、
    　前記移動領域検出手段で検出された移動領域を前記前フレーム上の移動ベクトルが示す移動先に複写する動き補償手段と、
    　動き補償後の前記前フレームと前記現フレームとが相違する領域を更新領域として検出する更新領域検出手段と、
    　前記更新領域検出手段で検出された更新領域を画像として符号化する領域符号化手段とを備えた映像信号符号化装置であって、
    　前記移動ベクトル検出手段として、請求項１又は３に記載の更新領域検出装置を使用した映像信号符号化装置。
  20. 　前記更新領域検出手段が更新領域を検出する更新領域検出域を、フレーム上に設定する更新領域検出域設定手段を備えることを特徴とする請求項１９記載の映像信号符号化装置。
PCT/JP2009/052399 2008-02-14 2009-02-13 更新領域検出装置 WO2009102011A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US12/865,188 US8331696B2 (en) 2008-02-14 2009-02-13 Update region detection device
JP2009553459A JP5446878B2 (ja) 2008-02-14 2009-02-13 更新領域検出装置

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2008-033043 2008-02-14
JP2008033043 2008-02-14

Publications (1)

Publication Number Publication Date
WO2009102011A1 true WO2009102011A1 (ja) 2009-08-20

Family

ID=40957042

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2009/052399 WO2009102011A1 (ja) 2008-02-14 2009-02-13 更新領域検出装置

Country Status (3)

Country Link
US (1) US8331696B2 (ja)
JP (1) JP5446878B2 (ja)
WO (1) WO2009102011A1 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012120066A (ja) * 2010-12-03 2012-06-21 Fujitsu Ltd 情報処理装置、情報処理方法および情報処理プログラム
KR20140044840A (ko) * 2012-08-07 2014-04-15 인텔 코포레이션 변경된 영역들을 이용한 매체 인코딩
KR101498608B1 (ko) * 2012-03-12 2015-03-04 삼성테크윈 주식회사 영상데이터 검색장치
WO2017005141A1 (zh) * 2015-07-03 2017-01-12 华为技术有限公司 参考图像编码和解码的方法、编码设备和解码设备
CN115457484A (zh) * 2022-11-10 2022-12-09 梁山华鲁专用汽车制造有限公司 一种用于半挂车自动卸货的控制方法及装置
JP7436338B2 (ja) 2020-09-28 2024-02-21 Kddi株式会社 情報処理システム、端末、サーバ及びプログラム

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8817071B2 (en) * 2009-11-17 2014-08-26 Seiko Epson Corporation Context constrained novel view interpolation
JP5696563B2 (ja) * 2011-03-30 2015-04-08 日本電気株式会社 情報処理装置、画面更新方法、画面更新プログラム、および情報処理システム
WO2012153513A1 (ja) * 2011-05-12 2012-11-15 パナソニック株式会社 画像生成装置、及び画像生成方法
JP2015039085A (ja) * 2011-12-14 2015-02-26 パナソニック株式会社 画像処理装置及び画像処理方法
JP2013131990A (ja) * 2011-12-22 2013-07-04 Ricoh Co Ltd 情報処理装置及びプログラム
KR101657526B1 (ko) * 2012-01-11 2016-09-19 한화테크윈 주식회사 특징점 검사영역 설정기와 설정 방법 및 이를 구비하는 영상 안정화 장치
US9286862B2 (en) * 2012-04-09 2016-03-15 Oracle International Corporation System and method for detecting a scrolling event during a client display update
EP3912354A4 (en) * 2019-03-08 2022-03-16 Huawei Technologies Co., Ltd. SEARCH REGION FOR MOTION VECTOR REFINEMENT
CN111309420A (zh) * 2020-02-06 2020-06-19 Tcl移动通信科技（宁波）有限公司 开机画面显示方法及其系统、存储介质及终端设备
CN114049865B (zh) * 2022-01-12 2022-04-08 广州文石信息科技有限公司 屏幕刷新方法、装置、计算机可读存储介质及计算机设备

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003051076A (ja) * 2001-08-07 2003-02-21 Fujitsu General Ltd 侵入監視装置
JP2004537079A (ja) * 2001-01-16 2004-12-09 ヒューレット・パッカード・カンパニー クライアント−サーバ間映像通信のためのクライアント支援動き予測
JP2005122571A (ja) * 2003-10-17 2005-05-12 Canon Inc 画像処理装置、画像処理方法、プログラム及び記憶媒体
JP2005195899A (ja) * 2004-01-07 2005-07-21 Matsushita Electric Ind Co Ltd 画像転送装置
JP2005346387A (ja) * 2004-06-02 2005-12-15 Toyota Motor Corp 移動物体検出装置及び移動物体検出方法
JP2007226635A (ja) * 2006-02-24 2007-09-06 Victor Co Of Japan Ltd リモートデスクトップシステムのサーバ装置及びクライアント装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6335985B1 (en) * 1998-01-07 2002-01-01 Kabushiki Kaisha Toshiba Object extraction apparatus
CN1197001C (zh) 2000-06-12 2005-04-13 普里沃克斯(控股)有限公司 控制应用软件用户界面显示的系统
KR100481538B1 (ko) * 2003-05-19 2005-04-07 삼성전자주식회사 배경영역 변화검출장치 및 방법
WO2005084036A1 (ja) * 2004-03-01 2005-09-09 Sony Corporation 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004537079A (ja) * 2001-01-16 2004-12-09 ヒューレット・パッカード・カンパニー クライアント−サーバ間映像通信のためのクライアント支援動き予測
JP2003051076A (ja) * 2001-08-07 2003-02-21 Fujitsu General Ltd 侵入監視装置
JP2005122571A (ja) * 2003-10-17 2005-05-12 Canon Inc 画像処理装置、画像処理方法、プログラム及び記憶媒体
JP2005195899A (ja) * 2004-01-07 2005-07-21 Matsushita Electric Ind Co Ltd 画像転送装置
JP2005346387A (ja) * 2004-06-02 2005-12-15 Toyota Motor Corp 移動物体検出装置及び移動物体検出方法
JP2007226635A (ja) * 2006-02-24 2007-09-06 Victor Co Of Japan Ltd リモートデスクトップシステムのサーバ装置及びクライアント装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012120066A (ja) * 2010-12-03 2012-06-21 Fujitsu Ltd 情報処理装置、情報処理方法および情報処理プログラム
KR101498608B1 (ko) * 2012-03-12 2015-03-04 삼성테크윈 주식회사 영상데이터 검색장치
KR20140044840A (ko) * 2012-08-07 2014-04-15 인텔 코포레이션 변경된 영역들을 이용한 매체 인코딩
KR101646958B1 (ko) 2012-08-07 2016-08-09 인텔 코포레이션 변경된 영역들을 이용한 매체 인코딩
US9424660B2 (en) 2012-08-07 2016-08-23 Intel Corporation Media encoding using changed regions
US10257510B2 (en) 2012-08-07 2019-04-09 Intel Corporation Media encoding using changed regions
WO2017005141A1 (zh) * 2015-07-03 2017-01-12 华为技术有限公司 参考图像编码和解码的方法、编码设备和解码设备
US10979722B2 (en) 2015-07-03 2021-04-13 Huawei Technologies Co., Ltd. Reference image encoding method, reference image decoding method, reference image encoding device, and reference image decoding device
US11968376B2 (en) 2015-07-03 2024-04-23 Huawei Technologies Co., Ltd. Reference image encoding method, reference image decoding method, reference image encoding device, and reference image decoding device
JP7436338B2 (ja) 2020-09-28 2024-02-21 Kddi株式会社 情報処理システム、端末、サーバ及びプログラム
CN115457484A (zh) * 2022-11-10 2022-12-09 梁山华鲁专用汽车制造有限公司 一种用于半挂车自动卸货的控制方法及装置

Also Published As

Publication number Publication date
US20110002550A1 (en) 2011-01-06
US8331696B2 (en) 2012-12-11
JP5446878B2 (ja) 2014-03-19
JPWO2009102011A1 (ja) 2011-06-16

Similar Documents

Publication Publication Date Title
WO2009102011A1 (ja) 更新領域検出装置
JP4471039B2 (ja) 移動ベクトル検出装置
WO2009102010A1 (ja) 移動領域検出装置
JP5272886B2 (ja) 動体検出装置と動体検出方法およびコンピュータ・プログラム
KR101520027B1 (ko) 움직임 추정 방법 및 장치
WO2011021319A1 (ja) 動画像符号化装置
JP5003521B2 (ja) 動き補償に伴う更新領域検出装置
JPH10210473A (ja) 動きベクトル検出装置
CN109360140B (zh) 基于预测误差加法扩展的可逆图像水印方法及装置
JP4935705B2 (ja) 動き補償に伴う更新領域検出装置
US11290740B2 (en) Image coding apparatus, image coding method, and storage medium
JP2008003674A (ja) 動きベクトル検出装置
JP2008263391A (ja) 映像処理装置
KR102429337B1 (ko) 이미지를 안정화하는 이미지 처리 장치 및 이미지를 안정화하는 방법
JP2002152750A (ja) 動きベクトル検出方法および装置
JP2006215657A (ja) 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びプログラム記録媒体
JP4235209B2 (ja) 動きベクトル検出装置および動きベクトル検出方法
JPH05236452A (ja) 動ベクトル検出方法及び検出装置
JP6448457B2 (ja) 撮影方向変動検出装置および撮影方向変動検出方法
JPWO2016142965A1 (ja) 映像処理装置、映像処理方法及び映像処理プログラムを記憶する記録媒体
WO2023275941A1 (en) Image processing apparatus, feature map generating apparatus, learning model generation apparatus, image processing method, and computer-readable recording medium
JP2004179906A (ja) 動きベクトル検出装置および動きベクトル検出方法
JP5743147B2 (ja) 画像処理ユニット、および画像処理プログラム
US11321796B2 (en) Error modeling method and device for prediction context of reversible image watermarking
JP2007110602A (ja) 動きベクトル検出装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 09709561

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 12865188

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 2009553459

Country of ref document: JP

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 09709561

Country of ref document: EP

Kind code of ref document: A1