WO2018143278A1 - 画像処理装置、画像認識装置、画像処理プログラム、及び画像認識プログラム - Google Patents

画像処理装置、画像認識装置、画像処理プログラム、及び画像認識プログラム Download PDF

Info

Publication number
WO2018143278A1
WO2018143278A1 PCT/JP2018/003225 JP2018003225W WO2018143278A1 WO 2018143278 A1 WO2018143278 A1 WO 2018143278A1 JP 2018003225 W JP2018003225 W JP 2018003225W WO 2018143278 A1 WO2018143278 A1 WO 2018143278A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
probability density
density function
image processing
target
Prior art date
Application number
PCT/JP2018/003225
Other languages
English (en)
French (fr)
Inventor
英夫 山田
和宏 久野
雅聡 柴田
修一 榎田
広道 大塚
Original Assignee
株式会社エクォス・リサーチ
国立大学法人九州工業大学
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2017148010A external-priority patent/JP7072765B2/ja
Application filed by 株式会社エクォス・リサーチ, 国立大学法人九州工業大学 filed Critical 株式会社エクォス・リサーチ
Priority to CN201880009329.0A priority Critical patent/CN110235177B/zh
Priority to US16/480,989 priority patent/US11468572B2/en
Priority to EP18748166.8A priority patent/EP3579182A4/en
Publication of WO2018143278A1 publication Critical patent/WO2018143278A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/758Involving statistics of pixels or of feature values, e.g. histogram matching

Definitions

  • the present invention relates to an image processing device, an image recognition device, an image processing program, and an image recognition program, and for example, relates to an apparatus that performs image processing based on a luminance gradient of pixels.
  • Some image recognition techniques recognize a target by extracting a luminance gradient direction distribution as an image feature amount from an image and comparing it with a previously learned luminance gradient direction distribution of the image.
  • the “image recognition apparatus” in Patent Document 1 extracts feature points and their feature amounts from standard images in advance. Then, feature points and their feature quantities are calculated from the input image, and feature points similar to the feature quantities in the standard image are set as corresponding points. Next, for each corresponding point (feature point) in the input image, a reference point is calculated based on the feature amount (including position information and the like) of the feature point of the corresponding standard image and voted on the input image plane. If there is a vote value that is equal to or greater than a predetermined threshold in a certain small area, it is determined that an object is present in the input image.
  • a luminance gradient around a feature point is quantized in 36 directions as a feature quantity to create a histogram.
  • it is necessary to reduce the quantization interval.
  • the quantization interval is reduced, the feature amount becomes enormous and the processing time increases.
  • An object of the present invention is to reduce calculation cost while improving detection accuracy.
  • image input means for inputting an image
  • pixel combination acquisition means for acquiring a combination of two pixels from the input image
  • Co-occurrence acquisition means for acquiring co-occurrence in the gradient direction of luminance
  • appearance frequency acquisition means for acquiring a distribution of appearance frequency of the acquired co-occurrence while changing the combination of the acquired pixels
  • Probability density function generation means for generating a probability density function corresponding to the frequency distribution
  • probability density function output means for outputting the generated probability density function by a parameter defining the probability density function.
  • a plurality of recognition target images including a recognition target are input from the image input unit, and a recognition target probability density function based on the plurality of recognition target images is input to the probability density function output unit.
  • Recognition target learning means for outputting, reference probability density function generating means for generating a reference probability density function serving as a reference for image recognition of the recognition target using the output recognition target probability density function, and the generated reference
  • the image processing apparatus further comprising: a reference probability density function output unit that outputs the probability density function according to a parameter that defines the reference probability density function.
  • a plurality of non-recognition target images not including a recognition target are input from the image input unit, and the non-recognition target probability density based on the non-recognition target image is input to the probability density function output unit.
  • a non-recognition target learning unit that outputs a function; and a metric information generation unit that generates metric information for measuring a correlation between the output recognition target probability density function and the non-recognition target probability density function.
  • the image processing apparatus wherein the reference probability density function generating unit generates the reference probability density function using the generated metric information.
  • the metric information generation means is configured to measure the non-recognition target probability density function with respect to the recognition target probability density function and the recognition target probability density with respect to the non-recognition target probability density function.
  • the reference probability density function is generated based on the image processing apparatus.
  • the recognition target probability density function and the non-recognition target probability density function are each generated by mixing a predetermined number of basis functions, and the reference probability density function 6.
  • the metric information is a difference probability density function using a difference between the recognition target probability density function and the non-recognition target probability density function.
  • An image processing apparatus according to claim 3 or 4 is provided.
  • the metric information is a specific probability density function using a ratio between the recognition target probability density function and the non-recognition target probability density function.
  • An image processing apparatus according to claim 3 or 4 is provided.
  • the specific probability density function further uses a difference between the recognition target probability density function and the non-recognition target probability density function.
  • An image processing apparatus according to 9 is provided.
  • reference probability density function acquisition means for acquiring a reference probability density function output by the image processing apparatus described in claim 2, and a target image to be subjected to image recognition are acquired.
  • Target image acquisition means target image feature quantity acquisition means for acquiring the feature quantity of the acquired target image using the acquired reference probability density function; and the target image is an image recognition target using the acquired feature quantity.
  • an image recognition apparatus comprising: a determination unit that determines whether or not a message is included.
  • the target image feature amount acquisition unit inputs the acquired target image to the image input unit of the image processing apparatus described in claim 1, and the image processing apparatus
  • the distribution of the appearance frequency of co-occurrence in the gradient direction in the target image is acquired from the appearance frequency acquisition means, and the distribution of the acquired appearance frequency is calculated based on the probability generated from the acquired reference probability density function.
  • an image input function for inputting an image
  • a pixel combination acquisition function for acquiring a combination of two pixels from the input image, and two pixels related to the acquired combination
  • a co-occurrence acquisition function for acquiring co-occurrence in the gradient direction of luminance
  • an appearance frequency acquisition function for acquiring a distribution of the appearance frequency of the acquired co-occurrence while changing a combination of the acquired pixels
  • a probability density function generation function for generating a probability density function corresponding to a frequency distribution and a probability density function output function for outputting the generated probability density function by a parameter defining the probability density function are realized by a computer.
  • An image processing program is provided.
  • a reference probability density function acquisition function for acquiring a reference probability density function output by the image processing apparatus described in claim 2, and a target image to be subjected to image recognition are acquired.
  • an image recognition program for realizing a determination function for determining whether or not the image includes a computer.
  • the calculation cost can be reduced while increasing the detection accuracy.
  • the image processing apparatus 8 prepares a feature surface 15 in which the angle of the brightness gradient direction is made to correspond to the coordinate values of the orthogonal coordinate axes, and the image brightness gradient co-occurrence pair is applied to the feature surface 15. Plot. Acquisition of a co-occurrence pair is performed across multiple resolutions. The image processing apparatus 8 plots the co-occurrence pairs over the entire image, and then clusters these co-occurrence pairs based on the designated number of mixtures to form a cluster of co-occurrence pairs.
  • the image processing apparatus 8 applies an EM algorithm to this to form a GMM (mixed Gaussian model) in which the distribution of co-occurrence pairs in each cluster corresponds to a Gaussian distribution. Estimate the probabilistic distribution that occurs. Since the image processing apparatus 8 dynamically forms a GMM based on the distribution of co-occurrence pairs, the bin position and width of the histogram (probability density distribution by GMM) are not fixed values but values suitable for the image. Can be set.
  • GMM mixed Gaussian model
  • the image processing apparatus 8 having a GMM generation function by the above-described method learns a large number of pedestrian images (with pedestrians as image recognition targets), creates a GMM of the pedestrian images, and further generates a background image (image recognition).
  • a background image GMM is created by learning a large number of images that do not show objects.
  • the image processing device 8 calculates a difference between the GMM of the pedestrian image and the GMM of the background image, and forms a relearning GMM based on the difference.
  • the overlapping portion is weakened by the difference, so that only the characteristic portion remains and a distribution more suitable for image recognition is obtained.
  • the image processing apparatus 8 applies an inverse function theorem (that is, obtains a cumulative distribution function of a probability density function representing a GMM for re-learning, and generates a uniform distribution random number according to the inverse function) Plot the sample according to the re-learning GMM on the feature plane 15.
  • an inverse function theorem that is, obtains a cumulative distribution function of a probability density function representing a GMM for re-learning, and generates a uniform distribution random number according to the inverse function
  • the image processing apparatus 8 forms a reference GMM serving as a reference for image recognition by forming a GMM representing the distribution of samples with a designated number of mixtures. If the number of mixtures is set to be smaller than the number of mixtures previously specified, the number of feature dimensions when analyzing the image is lowered, and the calculation cost can be reduced. The degree of mixing is reduced within a range where the required image recognition capability can be obtained.
  • the image processing device 8 calculates a burden rate for the reference GMM of the target image to be subjected to image recognition for each latent parameter, and sets a vector having the obtained load rate as a component as a feature amount of the target image.
  • the image processing device 8 inputs the feature amount into the discriminator and determines whether or not a pedestrian is included in the target image.
  • the image processing apparatus 8 obtains the co-occurrence pair distribution without performing quantization instead of the conventional method of generating the histogram by quantizing the luminance gradient direction, and corresponding probability density Estimate the function (GMM). Since the GMM is defined by parameters representing parameters (average value, variance-covariance matrix, etc.), it is possible to avoid the problem of an increase in feature amount due to subdivision of quantization.
  • FIG. 1 is a diagram for explaining image processing according to the present embodiment.
  • the image processing apparatus 8 according to the present embodiment is an apparatus that has both a function as an image processing apparatus that extracts a feature amount from an image and a function as an image recognition apparatus that performs image recognition processing using the function. Feature quantities are extracted from images by looking at co-occurrence across different resolutions of the same image.
  • the image processing apparatus 8 accepts input of an original image 2 to be subjected to image processing, and divides it into a plurality of block regions 3A, 3B,... Having the same rectangular shape. To do.
  • the image processing apparatus 8 includes image input means for inputting an image. In the figure, it is divided into 4 ⁇ 4 for easy illustration, but the standard value is 4 ⁇ 8, for example. Note that the block areas 3A, 3B,...
  • the image processing apparatus 8 divides the original image 2 into block regions 3 and converts the resolution of the original image 2, and as shown in FIG. 1B, a high-resolution image 11 having a different resolution (image size), A resolution image 12 and a low resolution image 13 are generated.
  • the original image 2 is used as it is as a high-resolution image.
  • the image processing apparatus 8 includes resolution conversion means for converting the resolution of an image. In the figure, a high-resolution image 11, a medium-resolution image 12, and a low-resolution image 13 in the block area 3A are shown, and the squares schematically represent pixels.
  • the image processing device 8 calculates a gradient direction (a direction from low luminance to high luminance) for each pixel of the high resolution image 11, the medium resolution image 12, and the low resolution image 13.
  • the angle in the gradient direction is a continuous value from 0 ° to 360 °.
  • the gradient direction of luminance is simply referred to as a gradient direction.
  • the co-occurrence of the gradient direction of the pixel (hereinafter referred to as a pixel of interest) as a reference and a pixel (hereinafter referred to as an offset pixel) located away from the reference pixel is determined as follows. To get it.
  • the image processing apparatus 8 sets the target pixel 5 in the high resolution image 11, and the high resolution image 11 is adjacent to the target pixel 5 with an offset distance 1 (that is, adjacent in the high resolution). Pay attention to the offset pixels 1a to 1d. A distance corresponding to n pixels is referred to as an offset distance n.
  • the image processing apparatus 8 acquires the co-occurrence (combination of gradient directions) of the target pixel 5 and the offset pixels 1a to 3d in the respective gradient directions, and sets the corresponding points as co-occurrence corresponding points 51 and 51.
  • the characteristic surfaces 15 (1a) to 15 (3d) shown in FIG. It should be noted that twelve characteristic surfaces 15 (1a) to 15 (3d) shown in FIG. 1D are created for each of the block areas 3A, 3B,... Divided in FIG.
  • a feature surface 15 when referring to the whole of a plurality of feature surfaces, it is referred to as a feature surface 15.
  • the image The processing device 8 plots the co-occurrence corresponding points 51 at positions where the horizontal axis of the feature plane 15 (1a) for the offset pixel 1a is 26 ° and the vertical axis is 135 °.
  • the image processing apparatus 8 then plots the feature pixel 15 and the offset pixel 1a on the feature plane 15 (1a) while sequentially moving the pixel of interest 5 in the high resolution image 11.
  • the feature plane 15 expresses what appearance frequency two gradient direction pairs having a specific offset (relative position from the target pixel 5) in the image have.
  • the co-occurrence is observed for the pixel on the right side of the target pixel 5 toward the drawing. Since the movement path is set to move rightward from the leftmost pixel one step down when reaching the right end, the overlapping co-occurrence combinations are not acquired as the pixel of interest 5 moves. It is to make it.
  • the pixel of interest 5 is moved within the block area 3A (within the same block area), but the offset pixel is selected even when the pixel exceeds the block area 3A.
  • the gradient direction cannot be calculated at the end of the original image 2, this is processed by any appropriate method.
  • the image processing apparatus 8 acquires the co-occurrence in the gradient direction of the target pixel 5 and the offset pixel 1b (see FIG. 1C), and sets the co-occurrence corresponding point 51 corresponding thereto to the feature plane 15 ( Plot to 1b).
  • the image processing apparatus 8 prepares a new feature surface 15 that is different from the feature surface 15 (1a) previously used for the target pixel 5 and the offset pixel 1a, and votes for this.
  • the image processing apparatus 8 generates the feature plane 15 for each combination of the relative positional relationship between the target pixel 5 and the offset pixel. Then, while sequentially moving the target pixel 5 in the high-resolution image 11, the co-occurrence corresponding points 51 are plotted on the feature plane 15 (1b) by taking the co-occurrence of the target pixel 5 and the offset pixel 1b.
  • the image processing apparatus 8 prepares individual feature planes 15 (1c) and 15 (1d) for the combination of the target pixel 5 and the offset pixel 1c and the combination of the target pixel 5 and the offset pixel 1d, respectively. And plot the co-occurrence in the gradient direction.
  • the image processing apparatus 8 when the image processing apparatus 8 generates the four feature planes 15 for the target pixel 5 and the offset pixels 1a to 1d having the offset distance 1 from the target pixel 5, the target pixel in the high-resolution image 11 is then generated. 5 and the offset pixels 2a to 2d of the medium resolution image 12 at the offset distance 2 are focused.
  • the image processing apparatus 8 similarly applies the relative relationship between the target pixel 5 and the offset pixels 3a to 3d for the target pixel 5 in the high resolution image 11 and the offset pixels 3a to 3d of the low resolution image 13 at the offset distance 3.
  • Characteristic surfaces 15 (3a) to 15 (3d) are generated for each combination of various positional relationships.
  • the image processing apparatus 8 performs the above processing on the block areas 3B, 3C,... To generate a plurality of feature surfaces 15 from which the features of the original image 2 are extracted. As described above, the image processing apparatus 8 generates a plurality of feature surfaces 15 (1a) to 15 (3d) for each of the block regions 3A, 3B, 3C,.
  • the image processing apparatus 8 includes a pixel combination acquisition unit that acquires a combination of two pixels from an input image, and a co-occurrence acquisition unit that acquires the co-occurrence of the luminance gradient directions of the two pixels related to these combinations.
  • the pixel combination acquisition unit also includes a pixel whose resolution has been converted as a combination target.
  • the image processing apparatus 8 includes appearance frequency acquisition means for acquiring the distribution of the co-occurrence appearance frequency from the scatter diagram of the feature surface 15 while changing the combination of pixels to be acquired. The appearance of the gradient direction pair is mapped to the co-occurrence feature space represented by
  • the image processing apparatus 8 has a feature surface generation function for generating a plurality of feature surfaces 15 for each offset pixel for each block region 3 from the original image 2 in this way. Then, the image processing device 8 generates a GMM (mixed Gaussian model) for each of the feature surfaces 15 as follows.
  • GMM mixed Gaussian model
  • a GMM is generated from the feature surface 15 created from the original image 2, but more specifically, as will be described later, the feature surfaces 15 obtained from a large number of learning images are superimposed.
  • a GMM is generated for the combination.
  • FIG. 1 (e) shows one of the plurality of characteristic surfaces 15.
  • the image processing apparatus 8 combines the co-occurrence corresponding points 51 with each other close to each other to obtain a mixing number K. Cluster into clusters (groups). The number of mixtures represents the number of Gaussian distributions to be mixed when generating the GMM. When this is appropriately designated, the image processing apparatus 8 automatically clusters the co-occurrence corresponding points 51 to the designated number.
  • the co-occurrence corresponding points 51, 51,... Plotted on the feature plane 15 tend to gather according to the features of the image, and the clusters 60a, 60b,... Reflect the features of the image. . Since the feature dimension at the time of image recognition depends on the mixing number K, it is one of important matters how far the mixing number K can be reduced without losing the image characteristics.
  • the image processing apparatus 8 After clustering the co-occurrence corresponding points 51, the image processing apparatus 8 linearly superimposes the K Gaussian distributions on the probability density function 53 of the co-occurrence corresponding points 51 on the feature surface 15 as shown in FIG. It is represented by the combined probability density function p (x
  • the probability density function 53 expressed as a linear sum using the Gaussian distribution as a basis function is the GMM.
  • p (x) is abbreviated as p (x).
  • the probability density function is abbreviated as p (x) unless particularly necessary.
  • the GMM functions as a probability density function representing the probability that the co-occurrence corresponding points are distributed, and the image processing device 8 generates a probability density function corresponding to the distribution of the appearance frequency of the co-occurrence in the gradient direction by the GMM.
  • a density function generating means is provided.
  • x is a vector quantity representing the distribution of the co-occurrence corresponding points 51
  • ⁇ j is called a mixing coefficient and represents the probability of selecting the jth Gaussian distribution.
  • ⁇ j and ⁇ j represent the average value of the jth Gaussian distribution and the variance-covariance matrix, respectively.
  • the probability density function 53 that is, the GMM is uniquely determined by ⁇ j and ⁇ .
  • z is a latent parameter used to calculate the EM algorithm and the burden factor ⁇ , and z1, z2,..., zK are used corresponding to K Gaussian distributions to be mixed.
  • the EM algorithm is an algorithm that estimates ⁇ j and parameters ( ⁇ j, ⁇ j) that maximize the likelihood, but the image processing apparatus 8 determines ⁇ j and ⁇ by applying the EM algorithm. Thus, p (x
  • the image processing apparatus 8 includes a probability density function output unit that outputs the probability density function according to a parameter that defines the probability density function. . Since the image processing apparatus 8 represents the distribution of the gradient direction in GMM instead of the co-occurrence histogram based on the quantized gradient direction, the distribution of the gradient direction pair can be represented by these parameters, and information accompanying quantization subdivision An increase in quantity can be avoided.
  • FIG. 2 is a diagram for explaining the learning process performed by the image processing apparatus 8.
  • a pedestrian is set as an image recognition target. Therefore, in order to learn the characteristics of the pedestrian, the original images 2a, 2a,... Constituting the pedestrian image in which the pedestrian is reflected in various modes, and the background image as the background of the pedestrian are configured.
  • a large number of original images 2b, 2b... Are prepared as learning images (for example, about 10,000 images each).
  • the image processing device 8 learns the background image in addition to the pedestrian image, thereby deducting points that are not likely to be a pedestrian in the image recognition processing and increasing the accuracy. This is an example, and it is also possible to perform image processing using only pedestrian images.
  • the image processing apparatus 8 reads an original image 2a composed of pedestrian images, divides it into block areas 3 (not shown), and blocks each block area. 3, a feature plane 15 is generated for each offset pixel.
  • the image processing device 8 when the image processing device 8 generates the feature surface 15 for each offset pixel for each block region 3 for each original image 2a, 2a,..., The corresponding feature surface 15 (that is, the same block region 3). Are generated for each block region 3 and for each offset pixel.
  • the feature surface 15a includes features common to pedestrian images by the distribution of co-occurrence corresponding points, and the image processing apparatus 8 clusters the co-occurrence corresponding points of the feature surface 15a to generate a probability density function fp (x ) To generate a positive GMM.
  • p is positive p in the sense that a detection target (here, a pedestrian as an image recognition target) is captured. Such an image showing the image recognition target is also referred to as a positive image.
  • the image processing apparatus 8 inputs a plurality of recognition target images including a recognition target from the input unit, and outputs a recognition target probability density function (fp (x)) based on the plurality of recognition target images to the output unit.
  • a recognition target learning means is provided.
  • the image processing apparatus 8 reads the original image 2b composed of the background image and divides it into block areas 3 (not shown), and each block area 3, a feature plane 15 is generated for each offset pixel.
  • the image processing device 8 when the image processing device 8 generates the feature surface 15 for each offset pixel for each block area 3 for each original image 2b, 2b,..., The feature surface 15b obtained by superimposing the corresponding feature surfaces 15 is obtained.
  • the feature surface 15b obtained by superimposing the corresponding feature surfaces 15 is obtained.
  • the feature surface 15b includes features common to the background without a pedestrian by the distribution of co-occurrence corresponding points, and the image processing apparatus 8 clusters the co-occurrence corresponding points of the feature surface 15b to generate a probability density function fn ( Generate a negative GMM consisting of x).
  • n is negative n in the sense that a detection target (here, a pedestrian that is an image recognition target) is not captured. Such an image in which the image recognition target is not shown is also referred to as a negative image.
  • the image processing apparatus 8 inputs a plurality of non-recognition target images not including a recognition target from the input unit, and outputs a non-recognition target probability density function (fn (x)) based on the non-recognition target image to the output unit.
  • Non-recognition target learning means is provided.
  • the image processing apparatus 8 extracts the feature amount of the pedestrian image by fp (x) and extracts the feature amount of the background image by fn (x).
  • the fp (x) obtained as described above is obtained by arranging basis functions in an area where there is a high probability that a pedestrian exists, and is used as a criterion for recognizing a pedestrian in the image. can do.
  • fn (x) is considered to have a basis function arranged in the background, that is, a region that is not a pedestrian, and is considered to reflect the characteristics of a non-pedestrian.
  • a distribution different from that of pedestrians can be obtained because there are many vertical edges in the building.
  • fp (x) As a pedestrian identification standard.
  • fn (x) is also used and not considered to be a pedestrian, more pedestrians and non-pedestrians can be identified. It is thought that the characteristic standard to identify is obtained. Therefore, in this embodiment, the correlation between fp (x) and fn (x) is measured, and the feature amount of the pedestrian is defined using this.
  • the correlation between fp (x) and fn (x) refers to the strength of the relationship between them, and the metric is a measure for measuring the degree of strength of the relationship.
  • the metric space in which fp (x) and fn (x) are arranged is defined by the metric, and the strength of the correlation between the two is determined by the distance between the metric spaces (that is, the metric).
  • Various formulas representing metrics can be defined, for example, suitably representing pedestrian characteristics such as metrics using the difference between the two, metrics using the ratio between the two, or metrics using the difference and ratio. Things can be adopted.
  • the correlation between fp (x) and fn (x) is measured by the difference between fp (x) and fn (x).
  • the image processing apparatus 8 determines the feature amount of the recognition target image (recognition target establishment density function) (fp (x)) and the non-recognition target image (non-recognition target establishment density function) (a co-occurrence distribution is created based on the metric of the correlation of the feature quantity of fn (x)). At this time, since the co-occurrence distribution is generated based on the probability density distribution, a reference in consideration of the difference in the information amount of the probability density distribution is obtained.
  • FIG. 3 is a diagram for explaining a difference process in which the correlation between fp (x) and fn (x) is measured by a difference.
  • fp (x) represents the feature by the distribution of the co-occurrence corresponding points of the pedestrian image
  • fn (x) represents the feature by the distribution of the co-occurrence corresponding points of the background image. There may be overlap.
  • the features common to both the pedestrian image and the background image are weakened according to the degree, and the features of both The part remains.
  • this portion becomes 0 and the pedestrian has explanatory power as a feature amount of the pedestrian.
  • the image processing apparatus 8 has a probability density function
  • X) A reference GMM used in image recognition processing is generated from
  • the image processing apparatus 8 is configured to output the recognition target probability density function (fp (x)), the non-recognition target probability density function (fn (x)), and the metric information (measured by measurement).
  • the information includes a metric information generation means for generating a difference probability density function (
  • the metric information shown in this example is a difference probability density function using a difference between the recognition target probability density function and the non-recognition target probability density function.
  • the difference between fp (x) and fn (x) is simply calculated. However, even if the metric information is calculated using the KL feature value and the JS feature value described in a later-described modification, Good.
  • FIG. 4 is a diagram for explaining generation of the reference GMM.
  • dx is relearned to generate a reference GMM.
  • the metric information here, the difference probability density function
  • the image processing apparatus 8 generates a reference GMM 55 that represents the reference probability density function g ′ (x) by clustering the samples generated according to h (x).
  • the image processing apparatus 8 calculates and outputs parameters (mixing coefficient ⁇ j, parameter ⁇ , etc.) that define the reference GMM 55 using an EM algorithm.
  • the image processing apparatus 8 includes, from the difference probability density function, a reference probability density function generating unit that generates a reference probability density function serving as a reference for recognizing the recognition target based on the distribution of the appearance frequencies of the samples, And a reference probability density function output means for outputting the reference probability density function according to a parameter (such as ⁇ ) that defines the reference probability density function.
  • the recognition target probability density function (fp (x)) and the non-recognition target probability density function (fn (x)) are generated by mixing a predetermined number of basis functions (Gaussian distribution).
  • the dimension of the feature amount of the target image for image recognition is the number of mixtures ⁇ the number of offset pixels ⁇ the number of resolutions ⁇ the number of block areas. The load can be reduced.
  • the image processing apparatus 8 includes a reference probability density function generating unit that generates a reference probability density function that serves as a reference for recognizing the recognition target using the recognition target probability density function (fp (x)).
  • the reference probability density function generating means generates a reference probability density function using a difference probability density function generated from fp (x) and fn (x).
  • the image processing apparatus 8 uses the reference GMM 55 generated in this way to calculate the feature quantity of the image recognition target image using the burden rate ⁇ shown in the mathematical expression of FIG.
  • x indicates the distribution of the co-occurrence corresponding points 51 of the luminance gradient in the target image.
  • the burden factor ⁇ (nk) represents the probability that a certain co-occurrence corresponding point xn is generated from the kth Gaussian distribution.
  • the image processing apparatus 8 normalizes the burden rate ⁇ using, for example, a normalization method such as L2 normalization or power normalization to obtain a feature amount for image recognition processing. Then, the image processing apparatus 8 inputs the normalized feature amount to a discriminator such as SVM (support vector machine) or AdaBoost, and determines image recognition. This does not limit the discriminator, but can be freely selected by the user from the viewpoint of calculation cost and accuracy.
  • a discriminator such as SVM (support vector machine) or AdaBoost
  • the image processing apparatus 8 includes the reference probability density function acquisition unit that acquires the reference probability density function and the target image acquisition unit that acquires the target image to be subjected to image recognition. Then, the image processing device 8 obtains the distribution of the appearance frequency of the co-occurrence in the gradient direction in the target image in order to obtain the burden rate by taking the co-occurrence in the gradient direction from the target image using the function used in learning, Target image feature amount acquisition means for acquiring the feature amount of the target image based on the probability that the distribution of the appearance frequency is generated from the reference probability density function, that is, the burden rate, and the target image is an image recognition target using the feature amount Judgment means for judging whether or not is included.
  • FIG. 5 is a diagram illustrating an example of a hardware configuration of the image processing apparatus 8.
  • the image processing device 8 is configured by, for example, a personal computer. This is an example, and it is also possible to form a dedicated hardware for feature quantity extraction with a semiconductor device and mount it on an in-vehicle camera or the like.
  • the image processing apparatus 8 includes a CPU 81, a ROM 82, a RAM 83, a storage device 84, a storage medium driving device 85, an input unit 86, an output unit 87, and the like connected by a bus line.
  • the CPU 81 is a central processing unit and operates in accordance with an image recognition program stored in the storage device 85, and performs image processing for extracting feature values from the above-described image, image recognition processing using the extracted feature values, and the like.
  • the ROM 82 is a read-only memory and stores basic programs and parameters for operating the CPU 81.
  • the RAM 83 is a readable / writable memory, and provides a working memory when the CPU 81 performs feature amount extraction processing and image recognition processing.
  • the storage device 84 is configured using a large-capacity storage medium such as a hard disk, and stores an image recognition program, a learning image, image data of a recognition target image, and the like.
  • the image recognition program is a program that causes the CPU 81 to perform an image processing function and an image recognition processing function.
  • the storage medium drive device 85 is a device that drives an external storage medium such as a semiconductor storage device or a hard disk. Thereby, the learning image and the recognition target image can be read.
  • the input unit 86 includes an input device such as a keyboard and a mouse that receives input from an operator, and receives various programs and data and receives operations from the operator.
  • the output unit 87 includes an output device such as a display and a printer that presents various types of information to the operator, and outputs an operation screen of the image recognition program and results of the feature amount extraction process and the image recognition process.
  • the image processing apparatus 8 includes a communication control unit connected to a communication network, an interface for connecting to an external device, and the like. It is also possible to receive a moving image from a camera connected to a communication network or interface and perform image recognition processing in real time.
  • FIG. 6 is a graph showing the results of a quantitative evaluation experiment in which image recognition is performed by a technique using the above-described reference GMM.
  • FIG. 6A shows the experimental results when the number of mixtures of the reference GMM is changed.
  • the vertical axis represents the positive detection rate
  • the horizontal axis represents the false detection rate. The larger the area under the curve indicating the experimental data, the higher the performance.
  • CoHOG is a feature amount focusing on a gradient pair between two pixels in a local region within the same resolution, and is a method that has been evaluated as having high robustness.
  • luminance gradient directions are quantized in, for example, eight directions, and a co-occurrence histogram for each gradient pair is used as an image feature amount.
  • the image processing apparatus 8 co-occurs on the pixel adjacent to the target pixel 5 in the high resolution image 11, the pixel adjacent to the target pixel 5 in the medium resolution image 12, and the pixel adjacent to the target pixel 5 in the low resolution image 13. Therefore, attention is paid to a gradient pair between two pixels in a local region in multi-resolution.
  • FIG. 6B shows a case where g ′ (x) (reference GMM) is used, a case where fp (x) (positive GMM) based on a pedestrian image is used, and a case where
  • the accuracy is highest in the case of g ′ (x), then in the case of fp (x), in the case of
  • g ′ (x) in which the difference between fp (x) and fn (x) is learned rather than using fp (x) alone, only pedestrian-specific features are detected. It is possible to improve accuracy.
  • FIG. 7 is a flowchart for explaining the procedure of plot processing performed by the image processing apparatus 8.
  • the following processing is performed by the CPU 81 according to the image recognition program.
  • the image processing apparatus 8 receives an input of the original image 2 from which features are to be extracted from the storage device 84 or the like and reads it into the RAM 83 (step 5).
  • the image processing apparatus 8 divides the original image 2 into block regions 3 and stores the position of the division in the RAM 83 (step 10).
  • the image processing apparatus 8 selects one of the block areas 3 of the segmented high resolution image 11 (step 15), and from this, the pixels of the co-occurrence target high resolution image 11 and the pixels of the medium resolution image 12 are selected. Then, the pixels of the low resolution image 13 are generated and stored in the RAM 83 (step 20).
  • the pixels of the original image 2 are used as the pixels of the high resolution image 11 without performing resolution conversion.
  • the image processing device 8 calculates the gradient direction for each pixel of the generated high resolution image 11, medium resolution image 12, and low resolution image 13, and stores it in the RAM 83 (step 25).
  • the image processing device 8 takes the co-occurrence in the gradient direction in the high-resolution image 11, between the high-resolution image 11 and the medium-resolution image 12, and between the high-resolution image 11 and the low-resolution image 13. 15 is plotted and stored in the RAM 83 (step 30). Thereby, the characteristic surface 15 by the said block area
  • the image processing apparatus 8 determines whether or not all the pixels are plotted (step 35). If there is a pixel that has not been plotted yet (step 35; N), the image processing apparatus 8 returns to step 20 to select the next pixel, and plots this on the feature plane 15.
  • the image processing apparatus 8 determines whether all the block areas 3 are plotted (step 40). If there is a block area 3 that has not been plotted yet (step 40; N), the image processing apparatus 8 returns to step 15 to select the next block area 3, and plots this on the feature plane 15. . On the other hand, when all the block areas 3 are plotted (step 40; Y), the image processing apparatus 8 outputs, to the RAM 83, the feature plane 15 generated for each offset pixel for every block area 3 from the array of the RAM 83. (Step 45).
  • FIG. 8 is a flowchart for explaining the procedure of the learning process performed by the image processing apparatus 8.
  • the image processing device 8 reads a pedestrian image provided as a positive image from the storage device 84 and stores it in the RAM 83 (step 50).
  • the image processing device 8 performs a plotting process using the pedestrian image read into the RAM 83 as the original image 2, generates a feature plane 15 for each block area 3 and for each offset pixel, and stores it in the RAM 83 (step 55). .
  • the image processing device 8 determines whether or not all the provided pedestrian images have been plotted (step 60). If there is a pedestrian image that has not yet been plotted (step 60; N) Returning to step 50, plot processing is performed on the next pedestrian image.
  • the image processing apparatus 8 reads out all the feature surfaces 15 generated for the pedestrian image from the RAM 83, and for each corresponding feature surface 15 ( That is, they are superimposed and stored in the RAM 83 (for each feature plane 15 generated for the same offset pixel in the same block region 3) (step 65). Then, the image processing device 8 generates fp (x) (positive GMM) by applying the EM algorithm to each feature plane 15 of the superimposed pedestrian image, and stores the parameter in the RAM 83 (step 70).
  • the image processing device 8 reads the background image provided as a negative image from the storage device 84 and stores it in the RAM 83 (step 75).
  • the image processing apparatus 8 performs a plot process using the background image read into the RAM 83 as the original image 2, generates the feature plane 15 for each block area 3 and for each offset pixel, and stores it in the RAM 83 (step 80).
  • the image processing apparatus 8 determines whether or not all the provided background images have been plotted, and if there is a background image that has not yet been plotted (step 85; N), the process proceeds to step 75. Returning, the plot processing is performed on the next background image.
  • the image processing device 8 reads all the feature surfaces 15 generated for the background image from the RAM 83 and superimposes them for each corresponding feature surface 15. Store in the RAM 83 (step 90). Then, the image processing device 8 applies the EM algorithm to each feature surface 15 of the superimposed background image to generate fn (x) (negative GMM) and stores it in the RAM 83 (step 95).
  • the image processing apparatus 8 prepares fp (x) and fn (x) for each feature plane 15 in this manner, the absolute value
  • the image processing apparatus 8 reads out the designated mixture number K from the RAM 83, generates a reference GMM (g ′ (x)) for each feature plane 15 from the sample according to this, and stores it in the RAM 83 (step 110). With the above processing, a reference GMM used for image recognition is generated.
  • FIG. 9 is a flowchart for explaining a procedure of image recognition processing performed by the image processing apparatus 8.
  • the image processing device 8 is mounted on a vehicle and is connected to a camera whose subject is outside the vehicle (for example, in front of the vehicle).
  • the vehicle tracks the pedestrian by the image processing device 8 and outputs the pedestrian to the vehicle control system.
  • the control system supports the driver's steering wheel operation and brake operation based on the pedestrian, thereby improving safety.
  • a moving image frame is acquired from moving image data transmitted from the camera and stored in the RAM 83 (step 150).
  • the image processing device 8 sets a rectangular observation region (attention image region) for detecting a pedestrian in the moving image frame stored in the RAM 83 (step 155).
  • the image processing device 8 In the first detection of the pedestrian, since it is not known where the pedestrian is reflected, the image processing device 8 generates a random number (particle) due to white noise based on an appropriate initial value, and an appropriate value is determined based on this. Set the observation area of the size to an appropriate position.
  • the image processing device 8 sets an image included in the observation region as a target image for image recognition, and stores it in the RAM 83 (step 160). Next, the image processing apparatus 8 performs a plot process using the target image as the original image 2, extracts a feature amount due to co-occurrence in the gradient direction from the target image, and stores it in the RAM 83 (step 165).
  • the image processing apparatus 8 reads the reference GMM from the RAM 83, and uses this to calculate the burden rate ⁇ for each feature plane 15 of the target image (step 170). Then, the image processing apparatus 8 connects the burden rate ⁇ calculated for each feature plane 15 with respect to all the feature planes 15 to obtain feature quantities representing the characteristics of the entire target image (step 175), normalizes them, and stores them in the RAM 83. Store (step 180).
  • the image processing apparatus 8 inputs the normalized feature quantity to the discriminator, and determines similarity from the output value (step 185).
  • the image processing device 8 outputs the result to the RAM 83 (step 190).
  • the image processing device 8 determines whether or not a pedestrian can be recognized within the observation area in the moving image frame from the determination result of the analogy (step 195). That is, when the analogy determination results are not similar, the image processing apparatus 8 determines that the pedestrian could not be recognized within the observation area in the moving image frame (step 195; N), and returns to step 155. Furthermore, an observation area different from the previous time is set in the moving image frame, and pedestrian recognition is repeated.
  • the image processing device 8 determines that the pedestrian has been recognized within the observation area within the moving image frame (step 195; Y), and outputs the recognition result to the vehicle control system. Then, the image processing apparatus 8 determines whether or not to continue tracking the recognition target (step 200). In this determination, for example, it is determined that the tracking is not continued when the vehicle stops traveling such as when the vehicle arrives at the destination, and the vehicle is determined to be tracked when the vehicle is traveling.
  • step 200; N When it is determined that the tracking is not continued (step 200; N), the image processing apparatus 8 ends the image recognition process. On the other hand, when it is determined that the tracking is continued (step 200; Y), the image processing apparatus 8 returns to step 150 and performs the same image recognition process on the next moving image frame.
  • the image processing device 8 sets an observation region in the vicinity of the pedestrian detected in the previous image recognition in step 155. This is because it is considered that a pedestrian is present in the current video frame in the vicinity where the pedestrian is detected in the previous video frame.
  • random numbers having a normal distribution centering on the observation area where the pedestrian was detected last time are generated, and observation areas are generated one after another corresponding to the random number, and the observation with the highest similarity is performed. It is effective to use a particle filter technique for searching the region.
  • the image processing apparatus 8 can detect a pedestrian from an image outside the vehicle photographed by the in-vehicle camera and track the pedestrian. Note that this method can be applied to a system that tracks surveillance cameras and other moving objects based on moving images in addition to the in-vehicle camera.
  • the recognition target is a pedestrian, for example, it can be recognized while traveling on a white line on a road, a traffic light, a sign, and the like, and can be applied to automatic driving.
  • the present invention can be applied to so-called convoy travel in which a vehicle traveling ahead is tracked by image recognition and traveled following the vehicle.
  • three resolution images for the same subject are prepared and the co-occurrence in the gradient direction from the offset distance 1 to 3 is acquired.
  • the present invention is not limited to this. As long as the required image recognition accuracy can be obtained, it is possible to combine images of two types of resolutions or four or more types of resolutions.
  • the co-occurrence in the gradient direction is acquired across a plurality of resolutions of the high-resolution image 11, the medium-resolution image 12, and the low-resolution image 13.
  • the co-occurrence may be taken in each resolution, such as taking the co-occurrence in the medium resolution image 12 and taking the co-occurrence in the low resolution image 13.
  • the feature surface 15 can be generated by taking co-occurrence within a single resolution, as is done with CoHOG.
  • FIG. 10 is a diagram for explaining the first modification.
  • the reference GMM is generated using the absolute value
  • the reference GMM is generated by dividing the sample by fp (x) and the sample by fn (x) into separate clusters.
  • the image processing apparatus 8 adds GMMp and GMMn to generate a reference GMM with a mixture number K.
  • the part of g (x)> 0 and the part of g (x) ⁇ 0 are normalized by dividing by, for example, ⁇
  • the sample based on fp (x) and the sample based on fn (x) can be clustered separately, and this can be expected to improve accuracy.
  • the modified example 1 since the amount of calculation increases as compared with the embodiment, the modified example 1 is suitable when sufficient computer resources are required and accuracy is required.
  • FIG. 11 is a diagram for explaining the second modification.
  • the correlation between fp (x) and fn (x) is measured using the KL feature amount.
  • the image processing apparatus 8 calculates k (fp, fn) and k (fn, fp) using fp (x) and fn (x).
  • k (fp, fn) and k (fn, fp) are quantities called KL feature quantities
  • k (fp, fn) is expressed by the equation shown in FIG.
  • k (fn, fp) is an equation in which fp and fn are interchanged in this equation.
  • k (fp, fn) represents a metric of the correlation of fn (x) viewed from fp (x), and k (fn, fp) represents the correlation of fp (x) viewed from fn (x). Represents weighing.
  • k (fp, fn) is a quantity such as a distance that represents how close fp (x) and fn (x) take into account such a ratio.
  • fp (x) and fn (x) are defined in the form of log (fp (x) / fn (x)), which is log (fp (x))-log (fn ( x)).
  • the KL feature amount is a ratio that is also a ratio between fp (x) and fn (x) and also a difference.
  • K (fp, fn) is weighted by fp (x) by multiplying fp (x) by an amount that is the ratio and difference of fp (x) and fn (x), and fp (x) The place where is large is emphasized.
  • the metric information represented by the KL feature amount is a specific probability density function using a ratio between the recognition target probability density function and the non-recognition target probability density function, and further, the recognition target probability density function, The difference from the non-recognized target probability density function is also used.
  • a sample is generated to produce GMMn with a mixing number of K / 2. Then, as illustrated in FIG.
  • the metric including both the ratio and the difference is defined using the logarithm, but in addition to this, it is also possible to define a metric in which the term by the ratio and the term by the difference are combined linearly or nonlinearly. is there.
  • a third modification will be described.
  • the correlation between fp (x) and fn (x) is measured using JS feature values.
  • the JS feature amount is calculated by Formula B using a (x) that is an average of fp (x) and fn (x) shown in Formula A below.
  • k (fp, fn) and k (fn, fp) are generally not equal, and the metric of the correlation of fn (x) viewed from fp (x) and fp viewed from fn (x) The correlation metric of (x) is different.
  • the present inventors have made it clear that the JS feature can perform image recognition that is highly robust with respect to the reduction of the dimension of the GMM by providing symmetry to the metric. .
  • the metric information generating means obtains metric information in which the metric of the non-recognition target probability density function with respect to the recognition target probability density function and the metric of the recognition target probability density function with respect to the non-recognition target probability density function are symmetrical. Is generated.
  • FIG. 12 is a graph showing the results of a quantitative evaluation experiment in which image recognition is performed using JS feature values.
  • fp (x) when only the KL feature value, fp (x) is used, the case where CoHOG, MRCoHOG (an improvement of CoHOG) is used is also shown for comparison.
  • the image recognition process using the JS feature amount is more robust (robust) than other methods with respect to the reduction of the number of mixtures (reduction of the number of dimensions).
  • the in-vehicle image processing device 8 is as small as possible from the viewpoint of storage space and resistance to vibration.
  • a simple stand-alone device is preferable to a system that requires a large image recognition process by a server using network communication.
  • the image processing apparatus 8 using the JS feature amount can be applied to a system that communicates with a server via a network because the number of GMMs can be reduced, and is suitable for a compact stand-alone in-vehicle image processing apparatus 8. Can be used.
  • GMM can be generated by mapping the co-occurrence of gradient direction by continuous values onto the feature plane 15 instead of the conventional quantization of gradient direction and the generation of co-occurrence histogram by this.
  • the image processing apparatus 8 according to the present embodiment can extract features that are particularly important for expressing the detection target object by using GMM parameters, and perform calculation using this. The accuracy can be improved while preventing the increase.
  • the processing time and detection accuracy can be freely adjusted according to the application, environment, computer resource, and the like.
  • the influence on the accuracy of machine learning by setting the bin width and the discretization error accumulated near the bin boundary can be avoided.
  • fp (x) and fn (x) can be separated from the difference result.
  • high image recognition can be performed even in a low GMM dimension. That is, by lowering the GMM dimension, the burden of recognition processing is reduced and higher speed recognition is possible.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)

Abstract

検出精度を高めつつ、計算コストを低減する。 画像処理装置8は、画像の輝度勾配共起ペアを特徴面15にプロットし、これにEMアルゴリズムを適用してGMMを形成する機能を有している。画像処理装置8は、歩行者画像を学習して歩行者画像のGMMを作成し、次いで、背景画像を学習して背景画像のGMMを作成し、更に、両者の差分を計算して、これに基づく再学習用のGMMを生成する。画像処理装置8は、逆関数定理を適用することにより再学習用のGMMに従うサンプルを特徴面15にプロットする。最後に、画像処理装置8は、サンプルの分布を表すGMMを指定された混合数で形成することにより画像認識の基準となる基準GMMを形成する。この混合数を先に指定された混合数よりも小さく設定すると、画像を解析する際の次元が下がり、計算コストを低減することができる。

Description

画像処理装置、画像認識装置、画像処理プログラム、及び画像認識プログラム
 本発明は、画像処理装置、画像認識装置、画像処理プログラム、及び画像認識プログラムに関し、例えば、画素の輝度勾配によって画像処理を行うものに関する。
 画像認識技術には、画像から画像特徴量として輝度の勾配方向の分布を抽出し、これを予め学習した画像の輝度の勾配方向の分布と比較することにより対象を認識するものがある。
 例えば、特許文献1の「画像認識装置」は、予め標準画像から特徴点とその特徴量を抽出しておく。そして、入力画像中から特徴点とその特徴量を算出し、標準画像における特徴量と類似する特徴点同士を、対応点として設定する。
 次いで、入力画像における各対応点(特徴点)ごとに、対応する標準画像の特徴点の特徴量(位置情報等含む)に基づいて基準点を算出して入力画像平面に投票する。
 そして、ある小領域内に所定閾値以上の投票値があった場合は、入力画像中に対象物が存在していると判断する。
 従来技術では特徴量として特徴点周りの輝度勾配を36方向に量子化し、ヒストグラムを作成している。
 しかし、精度を向上させる場合、量子化の間隔を細かくする必要があるが、量子化の間隔を細かくすると特徴量が膨大になり、処理時間が増加する問題があった。
特開2008-257649号公報
 本発明は、検出精度を高めつつ、計算コストを低減することを目的とする。
(1)請求項1に記載の発明では、画像を入力する画像入力手段と、前記入力した画像から2つの画素の組合せを取得する画素組合せ取得手段と、前記取得した組合せに係る2つの画素の輝度の勾配方向の共起を取得する共起取得手段と、前記取得する画素の組合せを変化させながら、前記取得する共起の出現頻度の分布を取得する出現頻度取得手段と、前記取得した出現頻度の分布に対応する確率密度関数を生成する確率密度関数生成手段と、前記生成した確率密度関数を、当該確率密度関数を規定するパラメータによって出力する確率密度関数出力手段と、を具備したことを特徴とする画像処理装置を提供する。
(2)請求項2に記載の発明では、前記画像入力手段から認識対象を含む複数の認識対象画像を入力し、前記確率密度関数出力手段に前記複数の認識対象画像に基づく認識対象確率密度関数を出力させる認識対象学習手段と、前記出力させた認識対象確率密度関数を用いて前記認識対象を画像認識する基準となる基準確率密度関数を生成する基準確率密度関数生成手段と、前記生成した基準確率密度関数を、当該基準確率密度関数を規定するパラメータによって出力する基準確率密度関数出力手段と、を具備したことを特徴とする請求項1に記載の画像処理装置を提供する。
(3)請求項3に記載の発明では、前記画像入力手段から認識対象を含まない複数の非認識対象画像を入力し、前記確率密度関数出力手段に前記非認識対象画像による非認識対象確率密度関数を出力させる非認識対象学習手段と、前記出力させた前記認識対象確率密度関数と、前記非認識対象確率密度関数と、の相関を計量する計量情報を生成する計量情報生成手段と、を具備し、前記基準確率密度関数生成手段は、前記生成した計量情報を用いて前記基準確率密度関数を生成することを特徴とする請求項2に記載の画像処理装置を提供する。
(4)請求項4に記載の発明では、前記計量情報生成手段が、前記認識対象確率密度関数に対する前記非認識対象確率密度関数の計量と、前記非認識対象確率密度関数に対する前記認識対象確率密度関数の計量と、が対称性を有する前記計量情報を生成することを特徴とする請求項3に記載の画像処理装置を提供する。
(5)請求項5に記載の発明では、前記生成した計量情報に従って複数のサンプルを発生させるサンプル発生手段を具備し、前記基準確率密度関数生成手段は、前記発生させたサンプルの出現頻度の分布に基づいて前記基準確率密度関数を生成することを特徴とする請求項3、又は請求項4に記載の画像処理装置を提供する。
(6)請求項6に記載の発明では、前記認識対象確率密度関数と、前記非認識対象確率密度関数は、それぞれ所定の個数の基底関数を混合して生成されており、前記基準確率密度関数生成手段は、前記所定の個数よりも少ない個数の基底関数を混合して前記基準確率密度関数を生成することを特徴とする請求項3、請求項4又は請求項5に記載の画像処理装置を提供する。
(7)請求項7に記載の発明では、前記入力した画像の解像度を変換する解像度変換手段を具備し、前記画素組合せ取得手段は、前記解像度を変換した画素も組合せの対象とすることを特徴とする請求項1から請求項6までの内の何れか1の請求項に記載の画像処理装置を提供する。
(8)請求項8に記載の発明では、前記計量情報が、前記認識対象確率密度関数と、前記非認識対象確率密度関数と、の差分を用いた差分確率密度関数であることを特徴とする請求項3、又は請求項4に記載の画像処理装置を提供する。
(9)請求項9に記載の発明では、前記計量情報が、前記認識対象確率密度関数と、前記非認識対象確率密度関数と、の比を用いた比確率密度関数であることを特徴とする請求項3、又は請求項4に記載の画像処理装置を提供する。
(10)請求項10に記載の発明では、前記比確率密度関数が、更に前記認識対象確率密度関数と、前記非認識対象確率密度関数と、の差分を用いていることを特徴とする請求項9に記載の画像処理装置を提供する。
(11)請求項11に記載の発明では、請求項2に記載の画像処理装置が出力した基準確率密度関数を取得する基準確率密度関数取得手段と、画像認識の対象となる対象画像を取得する対象画像取得手段と、前記取得した基準確率密度関数を用いて前記取得した対象画像の特徴量を取得する対象画像特徴量取得手段と、前記取得した特徴量を用いて前記対象画像が画像認識対象を含んでいるか否かを判断する判断手段と、を具備したことを特徴とする画像認識装置を提供する。
(12)請求項12に記載の発明では、前記対象画像特徴量取得手段は、前記取得した対象画像を請求項1に記載の画像処理装置の画像入力手段に入力して、当該画像処理装置の出現頻度取得手段から前記対象画像における勾配方向の共起の出現頻度の分布を取得し、前記取得した出現頻度の分布が前記取得した基準確率密度関数から生成される確率に基づいて前記対象画像の特徴量を取得することを特徴とする請求項7に記載の画像認識装置を提供する。
(13)請求項13に記載の発明では、画像を入力する画像入力機能と、前記入力した画像から2つの画素の組合せを取得する画素組合せ取得機能と、前記取得した組合せに係る2つの画素の輝度の勾配方向の共起を取得する共起取得機能と、前記取得する画素の組合せを変化させながら、前記取得する共起の出現頻度の分布を取得する出現頻度取得機能と、前記取得した出現頻度の分布に対応する確率密度関数を生成する確率密度関数生成機能と、前記生成した確率密度関数を、当該確率密度関数を規定するパラメータによって出力する確率密度関数出力機能と、をコンピュータで実現する画像処理プログラムを提供する。
(14)請求項14に記載の発明では、請求項2に記載の画像処理装置が出力した基準確率密度関数を取得する基準確率密度関数取得機能と、画像認識の対象となる対象画像を取得する対象画像取得機能と、前記取得した基準確率密度関数を用いて前記取得した対象画像の特徴量を取得する対象画像特徴量取得機能と、前記取得した特徴量を用いて前記対象画像が画像認識対象を含んでいるか否かを判断する判断機能と、をコンピュータで実現する画像認識プログラムを提供する。
 本発明によれば、勾配方向の共起の出現頻度を確率密度関数に対応させることにより、検出精度を高めつつ、計算コストを低減することができる。
本実施の形態に係る画像処理を説明するための図である。 画像処理装置が行う学習処理を説明するための図である。 fp(x)とfn(x)の差分処理を説明するための図である。 基準GMMの生成について説明するための図である。 画像処理装置のハードウェア的な構成の一例を示した図である。 基準GMMを用いた手法によって画像認識を行った定量評価実験の結果を表したグラフである。 プロット処理の手順を説明するためのフローチャートである。 学習処理の手順を説明するためのフローチャートである。 画像認識処理の手順を説明するためのフローチャートである。 変形例1を説明するための図である。 変形例2を説明するための図である。 JS特徴量を用いて画像認識を行った定量評価実験の結果を表したグラフである。
(1)実施形態の概要
 画像処理装置8は、輝度の勾配方向の角度を直交する座標軸の座標値に対応させた特徴面15を用意し、画像の輝度勾配共起ペアを当該特徴面15にプロットする。共起ペアの取得は、複数の解像度間に渡って行う。
 画像処理装置8は、画像全体に渡って共起ペアをプロットした後、指定された混合数に基づいてこれらをクラスタリングして共起ペアのクラスタを形成する。
 次に、画像処理装置8は、これにEMアルゴリズムを適用して、各クラスタでの共起ペアの分布をガウス分布に対応させたGMM(混合ガウスモデル)を形成することにより、共起ペアが生起する確率的な分布を推定する。
 画像処理装置8は、共起ペアの分布に基づいてGMMを動的に形成するため、ヒストグラム(GMMによる確率密度の分布)のビンの位置や幅が固定値ではなく、画像に適した値に設定することができる。
 上記の手法によるGMM生成機能を有する画像処理装置8は、歩行者画像(歩行者を画像認識対象とする)を多数学習して、歩行者画像のGMMを作成し、更に、背景画像(画像認識対象が写っていない画像)を多数学習して背景画像のGMMを作成する。
 そして、画像処理装置8は、歩行者画像のGMMと背景画像のGMMの差分を計算して、これに基づく再学習用のGMMを形成する。
 差分により両者の重なる部分が弱められ、これによって特徴的な部分だけが残り、より画像認識に適した分布が得られる。
 次に、画像処理装置8は、逆関数定理を適用することにより(即ち、再学習用のGMMを表す確率密度関数の累積分布関数を求め、これの逆関数に倣って一様分布乱数を発生させることにより)再学習用のGMMに従うサンプルを特徴面15にプロットする。
 最後に、画像処理装置8は、サンプルの分布を表すGMMを指定された混合数で形成することにより画像認識の基準となる基準GMMを形成する。
 この混合数を先に指定された混合数よりも小さく設定すると、画像を解析する際の特徴次元数が下がるため、計算コストを低減することができる。
 どの程度混合数を減らすかは、必要とされる画像認識の能力が得られる範囲で行う。
 画像処理装置8は、画像認識の対象となる対象画像の基準GMMに対する負担率を潜在パラメータごとに計算し、得られた負担率を成分とするベクトルを当該対象画像の特徴量とする。
 画像処理装置8は、当該特徴量を識別器に入力して当該対象画像に歩行者が含まれているか判断する。
 以上のように、画像処理装置8は、輝度の勾配方向を量子化してヒストグラムを生成するという従来手法に代わって、量子化を行わずに共起ペアの分布を求め、これに対応する確率密度関数(GMM)を推定する。
 GMMは、母数(平均値、分散共分散行列など)などを表すパラメータによって規定されるため、量子化の細分化による特徴量の増大という問題を回避することができる。
(2)実施形態の詳細
 図1は、本実施の形態に係る画像処理を説明するための図である。
 本実施の形態の画像処理装置8は、画像から特徴量を抽出する画像処理装置としての機能と、これを用いて画像認識処理を行う画像認識装置としての機能を併せ持っている装置であって、同じ画像の異なる解像度間に渡る共起をみることにより画像から特徴量を抽出する。
 図1(a)に示したように、画像処理装置8は、画像処理の対象となる元画像2の入力を受け付け、これを複数の同じ矩形形状のブロック領域3A、3B、・・・に区分する。
 このように画像処理装置8は、画像を入力する画像入力手段を備えている。
 図では、図示しやすいように4×4に区分しているが、標準的な値は、例えば、4×8である。
 なお、ブロック領域3A、3B、・・・を特に区別しない場合は、単にブロック領域3と記す。
 画像処理装置8は、元画像2をブロック領域3に区分すると共に、元画像2の解像度を変換し、図1(b)に示したように解像度(画像サイズ)の異なる高解像度画像11、中解像度画像12、低解像度画像13を生成する。元画像2の解像度が適当な場合は、元画像2をそのまま高解像度画像として使用する。
 このように、画像処理装置8は、画像の解像度を変換する解像度変換手段を備えている。
 図では、ブロック領域3Aの部分の高解像度画像11、中解像度画像12、低解像度画像13を示しており、升目は画素を模式的に表している。
 そして、画像処理装置8は、高解像度画像11、中解像度画像12、低解像度画像13のそれぞれの画素について勾配方向(低輝度から高輝度に向かう方向)を計算する。この勾配方向の角度は、0°~360°の連続値である。
 なお、以下では、輝度の勾配方向を単に勾配方向と記す。
 画像処理装置8は、このようにして勾配方向を算出すると、基準とする画素(以下、注目画素)と、これから離れた位置にある画素(以下、オフセット画素)の勾配方向の共起を次のようにして取得する。
 まず、画像処理装置8は、図1(c)に示したように、高解像度画像11に注目画素5を設定し、高解像度画像11で注目画素5からオフセット距離1(即ち、高解像度において隣接する)にあるオフセット画素1a~1dに着目する。
 なお、画素n個分の距離をオフセット距離nと呼ぶことにする。
 そして、画像処理装置8は、注目画素5とオフセット画素1a~オフセット画素3dとの各勾配方向の共起(勾配方向の組合せ)を取得し、これに対応する点を共起対応点51、51、・・・として、図1(d)に示す特徴面15(1a)~15(3d)にプロットする。
 なお、図1(d)に示した12の特徴面15(1a)~15(3d)は、図1(a)で区分したブロック領域3A、3B、・・・毎に作成される。
 以下、複数の特徴面全体をさす場合には特徴面15という。
 例えば、図1(c)において、注目画素5とオフセット画素1aの共起をプロットする場合、注目画素5の勾配方向が26°で、オフセット画素1aの勾配方向が135°であったとすると、画像処理装置8は、オフセット画素1a用の特徴面15(1a)の横軸が26°で縦軸が135°である位置に共起対応点51をプロットする。
 そして、画像処理装置8は、高解像度画像11内で、注目画素5を順次移動しながら、注目画素5とオフセット画素1aとの共起を取って特徴面15(1a)にプロットする。
 このように特徴面15は、画像中にある特定のオフセット(注目画素5からの相対位置)を持つ2つの勾配方向ペアがどのような出現頻度を持つかを表現している。
 なお、図1(c)で、図面に向かって注目画素5の右側の画素について共起を観察するのは、まず、注目画素5を図面に向かって左上端の画素から、順次右方向の画素に移動し、右端に達すると、1段下で左端の画素から右方向に移動させるという移動経路を設定しているので、注目画素5の移動に伴って重複する共起の組合せを取得しないようにするためである。
 また、注目画素5の移動はブロック領域3A内(同一のブロック領域内)で行うが、オフセット画素の選択は、ブロック領域3Aを超える場合でも行われる。
 元画像2の端部では、勾配方向を算出することができないが、これについては、適当な任意の方法で処理する。
 次に、画像処理装置8は、注目画素5とオフセット画素1b(図1(c)参照)との勾配方向の共起を取得して、これに対応する共起対応点51を特徴面15(1b)にプロットする。
 なお、画像処理装置8は、先に注目画素5とオフセット画素1aで使用した特徴面15(1a)とは、異なる新たな特徴面15を用意し、これに投票する。このように、画像処理装置8は、注目画素5とオフセット画素の相対的な位置関係の組合せごとに特徴面15を生成する。
 そして、高解像度画像11内で注目画素5を順次移動しながら、注目画素5とオフセット画素1bとの共起を取って共起対応点51を当該特徴面15(1b)にプロットする。
 以下同様に画像処理装置8は、注目画素5とオフセット画素1cとの組合せ、及び注目画素5とオフセット画素1dの組合せについても、それぞれに個別の特徴面15(1c)、15(1d)を用意して勾配方向の共起をプロットする。
 このようにして、画像処理装置8は、注目画素5と、注目画素5からオフセット距離1のオフセット画素1a~1dについての4つの特徴面15を生成すると、次に、高解像度画像11における注目画素5と、オフセット距離2にある中解像度画像12のオフセット画素2a~2dに着目する。
 そして、上記の手法と同じ手法により、注目画素5とオフセット画素2aの組合せによる特徴面15(2a)、同様にオフセット画素2b、2c、2dの組合せによる特徴面15(2b)~15(2d)を作成する。
 そして、画像処理装置8は、高解像度画像11における注目画素5と、オフセット距離3にある低解像度画像13のオフセット画素3a~3dについても同様に、注目画素5とオフセット画素3a~3dの相対的な位置関係の組合せごとの特徴面15(3a)~15(3d)を生成する。
 画像処理装置8は、以上の処理をブロック領域3B、3C、・・・に対しても行い、元画像2の特徴を抽出した複数の特徴面15を生成する。
 このように画像処理装置8は、ブロック領域3A、3B、3C・・・毎に、複数の特徴面15(1a)~15(3d)を生成する。
 このように画像処理装置8は、入力した画像から2つの画素の組合せを取得する画素組合せ取得手段と、これらの組合せに係る2つの画素の輝度の勾配方向の共起を取得する共起取得手段を備え、当該画素組合せ取得手段は、解像度を変換した画素も組合せの対象としている。
 そして、画像処理装置8は、取得する画素の組合せを変化させながら、共起の出現頻度の分布を特徴面15による散布図によって取得する出現頻度取得手段を備えており、これによって、特徴面15で表される共起特徴空間に勾配方向ペアの出現を写像している。
 画像処理装置8は、このようにして元画像2からブロック領域3ごとにオフセット画素ごとの複数の特徴面15を生成する特徴面生成機能を有している。
 そして、画像処理装置8は、これら特徴面15の各々について、以下のようにしてGMM(混合ガウスモデル)を生成する。
 なお、ここでは、説明を簡単にするため、元画像2から作成した特徴面15からGMMを生成するが、より詳細には、後述するように、多数の学習画像から取得した特徴面15を重ね合わせたものに対してGMMを生成する。
 図1(e)は、これら複数の特徴面15のうちの1つを表しており、まず、画像処理装置8は、これらの共起対応点51を近いもの同士を組合せることにより混合数K個のクラスタ(グループ)にクラスタリングする。混合数は、GMMを生成するに際して混合するガウス分布の個数を表しており、これを適当に指定すると、画像処理装置8は、自動的に指定された個数に共起対応点51をクラスタリングする。
 本実施の形態では、一例として、K=64に設定してある。図では、簡単化のため、K=3とし、共起対応点51は、クラスタ60a~60cにクラスタリングされている。
 特徴面15にプロットされた共起対応点51、51、・・・は、画像の特徴に応じて集まる傾向があり、クラスタ60a、60b、・・・は、画像の特徴を反映したものとなる。
 画像認識の際の特徴次元は、混合数Kに依存するため、どこまで画像の特徴を損なわずに、混合数Kを小さくできるかは、重要な事項の一つである。
 画像処理装置8は、共起対応点51をクラスタリングした後、特徴面15における共起対応点51の確率密度関数53を図1(f)に示したようにK個のガウス分布を線形に重ね合わせた確率密度関数p(x|θ)で表す。このようにガウス分布を基底関数とし、これによる線形和で表された確率密度関数53がGMMである。
 なお、図1(f)の縦軸では、p(x|θ)をp(x)と略記している。また、以下では、特に必要の無い場合は、確率密度関数をp(x)と略記する。
 GMMは、共起対応点が分布する確率を表す確率密度関数として機能しており、画像処理装置8は、勾配方向の共起の出現頻度の分布に対応する確率密度関数をGMMで生成する確率密度関数生成手段を備えている。
 確率密度関数p(x|θ)の具体的な数式は、図1(g)のようになる。
 ここで、xは、共起対応点51の分布を表すベクトル量でありθは母数(μj、Σj)(ただし、j=1、2、・・・、K)を表すベクトル量である。
 πjは、混合係数と呼ばれ、j番目のガウス分布を選択する確率を表している。μj、Σjは、それぞれ、j番目のガウス分布の平均値と、分散共分散行列を表している。πjとθにより確率密度関数53、即ち、GMMが一意的に定まる。
 zは、EMアルゴリズムや負担率γを計算するのに用いられる潜在パラメータであり、混合するK個のガウス分布に対応してz1、z2、・・・、zKが用いられる。
 EMアルゴリズムは、説明は省略するが、尤度を最大化するπjと母数(μj、Σj)を推定するアルゴリズムであり、画像処理装置8は、EMアルゴリズムを適用することによりπj、θを決定し、これによってp(x|θ)を求める(推定する)。
 πjやθは、確率密度関数53を規定するパラメータとして機能しており、画像処理装置8は、確率密度関数を、当該確率密度関数を規定するパラメータによって出力する確率密度関数出力手段を備えている。
 画像処理装置8は、量子化した勾配方向による共起ヒストグラムの代わりに勾配方向の分布をGMMで表すため、勾配方向ペアの分布をこれらパラメータで表すことができ、量子化の細分化に伴う情報量の増大を回避することができる。
 図2は、画像処理装置8が行う学習処理を説明するための図である。
 本実施の形態では、一例として、歩行者を画像認識対象とする。そこで、歩行者の特徴を学習するために、歩行者が様々な態様で写っている歩行者画像を構成する元画像2a、2a、・・・と、歩行者の背景となる背景画像を構成する元画像2b、2b・・・を学習画像として多数(例えば、各1万枚程度)用意する。
 なお、画像処理装置8は、歩行者画像に加えて背景画像も学習することにより、画像認識処理において歩行者らしくないところを減点して精度が高める。これは、一例であって、画像処理を歩行者画像だけで行うことも可能である。
 まず、画像処理装置8は、図2(a)に示したように、歩行者画像で構成された元画像2aを読み込んで、これをブロック領域3に区分し(図示せず)、各ブロック領域3についてオフセット画素ごとに特徴面15を生成する。
 このようにして、画像処理装置8は、ブロック領域3ごとにオフセット画素ごとの特徴面15を各元画像2a、2a、・・・について生成すると、対応する特徴面15(即ち、同じブロック領域3の同じオフセット画素の特徴面15)を重ね合わせた特徴面15aをブロック領域3ごと、及びオフセット画素ごとに生成する。
 特徴面15aは、歩行者の画像に共通する特徴が共起対応点の分布によって含まれており、画像処理装置8は、特徴面15aの共起対応点をクラスタリングして確率密度関数fp(x)から成るポジティブGMMを生成する。
 ここでpは、検出対象(ここでは、画像認識対象である歩行者)が写っているという意味で、positiveのpである。このような画像認識対象が写っている画像は、ポジティブ画像とも称される。
 このように、画像処理装置8は、入力手段から認識対象を含む複数の認識対象画像を入力し、出力手段に当該複数の認識対象画像に基づく認識対象確率密度関数(fp(x))を出力させる認識対象学習手段を備えている。
 次に、画像処理装置8は、図2(b)に示したように、背景画像で構成された元画像2bを読み込んで、これをブロック領域3に区分し(図示せず)、各ブロック領域3についてオフセット画素ごとに特徴面15を生成する。
 このようにして、画像処理装置8は、ブロック領域3ごとにオフセット画素ごとの特徴面15を各元画像2b、2b、・・・について生成すると、対応する特徴面15を重ね合わせた特徴面15bをブロック領域3ごと、及びオフセット画素ごとに生成する。
 特徴面15bは、歩行者のいない背景に共通する特徴が共起対応点の分布によって含まれており、画像処理装置8は、特徴面15bの共起対応点をクラスタリングして確率密度関数fn(x)から成るネガティブGMMを生成する。
 ここでnは、検出対象(ここでは、画像認識対象である歩行者)が写っていないという意味で、negativeのnである。このような画像認識対象が写っていない画像は、ネガティブ画像とも称される。
 このように、画像処理装置8は、入力手段から認識対象を含まない複数の非認識対象画像を入力し、出力手段に非認識対象画像による非認識対象確率密度関数(fn(x))を出力させる非認識対象学習手段を備えている。
 以上のようにして、画像処理装置8は、歩行者画像の特徴量をfp(x)によって抽出すると共に、背景画像の特徴量をfn(x)によって抽出する。
 以上のようにして得られたfp(x)は、歩行者の存在する確率の高い領域に基底関数が配置されたものとなり、画像に写っている歩行者を画像認識する際の判定基準として利用することができる。
 一方、fn(x)は、背景、即ち、歩行者ではない領域に基底関数が配置されることが考えられ、歩行者でないものの特徴を反映したものになると思われる。実際に車窓から背景を撮影すると、建造物の縦方向のエッジ部分が多いためか、歩行者とは異なる分布が得られる。
 そのため、fp(x)だけを用いて歩行者の識別基準とすることも可能であるが、fn(x)を併せて用いて歩行者らしくないところも考慮すると、より歩行者と否歩行者を識別する特徴的な基準が得られると考えられる。
 そこで、本実施の形態では、fp(x)とfn(x)の相関を計量し、これを用いて歩行者の特徴量を規定することとした。
 ここで、fp(x)とfn(x)の相関とは、両者の関連の強弱をいい、その関連の強弱の程度を計測する尺度が計量(メトリック)である。
 換言するなら、計量によりfp(x)とfn(x)が配置される計量空間が規定され、両者の相関の強弱が当該計量空間における両者の距離(即ち計量)によって決定されるのである。
 計量を表す数式は、各種定義することができ、例えば、両者の差分を用いた計量、両者の比を用いた計量、あるいは、差分と比を用いた計量など、歩行者の特徴を好適に表すものを採用することができる。
 ここでは、一例として、fp(x)とfn(x)の差分によってfp(x)とfn(x)の相関を計量する。
 このように、画像処理装置8は、共起分布の学習時に認識対象画像(認識対象確立密度関数)(fp(x))の特徴量と、非認識対象画像(非認識対象確立密度関数)(fn(x))の特徴量の相関の計量を元に共起分布を作成する。
 この時、共起分布は、確率密度分布に基づいて生成されていることから、その確率密度分布が持つ情報量の差異を考慮した基準が得られる。
 図3は、fp(x)とfn(x)の相関の計量を差分によって行う差分処理を説明するための図である。
 fp(x)は、歩行者画像の共起対応点の分布による特徴を表しており、fn(x)は、背景画像の共起対応点の分布による特徴を表しているが、両者の特徴が重なっている場合がある。
 この重なっている部分では、画像認識の対象画像から抽出した特徴量が歩行者のものなのか背景のものなのか判然としないため、当該特徴量が歩行者であるとの説明力が重なりの程度に従って弱くなる。
 そこで、本実施の形態では、図3(a)に示したように、g(x)=fp(x)-fn(x)として両者の差分を取ることとした。
 これにより、図3(a)で差分前と差分後の特徴面を模式図に示したように、歩行者画像と背景画像の両者に共通する特徴をその度合いに応じて弱め合い、両者で特徴的な部分が残る。
 例えば、ある重なり部分の歩行者画像側の値が0.6で、背景画像側の値が0.2であった場合、この部分は、差分によって0.6-0.2=0.4だけ歩行者の特徴量としての説明力を有するものとなり、歩行者画像側の値が0.4で、背景画像側の値が0.4であった場合、この部分は、0となって歩行者としても背景としても説明力を持たないことになる。
 更に、画像処理装置8は、図3(b)に示したように、差分の絶対値|g(x)|=|fp(x)-fn(x)|で規定される確率密度関数|g(x)|から画像認識処理で用いる基準GMMを生成する。
 差分の絶対値を取ることにより、ポジティブ画像に現れてネガティブ画像に現れない、また、ポジティブ画像に現れて、ネガティブ画像に現れる重要な特徴を得ることができ、検出精度を向上することができる。
 このように、画像処理装置8は、出力させた認識対象確率密度関数(fp(x))と、非認識対象確率密度関数(fn(x))と、相関を計量する計量情報(計量により得られる情報であり、ここでは、差分確率密度関数(|g(x)|)を生成する計量情報生成手段を備えている。
 そして、この例で示した計量情報は、認識対象確率密度関数と、非認識対象確率密度関数と、の差分を用いた差分確率密度関数となっている。
 なお、本実施の形態では、単純にfp(x)とfn(x)の差分を計算したが、後述の変形例で説明するKL特徴量やJS特徴量を用いて計量情報を計算してもよい。
 図4は、基準GMMの生成について説明するための図である。
 差分確率密度関数|g(x)|は、このまま用いることも可能であるが、画像処理装置8は、図4(a)に示したように、これを正規化したh(x)=|g(x)|/∫|g(x)|dxを再学習して基準GMMを生成する。
 画像処理装置8は、h(x)を生成すると、逆関数法を用いてこれに従うサンプルを多数発生させてこれらを特徴面にプロットする。
 より詳細には、画像処理装置8は、h(x)の累積分布関数H(x)=∫h(t)dt(積分はt=0からt=xまで)を生成し、これの逆関数H-1(x)(-1は上付文字)に従って一様分布乱数を発生させる。これにより、画像処理装置8は、h(x)に従ったサンプルの分布57を得る。
 このように、画像処理装置8は、計量情報(ここでは、差分確率密度関数)に従って複数のサンプルを発生させるサンプル発生手段を備えている。
 次に、画像処理装置8は、図4(b)に示したように、h(x)に従って発生させたサンプルをクラスタリングして基準確率密度関数g’(x)を表す基準GMM55を生成する。
 画像処理装置8は、基準GMM55を規定するパラメータ(混合係数πj、母数θなど)をEMアルゴリズムによって求めて出力する。
 このように、画像処理装置8は、差分確率密度関数から、認識対象を画像認識する基準となる基準確率密度関数をサンプルの出現頻度の分布に基づいて生成する基準確率密度関数生成手段と、生成した基準確率密度関数を、当該基準確率密度関数を規定するパラメータ(θなど)によって出力する基準確率密度関数出力手段と、を備えている。
 また、本実施の形態では、基準GMM55を生成する際の混合係数をK=32としても必要な画像認識能力が担保できることが実験により確認され、混合数を学習に際して設定したK=64から混合数を半分に減らすのに成功した。
 このように、認識対象確率密度関数(fp(x))と、非認識対象確率密度関数(fn(x))は、それぞれ所定の個数の基底関数(ガウス分布)を混合して生成されており、基準確率密度関数生成手段は、所定の個数(K=64)よりも少ない個数の基底関数を混合して基準確率密度関数を生成している。
 画像認識の対象画像の特徴量の次元は、後述するように、混合数×オフセット画素数×解像度数×ブロック領域数となるため、混合数を減らすと特徴量の次元も減り、画像処理に要する負荷を低減することができる。
 更に、画像処理装置8は、認識対象確率密度関数(fp(x))を用いて認識対象を画像認識する基準となる基準確率密度関数を生成する基準確率密度関数生成手段を備えており、当該基準確率密度関数生成手段は、fp(x)とfn(x)から生成した差分確率密度関数を用いて基準確率密度関数を生成している。
 画像処理装置8は、このようにして生成した基準GMM55を用いて、画像認識の対象画像の特徴量を図4(c)の数式に示した負担率γを用いて計算する。ここでxは、対象画像における輝度勾配の共起対応点51の分布を示している。
 負担率γ(nk)は、ある共起対応点xnがk番目のガウス分布から生成される確率を表している。
 画像処理装置8は、負担率γを、例えば、L2正規化やパワー正規化といった正規化手法を用いて正規化して画像認識処理用の特徴量とする。
 そして、画像処理装置8は、正規化した特徴量を、例えば、SVM(サポートベクターマシン)やAdaBoostなどの識別器に入力して画像認識の判定を行う。
 なお、これは、識別器を限定するものではなく、計算コストや精度の兼ね合いから使用者が自由に選択することができる。
 このように、画像処理装置8は、画像認識に際して、基準確率密度関数を取得する基準確率密度関数取得手段と、画像認識の対象となる対象画像を取得する対象画像取得手段を備えている。
 そして、画像処理装置8は、学習で使用した機能を用いて対象画像から勾配方向の共起を取って負担率を求めるため、対象画像における勾配方向の共起の出現頻度の分布を取得し、当該出現頻度の分布が基準確率密度関数から生成される確率、即ち負担率に基づいて対象画像の特徴量を取得する対象画像特徴量取得手段と、当該特徴量を用いて対象画像が画像認識対象を含んでいるか否かを判断する判断手段を備えている。
 図5は、画像処理装置8のハードウェア的な構成の一例を示した図である。
 画像処理装置8は、例えば、パーソナルコンピュータによって構成されている。
 これは一例であって、特徴量抽出用の専用のハードウェアを半導体装置で形成し、これを車載カメラなどに搭載するように構成することもできる。
 画像処理装置8は、CPU81、ROM82、RAM83、記憶装置84、記憶媒体駆動装置85、入力部86、及び出力部87などがバスラインで接続されて構成されている。
 CPU81は、中央処理装置であって、記憶装置85が記憶する画像認識プログラムに従って動作し、上述した画像からの特徴量抽出する画像処理や、抽出した特徴量を用いた画像認識処理などを行う。
 ROM82は、読み出し専用のメモリであって、CPU81を動作させるための基本的なプログラムやパラメータを記憶している。
 RAM83は、読み書きが可能なメモリであって、CPU81が特徴量抽出処理や画像認識処理を行う際のワーキングメモリを提供する。
 記憶装置84は、ハードディスクなどの大容量の記憶媒体を用いて構成されており、画像認識プログラムや、学習用画像、及び認識対象画像の画像データなどを記憶している。
 画像認識プログラムは、CPU81に画像処理機能や画像認識処理機能を発揮させるプログラムである。
 記憶媒体駆動装置85は、例えば、半導体記憶装置やハードディスクなどの外付けの記憶媒体を駆動する装置である。
 これにより、学習用画像や認識対象画像を読み込むことができる。
 入力部86は、操作担当者からの入力を受け付けるキーボード、マウスなどの入力デバイスを備えており、各種プログラムやデータの読み込みや、操作担当者からの操作を受け付ける。
 出力部87は、操作担当者に各種の情報を提示するディスプレイ、プリンタなどの出力デバイスを備えており、画像認識プログラムの操作画面、及び、特徴量抽出処理や画像認識処理の結果を出力する。
 このほかに、画像処理装置8は、通信ネットワークと接続する通信制御部や外部機器と接続するためのインターフェースなどを備えている。
 通信ネットワークやインターフェースに接続したカメラから動画を受信し、これに対してリアルタイムで画像認識処理を行うこともできる。
 図6は、上記の基準GMMを用いた手法によって画像認識を行った定量評価実験の結果を表したグラフである。
 図6(a)は、基準GMMの混合数を変化させた場合の実験結果を示している。
 図では、基準GMMを混合数KをK=64で生成した場合、K=32として生成した場合、及びCoHOG(Co-occurrence HOG)を用いた場合を比較している。
 このグラフでは、縦軸を正検出率、横軸を誤検出率としており、実験データを示す曲線の下側の面積が大きいほど高性能と評価される。
 CoHOGは、同一解像度内の局所領域における2画素間の勾配ペアに着目した特徴量であり、頑強性が高いとの評価を得ている手法である。CoHOGでは、輝度の勾配方向を例えば、8方向に量子化し、勾配ペアごとの共起ヒストグラムを画像の特徴量とする。
 なお、画像処理装置8は、高解像度画像11で注目画素5に隣接する画素、中解像度画像12で注目画素5に隣接する画素、及び低解像度画像13で注目画素5に隣接する画素について共起を見ているため、多重解像度での局所領域内における2画素間の勾配ペアに着目している。
 グラフに示したように、K=64、K=32とした場合は、CoHOGよりも優位に性能が高く、K=32の場合は、K=64の場合よりも若干精度が下がるが、両者は、ほとんど同じ精度であり、Kによる特徴次元を半分に減らしても十分に実用に耐えることが分かる。
 図6(b)は、g’(x)(基準GMM)を用いた場合、歩行者画像によるfp(x)(ポジティブGMM)を用いた場合、差分による|g(x)|を用いた場合、及びCoHOGを用いた場合を比較している。これら3つのGMMを用いた方法では、混合数をK=64とした。
 グラフに示したように、g’(x)の場合が最も精度が高く、次いで、fp(x)の場合、|g(x)|の場合、CoHOGの順となっている。
 このようにfp(x)を単独で用いた場合よりも、fp(x)とfn(x)の差分を学習させたg’(x)を用いると、歩行者特有の特徴のみを検出することができ、より精度を高めることができる。
 図7は、画像処理装置8が行うプロット処理の手順を説明するためのフローチャートである。
 以下の処理は、CPU81が画像認識プログラムに従って行うものである。
 まず、画像処理装置8は、特徴を抽出する対象となる元画像2の入力を記憶装置84などから受け付けてRAM83に読み込む(ステップ5)。
 次に、画像処理装置8は、元画像2をブロック領域3に区分し、当該区分の位置をRAM83に記憶する(ステップ10)。
 次に、画像処理装置8は、区分した高解像度画像11のブロック領域3のうちの1つを選択し(ステップ15)、これから共起対象の高解像度画像11の画素、中解像度画像12の画素、低解像度画像13の画素を生成してRAM83に記憶する(ステップ20)。
 なお、元画像2をそのまま高解像度画像11として使用する場合は、元画像2の画素を解像度変換せずに高解像度画像11の画素として使用する。
 次に、画像処理装置8は、生成した高解像度画像11、中解像度画像12、低解像度画像13の個々の画素について勾配方向を算出してRAM83に記憶する(ステップ25)。
 次に、画像処理装置8は、高解像度画像11内、高解像度画像11と中解像度画像12の間、及び高解像度画像11と低解像度画像13の間で勾配方向の共起を取って特徴面15にプロットし、RAM83に記憶する(ステップ30)。これにより当該ブロック領域3Aによる特徴面15が得られる。
 次に、画像処理装置8は、全ての画素についてプロットしたか否かを判断する(ステップ35)。
 まだ、プロットを行っていない画素がある場合(ステップ35;N)、画像処理装置8は、ステップ20に戻って次の画素を選択し、これについて特徴面15へのプロットを行う。
 一方、当該ブロック領域3についての全画素についてプロットした場合(ステップ35;Y)、画像処理装置8は、全てのブロック領域3についてプロットしたか否かを判断する(ステップ40)。
 まだ、プロットを行っていないブロック領域3がある場合(ステップ40;N)、画像処理装置8は、ステップ15に戻って次のブロック領域3を選択し、これについて特徴面15へのプロットを行う。
 一方、全てのブロック領域3についてプロットした場合(ステップ40;Y)、画像処理装置8は、RAM83の配列から、全てのブロック領域3ごとのオフセット画素ごとに生成した特徴面15をRAM83に出力する(ステップ45)。
 図8は、画像処理装置8が行う学習処理の手順を説明するためのフローチャートである。
 まず、画像処理装置8は、ポジティブ画像として提供されている歩行者画像を記憶装置84から読み込んでRAM83に記憶する(ステップ50)。
 次に、画像処理装置8は、RAM83に読み込んだ歩行者画像を元画像2としてプロット処理を行い、ブロック領域3ごと、オフセット画素ごとの特徴面15を生成してRAM83に記憶する(ステップ55)。
 次に、画像処理装置8は、提供された全ての歩行者画像についてプロット処理したか否かを判断し(ステップ60)、まだプロット処理していない歩行者画像がある場合には(ステップ60;N)、ステップ50に戻って、次の歩行者画像に対してプロット処理を行う。
 一方、全ての歩行者画像についてプロットした場合(ステップ60;Y)、画像処理装置8は、歩行者画像に対して生成した全ての特徴面15をRAM83から読み出し、対応する特徴面15ごとに(即ち、同じブロック領域3の同じオフセット画素に対して生成された特徴面15ごとに)重畳してRAM83に記憶する(ステップ65)。
 そして、画像処理装置8は、重畳した歩行者画像の特徴面15ごとにEMアルゴリズムを適用してfp(x)(ポジティブGMM)を生成して、そのパラメータをRAM83に記憶する(ステップ70)。
 次に、画像処理装置8は、ネガティブ画像として提供されている背景画像を記憶装置84から読み込んでRAM83に記憶する(ステップ75)。
 次に、画像処理装置8は、RAM83に読み込んだ背景画像を元画像2としてプロット処理を行い、ブロック領域3ごと、オフセット画素ごとの特徴面15を生成してRAM83に記憶する(ステップ80)。
 次に、画像処理装置8は、提供された全ての背景画像についてプロット処理したか否かを判断し、まだプロット処理していない背景画像がある場合には(ステップ85;N)、ステップ75に戻って、次の背景画像に対してプロット処理を行う。
 一方、全ての背景画像についてプロットした場合(ステップ85;Y)、画像処理装置8は、背景画像に対して生成した全ての特徴面15をRAM83から読み出し、対応する特徴面15ごとに重畳してRAM83に記憶する(ステップ90)。
 そして、画像処理装置8は、重畳した背景画像の特徴面15ごとにEMアルゴリズムを適用してfn(x)(ネガティブGMM)を生成してRAM83に記憶する(ステップ95)。
 画像処理装置8は、このようにして特徴面15ごとのfp(x)とfn(x)を用意すると、これらの差分の絶対値|g(x)|を特徴面15ごとに生成してRAM83に記憶する(ステップ100)。
 更に、画像処理装置8は、RAM83に記憶した|g(x)|から特徴面15ごとのh(x)を生成し、逆関数定理を用いることによりh(x)に従って特徴面15ごとにサンプルを発生させてRAM83に記憶する(ステップ105)。
 そして、画像処理装置8は、指定された混合数KをRAM83から読み出し、これに従ってサンプルから特徴面15ごとの基準GMM(g’(x))を生成してRAM83に記憶する(ステップ110)。
 以上の処理により、画像認識に用いる基準GMMが生成される。
 図9は、画像処理装置8が行う画像認識処理の手順を説明するためのフローチャートである。
 ここでは、一例として、車載カメラで歩行者を追跡する場合について説明する。
 画像処理装置8は、車両に搭載されており、車外(例えば、車両前方)を被写体とするカメラと接続されている。
 車両は、画像処理装置8によって歩行者を追跡してこれを車両の制御系に出力し、制御系は、これに基づいて運転者のハンドル操作やブレーキ操作などを支援して安全性を高める。
 まず、カメラから送信される動画データから動画フレームを取得してRAM83に記憶する(ステップ150)。
 次に、画像処理装置8は、RAM83に記憶した動画フレームにおいて、歩行者を検出するための矩形の観測領域(注目画像領域)を設定する(ステップ155)。
 初回の歩行者検出では、歩行者がどこに写っているかわからないため、画像処理装置8は、例えば、適当な初期値に基づいて白色雑音による乱数(パーティクル)を発生させて、これに基づいて適当な大きさの観測領域を適当な位置に設定する。
 画像処理装置8は、当該観測領域に含まれる画像を画像認識の対象画像に設定し、RAM83に記憶する(ステップ160)。
 次に、画像処理装置8は、対象画像を元画像2としてプロット処理を行い、勾配方向の共起による特徴量を対象画像から抽出してRAM83に記憶する(ステップ165)。
 次に、画像処理装置8は、基準GMMをRAM83から読み出し、これを用いて負担率γを対象画像の特徴面15ごとに計算する(ステップ170)。
 そして、画像処理装置8は、特徴面15ごとに計算した負担率γを全ての特徴面15について連結して対象画像全体の特徴を表す特徴量とし(ステップ175)、これを正規化してRAM83に記憶する(ステップ180)。
 そして、画像処理装置8は、当該正規化した特徴量を識別器に入力し、出力された値から類否を判断する(ステップ185)。
 次いで、画像処理装置8は、その結果をRAM83に出力する(ステップ190)。
 画像処理装置8は、類比の判断結果から、動画フレーム内で歩行者を当該観測領域内に認識できたかいなかを判断する(ステップ195)。
 すなわち、類比の判断結果が類似していない場合、画像処理装置8は、動画フレーム内で歩行者を当該観測領域内に認識できなかったと判断し(ステップ195;N)、ステップ155に戻って、更に動画フレームに前回とは異なる観測領域を設定して、歩行者の認識を繰り返す。
 一方、類似している場合、画像処理装置8は、動画フレーム内で歩行者を当該観測領域内に認識できたと判断し(ステップ195;Y)、その認識結果を車両の制御系に出力する。
 そして、画像処理装置8は、更に認識対象の追跡を継続するか否かを判断する(ステップ200)。この判断は、例えば、車両が目的地に到着するなどして走行を停止した場合に追跡を継続しないと判断し、車両が走行している場合は追跡すると判断する。
 追跡を継続しないと判断した場合(ステップ200;N)、画像処理装置8は、画像認識処理を終了する。
 一方、追跡を継続すると判断した場合(ステップ200;Y)、画像処理装置8は、ステップ150に戻って、次の動画フレームに対して同様の画像認識処理を行う。
 なお、2回目以降の画像認識では、画像処理装置8は、ステップ155において前回の画像認識で歩行者が検出された付近に観測領域を設定する。
 これは、歩行者が1つ前の動画フレームで検出された付近に今回の動画フレームでも存在すると考えられるからである。
 これには、例えば、前回歩行者が検出された観測領域を中心に正規分布を成す乱数(パーティクル)を発生させ、当該乱数に対応して観測領域を次々に発生させて最も類似度の高い観測領域を探索するパーティクルフィルタの手法を用いると有効である。
 以上のようにして、画像処理装置8は、車載カメラが撮影した車外画像から歩行者を検出し、これを追跡することができる。
 なお、この手法は、車載カメラ以外に監視カメラや、その他の動く対象を動画に基づいて追跡するシステムに適用することができる。
 また、認識対象を歩行者としたが、例えば、道路上の白線、信号機、標識などを走行しながら認識し、自動運転に適用することも可能である。
 更に、前方を走行する車両を画像認識によって追跡して、これに追随走行する所謂コンボイ走行に適用することも可能である。
 なお、以上に説明した実施の形態では、同一の被写体に対する3つの解像度の画像を用意して、オフセット距離1~3までの勾配方向の共起を取得したが、これに限定するものではなく、必要な画像認識精度が得られるのであれば、2種類の解像度、あるいは、4種類以上の解像度の画像を組合せることもできる。
 更に、本実施の形態では、高解像度画像11、中解像度画像12、低解像度画像13の複数の解像度間に渡って勾配方向の共起を取得したが、高解像度画像11内で共起を取り、中解像度画像12で共起を取り、低解像度画像13内で共起を取るといったように、各解像度内で共起を取ってそれぞれ別の特徴面15にプロットしてもよい。
 あるいは、CoHOGで行うように単一の解像度内で共起を取って特徴面15を生成することもできる。
(変形例)
 図10は、変形例1を説明するための図である。
 上に説明した実施の形態では、g(x)の絶対値|g(x)|を用いて基準GMMを生成した。
 |g(x)|は、fp(x)による分布とfn(x)による分布が混在しているため、これを正規化したh(x)に従ってサンプルを発生させると、fp(x)が寄与して発生したサンプルとfn(x)が寄与して発生したサンプルが混在することになる。
 このように、両者のサンプルが混在した状態でクラスタリングすると、fp(x)が寄与して発生したサンプルとfn(x)が寄与して発生したサンプルが同じクラスタにクラスタリングされる場合があり得る。
 そこで、本変形例では、fp(x)によるサンプルとfn(x)によるサンプルを別々のクラスタに分けて基準GMMを生成する。
 変形例の画像処理装置8は、図10(a)に示したように、ポジティブGMMとネガティブGMMの差分g(x)=fp(x)-fn(x)を生成する。
 そして、画像処理装置8は、図10(b)に示したように、g(x)>0の部分を用いてサンプルを発生させ、混合数をK/2としてGMMpを生成する。
 更に、画像処理装置8は、図10(c)に示したように、g(x)<0の部分の符号を反転させた後、これを用いてサンプルを発生させ、混合数をK/2としてGMMnを生成する。
 最後に、画像処理装置8は、図10(d)に示したように、GMMpとGMMnを加算して混合数Kの基準GMMを生成する。
 なお、サンプルを発生させる前に、g(x)>0の部分と、g(x)<0の部分は、例えば、∫|g(x)|dxで割るなどして規格化する。
 以上のようにして、fp(x)によるサンプルとfn(x)によるサンプルを分けてクラスタリングすることができ、これによって精度の向上が期待できる。
 変形例は、実施の形態に比べて計算量が増えるため、コンピュータのリソースが十分にあり、精度が必要な場合は、変形例1が適している。
 図11は、変形例2を説明するための図である。
 本変形例では、KL特徴量を用いてfp(x)とfn(x)の相関を計量する。
 図11(a)に示したように、画像処理装置8は、fp(x)とfn(x)を用いてk(fp,fn)とk(fn,fp)を計算する。
 k(fp,fn)とk(fn,fp)は、KL特徴量と呼ばれる量であり、k(fp,fn)は、図11(b)に示した式で表される。k(fn,fp)は、この式でfpとfnを入れ替えた式となる。
 k(fp,fn)は、fp(x)から見たfn(x)の相関の計量を表しており、k(fn,fp)は、fn(x)から見たfp(x)の相関の計量を表している。
 例えば、生起確率fp(x)-fn(x)が同じ0.1であっても、fp(x)-fn(x)=0.2-0.1=0.1の場合と、fp(x)-fn(x)=0.9-0.8=0.1では、割合で考えると異なっている。k(fp,fn)は、このような割合も考慮してfp(x)とfn(x)がどれだけ近いかを表した距離のような量である。
 KL特徴量では、fp(x)とfn(x)がlog(fp(x)/fn(x))の形で規定されており、これは、log(fp(x))-log(fn(x))に等しい。そのため、KL特徴量は、fp(x)とfn(x)の比でもあり、差分でもある量が用いられている。
 そして、k(fp,fn)は、このfp(x)とfn(x)の比でもあり差分でもある量にfp(x)を乗じることにより、fp(x)で重み付けし、fp(x)が大きいところが強調されるようになっている。
 このように、KL特徴量で表された計量情報は、認識対象確率密度関数と、非認識対象確率密度関数と、の比を用いた比確率密度関数であり、更に認識対象確率密度関数と、非認識対象確率密度関数と、の差分も用いている。
 そして、画像処理装置8は、図11(c)に示したように、fp(x)>fn(x)の領域では、g(x)=k(fp,fn)とし、その他の領域はg(x)=0としてサンプルを発生させ、混合数をK/2としてGMMpを生成する。
 また、図11(d)に示したように、fn(x)>fp(x)の領域では、g(x)=k(fn,fp)とし、その他の領域はg(x)=0としてサンプルを発生させ、混合数をK/2としてGMMnを生成する。
 そして、画像処理装置8は、図11(e)に示したように、基準GMM=GMMp+GMMnによって基準GMMを生成する。
 本変形例では、対数を用いて比と差分の双方を含んだ計量を規定したが、この他に、比による項と差分による項を線形、あるいは非線形に結合した計量を規定することも可能である。
 次に第3変形例について説明する。
 この第3変形例では、JS特徴量を用いてfp(x)とfn(x)の相関を計量する。
 JS特徴量では、次の数式Aに示したfp(x)とfn(x)の平均であるa(x)を用いて、数式Bで計算される。
 数式A:a(x)=(1/2)fp(x)+(1/2)fn(x)
 数式B:JS(fp,fn)=(1/2)k(fp,a)+(1/2)k(fn,a)
 数式Bにおいて、k(fp,a)、k(fn,a)の式は、KL特徴量の式と同様であり、それぞれ、fp(x)からみたa(x)の相関の計量とfn(x)からみたa(x)の相関の計量を表している。これらの平均がJS特徴量=JS(fp,fn)となる。
 数式の形がfp(x)とfn(x)について対称となっているため(即ち、fp(x)とfn(x)を入れ替えても式の値は変わらないため)、JS(fp,fn)とJS(fn,fp)は等しくなる。即ち、JS特徴量を用いた計量では、fp(x)から見たfn(x)の相関の計量と、fn(x)から見たfp(x)の相関の計量が等しくなる。
 一方、KL特徴量では、k(fp,fn)とk(fn,fp)が一般に等しくなく、fp(x)から見たfn(x)の相関の計量と、fn(x)から見たfp(x)の相関の計量は、異なっている。
 次に述べるように、JS特徴量では、計量に対称性を持たせたことにより、GMMの次元の低減に対して頑強性の高い画像認識が行えることが本願発明人の実験により明らかとなった。
 このように、計量情報生成手段は、認識対象確率密度関数に対する非認識対象確率密度関数の計量と、非認識対象確率密度関数に対する認識対象確率密度関数の計量と、が対称性を有する計量情報を生成している。
 図12は、JS特徴量を用いて画像認識を行った定量評価実験の結果を表したグラフである。
 図12(a)は、K=64(Kは、GMMの混合数)の場合、図12(b)は、K=32の場合、図12(c)は、K=16の場合を表している。
 これらの実験では、JS特徴量の他に、KL特徴量、fp(x)だけを用いた場合、CoHOG、MRCoHOG(CoHOGを改良したもの)を用いた場合も比較のために表してある。
 図12(a)のグラフに示したように、K=64では、JS特徴量(太線の実線で表してある)を用いた手法は、KL特徴量(太線の波線で表してある)を用いた手法と同程度の画像認識能力を発揮し、他の手法よりも高い精度を達成している。
 図12(b)のグラフに示したように、混合数を64から32に半減した場合、他の手法では、画像認識能力が軒並み低下するのに対し、JS特徴量を用いた手法では、K=64の場合からほとんど低下していない。
 図12(c)のグラフに示したように、混合数を32から16に更に半減した場合、JS特徴量を用いた手法も画像認識能力が低下するものの、他の手法の低下に比べると、その程度は著しく小さい。
 以上の実験から、JS特徴量を用いた画像認識処理は、混合数の低減(次元数の低減)に対して他の手法よりも頑強(ロバスト)であることが分かった。
 車載カメラで車両の周囲を撮影し、歩行者を画像認識する場合、車載する画像処理装置8は、収納空間や振動に対する耐性の観点などから、なるべく小型であることが望ましい。また、ネットワーク通信を用いたサーバによる大きな画像認識処理を要するシステムよりも単純なスタンドアローンの装置が望ましい。
 JS特徴量を用いた画像処理装置8は、GMMの混合数を小さくすることができるため、サーバとネットワークで通信するシステムに適用できるほか、コンパクトなスタンドアローンの車載用の画像処理装置8に好適に用いることができる。
 以上に説明した実施の形態、及び変形例により、次のような効果を得ることができる。
(1)従来行われていた勾配方向の量子化と、これによる共起ヒストグラムの生成に代わって、連続値による勾配方向の共起を特徴面15に写像してGMMを生成することができる。
(2)従来例の量子化して作成された共起ヒストグラムには投票が行われないビンも存在しており、その箇所のメモリの確保、計算実行が行われ、計算コストの増加や検出精度の低下を招くことがある。これに対し、本実施形態の画像処理装置8は、検出対象物体を表現するのに特に重要な特徴をGMMのパラメータによって重点的に抽出し、これを用いて計算すればよいので、計算量の増加を防ぎつつ、精度の向上を図ることができる。
(3)共起分布の学習時に歩行者画像(検出対象画像)の特徴量と背景画像(対象外画像)の特徴量の差を元に再度共起の分布を作成することで、より対象物体を表現するのに特に重要な特徴を得ることができ、検出精度を向上させることができる。
(4)fp(x)とfn(x)の差分を取ることにより、識別に無効となるfp(x)とfn(x)が等確率となる生起確率を抑制して、生起確率に偏りがある特徴が生起しやすい確率密度分布を生成することができ、これに逆関数法を適用して再学習を行うことができる。
(5)再学習により混合数の調節が可能であるため、これによって、用途・環境・計算機リソースなどに応じて処理時間や検出精度を自由に調節することができる。
(6)ビン幅の設定による機械学習の精度への影響やビンの境界付近に蓄積される離散化誤差を回避することができる。
(7)変形例1、2では、差分の結果から、fp(x)とfn(x)を分離することができる。
(8)変形例3では、計量に対称性を持たせたJS特徴量を使用することで、低いGMM次元であっても高い画像認識を行うことができる。すなわち、GMM次元を下げることで認識処理の負担を軽減すると共に、より高速な認識が可能になる。
 2 元画像
 3 ブロック領域
 5 注目画素
 8 画像処理装置
 11 高解像度画像
 12 中解像度画像
 13 低解像度画像
 15 特徴面
 51 共起対応点
 53 GMM
 55 基準GMM
 57 分布
 60 クラスタ
 81 CPU
 82 ROM
 83 RAM
 84 記憶装置
 85 記憶媒体駆動装置
 86 入力部
 87 出力部

Claims (14)

  1.  画像を入力する画像入力手段と、
     前記入力した画像から2つの画素の組合せを取得する画素組合せ取得手段と、
     前記取得した組合せに係る2つの画素の輝度の勾配方向の共起を取得する共起取得手段と、
     前記取得する画素の組合せを変化させながら、前記取得する共起の出現頻度の分布を取得する出現頻度取得手段と、
     前記取得した出現頻度の分布に対応する確率密度関数を生成する確率密度関数生成手段と、
     前記生成した確率密度関数を、当該確率密度関数を規定するパラメータによって出力する確率密度関数出力手段と、
     を具備したことを特徴とする画像処理装置。
  2.  前記画像入力手段から認識対象を含む複数の認識対象画像を入力し、前記確率密度関数出力手段に前記複数の認識対象画像に基づく認識対象確率密度関数を出力させる認識対象学習手段と、
     前記出力させた認識対象確率密度関数を用いて前記認識対象を画像認識する基準となる基準確率密度関数を生成する基準確率密度関数生成手段と、
     前記生成した基準確率密度関数を、当該基準確率密度関数を規定するパラメータによって出力する基準確率密度関数出力手段と、
     を具備したことを特徴とする請求項1に記載の画像処理装置。
  3.  前記画像入力手段から認識対象を含まない複数の非認識対象画像を入力し、前記確率密度関数出力手段に前記非認識対象画像による非認識対象確率密度関数を出力させる非認識対象学習手段と、
     前記出力させた前記認識対象確率密度関数と、前記非認識対象確率密度関数と、の相関を計量する計量情報を生成する計量情報生成手段と、
     を具備し、
     前記基準確率密度関数生成手段は、前記生成した計量情報を用いて前記基準確率密度関数を生成することを特徴とする請求項2に記載の画像処理装置。
  4.  前記計量情報生成手段は、前記認識対象確率密度関数に対する前記非認識対象確率密度関数の計量と、前記非認識対象確率密度関数に対する前記認識対象確率密度関数の計量と、が対称性を有する前記計量情報を生成することを特徴とする請求項3に記載の画像処理装置。
  5.  前記生成した計量情報に従って複数のサンプルを発生させるサンプル発生手段を具備し、
     前記基準確率密度関数生成手段は、前記発生させたサンプルの出現頻度の分布に基づいて前記基準確率密度関数を生成することを特徴とする請求項3又は請求項4に記載の画像処理装置。
  6.  前記認識対象確率密度関数と、前記非認識対象確率密度関数は、それぞれ所定の個数の基底関数を混合して生成されており、
     前記基準確率密度関数生成手段は、前記所定の個数よりも少ない個数の基底関数を混合して前記基準確率密度関数を生成することを特徴とする請求項3、請求項4、又は請求項5に記載の画像処理装置。
  7.  前記入力した画像の解像度を変換する解像度変換手段を具備し、
     前記画素組合せ取得手段は、前記解像度を変換した画素も組合せの対象とすることを特徴とする請求項1から請求項6までの内の何れか1の請求項に記載の画像処理装置。
  8.  前記計量情報は、前記認識対象確率密度関数と、前記非認識対象確率密度関数と、の差分を用いた差分確率密度関数であることを特徴とする請求項3、又は請求項4に記載の画像処理装置。
  9.  前記計量情報は、前記認識対象確率密度関数と、前記非認識対象確率密度関数と、の比を用いた比確率密度関数であることを特徴とする請求項3、又は請求項4に記載の画像処理装置。
  10.  前記比確率密度関数は、更に前記認識対象確率密度関数と、前記非認識対象確率密度関数と、の差分を用いていることを特徴とする請求項9に記載の画像処理装置。
  11.  請求項2に記載の画像処理装置が出力した基準確率密度関数を取得する基準確率密度関数取得手段と、
     画像認識の対象となる対象画像を取得する対象画像取得手段と、
     前記取得した基準確率密度関数を用いて前記取得した対象画像の特徴量を取得する対象画像特徴量取得手段と、
     前記取得した特徴量を用いて前記対象画像が画像認識対象を含んでいるか否かを判断する判断手段と、
     を具備したことを特徴とする画像認識装置。
  12.  前記対象画像特徴量取得手段は、
     前記取得した対象画像を請求項1に記載の画像処理装置の画像入力手段に入力して、当該画像処理装置の出現頻度取得手段から前記対象画像における勾配方向の共起の出現頻度の分布を取得し、
     前記取得した出現頻度の分布が前記取得した基準確率密度関数から生成される確率に基づいて前記対象画像の特徴量を取得することを特徴とする請求項11に記載の画像認識装置。
  13.  画像を入力する画像入力機能と、
     前記入力した画像から2つの画素の組合せを取得する画素組合せ取得機能と、
     前記取得した組合せに係る2つの画素の輝度の勾配方向の共起を取得する共起取得機能と、
     前記取得する画素の組合せを変化させながら、前記取得する共起の出現頻度の分布を取得する出現頻度取得機能と、
     前記取得した出現頻度の分布に対応する確率密度関数を生成する確率密度関数生成機能と、
     前記生成した確率密度関数を、当該確率密度関数を規定するパラメータによって出力する確率密度関数出力機能と、
     をコンピュータで実現する画像処理プログラム。
  14.  請求項2に記載の画像処理装置が出力した基準確率密度関数を取得する基準確率密度関数取得機能と、
     画像認識の対象となる対象画像を取得する対象画像取得機能と、
     前記取得した基準確率密度関数を用いて前記取得した対象画像の特徴量を取得する対象画像特徴量取得機能と、
     前記取得した特徴量を用いて前記対象画像が画像認識対象を含んでいるか否かを判断する判断機能と、
     をコンピュータで実現する画像認識プログラム。
PCT/JP2018/003225 2017-01-31 2018-01-31 画像処理装置、画像認識装置、画像処理プログラム、及び画像認識プログラム WO2018143278A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201880009329.0A CN110235177B (zh) 2017-01-31 2018-01-31 图像处理装置、图像识别装置、以及存储介质
US16/480,989 US11468572B2 (en) 2017-01-31 2018-01-31 Image processing device, image recognition device, image processing program, and image recognition program
EP18748166.8A EP3579182A4 (en) 2017-01-31 2018-01-31 IMAGE PROCESSING DEVICE, IMAGE RECOGNITION DEVICE, IMAGE PROCESSING PROGRAM AND IMAGE RECOGNITION PROGRAM

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2017016221 2017-01-31
JP2017-016221 2017-01-31
JP2017-148010 2017-07-31
JP2017148010A JP7072765B2 (ja) 2017-01-31 2017-07-31 画像処理装置、画像認識装置、画像処理プログラム、及び画像認識プログラム

Publications (1)

Publication Number Publication Date
WO2018143278A1 true WO2018143278A1 (ja) 2018-08-09

Family

ID=63039765

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/003225 WO2018143278A1 (ja) 2017-01-31 2018-01-31 画像処理装置、画像認識装置、画像処理プログラム、及び画像認識プログラム

Country Status (1)

Country Link
WO (1) WO2018143278A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111626977A (zh) * 2019-11-25 2020-09-04 梁帆 一种基于图像识别的钢轨表面检测方法
JP2020166342A (ja) * 2019-03-28 2020-10-08 株式会社エクォス・リサーチ 画像処理装置、及び画像処理プログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008257649A (ja) 2007-04-09 2008-10-23 Denso Corp 画像認識装置
JP2009301104A (ja) * 2008-06-10 2009-12-24 Chube Univ 物体検出装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008257649A (ja) 2007-04-09 2008-10-23 Denso Corp 画像認識装置
JP2009301104A (ja) * 2008-06-10 2009-12-24 Chube Univ 物体検出装置

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
IWATA, SOHEI ET AL.: "Object detection based on multiple resolution CoHOG", THE JOURNAL OF THE INSTITUTE OF IMAGE ELECTRONICS ENGINEERS OF JAPAN : VISUAL COMPUTING, DEVICES & COMMUNICATIONS, vol. 45, no. 1, 30 January 2016 (2016-01-30), pages 42 - 52, XP009515610, ISSN: 2186-716X *
IWATA, SOHEI ET AL.: "Pedestrian detection based on co-occurrence of gradient directions extracted with different filter sizes, Digest Collection of the 21st Symposium on Sensing via Image Information", SSII2015 THE 21ST SYMPOSIUM ON SENSING VIA IMAGE INFORMATION; 10-12/06/2015; YOKOHAMA, JAPAN, June 2015 (2015-06-01), pages IS3-21-1 - IS3-21-7, XP009515614 *
See also references of EP3579182A4

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020166342A (ja) * 2019-03-28 2020-10-08 株式会社エクォス・リサーチ 画像処理装置、及び画像処理プログラム
EP3951707A4 (en) * 2019-03-28 2022-05-18 Aisin Corporation IMAGE PROCESSING DEVICE AND IMAGE PROCESSING PROGRAM
CN111626977A (zh) * 2019-11-25 2020-09-04 梁帆 一种基于图像识别的钢轨表面检测方法

Similar Documents

Publication Publication Date Title
CN111027401B (zh) 一种摄像头和激光雷达融合的端到端目标检测方法
Anand et al. Crack-pot: Autonomous road crack and pothole detection
CN108983219B (zh) 一种交通场景的图像信息和雷达信息的融合方法及系统
CN111950394B (zh) 一种车辆变道的预测方法、装置及计算机存储介质
KR20180034529A (ko) 차선 인식 모델링 방법, 장치, 저장 매체 및 기기, 및 인식 방법, 장치, 저장 매체 및 기기
CN108645375B (zh) 一种用于车载双目系统快速车辆测距优化方法
US9928426B1 (en) Vehicle detection, tracking and localization based on enhanced anti-perspective transformation
JP7091686B2 (ja) 立体物認識装置、撮像装置および車両
CN109977968B (zh) 一种深度学习分类后比较的sar变化检测方法
CN112183330B (zh) 基于点云的目标检测方法
Ye et al. Overhead ground wire detection by fusion global and local features and supervised learning method for a cable inspection robot
JP7072765B2 (ja) 画像処理装置、画像認識装置、画像処理プログラム、及び画像認識プログラム
JP7165353B2 (ja) 画像特徴量出力装置、画像認識装置、画像特徴量出力プログラム、及び画像認識プログラム
WO2018143278A1 (ja) 画像処理装置、画像認識装置、画像処理プログラム、及び画像認識プログラム
JP2013069045A (ja) 画像認識装置、画像認識方法および画像認識プログラム
Haselhoff et al. Radar-vision fusion for vehicle detection by means of improved haar-like feature and adaboost approach
CN111435457A (zh) 对传感器获取的采集进行分类的方法
CN117523428B (zh) 基于飞行器平台的地面目标检测方法和装置
US20220180546A1 (en) Image processing device and image processing program
Alfahdawi et al. Object Recognition System for Autonomous Vehicles Based on PCA and 1D-CNN
Madake et al. Vision-Based Weather Condition Recognition for Driver Assistance
Lagahit et al. Exploring Ground Segmentation from LIDAR Scanning-Derived Images Using Convolutional Neural Networks
Ratheesh et al. A Comparative CNN based Analysis of Classification and Detection of Potholes
Frnda et al. Analysis of Pothole Detection Accuracy of Selected Object Detection Models Under Adverse Conditions
JPH1196375A (ja) 時系列画像動き場計測方法および装置ならび時系列画像動き場計測プログラムを記録した記録媒体

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18748166

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2018748166

Country of ref document: EP

Effective date: 20190902