WO2017013720A1 - 基準線設定装置、基準線設定方法及び基準線設定プログラム - Google Patents

基準線設定装置、基準線設定方法及び基準線設定プログラム Download PDF

Info

Publication number
WO2017013720A1
WO2017013720A1 PCT/JP2015/070600 JP2015070600W WO2017013720A1 WO 2017013720 A1 WO2017013720 A1 WO 2017013720A1 JP 2015070600 W JP2015070600 W JP 2015070600W WO 2017013720 A1 WO2017013720 A1 WO 2017013720A1
Authority
WO
WIPO (PCT)
Prior art keywords
line
position information
character
reference line
characters
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2015/070600
Other languages
English (en)
French (fr)
Inventor
遼太 日並
千葉 直樹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Rakuten Group Inc
Original Assignee
Rakuten Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Rakuten Inc filed Critical Rakuten Inc
Priority to US15/554,031 priority Critical patent/US10311318B2/en
Priority to PCT/JP2015/070600 priority patent/WO2017013720A1/ja
Priority to JP2016504816A priority patent/JP5913763B1/ja
Publication of WO2017013720A1 publication Critical patent/WO2017013720A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/18Extraction of features or characteristics of the image
    • G06V30/18086Extraction of features or characteristics of the image by performing operations within image blocks or by using histograms
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Definitions

  • the present invention relates to a reference line setting device, a reference line setting method, and a reference line setting program.
  • the character region is not correctly recognized when the outline of the character in the image is unclear, or when the contrast between the character region and the background is not sufficiently large, and the reference line is not accurately recognized. It may not be possible to set. As a result, the accuracy of character recognition from the image decreases.
  • an object of the present invention is to set a reference line along which characters to be arranged should be highly accurate with respect to characters included in an image.
  • a reference line setting device includes an image acquisition unit that acquires an image including a character region, and a recognition unit that recognizes a character from the character region of the image using a predetermined recognition method.
  • the position information is acquired, and the reference line is a line that is drawn in the arrangement direction of the characters and arranged along a predetermined portion of each character, and the reference acquired by the line position information acquisition means and the line position information acquisition means
  • a reference line setting method is a reference line setting method in a reference line setting device, the step of recognizing a character from a character region of an image by a predetermined recognition method, and at least in the vertical direction of the character
  • storage means for storing for each character the line position information relating to the position through which the two reference lines pass, the line position information of a plurality of characters among the characters recognized in the recognition step is acquired, and the reference line Is a line that is drawn in the character arrangement direction and arranged along a predetermined portion of each character, and a plurality of line position information for each reference line acquired in the line position information acquisition step and the line position information acquisition step
  • a setting step for setting each reference line in the image.
  • a reference line setting program is a reference line setting program that causes a computer to function as a reference line setting device, and recognizes characters from a character region of an image by a predetermined recognition method,
  • Each reference line acquired by the line position information acquisition means and the line position information acquisition means is a line that is drawn in the character arrangement direction and arranged along a predetermined portion of each character. Based on the plurality of line position information, function as setting means for setting each reference line in the image.
  • the reference line is set for the image including the character based on the line position information of the character recognized from the image. Since the line position information is acquired from the storage means that stores the line position information in advance for each character, and the reference line is set based on the acquired line position information, the reference line can be set with high accuracy. In addition, since the reference line is set based on the line position information of the characters that can be recognized, the entire character string represented in the image including the characters that could not be recognized is highly accurate. A reference line can be set.
  • the line position information acquisition unit acquires line position information indicating a position through which one first reference line passes, and the setting unit includes a plurality of characters of the first line
  • the first reference line may be set by the least square method based on the line position information of the reference line.
  • the reference line can be set with high accuracy.
  • the first reference line is, for example, a base line in the alphabet.
  • the first reference line is a reference line that runs along the lower end of the character in, for example, hiragana, katakana, and kanji.
  • the line position information includes an average and a distribution of the positions through which the reference line passes in the vertical direction of the character
  • the setting means includes a plurality of characters recognized by the recognition means.
  • the distribution of the line position information of one reference line other than the first reference line of the reference lines is integrated, passing through the position having the highest probability obtained by the integration of the distribution of the line position information, A line having the same inclination as the reference line may be set as the one reference line.
  • the first slope is set so as to pass through the position having the highest probability obtained by integrating the line position information including the mean and the variance with the same inclination as the first reference line serving as the reference for character arrangement. Since reference lines other than the reference line are set, it is possible to appropriately set those reference lines.
  • the line position information includes an average and a distribution of the positions through which the reference line passes in the vertical direction of the character
  • the setting means includes a plurality of characters recognized by the recognition means.
  • the distribution of the line position information of two or more reference lines other than the first reference line of the reference lines is integrated, and the first position passes through the position having the highest probability obtained by the integration of the distribution of the line position information. It is also possible to set two or more reference lines that intersect with the reference line at one point.
  • the characters are alphabets
  • the reference lines include an ascender line, a mean line, a base line, and a descender line
  • the line position information acquisition means includes an ascender line and a mean line for each character.
  • the base line and descender line position information is obtained, and the setting means sets each reference line based on the line position information of the ascender line, mean line, base line, and descender line of a plurality of characters. It is good as well.
  • the line position information regarding the ascender line, the mean line, the base line, and the descender line is acquired, so that these four reference lines can be set with high accuracy.
  • line position information for each character is calculated based on a plurality of images in which a plurality of characters for which a reference line is set is represented, and the calculated line position information is calculated for each character. It is good also as providing the learning means to memorize
  • the position of each reference line for each character is calculated based on the plurality of images representing the character, and the calculated reference line position is stored in the storage unit as line position information for each character.
  • the learning means uses, as line position information, an average and a variance of positions through which each reference line passes in the vertical direction of the character based on a plurality of characters represented in a plurality of images. It may be calculated.
  • the line position information is calculated as the average and variance based on the characters represented in the plurality of images
  • the information on the position of the reference line as the total result of many images in which the characters are represented. Can be prepared in advance. Therefore, the reference line can be set with high accuracy based on these pieces of information.
  • the characters are alphabetic characters
  • the line position information acquisition unit may acquire line position information of characters whose uppercase and lowercase shapes are not similar.
  • the recognized character is a character whose uppercase and lowercase characters are similar, it is highly likely that the determination of whether the character is uppercase or lowercase is incorrect.
  • Characters having similar upper and lower case shapes include, for example, alphabets “S” and “s”, “O” and “o”, and the like. According to the above aspect, since the recognition result does not use the line position information of the character recognized to be a character with similar upper and lower case shapes for setting the reference line, the accuracy of the reference line position to be set Can be improved.
  • the recognition means calculates a reliability score indicating the certainty of the recognition result of characters from the image, and the line position information acquisition means has a reliability score of a predetermined value or more. Character line position information may be acquired.
  • the position of the reference line set based on the line position information of the character with low reliability in the recognition result is highly likely not appropriate as the position of the reference line for the character string including the character. According to the above aspect, since the line position information of the character whose reliability score in the recognition result is less than the predetermined value is not used for setting the reference line, the accuracy of the position of the set reference line can be improved.
  • FIG. 1 is a block diagram showing a functional configuration of the reference line setting device 1 according to the present embodiment.
  • the reference line setting device 1 is a device that sets a plurality of reference lines for a character string included in an image.
  • the reference line is a virtual line drawn in the character arrangement direction, and is a line for arranging predetermined portions of each character included in the character string.
  • the reference lines are four lines: an ascender line, a mean line, a base line, and a descender line.
  • the image is an image captured by, for example, a camera.
  • the demand for a technique for character recognition from an image including characters is increasing, and it is necessary to appropriately set a reference line for a character string in the image in order to enable accurate character recognition.
  • a scene image photographed by a camera or the like includes various character information such as road signs and signboards. Characters in a scene image have many problems that make recognition difficult, such as having unique fonts and styles and low resolution, as compared to characters printed on paper. Since the reference line set in the character string in the image can limit the area in which the character is represented in the image, setting an appropriate reference line contributes to accurate character recognition from the image. .
  • the reference line setting device 1 functionally includes a learning unit 11 (learning unit), an image acquisition unit 12 (image acquisition unit), a recognition unit 13 (recognition unit), and a line position information acquisition unit. 14 (line position information acquisition means) and a setting unit 15 (setting means).
  • the reference line setting device 1 can access storage means such as the reference line position storage unit 21.
  • the reference line position storage unit 21 may be provided in the reference line setting device 1 or may be configured as an external storage unit provided so as to be accessible from the reference line setting device 1.
  • FIG. 2 is a hardware configuration diagram of the reference line setting device 1.
  • the reference line setting device 1 physically includes a CPU 101, a main storage device 102 constituted by memories such as a RAM and a ROM, an auxiliary storage device 103 constituted by a hard disk, etc., and a communication control device 104. It is configured as a computer system including the above.
  • the reference line setting device 1 may further include an input device 105 such as a keyboard, a touch panel, and a mouse that are input devices, and an output device 106 such as a display.
  • FIG. 1 operate the communication control device 104 and the like under the control of the CPU 101 by reading predetermined computer software on the hardware such as the CPU 101 and the main storage device 102 shown in FIG. In addition, it is realized by reading and writing data in the main storage device 102 and the auxiliary storage device 103. Data and databases necessary for processing are stored in the main storage device 102 and the auxiliary storage device 103.
  • the learning unit 11 is a part that calculates line position information related to a position through which each reference line passes in the vertical direction of a character based on a plurality of characters represented in a plurality of images.
  • the learning unit 11 stores the calculated line position information in the reference line position storage unit 21.
  • the line position information is information indicating the position of the reference line for each character.
  • FIG. 3 is a diagram illustrating an example of calculating line position information.
  • the learning unit 11 acquires, as learning data, an image in which characters are represented, and an image to which the bounding box of each character and its character type are given. Based on a large amount of learning data, the learning unit 11 uses the method described below to obtain information on the positions through which each reference line passes through a total of 62 characters of 26 uppercase letters and lowercase letters and 0-9 numbers. Then, the line position information is calculated for each character, and the calculated line position information acquisition is stored in the reference line position storage unit 21.
  • the learning unit 11 first acquires an image including the character string W31 as an example of learning data.
  • Character string W31 includes characters C31 to C34. Each character is given a character type and a bounding box in advance.
  • the bounding box is a rectangular frame that circumscribes the character area. That is, the character type of the character C31 is uppercase “S”. Further, a bounding box B1 is given to the character C31.
  • the character types of the characters C32 to C34 are a lowercase letter “p”, a lowercase letter “o”, and a lowercase letter “t”, respectively. Further, bounding boxes B2 to B4 are given to the characters C32 to C34, respectively.
  • the learning unit 11 extracts the center of the upper side and the center of the lower side of the bounding box of each character as an upper contact and a lower contact, respectively. That is, the learning unit 11 extracts the upper contact BU1 and the lower contact BL1 from the bounding box B1. Similarly, the learning unit 11 extracts the upper contacts BU2 to BU4 and the lower contacts BL2 to BL4 from each of the bounding boxes B2 to B4.
  • the upper and lower contacts of the uppercase letters and numbers correspond to the positions of the ascender line and the base line, respectively.
  • the upper and lower contacts of b, d, f, h, i, k, l, and t correspond to the positions of the ascender line and the base line, respectively.
  • the upper and lower contacts of g, j, p, q, and y correspond to the positions of the mean line and descender line, respectively.
  • Other lower case upper and lower contacts of the alphabet correspond to the positions of the mean line and the base line, respectively.
  • the learning unit 11 sets a reference line as a character string of an image using a plurality of points corresponding to the position of each reference line among the extracted upper and lower contacts.
  • the learning unit 11 sets each reference line as indicated by the character string W32.
  • the learning unit 11 sets the ascender line LA3 to the character string W32 by the least square method using the two points of the upper contact points BU1 and BU4.
  • the learning unit 11 sets the mean line LM3 to the character string W32 by the least square method using the two points of the upper contact points BU2 and BU3.
  • the learning unit 11 sets the base line LB3 to the character string W32 by the least square method using the three points of the lower contacts BL1, BL3, and BL4.
  • the learning unit 11 calculates line position information based on a large amount of learning data, the line position of the descender line is obtained by acquiring, as learning data, an image including a plurality of characters having lower contacts corresponding to the position of the descender line. Information can be calculated.
  • the learning unit 11 acquires the position where each set reference line intersects with the vertical lines VL1 to VL4 passing through the center of the bounding box of each character as the line position of each reference line in each character.
  • the learning unit 11 acquires the positions of the upper contact BU1, the point MP31, and the lower contact BL1 as the positions of the ascender line, the mean line, and the base line of the character C31 that is the uppercase “S”.
  • the learning unit 11 acquires the position of the point DP31 as the position of the descender line of the character C31 that is the uppercase “S”.
  • the learning unit 11 acquires the position of each reference line in each character by converting it into a value normalized by the height of each character area (bounding box).
  • the learning unit 11 sets the positions of the point AP32, the upper contact BU2, the point BP32, and the lower contact BL2 as the positions of the ascender line, the mean line, the base line, and the descender line of the character C32 that is the lowercase letter “p”. get.
  • the learning unit 11 acquires the positions of the point AP33, the upper contact BU3, and the lower contact BL3 as the positions of the ascender line, the mean line, and the base line of the letter C33 that is the lowercase letter “o”. If the descender line LD3 is set, the learning unit 11 acquires the position of the point DP33 as the position of the descender line of the character C33 that is the capital letter “o”.
  • the learning unit 11 acquires the positions of the upper contact BU4, the point MP34, and the lower contact BL4 as the positions of the ascender line, the mean line, and the base line of the letter C34 that is the lowercase letter “t”. If the descender line LD3 is set, the learning unit 11 acquires the position of the point DP34 as the position of the descender line of the character C34 that is the capital letter “t”.
  • the learning unit 11 performs the process of acquiring the position of each reference line for each character for various captured images and various fonts to which the character type and the bounding box for each character are given. Accumulate and learn information on the position of many reference lines. Then, the learning unit 11 calculates line position information based on the accumulated and learned information.
  • the learning unit 11 calculates, for example, an average of the positions of the reference lines for each character type as the line position information, and stores the calculated line position information in the reference line position storage unit 21. Further, the learning unit 11 may calculate, as line position information, a Gaussian distribution calculated by statistically processing information on the positions of many reference lines for each character. In this case, the learning unit 11 stores the average and variance values of the positions of the respective reference lines for each character type in the reference line position storage unit 21 as line position information.
  • FIG. 4 is a diagram schematically illustrating an example of the configuration of the reference line position storage unit 21 and stored data.
  • the reference line position storage unit 21 stores line position information of ascender lines, mean lines, base lines, and descender lines for each of uppercase and lowercase letters and numbers.
  • the line position information includes the average and the variance of the reference line positions.
  • the image acquisition unit 12 is a part that acquires an image including a character area.
  • the image acquisition unit 12 acquires an image captured by a camera as a target for setting a reference line.
  • the recognition unit 13 is a part that recognizes a character from a character region included in the image by a predetermined recognition method. For example, the recognition unit 13 may extract a connected area in which the same color is continuous in the image and acquire the extracted connected area as a character area. The recognizing unit 13 may perform binarization processing on the image in order to extract the connected region.
  • the recognition unit 13 may perform character recognition on a character region using a so-called character classifier.
  • a method using a character classifier is a known method, for example, HOG (Histgram of Oriented Gradient) -SVM (Support Vector Machine).
  • HOG-SVM is a technique that uses a HOG feature quantity as a feature quantity and a well-known SVM as a classifier.
  • Information to be referred to for character recognition by the character classifier is stored in advance in the storage means, and the storage means is data to be referred to for character recognition using the character classifier by HOG-SVM, for example, Data learned about uppercase letters A to Z, lowercase letters a to z, and numbers 0 to 9 of the alphabet are stored.
  • the HOG feature value is a feature value in which the luminance gradient direction of the local region (cell) in the image is histogrammed.
  • a cell consisting of a predetermined number of pixels is set so as to cover the image to be recognized, a feature vector of a multidimensional HOG feature amount is acquired for each cell, and a multidimensional feature in which all cells are connected from the entire image A vector is obtained. Note that it is preferable to further use the aspect ratio in character classification by HOG-SVM.
  • the recognition unit 13 acquires a HOG feature quantity vector and an aspect ratio vector from the character area. Then, the SVM classifier performs classification with reference to the learning data stored in advance in the storage means. As a result, the recognition unit 13 can acquire the letters (alphabet, numbers) as the classification result and the reliability score output from the classifier.
  • the recognition processing performed by the recognition unit 13 is not limited to the method using a character classifier exemplified in HOG-SVM.
  • the character recognition by the recognition unit 13 is not intended to output the result of accurately recognizing the character, so various known methods can be applied as long as the method can recognize the character from the image.
  • the predetermined recognition method is preferably a method capable of acquiring information related to the reliability of the recognition result for each character.
  • a character string W51 shown in FIG. 5 is a character string composed of characters C51 to C54 recognized by the recognition unit 13. That is, in the example illustrated in FIG. 5, the recognition unit 13 includes a letter C51 that is an uppercase “L”, a letter C52 that is a lowercase “i”, a letter C53 that is a lowercase “n”, and a lowercase “n”. A certain character C54 is output as a character recognition result from the image.
  • the line position information acquisition unit 14 acquires line position information of a plurality of characters among the characters recognized by the recognition unit 13. Specifically, the line position information acquisition unit 14 acquires line position information from the reference line position storage unit 21.
  • the setting unit 15 sets each reference line in the image based on a plurality of pieces of line position information for each reference line acquired by the line position information acquisition unit 14.
  • the setting unit 15 sets a first reference line.
  • the first reference line is a reference line serving as a reference for character arrangement, and is, for example, a base line in the alphabet.
  • the first reference line is a reference line that runs along the lower end of the character in, for example, hiragana, katakana, and kanji.
  • the setting unit 15 may set the first reference line by the least square method.
  • FIG. 5 is a diagram illustrating an example of a baseline setting process.
  • FIG. 6 is a diagram illustrating an example of setting processing of an ascender line, a mean line, and a descender line, which are reference lines other than the base line.
  • the line position information acquisition unit 14 acquires the baseline line position information BP51 to BP54 of the characters C51 to C54 in the character string W51 of FIG. In the present embodiment, the line position information acquisition unit 14 acquires an average value in the line position information of the baseline.
  • the setting unit 15 sets the baseline by the least square method based on the line position information of the recognized baselines of the plurality of characters.
  • the setting unit 15 sets the baseline LB5 obtained by the least square method based on the baseline line position information BP51 to BP54 of the characters C51 to C54 for an image including the character string W51. .
  • the line position information acquisition unit 14 acquires the line position information of the ascender line, the mean line, and the descender line for each of the characters C51 to C54 in order to set the ascender line, the mean line, and the descender line.
  • the line position information acquisition unit 14 acquires the line position information AP61, MP61, and DP61 of the ascender line, the mean line, and the descender line of the character C51.
  • the line position information AP61, MP61, DP61 acquired here is expressed as a distribution of the position of the reference line in the character and includes an average and a variance.
  • the line position information AP62, MP62, DP62, line position information AP63, MP63, DP63, and line position information AP64, MP64, DP64 of the ascender line, the mean line, and the descender line of the characters C52 to C54 are acquired.
  • the setting unit 15 integrates the distribution of the line position information of the reference lines other than the baseline of the plurality of recognized characters, and passes through the position having the highest probability obtained by the integration of the distribution of the line position information.
  • a line having the same inclination as the base line is set as the reference line.
  • the setting of three reference lines other than the baseline will be specifically described.
  • the slope k is the same as the slope of the set baseline.
  • a value that maximizes the likelihood when the slope k is determined can be used as the intercept.
  • c 1 , c 2 ,..., C N be the character class of each character
  • x 1 , x 2 Is the position in the coordinate system X direction of the central position in the horizontal direction of the character area of each character.
  • c i ) is a probability that the intercept at x i of the reference line l is y i when the i-th character class is c i
  • the intercept b l of the reference line l Is calculated by the following equation (1).
  • mu lci, sigma lci are the mean and variance of the position of the reference line l for each character class c i obtained as the line position information.
  • the setting unit 15 sets the ascender line LA6 based on the ascender line position information AP61 to AP64 of the characters C51 to C54. That is, the ascender line LA6 is set to the position with the highest probability in the distribution calculated by the average and variance integration of the line position information AP61 to AP64.
  • the setting unit 15 sets the mean line LM6 based on the ascender line position information MP61 to MP64 of the characters C51 to C54.
  • the setting unit 15 also sets the descender line LD6 based on the descender line line position information DP61 to DP64 of the characters C51 to C54.
  • the line position information acquisition unit 14 determines that the reliability score calculated by the recognition unit 13 is greater than or equal to a predetermined value. It is good also as acquiring the line position information of this character. For example, in the example of FIGS. 5 and 6, when the reliability score in the recognition result of the characters C51 and C54 is equal to or higher than a predetermined value and the reliability score of the characters C52 and C53 is lower than the predetermined value, the line position The information acquisition unit 14 acquires line position information of the characters C51 and C54. Therefore, the setting unit 15 uses only the line position information of the characters C51 and C54 for setting the reference line, and the line position information of the characters C52 and C53 is not used for setting the reference line.
  • the recognition line is thus recognized.
  • the accuracy of the position of the set reference line can be improved.
  • the line position information acquisition unit 14 may acquire line position information of characters whose uppercase and lowercase shapes are not similar.
  • the setting unit 15 does not use the line position information of characters recognized as uppercase or lowercase among characters having similar uppercase and lowercase shapes for setting the reference line. That is, when the character recognized by the recognition unit 13 is an uppercase letter or a lowercase letter of a character whose uppercase and lowercase letters are similar, it may be erroneously determined whether the character is an uppercase letter or a lowercase letter. High nature.
  • the reference line set by not using the line position information of the character recognized as the character having the similar upper and lower case shape for the setting of the reference line. It is possible to improve the accuracy of the position.
  • each reference line may have an inclination such that four reference lines converge at one point.
  • the setting unit 15 integrates the distribution of the line position information of two or more reference lines other than the baseline of the plurality of characters recognized by the recognition unit 13, and the probability obtained by integrating the distribution of the line position information It is also possible to set two or more reference lines that pass through the highest position and intersect the base line at one point.
  • the baseline is a straight line
  • the baseline may be, for example, a quadratic curve, a Bezier curve, or a spline curve.
  • the baseline can be calculated by the least square method or other known methods based on the line position information indicating the position of the baseline. If the baseline is these curves, then the ascender line, mean line and descender line. It may be calculated as a line having the same curve as the base line.
  • FIG. 7 is a flowchart showing the processing contents of the reference line setting method performed in the reference line setting apparatus 1.
  • the image acquisition unit 12 acquires an image including a character area (S1).
  • the recognition unit 13 recognizes a character from the character region included in the image by a predetermined recognition method (S2).
  • the line position information acquisition unit 14 acquires line position information of a plurality of characters among the characters recognized by the recognition unit 13 in step S2 (S3). Specifically, the line position information acquisition unit 14 acquires line position information from the reference line position storage unit 21. The line position information stored in the reference line position storage unit 21 is calculated by the learning unit 11 based on a plurality of characters represented in various images.
  • the setting unit 15 performs a reference line setting process for setting a reference line based on the line position information acquired in step S3 (S4).
  • the reference line setting process in step S4 will be described.
  • the line position information acquisition unit 14 acquires the line position information of the recognized base line of each character (S41). Subsequently, the setting unit 15 sets a baseline by the least square method based on the baseline line position information acquired in step S41 (S42).
  • the line position information acquisition unit 14 acquires line position information of the ascender line, the mean line, and the descender line for each recognized character (S43). Subsequently, the setting unit 15 accumulates the distribution of the line position information of the recognized plurality of characters for each reference line other than the baseline (S44). That is, the setting unit 15 integrates the distribution of the position of the reference line represented by the line position information for each of the ascender line, the mean line, and the descender line.
  • the setting unit 15 sets, as the reference line, a line that passes through the position having the highest probability obtained by integrating the distribution of the line position information and has the same inclination as the base line (S45).
  • the reference line setting program p1 includes a main module m10, a learning module m11, an image acquisition module m12, a recognition module m13, a line position information acquisition module m14, and a setting module m15.
  • the main module m10 is a part that comprehensively controls the reference line setting process.
  • the functions realized by executing the learning module m11, the image acquisition module m12, the recognition module m13, the line position information acquisition module m14, and the setting module m15 are the learning unit 11 of the reference line setting device 1 shown in FIG.
  • the functions of the image acquisition unit 12, the recognition unit 13, the line position information acquisition unit 14, and the setting unit 15 are the same.
  • the reference line setting program p1 is provided by a storage medium d1 such as a CD-ROM, DVD-ROM, or semiconductor memory.
  • the reference line setting program p1 may be provided via a communication network as a computer data signal superimposed on a carrier wave.
  • the reference line setting device 1 the reference line setting method, and the reference line setting program p1 of the present embodiment described above, based on the line position information of the characters that can be recognized from the image, the image including the characters is displayed.
  • a reference line is set. Since the line position information is acquired from the storage means that stores the line position information in advance for each character, and the reference line is set based on the acquired line position information, the reference line can be set with high accuracy. In addition, since the reference line is set based on the line position information of the characters that can be recognized, the entire character string represented in the image including the characters that could not be recognized is highly accurate. A reference line can be set.
  • a reference line is set for an alphabetic character string included in an image
  • the present invention is not limited to this example.
  • the present invention is applicable to, for example, other types of characters, and may be applied to character strings representing Japanese.
  • the number of reference lines to be set may be two or three, for example, instead of four in the case of the alphabet.
  • two reference lines may be set at the lower end and the upper end of the character.
  • a third reference line may be set at the center position of the two reference lines at the upper and lower ends of the character.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Character Input (AREA)
  • Character Discrimination (AREA)

Abstract

基準線設定装置は、文字領域を含む画像を取得する画像取得手段と、画像の文字領域から所定の認識手法により文字を認識する認識手段と、文字の縦方向における少なくとも2本の基準線が通る位置に関する線位置情報を文字ごとに記憶している記憶手段を参照して、認識手段により認識された文字のうちの複数の文字の線位置情報を取得し、基準線は文字の配列方向に引かれ各文字の所定部分を沿わせて配列させるための線である、線位置情報取得手段と、線位置情報取得手段により取得された基準線ごとの複数の線位置情報に基づいて、画像に各基準線を設定する設定手段と、を備える。

Description

基準線設定装置、基準線設定方法及び基準線設定プログラム
 本発明は、基準線設定装置、基準線設定方法及び基準線設定プログラムに関する。
 カメラ等により撮像された画像から、文字認識をする技術の需要が高まっている。画像に含まれる文字を正しく認識するために、配列される文字が沿うべき基準線を設定することが求められる場合がある。例えば、各文字が表された領域の輪郭を特徴ベクトルで表現し、その特徴ベクトルに基づいて画像中の文字に基準線を設定する技術が知られている(例えば、特許文献1参照)。
米国特許公報第8588529号
 しかしながら、上記従来技術では、画像中の文字の輪郭が不鮮明な場合、及び文字の領域とその背景とのコントラストが十分に大きくない場合等に文字の領域が正しく認識されず、基準線を正確に設定できない場合がある。その結果、画像からの文字認識の精度が低下する。
 そこで本発明は、画像中に含まれる文字に対して、配列される文字が沿うべき基準線を高精度に設定することを目的とする。
 上記課題を解決するために、本発明の一形態に係る基準線設定装置は、文字領域を含む画像を取得する画像取得手段と、画像の文字領域から所定の認識手法により文字を認識する認識手段と、文字の縦方向における少なくとも2本の基準線が通る位置に関する線位置情報を文字ごとに記憶している記憶手段を参照して、認識手段により認識された文字のうちの複数の文字の線位置情報を取得し、基準線は文字の配列方向に引かれ各文字の所定部分を沿わせて配列させるための線である、線位置情報取得手段と、線位置情報取得手段により取得された基準線ごとの複数の線位置情報に基づいて、画像に各基準線を設定する設定手段と、を備える。
 本発明の一形態に係る基準線設定方法は、基準線設定装置における基準線設定方法であって、画像の文字領域から所定の認識手法により文字を認識する認識ステップと、文字の縦方向における少なくとも2本の基準線が通る位置に関する線位置情報を文字ごとに記憶している記憶手段を参照して、認識ステップにおいて認識された文字のうちの複数の文字の線位置情報を取得し、基準線は文字の配列方向に引かれ各文字の所定部分を沿わせて配列させるための線である、線位置情報取得ステップと、線位置情報取得ステップにおいて取得された基準線ごとの複数の線位置情報に基づいて、画像に各基準線を設定する設定ステップと、を有する。
 本発明の一形態に係る基準線設定プログラムは、基準線設定装置としてコンピュータを機能させる基準線設定プログラムであって、コンピュータを、画像の文字領域から所定の認識手法により文字を認識する認識手段、文字の縦方向における少なくとも2本の基準線が通る位置に関する線位置情報を文字ごとに記憶している記憶手段を参照して、認識手段により認識された文字のうちの複数の文字の線位置情報を取得し、基準線は文字の配列方向に引かれ各文字の所定部分を沿わせて配列させるための線である、線位置情報取得手段、及び線位置情報取得手段により取得された基準線ごとの複数の線位置情報に基づいて、画像に各基準線を設定する設定手段、として機能させる。
 上記の形態によれば、画像から認識することができた文字の線位置情報に基づいて、当該文字を含む画像に対して基準線が設定される。線位置情報が、文字ごとに線位置情報を予め記憶している記憶手段から取得され、取得された線位置情報に基づいて基準線が設定されるので、高精度に基準線を設定できる。また、認識することができた文字の線位置情報に基づいて基準線が設定されるので、認識することができなかった文字も含む、画像に表された文字列の全体に対して高精度に基準線を設定することができる。
 別の形態に係る基準線設定装置では、線位置情報取得手段は、1本の第1の基準線が通る位置を示す線位置情報を取得し、設定手段は、複数の文字の、第1の基準線の線位置情報に基づいて、最小二乗法により当該第1の基準線を設定することとしてもよい。
 上記形態によれば、文字の配列の基準となる1本の基準線が、当該基準線の線位置情報に基づいて最小二乗法により設定されるので、画像に表された文字列に対して、当該基準線を高精度に設定することができる。第1の基準線は、例えば、アルファベットにおけるベースラインである。また、第1の基準線は、例えば、ひらがな及びカタカナ並びに漢字等における、文字の下端部を沿わせる基準線である。
 さらに別の形態に係る基準線設定装置では、線位置情報は、文字の縦方向における基準線が通る位置の分布の平均と分散とからなり、設定手段は、認識手段により認識された複数の文字の、基準線のうちの第1の基準線以外の一の基準線の線位置情報の分布を積算し、線位置情報の分布の積算により得られた確率が最も高い位置を通り、第1の基準線と同じ傾きを有する線を、当該一の基準線として設定することとしてもよい。
 上記形態において、文字の配列の基準となる第1の基準線と同じ傾きで、平均と分散とからなる線位置情報を積算して得られた確率が最も高い位置を通るように、第1の基準線以外の基準線が設定されるので、それらの基準線を適切に設定することが可能となる。
 さらに別の形態に係る基準線設定装置では、線位置情報は、文字の縦方向における基準線が通る位置の分布の平均と分散とからなり、設定手段は、認識手段により認識された複数の文字の、基準線のうちの第1の基準線以外の二以上の基準線の線位置情報の分布を積算し、線位置情報の分布の積算により得られた確率が最も高い位置を通り、第1の基準線と一点で交わる二以上の基準線を設定することとしてもよい。
 上記形態において、第1の基準線と異なる傾きを有し、第1の基準線と一点で交わるような複数の基準線を適切に設定することが可能となる。
 別の形態に係る基準線設定装置では、文字はアルファベットであり、基準線は、アセンダーライン、ミーンライン、ベースライン及びディセンダーラインを含み、線位置情報取得手段は、文字ごとのアセンダーライン、ミーンライン、ベースライン及びディセンダーラインの線位置情報を取得し、設定手段は、複数の文字の、アセンダーライン、ミーンライン、ベースライン及びディセンダーラインのそれぞれの線位置情報に基づいて、各基準線を設定することとしてもよい。
 上記形態によれば、文字がアルファベットである場合に、アセンダーライン、ミーンライン、ベースライン及びディセンダーラインに関する線位置情報が取得されるので、これら4本の基準線を高精度に設定できる。
 さらに別の形態に係る基準線設定装置では、基準線が設定された複数の文字が表された複数の画像に基づいて、文字ごとの線位置情報を算出し、算出した線位置情報を文字ごとに記憶手段に記憶させる学習手段を更に備えることとしてもよい。
 上記形態によれば、文字が表された複数の画像に基づいて、文字ごとの各基準線の位置を算出して、算出した基準線の位置が文字ごとに線位置情報として記憶手段に記憶される。これにより、基準線の設定処理に用いる精度が高い線位置情報を予め備えることが可能となる。
 さらに別の形態に係る基準線設定装置では、学習手段は、複数の画像に表された複数の文字に基づいて、文字の縦方向における各基準線が通る位置の平均及び分散を線位置情報として算出することとしてもよい。
 上記形態によれば、複数の画像に表された文字に基づいて、線位置情報が平均及び分散として算出されるので、文字が表された多くの画像の集計結果としての基準線の位置の情報を予め備えることができる。従って、これらの情報に基づいて、精度良く基準線を設定できる。
 さらに別の形態に係る基準線設定装置では、文字はアルファベットであり、線位置情報取得手段は、大文字と小文字の形状が相似ではない文字の線位置情報を取得することとしてもよい。
 認識された文字が、大文字と小文字の形状が相似である文字である場合には、当該文字が大文字及び小文字のいずれであるかの判定を誤っている可能性が高い。大文字と小文字の形状が相似である文字は、例えば、アルファベットの「S」と「s」、「O」と「o」等がある。上記形態によれば、認識結果が、大文字と小文字の形状が相似である文字であると認識された文字の線位置情報を基準線の設定に用いないので、設定される基準線の位置の精度を向上することができる。
 さらに別の形態に係る基準線設定装置では、認識手段は、画像からの文字の認識結果の確からしさを示す信頼性スコアを算出し、線位置情報取得手段は、信頼性スコアが所定値以上の文字の線位置情報を取得することとしてもよい。
 認識結果における信頼性が低い文字の線位置情報に基づいて設定される基準線の位置は、当該文字を含む文字列に対する基準線の位置として妥当ではない可能性が高い。上記形態によれば、認識結果における信頼性スコアが所定値未満の文字の線位置情報を基準線の設定に用いないので、設定される基準線の位置の精度を向上することができる。
 本発明の一側面によれば、画像中に含まれる文字に対して、配列される文字が沿うべき基準線を高精度に設定することが可能となる。
基準線設定装置の機能構成を示すブロック図である。 基準線設定装置のハードウェア構成を示す図である。 基準線位置記憶部に記憶させる線位置情報算出の例を示す図である。 基準線位置記憶部に記憶されている線位置情報の例を示す図である。 ベースラインの設定処理の例を示す図である。 アセンダーライン、ミーンライン及びディセンダーラインの設定処理の例を示す図である。 基準線設定装置において実施される基準線設定方法の処理内容を示すフローチャートである。 図7における基準線設定処理の内容を示すフローチャートである。 基準線設定プログラムの構成を示す図である。
 以下、添付図面を参照しながら本発明の実施形態を詳細に説明する。なお、図面の説明において同一又は同等の要素には同一の符号を付し、重複する説明を省略する。
 図1は、本実施形態に係る基準線設定装置1の機能的構成を示すブロック図である。基準線設定装置1は、画像に含まれる文字列に対して、複数の基準線を設定する装置である。基準線は、文字の配列方向に引かれる仮想的な線であって、文字列に含まれる各文字の所定部分を沿わせて配列させるための線である。文字がアルファベットである場合には、基準線は、アセンダーライン、ミーンライン、ベースライン及びディセンダーラインの4本である。
 画像は、例えばカメラ等により撮像された画像である。文字が含まれる画像から、文字認識をする技術の需要が高まっており、正確な文字認識を可能とするために、画像中の文字列に対して適切に基準線を設定する必要がある。カメラ等により撮影された情景画像には、例えば道路の標識や看板などの種々の文字情報が含まれている。情景画像中の文字は、紙に印刷された文字と比較すると、独自のフォントやスタイルを有している、解像度が低い等の、認識を困難にするような多くの問題を有している。画像中の文字列に設定された基準線は、画像中における文字が表された領域を限定することができるので、適切な基準線の設定は、画像からの正確な文字認識に資することとなる。
 図1に示すように、基準線設定装置1は、機能的には、学習部11(学習手段)、画像取得部12(画像取得手段)、認識部13(認識手段)、線位置情報取得部14(線位置情報取得手段)及び設定部15(設定手段)を備える。
 また基準線設定装置1は、基準線位置記憶部21といった記憶手段にアクセス可能である。基準線位置記憶部21は、基準線設定装置1に備えられることとしてもよいし、基準線設定装置1からのアクセスが可能に設けられた外部の記憶手段として構成されてもよい。
 図2は、基準線設定装置1のハードウェア構成図である。基準線設定装置1は、物理的には、図2に示すように、CPU101、RAM及びROMといったメモリにより構成される主記憶装置102、ハードディスク等で構成される補助記憶装置103、通信制御装置104などを含むコンピュータシステムとして構成されている。基準線設定装置1は、入力デバイスであるキーボード、タッチパネル、マウス等の入力装置105及びディスプレイ等の出力装置106をさらに含むこととしてもよい。
 図1に示した各機能は、図2に示すCPU101、主記憶装置102等のハードウェア上に所定のコンピュータソフトウェアを読み込ませることにより、CPU101の制御のもとで通信制御装置104等を動作させるとともに、主記憶装置102や補助記憶装置103におけるデータの読み出し及び書き込みを行うことで実現される。処理に必要なデータやデータベースは主記憶装置102や補助記憶装置103内に格納される。
 続いて、基準線設定装置1の各機能部を説明する。学習部11は、複数の画像に表された複数の文字に基づいて、文字の縦方向における各基準線が通る位置に関する線位置情報を算出する部分である。学習部11は、算出した線位置情報を基準線位置記憶部21に記憶させる。線位置情報は、文字ごとに、基準線の位置を示す情報である。
 図3を参照して、学習部11による線位置情報の算出について説明する。図3は、線位置情報算出の例を示す図である。
 学習部11は、文字が表された画像であって、各文字のバウンディングボックスとその文字種が与えられている画像を学習データとして取得する。学習部11は、大量の学習データに基づいて、以下に説明する方法により、アルファベット26個の大文字及び小文字並びに0~9の数字の計62個の文字の、各基準線が通る位置の情報を取得し、線位置情報を文字ごとに算出して、算出した線位置情報取得を基準線位置記憶部21に記憶させる。
 学習部11は、まず、学習用のデータの一例として、文字列W31を含む画像を取得する。文字列W31は、文字C31~C34を含む。各文字には、文字種及びバウンディングボックスが予め与えられている。バウンディングボックスは、文字領域に外接する矩形の枠である。即ち、文字C31の文字種は、大文字の「S」である。また、文字C31には、バウンディングボックスB1が与えられている。
 同様に、文字C32~C34の文字種はそれぞれ、小文字の「p」、小文字の「o」、小文字の「t」である。また、文字C32~C34にはそれぞれ、バウンディングボックスB2~B4が与えられている。
 学習部11は、各文字のバウンディングボックスの上辺の中心及び下辺の中心をそれぞれ、上接点及び下接点として抽出する。即ち、学習部11は、バウンディングボックスB1から、上接点BU1及び下接点BL1を抽出する。同様に、学習部11は、バウンディングボックスB2~B4のそれぞれから、上接点BU2~BU4及び下接点BL2~BL4を抽出する。
 アルファベットの大文字及び数字の上接点及び下接点はそれぞれ、アセンダーライン及びベースラインの位置に相当する。また、アルファベットの小文字のうち、b、d、f、h、i、k、l、tの上接点及び下接点はそれぞれ、アセンダーライン及びベースラインの位置に相当する。また、アルファベットの小文字のうち、g、j、p、q、yの上接点及び下接点はそれぞれ、ミーンライン及びディセンダーラインの位置に相当する。それら以外のアルファベットの小文字の上接点及び下接点はそれぞれ、ミーンライン及びベースラインの位置に相当する。
 学習部11は、抽出した上接点及び下接点のうち、各基準線の位置に相当する複数の点を用いて、基準線を画像の文字列に設定する。図3に示す例では、学習部11は、文字列W32に示されるように、各基準線を設定する。具体的には、学習部11は、上接点BU1及びBU4の2点を用いて、最小二乗法によりアセンダーラインLA3を文字列W32に設定する。
 同様に、学習部11は、上接点BU2及びBU3の2点を用いて、最小二乗法によりミーンラインLM3を文字列W32に設定する。また、学習部11は、下接点BL1、BL3及びBL4の3点を用いて、最小二乗法によりベースラインLB3を文字列W32に設定する。
 なお、最小二乗法により線を設定するためには、2点以上の情報が必要である。従って、図3の例では、ディセンダーラインの位置に相当する点は、下接点BL2の1点のみであるため、破線により図示したディセンダーラインLD3は設定されない。学習部11は、大量の学習データに基づいて線位置情報を算出するので、ディセンダーラインの位置に相当する下接点を有する文字を複数含む画像を学習データとして取得することにより、ディセンダーラインの線位置情報を算出できる。
 学習部11は、設定された各基準線が、各文字のバウンディングボックスの中心を通る縦方向の線VL1~VL4と交わる位置を、各文字における各基準線の線位置として取得する。図3に示す例では、学習部11は、大文字の「S」である文字C31の、アセンダーライン、ミーンライン及びベースラインの位置として、上接点BU1、点MP31及び下接点BL1の位置を取得する。なお、仮にディセンダーラインLD3が設定されていれば、学習部11は、大文字の「S」である文字C31のディセンダーラインの位置として、点DP31の位置を取得する。なお、学習部11は、各文字における各基準線の位置を、各文字領域(バウンディングボックス)の高さによって正規化された値に変換して取得する。
 同様に、学習部11は、小文字の「p」である文字C32の、アセンダーライン、ミーンライン、ベースライン及びディセンダーラインの位置として、点AP32、上接点BU2、点BP32及び下接点BL2の位置を取得する。
 また、学習部11は、小文字の「o」である文字C33の、アセンダーライン、ミーンライン及びベースラインの位置として、点AP33、上接点BU3及び下接点BL3の位置を取得する。なお、仮にディセンダーラインLD3が設定されていれば、学習部11は、大文字の「o」である文字C33のディセンダーラインの位置として、点DP33の位置を取得する。
 また、学習部11は、小文字の「t」である文字C34の、アセンダーライン、ミーンライン及びベースラインの位置として、上接点BU4、点MP34及び下接点BL4の位置を取得する。なお、仮にディセンダーラインLD3が設定されていれば、学習部11は、大文字の「t」である文字C34のディセンダーラインの位置として、点DP34の位置を取得する。
 学習部11は、以上説明したような、文字ごとの各基準線の位置を取得する処理を、文字種と文字ごとのバウンディングボックスが与えられた様々な撮像画像、種々のフォントについて行い、文字ごとの多くの基準線の位置の情報を蓄積及び学習する。そして、学習部11は、蓄積及び学習した情報に基づいて、線位置情報を算出する。
 学習部11は、例えば、文字種ごとの各基準線の位置の平均を線位置情報として算出し、算出した線位置情報を基準線位置記憶部21に記憶させる。また、学習部11は、文字ごとの多くの基準線の位置の情報を統計的に処理して算出したガウス分布を線位置情報として算出してもよい。この場合には、学習部11は、文字種ごとの各基準線の位置の平均及び分散の値を線位置情報として基準線位置記憶部21に記憶させる。
 図4は、基準線位置記憶部21の構成及び記憶されているデータの例を模式的に示す図である。図4に示すように、基準線位置記憶部21は、アルファベットの大文字及び小文字並びに数字ごとに、アセンダーライン、ミーンライン、ベースライン及びディセンダーラインの線位置情報を記憶している。本実施形態では、線位置情報は、基準線の位置の平均及び分散を含む。
 再び図2を参照して、画像取得部12は、文字領域を含む画像を取得する部分である。画像取得部12は、例えば、カメラにより撮影された画像を、基準線を設定する対象として取得する。
 認識部13は、画像に含まれる文字領域から、所定の認識手法により文字を認識する部分である。認識部13は、例えば、画像中における同一色が連続している連結領域を抽出して、抽出した連結領域を文字領域として取得してもよい。認識部13は、連結領域の抽出のために、画像に対して二値化処理を行ってもよい。
 例えば、認識部13は、文字領域に対して、いわゆる文字分類器を用いて文字認識を実施してもよい。文字分類器を用いた手法は、例えば、HOG(Histgram of Oriented Gradient)-SVM(Support Vector Machine)という既知の手法である。HOG-SVMは、特徴量としてHOG特徴量を用い、分類器として周知のSVMを用いる手法である。文字分類器による文字認識のために参照する情報は予め記憶手段に記憶されており、記憶手段は、HOG-SVMによる文字分類器を用いた文字認識のために参照するデータであって、例えば、アルファベットの大文字A~Z、小文字a~z、数字0~9について学習したデータを記憶している。
 HOG特徴量は、画像中の局所領域(セル)の輝度の勾配方向をヒストグラム化した特徴量である。所定数の画素からなるセルを認識対象の画像に敷き詰めるように設定し、セルごとに多次元のHOG特徴量の特徴ベクトルが取得され、さらに画像全体から、全てのセルを連結した多次元の特徴ベクトルが取得される。なお、HOG-SVMによる文字分類では、アスペクト比を更に用いることが好ましい。
 認識部13は、文字領域から、HOG特徴量ベクトル及びアスペクト比のベクトルを取得する。そして、記憶手段に予め記憶された学習データを参照して、SVM分類器による分類を行う。その結果として、認識部13は、分類結果としての文字(アルファベット、数字)及び分類器から出力される信頼性スコアを取得できる。
 なお、認識部13により実施される認識処理は、HOG-SVMに例示される文字分類器による手法に限定されない。認識部13による文字認識は、文字を正確に認識した結果を出力することを目的とするものではないので、画像中からの文字認識が可能な手法であれば、種々の既知の手法を適用できる。なお、後述するように、所定の認識手法は、文字ごとの認識結果の信頼性に関する情報を取得できる手法であることが好ましい。
 図5に示される文字列W51は、認識部13により認識された文字C51~C54からなる文字列である。即ち、図5に示す例では、認識部13は、大文字の「L」である文字C51、小文字の「i」である文字C52、小文字の「n」である文字C53及び小文字の「n」である文字C54を画像からの文字の認識結果として出力する。
 線位置情報取得部14は、認識部13により認識された文字のうちの複数の文字の線位置情報を取得する。具体的には、線位置情報取得部14は、基準線位置記憶部21から線位置情報を取得する。
 設定部15は、線位置情報取得部14により取得された基準線ごとの複数の線位置情報に基づいて、画像に各基準線を設定する。
 図5及び図6を参照して、本実施形態における基準線の設定処理について具体的に説明する。まず、設定部15は、第1の基準線を設定する。第1の基準線は、文字の配列の基準となる基準線であって、例えば、アルファベットにおけるベースラインである。また、第1の基準線は、例えば、ひらがな及びカタカナ並びに漢字等における、文字の下端部を沿わせる基準線である。設定部15は、最小二乗法により第1の基準線を設定してもよい。図5は、ベースラインの設定処理の例を示す図である。図6は、ベースライン以外の基準線であるアセンダーライン、ミーンライン及びディセンダーラインの設定処理の例を示す図である。
 線位置情報取得部14は、図5の文字列W51における文字C51~C54のベースラインの線位置情報BP51~BP54を取得する。本実施形態では、線位置情報取得部14は、ベースラインの線位置情報における平均の値を取得する。
 続いて、設定部15は、認識された複数の文字のベースラインの線位置情報に基づいて、最小二乗法によりベースラインを設定する。本実施形態では、設定部15は、文字C51~C54のベースラインの線位置情報BP51~BP54に基づいて、最小二乗法により求めたベースラインLB5を、文字列W51を含む画像に対して設定する。
 次に、線位置情報取得部14は、アセンダーライン、ミーンライン及びディセンダーラインの設定のために、文字C51~C54のそれぞれについての、アセンダーライン、ミーンライン及びディセンダーラインの線位置情報を取得する。
 図6の文字列W51において示されるように、線位置情報取得部14は、文字C51のアセンダーライン、ミーンライン及びディセンダーラインのそれぞれの線位置情報AP61,MP61,DP61を取得する。ここで取得される線位置情報AP61,MP61,DP61は、文字における基準線の位置の分布として表現されており、平均及び分散を含む。同様に、文字C52~C54のアセンダーライン、ミーンライン及びディセンダーラインのそれぞれの線位置情報AP62,MP62,DP62、線位置情報AP63,MP63,DP63、線位置情報AP64,MP64,DP64を取得する。
 続いて、設定部15は、認識された複数の文字の、ベースライン以外の基準線の線位置情報の分布を積算し、線位置情報の分布の積算により得られた確率が最も高い位置を通り、ベースラインと同じ傾きを有する線を、当該基準線として設定する。
 ベースライン以外の3本の基準線の設定を具体的に説明する。文字領域を含む画像に任意に二次元座標系を設定し、ベースライン以外の3本の基準線のうちの一の基準線lを、傾きk、切片bとして、y=kx+bという式で表す。傾きkは、設定済みのベースラインの傾きと同じである。
 また、当該基準線lについて、傾きkが決定した時に尤度を最大化するような値を切片とすることができる。取得した画像において、N文字の文字領域が与えられているとして、c,c,・・・,cを、各文字の文字クラスとし、x,x,・・・,xを各文字の文字領域の横方向における中央位置の座標系X方向における位置とする。ここで、p(yil|c)を、i番目の文字クラスがcであるときの、基準線lのxにおける切片がyである確率とすると、基準線lの切片bは以下の式(1)で計算される。
Figure JPOXMLDOC01-appb-M000001
ここで、μlci,σlciは、線位置情報として得られる各文字クラスcに対する基準線lの位置の平均及び分散である。
 図6において、矢印により示されるように、設定部15は、文字C51~C54のアセンダーラインの線位置情報AP61~AP64に基づいて、アセンダーラインLA6を設定する。即ち、アセンダーラインLA6は、線位置情報AP61~AP64の平均及び分散の積算により算出された分布において、最も確率が高い位置に設定される。
 同様に、設定部15は、文字C51~C54のアセンダーラインの線位置情報MP61~MP64に基づいて、ミーンラインLM6を設定する。また、設定部15は、文字C51~C54のディセンダーラインの線位置情報DP61~DP64に基づいて、ディセンダーラインLD6を設定する。
 認識部13が、画像からの文字の認識結果の確からしさを示す信頼性スコアを算出及び出力する場合に、線位置情報取得部14は、認識部13により算出された信頼性スコアが所定値以上の文字の線位置情報を取得することとしてもよい。例えば、図5及び図6の例において、文字C51,C54の認識結果における信頼性スコアが所定値以上であって、文字C52,C53の信頼性スコアが所定値未満であった場合に、線位置情報取得部14は、文字C51,C54の線位置情報を取得する。従って、設定部15は、文字C51,C54の線位置情報のみを基準線の設定に用いることとなり、文字C52,C53の線位置情報は、基準線の設定に用いられない。
 認識結果における信頼性が低い文字の線位置情報に基づいて設定される基準線の位置は、当該文字を含む文字列に対する基準線の位置として妥当ではない可能性が高いので、このように、認識結果における信頼性スコアが所定値未満の文字の線位置情報を基準線の設定に用いないことにより、設定される基準線の位置の精度を向上させることができる。また、認識結果における信頼性が低くなるような文字に対しても、適切な位置に基準線を設定することが可能となる。
 また、認識及び基準線の設定の対象の文字がアルファベットである場合に、線位置情報取得部14は、大文字と小文字の形状が相似ではない文字の線位置情報を取得することとしてもよい。この場合には、設定部15は、大文字と小文字の形状が相似である文字のうちの大文字または小文字として認識された文字の線位置情報を、基準線の設定に用いない。即ち、認識部13において認識された文字が、大文字と小文字の形状が相似である文字の大文字又は小文字である場合には、当該文字が大文字及び小文字のいずれであるかの判定を誤っている可能性が高い。このような可能性に鑑みて、認識結果において、大文字と小文字の形状が相似である文字であると認識された文字の線位置情報を基準線の設定に用いないことにより、設定される基準線の位置の精度を向上させることが可能となる。
 なお、本実施形態では、ベースライン以外の基準線の傾きが、ベースラインの傾きと同様である場合の例を示しているが、ベースライン以外の基準線の傾きがベースラインの傾きと異なっていてもよい。例えば、4本の基準線が1点で収束するような傾きをそれぞれの基準線が有していることとしてもよい。
 即ち、設定部15は、認識部13により認識された複数の文字の、ベースライン以外の二以上の基準線の線位置情報の分布を積算し、線位置情報の分布の積算により得られた確率が最も高い位置を通り、ベースラインと一点で交わる二以上の基準線を設定することとしてもよい。
 また、本実施形態では、ベースラインが直線である場合の例を示しているが、ベースラインは、例えば、2次曲線、ベジェ曲線、スプライン曲線であってもよい。ベースラインが、これらの曲線である場合であっても、ベースラインの位置を示す線位置情報に基づいて、最小二乗法やその他の既知の手法により、ベースラインを算出できる。ベースラインが、これらの曲線である場合には、アセンダーライン、ミーンライン及びディセンダーラインも。ベースラインと同様のカーブを有するラインとして算出されることとしてもよい。
 次に、図7及び図8を参照して、本実施形態の基準線設定装置1の動作について説明する。図7は、基準線設定装置1において実施される基準線設定方法の処理内容を示すフローチャートである。
 まず、画像取得部12は、文字領域を含む画像を取得する(S1)。次に、認識部13は、画像に含まれる文字領域から、所定の認識手法により文字を認識する(S2)。
 続いて、線位置情報取得部14は、ステップS2において認識部13により認識された文字のうちの複数の文字の線位置情報を取得する(S3)。具体的には、線位置情報取得部14は、基準線位置記憶部21から線位置情報を取得する。基準線位置記憶部21に記憶されている線位置情報は、学習部11により種々の画像に表された複数の文字に基づいて算出されたものである。
 次に、設定部15は、ステップS3において取得された線位置情報に基づいて基準線を設定する基準線設定処理を実施する(S4)。図8を参照して、ステップS4における基準線設定処理を説明する。
 まず、線位置情報取得部14は、認識された各文字のベースラインの線位置情報を取得する(S41)。続いて、設定部15は、ステップS41において取得された、ベースラインの線位置情報に基づいて、最小二乗法によりベースラインを設定する(S42)。
 次に、線位置情報取得部14は、認識された各文字についての、アセンダーライン、ミーンライン及びディセンダーラインの線位置情報を取得する(S43)。続いて、設定部15は、ベースライン以外の各基準線ごとに、認識された複数の文字の線位置情報の分布を積算する(S44)。即ち、設定部15は、アセンダーライン、ミーンライン及びディセンダーラインのそれぞれについて、線位置情報に表される基準線の位置の分布を積算する。
 そして、設定部15は、線位置情報の分布の積算により得られた確率が最も高い位置を通り、ベースラインと同じ傾きを有する線を、当該基準線として設定する(S45)。
 次に、図9を参照して、コンピュータを基準線設定装置1として機能させるための基準線設定プログラムを説明する。基準線設定プログラムp1は、メインモジュールm10、学習モジュールm11、画像取得モジュールm12、認識モジュールm13、線位置情報取得モジュールm14及び設定モジュールm15を備える。
 メインモジュールm10は、基準線設定処理を統括的に制御する部分である。学習モジュールm11、画像取得モジュールm12、認識モジュールm13、線位置情報取得モジュールm14及び設定モジュールm15を実行することにより実現される機能はそれぞれ、図1に示される基準線設定装置1の学習部11、画像取得部12、認識部13、線位置情報取得部14及び設定部15の機能と同様である。
 基準線設定プログラムp1は、例えば、CD-ROMやDVD-ROMまたは半導体メモリ等の記憶媒体d1によって提供される。また、基準線設定プログラムp1は、搬送波に重畳されたコンピュータデータ信号として通信ネットワークを介して提供されてもよい。
 以上説明した本実施形態の基準線設定装置1、基準線設定方法及び基準線設定プログラムp1によれば、画像から認識することができた文字の線位置情報に基づいて、当該文字を含む画像に対して基準線が設定される。線位置情報が、文字ごとに線位置情報を予め記憶している記憶手段から取得され、取得された線位置情報に基づいて基準線が設定されるので、高精度に基準線を設定できる。また、認識することができた文字の線位置情報に基づいて基準線が設定されるので、認識することができなかった文字も含む、画像に表された文字列の全体に対して高精度に基準線を設定することができる。
 以上、本発明をその実施形態に基づいて詳細に説明した。しかし、本発明は上記実施形態に限定されるものではない。本発明は、その要旨を逸脱しない範囲で様々な変形が可能である。
 例えば、本実施形態では、画像に含まれるアルファベットの文字列に対して基準線を設定する例で説明したが、この例には限定されない。本発明は、例えば、その他の種類の文字にも適用可能であり、日本語を表す文字列に適用してもよい。その場合には、設定する基準線の数を、アルファベットの場合における4本ではなく、例えば2本または3本であることとしてもよい。例えば、文字列がひらがな及びカタカナ並びに漢字で構成される場合には、文字の下端及び上端に2本の基準線が設定されることとしてもよい。また、文字の上端及び下端の2本の基準線の中心位置に3本目の基準線が設定されることとしてもよい。
 1…基準線設定装置、11…学習部、12…画像取得部、13…認識部、14…線位置情報取得部、15…設定部、21…基準線位置記憶部、d1…記憶媒体、p1…基準線設定プログラム、m10…メインモジュール、m11…学習モジュール、m12…画像取得モジュール、m13…認識モジュール、m14…線位置情報取得モジュール、m15…設定モジュール。

Claims (11)

  1.  文字領域を含む画像を取得する画像取得手段と、
     前記画像の前記文字領域から所定の認識手法により文字を認識する認識手段と、
     文字の縦方向における少なくとも2本の基準線が通る位置に関する線位置情報を文字ごとに記憶している記憶手段を参照して、前記認識手段により認識された文字のうちの複数の文字の線位置情報を取得し、前記基準線は文字の配列方向に引かれ各文字の所定部分を沿わせて配列させるための線である、線位置情報取得手段と、
     前記線位置情報取得手段により取得された基準線ごとの複数の線位置情報に基づいて、前記画像に各基準線を設定する設定手段と、
     を備える基準線設定装置。
  2.  前記線位置情報取得手段は、1本の第1の基準線が通る位置を示す線位置情報を取得し、
     前記設定手段は、複数の文字の、前記第1の基準線の線位置情報に基づいて、最小二乗法により当該第1の基準線を設定する、
     請求項1に記載の基準線設定装置。
  3.  前記線位置情報は、前記文字の縦方向における基準線が通る位置の分布の平均と分散とからなり、
     前記設定手段は、前記認識手段により認識された複数の文字の、前記基準線のうちの前記第1の基準線以外の一の基準線の線位置情報の分布を積算し、線位置情報の分布の積算により得られた確率が最も高い位置を通り、前記第1の基準線と同じ傾きを有する線を、当該一の基準線として設定する、
     請求項2に記載の基準線設定装置。
  4.  前記線位置情報は、前記文字の縦方向における基準線が通る位置の分布の平均と分散とからなり、
     前記設定手段は、前記認識手段により認識された複数の文字の、前記基準線のうちの前記第1の基準線以外の二以上の基準線の線位置情報の分布を積算し、線位置情報の分布の積算により得られた確率が最も高い位置を通り、前記第1の基準線と一点で交わる前記二以上の基準線を設定する、
     請求項2に記載の基準線設定装置。
  5.  前記文字はアルファベットであり、
     前記基準線は、アセンダーライン、ミーンライン、ベースライン及びディセンダーラインを含み、
     前記線位置情報取得手段は、文字ごとのアセンダーライン、ミーンライン、ベースライン及びディセンダーラインの線位置情報を取得し、
     前記設定手段は、複数の文字の、アセンダーライン、ミーンライン、ベースライン及びディセンダーラインのそれぞれの線位置情報に基づいて、各基準線を設定する、
     請求項1~4のいずれか一項に記載の基準線設定装置。
  6.  前記基準線が設定された複数の文字が表された複数の画像に基づいて、文字ごとの線位置情報を算出し、算出した線位置情報を文字ごとに前記記憶手段に記憶させる学習手段を更に備える、
     請求項1~5のいずれか一項に記載の基準線設定装置。
  7.  前記学習手段は、複数の画像に表された複数の文字に基づいて、文字の縦方向における各基準線が通る位置の平均及び分散を前記線位置情報として算出する、
     請求項6に記載の基準線設定装置。
  8.  前記文字はアルファベットであり、
     前記線位置情報取得手段は、大文字と小文字の形状が相似ではない文字の線位置情報を取得する、
     請求項1~7のいずれか一項に記載の基準線設定装置。
  9.  前記認識手段は、画像からの文字の認識結果の確からしさを示す信頼性スコアを算出し、
     前記線位置情報取得手段は、前記信頼性スコアが所定値以上の文字の線位置情報を取得する、
     請求項1~8のいずれか一項に記載の基準線設定装置。
  10.  基準線設定装置における基準線設定方法であって、
     文字領域を含む画像を取得する画像取得ステップと、
     前記画像の前記文字領域から所定の認識手法により文字を認識する認識ステップと、
     文字の縦方向における少なくとも2本の基準線が通る位置に関する線位置情報を文字ごとに記憶している記憶手段を参照して、前記認識ステップにおいて認識された文字のうちの複数の文字の線位置情報を取得し、前記基準線は文字の配列方向に引かれ各文字の所定部分を沿わせて配列させるための線である、線位置情報取得ステップと、
     前記線位置情報取得ステップにおいて取得された基準線ごとの複数の線位置情報に基づいて、前記画像に各基準線を設定する設定ステップと、
     を有する基準線設定方法。
  11.  基準線設定装置としてコンピュータを機能させる基準線設定プログラムであって、
     前記コンピュータを、
     文字領域を含む画像を取得する画像取得手段、
     前記画像の前記文字領域から所定の認識手法により文字を認識する認識手段、
     文字の縦方向における少なくとも2本の基準線が通る位置に関する線位置情報を文字ごとに記憶している記憶手段を参照して、前記認識手段により認識された文字のうちの複数の文字の線位置情報を取得し、前記基準線は文字の配列方向に引かれ各文字の所定部分を沿わせて配列させるための線である、線位置情報取得手段、及び
     前記線位置情報取得手段により取得された基準線ごとの複数の線位置情報に基づいて、前記画像に各基準線を設定する設定手段、
     として機能させる基準線設定プログラム。
     
     
PCT/JP2015/070600 2015-07-17 2015-07-17 基準線設定装置、基準線設定方法及び基準線設定プログラム Ceased WO2017013720A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US15/554,031 US10311318B2 (en) 2015-07-17 2015-07-17 Reference line setting device, reference line setting method and reference line setting program
PCT/JP2015/070600 WO2017013720A1 (ja) 2015-07-17 2015-07-17 基準線設定装置、基準線設定方法及び基準線設定プログラム
JP2016504816A JP5913763B1 (ja) 2015-07-17 2015-07-17 基準線設定装置、基準線設定方法及び基準線設定プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/070600 WO2017013720A1 (ja) 2015-07-17 2015-07-17 基準線設定装置、基準線設定方法及び基準線設定プログラム

Publications (1)

Publication Number Publication Date
WO2017013720A1 true WO2017013720A1 (ja) 2017-01-26

Family

ID=55808320

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2015/070600 Ceased WO2017013720A1 (ja) 2015-07-17 2015-07-17 基準線設定装置、基準線設定方法及び基準線設定プログラム

Country Status (3)

Country Link
US (1) US10311318B2 (ja)
JP (1) JP5913763B1 (ja)
WO (1) WO2017013720A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5913763B1 (ja) * 2015-07-17 2016-04-27 楽天株式会社 基準線設定装置、基準線設定方法及び基準線設定プログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03126188A (ja) * 1989-10-11 1991-05-29 Oki Electric Ind Co Ltd 文字認識装置
JPH0412288A (ja) * 1990-05-01 1992-01-16 Koyo Electron Ind Co Ltd 距離センサの不安定動作検出装置
JPH05282493A (ja) * 1992-03-31 1993-10-29 Matsushita Electric Ind Co Ltd 英文字認識装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04127288A (ja) * 1990-05-21 1992-04-28 Fuji Facom Corp ベースラインによる文字判別方法
JP4170441B2 (ja) * 1997-11-28 2008-10-22 富士通株式会社 文書画像傾き検出装置および文書画像傾き検出プログラムの記憶媒体
JP2001101435A (ja) * 1999-09-27 2001-04-13 Toshiba Corp 文書画像処理装置文書画像処理方法
JP4508553B2 (ja) * 2003-06-02 2010-07-21 カシオ計算機株式会社 撮影画像投影装置、及び撮影画像の補正方法
CN100542239C (zh) * 2004-07-20 2009-09-16 松下电器产业株式会社 视频处理设备及其方法
JP4607633B2 (ja) * 2005-03-17 2011-01-05 株式会社リコー 文字方向識別装置、画像形成装置、プログラム、記憶媒体および文字方向識別方法
JP5582674B2 (ja) * 2007-07-20 2014-09-03 アルパイン株式会社 文字データの生成装置および生成方法、文字データの表示制御装置および表示方法、ナビゲーション装置
US8423916B2 (en) * 2008-11-20 2013-04-16 Canon Kabushiki Kaisha Information processing apparatus, processing method thereof, and computer-readable storage medium
US8588529B2 (en) 2011-08-15 2013-11-19 Vistaprint Schweiz Gmbh Method and system for detecting text in raster images
US10607381B2 (en) * 2014-07-07 2020-03-31 Canon Kabushiki Kaisha Information processing apparatus
JP5913763B1 (ja) * 2015-07-17 2016-04-27 楽天株式会社 基準線設定装置、基準線設定方法及び基準線設定プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03126188A (ja) * 1989-10-11 1991-05-29 Oki Electric Ind Co Ltd 文字認識装置
JPH0412288A (ja) * 1990-05-01 1992-01-16 Koyo Electron Ind Co Ltd 距離センサの不安定動作検出装置
JPH05282493A (ja) * 1992-03-31 1993-10-29 Matsushita Electric Ind Co Ltd 英文字認識装置

Also Published As

Publication number Publication date
JPWO2017013720A1 (ja) 2017-07-20
US20180046873A1 (en) 2018-02-15
JP5913763B1 (ja) 2016-04-27
US10311318B2 (en) 2019-06-04

Similar Documents

Publication Publication Date Title
US10055660B1 (en) Arabic handwriting recognition utilizing bag of features representation
KR100658119B1 (ko) 문자 인식 장치 및 방법
Yadav et al. A robust approach for offline English character recognition
CN113486828A (zh) 图像处理方法、装置、设备和存储介质
Torki et al. Window-based descriptors for Arabic handwritten alphabet recognition: a comparative study on a novel dataset
JPH08180139A (ja) 拘束のない手書き英数字のオンライン認識の方法及び装置
Okamoto et al. Performance evaluation of a robust method for mathematical expression recognition
Naz et al. Challenges in baseline detection of Arabic script based languages
JP2000315247A (ja) 文字認識装置
Costa Filho et al. A fully automatic method for recognizing hand configurations of Brazilian sign language
CN109766893A (zh) 适于购物小票的图片文字识别方法
JP6868052B2 (ja) 画像認識装置、画像認識方法、画像認識プログラム及び画像認識システム
JP5913763B1 (ja) 基準線設定装置、基準線設定方法及び基準線設定プログラム
CN108062548B (zh) 一种盲文方自适应定位方法及系统
JP6310155B2 (ja) 文字認識装置、文字認識方法及び文字認識プログラム
JP2013097561A (ja) 単語間空白検出装置、単語間空白検出方法及び単語間空白検出用コンピュータプログラム
Costa et al. A fully automatic method for recognizing hand configurations of Brazilian sign language
Naz et al. Challenges in baseline detection of cursive script languages
Fiel et al. Writer identification on historical Glagolitic documents
Pattanayak Recognizing ODIA handwritten scripts
Sajedi et al. Persian handwritten number recognition using adapted framing feature and support vector machines
US11270146B2 (en) Text location method and apparatus
JP2012008979A (ja) 文字列探索方法、文字列探索装置、記録媒体
JP5298830B2 (ja) 画像処理プログラム、画像処理装置及び画像処理システム
Mirza Printed arabic characters recognition based on minimum distance classifier technique

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2016504816

Country of ref document: JP

Kind code of ref document: A

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15898880

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 15554031

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 15898880

Country of ref document: EP

Kind code of ref document: A1