JP6160363B2 - Article information recognition device - Google Patents

Article information recognition device Download PDF

Info

Publication number
JP6160363B2
JP6160363B2 JP2013173968A JP2013173968A JP6160363B2 JP 6160363 B2 JP6160363 B2 JP 6160363B2 JP 2013173968 A JP2013173968 A JP 2013173968A JP 2013173968 A JP2013173968 A JP 2013173968A JP 6160363 B2 JP6160363 B2 JP 6160363B2
Authority
JP
Japan
Prior art keywords
character string
character
item
article information
content
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013173968A
Other languages
Japanese (ja)
Other versions
JP2015041371A (en
Inventor
菅野 茂
茂 菅野
淳 倉山
淳 倉山
正美 岩井
正美 岩井
小林 紀夫
紀夫 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Daifuku Co Ltd
Original Assignee
Daifuku Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daifuku Co Ltd filed Critical Daifuku Co Ltd
Priority to JP2013173968A priority Critical patent/JP6160363B2/en
Publication of JP2015041371A publication Critical patent/JP2015041371A/en
Application granted granted Critical
Publication of JP6160363B2 publication Critical patent/JP6160363B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、物品における情報表示面を撮像する撮像装置と、前記撮像装置の撮像画像に基づいて前記情報表示面に表示された物品情報を示す文字列を認識する物品情報認識部と、が設けられた物品情報認識装置に関する。   The present invention includes an imaging device that images an information display surface of an article, and an article information recognition unit that recognizes a character string indicating article information displayed on the information display surface based on a captured image of the imaging device. The present invention relates to an article information recognition apparatus.

このような物品情報認識装置は、例えば、物流設備において、当該物流設備に受け入れられた物品の物品情報(製造番号や使用期限等)を認識するために用いられる。物品情報は、物品の情報表示面に、作業者にも識別可能な文字情報として表示される。
従来、情報表示面を撮像装置で撮像し、撮像装置の撮像画像に対して、情報表示面において物品情報が表示されることが予定されている所定の領域の文字列を抽出して物品情報として認識し(以降、領域文字列認識処理と称する)、上記所定の領域に文字列が抽出できなかった場合には、情報表示面に表示されているすべての文字列を抽出した上で、抽出した文字列と上記物品情報として規定される文字列のパターン(例えば、各文字の文字種別等の情報)との照合を行って、許容条件を満たした文字列を物品情報として認識する(以降、パターン認識処理と称する)ように構成された物品情報認識装置があった(例えば、特許文献1(特に段落〔0053〕)参照)。
Such an article information recognition apparatus is used, for example, in a logistics facility to recognize article information (manufacturing number, expiration date, etc.) of an article accepted by the logistics facility. The article information is displayed on the information display surface of the article as character information that can be identified by the operator.
Conventionally, an information display surface is imaged by an imaging device, and a character string of a predetermined area where article information is scheduled to be displayed on the information display surface is extracted from the captured image of the imaging device as article information. If it is recognized (hereinafter referred to as area character string recognition processing) and character strings cannot be extracted in the predetermined area, all character strings displayed on the information display surface are extracted and extracted. The character string is compared with the character string pattern defined as the article information (for example, information such as the character type of each character), and the character string satisfying the allowable condition is recognized as the article information (hereinafter referred to as the pattern). There has been an article information recognition device configured to be called recognition processing (see, for example, Patent Document 1 (particularly, paragraph [0053])).

特開2006−103813号公報JP 2006-103813 A

上記特許文献1の物品情報認識装置では、物品情報を示す文字列が撮像画像における所定の領域に存在していれば、領域文字列認識処理によって迅速にその文字列を抽出して物品情報として認識することができる。
しかしながら、物品が複数種別存在する場合には、上記物品情報の文字列が常に所定の領域に位置しているとは限らない。また、例えば、物品のデザイン変更によって、物品情報の文字列が表示される位置が変更されることもあり得る。その為、所定の領域を対象に領域文字列認識処理を実行しても文字列が抽出できなくなる虞があり、そのような場合には、物品の情報表示面に表示される全ての文字列を抽出し、抽出した文字列に対してパターン認識処理を行うことになり、情報表示面に表示された物品情報を認識する処理を迅速に行い難いという問題があった。特に、物品が複数種別存在する場合には、物品情報の文字列のパターンが複数存在することになるため、その複数のパターンとの照合を行わねばならず、上記問題が顕著となる。
In the article information recognition apparatus of Patent Document 1, if a character string indicating article information is present in a predetermined region in the captured image, the character string is quickly extracted by region character string recognition processing and recognized as article information. can do.
However, when there are a plurality of types of articles, the character string of the article information is not always located in a predetermined area. Further, for example, the position where the character string of the article information is displayed may be changed by changing the design of the article. For this reason, there is a possibility that the character string cannot be extracted even if the region character string recognition process is executed for a predetermined region. In such a case, all the character strings displayed on the information display surface of the article are displayed. Extraction and pattern recognition processing are performed on the extracted character string, and there is a problem that it is difficult to quickly perform processing for recognizing article information displayed on the information display surface. In particular, when there are a plurality of types of articles, there are a plurality of character string patterns of the article information. Therefore, matching with the plurality of patterns must be performed, and the above problem becomes significant.

そこで、物品の情報表示面に表示された物品情報を迅速に認識することが可能な物品情報認識装置の実現が望まれる。   Therefore, it is desired to realize an article information recognition apparatus that can quickly recognize article information displayed on the article information display surface.

上記課題を解決するための本発明にかかる物品情報認識装置は、物品における情報表示面を撮像する撮像装置と、前記撮像装置の撮像画像に基づいて前記情報表示面に表示された物品情報を認識する物品情報認識部と、が設けられたものであって、
前記撮像画像において前記物品情報を示す文字列には、前記物品情報の種別を示す種目文字列と、前記種目文字列に対応する前記物品情報を示す内容文字列とを含み、
前記撮像画像において前記種目文字列を囲む枠と、前記撮像画像において前記内容文字列が表示されていると予定される表示予定枠との間には、前記撮像画像における相対的な位置が規定されており、
前記物品情報認識部が、
前記撮像画像において前記種目文字列を検出する種目文字列検出処理と、
前記種目文字列検出処理にて検出された前記種目文字列との相対位置に基づいて、前記表示予定枠に対応する表示予定領域を前記撮像画像に設定し、且つ、前記表示予定領域に存在する前記内容文字列を抽出する文字列抽出処理と、
前記文字列抽出処理にて抽出した前記内容文字列に基づいて前記物品情報を認識する物品情報認識処理と、
を実行する点を特徴とする。
An article information recognition apparatus according to the present invention for solving the above-described problems is an imaging apparatus that images an information display surface of an article, and recognizes article information displayed on the information display surface based on a captured image of the imaging apparatus. An article information recognizing unit to provide,
In the captured image, the character string indicating the item information includes an item character string indicating the type of the item information, and a content character string indicating the item information corresponding to the item character string,
A relative position in the captured image is defined between a frame surrounding the item character string in the captured image and a display scheduled frame in which the content character string is expected to be displayed in the captured image. And
The article information recognition unit
And event string detection process for detecting a pre-Symbol seed th string in the captured image,
Based on the relative position to the event character string detected in the event character string detection process, a display scheduled area corresponding to the display schedule frame is set in the captured image and exists in the display scheduled area. A character string extraction process for extracting the content character string;
An article information recognition process for recognizing the article information based on the content character string extracted in the character string extraction process;
It is characterized in that

すなわち、検出した種目文字列に対応して設定される表示予定領域に存在する内容文字列を抽出し、抽出した内容文字列に基づいて物品情報を認識することができる。
種目文字列は、例えば、「製造番号」や「使用期限」等といった、物品情報の種別を表す文字列である。例えば、使用期限を示す種目文字列としては、他に「UseByDate」等の文字列が想定し得るが、そのバリエーションは限られている。一方、内容文字列としては、物品の種別によって、文字数や文字の並び順の異なる様々なバリエーションが想定し得る。このように、種目文字列のバリエーションは内容文字列のバリエーションに比べて少ない。このため、例えば、上述したようなパターン認識処理を行う場合と比べて、物品の情報表示面に表示された物品情報を迅速に認識することが可能となる。
このように、物品の情報表示面に表示された物品情報を迅速に認識することが可能な物品情報認識装置が提供できる。
That is, it is possible to extract a content character string existing in a display scheduled area set corresponding to the detected item character string, and recognize article information based on the extracted content character string.
The item character string is a character string representing the type of article information such as “manufacturing number” and “expiration date”. For example, as the item character string indicating the expiration date, other character strings such as “UseByDate” can be assumed, but variations thereof are limited. On the other hand, as a content character string, various variations in which the number of characters and the arrangement order of characters differ depending on the type of article can be assumed. Thus, the variation of the item character string is smaller than the variation of the content character string. For this reason, compared with the case where the pattern recognition process as described above is performed, for example, the article information displayed on the information display surface of the article can be quickly recognized.
Thus, an article information recognition device that can quickly recognize article information displayed on the information display surface of the article can be provided.

本発明に係る物品情報認識装置の実施形態においては、前記物品情報認識部が、前記内容文字列に使用される文字の属性である設定文字属性を前記種目文字列に対応づけて予め記憶するように構成され、かつ、前記種目文字列ついての前記表示予定領域に対して実行した前記文字列抽出処理にて抽出した前記内容文字列について、前記設定文字属性に基づいて適正度を評価する文字列評価処理を実行し、前記物品情報認識処理において、前記文字列評価処理にて評価された前記内容文字列の適性度が設定適正条件を満たす場合に、当該内容文字列が示す内容を前記物品情報として認識するように構成されていることが好ましい。   In an embodiment of the article information recognition apparatus according to the present invention, the article information recognition unit stores in advance a set character attribute that is an attribute of a character used for the content character string in association with the item character string. A character string that evaluates the appropriateness based on the set character attribute for the content character string extracted by the character string extraction process performed on the display scheduled area for the item character string. When the suitability of the content character string evaluated in the character string evaluation process satisfies a set proper condition in the article information recognition process, the content indicated by the content character string is represented by the article information. It is preferable that it is comprised so that it may recognize as.

すなわち、種目文字列についての表示予定領域に対して実行した文字列抽出処理にて抽出した内容文字列について、その種目文字列に対応づけて予め記憶された設定文字属性に基づいて適正度を評価し、適性度が設定適正条件を満たす場合に、当該内容文字列が示す内容を物品情報として認識するから、文字列抽出処理において複数の文字列を抽出した場合に、より適正度の高い内容文字列を物品情報として認識することができる。このため、文字列抽出処理にて抽出した内容文字列に基づいて、より正確に物品情報を認識することができ、認識精度を向上できる。   That is, for the content character string extracted by the character string extraction process executed for the display scheduled area for the item character string, the appropriateness is evaluated based on the set character attribute stored in advance in association with the item character string. When the suitability satisfies the set suitability condition, the content indicated by the content character string is recognized as article information. Therefore, when a plurality of character strings are extracted in the character string extraction process, the content character having a higher appropriateness is obtained. A column can be recognized as article information. For this reason, based on the content character string extracted by the character string extraction process, the article information can be recognized more accurately, and the recognition accuracy can be improved.

本発明に係る物品情報認識装置の実施形態においては、前記設定文字属性が、前記内容文字列に使用される文字の書体であることが好ましい。   In an embodiment of the article information recognition apparatus according to the present invention, it is preferable that the set character attribute is a font of characters used for the content character string.

すなわち、情報表示面に表示される内容文字列の夫々が、異なる複数の書体を用いて表示されている場合がある。このような場合に、内容文字列に使用される文字に基づいてその内容文字列の適正度を評価し、設定適正条件を満たす内容文字列を物品情報として認識することによって、より適正度の高い内容文字列を物品情報として認識することができる。   That is, each content character string displayed on the information display surface may be displayed using a plurality of different typefaces. In such a case, the appropriateness of the content character string is evaluated based on the characters used in the content character string, and the content character string satisfying the set appropriate condition is recognized as the article information, so that the appropriateness is higher. The content character string can be recognized as article information.

本発明に係る物品情報認識装置の実施形態においては、前記設定文字条件が、前記内容文字列における文字の上下方向の寸法であることが好ましい。   In the embodiment of the article information recognition apparatus according to the present invention, it is preferable that the set character condition is a vertical dimension of the character in the content character string.

すなわち、情報表示面に表示される文字列の夫々の上下方向の寸法が異なる場合がある。このような場合に、文字列の上下方向の寸法に基づいてその文字列の適正度を評価し、設定適正条件を満たす内容文字列を物品情報として認識することによって、より適正度の高い内容文字列を物品情報として認識することができる。   That is, the vertical dimension of each character string displayed on the information display surface may be different. In such a case, by evaluating the appropriateness of the character string based on the vertical dimension of the character string and recognizing the content character string satisfying the setting appropriateness condition as the article information, the content character with higher appropriateness is obtained. A column can be recognized as article information.

本発明に係る物品情報認識装置の実施形態においては、前記物品情報認識部が、前記内容文字列の文字数として定められた予定文字数情報を前記種目文字列に対応づけて予め記憶するように構成され、かつ、前記文字列抽出処理を実行した結果、その文字列抽出処理にて抽出された前記内容文字列の文字数が前記予定文字数情報にて規定された文字数に満たない場合には、前記表示予定領域を設定寸法だけ拡張した拡張後の表示予定領域に対して前記文字列抽出処理を実行するように構成されていることが好ましい。   In an embodiment of the article information recognition apparatus according to the present invention, the article information recognition unit is configured to store in advance the scheduled character number information determined as the number of characters of the content character string in association with the item character string. And, as a result of executing the character string extraction process, if the number of characters of the content character string extracted by the character string extraction process is less than the number of characters specified in the planned character number information, the display schedule It is preferable that the character string extraction process is executed on the display scheduled area after the area is expanded by a set dimension.

すなわち、情報表示面には種目文字列に対応する内容文字列として必要な文字数の文字がすべて表示されていたとしても、その内容文字列における全ての文字が表示予定領域に存在しない場合(すなわち、内容文字列が表示予定領域からずれて表示されているような場合)、文字列抽出処理によって抽出した内容文字列が物品情報として必要な文字数よりも少ない状態となる場合がある。   That is, even if all the characters of the number of characters necessary for the content character string corresponding to the item character string are displayed on the information display surface, all the characters in the content character string are not present in the display scheduled area (that is, When the content character string is displayed deviating from the scheduled display area), the content character string extracted by the character string extraction process may be less than the number of characters necessary for the article information.

上記構成によれば、文字列抽出処理にて抽出された内容文字列の文字数が予定文字数情報にて規定された文字数に満たなければ、表示予定領域を設定寸法だけ拡張した拡張後の表示予定領域に対して文字列抽出処理を実行することになる。
これにより、拡張後の表示予定領域には、物品情報として必要な全ての文字列が存在する可能性が高くなるので、その拡張した表示予定領域に対して文字列抽出処理を実行することによって、種目文字列に対応する内容文字列を適切に抽出できる可能性が高くなる。
また、仮に拡張した表示予定領域に対して文字列抽出処理を実行しても、なお抽出した内容文字列が物品情報として必要な文字数よりも少ない場合は、さらに表示予定領域を拡張してその拡張した表示予定領域に対して文字列抽出処理を実行すれば、種目文字列に対応する内容文字列を適切に抽出できる可能性がさらに高くなる。
According to the above configuration, if the number of characters in the content character string extracted by the character string extraction processing does not satisfy the number of characters specified in the planned character count information, the display planned area after expansion is expanded by the set dimension. The character string extraction process is executed for the.
As a result, there is a high possibility that all character strings necessary as article information are present in the expanded display schedule area, so by executing the character string extraction process on the expanded display schedule area, There is a high possibility that the content character string corresponding to the event character string can be appropriately extracted.
In addition, even if the character string extraction process is executed for the expanded display planned area, if the extracted content character string is less than the number of characters required for the article information, the display planned area is further expanded to expand the display target area. If the character string extraction process is performed on the display scheduled area, the possibility of appropriately extracting the content character string corresponding to the item character string is further increased.

すなわち、上記構成によれば、文字列抽出処理の対象とする領域を制限することによって物品情報の認識の迅速化を図りつつ、そのように文字列抽出処理の対象とする領域を制限することによって内容文字列が欠落する事態を極力回避できる。
このように、上記構成によれば、物品情報の認識の迅速化を図りつつ、文字列抽出処理によって抽出した内容文字列が欠落する事態を極力回避できる。
In other words, according to the above configuration, by limiting the area targeted for the character string extraction process, speeding up the recognition of the article information, and thus limiting the area targeted for the character string extraction process. The situation where the content character string is missing can be avoided as much as possible.
Thus, according to the above configuration, it is possible to avoid as much as possible the situation in which the content character string extracted by the character string extraction process is lost while speeding up the recognition of the article information.

本発明に係る物品情報認識装置の実施形態においては、前記物品情報認識部が、前記内容文字列に使用される文字の候補である認識候補文字を前記種目文字列に対応づけて予め記憶するとともに、前記認識候補文字の少なくとも1つについて、当該認識候補文字に類似する文字として予め設定された少なくとも1つの誤読想定文字を当該認識候補文字に対応付けて記憶するように構成され、かつ、前記種目文字列ついての前記表示予定領域に対して実行した前記文字列抽出処理にて抽出した前記内容文字列の夫々の文字について、前記認識候補文字であるか否かを判定する抽出文字判定処理と、前記抽出文字判定処理により前記認識候補文字でないと判定された文字が前記誤読想定文字である場合には、当該誤読想定文字を当該誤読想定文字に対応付けて記憶されている前記認識候補文字と置換する認識結果置換処理を実行することが好ましい。   In an embodiment of the article information recognition apparatus according to the present invention, the article information recognition unit stores a recognition candidate character that is a candidate for a character used for the content character string in advance in association with the item character string. The at least one recognition candidate character is configured to store at least one presumed misread character preset as a character similar to the recognition candidate character in association with the recognition candidate character, and the item An extracted character determination process for determining whether or not each character of the content character string extracted in the character string extraction process performed on the scheduled display area for a character string is the recognition candidate character; If the character that is determined not to be the recognition candidate character by the extracted character determination process is the expected misreading character, the expected misreading character is referred to as the expected misreading character. It is preferable to perform the recognition result replacement processing for replacing said recognized candidate characters stored in association.

すなわち、文字列抽出処理において、種目文字列に対応する内容文字列に使用されるべき文字とは異なる文字が抽出される場合がある。例えば、使用期限を示す内容文字列においては、数字についてはすべての文字が使用されないので、使用期限についての文字列抽出処理にて例えば「I」や「O」を抽出したとすれば、これらに類似した形象の文字である数字の「1」や「0」と誤読している可能性がある。
上記構成によれば、認識候補文字でないと判定された文字が誤読想定文字である場合には、誤読想定文字をその誤読想定文字に対応付けられている認識候補文字と置換することができる。上記の例の場合、アルファベットの「I」や「O」を誤読想定文字に設定し、認識候補文字のうち数字の「1」をアルファベットの「I」に対応する認識候補文字として、数字の「0」をアルファベットの「O」に対応する認識候補文字として記憶しておけば、抽出文字判定処理において認識候補文字でないと判定された誤読想定文字としてのアルファベットの「I」や「O」を、当該「I」や「O」に対応付けられている認識候補文字としての数字の「1」や「0」に置換することができる。
このように、文字列抽出処理にて抽出した内容文字列に基づいて物品情報を認識する場合に、その認識精度を向上することができる。
That is, in the character string extraction process, a character different from the character to be used for the content character string corresponding to the item character string may be extracted. For example, in the content character string indicating the expiration date, not all characters are used for numbers, so if, for example, “I” or “O” is extracted in the character string extraction process for the expiration date, There is a possibility of misreading the numbers “1” and “0”, which are similar figures.
According to the above configuration, when a character determined not to be a recognition candidate character is a misreading assumed character, the misreading assumed character can be replaced with a recognition candidate character associated with the misreading assumed character. In the case of the above example, the alphabet “I” or “O” is set as a misread assumption character, and the number “1” among the recognition candidate characters is used as the recognition candidate character corresponding to the alphabet “I”. If “0” is stored as a recognition candidate character corresponding to the alphabet “O”, the alphabet “I” or “O” as a misreading assumed character determined not to be a recognition candidate character in the extracted character determination process, It can be replaced with the numbers “1” and “0” as the recognition candidate characters associated with the “I” and “O”.
Thus, when the article information is recognized based on the content character string extracted by the character string extraction process, the recognition accuracy can be improved.

本発明に係る物品情報認識装置の実施形態においては、異なる2つの属性の前記物品情報に対応する異なる2つの前記種目文字列が、前記物品の前記情報表示面における異なる位置に表示され、前記物品情報認識部が、前記種目文字列検出処理において異なる2つの前記種目文字列の夫々を検出自在に構成され、かつ、前記種目文字列検出処理により異なる2つの前記種目文字列のうち一方の前記種目文字列のみが検出され、当該一方の種目文字列についての前記表示予定領域に2つの前記内容文字列を抽出した場合において、抽出された2つの前記内容文字列のうち一方の内容文字列が一方の種目文字列に対応する物品情報と認識したときには、抽出された2つの前記内容文字列のうち他方の内容文字列を、異なる2つの前記種目文字列のうち他方の種目文字列に対応する物品情報と認識するように構成されていることが好ましい。   In an embodiment of the article information recognition apparatus according to the present invention, two different item character strings corresponding to the article information having two different attributes are displayed at different positions on the information display surface of the article, and the article The information recognition unit is configured to be able to detect each of the two different item character strings in the item character string detection process, and one of the two item character strings different in the item character string detection process When only the character string is detected and the two content character strings are extracted in the display-scheduled area for the one item character string, one content character string is one of the two extracted content character strings. When the item information corresponding to the item character string is recognized, the other content character string of the two extracted content character strings is replaced by two different item character strings. It is preferably configured to recognize an article information corresponding to the Chi other disciplines string.

すなわち、種目文字列検出処理にて異なる2つの属性の物品情報に対応する異なる2つの種目文字列のうちの一方のみが検出され、その一方の種目文字列についての表示予定領域に2つの内容文字列を抽出した場合において、抽出された2つの内容文字列のうち一方の内容文字列が一方の種目文字列に対応する物品情報と認識できた場合、2つの内容文字列のうち他方の内容文字列は、種目文字列検出処理にて検出できなかった他方の種目文字列に対応するものと推定することができる。
そこで、上記のような場合、抽出された2つの内容文字列のうち他方の内容文字列を、異なる2つの種目文字列のうち他方の種目文字列に対応する物品情報と認識することによって、仮に2つの種目文字列のうちの一方のみしか検出できなかったとしても、2つの種目文字列と、その夫々に対応する内容文字列とを対応付けて、適切に物品情報を認識することができる。
That is, only one of the two different item character strings corresponding to the item information having two different attributes is detected in the item character string detection process, and two content characters are displayed in the display scheduled area for the one item character string. When a column is extracted, if one content character string can be recognized as article information corresponding to one item character string, the other content character of the two content character strings is extracted. The column can be estimated to correspond to the other item character string that could not be detected by the item character string detection process.
Therefore, in the above case, by recognizing the other content character string of the two extracted content character strings as article information corresponding to the other item character string of two different item character strings, Even if only one of the two item character strings can be detected, the item information can be appropriately recognized by associating the two item character strings with the content character strings corresponding to the two item character strings.

物品情報認識装置の要部を示す斜視図The perspective view which shows the principal part of an article | item information recognition apparatus. 情報表示面に表示された種目文字列及び内容文字列の例を示す図The figure which shows the example of the item character string and content character string which were displayed on the information display surface 物品情報認識装置の制御ブロック図Control block diagram of article information recognition apparatus 物品情報認識装置が実行する処理のフローチャートFlow chart of processing executed by article information recognition apparatus 物品情報認識装置が実行する処理のフローチャートFlow chart of processing executed by article information recognition apparatus 物品情報認識装置が実行する処理のフローチャートFlow chart of processing executed by article information recognition apparatus 種目文字列に対して複数の内容文字列が抽出された場合を示す例Example showing multiple content strings extracted for the event string 文字列抽出処理において読取結果の誤認が生じた場合を示す例An example of a case where the reading result is misidentified in the character string extraction process 認識候補文字と誤読想定文字との対応付を説明する図The figure explaining correspondence with a recognition candidate character and a misreading assumption character 認識結果置換処理を説明する図The figure explaining recognition result substitution processing 表示予定領域の拡張を説明する図Diagram explaining expansion of display area 2つの種目文字列の一方のみが検出された場合の内容文字列と種目文字列との対応付けを説明する図The figure explaining matching with the content character string and item character string when only one of two item character strings is detected

本発明の物品情報認識装置の実施形態を、図面に基づいて説明する。
本実施形態では、物品情報認識装置は物流設備における受け入れ箇所に設置されている。受け入れ箇所では、製品を収容した状態で製造元等から搬入された段ボールケース(以降、物品Bと称する)の物品識別情報と、その物品Bの製造番号や使用期限等の物品情報とを対応付けるべく、物品識別情報の読取と、物品情報の認識とが行われる。本実施形態の物品情報認識装置は、上記物品情報の認識のために用いられる。
An embodiment of an article information recognition apparatus of the present invention will be described based on the drawings.
In the present embodiment, the article information recognition apparatus is installed at a receiving location in the distribution facility. At the receiving location, in order to associate the product identification information of the cardboard case (hereinafter referred to as the product B) carried in from the manufacturer or the like in a state where the product is accommodated with the product information such as the manufacturing number or the expiration date of the product B, Reading of the item identification information and recognition of the item information are performed. The article information recognition apparatus of this embodiment is used for recognition of the article information.

図1に、物品情報認識装置が備えられる物流設備の受け入れ箇所を示す。
受け入れ箇所には、物品を自動倉庫等の保管設備に搬送する搬送コンベヤ5が備えられており、その搬送経路途中に、搬送中の物品Bの情報表示面Bhを撮像自在な撮像装置50が備えられている。
FIG. 1 shows a receiving location of a physical distribution facility provided with the article information recognition apparatus.
The receiving place is provided with a transfer conveyor 5 for transferring the article to a storage facility such as an automatic warehouse, and an imaging device 50 capable of imaging the information display surface Bh of the article B being transferred is provided in the middle of the transfer path. It has been.

物品Bの情報表示面Bhには、図1に示すように、物品Bの種別を識別するためのバーコードBCが表示されている。また、物品Bの情報表示面BhにおけるバーコードBCとは異なる箇所に、図2に示すように、物品情報の種目を示す種目文字列として、製造番号を示す第1種目文字列S10、及び、使用期限を示す第2種目文字列S20が表示されている。さらに、第1種目文字列S10の横側方には、製造番号を表す文字列である第1内容文字列M10が表示され、第2種目文字列S20の横側方には、使用期限を表す文字列である第2内容文字列M20が表示されている。
なお、図1及び図2に示した第1種目文字列S10と第1内容文字列M10、及び、第2種目文字列S20と第2内容文字列M20との表示形態は一例であり、他の種別の物品Bにおいては異なる表示形態(例えば、第1種目文字列S10と第1内容文字列M10との対と第2種目文字列S20と第2内容文字列M20とが横並びになっている等)となっていることもあり得る。
On the information display surface Bh of the article B, a barcode BC for identifying the type of the article B is displayed as shown in FIG. In addition, as shown in FIG. 2, the item character string indicating the item information item, the first item character string S10 indicating the product number, and the item BC on the information display surface Bh of the item B, as shown in FIG. A second type character string S20 indicating the expiration date is displayed. Further, a first content character string M10, which is a character string representing a production number, is displayed on the lateral side of the first type character string S10, and an expiration date is displayed on the lateral side of the second type character string S20. A second content character string M20 that is a character string is displayed.
The display forms of the first type character string S10 and the first content character string M10, and the second type character string S20 and the second content character string M20 shown in FIG. 1 and FIG. Different types of display items (for example, a pair of the first type character string S10 and the first content character string M10, a second type character string S20, and the second content character string M20 are arranged side by side). ) Is also possible.

図3に示すように、制御部Hは、例えば演算装置と記憶装置とを備えたコンピュータにて構成されており、記憶装置に記憶したプログラムを実行することによって、各種の制御を実行するようになっている。制御部Hには、撮像装置50、コンベヤコントローラC1、上位管理装置Hu、及び、物品データベースDBが、当該制御部Hと相互に通信自在に接続されている。
撮像装置50は、制御部Hからの指令によって画像を撮像するとともに、撮像した画像を制御部Hに送信可能に構成されている。本実施形態では、制御部H及び物品データベースDBが物品情報認識部に相当する。
As shown in FIG. 3, the control unit H is configured by, for example, a computer including an arithmetic device and a storage device, and executes various controls by executing programs stored in the storage device. It has become. An imaging device 50, a conveyor controller C1, a host management device Hu, and an article database DB are connected to the control unit H so as to be able to communicate with the control unit H.
The imaging device 50 is configured to capture an image in response to a command from the control unit H and to transmit the captured image to the control unit H. In the present embodiment, the control unit H and the article database DB correspond to an article information recognition unit.

コンベヤコントローラC1は、搬送コンベヤ5の搬送作動を制御するとともに、リミットスイッチSWの検出情報が入力されるように構成されている。リミットスイッチSWは、撮像装置50が物品Bの情報表示面Bhを撮像するのに適した撮像好適位置に物品Bが到達したことを検出自在に構成され、検出情報をコンベヤコントローラC1に送信する。
コンベヤコントローラC1は、上記リミットスイッチSWの検出情報を受信すると、物品Bが撮像好適位置に到達したことを示す情報を制御部Hに通知し、制御部Hは、コンベヤコントローラC1からの通知によって物品Bが撮像好適位置に到達したと判別すると、撮像装置50に撮像を指令して、撮像好適位置に位置する物品Bの撮像画像を取得するようになっている。
The conveyor controller C1 is configured to control the transport operation of the transport conveyor 5 and to input detection information of the limit switch SW. The limit switch SW is configured to be able to detect that the article B has reached a suitable imaging position suitable for the imaging device 50 to image the information display surface Bh of the article B, and transmits detection information to the conveyor controller C1.
When the conveyor controller C1 receives the detection information of the limit switch SW, the conveyor controller C1 notifies the control unit H of information indicating that the article B has reached the preferred imaging position, and the control unit H receives the article from the notification from the conveyor controller C1. When it is determined that B has reached the preferred imaging position, the imaging device 50 is commanded to take an image, and a captured image of the article B located at the preferred imaging position is acquired.

制御部Hは、撮像装置50が撮像した撮像画像において物品情報の種別を示す文字列である種目文字列(第1種目文字列S10、第2種目文字列S20)を検出する種目文字列検出処理と、種目文字列検出処理にて検出された種目文字列に基づいて、種目文字列に対応する物品情報を示す文字列である内容文字列(第1内容文字列M10、第2内容文字列M20)が表示されていると予定される表示予定領域(第1表示予定領域W12、第2表示予定領域W22)を撮像画像に設定し、且つ、その表示予定領域に存在する内容文字列を抽出する文字列抽出処理と、文字列抽出処理にて抽出した前記内容文字列(第1内容文字列M10、第2内容文字列M20)が表示されていると予定される表示予定領域(第1表示予定領域W12、第2表示予定領域W22)に基づいて物品情報を認識する物品情報認識処理と、を実行するように構成されている。   The control unit H detects the item character string detection process (first item character string S10, second item character string S20) that is a character string indicating the type of article information in the captured image captured by the imaging device 50. And a content character string (first content character string M10, second content character string M20) that is a character string indicating article information corresponding to the event character string, based on the event character string detected in the event character string detection process. ) Is scheduled to be displayed (first display scheduled area W12, second display scheduled area W22) is set as a captured image, and a content character string existing in the scheduled display area is extracted. Character string extraction process and a display scheduled area (first display schedule) scheduled to display the content character strings (first content character string M10, second content character string M20) extracted by the character string extraction process Region W12, second display And it is configured to perform, and product information recognition processing for recognizing an article information based on the constant region W22).

また、制御部Hは、図示しないバーコードリーダによりバーコードBCの情報(物品種別ID)を読み取り、その物品種別IDを物品データベースDBに通知する。物品データベースDBは、通知された物品種別IDに基づいて物品Bの仕様情報を検索し、制御部Hに対して、物品Bの仕様情報を送信する。
なお、物品Bの仕様情報には、物品Bの寸法情報、その物品Bにおける第1種目文字列S10及び第2種目文字列S20の文字の属性情報、その物品Bにおける第1内容文字列M10及び第2内容文字列M20の文字の属性情報である設定文字属性、第1種目文字列S10及び第2種目文字列S20の文字の並びに係る情報、第1種目文字列S10および第2種目文字列S20に対して設定される表示予定領域が第1種目文字列S10および第2種目文字列S20に対してどのような位置関係にあるかを示す情報、及び、第1内容文字列M10及び第2内容文字列M20の文字数としての予定文字数情報を含む情報であり、個々の物品Bについての物品情報は含まない。
Further, the control unit H reads the information (article type ID) of the barcode BC with a bar code reader (not shown) and notifies the article database DB of the article type ID. The article database DB searches the specification information of the article B based on the notified article type ID, and transmits the specification information of the article B to the control unit H.
The specification information of the item B includes the dimension information of the item B, the attribute information of the characters of the first type character string S10 and the second type character string S20 in the item B, the first content character string M10 in the item B, and The set character attribute which is the attribute information of the character of the second content character string M20, the information related to the character of the first type character string S10 and the second type character string S20, the first type character string S10 and the second type character string S20 Information indicating the positional relationship between the first-type character string S10 and the second-type character string S20, and the first content character string M10 and the second content. This is information including information on the number of characters planned as the number of characters of the character string M20, and does not include item information about each item B.

ちなみに、第1種目文字列S10および第2種目文字列S20の文字列についての情報とは、文字列の書体及び文字の上下方向の寸法といった文字の属性、及び、文字列の文字の並び情報(文字列がどのような文字並びで表現されるか)を示すものである。
つまり、異なる種別の物品の間では、第1種目文字列S10として表示される文字列であっても、例えば「製造番号」、「製造No.」、「LotNo.」、「固有番号」等様々な表記が存在し得るが、その物品Bの物品種別IDが分かれば、第1種目文字列S10としてどのような文字の並びが用いられるかが分かる。同様に、異なる種別の物品の間では、第2種目文字列S20として表示される文字列であっても、例えば「使用期限」、「使用期限年月」、「消費期限」、「UseByDate」等様々な表記が存在し得るが、その物品Bの物品種別IDが分かれば、第2種目文字列S20としてどのような文字の並びが用いられるかが分かる。
Incidentally, the information about the character strings of the first type character string S10 and the second type character string S20 includes the character attributes such as the typeface of the character string and the vertical dimension of the character, and the character arrangement information of the character string ( What kind of character sequence a character string is expressed in).
That is, among the different types of articles, even if the character string is displayed as the first type character string S10, for example, “manufacturing number”, “manufacturing No.”, “LotNo.”, “Unique number”, etc. However, if the item type ID of the item B is known, it is possible to know what character sequence is used as the first type character string S10. Similarly, even if the character string displayed as the second type character string S20 is between different types of articles, for example, “expiration date”, “expiration date”, “expiration date”, “UseByDate”, etc. Various notations may exist, but if the item type ID of the item B is known, it is possible to know what character sequence is used as the second type character string S20.

制御部Hは、処理として、種目文字列検出処理、文字列抽出処理、文字列評価処理、抽出文字判定処理、認識結果置換処理、及び物品情報認識処理を実行自在に構成されている。
種目文字列検出処理とは、撮像画像から、第1種目文字列S10及び第2種目文字列S20の双方を検出する処理である。
この検出にあたって、制御部Hは、物品データベースDBから取得した文字仕様及び文字並び情報に基づいて、パターン認識処理を行う。パターン認識処理については、汎用的に用いられる技術を使用するものであるため、詳細な説明は省略する。制御部Hは、種目文字列検出処理によって、第1種目文字列S10及び第2種目文字列S20を検出するようになっている。なお、このとき、第1種目文字列S10又は第2種目文字列S20の一方しか検出できない場合もあるが、この場合の処理は後述する。
The control unit H is configured to be able to execute an event character string detection process, a character string extraction process, a character string evaluation process, an extracted character determination process, a recognition result replacement process, and an article information recognition process as processes.
The item character string detection process is a process of detecting both the first item character string S10 and the second item character string S20 from the captured image.
In this detection, the control unit H performs a pattern recognition process based on the character specifications and the character arrangement information acquired from the article database DB. The pattern recognition process uses a general-purpose technique and will not be described in detail. The control unit H is configured to detect the first type character string S10 and the second type character string S20 by the item character string detection process. At this time, only one of the first type character string S10 and the second type character string S20 may be detected, and the process in this case will be described later.

文字列抽出処理について説明する。文字列抽出処理は、撮像画像から、第1種目文字列S10に対して設定された表示予定領域(後述の枠W12)に存在する第1内容文字列M10、及び、第2種目文字列S20に対して設定された表示予定領域(後述の枠W22)に存在する第2内容文字列M20を抽出する処理である。   The character string extraction process will be described. In the character string extraction process, the first content character string M10 and the second type character string S20 existing in the display scheduled area (frame W12 described later) set for the first type character string S10 are taken from the captured image. This is a process of extracting the second content character string M20 existing in the display scheduled area (frame W22 to be described later) set for this.

第1種目文字列S10及び第2種目文字列S20に対して設定される表示予定領域を図2に示す。つまり、第1種目文字列S10を隙間なく囲む枠W11を設定し、この枠W11の上端から上方に距離Y11したY座標に位置する上辺、枠W11の下端から下方に距離Y12離間したY座標に位置する下辺、及び、枠W11の右端と同じX座標に位置する左辺、当該左辺から右方向に距離X1だけ離間した右辺で囲まれる枠W12を設定する。この枠W12が第1種目文字列S10に対する表示予定領域である。また、第2種目文字列S20についても同様にして枠W22を設定する。枠W22が第2種目文字列S20についての表示予定領域である。   FIG. 2 shows scheduled display areas set for the first type character string S10 and the second type character string S20. That is, a frame W11 that surrounds the first type character string S10 without a gap is set, and the upper side located at the Y coordinate that is a distance Y11 upward from the upper end of the frame W11, and the Y coordinate that is separated by a distance Y12 from the lower end of the frame W11. A frame W12 is set that is surrounded by the lower side that is positioned, the left side that is located at the same X coordinate as the right end of the frame W11, and the right side that is separated from the left side by a distance X1 in the right direction. This frame W12 is a display scheduled area for the first type character string S10. Similarly, the frame W22 is set for the second type character string S20. A frame W22 is a display scheduled area for the second type character string S20.

次に、文字列評価処理について説明する。制御部Hは、第1内容文字列M10に使用される設定文字属性を第1種目文字列S10に対応付けて、及び、第2内容文字列M20に使用される設定文字属性を第2種目文字列S20に対応付けて、予め記憶するように構成されている。すなわち、制御部Hが、内容文字列に使用される文字の属性である設定文字属性を種目文字列に対応づけて予め記憶するように構成されている。また、本実施形態では、設定文字属性は物品Bの種別に対応付けて記憶されている。
文字列評価処理は、文字列抽出処理によって複数の文字列を抽出した場合に、制御部Hに記憶された設定文字属性に基づいて適正度を評価する処理である。
種目文字列に対する表示予定領域に複数の文字列が検出される場合がある。例えば、図7(a)に示すように、複数の文字情報が記載されたラベルRが表示予定領域に相当する箇所に貼付された場合等である。このような場合、図7(b)に示すように、読み取った複数の内容文字列について、例えば文字の上下方向の寸法に基づく適正度の評価値である高さスコアと、文字の書体に基づく適正度の評価値である書体スコアを算出し、そのトータル値を比較し、最もトータル値が高い内容文字列をその種目文字列に対応付ける。
Next, the character string evaluation process will be described. The control unit H associates the set character attribute used for the first content character string M10 with the first type character string S10, and sets the set character attribute used for the second content character string M20 to the second type character. It is configured to store in advance in association with the column S20. That is, the control unit H is configured to store in advance the set character attribute that is the attribute of the character used for the content character string in association with the item character string. In the present embodiment, the set character attribute is stored in association with the type of the article B.
The character string evaluation process is a process of evaluating the appropriateness based on the set character attribute stored in the control unit H when a plurality of character strings are extracted by the character string extraction process.
In some cases, a plurality of character strings are detected in the display scheduled area for the event character string. For example, as shown to Fig.7 (a), it is a case where the label R in which several character information was described was affixed on the location corresponded to a display plan area | region. In such a case, as shown in FIG. 7B, for a plurality of read content character strings, for example, based on the height score, which is an evaluation value of the appropriateness based on the vertical dimension of the character, and the typeface of the character A typeface score, which is an evaluation value of appropriateness, is calculated, the total values are compared, and the content character string having the highest total value is associated with the item character string.

次に、抽出文字判定処理及び認識結果置換処理について説明する。これは、図8に示すように、文字列抽出処理を実行した結果、内容文字列の文字列における文字が誤読された場合に、その誤読された文字を強制的に修正するための処理である。
制御部Hは、図9に示すように、内容文字列に使用される文字の候補である認識候補文字を種目文字列に対応づけて予め記憶するとともに、認識候補文字の少なくとも1つについて、当該認識候補文字に類似する文字として予め設定された少なくとも1つの誤読想定文字を当該認識候補文字に対応付けて記憶するように構成されている。
抽出文字判定処理は、種目文字列についての表示予定領域に対して実行した文字列抽出処理にて抽出した内容文字列の夫々の文字について、上記認識候補文字であるか否かを判定する処理である。また、認識結果置換処理は、図10に示すように、抽出文字判定処理により認識候補文字でないと判定された文字が誤読想定文字である場合には、当該誤読想定文字を当該誤読想定文字に対応付けられている認識候補文字と置換する認識結果置換処理を実行する処理である。すなわち、図10の例では、誤読想定文字である「I」を認識候補文字の「1」に置換している。
Next, the extracted character determination process and the recognition result replacement process will be described. As shown in FIG. 8, this is a process for forcibly correcting a misread character when a character in the character string of the content character string is misread as a result of executing the character string extracting process. .
As shown in FIG. 9, the control unit H stores in advance a recognition candidate character that is a candidate for a character used in the content character string in association with the item character string, and for at least one of the recognition candidate characters, It is configured to store at least one erroneous reading assumption character preset as a character similar to the recognition candidate character in association with the recognition candidate character.
The extracted character determination process is a process for determining whether or not each character of the content character string extracted by the character string extraction process executed for the display scheduled area for the item character string is the recognition candidate character. is there. In addition, as shown in FIG. 10, the recognition result replacement process corresponds to the misinterpreted character when the character determined not to be a recognition candidate character by the extracted character determination process is a misread expected character. This is a process for executing a recognition result replacement process for replacing a recognition candidate character attached. That is, in the example of FIG. 10, “I”, which is a misread assumption character, is replaced with “1”, which is a recognition candidate character.

次に、制御部Hが実行する制御について図4〜図6のフローチャートに基づいて説明する。
制御部Hは、物品Bが撮像好適位置に到達したことをリミットスイッチSWが検出したことを検知すると、撮像装置50に撮像を指令してその撮像画像を取得する(ステップ#101、#102)。
続いて、バーコードリーダによって読み取られた当該物品BのバーコードBCから物品種別IDを取得し、その物品種別IDに相当する物品Bの仕様情報を取得する(ステップ#103)。
制御部Hは、引き続き、撮像画像より情報表示面Bhに対応する領域を切出す(ステップ#104)。情報表示面Bhに対応する領域の切出しには、上述の物品Bの仕様情報における寸法情報を用いてもよいし、撮像画像における背景と物品Bとの境界を認識して物品Bに対応する部分を抽出するようにしてもよい。
Next, the control executed by the control unit H will be described based on the flowcharts of FIGS.
When the control unit H detects that the limit switch SW has detected that the article B has reached the preferred imaging position, the control unit H instructs the imaging device 50 to acquire an image (steps # 101 and # 102). .
Subsequently, the product type ID is acquired from the barcode BC of the product B read by the bar code reader, and the specification information of the product B corresponding to the product type ID is acquired (step # 103).
The control unit H continues to cut out an area corresponding to the information display surface Bh from the captured image (step # 104). For the extraction of the area corresponding to the information display surface Bh, the dimension information in the specification information of the article B described above may be used, or the part corresponding to the article B by recognizing the boundary between the background and the article B in the captured image May be extracted.

次に、制御部Hは、ステップ#104で切出した画像に対して、種目文字列検出処理を実行する(ステップ#105)。
引き続き、制御部Hは、種目文字列検出処理で検出した種目文字列数が1つであるか2つであるかを判別する(ステップ#106)。なお、ここで種目文字列が3つ検出されたときは、エラー処理(作業者に読み取りエラーが発生したことを通知する処理)に移行する。ステップ#106にて、検出した種目文字列数が2つであると判別すると、制御部Hは、検出された種目文字列夫々について表示予定領域を設定する(ステップ#108)。
Next, the control unit H performs the item character string detection process on the image cut out at step # 104 (step # 105).
Subsequently, the control unit H determines whether the number of item character strings detected in the item character string detection process is one or two (step # 106). When three item character strings are detected, the process proceeds to error processing (processing for notifying the operator that a reading error has occurred). If it is determined in step # 106 that the number of detected event character strings is two, the control unit H sets a display scheduled area for each detected event character string (step # 108).

制御部Hは、上記第1種目文字列S10については枠W12に存在する文字を抽出する文字列抽出処理を、第2種目文字列S20については枠W22に存在する文字を抽出する文字列抽出処理を、夫々実行する(ステップ#109)。
ステップ#109において、枠W12、又は枠W22に2つ以上の内容文字列が抽出されると、制御部Hは、引き続き、文字列評価処理を実行し(ステップ#112)、設定適正条件を満たす内容文字列を、その種目文字列に対応する内容文字列として選定する(ステップ#113)。尚、本実施形態においては、設定適正条件は、上述のように高さスコアと書体スコアとのトータル値が最も高いものという条件である。
The control unit H performs a character string extraction process for extracting characters existing in the frame W12 for the first type character string S10, and a character string extraction process for extracting characters existing in the frame W22 for the second type character string S20. Are respectively executed (step # 109).
When two or more content character strings are extracted in the frame W12 or the frame W22 in step # 109, the control unit H continues to execute the character string evaluation process (step # 112) and satisfies the appropriate setting condition. The content character string is selected as the content character string corresponding to the item character string (step # 113). In the present embodiment, the appropriate setting condition is a condition that the total value of the height score and the font score is the highest as described above.

制御部Hは、ステップ#109で枠W12又は枠W22において抽出された内容文字列が1つであった場合、又は、上記ステップ#113の処理が終了すると、引き続き、内容文字列の文字数が、種目文字列に対応付けて制御部Hに記憶された予定文字数未満か否かを判別する(ステップ#110)。
ステップ#110で内容文字列の文字数が予定文字数未満であると判別すると(ステップ#110:No、図11(a)、図11(b)のような場合)、制御部Hは、表示予定領域を図11(c)に示すように設定寸法X1aだけ拡張し(ステップ#111)、引き続きステップ#108に戻って拡張後の表示予定領域に対して文字列抽出処理を実行する。
When the content character string extracted in the frame W12 or the frame W22 in step # 109 is one, or when the processing in step # 113 is completed, the control unit H continues to determine the number of characters in the content character string. It is determined whether the number of characters is less than the planned number stored in the control unit H in association with the item character string (step # 110).
If it is determined in step # 110 that the number of characters in the content character string is less than the planned number of characters (step # 110: No, as shown in FIGS. 11A and 11B), the control unit H displays the display scheduled area. 11C is expanded by the set dimension X1a (step # 111), and then the process returns to step # 108 to execute the character string extraction process for the expanded display scheduled area.

ステップ#106にて、検出した種目文字列数が1つであると判別すると、制御部Hは、検出した種目文字列に対して表示予定領域を設定する(ステップ#114、図12参照)。続いて、ステップ#114にて設定した表示予定領域に対して文字列抽出処理を実行し、抽出した内容文字列数が1つか、又は2つかを判別する(ステップ#115)。ステップ#115にて抽出した内容文字列数が2つと判別したときは、抽出した内容文字列と一方の種目文字列とを対応付ける(ステップ#116)。ステップ#115にて抽出した内容文字列数が2つと判別したときは、続いて、抽出した一方の内容文字列と一方の種目文字列とが対応するものか否かを判別し(ステップ#117)、対応するものであれば(ステップ#117:Yes)、他方の内容文字列と他方の種目文字列とを対応付ける(ステップ#118)。ステップ#117にてNoと判別すると、エラー処理を行う。ステップ#116又はステップ#118の処理の実行後、引き続きステップ#110の処理を行う。   If it is determined in step # 106 that the number of detected event character strings is one, the control unit H sets a display scheduled area for the detected event character string (step # 114, see FIG. 12). Subsequently, a character string extraction process is executed for the display scheduled area set in step # 114, and it is determined whether the number of extracted content character strings is one or two (step # 115). When it is determined that the number of content character strings extracted in step # 115 is two, the extracted content character string is associated with one item character string (step # 116). If it is determined that the number of content character strings extracted in step # 115 is two, then it is determined whether one extracted content character string corresponds to one item character string (step # 117). If it is a corresponding one (step # 117: Yes), the other content character string is associated with the other item character string (step # 118). If it is determined No in step # 117, error processing is performed. After executing the process of step # 116 or step # 118, the process of step # 110 is continued.

制御部Hは、ステップ#110で内容文字列の文字数が予定文字数以上であると判別すると(ステップ#110:Yes)、続いて、上述した抽出文字列判定処理を行う(ステップ#121)。この結果、認識結果置換処理が必要と判別されれば認識結果置換処理を実行し(ステップ#122:Yes、#123)、認識結果置換処理が必要ないと判別された場合(ステップ#122:No)、又は、ステップ#123の処理が終了すると、以上の処理にて第1種目文字列S10及び第2種目文字列S20に対応付けられた第1内容文字列M10及び第2内容文字列M20に基づいて物品情報を認識する物品情報認識処理を実行する(ステップ#124)。   If it is determined in step # 110 that the number of characters in the content character string is greater than or equal to the planned number of characters (step # 110: Yes), the control unit H performs the extracted character string determination process described above (step # 121). As a result, if it is determined that the recognition result replacement process is necessary, the recognition result replacement process is executed (steps # 122: Yes, # 123). If it is determined that the recognition result replacement process is not necessary (step # 122: No) ) Or, when the processing of step # 123 is completed, the first content character string M10 and the second content character string M20 associated with the first type character string S10 and the second type character string S20 are obtained by the above processing. Article information recognition processing for recognizing article information based on the information is executed (step # 124).

すなわち、制御部Hは、撮像画像において物品情報の種別を示す文字列である種目文字列を検出する種目文字列検出処理と、種目文字列検出処理にて検出された種目文字列に基づいて、種目文字列に対応する物品情報を示す文字列である内容文字列が表示されていると予定される表示予定領域を撮像画像に設定し、且つ、表示予定領域に存在する内容文字列を抽出する文字列抽出処理と、文字列抽出処理にて抽出した前記内容文字列に基づいて前記物品情報を認識する物品情報認識処理と、を実行する。   That is, the control unit H is based on the item character string detection process for detecting the item character string that is a character string indicating the type of article information in the captured image, and the item character string detected in the item character string detection process. A planned display area that is planned to be displayed when a content character string that is a character string indicating article information corresponding to the item character string is displayed is set as a captured image, and a content character string that exists in the display planned area is extracted. A character string extraction process and an article information recognition process for recognizing the article information based on the content character string extracted by the character string extraction process are executed.

また、制御部Hは、種目文字列ついての表示予定領域に対して実行した文字列抽出処理にて抽出した内容文字列について、設定文字属性に基づいて適正度を評価する文字列評価処理を実行し、物品情報認識処理において、文字列評価処理にて評価された内容文字列の適性度が設定適正条件を満たす場合に、当該内容文字列が示す内容を物品情報として認識する。   Moreover, the control part H performs the character string evaluation process which evaluates a suitable degree based on a setting character attribute about the content character string extracted by the character string extraction process performed with respect to the display plan area about the item character string. In the article information recognition process, when the suitability level of the content character string evaluated in the character string evaluation process satisfies the set proper condition, the content indicated by the content character string is recognized as the article information.

さらに、制御部Hは、種目文字列検出処理において異なる2つの種目文字列の夫々を検出自在に構成され、かつ、種目文字列検出処理により異なる2つの種目文字列のうち一方の種目文字列のみが検出され、当該一方の種目文字列についての表示予定領域に2つの内容文字列を抽出した場合において、抽出された2つの内容文字列のうち一方の内容文字列が一方の種目文字列に対応する物品情報と認識したときには、抽出された2つの内容文字列のうち他方の内容文字列を、異なる2つの種目文字列のうち他方の種目文字列に対応する物品情報と認識する。   Further, the control unit H is configured to be able to detect each of two different event character strings in the event character string detection process, and only one event character string of the two event character strings different in the event character string detection process. Is detected, and two content character strings are extracted in the display scheduled area for the one item character string, one of the two extracted content character strings corresponds to one item character string. When the item information is recognized, the other content character string of the two extracted content character strings is recognized as the item information corresponding to the other item character string of the two different item character strings.

〔別実施形態〕
(1)上記実施形態では、種目文字列検出処理において、種目文字列として、第1種目文字列S10と第2種目文字列S20の2つを検出するように構成する例を示したが、種目文字列検出処理において、種目文字列を1つ又は3つ以上検出する構成としてもよい。種目文字列を1つのみ設定した場合、図4〜図6のフローチャートにおけるステップ#106及びステップ#114〜ステップ#119の処理は不要となる。
また、種目文字列検出処理にて検出する種目文字列数を、物品種別IDに基づいて物品データベースDBより取得する構成としてもよい。この場合、種目文字列検出処理において検出した種目文字列数が物品種別IDに基づいて物品データベースDBより取得した予定種目文字列数よりも少ない場合には、フローチャートのステップ#119に示すようなエラー処理を行う構成としてもよい。
[Another embodiment]
(1) In the above-described embodiment, an example is shown in which, in the event character string detection process, two items of the first event character string S10 and the second event character string S20 are detected as the event character string. In the character string detection process, one or three or more item character strings may be detected. When only one item character string is set, the processing of step # 106 and step # 114 to step # 119 in the flowcharts of FIGS.
Moreover, it is good also as a structure which acquires the number of item character strings detected by a item character string detection process from goods database DB based on goods classification ID. In this case, if the number of item character strings detected in the item character string detection process is smaller than the number of scheduled item character strings acquired from the item database DB based on the item type ID, an error as shown in step # 119 of the flowchart is performed. It is good also as a structure which performs a process.

(2)上記実施形態では、物品Bの情報表示面Bhに表示されるバーコードBCをバーコードリーダで読み取る構成を説明したが、このような構成に限定されるものではなく、バーコードBCも撮像装置50の撮像画像に基づいて検出するようにしてもよい。また、バーコードBCに代えて、RFID等を用いる構成としてもよい。
また、上記実施形態では、バーコードBC等の物品種別IDに基づいて物品Bの物品仕様に係る情報を物品データベースDBから取得する構成としたが、コンベヤコントローラC1が上位管理装置Huの指令に基づいて物品Bを撮像好適位置に搬送するように構成し、物品データベースDBが上位管理装置Huによって搬送を指令されている物品Bの物品仕様に係る情報を制御部Hに送信するように構成してもよい。
(2) In the above embodiment, the configuration in which the barcode BC displayed on the information display surface Bh of the article B is read by the barcode reader has been described. However, the present invention is not limited to such a configuration. You may make it detect based on the captured image of the imaging device 50. FIG. Moreover, it is good also as a structure using RFID etc. instead of barcode BC.
Moreover, in the said embodiment, although it was set as the structure which acquires the information which concerns on the goods specification of the goods B from goods database DB based on goods classification ID, such as barcode BC, the conveyor controller C1 is based on the instruction | command of the high-order management apparatus Hu. The article B is configured to be transported to a suitable imaging position, and the article database DB is configured to transmit information related to the article specifications of the article B for which conveyance is instructed by the host management device Hu to the control unit H. Also good.

(3)上記実施形態では、設定文字属性を内容文字列に使用される文字の書体及び内容文字列における文字の上下方向の寸法とする構成を説明したが、その一方のみを設定文字属性としてもよい。また、文字の書体及び文字の上下方向の寸法以外の属性、例えば、文字数を含めて3つの設定文字属性を設定する等、文字のどのような属性を設定文字属性とするかは任意である。 (3) In the above embodiment, the configuration has been described in which the set character attribute is the typeface of the character used for the content character string and the vertical dimension of the character in the content character string. Good. In addition, any attribute other than the typeface of the character and the vertical dimension of the character, for example, three set character attributes including the number of characters are set, and any attribute of the character is set as the set character attribute.

(4)上記実施形態では、内容文字列に使用される文字の候補である認識候補文字について、当該認識候補文字に類似する文字として予め設定された1つの誤読想定文字を当該認識候補文字に対応付けて記憶する構成としたが、1つの認識候補文字について2つ以上の誤読想定文字を対応付けてもよい。例えば、誤読想定文字としての「I(英大文字“アイ”)」、「i(英小文字“アイ”)」、「L(英大文字“エル”)」「l(英小文字“エル”)」と認識候補文字としての「1(数字“イチ”)」に対応付ける等が考えられる。 (4) In the above embodiment, for a recognition candidate character that is a candidate for a character to be used in the content character string, one misread assumed character set in advance as a character similar to the recognition candidate character corresponds to the recognition candidate character. However, two or more misinterpreted characters may be associated with one recognition candidate character. For example, “I (capital letter“ eye ”)”, “i (capital letter“ eye ”)”, “L (capital letter“ el ”)” “l (capital letter“ el ”)” Corresponding to “1 (number“ 1 ”)” as a recognition candidate character may be considered.

50 撮像装置
B 物品
Bh 情報表示面
J 物品情報認識部
M10、M20 内容文字列
S10、S20 種目文字列
W12、W22 表示予定領域
X1a 設定寸法
50 Imaging device B Article Bh Information display surface J Article information recognition unit M10, M20 Content character string S10, S20 Item character string W12, W22 Display scheduled area X1a Set size

Claims (7)

物品における情報表示面を撮像する撮像装置と、
前記撮像装置の撮像画像に基づいて前記情報表示面に表示された物品情報を認識する物品情報認識部と、が設けられた物品情報認識装置であって、
前記撮像画像において前記物品情報を示す文字列には、前記物品情報の種別を示す種目文字列と、前記種目文字列に対応する前記物品情報を示す内容文字列とを含み、
前記撮像画像において前記種目文字列を囲む枠と、前記撮像画像において前記内容文字列が表示されていると予定される表示予定枠との間には、前記撮像画像における相対的な位置が規定されており、
前記物品情報認識部が、
前記撮像画像において前記種目文字列を検出する種目文字列検出処理と、
前記種目文字列検出処理にて検出された前記種目文字列との相対位置に基づいて、前記表示予定枠に対応する表示予定領域を前記撮像画像に設定し、且つ、前記表示予定領域に存在する前記内容文字列を抽出する文字列抽出処理と、
前記文字列抽出処理にて抽出した前記内容文字列に基づいて前記物品情報を認識する物品情報認識処理と、
を実行する物品情報認識装置。
An imaging device for imaging an information display surface of the article;
An article information recognition device provided with an article information recognition unit for recognizing article information displayed on the information display surface based on a captured image of the imaging device,
In the captured image, the character string indicating the item information includes an item character string indicating the type of the item information, and a content character string indicating the item information corresponding to the item character string,
A relative position in the captured image is defined between a frame surrounding the item character string in the captured image and a display scheduled frame in which the content character string is expected to be displayed in the captured image. And
The article information recognition unit
And event string detection process for detecting a pre-Symbol seed th string in the captured image,
Based on the relative position to the event character string detected in the event character string detection process, a display scheduled area corresponding to the display schedule frame is set in the captured image and exists in the display scheduled area. A character string extraction process for extracting the content character string;
An article information recognition process for recognizing the article information based on the content character string extracted in the character string extraction process;
The article information recognition apparatus which performs.
前記物品情報認識部が、前記内容文字列に使用される文字の属性である設定文字属性を前記種目文字列に対応づけて予め記憶するように構成され、かつ、
前記種目文字列ついての前記表示予定領域に対して実行した前記文字列抽出処理にて抽出した前記内容文字列について、前記設定文字属性に基づいて適正度を評価する文字列評価処理を実行し、前記物品情報認識処理において、前記文字列評価処理にて評価された前記内容文字列の適性度が設定適正条件を満たす場合に、当該内容文字列が示す内容を前記物品情報として認識するように構成されている請求項1に記載の物品情報認識装置。
The article information recognition unit is configured to store in advance a set character attribute that is an attribute of a character used for the content character string in association with the item character string, and
For the content character string extracted in the character string extraction process performed on the display scheduled area for the item character string, execute a character string evaluation process for evaluating the appropriateness based on the set character attribute, In the article information recognition process, when the suitability degree of the content character string evaluated in the character string evaluation process satisfies a setting proper condition, the contents indicated by the contents character string are recognized as the article information. The article information recognition apparatus according to claim 1.
前記設定文字属性が、前記内容文字列に使用される文字の書体である請求項2に記載の物品情報認識装置。   The article information recognition apparatus according to claim 2, wherein the set character attribute is a typeface of a character used for the content character string. 前記設定文字属性が、前記内容文字列における文字の上下方向の寸法である請求項2又は3に記載の物品情報認識装置。   The article information recognition apparatus according to claim 2 or 3, wherein the set character attribute is a vertical dimension of a character in the content character string. 前記物品情報認識部が、前記内容文字列の文字数として定められた予定文字数情報を前記種目文字列に対応づけて予め記憶するように構成され、かつ、前記文字列抽出処理を実行した結果、その文字列抽出処理にて抽出された前記内容文字列の文字数が前記予定文字数情報にて規定された文字数に満たない場合には、前記表示予定領域を設定寸法だけ拡張した拡張後の表示予定領域に対して前記文字列抽出処理を実行するように構成された請求項1に記載の物品情報認識装置。   The article information recognition unit is configured to store in advance the number of characters scheduled as the number of characters of the content character string in association with the item character string, and as a result of executing the character string extraction process, When the number of characters in the content character string extracted by the character string extraction process is less than the number of characters specified in the planned character number information, the display planned region is expanded by expanding the planned display region by a set dimension. The article information recognition apparatus according to claim 1, wherein the article information recognition apparatus is configured to execute the character string extraction process. 前記物品情報認識部が、
前記内容文字列に使用される文字の候補である認識候補文字を前記種目文字列に対応づけて予め記憶するとともに、前記認識候補文字の少なくとも1つについて、当該認識候補文字に類似する文字として予め設定された少なくとも1つの誤読想定文字を当該認識候補文字に対応付けて記憶するように構成され、かつ、前記種目文字列ついての前記表示予定領域に対して実行した前記文字列抽出処理にて抽出した前記内容文字列の夫々の文字について、前記認識候補文字であるか否かを判定する抽出文字判定処理と、前記抽出文字判定処理により前記認識候補文字でないと判定された文字が前記誤読想定文字である場合には、当該誤読想定文字を当該誤読想定文字に対応付けて記憶されている前記認識候補文字と置換する認識結果置換処理を実行する請求項1〜5の何れか1項に記載の物品情報認識装置。
The article information recognition unit
A recognition candidate character that is a candidate for a character used for the content character string is stored in advance in association with the item character string, and at least one of the recognition candidate characters is stored in advance as a character similar to the recognition candidate character. It is configured to store at least one set of erroneous reading assumption characters in association with the recognition candidate character, and is extracted by the character string extraction process performed on the scheduled display area for the item character string The extracted character determination process for determining whether or not each character of the content character string is the recognition candidate character, and the character that is determined not to be the recognition candidate character by the extracted character determination process The recognition result replacement process is performed to replace the assumed misreading character with the recognition candidate character stored in association with the expected misreading character. The article information recognition device according to any one of claims 1 to 5.
異なる2つの属性の前記物品情報に対応する異なる2つの前記種目文字列が、前記物品における前記情報表示面の異なる位置に表示され、
前記物品情報認識部が、前記種目文字列検出処理において異なる2つの前記種目文字列の夫々を検出自在に構成され、かつ、前記種目文字列検出処理により異なる2つの前記種目文字列のうち一方の前記種目文字列のみが検出され、当該一方の種目文字列についての前記表示予定領域に2つの前記内容文字列を抽出した場合において、抽出された2つの前記内容文字列のうち一方の内容文字列が一方の種目文字列に対応する物品情報と認識したときには、抽出された2つの前記内容文字列のうち他方の内容文字列を、異なる2つの前記種目文字列のうち他方の種目文字列に対応する物品情報と認識するように構成された請求項1〜6の何れか1項に記載の物品情報認識装置。
Two different item character strings corresponding to the article information of two different attributes are displayed at different positions on the information display surface of the article,
The article information recognition unit is configured to be able to detect each of two different item character strings in the item character string detection process, and one of the two item character strings different in the item character string detection process. When only the item character string is detected and two content character strings are extracted in the display scheduled area for the one item character string, one content character string of the two extracted content character strings Is recognized as article information corresponding to one item character string, the other content character string of the two extracted content character strings corresponds to the other item character string of the two different item character strings. The article information recognition apparatus according to claim 1, wherein the article information recognition apparatus is configured to recognize the article information to be recognized.
JP2013173968A 2013-08-23 2013-08-23 Article information recognition device Active JP6160363B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013173968A JP6160363B2 (en) 2013-08-23 2013-08-23 Article information recognition device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013173968A JP6160363B2 (en) 2013-08-23 2013-08-23 Article information recognition device

Publications (2)

Publication Number Publication Date
JP2015041371A JP2015041371A (en) 2015-03-02
JP6160363B2 true JP6160363B2 (en) 2017-07-12

Family

ID=52695459

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013173968A Active JP6160363B2 (en) 2013-08-23 2013-08-23 Article information recognition device

Country Status (1)

Country Link
JP (1) JP6160363B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6802107B2 (en) * 2017-04-05 2020-12-16 株式会社Pfu Information processing equipment, methods and programs
CN109712702A (en) * 2018-12-26 2019-05-03 河南正向电子科技有限公司 A kind of Identification of Images controlling system of medical equipments
KR102645291B1 (en) * 2019-10-30 2024-03-07 선문대학교 산학협력단 Smart vending machine management device that works with applications that can provide product information and order products

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08249416A (en) * 1995-03-15 1996-09-27 Toshiba Corp Optical character reading system and its form preparation
JPH11120294A (en) * 1997-10-17 1999-04-30 Matsushita Electric Ind Co Ltd Character recognition device and medium
JP2000029983A (en) * 1998-07-10 2000-01-28 Oki Electric Ind Co Ltd Document reader device
JP2001266069A (en) * 2000-03-17 2001-09-28 Oki Electric Ind Co Ltd Reading method for optical character
JP4411023B2 (en) * 2003-07-02 2010-02-10 株式会社川島製作所 Printing inspection system for packaging
JP2007233913A (en) * 2006-03-03 2007-09-13 Fuji Xerox Co Ltd Image processor and program
JP2010231541A (en) * 2009-03-27 2010-10-14 Oki Electric Ind Co Ltd Information processor, character recognition method and program
JP2011227543A (en) * 2010-04-15 2011-11-10 Panasonic Corp Form processing device and method and recording medium
JP2012058789A (en) * 2010-09-03 2012-03-22 Toshiba Tec Corp Commodity information processor and program

Also Published As

Publication number Publication date
JP2015041371A (en) 2015-03-02

Similar Documents

Publication Publication Date Title
JP7279896B2 (en) Information processing device, control method, and program
JP6286866B2 (en) Image processing apparatus and image processing method
US10114991B2 (en) Reading and writing verification device for RFID medium, and reading and writing verification method for same
US9836665B2 (en) Management system, list production device, method, computer readable recording medium, data structure, and printed label
EP2488333B1 (en) An apparatus for cutting articles comprising a flat surface on which designs and/or writings are reproduced and a method for actuating the apparatus
CN107077686B (en) Image processing apparatus, image processing method, and program
CN107710234B (en) Article with bar code, data processing device, data processing method, and quality management method for commodity
US20120106787A1 (en) Apparatus and methods for analysing goods packages
JP6859977B2 (en) Image processing equipment, image processing systems, image processing methods and programs
JP6624063B2 (en) Vending machine recognition device, merchandise shelf recognition device, vending machine recognition method, program and image processing device
JP6160363B2 (en) Article information recognition device
CN107403128B (en) Article identification method and device
JP2018131331A (en) Article management device and article management method
WO2017051278A1 (en) System and method for automatic identification of products
JP6679891B2 (en) Inspection processing device, inspection system, inspection processing method and program
JP2012174101A (en) Label inspection system, label inspection apparatus and label inspection program
US11600084B2 (en) Method and apparatus for detecting and interpreting price label text
WO2017208641A1 (en) Environment history display object, data processing method using same, data processing device, and quality management method
JP7050593B2 (en) Devices, systems and methods for updating the status of goods
JP6981495B2 (en) Inspection processing equipment
EP3866061B1 (en) Article distinguishing system
US20150053762A1 (en) Identifier eligibility
JP2007157173A (en) Character reader
JP2022035584A (en) Image processing device
CN116824606A (en) Information processing apparatus, information processing method, and computer readable medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160916

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170516

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170529

R150 Certificate of patent or registration of utility model

Ref document number: 6160363

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250