JP7390492B2 - 記番号認識パラメータ決定装置、記番号認識パラメータ決定プログラム及び紙葉類取扱システム - Google Patents

記番号認識パラメータ決定装置、記番号認識パラメータ決定プログラム及び紙葉類取扱システム Download PDF

Info

Publication number
JP7390492B2
JP7390492B2 JP2022545242A JP2022545242A JP7390492B2 JP 7390492 B2 JP7390492 B2 JP 7390492B2 JP 2022545242 A JP2022545242 A JP 2022545242A JP 2022545242 A JP2022545242 A JP 2022545242A JP 7390492 B2 JP7390492 B2 JP 7390492B2
Authority
JP
Japan
Prior art keywords
serial number
character
parameter set
number recognition
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022545242A
Other languages
English (en)
Other versions
JPWO2022044310A1 (ja
Inventor
和久 吉村
聖美 亀井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Frontech Ltd
Original Assignee
Fujitsu Frontech Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Frontech Ltd filed Critical Fujitsu Frontech Ltd
Publication of JPWO2022044310A1 publication Critical patent/JPWO2022044310A1/ja
Application granted granted Critical
Publication of JP7390492B2 publication Critical patent/JP7390492B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/19007Matching; Proximity measures
    • G06V30/1908Region based matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/146Aligning or centring of the image pick-up or image-field
    • G06V30/147Determination of region of interest
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/148Segmentation of character regions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/148Segmentation of character regions
    • G06V30/153Segmentation of character regions using recognition of characters or words
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/148Segmentation of character regions
    • G06V30/158Segmentation of character regions using character size, text spacings or pitch estimation
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07DHANDLING OF COINS OR VALUABLE PAPERS, e.g. TESTING, SORTING BY DENOMINATIONS, COUNTING, DISPENSING, CHANGING OR DEPOSITING
    • G07D7/00Testing specially adapted to determine the identity or genuineness of valuable papers or for segregating those which are unacceptable, e.g. banknotes that are alien to a currency
    • G07D7/004Testing specially adapted to determine the identity or genuineness of valuable papers or for segregating those which are unacceptable, e.g. banknotes that are alien to a currency using digital security elements, e.g. information coded on a magnetic thread or strip
    • G07D7/0047Testing specially adapted to determine the identity or genuineness of valuable papers or for segregating those which are unacceptable, e.g. banknotes that are alien to a currency using digital security elements, e.g. information coded on a magnetic thread or strip using checkcodes, e.g. coded numbers derived from serial number and denomination
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07DHANDLING OF COINS OR VALUABLE PAPERS, e.g. TESTING, SORTING BY DENOMINATIONS, COUNTING, DISPENSING, CHANGING OR DEPOSITING
    • G07D7/00Testing specially adapted to determine the identity or genuineness of valuable papers or for segregating those which are unacceptable, e.g. banknotes that are alien to a currency
    • G07D7/20Testing patterns thereon
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07DHANDLING OF COINS OR VALUABLE PAPERS, e.g. TESTING, SORTING BY DENOMINATIONS, COUNTING, DISPENSING, CHANGING OR DEPOSITING
    • G07D7/00Testing specially adapted to determine the identity or genuineness of valuable papers or for segregating those which are unacceptable, e.g. banknotes that are alien to a currency
    • G07D7/20Testing patterns thereon
    • G07D7/2075Setting acceptance levels or parameters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/12Computing arrangements based on biological models using genetic models
    • G06N3/126Evolutionary algorithms, e.g. genetic algorithms or genetic programming
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/19007Matching; Proximity measures
    • G06V30/19093Proximity measures, i.e. similarity or distance measures

Description

本発明は、記番号認識パラメータ決定装置、記番号認識パラメータ決定プログラム及び紙葉類取扱システムに関する。
紙幣、金券などの紙葉類を取り扱う紙葉類取扱装置は、受け付けた紙葉類に記載された記番号を認識する機能を備える。認識された記番号は、例えば、特定の番号であるか否かの判定、紙葉類のトラッキングに使用される。
なお、従来技術として、効果的に紙幣の真偽を判定することができる紙幣識別装置がある。この紙幣識別装置は、搬送路を搬送される紙幣から画像を取得し、取得した画像について記番号領域を特定し、記番号領域内の第1番目の文字が予め決められた規則に適合するか否かにより紙幣の真偽を判定する。
また、従来技術として、媒体の識別情報部分の画像データを保存する際のデータ量を低減する媒体認識装置がある。この媒体認識装置は、媒体を撮像してイメージ画像を取得し、取得したイメージ画像から媒体の媒体識別情報を認識し、認識した媒体識別情報について、認識結果の信頼度を算出する。そして、この媒体認識装置は、イメージ画像から媒体識別情報を構成する文字の文字領域画像を取得し、取得した文字領域画像について、算出した信頼度に基づいた解像度の画像に変換する変換処理を行う。
また、従来技術として、汚れや印刷ずれがあっても、文字認識性能を落とさない紙葉類識別装置がある。この紙葉類識別装置は、紙葉類に付された識別情報を撮像し、撮像した画像に含まれる識別情報の領域全体を切り出し、切り出した領域全体の中で、さらに個々の識別情報の桁の領域を切り出し、切り出した領域の識別情報を認識する。そして、この紙葉類識別装置は、切り出した領域の最大サイズ、または、認識した識別情報の最大サイズ、のどちらか一方または両方の最大サイズがあらかじめ定められている最大サイズの範囲か否かを判断する。そして、この紙葉類識別装置は、範囲外と判定した場合に、再度最大サイズの桁と推定される領域を切り出して認識する。
特開2016-118925号公報 特開2016-206839号公報 特開2016-031574号公報
紙葉類に記載された記番号を認識する記番号認識プログラムは、認識性能の向上と処理時間の短縮のため、認識対象ごとに個別に作成される。例えば、記番号認識プログラムは、国ごとに個別に作成される。このため、記番号認識プログラムの開発に必要な工数が大きくなるという問題がある。
本発明は、1つの側面では、記番号認識プログラムの開発に必要な工数を削減することを目的とする。
1つの態様では、記番号認識パラメータ決定装置は、生成部と特定部と評価値計算部とを有する。前記生成部は、紙葉類取扱装置において紙葉類の画像から記番号を形成する文字が存在する文字存在領域を特定するときに用いられるプログラムのパラメータセットを生成する。前記特定部は、前記生成部により生成されたパラメータセットを用いて前記紙葉類の画像から前記文字存在領域を特定する。前記評価指標計算部は、前記特定部により特定された文字存在領域に基づいて前記パラメータセットの評価指標を計算する。
とを有する。
本発明は、1つの側面では、記番号認識プログラムの開発に必要な工数を削減することができる。
図1は、実施例の紙幣取扱装置の構成例を示す図である。 図2は、実施例の搬送路接続形態の一例を示す図である。 図3は、実施例の搬送路接続形態の一例を示す図である。 図4は、実施例の紙幣検査装置の構成例を示す図である。 図5は、実施例の記番号認識部の処理例の説明に供するフローチャートである。 図6は、実施例の記番号認識部の動作例の説明に供する図である。 図7は、実施例の記番号認識部の動作例の説明に供する図である。 図8は、実施例の記番号認識部の動作例の説明に供する図である。 図9は、実施例の記番号認識部の動作例の説明に供する図である。 図10は、実施例の記番号認識部の動作例の説明に供する図である。 図11は、実施例の記番号認識部の動作例の説明に供する図である。 図12は、実施例の記番号認識部の動作例の説明に供する図である。 図13は、実施例の記番号認識部の動作例の説明に供する図である。 図14は、実施例の記番号認識部の動作例の説明に供する図である。 図15は、実施例の記番号認識部の動作例の説明に供する図である。 図16は、実施例の記番号認識部の動作例の説明に供する図である。 図17は、実施例の記番号認識部の動作例の説明に供する図である。 図18は、実施例の紙幣取扱システムの構成例を示す図である。 図19は、パラメータ決定装置により値が決定されるパラメータのセットの例を示す図である。 図20は、パラメータ決定装置の構成例を示す図である。 図21は、個体の例を示す図である。 図22は、適応度の説明に供する図である。 図23は、d及びwの説明に供する図である。 図24は、N、D及びWの例を示す図である。 図25は、fnumのグラフと、fdis及びfstr_wで用いられる平均値μ、分散σ2の正規分布のグラフとを示す図である。 図26は、GAによるパラメータセットの最適化例を示す図である。 図27は、パラメータ決定装置の処理例の説明に供するフローチャートである。 図28は、実施例のパラメータ決定プログラムを実行するコンピュータのハードウェア構成を示す図である。
以下に、本願の開示する記番号認識パラメータ決定装置、記番号認識パラメータ決定プログラム及び紙葉類取扱システムの実施例を図面に基づいて詳細に説明する。なお、この実施例は開示の技術を限定するものではない。
<紙幣取扱装置の構成>
図1は、実施例の紙幣取扱装置の構成例を示す図である。図1は、側面断面図である。図1において、紙幣取扱装置1は、入出金口11と、切替爪12と、ソレノイド13と、紙幣検査装置14と、一時保留部15と、スタッカ16-1,16-2,16-3と、制御部17と、搬送路P1,P2,P3とを有する。
また、紙幣取扱装置1内には、搬送路P1が二つの搬送路P2,P3に分岐する搬送路分岐点PJが存在する。紙幣取扱装置1内において、搬送路P1と、搬送路P2,P3の何れか一方とが搬送路分岐点PJを介して接続されることにより、搬送路接続形態が、搬送路P1と搬送路P2とが接続された形態(以下では「接続形態C1」と呼ぶことがある)と、搬送路P1と搬送路P3とが接続された形態(以下では「接続形態C2」と呼ぶことがある)との間で切り替えられる。搬送路接続形態が接続形態C1にあるときは、搬送路P1と搬送路P2とが一続きの搬送路を形成し、搬送路接続形態が接続形態C2にあるときは、搬送路P1と搬送路P3とが一続きの搬送路を形成する。
切替爪12の中心軸CAはソレノイド13と接続されており、切替爪12はソレノイド13により中心軸CAを中心にして回転可能である。切替爪12及びソレノイド13は搬送路分岐点PJ付近に配置され、ソレノイド13により切替爪12が回転させられることにより、搬送路接続形態が接続形態C1と接続形態C2との間で切り替えられる。搬送路接続形態の切替は、制御部17での制御の下で行われる。
図2及び図3は、実施例の搬送路接続形態の一例を示す図である。図2には、搬送路接続形態が接続形態C1にある場合を示し、図3には、搬送路接続形態が接続形態C2にある場合を示す。
図2に示すように、ソレノイド13に電流I1が流れると、切替爪12は中心軸CAを中心にして左回りに(反時計回り)に回転し、切替爪12の左端が搬送路分岐点PJに接触することにより、搬送路接続形態が接続形態C1となる。
搬送路接続形態が接続形態C1にあるときは、入出金口11に投入された紙幣BLは、搬送路P2を通り、切替爪12の左側局面に沿って反対方向に折り返し、搬送路P1を通って紙幣検査装置14へと搬送され、紙幣検査装置14によって検査される。検査後の紙幣BLは、搬送路P1をさらに先へ進み、一時保留部15に一旦格納される。
紙幣検査装置14によって金種の判別または記番号の認識ができずに検査結果が「NG」となった場合は、搬送路接続形態は接続形態C1のままで維持され、一時保留部15に一旦格納されていた紙幣BLは、一時保留部15から排出され、搬送路P1を通り、搬送路分岐点PJで切替爪12の左側局面に沿って反対方向に折り返し、搬送路P2を通って入出金口11へ返却される。
紙幣検査装置14によって金種の判別及び記番号の認識ができて検査結果が「OK」となった場合は、図3に示すように、電流I1と逆方向の電流I2がソレノイド13に流れて切替爪12が中心軸CAを中心にして右回りに(時計回り)に回転し、切替爪12の左端が搬送路分岐点PJから離れることにより、搬送路接続形態が接続形態C2となる。
搬送路接続形態が接続形態C2にあるときは、一時保留部15に一旦格納されていた紙幣BLは、一時保留部15から排出され、搬送路P1を通り、搬送路分岐点PJを通過して搬送路P3に入って搬送路P3を進み、判別された金種に応じてスタッカ16-1,16-2,16-3の何れかに収納される。例えば、スタッカ16-1には一万円札が収納され、スタッカ16-2には五千円札が収納され、スタッカ16-3には千円札が収納される。
<紙幣検査装置の構成>
図4は、実施例の紙幣検査装置の構成例を示す図である。図4において、紙幣検査装置14は、紙幣撮影部21と、金種判別部22と、記番号認識部24と、記憶部23とを有する。
紙幣撮影部21は、紙幣検査装置14へ搬送された紙幣BLを撮影し、撮影した紙幣BLの画像(以下では「紙幣画像」と呼ぶことがある)BLPを記番号認識部24へ出力する。
金種判別部22は、紙幣検査装置14へ搬送された紙幣BLの金種を判別し、判別した金種を示す情報(以下では「金種情報」と呼ぶことがある)を記番号認識部24へ出力する。金種判別部22は、例えば、紙幣BLの縦横の長さや紙幣の券面の模様等に基づいて金種を判別する。
記憶部23は、CNN(Convolutional Neural Network)を用いて生成された学習モデルを記憶する。
記番号認識部24は、金種判別部22から入力された金種情報、及び、記憶部23に記憶されている学習モデルを用いて、紙幣撮影部21から入力された紙幣画像BLPに基づいて、紙幣BLの記番号を認識し、認識結果を出力する。
<記番号認識部の処理・動作>
図5は、実施例の記番号認識部24の処理例の説明に供するフローチャートであり、図6~18は、実施例の記番号認識部24の動作例の説明に供する図である。なお、図5に示す処理を開始する前に、記番号認識部24は、図6に示すように、紙幣画像BLPにおいて記番号が存在する領域(以下では「記番号存在領域」と呼ぶことがある)の画像(以下では「記番号存在領域画像」と呼ぶことがある)SNP1または記番号存在領域画像SNP2を紙幣画像BLPから抽出しているものとする。
記番号は、数字やアルファベットが横方向に並ぶことにより表されるため、記番号存在領域は横長の矩形の領域になる。また、例えば、日本銀行券では、紙幣BLを横長になる向きにして見た場合において、記番号は、紙幣BLの右下の箇所に印刷される。そこで、紙幣BLが日本銀行券である場合には、記番号認識部24は、図6に示すように、紙幣画像BLPの右下の箇所から、横長の矩形の形状を有する記番号存在領域画像SNP1を抽出する。例えば、紙幣画像BLPの左上のコーナーを原点0(ゼロ)として横軸にX、縦軸にYをとった場合、記番号存在領域の左上のコーナーは座標(x1,y1)で表され、記番号存在領域の右下のコーナーは座標(x2,y2)で表される。このため、紙幣BLが日本銀行券である場合には、記番号認識部24は、座標(x1,y1)と座標(x2,y2)とから特定される矩形領域の画像を記番号存在領域画像SNP1として紙幣画像BLPから抽出する。
また、特定の外国の紙幣では、図6に示すように、紙幣BLを横長になる向きにして見た場合において、記番号が、紙幣BLの右辺に沿って横方向に印刷される場合がある。そこで、紙幣BLが特定の外国の紙幣である場合には、記番号認識部24は、図6に示すように、紙幣画像BLPの右横の箇所から、縦長の矩形の形状を有する記番号存在領域画像SNP2を抽出する。
以下では、記番号存在領域画像SNP1,SNP2を「記番号存在領域画像SNP」と総称することがある。
ここで、図7に示すように、紙幣BLの記番号が6つの文字l1~l6で形成される場合、記番号存在領域SRには、縦横の長さをL1,L2とする規定サイズの領域(以下では「規定サイズ領域」と呼ぶことがある)RR1~RR6の中にそれぞれ文字l1~l6が配置される。規定サイズ領域RR1~RR6の大きさはすべて同一であり、規定サイズ領域RR1~RR6の各々は等間隔L3で位置する。
図5に示すように、ステップS201では、記番号認識部24は、画像幾何補正を行う。すなわち、記番号認識部24は、記番号存在領域画像が、図6の記番号存在領域画像SNP2のように縦長の矩形の形状を有する画像である場合に、記番号存在領域画像を90°回転させることにより記番号存在領域画像の向きを補正する。この補正により、縦長の矩形の形状を有する記番号存在領域画像SNP2は、記番号存在領域画像SNP1のように、横長の矩形の形状を有する記番号存在領域画像に補正される。
次いで、ステップS202では、記番号認識部24は、記番号存在領域画像SNPに対して二値化処理を行う。
例えば、図8に示すように、記番号存在領域画像SNPが画素(x,y)=画素(1,1)~画素(6,9)の54画素で形成され、各画素が図8に示す値の階調値を有すると仮定した場合、記番号認識部24は、例えば、以下の二値化処理例1または二値化処理例2のようにして二値化処理を行う。二値化処理の種類については、二値化種類BTYPEにより指定される。
二値化の処理例1では、記番号認識部24は、固定の二値化閾値TH1を用いて記番号存在領域画像SNPを二値化する。よって例えば、二値化閾値TH1が「210」であった場合、記番号認識部24は図9に示すように、図8において210以上の階調値を有する画素の階調値を「255」に変更し、図8において210未満の階調値を有する画素の階調値を「0」に変更することにより記番号存在領域画像SNPを二値化する。
また、記番号認識部24は、金種判別部22から出力される金種情報により示される金種に応じた値の二値化閾値TH1を設定しても良い。
二値化の処理例2では、記番号認識部24は、まず、図10に示すように、記番号存在領域画像SNPに含まれる複数の画素において第一部分PT1と第二部分PT2とを設定する。次いで、記番号認識部24は、画素(1,1)~画素(6,9)の54画素において、列ごとに第一部分PT1の階調値の平均値を算出し、算出した平均値を平均値の算出対象となった列の二値化閾値TH2に設定する。よって例えば、第1列~第4列の二値化閾値TH2は(220+210+200)/3=210と算出され、第5列及び第6列の二値化閾値TH2は(140+130+120)/3=130と算出される。このように、記番号認識部24は、画素(1,1)~画素(6,9)の54画素において列毎に第一部分PT1を用いて列毎の二値化閾値TH2を算出する。よって、図11に示すように、記番号認識部24は、第1列~第4列については、二値化閾値TH2が「210」であるため、図10において210以上の階調値を有する画素の階調値を「255」に変更し、図10において210未満の階調値を有する画素の階調値を「0」に変更することにより記番号存在領域画像SNPを二値化する。また、図11に示すように、記番号認識部24は、第5列及び第6列については、二値化閾値TH2が「130」であるため、図10において130以上の階調値を有する画素の階調値を「255」に変更し、図10において130未満の階調値を有する画素の階調値を「0」に変更することにより記番号存在領域画像SNPを二値化する。
図5に戻り、次いでステップS203及びステップS204では、記番号認識部24は、紙幣BLの記番号を形成する文字の画像(以下では「文字画像」と呼ぶことがある)が存在する領域(以下では「文字存在領域」と呼ぶことがある)CRの候補(以下では「文字存在領域候補」と呼ぶことがある)を記番号存在領域画像SNPにおいて検出する。記番号認識部24は、例えば、二値化画像において背景と隣接する図形画素を追跡する一般的な手法である「境界追跡法」を用いて、文字存在領域候補を検出する。
具体的には、ステップS203では、記番号認識部24は、膨張(dilate)処理を行う。すなわち、記番号認識部24は、二値化後の記番号存在領域画像SNPに対して、図12に示す画像の輪郭線(以下では「画像輪郭線」と呼ぶことがある)COを規定ピクセル外側に輪郭に合わせて広げる。ここで、規定ピクセルは、膨張量DPXLにより指定される。そして、記番号認識部24は、境界追跡法を適用することにより、二値化後の記番号存在領域画像SNPに含まれる画像輪郭線COを検出する。次いで、記番号認識部24は、画像輪郭線COを形成する複数の画素(x,y)において、X座標の最小値xmin、Y座標の最小値ymin、X座標の最大値xmax、及び、Y座標の最大値ymaxを検出する。次いで、記番号認識部24は、記番号存在領域画像SNPにおいて、最小値xmin及び最小値yminを有する座標C11=(xmin,ymin)と、最大値xmax及び最大値ymaxを有する座標C12=(xmax,ymax)とを特定する。次いで、記番号認識部24は、記番号存在領域画像SNPにおいて、座標C11から所定の距離(例えば、-X方向に3画素及び-Y方向に3画素の距離)にある座標C21と、座標C12から所定の距離(例えば、+X方向に3画素及び+Y方向に3画素の距離)にある座標C22とを特定する。
そして、ステップS204では、記番号認識部24は、文字候補位置検出を行う。すなわち、左上のコーナーを座標C21、右下のコーナーを座標C22とする矩形領域を文字存在領域CRの候補として検出する。記番号認識部24は、膨張処理と文字候補位置検出を複数回行うことで、記番号存在領域画像SNPにおいて、複数の文字存在領域候補を検出する。
次いでステップS205~ステップS209では、記番号認識部24は、複数の文字存在領域候補から文字存在領域を絞り込む処理を行う。
具体的には、ステップS205では、記番号認識部24は、黒白比率の候補排除を行う。すなわち、図13に示すように、記番号認識部24は、複数の文字存在領域候補の中から、文字存在領域CRにおいて黒色画素(つまり、二値化により「0」の階調値を有することになった画素)の白色画素(つまり、二値化により「255」の階調値を有することになった画素)に対する割合が黒白割合閾値THR以上である候補を除外することにより、記番号存在領域画像SNPにおける文字存在領域を特定する。例えば、黒白割合閾値THRは20%に設定される。
また、ステップS206では、記番号認識部24は、外縁付近の候補排除を行う。すなわち、図14に示すように、記番号認識部24は、複数の文字存在領域候補の中から、記番号存在領域画像SNPの外縁から所定距離D以内にある候補を除外することにより、記番号存在領域画像SNPにおける文字存在領域を特定する。上下左右のどの外縁から所定距離D以内にある候補を除外するかは外縁指定UDLRにより指定される。例えば、図14に示す一例では、文字存在領域の複数の候補CR11~CR17のうち、候補CR11は記番号存在領域画像SNPの左辺から所定距離D以内にあり、候補CR13は記番号存在領域画像SNPの上辺から所定距離D以内にあり、候補CR16は記番号存在領域画像SNPの下辺から所定距離D以内にあり、候補CR17は記番号存在領域画像SNPの右辺から所定距離D以内にある。このため、図14に示す例では、文字存在領域の複数の候補CR11~CR17の中からUDLRにより左が指定されると候補CR11が除外され、UDLRにより上が指定されるとCR13が除外され、UDLRにより下が指定されるとCR16が除外され、UDLRにより右が指定されるとCR17が除外される。
また、ステップS207では、記番号認識部24は、距離の近い文字存在領域候補CRを統合する処理を行う。
また、ステップS208では、記番号認識部24は、X方向にソートし、隣合う候補の距離で大きいものを排除する処理を行い、Y方向にソートし、隣合う候補の距離で大きいものを排除する処理を行う。すなわち、図15に示すように、記番号認識部24は、複数の文字存在領域候補CR21,CR22,CR23の各々において、左上のコーナーのX座標PX21,PX22,PX23を取得し、X座標PX21,PX22,PX23を昇順にソートする。次いで、記番号認識部24は、ソート順に従って、候補CR21に対する候補CR22の距離としてX座標PX21に対するX座標PX22の距離XD1を算出し、候補CR22に対する候補CR23の距離としてX座標PX22に対するX座標PX23の距離XD2を算出する。そして、記番号認識部24は、算出した距離がX距離閾値THX以上である候補を除外することにより、記番号存在領域画像SNPにおける文字存在領域を特定する。例えば、図15において、距離XD1がX距離閾値THX未満であり、距離XD2がX距離閾値THX以上である場合、文字存在領域の複数の候補CR21,CR22,CR23の中から候補CR23が除外され、記番号存在領域画像SNPにおける文字存在領域として文字存在領域CR21,CR22が特定される。
同様に、図16に示すように、記番号認識部24は、複数の文字存在領域候補CR21,CR22,CR23の各々において、左上のコーナーのY座標PY31,PY32,PY33を取得し、Y座標PY31,PY32,PY33を昇順にソートする。次いで、記番号認識部24は、ソート順に従って、候補CR31に対する候補CR32の距離としてY座標PY31に対するY座標PY32の距離YD1を算出し、候補CR32に対する候補CR33の距離としてY座標PY32に対するY座標PY33の距離YD2を算出する。そして、記番号認識部24は、算出した距離がY距離閾値THY以上である候補を除外することにより、記番号存在領域画像SNPにおける文字存在領域を特定する。例えば、図16において、距離YD1がY距離閾値THY未満であり、距離YD2がY距離閾値THY以上である場合、文字存在領域の複数の候補CR31,CR32,CR33の中から候補CR33が除外され、記番号存在領域画像SNPにおける文字存在領域として文字存在領域CR31,CR32が特定される。
また、ステップS209では、記番号認識部24は、候補再切り出し処理を行う。すなわち、図17に示すように、記番号認識部24は、特定した文字存在領域の数が、紙幣BLの記番号を形成する文字の数Nより少ない場合に、紙幣BLの記番号を形成する文字の数Nに基づいて、新たな文字存在領域を追加することにより、記番号存在領域画像SNPにおける文字存在領域を特定する。例えば、図7に示すように紙幣BLの記番号が6つの文字で形成されるのに対し、特定した文字存在領域が図17に示すように文字存在領域CR51~CR55の5つである場合、文字存在領域の数は、紙幣BLの記番号を形成する文字の数より少ない。また、図17に示す例では、文字存在領域の数(5つ)と紙幣BLの記番号を形成する文字の数(6つ)との差は1つである。そこで、図17に示す例では、記番号認識部24は、文字存在領域CR51~CR55にさらに、新たな1つの文字存在領域CR56を追加することにより、記番号存在領域画像SNPにおける文字存在領域を特定する。例えば、記番号認識部24は、文字存在領域CR51~CR55において最も右に存在するCR55から間隔L3(図7)の位置に文字存在領域CR56を追加する。
図5に戻り、次いでステップS210では、記番号認識部24は、文字認識処理を行う。すなわち、記番号認識部24は、各文字存在領域の画像(以下では「文字存在領域画像」と呼ぶことがある)を紙幣画像BLPから抽出し、抽出した各文字存在領域画像に含まれる文字を記憶部23が記憶する学習モデルに基づいて認識する。なお、記番号認識部24は、学習モデルの代わりに辞書データとのユークリッド距離に基づいて文字認識を行っても良い。
<紙幣検査装置のハードウェア構成>
紙幣検査装置14は、次のようなハードウェア構成により実現することができる。紙幣撮影部21は、例えばカメラにより実現される。金種判別部22は、例えば光センサや磁気センサ等の各種センサにより実現される。記番号認識部24は、例えばプロセッサにより実現される。記憶部23は、例えばメモリによって実現される。プロセッサの一例として、CPU(Central Processing Unit)等が挙げられる。メモリの一例として、SDRAM(Synchronous Dynamic Random Access Memory)等のRAM(Random Access Memory)、フラッシュメモリ等が挙げられる。
また、記番号認識部24は、記番号認識プログラムをプロセッサに実行させることによって実現される。例えば、記番号認識プログラムは、紙幣取扱装置1が有するメモリに記憶され、紙幣取扱装置1が有するプロセッサによってメモリから読み出されて実行される。
<紙幣取扱システムの構成>
図18は、実施例の紙幣取扱システムの構成例を示す図である。図18に示すように、実施例の紙幣取扱システム10は、紙幣取扱装置1と、ファームウェア開発装置3と、配信装置4とを有する。紙幣取扱装置1と配信装置4はネットワーク5により接続される。なお、図18では、説明の便宜上1台の紙幣取扱装置1を示すが、ネットワーク5には複数の紙幣取扱装置1が接続されて良い。ファームウェア開発装置3と配信装置4はネットワーク6により接続される。なお、ファームウェア開発装置3と配信装置4はネットワーク5により接続されても良い。
ファームウェア開発装置3は、紙幣取扱装置1を制御する制御プログラムの開発に使用される。制御プログラムには、記番号認識プログラムが含まれる。配信装置4は、ファームウェア開発装置3により開発された制御プログラムのロードモジュールを紙幣取扱装置1に配信する。
ファームウェア開発装置3は、パラメータ決定装置30を有する。記番号認識プログラムはパラメータ化され、パラメータ決定装置30は、記番号認識プログラムのパラメータの値を決定する。パラメータ決定装置30は、遺伝的アルゴリズム(GA:Genetic Algorithm)を用いてパラメータを最適化する。ファームウェア開発装置3は、パラメータ決定装置30により決定されたパラメータ値と、制御プログラムのオブジェクトモジュールからロードモジュールを生成する。
なお、図18では、ファームウェア開発装置3がパラメータ決定装置30を有する場合を示したが、ファームウェア開発装置3とパラメータ決定装置30は、別の装置でも良い。
<パラメータ>
図19は、パラメータ決定装置30により値が決定されるパラメータの例を示す図である。図19に示すように、パラメータには、二値化閾値TH1、二値化種類BTYPE、膨張量DPXL、黒白割合閾値THR、記番号存在領域画像端の候補削除用の外縁指定UDLR、X距離閾値THX、Y距離閾値THYが含まれる。
<パラメータ決定装置の構成>
図20は、パラメータ決定装置30の構成例を示す図である。図20に示すように、パラメータ決定装置30は、生成部31と、特定部32と、評価指標計算部33とを有する。
生成部31は、GAに基づいてパラメータ値を生成する。生成部31は、RCGA(Real-Coded GA)を用いる。生成部31は、パラメータ値のセットを1つの個体とする。生成部31は、1つの世代で、例えば、30個の個体を生成する。1つの世代で生成される個数は設定により変更可能である。
図21は、個体の例を示す図である。図21では、パラメータの個数は8個である。XA0~XE0は、パラメータX0の値であり、XA1~XE1は、パラメータX1の値であり、・・・、XA7~XE7は、パラメータX7の値である。
特定部32は、生成部31により生成された個体を用いて文字存在領域を特定する。特定部32は、個体ごとに文字存在領域を特定する。特定部32は、シミュレーションにより文字存在領域を特定する。
評価指標計算部33は、特定部32により特定された文字存在領域について適応度を計算することで個体を評価する。図22は、適応度の説明に供する図である。図22に示すように、評価指標計算部33は、パラメータセット(個体)ごとに、特定部32による特定結果を評価関数を用いて評価して適応度を計算する。ここで、パラメータセットは、パラメータの値のセットである。例えば、評価指標計算部33は、パラメータセットAを用いた文字存在領域の特定結果Aを評価関数を用いて評価し、適応度fAを計算する。
評価関数は、文字数に関する評価関数fnum、文字間隔に関する評価関数fdis及び文字列幅に関する評価関数fstr_wに基づく関数である。fnum、fdis及びfstr_wは、例えば、以下に示す関数である。
Figure 0007390492000001
ここで、nは特定された文字数、di(i=1~n-1)は特定された文字間隔、wは特定された文字列幅である。図23は、d及びwの説明に供する図である。図23に示すように、diは隣接する文字存在領域の中心の間の距離であり、wは左端の文字存在領域の中心と右端の文字存在領域の中心との距離である。di及びwの単位はピクセルである。
N、D及びWは、それぞれ正解として設定される文字数、文字間隔及び文字列幅である。D及びWの単位はピクセルである。図24は、N、D及びWの例を示す図である。図24に示すように、例えば、N=7、D=21、W=128である。
σ2は、正規分布の分散である。図25に、fnumのグラフと、fdis及びfstr_wで用いられる平均値μ、分散σ2の正規分布のグラフとを示す。
適応度ftotalは、例えば、ftotal=wnum×fnum+wdis×fdis+wstr_w×fstr_wである。ここで、wnum、wdis及びwstr_wは重みである。
生成部31は、適応度ftotalに基づいて親を選択し、交叉、突然変異を用いて子の個体群を生成する。パラメータ決定装置30は、生成部31、特定部32及び評価指標計算部33の処理を、所定の終了条件が満たされるまで繰り返す。所定の終了条件は、例えば、世代数が所定の数(例えば30)になると満たされる。
図26は、GAによるパラメータセットの最適化例を示す図である。図26において、矩形の枠が文字存在領域の特定結果を示す。図26(a)は初期世代のパラメータセットを用いた特定結果を示し、図26(b)は最終世代のパラメータセットを用いた特定結果を示す。図26に示すように、GAによりパラメータセットが最適化され、文字存在領域が正確に特定される。
<パラメータ決定装置の処理フロー>
図27は、パラメータ決定装置30の処理例の説明に供するフローチャートである。図27に示すように、パラメータ決定装置30は、ステップS301では、初期個体群を生成し、ステップS302では、初期世代の各個体の適応度を算出する。次いで、パラメータ決定装置30は、ステップS303では、適応度に基づいて親を選択する。パラメータ決定装置30は、例えば、2個の親を選択する。次いで、ステップS304では、パラメータ決定装置30は、選択した親を用いて子個体群を生成する。パラメータ決定装置30は、交叉、突然変異を行うことで、子個体群を生成する。
次いで、パラメータ決定装置30は、ステップS305では、子個体群の適応度を算出し、ステップS306では、終了条件を満たすか否かを判定する。そして、終了条件を満たさない場合には、パラメータ決定装置30は、ステップS307では、生存個体を選択し、ステップS308では、選択した生存個体に基づいて現世代の個体の入れ替えを行い、ステップS303に戻る。一方、終了条件を満たす場合には、パラメータ決定装置30は、処理を終了する。
以上のように、実施例では、記番号認識プログラムがパラメータ化される。そして、生成部31が、記番号認識プログラムのパラメータセットを生成し、特定部32が、生成部31により生成されたパラメータセットを用いてシミュレーションにより文字存在領域を特定する。そして、評価指標計算部33が、特定部32により特定された文字存在領域に基づいてパラメータセットの適応度ftotalを計算する。そして、生成部31は、適応度ftotalに基づいて親を選択し、交叉、突然変異を用いて子の個体群を生成する。パラメータ決定装置30は、生成部31、特定部32及び評価指標計算部33の処理を、所定の終了条件が満たされるまで繰り返すことでパラメータセットを最適化する。したがって、パラメータ決定装置30は、最適なパラメータセットを決定するための試行錯誤をなくすことができ、記番号認識プログラムの開発に必要な工数を削減することができる。
また、実施例では、評価指標計算部33は、文字数、文字間隔及び文字列幅に基づいて適応度ftotalを計算するので、パラメータセットを適切に評価することができる。
また、実施例では、パラメータセットは、二値化閾値TH1、二値化種類BTYPE、膨張量DPXL、黒白割合閾値THR、記番号存在領域画像端の候補削除用の外縁指定UDLR、X距離閾値THX、Y距離閾値THYを含む。したがって、パラメータ決定装置30は、記番号認識プログラムを最適化することができる。
なお、実施例では、パラメータ決定装置30について説明したが、パラメータ決定装置30が有する構成をソフトウェアによって実現することで、同様の機能を有するパラメータ決定プログラムを得ることができる。そこで、パラメータ決定プログラムを実行するコンピュータについて説明する。
図28は、実施例のパラメータ決定プログラムを実行するコンピュータのハードウェア構成を示す図である。図28に示すように、コンピュータ60は、メモリ61と、CPU62と、LAN(Local Area Network)インタフェース63と、HDD(Hard Disk Drive)64とを有する。また、コンピュータ60は、入力装置65と、表示装置66と、ODD(Optical Disk Drive)67とを有する。
メモリ61は、プログラムやプログラムの実行途中結果等を記憶するRAMである。CPU62は、メモリ61からプログラムを読み出して実行する中央処理装置である。CPU62は、メモリコントローラを有するチップセットを含む。
LANインタフェース63は、コンピュータ60をLAN経由で他のコンピュータに接続するためのインタフェースである。HDD64は、プログラムやデータを格納するディスク装置であり、入力装置65は、マウスやキーボード等である。表示装置66は、液晶表示装置であり、ODD67は、DVDの読み書きを行う装置である。
そして、コンピュータ60において実行されるパラメータ決定プログラムは、コンピュータ60により読み出し可能な記録媒体の一例であるDVDに記憶され、ODD67によってDVDから読み出されてコンピュータ60にインストールされる。あるいは、パラメータ決定プログラムは、LANインタフェース63を介して接続された他のコンピュータシステムのデータベース等に記憶され、これらのデータベースから読み出されてコンピュータ60にインストールされる。そして、インストールされたパラメータ決定プログラムは、HDD64に記憶され、メモリ61に読み出されてCPU62によって実行される。
なお、実施例では、紙幣取扱装置1について説明したが、本発明は、記番号と同様な文字列を有する紙葉類を取り扱う他の紙葉類取扱装置にも同様に適用することができる。また、実施例では、GAを用いてパラメータセットを最適化したが、パラメータ決定装置は、他の最適化手法を用いてパラメータセットを最適化しても良い。
1 紙幣取扱装置
3 ファームウェア開発装置
10 紙幣取扱システム
17 制御部
21 紙幣撮影部
22 金種判別部
23 記憶部
24 記番号認識部
30 パラメータ決定装置
31 生成部
32 特定部
33 評価指標計算部

Claims (6)

  1. 紙葉類取扱装置において紙葉類の画像から記番号を形成する文字が存在する文字存在領域を特定するときに用いられるプログラムのパラメータセットを生成する生成部と、
    前記生成部により生成されたパラメータセットを用いて前記紙葉類の画像から前記文字存在領域を特定する特定部と、
    前記特定部により特定された文字存在領域と、正解の値とに基づいて前記パラメータセットの評価指標を計算する評価指標計算部と
    を有し、
    前記生成部、前記特定部及び前記評価指標計算部の処理を所定の条件が満たされるまで繰り返すことで前記パラメータセットを最適化する、
    記番号認識パラメータ決定装置。
  2. 前記評価指標計算部は、前記文字存在領域の数、各文字存在領域に含まれる文字の間の距離、及び、前記記番号が含まれる記番号領域に含まれる文字列の幅を評価指標として前記評価指標を計算する
    請求項1に記載の記番号認識パラメータ決定装置。
  3. 前記生成部は、前記パラメータセットを1つの個体とする遺伝的アルゴリズムに基づいて前記パラメータセットを生成する
    請求項1に記載の記番号認識パラメータ決定装置。
  4. 前記パラメータセットは、前記記番号が含まれる記番号領域画像を二値化するときに用いられる二値化種類を示す値及び二値化閾値、二値化された文字存在領域についての膨張処理における膨張量を示す値、二値化された文字存在領域について黒画素が所定割合以上である文字存在領域を除外するときに用いられる黒白割合閾値、二値化された記番号領域画像の外縁から第一所定距離以内にある前記文字存在領域を除外するときに用いられる外縁指定及び隣接する文字存在領域から距離が所定距離以上である文字存在領域を除外するときに用いられる距離閾値を含む
    請求項1に記載の記番号認識パラメータ決定装置。
  5. コンピュータに、
    紙葉類取扱装置において紙葉類の画像から記番号を形成する文字が存在する文字存在領域を特定するときに用いられるプログラムのパラメータセットを生成し、
    生成したパラメータセットを用いて前記紙葉類の画像から前記文字存在領域を特定し、
    特定した文字存在領域と、正解の値とに基づいて前記パラメータセットの評価指標を計算し、
    前記パラメータセットの生成、前記文字存在領域の特定、及び、前記評価指標の計算を所定の条件が満たされるまで繰り返すことで前記パラメータセットを最適化する
    処理を実行させる記番号認識パラメータ決定プログラム。
  6. 紙葉類の画像から記番号を形成する文字が存在する文字存在領域をプログラムを実行することにより特定する紙葉類取扱装置と、
    前記プログラムのパラメータセットを決定する記番号認識パラメータ決定装置とを有し、
    前記記番号認識パラメータ決定装置は、
    前記パラメータセットを生成する生成部と、
    前記生成部により生成されたパラメータセットを用いて前記紙葉類の画像から前記文字存在領域を特定する特定部と、
    前記特定部により特定された文字存在領域と、正解の値とに基づいて前記パラメータセットの評価指標を計算する評価指標計算部と
    を有し、
    前記生成部、前記特定部及び前記評価指標計算部の処理を所定の条件が満たされるまで繰り返すことで前記パラメータセットを最適化する、
    紙葉類取扱システム。
JP2022545242A 2020-08-31 2020-08-31 記番号認識パラメータ決定装置、記番号認識パラメータ決定プログラム及び紙葉類取扱システム Active JP7390492B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/032825 WO2022044310A1 (ja) 2020-08-31 2020-08-31 記番号認識パラメータ決定装置、記番号認識パラメータ決定プログラム及び紙葉類取扱システム

Publications (2)

Publication Number Publication Date
JPWO2022044310A1 JPWO2022044310A1 (ja) 2022-03-03
JP7390492B2 true JP7390492B2 (ja) 2023-12-01

Family

ID=80354996

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022545242A Active JP7390492B2 (ja) 2020-08-31 2020-08-31 記番号認識パラメータ決定装置、記番号認識パラメータ決定プログラム及び紙葉類取扱システム

Country Status (5)

Country Link
US (1) US20230186663A1 (ja)
EP (1) EP4207091A4 (ja)
JP (1) JP7390492B2 (ja)
CN (1) CN116057582A (ja)
WO (1) WO2022044310A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018060389A (ja) 2016-10-06 2018-04-12 アイラボ株式会社 プログラム、情報記憶媒体及び文字分割装置
WO2020084720A1 (ja) 2018-10-24 2020-04-30 富士通フロンテック株式会社 紙幣検査装置、紙幣検査方法及び紙幣検査プログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8162125B1 (en) * 1996-05-29 2012-04-24 Cummins-Allison Corp. Apparatus and system for imaging currency bills and financial documents and method for using the same
JP2005253031A (ja) * 2004-02-04 2005-09-15 Sharp Corp 画像印刷装置、画像印刷装置の制御方法、画像印刷装置の制御プログラム、および画像印刷装置の制御プログラムを記録した記録媒体
JP5624671B2 (ja) * 2011-03-04 2014-11-12 グローリー株式会社 文字列切出方法及び文字列切出装置
JP6342739B2 (ja) 2014-07-28 2018-06-13 日立オムロンターミナルソリューションズ株式会社 紙葉類識別装置、紙葉類処理装置、および紙葉類識別方法
JP2016118925A (ja) 2014-12-19 2016-06-30 グローリー株式会社 紙幣識別装置、紙幣処理装置および紙幣識別方法
JP2016206839A (ja) 2015-04-20 2016-12-08 沖電気工業株式会社 媒体認識装置及び取引装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018060389A (ja) 2016-10-06 2018-04-12 アイラボ株式会社 プログラム、情報記憶媒体及び文字分割装置
WO2020084720A1 (ja) 2018-10-24 2020-04-30 富士通フロンテック株式会社 紙幣検査装置、紙幣検査方法及び紙幣検査プログラム

Also Published As

Publication number Publication date
JPWO2022044310A1 (ja) 2022-03-03
CN116057582A (zh) 2023-05-02
EP4207091A1 (en) 2023-07-05
EP4207091A4 (en) 2023-09-06
WO2022044310A1 (ja) 2022-03-03
US20230186663A1 (en) 2023-06-15

Similar Documents

Publication Publication Date Title
JP4741704B2 (ja) 画像の道路標識を確認するためのデバイス、方法およびコンピュータ・プログラム
JP3345224B2 (ja) パターン抽出装置、パターン再認識用テーブル作成装置及びパターン認識装置
CN107437294B (zh) 一种字符分割方法、装置、设备及存储介质
US20030123732A1 (en) Optical character reading method and system for a document with ruled lines and its application
JP2011227636A (ja) 文字列認識装置および文字列認識方法
JPH09282517A (ja) 紙葉類の識別方法
CN113343740B (zh) 表格检测方法、装置、设备和存储介质
CN103093185B (zh) 字符识别装置、图像处理装置及其方法
US20140037181A1 (en) Character recognition method, character recognition apparatus and financial apparatus
Vellasques et al. Filtering segmentation cuts for digit string recognition
CN113221867A (zh) 一种基于深度学习的pcb图像字符检测方法
CN115240178A (zh) 一种票据图像的结构化信息提取方法及系统
JP7390492B2 (ja) 記番号認識パラメータ決定装置、記番号認識パラメータ決定プログラム及び紙葉類取扱システム
CN107680246B (zh) 一种纸币图案中的曲线边界定位方法及设备
US11423728B2 (en) Banknote inspection device, banknote inspection method, and banknote inspection program product
JPH11161736A (ja) 文字認識方法
Cardoso et al. A connected path approach for staff detection on a music score
CN113688821A (zh) 一种基于深度学习的ocr文字识别方法
CN108269349A (zh) 一种纸币处理方法、装置、设备和存储介质
Rebelo et al. A shortest path approach for staff line detection
US20030044084A1 (en) Two dimensional image recording and reproducing scheme using similarity distribution
JP2009223612A (ja) 画像認識装置及びプログラム
CN108320372B (zh) 一种折叠纸币有效识别方法
CN109410420B (zh) 一种图像检测方法、装置和票据鉴别仪
CN112308141A (zh) 一种扫描票据分类方法、系统及可读存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230606

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230802

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231120

R150 Certificate of patent or registration of utility model

Ref document number: 7390492

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150