JP6878575B2 - 紙幣管理方法、システム、プログラム及び記録媒体 - Google Patents

紙幣管理方法、システム、プログラム及び記録媒体 Download PDF

Info

Publication number
JP6878575B2
JP6878575B2 JP2019513099A JP2019513099A JP6878575B2 JP 6878575 B2 JP6878575 B2 JP 6878575B2 JP 2019513099 A JP2019513099 A JP 2019513099A JP 2019513099 A JP2019513099 A JP 2019513099A JP 6878575 B2 JP6878575 B2 JP 6878575B2
Authority
JP
Japan
Prior art keywords
banknote
image
information
module
bill
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019513099A
Other languages
English (en)
Other versions
JP2019523954A (ja
Inventor
柳永詮
柳偉生
孫偉忠
趙楠楠
王福艶
金彬
劉雲江
盧丙峰
崔彦身
金迪
焦仁剛
戈蘭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Julong Co Ltd
Original Assignee
Julong Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Julong Co Ltd filed Critical Julong Co Ltd
Publication of JP2019523954A publication Critical patent/JP2019523954A/ja
Application granted granted Critical
Publication of JP6878575B2 publication Critical patent/JP6878575B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07DHANDLING OF COINS OR VALUABLE PAPERS, e.g. TESTING, SORTING BY DENOMINATIONS, COUNTING, DISPENSING, CHANGING OR DEPOSITING
    • G07D7/00Testing specially adapted to determine the identity or genuineness of valuable papers or for segregating those which are unacceptable, e.g. banknotes that are alien to a currency
    • G07D7/20Testing patterns thereon
    • G07D7/2008Testing patterns thereon using pre-processing, e.g. de-blurring, averaging, normalisation or rotation
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07DHANDLING OF COINS OR VALUABLE PAPERS, e.g. TESTING, SORTING BY DENOMINATIONS, COUNTING, DISPENSING, CHANGING OR DEPOSITING
    • G07D7/00Testing specially adapted to determine the identity or genuineness of valuable papers or for segregating those which are unacceptable, e.g. banknotes that are alien to a currency
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07DHANDLING OF COINS OR VALUABLE PAPERS, e.g. TESTING, SORTING BY DENOMINATIONS, COUNTING, DISPENSING, CHANGING OR DEPOSITING
    • G07D7/00Testing specially adapted to determine the identity or genuineness of valuable papers or for segregating those which are unacceptable, e.g. banknotes that are alien to a currency
    • G07D7/20Testing patterns thereon
    • G07D7/2016Testing patterns thereon using feature extraction, e.g. segmentation, edge detection or Hough-transformation
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07DHANDLING OF COINS OR VALUABLE PAPERS, e.g. TESTING, SORTING BY DENOMINATIONS, COUNTING, DISPENSING, CHANGING OR DEPOSITING
    • G07D11/00Devices accepting coins; Devices accepting, dispensing, sorting or counting valuable papers
    • G07D11/20Controlling or monitoring the operation of devices; Data handling
    • G07D11/28Setting of parameters; Software updates
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07DHANDLING OF COINS OR VALUABLE PAPERS, e.g. TESTING, SORTING BY DENOMINATIONS, COUNTING, DISPENSING, CHANGING OR DEPOSITING
    • G07D7/00Testing specially adapted to determine the identity or genuineness of valuable papers or for segregating those which are unacceptable, e.g. banknotes that are alien to a currency
    • G07D7/004Testing specially adapted to determine the identity or genuineness of valuable papers or for segregating those which are unacceptable, e.g. banknotes that are alien to a currency using digital security elements, e.g. information coded on a magnetic thread or strip
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07DHANDLING OF COINS OR VALUABLE PAPERS, e.g. TESTING, SORTING BY DENOMINATIONS, COUNTING, DISPENSING, CHANGING OR DEPOSITING
    • G07D7/00Testing specially adapted to determine the identity or genuineness of valuable papers or for segregating those which are unacceptable, e.g. banknotes that are alien to a currency
    • G07D7/20Testing patterns thereon
    • G07D7/202Testing patterns thereon using pattern matching
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07DHANDLING OF COINS OR VALUABLE PAPERS, e.g. TESTING, SORTING BY DENOMINATIONS, COUNTING, DISPENSING, CHANGING OR DEPOSITING
    • G07D7/00Testing specially adapted to determine the identity or genuineness of valuable papers or for segregating those which are unacceptable, e.g. banknotes that are alien to a currency
    • G07D7/20Testing patterns thereon
    • G07D7/202Testing patterns thereon using pattern matching
    • G07D7/206Matching template patterns

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Security & Cryptography (AREA)
  • Inspection Of Paper Currency And Valuable Securities (AREA)
  • Character Discrimination (AREA)
  • Image Analysis (AREA)

Description

本発明は、金融分野に属し、特に紙幣管理システム方法、プログラム及び記録媒体に関する。
金融情報化応用水準の継続的な上昇に伴い、銀行システムの通貨偽造防止,業務フロー管理及び金融安全がますますスマート化になっており、紙幣管理は、国家金融分野の安全の維持、及び人民元流通追跡(trace:トレース)管理、偽札管理、ATM(Automated Teller Machine)紙幣分配管理、破損札管理及び現金入出庫管理を安定に実施することにとって、重大な意義を持っている。
紙幣管理は、主に紙幣情報、業務情報等の情報を総合的に処理するものであり、紙幣情報のうちのプレフィックス番号(Prefix Numbers or Serial Numbers)は紙幣管理においてますます重要になっており、プレフィックス番号の情報を業務等の情報と関連付けることで、紙幣の追跡及び照会を大幅に容易にすることができる。したがって、紙幣管理においてプレフィックス番号及び他の情報の収集及び認識、特に認識対象領域におけるプレフィックス番号の認識に対して比較的高い要求があり、高い正解度が要求されるとともに、認識効率及び認識速度も高く要求される。
従来技術では、DSP(Digital Signal Processor:デジタル信号処理)技術の発展に伴い、DSPプラットフォームを介してコンピュータ視覚的技術及び画像処理技術を組み合わせて、プレフィックス番号の認識を実施することが比較的一般的である。具体的な認識アルゴリズムには、常用の方法としてテンプレートマッチング、BP(Backpropagation:誤差逆伝播法)ニューラルネットワーク、サポートベクタマシン等があり、多重ニューラルネットワーク融合を採用して認識を実施することもあり、例えば、出願番号がCN201410258528.9である特許出願では、ニューラルネットワークを2つ設計してぞれぞれ訓練する方式によって認識を実施し、即ち、プレフィックス番号の画像ベクトル特徴により1つの特徴抽出ネットワークを訓練してから、1つのBPニューラルネットワークを結合して認識し、上記の2つのネットワークに対する加重融合により、プレフィックス番号の認識を実施する。しかしながら、DSP認識方式では、ネットワーク伝送効率及びDSP認識における紙幣の位置や向き等の影響に限定されるので、認識効率及び認識アルゴリズムのロバスト性が比較的に悪く、例えば、出願番号がCN201510702688.2である特許出願では、階調閾値と方向探索によって、エッジをフィッティングしてから、閾値によりエッジラインに対して選別を行って領域傾きを得て、ニューラルネットワークを結合して向きを訓練して認識してから、行順次の走査及び後続のニューラルネットワークによりプレフィックス番号を認識する。
また、他の従来技術では、例えば、「画像分析に基づく人民元選別方法の研究と実施」との論文では、コンボリューションニューラルネットワーク(Convolutional Neural Network:CNN:畳み込みネットワーク)を採用してプレフィックス番号が認識されるが、上記の技術案では、最も簡単な2値化のみによって文字を分割し、文字に対する有効なlasso(Least absolute shrinkage and selection operator:L1正則化又はL1型正則化推定法)を実施できず、したがって、後続の処理すべきデータ量に直接に影響し、アルゴリズムの実用的価値に直接に影響する。また、上記の技術手段により、分割文字に対する簡単なサイズ処理のみを採用しており、前処理及び分割後の画像に対する有効なlasso及び画像データの有効な正規化処理を行っていなく、これらの簡単なサイズ処理は、後続のニューラルネットワーク認識に大量のデータ処理量をもたらし、後続の認識効率を大幅に低下してしまう。また、上記の技術手段において、紙幣欠けによる紙幣認識及び画像処理への影響もうまく処理していない。上記の技術手段は、理論的に一定の認識正解率を達成することができるが、演算認識効率が低いため、商業上の実用的な方法にうまく変換できず、実際に紙幣認識における速度要求を満たしていない。
これから分かるように、従来技術には下記のような問題が存在する。つまり、紙幣の向き及び文字に対する有効な位置決めを効率的に解決できず、認識後の文字の範囲が比較的大きくて、文字の誤分割が発生しやすく、後続の画像処理及び認識のデータ量が多く、認識効率が低下される。また、紙幣走行による紙幣画像の迅速な傾斜の変化にうまく対応できず、紙幣の傾斜に対して即時に補正して認識できず、破損紙幣に対する認識のロバスト性が低く、対応の紙幣破損認識処理方式が提供されていない。
したがって、本発明の解決しようとする第1の技術課題は、従来技術における紙幣管理システムが紙幣情報の収集及び認識を効率的かつ正確的に実施できないため、紙幣情報の収集及び認識を効率的かつ正確的に実施できる紙幣管理方法システム、プログラム及び記録媒体を提供することにある。
本発明の解決しようとする第2の技術課題は、プレフィックス番号の認識効率を確保した上で、認識対象の破損、汚れ、迅速な折り返し等の場合における認識アルゴリズムのロバスト性の問題を有効に解決できるプレフィックス番号の認識方法を提供することにある。
本発明に記載の紙幣管理方法は、下記のステップを含む。
(1)紙幣情報処理装置により紙幣の特徴を収集、認識及び処理して紙幣特徴情報を得、
(2)ステップ(1)に記載の紙幣特徴情報、業務情報及び前記紙幣情報処理装置の情報を一緒にマスタサーバに伝送し、
(3)前記マスタサーバが受信された前記紙幣特徴情報、前記業務情報、前記紙幣情報処理装置の情報に対して統合加工処理を行い、紙幣に対して分類処理を行う。
好ましくは、前記ステップ(1)において、画像、赤外線、蛍光、磁気、厚さ測定のうちの1つ以上の方式によって前記紙幣特徴を収集する。
好ましくは、前記ステップ(3)において、紙幣に対して分類処理を行うステップは、具体的には、紙幣を分類してから、紙幣を分類されたカテゴリに従って異なる紙幣ホッパーに入れるステップである。前記紙幣ホッパーは、紙幣を収納する容器又は空間である。
好ましくは、前記紙幣情報は、金種、額面価値、向き、真偽、新しさ、汚損、プレフィックス番号のうちの1つ以上を含み、ここで、前記向きとは、紙幣の表裏向きである。
好ましくは、前記業務情報は、受取、支払、入金又は出金の記録情報、業務時間帯情報、作業者情報、取引カード番号情報、取引者及び/又は代行者アイデンティティ情報、二次元コード情報、パケット番号のうちの1つ以上を含む。
好ましくは、前記紙幣特徴を認識するステップは、具体的には下記のステップを含む。
ステップa、紙幣特徴が所在する領域の階調画像を抽出し、階調画像に対してエッジ検出を行う。このエッジ検出ステップは、通常のcanny検出、sobel検出等の方式により実施されてから、直線フィッティングを結合してエッジ直線方程式を得ることができるが、方法の演算速度を確保するために、エッジ検出時の経験閾値に対して試験設定を行う必要がある。
ステップb、画像を回転させる。即ち、画像が正しく置かれるように、エッジ検出後の紙幣の画像に対して座標点補正及びマッピングを行うことにより、番号画像の分割及び認識を容易にし、この回転方法として、座標点変換方法、又は検出されたエッジ方程式に従って補正を行って変換方程式を得る方法を採用してもよいし、極座標回転等の方式により実施されてもよい。
ステップc、画像における単一の番号に対して位置決めを行う。具体的には、適応2値化により画像に対して2値化処理を行って2値化画像を得てから、前記2値化画像に対して投影を行い、通常の画像投影は、1回の垂直投影及び1回の水平投影により完成されるが、具体的な投影方向及び回数は、認識時の具体的な環境及び精度要求に応じて調整でき、例えば、傾斜角度を有する方向の投影等を採用してもよいし、又は、複数回の多重投影の結合を採用してもよい。最後に、移動ウインドウを設定し、移動ウインドウのレジストレーションの方式により番号を分割して各番号の画像を得る。紙幣の破損、汚れ等の一般的な問題により、プレフィックス番号の画像に汚れが存在し、文字と文字との間に粘着が存在する紙幣に対して効果が比較的悪く、特に、3つ以上の文字の粘着に対しては、ほとんど分割できない。したがって、本発明では、画像投影の後に移動ウインドウのレジストレーションの方式を追加して、文字の位置を正確に特定する。この移動ウインドウのレジストレーションの方式は、固定ウインドウを設定する方式により、例えば、ウインドウテンプレートのような方式等により、番号領域を縮小し、より精確な領域位置決めを実施することであり、固定ウインドウを設定してスライドマッチングする方式であれば、いずれも本発明に適用される。
ステップd、前記各番号の画像に含まれる文字に対してlassoを行い、各番号画像に対して正規化処理を行う。好ましくは、前記正規化は、サイズ正規化及び明暗正規化を含む。文字のlassoステップは、ステップcに基づき、おおよその位置が分割された文字に対して詳細な位置決めを再度行って、後続の画像認識において処理すべきデータ量をさらに減少することにより、システム全体の運転速度が大幅に確保される。
ステップe、ニューラルネットワークにより正規化後の番号画像を認識して紙幣特徴を得る。好ましくは、前記紙幣特徴はプレフィックス番号である。
好ましくは、前記ステップaにおけるエッジ検出ステップは、下記のステップをさらに含む。階調閾値を設定し、この閾値に基づいて上下の2つの方向から直線探索を行ってエッジを取得し、このエッジ検出ステップは、直線走査方式を採用してエッジ直線の画素座標を取得してから、最小二乗法により画像のエッジ直線方程式を得るとともに、紙幣画像の水平長さ、垂直長さ及び傾きを得る。
好ましくは、前記ステップbにおける回転ステップは、下記のステップをさらに含む。前記水平長さ、垂直長さ及び傾きに基づいて回転行列を得てから、前記回転行列に基づいて、回転された画素点座標を求める。前記回転行列は、極座標変換の方式により得られ、即ち、極座標変換行列であり、例えば、取得されたエッジの直線方程式に従って紙幣の傾斜角度を得てから、この角度及びエッジの長さに基づき、各画素点の極座標変換行列を算出してもよいし、一般的な座標変換方式により算出してもよく、例えば、この傾斜角度及びエッジ長さに基づき、紙幣の中心点を座標原点と設定し、各座標点の新な座標系における変換行列等を算出し、もちろん、他の行列変換法の方式により紙幣画像の回転補正を行ってもよい。
好ましくは、前記ステップcにおいて、前記適応2値化により画像に対して2値化処理を行うステップは、具体的には下記のステップを含む。画像のヒストグラムを求め、閾値Thを設定し、ヒストグラムにおける階調値の0からThまでの点数の和が予定値以上である場合、この際のThを適応2値化閾値として画像に対して2値化を行って2値化画像を得る。
好ましくは、前記2値化画像に対して投影を行うステップでは、合計で3回の異なる方向の投影を行う。
好ましくは、前記ステップcにおける移動ウインドウのレジストレーションのステップは、具体的には下記のステップを含む。レジストレーション用移動ウインドウを設計し、前記ウインドウを垂直投影図上で水平移動させ、ウインドウ内の黒点数の総和の最小値の対応する位置がプレフィックス番号の左右方向の分割の最適な位置になる。
好ましくは、前記ウインドウは固定間隔のパルスシーケンスであり、パルス間の幅はプレフィックス番号画像同士の間隔により予め設定される。
好ましくは、各前記パルスの幅は2〜10個の画素である。
好ましくは、前記ステップdにおけるlassoステップは、具体的には下記のステップを含む。前記各番号の画像に対して個別に2値化を行い、取得された各番号の2値化画像に対して領域成長を行い、最後に、領域成長して得られた領域内である予定面積の閾値より面積が大きい領域を1つ又は2つ選択し、前記選択された領域が所在する矩形が各番号画像のlasso後の矩形になる。この領域の成長は、例えば、8近傍領域成長アルゴリズム等を採用してもよい。
好ましくは、前記各番号の画像に対して個別に2値化を行うステップは、具体的には下記のステップを含む。前記各番号の画像に対してヒストグラムを抽出し、ヒストグラムバイモーダル法を採用して2値化閾値を取得してから、この2値化閾値に基づき、前記各番号の画像に対して2値化を行う。
好ましくは、前記ステップdにおけるサイズ正規化は、バイリニア補間アルゴリズムによりサイズ正規化を行う。
より好ましくは、正規化後のサイズは、12*12、14*14、18*18、28*28のうちの1つであり、その単位は画素である。
好ましくは、前記ステップdにおける前記明暗正規化は、下記のステップを含む。前記各番号の画像のヒストグラムを取得し、番号の前景階調平均値及び背景階調平均値を算出し、明暗正規化前の画素階調値をそれぞれ前景階調平均値及び背景階調平均値と比較し、この比較結果に基づき、正規化前の画素階調値を対応の特定の階調値と設定する。
好ましくは、前記ステップb、ステップcの間に、向き判断ステップがさらに含まれ、前記向き判断ステップにおいて、前記回転された画像に基づいて紙幣サイズを決定し、前記サイズに基づいて額面価値を特定し、ターゲット紙幣画像をn個のブロックに分割し、各ブロックにおける輝度平均値を算出し、予め記憶されたテンプレートと比較し、差が最も小さい場合に、テンプレートの対応する向きと判断する。このテンプレートは、様々な方式により予め設定でき、紙幣画像の比較を通過できれば、例えば額面価値の違い、向きの違いによる輝度値の差異、色の差異、又は輝度数値に変換される他の特徴等は、いずれも比較テンプレートとして使用できる。
好ましくは、前記予め記憶されたテンプレートは、額面価値の異なる紙幣の異なる向きの画像をn個のブロックに分割し、各ブロックにおける輝度平均値を算出してテンプレートとする。
好ましくは、前記ステップb、ステップcの間に、新しさ判断ステップがさらに含まれ、前記新しさ判断ステップにおいて、まず予定数のdpi(dots per inch)の画像を抽出し、この画像の全体領域をヒストグラムの特徴領域とし、領域内の画素点を走査して配列に入れ、各画素点のヒストグラムを記録し、ヒストグラムに基づいてある程度の割合の最も明るい画素点を統計し、前記最も明るい画素点の平均階調値を求めて新しさの判断根拠とする。この予定数のdpiの画像は、例えば25dpiの画像等であってもよく、このある程度の割合は、具体的な要求に応じて調整でき、例えば40%、50%等であってもよい。
好ましくは、前記ステップb、ステップcの間に、破損認識ステップがさらに含まれ、前記破損認識ステップにおいて、紙幣の両側にそれぞれ光源及びセンサを設定することで、透過後画像を取得し、回転された透過後画像の各点に対して順次に検出し、この点の隣接する2つの画素点が同時に予定閾値より小さい場合、この点を破損点と判断する。この破損点の検出は、より詳細に、角欠け破損、穴あき破損等に区分される。
好ましくは、前記ステップb、ステップcの間に、筆跡認識ステップがさらに含まれ、前記筆跡認識ステップにおいて、固定領域内で、領域内の画素点を走査して配列に入れ、各画素点のヒストグラムを記録し、ヒストグラムに基づいて予定数の最も明るい画素点を統計し、平均階調値を求め、この平均階調値に基づいて閾値を得てから、階調値が閾値より小さい画素点を筆跡点と判定する。この予定数は例えば20、30等であってもよく、ここでは、これを保護範囲に対する限定として理解されるべきではない。この平均階調値に基づいて閾値を得るステップは、様々な方法を採用でき、この平均階調値を直接に閾値としてもよいし、この平均階調値を変数とした関数を採用して閾値を求めてもよい。
好ましくは、前記ステップeにおけるニューラルネットワークは、第2段階分類のコンボリューションニューラルネットワークを採用しており、第1段階分類では、プレフィックス番号に係る全ての数字及びアルファベットを分類し、第2段階分類では、第1段階分類内の一部のカテゴリのそれぞれに対して再分類を行う。なお、この第1段階分類のカテゴリ数は、分類の要求及び設定習慣等に応じて設定でき、例えば10類、23類、38類等であってもよく、ここではこれに限定されず、この第2段階分類も同様に、第1段階分類に基づき、一部の誤判定しやすい、特徴が類似する、又は正解率が高くない等の分類内に、再度第2段階分類を行うことにより、より高い認識率でプレフィックス番号をさらに区分して認識し、この第2段階分類の具体的な入力カテゴリ数及び出力カテゴリ数は、第1段階分類のカテゴリ設定及び分類要求と設定習慣等に応じて詳細に設定でき、ここではこれに限定されない。
好ましくは、前記コンボリューションニューラルネットワークのネットワークモデル構造は、下記のように順次設定される。
入力層:1つの画像のみを視覚入力とし、前記画像は認識される単一のプレフィックス番号の階調画像であり。
C1層:コンボリューション層であって、この層は6つの特徴図から構成され、
S2層:ダウンサンプリング層であって、画像局所相関の原理を利用して、画像に対してサブサンプリングを行い、
C3層:コンボリューション層であって、予定のコンボリューションカーネルを採用して層S2に対してコンボリューションを行い、C3層における各特徴図は不完全接続の方式を採用してS2に接続され、
S4層:ダウンサンプリング層であって、画像局所相関の原理を利用して、画像に対してサブサンプリングを行い、
C5層:C5層はS4層の簡単な延伸であって、1次元ベクトルになり、
ネットワークの出力数は分類数であり、C5層とともに完全接続構造を構成する。
好ましくは、前記C1層、C3層にはいずれも3x3のコンボリューションカーネルによってコンボリューションを行う。
好ましくは、前記紙幣情報処理装置は、紙幣選別機、紙幣計数機、紙幣識別機のうちの1つ以上であり、前記紙幣情報処理装置の情報は、製造メーカ、機器番号、所在する金融機関のうちの1つ以上である。
又は、前記紙幣情報処理装置はセルフ金融機器であり、前記紙幣情報処理装置の情報は紙幣分配記録、キャッシュボックス番号、製造メーカ、機器番号、所在する金融機関のうちの1つ以上である。
前記紙幣管理方法は、幾つかの前記紙幣情報処理装置により対応する業務における紙幣情報に対して収集、認識及び処理をそれぞれ行い、前記紙幣情報を拠点ホスト又は現金センターホストに伝送してから、前記拠点ホスト又は現金センターホストにより前記紙幣情報をマスタサーバに伝送する。
また、本発明は、紙幣管理システムをさらに提供し、前記紙幣管理システムは、紙幣情報処理端末及びマスタサーバ端末を備え、
前記紙幣情報処理端末は、紙幣搬送モジュール、検出モジュール、情報処理モジュールを備え、
前記紙幣搬送モジュールは、紙幣を前記検出モジュールに搬送するために使用され、
前記検出モジュールは、紙幣特徴に対して収集及び認識を行い、
前記情報処理モジュールは、前記検出モジュールが収集及び認識した紙幣特徴を加工処理し、紙幣特徴情報として出力して伝送し、
前記マスタサーバ端末は、前記紙幣特徴情報、業務情報、前記紙幣情報処理端末の情報を受信し、受信された上記の3種類の情報を加工し、紙幣に対して分類処理を行うために使用される。
前記マスタサーバ端末が受信された情報を加工するステップは、具体的には、集約、記憶、整理、照会、追跡、導出等の処理を含む。
前記検出モジュールは、またDSPプラットフォームのプレフィックス番号の認識システムに適用されてもよく、市販の通常の紙幣識別機、紙幣計数機、ATM等の機器に内蔵又は整合されて結合して使用でき、具体的には、前記検出モジュールは、画像前処理モジュール、プロセッサーモジュール、CIS(Contact Image Sensor)画像センサモジュールを備え、
前記画像前処理モジュールは、エッジ検出モジュール、回転モジュールをさらに備え、
前記プロセッサーモジュールは、番号位置決めモジュール、lassoモジュール、正規化モジュール、認識モジュールをさらに備え、
前記番号位置決めモジュールは、適応2値化により画像に対して2値化処理を行って2値化画像を得てから、前記2値化画像に対して投影を行い、最後に、移動ウインドウを設定し、移動ウインドウのレジストレーションにより番号に対して分割を行って各番号の画像を得てから、前記各番号の画像をlassoモジュールに伝送する。この移動ウインドウのレジストレーションの方式は、固定ウインドウを設定する方式により、例えば、ウインドウテンプレートのような方式等により、番号領域を縮小し、より精確な領域位置決めを実施することであり、固定ウインドウを設定してスライドマッチングする方式であれば、いずれも本発明に適用される。
前記正規化モジュールは、lassoモジュールによって処理された画像に対して正規化を行うために使用され、好ましくは、前記正規化は、サイズ正規化及び明暗正規化を含む。
好ましくは、前記番号位置決めモジュールは、ウインドウモジュールをさらに備え、前記ウインドウモジュールは、プレフィックス番号の間隔に基づいてレジストレーション用の移動ウインドウを設計し、前記ウインドウを垂直投影図上で水平移動させ、前記ウインドウ内の黒点数の総和を算出し、
前記ウインドウモジュールは、また異なるウインドウ内の前記黒点数の総和を比較することができる。
好ましくは、前記lassoモジュールは、各番号の画像に対して個別に2値化を行い、取得された各番号の2値化画像に対して領域成長を行い、最後に、領域成長して得られた領域内である予定面積の閾値より面積が大きい領域を1つ又は2つ選択し、前記選択された領域が所在する矩形が各番号画像のlasso後の矩形になる。この領域成長は、例えば8近傍領域成長アルゴリズム等を採用してもよい。
好ましくは、前記各番号の画像に対して個別に2値化を行うステップは、具体的には下記のステップを含む。前記各番号の画像に対してヒストグラムを抽出し、ヒストグラムバイモーダル法を採用して2値化閾値を取得してから、この2値化閾値に基づいて前記各番号の画像に対して2値化を行う。
好ましくは、前記検出モジュールは、補償モジュールをさらに備え、CIS画像センサモジュールによって得られた画像に対して補償を行うために使用され、前記補償モジュールには真っ白及び真っ黒の収集輝度データが予め記憶され、設定可能な画素点の階調の基準値を結合して補償係数を得る。
前記補償係数はプロセッサーモジュールに記憶されて、ルックアップテーブルが作成される。
好ましくは、前記認識モジュールは、訓練済のニューラルネットワークを利用してプレフィックス番号の認識を実施する。
好ましくは、前記ニューラルネットワークは、第2段階分類のコンボリューションニューラルネットワークを採用し、第1段階分類では、プレフィックス番号に係る全ての数字及びアルファベットを分類し、第2段階分類では、第1段階分類内の部分のカテゴリのそれぞれに対して再分類を行う。なお、この第1段階分類のカテゴリ数は、分類の要求及び設定習慣等に応じて設定でき、例えば10類、23類、38類等であってもよく、ここではこれに限定されず、この第2段階分類も同様に、第1段階分類に基づき、一部の誤判定しやすい、特徴が類似する、又は正解率が高くない等の分類内に、再度第2段階分類を行うことにより、より高い認識率でプレフィックス番号をさらに区分して認識し、この第2段階分類の具体的な入力カテゴリ数及び出力カテゴリ数は、第1段階分類のカテゴリ設定及び分類要求と設定習慣等に応じて詳細に設定でき、ここではこれに限定されない。
好ましくは、前記コンボリューションニューラルネットワークのネットワークモデル構造は、下記のように順次設定される。
入力層:1つの画像のみを視覚入力とし、前記画像は認識される単一のプレフィックス番号の階調画像であり、
C1層:コンボリューション層であって、この層は6つの特徴図から構成され、
S2層:ダウンサンプリング層であって、画像局所相関の原理を利用して、画像に対してサブサンプリングを行い、
C3層:コンボリューション層であって、予定のコンボリューションカーネルを採用して層S2に対してコンボリューションを行いみ、C3層における各特徴図は不完全接続の方式を採用してS2に接続され、
S4層:ダウンサンプリング層であって、画像局所相関の原理を利用して、画像に対してサブサンプリングを行い、
C5層:C5層はS4層の簡単な延伸であって、1次元ベクトルになり、
ネットワークの出力数は分類数であり、C5層とともに完全接続構造を構成する。
好ましくは、前記C1層、C3層にはいずれも3x3のコンボリューションカーネルによりコンボリューションを行う。
好ましくは、前記認識モジュールは、ニューラルネットワーク訓練モジュールをさらに備え、前記ニューラルネットワークを訓練するために使用される。
好ましくは、このプロセッサーモジュールは、例えばFPGA(Field-Programmable Gate Array)等のチップシステムを採用できる。
好ましくは、前記プロセッサーモジュールは、紙幣の向きを判断するための向き判断モジュールをさらに備える。
好ましくは、前記プロセッサーモジュールは、紙幣の新しさを判断するための新しさ判断モジュールをさらに備える。
好ましくは、前記プロセッサーモジュールは、紙幣における破損位置を認識するための破損認識モジュールをさらに備える。この破損は、角欠け、穴あき等を含む。
好ましくは、前記プロセッサーモジュールは、紙幣における筆跡を認識するための筆跡認識モジュールをさらに備える。
好ましくは、前記マスタサーバ端末が紙幣に対して分類処理を行うステップは、紙幣を分類してから、紙幣を分類されたカテゴリに従って異なる紙幣ホッパーに入れる。
好ましくは、前記紙幣特徴情報は、金種、額面価値、向き、真偽、新しさ、汚損、プレフィックス番号のうちの1つ以上を含み、
好ましくは、前記業務情報は、受取、支払、入金又は出金の記録情報、業務時間帯情報、作業者情報、取引カード番号情報、取引者及び/又は代行者アイデンティティ情報、二次元コード情報、パケット番号のうちの1つ以上を含み、
好ましくは、前記紙幣情報処理端末は、紙幣選別機、紙幣計数機、紙幣識別機、セルフ金融機器のうちの1であり、より好ましくは、前記セルフ金融機器は、自動出金機(ATM)、自動入金機、サイクルATM(CRS:Cash Recycling System)、セルフ照会機、セルフ決済機のうちの1つである。
本発明は、紙幣情報処理端末をさらに提供し、前記紙幣情報処理端末は、上記の紙幣管理システムに含まれる前記紙幣情報処理端末である。
本発明の紙幣管理プログラムは、プロセッサに実行されることにより、上記の紙幣管理方法を実現する。
本発明の紙幣管理記録媒体には、上記のプログラムが記録されている。
本発明の上記の技術案によれば、以下のような技術効果が奏される。
1、本発明の紙幣管理方法は、プレフィックス番号のスマート管理を実施でき、本発明の方法によれば、銀行選別機器の紙幣情報バックトラック、破損・偽札管理、プレフィックス番号統合管理、業務電子ジャーナル、データ統計分析、機器状態監視、顧客質疑札管理、紙幣分配管理、遠隔管理、機器資産管理に対して微細化管理を実施でき、機器及び業務の「事前監視、事中追跡、事後分析」を実施し、銀行選別機類機器の管理運転コストを大幅に低減するとともに、選別機及び紙幣計数機等の機器の良好な運転を促進できる。
2、本発明の紙幣管理方法は、紙幣情報の効率的な収集及び認識を実施するとともに、情報認識の正確性を確保し、特にプレフィックス番号の認識において、全体方法及びシステム運転の速度を確保した上で、方法のロバスト性を向上させ、実際の応用において紙幣汚損、欠損、迅速折り返し等によるプレフィックス番号の認識困難に対応できる。
3、本発明に提供された方法は、システムリソースを少なく占有し、従来技術における通常のアルゴリズムよりも演算速度が速く、ATM、紙幣識別機等の機器と良好に結合して使用できる。
本発明の実施例に係る認識方法の模式図である。 本発明の実施例に係るエッジ検出方法の模式図である。 本発明の実施例に係る紙幣走行中の紙幣の画像と実際の紙幣の模式図である。 本発明の実施例に係る紙幣の任意の点が回転される模式図である。 本発明の実施例に係る移動ウインドウの設定模式図である。 本発明の実施例に係るニューラルネットワークの構造模式図である。
以下、本発明の解決しようとする技術問題、技術手段及び利点をより明確にするために、図面及び具体的な実施例を結合して詳細に説明する。当業者であれば、以下の具体的な実施例又は具体的な実施形態が、本発明の具体的な発明内容をさらに解釈するために例示した一連の最適化された設定方式であり、本発明において、その中の一部又はある具体的な実施例又は実施形態が他の実施例又は実施形態と関連付けて設定又は共通に使用できないと明確に提示されていない限り、これらの設定方式の間は互いに結合又は互いに関連付けて使用できることが理解される。それとともに、以下の具体的な実施例又は実施形態は単なる最適化された設定方式であり、本発明の範囲を限定するものとして理解されない。
また、当業者であれば、以下の具体的な実施形態及び実施例に例示されたパラメータ設定に関する具体的な数値が、選択な実施形態の1つとして例示及び解釈のために使用され、本発明の範囲に対する限定として理解されるべきではなく、それに係る各アルゴリズム及びそのパラメータの設定も単なる例示及び解釈のために使用され、以下のパラメータの形式変換及び以下のアルゴリズムの通常の数学的導出はいずれも本発明の範囲内に含まれる。
実施例1:
本実施例は、紙幣管理方法を提供し、具体的には下記のステップを含む。
(1)6つの紙幣情報処理装置によりそれぞれ対応する業務における紙幣の紙幣特徴の収集、認識及び処理を行って前記紙幣特徴情報を取得する。ここで、本実施例の好ましい実施形態として、前記紙幣情報処理装置は、画像、赤外線、蛍光、磁気、厚さ測定の方式によって前記紙幣特徴を収集する。前記紙幣特徴情報は、金種、額面価値、向き、真偽、新しさ、汚損及びプレフィックス番号を含み、本実施例の具体的な実施形態として、前記紙幣情報処理装置は、紙幣選別機であり、前記紙幣情報処理装置の情報は、製造メーカ、機器番号、所在する金融機関である。
なお、前記紙幣情報処理装置の数は一意ではなく、6つを含むが限定されず、少なくとも1つである。
本実施例の代替可能な実施形態として、前記紙幣情報処理装置は、紙幣計数機又は紙幣識別機のうちの1つ以上であってもよく、前記紙幣情報処理装置の情報は、製造メーカ、機器番号、所在する金融機関のうちの1項以上を省略してもよい。
本実施例の他の代替可能な実施形態として、前記紙幣情報処理装置は、セルフ金融機器であってもよく、具体的には、自動出金機、自動入金機、サイクルATM、セルフ照会機、セルフ決済機のうちのいずれの1つであってもよい。前記紙幣情報処理装置の情報は、紙幣分配記録、キャッシュボックス番号、製造メーカ、機器番号、所在する金融機関のうちの1つ以上であってもよい。
(2)ステップ(1)に記載の紙幣特徴情報を拠点ホストに伝送してから、前記拠点ホストによりマスタサーバに伝送し、また、業務情報及び前記紙幣情報処理装置の情報をマスタサーバに伝送する。ここで、本実施例の好ましい実施形態として、前記業務情報は、受取、支払、入金又は出金の記録情報、業務時間帯情報、作業者情報、取引カード番号情報、取引者及び代行者アイデンティティ情報、二次元コード情報、パケット番号を含む。
なお、前記紙幣特徴情報を前記マスタサーバに伝送する方式は一意ではなく、当業者であれば、実際の状況に応じて前記紙幣特徴情報、前記業務情報、及び前記紙幣情報処理装置の情報の伝送経路を変更でき、例えば、ステップ(1)に記載の紙幣特徴情報、前記紙幣情報処理装置の情報、業務情報を直接にマスタサーバに伝送できる。
また、当業者であれば、実際の要求に応じて本実施例における前記業務情報の一部を省略又は代替でき、即ち、受取、支払、入金又は出金の記録情報、業務時間帯情報、作業者情報、取引カード番号情報、取引者及び代行者アイデンティティ情報、二次元コード情報、パケット番号のうちの1項以上を省略又は代替できる。
(3)前記マスタサーバが受信された前記紙幣特徴情報、前記業務情報、前記紙幣情報処理装置の情報に対して統合加工処理を行い、紙幣に対する分類処理を行う。本実施例の好ましい実施形態として、前記紙幣に対する分類処理を行うステップは、具体的には、紙幣を分類してから、それが分類されたカテゴリに従って異なる紙幣ホッパーに入るようにさせる。
本実施例の好ましい実施形態として、以下、プレフィックス番号の認識方法を例として、前記紙幣特徴の認識方法を説明し、図1に示すように、具体的には下記のステップを含む。
ステップa、プレフィックス番号が所在する領域の階調画像を抽出し、階調画像に対するエッジ検出を行う。このエッジ検出ステップは、通常のcanny検出、sobel検出等の方式により実施されてから、直線フィッティングを結合してエッジ直線方程式を得ることができるが、方法の演算速度を確保するために、エッジ検出時の経験閾値に対して試験設定を行う必要がある。
一つの具体的な実施形態では、前記ステップaにおけるエッジ検出ステップは、下記のステップをさらに含む。つまり、一つの階調閾値を設定し、この閾値に基づいて上下の2つの方向から直線探索を行ってエッジを取得し、このエッジ検出ステップは、直線走査方式を採用してエッジ直線の画素座標を取得してから、最小二乗法により画像のエッジ直線方程式を得るとともに、紙幣画像の水平長さ、垂直長さ及び傾きを得る。
一つの具体的な実施形態では、図2に示すように、エッジ検出の正確性及び計算速度を確保するために、閾値線形回帰分割技術を採用でき、計算速度が速く、画像サイズの制限を受けない。これに対して他のエッジ検出理論では、エッジの画素点に対して何れも計算を行う必要があるので、画像が大きいほど、計算時間が長くなる。閾値線形回帰分割技術を採用すると、上下エッジにおいて少量の画素点を見つけ、直線フィッティングの方式によりエッジの直線方程式を迅速に決定できる。画像のサイズに関わらず、少量の点を見つけて計算すればよい。
具体的には、紙幣画像のエッジ輝度と黒色背景の差異が非常に大きいため、紙幣と背景を区分できる閾値を見つけることが非常に容易であり、したがって、ここで直線探索の方法で上下2つの方向から紙幣エッジを検出する。上下方向からそれぞれ直線X={x}、(i=1,2,…,n)に沿って探索して、紙幣の上辺のY={y1i}、及び下辺のY={y2i}を得る。
最小二乗法を利用して傾きk1、k2及び切片b1、b2を求める。上、下辺の中心線に沿う傾きK、切片Bを求める。中心線が必ず中点(x,y)を経るため、直線y=K・x+Bに沿っており、
したがって、下記のような関係式を得ることができる。
Figure 0006878575

最小二乗法を利用してk、bを求め、
Figure 0006878575
同様に、k、bを算出でき、
Figure 0006878575
したがって、紙幣の上、下辺の中心線に沿うy=K・x+Bを得ることができ、
Figure 0006878575
紙幣の上、下辺の中心線に沿うy=K・x+Bが必ず紙幣の中点(x,y)を経るため、直線y=K・x+Bに沿って探索して左端点(x,y)及び右端点(x,y)が得られ、最後に、下記のような紙幣画像の中点が得られる。
Figure 0006878575
紙幣中点を得た後、紙幣の水平方向長さL及び垂直方向における長さWを求めることにより次節で紙幣の長さと幅のモデルを作成できる。したがって、下記の式が存在する。
Figure 0006878575
次に、直線y=y0の付近でY={y}、(i=1,2,…,m)を取って直線探索を行って、紙幣の左辺X={x1i}、及び右辺X={x2i}が得られ、したがって、下記の式が存在する。
Figure 0006878575
ステップb、画像を回転させる。即ち、画像が正しく置かれるように、エッジ検出後の紙幣の画像に対して座標点補正及びマッピングを行って、番号画像の分割及び認識を容易にし、この回転方法として、座標点変換方法、又は検出されたエッジ方程式に従って補正を行って変換方程式を得る方法を採用してもよいし、極座標回転等の方式により実施されてもよい。
一つの具体的な実施形態では、前記ステップbにおける回転ステップは、下記のステップをさらに含む。即ち、前記水平長さ、垂直長さ及び傾きに基づいて回転行列を得てから、前記回転行列に基づき回転された画素点座標を求める。前記回転行列は、極座標変換の方式により得られ、いわゆる極座標変換行列であり、例えば、取得されたエッジの直線方程式に従って紙幣の傾斜角度を得てから、この角度及びエッジの長さに基づき、各画素点の極座標変換行列を算出してもよいし、一般的な座標変換方式により算出してもよく、例えば、この傾斜角度及びエッジ長さに基づき、紙幣の中心点を座標原点と設定し、各座標点の新な座標系における変換行列等を算出し、もちろん、他の行列変換法の方式により紙幣画像の回転補正を行ってもよい。
一つの具体的な実施形態では、図3に示すように、直交座標変換の方式により画像に対する回転補正を行うことができ、画像収集時に水平方向においてミリメートル毎にp個の点を収集し、垂直方向においてミリメートル毎にq個の点を収集する。前述した紙幣画像エッジ検出ステップにおいて、紙幣画像の水平長さAC=L、垂直長さBE=W、及び傾きKがすでに算出されている。したがって、紙幣画像に対して幾何学計算を行って下記の式が得られる。
Figure 0006878575

したがって、
Figure 0006878575

また、
Figure 0006878575

のため、
Figure 0006878575

従って、
Figure 0006878575

同様に、
Figure 0006878575

従って、
Figure 0006878575

AB’が実際の紙幣の長さLengthであって、B’F’が実際の紙幣の幅Wideであるため、下記の式が存在する。
Figure 0006878575
紙幣画像の任意の点の回転において、回転の全過程は、任意に与えられた紙幣画像上のある点A(x,y)に対して行われ、点Aに対応する実際の紙幣の点A’(x’,y’)を見つけ、点A’をθ角だけ回転させて点B’(x’,y’)を得て、最後に、点B’に対応する回転された紙幣画像上の点B(x,y)が見つけられることである。
図4を結合して、紙幣上の任意の点の回転時に、
Figure 0006878575

回転前の紙幣画像中心が(x,y)であって、回転された紙幣画像中心が(x,y)である場合、下記の式が得られる。
Figure 0006878575
ステップc、画像における単一の番号に対する位置決めを行う。具体的には下記のステップを含む。適応的な2値化により画像に対して2値化処理を行って2値化画像を得る。そして、前記2値化画像に対して投影を行い、通常の画像投影は、1回の垂直投影及び1回の水平投影により完成されるが、具体的な投影方向及び回数は、認識時の具体的な環境及び精度要求に応じて調整でき、例えば、傾斜角度を有する方向の投影等を採用してもよいし、又は、複数回の多重投影の結合を採用してもよい。最後に、移動ウインドウを設定して、移動ウインドウのレジストレーションの方式を採用することにより、番号を分割して各番号の画像を得る。紙幣の破損、汚れ等の一般的な問題により、プレフィックス番号の画像に汚れが存在する紙幣や、文字と文字との間に粘着が存在する紙幣の効果が比較的悪く、特に、3つ以上の文字の粘着に対しては、ほとんど分割できず、したがって、本発明では、画像投影の後に移動ウインドウのレジストレーションの方式を追加して、文字の位置を正確に決定できる。
一つの具体的な実施形態では、前記ステップcにおいて、前記適応的な2値化により画像に対して2値化処理を行うステップは、具体的には下記のステップを含む。画像のヒストグラムを求め、閾値Thを設定し、ヒストグラムにおける階調値の0からThまでの点数の和が予定値以上である場合、この際のThを適応的な2値化閾値として画像に対して2値化を行って2値化画像を得る。前記2値化画像に対して投影を行うステップでは、合計で3回の異なる方向の投影を行う。好ましくは、前記移動ウインドウを設定するステップは、具体的には下記のステップを含む。前記ウインドウが垂直投影図上で水平移動し、ウインドウ内の黒点数の総和の最小値の対応する位置がプレフィックス番号の左右方向における分割の最適な位置になる。
一つの具体的な実施形態では、画像に対する2値化に、全体適応的な2値化の方法を採用してもよい。まず、画像のヒストグラムを求め、輝度が比較的黒い部分がプレフィックス番号領域であって、輝度が比較的白い部分が背景領域である。ヒストグラムにおいて階調値が0からThである場合の点数の和Nを求め、N>=2200(経験値)のとき、対応する閾値Thが適応2値化の閾値になる。この方法の最大の長点は計算時間が短いことであり、選別機が迅速に紙幣計数を行うリアルタイム性要求を満たすことができ、優れた適応性を有する。
一つの具体的な実施形態では、2値化された画像に対して投影を行うステップは、3回投影の結合の方式を採用して、各番号が所在する上下左右の位置を決定できる。ここで、第1回に水平方向投影を行って、番号が所在する行を特定し、第2回に垂直方向投影を行って、各番号が所在する左右方向の位置を特定し、第3回に各小画像に対して水平方向の投影を行って、各番号が所在する上下方向の位置を特定する。
一つの具体的な実施形態では、上記の3回投影方法は、ほとんどの紙幣の単一の番号分割において良好な効果を得ることができるが、プレフィックス番号画像に汚れが存在する紙幣や、文字と文字との間に粘着が存在する紙幣に対しては効果が比較的悪く、特に3つ以上の文字の粘着に対してほとんど分割できない。このような問題を解決するために、一つの具体的な実施形態では、ウインドウ移動のレジストレーション法を採用できる。選別機により収集されるプレフィックス番号はサイズと解像度が固定されるので、各文字のサイズが固定され、文字同士の間隔も固定され、図5に示すように、ウインドウの設計は紙幣上のプレフィックス番号の間隔に応じて設計できる。ウインドウが垂直投影図上で水平移動し、ウインドウ内の黒点数の総和の最小値の対応する位置がプレフィックス番号の左右方向分割の最適な位置になる。この認識アルゴリズムは紙幣選別機に用いられるので、正確性及び迅速性の両方とも満たす必要があり、元画像の解像度は200dpiである。ウインドウの設計は、各パルス幅が4つの画素であり、パルス間の幅が番号画像間の間隔に応じて設計され、テストの結果、この方法は、紙幣選別機のリアルタイム性及び正確性要求を十分に満たすことができる。
ステップd、前記各番号の画像に含まれる文字に対してlassoを行い、各番号画像に対して正規化処理を行う。前記正規化は、サイズ正規化及び明暗正規化を含み、文字のlassoステップは、ステップcに基づき、おおよその位置が分割された文字に対して詳細な位置決めを再度行うことであって、これにより、後続の画像認識において処理すべきデータ量をさらに減少し、システムの全体運転速度が信頼的に確保される。
3回投影法は単なる単一の番号に対する初歩的な位置決めであり、汚れの多い単一の番号に対しては、有効なlassoができない。上記で言及された2値化方法は、全体画像に対する2値化であり、算出される閾値は単一の文字の2値化に適用できない。例えば、2005版の人民元100元は、最初の4つの文字が赤色であって、最後の6つの文字が黒色であるため、収集される階調画像の各文字の明暗が不均一となり、一つの具体的な実施形態では、また、各小画像に対して個別に2値化を行ってもよい。
一つの具体的な実施形態では、この2値化には、ヒストグラムバイモーダルに基づく適応的な2値化方法を採用している。ヒストグラムバイモーダル法は、反復法で閾値を求める方法であり、適応、迅速、正確な特徴がある。具体的には、下記の一つの好ましい実施形態を採用して実施できる。
まず、初期化閾値Tを設定してから、K回反復して2値化分割の閾値を得る。Kは0より大きい正の整数であり、ここで、第k回の反復の背景階調平均値
Figure 0006878575

及び前景階調平均値
Figure 0006878575

は、それぞれ下記のようである。
Figure 0006878575
したがって、第k回反復の閾値は下記のようである。
Figure 0006878575
反復回数が十分に多く(例えば50回)、又は2回の反復計算された閾値結果が同じである、即ち第k回と第k−1回の閾値が同じである場合、反復を抜ける。
2値化の後、面積が小さすぎるノイズ点を除去するために、各小画像に対して8近傍領域成長アルゴリズムを行う。最後に、各小画像に対して領域成長を行って得られた領域内で、ある経験値より面積が大きい領域を1つ又は2つ選択し、これらの領域が所在する矩形が各番号画像のlasso後の矩形になる。以上、このlasso方法の流れは、2値化、領域成長、領域選択であり、その長点は、耐干渉性が強く、計算速度が速いことにある。
2値化の後、画像に対して正規化処理をさらに行う必要があり、一つの具体的な実施形態では、上記の正規化ステップは、下記の方式を採用してもよい。ここで、正規化は次のニューラルネットワーク認識のために行われる。計算速度及び正確性の要求を考慮して、サイズ正規化時の画像の大きさは大きすぎても、小さすぎてもならない。大きすぎると、後続のニューラルネットワークのノードが多すぎになって、計算速度が遅くなり、小さすぎると、情報損失が多すぎる。28*28、18*18、14*14、12*12等の正規化サイズをテストした結果、14*14を選択した。正規化のスケーリングアルゴリズムとして、バイリニア補間アルゴリズムを採用している。
一つの具体的な実施形態では、前記ステップdにおける正規化処理は、具体的にはバイリニア補間アルゴリズムを採用してサイズ正規化を行うことを含む。前記明暗正規化は、下記のステップを含む。前記各番号の画像のヒストグラムを取得し、番号の前景階調平均値及び背景階調平均値を算出し、明暗正規化前の画素階調値をそれぞれ前景階調平均値及び背景階調平均値と比較し、この比較結果に基づき、正規化前の画素階調値を対応の特定の階調値と設定する。
他の具体的な実施形態では、訓練テンプレート数を減少するために、さらに明暗度の正規化を行う必要がある。まず、各小画像のヒストグラムにおいて番号前景階調平均値G及び背景階調平均値Gを算出する。V0ijが各画素の階調正規化前の値であって、V1ijが各画素の階調正規化後の値であるものとすると、計算方法は、下記のようである。
Figure 0006878575
ステップe、ニューラルネットワークを採用して正規化後の番号画像に対して認識を行ってプレフィックス番号を得る。
一つの具体的な実施形態では、上記のニューラルネットワークとしては、コンボリューションニューラルネットワーク(CNN)アルゴリズムを採用して実施できる。
コンボリューションニューラルネットワーク(CNN)は、本質的に入力から出力までのマッピングであり、入力と出力との間の大量のマッピング関係を学習でき、入力及び出力の間の正確な数式なしに、既知のパターンでコンボリューションネットワークを訓練すれば、ネットワークが入力と出力とのペア間のマッピング能力を持つようになる。CNNにおいて、画像のごく一部(局所感覚領域)は階層構造の最下層の入力として、情報がさらに異なる層に順次伝送され、各層は1つのデジタルフィルタを介して観測データの最も著しい特徴を得る。この方法によれば、並進、スケーリング及び回転不変の観測データの著しい特徴を取得でき、画像の局所感覚領域が、ニューロン又は処理ユニットが最も基礎的な特徴をアクセスすることを許可し、プレフィックス番号画像上の主な特徴がエッジ及び角点であるため、認識にCNNの方法が非常に適切である。
一つの具体的な実施形態では、前記ニューラルネットワークは、第2段階分類のコンボリューションニューラルネットワークを採用し、第1段階分類では、プレフィックス番号に係る全ての数字及びアルファベットを分類し、第2段階分類では、第1段階分類内の一部のカテゴリのそれぞれに対して再分類を行う。ここで、この第1段階分類のカテゴリ数は、分類の要求及び設定習慣等に応じて設定でき、例えば10類、23類、38類等であってもよく、ここではこれに限定されず、この第2段階分類も同様に、第1段階分類に基づき、その中の一部の誤判定しやすい、特徴が類似する、又は正解率が高くない等の分類内で、さらに第2段階分類を行い、これにより、より高い認識率でプレフィックス番号をさらに区分して認識し、この第2段階分類の具体的な入力カテゴリ数及び出力カテゴリ数は、第1段階分類のカテゴリ設定及び分類要求と設定習慣等に応じて詳細に設定できる。
以下、一つの好ましい実施形態を介して、本発明の技術手段に適用される1つの具体的なコンボリューション(CNN)ニューラルネットワークの構造及び訓練方式を例示する。
一、CNNニューラルネットワークの構造
数字及びアルファベットに対して混合認識を行う必要があり、ある数字及びアルファベットは非常に類似しており、区分できず、人民元にアルファベットVがなく、アルファベットOと数字0の印刷が完全に同じであるので、プレフィックス番号の認識に第2段階分類の方法を採用している。第1段階分類では、全ての数字及びアルファベットを下記のように23種類にまとめる。
第1類:A 4
第2類:B 8
第3類:C G 6
第4類:O D Q
第5類:E L F
第6類:H
第7類:K
第8類:M
第9類:N
第10類:P
第11類:R
第12類:S 5
第13類:T J(Jは2005版及び全ての版の人民元である)
第14類:U
第15類:W
第16類:X
第17類:Y
第18:Z 2
第19:1
第20類:3
第21類:7
第22類:9
第23類:J(Jは2015新版人民元である)
第2段階分類は、A 4、B 8、C 6 G、O D Q、E L F、S 5、T J、Z 2のそれぞれに対する分類である。
上記の第2段階のCNN分類方法は、9つのニューラルネットワークのモデルに関し、それぞれCNN_23、CNN_A4、CNN_B8、CNN_CG6、CNN_ODQ、CNN_ELF、CNN_S5、CNN_JT、CNN_Z2と表記される。
第1段階分類のCNNニューラルネットワークを例として、図6は、その構造模式図である。ネットワークの入力層には1つの画像しか存在せず、ネットワークの視覚入力に相当し、即ち、認識される単一の番号の階調画像である。ここで、階調画像を選択したことは、情報損失を防止するためであり、2値化画像に対して認識を行うと、2値化時に一部の画像のエッジ及び詳細情報が損失される。画像明暗効果により影響されないように、各階調小画像の輝度に対して正規化処理を行い、即ち、明暗正規化を行う。
C1層はコンボリューション層であって、6つの特徴図Feature Mapから構成され、コンボリューション層が存在する利点は、コンボリューション演算によって、原信号特徴を増強し、ノイズを低減できることにある。特徴図のうち各ニューロンは入力における3*3と接続される。特徴図の大きさは14*14である。C1に156個の訓練可能なパラメータ(各フィルタ5*5=25個のunitパラメータ及び1つのbiasパラメータ、合計で6つのフィルタ、合計で(3*3+1)*6=60個のパラメータ)があり、合計で60*(12*12)=8640個の接続がある。
S2及びS4層はいずれもダウンサンプリング層であり、画像局所相関の原理を利用して、画像に対してサブサンプリングを行うことで、データ処理量を減少するとともに、有用な情報保留できる。
C3層もコンボリューション層であり、同様に3x3のコンボリューションカーネルを介して層S2に対してコンボリューションを行い、こうして得られた特徴mapに4x4個のニューロンしかなく、計算を簡単にさせるために、6種類の異なるコンボリューションカーネルのみ設計しており、したがって、6つの特徴mapが存在する。なお、C3における各特徴mapは、S2に接続されて全部接続されるものではない。S2における各特徴図を各C3の特徴図に接続しない原因は、下記のように2つある。
一、不完全な接続メカニズムは接続の数を合理的な範囲内に保持する。
二、最も重要な原因であって、ネットワークの対称性を壊す。
異なる特徴図に入力が異なるため、それらが異なる特徴を抽取するようにさせる。これらの非完全接続の結果の構成方式は一意ではない。例えば、C3の最初の2つの特徴図は、S2における3つの隣接する特徴図との部分集合を入力とし、次の2つの特徴図は、S2における4つの隣接する特徴図との部分集合を入力とし、その後の1つは、隣接しない3つの特徴図との部分集合を入力とし、最後の1つは、S2における全ての特徴図を入力とする。
最後の組のS層からC層まではダウンサンプリングではなく、S層に対する簡単な延伸をして、1次元ベクトルになる。ネットワークの出力数はこのニューラルネットワークの分類数であり、最後の一層と完全接続構造を構成する。ここで、CNN_23に合計で23個のカテゴリを有し、したがって23個の出力を有する。
二、ニューラルネットワークの訓練は下記ように行われる。
第l層がコンボリューション層であるものとすると、第l+1層はダウンサンプリング層であり、第l層の第jの特徴図の計算式は、下記のようである。
Figure 0006878575
ここで、記号*は、コンボリューションを示し、コンボリューションカーネルkが第l−1層において関連付ける全ての特徴図に対するコンボリューションの演算であって、そして加算を行い、またバイアスパラメータbを加算して、sigmoid関数
Figure 0006878575

を取って最終の励磁を得る。
第l層の第jの特徴図の残差計算式は、下記のようである。
Figure 0006878575
ここで、第l層はコンボリューション層であり、第l+1層はダウンサンプリング層であり、ダウンサンプリング層とコンボリューション層とは一対一の対応である。ここで、up(x)は第l+1層の大きさを第l層と同じ大きさに拡張させるものである。
誤差のbに対する偏微分方程式は、下記のようである。
Figure 0006878575
誤差のkに対する偏微分方程式は、下記のようである。
Figure 0006878575
人民元のプレフィックス番号をランダム選択して訓練サンプルとし、約10万個あり、訓練回数が1000回以上であり、近似精度が0.004より小さい。
一つの具体的な実施形態では、前記ステップb、ステップcの間に、向き判断ステップがさらに含まれる。前記回転された画像に基づいて紙幣サイズを特定し、前記サイズに基づいて額面価値を特定する。ターゲット紙幣画像をn個のブロックに分割し、各ブロックにおける輝度平均値を算出し、予め記憶されたテンプレートと比較し、差が最も小さい場合に、このテンプレートの対応する向きと判断する。前記予め記憶されたテンプレートは、異なる額面価値の紙幣の異なる向きの画像がn個のブロックに分割され、各ブロックにおける輝度平均値が算出されたものである。
具体的には、紙幣サイズ検出+テンプレートマッチングの方式により紙幣の向き値を決定できる。まず、紙幣サイズによって紙幣の額面価値を特定する。次に、紙幣の向きを特定し、紙幣画像の中16*8個の同じ矩形ブロックを分割し、各矩形ブロック内の輝度平均値を算出し、この16*8個の輝度平均値データをメモリに置かせてテンプレートデータとする。同様に、ターゲット紙幣の輝度平均値を取得し、テンプレートデータと比較し、差が最も小さいものを見つける。これにより紙幣の向きを確認できる。
また、一つの具体的な実施形態では、新しさ判断ステップをさらに追加してもよい。まず25dpiの画像を抽出し、25dpiの画像の全体領域をヒストグラムの特徴領域とし、領域内の画素点を走査して配列に入れ、各画素点のヒストグラムを記録し、ヒストグラムに基づいて50%の最も明るい画素点を統計して平均階調値を求め、この階調値を新しさ判断の根拠とする。
一つの具体的な実施形態では、前記ステップb、ステップcの間に、破損認識ステップがさらに含まれる。紙幣の両側にそれぞれ光源及びセンサを設定することで、透過後の画像を取得する。回転された透過後の画像の各点に対して順次に検出し、この点の隣接する2つの画素点が同時に予定閾値より小さい場合、この点を破損点と判断する。
具体的な実施形態では、紙幣破損の認識の時に発光源及びセンサが紙幣の両側に分布される透過方式を採用する。発光源が紙幣に当たるとき、少ない光線のみ紙幣を透過してセンサ素子上に入射し、紙幣に当てない光線は完全にセンサ素子上に入射する。したがって、背景が白色であって、紙幣も階調図である。破損は角欠けや穴あきを含む。角欠けや穴あきの検出には、いずれも破損認識技術が応用されるが、検出する領域が異なる点で相違し、角欠けの場合に検出されるものは紙幣の4つの角であり、穴あきの場合は紙幣の中間領域が検出される。
他の具体的な実施形態では、紙幣の角欠けに対して、回転された透過紙幣の画像上でそれぞれ左上、左下、右上、右下の4つの領域に分割できる。次に、これらの4つの領域の点のそれぞれに対して順次に検出を行い、隣接する2つの画素点が同時に閾値より小さい場合、この点を破損点と判断し、隣接する2つの点が閾値より小さい条件に満たさない場合、この交点に対応する角が破損特徴を持たないことをあらわす。
紙幣上の穴あき検出に関して、紙幣の角欠けの探索が終わった後、角欠けの位置が既に黒色により充填されたため、紙幣上に角欠け及び穴あき特徴がある場合、この画素点は白色であり、紙幣の探索時に、角欠けと決定された点の画素値を黒色の画素値と変更することにより、充填が実施される。したがって、紙幣の4辺を境界として紙幣全体を探索する。紙幣に破損特徴があることが探索された場合、紙幣に穴あきが存在することを表し、そうでなければ、この紙幣は穴あきがない。閾値より小さい画素点が探索されるたびに、穴あきの面積は1増加する。探索が完了すると、最終に穴あきの面積が得られる。
また他の具体的な実施形態では、筆跡の検出に対して、下記の方式を採用できる。固定領域内に、該領域内の画素点を走査して配列に入れ、各画素点のヒストグラムを記録し、ヒストグラムに基づいて20個の最も明るい画素点を統計して平均階調値を求め、閾値を算出する。閾値より小さい画素点を筆跡点+1と判定する。
実施例2:
本実施例は、紙幣情報処理端末及びマスタサーバ端末を含む紙幣管理システムを提供し、
前記紙幣情報処理端末は、紙幣搬送モジュール、検出モジュール、情報処理モジュールを備え、
前記紙幣搬送モジュールは、紙幣を前記検出モジュールに搬送するために使用され、
前記検出モジュールは、紙幣特徴に対して収集及び認識を行い、
前記情報処理モジュールは、前記検出モジュールが収集及び認識した紙幣特徴を加工処理し、紙幣特徴情報として出力して伝送し、本実施例では、具体的な実施形態として、前記紙幣特徴情報は、具体的には金種、額面価値、向き、真偽、新しさ、汚損、プレフィックス番号を含み、
前記マスタサーバ端末は、前記紙幣特徴情報、業務情報、前記紙幣情報処理端末の情報を受信し、受信された上記の3種類の情報を加工し、紙幣に対する分類処理を行うために使用され、本実施例では、好ましい実施形態として、前記マスタサーバ端末が紙幣に対する分類処理を行うステップは、具体的には、紙幣を分類した後、それを分類されたカテゴリに従って異なる紙幣ホッパーに入れるステップである。
本実施例では、具体的な実施形態として、前記業務情報は、受取、支払、入金又は出金の記録情報、業務時間帯情報、作業者情報、取引カード番号情報、取引者及び代行者アイデンティティ情報、二次元コード情報、パケット番号を含む。
本実施例の好ましい実施形態として、前記マスタサーバ端末が受信された情報を加工するステップは、具体的には、受信された情報に対する集約、記憶、整理、照会、追跡、導出等の処理を含む。
なお、本実施例に記載の紙幣情報処理端末は単独で使用でき、本実施例では、前記紙幣情報処理端末は紙幣選別機であり、本実施例の代替可能な技術手段として、前記紙幣情報処理端末は、また紙幣計数機、紙幣識別機、セルフ金融機器のうちのいずれか1つに代替可能であり、ここで、前記セルフ金融機器は、自動出金機、自動入金機、サイクルATM、セルフ照会機、セルフ決済機のうちのいずれか1つであってもよい。
なお、前記検出モジュールの設計の方式は一意ではなく、本実施例では、具体的な実施形態を提供する。前記検出モジュールは、またDSPプラットフォームのプレフィックス番号の認識システムに適用されることができ、市販の通常の紙幣識別機、紙幣計数機、ATM等の機器に内蔵又は整合されて結合されて使用でき、具体的には、前記検出モジュールは、画像前処理モジュール、プロセッサーモジュール、CIS画像センサモジュールを含み、
前記画像前処理モジュールは、エッジ検出モジュール、回転モジュールをさらに備え、
前記プロセッサーモジュールは、番号位置決めモジュール、lassoモジュール、正規化モジュール、認識モジュールをさらに備え、
前記番号位置決めモジュールは、適応的な2値化により画像に対して2値化処理を行って2値化画像を得てから、前記2値化画像に対して投影を行い、最後に、移動ウインドウを設定し、移動ウインドウのレジストレーションの方式で番号に対して分割を行って各番号の画像を得て、前記各番号の画像をlassoモジュールに伝送し、
前記正規化モジュールは、lassoモジュールにより処理された画像に対して正規化を行うために使用され、本実施例では、前記正規化は、サイズ正規化及び明暗正規化である。
一つの具体的な実施形態では、前記番号位置決めモジュールは、ウインドウモジュールをさらに備え、前記ウインドウモジュールはプレフィックス番号間隔に基づいてレジストレーション用の移動ウインドウを設計し、前記ウインドウを垂直投影図上で水平移動させ、前記ウインドウ内の黒点数の総和を算出し、前記ウインドウモジュールは、異なるウインドウ内の前記黒点数の総和をさらに比較することができる。この位置決めステップの具体的な方式は、実施例1における方法を採用して行うことができる。
他の具体的な実施形態では、前記lassoモジュールは、各番号の画像に対してヒストグラムを抽出し、ヒストグラムバイモーダル法により2値化の閾値を取得してから、この2値化の閾値に基づいて前記各番号の画像に対する2値化を行い、取得された各番号の2値化の画像に対して領域成長を行い、最後に、領域成長して得られた領域内にある予定面積閾値より面積が大きい領域を1つ又は2つ選択し、これらの選択された領域が所在する矩形が各番号画像lasso後の矩形になる。この領域成長は、例えば8近傍領域成長アルゴリズム等を採用してもよい。
一つの具体的な実施形態では、通常の紙幣画像の取得において、紙幣の新しさ、破損等の状況が違うので、紙幣画像に対する補償が必要あり、前記検出モジュールにおいて補償モジュールを設定でき、CIS画像センサモジュールにより得られた画像に対して補償を行うために使用され、前記補償モジュールには真っ白及び真っ黒の収集輝度データが予め記憶されており、設定可能な画素点の階調基準値を結合して、補償係数が得られ、前記補償係数がプロセッサーモジュールに記憶されて、ルックアップテーブルが作成される。
具体的には、白紙をCIS画像センサに押し付けて、明るいレベルデータを収集して
Figure 0006878575

配列に記憶させ、暗いレベルデータを収集して
Figure 0006878575

に記憶させ、下記の式に従って補償係数を取得する。
Figure 0006878575
ここで、CVLMAXは設定可能な画素点階調基準値であり、経験によれば、白紙の階調値は200に設定される。
DSPチップにより算出された補償係数をFPGA(処理モジュール)のランダムメモリに伝送し、ルックアップテーブルを形成する。その後、FPGAチップは収集された画素点データに対してルックアップテーブルにおける対応する画素点の補償係数を乗算して直接に補償後のデータを得てから、DSPに伝送する。
一つの具体的な実施形態では、前記認識モジュールは、訓練済のニューラルネットワークを利用してプレフィックス番号の認識を実施する。
一つの具体的な実施形態では、前記ニューラルネットワークは、第2段階分類のコンボリューションニューラルネットワークを採用し、第1段階分類では、プレフィックス番号に係る全ての数字及びアルファベットを分類し、第2段階分類では、第1段階分類内の一部のカテゴリのそれぞれに対して再分類を行う。ここで、この第1段階分類のカテゴリ数は、分類の要求及び設定習慣等に応じて設定でき、例えば10類、23類、38類等であってもよく、ここではこれに限定されず、この第2段階分類も同様に、第1段階分類に基づき、一部の誤判定しやすい、特徴が類似する、又は正解率が高くない等の分類に対して、第2段階分類を行うことにより、より高い認識率でプレフィックス番号をさらに区分して認識し、この第2段階分類の具体的な入力カテゴリ数及び出力カテゴリ数は、第1段階分類のカテゴリ設定及び分類要求と設定習慣等に応じて詳細に設定できる。
一つのより具体的な実施形態では、上記のコンボリューションニューラルネットワークの構成は、上記の実施例1におけるニューラルネットワークの構成で実施できる。
一つのより具体的な実施形態では、上記のプロセッサーモジュールは、紙幣の向きを判断するための向き判断モジュールと、紙幣の新しさを判断するための新しさ判断モジュールと、紙幣における破損位置を認識するための破損認識モジュールと、紙幣における筆跡を認識するための筆跡認識モジュールと、のうちの少なくとも1つをさらに備えてもよい。これらのモジュールが採用する機能実施方法は、実施例1において例示された方法を採用してもよい。
一つの具体的な実施形態では、このプロセッサーモジュールは、例えば、FPGA(京微雅格M7チップ、具体的な機種がM7A12N5L144C7)等のチップシステムを採用してもよい。チップのメイン周波数は(FPGAメイン周波数125M,ARMメイン周波数333M)であり、専有するリソースは(Logic 85%,EMB 98%)であり、認識時間は7msである。正確度は99.6%以上である。
上記の実施例は、例示を明確に説明するためのものに過ぎず、実施形態を限定するものではないことは明らかである。当業者であれば、上記の説明に基づき、様々な形式の他の変形又は修正を行うことができる。ここで、すべての実施形態を例示できず、且つその必要はない。これからなされた変形又は修正はいずれも本発明の範囲内に含まれる。

Claims (27)

  1. (1)紙幣情報処理装置により紙幣特徴を収集、認識及び処理して紙幣特徴情報を得るステップと、
    (2)前記ステップ(1)における前記紙幣特徴情報、業務情報及び前記紙幣情報処理装置の情報を一緒にマスタサーバに伝送するステップと、
    (3)前記マスタサーバが受信された前記紙幣特徴情報、前記業務情報、前記紙幣情報処理装置の情報に対して統合加工処理を行い、紙幣に対して分類処理を行うステップと、を含み、
    前記紙幣特徴を認識するステップは、
    前記紙幣特徴が所在する領域の階調画像を抽出し、階調画像に対してエッジ検出を行うステップaと、
    前記階調画像を回転させるステップbと、
    画像における単一の番号に対して位置決めを行うステップcと、
    前記各番号の画像に含まれる文字に対してlassoを行い、各番号画像に対して正規化の処理を行うステップdと、
    ニューラルネットワークにより正規化された番号画像を認識して紙幣特徴を得るステップeと、を含み、
    前記ステップcでは、適応2値化により画像に対して2値化処理を行って2値化画像を得てから、前記2値化画像に対して投影を行い、最後に、移動ウインドウを設定し、移動ウインドウのレジストレーションにより番号を分割して各番号の画像を得て、
    前記ステップdにおけるlassoを行うステップは、前記各番号の画像に対して個別に2値化を行い、取得された前記各番号の2値化画像に対して領域成長を行い、最後に、領域成長して得られた領域内である予定面積閾値より面積が大きい領域を1つ又は2つ選択し、選択された領域が所在する矩形が各番号画像のlasso後の矩形であるステップを含む、
    ことを特徴とする紙幣管理方法。
  2. 前記ステップdの前記正規化は、サイズ正規化及び明暗正規化を含む
    ことを特徴とする請求項1に記載の紙幣管理方法。
  3. 前記ステップeの前記紙幣特徴は、プレフィックス番号である
    ことを特徴とする請求項1又は2のいずれか1項に記載の紙幣管理方法。
  4. 前記ステップaにおけるエッジ検出ステップは、階調閾値を設定し、前記階調閾値に基づいて上下の2つの方向から直線探索を行ってエッジを取得してから、最小二乗法により画像のエッジ直線方程式を得るとともに、紙幣画像の水平長さ、垂直長さ及び傾きを得るステップをさらに含む
    ことを特徴とする請求項1〜3のいずれか1項に記載の紙幣管理方法。
  5. 前記ステップbにおける回転ステップは、前記の水平長さ、垂直長さ及び傾きに基づいて回転行列を得てから、前記回転行列に基づいて、回転された画素点座標を求めるステップをさらに含む
    ことを特徴とする請求項4に記載の紙幣管理方法。
  6. 前記ステップcにおいて、前記の適応2値化により画像に対して2値化処理を行うステップは、画像のヒストグラムを求め、閾値Thを設定し、ヒストグラムにおける階調値の0からThまでの点数の和が予定値以上である場合、当該Thを適応2値化の閾値として画像に対して2値化を行って2値化画像を得るステップを含む
    ことを特徴とする請求項1〜3のいずれか1項に記載の紙幣管理方法。
  7. 前記ステップcにおける移動ウインドウのレジストレーションによるステップは、レジストレーション用の移動ウインドウを設計し、前記移動ウインドウを垂直投影図上で水平移動させ、前記移動ウインドウ内の黒点数の総和の最小値の対応する位置がプレフィックス番号の左右方向の分割の最適な位置になるステップを含む
    ことを特徴とする請求項1〜3のいずれか1項に記載の紙幣管理方法。
  8. 前記各番号の画像に対して個別に2値化を行うステップは、前記各番号の画像に対してヒストグラムを抽出し、ヒストグラムバイモーダル法により2値化閾値を取得してから、前記2値化閾値に基づき、前記各番号の画像に対して2値化を行うステップを含む
    ことを特徴とする請求項1〜3のいずれか1項に記載の紙幣管理方法。
  9. 前記ステップdにおける前記明暗正規化のステップは、前記各番号の画像のヒストグラムを取得し、番号の前景階調平均値及び背景階調平均値を算出し、明暗正規化前の画素の階調値をそれぞれ前景階調平均値及び背景階調平均値と比較し、この比較の結果に基づき、正規化前の画素の階調値を対応の特定の階調値と設定するステップを含む
    ことを特徴とする請求項2に記載の紙幣管理方法。
  10. 前記ステップbとステップcの間に、向き判断ステップがさらに含まれ、前記向き判断のステップにおいて、回転された前記画像に基づいて紙幣のサイズを特定し、前記サイズに基づいて額面価値を特定し、ターゲット紙幣画像をn個のブロックに分割し、各ブロックにおける輝度平均値を算出し、予め記憶されたテンプレートと比較し、差が最も小さい場合に、テンプレートの対応する向きと判断し、
    及び/又は、前記ステップb、ステップcの間に、新しさ判断ステップがさらに含まれ、前記新しさ判断ステップにおいて、まず予定数のdpiの画像を抽出し、当該画像の全体領域をヒストグラムの特徴領域とし、領域内の画素点を走査して配列に入れ、各画素点のヒストグラムを記録し、ヒストグラムに基づいてある程度の割合の最も明るい画素点を統計し、前記最も明るい画素点の平均階調値を求めて新しさの判断根拠とし、
    及び/又は、前記ステップb、ステップcの間に、破損認識ステップがさらに含まれ、前記破損認識ステップにおいて、紙幣の両側にそれぞれ光源及びセンサを設定することで、透過後画像を取得し、回転された透過後画像の各点に対して順次に検出し、前記点の隣接する2つの画素点が同時に予定閾値より小さい場合、当該点を破損点と判断し、
    及び/又は、前記ステップb、ステップcの間に、筆跡認識ステップがさらに含まれ、前記筆跡認識ステップにおいて、固定領域内で、領域内の画素点を走査して配列に入れ、各画素点のヒストグラムを記録し、ヒストグラムに基づいて予定数の最も明るい画素点を統計し、平均階調値を求め、前記平均階調値に基づいて閾値を得てから、階調値が閾値より小さい画素点を筆跡点と判定する
    ことを特徴とする請求項1〜3のいずれか1項に記載の紙幣管理方法。
  11. 前記ステップeにおけるニューラルネットワークとしては、第2段階分類のコンボリューションニューラルネットワークを採用しており、第1段階分類では、プレフィックス番号に係る全ての数字及びアルファベットを分類し、第2段階分類では、第1段階分類内の一部のカテゴリのそれぞれに対して再分類を行う
    ことを特徴とする請求項1に記載の紙幣管理方法。
  12. 前記ステップ(1)において、画像、赤外線、蛍光、磁気、厚さ測定のうちの1つ以上の方式によって前記紙幣特徴を収集する
    ことを特徴とする請求項1に記載の紙幣管理方法。
  13. 前記ステップ(3)において、紙幣に対して分類処理を行うステップは、紙幣を分類してから、当該紙幣を分類されたカテゴリに従って異なる紙幣ホッパーに入れる
    ことを特徴とする請求項1に記載の紙幣管理方法。
  14. 前記紙幣特徴情報は、金種、額面価値、向き、真偽、新しさ、汚損、プレフィックス番号のうちの1つ以上を含み、
    及び/又は、前記業務情報は、受取、支払、入金又は出金の記録情報、業務時間帯情報、作業者情報、取引カード番号情報、取引者及び/又は代行者アイデンティティ情報、二次元コード情報、パケット番号のうちの1つ以上を含む
    ことを特徴とする請求項1〜13のいずれか1項に記載の紙幣管理方法。
  15. 前記紙幣情報処理装置は、紙幣選別機、紙幣計数機、紙幣識別機のうちの1つ以上であり、前記紙幣情報処理装置の情報は、製造メーカ、機器番号、所在する金融機関のうちの1つ以上である
    ことを特徴とする請求項1〜14のいずれか1項に記載の紙幣管理方法。
  16. 前記紙幣情報処理装置はセルフ金融機器であり、前記紙幣情報処理装置の情報は紙幣分配記録、キャッシュボックス番号、製造メーカ、機器番号、所在する金融機関のうちの1つ以上である
    ことを特徴とする請求項1〜14のいずれか1項に記載の紙幣管理方法。
  17. 複数の前記紙幣情報処理装置によりそれの対応する業務における紙幣情報に対して収集、認識及び処理をそれぞれ行い、前記紙幣情報を拠点ホスト又は現金センターホストに伝送してから、前記拠点ホスト又は現金センターホストにより前記紙幣情報をマスタサーバに伝送する
    ことを特徴とする請求項15又は16に記載の紙幣管理方法。
  18. 紙幣情報処理端末及びマスタサーバ端末を備え、
    前記紙幣情報処理端末は、紙幣搬送モジュール、検出モジュール、情報処理モジュールを備え、
    前記紙幣搬送モジュールは、紙幣を前記検出モジュールに搬送するために使用され、
    前記検出モジュールは、紙幣特徴に対して収集及び認識を行い、
    前記情報処理モジュールは、前記検出モジュールが収集及び認識した紙幣特徴を加工処理し、紙幣特徴情報として出力して伝送し、
    前記マスタサーバ端末は、前記紙幣特徴情報、業務情報、前記紙幣情報処理端末の情報を受信し、受信された上記の3種類の情報を加工し、紙幣に対して分類処理を行うために使用され、
    前記検出モジュールは、画像前処理モジュール、プロセッサーモジュール、CIS画像センサモジュールを備え、
    前記画像前処理モジュールは、エッジ検出モジュール、回転モジュールをさらに備え、
    前記プロセッサーモジュールは、番号位置決めモジュール、lassoモジュール、正規化モジュール、認識モジュールをさらに備え、
    前記番号位置決めモジュールは、適応2値化により画像に対して2値化処理を行って2値化画像を得てから、前記2値化画像に対して投影を行い、最後に、移動ウインドウを設定し、移動ウインドウのレジストレーションにより番号に対して分割を行って各番号の画像を得てから、前記各番号の画像をlassoモジュールに伝送し、
    前記正規化モジュールは、lassoモジュールによって処理された画像に対して正規化を行うために使用され、
    前記lassoモジュールは、各番号の画像に対して個別に2値化を行い、取得された各番号の2値化画像に対して領域成長を行い、最後に、領域成長して得られた領域内である予定面積閾値より面積が大きい領域を1つ又は2つ選択し、前記選択された領域が所在する矩形が各番号画像のlasso後の矩形になる、
    ことを特徴とする紙幣管理システム。
  19. 前記正規化は、サイズ正規化及び明暗正規化を含む
    ことを特徴とする請求項18に記載の紙幣管理システム。
  20. 前記番号位置決めモジュールは、ウインドウモジュールをさらに備え、前記ウインドウモジュールは、プレフィックス番号の間隔に基づいてレジストレーション用の移動ウインドウを設計し、前記移動ウインドウを垂直投影図上で水平移動させ、前記移動ウインドウ内の黒点数の総和を算出し、前記ウインドウモジュールは、さらに異なるウインドウ内の前記黒点数の総和を比較することができる
    ことを特徴とする請求項18又は19に記載の紙幣管理システム。
  21. 前記検出モジュールは、補償モジュールをさらに備え、補償モジュールはCIS画像センサモジュールによって得られた画像に対して補償を行うために使用され、前記補償モジュールには真っ白及び真っ黒の収集輝度データが予め記憶され、設定可能な画素点の階調の基準値を結合して補償係数を得、前記補償係数はプロセッサーモジュールに記憶されて、ルックアップテーブルが作成される
    ことを特徴とする請求項18又は19に記載の紙幣管理システム。
  22. 前記マスタサーバ端末が紙幣に対して分類処理を行うステップは、紙幣を分類してから、紙幣を分類されたカテゴリに従って異なる紙幣ホッパーに入れる
    ことを特徴とする請求項18に記載の紙幣管理システム。
  23. 前記紙幣特徴情報は、金種、額面価値、向き、真偽、新しさ、汚損、プレフィックス番号のうちの1つ以上を含み、
    及び/又は、前記業務情報は、受取、支払、入金又は出金の記録情報、業務時間帯情報、作業者情報、取引カード番号情報、取引者及び/又は代行者アイデンティティ情報、二次元コード情報、パケット番号のうちの1つ以上を含み、
    及び/又は、前記紙幣情報処理端末は、紙幣選別機、紙幣計数機、紙幣識別機、セルフ金融機器のうちの1つである
    ことを特徴とする請求項18〜22のいずれか1項に記載の紙幣管理システム。
  24. 前記セルフ金融機器は、自動出金機、自動入金機、サイクルATM、セルフ照会機、セルフ決済機のうちの1つである
    ことを特徴とする請求項23に記載の紙幣管理システム。
  25. 請求項18〜24のいずれか1項に記載の紙幣管理システムに含まれる前記紙幣情報処理端末である
    ことを特徴とする紙幣情報処理端末。
  26. プロセッサに実行されることにより、請求項1〜17のいずれか1項に記載の紙幣管理方法を実施することを特徴とするプログラム。
  27. 請求項26に記載のプログラムが記録された記録媒体。
JP2019513099A 2016-05-20 2016-12-26 紙幣管理方法、システム、プログラム及び記録媒体 Active JP6878575B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201610341020.4 2016-05-20
CN201610341020.4A CN105957238B (zh) 2016-05-20 2016-05-20 一种纸币管理方法及其系统
PCT/CN2016/112111 WO2017197884A1 (zh) 2016-05-20 2016-12-26 一种纸币管理方法及其系统

Publications (2)

Publication Number Publication Date
JP2019523954A JP2019523954A (ja) 2019-08-29
JP6878575B2 true JP6878575B2 (ja) 2021-05-26

Family

ID=56910314

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019513099A Active JP6878575B2 (ja) 2016-05-20 2016-12-26 紙幣管理方法、システム、プログラム及び記録媒体

Country Status (8)

Country Link
US (1) US10930105B2 (ja)
EP (1) EP3460765B1 (ja)
JP (1) JP6878575B2 (ja)
KR (1) KR102207533B1 (ja)
CN (1) CN105957238B (ja)
RU (1) RU2708422C1 (ja)
SA (1) SA518400454B1 (ja)
WO (1) WO2017197884A1 (ja)

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105957238B (zh) 2016-05-20 2019-02-19 聚龙股份有限公司 一种纸币管理方法及其系统
CN106548558B (zh) * 2016-11-07 2019-07-23 广州广电运通金融电子股份有限公司 一种票据一维信号的检测方法及装置
CN108074321B (zh) * 2016-11-14 2020-06-09 深圳怡化电脑股份有限公司 一种纸币的图像边界提取方法及装置
CN106683257A (zh) * 2016-12-30 2017-05-17 深圳怡化电脑股份有限公司 冠字号定位方法及装置
CN106933948B (zh) * 2017-01-19 2021-03-09 浙江维融电子科技股份有限公司 一种金融数据的统一入库方法
CN106910276B (zh) * 2017-02-24 2019-04-26 深圳怡化电脑股份有限公司 检测纸币新旧的方法及装置
CN106952391B (zh) * 2017-02-27 2019-06-07 深圳怡化电脑股份有限公司 一种污损纸币识别方法及装置
CN107484429B (zh) * 2017-04-18 2020-04-07 深圳怡化电脑股份有限公司 一种金融终端的出钞控制方法、系统及金融终端
CN107085882A (zh) * 2017-06-02 2017-08-22 深圳怡化电脑股份有限公司 一种确定假钞的方法及装置
CN107481394B (zh) * 2017-07-03 2019-10-11 深圳怡化电脑股份有限公司 纸币的识别方法、识别装置及终端设备
CN108022243A (zh) * 2017-11-23 2018-05-11 浙江清华长三角研究院 一种基于深度学习的图像中纸张检测方法
CN108492445A (zh) * 2018-02-06 2018-09-04 深圳怡化电脑股份有限公司 纸币分类的方法及装置
CN108492446B (zh) * 2018-02-07 2020-09-15 深圳怡化电脑股份有限公司 一种纸币边缘查找方法以及系统
KR102095511B1 (ko) * 2018-02-23 2020-04-01 동국대학교 산학협력단 딥 러닝 기반의 지폐 적합 판단 장치 및 방법
CN108717708B (zh) * 2018-03-30 2021-04-13 深圳怡化电脑股份有限公司 规则图像的边沿斜率的计算方法及装置
JP6842177B2 (ja) * 2018-04-06 2021-03-17 旭精工株式会社 硬貨識別方法、硬貨識別システム及び硬貨識別プログラム
CN109448219A (zh) * 2018-10-25 2019-03-08 深圳怡化电脑股份有限公司 图像匹配方法、装置、票据鉴别仪及计算机可读存储介质
CN109685968A (zh) * 2018-12-15 2019-04-26 西安建筑科技大学 一种基于卷积神经网络的纸币图像缺陷的识别模型构建以及识别方法
GB2581803B (en) * 2019-02-26 2021-10-06 Glory Global Solutions International Ltd Cash-handling machine
CN111724335A (zh) * 2019-03-21 2020-09-29 深圳中科飞测科技有限公司 检测方法及检测系统
CN110415425B (zh) * 2019-07-16 2021-09-10 广州广电运通金融电子股份有限公司 基于图像的硬币检测及识别方法、系统及存储介质
KR102331078B1 (ko) * 2019-12-30 2021-11-25 주식회사 포스코아이씨티 딥러닝 기반의 철강제품 이미지 인식 시스템 및 인식 방법
CN111292463A (zh) * 2020-01-17 2020-06-16 深圳怡化电脑股份有限公司 一种纸币识别方法、装置、服务器及存储介质
US11367254B2 (en) * 2020-04-21 2022-06-21 Electronic Arts Inc. Systems and methods for generating a model of a character from one or more images
CN111583502B (zh) * 2020-05-08 2022-06-03 辽宁科技大学 基于深度卷积神经网络的人民币冠字号多标签识别方法
CN111627145B (zh) * 2020-05-19 2022-06-21 武汉卓目科技有限公司 一种图像精细镂空图文的识别方法及装置
CN111967690B (zh) * 2020-09-07 2023-09-08 中国银行股份有限公司 一种外币配送方法及系统
CN112651289B (zh) * 2020-10-19 2023-10-13 广东工业大学 一种增值税普通发票智能识别与校验系统及其方法
CN113298812B (zh) * 2021-04-22 2023-11-03 中国电子产品可靠性与环境试验研究所((工业和信息化部电子第五研究所)(中国赛宝实验室)) 图像分割方法、装置、系统、电子设备及可读存储介质
CN112990150A (zh) * 2021-05-10 2021-06-18 恒银金融科技股份有限公司 一种基于投影双向累和测定冠字号上下边界的方法
CN113129143A (zh) * 2021-05-20 2021-07-16 中国银行股份有限公司 数据处理方法、装置、设备及可读存储介质
CN114140928B (zh) * 2021-11-19 2023-08-22 苏州益多多信息科技有限公司 一种高精准度的数字彩统一化查票方法、系统及介质
CN114120518B (zh) * 2021-11-26 2024-02-02 深圳怡化电脑股份有限公司 纸币连张检测方法、装置、电子设备及存储介质
CN114677599B (zh) * 2021-12-15 2024-08-02 南京数维测绘有限公司 一种基于无人机摄影测量的黄土梯田损毁部位识别方法
CN115131910B (zh) * 2022-05-30 2024-02-13 华中科技大学同济医学院附属协和医院 一种基于大数据的票据检验系统
CN115100786B (zh) * 2022-06-16 2024-06-04 中国银行股份有限公司 一种现钞管控方法、系统、设备及存储介质
TWI826155B (zh) * 2022-11-30 2023-12-11 元赫數位雲股份有限公司 識別隨機多合一帳務憑證影像以自動獲取多組帳務關聯資訊之帳務管理系統
CN117291209B (zh) * 2023-02-02 2024-05-17 深圳牛图科技有限公司 一种基于多核异构架构的条码识别智能终端
CN117237966B (zh) * 2023-11-13 2024-01-30 恒银金融科技股份有限公司 基于面额数字字符内轮廓的纸币识别方法和装置
CN117746107B (zh) * 2023-12-05 2024-07-09 青岛希尔信息科技有限公司 一种基于数据分析的财务实体报表综合管理系统

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2894375B2 (ja) * 1991-03-20 1999-05-24 富士電機株式会社 パターン判別方法
JP2002015317A (ja) * 2000-06-29 2002-01-18 Toyo Commun Equip Co Ltd 紙片の画像データ変換方法
CN1213592C (zh) 2001-07-31 2005-08-03 佳能株式会社 采用自适应二值化的图象处理方法和设备
US6970236B1 (en) * 2002-08-19 2005-11-29 Jds Uniphase Corporation Methods and systems for verification of interference devices
DE102004013903A1 (de) * 2004-03-22 2005-10-20 Giesecke & Devrient Gmbh System zur Bearbeitung von Wertdokumenten
JP2006280499A (ja) * 2005-03-31 2006-10-19 Omron Corp 真券判定システムおよびその動作方法、価値媒体処理装置およびその動作方法、動線管理サーバおよび動線管理方法、監視管理サーバおよび監視管理方法、ホール管理サーバおよびホール管理方法、データセンタサーバおよびその動作方法、並びにプログラム
US7724957B2 (en) * 2006-07-31 2010-05-25 Microsoft Corporation Two tiered text recognition
CN101536047B (zh) 2006-11-06 2012-05-30 光荣株式会社 纸币识别装置、纸币处理装置以及纸币识别方法
JP5184824B2 (ja) * 2007-06-15 2013-04-17 キヤノン株式会社 演算処理装置及び方法
CN101359373B (zh) * 2007-08-03 2011-01-12 富士通株式会社 退化字符的识别方法和装置
JP5229874B2 (ja) * 2008-02-13 2013-07-03 株式会社ユニバーサルエンターテインメント 紙幣管理システム
US20100125515A1 (en) * 2008-11-14 2010-05-20 Glory Ltd., A Corporation Of Japan Fund management system
CN102136167B (zh) * 2010-11-29 2012-12-05 东北大学 一种纸币清分鉴伪装置及方法
CN102142168A (zh) * 2011-01-14 2011-08-03 哈尔滨工业大学 纸币清分机高速高分辨率号码采集装置及其识别方法
JP5631786B2 (ja) * 2011-03-18 2014-11-26 日立オムロンターミナルソリューションズ株式会社 紙葉類処理装置、紙葉類仕分け装置及び紙葉類仕分けシステム
CN102509091B (zh) * 2011-11-29 2013-12-25 北京航空航天大学 一种飞机尾号识别方法
JP5900195B2 (ja) * 2012-07-03 2016-04-06 沖電気工業株式会社 自動取引装置
CN102800148B (zh) * 2012-07-10 2014-03-26 中山大学 一种人民币序列号识别方法
JP5954038B2 (ja) * 2012-08-09 2016-07-20 沖電気工業株式会社 紙幣処理装置、及び紙幣処理方法
JP5914687B2 (ja) * 2012-10-24 2016-05-11 日立オムロンターミナルソリューションズ株式会社 紙葉類処理装置、紙葉類仕分け装置及び紙葉類仕分けシステム
JP6342739B2 (ja) * 2014-07-28 2018-06-13 日立オムロンターミナルソリューションズ株式会社 紙葉類識別装置、紙葉類処理装置、および紙葉類識別方法
CN104866867B (zh) * 2015-05-15 2017-12-05 浙江大学 一种基于清分机的多国纸币序列号字符识别方法
CN105354568A (zh) * 2015-08-24 2016-02-24 西安电子科技大学 基于卷积神经网络的车标识别方法
CN105335710A (zh) * 2015-10-22 2016-02-17 合肥工业大学 一种基于多级分类器的精细车辆型号识别方法
CN105261110B (zh) * 2015-10-26 2018-04-06 江苏国光信息产业股份有限公司 一种高效dsp纸币冠字号识别方法
CN105303676B (zh) * 2015-10-27 2018-08-24 深圳怡化电脑股份有限公司 一种纸币的版本识别方法和系统
CN105957238B (zh) 2016-05-20 2019-02-19 聚龙股份有限公司 一种纸币管理方法及其系统

Also Published As

Publication number Publication date
KR20190004807A (ko) 2019-01-14
EP3460765B1 (en) 2023-02-01
RU2708422C1 (ru) 2019-12-06
US20200320817A1 (en) 2020-10-08
CN105957238A (zh) 2016-09-21
EP3460765A1 (en) 2019-03-27
US10930105B2 (en) 2021-02-23
EP3460765A4 (en) 2020-01-15
KR102207533B1 (ko) 2021-01-26
SA518400454B1 (ar) 2021-09-27
CN105957238B (zh) 2019-02-19
JP2019523954A (ja) 2019-08-29
WO2017197884A1 (zh) 2017-11-23

Similar Documents

Publication Publication Date Title
JP6878575B2 (ja) 紙幣管理方法、システム、プログラム及び記録媒体
CN106056751B (zh) 冠字号码的识别方法及系统
CN110598699B (zh) 一种基于多光谱图像的防伪票据鉴伪系统和方法
JP5044567B2 (ja) 媒体アイテム確認装置及びセルフサービス装置
CN105894656B (zh) 一种纸币图像识别方法
CN103279735B (zh) 一种金融票据识别模块中积灰检测方法及系统
CN104464079A (zh) 基于模板特征点及其拓扑结构的多币种面值识别方法
CN106952393B (zh) 纸币识别方法和装置、电子设备和存储介质
CN103456075A (zh) 一种纸币处理方法及装置
CN104537364A (zh) 一种基于纹理分析的美元纸币面额及版本识别方法
Jun et al. Locating car license plate under various illumination conditions using genetic algorithm
Vishnu et al. Currency detection using similarity indices method
CN112308141A (zh) 一种扫描票据分类方法、系统及可读存储介质
US10438436B2 (en) Method and system for detecting staining
Amatya et al. The state of the art–Vehicle Number Plate Identification–a complete Survey
CN106652168B (zh) 一种纸币币值的识别方法及装置
CN110310131A (zh) 码指纹防伪方法和码指纹防伪系统
Mane et al. Signature matching with automated cheque system
CN111627145B (zh) 一种图像精细镂空图文的识别方法及装置
Al-Frajat Selection of Robust Features for Coin Recognition and Counterfeit Coin Detection
Sun et al. Banknote Fitness Classification Based on Convolutional Neural Network
Woods et al. Recognition and Fitness Classification of Nigerian Currency for Automatic Teller Machines.
Laine Neural Network Architectures for Mobile Device Screen Crack Detection
Raju et al. Identification of Fake Indian Currency Using Deep Learning Techniques
KR20150033837A (ko) 모션 벡터 기법을 활용한 지폐 권종 인식방법 및 그 장치

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190111

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190206

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190111

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200407

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200923

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201029

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210330

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210428

R150 Certificate of patent or registration of utility model

Ref document number: 6878575

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150