JP2015102938A - 帳票認識装置、帳票認識方法、及びプログラム - Google Patents
帳票認識装置、帳票認識方法、及びプログラム Download PDFInfo
- Publication number
- JP2015102938A JP2015102938A JP2013241716A JP2013241716A JP2015102938A JP 2015102938 A JP2015102938 A JP 2015102938A JP 2013241716 A JP2013241716 A JP 2013241716A JP 2013241716 A JP2013241716 A JP 2013241716A JP 2015102938 A JP2015102938 A JP 2015102938A
- Authority
- JP
- Japan
- Prior art keywords
- item value
- item
- score
- character string
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Character Input (AREA)
- Character Discrimination (AREA)
Abstract
Description
多種レイアウトとは、図2に示す帳票例200,201のように、読取対象文字列の記載位置が帳票ごとに異なることである。図2の例は、帳票画像内から「振込先口座番号」「納入金額」「納入期限日付」を読み取る例であるが、それぞれ記載位置が異なるため、帳票ごとに帳票定義を作成する必要がある。業務によっては帳票レイアウトの種類が数万種類に及ぶ場合もあり、帳票定義による認識は、帳票定義の作成コストが膨大になり利用できなかった。
例えば、図3の帳票例から「銀行」、「支店」、「預金種目」、「口座番号」の項目名に対する項目値を抽出する場合、帳票例300には項目名と項目値が記載されているため、ペアを抽出することで4つの項目値を抽出できる。しかし、帳票例301には「支店」と「預金種目」の項目名の記載がないため「YYY銀行」と「普通」を抽出することがむずかしい。
すなわち、本発明は、項目名が記載されていなくても項目値を抽出する帳票認識方式を提供することを第1の課題とする。
また、本発明は、辞書の作成コストを極力少なくかつ様々なレイアウトの帳票に対しても、汎用性高く認識できる帳票認識方式を提供することを第2の課題とする。
また、本発明は、項目値の単語照合の処理コストが少ない帳票認識方式を提供することを第3の課題とする。
帳票認識装置であって、
データの属性を表す文字列である項目名と、項目名に対するデータの文字列を含む帳票画像を入力する画像入力部と、
前記帳票画像から認識された、前記帳票画像内の文字列に対し、該文字列が項目値である確率を表す項目値表記スコアを計算する項目値表記スコア計算部と、
前記帳票画像内の文字列に対し、該文字列が予め登録された詳細な項目値を示す項目値単語である確率を表す項目値単語スコアを計算する項目値単語スコア計算部と、
前記項目値表記スコアと前記項目値単語スコアの両方を含むスコアを項目値スコア(Sv)とし、前記項目値スコアが予め定められた閾値より高い文字列を項目値候補として選択し、前記項目値スコア(Sv)を項目値候補スコア(Sc)とする項目値候補選択部と、
前記帳票画像内の前記項目値候補の文字列ペアに対し、前記帳票画像内において互いに関係する複数の属性の項目値の組合せを項目値グループとした場合に、該文字列ペアの配置関係が各前記項目値グループの項目値として妥当であるかを表す項目値候補配置スコア(Sca)を計算する項目値候補配置スコア計算部と、
前記帳票画像内の項目値候補の文字列ペアに対し、前記項目値スコア(Sv)、前記項目値配置スコア(Sca)を基に、前記文字列ペアが前記項目値グループの項目値としての尤もらしさを表す評価値である項目値候補ペアスコア(Scp)を計算する項目値候補ペアスコア計算部と、
前記項目値候補ペアスコア(Scp)により、前記帳票画像内の文字列と前記項目値グループとの対応付けを評価することで項目値の文字列を認識する項目値グループ評価部と、
前記帳票画像内の文字列の認識結果を記憶する記憶部又は出力する出力部と
を備えたことを特徴とする帳票認識装置が提供される。
帳票認識方法であって、
データの属性を表す文字列である項目名と、項目名に対するデータの文字列を含む帳票画像を入力し、
前記帳票画像から認識された、前記帳票画像内の文字列に対し、該文字列が項目値である確率を表す項目値表記スコアを計算し、
前記帳票画像内の文字列に対し、該文字列が予め登録された詳細な項目値を示す項目値単語である確率を表す項目値単語スコアを計算し、
前記項目値表記スコアと前記項目値単語スコアの両方を含むスコアを項目値スコア(Sv)とし、前記項目値スコアが予め定められた閾値より高い文字列を項目値候補として選択し、前記項目値スコア(Sv)を項目値候補スコア(Sc)とし、
前記帳票画像内の前記項目値候補の文字列ペアに対し、前記帳票画像内において互いに関係する複数の属性の項目値の組合せを項目値グループとした場合に、該文字列ペアの配置関係が各前記項目値グループの項目値として妥当であるかを表す項目値候補配置スコア(Sca)を計算し、
前記帳票画像内の項目値候補の文字列ペアに対し、前記項目値スコア(Sv)、前記項目値配置スコア(Sca)を基に、前記文字列ペアが前記項目値グループの項目値としての尤もらしさを表す評価値である項目値候補ペアスコア(Scp)を計算し、
前記項目値候補ペアスコア(Scp)により、前記帳票画像内の文字列と前記項目値グループとの対応付けを評価することで項目値の文字列を認識し、
前記帳票画像内の文字列の認識結果を記憶する又は出力する
ことを特徴とする帳票認識方法が提供される。
帳票認識プログラムであって、
制御部が、画像入力部により、データの属性を表す文字列である項目名と、項目名に対するデータの文字列を含む帳票画像を入力するステップと、
前記制御部が、前記帳票画像から認識された、前記帳票画像内の文字列に対し、該文字列が項目値である確率を表す項目値表記スコアを計算するステップと、
前記制御部が、前記帳票画像内の文字列に対し、該文字列が予め登録された詳細な項目値を示す項目値単語である確率を表す項目値単語スコアを計算するステップと、
前記制御部が、前記項目値表記スコアと前記項目値単語スコアの両方を含むスコアを項目値スコア(Sv)とし、前記項目値スコアが予め定められた閾値より高い文字列を項目値候補として選択し、前記項目値スコア(Sv)を項目値候補スコア(Sc)とするステップと、
前記制御部が、前記帳票画像内の前記項目値候補の文字列ペアに対し、前記帳票画像内において互いに関係する複数の属性の項目値の組合せを項目値グループとした場合に、該文字列ペアの配置関係が各前記項目値グループの項目値として妥当であるかを表す項目値候補配置スコア(Sca)を計算するステップと、
前記制御部が、前記帳票画像内の項目値候補の文字列ペアに対し、前記項目値スコア(Sv)、前記項目値配置スコア(Sca)を基に、前記文字列ペアが前記項目値グループの項目値としての尤もらしさを表す評価値である項目値候補ペアスコア(Scp)を計算するステップと、
前記制御部が、前記項目値候補ペアスコア(Scp)により、前記帳票画像内の文字列と前記項目値グループとの対応付けを評価することで項目値の文字列を認識し、
前記制御部が、前記帳票画像内の文字列の認識結果を記憶部に記憶する又は出力部に出力するステップと
をコンピュータに実行させるための帳票認識プログラムが提供される。
本実施例は、多種レイアウトが混在する帳票群を、読取対象文字列の記載位置および当該文字列の属性を事前に登録する帳票定義なしに、読取対象文字列の読取および当該文字列の属性の判定を行うものである。さらに、項目名の記載がない帳票においても属性の判定を行うものである。
このために、本実施例では互いに関係する複数の項目値の組合せを「項目値グループ」とし、その属性の組合せをあらかじめ指定する。帳票上の複数の文字列と項目値グループとの照合を行うことにより、各項目値の文字列を判定する。具体的には、項目名とは、例えばデータの属性を表す文字列である。項目値とは、例えば項目名に対するデータの文字列である。ここで、図3を例とすると、項目値グループを構成する属性は「銀行」「支店」「口座種別」「口座番号」の4項目であり、それぞれの項目値は「XXX銀行」「YYY支店」「普通」「1234567」が挙げられる。
(1)全ての文字列内の文字を識別し、文字の確からしさを表す文字スコアを計算する。(2)項目値のうち、「XXX銀行」や「普通」などの単語で記載されるものについては、ユーザが事前に登録した項目値の単語リストである項目値単語辞書内の項目値単語と、帳票画像内の文字列とを照合し、項目値単語辞書内の全ての項目値単語と、帳票画像内の全文字列との組み合わせに対して、「項目値単語スコア」を計算する。
(3)項目値のうち、日付や、金額、口座番号などの汎用的に利用できる文法表記ルールによって記載されるものについては、ユーザが事前に文法表記ルールを定義した項目値表記辞書内の項目値表記と、帳票画像内の文字列とを照合し、項目値表記辞書内の全ての又は予め定められた項目値表記と、帳票画像内の全文字列との組み合わせに対して、「項目値表記スコア」を計算する。
(4)(2)と(3)の結果から、項目値単語辞書を定義した属性については項目値単語スコアを、項目値表記辞書を定義した属性については項目値表記スコアを「項目値候補スコア」とする。この値が閾値を超える文字列を「項目値候補」とする。
(5)2つの項目値の配置関係が項目値グループ内の文字列として妥当な配置関係であるかを評価するルールを用いて、属性の異なる2つの項目値候補の組み合わせからなる全ての項目値候補ペアに対して、「項目値候補配置スコア」を計算する。
(6)項目値単語スコア、項目値表記スコア、項目値候補配置スコアを基に、全ての項目値候補ペアに対して、当該項目値候補ペアが項目値グループ内で妥当な関係にあるかを表す評価値を計算し、前記評価値を基に帳票画像内から項目値グループ内の各項目値に相当する文字列を抽出する。
帳票画像を入力し、当該帳票画像内の文字列の認識処理を行う帳票認識装置であって、
前記帳票画像から文字列領域を検出する文字列検出部と、
前記文字列領域の個々の文字を認識する文字列認識部と、
帳票画像内の文字列に対し、当該文字列が項目値の表記である確率を表す項目値表記スコアを計算する項目値表記スコア計算部と、
帳票画像内の文字列に対し、当該文字列が項目値の単語である確率を表す項目値単語スコアを計算する項目値単語スコア計算部と、
項目値表記スコアと項目値単語スコアの両方を項目値スコアとし、項目値スコアが高い文字列を項目値候補として選択する項目値候補選択部と、
帳票画像内の項目値候補の文字列ペアに対し、帳票内において互いに関係する複数の属性の項目値の組合せを項目値グループとした場合に、当該文字列ペアの配置関係が項目値グループの項目値として妥当であるかを表す項目値候補配置スコアを計算する項目値候補配置スコア計算部と、
帳票画像内の項目値候補の文字列ペアに対し、前記項目値スコア、項目値配置スコアを基に、当該文字列ペアが項目値グループの項目値としての尤もらしさを表す評価値を計算する項目値候補ペアスコア計算部と、
前記項目値候補ペアスコアにより、帳票画像内の文字列と項目値グループとの対応付けを評価ことで項目値の文字列を決定する項目値グループ評価部とを備えることを特徴とする。
図1は、本発明の帳票認識装置のハードウェア構成例である。本実施例の帳票認識装置100は、操作部110と、表示部120と、画像入力部130と、記憶部140と、制御部150と、インターフェース(IF)160とを備えるコンピュータ装置である。操作部110は、ユーザが数字や文字の入力操作を行う際に利用するキーボードや、スキャンの開始を指示するためのボタン等を有する操作部である。表示部120は、入力画像や認識結果等を表示する液晶ディスプレイ等を有する表示部である。画像入力部130は、フラットベッドスキャナやオートシートフィーダ付きのスキャナ、およびCCD(Charge Coupled Device)等の撮像素子を用いて画像を撮像するデジタルカメラ等の撮像部である。記憶部140は、メモリやハードディスク装置等からなる記憶デバイスであり、画像入力部130で入力された画像や各種内部処理用プログラム、および各種設定データを記憶する。また、記憶部140は、文字識別辞書や項目値単語辞書、項目値表記辞書等を記憶する。制御部150は、文字列の検出や文字列認識、項目値グループの解析を行う帳票認識や装置全体の制御を行う。なお、入力画像は、画像入力部130から撮像する替わりに記憶部140内に記録された画像データを用いてもよい。IF160は、他の装置とデータを入出力する。
次に、図4から図7を用いて、制御部150における帳票認識の4種類の処理フローを示す。
(第1実施形態)
図4に、制御部150における帳票認識の処理フロー図を示す。
まず、ステップ405の画像入力において、制御部150は、画像入力部130から画像を入力する。
次に、ステップ410の枠検出において、制御部150は、入力された帳票画像から枠(セル)を検出する。
ステップ470の項目値候補配置スコア計算では、制御部150は、ステップ460で選定した項目値候補に対して、互いに属性が異なる2つの項目値候補の配置関係の妥当さを表す項目値候補配置スコアを計算する。項目値候補配置スコアは、2つの文字列が属する枠の配置関係や、2つの文字列の配置関係を基に計算する。ステップ470の処理は、後に詳細に説明する。
なお、図4においてステップ440とステップ450はどちらを先に処理してもかまわない。
図5に、制御部150における帳票認識の別の処理フロー図を示す。図5は図4と比べてステップ510とステップ520の処理が追加されている。これは、項目値単語照合の処理時間を削減することを目的としている。例えば、銀行名の属性の項目値単語は非常に多いため、帳票中の全ての文字列に対して照合処理を行うと処理時間がかかる。これに対し、銀行名は「XXX銀行」「AAA信用金庫」など、「銀行」や「信用金庫」などの属性に応じて記載されるキーワード(以降、「項目値キーワード」と記載する)が存在する。項目値キーワードの単語数は項目値単語よりも少ないため、まず項目値キーワード検出により項目値単語が記載される領域を推定し、その領域内のみ項目値単語照合を行うものである。
図6に、制御部150における帳票認識の別の処理フロー図を示す。図6は図5と比べてステップ610からステップ630の処理が追加されており、ステップ460が640に変更されている。これは、項目名が記載されている項目値の認識率を向上させることを目的としている。帳票画像のノイズやかすれなどの悪影響により、文字列認識誤りが発生し、項目値表記スコアや項目値単語スコアが低い値になることがある。これにより、ステップ460の項目値候補選択において、項目値の文字列のスコアが低くなる場合や、選択できない場合がある。このため、後段の処理で正しく項目値グループを決定できないという課題がある。この課題には、例えば特開2011−248609号公報に開示の技術のように、項目名と項目値のペアを求めることで対応することができる。項目名と項目値の両方を評価するため、仮に項目値のスコアが低い場合でも、項目名のスコアにより項目名―項目値ペアを抽出することができる。本実施例では、項目値だけでなく項目名―項目値ペアも項目値候補とする。
図7に、制御部150における帳票認識の別の処理フロー図を示す。図7は図6と比べてステップ510とステップ520の処理が削除されている。すなわち、制御部150が、項目値キーワード検出による項目値単語照合の削減をしない場合の処理フローである。なお、図7は、図4と比べてステップ610、620〜640の処理が追加されている。
なお、図7において、ステップ610、ステップ440、ステップ450、ステップ620、ステップ630は、いずれを先に処理してもかまわない。
以上のように、本実施形態によると、さらに、照合の処理を簡易にすることができる。
(第1から第4実施形態の処理の詳細)
以下、第1から第4実施例に記載の処理の詳細について説明する。ここでは、第1から第4の実施例の全ての処理を含む第3実施例の処理フローである図6に従って、図8の帳票を例として説明する。
制御部150は、枠検出部1410と、文字列検出部1420と、文字列認識部1430と、項目名スコア計算部1610と、項目値表記スコア計算部1440と、項目値キーワード検出部1510と、項目値単語照合対象文字列選択部1520と、項目値単語スコア計算部1450と、項目名―項目値配置スコア計算部1620と、項目名―項目値ペアスコア計算部1625と、項目名―項目値ペア検出部1630と、項目値候補選択部1640と、項目値候補配置スコア計算部1470と、項目値候補ペアスコア計算部1480と、項目値グループ評価部1490とを備える。なお、この図は、第3実施形態に対応するものであるが、第1、2、4実施形態についても処理フローに基づき必要のない構成部を省略すればよい。
まず、図6のステップ610、ステップ440、ステップ510、ステップ450で用いられる、文字列認識結果と辞書との照合処理の概要について、図9を用いて一例を説明する。図9は、文字列認識と照合処理の概略を示す図である。
まず、ステップ430の文字列認識内において、制御部150(文字列認識部1430)は、ステップ420で抽出された文字列画像940からステップ900の文字切出し処理を行うことにより、1文字単位の切出し方の候補を全て検出してネットワークで表現した切出し仮説ネットワーク950を作成する。次に、ステップ910において、制御部150(文字列認識部1430)は、全ての切出し候補の文字パターンを文字識別する。文字識別結果は、確からしさに応じてスコア付けされた第1位から第N位(Nは任意の数)までの候補を持っている(960)。ステップ920の文字列照合は、図6のステップ610やステップ440、510、450に相当する処理であり、制御部150(文字列認識部1430)は、ステップ960のネットワークに対してあらかじめ用意した文字列辞書930を照合して認識結果970を求める。文字列の照合とは、ネットワーク中の最適なパスを探索する問題とみなすことができる。このため、文字列照合スコアの計算方法として、例えば、文字列照合により求まった文字列パスの切出しパターンの文字識別スコアの平均値を文字列スコアとする方法が利用できる。なお、ネットワークを用いず、文字識別の前に切出し方を一意に決めてから文字識別と照合を行ってもよい。
次に、図6のステップ610の項目名スコア計算について、図10と図11、図12を用いて説明する。図10は項目名辞書の例、図11は項目名スコアテーブルの例、図12は項目名文字列の抽出結果の例である。ステップ610では、制御部150(項目名スコア計算部1610)は、帳票画像内の文字列と項目名辞書との照合を行い、項目名スコアを計算する。ステップ610における項目名照合の具体例としては、例えば、特開2004−171316号公報に開示の技術を利用することができる。図10の項目名辞書を用いて、図8の帳票画像内の文字列に対して項目名スコアを計算する場合、項目名スコアテーブルの例は図11のようになる。図11の項目名スコアテーブルの場合、制御部150(項目名スコア計算部1610)は、帳票画像内のN個(本実施例の場合N=29(S101〜S129))の文字列に対し、全ての項目名単語との照合を行い、項目名スコアを計算する。図12において、S128の「電話番号」が項目名文字列として検出されているのは、項目名辞書内の「口座番号」や「番号」の単語と照合しているためである。図11の項目名スコアテーブルにおいて、S128の「電話番号」はS113の「口座番号」と比べて低いスコアとなっていることがわかる。同様に、S117の「口座名」も「口座番号」と照合した結果である。
次に、図6のステップ440の項目値表記スコア計算について、図13と図14、図15を用いて説明する。基本的な概念は前記の項目名スコア計算と同じである。図13は項目値表記辞書の例、図14は項目値スコアテーブルの例、図15は項目値表記文字列の抽出結果の例である。ステップ440では、制御部150(項目値表記スコア計算部1440)は、帳票画像内の文字列と項目値表記辞書との照合を行い、項目値表記スコアを計算する。ステップ440における項目値表記照合の具体的な実施例としては、例えば、非特許文献:高橋他、「回帰的遷移ネットワークを用いた文字経路探索方式の開発」、電子情報通信学会技術研究報告 Vol.109 No.418 pp.141-146、に開示の技術のように、個別文字の識別候補をノードと見立てた識別候補文字ネットワークと状態遷移ネットワークで表現した表記辞書のマッチングにより、状態遷移ネットワークから最適な文字列パスを選択し、文字列認識結果を得る方法がある。項目値表記辞書の例として、例えば、図13の項目値表記辞書1300に示すような文字列の表記ルールの正規表現がある。口座番号については、1桁から7桁の数字列の表記が登録されている。口座番号以外の項目値表記辞書の例としては、項目値表記辞書1301に示す金額や日付などがある。図13の表記辞書1300を用いて、図8の帳票画像内の文字列に対して項目値表記スコアを計算する場合、項目値スコアテーブルは図14のようになる。ここでは、項目値表記辞書には口座番号の属性しか登録されていないため、銀行、支店、口座種別の属性は0となっている。
次に、図6のステップ510の項目値キーワード検出について、図16と図17を用いて説明する。基本的な概念は前記の項目名スコア計算と同じである。図16は項目値キーワード辞書の例、図17は項目値キーワード文字列の抽出結果の例である。ステップ510では、制御部150(項目値キーワード検出部1510)は、帳票画像内の文字列と項目値キーワード辞書との照合を行い、項目値キーワードスコアを計算する。ステップ510における単語照合の具体的な実施例としては、ステップ610やステップ450と同様に、特開2004−171316号公報に開示の技術を利用することができる。図16の項目値キーワード辞書を用いて、図8の帳票画像内の文字列に対して項目値キーワードスコアを計算する。図17では、項目名文字列、項目値表記文字列、項目名キーワード文字列が抽出された結果である。
次に、図6のステップ520の項目値単語照合対象文字列選択について、図18から図25を用いて説明する。ステップ520の処理では、制御部150(項目値単語照合対象文字列選択部1520)は、項目値グループの文字列は互いに近接した範囲に記載されているという前提(条件)に従い、図17に示した、抽出済みの項目名文字列1700、項目値表記文字列1710、項目値キーワード文字列1720を利用して、項目値単語照合処理の対象となる文字列を選択する。なお、図5のステップ520の項目値単語照合対象文字列選択では、項目値表記文字列と項目値キーワード文字列のみを利用してこの処理を行う。
次に、図6のステップ450の項目値単語スコア計算について、図26と図27、図28を用いて説明する。基本的な概念は前記の項目名スコア計算と同じである。図26は項目値単語辞書の例、図27は項目値スコアテーブルの例、図28は項目値単語文字列の抽出結果の例である。ステップ450では、制御部150(項目値単語スコア計算部1450)は、ステップ520で選択された文字列と項目値単語辞書との照合を行い、項目値単語スコアを計算する。ステップ450における単語照合の具体的な実施例としては、ステップ610と同様に、特開2004−171316号公報に開示の技術を利用することができる。図26の項目値単語辞書を用いて、図8の帳票画像内の文字列に対して項目値単語スコアを計算する場合、項目値スコアテーブルの例は図27のようになる。図27では、ステップ440で計算した項目値表記スコアとステップ450で計算した項目値単語スコアが記録されている。なお、口座種別の属性については、ステップ510の項目値キーワード検出と同じ内容であるため、ステップ450では省略することができる。また、文字列選択を行わない図4と図7のステップ440では、帳票上の全ての文字列に対して照合処理を行う。
次に、図6のステップ620の項目名―項目値配置スコア計算について、図29を用いて説明する。ステップ620の処理では、制御部150(項目名―項目値配置スコア計算部1620)は、2つの文字列間の配置関係を評価することにより、項目名と項目値のペアとして妥当な配置に高い項目名―項目値配置スコアを、妥当でない配置に低い項目名―項目値配置スコアを設定する。制御部150(項目名―項目値配置スコア計算部1620)は、項目名―項目値配置スコアを、2つの文字列が属する枠のサイズおよび配置関係や、2つの文字列矩形のサイズおよび配置関係を基に計算する。ステップ620の処理の具体例としては、例えば、特開2011−248609号公報に開示の技術を利用することができる。この技術では、例えば項目名―項目値配置スコアは、項目名―項目値配置スコアが取り得る値の最大値で初期化し、文字列ペアをなす2つの文字列の配置関係が項目名−項目値関係として非妥当であると判断できる配置パターンをペナルティルールとして定義し、初期値からペナルティルールによって得られたペナルティ値を減算した値として計算する方法がある。この処理を帳票画像内の全文字列ペアに対して実行する。
次に、図6のステップ625の項目名―項目値ペアスコア計算及びステップ630の項目名―項目値ペア検出について、図30を用いて説明する。ステップ625及び630の処理の具体例としては、例えば、特開2011−248609号公報に開示の技術を利用することができる。図30は項目名―項目値ペア検出結果の例である。項目名―項目値ペアスコア計算では、制御部150(項目名―項目値ペアスコア計算部1625)は、例えば、項目名スコア、項目値スコア(項目値表記スコアもしくは項目値単語スコア)、項目名―項目値配置スコアを入力とする評価関数によって計算する。Snを項目名スコア、Svを項目値スコア、Saを項目名―項目値配置スコアとしたときに、評価関数Sp(Sn、 Sv、 Sa)の例として、例えば数3、数4、数5に示すものがある。
次に、図6のステップ640の項目値候補選択について、図31を用いて説明する。制御部150(項目値候補選択部1640)は、項目値候補には、ステップ440で求めた項目値表記スコアが閾値以上の項目値表記文字列、ステップ450で求めた項目値単語スコアが閾値以上の項目値単語文字列、およびステップ630で求めた項目名―項目値ペアスコアが閾値以上の項目名―項目値ペアとする。制御部150(項目値候補選択部1640)は、項目値候補スコア(Sc)として、数6に示すように、項目値候補として選択した文字列(もしくは文字列ペア)に応じて、項目値単語スコア、項目値表記スコア、項目名―項目値ペアスコアのいずれかを選択する。
次に、図6のステップ470の項目値候補配置スコア計算について、図33と図34を用いて説明する。ステップ470の処理では、制御部150(項目値候補配置スコア計算1470)は、互いに属性の異なる2つの項目値候補間の配置関係を評価することにより、項目値グループの項目値として妥当な配置に高い項目値候補配置スコア(Sca)を、妥当でない配置に低い項目値候補配置スコアスコアを設定する。ここでは、2つの文字列(もしくは文字列ペア)を含む枠の配置、または文字列(もしくは文字列ペア)間の配置に応じてスコアを計算する。図33に、具体的な計算方式の一例を示す。図33には、4種類の配置スコアの計算方法を示している。(1)は2つの文字列が異なる枠に含まれている場合である。(2)は、一方が枠内、もう一方が枠外の場合である。(3)は、2つの文字列とも枠外の場合である。(4)は、2つの文字列が同じ枠内に含まれている場合である。
次に、図6のステップ480の項目値候補ペアスコア計算について、図36と図37を用いて説明する。ステップ480の処理では、制御部150(項目値候補ペアスコア計算部1480)は、互いに属性の異なる2つの項目値候補の文字列のペアに対して、項目値候補スコア(Sc)と項目値候補配置スコア(Sca)を用いて項目値候補ペアスコア(Scp)を計算する。2つの項目値候補の文字列(もしくは文字列ペア)iと文字列(もしくは文字列ペア)jとの間の項目値候補ペアスコアを求める評価関数Scp(文字列(もしくは文字列ペア)i,文字列(もしくは文字列ペア)j)の計算方法の一例としては、数7がある。(なお、数7では「(もしくは文字列ペア)」が記述スペースの都合上省略されている。)
図36は、図35のネットワーク表現に基づいて項目値候補ペアスコアを計算した結果である。リンク上の数字が項目値候補ペアスコアである。また、図37は、項目値候補ペアスコアの計算結果を格納したテーブルを表す図である。図37では、例えば、銀行の属性の項目値候補文字列S107と支店の属性の項目値候補文字列S108bとのスコアが1.57となっている。空欄はスコア0.0である。
次に、図6のステップ490の項目値グループ評価について、図38、図39、図40を用いて説明する。ステップ490の処理では、制御部150(項目値グループ評価部1490)は、ステップ480で計算した項目値候補ペアスコアを用いて、最適な文字列の組を決定する。決定方法の一例としては、図36のネットワークにおいて全ての属性を満たすパスの中で項目値候補ペアスコアの総和が最大となるパスを選択することや、総和が閾値を超えるパスを選択することが挙げられる。最大値の代わりに平均値を用いることや、その他の評価基準を用いてもよい。また、本実施例ではネットワーク表現を用いているが、その他の方法で実現してもよい。
第2の実施形態の図5、および第3の実施形態の図6では、制御部150は、ステップ510の項目値キーワード検出の後、ステップ520の項目値単語照合対象文字列選択をし、ステップ450の項目値単語スコア計算を行っている。この場合、銀行と支店の照合を独立して行うため、実際にはない銀行と支店の組合せを求めることがある。
これを解決するため、本実施形態では、項目値単語の照合にあらかじめ優先度を設定し、項目値単語照合を複数の段階に分ける。一例として、優先度1を「銀行」、優先度2を「支店」、優先度3を「口座種別」とすることができる。まず、制御部150は、「銀行」の項目値単語照合を行って銀行の候補を絞る。制御部150は、「支店」の項目値単語照合では、銀行ごとに分類された支店の項目値単語辞書を用いる。そして、制御部150は、絞られた候補の銀行ごとに、その銀行の支店の項目値単語辞書を用いて項目値単語照合を行う。
以上のように、本実施形態によると、さらに、優先度毎の辞書により、単語照合の処理コストを一層少なくすることができる。
次に、本発明における表示画面の例について図48から図51を用いて説明する。
図48は、ステップ490において、制御部150が、図38から図40で決定した項目値グループの認識結果を表示した例である。領域4800が帳票画像を表示する領域である。領域4810をはじめとする太い線で囲まれた文字列は項目値として抽出された結果を表す。領域4820は項目値グループを表示する枠である。一例として、抽出された項目値を含む枠の外接矩形等で表現できる。領域4830は認識結果を表示する領域である。領域4840をはじめとする網掛け領域には項目値の属性が表示される。領域4850をはじめとする枠内には項目値の文字認識結果が表示される。文字認識結果が誤っている場合には、その項目値の文字認識結果表示領域を選択して文字を修正することも可能である。
図51は再認識結果の表示例である。キーワードを追加したことにより、「ZZZ信用金庫」が正しく認識されている。
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれている。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
Claims (15)
- 帳票認識装置であって、
データの属性を表す文字列である項目名と、項目名に対するデータの文字列を含む帳票画像を入力する画像入力部と、
前記帳票画像から認識された、前記帳票画像内の文字列に対し、該文字列が項目値である確率を表す項目値表記スコアを計算する項目値表記スコア計算部と、
前記帳票画像内の文字列に対し、該文字列が予め登録された詳細な項目値を示す項目値単語である確率を表す項目値単語スコアを計算する項目値単語スコア計算部と、
前記項目値表記スコアと前記項目値単語スコアの両方を含むスコアを項目値スコア(Sv)とし、前記項目値スコアが予め定められた閾値より高い文字列を項目値候補として選択し、前記項目値スコア(Sv)を項目値候補スコア(Sc)とする項目値候補選択部と、
前記帳票画像内の前記項目値候補の文字列ペアに対し、前記帳票画像内において互いに関係する複数の属性の項目値の組合せを項目値グループとした場合に、該文字列ペアの配置関係が各前記項目値グループの項目値として妥当であるかを表す項目値候補配置スコア(Sca)を計算する項目値候補配置スコア計算部と、
前記帳票画像内の項目値候補の文字列ペアに対し、前記項目値スコア(Sv)、前記項目値配置スコア(Sca)を基に、前記文字列ペアが前記項目値グループの項目値としての尤もらしさを表す評価値である項目値候補ペアスコア(Scp)を計算する項目値候補ペアスコア計算部と、
前記項目値候補ペアスコア(Scp)により、前記帳票画像内の文字列と前記項目値グループとの対応付けを評価することで項目値の文字列を認識する項目値グループ評価部と、
前記帳票画像内の文字列の認識結果を記憶する記憶部又は出力する出力部と
を備えたことを特徴とする帳票認識装置。
- 請求項1に記載された帳票認識装置であって、
前記帳票画像内の文字列に対し、該文字列が項目値に比較的頻出する項目値キーワードである確率を表す項目値キーワードスコアを計算し、項目値キーワードを検出する項目値キーワード検出部と、
前記項目値表記スコアと前記項目値キーワードスコアを用いて、項目値の単語を検出する際の対象文字列を選択する項目値単語照合対象文字列選択部と
を備え、
前記項目値単語スコア計算部は、前記項目値単語照合対象文字列選択部で選択された文字列に対し、前記項目値単語スコアを計算することを特徴とする帳票認識装置。
- 請求項2に記載された帳票認識装置であって、
前記帳票画像内の文字列に対し、該文字列が項目名である確率を表す項目名スコア(Sn)を計算する項目名スコア計算部と、
前記項目値表記スコア(Sn)と前記項目値単語スコアの両方を含むスコアを項目値スコア(Sv)とし、前記帳票画像内の文字列ペアに対し、該文字列ペアの配置関係が項目名−項目値関係として妥当であるかを表す項目名―項目値配置スコア(Sa)を計算する項目名―項目値配置スコア計算部と、
前記項目名スコア(Sn)、前記項目値スコア(Sv)、前記項目名―項目値配置スコア(Sa)を基に、該文字列ペアの項目名−項目値としての尤もらしさを表す評価値である項目名−項目値ペアスコア(Sp)を計算する項目名−項目値ペアスコア計算部と、
前記項目名−項目値ペアスコア計算部の出力する前記項目名−項目値ペアスコア(Sp)により、前記帳票画像内での項目名−項目値関係の対応付けを決定する項目名−項目値ペア検出部と
を備え、
前記項目値候補選択部は、前記項目値スコア(Sv)が高い文字列と、前記項目名−項目値ペアスコア(Sp)が高い文字列のペアを項目値候補として選択することを特徴とする帳票認識装置。
- 請求項1に記載された帳票認識装置であって、
前記帳票画像内の文字列に対し、該文字列が項目名である確率を表す項目名スコア(Sn)を計算する項目名スコア計算部と、
前記項目値表記スコア(Sn)と前記項目値単語スコアの両方を含むスコアを項目値スコア(Sv)とし、前記帳票画像内の文字列ペアに対し、該文字列ペアの配置関係が項目名−項目値関係として妥当であるかを表す項目名―項目値配置スコア(Sa)を計算する項目名―項目値配置スコア計算部と、
前記項目名スコア(Sn)、前記項目値スコア(Sv)、前記項目名―項目値配置スコア(Sa)を基に、該文字列ペアの項目名−項目値としての尤もらしさを表す評価値である項目名−項目値ペアスコア(Sp)を計算する項目名−項目値ペアスコア計算部と、
前記項目名−項目値ペアスコア計算部の出力する前記項目名−項目値ペアスコア(Sp)により、前記帳票画像内での項目名−項目値関係の対応付けを決定する項目名−項目値ペア検出部と
を備え、
前記項目値候補選択部は、前記項目値スコア(Sv)が高い文字列と、前記項目名−項目値ペアスコア(Sp)が高い文字列のペアを項目値候補として選択することを特徴とする帳票認識装置。
- 請求項1に記載された帳票認識装置であって、
前記項目値候補ペアスコア計算部は、前記項目値候補スコア(Sc)が高い項目値候補の文字列をノードとし、項目値候補同士のリンクのスコアを前記項目値候補配置スコア(Sca)とするネットワークを作成し、前記項目値候補スコア(Sc)及び前記項目値候補配置スコア(Sca)により前記項目値候補ペアスコア(Scp)を計算し、
前記項目値グループ評価部は、前記ネットワーク内で2つの文字列間の前記項目値候補ペアスコア(Scp)が高いパスを選択することにより、前記帳票画像内の文字列と項目値グループとの対応付けを評価することで項目値の文字列を決定する
ことを特徴とする帳票認識装置。
- 請求項3に記載された帳票認識装置であって、
項目名となりうる単語のリストである項目名辞書を備え、
前記項目名スコア計算部は、帳票画像内の文字列と前記項目名辞書との照合を行い、前記項目名スコア(Sn)を計算することを特徴とする帳票認識装置。
- 請求項1に記載された帳票認識装置であって、
文字列の数字又は記号の表記ルールのリストである項目値表記辞書を備え、
前記項目値表記スコア計算部は、帳票画像内の文字列と前記項目値表記辞書との照合を行い、前記項目値表記スコアを計算することを特徴とする帳票認識装置。
- 請求項2に記載された帳票認識装置であって、
属性に応じて記載されるキーワードである項目値キーワードのリストである項目値キーワード辞書を備え、
前記項目値キーワード検出部は、帳票画像内の文字列と前記項目値キーワード辞書との照合を行い、前記項目値キーワードスコアを計算することを特徴とする帳票認識装置。
- 請求項2に記載された帳票認識装置であって、
前記項目値単語照合対象文字列選択部は、項目値グループの文字列は互いに近接した範囲に記載されているという条件に従い、抽出済みの文字列を利用して項目値単語照合処理の対象となる文字列を選択することを特徴とする帳票認識装置。
- 請求項1に記載された帳票認識装置であって、
事前に登録した項目値の単語リストである項目値単語辞書を備え、
前記項目値単語スコア計算部は、選択された文字列と前記項目値単語辞書との照合を行い、前記項目値単語スコアを計算することを特徴とする帳票認識装置。
- 請求項3に記載された帳票認識装置であって、
前記項目名―項目値配置スコア計算部は、前記項目名―項目値配置スコア(Sa)を、該項目名―項目値配置スコアが取り得る値の最大値で初期化し、文字列ペアをなす2つの文字列の配置関係が項目名−項目値関係として非妥当であると判断できる配置パターンをペナルティルールとして定義し、初期値からペナルティルールによって得られたペナルティ値を減算した値として計算することを特徴とする帳票認識装置。
- 請求項3に記載された帳票認識装置であって、
前記項目値候補選択部は、項目値候補を、前記項目値表記スコアが閾値以上の項目値表記文字列、前記項目値単語スコアが閾値以上の項目値単語文字列、前記項目名―項目値ペアスコアが閾値以上の項目名―項目値ペアとし、項目値候補スコア(Sc)を、項目名―項目値ペアスコア、項目値単語スコア、項目値表記スコア、の順にいずれかを選択して求めることを特徴とする帳票認識装置。
- 請求項1に記載された帳票認識装置であって、
前記項目値単語辞書は、項目名にあらかじめ優先度が設定され、第1優先度の項目名の項目値ごとに第2優先度の項目名の項目値のリストを設け、
前記項目値単語スコア計算部は、優先度が設定された前記項目値単語辞書を参照して、優先度の順に項目値単語照合を行って絞り各優先度の項目値の候補を絞る
ことを特徴とする帳票認識装置。
- 帳票認識方法であって、
データの属性を表す文字列である項目名と、項目名に対するデータの文字列を含む帳票画像を入力し、
前記帳票画像から認識された、前記帳票画像内の文字列に対し、該文字列が項目値である確率を表す項目値表記スコアを計算し、
前記帳票画像内の文字列に対し、該文字列が予め登録された詳細な項目値を示す項目値単語である確率を表す項目値単語スコアを計算し、
前記項目値表記スコアと前記項目値単語スコアの両方を含むスコアを項目値スコア(Sv)とし、前記項目値スコアが予め定められた閾値より高い文字列を項目値候補として選択し、前記項目値スコア(Sv)を項目値候補スコア(Sc)とし、
前記帳票画像内の前記項目値候補の文字列ペアに対し、前記帳票画像内において互いに関係する複数の属性の項目値の組合せを項目値グループとした場合に、該文字列ペアの配置関係が各前記項目値グループの項目値として妥当であるかを表す項目値候補配置スコア(Sca)を計算し、
前記帳票画像内の項目値候補の文字列ペアに対し、前記項目値スコア(Sv)、前記項目値配置スコア(Sca)を基に、前記文字列ペアが前記項目値グループの項目値としての尤もらしさを表す評価値である項目値候補ペアスコア(Scp)を計算し、
前記項目値候補ペアスコア(Scp)により、前記帳票画像内の文字列と前記項目値グループとの対応付けを評価することで項目値の文字列を認識し、
前記帳票画像内の文字列の認識結果を記憶する又は出力する
ことを特徴とする帳票認識方法。
- 帳票認識プログラムであって、
制御部が、画像入力部により、データの属性を表す文字列である項目名と、項目名に対するデータの文字列を含む帳票画像を入力するステップと、
前記制御部が、前記帳票画像から認識された、前記帳票画像内の文字列に対し、該文字列が項目値である確率を表す項目値表記スコアを計算するステップと、
前記制御部が、前記帳票画像内の文字列に対し、該文字列が予め登録された詳細な項目値を示す項目値単語である確率を表す項目値単語スコアを計算するステップと、
前記制御部が、前記項目値表記スコアと前記項目値単語スコアの両方を含むスコアを項目値スコア(Sv)とし、前記項目値スコアが予め定められた閾値より高い文字列を項目値候補として選択し、前記項目値スコア(Sv)を項目値候補スコア(Sc)とするステップと、
前記制御部が、前記帳票画像内の前記項目値候補の文字列ペアに対し、前記帳票画像内において互いに関係する複数の属性の項目値の組合せを項目値グループとした場合に、該文字列ペアの配置関係が各前記項目値グループの項目値として妥当であるかを表す項目値候補配置スコア(Sca)を計算するステップと、
前記制御部が、前記帳票画像内の項目値候補の文字列ペアに対し、前記項目値スコア(Sv)、前記項目値配置スコア(Sca)を基に、前記文字列ペアが前記項目値グループの項目値としての尤もらしさを表す評価値である項目値候補ペアスコア(Scp)を計算するステップと、
前記制御部が、前記項目値候補ペアスコア(Scp)により、前記帳票画像内の文字列と前記項目値グループとの対応付けを評価することで項目値の文字列を認識し、
前記制御部が、前記帳票画像内の文字列の認識結果を記憶部に記憶する又は出力部に出力するステップと
をコンピュータに実行させるための帳票認識プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013241716A JP6174466B2 (ja) | 2013-11-22 | 2013-11-22 | 帳票認識装置、帳票認識方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013241716A JP6174466B2 (ja) | 2013-11-22 | 2013-11-22 | 帳票認識装置、帳票認識方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015102938A true JP2015102938A (ja) | 2015-06-04 |
JP6174466B2 JP6174466B2 (ja) | 2017-08-02 |
Family
ID=53378609
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013241716A Active JP6174466B2 (ja) | 2013-11-22 | 2013-11-22 | 帳票認識装置、帳票認識方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6174466B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016051339A (ja) * | 2014-08-29 | 2016-04-11 | 日立オムロンターミナルソリューションズ株式会社 | 帳票認識装置及び方法 |
WO2019004363A1 (ja) * | 2017-06-29 | 2019-01-03 | 株式会社ビズオーシャン | 情報入力方法、情報入力装置、及び情報入力システム |
US11055481B2 (en) | 2017-06-29 | 2021-07-06 | Spalo Co., Ltd. | Information input method, information input apparatus, and information input system |
WO2021186642A1 (ja) * | 2020-03-18 | 2021-09-23 | 株式会社Pfu | 画像処理装置、制御方法及び制御プログラム |
CN113591772A (zh) * | 2021-08-10 | 2021-11-02 | 上海杉互健康科技有限公司 | 医疗信息结构化识别录入的方法、系统、设备及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005135041A (ja) * | 2003-10-29 | 2005-05-26 | Hitachi Ltd | 文書検索・閲覧手法及び文書検索・閲覧装置 |
JP2009169844A (ja) * | 2008-01-18 | 2009-07-30 | Hitachi Software Eng Co Ltd | 表認識方法及び表認識装置 |
JP2010140204A (ja) * | 2008-12-10 | 2010-06-24 | Sharp Corp | 文字認識装置、文字認識方法、文字認識プログラムおよび記録媒体 |
JP2011248609A (ja) * | 2010-05-26 | 2011-12-08 | Hitachi Omron Terminal Solutions Corp | 帳票認識装置および帳票認識方法 |
-
2013
- 2013-11-22 JP JP2013241716A patent/JP6174466B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005135041A (ja) * | 2003-10-29 | 2005-05-26 | Hitachi Ltd | 文書検索・閲覧手法及び文書検索・閲覧装置 |
JP2009169844A (ja) * | 2008-01-18 | 2009-07-30 | Hitachi Software Eng Co Ltd | 表認識方法及び表認識装置 |
JP2010140204A (ja) * | 2008-12-10 | 2010-06-24 | Sharp Corp | 文字認識装置、文字認識方法、文字認識プログラムおよび記録媒体 |
JP2011248609A (ja) * | 2010-05-26 | 2011-12-08 | Hitachi Omron Terminal Solutions Corp | 帳票認識装置および帳票認識方法 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016051339A (ja) * | 2014-08-29 | 2016-04-11 | 日立オムロンターミナルソリューションズ株式会社 | 帳票認識装置及び方法 |
WO2019004363A1 (ja) * | 2017-06-29 | 2019-01-03 | 株式会社ビズオーシャン | 情報入力方法、情報入力装置、及び情報入力システム |
JPWO2019004363A1 (ja) * | 2017-06-29 | 2019-06-27 | 株式会社ビズオーシャン | 情報入力方法、情報入力装置、及び情報入力システム |
US11055481B2 (en) | 2017-06-29 | 2021-07-06 | Spalo Co., Ltd. | Information input method, information input apparatus, and information input system |
WO2021186642A1 (ja) * | 2020-03-18 | 2021-09-23 | 株式会社Pfu | 画像処理装置、制御方法及び制御プログラム |
CN113591772A (zh) * | 2021-08-10 | 2021-11-02 | 上海杉互健康科技有限公司 | 医疗信息结构化识别录入的方法、系统、设备及存储介质 |
CN113591772B (zh) * | 2021-08-10 | 2024-01-19 | 上海杉互健康科技有限公司 | 医疗信息结构化识别录入的方法、系统、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
JP6174466B2 (ja) | 2017-08-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6406932B2 (ja) | 帳票認識装置及び方法 | |
JP5405586B2 (ja) | 手書き文字認識方法および手書き文字認識装置 | |
JP6938228B2 (ja) | 計算機、文書識別方法、及びシステム | |
US7499588B2 (en) | Low resolution OCR for camera acquired documents | |
Weinman et al. | Toward integrated scene text reading | |
TWI321294B (en) | Method and device for determining at least one recognition candidate for a handwritten pattern | |
JP6174466B2 (ja) | 帳票認識装置、帳票認識方法、及びプログラム | |
JP5211334B2 (ja) | 手書き記号の認識方法及び装置 | |
US20240095247A1 (en) | Computerized information extraction from tables | |
US20160034441A1 (en) | Systems, apparatuses and methods for generating a user interface | |
US6137908A (en) | Handwriting recognition system simultaneously considering shape and context information | |
JP5621169B2 (ja) | 帳票認識装置および帳票認識方法 | |
JP5653817B2 (ja) | 帳票認識装置、帳票認識方法およびそのためのプログラム | |
JP2004139484A (ja) | 帳票処理装置、該装置実行のためのプログラム、及び、帳票書式作成プログラム | |
WO2020071558A1 (ja) | 帳票レイアウト解析装置、その解析プログラムおよびその解析方法 | |
CN114341954B (zh) | 文本行提取 | |
CN111340020A (zh) | 一种公式识别方法、装置、设备及存储介质 | |
US10438097B2 (en) | Recognition device, recognition method, and computer program product | |
JP2015069256A (ja) | 文字識別システム | |
JP3216800B2 (ja) | 手書き文字認識方法 | |
KR20220132536A (ko) | 필기에서의 수학 검출 | |
US20220044048A1 (en) | System and method to recognise characters from an image | |
JP4466241B2 (ja) | 文書処理手法及び文書処理装置 | |
JP5712415B2 (ja) | 帳票処理システム及び帳票処理方法 | |
JP4418726B2 (ja) | 文字列探索装置、探索方法およびこの方法のプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160722 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20170307 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20170317 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170608 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170620 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170706 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6174466 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |