JP2016126356A - 画像処理プログラム、画像処理方法、及び画像処理装置 - Google Patents

画像処理プログラム、画像処理方法、及び画像処理装置 Download PDF

Info

Publication number
JP2016126356A
JP2016126356A JP2014263768A JP2014263768A JP2016126356A JP 2016126356 A JP2016126356 A JP 2016126356A JP 2014263768 A JP2014263768 A JP 2014263768A JP 2014263768 A JP2014263768 A JP 2014263768A JP 2016126356 A JP2016126356 A JP 2016126356A
Authority
JP
Japan
Prior art keywords
information
value
character string
image
value information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014263768A
Other languages
English (en)
Other versions
JP6098628B2 (ja
Inventor
中山 智文
Tomofumi Nakayama
智文 中山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Original Assignee
Brother Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd filed Critical Brother Industries Ltd
Priority to JP2014263768A priority Critical patent/JP6098628B2/ja
Priority to US14/980,502 priority patent/US10242410B2/en
Publication of JP2016126356A publication Critical patent/JP2016126356A/ja
Application granted granted Critical
Publication of JP6098628B2 publication Critical patent/JP6098628B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00Finance; Insurance; Tax strategies; Processing of corporate or income taxes
    • G06Q40/12Accounting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/412Layout analysis of documents structured with printed lines or input boxes, e.g. business forms or tables
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Economics (AREA)
  • Development Economics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Technology Law (AREA)
  • General Business, Economics & Management (AREA)
  • Artificial Intelligence (AREA)
  • Multimedia (AREA)
  • Cash Registers Or Receiving Machines (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Character Input (AREA)

Abstract

【課題】領収書における複数の位置から取得された同種の項目の値を処理することが可能な画像処理プログラム、画像処理方法、及び画像処理装置を提供する。【解決手段】PCのCPUによって、領収書画像33の画像データから文字列情報と位置情報とが取得される。所定の項目情報に対応するキーワードに対応する値情報が取得され、位置情報と項目情報と値情報が対応付けられた対応データテーブルに記憶される。ディスプレイに領収書画像33が表示され、対応データテーブルに記憶された位置情報に対応する位置にマーカー951〜957が表示される。同種の項目情報についての値情報である同種値情報が取得された場合、同種値情報の種類に応じて、実行する処理を第一処理と第二処理との何れか一方から選択され、選択された処理が実行される。【選択図】図13

Description

本発明は、領収書の画像を表示する画像処理プログラム、画像処理方法、及び画像処理装置に関する。
従来、領収書の画像を表示する画像処理装置が知られている。例えば、特許文献1に記載の画像取り込み装置を含むシステムにおいては、画像が取り込まれると、光学的認識(OCR)などによって画像データがテキストに変換される。さらに、領収書上のテキストの位置に関する空間情報が保存される。画像データから変換されたテキストにおいて、例えば、「金額」、「総計」、及び「請求金額」等の所定の項目の用語が検索される。用語が発見されると、対応する金額等の値が抽出される。抽出された値を用いた経費報告書が作成される。経費報告書は表示部に表示可能である。
特表2006−511896号公報
領収書には、例えば、日付の値が2か所に記載してあったり、税額の値が2つ記載してあったりする等、同種の項目の値が複数の位置に記載されている場合がある。しかしながら、上記従来のシステムでは、同種の項目の値が複数の位置から取得された場合の処理について規定されておらず、ユーザが所望する結果を得ることができない可能性がある。
本発明の目的は、領収書における複数の位置から取得された同種の項目の値を処理することが可能な画像処理プログラム、画像処理方法、及び画像処理装置を提供することである。
本発明の第1の態様に係る画像処理プログラムは、領収書が撮像された領収書画像の画像データから、OCR(Optical Character Recognition)によって、文字列の情報である文字列情報と、前記領収書画像における前記文字列の位置の情報である位置情報とを取得する情報取得ステップと、前記情報取得ステップによって取得された前記文字列情報に基づく前記文字列の中から、所定の項目情報に対応する前記文字列であるキーワードに対応する値の情報である値情報を取得し、取得した前記値情報と、前記情報取得ステップにおいて取得された前記位置情報のうち、取得した前記値情報に対応する前記位置情報と、前記項目情報とを対応付けた対応データを記憶部に記憶する記憶ステップと、画像を表示可能な表示部に、前記画像データに基づく前記領収書画像を表示させ、前記領収書画像において、前記記憶ステップにおいて前記記憶部に記憶された前記位置情報に対応する位置に所定のオブジェクトを表示させるオブジェクト表示ステップと、前記記憶ステップにおいて前記記憶部に記憶された前記対応データを参照し、複数の前記値情報相互間で前記項目情報が同種となる前記値情報である同種値情報が記憶されているかを判断する判断ステップと、前記判断ステップにおいて前記同種値情報が記憶されていると判断された場合に、前記同種値情報についての前記項目情報の種類に応じて、実行する処理を少なくとも第一処理と第二処理との何れか一方から選択する選択ステップと、前記選択ステップによって選択された処理を実行する実行ステップとを画像処理装置のコンピュータに実行させる。
この場合、領収書画像における、キーワードに対応する値情報の位置に、オブジェクトが表示される。このため、オブジェクトが表示されない場合に比べて、ユーザは、キーワードに対応する値として、画像処理プログラムによってどの値が特定されたのかを確認し易い。また、領収書における複数の位置から取得された同種の項目情報に対応する値が、項目情報の種類に応じて処理される。よって、領収書における複数の位置から取得された同種の項目情報に対応する値が、項目情報の種類の処理に応じて処理されない場合に比べて、ユーザが所望する結果を得ることができる可能性が高くなる。よって、ユーザの利便性が向上する。
前記画像処理プログラムにおいて、前記選択ステップは、前記判断ステップにおいて前記同種値情報が記憶されていると判断された場合において、前記同種値情報についての前記項目情報が第一種類の前記項目情報である場合に、前記同種値情報に基づく複数の値を合算する前記第一処理を選択し、前記実行ステップは、前記選択ステップにおいて選択された前記第一処理を実行して、前記同種値情報に基づく複数の値を合算し、前記記憶部に記憶してもよい。この場合、第一種類の項目情報についての複数の値が自動的に合算される。このため、合算されない場合に比べて、領収書における複数の位置に第一種類の項目が記載されていた場合に、ユーザが所望する結果を得ることができる可能性が高くなる。また、ユーザが手作業で合算を行う必要がないので、ユーザの利便性が向上する。
前記画像処理プログラムにおいて、前記選択ステップは、前記判断ステップにおいて前記同種値情報が記憶されていると判断された場合において、前記同種値情報についての前記項目情報が第二種類の前記項目情報である場合に、前記同種値情報に基づく複数の値のうちの1つを選択する前記第二処理を選択し、前記実行ステップは、前記選択ステップにおいて選択された前記第二処理を実行して前記同種値情報に基づく複数の値のうちの1つを選択し、前記対応データにおける選択された値についての前記値情報に、選択されたことを示す情報である選択情報を対応付けて、前記記憶部に記憶してもよい。この場合、第二種類の項目情報について複数の値のうちの1つが自動的に選択される。このため、複数の値のうちの1つが選択されない場合に比べて、領収書における複数の位置に第二種類の項目が記載された場合に、ユーザが所望する結果を得ることができる可能性が高くなる。また、ユーザが手作業で複数の値のうちの1つを選択する必要がないので、ユーザの利便性が向上する。
前記画像処理プログラムにおいて、前記実行ステップは、前記位置情報に基づいて、前記同種値情報に基づく複数の値のうちの1つを選択してもよい。この場合、位置情報に基づいて、第二種類の項目情報について複数の値のうちの1つが自動的に選択される。このため、位置情報が参照されない場合に比べて、ユーザが所望する結果を得ることができる可能性が高くなる。
前記画像処理プログラムにおいて、前記オブジェクト表示ステップは、前記同種値情報に基づく複数の値のうち、前記実行ステップにおいて選択された値に対して第一オブジェクトを表示し、選択されていない値に対して前記第一オブジェクトと異なる第二オブジェクトを表示してもよい。この場合、オブジェクトの表示が変わらない場合に比べて、領収書画像における選択された値を、ユーザが確認し易くなり、ユーザの利便性が向上する。
前記画像処理プログラムは、前記表示部に表示された前記オブジェクトに対する選択入力を受け付ける受付ステップと、前記受付ステップによって受け付けられた前記選択入力が、前記第二種類の前記項目情報の前記同種値情報に基づく値に対応する位置に表示された前記オブジェクトに対する前記選択入力であるかを判断する選択判断ステップと、前記選択判断ステップによって前記第二種類の前記項目情報の前記同種値情報に基づく値に対応する位置に表示された前記オブジェクトに対する前記選択入力であると判断された場合に、前記受付ステップにおいて前記選択入力が受け付けられた前記オブジェクトに対応する前記値情報に、前記選択情報を対応付けて前記記憶部に記憶する変更ステップとを備えてもよい。この場合、ユーザは、実行ステップによって選択された値を、ユーザが選択した値に変更することができる。よって、ユーザの利便性が向上する。
前記画像処理プログラムは、前記実行ステップが実行した処理結果を前記表示部に表示させる結果表示ステップを備えてもよい。この場合、ユーザは、実行ステップが実行した処理結果を容易に確認することができる。よって、ユーザの利便性が向上する。
前記画像処理プログラムは、前記変更ステップが実行した変更結果を前記表示部に表示させる変更表示ステップを備えてもよい。この場合、ユーザは、変更ステップが実行した変更結果を容易に確認することができる。よって、ユーザの利便性が向上する。
前記画像処理プログラムにおいて、記憶ステップは、前記情報取得ステップによって取得された前記文字列情報に基づく前記文字列の中から、前記記憶部に記憶された前記項目情報に対応する前記キーワードを特定するキーワード特定ステップと、前記情報取得ステップによって取得された前記文字列情報に基づく前記文字列の中から、前記キーワード特定ステップによって特定された前記キーワードに対応する前記値情報を取得する値情報取得ステップと、前記項目情報と、前記値情報取得ステップにおいて取得された前記値情報と、前記情報取得ステップにおいて取得された前記位置情報のうち前記値情報に対応する前記位置情報とを対応付けて前記記憶部に記憶する情報記憶ステップとを備えてもよい。この場合、領収書における複数の位置から取得された同種の項目情報に対応する値が、項目情報の種類の処理に応じて処理されない場合に比べて、ユーザが所望する結果を得ることができる可能性が高くなる。よって、ユーザの利便性が向上する。
前記画像処理プログラムは、前記画像データを取得する画像データ取得ステップを備え、前記情報取得ステップは、前記画像データ取得ステップにおいて取得された前記画像データから、前記OCRによって、前記文字列情報と、前記位置情報とを取得してもよい。この場合、予め記憶されている画像データだけでなく、画像データ取得ステップによって新たに取得される画像データを使用して、文字列情報と位置情報とを取得し、処理を行うことができる。よって、ユーザの利便性が向上する。
本発明の第2の態様に係る画像処理方法は、領収書が撮像された領収書画像の画像データから、OCR(Optical Character Recognition)によって、文字列の情報である文字列情報と、前記領収書画像における前記文字列の位置の情報である位置情報とを取得する情報取得ステップと、前記情報取得ステップによって取得された前記文字列情報に基づく前記文字列の中から、所定の項目情報に対応する前記文字列であるキーワードに対応する値の情報である値情報を取得し、取得した前記値情報と、前記情報取得ステップにおいて取得された前記位置情報のうち、取得した前記値情報に対応する前記位置情報と、前記項目情報とを対応付けた対応データを記憶部に記憶する記憶ステップと、画像を表示可能な表示部に、前記画像データに基づく前記領収書画像を表示させ、前記領収書画像において、前記記憶ステップにおいて前記記憶部に記憶された前記位置情報に対応する位置に所定のオブジェクトを表示させるオブジェクト表示ステップと、前記記憶ステップにおいて前記記憶部に記憶された前記対応データを参照し、複数の前記値情報相互間で前記項目情報が同種となる前記値情報である同種値情報が記憶されているかを判断する判断ステップと、前記判断ステップにおいて前記同種値情報が記憶されていると判断された場合に、前記同種値情報についての前記項目情報の種類に応じて、実行する処理を少なくとも第一処理と第二処理との何れか一方から選択する選択ステップと、前記選択ステップによって選択された処理を実行する実行ステップとを備えている。この場合、領収書における複数の位置から取得された同種の項目情報に対応する値が、項目情報の種類の処理に応じて処理されない場合に比べて、ユーザが所望する結果を得ることができる可能性が高くなる。よって、ユーザの利便性が向上する。
本発明の第3の態様に係る画像処理装置は、領収書が撮像された領収書画像の画像データから、OCR(Optical Character Recognition)によって、文字列の情報である文字列情報と、前記領収書画像における前記文字列の位置の情報である位置情報とを取得する情報取得手段と、前記情報取得手段によって取得された前記文字列情報に基づく前記文字列の中から、所定の項目情報に対応する前記文字列であるキーワードに対応する値の情報である値情報を取得し、取得した前記値情報と、前記情報取得手段において取得された前記位置情報のうち、取得した前記値情報に対応する前記位置情報と、前記項目情報とを対応付けた対応データを記憶部に記憶する記憶手段と、画像を表示可能な表示部に、前記画像データに基づく前記領収書画像を表示させ、前記領収書画像において、前記記憶手段において前記記憶部に記憶された前記位置情報に対応する位置に所定のオブジェクトを表示させるオブジェクト表示手段と、前記記憶手段において前記記憶部に記憶された前記対応データを参照し、複数の前記値情報相互間で前記項目情報が同種となる前記値情報である同種値情報が記憶されているかを判断する判断手段と、前記判断手段において前記同種値情報が記憶されていると判断された場合に、前記同種値情報についての前記項目情報の種類に応じて、実行する処理を少なくとも第一処理と第二処理との何れか一方から選択する選択手段と、前記選択手段によって選択された処理を実行する実行手段とを備えている。この場合、領収書における複数の位置から取得された同種の項目情報に対応する値が、項目情報の種類の処理に応じて処理されない場合に比べて、ユーザが所望する結果を得ることができる可能性が高くなる。よって、ユーザの利便性が向上する。
画像処理システム1の概要及びPC12の電気的構成を示す図である。 領収書31を示す図である。 管理画像51を示す図である。 キーワードデータテーブル91を示す図である。 領収書データテーブル92を示す図である。 対応データテーブル93を示す図である。 メイン処理のフローチャートである。 図7の続きのフローチャートである。 領収書データテーブル92の状態遷移図である。 図9の続きの状態遷移図である。 対応データテーブル93の状態遷移図である。 図11の続きの状態遷移図である。 マーカー951〜957が表示された管理画像51を示す図である。 変更処理のフローチャートである。 図12の続きの状態遷移図である。 強調オブジェクト97が移動した状態の管理画像51を示す図である。 文字列961〜967が表示された管理画像511を示す図である。 誤認識された文字列を含む管理画像511を示す図である。
本発明の実施形態について説明する。図1を参照し、画像処理システム1を説明する。画像処理システム1は、汎用のコンピュータであるPC12とスキャナ装置13とを備える。PC12とスキャナ装置13とは、通信インターフェース(通信I/F)125によって、有線接続されている。通信I/Fは、例えば、Universal Serial Bus(USB)などの所定の規格に従うものである。なお、PC12とスキャナ装置13とを接続する態様は限定されず、例えば、LAN(Local Area Network)、WAN(Wide Area Network)及び無線(Bluetooth(登録商標)、Wi−Fi等)等のネットワークによって接続されてもよい。
PC12の電気的構成を説明する。PC12は、CPU121、ディスプレイ128、ROM122、RAM123、HDD124、通信インタフェース(I/F)125、及びドライブ装置126を備える。CPU121は、PC12を制御する。ディスプレイ128は、CPU121の指示に基づき画像を表示可能である。CPU121は、ROM122、RAM123、HDD124、通信インタフェース(I/F)125、及びドライブ装置126と電気的に接続する。ROM122には、ブートプログラム、及びBIOS等が記憶される。RAM123には、一時的なデータが記憶される。
HDD124には、CPU121に後述するメイン処理(図7参照)及び変更処理(図14参照)を実行させるためのプログラム、及びOSが記憶される。HDD124は、非一時的な記憶媒体の一例である。非一時的な記憶媒体は、情報を記憶する期間に関わらず、情報を記憶可能な記憶媒体であればよい。非一時的な記憶媒体は、一時的な記憶媒体(例えば、伝送される信号)を含まなくてもよい。記憶部114は、他の非一時的な記憶媒体、例えば、フラッシュメモリ及び/又はROM等で構成されてもよい。
メイン処理(図7参照)及び変更処理(図14参照)は、家計簿の管理を行う家計簿管理ソフトウェアの処理の一部である。HDD124には、キーワードデータテーブル91(図4参照、後述)、領収書データテーブル92(図5参照、後述)、及び対応データテーブル93(図6参照、後述)が記憶される。通信I/F125は、PC12とスキャナ装置13等の外部機器とを接続するためのインタフェース素子である。CPU121は、通信I/F125を介して、スキャナ装置13等の外部機器とのデータの送受信を行う。ドライブ装置126は、記憶媒体127に記憶された情報を読み出すことができる。CPU121は、記憶媒体127に記憶されたプログラムをドライブ装置126によって読み出し、HDD124に記憶できる。スキャナ装置13は、PC12からの指示によって、領収書31等の画像を撮像する読取動作を行い、画像データを形成して、PC12に送信する。
なお、CPU121として、汎用的なプロセッサーが用いられてもよい。本実施形態におけるメイン処理(図7及び図8参照)及び変更処理(図14参照)は、CPU121によって実行される例に限定されず、他の電子部品(例えば、ASIC)によって実行されてもよい。また、メイン処理及び変更処理は、複数の電子機器(つまり、複数のCPU)によって分散処理されてもよい。メイン処理及び変更処理の夫々の一部又は全部は、図示しないネットワークに接続したサーバで実行されてもよい。メイン処理及び変更処理のプログラムは、例えば、ネットワークに接続した所定のサーバからダウンロードされて、HDD124に記憶されてもよい。
図2を参照して、領収書31について説明する。領収書31は、ユーザが店舗名「XXXX Store」であるお店で買い物をした場合に、店舗の店員から受け取るレシートである。領収書31には、店舗名「XXXX Store」、日付「10/28/2014」、Tax1「$3.48」、Tax2「$0.55」、Total「$49.25」、支払方法「BBB Card」等の情報が印刷されている。Tax1及びTax2は、夫々、品目によって税率の異なる税金である。Totalは、支払いの総額である。「BBB Card」は、クレジットカードの一種である。
図3を参照して、ディスプレイ128(図1参照)に表示される管理画像51について説明する。図3の管理画像51における上下方向(後述する情報一覧表示領域53と情報編集領域54とが並ぶ方向)の位置がY座標であり、左右方向の位置がX座標である。管理画像51は、例えば、家計簿の管理を行う家計簿管理ソフトウェアにおいて表示される画像の1つである。なお、図3に示す例では、図16に示すマーカー951〜957等の記載は省略している。
図3に示すように、管理画像51は、領収書画像表示領域52、情報一覧表示領域53、及び情報編集領域54を備えている。領収書画像表示領域52は、管理画像51の右部に表示される。領収書画像表示領域52は、領収書31の画像データD1に基づく領収書画像33が表示される領域である。情報一覧表示領域53は、管理画像51の左上部に表示される。情報一覧表示領域53は、後述する領収書データテーブル92(図5及び図10参照)に基づいて、領収書画像33に関する情報の一覧が表示される領域である。情報編集領域54は、管理画像51の左下部に表示される。情報編集領域54は、後述する領収書データテーブル92(図5及び図10参照)に基づいて、領収書画像33に関する情報が編集可能な状態で表示される領域である。
図4を参照して、キーワードデータテーブル91について説明する。キーワードデータテーブル91には、所定の項目情報、キーワード、及び項目情報の種類が対応付けられて記憶されている。項目情報は、種々の領収書に記載される可能性のある項目について情報である。図4に示す例では、項目情報として、「店舗」、「税」、「日付」、「支払方法」、及び「金額」等が登録されている。キーワードは、項目情報に対応する文字列である。項目情報の種類は、CPU121が行う処理に基づいて予め設定されている。図4に示す例では、項目情報の種類として、第一種類と第二種類とが記憶されている。第一種類は、後述するS28(図8参照)において合算処理が行われる種類であることを示す。第二種類は、S31(図8参照)において選択処理が行われる種類であることを示す。なお、項目情報の種類は、「1」「0」などの単純なフラグ情報であってもよい。S28とS31の詳細については後述する。
項目情報「店舗」には、キーワード「Store」、「Super」、及び「Road」と、項目情報の種類「第二種類」とが対応付けられている。項目情報「税」には、キーワード「Tax1」及び「Tax2」と、項目情報の種類「第一種類」とが対応付けられている。項目情報「日付」には、キーワード「**/**/****」と項目情報「第二種類」とが対応付けられている。「**/**/****」の「*」は、例えば、「10/28/2014」等の「月/日/年」を表す任意の数字に対応する。項目情報「支払方法」には、キーワード「BBB Card」及び「CCC Card」と、項目情報「第二種類」とが対応付けられている。「BBB Card」及び「CCC Card」は、互いに異なるカード会社のクレジットカードの名称である。項目情報「金額」には、キーワード「Total」が対応付けられており、項目情報の種類は対応付けられていない。
図5を参照して、領収書データテーブル92について説明する。領収書データテーブル92は、領収書に関する情報が記憶されるデータテーブルである。領収書データテーブル92には、R−ID、日付、店舗、支払方法、カテゴリー、金額、税、及び画像データが対応付けられて記憶されている。R−IDは、領収書データテーブル92に情報が記憶される場合に、領収書毎にCPU121によって付与されるIDである。R−ID「R0001」及び「R0003」に対応付けられた情報は、後述するメイン処理によって、領収書画像の画像データD1,D2に基づいて記憶された情報である。なお、画像データD1の代わりに、所定のフォルダに保存された画像データD1へのパス情報が関連付けられてもよい。R−ID「R0002」に対応付けられた情報は、後述するメイン処理とは異なり、ユーザが領収書を確認しながらPC12を操作して登録した情報である。このため、R−ID「R0002」には、画像データが対応付けられていない。メイン処理において、画像データに基づいて領収書データテーブル92に情報を記憶する過程は後述する。
図6を参照して、対応データテーブル93について説明する。対応データテーブル93には、RP−ID、R−ID、項目情報、値情報、位置情報、及び選択フラグが対応付けられて記憶されている。RP−IDは、対応データテーブル93に情報が記憶される場合に、CPU121によって付与されるIDである。R−IDは、領収書データテーブル92のR−IDに対応している。位置情報は、領収書画像における文字列の位置の情報である。位置情報は、開始座標と終了座標とを含む。領収書画像33(図3参照)において、開始座標は文字列の左上端の座標であり、終了座標は文字列の右下端の座標である。対応データテーブル93に情報を記憶する過程は後述する。
図7及び図8を参照し、本実施形態におけるメイン処理を説明する。メイン処理は、領収書が撮像された領収書画像の画像データに基づき、領収書に記載されている情報を管理画像51(図13参照)に表示する処理である。以下の説明では、領収書31(図2参照)をスキャナ装置13で読み取り、管理画像51(図13参照)を表示する場合を具体例として説明する。具体例では、領収書データテーブル92及び対応データテーブル93に情報が記憶されていない状態から、図5及び図6に示すR−ID「R0001」に対応付けられた情報を記憶し、管理画像51に表示する過程を示す。
図7に示すように、CPU121は、領収書が撮像された領収書画像の画像データが取得されたかを判断する(S11)。画像データが取得されていない場合(S11:NO)、CPU121は、S11の処理を繰り返す。具体例では、ユーザによって、スキャナ装置13に領収書31(図2参照)が配置され、領収書31を撮像する読取動作を行う指示がPC12に入力される。CPU121は、スキャナ装置13に読取動作を行う指示を送信する。スキャナ装置13は、領収書31を撮像し、領収書画像33(図3参照)の画像データD1を生成し、PC12に送信する。CPU121は、スキャナ装置13から送信される画像データD1を取得した場合(S11:YES)、取得した画像データD1から、OCR(Optical Character Recognition)によって、文字列の情報である文字列情報と、抽出された文字列情報に対応する位置情報とを取得する(S12)。OCRとしては、周知のエッジ検出技術などの特徴抽出ステップと、抽出した特徴を文字のテンプレートと比較するマッチングステップとを含む、周知のライブラリが利用可能である。
CPU121は、領収書データテーブル92において、1件分のデータ領域を作成し、領収書画像33の画像データD1を記憶する(S13)。図9(A)に示すように、CPU121は、R−ID「R0001」に対応したデータ領域を作成し、画像データD1を記憶する。
CPU121は、図13に示すように、管理画像51の領収書画像表示領域52に、画像データD1に基づく領収書画像33を表示させる(S14)。CPU121は、キーワードデータテーブル91(図4参照)における項目情報に対応するキーワードを1つ選択する(S15)。CPU121は、S15において項目情報「店舗」に対応するキーワード「Store」を選択したとする。なお、S15の処理は、繰り返し実行されるが(後述するS23:NO)、CPU121は、S15の処理を実行する度に、すでに選択したキーワードとは異なるキーワードを順番に選択していく。
CPU121は、S16〜S23の処理を実行し、S12において取得した文字列情報に基づく文字列の中から、S15において選択したキーワードに対応する値情報を取得し、値情報と項目情報と位置情報とを対応付けて対応データテーブル93に記憶する。以下、S16〜S23の処理について説明する。
CPU121は、S12において取得した文字列情報に基づく文字列に対して、S15において選択したキーワードに合致する文字列の検索を開始する(S16)。即ち、CPU121は、S12において取得した文字列情報に基づく文字列の中から、キーワードデータテーブル91に記憶された項目情報に対応するキーワードを特定する動作を開始する。以下、後述するS18において、文字列に全体を検索したと判断されるまで(S18:YES)、S15において選択したキーワードに合致する文字列が検索される。
CPU121は、キーワードに合致する文字列があったかを判断する(S17)。キーワードに合致する文字列がない場合(S17:NO)、S12において取得した文字列情報に基づく文字列の全てを検索したかを判断する(S18)。S12において取得した文字列情報に基づく文字列に、検索していない文字列がある場合(S18:NO)、CPU121は、処理をS17に戻す。
具体例の場合、CPU121がS12において取得した文字列情報に基づく文字列には、「XXXX Store」の「Store」が含まれている。このため、CPU121が検索する文字列が、「XXXX Store」の「Store」に到達した場合に、CPU121は、S15において選択したキーワードに合致する文字列があると判断する(S17:YES)。
CPU121は、キーワードに対応する値情報を取得する(S19)。なお、キーワードに対応する値情報は、個々のキーワードで異なる。例えば、キーワード「Store」、「Super」、及び「Road」に対応する値情報は、「Store」、「Super」、及び「Road」の夫々と一致又は含む店舗名の文字列情報である。また、キーワード「Tax1」と「Tax2」とに対応する値情報は、「Tax1」と「Tax2」との夫々の文字列と同じ行に記載された、金額を示す「$」を含む数値の文字列情報である。また、キーワード「**/**/****」は、例えば、「20/12/2014」のような日付の文字列情報である。キーワード「Total」に対応する値情報は、「Total」の文字列と同じ行に記載された、金額を示す所定の文字列(例えば、「$」「¥」など)を含む数値の文字列情報である。なお、「Tax1」「Tax2」「Total」など所定のキーワードを含む文字列と同じ行に記載されていれば、金額を示す所定の文字列が含まない数値の文字列情報であっても、値情報として用いられてもよい。
具体例では、S15において選択されたキーワード「Store」に対応する値「XXXX Store」の値情報が取得される(S19)。CPU121は、項目情報と、S20で取得した値情報と、位置情報とを対応付けて、対応データテーブル93に記憶する(S20)。詳細には、図11(A)に示すように、CPU121は、RP−ID「RP0001」に対応したデータ領域を作成する。CPU121は、対応データテーブル93における「R−ID」に、領収書データテーブル92(図9(A)参照)における画像データD1に対応付けられたR−ID「R0001」を記憶する。これによって、領収書データテーブル92においてR−ID「R0001」に対応付けられた情報と、対応データテーブル93において「R0001」に対応付けられた情報とが、相互に対応付けられる。
CPU121は、キーワードデータテーブル91(図4参照)において、S15で選択したキーワード「Store」に対応付けられた項目情報「店舗」を、対応データテーブル93の「項目情報」に記憶する(図11(A)参照)。CPU121は、S19において取得した値情報「XXXX Store」を、対応データテーブル93に記憶する。CPU121は、S12において取得した位置情報のうち、S19において取得した値情報に対応する位置情報を、対応データテーブル93の「位置情報」に記憶する。本実施形態では、開始座標が(68,8)、終了座標が(166,25)であるとする。CPU121は、選択フラグに「FALSE」を記憶する(図11(A)参照)。
CPU121は、S19において取得した値情報を、領収書データテーブル92における対応する欄に記憶する(S21)。具体例では、S19において取得した値情報「XXXX Store」は、キーワードデータテーブル91(図4)に示すように、項目情報「店舗」に対応する値情報である。このため、CPU121は、図9(B)に示すように、「店舗」の欄に、「XXXX Store」を記憶する。なお、図7では図示しないが、店舗の欄に値情報を記憶した場合、CPU121は、カテゴリーの欄に店舗についてのカテゴリーの値情報を記憶する。例えば、HDD124には、「XXXX Store」と、カテゴリーの値情報「Meals/Restaurant」とが対応付けられて予め記憶されている。CPU121は、「XXXX Sotore」に対応するカテゴリーの値情報「Meals/Restaurant」を特定し、領収書データテーブル92に記憶する(図9(B)参照)。
CPU121は、S21において対応データテーブル93記憶された位置情報に対応する領収書画像33における位置に、所定のオブジェクトを表示する(S22)。本実施形態では、S22で表示されるオブジェクトは、マーカーであるとする。S22の処理が実行されることによって、図16に示すように、領収書画像33の「XXXX Store」に重ねて、マーカー951が表示される。マーカー951は、青色であるとする。
CPU121は、処理をS17に戻す。図13に示すように、領収書画像33には、「XXXX Store」の他には、Storeの文字列はない。このため、CPU121は、S12において取得した文字列情報に基づく文字列の全てを検索し終わると、図7に示すように、文字列の全てを検索したと判断する(S18:YES)。CPU121は、キーワードデータテーブル91(図4参照)における全てのキーワードを検索したかを判断する(S23)。検索していないキーワードがある場合(S23:NO)、CPU121は処理をS15に戻し、次のキーワードを1つ選択する。具体例では、キーワード「Super」が選択され(S15)、検索が開始される(S16)。領収書画像33(図13参照)には、「Super」の文字列はないので、S19〜S22の処理が実行されることなく、処理はS15に戻る(S23:NO)。
S15において、項目情報「税」に対応するキーワード「Tax1」(図4参照)が選択されたとする。この場合、CPU121が検索する文字列が、「Tax1 9.250% $3.48」(図13参照)の「Tax1」に到達した場合に、S15において選択したキーワードに合致する文字列があると判断する(S17:YES)。CPU121は、「Tax1」の文字列と同じ行に記載された、金額を示す「$」を含む数値である「$3.48」(図13参照)を、値情報として取得する(S19)。図11(B)に示すように、CPU121は、項目情報「税」と、値情報「$3.48」と、開始座標「(175,304)」と、終了座標「(206,317)」とを対応付けて、対応データテーブル93に記憶する(S20)。図9(C)に示すように、CPU121は、「税」の欄に「$3.48」を記憶する(S21)。図13に示すように、CPU121は、「Tax1」の税額である「$3.48」に重ねて、黄色のマーカー952を表示する(S22)。CPU121は、キーワードデータテーブル91(図4参照)において検索していないキーワードがあると判断し(S23:NO)、処理をS15に戻す。
S15において、項目情報「税」に対応するキーワード「Tax2」(図4参照)が選択されたとする。この場合、CPU121が検索する文字列が、「Tax2 7.250% $0.55」(図13参照)の「Tax2」に到達した場合に、CPU121はS15において選択したキーワードに合致する文字列があると判断する(S17:YES)。図11(C)に示すように、CPU121は、項目情報「税」と、値情報「$0.55」と、開始座標「(175,304)」と、終了座標「(206,317)」とを対応付けて、対応データテーブル93に記憶する(S20)。図9(D)に示すように、CPU121は、「税」の欄に「$0.55」を記憶する(S21)。即ち、「$3.48」(図9(C)参照)に対して「$0.55」が上書きされる。図13に示すように、CPU121は、「Tax2」の税額である「$0.55」に重ねて、マーカー952と同じ色である黄色のマーカー953を表示する(S22)。
S15において、項目情報「日付」に対応するキーワード「**/**/****」(図4参照)が選択されたとする。図13に示すように、領収書画像33において、日付である「10/28/2014」は、領収書画像33の上部と下部との2か所に記載されている。CPU121が検索する文字列が、領収書画像33における上部の日付「10/28/2015」に到達した場合に、CPU121はS15において選択したキーワードに合致する文字列があると判断する(S17:YES)。図12(D)のRP−ID「RP0004」に示すように、CPU121は、項目情報「日付」と、値情報「10/28/2014」と、開始座標「(6,90)」と、終了座標「(119,103)」とを対応付けて、対応データテーブル93に記憶する(S20)。図9(E)に示すように、CPU121は、「日付」の欄に「10/28/2014」を記憶する(S21)。図13に示すように、CPU121は、「10/28/2014」に重ねて、緑色のマーカー954を表示する(S22)。
また、CPU121が検索する文字列が、領収書画像33における下部の日付「10/28/2015」に到達した場合に、CPU121はS15において選択したキーワードに合致する文字列があると判断する(S17:YES)。図12(D)のRP−ID「RP0005」に示すように、CPU121は、項目情報「日付」と、値情報「10/28/2014」と、開始座標「(101,518)」と、終了座標「(227,532)」とを対応付けて、対応データテーブル93に記憶する(S20)。図9(E)に示すように、CPU121は、「日付」の欄に「10/28/2014」を記憶する(S21)。すなわち、一旦「10/28/2014」が記憶された「日付」の欄に、「10/28/2014」を上書きする。CPU121は、領収書画像33の下部の「10/20/2014」に重ねて、緑色のマーカー955を表示する(S22)。すなわち、領収書画像33の上部と下部との「10/20/2014」に重ねて、同じ色のマーカー954,955が表示される。
S15において、項目情報「支払方法」に対応するキーワード「BBB Card」(図4参照)が選択されたとする。CPU121が検索する文字列が、領収書画像33における支払方法「BBB Card」に到達した場合に、CPU121はS15において選択したキーワードに合致する文字列があると判断する(S17:YES)。図12(D)のRP−ID「RP0006」に示すように、CPU121は、項目情報「支払方法」と、値情報「BBB Card」と、開始座標「(6,366)」と、終了座標「(33,378)」とを対応付けて、対応データテーブル93に記憶する(S20)。図9(E)に示すように、CPU121は、「支払方法」の欄に、「BBB Card」を記憶する(S21)。図13に示すように、CPU121は、領収書画像33の「BBB Card」に重ねて、紫色のマーカー956を表示する(S22)。
S15において、項目情報「金額」に対応するキーワード「Total」(図4参照)が選択されたとする。CPU121が検索する文字列が、領収書画像33における金額「Total」に到達した場合に、CPU121はS15において選択したキーワードに合致する文字列があると判断する(S17:YES)。図12(D)のRP−ID「RP0007」に示すように、CPU121は、項目情報「金額」と、値情報「$49.25」と、開始座標「(169,355)」と、終了座標「(206,348)」とを対応付けて、対応データテーブル93に記憶する(S20)。図10(F)に示すように、CPU121は、「金額」の欄に、「$49.25」を記憶する(S21)。図13に示すように、CPU121は、領収書画像33の「$49.25」に重ねて、赤色のマーカー957を表示する(S22)。
全てのキーワードを検索した場合(S23:YES)、図8に示すように、CPU121は、HDD124に記憶された対応データテーブル93(図12(D)参照)を参照し、複数の値情報相互間で項目情報が同種となる値情報である同種値情報が記憶されているかを判断する(S24)。同種値情報が記憶されていない場合(S24:NO)、CPU121は、後述するS36を実行する。
図12(D)に示す対応データテーブル93においては、同種の項目情報「税」についての値情報(即ち、同種値情報)は、「$3.48」と「$0.55」との2つ記憶されている。また、同種の項目情報「日付」についての値情報(即ち、同種値情報)は、RP0004に対応付けられた「10/28/2014」と、RP0005に対応付けられた「10/28/2014」との2つ記憶されている。このため、CPU121は、同種値情報が記憶されていると判断し(S24:YES)、S25〜S35の処理を実行する。CPU121は、後述するS27及びS30において、同種値情報についての項目情報の種類に応じて、実行する処理を少なくとも第一処理と第二処理とのいずれか一方から選択する。第一処理は、後述するS28において実行される処理である。第二処理は、後述するS31において実行される処理である。以下、S25〜S35の処理を詳細に説明する。
CPU121は、後述するS26において選択されていない同種の項目情報があるかを判断する(S25)。選択されていない同種の項目情報がある場合(S25:YES)、CPU121は、対応データテーブル93(図12(D)参照)において、複数取得された項目情報のうちの1組を選択する(S26)。具体例では、CPU121が項目情報「税」の1組を選択したとする。
CPU121は、キーワードデータテーブル91(図4参照)を参照し、S26で選択した項目情報が第一種類であるかを判断する(S27)。項目情報「税」は第一種類であるので、CPU121は第一種類であると判断し(S27:YES)、第一処理を実行する(S28)。すなわち、CPU121は、S27において、同種値情報についての項目情報の種類に応じて、実行する処理として第一処理を選択している。
CPU121は、第一処理を実行する(S28)。第一処理は、例えば、同種値情報に基づく複数の値を合算する処理である。CPU121は、S28における第一処理の結果を記憶する(S29)。具体例の場合、同種値情報に基づく値「$3.48」と「$0.55」とが合算され、「$4.03」が算出される(S28)。図10(G)に示すように、算出された「$4.03」が領収書データテーブル92の「税」の欄に記憶される(S29)。CPU121は、処理をS25に戻す。
具体例では、同種の項目情報「日付」がS26において選択されていないので、CPU121は、S26において選択されていない同種の項目情報があると判断する(S25:YES)。CPU121は、項目情報「日付」の1組を選択する(S26)。項目情報「日付」は第二種類(図4参照)であるので、CPU121は、第一種類でないと判断する(S27:YES)。CPU121は、キーワードデータテーブル91(図4参照)を参照し、S26で選択した項目情報は第二種類であるかを判断する(S30)。項目情報「日付」は第二種類であるので、第二種類であると判断し(S30:YES)、CPU121は、第二処理を実行する(S31)。すなわち、CPU121は、S30において、同種値情報についての項目情報の種類に応じて、実行する処理として第二処理を選択している。
CPU121は、第二処理を実行する(S31)。第二処理は、例えば、同種値情報に基づく複数の値のうちの1つを選択する処理である。本実施形態では、一例として、CPU121は、位置情報に基づいて、同種値情報に基づく複数の値のうちの1つを選択する。詳細には、CPU121は、画像データD1に基づいて、領収書画像33(図13参照)のY方向の長さを算出する。本実施形態では、領収書画像33の左上端が座標(X1,Y1)=(0,0)であるとし、左下端が座標(X2,Y2)=(0,500)であるとする。CPU121は、領収書画像33のY方向の中央の座標Mを算出する。この場合、Mは「(Y2−Y1)/2 = 250」である。CPU121は、同種値情報に基づく複数の値のうち、位置情報におけるY座標が、M「250」より小さい値を選択する。すなわち、CPU121は領収書画像33のY方向の中央より上側にある、同種値情報に基づく値を選択する。図12(D)に示すように、2つの項目情報「日付」の同種値情報「10/28/2014」のうち、Y座標が「250」より小さい同種値情報は、位置情報が、開始座標(6,90)と終了座標(119,103)の「10/28/2014」である。このため、CPU121は、該同種値情報に基づく値(開始座標(6,90)、終了座標(119,103)の「10/28/2014」)を選択する(S31)。
CPU121は、S31において選択した同種値情報に基づく値「10/28/2014」を、領収書データテーブル92(図10(G)参照)に記憶する(S32)。これによって、項目情報「日付」の欄が、同種値情報に基づく値「10/28/2014」で上書きされる。
CPU121は、対応データテーブル93において、S31において選択された同種値情報に基づく値に対応付けられた選択フラグを「TRUE」に設定する(S33)。すなわち、CPU121は、選択フラグを「TRUE」に設定することで、対応データテーブル93おける選択された値についての値情報に、選択されたことを示す情報を対応付けて記憶する。S33が実行されると、図12(E)に示すように、S31において選択された同種値情報に基づく値「10/28/2014」の選択フラグが「TRUE」に設定される。
CPU121は、同種値情報に基づく複数の値のうち、S31において選択した値に対して強調オブジェクト97を表示する(S34)。詳細には、CPU121は、対応データテーブル93を参照し、選択フラグが「TRUE」に設定されている値情報についての位置情報が示す領収書画像33の位置に、強調オブジェクト97(図13参照)を表示する。図13に示すように、本実施形態では、領収書画像33の開始座標(6,90)から終了座標(119.103)までの範囲に、強調オブジェクト97として四角形の外形を表す太線を表示する。これによって、領収書画像33の上部の日付「10/28/2014」のマーカー954の周囲に、強調オブジェクト97が表示された状態となる。CPU121は、処理をS25に戻す。
S30において、CPU121は、S26で選択した項目情報が第二種類でないと判断した場合(S30:NO)、項目情報の種類に応じて、第一処理及び第二処理とは異なる処理を実行する(S35)。S35において実行される処理は、例えば、同種値情報に基づく2つの値の一方から他方を減算する処理などである。図示しないが、CPU121は、S35の処理の結果を記憶する。CPU121は、処理をS25に戻す。
CPU121は、S26において全ての同種の項目情報を選択した場合、S26において選択していない同種の項目情報はないと判断する(S25:NO)。CPU121は、領収書データテーブル92(図10(G)参照)に基づき、管理画像51(図13参照)における情報一覧表示領域53と情報編集領域54とに情報を表示する(S36)。CPU121は、情報一覧表示領域53に、領収書データテーブル92に記憶されている「日付」、「店舗」、「支払方法」、「カテゴリ」、「金額」、及び「税」の情報を一覧にして表示する。詳細には、図13に示すように、CPU121は、領収書データテーブル92の「日付」、「店舗」、「支払方法」、「カテゴリ」、「金額」、及び「税」に対応する単語である「Date」、「Vender」、「Payment type」、「Category」、「Amount」、「Sales Tax」を表示する。CPU121は、「Date」、「Vender」、「Payment type」、「Category」、「Amount」、「Sales Tax」の下側に、領収書データテーブル92(図10(G)参照)に記憶されている情報を表示する。
また、CPU121は、情報編集領域54に、「Date」、「Vender」、「Payment type」、「Category」、「Amount」、「Sales Tax」を表示する。また、「Date」には、マーカー954,955と同じ緑色の背景が表示される。「Vender」には、マーカー951と同じ青色の背景が表示される。「Payment type」には、マーカー956と同じ紫色の背景が表示される。「Amount」には、マーカー957と同じ赤色の背景が表示される。「Sales Tax」には、マーカー952,953と同じ黄色の背景が表示される。上記のように、単語の色と、マーカーの色とが対応しているので、ユーザは、色を確認することで、情報編集領域54に表示された情報が、領収書画像33のいずれの文字列を元に表示されている情報であるのかを、容易に確認できる。
CPU121は、各単語の右側に、編集枠59を表示する。編集枠59の内側に、領収書データテーブル92(図10(G)参照)に記憶されている情報を表示する。図示しないが、CPU121は、ユーザによるPC12の操作に応じて、編集枠59の内側に記載された情報を、書き換えることができる。ユーザによって書き換えられた情報は、領収書データテーブル92(図10(G)参照)及び情報一覧表示領域53に反映される。例えば、ユーザが情報編集領域54の編集枠59における「10/28/2014」を「9/28/2014」に書き換えた場合、領収書データテーブル92(図10(G)参照)と情報一覧表示領域53との「10/28/2014」が、「9/28/2014」に変更される。このように、情報を書き換える動作が行われるので、例えば、日付「10/28/2014」が、「6/28/2014」と誤認識された場合でも、ユーザは、日付を「10/28/2014」に訂正することができる。また、領収書画像33と、情報編集領域54とが管理画像51に表示されているので、ユーザは、領収書画像33を確認しながら、情報編集領域54の編集枠59の情報を書き換えることができる。S36を実行した後、CPU121は、メイン処理を終了する。
図14を参照して、変更処理について説明する。変更処理は、第二処理(図8のS31)において選択された同種値情報に基づく複数の値に代えて、ユーザの操作に基づいて他の値を選択する処理である。変更処理が実行されるので、例えば、S31においてユーザが所望する値とは異なる値が選択された場合でも、ユーザが選択し直すことができる。
図14に示すように、CPU121は、マーカー951〜957のいずれかに対する選択入力が入力されたかが判断される(S51)。選択入力が入力されていない場合(S51:NO)、CPU121はS51を繰り返し、選択入力を受け付ける。選択入力が入力された場合(S51:YES)、CPU121は、第二種類の項目情報の同種値情報に基づく値に対応する位置に表示されたマーカーに対する選択入力であるかを判断する(S52)。第二種類の項目情報の同種値情報に基づく値に対応する位置に表示されたマーカーに対する選択入力でない場合(S52:NO)、CPU121は処理をS51に戻す。
例えば、ユーザがPC12のポインティングデバイス(図示外)等を操作して、領収書画像33におけるマーカー955(図13参照)を選択する選択入力を入力したとする。CPU121は、マーカー955に対する選択入力が入力されたと判断する(S51:YES)。選択されたマーカー955は、第二種類の項目情報「日付」の同種値情報に基づく値「10/28/2014」に対応する位置に表示されたマーカーである。このため、CPU121は、第二種類の項目情報の同種値情報に基づく値に対応する位置に表示されたマーカーに対する選択入力であると判断する(S52:YES)。
CPU121は、S51において選択入力が受け付けられたマーカーに対応する値情報に、選択フラグ「TRUE」に対応付けて、HDD124に記憶する(S53及びS54参照)。S53及びS54によって、選択フラグ「TRUE」を対応付ける値情報が変更される。詳細には、CPU121は、対応データテーブル93(図12(E)参照)における選択された第二種類の項目情報「日付」に対応する選択フラグを、全て「FALSE」に設定する(S53)。これによって、図15(F)に示すように、RP0004に対応付けられた選択フラグが「TRUE」(図12(E)参照)から「FALSE」に変更される。
CPU121は、対応データテーブル93において、S51において選択入力が受け付けられたマーカー955に対応する値情報の選択フラグを「TRUE」に設定する(S54)。これによって、図15(G)に示すように、RP0005に対応付けられた選択フラグが「FALSE」から「TRUE」に変更される。
CPU121は、強調オブジェクト97を更新する(S55)。詳細には、CPU121は、対応データテーブル93(図15(G)参照)を参照し、選択フラグが「TRUE」に設定されている値情報についての位置情報が示す領収書画像33の位置に、強調オブジェクト97を表示する。これによって、図16に示すように、領収書画像33の下部の日付「10/28/2014」のマーカー955の周囲に、強調オブジェクト97が表示された状態となる。一方、選択フラグが「TRUE」から「FALSE」に変更されたことによって、領収書画像33の上部の日付「10/28/2014」のマーカー954の周囲に表示されていた強調オブジェクト97(図13参照)が、消去される(図16参照)。このように、S55においては、S54における変更結果がディスプレイ128に表示される。
CPU121は、S51において選択入力が受け付けられたマーカーに対応する値情報に基づく値「10/28/2014」を、領収書データテーブル92(図10(G)参照)に記憶する(S56)。これによって、図10(G)に示す「10/28/2014」が、図10(H)に示す「10/28/2014」で上書きされる。
CPU121は、S36と同様に、領収書データテーブル92(図10(H)参照)に基づき、管理画像51(図13参照)における情報一覧表示領域53と情報編集領域54とに情報を表示する(S57)。すなわち、情報一覧表示領域53と情報編集領域54とを更新する。このため、仮に、S51において選択入力が受け付けられたマーカーに対応する値情報に基づく値が、「8/28/2014」であれば、S56において「10/28/2014」から「8/28/2014」に変更される。そして、S57において、情報一覧表示領域53と情報編集領域54との「Date」に対応する欄が「8/28/2014」に変更される。CPU121は、S57を実行後、処理をS51に戻す。
以上のように、本実施形態における処理が実行される。本実施形態では、領収書31が撮像された領収書画像33の画像データD1から、OCRによって、文字列情報と位置情報とが取得される(S12)。S12において取得された文字列情報に基づく文字列の中から、キーワードに対応する値情報が取得され、位置情報と項目情報と値情報とが対応付けられて対応データテーブル93に記憶される(S16、S19、及びS20)。領収書画像33において位置情報に対応する位置にマーカー951〜957(図13参照)が表示される(S22)。同種値情報が記憶されていると判断された場合(S24:YES)、同種値情報についての項目情報の種類に応じて、実行する処理が少なくとも第一処理と第二処理とのいずれか一方から選択される(S27及びS30)。そして、選択された処理が実行される(S28及びS31)。このように、領収書画像33(図13参照)におけるキーワードに対応する値情報の位置に、マーカー951〜957が表示される。このため、マーカー951〜957が表示されない場合に比べて、ユーザは、キーワードに対応する値として、CPU121によってどの値が特定されたのかを確認し易い。また、領収書31における複数の位置から取得された同種の項目情報の値が、項目情報の種類に応じて処理される(S28及びS31)。よって、領収書31における複数の位置から取得された同種の項目情報に対応する値が、項目情報の種類に応じて処理されない場合に比べて、ユーザが所望する結果を得ることができる可能性が高くなる。よって、ユーザの利便性が向上する。
また、同種値情報についての項目情報が第一種類の項目情報である場合に、同種値情報に基づく複数の値を合算する第一処理が選択される(S27:YES)。そして、同種値情報に基づく複数の値が合算される(S28)。このため、第一種類の項目情報についての複数の値が自動的に合算される。よって、合算されない場合に比べて、領収書31における複数の位置に第一種類の項目が記載されていた場合に、ユーザが所望する結果を得ることができる可能性が高くなる。また、ユーザが手作業で合算を行う必要がないので、ユーザの利便性が向上する。
また、同種値情報についての項目情報が第二種類の項目情報である場合に、同種値情報に基づく複数の値のうちの1つを選択する第二処理が選択される(S30:YES)。そして、同種値情報に基づく複数の値のうちの1つが選択され、対応データテーブル93における選択された値情報に、選択されたことを示す情報が対応付けられて記憶される(S33)。本実施形態では、S33において、選択フラグが「TRUE」に設定される。このように、第二種類の項目情報についての複数の値のうちの1つが自動的に選択される。このため、複数の値のうちの1つが選択されない場合に比べて、領収書31(図2参照)における複数の位置に第二種類の項目が記載された場合に、ユーザが所望する結果を得ることができる可能性が高くなる。また、ユーザが手作業で1つを選択する必要がないので、ユーザの利便性が向上する。
また、位置情報に基づいて、同種値情報に基づく複数の値のうちの1つが選択される(S31)。この場合、位置情報に基づいて、第二種類の項目情報について複数の値のうちの1つが自動的に選択される。このため、位置情報が参照されない場合に比べて、ユーザが所望する結果を得ることができる可能性が高くなる。
また、同種値情報に基づく複数の値のうち、S31において選択された値に対して強調オブジェクト97(図13参照)が表示される(S34)。一方、同種値情報に基づく複数の値のうち、S31において選択されていない値に強調オブジェクト97とは異なるオブジェクト(本実施形態では、強調オブジェクト97が表示されていないマーカー955)が表示される。このため、オブジェクトの表示が変わらない場合に比べて、領収書画像33における選択された値をユーザが確認し易くなり、ユーザの利便性が向上する。
また、CPU121は、マーカー955に対する選択入力が入力されたと判断し(S51:YES)、第二種類の項目情報の同種値情報に基づく値に対応する位置に表示されたマーカーに対する選択入力であると判断する(S52:YES)。選択フラグ「TRUE」を対応付ける値情報が、S51において選択入力が受け付けられたマーカーに対応する値情報に変更され、HDD124に記憶される(S53及びS54参照)。この場合、S31において選択された値を、ユーザが選択された値に変更することできる。よって、ユーザの利便性が向上する。
また、S28及びS31において実行された処理結果が、ディスプレイ128に表示される(S34及びS36)。このため、ユーザは、S28及びS31において実行された処理結果を容易に確認することができる。よって、ユーザの利便性が向上する。
また、S53及びS54が実行されることによって変更された変更結果が、ディスプレイ128に表示される(S55)。このため、ユーザは、S53及びS54による変更結果を容易に確認することができる。よって、ユーザの利便性が向上する。
また、画像データが取得され(S11:YES)、取得された画像データから、OCRによって文字列情報と位置情報とが取得される(S12)。よって、予め記憶されている画像データだけでなく、S11において新たに取得される画像データを使用して、OCRによって文字列情報と位置情報とを取得し、処理を行うことができる。よって、ユーザの利便性が向上する。
上記実施形態において、図7に示すS12の処理は本発明の「情報取得ステップ」の一例である。S16、S19、S20の処理は本発明の「記憶ステップ」の一例である。S16の処理は本発明の「キーワード特定ステップ」の一例である。S19の処理は本発明の「値情報取得ステップ」の一例である。S20の処理は本発明の「情報記憶ステップ」の一例である。S22及びS34(図8参照)の処理は本発明の「オブジェクト表示ステップ」の一例である。図8に示すS24の処理は本発明の「判断ステップ」の一例である。S27及びS30の処理は本発明の「選択ステップ」の一例である。S28、S29、S31、S32、S33の処理は本発明の「実行ステップ」の一例である。図14に示すS51の処理は本発明の「受付ステップ」の一例である。S52の処理は本発明の「選択判断ステップ」の一例である。S53及びS54の処理は本発明の「変更ステップ」の一例である。図8に示すS36の処理は本発明の「結果表示ステップ」の一例である。S55の処理は本発明の「変更表示ステップ」の一例である。HDD124は本発明の「記憶部」の一例である。
PC12は本発明の「画像処理装置」の一例である。図7に示すS12の処理を行うCPU121は本発明の「情報取得手段」の一例である。S16、S19、及びS20の処理を行うCPU121は本発明の「記憶手段」の一例である。S22及びS34(図8参照)の処理を行うCPU121は本発明の「オブジェクト表示手段」の一例である。図8に示すS24の処理を行うCPU121は本発明の「判断手段」の一例である。S27及びS30の処理を行うCPU121は本発明の「選択手段」の一例である。S28、S31、S32、S33の処理を行うCPU121は本発明の「実行手段」の一例である。
なお、本発明は上記の実施形態に限定されるものではなく、種々の変更が可能である。例えば、スキャナ装置13から画像データが取得されていたが(S11)、これに限定されない。例えば、CPU121は予め記憶されている画像データを用いて、S12以降の処理を実行してもよい。また、S53及びS54における変更結果がディスプレイ128に表示されていたが(S55)、表示されなくてもよい。
また、CPU121は、S31において選択した値を、ユーザが選択した値に変更できるが(S53〜S57)、変更できなくてもよい。また、強調オブジェクト97として四角形の外形を表す太線を表示されていたが、これに限定されない。例えば、強調オブジェクト97として、マーカーを点滅させたり、マーカーの色を濃くしたりしてもよい。また、強調オブジェクト97が表示されなくてもよい。
また、S31において、位置情報に基づいて同種値情報に基づく複数の値のうちの1つを選択する方法は限定されない。例えば、項目情報に応じて異なる方法で、位置情報を用いて選択してもよい。例えば、項目情報が「日付」である場合には、同種値情報に基づく複数の値のうち領収書画像33の最も上側にある値を選択し、項目情報が「支払方法」である場合には、同種値情報に基づく複数の値のうち、領収書画像33における上下方向中央部の所定範囲にある値を選択してもよい。また、項目情報「店舗」の値情報(即ち、店舗名)に応じて、選択する位置を変更してもよい。例えば、項目情報「店舗」の値情報が「XXXX Store」であれば、項目情報「日付」について、同種値情報に基づく複数の値のうち領収書画像33の最も上側にある値を選択し、項目情報「店舗」の値情報が「Super YYYY」であれば、項目情報「日付」について、同種値情報に基づく複数の値のうち領収書画像33の最も下側にある値を選択してもよい。また、S31において位置情報に基づいて、同種値情報に基づく値のうちの1つが選択されていたが、位置情報が参照されなくてもよい。例えば、CPU121は、同種値情報に基づく複数の値のうちの1つをランダムに選択してもよい。
また、S22等において表示されるオブジェクトは、マーカー951〜957に限定されない。例えば、星マークなど、所定のマークでもよい。また、例えば、図17に示す変形例に係る管理画像511のように、マーカー951〜957(図13参照)の代わりに、値情報がテキスト化された文字列961〜967が表示されてもよい。文字列961〜967は、領収書画像33におけるキーワードに対応する値情報の位置、より詳細には、キーワードに対応する値情報の値に隣接した位置に表示される。文字列961〜967の周囲は、四角形の枠で囲われている。強調オブジェクト97は、四角形の枠が、他の枠に比べて太い枠となる表示である。
本変形例において、CPU121は、ユーザの操作に基づき、文字列961〜967を、任意に書き換えることができる。CPU121は、書き換えた文字列961〜967を、領収書データテーブル92、情報一覧表示領域53、及び情報編集領域54の編集枠59に反映する。例えば、ユーザが、文字列961「XXXX Store」を「VVVV Store」に書き換えた場合、領収書データテーブル92(図10(G)参照)、情報一覧表示領域53、及び情報編集領域54の編集枠59の「XXXX Store」が「VVVV Store」に変更される。また、ユーザが項目情報「税」に対応する文字列962「$3.48」又は文字列963「$0.55」を書き換えた場合、S28と同様の合算する処理が行われ、領収書データテーブル92(図10(G)参照)、情報一覧表示領域53、及び情報編集領域54の編集枠59において、税の総額を示す「$4.03」が、新たに合算した値に変更される。このように、文字列961〜967を書き換えることができるので、例えば、S12においてOCRが実行された結果、店舗名「XXXX Store」が、図18の文字列961に示すように「XXXP Store」と誤認識された場合でも、ユーザは、図17に示す「XXXX Store」に訂正することができる。
また、文字列961〜967の夫々を、領収書画像33の任意に位置に移動できるようにしてもよい。例えば、図17に示すように、合計の金額を示す文字列967「$49.25」が、誤認識によって、「$11.64」が合計の金額であると認識された場合、図18に示す文字列967の位置に文字列967が表示される。この場合、図18に示すように、文字列967は「$11.64」と表示され、領収書データテーブル92は、「$11.64」が記憶され、情報一覧表示領域53と情報編集領域54とにおける「Amount」に対応する欄に「$11.64」が表示される。
この場合、CPU121は、例えば、ユーザによるポインティングデバイス等の操作に基づき、図18に示す文字列967を、図17に示す文字列967の位置、すなわち、「$49.25」に隣接する位置に移動させる。さらに、CPU121は、ユーザの操作に基づき、文字列967「$11.64」を「$49.25」に書き換える。なお、CPU121は、「$49.25」に隣接する位置に文字列967を移動した場合、位置情報に基づいて自動的に文字列967「$11.64」を「$49.25」に書き換えてもよい。
CPU121は、領収書データテーブル92(図10(G)参照)、情報一覧表示領域53、及び情報編集領域54において、「$11.64」を「$49.25」に変更する。これによって、領収書データテーブル92は、図17に示すように、「$49,25」が記憶され、情報一覧表示領域53と情報編集領域54とにおける「Amount」に対応する欄に「$49.25」が表示される。
また、本発明の画像処理装置は、PC12に限定されない。例えば、画像処理装置は、携帯端末及びサーバ等であってもよい。また、携帯端末は、携帯端末に内蔵されたカメラ等の撮像装置で領収書31を撮像して画像データを取得し(図7のS11:YES)、S12以降の処理を実行してもよい。また、サーバは、他の機器からネットワークを介して送信される画像データを受信することで取得し(S11:YES)、S12以降の処理を実行してもよい。
12 PC
13 スキャナ装置
31 領収書
33 領収書画像
92 領収書データテーブル
93 対応データテーブル
97 強調オブジェクト
121 CPU
124 HDD
128 ディスプレイ
951〜957 マーカー
961〜967 文字列

Claims (12)

  1. 領収書が撮像された領収書画像の画像データから、OCR(Optical Character Recognition)によって、文字列の情報である文字列情報と、前記領収書画像における前記文字列の位置の情報である位置情報とを取得する情報取得ステップと、
    前記情報取得ステップによって取得された前記文字列情報に基づく前記文字列の中から、所定の項目情報に対応する前記文字列であるキーワードに対応する値の情報である値情報を取得し、取得した前記値情報と、前記情報取得ステップにおいて取得された前記位置情報のうち、取得した前記値情報に対応する前記位置情報と、前記項目情報とを対応付けた対応データを記憶部に記憶する記憶ステップと、
    画像を表示可能な表示部に、前記画像データに基づく前記領収書画像を表示させ、前記領収書画像において、前記記憶ステップにおいて前記記憶部に記憶された前記位置情報に対応する位置に所定のオブジェクトを表示させるオブジェクト表示ステップと、
    前記記憶ステップにおいて前記記憶部に記憶された前記対応データを参照し、複数の前記値情報相互間で前記項目情報が同種となる前記値情報である同種値情報が記憶されているかを判断する判断ステップと、
    前記判断ステップにおいて前記同種値情報が記憶されていると判断された場合に、前記同種値情報についての前記項目情報の種類に応じて、実行する処理を少なくとも第一処理と第二処理との何れか一方から選択する選択ステップと、
    前記選択ステップによって選択された処理を実行する実行ステップと
    を画像処理装置のコンピュータに実行させるための画像処理プログラム。
  2. 前記選択ステップは、前記判断ステップにおいて前記同種値情報が記憶されていると判断された場合において、前記同種値情報についての前記項目情報が第一種類の前記項目情報である場合に、前記同種値情報に基づく複数の値を合算する前記第一処理を選択し、
    前記実行ステップは、前記選択ステップにおいて選択された前記第一処理を実行して、前記同種値情報に基づく複数の値を合算し、前記記憶部に記憶することを特徴とする請求項1に記載の画像処理プログラム。
  3. 前記選択ステップは、前記判断ステップにおいて前記同種値情報が記憶されていると判断された場合において、前記同種値情報についての前記項目情報が第二種類の前記項目情報である場合に、前記同種値情報に基づく複数の値のうちの1つを選択する前記第二処理を選択し、
    前記実行ステップは、前記選択ステップにおいて選択された前記第二処理を実行して前記同種値情報に基づく複数の値のうちの1つを選択し、前記対応データにおける選択された値についての前記値情報に、選択されたことを示す情報である選択情報を対応付けて、前記記憶部に記憶することを特徴とする請求項1に記載の画像処理プログラム。
  4. 前記実行ステップは、前記位置情報に基づいて、前記同種値情報に基づく複数の値のうちの1つを選択することを特徴とする請求項3に記載の画像処理プログラム。
  5. 前記オブジェクト表示ステップは、前記同種値情報に基づく複数の値のうち、前記実行ステップにおいて選択された値に対して第一オブジェクトを表示し、選択されていない値に対して前記第一オブジェクトと異なる第二オブジェクトを表示することを特徴とする請求項3又は4のいずれかに記載の画像処理プログラム。
  6. 前記表示部に表示された前記オブジェクトに対する選択入力を受け付ける受付ステップと、
    前記受付ステップによって受け付けられた前記選択入力が、前記第二種類の前記項目情報の前記同種値情報に基づく値に対応する位置に表示された前記オブジェクトに対する前記選択入力であるかを判断する選択判断ステップと、
    前記選択判断ステップによって前記第二種類の前記項目情報の前記同種値情報に基づく値に対応する位置に表示された前記オブジェクトに対する前記選択入力であると判断された場合に、前記受付ステップにおいて前記選択入力が受け付けられた前記オブジェクトに対応する前記値情報に、前記選択情報を対応付けて前記記憶部に記憶する変更ステップと
    を備えたことを特徴とする請求項3から5のいずれかに記載の画像処理プログラム。
  7. 前記実行ステップが実行した処理結果を前記表示部に表示させる結果表示ステップを備えたことを特徴とする請求項1から6のいずれかに記載の画像処理プログラム。
  8. 前記変更ステップが実行した変更結果を前記表示部に表示させる変更表示ステップを備えたことを特徴とする請求項6に記載の画像処理プログラム。
  9. 前記記憶ステップは、
    前記情報取得ステップによって取得された前記文字列情報に基づく前記文字列の中から、前記記憶部に記憶された前記項目情報に対応する前記キーワードを特定するキーワード特定ステップと、
    前記情報取得ステップによって取得された前記文字列情報に基づく前記文字列の中から、前記キーワード特定ステップによって特定された前記キーワードに対応する前記値情報を取得する値情報取得ステップと、
    前記項目情報と、前記値情報取得ステップにおいて取得された前記値情報と、前記情報取得ステップにおいて取得された前記位置情報のうち前記値情報に対応する前記位置情報とを対応付けて前記記憶部に記憶する情報記憶ステップと
    を備えたことを特徴とする請求項1から8のいずれかに記載の画像処理プログラム。
  10. 前記画像データを取得する画像データ取得ステップを備え、
    前記情報取得ステップは、前記画像データ取得ステップにおいて取得された前記画像データから、前記OCRによって、前記文字列情報と、前記位置情報とを取得することを特徴とする請求項1から9のいずれかに記載の画像処理プログラム。
  11. 領収書が撮像された領収書画像の画像データから、OCR(Optical Character Recognition)によって、文字列の情報である文字列情報と、前記領収書画像における前記文字列の位置の情報である位置情報とを取得する情報取得ステップと、
    前記情報取得ステップによって取得された前記文字列情報に基づく前記文字列の中から、所定の項目情報に対応する前記文字列であるキーワードに対応する値の情報である値情報を取得し、取得した前記値情報と、前記情報取得ステップにおいて取得された前記位置情報のうち、取得した前記値情報に対応する前記位置情報と、前記項目情報とを対応付けた対応データを記憶部に記憶する記憶ステップと、
    画像を表示可能な表示部に、前記画像データに基づく前記領収書画像を表示させ、前記領収書画像において、前記記憶ステップにおいて前記記憶部に記憶された前記位置情報に対応する位置に所定のオブジェクトを表示させるオブジェクト表示ステップと、
    前記記憶ステップにおいて前記記憶部に記憶された前記対応データを参照し、複数の前記値情報相互間で前記項目情報が同種となる前記値情報である同種値情報が記憶されているかを判断する判断ステップと、
    前記判断ステップにおいて前記同種値情報が記憶されていると判断された場合に、前記同種値情報についての前記項目情報の種類に応じて、実行する処理を少なくとも第一処理と第二処理との何れか一方から選択する選択ステップと、
    前記選択ステップによって選択された処理を実行する実行ステップと、
    を備えたことを特徴とする画像処理方法。
  12. 領収書が撮像された領収書画像の画像データから、OCR(Optical Character Recognition)によって、文字列の情報である文字列情報と、前記領収書画像における前記文字列の位置の情報である位置情報とを取得する情報取得手段と、
    前記情報取得手段によって取得された前記文字列情報に基づく前記文字列の中から、所定の項目情報に対応する前記文字列であるキーワードに対応する値の情報である値情報を取得し、取得した前記値情報と、前記情報取得手段において取得された前記位置情報のうち、取得した前記値情報に対応する前記位置情報と、前記項目情報とを対応付けた対応データを記憶部に記憶する記憶手段と、
    画像を表示可能な表示部に、前記画像データに基づく前記領収書画像を表示させ、前記領収書画像において、前記記憶手段において前記記憶部に記憶された前記位置情報に対応する位置に所定のオブジェクトを表示させるオブジェクト表示手段と、
    前記記憶手段において前記記憶部に記憶された前記対応データを参照し、複数の前記値情報相互間で前記項目情報が同種となる前記値情報である同種値情報が記憶されているかを判断する判断手段と、
    前記判断手段において前記同種値情報が記憶されていると判断された場合に、前記同種値情報についての前記項目情報の種類に応じて、実行する処理を少なくとも第一処理と第二処理との何れか一方から選択する選択手段と、
    前記選択手段によって選択された処理を実行する実行手段と、
    を備えたことを特徴とする画像処理装置。
JP2014263768A 2014-12-26 2014-12-26 画像処理プログラム、画像処理方法、及び画像処理装置 Active JP6098628B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014263768A JP6098628B2 (ja) 2014-12-26 2014-12-26 画像処理プログラム、画像処理方法、及び画像処理装置
US14/980,502 US10242410B2 (en) 2014-12-26 2015-12-28 Storage medium, image processing method and image processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014263768A JP6098628B2 (ja) 2014-12-26 2014-12-26 画像処理プログラム、画像処理方法、及び画像処理装置

Publications (2)

Publication Number Publication Date
JP2016126356A true JP2016126356A (ja) 2016-07-11
JP6098628B2 JP6098628B2 (ja) 2017-03-22

Family

ID=56164782

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014263768A Active JP6098628B2 (ja) 2014-12-26 2014-12-26 画像処理プログラム、画像処理方法、及び画像処理装置

Country Status (2)

Country Link
US (1) US10242410B2 (ja)
JP (1) JP6098628B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018081530A (ja) * 2016-11-17 2018-05-24 セイコーエプソン株式会社 財務帳票作成システム、財務帳票作成端末、及び財務帳票作成プログラム
JP2019124981A (ja) * 2018-01-11 2019-07-25 株式会社リコー 連携システム、情報処理装置、情報登録方法、プログラム
JP2019133379A (ja) * 2018-01-31 2019-08-08 セイコーエプソン株式会社 画像処理装置および画像処理プログラム
JP2019159875A (ja) * 2018-03-14 2019-09-19 セイコーエプソン株式会社 スキャン装置およびスキャン結果表示プログラム
JP2021099776A (ja) * 2019-12-19 2021-07-01 株式会社Ikedaホールディングス 配車管理サーバ
CN113448918A (zh) * 2021-08-31 2021-09-28 中国建筑第五工程局有限公司 一种企业科研成果管理方法及管理平台、设备、存储介质
JP2023028965A (ja) * 2021-08-20 2023-03-03 株式会社マネーフォワード 証憑構造分析システム、証憑構造分析方法及び証憑構造分析プログラム
JP7451968B2 (ja) 2019-11-29 2024-03-19 株式会社リコー 情報処理システム、プログラム及び情報処理方法
JP7453731B2 (ja) 2021-04-15 2024-03-21 ネイバー コーポレーション 半構造化ドキュメントから情報を取り出す方法及びシステム
JP7458816B2 (ja) 2020-02-18 2024-04-01 キヤノン株式会社 データ入力支援装置、データ入力支援方法、表示装置、及びプログラム

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9824270B1 (en) * 2015-01-30 2017-11-21 Intuit Inc. Self-learning receipt optical character recognition engine
US11335080B2 (en) * 2015-09-21 2022-05-17 International Business Machines Corporation System for suggesting search terms
US10229314B1 (en) * 2015-09-30 2019-03-12 Groupon, Inc. Optical receipt processing
CN106406682A (zh) * 2016-09-29 2017-02-15 广州鹤互联网科技有限公司 一种签核文件选择生成方法及装置
KR102650648B1 (ko) 2016-11-08 2024-03-25 한화비전 주식회사 판매 데이터 표시 장치 및 방법
JP7032692B2 (ja) * 2018-01-31 2022-03-09 セイコーエプソン株式会社 画像処理装置および画像処理プログラム
CN113076441A (zh) * 2020-01-06 2021-07-06 北京三星通信技术研究有限公司 关键词抽取方法、装置、电子设备及计算机可读存储介质
JP2022011034A (ja) * 2020-06-29 2022-01-17 キヤノン株式会社 データ入力支援装置、データ入力支援方法及びプログラム
JP2022070088A (ja) * 2020-10-26 2022-05-12 東芝テック株式会社 決済装置及びその制御プログラム、レシートデータ作成方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012003670A (ja) * 2010-06-21 2012-01-05 East Cloud Inc 領収書情報処理装置、方法、及びコンピュータプログラム
JP2012226402A (ja) * 2011-04-15 2012-11-15 Fujitsu Marketing Ltd レシートデータ認識装置およびそのプログラム
JP2013041388A (ja) * 2011-08-15 2013-02-28 Fujitsu Marketing Ltd レシート定義データ作成装置およびそのプログラム
JP2014041442A (ja) * 2012-08-22 2014-03-06 Fujitsu Marketing Ltd レシート定義データ作成装置およびプログラム
JP2014137605A (ja) * 2013-01-15 2014-07-28 Fujitsu Marketing Ltd レシート定義データ作成装置およびそのプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5875428A (en) * 1997-06-27 1999-02-23 Kurzweil Educational Systems, Inc. Reading system displaying scanned images with dual highlights
WO2004055725A2 (en) 2002-10-21 2004-07-01 Raphael Spero System and method for capture, storage and processing of receipts and related data
JP4052095B2 (ja) 2002-11-12 2008-02-27 セイコーエプソン株式会社 レシート処理装置およびその方法、並びにコンピュータプログラム
JP2004166062A (ja) 2002-11-14 2004-06-10 Hitachi Ltd 書類読取装置
US8306880B1 (en) * 2007-08-03 2012-11-06 Intuit Inc. System and method for determining foreign paid taxes

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012003670A (ja) * 2010-06-21 2012-01-05 East Cloud Inc 領収書情報処理装置、方法、及びコンピュータプログラム
JP2012226402A (ja) * 2011-04-15 2012-11-15 Fujitsu Marketing Ltd レシートデータ認識装置およびそのプログラム
JP2013041388A (ja) * 2011-08-15 2013-02-28 Fujitsu Marketing Ltd レシート定義データ作成装置およびそのプログラム
JP2014041442A (ja) * 2012-08-22 2014-03-06 Fujitsu Marketing Ltd レシート定義データ作成装置およびプログラム
JP2014137605A (ja) * 2013-01-15 2014-07-28 Fujitsu Marketing Ltd レシート定義データ作成装置およびそのプログラム

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018081530A (ja) * 2016-11-17 2018-05-24 セイコーエプソン株式会社 財務帳票作成システム、財務帳票作成端末、及び財務帳票作成プログラム
JP2019124981A (ja) * 2018-01-11 2019-07-25 株式会社リコー 連携システム、情報処理装置、情報登録方法、プログラム
JP7081179B2 (ja) 2018-01-31 2022-06-07 セイコーエプソン株式会社 画像処理装置および画像処理プログラム
JP2019133379A (ja) * 2018-01-31 2019-08-08 セイコーエプソン株式会社 画像処理装置および画像処理プログラム
JP2019159875A (ja) * 2018-03-14 2019-09-19 セイコーエプソン株式会社 スキャン装置およびスキャン結果表示プログラム
US11288500B2 (en) 2018-03-14 2022-03-29 Seiko Epson Corporation Scan apparatus and scan result display program
CN110276339A (zh) * 2018-03-14 2019-09-24 精工爱普生株式会社 扫描系统以及存储介质
JP7451968B2 (ja) 2019-11-29 2024-03-19 株式会社リコー 情報処理システム、プログラム及び情報処理方法
JP2021099776A (ja) * 2019-12-19 2021-07-01 株式会社Ikedaホールディングス 配車管理サーバ
JP7458816B2 (ja) 2020-02-18 2024-04-01 キヤノン株式会社 データ入力支援装置、データ入力支援方法、表示装置、及びプログラム
JP7453731B2 (ja) 2021-04-15 2024-03-21 ネイバー コーポレーション 半構造化ドキュメントから情報を取り出す方法及びシステム
JP2023028965A (ja) * 2021-08-20 2023-03-03 株式会社マネーフォワード 証憑構造分析システム、証憑構造分析方法及び証憑構造分析プログラム
CN113448918A (zh) * 2021-08-31 2021-09-28 中国建筑第五工程局有限公司 一种企业科研成果管理方法及管理平台、设备、存储介质
CN113448918B (zh) * 2021-08-31 2021-11-12 中国建筑第五工程局有限公司 一种企业科研成果管理方法及管理平台、设备、存储介质

Also Published As

Publication number Publication date
US10242410B2 (en) 2019-03-26
US20160189314A1 (en) 2016-06-30
JP6098628B2 (ja) 2017-03-22

Similar Documents

Publication Publication Date Title
JP6098628B2 (ja) 画像処理プログラム、画像処理方法、及び画像処理装置
CN108171610B (zh) 页面生成方法、页面生成设备、存储介质及装置
US9934254B2 (en) Terminal apparatus, information processing system, and information processing method
US8094976B2 (en) One-screen reconciliation of business document image data, optical character recognition extracted data, and enterprise resource planning data
JP6826293B2 (ja) 情報処理システムと、その処理方法及びプログラム
JP7104948B2 (ja) 在庫管理サーバ、在庫管理システム、在庫管理プログラムおよび在庫管理方法
US20180157682A1 (en) Image information processing system
US20150242964A1 (en) Non-transitory Computer-Readable Medium, Data Management System and Data Management Server
JP2019520662A (ja) 商標画像のコンテンツ・ベースの検索及び取得
CN111625580A (zh) 数据处理方法、装置及设备
JP2016009459A (ja) 情報提供システム、情報提供方法及びプログラム
JP6670051B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP2018092344A (ja) データ処理装置、データ処理方法及びデータ処理プログラム
JPWO2019181441A1 (ja) 情報処理装置、及び制御方法
US20190026795A1 (en) Evaluation device and evaluation method
KR20210094396A (ko) 이미지 기반 검색 어플리케이션 및 그를 위한 검색 서버
JP6069926B2 (ja) 検索システム、プログラムおよび検索方法
US20200265391A1 (en) Cryptocurrency payment support apparatus, cryptocurrency payment support system, cryptocurrency payment support method, and non-transitory recording medium
JP5981623B1 (ja) 商品サイズデータ管理方法
JP7160086B2 (ja) 情報処理装置、制御方法、及びプログラム
JP2016071892A (ja) 帳票システムと、その処理方法及びプログラム
JP6927361B2 (ja) 情報処理装置
JP6702044B2 (ja) 情報処理装置
JP2015090624A (ja) 帳票識別システム
JP2016126763A (ja) 情報処理システムと、その処理方法及びプログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170206

R150 Certificate of patent or registration of utility model

Ref document number: 6098628

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150