JPWO2017109998A1 - モバイル端末、画像処理方法、および、プログラム - Google Patents

モバイル端末、画像処理方法、および、プログラム Download PDF

Info

Publication number
JPWO2017109998A1
JPWO2017109998A1 JP2017557667A JP2017557667A JPWO2017109998A1 JP WO2017109998 A1 JPWO2017109998 A1 JP WO2017109998A1 JP 2017557667 A JP2017557667 A JP 2017557667A JP 2017557667 A JP2017557667 A JP 2017557667A JP WO2017109998 A1 JPWO2017109998 A1 JP WO2017109998A1
Authority
JP
Japan
Prior art keywords
document
image quality
resolution
frame
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017557667A
Other languages
English (en)
Other versions
JP6596512B2 (ja
Inventor
正義 林
正義 林
清人 小坂
清人 小坂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
PFU Ltd
Original Assignee
PFU Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by PFU Ltd filed Critical PFU Ltd
Publication of JPWO2017109998A1 publication Critical patent/JPWO2017109998A1/ja
Application granted granted Critical
Publication of JP6596512B2 publication Critical patent/JP6596512B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/414Extracting the geometrical structure, e.g. layout tree; Block segmentation, e.g. bounding boxes for graphics or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/12Detection or correction of errors, e.g. by rescanning the pattern
    • G06V30/133Evaluation of quality of the acquired characters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/142Image acquisition using hand-held instruments; Constructional details of the instruments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Character Input (AREA)
  • Studio Devices (AREA)

Abstract

撮影部の撮影によるフレームを取得し、フレームから原稿の原稿位置データを検出し、原稿の原稿種を判定し、原稿位置データと原稿種とに基づいて、原稿の原稿画像データの画質を算出し、画質が、文字認識可能なレベルか否かを判定し、画質が文字認識可能なレベルではないと判定された場合、撮影部の再度の撮影によるフレームを取得する。

Description

本発明は、モバイル端末、画像処理方法、および、プログラムに関する。
従来から、画像の撮影後に画像処理を適用し、その結果を画面上に表示してユーザへその後の操作を促す技術が開示されている。
ここで、高解像度補正を行う画像群から、傾きとズレ量とから画像判定を行い、歪みが少ない最適な画像を選択し、補正後の画像品質を上げる高解像度補正に関する技術が開示されている(特許文献1を参照)。
また、撮影後に、ぼやけ、原稿種別、および、傾きに関する画像判定を行う技術が開示されている(特許文献2を参照)。
また、指定の目標解像度と、予め入力された対象物を示すサイズデータとから、撮影画像の解像度の画質を判定して、合成画像を合成する技術が開示されている(特許文献3を参照)。
特開2010−273218号公報 特開2015−106742号公報 WO2013/099025A1号公報
しかしながら、従来の装置(特許文献1等)においては、文字認識の可否判定および自動撮影を行っていないだけでなく、画像処理の成否の判定がユーザに委ねられているため、失敗したと判断した場合、画像撮影からやり直さなければならず、操作性を著しく損なうという問題点を有していた。
本発明は、上記問題点に鑑みてなされたもので、画像処理が失敗した場合であっても、画像撮影からのやり直の手間を省くことができるモバイル端末、画像処理方法、および、プログラムを提供することを目的とする。
このような目的を達成するため、本発明に係るモバイル端末は、撮影部の撮影によるフレームを取得するフレーム取得手段と、前記フレームから原稿の原稿位置データを検出する原稿位置検出手段と、前記原稿の原稿種を判定する原稿種判定手段と、前記原稿位置データと前記原稿種とに基づいて、前記原稿の原稿画像データの画質を算出する画質算出手段と、前記画質が、文字認識可能なレベルか否かを判定する画質判定手段と、前記画質判定手段により前記画質が前記文字認識可能なレベルではないと判定された場合、前記撮影部の再度の撮影によるフレームを取得する再取得手段と、を備えたことを特徴とする。
また、本発明に係る画像処理方法は、撮影部の撮影によるフレームを取得するフレーム取得ステップと、前記フレームから原稿の原稿位置データを検出する原稿位置検出ステップと、前記原稿の原稿種を判定する原稿種判定ステップと、前記原稿位置データと前記原稿種とに基づいて、前記原稿の原稿画像データの画質を算出する画質算出ステップと、前記画質が、文字認識可能なレベルか否かを判定する画質判定ステップと、前記画質判定ステップにて前記画質が前記文字認識可能なレベルではないと判定された場合、前記撮影部の再度の撮影によるフレームを取得する再取得ステップと、を含むことを特徴とする。
また、本発明に係るプログラムは、撮影部の撮影によるフレームを取得するフレーム取得ステップと、前記フレームから原稿の原稿位置データを検出する原稿位置検出ステップと、前記原稿の原稿種を判定する原稿種判定ステップと、前記原稿位置データと前記原稿種とに基づいて、前記原稿の原稿画像データの画質を算出する画質算出ステップと、前記画質が、文字認識可能なレベルか否かを判定する画質判定ステップと、前記画質判定ステップにて前記画質が前記文字認識可能なレベルではないと判定された場合、前記撮影部の再度の撮影によるフレームを取得する再取得ステップと、をコンピュータに実行させることを特徴とする。
この発明によれば、期待する画像データが撮影できるまで自動的にリトライを繰り返すことでユーザの作業効率を改善できるとともに、使用者に依存することなく一定の画像品質で撮像することが可能となる。
図1は、本実施形態に係るモバイル端末の構成の一例を示すブロック図である。 図2は、本実施形態のモバイル端末における処理の一例を示すフローチャートである。 図3は、本実施形態のモバイル端末における処理の一例を示すフローチャートである。
以下に、本発明に係るモバイル端末、画像処理方法、および、プログラムの実施形態を図面に基づいて詳細に説明する。なお、この実施形態により本発明が限定されるものではない。
[本実施形態の構成]
以下、本発明の実施形態に係るモバイル端末100の構成の一例について図1を参照して説明し、その後、本実施形態の処理等について詳細に説明する。図1は、本実施形態に係るモバイル端末100の構成の一例を示すブロック図である。
但し、以下に示す実施形態は、本発明の技術思想を具体化するためのモバイル端末100を例示するものであって、本発明をこのモバイル端末100に特定することを意図するものではなく、請求の範囲に含まれるその他の実施形態のモバイル端末100にも等しく適用し得るものである。
また、本実施形態で例示するモバイル端末100における機能分散の形態は以下に限られず、同様の効果や機能を奏し得る範囲において、任意の単位で機能的または物理的に分散・統合して構成することができる。
ここで、モバイル端末100は、例えば、タブレット端末、携帯電話、スマートフォン、PHS、PDA、または、ノート型のパーソナルコンピュータ等の可搬性を有する携帯型の情報処理装置であってもよい。
まず、図1に示すように、モバイル端末100は、概略的に、制御部102と記憶部106と撮影部110と入出力部112とセンサ部114と通信部116とを備えて構成される。
ここで、図1では省略しているが、本実施形態において、更に、入出力部112と制御部102とを接続する入出力インターフェース部(図示せず)を備えていてもよい。これらモバイル端末100の各部は任意の通信路を介して通信可能に接続されている。
ここで、通信部116は、有線通信および/または無線通信(WiFi等)によりIPデータを送受信するためのネットワークインターフェース(NIC(Network Interface Controller)等)、Bluetooth(登録商標)、または、赤外線通信等によって無線通信を行うインターフェースであってもよい。
ここで、モバイル端末100は、通信部116を用いて、ネットワークを介して外部装置と通信可能に接続されていてもよい。
また、センサ部114は、物理量を検出して別媒体の信号(デジタル信号)に変換する。ここで、センサ部114は、近接センサ、方角センサ、磁場センサ、直線加速センサ、輝度センサ、ジャイロセンサ、圧力センサ、重力センサ、加速度センサ、気圧センサ、および/または、温度センサ等を含んでいてもよい。
また、入出力部112は、データの入出力(I/O)を行う。ここで、入出力部112は、例えば、キー入力部、タッチパネル、コントロールパッド(例えば、タッチパッド、および、ゲームパッド等)、マウス、キーボード、および/または、マイク等であってもよい。
また、入出力部112は、アプリケーション等の表示画面を表示する表示部(例えば、液晶または有機EL等から構成されるディスプレイ、モニタ、または、タッチパネル等)であってもよい。
また、入出力部112は、音声情報を音声として出力する音声出力部(例えば、スピーカ等)であってもよい。また、入出力部(タッチパネル)112は、物理的接触を検出し、信号(デジタル信号)に変換するセンサ部114を含んでいてもよい。
また、撮影部110は、被写体(例えば、原稿等)を連続画像撮影(動画撮影)することで、連続(動画)の画像データ(フレーム)を取得する。例えば、撮影部110は、映像データを取得してもよい。また、撮影部110は、アンシラリデータを取得してもよい。
ここで、撮影部110は、CCD(Charge Coupled Device)、および/または、CMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を備えたカメラ等であってもよい。
また、撮影部110は、被写体を静止画撮影することで、静止画の画像データを取得してもよい。ここで、フレームは、非圧縮の画像データであってもよい。また、フレームは、高解像度の画像データであってもよい。
ここで、高解像度とは、フルハイビジョン、4K解像度、または、スーパーハイビジョン(8K解像度)等であってもよい。また、撮影部110は、24fpsまたは30fps等で動画撮影してもよい。
記憶部106は、ストレージ手段であり、例えばRAM・ROM等のメモリ、ハードディスクのような固定ディスク装置、SSD(Solid State Drive)、および/または、光ディスク等を用いることができる。
また、記憶部106は、各種のデータベース、テーブル、バッファ、および/または、ファイル(画像データファイル106a等)を格納する。ここで、記憶部106には、CPU(Central Processing Unit)に命令を与え各種処理を行うためのコンピュータプログラム等が記録されていてもよい。
また、記憶部106は、原稿種に応じた、実用品位数(JIS B 7187:2007、ISO 3272−1:2003、または、ISO 6199:2005等)、および、原稿の辺の長さ等を含む規格データ、ならびに、OCR(Optical Character Recognition)エンジンの文字認識可能な文字サイズ等を記憶してもよい。
これら記憶部106の各構成要素のうち、画像データファイル106aは、画像データ(フレーム等)を記憶する。ここで、画像データファイル106aは、原稿位置データを記憶してもよい。また、画像データファイル106aは、原稿画像データを記憶してもよい。
また、画像データファイル106aは、原稿画像データの原稿解像度を記憶してもよい。また、画像データファイル106aは、画像データに対応する文字データを記憶してもよい。また、画像データファイル106aは、映像データを記憶してもよい。また、画像データファイル106aは、アンシラリデータを記憶してもよい。
また、制御部102は、モバイル端末100を統括的に制御するCPU等からなる。制御部102は、制御プログラムと各種の処理手順等を規定したプログラムと所要データとを格納するための内部メモリを有し、これらプログラムに基づいて種々の処理を実行するための情報処理を行う。
ここで、制御部102は、機能概念的に、フレーム取得部102a、原稿位置検出部102b、原稿種判定部102c、画質算出部102d、必須解像度算出部102e、画質判定部102f、再取得部102g、理由表示部102h、画像表示部102i、および、OCR部102jを備える。
フレーム取得部102aは、画像データ(フレーム)を取得する。ここで、フレーム取得部102aは、撮影部110の撮影による画像データを取得してもよい。また、フレーム取得部102aは、非圧縮且つ高解像度の画像データを取得してもよい。
また、フレーム取得部102aは、撮影部110による連続画像撮影または動画撮影を制御して、1コマに相当する画像データ(フレーム)を取得してもよい。また、フレーム取得部102aは、撮影部110による静止画撮影を制御して、画像データを取得してもよい。また、フレーム取得部102aは、アンシラリデータを取得してもよい。
原稿位置検出部102bは、フレームから原稿の原稿位置データを検出する。ここで、原稿位置検出部102bは、フレームから原稿のコーナー座標を検出してもよい。また、原稿位置検出部102bは、フレームから原稿のレイアウトを検出してもよい。
また、原稿位置検出部102bは、エッジ検出法、および/または、特徴点マッチング法を用いて、フレームから原稿の原稿位置データを検出してもよい。ここで、原稿は、矩形原稿であってもよい。また、原稿位置検出部102bは、更に、原稿位置データに基づいて、原稿の原稿画像データを取得してもよい。
原稿種判定部102cは、原稿の原稿種を判定する。ここで、原稿種判定部102cは、レイアウト認識法、および/または、サイズ検出法を用いて、原稿の原稿種を判定してもよい。
画質算出部102dは、原稿の原稿画像データの画質を算出する。ここで、画質算出部102dは、原稿位置データと原稿種とに基づいて、原稿の原稿画像データの画質を算出してもよい。また、画質算出部102dは、コーナー座標と原稿種とに基づいて、原稿画像データの原稿解像度を算出してもよい。
また、画質算出部102dは、コーナー座標間の画素数と、原稿種に基づく原稿の辺の長さと、に基づいて、原稿画像データの解像度を算出し、最小となる当該解像度を原稿解像度として取得してもよい。
ここで、画質算出部102dは、コーナー座標間の画素数を算出してもよい。また、画質算出部102dは、レイアウトと原稿種とに基づいて、原稿画像データの原稿解像度を算出してもよい。
必須解像度算出部102eは、文字認識に必要な必須解像度を算出する。ここで、必須解像度算出部102eは、実用品位数と原稿種とに基づいて、文字認識に必要な必須解像度を算出してもよい。また、必須解像度算出部102eは、OCRの文字認識が可能となる文字サイズと原稿種とに基づいて、必須解像度を算出してもよい。
画質判定部102fは、画質が、文字認識可能なレベルか否かを判定する。ここで、画質判定部102fは、原稿解像度が、文字認識可能なレベルか否かを判定してもよい。また、画質判定部102fは、原稿解像度と必須解像度との比較に基づいて、原稿解像度が文字認識可能なレベルか否かを判定してもよい。
再取得部102gは、撮影部110の再度の撮影による画像データを取得する。ここで、再取得部102gは、画質判定部102fにより画質が文字認識可能なレベルではないと判定された場合、撮影部110の再度の撮影によるフレームを取得してもよい。
また、再取得部102gは、撮影部110による撮影(連続画像撮影、動画撮影、または、静止画撮影等)を制御して、新たなフレームを取得してもよい。また、再取得部102gは、更に、取得したフレームを画像データファイル106aに格納してもよい。
理由表示部102hは、判定理由データを表示させる。ここで、理由表示部102hは、画質判定部102fにより画質が文字認識可能なレベルではないと判定された場合、判定理由データを表示させてもよい。また、理由表示部102hは、判定理由データを入出力部112に表示させてもよい。
画像表示部102iは、画像データを表示させる。ここで、画像表示部102iは、フレーム、および/または、原稿画像データを表示させてもよい。また、画像表示部102iは、画像データを入出力部112に表示させてもよい。
OCR部102jは、画像データに対してOCR処理を行い、文字データを取得する。ここで、OCR部102jは、原稿画像データ、または、フレームに対してOCR処理を行い、文字データを取得してもよい。また、OCR部102jは、更に、取得した文字データを画像データファイル106aに格納してもよい。
[本実施形態の処理]
上述した構成のモバイル端末100で実行される処理の一例について、図2を参照して説明する。図2および図3は、本実施形態のモバイル端末100における処理の一例を示すフローチャートである。
[自動撮影処理(その1)]
図2に示すように、まず、制御部102は、撮像部(カメラ)110を起動させる(ステップSA−1)。すなわち、本実施形態においては、原稿撮影用の携帯カメラ110を起動させてもよい。
そして、画像表示部102iは、カメラ110により撮影されたプレビュー画面(プレビュー画像)の画像データを入出力部112に表示させる(ステップSA−2)。
そして、制御部102は、入出力部112のキャリブレーションを行う(ステップSA−3)。ここで、制御部102は、更に、カメラ110のキャリブレーションを行ってもよい。
そして、フレーム取得部102aは、カメラ110により撮影されたプレビュー画像の、非圧縮且つ高解像度のフレームを取得する(ステップSA−4)。
そして、制御部102は、前回処理が完了しているか否かを判定する(ステップSA−5)。ここで、前回処理とは、フレーム取得部102aにより前回取得されたフレームに対する、ステップSA−6からステップSA−16におけるいずれか一つの処理であってもよい。
そして、制御部102は、前回処理が完了していないと判定した場合(ステップSA−5:No)、処理をステップSA−3に移行させる。
一方、制御部102は、前回処理が完了していると判定した場合(ステップSA−5:Yes)、処理をステップSA−6に移行させる。
そして、原稿位置検出部102bは、エッジ検出法、および/または、特徴点マッチング法を用いて、プレビュー画像のフレームから原稿(矩形原稿)のコーナー座標を検出する(ステップSA−6)。すなわち、本実施形態においては、矩形原稿のコーナー4点を検出してもよい。
そして、原稿位置検出部102bは、4点のコーナー座標を検出できたか否かを判定する(ステップSA−7)。
そして、原稿位置検出部102bは、4点のコーナー座標を検出できなかったと判定した場合(ステップSA−7:No)、処理をステップSA−3に移行させる。
一方、原稿位置検出部102bは、4点のコーナー座標を検出できたと判定した場合(ステップSA−7:Yes)、処理をステップSA−8に移行させる。
そして、原稿位置検出部102bは、検出した4点のコーナー座標に基づいて、プレビュー画像のフレームから矩形原稿(原稿領域)の原稿画像データを取得する(ステップSA−8)。
そして、画像表示部102iは、原稿領域の原稿画像データを入出力部112に表示させる(ステップSA−9)。
そして、原稿種判定部102cは、レイアウト認識法、および/または、サイズ検出法を用いて、矩形原稿の原稿種を判定する(ステップSA−10)。すなわち、本実施形態においては、原稿種を判別してもよい。
そして、画質算出部102dは、4つのコーナー座標間の画素数と、原稿種に基づく矩形原稿の辺の長さと、に基づいて、原稿画像データの解像度を算出し、最小となる当該解像度を原稿解像度として取得する(ステップSA−11)。
ここで、画質算出部102dは、4点座標と原稿種判定の結果とから、原稿画像データ(カメラ画像データ)の解像度を、「解像度(dpi)=画素数(dot)/長さ(inch)」の式により算出してもよい。
例えば、画質算出部102dは、原稿種判定部102cにより原稿が名刺と判定された際に、上辺:600dot、および、下辺:800dotと算出した場合、縦解像度を600dot/(55mm/25.4mm)=277dpiと算出する(すなわち、1inch=25.4mm)。
そして、画質算出部102dは、原稿位置検出部102bにより右辺:1200dot、および、左辺:1324dotと算出した場合、横解像度を1200dot/(91mm/25.4mm)=335dpiと算出する。
そして、画質算出部102dは、最小解像度となる縦解像度(277dpi)を原稿解像度として取得する。このように、本実施形態においては、2点座標と原稿種とから撮像した画像データの解像度を算出している。
なお、原稿種が、免許証または保険証の場合、短辺:54mmおよび長辺:86mm、名刺の場合、短辺:55mmおよび長辺:91mm、ならびに、A4用紙の場合、短辺:210mmおよび長辺:297mmの規格を用いて、原稿解像度を算出してもよい。
そして、必須解像度算出部102eは、実用品位数と原稿種とに基づいて、文字認識に必要な必須解像度を算出する(ステップSA−12)。すなわち、必須解像度算出部102eは、原稿の情報(ポイント数)から必須解像度を算出してもよい。
ここで、必須解像度算出部102eは、目視における品質の基準(例えば、JISB7187:2007、および、TNF−2005408ST等)に関する、実用品位数Pを用いる場合、必須解像度を、「DPI={P/(pt*0.3514)}*2*25.4」の式により算出してもよい。
ここで、目視における品質の基準は、すべての文字の微細部分まで明確に描画されている場合、「優秀」、多少不鮮明であっても、難なく読むことが可能な場合、「可読」、および、文字が部分的に多少つぶれていても判読可能な場合、「判読」と規定されている。
ここで、実用品位数Pは、「優秀」の場合、漢字が18、および、英字が8となり、「可読」の場合、漢字が11、および、英字が5となり、「判読」の場合、漢字が7、および、英字が3と規定されている。
なお、本実施形態においては、各原稿の情報に基づいて、免許証、保険証および名刺における文字のポイント数として6pt、ならびに、A4用紙における文字のポイント数として10.5ptを必須解像度の計算に用いる文字サイズとしてもよい。
例えば、必須解像度算出部102eは、原稿種が免許証の場合、文字のポイント数を6ptとし、必須解像度をDPI={11/(6*0.3514)}*2*25.4=265dpiと算出してもよい。このように、本実施形態においては、原稿種のサイズとポイント数とに応じた文字認識に必要な解像度を算出している。
そして、画質判定部102fは、原稿解像度と必須解像度との比較に基づいて、原稿解像度が文字認識可能なレベルか否かを判定する(ステップSA−13)。なお、本実施形態においては、段階的に文字認識可能か否かを判定してもよい。
そして、画質判定部102fは、原稿解像度が文字認識可能なレベルではないと判定した場合(ステップSA−13:No)、処理をステップSA−14に移行させる。
そして、理由表示部102hは、原稿解像度が文字認識可能なレベルではないと判定した理由の判定理由データを入出力部112に表示させ(ステップSA−14)、処理をSA−3に移行させる。
このように、本実施形態においては、画質条件を満たすまでリトライを繰り返してもよい。すなわち、本実施形態においては、所定の画像品質を満足するまで処理を繰り返してもよい。
一方、画質判定部102fは、原稿解像度が文字認識可能なレベルであると判定した場合(ステップSA−13:Yes)、処理をステップSA−15に移行させる。
そして、再取得部102gは、画質判定部102fによる画質判定に用いたフレームを取得する、または、カメラ110による撮影を制御して、高解像度且つ非圧縮の新たなフレームを取得し、画像データファイル106aに格納する(ステップSA−15)。
そして、画像表示部102iは、画質判定に用いたフレーム(画像データ)、再取得部102gにより取得された新たなフレーム(画像データ)、または、フレームに含まれる原稿領域の原稿画像データを入出力部112に出力(表示)させ(ステップSA−16)、処理を終了する。
なお、OCR部102jは、更に、入出力部112に表示された原稿画像データ、または、フレームに対してOCR処理を行い、文字データを取得し、当該文字データを画像データファイル106aに格納してもよい。
このように、本実施形態においては、カメラ110のエリアセンサに撮像された高解像度且つ非圧縮のフレーム(画像データ)において、矩形原稿のコーナー4点座標を検出し、原稿種を判定する。
そして、本実施形態においては、この判定結果からカメラ画像データの解像度を算出し、当該カメラ画像データの解像度と予め定めている必須解像度と比較し、文字認識可能な画像か否かを判定する。
そして、本実施形態においては、この判定処理を所定の画像品質を満たすまで繰り返すことで、所定の画像品質を満たす画像データを得ることができる。
また、本実施形態においては、例えば、窓口業務における個人認証手続において、顧客から借用する身分証明証をモバイル端末(携帯型撮像装置)100でその場で撮影することで、顧客へ安心感を与えることができる。
ここで、目視確認(可読)に必要な解像度(必須解像度)は、対象原稿を免許証(54mm*86mm、6ポイント)とすると、265dpi(画像サイズ:564dot*898dot)としてもよい。
そして、本実施形態においては、この必須解像度とカメラ画像データの解像度とを比較することで、文字認識を行うに最適な画像を撮影することができる。
また、本実施形態においては、更に、撮像対象が決まっている場合に、原稿種判定の段階でリトライ処理を行うことで応答性を向上している。
また、本実施形態においては、自動撮影されない要因を、文章データまたは描画データとして入出力部112に表示させることで、リアルタイムにユーザに通知し、改善をユーザに促すことで使用感を向上することができる。
[自動撮影処理(その2)]
まず、図3に示すステップSB−1からステップSB−5の処理は、図2に示すステップSA−1からステップSA−5の処理と同様であるため説明を省略する。
そして、原稿位置検出部102bは、エッジ検出法、および/または、特徴点マッチング法を用いて、プレビュー画像のフレームから原稿(矩形原稿)のレイアウトを検出する(ステップSB−6)。
そして、原稿位置検出部102bは、レイアウトを検出できたか否かを判定する(ステップSB−7)。
そして、原稿位置検出部102bは、レイアウトを検出できなかったと判定した場合(ステップSB−7:No)、処理をステップSB−3に移行させる。
一方、原稿位置検出部102bは、レイアウトを検出できたと判定した場合(ステップSB−7:Yes)、処理をステップSB−8に移行させる。
そして、原稿位置検出部102bは、検出したレイアウトに基づいて、プレビュー画像のフレームから矩形原稿(原稿領域)の原稿画像データを取得する(ステップSB−8)。
そして、画像表示部102iは、原稿領域の原稿画像データを入出力部112に表示させる(ステップSB−9)。
そして、原稿種判定部102cは、レイアウト認識法、および/または、サイズ検出法を用いて、矩形原稿の原稿種を判定する(ステップSB−10)。
そして、画質算出部102dは、矩形原稿のレイアウトと原稿種とに基づいて、原稿画像データの原稿解像度を算出する(ステップSB−11)。
そして、必須解像度算出部102eは、OCRの文字認識が可能となる文字サイズと原稿種とに基づいて、文字認識に必要な必須解像度を算出する(ステップSB−12)。
ここで、必須解像度算出部102eは、OCRエンジン(OCR部102j)の文字認識可能な文字サイズFを用いる場合、必須解像度を、「DPI={F/(pt*0.3514)}*25.4」の式により算出してもよい。
例えば、必須解像度算出部102eは、原稿種が免許証の場合、文字のポイント数を6pt、および、OCRエンジンの文字認識可能な文字サイズを24とし、必須解像度をDPI={24/(6*0.3514)}*25.4=322dpiと算出してもよい。
そして、図3に示すステップSB−13からステップSB−16の処理は、図2に示すステップSA−13からステップSA−16の処理と同様であるため説明を省略する。
このように、本実施形態においては、通常業務において、リマインダー代わりに画像を撮影し、OCR認識を使うことで資料作成の効率化を図ることができる。
ここで、OCR認識(文字認識可能な文字サイズ:36*36)に必要な解像度(必須解像度)は、対象原稿をA4ドキュメント(210mm*297mm、10.5ポイント)とすると、248dpi(画像サイズ:2050dot*2900dot)となる。
そして、本実施形態においては、この必須解像度とカメラ画像データの解像度とを比較することで、文字認識を行うに最適な画像を撮影することができる。
近年、モバイル端末(スマートフォンまたはタブレット等)100の普及に伴い、従来はスキャナが利用されてきた業務において、カメラを備えたモバイル端末100の利用に利用形態が変化している。
これは、モバイル端末100に搭載されたカメラによるスキャニングは、場所を問わないこと、および、撮像媒体の制限が無いことにより、自由度が高いという利点があるからである。
一方、モバイル端末100により撮影されたカメラ画像は、周辺の光量、撮影方向、および/または、撮影時の運動等の環境が安定しないことが多いため、スキャナと同等の画質の画像データを得ることが難しいという問題があった。
そこで、本実施形態においてモバイル端末100に実装されるモバイルスキャナアプリでは、良質な画像をセンシングして取得できるようにしている。
[他の実施形態]
さて、これまで本発明の実施形態について説明したが、本発明は、上述した実施形態以外にも、請求の範囲に記載した技術的思想の範囲内において種々の異なる実施形態にて実施されてよいものである。
例えば、モバイル端末100は、スタンドアローンの形態で処理を行ってもよく、クライアント端末(モバイル端末100とは別筐体である)からの要求に応じて処理を行い、その処理結果を当該クライアント端末に返却するようにしてもよい。
また、実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。
このほか、明細書中および図面中で示した処理手順、制御手順、具体的名称、各処理の登録データもしくは検索条件等のパラメータを含む情報、画面例、または、データベース構成については、特記する場合を除いて任意に変更することができる。
また、モバイル端末100に関して、図示の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。
例えば、モバイル端末100の各装置が備える処理機能、特に制御部102にて行われる各処理機能については、その全部または任意の一部を、CPUおよび当該CPUにて解釈実行されるプログラムにて実現してもよく、また、ワイヤードロジックによるハードウェアとして実現してもよい。
尚、プログラムは、後述する、コンピュータに本発明に係る方法を実行させるためのプログラム化された命令を含む、一時的でないコンピュータ読み取り可能な記録媒体に記録されており、必要に応じてモバイル端末100に機械的に読み取られる。すなわち、ROMまたはHDDなどの記憶部106などには、OS(Operating System)と協働してCPUに命令を与え、各種処理を行うためのコンピュータプログラムが記録されている。このコンピュータプログラムは、RAMにロードされることによって実行され、CPUと協働して制御部を構成する。
また、このコンピュータプログラムは、モバイル端末100に対して任意のネットワークを介して接続されたアプリケーションプログラムサーバに記憶されていてもよく、必要に応じてその全部または一部をダウンロードすることも可能である。
また、本発明に係るプログラムを、コンピュータ読み取り可能な記録媒体に格納してもよく、また、プログラム製品として構成することもできる。ここで、この「記録媒体」とは、メモリーカード、USBメモリ、SDカード、フレキシブルディスク、光磁気ディスク、ROM、EPROM、EEPROM、CD−ROM、MO、DVD、および、Blu−ray(登録商標) Disc等の任意の「可搬用の物理媒体」を含むものとする。
また、「プログラム」とは、任意の言語や記述方法にて記述されたデータ処理方法であり、ソースコードやバイナリコード等の形式を問わない。なお、「プログラム」は必ずしも単一的に構成されるものに限られず、複数のモジュールやライブラリとして分散構成されるものや、OSに代表される別個のプログラムと協働してその機能を達成するものをも含む。なお、実施形態に示した各装置において記録媒体を読み取るための具体的な構成、読み取り手順、あるいは、読み取り後のインストール手順等については、周知の構成や手順を用いることができる。
記憶部106に格納される各種のデータベース等は、RAMもしくはROM等のメモリ装置、ハードディスク等の固定ディスク装置、フレキシブルディスク、および/または、光ディスク等のストレージ手段であり、各種処理やウェブサイト提供に用いる各種のプログラム、テーブル、データベース、および/または、ウェブページ用ファイル等を格納してもよい。
また、モバイル端末100は、既知のパーソナルコンピュータ等の情報処理装置として構成してもよく、また、該情報処理装置に任意の周辺装置を接続して構成してもよい。また、モバイル端末100は、該情報処理装置に本発明の方法を実現させるソフトウェア(プログラム、データ等を含む)を実装することにより実現してもよい。
更に、装置の分散・統合の具体的形態は図示するものに限られず、その全部または一部を、各種の付加等に応じて、または、機能負荷に応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。すなわち、上述した実施形態を任意に組み合わせて実施してもよく、実施形態を選択的に実施してもよい。
以上のように、モバイル端末、画像処理方法、および、プログラムは、産業上の多くの分野、特にカメラで読み込んだ画像を扱う画像処理分野で実施することができ、極めて有用である。
100 モバイル端末
102 制御部
102a フレーム取得部
102b 原稿位置検出部
102c 原稿種判定部
102d 画質算出部
102e 必須解像度算出部
102f 画質判定部
102g 再取得部
102h 理由表示部
102i 画像表示部
102j OCR部
106 記憶部
106a 画像データファイル
110 撮影部
112 入出力部
114 センサ部
116 通信部

Claims (14)

  1. 撮影部の撮影によるフレームを取得するフレーム取得手段と、
    前記フレームから原稿の原稿位置データを検出する原稿位置検出手段と、
    前記原稿の原稿種を判定する原稿種判定手段と、
    前記原稿位置データと前記原稿種とに基づいて、前記原稿の原稿画像データの画質を算出する画質算出手段と、
    前記画質が、文字認識可能なレベルか否かを判定する画質判定手段と、
    前記画質判定手段により前記画質が前記文字認識可能なレベルではないと判定された場合、前記撮影部の再度の撮影によるフレームを取得する再取得手段と、
    を備えたことを特徴とする、モバイル端末。
  2. 前記原稿位置検出手段は、
    前記フレームから前記原稿のコーナー座標を検出し、
    前記画質算出手段は、
    前記コーナー座標と前記原稿種とに基づいて、前記原稿画像データの原稿解像度を算出し、
    前記画質判定手段は、
    前記原稿解像度が、前記文字認識可能なレベルか否かを判定する、請求項1に記載のモバイル端末。
  3. 前記画質算出手段は、
    前記コーナー座標間の画素数と、前記原稿種に基づく前記原稿の辺の長さと、に基づいて、前記原稿画像データの解像度を算出し、最小となる当該解像度を前記原稿解像度として取得する、請求項2に記載のモバイル端末。
  4. 前記原稿位置検出手段は、
    前記フレームから前記原稿のレイアウトを検出し、
    前記画質算出手段は、
    前記レイアウトと前記原稿種とに基づいて、前記原稿画像データの原稿解像度を算出し、
    前記画質判定手段は、
    前記原稿解像度が、前記文字認識可能なレベルか否かを判定する、請求項1に記載のモバイル端末。
  5. 実用品位数と前記原稿種とに基づいて、文字認識に必要な必須解像度を算出する必須解像度算出手段、
    を更に備え、
    前記画質判定手段は、
    前記原稿解像度と前記必須解像度との比較に基づいて、前記原稿解像度が前記文字認識可能なレベルか否かを判定する、請求項2から4のいずれか一つに記載のモバイル端末。
  6. OCRの文字認識が可能となる文字サイズと前記原稿種とに基づいて、必須解像度を算出する必須解像度算出手段、
    を更に備え、
    前記画質判定手段は、
    前記原稿解像度と前記必須解像度との比較に基づいて、前記原稿解像度が前記文字認識可能なレベルか否かを判定する、請求項2から4のいずれか一つに記載のモバイル端末。
  7. 前記画質判定手段により前記画質が前記文字認識可能なレベルではないと判定された場合、判定理由データを表示させる理由表示手段、
    を更に備えた、請求項1から6のいずれか一つに記載のモバイル端末。
  8. 前記原稿画像データに対してOCR処理を行い、文字データを取得するOCR手段、
    を更に備えた、請求項1から7のいずれか一つに記載のモバイル端末。
  9. 前記フレーム、および/または、前記原稿画像データを表示させる画像表示手段、
    を更に備えた、請求項1から8のいずれか一つに記載のモバイル端末。
  10. 前記フレームは、
    非圧縮の画像データである、請求項1から9のいずれか一つに記載のモバイル端末。
  11. 前記原稿位置検出手段は、
    エッジ検出法、および/または、特徴点マッチング法を用いて、前記フレームから前記原稿の前記原稿位置データを検出する、請求項1から10のいずれか一つに記載のモバイル端末。
  12. 前記原稿種判定手段は、
    レイアウト認識法、および/または、サイズ検出法を用いて、前記原稿の前記原稿種を判定する、請求項1から11のいずれか一つに記載のモバイル端末。
  13. 撮影部の撮影によるフレームを取得するフレーム取得ステップと、
    前記フレームから原稿の原稿位置データを検出する原稿位置検出ステップと、
    前記原稿の原稿種を判定する原稿種判定ステップと、
    前記原稿位置データと前記原稿種とに基づいて、前記原稿の原稿画像データの画質を算出する画質算出ステップと、
    前記画質が、文字認識可能なレベルか否かを判定する画質判定ステップと、
    前記画質判定ステップにて前記画質が前記文字認識可能なレベルではないと判定された場合、前記撮影部の再度の撮影によるフレームを取得する再取得ステップと、
    を含むことを特徴とする、画像処理方法。
  14. 撮影部の撮影によるフレームを取得するフレーム取得ステップと、
    前記フレームから原稿の原稿位置データを検出する原稿位置検出ステップと、
    前記原稿の原稿種を判定する原稿種判定ステップと、
    前記原稿位置データと前記原稿種とに基づいて、前記原稿の原稿画像データの画質を算出する画質算出ステップと、
    前記画質が、文字認識可能なレベルか否かを判定する画質判定ステップと、
    前記画質判定ステップにて前記画質が前記文字認識可能なレベルではないと判定された場合、前記撮影部の再度の撮影によるフレームを取得する再取得ステップと、
    をコンピュータに実行させるためのプログラム。
JP2017557667A 2015-12-25 2015-12-25 モバイル端末、画像処理方法、および、プログラム Active JP6596512B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/086428 WO2017109998A1 (ja) 2015-12-25 2015-12-25 モバイル端末、画像処理方法、および、プログラム

Publications (2)

Publication Number Publication Date
JPWO2017109998A1 true JPWO2017109998A1 (ja) 2018-05-24
JP6596512B2 JP6596512B2 (ja) 2019-10-23

Family

ID=59089830

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017557667A Active JP6596512B2 (ja) 2015-12-25 2015-12-25 モバイル端末、画像処理方法、および、プログラム

Country Status (3)

Country Link
US (1) US10628713B2 (ja)
JP (1) JP6596512B2 (ja)
WO (1) WO2017109998A1 (ja)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6249584A (ja) * 1985-08-29 1987-03-04 Toshiba Corp 文字認識装置
JPH01276384A (ja) * 1988-04-28 1989-11-06 Toshiba Corp 文字読取装置
JP2000067155A (ja) * 1998-06-12 2000-03-03 Canon Inc 画像処理装置及びその方法、コンピュ―タ可読メモリ
JP2005202834A (ja) * 2004-01-19 2005-07-28 Toshiba Corp 文字認識システム、文字認識方法及び文字認識プログラム
JP2007233913A (ja) * 2006-03-03 2007-09-13 Fuji Xerox Co Ltd 画像処理装置及びプログラム
WO2011129113A1 (ja) * 2010-04-15 2011-10-20 パナソニック株式会社 帳票処理装置及び帳票処理方法及び記録媒体
JP2015102915A (ja) * 2013-11-21 2015-06-04 キヤノン株式会社 情報処理装置、制御方法およびコンピュータプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7016531B1 (en) * 1999-02-01 2006-03-21 Thomson Licensing Process to extract regions of homogeneous color in a digital picture
AU2001253563A1 (en) * 2000-04-18 2001-10-30 Rtimage Inc. System and method for the lossless progressive streaming of images over a communication network
US7958067B2 (en) * 2006-07-12 2011-06-07 Kofax, Inc. Data classification methods using machine learning techniques
US8326069B2 (en) * 2008-06-30 2012-12-04 Intel Corporation Computing higher resolution images from multiple lower resolution images
JP2010273218A (ja) 2009-05-22 2010-12-02 Sharp Corp 画像出力装置、撮像画像処理システム、画像出力方法、プログラムおよび記録媒体
US9047531B2 (en) * 2010-05-21 2015-06-02 Hand Held Products, Inc. Interactive user interface for capturing a document in an image signal
WO2013099025A1 (ja) 2011-12-28 2013-07-04 SHIROTO Hisanori 情報処理装置、情報処理方法並びに情報処理用プログラム及び情報記録媒体
US8855375B2 (en) * 2012-01-12 2014-10-07 Kofax, Inc. Systems and methods for mobile image capture and processing
JP5886265B2 (ja) 2013-11-28 2016-03-16 シャープ株式会社 携帯端末装置、プログラム、及び記録媒体

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6249584A (ja) * 1985-08-29 1987-03-04 Toshiba Corp 文字認識装置
JPH01276384A (ja) * 1988-04-28 1989-11-06 Toshiba Corp 文字読取装置
JP2000067155A (ja) * 1998-06-12 2000-03-03 Canon Inc 画像処理装置及びその方法、コンピュ―タ可読メモリ
JP2005202834A (ja) * 2004-01-19 2005-07-28 Toshiba Corp 文字認識システム、文字認識方法及び文字認識プログラム
JP2007233913A (ja) * 2006-03-03 2007-09-13 Fuji Xerox Co Ltd 画像処理装置及びプログラム
WO2011129113A1 (ja) * 2010-04-15 2011-10-20 パナソニック株式会社 帳票処理装置及び帳票処理方法及び記録媒体
JP2015102915A (ja) * 2013-11-21 2015-06-04 キヤノン株式会社 情報処理装置、制御方法およびコンピュータプログラム

Also Published As

Publication number Publication date
JP6596512B2 (ja) 2019-10-23
US20180276509A1 (en) 2018-09-27
WO2017109998A1 (ja) 2017-06-29
US10628713B2 (en) 2020-04-21

Similar Documents

Publication Publication Date Title
US9117117B2 (en) Systems and methods for mobile image capture and processing
RU2714099C1 (ru) Способ для управления отображением экрана мобильного терминала и мобильный терминал
WO2017208367A1 (ja) 画像処理装置、画像処理方法、および、プログラム
US20190058805A1 (en) Image processing apparatus, and method of controlling the same
JP6581288B2 (ja) モバイル端末、画像処理方法、および、プログラム
US9712697B1 (en) Detecting sizes of documents scanned using handheld devices
JP6596512B2 (ja) モバイル端末、画像処理方法、および、プログラム
WO2004029867A1 (ja) 画像補正装置および画像補正方法
WO2017126056A1 (ja) モバイル端末、画像処理方法、および、プログラム
JP6697829B2 (ja) モバイル端末、画像処理方法、および、プログラム
JP6613378B2 (ja) モバイル端末、画像処理方法、および、プログラム
JP6600090B2 (ja) 画像処理装置、画像処理方法、および、プログラム
JP6288487B2 (ja) 画像処理装置及びプログラム
WO2018003090A1 (ja) 画像処理装置、画像処理方法、および、プログラム
JP2020149184A (ja) 情報処理装置、その制御方法及びプログラム
JP6785930B2 (ja) モバイル端末、画像処理方法、および、プログラム
US20160224854A1 (en) Information processing apparatus, information processing method, and storage medium
JP2015102915A (ja) 情報処理装置、制御方法およびコンピュータプログラム
JP4315025B2 (ja) 撮影装置、画像取得方法及びプログラム
JP2006190106A (ja) パターン検出プログラムおよびパターン検出装置
WO2017158814A1 (ja) モバイル端末、画像処理方法、および、プログラム
JP4504140B2 (ja) 筆記面再生方法、筆記面再生装置及び筆記面再生プログラム
JP2005173946A (ja) 携帯情報端末およびその文字認識方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180105

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190312

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190424

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190917

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190930

R150 Certificate of patent or registration of utility model

Ref document number: 6596512

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150