JP2017225090A - 画像処理装置、画像処理方法、および、プログラム - Google Patents

画像処理装置、画像処理方法、および、プログラム Download PDF

Info

Publication number
JP2017225090A
JP2017225090A JP2016121139A JP2016121139A JP2017225090A JP 2017225090 A JP2017225090 A JP 2017225090A JP 2016121139 A JP2016121139 A JP 2016121139A JP 2016121139 A JP2016121139 A JP 2016121139A JP 2017225090 A JP2017225090 A JP 2017225090A
Authority
JP
Japan
Prior art keywords
skew
content
image
straight line
edge
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016121139A
Other languages
English (en)
Other versions
JP6200040B1 (ja
Inventor
智晃 和田
Tomoaki Wada
智晃 和田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
PFU Ltd
Original Assignee
PFU Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by PFU Ltd filed Critical PFU Ltd
Priority to JP2016121139A priority Critical patent/JP6200040B1/ja
Priority to US15/283,689 priority patent/US9848104B1/en
Application granted granted Critical
Publication of JP6200040B1 publication Critical patent/JP6200040B1/ja
Publication of JP2017225090A publication Critical patent/JP2017225090A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • H04N1/3877Image rotation
    • H04N1/3878Skew detection or correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/60Rotation of whole images or parts thereof
    • G06T3/608Rotation of whole images or parts thereof by skew deformation, e.g. two-pass or three-pass rotation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00681Detecting the presence, position or size of a sheet or correcting its position before scanning
    • H04N1/00684Object of the detection
    • H04N1/00718Skew
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00681Detecting the presence, position or size of a sheet or correcting its position before scanning
    • H04N1/00729Detection means
    • H04N1/00734Optical detectors
    • H04N1/00737Optical detectors using the scanning elements as detectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00681Detecting the presence, position or size of a sheet or correcting its position before scanning
    • H04N1/00742Detection methods
    • H04N1/00748Detecting edges, e.g. of a stationary sheet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00681Detecting the presence, position or size of a sheet or correcting its position before scanning
    • H04N1/00763Action taken as a result of detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00681Detecting the presence, position or size of a sheet or correcting its position before scanning
    • H04N1/00763Action taken as a result of detection
    • H04N1/00774Adjusting or controlling
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0081Image reader

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Image Processing (AREA)
  • Facsimile Scanning Arrangements (AREA)

Abstract

【課題】搬送路を備えた画像読取装置にて、搬送ローラー等の搬送力を超える原稿、または、厚みもしくは形状がいびつな原稿を読み取る際に、原稿への搬送ローラーの力の加わり方によって読取後半に発生しやすい原稿画像の傾きである累積スキューを効率的に補正することができる画像処理装置、画像処理方法、および、プログラムを提供することを課題とする。
【解決手段】本発明は、搬送路を備えた画像読取装置にて読み取られた読取画像に含まれる原稿画像のエッジを検出し、エッジスキュー発生位置候補を検出し、コンテンツスキュー発生位置候補を検出し、エッジスキュー発生位置候補およびコンテンツスキュー発生位置候補に基づいて、累積スキュー発生位置を検出し、搬送方向に対して累積スキュー発生位置後方の原稿後方画像を歪み補正し、累積スキュー補正画像データを取得する。
【選択図】図1

Description

本発明は、画像処理装置、画像処理方法、および、プログラムに関する。
従来から、スキャン画像に対して歪み補正を行う技術が開示されている。
ここで、本をフラットベッドスキャナに押し当てた際の歪みを検出し、ページ外形の直線部分と曲線部分との境界点を検出することより、歪み発生部分を補正する技術が開示されている(特許文献1を参照)。
また、本をオーバーヘッドスキャナで読み取った際の画像に対して、文書の形状と内容とを考慮した補正メッシュを作り、それを矩形に均等に並ぶように補正することで歪みを除去する技術が開示されている(特許文献2を参照)。
また、FAXでの原稿搬送時の歪みを、分割位置および回転角度に罫線のみを用いて、画像を搬送方向に複数に分割し、それぞれを回転させることで補正する技術が開示されている(特許文献3を参照)。
また、ADFスキャナで読み取った画像に対して、原稿エッジを検出し、それぞれのエッジを複数の直線で近似し、直線同士の角度が一定以上変化した地点を歪みの発生位置とし、歪みの発生前後をそれぞれ矩形と仮定して、それぞれの矩形の配置を揃えることで画像の歪みを補正する技術が開示されている(特許文献4を参照)。
特開2004−048633号公報 特開2015−104127号公報 特開平9−091376号公報 特開2015−198306号公報
しかしながら、従来の画像補正装置(特許文献1等)においては、原稿の搬送時に生じる緩やかな歪みを必要な部分だけ変形させて補正することができないという問題点を有していた。
本発明は、上記問題点に鑑みてなされたもので、搬送路を備えた画像読取装置にて、搬送ローラー等の搬送力を超える原稿、または、厚みもしくは形状がいびつな原稿を読み取る際に、原稿への搬送ローラーの力の加わり方によって読取後半に発生しやすい原稿画像の傾きである累積スキューを効率的に補正することができる画像処理装置、画像処理方法、および、プログラムを提供することを目的とする。
このような目的を達成するため、本発明に係る画像処理装置は、搬送路を備えた画像読取装置にて読み取られた読取画像の読取画像データを取得する画像取得手段と、前記読取画像に含まれる原稿画像のエッジを検出し、前記エッジの最長直線部分を延長した近似直線を取得するエッジ検出手段と、原稿の搬送方向の前記近似直線と、当該近似直線の前記最長直線部分を含む前記エッジと、が離れ始める当該近似直線上の位置をエッジスキュー発生位置候補として検出するエッジスキュー検出手段と、前記原稿画像中の方向を特定できるコンテンツである方向特定コンテンツを検出するコンテンツ検出手段と、前記搬送方向の近似直線と前記方向特定コンテンツとの角度である前方角度より、前記搬送方向の近似直線と前記搬送方向に対して当該方向特定コンテンツの後方にある方向特定コンテンツとの角度である後方角度が大きく、且つ、前記前方角度が、最初に所定角度以上となる当該近似直線上の位置をコンテンツスキュー発生位置候補として検出するコンテンツスキュー検出手段と、前記エッジスキュー発生位置候補および前記コンテンツスキュー発生位置候補に基づいて、累積スキュー発生位置を検出する累積スキュー検出手段と、前記搬送方向に対して前記累積スキュー発生位置後方の原稿後方画像を歪み補正し、累積スキュー補正画像データを取得する累積スキュー補正手段と、を備えたことを特徴とする。
また、本発明に係る画像処理方法は、搬送路を備えた画像読取装置にて読み取られた読取画像の読取画像データを取得する画像取得ステップと、前記読取画像に含まれる原稿画像のエッジを検出し、前記エッジの最長直線部分を延長した近似直線を取得するエッジ検出ステップと、原稿の搬送方向の前記近似直線と、当該近似直線の前記最長直線部分を含む前記エッジと、が離れ始める当該近似直線上の位置をエッジスキュー発生位置候補として検出するエッジスキュー検出ステップと、前記原稿画像中の方向を特定できるコンテンツである方向特定コンテンツを検出するコンテンツ検出ステップと、前記搬送方向の近似直線と前記方向特定コンテンツとの角度である前方角度より、前記搬送方向の近似直線と前記搬送方向に対して当該方向特定コンテンツの後方にある方向特定コンテンツとの角度である後方角度が大きく、且つ、前記前方角度が、最初に所定角度以上となる当該近似直線上の位置をコンテンツスキュー発生位置候補として検出するコンテンツスキュー検出ステップと、前記エッジスキュー発生位置候補および前記コンテンツスキュー発生位置候補に基づいて、累積スキュー発生位置を検出する累積スキュー検出ステップと、前記搬送方向に対して前記累積スキュー発生位置後方の原稿後方画像を歪み補正し、累積スキュー補正画像データを取得する累積スキュー補正ステップと、を含むことを特徴とする。
また、本発明に係るプログラムは、搬送路を備えた画像読取装置にて読み取られた読取画像の読取画像データを取得する画像取得ステップと、前記読取画像に含まれる原稿画像のエッジを検出し、前記エッジの最長直線部分を延長した近似直線を取得するエッジ検出ステップと、原稿の搬送方向の前記近似直線と、当該近似直線の前記最長直線部分を含む前記エッジと、が離れ始める当該近似直線上の位置をエッジスキュー発生位置候補として検出するエッジスキュー検出ステップと、前記原稿画像中の方向を特定できるコンテンツである方向特定コンテンツを検出するコンテンツ検出ステップと、前記搬送方向の近似直線と前記方向特定コンテンツとの角度である前方角度より、前記搬送方向の近似直線と前記搬送方向に対して当該方向特定コンテンツの後方にある方向特定コンテンツとの角度である後方角度が大きく、且つ、前記前方角度が、最初に所定角度以上となる当該近似直線上の位置をコンテンツスキュー発生位置候補として検出するコンテンツスキュー検出ステップと、前記エッジスキュー発生位置候補および前記コンテンツスキュー発生位置候補に基づいて、累積スキュー発生位置を検出する累積スキュー検出ステップと、前記搬送方向に対して前記累積スキュー発生位置後方の原稿後方画像を歪み補正し、累積スキュー補正画像データを取得する累積スキュー補正ステップと、をコンピュータに実行させることを特徴とする。
この発明によれば、ハードウェア的にスキューの発生を防ぐことができた場合と同等の結果になるよう補正することができる。また、この発明によれば、既存のハードウェアにて読み取られた画像への適用が可能であるため、ハードウェアの改良を必要としない。
したがって、この発明によれば、強制的にスキューの発生を防ぐために一定サイズの給紙経路を設ける、または、常に複数の搬送ローラーで搬送し切るように搬送ローラーを増やす等のハードウェアの変更を必要とせずに、累積スキューを補正する柔軟性の高い方法を提供することができる。
すなわち、この発明によれば、搬送装置の大型化および用紙サイズの制限等を生じるハードウェアの設計変更を必要としないので、各種ハードウェアにより読み取られた画像に対応できる。
図1は、本実施形態に係る画像処理装置の構成の一例を示す機能ブロック図である。 図2は、本実施形態に係る画像処理装置のハードウェア構成の一例を示すブロック図である。 図3は、本実施形態の画像処理装置における処理の一例を示すフローチャートである。 図4は、本実施形態における先端スキュー検出補正処理の一例を示す図である。 図5は、本実施形態におけるエッジスキュー検出処理の一例を示す図である。 図6は、本実施形態におけるコンテンツスキュー検出処理の一例を示す図である。 図7は、本実施形態におけるコンテンツスキュー検出処理の一例を示す図である。 図8は、本実施形態におけるコンテンツスキュー検出処理の一例を示す図である。 図9は、本実施形態における累積スキュー発生の一例を示す図である。 図10は、本実施形態における累積スキュー発生の一例を示す図である。 図11は、本実施形態における原稿後方画像の一例を示す図である。 図12は、本実施形態における累積スキュー補正処理の一例を示す図である。 図13は、本実施形態における累積スキュー検出処理の一例を示す図である。 図14は、本実施形態における累積スキュー検出処理の一例を示す図である。 図15は、本実施形態における累積スキュー検出処理の一例を示す図である。 図16は、本実施形態における累積スキュー検出処理の一例を示す図である。 図17は、本実施形態における累積スキュー検出処理の一例を示す図である。
以下に、本発明に係る画像処理装置、画像処理方法、および、プログラムの実施形態を図面に基づいて詳細に説明する。なお、この実施形態により本発明が限定されるものではない。
[本実施形態の構成]
以下、本発明の実施形態に係る画像処理装置100の構成の一例について図1および図2を参照して説明し、その後、本実施形態の処理等について詳細に説明する。図1は、本実施形態に係る画像処理装置100の構成の一例を示す機能ブロック図である。
但し、以下に示す実施形態は、本発明の技術思想を具体化するための画像処理装置100を例示するものであって、本発明をこの画像処理装置100に特定することを意図するものではなく、請求の範囲に含まれるその他の実施形態の画像処理装置100にも等しく適用し得るものである。
また、本実施形態で例示する画像処理装置100における機能分散の形態は以下に限られず、同様の効果や機能を奏し得る範囲において、任意の単位で機能的または物理的に分散・統合して構成することができる。
図1に示すように、画像処理装置100は、概略的に、制御部102と、記憶部106と、を備えて構成される。また、これら画像処理装置100の各部は任意の通信路を介して通信可能に接続されている。
ここで、本実施形態の画像処理装置100は、画像読取装置200(図1では省略)と接続して構成されてもよい。また、画像処理装置100は、筐体内に画像読取装置200を備えていてもよい。
また、画像読取装置200は、手挿入給紙方式(連送給紙機構(CDF)方式)のドキュメントスキャナ装置、または、自動給紙機構方式(ADF方式)のドキュメントスキャナ装置等の搬送路を備えた画像読取装置200であってもよい。
ここで、画像処理装置100は、更に、入出力部112(図1では省略)を備えて構成されてもよい。ここで、入出力部112は、データの入出力(I/O)を行う。
また、入出力部112は、例えば、キー入力部、タッチパネル、コントロールパッド(例えば、タッチパッド、および、ゲームパッド等)、マウス、キーボード、および/または、マイク等の入力部であってもよい。
また、入出力部112は、アプリケーション等の表示画面を表示する表示部(例えば、液晶または有機EL等から構成されるディスプレイ、モニタ、および、タッチパネル等)、および/または、音声情報を音声として出力する音声出力部(例えば、スピーカ等)等の出力部であってもよい。
また、画像処理装置100は、更に、インターフェース部108を備えていてもよい。ここで、画像処理装置100は、インターフェース部108を介して、外部装置(例えば、画像読取装置200等)と相互に通信可能に接続されていてもよい。
また、インターフェース部108は、通信回線および/または電話回線等に接続されるアンテナおよび/またはルータ等の通信装置に接続されるインターフェース(NIC等)であってもよく、画像処理装置100とネットワークとの間における通信制御を行う通信インターフェースであってもよい。
ここで、ネットワークは、有線通信および/または無線通信(例えば、WiFi等)の遠隔通信等を含む。また、インターフェース部108は、画像読取装置200等と制御部102との間の入出力制御を行う入出力インターフェースであってもよい。
なお、制御部102は、インターフェース部108、および、入出力部112を制御してもよい。
記憶部106は、各種のデータベース、テーブル、および/または、ファイル(画像データファイル106a等)などを格納する。また、記憶部106は、各種アプリケーションプログラム(例えば、ユーザアプリケーション等)を記憶していてもよい。
また、記憶部106は、ストレージ手段であり、例えばRAM・ROM等のメモリ、ハードディスクのような固定ディスク装置、SSD(Solid State Drive)、フレキシブルディスク、および/または、光ディスク等の有形の記憶装置、または、記憶回路を用いることができる。
記憶部106には、CPU(Central Processing Unit)に命令を与え各種処理を行うためのコンピュータプログラム等が記録されている。
これら記憶部106の各構成要素のうち、画像データファイル106aは、画像データを記憶する。ここで、画像データは、画像読取装置200にて読み取られた読取画像データ、原稿画像データ、または、累積スキュー補正画像データ等であってもよい。
また、制御部102は、画像処理装置100を統括的に制御するCPU、GPU(Graphics Processing Unit)、DSP(Digital Signal Processor)、LSI(Large Scale Integration)、ASIC(Application Specific Integrated Circuit)、および/または、FPGA(Field−Programming Gate Array)等を含む有形のコントローラ、または、制御回路から構成されてもよい。
制御部102は、制御プログラムと各種の処理手順等を規定したプログラムと所要データとを格納するための内部メモリを有し、これらプログラムに基づいて種々の処理を実行するための情報処理を行う。
ここで、制御部102は、大別して、画像取得部102a、エッジ検出部102b、先端スキュー検出部102c、先端スキュー補正部102d、エッジスキュー検出部102e、コンテンツ検出部102f、コンテンツスキュー検出部102g、累積スキュー検出部102h、累積スキュー補正部102i、および、画像出力部102jを備える。
画像取得部102aは、画像データを取得する。ここで、画像取得部102aは、搬送路を備えた画像読取装置200にて読み取られた読取画像の読取画像データを取得してもよい。また、画像取得部102aは、画像データを画像データファイル106aに格納してもよい。
エッジ検出部102bは、読取画像に含まれる原稿画像のエッジを検出する。ここで、エッジ検出部102bは、検出したエッジの最長直線部分を延長した近似直線を取得してもよい。
また、エッジ検出部102bは、検出したエッジに基づいて、読取画像から原稿画像を特定し、原稿画像データを取得してもよい。
先端スキュー検出部102cは、読取画像に対する原稿画像の傾きである先端スキューを検出する。ここで、先端スキューは、給紙開始時点で角度が付いてしまう傾きであってもよい。
また、先端スキュー検出部102cは、読取画像に対する、原稿画像の全ての近似直線の傾きを検出することで、読取画像に対する原稿画像の傾きである先端スキューを検出してもよい。
先端スキュー補正部102dは、先端スキューに基づいて、原稿画像を正立補正する。
エッジスキュー検出部102eは、原稿の搬送方向の近似直線と、当該近似直線の最長直線部分を含むエッジと、が離れ始める当該近似直線上の位置をエッジスキュー発生位置候補として検出する。
コンテンツ検出部102fは、原稿画像中の方向を特定できるコンテンツである方向特定コンテンツを検出する。
ここで、コンテンツ検出部102fは、原稿画像中の文字列を検出し、文字列を回転させながら、原稿の搬送方向の近似直線に平行な線分および水平な線分から構成される文字列の外接矩形の面積を算出し、面積が最小になる回転角度を特定することで、原稿の搬送方向の近似直線と文字列との角度を検出してもよい。
また、コンテンツ検出部102fは、原稿画像中の文字列を検出し、文字列を回転させながら、文字列に対してOCR処理を行い、文字認識精度が最も高くなる回転角度を特定することで、原稿の搬送方向の近似直線と文字列との角度を検出してもよい。
また、コンテンツ検出部102fは、ハフ変換によりコンテンツの直線要素を抽出してもよい。
コンテンツスキュー検出部102gは、原稿の搬送方向の近似直線と方向特定コンテンツとの角度である前方角度より、原稿の搬送方向の近似直線と搬送方向に対して当該方向特定コンテンツの後方にある方向特定コンテンツとの角度である後方角度が大きく、且つ、前方角度が、最初に所定角度以上となる当該近似直線上の位置をコンテンツスキュー発生位置候補として検出する。
また、コンテンツスキュー検出部102gは、原稿の搬送方向の近似直線と矩形状の図形領域の辺との角度である前方角度より、原稿の搬送方向の近似直線と搬送方向に対して当該矩形状の図形領域の後方にある方向特定コンテンツとの角度である後方角度が大きく、且つ、前方角度が、最初に所定角度以上となる当該近似直線上の位置をコンテンツスキュー発生位置候補として検出してもよい。
また、コンテンツスキュー検出部102gは、原稿の搬送方向の近似直線と罫線との角度である前方角度より、原稿の搬送方向の近似直線と搬送方向に対して当該罫線の後方にある方向特定コンテンツとの角度である後方角度が大きく、且つ、前方角度が、最初に所定角度以上となる当該近似直線上の位置をコンテンツスキュー発生位置候補として検出してもよい。
また、コンテンツスキュー検出部102gは、原稿の搬送方向の近似直線と文字列との角度である前方角度より、原稿の搬送方向の近似直線と搬送方向に対して当該文字列の後方にある方向特定コンテンツとの角度である後方角度が大きく、且つ、前方角度が、最初に所定角度以上となる当該近似直線上の位置をコンテンツスキュー発生位置候補として検出してもよい。
累積スキュー検出部102hは、エッジスキュー発生位置候補およびコンテンツスキュー発生位置候補に基づいて、累積スキュー発生位置を検出する。ここで、累積スキューとは、搬送しながら徐々に角度が付いてしまう傾きであってもよい。
また、累積スキュー検出部102hは、エッジスキュー発生位置候補とコンテンツスキュー発生位置候補とが存在し、且つ、両検出位置間の距離が所定距離以内の場合、原稿の搬送方向に対して後方にある候補を、累積スキュー発生位置として検出してもよい。
また、累積スキュー検出部102hは、エッジスキュー検出部102eによりエッジスキュー発生位置候補が検出され、且つ、コンテンツ検出部102fにより方向特定コンテンツが検出されなかった場合、エッジスキュー発生位置候補を、累積スキュー発生位置として検出してもよい。
また、累積スキュー検出部102hは、エッジスキュー検出部102eによりエッジスキュー発生位置候補が検出され、且つ、コンテンツスキュー検出部102gによりコンテンツスキュー発生位置候補が検出されなかった場合、エッジスキュー発生位置候補を、累積スキュー発生位置として検出してもよい。
また、累積スキュー検出部102hは、エッジスキュー検出部102eによりエッジスキュー発生位置候補が検出されず、且つ、コンテンツスキュー検出部102gによりコンテンツスキュー発生位置候補が検出された場合、コンテンツスキュー発生位置候補を、累積スキュー発生位置として検出してもよい。
また、累積スキュー検出部102hは、エッジスキュー発生位置候補とコンテンツスキュー発生位置候補とが存在するが、両検出位置間の距離が所定距離以上の場合、累積スキュー未発生とみなして、累積スキュー発生位置を検出しなくてもよい。
また、累積スキュー検出部102hは、エッジスキュー検出部102eによりエッジスキュー発生位置候補が検出されず、且つ、コンテンツ検出部102fにより方向特定コンテンツが検出されなかった場合、累積スキュー未発生とみなして、累積スキュー発生位置を検出しなくてもよい。
また、累積スキュー検出部102hは、エッジスキュー検出部102eによりエッジスキュー発生位置候補が検出されず、且つ、コンテンツスキュー検出部102gによりコンテンツスキュー発生位置候補が検出されなかった場合、累積スキュー未発生とみなして、累積スキュー発生位置を検出しなくてもよい。
累積スキュー補正部102iは、原稿の搬送方向に対して累積スキュー発生位置後方の原稿後方画像を歪み補正し、累積スキュー補正画像データを取得する。
また、累積スキュー補正部102iは、原稿の搬送方向に対して累積スキュー発生位置後方の原稿後方画像を二つの扇形で囲まれた領域とみなし、当該扇形の弧を原稿の搬送方向の近似直線上に歪み補正し、累積スキュー補正画像データを取得してもよい。
また、累積スキュー補正部102iは、原稿の搬送方向に対して累積スキュー発生位置後方の原稿後方画像を二つの扇形で囲まれた領域とみなし、当該扇形の弧を原稿の搬送方向の近似直線上に幾何変換により歪み補正し、累積スキュー補正画像データを取得してもよい。
また、累積スキュー補正部102iは、原稿の搬送方向に対して累積スキュー発生位置後方の原稿後方画像を二つの扇形で囲まれた領域とみなし、短い方の弧を伸長させるように当該扇形の弧を原稿の搬送方向の近似直線上に幾何変換により歪み補正し、累積スキュー補正画像データを取得してもよい。
また、累積スキュー補正部102iは、原稿の搬送方向に対して累積スキュー発生位置後方の原稿後方画像をレンズ歪み補正により歪み補正し、累積スキュー補正画像データを取得してもよい。
ここで、累積スキュー補正画像は、累積スキュー補正部102iによる歪み補正後の原稿後方画像と、累積スキュー発生位置前方の原稿前方画像と、を合成した画像であってもよい。
画像出力部102jは、画像データを出力させる。ここで、画像出力部102jは、画像データを入出力部112を介して出力させてもよい。
更に、図2を参照して、本実施形態に係る画像処理装置100のハードウェア構成の一例について説明する。図2は、本実施形態に係る画像処理装置100のハードウェア構成の一例を示すブロック図である。
図2に示すように、画像処理装置100は、インターフェース部(I/F)108を介して、画像読取装置200と通信可能に接続されていてもよい。
ここで、図2に示すように、画像処理装置100は、画像処理装置100を統括的に制御するCPU102、および、ストレージ手段であるメモリ106および補助記憶装置106を備えていてもよい。
また、図2に示すように、画像処理装置100は、画像読取装置200と通信可能な接続を制御するI/F108、記憶媒体等を接続するためのUSB端子等のインターフェース部(媒体読取部)108、データ入力を行うための入出力部(入力部)112、および、データ出力を行うための入出力部(出力部)112等を備えていてもよい。
また、図2に示すように、画像読取装置200は、画像読取装置200を統括的に制御するCPU、ストレージ手段であるブロックバッファ、メモリおよび画像メモリ、ならびに、メモリへのアクセス要求を調停する調停部を備えていてもよい。
また、図2に示すように、画像読取装置200は、画像読取を行うイメージセンサ、イメージセンサとシェーディング処理部とを結ぶアナログ回路であるアナログフロントエンド(AFE)、および、画像データの陰影を調整するシェーディング処理部を備えていてもよい。
また、図2に示すように、画像読取装置200は、読み取った画像データへの画像処理を制御する画像処理制御部、画像処理装置100と通信可能な接続を制御するI/F(インターフェース部)、データ入力を行うための入力部、および、データ出力を行うための出力部等を備えていてもよい。
[本実施形態の処理]
上述した構成の画像処理装置100で実行される処理の一例について、図3から図を参照して説明する。図3は、本実施形態の画像処理装置100における処理の一例を示すフローチャートである。
図3に示すように、まず、画像取得部102aは、搬送路を備えた画像読取装置200にて読み取られた読取画像の読取画像データを取得する(ステップSA−1)。
そして、エッジ検出部102bは、読取画像に含まれる原稿画像のエッジを検出し、検出したエッジの最長直線部分を延長した近似直線を取得する(ステップSA−2)。
ここで、エッジ検出部102bは、検出したエッジに基づいて、読取画像から原稿画像を特定し、原稿画像データを取得してもよい。
そして、先端スキュー検出部102cは、読取画像に対する原稿画像の傾きである先端スキューを検出する(ステップSA−3)。
そして、先端スキュー補正部102dは、先端スキュー検出部102cにより検出された先端スキューに基づいて、原稿画像を正立補正する(ステップSA−4)。
すなわち、先端スキュー補正部102dは、先端スキューを取り除き、原稿画像を正立させることができる。
ここで、図4を参照して、本実施形態における先端スキュー検出補正処理の一例について説明する。図4は、本実施形態における先端スキュー検出補正処理の一例を示す図である。
図4に示すように、本実施形態においては、検出された最長(原稿の搬送方向)のエッジ(図4中の「×」をつないだ線分)の最長直線部分を延長した近似直線、および、当該近似直線の傾きを取得する。
そして、本実施形態においては、原稿の搬送方向の近似直線の傾きから、原稿の搬送方向の近似直線が正立した状態となるように、原稿画像を正立補正する。
ここで、図4に示すように、本実施形態においては、原稿画像全体の傾きの検出と補正とを行ない、搬送時のスキューによる歪み(累積スキュー)は考慮せずに、傾いて給紙された等により生じる傾きの要因を排除している。
ここで、本実施形態においては、特開2007−88654号公報に記載された、累積スキューが無い前提で傾き検知と原稿切り出しとを行う発明を用いてもよい。
このように、本実施形態における先端スキュー検出補正処理を行うことで、累積スキューを除いて、真っ直ぐに給紙された原稿画像を取得することができ、正立させた辺を、累積スキュー補正時に基準とする辺にすることができる。
また、本実施形態においては、原稿の全てのエッジの最長直線部分を延長した近似直線を用いて、各頂点の角度を検出することで、原稿画像全体の傾きを先端スキューとして検出および補正してもよい。
なお、先端スキューは、原稿セット時、または、給紙開始直後の引き込み時のみに発生傾きであり、原稿画像全体の角度が傾くが、原稿中に歪みを生むことは無いため、累積スキューとは独立して補正が可能である。
図3に戻り、エッジスキュー検出部102eは、原稿の搬送方向の近似直線と、当該近似直線の最長直線部分を含むエッジと、が離れ始める当該近似直線上の位置をエッジスキュー発生位置候補として検出する(ステップSA−5)。
ここで、図5を参照して、本実施形態におけるエッジスキュー検出処理の一例について説明する。図5は、本実施形態におけるエッジスキュー検出処理の一例を示す図である。
図5に示すように、累積スキューが発生した場合、原稿の搬送方向の最長のエッジは、近似直線から離れるように、左側に次々に移動していく。
そこで、本実施形態においては、近似直線から1mm以上離れ、且つ、以後同じ方向に移動し続けている条件を満たす位置(図5の点線の位置)を、エッジスキュー発生位置候補として検出してもよい。
図3に戻り、コンテンツ検出部102fは、原稿画像中の方向を特定できるコンテンツである方向特定コンテンツを検出する(ステップSA−6)。
そして、コンテンツスキュー検出部102gは、原稿の搬送方向の近似直線と方向特定コンテンツとの角度である前方角度より、原稿の搬送方向の近似直線と搬送方向に対して当該方向特定コンテンツの後方にある方向特定コンテンツとの角度である後方角度が大きく、且つ、前方角度が、最初に所定角度以上となる当該近似直線上の位置をコンテンツスキュー発生位置候補として検出する(ステップSA−7)。
ここで、図6を参照して、本実施形態における罫線によるコンテンツスキュー検出処理の一例について説明する。図6は、本実施形態におけるコンテンツスキュー検出処理の一例を示す図である。
図6に示すように、本実施形態においては、罫線それぞれを方向特定コンテンツとして傾きの計算に用いて、原稿の搬送方向に傾きを見ていくと、累積スキュー発生位置以降において、近似直線と罫線との角度が次々に大きくなっていく。
ここで、本実施形態においては、近似直線と罫線との角度が垂直(90度)から0.5度以上離れ、且つ、以後角度大きくなり続けている条件を満たす位置(図6の点線の位置)を、コンテンツスキュー発生位置候補として検出してもよい。
なお、本実施形態においては、一般的なハフ変換を用いて、原稿画像中の罫線等の線分に該当する要素を抽出し、検出した直線のうち、一定の長さ以上のものを方向特定コンテンツの構成要素として採用してもよい。
ここで、本実施形態においては、大きな文字の一部分等の原稿画像中の様々な線分要素も、罫線と同様に検出されるため、長さが3cm以下、且つ、近似直線との角度が水平(0度)または垂直(90度)から5度以上の線分要素は、方向特定コンテンツの構成要素から除外してもよい。
また、図7を参照して、本実施形態における文字列によるコンテンツスキュー検出処理の一例について説明する。図7は、本実施形態におけるコンテンツスキュー検出処理の一例を示す図である。
本実施形態においては、方向特定コンテンツとして検出した文字列を一定の単位(文字列ブロック)ごとに回転させながら当該文字列の角度を検出し、最適な角度が何度であったかを計算することで、その文字列の角度(コンテンツスキュー)を検出してもよい。
ここで、本実施形態における最適な角度の計算方法としては、文字列の外接矩形もしくは高さが最小となる角度、または、1文字ごとのマッチング等によるOCR処理により最も確信度が高かった角度を、最適な角度として計算してもよい。
例えば、図7に示すように、原稿画像中から抽出した文字列(すなわち、文字列画像)を回転させながら、原稿の搬送方向の近似直線に平行な線分および水平な線分から構成される文字列の外接矩形の高さを測ってもよい。
ここで、図7に示す文字列は、−1度傾いており、+1度回転させた場合の外接矩形の高さが最小となるため、この文字列は、−1度の傾きであると判定してもよい。
ここで、本実施形態において、文字列の抽出は、(1)大津の二値化等により、原稿画像を可変の閾値で二値化(地色とコンテンツと分離)し、(2)各二値化領域をラベリングして、これを囲う矩形領域を抽出してもよい。
そして、本実施形態において、(3)極端に大きな矩形領域は、図形であると判定し、小さな矩形領域を文字として判定し、(4)一定の距離以内に存在する、同サイズの矩形領域を、並んだ文字として連結することで、文字列を抽出してもよい。
また、図8を参照して、本実施形態における図形領域によるコンテンツスキュー検出処理の一例について説明する。図8は、本実施形態におけるコンテンツスキュー検出処理の一例を示す図である。
本実施形態においては、方向特定コンテンツとして矩形状の図形領域を抽出し、当該図形領域の矩形らしさを判定することで、コンテンツスキュー発生位置候補を検出してもよい。
ここで、本実施形態においては、上記(1)から(3)の処理により、矩形状の図形領域を抽出してもよい。
そして、本実施形態においては、抽出した矩形状の図形領域が矩形であるかを、4辺の角度がそれぞれ平行または垂直であるか否かに基づいて判定する。
図8に示すように、本実施形態においては、矩形状の図形領域が矩形であると判定した場合、この図形領域が存在する区間は、近似直線と方向特定コンテンツとの角度が均等であって、この図形領域がある区間は歪みがないと判定してもよい。
一方、本実施形態においては、矩形状の図形領域が矩形でないと判定した(上下端で角度が異なる)場合、どの位置から歪み始めたのかは判別できないため、当該図形領域の上下端を、罫線と同様に、方向特定コンテンツとして扱ってもよい。
なお、本実施形態においては、同じ位置で結果が異なるコンテンツが複数見付かった場合、図形>罫線>文字列の優先順序でコンテンツスキュー発生位置候補の検出を行ってもよい。
図3に戻り、累積スキュー検出部102hは、エッジスキュー発生位置候補(エッジでの検出位置)、および、コンテンツスキュー発生位置候補(コンテンツでの検出位置)が両方検出されているという条件を満たすか否かを判定する(ステップSA−8)。
そして、累積スキュー検出部102hは、エッジでの検出位置およびコンテンツでの検出位置が両方検出されているという条件を満たすと判定した場合(ステップSA−8:Yes)、処理をステップSA−9に移行させる。
そして、累積スキュー検出部102hは、エッジでの検出位置およびコンテンツでの検出位置の両検出位置間の距離が所定距離(例えば、1cm等)以内に収まるか否かを判定する(ステップSA−9)。
そして、累積スキュー検出部102hは、エッジでの検出位置およびコンテンツでの検出位置の両検出位置間の距離が所定距離以内に収まらないと判定した場合(ステップSA−9:No)、処理をステップSA−10に移行させる。
そして、累積スキュー検出部102hは、累積スキュー未発生とみなして、累積スキュー発生位置を検出しない(ステップSA−10)。
すなわち、本実施形態においては、エッジスキュー発生位置候補とコンテンツスキュー発生位置候補とが両方存在するが、その位置が大きく離れている場合、原稿の形状自体が歪んでいたり、コンテンツが傾いていたりする可能性があるため、累積スキュー未発生位置とみなしてもよい。
そして、画像出力部102jは、読取画像データまたは原稿画像データを入出力部112に表示させ(ステップSA−11)、処理を終了する。
一方、累積スキュー検出部102hは、エッジでの検出位置およびコンテンツでの検出位置の両検出位置間の距離が所定距離以内に収まると判定した場合(ステップSA−9:Yes)、処理をステップSA−12に移行させる。
そして、累積スキュー検出部102hは、エッジでの検出位置およびコンテンツでの検出位置のうち、原稿の搬送方向に対して後方(下)にある方の候補を、累積スキュー発生位置として採用する(ステップSA−12)。
このように、累積スキュー検出部102hは、累積スキューの有無および発生領域を検出することができる。
すなわち、本実施形態においては、エッジスキュー発生位置候補と、コンテンツスキュー発生位置候補とが両方存在し、その位置が近い場合、いずれか下にある方を、累積スキュー発生位置として採用してもよい。
ここで、図9および図10を参照して、本実施形態における累積スキュー発生の一例について説明する。図9および図10は、本実施形態における累積スキュー発生の一例を示す図である。
まず、一般的なADFスキャナ等の搬送路を備えた画像読取装置200において、内部のイメージセンサ前後に搬送ローラーが設置されており、用紙ガイドは、内部まで続いていない形状が一般的である。
そのため、給紙開始後の原稿の搬送は、搬送ローラーに頼ることになる。また、実際に原稿に触れる搬送ローラーの配置は、イメージセンサを原稿後端が通過しきる前に、原稿との接触が、最後の1組だけになるタイミングが生じることが一般的である。
そのため、原稿の重心または最厚部が搬送ローラーに左右均等に当たらない原稿において、搬送終盤の最後の1つの搬送ローラーしか原稿に当たらないタイミングで、累積スキューが起こりやすい。
ここで、最も顕著な累積スキューは、パンフレット等の厚く左右非対称な原稿、または、エンボスカードなど厚みが不均一な原稿において、搬送終了間際に最も起こりやすい。
ここで、図9に示すように、搬送前半においては、片側にエンボス加工文字が印字された左右の厚さが不均一な原稿(カード)に対して、直線状に複数の搬送ローラーがあるため、垂直に複数の搬送ローラーが原稿に触れることになる。
そのため、図9に示すように、本実施形態においては、出力画像の搬送前半部分は、原稿の左右にかかる力の差に関係なく、原稿が真っ直ぐ搬送されることになるため、歪みのない画像を取得することができる。
一方、図10に示すように、搬送後半においては、水平方向に一組の搬送ローラーしか無く、左右にかかる力の差(1.1−1.0=0.1)がそのまま、搬送速度に表れて、回転する力として表面化する。
それにより、図10に示すように、本実施形態においては、搬送ローラーが一組で搬送している区間が、歪みとして出力画像の搬送後半部分に表れる。ここで、歪みの形状は、左右にかかる力の差が表れた扇状になる。
したがって、図10に示すように、本実施形態においては、累積スキュー発生前が矩形の部分画像となり、累積スキュー発生後が扇形の部分画像となる出力画像が取得される。
すなわち、原稿の厚みまたは綴じ方等が左右非対称の場合、搬送ローラーが左右対称に力をかけられず、右と左とで原稿の進むスピードが異なり、扇形の歪みとなる。
ここで、扇形の部分は長い弧が本来の搬送速度であり、圧縮された短い弧が遅い搬送速度を表している。
なお、原稿のエンボス加工または折目は、均等に端から端まであることが多いため、扇形の部分は、均一に回転をしており、途中で回転および搬送速度に変化を生じない。
図3に戻り、累積スキュー補正部102iは、原稿の搬送方向に対して累積スキュー発生位置後方の原稿後方画像を二つの扇形で囲まれた領域とみなし、短い方の弧を伸長させるように当該扇形の弧を原稿の搬送方向の近似直線上に幾何変換により歪み補正し、累積スキュー発生位置前方の原稿前方画像と合成することにより、累積スキュー補正画像データを取得する(ステップSA−13)。
このように、累積スキュー補正部102iは、累積スキューを、可読性を保ちつつ補正することができる。
ここで、図11および図12を参照して、本実施形態における累積スキュー補正処理の一例について説明する。図11は、本実施形態における原稿後方画像の一例を示す図である。図12は、本実施形態における累積スキュー補正処理の一例を示す図である。
図11に示すように、本実施形態においては、累積スキューが検出された原稿画像において、累積スキュー発生位置前方のエッジを直線とみなし、累積スキュー発生位置後方のエッジを曲線(扇形の弧)に近似できるため、理想とする形状に、現状の原稿画像の歪んだ形状を近付ける形で歪み補正を行なってもよい。
ここで、図11に示すように、理想とする形状は、原稿画像の三つ(上端および左右端)のエッジの最長直線部分を延長した三つの近似直線(図11中の実線)、ならびに、上端の近似直線に平行な直線の四交点を結んだ矩形であってもよい。
また、図11に示すように、歪んだ形状は、同一中心角の半径の異なる二つの扇形で囲まれた領域として近似を行なってもよい。ここで、原稿画像中から弧を検出する手法としては、ハフ変換を利用してもよい。
このように、二つの扇形の弧(図11の点線の曲線)は、累積スキュー発生位置後方のエッジを扇形に近似したものであってもよい。
また、図11に示すように、扇形の上辺(図11の点線)は、原稿画像の上端のエッジと並行な直線を、累積スキュー発生位置に引いたものであってもよく、扇形の下辺(図11の点線)は、原稿の下端のエッジを、そのまま採用したものであってもよい。
そして、図12に示すように、本実施形態においては、搬送後半の歪んだ形状(扇形)を、幾何変換により矩形へと変形させることで、理想とする形状に補正してもよい。
具体的には、図12に示すように、扇形の左右の弧において、同じ比率だけ弦上を進める(例えば、右の弦の1ドットが比率で1%の場合、左の弦は、1%に相当する0.9ドット進める)ことで、扇形の左右の弧で本来同じ搬送位置となるべき点を探索してもよい。
そして、図12に示すように、探索された左右の点を結んだ直線上の画素を収集し、これらの画素を水平に並べて、近似直線に合わせて配置する処理を全行分繰り返すことで、歪み補正を行ってもよい。
また、本実施形態においては、原稿画像から特徴点を抽出して、理想とする形状と、歪んだ形状と、のマッピングを行なうことにより歪み補正を行う、レンズ歪み補正処理を行ってもよい。
図3に戻り、画像出力部102jは、累積スキュー補正部102iにより取得された累積スキュー補正画像データを入出力部112に表示させ(ステップSA−14)、処理を終了する。
一方、累積スキュー検出部102hは、エッジでの検出位置およびコンテンツでの検出位置が両方検出されているという条件を満たさないと判定した場合(ステップSA−8:No)、処理をステップSA−15に移行させる。
そして、累積スキュー検出部102hは、エッジでの検出位置が検出された、且つ、コンテンツでの検出位置が検出されていないという条件を満たすか否かを判定する(ステップSA−15)。
そして、累積スキュー検出部102hは、エッジでの検出位置が検出された、且つ、コンテンツでの検出位置が検出されていないという条件を満たすと判定した場合(ステップSA−15:Yes)、処理をステップSA−16に移行させる。
そして、累積スキュー検出部102hは、エッジでの検出位置を、累積スキュー発生位置として採用し(ステップSA−16)、処理をステップSA−13に移行させる。
すなわち、本実施形態においては、エッジスキュー発生位置候補はあるが、その近辺にコンテンツがそもそも無い場合、エッジスキュー発生位置候補を信用し、累積スキュー発生位置として採用してもよい。
なお、本実施形態においては、エッジスキュー発生位置候補があり、コンテンツスキュー発生位置候補が無い場合も、エッジスキュー発生位置候補を、累積スキュー発生位置として採用してもよい。
一方、累積スキュー検出部102hは、エッジでの検出位置が検出された、且つ、コンテンツでの検出位置が検出されていないという条件を満たさないと判定した場合(ステップSA−15:No)、処理をステップSA−17に移行させる。
そして、累積スキュー検出部102hは、エッジでの検出位置が検出されていない、且つ、コンテンツでの検出位置が検出されたという条件を満たすか否かを判定する(ステップSA−17)。
そして、累積スキュー検出部102hは、エッジでの検出位置が検出されていない、且つ、コンテンツでの検出位置が検出されたという条件を満たさないと判定した場合(ステップSA−17:No)、処理をステップSA−10に移行させる。
一方、累積スキュー検出部102hは、エッジでの検出位置が検出されていない、且つ、コンテンツでの検出位置が検出されたという条件を満たすと判定した場合(ステップSA−17:Yes)、処理をステップSA−18に移行させる。
そして、累積スキュー検出部102hは、コンテンツでの検出位置を、累積スキュー発生位置として採用し(ステップSA−18)、処理をステップSA−13に移行させる。
すなわち、本実施形態においては、コンテンツスキュー発生位置候補があり、エッジスキュー発生位置候補が無い場合、コンテンツスキュー発生位置候補を、累積スキュー発生位置として採用してもよい。
ここで、図13から図17を参照して、本実施形態における累積スキュー検出処理の一例について説明する。図13から図17は、本実施形態における累積スキュー検出処理の一例を示す図である。
まず、図13に示すように、先端スキュー補正後の原稿画像(カード画像)に対して、四つのエッジ(すなわち、原稿画像の形状)の検出を行なう。なお、本実施形態においては、先端スキュー検出時に検出されたエッジを用いてもよい。
そして、図14に示すように、検出した各エッジを一直線に近似し、この近似直線をスキューが無かった場合の理想辺の一部とする。ここで、本実施形態においては、先端スキュー検出時に検出された直線を近似直線として用いてもよい。
そして、図14に示すように、各エッジが近似直線からどれだけ離れているかを確認し、累積スキュー発生時は搬送につれてエッジが徐々に近似直線から離れていく(すなわち、同じ方向に歪む)ため、エッジが全て同じ方向に移動し続けているか否かを検知する。
そして、図14に示すように、近似直線から離れ始めた位置を、エッジスキュー発生位置候補として検出してもよい。
そして、図15に示すように、カード画像中のコンテンツ(例えば、文字列、罫線、および/または、写真矩形等)の傾きを検出してもよい。
そして、図16に示すように、コンテンツの傾きが検出された場合、エッジと同様に、累積スキュー発生時は搬送につれて、コンテンツの傾きが同じ方向(時計回りまたは反時計回り)に変化し続けているか否かを検知してもよい。
そして、図16に示すように、この位置をコンテンツスキュー発生位置候補として検出してもよい。
そして、図17に示すように、エッジスキュー発生位置候補と、コンテンツスキュー発生位置候補と、を確認し、これらの組み合わせによって、最終的な累積スキューの発生有無、および、累積スキュー発生位置の検出を行なってもよい。
このように、本実施形態においては、エッジ(原稿画像の形状)、および、コンテンツ傾き(原稿の内容)の両方を加味して、誤検出を抑え、高精度に累積スキュー発生位置を検出してもよい。
ここで、本実施形態において、原稿画像の形状は、原稿の破れなどで常に矩形と限らないため、累積スキュー発生位置の検出には、コンテンツ傾きを優先してもよい。
これにより、本実施形態においては、原稿画像の累積スキューを、画像のみから検出および補正することができる。
ここで、一般的に、原稿は、途中まで複数のローラーが接触し真っ直ぐに搬送されるが、最後のローラーだけで搬送されることになる搬送終盤は、累積スキューが顕著な傾向がある。
そこで、本実施形態においては、累積スキューを画像から検出するために、原稿画像のエッジおよび原稿画像中のコンテンツの傾きから、累積スキューが発生した位置を特定し、累積スキューの有無と形状とを検出している。
なお、搬送ローラーの劣化、汚れ、または、傷みなどにより、終始累積スキューが発生している場合、原稿画像全体を累積スキュー発生中と捉えてもよい。
このような場合、搬送ローラーが左右対称に力をかけられないことが原因であるため、汚れを拭き取る、または、ローラーを交換することで、累積スキューの発生を回避できる。
そして、本実施形態においては、累積スキューが検出された場合、スキュー発生前は矩形、および、スキュー発生後は扇形で各エッジを近似して、累積スキュー発生位置後方の二つの扇形で囲まれた領域を、理想的には矩形だったとして補正を行なってもよい。
従来から、原稿を搬送させるスキャナ装置において、最も大きな課題の一つに、原稿搬送時のスキューがあった。
これは所謂、累積スキューであり、ローラー等の搬送力を超える原稿、または、厚みもしくは形状がいびつな原稿(例えば、エンボスカード、または、冊子のままのパンフレット等)の搬送時に、発生しやすかった。
そして、累積スキューが発生するハードウェアと原稿との組み合わせでは、搬送自体が出来ているにも関わらず、実用的な画像が取得できないという課題があった。
そこで、従来から、累積スキューが発生しにくい構造、または、累積スキューを検知しリトライさせる構造等の様々なハードウェア上での課題解決が試みられてきた。
しかしながら、完全な課題の解決は困難であり、小型のハードウェアへの適用、および、既に作成された画像への修正等の課題も解決できていなかった。
そこで、本実施形態においては、読取画像に対して、搬送時の累積スキューが無かったかのように補正する方法を提供している。
[他の実施形態]
さて、これまで本発明の実施形態について説明したが、本発明は、上述した実施形態以外にも、請求の範囲に記載した技術的思想の範囲内において種々の異なる実施形態にて実施されてよいものである。
例えば、画像処理装置100は、スタンドアローンの形態で処理を行ってもよく、クライアント端末(画像処理装置100とは別筐体である)からの要求に応じて処理を行い、その処理結果を当該クライアント端末に返却するようにしてもよい。
また、実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。
このほか、明細書中および図面中で示した処理手順、制御手順、具体的名称、各処理の登録データもしくは検索条件等のパラメータを含む情報、画面例、または、データベース構成については、特記する場合を除いて任意に変更することができる。
また、画像処理装置100に関して、図示の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。
例えば、画像処理装置100の各装置が備える処理機能、特に制御部102にて行われる各処理機能については、その全部または任意の一部を、CPUおよび当該CPUにて解釈実行されるプログラムにて実現してもよく、また、ワイヤードロジックによるハードウェアとして実現してもよい。
なお、プログラムは、後述する、コンピュータに本発明に係る方法を実行させるためのプログラム化された命令を含む、一時的でないコンピュータ読み取り可能な記録媒体に記録されており、必要に応じて画像処理装置100に機械的に読み取られる。すなわち、ROMまたはHDDなどの記憶部106などには、OS(Operating System)と協働してCPUに命令を与え、各種処理を行うためのコンピュータプログラムが記録されている。このコンピュータプログラムは、RAMにロードされることによって実行され、CPUと協働して制御部を構成する。
また、このコンピュータプログラムは、画像処理装置100に対して任意のネットワークを介して接続されたアプリケーションプログラムサーバに記憶されていてもよく、必要に応じてその全部または一部をダウンロードすることも可能である。
また、本発明に係るプログラムを、コンピュータ読み取り可能な記録媒体に格納してもよく、また、プログラム製品として構成することもできる。ここで、この「記録媒体」とは、メモリーカード、USBメモリ、SDカード、フレキシブルディスク、光磁気ディスク、ROM、EPROM、EEPROM、CD−ROM、MO、DVD、および、Blu−ray(登録商標) Disc等の任意の「可搬用の物理媒体」を含むものとする。
また、「プログラム」とは、任意の言語や記述方法にて記述されたデータ処理方法であり、ソースコードやバイナリコード等の形式を問わない。なお、「プログラム」は必ずしも単一的に構成されるものに限られず、複数のモジュールやライブラリとして分散構成されるものや、OSに代表される別個のプログラムと協働してその機能を達成するものをも含む。なお、実施形態に示した各装置において記録媒体を読み取るための具体的な構成、読み取り手順、あるいは、読み取り後のインストール手順等については、周知の構成や手順を用いることができる。
記憶部106に格納される各種のデータベース等は、RAMもしくはROM等のメモリ装置、ハードディスク等の固定ディスク装置、フレキシブルディスク、および/または、光ディスク等のストレージ手段であり、各種処理やウェブサイト提供に用いる各種のプログラム、テーブル、データベース、および/または、ウェブページ用ファイル等を格納してもよい。
また、画像処理装置100は、既知のパーソナルコンピュータ等の情報処理装置として構成してもよく、また、該情報処理装置に任意の周辺装置を接続して構成してもよい。また、画像処理装置100は、該情報処理装置に本発明の方法を実現させるソフトウェア(プログラム、データ等を含む)を実装することにより実現してもよい。
更に、装置の分散・統合の具体的形態は図示するものに限られず、その全部または一部を、各種の付加等に応じて、または、機能負荷に応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。すなわち、上述した実施形態を任意に組み合わせて実施してもよく、実施形態を選択的に実施してもよい。
以上のように、画像処理装置、画像処理方法、および、プログラムは、産業上の多くの分野、特にスキャナまたはカメラで読み込んだ画像を扱う画像処理分野で実施することができ、極めて有用である。
100 画像処理装置
102 制御部
102a 画像取得部
102b エッジ検出部
102c 先端スキュー検出部
102d 先端スキュー補正部
102e エッジスキュー検出部
102f コンテンツ検出部
102g コンテンツスキュー検出部
102h 累積スキュー検出部
102i 累積スキュー補正部
102j 画像出力部
106 記憶部
106a 画像データファイル
108 インターフェース部
112 入出力部
200 画像読取装置

Claims (18)

  1. 搬送路を備えた画像読取装置にて読み取られた読取画像の読取画像データを取得する画像取得手段と、
    前記読取画像に含まれる原稿画像のエッジを検出し、前記エッジの最長直線部分を延長した近似直線を取得するエッジ検出手段と、
    原稿の搬送方向の前記近似直線と、当該近似直線の前記最長直線部分を含む前記エッジと、が離れ始める当該近似直線上の位置をエッジスキュー発生位置候補として検出するエッジスキュー検出手段と、
    前記原稿画像中の方向を特定できるコンテンツである方向特定コンテンツを検出するコンテンツ検出手段と、
    前記搬送方向の近似直線と前記方向特定コンテンツとの角度である前方角度より、前記搬送方向の近似直線と前記搬送方向に対して当該方向特定コンテンツの後方にある方向特定コンテンツとの角度である後方角度が大きく、且つ、前記前方角度が、最初に所定角度以上となる当該近似直線上の位置をコンテンツスキュー発生位置候補として検出するコンテンツスキュー検出手段と、
    前記エッジスキュー発生位置候補および前記コンテンツスキュー発生位置候補に基づいて、累積スキュー発生位置を検出する累積スキュー検出手段と、
    前記搬送方向に対して前記累積スキュー発生位置後方の原稿後方画像を歪み補正し、累積スキュー補正画像データを取得する累積スキュー補正手段と、
    を備えたことを特徴とする、画像処理装置。
  2. 前記コンテンツスキュー検出手段は、
    前記搬送方向の近似直線と矩形状の図形領域の辺との角度である前記前方角度より、前記搬送方向の近似直線と前記搬送方向に対して当該矩形状の図形領域の後方にある前記方向特定コンテンツとの角度である前記後方角度が大きく、且つ、前記前方角度が、最初に前記所定角度以上となる当該近似直線上の位置を前記コンテンツスキュー発生位置候補として検出する、請求項1に記載の画像処理装置。
  3. 前記コンテンツスキュー検出手段は、
    前記搬送方向の近似直線と罫線との角度である前記前方角度より、前記搬送方向の近似直線と前記搬送方向に対して当該罫線の後方にある前記方向特定コンテンツとの角度である前記後方角度が大きく、且つ、前記前方角度が、最初に前記所定角度以上となる当該近似直線上の位置を前記コンテンツスキュー発生位置候補として検出する、請求項1に記載の画像処理装置。
  4. 前記コンテンツスキュー検出手段は、
    前記搬送方向の近似直線と文字列との角度である前記前方角度より、前記搬送方向の近似直線と前記搬送方向に対して当該文字列の後方にある前記方向特定コンテンツとの角度である前記後方角度が大きく、且つ、前記前方角度が、最初に前記所定角度以上となる当該近似直線上の位置を前記コンテンツスキュー発生位置候補として検出する、請求項1に記載の画像処理装置。
  5. 前記コンテンツ検出手段は、
    前記原稿画像中の前記文字列を検出し、前記文字列を回転させながら、前記搬送方向の近似直線に平行な線分および水平な線分から構成される前記文字列の外接矩形の面積を算出し、前記面積が最小になる回転角度を特定することで、前記搬送方向の近似直線と前記文字列との前記角度を検出する、請求項4に記載の画像処理装置。
  6. 前記コンテンツ検出手段は、
    前記原稿画像中の前記文字列を検出し、前記文字列を回転させながら、前記文字列に対してOCR処理を行い、文字認識精度が最も高くなる回転角度を特定することで、前記搬送方向の近似直線と前記文字列との前記角度を検出する、請求項4に記載の画像処理装置。
  7. 前記累積スキュー検出手段は、
    前記エッジスキュー発生位置候補と前記コンテンツスキュー発生位置候補とが存在し、且つ、両検出位置間の距離が所定距離以内の場合、前記搬送方向に対して後方にある候補を、前記累積スキュー発生位置として検出する、請求項1から6のいずれか一つに記載の画像処理装置。
  8. 前記累積スキュー検出手段は、
    前記エッジスキュー検出手段により前記エッジスキュー発生位置候補が検出され、且つ、前記コンテンツ検出手段により前記方向特定コンテンツが検出されなかった場合、前記エッジスキュー発生位置候補を、前記累積スキュー発生位置として検出する、請求項1から6のいずれか一つに記載の画像処理装置。
  9. 前記累積スキュー検出手段は、
    前記エッジスキュー検出手段により前記エッジスキュー発生位置候補が検出され、且つ、前記コンテンツスキュー検出手段により前記コンテンツスキュー発生位置候補が検出されなかった場合、前記エッジスキュー発生位置候補を、前記累積スキュー発生位置として検出する、請求項1から6のいずれか一つに記載の画像処理装置。
  10. 前記累積スキュー検出手段は、
    前記エッジスキュー検出手段により前記エッジスキュー発生位置候補が検出されず、且つ、前記コンテンツスキュー検出手段により前記コンテンツスキュー発生位置候補が検出された場合、前記コンテンツスキュー発生位置候補を、前記累積スキュー発生位置として検出する、請求項1から6のいずれか一つに記載の画像処理装置。
  11. 前記累積スキュー補正手段は、
    前記原稿後方画像を二つの扇形で囲まれた領域とみなし、当該扇形の弧を前記搬送方向の近似直線上に歪み補正し、前記累積スキュー補正画像データを取得する、請求項1から10のいずれか一つに記載の画像処理装置。
  12. 前記読取画像に対する全ての前記近似直線の傾きを検出することで、前記読取画像に対する前記原稿画像の傾きである先端スキューを検出する先端スキュー検出手段と、
    前記先端スキューに基づいて、前記原稿画像を正立補正する先端スキュー補正手段と、
    を更に備えた、請求項1から11のいずれか一つに記載の画像処理装置。
  13. 前記累積スキュー補正手段は、
    前記原稿後方画像を二つの扇形で囲まれた領域とみなし、当該扇形の弧を前記搬送方向の近似直線上に幾何変換により歪み補正し、前記累積スキュー補正画像データを取得する、請求項1から10のいずれか一つに記載の画像処理装置。
  14. 前記累積スキュー補正手段は、
    前記原稿後方画像を二つの扇形で囲まれた領域とみなし、短い方の弧を伸長させるように当該扇形の弧を前記搬送方向の近似直線上に幾何変換により歪み補正し、前記累積スキュー補正画像データを取得する、請求項1から10のいずれか一つに記載の画像処理装置。
  15. 前記累積スキュー補正手段は、
    前記原稿後方画像をレンズ歪み補正により歪み補正し、前記累積スキュー補正画像データを取得する、請求項1から10のいずれか一つに記載の画像処理装置。
  16. 前記コンテンツ検出手段は、
    更に、ハフ変換により前記コンテンツの直線要素を抽出する、請求項1から15のいずれか一つに記載の画像処理装置。
  17. 搬送路を備えた画像読取装置にて読み取られた読取画像の読取画像データを取得する画像取得ステップと、
    前記読取画像に含まれる原稿画像のエッジを検出し、前記エッジの最長直線部分を延長した近似直線を取得するエッジ検出ステップと、
    原稿の搬送方向の前記近似直線と、当該近似直線の前記最長直線部分を含む前記エッジと、が離れ始める当該近似直線上の位置をエッジスキュー発生位置候補として検出するエッジスキュー検出ステップと、
    前記原稿画像中の方向を特定できるコンテンツである方向特定コンテンツを検出するコンテンツ検出ステップと、
    前記搬送方向の近似直線と前記方向特定コンテンツとの角度である前方角度より、前記搬送方向の近似直線と前記搬送方向に対して当該方向特定コンテンツの後方にある方向特定コンテンツとの角度である後方角度が大きく、且つ、前記前方角度が、最初に所定角度以上となる当該近似直線上の位置をコンテンツスキュー発生位置候補として検出するコンテンツスキュー検出ステップと、
    前記エッジスキュー発生位置候補および前記コンテンツスキュー発生位置候補に基づいて、累積スキュー発生位置を検出する累積スキュー検出ステップと、
    前記搬送方向に対して前記累積スキュー発生位置後方の原稿後方画像を歪み補正し、累積スキュー補正画像データを取得する累積スキュー補正ステップと、
    を含むことを特徴とする、画像処理方法。
  18. 搬送路を備えた画像読取装置にて読み取られた読取画像の読取画像データを取得する画像取得ステップと、
    前記読取画像に含まれる原稿画像のエッジを検出し、前記エッジの最長直線部分を延長した近似直線を取得するエッジ検出ステップと、
    原稿の搬送方向の前記近似直線と、当該近似直線の前記最長直線部分を含む前記エッジと、が離れ始める当該近似直線上の位置をエッジスキュー発生位置候補として検出するエッジスキュー検出ステップと、
    前記原稿画像中の方向を特定できるコンテンツである方向特定コンテンツを検出するコンテンツ検出ステップと、
    前記搬送方向の近似直線と前記方向特定コンテンツとの角度である前方角度より、前記搬送方向の近似直線と前記搬送方向に対して当該方向特定コンテンツの後方にある方向特定コンテンツとの角度である後方角度が大きく、且つ、前記前方角度が、最初に所定角度以上となる当該近似直線上の位置をコンテンツスキュー発生位置候補として検出するコンテンツスキュー検出ステップと、
    前記エッジスキュー発生位置候補および前記コンテンツスキュー発生位置候補に基づいて、累積スキュー発生位置を検出する累積スキュー検出ステップと、
    前記搬送方向に対して前記累積スキュー発生位置後方の原稿後方画像を歪み補正し、累積スキュー補正画像データを取得する累積スキュー補正ステップと、
    をコンピュータに実行させるためのプログラム。
JP2016121139A 2016-06-17 2016-06-17 画像処理装置、画像処理方法、および、プログラム Active JP6200040B1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016121139A JP6200040B1 (ja) 2016-06-17 2016-06-17 画像処理装置、画像処理方法、および、プログラム
US15/283,689 US9848104B1 (en) 2016-06-17 2016-10-03 Image-processing apparatus, method, and computer program product for correcting skew in scanned images

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016121139A JP6200040B1 (ja) 2016-06-17 2016-06-17 画像処理装置、画像処理方法、および、プログラム

Publications (2)

Publication Number Publication Date
JP6200040B1 JP6200040B1 (ja) 2017-09-20
JP2017225090A true JP2017225090A (ja) 2017-12-21

Family

ID=59895742

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016121139A Active JP6200040B1 (ja) 2016-06-17 2016-06-17 画像処理装置、画像処理方法、および、プログラム

Country Status (2)

Country Link
US (1) US9848104B1 (ja)
JP (1) JP6200040B1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019193050A (ja) * 2018-04-23 2019-10-31 セイコーエプソン株式会社 画像処理装置、画像処理方法および画像処理プログラム
US10757281B1 (en) 2019-03-20 2020-08-25 Pfu Limited Image reading apparatus for executing image processing based on a reliability level according to a number of conveyance mechanisms clamping a medium
WO2024057498A1 (ja) * 2022-09-15 2024-03-21 マクセル株式会社 文字情報表示装置及び文字情報表示方法

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180019976A (ko) * 2016-08-17 2018-02-27 에스프린팅솔루션 주식회사 화상 형성 장치, 그의 스캔 이미지 보정 방법 및 비일시적 컴퓨터 판독가능 기록매체
JP6345224B1 (ja) * 2016-12-19 2018-06-20 株式会社Pfu 画像処理装置、矩形検出方法及びコンピュータプログラム
US10855865B2 (en) * 2017-11-30 2020-12-01 Ricoh Company, Ltd. Reading device, image forming apparatus, position detecting method, and recording medium storing program code
US10868940B2 (en) * 2018-09-04 2020-12-15 Toshiba Tec Kabushiki Kaisha Duplex scanning content alignment
JP7196474B2 (ja) * 2018-09-05 2022-12-27 セイコーエプソン株式会社 読取り装置およびプログラム
JP2020086847A (ja) 2018-11-22 2020-06-04 株式会社Pfu 画像処理装置、制御方法及び制御プログラム
JP7211238B2 (ja) * 2019-04-16 2023-01-24 株式会社リコー エッジ検出装置、傾き補正装置、読取装置、画像処理装置およびエッジ検出方法
US11087448B2 (en) * 2019-05-30 2021-08-10 Kyocera Document Solutions Inc. Apparatus, method, and non-transitory recording medium for a document fold determination based on the change point block detection
JP7206157B2 (ja) * 2019-05-31 2023-01-17 株式会社Pfu 画像読取装置、制御方法及び制御プログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004048633A (ja) * 2002-05-15 2004-02-12 Ricoh Co Ltd 画像補正装置、プログラム、記憶媒体及びページ外形の直線部分と曲線部分の境界点の検出方法
JP2008234223A (ja) * 2007-03-19 2008-10-02 Ricoh Co Ltd 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP2012253776A (ja) * 2011-06-06 2012-12-20 Toshiba Corp 画像形成装置及び画像処理プログラム
JP2014195148A (ja) * 2013-03-28 2014-10-09 Pfu Ltd 画像処理装置、領域決定方法及びコンピュータプログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5497236A (en) * 1993-06-23 1996-03-05 Ricoh Company Ltd. Method and apparatus for distortion correction of scanned images
JP3108979B2 (ja) * 1994-07-28 2000-11-13 セイコーエプソン株式会社 画像処理方法および画像処理装置
JP3311551B2 (ja) 1995-09-26 2002-08-05 日本電信電話株式会社 イメージデータ入力処理方法およびその装置
US8270044B2 (en) * 2006-10-26 2012-09-18 Samsung Electronics Co., Ltd. Scanning apparatus having image correction function
JP5755089B2 (ja) * 2011-09-08 2015-07-29 株式会社Pfu 画像処理装置、画像処理方法、画像処理プログラム及び画像処理システム
CN104657730B (zh) 2013-11-20 2018-01-05 富士通株式会社 文档图像的校正装置、方法以及扫描仪
JP5698396B1 (ja) * 2014-03-05 2015-04-08 株式会社Pfu 画像読取装置、画像読取方法、および、プログラム
JP6152821B2 (ja) 2014-03-31 2017-06-28 ブラザー工業株式会社 画像処理装置、および、コンピュータプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004048633A (ja) * 2002-05-15 2004-02-12 Ricoh Co Ltd 画像補正装置、プログラム、記憶媒体及びページ外形の直線部分と曲線部分の境界点の検出方法
JP2008234223A (ja) * 2007-03-19 2008-10-02 Ricoh Co Ltd 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP2012253776A (ja) * 2011-06-06 2012-12-20 Toshiba Corp 画像形成装置及び画像処理プログラム
JP2014195148A (ja) * 2013-03-28 2014-10-09 Pfu Ltd 画像処理装置、領域決定方法及びコンピュータプログラム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019193050A (ja) * 2018-04-23 2019-10-31 セイコーエプソン株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP7047568B2 (ja) 2018-04-23 2022-04-05 セイコーエプソン株式会社 画像処理装置、画像処理方法および画像処理プログラム
US10757281B1 (en) 2019-03-20 2020-08-25 Pfu Limited Image reading apparatus for executing image processing based on a reliability level according to a number of conveyance mechanisms clamping a medium
WO2024057498A1 (ja) * 2022-09-15 2024-03-21 マクセル株式会社 文字情報表示装置及び文字情報表示方法

Also Published As

Publication number Publication date
US9848104B1 (en) 2017-12-19
US20170366705A1 (en) 2017-12-21
JP6200040B1 (ja) 2017-09-20

Similar Documents

Publication Publication Date Title
JP6200040B1 (ja) 画像処理装置、画像処理方法、および、プログラム
JP5698396B1 (ja) 画像読取装置、画像読取方法、および、プログラム
US9420137B2 (en) Image-reading apparatus, image-processing method, and computer program product
US8139897B2 (en) Detecting tilt in an image having different resolutions in different directions
JP4694613B2 (ja) 原稿方向判定装置、原稿方向判定方法、プログラムおよびその記録媒体
JP2018046360A (ja) 画像処理装置、方法およびプログラム
JP4752694B2 (ja) 画像抽出装置
JP6471423B2 (ja) 読取装置およびプログラム
JP2017161969A (ja) 文字認識装置、方法およびプログラム
JP2016005186A (ja) 画像読取装置
US9110926B1 (en) Skew detection for vertical text
JP2011166778A (ja) 画像形成装置、画像補正方法およびそのプログラム
US11657632B2 (en) Image processing device, image reading device, image processing method, and non-transitory computer readable medium, using two pieces of image data
JP5821994B2 (ja) 画像処理装置、画像形成装置およびプログラム
JP4281236B2 (ja) 画像認識装置、画像認識方法、および、画像認識プログラムを記憶したコンピュータ読取り可能な記録媒体
JP7196474B2 (ja) 読取り装置およびプログラム
JP2009284190A (ja) 画像読み取り装置および画像読み取りシステム
JP6677209B2 (ja) 画像処理装置、処理方法、プログラム
JP3709991B2 (ja) 楽譜認識装置
JPH11250179A (ja) 文字認識装置および文字認識方法
JP2020149184A (ja) 情報処理装置、その制御方法及びプログラム
JP6950237B2 (ja) コンピュータプログラム及び画像処理装置
CN110569847B (zh) 一种文字倾斜角度确定方法、文字倾斜纠正方法和计算机
JP3613356B2 (ja) 楽譜認識装置
JP2004241827A (ja) 画像処理装置、画像処理方法、画像処理プログラムおよび記憶媒体

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170822

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170824

R150 Certificate of patent or registration of utility model

Ref document number: 6200040

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150