JP6628442B2 - テキスト画像処理方法および装置 - Google Patents

テキスト画像処理方法および装置 Download PDF

Info

Publication number
JP6628442B2
JP6628442B2 JP2017559607A JP2017559607A JP6628442B2 JP 6628442 B2 JP6628442 B2 JP 6628442B2 JP 2017559607 A JP2017559607 A JP 2017559607A JP 2017559607 A JP2017559607 A JP 2017559607A JP 6628442 B2 JP6628442 B2 JP 6628442B2
Authority
JP
Japan
Prior art keywords
character
blocks
height
pixels
text image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017559607A
Other languages
English (en)
Other versions
JP2018519574A (ja
Inventor
▲龍▼沙 周
▲龍▼沙 周
▲紅▼法 王
▲紅▼法 王
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Publication of JP2018519574A publication Critical patent/JP2018519574A/ja
Application granted granted Critical
Publication of JP6628442B2 publication Critical patent/JP6628442B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • G06V10/267Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/148Segmentation of character regions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/148Segmentation of character regions
    • G06V30/15Cutting or merging image elements, e.g. region growing, watershed or clustering-based techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/148Segmentation of character regions
    • G06V30/153Segmentation of character regions using recognition of characters or words
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/18Extraction of features or characteristics of the image
    • G06V30/18086Extraction of features or characteristics of the image by performing operations within image blocks or by using histograms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/414Extracting the geometrical structure, e.g. layout tree; Block segmentation, e.g. bounding boxes for graphics or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Geometry (AREA)
  • Computer Graphics (AREA)
  • Artificial Intelligence (AREA)
  • Character Input (AREA)

Description

本開示は、その全体が参照により本明細書に組み込まれる、2016年1月5日に中国国家知識産権局に出願された「TEXT IMAGE PROCESSING METHOD AND APPARATUS」と題する中国特許出願第201610004431.4号の優先権を主張するものである。
本開示は、文字認識の技術分野に関し、詳細には、テキスト画像処理方法およびテキスト画像処理装置に関する。
文字認識の分野では、文字セグメント化は、テキスト画像処理における重要なステップであり、画像内でテキスト領域を取得する際、文字の位置において文字に対するセグメント化を実行することによって主に実装される。
従来の文字セグメント化方法には、射影セグメント化方法、クラスタリング方法、およびテンプレートマッチング方法が含まれる。射影セグメント化方法によれば、画像は、2値画像を得るために前処理され、文字がある領域が、2値画像上の射影ベースによって判別される。文字の連結領域が使用されるクラスタリング方法によれば、連結領域内の文字ブロックは、ページ全体において文字の分布特徴に基づいて結合される。テンプレートマッチング方法は、主に、特定のフォントまたは特定の文字に適用されるものであり、広く使用されるものではない。
上記の文字セグメント化方法では、文字は、ある程度、セグメント化することができる。しかし、これらの方法は、通常、実際的な適用において制限される。一方において、射影セグメント化方法では、文字が傾いている場合、複数の文字が全体としてセグメント化されるという問題が発生する可能性があり、他方、テンプレートマッチング方法は、特定のテキスト環境にのみ適用でき、利用可能性の低下を招く。
一方、文字セグメント化が連結領域に基づいて実行されるクラスタリング方法では、文字セグメント化は、取得された文字にストローク割れ(stroke fracture)現象またはストローク結合(stroke cohesion)現象が存在する場合、実装することができない。
したがって、上記の文字セグメント化方法には、多くの問題があり、特に、これらの方法は、実際的な適用において制限され、多用途性および精度の低さを招く。
上記に基づき、テキスト画像処理方法およびテキスト画像処理装置が、本開示において提供される。方法および装置によって、文字セグメント化の多用途性および精度が改善され得る。
2値画像を得るために、テキスト画像を前処理するステップであって、2値画像が、複数の連結領域を含む、ステップと、
複数の連結領域のそれぞれに対応する凸包を、凸包アルゴリズムを用いて取得するステップと、凸包に外接する文字領域を取得するステップと、
複数の文字ブロックを得るために、取得された文字領域上で文字セグメント化を実行するステップと、
テキスト画像のワードブロック(word block)を得るために、文字ブロックを文字ブロックの高さに基づいて結合するステップと
を含む、テキスト画像処理方法が提供される。
2値画像を得るために、テキスト画像を前処理するように構成された前処理モジュールであって、2値画像が、複数の連結領域を含む、前処理モジュールと、
複数の連結領域のそれぞれに対応する凸包を、凸包アルゴリズムを用いて取得するとともに、凸包に外接する文字領域を取得するように構成された凸包取得モジュールと、
複数の文字ブロックを得るために、取得された文字領域上で文字セグメント化を実行するように構成されたセグメント化モジュールと、
テキスト画像のワードブロックを得るために、文字ブロックを文字ブロックの高さに基づいて結合するように構成された結合モジュールと
を含む、テキスト画像処理装置が提供される。
テキスト画像処理において、2値画像および2値画像における複数の連結領域が、前処理によってまず得られ、複数の連結領域のそれぞれに対応する凸包が、凸包アルゴリズムを用いて取得されるとともに凸包に外接する文字領域が取得され、文字セグメント化が、2値画像に分布した複数の文字ブロックを得るために、文字領域上で実行され、文字ブロックが、テキスト画像のワードブロックを得るために、文字ブロックの高さに基づいて結合されると、上記の技術的解決策から理解することができる。テキスト画像処理において、文字セグメント化が実行され、結合が、文字ブロックの高さに基づいて実行され、したがっていくつかの密着した文字がセグメント化されるとともに文字行においてアップダウン構造(up-down structure)をもつ文字のセグメント化が防止され、それによって文字セグメント化の精度を改善する。さらに、プロセスは、テキスト内の文字分布および文字の高さに基づいて、プロセスにおいて無制限に実行され、それによって文字セグメント化の多用途性を改善する。
本開示の一実施形態による電子デバイスの概略構造図である。 本開示の一実施形態によるテキスト画像処理方法を示す流れ図である。 本開示の一実施形態による、2値画像において複数の文字ブロックを得るために文字領域上で文字セグメント化を実行するための方法を示す流れ図である。 本開示の一実施形態による、文字の連結部分を位置決めするための方法を示す流れ図である。 本開示の一実施形態による、2つの文字を含む文字領域の概略図である。 図5の文字領域において位置決めすることによって得られる連結部分の概略図である。 図5の文字領域をセグメント化することによって得られる文字ブロックの概略図である。 本開示の一実施形態による、テキスト画像のワードブロックを得るために文字ブロックを文字ブロックの高さに基づいて結合するための方法を示す流れ図である。 本開示の一実施形態によるテキスト画像処理装置の概略構造図である。 本開示の一実施形態によるセグメント化モジュールの概略構造図である。 本開示の一実施形態による連結位置決めユニットの概略構造図である。 本開示の一実施形態による結合モジュールの概略構造図である。
本開示の特徴および利点を具体化する例示的実施形態を以下の説明で詳しく述べる。本開示は様々な実施形態において本開示の範囲から逸脱することなく様々な変更を有することができ、説明および例示は例示のみを目的とし、本開示を限定するものとして解釈されるべきではないことを理解されたい。
射影セグメント化方法、クラスタリング方法、テンプレートマッチング方法などの前述の文字セグメント化方法を採用するテキスト認識のアプリケーションでは、文字セグメント化の精度は、一定のシナリオにおいてのみ高く、一方、他のシナリオにおいては低く、それによってテキスト認識アプリケーションにおけるコンテンツ認識の精度に影響を与える。
多用途性および精度を改善するために、テキスト画像処理方法およびテキスト画像処理装置が、本開示において提供される。方法は、2値画像を得るために、テキスト画像を前処理するステップであって、2値画像が、複数の連結領域を含む、ステップと、複数の連結領域のそれぞれに対応する凸包を、凸包アルゴリズムを用いて取得するステップと、凸包に外接する文字領域を取得するステップと、複数の文字ブロックを得るために、取得された文字領域上で文字セグメント化を実行するステップと、文字ブロックを文字ブロックの高さに基づいて結合するステップとを含む。
図1は、本開示の一実施形態による電子デバイスの構造を示す。電子デバイス100は、単に本開示に適用可能な例であって、本開示の適用可能な範囲を限定するものとして見なされるべきではない。
図1に示すように、電子デバイス100は、プロセッサ110、メモリ120、およびシステムバス130を備える。メモリ120およびプロセッサ110を含む様々な構成要素が、システムバス130に連結されている。プロセッサ110は、コンピュータシステムにおける基本的な算術論理演算によってコンピュータプログラム命令を実行するように構成されたハードウェアデバイスである。メモリ120は、コンピュータプログラムまたはデータを一時的または恒久的に格納するように構成された物理デバイスである。
メモリ120は、プログラム命令および複数のテキスト画像を格納する。プロセッサ110は、テキスト画像を処理するために、メモリ120に格納されたプログラム命令を実行する。
電子デバイス100はさらに、様々な動作の入力を実現するために、様々なタイプの入力インタフェース170および入力装置140を備え、入力装置140は、タッチスクリーン、キー、キーボード、マウス、または他の入力装置のうちの少なくとも1つであり得る。
電子デバイス100はさらに、通信機能を実行するためのローカルエリアネットワークインタフェース150およびモバイル通信ユニット160を備えてもよい。
電子デバイス100はさらに、記憶デバイス180を備え、記憶デバイス180は、様々なコンピュータ可読記憶媒体から選択されてもよい。コンピュータ可読記憶媒体は、可動記憶媒体および固定記憶媒体を含む、アクセスされ得る任意の利用可能な媒体である。例えば、コンピュータ可読記憶媒体は、それに限定されるものではないが、フラッシュメモリ(マイクロSDカードなど)、CD-ROM、デジタル多用途ディスク(DVD)もしくは他の光ディスク、カセット、テープ記憶デバイスもしくは他の記憶デバイス、または所望の情報を格納でき、アクセスされ得る任意の他の媒体を含み得る。
電子デバイス100は、本開示の一実施形態によるテキスト画像処理において様々な演算を実行する、すなわち、メモリ120に格納されたプログラム命令をプロセッサ110が実行することによってテキスト画像処理方法のステップを実行することができる。
さらに、本開示は、ハードウェア回路またはハードウェア回路とソフトウェア命令の組合せによって実装することができる。したがって、本開示の実装は、いずれか特定のハードウェア回路、ソフトウェア、またはハードウェア回路とソフトウェアの組合せに限定されるものではない。
一実施形態では、テキスト画像処理方法は、図2に示されるようであり、以下のようにステップ210からステップ270を含む。
ステップ210では、テキスト画像が、2値画像を得るために前処理され、2値画像は、複数の連結領域を含む。
テキスト画像は、テキストコンテンツを含む任意の画像であり得る。テキスト画像は、テキストを構成する文字を含み、文字は、1つまたは複数の行に配列することができる。テキスト画像はさらに、文字行と他の隣接する文字行との間の空白、および文字と他の隣接する文字との間の句読点を含み得る。テキスト画像は、画像情報を明確に示すことができて複数の連結領域(連結ドメインとも呼ばれる)を含む2値画像を得るために前処理される。文字行の方向は、以下、説明の便宜上、水平方向と呼ばれる。
前処理するステップは、テキスト画像においてエッジを得るために、テキスト画像上で平滑化フィルタリングを実行してエッジを検出し、形態によって文字の分布領域を得、それによって文字の連結領域を得ることを含む。
言い換えれば、2値画像における複数の連結領域では、1つまたは複数の文字が、複数の連結領域のそれぞれに存在する。
ステップ230では、複数の連結領域のそれぞれに対応する凸包が、凸包アルゴリズムを用いて取得され、凸包に外接する文字領域が取得される。
連結領域のそれぞれに対応する凸包が、凸包アルゴリズムを用いて取得され、フレーム選択が、凸包に外接する文字領域を得るために、凸包に基づいて実行される。任意選択の実施形態では、連結領域のそれぞれに対応する最大凸包が、文字に関係する情報が除外されるのを防止するために、凸包アルゴリズムを用いて取得され、文字に関係する情報の完全性を確保する。
さらに、任意選択の実施形態では、凸包に外接する文字領域は、矩形領域、例えば、文字の輪郭に合うようにフレーム選択を凸包上で最小矩形を用いて実行することによって得られる矩形領域であり、それによってテキスト画像処理の精度を確保する。
連結領域に対応する複数の凸包では、凸包のそれぞれが、文字領域に対応し、したがって2値画像における複数の文字領域が得られる。
ステップ250では、文字セグメント化が、2値画像における複数の文字ブロックを得るために、取得された文字領域上で実行される。
水平方向での文字セグメント化が、文字領域のそれぞれにおいて互いに連結した文字をセグメント化するために、2値画像における複数の文字領域のそれぞれにおいて、テキストにおける文字の分布特徴に基づいて実行される。例えば、ストロークを介して相互に密着した文字が、文字ブロックを得るために、水平方向での文字セグメント化によって分離される。
文字セグメント化が実行された後、2値画像における複数の文字ブロックが得られる。水平方向での文字セグメント化によって、単一文字に対応する文字ブロックが、できるだけ得られる。
ステップ270では、文字ブロックが、テキスト画像のワードブロックを得るために、文字ブロックの高さに基づいて結合される。
2値画像における文字ブロックを得た後、文字ブロックが、2値画像におけるすべての文字ブロックの高さに基づいて結合され、したがって同じ文字行においてアップダウン構造を相互に形成する文字ブロックが結合される。
文字領域が水平方向に最大限度十分に細かくセグメント化される場合、2つの部分にセグメント化された文字ブロックは、文字ブロックの高さに基づいて結合することによって、互いに結合され、それによってその後の認識率を高める。
上記のプロセスでは、水平方向での文字セグメント化と文字ブロックの結合の連係の下で、テキスト画像における文字行のそれぞれが、できるだけ単一文字を得るのに十分に細かくセグメント化され、次いで、結合が実行され、したがって同じ文字行においてアップダウン構造をもって全体を構成する文字ブロックが互いに結合され、それによってその後の文字認識を促進する。
上記のプロセスでは、いくつかの他の因子に依存することなく、文字の特性が利用されている。したがって、文字セグメント化プロセスの多用途性が、大幅に改善され、したがって上記のテキスト画像処理方法を実行するテキスト認識アプリケーションの多用途性および精度もまた、大幅に改善される。
一実施形態では、ステップ250は、図3に示されるようであり、ステップ250は、以下のようにステップ251およびステップ253を含む。
ステップ251では、文字の連結部分が、文字領域において位置決めされる。
連結領域における凸包に基づいて得られる文字領域は、フレーム選択を文字上で実行することによって得られる予備段階の結果である。相互に密着した文字は通常、文字領域に存在する。本開示の一実施形態によれば、文字の連結部分が、文字領域における文字をセグメント化するために、垂直方向に位置決めされる。
連結部分が文字領域において位置決めすることによって得られる場合、相互に密着した文字は文字領域に存在し、水平方向でのセグメント化を文字領域において連結部分に基づいて実行することが必要である。
ステップ253では、文字領域が、2値画像における複数の文字ブロックを得るために、連結部分に基づいてセグメント化される。
具体的には、文字領域上で連結部分に基づいて実行されるセグメント化は、連結部分に対応する画素値を0に設定することによって実装することができる。
文字ブロックは、文字領域を水平方向にセグメント化することによって得られ、また文字領域ができるだけ細かくセグメント化される場合に対応する。一方では、文字領域は、水平方向に連結部分に基づいてセグメント化されて、文字連結領域においてセグメント化された少なくとも2つの文字ブロックを得る。他方では、連結部分がまったく存在しない文字領域の場合、文字領域は、文字ブロックとして判別される。
したがって、上記のプロセスでは、文字領域は、2値画像に分布した複数の文字ブロックを得るためにセグメント化され、したがって、文字セグメント化は十分に細かく、文字行のそれぞれにおいてセグメント化された文字ブロックのそれぞれは単一文字に対応し、文字セグメント化の精度を大幅に改善する。
さらに、一実施形態では、図4に示すように、ステップ251は、以下のようにステップ2511からステップ2515を含む。
ステップ2511では、文字領域における画素の各列における隣接する画素の画素値が、画素の各列における前景部分に属する連続する画素の数を得るために比較される。
2値画像における複数の文字領域では、文字領域のそれぞれが、複数の画素を含む。したがって、連結部分は、2値画像における複数の文字領域のそれぞれで列において位置決めされる。
位置決めプロセスでは、文字領域における画素の各列に対して、画素の列における前景部分に属する連続する画素が、隣接する画素の画素値を比較することによって取得される。前景部分は、画素の画素値が1である部分であり、また画素の各列における前景部分に属する連続する画素は、画素の列において、その画素値が1である連続する画素を指す。
ステップ2513では、画素の各列に対して、前景部分に属する連続する画素の数が、プリセット数以下であるかどうかが判別される。前景部分に属する連続する画素の数が、プリセット数以下である場合、プロセスはステップ2515に進み、そうでない場合、プロセスは終了する。
ステップ2515では、前景部分に属する連続する画素が、文字の連結部分として判別される。
列において連結部分を位置決めする際には、プリセット数が、連結部分を認識するために使用され、そこでプリセット数は、経験に従ってあらかじめ決定することができる。
画素の列における前景部分に属する連続する画素の数が、プリセット数(例えば、プリセット数は3である場合がある)以下である場合、前景部分に属するこれらの連続する画素は、文字の連結部分として判別される。
具体的には、連結部分を位置決めする際には、2値画像における複数の文字領域に対して、文字領域の高さおよび幅(画素の数によって表される)が、まず計算される。一実施形態では、矩形領域の高さおよび幅が計算される。以下において、説明は、iおよびjが1≦i≦rect_widthおよび1≦j≦rect_hightとして定義される、幅rect_widthおよび高さrect_hightを用いて行われる。
文字領域のうちのいずれか1つでは、jはj=1として初期設定され、そしてi番目の列の画素が抽出されて、i番目の列における画素の画素値image(i,1≦j≦rect_hight)を得る。
i番目の列における画素の中で、画素の画素値image(i,j)が、画素の画素値image(i,j+1)と比較される。画素値が0から1へ変わるか、1から1へ変わる場合、列における、その画素値が1である画素の数を表しているline_num_1に対応する値は増加し、すなわち、line_num_1=line_num_1+1となる。
したがって、i番目の列における画素のline_num_1に対応する値が得られ、その値は、画素のi番目の列における前景部分に属する連続する画素の数である。
line_num_1に対応する値がプリセット数m以下かどうかが判別される。line_num_1に対応する値がプリセット数m以下である場合、これらの連続する画素は、文字の連結部分として判別される。この場合、セグメント化は、現在の列における画素の画素値を0に設定することによって実装することができる。
画素のi番目の列に対する比較および判別が完了した後、比較および判別は、文字領域全体の連結部分が、i=rect_widthの場合の水平方向において位置決めされるまで、画素の(i+1)番目の列などに対して実行される。
例えば、図5に示すように、2つの文字「S」および「a」を含む文字領域310では、文字領域310における連結部分330が、図6に示すように、連結部分を文字領域310上で位置決めする、すなわち、3つの連続する画素を垂直方向において得る(3つの連続する画素が同じ列内にある)ことによって得られ、また3つの連続する画素に対応する画素値は、1である。
2つの文字ブロックが、図7に示すように、文字領域を連結部分に基づいてセグメント化することによって得られ、2つの文字ブロックとはすなわち、文字「S」が位置する文字ブロック410および文字「a」が位置する文字ブロック430である。
一実施形態では、図8に示すように、ステップ270は、以下のようにステップ271からステップ277を含む。
ステップ271では、2値画像における文字ブロックの高さが、2値画像における文字ブロックの高さ分布を得るために計算される。
任意選択で、ステップ271では、2値画像における文字ブロックの合計高さ、すなわち、2値画像におけるすべての文字ブロックの高さの合計がさらに計算される。
上述のように、2値画像は、複数の文字ブロックを含む。文字ブロックのうちのいずれか1つでは、その高さが、2値画像における文字ブロックのそれぞれに対応する高さを得るために計算される。さらに、2値画像における文字ブロックの高さ分布が、2値画像において同じ高さを有する文字ブロックの数に対して統計処理を実行することによって得られる。
具体的には、統計処理が、2値画像におけるすべての文字ブロックの高さに対して実行され、同じ高さを有する文字ブロックがグループにまとめられ、各グループにおける文字ブロックの数が数えられる。例えば、2値画像の各グループにおける文字ブロックの高さが、配列static_height[n]によって表され、そしてそれに対応して、各高さに対応する文字ブロックの数が、1≦nである配列num_rect[n]に格納される。
ステップ273では、得られた2値画像における文字ブロックの高さ分布に基づいて、どの文字ブロックの高さの合計の、2値画像における文字ブロックの合計高さに対する比がプリセット値を超えるかが判別される。
言い換えれば、ターゲット文字ブロックが、2値画像における文字ブロックから選択され、ターゲット文字ブロックの高さの合計の、2値画像における文字ブロックの合計高さに対する比がプリセット値を超える。
例えば、グループにおける文字ブロックの高さの合計の、2値画像におけるすべての文字ブロックの高さの合計に対する比がプリセット値より大きいように、いくつかのグループが判別される。プリセット値は、80%など、50%より大きい値であってもよい。
具体的には、配列static_height[n]が、num_rect[n]の降順に、または昇順に並べられた配列static_height[n]を得るために、まず最大のnum_rect[n]から、または最小のnum_rect[n]から順番に並べられ得る。
高さの合計sum_heightが、2値画像における文字ブロックの高さおよび文字ブロックの数に基づいて計算されることによって取得される。
例えば、文字ブロックの最初のk個の高さが、上記の順番に抽出され、文字ブロックの抽出された高さは、以下の式、
(num_rect_h[1]*static_height[1]+num_rect_h[2]*static_height[2]+…+num_rect_h[k]*static_height[k])/sum_height≧0.8
を最初に真とするstatic_height[1]、…、static_height[k]である。
ステップ275では、ターゲット文字ブロックの高さ平均値が計算される。
このステップでは、高さ平均値は、ステップ273において選択された文字ブロックおよびそれらの文字ブロックの高さの合計に基づいて計算される。
得られた高さstatic_height[1]、…、static_height[k]の平均値が計算され、高さ平均値height_avg、すなわち、
(num_rect_h[1]*static_height[1]+num_rect_h[2]*static_height[2]+…+num_rect_h[k]*static_height[k])/k=height_avg
を得る。
ステップ277では、同じ文字行にあって水平方向に相互に重なり合う文字ブロックが、テキスト画像のワードブロックを得るために、2値画像において、高さ平均値に基づいて結合される。
高さ平均値が計算される。2値画像における任意の文字行では、2つの文字ブロックの高さの合計が高さ平均値より小さいとともに、2つの文字ブロックが水平方向に相互に重なり合う場合、2つの文字ブロックは結合される。
言い換えれば、以下の2つの条件が、2値画像における文字ブロックの結合プロセスにおいて満たされる必要がある。すなわち、
条件1:|middle_rect_x(i)-middle_rect_x(k)|-(middle_rect_width(i)+middle_rect_width(k))/2<0、および
条件2:rect_height(i)+rect_height(k)≦height_avgであり、
式中、1≦i≦mであり、mは文字ブロックの数を表し、middle_rect_x(i)はx軸上のi番目の文字ブロックの中心の座標を表し、middle_rect_width(i)はi番目の文字ブロックの幅を表し、rect_height(i)はi番目の文字ブロックの高さを表す。
i番目の文字ブロックが、残りの文字ブロックと比較される。k番目の文字ブロックと現在のi番目の文字ブロックの高さの合計が高さ平均値より小さいとともに、k番目の文字ブロックおよびi番目の文字ブロックが水平方向に相互に重なり合う場合、上記の2つの条件が満たされる。
したがって、2つの文字ブロックは結合されるべきであると見なされる。
上記のプロセスでは、アップダウン構造を有し、文字ブロックの高さの合計が高さ平均値より小さい文字ブロックは適切に結合され、水平方向において文字ブロックの分布を確保し、したがって水平方向における文字ブロックは、その後の認識プロセスにおいて、適切に組み合わせ、認識することができる。
一実施形態では、上述の方法はさらに、ワードブロックを含むテキスト画像を認識することを含む。テキスト画像を認識する際には、ワードブロックは、テキスト画像のテキストコンテンツを得るために、ワードブロックの順序に基づいて組み合わせられる。
このプロセスでは、戦略が、ワードブロックを認識アルゴリズムにおいて処理するための要件に基づいて設定される。例えば、選択的結合が、ワードブロック上で実行され、そこで選択的結合は、文字行におけるブロックの平均幅および平均高さに基づいて、狭すぎるいくつかの隣接するブロックを結合する、または広すぎるいくつかのワードブロック上でより細かいセグメント化を実行することを指す。
採用される認識アルゴリズムは、抽出が、グレーレベル画像の階調度の特徴や文字のHOGの特徴などの文字の特徴に基づく、認識アルゴリズムであり得ることに留意されたい。
一実施形態では、テキスト画像処理装置が提供される。図9に示すように、テキスト画像処理装置は、前処理モジュール510、凸包取得モジュール530、セグメント化モジュール550、および結合モジュール570を備える。
前処理モジュール510は、2値画像を得るために、テキスト画像を前処理するように構成され、そこで2値画像は、複数の連結領域を含む。
凸包取得モジュール530は、複数の連結領域のそれぞれに対応する凸包を、凸包アルゴリズムを用いて取得するとともに、凸包に外接する文字領域を取得するように構成される。
セグメント化モジュール550は、2値画像における複数の文字ブロックを得るために、取得された文字領域上で文字セグメント化を実行するように構成される。
結合モジュール570は、テキスト画像のワードブロックを得るために、文字ブロックを文字ブロックの高さに基づいて結合するように構成される。
一実施形態では、図10に示すように、セグメント化モジュール550は、連結位置決めユニット551およびセグメント化実行ユニット553を備える。
連結位置決めユニット551は、文字の連結部分を文字領域において位置決めするように構成される。
セグメント化実行ユニット553は、2値画像における複数の文字ブロックを得るために、文字領域を連結部分に基づいてセグメント化するように構成される。
一実施形態では、図11に示すように、連結位置決めユニット551は、画素比較サブユニット5511および判別サブユニット5513を備える。
画素比較サブユニット5511は、画素の各列における前景部分に属する連続する画素の数を得るために、文字領域における画素の各列における隣接する画素の画素値を比較するように構成される。
判別サブユニット5513は、画素の各列における前景部分に属する連続する画素の数がプリセット数以下であるかどうかを判別するとともに、画素の列における前景部分に属する連続する画素の数がプリセット数以下である場合、画素の列における前景部分に属する連続する画素を文字の連結部分として判別するように構成される。
一実施形態では、図12に示すように、結合モジュール570は、分布統計ユニット571、画素選択ユニット573、平均値計算ユニット575、および結合実行ユニット577を備える。
分布統計ユニット571は、2値画像における文字ブロックの高さ分布を得るために、2値画像における文字ブロックの高さを計算するように構成される。任意選択で、分布統計ユニット571はさらに、文字ブロックの合計高さ、すなわち、2値画像におけるすべての文字ブロックの高さの合計を計算するように構成される。
画素選択ユニット573は、得られた2値画像における文字ブロックの高さ分布に基づいて、どの文字ブロックの高さの合計の、2値画像における文字ブロックの合計高さに対する比が所定の値を超えるかを判別するように構成される。言い換えれば、画素選択ユニット573は、ターゲット文字ブロックを文字ブロックから選択し、そこでは、ターゲット文字ブロックの高さの合計の、文字ブロックの合計高さに対する比がプリセット値を超えるように構成される。
平均値計算ユニット575は、ターゲット文字ブロックの高さ平均値を計算するように構成される。
結合実行ユニット577は、2値画像において同じ文字行にあって水平方向に相互に重なり合う文字ブロックを、テキスト画像のワードブロックを得るために、高さ平均値に基づいて結合するように構成される。
一実施形態では、上述の装置はさらに、認識モジュールを備える。認識モジュールは、ワードブロックを含むテキスト画像を認識するように構成される。テキスト画像を認識する際には、ワードブロックは、テキスト画像のテキストコンテンツを得るために、ワードブロックの順序に基づいて組み合わせられる。
上記の実施形態のステップのすべてまたは一部は、ハードウェアによって実装できるか、ハードウェアにプログラムを用いて命令することよって実装できることを当業者なら理解することができる。プログラムは、コンピュータ可読記憶媒体に格納されてもよく、コンピュータ可読記憶媒体は、読出し専用メモリ、磁気ディスク、または光ディスクであってもよい。
本開示はいくつかの例示的実施形態を参照しながら説明されているが、本明細書で使用される用語は、説明的、また例示的であり、限定的ではないものとして理解されたい。本開示は、本開示の趣旨および本質から逸脱することなく、様々な方法で実装され得るので、上記の実施形態は、上述のいかなる詳細にも限定されないことが理解されるべきであり、また、添付の特許請求の範囲によって定義される趣旨および範囲の中で広く説明されるべきである。したがって、本特許請求の範囲の中に入るすべての変更および修正、またはその同等物は、添付の特許請求の範囲によって包含されるべきである。
100 電子デバイス
110 プロセッサ
120 メモリ
130 システムバス
140 入力装置
150 ローカルエリアネットワークインタフェース
160 モバイル通信ユニット
170 入力インタフェース
180 記憶デバイス
310 文字領域
330 連結部分
410 文字ブロック
430 文字ブロック
510 前処理モジュール
530 凸包取得モジュール
550 セグメント化モジュール
551 連結位置決めユニット
553 セグメント化実行ユニット
570 結合モジュール
571 分布統計ユニット
573 画素選択ユニット
575 平均値計算ユニット
577 結合実行ユニット
5511 画素比較サブユニット
5513 判別サブユニット

Claims (10)

  1. 2値画像を得るために、テキスト画像を前処理するステップであって、前記2値画像が、複数の連結領域を含む、ステップと、
    前記複数の前記連結領域のそれぞれに対応する凸包を、凸包アルゴリズムを用いて取得するステップと、
    前記凸包に外接する文字領域を取得するステップと、
    複数の文字ブロックを得るために、前記取得された文字領域上で文字セグメント化を実行するステップと、
    前記テキスト画像のワードブロックを得るために、前記文字ブロックを前記文字ブロックの高さに基づいて結合するステップと
    を含み、
    前記文字ブロックを前記文字ブロックの高さに基づいて結合する前記ステップが、
    前記文字ブロックの高さ分布および前記文字ブロックの合計高さを得るために、前記文字ブロックの前記高さを計算するステップと、
    ターゲット文字ブロックを前記文字ブロックから選択するステップであって、前記ターゲット文字ブロックの高さの合計の、前記文字ブロックの前記合計高さに対する比が、プリセット値を超える、ステップと、
    前記ターゲット文字ブロックの高さ平均値を計算するステップと、
    前記2値画像において同じ文字行にあって水平方向に相互に重なり合う文字ブロックを、前記高さ平均値に基づいて結合するステップと
    を含む、
    テキスト画像処理方法。
  2. 複数の文字ブロックを得るために、前記取得された文字領域上で文字セグメント化を実行する前記ステップが、
    文字の連結部分を前記文字領域において位置決めするステップと、
    前記複数の前記文字ブロックを得るために、前記文字領域を前記連結部分に基づいてセグメント化するステップと
    を含む、請求項1に記載の方法。
  3. 文字の連結部分を前記文字領域において位置決めする前記ステップが、
    画素の各列における前景部分に属する連続する画素の数を得るために、前記文字領域における前記画素の各列における隣接する画素の画素値を比較するステップと、
    前記画素の各列における前記前景部分に属する前記連続する画素の数がプリセット数以下であるかどうかを判別するとともに、前記画素の列における前記前景部分に属する前記連続する画素の数が前記プリセット数以下である場合、前記画素の前記列における前記前景部分に属する前記連続する画素を文字の前記連結部分として判別するステップと
    を含む、請求項2に記載の方法。
  4. 前記ワードブロックを、前記テキスト画像のテキストコンテンツを得るために、前記テキスト画像における前記ワードブロックの順序に基づいて組み合わせるステップをさらに含む、請求項1に記載の方法。
  5. 2値画像を得るために、テキスト画像を前処理するように構成された前処理モジュールであって、前記2値画像が、複数の連結領域を含む、前処理モジュールと、
    前記複数の前記連結領域のそれぞれに対応する凸包を、凸包アルゴリズムを用いて取得するとともに、前記凸包に外接する文字領域を取得するように構成された凸包取得モジュールと、
    複数の文字ブロックを得るために、前記取得された文字領域上で文字セグメント化を実
    行するように構成されたセグメント化モジュールと、
    前記テキスト画像のワードブロックを得るために、前記文字ブロックを前記文字ブロックの高さに基づいて結合するように構成された結合モジュールと
    を備え
    前記結合モジュールが、
    前記文字ブロックの高さ分布および前記文字ブロックの合計高さを得るために、前記文字ブロックの前記高さを計算するように構成された分布統計ユニットと、
    ターゲット文字ブロックを前記文字ブロックから選択するように構成された画素選択ユニットであって、前記ターゲット文字ブロックの高さの合計の、前記文字ブロックの前記合計高さに対する比が、プリセット値を超える、画素選択ユニットと、
    前記ターゲット文字ブロックの高さ平均値を計算するように構成された平均値計算ユニットと、
    前記2値画像において同じ文字行にあって水平方向に相互に重なり合う文字ブロックを、前記高さ平均値に基づいて結合するように構成された結合実行ユニットと
    を備える、
    テキスト画像処理装置。
  6. 前記セグメント化モジュールが、
    文字の連結部分を前記文字領域において位置決めするように構成された連結位置決めユニットと、
    前記複数の前記文字ブロックを得るために、前記文字領域を前記連結部分に基づいてセグメント化するように構成されたセグメント化実行ユニットと
    を備える、請求項5に記載の装置。
  7. 前記連結位置決めユニットが、
    画素の各列における前景部分に属する連続する画素の数を得るために、前記文字領域における前記画素の各列における隣接する画素の画素値を比較するように構成された画素比較サブユニットと、
    前記画素の各列における前記前景部分に属する前記連続する画素の数がプリセット数以下であるかどうかを判別するとともに、前記画素の列における前記前景部分に属する前記連続する画素の数が前記プリセット数以下である場合、前記画素の前記列における前記前景部分に属する前記連続する画素を文字の前記連結部分として判別するように構成された判別サブユニットと
    を備える、請求項6に記載の装置。
  8. 前記テキスト画像のテキストコンテンツを得るために、前記ワードブロックを、前記テキスト画像における前記ワードブロックの順序に基づいて組み合わせるように構成された認識モジュールをさらに備える、請求項5に記載の装置。
  9. 1つまたは複数のプロセッサと、
    前記プロセッサによって実行されるとき、テキスト画像処理装置が、請求項1から4のいずれか一項に記載の方法を実行するようにさせるプログラム命令を格納するメモリと
    を備える、テキスト画像処理装置。
  10. 計算装置のプロセッサによって実行されるとき、前記装置が、請求項1から4のいずれか一項に記載の方法を実行するようにさせるプログラム命令を含む、コンピュータ可読記憶媒体。
JP2017559607A 2016-01-05 2016-12-30 テキスト画像処理方法および装置 Active JP6628442B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201610004431.4A CN106940799B (zh) 2016-01-05 2016-01-05 文本图像处理方法和装置
CN201610004431.4 2016-01-05
PCT/CN2016/113843 WO2017118356A1 (zh) 2016-01-05 2016-12-30 文本图像处理方法和装置

Publications (2)

Publication Number Publication Date
JP2018519574A JP2018519574A (ja) 2018-07-19
JP6628442B2 true JP6628442B2 (ja) 2020-01-08

Family

ID=59273298

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017559607A Active JP6628442B2 (ja) 2016-01-05 2016-12-30 テキスト画像処理方法および装置

Country Status (7)

Country Link
US (1) US10572728B2 (ja)
EP (1) EP3401842B1 (ja)
JP (1) JP6628442B2 (ja)
KR (1) KR102012819B1 (ja)
CN (1) CN106940799B (ja)
MY (1) MY184167A (ja)
WO (1) WO2017118356A1 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110135417A (zh) * 2018-02-09 2019-08-16 北京世纪好未来教育科技有限公司 样本标注方法及计算机存储介质
CN109299718B (zh) * 2018-09-21 2021-09-24 新华三信息安全技术有限公司 一种字符识别方法及装置
CN111353511B (zh) * 2018-12-20 2024-03-08 富士通株式会社 号码识别装置及方法
CN110020655B (zh) * 2019-04-19 2021-08-20 厦门商集网络科技有限责任公司 一种基于二值化的字符去噪方法及终端
CN110085709B (zh) * 2019-05-05 2020-08-11 无锡职业技术学院 一种led图像全自动计数统计系统
JP7406884B2 (ja) * 2019-06-27 2023-12-28 キヤノン株式会社 情報処理装置、プログラム及び制御方法
CN110728129B (zh) * 2019-09-03 2023-06-23 北京字节跳动网络技术有限公司 对图片中的文本内容进行排版的方法、装置、介质和设备
CN111127478B (zh) * 2019-12-13 2023-09-05 上海众源网络有限公司 一种视图块分割方法及装置
CN111325214B (zh) * 2020-02-27 2023-02-14 珠海格力智能装备有限公司 喷印字符提取处理方法、装置、存储介质和电子设备
CN111461126B (zh) * 2020-03-23 2023-08-18 Oppo广东移动通信有限公司 文本行中的空格识别方法、装置、电子设备及存储介质
CN111738326B (zh) * 2020-06-16 2023-07-11 中国工商银行股份有限公司 句粒度标注训练样本生成方法及装置
CN112418204A (zh) * 2020-11-18 2021-02-26 杭州未名信科科技有限公司 基于纸质文档的文本识别方法、系统及计算机介质
CN113076952B (zh) * 2021-03-02 2024-05-28 西安中诺通讯有限公司 一种文本自动识别和增强的方法及装置
JP7344916B2 (ja) * 2021-03-22 2023-09-14 楽天グループ株式会社 情報処理装置、情報処理方法およびプログラム
JP7137170B1 (ja) 2021-03-22 2022-09-14 楽天グループ株式会社 情報処理装置、情報処理方法およびプログラム
US20230368445A1 (en) * 2022-05-13 2023-11-16 Adobe Inc. Layout-aware text rendering and effects execution
CN116092087B (zh) * 2023-04-10 2023-08-08 上海蜜度信息技术有限公司 Ocr识别方法、系统、存储介质及电子设备

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01124082A (ja) * 1987-11-10 1989-05-16 Matsushita Electric Ind Co Ltd 文字認識装置
JP2995818B2 (ja) * 1990-08-10 1999-12-27 ソニー株式会社 文字切り出し方法
DE69333694T2 (de) * 1992-09-11 2005-10-20 Canon K.K. Verfahren und Anordnung zur Bildverarbeitung
JP3548234B2 (ja) * 1994-06-29 2004-07-28 キヤノン株式会社 文字認識方法及び装置
JP3400151B2 (ja) * 1994-12-08 2003-04-28 株式会社東芝 文字列領域抽出装置および方法
CN101251892B (zh) * 2008-03-07 2010-06-09 北大方正集团有限公司 一种字符切分方法和装置
CN101515325B (zh) * 2009-04-08 2012-05-23 北京邮电大学 基于字符切分和颜色聚类的数字视频中的字符提取方法
CN101751569B (zh) * 2010-01-15 2012-01-04 西安电子科技大学 用于脱机手写维吾尔文单词的字符切分方法
CN102169542B (zh) * 2010-02-25 2012-11-28 汉王科技股份有限公司 文字识别中粘连字符的切分方法和装置
US8194983B2 (en) * 2010-05-13 2012-06-05 Hussein Khalid Al-Omari Method and system for preprocessing an image for optical character recognition
CN102456136B (zh) * 2010-10-29 2013-06-05 方正国际软件(北京)有限公司 一种图文切分方法及系统
US9922263B2 (en) * 2012-04-12 2018-03-20 Tata Consultancy Services Limited System and method for detection and segmentation of touching characters for OCR
CN104951741A (zh) * 2014-03-31 2015-09-30 阿里巴巴集团控股有限公司 一种文字识别方法及装置
CN104978576B (zh) * 2014-04-02 2019-01-15 阿里巴巴集团控股有限公司 一种文字识别方法及装置
US9842281B2 (en) * 2014-06-05 2017-12-12 Xerox Corporation System for automated text and halftone segmentation
CN105046254A (zh) * 2015-07-17 2015-11-11 腾讯科技(深圳)有限公司 字符识别方法及装置
CN105117706B (zh) * 2015-08-28 2019-01-18 小米科技有限责任公司 图像处理方法和装置、字符识别方法和装置
CN105184289B (zh) * 2015-10-10 2019-06-28 北京百度网讯科技有限公司 字符识别方法和装置
US10062001B2 (en) * 2016-09-29 2018-08-28 Konica Minolta Laboratory U.S.A., Inc. Method for line and word segmentation for handwritten text images

Also Published As

Publication number Publication date
WO2017118356A1 (zh) 2017-07-13
US10572728B2 (en) 2020-02-25
CN106940799B (zh) 2020-07-24
EP3401842B1 (en) 2022-02-09
JP2018519574A (ja) 2018-07-19
US20180053048A1 (en) 2018-02-22
EP3401842A4 (en) 2019-08-28
MY184167A (en) 2021-03-24
KR102012819B1 (ko) 2019-08-21
KR20170137170A (ko) 2017-12-12
CN106940799A (zh) 2017-07-11
EP3401842A1 (en) 2018-11-14

Similar Documents

Publication Publication Date Title
JP6628442B2 (ja) テキスト画像処理方法および装置
US10896349B2 (en) Text detection method and apparatus, and storage medium
US11275961B2 (en) Character image processing method and apparatus, device, and storage medium
JP6705912B2 (ja) 画像内の文字領域を認識するための方法及び装置
US9552536B2 (en) Image processing device, information storage device, and image processing method
KR101690981B1 (ko) 형태 인식 방법 및 디바이스
US10748023B2 (en) Region-of-interest detection apparatus, region-of-interest detection method, and recording medium
WO2023284502A1 (zh) 图像处理方法、装置、设备和存储介质
US20180082456A1 (en) Image viewpoint transformation apparatus and method
US20180089525A1 (en) Method for line and word segmentation for handwritten text images
CN110390327B (zh) 前景提取方法、装置、计算机设备及存储介质
CN108182457B (zh) 用于生成信息的方法和装置
CN109729298B (zh) 图像处理方法与图像处理装置
JP7244223B2 (ja) 電子文書における強調テキストの識別
CN111062365A (zh) 识别混合排版文字的方法、设备、芯片电路和计算机可读存储介质
US10262202B2 (en) Form recognition method, form recognition device, and non-transitory computer-readable medium
WO2023147717A1 (zh) 文字检测方法、装置、电子设备和存储介质
CN113887375A (zh) 一种文本识别方法、装置、设备及存储介质
US9684844B1 (en) Method and apparatus for normalizing character included in an image
JP2006133941A (ja) 画像処理装置、画像処理方法、画像処理プログラム及び携帯型端末
WO2023109086A1 (zh) 文字识别方法、装置、设备及存储介质
CN115909356A (zh) 数字文档的段落确定方法、装置、电子设备及存储介质
CN113762027B (zh) 一种异常行为的识别方法、装置、设备及存储介质
JP2016081472A (ja) 画像処理装置、画像処理方法及びプログラム
CN113850208A (zh) 一种图片信息结构化方法、装置、设备及介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180105

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190304

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190604

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191111

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191202

R150 Certificate of patent or registration of utility model

Ref document number: 6628442

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250