JP5096989B2 - 文書処理装置及び文書処理方法 - Google Patents

文書処理装置及び文書処理方法 Download PDF

Info

Publication number
JP5096989B2
JP5096989B2 JP2008098747A JP2008098747A JP5096989B2 JP 5096989 B2 JP5096989 B2 JP 5096989B2 JP 2008098747 A JP2008098747 A JP 2008098747A JP 2008098747 A JP2008098747 A JP 2008098747A JP 5096989 B2 JP5096989 B2 JP 5096989B2
Authority
JP
Japan
Prior art keywords
document
content
information
arrangement
document processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008098747A
Other languages
English (en)
Other versions
JP2009251915A (ja
JP2009251915A5 (ja
Inventor
雄二 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2008098747A priority Critical patent/JP5096989B2/ja
Priority to US12/414,049 priority patent/US8910038B2/en
Publication of JP2009251915A publication Critical patent/JP2009251915A/ja
Publication of JP2009251915A5 publication Critical patent/JP2009251915A5/ja
Application granted granted Critical
Publication of JP5096989B2 publication Critical patent/JP5096989B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、文書処理装置及び文書処理方法に関する。
従来、入力文書画像を変倍、再配置などの加工を行い、新しい文書として出力する技術が提案されている。例えば、複写機においては、複数のページ画像を縮小して1ページに並べて印刷する縮小印刷が実現されている。
また、スキャンした文書に広告やロゴなどのスポンサー提供の画像等を付加してコピーする技術が提案されている(例えば、特許文献1参照)。
また、ロゴ印刷モードを持ち、操作者がユーザインタフェースにてカスタムロゴ画像を配置する原稿の範囲を指定することで、スキャンされた原稿とロゴ画像とを重ね合わせて出力する技術が提案されている(例えば、特許文献2参照)。
特開2006−331427号公報 特開平6−164894号公報
しかしながら、上記従来例では、個々の画像をどこに配置してページ画像を構成するか操作者が明示的に指示する必要があり、画像毎に最適な配置位置を決定して画像出力することができないという問題があった。
本発明は、コンテンツの特性に応じた文書上での適切な配置位置を保持しておき、新たな文書へのコンテンツの配置位置の決定を適切にすることを目的とする。
本発明は、文書処理装置であって、文書を示す画像情報を入力する入力手段と、前記画像情報を、前記文書を構成するコンテンツとして領域分離する分離手段と、前記領域分離された前記コンテンツの前記文書での配置位置の情報と当該配置位置への配置頻度とを対応付けて前記コンテンツに関する学習情報として保持する保持手段と、前記保持手段に前記学習情報が保持されているコンテンツの集合を指定する指定手段と、前記保持された学習情報に基づいて、前記指定されたコンテンツの集合新しい文書に配置する配置手段と、を有することを特徴とする。
また、本発明は、文書処理装置にて実行される文書処理方法であって、入力手段が、文書を示す画像情報を入力する入力工程と、分離手段が、前記画像情報を、前記文書を構成するコンテンツとして領域分離する分離工程と、保持手段が、前記領域分離された前記コンテンツの前記文書での配置位置の情報と当該配置位置への配置頻度とを対応付けて前記コンテンツに関する学習情報として保持する保持工程と、指定手段が、前記学習情報が保持されているコンテンツの集合を指定する指定工程と、配置手段が、前記保持された学習情報に基づいて、前記指定されたコンテンツの集合新しい文書に配置する配置工程と、を有することを特徴とする。
本発明によれば、コンテンツの特性に応じた文書上での適切な配置位置を保持しておき、新たな文書へのコンテンツの配置位置の決定を適切にすることができる。
以下、図面を参照しながら発明を実施するための最良の形態について詳細に説明する。
図1は、本実施形態における画像処理装置の構成の一例を示す図である。画像入力装置101は平面読み取り型のスキャナによりスキャンされた文書画像やデジタルカメラなどで撮像された画像をデジタルデータに変換する装置である。また、画像入力装置101はプリンタドライバから送信されたPDLデータを入力する装置でも良い。更に、画像入力装置101はストレージに記録されたデジタル画像データを読み込む装置でも良い。尚、本実施形態では、画像、文字、図形などで構成される文書画像やPDL画像が入力されるものとする。
画像解析装置102は画像入力装置101により入力された画像情報を解析する装置である。画像解析装置102で画像解析された結果は解析済の画像情報として文書解析データ107に格納される。類似画像判定装置103はその解析済の画像情報と類似の視覚特徴を有する画像が文書素材データ108に存在するか否かを判定する。配置位置学習装置104は文書解析データ107に格納された解析済の画像情報を入力画像上での配置位置情報と対応付けて文書素材データ108に保持する。
配置装置105は文書テンプレート109に基づき文書素材データ108に格納された画像情報を配置する装置である。出力装置106は配置装置105が配置した画像を視覚的に表示するプリンタ又はディスプレイである。
図2は、図1に示す画像解析装置102の解析結果の概略例を示す図である。画像解析装置102は入力された画像情報の画素塊を領域の特徴毎に分類し、背景領域201、画像領域202、203、204、文字領域205のように領域分離を行う。この領域分離を行う方法は、例えば特開平2000-293671号公報に開示された既知の技術により実現することができる。また、背景領域201は、他の領域と区別して分離される。
図3は、図1に示す配置位置学習装置104で処理対象となる領域を抽出した例を示す図である。この例では、IDが1から3までの3つの画像領域が配置位置学習対象として抽出される。また、画像全体を9分割している補助線は配置位置を特定するグリッド補助線であり、記号の“×”は図2で解析された各領域の重心位置を示している。
図4は、本実施形態における文書素材の配置位置情報の例を示す図である。図3に示すグリッド補助線で分割された領域にGrid 1〜Grid 9までの配置位置ラベル名を付与する。また、各グリッドの背面に存在する背景領域にBGというラベル名を付与する。
図5は、図1に示す文書素材データ108の構成の一例を示す図である。501は文書を構成する個々の画像素材データを識別する固有の番号である。502はファイル化された画像素材データのファイルパス情報である。503は画像素材データのサイズを高さと幅のピクセル数である。504〜512はそれぞれ図4に示すGrid 1〜Grid 9に対応し、当該画像素材データの重心位置がそれぞれのグリッドに配置された頻度数である。
513は図4に示すBGに対応し、当該画像データがこの背景領域に配置された頻度数である。514〜517は当該画像素材データが使用された文書の縦横比形状の頻度数である。ここで、縦方向の長さが横手方向より長いポートレート形状は514に、横方向の長さが縦方向より長いランドスケープ形状は515に、縦横比が同一なスクウェア形状は516に、それ以外の形状は517に、それぞれ頻度数が格納される。
図6は、図1に示す文書テンプレート109に格納される文書テンプレートの例を示す図である。尚、文書テンプレートは文書の素材となるコンテンツ(画像、文字、図形)を配置する位置を指示するものである。
この例では、601は背景素材となるコンテンツを配置する背景領域、602〜604は画像素材を配置する画像領域、605は文字を配置する文字領域を示している。
以上の構成において、入力された画像情報を解析し、配置位置を学習して最適な配置を行って出力する処理を説明する。
図7は、本実施形態における画像入力時の処理を示すフローチャートである。ステップS710で、画像入力装置101により画像情報を入力する。次に、ステップS720で、入力された画像情報を画像解析装置102に送信し、この画像情報の種別毎に領域分離を行う。領域分離は、例えば特開2000―293671号公報に開示された方法などで実行される。ここで領域分離された画像情報は文書解析データ107に記憶される。
次に、解析された全ての領域に対して文書素材となった画像データの配置位置の学習を行うべく、ステップS730で全領域の処理を終えたか否かを判定する。判定した結果、全領域の配置学習を終えたならば、この処理を終了する。また、未処理の領域があれば、ステップS740で、配置位置学習装置104が文書素材データの配置位置の学習処理を行い、上述のステップS730での判定処理に戻る。
図8は、本実施形態における配置位置学習処理を示すフローチャートである。この処理は図7に示すステップS740で、配置位置学習装置104が文書素材データの配置位置を学習する処理である。
ステップS810で、対象領域が画像領域であるか否かを判定する。ここで、画像領域でなければ、対象領域に配置された文書素材データに対する配置学習を終了する。しかし、画像領域であればステップS820へ進み、類似画像判定装置103が対象領域の画像と類似の視覚的特徴を持つ類似画像が既に文書素材データ108に格納されているか否かを判定する。この類似画像判定処理は、画像情報を複数の領域に分離し、領域毎の支配的代表色を抽出して、色の分布傾向の一致度を測るなどの既知の手法により実現することができる。
そして、ステップS830で、類似画像判定の結果、類似画像ありと判定された場合はステップS840へ進み、文書素材データ108に格納済の当該画像データの配置情報を更新する。具体的には、対象領域の重心となる座標を求め、重心の含まれるグリッド位置を判定し、文書素材データ108の当該グリッド位置の頻度数を1カウントアップする。また、背景領域であれば、背景BGの頻度数をカウントアップする。また、当該入力文書画像の形状がポートレート、ランドスコープ、スクウェア、その他の何れであるかを判定し、該当する形状の頻度数を1カウントアップする。
一方、ステップS830で、類似と判定される画像がなかった場合はステップS850で、文書素材データ108に新規の文書素材データとして画像を登録する。具体的には、新規に画像ID番号を発番し、画像データを格納すると共に、その画像データのファイルパスを文書素材データ108に格納する以外はステップS840の処理と同様に配置位置情報の学習を行う。
次に、配置装置105によって実行される文書配置処理を、図9を用いて説明する。
図9は、本実施形態における文書配置処理を示すフローチャートである。まず、ステップS910で、文書を構成する1つ又は複数の素材データを指定する。そして、ステップS920で、文書テンプレート109に格納されている文書テンプレートの1つを選択する。尚、文書テンプレートを選択する処理の詳細は図10を用いて更に後述する。
次に、ステップS930では、テンプレートが持つ素材データ格納領域の全ての領域へ素材データを配置したか否かを判定する。判定の結果、全ての領域への素材データ配置が終了していなければステップS940へ進み、領域位置に適合する画像素材データを決定する。そして、ステップS930に戻り、全ての領域への適合素材配置処理を繰り返す。尚、ステップS940の適合素材配置処理の詳細は図11を用いて更に後述する。
また、ステップS930で、全ての領域への素材データ配置が終了したなればステップS950へ進み、素材データを配置できなかった空白領域が存在するか否かを判定する。ここで、空白領域が存在すればステップS960へ進み、当該空白領域の重心位置に相当するグリッド領域への配置頻度が最も高い画像素材データを文書素材データ108から検索し、当該空白領域への配置素材として決定する。そして、ステップS970で、配置の決まった素材データをテンプレートの配置情報に従って出力装置106に出力可能な形態で文書を出力する。
次に、指定された画像素材データに対する好ましいテンプレートを選択する処理を詳細に説明する。
図10は、本実施形態におけるテンプレート選択処理の詳細を示すフローチャートである。まず、ステップS1010で、指定された画像素材データの全てを処理したか否かを判定する。判定した結果、未処理の素材データがあればステップS1020へ進み、当該素材データの適合配置位置を文書素材データ108を参照して求める。当該素材データの最も頻度の高い配置グリッドと同じグリッドに配置可能な画像領域を持つテンプレートに対してスコアを100与える。また、2番目に頻度の高い配置グリッドと同じグリッドに配置可能な画像領域を持つテンプレートに対して得点を90与え、これ以降同様に、頻度5位までスコアを付ける。
但し、より上位の頻度数でスコアを与えたテンプレートに対して別の領域に適合させることはしない。
このようにして、全ての素材データについて適合するテンプレートの探索処理を終えた後、ステップS1040で、スコアが最大となったテンプレートを最適なテンプレートとして決定する。
図11は、本実施形態における適合素材配置処理の詳細を示すフローチャートである。まず、ステップS1110において、当該領域重心を含むグリッド位置を求める。次に、ステップS1120において、グリッド位置に合致する頻度数が最大である素材データを文書素材データ108から選択する。そして、ステップS1130では、選択された素材データが、ステップS920で選択されたテンプレートの文書形状と合致する頻度数が0でない、即ち、当該文書形状を持つ文書で使用されたことがあるか否かをチェックする。ここで、文書形状に合致すれば、領域に配置すべき素材データとして決定し、この処理を終了する。また、形状に合致しなければステップS1120に戻り、次の配置候補を検索する。
本実施形態によれば、操作者が個々の画像に対する配置位置を指定することなく、実際に使用された配置パターンを用いて素材となる画像の好適な配置を自動的に決定することができる
尚、実施形態の機能を実現するソフトウェアのプログラムコードを記録した記録媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(CPU若しくはMPU)が記録媒体に格納されたプログラムコードを読出し実行する。これによっても、本発明の目的が達成されることは言うまでもない。
この場合、コンピュータ読み取り可能な記録媒体から読出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記録媒体は本発明を構成することになる。
このプログラムコードを供給するための記録媒体として、例えばフレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROMなどを用いることができる。
また、コンピュータが読出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、次の場合も含まれることは言うまでもない。即ち、プログラムコードの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)などが実際の処理の一部又は全部を行い、その処理により前述した実施形態の機能が実現される場合である。
更に、記録媒体から読出されたプログラムコードがコンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込む。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部又は全部を行い、その処理により前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
本実施形態における文書画像処理装置の構成の一例を示す図である。 図1に示す画像解析装置102の解析結果の概略例を示す図である。 図1に示す配置位置学習装置104で処理対象となる領域を抽出した例を示す図である。 本実施形態における文書素材の配置位置情報の例を示す図である。 図1に示す文書素材データ108の構成の一例を示す図である。 図1に示す文書テンプレート109に格納される文書テンプレートの例を示す図である。 本実施形態における画像入力時の処理を示すフローチャートである。 本実施形態における配置位置学習処理を示すフローチャートである。 本実施形態における文書配置処理を示すフローチャートである。 本実施形態におけるテンプレート選択処理の詳細を示すフローチャートである。 本実施形態における適合素材配置処理の詳細を示すフローチャートである。
符号の説明
101 画像入力装置
102 画像解析装置
103 類似画像判定装置
104 配置位置学習装置
105 配置装置
106 出力装置
107 文書解析データ
108 文書素材データ
109 文書テンプレート

Claims (10)

  1. 文書処理装置であって、
    文書を示す画像情報を入力する入力手段と、
    前記画像情報を、前記文書を構成するコンテンツとして領域分離する分離手段と、
    前記領域分離された前記コンテンツの前記文書での配置位置の情報と当該配置位置への配置頻度とを対応付けて前記コンテンツに関する学習情報として保持する保持手段と、
    前記保持手段に前記学習情報が保持されているコンテンツの集合を指定する指定手段と、
    前記保持された学習情報に基づいて、前記指定されたコンテンツの集合新しい文書に配置する配置手段と、
    を有することを特徴とする文書処理装置。
  2. 前記コンテンツの集合が配置された文書を出力する出力手段を更に有することを特徴とする請求項1記載の文書処理装置。
  3. 前記分離手段は、前記コンテンツとしての画像情報と区別して前記コンテンツの背景を領域分離することを特徴とする請求項1又は2記載の文書処理装置。
  4. 前記保持された情報は、前記コンテンツの縦横比の形状と位置の情報であることを特徴とする請求項1乃至3の何れか1項記載の文書処理装置。
  5. 前記保持手段は、前記コンテンツの縦横比の形状と位置の情報を前記入力された文書を構成するコンテンツを配置するための情報として学習することを特徴とする請求項4記載の文書処理装置。
  6. 文書処理装置であって、
    文書を示す画像情報を入力する入力手段と、
    前記画像情報を、前記文書を構成するコンテンツとして領域分離する分離手段と、
    前記領域分離された前記コンテンツの前記文書での配置位置の情報と当該配置位置への配置頻度とを対応付けて前記コンテンツに関する学習情報として保持する保持手段と、
    前記保持手段に前記学習情報が保持されているコンテンツの集合を指定する指定手段と、
    前記保持された学習情報に基づいて選択されたテンプレートに前記コンテンツの集合を配置する配置手段と、
    を有することを特徴とする文書処理装置。
  7. 文書処理装置にて実行される文書処理方法であって、
    入力手段が、文書を示す画像情報を入力する入力工程と、
    分離手段が、前記画像情報を、前記文書を構成するコンテンツとして領域分離する分離工程と、
    保持手段が、前記領域分離された前記コンテンツの前記文書での配置位置の情報と当該配置位置への配置頻度とを対応付けて前記コンテンツに関する学習情報として保持する保持工程と、
    指定手段が、前記学習情報が保持されているコンテンツの集合を指定する指定工程と、
    配置手段が、前記保持された学習情報に基づいて、前記指定されたコンテンツの集合新しい文書に配置する配置工程と、
    を有することを特徴とする文書処理方法。
  8. 文書処理装置にて実行される文書処理方法であって、
    入力手段が、文書を示す画像情報を入力する入力工程と、
    分離手段が、前記画像情報を、前記文書を構成するコンテンツとして領域分離する分離工程と、
    保持手段が、前記領域分離された前記コンテンツの前記文書での配置位置の情報と当該配置位置への配置頻度とを対応付けて前記コンテンツに関する学習情報として保持する保持工程と、
    指定手段が、前記学習情報が保持されているコンテンツの集合を指定する指定工程と、
    配置手段が、前記保持された学習情報に基づいて選択されたテンプレートに前記コンテンツの集合を配置する配置工程と、
    を有することを特徴とする文書処理方法。
  9. 請求項1乃至の何れか1項記載の文書処理装置としてコンピュータを機能させるためのプログラム。
  10. 請求項記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2008098747A 2008-04-04 2008-04-04 文書処理装置及び文書処理方法 Active JP5096989B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008098747A JP5096989B2 (ja) 2008-04-04 2008-04-04 文書処理装置及び文書処理方法
US12/414,049 US8910038B2 (en) 2008-04-04 2009-03-30 Apparatus and method for image separation, layout, and templating

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008098747A JP5096989B2 (ja) 2008-04-04 2008-04-04 文書処理装置及び文書処理方法

Publications (3)

Publication Number Publication Date
JP2009251915A JP2009251915A (ja) 2009-10-29
JP2009251915A5 JP2009251915A5 (ja) 2011-05-19
JP5096989B2 true JP5096989B2 (ja) 2012-12-12

Family

ID=41312567

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008098747A Active JP5096989B2 (ja) 2008-04-04 2008-04-04 文書処理装置及び文書処理方法

Country Status (1)

Country Link
JP (1) JP5096989B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6262225A (ja) * 1985-09-11 1987-03-18 Nippon Denso Co Ltd 内燃機関のノツキング検出方法
JP5506176B2 (ja) * 2008-09-30 2014-05-28 キヤノン株式会社 情報処理装置及び情報処理方法
JP5820142B2 (ja) * 2011-04-27 2015-11-24 キヤノン株式会社 情報処理装置およびその制御方法、並びにプログラム
JP6292886B2 (ja) * 2014-01-08 2018-03-14 Kddi株式会社 レイアウティング装置、レイアウティング方法およびレイアウティングプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3835191B2 (ja) * 2001-03-29 2006-10-18 セイコーエプソン株式会社 ディジタルコンテンツ作成システム及びディジタルコンテンツ作成プログラム
JP2006238289A (ja) * 2005-02-28 2006-09-07 Ricoh Co Ltd 表示データの変倍方法
US20060230341A1 (en) * 2005-03-16 2006-10-12 Kabushiki Kaisha Toshiba Image editing apparatus and image editing method

Also Published As

Publication number Publication date
JP2009251915A (ja) 2009-10-29

Similar Documents

Publication Publication Date Title
US7272269B2 (en) Image processing apparatus and method therefor
US7787712B2 (en) Electronic document creating apparatus
JP5302768B2 (ja) 画像処理装置及び画像処理方法
JP4533273B2 (ja) 画像処理装置及び画像処理方法、プログラム
JP4854491B2 (ja) 画像処理装置及びその制御方法
US9558433B2 (en) Image processing apparatus generating partially erased image data and supplementary data supplementing partially erased image data
JP2010157107A (ja) 業務文書処理装置
JP5096989B2 (ja) 文書処理装置及び文書処理方法
US10887491B2 (en) Image processing apparatus for processing of highlighted regions
JP5111242B2 (ja) 画像処理装置及び方法
JP4517822B2 (ja) 画像処理装置及びプログラム
JP2003046746A (ja) 画像処理方法及び画像処理装置
JP6795770B2 (ja) 情報処理装置と、その処理方法及びプログラム
JP5673277B2 (ja) 画像処理装置およびプログラム
JP2010102734A (ja) 画像処理装置及びプログラム
JP5549286B2 (ja) 画像処理装置及び画像処理プログラム
JP4507673B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP6481204B2 (ja) 情報処理装置と、その処理方法及びプログラム
JP2007011762A (ja) 領域抽出装置及び領域抽出方法
JP2002236921A (ja) 文書画像認識方法、文書画像認識装置及び記録媒体
JP2005142791A (ja) トラッピング方法、トラッピング装置、トラッピングプログラム、および印刷システム
JP2007334437A (ja) 画像処理装置及び方法、並びにプログラム及び記憶媒体
JP2005316665A (ja) ドキュメント処理装置
JP2005208872A (ja) 画像処理システム
JP2004126971A (ja) グラフィカルユーザインターフェース用部品生成装置、生成方法、生成プログラム、及び該プログラムを記録したコンピュータ読み取り可能な記録媒体

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110404

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110404

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120530

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120608

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120801

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120824

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120921

R151 Written notification of patent or utility model registration

Ref document number: 5096989

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150928

Year of fee payment: 3