JP2022098171A - 検品装置とその制御方法及びプログラム、並びに検品装置を有する印刷システム - Google Patents

検品装置とその制御方法及びプログラム、並びに検品装置を有する印刷システム Download PDF

Info

Publication number
JP2022098171A
JP2022098171A JP2020211561A JP2020211561A JP2022098171A JP 2022098171 A JP2022098171 A JP 2022098171A JP 2020211561 A JP2020211561 A JP 2020211561A JP 2020211561 A JP2020211561 A JP 2020211561A JP 2022098171 A JP2022098171 A JP 2022098171A
Authority
JP
Japan
Prior art keywords
image
paper
feature points
inspection device
photographing unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020211561A
Other languages
English (en)
Inventor
洋介 大林
Yosuke Obayashi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020211561A priority Critical patent/JP2022098171A/ja
Priority to US17/542,681 priority patent/US20220198635A1/en
Publication of JP2022098171A publication Critical patent/JP2022098171A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/02Affine transformations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/14Transformations for image registration, e.g. adjusting or mapping for alignment of images
    • G06T3/147Transformations for image registration, e.g. adjusting or mapping for alignment of images using affine transformations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10008Still image; Photographic image from scanner, fax or copier
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30144Printing quality

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Accessory Devices And Overall Control Thereof (AREA)

Abstract

【課題】複数の撮影部の位置ずれや用紙の傾きなどにより特徴点が偏在した場合でも正解画像との位置合わせ処理を可能にできる技術を提供する。【解決手段】複数の撮影部の第1の撮影部が読み取って得られた画像の特徴点が、本来は別の撮影部で読み取って得られる画像の特徴点であると判定した場合、当該特徴点の座標を前記別の撮影部の座標系から前記第1の撮影部の座標系に変換する。抽出された前記特徴点の座標、およびその変換された特徴点の座標から幾何変換パラメータを算出し、その幾何変換パラメータに基づいて、前記印刷用紙の画像と正解画像との位置合わせを行って前記画像と前記正解画像との間で画素ごとの差分を取得する。【選択図】図6

Description

本発明は、検品装置とその制御方法及びプログラム、並びに検品装置を有する印刷システムに関するものである。
技術背景
近年、印刷装置により印刷された用紙の搬送中に、検品装置によってその用紙に印刷された画像を検査できる印刷システムが知られている。このような印刷用紙の検査では、検品装置が、搬送された印刷用紙の画像を読み取り、読み取って得られた画像データを解析して印刷画像が正常であるか否かを判定する。検品装置は、例えばバーコードや罫線の欠け、画像抜け、印刷不良、ページ抜け、色ずれなどを検出することが可能である。こうして印刷用紙が欠陥であると判定された場合には、当該欠陥用紙は正常な用紙とは別の排紙先に排紙される。これにより欠陥用紙が正常な用紙に混入することを防止でき、オペレータは、容易に欠陥用紙を廃棄することができる。
上述の画像データの解析には、事前に印刷した十分な品位のある印刷シートを検品装置で読み取り、これを正解画像(マスタ画像、リファレンス画像)として用いる方法が知られる。この方法では、印刷用紙の画像と、事前に取得した正解画像とを比較し、所定量以上の差分が存在するかどうかによって、その印刷用紙に欠陥が存在するかどうかを検知する。
正解画像との差分を求める手法として、画像特徴量と幾何変換によって画像の位置合わせを行い、画素ごとの画素値の差分を算出する方法が知られる。この方法では、画像特徴量が十分である座標(以下、特徴点)を画像内で複数点検出し、正解画像と読み取り画像でのそれぞれの特徴点の座標関係から幾何変換パラメータを算出する。そして、そのパラメータを用いて幾何変換することで、例え、用紙の搬送に起因する読み取り画像の位置ずれや回転や変倍が生じたとしても、読み取り画像を正解画像へ位置合わせすることが可能となる。このような幾何変換としては、アフィン変換や射影変換が用いられ、それぞれの変換パラメータの算出には、最低でも3点もしくは4点の特徴点が必要となる。また、読み取り画像全体を正確に幾何変換するためには、特徴点が印刷用紙内に偏在せず、用紙全体に均一に存在することが望ましい。
特開2013-124868号公報
検品装置において印刷用紙を読み取る撮影部は、印刷装置で搬送される最大用紙幅未満の小幅なセンサを複数組み合わせて構成される場合がある。この場合、各センサで読み取って得られた画像データのそれぞれを、正解画像に対して位置合わせを行う必要がある。しかしながら、各センサの位置ずれや、印刷画像の特徴点の偏りによっては、各センサで得られた画像データの幾何変換を行うために十分な数の特徴点が得られない場合がある。
本発明の目的は、上記従来技術の課題の少なくとも一つを解決することにある。
本発明の目的は、例えば複数の撮影部の位置ずれや用紙の傾きなどにより特徴点が偏在した場合でも正解画像との位置合わせ処理を可能にできる技術を提供することにある。
上記目的を達成するために本発明の一態様に係る検品装置は以下のような構成を備える。即ち、
印刷用紙を読み取って検査する検品装置であって、
複数の撮影部を使用して前記印刷用紙の画像を読み取る読み取り手段と、
前記複数の撮影部のそれぞれで読み取って得られる画像の特徴点を抽出する抽出手段と、
前記複数の撮影部の第1の撮影部が読み取って得られた画像の特徴点が、本来は別の撮影部で読み取って得られる画像の特徴点かどうか判定する判定手段と、
前記判定手段が、本来、前記別の撮影部で読み取って得られる特徴点であると判定した場合、当該特徴点の座標を前記別の撮影部の座標系から前記第1の撮影部の座標系に変換する変換手段と、
前記抽出手段によって抽出された前記特徴点の座標、および前記変換手段によって変換された特徴点の座標から幾何変換パラメータを算出する算出手段と、
前記幾何変換パラメータに基づいて、前記印刷用紙の画像と正解画像との位置合わせを行って前記画像と前記正解画像との間で画素ごとの差分を取得する取得手段と、を有することを特徴とする。
本発明によれば、複数の撮影部の内のある撮影部で読み取った画像の特徴点が、本来は別の撮影部で読み取る画像の特徴点である場合に、その特徴点の座標を座標変換して幾何変換パラメータを算出する。これにより、例えば複数の撮影部の位置ずれや用紙の傾きなどにより特徴点が偏在した場合でも正解画像との位置合わせ処理が可能となる。
本発明のその他の特徴及び利点は、添付図面を参照とした以下の説明により明らかになるであろう。なお、添付図面においては、同じ若しくは同様の構成には、同じ参照番号を付す。
添付図面は明細書に含まれ、その一部を構成し、本発明の実施形態を示し、その記述と共に本発明の原理を説明するために用いられる。
本発明の実施形態1に係る印刷システムの全体構成を示す図。 実施形態1に係る外部コントローラ及びクライアントPCのハードウェア構成を説明するブロック図。 実施形態1に係る画像形成装置の印刷装置、インサータ、検品装置、大容量スタッカ及びフィニッシャの構成ハードウェア構成を説明するブロック図。 実施形態1に係る画像形成装置の機構を説明する概略断面図。 実施形態1に係る検品装置が正解画像を登録するときの処理を説明するフローチャート(A)と、実施形態1に係る検品装置が検品処理を行うときの処理を説明するフローチャート(B)。 実施形態1に係る検品装置で搬送される用紙と、2つの撮影部で読み取った画像の例、及び特徴点の座標の例を説明する図。 実施形態1に係る検品装置による、図4のS403,S413の特徴点の抽出処理を説明するフローチャート。 実施形態2に係る検品装置による特徴点の抽出処理を説明するフローチャート。
以下、添付図面を参照して本発明の実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものでない。実施形態には複数の特徴が記載されているが、これら複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一もしくは同様の構成に同一の参照番号を付し、重複した説明は省略する。尚、以下の説明において、外部コントローラは、画像処理コントローラ、デジタルフロントエンド、プリントサーバ、DFEなどと呼ばれることもある。また画像形成装置は、複合機、マルチファンクションペリフェラル、MFPと呼ばれることもある。
[実施形態1]
図1は、本発明の実施形態1に係る印刷システムの全体構成を示す図である。
この印刷システムは、画像形成装置101と外部コントローラ102とを備える。画像形成装置101と外部コントローラ102は、内部LAN105とビデオケーブル106を介して通信可能に接続されている。外部コントローラ102は、外部LAN104を介してクライアントPC103と通信可能に接続されており、PC103から外部コントローラ102に対して印刷指示を行うことができる。
クライアントPC103には、印刷データを外部コントローラ102で処理可能な印刷記述言語(例えば、ページ記述言語(PDL))に変換する機能を有するプリンタドライバがインストールされている。クライアントPC103のユーザは、各種アプリケーションから、このプリンタドライバを介して印刷指示を行うことができる。このときプリンタドライバは、ユーザからの印刷指示に基づいて外部コントローラ102に対して印刷データを送信する。外部コントローラ102は、クライアントPC103から印刷指示を受け取ると、その印刷データの解析やラスタライズ処理を行って印刷用の画像データを作成し、その画像データを画像形成装置101に投入して印刷指示を行う。
次に画像形成装置101について説明する。
画像形成装置101には、複数の異なる機能を持つ装置が接続され、製本などの複雑な印刷処理が可能なように構成されている。印刷装置107は、印刷装置107の下部にある給紙部から搬送される用紙に対してトナーを用いて画像を形成(印刷)する。この印刷装置107の構成及び動作原理は次の通りである。画像データに応じて変調された、レーザ光などの光線をポリゴンミラー等の回転多面鏡により反射して走査光として感光ドラムに照射する。このレーザ光により感光ドラム上に形成された静電潜像はトナーによって現像され、転写ドラムに貼り付けられた用紙に、そのトナー像を転写する。この一連の画像形成プロセスをイエロー(Y)、マゼンタ(M)、シアン(C)、ブラック(K)のトナーに対して順次実行することにより、用紙上にフルカラー画像が形成される。こうしてフルカラー画像が形成された転写ドラム上の用紙は定着器へ搬送される。定着器は、ローラやベルト等を含み、ローラ内にハロゲンヒータなどの熱源を内蔵し、トナー像が転写された用紙上のトナーを、熱と圧力によって溶解して用紙に定着させる。
インサータ108は、印刷装置107で印刷されて搬送された用紙群に対して、任意の位置で用紙を挿入することができる。
検品装置109は、搬送された用紙の画像を読み取り、予め登録された正解画像と比較することで、印刷された画像が正常かどうかを判定する。
大容量スタッカ110は、大容量の用紙を積載して収納することが可能である。フィニッシャ111は、搬送された用紙に対してフィニッシング処理を行う。このフィニッシング処理は、ステイプルやパンチ、中綴じ製本などの処理を含み、フィニッシング処理された用紙束は排紙トレイに排紙される。
尚、図1の印刷システムは、画像形成装置101に外部コントローラ102が接続された構成であるが、本発明は外部コントローラ102が接続された構成に限定されない。即ち、画像形成装置101を直接外部LAN104に接続し、クライアントPC103から直接、画像形成装置101に対して印刷データを送信する構成でもよい。この場合、画像形成装置101において、データ解析やラスタライズ処理が行われて、印刷処理が実行される。
図2A及び図2Bは、実施形態1に係る画像形成装置101、外部コントローラ102、及びクライアントPC103のハードウェア構成を説明するブロック図である。
まず図2Aを参照して、外部コントローラ102の構成について説明する。
外部コントローラ102は、CPU208、メモリ209、HDD210、キーボード211、ディスプレイ212、LANI/F(インタフェース)213,LANI/F214、ビデオI/F215を有し、これらはバス216を介して接続されている。CPU208は、HDD210に保存されたプログラムをメモリ208に展開し、その展開したプログラムを実行してクライアントPC103からの印刷データの受信、RIP処理、画像形成装置101への印刷データの送信などの処理を実行する。メモリ209はRAMを有し、CPU208が各種処理を行う際に必要なプログラムやデータが記憶され、ワークエリアとして動作する。HDD210には、印刷処理などの動作に必要なプログラムやデータが記憶される。キーボード211は、外部コントローラ102への操作指示を入力するための装置である。ディスプレイ212には、外部コントローラ102の実行アプリケーション等の情報を静止画や動画の映像信号により表示される。LANI/F213は、外部LAN104を介してクライアントPC103と接続し、印刷指示などの通信を行う。LANI/F214は、内部LAN105を介して画像形成装置101と接続し、印刷指示などの通信を行う。ビデオI/F215は、ビデオケーブル106を介して画像形成装置101と接続し、画像データなどの通信を行う。
次にクライアントPC103の構成について説明する。クライアントPC103は、CPU201、メモリ202、HDD203、キーボード204、ディスプレイ205、LANI/F206を有し、これらはバス207を介して接続されている。CPU201は、HDD203に保存された文書処理プログラムをメモリ202に展開し、その展開したプログラムを実行して印刷データの作成や印刷指示を実行する。またCPU201は、システムバスに接続される各デバイスを包括的に制御する。メモリ202はROMやRAMなどを有し、CPU201が各種処理を行う際に必要となるプログラムやデータを記憶し、CPU201のワークエリアとして動作する。HDD203には、印刷処理などの動作に必要なプログラムやデータが記憶される。キーボード204は、PC103への操作指示を入力するための装置である。ディスプレイ205には、クライアントPC103の実行アプリケーション等の情報が静止画や動画の映像信号により表示される。LANI/F206は、外部LAN104と接続されており、印刷指示などの通信を行う。
次に図2Bを参照して、画像形成装置101の印刷装置107、インサータ108、検品装置109、大容量スタッカ110及びフィニッシャ111の構成について説明する。
画像形成装置101の印刷装置107は、通信I/F217、LANI/F218、ビデオI/F220、HDD221、CPU222、メモリ223、操作部224、ディスプレイ225を有している。更に印刷装置107は、原稿露光部226、レーザ露光部227、作像部228、定着部229、給紙部230を備える。これら構成要素はシステムバス231を介して接続される。
通信I/F217は、通信ケーブル254を介してインサータ108、検品装置109、大容量スタッカ110、及びフィニッシャ111と接続され、それぞれの装置の制御のための通信を行う。LANI/F218は、内部LAN105を介して外部コントローラ102と接続され、印刷指示タなどの通信を行う。ビデオI/F220は、ビデオケーブル106を介して外部コントローラ102と接続され、画像データなどの通信を行う。
HDD221は、プログラムやデータが保存された記憶装置である。CPU222は、HDD221に保存されたプログラムをメモリ223に展開し、その展開したプログラムを実行して画像処理制御や印刷の制御を包括的に行う。メモリ223はROMやRAMを有し、CPU222が各種処理を行う際に必要となるプログラムや画像データを記憶し、またCPU222のワークエリアとして動作する。操作部224は、ユーザからの各種設定の入力や操作の指示を受け付ける。ディスプレイ225には、画像形成装置101の設定情報や印刷ジョブの処理状況などが表示される。
原稿露光部226は、コピー機能やスキャン機能を使用する際に原稿を読み込む処理を行う。即ち、原稿露光部226は、ユーザにより設置された用紙に対して露光ランプを照らしながらCCDカメラで画像を撮影することで原稿データを読み込む。レーザ露光部227は、トナー像を転写するために感光ドラムにレーザ光を照射するための一次帯電や、レーザ露光を行う。レーザ露光部227においては、まず感光ドラム表面を均一なマイナス電位に帯電させる一次帯電が行われる。次にレーザードライバによってレーザ光を、ポリゴンミラーで反射角度を調節しながら感光ドラムに照射する。これにより照射した部分のマイナス電荷が中和されて静電潜像が形成される。作像部228は、用紙に対してトナーを転写するための装置であり、現像ユニット、転写ユニット、トナー補給部等を有し、感光ドラム上のトナーを用紙に転写する。現像ユニットにおいては、現像シリンダからマイナスに帯電したトナーを感光ドラム表面の静電潜像に付着させて可視像化する。転写ユニットは、一次転写ローラにプラス電位を印加し感光ドラム表面のトナーを転写ベルトに転写する一次転写、転写ローラにプラス電位を印加して転写ベルト上のトナーを用紙に転写する二次転写が行われる。定着部229は用紙上のトナーを熱と圧力で用紙に溶解固着するための装置であり、加熱ヒータ、定着ベルト、加圧ベルト等を含む。給紙部230は、用紙を給紙するための装置であり、ローラや各種センサにより用紙の給紙動作、搬送動作が制御される。
次に画像形成装置101のインサータ108の構成について説明する。画像形成装置101のインサータ108は、通信I/F232、CPU233、メモリ234、給紙制御部235を有し、これらはバス236を介して接続される。通信I/F232は、通信ケーブル254を介して印刷装置107と接続し、制御に必要な通信を行う。CPU233は、メモリ234に格納された制御プログラムを実行して、給紙に必要な各種制御を行う。メモリ234は、制御プログラムが保存された記憶装置である。給紙制御部225は、CPU233からの指示に基づき、ローラとセンサを制御しながら、インサータ108の給紙部や、印刷装置107から搬送された用紙の給紙、搬送を制御する。
次に画像形成装置101の検品装置109の構成について説明する。
検品装置109は、通信I/F237、CPU238、メモリ239、撮影部240、撮影部256、表示部241、操作部242を有し、これらはバス243を介して接続される。通信I/F237は、通信ケーブル254を介して印刷装置107と接続し、制御に必要な通信を行う。CPU238は、メモリ239に格納された制御プログラムを実行して、検品に必要な各種制御を行う。メモリ239は、ROMやRAMを有し、制御プログラム等を保存している。尚、メモリ239は、正解画像を不揮発に登録する大容量の書き換え可能な不揮発メモリを有しているのが望ましい。撮影部240及び撮影部256は、CPU238の指示に基づき、搬送された用紙を撮影して、その用紙に印刷された画像を読み取る。CPU238は、撮影部240及び撮影部256によって撮影されて得られた画像データと、メモリ239に保存された正解画像とを比較し、印刷された画像が正常かどうかを判定する。表示部241は、検品結果や設定画面などを表示する。操作部242はユーザによって操作され、検品装置109の設定変更や正解画像の登録などの指示を受け付ける。
実施形態1に係る検品装置109は、搬送された用紙を2つの撮影部240と撮影部256で用紙の左側と用紙の右側をそれぞれ撮影する。後述する図3の構成においては、カメラ331と334が2個並んでおり、これらは撮影部240と撮影部256にそれぞれ対応している。具体的な例については後述する。
次に画像形成装置101の大容量スタッカ110の構成について説明する。
大容量スタッカ110は、通信I/F244、CPU245、メモリ246、排紙制御部247を有し、これらはバス248を介して接続されている。通信I/F244は、通信ケーブル254を介して印刷装置107と接続し、制御に必要な通信を行う。CPU245は、メモリ246に格納された制御プログラムを実行して、排紙に必要な各種制御を行う。メモリ246はROMやRAMなどを有し、制御プログラムなどを保存している。排紙制御部247は、CPU245からの指示に基づき、搬送された用紙をスタックトレイ、エスケープトレイ、または後続のフィニッシャ111に搬送する。
次に画像形成装置101のフィニッシャ111の構成について説明する。
フィニッシャ111は、通信I/F249、CPU250、メモリ251、排紙制御部252、フィニッシング処理部253を有し、これらはバス254を介して接続されている。通信I/F249は、通信ケーブル254を介して印刷装置107と接続し、制御に必要な通信を行う。CPU250は、メモリ251に格納された制御プログラムを実行して、フィニッシングや排紙に必要な各種制御を行う。メモリ251はROMやRAM等を有し、制御プログラム等を保存している。排紙制御部252は、CPU250からの指示に基づき、用紙の搬送、排紙を制御する。フィニッシング処理部253は、CPU250からの指示に基づき、ステイプルやパンチ、中綴じ製本等のフィニッシング処理を行う。
以上の説明において、外部コントローラ102と画像形成装置101は、内部LAN105とビデオケーブル106を介して接続されているが、印刷に必要なデータの送受信が行える構成であればよく、例えば、ビデオケーブル106のみの接続構成でもよい。またメモリ202、メモリ209、メモリ223、メモリ234、メモリ239、メモリ246、メモリ251はそれぞれ、データやプログラムを保持するための記憶装置であればよい。例えば、揮発性のRAM、不揮発性のROM、内蔵HDD、外付けHDD、USBメモリなどで代替した構成でもよい。
図3は、実施形態1に係る画像形成装置101の機構を説明する概略断面図である。
まず印刷装置107について説明する。給紙デッキ301及び302は、各種用紙を複数枚収容することが可能である。各給紙デッキは、収容された用紙の最上位の一枚の用紙を分離して用紙搬送パス303へ搬送する。現像ステーション304~307は、カラー画像を形成するために、それぞれY、M、C、Kの有色トナーを用いてトナー像を形成する。ここで形成されたトナー像は中間転写ベルト308に一次転写される。中間転写ベルト308は、図3で時計回り方向に回転駆動され、二次転写位置309で、用紙搬送パス303から搬送されてきた用紙にトナー像が転写される。表示装置225は、画像形成装置101の印刷状況や設定のための情報を表示する。定着ユニット311は、用紙上のトナー像を用紙へ定着させる。定着ユニット311は、加圧ローラと加熱ローラとを備え、これらローラの間を、トナー像が転写された用紙が通過することにより、トナーを溶融・圧着することで用紙にトナー像を定着させる。定着ユニット311を通過した用紙は、用紙搬送パス312を通って搬送パス315へ搬送される。用紙の種類によって定着のために更に溶融・圧着が必要な場合は、定着ユニット311を通過した用紙は、上側の用紙搬送パスを経由して第二定着ユニット313へ搬送される。そして、この第二定着ユニット313で追加の溶融・圧着が施された用紙は、用紙搬送パス314を通って搬送パス315へ搬送される。また画像形成モードが両面の場合は、定着後の用紙は用紙反転パス316へ搬送され、反転部316で用紙の表裏が反転された後、両面搬送パス317へ搬送され、二次転写位置309で、その用紙の2面目に画像が転写される。
次に用紙を挿入するためのインサータ108の構成を説明する。
インサータ108はインサータトレイ321を備え、用紙搬送パス322を通じて給紙された用紙を搬送パス315へ合流させる。これにより、印刷装置107から搬送される一連の用紙群に、任意の位置で用紙を挿入して後続の装置へ搬送させることが可能となる。
インサータ108を通過した用紙は検品装置109へ搬送される。検品装置109内には、カメラ331と334、332と335とが対向する形で配置される。カメラ331と334は用紙の上面を、カメラ332と335は用紙の下面を読み取るためのカメラである。検品装置109は、用紙搬送パス333に搬送された用紙が所定に位置に到達したタイミングで、カメラ331と334、332と335を用いて用紙の画像を読み取り、用紙に印刷された画像が正常であるか否か判定することができる。表示装置241には検品装置109によって行われた検品結果などが表示される。
次に、大容量の用紙を積載することが可能な大容量スタッカ110の構成を説明する。
大容量スタッカ110は、用紙を積載するトレイとしてスタックトレイ341を有する。検品装置109を通過した用紙は、用紙搬送パス344を通して大容量スタッカ110に入力されてくる。用紙は用紙搬送パス344から用紙搬送パス345を経由して、スタックトレイ341に積載される。更に大容量スタッカ110は、排紙トレイとしてエスケープトレイ346を有する。エスケープトレイ346は、検品装置109によって欠陥用紙と判定された用紙を排出するために使用される排紙トレイである。エスケープトレイ346に排紙する場合は、用紙搬送パス344から用紙搬送パス347を経由してエスケープトレイ346へ用紙が搬送される。尚、大容量スタッカ110の後段の後処理装置へ用紙を搬送する場合には、用紙搬送パス348を経由して用紙が搬送される。反転部349は、用紙の表裏を反転するための機構部である。この反転部349は、用紙をスタックトレイ341に積載する場合に使用される。入力された用紙の向きと出力時点での用紙の向きが同一となるようにスタックトレイ341に積載する場合は、反転部349で一度用紙を反転させる。エスケープトレイ346や、後続の後処理装置(フィニッシャ111)へ搬送する場合は、積載時にフリップせずにそのまま用紙を排出するため、反転部349による用紙の反転動作は行わない。
フィニッシャ111は、ユーザにより指定された機能に応じて、搬送された用紙に対して後処理を加えることができる。フィニッシャ111では、具体的にはステイプル(1個所・2箇所綴じ)やパンチ(2穴・3穴)や中とじ製本等のフィニッシング機能を有する。フィニッシャ111は、2つの排紙トレイ351,352を備え、フィニッシング処理がなされない用紙束は用紙搬送パス353を経由して排紙トレイ351に出力される。ステイプル等のフィニッシング処理を行う場合、給紙された用紙は用紙搬送パス354を経由して処理部355に送られ、ユーザにより指定されたフィニッシング機能が実行され、排紙トレイ352へ出力される。排紙トレイ351及び352はそれぞれ昇降することが可能であり、排紙トレイ351を下降させ、処理部355でフィニッシング処理した用紙を排紙トレイ351へ積載することも可能である。中とじ製本が指定された場合は、中とじ処理部356で、用紙束の中央にステイプル処理を施した後、その用紙束を二つ折りにして用紙搬送パス357を経由して中とじ製本トレイ358へ出力する。中とじ製本トレイ358はベルトコンベア構成になっており、中とじ製本トレイ358上に積載された中とじ製本束は、図3の左側へ搬送される構成となっている。
図4(A)は、実施形態1に係る検品装置109が正解画像を登録するときの処理を説明するフローチャートである。尚、このフローチャートで示す処理は、検品装置109のCPU238がメモリ239に展開された前述のプログラムを実行することにより達成される。
まずS401でCPU238は、搬送された用紙(印刷済シート)を撮影部240(カメラ331),256(カメラ334)で読み取り、その読み取りで得られた画像データをメモリ239に保存する。次にS402に進みCPU238は、その記憶された画像データに対して適宜、各種画像処理(実施形態1では解像度変換およびフィルタ処理)を行う。次にS403に進みCPU238は、その画像データの特徴点の抽出処理を行う。この特徴点の抽出処理では、各種特徴量算出アルゴリズム(Harris Corner DetectionやFast Corner Detection, AKAZE等)に基づいて特徴点を抽出する。この特徴点の抽出処理の詳細については後述する。そしてS404に進みCPU238は、メモリ239に記憶されている読み取り画像データと、S403で抽出された特徴点の座標とをそれぞれ正解画像としてメモリ239に保存して、この処理を終了する。
図4(B)は、実施形態1に係る検品装置109が検品処理を行うときの処理を説明するフローチャートである。尚、このフローチャートで示す処理は、検品装置109のCPU238がメモリ239に展開された前述のプログラムを実行することにより達成される。
まずS411でCPU238は、S401と同様に、搬送された用紙(検査対象の印刷済シート)を撮影部240,256で読み取り、その読み取りで得られた画像データ(検査対象の画像データ)をメモリ239に保存する。次にS412に進みCPU238は、S402と同様して、メモリ239に記憶された画像データに対して適宜、各種画像処理(実施形態1では解像度変換およびフィルタ処理)を行う。次にS413に進みCPU238は、S403と同様にして、その画像データの特徴点を抽出する。次にS414に進みCPU238は、S413で抽出した検査対象の画像データの特徴点の座標と、S403で抽出して登録されている正解画像の特徴点の座標とから、読み取り画像データを正解画像へ位置合わせするための幾何変換パラメータを算出する。ここでは検査対象の画像データの特徴点の座標行列を行列A、正解画像の特徴点の座標行列を行列B、幾何変換パラメータを行列Xとすると、位置合わせのための幾何変換は以下の式(1)で表される。
A・X = B …式(1)
行列Aの疑似逆行列をAとすると、幾何変換パラメータ行列Xは、以下の式(2)で表される。
X = AB …式(2)
この式(2)により幾何変換パラメータが算出される。
次にS415に進みCPU238は、S414で算出した幾何変換パラメータを用いて検査対象の画像データを幾何変換することで正解画像に対して位置合わせを行う。次にS416に進みCPU238は、画素毎に、正解画像と検査対象の画像データの画素の差分を取得する。そしてS417に進みCPU238は、その画素の差分の最大値に基づいて、検査結果の判定を行う。即ち、ここでは、画素の差分の最大値が閾値以上(所定値以上)であれば、検査対象の画像データが欠陥、即ち、その画像が印刷されている用紙を欠陥(不良)用紙と判定して、例えば表示装置241に表示する。また画素の差分の最大値が閾値よりも小さいときは正常用紙と判定する。
図5は、実施形態1に係る検品装置109で搬送される用紙と撮影部240、撮影部256で読み取った画像の例、及び特徴点の座標の例を説明する図である。尚、図5において、用紙は撮影部240,256に対して図5の下側から上側方向に搬送されるものとする。
図5(a)(e)(i)は、撮影部240と撮影部256の配置を示している。ここで撮影部240は、搬送されてくる読み取り対象の用紙の左側を読み取り、撮影部256は、その用紙の右側を読み取るよう配置されている。また撮影部240と撮影部256は、重複して画像を読み取るオーバーラップ領域を持つ。このオーバーラップ領域は、撮影部256左端と撮影部240右端の間である。オーバーラップ領域は、用紙の搬送ずれも考慮して十分な領域をオーバーラップさせる必要がある。
図5(b)(f)(j)は、読み取り対象の用紙の画像を示している。
図5(c)(g)(k)は、撮影部240で読み取った画像を示し、用紙の左側のみを読み取っている。更に図5(d)(h)(l)は、撮影部256で読み取った画像を示し、用紙の右側のみを読み取っている。正解画像の登録時、CPU238は、読み取り画像を撮影部240及び撮影部256で読み取って得られた画像データを正解画像としてメモリ239に登録する。また検品処理時には、CPU238は、撮影部240及び撮影部256で読み取って得られた画像データと、メモリ239に登録した正解画像とを比較する。
図5(a)のように、2つの撮影部240,256が用紙の搬送方向に対して垂直に取り付けられており、かつ図5(b)のように、用紙が撮影部に対して垂直に搬送された場合、各撮影部が読み取って得られた画像データは、理想的には一切の変形なく読み取られたものとなる。いま用紙上の印刷画像が特徴点f0,f1,f2の3つの特徴点を持つ場合、図5(c),(d)に示すように撮影部240では特徴点f0,f1が、撮影部256では特徴点f0,f2が読み取られる。
次に図5(e)のように、2つの撮影部240,256が用紙の搬送方向に対して垂直に取り付けられているが、図5(f)のように、用紙が撮影部に対して傾いた状態で搬送された場合を考える。この場合、図5(g)、(h)のように用紙が傾いている分、画像が回転した状態で読み取られた画像データが得られる。
また図5(i)のように、撮影部240が用紙の搬送方向に対して傾いて取り付けられているが、図5(j)のように、用紙が撮影部に対して垂直に搬送された場合を考える。この場合は、図5(k),(l)のように、撮影部240の傾き角度分、用紙の左側の画像が平行四辺形状に変形(せん断)した状態で読み取られた画像データが得られる。
上述したように、撮影部によって読み取られて得られた画像データは、用紙の搬送状態(角度、主走査位置)、及び撮影部の取り付け状態(オフセット位置、角度)に応じて変形する。こうして変形した読み取り画像データを正解画像に位置合わせするための幾何変換としてアフィン変換を用いる場合、最低3点の特徴点が必要となる。しかし、用紙の搬送状態や撮影部の取り付け状態によっては、例えば図5(c)、(d)で示すようなアフィン変換に必要な特徴点が、撮影部が読み取って得られた画像データから得られない場合が生じてしまう。
このため実施形態1では、撮影部240の読み取り画像に対する幾何変換パラメータを算出するために、撮影部256で読み取った特徴点f2の座標を変換して使用する。同様に、撮影部256の読み取り画像に対する幾何変換パラメータを算出するために、撮影部240で読み取った特徴点f1の座標を変換して使用する。この座標変換について図6で説明する。
図6は、実施形態1に係る検品装置109による、図4のS403,S413の特徴点の抽出処理を説明するフローチャートである。尚、このフローチャートで示す処理は、検品装置109のCPU238がメモリ239に展開したプログラムを実行することにより達成される。この処理は、特徴量算出アルゴリズムに基づいて撮影部ごとに、読み取った画像の特徴点を抽出するものである。
まずS601でCPU238は、特徴量の算出アルゴリズムに基づいて、撮影部ごとに、各撮影部が撮影して得られる画像の特徴量に基づいて、各撮影部に対応する画像の特徴点を抽出する。次にS602でCPU238は、以降の処理を全ての撮影部について繰り返す。ここで、全ての撮影部とは、実施形態1においては撮影部240,256の2つを指すが、撮影部の個数は2つに限定されるものではない。そしてS603でCPU238は、以降の処理をS601で抽出した全ての特徴点について繰り返す。尚、全ての特徴点とは、図5(c)、図5(d)の例では、撮影部240で読み取った画像の特徴点f0,f1、及び撮影部256で読み取った画像の特徴点f0,f2を表す。尚、特徴点f0については、撮影部240,256で重複して読み取られているが、図6のフローチャートでは重複した特徴点を別々の特徴点として区別して処理を行う。
次にS604に進みCPU238は、現在参照する特徴点が、現在参照する撮影部で読み取られたものかどうかを判定する。例として、現在参照する撮影部が撮影部240の場合、現在参照する特徴点が撮影部256で読み取った特徴点f2である場合は偽となってS605に進む。一方、撮影部240で読み取った特徴点f0,f1である場合は真となってS606に進む。こうして、現在参照する撮影部で読み取られたものでなければS605に進みCPU238は、撮影部間での特徴点の座標変換処理を行う。
これは、図5(k),(l)の例でいえば、撮影部256で読み取った特徴点f2を、撮影部240の読み取り画像へと写像する処理である。言い換えると、本来、撮影部240で読み取れない特徴点f2が撮影部240で読み取れたと仮定する。そして、このような場合は、特徴点f2の座標を、撮影部256の読み取り画像の座標系から撮影部240の座標系へと変換する処理である。この写像も幾何変換を用いて行うことが可能である。この特徴点の座標変換処理に必要な幾何変換パラメータは、事前にチャート画像等を流して撮影部240と撮影部256の相対的な取り付け位置、角度を求めることで得られる。尚、撮影部240から撮影部256へと座標変換するパラメータと、撮影部256から撮影部240へと座標変換するパラメータはそれぞれ別である。尚、ここで、撮影部240の撮影部256の取り付け位置の違いを補正するためのパラメータは、工場出荷時に測定されて検品装置109に記憶されているものとする。
S606に進みCPU238は、得られた特徴点の座標を決定する。そしてS607でCPU238は、全ての特徴点について繰り返し処理が終わったかどうか判定し、終わっていなければS603へ戻る。こうして全ての特徴点についての処理が終了するとS608に進みCPU238は、全ての撮影部について繰り返し処理が終わったかどうかを判定し、終わっていなければS602へ戻る。
以上説明したように実施形態1によれば、複数の撮影部で読み取って得られた画像データごとに正解画像との位置合わせを行う検品装置であっても、それぞれの撮影部で読み取った特徴点の座標を座標変換することで幾何変換パラメータが算出可能となる。これにより、例え印刷用紙を読み取った画像で特徴点が偏在していても、幾何変換による位置合わせ処理が可能となる。
[実施形態2]
上述の実施形態1では、各撮影部で読み取った画像の全ての特徴点に対してS604からS606による特徴点の座標変換処理を行った。しかしながら、印刷画像によっては1つの撮影部で幾何変換に必要となる十分な個数の特徴点が読み取れる場合もある。この場合は、処理速度の観点から、撮影部間の特徴点の座標の決定処理を省略する構成が考えられる。これを実施形態2として説明する。尚、実施形態2に係るシステムの構成などは前述の実施形態1と同様であるため、その説明を省略する。
図7は、実施形態2に係る検品装置209による特徴点の抽出処理を説明するフローチャートである。尚、このフローチャートで示す処理は、検品装置109のCPU238がメモリ239に展開された前述のプログラムを実行することにより達成される。尚、図7において、前述の図6と共通する処理は同じ参照符号を使用して、その説明を省略する。
S701でCPU238は、該撮影部で読み取った特徴点の数が幾何変換パラメータを算出するために充足しているかどうかを判定する。そして充足していないと判定するとS605に進んで、撮影部間での特徴点の座標変換処理を行う。一方、特徴点の数が幾何変換パラメータを算出するために充足していると判定するとS605をスキップしてS606に進む。例えば、幾何変換としてアフィン変換を用いる場合は、最低3つの特徴点が必要であり、射影変換を用いる場合は最低4つの特徴点が必要である。但し、この個数はこれらに限定されるものではなく、パラメータ算出のロバスト性向上のために余裕を持った個数を閾値としてもよい。特徴点の数をできる限り多く、かつ抽出した特徴点の座標が用紙全体に万遍なく分散させるようにする。これにより、用紙の搬送に起因する読み取り画像データの部分的な変形が生じても、位置合わせ誤差を抑えることが可能である。このため、処理速度と位置合わせ精度のトレードオフから、この閾値が決定されることになる。
以上説明したように実施形態2によれば、画像の位置合わせを行うための幾何変換処理に必要な数の特徴点が得られた後は、撮影部間での特徴点の座標変換処理を省略する。これにより、印刷用紙1枚あたりの検品処理の速度を向上させることができる。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は上記実施形態に制限されるものではなく、本発明の精神及び範囲から逸脱することなく、様々な変更及び変形が可能である。従って、本発明の範囲を公にするために、以下の請求項を添付する。
101…画像形成装置、102…外部コントローラ、107…印刷装置、109…検品装置、238…(検品装置の)CPU、240,256…撮影部、331,332,334,335…カメラ

Claims (10)

  1. 印刷用紙を読み取って検査する検品装置であって、
    複数の撮影部を使用して前記印刷用紙の画像を読み取る読み取り手段と、
    前記複数の撮影部のそれぞれで読み取って得られる画像の特徴点を抽出する抽出手段と、
    前記複数の撮影部の第1の撮影部が読み取って得られた画像の特徴点が、本来は別の撮影部で読み取って得られる画像の特徴点かどうか判定する判定手段と、
    前記判定手段が、本来、前記別の撮影部で読み取って得られる特徴点であると判定した場合、当該特徴点の座標を前記別の撮影部の座標系から前記第1の撮影部の座標系に変換する変換手段と、
    前記抽出手段によって抽出された前記特徴点の座標、および前記変換手段によって変換された特徴点の座標から幾何変換パラメータを算出する算出手段と、
    前記幾何変換パラメータに基づいて、前記印刷用紙の画像と正解画像との位置合わせを行って前記画像と前記正解画像との間で画素ごとの差分を取得する取得手段と、
    を有することを特徴とする検品装置。
  2. 前記複数の撮影部のそれぞれは、前記印刷用紙の互いに異なる領域を読み取り、かつ、これら領域は、オーバーラップするオーバーラップ領域を有することを特徴とする請求項1に記載の検品装置。
  3. 前記正解画像を記憶する記憶手段を、更に有し、
    前記正解画像は、前記正解画像の画像データと当該画像データの特徴点の座標とを含むことを特徴とする請求項1又は2に記載の検品装置。
  4. 前記取得手段は、前記幾何変換パラメータによるアフィン変換を使用して前記印刷用紙の画像と前記正解画像との位置合わせを行うことを特徴とする請求項1乃至3のいずれか1項に記載の検品装置。
  5. 前記判定手段が、本来、前記別の撮影部で読み取って得られる画像の特徴点でないと判定した場合、前記算出手段は、前記抽出手段によって抽出された前記特徴点の座標から前記幾何変換パラメータを算出することを特徴とする請求項1乃至4のいずれか1項に記載の検品装置。
  6. 前記変換手段は、前記判定手段が、本来、前記別の撮影部で読み取って得られる画像の特徴点であると判定した場合であっても、前記印刷用紙の画像から抽出した特徴点の数が所定値になると前記座標系の変換を行わないことを特徴とする請求項1乃至5のいずれか1項に記載の検品装置。
  7. 前記取得手段により取得された前記差分が所定値以上の場合、前記印刷用紙が不良であることを表示する表示手段を、更に有することを特徴とする請求項1乃至6のいずれか1項に記載の検品装置。
  8. 印刷装置と、
    前記印刷装置で印刷された用紙に印刷された画像を検品する請求項1乃至7のいずれか1項に記載の検品装置と、
    前記検品装置で正常用紙と判定されて排出された用紙に後処理を行う後処理装置とを有することを特徴とする印刷システム。
  9. 複数の撮影部を使用して印刷用紙の画像を読み取る読み取り手段を有し、印刷用紙を読み取って検査する検品装置の制御方法であって、
    前記複数の撮影部のそれぞれで読み取って得られる画像の特徴点を抽出する抽出工程と、
    前記複数の撮影部の第1の撮影部が読み取って得られた画像の特徴点が、本来は別の撮影部で読み取って得られる画像の特徴点かどうか判定する判定工程と、
    前記判定工程が、本来、前記別の撮影部で読み取って得られる画像の特徴点であると判定した場合、当該特徴点の座標を前記別の撮影部の座標系から前記第1の撮影部の座標系に変換する変換工程と、
    前記抽出工程で抽出された前記特徴点の座標、および前記変換工程で変換された特徴点の座標から幾何変換パラメータを算出する算出工程と、
    前記幾何変換パラメータに基づいて、前記印刷用紙の画像と正解画像との位置合わせを行って前記画像と前記正解画像との間で画素ごとの差分を取得する取得工程と、
    を有することを特徴とする制御方法。
  10. コンピュータに、請求項9に記載の制御方法の各工程を実行させるためのプログラム。
JP2020211561A 2020-12-21 2020-12-21 検品装置とその制御方法及びプログラム、並びに検品装置を有する印刷システム Pending JP2022098171A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020211561A JP2022098171A (ja) 2020-12-21 2020-12-21 検品装置とその制御方法及びプログラム、並びに検品装置を有する印刷システム
US17/542,681 US20220198635A1 (en) 2020-12-21 2021-12-06 Verification apparatus, method of controlling the same, storage medium and printing system including the verification apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020211561A JP2022098171A (ja) 2020-12-21 2020-12-21 検品装置とその制御方法及びプログラム、並びに検品装置を有する印刷システム

Publications (1)

Publication Number Publication Date
JP2022098171A true JP2022098171A (ja) 2022-07-01

Family

ID=82021483

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020211561A Pending JP2022098171A (ja) 2020-12-21 2020-12-21 検品装置とその制御方法及びプログラム、並びに検品装置を有する印刷システム

Country Status (2)

Country Link
US (1) US20220198635A1 (ja)
JP (1) JP2022098171A (ja)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080181534A1 (en) * 2006-12-18 2008-07-31 Masanori Toyoda Image processing method, image processing apparatus, image reading apparatus, image forming apparatus and recording medium
JP6413542B2 (ja) * 2014-09-22 2018-10-31 富士ゼロックス株式会社 画像処理装置及び画像処理プログラム
JP7077631B2 (ja) * 2018-01-18 2022-05-31 コニカミノルタ株式会社 画像検査装置および画像形成システム
JP7218614B2 (ja) * 2019-02-27 2023-02-07 沖電気工業株式会社 画像診断システム、画像診断装置、および画像診断方法
US11373294B2 (en) * 2020-09-28 2022-06-28 Ricoh Company, Ltd. Print defect detection mechanism

Also Published As

Publication number Publication date
US20220198635A1 (en) 2022-06-23

Similar Documents

Publication Publication Date Title
US11528378B2 (en) Image forming apparatus and image forming method to display a number of normal sheets together with a number of defective sheets
US20220329701A1 (en) Image forming apparatus to verify printed image with master image, image forming method, and storage medium
JP2021135197A (ja) 検品装置及びその制御方法、印刷システム、並びにプログラム
JP2021154588A (ja) 検品装置、その制御方法、及びそのプログラム
US11422754B2 (en) Image forming apparatus, verification apparatus, information processing method, and storage medium
US11947853B2 (en) Print system, printing apparatus, method of controlling the printing apparatus, and storage medium
US20220276813A1 (en) Image processing apparatus and image processing system
US11755260B2 (en) Print system, printing apparatus and information processing apparatus, methods of controlling those, and storage medium
JP2021068390A (ja) 画像形成装置、画像形成方法、及び、プログラム
JP7471841B2 (ja) 検品システム、検品方法
US11487977B2 (en) Image forming apparatus and image forming method to verify target image using corrected image
JP2022098171A (ja) 検品装置とその制御方法及びプログラム、並びに検品装置を有する印刷システム
JP2021097365A (ja) 情報処理装置及び印刷制御方法、画像形成システム、プログラム
US11637945B2 (en) Image processing apparatus, method, and product for identifying and extracting an entire code from a pluraility of read portions of a sheet
US20220327677A1 (en) Image forming apparatus and image forming system
US20240179247A1 (en) Inspection apparatus, control method for inspection apparatus, inspection system, control method for inspection system and storage medium
US20230084850A1 (en) Printing apparatus, image forming apparatus, and control method
US20230142237A1 (en) Inspection system, method for controlling inspection system
JP2023083894A (ja) 検品装置、その制御方法、及びプログラム
US20230168851A1 (en) Image forming apparatus and image processing system
US20230247146A1 (en) Inspection system, printing apparatus, method for controlling inspection system
JP2021182725A (ja) 画像処理システム及び印刷検査方法とプログラム
JP2022076941A (ja) 画像形成装置、画像形成方法、及び、プログラム
JP2023084230A (ja) 画像処理装置、画像処理装置の制御方法、画像処理システム及びプログラム
JP2024016934A (ja) 画像処理装置、画像処理方法およびプログラム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20210316