JP2023125203A - Method and device for generating learned model for printed matter inspection system - Google Patents
Method and device for generating learned model for printed matter inspection system Download PDFInfo
- Publication number
- JP2023125203A JP2023125203A JP2022029180A JP2022029180A JP2023125203A JP 2023125203 A JP2023125203 A JP 2023125203A JP 2022029180 A JP2022029180 A JP 2022029180A JP 2022029180 A JP2022029180 A JP 2022029180A JP 2023125203 A JP2023125203 A JP 2023125203A
- Authority
- JP
- Japan
- Prior art keywords
- image
- learning
- data
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 118
- 238000007689 inspection Methods 0.000 title claims abstract description 80
- 238000012545 processing Methods 0.000 claims abstract description 180
- 238000012360 testing method Methods 0.000 claims abstract description 47
- 238000010801 machine learning Methods 0.000 claims abstract description 27
- 238000006243 chemical reaction Methods 0.000 claims description 60
- 238000001914 filtration Methods 0.000 claims description 58
- 238000012795 verification Methods 0.000 claims description 41
- 239000003086 colorant Substances 0.000 claims description 25
- 238000012549 training Methods 0.000 claims description 10
- 230000008569 process Effects 0.000 description 73
- 239000000976 ink Substances 0.000 description 29
- 238000010586 diagram Methods 0.000 description 23
- 230000000740 bleeding effect Effects 0.000 description 8
- 230000007547 defect Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 238000012935 Averaging Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 7
- 239000000463 material Substances 0.000 description 6
- 238000013527 convolutional neural network Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000012937 correction Methods 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 239000000654 additive Substances 0.000 description 2
- 230000000996 additive effect Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000005315 distribution function Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 239000000123 paper Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Abstract
Description
特許法第30条第2項適用申請有り 販売日: 令和3年11月30日 販売した場所:富士フイルムビジネスイノベーション株式会社 海老名事業所(〒243-0417 神奈川県海老名市本郷2274) 販売日: 令和3年12月24日 販売した場所:共同印刷株式会社 情報出力センター(埼玉県児玉郡上里町大字大御堂1427-2) 販売日 : 令和4年2月14日 販売した場所:株式会社TLP 羽生工場(〒348-0016 埼玉県羽生市大沼2丁目69番地)Patent Act Article 30,
本発明は、印刷物の検査システムのための学習済みモデルを生成する方法および装置に関する。 The present invention relates to a method and apparatus for generating a trained model for a printed matter inspection system.
印刷物をカメラで撮影して取得した画像データと、印刷元のデータとを比較することによって印刷の良否または品質を検査する種々の検査装置が開発および使用されている。 2. Description of the Related Art Various inspection devices have been developed and used that inspect the quality or quality of printing by comparing image data obtained by photographing printed matter with a camera and data from the printing source.
例えば特許文献1は、印刷データから生成されたマスター画像と、印刷物を読取装置で読み取ることによって生成した読取画像との差分に基づいて検査を行う検査装置を開示している。印刷データからマスター画像を生成することにより、例えばバリアブル印刷(Variable Data Printing: VDP)による印刷物の検査を効率的に行うことができる旨が記載されている。
For example,
特許文献2は、印刷物を撮影して取得した被検査画像と、予め生成した基準画像とを、印刷物の単位毎に読み出して比較し、不一致が認められた場合に印刷にエラーが生じたと判定する検査方法を開示している。
特許文献3は、ページ単位に異なるデータが印刷されるカラー印刷物の印刷内容および印刷状態を検査する検査装置を開示している。この検査装置は、印刷物に共通の背景絵柄と、印刷物ごとに異なる可変データのそれぞれについて、基準画像と比較照合することによって印刷内容および印刷状態を検査する。
特許文献4は、印刷物の条件に応じて基準データを変換して生成した比較用基準データと、印刷物を撮像して取得した撮像データに基づく比較用撮像データとを比較することによって印刷物の良否を判定する検査方法を開示している。比較用基準データは、深層学習を適用して生成された学習モデルを用いて、基準データから変換される。これにより、印刷物の条件に応じた基準データを用いた印刷物の良否判定を実施することができることが記載されている。
従来の印刷物検査方法では、印刷物を撮影して取得した画像データと印刷の元となったデータとの形式の違いや、印刷時のインクのにじみ、用紙の変形等に起因して、検査の精度が低下する場合があった。 In conventional print inspection methods, inspection accuracy may be affected due to differences in the format of the image data obtained by photographing the print and the original data for printing, ink bleeding during printing, deformation of the paper, etc. There were cases where the value decreased.
本開示は、印刷物の画像検査の精度を向上させることが可能な新規な検査技術を提供する。 The present disclosure provides a novel inspection technique that can improve the accuracy of image inspection of printed matter.
本発明の一態様に係る検査システムは、入力された印刷元データをヘッドデータに変換する印刷コントローラと、前記ヘッドデータに基づいて印刷を行う印刷ヘッドとを備えた印刷機と組み合せて使用される。前記検査システムは、前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、処理装置とを備える。前記処理装置は、前記印刷元データまたは前記ヘッドデータに第1空間フィルタリング処理を行って第1フィルタ画像を生成する。前記処理装置は、前記第1フィルタ画像と前記カメラ画像との照合、または、前記第1フィルタ画像と、前記カメラ画像に第2空間フィルタリング処理を行って生成した第2フィルタ画像との照合を行うことにより、前記印刷物の良否を判定し、判定結果を出力する。 An inspection system according to one aspect of the present invention is used in combination with a printing machine that includes a print controller that converts input printing source data into head data, and a print head that prints based on the head data. . The inspection system includes a camera that takes a picture of a printed matter printed by the printing machine to generate a camera image, and a processing device. The processing device performs a first spatial filtering process on the print source data or the head data to generate a first filter image. The processing device matches the first filter image with the camera image, or matches the first filter image with a second filter image generated by performing a second spatial filtering process on the camera image. By doing so, the quality of the printed matter is determined and the determination result is output.
本発明の他の態様に係る方法は、印刷データに基づいて印刷を実行する印刷機と、前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、前記印刷データを、機械学習によって予め訓練された学習済みモデルを用いて照合用印刷画像に変換し、前記照合用印刷画像と前記カメラ画像に基づく照合用カメラ画像との照合を行うことにより、前記印刷物の良否を判定する処理装置と、を備えた検査システムのための前記学習済みモデルを生成する方法である。前記方法は、複数の色のパターンを含むテストチャートの画像を示す学習用印刷データと、前記学習用印刷データに基づいて前記印刷機が印刷した印刷物を前記カメラが撮影することによって生成した学習用カメラ画像とを含む学習用データセットを取得することと、前記学習用データセットに基づく機械学習によって前記学習済みモデルを生成することと、を含む。 A method according to another aspect of the present invention includes: a printing machine that executes printing based on print data; a camera that generates a camera image by photographing printed matter printed by the printing machine; The quality of the printed matter is determined by converting it into a verification print image using a learned model trained in advance through learning, and comparing the verification print image with a verification camera image based on the camera image. A method of generating the learned model for an inspection system comprising a processing device. The method includes learning print data showing an image of a test chart including a plurality of color patterns, and learning print data generated by the camera photographing a printed matter printed by the printing machine based on the learning print data. The method includes obtaining a learning data set including a camera image, and generating the learned model by machine learning based on the learning data set.
本発明の包括的または具体的な態様は、装置、システム、集積回路、コンピュータプログラム、記録媒体、またはこれらの任意の組み合わせによって実現され得る。 General or specific aspects of the invention may be implemented by an apparatus, a system, an integrated circuit, a computer program, a recording medium, or any combination thereof.
本発明によれば、印刷物の画像検査の精度を向上させることができる。 According to the present invention, it is possible to improve the accuracy of image inspection of printed matter.
本発明の実施形態を説明する前に、本発明の基礎となった知見を説明する。 Before describing the embodiments of the present invention, the findings on which the present invention is based will be explained.
バリアブル印刷を行うデジタル印刷機は、ページごとに異なる内容を印刷する。そのような印刷機は、例えば、あて名印刷、請求書印刷、および明細書印刷などの種々の用途に広く利用されている。 Digital printing machines that perform variable printing print different content on each page. Such printing machines are widely used for various applications such as address printing, bill printing, and statement printing, for example.
可変印刷では、ページごとに異なる内容が印刷されるため、事前に用意された1つの画像と比較するといった単純な方法では検査ができない。このため、印刷元の画像データと、印刷物を撮像して得られる画像データとを比較照合することで検査を行う方法が考えられる。 In variable printing, different content is printed on each page, so inspection cannot be performed simply by comparing it with a single image prepared in advance. For this reason, a method can be considered in which the inspection is performed by comparing and collating the image data of the printing source and the image data obtained by imaging the printed matter.
しかし、2つの画像を照合する方法には、例えば以下の課題がある。
・一般的に、印刷は減色系(YMCK)、カメラは加色系(RGB)のデータを処理するため、両者のデータを直接比較することができない。
・印刷機内で展開されるイメージと、検査装置内で展開されるイメージとは必ずしも一致せず、相違点が生じる。
・用紙またはインクなどの特性に起因して、インクのにじみや用紙の変形等が生じ、印刷しようとする画像と実際に印刷された画像との間に相違点が生じる。
However, the method of comparing two images has the following problems, for example.
-Generally, printing processes data using subtractive color system (YMCK), and cameras process data using additive color system (RGB), so it is not possible to directly compare the data of the two.
- The image developed in the printing machine and the image developed in the inspection device do not necessarily match, and there are differences.
-Due to the characteristics of the paper or ink, ink bleeding or paper deformation may occur, resulting in differences between the image to be printed and the image actually printed.
このような課題のため、従来の検査装置では、カラーの印刷物を高い精度で検査することが難しかった。そのため、従来は、例えば文字などの重要な部分の色に重点を置いて照合を行う検査システムが用いられることが多かった。 Because of these problems, it has been difficult for conventional inspection devices to inspect color printed matter with high accuracy. Therefore, in the past, inspection systems were often used that performed verification by focusing on the color of important parts, such as characters, for example.
図1は、従来の検査システムの一例を模式的に示す図である。図1に示す検査システムは、印刷コントローラ110および印刷ヘッド120を有する印刷機と、処理装置210と、カメラ220(撮像装置)とを備える。印刷ヘッド120は、シアン(C)、マゼンタ(M)、黄(Y)、および黒(K)の4色に対応する4種類のヘッドを含む。印刷コントローラ110は、外部の装置から入力された印刷元データ(例えばPDFファイル等)を、ヘッドデータに変換して各印刷ヘッド120に出力する。ヘッドデータは、例えば、CMYKの各色の網点(ハーフトーン)画像のデータである。各印刷ヘッド120は、ヘッドデータに従い、搬送される用紙10に印刷を実行する。印刷された用紙10は、カメラ220によって撮影される。カメラ220は、印刷された用紙10を撮影してカメラ画像データ(以下、「カメラ画像」とも称する。)を生成する。処理装置210は、ヘッドデータおよびカメラ画像のそれぞれから特定の色(例えば文字等の重要な部分の色)のデータを抽出し、それらを照合して印刷の良否を判定する。
FIG. 1 is a diagram schematically showing an example of a conventional inspection system. The inspection system shown in FIG. 1 includes a printing machine having a
このようなシステムにおいては、検査の対象が印刷物の特定の色の成分に限定され、他の色の成分については検査することができない。また、印刷時のインクのにじみや用紙の変形に起因する印刷物の欠陥を高い精度で検出することが難しい。 In such a system, the object of inspection is limited to a specific color component of a printed matter, and other color components cannot be inspected. Furthermore, it is difficult to detect with high accuracy defects in printed matter due to ink bleeding or paper deformation during printing.
一般に、印刷に使用される用紙は、水分や油分を吸収することによって伸縮する。水分や油分を含むインクを用紙上に噴射または塗布する場合、用紙の伸縮が発生し、印刷物は元のデジタルデータに対して変形する場合がある。例えば、A4サイズで1mm程度変形する場合がある。 Generally, paper used for printing expands and contracts by absorbing moisture and oil. When ink containing water or oil is jetted or applied onto paper, the paper may expand or contract, and the printed matter may be deformed relative to the original digital data. For example, an A4 size sheet may be deformed by about 1 mm.
図2は、印刷によって用紙および印刷された部分が変形することを模式的に示す図である。図2に示すように、インク量の多い部分は収縮が大きく、インク量の少ない部分は収縮が小さい。変形の程度と変形の形態は印刷内容によって変化するため、事前に変形を予測することは困難である。特に、ページ毎に異なる内容が印刷される可変印刷においては、ページ毎にインク量が異なることから、収縮の仕方がページ毎に不規則に変化し得る。その結果、カメラ画像と元データとの照合が困難になる場合がある。他にも、カメラ内のレンズの光学的特性(主に歪曲収差)の影響で、撮影した画像が変形する場合もある。この場合の変形は規則的であるが、同様に元データとの照合が困難になり得る。 FIG. 2 is a diagram schematically showing that the paper and the printed portion are deformed by printing. As shown in FIG. 2, areas with a large amount of ink have a large amount of shrinkage, and areas with a small amount of ink have a small amount of shrinkage. Since the degree of deformation and the form of deformation change depending on the printed content, it is difficult to predict deformation in advance. In particular, in variable printing in which different content is printed on each page, the amount of ink differs on each page, so the way the ink shrinks can vary irregularly on each page. As a result, it may become difficult to match the camera image with the original data. In addition, the captured image may be deformed due to the optical characteristics (mainly distortion) of the lens within the camera. Although the deformation in this case is regular, matching with the original data can be difficult as well.
本発明者らは、上記の課題を解決するため、以下に説明する本発明の実施形態の構成に想到した。以下、本発明の例示的な実施形態を説明する。ただし、必要以上に詳細な説明は省略することがある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になることを避け、当業者の理解を容易にするためである。なお、発明者は、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって特許請求の範囲に記載の主題を限定することを意図するものではない。本明細書においては、同一のまたは類似する構成要素には、同一の参照符号を付している。 In order to solve the above problems, the present inventors came up with the configuration of the embodiment of the present invention described below. Exemplary embodiments of the present invention will be described below. However, more detailed explanation than necessary may be omitted. For example, detailed explanations of well-known matters or redundant explanations of substantially the same configurations may be omitted. This is to avoid unnecessary redundancy in the following description and to facilitate understanding by those skilled in the art. The inventors have provided the accompanying drawings and the following description to enable those skilled in the art to fully understand the present disclosure, and are not intended to limit the subject matter recited in the claims. do not have. Identical or similar components are provided with the same reference numerals throughout this specification.
(実施形態1)
図3は、本発明の例示的な実施形態による検査システムの構成を模式的に示す図である。この検査システムは、印刷機100と、検査装置200とを備える。図3には、印刷機100および検査装置200に接続されるコンピュータ300も示されている。コンピュータ300は、例えばサーバコンピュータ、パーソナルコンピュータ(PC)、または携帯端末などの任意の情報処理装置である。コンピュータ300は、検査システムに含まれていてもよいし、検査システムの外部の要素であってもよい。また、印刷機100は、検査システムの外部の要素であってもよい。
(Embodiment 1)
FIG. 3 is a diagram schematically showing the configuration of an inspection system according to an exemplary embodiment of the present invention. This inspection system includes a
図1に示す印刷機100は、印刷コントローラ110と、印刷ヘッド120と、搬送機130とを備える。搬送機130は、ロール状の用紙10を搬送する。印刷コントローラ110は、印刷機100の全体の動作を制御する装置または回路である。印刷コントローラ110は、コンピュータ300から入力された、印刷元データを含む印刷指示を受けて、搬送機130および印刷ヘッド120を駆動する。これにより、印刷機100は、用紙10を搬送しながら印刷を実行する。印刷コントローラ110、印刷ヘッド120、および搬送機130は、1つの装置として一体化されていなくてもよく、それぞれ独立した装置として構成されていてもよい。
The
印刷機100は、例えばインクジェット方式または電子写真方式等の公知の方式で印刷を行うデジタル印刷機である。印刷機100は、コンピュータ300から入力された印刷元データに基づいて用紙10に印刷を行う。印刷は、カラー印刷であってもよいしモノクロ印刷であってもよい。以下の説明では、一例として、シアン(C)、マゼンタ(M)、黄(Y)、黒(K)の4色のインクを用いたカラー印刷を行うものとする。印刷機100は、CMYKに限らず、他の色のインクを用いて印刷を行ってもよい。
The
本実施形態における印刷機100は、バリアブル印刷(可変印刷)を実行することができる。バリアブル印刷では、用紙10のページごとに異なる文字、図形、または画像などが連続的に印刷される。本実施形態における用紙10はロール紙であるが、フィルムなどの他の印刷媒体に印刷が行われてもよい。
The
印刷コントローラ110は、入力された印刷元データをヘッドデータに変換して印刷ヘッド120に出力する。印刷元データは、例えばPDF(Portable Document Format)等の画像や文字の情報を含むベクタ形式のデータであり得る。ヘッドデータは、例えば各画素1色あたり2~4階調程度の少数の階調で表現された網点(ハーフトーン)画像を示すビットマップ(ラスタ)のデータであり得る。印刷コントローラ110は、例えばベクタ形式の印刷元データを、より少数の階調の点の集合として表現されたラスタ画像を表すヘッドデータに変換するRIP(Raster Image Processor)の機能を有する。RIP処理は、PDF等の印刷元データをラスタデータに変換する処理、RGB(赤、緑、青)からCMYK(シアン、マゼンタ、黄、黒)への変換処理、および各色の濃淡を網点(ハーフトーン)で表現するハーフトーン処理等の種々の処理を含み得る。なお、RIPの機能の少なくとも一部は、印刷コントローラ110とは異なる装置(例えばコンピュータ300)が実行してもよい。印刷元データは、PDFに限らず、例えばJPEG(Joint Photographic Experts Group)またはPNG(Portable Network Graphics)等の画像データであってもよい。
The
印刷ヘッド120は、入力されたヘッドデータに基づいて印刷を実行するための部品およびそれらの部品を制御する回路を含む装置である。図3には1つの印刷ヘッド120が例示されているが、カラー印刷が行われる場合、複数の色のインクに対応する複数種類の印刷ヘッドが設けられ得る。例えば、シアン(C)、マゼンタ(M)、黄(Y)、黒(K)の4色のインクにそれぞれ対応する4つの印刷ヘッドが設けられ得る。印刷機100がインクジェットプリンタである場合、各色の印刷ヘッドは、用紙10の表面に沿って搬送方向(図1に示す矢印の方向)に垂直な方向に並ぶ複数のインクジェットヘッドを含み得る。各インクジェットヘッドは、例えばインクを加圧または加熱して噴射するノズルを含む。なお、印刷機100が電子写真方式のプリンタである場合、印刷ヘッド120は、レーザまたはLED等の光源、ポリゴンミラー等の光学系、感光ドラム等の部品、光源および光学系を制御する回路を含み得る。
The
検査装置200は、印刷機100と連動して動作し、印刷された用紙10を検査し、検査結果を出力する。検査装置200は、印刷機100およびコンピュータ300に接続されている。検査装置200は、カメラ220と、処理装置210とを備える。
The inspection device 200 operates in conjunction with the
カメラ220は、印刷された用紙10の搬送経路上に配置される。カメラ220は、印刷後の用紙10を撮影して画像データ(「カメラ画像」と呼ぶ。)を生成する。カメラ220は、例えばページごとにカメラ画像を出力するように構成され得る。
カメラ220は、例えばCCDまたはCMOSなどのイメージセンサと、レンズ等の光学系とを備える。カメラ220は、2次元のイメージセンサを備えていてもよいし、コンタクトイメージセンサ(CIS)などのリニアイメージセンサ(ラインセンサ)を備えていてもよい。カメラ220がリニアイメージセンサを備える場合、カメラ220は、搬送された用紙10をラインごとに撮影し、複数ラインのデータをページごとにまとめてカメラ画像として出力してもよい。あるいは、カメラ220は、ラインごとにデータを出力し、処理装置210が複数ラインのデータをページごとにまとめて2次元のカメラ画像のデータを生成してもよい。カメラ220は、用紙10の表面側だけでなく裏面側にも設けられていてもよい。用紙10の両面側に2つのカメラ220を設けることにより、用紙10の両面の印刷状態を検査することができる。
The
処理装置210は、プロセッサ212と、RAM214およびROM216等の記憶媒体(メモリ)と、入出力インターフェース(I/F)218とを備える。プロセッサ212は、例えばCPU(Central Processing Unit)またはGPU(Graphics Processing Unit)などの演算処理回路を含む。ROM216は、プロセッサ212によって実行されるコンピュータプログラムを格納する。当該プログラムは、後述する処理をプロセッサ212に実行させるための命令群を含む。RAM214は、プロセッサ212がプログラムを実行するにあたって、当該プログラムを展開するためのワークメモリである。プロセッサ212は、インターフェース218を介して、コンピュータ300、印刷コントローラ110、およびカメラ220に接続される。
The
処理装置210のプロセッサ212は、印刷元データまたはヘッドデータと、カメラ画像データとに基づく照合処理を行い、印刷物の良否を判定する。以下、図4を参照しながら、この判定処理の詳細を説明する。
The processor 212 of the
図4は、処理装置210による判定処理の概要を説明するための模式図である。処理装置210は、印刷元データおよびヘッドデータの少なくとも一方を取得し、取得した印刷元データまたはヘッドデータに、空間フィルタリング処理および色調整処理等の必要な変換処理を行い、照合用の画像データ(第1フィルタ画像)を生成する。処理装置210はまた、カメラ220からカメラ画像を取得し、当該カメラ画像に空間フィルタリング処理および色調整処理等の必要な変換処理を行い、照合用のカメラ画像(第2フィルタ画像)を生成する。処理装置210は、第1フィルタ画像と第2フィルタ画像とを照合し、照合結果を出力する。例えば、処理装置210は、第1フィルタ画像と第2フィルタ画像とを、比較的小さい領域ごとに比較する処理を画像全体にわたって実行し、両者の一致度に基づいて、印刷の良否を判定する。処理装置210は、判定結果を、例えば処理装置210に接続されたディスプレイもしくはスピーカなどの出力装置または記憶装置に出力する。
FIG. 4 is a schematic diagram for explaining an overview of the determination processing performed by the
図4に示す例では、処理装置210は、印刷元データおよびヘッドデータのいずれに基づいて照合するかを切り替えることができる。処理装置210は、例えばユーザによって指定されたモードの設定に基づいて、印刷元データおよびヘッドデータのいずれを照合に使用するかを選択するように構成され得る。その場合、ユーザは、処理装置210に接続された入力装置を用いて、印刷元データを用いるモードとヘッドデータを用いるモードとを切り替えることができる。なお、この選択の機能は必須ではなく、処理装置210は、印刷元データおよびヘッドデータの一方のみから照合用の第1フィルタ画像を生成してもよい。
In the example shown in FIG. 4, the
図4に示す例では、印刷ヘッド120は、シアン(C)、マゼンタ(M)、黄(Y)、黒(K)の4色に対応する4種類の印刷ヘッドを含む。これにより、カラー印刷が可能である。印刷ヘッド120は、モノクロ印刷を行うように構成されていてもよい。モノクロ印刷が行われる場合、印刷元データまたはヘッドデータ、およびカメラ画像データに対する色調整処理は省略されてもよい。
In the example shown in FIG. 4, the
本実施形態によれば、処理装置210は、印刷元データまたはヘッドデータに第1空間フィルタリング処理を行って生成した第1フィルタ画像と、印刷物を撮影して取得したカメラ画像に第2空間フィルタリング処理を行って生成した第2フィルタ画像とに基づいて印刷物の良否を判定する。第1空間フィルタリング処理として、印刷時のインクのにじみおよび用紙の変形等の影響を反映した処理が行われる。これにより、印刷時のインクのにじみおよび用紙の変形等が生じたとしても高い精度で印刷物の欠陥を検出することができる。また、本実施形態では、印刷元データまたはヘッドデータ、およびカメラ画像の特性に応じた色調整処理も行われる。これにより、両者の色表現の違いに関わらず、高い精度で検査を行うことができる。
According to the present embodiment, the
なお、処理装置210は、カメラ画像に対する空間フィルタリング処理および色調整処理を省略し、第1フィルタ画像とカメラ画像とを直接照合してもよい。図5は、その場合のシステム構成例を示している。印刷元データまたはヘッドデータ(以下、まとめて「印刷データ」と称することがある。)に適切な空間フィルタリング等の処理を行うことにより、人が目視で検査する場合と同程度の高精度の検査が可能である。
Note that the
図6は、本実施形態における印刷および検査の流れを模式的に示す図である。ここでは、ヘッドデータが示す画像に空間フィルタを用いたフィルタリングを行って生成したフィルタ画像と、カメラ画像との間で照合を行う場合の例を説明する。印刷コントローラ110は、図6に示すように、印刷元データにディザリング等の網点(ハーフトーン)処理を行い、ヘッドデータを生成する。ヘッドデータは、印刷元データにおける濃淡が点の密度として表現された網点のデータである。このようなヘッドデータが、例えばシアン、マゼンタ、黄、黒のそれぞれの色ごとに生成され得る。印刷ヘッド120は、このようなヘッドデータに基づいて各色に対応するヘッドを駆動して用紙に印刷を行う。用紙上では、インクのにじみや混合等の影響により、画像に変化が生じる。また、印刷物をカメラで撮影すると、カメラや撮影環境などの特性に応じて、撮影された画像に変化が生じる。その結果、カメラ画像はヘッドデータが示す画像とは一致せず、両者を直接照合することができない。そこで、図6の例では、処理装置210は、印刷時の用紙上のインクのにじみや用紙の変形等の影響を擬似的に再現した空間フィルタを用いてヘッドデータをフィルタ画像に変換し、フィルタ画像とカメラ画像とを照合する。これにより、ヘッドデータとカメラ画像との比較が可能になり、検査の精度を大きく向上させることができる。
FIG. 6 is a diagram schematically showing the flow of printing and inspection in this embodiment. Here, an example will be described in which a filter image generated by filtering an image indicated by head data using a spatial filter is compared with a camera image. As shown in FIG. 6, the
なお、図6の例では、ヘッドデータに空間フィルタリングを行って照合用のフィルタ画像を生成するが、印刷元データに空間フィルタリングを行って照合用のフィルタ画像を生成してもよい。印刷元データがPDF等のベクタ形式のデータである場合、処理装置210は、印刷元データにラスタライズ処理および色変換処理等の必要な処理を行った上で空間フィルタリングを行ってもよい。印刷元データもカメラ画像とは異なるため、そのままでは両者を照合することができない。印刷元データに適切な空間フィルタリング処理を行うことにより、検査の精度を向上させることができる。
Note that in the example of FIG. 6, spatial filtering is performed on the head data to generate a filter image for verification, but the filter image for verification may be generated by performing spatial filtering on the printing source data. When the print source data is data in a vector format such as PDF, the
図6に示す例では、カメラ画像をそのまま照合用のデータとして用いているが、図4の例のように、カメラ画像についても同様に空間フィルタリングおよび色変換等の変換処理を行い、両者の照合をしやすくしてもよい。 In the example shown in Figure 6, the camera image is used as it is as data for comparison, but as in the example in Figure 4, the camera image is also subjected to transformation processing such as spatial filtering and color conversion, and the two are compared. You can make it easier to do so.
このように、本実施形態では、印刷に伴う画像の変化の要因を想定して、照合前に印刷データ(および必要に応じてカメラ画像)の加工が行われる。加工は、例えばガウシアンフィルタなどの平滑化を行う空間フィルタ(すなわちローパスフィルタ)を用いて行われ得る。使用される空間フィルタはガウシアンフィルタなどの線形フィルタに限らず、非線形フィルタであってもよい。また、複数の空間フィルタを組み合わせて照合用の適切なフィルタ画像を生成してもよい。空間フィルタは、印刷機100および用紙10の特性に応じて予め作成される。空間フィルタは、例えば機械学習を利用して訓練された学習済みモデルとして生成されてもよい。処理装置210自身が検査前に空間フィルタを生成してもよい。処理装置210は、既知の印刷データの印刷時の変形を、例えばニューラルネットワークを利用した機械学習アルゴリズムを用いて学習することによって最適な空間フィルタ(学習済みモデル)を生成してもよい。使用されるニューラルネットワークの例として、誤差逆伝播法を利用した畳み込みニューラルネットワーク(CNN)が挙げられる。処理装置210は、例えばGAN(Generative Adversarial Network)に基づく学習アルゴリズム(pix2pix等)を利用して最適な空間フィルタを生成してもよい。
In this manner, in this embodiment, print data (and camera images as necessary) are processed before verification, assuming factors that may cause changes in images due to printing. The processing may be performed using a spatial filter (ie, a low-pass filter) that performs smoothing, such as a Gaussian filter. The spatial filter used is not limited to a linear filter such as a Gaussian filter, but may also be a nonlinear filter. Alternatively, a suitable filter image for matching may be generated by combining a plurality of spatial filters. The spatial filter is created in advance according to the characteristics of the
図4および図5に示す実施形態では、処理装置210は、印刷データに対して空間フィルタリング処理に加えて、色変換処理も行う。これにより、印刷データとカメラ画像との間で色の比較がしやすくなる。以下、図7を参照しながら、本実施形態における色変換処理の概要を説明する。
In the embodiment shown in FIGS. 4 and 5, the
図7は、色変換処理の概要を模式的に示す図である。ここでも図6に示す例と同様に、ヘッドデータから第1フィルタ画像が生成される例を説明する。この例において、印刷元データは加色系のRGB色空間で表現され、ヘッドデータは減色系のCMYK色空間で表現されている。カメラで撮影された画像はRGB色空間で表現されるため、ヘッドデータとカメラ画像とを直接照合することができない。そこで、処理装置210は、ヘッドデータに対して、前述の空間フィルタリング処理に加えて、CMYK色空間からRGB色空間への変換処理を行うことによって第1フィルタ画像を生成する。このような変換を行うことにより、ヘッドデータからカメラで撮影された画像を擬似的に再現することができ、検査の精度を向上させることができる。
FIG. 7 is a diagram schematically showing an overview of color conversion processing. Here, similarly to the example shown in FIG. 6, an example in which a first filter image is generated from head data will be described. In this example, the print source data is expressed in an additive RGB color space, and the head data is expressed in a subtractive CMYK color space. Since the image taken by the camera is expressed in the RGB color space, it is not possible to directly compare the head data and the camera image. Therefore, the
色変換は、CMYKからRGBへの変換に限らず、他の変換であってもよい。例えば、色の変化に対する感度を肉眼に近づけるために、印刷データ(印刷元データまたはヘッドデータ)およびカメラ画像を、各色の重みづけが等しくなるCIE-L*a*b*などの表色系に変換してもよい。そのような変換を行うことにより、より肉眼に近い検査が可能となる。また、既知の印刷データとカメラ画像を用いて、例えば誤差逆伝播法を利用したCNN等の機械学習アルゴリズムによって訓練された学習済みモデルを用いて印刷データの色変換を行ってもよい。処理装置210は、例えばpix2pix等のアルゴリズムを利用して、前述の空間フィルタリングと色変換とを同時に行うモデルを生成してもよい。
The color conversion is not limited to conversion from CMYK to RGB, and may be other conversions. For example, in order to bring the sensitivity to color changes closer to that of the naked eye, print data (print source data or head data) and camera images are converted to a color system such as CIE-L * a * b * in which each color is weighted equally. May be converted. By performing such conversion, inspection that is closer to the naked eye becomes possible. Furthermore, the color conversion of the print data may be performed using known print data and camera images, using a learned model trained by a machine learning algorithm such as CNN using error backpropagation, for example. The
次に、図8を参照しながら、処理装置210によって実行される処理をより詳細に説明する。
Next, the processing executed by the
図8は、処理装置210のプロセッサ212が実行する処理の例を示すフローチャートである。この例では、処理装置210は、印刷開始後、印刷コントローラ110から印刷終了の指示(ステップS107)を受けるまで、ステップS101からS106の処理を、印刷物のページごとに繰り返す。なお、印刷終了の指示は、印刷コントローラ110とは異なる装置から入力されてもよい。
FIG. 8 is a flowchart illustrating an example of processing executed by the processor 212 of the
ステップS101において、処理装置210は、印刷元データまたはヘッドデータを取得する。処理装置210は、印刷元データを、図3に示すようにコンピュータ300から取得してもよいし、印刷コントローラ110から取得してもよい。処理装置210は、ヘッドデータを、印刷コントローラ110から取得する。処理装置210は、印刷元データおよびヘッドデータの両方を取得してもよいし、一方のみを取得してもよい。処理装置210は、設定されたモードに従って、印刷元データおよびヘッドデータの一方を取得するように構成されていてもよい。
In step S101, the
ステップS102において、処理装置210は、ステップS101で取得した印刷元データまたはヘッドデータに第1空間フィルタリング処理を行い、第1フィルタ画像を生成する。第1空間フィルタリング処理は、例えば、加重平均化フィルタ(例えばガウシアンフィルタ)などの平滑化フィルタを用いた処理を含み得る。第1空間フィルタリング処理は、平均化フィルタによるサイズ圧縮処理を含んでいてもよい。第1空間フィルタリング処理により、インクのにじみや用紙の変形の影響を擬似的に再現し、カメラ画像との照合を行いやすくすることができる。ベクタ形式の印刷元データを処理する場合、処理装置210は、第1空間フィルタリング処理の前に、ラスタライズ処理を行い、ラスタ(ビットマップ)形式の画像に変換してもよい。処理装置210は、第1空間フィルタリング処理に加えて、第1フィルタ画像の各画素の色を調整する第1色変換処理を行ってもよい。第1フィルタ画像がCMYKの4色の色空間で表されている場合、処理装置210は、第1フィルタ画像に対してCMYKからカメラ画像の色空間であるRGBへの色変換を行うように構成され得る。色変換は、予め作成された色変換テーブルに基づいて行われ得る。あるいは、処理装置210は、誤差逆伝播法等を利用した学習アルゴリズムを用いて予め訓練された学習済みモデルを用いて、印刷元データまたはヘッドデータを、照合用の第1フィルタ画像に変換してもよい。
In step S102, the
ステップS103において、処理装置210は、カメラ220からカメラ画像を取得する。カメラ画像は、例えばRGBの画像データである。
In step S103, the
ステップS104において、処理装置210は、ステップS103で取得したカメラ画像に第2空間フィルタリング処理を行い、第2フィルタ画像を生成する。第2空間フィルタリング処理は、例えば加重平均化フィルタ(例えばガウシアンフィルタ)などの平滑化フィルタを用いた処理を含み得る。第2空間フィルタリング処理は、平均化フィルタによるサイズ圧縮処理を含んでいてもよい。第2空間フィルタリング処理を行うことにより、例えば画素数とぼやけの程度が第1フィルタ画像と同等の第2フィルタ画像を生成することができる。これにより、第1フィルタ画像との照合が容易になる。処理装置210は、第2空間フィルタリング処理に加えて、カメラ画像の各画素の色を調整する第2色変換処理を行ってもよい。第2空間フィルタリング処理および第2色変換処理に加えて、例えば回転補正などの処理を行って第1フィルタ画像との照合をしやすくしてもよい。あるいは、処理装置210は、誤差逆伝播法等を利用した学習アルゴリズムを用いて予め訓練された学習済みモデルを用いて、カメラ画像を、照合用の第2フィルタ画像に変換してもよい。
In step S104, the
なお、ステップS103およびS104の処理は、ステップS101およびS102の前に行われてもよいし、ステップS101およびS102の処理と並行して行われてもよい。 Note that the processing in steps S103 and S104 may be performed before steps S101 and S102, or may be performed in parallel with the processing in steps S101 and S102.
ステップS105において、処理装置210は、第1フィルタ画像と第2フィルタ画像とを照合し、印刷の良否を判定する。処理装置210は、第1フィルタ画像と第2フィルタ画像との差分に基づいて、印刷の良否を判定する。例えば、第1フィルタ画像および第2フィルタ画像を対応する小領域ごとに比較し、画素値が大きく異なる箇所を検出した場合に印刷エラーが生じたと判定することができる。
In step S105, the
ステップS106において、処理装置210は、判定結果を出力する。処理装置210は、例えば、印刷に欠陥があるか否か、および欠陥がある場合、画像中のどの箇所に欠陥があるかを示す情報を判定結果として出力する。判定結果は、例えば、処理装置210に接続されたディスプレイ等の出力装置または記憶装置に出力され得る。この出力を見て、ユーザは、印刷に不備が生じたことを知ることができる。処理装置210は、判定結果をページごとに記録した検査結果のリストを作成し、当該リストを記憶装置に記録してもよい。これにより、印刷および検査の履歴を残すことができる。
In step S106, the
ステップS107において、処理装置210は、印刷終了の指示の有無を判断する。印刷終了の指示がなければ、ステップS101に戻り、次のページの検査を行う。印刷終了の指示は、例えば印刷コントローラ110から入力され得る。
In step S107, the
以上の動作により、処理装置210は、印刷物のページごとに印刷元の画像とカメラ画像とを比較し、印刷に異常がないかを判定することができる。本実施形態においては、ステップS102およびS104において、印刷元データまたはヘッドデータと、カメラ画像に対して、空間フィルタリング処理および色変換処理が行われる。これらの処理により、印刷元データまたはヘッドデータと、カメラ画像との照合を容易にし、検査の精度を向上させることができる。
Through the above operations, the
図8の例では、ステップS104においてカメラ画像から第2フィルタ画像への変換が行われるが、この処理を省略してもよい。 In the example of FIG. 8, the camera image is converted into the second filter image in step S104, but this process may be omitted.
図9は、処理装置210のプロセッサ212が実行する処理の他の例を示すフローチャートである。図9に示すフローチャートは、図8に示すフローチャートにおけるステップS104およびS105がステップS114に置き換わったものである。ステップS114以外の処理は、図8の例と同様である。図9の例では、処理装置210は、カメラ画像に対する空間フィルタリング処理および色変換処理を行わず、カメラ画像をそのまま照合用のデータとして用いる。ステップS114において、処理装置210は、第1フィルタ画像とカメラ画像とを照合し、印刷の良否を判定する。この場合であっても、印刷データから第1フィルタ画像を生成するために用いられるモデル(空間フィルタおよび色変換テーブル)を適切に作成することにより、高い精度で印刷の良否を判定することができる。
FIG. 9 is a flowchart illustrating another example of the process executed by the processor 212 of the
図10は、処理装置210のプロセッサ212が実行する処理のさらに他の例を示すフローチャートである。この例では、処理装置210が印刷元データおよびヘッドデータの一方を選択して処理する。図10に示すフローチャートは、図8におけるステップS101の動作が、ステップS120、S121、S122に置き換わっている点を除き、図8に示すフローチャートと同じである。
FIG. 10 is a flowchart showing still another example of the processing executed by the processor 212 of the
ステップS120において、処理装置210は、印刷元データを使用するか、ヘッドデータを使用するかを判断する。処理装置210は、例えばユーザによって設定されたモードに従って、印刷元データを使用するか、ヘッドデータを使用するかを決定する。印刷元データを使用すると判断した場合、ステップS121に進み、処理装置210は、印刷元データを取得する。ヘッドデータを取得すると判断した場合、ステップS122に進み、処理装置210は、ヘッドデータを取得する。ステップS121またはS122の後、ステップS102に進む。ステップS102において、処理装置210は、ステップS121またはS122で取得した印刷元データおよびヘッドデータの一方に対して空間フィルタリングおよび色変換処理を行う。ステップS102からS107の動作は図8における対応するステップの動作と同じである。
In step S120, the
なお、図10の例におけるステップS104およびS105の動作の代わりに、図9におけるステップS114の動作が行われてもよい。 Note that the operation of step S114 in FIG. 9 may be performed instead of the operations of steps S104 and S105 in the example of FIG.
ここで、図11を参照しながら、ステップS102におけるデータ変換処理の具体例を説明する。図11は、ヘッドデータを第1フィルタ画像に変換する処理の流れを示している。ここでは一例として、1200dpi(dots per inch)の解像度を有するシアン(C)、マゼンタ(M)、黄(Y)、黒(K)の4色の画像情報を含むヘッドデータ(a)から第1フィルタ画像を生成する場合の処理の例を説明する。図11の例では、ヘッドデータが示す画像における画素値は、色ごとに2ビット(合計8ビット)で表現される。 Here, a specific example of the data conversion process in step S102 will be described with reference to FIG. 11. FIG. 11 shows the flow of processing for converting head data into a first filter image. Here, as an example, the first head data is An example of processing when generating a filter image will be described. In the example of FIG. 11, the pixel value in the image indicated by the head data is expressed by 2 bits for each color (8 bits in total).
図12Aは、ヘッドデータにおける1つの画素の画素値の一例を示している。図12Aに示すように、画素値が例えば210(2進数で11010010)の場合、シアンのインク量は「大」、マゼンタのインク量は「小」、黄は「インクなし」、黒のインク量は「中」である。このように、CMYKの各色のインク量が2ビットで表現され、当該2ビットの数値が大きいほどインク量が多いことを表す。本実施形態では、ヘッドデータにおける画素値と印刷濃度とは非線形の関係にあり、印刷濃度は画素値に比例しない。 FIG. 12A shows an example of the pixel value of one pixel in the head data. As shown in FIG. 12A, for example, when the pixel value is 210 (11010010 in binary), the amount of cyan ink is "large", the amount of magenta is "small", the amount of yellow is "no ink", and the amount of black ink is "large". is "medium". In this way, the amount of ink for each color of CMYK is expressed by 2 bits, and the larger the value of the 2 bits, the larger the amount of ink. In this embodiment, the pixel value in the head data and the print density have a nonlinear relationship, and the print density is not proportional to the pixel value.
図11の例において、処理装置210は、CMYKの各色について、予めメモリに記録された濃淡変換テーブルを参照して、各色2ビットの画素値を有するヘッドデータを、各色8ビット(合計32ビット)の画素値を有する画像データ(b)に変換する。この画像データにおける画素値と濃度とは線形の関係にあり、濃度は画素値に比例する。処理装置210は、この画像データに、ガウシアンフィルタおよび平均化フィルタ(例えば16画素を平均化するフィルタ)等の空間フィルタを用いたフィルタリング処理(畳み込み演算)を行う。これにより、処理装置210は、CMYK各色の画像を平滑化し、画素数を1/4(300dpi)に削減した画像データ(c)を生成する。
In the example of FIG. 11, the
図12Bは、ガウシアンフィルタおよび平均化フィルタの例を示している。これらのフィルタ(カーネル)の各要素の数値は、印刷によるインクのにじみや用紙の変形等の影響を適切に反映するように決定される。 FIG. 12B shows an example of a Gaussian filter and an averaging filter. The numerical values of each element of these filters (kernels) are determined so as to appropriately reflect the effects of ink bleeding, paper deformation, etc. due to printing.
処理装置210は、画像データ(c)に対して、予めメモリ等の記憶媒体に記録された色変換テーブルに基づいて、CMYKからRGBへの色変換を行い、第1フィルタ画像(d)を生成する。
The
図12Cは、色変換テーブルの一例を示している。この色変換テーブルは、CMYKの4つの値の組み合わせと、RGBの3つの値の組み合わせとの対応関係を規定する。色変換テーブルにおける各数値は、インク、用紙、およびカメラ等の特性に応じて適切な値に設定される。 FIG. 12C shows an example of a color conversion table. This color conversion table defines the correspondence between a combination of four CMYK values and a combination of three RGB values. Each numerical value in the color conversion table is set to an appropriate value depending on the characteristics of the ink, paper, camera, etc.
図11の例における第1フィルタ画像は、RGBの各色の画素値が8ビット(合計24ビット)で表現された300dpiの画像である。処理装置210は、この第1フィルタ画像を、カメラ画像またはカメラ画像から変換した第2フィルタ画像と照合することによって印刷の品質を検査する。
The first filter image in the example of FIG. 11 is a 300 dpi image in which the pixel values of each color of RGB are expressed with 8 bits (24 bits in total). The
なお、図11の例における各画像の解像度および各画素のビット数、ならびに各フィルタおよび各テーブルにおける数値は一例に過ぎず、これらの数値は、システムに依存して適切な値に設定される。 Note that the resolution of each image, the number of bits of each pixel, and the numerical values in each filter and each table in the example of FIG. 11 are merely examples, and these numerical values are set to appropriate values depending on the system.
図11の例ではヘッドデータから第1フィルタ画像が生成されるが、PDFなどの印刷元データに基づいて第1フィルタ画像を生成してもよい。その場合、処理装置210は、印刷元データを、例えばRGB等の所定の色空間で表現されたビットマップ画像のデータに変換した上で、ガウシアンフィルタまたは平均化フィルタなどの空間フィルタを用いた空間フィルタリング(および必要に応じて色変換)を実行して第1フィルタ画像を生成してもよい。
In the example of FIG. 11, the first filter image is generated from the head data, but the first filter image may be generated based on printing source data such as PDF. In that case, the
次に、本実施形態において用いられる空間フィルタの例をより詳細に説明する。 Next, an example of the spatial filter used in this embodiment will be explained in more detail.
図13は、印刷データに適用される空間フィルタの一例と、空間フィルタのパラメータの調整方法を模式的に示す図である。この例における空間フィルタは、以下の2次元ガウス分布関数に基づくガウシアンフィルタである。
図13に例示するガウシアンフィルタのカーネルサイズは5×5である。カーネルサイズは、他のサイズ(例えば、3×3、7×7等)であってもよい。カーネルサイズおよび標準偏差σなどのパラメータは、検査で使用される印刷機およびカメラ等の特性に応じて適切な値に設定される。この例ではガウシアンフィルタが用いられるが、他の空間フィルタが用いられる場合も、印刷機およびカメラ等の特性に応じてフィルタのパラメータ(各要素の値)が調整され得る。 The kernel size of the Gaussian filter illustrated in FIG. 13 is 5×5. The kernel size may be other sizes (eg, 3x3, 7x7, etc.). Parameters such as the kernel size and standard deviation σ are set to appropriate values depending on the characteristics of the printing press, camera, etc. used in the inspection. Although a Gaussian filter is used in this example, when other spatial filters are used, the filter parameters (values of each element) can be adjusted depending on the characteristics of the printing press, camera, etc.
ここで、印刷データ、フィルタ画像、カメラ画像における座標(i,j)の画素値を、それぞれA[i,j]、B[i,j]、C[i,j]と表記する。フィルタ画像の画素値B[i,j]は、上記の2次元ガウス分布関数を用いて以下の式で近似される。
カメラ画像とフィルタ画像との偏差dは、以下の式で表される。
空間フィルタの各パラメータは、この偏差dを最小化するように予め適切な値に決定される。空間フィルタの各パラメータは、機械学習を利用して決定してもよい。例えば、印刷データA[i,j]とカメラ画像C[i,j]とのペアに相当する多数の学習用データセットと、所定の機械学習アルゴリズムとを用いた教師あり学習を実行することにより、空間フィルタの各パラメータを決定してもよい。この学習の結果、検査で実際に使用される空間フィルタが、ガウシアンフィルタとは異なるフィルタになってもよい。 Each parameter of the spatial filter is determined in advance to an appropriate value so as to minimize this deviation d. Each parameter of the spatial filter may be determined using machine learning. For example, by performing supervised learning using a predetermined machine learning algorithm and a large number of training datasets corresponding to pairs of print data A[i,j] and camera image C[i,j], , each parameter of the spatial filter may be determined. As a result of this learning, the spatial filter actually used in the inspection may be a filter different from the Gaussian filter.
次に、本実施形態における色変換処理と、色変換テーブルの調整方法の例をより詳細に説明する。 Next, an example of the color conversion process and the method of adjusting the color conversion table in this embodiment will be described in more detail.
図14は、色変換テーブルの例と、そのパラメータの調整方法の例を示す図である。この例では、処理装置210は、メモリ等の記憶媒体に記録された色変換テーブルに基づいて、CMYKの印刷データを、RGBのフィルタ画像に変換する。この色変換テーブルは、CMYKの4色の値の組み合わせと、RGBの3色の値の組み合わせとの関係を規定するデータである。色変換テーブルに代えて、同様の変換を実現する関数またはモデルが用いられてもよい。色変換テーブルにおける各パラメータは、カメラ画像とフィルタ画像との偏差を最小にするように決定される。処理装置210は、印刷データA[i,j]とカメラ画像C[i,j]とのペアに相当する多数の学習用データセットと、所定の機械学習アルゴリズムとを用いた教師あり学習を実行することにより、色変換テーブルのパラメータを調整してもよい。
FIG. 14 is a diagram showing an example of a color conversion table and an example of a method for adjusting its parameters. In this example, the
本実施形態では、空間フィルタリング処理と色変換処理とが別々に実行されるが、これらの処理を包含した変換処理が行われてもよい。そのような変換処理は、例えばニューラルネットワーク等の機械学習アルゴリズムを利用して訓練された学習済みモデルを用いた変換であってもよい。処理装置210は、例えばGAN等のアルゴリズムを利用して、印刷データから擬似的なカメラ画像を生成するための学習済みモデルを生成してもよい。
In this embodiment, the spatial filtering process and the color conversion process are performed separately, but a conversion process that includes these processes may also be performed. Such conversion processing may be, for example, conversion using a learned model trained using a machine learning algorithm such as a neural network. The
次に、印刷データから変換された第1フィルタ画像とカメラ画像との照合処理の例を説明する。 Next, an example of matching processing between the first filter image converted from the print data and the camera image will be described.
図15は、第1フィルタ画像とカメラ画像との照合処理の一例を示す図である。この例では、処理装置210は、第1フィルタ画像とカメラ画像とを複数の領域に分割し、領域ごとに両者を照合する。図15の例では、各画像が12の領域に分割されている。領域間にはオーバーラップ領域が設けられる。処理装置210は、第1フィルタ画像から切り出す領域を例えば縦横の各方向に1画素ずつ移動させながら複数回照合し、カメラ画像との一致度が最も高い切り出し領域を決定し、その領域とカメラ画像における対応する領域とを比較してもよい。カメラにおけるレンズの収差に起因するカメラ画像の変形等の予測可能な変形の影響を補償するために、予め座標にオフセットが設けられていてもよい。処理装置210は、第1フィルタ画像の画素値とカメラ画像の対応する画素値との差を画素ごとに計算し、当該画素値の差に基づいて、印刷の欠陥を検出することができる。処理装置210は、例えば、上記の領域ごとに、SSD(Sum of Squared Difference)またはSAD(Sum of Absolute Difference)等の画像の差分を示す指標値を計算し、その値が閾値を超えた場合に、その領域の印刷に欠陥があることを検出することができる。なお、カメラ画像に空間フィルタリングや色変換処理が行われた第2フィルタ画像と第1フィルタ画像とを照合する場合も、同様の方法で印刷の良否を判定することができる。
FIG. 15 is a diagram illustrating an example of a matching process between the first filter image and the camera image. In this example, the
以上のように、本実施形態における検査システムは、入力された印刷元データをヘッドデータに変換する印刷コントローラ110と、ヘッドデータに基づいて印刷を行う印刷ヘッド120とを備えた印刷機100と組み合わせて使用される。検査システムは、印刷機100によって印刷された印刷物を撮影してカメラ画像を生成するカメラ220と、処理装置210とを備える。処理装置210は、印刷元データまたはヘッドデータに第1空間フィルタリング処理を行って第1フィルタ画像を生成し、第1フィルタ画像とカメラ画像との照合、または、第1フィルタ画像と、カメラ画像に第2空間フィルタリング処理を行って生成した第2フィルタ画像との照合を行うことにより、印刷物の良否を判定し、判定結果を出力する。
As described above, the inspection system in this embodiment is combined with a
このような構成により、印刷時のインクのにじみや用紙の変形、またはカメラのレンズの収差等の影響を補償することができるため、印刷物の画像検査の精度を向上させることができる。 With such a configuration, it is possible to compensate for the effects of ink smearing, paper deformation, or camera lens aberration during printing, thereby improving the accuracy of image inspection of printed matter.
なお、本実施形態では、印刷元データまたはヘッドデータに、空間フィルタリング処理および色変換処理が行われるが、印刷物によっては色変換処理が省略されてもよい。例えば、モノクロ印刷の検査が行われる場合、色変換処理は省略され得る。この点は、カメラ画像に対する色変換処理についても同様である。また、本実施形態における印刷装置100はインクジェットプリンタであるが、レーザプリンタ等の電子写真方式のプリンタ、または有版印刷を行う印刷機に本実施形態の技術を適用してもよい。
Note that in this embodiment, spatial filtering processing and color conversion processing are performed on the print source data or head data, but the color conversion processing may be omitted depending on the printed matter. For example, when monochrome printing is inspected, the color conversion process may be omitted. This point also applies to color conversion processing for camera images. Further, although the
(実施形態2)
次に、前述の空間フィルタリングおよび色変換等の変換処理を行うために用いられる学習済みモデルを機械学習によって生成する方法の例を説明する。
(Embodiment 2)
Next, an example of a method for generating, by machine learning, a trained model used to perform transformation processing such as the above-mentioned spatial filtering and color transformation will be described.
図16は、本実施形態における学習済みモデルの生成方法の流れを示すフローチャートである。この方法は、学習用データセットを生成する工程(ステップS200)と、学習用データセットに基づいて学習済みモデルを生成する工程(ステップS210)とを含む。ステップS200は、ステップS201からS205を含む。ステップS210は、ステップS211からS213を含む。ステップS200とステップS210とは、同一の装置が実行してもよいし、異なる装置が実行してもよい。以下の説明では、一例として、図3に示すコンピュータ300がステップS200を実行し、処理装置210がステップS210を実行するものとする。なお、ステップS200およびS210のそれぞれの処理は、コンピュータ300、処理装置210に限らず、他の装置によって実行されてもよい。
FIG. 16 is a flowchart showing the flow of the trained model generation method in this embodiment. This method includes the steps of generating a training dataset (step S200) and generating a trained model based on the training dataset (step S210). Step S200 includes steps S201 to S205. Step S210 includes steps S211 to S213. Step S200 and step S210 may be executed by the same device or by different devices. In the following description, it is assumed, as an example, that the computer 300 shown in FIG. 3 executes step S200, and the
ステップS201において、コンピュータ300は、学習用印刷データを記憶装置から取得する。学習用印刷データは、例えば、実際に検査される印刷物と同様の画像を示すデータ、または学習用に特別に作成された複数の色のパターンを含むテストチャートの画像を示すデータであり得る。学習用印刷データは、予め作成され、コンピュータ300内の記憶装置または外部の記憶装置に記録される。学習用印刷データは、図3に示す印刷元データに相当する。なお、学習用印刷データは、ヘッドデータと同等の形式のデータであってもよい。 In step S201, the computer 300 acquires learning print data from the storage device. The learning print data may be, for example, data showing an image similar to a printed matter actually inspected, or data showing an image of a test chart including a plurality of color patterns specially created for learning. The learning print data is created in advance and recorded in a storage device within the computer 300 or an external storage device. The learning print data corresponds to the print source data shown in FIG. Note that the learning print data may be data in the same format as the head data.
ステップS202において、コンピュータ300は、印刷機100に、学習用印刷データに基づく印刷の実行を指示する。これを受けて、印刷機100は、用紙10に印刷を実行する。
In step S202, the computer 300 instructs the
ステップS203において、コンピュータ300は、カメラ220に、学習用印刷データに基づいて印刷された印刷物の撮影を指示する。これを受けて、カメラ220は、印刷物の画像データ(以下、「学習用カメラ画像」と呼ぶ。)を生成する。
In step S203, the computer 300 instructs the
ステップS204において、コンピュータ300は、学習用カメラ画像と学習用印刷データとを関連付けて記憶装置に記録する。 In step S204, the computer 300 associates the learning camera image and the learning print data and records them in the storage device.
ステップS205において、コンピュータ300は、学習用データの生成の終了指示が出されたか否かを判定する。終了指示は、例えばユーザの操作に基づいてコンピュータ300に入力され得る。あるいは、予め設定された件数の印刷および撮影の動作が終了した時点で終了指示が出されてもよい。終了指示が出されるまで、コンピュータ300は、異なる学習用印刷データに対してステップS201からS205の動作を繰り返す。 In step S205, the computer 300 determines whether an instruction to end the generation of learning data has been issued. The termination instruction may be input to computer 300 based on a user's operation, for example. Alternatively, the termination instruction may be issued when a preset number of printing and photographing operations are completed. The computer 300 repeats the operations from steps S201 to S205 for different learning print data until a termination instruction is issued.
以上の動作により、学習用印刷データと学習用カメラ画像との組を1組以上含む学習用データセットが生成され、記憶装置に記録される。この学習用データセットは、印刷データを擬似的なカメラ画像(以下、「照合用印刷画像」と呼ぶことがある。)に変換するための機械学習モデルを訓練するために用いられる。学習の効果を高めるために、学習用印刷データと学習用カメラ画像との組をできる限り多く用意することが好ましい。 Through the above operations, a learning data set including one or more pairs of learning print data and learning camera images is generated and recorded in the storage device. This learning data set is used to train a machine learning model for converting print data into a pseudo camera image (hereinafter sometimes referred to as a "verification print image"). In order to enhance the effectiveness of learning, it is preferable to prepare as many pairs of learning print data and learning camera images as possible.
次に、学習用データセットを用いて学習済みモデルを生成するステップS210の詳細を説明する。 Next, details of step S210 for generating a trained model using the training data set will be described.
ステップS211において、処理装置210は、学習用データセットを記憶装置から取得する。学習用データセットが学習用印刷データと学習用カメラ画像との組を複数組含む場合、全ての組のデータを取得する。
In step S211, the
ステップS212において、処理装置210は、所定の機械学習アルゴリズムを利用して、学習用データセットに基づいて機械学習を行うことにより、印刷データを照合用印刷画像に変換するためのモデル(学習済みモデル)を生成する。機械学習アルゴリズムとして、例えば深層学習を利用して入力画像を他の画像に変換する用途に用いられる種々のアルゴリズムを利用することができる。例えば、GAN、NST(Neural Style Transfe)等の、畳み込みニューラルネットワーク(CNN)を利用したアルゴリズムを利用することができる。生成される学習済みモデルは、例えば実施形態1において説明した空間フィルタリング処理と、カラー変換処理とを実行するモデルであり得る。学習済みモデルの生成は、学習用印刷データと、対応する学習用カメラ画像との偏差を小さくするように、当該モデルにおける複数のパラメータを調整することを含む。
In step S212, the
ステップS213において、処理装置210は、生成した学習済みモデルを記憶装置(例えばROM216)に記録する。
In step S213, the
以上の動作により、印刷データを照合用印刷画像に変換するための学習済みモデルを生成することができる。この学習済みモデルに基づいて検査を行う場合、処理装置210は、当該学習済みモデルを実装した画像変換プログラムを実行して、検査対象の印刷データを照合用印刷画像に変換する。処理装置210は、照合用印刷画像を、カメラ画像、またはカメラ画像に回転補正や色補正等の処理を行った画像(まとめて「照合用カメラ画像」と呼ぶ。)と比較・照合し、印刷物の良否を判定する。
Through the above operations, it is possible to generate a learned model for converting print data into a print image for verification. When performing an inspection based on this learned model, the
次に、モデル生成に用いられる学習用印刷データとして用いられるテストチャートの例を説明する。テストチャートは、例えば色の異なる複数の領域が1次元的または2次元的に配列されたパターンを含み得る。本明細書において「色」は、色相、明度、彩度の組み合わせを意味する。 Next, an example of a test chart used as learning print data used for model generation will be described. The test chart may include, for example, a pattern in which a plurality of regions of different colors are arranged one-dimensionally or two-dimensionally. As used herein, "color" means a combination of hue, lightness, and saturation.
図17Aから図17Cは、テストチャートの画像の例を示している。図17Aは、色の異なる複数のカラーブロックが2次元的に配列されたテストチャートの例を示している。このテストチャートは、印刷物の搬送方向に相当する方向(図の縦方向)と、搬送方向に垂直な方向に相当する方向(図の横方向)とに配列された多数の正方形のカラーブロックの領域を含む。各カラーブロックは小さく、例えば10mm×10mmよりも小さい。カラーブロックの個数は、例えば1000以上である。これらのカラーブロックの色は、例えば印刷機100によって印刷可能な色の大部分が網羅されるように選択され得る。カラーブロックの全ての色が異なっている必要はなく、同一の色のブロックが含まれていてもよい。
17A to 17C show examples of images of test charts. FIG. 17A shows an example of a test chart in which a plurality of color blocks of different colors are two-dimensionally arranged. This test chart consists of areas of many square color blocks arranged in a direction corresponding to the conveyance direction of the printed material (vertical direction in the figure) and a direction corresponding to the direction perpendicular to the conveyance direction (horizontal direction in the figure). including. Each color block is small, for example smaller than 10 mm x 10 mm. The number of color blocks is, for example, 1000 or more. The colors of these color blocks may be selected to cover most of the colors printable by
図17Bは、色の異なる複数のカラーバーが1次元的に配列されたテストチャートの例を示している。このテストチャートは、印刷物の搬送方向に垂直な方向に相当する方向(図の横方向)に延びる複数の色の異なるカラーバーを含んでいる。複数のカラーバーは、搬送方向に相当する方向(図の縦方向)に沿って配列されている。各カラーバーの幅(縦方向における寸法)は小さく、例えば10mmよりも小さい。カラーバーの本数は、例えば30本以上である。これらのカラーバーの色は、例えば印刷機100によって印刷可能な色の大部分が網羅されるように選択され得る。カラーバーの全ての色が異なっている必要はなく、同一の色のカラーバーが含まれていてもよい。
FIG. 17B shows an example of a test chart in which a plurality of color bars of different colors are arranged one-dimensionally. This test chart includes a plurality of color bars of different colors extending in a direction (horizontal direction in the figure) corresponding to the direction perpendicular to the conveyance direction of the printed matter. The plurality of color bars are arranged along a direction corresponding to the transport direction (vertical direction in the figure). The width (dimension in the vertical direction) of each color bar is small, for example smaller than 10 mm. The number of color bars is, for example, 30 or more. The colors of these color bars may be selected to cover most of the colors printable by
印刷機100がインクジェットプリンタである場合、印刷ヘッド120は、例えばCMYKの各色について複数のヘッドを含み得る。各色についての複数のヘッドは、搬送方向に垂直な方向に沿って配列され得る。ヘッドによってインクの吐出具合が異なり得ることから、同じ色でもヘッドの位置によってインクの濃度および広がり具合が異なり得る。そこで、図17Bの例では、ヘッドの配列方向に対応する方向に沿って延びる複数のカラーバーを含むテストチャートが用いられる。このようなテストチャートを用いることにより、ヘッドの配列方向における位置によってそれぞれの色がどのように変化するのかを効果的に学習することができる。
If printing
図17Aおよび図17Bに例示するテストチャートには、そのテストチャートの種類を示す情報を含む複数の2次元コード70が含まれている。2次元コード70は、例えばQR(Quick Response)コード等の、所定の規則で情報が2次元的な濃淡の情報で表現されたコードである。2次元コード70は、モデルの学習を行う装置においてテストチャートの種類の特定および各色の領域の位置の特定に利用され得る。図17Aおよび図17Bの例においては、複数の2次元コード70が、カラーブロックまたはカラーバーの周囲の所定の位置に配置されている。このように2次元コード70を配置することにより、照合時の位置決めを容易にすることができる。2次元コード70の少なくとも一部は、印刷物の搬送方向に垂直な方向に相当する方向(横方向)に沿って配置され得る。このような2次元コード70は、照合時に目印として機能し、各色の領域の特定を容易にする。2次元コード70は、カラーチャートに含まれる各色の領域の位置を特定するための情報を含み得る。例えば、カラーチャートに設定された座標系における位置座標と、その位置座標における色との対応関係を示す情報が2次元コード70に含まれ得る。図17Aおよび図17Bの例のように、複数の2次元コード70がカラーチャートに含まれる場合、各2次元コード70は、自身の位置座標の情報に加え、その2次元コード70に対応付けられた複数の色の領域の位置座標の情報を含んでいてもよい。そのような情報を参照することにより、処理装置210は、2次元コード70を目印として、各色の領域の位置を特定することができる。これにより、位置決めを容易にし、学習の精度を向上させることができる。
The test chart illustrated in FIGS. 17A and 17B includes a plurality of two-dimensional codes 70 including information indicating the type of the test chart. The two-dimensional code 70 is a code, such as a QR (Quick Response) code, in which information is expressed as two-dimensional shading information according to a predetermined rule. The two-dimensional code 70 can be used to identify the type of test chart and the position of each color area in a model learning device. In the example of FIGS. 17A and 17B, a plurality of two-dimensional codes 70 are arranged at predetermined positions around a color block or color bar. By arranging the two-dimensional code 70 in this manner, positioning during verification can be facilitated. At least a portion of the two-dimensional code 70 may be arranged along a direction (lateral direction) corresponding to a direction perpendicular to the conveyance direction of the printed material. Such a two-dimensional code 70 functions as a mark during verification and facilitates identification of each color area. The two-dimensional code 70 may include information for specifying the position of each color region included in the color chart. For example, the two-dimensional code 70 may include information indicating the correspondence between position coordinates in the coordinate system set in the color chart and colors at the position coordinates. As in the example of FIGS. 17A and 17B, when a plurality of two-dimensional codes 70 are included in the color chart, each two-dimensional code 70 is associated with the two-dimensional code 70 in addition to its own position coordinate information. It may also include information on the position coordinates of regions of multiple colors. By referring to such information, the
なお、2次元コードに代えて、1次元コード(バーコード)がカラーチャートに設けられていてもよい。バーコードを用いた場合であっても同様の機能を実現できる。また、2次元コードおよび1次元コードに代えて、例えば特徴的なマーク、文字、または記号を用いて同様の機能を実現してもよい。 Note that instead of the two-dimensional code, a one-dimensional code (barcode) may be provided on the color chart. A similar function can be achieved even when barcodes are used. Further, instead of the two-dimensional code and the one-dimensional code, for example, characteristic marks, characters, or symbols may be used to realize the same function.
図17Cは、テストチャートのさらに他の例を示す図である。このテストチャートは、色の異なる複数のカラーバーを含む。各カラーバーは、搬送方向に垂直な方向に相当する方向(横方向)に沿って明度が連続的に変化する。このようなテストチャートを用いることにより、明度の異なる複数の色の学習を効率的に行うことができる。 FIG. 17C is a diagram showing still another example of the test chart. This test chart includes a plurality of color bars of different colors. The brightness of each color bar changes continuously along a direction (horizontal direction) corresponding to a direction perpendicular to the transport direction. By using such a test chart, it is possible to efficiently learn a plurality of colors having different lightness.
図17Aから17Cに例示するようなテストチャートは、1種類に限らず、複数種類のテストチャートが用いられてもよい。その場合、例えばテストチャートごとに図16に示すステップS201からS205の動作が繰り返される。テストチャートを用いた学習と、通常の検査対象に近いテスト用データを用いた学習とを組み合わせて、より高精度の画像変換が可能なモデルを生成してもよい。 The number of test charts illustrated in FIGS. 17A to 17C is not limited to one type, and multiple types of test charts may be used. In that case, for example, the operations from steps S201 to S205 shown in FIG. 16 are repeated for each test chart. A model that can perform image conversion with higher accuracy may be generated by combining learning using a test chart and learning using test data close to a normal inspection target.
以上のように、本開示は、以下の項目に記載のシステム、装置、方法、およびプログラムを含む。 As described above, the present disclosure includes the systems, devices, methods, and programs described in the following items.
[項目a1]
入力された印刷元データをヘッドデータに変換する印刷コントローラと、前記ヘッドデータに基づいて印刷を行う印刷ヘッドと、を備えた印刷機と組み合わせて使用される検査システムであって、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
前記印刷元データまたは前記ヘッドデータに第1空間フィルタリング処理を行って第1フィルタ画像を生成し、前記第1フィルタ画像と前記カメラ画像との照合、または、前記第1フィルタ画像と、前記カメラ画像に第2空間フィルタリング処理を行って生成した第2フィルタ画像との照合を行うことにより、前記印刷物の良否を判定し、判定結果を出力する処理装置と、
を備える検査システム。
[Item a1]
An inspection system used in combination with a printing machine including a print controller that converts input printing source data into head data, and a print head that prints based on the head data, the inspection system comprising:
a camera that generates a camera image by photographing the printed matter printed by the printing machine;
Performing a first spatial filtering process on the print source data or the head data to generate a first filter image, and comparing the first filter image and the camera image, or comparing the first filter image and the camera image. a processing device that determines the quality of the printed matter by comparing it with a second filter image generated by performing a second spatial filtering process, and outputs a determination result;
An inspection system equipped with
[項目a2]
前記処理装置は、前記印刷元データに前記第1空間フィルタリング処理を行って前記第1フィルタ画像を生成する、項目a1に記載の検査システム。
[Item a2]
The inspection system according to item a1, wherein the processing device performs the first spatial filtering process on the print source data to generate the first filter image.
[項目a3]
前記処理装置は、前記ヘッドデータに前記第1空間フィルタリング処理を行って前記第1フィルタ画像を生成する、項目a1に記載の検査システム。
[Item a3]
The inspection system according to item a1, wherein the processing device performs the first spatial filtering process on the head data to generate the first filter image.
[項目a4]
前記処理装置は、前記第1フィルタ画像と、前記カメラ画像との照合を行うことにより、前記印刷物の良否を判定する、項目a1からa3のいずれかに記載の検査システム。
[Item a4]
The inspection system according to any one of items a1 to a3, wherein the processing device determines the quality of the printed matter by comparing the first filter image with the camera image.
[項目a5]
前記処理装置は、前記第1フィルタ画像と、前記第2フィルタ画像との照合を行うことにより、前記印刷物の良否を判定する、項目a1からa3のいずれかに記載の検査システム。
[Item a5]
The inspection system according to any one of items a1 to a3, wherein the processing device determines the quality of the printed matter by comparing the first filter image and the second filter image.
[項目a6]
前記処理装置は、前記印刷元データまたは前記ヘッドデータに、前記第1空間フィルタリング処理および第1色変換処理を行うことにより、前記第1フィルタ画像を生成する、項目a1からa5のいずれかに記載の検査システム。
[Item a6]
The processing device generates the first filter image by performing the first spatial filtering process and the first color conversion process on the printing source data or the head data, according to any one of items a1 to a5. inspection system.
[項目a7]
前記処理装置は、前記カメラ画像に、前記第2空間フィルタリング処理および第2色変換処理を行うことにより、前記第2フィルタ画像を生成し、
前記第1フィルタ画像と前記第2フィルタ画像とを照合することにより、前記印刷物の良否を判定する、
項目a1からa3、a5、およびa6のいずれかに記載の検査システム。
[Item a7]
The processing device generates the second filter image by performing the second spatial filtering process and the second color conversion process on the camera image,
determining the quality of the printed matter by comparing the first filter image and the second filter image;
The inspection system according to any one of items a1 to a3, a5, and a6.
[項目a8]
前記処理装置は、前記印刷元データに前記第1空間フィルタリング処理を行って前記第1フィルタ画像を生成するモードと、前記ヘッドデータに前記第1空間フィルタリング処理を行って前記第1フィルタ画像を生成するモードとを切り替えることが可能である、項目a1からa7のいずれかに記載の検査システム。
[Item a8]
The processing device has a mode in which the first spatial filtering process is performed on the print source data to generate the first filter image, and a mode in which the first spatial filtering process is performed on the head data to generate the first filter image. The inspection system according to any one of items a1 to a7, which is capable of switching between modes.
[項目a9]
入力された印刷元データをヘッドデータに変換する印刷コントローラと、前記ヘッドデータに基づいて印刷を行う印刷ヘッドと、を備えた印刷機と、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
処理装置と、
を備えた検査システムにおいて用いられる処理装置であって、
前記印刷元データまたは前記ヘッドデータに第1空間フィルタリング処理を行って第1フィルタ画像を生成し、
前記第1フィルタ画像と前記カメラ画像との照合、または、前記第1フィルタ画像と、前記カメラ画像に第2空間フィルタリング処理を行って生成した第2フィルタ画像との照合を行うことにより、前記印刷物の良否を判定し、判定結果を出力する、
処理装置。
[Item a9]
a printing machine including a print controller that converts input printing source data into head data; and a print head that prints based on the head data;
a camera that generates a camera image by photographing the printed matter printed by the printing machine;
a processing device;
A processing device used in an inspection system comprising:
performing a first spatial filtering process on the print source data or the head data to generate a first filter image;
By comparing the first filter image with the camera image, or comparing the first filter image with a second filter image generated by performing a second spatial filtering process on the camera image, the printed matter is Determine the quality of the product and output the determination result.
Processing equipment.
[項目a10]
入力された印刷元データをヘッドデータに変換する印刷コントローラと、前記ヘッドデータに基づいて印刷を行う印刷ヘッドと、を備えた印刷機と、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
処理装置と、
を備えた検査システムにおいて前記処理装置によって実行される検査方法であって、
前記印刷元データまたは前記ヘッドデータに第1空間フィルタリング処理を行って第1フィルタ画像を生成することと、
前記第1フィルタ画像と前記カメラ画像との照合、または、前記第1フィルタ画像と、前記カメラ画像に第2空間フィルタリング処理を行って生成した第2フィルタ画像との照合を行うことにより、前記印刷物の良否を判定し、判定結果を出力することと、
を含む検査方法。
[Item a10]
a printing machine including a print controller that converts input printing source data into head data; and a print head that prints based on the head data;
a camera that generates a camera image by photographing the printed matter printed by the printing machine;
a processing device;
An inspection method executed by the processing device in an inspection system comprising:
performing a first spatial filtering process on the print source data or the head data to generate a first filter image;
By comparing the first filter image with the camera image, or comparing the first filter image with a second filter image generated by performing a second spatial filtering process on the camera image, the printed matter is determining the quality of the product and outputting the determination result;
Inspection methods including.
[項目a11]
入力された印刷元データをヘッドデータに変換する印刷コントローラと、前記ヘッドデータに基づいて印刷を行う印刷ヘッドと、を備えた印刷機と、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
処理装置と、
を備えた検査システムにおいて用いられるプログラムであって、前記処理装置に、
前記印刷元データまたは前記ヘッドデータに第1空間フィルタリング処理を行って第1フィルタ画像を生成し、
前記第1フィルタ画像と前記カメラ画像との照合、または、前記第1フィルタ画像と、前記カメラ画像に第2空間フィルタリング処理を行って生成した第2フィルタ画像との照合を行うことにより、前記印刷物の良否を判定し、判定結果を出力する、
ことを実行させるプログラム。
[Item a11]
a printing machine including a print controller that converts input printing source data into head data; and a print head that prints based on the head data;
a camera that generates a camera image by photographing the printed matter printed by the printing machine;
a processing device;
A program used in an inspection system comprising:
performing a first spatial filtering process on the print source data or the head data to generate a first filter image;
By comparing the first filter image with the camera image, or comparing the first filter image with a second filter image generated by performing a second spatial filtering process on the camera image, the printed matter is Determine the quality of the product and output the determination result.
A program that does something.
[項目b1]
印刷データに基づいて印刷を実行する印刷機と、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
前記印刷データを、機械学習によって予め訓練された学習済みモデルを用いて照合用印刷画像に変換し、前記照合用印刷画像と前記カメラ画像に基づく照合用カメラ画像との照合を行うことにより、前記印刷物の良否を判定する処理装置と、
を備えた検査システムのための前記学習済みモデルを生成する方法であって、
複数の色のパターンを含むテストチャートの画像を示す学習用印刷データと、前記学習用印刷データに基づいて前記印刷機が印刷した印刷物を前記カメラが撮影することによって生成した学習用カメラ画像とを含む学習用データセットを取得することと、
前記学習用データセットに基づく機械学習によって前記学習済みモデルを生成することと、
を含む方法。
[Item b1]
a printing machine that executes printing based on print data;
a camera that generates a camera image by photographing the printed matter printed by the printing machine;
By converting the print data into a verification print image using a learned model trained in advance by machine learning, and performing verification between the verification print image and a verification camera image based on the camera image, a processing device that determines the quality of printed matter;
A method for generating the learned model for an inspection system comprising:
learning print data showing an image of a test chart including a plurality of color patterns; and a learning camera image generated by the camera photographing a printed matter printed by the printing machine based on the learning print data. Obtaining a training dataset containing
Generating the learned model by machine learning based on the learning data set;
method including.
[項目b2]
前記テストチャートは、色の異なる複数の領域が1次元的または2次元的に配列されたパターンを含む、項目b1に記載の方法。
[Item b2]
The method according to item b1, wherein the test chart includes a pattern in which a plurality of regions of different colors are arranged one-dimensionally or two-dimensionally.
[項目b3]
前記テストチャートは、前記印刷物の搬送方向に垂直な方向に相当する方向に延びる複数の色の異なるカラーバーを含み、前記複数のカラーバーは、前記搬送方向に相当する方向に配列されている、項目b1またはb2に記載の方法。
[Item b3]
The test chart includes a plurality of color bars of different colors extending in a direction corresponding to a direction perpendicular to the conveyance direction of the printed matter, and the plurality of color bars are arranged in a direction corresponding to the conveyance direction. The method described in item b1 or b2.
[項目b4]
前記テストチャートは、前記テストチャートの種類を示す情報を含む1つ以上のバーコードまたは2次元コードを含む、項目b1からb3のいずれかに記載の方法。
[Item b4]
The method according to any one of items b1 to b3, wherein the test chart includes one or more barcodes or two-dimensional codes containing information indicating the type of the test chart.
[項目b5]
前記テストチャートは、前記テストチャートの種類を示す情報を含む複数の2次元コードを含み、前記複数の2次元コードの少なくとも一部は、前記印刷物の搬送方向に垂直な方向に相当する方向に配列されている、項目b1からb4のいずれかに記載の方法。
[Item b5]
The test chart includes a plurality of two-dimensional codes including information indicating the type of the test chart, and at least a part of the plurality of two-dimensional codes are arranged in a direction corresponding to a direction perpendicular to the conveyance direction of the printed material. The method according to any one of items b1 to b4, wherein
[項目b6]
前記学習済みモデルは、前記印刷データに対して空間フィルタリング処理と、カラー変換処理とを実行するモデルであり、
前記学習済みモデルの生成は、前記学習用印刷データと、対応する前記学習用カメラ画像との偏差を小さくするように、前記モデルにおける複数のパラメータを調整することを含む、
項目b1からb5のいずれかに記載の方法。
[Item b6]
The learned model is a model that performs spatial filtering processing and color conversion processing on the print data,
Generation of the learned model includes adjusting a plurality of parameters in the model so as to reduce a deviation between the learning print data and the corresponding learning camera image.
The method according to any one of items b1 to b5.
[項目b7]
前記印刷機は、
入力された印刷元データをヘッドデータに変換する印刷コントローラと、
前記ヘッドデータに基づいて印刷を行う印刷ヘッドと、
を備え、
前記印刷データは、前記印刷元データまたは前記ヘッドデータである、
項目b1からb6のいずれかに記載の方法。
[Item b7]
The printing machine includes:
a print controller that converts input print source data into head data;
a print head that performs printing based on the head data;
Equipped with
the print data is the print source data or the head data;
The method according to any one of items b1 to b6.
[項目b8]
印刷データに基づいて印刷を実行する印刷機と、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
前記印刷データを、機械学習によって予め訓練された学習済みモデルを用いて照合用印刷画像に変換し、前記照合用印刷画像と前記カメラ画像に基づく照合用カメラ画像との照合を行うことにより、前記印刷物の良否を判定する処理装置と、
を備えた検査システムにおける前記学習済みモデルを生成するためのプログラムであって、コンピュータに、
複数の色のパターンを含むテストチャートの画像を示す学習用印刷データと、前記学習用印刷データに基づいて前記印刷機が印刷した印刷物を前記カメラが撮影することによって生成した学習用カメラ画像とを含む学習用データセットを取得することと、
前記学習用データセットに基づく機械学習によって前記学習済みモデルを学習することと、
を実行させるプログラム。
[Item b8]
a printing machine that executes printing based on print data;
a camera that generates a camera image by photographing the printed matter printed by the printing machine;
By converting the print data into a verification print image using a learned model trained in advance by machine learning, and performing verification between the verification print image and a verification camera image based on the camera image, a processing device that determines the quality of printed matter;
A program for generating the learned model in an inspection system comprising:
learning print data showing an image of a test chart including a plurality of color patterns; and a learning camera image generated by the camera photographing a printed matter printed by the printing machine based on the learning print data. Obtaining a training dataset containing
Learning the trained model by machine learning based on the learning dataset;
A program to run.
[項目b9]
印刷データに基づいて印刷を実行する印刷機と、
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
前記印刷データを、機械学習によって予め訓練された学習済みモデルを用いて照合用印刷画像に変換し、前記照合用印刷画像と前記カメラ画像に基づく照合用カメラ画像との照合を行うことにより、前記印刷物の良否を判定する処理装置と、
を備えた検査システムと組み合わせて使用される、前記学習済みモデルを生成する装置であって、
複数の色のパターンを含むテストチャートの画像を示す学習用印刷データと、前記学習用印刷データに基づいて前記印刷機が印刷した印刷物を前記カメラが撮影することによって生成した学習用カメラ画像とを含む学習用データセットを記憶するメモリと、
前記学習用データセットに基づく機械学習によって前記学習済みモデルを生成するプロセッサと、
を備える装置。
[Item b9]
a printing machine that executes printing based on print data;
a camera that generates a camera image by photographing the printed matter printed by the printing machine;
By converting the print data into a verification print image using a learned model trained in advance by machine learning, and performing verification between the verification print image and a verification camera image based on the camera image, a processing device that determines the quality of printed matter;
An apparatus for generating the learned model, which is used in combination with an inspection system comprising:
learning print data showing an image of a test chart including a plurality of color patterns; and a learning camera image generated by the camera photographing a printed matter printed by the printing machine based on the learning print data. a memory for storing a training dataset including;
a processor that generates the learned model by machine learning based on the learning data set;
A device comprising:
本開示の技術は、印刷物の印刷結果が適正か否かを検査する用途に利用できる。例えば、カラーのバリアブル印刷を行うデジタル印刷機によって印刷された印刷物を検査する用途に好適に利用できる。 The technology of the present disclosure can be used to inspect whether the print result of printed matter is appropriate. For example, it can be suitably used for inspecting printed matter printed by a digital printing machine that performs color variable printing.
10 用紙
70 テストチャート
100 印刷機
110 印刷コントローラ
120 印刷ヘッド
130 搬送機
200 検査装置
210 処理装置
212 プロセッサ
214 RAM
216 ROM
220 カメラ
300 コンピュータ
10 Paper 70
200
216 ROM
220 camera 300 computer
Claims (9)
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
前記印刷データを、機械学習によって予め訓練された学習済みモデルを用いて照合用印刷画像に変換し、前記照合用印刷画像と前記カメラ画像に基づく照合用カメラ画像との照合を行うことにより、前記印刷物の良否を判定する処理装置と、
を備えた検査システムのための前記学習済みモデルを生成する方法であって、
複数の色のパターンを含むテストチャートの画像を示す学習用印刷データと、前記学習用印刷データに基づいて前記印刷機が印刷した印刷物を前記カメラが撮影することによって生成した学習用カメラ画像とを含む学習用データセットを取得することと、
前記学習用データセットに基づく機械学習によって前記学習済みモデルを生成することと、
を含む方法。 a printing machine that executes printing based on print data;
a camera that generates a camera image by photographing the printed matter printed by the printing machine;
By converting the print data into a verification print image using a learned model trained in advance by machine learning, and performing verification between the verification print image and a verification camera image based on the camera image, a processing device that determines the quality of printed matter;
A method for generating the learned model for an inspection system comprising:
learning print data showing an image of a test chart including a plurality of color patterns; and a learning camera image generated by the camera photographing a printed matter printed by the printing machine based on the learning print data. Obtaining a training dataset containing
Generating the learned model by machine learning based on the learning data set;
method including.
前記学習済みモデルの生成は、前記学習用印刷データと、対応する前記学習用カメラ画像との偏差を小さくするように、前記モデルにおける複数のパラメータを調整することを含む、
請求項1から5のいずれかに記載の方法。 The learned model is a model that performs spatial filtering processing and color conversion processing on the print data,
Generation of the learned model includes adjusting a plurality of parameters in the model so as to reduce a deviation between the learning print data and the corresponding learning camera image.
A method according to any one of claims 1 to 5.
入力された印刷元データをヘッドデータに変換する印刷コントローラと、
前記ヘッドデータに基づいて印刷を行う印刷ヘッドと、
を備え、
前記印刷データは、前記印刷元データまたは前記ヘッドデータである、
請求項1から6のいずれかに記載の方法。 The printing machine includes:
a print controller that converts input print source data into head data;
a print head that performs printing based on the head data;
Equipped with
the print data is the print source data or the head data;
A method according to any one of claims 1 to 6.
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
前記印刷データを、機械学習によって予め訓練された学習済みモデルを用いて照合用印刷画像に変換し、前記照合用印刷画像と前記カメラ画像に基づく照合用カメラ画像との照合を行うことにより、前記印刷物の良否を判定する処理装置と、
を備えた検査システムにおける前記学習済みモデルを生成するためのプログラムであって、コンピュータに、
複数の色のパターンを含むテストチャートの画像を示す学習用印刷データと、前記学習用印刷データに基づいて前記印刷機が印刷した印刷物を前記カメラが撮影することによって生成した学習用カメラ画像とを含む学習用データセットを取得することと、
前記学習用データセットに基づく機械学習によって前記学習済みモデルを学習することと、
を実行させるプログラム。 a printing machine that executes printing based on print data;
a camera that generates a camera image by photographing the printed matter printed by the printing machine;
By converting the print data into a verification print image using a learned model trained in advance by machine learning, and performing verification between the verification print image and a verification camera image based on the camera image, a processing device that determines the quality of printed matter;
A program for generating the learned model in an inspection system comprising:
learning print data showing an image of a test chart including a plurality of color patterns; and a learning camera image generated by the camera photographing a printed matter printed by the printing machine based on the learning print data. Obtaining a training dataset containing
Learning the trained model by machine learning based on the learning dataset;
A program to run.
前記印刷機によって印刷された印刷物を撮影してカメラ画像を生成するカメラと、
前記印刷データを、機械学習によって予め訓練された学習済みモデルを用いて照合用印刷画像に変換し、前記照合用印刷画像と前記カメラ画像に基づく照合用カメラ画像との照合を行うことにより、前記印刷物の良否を判定する処理装置と、
を備えた検査システムと組み合わせて使用される、前記学習済みモデルを生成する装置であって、
複数の色のパターンを含むテストチャートの画像を示す学習用印刷データと、前記学習用印刷データに基づいて前記印刷機が印刷した印刷物を前記カメラが撮影することによって生成した学習用カメラ画像とを含む学習用データセットを記憶するメモリと、
前記学習用データセットに基づく機械学習によって前記学習済みモデルを生成するプロセッサと、
を備える装置。 a printing machine that executes printing based on print data;
a camera that generates a camera image by photographing the printed matter printed by the printing machine;
By converting the print data into a verification print image using a learned model trained in advance by machine learning, and performing verification between the verification print image and a verification camera image based on the camera image, a processing device that determines the quality of printed matter;
An apparatus for generating the learned model, which is used in combination with an inspection system comprising:
learning print data showing an image of a test chart including a plurality of color patterns; and a learning camera image generated by the camera photographing a printed matter printed by the printing machine based on the learning print data. a memory for storing a training dataset including;
a processor that generates the learned model by machine learning based on the learning data set;
A device comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022029180A JP7204265B1 (en) | 2022-02-28 | 2022-02-28 | METHOD AND APPARATUS FOR GENERATING TRAINED MODEL FOR PRINT INSPECTION SYSTEM |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022029180A JP7204265B1 (en) | 2022-02-28 | 2022-02-28 | METHOD AND APPARATUS FOR GENERATING TRAINED MODEL FOR PRINT INSPECTION SYSTEM |
Publications (2)
Publication Number | Publication Date |
---|---|
JP7204265B1 JP7204265B1 (en) | 2023-01-16 |
JP2023125203A true JP2023125203A (en) | 2023-09-07 |
Family
ID=84901104
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022029180A Active JP7204265B1 (en) | 2022-02-28 | 2022-02-28 | METHOD AND APPARATUS FOR GENERATING TRAINED MODEL FOR PRINT INSPECTION SYSTEM |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7204265B1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7457425B1 (en) | 2023-10-17 | 2024-03-28 | 株式会社マイクロ・テクニカ | Printed matter inspection system, processing device used in the inspection system, and inspection method |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6467867B1 (en) * | 1997-09-03 | 2002-10-22 | Macdermid Acumen, Inc. | Method and apparatus for registration and color fidelity control in a multihead digital color print engine |
JP2002365139A (en) * | 2001-05-22 | 2002-12-18 | Xerox Corp | Color correction system for color printer not sensitive to angle, azimuth and displacement, and spectrophotometer |
JP2009126058A (en) * | 2007-11-22 | 2009-06-11 | Olympus Corp | Image recording device and poor recording detecting method |
JP2009241562A (en) * | 2008-03-31 | 2009-10-22 | Fujifilm Corp | Image recording method and image recording apparatus |
JP2009248537A (en) * | 2008-04-10 | 2009-10-29 | Seiko Epson Corp | Method and program for calculating correction value |
JP2013223147A (en) * | 2012-04-17 | 2013-10-28 | Sharp Corp | Image forming apparatus, image processing method, and image forming method |
JP2017219679A (en) * | 2016-06-07 | 2017-12-14 | 富士ゼロックス株式会社 | Correction data distribution system, correction data generation device, image formation device and program |
JP2018078426A (en) * | 2016-11-08 | 2018-05-17 | キヤノン株式会社 | Image forming apparatus and method |
WO2018192662A1 (en) * | 2017-04-20 | 2018-10-25 | Hp Indigo B.V. | Defect classification in an image or printed output |
JP2020186938A (en) * | 2019-05-10 | 2020-11-19 | 富士フイルム株式会社 | Inspection method, inspection device, program, and printing device |
-
2022
- 2022-02-28 JP JP2022029180A patent/JP7204265B1/en active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6467867B1 (en) * | 1997-09-03 | 2002-10-22 | Macdermid Acumen, Inc. | Method and apparatus for registration and color fidelity control in a multihead digital color print engine |
JP2002365139A (en) * | 2001-05-22 | 2002-12-18 | Xerox Corp | Color correction system for color printer not sensitive to angle, azimuth and displacement, and spectrophotometer |
JP2009126058A (en) * | 2007-11-22 | 2009-06-11 | Olympus Corp | Image recording device and poor recording detecting method |
JP2009241562A (en) * | 2008-03-31 | 2009-10-22 | Fujifilm Corp | Image recording method and image recording apparatus |
JP2009248537A (en) * | 2008-04-10 | 2009-10-29 | Seiko Epson Corp | Method and program for calculating correction value |
JP2013223147A (en) * | 2012-04-17 | 2013-10-28 | Sharp Corp | Image forming apparatus, image processing method, and image forming method |
JP2017219679A (en) * | 2016-06-07 | 2017-12-14 | 富士ゼロックス株式会社 | Correction data distribution system, correction data generation device, image formation device and program |
JP2018078426A (en) * | 2016-11-08 | 2018-05-17 | キヤノン株式会社 | Image forming apparatus and method |
WO2018192662A1 (en) * | 2017-04-20 | 2018-10-25 | Hp Indigo B.V. | Defect classification in an image or printed output |
JP2020186938A (en) * | 2019-05-10 | 2020-11-19 | 富士フイルム株式会社 | Inspection method, inspection device, program, and printing device |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7457425B1 (en) | 2023-10-17 | 2024-03-28 | 株式会社マイクロ・テクニカ | Printed matter inspection system, processing device used in the inspection system, and inspection method |
Also Published As
Publication number | Publication date |
---|---|
JP7204265B1 (en) | 2023-01-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5536233B2 (en) | Automatic inspection of printed images | |
JP4055385B2 (en) | Image inspection device | |
JP7220629B2 (en) | Image discrimination model construction method, image discrimination device, and image discrimination method | |
US9649839B2 (en) | Image processing apparatus and image processing method | |
JP6537376B2 (en) | Image processing apparatus and image processing method | |
US9965227B2 (en) | Image processing apparatus, image processing method, computer-readable recording medium, printing system, and method of producing printed material | |
JP7204265B1 (en) | METHOD AND APPARATUS FOR GENERATING TRAINED MODEL FOR PRINT INSPECTION SYSTEM | |
JP2005141477A (en) | Image sharpening process and image processor implementing this process | |
JP6459190B2 (en) | Image inspection apparatus, image forming system, and image inspection method | |
US8867094B2 (en) | Printing system, image forming apparatus, and printing method for detecting image defects | |
JP7457425B1 (en) | Printed matter inspection system, processing device used in the inspection system, and inspection method | |
JP4366634B2 (en) | Noise pixel map creation method, apparatus and program for implementing the method, and photo print apparatus | |
US20170085753A1 (en) | Image data generating apparatus, printer, image data generating method, and non-transitory computer readable medium | |
JP4591784B2 (en) | Method for creating conversion table for photographed image correction and photo printing apparatus for implementing this method | |
JP2009027254A (en) | Image correcting method and image correcting device | |
JP7372187B2 (en) | Image inspection device, printing device, and storage processing method for captured images | |
JP2023035051A (en) | Inspection device, control method thereof, inspection system, image formation apparatus and program | |
JP2021154683A (en) | Specifying method of attribute of ink set, specifying device of attribute of ink set and computer program | |
JP2004246110A (en) | Plate inspection apparatus, printing system, method for inspecting printed data on plate, and program | |
JP2009004887A (en) | Image correction method and image correction device | |
JP2006338296A (en) | Image processing method and program for suppressing small noise and noise suppression module for executing the method | |
JP2008079196A (en) | Image correcting method, image correcting program and image correcting module | |
JP2004094438A (en) | Image inspecting device and program | |
JP2005064801A (en) | Image forming apparatus | |
JP4835900B2 (en) | Image processing method and image processing apparatus for image data from a digital camera |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A80 Effective date: 20220307 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220411 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20220411 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220517 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220714 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220802 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20220929 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221130 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221220 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221221 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7204265 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |