JP6976824B2 - 画像処理装置、画像処理方法、及びプログラム - Google Patents

画像処理装置、画像処理方法、及びプログラム Download PDF

Info

Publication number
JP6976824B2
JP6976824B2 JP2017220903A JP2017220903A JP6976824B2 JP 6976824 B2 JP6976824 B2 JP 6976824B2 JP 2017220903 A JP2017220903 A JP 2017220903A JP 2017220903 A JP2017220903 A JP 2017220903A JP 6976824 B2 JP6976824 B2 JP 6976824B2
Authority
JP
Japan
Prior art keywords
image
smoothing
pixel
correlation determination
interest
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017220903A
Other languages
English (en)
Other versions
JP2019092101A (ja
Inventor
浩二 布施
尚 石川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017220903A priority Critical patent/JP6976824B2/ja
Publication of JP2019092101A publication Critical patent/JP2019092101A/ja
Application granted granted Critical
Publication of JP6976824B2 publication Critical patent/JP6976824B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Color, Gradation (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本発明は、モアレ発生の原因となる周期パターンを除去する技術に関する。
近年、スキャナ、プリンタ、コピー、FAX等複数の機能を有するMFP(Multi−Function−Printer)が広く普及している。MFPにおいてプリンタ機能を実現するための画像形成装置は、電子写真方式とインクジェット方式に大別される。電子写真方式は、インクジェット方式に比べて記録媒体への色材形成が不安定なため、一般的に、中間調処理では、ランダムなドットパターンではなく、周期的なドットパターンを生成するケースが多い。これにより、低粒状性、即ち低ノイズな画像出力を実現する。
周期的なドットパターンは、例えば、閾値マトリクスにAMスクリーンを用いたディザ処理により生成される。AMスクリーンとしては、網点スクリーン(ドットスクリーン)やラインスクリーンが知られている。一方、ランダムなドットパターンは、例えば、閾値マトリクスにFMスクリーンを用いたディザ処理や、誤差拡散処理により生成される。FMスクリーンとしては、ブルーノイズマスクやグリーンノイズマスクが知られている。
記録媒体への色材形成が不安定な電子写真方式の画像形成装置では、中間調処理において周期的なドットパターンを生成することにより、低粒状性、即ち低ノイズな画像出力を実現できる。しかし、中間調処理前の画像に周期的なパターンが含まれている場合、中間調処理で使用するAMスクリーンの周期(閾値の周期)と干渉し、中間調処理後の画像に低周波の模様(モアレ)が発生する。その結果、プリント物の画質が大きく劣化する。
中間調処理前の画像に周期的なパターンが含まれる最たるケースは、MFPにおけるプリント物のコピーである。網点パターンやラインパターン等の周期的なドットパターンは、電子写真方式のプリンタだけでなく、新聞や雑誌を対象とした一般的な印刷における中間調再現にも広く用いられているため、コピー対象となる多くのプリント物は周期的なパターンを含んでいる。そのため、プリント物のコピー時に、中間調処理においてAMスクリーンを使用した場合、多くのケースにおいて、コピー出力物にモアレが発生してしまう。
また、デジタル原稿をプリントするケースにおいても、プリント出力物にモアレが発生することがある。例えば、プレゼンテーション原稿といったベクタデータをラスタ画像に変換する際、ベクタデータに含まれる半透明オブジェクトは、しばしば周期的なパターンとしてラスタライズされる。この周期的なパターンを含むラスタ画像は、色変換処理やガンマ補正処理等を経た後に中間調処理で使用されるため、中間調処理においてAMスクリーンを使用した場合、プリント出力物にモアレが発生してしまう。
以上示したモアレは、中間調処理においてランダムなドットパターンを生成するようにすれば低減するが、画像形成装置が電子写真方式の場合、記録媒体への色材形成が不安定なため、粒状性、即ちノイズが悪化してしまう。従って、電子写真方式において、モアレの低減と低粒状性(低ノイズ)とを両立するのは困難である。
このような問題を解決し得る技術として、特許文献1には、中間調処理を行う前段階において、エッジの形状を保持しつつ、網点等の周期的なパターンのみを選択的に平滑化する技術が開示されている。具体的には、入力画像の全面を平滑化して網点等の周期的なパターンを除去した画像と、平滑化前の入力画像とを、場所ごとに異なる重みでアルファブレンドする。場所ごとの重みは、像域判定手段が生成する網点度やエッジ度といった局所的な特徴量によって決定され、網点度の高い領域では平滑化後画像のブレンド比率が大きくなり、エッジ度の高い領域では平滑化前画像のブレンド比率が大きくなる。これにより、中間調処理を行う前段階において、AMスクリーンと干渉する周期的なパターンを除去できるため、中間調処理においてAMスクリーンを使用してもモアレの発生を抑制できる。また、エッジの形状が保持されるため、入力画像の全面を平滑化した場合に比べ、高画質なプリント出力物が得られる。
また、特許文献2には、入力画像を選択的に平滑化することで、エッジの形状を保持しつつノイズを除去する技術が開示されている。具体的には、まず、入力画像にフィルタ処理を適用し、信号成分が含まれる第一の周波数帯域のパワーを上げ、且つ、ノイズ成分が含まれる第二の周波数帯域のパワーを下げる。これにより、入力画像に比べてSN比が向上した参照画像を生成する。そして、参照画像における相関判定結果に基づいて、入力画像を選択的に平滑化する。これにより、エッジやテクスチャといった信号成分を保持しつつ、ノイズ成分を好適に除去できる。
特開2008−011268号公報 特開2013−115697号公報
しかしながら、特許文献1に記載の技術は、エッジを跨いだ平滑化が行われるため、周期的なパターンを完全に除去するように平滑化後画像のブレンド比率を調整すると、エッジが暈けてしまうケースが多かった。一方、エッジの形状を保持するために平滑化後画像のブレンド比率を小さくすると、エッジ近傍で周期パターンが残ってしまうケースが多かった。この問題を解決するために、ブレンド比率の生成に用いる局所的な特徴量の算出方法を改善すると、回路規模が大きくなり実装コストが増大する傾向があった。さらに、高価な実装コストを掛けて特徴量の算出方法を改善したとしても、エッジを跨ぐ平滑化が行われた画像を好適な比率でブレンドするのは困難なため、十分な効果が得られなかった。
一方、特許文献2に記載の技術は、相関を判定することでエッジを跨がない平滑化が可能なため、入力画像を選択的に平滑化する技術としては、特許文献1に記載の技術に比べて利点がある。また、ブレンド比率の生成に用いる局所的な特徴量を算出するための回路が不要なため、前述のような実装コストの増大を抑制できる。
しかしながら、相関判定に使用する参照画像を生成する際、信号成分とノイズ成分の周波数特性は考慮しているが、AMスクリーンと干渉する周期的なパターンの周波数特性は考慮していない。そのため、特許文献2に記載の技術を中間調処理前の画像に適用した場合、AMスクリーンと干渉する周期的なパターンが残る、或いは逆に、入力画像を暈し過ぎてしまい、高画質なプリント出力物が得られないという問題があった。
そこで本発明は、このような事情に鑑み、中間調処理において周期的なドットパターンを生成する画像処理装置において、中間調処理前の画像に周期的なパターンが含まれていても、中間調処理後の画像におけるモアレの発生を抑制することを目的とする。
本発明の一実施形態は、入力画像に基づき所定の空間周波数の範囲の成分を抽出するフィルタ処理を行うことで、バンドパス画像を生成するフィルタ処理手段と、前記バンドパス画像の着目領域における画素値の変化量を導出し、該導出した変化量に応じて、相関判定用の閾値を設定する設定手段と、前記バンドパス画像に基づき、前記閾値を用いて、着目画素と、該着目画素の周辺画素との間に相関があるか判定する判定手段と、前記判定手段が出力する相関判定結果に従い、前記入力画像に基づく平滑化を行う平滑化手段と、前記平滑化手段の出力画像に基づき、ドットパターンを生成する中間調処理手段とを有することを特徴とする画像処理装置である。
本発明によれば、中間調処理において周期的なドットパターンを生成する画像処理装置において、中間調処理前の画像に周期的なパターンが含まれていても、中間調処理後の画像におけるモアレの発生を抑制できる。
実施例1における画像処理装置の構成を示すブロック図 実施例1における画像処理部の構成を示すブロック図 実施例1における周期パターン除去回路の構成を示すブロック図 実施例1における着目領域を示す図 実施例1におけるフィルタ処理部のフィルタ係数及び振幅特性 実施例2における周期パターン除去回路の構成を示すブロック図 実施例3における周期パターン除去回路の構成を示すブロック図 実施例4における周期パターン除去回路の構成を示すブロック図
以下、図面を参照して本発明の実施形態について説明する。尚、以下の実施形態は、本発明の具体例であるから、技術的に好ましい様々の限定が付けられている。しかし、本発明の思想に沿うものであれば、実施形態は以下の実施形態やその他の具体的方法に限定されるものではない。
[実施例1]
<画像処理装置の構成について>
以下、第1の実施例における画像処理装置について、図1を用いて説明する。図1は、本実施例における画像処理装置の全体構成の一例を示すブロック図である。図示するように、画像処理装置は、CPU回路部110と、原稿100をスキャンして画像を読み取る画像読み取り部120と、画像処理部130と、プリンタ部140とを備える。画像読み取り部120は、レンズ122と、CCDセンサ124と、アナログ信号処理部(A/D変換部)126とを備える。レンズ122を介しCCDセンサ124に結像された原稿100の画像が、CCDセンサ124によりR(Red)、G(Green)、B(Blue)のアナログ電気信号に変換される。
アナログ信号に変換された画像情報は、アナログ信号処理部126に入力され、R、G、Bの色毎に補正等が行われた後にアナログ・デジタル変換(A/D変換)される。デジタル化されたフルカラー信号(以下、デジタル画像と呼ぶ)は、画像処理部130に入力される。画像処理部130は、デジタル画像に対し、後述する入力補正処理、周期パターン除去処理、色空間変換処理、濃度補正処理、及び中間調処理を施し、これらの処理が施された後のデジタル画像をプリンタ部140へ出力する。
プリンタ部140は、電子写真方式やインクジェット方式等を採用する画像形成装置であり、入力されたデジタル画像に基づいて記録媒体上に画像を形成する。また、CPU回路部110は、演算制御用のCPU112、固定データやプログラムを格納するROM114、データの一時保存やプログラムのロードに使用されるRAM116、及び外部記憶装置118を備える。CPU回路部110(のCPU112)は、画像読み取り部120、画像処理部130、及びプリンタ部140を統括的に制御し、以下で説明する本実施例における処理を実行する。外部記憶装置118は、本実施例における画像処理装置が使用するパラメータやプログラムを記憶するハードディスク等の記憶媒体である。RAM116に展開されるデータやプログラム等が、ROM114ではなく外部記憶装置118からロードされる構成であっても構わない。
<画像処理部の構成について>
以下、本実施例における画像処理部130について、図2を用いて詳しく説明する。図2は、本実施例における画像処理部130の回路構成の一例を示すブロック図である。
図示するように、画像処理部130は、入力インターフェース210と、入力補正回路220と、周期パターン除去回路230と、色空間変換回路240と、濃度補正回路250と、中間調処理回路260と、出力インターフェース270とを備える。アナログ信号処理部126からバス205経由で画像処理部130にデジタル画像が入力されると、画像処理部130の前述の構成要素の夫々において、以下に記載する処理が実行される。
入力インターフェース210を経由して入力補正回路220にデジタル画像215が入力される。このデジタル画像215は、R、G、Bの輝度信号で構成される。入力補正回路220は、デジタル画像215に対し、原稿100を読み取るセンサの特性のばらつきや原稿照明用ランプの配光特性のばらつきを補正するための処理を行い、該処理後のデジタル画像225を周期パターン除去回路230に出力する。
入力補正回路220から出力された、R、G、Bの輝度信号で構成されるデジタル画像225が、周期パターン除去回路230に入力される。周期パターン除去回路230は、デジタル画像225に対し、周期パターン除去処理を行い、該周期パターン除去処理後のデジタル画像235を色空間変換回路240に出力する。尚、周期パターン除去処理については、後で詳しく説明する(図3参照)。
周期パターン除去回路230から出力された、R、G、Bの輝度信号で構成されるデジタル画像235が、色空間変換回路240に入力される。色空間変換回路240は、R、G、Bの輝度信号で構成されるデジタル画像235を、C(Cyan)、M(Magenta)、Y(Yellow)、K(Black)の濃度信号で構成されるデジタル画像245に変換し、濃度補正回路250に出力する。
色空間変換回路240から出力された、C、M、Y、Kの濃度信号で構成されるデジタル画像245が、濃度補正回路250に入力される。濃度補正回路250は、デジタル画像245に対し濃度補正処理を行い、該濃度補正処理後のデジタル画像255を中間調処理回路260に出力する。濃度補正回路250において、後続の中間調処理回路260で2値化又は多値化されたときに濃度変化が起きないように、中間調処理回路260の特性を考慮して予め濃度補正処理を行っておく。
濃度補正回路250から出力された、C、M、Y、Kの濃度信号で構成されるデジタル画像255が、中間調処理回路260に入力される。中間調処理回路260は、デジタル画像255に対し、中間調処理、具体的には、所定の線数によるハーフトーンスクリーン処理を行う。これにより、各画素が多値の画素値を有するデジタル画像255は、中間調表現のデジタル画像、即ち各画素が2値又は多値の画素値を有するデジタル画像265に変換される。そして、中間調処理回路260は、デジタル画像265を、出力インターフェース270、バス275経由でプリンタ部140に出力する。
この中間調処理回路260における中間調処理(ハーフトーンスクリーン処理)では、周期的なドットパターンを生成する。これにより、特にプリンタ部140に電子写真方式を採用した場合において、ランダムなドットパターンを生成する場合に比べ、低粒状性、即ち低ノイズな画像出力を実現できる。周期的なドットパターンは、例えば、閾値マトリクスにAMスクリーンを用いたディザ処理といった公知の方法により生成する。出力が2値のディザ処理のケースでは、中間調処理前の画素値が閾値マトリクスの値を超える場合、ドットONを示す値が出力される一方、該画素値が閾値マトリクスの値以下の場合、ドットOFFを示す値が出力される。AMスクリーンとしては、網点スクリーン(ドットスクリーン)やラインスクリーン等を用いる。尚、中間調処理回路260では、C、M、Y、Kの濃度信号で構成されるデジタル画像255に基づいて周期的なドットパターンが生成できれば良く、用いる方法はディザ処理に限定されない。
<周期パターン除去処理について>
以下、本実施例における周期パターン除去回路230で実行される周期パターン除去処理について、図3を用いて説明する。周期パターン除去回路230では、色成分毎に同じ処理が実行され、図3は、周期パターン除去回路230のうち、1つの色成分に対する処理を行う回路の一例を示すブロック図である。図示するように、この回路は、フィルタ処理部301と、相関判定部302と、平滑化部303とを備える。
図3において、i(x、y)は、入力補正回路220から出力されたデジタル画像225のうちの1つの色成分(R、G、Bのうちの何れか)を示す。このとき、xとyは画像における位置を示す。解像度は600dpiとする。以下、i(x、y)を入力画像と呼ぶ。
フィルタ処理部301は、入力画像i(x、y)とフィルタ係数k(x、y)との畳み込み演算を行うことにより、バンドパス画像b(x、y)を生成する。フィルタ係数k(x、y)は設計パラメータであり、値を変更することにより、フィルタの周波数特性を変更できる。所望の周波数特性を持つフィルタ係数は、窓関数法といった公知の手法により生成する。窓関数法を用いる場合、u、vをそれぞれx方向、y方向の空間周波数、F(u、v)を目標周波数特性としたとき、F(u、v)を逆フーリエ変換し、窓関数を掛けてフィルタサイズを制限することで、所望の特性を持つフィルタ係数が得られる。尚、フィルタ処理部301で用いるフィルタの特徴については、後で詳しく説明する(図5参照)。
相関判定部302は、着目領域において、着目画素とこの着目画素周辺の各画素(周辺画素とする)との間で、相関があるか否かを判定する。平滑化部303は、相関判定部302が出力する相関判定結果c(x、y)に基づき、着目領域において、着目画素と相関のある周辺画素のみを用いて平滑化を行う。平滑化に用いる画素の値は、入力画像i(x、y)の画素値である。そして、平滑化して得られた値を着目画素の値として導出する。o(x、y)はこのようにして導出された値を有する画像である。以下、o(x、y)を出力画像と呼ぶ。出力画像o(x、y)は、デジタル画像235のうちの1つの色成分として、色空間変換回路240へ出力される。
以下、相関判定部302と平滑化部303とにおける処理について、図4を用いて詳しく説明する。図4は、着目領域の例として、着目画素に隣接する3画素四方の領域を示している。
図4に示す着目領域の夫々において、着目画素は中央の画素であり、着目領域401〜403では、着目画素に対する添え字を「11」としている。着目領域401は、入力画像i(x、y)における領域であり、着目領域401におけるiijは、入力画像i(x、y)の画素値である。着目領域402は、フィルタ処理部301が出力するバンドパス画像b(x、y)における領域であり、着目領域402におけるbijはバンドパス画像b(x、y)の画素値である。着目領域403は、相関判定部302が出力する相関判定結果c(x、y)における領域であり、着目領域403におけるcijは、相関判定結果c(x、y)の画素値である。
相関判定には、フィルタ処理部301で生成されるバンドパス画像b(x、y)が用いられ、cijは式(1)に従って算出される。式(1)において、cij =1の画素は着目画素との間で相関がある(相関あり)と判定された画素である。一方、cij =0の画素は着目画素との間で相関がない(相関なし)と判定された画素である。つまり、相関判定部302は、着目領域において、バンドパス画像の着目画素とその周辺画素との間で差分絶対値を求め、その差分絶対値が所定の閾値(相関判定用閾値とする)Thを超えているか否か(言い換えると、所定の閾値以下か否か)を判定する。相関判定の具体例として、図4の符号404は、バンドパス画像における着目領域の一例を示す図であり、符号405は、この着目領域404に対し、相関判定用閾値Th=5とした場合の相関判定結果を示す図である。
Figure 0006976824
平滑化部303は、着目領域内で相関あり(cij =1)と判定された1又は複数の画素について、入力画像における画素値iijの平均をとる。例えば、相関判定結果405の場合、平均化した値iavgは、「(i00+10+20+01+11+21)÷6」となる。そして、着目画素値i11は、iavgで置換される。以上の処理を画像全面に対して行うことにより、出力画像o(x、y)が得られる。
尚、上記の説明では、相関判定と平滑化における着目領域のサイズを3画素四方としたが、それ以外のサイズであっても構わない。また、中間調処理のモードによって、着目領域のサイズを適応的に切り替えても構わない。具体的には、中間調処理で生成するドットパターンの空間周波数が低いほど、モアレに寄与する周波数成分が低周波になる。一般的に、低周波成分を除去するためにはサイズの大きなフィルタが必要となる。そのため、中間調処理で生成するドットパターンの空間周波数が低いほど、上述の着目領域のサイズを大きくすることで、低周波成分の除去性能を確保できる。一方、中間調処理で生成するドットパターンの空間周波数が高いほど、着目領域のサイズを小さくすることで、低周波成分の暈しすぎを防ぐことができる。
<フィルタ処理部で用いるフィルタの特徴について>
以下、フィルタ処理部301で用いるフィルタ係数k(x、y)の特徴について、図5を用いて説明する。
バンドパス画像b(x、y)は、中間調処理回路260で生成される周期的ドットパターンと干渉する周波数成分が抑圧され、さらに、直流付近の低周波成分が抑圧された画像が望ましい。このようなバンドパス画像b(x、y)を得るために、本実施例では、以下に示すように、所定の空間周波数の範囲の周波数成分を抽出する一方で、その他の範囲の周波数成分を抑圧するバンドパスフィルタを用いる。例えば、図5の符号501に示すような11×11サイズのフィルタ係数を用いる。フィルタ係数501の周波数特性は略等方的であり、例として、x方向の振幅特性を符号502に示す。
中間調処理回路260で生成される周期的ドットパターンは、中間調処理のモードに依存するが、一般的に、空間周波数が6cycle/mmよりも高いことが多い。モアレは、入力画像の周波数成分と、中間調処理で生成される周期的ドットパターンの空間周波数とが近い場合において特に目立つ。そのため、フィルタ係数501は、符号502に示されるように、6cycle/mm付近よりも高周波な成分を抑圧する特性を持つようにする。
また、周波数成分によって勾配が発生する範囲は、低周波ほど広範囲になる。そのため、直流付近の低周波成分は、エッジ部だけでなくエッジ周辺部でも勾配を生じさせ、前述の相関判定および平滑化において悪影響を与える。具体的には、式(1)に示した通り、勾配の大きい画素は、エッジを跨ぐ画素と見なされ、平滑化対象から除外される。しかし、直流付近の低周波成分が含まれていると、エッジ部だけでなくエッジ周辺部でも大きな勾配が生じるため、エッジ周辺部における平滑化が不十分になってしまう。これを解決しようとして、相関判定用閾値Thの値を大きくして、平滑化対象になる画素を増やすと、エッジ周辺部だけでなく、エッジ部が暈けてしまい、画質が大幅に劣化する。このような理由から、フィルタ係数501は、符号502に示されるように直流付近の低周波成分を抑圧するように設定される。
一方、文字やエッジの形状を保持するために、上記以外の周波数成分は通過させるようにフィルタ係数501は設定される。文字やエッジの6cycle/mmよりも高周波な成分は、符号502に示す特性を持つフィルタによって除去されてしまう。しかし、文字やエッジは、3cycle/mm付近の成分を多く持っているため、符号502に示す特性のフィルタを用いて3cycle/mm付近の周波数成分を通過させることで、暈けはするものの、文字やエッジの形状を保持できる。このようなバンドパス画像を相関判定に使用することで、文字やエッジが平滑化されることなく、モアレ発生の原因となる周波数成分のみを好適に除去できる。
バンドパス画像は、6cycle/mm付近よりも高周波な成分が抑圧され、モアレ発生の原因となる周期パターンが除去されるが、文字やエッジが暈けている。しかし、文字やエッジの形状が保持されているため、このバンドパス画像を相関判定に使用すれば、文字やエッジが平滑化されず、平滑化後の画像では、文字やエッジの暈けを防ぐことができる。一方、モアレ発生の原因となる周期パターンは、バンドパス画像において除去されているため、このバンドパス画像を相関判定に使用すれば、モアレ発生の原因となる周期パターンを平滑化できる。このように、バンドパス画像の時点では、周期パターンが除去されるだけでなく、文字やエッジも暈けてしまっているが、本実施例では、このバンドパス画像を相関判定に使用して入力画像を平滑化する。こうすることで、文字やエッジが暈けることなく、周期パターンだけが除去された平滑化画像を得る点が本実施例の大きな特徴である。
尚、上述の例では、フィルタ処理部301で11×11サイズのフィルタを用いたが、フィルタサイズは11×11以外であっても構わない。
また、フィルタ特性は、符号502に示す特性に限定されない。例えば、中間調処理回路260で生成される周期的ドットパターンの空間周波数が8cycle/mmよりも高い場合は、符号502に示す特性ではなく、6cycle/mm付近は通過させ、8cycle/mm付近よりも高周波な成分を抑圧する特性を採用する。これにより、文字やエッジの形状を保持できる。
また、中間調処理のモードによって、フィルタ処理部301で用いるフィルタ係数を切り替えても構わない。具体的には、中間調処理で生成するドットパターンの空間周波数が低いほど、モアレに寄与する周波数成分が低周波になる。そのため、中間調処理で生成するドットパターンの空間周波数が低いほど、カットオフ周波数の低いフィルタを用いる。これにより、モアレ発生の原因となる周波数成分を確実に除去できる。一方、中間調処理で生成するドットパターンの空間周波数が高いほど、カットオフ周波数の高いフィルタを用いることで、文字やエッジの暈けを防ぐことができる。
また、中間調処理回路260で実行するハーフトーンスクリーン処理のスクリーン線数に応じて、フィルタ処理部301で抽出する成分の空間周波数範囲の上限を設定しても構わない。つまり、スクリーン線数が高くなるにつれて、フィルタ処理部301で抽出する成分の空間周波数範囲の上限を高く設定する。
<本実施例の効果について>
本実施例によれば、中間調処理において周期的なドットパターンを生成する画像処理装置において、中間調処理前の画像に周期的なパターンが含まれていても、中間調処理後の画像におけるモアレの発生を抑制できる。中間調処理において周期的なドットパターンを生成することで、特に、プリンタ部140に電子写真方式を採用した場合において、ランダムなドットパターンを生成する場合に比べ、低粒状性、即ち低ノイズな画像出力を実現できる。
また、本実施例によれば、相関を判定することでエッジを跨がない平滑化が可能なため、特許文献1に記載の技術に比べて、高品位な平滑化画像が得られる。また、本実施例では、ブレンド比率の生成に用いる局所的な特徴量を算出するための回路が不要なため、特許文献1に記載の技術に比べて実装コストの増大を抑制できる。
また、本実施例では、特許文献2に記載の技術と異なり、相関判定に使用する参照画像(バンドパス画像)を生成する際、図5の符号502に示すように、AMスクリーンと干渉する周期的なパターンの周波数特性を考慮したフィルタを用いる。このフィルタは、モアレ発生の原因となる周期パターンを除去する特性を有する。そのため、特許文献2に記載の技術では、AMスクリーンと干渉する周期的なパターンが残る、或いは逆に、入力画像を暈し過ぎるという問題があったが、本実施例によれば、高画質なプリント出力物が得られる。
また、特許文献2に記載の技術では、相関判定に使用する参照画像を生成する際、信号成分が含まれる第一の周波数帯域のパワーを上げる。一般的な画像において、直流付近の低周波成分は、信号成分を多く含んでいるため、特許文献2に記載の技術によれば、直流付近の低周波成分が増幅されてしまう。前述の通り、直流付近の低周波成分は、エッジ部だけでなくエッジ周辺部でも勾配を生じさせ、相関判定および平滑化において悪影響を与える。しかし、本実施例の構成によれば、符号502に示されるように直流付近の低周波成分を抑圧するフィルタを用いるため、エッジ周辺部における平滑化が不十分、或いは逆に、エッジ部を暈しすぎてしまうことを防ぐことができる。
また、特許文献2に記載の技術では、相関判定に使用する参照画像を生成する際、信号成分が含まれる第一の周波数帯域のパワーを上げる。一般的に、周波数成分のパワーを増幅すると、ダイナミックレンジが拡大する。そのため、参照画像の階調値を確実に表現するためには、参照画像のビット数を増やす必要があり、実装コストの観点からは不利である。しかし、本実施例の構成によれば、符号502に示されるように、参照画像を生成するフィルタの振幅特性の最大値を1以下に設定するため、参照画像のダイナミックレンジは拡大しない。そのため、参照画像の階調値を表現するためのビット数を増やす必要がなく、実装コストを抑えることができる。
[実施例2]
実施例1には、相関判定に使用するバンドパス画像を生成した際にサイズの小さな文字が平滑化されてしまい、相関判定においてモアレ発生の原因となる周期パターンと区別が付かず、結果、平滑化部303において、周期パターンと同様に暈されてしまう虞がある。
ところで、入力画像において、モアレ発生の原因となる周期パターンのみが存在する場合、バンドパス画像の画素値が広い範囲に渡って均一になる。一方、サイズの小さな文字が存在する場合は、文字の中心部付近ではバンドパス画像の画素値が均一になり、相関判定時に周期パターンと区別が付かなくなることがあるが、文字領域と周辺領域との境界付近において該画素値に変化が生じることが多い。そのため、バンドパス画像の画素値の変化を、複数画素の範囲に渡って評価することで、サイズの小さな文字と、周期パターンとを区別できる。
本実施例では、バンドパス画像の画素値の変化を、図4に示した3×3サイズの着目領域において評価、即ち変化量を導出し、該導出した変化量に応じて相関判定用閾値Thを場所によって変化させる。具体的には、変化量が大きい場所では、着目領域において文字やエッジが含まれていると判定し、相関判定用閾値Thを小さく設定することで、文字やエッジの形状の保持性能を高める。逆に、変化量が小さい場所では、着目領域において周期パターン以外は含まれていないと判定し、相関判定用閾値Thを大きく設定することで、周期パターンの除去性能を高める。尚、以下では既述の実施例との差分について主に説明し、既述の実施例と同様の内容については説明を適宜省略する。
<周期パターン除去処理について>
以下、本実施例における周期パターン除去回路230で実行される周期パターン除去処理について、図6を用いて説明する。本実施例でも実施例1と同様に、周期パターン除去回路230では、色成分毎に同じ処理が実行される。図6は、本実施例における周期パターン除去回路230のうち、1つの色成分(R、G、Bのうちの何れか)に対する処理を行う回路の一例を示すブロック図である。
図示するように、本実施例における周期パターン除去回路230は、フィルタ処理部601と、相関判定部602と、平滑化部603とを備える。これらは、実施例1におけるフィルタ処理部301、相関判定部302、平滑化部303と同様のものである。但し、本実施例における周期パターン除去回路230は、閾値設定部604を備える点で実施例1と相違する。
閾値設定部604は、バンドパス画像b(x、y)の画素値の変化量Eを、着目領域402を構成する複数画素の値から導出する。例えば、変化量Eを式(2)に従って算出することで、式(1)に示した相関判定のための演算と、回路を共通化でき、実装コストの増大を抑制できる。尚、変化量Eの導出方法は式(2)を用いる方法に限定されず、複数画素の範囲内におけるバンドパス画像の画素値の変化量を評価できれば、どのような方法で導出しても構わない。
Figure 0006976824
そして、変化量Eが所定の閾値Th_Eより大きい場合は、着目領域において文字やエッジが含まれていると判定し、相関判定部602で使用する相関判定用閾値Thとして小さな値Th_1を設定することで、文字やエッジの形状の保持性能を高める。一方、変化量Eが所定の閾値Th_Eより小さい場合は、着目領域において周期パターン以外は含まれていないと判定し、相関判定用閾値Thとして、Th_1よりも大きな値Th_2を設定することで、周期パターンの除去性能を高める。尚、変化量Eが所定の閾値Th_Eと等しい場合は、相関判定用閾値Thとして、Th_1とTh_2との何れかを設定すれば良い。このように本実施例では、変化量Eが大きくなるにつれて平滑化部603における平滑化を抑制するように、相関判定用閾値Thを設定する。
<本実施例の効果について>
本実施例によれば、サイズの小さな文字を暈すことなく、モアレ発生の原因となる周期パターンのみを好適に除去できる。
[実施例3]
本実施例では、ゲインを掛けたバンドパス画像を入力画像に加算することで、入力画像を強調する。その他の構成は、実施例1と同様である。
<周期パターン除去処理について>
以下、本実施例における周期パターン除去回路230で実行される周期パターン除去処理について、図7を用いて説明する。本実施例でも実施例1と同様に、周期パターン除去回路230では、色成分毎に同じ処理が実行される。図7は、本実施例における周期パターン除去回路230のうち、1つの色成分(R、G、Bのうちの何れか)に対する処理を行う回路の一例を示すブロック図である。
図示するように、本実施例における周期パターン除去回路230は、フィルタ処理部701と、相関判定部702と、平滑化部703とを備える。これらは、実施例1におけるフィルタ処理部301、相関判定部302、平滑化部303と同様のものである。但し、本実施例における周期パターン除去回路230は、乗算部704及び加算部705を備える点で実施例1と相違する。
乗算部704は、バンドパス画像b(x、y)に所定のゲイン係数Gを乗算し、これによって得られる強調量d(x、y)を加算部705へ出力する。加算部705は、強調量d(x、y)を入力画像i(x、y)に加算し、これによって得られる先鋭性が強調された画像(強調画像とする)e(x、y)を平滑化部703へ出力する。平滑化部303は、強調画像e(x、y)に対する平滑化処理を行い、これによって得られる出力画像o(x、y)を色空間変換回路240へ出力する。
尚、フィルタ処理部701では、図5の符号502に示すような、直流(0cycle/mm)における振幅特性が略ゼロのフィルタ係数を使用する。この理由は、直流(0cycle/mm)における振幅特性がゼロでないフィルタ係数を用いると、強調量d(x、y)の平均値が略ゼロにならず、強調画像e(x、y)の平坦部における画素値が変化してしまい、出力画像の色味が変化してしまうからである。
<本実施例の効果について>
本実施例によれば、モアレ発生の原因となる周期パターンを除去する機能に加え、入力画像を強調する機能を実現できる。また、モアレ発生の原因となる周波数成分が除去されたバンドパス画像b(x、y)に基づいて強調処理を行うため、強調処理によって、モアレ発生の原因となる周波数成分が増幅されるといった弊害が発生しない。つまり、本実施例の構成によれば、モアレ発生の原因となる周波数成分のみを除去しつつ、さらに、モアレ発生の原因とならない周波数成分のみを強調することで、文字やエッジの視認性を向上させることができる。また、図5の符号502等のような直流(0cycle/mm)における振幅特性が略ゼロのフィルタ係数を使用することで、画像の全体的な色味を保つことができる。
[実施例4]
実施例1では、色成分ごとに相関判定を行うため、相関判定結果が色成分ごとに異なり、その結果、平滑化の程度も、色成分によって異なっていた。しかし、平滑化の程度が色成分によって異なると、エッジ部や細線部において色ズレが目立つことがある。
そこで、本実施例では、カラー画像の輝度成分(明るさ成分)に基づいてバンドパス画像を生成し、そのバンドパス画像を用いて相関判定を行う。そして、得られた相関判定結果を全ての色成分に対して共通に用いて、色成分ごとに平滑化を行う。これにより、平滑化の程度が色成分によらず同じになり、エッジ部や細線部における色ズレが目立たなくなる。また、フィルタ処理部と相関判定部を色成分ごとに持つ必要がないため、実施例1の構成に比べ、回路規模を小さくでき、実装コストを削減できる。
<周期パターン除去処理について>
以下、本実施例における周期パターン除去回路230で実行される周期パターン除去処理について、図8を用いて説明する。図8は、本実施例における周期パターン除去回路230の一例を示すブロック図である。
図8に示す周期パターン除去回路230は、上述の実施例(図3、図6、図7参照)と異なり、全ての色成分に対する処理を行う構成を持つ。この周期パターン除去回路230は、フィルタ処理部802、相関判定部803、並びに、平滑化部804、平滑化部805、及び平滑化部806を備える。これらは、実施例1におけるフィルタ処理部301、相関判定部302、平滑化部303と同様のものである。但し、本実施例における周期パターン除去回路230は、輝度成分算出部801を備える点で実施例1と相違する。
輝度成分算出部801は、RGBの入力画像の各色の画素値に基づいて輝度画像L(x、y)を生成し、フィルタ処理部802に出力する。RGBの入力画像の各色の画素値をi_R(x、y)、i_G(x、y)、i_B(x、y)としたとき、輝度画像L(x、y)の画素値を、例えば式(3)に従って算出する。尚、輝度画像の導出方法は式(3)を用いる方法に限定されない。
Figure 0006976824
フィルタ処理部802は、輝度画像L(x、y)からバンドパス画像b(x、y)を生成し、相関判定部803はこのバンドパス画像を用いて相関判定結果c(x、y)を導出する。平滑化部804は、入力画像i_R(x、y)に対する平滑化処理を行い、平滑化部805は、入力画像i_G(x、y)に対する平滑化処理を行い、平滑化部806は、入力画像i_B(x、y)に対する平滑化処理を行う。この際、平滑化部804、805、806は夫々、共通の相関判定結果c(x、y)に基づき、入力画像に対する平滑化処理を行う。
<本実施例の効果等について>
本実施例によれば、エッジ部や細線部おける色ズレを発生させることなく、モアレ発生の原因となる周期パターンを除去できる。また、実施例1の構成に比べ、回路規模を小さくでき、実装コストを削減できる。
尚、本実施例では輝度画像を用いて相関判定を行ったが、相関判定結果が色プレーン毎に異ならなければ良いので、色プレーン毎に相関判定した後、色プレーン毎の相関判定結果に基づいて、平滑化処理に用いる相関判定結果を導出しても良い。これにより、輝度画像のみを用いる場合に比べ、色ズレの抑制効果を高めることができる。
例えば、平滑化処理に用いる相関判定結果を多数決で決めても良い。ここで、R、G、Bの相関判定結果をc_R(x、y)、c_G(x、y)、c_B(x、y)とし、着目領域403における、これらの画素値をc_Rij、c_Gij、c_Bijとする。また、平滑化に用いる相関判定結果をc(x、y)とし、着目領域403におけるc(x、y)の画素値をcijとする。このcijを多数決で決める場合は、着目領域403の(i、j)の位置におけるc_Rij、c_Gij、c_Bijのうち、いずれか2つ以上が1(相関あり)になった場合において、同じ位置(i、j)における画素値cijを1(相関あり)とする。一方、c_Rij、c_Gij、c_Bijのうち、いずれか2つ以上が0(相関なし)になった場合は、画素値cijを0(相関なし)とする。
または、平滑化優先モードでは、色プレーン毎の相関判定結果の論理和を使用し、鮮鋭化優先モードでは、色プレーン毎の相関判定結果の論理積を使用するといったように、モードによって使い分けても良い。即ち、平滑化優先モードでは、着目領域403の(i、j)の位置におけるc_Rij、c_Gij、c_Bijのいずれか1つ以上が1(相関あり)になった場合において、同じ位置(i、j)における画素値cijを1(相関あり)とする。一方、その他の場合においては0(相関なし)とする。また、鮮鋭化優先モードでは、c_Rij、c_Gij、c_Bijの全てが1(相関あり)になった場合において、同じ位置(i、j)における画素値cijを1(相関あり)とし、その他の場合においては0(相関なし)とする。
または、色プレーン毎の相関判定結果を加算することで、各画素の値が色プレーン数に応じた多値(例えば、R、G、Bの場合、0、1、2、3)となるような共通の相関判定結果を導出しても良い。具体的には、着目領域403の(i、j)の位置におけるc_Rij、c_Gij、c_Bijの和を、同じ位置(i、j)における画素値cijとし、この多値の画素値cijに基づいて平滑化を行う。この場合、色成分ごとの平滑化手段は、共通の相関判定結果の画素値cijに応じた程度で平滑化を行う。例えば、公知のバイラテラルフィルタのように、入力画像i(x、y)の着目領域401における画素値iijと、画素値cijを画素ごとに乗算した値の総和を、画素値cijの総和で除算する。そして、この除算後の値を、着目画素の平滑化後の画素値として用いる。
また、上述した実施例1〜4の形態を、適宜組み合わせて用いても構わない。
[その他の実施例]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。

Claims (14)

  1. 入力画像に基づき所定の空間周波数の範囲の成分を抽出するフィルタ処理を行うことで、バンドパス画像を生成するフィルタ処理手段と、
    前記バンドパス画像の着目領域における画素値の変化量を導出し、該導出した変化量に応じて、相関判定用の閾値を設定する設定手段と、
    前記バンドパス画像に基づき、前記閾値を用いて、着目画素と、該着目画素の周辺画素との間に相関があるか判定する判定手段と、
    前記判定手段が出力する相関判定結果に従い、前記入力画像に基づく平滑化を行う平滑化手段と、
    前記平滑化手段の出力画像に基づき、ドットパターンを生成する中間調処理手段と
    を有することを特徴とする画像処理装置。
  2. 前記所定の空間周波数の範囲は、前記ドットパターンと干渉してモアレを発生させる周波数成分と、直流付近の低周波成分とを除外した範囲であることを特徴とする請求項1に記載の画像処理装置。
  3. 前記フィルタ処理手段の振幅特性の最大値は、1以下であることを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記中間調処理手段は、所定の線数によるハーフトーンスクリーン処理を行い、
    前記所定の線数が高いほど、前記所定の空間周波数の範囲の上限が高く設定されることを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
  5. 前記設定手段は、前記変化量が大きくなるにつれて前記平滑化手段における前記平滑化を抑制するように前記相関判定用の閾値を設定することを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
  6. 前記バンドパス画像の画素値にゲイン係数を乗算することで、画素ごとの強調量を導出する導出手段と、
    前記入力画像の画素値に前記強調量を加算することで、先鋭性が強調された強調画像を生成する生成手段と
    を更に有し、
    前記平滑化手段は、前記強調画像に対し前記平滑化を行うことを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
  7. 入力画像に基づき所定の空間周波数の範囲の成分を抽出するフィルタ処理を行うことで、バンドパス画像を生成するフィルタ処理手段と、
    前記バンドパス画像に基づき、着目画素と、該着目画素の周辺画素との間に相関があるか判定する判定手段と、
    前記判定手段が出力する相関判定結果に従い、前記入力画像に基づく平滑化を行う平滑化手段と、
    前記平滑化手段の出力画像に基づき、ドットパターンを生成する中間調処理手段と、
    を有し、
    前記入力画像は、複数の色成分を含み、
    前記色成分ごとの前記平滑化手段は、前記複数の色成分の全てに対し共通に用いられる相関判定結果に従い、前記色成分ごとの前記平滑化を行うことを特徴とする画像処理装置。
  8. 前記複数の色成分のそれぞれの画素値に基づき、画素ごとの輝度を算出することで、輝度画像を生成する生成手段を更に有し、
    前記フィルタ処理手段は、前記輝度画像に対し前記フィルタ処理を行うことで前記バンドパス画像を生成し、
    前記判定手段は、前記生成されたバンドパス画像に基づき導出した前記相関判定結果を、前記共通に用いられる相関判定結果として、前記色成分ごとの平滑化手段に出力することを特徴とする請求項7に記載の画像処理装置。
  9. 前記色成分ごとの前記判定手段は、前記着目画素と前記周辺画素との間の差分絶対値を算出し、該算出した差分絶対値が所定の閾値以下の場合に、該着目画素と該周辺画素との間に前記相関があると判定し、
    前記共通に用いられる相関判定結果は、前記色成分ごとの相関判定結果に基づき導出されることを特徴とする請求項7に記載の画像処理装置。
  10. 前記共通に用いられる相関判定結果は、前記色成分ごとの相関判定結果を用いた多数決により導出されることを特徴とする請求項9に記載の画像処理装置。
  11. 前記共通に用いられる相関判定結果は、前記色成分ごとの相関判定結果の論理和又は論理積であることを特徴とする請求項9に記載の画像処理装置。
  12. 前記共通に用いられる相関判定結果は、前記色成分ごとの前記相関判定結果を加算することで導出され、
    記平滑化手段は、前記共通に用いられる相関判定結果の画素値に応じた程度で前記平滑化を行うことを特徴とする請求項9に記載の画像処理装置。
  13. 入力画像に基づき所定の空間周波数の範囲の成分を抽出するフィルタ処理を行うことで、バンドパス画像を生成する生成ステップと、
    前記バンドパス画像の着目領域における画素値の変化量を導出し、該導出した変化量に応じて、相関判定用の閾値を設定する設定ステップと、
    前記バンドパス画像に基づき、前記閾値を用いて、着目画素と、該着目画素の周辺画素との間に相関があるか判定する判定ステップと、
    前記判定ステップにおける相関判定結果に従い、前記入力画像に基づく平滑化を行う平滑化ステップと、
    前記平滑化ステップにおける出力画像に基づき、ドットパターンを生成する生成ステップと
    を有することを特徴とする画像処理方法。
  14. コンピュータに請求項13に記載の方法を実行させるためのプログラム。
JP2017220903A 2017-11-16 2017-11-16 画像処理装置、画像処理方法、及びプログラム Active JP6976824B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017220903A JP6976824B2 (ja) 2017-11-16 2017-11-16 画像処理装置、画像処理方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017220903A JP6976824B2 (ja) 2017-11-16 2017-11-16 画像処理装置、画像処理方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2019092101A JP2019092101A (ja) 2019-06-13
JP6976824B2 true JP6976824B2 (ja) 2021-12-08

Family

ID=66836722

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017220903A Active JP6976824B2 (ja) 2017-11-16 2017-11-16 画像処理装置、画像処理方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP6976824B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7296040B2 (ja) * 2019-07-18 2023-06-22 京セラドキュメントソリューションズ株式会社 画像処理装置および画像形成装置
JP7031701B2 (ja) * 2020-07-22 2022-03-08 凸版印刷株式会社 モアレ発生予測装置、モアレ発生予測システム及びモアレ発生予測方法
CN112215781B (zh) * 2020-10-29 2022-07-12 杭州金衡和信息科技有限公司 一种改进的局部二值化方法

Also Published As

Publication number Publication date
JP2019092101A (ja) 2019-06-13

Similar Documents

Publication Publication Date Title
KR102318488B1 (ko) 화상 처리장치 및 화상 처리방법
JP4988624B2 (ja) 画像処理装置、画像処理方法及び記録媒体
JP2008227759A (ja) 画像処理装置、画像形成装置、画像処理方法、画像処理プログラムおよびコンピュータ読み取り可能な記録媒体
JP6781406B2 (ja) 画像処理装置、および、コンピュータプログラム
JP4381360B2 (ja) 画像処理方法、画像処理装置、画像形成装置、コンピュータプログラム及び記録媒体
JP5275325B2 (ja) 画像処理装置、画像形成装置、画像処理方法、コンピュータプログラム及び記録媒体
JP2007013551A (ja) 画像処理装置および画像処理方法
JP6976824B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP4402090B2 (ja) 画像形成装置、画像形成方法、プログラムおよび記録媒体
JP6271874B2 (ja) 画像処理装置及び画像処理方法
US10529058B2 (en) Image processing apparatus that smooths image using classification result of pixels included therein
US9147140B2 (en) Image processing apparatus, method, and product for converting image data into fewer gradations based on total value of pixels in a group except for a detected pixel having a specific value
JP4570534B2 (ja) 画像処理装置、画像形成装置、画像処理方法、及びコンピュータプログラム
JP4596964B2 (ja) 画像処理装置、画像形成装置、画像処理方法、コンピュータプログラム及び記録媒体
JP6953183B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2010278933A (ja) 画像処理装置、画像形成装置、画像処理方法、プログラムおよび記録媒体
JP6474315B2 (ja) 画像処理装置、画像形成装置、画像処理方法、画像処理プログラムおよびその記録媒体
JP2002158872A (ja) 画像処理方法、画像処理装置および記録媒体
JP2008306400A (ja) 画像処理方法、画像処理装置、画像形成装置、コンピュータプログラム及び記録媒体
JP4792893B2 (ja) 画像処理装置およびプログラム
JP4771902B2 (ja) 画像処理装置及び画像処理方法
JP4080252B2 (ja) 画像処理装置、画像形成装置、画像処理方法、プログラムおよび記録媒体
JP2004274398A (ja) 画像処理装置、画像形成装置、画像処理方法、画像処理プログラム、記録媒体
JP7250508B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP4549306B2 (ja) 画像処理方法、画像処理装置、画像形成装置、及びコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201027

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210726

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210803

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211004

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211012

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211110

R151 Written notification of patent or utility model registration

Ref document number: 6976824

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151