JP7023688B2 - プログラム、情報処理装置、および情報処理方法 - Google Patents

プログラム、情報処理装置、および情報処理方法 Download PDF

Info

Publication number
JP7023688B2
JP7023688B2 JP2017232932A JP2017232932A JP7023688B2 JP 7023688 B2 JP7023688 B2 JP 7023688B2 JP 2017232932 A JP2017232932 A JP 2017232932A JP 2017232932 A JP2017232932 A JP 2017232932A JP 7023688 B2 JP7023688 B2 JP 7023688B2
Authority
JP
Japan
Prior art keywords
image
displayed
area
image processing
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017232932A
Other languages
English (en)
Other versions
JP2019103007A (ja
Inventor
翔 福岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017232932A priority Critical patent/JP7023688B2/ja
Priority to US16/200,452 priority patent/US11010900B2/en
Publication of JP2019103007A publication Critical patent/JP2019103007A/ja
Application granted granted Critical
Publication of JP7023688B2 publication Critical patent/JP7023688B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T5/73
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K15/00Arrangements for producing a permanent visual presentation of the output data, e.g. computer output printers
    • G06K15/02Arrangements for producing a permanent visual presentation of the output data, e.g. computer output printers using printers
    • G06K15/18Conditioning data for presenting it to the physical printing elements
    • G06K15/1867Post-processing of the composed and rasterized print image
    • G06K15/1872Image enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Description

本発明は、所定の画像に対して画像処理が実行されたときの変化量に関する情報を出力装置に出力させるプログラム、情報処理装置、および情報処理方法に関する。
近年、デジタルカメラやカメラ機能付きのスマートフォン、高精細なディスプレイの普及により、画像に対する画像処理を行うユーザが増加している。そのため、画像における画像処理の効果をユーザが確認するための表示方法が考案されている。
特許文献1には、画像において、画像処理の効果を確認するのに適した領域を判定する方法が記載されている。
特開2017-005626号公報
特許文献1に記載のようにユーザが画像処理の効果を確認する場合に、画像処理の前後の画像を出力装置による出力結果によりユーザが比較したいことがある。この場合、ユーザが画像処理前後の画像をより容易に比較することができる出力レイアウトであることが望ましい。
そこで本発明は、画像処理が実行されている画像と、画像処理が実行されていない画像を、ユーザが比較しやすいように出力させるための技術を提供することを目的とする。
上記の課題を鑑みて本発明のプログラムは、表示装置に画像を表示させる情報処理装置を、所定の画像に対して所定の画像処理を行う画像処理手段と、前記画像処理手段により前記所定の画像に対して前記画像処理が実行されたときの変化量に関する情報に基づき、前記所定の画像における表示対象の領域を決定する決定手段と、前記画像処理手段により前記所定の画像処理が実行されていない前記所定の画像における、前記決定手段により決定された表示対象の領域の第1の画像と、前記画像処理手段により前記所定の画像処理が実行された前記所定の画像における、前記表示対象の領域の第2の画像とを、前記表示装置に表示させる表示制御手段と、として機能させ、前記表示制御手段は、前記決定手段により決定された表示対象の領域の形状に応じた表示レイアウトで前記第1の画像と前記第2の画像が前記表示装置に並んで表示されるように、前記第1の画像と前記第2の画像を表示させ、前記表示制御手段は、前記表示対象の領域の縦横比が縦長のときに、前記第1の画像と前記第2の画像が、前記第1の画像と前記第2の画像における横方向に並んで表示され、前記表示対象の領域の縦横比が横長のときに、前記第1の画像と前記第2の画像が、前記第1の画像と前記第2の画像における縦方向に並んで表示されるように、前記第1の画像と前記第2の画像を表示させることを特徴とする。
本発明によれば、画像処理が実行されている画像と、画像処理が実行されていない画像を、ユーザが比較しやすいように出力させることができる。
本実施形態における情報処理システムの一例を示す図である。 アプリケーションソフトウェアにより表示される画面の例を示す図である。 画像処理による変化を確認するための表示結果の例を示す図である。 差分画像を生成する処理を示すフローチャートである。 画像処理前後の変化量の算出処理を示すフローチャートである。 画像における表示対象の領域を決定する処理を示すフローチャートである。 図6の処理を具体的に説明するための図である。 表示対象の領域のサイズを調整する処理を示すフローチャートである。 画像処理による変化量を示す表示のための表示処理を示すフローチャートである。 測定結果画像の重畳表示の結果を示す図である。 表示対象の領域を表示する表示制御処理を示すフローチャートである。
以下、添付図面を参照して本発明の実施形態について、具体的かつ詳細に説明する。なお、以下の説明では、図面全体を通して、同じ構成要素に対して同じ参照番号を付して言及する。
図1は、本実施形態における情報処理システムの一例を示す図である。本実施形態における情報処理装置としてのホストコンピュータ100が、印刷装置であるプリンタ105と表示装置であるモニタ106に接続されている。ホストコンピュータ100は、ワードプロセッサ、表計算、インターネットブラウザなどのアプリケーションソフトウェア101を有する。アプリケーションソフトウェア101によって発行される出力画像を示す各種描画処理命令群(イメージ描画命令、テキスト描画命令およびグラフィクス描画命令)は、オペレーティングシステム(OS)102を介してモニタドライバ104へ入力される。また、印刷を行う場合、それら描画命令群はOS102を介して、プリンタドライバ103へも入力される。プリンタドライバ103は、それら描画命令群を処理して印刷データを作成してプリンタ105に印刷させるためのソフトウェアである。また、モニタドライバ104は、それら描画命令群を処理してモニタ106に画像を表示させるためのソフトウェアである。
ホストコンピュータ100は、上記のソフトウェアを機能させるために、ハードウェア構成として、CPU108、ハードディスク(HD)107、RAM109、ROM110を備える。図1の101~104で示した各ソフトウェアに対応するプログラムがハードディスク107またはROM110に記憶されている。そして、CPU108がそれらのプログラムをRAM109に読み出し、実行することで、101~104で示した各ソフトウェアの機能を実現することができる。
またホストコンピュータ100には、不図示の操作部が含まれる、もしくは外部の操作デバイスが接続される。CPU108は、これらの操作部や操作デバイスに対するユーザの指示を入力し、その指示に応じて各種の処理を行う。操作部や操作デバイスは、例えばマウス、キーボード等が含まれる。或いは、操作部や操作デバイスとモニタ106が一体となったタッチパネルでもよい。
上記の構成により、例えば印刷機能を有する任意のアプリケーションソフトウェアがホストコンピュータ100にインストールされ、CPU108による処理により、モニタ106およびプリンタ105が制御される。また、アプリケーションソフトウェア101により、各種のデータを用いて、出力画像データが作成される。この「各種のデータ」には、文字などのテキストに分類されるテキストデータ、図形などのグラフィクスに分類されるグラフィクスデータ、写真画像などに分類される画像データなどが含まれる。そして、CPU108は作成した出力画像データをモニタ106に出力し、この出力画像データをモニタ106に表示させることができる。またアプリケーションソフトウェア101により、OS102に印刷出力要求が行われる。そして、テキストデータ部はテキスト描画命令、グラフィクスデータ部分はグラフィクス描画命令、画像データ部分はイメージ描画命令で構成される描画命令群が、OS102に発行される。この描画命令群に従ってOS102により描画されたデータに基づいてプリンタドライバ103により印刷データが作成され、その印刷データがプリンタ105に送信されることで、印刷が実行される。
図2は、アプリケーションソフトウェア101により表示される画面の例を示す図である。図2に示す画面は、CPU108がアプリケーションソフトウェア101とモニタドライバ104を実行することにより、モニタ106に表示される。
図2(a)は、画像の編集を指示するための画面の一例を示す図である。図2(a)に示す画面には、201~210の各種の表示項目が含まれる。メニュー操作部201は、アプリケーションソフトウェア101の終了、ページへの画像追加、ヘルプの表示などをユーザが指示することが可能な表示項目である。プレビュー領域202は、編集対象となる画像および、画像処理による画素値の変化量が表示される表示領域である。図2(b)は、プレビュー領域202に画像211が表示されている状態の一例を示す図である。
プリンタ選択プルダウン204、用紙サイズ選択プルダウン205、用紙種選択プルダウン206はそれぞれ、印刷に使用するプリンタ、用紙のサイズ、用紙の種類をユーザが選択するための表示項目である。これらの表示項目において、設定可能な選択候補が表示され、ユーザはその選択候補から設定値の選択を行う。
画像処理適用チェックボックス207は、編集対象の画像に対して画像処理を適用するか否かをユーザが指定するための表示項目である。なお、本実施形態における画像処理として、プリンタによる画質の変化の補正を行うための画像処理を例に説明する。プリンタによる印刷特性により、元画像の明るさ、色、シャープネス等が変化してしまうことがある。上記の画像処理では、その変化の特性に応じて、元画像について明るさ、色、シャープネス等に関する画像処理を予め行うことで、プリンタによる印刷特性を相殺することができる。例えば、プリンタにより印刷により画像の明るさが暗くなってしまう場合、その暗くなる程度に応じて、元画像が明るくなるよう画像処理を行う。この状態で印刷が行われることで、本来の明るさを表現することができる。なお、画像処理の種類や強さは、印刷を実施するプリンタの特性や印刷設定に応じて適宜変更される。
分割数入力領域208は、画像において、画像処理の変化量が測定される領域の数を指定するための表示項目である。本実施形態では、分割数入力領域208で指定された数の領域それぞれにおける、画像処理により変化量が測定され、その測定結果に応じて、後述する表示が行われる。なお、分割数入力領域208では、画像の幅方向における分割数と高さ方向における分割数として、それぞれ任意の数値の入力を受け付ける。
確認ボタン209は、画像における画像処理による変化量を確認するための表示を、ユーザが指示するためのボタンである。確認ボタン209が押下されると、CPU108は、分割数入力領域208の設定内容に従い、画像に含まれる画素値の変化量を測定する。そしてCPU108は、測定された変化量に従って、該画像処理が実行されていない画像211の一部の部分画像と、該画像処理が実行されている画像211の同一部分の部分画像とを、プレビュー領域202に表示する。具体的には、CPU108は、分割数入力領域208における設定により分割された、画像211の複数の領域のそれぞれについて、画像処理による画素値の変化量を測定する。そして、CPU108は、該複数の領域のうちの、測定された変化量が大きく、画像処理による影響を把握しやすい領域を自動的に特定し、特定された領域について、画像処理前後の部分画像を表示する。さらに、CPU108は、上記のように自動的に特定された、画像処理による影響を把握しやすい領域の形状に応じて、部分画像の表示レイアウトを、ユーザが部分画像の比較を行いやすいように自動的に決定する。CPU108によるこれらの処理の詳細については後述する。
印刷ボタン210は、画像の印刷を指示するためのボタンである。例えばプレビュー領域202に画像が表示されているときに印刷ボタン210が押下されると、CPU108は、プリンタドライバ103を実行することで、プリンタ105に該画像を印刷させる。この印刷においてCPU108は、印刷ボタン210が押されたときに画像処理適用チェックボックス207によって設定されている内容に従って、画像に対する画像処理を印刷に適用するか判断する。そして、その判断結果に応じて、画像処理が実行された画像、もしくは画像処理が実行されていない画像がプリンタ105に送信される。具体的には、CPU108は、印刷ボタン210が押されたときにプリンタ選択プルダウン204で選択されているプリンタに対して、用紙サイズ選択プルダウン205、用紙種選択プルダウン206によって設定されている印刷設定とともに印刷指示を行う。
また、本実施形態では、画像処理適用チェックボックス207にチェックがない際には分割数入力領域208および確認ボタン209が操作されないように制御される。ただし、実施形態によってはそのような制御が行われなくてもよい。
以下、画像処理適用チェックボックス207にチェックがある状態でかつ、分割数入力領域208に入力がある場合に確認ボタン209が押下された際の処理について説明する。本実施形態では確認ボタン209が押下されると、CPU108は、プレビュー領域202に表示されている画像211に対して、所定の画像処理を実行し、画像処理後の画像をRAM109に保持する。そしてCPU108は、画像処理前の画像における画素値と画像処理後の画像における画素値との差分を示す差分画像を生成する。図4は、差分画像を生成する処理を示すフローチャートである。なお、図4、及び後述する図5、図6、図8、図9に示すフローチャートに対応するプログラムがアプリケーションソフトウェア101に含まれている。CPU108は、そのプログラムをRAM109上で実行することで、図5、図6、図8、図9、図11に示す各処理を実現する。
S401でCPU108は、確認ボタン209の押下に応じて、図4に示す処理を開始する。またS401においてCPU108は、画像211に対して所定の画像処理を実行し、画像処理後の画像を、画像処理前の画像とともに、RAM109に保持する。
S402でCPU108は、RAM109において、画像211の画素数と同じ画素数の画像を記憶できる容量のメモリを確保し、差分画像のメモリ領域として割り当てる。本実施形態では、差分画像と画像211とにおいて、画素値として設定可能な値の範囲が同じであるため、S402では、画像211のメモリ領域と同容量のメモリ領域が確保される。
S403においてCPU108は、差分画像における処理対象の画素の高さ方向の位置を示すインデックスとして、初めに画像211における最上のピクセルを割り当てる。例えば、アプリケーションソフトウェア101において、画像211および差分画像における2次元の座標系として、画像の左上を原点とするXY座標系が定義されている。S403では、差分画像における処理対象の画素の座標として、初めにY=0が設定される。またこのインデックスは、RAM109において、画像処理前後の画像における画素の画素値が格納されている領域、差分画像における画素の画素値が格納される領域に対応している。
S404でCPU108は、S403と同様の処理により、差分画像における処理対象の画素の幅方向の位置を示すインデックスとして、初めに画像211における最も左のピクセルを割り当てる。上記のXY座標系においては、差分画像における処理対象の画素の座標として、初めにX=0が設定される。
S405においてCPU108は、S403、S404において設定されているインデックスの値に従って、画像処理前の画像における処理対象の画素の画素値、画像処理前の画像における処理対象の画素の画素値をそれぞれ取得する。ここでは、画像の画素値としてRGBそれぞれの値が取得されるものとする。S406においてCPU108は、S405において取得されたRGB値それぞれについて、画素間の差分を計算する。S407においてCPU108は、S406において計算された差分の絶対値を、RAM109に記憶する。具体的には、CPU108は、S402において確保されたメモリ領域において、S403、S404において設定されているインデックスに対応する領域に、差分の絶対値を保持する。
S408、S409でCPU108は、画像211および差分画像における幅方向、高さ方向における位置を更新する。具体的には、上記のXY座標系におけるX、Yの値がS408、S409においてインクリメントされる。S404、S408の処理により、画像211、差分画像における幅方向の全画素についてS405~S407の処理が実行される。またS403、S409の処理により、画像211、差分画像における高さ方向の全画素についてS404~S408の処理が実行される。これにより、画像211の全画素について画像処理前後の差分値が算出され、差分画像が生成される。
図5は、画像処理前後の変化量の算出処理を示すフローチャートである。S501においてCPU108は、図4に示した処理により差分画像が生成されたことに応じて、図5に示す処理を開始する。S502においてCPU108は、分割数入力領域208における設定に応じて、差分画像を分割したときの各領域の画像(ここでは分割画像と呼ぶ)のサイズを決定する。具体的には、CPU108は、差分画像の幅(X方向の画素数)を分割数入力領域208に設定されている幅方向の数値で除算する。同様に、差分画像の高さ(Y方向の画素数)を分割数入力領域208に設定されている高さ方向の数値で除算する。そしてCPU108は、幅方向、高さ方向についての除算で求められた、幅方向、高さ方向の画素数を、分割画像のサイズとして決定する。
S503において、CPU108は、分割画像のための分割画像インデックスを付ける。具体的には、CPU108は、差分画像が記憶されているRAM109内のメモリ領域において、各分割画像に対応するメモリ領域を参照するためのインデックスを定義する。そのためS503では、差分画像に含まれる画素のそれぞれに対し、分割画像インデックスとして、該画素を含む分割画像に対応する情報が割り当てられる。例えば、分割数入力領域208に分割数として2×2が設定されている場合、各画素に対し、分割画像インデックスとして4種類の情報のいずれかが付与される。
S504においてCPU108は、特定の分割画像内の全ピクセルの画素値を加算する。具体的には、特定の分割画像インデックスが付与された画素の画素値を取得し、その画素値を加算する。分割画像は差分画像の一部であるため、S504の処理により、画像211の一部領域における画像処理の前後での変化量が算出される。S505においてCPU108は、S504において算出された値を分割画像インデックスに紐付けてRAM109に記憶する。S506においてCPU108は、全ての分割画像に対してS504、S505における処理が終了したか否かを判断する。該処理が全ての分割画像に対して終了していない場合、CPU108は、分割画像インデックスを未処理の分割画像に対応するものに更新して、S504、S505の処理を実行する。全ての分割画像に対してS504、S505の処理が終了すると、処理がS507に進む。
S507においてCPU108は、各分割画像に対して、画像処理の変化量に対応するデータを割り当てる。具体的には、CPU108は、「各分割画像における差分の加算値/(分割画像のピクセル数×255)」を算出する。この算出された情報は0~1の値となり、画像処理による変化量が大きいほど、大きな値となる。CPU108は、この値を、変化量に対応するデータとして各分割画像の分割画像インデックスに紐付けて記憶する。
次に、画像処理による変化をユーザが確認するための表示について説明する。CPU108は、S507において各分割画像に対して割り当てられた、変化量に対応するデータに基づき、画像211のうちの表示対象(出力対象)の部分を決定する。さらにCPU108は、当該決定された表示対象(出力対象)の部分の表示レイアウト(出力レイアウト)を決定する。具体的には、CPU108は、画像211のうちの表示対象の同一部分について、画像処理前の部分画像、画像処理後の部分画像をモニタ106に並べて表示する。このとき、各部分画像のうちのユーザが比較を行う領域が、モニタ106における垂直方向または水平方向において連続するように、表示レイアウトが決定される。
図3は、画像処理による変化を確認するための表示結果の例を示す図である。図3(a)は、後述する図6の処理により、画像211についての解析が行われた結果、画像211の右側半分の領域の変化量が大きいと判定された場合の表示例である。そのため図3(a)では、画像処理後の部分画像301と、画像処理前の部分画像302がそれぞれ、画像処理前後の画像211からトリミングされ、プレビュー領域202に表示される。また部分画像301、302が縦長の画像であるため、プレビュー領域202では、部分画像301、302に対して縦長の表示領域が設定され、表示レイアウトとして横方向に並んだレイアウトが決定される。図3(a)に示すように、プレビュー領域において同一の被写体部分(人物の目等)に相当する画像領域が、横方向に並んで表示される。そのため、ユーザは画像処理前後の画像の変化を容易に確認することができる。
また図3(b)は、後述する図6の処理により、画像211についての解析が行われた結果、画像211の上側半分の領域の変化量が大きいと判定された場合の表示例である。そのため図3(b)では、画像処理後の部分画像303と、画像処理前の部分画像304がそれぞれ、画像処理前後の画像211からトリミングされ、プレビュー領域202に表示される。部分画像303、304が横長の画像であるため、プレビュー領域202では、部分画像303、304に対して横長の表示領域が設定され、表示レイアウトとして縦方向に並んだレイアウトが決定される。図3(b)では、同一の被写体部分(人物の目等)に相当する画像領域が縦方向に並んで表示されるため、ユーザは画像処理前後の画像の変化を容易に確認することができる。
なお、プレビュー領域202における表示内容の出力方法は表示に限らず、他の出力方法として印刷が行われてもよい。例えば、図3(a)、(b)に示されている状態において印刷ボタン210が押下されたときに、プレビュー領域202における表示内容が、モニタ106とは異なる出力装置としてのプリンタ105により印刷されるよう、出力制御が行われてもよい。即ち、部分画像301と302、もしくは部分画像303と304が、表示のみならず、プリンタ105により印刷され、その印刷結果がユーザにより確認されてもよい。この場合、部分画像301と302、もしくは部分画像303と304が、プレビュー領域202におけるレイアウトに対応するレイアウトで印刷用紙に配置されるよう、印刷が行われる。特に、画像処理の内容がプリンタ105による印刷特性に応じた画像処理である場合、上記印刷結果をユーザが確認することで、画像処理を施すのが適切か否かをユーザがより容易に判断することができる。
また、プレビュー領域202の表示内容の印刷を指示するためのボタンが、印刷ボタン210とは別に画面上に設けられてもよい。この場合、印刷ボタン210が押下されると、CPU108は、図2(b)に示した画像211をプリンタ105に印刷させる。具体的には、CPU108は、印刷ボタン210が押されたときに画像処理適用チェックボックス207によって設定されている内容に従って、画像211に対する画像処理を印刷に適用するか判断する。そして、その判断結果に応じて、画像処理が実行された画像211、もしくは画像処理が実行されていない画像211がプリンタ105に送信され、印刷される。
以下、図6を用いて、画像211のうちの、図3に示した表示において表示される表示対象の領域を決定する処理について説明する。
図6は、画像における表示対象の領域を決定する処理を示すフローチャートである。具体的には、CPU108は、S507により得られた、変化量に対応するデータから、画像211における表示対象の部分を決定する。なお、ここでは描画先の領域が、画像211と同じ面積であるプレビュー領域202である場合について説明する。しかしこれに限らず、アプリケーションのウィンドウや、アプリケーションから印刷される印刷対象の領域において部分画像が描画されるときに、図6に示す処理が用いられてもよい。
S600においてCPU108は、図5に示した処理が完了したことに応じて、図6に示す処理を開始する。S601においてCPU108は、図5のS507において各分割画像に対して設定された、画像処理による変化量に対応するデータについての、閾値を設定する。閾値として、任意の値が任意の方法で定められる。また以降の説明では、S507において分割画像に対して設定される値を「差分値」とも呼び、差分値が大きいほど、画像処理前後の変化量が大きく、つまり画像処理による影響が大きいことを示すものとする。S602でCPU108はさらに、複数の部分画像のうちの差分値が最大の部分画像を、表示領域の決定において基準とする部分画像(基準画像とも呼ぶ)として設定する。なお、「差分値が最大の分割画像」の代わりに、「差分値が最小の部分画像」や「ユーザが選択した分割画像」を基準画像にするなど、基準となる分割画像は適宜設定することができる。
S602においてCPU108は、複数の部分画像のうちの、S602において設定された閾値よりも大きい差分値を持つ分割画像を特定する。S603においてCPU108は、S602において特定された、閾値よりも大きい差分値を持つ分割画像(特定画像とも呼ぶ)が基準画像に隣接しているか否かを判断する。
S603において、特定画像が基準画像に隣接していないと判定されると、S614においてCPU108は、基準画像のみを表示対象の領域として設定する。一方、S603において特定画像が基準画像に隣接していると判定されると、処理はS604に進む。S604においてCPU108は、特定画像が基準画像から縦方向のみに連続しているか否かを判定する。特定画像が基準画像から縦方向のみに連続している場合、S605においてCPU108は、基準画像および基準画像から縦方向に連続している特定画像の合計の高さが描画先の領域の高さの半分以下であるかを判断する。合計の高さが描画先の領域の高さの半分以下である場合、S606においてCPU108は、基準画像を含む横方向の領域を表示対象として決定する。例えば、画像211において、基準画像および基準画像から縦方向に連続している部分画像を含み、且つ画像211の高さの半分の高さであり、且つ画像211の横方向の幅を持つ領域が、表示対象として決定される。
一方、S604において特定画像が基準画像から縦方向のみに連続していると判定されなかった場合、S607においてCPU108は、特定画像が基準画像から横方向のみに連続しているか判定する。特定画像が基準画像から横方向のみに連続している場合、S608においてCPU108は、基準画像および基準画像から横方向に連続している特定画像の合計の幅が描画先の領域の幅の半分以下であるかを判断する。合計の幅が描画先の領域の幅の半分以下である場合、S609においてCPU108は、基準画像を含む縦方向の領域を表示対象として決定する。例えば、画像211において、基準画像および基準画像から横方向に連続している部分画像を含み、且つ画像211の幅の半分の幅であり、且つ画像211の縦方向の高さを持つ領域が、表示対象として決定される。
S607においてCPU108は、特定画像が基準画像から横方向のみに連続していると判定されなかった場合(即ち基準画像から縦方向、横方向の両方に特定画像が連続している場合)、S610に処理が進む。S610においてCPU108は、基準画像および基準画像に連続する特定画像の合計の面積が、描画先の領域の面積の半分以下であるか判断する。合計の面積が描画先の領域の面積の半分以下であった場合、S612においてCPU108は、基準画像および基準画像に連続する特定画像を含む表示対象の領域を決定する。またS612においてCPU108は、描画先の領域の面積の半分の面積の領域を決定する。
基準画像および基準画像に連続する特定画像の合計の面積が、描画先の領域の面積の半分以下でない場合、S611に処理が進む。S611においてCPU108は、基準画像に連続する特定画像の一部を表示対象から除外することで、描画先の領域の面積の半分の面積の表示対象の領域を決定する。除外対象の部分画像は、例えば基準画像からより遠い位置に配置されている部分画像である。またS611において決定される表示対象の領域は、縦向きの領域と横向きの領域のどちらでも良い。例えば、表示対象から除外される特定画像がより少ない向きの領域が決定される。
図7は、図6の処理を具体的に説明するための図である。図7における分割画像702、703、704、705の左上に記載された数値は、それぞれの領域における差分値を示している。図7の例では、画像211および描画先の領域の高さとしてY=300、幅をX=200とし、分割数入力領域208において幅方向に2、高さ方向に2が設定され、またS601において任意の閾値が5に設定されているものとする。
図7の例では、S601において、差分値が最大(10)である左上の分割画像702が基準画像として設定される。そしてS602において、差分値が閾値(5)より大きな特定画像として、分割画像703のみが特定される。そのため、S603でYes、S604でNo、S607でYesと判定され、S608の処理が実行される。分割画像702、703の幅の合計が200であり、描画先の領域の幅が200であるため、S608ではNoと判断され、S606に処理が進む。そして、S606において、分割画像702と分割画像703を含む、画像211の上半分の横向きの領域が表示対象として決定される。即ち、図3(b)に示す表示対象の領域が決定される。また、仮に図7の部分画像703、704において差分値が逆であった場合、S609において、部分画像702と部分画像703を含む、画像211の左半分の縦向きの領域が表示対象として決定される。即ち、図3(a)に示す表示対象の領域が決定される。
以上の図6に示した処理によれば、画像処理による差分の大きい部分画像、言い換えれば画像処理による影響が大きく、画像処理の効果を認識しやすい部分画像を含む、最大の表示対象の領域が決定される。
図11は、図6において決定された表示対象の領域を表示する表示制御処理を示すフローチャートである。
S1101においてCPU108は、図6に示した処理により表示対象の領域が決定されると、図11に示す処理を開始する。S1102においてCPU108は、表示対象の領域が縦長の領域であるか判定される。図6のS609における処理が実行された場合、もしくはS611、S612、S614において決定された表示対象の領域が縦長の場合、図11でYesと判定される。S1103においてCPU108は、画像処理が実行されている画像211における、図6に示した処理により決定された表示対象の領域を、プレビュー領域202における左半分に表示する。また、S1104においてCPU108は、画像処理が実行されていない画像211における、図6に示した処理により決定された表示対象の領域を、プレビュー領域202における右半分に表示する。S1103、S1104の処理により、図3(a)に示した表示結果となる。
一方、S1102においてNoと判定されると、S1105に処理が進む。図6のS606における処理が実行された場合、もしくはS611、S612、S614において決定された表示対象の領域が横長もしくは縦横で同じ長さの場合、図11でNoと判定される。S1105においてCPU108は、画像処理が実行されている画像211における、図6に示した処理により決定された表示対象の領域を、プレビュー領域202における下半分に表示する。また、S1106においてCPU108は、画像処理が実行されていない画像211における、図6に示した処理により決定された表示対象の領域を、プレビュー領域202における上半分に表示する。S1105、S1106の処理により、図3(b)に示した表示結果となる。
なお、S1103~S1106では、表示対象の領域とプレビュー領域202の半分で縦横比が異なる場合、表示対象の領域がプレビュー領域の半分に収まるように、表示される画像が適宜縮小される。
以上の図6、図11に示した処理により、画像において画像処理による変化を把握しやすい表示対象の領域が決定される。さらに、図3に示したように、画像処理前後の表示対象の領域が、その縦横比(縦長もしくは横長)に応じた方向に沿って表示画面上で並ぶように、レイアウトされる。そのため、本実施形態で示した表示を見たユーザは、画像処理前後の画像を容易に比較することができ、画像処理の効果を容易に把握することができる。
また、図6に示した処理により決定された表示対象の領域のサイズが、プレビュー領域202に対して小さすぎる場合がある。そこで次に、表示対象の領域のサイズを調整する処理について説明する。
図8は、表示対象の領域のサイズを調整する処理を示すフローチャートである。S801においてCPU108は、図6に示したフローチャートにおける処理が実行されると、図8に示す処理を開始する。S802においてCPU108は、描画先の領域に描画される表示対象の領域としての最低サイズを決定する。最低サイズは任意のサイズであり、例えば「描画先の領域の大きさの半分」のように可変値や、固定の値を採用することができる。
S803においてCPU108は、図6に示した処理により決定された表示対象の領域のサイズを算出する。S804において、S803において算出されたサイズがS802において決定された最低サイズ以上であるか判断する。S803において算出されたサイズが最低サイズ以上である場合、プレビュー表示において、現在の表示対象の領域のサイズで十分視認性が確保される可能性が高いため、図8に示す処理を終了する。一方、S803において算出されたサイズが最低サイズ未満である場合、S805においてCPU108は、表示対象の領域のサイズがS802において決定した最低サイズ以上となるように、表示対象の領域を拡張する。即ち、図6において表示対象の領域から除外された領域についても、表示対象として含める。また、図6において決定された表示対象の領域は、S805における拡張後の領域に含まれる。なお、図8の処理が終了した後に、図11における表示制御が実行される。
画像処理の効果を確認する対象の画像が1枚である例について説明した。しかしこれに限らず、複数の画像について、画像処理の効果を示すように表示が行われてもよい。
さらに、図3の表示において、表示対象の領域が表示されるときに、複数の部分画像の間における画像処理の変化量の大小関係を示す測定結果画像が重畳表示されてもよい。
図9は、画像処理による変化量を示す表示のための表示処理を示すフローチャートである。図6に示した処理により表示対象の領域が決定されると、S901においてCPU108は、図9に示す処理を開始する。なお、図9でCPU108は、上記の差分値を基に、画像処理による変化量を示し且つ画像211における表示対象の領域に重畳表示される測定結果画像を作成する。以下、詳細に説明する。
S902でCPU108は、RAM109において、表示対象の領域の画素数と同じ画素数の画像を記憶できる容量のメモリを確保し、測定結果画像のメモリ領域として割り当てる。本実施形態では、表示対象の領域のメモリ領域と同容量のメモリ領域が確保される。
S903、S904においてCPU108は、測定結果画像において画素値が算出される注目画素を示すインデックスを設定する。S903においてCPU108は、測定結果画像のピクセルの高さ方向(Y方向)のインデックスに、測定結果画像の先頭ピクセル(上端の画素)から終端ピクセル(下端の画素)までY値をインクリメントさせて設定する。S904においてCPU108は、測定結果画像のピクセルの高さ方向(X方向)のインデックスに、測定結果画像の先頭ピクセル(左端の画素)から終端ピクセル(右端の画素)までY値をインクリメントさせて設定する。後述するS908、S909における処理により、S905からS907の処理が、各分割画像の全画素に対して実行され、測定結果画像の全ピクセルについてRGB値が設定される。
S905でCPU108は、S903、S904において設定されたインデックスにより、注目画素に対応する分割画像インデックスを判定する。図5に示したように、画像211における各画素について分割画像インデックスが割り当てられている。そのため、例えばS905においてCPU108は、測定結果画像に含まれる注目画素のX座標、Y座標に位置する、画像211に含まれる画素を特定する。そして、特定された画像に対して割り当てられた分割画像インデックスが判定される。S906においてCPU108は、図5のS505で記憶された加算値を参照することで、S905で判定された分割画像インデックスに紐付けて記憶されている差分値を取得する。
S907においてCPU108は、S906において取得された差分値に基づいて、測定結果画像に含まれる当該注目画素のRGB値を決定する。そして、CPU108は、S902において確保されたメモリ領域における、当該注目画素に対応する領域にRGB値を保持する。なお、S907におけるRGB値の決定方法は種々の方法を用いることができる。例えば、差分値が大きいほど、濃度が高い色となるように決定される。この時、RGB値への設定として、R=G=Bとなるように、即ちグレースケールで表現されるように設定されてもよい。またはRのみが設定されてもよいし、RGBそれぞれに重みが設定され、その重みに基づいた値が設定されても構わない。
S908、S909のそれぞれにおいてCPU108は、測定結果画像における注目画素のX値、Y値をインクリメントし、新たな注目画素を設定する。S903、S904、S908、S909のループにより、測定結果画像における全画素が注目画素となり、S905~S907の処理が実行される。そのため、S902~S909の処理が完了したとき、測定結果画像の全画素に対するRGB値が保持され、即ち測定結果画像が生成される。
S910においてCPU108は、S902~S909に示す処理によって生成された測定結果画像を、画像処理前の画像211における表示対象の領域、画像処理後の画像211における表示対象の領域に重畳表示するための表示制御を行う。具体的には、CPU108は、測定結果画像を、透過画像として画像211の表示対象の領域に合成する。そして、モニタドライバ104を制御することで、この合成により得られた画像をモニタ106に表示する。透過画像としての合成は周知の処理を用いればよいため詳細な説明を省略するが、この合成により測定結果画像が半透明の画像として画像211の表示対象の領域に重畳表示される。
図10は、測定結果画像の重畳表示の結果を示す図である。図10の表示では、表示対象の領域において、画像処理による変化量が大きかった部分画像と、変化量が小さかった部分画像に対して異なる色の画像が重畳表示される。そのため、図10の表示を見たユーザは、表示対象の領域内の分割画像間における、画像処理による変化量の大小関係を認識することができる。
なお、本実施形態の機能は以下の構成によっても実現することができる。つまり、本実施形態の処理を行うためのプログラムコードをシステムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)がプログラムコードを実行することによっても達成される。この場合、記憶媒体から読み出されたプログラムコード自体が上述した実施形態の機能を実現することとなり、またそのプログラムコードを記憶した記憶媒体も本実施形態の機能を実現することになる。
また、本実施形態の機能を実現するためのプログラムコードを、1つのコンピュータ(CPU、MPU)で実行する場合であってもよいし、複数のコンピュータが協働することによって実行する場合であってもよい。さらに、プログラムコードをコンピュータが実行する場合であってもよいし、プログラムコードの機能を実現するための回路等のハードウェアを設けてもよい。またはプログラムコードの一部をハードウェアで実現し、残りの部分をコンピュータが実行する場合であってもよい。
108 CPU
109 RAM
110 ROM

Claims (11)

  1. 表示装置に画像を表示させる情報処理装置を、
    所定の画像に対して所定の画像処理を行う画像処理手段と、
    前記画像処理手段により前記所定の画像に対して前記画像処理が実行されたときの変化量に関する情報に基づき、前記所定の画像における表示対象の領域を決定する決定手段と、
    前記画像処理手段により前記所定の画像処理が実行されていない前記所定の画像における、前記決定手段により決定された表示対象の領域の第1の画像と、前記画像処理手段により前記所定の画像処理が実行された前記所定の画像における、前記表示対象の領域の第2の画像とを、前記表示装置に表示させる表示制御手段と、
    として機能させ、
    前記表示制御手段は、前記決定手段により決定された表示対象の領域の形状に応じた表示レイアウトで前記第1の画像と前記第2の画像が前記表示装置に並んで表示されるように、前記第1の画像と前記第2の画像を表示させ
    前記表示制御手段は、前記表示対象の領域の縦横比が縦長のときに、前記第1の画像と前記第2の画像が、前記第1の画像と前記第2の画像における横方向に並んで表示され、前記表示対象の領域の縦横比が横長のときに、前記第1の画像と前記第2の画像が、前記第1の画像と前記第2の画像における縦方向に並んで表示されるように、前記第1の画像と前記第2の画像を表示させることを特徴とするプログラム。
  2. 前記決定手段は、前記所定の画像が分割された複数の分割画像のそれぞれにおける、前記所定の画像処理による変化量を取得し、取得された変化量に基づき、前記複数の分割画像のうちの最大の変化量に対応する、基準画像としての分割画像が前記表示対象の領域に含まれるように、前記表示対象の領域を決定することを特徴とする請求項1に記載のプログラム。
  3. 前記決定手段は、前記複数の分割画像のうちの前記基準画像と、前記複数の領域のうちの前記変化量が所定の閾値より大きく且つ前記基準画像に隣接する分割画像が前記表示対象の領域に含まれるように、前記表示対象の領域を決定することを特徴とする請求項2に記載のプログラム。
  4. 前記表示制御手段は、前記決定手段により決定された表示対象の領域が所定の大きさよりも小さい場合、前記所定の画像において当該表示対象の領域を含み且つ当該表示対象の領域より大きな領域に対応する前記第1の画像と前記第2の画像を表示させることを特徴とする請求項1乃至3のいずれか1項に記載のプログラム。
  5. 前記画像処理手段は、前記所定の画像処理として、前記表示装置とは異なる出力装置が画像を出力するときの特性に応じた画像処理を実行することを特徴とする請求項1乃至4のいずれか1項に記載のプログラム。
  6. 前記画像処理手段は、前記出力装置としての印刷装置が画像を印刷するときの印刷特性に応じた画像処理を実行することを特徴とする請求項5に記載のプログラム。
  7. 前記表示制御手段は、前記第1の画像または前記第2の画像において、第1の領域における第1の変化量と第2の領域における第2の変化量の関係を示すように、前記第1の画像と前記第2の画像を前記表示装置に表示させることを特徴とする請求項1乃至6のいずれか1項に記載のプログラム。
  8. 前記表示制御手段は、前記第1の変化量に基づく第1の画素値を有する画素が前記第1の領域に対応する位置に配置され且つ前記第2の変化量に基づく第2の画素値を有する画素が前記第2の領域に対応する位置に配置された測定結果画像を表示させることを特徴とする請求項7に記載のプログラム。
  9. 前記表示制御手段は、前記測定結果画像が前記第1の画像または前記第2の画像に重なるように、前記測定結果画像を表示させることを特徴とする請求項8に記載のプログラム。
  10. 表示装置に画像を表示させる情報処理装置であって、
    所定の画像に対して所定の画像処理を行う画像処理手段と、
    前記画像処理手段により前記所定の画像に対して前記画像処理が実行されたときの変化量に関する情報に基づき、前記所定の画像における表示対象の領域を決定する決定手段と、
    前記画像処理手段により前記所定の画像処理が実行されていない前記所定の画像における、前記決定手段により決定された表示対象の領域の第1の画像と、前記画像処理手段により前記所定の画像処理が実行された前記所定の画像における、前記表示対象の領域の第2の画像とを、前記表示装置に表示させる表示制御手段と、
    を有し、
    前記表示制御手段は、前記決定手段により決定された表示対象の領域の形状に応じた表示レイアウトで前記第1の画像と前記第2の画像が前記表示装置に並んで表示されるように、前記第1の画像と前記第2の画像を表示させ
    前記表示制御手段は、前記表示対象の領域の縦横比が縦長のときに、前記第1の画像と前記第2の画像が、前記第1の画像と前記第2の画像における横方向に並んで表示され、前記表示対象の領域の縦横比が横長のときに、前記第1の画像と前記第2の画像が、前記第1の画像と前記第2の画像における縦方向に並んで表示されるように、前記第1の画像と前記第2の画像を表示させることを特徴とする画像処理装置。
  11. 表示装置に画像を表示させる情報処理方法であって、
    所定の画像に対して所定の画像処理を行う画像処理工程と、
    前記画像処理工程において前記所定の画像に対して前記画像処理が実行されたときの変化量に関する情報に基づき、前記所定の画像における表示対象の領域を決定する決定工程と、
    前記画像処理工程において前記所定の画像処理が実行されていない前記所定の画像における、前記決定工程において決定された表示対象の領域の第1の画像と、前記画像処理工程において前記所定の画像処理が実行された前記所定の画像における、前記表示対象の領域の第2の画像とを、前記表示装置に表示させる表示制御工程と、
    を有し、
    前記表示制御工程では、前記決定工程において決定された表示対象の領域の形状に応じた表示レイアウトで前記第1の画像と前記第2の画像が前記表示装置に並んで表示されるように、前記第1の画像と前記第2の画像を表示させ
    前記表示制御工程では、前記表示対象の領域の縦横比が縦長のときに、前記第1の画像と前記第2の画像が、前記第1の画像と前記第2の画像における横方向に並んで表示され、前記表示対象の領域の縦横比が横長のときに、前記第1の画像と前記第2の画像が、前記第1の画像と前記第2の画像における縦方向に並んで表示されるように、前記第1の画像と前記第2の画像を表示させることを特徴とする画像処理方法。
JP2017232932A 2017-12-04 2017-12-04 プログラム、情報処理装置、および情報処理方法 Active JP7023688B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017232932A JP7023688B2 (ja) 2017-12-04 2017-12-04 プログラム、情報処理装置、および情報処理方法
US16/200,452 US11010900B2 (en) 2017-12-04 2018-11-26 Information processing method, information processing apparatus, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017232932A JP7023688B2 (ja) 2017-12-04 2017-12-04 プログラム、情報処理装置、および情報処理方法

Publications (2)

Publication Number Publication Date
JP2019103007A JP2019103007A (ja) 2019-06-24
JP7023688B2 true JP7023688B2 (ja) 2022-02-22

Family

ID=66659330

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017232932A Active JP7023688B2 (ja) 2017-12-04 2017-12-04 プログラム、情報処理装置、および情報処理方法

Country Status (2)

Country Link
US (1) US11010900B2 (ja)
JP (1) JP7023688B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020038444A (ja) * 2018-09-03 2020-03-12 キヤノン株式会社 情報処理装置、制御方法及びプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005122601A (ja) 2003-10-20 2005-05-12 Seiko Epson Corp 画像処理装置、画像処理方法、および画像処理プログラム
JP2005275977A (ja) 2004-03-25 2005-10-06 Fuji Photo Film Co Ltd 画像表示方法、画像表示装置及び画像表示プログラム
JP2010137467A (ja) 2008-12-12 2010-06-24 Konica Minolta Business Technologies Inc 画像形成装置及び印刷支援方法並びに印刷支援プログラム
JP2010148072A (ja) 2008-12-22 2010-07-01 Canon Inc 画像処理装置、画像処理方法、及び、画像処理プログラム
JP2012142890A (ja) 2011-01-06 2012-07-26 Ricoh Co Ltd 画像処理装置、画像処理プログラム及び画像処理方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2856742B2 (ja) * 1988-10-31 1999-02-10 株式会社東芝 画像処理装置
JP4916237B2 (ja) * 2005-09-16 2012-04-11 株式会社リコー 画像表示装置、画像表示方法、その方法をコンピュータに実行させるプログラム、および画像表示システム
JP2007184683A (ja) * 2006-01-04 2007-07-19 Eastman Kodak Co 画像データ処理装置及び方法
JP2017005626A (ja) 2015-06-15 2017-01-05 オリンパス株式会社 画像効果処理支援装置、画像効果処理支援方法及び画像効果処理支援プログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005122601A (ja) 2003-10-20 2005-05-12 Seiko Epson Corp 画像処理装置、画像処理方法、および画像処理プログラム
JP2005275977A (ja) 2004-03-25 2005-10-06 Fuji Photo Film Co Ltd 画像表示方法、画像表示装置及び画像表示プログラム
JP2010137467A (ja) 2008-12-12 2010-06-24 Konica Minolta Business Technologies Inc 画像形成装置及び印刷支援方法並びに印刷支援プログラム
JP2010148072A (ja) 2008-12-22 2010-07-01 Canon Inc 画像処理装置、画像処理方法、及び、画像処理プログラム
JP2012142890A (ja) 2011-01-06 2012-07-26 Ricoh Co Ltd 画像処理装置、画像処理プログラム及び画像処理方法

Also Published As

Publication number Publication date
US11010900B2 (en) 2021-05-18
US20190172208A1 (en) 2019-06-06
JP2019103007A (ja) 2019-06-24

Similar Documents

Publication Publication Date Title
JP4321549B2 (ja) 文書作成システム、文書作成方法、プログラムおよび記憶媒体
US10067646B2 (en) Color selector for desktop publishing
WO2013001772A1 (en) Information processing apparatus, method, and program
US10795620B2 (en) Image processing apparatus and layout method
JP2005148450A (ja) 表示制御装置およびプログラム
US10484550B2 (en) Display control apparatus that displays preview image, control method therefor, and storage medium
CN105830014B (zh) 确定图像比例重设因子
JP7073082B2 (ja) プログラム、情報処理装置、および情報処理方法
JP7023688B2 (ja) プログラム、情報処理装置、および情報処理方法
WO2019063495A2 (en) METHOD, DEVICE AND COMPUTER PROGRAM FOR OVERLAPING GRAPHIC IMAGE
JP2021064832A5 (ja)
US8988423B2 (en) Electronic album generating apparatus, stereoscopic image pasting apparatus, and methods and programs for controlling operation of same
JP5162552B2 (ja) 色調整装置、色調整方法及び色調整プログラム
US8933999B2 (en) Stereoscopic image display control apparatus, and method and program for controlling operation of same
JP6250110B2 (ja) 情報処理装置、その方法およびプログラム
JP6213380B2 (ja) 表示装置、画像形成装置、表示制御プログラム及び画像形成プログラム
JP6205221B2 (ja) 印刷制御装置、及び、プログラム
US20210216253A1 (en) Image processing apparatus, control method, and storage medium for storing program
JP2014013437A (ja) 情報処理装置、その方法およびプログラム
US20230229370A1 (en) Control method for information processing apparatus, information processing apparatus, and storage medium
JP2007108969A (ja) 記録装置および記録装置制御プログラム
JP6468088B2 (ja) 情報処理装置、その制御方法及びプログラム
JP2023069216A (ja) 画像処理装置、印刷装置、画像処理方法、及びプログラム
JP2021081792A (ja) 情報処理装置、情報処理方法、及びプログラム
CN114461112A (zh) 屏幕菜单式调节方式的图像显示方法及装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201203

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220111

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220209

R151 Written notification of patent or utility model registration

Ref document number: 7023688

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151