JP7455607B2 - 画像処理装置、サーバ装置、制御方法およびプログラム - Google Patents

画像処理装置、サーバ装置、制御方法およびプログラム Download PDF

Info

Publication number
JP7455607B2
JP7455607B2 JP2020026475A JP2020026475A JP7455607B2 JP 7455607 B2 JP7455607 B2 JP 7455607B2 JP 2020026475 A JP2020026475 A JP 2020026475A JP 2020026475 A JP2020026475 A JP 2020026475A JP 7455607 B2 JP7455607 B2 JP 7455607B2
Authority
JP
Japan
Prior art keywords
image data
parameters
detection
streaks
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020026475A
Other languages
English (en)
Other versions
JP2021132294A5 (ja
JP2021132294A (ja
Inventor
弘翼 矢崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020026475A priority Critical patent/JP7455607B2/ja
Priority to US17/167,543 priority patent/US11496633B2/en
Publication of JP2021132294A publication Critical patent/JP2021132294A/ja
Publication of JP2021132294A5 publication Critical patent/JP2021132294A5/ja
Application granted granted Critical
Publication of JP7455607B2 publication Critical patent/JP7455607B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00002Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for
    • H04N1/00071Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for characterised by the action taken
    • H04N1/00082Adjusting or controlling
    • H04N1/00087Setting or calibrating
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00002Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for
    • H04N1/00007Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for relating to particular apparatus or devices
    • H04N1/00018Scanning arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00002Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for
    • H04N1/00026Methods therefor
    • H04N1/00037Detecting, i.e. determining the occurrence of a predetermined state
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00795Reading arrangements
    • H04N1/00798Circuits or arrangements for the control thereof, e.g. using a programmed control device or according to a measured quantity
    • H04N1/00819Self-calibrating reading means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Facsimiles In General (AREA)
  • Accessory Devices And Overall Control Thereof (AREA)
  • Image Processing (AREA)

Description

本発明は、原稿を読み取ることによって生成された画像データに含まれるスジを検出することのできる画像処理装置サーバ装置、制御方法およびプログラムに関する。


従来のマルチファンクションプリンター(以後、MFP)は、原稿トレイに載置された原稿をオートドキュメントフィーダー(以後、ADF)によって1枚ずつ搬送する。そして、搬送している原稿が読取位置にある読取ガラスの上を通過した際に、光源により原稿を照射し、その反射光をミラーに反射させ、CCDなどの撮像素子に入光させることで原稿面を読み取る。
ここで、原稿に付着した紙粉や、印刷に使用されたトナーなどのゴミが、原稿を搬送する際に剥がれ落ちることにより、原稿読取位置上にある読取ガラスに付着する場合がある。読取ガラス上に紙粉やトナー等のゴミが付着した状態でMFPが原稿画像を読み取った場合、撮像素子に入光する光が遮られてしまうため、原稿画像データにはゴミの付着した位置に縦スジが発生する場合がある(特許文献1、2)。本明細書では、ゴミなどが付着して本来の原稿には含まれない縦スジが発生した原稿画像データをスジ画像と呼ぶ。
特許文献1では、画像からスジ候補を検出し、スジ候補の副走査方向の連続性を判定し、所定条件を満たしていた場合にはスジと判定して補正を実行し、満たしていなかった場合にはスジではないと判定し、補正を実行しない方法が提案されている。
また、特許文献2では検査システムにおいて異常画像の検知に用いられる閾値を人手で調整する方法について提案されている。
特開2009-239358号公報 特開2010-286501号公報
しかしながら、特許文献1のように画像処理アルゴリズムを用いてスジを検出する方法では、様々なパターンで発生するスジを適切に検出するためのパラメータを調整するのが難しい場合がある。パラメータを調整するには膨大な計算量が必要であるため、パラメータの調整が十分に行われない場合があった。不十分に調整されたパラメータを使用した場合、代表的なスジに対して十分な検出精度と許容できる誤検知率になるまでパラメータを微調整するため、スジの検出に失敗したり、原稿の画像をスジであると誤検出してしまう場合があった。
また、特許文献2のように、パラメータを人力で調整する場合には専属の担当者が必要であり、また調整時間が必要なため生産性が落ちるという課題があった。
本発明は上記課題を鑑みてなされたものであり、画像処理装置がスジ検出するため用いるパラメータを変更するための利便性を向上することを目的とする。
上述のような課題を解決するため、本発明に係る画像処理装置の一態様は、原稿を読み取る読取手段と、前記読取手段によって前記原稿を読み取ることによって生成された画像データに含まれるスジを、前記スジを検出するためのパラメータを用いて検出する検出手段と、少なくとも、前記画像データ、及び前記検出手段による検出結果を外部装置に送信する送信手段と、前記検出結果と、前記外部装置に送信された前記画像データに含まれる前記スジの他の検出結果であって、前記外部装置によって学習モデルを用いて行われる検出処理によって得られる前記他の検出結果とに基づいて前記外部装置から送信される新たなパラメータを受信する受信手段と、前記受信手段によって受信された前記新たなパラメータを用いて前記パラメータを変更する変更手段と、を有することを特徴とする。


本発明により、画像処理装置がスジ検出するため用いるパラメータを変更するための利便性を向上することができる。
一実施形態に係るネットワークシステムの構成図。 一実施形態に係るMFPの構成図。 一実施形態に係るリーダーユニットおよびADFの断面図。 スジ画像が発生する過程を示す図。 スジ画像の一例を示す図。 一実施形態に係るクラウドの構成図。 第1実施形態に係るMFPとクラウドサーバが実行する処理の一例を示すフローチャート。 輝度差によるスジ検出アルゴリズムとそのパラメータ更新の例 一実施形態に係るクラウドサーバが実行するスジ検出パラメータ生成処理の一例を示すフローチャート。 第2実施形態に係るMFPとクラウドサーバが実行する処理の一例を示すフローチャート。 一実施形態に係るMFPとクラウドサーバの機能ブロック図。
以下、添付図面を参照して実施形態を詳しく説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
なお、特に断らない限り、本発明の機能が実行されるのであれば、単体の機器であっても、複数の機器からなるシステムであっても、本発明を適用できることは言うまでもない。
<実施形態1>
図1は、本発明におけるネットワークシステム100の全体図である。ネットワークシステム100はオフィス101、120及び130と、クラウドサーバ110及び両者を接続するインターネット150から構成される。なお、図1では、オフィスが3箇所と図示されているが、任意の複数個所がインターネット150を介してクラウドサーバ110に接続されていても良い。以下、各オフィスの構成は101を用いて説明する。ここで、当然ながら各オフィス内の構成はそれぞれ異なるが、代表的な構成として説明し、本実施形態に直接関係ない構成については省略するものとする。
オフィス101には、インターネット150との間にファイアウォール107が設置される。ファイアウォール107は、オフィス101内への不正アクセスを遮断するように管理する一方、必要なデータの受信の許可及び、オフィス101からインターネット150へのデータの送信管理も行う。ファイアウォール107はオフィス内部に対してはネットワーク104に接続され、オフィス内の各装置と接続されている。ネットワーク104には、マルチファンクショナルプリンタ(MFP)102及び103、プリンタサーバ105、並びにクライアントPC106が通信可能に接続される。
MFP102および103は、それぞれ原稿用紙を読み取り、ネットワーク104に送信したり、読み取られた原稿画像データを印刷したりする機能を有する印刷装置を含む情報処理装置である。クライアントPC106は印刷データを、ネットワーク104を介して、プリンタサーバ105に送信し、MFP102または103から印刷データをプリントアウトすることが可能である。また、クライアントPC106は、ネットワーク104経由でファイアウォール107を通して、インターネット150にデータの送受信を行うことが可能である。
クラウドサーバ110は、1台以上のコンピュータであり、MFP102および103から画像データを受信し、スジ検出に使用するパラメータを指示するための信号をMFP102および103に送信するサーバ装置である。
図2は、本実施形態に係るMFPの構成図である。図2では、MFPはMFP102であるものとして説明するが、MFP103もMFP102と同様の構成であるものとする。MFP102は、システムコントローラ200、操作部207、スキャナ209、およびプリンタ212を含む。
システムコントローラ200は、画像入力デバイス(読取部)であるスキャナ209や、画像出力デバイス(出力部)であるプリンタ212や操作部207や、ネットワーク104と接続される。また、システムコントローラ200は、MFP102全体の動作を制御するとともに、後述する画像情報やデバイス情報などの入出力制御を行う。システムコントローラ200は、CPU201、RAM202、ネットワークインタフェース(N/W IF)203、ROMを含む。CPUは、Central Processing Unitの略である。また、RAMは、Random Access Memoryの略である。ROMは、Read Only Memoryの略である。また、システムコントローラ200は、HDD205、操作部IF208、スキャナIF210、プリンタIF213、スキャナ画像処理部211、およびプリンタ画像処理部214を含む。HDDは、Hard Disk Driveの略である。なお、CPU201と上記各構成要素とはシステムバス206を介して通信可能に接続される。
CPU201は、MFP102全体を制御するプロセッサであり、ROM204に格納された制御プログラム等に基づいて、システムコントローラ200に接続された各種デバイスとのアクセスを制御する。さらに、CPU201は、システムコントローラ200内部で行われる各種処理についても制御する。
RAM202はシステムワークメモリであり、スキャナ209によって読み取られた画像データなどを一時記憶するための画像メモリとしても機能する。ROM204はブートROMであり、システムコントローラ200の起動時に実行されるブートプログラムを格納する。
HDD205は、主に、MFPを起動・動作させるために必要な情報(システムソフトウェア)や画像データを格納する。これらのデータは、HDD205に限らず、電源が切れても記憶保持可能な記録媒体に格納してもよい。N/W IF203は、ネットワーク104に接続された場合に、システムコントローラ200が、ネットワーク上の外部装置との間で画像データの入出力や、機器制御に関わる情報の入出力を行うことを可能にする。
操作部IF208は、操作部207に表示する画像データを、システムバス206を介して、CPU201から受信し、操作部207に送信する。また、操作部207からの操作情報などを受信し、CPU201に送信する。
スキャナIF210は、スキャナ209で読み取られた原稿画像データを受信し、スキャナ画像処理部211に送信する。スキャナ画像処理部211では、スキャナ209によって読み取られた原稿画像データに対して、解像度変換や色味補正、スジ検出・スジ補正などの画像処理を行うことで、最適なスキャン画像データを生成する。また、スキャナ画像処理部211はシステムバス206に接続され、画像処理済みのスキャン画像データをRAM202などに送信する。さらに、スキャナ画像処理部211は、スジ検出アルゴリズムのパラメータを保持しており、クラウドサーバ110から新しいパラメータを受信した場合には保持しているパラメータを更新する。
プリンタ画像処理部214は、システムバス206を介してCPU201から受信したプリント画像データをプリンタIF213に送信する。プリンタ画像処理部214では受信したプリント画像データに対して、濃度変換などの画像処理を行うことで、最適なプリント画像データを生成する。プリンタIF213は受信した画像処理済みのプリント画像データをプリンタ212に送信し、印刷動作が行われる。
次に、図3を参照して、スキャナ209が含むリーダーユニット309及びADF(Auto Document Feeder)300の断面図を用いて、スキャナ209の動きを説明する。
ADF300は、原稿束が原稿トレイ301に載置され、読み取りが指示された場合に、リーダーユニット309によって読み取り可能に、以下のように原稿を搬送する。まず、原稿束に含まれる原稿302はピックアップローラー303によって原稿トレイ301から分離部へ搬送される。分離部では、分離搬送ローラー304と分離搬送従動ローラー305により原稿束の最も上に位置する原稿302を1枚ずつ分離するように搬送する。分離された1枚の原稿は、レジストローラー306とレジスト従動ローラー307より斜め搬送を修正され、第1搬送ローラー308、第2搬送ローラー311、第3搬送ローラー312の順に搬送される。
原稿が第2搬送ローラー311、第3搬送ローラー312によって搬送され、読取位置上を通過する際に、リーダーユニット309は原稿を読み取り、原稿の表面の画像情報を得る。また、スキャナヘッド314がレール324に沿って、左右に移動することができる。原稿は、第3搬送ローラー312を通過後、リード排出ローラー320、リード排出従動ローラー321、排紙ローラー322によって搬送され、原稿排紙トレイ323に排紙される。
次に、リーダーユニット309での原稿読取動作について説明する。読取位置上に存在する白色対向部材313と読取ガラス310の間を原稿が通過中、読取位置の下部に存在するスキャナヘッド314では、光源315、316により原稿を照射し、その反射光を反射ミラー317により結像レンズ318に導く。結像レンズ318で収束された光はラインセンサ319により電気信号に変換される。
この時読み取った原稿画像データにスジ状のデータが発生するメカニズムについて、図4を用いて説明する。
図4に示すように、第2搬送ローラー311および第3搬送ローラー312によって原稿302が順次搬送されると、ゴミ401が原稿302に付着する。この付着したゴミ401は、搬送時に発生する紙の屑や原稿から剥離したトナーくずなど様々ものが存在する。付着したゴミ401は原稿302の搬送に伴い移動しうる。そして原稿302が、付着したゴミごと読取位置まで搬送されると、スキャナヘッド314は原稿302を読み取ると同時にゴミ401も読み取りうる。
また、原稿302を読取ガラス310に密着させて読み取るために、読取位置付近は狭くなっているため、原稿302は搬送されて進むが、ゴミ401は読取位置付近の原稿302と読取ガラス310との間に滞留してしまいうる。その結果、スキャナヘッド314はゴミ401を読み取ってしまい、画素ではスジ状のデータが読み取った原稿画像データに発生してしまう。その例を図5に示す。また、このゴミ401は同じ場所にとどまっているものではないため、スジ状のデータの発生は断続的であったり、消えたりすることがある。
次に、本実施形態に係るクラウドサーバ110の構成について図6を参照して説明する。ここで、本実施形態に係るクラウドサーバ110の処理に直接的に関係しない構成については省略するものとする。
クラウドサーバ110は、CPU501、N/W IF502、AI(Artificial Intelligence)処理部503、およびデータベース504を含み、各構成要素はシステムバス505を介して接続される。
CPU501はクラウドサーバ110全体の制御を行うプロセッサであり、不図示のROMに格納されている制御プログラムを実行する。N/W IF502はインターネット150に接続し、各オフィスから送信されてくる画像データを受信する。AI処理部503は、データベース504に保存されている学習済みのデータを用いて、画像データ内のスジを検出する。一例では、AI処理部503は、GPU(Graphics Processing Unit)を備えてもよい。
次に、本実施形態に係るMFP102およびクラウドサーバ110の機能ブロックについて図11を参照して説明する。なお、各機能ブロックは、MFP102のCPU201またはクラウドサーバ110のCPU501がコンピュータ可読記憶媒体に格納されたプログラムを実行することで実現される。
図11(A)は、MFP102の機能ブロック図である。MFP102の機能は、画像取得部1101、画像送信部1102、スジ検出部1103、パラメータ受信部1104、パラメータ送信部1105、画像補正部1106、および検出結果送信部1107を含む。
画像取得部1101は、スキャナIF210を介してスキャナ209などの画像取得装置から画像を取得する制御処理を実行する。画像送信部1102は、N/W IF203を介してクラウドサーバ110にスキャナ209から取得した画像を送信する処理を実行する。スジ検出部1103は、スキャナ画像処理部211を制御し、スキャナ209から取得した画像に含まれるスジを検出する。パラメータ受信部1104は、クラウドサーバ110から、スジ検出部1103でのスジ検出処理に使用すべきパラメータを受信する。パラメータ送信部1105は、クラウドサーバ110に、スジ検出部1103が使用しているパラメータを指し示す情報をN/W IF203を介して送信する。画像補正部1106は、スジ検出部1103が検出したスジを補正してスジなしの補正画像データを生成する。検出結果送信部1107は、画像補正部1106が生成した補正画像データをN/W IF203を介してクラウドサーバ110に送信する。
図11(B)は、クラウドサーバ110の機能ブロック図である。クラウドサーバ110の機能は、画像受信部1151、スジ検出部1152、パラメータ判定部1153、パラメータ送信部1154、検出結果受信部1155、画像保存部1156、およびパラメータ受信部1157を含む。
画像受信部1151は、MFP102が原稿をスキャンして取得した画像データをN/W IF502を介して受信する。スジ検出部1152は、画像受信部1151で受信した画像データに含まれるスジを、学習済みモデルを使用して検出する。一例では、スジ検出部1152は、画像受信部1151が受信した画像に基づいて学習済みモデルの学習処理を実行する。パラメータ判定部1153は、スジ検出部1152で検出したスジに基づいて、MFP102のスジ検出処理に使用すべきパラメータを判定する。パラメータ送信部1154は、パラメータ判定部1153が判定した、スジ検出に使用すべきパラメータをN/W IF502を介してMFP102に送信する。
検出結果受信部1155は、MFP102が実行したスジ検出処理の検出結果をN/W IF502を介して受信する。画像保存部1156は、画像受信部1151で受信した画像を保存する。パラメータ受信部1157は、N/W IF502を介して、MFP102がスジ検出処理に使用しているパラメータを指し示す情報を受信する。
読み取られた画像の扱いについて、図7のMFP102およびクラウドサーバ110のフローチャートを用いて詳細に説明する。図7のMFP102の処理は、特に説明がない限りMFP102のCPU201がROM204に格納されたプログラムに沿って実行するものとする。また、図7のクラウドサーバ110の処理は、特に説明がない限りクラウドサーバ110のCPU501がROM(不図示)に格納されたプログラムを実行することによって実現されるものとして説明する。
まず、S701において、CPU201は操作部207において、スキャンボタンが押下され、MFPにスキャン指示がされたかどうかを判定する。スキャン指示がされた場合(S701でYes)、CPU201は処理をS702に進める。次に、S702において、CPU201はスキャン指示に基づき、スキャナ209で原稿を読み取り、処理をS703に進める。
次に、S703において、CPU201はHDD205に保存されているスジ検出パラメータを読出し、処理をS704へ進める。S704では、CPU201は読み取った画像データ及びスジ検出パラメータの情報を、スキャナ画像処理部211に送信するとともに、N/W IF203を介してクラウドサーバ110へ送信する。
S705では、スキャナ画像処理部211は、受け取ったスジ検出パラメータを使用してスキャナ画像処理部211で読み取った画像データのスジ検出・補正が行う。また、スキャナ画像処理部211で処理された画像データはN/W IF203を介してクラウドサーバ110へ送信されるとともにRAM202に格納される。RAM202に格納された画像データはプリンタ212で紙へプリントしたり、クライアントPC106へデジタルデータとして送信するために使用される。
続いて、S706において、MFP102はスジ検出・補正を行った画像データをN/W IF203を介してクラウドサーバ110へ送信し、処理をS707に進める。S707ではCPU201はスキャナ209で読み取る原稿が残っているかを確認し、全てのページの処理が完了していない場合(S707でNo)には次の原稿を搬送し、S702に処理を進める。全てのページの処理が完了した場合(S707でYes)は、MFP102は処理をS708に進める。
S708において、MFP102はクラウドサーバ110からN/W IF203を介して新しいスジ検出パラメータを受信したかを判断し、新しいスジ検出パラメータを受信していない場合(S708でNo)は図7の処理を終了する。一方、MFP102がクラウドサーバ110から新しいスジ検出パラメータを受信した場合(S708でYes)は処理をS709へ進め、CPU201はHDD205に保存されているスジ検出パラメータを新しく受信したものに更新して図7の処理を終了する。一例では、MFP102は、S708で新たなスジ検出パラメータを受信した場合には、新たなパラメータを使用してスジ検出処理を再実行してもよい。
次に、同時に動作するクラウドサーバ110の処理の一例について、同様に図7を用いて説明する。クラウドサーバ110には、複数機種のMFPが接続される場合は各機種に搭載される部品によって得られる画像の特性が違う可能性があるため、機種毎に画像データやスジ検出パラメータを保持することが望ましい。
まず、S751において、CPU501は、S704でMFP102より送信された画像データ及びスジ検出パラメータの情報を受信するまで待機する。画像データ及びスジ検出パラメータの情報を受信すると(S751でYes)、S752へ処理を進める。
S752では、CPU501はデータベース504に保存されている学習済みのスジ検出データベースを用いて、受信した画像データに対してAI処理部503でのスジを検出・補正し、処理をS753へ進める。なお、S752でクラウドサーバ110が実行するスジ検出処理は、MFP102が実行するスジ検出処理とは異なってもよい。例えば、クラウドサーバ110は、ニューラルネットワークモデルを用いてスジ検出処理を実行してもよい。あるいは、クラウドサーバ110は、MFP102が実行するスジ検出処理と同じアルゴリズムのスジ検出処理を行うが、複数のパラメータ値を試行するなどしてもよい。
S753では、クラウドサーバ110は、MFP102からスジ検出の検出結果を受信すると、MFP102から受信した検出結果と、S752でAI処理部503が処理した補正済みの画像データとの差分が所定の値以上であるか否かを判定する。なお、S753では、クラウドサーバ110はMFP102から検出結果を受信するまで待機してもよい。受信した補正済みの画像データと、AI処理部503が処理した補正済み画像データとの差分が閾値よりも大きい場合(S753でYes)、クラウドサーバ110は処理をS754へ進め、MFP102から受信した画像データをデータベース504へ保存する。データベース504に保存された画像データは、後述するスジ検出パラメータの生成に使用される。また、処理結果の差が所定の値より小さい場合(S753でNo)、CPU501は処理をS755に進める。
S755では、CPU501は、S751において受信したスジ検出パラメータの情報から、データベース504に保持しているスジ検出パラメータと比較を行い、MFP102のスジ検出パラメータの更新が必要か否かを判断する。CPU501は、更新が必要ではない場合(S755でNo)は図7の処理を終了し、必要な場合(S755でYes)は処理をS756に進める。クラウドサーバ110は、S756において新しいパラメータをN/W IF502を介してMFP102に送信し、図7の処理を終了する。
S754において、データベース504へ保存された場合、画像データは、クラウドサーバ110によって所定のタイミングで解析され、新しいスジ検出パラメータを生成するために使用される。次に、スジ検出パラメータの生成を行う例を、図8を参照して説明する。この例では背景とスジ部分の輝度差に着目してスジを判別するアルゴリズムのパラメータを更新する例を示す。なお本例の処理は全てCPU501によって実行されるものとする。
図8(A)は、背景輝度が比較的低い画像の中に文字とスジがある画像データの例である。図8(B)は、図8(A)の線801上の輝度の値を示すグラフである。図8(C)は、背景輝度が比較的高い画像の中に文字とスジがある画像データの例である。図8(D)は、図8(C)の線802上の輝度の値を示すグラフである。
背景輝度の低い画像の中に文字とスジがある場合に、図8(B)のように背景の輝度とスジの輝度との差Δdは文字部よりも小さな値になり、この輝度差Δdよりも大きな部分は原稿の画像であると判別することができる。このため、MFP102は、Δdをパラメータとして、輝度が背景輝度より高く、背景輝度との輝度の差がΔd以下の部分をスジであると判定し、検出・補正処理を行うことができる。
一方、背景が薄い画像の中に同様のスジが発生した場合、図8(D)のように背景輝度とスジの輝度との差がΔdより大きいΔd’となる。このため、図8(B)と同じΔdをスジ検出パラメータとして使用した場合、スキャナ画像処理部211ではスジを誤って文字であると判別してしまい、AI処理部503の検出結果と差がでてきてしまう。
図8(D)のような輝度であってもスジが検出できるように、クラウドサーバ110がMFP102にスジ検出パラメータの輝度差をΔd’へ変更するよう信号を送信することで、スキャナ画像処理部211でもスジを検出できるようにすることができる。
この更新されたスジ検出パラメータはデータベース504に保持されて、次回更新タイミングでMFP102へ送信されることになる。
なお、本例では背景画像とスジの輝度差に注目したアルゴリズムの例を示したが、スジを検出するためのアルゴリズムは様々なものが知られており本例にとどまるものではない。
また別のパラメータ生成の手法としては、スキャナ画像処理部211と同じ動きをするソフトウェアモデルを用いて、パラメータを自動生成しながらAI処理部503とスジの検出結果の比較を行い、同等精度で検出できるパラメータを求める手法がある。この例を、図9を参照して説明する。なお本例の処理は全てCPU501で行っているものとする。
まず初めにS900でデータベース504に保存されたスキャナ画像処理部211とAI処理部503でスジの検出結果に差が発生している画像をAI処理部503で処理し、スジを検出させる。
次にS901ではスジ検出パラメータを生成する。これはCPU501で乱数を用いたランダムなパラメータを生成してもよい。そして、S902ではデータベース504に保存されたスキャナ画像処理部211と同じ動きをするソフトウェアモデルを読出し、S901で生成したパラメータと画像データを処理してスジを検出させる。
S903ではS900の結果とS902の結果を比較して、各画素が同一のデータとなっているかを比較する。S904ではその比較結果をうけて、同一のスジ検出・補正結果となっている場合はS905へ遷移し、同一の結果となっていない場合はもう一度フローをやり直すように遷移する。
ここで、完全に同一結果とならない場合を考慮して、画像データ中に一致しない画素の数が所定の閾値以下である場合には、MFPの使用するパラメータを更新しないと判定してもよい。S905ではこの新たに生成されたスジ検出パラメータをデータベース504に保持して、これは次回の更新タイミングでMFP102へ送信する。
以上、説明したように、本実施形態のMFPでは、リアルタイムにスジの検出・補正を行いながら、スジを検出できなかった原稿画像データに対してもスジ検出パラメータを更新する。スジ検出アルゴリズムの検出精度の向上を図ることが可能になる。
<第2実施形態>
第1実施形態では、MFPはパラメータを使用したスジ検出を実行し、検出結果をクラウドサーバに送信し、クラウドサーバは、AIによるスジ検出を実行し、MFPから受信した検出結果と、AIによる検出結果とを比較して、パラメータの調整を行った。第2実施形態では、MFPから受信した画像データのみに基づいてAIによるスジ検出を行い、パラメータを調整したクラウドサーバから送信されたパラメータに基づいてスジ検出を行うMFPについて説明する。なお、第1実施形態と同様の構成、処理、機能については説明を省略する。
図10は第2実施形態に係るMFP102およびクラウドサーバ110の処理を示すフローチャートである。図10のMFP102の処理は、特に説明がない限りMFP102のCPU201がROM204に格納されたプログラムに沿って実行するものとする。また、図10のクラウドサーバ110の処理は、特に説明がない限りクラウドサーバ110のCPU501がROM(不図示)に格納されたプログラムを実行することによって実現されるものとして説明する。
S1001、S1002の処理は図7のS701、S702と同様のため、説明を省略する。続いて、MFP102は処理をS1003に進め、スキャンした画像データをクラウドサーバ110に送信する。そして、MFP102は処理をS1004に進め、スキャンした画像データに対応するスジ検出のためのパラメータをクラウドサーバ110から受信するまで待機する。パラメータを受信すると、MFP102は処理をS1005に進め、スジ検出・補正を実行し、図10の処理を終了する。
なお、MFP102は、接続断などによって、インターネットを介してクラウドサーバ110からパラメータの受信に失敗する場合がある。このため、MFP102は、一例ではパラメータをストレージ(ROM204、HDD205など)に格納し、所定の時間内にクラウドサーバ110からパラメータを受信しない場合には、ストレージに格納されたパラメータを用いてスジ検出を実行してもよい。
次に、同時に動作するクラウドサーバ110の処理の一例について、同様に図10を用いて説明する。
S1051およびS1052の処理は、S751、S752と同様のため説明を省略する。続いて、クラウドサーバ110は処理をS1053に進め、スジ検出の結果に基づいてパラメータを調整する。一例では、パラメータは、図8(B)に示す、背景の輝度値、文字の輝度値、スジの輝度値、および背景の輝度値とスジの輝度値との差の少なくともいずれかであってもよい。別の例では、パラメータは、上述した背景、文字、およびスジの少なくともいずれかの輝度値の範囲であってもよい。続いて、クラウドサーバ110は処理をS1054に進め、調整したパラメータをMFP102に送信し、図10の処理を終了する。
<その他の実施形態>
本実施形態では、輝度値に基づいてスジの検出を行うものとして説明を行った。しかしながら、輝度値以外にも、明度やRGB値など、画像データの任意のパラメータに基づいてスジ検出を行ってもよい。
本実施形態では、クラウドサーバ110は1台のコンピュータであるものとして説明を行ったが、複数のコンピュータによって、クラウドサーバ110の機能が実現されてもよい。この場合、複数のクラウドサーバ110は、インターネットを介して通信可能であればよく、少なくとも1つのクラウドサーバ110がオフィス101のネットワーク104上に位置してもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
101:オフィス、102、103:MFP、110:クラウドサーバ、201:CPU、205:HDD、209:スキャナ、503:AI処理部、504:データベース

Claims (10)

  1. 原稿を読み取る読取手段と、
    前記読取手段によって前記原稿を読み取ることによって生成された画像データに含まれるスジを、前記スジを検出するためのパラメータを用いて検出する検出手段と、
    少なくとも、前記画像データ、及び前記検出手段による検出結果を外部装置に送信する送信手段と、
    前記検出結果と、前記外部装置に送信された前記画像データに含まれる前記スジの他の検出結果であって、前記外部装置によって学習モデルを用いて行われる検出処理によって得られる前記他の検出結果とに基づいて前記外部装置から送信される新たなパラメータを受信する受信手段と、
    前記受信手段によって受信された前記新たなパラメータを用いて前記パラメータを変更する変更手段と、
    を有することを特徴とする画像処理装置。
  2. 前記検出手段によって前記画像データにスジが含まれることを検出した場合に、前記画像データに含まれる前記スジを補正する補正手段をさらに有することを特徴とする請求項1に記載の画像処理装置。
  3. 前記受信手段は、前記検出結果と、前記外部装置に送信された前記画像データに含まれる前記スジの他の検出結果の差分に基づいて前記外部装置から送信される新たなパラメータを受信することを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記送信手段は、前記検出手段によって前記画像データに含まれる前記スジを検出する前に、前記画像データを前記外部装置に送信することを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
  5. 前記変更手段によって前記パラメータが変更された場合に、前記検出手段は、前記変更されたパラメータを用いて前記画像データに含まれるスジを検出する処理を実行することを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
  6. 前記パラメータは、原稿の背景の輝度値とスジの輝度値との差分を含むことを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
  7. サーバ装置であって、
    画像処理装置から、前記画像処理装置の読取手段によって原稿を読み取ることによって生成された画像データと、前記画像処理装置によってスジを検出するためのパラメータを用いたスジの検出結果とを受信する受信手段と、
    前記受信手段によって受信した前記画像データに含まれる前記スジを検出する検出手段と、
    前記受信手段によって受信した前記スジの検出結果と前記検出手段による他の検出結果に基づいて、前記画像処理装置に前記パラメータを新たなパラメータによって更新させるために、前記画像処理装置に前記新たなパラメータを送信する送信手段と、
    を有することを特徴とするサーバ装置。
  8. 前記検出手段は、学習モデルを用いて前記スジを検出することを特徴とする請求項7に記載のサーバ装置。
  9. 画像処理装置の制御方法であって、
    原稿を読み取る読取工程と、
    前記読取工程において前記原稿を読み取ることによって生成された画像データに含まれるスジを、前記スジを検出するためのパラメータを用いて検出する検出工程と、
    少なくとも、前記画像データ及び前記検出工程における検出結果を外部装置に送信する送信工程と、
    前記検出結果と、前記外部装置に送信された前記画像データに含まれる前記スジの他の検出結果であって、前記外部装置によって学習モデルを用いて行われる検出処理によって得られる前記他の検出結果とに基づいて前記外部装置から送信される新たなパラメータを受信する受信工程と、
    前記受信工程において受信した前記新たなパラメータを用いて前記パラメータを変更する変更工程と、
    を有することを特徴とする制御方法。
  10. コンピュータを請求項1から6のいずれか1項に記載の画像処理装置として動作させるためのプログラム。
JP2020026475A 2020-02-19 2020-02-19 画像処理装置、サーバ装置、制御方法およびプログラム Active JP7455607B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020026475A JP7455607B2 (ja) 2020-02-19 2020-02-19 画像処理装置、サーバ装置、制御方法およびプログラム
US17/167,543 US11496633B2 (en) 2020-02-19 2021-02-04 Image processing apparatus and server apparatus with interactive refinement of streak detection, control method therefor, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020026475A JP7455607B2 (ja) 2020-02-19 2020-02-19 画像処理装置、サーバ装置、制御方法およびプログラム

Publications (3)

Publication Number Publication Date
JP2021132294A JP2021132294A (ja) 2021-09-09
JP2021132294A5 JP2021132294A5 (ja) 2023-03-01
JP7455607B2 true JP7455607B2 (ja) 2024-03-26

Family

ID=77273008

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020026475A Active JP7455607B2 (ja) 2020-02-19 2020-02-19 画像処理装置、サーバ装置、制御方法およびプログラム

Country Status (2)

Country Link
US (1) US11496633B2 (ja)
JP (1) JP7455607B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12047540B2 (en) * 2022-03-23 2024-07-23 Canon Kabushiki Kaisha Inspection apparatus, method, and storage medium, that correct reference image and inspect printed material based on the corrected reference image

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011137736A (ja) 2009-12-28 2011-07-14 Canon Inc 画像処理装置、画像処理装置の制御方法、及び、プログラム
JP2017191979A (ja) 2016-04-12 2017-10-19 コニカミノルタ株式会社 画像形成システム、画像形成装置及びプログラム
JP2020008701A (ja) 2018-07-06 2020-01-16 キヤノン株式会社 画像形成装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6985220B1 (en) 2003-08-20 2006-01-10 Kla-Tencor Technologies Corporation Interactive threshold tuning
JP5014224B2 (ja) 2008-03-25 2012-08-29 キヤノン株式会社 画像読取装置および画像処理方法
JP6234181B2 (ja) * 2013-11-20 2017-11-22 キヤノン株式会社 画像処理装置、情報処理装置、画像処理装置の制御方法、情報処理装置の制御方法、及びプログラム
JP6566794B2 (ja) * 2015-09-02 2019-08-28 キヤノン株式会社 画像処理装置、画像処理方法ならびにプログラム
JP6752614B2 (ja) * 2016-04-28 2020-09-09 キヤノン株式会社 画像形成装置、画像形成システム、画像形成装置の制御方法、ならびにプログラム
US20210084188A1 (en) * 2019-09-18 2021-03-18 Toshiba Tec Kabushiki Kaisha Image forming apparatus and control method by the same

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011137736A (ja) 2009-12-28 2011-07-14 Canon Inc 画像処理装置、画像処理装置の制御方法、及び、プログラム
JP2017191979A (ja) 2016-04-12 2017-10-19 コニカミノルタ株式会社 画像形成システム、画像形成装置及びプログラム
JP2020008701A (ja) 2018-07-06 2020-01-16 キヤノン株式会社 画像形成装置

Also Published As

Publication number Publication date
US11496633B2 (en) 2022-11-08
US20210258434A1 (en) 2021-08-19
JP2021132294A (ja) 2021-09-09

Similar Documents

Publication Publication Date Title
JP7131415B2 (ja) 傾き検出装置、読取装置、画像処理装置および傾き検出方法
US9734439B2 (en) Image processing apparatus and method thereof
JP4055385B2 (ja) 画像検査装置
US9233551B2 (en) Apparatus, system, and method of inspecting image, and recording medium storing image inspection control program
US10397412B2 (en) Image processing apparatus, image processing method for estimating cause of abnormality having occurrenced in image processing apparatus
US9973653B2 (en) Image processing apparatus and image processing method
US20110181919A1 (en) Image reading apparatus, control method thereof and computer-readable storage medium
US9197762B2 (en) Image reading device, forming apparatus, and processing method detecting and removing perforations to correctly identify blank documents
JP3619101B2 (ja) 画像処理装置及び画像処理方法
KR20170123271A (ko) 화상 형성 장치, 화상 형성 장치의 제어 방법, 화상 처리 시스템, 및 프로그램
JP2019095476A (ja) 画像形成装置及びプログラム
US9571693B2 (en) Image processing apparatus, image processing method, and program
US9826118B2 (en) Image formation apparatus
JP7455607B2 (ja) 画像処理装置、サーバ装置、制御方法およびプログラム
JP6338554B2 (ja) 画像処理装置及び画像処理方法、プログラム
JP3671682B2 (ja) 画像認識装置
JP6590991B2 (ja) 情報処理装置、情報処理装置の制御方法、及びプログラム
US12113938B2 (en) Image processing system, image processing apparatus, control method
JP6391348B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2004098489A (ja) 画像出力装置
JP4265176B2 (ja) 画像検査装置およびプログラム
JP2007166516A (ja) マルチファンクションシステムの操作表示
JP2021150856A (ja) 画像処理システム、画像処理装置、制御方法及びプログラム
US20230239412A1 (en) Inspection apparatus, method of controlling the same, and storage medium
JP7358218B2 (ja) 画像処理装置および画像処理方法、プログラム

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230220

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230220

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240313

R151 Written notification of patent or utility model registration

Ref document number: 7455607

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151