JP2023070453A - 情報処理システム、情報提示方法及び画像形成装置 - Google Patents
情報処理システム、情報提示方法及び画像形成装置 Download PDFInfo
- Publication number
- JP2023070453A JP2023070453A JP2021182650A JP2021182650A JP2023070453A JP 2023070453 A JP2023070453 A JP 2023070453A JP 2021182650 A JP2021182650 A JP 2021182650A JP 2021182650 A JP2021182650 A JP 2021182650A JP 2023070453 A JP2023070453 A JP 2023070453A
- Authority
- JP
- Japan
- Prior art keywords
- abnormality
- image
- information
- unit
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/12—Digital output to print unit, e.g. line printer, chain printer
- G06F3/1201—Dedicated interfaces to print systems
- G06F3/1202—Dedicated interfaces to print systems specifically adapted to achieve a particular effect
- G06F3/1203—Improving or facilitating administration, e.g. print management
- G06F3/1208—Improving or facilitating administration, e.g. print management resulting in improved quality of the output result, e.g. print layout, colours, workflows, print preview
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/0035—User-machine interface; Control console
- H04N1/00405—Output means
- H04N1/0049—Output means providing a visual indication to the user, e.g. using a lamp
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/12—Digital output to print unit, e.g. line printer, chain printer
- G06F3/1201—Dedicated interfaces to print systems
- G06F3/1202—Dedicated interfaces to print systems specifically adapted to achieve a particular effect
- G06F3/121—Facilitating exception or error detection and recovery, e.g. fault, media or consumables depleted
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/12—Digital output to print unit, e.g. line printer, chain printer
- G06F3/1201—Dedicated interfaces to print systems
- G06F3/1223—Dedicated interfaces to print systems specifically adapted to use a particular technique
- G06F3/1229—Printer resources management or printer maintenance, e.g. device status, power levels
- G06F3/1234—Errors handling and recovery, e.g. reprinting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/762—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/19007—Matching; Proximity measures
- G06V30/19093—Proximity measures, i.e. similarity or distance measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/191—Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
- G06V30/19107—Clustering techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
- G06V30/413—Classification of content, e.g. text, photographs or tables
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/00002—Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for
- H04N1/00005—Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for relating to image data
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/00002—Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for
- H04N1/00007—Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for relating to particular apparatus or devices
- H04N1/00015—Reproducing apparatus
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/00002—Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for
- H04N1/00026—Methods therefor
- H04N1/00029—Diagnosis, i.e. identifying a problem by comparison with a normal state
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/00002—Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for
- H04N1/00026—Methods therefor
- H04N1/00037—Detecting, i.e. determining the occurrence of a predetermined state
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/00002—Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for
- H04N1/00071—Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for characterised by the action taken
- H04N1/00074—Indicating or reporting
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/0035—User-machine interface; Control console
- H04N1/00405—Output means
- H04N1/00408—Display of information to the user, e.g. menus
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/0035—User-machine interface; Control console
- H04N1/00405—Output means
- H04N1/00488—Output means providing an audible output to the user
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30144—Printing quality
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Human Computer Interaction (AREA)
- General Engineering & Computer Science (AREA)
- Quality & Reliability (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Medical Informatics (AREA)
- Evolutionary Computation (AREA)
- Databases & Information Systems (AREA)
- Facsimiles In General (AREA)
- Accessory Devices And Overall Control Thereof (AREA)
- Control Or Security For Electrophotography (AREA)
Abstract
【課題】印刷画像に現れる可能性のある様々な異常についてそのパターンを解析して適切な対処法をユーザに案内することのできる仕組みを提供すること。【解決手段】印刷画像を読取ることにより生成される読取画像データを取得する取得部と、前記取得部により取得される前記読取画像データに基づいて、複数の異常種別のうち前記印刷画像に現れた異常の種別を判定する判定部と、前記判定部により判定される前記種別に対応する、前記異常に対処するための対処法を示す対処法情報をユーザに提示する情報提示部と、を含む情報処理システムが提供される。【選択図】図5
Description
本開示は、情報処理システム、情報提示方法及び画像形成装置に関する。
コピー機、プリンタ、ファクシミリ及び複合機といった画像形成装置の性能は年々向上している一方、部材の劣化又は異物の付着といった様々な原因に起因して、依然として印刷画像に時折異常が現れる。印刷画像に異常を認めたユーザは、例えば部材を交換し又はクリーニングすることで、異常の原因を解消することができる。
特許文献1は、特に印刷画像に現れる異常の一種である縦スジに着目し、画像形成ユニットの中のどの部材が縦スジを引き起こしたかを、テスト画像の縦スジ部分の濃度に基づいて判定する技術を開示している。
しかしながら、実用の場面で発生し得る印刷画像の異常は、縦スジに限らず様々である。例えば、黒点、印刷のかすれ、又は不要な線の出現といった異常には、それぞれ異なる原因があり、その原因に依存してユーザがとるべき対処法も相違し得る。特許文献1により開示された技術は、こうした様々な種別の異常を取り扱わないために、ユーザの利便性にはわずかしか寄与しない。
そこで、本開示は、印刷画像に現れる可能性のある様々な異常についてそのパターンを解析して適切な対処法をユーザに案内することのできる仕組みを提供することを目的とする。
ある観点によれば、印刷画像を読取ることにより生成される読取画像データを取得する取得部と、前記取得部により取得される前記読取画像データに基づいて、複数の異常種別のうち前記印刷画像に現れた異常の種別を判定する判定部と、前記判定部により判定される前記種別に対応する、前記異常に対処するための対処法を示す対処法情報をユーザに提示する情報提示部と、を含む情報処理システムが提供される。対応する方法もまた提供される。
他の観点によれば、記録媒体に画像を形成する画像形成手段と、記録媒体に形成された画像を読取って読取画像データを生成する読取手段と、前記読取画像データに基づいて、複数の異常種別のうち読取られた前記画像に現れた異常の種別を判定する判定手段と、判定された前記種別に対応する、前記異常に対処するための対処法を示す対処法情報をユーザに提示する情報提示手段と、を備える画像形成装置が提供される。
本開示によれば、印刷画像に現れる可能性のある様々な異常について適切な対処法をユーザに案内することが可能となる。
以下、添付図面を参照して実施形態を詳しく説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
<1.システムの概要>
本明細書では、本開示に係る技術が画像形成装置を含むシステムにおいて利用される例を説明する。概していうと、本開示に係る技術は、例えばプリンタ、コピー機、複合機、及びファクシミリといった、任意の種類の画像形成装置を含むシステム、又はそうした画像形成装置と連携するシステムに適用されてよい。以下に説明する学習処理及び推論処理といった情報処理は、画像形成装置に内蔵される処理手段(例えば、プロセッサ、コントローラ又はコンピュータ)により実行されてもよく、又は他の装置の処理手段により実行されてもよい。こうした画像形成装置及び他の装置は、共に情報処理装置と称されてもよい。特に説明の無い限り、以下に説明する装置、デバイス、モジュール及びチップといった構成要素の各々は、単一のエンティティで構成されてもよく、又は物理的に異なる複数のエンティティから構成されてもよい。
本明細書では、本開示に係る技術が画像形成装置を含むシステムにおいて利用される例を説明する。概していうと、本開示に係る技術は、例えばプリンタ、コピー機、複合機、及びファクシミリといった、任意の種類の画像形成装置を含むシステム、又はそうした画像形成装置と連携するシステムに適用されてよい。以下に説明する学習処理及び推論処理といった情報処理は、画像形成装置に内蔵される処理手段(例えば、プロセッサ、コントローラ又はコンピュータ)により実行されてもよく、又は他の装置の処理手段により実行されてもよい。こうした画像形成装置及び他の装置は、共に情報処理装置と称されてもよい。特に説明の無い限り、以下に説明する装置、デバイス、モジュール及びチップといった構成要素の各々は、単一のエンティティで構成されてもよく、又は物理的に異なる複数のエンティティから構成されてもよい。
図1は、一実施形態に係る情報処理システム1の構成の一例を示す概略図である。情報処理システム1は、サーバ装置2、ユーザ端末3、画像形成装置100a、及び画像形成装置100bを含む。サーバ装置2、ユーザ端末3、画像形成装置100a、及び画像形成装置100bは、ネットワーク5を介して相互に接続される。ネットワーク5は、有線ネットワークであってもよく、又は無線ネットワークであってもよい。ネットワーク5は、例えばインターネット及びLAN(Local Area Network)など、複数のサブネットワークの組合せであってもよい。
サーバ装置2は、画像形成装置の状態の診断に関与する情報処理装置である。サーバ装置2は、例えばウェブサーバ、アプリケーションサーバ、データサーバ又はクラウドサーバとして実装されてもよい。ユーザ端末3は、情報処理システム1のユーザにより使用される端末装置である。ユーザ端末3は、例えば、PC(Personal Computer)若しくはスマートフォンといった汎用的な情報端末であってもよく、又は特定の用途に特化した専用端末であってもよい。
画像形成装置100aは、画像を形成する画像形成機能(印刷機能ともいう)、及び原稿を光学的に読取る読取機能といった様々な画像処理機能をユーザに提供する装置である。画像形成装置100bは、画像形成装置100aと同じ種類の、又は画像形成装置100aとは異なる種類の画像形成装置であってよい。以下の説明において、画像形成装置100a及び100bを相互に区別する必要のない場合には、これらを画像形成装置100と総称する。
図1には2つの画像形成装置100a、100bが示されているが、情報処理システム1はいかなる数の画像形成装置を含んでいてもよい。同様に、図1には1つのユーザ端末3が示されているが、情報処理システム1は、いくつのユーザ端末を含んでいてもよい。
画像形成装置100は、印刷又はコピーといった画像形成を要するジョブの実行が指示されると、記録媒体に画像を形成する。以下の説明では、記録媒体に形成された画像を印刷画像という。印刷画像には、例えば部材の劣化又は異物の付着といった原因に起因して、異常が時折発生する。印刷画像に異常を認めたユーザは、例えば部材の交換又はクリーニング機能の実行といった対処法を実施することで、異常の原因を解消することができる。しかし、ユーザにとって、どの対処法を行うのが適切かを印刷画像を見て正確に判断することは容易ではない。そこで、次節より詳しく説明する実施形態では、印刷画像を読取ることで生成される読取画像データを解析し、当該印刷画像における異常の有無又は異常の種別を判定して、適切な対処法をユーザに案内する仕組みをシステムに取り入れるものとする。
<2.第1実施例>
<2-1.画像形成装置の構成>
図2は、第1実施例に係る画像形成装置100の画像形成機能及び読取機能に関連する詳細な構成の一例を示す模式図である。図2を参照すると、画像形成装置100は、リーダ200と、プリンタ300とを含む。リーダ200は、原稿を読取って読取画像データを生成する読取手段である。プリンタ300は、記録媒体に画像を形成する画像形成手段である。リーダ200は、プリンタ300の上方に配設され、信号線を介してプリンタ300と接続される。画像形成装置100がコピー動作を行う場合には、リーダ200により生成される読取画像データがプリンタ300へ転送され、読取画像データに基づく画像がプリンタ300により記録媒体に形成される。
<2-1.画像形成装置の構成>
図2は、第1実施例に係る画像形成装置100の画像形成機能及び読取機能に関連する詳細な構成の一例を示す模式図である。図2を参照すると、画像形成装置100は、リーダ200と、プリンタ300とを含む。リーダ200は、原稿を読取って読取画像データを生成する読取手段である。プリンタ300は、記録媒体に画像を形成する画像形成手段である。リーダ200は、プリンタ300の上方に配設され、信号線を介してプリンタ300と接続される。画像形成装置100がコピー動作を行う場合には、リーダ200により生成される読取画像データがプリンタ300へ転送され、読取画像データに基づく画像がプリンタ300により記録媒体に形成される。
(1)画像形成機能に関連する構成例
プリンタ300は、画像形成に関与する複数の部材と、それら部材の動作を制御する制御部110とを含む。制御部110は、ジョブの種類に応じて異なるデータソースから、印刷すべき画像の画像データを取得し、取得した画像データに基づいて画像形成ジョブを実行する。ここでは、プリンタ300は、電子写真方式でカラー画像又はモノクロ画像を形成するように構成されているものとする。
プリンタ300は、画像形成に関与する複数の部材と、それら部材の動作を制御する制御部110とを含む。制御部110は、ジョブの種類に応じて異なるデータソースから、印刷すべき画像の画像データを取得し、取得した画像データに基づいて画像形成ジョブを実行する。ここでは、プリンタ300は、電子写真方式でカラー画像又はモノクロ画像を形成するように構成されているものとする。
プリンタ300は、図中の左から順に、イエロー(Y)、マゼンタ(M)、シアン(C)、ブラック(K)という4つの色成分の画像をそれぞれ形成するサブユニットを含む画像形成エンジン(画像形成手段)10を備える。各サブユニットは、感光ドラム11を含む。各サブユニットは、さらに、感光ドラム11の周囲に、帯電ローラ12、露光器13、現像器14、一次転写ローラ17、及びドラムクリーナ15を含む。
画像形成動作が開始されると、感光ドラム11は、図中の矢印方向に回転する。帯電ローラ12は、感光ドラム11の表面を均一に帯電させる。露光器13は、入力画像データに従って変調されるレーザ光で感光ドラム11の表面を露光して、感光ドラム11に静電潜像を形成する。現像器14は、静電潜像にトナーを供給して、静電潜像からトナー像を現像する。一次転写ローラ17は、感光ドラム11に形成されたトナー像を中間転写ベルト31に一次転写する。ドラムクリーナ15は、転写後に感光ドラム11に残ったトナーを除去して、感光ドラム11を次の画像を形成できる状態にする。ドラムクリーナ15は、例えば、弾性材料からなるクリーニングブレードを感光ドラム11の表面に当接するように構成されてもよく、又は、ファーブラシを感光ドラム11の表面に接触させてトナーを回収するように構成されてもよい。
プリンタ300は、さらに、二次転写器27、中間転写ベルト31及び転写クリーナ35を備える。中間転写ベルト31は、感光ドラム11から転写されたトナー像を担持する像担持体である。中間転写ベルト31は、3つのローラ34、36及び37に吊架される。二次転写器27は、中間転写ベルト31を挟んでローラ34の反対側に配設される。中間転写ベルト31は、ローラ34、36及び37の回転によって図中で時計回りの方向に回動して、トナー像をローラ34と二次転写器27との間の二次転写位置へ搬送する。転写クリーナ35は、中間転写ベルト31を挟んでローラ36の反対側に配設される。
プリンタ300は、さらに、1つ以上の給紙カセット20及び手差しトレイ25を備える。各給紙カセット20は、シートPの束を収容する。各シートPは、給紙カセット20又は手差しトレイ25から搬送路へ供給され、搬送路に沿ってレジストローラ対23まで搬送される。レジストローラ対23は、搬送されて来たシートPを一旦停止させ、シートPの斜行を補正する。レジストローラ対23は、中間転写ベルト31に担持されたトナー像が二次転写位置に到達するタイミングに合わせてシートPを二次転写位置に送り込む。二次転写器27は、中間転写ベルト31上のトナー像をシートPに転写する。転写クリーナ35は、中間転写ベルト31に残ったトナーを除去する。
プリンタ300は、さらに、定着器40、排出ローラ63及び排出トレイ64を備える。トナー像が転写されたシートPは、定着器40へ搬送される。定着器40は、例えば、トナー像を定着ローラ41で加熱して溶融させ、さらに加圧ローラ42で加圧することで、シートPにトナー画像を定着させる。このようにして画像が形成されたシートPは、排出ローラ63により排出トレイ64へ排出される。
プロセスカートリッジ50は、例えば感光ドラム11、帯電ローラ12及びドラムクリーナ15を含む、交換可能(画像形成装置100に対して脱着可能)なカートリッジである。ユーザ又はサービスマンは、感光ドラム11、帯電ローラ12又はドラムクリーナ15に不具合が生じた際には、プロセスカートリッジ50を交換することで、短いダウンタイムで簡便に不具合を解消することができる。同様に、転写ユニット30は、例えば一次転写ローラ17及び中間転写ベルト31を含む、交換可能なユニットであり得る。ユーザ又はサービスマンは、一次転写ローラ17又は中間転写ベルト31に不具合が生じた際には、転写ユニット30を交換することで、短いダウンタイムで簡便に不具合を解消することができる。さらに、画像形成装置100において、現像器14及び転写クリーナ35といった他の部材もまた、交換可能であってよい。
(2)読取機能に関連する構成例
リーダ200は、スキャナユニット210と、自動原稿給送(ADF)ユニット220とを含む。スキャナユニット210の上面には原稿台ガラス101が配設されている。ADFユニット220は、給送方向SX2に沿って原稿を給送する。スキャナユニット210は、光学系102、レンズユニット107、画像センサ108、及び画像処理部109を含む。本実施例において、リーダ200は、原稿の読取りのための2つの読取りモードをサポートする。第1の読取りモードは、スキャナユニット210がADFユニット220により給送されて来る原稿を読取るモードである。第1の読取りモードは、流し読みモード又はADF読みモードと呼ばれ得る。第2の読取りモードは、スキャナユニット210が原稿台ガラス101に載置される原稿Dを読取るモードである。第2の読取りモードは、固定読みモード又は原稿台読みモードと呼ばれ得る。
リーダ200は、スキャナユニット210と、自動原稿給送(ADF)ユニット220とを含む。スキャナユニット210の上面には原稿台ガラス101が配設されている。ADFユニット220は、給送方向SX2に沿って原稿を給送する。スキャナユニット210は、光学系102、レンズユニット107、画像センサ108、及び画像処理部109を含む。本実施例において、リーダ200は、原稿の読取りのための2つの読取りモードをサポートする。第1の読取りモードは、スキャナユニット210がADFユニット220により給送されて来る原稿を読取るモードである。第1の読取りモードは、流し読みモード又はADF読みモードと呼ばれ得る。第2の読取りモードは、スキャナユニット210が原稿台ガラス101に載置される原稿Dを読取るモードである。第2の読取りモードは、固定読みモード又は原稿台読みモードと呼ばれ得る。
スキャナユニット210の光学系102は、第1ミラーユニット104a、第2ミラーユニット104b及びモータ106を含む。第1ミラーユニット104aは、ランプ103及び第1ミラー105aを含む。第2ミラーユニット104bは、第2ミラー105b及び第3ミラー105cを含む。第1ミラーユニット104a及び第2ミラーユニット104bは、モータ106により駆動されて方向SX1に沿って移動可能である。
流し読みモードにおいて、モータ106は、第1ミラーユニット104a及び第2ミラーユニット104bを流し読み位置Lに移動させて停止させる。流し読み位置Lは、原稿台ガラス101の下方にある。ランプ103は、ADFユニット220により搬送されて流し読み位置Lに到達した原稿に光を照射する。第1ミラー105a、第2ミラー105b及び第3ミラー105cは、原稿の読取面で反射した光を、図中に一点鎖線で示した光路Qに沿ってレンズユニット107の方向へ案内する。
固定読みモードにおいて、モータ106は、まず第1ミラーユニット104a及び第2ミラーユニット104bをホーム位置まで移動させる。原稿台ガラス101には、1枚の原稿が読取面を原稿台ガラス101側に向けて載置される。ADFユニット220は、原稿台ガラス101に載置された原稿を押圧して固定する。読取りが開始されると、モータ106は、第1ミラーユニット104a及び第2ミラーユニット104bを方向SX1に沿って移動させる。その間、ランプ103は原稿の読取面に光を照射し、第1ミラー105a、第2ミラー105b及び第3ミラー105cは原稿の読取面で反射した光を光路Qに沿ってレンズユニット107の方向へ案内する。
いずれの読取りモードにおいても、レンズユニット107は、光学系102を通過した画像光を画像センサ108の受光面上に結像させる。画像センサ108は、受光面に入射した画像光を電気信号に変換する。画像処理部109は、画像センサ108から出力される電気信号を画像データへ変換する。画像処理部109は、画像データに対して、例えば色空間の変換、ノイズの除去及び階調補正といった画像処理を行ってもよい。
(3)全体的なハードウェア構成例
図3は、本実施例に係る画像形成装置100のハードウェア構成の一例を示す模式図である。図3を参照すると、画像形成装置100は、リーダ200、プリンタ300、コントローラユニット400、及びディスプレイユニット450を備える。コントローラユニット400は、CPU401、RAM402、ROM403、ストレージ404、画像バスI/F405、ディスプレイI/F406、ネットワークI/F407、接続I/F408、オーディオI/F409及びRTC410を含む。CPU401、RAM402、ROM403、ストレージ404、画像バスI/F405、ディスプレイI/F406、ネットワークI/F407、接続I/F408、オーディオI/F409及びRTC410は、システムバス411を介して相互に接続される。
図3は、本実施例に係る画像形成装置100のハードウェア構成の一例を示す模式図である。図3を参照すると、画像形成装置100は、リーダ200、プリンタ300、コントローラユニット400、及びディスプレイユニット450を備える。コントローラユニット400は、CPU401、RAM402、ROM403、ストレージ404、画像バスI/F405、ディスプレイI/F406、ネットワークI/F407、接続I/F408、オーディオI/F409及びRTC410を含む。CPU401、RAM402、ROM403、ストレージ404、画像バスI/F405、ディスプレイI/F406、ネットワークI/F407、接続I/F408、オーディオI/F409及びRTC410は、システムバス411を介して相互に接続される。
CPU(Central Processing Unit)401は、ROM403に予め記憶されるブートプログラムを実行して、画像形成装置100のオペレーションシステム(OS)を立ち上げる。CPU401は、ストレージ404に記憶されている様々なコンピュータプログラムをこのOS上で実行することにより、画像形成装置100の機能全般を制御する。RAM(Random Access Memory)402は、CPU401に作業用の記憶領域を提供すると共に、画像データを一時的に記憶する。ROM(Read-Only Memory)403は、上述したブートプログラム及び関連する設定データを記憶する不揮発性の記憶媒体である。ストレージ404は、1つ以上のコンピュータプログラム、並びに制御データ、画像データ及びアプリケーションデータといった多様なデータを記憶する。画像バスインタフェース(I/F)405は、画像バス412をシステムバス411へ接続し、画像データのデータ形式を変換する機能を有するバスブリッジである。ディスプレイI/F406は、ディスプレイユニット450のタッチパネル452をシステムバス411へ接続するためのインタフェースである。ネットワークI/F407は、画像形成装置100によるネットワーク5を介する他の装置との通信のための通信インタフェースである。ネットワークI/F407は、有線通信インタフェースであってもよく、又は無線通信インタフェースであってもよい。接続I/F408は、外部メモリを画像形成装置100へ着脱可能に接続するためのインタフェースである。図3の例では、接続I/F408は、USB(Universal Serial Bus)インタフェースであり、接続I/F408にUSBメモリ460が接続されている。オーディオI/F409は、ディスプレイユニット450のスピーカ451をシステムバス411へ接続するためのインタフェースである。RTC(Real-Time Clock)415は、時刻を計測するクロックである。
コントローラユニット400は、デバイスI/F420、画像処理部109及び制御部110をさらに含む。画像バスI/F405、デバイスI/F420、画像処理部109及び制御部110は、画像バス412を介して相互に接続される。画像バス412は、例えばPCI又はIEEE1394といった通信規格に準拠し、画像データを高速で転送することができる。デバイスI/F420は、リーダ200及びプリンタ300をコントローラユニット400へ接続するためのインタフェースである。
ディスプレイユニット450は、スピーカ451及びタッチパネル452を含む。スピーカ451は、コントローラユニット400のオーディオI/F409へ接続される。スピーカ451は、例えば、コントローラユニット400から出力される音声信号に基づいて音声(例えば、ユーザへ提示すべき情報を読み上げる音声)を出力する。タッチパネル452は、コントローラユニット400のディスプレイI/F406へ接続される。タッチパネル452は、ユーザによる操作及び情報入力を受け付けることができると共に、画像及び情報を表示することができる。なお、画像形成装置100のディスプレイユニット450の構成は、上述した例には限定されない。ディスプレイユニット450は、ユーザからの音声入力を受け付けるマイクロフォンを含んでもよい。また、画像形成装置100は、例えば、いくつかのLED(Light-Emitting Diode)又は7セグメントディスプレイといった、より簡易な表示手段を備えていてもよい。
<2-2.印刷画像の異常の例>
図4は、画像形成装置100のプリンタ300により形成される印刷画像に現れる可能性のある異常のいくつかの例について説明するための説明図である。左上に示した画像IM01及びIM02は、共に正常な印刷画像の例である。一方、右に示した画像IM11、IM12、IM21、IM22、IM31及びIM32は、異常が現れている印刷画像の例である。図4に示したように、印刷画像に現れる異常にはいくつかの可視的なパターンが存在し、どのようなパターンが現れるかは主として異常の原因に依存する。ここでは、3種類の異常のパターンについて説明する。
図4は、画像形成装置100のプリンタ300により形成される印刷画像に現れる可能性のある異常のいくつかの例について説明するための説明図である。左上に示した画像IM01及びIM02は、共に正常な印刷画像の例である。一方、右に示した画像IM11、IM12、IM21、IM22、IM31及びIM32は、異常が現れている印刷画像の例である。図4に示したように、印刷画像に現れる異常にはいくつかの可視的なパターンが存在し、どのようなパターンが現れるかは主として異常の原因に依存する。ここでは、3種類の異常のパターンについて説明する。
(1)点状の染み
第1の異常パターンは、点状の染みである。典型的には、点状の染みは、黒色の小さな点又は点の集合として印刷画像に現れる。図4の例では、印刷画像IM11及びIM12に点状の染みP1が現れている。点状の染みの原因は、例えば定着ローラ41の汚れであり得る。例えば、プリンタ300が画像形成動作を繰り返すと、定着ローラ41の表面にトナーが付着することがある。このトナーがさらに記録媒体に転移することで、印刷画像に点状の染みが現れる。印刷画像に点状の染みが現れた場合、一例として、クリーニング用紙に定着器40を通過させることで定着ローラ41の表面に残存するトナーをクリーニング用紙に転移させて、定着ローラ41を正常な状態に復帰させるという対処法があり得る。他の例として、定着器40の交換、又は、定着器40がクリーニング部材を具備している場合にはクリーニング部材による定着ローラ41のクリーニングといった対処法が採られてもよい。
第1の異常パターンは、点状の染みである。典型的には、点状の染みは、黒色の小さな点又は点の集合として印刷画像に現れる。図4の例では、印刷画像IM11及びIM12に点状の染みP1が現れている。点状の染みの原因は、例えば定着ローラ41の汚れであり得る。例えば、プリンタ300が画像形成動作を繰り返すと、定着ローラ41の表面にトナーが付着することがある。このトナーがさらに記録媒体に転移することで、印刷画像に点状の染みが現れる。印刷画像に点状の染みが現れた場合、一例として、クリーニング用紙に定着器40を通過させることで定着ローラ41の表面に残存するトナーをクリーニング用紙に転移させて、定着ローラ41を正常な状態に復帰させるという対処法があり得る。他の例として、定着器40の交換、又は、定着器40がクリーニング部材を具備している場合にはクリーニング部材による定着ローラ41のクリーニングといった対処法が採られてもよい。
(2)線状のかすれ
第2の異常パターンは、線状のかすれである。典型的には、線状のかすれは、有色領域における白色の(又は色の薄い)線として印刷画像に現れる。図4の例では、印刷画像IM21及びIM22に線状のかすれP2が現れている。線状のかすれの原因は、例えばプロセスカートリッジ50内の感光ドラム11の損傷であり得る。例えば、感光ドラム11が損傷すると、感光ドラム11へ照射されるレーザ光が損傷位置において遮られ、レーザ光の走査方向に直交する方向に沿ってトナーの欠損が生じ、その結果印刷画像に線状のかすれが現れる。印刷画像に線状のかすれが現れた場合、一例として、プロセスカートリッジ50を交換するという対処法があり得る。プロセスカートリッジ50がトナーカートリッジと一体化されている場合には、トナーカートリッジの交換が必要である。
第2の異常パターンは、線状のかすれである。典型的には、線状のかすれは、有色領域における白色の(又は色の薄い)線として印刷画像に現れる。図4の例では、印刷画像IM21及びIM22に線状のかすれP2が現れている。線状のかすれの原因は、例えばプロセスカートリッジ50内の感光ドラム11の損傷であり得る。例えば、感光ドラム11が損傷すると、感光ドラム11へ照射されるレーザ光が損傷位置において遮られ、レーザ光の走査方向に直交する方向に沿ってトナーの欠損が生じ、その結果印刷画像に線状のかすれが現れる。印刷画像に線状のかすれが現れた場合、一例として、プロセスカートリッジ50を交換するという対処法があり得る。プロセスカートリッジ50がトナーカートリッジと一体化されている場合には、トナーカートリッジの交換が必要である。
(3)線状の汚れ
第3の異常パターンは、線状の汚れである。典型的には、線状の汚れは、用紙Pの長さ方向のおおよそ全体にわたる黒色の線として印刷画像に現れる。図4の例では、印刷画像IM31及びIM32に線状の汚れP3が現れている。線状の汚れの原因は、例えばADFユニット220に付着した汚れであり得る。例えば、ADFユニット220が原稿搬送動作を繰り返すと、ADFユニット220の内部のローラに埃又はインクといった汚れが付着することがある。この汚れがコピーの際に読取られて印刷されることで、印刷画像に線状の汚れが現れる。印刷画像に線状の汚れが現れた場合、一例として、ADFユニット220が具備するクリーニング機能を作動させるという対処法があり得る。他の例として、ユーザがADFユニット220を開けて内部のローラの汚れを布で拭き取るという対処法が採られてもよい。
第3の異常パターンは、線状の汚れである。典型的には、線状の汚れは、用紙Pの長さ方向のおおよそ全体にわたる黒色の線として印刷画像に現れる。図4の例では、印刷画像IM31及びIM32に線状の汚れP3が現れている。線状の汚れの原因は、例えばADFユニット220に付着した汚れであり得る。例えば、ADFユニット220が原稿搬送動作を繰り返すと、ADFユニット220の内部のローラに埃又はインクといった汚れが付着することがある。この汚れがコピーの際に読取られて印刷されることで、印刷画像に線状の汚れが現れる。印刷画像に線状の汚れが現れた場合、一例として、ADFユニット220が具備するクリーニング機能を作動させるという対処法があり得る。他の例として、ユーザがADFユニット220を開けて内部のローラの汚れを布で拭き取るという対処法が採られてもよい。
ここでは、印刷画像の3種類の異常のパターンを例示したが、本開示に係る技術は、当然ながら他の種類の異常のパターンにも適用されてよい。上述した説明から理解されるように、異常の原因が同じであれば、印刷画像に現れる異常の視覚的なパターンは、ある程度互いに類似する。換言すると、印刷画像に現れる異常の視覚的なパターンは、主として異常の原因に依存したパターンとなる。本実施例では、こうした異常のパターンを機械学習の仕組みを通じて学習し、ユーザの主観的な判断に依拠することなく、学習済みモデルを利用して異常の有無及び異常の種別を判定することとする。
<2-3.機能構成例>
図5は、本実施例に係る画像形成装置100及びサーバ装置2の機能面の構成の一例を示すブロック図である。図5を参照すると、画像形成装置100は、画像取得部130、判定部140及び情報提示部180を備える。画像取得部130、判定部140及び情報提示部180は、例えば、上述した画像形成装置100の処理回路(例えば、CPU401及び/又は制御部110)がコンピュータプログラムを実行することで具現化される機能モジュールであってよい。また、サーバ装置2は、記憶部150及び推論部160を備える。推論部160は、例えば、サーバ装置2の処理回路がメモリに記憶されるコンピュータプログラムを実行することで具現化される機能モジュールであってよい。図5には、サーバ装置2がさらに学習部120を備える例が示されている。他の実施例では、学習部120は、サーバ装置2とは異なる装置に存在していてもよい。
図5は、本実施例に係る画像形成装置100及びサーバ装置2の機能面の構成の一例を示すブロック図である。図5を参照すると、画像形成装置100は、画像取得部130、判定部140及び情報提示部180を備える。画像取得部130、判定部140及び情報提示部180は、例えば、上述した画像形成装置100の処理回路(例えば、CPU401及び/又は制御部110)がコンピュータプログラムを実行することで具現化される機能モジュールであってよい。また、サーバ装置2は、記憶部150及び推論部160を備える。推論部160は、例えば、サーバ装置2の処理回路がメモリに記憶されるコンピュータプログラムを実行することで具現化される機能モジュールであってよい。図5には、サーバ装置2がさらに学習部120を備える例が示されている。他の実施例では、学習部120は、サーバ装置2とは異なる装置に存在していてもよい。
(1)学習処理
学習部120は、ユーザによる画像形成装置100の利用に先立って、学習済みモデルを獲得するための学習処理を実行する。学習処理は、例えば、画像形成装置100の開発又は製造の段階で、試験的に作成される多数の印刷画像サンプルを用いて行われ得る。本実施例において、学習処理は、複数の印刷画像の多次元の画素値ベクトルを、クラスタ解析を通じてk個(kは2以上の整数)の異常種別にそれぞれ対応するクラスタへクラスタリングすることにより行われる。k個の異常種別は、例えば、上述した点状の染み、線状のかすれ及び線状の汚れのうちの2つ以上であってよい。ここでは、異常種別の候補は、これら3つの種別を含むものとする(即ち、k=3)。
学習部120は、ユーザによる画像形成装置100の利用に先立って、学習済みモデルを獲得するための学習処理を実行する。学習処理は、例えば、画像形成装置100の開発又は製造の段階で、試験的に作成される多数の印刷画像サンプルを用いて行われ得る。本実施例において、学習処理は、複数の印刷画像の多次元の画素値ベクトルを、クラスタ解析を通じてk個(kは2以上の整数)の異常種別にそれぞれ対応するクラスタへクラスタリングすることにより行われる。k個の異常種別は、例えば、上述した点状の染み、線状のかすれ及び線状の汚れのうちの2つ以上であってよい。ここでは、異常種別の候補は、これら3つの種別を含むものとする(即ち、k=3)。
図5には、学習部120により実行される学習処理へ入力される訓練データ125が示されている。訓練データ125は、それぞれの異常種別が既知である複数の印刷画像の画像データの集合であってよい。例えば、訓練データ125は、異常種別ごとに1000枚の印刷画像、即ち合計で3000枚の印刷画像の画像データであり得る。各画像のサイズが120画素×90画素である場合、1枚の印刷画像(二値画像又はグレースケール画像)のビットマップの画素値ベクトルは、10800次元のベクトルとなる。グレースケール画像を用いることで画像の濃淡を考慮した精度の高い異常判定を実現できる一方、二値画像を用いる場合には演算及び通信の負荷を軽減して迅速な判定を行うことが可能となる。学習部120は、例えば、k平均法を用いて、訓練データ125の3000個の画素値ベクトルを、3つ異常種別にそれぞれ対応する3つのクラスタへ分類することができる。k平均法では、各画素値ベクトルにクラスタを割り当てる際に、クラスタ中心点と当該画素値ベクトルとの間の(画像間の類似度を表す)距離を算出することを要するが、ここではその距離としてDTW(Dynamic Time Warping)距離を用いるものとする。画像間の類似度の指標としてDTW距離を用いることで、画像内の異常パターンの位置がシフトし又は異常パターンの空間的なスケールが変動し得る状況でも、パターン間の類似の度合いをロバストに評価することができる。
図6は、本実施例に係る学習部120により実行され得る学習処理の流れの一例を示すフローチャートである。なお、以下の説明では、処理ステップをS(ステップ)と略記する。
図6を参照すると、まず、S610で、学習部120は、異常種別が既知である異常が現れた多数(例えば、異常種別ごとに1000枚)の印刷画像サンプルからなる訓練データ125を取得する。学習部120は、例えば、取得した印刷画像サンプルの各々の画素値ベクトルを、多次元(例えば、10800次元)のベクトル空間にプロットする。
次いで、S620で、学習部120は、画素値ベクトルをプロットしたベクトル空間に、k個(例えば、k=3)のクラスタ中心点の初期位置をランダムに設定する。
次いで、S630で、学習部120は、1つの印刷画像サンプルの画素値ベクトルに注目し(以下、注目ベクトルという)、注目ベクトルとk個のクラスタ中心点との間のDTW距離を算出する。次いで、S640で、学習部120は、注目ベクトルに対応する印刷画像サンプルを、k個のクラスタのうちS630で算出したDTW距離が最も小さいクラスタに割り当てる。次いで、S650で、学習部120は、訓練データ125内に未処理の次の印刷画像サンプルが残されているかを判定する。次の印刷画像サンプルが残されている場合、処理はS630へ戻り、次の印刷画像サンプルの画素値ベクトルを注目ベクトルとしてS630及びS640が繰り返される。全ての印刷画像サンプルについて暫定的なクラスタの割当てが終了した場合、処理はS660へ進む。
S660で、学習部120は、k個のクラスタの各々の中心点を、当該クラスタに現時点で割当てられている印刷画像サンプルの画素値ベクトルの重心位置に移動させる。次いで、S670で、学習部120は、S660で少なくとも1つのクラスタ中心点が移動したかを判定する。少なくとも1つのクラスタ中心点が移動した場合、処理はS630へ戻り、全ての画素値ベクトルについて、k個のクラスタ中心点の新たな位置に基づいてS630及びS640が繰り返される。S660でどのクラスタ中心点も結果的に移動しなかった場合(即ち、学習が収束した場合)、クラスタの更新の繰返しは停止され、処理はS680へ進む。
S680で、学習部120は、k個のクラスタの各々の異常種別を、当該クラスタに最終的に割当てられている印刷画像サンプルの異常種別に基づいて決定する。例えば、第1のクラスタに割当てられている印刷画像サンプルの異常種別のうち最も多い種別が第1の種別である場合、第1のクラスタは、第1の種別に対応するクラスタであると決定され得る。同様に、第2のクラスタに割当てられている印刷画像サンプルの異常種別のうち最も多い種別が第2の種別である場合、第2のクラスタは、第2の種別に対応するクラスタであると決定され得る。
学習部120は、このようにして訓練データ125に含まれる多数の印刷画像サンプルの画素値ベクトルをクラスタリングすることにより学習済みモデル155を形成し、形成した学習済みモデル155を記憶部150に記憶させる。学習済みモデル155は、典型的には、画素値ベクトル空間内の、異常種別ごとのクラスタの中心点の位置の定義を含む。
なお、学習部120は、同種の複数の画像形成装置100について1つの学習済みモデル155を導出してもよく、又は1つの画像形成装置100について1つの学習済みモデル155を導出してもよい。前者の場合、学習部120は、導出した学習済みモデル155を、画像形成装置100の種類を識別する識別情報に関連付けて記憶部150に記憶させる。後者の場合、学習部120は、導出した学習済みモデル155を、画像形成装置100の個体を識別する識別情報に関連付けて記憶部150に記憶させる。
(2)類似度としてのDTW距離
ここでは、画像間の類似度の指標として扱われるDTW距離を動的計画法の原理に従って算出する手法について説明する。一例として、N次元の画素値ベクトル空間を想定し、2つの画素値ベクトルp=(p1,p2,...,pN)及びq=(q1,q2,...,qN)がこの画素値ベクトル空間に属するものとする。そして、サイズN×Nのコスト行列Cを、コスト値を表す要素ci,jを次の規則に従って始点(i=1,j=1)から終点(i=N,j=N)まで再帰的に導出することにより決定する:
ここでは、画像間の類似度の指標として扱われるDTW距離を動的計画法の原理に従って算出する手法について説明する。一例として、N次元の画素値ベクトル空間を想定し、2つの画素値ベクトルp=(p1,p2,...,pN)及びq=(q1,q2,...,qN)がこの画素値ベクトル空間に属するものとする。そして、サイズN×Nのコスト行列Cを、コスト値を表す要素ci,jを次の規則に従って始点(i=1,j=1)から終点(i=N,j=N)まで再帰的に導出することにより決定する:
コスト行列Cの全体が決定されたとき、終点のコスト値cN,Nが、画素値ベクトルp及びqの間のDTW距離を示す。このDTW距離は、コスト行列Cの始点から終点までを結ぶあり得る経路のうち、その経路が辿る要素のコスト値の総和を最小にする経路の、当該コスト値の総和に等しい。
直観的には、この動的計画法は、画素値の配列をスケーリングしながら、画素値の増減のパターンがベクトル間でフィットする場所を探索するものであると言える。このように算出されるDTW距離は、印刷画像に現れる異常の特徴的なパターンの位置がシフトし又はその空間的スケールが変動したとしても、パターンの間の類似の度合いを適切に反映した指標値となる。
(3)画像データの取得
画像形成装置100の画像取得部130は、異常が現れている可能性のある印刷画像の読取画像データを取得する。一例として、ユーザは、印刷画像が形成された原稿をADFユニット220又は原稿台ガラス101にセットし、ディスプレイユニット450により表示されるユーザインタフェース(UI)を介して状態診断機能を呼出す。すると、リーダ200は、セットされた原稿の印刷画像を読取って、読取画像データを生成する。画像取得部130は、このように生成される読取画像データを取得し得る。他の例として、画像取得部130は、他の装置において印刷画像を読取ることにより生成された読取画像データを、状態診断要求と共にネットワークI/F407を介して受信してもよい。例えば、画像形成装置100a及び100bのうち画像形成装置100aのみが状態診断機能を有する場合に、画像形成装置100aが画像形成装置100bから読取画像データを受信してもよい。画像取得部130は、診断の対象である印刷画像が他の装置により形成された画像である場合には、当該印刷画像を形成した装置の種類又は個体を識別するユーザ入力情報を(例えば、UI又はネットワークI/F407を介して)取得してもよい。画像取得部130は、取得したデータを判定部140へ出力する。
画像形成装置100の画像取得部130は、異常が現れている可能性のある印刷画像の読取画像データを取得する。一例として、ユーザは、印刷画像が形成された原稿をADFユニット220又は原稿台ガラス101にセットし、ディスプレイユニット450により表示されるユーザインタフェース(UI)を介して状態診断機能を呼出す。すると、リーダ200は、セットされた原稿の印刷画像を読取って、読取画像データを生成する。画像取得部130は、このように生成される読取画像データを取得し得る。他の例として、画像取得部130は、他の装置において印刷画像を読取ることにより生成された読取画像データを、状態診断要求と共にネットワークI/F407を介して受信してもよい。例えば、画像形成装置100a及び100bのうち画像形成装置100aのみが状態診断機能を有する場合に、画像形成装置100aが画像形成装置100bから読取画像データを受信してもよい。画像取得部130は、診断の対象である印刷画像が他の装置により形成された画像である場合には、当該印刷画像を形成した装置の種類又は個体を識別するユーザ入力情報を(例えば、UI又はネットワークI/F407を介して)取得してもよい。画像取得部130は、取得したデータを判定部140へ出力する。
(4)推論及び判定
画像形成装置100の判定部140は、画像取得部130により取得される読取画像データに基づいて、複数の異常種別のうち印刷画像に現れた異常の種別を判定する。より具体的には、本実施例において、判定部140は、読取画像データをサーバ装置2へ送信し、事前に獲得された上述した学習済みモデル155に読取画像データを適用した結果をサーバ装置2から受信する。そして、判定部140は、読取画像データの適用の結果に基づいて、印刷画像に現れた異常の種別を判定する。
画像形成装置100の判定部140は、画像取得部130により取得される読取画像データに基づいて、複数の異常種別のうち印刷画像に現れた異常の種別を判定する。より具体的には、本実施例において、判定部140は、読取画像データをサーバ装置2へ送信し、事前に獲得された上述した学習済みモデル155に読取画像データを適用した結果をサーバ装置2から受信する。そして、判定部140は、読取画像データの適用の結果に基づいて、印刷画像に現れた異常の種別を判定する。
判定部140は、読取画像データを(例えば、所定のサイズのビットマップデータなどへ)整形し、整形した読取画像データを診断要求R1に含めて、ネットワークI/F407を介してサーバ装置2へ送信する。診断要求R1は、読取画像データを上述した学習済みモデルに適用することを求める要求である。判定部140は、印刷画像を形成した装置の種類又は個体を識別する識別情報を診断要求R1に含めてもよい。
サーバ装置2の推論部160は、画像形成装置100から診断要求R1が受信されると、診断要求R1に含まれる識別情報に対応する学習済みモデル155を記憶部150から読出し、読出した学習済みモデル155に読取画像データを適用する。例えば、推論部160は、画像形成装置100から受信した読取画像データの画素値ベクトルと学習済みモデル155により定義されるk個のクラスタの中心点との間のDTW距離を算出する。読取画像データの画素値ベクトルは、k個のクラスタの中心点のうちここで算出されるDTW距離が最も小さい中心点に対応するクラスタに属すると判定され得る。そして、推論部160は、診断応答R2を画像形成装置100へ返送する。診断応答R2は、学習済みモデル155への読取画像データの適用の結果を画像形成装置100に提供するための、診断要求R1に対応する応答である。
画像形成装置100の判定部140は、サーバ装置2からネットワークI/F407を介して診断応答R2を受信する。そして、判定部140は、診断の対象とした印刷画像に現れた異常の種別は、学習済みモデル155のk個のクラスタのうち読取画像データの画素値ベクトルが属するクラスタに対応する異常種別であると判定する。一例として、診断応答R2は、推論部160により算出された、k個のクラスタそれぞれの中心点と読取画像データの画素値ベクトルとの間のDTW距離(即ち、k個の値)を含んでもよい。この場合、判定部140は、診断応答R2に含まれるk個のDTW距離のうちの最小値を示すクラスタがどの異常種別に対応するクラスタであるかを判定し得る。他の例として、診断応答R2は、k個のDTW距離のうちの最小値と、当該最小値を示すクラスタを識別するクラスタ識別子とを含んでもよい。この場合、判定部140は、診断応答R2に含まれるクラスタ識別子から、印刷画像に現れた異常の種別を判定し得る。
判定部140は、読取画像データの画素値ベクトルとの間で最小の距離を示すクラスタの中心点の当該最小の距離が閾値を上回る(即ち、外れ値に該当するような小さい値ではない)場合に、診断の対象とした印刷画像に異常は現れていないと判定してもよい。ここでの閾値は、予め設定されてもよく、又は、可変的に設定されてもよい。例えば、判定部140は、上記閾値を、k個の距離を母集団とした場合の所定の偏差値(例えば、30)に対応する距離の値に設定してもよい。距離の大きさをクラスタ間で相対的に比較するだけでなく、画素値ベクトルが特定のクラスタの中心点に有意に近いかをこうした閾値比較に基づき判定することで、実際には異常の無い印刷画像について誤って異常が検出される可能性を低減することができる。なお、外れ値の判定は、上述した例に限定されず、他のいかなる手法で行われてもよい(例えば、棄却検定などの検定法に基づく手法が利用されてもよい)。
図7は、本実施例に係る情報処理システム1において実行され得る状態診断処理の流れの一例を示すシーケンス図である。図7に示した状態診断処理には、画像形成装置100及びサーバ装置2が関与する。
図7を参照すると、まず、S710で、画像形成装置100の画像取得部130は、状態診断機能の呼出しに応じて起動し、ユーザによりセットされた原稿の印刷画像の読取りをリーダ200に指示する。そして、画像取得部130は、印刷画像の読取画像データをリーダ200から取得する。
次いで、S720で、判定部140は、画像取得部130により取得された読取画像データを、サーバ装置2への診断要求のために整形する。例えば、判定部140は、読取画像データのデータ形式をビットマップ形式へ変換し、必要に応じてカラー画像をグレースケール画像又はモノクロ画像へ変換する。
次いで、S730で、判定部140は、ネットワークI/F407を介してサーバ装置2へ、読取画像データを含む診断要求を送信する。サーバ装置2の推論部160は、ネットワークI/F407と同様の通信インタフェースを介して診断要求を受信する。
次いで、S740で、サーバ装置2の推論部160は、画像形成装置100から受信した読取画像データを適用すべき学習済みモデル155を、記憶部150から読出す。次いで、S750で、推論部160は、読出した学習済みモデル155に読取画像データを適用することにより、k個のクラスタの各々について、クラスタ中心点と読取画像データの画素値ベクトルとの間のDTW距離を算出する。
次いで、S760で、推論部160は、通信インタフェースを介して画像形成装置100へ、S750で算出したDTW距離の値を含む診断応答を送信する。画像形成装置100の判定部140は、ネットワークI/F407を介して診断応答を受信する。
次いで、S770で、判定部140は、k個のクラスタのうち診断応答において最小のDTW距離を示しているクラスタを判定する。次いで、S780で、判定部140は、S770で判定したクラスタのDTW距離を外れ値を判定するための閾値と比較する。比較の結果として、DTW距離が閾値よりも小さい場合には、判定部140は、S710で読取られた印刷画像に、S770で判定したクラスタに対応する種別の異常が現れていると判定する。一方、DTW距離が閾値よりも小さくない場合には、判定部140は、印刷画像に異常は現れていないと判定する。
ここでは、状態診断処理に画像形成装置100及びサーバ装置2が関与する例を説明したが、状態診断処理にはより多くの装置が関与してもよい。例えば、読取画像データを学習済みモデルに適用する装置とは別に、学習済みモデルを記憶している装置が存在してもよい。また、状態診断処理は、単一の装置(例えば、学習済みモデルをローカルに記憶している画像形成装置又は画像読取装置)により実行されてもよい。
(5)対処法情報の提示
情報提示部180は、判定部140により判定された種別に対応する、印刷画像の異常に対処するための対処法を示す対処法情報をユーザに提示する。一例として、情報提示部180は、判定された種別に対応する異常に対処するための手順の説明をディスプレイユニット450の画面上に表示させることにより、対処法情報をユーザに提示してもよい。他の例として、情報提示部180は、判定された種別に対応する異常に対処するための対処法を識別するコードを、ディスプレイに表示させてもよい。この場合のディスプレイは、ディスプレイユニット450であってもよく、又は7セグメントディスプレイのようなより簡易なものであってもよい。さらなる例として、情報提示部180は、判定された種別に対応する異常に対処するための対処法を識別する発光パターンで発光素子(例えば、LED)を発光させることにより、対処法情報をユーザに提示してもよい。ここでの発光パターンは、例えば発光の色、発光する素子の数、発光の時間長、及び点滅の周期の任意の組合せであってよい。また別の例として、情報提示部180は、判定された種別に対応する異常に対処するための手順の説明又は対処法を識別するコードを表す音声を、スピーカ451のような音声出力インタフェースから出力させることにより、対処法情報をユーザに提示してもよい。なお、情報提示部180は、判定部140により印刷画像に異常は現れていないと判定された場合には、対処法情報をユーザに提示しない。
情報提示部180は、判定部140により判定された種別に対応する、印刷画像の異常に対処するための対処法を示す対処法情報をユーザに提示する。一例として、情報提示部180は、判定された種別に対応する異常に対処するための手順の説明をディスプレイユニット450の画面上に表示させることにより、対処法情報をユーザに提示してもよい。他の例として、情報提示部180は、判定された種別に対応する異常に対処するための対処法を識別するコードを、ディスプレイに表示させてもよい。この場合のディスプレイは、ディスプレイユニット450であってもよく、又は7セグメントディスプレイのようなより簡易なものであってもよい。さらなる例として、情報提示部180は、判定された種別に対応する異常に対処するための対処法を識別する発光パターンで発光素子(例えば、LED)を発光させることにより、対処法情報をユーザに提示してもよい。ここでの発光パターンは、例えば発光の色、発光する素子の数、発光の時間長、及び点滅の周期の任意の組合せであってよい。また別の例として、情報提示部180は、判定された種別に対応する異常に対処するための手順の説明又は対処法を識別するコードを表す音声を、スピーカ451のような音声出力インタフェースから出力させることにより、対処法情報をユーザに提示してもよい。なお、情報提示部180は、判定部140により印刷画像に異常は現れていないと判定された場合には、対処法情報をユーザに提示しない。
図8は、ディスプレイユニット450のタッチパネル452の画面上で提示され得る対処法情報のいくつかの例を示している。図8(A)の情報提示画面801は、上述した状態診断処理の結果として点状の染みが印刷画像に現れていると判定された場合にタッチパネル452に表示され得る画面である。情報提示画面801は、定着器にトナーが付着していること、及び定着器のクリーニングを行うことが推奨されることをユーザに通知する(例えば、自然言語で記述された)テキストを含む。また、情報提示画面801は、定着器のクリーニング機能を作動させるための手順の説明(ここでは、選択すべき一連のメニュー項目)をも含む。こうしたテキスト及び手順の説明を見たユーザは、印刷画像を見て自ら異常種別を判断することを要することなく、異常に対処するための適切な対処法を採ることができる。
図8(B)の情報提示画面802は、上述した状態診断処理の結果として線状のかすれが印刷画像に現れていると判定された場合にタッチパネル452に表示され得る画面である。情報提示画面802は、プロセスカートリッジを交換すべき時期が到来したために、プロセスカートリッジの新品への交換が推奨されることをユーザに通知するテキストを含む。
図8(C)の情報提示画面803は、上述した状態診断処理の結果として線状の汚れが印刷画像に現れていると判定された場合にタッチパネル452に表示され得る画面である。情報提示画面803は、ADFユニットが汚れていること、及びADFユニットのクリーニングを行うことが推奨されることをユーザに通知するテキストを含む。また、情報提示画面803は、ADFユニットのクリーニング機能を作動させるための手順の説明をも含む。
図8(D)の情報提示画面804は、上述した状態診断処理の結果として印刷画像に異常は検出されなかったことをユーザに通知するテキストを含む。ここでは、情報提示部180は、印刷画像に異常は検出されなかったものの、やはり異常が存在することが疑われる場合に、テスト画像を印刷して状態診断を再実行することを画面上でユーザに提案している。情報提示画面804は、テスト画像を印刷する機能を呼び出すための手順の説明をも含む。通常の印刷画像の代わりに、印刷されたテスト画像の読取画像データを用いて状態診断処理を再実行することで、異常種別の分類がより正確になり、精度の高い状態診断の結果を得ることが可能である。
図8に示した情報提示画面801~804の内容は一例に過ぎない。各情報提示画面は、例えば、判定された異常種別を示す情報のみを含んでもよい。また、各情報提示画面は、画像形成装置100のユーザガイドの対応する頁をユーザに案内するための情報を追加的に含んでもよい。情報提示部180は、ユーザに提示されるべきテキストを記述したメッセージをネットワークI/F407を介して遠隔装置(例えば、ユーザ端末3、又は他の画像形成装置)へ送信し、遠隔装置のディスプレイに情報提示画面を表示させてもよい。
図9は、相対的に低コストで実装可能な、7セグメントディスプレイを用いた対処法情報の提示のいくつかの例を示している。図9(A)のディスプレイ901は、上述した状態診断処理の結果として点状の染みが印刷画像に現れていると判定された場合に、7セグメントディスプレイが点状の染みに対応するエラーコード「E01」を表示する様子を示している。エラーコード「E01」は、例えば、定着器のクリーニング機能の作動という対処法を識別するコードである。エラーコードは、例えばアルファベット、数字及び記号の任意の組合せであってよい。こうしたエラーコードを見たユーザは、例えばユーザガイドの対応する頁を参照することにより、異常に対処するための適切な対処法を容易に知ることができる。
図9(B)のディスプレイ902は、上述した状態診断処理の結果として線状のかすれが印刷画像に現れていると判定された場合に、7セグメントディスプレイが線状のかすれに対応するエラーコード「E02」を表示する様子を示している。エラーコード「E02」は、例えば、プロセスカートリッジの交換という対処法を識別するコードである。
図9(C)のディスプレイ903は、上述した状態診断処理の結果として線状の汚れが印刷画像に現れていると判定された場合に、7セグメントディスプレイが線状の汚れに対応するエラーコード「E03」を表示する様子を示している。エラーコード「E03」は、例えば、ADFユニットのクリーニング機能の作動という対処法を識別するコードである。
図9(D)のディスプレイ904は、上述した状態診断処理の結果として印刷画像に異常が検出されなかった場合に、7セグメントディスプレイが異常なしを意味するコード「---」を表示する様子を示している。
<3.第2実施例>
前節で説明した第1実施例では、サーバ装置2が事前に獲得された学習済みモデルを記憶しており、画像形成装置100がサーバ装置2へ診断要求R1を送信するものとした。一方、本節で説明する第2実施例では、画像形成装置100がローカルに学習済みモデルを記憶しているものとする。また、第1実施例では、DTW距離を用いたk平均法でのクラスタリングにより学習済みモデルが獲得されるものとした。一方、第2実施例では、k平均法の代わりにkシェイプ法が利用されるものとする。なお、本明細書で説明する第1及び第2実施例の特徴は、互いにどのように組み合わされてもよい。第2実施例に係る画像形成装置100の画像形成機能及び読取機能は、図2を用いて説明した構成例と同様に構成されてよい。また、第2実施例に係る画像形成装置100のハードウェア構成は、図3を用いて説明した構成例と同様であってよい。
前節で説明した第1実施例では、サーバ装置2が事前に獲得された学習済みモデルを記憶しており、画像形成装置100がサーバ装置2へ診断要求R1を送信するものとした。一方、本節で説明する第2実施例では、画像形成装置100がローカルに学習済みモデルを記憶しているものとする。また、第1実施例では、DTW距離を用いたk平均法でのクラスタリングにより学習済みモデルが獲得されるものとした。一方、第2実施例では、k平均法の代わりにkシェイプ法が利用されるものとする。なお、本明細書で説明する第1及び第2実施例の特徴は、互いにどのように組み合わされてもよい。第2実施例に係る画像形成装置100の画像形成機能及び読取機能は、図2を用いて説明した構成例と同様に構成されてよい。また、第2実施例に係る画像形成装置100のハードウェア構成は、図3を用いて説明した構成例と同様であってよい。
図10は、本実施例に係る画像形成装置100及びサーバ装置2の機能面の構成の一例を示すブロック図である。図10を参照すると、画像形成装置100は、画像取得部130、判定部145、記憶部170及び情報提示部180を備える。画像取得部130、判定部145及び情報提示部180は、例えば、上述した画像形成装置100の処理回路がコンピュータプログラムを実行することで具現化される機能モジュールであってよい。また、サーバ装置2は、学習部120及び記憶部190を備える。
(1)学習処理
サーバ装置2の学習部120は、学習済みモデルを獲得するための学習処理を実行する。本実施例においても、学習処理は、複数の印刷画像の多次元の画素値ベクトルを、クラス解析を通じてk個(kは2以上の整数)の異常種別にそれぞれ対応するクラスタへクラスタリングすることにより行われる。ここでは一例として、k=3であり、例えば上述した点状の染み、線状のかすれ及び線状の汚れが異常種別の候補であるものとする。これら異常種別の候補はいずれも、画像形成装置100の画像形成手段による画像形成に関連する異常の種別である。
サーバ装置2の学習部120は、学習済みモデルを獲得するための学習処理を実行する。本実施例においても、学習処理は、複数の印刷画像の多次元の画素値ベクトルを、クラス解析を通じてk個(kは2以上の整数)の異常種別にそれぞれ対応するクラスタへクラスタリングすることにより行われる。ここでは一例として、k=3であり、例えば上述した点状の染み、線状のかすれ及び線状の汚れが異常種別の候補であるものとする。これら異常種別の候補はいずれも、画像形成装置100の画像形成手段による画像形成に関連する異常の種別である。
学習部120は、例えば、kシェイプ法を用いて、訓練データ125の3000個の画素値ベクトルを、3つの異常種別にそれぞれ対応する3つのクラスタへ分類する。kシェイプ法では、k平均法と同様に、各画素値ベクトルに暫定的にクラスタが割り当てられ、各クラスタの中心点と当該クラスタに属する画素値ベクトルとの間の距離が最小化されるように、各画素値ベクトルへのクラスタの割当てが反復的に更新される。kシェイプ法では、クラスタ中心点と画素値ベクトルとの間の距離、即ち画像間の類似度の指標として、SBD(Shape-Based Distance)が用いられる。画像間の類似度の指標としてSBDを用いることで、画像内の異常パターンの位置がシフトし又は異常パターンの濃淡が変動し得る状況でも、パターン間の類似の度合いをロバストに評価することができる。
図11は、本実施例に係る学習部120により実行され得る学習処理の流れの一例を示すフローチャートである。
図11のS1110及びS1120は、図6を用いて説明したS610及びS620と同様の処理ステップであるため、ここでは説明を省略する。
S1130で、学習部120は、1つの印刷画像サンプルの画素値ベクトルに注目し、注目ベクトルとk個のクラスタ中心点との間のSBDを算出する。次いで、S1140で、学習部120は、注目ベクトルに対応する印刷画像サンプルを、k個のクラスタのうちS1130で算出したSBDが最も小さいクラスタに割り当てる。次いで、S1150で、学習部120は、訓練データ125内に未処理の次の印刷画像サンプルが残されているかを判定する。次の印刷画像サンプルが残されている場合、処理はS1130へ戻り、次の印刷画像サンプルの画素値ベクトルを注目ベクトルとしてS1130及びS1140が繰り返される。全ての印刷画像サンプルについて暫定的なクラスタの割当てが終了した場合、処理はS1160へ進む。
S1160で、学習部120は、k個のクラスタの各々の中心点を、当該クラスタに現時点で割当てられている印刷画像サンプルの画素値ベクトルの重心位置に移動させる。次いで、S1170で、学習部120は、S1160で少なくとも1つのクラスタ中心点が移動したかを判定する。少なくとも1つのクラスタ中心点が移動した場合、処理はS1130へ戻り、全ての画素値ベクトルについて、k個のクラスタ中心点の新たな位置に基づいてS1130及びS1140が繰り返される。S1160でどのクラスタ中心点も移動しなかった場合(即ち、学習が収束した場合)、クラスタの更新の繰返しは停止され、処理はS1180へ進む。
図11のS1180は、図6を用いて説明したS680と同様の処理ステップであるため、ここでは説明を省略する。
学習部120は、このようにして訓練データ125に含まれる多数の印刷画像サンプルの画素値ベクトルをクラスタリングすることにより学習済みモデル175を形成し、形成した学習済みモデル175を記憶部190に記憶させる。学習済みモデル175は、例えば画像形成装置100が製造される際に、画像形成装置100の記憶部170に組み込まれる。学習済みモデル175は、典型的には、画素値ベクトル空間内の、異常種別ごとのクラスタの中心点の位置の定義を含む。
(2)類似度としてのSBD
ここでは、画像間の類似度の指標として扱われるSBDを算出する手法について説明する。一例として、N次元の画素値ベクトル空間を想定し、2つの画素値ベクトルp=(p1,p2,...,pN)及びq=(q1,q2,...,qN)がこの画素値ベクトル空間に属するものとする。また、[-m,m]のレンジ内の値をとる整数sについて、ベクトルpの要素をs要素分だけシフトすることにより得られるベクトルp(s)を、次式のように定義する。ベクトルqについても、同様のベクトルq(s)を定義する。
ここでは、画像間の類似度の指標として扱われるSBDを算出する手法について説明する。一例として、N次元の画素値ベクトル空間を想定し、2つの画素値ベクトルp=(p1,p2,...,pN)及びq=(q1,q2,...,qN)がこの画素値ベクトル空間に属するものとする。また、[-m,m]のレンジ内の値をとる整数sについて、ベクトルpの要素をs要素分だけシフトすることにより得られるベクトルp(s)を、次式のように定義する。ベクトルqについても、同様のベクトルq(s)を定義する。
即ち、sが非負である場合には、ベクトルの先頭のN-s個の要素が右方へs要素分シフトされ、左側の要素にゼロがパディングされる。sが負である場合には、ベクトルの末尾のN+s個の要素が左方へs要素分シフトされ、右側にゼロがパディングされる。
次に、ベクトルp及びqの間の相互相関数列CCw(p,q)を、パラメータwに依存する形で次式のように定義する。ここで、wは[1,2N-1]のレンジ内の値をとる整数である。wのレンジは、一方のベクトルを固定しながら、他方のベクトルのシフト量iを最も左方(w=1のときi=1-N)から最も右方(w=2N-1のときi=N-1)まで変化させる意味を有する。
画素値ベクトルp及びqの間の類似度の指標であるSBDをDSBD(p,q)と表記すると、DSBD(p,q)は次式に従って算出され得る:
即ち、SBDは、上述したレンジ内でシフト量iを変化させた場合の2つのベクトルp及びqの間の相互相関の最大値を正規化した値を1から減算することにより導出され得る。直観的には、こうしたSBDの導出は、画素値の配列をスケーリングすることなくシフトさせながら、画素値の増減のパターンがベクトル間でフィットする場所を探索するものであると言える。このように算出されるSBDは、印刷画像に現れる異常の特徴的なパターンの位置がシフトし又はパターンの濃度が線形的に増減したとしても、パターンの間の類似の度合いを適切に反映した指標値となる。
(3)状態診断
画像形成装置100の判定部145は、画像取得部130により取得される読取画像データに基づいて、複数の異常種別のうち印刷画像に現れた異常の種別を判定する。例えば、判定部145は、状態診断機能が呼出されると、事前に獲得された上述した学習済みモデル175を記憶部170から読出す。また、判定部145は、画像取得部130により取得される読取画像データを(例えば、所定のサイズのビットマップデータなどへ)整形する。そして、判定部145は、整形した読取画像データを読出した学習済みモデル175に適用し、その適用の結果に基づいて、印刷画像に現れた異常の種別を判定する。
画像形成装置100の判定部145は、画像取得部130により取得される読取画像データに基づいて、複数の異常種別のうち印刷画像に現れた異常の種別を判定する。例えば、判定部145は、状態診断機能が呼出されると、事前に獲得された上述した学習済みモデル175を記憶部170から読出す。また、判定部145は、画像取得部130により取得される読取画像データを(例えば、所定のサイズのビットマップデータなどへ)整形する。そして、判定部145は、整形した読取画像データを読出した学習済みモデル175に適用し、その適用の結果に基づいて、印刷画像に現れた異常の種別を判定する。
例えば、本実施例において、判定部145は、読取画像データの画素値ベクトルと学習済みモデル175により定義されるk個のクラスタの中心点との間のSBDを算出する。k個のクラスタの中心点のうちここで算出されるSBDが最も小さい中心点に対応するクラスタが、読取画像データの画素値ベクトルが属するクラスタである。判定部145は、診断の対象とした印刷画像に現れた異常の種別は、読取画像データの画素値ベクトルが属するこのクラスタに対応する異常種別であると判定する。
第1実施例と同様に、判定部145は、読取画像データの画素値ベクトルとの間で最小の距離を示すクラスタの中心点の当該最小の距離が閾値を上回る場合には、診断の対象とした印刷画像に異常は現れていないと判定してもよい。ここでの閾値は、予め設定されてもよく、又は、可変的に設定されてもよい。
図12は、本実施例に係る画像形成装置100により実行され得る状態診断処理の流れの一例を示すフローチャートである。
図12を参照すると、まず、S1210で、画像形成装置100のリーダ200は、異常が疑われる印刷画像が形成された原稿を読取って、読取画像データを生成する。画像取得部130は、リーダ200により生成された読取画像データを取得する。
次いで、S1220で、判定部145は、画像取得部130により取得された読取画像データを整形し、記憶部170から読出した学習済みモデル175に整形した読取画像データを適用する。
次いで、S1230で、判定部145は、学習済みモデル175において定義されているk個のクラスタの各々について、クラスタ中心点と読取画像データの画素値ベクトルとの間のSBDを算出する。
次いで、S1240で、判定部145は、k個のクラスタのうちS1230での算出の結果において最小のSBDを示しているクラスタ、即ち読取画像データの画素値ベクトルが属するクラスタを判定する。
次いで、S1250で、判定部145は、S1240で判定したクラスタのSBDが外れ値を判定するための閾値よりも小さいかを判定する。SBDが閾値よりも小さい場合には、処理はS1260へ進む。一方、SBDが閾値よりも小さくない場合には、処理はS1270へ進む。
S1260で、判定部145は、読取画像データの画素値ベクトルが属するクラスタに対応する異常種別の異常が印刷画像に現れていると判定する。この場合、情報提示部180は、その異常種別の異常に対処するための対処法を示す対処法情報をユーザに提示する。
S1270で、判定部145は、印刷画像に異常は現れていないと判定する。この場合、情報提示部180は、印刷画像に異常は現れていないという診断の結果をユーザに提示する。
本実施例において、情報提示部180は、第1実施例に関連して説明した情報提示方法のうちの任意のものを使用して、対処法情報又は状態診断結果をユーザに提示してよい。例えば、情報提示部180は、異常に対処するための手順の説明、又は異常に対処するための対処法を識別するコードをディスプレイに表示させてもよい。また、情報提示部180は、対処法を識別する発光パターンで発光素子を発光させてもよい。また、情報提示部180は、対処法情報を表現する音声を音声出力インタフェースから出力させてもよい。
本明細書でフローチャート又はシーケンス図を用いて説明した処理は、例えば、画像形成装置100又はサーバ装置2のプロセッサが、ストレージに予め記憶されメモリへロードされるコンピュータプログラムを実行することにより実現されてよい。
なお、画像形成装置100又はサーバ装置2は、状態診断の結果に対するフィードバックをユーザから受付けて、診断に使用した学習済みモデルを更新してもよい。一例として、ここでのフィードバックは、案内された対処法を実施した結果として異常が解消したか否かを示すユーザ入力であってもよい。例えば、異常が解消したことを示すフィードバックが入力された場合に、診断に使用された読取画像データと判定された異常種別とのペアに基づいてクラスタの定義を更新することで、その後の状態診断の精度をさらに高めることができる。
<4.まとめ>
ここまで、図1~図12を用いて、本開示に係る技術の様々な実施例について説明した。上述した実施例によれば、印刷画像を読取ることにより生成される読取画像データが取得され、取得された上記読取画像データに基づいて、複数の異常種別のうち印刷画像に現れた異常の種別が判定される。そして、判定された種別に対応する、上記異常に対処するための対処法を示す対処法情報がユーザに提示される。したがって、印刷画像に現れる可能性のある様々な異常について、特定の種別の異常に限られることなく、個々の原因に応じた適切な対処法をユーザに案内することができる。ユーザは、提示された対処法情報に従って、印刷画像を形成した装置の部材の交換又はクリーニング機能の呼出しといったアクションを実施し、異常の原因を除去して装置を正常な状態に復帰させることができる。また、異常が早期に解消され得るため、記録媒体、トナー又はインクといった消耗材の浪費を防止することができる。
ここまで、図1~図12を用いて、本開示に係る技術の様々な実施例について説明した。上述した実施例によれば、印刷画像を読取ることにより生成される読取画像データが取得され、取得された上記読取画像データに基づいて、複数の異常種別のうち印刷画像に現れた異常の種別が判定される。そして、判定された種別に対応する、上記異常に対処するための対処法を示す対処法情報がユーザに提示される。したがって、印刷画像に現れる可能性のある様々な異常について、特定の種別の異常に限られることなく、個々の原因に応じた適切な対処法をユーザに案内することができる。ユーザは、提示された対処法情報に従って、印刷画像を形成した装置の部材の交換又はクリーニング機能の呼出しといったアクションを実施し、異常の原因を除去して装置を正常な状態に復帰させることができる。また、異常が早期に解消され得るため、記録媒体、トナー又はインクといった消耗材の浪費を防止することができる。
また、上述した実施例によれば、上記異常の種別は、異常種別が既知である複数の印刷画像の画像データに基づく学習により事前に獲得された学習済みモデルに上記読取画像データを適用した結果に基づいて判定され得る。この場合、異常の視覚的なパターンが印刷画像の内容又は環境条件の変動といった要因に影響されてある程度変化し得るとしても、そうした変化を吸収しながら、良好な精度で異常の種別を判定することができる。
また、上述した実施例によれば、上記学習済みモデルは、上記複数の印刷画像の画素値ベクトルをクラスタリングすることにより形成された、所定の個数の異常種別にそれぞれ対応するクラスタを含む。そして、上記学習済みモデルの上記個数のクラスタのうち、上記読取画像データの画素値ベクトルが属するクラスタに対応する種別の異常が、印刷画像に現れていると判定され得る。この場合、同じ原因に起因するものの訓練データにおいて互いに異なる現れ方をした異常の視覚的なパターンが1つのクラスタを形成することになるため、同じ原因に起因する異常のパターンの特徴を柔軟に捕捉して異常の種別をロバストに判定することができる。
また、上述した実施例によれば、上記画素値ベクトルが属するクラスタは、上記画素値ベクトルからの中心点の距離が最も小さいクラスタであってよく、但し、当該最も小さい距離が閾値を上回る場合には、印刷画像に異常は現れていないと判定され得る。したがって、実際には異常の無い印刷画像についてユーザが異常を疑って状態診断機能を呼出した場合に、実施する必要の無い対処法をユーザに案内してしまう事態を回避することができる。
また、上述した第1実施例によれば、画像形成装置は、印刷画像の読取画像データを学習済みモデルに適用することを求める要求をサーバ装置へ送信し、学習済みモデルへの読取画像データの適用の結果を上記サーバ装置から受信し得る。そして、上記画像形成装置は、受信した上記結果に基づいて、印刷画像に現れた異常の種別を判定する。この場合、読取画像データの学習済みモデルへの適用(例えば、類似度の算出)という演算がサーバ装置において行われるため、画像形成装置の演算の負荷が軽減され、装置の製造コストが抑制され得る。
また、上述した第2実施例によれば、画像形成装置は、印刷画像の読取画像データを自らが記憶している学習済みモデルへ適用し、その適用の結果に基づいて、印刷画像に現れた異常の種別を判定する。この場合、装置の状態の診断をネットワークのトラフィック状況に影響されることなく迅速に行うことができ、装置固有の異常の原因に即した診断を行うことも容易である。
<5.その他の実施形態>
上記実施形態は、1つ以上の機能を実現するプログラムをネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読み出して実行する処理の形式でも実現可能である。また、1つ以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
上記実施形態は、1つ以上の機能を実現するプログラムをネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読み出して実行する処理の形式でも実現可能である。また、1つ以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
1:情報処理システム、2:サーバ装置、3:ユーザ端末、5:ネットワーク、100(100a、100b):画像形成装置、120:学習部、125:訓練データ、130:画像取得部、140、145:判定部(判定手段)、150、170:記憶部(記憶手段)、155、175:学習済みモデル、160:推論部、180:情報提示部(情報提示手段)、200:リーダ(読取手段)、300:プリンタ(画像形成手段)、407:ネットワークI/F(通信手段)、451:スピーカ(音声出力インタフェース)、452:タッチパネル(ディスプレイ)
Claims (17)
- 印刷画像を読取ることにより生成される読取画像データを取得する取得部と、
前記取得部により取得される前記読取画像データに基づいて、複数の異常種別のうち前記印刷画像に現れた異常の種別を判定する判定部と、
前記判定部により判定される前記種別に対応する、前記異常に対処するための対処法を示す対処法情報をユーザに提示する情報提示部と、
を含む情報処理システム。 - 前記判定部は、異常種別が既知である複数の印刷画像の画像データに基づく学習により事前に獲得された学習済みモデルに前記読取画像データを適用した結果に基づいて、前記印刷画像に現れた前記異常の種別を判定する、請求項1に記載の情報処理システム。
- 前記学習済みモデルは、前記複数の印刷画像の画素値ベクトルをクラスタリングすることにより形成された、k個(kは2以上の整数)の異常種別にそれぞれ対応するクラスタを含み、
前記判定部は、前記学習済みモデルの前記k個のクラスタのうち前記読取画像データの画素値ベクトルが属するクラスタに対応する異常種別を、前記印刷画像に現れた前記異常の種別として判定する、
請求項2に記載の情報処理システム。 - 前記読取画像データの前記画素値ベクトルは、前記k個のクラスタの中心点のうち前記画素値ベクトルからの距離が最も小さい中心点に対応するクラスタに属すると判定される、請求項3に記載の情報処理システム。
- 前記距離は、DTW(Dynamic Time Warping)距離である、請求項4に記載の情報処理システム。
- 前記距離は、SBD(Shape-Based Distance)である、請求項4に記載の情報処理システム。
- 前記判定部は、前記最も小さい距離が閾値を上回る場合に、前記印刷画像に異常は現れていないと判定し、
前記情報提示部は、前記判定部により前記印刷画像に異常は現れていないと判定された場合に、前記対処法情報を前記ユーザに提示しない、
請求項4~6のいずれか1項に記載の情報処理システム。 - 前記複数の異常種別は、
点状の染み、
線状のかすれ、及び
線状の汚れ、
のうちの2つ以上を含む、
請求項1~7のいずれか1項に記載の情報処理システム。 - 前記情報提示部は、前記異常に対処するための手順の説明をディスプレイに表示させることにより、前記対処法情報を提示する、請求項1~8のいずれか1項に記載の情報処理システム。
- 前記情報提示部は、前記異常に対処するための前記対処法を識別するコードをディスプレイに表示させることにより、前記対処法情報を提示する、請求項1~8のいずれか1項に記載の情報処理システム。
- 前記情報提示部は、前記異常に対処するための前記対処法を識別する発光パターンで発光素子を発光させることにより、前記対処法情報を提示する、請求項1~8のいずれか1項に記載の情報処理システム。
- 前記情報提示部は、前記異常に対処するための手順の説明又は前記対処法を識別するコードを表す音声を音声出力インタフェースから出力させることにより、前記対処法情報を提示する、請求項1~8のいずれか1項に記載の情報処理システム。
- 情報処理装置により実行される情報提示方法であって、
印刷画像を読取ることにより生成された読取画像データを取得することと、
取得された前記読取画像データに基づいて、複数の異常種別のうち前記印刷画像に現れた異常の種別を判定することと、
判定された前記種別に対応する、前記異常に対処するための対処法を示す対処法情報をユーザに提示することと、
を含む情報提示方法。 - 記録媒体に画像を形成する画像形成手段と、
記録媒体に形成された画像を読取って読取画像データを生成する読取手段と、
前記読取画像データに基づいて、複数の異常種別のうち読取られた前記画像に現れた異常の種別を判定する判定手段と、
判定された前記種別に対応する、前記異常に対処するための対処法を示す対処法情報をユーザに提示する情報提示手段と、
を備える画像形成装置。 - 前記画像形成装置は、
それぞれの異常種別が既知である複数の印刷画像の画像データに基づく学習により事前に獲得された学習済みモデルを記憶しているサーバ装置と通信する通信手段、
をさらに備え、
前記判定手段は、
前記読取画像データを前記学習済みモデルに適用することを求める要求を前記通信手段を介して前記サーバ装置へ送信し、
前記要求に応じて前記サーバ装置から提供される、前記学習済みモデルへの前記読取画像データの適用の結果を前記通信手段を介して受信し、
受信した前記結果に基づいて、読取られた前記画像に現れた前記異常の種別を判定する、
請求項14に記載の画像形成装置。 - 前記画像形成装置は、
それぞれの異常種別が既知である複数の印刷画像の画像データに基づく学習により事前に獲得された学習済みモデルを記憶している記憶手段、
をさらに備え、
前記判定手段は、前記記憶手段から読出される前記学習済みモデルに前記読取画像データを適用することにより、読取られた前記画像に現れた前記異常の種別を判定する、
請求項14に記載の画像形成装置。 - 前記複数の異常種別は、前記画像形成手段による画像形成に関連する異常の種別を含む、請求項14~16のいずれか1項に記載の画像形成装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021182650A JP2023070453A (ja) | 2021-11-09 | 2021-11-09 | 情報処理システム、情報提示方法及び画像形成装置 |
US17/978,398 US11941306B2 (en) | 2021-11-09 | 2022-11-01 | Information processing system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021182650A JP2023070453A (ja) | 2021-11-09 | 2021-11-09 | 情報処理システム、情報提示方法及び画像形成装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023070453A true JP2023070453A (ja) | 2023-05-19 |
Family
ID=86229545
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021182650A Pending JP2023070453A (ja) | 2021-11-09 | 2021-11-09 | 情報処理システム、情報提示方法及び画像形成装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11941306B2 (ja) |
JP (1) | JP2023070453A (ja) |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008304603A (ja) * | 2007-06-06 | 2008-12-18 | Kyocera Mita Corp | 画像形成装置 |
CN102291508A (zh) * | 2010-06-02 | 2011-12-21 | 株式会社东芝 | 图像处理装置及管理装置 |
US8462388B2 (en) * | 2010-06-08 | 2013-06-11 | Xerox Corporation | Identifying a color separation wherein a banding defect originates |
JP6672973B2 (ja) * | 2016-04-12 | 2020-03-25 | コニカミノルタ株式会社 | 画像形成システム、画像形成装置、画像形成方法及びプログラム |
JP2018132682A (ja) | 2017-02-16 | 2018-08-23 | キヤノン株式会社 | 画像形成装置 |
US20200393998A1 (en) * | 2019-06-17 | 2020-12-17 | Kyocera Document Solutions Inc. | Multifunction Printer and Printer Engine Defect Detection and Handling Using Machine Learning |
-
2021
- 2021-11-09 JP JP2021182650A patent/JP2023070453A/ja active Pending
-
2022
- 2022-11-01 US US17/978,398 patent/US11941306B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US11941306B2 (en) | 2024-03-26 |
US20230142554A1 (en) | 2023-05-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4538845B2 (ja) | 故障診断方法および故障診断装置、画像形成装置、並びにプログラムおよび記憶媒体 | |
US8294918B2 (en) | Apparatus and method for generating a simulated image including an identified image abnormality | |
US8249830B2 (en) | Method and system for automatically diagnosing faults in rendering devices | |
JP4687614B2 (ja) | 故障診断システム、画像形成装置及び故障診断方法 | |
JP2006014332A (ja) | 自動機械診断に基づく画像分析のための動的テストパターン構成 | |
US8643865B2 (en) | Maintenance system and maintenance method for image processing apparatus | |
JP2015082053A (ja) | 画像形成装置 | |
JP7091727B2 (ja) | 診断システム、診断方法、画像形成装置およびプログラム | |
US7516040B2 (en) | System and method for automated detection of printing defects in an image output device | |
JP6665498B2 (ja) | 情報処理装置、画像処理システム及びプログラム | |
JP4872979B2 (ja) | 画像処理装置、画像形成装置及びプログラム | |
US8594518B2 (en) | Diagnostic method for determining imager contribution to printing defects | |
JP5050589B2 (ja) | 記録媒体、画像形成装置、画像欠陥位置判定装置、画像形成プログラム、及び画像欠陥位置判定プログラム | |
JP4517651B2 (ja) | 画像形成装置の異常検出装置、異常検出方法、及び異常検出プログラム | |
JP7463903B2 (ja) | 画像検査装置、画像検査方法、および画像検査プログラム | |
JP2017096835A (ja) | 画像検査装置及び画像形成システム | |
JP2013257459A (ja) | 異常原因特定装置、これを備えた保守実行時期予測システム、及び、異常原因特定方法 | |
JP2023070453A (ja) | 情報処理システム、情報提示方法及び画像形成装置 | |
JP7062982B2 (ja) | 画像形成装置及びプログラム | |
US11516355B2 (en) | Defect detection for multi-function devices using machine learning | |
JP2007243347A (ja) | 故障診断システム、画像形成装置及び故障診断方法 | |
JP2019124886A (ja) | 画像形成装置及びプログラム | |
JP2010067068A (ja) | 画像特徴分類装置及びプログラム | |
JP2017151156A (ja) | 情報提示システム及び画像形成装置 | |
JP7087927B2 (ja) | 診断システム及び診断方法 |