JP2018085654A - 光電変換装置、光電変換方法及び画像形成装置 - Google Patents

光電変換装置、光電変換方法及び画像形成装置 Download PDF

Info

Publication number
JP2018085654A
JP2018085654A JP2016228370A JP2016228370A JP2018085654A JP 2018085654 A JP2018085654 A JP 2018085654A JP 2016228370 A JP2016228370 A JP 2016228370A JP 2016228370 A JP2016228370 A JP 2016228370A JP 2018085654 A JP2018085654 A JP 2018085654A
Authority
JP
Japan
Prior art keywords
pixel
interpolation
defective pixel
photoelectric conversion
defective
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016228370A
Other languages
English (en)
Other versions
JP6822096B2 (ja
Inventor
寛貴 白土
Hirotaka Shirato
寛貴 白土
政元 中澤
Masamoto Nakazawa
政元 中澤
雅征 薮内
Masayuki Yabuuchi
雅征 薮内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2016228370A priority Critical patent/JP6822096B2/ja
Priority to US15/790,101 priority patent/US10536655B2/en
Publication of JP2018085654A publication Critical patent/JP2018085654A/ja
Application granted granted Critical
Publication of JP6822096B2 publication Critical patent/JP6822096B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/401Compensating positionally unequal response of the pick-up or reproducing head
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/58Edge or detail enhancement; Noise or error suppression, e.g. colour misregistration correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/04Scanning arrangements
    • H04N2201/047Detection, control or error compensation of scanning velocity or position
    • H04N2201/04753Control or error compensation of scanning position or velocity
    • H04N2201/04758Control or error compensation of scanning position or velocity by controlling the position of the scanned image area
    • H04N2201/04787Control or error compensation of scanning position or velocity by controlling the position of the scanned image area by changing or controlling the addresses or values of pixels, e.g. in an array, in a memory, by interpolation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Facsimile Scanning Arrangements (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Input (AREA)

Abstract

【課題】読み取り画像上に現れる欠陥画素の影響を抑制する。【解決手段】位置特定部が、各画素で受光した光を電気信号に変換する光電変換部の画素のうち、異常レベルの電気信号を出力する欠陥画素を検出し、少なくとも光電変換部上の欠陥画素の位置情報を保持する。補間判定部は、欠陥画素を補間処理した際に、正常な補間処理結果が得られるか否かを、欠陥画素の周囲の画素の画素値に基づいて判定し、欠陥画素の電気信号を正常レベルの電気信号に近似する補間処理を実行するか否かの補間判定処理を行う。そして、補間処理部が、補間処理を実行するとの判定結果が得られた欠陥画素に対して画素補間処理を行う。【選択図】図6

Description

本発明は、光電変換装置、光電変換方法及び画像形成装置に関する。
今日において、撮像素子の欠陥画素で生成された異常な画像データを、欠陥画素の周囲の画素からの画像データを用いて補間する補間処理が知られている。例えば、特許文献1(特開2012−105063号公報)には、画像のRTSノイズ(Random Telegraph Signal Noise)を低減することを目的として、周辺画素平均値のショットノイズ量よりも対象画素のノイズ量が高い場合に、補正対象として補間処理する画像処理装置が開示されている。
しかし、従来の補間処理は、欠陥画素が文字等の細い縦線部分又は模様にかかる場合に、誤った値に置き換えてしまう等、欠陥画素の影響を除去できない問題があった。
また、特許文献1に開示されている画像処理装置で用いられている判断条件を、リニアセンサに適用した場合、補正対象でない画素の画像データを補正してしまい、視覚的に縦スジが発生するおそれがある。また、特許文献1に開示されている画像処理装置は、平均化したレベルのショットノイズ量で補間処理を行うか否かの判定を行う。このため、文字等の細い縦線部分又は模様部分の読み込みが、欠陥画素で行われる場合に、結果的に補間処理が不要であるにも関わらず補間処理が行われ、欠陥画素からの画像データが好ましくない方向に補間処理されて出力される問題がある。
本発明は、上述の課題に鑑みてなされたものであり、画像上の欠陥画素の影響を抑制することができるような光電変換装置、光電変換方法及び画像形成装置の提供を目的とする。
上述した課題を解決し、目的を達成するために、本発明は、各画素で受光した光を電気信号に変換する光電変換部と、画素のうち、異常レベルの電気信号を出力する欠陥画素を検出し、少なくとも光電変換部上の欠陥画素の位置情報を保持する位置特定部と、欠陥画素を補間処理した際に、正常な補間処理結果が得られるか否かを、欠陥画素の周囲の画素の画素値に基づいて判定し、欠陥画素の電気信号を正常レベルの電気信号に近似する補間処理を実行するか否かの補間判定処理を行う補間判定部と、補間処理を実行するとの判定結果が得られた欠陥画素に対して画素補間処理を行う補間処理部とを有する。
本発明によれば、画像上の欠陥画素の影響を抑制することができるという効果を奏する。
図1は、第1の実施の形態のMFPの横断面図である。 図2は、第1の実施の形態のMFPに設けられている読み取り装置の横断面図である。 図3は、欠陥画素により画像上に現れるRTSノイズを説明するための図である。 図4は、周辺画素にコントラストが存在する場合において、画像に対する欠陥画素の現れ方を説明するための図である。 図5は、リニアセンサに、周辺画素平均値のショットノイズ量よりも対象画素のノイズ量が高い場合に補間処理を行う補間手法を適用した場合の問題点を説明するための図である。 図6は、第1の実施の形態のMFPに設けられている光電変換部のブロック図である。 図7は、補間判定部で行われる補間判定処理及び補間処理部で行われる補間処理が実行されるタイミングを説明するための図である。 図8は、補間判定部が補間判定処理で行う演算動作を説明するための図である。 図9は、補間判定処理の流れを示すフローチャートである。 図10は、補間処理部のブロック図である。 図11は、対象パターン上でテンプレートを移動させながらSAD値を算出する動作を説明するための図である。 図12は、補間処理動作の流れを示すフローチャートである。 図13は、 第2の実施の形態のMFPにおける補間判定部の補間判定動作の流れを示すフローチャートである。 図14は、第5の実施の形態の補間処理動作の概要を説明するための図である。 図15は、第6の実施の形態の補間処理動作の概要を説明するための図である。 図16は、第7の実施の形態のMFPに設けられている補間処理部のブロック図である。 図17は、補間処理の妥当性を確認後の画像データの出力を行う第7の実施の形態の動作の流れを示すフローチャートである。 図18は、第8の実施の形態におけるレベル差の判定動作の流れを示すフローチャートである。
まず、最初に適用分野の説明をする。光電変換装置及び光電変換方法は、画像の読み取りを行う機器の他、光の有無を感知して所定の情報処理を行う機器に適用可能である。具体的には、光電変換装置及び光電変換方法は、複合機(MFP:Multifunction Peripheral)のリニアセンサ、カメラ装置又はビデオカメラ装置のオートフォーカス用のラインセンサ、インタラクティブ・ホワイトボード装置(電子黒板)上に書き込まれたれた文字、記号又は図形の読み取りを行うラインセンサ等に適用することができる。以下、一例として、光電変換装置、光電変換方法及び画像形成装置を適用したMFPの説明をする。
(第1の実施の形態)
(MFPの構成)
まず、図1に、第1の実施の形態のMFPを横から見た状態の図を示す。この図1は、MFPの本体を透視した状態の図となっている。この図1に示すように、MFPは、読み取り装置1及び本体2を有している。読み取り装置1は、自動原稿給送機構(ADF:Auto Document Feeder)3、及び、スキャナ機構4を有している。
本体2内には、タンデム方式の作像部5、作像部5に給紙部13から搬送路6を介して記録紙を供給するレジストローラ7、光書き込み装置8、定着搬送部9、及び、両面トレイ10を有している。作像部5には、イエロー(Y)、マゼンタ(M)、シアン(C)、ブラック(K)の4色に対応する4本の感光体ドラム11が並設されている。各感光体ドラム11の周囲には、帯電器、現像器12、転写器、クリーナ、及び、除電器を含む作像要素が配置されている。また、転写器と感光体ドラム11との間には、両者のニップに挟持された状態で駆動ローラと従動ローラとの間に張架された中間転写ベルト14が設けられている。
このように構成されたタンデム方式の画像形成装置では、YMCKの各色に対応する感光体ドラム11に光書き込みを行い、現像器12で各色のトナー毎に現像し、例えばY,M,C,Kの順で中間転写ベルト14上に1次転写する。そして、1次転写により4色が重畳したフルカラーの画像を記録紙に2次転写した後、定着して排紙する。これにより、フルカラーの画像を記録紙上に形成する。
(ADF及びスキャナ機構の構成)
図2は、ADF3及びスキャナ機構4の横断面図である。スキャナ機構4は、上面に原稿を載置するコンタクトガラス15を備えている。また、スキャナ機構4は、原稿露光用の光源16及び第1反射ミラー17を備えた第1キャリッジ18と、第2反射ミラー19及び第3反射ミラー20を備えた第2キャリッジ24とを備えている。また、スキャナ機構4は、第3反射ミラー20で反射された光を、光電変換部21の受光領域上に結像させるためのレンズユニット22を備えている。また、スキャナ機構4は、読み取り光学系等による各種の歪み補正用の基準白板23、及び、シートスルー読取用スリット24を備えている。スキャナ機構4は、光源16からの照射光で照明した原稿からの反射光を、光電変換部21で受光して電気信号(画像データ)に変換して出力する。
ADF3は、コンタクトガラス15に対して開閉可能となるように、図示しないヒンジ部材等を介して本体2に接続されている。ADF3は、複数枚の原稿からなる原稿束27を載置可能な原稿トレイ28を備えている。また、このADF3は、原稿トレイ28に載置された原稿束27から原稿を1枚ずつ分離して、シートスルー読取用スリット25へ向けて自動給送する給送ローラ29を含む分離給送部も備えている。
(原稿の読み取り動作)
このような読み取り装置1は、コンタクトガラス15上に載置した原稿の読み取りを行うスキャンモード、及び、ADF3により自動給送される原稿の読み取りを行うシートスルーモードを有している。なお、スキャンモード又はシートスルーモードによる画像読み取り前に、点灯された光源16によって基準白板23を照明し、反射光による画像を光電変換部21で読み取る。そして、その1ライン分の画像データの各画素のレベルが均一なレベルになるように、シェーディング補正用データを生成して記憶する。記憶されシェーディング補正用データは、以下に説明するスキャンモード又はシートスルーモードで読み取られた画像データのシェーディング補正に用いられる。
スキャンモード時には、第1キャリッジ18及び第2キャリッジ24が、図示しないステッピングモータによって、矢印A方向(副走査方向)に移動して原稿を走査する。このとき、コンタクトガラス15から光電変換部21の受光領域までの光路長を一定に維持するために、第2キャリッジ24は、第1キャリッジ18の1/2の速度で移動する。
同時に、コンタクトガラス15上に載置された原稿の下面である画像面が、第1キャリッジ18の光源16によって照明(露光)される。すると、その画像面からの反射光が、第1キャリッジ18の第1反射ミラー17、第2キャリッジ24の第2反射ミラー19及び第3反射ミラー20によって順次反射される。そして、第3反射ミラー20による反射光束が、レンズユニット22によって集束され、光電変換部21の受光領域上に結像される。光電変換部21は、1ライン毎に受光した光を光電変換して画像データを生成する。画像データは、デジタル化され、ゲイン調整が施されて出力される。画像の読み取りが完了した原稿は、図示しない排出口に排出される。
シートスルーモードの時には、第1キャリッジ18及び第2キャリッジ24が、シートスルー読取用スリット25の下側へ移動して停止する。その後、ADF3の原稿トレイ28上に載置された原稿束27の最下位の原稿から順次、給送ローラ29によって矢印B方向(副走査方向)へ自動給送され、シートスルー読取用スリット25の位置を原稿が通過する際に、その原稿の走査が行われる。
この際、自動給送される原稿の下面(画像面)が第1キャリッジ18の光源16によって照明される。すると、その画像面からの反射光が、第1キャリッジ18の第1反射ミラー17、第2キャリッジ24の第2反射ミラー19及び第3反射ミラー20によって順次反射される。そして、第3反射ミラー20による反射光束が、レンズユニット22によって集束され、光電変換部21の受光領域上に結像される。光電変換部21は、1ライン毎に受光した光を光電変換して画像データを生成する。画像データは、デジタル化され、ゲイン調整が施されて出力される。画像の読み取りが完了した原稿は、図示しない排紙口に排紙される。
(欠陥画素によるRTSノイズ)
ここで、光電変換部21に欠陥画素が存在した場合に発生するRTSノイズについて説明する。一例ではあるが、光電変換部21は、CCD(Charge Coupled Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の半導体撮像素子で形成される。このような光電変換部21において、MOS(Metal Oxide Semiconductor)トランジスタのチャネル内を移動するキャリアの1つがゲート絶縁膜等に存在するトラップ準位に捕獲されると、出力レベルが大きく変動し、画像にランダムテレグラフシグナルノイズ(以下、RTSノイズと称する)が生ずることが知られている。
図3(a)は、出力レベルの変動により、画素値の平均値から正負の方向それぞれ一定量離れたレベルに分布のピークが小さく現れる。そして、RTSノイズ量(σrts)が大きい程、上述の一定量は大きくなる。
エリアセンサの場合、発生したRTSノイズは、各フレーム画像に対して点状に現れる。現れたRTSノイズは、フレーム毎にレベルが小さく、かつ、ランダムに変化する。このため、エリアセンサで発生したRTSノイズは、画像上において、それほど目立たない。
これに対して、一列分(又は複数列分)の光電変換素子を備えたリニアセンサの場合、図3(b)に示すように、RTSノイズを発生する画素が存在すると、縦に並ぶ点のレベル変化となって各フレーム画像上に現れる。また、図3(a)に示す正規のノイズ分布の範囲(σsht)に対してRTSノイズ(σrts)がその範囲内に入っていたとしても、RTSノイズによる変化が同じ画素に集中するため、1枚の静止画上に縦線として現れる。
なお、このようなRTSノイズは、光電変換部21の画素毎のMOSトランジスタの構成により、色単独で発生(各色のMOSトランジスタで個々に発生)する。または、RTSノイズは、全色チャンネルで同じ位置に発生(カラム構成等で全ての色共通のMOSトランジスタで発生)する。
(周囲画素にコントラストがあるときの欠陥画素の影響)
図4(a)に、欠陥画素の左右に隣接する一つ又は複数の画素(周囲画素)にコントラストがある場合における、欠陥画素(RTSノイズ)による影響が現れた画像の一例を示す。この図4(a)は、3画素分の太さの縦線のうち、中心の縦線を形成する画素中に欠陥画素が存在する例を示している。また、この図4(a)は、欠陥画素の左右の画素で形成される縦線の濃度は均一ではなく、各縦線の間に濃淡(コントラスト)が存在する例を示している。また、比較例として、図4(b)に、正常な画素で描画された3画素分の太さの縦線の画像を示す。
欠陥画素に隣接する画素において、濃度が濃い縦線が描画される場合、図4(a)に示すように欠陥画素の影響が現れ難くなり、欠陥画素で描画される縦線は、細線として認識可能となる。このように、欠陥画素が存在する場合でも、欠陥画素の周囲画素のパターンによっては、欠陥画素の影響が目立ち難くなる場合がある。また、上述の例は、欠陥画素及び左右の画素により描画される3本の縦線の間にコントラストが存在する例であった。このため、欠陥画素及び左右の画素により描画される3本の縦線が略々均一の場合、欠陥画素の影響が現れることが懸念される。
しかし、描画する画像の色が白色又は白色に近い色の場合、欠陥画素の影響は現れ難くなる。これは、RTSノイズは、欠陥画素内部の電気的な欠陥に起因して生ずるノイズであるため、欠陥画素の影響は、欠陥画素の周囲画素から出力される画像データの出力レベルが、所定以上のレベルになれば、図4(c)に示すように、ショットノイズによって低減されるためである。
(リニアセンサに補間処理を適用した場合の問題点)
次に、一列分(又は複数列分)の1次元的な光電変換処理を行うリニアセンサに、周辺画素平均値のショットノイズ量よりも対象画素のノイズ量が高い場合に補間処理を行う補間手法を適用した場合の問題点を説明する。
この補間手法の場合、周囲画素の平均レベルDaveから換算したショットノイズ量σshtと、欠陥画素のノイズ量σrtsの大小関係(σrts>σshtで補間対象)、かつ、周囲画素とレベル差が大きい場合に補間判定を行う。このため、図3(a)を用いて説明した欠陥画素の場合、「σrts<σsht」となり、補正対象とならない。すなわち、上述の補間手法をリニアセンサに適用すると、図3(a)を用いて説明した欠陥画素に対しては補間処理が行われず、図5(a)に示すように補正すべき縦筋が補正されない問題を生ずる。
また、仮にσrts<σshtとなることで、図5(a)に示す縦筋の補間処理を行った場合でも、図4(a)を用いて説明したコントラストが各縦線の間に存在する場合、図4(a)に示した3本の縦線のうち、中央の縦線に対応する画素を補間対象としてしまう。補間画素のレベルは、周辺画素の平均値又は中央値に置換する。このため、中央の縦線に対応する画素のレベルが、周囲画素の平均値又は中央値に置き換わり、図5(b)に示すように3本の縦線の中央に白線が存在する画像となる不都合を生ずる。これは、欠陥画素の補間処理が、却って欠陥画素の部分を目立たせる結果となったことを意味している。
実施の形態のMFPでは、光電変換部21において、欠陥画素の影響が現れる部分を選択的に補正することで、画像上の欠陥画素の影響を軽減している。また、RTSノイズを生ずる欠陥画素の他、「白キズ」が生じている欠陥画素に対しても、影響が現れる部分を選択的に補正することで、画像上の欠陥画素の影響を軽減している。
なお、「白キズ」とは、CMOSイメージセンサ等において異常な暗電流が発生し、他の画素より大きいオフセットを画像に生ずる、フォトダイオード上の欠陥である。画素に白キズが存在する場合、全てのラインでオフセットが大きくなる。このため、リニアセンサの画素に白キズが存在すると、画像に縦線状のノイズが現れる不都合を生ずる。白キズは、フォトダイオード単位で発生するため、画素単独で発生する。
(光電変換部のハードウェア構成)
図6に、光電変換部21のブロック図を示す。この図6に示すように、光電変換部21は、撮像部30(光電変換部の一例)、位置特定部31、補間判定部32及び補間処理部33を有している。撮像部30〜補間処理部33のうち、一部又は全部が集積化されている。一例として、撮像部30〜補間処理部33が全て、一つのIC(Integrated Circuit)チップに集積化されている。または、撮像部30とは別に、位置特定部31〜補間処理部33を集積化し、集積化した位置特定部31〜補間処理部33と撮像部30を、一つのパッケージに封止し、見かけ上、一つのLSI(Large-Scale Integration)とした、いわゆるマルチチップとなっている。なお、これらは一例であり、この他、撮像部30及び位置特定部31を集積化し、後段の補間判定部32に接続する等、集積化又はマルチチップ化は、任意の組み合わせで行えばよい。
なお、位置特定部31〜補間処理部33は、ハードウェアであることとして説明を進めるが、位置特定部31〜補間処理部33のうち、全部又は一部をソフトウェアで実現してもよい。ソフトウェアで実現する場合、位置特定部31〜補間処理部33は、例えば補間処理プログラム等のコンピュータ装置で読み取り及び実行が可能なコンピュータプログラムとして提供される。この補間処理プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)等のコンピュータ装置で読み取り可能な記録媒体に記録して提供してもよい。また、CD−R、DVD(Digital Versatile Disk)、ブルーレイディスク(登録商標)、半導体メモリ等のコンピュータ装置で読み取り可能な記録媒体に記録して提供してもよい。また、補間処理プログラムは、インターネット等のネットワーク経由でインストールするかたちで提供してもよい。また、補間処理プログラムは、機器内のROM等に予め組み込んで提供してもよい。
光電変換部21は、一例ではあるが、一列分(又は複数列分)の光電変換素子(画素)を備えたリニアセンサとなっている。撮像部30は、例えばCMOSイメージセンサ又はCCDイメージセンサ等の半導体撮像素子となっている。
(補間処理動作)
このような光電変換部21において、撮像部30は、RGB(赤緑青)の色チャンネル毎に設けられており、各色の画像データを生成する。位置特定部31は、例えば暗時画像を所定時間取得し、レベル変動又は標準偏差が大きい欠陥画素を検出する。そして、位置特定部31は、検出した欠陥画素が属する色チャンネルを示す色情報、及び、撮像部30上における欠陥画素の物理的な位置を示すアドレス情報を記憶する。
補間判定部32は、撮像部30から供給される画像データのうち、位置特定部31に記憶されている欠陥画素の色情報及びアドレス情報に対応する色の画素の画像データの分布及びレベルを、欠陥画素の周囲画素の画像データに基づいて検出する。そして、補間判定部32は、画像データの分布及びレベルが所定の条件を満たす欠陥画素を、補間対象と判定する。補間処理部33は、補間判定部32で補間対象と判定された欠陥画素に対して補間処理を行う。光電変換部21は、このような補間処理を、毎ライン実行する。
(補間判定処理及び補間処理のタイミング)
図7は、補間判定部32で行われる補間判定処理及び補間処理部33で行われる補間処理が実行されるタイミングを説明するための図である。補間判定処理及び補間処理は、図7に示すように、補間判定部32又は補間処理部33に欠陥画素の画像データが供給されるタイミングで、順次、行われる。換言すると、欠陥画素に対する補間判定処理及び補間処理は、時系列で実行される。
図7の例は、第4番目の画素及び第22番目の画素が、それぞれ欠陥画素であり、第4番目の画素及び第22番目の画素からの画像データが、補間判定部32に供給されるタイミングで補間判定処理が行われ、補間判定結果に基づいて、補間処理部33で欠陥画素からの画像データが、欠陥画素の周囲画素の画像データのレベル等に基づいて補間処理される様子を示している。
このように、補間判定処理及び補間処理を時系列で実行することで、1ライン分の画像データを、全て記憶するメモリを不要とすることができる。すなわち、図6に示すように、補間処理部33に設けるメモリ34として、補間判定処理の演算及び補間処理に必要な周囲画素の画像データを記憶可能な小容量のメモリ(数画素分の容量のメモリ)を設ければよい。このため、MFPの製造費用の削減に貢献することができる。
(補間判定処理で行う演算動作)
図8は、補間判定部32が補間判定処理で行う演算動作を説明するための図である。補間判定部32は、画像の1ライン毎に、各欠陥画素の周囲画素が、濃度の濃いベタ領域に相当するか否かを判断する。図8の例は、欠陥画素の左右5画素を、それぞれ周囲画素として濃度の濃いベタ領域に相当するか否かを判断する例を示している。なお、この例では、欠陥画素の左右5画素を演算対象の画素として説明を行うが、欠陥画素の左右2画素、左右3画素、左右8画素等でもよい。
補間判定部32は、欠陥画素の左側(L:Left)に隣接する5画素で形成される画像データの最大値及び最小値の差分値ΔLを、RGBの色毎に算出する(ΔRL、ΔGL、ΔBL)。また、補間判定部32は、欠陥画素の右側(R:Right)に隣接する5画素で形成される画像データの最大値及び最小値の差分値ΔLを色毎に算出する(ΔRR、ΔGR、ΔBR)。
補間判定部32は、この差分値の演算により、欠陥画素の周囲画素のレベル変化の度合いを算出している。算出した差分値が大きいほど、画像データのレベル変化が大きいことを意味する。補間判定部32は、算出した差分値が大きい場合、画像データのレベル変化が大きく、欠陥画素の周囲画素にコントラストが存在し、不均一なパターンの画像が形成されるものと判断する。
また、補間判定部32は、欠陥画素の左側(L)に隣接する5画素で形成される画像データの平均値Laveを、RGBの色毎に算出する(RLave、GLave、BLave)。また、補間判定部32は、欠陥画素の右側(R)に隣接する5画素で形成される画像データの平均値Raveを、RGBの色毎に算出する(RRave、GRave、BRave)。この平均値は、周囲画素の濃度を示している。補間判定部32は、平均値が大きいほど、低濃度(白側)であると判断する。
(補間判定動作)
補間判定部32は、周囲画素の差分値及び平均値を用いることで、以下に説明するように、欠陥画素に対する影響度を精度よく把握し、補間処理の有無を判定することができる。図9は、補間判定処理の流れを示すフローチャートである。このフローチャートに示すように、補間判定部32は、上述した欠陥画素の周囲画素の最大値及び最小値の差分値、及び、周囲画素の平均値を算出し(ステップS1)、差分値が所定の第1の閾値以下であるか否かを判別する(ステップS2)。
差分値が第1の閾値よりも大きい場合(ステップS2:No)、補間判定部32は、欠陥画素の周囲の画像領域は、例えば模様又はパターン領域等のコントラストのある画像領域であるものと判断する。図4(a)を用いて上述したように、コントラストのある画像領域では、画素異常による欠陥画素の影響は現れ難くなる。また、差分値が第1の閾値よりも大きいということは、周囲画素で形成される画像は、低濃度(白側=白色又は白色に近い色)であり、欠陥画素の影響が現れ難いことを意味する。このため、差分値が第1の閾値よりも大きい場合、補間判定部32は、ステップS5において、補間処理は実施しないと判定し、この判定結果を補間処理部33に供給する。
一方、差分値が第1の閾値以下の場合(ステップS2:Yes)、補間判定部32は、ステップS3において、平均値が所定の第2の閾値以下であるか否かを判別する。図4(c)を用いて説明したように、周囲画素の画像データが特定のレベル(第2の閾値)よりも大きくなると、画素の内部の電気的起因で生ずるノイズの影響は、ショットノイズによって埋もれて、画像上に現れ難くなる。反対に、周囲画素の画像データが特定のレベル以下の場合、ノイズの影響は、ショットノイズに埋もれることなく、画像上に現れる。
このため、補間判定部32は、平均値が第2の閾値以下である場合(ステップS3:Yes)、ノイズの影響がショットノイズに埋もれることがないため、ステップS4において、補間処理を行うと判定し、この判定結果を補間処理部33に供給する。これに対して、補間判定部32は、平均値が第2の閾値よりも大きい場合(ステップS3:No)、ノイズの影響がショットノイズに埋もれるため、ステップS5において、補間処理は実施しないと判定し、この判定結果を補間処理部33に供給する。
(補間処理動作)
次に、補間処理部33における補間処理動作を説明する。図10は、補間処理部の詳細なブロック図である。この図10に示すように、補間処理部33は、上述の数画素分の容量のメモリ34と共に、相関度算出部41及び置換処理部42を有している。
補間処理部33は、一例として図11に示すように、補間判定部32により補間対象と判定された欠陥画素の前後16画素及び前後3ラインを、探索領域(対象パターン)として補間候補となる画素を探索する。また、補間処理部33は、欠陥画素、欠陥画素の前後2画素及びこの前後2画素の上下の2画素で形成される3ライン分の領域をテンプレートとして設定する。そして、補間処理部33は、図11に示すように、テンプレートを1画素ずつ移動しながら上述の対象パターン(欠陥画素の前後16画素及び前後3ラインの画像データ)と比較し、対象パターンの各部とテンプレートの相関度を算出する。
相関度としては、一例としてSAD(Sum of Absolute Difference)値を用いる。例えば、図11に示す例の場合、補間処理部33は、以下の数式(例としてSAD値S1〜S24を求める場合)に基づいて、24個分のSAD値を算出する。そして、補間処理部33は、一番小さいSAD値(=最大の相関度)を算出した対象パターンの部分の中心画素を置換画素として、欠陥画素と置き換え処理する。
なお、以下の数式及び図11において、「S」はSAD値を意味する。「S1」は、1つ目のSAD値、S24は、24個目のSAD値を示す。「P」は、対象パターンの画素を意味する。「P11」は、対象パターンの第1ライン目の第1番目の画素を、「P321」は、対象パターンの第1ライン目の第32番目の画素を意味する。同様に、「P13」は、対象パターンの第3ライン目の第1番目の画素を、「P323」は、対象パターンの第3ライン目の第32番目の画素を意味する。また、「T」は、テンプレートの画素を意味する。「T11」は、テンプレートの第1ライン目の第1番目の画素を、「T41」は、テンプレートの第1ライン目の第4番目の画素を意味する。同様に、「P13」は、対象パターンの第3ライン目の第1番目の画素を、「P43」は、対象パターンの第3ライン目の第4番目の画素を意味する。
S1=(P11−T11)+(P12−T12)+(P13−T13)+(P21−T21)+(P22−T22)+(P23−T23)+(P31−T31)+(P32−T32)+(P33−T33)・・・S24=(P281−T11)+(P282−T12)+(P283−T13)+(P291−T21)+(P292−T22)+(P293−T23)+(P301−T31)+(P302−T32)+(P303−T33)
補間処理部33は、このような数式に基づく演算処理を行うことで、SAD値S1〜S24を算出する。そして、例えばSAD値S22の値が最小値の場合、この最小値を算出した対象パターンの部分の中心画素であるP282の画素を置換画素として、欠陥画素と置き換え処理する。
図12は、このような補間処理動作の流れを示すフローチャートである。ステップS21では、図10に示す相関度算出部41が、SAD値の演算回数として「1」を、カウンタに設定する(n=1:nは演算回数)。すなわち、図11に示す例の場合、相関度算出部41は、計24個のSAD値を算出する。このため、相関度算出部41は、ステップS21において、最初に、1回目のSAD値の演算動作であることを示す「1」をカウンタに設定する。なお、相関度算出部41は、一つのSAD値の算出を完了する毎に、「1」→「2」→「3」・・・「24」等のように、カウンタの値を一つずつインクリメントする。インクリメントのタイミングは、対象パターンに対してテンプレートを1画素移動するタイミングである。
次に、ステップS22では、相関度算出部41が、上述の数式に基づいて、SAD値(Sn:SはSAD値の意、nは、算出されるSAD値の1〜24の番号)を算出する。ステップS23では、相関度算出部41が、演算回数が24回(n=24:nは演算回数)となったか否かを判別する。上述のように、相関度算出部41は、対象パターンに対してテンプレートを一つずつ移動しながら上述の演算を行う。このため、演算回数が24回に満たない場合(ステップS23:No)、ステップS25に処理を進め、演算回数を一つインクリメントして(n=n+1)、ステップS22に処理を戻す。そして、ステップS22において、再度、SAD値を算出する。
このようにして24個のSAD値を算出すると(ステップS23:Yes)、ステップS24に処理が進み、図10に示す置換処理部42が、24個数のSAD値のうち、最小値を算出した対象パターンの部分の中心画素を置換画素として、欠陥画素と置き換え処理(補間処理)して、図12のフローチャートの処理を終了する。
このような第1の実施の形態のMFPは、欠陥画素として検出された画素を補間処理するか否かを判定する補間判定部32を有している。補間判定部32は、欠陥画素として検出された画素の左右に隣接する複数の画素である周辺画素で形成される画像のコントラスト、及び画像データのレベルに基づいて、欠陥画素として検出された画素を補間処理するか否かを判定する。補間処理部33は、この補間判定部32により、補間処理を行うと判定された画素に対して、補間処理を行う。これにより、より正確に欠陥画素の補間処理を行うことができる。
(第2の実施の形態)
次に、第2の実施の形態のMFPの説明をする。欠陥画素の影響は、欠陥画素が存在する色チャンネルにおいて、欠陥画素の左右のいずれか一方が濃度の濃い画像である場合、その影響が現れる。例えば、画像中に部分的に黒部分があり、その端部を欠陥画素で読み取る場合、欠陥画素の例えば右側は濃度が低い画像であるのに対し、欠陥画素の左側は濃度の濃い画像となるため、欠陥画素の影響が現れ易くなる。
このため、第2の実施の形態は、「欠陥画素の右側の周辺画素の画像データの差分値及び平均値」、及び、「欠陥画素の左側の周辺画素の画像データの差分値及び平均値」のうち、いずれか一方が、上述の補間判定の条件を満たす場合に、補間処理を実行する例である。なお、上述の第1の実施の形態と以下に説明する第2の実施の形態とは、この点のみが異なる。このため、以下、両者の差異の説明のみ行い、重複した説明は省略する。
図13のフローチャートに、第2の実施の形態のMFPにおける補間判定部32の補間判定動作の流れを示す。この図13において、ステップS11では、補間判定部32が、欠陥画素の左側に隣接する5画素分の画像データの「最大値及び最小値の差分値」及び「平均値」、欠陥画素の右側に隣接する5画素分の画像データの「最大値及び最小値の差分値」及び「平均値」を、それぞれ算出する。
ステップS12では、補間判定部32が、欠陥画素の左側に隣接する5画素に対応する差分値、又は、欠陥画素の右側に隣接する5画素に対応する差分値のうち、いずれか一方が、第1の閾値(Dth_diff)よりも小さいか否かを判別する。いずれか一方の差分値が、第1の閾値(Dth_diff)よりも大きいと判別した場合(ステップS12:No)、補間判定部32は、ステップS15に処理を進め、欠陥画素に対する補間処理は行わないと判定して図13のフローチャートの処理を終了する。
これに対して、いずれか一方の差分値が、第1の閾値(Dth_diff)よりも小さいと判別した場合(ステップS12:Yes)、補間判定部32は、ステップS13に処理を進め、欠陥画素の左側に隣接する5画素に対応する平均値、又は、欠陥画素の右側に隣接する5画素に対応する平均値のうち、いずれか一方が、第2の閾値(Dth_ave)よりも小さいか否かを判別する。
いずれか一方の平均値が、第2の閾値(Dth_ave)よりも大きいと判別した場合(ステップS13:No)、補間判定部32は、ステップS15に処理を進め、欠陥画素に対する補間処理は行わないと判定して図13のフローチャートの処理を終了する。
これに対して、いずれか一方の平均値が、第2の閾値(Dth_ave)よりも小さいと判別した場合(ステップS13:Yes)、補間判定部32は、ステップS14に処理を進め、欠陥画素に対する補間処理は行うと判定して図13のフローチャートの処理を終了する。
このように、欠陥画素の右側に隣接する周辺画素、及び、血管画素の左側に隣接する周辺画素のうち、いずれか一方が、補間条件を満たす場合に補間処理を行う。これにより、より好ましい補間処理を行うことができる。
(第3の実施の形態)
次に、第3の実施の形態のMFPの説明をする。例えば黄色のカラーパッチの読み取りを行う場合、Rチャンネル及びGチャンネルでは高レベルの画像データ(濃度が薄い画像)が生成されるが、Bチャンネルでは低レベルの画像データ(濃度の濃い画像)が生成される。この場合、低レベルの画像データを生成するBチャンネルに欠陥画素が生じていると、欠陥画素の影響が現れる画像データを用いて黄色のカラーパッチの読み取り画像が形成されるため、RGBの各画像から最終的に生成される濃度の薄い画像に対して、欠陥画素の影響が現れるおそれがある。
すなわち、本来、黄色の画像は、濃度の薄い画像であるため、欠陥画素の影響が現れ難いが、濃度の濃い色のチャンネルに欠陥画素が生じていた場合、RGBの各画像から最終的に生成される濃度の薄い画像に対して、欠陥画素の影響が現れるおそれがある。
このため、第3の実施の形態のMFPの場合、補間判定部32は、RGBのいずれかのチャンネルに存在する欠陥画素が、第1又は第2の実施の形態で説明した補間判定条件を満たす場合に、補間処理を行うと判定する。これにより、各色のチャンネルの画像データに対して漏れなく補間処理を行うことができる。
なお、上述の各実施の形態と第3の実施の形態との差異は、以上説明した点のみである。第3の実施の形態における、他の構成、動作及び効果は、上述の第1の実施の形態及び第2の実施の形態の説明を参照されたい。
(第4の実施の形態)
次に、第4の実施の形態のMFPの説明をする。この第4の実施の形態のMFPの場合、図6に示す撮像部30の後段に、撮像部30で形成された画像データを可変された利得で増幅する可変増幅回路が設けられている。この可変増幅回路の利得は、撮像状況等に応じて、MFP1の制御部により可変制御される。また、制御部は、上述の第1の閾値及び第2の閾値のうち、少なくとも一方の閾値を、可変増幅回路の利得(ゲイン値)に応じて変更する。
補間判定部32は、可変増幅回路に設定されている現在のゲイン値に応じて、上述の補間判定処理を行う。具体的には、例えば撮像部30で濃度の濃い画像が撮像された場合、撮像部30から出力される画像データのレベルは低レベルとなるため、高いゲイン値の利得で増幅されて出力される。このため、補間判定部32は、可変増幅回路に高いゲイン値が設定されている場合は、補間処理を行うと判定する。
これに対して、撮像部30で濃度の低い画像が撮像された場合、撮像部30から出力される画像データのレベルは高レベルとなるため、低いゲイン値の利得で増幅されて出力される。このため、補間判定部32は、可変増幅回路に低いゲイン値が設定されている場合は、補間処理を行わないと判定する。
このように、第4の実施の形態では、撮像部30からの画像データを増幅する可変増幅回路の利得に基づいて補間処理を行うか否かの判定を行うことができ、利得変更処理等で生産性が低下する不都合を防止できる他、上述の各実施の形態と同様の効果を得ることができる。
(第5の実施の形態)
次に、第5の実施の形態のMFPを説明する。例えばRチャンネルに欠陥画素が存在する場合、Rチャンネルの欠陥画素に対応する画像データのみ補間処理を行うと、1色だけ補間処理を施すことから、3色で形成される画像に対して、補間処理による突発的な色味が加わり、画像上にノイズとして現れるおそれがある。このようなことから、第5の実施の形態のMFPは、一つの色チャンネルの欠陥画素に対して補間処理を行う際に、他の色チャンネルの同じ画素も補間処理を行う。すなわち、補間処理を行う場合は、全ての色チャンネルで行う。
具体的には、図14に示すように、Rチャンネルの第4番目の画素、Gチャンネルの第26番目の画素、Bチャンネルの第19番目の画素が、それぞれ欠陥画素とする。この場合、補間処理部33の相関度算出部41は、上述のように欠陥画素となっているRチャンネルの第4番目の画素を補間処理する画素として、Rチャンネルの例えば第10番目画素を検出したとする。置換処理部42は、このRチャンネルの第10番目画素の画像データで、欠陥画素となっているRチャンネルの第4番目画素の画像データを置換処理する。また、置換処理部42は Gチャンネルの第4番目の画素の画像データを、Gチャンネルの第10番目の画素の画像データで置換処理すると共に、Bチャンネルの第4番目の画素の画像データを、Bチャンネルの第10番目の画素の画像データで置換処理する。
同様に、相関度算出部41は、欠陥画素となっているGチャンネルの第26番目の画素を補間処理する画素として、Gチャンネルの例えば第15番目画素を検出したとする。置換処理部42は、このGチャンネルの第15番目画素の画像データで、欠陥画素となっているGチャンネルの第26番目画素の画像データを置換処理する。また、置換処理部42は Rチャンネルの第26番目の画素の画像データを、Rチャンネルの第15番目の画素の画像データで置換処理すると共に、Bチャンネルの第26番目の画素の画像データを、Bチャンネルの第15番目の画素の画像データで置換処理する。
同様に、相関度算出部41は、欠陥画素となっているBチャンネルの第15番目の画素を補間処理する画素として、Bチャンネルの例えば第32番目画素を検出したとする。置換処理部42は、このBチャンネルの第32番目画素の画像データで、欠陥画素となっているBチャンネルの第15番目画素の画像データを置換処理する。また、置換処理部42は Rチャンネルの第15番目の画素の画像データを、Rチャンネルの第32番目の画素の画像データで置換処理すると共に、Gチャンネルの第15番目の画素の画像データを、Gチャンネルの第32番目の画素の画像データで置換処理する。
このように、全色チャンネル同時に補間処理を実行することで、補間の精度を向上させることができる他、上述の各実施の形態と同様の効果を得ることができる。
なお、全色チャンネルの平均値となる画像データで置換処理を行ってもよい。例えば、上述の例において、欠陥画素となっているRチャンネルの第4番目の画素を補間処理する画素として、Rチャンネルの例えば第10番目画素を検出した場合、RGBの各チャンネルの第10番目画素の画像データの平均値で、RGBの各チャンネルの第4番目の画素の画像データを補間処理する。この場合でも、上述と同様の効果を得ることができる。
(第6の実施の形態)
次に、第6の実施の形態のMFPを説明する。上述のように対象パターンとテンプレートとの相関度算出の結果、選定された部分の中心画素(置換画素)が、図15に示すように別の欠陥画素であった場合、好ましい補間処理結果が得られないおそれがある。このため、第6の実施の形態では、補間処理部33の相関度算出部41が、対象パターンの探索領域の画像データに別の欠陥画素が含まれている場合、相関度算出から除外する。すなわち、相関度算出部41が、対象パターンの探索領域の画像データに別の欠陥画素が含まれている場合、相関度算出動作をスキップして、欠陥画素が含まれていない探索領域で相関度の算出を行う。
具体的に説明すると、欠陥画素の位置は、図6に示す位置特定部31に予め記憶されている。相関度算出部41は、位置特定部31に予め記憶されている欠陥画素の位置を参照し、探索領域に欠陥画素が含まれている場合は、相関度の算出を行うことなく、探索領域を対象パターン上の次の探索領域(欠陥画素が含まれていない探索領域)まで進め、相関度の算出を行う。
これにより、欠陥画素の補間精度の向上を図ることができる他、上述の各実施の形態と同様の効果を得ることができる。
(第7の実施の形態)
次に、第7の実施の形態のMFPを説明する。この第7に実施の形態は、補間処理の妥当性を確認してから出力するようにした例である。図16に、第7の実施の形態のMFPに設けられている補間処理部33のブロック図を示す。この図16からわかるように、第7の実施の形態の場合、補間処理部33の置換処理部42の後段に、置換画素判定部51を有している。
図17は、このような補間処理の妥当性を確認後の画像データの出力を行う動作の流れを示すフローチャートである。ステップS31では、相関度算出部41が、位置特定部31に記憶されている欠陥画素の位置情報に基づいて、探索領域に正常画素が含まれているか否かを判別する。探索領域の画素が全て欠陥画素である場合(ステップS31:No)、補間処理を行うことなく、図17のフローチャートの処理を終了する。
これに対して、探索領域の正常画素が含まれている場合(ステップS31:Yes)、相関度算出部41は、ステップS32〜ステップS35及びステップS37の処理を行う。図17のステップS32〜ステップS35及びステップS37は、図12のステップS21〜ステップS25に相当する。ステップS32〜ステップS35及びステップS37では、図12を用いて説明したように、相関度算出部41が、対象パターン上でテンプレートを移動させながら例えば24個のSAD値を算出する。そして、置換処理部42が、最小のSAD値を算出した対象パターンの部分の中心画素を置換画素として、欠陥画素と置き換え処理(補間処理)を行う。
次に、テンプレートによる相関度算出の結果、選定された部分の中心画素(置換画素)が別の欠陥画素であった場合、置換後の画像データも好ましい画像データとはならない可能性が高い。このため、置換画素判定部51は、位置特定ブロック31に記憶されている欠陥画素の位置情報に基づき、置換画素が欠陥画素であるか否かを判別する(ステップS36)。置換画素が欠陥画素であると判別した場合(ステップS36:No)、置換処理部42は、上述の最小値となるSAD値の次に小さな値となるSAD値(2番目に小さなSAD値:2番目に高い相関度)を算出した対象パターンの部分の中心画素を置換画素として、欠陥画素と置き換え処理(再補間処理)を行う(ステップS38)。
置換画素判定部51は、このような再補間処理に用いられた上述の中心画素が、欠陥画素でないと判別した場合に、 再補間処理された画素の画像データを出力する。これにより、図17のフローチャートの処理が終了となる。なお、再補間処理に用いられた中心画素が欠陥画素である場合、ステップS38において、3番目に小さなSAD値を算出した対象パターンの部分の中心画素を置換画素として、欠陥画素と置き換え処理が行われる。再補間処理に用いられた中心画素が欠陥画素ではないと判別されるまで、このような再補間処理の動作が繰り返し実行される。これにより、欠陥画素による補間失敗を防止でき、補間精度を向上させることができる他、上述の各実施の形態と同様の効果を得ることができる。
(第8の実施の形態)
次に、第8の実施の形態のMFPの説明をする。上述のように対象パターン上でテンプレートを移動させて相関度を算出した結果、欠陥画素を選定された部分の中心画素(置換画素)に置き換え後、周囲の画素よりレベル差(ΔDcol_*:*はRGB)がある場合は、補間処理が失敗している可能性が高い。このような不都合を防止するために、第8の実施の形態は、予め定めておいた第3の閾値(ΔDth)に基づき、置換画素のレベル差を判定する。そして、レベル差(ΔDcol_*)が第3の閾値(ΔDth)よりも小さい場合に、置換画素の画像データを出力する。なお、第8の実施の形態のMFPの補間処理部33も、図16に示したように置換処理部42の後段に、置換画素判定部51を有するハードウェア構成となっている。
図18は、このような第8の実施の形態におけるレベル差の判定動作の流れを示すフローチャートである。この図18のステップS41〜ステップS44及びステップS46は、図12のステップS21〜ステップS25に相当する。ステップS41〜ステップS44及びステップS46では、図12を用いて説明したように、相関度算出部41が、対象パターン上でテンプレートを移動させながら例えば24個のSAD値を算出する。そして、置換処理部42が、最小のSAD値を算出した対象パターンの部分の中心画素を置換画素として、欠陥画素と置き換え処理(補間処理)を行う。
次に、置換画素判定部51が、置換画素の画像データのレベルと、周囲の画素の画像データのレベルとのレベル差(ΔDcol_*)が、第3の閾値(ΔDth)よりも小さいか否かを判別する。
具体的には、置換画素判定部51は、Dcol_*(*=RGB)を置換画素のレベルとして、以下の数式に基づいてレベル差(ΔDcol_*)を算出する。なお、以下の数式における「T」はテンプレートの意味であり、「T12」は、図11に示したようにテンプレートの第2ライン目の第1番目の画素を示している。同様に、「T22」は、テンプレートの第2ライン目の第2番目の画素を、「T32」は、テンプレートの第2ライン目の第3番目の画素を、「T42」は、テンプレートの第2ライン目の第4番目の画素を、それぞれ示している。
ΔDcol_*=(Dcol_*)−((T12_*+T22_*+T32_*+T42_*)/4)
このような演算を行うこと算出されたレベル差(ΔDcol_*)が、第3の閾値(ΔDth)よりも小さいと判別した場合(ステップS45:Yes)、置換画素判定部51は、ステップS49で補間処理された画素の画像データをそのまま出力して、図18のフローチャートの処理を終了する。
これに対して、いずれかの色チャンネルで、レベル差(ΔDcol_*)が、第3の閾値(ΔDth)よりも大きいと判別した場合(ステップS45:No)、置換処理部42は、ステップS47に処理を進め、上述の最小値となるSAD値の次に小さな値となるSAD値(2番目に小さなSAD値)を算出した対象パターンの部分の中心画素を置換画素として、欠陥画素と置き換え処理(再補間処理)を行う。
置換画素判定部51は、このような再補間処理に用いられた上述の中心画素に対応するレベル差(ΔDcol_*)が、第3の閾値(ΔDth)よりも小さいと判別した場合に、 再補間処理された画素の画像データを出力する。これにより、図18のフローチャートの処理が終了となる。
なお、再補間処理に用いられた中心画素に対応するレベル差(ΔDcol_*)が、第3の閾値(ΔDth)よりも大きい場合、ステップS47において、3番目に小さなSAD値を算出した対象パターンの部分の中心画素を置換画素として、欠陥画素と置き換え処理が行われる。再補間処理に用いられた中心画素に対応するレベル差(ΔDcol_*)が、第3の閾値(ΔDth)よりも小さいと判別されるまで、このような再補間処理の動作が繰り返し実行される。
これにより、ゴミ等による補間失敗を防止でき、補間精度を向上させることができる他、上述の各実施の形態と同様の効果を得ることができる。
最後に、上述の各実施の形態は、一例として提示したものであり、本発明の範囲を限定することは意図していない。この新規な実施の形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことも可能である。また、実施の形態及び実施の形態の変形は、発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1 複合機(MFP)の読み取り装置
2 MFPの本体
21 光電変換部
30 撮像部
31 位置特定部
32 補間判定部
33 補間処理部
34 メモリ
41 相関度算出部
42 置換処理部
51 置換画素判定部
特開2012−105063号公報

Claims (13)

  1. 各画素で受光した光を電気信号に変換する光電変換部と、
    前記画素のうち、異常レベルの電気信号を出力する欠陥画素を検出し、少なくとも前記光電変換部上の欠陥画素の位置情報を保持する位置特定部と、
    前記欠陥画素を補間処理した際に、正常な補間処理結果が得られるか否かを、前記欠陥画素の周囲の画素の画素値に基づいて判定し、前記欠陥画素の電気信号を正常レベルの電気信号に近似する補間処理を実行するか否かの補間判定処理を行う補間判定部と、
    前記補間処理を実行するとの判定結果が得られた前記欠陥画素に対して画素補間処理を行う補間処理部と
    を有する光電変換装置。
  2. 前記光電変換部は、前記各画素を一次元に配列した画素列を、所定の色チャンネル分有すること
    を特徴とする請求項1に記載の光電変換装置。
  3. 前記補間判定部は、前記位置特定部からの位置情報に基づき、前記欠陥画素に対応する前記電気信号が供給された際に、補間処理を実行するか否かの判定を行い、
    前記補間処理部は、前記補間判定部の判定結果に基づいて、前記欠陥画素に対応する前記電気信号の補間処理を行うこと
    を特徴とする請求項1又は請求項2に記載の光電変換装置。
  4. 前記補間判定部は、前記欠陥画素の左側に隣接する複数画素の電気信号の値、及び、前記欠陥画素の右側に隣接する複数画素の電気信号の値の最大値と最小値の差分値、及び、平均値を算出し、前記差分値が第1の閾値よりも大きな値である場合、補間処理は実行しないと判定し、前記差分値が第1の閾値以下であり、かつ、前記平均値が第2の閾値よりも大きな値である場合、補間処理は実行しないと判定し、前記差分値が第1の閾値以下であり、かつ、前記平均値が第2の閾値以下である場合、補間処理を実行すると判定すること
    を特徴とする請求項2又は請求項3に記載の光電変換装置。
  5. 前記補間判定部は、前記欠陥画素の左側に隣接する複数画素の電気信号、又は、前記欠陥画素の右側に隣接する複数画素の電気信号のうち、いずれか一方の電気信号の前記差分値が前記第1の閾値以下であり、かつ、前記平均値が前記第2の閾値以下である場合に、補間処理を実行すると判定すること
    を特徴とする請求項4に記載の光電変換装置。
  6. 前記補間判定部は、いずれかの前記色チャンネルに存在する欠陥画素に対応する補間処理を実行する場合、他の色チャンネルにおける、前記欠陥画素に対応する画素も補間処理すること
    を特徴とする請求項2から請求項5のうち、いずれか一項に記載の光電変換装置。
  7. 前記第1の閾値及び前記第2の閾値を、前記光電変換部からの電気信号を増幅する可変増幅回路に設定されている利得に応じて変更する制御部を、さらに備え、
    前記補間判定部は、前記可変増幅回路に設定されている利得に応じて、前記補間判定処理を行うこと
    を特徴とする請求項1から請求項6のうち、いずれか一項に記載の光電変換装置。
  8. 前記補間処理部は、前記欠陥画素を含む前記画素列と、前後の一列又は複数の画素列からなる対象パターン上で、前記対象パターンの部分的な大きさのテンプレートを、前記対象パターンの端部から列方向に沿って、少なくとも1画素ずつ移動させながら、対象パターンとテンプレートとの相関度を算出し、最大の相関度を算出した前記対象パターンの部分の中心画素を置換画素として用いて、前記欠陥画素を補間処理すること
    を特徴とする請求項1から請求項7のうち、いずれか一項に記載の光電変換装置。
  9. 前記補間処理部は、前記位置特定部で保持されている欠陥画素の位置情報に基づいて、前記中心画素が欠陥画素であることが判別された場合、相関度の算出を行うことなく、前記中心画素が欠陥画素とならない位置まで前記テンプレートを移動させて前記相関度の算出を行うこと
    を特徴とする請求項8に記載の光電変換装置。
  10. 前記補間処理部は、前記位置特定部で保持されている欠陥画素の位置情報に基づいて、前記欠陥画素の補間処理に用いる前記置換画素が欠陥画素であるか否かを判別する置換画素判定部を有し、前記置換画素判定部で、前記置換画素が欠陥画素であると判定された場合、次に高い相関度が検出された、前記対象パターンの部分の中心画素を置換画素として用いて、前記欠陥画素を補間処理すること
    を特徴とする請求項8に記載の光電変換装置。
  11. 前記補間処理部は、前記置換画素の電気信号のレベルと、前記置換画素の周囲の画素の電気信号のレベルとのレベル差が、第3の閾値よりも小さいか否かを判別することで、前記置換画素の妥当性を判定する置換画素判定部を有し、前記置換画素判定部で、前記レベル差が前記第3の閾値よりも小さいと判定された場合に、前記置換画素で生成された電気信号を出力し、前記置換画素判定部で、前記レベル差が前記第3の閾値よりも大きいと判定された場合は、次に高い相関度が検出された、前記対象パターンの部分の中心画素を置換画素として用いて前記欠陥画素を補間処理すること
    を特徴とする請求項8に記載の光電変換装置。
  12. 位置特定部が、各画素で受光した光を電気信号に変換する光電変換部の前記画素のうち、異常レベルの電気信号を出力する欠陥画素を検出し、少なくとも前記光電変換部上の欠陥画素の位置情報を保持し、
    補間判定部が、前記欠陥画素を補間処理した際に、正常な補間処理結果が得られるか否かを、前記欠陥画素の周囲の画素の画素値に基づいて判定し、前記欠陥画素の電気信号を正常レベルの電気信号に近似する補間処理を実行するか否かの補間判定処理を行い、
    補間処理部が、前記補間処理を実行するとの判定結果が得られた前記欠陥画素に対して画素補間処理を行う
    光電変換方法。
  13. 載置台に載置された原稿に光を照射し、反射光を光電変換部で受光して、原稿の読み取りを行う画像形成装置であって、
    前記光電変換部の画素のうち、異常レベルの電気信号を出力する欠陥画素を検出し、少なくとも前記光電変換部上の欠陥画素の位置情報を保持する位置特定部と、
    前記欠陥画素を補間処理した際に、正常な補間処理結果が得られるか否かを、前記欠陥画素の周囲の画素の画素値に基づいて判定し、前記欠陥画素の電気信号を正常レベルの電気信号に近似する補間処理を実行するか否かの補間判定処理を行う補間判定部と、
    前記補間処理を実行するとの判定結果が得られた前記欠陥画素に対して画素補間処理を行う補間処理部と
    を有する画像形成装置。
JP2016228370A 2016-11-24 2016-11-24 光電変換装置、光電変換方法及び画像形成装置 Active JP6822096B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016228370A JP6822096B2 (ja) 2016-11-24 2016-11-24 光電変換装置、光電変換方法及び画像形成装置
US15/790,101 US10536655B2 (en) 2016-11-24 2017-10-23 Photoelectric conversion device, image forming apparatus, photoelectric conversion method, and non-transitory recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016228370A JP6822096B2 (ja) 2016-11-24 2016-11-24 光電変換装置、光電変換方法及び画像形成装置

Publications (2)

Publication Number Publication Date
JP2018085654A true JP2018085654A (ja) 2018-05-31
JP6822096B2 JP6822096B2 (ja) 2021-01-27

Family

ID=62147399

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016228370A Active JP6822096B2 (ja) 2016-11-24 2016-11-24 光電変換装置、光電変換方法及び画像形成装置

Country Status (2)

Country Link
US (1) US10536655B2 (ja)
JP (1) JP6822096B2 (ja)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6880709B2 (ja) * 2016-12-20 2021-06-02 株式会社リコー 光電変換装置、光電変換方法及び画像形成装置
JP6946983B2 (ja) 2017-11-30 2021-10-13 株式会社リコー 位置検出装置、画像読取装置、画像形成装置、プログラムおよび位置検出方法
JP7043852B2 (ja) 2018-01-26 2022-03-30 株式会社リコー 位置検出装置、画像形成装置、および方法
JP7056176B2 (ja) 2018-01-26 2022-04-19 株式会社リコー 位置検出装置、画像形成装置、および位置検出方法
JP2019129514A (ja) 2018-01-26 2019-08-01 株式会社リコー 画像読取装置、画像形成装置および濃度補正方法
JP7159568B2 (ja) 2018-02-23 2022-10-25 株式会社リコー 光電変換素子、画像読取装置、および画像形成装置
JP7010131B2 (ja) 2018-04-24 2022-01-26 株式会社リコー 色検査装置、画像形成装置、色検査方法およびプログラム
JP7081286B2 (ja) 2018-04-27 2022-06-07 株式会社リコー 読取装置、画像形成装置、情報検出方法、およびプログラム
CN110830675B (zh) 2018-08-10 2022-05-03 株式会社理光 读取装置、图像形成装置及读取方法
CN110830670A (zh) 2018-08-10 2020-02-21 株式会社理光 读取装置、图像形成装置、真伪判定系统及读取方法
JP7115206B2 (ja) 2018-10-11 2022-08-09 株式会社リコー 原稿サイズ検出装置、画像読取装置、画像形成装置、及び原稿サイズ検出方法
JP7183682B2 (ja) 2018-10-12 2022-12-06 株式会社リコー 読取装置、画像読取装置、画像形成装置、及び読取方法
JP7131287B2 (ja) 2018-10-15 2022-09-06 株式会社リコー 原稿サイズ検出装置、画像読取装置、画像形成装置、及び原稿サイズ検出方法
JP7196644B2 (ja) 2019-01-30 2022-12-27 株式会社リコー 傾き検出装置、読取装置、画像処理装置および傾き検出方法
JP7131415B2 (ja) 2019-01-31 2022-09-06 株式会社リコー 傾き検出装置、読取装置、画像処理装置および傾き検出方法
JP7287227B2 (ja) 2019-09-30 2023-06-06 株式会社リコー 信号補正装置、画像読取装置、画像処理装置、信号補正方法およびプログラム
JP7314752B2 (ja) 2019-09-30 2023-07-26 株式会社リコー 光電変換素子、読取装置、画像処理装置および光電変換素子の製造方法
JP2021141467A (ja) 2020-03-05 2021-09-16 株式会社リコー 読取装置、画像処理装置および特徴量検出方法
JP7468176B2 (ja) 2020-06-17 2024-04-16 株式会社リコー 画像処理装置および画像読取方法
JP2022006850A (ja) 2020-06-25 2022-01-13 株式会社リコー 固体撮像素子、読取装置、画像処理装置および制御方法
JP2022059491A (ja) 2020-10-01 2022-04-13 株式会社リコー 読取装置、画像形成装置および方法
JP2022059526A (ja) 2020-10-01 2022-04-13 株式会社リコー 読取装置、画像形成装置および状態検知方法
JP2022059534A (ja) 2020-10-01 2022-04-13 株式会社リコー 読取装置、画像形成装置および補正方法
JP2022072388A (ja) 2020-10-29 2022-05-17 株式会社リコー 読取装置、画像形成装置および方法
JP2023130132A (ja) 2022-03-07 2023-09-20 株式会社リコー 原稿載置検知装置、画像読取装置、画像形成装置、方法およびプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009260470A (ja) * 2008-04-14 2009-11-05 Seiko Epson Corp 撮像装置用欠陥画素補正方法及び装置
JP2012124778A (ja) * 2010-12-09 2012-06-28 Canon Inc 撮像装置、撮像処理方法、及びコンピュータプログラム
JP2013162253A (ja) * 2012-02-03 2013-08-19 Jvc Kenwood Corp 画像補正装置および画像補正方法

Family Cites Families (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2882227B2 (ja) 1993-01-06 1999-04-12 松下電器産業株式会社 画素欠陥補正装置
JP4108278B2 (ja) 2001-01-24 2008-06-25 シャープ株式会社 固体撮像素子の自動欠陥検出補正装置およびそれを用いた撮像装置
JP2002247352A (ja) 2001-02-20 2002-08-30 Ricoh Co Ltd 画像処理装置
US7200280B2 (en) * 2001-09-27 2007-04-03 Fuji Photo Film Co., Ltd. Image processing apparatus
JP2005318337A (ja) 2004-04-28 2005-11-10 Sharp Corp 固体撮像素子の欠陥検出補正装置および撮像装置
JP2006245999A (ja) * 2005-03-03 2006-09-14 Konica Minolta Photo Imaging Inc 撮像装置、およびプログラム
JP4565567B2 (ja) 2006-02-07 2010-10-20 株式会社リコー アナログ信号バッファ、アナログ信号処理システム、画像読取装置、及び画像形成装置
JP4699417B2 (ja) 2007-04-16 2011-06-08 株式会社リコー アナログ処理回路およびアナログ集積回路装置および画像読取装置および画像形成装置
JP5444795B2 (ja) 2008-07-29 2014-03-19 株式会社リコー 画像読み取り装置、画像形成装置、振幅調整方法、及びコンピュータプログラム
JP5206423B2 (ja) 2009-01-07 2013-06-12 株式会社リコー 画像読み取り装置、画像形成装置、及びサンプル・ホールド制御方法
JP5326911B2 (ja) 2009-07-30 2013-10-30 株式会社リコー スペクトラム拡散クロックジェネレータ、回路装置、画像読取装置、画像形成装置、及びスペクトラム拡散クロック生成方法
JP5379601B2 (ja) * 2009-08-07 2013-12-25 キヤノン株式会社 欠陥画素データ補正装置、撮像装置及び欠陥画素データ補正方法
JP5454019B2 (ja) 2009-09-02 2014-03-26 株式会社リコー 光電変換素子、センサ制御回路、画像読取装置、及び画像形成装置
JP5476876B2 (ja) 2009-09-11 2014-04-23 株式会社リコー センサ駆動回路、ドライバ装置、画像読取装置、及び画像形成装置
JP5830837B2 (ja) 2010-09-01 2015-12-09 株式会社リコー 画像読取装置および画像形成装置
JP5561112B2 (ja) 2010-11-10 2014-07-30 株式会社ニコン 画像処理装置、撮像装置およびプログラム
JP5526014B2 (ja) * 2010-12-21 2014-06-18 株式会社日立製作所 撮像装置
JP6226508B2 (ja) 2011-09-13 2017-11-08 株式会社リコー 画像読取装置、画像形成装置及び画像読取方法
JP2013186560A (ja) 2012-03-06 2013-09-19 Ricoh Co Ltd 画像処理装置
JP6060557B2 (ja) 2012-08-13 2017-01-18 株式会社リコー 画像処理装置
JP6146015B2 (ja) 2013-01-18 2017-06-14 株式会社リコー 光電変換素子、画像読取装置及び画像形成装置
JP6127536B2 (ja) 2013-01-24 2017-05-17 株式会社リコー 画像読取装置、画像形成装置及び画像読取方法
JP6149408B2 (ja) 2013-01-29 2017-06-21 株式会社リコー 固体撮像素子、画像読取装置及び画像形成装置
JP6205885B2 (ja) 2013-06-18 2017-10-04 株式会社リコー 光電変換素子、画像読取装置、画像形成装置及び画像読取方法
JP6383143B2 (ja) 2013-10-08 2018-08-29 株式会社リコー 撮像素子、画像読取装置、画像形成装置及び撮像方法
JP6287058B2 (ja) 2013-10-24 2018-03-07 株式会社リコー 縮小光学系用の光電変換素子、画像読取装置、画像形成装置及び画像読取方法
JP6225682B2 (ja) 2013-12-11 2017-11-08 株式会社リコー 撮像素子、画像読取装置及び画像形成装置
JP6281304B2 (ja) 2014-02-04 2018-02-21 株式会社リコー 撮像素子、画像読取装置及び画像形成装置
JP6451104B2 (ja) 2014-07-04 2019-01-16 株式会社リコー 光電変換素子、画像読取装置、画像形成装置及び信号制御方法
JP6519997B2 (ja) 2014-07-04 2019-05-29 株式会社リコー 光電変換素子、画像読取装置及び画像形成装置
JP6549366B2 (ja) 2014-09-19 2019-07-24 株式会社リコー 光電変換素子、画像読取装置及び画像形成装置
JP6612492B2 (ja) 2014-10-16 2019-11-27 株式会社リコー 光電変換素子、画像読取装置及び画像形成装置
JP6519142B2 (ja) 2014-10-28 2019-05-29 株式会社リコー 処理装置、画像読取装置及び画像形成装置
JP6432332B2 (ja) 2014-12-15 2018-12-05 株式会社リコー 光電変換素子、画像読取装置及び画像形成装置
JP6451344B2 (ja) 2015-01-23 2019-01-16 株式会社リコー 画像読取装置、画像処理装置及び画像読取方法
JP6544070B2 (ja) 2015-06-16 2019-07-17 株式会社リコー 光電変換素子、画像読取装置及び画像形成装置
US9973659B2 (en) 2015-07-13 2018-05-15 Ricoh Company, Ltd. Imaging element, image reading device, image forming apparatus, and imaging method
JP6682832B2 (ja) 2015-12-03 2020-04-15 株式会社リコー 光電変換素子、画像読取装置、画像形成装置及び画像読取方法
JP6668728B2 (ja) 2015-12-14 2020-03-18 株式会社リコー 光電変換素子、画像読取装置及び画像形成装置
JP2017126833A (ja) 2016-01-12 2017-07-20 株式会社リコー 光電変換素子、画像読取装置、画像形成装置及び画像読取方法
JP6728750B2 (ja) 2016-02-22 2020-07-22 株式会社リコー 画像読取装置、画像形成装置、原稿画像表示方法およびプログラム
JP6699305B2 (ja) 2016-04-07 2020-05-27 株式会社リコー 信号処理装置、光電変換素子、画像読取装置、画像形成装置及び信号処理方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009260470A (ja) * 2008-04-14 2009-11-05 Seiko Epson Corp 撮像装置用欠陥画素補正方法及び装置
JP2012124778A (ja) * 2010-12-09 2012-06-28 Canon Inc 撮像装置、撮像処理方法、及びコンピュータプログラム
JP2013162253A (ja) * 2012-02-03 2013-08-19 Jvc Kenwood Corp 画像補正装置および画像補正方法

Also Published As

Publication number Publication date
US20180146150A1 (en) 2018-05-24
JP6822096B2 (ja) 2021-01-27
US10536655B2 (en) 2020-01-14

Similar Documents

Publication Publication Date Title
JP6822096B2 (ja) 光電変換装置、光電変換方法及び画像形成装置
US10542184B2 (en) Photoelectric conversion device, defective pixel determining method, image forming apparatus, and recording medium
JP6880709B2 (ja) 光電変換装置、光電変換方法及び画像形成装置
US10230854B2 (en) Image reading apparatus, image forming apparatus, and image forming system with interpolation of correction data
JP5162730B2 (ja) 撮像装置及びその暗電流補正方法
US20080298716A1 (en) Solid-State Imaging Device and Pixel Correction Method
US7750946B2 (en) Signal processing apparatus allowing an increase in pixels without an increase in driving frequency and circuit area
JP2003008846A (ja) 原稿読み取り装置および画像形成装置
JP2011120111A (ja) 固体撮像装置および電子情報機器
JP4166974B2 (ja) 画素キズ検出・補正装置
JP4591532B2 (ja) 画像読取装置、及び画像読取方法
JP6303504B2 (ja) 光電変換素子、画像読取装置及び画像形成装置
JP2009105582A (ja) ノイズ補正回路、撮像装置及びノイズ補正方法
JP2006245739A (ja) 画像読取装置および画像読取方法
JP6848421B2 (ja) 光電変換装置、光電変換方法及び画像形成装置
JP4899688B2 (ja) 撮像装置、及びそのスミア偽色低減方法
JP6439395B2 (ja) 画像読取装置、画像形成装置及び画像読取方法
JP2006311293A (ja) 画像処理装置
JP6992521B2 (ja) 光電変換装置、欠陥画素の判定方法及び画像形成装置
JP5697544B2 (ja) 画像処理装置及び画像処理方法
JP2005236834A (ja) シェーディング補正回路および画像読取装置
JP4414276B2 (ja) 画像読取装置
JP6287630B2 (ja) 画像読取装置、画像形成装置及び画像読取方法
JP2012080536A (ja) 画像処理装置及び画像処理方法
JPWO2018198680A1 (ja) 画像読み取り装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190806

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200521

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200609

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200730

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200811

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20201007

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201221

R151 Written notification of patent or utility model registration

Ref document number: 6822096

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151