JP4662584B2 - 画像センサのライン毎ノイズ除去装置及び方法 - Google Patents
画像センサのライン毎ノイズ除去装置及び方法 Download PDFInfo
- Publication number
- JP4662584B2 JP4662584B2 JP01414398A JP1414398A JP4662584B2 JP 4662584 B2 JP4662584 B2 JP 4662584B2 JP 01414398 A JP01414398 A JP 01414398A JP 1414398 A JP1414398 A JP 1414398A JP 4662584 B2 JP4662584 B2 JP 4662584B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- frequency component
- amount
- value
- calculating
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 26
- 238000001514 detection method Methods 0.000 claims description 27
- 238000006243 chemical reaction Methods 0.000 claims description 11
- 230000006978 adaptation Effects 0.000 claims description 8
- 238000001914 filtration Methods 0.000 claims description 7
- 230000007423 decrease Effects 0.000 claims description 4
- 230000003044 adaptive effect Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 12
- 230000003287 optical effect Effects 0.000 description 5
- 230000006866 deterioration Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 3
- 239000003086 colorant Substances 0.000 description 2
- 230000000593 degrading effect Effects 0.000 description 2
- 230000002411 adverse Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000001444 catalytic combustion detection Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/67—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
- H04N25/671—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
- H04N25/677—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction for reducing the column or line fixed pattern noise
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20004—Adaptive image processing
- G06T2207/20012—Locally adaptive
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20192—Edge enhancement; Edge preservation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Color Television Image Signal Generators (AREA)
- Processing Of Color Television Signals (AREA)
Description
【発明の属する技術分野】
本発明は、電子スチルカメラ(デジタルスチルカメラ)、デジタルビデオカメラ等の電子撮像装置に関する。特に、これらの撮像装置における光電変換素子が出力した画像データのノイズを除去する装置及び方法に関する。
【0002】
【従来の技術】
デジタルスチルカメラやデジタルビデオカメラにおいては光学的な画像を、電気信号による画像データに変換する必要がある。この変換のために、CCDなどの光学変換素子が用いられている。
【0003】
さて、このようなデジタル機器においては画像データはR(赤)G(緑)B(青)や、CMYなどの各色成分から構成されている場合が多い。従って、赤(R)用のCCDと、青(B)用のCCDと、緑(G)用のCCDのように、各色毎に3枚のCCDを用いたデジタルビデオカメラなども作成されている。
【0004】
しかしながら、製造コストを低減させるためや、装置構成を簡単にするため等の理由により、1枚のCCDを用いてR、G、Bの3原色の画像データを得る手法も広く採用されている。この1枚のCCDを用いて3原色の画像データを得るためには、この1枚のCCDにモザイク状の光学フィルタを取り付ける手法が広く利用されている。このフィルタはカラーフィルタアレイ(Color Filter Array:CFA)と呼ばれている。このフィルタをCCDに取り付けることにより、CCDを構成する画素のうちある画素は赤(R)のデータを検出し、また別の画素は緑(G)などを検出するように構成されている。
【0005】
この色フィルタの色の配列パターンは種々のものが提案されているが、典型的な配列としてBayer配列色のフィルタが広く利用されている。このBayer配列の色フィルタにおける各色の配置の様子を表す説明図が図1に示されている。
【0006】
この図に示されているように、Bayer配列においてはRやBの画素数に比べてGの画素数が2倍になっている。これは、Gの値が、人間の目の視覚上重要である輝度に関する情報をより多く含んでいるからである。
【0007】
さて、CCDを用いて画像データを得る画像装置においては、その偶数ラインと奇数ラインとによってしばしばゲインのミスマッチが生じる場合がある。
【0008】
このミスマッチは、CCDにおいて、その出力端子が偶数ライン上の出力端子、奇数ライン上の出力端子の2つの出力端子が備えられている場合に顕著である。2つの出力端子が備えられている場合にはそれぞれの出力段において出力のためのアンプが備えられているが、このアンプのゲインの差が出力信号に反映されてしまう場合があるからである。すなわち、アンプのゲイン差が出力信号の大きさの差となってしまいミスマッチが生じるのである。
【0009】
さらに、このようなミスマッチは、出力端子が1つだけ備えられているCCDにおいても生じる可能性がある。一般にその1つの出力端子の出力段アンプの増幅特性により、ある画素のデータを出力している際に、その画素の前に出力していた画素の値によって、現在出力中のその画素の値が影響を受けてしまう場合は多い。
【0010】
このように現在の画素のデータが前の画素のデータの値に影響を受ける場合には、上記Bayer配列の特徴から、奇数ラインの緑の値は隣の赤(R)画素の値から影響を受ける。一方、偶数ラインの緑(G)の画素の値は、隣接している青(B)の画素の値から影響を受けることになる。従って、例えば赤い物体を撮影する場合には、奇数ラインにおける緑はこの赤の画素の影響を強く受けることになるが、偶数ラインの緑は前の画素の影響をほとんど受けないことになる。その結果奇数ラインと偶数ラインにおける緑の画素の値が異なってしまい、結果としてミスマッチが生じてしまう。
【0011】
従来の技術においては、出力端子が2個備えられているCCDにおいては、そのCCDを用いてカメラなどを製造する際に、奇数ラインと偶数ラインのゲインの差を調整するためのアンプやアッテネータを調整する手法や、あるいは校正値を記憶しておき、画像処理の段階で奇数ラインと偶数ラインのゲイン補正するなどの手法が提案されている。
【0012】
【発明が解決しようとする課題】
しかしながら、上記Bayer配列の色フィルタを有するCCDにおいて生じるゲインのミスマッチは、その要因が不安定である場合が多い。例えば、同一ライン上にある前の画素値からの影響は、温度によって大幅に変化してしまう。従って、アンプの調整や、画像処理の段階でミスマッチを除去すること等の上記手法の実施は実際には非常に困難であり、ゲインのミスマッチに対する対策手法として実用されているものは極めて少ないのが実状である。
【0013】
さて、この奇数ラインと偶数ラインのゲインのミスマッチによるノイズは、最終画像に横縞を発生させてしまう。さらにこの横縞を含む画像に補間処理やエッジ強調処理等を施すと、画像に更に悪影響を与えてしまうことがある。例えば、横縞以外の複雑なパターンが生成されてしまい、目障りなノイズを発生させてしまい、最終的な画像品質を劣化させる原因ともなっていた。
【0014】
また、このような奇数ラインと偶数ラインのゲインの差は、縞状のノイズと考えることができる。したがって、この横縞状のノイズを画像処理の最終段階においてノイズ除去処理によって取り除くことも考えられる。しかし、画像処理の時間がかなり必要となってしまうという問題があり、さらに、このノイズ除去の副作用として、画像のエッジがなまってしまうなどの問題もある。
【0015】
本発明は、かかる課題に鑑みなされたものであり、その目的はBayer配列の色フィルタを有するCCDなどから得られた画像データにおいて、偶数ラインと奇数ラインのゲインのミスマッチによって生じたノイズを除去することが可能なノイズ除去方法および装置を提供することである。
【0016】
【課題を解決するための手段】
本発明は、上記課題を解決するために、Bayer型色フィルタを有する光電変換素子が出力するBayer型画像データのノイズを除去するノイズ除去装置において、以下のような手段を含むことを特徴とする。
【0017】
すなわち、本ノイズ除去装置は、前記Bayer型画像データを構成する各画素が有する高周波成分量を検出する高周波成分量検出手段と、前記Bayer型画像データを構成する各画素のぼかし量を算出するぼかし量算出手段と、前記高周波成分量検出手段が検出した高周波成分の量に基づき、前記高周波成分量が増大するほど前記ぼかし量が小さくなり、前記高周波成分量が所定のしきい値を超えた場合に前記ぼかし量がゼロとなるように前記ぼかし量を適応的に変更し、変更後の前記ぼかし量を前記各画素に加算するぼかし量適応決定手段と、を含むことを特徴とする。
【0018】
ぼかし量を、画素の高周波成分量に基づき適応的に加算したので、画像品質の劣化を少なくすることができる。
【0019】
また、本発明は、前記高周波成分量検出手段は、注目画素の値と、前記注目画素と1つおきの上下左右の4画素の値と、を入力とするラプラシアンフィルタ、を含むことを特徴とする。そして、前記ラプラシアンフィルタの出力信号が、前記高周波成分量として出力される。
【0020】
1つおきの上下左右の4画素の値を入力とするので、ライン毎ノイズの影響を小さくすることができる。
【0021】
また、本発明は、前記高周波成分量検出手段は、注目画素の値と、前記注目画素と1つおきの上下左右の4画素の値と、を入力とするラプラシアンフィルタと、前記注目画素の上下の画素の値の差の絶対値を出力する上下差分算出手段と、前記注目画素の左右の画素の値の差の絶対値を出力する左右差分算出手段と、前記ラプラシアンフィルタの出力信号と、上下差分算出手段の出力信号と、前記左右差分算出手段の出力信号と、を重み付け加算する加算手段と、を含むことを特徴とする。そして、前記加算手段の出力信号は、前記高周波成分量として出力される。
【0022】
したがって、ライン毎ノイズの影響を小さくすることができるとともに、画素の値の差分を参照しているため、画像品質の劣化を小さくすることができる。
【0023】
また、本発明は、前記ぼかし量算出手段は、注目画素の値と、前記注目画素の周囲の画素の値との重み付け平均値を求める平均値算出手段と、前記重み付け平均値と、前記注目画素との差分値を出力する差分値算出手段と、を含むことを特徴とする。そして、前記差分値算出手段の出力信号が前記ぼかし量として出力される。
【0024】
差分がぼかし量として出力されるため、画像の品質に応じたぼかし量を算出することができる。
【0025】
また、本発明は、前記ぼかし量適応決定手段は、前記高周波成分量をスケールファクタに変換する変換手段と、前記スケールファクタを前記ぼかし量に乗算する乗算手段と、前記スケールファクタを乗算した前記ぼかし量を前記注目画素に加算する加算手段と、を含むことを特徴とするノイズ除去装置である。
【0026】
高周波成分量に応じてスケールファクタが変化するので、画像品質を維持したままノイズの除去をすることができる。
【0027】
本発明は、Bayer型色フィルタを有する光電変換素子が出力するBayer型画像データのノイズを除去するノイズ除去方法において、以下のステップを有するものである。
【0028】
すなわち、前記Bayer型画像データを構成する各画素が有する高周波成分量を検出する高周波成分量検出ステップと、前記Bayer型画像データを構成する各画素のぼかし量を算出するぼかし量算出ステップと、前記高周波成分量検出ステップにおいて検出した高周波成分の量に基づき、前記高周波成分量が増大するほど前記ぼかし量が小さくなり、前記高周波成分量が所定のしきい値を超えた場合に前記ぼかし量がゼロとなるように前記ぼかし量を適応的に変更し、変更後の前記ぼかし量を前記各画素に加算するぼかし量適応決定ステップと、を含むことを特徴とするノイズ除去方法である。
【0029】
ぼかし量を、画素の高周波成分量に基づき適応的に加算したので、画像品質の劣化を少なくすることができる。
【0030】
また、本発明は、前記高周波成分量検出ステップは、注目画素の値と、前記注目画素と1つおきの上下左右の4画素の値と、に基づき、画素の値の2次微分値を算出するラプラシアンフィルタリングステップ、を含むことを特徴とする。そして、前記2次微分値が、前記高周波成分量として算出される。
【0031】
1つおきの上下左右の4画素の値を入力とするので、ライン毎ノイズの影響を小さくすることができる。
【0032】
また、本発明は、前記高周波成分量検出ステップは、注目画素の値と、前記注目画素と1つおきの上下左右の4画素の値と、を入力し、画素の値の2次微分値を算出するラプラシアンフィルタリングステップと、前記注目画素の上下の画素の値の差の絶対値を算出する上下差分算出ステップと、前記注目画素の左右の画素の値の差の絶対値を算出する左右差分算出ステップと、前記2次微分値と、上下差分算出ステップの出力信号と、前記左右差分算出ステップの出力信号と、を重み付け加算する加算ステップと、を含むことを特徴とする。そして、前記加算ステップの出力信号は、前記高周波成分量として出力される。
【0033】
したがって、ライン毎ノイズの影響を小さくすることができるとともに、画素の値の差分を参照しているため、画像品質の劣化を小さくすることができる。
【0034】
また、本発明は、前記ぼかし量算出ステップは、注目画素の値と、前記注目画素の周囲の画素の値との重み付け平均値を求める平均値算出ステップと、前記重み付け平均値と、前記注目画素との差分値を算出する差分値算出ステップと、を含むことを特徴とする。そして、前記差分値算出ステップの出力信号が前記ぼかし量として算出される。
【0035】
差分がぼかし量として出力されるため、画像の品質に応じたぼかし量を算出することができる。
【0036】
また、本発明は、前記ぼかし量適応決定ステップは、前記高周波成分量をスケールファクタに変換する変換ステップと、前記スケールファクタを前記ぼかし量に乗算する乗算ステップと、前記スケールファクタを乗算した前記ぼかし量を前記注目画素に加算する加算ステップと、を含むことを特徴とするノイズ除去方法である。
【0037】
高周波成分量に応じてスケールファクタが変化するので、画像品質を維持したままノイズの除去をすることができる。
【0038】
【発明の実施の形態】
以下、本発明の好適な実施の形態を図面に基づいて説明する。
【0039】
上述したように、Bayer配列の画像データにおいては、奇数ラインと偶数ラインの双方に存在しうる画素は緑(G)である。緑(G)以外の赤(R)や青(B)は奇数ラインだけまたは偶数ラインだけに存在するためライン毎のノイズの影響を受けにくい。そこで、本実施の形態においては特に緑画素(G)に対して画像の高周波部分に相当するか否かで、適応的にフィルタリングをする手法を提案する。このように適応的にフィルタリングすることにより特に緑画素に対するライン毎ノイズの除去を好適に行うことができる。
【0040】
図2には、本実施の形態におけるノイズ除去装置の機能ブロック図が示されている。この図2において、Bayer配列画像10は、上記図1に示されるような光フィルタが設けられたCCDなどから得られた画像データであり、図1に示されるような光フィルタの並びで各画素が単一の色成分の情報のみを有している。
【0041】
ぼかし手段12は、入力されるBayer配列画像10に対してノイズを除去するためのぼかしのデータを作成する手段である。このぼかし手段12の具体的な構成については後に詳述する。このぼかし手段12が算出したぼかし量は、適応的ぼかし手段14に供給される。適応的ぼかし手段14は、このぼかし量をBayer配列画像10をぼかすのに用いる。このようにして、適応的ぼかし手段14は、画像のノイズ除去をする。
【0042】
高周波成分検出手段16は、入力されるBayer配列画像10の中の各画素が画像の高周波部分にあたるかどうかを判断するための、その画素における高周波成分を検出する手段である。具体的なこの高周波成分検出手段16の構成については後に詳述する。適応的ぼかし手段14は、ぼかし手段12によって得られたぼかし量をそのままBayer配列画像10に加算するのではなく、高周波成分検出手段16によって得られたその画素の高周波成分の量に基づき適応的にぼかし量を加算するようにしている。
【0043】
具体的には画像の高周波成分に相当する画素に対してはぼかし手段12によるぼかし量を少なく加算し、高周波部分に相当しない画像の平坦な部分においてこのぼかし量を多く加算することにより、画像の品質を劣化させずにライン毎ノイズを効果的に除去することが可能となる。
【0044】
以下、本実施の形態を構成する各構成要素について詳細に説明する。
【0045】
(1)高周波成分検出手段
(1−1)ラプラシアンフィルタ
上述したように、本実施の形態においては緑画素のノイズ除去をするにあたって、その画素の高周波成分を高周波成分検出手段16によって検出している。本実施の形態にかかる高周波成分検出手段16は、今着目している緑画素(以下、この着目画素を自画素と呼ぶ)と一つおきに上下左右4画素に基づくラプラシアン(Laplacian)フィルタを用いている。この高周波成分検出手段16で用いているラプラシアンフィルタの係数を表す説明図が図3に示されている。この図に示されているように、このラプラシアンフィルタは、自画素を中心とする5×5のマトリクスに関するラプラシアンフィルタである。図に示されているように、自画素の係数は「1」であり、この自画素と一つおき上下左右4画素の係数はいずれも「−1/4」である。
【0046】
このようなフィルタ係数を有するラプラシアンフィルタと、Bayer配列画像10の画像データの値との畳み込み(コンボルーション)をとった結果の絶対値を、本実施の形態においてはその自画素(緑画素)の高周波成分量の尺度として利用している。
【0047】
本実施の形態において特徴的なことは、高周波成分検出手段16が用いているラプラシアンフィルタにおいて、一つおきの画素を参照していることである。したがって、自画素が偶数ライン上にある場合には、偶数ライン上の画素のみから高周波成分の量を算出することが可能となる。逆に、自画素(緑画素)が奇数ライン上に存在する場合には、奇数ラインの画素のみから高周波成分の量を見積もることになる。したがって、上述したライン毎ノイズの影響を受けずに、その画素の高周波成分量を検出することが可能となるのである。
【0048】
このように、一つおきの画素を参照することによるラプラシアンフィルタの出力値を、本実施の形態ではResult1と呼ぶ。
【0049】
(1−2)画素の値の差分値の利用
さて、緑画素のノイズ除去を行うにあたって、高周波成分を検出する方法として、上記ラプラシアンフィルタの出力値だけでなく、以下のような値を利用することも好ましい。
【0050】
例えば、自画素(緑画素)の左右の赤もしくは青の画素の値の差と、上下の青または赤の画素の値の差と、自画素と一つおき上下左右4画素のラプラシアンフィルタの出力値との、重み付き加算値を用いるのも好ましい。注目している緑画素の上下左右の赤や青の画素を例えば図4に示すようにそれぞれR1、R2、B1、B2と表す。
【0051】
すると、図4に示されているように着目している緑画素の上下に青の画素(B1、B2)があり左右に赤の画素(R1、R2)が存在するか、または逆に緑画素の上下に赤の画素(R1、R2)が存在し左右に青の画素(B1、B2)が存在する場合、の2通りが考えられる。これは、その緑画素が偶数ライン上にあるか奇数ライン上にあるかによって異なる。以上のように赤及び青の画素を表すと高周波成分量は以下のような式で求めることができる。
【0052】
【数1】
ここで、上記式においてabsは絶対値を求める演算を表す。また、Coeff1、Coeff2、Coeff3はそれぞれ重み係数を表す。また、Result1は、上述したようにラプラシアンフィルタの出力値である。このラプラシアンフィルタの出力値は図3に示されているようなフィルタ係数と画像データの値との畳み込みによって求められる。なお、ここで各係数は、その撮像装置(CCD)の特性や、各色の感度によって求まる最適値である。
【0053】
(2)ぼかし手段
図2において示したぼかし手段12は緑画素のノイズ除去に際して、ぼかし量を求める。具体的には、本実施の形態においては自画素と周囲画素の重み付き平均値と自画素の値の差を求めている。
【0054】
具体的には、低域通過フィルタとBayer配列画像10との畳み込み(コンボルーション)をとることで、注目している緑画素(自画素)と斜め上下左右4画素の重み付き平均値を求めている。本実施の形態で用いている低域通過フィルタのフィルタ係数を説明する説明図が図5に示されている。この図に示されているように、注目している緑画素の係数は「1/2」であり、斜め上下左右4画素の係数はいずれも「1/8」である。このようなフィルタ係数の低域通過フィルタを用いることにより、自画素を中心とする自画素及び周囲の斜め方向の4画素の重み付き平均値が低域通過フィルタの出力値として求まる。本実施の形態においては、この平均値と、注目している緑画素(自画素)の値の差を求め、この差をぼかし量として用いている。すなわち、ぼかし量は以下の式で算出される値である。
【0055】
【数2】
この式に示したように、低域通過フィルタを用いて平均値を求め、この平均値から自画素(緑画素)の値を減算することによりぼかし量が求められるが、この演算は結局は以下に示すようなぼかし量決定フィルタとBayer配列画像10の値との畳込みを行う演算と等価である。本実施の形態におけるぼかし量決定フィルタの係数の説明図が図6に示されている。この図に示されているように、ぼかし量決定フィルタの係数は、自画素の係数が「−1/2」であることを除けば、上記低域通過フィルタの係数と等しいのである。
【0056】
なお、この図6に示されているぼかし量決定フィルタは、高域通過フィルタの符号を反転したものとなっている。この高域通過フィルタの係数の例が図7に示されている。この高域通過フィルタは、上記図4に示されているような係数の低域通過フィルタの係数に対応したものである。したがって、本実施の形態においては、ぼかし量=−1×(高周波成分)となる。もちろん、ここで高周波成分とは、図7に示されているような係数の高周波通過フィルタとBayer配列画像の各画素の値の畳み込み値で得られる値である。
【0057】
すなわち、ぼかし量は以下の式で求められる。
【0058】
【数3】
(3)適応的ぼかし手段
次に、図2における適応的ぼかし手段14の動作について説明する。この適応的ぼかし手段14は、上記(1)の(1−1)または(1−2)で述べた高周波成分検出手段16の出力値(高周波成分量)の絶対値をスケールファクターとしてぼかし量を決定するのである。すなわち、上で計算して求めたぼかし量にこのスケールファクターをかけ算して得られた値を最終的なぼかし量として利用するのである。本文では、このスケールファクターを適応的ぼかし量係数と呼ぶ。この適応的ぼかし量係数の計算は、以下の式で行われる。
【0059】
適応的ぼかし量係数=Scale Table(abs(高周波成分量))
ここで、Scale Tableは、高周波成分量の絶対値が入力されたときに、最適なぼかし量の係数を出力するようなルックアップテーブルである。定性的に言えば、高周波成分量の絶対値が小さいときにはこのScale Tableは大きな値を出力し、高周波成分量の絶対値が大きいときには0を出力するようなテーブルである。このScale Tableの具体的な内容の例が図8に示されている。図8に示されているグラフは、このScale Tableにおける入力と出力の関係を表したものである。このグラフの横軸は、入力される高周波成分量の絶対値である。また、このグラフの縦軸はScale Tableから出力する適応的ぼかし量係数である。このグラフに示されているように、高周波成分量の絶対値が小さいときには適応的ぼかし量係数は大きな値をとる。特に、高周波成分量の絶対値が0の場合には適応的ぼかし量係数は最大の値をとる。高周波成分量の絶対値が大きくなるにしたがって、あるしきい値t1を超えた場合には適応的ぼかし量係数は0となる。これは、高周波成分量の絶対値が大きい場合にはぼかし量を0とし、画像品質を維持した方が好ましいと考えられるからである。
【0060】
さて、適応的ぼかし手段14は、高周波成分検出手段16が出力する高周波成分量の絶対値に基づきぼかし量と乗算するスケールファクターを算出する。このスケールファクターは、上述したように本文においては「適応的ぼかし量係数」と呼ぶ。さらに、この適応的ぼかし手段14は、この適応的ぼかし量係数をぼかし手段12が出力するぼかし量に乗算し、乗算結果を緑出力Gに加算する。この結果、適応的ぼかし手段14は最終的な緑の出力G´を、以下の式によって算出することになる。
【0061】
【数4】
以上述べたように、本実施の形態においてはBayer配列画像に対して、ライン毎ノイズに対して効果的にその除去を図ることができるようにぼかし量を適応的に加えている。この結果、緑画素のライン毎ノイズを除去することができる。本実施の形態で提案した方法は、基本的にはライン毎ノイズ発生原因によらずに効果が現れ、複数の原因によってライン毎ノイズが発生している場合でもこのノイズを除去するのに大きな効果が期待できる。また、本実施の形態においてはライン毎ノイズが目立つ部分、すなわち画像の低周波部分、にのみフィルタを大きく作用させ、ぼかしをきかせた。一方、エッジ部分などの高周波部分ではフィルタを作用させずにそのままの画像の品質を維持している。この結果、エッジがなまってぼけた画像になることなく、効果的にノイズの除去をすることができる。
【0062】
さらに、本実施の形態によれば、他の種類の画像処理、例えば補間処理や色補正、エッジ強調などに先だってノイズを除去することができる。したがって、他の種類の画像処理によるノイズの副作用を効果的に除去することができるのである。
【0063】
さらにまた、本実施の形態においては、ライン毎に原因調整を行う従来の対策とは異なり、画像の情報に対してフィルタリングを行っている。したがって、ライン毎ノイズだけではなく、センサや回路の持つランダムなノイズをも効果的に取り除くことができるという特徴を有する。
【0064】
【発明の効果】
以上述べたように、本発明によれば、高周波成分量に基づきぼかし量を決定しているため、エッジ部分などの画像品質を劣化させることなく、画像のノイズを低減することができるノイズ除去装置及び方法が得られる。
【0065】
また、本発明によれば、注目画素と一つおきの上下左右の4画素の値を用いたラプラシアンフィルタによって高周波成分量を求めている。したがって、画像に生じるライン毎ノイズを効果的に除去することができる装置及び方法が得られる。
【0066】
また、本発明によれば、上記ラプラシアンフィルタの出力信号に加え、注目画素の上下及び左右の画素の値の差に基づいて高周波成分量を算出しているため、より正確に高周波成分量を検出することができる装置及び方法が得られる。
【0067】
また、本発明によれば、ぼかし量として、注目画素とその周囲の画素の重み付け平均値と、注目画素の差分をぼかし量としたため、注目画素を平均的な値とすることができ、ノイズを効果的に防止することができる装置及び方法が得られる。
【0068】
また、本発明によれば、高周波成分量を所定のスケールファクターに変換し、このスケールファクターをぼかし量に乗算してから、このぼかし量を注目画素に加算した。したがって、高周波成分量の大きさに応じて適応的にぼかしをすることができる装置及び方法が得られる。
【図面の簡単な説明】
【図1】 Bayer配列の色フィルタにおいて、R、G、Bが並んでいる様子を表す説明図である。
【図2】 本実施の形態にかかるノイズ除去装置の構成ブロック図である。
【図3】 本実施の形態において高周波成分検出手段において用いられる自画素と一つおき上下左右4画素のラプラシアンフィルタの係数を表す説明図である。
【図4】 本実施の形態において高周波成分検出手段において採用している注目画素の左右の値または上下の値の差を求める際の画素の関係を表す説明図である。
【図5】 本実施の形態において採用している低域通過フィルタ係数の係数であって、ぼかし量を求める手段としてのフィルタを表す説明図である。
【図6】 本実施の形態においてぼかし量を求めるのに用いられているぼかし量決定フィルタの係数を表す説明図である。
【図7】 高域通過フィルタの係数を表す説明図である。
【図8】 本実施の形態において適応的ぼかし手段が採用しているスケールファクターを出力するScale Tableの入力と出力の関係を表すグラフである。
【符号の説明】
10 Bayer配列画像、12 ぼかし手段、14 適応的ぼかし手段、16 高周波成分検出手段。
Claims (10)
- Bayer型色フィルタを有する光電変換素子が出力するBayer型画像データのノイズを除去するノイズ除去装置において、
前記Bayer型画像データを構成する各画素が有する高周波成分量を検出する高周波成分量検出手段と、
前記Bayer型画像データを構成する各画素のぼかし量を算出するぼかし量算出手段と、
前記高周波成分量検出手段が検出した高周波成分の量に基づき、前記高周波成分量が増大するほど前記ぼかし量が小さくなり、前記高周波成分量が所定のしきい値を超えた場合に前記ぼかし量がゼロとなるように前記ぼかし量を適応的に変更し、変更後の前記ぼかし量を前記各画素に加算するぼかし量適応決定手段と、
を含むことを特徴とするノイズ除去装置。 - 請求項1記載のノイズ除去装置において、
前記高周波成分量検出手段は、
注目画素の値と、前記注目画素と1つおきの上下左右の4画素の値と、を入力とするラプラシアンフィルタ、
を含み、前記ラプラシアンフィルタの出力信号を、前記高周波成分量として出力することを特徴とするノイズ除去装置。 - 請求項1記載のノイズ除去装置において、
前記高周波成分量検出手段は、
注目画素の値と、前記注目画素と1つおきの上下左右の4画素の値と、を入力とするラプラシアンフィルタと、
前記注目画素の上下の画素の値の差の絶対値を出力する上下差分算出手段と、
前記注目画素の左右の画素の値の差の絶対値を出力する左右差分算出手段と、
前記ラプラシアンフィルタの出力信号と、上下差分算出手段の出力信号と、前記左右差分算出手段の出力信号と、を重み付け加算する加算手段と、
を含み、前記加算手段の出力信号を、前記高周波成分量として出力することを特徴とするノイズ除去装置。 - 請求項1、2又は3記載のノイズ除去装置において、
前記ぼかし量算出手段は、
注目画素の値と、前記注目画素の周囲の画素の値との重み付け平均値を求める平均値算出手段と、
前記重み付け平均値と、前記注目画素との差分値を出力する差分値算出手段と、
を含み、前記差分値算出手段の出力信号を前記ぼかし量として出力するノイズ除去装置。 - 請求項1、2、3又は4記載のノイズ除去装置において、
前記ぼかし量適応決定手段は、
前記高周波成分量をスケールファクタに変換する変換手段と、
前記スケールファクタを前記ぼかし量に乗算する乗算手段と、
前記スケールファクタを乗算した前記ぼかし量を前記注目画素に加算する加算手段と、
を含むことを特徴とするノイズ除去装置。 - Bayer型色フィルタを有する光電変換素子が出力するBayer型画像データのノイズを除去するノイズ除去方法において、
前記Bayer型画像データを構成する各画素が有する高周波成分量を検出する高周波成分量検出ステップと、
前記Bayer型画像データを構成する各画素のぼかし量を算出するぼかし量算出ステップと、
前記高周波成分量検出ステップにおいて検出した高周波成分の量に基づき、前記高周波成分量が増大するほど前記ぼかし量が小さくなり、前記高周波成分量が所定のしきい値を超えた場合に前記ぼかし量がゼロとなるように前記ぼかし量を適応的に変更し、変更後の前記ぼかし量を前記各画素に加算するぼかし量適応決定ステップと、
を含むことを特徴とするノイズ除去方法。 - 請求項6記載のノイズ除去方法において、
前記高周波成分量検出ステップは、
注目画素の値と、前記注目画素と1つおきの上下左右の4画素の値と、に基づき、画素の値の2次微分値を算出するラプラシアンフィルタリングステップ、
を含み、前記2次微分値を、前記高周波成分量として算出することを特徴とするノイズ除去方法。 - 請求項6記載のノイズ除去方法において、
前記高周波成分量検出ステップは、
注目画素の値と、前記注目画素と1つおきの上下左右の4画素の値と、を入力し、画素の値の2次微分値を算出するラプラシアンフィルタリングステップと、
前記注目画素の上下の画素の値の差の絶対値を算出する上下差分算出ステップと、
前記注目画素の左右の画素の値の差の絶対値を算出する左右差分算出ステップと、
前記2次微分値と、上下差分算出ステップの出力信号と、前記左右差分算出ステップの出力信号と、を重み付け加算する加算ステップと、
を含み、前記加算ステップの出力信号を、前記高周波成分量として算出することを特徴とするノイズ除去方法。 - 請求項6、7又は8記載のノイズ除去方法において、
前記ぼかし量算出ステップは、
注目画素の値と、前記注目画素の周囲の画素の値との重み付け平均値を求める平均値算出ステップと、
前記重み付け平均値と、前記注目画素との差分値を算出する差分値算出ステップと、
を含み、前記差分値算出ステップの出力信号を前記ぼかし量として算出するノイズ除去方法。 - 請求項6、7、8、9記載のノイズ除去方法において、
前記ぼかし量適応決定ステップは、
前記高周波成分量をスケールファクタに変換する変換ステップと、
前記スケールファクタを前記ぼかし量に乗算する乗算ステップと、
前記スケールファクタを乗算した前記ぼかし量を前記注目画素に加算する加算ステップと、
を含むことを特徴とするノイズ除去方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP01414398A JP4662584B2 (ja) | 1998-01-27 | 1998-01-27 | 画像センサのライン毎ノイズ除去装置及び方法 |
US09/146,015 US6526181B1 (en) | 1998-01-27 | 1998-09-02 | Apparatus and method for eliminating imaging sensor line noise |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP01414398A JP4662584B2 (ja) | 1998-01-27 | 1998-01-27 | 画像センサのライン毎ノイズ除去装置及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11215515A JPH11215515A (ja) | 1999-08-06 |
JP4662584B2 true JP4662584B2 (ja) | 2011-03-30 |
Family
ID=11852940
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP01414398A Expired - Fee Related JP4662584B2 (ja) | 1998-01-27 | 1998-01-27 | 画像センサのライン毎ノイズ除去装置及び方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US6526181B1 (ja) |
JP (1) | JP4662584B2 (ja) |
Families Citing this family (40)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6786420B1 (en) | 1997-07-15 | 2004-09-07 | Silverbrook Research Pty. Ltd. | Data distribution mechanism in the form of ink dots on cards |
US6618117B2 (en) | 1997-07-12 | 2003-09-09 | Silverbrook Research Pty Ltd | Image sensing apparatus including a microcontroller |
US6948794B2 (en) | 1997-07-15 | 2005-09-27 | Silverbrook Reserach Pty Ltd | Printhead re-capping assembly for a print and demand digital camera system |
US7110024B1 (en) | 1997-07-15 | 2006-09-19 | Silverbrook Research Pty Ltd | Digital camera system having motion deblurring means |
US6690419B1 (en) | 1997-07-15 | 2004-02-10 | Silverbrook Research Pty Ltd | Utilising eye detection methods for image processing in a digital image camera |
US6879341B1 (en) | 1997-07-15 | 2005-04-12 | Silverbrook Research Pty Ltd | Digital camera system containing a VLIW vector processor |
US6624848B1 (en) | 1997-07-15 | 2003-09-23 | Silverbrook Research Pty Ltd | Cascading image modification using multiple digital cameras incorporating image processing |
AUPP702098A0 (en) | 1998-11-09 | 1998-12-03 | Silverbrook Research Pty Ltd | Image creation method and apparatus (ART73) |
JP4327928B2 (ja) * | 1999-02-26 | 2009-09-09 | メディア・テック・ユーエスエイ・インコーポレーテッド | 電子カメラ装置 |
US6803955B1 (en) * | 1999-03-03 | 2004-10-12 | Olympus Corporation | Imaging device and imaging apparatus |
AUPQ056099A0 (en) * | 1999-05-25 | 1999-06-17 | Silverbrook Research Pty Ltd | A method and apparatus (pprint01) |
JP3264659B2 (ja) * | 1999-06-17 | 2002-03-11 | 松下電器産業株式会社 | ノイズリダクション装置および方法とその記録媒体 |
US6900838B1 (en) * | 1999-10-14 | 2005-05-31 | Hitachi Denshi Kabushiki Kaisha | Method of processing image signal from solid-state imaging device, image signal processing apparatus, image signal generating apparatus and computer program product for image signal processing method |
US7088392B2 (en) * | 2001-08-27 | 2006-08-08 | Ramakrishna Kakarala | Digital image system and method for implementing an adaptive demosaicing method |
US6937274B2 (en) * | 2001-12-17 | 2005-08-30 | Motorola, Inc. | Dynamic range compression of output channel data of an image sensor |
EP1729523B1 (en) | 2004-02-19 | 2014-04-09 | Mitsubishi Denki Kabushiki Kaisha | Image processing method |
EP1594321A3 (en) * | 2004-05-07 | 2006-01-25 | Dialog Semiconductor GmbH | Extended dynamic range in color imagers |
KR100698626B1 (ko) | 2004-12-10 | 2007-03-21 | 삼성전자주식회사 | 에일리어싱을 방지하기 위한 영상 보간 장치 및 방법 |
EP1865460B1 (en) * | 2005-03-31 | 2011-05-04 | Nikon Corporation | Image processing method |
KR100652408B1 (ko) * | 2005-04-27 | 2006-12-01 | 삼성전자주식회사 | 베이어 패턴의 디지털 컬러 영상 신호를 처리하는 방법 및장치 |
US7551799B2 (en) * | 2005-05-13 | 2009-06-23 | Seiko Epson Corporation | Apparatus and method for image noise reduction |
EP1947498A4 (en) * | 2005-11-11 | 2008-11-19 | Nikon Corp | KOFOKALES MICROSCOPE |
US8106969B2 (en) * | 2005-12-29 | 2012-01-31 | Mtekvision Co., Ltd. | Device and method for removing grid noise |
KR100809687B1 (ko) | 2006-02-28 | 2008-03-06 | 삼성전자주식회사 | 영상신호에 포함된 잡음을 제거할 수 있는 영상신호처리장치 및 방법 |
US8630498B2 (en) * | 2006-03-02 | 2014-01-14 | Sharp Laboratories Of America, Inc. | Methods and systems for detecting pictorial regions in digital images |
US7792359B2 (en) | 2006-03-02 | 2010-09-07 | Sharp Laboratories Of America, Inc. | Methods and systems for detecting regions in digital images |
US7889932B2 (en) * | 2006-03-02 | 2011-02-15 | Sharp Laboratories Of America, Inc. | Methods and systems for detecting regions in digital images |
US8437054B2 (en) * | 2006-06-15 | 2013-05-07 | Sharp Laboratories Of America, Inc. | Methods and systems for identifying regions of substantially uniform color in a digital image |
US7864365B2 (en) * | 2006-06-15 | 2011-01-04 | Sharp Laboratories Of America, Inc. | Methods and systems for segmenting a digital image into regions |
KR100843084B1 (ko) | 2006-06-22 | 2008-07-02 | 삼성전자주식회사 | 노이즈 저감 방법 및 장치 |
US7876959B2 (en) * | 2006-09-06 | 2011-01-25 | Sharp Laboratories Of America, Inc. | Methods and systems for identifying text in digital images |
JP4925198B2 (ja) * | 2007-05-01 | 2012-04-25 | 富士フイルム株式会社 | 信号処理装置および方法、ノイズ低減装置および方法並びにプログラム |
US20090041344A1 (en) * | 2007-08-08 | 2009-02-12 | Richard John Campbell | Methods and Systems for Determining a Background Color in a Digital Image |
JP5425382B2 (ja) * | 2007-08-27 | 2014-02-26 | エルジー ディスプレイ カンパニー リミテッド | デジタル表示装置の駆動装置 |
JP2009105960A (ja) * | 2009-02-02 | 2009-05-14 | Seiko Epson Corp | 撮影装置およびこれに用いるプログラム並びに画像記憶方法 |
US20130329004A1 (en) * | 2012-06-06 | 2013-12-12 | Apple Inc. | Method of and Apparatus for Image Enhancement |
KR101931332B1 (ko) | 2012-06-29 | 2018-12-20 | 삼성전자주식회사 | 영상의 노이즈 제거 장치 및 방법 |
US9667842B2 (en) | 2014-08-30 | 2017-05-30 | Apple Inc. | Multi-band YCbCr locally-adaptive noise modeling and noise reduction based on scene metadata |
US9641820B2 (en) | 2015-09-04 | 2017-05-02 | Apple Inc. | Advanced multi-band noise reduction |
CN105894479B (zh) * | 2016-06-28 | 2018-08-31 | 福州瑞芯微电子股份有限公司 | 一种图像滤波方法和装置 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5280347A (en) * | 1990-10-30 | 1994-01-18 | Canon Kabushiki Kaisha | Color image sensing device |
JP3392564B2 (ja) * | 1995-02-27 | 2003-03-31 | 三洋電機株式会社 | 単板式カラービデオカメラ |
-
1998
- 1998-01-27 JP JP01414398A patent/JP4662584B2/ja not_active Expired - Fee Related
- 1998-09-02 US US09/146,015 patent/US6526181B1/en not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH11215515A (ja) | 1999-08-06 |
US6526181B1 (en) | 2003-02-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4662584B2 (ja) | 画像センサのライン毎ノイズ除去装置及び方法 | |
US8941761B2 (en) | Information processing apparatus and information processing method for blur correction | |
JP4066484B2 (ja) | 画像処理装置および画像処理方法、並びにカメラ | |
JP5067499B2 (ja) | 画像処理装置 | |
JP4329833B2 (ja) | ストリーキング補正信号生成回路、ストリーキング補正信号生成方法、プログラム、ストリーキング補正回路および撮像装置 | |
JP4683994B2 (ja) | 画像処理装置、画像処理方法、電子カメラ、スキャナ | |
US8233737B2 (en) | Noise correction circuit, imaging apparatus, and noise correction method adding random number after noise removal | |
US8081239B2 (en) | Image processing apparatus and image processing method | |
JP4273428B2 (ja) | 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体 | |
KR100880281B1 (ko) | 화상 처리 방법 및 화상 처리 회로 | |
JPS6359266A (ja) | 画像再生方法および装置 | |
JP2006080852A (ja) | 画像処理装置、電子カメラ、スキャナ、画像処理方法、および画像処理プログラム | |
JPWO2006064913A1 (ja) | 画像処理方法 | |
WO2004110071A1 (ja) | 画像処理装置、画像処理プログラム | |
JP5701640B2 (ja) | 画像処理装置 | |
US7269295B2 (en) | Digital image processing methods, digital image devices, and articles of manufacture | |
JP2004328564A (ja) | カラー補正装置、カラー補正方法及びカラー補正プログラム、並びにカラー補正装置を用いたデジタルカメラ | |
JP4637812B2 (ja) | 画像信号処理装置、画像信号処理プログラム、画像信号処理方法 | |
JP2007318280A (ja) | 画像処理装置 | |
JP7423033B2 (ja) | 画像信号処理方法 | |
JP4797949B2 (ja) | 撮像装置、画像処理装置、方法およびプログラム | |
KR100831970B1 (ko) | 결함 화소 검출 방법 및 이를 위해 사용되는 장치 | |
JP2006041687A (ja) | 画像処理装置、画像処理方法、画像処理プログラム、電子カメラ、及びスキャナ | |
US8345116B2 (en) | Noise reduction filter processing circuit, image processing circuit, imaging device, and storage medium storing noise reduction program | |
JP5103580B2 (ja) | 画像処理装置およびデジタルカメラ |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050121 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20050121 Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20050121 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20050124 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070510 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070522 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070803 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080501 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110104 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140114 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |