JP2008198207A - Image processor and image processing method - Google Patents
Image processor and image processing method Download PDFInfo
- Publication number
- JP2008198207A JP2008198207A JP2008030676A JP2008030676A JP2008198207A JP 2008198207 A JP2008198207 A JP 2008198207A JP 2008030676 A JP2008030676 A JP 2008030676A JP 2008030676 A JP2008030676 A JP 2008030676A JP 2008198207 A JP2008198207 A JP 2008198207A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- fixed pattern
- signal level
- image processing
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims description 12
- 238000012545 processing Methods 0.000 claims abstract description 82
- 238000012937 correction Methods 0.000 claims abstract description 60
- 230000002093 peripheral effect Effects 0.000 claims abstract description 3
- 238000001514 detection method Methods 0.000 claims description 45
- 238000000034 method Methods 0.000 claims description 27
- 238000003384 imaging method Methods 0.000 claims description 11
- 230000002542 deteriorative effect Effects 0.000 abstract description 2
- 230000015654 memory Effects 0.000 description 73
- 238000010586 diagram Methods 0.000 description 15
- 230000003111 delayed effect Effects 0.000 description 11
- 230000001934 delay Effects 0.000 description 9
- 230000002950 deficient Effects 0.000 description 6
- 238000009499 grossing Methods 0.000 description 5
- 238000012546 transfer Methods 0.000 description 4
- 230000000593 degrading effect Effects 0.000 description 3
- 238000003708 edge detection Methods 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 238000003702 image correction Methods 0.000 description 1
Images
Landscapes
- Image Input (AREA)
- Image Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Facsimile Image Signal Circuits (AREA)
Abstract
Description
本発明は、被写体像を複数のチャンネル出力として読み出した撮像画像を信号処理する場合に、チャンネル間のゲイン調整で補正しきれない縞ノイズを軽減できるようにした画像処理装置及び画像処理方法に関する。 The present invention relates to an image processing apparatus and an image processing method that can reduce fringe noise that cannot be corrected by gain adjustment between channels when a captured image obtained by reading a subject image as a plurality of channel outputs is subjected to signal processing.
従来、全画素読み出し方式のCCD(電荷結合素子、Charge Coupled Deviceの略)のように、複数のチャンネル出力を持つ撮像素子がある。例えば、2チャンネル読み出し型のCCDは、駆動周波数を低くするために水平転送レジスタを2本有し、奇数ラインの信号電荷と偶数ラインの信号電荷とを別々の水平転送レジスタにて同時に転送し、1水平転送期間内に2ライン分の信号電荷を読み出すものである。 2. Description of the Related Art Conventionally, there is an image sensor having a plurality of channel outputs such as an all-pixel readout type CCD (abbreviation of charge coupled device). For example, a two-channel readout type CCD has two horizontal transfer registers in order to lower the driving frequency, and simultaneously transfers signal charges of odd lines and signal charges of even lines using separate horizontal transfer registers, Signal charges for two lines are read out within one horizontal transfer period.
複数のチャンネル出力を持つCCDにおいては、チャンネル間のゲインばらつきが発生した場合、そのばらつきがチャンネル間の出力信号のレベル差となって、画像に縞ノイズとして現れることとなる。従って、チャンネル間のゲインばらつきを補正するために、特開平10-276976号公報に記載されているように、それぞれのチャンネルの出力をサンプリングし、その平均値を比較するなどして、チャンネル間の出力のゲイン調整を行い、チャンネル間のゲインのマッチングをとることが行われている。しかし、複数チャンネル間において、異なる様相のシェーデイングが発生しているような場合、チャンネル間のばらつきが補正しきれず、その結果、画像に縞ノイズが残ってしまう場合がある。 In a CCD having a plurality of channel outputs, when a gain variation occurs between channels, the variation becomes a level difference of output signals between channels and appears as fringe noise in an image. Therefore, in order to correct the gain variation between channels, as described in JP-A-10-276976, the output of each channel is sampled, and the average value is compared. The gain of the output is adjusted to match the gain between the channels. However, when different types of shading occur between a plurality of channels, variations between channels cannot be corrected, and as a result, fringe noise may remain in the image.
また、他の先行技術として、特開昭62-296668号公報には、画像信号中の注目画素信号の前後左右に位置する画素信号に基づいて当該注目画素信号の補正を行う際に、注目画素信号と前後左右に位置する画素信号との濃度差が夫々所定範囲の場合に補正を行わないように制御し、それ以外の時に補正値を出力するように制御する画像補正回路が開示されている。 As another prior art, Japanese Patent Laid-Open No. 62-296668 discloses a pixel of interest when correcting the pixel of interest signal based on pixel signals located before, after, and after the pixel signal of interest in the image signal. An image correction circuit is disclosed that performs control so that correction is not performed when the difference in density between a signal and pixel signals located in the front, rear, left, and right is within a predetermined range, and outputs correction values at other times. .
また、特開平4-239886号公報には、複数の走査線から構成される画像信号より、注目画素及び注目画素の周囲に2次元的に近接する近接画素群の画素値を出力する画素値群抽出手段と、近接画素値群に対し注目画素の画素値が所定の閾値以上差があるかを検出することにより注目画素にノイズが含まれているか否かを判定するノイズ判定手段と、ノイズ判定手段による判定結果を元に注目画素及び近接画素群の画素値のうち何れか一つの画素値を選択し出力する画素値選択手段とを有する画像雑音装置が開示されている。 Japanese Patent Laid-Open No. 4-239886 discloses a pixel value group that outputs pixel values of a pixel of interest and a neighboring pixel group that is two-dimensionally adjacent to the pixel of interest from an image signal composed of a plurality of scanning lines. A noise determination unit that determines whether the pixel of interest includes noise by detecting whether the pixel value of the pixel of interest is greater than a predetermined threshold with respect to the adjacent pixel value group; There is disclosed an image noise device having pixel value selection means for selecting and outputting any one of the pixel values of the target pixel and the neighboring pixel group based on the determination result by the means.
さらに、特開平9-218940号公報には、画像内の不良画像を補間する画面処理装置であって、複数の画素からなる有効画像領域が複数散在する画像を入力する画像入力手段と、不良画像が存在する有効画像領域を特定する領域特定手段と、前記不良画像が存在する有効画像領域の周辺にある少なくとも1つの有効画像領域を含む周辺領域から得られる画像をもって前記不良画像を補間する補間手段とを備えた画像処理装置が開示されている。これにより、不良画像が複数の画素に跨って存在する画像における当該不良画像を補間することにより、良好な出力画像を得ることができるようにしている。 Further, JP-A-9-218940 discloses a screen processing apparatus for interpolating a defective image in an image, an image input means for inputting an image in which a plurality of effective image areas composed of a plurality of pixels are scattered, and a defective image And an interpolating unit for interpolating the defective image with an image obtained from a peripheral region including at least one effective image region around the effective image region in which the defective image exists An image processing apparatus including the above is disclosed. Thus, a good output image can be obtained by interpolating the defective image in an image in which the defective image exists across a plurality of pixels.
またさらに、特開平11-308625号公報には、デジタル変換された入力信号から映像信号を形成するカメラ信号処理回路を備えてなる撮像装置であって、カメラ信号処理回路は、入力信号のエッジを検出するエッジ検出部と、入力信号の輝度情報を抽出する輝度信号処理部と、入力信号の色情報を抽出する色差信号処理部とを具備しており、画像の水平方向に沿って連続した3つの画素それぞれの信号量D1,D2,D3と予め定められた設定値Aとが、|D1−D2|>Aかつ|D1−D3|>Aまたは|D1−D3|>Aかつ|D2−D3|>Aとなる条件がエッジ検出部で満たされているときには、色差信号処理部で色差信号を抑圧する撮像装置が開示されている。 Furthermore, Japanese Patent Laid-Open No. 11-308625 discloses an image pickup apparatus including a camera signal processing circuit that forms a video signal from a digitally converted input signal, and the camera signal processing circuit detects an edge of the input signal. An edge detection unit for detection, a luminance signal processing unit for extracting luminance information of the input signal, and a color difference signal processing unit for extracting color information of the input signal are provided, and 3 continuous in the horizontal direction of the image The signal amounts D1, D2, and D3 of each of the pixels and the predetermined set value A are | D1-D2 |> A and | D1-D3 |> A or | D1-D3 |> A and | D2-D3. An imaging device is disclosed in which a color difference signal processing unit suppresses a color difference signal when a condition satisfying |> A is satisfied by an edge detection unit.
しかし、上記特開昭62-296668号公報、特開平4-239886号公報、特開平9-218940号公報、特開平11-308625号公報のいずれの公報にも、複数のチャンネル出力を持つ撮像素子からの複数チャンネルの画像を信号処理する場合に、チャンネル間のゲイン調整では補正しきれず、画像に縞ノイズが残ってしまう課題を解決する手段については記載されていない。
上記特開平10-276976号公報に記載されている縞ノイズを補正する方法としては、画像全体に対して平滑化処理を行って補正する方法があるが、被写体のエッジなどの必要な情報もぼかしてしまい、画質が劣化してしまうという問題があった。 As a method for correcting fringe noise described in the above-mentioned Japanese Patent Application Laid-Open No. 10-276976, there is a method of correcting the entire image by performing a smoothing process. However, necessary information such as the edge of the subject is also blurred. As a result, the image quality deteriorates.
本発明は上記の問題に鑑み、被写体のエッジなどの必要な情報を劣化させることなく、ゲイン調整では補正しきれず発生していたチャンネル間のばらつきに起因する縞ノイズを、画質を劣化させることなく、縞ノイズのみを軽減可能な画像処理装置及び画像処理方法を提供することを目的とする。 In view of the problems described above, the present invention does not degrade necessary information such as the edge of a subject, and does not completely correct correction by gain adjustment. An object of the present invention is to provide an image processing apparatus and an image processing method capable of reducing only fringe noise.
本発明の画像処理装置は、入力された画像データに対して信号処理を施す画像処理装置において、処理対象となる画素データとその周辺画素のデータを用いて、所定の固定パターンを検出する固定パターン検出手段と、前記固定パターン検出手段によって固定パターンが検出された画素に対してのみ、補正処理を行う固定パターン補正手段と、を備え、前記固定パターン補正手段は、注目画素の信号レベルを、注目画素と当該注目画素の両隣に隣接する2つの隣接画素の信号レベルのうち、前記注目画素との信号レベルの差が大きい方の隣接画素の信号レベルとの差分値に所定の係数を乗じた値に基づいて、当該注目画素の信号レベルに対して所定の演算を施すことにより求めることを特徴とする。 An image processing apparatus according to the present invention is a fixed pattern that detects a predetermined fixed pattern using pixel data to be processed and data of surrounding pixels in an image processing apparatus that performs signal processing on input image data. Detection means, and fixed pattern correction means for performing correction processing only on pixels for which a fixed pattern has been detected by the fixed pattern detection means, wherein the fixed pattern correction means determines the signal level of the target pixel A value obtained by multiplying a difference value between a signal level of an adjacent pixel having a larger signal level difference from the target pixel by a predetermined coefficient among signal levels of two adjacent pixels adjacent to both sides of the pixel and the target pixel. Based on the above, it is obtained by performing a predetermined calculation on the signal level of the target pixel.
本発明の画像処理方法は、入力された画像データに対して信号処理を施す画像処理方法において、処理対象となる画素データとその周辺画素のデータを用いて、所定の固定パターンを検出するステッブと、前記ステップにて所定の固定パターンが検出された画素に対して補正処理を行うステップと、を含み、前記補正処理を行うステップは、注目画素の信号レベルを、注目画素と当該注目画素の両隣に隣接する2つの隣接画素の信号レベルのうち、前記注目画素との信号レベルの差が大きい方の隣接画素の信号レベルとの差分値に所定の係数を乗じた値に基づいて、当該注目画素の信号レベルに対して所定の演算を施すことにより求めることを特徴とする。 The image processing method according to the present invention is a step of performing signal processing on input image data, a step for detecting a predetermined fixed pattern using pixel data to be processed and data of surrounding pixels. Performing a correction process on the pixel in which the predetermined fixed pattern is detected in the step, and the step of performing the correction process sets the signal level of the target pixel to the target pixel and the adjacent pixel of the target pixel. Of the pixel of interest based on a value obtained by multiplying a difference value between the signal level of the adjacent pixel having a larger signal level difference from the pixel of interest among the signal levels of two adjacent pixels adjacent to the pixel by a predetermined coefficient The signal level is obtained by performing a predetermined calculation on the signal level.
本発明によれば、縦縞ノイズや横縞ノイズ、さらには斜め状のノイズなどの固定パターンを検出し、固定パターンが検出された部分のみに対して、ゲイン調整や平滑化処理などの補正処理を行うことによって、被写体のエッジ情報などの重要な情報を劣化させることなく、効果的にノイズを軽減することが可能である。 According to the present invention, fixed patterns such as vertical stripe noise, horizontal stripe noise, and oblique noise are detected, and correction processing such as gain adjustment and smoothing processing is performed only on the portion where the fixed pattern is detected. Thus, noise can be effectively reduced without degrading important information such as edge information of the subject.
以下、図面を参照して本発明の実施の形態を説明する。 Embodiments of the present invention will be described below with reference to the drawings.
図1〜図12は、本発明の第1の実施の形態に係り、図1は、画像処理装置の基本構成を示すブロック図、図2は、チャンネル間のばらつきを補正しきれずに発生した縞ノイズの様子を示す図、図3は、図2のAB間の信号レベルを表した図、図4は、図1の固定パターン検出部の処理フローを示すフローチャート、図5は、図4の処理ステップS3で検出する条件の例を示す図、図6及び図7は、図4の処理ステップS3で検出されない条件の例を示す図、図8は、図4の処理ステップS10で縞ノイズを検出する条件の例を説明するための説明図、図9は、図4の処理ステップS10で縞ノイズを検出しない条件の例を説明するための説明図、図10は、図1の補正量算出部の処理フローを示すフローチャート、図11は、図1の縞ノイズ補正部の処理フローを示すフローチャート、図12は、本実施の形態の装置又は方法による処理結果を示す図である。 1 to 12 relate to a first embodiment of the present invention, FIG. 1 is a block diagram showing a basic configuration of an image processing apparatus, and FIG. 2 is a fringe generated without correcting variations between channels. FIG. 3 is a diagram showing the state of noise, FIG. 3 is a diagram showing the signal level between AB in FIG. 2, FIG. 4 is a flowchart showing the processing flow of the fixed pattern detection unit in FIG. 1, and FIG. FIG. 6 and FIG. 7 are diagrams showing examples of conditions not detected in processing step S3 of FIG. 4, and FIG. 8 is a diagram showing detection of fringe noise in processing step S10 of FIG. FIG. 9 is an explanatory diagram for explaining an example of the condition for performing the detection, FIG. 9 is an explanatory diagram for explaining an example of the condition for not detecting the fringe noise in the processing step S10 of FIG. 4, and FIG. FIG. 11 shows a fringe noise correction unit in FIG. Flowchart showing a processing flow, FIG. 12 is a diagram showing a processing result by the apparatus or method of the present embodiment.
本実施の形態では、縦縞ノイズを効果的に除去する信号処理を行う画像処理装置を示すものである。縦縞ノイズとは、例えばチャンネル間のばらつきを補正しきれずに発生した縞ノイズである。ここでは、1ドットおきの縦縞ノイズとなる場合を考える。撮像された画像を拡大している場合などには、1ドット以上おきの縦縞ノイズとなることがあるが、この場合は、検出条件をその縞ノイズにあわせればよく、基本的な考え方は変わらない。本実施の形態では、説明を簡略化するために1ドットおきの縦縞ノイズについて説明を行う。 In the present embodiment, an image processing apparatus that performs signal processing for effectively removing vertical stripe noise is shown. Vertical stripe noise is, for example, fringe noise generated without being able to correct variations between channels. Here, consider the case of vertical stripe noise every other dot. When the captured image is enlarged, vertical stripe noise may occur every other dot or more, but in this case, the detection condition can be adjusted to the stripe noise, and the basic idea remains the same. . In the present embodiment, vertical stripe noise every other dot will be described in order to simplify the description.
図1で本発明に係る画像処理装置の構成を説明する前に、図2及び図3を参照して縦縞ノイズについて説明する。
図2にモニタ画面(図では8角形状)に映出される画像の縦縞ノイズ(固定パターン)の様子を示す。縦縞ノイズの発生している部分(図2のAB間)の信号レベルは、白チャートのような一様な被写体を撮像した場合、図3のように1ドットおきに信号レベルの高い画素と低い画素が交互に並んだようになっている。
Before describing the configuration of the image processing apparatus according to the present invention with reference to FIG. 1, vertical stripe noise will be described with reference to FIGS.
FIG. 2 shows a state of vertical stripe noise (fixed pattern) of an image displayed on a monitor screen (an octagonal shape in the figure). The signal level of the portion where the vertical stripe noise is generated (between AB in FIG. 2) is low when the image of a uniform subject such as a white chart is picked up with a pixel having a high signal level every other dot as shown in FIG. The pixels are arranged alternately.
従来のように平滑化フィルタなどを用いてこの信号レベルのゲインばらつきを補正すると、縞ノイズの発生していない部分も平滑化を行ってしまうため、例えば、被写体の微細なエッジ変化などがつぶれてしまい、画質が劣化してしまう。 When the gain variation of the signal level is corrected using a smoothing filter or the like as in the past, the portion where the fringe noise is not generated is also smoothed. For example, the minute edge change of the subject is lost. As a result, the image quality deteriorates.
また、縞ノイズの発生している画像部分でも、縞ノイズではないエッジが存在する場合、例えば、被写体が解像度チャートなどのような場合に、細かいビッチで急激に変化するエッジもぼけて劣化してしまうということがあった。 Also, even in the image portion where fringe noise is generated, if there is an edge that is not fringe noise, for example, when the subject is a resolution chart etc., the edge that changes rapidly with a fine bitch is blurred and deteriorated. There was a case.
本発明では、このような点に鑑みて、縞ノイズのみを検出し、これを補正することができる画像処理装置を提供するものである。 In view of such a point, the present invention provides an image processing apparatus that can detect only fringe noise and correct it.
すなわち、本発明に係る画像処理装置は、入力された画像データに対して信号処理を施す画像処理装置において、処理対象となる画素データとその周辺画素のデータを用いて、所定の固定パターンを検出する固定パターン検出手段と、前記固定パターン検出手段によって固定パターンが検出された画素に対してのみ、補正処理を行う固定パターン補正手段と、を具備したものである。 That is, the image processing apparatus according to the present invention detects a predetermined fixed pattern using pixel data to be processed and data of surrounding pixels in an image processing apparatus that performs signal processing on input image data. And a fixed pattern correction unit that performs correction processing only on the pixels for which the fixed pattern is detected by the fixed pattern detection unit.
図1に示す本発明の画像処理装置は、例えば2チャンネル読み出し型の撮像素子から得られる奇数ライン,偶数ラインの2つの信号をチャンネル間でゲイン調整を行い、そのときチャンネル間のばらつきを補正しきれずに発生した縞ノイズを補正処理するものであり、図1では、奇数ライン,偶数ラインの2つの信号をチャンネル間でゲイン調整した後、このゲイン調整後の2チャンネルの信号を合成した後の画像信号につき、その縞ノイズを補正処理する構成を示している。 The image processing apparatus of the present invention shown in FIG. 1 adjusts the gain of two signals of an odd line and an even line obtained from, for example, a two-channel readout type image sensor, and corrects variations between channels at that time. In FIG. 1, after the gain adjustment of the two signals of the odd line and the even line between the channels, the two channel signals after the gain adjustment are synthesized. A configuration for correcting the fringe noise of an image signal is shown.
図1に示す画像処理装置は、入力された画像データから処理対象となる画素データとその周辺画素のデータを用いて、画素毎に固定パターンを検出する固定パターン検出部1と、入力された画像データから画素毎に補正量を算出する補正量算出部2と、固定パターンが検出された画素に対してのみ、補正量算出部2によって算出された補正量に基づいて補正を行う縞ノイズ補正部3と、を具備して構成されている。上記固定パターン検出部1は固定パターン検出手段を構成し、上記補正量算出部2及び縞ノイズ補正部3は固定パターン補正手段を構成している。
The image processing apparatus shown in FIG. 1 includes a fixed
次に、図4のフローチャートを用いて、図1の固定パターン検出部1の動作について説明する。
入力された画像は、図4のS1〜S5に示されるように、遅延されないデータA、1ドット遅延(ステップS1)されたデータB、 2ドット遅延(ステップS2)されたデータCから、処理対象(Bにあたる)の画素データを両隣の画素データと比較して、凸型であるか、凹型であるか判断される(ステップS3)。ステップS3では、図5のようにBの位置の画素が両隣の画素と比較して信号レベルがともに高く、両隣の画素との信号レベル差が10%以内の場合は凸型と判断して、また、図示しないが、逆に信号レベルがともに低く、両隣の画素との信号レベル差が10%以内の場合には凹型と判断して、変数“Flag”に1を代入する(ステップS4)。図6のように、隣との信号レベルの差が10%以上だったり、図7のように階段状の変化をしている場合には、変数“Flag”に0を代入する(ステップS5)。
Next, the operation of the fixed
As shown in S1 to S5 in FIG. 4, the input image is processed from data A that is not delayed, data B that is delayed by 1 dot (step S1), and data C that is delayed by 2 dots (step S2). The pixel data (corresponding to B) is compared with the adjacent pixel data to determine whether it is a convex type or a concave type (step S3). In step S3, as shown in FIG. 5, the pixel at position B has a higher signal level than both adjacent pixels, and if the signal level difference between the adjacent pixels is within 10%, it is determined to be convex. Although not shown, conversely, when both signal levels are low and the signal level difference between the adjacent pixels is within 10%, it is determined to be concave and 1 is substituted into the variable “Flag” (step S4). As shown in FIG. 6, when the difference in signal level with the neighbor is 10% or more, or when the change is stepwise as shown in FIG. 7, 0 is substituted into the variable “Flag” (step S5). .
尚、本実施の形態では、説明の簡略化のため、縦縞ノイズで発生する隣の画素との信号レベル差は、信号レベルの10%以内であるものとしているが、この条件は、撮像装置の特性やチャンネル間ばらつきの補正方法などによっても変化するものであるため、これらを考慮して適宜変更して決定すればよく、例えば、信号レベルの2,4,8,16%以内や2〜8%,4〜16%等、本実施の形態に記載される条件の“信号レベルの10%以内”に限られるものではない。 In the present embodiment, for simplification of explanation, the signal level difference between adjacent pixels generated by vertical stripe noise is assumed to be within 10% of the signal level. Since it varies depending on the characteristics and the method of correcting the variation between channels, it may be determined by appropriately changing in consideration of, for example, within 2, 4, 8, 16% of the signal level, or 2-8. %, 4 to 16%, etc., are not limited to “within 10% of the signal level” of the conditions described in the present embodiment.
次に、図4のS6〜S12に示されるように、遅延されないFlagイ、1ドット遅延(ステップS6)されたFlagロ、2ドット遅延(ステップS7)されたFlagハ、3ドット遅延(ステップS8)されたFlagニ、4ドット遅延(ステップS9)されたFlagホから、隣り合う画素において凸型又は凹型が連続しているかを判断する(ステップS10)。ステップS10では、図8において、ハの位置にあたる画素のFlagが1の時、イ、ロ、ハの画素のFlagがともに1、または、ハ、二、ホの画素のFlagがともに1、または、ロ、ハ、ニの画素のFlagがともに1であれば、縦縞の固定パターンを検出したと判断して、変数“Shima”に1を代入する(ステップS11)。これ以外のときは、縦縞の固定パターンを検出しなかったとして、変数“Shima”に0を代入する(ステップS12)。 Next, as shown in S6 to S12 of FIG. 4, a flag that is not delayed, a flag that is delayed by 1 dot (step S6), a flag that is delayed by 2 dots (step S7), a flag that is delayed by 3 dots (step S8) Whether the convex type or the concave type is continuous in the adjacent pixels is determined from the flag D that has been delayed by 4 dots (step S9). In step S10, when the flag of the pixel corresponding to the position of c in FIG. 8 is 1, the flags of the pixels i, b, and c are all 1, or the flags of the pixels c, 2, and e are both 1, or If Flags of B, C, and D are all 1, it is determined that a fixed pattern of vertical stripes has been detected, and 1 is assigned to the variable “Shima” (step S11). In other cases, assuming that a fixed pattern of vertical stripes has not been detected, 0 is substituted into the variable “Shima” (step S12).
図8の場合は、ハ、ニ、ホの画素のFlagがともに1、また、ロ、ハ、ニの画素のFlagがともに1であるので、変数”Shima “に1を代入する。例えば、図9のような場合、いずれかの画素の変数“Flag“が1であったとしても、縦縞ノイズとして検出は行わない。 In the case of FIG. 8, the flags of the pixels C, D, and H are all 1, and the flags of the pixels B, C, and D are both 1. Therefore, 1 is assigned to the variable “Shima”. For example, in the case of FIG. 9, even if the variable “Flag” of any pixel is 1, detection is not performed as vertical stripe noise.
上記の図4の処理方法によれば、1ドットおきに発生する縦縞ノイズだけを検出することが可能である。尚、縦縞ノイズの検出条件は上記した方法に限らず、例えば、メモリの数を増やして、凸型や凹型が4つ続けて連続している場合や、メモリを削減して凸型や凹型がひとつ存在しているだけで縦縞ノイズであると判断するなどしても良い。 According to the processing method of FIG. 4 described above, it is possible to detect only vertical stripe noise that occurs every other dot. The detection condition of the vertical stripe noise is not limited to the above method. For example, when the number of memories is increased and four convex shapes or concave shapes are continuous, or when the memory is reduced, convex shapes or concave shapes are used. For example, it may be determined that there is vertical stripe noise when only one exists.
次に、図10のフローチャートを用いて、図1の補正量算出部2の動作について説明する。
補正量算出部2に入力された画像データは、遅延されないデータA、1ドット遅延(ステップS21)されたデータB、2ドット遅延(ステップS22)されたデータCから、│B−A│と│B−C│が算出される(ステップS23,S24)。そして、ステップS25で、│B−A│と│B−C│で値の大きい方が選択され(ステップS25)、変数“H”に代入される(ステップS26,S27)。その後、変数“H”は、2分の1されて補正値として出力される(ステップS28)。
Next, the operation of the correction
The image data input to the correction
補正値を隣の画素との信号レベル差の大きい方の1/2とすることによって、例えば、ホワイトチャートなどのように均一な被写体を撮像した場合、図1の後段の縞ノイズ補正部3で補正された信号レベルは、図12に示されるように隣の画素と同じ信号レベルとなり、縦縞ノイズが補正される。
By setting the correction value to ½ of the larger signal level difference with the adjacent pixel, for example, when capturing a uniform subject such as a white chart, the fringe
次に、図11のフローチャートを用いて、図1の縞ノイズ補正部3の動作について説明する。
固定パターン検出部1から入力された画像の変数“Shima”が1か否かが判断され(ステップS31)、変数“Shima”=1である画素について、入力画像データと補正量算出部2からの補正値H/2とを用いて、図4の固定パターン処理ステップS3で凸型と判断された場合には、(画像データ)−(補正値H/2)、凹型と判断された場合には、(画像データ)+(補正値H/2)を出力する(ステップS32)。
Next, the operation of the fringe
It is determined whether or not the variable “Shima” of the image input from the fixed
ステップS31で変数“Shima”=0である画素については、入力画像データがそのまま出力される(ステップS33)。 In step S31, the input image data is output as it is for the pixels whose variable “Shima” = 0 (step S33).
以上のように、本実施の形態の画像処理装置によれば、図12に示すように、被写体のエッジなどが存在する部分のように隣の画素との信号レベルの差が大きい部分や、縦縞ノイズの発生していない部分のように隣の画素との信号レベルの差が階段状になっている部分は補正を行わず、縦縞ノイズの発生している部分のみの信号レベルを隣の画素の信号レベルとの差が小さくなるように補正を行うため、従来の平滑化フィルタを用いた方法に比べて、被写体のエッジ情報等を劣化させることなく、縦縞ノイズのみを効率よく軽減することが可能となる。 As described above, according to the image processing apparatus of the present embodiment, as shown in FIG. 12, a portion having a large signal level difference from the adjacent pixel, such as a portion where an edge of a subject exists, or the like The signal level difference between the adjacent pixels, such as the part where no noise is generated, is not corrected, and the signal level of only the part where the vertical stripe noise is generated is not corrected. Since correction is performed to reduce the difference from the signal level, it is possible to efficiently reduce only vertical stripe noise without degrading the subject edge information, etc., compared to the conventional method using a smoothing filter. It becomes.
尚、本実施の形態では、縦縞ノイズに適用可能な画像処理装置について説明を行ったが、横縞ノイズの場合でも図4、図10の1ドット遅延処理を1ライン遅延処理に変更すれば、同様に横縞ノイズに適用可能な画像処理装置となる。また、ビートノイズのような斜め縞のノイズについても、本実施の形態では、横方向、または縦方向のみの情報によって縞の検出を行っているため、全く同様の構成の画像処理装置で適用可能である。 In the present embodiment, an image processing apparatus applicable to vertical stripe noise has been described. However, even in the case of horizontal stripe noise, if the 1-dot delay process in FIGS. 4 and 10 is changed to a 1-line delay process, the same applies. The image processing apparatus can be applied to horizontal stripe noise. In addition, in the present embodiment, stripe fringe noise such as beat noise can be applied to an image processing apparatus having exactly the same configuration because stripe detection is performed using only information in the horizontal direction or vertical direction. It is.
図13は本発明の第2の実施の形態に係る画像処理装置の構成を示すブロック図である。
図13に示すように、本実施の形態の画像処理装置は、入力された画像データを1ライン遅延させる1ラインメモリ11aと、1ラインメモリ11aの出力をさらに1ライン遅延させる1ラインメモリ11bと、入力画像データと1ラインメモリ11aの出力を減算する減算部12aと、1ラインメモリ11aと1ラインメモリ11bの出力を減算する減算部12bと、減算部12a,12bの各出力と1ラインメモリ11aの出力から両隣の画素よりともに信号レベルが高い、または低い画素を検出する条件検出部13と、条件検出部13の出力を1ライン遅延させる1ラインメモリ14aと、1ラインメモリ14aの出力をさらに1ライン遅延させる1ラインメモリ14bと、1ラインメモリ14bの出力をさらに1ライン遅延させる1ラインメモリ14c、1ラインメモリ14cの出力をさらに1ライン遅延させる1ラインメモリ14dと、条件検出部13の出力と1ラインメモリ14a〜14dの各出力から横縞ノイズを検出する横縞ノイズ検出部15と、減算部12a,12bの各出力から補正値を算出する補正値算出部16と、横縞ノイズ検出部15の出力と補正値算出部16の出力、1ラインメモリ11a、14bの出力から横縞ノイズを補正する横縞ノイズ補正部17とを具備して構成されている。
FIG. 13 is a block diagram showing a configuration of an image processing apparatus according to the second embodiment of the present invention.
As shown in FIG. 13, the image processing apparatus according to the present embodiment includes a one-line memory 11a that delays input image data by one line, and a one-
次に、図13の動作を説明する。
本実施の形態の画像処理装置は、第1の実施の形態と同様の動作をする、横縞ノイズが補正可能な画像処理装置である。
Next, the operation of FIG. 13 will be described.
The image processing apparatus according to the present embodiment is an image processing apparatus capable of correcting horizontal stripe noise that operates in the same manner as in the first embodiment.
まず、入力された画像データは、1ラインメモリ11aの出力を中心画素として上下の画素、すなわち、入力画像データと1ラインメモリ11bの出力との信号レベルの差を算出される。減算部12aでは、(1ラインメモリ11aの出力)−(入力画像データ)、減算部12bでは、(1ラインメモリ11aの出力)−(1ラインメモリ11bの出力)が算出される。
First, in the input image data, the difference between the signal levels of the upper and lower pixels, that is, the input image data and the output of the 1-
算出された信号レベルの差は、条件検出部13に入力される。条件検出部13では、これらの信号レベルの差と中心画素の信号レベルから、中心画素の信号レベルが上下の画素の信号レベルよりともに高い凸型か低い凹型かが決定される。減算部12a,12bの出力がともに正の値でかつ中心画素の信号レベルの10%以内である時には凸型と判断し、+1を出力する。減算部12a,12bの出力がともに負の値でかつ中心画素の信号レベルの10%以内であるときには凹型と判断し、−1を出力する。
The calculated signal level difference is input to the
横縞ノイズ検出部15では、条件検出部13の出力、1ラインメモリ14a〜14dの出力から、横縞ノイズを検出する。検出の方法は、第1の実施の形態と基本的には同様であり、図4のS6〜S9において、1ドット遅延の代わりに1ライン遅延を行うことによって、横縞ノイズ検出を可能としたものである。1ラインメモリ14bの出力を含めた、“条件検出部13,1ラインメモリ14a,1ラインメモリ14b”、“1ラインメモリ14a,1ラインメモリ14b,1ラインメモリ14c”、“1ラインメモリ14b,1ラインメモリ14c,1ラインメモリ14d”の出力の3つのパターンが“+1,−1,+1”または、“−1,+1,−1”に当てはまる場合に横縞ノイズが存在する画素として判断する。尚、第1の実施の形態と同様に、横縞ノイズの検出条件は、上記した条件に限ったものではない。
The horizontal stripe
補正値算出部16では、第1の実施の形態と同様にして、減算部12a,12bの出力から値の大きい方を選択して、その値を1/2して補正値として出力を行う。
As in the first embodiment, the correction
横縞ノイズ補正部17は、横縞ノイズ検出部15で横縞ノイズがあると判断された画素に対して、1ラインメモリ14bの出力が+1である時は、1ラインメモリ11aの出力の原画像データから補正値算出部16の出力を減算する。また、1ラインメモリ14bの出力が−1である時は、1ラインメモリ11aの出力の原画像データに補正値算出部16の出力を加算する。
When the output of the 1-
以上のようにして、第1の実施の形態と同様に、被写体のエッジ情報などを劣化させることなく、横縞ノイズのみを効率よく軽減することが可能である。尚、本実施の形態では、演算処理のタイミングを調整するメモリは特に図示していないが、必要に応じて使用することは、本発明の趣旨を逸脱するものではない。 As described above, as in the first embodiment, it is possible to efficiently reduce only the horizontal stripe noise without degrading the subject edge information and the like. In the present embodiment, the memory for adjusting the timing of the arithmetic processing is not particularly shown, but using it as necessary does not depart from the spirit of the present invention.
図14及び図15は、本発明の第3の実施の形態に係り、図14は、撮像装置20の構成を示すブロック図、図15は、撮像装置20の信号処理部25に含まれる縦縞ノイズ処理部250の構成を示すブロック図である。
14 and 15 relate to the third embodiment of the present invention, FIG. 14 is a block diagram illustrating the configuration of the
図14に示すように、本実施の形態の撮像装置20は、CCD21と、プロセス回路22と、A/Dコンバータ23と、CCD21のチャンネル間のばらつきを補正するゲイン調整回路24と、縦縞ノイズ処理部250を有した信号処理回路25と、拡大回路26と、D/Aコンバータ27とを具備して構成されている。CCD21は2チャンネル読み出し型のCCDであり、CCD21からゲイン調整回路24に至る処理系統は、奇数ドット,偶数ドットの2つの信号ラインを有する2系統の回路構成となっているが、図14では簡略化のため、CCD21,プロセス回路22,A/Dコンバータ23,ゲイン調整回路24をそれぞれ1つのブロックのみで表している。
As shown in FIG. 14, the
信号処理回路25には、図15に示すように、前段のゲイン調整回路24でチャンネル間のばらつきを補正しきれずに発生した縦縞ノイズを補正するための縦縞ノイズ処理部250が設けられている。なお、拡大回路26は、縦縞ノイズ処理後に1系統にされたデジタル映像信号に対して、図示しないモニタ上に表示される画像の大きさに応じた拡大率で電子拡大処理を行うものである。
As shown in FIG. 15, the
次に、上記の撮像装置20の信号処理回路25に設けられている縦縞ノイズ処理部250の構成を説明する。縦縞ノイズ処理部250は、図15に示すように、入力された画像データを1ドット遅延させる1ドット遅延メモリ251aと、1ドット遅延メモリ251aの出力をさらに1ドット遅延させる1ドット遅延メモリ251bと、入力画像データと1ドット遅延メモリ251aの出力を減算する減算部252aと、1ドット遅延メモリ251aと1ドット遅延メモリ251bの出力を減算する減算部252bと、減算部252a,252bと1ドット遅延メモリ251aの出力から両隣の画素よりともに信号レベルが高い、または低い画素を検出する条件検出部253と、条件検出部253の出力を1ドット遅延させる1ドット遅延メモリ254aと、1ドット遅延メモリ254aの出力をさらに1ドット遅延させる1ドット遅延メモリ254bと、1ドット遅延メモリ254bの出力をさらに1ドット遅延させる1ドット遅延メモリ254cと、1ドット遅延メモリ254cの出力をさらに1ドット遅延させる1ドット遅延メモリ254dと、条件検出部253の出力と1ドット遅延メモリ254a〜254dの出力から縦縞ノイズを検出する縦縞ノイズ検出部255と、縦縞ノイズ検出部255の出力と1ドット遅延メモリ251a,254bの出力から縦縞ノイズを補正する縦縞ノイズ補正部256とを具備して構成されている。
Next, the configuration of the vertical stripe
次に、図14の撮像装置20及び図15の縦縞ノイズ処理部250の動作を説明する。
撮像装置20では、CCD21や、CCDドライバ及びプリアンプ等が設けられたプロセス回路22によって映像化された映像信号は、A/Dコンバータ23でアナログ信号からデジタル信号に変換され、ゲイン調整回路24によって、CCD21のチャンネル間ばらつきが補正される。信号処理回路25には、縦縞ノイズ処理部250が設けられており、ゲイン調整回路24で補正することができなかった同一チャンネルのシェーディングに起因する縦縞ノイズを補正する。その後、拡大回路26によって画像が拡大処理され、映像信号はD/Aコンバータ27でアナログ信号に変換されて出力されたり、直接デジタル信号のまま出力されたりする。
Next, operations of the
In the
縦縞ノイズ処理部250では、入力された画像データは、1ドット遅延メモリ251aの出力を中心画素として左右の画素、すなわち、1ドット遅延メモリ251aの出力に対して、入力画像データと1ドット遅延メモリ251bの出力との各信号レベルの差を算出される。減算部252aでは、(1ドット遅延メモリ251aの出力)−(入力画像データ)、減算部252bでは、(1ドット遅延メモリ251aの出力)−(1ドット遅延メモリ251bの出力)が算出される。
In the vertical stripe
算出された信号レベルの差は、条件検出部253に入力される。条件検出部253では、これらの信号レベルの差と中心画素の信号レベルから、中心画素の信号レベルが左右の画素の信号レベルよりともに高い凸型か低い凹型かが決定される。減算部252a,252bの出力がともに正の値でかつ中心画素の信号レベルの10%以内である時には凸型と判断し、+1を出力する。減算部252a,252bの出力がともに負の値でかつ中心画素の信号レベルの10%以内であるときには凹型と判断し、−1を出力する。
The calculated signal level difference is input to the
縦縞ノイズ検出部255では、条件検出部253の出力、1ドット遅延メモリ254a〜254dの出力から、縦縞ノイズを検出する。1ドット遅延メモリ254bの出力を含めた、“条件検出部253,1ドット遅延メモリ254a,1ドット遅延メモリ254b”、“1ドット遅延メモリ254a,1ドット遅延メモリ254b,1ドット遅延メモリ254c”、“1ドット遅延メモリ254b,1ドット遅延メモリ254c,1ドット遅延メモリ254d”の出力の3つのパターンが“+1,−1,+1”または、“−1,+1,−1”に当てはまる場合に縦縞ノイズが存在する画素として判断する。尚、第1,第2の実施の形態と同様に、縦縞ノイズの検出条件は、上記した条件に限ったものではない。
The vertical stripe
縦縞ノイズ補正部256は、縦縞ノイズ検出部255で縦縞ノイズがあると判断された画素に対して、1ドット遅延メモリ254bの出力が+1である時は、1ドット遅延メモリ254aの出力(原画像データ)の信号レベルの5%を減算する。また、1ドット遅延メモリ254bの出力が−1である時は、1ドット遅延メモリ254aの出力(原画像データ)の信号レベルの5%を加算する。
When the output of the 1-
以上のようにして、第1,第2の実施の形態と同様に、被写体のエッジ情報などを劣化させることなく、縦縞ノイズのみを効率よく軽減することが可能である。尚、本実施の形態でも演算処理のタイミングを調整するメモリは特に図示していないが、第2の実施の形態と同様に、必要に応じて使用することは、本発明の趣旨を逸脱するものではない。 As described above, as in the first and second embodiments, it is possible to efficiently reduce only the vertical stripe noise without deteriorating the edge information of the subject. In this embodiment, the memory for adjusting the timing of the arithmetic processing is not particularly shown. However, as in the second embodiment, use as necessary deviates from the gist of the present invention. is not.
尚、本発明では、縞ノイズの補正方法として、主にゲイン調整による方法について記載したが、3×3、1×3、5×5などの空間フィルタを用いた平滑化処理を行っても良い。 In the present invention, as a fringe noise correction method, a method mainly using gain adjustment has been described. However, smoothing processing using a spatial filter such as 3 × 3, 1 × 3, or 5 × 5 may be performed. .
1…固定パターン検出部(固定パターン検出手段)
2…補正量算出部(固定パターン補正手段)
3…縞ノイズ補正部(固定パターン補正手段)
1... Fixed pattern detection unit (fixed pattern detection means)
2 ... Correction amount calculation unit (fixed pattern correction means)
3 ... fringe noise correction unit (fixed pattern correction means)
Claims (8)
処理対象となる画素データとその周辺画素のデータを用いて、所定の固定パターンを検出する固定パターン検出手段と、
前記固定パターン検出手段によって固定パターンが検出された画素に対してのみ、補正処理を行う固定パターン補正手段と、
を備え、
前記固定パターン補正手段は、注目画素の信号レベルを、注目画素と当該注目画素の両隣に隣接する2つの隣接画素の信号レベルのうち、前記注目画素との信号レベルの差が大きい方の隣接画素の信号レベルとの差分値に所定の係数を乗じた値に基づいて、当該注目画素の信号レベルに対して所定の演算を施すことにより求めることを特徴とする画像処理装置。 In an image processing apparatus that performs signal processing on input image data,
Fixed pattern detecting means for detecting a predetermined fixed pattern using pixel data to be processed and data of surrounding pixels; and
Fixed pattern correction means for performing correction processing only on pixels in which a fixed pattern is detected by the fixed pattern detection means;
With
The fixed pattern correcting means sets the signal level of the target pixel to the adjacent pixel having the larger signal level difference between the target pixel and the signal level of the two adjacent pixels adjacent to both sides of the target pixel. An image processing apparatus characterized in that it is obtained by performing a predetermined calculation on the signal level of the target pixel based on a value obtained by multiplying a difference value from the signal level by a predetermined coefficient.
処理対象となる画素データとその周辺画素のデータを用いて、所定の固定パターンを検出するステッブと、
前記ステップにて所定の固定パターンが検出された画素に対して補正処理を行うステップと、
を含み、
前記補正処理を行うステップは、注目画素の信号レベルを、注目画素と当該注目画素の両隣に隣接する2つの隣接画素の信号レベルのうち、前記注目画素との信号レベルの差が大きい方の隣接画素の信号レベルとの差分値に所定の係数を乗じた値に基づいて、当該注目画素の信号レベルに対して所定の演算を施すことにより求めることを特徴とする画像処理方法。 In an image processing method for performing signal processing on input image data,
A step for detecting a predetermined fixed pattern using pixel data to be processed and data of surrounding pixels; and
Performing a correction process on the pixels in which the predetermined fixed pattern is detected in the step;
Including
The step of performing the correction processing includes setting the signal level of the target pixel to an adjacent pixel having a larger signal level difference between the target pixel and the signal level of the two adjacent pixels adjacent to both sides of the target pixel. An image processing method comprising: obtaining a signal level of a pixel of interest by performing a predetermined calculation based on a value obtained by multiplying a difference value with a signal level of a pixel by a predetermined coefficient.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008030676A JP4531096B2 (en) | 2008-02-12 | 2008-02-12 | Image processing apparatus and image processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008030676A JP4531096B2 (en) | 2008-02-12 | 2008-02-12 | Image processing apparatus and image processing method |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002334268A Division JP4102169B2 (en) | 2002-11-18 | 2002-11-18 | Image processing apparatus and image processing method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008198207A true JP2008198207A (en) | 2008-08-28 |
JP4531096B2 JP4531096B2 (en) | 2010-08-25 |
Family
ID=39757026
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008030676A Expired - Fee Related JP4531096B2 (en) | 2008-02-12 | 2008-02-12 | Image processing apparatus and image processing method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4531096B2 (en) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0738812A (en) * | 1993-06-25 | 1995-02-07 | Nikon Corp | Image pickup device equipped with image pickup element for multichannel output |
JP2000076435A (en) * | 1998-09-03 | 2000-03-14 | Mitsubishi Electric Corp | Character recognizer |
JP2000285229A (en) * | 1999-03-15 | 2000-10-13 | Texas Instr Inc <Ti> | Defective pixel filtering for digital imager |
-
2008
- 2008-02-12 JP JP2008030676A patent/JP4531096B2/en not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0738812A (en) * | 1993-06-25 | 1995-02-07 | Nikon Corp | Image pickup device equipped with image pickup element for multichannel output |
JP2000076435A (en) * | 1998-09-03 | 2000-03-14 | Mitsubishi Electric Corp | Character recognizer |
JP2000285229A (en) * | 1999-03-15 | 2000-10-13 | Texas Instr Inc <Ti> | Defective pixel filtering for digital imager |
Also Published As
Publication number | Publication date |
---|---|
JP4531096B2 (en) | 2010-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8391629B2 (en) | Method and apparatus for image noise reduction using noise models | |
US8436910B2 (en) | Image processing apparatus and image processing method | |
US10277803B2 (en) | Control method and electronic apparatus | |
US8891899B2 (en) | Methods, systems and apparatuses for pixel value correction using multiple vertical and/or horizontal correction curves | |
US8520099B2 (en) | Imaging apparatus, integrated circuit, and image processing method | |
JP2006013558A (en) | Image processing apparatus and image processing program | |
KR20080078044A (en) | Method and apparatus for image noise reduction | |
JP5169994B2 (en) | Image processing apparatus, imaging apparatus, and image processing method | |
US20140125847A1 (en) | Image processing apparatus and control method therefor | |
KR100956228B1 (en) | Image processing apparatus having function of correctting distortion of image | |
JP2009027604A (en) | Noise reducer, and noise reducing method | |
WO2010089836A1 (en) | Image processing device | |
JP4305071B2 (en) | Signal correction method | |
JP2014010776A (en) | Image processing apparatus, image processing method, and program | |
JP2010219683A (en) | Image processing device, image processing method, and program | |
JP2010258620A (en) | Image processor, image processing method, and program | |
US10091442B2 (en) | Image processing apparatus and image processing method | |
JP2009194721A (en) | Image signal processing device, image signal processing method, and imaging device | |
JP4531096B2 (en) | Image processing apparatus and image processing method | |
JP4102169B2 (en) | Image processing apparatus and image processing method | |
JP3730063B2 (en) | Color component generation apparatus, color component generation method, and multicolor image pickup apparatus using the same | |
JP2009177792A (en) | Image processing unit and imaging device | |
JP5484015B2 (en) | Imaging apparatus, imaging method, and program | |
JP2010178226A (en) | Imaging apparatus, chromatic aberration suppressing method, and chromatic aberration suppressing circuit, and program | |
JP4901625B2 (en) | Noise reduction device and noise reduction method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100601 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100608 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4531096 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130618 Year of fee payment: 3 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |