JP4551307B2 - Single-plate color imaging device - Google Patents
Single-plate color imaging device Download PDFInfo
- Publication number
- JP4551307B2 JP4551307B2 JP2005299061A JP2005299061A JP4551307B2 JP 4551307 B2 JP4551307 B2 JP 4551307B2 JP 2005299061 A JP2005299061 A JP 2005299061A JP 2005299061 A JP2005299061 A JP 2005299061A JP 4551307 B2 JP4551307 B2 JP 4551307B2
- Authority
- JP
- Japan
- Prior art keywords
- filter
- pixel
- light receiving
- array
- color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003384 imaging method Methods 0.000 title claims description 44
- 230000003287 optical effect Effects 0.000 claims description 34
- 238000000926 separation method Methods 0.000 description 19
- 238000010586 diagram Methods 0.000 description 15
- 230000000295 complement effect Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 238000000034 method Methods 0.000 description 5
- 239000010453 quartz Substances 0.000 description 4
- VYPSYNLAJGMNEJ-UHFFFAOYSA-N silicon dioxide Inorganic materials O=[Si]=O VYPSYNLAJGMNEJ-UHFFFAOYSA-N 0.000 description 4
- 238000001444 catalytic combustion detection Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 1
- 239000010432 diamond Substances 0.000 description 1
- 229910003460 diamond Inorganic materials 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
Images
Landscapes
- Color Television Image Signal Generators (AREA)
Description
本発明は、単板式カラー撮像装置に係り、特に、色解像度を改善することのできる単板式カラー撮像装置に関する。 The present invention relates to a single-plate color imaging apparatus, and more particularly to a single-plate color imaging apparatus that can improve color resolution.
電荷結合素子(CCD)等を撮像素子とするカラー撮像装置は、複数枚の撮像素子を使用する多板式と1枚の撮像素子を使用する単板式に大別されるが、ビデオカメラあるいは業務用カメラには比較的簡単に高解像度なカラー画像を撮像できる単板式が広く使用されている。 Color image pickup devices using charge coupled devices (CCD) or the like as image pickup devices are roughly classified into a multi-plate type using a plurality of image pickup devices and a single plate type using one image pickup device. A single-plate type camera that can capture a high-resolution color image relatively easily is widely used.
そして、単板式カラー撮像装置に使用されるカラー撮像素子は、撮像素子上にカラーフィルタが積層されている。そして、カラーフィルタの色配列パターンとしては、種々のパターンが既に提案されているが、その1つにRGB原色ベイヤー配置がある(例えば、特許文献1参照)。 In a color image sensor used in a single-plate color image pickup device, a color filter is stacked on the image sensor. Various patterns have already been proposed as color filter color arrangement patterns, and one of them is an RGB primary color Bayer arrangement (see, for example, Patent Document 1).
図17(a)は、RGB原色ベイヤー配置のカラーフィルタの正面図であって、2枚のGフィルタと、各1枚のRフィルタおよびBフィルタが市松状に配置された2行2列フィルタを基本単位としている。 FIG. 17A is a front view of a color filter of RGB primary color Bayer arrangement, and includes two G filters and a two-row two-column filter in which one R filter and one B filter are arranged in a checkered pattern. The basic unit.
図17(b)は各フィルタをピッチdで配列した場合のナイキスト領域を示すグラフであって、RおよびBのナイキスト領域は水平および垂直方向のナイキスト周波数が1/4dである正方形で表され、Gの空間解像度は頂点のナイキスト周波数が1/2dであるダイヤモンド形状で表される。即ち、RおよびBの水平方向および垂直方向のナイキスト周波数はGの半分となり、GとRおよびBのナイキスト周波数は一致しない。 FIG. 17B is a graph showing a Nyquist region when the filters are arranged at a pitch d. The Nyquist region of R and B is represented by a square whose Nyquist frequency in the horizontal and vertical directions is 1 / 4d. The spatial resolution of G is represented by a diamond shape with a Nyquist frequency at the apex of 1 / 2d. That is, the horizontal and vertical Nyquist frequencies of R and B are half of G, and the Nyquist frequencies of G, R, and B do not match.
このため、G成分とR成分またはB成分を含む色については、各成分の輝度により折り返し誤差(エリアジング誤差)が異なり、偽色信号の発生を回避できない。 For this reason, for a color including the G component and the R component or the B component, the aliasing error (aliasing error) differs depending on the luminance of each component, and generation of a false color signal cannot be avoided.
上記課題を解決するために、カラー撮像素子の受光面前方に光学ローパスフィルタ(低域通過型濾波器)を挿入して折り返し誤差の発生を抑制することもできるが、光学ローパスフィルタの遮断周波数はRGBに対するナイキスト周波数中の最低のナイキスト周波数、即ち、RおよびBのナイキスト周波数によって規定されてしまうため、Gの空間解像度もRおよびBの空間解像度に抑制されてしまうこととなる。 To solve the above problem, an optical low-pass filter (low-pass filter) can be inserted in front of the light-receiving surface of the color image sensor to suppress the occurrence of aliasing errors. However, the cutoff frequency of the optical low-pass filter is Since it is defined by the lowest Nyquist frequency among the Nyquist frequencies for RGB, that is, the Nyquist frequency of R and B, the spatial resolution of G is also suppressed to the spatial resolution of R and B.
さらに、テレビジョン放送において一般的な飛び越し走査を適用した場合には、BおよびR成分はフレーム順次となり、分解能は一層低下することとなる。 Furthermore, when a general interlaced scanning is applied in television broadcasting, the B and R components are sequentially framed, and the resolution is further reduced.
そこで、ベイヤー配列のカラーフィルタを有する2枚のCCDを画素ずらし配置した2板式カラー撮像装置において、各画素位置でRGB色データが存在するように2枚のCCDで撮像された画像データを補間処理し、2つの画像データを1/2画素ずらして合成し、さらに、合成画像の各画素位置の画像データを補間処理により生成して画像の解像度を向上する技術が提案されている(例えば、特許文献2参照)。
しかしながら、特許文献2に開示されたカラー撮像装置には、2枚のCCDが必要であり構造が複雑となるだけでなく経済的に不利という課題があった。 However, the color imaging device disclosed in Patent Document 2 requires two CCDs, which not only makes the structure complicated, but also has an economical disadvantage.
本発明は、従来の課題を解決するためになされたものであって、解像度を改善することの可能な単板式カラー撮像装置を提供することを目的とする。 The present invention has been made to solve the conventional problems, and an object thereof is to provide a single-plate color imaging device capable of improving the resolution.
第1の本発明に係る単板式カラー撮像装置は、2行2列に配置された4個の受光素子で構成される画素を格子状に配置した画素アレイと、前記画素アレイのそれぞれの画素の受光面を覆うフィルタアレイであって、Rフィルタ、GフィルタおよびBフィルタをそれぞれ少なくとも1つ含み、同色のフィルタが一方の対角に、他の2色のフィルタが他方の対角に配置された2行2列の画素フィルタを格子状に配置したフィルタアレイと、前記フィルタアレイの被写体側に配置され、1本の光線を行方向に連続する4つの前記受光素子に分配する光学素子と、前記受光素子を順次走査した4本の受光素子走査線から1本の画素走査線を生成する画素走査線生成部とを含むカラー撮像装置であって、前記フィルタアレイが、前記受光素子の各読み出しタイミングにおいて、前記画素走査線が前記Rフィルタによって覆われた前記受光素子であるR受光素子の出力、Gフィルタによって覆われた前記受光素子であるG受光素子の出力およびBフィルタによって覆われた前記受光素子であるB受光素子の出力をそれぞれ少なくとも1つ含むように行方向に隣接する2つの前記画素フィルタを配置した構成を有する。 A single-plate color image pickup device according to the first aspect of the present invention includes a pixel array in which pixels composed of four light receiving elements arranged in two rows and two columns are arranged in a grid pattern, and each pixel of the pixel array. A filter array covering a light receiving surface, each including at least one of an R filter, a G filter, and a B filter, wherein filters of the same color are arranged on one diagonal and filters of the other two colors are arranged on the other diagonal A filter array in which pixel filters of 2 rows and 2 columns are arranged in a grid, an optical element that is disposed on the subject side of the filter array and distributes one light beam to the four light receiving elements that are continuous in a row direction, A color imaging device including a pixel scanning line generation unit that generates one pixel scanning line from four light receiving element scanning lines sequentially scanned by the light receiving element, wherein the filter array reads each of the light receiving elements At the timing, the pixel scanning line is output by the R light receiving element that is the light receiving element covered by the R filter, the output of the G light receiving element that is the light receiving element covered by the G filter, and the output covered by the B filter. Two pixel filters adjacent to each other in the row direction are arranged so as to include at least one output of each of the B light receiving elements as the light receiving elements.
この構成により、水平方向光学ローパスフィルタを設置しないでも走査線にRGB成分のナイキスト周波数の相違に起因する折り返し誤差が発生することを抑制し、水平方向の分解能を向上することが可能となることとなる。 With this configuration, it is possible to suppress occurrence of aliasing errors due to differences in Nyquist frequencies of RGB components in the scanning line without installing a horizontal optical low-pass filter, and to improve horizontal resolution. Become.
第2の発明に係る単板式カラー撮像装置は、前記フィルタアレイが、前記画素フィルタの左上に配置されるGフィルタと、右上に配置されるBフィルタと、左下に配置されるRフィルタと、右下に配置されるもう1つのGフィルタとを含む第1の画素フィルタと、前記画素フィルタの左上に配置されるBフィルタと、右上に配置されるGフィルタと、左下に配置されるもう1つのGフィルタと、右下に配置されるRフィルタとを含む第2の画素フィルタとを行方向に配置した構成を有していてもよい。 In the single-plate color imaging device according to the second invention, the filter array includes a G filter disposed at the upper left of the pixel filter, a B filter disposed at the upper right, an R filter disposed at the lower left, and a right A first pixel filter including another G filter disposed below; a B filter disposed on the upper left side of the pixel filter; a G filter disposed on the upper right side; and another one disposed on the lower left side. You may have the structure which has arrange | positioned the 2nd pixel filter containing G filter and R filter arrange | positioned at the lower right in the row direction.
第3の発明に係る単板式カラー撮像装置は、前記画素フィルタアレイが、前記画素フィルタの左上に配置されるGフィルタと、右上に配置されるBフィルタと、左下に配置されるRフィルタと、右下に配置されるもう1つのGフィルタとを含む第1の画素フィルタと、前記画素フィルタの左上に配置されるGフィルタと、右上に配置されるRフィルタと、左下に配置されるBフィルタと、右下に配置されるもう1つのGフィルタとを含む第2の画素フィルタとを行方向に配置した構成を有していてもよい。 In the single-plate color imaging device according to a third aspect of the invention, the pixel filter array includes a G filter arranged at the upper left of the pixel filter, a B filter arranged at the upper right, an R filter arranged at the lower left, A first pixel filter including another G filter disposed at the lower right, a G filter disposed at the upper left of the pixel filter, an R filter disposed at the upper right, and a B filter disposed at the lower left And a second pixel filter including another G filter arranged in the lower right may be arranged in the row direction.
第4の発明に係る単板式カラー撮像装置は、前記画素走査線生成部の後段に接続される電気LPFを含む構成を有する。 A single-plate color imaging device according to a fourth aspect of the invention has a configuration including an electrical LPF connected to a subsequent stage of the pixel scanning line generation unit.
この構成により、走査線のMFTを高く維持すること、折り返し誤差の発生を抑制することができることとなる。 With this configuration, it is possible to maintain a high MFT of the scanning line and to suppress the occurrence of a folding error.
第5の発明に係る単板式カラー撮像装置は、2行2列に配置された4個の受光素子で構成される画素を格子状に配置した画素アレイと、前記画素アレイのそれぞれの画素の受光面を覆うフィルタアレイであって、Rフィルタ、GフィルタおよびBフィルタをそれぞれ少なくとも1つ含み、同色のフィルタが一方の対角に、他の2色のフィルタが他方の対角に配置された2行2列の画素フィルタを格子状に配置したフィルタアレイと、前記フィルタアレイの被写体側に配置され、1本の光線を行方向に連続する2つの前記受光素子に分配する光学素子と、前記受光素子を順次走査して得られる2本の受光素子走査線から1本の画素走査線を生成する画素走査線生成部とを含むカラー撮像装置であって、前記画素走査線生成部が、前記受光素子の2読み出しタイミングごとに、前記受光素子走査線のそれぞれにR成分、G成分およびB成分のすべてが含まれるように、前記2読み出しタイミングでは読み出されない1つの色成分を前記2読み出しタイミングで読み出される2つの色成分により補完する補完部を含む構成を有する。 A single-plate color imaging device according to a fifth aspect of the present invention is a pixel array in which pixels composed of four light receiving elements arranged in two rows and two columns are arranged in a grid pattern, and light reception of each pixel of the pixel array. 2 is a filter array that covers a surface, and includes at least one R filter, G filter, and B filter, each having the same color filter arranged on one diagonal and the other two color filters arranged on the other diagonal. A filter array in which pixel filters of two rows and columns are arranged in a grid, an optical element that is arranged on the subject side of the filter array and distributes one light beam to two light receiving elements that are continuous in a row direction, and the light receiving A color imaging device including a pixel scanning line generation unit that generates one pixel scanning line from two light receiving element scanning lines obtained by sequentially scanning the elements, wherein the pixel scanning line generation unit Elemental At each reading timing, one color component that is not read at the two reading timings is read at the two reading timings so that each of the light receiving element scanning lines includes all of the R component, the G component, and the B component. It has a configuration including a complementing unit that complements with one color component.
この構成により、特に輝度変化に対する解像度を向上することができることとなる。 With this configuration, it is possible to improve the resolution particularly with respect to the luminance change.
本発明は、画素アレイのそれぞれの画素の受光面を覆うフィルタアレイであって、受光素子の各読み出しタイミングにおいて、R受光素子の出力、G受光素子の出力およびB受光素子の出力をそれぞれ少なくとも1つ含むように行方向に隣接する2つの画素フィルタを配置した構成とすることにより、水平方向光学ローパスフィルタを設置しないでも走査線にRGB成分のナイキスト周波数の相違に起因する折り返し誤差が発生することを抑制し、水平方向の分解能を向上するという効果を有する単板式カラー撮像装置を提供することができるものである。 The present invention is a filter array that covers a light receiving surface of each pixel of a pixel array, and at each reading timing of the light receiving element, at least one output of the R light receiving element, an output of the G light receiving element, and an output of the B light receiving element. By arranging two pixel filters adjacent in the row direction so as to include one, a folding error due to a difference in Nyquist frequency of RGB components occurs in the scanning line without installing a horizontal optical low-pass filter. It is possible to provide a single-plate color imaging device having the effect of suppressing the above and improving the resolution in the horizontal direction.
以下、本発明に係る単板式カラー撮像装置の実施形態について、図面を用いて説明する。
(第1の実施形態)
図1は第1の実施形態の単板式カラー撮像装置1のブロック図、図2は画素アレイおよびフィルタアレイの斜視図である。
Hereinafter, embodiments of a single-plate color imaging device according to the present invention will be described with reference to the drawings.
(First embodiment)
FIG. 1 is a block diagram of a single-plate
即ち、第1の実施形態の単板式カラー撮像装置1は、2行2列に配置された4個の受光素子LEで構成される画素PXを格子状に配置した画素アレイ11と、画素アレイ11のそれぞれの画素PXの受光面を覆うフィルタアレイ12であって、Rフィルタ、GフィルタおよびBフィルタをそれぞれ少なくとも1つ含み、同色のフィルタが一方の対角に、他の2色のフィルタが他方の対角に配置された2行2列の画素フィルタPFを格子状に配置したフィルタアレイ12と、フィルタアレイ12の被写体側に配置され1本の光線を行方向に連続する4つの受光素子に分配する光学素子13と、受光素子LEを順次走査して得られる4本の受光素子走査線から1本の画素走査線を生成する画素走査線生成部14とを含み、フィルタアレイ12が、受光素子LEの各読み出しタイミングにおいて画素走査線がRフィルタによって覆われた受光素子LEであるR受光素子RLEの出力、Gフィルタによって覆われた受光素子LEであるG受光素子GLEの出力およびBフィルタによって覆われた受光素子LEであるB受光素子BLEの出力をそれぞれ少なくとも1つ含むようにフィルタアレイ12の行方向に隣接する画素フィルタを配置した構成を有するものである。
That is, the single-plate
図3は、第1の実施形態の画素アレイ11の正面図であって、2行2列に配置された4個の受光素子LEを1つの画素PXとし、列方向に1920個、行方向に1080個の画素PXが格子状に配置されており、高精細度画像の撮像が可能な構成を有しているものとする。そして、第1の実施形態の画素アレイ11は、受光素子LEを列(水平)方向に主走査、行(垂直)方向に副走査する順次走査が可能なように構成されている。
FIG. 3 is a front view of the
画素アレイ11を構成する受光素子を列方向に主走査、行方向に副走査する順次走査して出力される4本の走査線SL(j)〜SL(j+3)を[数1]で表すものとする。
The four scanning lines SL (j) to SL (j + 3) output by sequentially scanning the light-receiving elements constituting the
本発明に係る単板式カラー撮像装置を適用したテレビジョンカメラ2は、図4のブロック図に示すように、被写体の光学像を生成するレンズ系21と、光学像を電気信号に変換する撮像装置1と、撮像装置1の出力を処理する信号処理部22と、撮像装置1および信号処理部22を制御する制御部23とを含む。
As shown in the block diagram of FIG. 4, the television camera 2 to which the single-plate color imaging device according to the present invention is applied includes a
画素走査線生成部14は、図1のブロック図に示すように、画素アレイ11から出力される受光素子を順次走査した4本の走査線をRGBの3原色成分に分離する色分離部141と、色分離部141の出力に基づいて垂直2画素加算により1本の走査線を演算する演算部142とを含む。
As illustrated in the block diagram of FIG. 1, the pixel scanning
第1の実施形態で使用されるフィルタアレイ12は、図2に示すように、GフィルタG11と、Gフィルタの列方向に隣接するBフィルタB1と、GフィルタG11の行方向に隣接するRフィルタR1と、GフィルタG11の対角位置に配置されるもう1つのGフィルタG12とを含む第1の画素フィルタPF1と、第1の画素フィルタと行方向に隣接し、BフィルタB2と、BフィルタB2の列方向に隣接するGフィルタG21と、BフィルタB2の行方向に隣接するもう1つのGフィルタG22と、BフィルタB2の対角位置に配置されるRフィルタR2とを含む第2の画素フィルタPF2とを含む。
As shown in FIG. 2, the
即ち、第1の実施形態で使用されるフィルタアレイ12は、受光素子LEを順次走査して得られる4本の順次走査線は、各受光素子LEの読み出しタイミングにおいて、2個のG成分、1個のR成分、および1個のB成分が含まれるように構成されている。
That is, in the
図5は色分離部141の具体的構成例を示すブロック図であって、画素アレイ11が順次走査線を逐次出力するように構成されている場合はメモリ部141aおよび書き込み制御部141bで構成されるメモリ型色分離部(a)を適用することができ、画素アレイ11が4本の順次走査線を同時出力するように構成されている場合はスイッチ部141cおよび切り替え制御部141dで構成される切り替え型色分離部(b)を適用することができる。
FIG. 5 is a block diagram showing a specific configuration example of the
図6は演算部142の具体的構成例を示すブロック図であって、RGB色信号を出力する色信号出力演算部142a、あるいは輝度・色差信号を出力する輝度・色差信号出力演算部142b等がある。
FIG. 6 is a block diagram illustrating a specific configuration example of the
以下、第1の実施形態の撮像装置の動作を説明する。 Hereinafter, the operation of the imaging apparatus according to the first embodiment will be described.
被写体OJから放射される光は、レンズ系21、光学素子13およびフィルタアレイ12を介して画素アレイ11上に被写体像を結像する。
The light emitted from the subject OJ forms a subject image on the
図7は光学素子13の動作を説明するための断面図であって、被写体OJ側から放射された光線はレンズ系21を通過した後、光学素子13に入射する。光学素子13は、入射光線を行方向に連続する4つの受光素子LEに分配する。
FIG. 7 is a cross-sectional view for explaining the operation of the
光学素子13としては水晶光学LPFを使用することができるが、水晶光学LPFは1枚で4分割することはできないので、実際には分離幅が2dである第1の水晶光学LPF131と分離幅がdである第2の水晶光学LPF132とを直列に配列することが必要である。
Although the quartz optical LPF can be used as the
光学素子13によって1本の光線が行方向に4分割される結果、行方向に連続する4つの受光素子には同一の光線が入射するので、画素アレイ11の受光素子LEを順次走査すると、画素アレイ11からは[数2]で表される4本の順次走査線が出力される。
As a result of one light beam being divided into four in the row direction by the
色分離部141は、上記の4本の順次走査線を読み込み、読み出しタイミングiおよびi+1で2つのG信号、1つのB信号および1つのR信号を出力する。
The
そして、演算部142は2つのG信号、1つのB信号および1つのR信号を読み込み、垂直2画素加算処理を行い色信号あるいは輝度・色差信号を出力する。
Then, the
即ち、色信号出力演算部142aは、2つのG信号G1およびG2、1つのB信号ならびに1つのR信号を読み込み、[数3]に基づき色信号を演算する。
That is, the color signal
関数gは、具体的には[数4]を使用することができる。 Specifically, the function g can use [Equation 4].
また、輝度・色差信号出力演算部142bは、2つのG信号G1およびG2、1つのB信号ならびに1つのR信号を読み込み、[数5]に基づき輝度・色差信号Y、Pb、Prを演算する。
The luminance and color difference signals
ここで、各関数としては、具体的には[数6]を使用することができる。 Here, specifically, [Equation 6] can be used as each function.
なお、輝度Yを関数f1に基づき演算することにより、輝度Yの算出を簡略化することが可能となる。 Note that the calculation of the luminance Y can be simplified by calculating the luminance Y based on the function f 1 .
第1の実施形態の単板式カラー撮像装置のナイキスト領域は、図8のグラフに示すように、(+1/(2d),0)、(0,+1/(4d))、(−1/(2d),0)および(0,−1/(4d))を頂点とする菱形の内側となる。なお、破線で囲まれる領域はベイヤー配置のG信号のナイキスト領域であり、一点鎖線で囲まれる領域はベイヤー配置のB信号およびR信号のナイキスト領域である。 As shown in the graph of FIG. 8, the Nyquist region of the single-plate color imaging device of the first embodiment is (+ 1 / (2d), 0), (0, + 1 / (4d)), (−1 / ( 2d), 0) and (0, -1 / (4d)) are inside the rhombus with apexes. The region surrounded by the broken line is the Nyquist region of the Bayer-arranged G signal, and the region surrounded by the alternate long and short dash line is the Nyquist region of the Bayer-arranged B signal and R signal.
以上説明したように、第1の実施形態によれば、行(垂直)方向のG信号のナイキスト周波数は±1/(4d)に低下するものの、列(水平)方向のR信号およびB信号のナイキスト周波数はG信号のナイキスト周波数と同じく±1/(2d)まで高めることが可能となり、光学ローパスフィルタを設置しないでも走査線にRGB成分のナイキスト周波数の相違に起因する折り返し誤差が発生することを抑制し、水平方向の分解能を向上することが可能となる。
(第2の実施形態)
第2の実施形態で使用されるフィルタアレイ12は、図9の斜視図に示すように、GフィルタG11と、GフィルタG11の列方向に隣接するBフィルタB1と、GフィルタG11の行方向に隣接するRフィルタR1と、GフィルタG11の対角位置に配置されるもう1つのGフィルタG12とを含む第1の画素フィルタPF1と、第1の画素フィルタPF1と行方向に隣接し、GフィルタG21と、GフィルタG21の列方向に隣接するRフィルタR2と、GフィルタG21の行方向に隣接するBフィルタB2と、GフィルタG21の対角位置に配置されるもう1つのGフィルタG22とを含む第2の画素フィルタPF2とを含む。
As described above, according to the first embodiment, although the Nyquist frequency of the G signal in the row (vertical) direction is reduced to ± 1 / (4d), the R signal and the B signal in the column (horizontal) direction are reduced. The Nyquist frequency can be increased to ± 1 / (2d), similar to the Nyquist frequency of the G signal, and even if an optical low-pass filter is not installed, aliasing errors due to differences in the Nyquist frequency of RGB components occur in the scanning line. It is possible to suppress and improve the horizontal resolution.
(Second Embodiment)
As shown in the perspective view of FIG. 9, the
他の構成は第1の実施形態と同一であるので、詳細な説明を省略する。 Since other configurations are the same as those of the first embodiment, detailed description thereof is omitted.
第2の実施形態において、画素アレイ11の受光素子LEを順次走査すると、画素アレイ11からは[数7]で表される4本の順次走査線が出力される。
In the second embodiment, when the light receiving elements LE of the
色分離部141は、上記の4本の順次走査線を読み込み、読み出しタイミングiおよびi+1で2つのG信号、1つのB信号および1つのR信号を出力する。
The
第2の実施形態の撮像装置のR信号およびB信号のナイキスト領域は、図10のグラフに示すように、(+1/(2d),0)、(0,+1/(8d))、(−1/(2d),0)および(0,−1/(8d))を頂点とする菱形となる。そして、G信号のナイキスト領域は、ベイヤー配置の場合と同一となる。なお、破線で囲まれる領域はベイヤー配置のG信号のナイキスト領域であり、一点鎖線で囲まれる領域はベイヤー配置のB信号およびR信号のナイキスト領域である。 The Nyquist regions of the R signal and the B signal of the imaging apparatus according to the second embodiment are (+ 1 / (2d), 0), (0, + 1 / (8d)), (− The rhombus has 1 / (2d), 0) and (0, -1 / (8d)) as vertices. The Nyquist area of the G signal is the same as in the Bayer arrangement. The region surrounded by the broken line is the Nyquist region of the Bayer-arranged G signal, and the region surrounded by the alternate long and short dash line is the Nyquist region of the Bayer-arranged B signal and R signal.
以上説明したように、第2の実施形態によれば、行(垂直)方向のR信号およびB信号のナイキスト周波数は±1/(8d)に低下するものの、列(水平)方向のR信号およびB信号のナイキスト周波数はG信号のナイキスト周波数と同じく±1/(2d)まで高めることが可能となり、光学ローパスフィルタを設置しないでも走査線にRGB成分のナイキスト周波数の相違に起因する折り返し誤差が発生することを抑制し、水平方向の分解能を向上することが可能となる。
(第3の実施形態)
上記の第1の実施形態および第2の実施形態によれば、列(水平)方向のR、GおよびB成分のナイキスト周波数は{1/(2d)}となるので、ベイヤー配置の画素フィルタで使用されていた遮断周波数が、例えば{1/(4d)}の光学LPFを省略することが可能となる。
As described above, according to the second embodiment, the Nyquist frequency of the R signal and B signal in the row (vertical) direction is reduced to ± 1 / (8d), but the R signal in the column (horizontal) direction and The Nyquist frequency of the B signal can be increased up to ± 1 / (2d), the same as the Nyquist frequency of the G signal, and aliasing errors due to differences in the Nyquist frequency of the RGB components occur in the scanning line without installing an optical low-pass filter. It is possible to suppress this and improve the horizontal resolution.
(Third embodiment)
According to the first and second embodiments described above, the Nyquist frequencies of the R, G, and B components in the column (horizontal) direction are {1 / (2d)}. For example, an optical LPF having a cutoff frequency of {1 / (4d)} can be omitted.
図11は第1の実施形態および第2の実施形態の撮像装置の変調度MFTを示すグラフであって、図11(a)に示すように、開口度が100%であれば、遮断周波数が、例えば{1/(2d)}である光学LPFのMFTよりも画素アレイのMFTの方が小さく、走査線のMFTは画素アレイのMFTで制限されることが理解できる。 FIG. 11 is a graph showing the modulation degree MFT of the imaging devices of the first embodiment and the second embodiment. As shown in FIG. 11A, if the aperture is 100%, the cutoff frequency is For example, it can be understood that the MFT of the pixel array is smaller than the MFT of the optical LPF which is {1 / (2d)}, and the MFT of the scanning line is limited by the MFT of the pixel array.
従って、第1の実施形態および第2の実施形態の撮像装置を使用して、水平方向に3840個、垂直方向に2160個の受光素子が配列され、水平方向に1920画素、垂直方向に1080画素を有する高精細テレビジョン画面を製作する場合には、図11(b)に示すように、画素走査線生成部14の後段に遮断周波数が{1/(4d)}である電気LPF15(例えばディジタル・フィルタ)を挿入することにより、走査線のMFTを高く維持することが可能となり、折り返し誤差の発生を抑制することができる。
(第4の実施形態)
第4の実施形態の単板式カラー撮像装置3は、図12に示すように、2行2列に配置された4個の受光素子LEで構成される画素PXを格子状に配置した画素アレイ31と、画素アレイ31のそれぞれの画素PXの受光面を覆うフィルタアレイ32であって、Rフィルタ、GフィルタおよびBフィルタをそれぞれ少なくとも1つ含み、同色のフィルタが一方の対角に、他の2色のフィルタが他方の対角に配置された2行2列の画素フィルタを格子状に配置したフィルタアレイ32と、フィルタアレイ32の被写体側OJに配置され1本の光線を行方向に連続する2つの受光素子に分配する光学素子33と、受光素子LEを順次走査して得られる2本の受光素子走査線から1本の画素走査線を生成する走査線生成部34とを含み、走査線生成部34は2つの受光素子読み出しタイミングごとに受光素子走査線のそれぞれにR成分、G成分およびB成分のすべてが含まれるように、2つの受光素子読み出しタイミングでは読み出されない1つの色成分を2つの受光素子読み出しタイミングで読み出される2つの色成分により補完する補完部35を含む。
Therefore, using the imaging devices of the first and second embodiments, 3840 light receiving elements in the horizontal direction and 2160 light receiving elements in the vertical direction are arranged, 1920 pixels in the horizontal direction, and 1080 pixels in the vertical direction. In the case of manufacturing a high-definition television screen having the following, as shown in FIG. 11B, an electric LPF 15 (for example, digital) having a cutoff frequency of {1 / (4d)} at the subsequent stage of the pixel scanning
(Fourth embodiment)
As shown in FIG. 12, the single-plate color
第4の実施形態で使用されるフィルタアレイ32は、図13に示すように、GフィルタG11と、Gフィルタの列方向に隣接するBフィルタB1と、GフィルタG11の行方向に隣接するRフィルタR1と、GフィルタG11の対角位置に配置されるもう1つのGフィルタG12とを含む。
As shown in FIG. 13, the
第4の実施形態に係る単板式カラー撮像装置を適用したテレビジョンカメラ4は、図14のブロック図に示すように、被写体の光学像を生成するレンズ系21と、光学像を電気信号に変換する撮像装置3と、撮像装置3の出力を処理する信号処理部22と、撮像装置3および信号処理部22を制御する制御部23とを含む。
As shown in the block diagram of FIG. 14, the television camera 4 to which the single-plate color imaging device according to the fourth embodiment is applied, converts a
図15は第4の実施形態の走査線生成部34の詳細ブロック図であって、色分離部141および補完部35を含む。
FIG. 15 is a detailed block diagram of the scanning
色分離部141としては、第1の実施形態と同じく、図5に示すメモリ型色分離部(a)または切り替え型色分離部(b)を使用することができる。
As the
補完部35は、G信号とB信号に基づいて補間R信号を生成する補間R信号生成部351と、G信号とR信号に基づいて補間B信号を生成する補間B信号生成部352とを含む。
The
次に、第4の実施の形態の動作を説明する。 Next, the operation of the fourth embodiment will be described.
被写体OJから放射される光は、レンズ系21、光学素子33およびフィルタアレイ32を介して画素アレイ31上に被写体像を結像する。
Light emitted from the subject OJ forms a subject image on the
光学素子33は1本の光線を行方向に2分割する光学LPFであって、1本の光線が行方向に2分割される結果、行方向に連続する2つの受光素子には同一の光線が入射するので、画素アレイ31の受光素子LEを順次走査すると、画素アレイ31からは[数8]で表される順次走査線が出力される。
The
色分離部141は、上記の2本の順次走査線を読み込み、画素読み出しタイミング(I、J)において1画素当り2つのG信号、1つのB信号および1つのR信号を出力する。
The
ただし、画素読み出しタイミングI、Jは[数9]次式により算出される。 However, pixel readout timings I and J are calculated by the following equation.
色分離部141から出力されたRGB信号は、補完部35を経て、ビデオ信号として出力され、必要に応じて後段の画像処理部に伝送される。
The RGB signal output from the
ここで、補完部35を挿入する理由を説明する。
Here, the reason for inserting the
輝度の変化が色相の変化に比較して急激である一般的な画像にあっては、各受光素子走査線の画素読み出しタイミングごとに出力信号中にRGBすべての色成分が含まれていれば、輝度分解能を高めることができる。 In a general image in which the change in luminance is abrupt compared to the change in hue, if all RGB color components are included in the output signal for each pixel readout timing of each light receiving element scanning line, The luminance resolution can be increased.
しかし、Rフィルタ、GフィルタおよびBフィルタをそれぞれ少なくとも1つ含み、同色のフィルタが一方の対角に、他の2色のフィルタが他方の対角に配置されたフィルタアレイ32を適用した場合には、G成分は受光素子の読み出しタイミングごとに含まれるものの、R成分およびB成分は1つおきの受光素子読み出しタイミングで出力されるので輝度分解能が低下することとなる。
However, when a
そこで、第4の実施形態においては、色分離部141の後段に補完部35を設置し、各受光素子走査線の画素読み出しタイミングごとにRGBすべての色成分が出力されるようにしている。
Therefore, in the fourth embodiment, the complementing
即ち、[数8]を画素読み出しタイミングIに書き換えると、[数10]となる。 That is, when [Equation 8] is rewritten to the pixel readout timing I, [Equation 10] is obtained.
即ち、走査線SL(j)にあっては画素読み出しタイミング2IにはR成分が含まれず、走査線SL(j+1)にあっては画素読み出しタイミング2IにはB成分が含まれていない。 That is, the R component is not included in the pixel readout timing 2I in the scanning line SL (j), and the B component is not included in the pixel readout timing 2I in the scanning line SL (j + 1).
そこで、補完部35に含まれるR成分補完部351およびB成分補完部352は[数11]により補完R成分R’および補完B成分B’を生成する。
Therefore, the R
関数hrおよびhbは任意の関数であってよく特に規定されないが、輝度にはG成分が支配的であることを考慮して[数12]の荷重平均値を使用することが望ましい。 The functions h r and h b may be arbitrary functions and are not particularly defined, but it is desirable to use the weighted average value of [Equation 12] considering that the G component is dominant in the luminance.
よって、補完部35から出力されるビデオ信号は[数13]で表される。
Therefore, the video signal output from the complementing
図16は補完部35の動作を説明するグラフであって、白色の被写体を撮像した場合(a)、および黒色の被写体を撮像した場合(b)を示す。なお、図16において、破線は画素アレイ31の出力に含まれない成分を、太線は補完部35により補間された成分を示す。
FIG. 16 is a graph for explaining the operation of the complementing
白色被写体を撮像した場合(a)は、第j列目の走査線は[数10]に示すように、第2I番目の画素の出力にはG成分およびB成分が含まれ、R成分が含まれていない。そこでR成分補完部351は[数11]により補完R成分R’を算出して出力する。
When a white subject is imaged (a), as shown in [Equation 10], the j-th scanning line includes the G component and the B component in the output of the second I-th pixel, and includes the R component. Not. Therefore, the R
図16は、白色あるいは黒色が2行にわたる場合を説明したが、行ごとに白黒が反転する被写体であっても本実施形態は有効である。 Although FIG. 16 illustrates the case where white or black extends over two lines, the present embodiment is effective even for a subject in which black and white are reversed for each line.
即ち、画素アレイ31が行方向に2160個の受光素子を有する場合には、2160TV本の分解能を得ることができる。
That is, when the
上記の補完処理を輝度変化が緩やかで色相変化が激しい画像に適用した場合には、色相が正しく撮像されないおそれが生じる。 When the above complement processing is applied to an image with a gradual change in luminance and a sharp change in hue, there is a risk that the hue will not be captured correctly.
そこで、輝度変化周波数が予め定めた閾値周波数より低い場合には、補完処理を中止する、あるいは補完処理の効果を低減することが望ましい。なお輝度変化周波数は、G成分の変化周波数、G成分の時間差分等により検出することが適当である。 Therefore, when the luminance change frequency is lower than a predetermined threshold frequency, it is desirable to stop the complementing process or reduce the effect of the complementing process. It is appropriate to detect the luminance change frequency based on the change frequency of the G component, the time difference of the G component, and the like.
なお、上記の第4の実施形態の説明にあっては、フィルタアレイ32は、第1の実施形態の第1のフィルタアレイであるとしたが、第1の実施形態の第2のフィルタアレイ、第2の実施形態の第1あるいは第2のフィルタアレイ、あるいはベイヤー配置のフィルタアレイであってもよい。
In the description of the fourth embodiment, the
以上説明したように、第4の実施形態に係る単板式カラー撮像装置によれば、各受光素子読み出しタイミングにおいてRGB全成分が含まれるので、特に輝度変化に対する解像度を向上することができることとなる。 As described above, according to the single-plate color image pickup device according to the fourth embodiment, since all RGB components are included in each light receiving element read timing, it is possible to improve the resolution especially for the luminance change.
なお、上記実施形態においてはテレビジョンカメラを想定して、行が垂直方向、列が水平方向であるとしているが、列を垂直方向、行を水平方向とした場合にも本発明を適用できることは明らかである。 In the above embodiment, assuming a television camera, the rows are in the vertical direction and the columns are in the horizontal direction. However, the present invention can also be applied when the columns are in the vertical direction and the rows are in the horizontal direction. it is obvious.
以上のように、本発明に係る撮像装置は、単板式カラー撮像装置において水平方向の解像度を向上できるという効果を有し、テレビジョンカメラ、スチルカメラ等として有効である。 As described above, the imaging apparatus according to the present invention has an effect that the resolution in the horizontal direction can be improved in a single-plate color imaging apparatus, and is effective as a television camera, a still camera, or the like.
1 単板式カラー撮像装置
11 画素アレイ
12 フィルタアレイ
13 光学素子
14 走査線生成部
141 色分離部
142 演算部
15 電気LPF
LE 受光素子
PX 画素
PF 画素フィルタ
DESCRIPTION OF
LE light receiving element PX pixel PF pixel filter
Claims (5)
前記画素アレイのそれぞれの画素の受光面を覆うフィルタアレイであって、Rフィルタ、GフィルタおよびBフィルタをそれぞれ少なくとも1つ含み、同色のフィルタが一方の対角に、他の2色のフィルタが他方の対角に配置された2行2列の画素フィルタを格子状に配置したフィルタアレイと、
前記フィルタアレイの被写体側に配置され、1本の光線を行方向に連続する4つの前記受光素子に分配する光学素子と、
前記受光素子を順次走査した4本の受光素子走査線から1本の画素走査線を生成する画素走査線生成部とを含むカラー撮像装置であって、
前記フィルタアレイが、前記受光素子の各読み出しタイミングにおいて、前記画素走査線が前記Rフィルタによって覆われた前記受光素子であるR受光素子の出力、Gフィルタによって覆われた前記受光素子であるG受光素子の出力およびBフィルタによって覆われた前記受光素子であるB受光素子の出力をそれぞれ少なくとも1つ含むように行方向に隣接する2つの前記画素フィルタを配置した構成を有するものである単板式カラー撮像装置。 A pixel array in which pixels composed of four light receiving elements arranged in two rows and two columns are arranged in a grid pattern;
A filter array covering a light receiving surface of each pixel of the pixel array, each including at least one of an R filter, a G filter, and a B filter, wherein the same color filter is on one diagonal and the other two color filters are A filter array in which pixel filters of 2 rows and 2 columns arranged on the other diagonal are arranged in a grid pattern;
An optical element that is arranged on the subject side of the filter array and distributes one light beam to the four light receiving elements that are continuous in a row direction;
A color imaging device including a pixel scanning line generation unit that generates one pixel scanning line from four light receiving element scanning lines obtained by sequentially scanning the light receiving elements;
The filter array outputs, at each readout timing of the light receiving element, the output of the R light receiving element which is the light receiving element covered by the R filter, and the G light receiving which is the light receiving element covered by the G filter. A single-plate color having a configuration in which two pixel filters adjacent in the row direction are arranged so as to include at least one output of an element and an output of a B light receiving element which is the light receiving element covered by a B filter Imaging device.
前記画素フィルタの左上に配置されるGフィルタと、右上に配置されるBフィルタと、左下に配置されるRフィルタと、右下に配置されるもう1つのGフィルタとを含む第1の画素フィルタと、
前記画素フィルタの左上に配置されるBフィルタと、右上に配置されるGフィルタと、左下に配置されるもう1つのGフィルタと、右下に配置されるRフィルタとを含む第2の画素フィルタとを行方向に配置した構成を有する請求項1に記載の単板式カラー撮像装置。 The filter array is
A first pixel filter including a G filter disposed at the upper left of the pixel filter, a B filter disposed at the upper right, an R filter disposed at the lower left, and another G filter disposed at the lower right. When,
A second pixel filter including a B filter arranged at the upper left of the pixel filter, a G filter arranged at the upper right, another G filter arranged at the lower left, and an R filter arranged at the lower right The single-plate color image pickup device according to claim 1, wherein the single-plate color image pickup device has a configuration in which are arranged in a row direction.
前記画素フィルタの左上に配置されるGフィルタと、右上に配置されるBフィルタと、左下に配置されるRフィルタと、右下に配置されるもう1つのGフィルタとを含む第1の画素フィルタと、
前記画素フィルタの左上に配置されるGフィルタと、右上に配置されるRフィルタと、左下に配置されるBフィルタと、右下に配置されるもう1つのGフィルタとを含む第2の画素フィルタとを行方向に配置した構成を有する請求項1に記載の単板式カラー撮像装置。 The pixel filter array is
A first pixel filter including a G filter disposed at the upper left of the pixel filter, a B filter disposed at the upper right, an R filter disposed at the lower left, and another G filter disposed at the lower right. When,
A second pixel filter including a G filter disposed at the upper left of the pixel filter, an R filter disposed at the upper right, a B filter disposed at the lower left, and another G filter disposed at the lower right. The single-plate color image pickup device according to claim 1, wherein the single-plate color image pickup device has a configuration in which are arranged in a row direction.
前記画素アレイのそれぞれの画素の受光面を覆うフィルタアレイであって、Rフィルタ、GフィルタおよびBフィルタをそれぞれ少なくとも1つ含み、同色のフィルタが一方の対角に、他の2色のフィルタが他方の対角に配置された2行2列の画素フィルタを格子状に配置したフィルタアレイと、
前記フィルタアレイの被写体側に配置され、1本の光線を行方向に連続する2つの前記受光素子に分配する光学素子と、
前記受光素子を順次走査して得られる2本の受光素子走査線から1本の画素走査線を生成する画素走査線生成部とを含むカラー撮像装置であって、
前記画素走査線生成部が、前記受光素子の2読み出しタイミングごとに、前記受光素子走査線のそれぞれにR成分、G成分およびB成分のすべてが含まれるように、前記2読み出しタイミングでは読み出されない1つの色成分を前記2読み出しタイミングで読み出される2つの色成分により補完する補完部を含む単板式カラー撮像装置。 A pixel array in which pixels composed of four light receiving elements arranged in two rows and two columns are arranged in a grid pattern;
A filter array covering a light receiving surface of each pixel of the pixel array, each including at least one of an R filter, a G filter, and a B filter, wherein the same color filter is on one diagonal and the other two color filters are A filter array in which pixel filters of 2 rows and 2 columns arranged on the other diagonal are arranged in a grid pattern;
An optical element disposed on the subject side of the filter array and distributing one light beam to the two light receiving elements that are continuous in a row direction;
A color imaging device including a pixel scanning line generation unit that generates one pixel scanning line from two light receiving element scanning lines obtained by sequentially scanning the light receiving elements;
The pixel scanning line generation unit does not read out at the two readout timings so that each of the light receiving element scanning lines includes all of the R component, the G component, and the B component at every two readout timings of the light receiving elements. A single-plate color imaging apparatus including a complementing unit that complements one color component with two color components read out at the two readout timings.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005299061A JP4551307B2 (en) | 2005-10-13 | 2005-10-13 | Single-plate color imaging device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005299061A JP4551307B2 (en) | 2005-10-13 | 2005-10-13 | Single-plate color imaging device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007110418A JP2007110418A (en) | 2007-04-26 |
JP4551307B2 true JP4551307B2 (en) | 2010-09-29 |
Family
ID=38035915
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005299061A Expired - Fee Related JP4551307B2 (en) | 2005-10-13 | 2005-10-13 | Single-plate color imaging device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4551307B2 (en) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03284714A (en) * | 1990-03-30 | 1991-12-16 | Canon Inc | Optical low pass filter |
JPH05191809A (en) * | 1992-01-14 | 1993-07-30 | Canon Inc | Color imaging pickup device |
JP2000023171A (en) * | 1998-06-30 | 2000-01-21 | Nikon Corp | Image pickup device |
JP2003143613A (en) * | 2001-11-02 | 2003-05-16 | Canon Inc | Image pickup device |
JP2004172278A (en) * | 2002-11-19 | 2004-06-17 | Fuji Film Microdevices Co Ltd | Color solid-state imaging device |
-
2005
- 2005-10-13 JP JP2005299061A patent/JP4551307B2/en not_active Expired - Fee Related
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03284714A (en) * | 1990-03-30 | 1991-12-16 | Canon Inc | Optical low pass filter |
JPH05191809A (en) * | 1992-01-14 | 1993-07-30 | Canon Inc | Color imaging pickup device |
JP2000023171A (en) * | 1998-06-30 | 2000-01-21 | Nikon Corp | Image pickup device |
JP2003143613A (en) * | 2001-11-02 | 2003-05-16 | Canon Inc | Image pickup device |
JP2004172278A (en) * | 2002-11-19 | 2004-06-17 | Fuji Film Microdevices Co Ltd | Color solid-state imaging device |
Also Published As
Publication number | Publication date |
---|---|
JP2007110418A (en) | 2007-04-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6239975B2 (en) | Solid-state imaging device and imaging system using the same | |
CN101006731B (en) | Image processing device and method, and imaging device | |
JP5589146B2 (en) | Imaging device and imaging apparatus | |
EP3093819B1 (en) | Imaging apparatus, imaging system, and signal processing method | |
JP5106870B2 (en) | Solid-state image sensor | |
US9154688B2 (en) | Solid-state image capture element, image capture device, and focus control method | |
JP4377428B2 (en) | Solid-state imaging device and imaging apparatus using the same | |
US20040046881A1 (en) | Imaging device | |
JP5597777B2 (en) | Color imaging device and imaging apparatus | |
KR20110117268A (en) | Imaging element, drive device for an imaging element, drive method for an imaging element, image processing device, program, and imaging device | |
US7259788B1 (en) | Image sensor and method for implementing optical summing using selectively transmissive filters | |
US6429953B1 (en) | Super resolution scanning using color multiplexing of image capture devices | |
EP1035729B1 (en) | Image capturing method and image capturing device | |
US7697046B2 (en) | Image signal processing device and method of image signal processing including pixel array pattern determination | |
JP4551307B2 (en) | Single-plate color imaging device | |
JP5411390B2 (en) | Color image sensor | |
JP2006211631A (en) | Solid-state imaging device and imaging apparatus | |
JP6149544B2 (en) | Imaging apparatus and control program | |
JPH11355667A (en) | Picture element signal processor | |
JP2008131291A (en) | Imaging apparatus | |
CN115623341B (en) | Image sensor | |
JP4253095B2 (en) | Image data filtering apparatus and method | |
JP3458443B2 (en) | High-definition solid-state imaging device | |
JP6067993B2 (en) | Single plate color image sensor | |
JPS6362492A (en) | Solid-state image pickup element for color picture |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080606 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100610 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100615 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100709 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130716 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140716 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |