JP2001101398A - 画像処理方法および装置並びに記録媒体 - Google Patents
画像処理方法および装置並びに記録媒体Info
- Publication number
- JP2001101398A JP2001101398A JP2000155621A JP2000155621A JP2001101398A JP 2001101398 A JP2001101398 A JP 2001101398A JP 2000155621 A JP2000155621 A JP 2000155621A JP 2000155621 A JP2000155621 A JP 2000155621A JP 2001101398 A JP2001101398 A JP 2001101398A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- line
- pixel
- value
- signal value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims description 89
- 238000000034 method Methods 0.000 title claims description 81
- 238000003672 processing method Methods 0.000 claims description 59
- 238000006243 chemical reaction Methods 0.000 claims description 38
- 238000003384 imaging method Methods 0.000 claims description 26
- 230000003595 spectral effect Effects 0.000 claims description 24
- 238000001914 filtration Methods 0.000 claims description 16
- 230000035945 sensitivity Effects 0.000 claims description 14
- 238000009826 distribution Methods 0.000 claims description 10
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 claims description 2
- 238000004364 calculation method Methods 0.000 abstract description 25
- 239000003086 colorant Substances 0.000 description 17
- 238000010586 diagram Methods 0.000 description 17
- 230000014509 gene expression Effects 0.000 description 5
- 238000009499 grossing Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4015—Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/042—Picture signal generators using solid-state devices having a single pick-up sensor
- H04N2209/045—Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
- H04N2209/046—Colour interpolation to calculate the missing colour values
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Color Television Image Signal Generators (AREA)
- Editing Of Facsimile Originals (AREA)
- Facsimile Image Signal Circuits (AREA)
- Color Image Communication Systems (AREA)
- Image Processing (AREA)
Abstract
られる画像データが、光量の対数値や指数値により表さ
れている場合であっても、偽色を生じさせることなく、
全画素位置における信号値を推定する。 【解決手段】 B,G画素が並ぶラインにおけるG信号
のみを有するG06画素位置におけるR06信号の算出
を、画像の局所的な領域におけるR信号とG信号との差
は等しいという前提すなわち、R06−G06=R09
−G09の関係が成立するという前提に基づいて、R0
6=G06+(R09−G09)の演算により行う。こ
の場合、R09画素位置のG09信号は、G09=(G
05+G13)/2等のように、R09画素位置が存在
するRGライン上におけるG信号に対して1次元補間演
算を施すことにより算出する。
Description
な撮像デバイスにおいて得られたカラー画像を表す画像
データのように、全画素位置において全色を表す信号値
を有さない画像データを用いて、全画素位置における信
号値を推定する画像処理方法および装置並びに画像処理
方法をコンピュータに実行させるためのプログラムを記
録したコンピュータ読取り可能な記録媒体に関するもの
である。
撮像デバイスとしては、分光感度が異なる複数種類の光
電変換素子を同一平面上に交互に配置して構成されてい
るものが知られている(以下単板CCDと称する)。こ
こで、R,G,Bのそれぞれに分光感度を有する光電変
換素子、すなわちR,G,Bの各チャンネルの光電変換
素子を交互に配置した単板CCDの場合、連続したR,
G,Bチャンネルの3個の光電変換素子の組が1つの画
素を構成することとなる。しかしながら、このような単
板CCDにおいては各画素のR,G,B信号値を同一画
素位置において得ることができないため、色ずれや偽色
が生じることがある。また、各チャンネルの光電変換素
子数は単板CCDを構成する全素子数よりも少ないた
め、高解像度の画像を得ることができない。例えばR,
G,B各チャンネルの光電変換素子を交互に配置した単
板CCDにおいては、各チャンネルの光電変換素子数は
全素子数の1/3しかないため、同一素子数のモノクロ
撮像装置に比べて解像度が1/3となってしまう。この
ため、R,G,B各チャンネルの光電変換素子が存在し
ない部分における信号値を補間処理により求める方法が
提案されているが、単に補間処理を行うのみでは、信号
値が大きく変化する部分において偽色が発生することが
ある。この場合、撮像系に光学ローパスフィルタを使用
したり、撮像信号に対してローパスフィルタによる平滑
化処理を行うことにより偽色の発生を防止することがで
きるが、この場合解像度が悪化するという問題がある。
対して感度が高いものである。このため、単板CCDに
おいて得られたカラー撮像信号から、各画素の輝度を表
す高周波の輝度信号と、上述した補間処理およびローパ
スフィルタによる平滑化処理によって得られた低周波の
色信号とを生成し、輝度信号および色信号を用いてカラ
ー画像信号を再構成するようにした方法が提案されてい
る(特開平10−200906号等)。この方法によれ
ば、人間の視覚特性において感度が高い輝度成分に対し
てより多くの情報が与えられることとなるため、見かけ
上解像度が高い画像を再現可能なカラー画像信号を得る
ことができる。
6に示すように市松状に画素が配置されたハニカム配列
のアレイ構造を有するCCDが知られている(例えば特
開平10−136391号)。なお、これを市松状の画
素配列と称することもある。また、図17に示すように
正方状に画素が配置されたベイヤー配列のアレイ構造を
有するCCDも知られている。なお、これを正方状の画
素配列と称することもある。このようなアレイ構造すな
わち画素配列を有する単板CCDにおいても上記と同様
に偽色の問題が生じる。このため、上述したベイヤー配
列のCCDにおいて得られた光量ベースの信号について
偽色を除去するために、画像中の局所的な領域において
はr,g,bの信号の比は略一定であるという仮定に基
づいて、ベイヤー配列のCCDにおける垂直方向または
水平方向のラインにおいて、隣接するラインにおけるr
信号とg信号との比をg信号に乗算することにより、そ
のラインにおけるr信号を算出するようにした方法が知
られている(特開平9−214989号)。この方法
は、具体的には、図18に示す画素配列において、g1
2画素位置におけるr信号r12を求めるには、まずr
11画素位置におけるg11信号を(g6+g16)/
2の演算により算出し、r11:g11=r12:g1
2という仮定に基づいて、r12=g12×r11/g
11の演算によりr12信号を算出するものである。
開平10−200906号等に記載された方法において
は、単板CCDにおいて得られた撮像信号に対してどの
ようなローパスフィルタにより平滑化処理を施しても、
実際の画像における高周波成分が画像中にすでに折り返
されてしまっているため、折り返しひずみによるモアレ
を取り除くことができず、その結果偽色を十分に除去す
ることができない。
載された方法によれば、効果的に偽色を除去することが
できる。とくにこの方法は、画像の局所的な領域におい
ては、r:g:bの光量の比が一定であるという仮定に
基づいており、得られたRGB信号の比が光量に比例し
ているアナログ信号である場合には、ベイヤー配列のC
CDにおいて得られる画像信号における偽色を効率よく
除去することができる。しかしながら、デジタルカメラ
により得られる画像信号は、A/D変換を行って光量r
gbをデジタルのRGB信号に変換する場合に、量子化
誤差を低減するため、およびコンピュータ系のビデオ回
路へ信号を入力するために、例えばR=r0.45、R
=log(r)のように、光量に対する指数値、対数値
となるように信号値が表されていることから、r:g:
b=R:G:Bとはならないものである。このため、上
記特開平9−214989号に記載された方法は、信号
値が光量に比例するアナログ信号に対しては偽色を除去
することができるが、信号値が光量の指数値や対数値に
より表されている場合には偽色を除去することはできな
い。また、偽色はベイヤー配列の単板CCDのみならず
ハニカム配列の単板CCDにおいても発生する。
り、どのような信号であっても偽色を低減することがで
きる画像処理方法および装置並びに画像処理方法をコン
ピュータに実行させるためのプログラムを記録したコン
ピュータ読取り可能な記録媒体を提供することを目的と
するものである。
法は、例えば単板CCDのような撮像デバイスにおいて
得られた画像データを構成する信号値が光量に対する指
数値や対数値により表されている場合には、画像上の局
所的な領域において、各信号値の差分値が等しくなると
いう前提に基づいてなされたものである。すなわち、本
発明による画像処理方法は、異なる分光分布を有する第
1から第3の信号値を有する第1から第3の画素からな
る画像を表す画像データであって、前記第1および前記
第2の画素が所定方向に交互に配置されて第1ラインが
形成され、前記第1および前記第3の画素が前記所定方
向に交互に配置されて第2ラインが形成され、さらに前
記第1および前記第2ラインが前記所定方向と略直交す
る方向に交互に配置されてなる画像を表す画像データ
の、前記第1から第3信号値に基づいて、全画素位置に
おける前記第1から第3信号値のうち少なくとも1つの
信号値を推定する画像処理方法において、前記第2ライ
ンにおける前記第2信号値を、該第2ラインに隣接する
前記第1ラインにおける前記第1および前記第2信号値
の差分値に基づいて推定することを特徴とするものであ
る。
カム配列の単板CCDがR,G,Bのそれぞれに分光感
度を有するものとした場合、この単板CCDにおいては
R,G,Bの色信号からなる画像データが得られる。そ
してこの画像データにより表される画像の画素の配列を
図16を参照して説明すると、第1から第3画素、第1
信号値から第3信号値をそれぞれG,R,Bに対応さ
せ、第1ラインを図16上左上から右下方向にGR画素
を交互に配置したGRラインとし、第2ラインを第1ラ
インと同様の方向にGB画素を交互に配置したGBライ
ンとした場合、本発明による画像処理方法は、GBライ
ンにおけるR信号値を、GRラインにおけるG信号値お
よびR信号値の差分値に基づいて推定することを特徴と
するものである。
るために、第1から第3画素、第1信号値から第3信号
値をそれぞれG,R,Bに対応させ、第1ラインはGR
ライン、第2ラインはGBラインとし、以下に述べる本
発明の構成において()内に本発明の実施形態における
図4を参照して、G,B,Rに参照番号を付して記載す
るが、画像データにより表される画像の画素配列として
はこれに限定されるものではない。
は、前記第2(GB)ラインの前記第1(G06)画素
における第2(R06)信号値を、前記第1(GR)ラ
インの該第1(G06)画素近傍の前記第2(R09)
画素における第2(R09)信号値と、前記第1(G
R)ライン上における前記第1(G05,G13)信号
値に対して1次元補間演算を施すことにより算出した前
記第2(R09)画素における前記第1(G09)信号
値との差分値(R09−G09)に基づいて推定するこ
とが好ましい。
の前記第1(G06)画素における第1(G06)信号
値に前記差分値(R09−G09)を加算することによ
り前記第2(GB)ラインの前記第1(G06)画素位
置における第2(R06)信号値を推定することが好ま
しい。
ては、前記第2(GB)ラインの前記第3(B10)画
素における第2(R10)信号値を、前記第1(GR)
ラインの該第3(B10)画素近傍の前記第1(G1
3)画素における第1(G13)信号値と、前記第1
(GR)ライン上における前記第2(R09,R17)
信号値に対して1次元補間演算を施すことにより算出し
た前記第1(G13)画素における前記第2(R13)
信号値との差分値(R13−G13)に基づいて推定す
ることが好ましい。
第3(B10)画素位置における第1(G10)信号値
を、該第2(GB)ライン上における前記第1(G0
6,G14)信号値に対して1次元補間演算を施すこと
により算出し、該算出された第1(G10)信号値に前
記差分値(R13−G13)を加算することにより前記
第2(GB)ラインの前記第3(B10)画素位置にお
ける第2(R10)信号値を推定することが好ましい。
ては、前記差分値は、前記第2(GB)ラインに隣接す
る2つの前記第1(GR)ラインにおける前記差分値
(例えばR09−G09,R03−G03)の平均値で
あることが好ましい。
おいては、前記第1(GR)ラインにおける前記第3
(B)信号値を、該第1(GR)ラインに隣接する前記
第2(GB)ラインにおける前記第1(G)および前記
第3(B)信号値の差分値に基づいて推定することが好
ましい。
の前記第1(G13)画素における第3(B13)信号
値を、前記第2(GB)ラインの該第1(G13)画素
近傍の前記第3(B10)画素における第3(B10)
信号値と、前記第2(GB)ライン上における前記第1
(G06,G14)信号値に対して1次元補間演算を施
すことにより算出した前記第3(B10)画素における
前記第1(G10)信号値との差分値(B10−G1
0)に基づいて推定することが好ましい。
の前記第1(G13)画素における第1(G13)信号
値に前記差分値(B10−G10)を加算することによ
り前記第1(GR)ラインの前記第1(G13)画素位
置における第3(B13)信号値を推定することが好ま
しい。
は、前記第1(GR)ラインの前記第2(R09)画素
における第3(B09)信号値を、前記第2(GB)ラ
インの該第2(R09)画素近傍の前記第1(G06)
画素における第1(G06)信号値と、前記第2(G
B)ライン上における前記第3(B02,B10)信号
値に対して1次元補間演算を施すことにより算出した前
記第1(G06)画素における前記第3(B06)信号
値との差分値(B06−G06)に基づいて推定するこ
とが好ましい。
第2(R09)画素における第1(G09)信号値を、
該第1(GR)ライン上における前記第1(G05,G
13)信号値に対して1次元補間演算を施すことにより
算出し、該算出された第1(G09)信号値に前記差分
値(B06−G06)を加算することにより前記第1
(GR)ラインの前記第2(R09)画素における第3
(B09)信号値を推定することが好ましい。
ラインに隣接する2つの前記第2(GB)ラインにおけ
る前記差分値(例えばB10−G10,B16−G1
6)の平均値であることが好ましい。
は、前記画像データにより表される画像の前記所定方向
(矢印A方向)と直交する直交方向(矢印B方向)にお
いて、前記第1(G)および前記第2(R)画素が交互
に、かつ前記第1(G)および前記第3(B)画素が交
互に配置されて、前記直交方向における前記第1(G
R)ラインおよび前記第2(GB)ラインを形成してな
る場合、信号値を推定する画素位置に応じて、前記所定
方向における前記第1および前記第2ラインと、前記直
交方向における前記第1および前記第2ラインとを切り
替えて、前記第1から第3信号値のうち少なくとも1つ
の信号値を推定することが好ましい。
推定する画素位置における信号値の変化方向を表す尺度
値に基づいて行うことが好ましい。
る画素位置での信号値の変化方向を表すものであり、例
えば前記所定方向および前記直交方向において信号値を
推定する画素位置に隣接する画素位置における信号値の
変化量により尺度値を表すことができる。
ては、前記画像データにより表される画像の前記所定方
向(矢印A方向)と直交する直交方向(矢印B方向)に
おいて、前記第1(G)および前記第2(R)画素が交
互に、かつ前記第1(G)および前記第3(B)画素が
交互に配置されて、前記直交方向における前記第1(G
R)ラインおよび前記第2(GB)ラインを形成してな
る場合、前記所定方向における前記第1および前記第2
ラインに基づく所定方向推定値、および前記直交方向に
おける前記第1および前記第2ラインに基づく直交方向
推定値を算出し、信号値を推定する画素位置に応じて、
前記所定方向推定値および前記直交方向推定値を所定の
重み付け係数により重み付け加算して、前記第1から第
3信号値のうち少なくとも1つの信号値を推定すること
が好ましい。
記信号値を推定する画素位置における信号値の変化方向
を表す尺度値に基づいて算出されたものであることが好
ましい。
方向推定値」とは、所定方向および直交方向についてそ
れぞれ推定した第1から第3信号値のうち少なくとも1
つの信号値のことである。
は、前記第1(GR)ラインの画素配列が、前記第2
(GB)ラインの画素配列に対して前記所定方向に略1
/2画素相対的にずれることにより、前記画像データに
より表される画像の前記第1から第3画素が市松状に配
列されてなることが好ましい。
画素位置における信号値を推定するとともに、該推定さ
れた信号値に基づいて、空孔画素位置における信号値を
推定することが好ましい。
示すようなハニカム配列の単板CCDにおいて、これを
正方配列と見なした場合に、例えば図16の横方向にお
けるRとBとの間、GとGとの間の画素位置のように、
信号値を有さない画素位置とみなせる位置のことをい
う。
は、前記第1から前記第3の信号値が、それぞれG(グ
リーン)、B(ブルー)、R(レッド)のいずれかの
色、あるいはY(イエロー)、G(グリーン)、C(シ
アン)のいずれかの色信号であることが好ましい。
ては、前記画像データが、異なる分光感度を有する第1
から第3の光電変換素子を単一面上に配置して撮像面が
形成された撮像デバイスであって、前記第1および前記
第2の光電変換素子を所定方向に交互に配置して第1ラ
インを形成し、前記第1および前記第3の光電変換素子
を前記所定方向に交互に配置して第2ラインを形成し、
さらに前記第1および前記第2ラインを前記所定方向と
略直交する方向に交互に配置することにより、前記撮像
面が形成された撮像デバイスにおいて得られたものであ
ってもよい。
異なる分光分布を有する第1から第3の信号値を有する
第1から第3の画素からなる画像を表す画像データであ
って、前記第1および前記第2の画素が所定方向に交互
に配置されて第1ラインが形成され、前記第1および前
記第3の画素が前記所定方向に交互に配置されて第2ラ
インが形成され、さらに前記第1および前記第2ライン
が前記所定方向と略直交する方向に交互に配置されてな
る画像を表す画像データに対して画像処理を施す画像処
理方法において、本発明による画像処理方法により、前
記画像データにより表される画像の全画素位置における
前記第1から第3信号値のうち少なくとも1つの信号値
を推定して推定画像データを得、前記画像データから高
周波の輝度情報を表す高周波輝度信号を作成し、前記推
定画像データを、該推定画像データの輝度情報および色
差情報を表す推定輝度信号および推定色差信号に変換
し、前記推定輝度信号と前記高周波輝度信号とを加算し
て加算輝度信号を得、該加算輝度信号および前記推定色
差信号を前記画像データの輝度色差信号とすることを特
徴とするものである。
作成する方法としては、画像データを構成する第1から
第3の信号値をそのまま輝度信号とし、この輝度信号に
対してハイパスフィルタによるフィルタリング処理を施
す方法や、例えば特開平5−228108号、同6−3
0444号、同6−225343号、同8−9199号
などに記載された方法を採用することができる。
いては、前記画像データに対して、前記推定輝度信号の
周波数帯域の周波数成分をカットするハイパスフィルタ
によるフィルタリング処理を施すことにより、前記高周
波輝度信号を作成することが好ましい。
いては、前記画像データに対して、所定の通過帯域特性
を有するバンドパスフィルタによるフィルタリング処理
を施すことにより、前記高周波輝度信号を作成すること
が好ましい。
は、例えば画像データのノイズ成分に対応する周波数帯
域の周波数成分をカットする特性のことをいう。
分布を有する第1から第3の信号値を有する第1から第
3の画素からなる画像を表す画像データであって、前記
第1および前記第2の画素が所定方向に交互に配置され
て第1ラインが形成され、前記第1および前記第3の画
素が前記所定方向に交互に配置されて第2ラインが形成
され、さらに前記第1および前記第2ラインが前記所定
方向と略直交する方向に交互に配置されてなる画像を表
す画像データの、前記第1から第3信号値に基づいて、
全画素位置における前記第1から第3信号値のうち少な
くとも1つの信号値を推定する推定手段を備えた画像処
理装置において、前記推定手段は、前記第2ラインにお
ける前記第2信号値を、該第2ラインに隣接する前記第
1ラインにおける前記第1および前記第2信号値の差分
値に基づいて推定する手段であることを特徴とするもの
である。
は、前記推定手段は、前記第2ラインの前記第1画素に
おける第2信号値を、前記第1ラインの該第1画素近傍
の前記第2画素における第2信号値と、前記第1ライン
上における前記第1信号値に対して1次元補間演算を施
すことにより算出した前記第2画素における前記第1信
号値との差分値に基づいて推定する手段であることが好
ましい。
2ラインの前記第1画素における第1信号値に前記差分
値を加算することにより、前記第2ラインの前記第1画
素における第2信号値を推定する手段であることが好ま
しい。
ては、前記推定手段は、前記第2ラインの前記第3画素
における第2信号値を、前記第1ラインの該第3画素近
傍の前記第1画素における第1信号値と、前記第1ライ
ン上における前記第2信号値に対して1次元補間演算を
施すことにより算出した前記第1画素における前記第2
信号値との差分値に基づいて推定する手段であることが
好ましい。
ンの前記第3画素位置における第1信号値を、該第2ラ
イン上における前記第1信号値に対して1次元補間演算
を施すことにより算出し、該算出された第1信号値に前
記差分値を加算することにより前記第2ラインの前記第
3画素位置における第2信号値を推定する手段であるこ
とが好ましい。
接する2つの前記第1ラインにおける前記差分値の平均
値であることが好ましい。
ては、前記推定手段は、前記第1ラインにおける前記第
3信号値を、該第1ラインに隣接する前記第2ラインに
おける前記第1および前記第3信号値の差分値に基づい
て推定する手段であることが好ましい。
ンの前記第1画素における第3信号値を、前記第2ライ
ンの該第1画素近傍の前記第3画素における第3信号値
と、前記第2ライン上における前記第1信号値に対して
1次元補間演算を施すことにより算出した前記第3画素
における前記第1信号値との差分値に基づいて推定する
手段であることが好ましい。
1ラインの前記第1画素における第1信号値に前記差分
値を加算することにより前記第1ラインの前記第1画素
位置における第3信号値を推定する手段であることが好
ましい。
は、前記推定手段は、前記第1ラインの前記第2画素に
おける第3信号値を、前記第2ラインの該第2画素近傍
の前記第1画素における第1信号値と、前記第2ライン
上における前記第3信号値に対して1次元補間演算を施
すことにより算出した前記第1画素における前記第3信
号値との差分値に基づいて推定する手段であることが好
ましい。
ンの前記第2画素における第1信号値を、該第1ライン
上における前記第1信号値に対して1次元補間演算を施
すことにより算出し、該算出された第1信号値に前記差
分値を加算することにより前記第1ラインの前記第2画
素における第3信号値を推定する手段であることが好ま
しい。
記第1ラインに隣接する2つの前記第2ラインにおける
前記差分値の平均値として算出する手段であることが好
ましい。
は、前記画像データにより表される画像の前記所定方向
と直交する直交方向において、前記第1および前記第2
画素が交互に、かつ前記第1および前記第3画素が交互
に配置されて、前記直交方向における前記第1ラインお
よび前記第2ラインを形成してなる場合、前記推定手段
は、信号値を推定する画素位置に応じて、前記所定方向
における前記第1および前記第2ラインと、前記直交方
向における前記第1および前記第2ラインとを切り替え
て、前記第1から第3信号値のうち少なくとも1つの信
号値を推定する手段であることが好ましい。
推定する画素位置における信号値の変化方向を表す尺度
値に基づいて行うことが好ましい。
ては、前記画像データにより表される画像の前記所定方
向と直交する直交方向において、前記第1および前記第
2画素が交互に、かつ前記第1および前記第3画素が交
互に配置されて、前記直交方向における前記第1ライン
および前記第2ラインを形成してなる場合、前記推定手
段は、前記所定方向における前記第1および前記第2ラ
インに基づく所定方向推定値、および前記直交方向にお
ける前記第1および前記第2ラインに基づく直交方向推
定値を算出する手段と、信号値を推定する画素位置に応
じて、前記所定方向推定値および前記直交方向推定値を
所定の重み付け係数により重み付け加算して、前記第1
から第3信号値のうち少なくとも1つの信号値を推定す
る手段とを有することが好ましい。
記信号値を推定する画素位置における信号値の変化方向
を表す尺度値に基づいて算出されたものであることが好
ましい。
は、前記第1ラインの画素配列が、前記第2ラインの画
素配列に対して前記所定方向に略1/2画素相対的にず
れることにより、前記画像データにより表される画像の
前記第1から第3の画素が市松状に配列されてなること
が好ましい。
置における信号値を推定するとともに、該推定された信
号値に基づいて、空孔画素位置における信号値を推定す
る手段であることが好ましい。
は、前記第1から前記第3の信号値が、それぞれG、
B、Rのいずれかの色に、あるいはY、G、Cのいずれ
かの色信号であることが好ましい。
は、前記画像データが、異なる分光感度を有する第1か
ら第3の光電変換素子を単一面上に配置して撮像面が形
成された撮像デバイスであって、前記第1および前記第
2の光電変換素子を所定方向に交互に配置して第1ライ
ンを形成し、前記第1および前記第3の光電変換素子を
前記所定方向に交互に配置して第2ラインを形成し、さ
らに前記第1および前記第2ラインを前記所定方向と略
直交する方向に交互に配置することにより、前記撮像面
が形成された撮像デバイスにおいて得られたものであっ
てもよい。
分光分布を有する第1から第3の信号値を有する第1か
ら第3の画素からなる画像を表す画像データであって、
前記第1および前記第2の画素が所定方向に交互に配置
されて第1ラインが形成され、前記第1および前記第3
の画素が前記所定方向に交互に配置されて第2ラインが
形成され、さらに前記第1および前記第2ラインが前記
所定方向と略直交する方向に交互に配置されてなる画像
を表す画像データに対して画像処理を施す画像処理装置
において、上記本発明による画像処理装置により、前記
画像データにより表される画像の全画素位置における前
記第1から第3信号値のうち少なくとも1つの信号値を
推定して推定画像データを得る補間手段と、前記画像デ
ータの高周波の輝度情報を表す高周波輝度信号を作成す
る高周波輝度信号作成手段と、前記推定画像データを該
推定画像データの輝度情報および色差情報を表す推定輝
度信号および推定色差信号に変換する輝度色差変換手段
と、前記推定輝度信号と前記高周波輝度信号とを加算し
て加算輝度信号を得る加算手段とを備え、該加算輝度信
号および前記推定色差信号を前記画像データの輝度色差
信号とすることを特徴とするものである。
いては、前記高周波輝度信号作成手段は、前記画像デー
タに対して、前記推定輝度信号の周波数帯域の周波数成
分をカットするハイパスフィルタによるフィルタリング
処理を施すことにより、前記高周波輝度信号を作成する
手段であることが好ましい。
いては、前記高周波輝度信号作成手段は、前記画像デー
タに対して、所定の通過帯域特性を有するバンドパスフ
ィルタによるフィルタリング処理を施すことにより、前
記高周波輝度信号を作成する手段であることが好まし
い。
発明による他の画像処理方法をコンピュータに実行させ
るためのプログラムとして、コンピュータ読取り可能な
記録媒体に記録して提供してもよい。
ルカメラ等の撮像装置に設けてもよく、プリンタ等の出
力装置に設けてもよい。
よれば、画像データを構成する信号値が、光量に対する
指数値や対数値により表されている場合、画像データに
より表される画像の局所的な領域においてはRGB各信
号値の差は一定であるという前提に基づいて、各画素位
置における信号値を算出するようにしたため、画像デー
タを構成する信号値が指数値や対数値により表されてい
る場合であっても、偽色を発生させることなく、全画素
位置における信号値を求めることができる。したがっ
て、本発明により、偽色のない高解像度の画像を得るこ
とができる。
定方向および直交方向について算出された信号値を重み
付け加算して、各画素位置における信号値を算出するこ
とにより、信号値の変化方向に拘わらず偽色の発生を防
止できるとともに、アーチファクトの発生をも防止する
ことができる。
合に、空孔画素位置の信号値を求めることにより、正方
状に画素が配列された状態における信号値を得ることが
できる。
置によれば、本発明による画像処理方法および装置によ
り画像データにより表される画像の全画素位置における
第1から第3の信号値のうち少なくとも1つの信号値が
推定されて推定画像データが得られる。また、画像デー
タの高周波の輝度情報を表す高周波輝度信号が作成さ
れ、推定画像データは推定画像データの輝度情報および
色差情報を表す推定輝度信号および推定色差信号に変換
される。そして、推定輝度信号と高周波輝度信号とが加
算されて加算輝度信号が得られる。ここで、推定画像デ
ータは偽色が低減されているため、偽色を生じさせるこ
となく画像データを取得したシーンの画像を再現するこ
とができる。一方、画像データについては、その高周波
成分は画像データを取得したシーンの高周波成分を忠実
に表すものであるが、低周波成分には偽色が含まれる。
したがって、画像データの高周波の輝度情報を表す高周
波輝度信号はシーンの高周波成分を忠実に表す信号とな
る。このため、高周波輝度信号と推定輝度信号とを加算
することにより得られる加算輝度信号はシーンの高周波
成分を忠実に表すとともに、低周波成分についても偽色
が低減されたものとなる。その結果、加算輝度信号と推
定色差信号とに基づいて画像を再現することにより、よ
り高解像度の画像を得ることができる。
上の位置により急激に変化しないと仮定すると、本発明
の他の画像処理方法および装置により、一層高解像度の
画像を得ることができる。しかしながら、第1から第3
の信号値の比率の変化が大きい場合には、高周波輝度信
号に偽信号が含まれるため、この高周波輝度信号から加
算輝度信号を作成して推定色差信号とともに画像を再現
すると、画像中にグレイのノイズが現れてしまう。した
がって、このような場合には、このグレイのノイズ成分
に対応する周波数帯域の周波数成分をカットするバンド
パスフィルタを用いて高周波輝度信号を作成することに
より、グレイのノイズを低減できるとともに、画像の解
像度をも向上させることができる。
形態について説明する。図1は本発明の第1の実施形態
による画像処理装置の構成を示す概略ブロック図であ
る。図1に示すように本発明の第1の実施形態による画
像処理装置は、単板CCD1を構成する各光電変換素子
において得られた信号値に対して補間処理を施して、全
画素位置における信号値を求めるものであり、各信号値
により構成される画像データS0に対して補間処理を施
して、補間済み画像データS1を得る補間手段2を備え
る。補間手段2は、後述するようにして補間演算により
G信号QGを算出するG補間手段3と、R信号QRおよ
びB信号QBを算出するRB補間手段4と、G信号Q
G、R信号QRおよびB信号QBから後述する図3に示
す空孔画素位置*の信号値を算出する市松正方補間手段
5とを備える。なお、図1に示す単板CCD1において
は、これを構成する光電変換素子からはアナログ信号が
得られるものであるが、本実施形態における画像データ
S0は、アナログ信号をA/D変換したデジタル信号で
あり、なおかつこのデジタル信号は単板CCD1に入力
する光量の0.45乗あるいは対数値となるように変換
されているものとする。
デジタルカメラのような撮像装置やフイルムから画像を
読み取るスキャナ等の読取装置に設けられるものであっ
てもよく、これらの装置において得られた画像信号を再
生するモニタやプリンタ等の再生装置に設けられるもの
であってもよい。また、画像処理装置単体として用いて
もよい。
CCD1の画素配列を示す図である。図2(a)に示す
画素配列は、y方向にR,Gチャンネルに対応する画素
を交互に配列した第1のラインと、y方向にG,Bチャ
ンネルに対応する画素を交互に配列した第2のラインと
を、x方向に交互に配列したものであり、x方向におけ
る各ラインにおいてもR,GチャンネルおよびG,Bチ
ャンネルが交互に配列された正方状の画素配列となって
いる。このような正方状の画素配列としては、図17に
示すベイヤー配列が知られており、本実施形態において
は図2(a)に示す画素配列をベイヤー配列と称するも
のとする。
向にR,Bチャンネルに対応する画素を交互に配設した
ラインと、y方向にGチャンネルに対応する画素を配列
したラインとを、各ラインの画素の配列間隔が他のライ
ンの画素配列に対してy方向に略1/2相対的にずれる
ように配列したものであり、市松状の画素配列となって
いる。このような市松状の画素配列としては、上記特開
平10−136391号に記載されたハニカム配列(図
16)が知られており、本実施形態においては図2
(b)に示す画素配列をハニカム配列と称するものとす
る。このハニカム配列は、x方向に対して45度傾斜し
た方向についてみれば、R,Gチャンネルの画素を交互
に配列したラインと、同様に45度傾斜した方向にG,
Bチャンネルの画素を交互に配列したラインとを、この
方向に直交する方向に交互に配列したものとなってい
る。なお、ハニカム配列は図2(a)に示すようなベイ
ヤー配列と画素の配列を45度回転させた関係となって
いる。また、ハニカム配列は上述したように市松状に画
素が配列されてなるものであり、信号値を有さない空孔
画素位置*を用いて図3に示すように正方状に表現する
ことも可能である。本実施形態においては、図2(b)
すなわち図3に示すハニカム配列の単板CCD1におい
て得られた画像データS0に対して処理を行うものとし
て説明する。
素位置を示す図であり、各画素位置に参照番号を付して
示すものである。ここでは、図3の左上から右下に向か
う方向、すなわち図4において破線で示すR01,G0
5,R09,G13,R17の方向(矢印A方向)を所
定方向とし、この所定方向すなわち矢印A方向に直交す
る直交方向を矢印B方向とする。なお、ここでは画素位
置に付与された参照番号を信号値の参照番号としても使
用する。
G信号の算出処理について説明する。このG信号の算出
はG補間手段3において行われる。RおよびB画素位置
におけるG信号は、その画素位置周辺のG画素位置にお
いて得られるG信号に対して単純な補間演算を施すこと
により算出することができる。例えば図5において実線
で囲んだR09位置でのG09信号およびB10位置で
のG10信号は、破線で囲んだその周囲のG画素位置に
おけるG信号を用いて下記の式(1)、(2)により算
出される。
において得られるG信号に対して2次元のCubic スプラ
イン補間演算を施して、G信号を算出してもよい。これ
により、補間前にG信号が有する周波数成分を損なうこ
となく補間を行うことができ、この結果、全ての画素位
置において元の周波数情報を保持したG信号を得ること
ができる。また、補間演算の手法としては図4における
縦横2次元方向における補間演算であれば、いかなる手
法をも適用することができる。
いてR,G画素が並ぶライン(以下第1のラインとす
る)におけるG画素位置でのR信号の算出処理について
説明する。なお、これ以降の信号の算出処理はRB補間
手段4において行われる。このG画素位置におけるR信
号の算出処理は、そのG画素位置が含まれる第1のライ
ン上におけるR信号に対して1次元線形補間演算を施す
ことにより行われる。例えば、図6における実線で囲ん
だG05画素位置でのR05信号は、破線で囲んだ第1
のライン方向に隣接する2つのR画素位置におけるR0
1,R09信号を用いて下記の式(3)により算出され
る。
るG画素位置周辺の4点のR画素位置において得られる
R信号について1次元のCubic スプライン補間演算を施
して、R信号を算出してもよい。なおこの場合、R信号
値を算出するG画素位置をG13とすると4点のR画素
位置はR01,R09,R17,R25となる。また、
補間演算の手法としてはこの第1のライン方向における
1次元の補間演算であれば、いかなる手法をも適用する
ことができる。そしてこれにより第1のライン上のG画
素位置におけるR信号を算出することができる。
下第2のラインとする)におけるG画素位置でのR信号
の算出処理について説明する。このG画素位置における
R信号の算出処理は、以下のようにして行う。まず、R
信号を算出するG画素位置が含まれる第2のラインに隣
接する第1のライン上において、G画素位置に隣接する
画素位置を求める。例えば、ここでは図7に示す実線で
囲んだG06画素位置でのR06信号を算出するものと
すると、G06画素位置に隣接する画素位置は破線で囲
んだR09画素位置およびR03画素位置となるが、こ
こではR09画素位置における信号値を用いるものとす
る。そしてこのR09画素位置におけるR信号とG信号
との差を、第2のライン上のG画素位置におけるG信号
に加算し、その加算結果をG画素位置におけるR信号と
する。例えば、G06画素位置でのR06信号は下記の
式(4)により算出される。
号とG信号との差は等しいという前提により定められる
ものである。例えば、R09画素位置およびG06画素
位置でのR信号とG信号との差が等しいとは、 R06−G06=R09−G09 (5) の関係を満たすということであり、式(5)をR06信
号について解いたものが式(4)となる。なお、式
(4)においてG09信号は、上記式(1)により算出
されたものではなく、下記の式(6)に示す線形補間演
算や1次元Cubic スプライン補間演算のように、R09
画素位置が存在する第1のライン上におけるG信号に対
して1次元補間演算を施すことにより算出したものであ
る。
号とG信号との差は等しいという前提により信号値を算
出しており、信号値の算出に使用するのはG06画素位
置が存在する第2のラインと、R09画素位置が存在す
る第1のラインである。これは、第1および第2のライ
ン上にある画素値の相関関係に基づいて信号値を算出し
ているということであり、不明な信号値について第1お
よび第2のライン方向における信号値の変化を反映させ
て信号値を算出する必要がある。(2)の処理におい
て、第2のラインにおけるG06画素位置でのR06信
号は上記式(5)に示す関係に基づいて算出されるが、
G09信号が不明であるため、これを推定する必要があ
る。ここで、式(5)は第1および第2のライン間にお
ける相関関係を表しているため、G09信号を推定する
には、第1のライン上での所定方向(矢印A方向)の信
号値の変化を反映させる必要がある。一方、上記(1)
の方法により算出したG信号を使用することが考えられ
るが、このG信号は式(1)、(2)に示すように、別
のラインの信号値を用いて算出しているものであるた
め、第1のライン上における信号値の変化を反映したも
のではない。このため、第1のラインにおける信号値の
変化を反映させるために、式(6)のように第1のライ
ン上において1次元補間演算を行ってG09信号を算出
しているものである。
する画素位置におけるR信号とG信号との差に基づいて
G画素位置のR信号を算出しているが、片側にのみ隣接
する画素位置の信号値を用いたのでは、画像の位相がそ
の方向に近寄ってしまう。これを防止するために、下記
の式(7)に示すように、R信号を算出するG画素位置
(例えばG06画素位置)の両隣の画素位置(R09,
R03画素位置)におけるR信号とG信号との差の平均
値を、R信号を算出するG画素位置におけるG信号に加
算したものを、そのG画素位置におけるR信号としても
よい。
るR信号を算出することができる。
ンにおけるB画素位置でのR信号の算出処理について説
明する。このB画素位置におけるR信号の算出処理は、
以下のようにして行う。まず、R信号を算出するB画素
位置が含まれる第2のラインに隣接する第1のライン上
において、B画素位置に隣接する画素位置を求める。例
えば、ここでは図8に示す実線で囲んだB10画素位置
でのR10信号を算出するものとすると、B10画素位
置に隣接する画素位置は破線で囲んだG13画素位置お
よびG07画素位置となるが、ここではG13画素位置
における信号値を用いるものとする。そしてこのG13
画素位置におけるR信号とG信号との差を、第2のライ
ン上のB画素位置におけるG信号に加算し、その加算結
果をB画素位置におけるR信号とする。例えば、B10
画素位置でのR10信号は下記の式(8)により算出さ
れる。
所的な領域におけるR信号とG信号との差は等しいとい
う前提により定められるものである。例えば、B10画
素位置およびG13画素位置でのR信号とG信号との差
が等しいとは、 R10−G10=R13−G13 (9) の関係を満たすということであり、式(9)をR10信
号について解いたものが式(8)となる。なお、式
(9)においてG10信号は、上記式(1)により算出
されたものではなく、R信号を算出するために下記の式
(10)に示す線形補間演算や1次元Cubic スプライン
補間演算のように、B10画素位置が存在する第2のラ
イン上におけるG信号に対して1次元補間演算を施すこ
とにより算出したものである。
と同様に、G13画素位置が存在する第1のライン上に
おけるR信号に対して1次元補間演算を施すことにより
算出したものである。
2)に示すように、R信号を算出するB画素位置(例え
ばB10画素位置)の両隣の画素位置(G13,G07
画素位置)におけるR信号とG信号との差の平均値を、
R信号を算出するB画素位置におけるG信号に加算した
ものを、そのB画素位置におけるR信号としてもよい。
るR信号を算出することができる。
うことにより、R信号が存在しない全ての画素位置にお
けるR信号を算出することができる。
ついて説明したが、B,G画素が並ぶ第2のラインにお
けるG画素位置でのB信号、R,G画素が並ぶ第1のラ
インにおけるG画素位置でのB信号、R,G画素が並ぶ
第1のラインにおけるR画素位置でのB信号について
も、上記(2)から(4)の処理において説明したよう
にR信号と同様にして算出することができ、これにより
B信号が存在しない全ての画素位置におけるB信号を算
出することができる。
板CCD1においては画素配列を45度回転させると、
その画素配列は図2(b)に示すハニカム配列と空孔画
素位置*を除けば同様のものとなる。したがって、上記
の説明において、所定方向を図2における紙面上下方
向、所定方向に直交する方向を図2における紙面左右方
向とすることにより、ベイヤー配列の場合もハニカム配
列の場合と同様に、全画素位置におけるRGB信号を算
出することができる。
RGB全ての信号値QR,QG,QBが得られると、市
松正方補間手段5において、図3における空孔画素位置
*でのRGB信号値を補間演算により算出して、画素が
正方状に配列されてなる補間済み画像データS1を得
る。この補間演算は、図9に示すような空孔画素位置*
周辺の4画素位置の信号値を用いた補間フィルタや、図
10に示すように4×4画素についての2次元Cubicス
プライン補間演算を行う補間フィルタの補間係数の配置
を45度傾斜させた補間係数の配置を有する補間フィル
タを用いて補間演算を行うことにより求めることができ
る。なお、この空孔画素位置*における信号値を算出す
るための補間演算を市松正方補間演算とする。また、補
間演算についてはこれらに限定されるものではなく、上
述したように求められた各画素位置におけるRGB信号
をYCC輝度色差空間に変換し、YCC毎に異なる補間
フィルタによる補間演算を施す等、空孔画素位置*にお
ける信号値を算出するための補間演算であればいかなる
方法をも採用可能である。
明する。図11は第1の実施形態の動作を示すフローチ
ャートである。まず、被写体を撮影して単板CCD1に
おいて画像データS0を得る(ステップS1)。次い
で、G補間手段3において上記(1)の処理により、所
定方向におけるRまたはB画素位置におけるG信号QG
が算出される(ステップS2)。そして、算出する信号
をR信号にセットし(ステップS3)、RB補間手段4
において、上記(2)の処理により第1のラインにおけ
るG画素位置でのR信号QRが算出される(ステップS
4)。そして、上記(3)の処理による第2のラインに
おけるG画素位置でのR信号QRの算出(ステップS
5)および上記(4)の処理による第2のラインにおけ
るB画素位置でのR信号QRの算出(ステップS6)が
行われ、R,B全ての信号を算出したか否かが判断され
る(ステップS7)。ステップS7が否定された場合に
は、ステップS8において算出する信号をB信号にセッ
トし、ステップS4に戻ってステップS4からステップ
S7の処理を繰り返してB信号QBを算出する。
位置においてRGB信号QR,QG,QBが算出された
として、各画素の信号値に対して図9あるいは図10に
示す補間フィルタによる市松正方補間演算を行って、図
3に示す空孔画素位置*における信号値を市松正方補間
演算により算出し(ステップS9)、処理を終了する。
ニカム配列による単板CCD1の全画素位置におけるR
GB信号を得ることができ、各画素位置においてRGB
信号を有する補間済み画像データS1を得ることができ
る。
ップS3においては、算出する信号をR信号にセットし
ているが、先にB信号にセットしてもよい。この場合、
ステップS7が否定されるとステップS8において、算
出する信号がB信号からR信号に切り替えられることと
なる。
像の局所的な領域においては、RGB各信号値の差は一
定であるという前提に基づいて、各画素位置における信
号値を算出するようにしたため、単板CCD1において
得られた信号値が指数値や対数値により表されている場
合であっても、偽色を発生させることなく、全画素位置
における信号値を求めることができる。したがって、本
実施形態により、偽色のない高解像度の画像を再現可能
な補間済み画像データS1を得ることができる。
ては、所定方向(矢印A方向)について、式(6)、
(10)に示すように1次元補間演算を行って各画素位
置における信号値を求め、さらにこの信号値を用いて、
上記式(5)および式(9)に示すように矢印A方向に
直交する矢印B方向に隣接する画素位置でのG信号とR
信号との差、およびG信号とB信号との差が一定である
ということを前提として、さらに信号値を推定してい
る。したがって、上記方法によれば矢印A方向にRGB
各色の変化がそれほど大きくない画像領域における偽色
の発生を防止することができる。一方、矢印B方向を所
定方向とすれば、上記(1)から(4)の処理と同様の
処理により、右上から左下方向にRGB各色の変化がそ
れほど大きくない画像領域における偽色の発生を防止す
ることができる。しかしながら、上記矢印A,B方向の
うちいずれか一方の方向のみを信号値を算出するための
所定方向として処理を行ったのでは、この所定方向に各
色の変化が大きい場合には偽色を低減することができな
い。
る画像における画素値の変化量を各画素毎に検出し、画
素値の変化の方向に応じて信号値を算出するための所定
方向を矢印A方向および矢印B方向と切り替えて、全画
素位置におけるRGB各色の信号値を算出することによ
り、信号値の変化に拘わらず偽色の発生を防止すること
ができる。しかしながら、この方法では画素値が変化す
る境界部分において処理の方向が異なるものとなるた
め、アーチファクトが発生するおそれがある。以下、こ
れに対処するための方法を第2の実施形態として説明す
る。
像処理装置の構成を示す概略ブロック図である。図12
に示すように、第2の実施形態による画像処理装置は、
単板CCD1において得られた画像データS0に基づい
て、上記式(1)または式(2)によりR画素位置およ
びB画素位置でのG信号を算出するG補間手段11と、
図4に示す矢印A方向を所定方向として上記(2)から
(4)の処理により全画素位置でのR信号およびB信号
を算出する第1RB補間手段12と、矢印B方向を所定
方向として上記(2)から(4)の処理により全画素位
置でのR信号およびB信号を算出する第2RB補間手段
13と、第1および第2のRB補間手段12,13にお
いて得られたR信号およびB信号を重み付け加算する重
み付け加算手段14と、画像上における信号値の変動方
向の尺度を算出する変動方向尺度算出手段15と、全画
素位置におけるRGB信号から、空孔画素位置*での信
号値を算出する市松正方補間手段16とを備える。
び(2)に示すように、処理方向に拘わらず全ての画素
位置における信号値を算出することができるため、G補
間手段11においては図1に示すG補間手段3と同様
に、とくに処理の方向を考慮することなくG信号が算出
される。
第2のRB補間手段12,13において行われる処理
は、図1に示すRB補間手段4における処理と処理の方
向が異なるのみであり、第2の実施形態における市松正
方補間手段16において行われる処理は市松正方補間手
段5において行われる処理と同一であるため、ここでは
詳細な説明は省略する。
行われる処理について説明する。なお、第2の実施形態
においても上記第1の実施形態における図3に示すよう
にハニカム配列の単板CCD1を使用するものとし、各
画素位置に図13に示すように参照符号を付して説明す
る。なお、図13において、矢印A方向に延在するR
a,Ge,Ri,Gmのラインを第1のライン、同様に
矢印A方向に延在するBb,Gf,Bj,Gnのライン
を第2のライン、矢印B方向に延在するRc,Gf,R
i,Glのラインを第3のライン、同様に矢印B方向に
延在するBd,Gg,Bj,Gmのラインを第4のライ
ンとして説明する。また、以降の説明において、矢印A
方向について算出された信号には参照符号に(A)を付
し、矢印B方向について算出された信号には参照符号に
(B)を付するものとする。
記式(12)と同様に、下記の式(13)または(1
4)により求められた値となる。
向のライン(第2のライン)上におけるG信号に対して
1次元補間演算を行うことにより算出されたBj画素位
置でのG信号、信号値Gj(B)はBj画素位置が属する
矢印B方向のライン(第4のライン)上におけるG信号
に対して1次元補間演算を行うことにより算出されたB
j画素位置でのG信号である。また、信号値Rm(A)は
Gm画素位置が属する矢印A方向のライン(第1のライ
ン)上におけるR信号に対して1次元補間演算を行うこ
とにより算出されたGm画素位置でのR信号、信号値R
g(A)はGg画素位置が属する矢印A方向のライン上に
おけるR信号に対して1次元補間演算を行うことにより
算出されたGg画素位置でのR信号である。さらに、信
号値Rf(B)はGf画素位置が属する矢印B方向のライ
ン(第3のライン)上におけるR信号に対して1次元補
間演算を行うことにより算出されたGf画素位置でのR
信号、信号値Rn(B)はGn画素位置が属する矢印B方
向のライン上におけるR信号に対して1次元補間演算を
行うことにより算出されたGn画素位置でのR信号であ
る。
のRB補間手段12,13においてそれぞれ式(1
3)、(14)により算出された信号値Rj(A),Rj
(B)を重み付け加算することによりR信号を算出する。
変動方向尺度算出手段15はこの重み付け係数を変動方
向尺度Sjとして算出するものである。
(16)、(17)により算出することができる。
号値の変化を表し、SjhはBj画素位置の矢印B方向
における信号値の変化を表す。また、Sjの範囲は0≦
Sj≦1であり、矢印A方向において信号値の変動が少
ないほど0に近い値となる。
は、変動方向尺度Sjを使用して下記の式(18)によ
りR信号を重み付け加算して算出する。
付けがなされて、Bj画素位置のR信号が算出されるこ
ととなる。
(7)と同様に、下記の式(19)または(20)によ
り求められた値となる。
向のライン(第1のライン)上におけるG信号に対して
1次元補間演算を行うことにより算出されたRi画素位
置でのG信号、信号値Gc(A)はRc画素位置が属する
矢印A方向のライン上におけるG信号に対して1次元補
間演算を行うことにより算出されたRc画素位置でのG
信号である。Rf′はGf画素位置が属する矢印B方向
のライン上におけるR信号に対して1次元補間演算によ
り算出されたGf画素位置でのR信号である。
(21)、(22)、(23)により算出することがで
きる。
向のライン(第2のライン)上におけるB信号に対して
1次元補間演算を行うことにより得られたGf画素位置
でのB信号である。
向のライン上におけるR信号に対して1次元補間演算を
行うことにより得られたGf画素位置でのR信号であ
る。
において信号値の変動が少ないほど0に近い値となる。
は、変動方向尺度Sfを使用して下記の式(24)によ
りR信号を重み付け加算して算出する。
付けがなされて、Gf画素位置のR信号が算出されるこ
ととなる。
尺度が求められ、これにより矢印A,B方向について算
出したB信号を重み付け加算することにより算出され
る。
たR信号およびB信号は、G信号とともに市松正方補間
手段16において補間演算が施され、空孔画素位置*に
おける信号値が算出されて補間済み画像データS1とし
て出力される。
号値が変化する方向に応じて、矢印A方向および矢印B
方向について算出された信号値を重み付け加算して、各
画素位置におけるR信号およびB信号を算出するように
したため、信号値の変化に拘わらず偽色の発生を防止で
きるとともに、アーチファクトの発生をも防止すること
ができる。
D1として、G画素がR,B画素に対して倍の密度を有
するものについて説明したが、R画素がG,B画素に対
して、あるいはB画素がR,G画素に対して倍の密度を
有するものであってもよい。また、R,G,Bに対して
分光感度を有するものについて説明したが、単板CCD
1としてはこれに限定されるものではなく、Y(イエロ
ー)、G(グリーン)、C(シアン)に対して分光感度
を有するもの、あるいはY、W(ホワイト)、Cに対し
て分光感度を有するものであってもよい。
ての信号値を算出しているが、1色または2色のみの信
号値を算出するようにしてもよい。
説明する。図14は本発明の第3の実施形態による画像
処理装置の構成を示す概略ブロック図である。図14に
示すように、第3の実施形態による画像処理装置は、単
板CCD1において得られた画像データS0に対して処
理を施すものであり、画像データS0に対して補間処理
を施してR1,G1,B1の色信号からなる補間済み画
像データS1を得る第1の実施形態と同様の補間手段2
と、補間済み画像データS1をYCC変換して、補間済
み画像データS1の輝度情報および色差情報を表す推定
輝度信号Y0および推定色差信号Cb,Crを得るYC
C変換手段21と、画像データS0の高周波の輝度情報
を表す高周波輝度信号YHを作成する高周波輝度信号作
成手段22と、高周波輝度信号YHと推定輝度信号Y0
とを加算して加算輝度信号Y1を得る加算手段23と、
加算輝度信号Y1および色差信号Cb,CrをRGB変
換してR2,G2,B2の色信号からなる処理済み画像
データS2を得るRGB変換手段24とを備える。
〜(27)に示すように、補間済み画像データS1を推
定輝度信号Y0および推定色差信号Cb,Crに変換す
る。
成する色信号高周波輝度信号作成手段22は、画像デー
タS0を構成する各画素位置のR,G,B各信号値をそ
のまま輝度信号とし、この輝度信号に対して推定輝度信
号Y0に相当する周波数成分をカットするハイパスフィ
ルタによるフィルタリング処理を施す方法により、画像
データS0の高周波の輝度情報を表す高周波輝度信号Y
Hを得る。なお、高周波輝度信号YHを得るための方法
としては、R,G,B各信号値に対してハイパスフィル
タによるフィルタリング処理を施した後、上記式(2
5)により輝度信号を得る方法(特開平5−22810
8号)、R,G,B各信号値に対して上記式(25)に
より輝度信号を得、この輝度信号に対してハイパスフィ
ルタによるフィルタリング処理を施す方法(同6−30
444号)、画像データからフィールド間YC分離処理
の技術により高周波輝度信号を抽出する方法(同6−2
25343号)、R,G,B各信号値に対して上記式
(25)により輝度信号を得、この輝度信号に対してガ
ンマ補正処理を施した後ハイパスフィルタによるフィル
タリング処理を施す方法(同8−9199号)等を採用
することができる。
および色差信号Cb,Crについて、上記式(25)か
ら(27)を逆に解くことにより、処理済み画像データ
S2を構成する色信号R2,G2,B2を得る。
R,G,Bの比率が、画像データS0により表される画
像上の位置により急激に変化しないと仮定すると、画像
データS0を構成する各画素位置のR,G,B各信号値
をそのまま輝度信号とし、この輝度信号に対して推定輝
度信号Y0に相当する周波数成分をカットするハイパス
フィルタによるフィルタリング処理を施すことにより得
られた高周波輝度信号YHは、画像データS0により表
される画像の高周波成分を忠実に表すものとなる。した
がって、画像データS0により表される画像が無彩色で
ある場合、またはR,G,B信号値の比率の変化が小さ
い場合には、加算輝度信号Y1を用いて処理済み画像デ
ータS2を得ることにより、処理済み画像データS2に
より表される処理済み画像の解像度を向上させることが
できる。
れる画像が有彩色であり、かつR,G,B信号値の比率
の変化が大きい場合には、高周波輝度信号YHに偽信号
が発生し、処理済み画像にグレイのノイズが現れてしま
う。したがって、このような場合には、このグレイのノ
イズ成分に対応する周波数帯域の周波数成分をカットす
るバンドパスフィルタを用いて、処理済み画像の解像度
と偽信号とのバランスに応じて高周波輝度信号を作成す
ることにより、グレイのノイズを低減できるとともに、
画像の解像度をも向上させることができる。
明する。図15は、第3の実施形態の動作を示すフロー
チャートである。まず、被写体を撮影して単板CCD1
において画像データS0を得る(ステップS11)。次
いで、補間手段2において上記第1または第2の実施形
態と同様に補間演算が行われて補間済み画像データS1
が得られる(ステップS12)。補間済み画像データS
1はYCC変換手段21においてYCC変換されて、推
定輝度信号Y0および推定色差信号Cb,Crが得られ
る(ステップS13)。一方、高周波輝度信号作成手段
22において画像データS0の高周波輝度信号YHが作
成される(ステップS14)。なお、ステップS14の
処理をステップS12,S13の処理より先に行っても
よく、これらの処理を並列に行ってもよい。
度信号YHと推定輝度信号Y0とが加算されて加算輝度
信号Y1が得られる(ステップS15)。加算輝度信号
Y1は推定色差信号Cb,CrとともにRGB色信号に
変換されて処理済み画像データS2が得られ(ステップ
S16)、処理を終了する。
像の高周波成分を忠実に表す高周波輝度信号YHと、偽
色が低減された補間済み画像データS1から得られた推
定輝度信号Y0とを加算することにより得られた加算輝
度信号Y1は、シーンの高周波成分を忠実に表すととも
に、低周波成分についても偽色が低減されたものとな
る。したがって、第3の実施形態のように、加算輝度信
号Y1と推定色差信号Cb,Crとに基づいて処理済み
画像データS2を得ることにより、偽色がなくかつより
高解像度の処理済み画像を得ることができる。
CD1において得られた画像データS0に対して処理を
施しているが、図2(a)あるいは図2(b)に示すよ
うな画素配列を有する画像を表す画像データであれば、
いかなる態様にて取得した画像データに対しても同様に
処理を施すことができる。
構成を示す概略ブロック図
番号を付して示す図
の構成を示す概略ブロック図
照符号を付して示す図
の構成を示す概略ブロック図
て示す図
Claims (54)
- 【請求項1】 異なる分光分布を有する第1から第3
の信号値を有する第1から第3の画素からなる画像を表
す画像データであって、前記第1および前記第2の画素
が所定方向に交互に配置されて第1ラインが形成され、
前記第1および前記第3の画素が前記所定方向に交互に
配置されて第2ラインが形成され、さらに前記第1およ
び前記第2ラインが前記所定方向と略直交する方向に交
互に配置されてなる画像を表す画像データの、前記第1
から第3信号値に基づいて、全画素位置における前記第
1から第3信号値のうち少なくとも1つの信号値を推定
する画像処理方法において、 前記第2ラインにおける前記第2信号値を、該第2ライ
ンに隣接する前記第1ラインにおける前記第1および前
記第2信号値の差分値に基づいて推定することを特徴と
する画像処理方法。 - 【請求項2】 前記第2ラインの前記第1画素におけ
る第2信号値を、前記第1ラインの該第1画素近傍の前
記第2画素における第2信号値と、前記第1ライン上に
おける前記第1信号値に対して1次元補間演算を施すこ
とにより算出した前記第2画素における前記第1信号値
との差分値に基づいて推定することを特徴とする請求項
1記載の画像処理方法。 - 【請求項3】 前記第2ラインの前記第1画素におけ
る第1信号値に前記差分値を加算することにより、前記
第2ラインの前記第1画素における第2信号値を推定す
ることを特徴とする請求項2記載の画像処理方法。 - 【請求項4】 前記第2ラインの前記第3画素におけ
る第2信号値を、前記第1ラインの該第3画素近傍の前
記第1画素における第1信号値と、前記第1ライン上に
おける前記第2信号値に対して1次元補間演算を施すこ
とにより算出した前記第1画素における前記第2信号値
との差分値に基づいて推定することを特徴とする請求項
1から3のいずれか1項記載の画像処理方法。 - 【請求項5】 前記第2ラインの前記第3画素位置に
おける第1信号値を、該第2ライン上における前記第1
信号値に対して1次元補間演算を施すことにより算出
し、 該算出された第1信号値に前記差分値を加算することに
より前記第2ラインの前記第3画素位置における第2信
号値を推定することを特徴とする請求項4記載の画像処
理方法。 - 【請求項6】 前記差分値は、前記第2ラインに隣接
する2つの前記第1ラインにおける前記差分値の平均値
であることを特徴とする請求項2から5のいずれか1項
記載の画像処理方法。 - 【請求項7】 前記第1ラインにおける前記第3信号
値を、該第1ラインに隣接する前記第2ラインにおける
前記第1および前記第3信号値の差分値に基づいて推定
することを特徴とする請求項1から6のいずれか1項記
載の画像処理方法。 - 【請求項8】 前記第1ラインの前記第1画素におけ
る第3信号値を、前記第2ラインの該第1画素近傍の前
記第3画素における第3信号値と、前記第2ライン上に
おける前記第1信号値に対して1次元補間演算を施すこ
とにより算出した前記第3画素における前記第1信号値
との差分値に基づいて推定することを特徴とする請求項
7記載の画像処理方法。 - 【請求項9】 前記第1ラインの前記第1画素におけ
る第1信号値に前記差分値を加算することにより前記第
1ラインの前記第1画素位置における第3信号値を推定
することを特徴とする請求項8記載の画像処理方法。 - 【請求項10】 前記第1ラインの前記第2画素にお
ける第3信号値を、前記第2ラインの該第2画素近傍の
前記第1画素における第1信号値と、前記第2ライン上
における前記第3信号値に対して1次元補間演算を施す
ことにより算出した前記第1画素における前記第3信号
値との差分値に基づいて推定することを特徴とする請求
項7から9のいずれか1項記載の画像処理方法。 - 【請求項11】 前記第1ラインの前記第2画素にお
ける第1信号値を、該第1ライン上における前記第1信
号値に対して1次元補間演算を施すことにより算出し、 該算出された第1信号値に前記差分値を加算することに
より前記第1ラインの前記第2画素における第3信号値
を推定することを特徴とする請求項10記載の画像処理
方法。 - 【請求項12】 前記差分値は、前記第1ラインに隣
接する2つの前記第2ラインにおける前記差分値の平均
値であることを特徴とする請求項8から11のいずれか
1項記載の画像処理方法。 - 【請求項13】 前記画像データにより表される画像
の前記所定方向と直交する直交方向において、前記第1
および前記第2画素が交互に、かつ前記第1および前記
第3画素が交互に配置されて、前記直交方向における前
記第1ラインおよび前記第2ラインを形成してなる場
合、 信号値を推定する画素位置に応じて、前記所定方向にお
ける前記第1および前記第2ラインと、前記直交方向に
おける前記第1および前記第2ラインとを切り替えて、
前記第1から第3信号値のうち少なくとも1つの信号値
を推定することを特徴とする請求項1から12のいずれ
か1項記載の画像処理方法。 - 【請求項14】 前記切り替えを、前記信号値を推定
する画素位置における信号値の変化方向を表す尺度値に
基づいて行うことを特徴とする請求項13記載の画像処
理方法。 - 【請求項15】 前記画像データにより表される画像
の前記所定方向と直交する直交方向において、前記第1
および前記第2画素が交互に、かつ前記第1および前記
第3画素が交互に配置されて、前記直交方向における前
記第1ラインおよび前記第2ラインを形成してなる場
合、 前記所定方向における前記第1および前記第2ラインに
基づく所定方向推定値、および前記直交方向における前
記第1および前記第2ラインに基づく直交方向推定値を
算出し、 信号値を推定する画素位置に応じて、前記所定方向推定
値および前記直交方向推定値を所定の重み付け係数によ
り重み付け加算して、前記第1から第3信号値のうち少
なくとも1つの信号値を推定することを特徴とする請求
項1から12のいずれか1項記載の画像処理方法。 - 【請求項16】 前記所定の重み付け係数が、前記信
号値を推定する画素位置における信号値の変化方向を表
す尺度値に基づいて算出されたものであることを特徴と
する請求項15記載の画像処理方法。 - 【請求項17】 前記第1ラインの画素配列が、前記
第2ラインの画素配列に対して前記所定方向に略1/2
画素相対的にずれることにより、前記画像データにより
表される画像の前記第1から第3画素が市松状に配列さ
れてなることを特徴とする請求項1から16のいずれか
1項記載の画像処理方法。 - 【請求項18】 全ての画素位置における信号値を推
定するとともに、該推定された信号値に基づいて、空孔
画素位置における信号値を推定することを特徴とする請
求項17記載の画像処理方法。 - 【請求項19】 前記第1から前記第3の信号値が、
それぞれG、B、Rのいずれかの色信号であることを特
徴とする請求項1から18のいずれか1項記載の画像処
理方法。 - 【請求項20】 前記第1から前記第3の信号値が、
それぞれY、G、Cのいずれかの色信号であることを特
徴とする請求項1から18のいずれか1項記載の画像処
理方法。 - 【請求項21】 前記画像データが、異なる分光感度
を有する第1から第3の光電変換素子を単一面上に配置
して撮像面が形成された撮像デバイスであって、前記第
1および前記第2の光電変換素子を所定方向に交互に配
置して第1ラインを形成し、前記第1および前記第3の
光電変換素子を前記所定方向に交互に配置して第2ライ
ンを形成し、さらに前記第1および前記第2ラインを前
記所定方向と略直交する方向に交互に配置することによ
り、前記撮像面が形成された撮像デバイスにおいて得ら
れたものであることを特徴とする請求項1から21のい
ずれか1項記載の画像処理方法。 - 【請求項22】 異なる分光分布を有する第1から第
3の信号値を有する第1から第3の画素からなる画像を
表す画像データであって、前記第1および前記第2の画
素が所定方向に交互に配置されて第1ラインが形成さ
れ、前記第1および前記第3の画素が前記所定方向に交
互に配置されて第2ラインが形成され、さらに前記第1
および前記第2ラインが前記所定方向と略直交する方向
に交互に配置されてなる画像を表す画像データに対して
画像処理を施す画像処理方法において、 請求項1から21のいずれか1項記載の画像処理方法に
より、前記画像データにより表される画像の全画素位置
における前記第1から第3信号値のうち少なくとも1つ
の信号値を推定して推定画像データを得、 前記画像データの高周波の輝度情報を表す高周波輝度信
号を作成し、 前記推定画像データを該推定画像データの輝度情報およ
び色差情報を表す推定輝度信号および推定色差信号に変
換し、 前記推定輝度信号と前記高周波輝度信号とを加算して加
算輝度信号を得、 該加算輝度信号および前記推定色差信号を前記画像デー
タの輝度色差信号とすることを特徴とする画像処理方
法。 - 【請求項23】 前記画像データに対して、前記推定
輝度信号の周波数帯域の周波数成分をカットするハイパ
スフィルタによるフィルタリング処理を施すことによ
り、前記高周波輝度信号を作成することを特徴とする請
求項22記載の画像処理方法。 - 【請求項24】 前記画像データに対して、所定の通
過帯域特性を有するバンドパスフィルタによるフィルタ
リング処理を施すことにより、前記高周波輝度信号を作
成することを特徴とする請求項22記載の画像処理方
法。 - 【請求項25】 異なる分光分布を有する第1から第
3の信号値を有する第1から第3の画素からなる画像を
表す画像データであって、前記第1および前記第2の画
素が所定方向に交互に配置されて第1ラインが形成さ
れ、前記第1および前記第3の画素が前記所定方向に交
互に配置されて第2ラインが形成され、さらに前記第1
および前記第2ラインが前記所定方向と略直交する方向
に交互に配置されてなる画像を表す画像データの、前記
第1から第3信号値に基づいて、全画素位置における前
記第1から第3信号値のうち少なくとも1つの信号値を
推定する推定手段を備えた画像処理装置において、 前記推定手段は、前記第2ラインにおける前記第2信号
値を、該第2ラインに隣接する前記第1ラインにおける
前記第1および前記第2信号値の差分値に基づいて推定
する手段であることを特徴とする画像処理装置。 - 【請求項26】 前記推定手段は、前記第2ラインの
前記第1画素における第2信号値を、前記第1ラインの
該第1画素近傍の前記第2画素における第2信号値と、
前記第1ライン上における前記第1信号値に対して1次
元補間演算を施すことにより算出した前記第2画素にお
ける前記第1信号値との差分値に基づいて推定する手段
であることを特徴とする請求項25記載の画像処理装
置。 - 【請求項27】 前記推定手段は、前記第2ラインの
前記第3画素における第2信号値を、前記第1ラインの
該第3画素近傍の前記第1画素における第1信号値と、
前記第1ライン上における前記第2信号値に対して1次
元補間演算を施すことにより算出した前記第1画素にお
ける前記第2信号値との差分値に基づいて推定する手段
であることを特徴とする請求項25または26記載の画
像処理装置。 - 【請求項28】 前記推定手段は、前記第1ラインに
おける前記第3信号値を、該第1ラインに隣接する前記
第2ラインにおける前記第1および前記第3信号値の差
分値に基づいて推定する手段であることを特徴とする請
求項25から27のいずれか1項記載の画像処理装置。 - 【請求項29】 前記推定手段は、前記第1ラインの
前記第1画素における第3信号値を、前記第2ラインの
該第1画素近傍の前記第3画素における第3信号値と、
前記第2ライン上における前記第1信号値に対して1次
元補間演算を施すことにより算出した前記第3画素にお
ける前記第1信号値との差分値に基づいて推定する手段
であることを特徴とする請求項28記載の画像処理装
置。 - 【請求項30】 前記推定手段は、前記第1ラインの
前記第2画素における第3信号値を、前記第2ラインの
該第2画素近傍の前記第1画素における第1信号値と、
前記第2ライン上における前記第3信号値に対して1次
元補間演算を施すことにより算出した前記第1画素にお
ける前記第3信号値との差分値に基づいて推定する手段
であることを特徴とする請求項28または29記載の画
像処理装置。 - 【請求項31】 前記画像データにより表される画像
の前記所定方向と直交する直交方向において、前記第1
および前記第2画素が交互に、かつ前記第1および前記
第3画素が交互に配置されて、前記直交方向における前
記第1ラインおよび前記第2ラインを形成してなる場
合、 前記推定手段は、信号値を推定する画素位置に応じて、
前記所定方向における前記第1および前記第2ライン
と、前記直交方向における前記第1および前記第2ライ
ンとを切り替えて、前記第1から第3信号値のうち少な
くとも1つの信号値を推定する手段を備えたことを特徴
とする請求項25から30のいずれか1項記載の画像処
理装置。 - 【請求項32】 前記画像データにより表される画像
の前記所定方向と直交する直交方向において、前記第1
および前記第2画素が交互に、かつ前記第1および前記
第3画素が交互に配置されて、前記直交方向における前
記第1ラインおよび前記第2ラインを形成してなる場
合、 前記推定手段は、前記所定方向における前記第1および
前記第2ラインに基づく所定方向推定値、および前記直
交方向における前記第1および前記第2ラインに基づく
直交方向推定値を算出する手段と、 信号値を推定する画素位置に応じて、前記所定方向推定
値および前記直交方向推定値を所定の重み付け係数によ
り重み付け加算して、前記第1から第3信号値のうち少
なくとも1つの信号値を推定する手段とを備えたことを
特徴とする請求項25から30のいずれか1項記載の画
像処理装置。 - 【請求項33】 前記第1ラインの画素配列が、前記
第2ラインの画素配列に対して前記所定方向に略1/2
画素相対的にずれることにより、前記画像データにより
表される画像の前記第1から第3画素が市松状に配列さ
れてなることを特徴とする請求項25から32のいずれ
か1項記載の画像処理装置。 - 【請求項34】 前記推定手段は、全ての画素位置に
おける信号値を推定するとともに、該推定された信号値
に基づいて、空孔画素位置における信号値を推定する手
段であることを特徴とする請求項33記載の画像処理装
置。 - 【請求項35】 前記画像データが、異なる分光感度
を有する第1から第3の光電変換素子を単一面上に配置
して撮像面が形成された撮像デバイスであって、前記第
1および前記第2の光電変換素子を所定方向に交互に配
置して第1ラインを形成し、前記第1および前記第3の
光電変換素子を前記所定方向に交互に配置して第2ライ
ンを形成し、さらに前記第1および前記第2ラインを前
記所定方向と略直交する方向に交互に配置することによ
り、前記撮像面が形成された撮像デバイスにおいて得ら
れたものであることを特徴とする請求項25から34の
いずれか1項記載の画像処理装置。 - 【請求項36】 異なる分光分布を有する第1から第
3の信号値を有する第1から第3の画素からなる画像を
表す画像データであって、前記第1および前記第2の画
素が所定方向に交互に配置されて第1ラインが形成さ
れ、前記第1および前記第3の画素が前記所定方向に交
互に配置されて第2ラインが形成され、さらに前記第1
および前記第2ラインが前記所定方向と略直交する方向
に交互に配置されてなる画像を表す画像データに対して
画像処理を施す画像処理装置において、 請求項25から35のいずれか1項記載の画像処理装置
により、前記画像データにより表される画像の全画素位
置における前記第1から第3信号値のうち少なくとも1
つの信号値を推定して推定画像データを得る補間手段
と、 前記画像データの高周波の輝度情報を表す高周波輝度信
号を作成する高周波輝度信号作成手段と、 前記推定画像データを該推定画像データの輝度情報およ
び色差情報を表す推定輝度信号および推定色差信号に変
換する輝度色差変換手段と、 前記推定輝度信号と前記高周波輝度信号とを加算して加
算輝度信号を得る加算手段とを備え、 該加算輝度信号および前記推定色差信号を前記画像デー
タの輝度色差信号とすることを特徴とする画像処理装
置。 - 【請求項37】 前記高周波輝度信号作成手段は、前
記画像データに対して、前記推定輝度信号の周波数帯域
の周波数成分をカットするハイパスフィルタによるフィ
ルタリング処理を施すことにより、前記高周波輝度信号
を作成する手段であることを特徴とする請求項36記載
の画像処理装置。 - 【請求項38】 前記高周波輝度信号作成手段は、前
記画像データに対して、所定の通過帯域特性を有するバ
ンドパスフィルタによるフィルタリング処理を施すこと
により、前記高周波輝度信号を作成する手段であること
を特徴とする請求項36記載の画像処理装置。 - 【請求項39】 異なる分光分布を有する第1から第
3の信号値を有する第1から第3の画素からなる画像を
表す画像データであって、前記第1および前記第2の画
素が所定方向に交互に配置されて第1ラインが形成さ
れ、前記第1および前記第3の画素が前記所定方向に交
互に配置されて第2ラインが形成され、さらに前記第1
および前記第2ラインが前記所定方向と略直交する方向
に交互に配置されてなる画像を表す画像データの、前記
第1から第3信号値に基づいて、全画素位置における前
記第1から第3信号値のうち少なくとも1つの信号値を
推定する画像処理方法をコンピュータに実行させるため
のプログラムを記録したコンピュータ読取り可能な記録
媒体において、 前記プログラムは、前記第2ラインにおける前記第2信
号値を、該第2ラインに隣接する前記第1ラインにおけ
る前記第1および前記第2信号値の差分値に基づいて推
定する手順を有することを特徴とするコンピュータ読取
り可能な記録媒体。 - 【請求項40】 前記推定する手順は、前記第2ライ
ンの前記第1画素における第2信号値を、前記第1ライ
ンの該第1画素近傍の前記第2画素における第2信号値
と、前記第1ライン上における前記第1信号値に対して
1次元補間演算を施すことにより算出した前記第2画素
における前記第1信号値との差分値に基づいて推定する
手順であることを特徴とする請求項39記載のコンピュ
ータ読取り可能な記録媒体。 - 【請求項41】 前記推定する手順は、前記第2ライ
ンの前記第3画素における第2信号値を、前記第1ライ
ンの該第3画素近傍の前記第1画素における第1信号値
と、前記第1ライン上における前記第2信号値に対して
1次元補間演算を施すことにより算出した前記第1画素
における前記第2信号値との差分値に基づいて推定する
手順であることを特徴とする請求項39または40記載
のコンピュータ読取り可能な記録媒体。 - 【請求項42】 前記推定する手順は、前記第1ライ
ンにおける前記第3信号値を、該第1ラインに隣接する
前記第2ラインにおける前記第1および前記第3信号値
の差分値に基づいて推定する手順であることを特徴とす
る請求項39から41のいずれか1項記載のコンピュー
タ読取り可能な記録媒体。 - 【請求項43】 前記推定する手順は、前記第1ライ
ンの前記第1画素における第3信号値を、前記第2ライ
ンの該第1画素近傍の前記第3画素における第3信号値
と、前記第2ライン上における前記第1信号値に対して
1次元補間演算を施すことにより算出した前記第3画素
における前記第1信号値との差分値に基づいて推定する
手順であることを特徴とする請求項42記載のコンピュ
ータ読取り可能な記録媒体。 - 【請求項44】 前記推定する手順は、前記第1ライ
ンの前記第2画素における第3信号値を、前記第2ライ
ンの該第2画素近傍の前記第1画素における第1信号値
と、前記第2ライン上における前記第3信号値に対して
1次元補間演算を施すことにより算出した前記第1画素
における前記第3信号値との差分値に基づいて推定する
手順であることを特徴とする請求項42または43記載
のコンピュータ読取り可能な記録媒体。 - 【請求項45】 前記画像データにより表される画像
の前記所定方向と直交する直交方向において、前記第1
および前記第2画素が交互に、かつ前記第1および前記
第3画素が交互に配置されて、前記直交方向における前
記第1ラインおよび前記第2ラインを形成してなる場
合、 前記推定する手順は、信号値を推定する画素位置に応じ
て、前記所定方向における前記第1および前記第2ライ
ンと、前記直交方向における前記第1および前記第2ラ
インとを切り替えて、前記第1から第3信号値のうち少
なくとも1つの信号値を推定する手順を有することを特
徴とする請求項39から44のいずれか1項記載のコン
ピュータ読取り可能な記録媒体。 - 【請求項46】 前記画像データにより表される画像
の前記所定方向と直交する直交方向において、前記第1
および前記第2画素が交互に、かつ前記第1および前記
第3画素が交互に配置されて、前記直交方向における前
記第1ラインおよび前記第2ラインを形成してなる場
合、 前記推定する手順は、前記所定方向における前記第1お
よび前記第2ラインに基づく所定方向推定値、および前
記直交方向における前記第1および前記第2ラインに基
づく直交方向推定値を算出する手順と、 信号値を推定する画素位置に応じて、前記所定方向推定
値および前記直交方向推定値を所定の重み付け係数によ
り重み付け加算して、前記第1から第3信号値のうち少
なくとも1つの信号値を推定する手順とを有することを
特徴とする請求項39から44のいずれか1項記載のコ
ンピュータ読取り可能な記録媒体。 - 【請求項47】 前記第1ラインの画素配列が、前記
第2ラインの画素配列に対して前記所定方向に略1/2
画素相対的にずれることにより、前記画像データにより
表される画像の前記第1から第3画素が市松状に配列さ
れてなることを特徴とする請求項39から46のいずれ
か1項記載のコンピュータ読取り可能な記録媒体。 - 【請求項48】 前記推定する手順は、全ての画素位
置における信号値を推定するとともに、該推定された信
号値に基づいて、空孔画素位置における信号値を推定す
る手順を有することを特徴とする請求項47記載のコン
ピュータ読取り可能な記録媒体。 - 【請求項49】 前記画像データが、異なる分光感度
を有する第1から第3の光電変換素子を単一面上に配置
して撮像面が形成された撮像デバイスであって、前記第
1および前記第2の光電変換素子を所定方向に交互に配
置して第1ラインを形成し、前記第1および前記第3の
光電変換素子を前記所定方向に交互に配置して第2ライ
ンを形成し、さらに前記第1および前記第2ラインを前
記所定方向と略直交する方向に交互に配置することによ
り、前記撮像面が形成された撮像デバイスにおいて得ら
れたものであることを特徴とする請求項39から48の
いずれか1項記載のコンピュータ読取り可能な記録媒
体。 - 【請求項50】 異なる分光分布を有する第1から第
3の信号値を有する第1から第3の画素からなる画像を
表す画像データであって、前記第1および前記第2の画
素が所定方向に交互に配置されて第1ラインが形成さ
れ、前記第1および前記第3の画素が前記所定方向に交
互に配置されて第2ラインが形成され、さらに前記第1
および前記第2ラインが前記所定方向と略直交する方向
に交互に配置されてなる画像を表す画像データに対して
画像処理を施す画像処理方法をコンピュータに実行させ
るためのプログラムを記録したコンピュータ読取り可能
な記録媒体において、 前記プログラムは、請求項1から21のいずれか1項記
載の画像処理方法により、前記画像データにより表され
る画像の全画素位置における前記第1から第3信号値の
うち少なくとも1つの信号値を推定して推定画像データ
を得る手順と、前記画像データの高周波の輝度情報を表
す高周波輝度信号を作成する手順と、前記推定画像デー
タを該推定画像データの輝度情報および色差情報を表す
推定輝度信号および推定色差信号に変換するする手順
と、 前記推定輝度信号と前記高周波輝度信号とを加算して加
算輝度信号を得る手順とを有し、 該加算輝度信号および前記推定色差信号を前記画像デー
タの輝度色差信号とすることを特徴とするコンピュータ
読取り可能な記録媒体。 - 【請求項51】 前記高周波輝度信号を作成する手順
は、前記画像データに対して、前記推定輝度信号の周波
数帯域の周波数成分をカットするハイパスフィルタによ
るフィルタリング処理を施すことにより、前記高周波輝
度信号を作成する手順であることを特徴とする請求項5
0記載のコンピュータ読取り可能な記録媒体。 - 【請求項52】 前記高周波輝度信号を作成する手順
は、前記画像データに対して、所定の通過帯域特性を有
するバンドパスフィルタによるフィルタリング処理を施
すことにより、前記高周波輝度信号を作成することを特
徴とする請求項50記載のコンピュータ読取り可能な記
録媒体。 - 【請求項53】 請求項25から38のいずれか1項
記載の画像処理装置を備えたことを特徴とする撮像装
置。 - 【請求項54】 請求項25から38のいずれか1項
記載の画像処理装置を備えたことを特徴とする出力装
置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000155621A JP4162111B2 (ja) | 1999-07-27 | 2000-05-26 | 画像処理方法および装置並びに記録媒体 |
US09/627,244 US6724932B1 (en) | 1999-07-27 | 2000-07-27 | Image processing method, image processor, and storage medium |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP21220299 | 1999-07-27 | ||
JP11-212202 | 1999-07-27 | ||
JP2000155621A JP4162111B2 (ja) | 1999-07-27 | 2000-05-26 | 画像処理方法および装置並びに記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001101398A true JP2001101398A (ja) | 2001-04-13 |
JP4162111B2 JP4162111B2 (ja) | 2008-10-08 |
Family
ID=26519071
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000155621A Expired - Fee Related JP4162111B2 (ja) | 1999-07-27 | 2000-05-26 | 画像処理方法および装置並びに記録媒体 |
Country Status (2)
Country | Link |
---|---|
US (1) | US6724932B1 (ja) |
JP (1) | JP4162111B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006074360A (ja) * | 2004-09-01 | 2006-03-16 | Fuji Photo Film Co Ltd | 撮像装置及び信号処理方法 |
EP2034469A1 (en) | 2001-09-13 | 2009-03-11 | Seiko Epson Corporation | Organic electroluminescent display device |
US8199230B2 (en) | 2007-06-28 | 2012-06-12 | Fujifilm Corporation | Signal processing apparatus, image pickup apparatus and computer readable medium |
Families Citing this family (42)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6836289B2 (en) * | 1999-12-20 | 2004-12-28 | Texas Instruments Incorporated | Digital still camera architecture with red and blue interpolation using green as weighting factors |
JP2001203969A (ja) * | 2000-01-21 | 2001-07-27 | Fuji Photo Film Co Ltd | 撮像装置およびその動作制御方法 |
JP4423452B2 (ja) * | 2000-12-27 | 2010-03-03 | 富士フイルム株式会社 | 固体撮像装置 |
US20030063095A1 (en) * | 2000-12-29 | 2003-04-03 | Sun Microsystems, Inc. | Statistic logic for collecting a histogram of pixel exponent values |
JP4703029B2 (ja) * | 2001-05-14 | 2011-06-15 | 三菱電機株式会社 | 画像表示システム及び画像表示方法 |
JP4657564B2 (ja) * | 2002-04-30 | 2011-03-23 | イーストマン コダック カンパニー | 電子スチルカメラ及び画像処理方法 |
US8471852B1 (en) | 2003-05-30 | 2013-06-25 | Nvidia Corporation | Method and system for tessellation of subdivision surfaces |
EP1594321A3 (en) * | 2004-05-07 | 2006-01-25 | Dialog Semiconductor GmbH | Extended dynamic range in color imagers |
DE102004025645A1 (de) * | 2004-05-24 | 2005-12-29 | Jenoptik Laser, Optik, Systeme Gmbh | Verfahren zur Reduzierung von Farbmoire in digitalen Bildern |
US8571346B2 (en) | 2005-10-26 | 2013-10-29 | Nvidia Corporation | Methods and devices for defective pixel detection |
US7885458B1 (en) | 2005-10-27 | 2011-02-08 | Nvidia Corporation | Illuminant estimation using gamut mapping and scene classification |
US7750956B2 (en) * | 2005-11-09 | 2010-07-06 | Nvidia Corporation | Using a graphics processing unit to correct video and audio data |
US8588542B1 (en) | 2005-12-13 | 2013-11-19 | Nvidia Corporation | Configurable and compact pixel processing apparatus |
US8737832B1 (en) * | 2006-02-10 | 2014-05-27 | Nvidia Corporation | Flicker band automated detection system and method |
JP4548390B2 (ja) * | 2006-06-16 | 2010-09-22 | ソニー株式会社 | 撮像装置及び信号処理方法 |
US8594441B1 (en) | 2006-09-12 | 2013-11-26 | Nvidia Corporation | Compressing image-based data using luminance |
EP1887515B1 (en) * | 2007-02-27 | 2011-12-28 | Phase One A/S | Colour binning of a digital image |
US7929807B2 (en) * | 2007-02-27 | 2011-04-19 | Phase One A/S | Colour binning of a digital image to reduce the image resolution |
US8723969B2 (en) * | 2007-03-20 | 2014-05-13 | Nvidia Corporation | Compensating for undesirable camera shakes during video capture |
US8564687B2 (en) * | 2007-05-07 | 2013-10-22 | Nvidia Corporation | Efficient determination of an illuminant of a scene |
US8698917B2 (en) * | 2007-06-04 | 2014-04-15 | Nvidia Corporation | Reducing computational complexity in determining an illuminant of a scene |
JP4914303B2 (ja) * | 2007-07-13 | 2012-04-11 | シリコン ヒフェ ベー.フェー. | 画像処理装置及び撮像装置、画像処理方法及び撮像方法、画像処理プログラム |
US8724895B2 (en) * | 2007-07-23 | 2014-05-13 | Nvidia Corporation | Techniques for reducing color artifacts in digital images |
US20090051984A1 (en) * | 2007-08-23 | 2009-02-26 | O'brien Michele | Image sensor having checkerboard pattern |
US8570634B2 (en) * | 2007-10-11 | 2013-10-29 | Nvidia Corporation | Image processing of an incoming light field using a spatial light modulator |
US8780128B2 (en) | 2007-12-17 | 2014-07-15 | Nvidia Corporation | Contiguously packed data |
US9177368B2 (en) | 2007-12-17 | 2015-11-03 | Nvidia Corporation | Image distortion correction |
US8698908B2 (en) | 2008-02-11 | 2014-04-15 | Nvidia Corporation | Efficient method for reducing noise and blur in a composite still image from a rolling shutter camera |
US9379156B2 (en) * | 2008-04-10 | 2016-06-28 | Nvidia Corporation | Per-channel image intensity correction |
US8373718B2 (en) | 2008-12-10 | 2013-02-12 | Nvidia Corporation | Method and system for color enhancement with color volume adjustment and variable shift along luminance axis |
US8749662B2 (en) * | 2009-04-16 | 2014-06-10 | Nvidia Corporation | System and method for lens shading image correction |
US8698918B2 (en) * | 2009-10-27 | 2014-04-15 | Nvidia Corporation | Automatic white balancing for photography |
US8830359B2 (en) * | 2010-03-30 | 2014-09-09 | Nikon Corporation | Image processing apparatus, imaging apparatus, and computer readable medium |
JP5150796B2 (ja) * | 2011-03-30 | 2013-02-27 | 富士フイルム株式会社 | 固体撮像素子の駆動方法並びに固体撮像素子及び撮像装置 |
US9798698B2 (en) | 2012-08-13 | 2017-10-24 | Nvidia Corporation | System and method for multi-color dilu preconditioner |
US9508318B2 (en) | 2012-09-13 | 2016-11-29 | Nvidia Corporation | Dynamic color profile management for electronic devices |
US9307213B2 (en) | 2012-11-05 | 2016-04-05 | Nvidia Corporation | Robust selection and weighting for gray patch automatic white balancing |
US9870598B2 (en) | 2013-04-26 | 2018-01-16 | Nvidia Corporation | Low complexity adaptive filtering for mobile captures |
US9826208B2 (en) | 2013-06-26 | 2017-11-21 | Nvidia Corporation | Method and system for generating weights for use in white balancing an image |
US9756222B2 (en) | 2013-06-26 | 2017-09-05 | Nvidia Corporation | Method and system for performing white balancing operations on captured images |
US9524538B2 (en) * | 2014-09-19 | 2016-12-20 | Fujitsu Ten Limited | Image processing apparatus |
WO2016110984A1 (ja) * | 2015-01-08 | 2016-07-14 | オリンパス株式会社 | 画像処理装置、画像処理装置の作動方法、画像処理装置の作動プログラムおよび内視鏡装置 |
Family Cites Families (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5253046A (en) * | 1991-03-07 | 1993-10-12 | Canon Kabushiki Kaisha | Color image pickup apparatus for object image conversion |
JP3179166B2 (ja) | 1992-02-25 | 2001-06-25 | オリンパス光学工業株式会社 | 電子内視鏡装置 |
JPH0630444A (ja) | 1992-07-08 | 1994-02-04 | Toshiba Corp | 画像符号化装置 |
JPH06225343A (ja) | 1992-10-02 | 1994-08-12 | Hitachi Ltd | テレビジョン信号の構成装置 |
US5373322A (en) * | 1993-06-30 | 1994-12-13 | Eastman Kodak Company | Apparatus and method for adaptively interpolating a full color image utilizing chrominance gradients |
JPH089199A (ja) | 1994-06-20 | 1996-01-12 | Canon Inc | 撮像信号処理装置および撮像信号処理方法 |
JPH09214989A (ja) | 1996-02-02 | 1997-08-15 | Naoki Ozawa | 画像信号の信号補間方法 |
JP3707187B2 (ja) * | 1996-09-18 | 2005-10-19 | コニカミノルタホールディングス株式会社 | 電子カメラ |
JP3065543B2 (ja) | 1996-11-08 | 2000-07-17 | ハウス食品株式会社 | 調味ソース |
JP3806211B2 (ja) | 1997-01-08 | 2006-08-09 | 株式会社リコー | 撮像信号処理方法及び撮像信号処理装置 |
JP3704238B2 (ja) * | 1997-03-31 | 2005-10-12 | 株式会社リコー | 撮像装置 |
US6181376B1 (en) * | 1997-10-14 | 2001-01-30 | Intel Corporation | Method of determining missing color values for pixels in a color filter array |
US6130960A (en) * | 1997-11-03 | 2000-10-10 | Intel Corporation | Block-matching algorithm for color interpolation |
JP2991180B2 (ja) * | 1998-01-28 | 1999-12-20 | 日本電気株式会社 | 画素補間方法及び画素補間回路並びに画素補間プログラムを記録した記録媒体 |
US5990950A (en) * | 1998-02-11 | 1999-11-23 | Iterated Systems, Inc. | Method and system for color filter array multifactor interpolation |
DE19980650T1 (de) * | 1998-03-17 | 2000-07-20 | Matsushita Electric Ind Co Ltd | Bildleseeinrichtung |
JP4045645B2 (ja) * | 1998-05-19 | 2008-02-13 | 株式会社ニコン | 補間処理装置および補間処理プログラムを記録した記録媒体 |
US6549233B1 (en) * | 1998-08-07 | 2003-04-15 | Intel Corporation | Color interpolation system |
US6496608B1 (en) * | 1999-01-15 | 2002-12-17 | Picsurf, Inc. | Image data interpolation system and method |
US6404918B1 (en) * | 1999-04-30 | 2002-06-11 | Hewlett-Packard Company | Image demosaicing method utilizing directional smoothing |
US6933970B2 (en) * | 1999-12-20 | 2005-08-23 | Texas Instruments Incorporated | Digital still camera system and method |
US6476865B1 (en) * | 2001-03-07 | 2002-11-05 | Eastman Kodak Company | Sparsely sampled image sensing device with color and luminance photosites |
-
2000
- 2000-05-26 JP JP2000155621A patent/JP4162111B2/ja not_active Expired - Fee Related
- 2000-07-27 US US09/627,244 patent/US6724932B1/en not_active Expired - Lifetime
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2034469A1 (en) | 2001-09-13 | 2009-03-11 | Seiko Epson Corporation | Organic electroluminescent display device |
JP2006074360A (ja) * | 2004-09-01 | 2006-03-16 | Fuji Photo Film Co Ltd | 撮像装置及び信号処理方法 |
JP4633413B2 (ja) * | 2004-09-01 | 2011-02-16 | 富士フイルム株式会社 | 撮像装置及び信号処理方法 |
US8199230B2 (en) | 2007-06-28 | 2012-06-12 | Fujifilm Corporation | Signal processing apparatus, image pickup apparatus and computer readable medium |
Also Published As
Publication number | Publication date |
---|---|
JP4162111B2 (ja) | 2008-10-08 |
US6724932B1 (en) | 2004-04-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4162111B2 (ja) | 画像処理方法および装置並びに記録媒体 | |
JP4284628B2 (ja) | 撮像装置、画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体 | |
JP4861667B2 (ja) | 画像処理装置及び画像処理方法 | |
US8270774B2 (en) | Image processing device for performing interpolation | |
JP3771054B2 (ja) | 画像処理装置及び画像処理方法 | |
US8233733B2 (en) | Image processing device | |
JP4321064B2 (ja) | 画像処理装置および画像処理プログラム | |
WO2015093253A1 (ja) | 画素補間処理装置、撮像装置、プログラムおよび集積回路 | |
JP3633561B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2004519156A (ja) | 画像検知器の出力信号用の輪郭フィルタ | |
JP4302855B2 (ja) | 画像処理方法および装置並びに記録媒体 | |
JP3965460B2 (ja) | 単板カラーカメラの市松配列緑色信号等インタリーブの関係にある画素信号の補間方法 | |
JP3576600B2 (ja) | カラー撮像装置 | |
JP4302854B2 (ja) | 画像処理方法および装置並びに記録媒体 | |
KR101327790B1 (ko) | 영상 보간 방법 및 장치 | |
JP4239483B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置 | |
KR100960176B1 (ko) | 화상 신호 처리 장치, 화상 신호 처리 회로, 화상 신호 처리 방법 및 기록매체 | |
JP4196055B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置 | |
JP4239480B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置 | |
JP4139587B2 (ja) | 単板式カラーディジタルカメラにおける撮像画像の補間装置および方法 | |
JP2003087808A (ja) | 画像処理方法および装置並びにプログラム | |
JP4239484B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置 | |
JP2000232655A (ja) | 画像処理方法および装置並びに記録媒体 | |
JPH1023448A (ja) | カラー画像処理装置 | |
JP2000341703A (ja) | 信号生成方法および装置並びに記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050912 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20061201 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080715 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080717 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110801 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110801 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120801 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120801 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130801 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |