JPH11331860A - 補間処理装置および補間処理プログラムを記録した記録媒体 - Google Patents
補間処理装置および補間処理プログラムを記録した記録媒体Info
- Publication number
- JPH11331860A JPH11331860A JP10136560A JP13656098A JPH11331860A JP H11331860 A JPH11331860 A JP H11331860A JP 10136560 A JP10136560 A JP 10136560A JP 13656098 A JP13656098 A JP 13656098A JP H11331860 A JPH11331860 A JP H11331860A
- Authority
- JP
- Japan
- Prior art keywords
- color
- image
- interpolation
- interpolation processing
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/042—Picture signal generators using solid-state devices having a single pick-up sensor
- H04N2209/045—Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
- H04N2209/046—Colour interpolation to calculate the missing colour values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
- Image Processing (AREA)
- Color Television Image Signal Generators (AREA)
- Processing Of Color Television Signals (AREA)
- Color Image Communication Systems (AREA)
Abstract
成る表色系によって示されるカラー画像に対して、画素
毎に欠落する色成分の値に相当する補間量を決定する補
間処理を施す補間処理装置およびこのような補間処理を
コンピュータに実行させる補間処理プログラムを記録し
た記録媒体に関し、カラー画像の特性を認識し、その特
性に適応した補間処理を確実に行うことを目的とする。 【解決手段】 予め決められた複数の色成分から成る表
色系によって示されるカラー画像に対して、画素毎に欠
落する色成分の値に相当する補間量を決定する補間処理
を施す補間処理装置において、カラー画像の色成分の構
成を認識する色構成認識手段と、予め決められた複数の
補間処理のうち、色構成認識手段によって認識された色
成分の構成に対応する補間処理を選択し、カラー画像に
対して選択した補間処理を施す補間処理手段とを備えて
構成される。
Description
数の色成分から成る表色系によって示されるカラー画像
に対して、画素毎に欠落する色成分の値に相当する補間
量を決定する補間処理を施す補間処理装置およびこのよ
うな補間処理をコンピュータに実行させる補間処理プロ
グラムを記録した記録媒体に関する。
の色(例えば、RGB:赤色・緑色・青色)のカラーフ
ィルタから成るCFA(カラーフィルタアレイ)を透過
した被写体像を撮像することによってカラー画像が生成
されている。CFA(カラーフィルタアレイ)には、図
7に示すようにRGBの3色のカラーフィルタがベイア
配列されて構成されるものがある。このような構成のC
FA(カラーフィルタアレイ)を透過した被写体像を撮
像する撮像素子では、個々の画素において1色の色情報
が生成される。
よって示されるカラー画像であっても、個々の画素で
は、1つの色成分しか得られないことになる。そこで、
電子スチルカメラやカラー画像を画像処理の対象とする
画像処理装置には、画素単位で全ての色成分を得るた
め、ディジタル化したカラー画像に対して補間処理(欠
落する色成分の値に相当する補間量を決定する処理)を
施す機能を有するものがある。
る画素の空間的な類似度が強く、異なる色成分を有する
画素の空間的な類似度(異なる色成分間の類似度)が弱
いという特徴を示す。そのため、補間処理の対象となる
画素の補間量を決定する方法として、その画素の周辺に
位置し、かつその画素に欠落する色成分を有する画素の
色成分の値を用いる方法が一般化している。
素」の緑色の補間処理を行う場合には、「赤色や青色の
色成分を有する画素」に隣接する「緑色の色成分を有す
る複数の画素(図7では、4つの画素)」の色成分の値
の平均値を補間量とする。ここで、図8に示すようなグ
レーの縦縞状のカラー画像に対し、このような補間処理
を行う場合を考える。
ーフィルタに投影されると、各画素の色成分の値は、図
9に示す値になると仮定する。また、図9において、G
(0,0)、G(0,2)、…、G(7,7)は緑色の色成分の値を示
し、R(0,1)、R(0,3)、…、R(6,7)は赤色の色成分の値を
示し、B(1,0)、B(1,2)、…、B(7,6)は青色の色成分の値
を示す。
の緑色の補間量G(4,3)は、 G(4,3)=(G(3,3)+G(4,2)+G(4,4)+G(5,3))/4 =(34+38+255+23)/4 ≒87 となる。
カラー画像は縦方向の類似度が強いため、G(4,3)はG(3,
3)およびG(5,3)との連続性が保持される必要がある。し
かし、上述したように G(4,3)≒87 とすると、G(4,3)とG(3,3)およびG(5,3)との連続性は、
損なわれることになる。
間処理を行うと、適切な補間量を求めることができず、
原画像にない偽色が生じるという問題があった。また、
このような問題は、グレー画像に上述した補間処理を行
う場合に限らず、単一色相画像(例えば、セピア色調の
画像など)に対して上述した補間処理を行う場合にも発
生する。
像が上述した特性(同一の色成分を有する画素の空間的
な類似度が強く、異なる色成分を有する画素の空間的な
類似度が弱い)を示すものとして補間処理が行われるこ
とに起因する可能性が高い。
処理を行うために、例えば、グレー画像用の撮影モード
と通常のカラー画像用の撮影モードとを切り換える「撮
影モードの切り換えスイッチ」を電子スチルカメラの筐
体に設ける方法が考えられる。しかし、このような方法
では、文書やモノクロのテストチャートを撮影する場
合、操作者は、「撮影モードの切り換えスイッチ」を操
作してグレー画像用の撮影モードを選択する必要があ
る。
発明は、カラー画像の特性を認識し、その特性に適応し
た補間処理を確実に行うことができる補間装置を提供す
ることを目的とする。また、請求項6に記載の発明は、
カラー画像の特性を認識し、その特性に適応した補間処
理を確実に行うことができる補間処理プログラムを記録
した記録媒体を提供することを目的とする。
理装置は、予め決められた複数の色成分から成る表色系
によって示されるカラー画像に対して、画素毎に欠落す
る色成分の値に相当する補間量を決定する補間処理を施
す補間処理装置において、カラー画像の色成分の構成を
認識する色構成認識手段と、予め決められた複数の補間
処理のうち、色構成認識手段によって認識された色成分
の構成に対応する補間処理を選択し、カラー画像に対し
て選択した補間処理を施す補間処理手段とを備えたこと
を特徴とする。
1に記載の補間処理装置において、補間処理手段は、色
構成認識手段で認識された色成分の構成によってカラー
画像が単一色相画像であると判断した場合、補間処理の
対象となる画素の色成分の値を該画素の補間量とする補
間処理を選択することを特徴する。請求項3に記載の補
間処理装置は、請求項1に記載の補間処理装置におい
て、補間処理手段は、色構成認識手段で認識された色成
分の構成によってカラー画像が単一色相画像であると判
断した場合、補間処理の対象となる画素の色成分の値に
対する加重を大きくしつつ、該画素の色成分の値と該画
素の周辺に位置する画素の色成分の値とを加重加算して
該画素の補間量を決定する補間処理を選択することを特
徴する。
2または請求項3に記載の補間処理装置において、色構
成認識手段は、カラー画像を複数の領域に分割し、各領
域内の1画素当たりの色成分の平均値を示す色平均を算
出すると共に、各色成分間の色平均の差または比を算出
することによって、各領域毎の色成分の構成を認識し、
補間処理手段は、全ての領域に対する各色成分間の色平
均の差または比が予め決められた範囲内である場合、カ
ラー画像が単一色相画像であると判断することを特徴す
る。
像が単一色相画像(セピア色調の画像など)である場
合、分割された全ての領域において各色成分の構成が酷
似する可能性が高い。すなわち、全ての領域について、
各色成分間の色平均の差または比は近似する可能性が高
い。そのため、全ての領域に対して各色成分間の色平均
の差または比が予め決められた範囲内であることを判定
することによって、補間処理の対象となるカラー画像が
単一色相画像であるか否かを容易に判定することができ
る。
1に記載の補間処理装置において、色構成認識手段は、
カラー画像を複数の領域に分割し、各領域内の1画素当
たりの色成分の平均値を示す色平均を算出すると共に、
各色成分間の色平均の差または比を算出することによっ
て、各領域毎の色成分の構成を認識し、補間処理手段
は、全ての領域に対する各色成分間の色平均の差が予め
決められた値以下または各色成分間の色平均の比が予め
決められた範囲内である場合、前記カラー画像がグレー
画像であると判断し、補間処理の対象となる画素の色成
分の値を該画素の補間量とする補間処理を選択すること
を特徴する。
像がグレー画像である場合、分割された全ての領域にお
いて各色成分の色平均が酷似する可能性が高い。すなわ
ち、全ての領域について、各色成分間の色平均の差は0
に近似し、各色成分間の色平均の比は1に近似する可能
性が高い。そのため、全ての領域に対する各色成分間の
色平均の差が予め決められた値以下であることを判定し
たり、各色成分間の色平均の比が予め決められた範囲内
であることを判定することによって、補間処理の対象と
なるカラー画像がグレー画像であるか否かを容易に判定
することができる。
録した記録媒体は、予め決められた複数の色成分から成
る表色系によって示されるカラー画像に対して、画素毎
に欠落する色成分の値に相当する補間量を決定する補間
処理をコンピュータに実行させる補間処理プログラムを
記録した記録媒体において、カラー画像の色成分の構成
を認識する色構成認識手順と、予め決められた複数の補
間処理のうち、色構成認識手段によって認識された色成
分の構成に対応する補間処理を選択し、カラー画像に対
して選択した補間処理を施す補間処理手順とを備えたこ
とを特徴とする。
施形態について詳細を説明する。なお、請求項1ないし
請求項5に記載の発明に対応した実施形態については、
これらの発明にかかわる補間装置が適用された電子スチ
ルカメラを用いて説明を行う。
態の電子スチルカメラの機能ブロック図である。なお、
第一の実施形態は、請求項1および請求項5に記載の発
明に対応した実施形態に相当する。
制御部11、レンズ12、絞り13、CFA(カラーフ
ィルタアレイ)14、撮像素子15、A/D変換部1
6、前置処理部17、画像処理部18および記録部19
を有する。前置処理部17は、AF(自動焦点調節)、
AE(自動露出)、ホワイトバランスを行うためのパラ
メータを決定するパラメータ決定部20、ホワイトバラ
ンスを行うWB処理部21および色成分の構成を認識す
る色構成認識部22を有する。
を有する。さらに、補間処理部23は、後述する「グレ
ー画像用の補間処理」および「通常のカラー画像用の補
間処理」を行う機能を有する。なお、図1では、説明を
簡略化するため、画像処理部18内に補間処理部23の
みを記載しているが、画像処理部18内には、例えば、
エッジ検出など他の画像処理を行うブロックが設けられ
ても良い。
ンズ駆動部を介してレンズ12に接続され、不図示の絞
り駆動部を介して絞り13に接続されると共に、撮像素
子15、前置処理部17、画像処理部18および記録部
19に接続される。特に、制御部11は、前置処理部1
7との間において双方向に接続される。なお、請求項1
および請求項5に記載の発明と第一の実施形態との対応
関係については、色構成認識手段は、色構成認識部22
に対応し、補間処理手段は、制御部11の「色平均の差
を閾値と比較する機能」および補間処理部23に対応す
る。
ートである。以下、図1および図2を参照して第一の実
施形態の動作を説明する。主電源が投入されている状態
において、撮像素子15では、レンズ12および絞り1
3を介して与えられる光学像が光電変換面(図示されな
い)に結像され、光電変換によって信号電荷が生成され
る。また、撮像素子15は、このように生成された信号
電荷を走査して画像信号を生成し、A/D変換部16に
供給する。
制御部11によるタイミング制御に基づいて行われる。
A/D変換部16は、撮像素子15から供給された画像
信号をA/D変換して画像データを生成する(図2S
1)。なお、第一の実施形態および後述する各実施形態
において、画像データは、撮像素子15の各画素の色成
分の値に相当する。
は、前置処理部17に供給されると共に、前置処理部1
7内のWB処理部21によってホワイトバランスが行わ
れて画像処理部18に供給される。前置処理部17内の
パラメータ決定部20は、A/D変換部16から供給さ
れた画像データに基づき、AF(自動焦点調節)、AE
(自動露出)を行うためのパラメータを決定して制御部
11に通知すると共に、ホワイトバランスを行うための
パラメータを決定してWB処理部21に通知する。
と、制御部11は、不図示のレンズ駆動部や絞り駆動部
を介してAF(自動焦点調節)およびAE(自動露出)
を行い、WB処理部21は、ホワイトバランスを行う
(図2S2)。また、制御部11は、電子スチルカメラ
10の筐体に設けられたレリーズボタン(図示されな
い)が押下されたか否かを判定する(図2S3)。
押下されていないことが認識される度に、上述した画像
データの生成(図2S1)およびAF(自動焦点調
節)、AE(自動露出)、ホワイトバランス(図2S
3)が繰り返し行われる。一方、レリーズボタンが押下
されたことを認識すると、制御部11は、前置処理部1
7内の色構成認識部22に対し、「画像データの色成分
の構成を認識する処理」の実行を指示する。
ると、図3に示すように、重複を許容しつつ、1フレー
ムに相当する画像データをn個の領域に分割する(図2
S4)。ここで、制御部11は、各領域の識別番号を示
す変数iに1を代入する(図2S5)。色構成認識部2
2は、変数iが示す領域の1画素当たりの色成分の平均
値を示す色平均を算出する(図2S6)。
施形態では、各領域内の各色成分の色平均をRi、Gi、
Bi(i=1,2,・・・,n)によって示す。例えば、領域1が
8画素×8画素で構成され、各画素の色成分が図9に示
す値となる場合、領域1の色平均R1、G1、B1は、 R1=(R(0,1)+R(0,3)+・・・+R(6,5)+R(6,7))/16 =(237+50+・・・+252+50)/16 ≒148 G1=(G(0,0)+G(0,2)+・・・+G(7,5)+G(7,7))/32 =(255+26+・・・+247+52)/32 ≒144 B1=(B(1,0)+B(1,2)+・・・+B(7,4)+B(7,6))/16 =(255+28+・・・+255+21)/16 ≒140 となる。
平均を算出すると、各色成分間の色平均の差を算出する
(図2S7)。すなわち、領域1における各色成分間の
色平均の差は、 |R1−G1|=4 |B1−G1|=4 |R1−B1|=8 となる。
間の色平均の差は、制御部11に通知される。制御部1
1は、このように通知された各色成分間の色平均の差が
閾値以下となるか否かを判定する(図2S8)。例え
ば、制御部11は、変数iが示す領域において、各色成
分間の色平均の差に対して、 (|Ri−Gi|≦T1) ∩(|Bi−Gi|≦T2) ∩(|Ri−Bi|≦T3) が成り立つか否かを判定する。なお、T1、T2および
T3は任意の値であるが、第一の実施形態では、 T1=T2=T3=10 とする。
色成分間の色平均の差が閾値以下であることを認識した
場合、変数iをインクリメントし(図2S9)、変数i
がnを上回ったか否かを判定する(図2S10)。制御
部11は、各色成分間の色平均の差が閾値以下であり、
変数iがn以下であることを認識した場合、色構成認識
部22に対して「変数iが示す領域の色平均の算出(図
2S6)」および「各色成分間の色平均の差の算出(図
2S7)」を繰り返し指示し、「色平均の差の判定(図
2S8に相当する)」を繰り返し行う。
〜S10の処理が繰り返し行われている過程で、変数i
がnを上回ったことを認識した場合、画像処理部18内
の補間処理部23に対して、グレー画像用の補間処理の
実行を指示する(図2S11)。すなわち、制御部11
は、全ての領域において各色成分間の色平均の差が閾値
以下である場合、全ての領域において各色成分の色平均
が酷似すると判断し、補間処理の対象となる画像データ
がグレー画像であるとみなす。
判定(図2S8に相当する)」によって、各色成分間の
色平均の差が閾値を上回ったことを認識した場合、変数
iの値に関係なく、画像処理部18内の補間処理部23
に対して、通常のカラー画像用の補間処理の実行を指示
する(図2S12)。すなわち、制御部11は、各色成
分間の色平均の差が閾値を上回るような領域が1つでも
存在する場合、異なる色成分間の類似度が弱いと判断
し、補間処理の対象となる画像データが通常のカラー画
像であるとみなす。
レー画像用の補間処理の実行が指示されると、補間処理
の対象となる画素の色成分の値をその画素の補間量とす
る。例えば、赤色の色成分を有する画素(4,3)の緑色の
補間量G(4,3)は、 G(4,3)=R(4,3) =30 となり、青色の補間量B(4,3)は、 B(4,3)=R(4,3) =30 となる。
って通常のカラー画像用の補間処理の実行が指示される
と、従来の補間処理方法と同様に、補間処理の対象とな
る画素の周辺に位置し、かつその画素に欠落する色成分
を有する画素の色成分の値を用いて補間量を決定する。
なお、このように補間量が決定されることによって、補
間処理が施された画像データは、記録部19を介してメ
モリカードなどの記録媒体に記録される(図2S1
3)。
は、全ての領域において、各色成分の色平均が酷似する
場合、画像データにグレー画像用の補間処理を施し、各
色成分間の色平均の差が閾値を上回るような領域が1つ
でも存在する場合、画像データに通常のカラー画像用の
補間処理を施す。ところで、画像データ全体の色平均を
算出して色平均の差の判定を行う方法が考えられるが、
このような方法では、色平均にばらつきが生じる可能性
が高いために色成分の構成を精度良く認識することがで
きない。一方、第一の実施形態では、画像データを複数
の領域に分割して領域単位で色平均を算出しているた
め、色成分の構成を精度良く認識することができる。
の対象となる画像データがグレー画像であるか、通常の
カラー画像であるかの判定を容易に、かつ精度良く行う
ことができ、このような判定結果に応じて画像データの
色成分の構成に適した補間処理を選択することができ
る。したがって、第一の実施形態によれば、速やかに、
かつ的確に補間処理を行うことができる。
象となる画像データの色成分の構成を認識する際、図2
S8に示すように、各色成分間の色平均の差が閾値以下
であるか否かを判定しているが、各色成分間の色平均の
比が所定範囲内であるか否かを判定しても良い。例え
ば、変数iが示す領域の色平均に対して、 (|Ri/Gi−1|≦T4) ∩(|Bi/Gi−1|≦T5) ∩(|Ri/Bi−1|≦T6) が成り立つか否かを判定しても良い。なお、T4、T5
およびT6は、任意の値であるが、例えば、 T4=T5=T6=0.05 が考えられる。
複数の領域に分割する際、1つの領域の大きさを8画素
×8画素としているが、単位面積当たりの画素数が多い
撮像素子を用いる場合、各領域毎の色平均にばらつきが
生じる可能性が高いため、各領域の大きさを狭くしても
良い。また、単位面積当たりの画素数が少ない撮像素子
を用いる場合、各領域の大きさを広くしても良い。
「色平均の算出」と「各色成分間の色平均の差の算出」
とを行った直後に「色平均の差の判定」を行っている
が、例えば、全ての領域における各色成分間の色平均の
差を算出した後に、各領域毎に「色平均の差の判定」を
行っても良い。 (第二の実施形態)図4は、第二の実施形態の動作フロ
ーチャートである。
項3および請求項4に記載の発明に対応した実施形態に
相当する。ところで、第二の実施形態の特徴は、「色成
分の構成を認識する処理」および「補間処理」の方法に
あり、ハードウエアの構成については、図1に示す第一
の実施形態と同じであるから、ここでは、その説明を省
略する。
23は、後述する「単一色相画像用の補間処理」および
「通常のカラー画像用の補間処理」を行う機能を有す
る。また、図4S1〜S6、S9、S10およびS13
の処理は、図2に示す第一の実施形態の処理(図2S1
〜S6、S9、S10およびS13)と同じであるた
め、詳細な動作の説明を省略する。
に記載の発明と第二の実施形態との対応関係について
は、色構成認識手段は、色構成認識部22に対応し、補
間処理手段は、制御部11の「色平均の比が所定範囲内
であるか否かを判定する機能」および補間処理部23に
対応する。
施形態の動作を説明する。制御部11は、第一の実施形
態と同様に、レリーズボタンが押下されたことを認識す
ると、前置処理部17内の色構成認識部22に対し、
「画像データの色成分の構成を認識する処理」の実行を
指示する。色構成認識部22は、このように指示される
と、第一の実施形態と同様に、画像データをn個の領域
に分割する(図4S4)。
同様に、各領域の識別番号を示す変数iに1を代入する
(図4S5)。色構成認識部22は、第一の実施形態と
同様に、変数iが示す領域の色平均を算出する(図4S
6)と共に、色成分間の色平均の比を算出する(図4S
7)。すなわち、色構成認識部22は、変数iが示す領
域における各色成分間の色平均の比として Ri/Gi Bi/Gi Ri/Bi を算出する。
間の色平均の比は、制御部11に通知される。制御部1
1は、このように通知された各色成分間の色平均の比が
所定範囲内か否かを判定する(図4S8)。例えば、制
御部11は、変数iが示す領域において、各色成分間の
色平均の比に対して、 (|Ri/Gi−T10|≦T11) ∩(|Bi/Gi−T20|≦T21) ∩(|Ri/Bi−T30|≦T31) が成り立つか否かを判定する。
T30およびT31は任意の値であるが、第二の実施形
態では、 T10=R1/G1 T11=T10×0.05 T20=B1/G1 T21=T20×0.05 T30=R1/B1 T31=T30×0.05 とする。すなわち、第二の実施形態では、領域1におけ
る各色成分間の色平均の比を基準として、全ての領域に
おいて各色成分間の色平均の比が酷似するか否かを判定
する。
色成分間の色平均の比が所定範囲内であることを認識し
た場合、変数iをインクリメントし(図4S9)、変数
iがnを上回ったか否かを判定する(図4S10)。制
御部11は、各色成分間の色平均の比が所定範囲内であ
り、変数iがn以下であることを認識した場合、色構成
認識部22に対して「変数iが示す領域の色平均の算出
(図4S6)」および「色成分間の色平均の比の算出
(図4S7)」を繰り返し指示し、「色平均の比の判定
(図4S8に相当する)」を繰り返し行う。
〜S10の処理が繰り返し行われている過程で、変数i
がnを上回ったことを認識した場合、画像処理部18内
の補間処理部23に対して、単一色相画像用の補間処理
の実行を指示する(図4S11)。すなわち、制御部1
1は、全ての領域において各色成分間の色平均の比が上
述した所定範囲内である場合、全ての領域において各色
成分間の色平均の比が酷似すると判断し、補間処理の対
象となる画像データが単一色相画像であるとみなす。
判定(図4S8に相当する)」によって各色成分間の色
平均の比が所定範囲外であることを認識した場合、変数
iの値に関係なく、画像処理部18内の補間処理部23
に対して、通常のカラー画像用の補間処理の実行を指示
する(図4S12)。すなわち、制御部11は、各色成
分間の色平均の比が所定範囲外となるような領域が1つ
でも存在する場合、異なる色成分間の類似度が弱いと判
断し、補間処理の対象となる画像データが通常のカラー
画像であるとみなす。
一色相画像用の補間処理の実行が指示されると、補間処
理の対象となる画素の色成分の値と、その画素の周辺に
位置する画素の色成分の値とを加重加算して補間量を決
定する。ただし、補間処理の対象となる画素の色成分の
値に対する加重を大きくする。例えば、補間処理部23
は、赤色の色成分を有する画素(4,3) に対する緑色の補
間量G(4,3)および青色の補間量B(4,3)を以下のように算
出する。
(4,2)+G(4,4)+G(5,3))/4 B(4,3)=Q21×R(4,3)+Q22×(B(3,2)+B(5,2)+B(3,4)
+B(5,4))/4 ただし、Q11、Q12、Q21およびQ22は、 Q11+Q12=1 Q11>Q12 Q21+Q22=1 Q21>Q22 を満足する重み係数である。
画素からの距離に反比例する条件を反映する場合には、
例えば、 Q11=4/5 Q12=1/4 Q21=7/8 Q22=1/8 のように、Q11、Q12、Q21およびQ22に対して Q21−Q22>Q11−Q12 の条件を付加しても良い。
する場合には、例えば、 f(X)=X/100 とし、Q11、Q12、Q21およびQ22を Q11=1−f(|R1−G1|) Q12=f(|R1−G1|) Q21=1−f(|R1−B1|)/2 Q22=f(|R1−G1|)/2 としても良い。
対する赤色の補間量R(3,3)および青色の補間量B(3,3)に
ついては、以下のように算出する。 R(3,3)=Q31×G(3,3)+Q32×(R(2,3)+R(4,3))/2 B(3,3)=Q41×G(3,3)+Q42×(B(3,2)+B(3,4))/2 ただし、Q31、Q32、Q41およびQ42は、 Q31+Q32=1 Q31>Q32 Q41+Q42=1 Q41>Q42 を満足する重み係数である。
うに制御部11によって通常のカラー画像用の補間処理
の実行が指示されると、従来の補間処理方法と同様に、
補間処理の対象となる画素の周辺に位置し、かつその画
素に欠落する色成分を有する画素の色成分の値を用いて
補間量を決定する。
は、全ての領域において、各色成分の色平均の比が酷似
する場合、画像データに単一色相画像用の補間処理を施
し、各色成分間の色平均の比が所定範囲外となる領域が
1つでも存在する場合、画像データに通常のカラー画像
用の補間処理を施す。ところで、第二の実施形態では、
第一の実施形態と同様に、画像データを複数の領域に分
割して領域単位で色平均を算出しているため、色成分の
構成を精度良く認識することができる。
の対象となる画像データが単一色相画像であるか、通常
のカラー画像であるかの判定を容易に、かつ精度良く行
うことができ、このような判定結果に応じて画像データ
の色成分の構成に適した補間処理を選択することができ
る。したがって、第二の実施形態によれば、速やかに、
かつ的確に補間処理を行うことができる。
象となる画像データの色成分の構成を認識する際、図4
S8に示すように、各色成分間の色平均の比が所定範囲
内であるか否かを判定しているが、各色成分間の色平均
の差が所定範囲内であるか否かを判定しても良い。例え
ば、変数iが示す領域の色平均に対して、 (|Ri−Gi−T40|≦T41) ∩(|Bi−Gi−T50|≦T51) ∩(|Ri−Bi−T60|≦T61) が成り立つか否かを判定しても良い。なお、T40、T
41、T50、T51、T60およびT61は、任意の
値であるが、例えば、 T40=R1−G1 T50=B1−G1 T60=R1−B1 T41=T51=T61=10 が考えられる。
用することによって単一色相画像用の補間処理を行って
いるが、請求項3に代えて請求項2を適用し、補間処理
の対象となる画素の色成分の値をその画素の補間量とし
ても良い。さらに、第二の実施形態では、領域毎に「色
平均の算出」と「各色成分間の色平均の差の算出」とを
行った直後に「色平均の比の判定」を行っているが、例
えば、全ての領域における各色成分間の色平均の差を算
出した後に、各領域毎に「色平均の比の判定」と行って
も良い。
画像データがグレー画像であることを認識した際にグレ
ー画像用の補間処理を行い、第二の実施形態では、画像
データが単一色相画像であることを認識した際に単一色
相画像用の補間処理を行うが、「グレー画像用の補間処
理」、「単一色相画像用の補間処理」および「通常のカ
ラー画像用の補間処理」を行う機能を有する補間処理部
を設け、第一の実施形態と第二の実施形態とを組み合わ
せることによって、グレー画像、単一色相画像(グレー
画像を除く)および通常のカラー画像を認識し、各画像
に適応した補間処理を行っても良い。
れず、色成分の構成に応じて特徴が認識できる画像であ
れば、その特徴に適応した補間処理を行うこともでき
る。 (第三の実施形態)図5は、第三の実施形態の機能ブロ
ック図である。なお、第三の実施形態は、請求項6に記
載の「補間処理プログラムを記録した記録媒体」を用
い、パーソナルコンピュータによって補間処理を行うこ
とに相当する。
ック図と同じものについては、同じ符号を付与して示
し、構成の説明については省略する。なお、図5に示す
電子スチルカメラ50と図1に示す電子スチルカメラ1
0との構成の相違点は、制御部51、前置処理部52お
よび画像処理部53が制御部11、前置処理部17およ
び画像処理部18に代えて設けられた点である。
ータ60は、CPU61、記録再生部62および画像メ
モリ63を有する。CPU61は、記録再生部62およ
び画像メモリ63に接続される。記録再生部62の出力
は、画像メモリ63に接続され、画像メモリ63の出力
は、CPU61および記録再生部62に接続される。ま
た、CPU61の出力は、画像メモリ63に接続され
る。
色構成認識部22および補間処理部23によって行われ
る図2S4〜S12または図4S4〜S12に相当する
処理をCPU61に実行させるための補間処理プログラ
ムが記録されている。また、第三の実施形態において、
CPU61には、このような補間処理プログラムが予め
インストールされていることとする。
ラムを記録した記録媒体」は、CD−ROM64に対応
し、色構成認識手順および補間処理手順は、CPU61
によって行われる「画像データの色成分の構成を認識す
る機能」および「補間処理を行う機能」に対応する。図
6は、第三の実施形態の動作フローチャートである。
施形態の動作を説明する。まず、電子スチルカメラ50
の動作について説明する。主電源が投入されている状態
において、撮像素子15では、第一の実施形態と同様に
画像信号が生成され、A/D変換部16では、第一の実
施形態と同様に、画像信号をA/D変換して画像データ
を生成する(図6S1)。
処理部52に供給されると共に、前置処理部52内でホ
ワイトバランスが行われて画像処理部53に供給され
る。前置処理部52では、A/D変換部16から供給さ
れた画像データに基づき、AF(自動焦点調節),AE
(自動露出),ホワイトバランスを行うためのパラメー
タを決定する。
(自動焦点調節)およびAE(自動露出)に応じて不図
示のレンズ駆動部や絞り駆動部を介してAF(自動焦点
調節)およびAE(自動露出)を行い、前置処理部52
は、ホワイトバランスを行うためのパラメータに応じて
ホワイトバランスを行う(図6S2)。また、制御部5
1は、電子スチルカメラ50の筐体に設けられたレリー
ズボタン(図示されない)が押下されたか否かを判定す
る(図6S3)。
たことを認識すると、画像処理部53および記録部19
に対して、画像データをメモリカード54に記録するこ
とを指示する(図6S4)。なお、本実施形態おいて、
画像処理部53は、前置処理部52から供給された画像
データに対して画像処理を行わず、記録部19に直接供
給することとする。
の形式でメモリカード54に記録すると共に、画像ファ
イルのヘッダ部に設けられた「補間要求フラグ」(画像
データが補間処理を必要とする旨を示すフラグ)を立て
る。次に、パーソナルコンピュータ60の動作について
説明する。パーソナルコンピュータ60において、画像
ファイルが記録されたメモリカード54が装着される
と、CPU61は、記録再生部62を介して画像ファイ
ルのヘッダ部を読み出す(図6S5)。
ルのヘッダ部を読み出すと、「補間要求フラグ」が立っ
ているか否かを判定する(図6S6)。CPU61は、
このような判定によって「補間要求フラグ」が立ってい
ることを認識した場合に限り、記録再生部62を介して
メモリカード54内の画像データを読み出して画像メモ
リ63に格納する(図6S7)。
ログラムを実行することによって、画像メモリ63内の
画像データに対し、「色成分の構成を認識する処理」お
よび「補間処理」を行う(図6S8)。すなわち、CP
U61は、図1の色構成認識部22および補間処理部2
3によって行われる図2S4〜S12または図4S4〜
S12に相当する処理を行う。
時点で、補間処理が施された画像データを記録再生部6
2を介してメモリカード54に再度記録する(図6S
9)。なお、補間処理が施された画像データをメモリカ
ード54に記録するか否かは、操作者がパーソナルコン
ピュータ60の入力装置(例えば、キーボードなど)に
よって選択できるようにしても良い。
は、第一の実施形態または第二の実施形態と同様の補間
処理をパーソナルコンピュータ60によって行うことが
できる。したがって、第三の実施形態によれば、第一の
実施形態または第二の実施形態と同様に、速やかに、か
つ的確に補間処理を行うことができる。なお、本実施形
態では、パーソナルコンピュータ60は補間処理を行う
べき画像データをメモリカード54を介して取得してい
るが、このような画像データを取得する方法について
は、如何なる方法であっても良い。
ピュータに本発明を適用する場合、その通信手段を介し
て与えられる画像データに対して補間処理を行うことも
可能である。
6に記載の発明では、補間処理の対象となるカラー画像
の色成分の構成を認識し、予め決められた複数の補間処
理のうち、カラー画像の色成分の構成に対応する補間処
理を選択することができる。すなわち、カラー画像の特
性に適応した補間処理を確実に行うことができる。
は、補間処理の対象となるカラー画像が単一色相画像で
あると判断した場合、単一色相画像に適した補間処理を
確実に行うことができる。請求項4に記載の発明では、
補間処理の対象となるカラー画像が単一色相画像である
か否かを容易に、かつ確実に判断することができる。
象となるカラー画像がグレー画像であるか否かを容易
に、かつ確実に判断することができる。また、補間処理
の対象となるカラー画像がグレー画像である場合には、
グレー画像に適した補間処理を行うことができる。した
がって、請求項1ないし請求項6の何れか一項に記載の
発明によれば、偽色が少なく高解像度のカラー画像を得
ることができる。
Claims (6)
- 【請求項1】 予め決められた複数の色成分から成る表
色系によって示されるカラー画像に対して、画素毎に欠
落する色成分の値に相当する補間量を決定する補間処理
を施す補間処理装置において、 前記カラー画像の色成分の構成を認識する色構成認識手
段と、 予め決められた複数の補間処理のうち、前記色構成認識
手段によって認識された色成分の構成に対応する補間処
理を選択し、前記カラー画像に対して選択した補間処理
を施す補間処理手段とを備えたことを特徴とする補間処
理装置。 - 【請求項2】 請求項1に記載の補間処理装置におい
て、 前記補間処理手段は、 前記色構成認識手段で認識された色成分の構成によって
前記カラー画像が単一色相画像であると判断した場合、
補間処理の対象となる画素の色成分の値を該画素の補間
量とする補間処理を選択することを特徴する補間処理装
置。 - 【請求項3】 請求項1に記載の補間処理装置におい
て、 前記補間処理手段は、 前記色構成認識手段で認識された色成分の構成によって
前記カラー画像が単一色相画像であると判断した場合、
補間処理の対象となる画素の色成分の値に対する加重を
大きくしつつ、該画素の色成分の値と該画素の周辺に位
置する画素の色成分の値とを加重加算して該画素の補間
量を決定する補間処理を選択することを特徴する補間処
理装置。 - 【請求項4】 請求項2または請求項3に記載の補間処
理装置において、 前記色構成認識手段は、 前記カラー画像を複数の領域に分割し、各領域内の1画
素当たりの色成分の平均値を示す色平均を算出すると共
に、各色成分間の色平均の差または比を算出することに
よって、各領域毎の色成分の構成を認識し、 前記補間処理手段は、 全ての領域に対する各色成分間の色平均の差または比が
予め決められた範囲内である場合、前記カラー画像が単
一色相画像であると判断することを特徴する補間処理装
置。 - 【請求項5】 請求項1に記載の補間処理装置におい
て、 前記色構成認識手段は、 前記カラー画像を複数の領域に分割し、各領域内の1画
素当たりの色成分の平均値を示す色平均を算出すると共
に、各色成分間の色平均の差または比を算出することに
よって、各領域毎の色成分の構成を認識し、 前記補間処理手段は、 全ての領域に対する各色成分間の色平均の差が予め決め
られた値以下または各色成分間の色平均の比が予め決め
られた範囲内である場合、前記カラー画像がグレー画像
であると判断し、補間処理の対象となる画素の色成分の
値を該画素の補間量とする補間処理を選択することを特
徴する補間処理装置。 - 【請求項6】 予め決められた複数の色成分から成る表
色系によって示されるカラー画像に対して、画素毎に欠
落する色成分の値に相当する補間量を決定する補間処理
をコンピュータに実行させる補間処理プログラムを記録
した記録媒体において、 前記カラー画像の色成分の構成を認識する色構成認識手
順と、 予め決められた複数の補間処理のうち、前記色構成認識
手段によって認識された色成分の構成に対応する補間処
理を選択し、前記カラー画像に対して選択した補間処理
を施す補間処理手順とを備えたことを特徴とする補間処
理をコンピュータに実行させる補間処理プログラムを記
録した記録媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP13656098A JP4045645B2 (ja) | 1998-05-19 | 1998-05-19 | 補間処理装置および補間処理プログラムを記録した記録媒体 |
US09/313,656 US6487309B1 (en) | 1998-05-19 | 1999-05-18 | Interpolation processing apparatus and recording medium having interpolation processing program recorded therein |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP13656098A JP4045645B2 (ja) | 1998-05-19 | 1998-05-19 | 補間処理装置および補間処理プログラムを記録した記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11331860A true JPH11331860A (ja) | 1999-11-30 |
JP4045645B2 JP4045645B2 (ja) | 2008-02-13 |
Family
ID=15178100
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP13656098A Expired - Lifetime JP4045645B2 (ja) | 1998-05-19 | 1998-05-19 | 補間処理装置および補間処理プログラムを記録した記録媒体 |
Country Status (2)
Country | Link |
---|---|
US (1) | US6487309B1 (ja) |
JP (1) | JP4045645B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2001047244A1 (fr) * | 1999-12-21 | 2001-06-28 | Nikon Corporation | Dispositif d'interpolation et support d'enregistrement sur lequel un programme d'interpolation est enregistre |
CN101783962A (zh) * | 2009-01-20 | 2010-07-21 | 三洋电机株式会社 | 图像处理装置 |
JP2011010319A (ja) * | 1999-12-21 | 2011-01-13 | Nikon Corp | 補間処理装置および補間処理プログラムを記録した記録媒体 |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4162111B2 (ja) * | 1999-07-27 | 2008-10-08 | 富士フイルム株式会社 | 画像処理方法および装置並びに記録媒体 |
US7158183B1 (en) * | 1999-09-03 | 2007-01-02 | Nikon Corporation | Digital camera |
US7289665B2 (en) * | 2001-03-05 | 2007-10-30 | Nikon Corporation | Image processing device and image processing program |
JP3796422B2 (ja) * | 2001-09-14 | 2006-07-12 | キヤノン株式会社 | 変換データ調整方法、装置およびプログラム |
US6995791B2 (en) * | 2002-04-02 | 2006-02-07 | Freescale Semiconductor, Inc. | Automatic white balance for digital imaging |
JP3984858B2 (ja) * | 2002-05-01 | 2007-10-03 | キヤノン株式会社 | 画像処理装置及びその制御方法 |
JP4066803B2 (ja) * | 2002-12-18 | 2008-03-26 | 株式会社ニコン | 画像処理装置、画像処理プログラム、画像処理方法および電子カメラ |
JP4305071B2 (ja) * | 2003-06-30 | 2009-07-29 | 株式会社ニコン | 信号補正方法 |
KR100744111B1 (ko) * | 2004-11-12 | 2007-08-01 | 삼성전자주식회사 | 영상 신호의 회색 성분 보상 장치 |
JP4840740B2 (ja) * | 2004-12-01 | 2011-12-21 | 株式会社メガチップス | 画素補間方法および画像判定方法 |
KR100721338B1 (ko) * | 2004-12-30 | 2007-05-28 | 엘지전자 주식회사 | 디지털 촬영장치의 색상 보간법 |
US7881563B2 (en) * | 2006-02-15 | 2011-02-01 | Nokia Corporation | Distortion correction of images using hybrid interpolation technique |
JP4682070B2 (ja) * | 2006-03-23 | 2011-05-11 | Hoya株式会社 | 画像信号処理装置 |
JP5006731B2 (ja) * | 2007-07-31 | 2012-08-22 | キヤノン株式会社 | 画像形成装置及び画像補正方法 |
JP5144161B2 (ja) * | 2007-07-31 | 2013-02-13 | キヤノン株式会社 | カラー画像形成装置及びカラー画像形成方法 |
JP5074851B2 (ja) * | 2007-07-31 | 2012-11-14 | キヤノン株式会社 | 画像形成装置および画像形成方法 |
JP4950798B2 (ja) * | 2007-07-31 | 2012-06-13 | キヤノン株式会社 | 画像形成装置とその制御方法、及び、コンピュータプログラム |
KR101516963B1 (ko) * | 2008-12-11 | 2015-05-04 | 삼성전자주식회사 | 유효 영역을 이용한 자동 화이트 밸런스 조정 장치 및 방법 |
KR101590771B1 (ko) * | 2009-08-27 | 2016-02-02 | 삼성전자주식회사 | 유효 영역 검출을 통한 자동 화이트 밸런스 조정 장치 및 방법 |
US8340462B1 (en) * | 2011-02-14 | 2012-12-25 | DigitalOptics Corporation Europe Limited | Pixel mapping using a lookup table and linear approximation |
US8675115B1 (en) | 2011-02-14 | 2014-03-18 | DigitalOptics Corporation Europe Limited | Forward interpolation approach for constructing a second version of an image from a first version of the image |
US8577186B1 (en) | 2011-02-14 | 2013-11-05 | DigitalOptics Corporation Europe Limited | Forward interpolation approach using forward and backward mapping |
JP6865589B2 (ja) * | 2017-01-10 | 2021-04-28 | キヤノン株式会社 | 撮像装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5970091A (ja) * | 1982-10-13 | 1984-04-20 | Nippon Kogaku Kk <Nikon> | 電子スチルカメラ |
US5317426A (en) * | 1990-11-26 | 1994-05-31 | Konica Corporation | Color estimation method for expanding a color image for reproduction in a different color gamut |
US5363218A (en) * | 1990-11-26 | 1994-11-08 | Konica Corporation | Color estimation method for compressing color image data for image reproduction |
JPH09261535A (ja) * | 1996-03-25 | 1997-10-03 | Sharp Corp | 撮像装置 |
-
1998
- 1998-05-19 JP JP13656098A patent/JP4045645B2/ja not_active Expired - Lifetime
-
1999
- 1999-05-18 US US09/313,656 patent/US6487309B1/en not_active Expired - Lifetime
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2001047244A1 (fr) * | 1999-12-21 | 2001-06-28 | Nikon Corporation | Dispositif d'interpolation et support d'enregistrement sur lequel un programme d'interpolation est enregistre |
US7236628B2 (en) | 1999-12-21 | 2007-06-26 | Nikon Corporation | Interpolation processing apparatus and recording medium having interpolation processing program recording therein |
US7362897B2 (en) | 1999-12-21 | 2008-04-22 | Nikon Corporation | Interpolation processing apparatus and recording medium having interpolation processing program recorded therein |
JP2011010319A (ja) * | 1999-12-21 | 2011-01-13 | Nikon Corp | 補間処理装置および補間処理プログラムを記録した記録媒体 |
CN101783962A (zh) * | 2009-01-20 | 2010-07-21 | 三洋电机株式会社 | 图像处理装置 |
Also Published As
Publication number | Publication date |
---|---|
JP4045645B2 (ja) | 2008-02-13 |
US6487309B1 (en) | 2002-11-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4045645B2 (ja) | 補間処理装置および補間処理プログラムを記録した記録媒体 | |
US8462228B2 (en) | Image processing method, apparatus and computer program product, and imaging apparatus, method and computer program product | |
US8345127B2 (en) | Image processing apparatus and method of processing image for reducing noise of the image | |
US7376347B2 (en) | Digital still camera, image reproducing apparatus, face image display apparatus and methods of controlling same | |
JP4815807B2 (ja) | Rawデータから倍率色収差を検出する画像処理装置、画像処理プログラム、および電子カメラ | |
RU2443068C2 (ru) | Устройство и способ формирования изображения и программа | |
US9489747B2 (en) | Image processing apparatus for performing object recognition focusing on object motion, and image processing method therefor | |
US20110234845A1 (en) | Auto white balance correction value calculation device, method, program, and image pickup device | |
JP2004088149A (ja) | 撮像システムおよび画像処理プログラム | |
US20090002518A1 (en) | Image processing apparatus, method, and computer program product | |
JPH09243904A (ja) | 画像の構図変化検出方法 | |
JP2000299874A (ja) | 信号処理装置及び方法並びに撮像装置及び方法 | |
US20100074557A1 (en) | Image Processing Device And Electronic Appliance | |
US8625007B2 (en) | Image pickup apparatus, image combination method, and computer program | |
US5489997A (en) | Color image processing apparatus | |
JP3862506B2 (ja) | 信号処理装置およびその信号処理方法およびその動作処理プログラムおよびそのプログラムを記憶した記憶媒体 | |
JP5163733B2 (ja) | 撮像装置、および焦点判定プログラム | |
US8570407B2 (en) | Imaging apparatus, image processing program, image processing apparatus, and image processing method | |
JP2007267072A (ja) | 電子カメラ | |
US11330177B2 (en) | Image processing apparatus and image processing method | |
JP5414216B2 (ja) | 撮像装置、その制御方法及びプログラム | |
JP4900265B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP4665731B2 (ja) | カメラ、および画像管理プログラム | |
KR101612853B1 (ko) | 촬영장치, 촬영장치의 제어방법 및 제어방법을 실행시키기 위한 프로그램을 저장한 기록매체 | |
US20040239778A1 (en) | Digital camera and method of controlling same |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050413 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070626 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070807 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071002 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20071030 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20071112 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101130 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131130 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131130 Year of fee payment: 6 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131130 Year of fee payment: 6 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |