JP2002218484A - 画像補間装置 - Google Patents
画像補間装置Info
- Publication number
- JP2002218484A JP2002218484A JP2001010084A JP2001010084A JP2002218484A JP 2002218484 A JP2002218484 A JP 2002218484A JP 2001010084 A JP2001010084 A JP 2001010084A JP 2001010084 A JP2001010084 A JP 2001010084A JP 2002218484 A JP2002218484 A JP 2002218484A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- pixel
- interpolation
- image
- pattern
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Facsimile Heads (AREA)
- Color Television Image Signal Generators (AREA)
- Processing Of Color Television Signals (AREA)
Abstract
を減少させる。 【解決手段】 補間処理により画素信号を得ようとして
いる対象画素の左右および上下に隣接する画素のG信号
と対象画素のG信号との差を比較する(ステップ31
0,313,315)。左側の画素のG信号が対象画素
のG信号に最も近いとき、左側の画素に関し、R,G,
B信号を用いて、輝度値Yと補正値YGを求める(ステ
ップ311)。R,G,B信号に補正値YGを加えるこ
とによって、対象画素のB信号を求めるとともにR信号
とG信号を修正する(ステップ312)。右側、上側、
下側の画素のG信号が対象画素のG信号に最も近いとき
は、それぞれ右側、上側、下側の画素信号を用いる。
Description
メラにおいて、カラー画像の画質を向上させるために設
けられる画像補間装置に関する。
像を検出するために、CCD等の撮像素子の前面にベイ
ヤー配列のカラーフィルタを設けたものが知られてい
る。このカラーフィルタは、レッド(R)、グリーン
(G)およびブルー(B)の各カラーフィルタ要素を市
松模様に配列して構成され、これらのカラーフィルタ要
素は撮像素子のフォトダイオードにそれぞれ対応してい
る。したがってフォトダイオードにより、各カラーフィ
ルタ要素に対応した色の画素信号が生成され、例えばR
のカラーフィルタ要素に対応したフォトダイオードによ
りRの画素信号が生成される。
ま用いるよりも高画質のカラー画像を表示するため、画
素信号に対して補間処理を施すことがある。通常の補間
処理では、フォトダイオードによってR信号が得られた
画素に対しては、その周囲に位置する画素のG信号の相
加平均をとることによってG信号が生成され、また、そ
の周囲に位置する画素のB信号の相加平均をとることに
よってB信号が生成される。ところが、例えば空間周波
数の高い画像において、補間処理によって求めようとし
ている画素の実際の色とその周囲の画素の実際の色とが
大きく異なることがあり、このような場合、補間処理に
より得られた画素の色信号の値によって、再生画像に色
にじみが生じる。
補間処理によって再生画像に色にじみが生じることを減
少させることを目的としている。
置は、カラーフィルタと撮像素子とパターン設定手段と
G補間処理手段とR/B補間処理手段と第1の補間/修
正処理手段と第2の補間/修正処理手段とを備える。カ
ラーフィルタは、水平方向にレッド(R)とグリーン
(G)のカラーフィルタ要素が交互に並ぶ第1の列と、
この第1の列の上下側に隣接し、水平方向にGとブルー
(B)のカラーフィルタ要素が交互に並ぶ第2の列とか
ら構成される。撮像素子は、各カラーフィルタ要素に対
応した画素信号であるR,G,B信号を生成する。パタ
ーン設定手段は、撮像素子によって生成されたR,G,
B信号から、2×2の画素マトリクスにおいて左上にR
信号が位置する第1パターンと、右上にG信号が位置す
る第2パターンと、左下にG信号が位置する第3パター
ンと、右下にB信号が位置する第4パターンとにそれぞ
れ属する画像を抽出する。G補間処理手段は、第1およ
び第4パターンに属する画像の各画素に関し、隣接する
画素のG信号を利用してG信号を求める。R/B補間処
理手段は、第2および第3パターンに属する画像の各画
素に関し、隣接する画素のRおよびB信号を利用してR
およびB信号を求める。第1の補間/修正処理手段は、
第1パターンに属する画像の各画素に関し、隣接する画
素の中から輝度値が最も近い類似画素を抽出し、類似画
素との間における輝度値の変化率に対応した第1の補正
値と類似画素のB,G,R信号とに基づいて、B信号を
求めるとともに、G補間処理手段により求められたG信
号と撮像素子により生成されたR信号とを修正する。第
2の補間/修正処理手段は、第4パターンに属する画像
の各画素に関し、隣接する画素の中から輝度値が最も近
い類似画素を抽出し、類似画素との間における輝度値の
変化率に対応した第2の補正値と類似画素のR,G,B
信号とに基づいて、R信号を求めるとともに、G補間処
理手段により求められたG信号と撮像素子により生成さ
れたB信号とを修正する。
第2および第3パターンに属する画像に含まれる。R/
B補間処理手段において、隣接する画素は第1および第
4パターンに属する画像に含まれる。第1の補間/修正
処理手段および第2の補間/修正処理手段において、隣
接する画素は第2および第3パターンに属する画像に含
まれる。
間/修正処理手段は、好ましくは、隣接する画素におけ
るG信号の値を用いて、輝度値が最も近い類似画素を抽
出する。類似画素の色合いが補間処理によって求めよう
としている画素の色合いに近いと推定することにより、
色にじみが減少する。
ンに属する画像の各画素に関し、類似画素のB,G,R
信号にそれぞれ第1の補正値を加えることにより、B信
号を求めるとともにG信号とR信号を修正する。
する画像の各画素に関し、類似画素との間におけるG信
号の変化率に類似画素の輝度値を乗じて求められる。
式に従ってB信号を求めるとともにG信号とR信号を修
正する。 Y=0.299×R(x',y')+0.587×G(x',y')+0.114×B(x',y') YG=Y×(G(x,y)-G(x',Y'))/G(x',y') r’=YG+R(x',y') g’=YG+G(x',y') b=YG+B(x',y') ただし、Yは類似画素の輝度値、YGは第1の補正値、
R(x',y'), G(x',y'),B(x',y')は類似画素のR,G,
B信号、G(x,y)は第1パターンに属する画像の画素のG
信号、bは第1の補間/修正処理手段により求められた
第1パターンに属する画素のB信号、r’は修正された
R信号、g’は修正されたG信号である。
ンに属する画像の各画素に関し、類似画素のR,G,B
信号にそれぞれ第2の補正値を加えることにより、R信
号を求めるとともにG信号とB信号を修正する。
する画像の各画素に関し、類似画素との間におけるG信
号の変化率に類似画素の輝度値を乗じて求められる。
式に従ってR信号を求めるとともにG信号とB信号を修
正する。 Y=0.299×R(x',y')+0.587×G(x',y')+0.114×B(x',y') YG=Y×(G(x,y)-G(x',y'))/G(x',y') r=YG+R(x',y') g’=YG+G(x',y') b’=YG+B(x',y') ただし、Yは類似画素の輝度値、YGは第2の補正値、
R(x',y'), G(x',y'),B(x',y')は類似画素のR,G,
B信号、G(x,y)は第4パターンに属する画像の画素のG
信号、rは第2の補間/修正処理手段により求められた
第4パターンに属する画像の画素のR信号、g’は修正
されたG信号、b’は修正されたB信号である。
素におけるG信号およびR信号の値を用いて、類似画素
を抽出する。また、第2の補間/修正処理手段は、隣接
する画素におけるG信号および信号の値を用いて、類似
画素を抽出する。
像の各画素に関し、その画素と類似画素におけるG信号
およびR信号に基づいて得られる第1の参照値と類似画
素のG信号およびR信号に基づいて得られる第2の参照
値との比率を輝度値に乗じて求められる。
ってB信号を求めるとともにG信号とR信号を修正して
もよい。 Y=0.299×R(x',y')+0.587×G(x',y')+0.114×B(x',y') YG=Y×(0.587×(G(x,y)-G(x',y')+0.299×(R(x,y)-R(x',y')) /(0.587×G(x',y')+0.299×R(x',y')) r’=YG+R(x',y) g’=YG+G(x',y') b=YG+B(x',y') ただし、Yは類似画素の輝度値、YGは第1の補正値、
R(x',y'), G(x',y'),B(x',y')は類似画素のR,G,
B信号、G(x,y)は第1パターンに属する画像の画素のG
信号、bは第1の補間/修正処理手段により求められた
第1パターンに属する画像の画素のB信号、r’は修正
されたR信号、g’は修正されたG信号である。
ンに属する画像の各画素に関し、その画素と類似画素に
おけるG信号およびB信号に基づいて得られる第1の参
照値と類似画素のG信号およびB信号に基づいて得られ
る第2の参照値との比率を輝度値に乗じて求められる。
ってR信号を求めるとともにG信号とB信号を修正して
もよい。 Y=0.299×R(x',y')+0.587×G(x',y')+0.114×B(x',y') YG=Y×(0.587×(G(x,y)-G(x',y'))+0.114×(B(x,y)-B(x',y')) /(0.587×G(x',y')+0.114×B(x',y')) r=YG+R(x',y') g’=YG+G(x',y') b’=YG+B(x',y') ただし、Yは類似画素の輝度値、YGは第2の補正値、
R(x',y'), G(x',y'),B(x',y')は類似画素のR,G,
B信号、G(x,y)は第4パターンに属する画像の画素のG
信号、rは第2の補間/修正処理手段により求められた
第4パターンに属する画像の画素のR信号、g’は修正
されたG信号、b’は修正されたB信号である。
参照して説明する。図1は、本発明の第1実施形態であ
る画像補間装置を備えたデジタルカメラ10の概略的な
構成を示している。
CCD12が配設され、CCD12の受光面にはカラー
フィルタ13が設けられている。すなわち撮影レンズ1
1によって得られた被写体Sの光学像がCCD12の受
光面に結像され、CCD12のフォトダイオードには、
被写体像を構成するカラーの画素信号が発生する。画素
信号はCCD12から読み出され、A/D変換器14に
おいてデジタル信号に変換される。そして画素信号はホ
ワイトバランス調整回路15においてホワイトバランス
調整を施され、画像メモリ16に格納される。
れ、パターン設定部17に入力される。パターン設定部
17では、後述するように、所定の配列パターンを構成
する画素信号が全画素信号の中から抽出され、第1、第
2、第3および第4パターンに分類される。補間処理部
18では、パターン設定部17において抽出された画素
信号がそのパターンに応じた補間処理を施される。補間
処理部18から出力された、補間後の画素信号はメモリ
カード等の記録媒体Dに記録される。なおホワイトバラ
ンス調整回路15は、A/D変換器14の後段ではな
く、補間処理部18の後段に設けられてもよい。
フィルタ要素の配列と、パターン設定部17において抽
出される、各パターンに属する画像の画素信号とを示し
ている。カラーフィルタ13は、ベイヤー配列に従って
配置されたレッド(R)、グリーン(G)およびブルー
(B)のカラーフィルタ要素から構成される。すなわち
カラーフィルタ13は、水平方向にRとGのカラーフィ
ルタ要素が交互に並ぶ第1の列13aと、この第1の列
13aの上下側に隣接し、水平方向にGとBのカラーフ
ィルタ要素が交互に並ぶ第2の列13bとから構成さ
れ、CCD12では、各カラーフィルタ要素に対応した
画素信号であるR,G,B信号が生成される。
左下にG、右下にBのカラーフィルタ要素が配置された
2×2の画素マトリクスM1に区画される。パターン設
定部17では、CCD12によって生成されるR,G,
B信号から、画素マトリクスM1において左上にR信号
が位置する第1パターンと、右上にG信号が位置する第
2パターンと、左下にG信号が位置する第3パターン
と、右下にB信号が位置する第4パターンとにそれぞれ
属する画像が抽出される。
ンは、C言語で表わされた論理式(1)に従って、1つ
の画像を構成する全ての画素信号から抽出される。 !(x%2) && !(y%2) (1) なお論理式(1)において、「x」と「y」は画像の左
隅を原点とする横座標と縦座標をそれぞれ示す。すなわ
ち、左隅のR信号の座標は(0,0)その右隣のG信号の座
標は(1,0)である。また論理式(1)において、「!」
は論理否定、「%」は剰余、「&&」は論理積を示す。
したがって論理式(1)によれば、x座標とy座標がと
もに偶数である画素信号(すなわちR信号)から成る画
像が抽出される。
び第4パターンは、論理式(2)、(3)および(4)
に従って抽出される。 (x%2) && !(y%2) (2) !(x%2) && (y%2) (3) (x%2) && (y%2) (4)
ける処理を説明する。図3は、画像メモリ16に格納さ
れた、1つの画像を構成する画素の座標と色を示してい
る。補間処理部18では、後述するように、G補間処理
ルーチン(図4)と、R/B補間処理ルーチン(図5)
と、第1の補間/修正処理ルーチンと(図7、8)、第
2の補間/修正処理ルーチン(図9)とが実行される。
これらの処理ルーチンにおいて、補間等によって画素デ
ータを求めようとしている対象画素の座標は(x,y)であ
る。
トである。G補間処理ルーチンでは、第1および第4パ
ターンに属する画像に関する補間処理が行われる。
接する画素のG信号であるG(x-1,y)と右側に隣接する画
素のG信号であるG(x+1,y)との差の絶対値が、対象画素
の上側に隣接する画素のG信号であるG(x,y-1)と下側に
隣接する画素のG信号であるG(x,y+1)との差の絶対値よ
りも小さいか否かが判定される。対象画素の座標が(2,
2)である場合(すなわち第1パターンの画像)を例にと
って説明すると、対象画素はR(2,2)であり、ステップ1
01では|G(1,2)-G(3,2)|が|G(2,1)-G(2,3)|よりも小さ
いか否かが判定される。
に含まれるとき、すなわちR信号であるとき、その左右
に隣接する画素は第2パターンに属する画像に含まれ、
またその上下に隣接する画素は第3パターンに含まれ
る。一方、対象画素が第4パターンに属する画像に含ま
れるとき、すなわちB信号であるとき、その左右に隣接
する画素は第3パターンに属する画像に含まれ、またそ
の上下に隣接する画素は第2パターンに含まれる。
に隣接する画素信号の差の絶対値の方が上下に隣接する
画素信号の差の絶対値よりも小さいと判定されたとき、
ステップ102が実行され、左右に隣接する画素信号で
あるG(x-1,y)とG(x+1,y)の相加平均が、対象画素のG信
号gとして求められる。これに対して、対象画素の左右
に隣接する画素信号の差の絶対値が上下に隣接する画素
信号の差の絶対値よりも小さくないと判定されたとき、
ステップ103において、上下に隣接する画素信号であ
るG(x,y-1)とG(x,y+1)の相加平均が、対象画素のG信号
gとして求められる。ステップ102または103の実
行により、G補間処理ルーチンは終了する。
および第4パターンに属する画像の各画素に関し、左右
および上下に隣接する4つのG信号において、差の小さ
い方の組の2つのG信号の平均値が対象画素のG信号と
して求められる。第1および第4パターンに属する画像
の全ての画素に対してG補間処理ルーチンが実行される
と、1つの画像を構成する全画素におけるG信号が求め
られたことになる。
ャートである。R/B補間処理ルーチンでは、第2およ
び第3パターンに属する画像に関する補間処理が行われ
る。
ンに属する画像に含まれるか否かが判定される。対象画
素が第2パターンに属する画像に含まれるとき、すなわ
ち対象画素が画素マトリクスM1(図2)の右上のG信
号であるとき、ステップ202が実行される。これに対
して対象画素が第2パターンに含まれないとき、すなわ
ち第3パターンに含まれ、画素マトリクスM1(図2)
の左下のG信号であるとき、ステップ203が実行され
る。
接する画素信号(第1パターンの画像)であるR(x-1,y)
とR(x+1,y)の相加平均が対象画素のR信号rとして求め
られる。また対象画素の上下に隣接する画素信号(第4
パターンの画像)であるB(x,y-1)とB(x,y+1)の相加平均
が対象画素のB信号bとして求められる。
接する画素信号(第1パターンの画像)であるR(x,y-1)
とR(x,y+1)の相加平均が対象画素のR信号rとして求め
られる。また対象画素の左右に隣接する画素信号(第4
パターンの画像)であるB(x-1,y)とB(x+1,y)の相加平均
が対象画素のB信号bとして求められる。
R/B補間処理ルーチンは終了する。このようにR/B
補間処理ルーチンでは、第2および第3パターンに属す
る画像の各画素に関し、左右および上下に隣接する画素
信号を補間することにより、対象画素のRおよびB信号
が求められる。G補間処理ルーチン(図4)が完了し、
かつ第2および第3パターンに属する画像の全ての画素
に対してR/B補間処理ルーチンが実行されると、図6
から理解されるように、1つの画像を構成する全画素に
おけるG信号が求められ、また第2および第3パターン
に属する画像の各画素に関してR信号rとB信号bが求
められたことになる。すなわち第1パターンに属する画
像に関しては、B信号がまだ求められておらず、また第
4パターンに属する画像に関しては、R信号がまだ求め
られていない。
画像の各画素に関してB信号を求めるとともに、G補間
処理ルーチン(図4)により求められたG信号とCCD
12により生成されたR信号とを修正する第1の補間/
修正処理ルーチンのフローチャートである。
接する画素のG信号であるG(x-1,y)と対象画素のG信号
であるG(x,y)との差の絶対値が、対象画素の右側に隣接
する画素のG信号であるG(x+1,y)と対象画素のG信号で
あるG(x,y)との差の絶対値よりも小さいか否かが判定さ
れる。換言すれば、対象画素の左右に隣接するいずれの
画素のG信号が対象画素のG信号に近い値を有するか否
かが判定される。左側の画素のG信号が対象画素のG信
号により近いとき、ステップ302において、パラメー
タpが−1に定められる。これに対し、右側の画素のG
信号が対象画素のG信号により近い、あるいは等しいと
き、ステップ303において、パラメータpが1に定め
られる。
接する画素のG信号であるG(x,y-1)と対象画素のG信号
であるG(x,y)との差の絶対値が、対象画素の下側に隣接
する画素のG信号であるG(x,y+1)と対象画素のG信号で
あるG(x,y)との差の絶対値よりも小さいか否かが判定さ
れる。すなわち対象画素の上下に隣接するいずれの画素
のG信号が対象画素のG信号に近い値を有するか否かが
判定される。上側のG信号が対象画素のG信号により近
いとき、ステップ305において、パラメータqが−1
に定められる。これに対し、下側のG信号が対象画素の
G信号により近い、あるいは等しいとき、ステップ30
6において、パラメータqが1に定められる。
ずれかに隣接する画素と、上下のいずれかに隣接する画
素と、対象画素とに関し、G信号の大きさが比較され
る。対象画素の左側の画素のG信号が右側の画素のG信
号よりも対象画素のG信号に近く、かつ対象画素の上側
の画素のG信号が下側の画素のG信号よりも対象画素の
G信号に近いとき、パラメータp,qはともに−1であ
り、G(x-1,y)とG(x,y)との差の絶対値が、G(x,y-1)とG
(x,y)との差の絶対値よりも小さいか否かが判定され
る。左側のG信号が対象画素のG信号により近いとき、
ステップ308において、パラメータsがpすなわち−
1に定められる。これに対し、上側のG信号が対象画素
のG信号により近い、あるいは等しいとき、ステップ3
09においてパラメータsが2×qすなわち−2に定め
られる。
パラメータp,qがそれぞれ−1,1であるとき、パラ
メータp,qがそれぞれ1,−1であるときも同様にし
てステップ307、308または309が実行される。
このようにして第1の補間/修正処理ルーチンでは、対
象画素のG信号に関し、第2および第3パターンに属す
る画像に含まれる、隣接する画素のG信号の値が検討さ
れ、左側に隣接する画素のG信号が最も近ければパラメ
ータsは−1に、右側に隣接する画素のG信号が最も近
ければパラメータsは1に、上側に隣接する画素のG信
号が最も近ければパラメータsは−2に、下側に隣接す
る画素のG信号が最も近ければパラメータsは2に、そ
れぞれ定められる。
いて、対象画素のG信号に最も近いG信号を有する画素
を類似画素と呼ぶ。類似画素は、輝度値が対象画素の輝
度値に最も近いものが好ましいが、対象画素の輝度値が
未知であるため、G信号を用いて輝度値を判定し、類似
画素を抽出している。
あるか否か、すなわち類似画素が対象画素の左側に隣接
する画素であるか否かが判定される。パラメータsが−
1であるとき、ステップ311が実行され、類似画素の
R,G,B信号であるR(x-1,y),G(x-1,y),B(x-1,y)を用
いて輝度値Yが求められ、また類似画素のG信号である
G(x-1,y)と対象画素のG信号であるG(x,y)と輝度値Yと
を用いて補正値YGが求められる。
(5)式および(6)式に従って演算される。 Y=0.299×R(x-1,y)+0.587×G(x-1,y)+0.114×B(x-1,y) (5) YG=Y×(G(x,y)-G(x-1,y))/G(x-1,y) (6)
は、(6)式から理解されるように、対象画素と類似画
素との間におけるG信号の変化率に類似画素の輝度値Y
を乗じて求められる。
R信号が(7)式と(8)式に従って演算され、修正さ
れたG信号g’と修正されたR信号r’が求められる。
また対象画素のB信号が(9)式に従って演算され、補
間されたB信号bが求められる。これにより、第1の補
間/修正処理ルーチンは終了する。 r’=YG+R(x',y') (7) g’=YG+G(x',y') (8) b=YG+B(x',y') (9)
ップ311の後ステップ312が実行されるときはR(x-
1,y),G(x-1,y),B(x-1,y)であり、ステップ314の後ス
テップ312が実行されるときはR(x+1,y),G(x+1,y),B
(x+1,y)であり、ステップ316の後ステップ312が
実行されるときはR(x,y-1),G(x,y-1),B(x,y-1)であり、
ステップ317の後ステップ312が実行されるときは
R(x,y+1),G(x,y+1),B(x,y+1) である。
1ではないと判定されたとき、ステップ313へ進み、
パラメータsが1であるか否かが判定され、類似画素が
対象画素の右側に隣接する画素であるか否かが判定され
る。パラメータsが1であるとき、ステップ314が実
行され、類似画素のR,G,B信号を用いて輝度値Y、
色差信号Cb、Crおよび補正値YGが求められる。
a)式および(6a)式に従って演算される。 Y=0.299×R(x+1,y)+0.587×G(x+1,y)+0.114×B(x+1,y) (5a) YG=Y×(G(x,y)-G(x+1,y))/G(x+1,y) (6a)
わち、対象画素のG信号とR信号が(7)式と(8)式
に従って演算され、修正されたG信号g’と修正された
R信号r’が求められる。また対象画素のB信号が
(9)式に従って演算され、補間されたB信号bが求め
られる。これにより第1の補間/修正処理ルーチンは終
了する。
ではないと判定されたとき、ステップ315へ進み、パ
ラメータsが−2であるか否かが判定され、類似画素が
対象画素の上側に隣接する画素であるか否かが判定され
る。パラメータsが−2であるとき、ステップ316が
実行され、類似画素のR,G,B信号を用いて輝度値Y
および補正値YGが求められる。
b)式および(6b)式に従って演算される。 Y=0.299×R(x,y-1)+0.587×G(x,y-1)+0.114×B(x,y-1) (5b) YG=Y×(G(x,y)-G(x,y-1))/G(x,y-1) (6b)
同様に、ステップ312が実行され、対象画素のG信号
とR信号が(7)式と(8)式に従って修正され、また
対象画素のB信号が(9)式に従って演算され、第1の
補間/修正処理ルーチンは終了する。
2ではないと判定されたとき、パラメータsは2であ
る、すなわち類似画素が対象画素の下側に隣接する画素
であると見做され、ステップ317において、類似画素
のR,G,B信号を用いて輝度値Yおよび補正値YGが
求められる。
c)式および(6c)式に従って演算される。 Y=0.299×R(x,y+1)+0.587×G(x,y+1)+0.114×B(x,y+1) (5c) YG=Y×(G(x,y)-G(x,y+1))/G(x,y+1) (6c)
の場合と同様に、ステップ312が実行され、対象画素
のG信号とR信号が(7)式と(8)式に従って修正さ
れ、また対象画素のB信号が(9)式に従って演算さ
れ、第1の補間/修正処理ルーチンは終了する。
では、類似画素のR,G,B信号に補正値YGを加える
ことによって、対象画素のB信号を求めるとともに、そ
れまでに求められているG信号とR信号を修正してい
る。
ターンに属する画像の全ての画素に関して実行される。
G補間処理ルーチン(図4)、R/B補間処理ルーチン
(図5)および第1の補間/修正処理ルーチン(図7及
び図8)が完了した時点において、第1、第2および第
3パターンに属する画像に関して、R,G,B信号が求
められており、第4パターンに属する画像におけるR信
号はまだ決定されていない。
間/修正処理ルーチンにより求められる。また第2の補
間/修正処理ルーチンでは、G補間処理ルーチン(図
4)により求められたG信号とCCD12により生成さ
れたB信号とが修正される。図9は第2の補間/修正処
理ルーチンのフローチャートの後半部分を示している。
なお第2の補間/修正処理ルーチンの前半部分は図7に
示す第1の補間/修正処理ルーチンと同じであるので、
図示を省略する。
容はステップ310、313、315(図8)と同じで
ある。ステップ411、414、416、417の処理
内容はステップ311、314、316、317と同じ
である。
(10)式に従って演算され、補間されたR信号rが求
められる。対象画素のG信号とB信号が(11)式と
(12)式に従って演算され、修正されたG信号g’と
修正されたB信号b’が求められる。 r=YG+R(x',y') (10) g’=YG+G(x',y') (11) b’=YG+B(x',y') (12)
ターンに属する画像の全ての画素に関して実行される。
では、第1の補間/修正処理ルーチンと同様に、類似画
素のR,G,B信号に補正値YGを加えることによっ
て、対象画素のR信号を求めるとともに、それまでに求
められているG信号とB信号を修正している。
補間/修正処理ルーチン(図7および図8)と第2の補
間/修正処理ルーチン(図9)において、対象画素に関
して、その左右および上下に位置する画素から輝度値が
最も近いものを類似画素として抽出し、補間処理を行っ
ている。この補間処理において、2つの画素における輝
度値が近いほど色の相関が強いため、対象画素の色差信
号を類似画素の色差信号とすることにより、実際の色に
より近い画素信号を得ることができる。したがって本実
施形態によれば、再生画像における色にじみを減少させ
ることができる。
ンにより求められたG信号と、CCD12により生成さ
れたR信号とB信号が(7)、(8)、(11)および
(12)式に従って修正されるので、対象画素の色合い
が周囲に位置する画素の色合いに近くなり、画像全体と
して色にじみがより減少する。
態を説明する。図10は、第1の補間/修正処理ルーチ
ンの前半部分を示し、図11は、第2の補間/修正処理
ルーチンの前半部分を示している。その他の構成は第1
実施形態と同じであるので省略する。
び右側に隣接する画素と対象画素における輝度値の比較
として、不等式(13)が成立するか否かが判定され
る。 |0.587×(G(x-1,y)-G(x,y))+0.299×(R(x-1,y)-R(x,y))|< |0.587×(G(x+1,y)-G(x,y))+0.299×(R(x+1,y)-R(x,y))| (13) 不等式(13)が真であるとき、すなわち左側の画素の
輝度値が対象画素の輝度値の値により近いとき、ステッ
プ502において、パラメータpが−1に定められる。
これに対し、不等式(13)が偽であるとき、すなわち
右側の画素の輝度値が対象画素の輝度値により近い、あ
るいは等しいとき、ステップ503において、パラメー
タpが1に定められる。
び下側に隣接する画素と対象画素における輝度値の比較
として、不等式(14)が成立するか否かが判定され
る。 |0.587×(G(x,y-1)-G(x,y))+0.299×(R(x,y-1)-R(x,y))|< |0.587×(G(x,y+1)-G(x,y))+0.299×(R(x,y+1)-R(x,y))| (14) 不等式(14)が真であるとき、すなわち上側の画素の
輝度値が対象画素の輝度値の値により近いとき、ステッ
プ505において、パラメータqが−1に定められる。
これに対し、不等式(14)が偽であるとき、すなわち
下側の画素の輝度値が対象画素の輝度値により近い、あ
るいは等しいとき、ステップ506において、パラメー
タqが1に定められる。
ずれかに隣接する画素と、上下のいずれかに隣接する画
素と、対象画素とに関し、不等式(15)に従って輝度
値が比較される。 |0.587×(G(x+p,y)-G(x,y))+0.299×(R(x+p,y)-R(x,y))|< |0.587×(G(x,y+q)-G(x,y))+0.299×(R(x,y+q)-R(x,y))| (15) パラメータp,qがともに−1であり、かつ不等式(1
5)が真であるとき、左側の画素の輝度値が対象画素の
輝度値に最も近く、この場合ステップ508においてパ
ラメータsがpすなわち−1に定められる。これに対
し、不等式(15)が偽であるとき、すなわち上側の画
素の輝度値が対象画素の輝度値により近い、あるいは等
しいとき、ステップ509においてパラメータsが2×
qすなわち−2に定められる。
パラメータp,qがそれぞれ−1,1であるとき、パラ
メータp,qがそれぞれ1,−1であるときも同様にし
てステップ507、508または509が実行される。
このようにして第1の補間/修正処理ルーチンでは、対
象画素のG信号およびR信号と、第2および第3パター
ンに属する画像に含まれる、隣接する画素のG信号およ
びR信号とを用いて輝度値が検討され、左側に隣接する
画素の輝度値が最も近ければパラメータsは−1に、右
側に隣接する画素の輝度値が最も近ければパラメータs
は1に、上側に隣接する画素の輝度値が最も近ければパ
ラメータsは−2に、下側に隣接する画素の輝度値が最
も近ければパラメータsは2に、それぞれ定められる。
近い輝度値を有する類似画素が抽出された後、図8に示
されるフローチャートと同様な処理によって、類似画素
のR,G,B信号を用いて輝度値Yおよび補正値YGが
求められ、対象画素のB信号が補間により求められると
ともに、G信号とR信号が修正される。なお補正値YG
は、対象画素と類似画素のG信号とR信号を用いて、
(16)式に従って求められる。その他の式について
は、第1実施形態と同じである。 YG=Y×(0.587×(G(x,y)-G(x',y'))+0.299×(R(x,y)-R(x',y'))) /(0.587×G(x',y')+0.299×R(x',y')) (16) ただし、G(x',y')は類似画素のG信号、R(x',y')は類似
画素のR信号を示す。
では、第4パターンの画像のR信号が補間により求めら
れるとともに、G信号とB信号が修正される。ステップ
601では、対象画素の左側および右側に隣接する画素
と対象画素における輝度値の比較として、不等式(1
7)が成立するか否かが判定される。 |0.587×(G(x-1,y)-G(x,y))+0.144×(B(x-1,y)-B(x,y))|< |0.587×(G(x+1,y)-G(x,y))+0.144×(B(x+1,y)-B(x,y))| (17) 不等式(17)が真であるときは、ステップ602にお
いてパラメータpが−1に定められ、不等式(17)が
偽であるときは、ステップ603においてパラメータp
が1に定められる。
び下側に隣接する画素と対象画素における輝度値の比較
として、不等式(18)が成立するか否かが判定され
る。 |0.587×(G(x,y-1)-G(x,y))+0.144×(B(x,y-1)-B(x,y))|< |0.587×(G(x,y+1)-G(x,y))+0.144×(B(x,y+1)-B(x,y))| (18) 不等式(18)が真であるときは、ステップ605にお
いてパラメータqが−1に定められ、不等式(18)が
偽であるときは、ステップ606においてパラメータq
が1に定められる。
ずれかに隣接する画素と、上下のいずれかに隣接する画
素と、対象画素とに関し、不等式(19)に従って輝度
値が比較される。 |0.587×(G(x+p,y)-G(x,y))+0.144×(B(x+p,y)-B(x,y))|< |0.587×(G(x,y+q)-G(x,y))+0.144×(B(x,y+q)-B(x,y))| (19) パラメータp,qがともに−1であり、かつ不等式(1
9)が真であるとき、左側の画素の輝度値が対象画素の
輝度値に最も近く、この場合ステップ608においてパ
ラメータsがpすなわち−1に定められる。これに対
し、不等式(19)が偽であるとき、すなわち上側の画
素の輝度値が対象画素の輝度値により近い、あるいは等
しいとき、ステップ609においてパラメータsが2×
qすなわち−2に定められる。
パラメータp,qがそれぞれ−1,1であるとき、パラ
メータp,qがそれぞれ1,−1であるときも同様にし
てステップ607、608または609が実行される。
このようにして第2の補間/修正処理ルーチンでは、対
象画素のG信号およびB信号と、第2および第3パター
ンに属する画像に含まれる、隣接する画素のG信号およ
びB信号とを用いて輝度値が検討され、左側に隣接する
画素の輝度値が最も近ければパラメータsは−1に、右
側に隣接する画素の輝度値が最も近ければパラメータs
は1に、上側に隣接する画素の輝度値が最も近ければパ
ラメータsは−2に、下側に隣接する画素の輝度値が最
も近ければパラメータsは2に、それぞれ定められる。
近い輝度値を有する類似画素が抽出された後、図9に示
されるフローチャートと同じ処理によって、類似画素の
R,G,B信号を用いて輝度値Yおよび補正値YGが求
められ、対象画素のR信号が補間により求められるとと
もに、G信号とB信号が修正される。なお補正値YG
は、対象画素と類似画素のG信号とB信号を用いて、
(20)式に従って求められる。 YG=Y×(0.587×(G(x,y)-G(x',y'))+0.114×(B(x,y)-B(x',y'))) /(0.587×G(x',y')+0.114×B(x',y')) (20) ただし、G(x',y')は類似画素のG信号、B(x',y')は類似
画素のB信号を示す。
/修正処理ルーチン(図10)と第2の補間/修正処理
ルーチン(図11)において、輝度値としてG信号およ
びR信号あるいはB信号を用いているので、輝度信号を
より正確に検討することができる。したがって、再生画
像における色にじみを、第1実施形態よりも減少させる
ことができる。
によって再生画像に生じる色にじみを減少させることが
できる。
えたデジタルカメラの概略的な構成を示すブロック図で
ある。
配列と、パターン設定部において抽出される各パターン
に属する画像の画素信号とを示す図である。
である。
る。
が実行されたことによって求められた画素信号を示す図
である。
トの前半部分である。
トの後半部分である。
トの後半部分である。
ルーチンのフローチャートの前半部分である。
ルーチンのフローチャートの前半部分である。
5)
素におけるG信号およびR信号の値を用いて、類似画素
を抽出する。また、第2の補間/修正処理手段は、隣接
する画素におけるG信号およびB信号の値を用いて、類
似画素を抽出する。
1ではないと判定されたとき、ステップ313へ進み、
パラメータsが1であるか否かが判定され、類似画素が
対象画素の右側に隣接する画素であるか否かが判定され
る。パラメータsが1であるとき、ステップ314が実
行され、類似画素のR,G,B信号を用いて輝度値Yお
よび補正値YGが求められる。
Claims (17)
- 【請求項1】 水平方向にレッド(R)とグリーン
(G)のカラーフィルタ要素が交互に並ぶ第1の列と、
この第1の列の上下側に隣接し、水平方向にGとブルー
(B)のカラーフィルタ要素が交互に並ぶ第2の列とか
ら構成されるカラーフィルタと、 前記各カラーフィルタ要素に対応した画素信号である
R,G,B信号を生成する撮像素子と、 前記撮像素子によって生成されたR,G,B信号から、
2×2の画素マトリクスにおいて左上にR信号が位置す
る第1パターンと、右上にG信号が位置する第2パター
ンと、左下にG信号が位置する第3パターンと、右下に
B信号が位置する第4パターンとにそれぞれ属する画像
を抽出するパターン設定手段と、 前記第1および第4パターンに属する画像の各画素に関
し、隣接する画素のG信号を利用してG信号を求めるG
補間処理手段と、 前記第2および第3パターンに属する画像の各画素に関
し、隣接する画素のRおよびB信号を利用してRおよび
B信号を求めるR/B補間処理手段と、 前記第1パターンに属する画像の各画素に関し、隣接す
る画素の中から輝度値が最も近い類似画素を抽出し、前
記類似画素との間における輝度値の変化率に対応した第
1の補正値と前記類似画素のB,G,R信号とに基づい
て、B信号を求めるとともに、前記G補間処理手段によ
り求められたG信号と前記撮像素子により生成されたR
信号とを修正する第1の補間/修正処理手段と、 前記第4パターンに属する画像の各画素に関し、隣接す
る画素の中から輝度値が最も近い類似画素を抽出し、前
記類似画素との間における輝度値の変化率に対応した第
2の補正値と前記類似画素のR,G,B信号とに基づい
て、R信号を求めるとともに、前記G補間処理手段によ
り求められたG信号と前記撮像素子により生成されたB
信号とを修正する第2の補間/修正処理手段とを備える
ことを特徴とする画像補間装置。 - 【請求項2】 前記G補間処理手段において、前記隣接
する画素が前記第2および第3パターンに属する画像に
含まれることを特徴とする請求項1に記載の画像補間装
置。 - 【請求項3】 前記R/B補間処理手段において、前記
隣接する画素が前記第1および第4パターンに属する画
像に含まれることを特徴とする請求項1に記載の画像補
間装置。 - 【請求項4】 前記第1の補間/修正処理手段および前
記第2の補間/修正処理手段において、前記隣接する画
素が前記第2および第3パターンに属する画像に含まれ
ることを特徴とする請求項1に記載の画像補間装置。 - 【請求項5】 前記第1の補間/修正処理手段および第
2の補間/修正処理手段が、前記隣接する画素における
G信号の値を用いて、前記類似画素を抽出することを特
徴とする請求項1に記載の画像補間装置。 - 【請求項6】 前記第1の補間/修正処理手段が、前記
第1パターンに属する画像の各画素に関し、前記類似画
素のB,G,R信号にそれぞれ前記第1の補正値を加え
ることにより、前記B信号を求めるとともに前記G信号
とR信号を修正することを特徴とする請求項1に記載の
画像補間装置。 - 【請求項7】 前記第1の補正値が、前記第1パターン
に属する画像の各画素に関し、前記類似画素との間にお
けるG信号の変化率に前記類似画素の輝度値を乗じて求
められることを特徴とする請求項1に記載の画像補間装
置。 - 【請求項8】 前記第1の補間/修正処理手段が、下記
式に従って前記B信号を求めるとともに前記G信号とR
信号を修正することを特徴とする請求項7に記載の画像
補間装置。 Y=0.299×R(x',y')+0.587×G(x',y')+0.114×B(x',y') YG=Y×(G(x,y)-G(x',Y'))/G(x',y') r’=YG+R(x',y') g’=YG+G(x',y') b=YG+B(x',y') ただし、Yは前記類似画素の輝度値、YGは前記第1の
補正値、R(x',y'), G(x',y'),B(x',y')は前記類似画
素のR,G,B信号、G(x,y)は第1パターンに属する画
像の画素のG信号、bは前記第1の補間/修正処理手段
により求められた前記第1パターンに属する画素のB信
号、r’は修正されたR信号、g’は修正されたG信号
である。 - 【請求項9】 前記第2の補間/修正処理手段が、前記
第4パターンに属する画像の各画素に関し、前記類似画
素のR,G,B信号にそれぞれ前記第2の補正値を加え
ることにより、前記R信号を求めるとともに前記G信号
とB信号を修正することを特徴とする請求項1に記載の
画像補間装置。 - 【請求項10】 前記第2の補正値が、前記第4パター
ンに属する画像の各画素に関し、前記類似画素との間に
おけるG信号の変化率に前記類似画素の輝度値を乗じて
求められることを特徴とする請求項1に記載の画像補間
装置。 - 【請求項11】 前記第2の補間/修正処理手段が、下
記式に従って前記R信号を求めるとともに前記G信号と
B信号を修正することを特徴とする請求項10に記載の
画像補間装置。 Y=0.299×R(x',y')+0.587×G(x',y')+0.114×B(x',y') YG=Y×(G(x,y)-G(x',y'))/G(x',y') r=YG+R(x',y') g’=YG+G(x',y') b’=YG+B(x',y') ただし、Yは前記類似画素の輝度値、YGは前記第2の
補正値、R(x',y'), G(x',y'),B(x',y')は前記類似画
素のR,G,B信号、G(x,y)は第4パターンに属する画
像の画素のG信号、rは前記第2の補間/修正処理手段
により求められた前記第4パターンに属する画像の画素
のR信号、g’は修正されたG信号、b’は修正された
B信号である。 - 【請求項12】 前記第1の補間/修正処理手段が、前
記隣接する画素におけるG信号およびR信号の値を用い
て、前記類似画素を抽出することを特徴とする請求項1
に記載の画像補間装置。 - 【請求項13】 前記第2の補間/修正処理手段が、前
記隣接する画素におけるG信号およびB信号の値を用い
て、前記類似画素を抽出することを特徴とする請求項1
に記載の画像補間装置。 - 【請求項14】 前記第1の補正値が、前記第1パター
ンに属する画像の各画素に関し、その画素と前記類似画
素におけるG信号およびR信号に基づいて得られる第1
の参照値と前記類似画素のG信号およびR信号に基づい
て得られる第2の参照値との比率を前記輝度値に乗じて
求められることを特徴とする請求項1に記載の画像補間
装置。 - 【請求項15】 前記第1の補間/修正処理手段が、下
記式に従って前記B信号を求めるとともに前記G信号と
R信号を修正することを特徴とする請求項14に記載の
画像補間装置。 Y=0.299×R(x',y')+0.587×G(x',y')+0.114×B(x',y') YG=Y×(0.587×(G(x,y)-G(x',y')+0.299×(R(x,y)-R(x',y')) /(0.587×G(x',y')+0.299×R(x',y')) r’=YG+R(x',y) g’=YG+G(x',y') b=YG+B(x',y') ただし、Yは前記類似画素の輝度値、YGは前記第1の
補正値、R(x',y'), G(x',y'),B(x',y')は前記類似画
素のR,G,B信号、G(x,y)は第1パターンに属する画
像の画素のG信号、bは前記第1の補間/修正処理手段
により求められた前記第1パターンに属する画像の画素
のB信号、r’は修正されたR信号、g’は修正された
G信号である。 - 【請求項16】 前記第2の補間/修正処理手段が、前
記第4パターンに属する画像の各画素に関し、その画素
と前記類似画素におけるG信号およびB信号に基づいて
得られる第1の参照値と前記類似画素のG信号およびB
信号に基づいて得られる第2の参照値との比率を前記輝
度値に乗じて求められることを特徴とする請求項1に記
載の画像補間装置。 - 【請求項17】 前記第2の補間/修正処理手段が、下
記式に従って前記R信号を求めるとともに前記G信号と
B信号を修正することを特徴とする請求項16に記載の
画像補間装置。 Y=0.299×R(x',y')+0.587×G(x',y')+0.114×B(x',y') YG=Y×(0.587×(G(x,y)-G(x',y'))+0.114×(B(x,y)-B(x',y')) /(0.587×G(x',y')+0.114×B(x',y')) r=YG+R(x',y') g’=YG+G(x',y') b’=YG+B(x',y') ただし、Yは前記類似画素の輝度値、YGは前記第2の
補正値、R(x',y'), G(x',y'),B(x',y')は前記類似画
素のR,G,B信号、G(x,y)は第4パターンに属する画
像の画素のG信号、rは前記第2の補間/修正処理手段
により求められた前記第4パターンに属する画像の画素
のR信号、g’は修正されたG信号、b’は修正された
B信号である。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001010084A JP4334151B2 (ja) | 2001-01-18 | 2001-01-18 | 画像補間装置 |
US10/043,318 US7106341B2 (en) | 2001-01-15 | 2002-01-14 | Image interpolating device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001010084A JP4334151B2 (ja) | 2001-01-18 | 2001-01-18 | 画像補間装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002218484A true JP2002218484A (ja) | 2002-08-02 |
JP4334151B2 JP4334151B2 (ja) | 2009-09-30 |
Family
ID=18877464
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001010084A Expired - Fee Related JP4334151B2 (ja) | 2001-01-15 | 2001-01-18 | 画像補間装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4334151B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002218483A (ja) * | 2001-01-15 | 2002-08-02 | Asahi Optical Co Ltd | 画像補間装置 |
-
2001
- 2001-01-18 JP JP2001010084A patent/JP4334151B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002218483A (ja) * | 2001-01-15 | 2002-08-02 | Asahi Optical Co Ltd | 画像補間装置 |
JP4495355B2 (ja) * | 2001-01-15 | 2010-07-07 | Hoya株式会社 | 画像補間装置 |
Also Published As
Publication number | Publication date |
---|---|
JP4334151B2 (ja) | 2009-09-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8358835B2 (en) | Method for detecting and correcting chromatic aberration, and apparatus and method for processing image using the same | |
JP5672776B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
TWI737979B (zh) | 圖像去馬賽克裝置及方法 | |
CN104869380A (zh) | 图像处理设备和图像处理方法 | |
JP6282123B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP4945942B2 (ja) | 画像処理装置 | |
JP3905708B2 (ja) | 画像補間装置 | |
US7046277B2 (en) | Image interpolating device, including interpolation and modification processors | |
JP2007028042A (ja) | 画像処理装置 | |
JP2009194721A (ja) | 画像信号処理装置、画像信号処理方法、及び撮像装置 | |
US7106341B2 (en) | Image interpolating device | |
JP4797478B2 (ja) | 画像処理装置 | |
JP4334150B2 (ja) | 画像補間装置 | |
JP5673186B2 (ja) | 撮像装置及び撮像装置の補間処理方法 | |
US8804025B2 (en) | Signal processing device and imaging device | |
US6900833B2 (en) | Image interpolating device | |
JP4334151B2 (ja) | 画像補間装置 | |
JP4334152B2 (ja) | 画像補間装置 | |
EP1475032A1 (en) | Color misregistration reducer | |
JP4666786B2 (ja) | 画像補間装置 | |
JP4495355B2 (ja) | 画像補間装置 | |
JP2003134523A (ja) | 撮像装置及び撮像方法 | |
CN105359517A (zh) | 图像处理装置和图像处理方法 | |
JP2002232903A (ja) | 画像補間装置 | |
JP4334484B2 (ja) | 画素信号処理装置及び方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061124 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20080425 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090213 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090324 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090521 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090617 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090623 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120703 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120703 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120703 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130703 Year of fee payment: 4 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |