JP2003134523A - 撮像装置及び撮像方法 - Google Patents
撮像装置及び撮像方法Info
- Publication number
- JP2003134523A JP2003134523A JP2001328009A JP2001328009A JP2003134523A JP 2003134523 A JP2003134523 A JP 2003134523A JP 2001328009 A JP2001328009 A JP 2001328009A JP 2001328009 A JP2001328009 A JP 2001328009A JP 2003134523 A JP2003134523 A JP 2003134523A
- Authority
- JP
- Japan
- Prior art keywords
- color
- signal
- pixel
- interpolation
- signal level
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Abandoned
Links
- 238000000034 method Methods 0.000 title claims abstract description 50
- 238000003384 imaging method Methods 0.000 claims abstract description 109
- 238000001514 detection method Methods 0.000 claims description 31
- 230000002093 peripheral effect Effects 0.000 claims description 30
- 239000003086 colorant Substances 0.000 claims description 16
- 230000006866 deterioration Effects 0.000 abstract description 13
- 238000007796 conventional method Methods 0.000 abstract description 2
- 238000004364 calculation method Methods 0.000 description 72
- 230000015654 memory Effects 0.000 description 33
- 238000012545 processing Methods 0.000 description 31
- 238000010586 diagram Methods 0.000 description 29
- 230000000694 effects Effects 0.000 description 16
- 230000014509 gene expression Effects 0.000 description 8
- 239000000872 buffer Substances 0.000 description 6
- 238000012937 correction Methods 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 241000519995 Stachys sylvatica Species 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 2
- 101000631695 Homo sapiens Succinate dehydrogenase assembly factor 3, mitochondrial Proteins 0.000 description 1
- 102100028996 Succinate dehydrogenase assembly factor 3, mitochondrial Human genes 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000013144 data compression Methods 0.000 description 1
- 108090000237 interleukin-24 Proteins 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Landscapes
- Image Input (AREA)
- Color Television Image Signal Generators (AREA)
- Facsimile Image Signal Circuits (AREA)
- Color Image Communication Systems (AREA)
Abstract
る方法を用いれば、画像中のエッジを十分に再現するこ
とができるが、局所的な色信号レベルの変化率比を用い
ているため、特有の画質劣化を生じることがある課題が
あった。 【解決手段】 信号相関方向が垂直方向である場合、垂
直方向の信号レベルによる幾何学的な相似演算によって
仮決定された補間色の非撮像色信号の信号レベルを選択
し、その信号相関方向が水平方向である場合、水平方向
の信号レベルによる幾何学的な相似演算によって仮決定
された補間色の非撮像色信号の信号レベルを選択する。
Description
ィルタが各素子上に1種類ずつ規則的に配列された撮像
素子を有する撮像装置及び撮像方法に関するものであ
る。
像入力装置においては、3原色であるR色フィルタ、G
色フィルタ及びB色フィルタを別個に貼り付けた2次元
撮像素子を3枚用い、1回の撮影で光学系から入射され
る被写体の光学像を分光プリズム等で分光することによ
り、各原色用撮像素子に入射させて、1画面分のフルカ
ラー画像情報を得る3板式に代表される多板式の撮像方
法が知られている。
光電変換素子上に、例えば、R色、G色、あるいはB色
用のいずれか1種類のカラーフィルタを各々貼り付けた
1枚の2次元撮像素子を用い、1回の撮影で得られた画
像情報について各光電変換素子で得られない色信号を周
辺画素信号を用いて演算により算出し、疑似的に各画素
でフルカラー画像情報を得る単板式の撮影方法がある。
む光学部品点数が少なくて済むため、小型かつ低価格に
装置を構成することが可能であり、民生用ディジタルス
チルカメラやディジタルビデオカメラ等で主に採用され
ている。図20は単板式2次元撮像素子として一般的な
Bayer型配列で原色フィルタを構成する例を示して
いる。図中のR,G,B色信号は、光電変換素子の配置
上その画素位置にてサンプリングされる撮像色信号であ
り、Rは赤色(R色信号)、Gは緑色(G色信号)、B
は青色(B色信号)を示している。
素子で得られた画像情報から色信号補間を行って非撮像
色信号を生成することによりフルカラー画像を得る手順
(従来の線形補間法)について説明する。図20の撮像
素子を用いて撮影した画像を各画素にRGB全成分を持
つフルカラー画像として生成する場合、各画素のフィル
タ色(撮像色)以外の2色の非撮像色信号を生成する必
要がある。
1に示す位置にのみ、撮像によって得られたG色信号
(大文字“G”で表記)が存在する。従来の一般的な技
術では、上下左右の4画素の信号の平均値からG色信号
の存在しない画素におけるG色信号レベル(小文字
“g”で表記)を算出して補間することにより、全画素
分のG色信号を得ることができる。また、B色信号に着
目すると、図22に示すように上下のB色信号からb1
信号、上下左右のB色信号からb2信号、左右のB色信
号からb3信号を内挿して、全画面分のB色信号を得
る。R色信号においても、図23に示すように、B色信
号と同様の方法にて全画素分の信号を補間することがで
きる。上記の方法によって全画素におけるR,G,B色
信号を得ることができる。
画像を生成する従来の信号処理では、単に周辺画素信号
の平均値を該当画素における色信号としているため、十
分な解像度を得ることができず、画像の色変化の激しい
エッジ部分に本来の被写体には存在しない偽色が発生す
る問題があった。単板撮像素子における図20の画像が
各画素上に1色の色フィルタを配置しているために、
R、G、B各色とも単板撮像素子の画素数分だけの解像
度が得られないためである。また、色変化の激しいエッ
ジでは本来相関性の低い周辺画素を参照して補間を行う
ために、色毎にエッジの位置が微妙にずれて偽色が発生
することになる。
かかる問題を解決するために、画像が局所的な領域では
各色信号毎の信号変化に高い相関性があることを用い
て、高解像度かつ偽色を良好に抑制した色補間を行う方
法を開示している。
された従来の撮像装置を示す構成図であり、図におい
て、1は被写体からの入射光を集光するレンズ、2はレ
ンズ1を通して入射した光を光電変換する撮像素子、3
は撮像素子2から出力されるアナログ画像信号をディジ
タル画像信号に変換するA/D変換器、4は1画面分の
ディジタル画像信号を一時記憶するフレームメモリ、5
はフレームメモリ4上の画像データから画素位置に応じ
てR色信号,G色信号又はB色信号に分別するマルチプ
レクサ、6a〜6cはR色信号,G色信号又はB色信号
に対応した数ライン分からなる2次元メモリ、7a〜7
cはR色信号,G色信号又はB色信号に対応した2次元
ローパスフィルタ(以下、LPFと称する)、8は各色
のLPF出力を参照して注目画素における非撮影色信号
をLPF出力の比によって相似的に算出する演算回路で
ある。
入射した光は撮像素子2に結像する。撮像素子2では入
射光を光電変換し、アナログ電気信号として出力する。
出力されたアナログ電気信号はA/D変換器3によりデ
ィジタル電気信号に変換され、フレームメモリ4へ入力
される。フレームメモリ4に蓄積された画像信号は図示
しない制御手段によってマルチプレクサ5に順次送信さ
れ、R,G,Bの複数ライン分の信号がそれぞれ別々に
2次元メモリ6a〜6cに書き込まれる。図25〜図2
7は各色の有意な画像信号が2次元メモリ6a〜6cに
書き込まれている様子を示している。図25〜図27に
示された画像信号は2次元LPF7a〜7cにより平滑
化され、2次元LPF7a〜7cは注目画素を中心とし
て例えば図25〜図27内の画像信号の平均値として出
力する。図28〜図30は2次元LPF7a〜7cの出
力値を示している。
明する。図20において、例えば、m行n列のGの位置
におけるR、Bの算出は、式(1)、式(2)のように
異なる色間での信号変化割合の比を求めることで行う。
ここで、RLPFはRのLPF出力値、GLPFはGの
LPF出力値、BLP FはBのLPF出力値を示し、G
(m,n)はG色信号の撮像位置(以下、G画素位置と
称する)において実際に撮影された撮像素子2から得ら
れる出力信号を示し、R(m,n)はG画素位置におい
て算出するRの信号値を示している。 R(m,n)=G(m,n)×RLPF/GLPF (1) B(m,n)=G(m,n)×BLPF/GLPF (2)
撮影色が色フィルタJの画素位置(m,n)において、
Kの色を補間する場合の算出方法は式(3)で表され
る。ただし、この場合の(m,n)はフレームメモリ4
の2次元座標値を示している。 K(m,n)=J(m,n)×KLPF/JLPF (3)
度信号の変化に比べて色信号の変化が少ない、言い換え
れば局所領域では色相関性が高いという撮影画像の一般
的な特徴を用いている。図31は式(3)を用いてG色
フィルタが存在する画素位置のR色を補間生成する場合
の模式図である。図は説明の簡略化のため一次元方向の
みの撮像素子を考えた場合を示している。図において、
●印で示される信号は実際に撮像素子2により撮影され
た各色の信号レベルを示し、2点鎖線で示すグラフは参
照するG色信号の信号変化を、実線で示すグラフはG画
素位置でR色信号が正しく補間された場合の期待される
信号変化を示している。
補間されるR色信号は、二重線上の●の信号レベルとし
て生成される。この場合、信号レベル変化の緩慢な領域
では問題なく妥当な信号レベル値が生成されるが、画像
のエッジを構成する信号レベル変化の急峻な領域では補
間される色信号が十分なエッジとして再現されず、色間
の信号変化に偏りが生じることで、本来存在しない偽色
として知覚されるようになる。これに対して、特開平5
−56446号公報に開示されている方法を用いて色補
間を行った場合に生成される色信号は、図31の☆に示
される信号レベルとして再現される。従って、画像中の
エッジを十分に再現することで得られるフルカラー画像
は、高解像度かつ偽色の少ない高画質なものとなる。
のように構成されているので、特開平5−56446号
公報に開示されている方法を用いれば、画像中のエッジ
を十分に再現することができるが、局所的な色信号レベ
ルの変化率比を用いているため、特有の画質劣化を生じ
ることがある課題があった。
示されている方法で色補間を行った場合に生じる画質劣
化を示す模式図である。図に示すように、参照する色信
号レベルのLPF値が低く微弱な変化を伴う場合で、補
間生成する色信号レベルのLPF値が高い場合、即ち、
高彩度の有彩色領域では、参照色信号である撮像色信号
の変化割合に比例的に反応する形で補間色信号である非
撮像色信号が大きな変化を生じ、結果的に該当画素が本
来画像中に存在しない黒ずみや白抜けを生じることがあ
る。
(0〜1023の範囲、0:暗、1023:明)である
撮像装置を想定し、図32において局所的な信号レベル
としてG1=4、G3=1、G5=4、R2=R4=1
023であり、かつ各LPFは単純平均で算出するもの
とした場合、式(3)は具体的には式(4)〜式(6)
の演算を行うことになる。 GLPF=(4+1+4)/3=3 (4) RLPF=(1023+1023)/2=1023 (5) r3=G3×RLPF/GLPF =1×1023/3=341 (6) 従って、生成される補間信号値r3は同色の周辺画素信
号レベルに比較して極端に低下した値になる。
示されている方法が参照色Gの信号変化割合を補間しよ
うとする色Rに対して適用するためである。即ち、G
LPFの値に対してG3との比率3:1が補間比率とし
てRLPFにかかるためである。本来、1024階調の
ダイナミックレンジを有する信号では信号値4に対する
信号値1は『信号値が1/4に変化した』という見方よ
り、ノイズ等に影響されうる微小変化分として捉えるべ
き差分量である。
開示されている方法の場合、撮影した絵柄によっては固
有の画質劣化を引き起こすなどの課題があった。また、
式(3)の乗除算を撮像素子2の全画素に対して補間信
号の種類の数だけ繰返し行う必要があり、演算規模が大
きくなる。即ち、ソフトウェアで実現するに際して処理
速度の低下を招き、電子回路で実現する際には回路規模
が大きくなるという課題があった。
めになされたもので、画質劣化の発生を良好に抑制する
ことができるとともに、簡易な構成で実現可能な実用性
の高い撮像装置及び撮像方法を得ることを目的とする。
は、検出手段により検出された信号相関方向が垂直方向
である場合、垂直方向の信号レベルによる幾何学的な相
似演算によって仮決定された補間色の非撮像色信号の信
号レベルを選択し、その信号相関方向が水平方向である
場合、水平方向の信号レベルによる幾何学的な相似演算
によって仮決定された補間色の非撮像色信号の信号レベ
ルを選択する選択手段を設けるようにしたものである。
り検出された信号相関方向が垂直方向である場合、第1
の信号レベル決定手段が垂直方向の信号レベルによる幾
何学的な相似演算によって補間色の非撮像色信号の信号
レベルを決定し、その信号相関方向が水平方向である場
合、第2の信号レベル決定手段が水平方向の信号レベル
による幾何学的な相似演算によって補間色の非撮像色信
号の信号レベルを決定するようにしたものである。
像色信号の信号レベルを決定する際、色補間を行う画素
の垂直方向又は水平方向に位置する画素における撮像色
信号の信号レベルを補正し、補正後の信号レベルから幾
何学図形を形成するようにしたものである。
画素の2次元座標を(m,n)、色補間を行う画素にお
ける所定色の撮像色信号の信号レベルをJ(m,n)、
色補間を行う画素の垂直方向又は水平方向に位置する画
素における所定色の撮像色信号の信号レベルの平均値を
JAVE(m,n)、色補間を行う画素における補間色
の非撮像色信号の信号レベルをK(m,n)、色補間を
行う画素の垂直方向又は水平方向に位置する画素におけ
る補間色の撮像色信号の信号レベルの平均値をKAVE
(m,n)、所定色の撮像色信号の信号レベルに係る幾
何学図形に対する補間色の撮像色信号の信号レベルに係
る幾何学図形の線分相似比をCdとするとき、下記の演
算式により補間色の非撮像色信号の信号レベルK(m,
n)を算出するようにしたものである。 記 K(m,n)=KAVE(m,n)−(J(m,n)−
JAVE(m,n))×Cd
2分の1になるように、色補間を行う画素の垂直方向又
は水平方向に位置する画素を選択するようにしたもので
ある。
する信号相関値と水平方向に対する信号相関値の差が所
定の閾値より小さい場合、第1の信号レベル決定手段に
より仮決定された信号レベルと第2の信号レベル決定手
段により仮決定された信号レベルとの加重平均値を選択
するようにしたものである。
画素の垂直方向に位置する画素における補間色の撮像色
信号の信号レベルの重み付け平均値を計算するととも
に、色補間を行う画素の水平方向に位置する画素におけ
る補間色の撮像色信号の信号レベルの重み付け平均値を
計算し、双方の重み付け平均値の大小比較により周辺領
域の信号相関方向を決定するようにしたものである。
り検出された信号相関方向が45度方向又は135度方
向である場合、第1の信号レベル決定手段により仮決定
された信号レベルと第2の信号レベル決定手段により仮
決定された信号レベルとの加重平均値を選択するように
したものである。
画素の垂直方向及び水平方向に位置する画素における補
間色の撮像色信号の信号レベルの平均値を閾値として、
その補間色の撮像色信号の信号レベルを2値化するとと
もに、色補間を行う画素における所定色の撮像色信号の
信号レベルを2値化し、その2値化結果に基づいて色補
間を行う画素の周辺領域の信号相関方向を検出するよう
にしたものである。
画素の周辺領域の画素における補間色の撮像色信号の信
号レベルの平均値を閾値として、その補間色の撮像色信
号の信号レベルを2値化するとともに、色補間を行う画
素における所定色の撮像色信号の信号レベルを2値化
し、その2値化結果に基づいて色補間を行う画素の周辺
領域の信号相関方向を検出するようにしたものである。
り検出された信号相関方向が垂直方向である場合、垂直
方向の信号レベルによる幾何学的な相似演算によって仮
決定された補間色の非撮像色信号の信号レベルを選択
し、その信号相関方向が水平方向である場合、水平方向
の信号レベルによる幾何学的な相似演算によって仮決定
された補間色の非撮像色信号の信号レベルを選択する選
択工程を設けるようにしたものである。
り検出された信号相関方向が垂直方向である場合、第1
の信号レベル決定工程において垂直方向の信号レベルに
よる幾何学的な相似演算によって補間色の非撮像色信号
の信号レベルを決定し、その信号相関方向が水平方向で
ある場合、第2の信号レベル決定工程において水平方向
の信号レベルによる幾何学的な相似演算によって補間色
の非撮像色信号の信号レベルを決定するようにしたもの
である。
像色信号の信号レベルを決定する際、色補間を行う画素
の垂直方向又は水平方向に位置する画素における撮像色
信号の信号レベルを補正し、補正後の信号レベルから幾
何学図形を形成するようにしたものである。
説明する。 実施の形態1.図1はこの発明の実施の形態1による撮
像装置を示す構成図であり、図において、1は被写体か
らの入射光を集光するレンズ、2はレンズ1を通して入
射した光を光電変換する撮像素子、3は撮像素子2から
出力されるアナログ画像信号をディジタル画像信号に変
換するA/D変換器、4は1画面分のディジタル画像信
号を一時記憶するフレームメモリ、5はフレームメモリ
4上の画像データから画素位置に応じてR色信号,G色
信号又はB色信号に分別するマルチプレクサ、6a〜6
cはR色信号,G色信号又はB色信号に対応した数ライ
ン分からなる2次元メモリである。9a〜9cは色補間
に使用する各種パラメータを演算する係数算出回路(第
1の信号レベル決定手段、第2の信号レベル決定手
段)、10は色補間を行う画素の周辺領域の信号相関方
向を検出し、その検出結果に基づいて補間色の非撮像色
信号の信号レベルを最終決定する演算回路(検出手段、
選択手段)である。
入射した光は撮像素子2に結像する。撮像素子2では入
射光を光電変換し、アナログ電気信号として出力する。
出力されたアナログ電気信号はA/D変換器3によりデ
ィジタル電気信号に変換され、フレームメモリ4へ入力
される。フレームメモリ4に蓄積された画像信号は図示
しない制御手段によってマルチプレクサ5に順次送信さ
れ、R,G,Bの複数ライン分の信号がそれぞれ別々に
2次元メモリ6a〜6cに書き込まれる。
リ6a〜6cに一次蓄積されている色補間を行う画素位
置の撮像色信号を含む同色の複数信号から後段の演算回
路10で行う色補間演算に使用する各種係数を算出す
る。例えば、撮像色信号がR色である画素の位置(以
下、R画素位置と称する)の非撮像色信号のうちG色信
号を補間生成する場合、係数算出回路9aではR色の当
該画素における信号レベル値RR及び上下左右に2画素
分離れた座標に位置する4つのR色信号レベル値を用い
る。図2(a)はこの時のR色信号の位置関係を示し、
図2(b)は各画素の2次元座標(x、y)軸及び信号
レベル値の軸を加えた3次元空間上で、これらの5点が
形成する2つの三角形の形状を示している。
隣接する4つのG色信号を用いる。図3(a)はこの時
のG色信号の位置関係を示し、図3(b)は各画素の2
次元座標(x、y)軸及び信号レベル値の軸を加えた3
次元空間上で、これらの4点と補間すべき当該画素にお
けるG色信号の期待される位置が形成する2つの三角形
の形状を示している。また、図4は中心画素におけるG
色信号生成時に用いるxy平面上での、R色信号及びG
色信号の位置関係を示している。
色信号Rが形成する2つの三角形と補間色である非撮像
色信号Gが形成する2つの三角形を相似図形にした場合
の相似比からG色信号の補間信号GRを算出する。図5
は図4の座標空間上で、例えば垂直方向に位置する撮像
色信号が成す三角形について、係数算出回路9aにおけ
る基準係数の算出過程を示すフローチャートである。
ける2点R2、R4の平均値RAV Eを算出する(ステ
ップST1)。次に、中心点におけるR色信号RRと平
均値RAVEの差分値RHを算出する(ステップST
2)。この過程で、参照色となる垂直方向のR色信号に
ついて、中心画素のR色信号が周辺画素に位置する他の
R色信号の平均値に対してどの程度のオフセットがある
かが算出される。
平均値GAVE=(G4+G2)/2を算出した後、差
分値RHを1/2倍した値を中心画素位置において推定
されるG色信号成分のオフセット値として加算すること
で、当該画素における仮のG色成分信号GRVを生成す
る(ステップST3)。同様にして、図4のxy平面上
の水平方向に位置する撮像したR色信号(R1,R3)
及びG色信号(G1,G3)から図5のフローチャート
に従って当該画素における仮のG色成分信号GRHを生
成する。
G色成分信号GRV又は水平G色成分信号GRHのう
ち、何れか一方を選択して最終的な出力信号を決定する
方法について説明する。一般的に、画像の局所領域では
近傍に位置する同色の信号が同程度の値である場合、そ
の領域における絵柄には大きな変化がなく近傍での色信
号に相関性が高いことが知られている。この特性を用い
て、演算回路10が図6のフローチャートにしたがって
垂直方向あるいは水平方向のいずれに相関性が高いかを
評価し、当該画素における最終的な出力値を決定する。
るG色信号について、各方向毎の信号レベル値の差分値
GV=|G4−G2|,GH=|G1−G3|を算出
し、各方向における画像の相関性指標値とする(ステッ
プST11)。次に、各相関性指標値の差をとり、所定
のしきい値Th1との大小関係を求めることで、各方向
の相関性に有意な差があるか否かを検証する(ステップ
ST12)。
い場合、即ち、各相関性指標値の差がしきい値Th1よ
り小さい場合、水平G色成分信号GRHと垂直G色成分
信号GRVの平均値を算出し、その平均値を最終出力値
GRとして出力する(ステップST13)。一方、各方
向の相関性指標値に有意な差がある場合、即ち、各相関
性指標値の差がしきい値Th1より大きい場合、各方向
の相関性指標値を大小比較し(ステップST14)、垂
直方向の相関性指標値GVが水平方向の相関性指標値G
Hより小さい場合は、垂直方向の仮の垂直G色成分信号
GRVを最終出力値GRとし(ステップST15)、水
平方向の相関性指標値GHが垂直方向の相関性指標値G
Vより小さい場合は、水平方向の仮の水平G色成分信号
GRHを最終出力値G Rとする(ステップST16)。
R2R4)と、図5のステップST1でR2及びR4を
それらの平均値RAVEで置き換えた点R2H及びR
4Hを用いた三角形(RRR2HR4H)と、期待され
る補間値GRとG2及びG4の平均値GAVEからなる
三角形(GRG2HG4H)との幾何学的な関係を示し
ている。
の大きさに相当し、信号レベルR2 H=R4H、G2H
=G4Hであることから三角形(RRR2HR4H)と
三角形(GRG2HG4H)はいずれも二等辺三角形で
あり、本方式の色補間方法としては、これら2つの二等
辺三角形が幾何学的に相似形をなすように構成してい
る。即ち、R色信号が形成する二等辺三角形とG色信号
が形成する二等辺三角形は、R画素間及びG画素間の距
離の比から線分比が2対1であり、図7においてRHと
GHの比も同様になるようにしている。具体的には、図
5のフローチャートにおいてステップST3の下段の演
算式において、RHに対して2対1になるような値(R
H/2)を加算している部分がこれに該当する。
線を想定した場合、領域内の積分値は画像エネルギーと
して定義されている。本方式で三角形を形成する2点を
それらの平均値で置き換えた二等辺三角形として定義
し、それに基づいて色補間を行うことについては、この
局所領域での画像エネルギーが保存された状態で行って
いることから、結果的に得られる補間画像の色味などの
画質については問題がないことが明らかである。以上の
ようにして、R画素位置におけるG色信号値GRがR色
信号の変化に応じた値として補間出力される。
間する場合を示したが、任意のJ画素位置におけるK色
の色補間に同様の考え方を当てはめることが可能であ
る。図8は各色画素位置における他の色成分補間を行う
際の参照色の参照画素位置と補間色の参照画素位置の関
係を示したものである。図8において、(a)はB画素
位置におけるG成分補間の場合を示しており、上記例の
RをBに置き換えることで同一の処理手順が可能であ
る。(b)はG画素位置におけるR成分及びB成分補間
の場合であり、この場合は垂直方向あるいは水平方向の
いずれか一方にしか補間色が存在しないため、相関性評
価は行わず、補間色が存在する方向の仮出力値をそのま
ま最終出力値とする。また、(c)はR画素位置におけ
るB成分補間の場合を示しており、使用する4点の注目
画素からの相対位置が斜め方向であることのみが(a)
と異なるが演算その他は同等である。また、(c)にお
けるRとBを入れ替えることによって、B画素位置にお
けるR成分補間が行える。
が適用できることは、図5のステップST1〜ST3が
下式のように一般化可能であることから説明できる。 K(m,n) =KAVE(m,n) −(J(m,n)−JAVE(m,n))×Cd (7) ただし、K(m,n)は座標(m,n)における補間す
べき非撮像色信号の信号レベル、J(m,n)は座標
(m,n)における参照色としての撮像色信号の信号レ
ベル、JAVE(m,n)は上記撮像色信号以外の同色
撮像色信号の信号レベルの平均値、CdはJ色がなす二
等辺三角形に対するK色がなす二等辺三角形の線分相似
比を示している。
水平方向及び垂直方向に順次走査しながら各画素におけ
る全色成分補間を繰返し行うことにより、1画面分の色
補間処理を実行してRGB全色信号を持つフルカラーの
画像再生が行われる。以上のように、色補間方法として
局所的な画像エネルギーの比を幾何学的な相似演算で求
めることにより、高解像度の色補間を達成することが可
能となる。また、この方式は特開平5−56446号公
報が抱える高彩度領域の黒ずみ等の画質劣化も発生する
ことがない。
トの信号レベルとしてG1=4、G3=1、G5=4、
R2=R4=1023であり、図2及び式(7)に従っ
て注目画素におけるR色信号値を算出した場合、以下の
式(8)〜式(11)の演算を行うことになる。 GH=G3=1 (8) GAVE=(4+4)/2=4 (9) RAVE=(1023+1023)/2=1023 (10) RH=RAVE+(GH−GAVE)×1/2 =1023+(1−4)/2 ≒1022 (11)
周辺画素信号レベルと同等の値になるため、高彩度かつ
有彩色の領域で極端に黒ずみや白抜け等の画質劣化を発
生することがなくなる。以上のことから、この実施の形
態1によれば、従来例が持つ高解像度かつ高画質という
特徴を維持しつつ、新たな補正処理を付加することなく
課題を解決することができる。
Cd値として、図4における参照色と補間色の座標関係
から常に1/2を使用する。従って式(7)は式(1
2)のように置き換えることが可能である。 K(m,n) =KAVE(m,n) −[(J(m,n)−JAVE(m,n))>>1] (12) ただし、演算記号“>>”は左項の数値を右項で示す数
だけ右側にビットシフトすることを意味する。さらに、
図5及び図6における処理フローチャートでは加減算以
外に2または4で割る除算を使用している。これらは式
(12)における変形と同様に、2で割る除算は右に1
ビットシフトで、4で割る除算は右に2ビットシフトで
置き換えることができる。
間方式は、加減算とビットシフトのみで全ての演算を行
うことが可能である。したがって、従来の方法に比較し
てソフトウェアで実現する場合は高速動作が可能であ
り、電子回路で実現する場合は回路規模が小さく、装置
の小型化及び低コスト化に寄与することができるという
効果がある。
算出回路9a〜9cにおけるパラメータ算出方法とパラ
メータ数が上記実施の形態1と異なる。即ち、上記実施
の形態1における相関度検出方法は、直交する2方向に
ついてそれぞれ2画素を1組とした画素群に関して相関
検出演算を行っていたが、この実施の形態2では、これ
を直交する2方向についてそれぞれ2画素を1組とした
複数組ずつの画素群に関して行うようにする。
素位置におけるG色信号の補間について説明する。図9
は演算のために参照するR画素及びG画素についての相
対位置関係を模式的に示したものである。係数算出回路
9aでは、2次元メモリ6aに入力された数ライン分の
R色信号から参照用信号として図9の各R点の値をロー
ドする。また、補間用色信号として2次元メモリ6bか
ら図9の各G点を係数算出回路9bにロードする。係数
算出回路9bでは、これらのG色信号から例えば図10
のフローチャートに従って注目画素における縦方向及び
横方向の画像の相関性を評価する。
方向及び左右方向の差分値から相関度を算出する(ステ
ップST21)。この際、縦方向のG4及びG2あるい
は横方向のG1及びG3のみから相関度を算出した場
合、注目画素近傍に画像中のエッジやG色信号のサンプ
リング周波数近傍の画素が存在するとき、方向の相関性
を誤検出する場合があるため、この実施の形態2におい
ては、それぞれの方向に位置する複数の画素群を用いて
方向の相関度を評価する。
に、上記実施の形態1に示したG4及びG2の差分値に
加えて、その1列隣に位置するG5、G1、G11を通
る線分、及びG6、G3、G12を通る線分についてG
1及びG3に対する差分値を求め、それらにG4及びG
2で算出した相関度を加算する。通常、被写体として得
られるエッジ成分は1画素のみの幅からなるラインとし
て形成されることは少なく、複数ラインにまたがってい
ることが多い。従って、同一方向の複数ラインについて
相関度を評価することで、補間後の画像に相関度の孤立
点が発生することに起因する画質の違和感を抑制するこ
とができる。同様にして、水平方向の相関度について
も、注目画素上及びその前後行に存在するラインから、
この領域の平均相関度を算出する。
所定のしきい値Th2と比較し(ステップST22)、
Th2に比べて小さければ垂直方向及び水平方向とも大
きな相関性の差がないと判断して、上記実施の形態1と
同様に図5の方法で求めた垂直方向の仮の垂直G色成分
信号GRVと水平方向の仮の水平G色成分信号GRHの
平均値を補間された出力信号値として出力する(ステッ
プST23)。一方、ステップST22で垂直または水
平相関度に著しい偏りがあると判断した場合は、それら
の大小を比較して(ステップST24)、相関度が高い
方の仮信号出力値を最終的な信号出力値として出力する
(ステップST25,ST26)。
おけるB色信号あるいは他の色画素位置における全ての
補色信号は、図7及び式(7)または式(12)から算
出することができる。ここで、図8(b)の場合は参照
色が水平方向または垂直方向のいずれかにのみ存在する
ため相関方向検出は行わず、存在する1方向を無条件で
使用する。また、参照色と補間色が図8(c)の画素配
置にある場合は、90度交差した異なる2方向の相関性
を求めることで同等の効果が得られる。このようにし
て、撮影画像データを水平方向及び垂直方向に順次走査
して色補間処理を行うことで1画面分のフルカラー画像
が得られる。
る際の相関度検出を注目画素に隣接する2画素ずつ1組
のみを用いて行ったが、この実施の形態2のように、各
方向に対して注目画素近傍における複数組について相関
度を判定することにより、画像中のある領域における相
関方向に特異点が生じにくくなるため、画像の周辺領域
のエッジ特性まで考慮に入れた安定感のある相関度判定
を行うことが可能になる。
の相関度判定を行う場合、図10のステップST21の
ように、絶対値記号で囲まれた各相関度値を単純加算し
て算出する例について説明したが、この限りではなく、
例えば、垂直方向に関しては注目画素上を通る線分に対
する|G4−G2|の項とそれ以外の隣接線分項を重み
付け加算し、水平方向についても注目画素上を通る線分
に対する|G1−G3|の項とそれ以外の隣接線分項を
重み付け加算する構成にしてもよい。
算出回路9a〜9cにおけるパラメータ算出方法とパラ
メータ数が上記実施の形態1と異なる。即ち、上記実施
の形態1における相関度検出方法は、直交する2方向に
ついてそれぞれ1組ずつの画素群に関して相関検出演算
を行っていたが、この実施の形態3では、これを直交す
る2方向及びそれらと45度ずれた斜め方向の2方向に
ついて、それぞれ1組ずつの画素群に関して行うように
する。
素位置におけるG色信号の補間について説明する。係数
算出回路9aでは、2次元メモリ6aに入力された数ラ
イン分のR色信号から参照用信号として図9の各R点の
値をロードする。また、補間用色信号として2次元メモ
リ6bから図9のG1、G2、G3、G4の各点を係数
算出回路9bにロードする。係数算出回路9bでは、こ
れらのG色信号から例えば図11のフローチャートに従
って注目画素における各方向の画像の相関性を評価す
る。
左右方向及び斜め方向の差分値から相関度を算出する
(ステップST31)。この際、この実施の形態3にお
いては、上記実施の形態1に示した上下左右方向に加え
て、同様にG1、G2、G3、G4の4画素を用いて斜
め方向の相関度を評価する。ここでは、水平軸に対して
135度方向の相関を評価するためにGVH=(|G4
−G3|+|G1−G2|)/2を算出し、水平軸に対
して45度方向の相関を評価するためにGHV=(|G
4−G1|+|G3−G2|)/2を算出する。これら
の値を2で割っているのは、斜め方向の相関度値と垂直
及び水平の相関度値の次元を揃えるためである。
を算出する(ステップST32)。ここで、4つの相関
値に関する最小値が複数ある場合は、後段のステップS
T34の演算に進むために、ここでは便宜上斜め方向の
GVHまたはGHVを最小値として定義する。次に、最
小相関値が斜め方向であるか否かを判定し(ステップS
T33)、斜め方向である場合は、別途図5の方法で算
出した垂直方向の仮出力信号値及び水平方向の仮出力信
号値の平均値を補間色の出力信号値として出力する(ス
テップST34)。また、最小相関値が垂直方向または
水平方向である場合は、いずれか最小である方向を検出
し(ステップST35)、該当する方向の仮出力信号値
を出力信号値として出力する(ステップST36,ST
37)。
る際の相関度検出方向を注目画素に隣接する2画素ずつ
の2方向のみを用いて行ったが、この実施の形態3のよ
うに斜め方向に対して相関度を判定することにより、例
えば、画像中を横切る斜め線を垂直方向または水平方向
のみの相関値で補間することにより発生するジャギーと
呼ばれる階段状のギザギザが生じ難くなり、より自然な
質感で補間が可能な相関度判定を行うことが可能にな
る。
値が複数ある場合の処置を一律に、最小相関度値が斜め
方向であると判定し、垂直方向の仮信号出力値と水平方
向の仮信号出力値の平均値を最終的な信号出力値とした
が、この限りではなく、垂直方向または水平方向の何れ
か一方の相関値が最小値である場合、つまりそれと斜め
方向の相関値のいずれかまたは双方が最小値になる場
合、この垂直方向または水平方向の何れか一方の仮信号
出力値を最終的な信号出力値として出力するようにして
もよい。この場合、補間される画像は、この実施の形態
3で示した方法に比べて、より高周波成分を含むエッジ
を再現可能になる。
算出回路9a〜9cにおけるパラメータ算出方法とパラ
メータ数が上記実施の形態1と異なる。即ち、上記実施
の形態1における相関度検出方法は、直交する2方向に
ついてそれぞれ1組ずつの画素群に関して相関検出演算
を行っていたが、この実施の形態4では、これを直交す
る2方向についてそれぞれ複数組ずつの画素群に関して
行い、かつこれらと異なる2方向についてもそれぞれ複
数組ずつの画素群に対して行うようにする。
素位置におけるG色信号の補間について説明する。係数
算出回路9aでは、2次元メモリ6aに入力された数ラ
イン分のR色信号から参照用信号として図9の各R点の
値をロードする。また、補間用色信号として2次元メモ
リ6bから図9の各G点を係数算出回路9bにロードす
る。係数算出回路9bでは、これらのG色信号から例え
ば図12のフローチャートに従って注目画素における各
方向の画像の相関性を評価する。
左右方向及び斜め方向の差分値から相関度を算出する
(ステップST41)。この際、縦方向を例にとった場
合、G4及びG2あるいは横方向のG1及びG3のみか
ら相関度を算出すると、注目画素近傍に画像中のエッジ
やG色信号のサンプリング周波数近傍の画素が存在した
とき、方向の相関性を誤検出する場合があるため、この
実施の形態4においては、それぞれの方向に位置する複
数の画素群を用いて方向の相関度を評価する。
に、上記実施の形態1に示したG4及びG2の差分値に
加えて、その1列隣に位置するG5、G1、G11を通
る線分、及びG6、G3、G12を通る線分についてG
1及びG3に対する差分値を求め、それらにG4及びG
2で算出した相関度を加算する。通常、被写体として得
られるエッジ成分は1画素のみの幅からなるラインとし
て形成されることは少なく、複数ラインにまたがってい
ることが多い。従って、同一方向の複数ラインについて
相関度を評価することで、補間後の画像に相関度の孤立
点が発生することに起因する画質の違和感を抑制するこ
とができる。
注目画素上及びその前後行に存在するラインから、この
領域の平均相関度を算出する。また、斜め方向に関して
も、例えば水平軸を基準に135度方向に関しては、|
G4−G3|、|G1−G2|、|G6−G8|、|G
9−G11|の4つの組の相関度を算出して加算し、水
平軸を基準に45度方向については、|G4−G1|、
|G3−G2|、|G5−G7|、|G10−G12|
の4組に関して相関度を算出して加算する。
を算出する(ステップST42)。ここで、4つの相関
値に関する最小値が複数ある場合は、後段のステップS
T44の演算に進むために、ここでは便宜上斜め方向の
GVHまたはGHVを最小値として定義する。次に、最
小相関値が斜め方向であるか否かを判定し(ステップS
T43)、斜め方向である場合は別途図5の方法で算出
した垂直方向の仮出力信号値及び水平方向の仮出力信号
値の平均値を補間色の出力信号値として出力する(ステ
ップST44)。一方、最小相関値が垂直方向または水
平方向である場合は、いずれか最小である方向を検出し
(ステップST45)、該当する方向の仮出力信号値を
出力信号値として出力する(ステップST46,ST4
7)。
いることで、R画素位置におけるB色信号あるいは他の
色画素位置における全ての補色信号は、図7及び式
(7)または式(12)から算出することができる。こ
こで、図8(b)の場合は参照色が水平方向または垂直
方向のいずれかにのみ存在するため、相関方向検出は行
わず存在する1方向を無条件で使用する。また、参照色
と補間色が図8(c)の画素配置にある場合は、90度
交差した異なる2方向の相関性を求めることで同等の効
果が得られる。このようにして、撮影画像データを水平
方向及び垂直方向に順次走査して色補間処理を行うこと
で1画面分のフルカラー画像が得られる。
のために4つの方向を用い、かつそれぞれの方向におい
ては複数組のラインについて相関性評価を行うように構
成しているため、2方向のみあるいは各方向1組のみに
対して相関検出する場合に比べて、周辺領域の画像特性
を考慮した安定感のある方向検出が可能になるという効
果がある。
の相関度判定を行う場合、図12のステップST41の
ように絶対値記号で囲まれた各相関度値を単純加算して
算出する例について説明したが、この限りではなく、例
えば垂直方向に関しては注目画素上を通る線分に対する
|G4−G2|の項とそれ以外の隣接線分項を重み付け
加算し、水平方向についても注目画素上を通る線分に対
する|G1−G3|の項とそれ以外の隣接線分項を重み
付け加算する構成にしてもよい。
算出回路9a〜9cにおけるパラメータ算出方法とパラ
メータ数が上記実施の形態1と異なる。即ち、上記実施
の形態1においては、注目画素を中心とした2つの方向
について複数の画素の差分値から方向の相関性を算出
し、より相関性の高い方向について補間した仮信号出力
値を最終的な信号出力値としていたが、この実施の形態
5では、方向相関性を色補間する対象画素を中心とした
3×3画素からなるウィンドウを用いてパターンマッチ
ング法を行うことにより判定する。
ついて説明する。例えば、上記実施の形態1と同様に、
R画素位置におけるG色信号の補間について説明する。
図13は演算のために参照するR画素及びG画素につい
ての相対位置関係を模式的に示したものである。係数算
出回路9aでは、2次元メモリ6aに入力された数ライ
ン分のR色信号から参照用信号として図13の各R点の
値をロードする。また、補間用色信号として2次元メモ
リ6bから図9の各G点を係数算出回路9bにロードす
る。係数算出回路9bでは、これらのG色信号から例え
ば図14のフローチャートに従って注目画素における縦
方向及び横方向の画像の相関性を評価する。
色である4つのG色信号G1、G2、G3、G4の平均
値を算出する(ステップST51)。次にステップST
51で算出した平均値をしきい値として、G1、G2、
G3、G4を0または1に2値化し、それぞれG1’、
G2’、G3’、G4’とする(ステップST52)。
次にこれら2値化された4点が形成するパターンを、垂
直方向または水平方向に相関性があるパターンかそれ以
外かを判定する(ステップST53)。
ーンの種類としては、図15に示すように15種類あ
る。このうち、図15の各ウィンドウに示す太枠で囲ん
だ領域は、注目画素を挟んで垂直方向あるいは水平方向
に同じ値に2値化された画素が存在するため、その方向
に相関性が高いと判断でき、ステップST53の比較式
を用いることでウィンドウ内に太枠が存在するパターン
か否かが判定できる。
も相関性が見出せなかった場合、別途図5の方法で算出
しておいた垂直方向の仮信号出力値及び水平方向の仮信
号出力値の平均値を最終的な信号出力値として出力する
(ステップST54)。一方で、ステップST53から
垂直方向または水平方向に相関性があると判断した場
合、それが垂直方向の相関であるか否かを判定する(ス
テップST55)。その結果、垂直方向に相関が高いと
判断した場合、垂直方向の仮信号出力値を最終的な信号
出力値として出力し(ステップST56)、水平方向に
相関が高いと判断した場合は、水平方向の仮信号出力値
を最終的な信号出力値として出力する(ステップST5
7)。
いることで、R画素位置におけるB色信号あるいは他の
色画素位置における全ての補色信号は、図7及び式
(7)または式(12)から算出することができる。こ
こで、図8(b)の場合は参照色が水平方向または垂直
方向のいずれかにのみ存在するため相関方向検出は行わ
ず存在する1方向を無条件で使用する。また、参照色と
補間色が図8(c)の画素配置にある場合は、90度交
差した異なる2方向の相関性を求めることで同等の効果
が得られる。このようにして、撮影画像データを水平方
向及び垂直方向に順次走査して色補間処理を行うことで
1画面分のフルカラー画像が得られる。この実施の形態
5では、図15における太枠で示した相関方向の決定方
法を示したが、この限りではなく、画像の特性を考慮す
るなどして、図14のステップST53及びステップS
T55のパターン判定方法を変更することにより、方向
相関の評価結果を検出されるパターン毎に定義すること
ができるという効果がある。
位置を中心とする垂直方向及び水平方向の近傍2画素
(計4画素)の撮像色信号の信号レベルの平均値を閾値
として、それらの画素の撮像色信号の信号レベルを2値
化するとともに、中心位置の撮像色信号の信号レベルを
2値化し、その2値化結果に基づいて色補間を行う画素
の周辺領域の信号相関方向を検出するものについて示し
たが、これに限るものではなく、例えば、非撮像画素位
置を中心とする5×5画素からなる参照ウインドウ内の
撮像色信号の信号レベルの平均値を閾値として、それら
の画素の撮像色信号の信号レベルを2値化するととも
に、中心位置の撮像色信号の信号レベルを2値化し、中
心位置の撮像色信号を含む同一の2値化結果が辿る方向
に相関度が高いものとして、周辺領域の信号相関方向を
検出するようにしてよい。
形態6による撮像装置を示す構成図であり、図におい
て、図1と同一符号は同一または相当部分を示すので説
明を省略する。11は所定画素における色補間結果を他
の色補間時に利用するため、色補間により生成されたG
色信号用のラインバッファである。
から色補間処理アルゴリズムに及ぶまで、上記実施の形
態1における二等辺三角形モデルの適用が可能である。
この実施の形態6における処理上の差異は、参照色と補
間色の画素配置である。図17は、この実施の形態6を
実施の形態1に示す二等辺三角形モデルに適用した場合
の参照画素及び補間画素の位置関係を示している。図に
おいて、(a)はR画素位置におけるG色信号補間時の
補間画素Gと参照画素Rの位置関係を示したものであ
り、RをBに置き換えることでB画素位置におけるG色
信号補間についても同様に説明できる。
含むラインにおけるG画素位置のB色信号及びR色信号
補間時の補間画素B及びRと参照画素Gの位置関係を示
したものであり、RとBを入れ替えることでR色信号と
G色信号のみを含むラインにおけるG画素にも適用でき
る。また、(c)はR画素位置におけるB色信号補間時
の補間画素Bと参照画素Gの位置関係を示したものであ
り、RとBを入れ替えることにより同様に異なるライン
での適用が可能である。図中、大文字のアルファベット
は撮影信号を表し、小文字のアルファベットgの添え字
を持つ信号は他のプロセスで既に補間生成された該当色
画素におけるG色信号を表している。以下に、処理の流
れについて説明する。
非撮像色を補間生成するために各色の2次元メモリ6a
〜6cの撮像データを用いると共に各係数算出回路間で
通信して演算パラメータを算出し、演算回路10に引き
渡す。演算回路10では、これらのデータを元に非撮像
色の補間生成演算を行う。これらの演算アルゴリズムは
上記実施の形態1で説明した通りである。また、図17
(a)に示すR画素位置またはB画素位置におけるG色
信号補間は上記実施の形態1と同様である。
補間時は、図17(b)の3×3画素からなるウィンド
ウ内にそれぞれの色信号が水平方向もしくは垂直方向の
何れかのみに存在しているため、相関方向の評価は行わ
ず存在する方向成分の信号から色補間を行う。このと
き、参照色として使用するG色信号は図17(a)のR
画素位置またはB画素位置におけるG色信号補間により
過去に生成済みのG成分を使用する。従って、二等辺三
角形モデルを適用する際は、三角形の底辺である撮像色
信号Rの2点間の距離及び非撮像色信号G(ここではR
gまたはBg)の2点間の距離は等しく、図形の相似比
が1対1であるため式(7)におけるCd値は1(式
(12)では右シフトするビット数を0)として演算を
実行する。
B色信号(またはB画素位置におけるR色信号)補間時
についても、参照色をG色信号とし補間色信号の画素位
置における既に生成済みの信号値を用いる。この場合に
ついても、各二等辺三角形の相似比は1対1となる。以
上の処理を水平方向及び垂直方向に順次走査しながら実
行し、補間済みのG色信号を出力するほか、ラインバッ
ファ11に必要量一次蓄積して再参照することを繰返す
ことで1画面分の撮像データに対する色補間処理が完了
する。
形態1とは異なり、補間色位置における生成済みのG色
信号を参照信号として用いることで、各幾何学モデルの
相似比が1対1になることと、図17の(b)及び
(c)に示すように、参照点が補間点に近接しているこ
とにより、より高精度の色補間を行うことができること
で、より高画質な画像再生が可能になる。また、同時に
全てのステップで参照色をGに統一しているため、色毎
の相関方向の相違に起因する補間結果のばらつきがもた
らす画質劣化を最小限に抑制できるという効果がある。
を使用するために、複数の生成済み色信号を用いる場合
に比べて、ラインバッファ11の容量を最小限に抑制す
ることができる。例えば、この実施の形態6におけるフ
レームメモリ4に蓄積されている処理対象画素を含む数
ラインの内容を図18に示す。図において、(c)のR
画素位置におけるB色信号生成及び(b)のG画素位置
におけるB色信号生成を行うためには、各図太枠内のア
ンダーラインを施したR画素位置におけるG色信号Rg
が既に生成されている必要がある。従って、R画素位置
及びB画素位置におけるG色信号補間は同図(a)の相
対位置で行う必要があり、ラインバッファ11には図1
9に示す生成済みG色信号gを蓄積することになる。こ
の実施の形態6の場合、約2ライン分(生成済みG色信
号は1画素置きであるため画素間を詰めた場合1ライン
分)のラインバッファを付加すればよいことになる。
は、参照色の形成する図形と補間色の形成する図形が相
似であれば種々考案されるが、一切の生成済み信号を使
用しない場合、参照点のサンプリング間隔が広くなり十
分な解像度を持つ画像を再生しにくいという欠点があ
る。これに対して、この実施の形態6のように補間点に
近接した位置の生成済み信号を用いる場合でも、複数色
の参照色を使用する場合、ラインバッファの必要量が増
大し装置コストが上昇する。従って、この実施の形態6
に示す参照色の種類及び参照位置は、本発明による色補
間方法を実現する場合に、画質と装置コストのトレード
オフを最もバランスよく実現したものと言える。
後の画像処理として色補間処理についてのみで構成する
ブロック構成を示したが、実際の撮像装置を構成する際
にオートホワイトバランス処理(白色補正)、γ補正処
理(階調特性の補正)、フィルタ処理(輪郭強調やノイ
ズ除去)、JPEG圧縮処理(画像データ圧縮保存)等
の通常撮像装置で使用する処理と組合せても同等の効果
が得られることは言うまでもない。
液晶ディスプレイ・インタフェース)、フラッシュメモ
リインタフェース(撮影画像保存媒体インタフェース)
などの入出力インタフェースを付加しても同等の効果が
得られることも言うまでもない。また、以上の全ての実
施の形態においては、撮像装置の内部で色補間処理を実
行可能な構成について例を示したが、この限りではな
く、パーソナルコンピュータやカラープリンタなど、撮
像装置に直接あるいは記憶媒体を間接的に経由して接続
可能で、撮像装置を使用して入力した画像を扱ういずれ
の機器上で構成してもよい。
は、撮像素子2としてRGBの色フィルタが図20に示
すようにBayer型に配列する単板カラーセンサを使
用するディジタルスチルカメラについて例を示したが、
この限りではなく、撮像素子2の表面上に複数色の色フ
ィルタが規則的に配置され、色補間処理を行うことによ
りフルカラー画像を得るように構成される単板あるいは
多板式の撮像素子を用いたディジタルビデオカメラを含
む撮像装置で入力される画像であれば同等の効果を得る
ことができる。
は、撮像素子2において光電変換された画像データをA
/D変換器3でディジタル化した後、一旦フレームメモ
リ4に1画面分保持する構成を示したが、この限りでは
ない。即ち、撮影時のデータストリームに同期して、画
素あるいは複数ライン毎に色補間を含む画像処理を実施
するように構成することも可能である。また、全体回路
構成としてマルチプレクサ5を用いてフレームメモリ4
から各色用2次元メモリ6a〜6cに必要ライン数分の
画像データをコピーした後、色補間処理を行う構成を示
したが、これについてもこの限りではなく、係数算出回
路9a〜9cが直接フレームメモリ4内の画像データに
アクセス可能な構成にすることも可能である。
は、先に補間色の非撮像色信号の信号レベルを仮決定し
てから、色補間を行う画素の周辺領域の信号相関方向を
検出し、その検出結果に基づいて補間色の非撮像色信号
の信号レベルを最終決定するものについて示したが、先
に色補間を行う画素の周辺領域の信号相関方向を検出
し、その検出結果に基づいて補間色の非撮像色信号の信
号レベルを算出して決定するようにしてもよい。
手段により検出された信号相関方向が垂直方向である場
合、垂直方向の信号レベルによる幾何学的な相似演算に
よって仮決定された補間色の非撮像色信号の信号レベル
を選択し、その信号相関方向が水平方向である場合、水
平方向の信号レベルによる幾何学的な相似演算によって
仮決定された補間色の非撮像色信号の信号レベルを選択
する選択手段を設けるように構成したので、画質劣化の
発生を良好に抑制することができるとともに、簡易な構
成で実現することができる効果がある。
れた信号相関方向が垂直方向である場合、第1の信号レ
ベル決定手段が垂直方向の信号レベルによる幾何学的な
相似演算によって補間色の非撮像色信号の信号レベルを
決定し、その信号相関方向が水平方向である場合、第2
の信号レベル決定手段が水平方向の信号レベルによる幾
何学的な相似演算によって補間色の非撮像色信号の信号
レベルを決定するように構成したので、画質劣化の発生
を良好に抑制することができるとともに、簡易な構成で
実現することができる効果がある。
の信号レベルを決定する際、色補間を行う画素の垂直方
向又は水平方向に位置する画素における撮像色信号の信
号レベルを補正し、補正後の信号レベルから幾何学図形
を形成するように構成したので、幾何学的な相似演算の
簡単化を図ることができる効果がある。
次元座標を(m,n)、色補間を行う画素における所定
色の撮像色信号の信号レベルをJ(m,n)、色補間を
行う画素の垂直方向又は水平方向に位置する画素におけ
る所定色の撮像色信号の信号レベルの平均値をJAVE
(m,n)、色補間を行う画素における補間色の非撮像
色信号の信号レベルをK(m,n)、色補間を行う画素
の垂直方向又は水平方向に位置する画素における補間色
の撮像色信号の信号レベルの平均値をKAVE(m,
n)、所定色の撮像色信号の信号レベルに係る幾何学図
形に対する補間色の撮像色信号の信号レベルに係る幾何
学図形の線分相似比をCdとするとき、下記の演算式に
より補間色の非撮像色信号の信号レベルK(m,n)を
算出するように構成したので、構成の複雑化を招くこと
なく、補間色の非撮像色信号の信号レベルを算出するこ
とができる効果がある。 記 K(m,n)=KAVE(m,n)−(J(m,n)−
JAVE(m,n))×Cd
になるように、色補間を行う画素の垂直方向又は水平方
向に位置する画素を選択するように構成したので、処理
の簡単化を図ることができる効果がある。
相関値と水平方向に対する信号相関値の差が所定の閾値
より小さい場合、第1の信号レベル決定手段により仮決
定された信号レベルと第2の信号レベル決定手段により
仮決定された信号レベルとの加重平均値を選択するよう
に構成したので、画質劣化の発生を良好に抑制すること
ができる効果がある。
直方向に位置する画素における補間色の撮像色信号の信
号レベルの重み付け平均値を計算するとともに、色補間
を行う画素の水平方向に位置する画素における補間色の
撮像色信号の信号レベルの重み付け平均値を計算し、双
方の重み付け平均値の大小比較により周辺領域の信号相
関方向を決定するように構成したので、構成の複雑化を
招くことなく、周辺領域の信号相関方向を決定すること
ができる効果がある。
れた信号相関方向が45度方向又は135度方向である
場合、第1の信号レベル決定手段により仮決定された信
号レベルと第2の信号レベル決定手段により仮決定され
た信号レベルとの加重平均値を選択するように構成した
ので、画質劣化の発生を良好に抑制することができる効
果がある。
直方向及び水平方向に位置する画素における補間色の撮
像色信号の信号レベルの平均値を閾値として、その補間
色の撮像色信号の信号レベルを2値化するとともに、色
補間を行う画素における所定色の撮像色信号の信号レベ
ルを2値化し、その2値化結果に基づいて色補間を行う
画素の周辺領域の信号相関方向を検出するように構成し
たので、周辺領域の信号相関方向の検出精度を高めるこ
とができる効果がある。
辺領域の画素における補間色の撮像色信号の信号レベル
の平均値を閾値として、その補間色の撮像色信号の信号
レベルを2値化するとともに、色補間を行う画素におけ
る所定色の撮像色信号の信号レベルを2値化し、その2
値化結果に基づいて色補間を行う画素の周辺領域の信号
相関方向を検出するように構成したので、周辺領域の信
号相関方向の検出精度を高めることができる効果があ
る。
れた信号相関方向が垂直方向である場合、垂直方向の信
号レベルによる幾何学的な相似演算によって仮決定され
た補間色の非撮像色信号の信号レベルを選択し、その信
号相関方向が水平方向である場合、水平方向の信号レベ
ルによる幾何学的な相似演算によって仮決定された補間
色の非撮像色信号の信号レベルを選択する選択工程を設
けるように構成したので、画質劣化の発生を良好に抑制
することができるとともに、簡易な構成で実現すること
ができる効果がある。
れた信号相関方向が垂直方向である場合、第1の信号レ
ベル決定工程において垂直方向の信号レベルによる幾何
学的な相似演算によって補間色の非撮像色信号の信号レ
ベルを決定し、その信号相関方向が水平方向である場
合、第2の信号レベル決定工程において水平方向の信号
レベルによる幾何学的な相似演算によって補間色の非撮
像色信号の信号レベルを決定するように構成したので、
画質劣化の発生を良好に抑制することができるととも
に、簡易な構成で実現することができる効果がある。
の信号レベルを決定する際、色補間を行う画素の垂直方
向又は水平方向に位置する画素における撮像色信号の信
号レベルを補正し、補正後の信号レベルから幾何学図形
を形成するように構成したので、幾何学的な相似演算の
簡単化を図ることができる効果がある。
す構成図である。
は各画素の2次元座標(x、y)軸及び信号レベル値の
軸を加えた3次元空間上で、5点により形成される2つ
の三角形を示す説明図である。
の2次元座標(x、y)軸及び信号レベル値の軸を加え
た3次元空間上で、4点と補間すべき当該画素における
G色信号の期待される位置により形成される2つの三角
形を示す説明図である。
y平面上での、R色信号及びG色信号の位置関係を示す
説明図である。
トである。
ある。
ある。
いての相対位置関係を模式的に示す説明図である。
である。
である。
である。
ついての相対位置関係を模式的に示す説明図である。
である。
類を示す説明図である。
示す構成図である。
明図である。
画素を含む数ラインの内容を示す説明図である。
色フィルタ(単板式2次元撮像素子)を示す説明図であ
る。
を示す説明図である。
を示す説明図である。
を示す説明図である。
る。
る。
る。
補間生成する場合の模式図である。
いる方法で色補間を行った場合に生じる画質劣化を示す
模式図である。
レームメモリ、5 マルチプレクサ、6a〜6c 2次
元メモリ、9a〜9c 係数算出回路(第1の信号レベ
ル決定手段、第2の信号レベル決定手段)、10 演算
回路(検出手段、選択手段)、11 ラインバッファ。
Claims (13)
- 【請求項1】 色補間を行う画素及び当該画素の垂直方
向に位置する画素における所定色の撮像色信号の信号レ
ベルから形成される幾何学図形と、色補間を行う画素に
おける補間色の非撮像色信号の信号レベル及び当該画素
の垂直方向に位置する画素における補間色の撮像色信号
の信号レベルから形成される幾何学図形とが相似形を成
すように、色補間を行う画素における補間色の非撮像色
信号の信号レベルを仮決定する第1の信号レベル決定手
段と、色補間を行う画素及び当該画素の水平方向に位置
する画素における所定色の撮像色信号の信号レベルから
形成される幾何学図形と、色補間を行う画素における補
間色の非撮像色信号の信号レベル及び当該画素の水平方
向に位置する画素における補間色の撮像色信号の信号レ
ベルから形成される幾何学図形とが相似形を成すよう
に、色補間を行う画素における補間色の非撮像色信号の
信号レベルを仮決定する第2の信号レベル決定手段と、
色補間を行う画素の周辺領域の信号相関方向を検出する
検出手段と、上記検出手段により検出された信号相関方
向が垂直方向である場合、上記第1の信号レベル決定手
段により仮決定された信号レベルを選択し、その信号相
関方向が水平方向である場合、上記第2の信号レベル決
定手段により仮決定された信号レベルを選択する選択手
段とを備えた撮像装置。 - 【請求項2】 色補間を行う画素の周辺領域の信号相関
方向を検出する検出手段と、上記検出手段により検出さ
れた信号相関方向が垂直方向である場合、色補間を行う
画素及び当該画素の垂直方向に位置する画素における所
定色の撮像色信号の信号レベルから形成される幾何学図
形と、色補間を行う画素における補間色の非撮像色信号
の信号レベル及び当該画素の垂直方向に位置する画素に
おける補間色の撮像色信号の信号レベルから形成される
幾何学図形とが相似形を成すように、色補間を行う画素
における補間色の非撮像色信号の信号レベルを決定する
第1の信号レベル決定手段と、上記検出手段により検出
された信号相関方向が水平方向である場合、色補間を行
う画素及び当該画素の水平方向に位置する画素における
所定色の撮像色信号の信号レベルから形成される幾何学
図形と、色補間を行う画素における補間色の非撮像色信
号の信号レベル及び当該画素の水平方向に位置する画素
における補間色の撮像色信号の信号レベルから形成され
る幾何学図形とが相似形を成すように、色補間を行う画
素における補間色の非撮像色信号の信号レベルを決定す
る第2の信号レベル決定手段とを備えた撮像装置。 - 【請求項3】 第1及び第2の信号レベル決定手段は、
補間色の非撮像色信号の信号レベルを決定する際、色補
間を行う画素の垂直方向又は水平方向に位置する画素に
おける撮像色信号の信号レベルを補正し、補正後の信号
レベルから幾何学図形を形成することを特徴とする請求
項1または請求項2記載の撮像装置。 - 【請求項4】 第1及び第2の信号レベル決定手段は、
色補間を行う画素の2次元座標を(m,n)、色補間を
行う画素における所定色の撮像色信号の信号レベルをJ
(m,n)、色補間を行う画素の垂直方向又は水平方向
に位置する画素における所定色の撮像色信号の信号レベ
ルの平均値をJAVE(m,n)、色補間を行う画素に
おける補間色の非撮像色信号の信号レベルをK(m,
n)、色補間を行う画素の垂直方向又は水平方向に位置
する画素における補間色の撮像色信号の信号レベルの平
均値をKAVE(m,n)、所定色の撮像色信号の信号
レベルに係る幾何学図形に対する補間色の撮像色信号の
信号レベルに係る幾何学図形の線分相似比をCdとする
とき、下記の演算式により補間色の非撮像色信号の信号
レベルK(m,n)を算出することを特徴とする請求項
3記載の撮像装置。 記 K(m,n) =KAVE(m,n)−(J(m,n)
−JAVE(m,n))×Cd - 【請求項5】 第1及び第2の信号レベル決定手段は、
線分相似比が2分の1になるように、色補間を行う画素
の垂直方向又は水平方向に位置する画素を選択すること
を特徴とする請求項4記載の撮像装置。 - 【請求項6】 選択手段は、垂直方向に対する信号相関
値と水平方向に対する信号相関値の差が所定の閾値より
小さい場合、第1の信号レベル決定手段により仮決定さ
れた信号レベルと第2の信号レベル決定手段により仮決
定された信号レベルとの加重平均値を選択することを特
徴とする請求項1記載の撮像装置。 - 【請求項7】 検出手段は、色補間を行う画素の垂直方
向に位置する画素における補間色の撮像色信号の信号レ
ベルの重み付け平均値を計算するとともに、色補間を行
う画素の水平方向に位置する画素における補間色の撮像
色信号の信号レベルの重み付け平均値を計算し、双方の
重み付け平均値の大小比較により周辺領域の信号相関方
向を決定することを特徴とする請求項1記載の撮像装
置。 - 【請求項8】 選択手段は、検出手段により検出された
信号相関方向が45度方向又は135度方向である場
合、第1の信号レベル決定手段により仮決定された信号
レベルと第2の信号レベル決定手段により仮決定された
信号レベルとの加重平均値を選択することを特徴とする
請求項1記載の撮像装置。 - 【請求項9】 検出手段は、色補間を行う画素の垂直方
向及び水平方向に位置する画素における補間色の撮像色
信号の信号レベルの平均値を閾値として、その補間色の
撮像色信号の信号レベルを2値化するとともに、色補間
を行う画素における所定色の撮像色信号の信号レベルを
2値化し、その2値化結果に基づいて色補間を行う画素
の周辺領域の信号相関方向を検出することを特徴とする
請求項1記載の撮像装置。 - 【請求項10】 検出手段は、色補間を行う画素の周辺
領域の画素における補間色の撮像色信号の信号レベルの
平均値を閾値として、その補間色の撮像色信号の信号レ
ベルを2値化するとともに、色補間を行う画素における
所定色の撮像色信号の信号レベルを2値化し、その2値
化結果に基づいて色補間を行う画素の周辺領域の信号相
関方向を検出することを特徴とする請求項1記載の撮像
装置。 - 【請求項11】 色補間を行う画素及び当該画素の垂直
方向に位置する画素における所定色の撮像色信号の信号
レベルから形成される幾何学図形と、色補間を行う画素
における補間色の非撮像色信号の信号レベル及び当該画
素の垂直方向に位置する画素における補間色の撮像色信
号の信号レベルから形成される幾何学図形とが相似形を
成すように、色補間を行う画素における補間色の非撮像
色信号の信号レベルを仮決定する第1の信号レベル決定
工程と、色補間を行う画素及び当該画素の水平方向に位
置する画素における所定色の撮像色信号の信号レベルか
ら形成される幾何学図形と、色補間を行う画素における
補間色の非撮像色信号の信号レベル及び当該画素の水平
方向に位置する画素における補間色の撮像色信号の信号
レベルから形成される幾何学図形とが相似形を成すよう
に、色補間を行う画素における補間色の非撮像色信号の
信号レベルを仮決定する第2の信号レベル決定工程と、
色補間を行う画素の周辺領域の信号相関方向を検出する
検出工程と、上記検出工程により検出された信号相関方
向が垂直方向である場合、上記第1の信号レベル決定工
程により仮決定された信号レベルを選択し、その信号相
関方向が水平方向である場合、上記第2の信号レベル決
定工程により仮決定された信号レベルを選択する選択工
程とを備えた撮像方法。 - 【請求項12】 色補間を行う画素の周辺領域の信号相
関方向を検出する検出工程と、上記検出工程により検出
された信号相関方向が垂直方向である場合、色補間を行
う画素及び当該画素の垂直方向に位置する画素における
所定色の撮像色信号の信号レベルから形成される幾何学
図形と、色補間を行う画素における補間色の非撮像色信
号の信号レベル及び当該画素の垂直方向に位置する画素
における補間色の撮像色信号の信号レベルから形成され
る幾何学図形とが相似形を成すように、色補間を行う画
素における補間色の非撮像色信号の信号レベルを決定す
る第1の信号レベル決定工程と、上記検出工程により検
出された信号相関方向が水平方向である場合、色補間を
行う画素及び当該画素の水平方向に位置する画素におけ
る所定色の撮像色信号の信号レベルから形成される幾何
学図形と、色補間を行う画素における補間色の非撮像色
信号の信号レベル及び当該画素の水平方向に位置する画
素における補間色の撮像色信号の信号レベルから形成さ
れる幾何学図形とが相似形を成すように、色補間を行う
画素における補間色の非撮像色信号の信号レベルを決定
する第2の信号レベル決定工程とを備えた撮像方法。 - 【請求項13】 第1及び第2の信号レベル決定工程
は、補間色の非撮像色信号の信号レベルを決定する際、
色補間を行う画素の垂直方向又は水平方向に位置する画
素における撮像色信号の信号レベルを補正し、補正後の
信号レベルから幾何学図形を形成することを特徴とする
請求項11または請求項12記載の撮像方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001328009A JP2003134523A (ja) | 2001-10-25 | 2001-10-25 | 撮像装置及び撮像方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001328009A JP2003134523A (ja) | 2001-10-25 | 2001-10-25 | 撮像装置及び撮像方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2003134523A true JP2003134523A (ja) | 2003-05-09 |
Family
ID=19144154
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001328009A Abandoned JP2003134523A (ja) | 2001-10-25 | 2001-10-25 | 撮像装置及び撮像方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2003134523A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006166258A (ja) * | 2004-12-09 | 2006-06-22 | Matsushita Electric Ind Co Ltd | カラー撮像装置およびカラー画像信号補正方法 |
JP2008125132A (ja) * | 2008-02-08 | 2008-05-29 | Sharp Corp | 画像処理装置、撮影装置、画像処理方法、画像処理プログラムおよび記録媒体 |
US7664316B2 (en) | 2004-08-24 | 2010-02-16 | Sharp Kabushiki Kaisha | Image processing apparatus, imaging apparatus, image processing method, image processing program and recording medium |
US7970231B2 (en) | 2004-02-19 | 2011-06-28 | Mitsubishi Denki Kabushiki Kaisha | Image processing method |
JP4725520B2 (ja) * | 2004-11-30 | 2011-07-13 | 三菱電機株式会社 | 画像処理装置、非撮像色信号算出装置及び画像処理方法 |
JP2012195677A (ja) * | 2011-03-15 | 2012-10-11 | Mitsubishi Electric Corp | 撮像装置 |
-
2001
- 2001-10-25 JP JP2001328009A patent/JP2003134523A/ja not_active Abandoned
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7970231B2 (en) | 2004-02-19 | 2011-06-28 | Mitsubishi Denki Kabushiki Kaisha | Image processing method |
US7664316B2 (en) | 2004-08-24 | 2010-02-16 | Sharp Kabushiki Kaisha | Image processing apparatus, imaging apparatus, image processing method, image processing program and recording medium |
JP4725520B2 (ja) * | 2004-11-30 | 2011-07-13 | 三菱電機株式会社 | 画像処理装置、非撮像色信号算出装置及び画像処理方法 |
JP2006166258A (ja) * | 2004-12-09 | 2006-06-22 | Matsushita Electric Ind Co Ltd | カラー撮像装置およびカラー画像信号補正方法 |
JP2008125132A (ja) * | 2008-02-08 | 2008-05-29 | Sharp Corp | 画像処理装置、撮影装置、画像処理方法、画像処理プログラムおよび記録媒体 |
JP4703666B2 (ja) * | 2008-02-08 | 2011-06-15 | シャープ株式会社 | 画像処理装置、撮影装置、画像処理方法、画像処理プログラムおよび記録媒体 |
JP2012195677A (ja) * | 2011-03-15 | 2012-10-11 | Mitsubishi Electric Corp | 撮像装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
USRE47062E1 (en) | Image processing apparatus and method for generating a restoration image | |
EP1761072B1 (en) | Image processing device for detecting chromatic difference of magnification from raw data, image processing program, and electronic camera | |
US6781626B1 (en) | System and method of color interpolation | |
CN101843092B (zh) | 成像设备和方法 | |
JP4233257B2 (ja) | 撮像装置の効果的ダイナミックレンジを拡張する方法及び装置並びに残存画像の使用 | |
TWI542223B (zh) | 利用全彩影像之雜訊減低彩色影像 | |
JP5461568B2 (ja) | カラーおよび全色性チャネルcfa画像の修正 | |
US20080123997A1 (en) | Providing a desired resolution color image | |
JP4668185B2 (ja) | 画像処理方法 | |
JPH1155695A (ja) | レジストレーション誤差および色収差を測定する方法および装置 | |
JP2013017142A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP2010277267A (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
US5821999A (en) | Method and system for fractally interpolating intensity values for a single color component array obtained from a single color sensor | |
US20090109296A1 (en) | Pxiel signal processing apparatus and pixel signal processing method | |
US7489822B2 (en) | Image processing apparatus and method for detecting a direction of an edge in the vicinity of a pixel of interest and generating all color signals for each pixel by interpolation using color signals of a pixel of interest and its neighbor pixels, and a recording medium having a program recorded thereon for causing the apparatus to perform the method | |
US8213710B2 (en) | Apparatus and method for shift invariant differential (SID) image data interpolation in non-fully populated shift invariant matrix | |
JP4556102B2 (ja) | 画像処理装置および画像処理方法、並びに、プログラム | |
JP2006080897A (ja) | 信号処理装置、信号処理方法及び信号処理プログラム | |
JP3905708B2 (ja) | 画像補間装置 | |
JP2003134523A (ja) | 撮像装置及び撮像方法 | |
JP5131567B2 (ja) | 画像処理装置、画像処理方法、プログラム及び記録媒体 | |
JP3730063B2 (ja) | 色成分生成装置および色成分生成方法並びにこれを用いた多色画像撮像装置 | |
US20050140804A1 (en) | Extended dynamic range image sensor capture using an array of fast and slow pixels | |
JP4334150B2 (ja) | 画像補間装置 | |
KR100747729B1 (ko) | 이미지 프로세서, 렌즈 셰이딩 보정 장치 및 그 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20031217 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20031217 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20040226 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040525 |
|
A762 | Written abandonment of application |
Free format text: JAPANESE INTERMEDIATE CODE: A762 Effective date: 20040723 |