JP4038867B2 - 補間処理方法 - Google Patents
補間処理方法 Download PDFInfo
- Publication number
- JP4038867B2 JP4038867B2 JP07045498A JP7045498A JP4038867B2 JP 4038867 B2 JP4038867 B2 JP 4038867B2 JP 07045498 A JP07045498 A JP 07045498A JP 7045498 A JP7045498 A JP 7045498A JP 4038867 B2 JP4038867 B2 JP 4038867B2
- Authority
- JP
- Japan
- Prior art keywords
- similarity
- color information
- vacancy
- vertical
- points
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Color Television Image Signal Generators (AREA)
- Processing Of Color Television Signals (AREA)
- Facsimile Image Signal Circuits (AREA)
- Color Image Communication Systems (AREA)
Description
【発明の属する技術分野】
本発明は、予め決められた色を出力する格子点と該色を出力しない空格子点とが市松模様状に配された画像の補間処理方法に関する。
【0002】
【従来の技術】
電子カメラには、カラー画像の画像信号を生成する際、単一の撮像素子を用いるものがある。このような撮像素子は、例えば図14(1)に示すように、RGB(赤色・緑色・青色)の3色のカラーフィルタがベイア配列されて構成される。
ここで、緑色(G)に着目すると、撮像素子は、図14(2)に示すように緑色を出力する画素である格子点と、緑色を出力しない画素である空格子点とが市松模様状に配されて構成されていると言える。
【0003】
従来、このような撮像素子によって生成された画像信号に相当するカラー画像の補間処理には、空格子点に隣接する格子点の色情報の大きさの平均値を空格子点の補間量とするものがあった。
また、米国特許第5,382,976号明細書(クラス348)には、空格子点の空間的な類似度を空格子点に隣接する格子点の色傾斜(chrominance gradients)によって推定し、類似度の強い方向に隣接する格子点の色情報の大きさに基づいて補間量を算出する技術が開示されている。
【0004】
図15は、米国特許第5,382,976号に開示された従来の補間処理を説明する図である。
図において、G11,G13,・・・,G66は緑色(G)の色情報の大きさを示し、R12,R14,・・・,R56は赤色(R)の色情報の大きさを示し、B21,B23,・・・,B67は青色(B)の色情報の大きさを示す。
【0005】
上述した米国特許では、例えば、R34を出力する画素の緑色の補間量G34を求める際、まず、横方向の色傾斜に関する情報Gdiff-horを
Gdiff-hor = |G24−G44|
によって求め、縦方向の色傾斜に関する情報Gdiff-verを
Gdiff-ver = |G33−G35|
によって求める。
【0006】
そして、このように求めたGdiff-horとGdiff-verとの大小関係によって場合分けし、G34を算出する。
すなわち、所定の値Thresholdについて、
Gdiff-hor<Threshold AND Gdiff-ver>Threshold ・・・条件1
が成り立つ場合(横方向の類似度が強い場合)、G34を
G34 = (G33+G35)/2
によって求め、
Gdiff-hor>Threshold AND Gdiff-ver<Threshold ・・・条件2
が成り立つ場合(縦方向の類似度が強い場合)、G34を
G34 = (G24+G44)/2
によって求め、
(Gdiff-hor<Threshold AND Gdiff-ver<Threshold)OR
(Gdiff-hor>Threshold AND Gdiff-ver>Threshold) ・・・条件3
が成り立つ場合、G34を
G34 = (G24+G44+G33+G35)/4
によって求める。
【0007】
ここで、上述した米国特許で開示された補間処理方法を用いて、図16に示すような黒と白との縦縞状の画像の補間処理を行う場合を考える。なお、図16に示す画像が図14に示す撮像素子に投影されると、緑色(G)の色情報の大きさは、図17に示す値になると仮定する。
【0008】
例えば、補間量G34を求める際、図17において、「G24=200」、「G44=200」、「G33=10」、「G35=10」であるため、Gdiff-horとGdiff-verとは、共に「0」となる。したがって、Gdiff-horとGdiff-verとの間には、条件1および条件2は成り立たず、「Threshold≠0」である場合に限り条件3が成り立つことになる。
【0009】
仮に、「Threshold≠0」とした場合、補間量G34は、
G34 = (200+200+10+10)/4 = 105
となる。
【0010】
【発明が解決しようとする課題】
しかし、実際には、図16に示す画像は縦方向の類似度が強く、補間量G34は「200」となるべきである。
【0011】
このように、上述した米国特許では、Gdiff-horとGdiff-verとが一致した場合、横方向の類似度と縦方向の類似度とが一致していると判定されることになり、補間処理の対象となる空格子点の空間的な類似度が誤って推定されるおそれがあった。そのため、適切な補間量を求めることができず、最悪の場合、補間処理によって得られる画像が破綻する可能性があった。
【0012】
そこで、請求項1〜請求項10に記載の発明は、補間処理の対象となる空格子点の空間的な類似度を的確に推定しつつ、その空格子点の補間量を高い精度で求めることができる補間処理方法を提供することを目的とする。
【0013】
【課題を解決するための手段】
請求項1に記載の補間処理方法は、予め決められた色を出力する格子点と該色を出力しない空格子点とが市松模様状に配された画像の補間処理方法において、補間処理の対象となる空格子点の色情報の大きさと、該空格子点に対して縦方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて、該空格子点の縦方向の類似度を決定する縦方向類似度決定手順と、補間処理の対象となる空格子点の色情報の大きさと、該空格子点に対して横方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて、該空格子点の横方向の類似度を決定する横方向類似度決定手順と、前記縦方向の類似度および前記横方向の類似度に応じて補間処理の対象となる空格子点に対して類似性が強い方向に隣接する格子点の色情報の大きさの平均値を選択、もしくは該空格子点に対して縦方向および横方向に位置する格子点の色情報の大きさを該類似度に応じて加重加算することによって、該空格子点の補間量を決定する補間量決定手順とを備えたことを特徴とする。
【0014】
請求項2に記載の補間処理方法は、予め決められた色を出力する格子点と該色を出力しない空格子点とが市松模様状に配された画像の補間処理方法において、補間処理の対象となる空格子点の色情報の大きさと、該空格子点に対して斜め方向の少なくとも一方に位置する空格子点の色情報の大きさと、補間処理の対象となる空格子点および該空格子点に対して斜め方向の少なくとも一方に位置する空格子点に隣接する格子点の色情報とを用いて、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度を決定する類似度決定手順と、前記縦方向の類似度および前記横方向の類似度に応じて補間処理の対象となる空格子点に対して類似性が強い方向に隣接する格子点の色情報の大きさの平均値を選択、もしくは該空格子点に対して縦方向および横方向に位置する格子点の色情報の大きさを該類似度に応じて加重加算することによって、該空格子点の補間量を決定する補間量決定手順とを備えたことを特徴とする。
【0015】
請求項3に記載の補間処理方法は、予め決められた色を出力する格子点と該色を出力しない空格子点とが市松模様状に配された画像の補間処理方法において、補間処理の対象となる空格子点の色情報の大きさと、該空格子点に対して縦方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて、該空格子点と当該格子点との類似度を示す縦類似度を決定する縦類似度決定手順と、補間処理の対象となる空格子点の色情報の大きさと、該空格子点に対して横方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて、該空格子点と当該格子点との類似度を示す横類似度を決定する横類似度決定手順と、補間処理の対象となる空格子点の周辺に位置する格子点の色情報の大きさと、該空格子点の周辺に位置する空格子点の色情報の大きさとを用いて、周辺に位置する空格子点の縦方向の類似度を示す周辺縦類似度を決定する周辺縦類似度決定手順と、補間処理の対象となる空格子点の周辺に位置する格子点の色情報の大きさと、該空格子点の周辺に位置する空格子点の色情報の大きさとを用いて、周辺に位置する空格子点の横方向の類似度を示す周辺横類似度を決定する周辺横類似度決定手順と、前記縦類似度および前記周辺縦類似度に基づき、補間処理の対象となる空格子点の縦方向の類似度を決定すると共に、前記横類似度および前記周辺横類似度に基づき、該空格子点の横方向の類似度を決定する類似度決定手順と、前記縦方向の類似度および前記横方向の類似度に応じて補間処理の対象となる空格子点に対して類似性が強い方向に隣接する格子点の色情報の大きさの平均値を選択、もしくは該空格子点に対して縦方向および横方向に位置する格子点の色情報の大きさを該類似度に応じて加重加算することによって、該空格子点の補間量を決定する補間量決定手順とを備えたことを特徴とする。
【0016】
請求項4に記載の補間処理方法は、請求項3に記載の補間処理方法において、前記周辺縦類似度決定手順は、補間処理の対象となる空格子点に対して縦方向の少なくとも一方に隣接する格子点の色情報の大きさと、当該格子点に対して補間処理の対象となる空格子点とは反対方向に隣接する空格子点の色情報の大きさとを用いて周辺縦類似度を決定し、前記周辺横類似度決定手順は、補間処理の対象となる空格子点に対して横方向の少なくとも一方に隣接する格子点の色情報の大きさと、当該格子点に対して補間処理の対象となる空格子点とは反対方向に隣接する空格子点の色情報の大きさとを用いて周辺横類似度を決定することを特徴とする。
【0017】
請求項5に記載の補間処理方法は、請求項3に記載の補間処理方法において、周辺縦類似度決定手順は、補間処理の対象となる空格子点に対して横方向の少なくとも一方に隣接する格子点の色情報の大きさと、当該格子点に対して縦方向の少なくとも一方に隣接する空格子点の色情報の大きさとを用いて周辺縦類似度を決定し、周辺横類似度決定手順は、補間処理の対象となる空格子点に対して縦方向の少なくとも一方に隣接する格子点の色情報の大きさと、当該格子点に対して横方向の少なくとも一方に隣接する空格子点の色情報の大きさとを用いて周辺横類似度を決定することを特徴とする。
【0018】
請求項6に記載の補間処理方法は、請求項3に記載の補間処理方法において、周辺縦類似度決定手順は、補間処理の対象となる空格子点に対して斜め方向の少なくとも一方に位置する空格子点の色情報の大きさと、斜め方向に位置する空格子点に対して縦方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて周辺縦類似度を決定し、周辺横類似度決定手順は、補間処理の対象となる空格子点に対して斜め方向の少なくとも一方に位置する空格子点の色情報の大きさと、斜め方向に位置する空格子点に対して横方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて周辺縦類似度を決定することを特徴とする。
【0019】
請求項7に記載の補間処理方法は、請求項3に記載の補間処理方法において、周辺縦類似度決定手順は、補間処理の対象となる空格子点に対して上下左右方向と斜め方向とを含む8方向の少なくとも一方に位置する空格子点の色情報の大きさと、8方向の少なくとも一方に位置する空格子点に対して縦方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて周辺縦類似度を決定し、周辺横類似度決定手順は、補間処理の対象となる空格子点に対して上下左右方向と斜め方向とを含む8方向の少なくとも一方に位置する空格子点の色情報の大きさと、8方向の少なくとも一方に位置する空格子点に対して横方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて周辺縦類似度を決定することを特徴とする。
【0020】
請求項8に記載の補間処理方法は、請求項1ないし請求項7の何れか1項に記載の補間処理方法において、補間量決定手順は、前記縦方向の類似度および前記横方向の類似度について、何れか一方の類似度が突出する場合、その類似度を示す方向に隣接する2つの格子点の色情報の大きさの平均値を補間量とし、双方の類似度が近似する場合、該平均値を算出する以外の方法で補間量を決定することを特徴とする。
【0021】
請求項9に記載の補間処理方法は、請求項8に記載の補間処理方法において、補間量決定手順は、前記縦方向の類似度および前記横方向の類似度が近似する場合、各類似度に対応する重み係数に基づいて該空格子点の補間量を決定することを特徴とする。
請求項10に記載の補間処理方法は、請求項8に記載の補間処理方法において、補間量決定手順は、前記縦方向の類似度および前記横方向の類似度が近似する場合、補間処理の対象となる空格子点に隣接する4つの格子点の色情報の大きさのメディアンによって該空格子点の補間量を決定することを特徴とする。
【0022】
【発明の実施の形態】
以下、図面に基づいて本発明の実施形態について詳細を説明する。
なお、ここでは、本発明にかかわる補間処理方法を実現する電子スチルカメラを用いて説明を行う。
(第一の実施形態)
図1は、第一の実施形態にかかわる電子カメラの機能ブロック図である。
【0023】
なお、第一の実施形態は請求項1、請求項8および請求項9に記載の発明に対応した実施形態に相当する。
また、第一の実施形態および後述する各実施形態では、緑色を出力する画素を格子点とし、赤色もしくは青色を出力する画素を緑色に関する空格子点とする。すなわち、第一の実施形態および後述する各実施形態における補間処理は、これらの空格子点の緑色の色情報の大きさに相当する補間量を求める処理に相当する。
【0024】
図1において、制御部10の出力は、撮影光学系11、OLPF (光学的低域通過フィルタ:Optical Low Pass Filter)12、撮像素子13、A/D変換部14、階調変換部15、画像バッファメモリ16および信号処理部17に接続される。
信号処理部17は、補間処理部18を有し、補間処理部18は、類似度算出部19および補間量算出部20で構成される。
【0025】
撮影光学系11で取得された光学像は、OLPF12によってフィルタリングされ、撮像素子13に与えられる。なお、OLPF12を設けず、撮影光学系11で取得された光学像が撮像素子13に直接与えられてもよい。
撮像素子13の出力はA/D変換部14に接続され、A/D変換部14の出力は階調変換部15に接続される。また、階調変換部15の出力は画像バッファメモリ16に接続され、画像バッファメモリ16の出力は信号処理部17に接続される。
【0026】
なお、信号処理部17に接続された画像バッファメモリ16の出力は、信号処理部17を介して類似度算出部19と補間量算出部20とに接続される。また、補間量算出部20には、類似度算出部19から縦方向の類似度と横方向の類似度が供給され、画像バッファメモリ16には、信号処理部17を介して補間量算出部20から補間量が供給される(詳細は、後述する)。
【0027】
また、第一の実施形態および後述する各実施形態では、撮像素子13として、図14(1)に示すようなRGBの3色のカラーフィルタがベイア配列された構成の撮像素子を用い、画像バッファメモリ16は、これらの3色に対応する3つの領域で構成される。
ここで、画像バッファメモリ16内の緑色に対応する領域は、A/D変換部14によって生成されて、階調変換部15によって階調変換(log化やγ変換等)された緑色の画像データ(格子点の画素出力に相当する)を格納する領域と、後述する補間処理によって得られる緑色の画像データ(空格子点の補間量に相当する)を格納する領域とで構成される。
【0028】
また、以降の説明を簡単にするために、撮像素子13の各画素の位置は、「右方向を正とする横軸X」と「下方向を正とする縦軸Y」とで構成される座標系で表す。また、格子点の画素出力は、G(x,y)で表し、空格子点の補間量は、G'(x,y)で表す。
図2は、このような格子点の色情報の大きさと空格子点の補間量とを示した図である。図において、X_maxはX成分の最大値を示し、Y_maxはY成分の最大値を示す。
【0029】
図3は、第一の実施形態の動作フローチャートである。
図4は、第一の実施形態の補間処理の動作フローチャートである。
図5は、第一の実施形態の類似度の算出方法を説明する図である。
図5において、格子点をGで示し、空格子点をRBで示し、補間処理の対象となる空格子点の座標を(i,j)で示す。
【0030】
なお、請求項1、請求項8および請求項9の発明と第一の実施形態との対応関係については、縦方向類似度決定手順および横方向類似度決定手順は類似度算出部19で行われる処理に対応し、補間量決定手順は補間量算出部20で行われる処理に対応する。
以下、図1ないし図5を参照して第一の実施形態の動作を説明する。
【0031】
主電源が投入されている状態において、撮像素子13では、撮影光学系11およびOLPF12を介して与えられる光学像が光電変換面(図示されない)に結像され、光電変換によって信号電荷が生成される。また、撮像素子13は、このように生成された信号電荷を走査して画像信号を生成し、A/D変換部14に与える。
【0032】
A/D変換部14は、このように与えられた画像信号をA/D変換し、階調変換部15は、A/D変換された画像信号を階調変換(log化やγ変換等)して画像データを生成する(図3S1)。なお、第一の実施形態および後述する各実施形態において、画像データは、撮像素子13の各画素に対応する色情報に相当する。
【0033】
このように生成された画像データは、RGBの3色に分割され、各色に対応する画像バッファメモリ16内の領域に格納される(図3S2)。なお、このような処理は、制御部10によるタイミング制御に基づき繰り返し行われる。また、これらの緑色の画像データ(格子点の色情報)は、図2に示すように、上述した座標系で示される座標に対応付けられて格納される。
【0034】
制御部10は、電子スチルカメラの筐体に設けられたレリーズボタン(図示されない)が押下されたか否かを判定する(図3S3)。
制御部10は、このような判定によって、レリーズボタンが押下されていないことを認識すると、上述したタイミング制御によって画像データの生成(図3S1)および格納(図3S2)の処理を繰り返し指示する。
【0035】
また、制御部10は、レリーズボタンが押下されたことを認識すると、信号処理部17内の補間処理部18に対して、後述するような補間処理の実行を指示する(図3S4)。
すなわち、本実施形態では、レリーズボタンが押下された時点に画像バッファメモリ16に格納されている画像データが補間処理の対象となる。
【0036】
なお、画像表示を行うために、レリーズボタンが押下された時点によらず、常時、補間処理を実行してもよい。また、レリーズ後にS1以降の処理を行ってもよい。
このようにして補間処理が施された画像データ(空格子点の補間量)は、画像バッファメモリ16に格納される(図3S5)。
【0037】
以下、補間処理の動作を説明する。
補間処理部18は、制御部10によって補間処理の実行が指示されると、補間処理の対象となる空格子点を選択する(図4S1)。
例えば、図2において、任意の座標(x,y)について「x+y=奇数」が成り立つ場合、その座標には、空格子点が対応付けられている。そのため、本実施形態では、各画素に対応付けられた座標を(1,1)から(X_max,Y_max)まで順次検索し、X成分とY成分との和が奇数である座標を空格子点とする。
【0038】
なお、図2において、任意の座標(x,y)について「x+y=奇数」が成り立つ場合、xが偶数であるか奇数であるかを判定することによって、その座標の画素から出力される色を識別することができる。例えば、「x+y=奇数 かつ x=偶数」が成り立つ画素の出力を赤色とすると、「x+y=奇数 かつ x=奇数」が成り立つ画素の出力は青色となる。
【0039】
補間処理部18は、上述したように補間処理の対象となる空格子点を選択すると、類似度算出部19、補間量算出部20を起動する。
類似度算出部19は、図5に示すように、補間処理の対象となる空格子点(i,j)の色情報の大きさRB(i,j)と、その空格子点に対して縦方向および横方向に隣接する格子点の色情報の大きさG(i,j−1),G(i,j+1),G(i−1,j),G(i+1,j)を画像バッファメモリ16から読み出す。すなわち、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度を算出する際に用いる色情報の大きさを画像バッファメモリ16から読み出す。
【0040】
また、類似度算出部19は、RB(i,j)、G(i,j−1)およびG(i,j+1)を用いて、縦方向の類似度Ctsum(i,j)を
Ctsum(i,j)=t×|RB(i,j)−G(i,j−1)|
+(1−t)×|RB(i,j)−G(i,j+1)|
によって算出し、RB(i,j)、G(i−1,j)およびG(i+1,j)を用いて、横方向の類似度Cysum(i,j)を
Cysum(i,j)=y×|RB(i,j)−G(i−1,j)|
+(1−y)×|RB(i,j)−G(i+1,j)|
によって算出する(図4S2)。
【0041】
なお、tおよびyは、「0≦t≦1,0≦y≦1」満たす定数であり、ここでは、「t=y=0.5」とする。
さらに、類似度算出部19は、このように算出した縦方向の類似度Ctsum(i,j)および空格子点の横方向の類似度Cysum(i,j)を補間量算出部20に供給する。
【0042】
補間量算出部20は、縦方向の類似度Ctsum(i,j)および空格子点の横方向の類似度Cysum(i,j)が供給されると、補間処理の対象となる空格子点に対して縦方向および横方向に隣接する格子点の色情報の大きさG(i,j−1),G(i,j+1),G(i−1,j),G(i+1,j)を画像バッファメモリ16から読み出し、その空格子点の補間量G'(i,j)を
によって算出する。
【0043】
ただし、x=(Cysum(i,j)−Ctsum(i,j))
/{(Cysum(i,j)+Ctsum(i,j))×T1+T0}
−1≦x≦1のとき f(x)=x
x>1のとき f(x)=1
x<−1のとき f(x)=−1
ここで、T1は「0≦T1≦1」を満たす定数であり、色情報の大きさを「0から255まで」の数値(8ビット)で示した場合、T0は「0から100まで」の定数とする。また、T0とT1とは共に「0」となることはない。例えば、T1とT0との組み合わせ(t1,t0)としては、(0.3,0)、(0.5、10)、(0.7,0)、(0.3,40)、(0.5,40)、(0.7,40)が考えられる。
【0044】
このように、補間量算出部20は、
x=(Cysum(i,j)−Ctsum(i,j))
/{(Cysum(i,j)+Ctsum(i,j))×T1+T0}
を空格子点の類似度の評価値とし、その評価値に応じて空格子点の補間量を算出する。ここで、「x>0」が成り立つ場合には横方向の類似度よりも縦方向の類似度が強く、「x<0」が成り立つ場合には縦方向の類似度よりも横方向の類似度が強いことを意味する。
【0045】
なお、f(x)のグラフは、図6に示す形状となる。
ところで、式1は、「x>1」が成り立つ場合、「f(x)=1」であるため、
G'(i,j)=(G(i,j−1)+G(i,j+1))/2
と等価であり、「x<−1」が成り立つ場合、「f(x)=−1」であるため、
G'(i,j)=(G(i−1,j)+G(i+1,j))/2
と等価である。
【0046】
すなわち、補間量算出部20は、「x>1」が成り立つか否かを判定することによって空格子点の縦方向の類似度が突出しているか否かを判定し(図4S3)、「x<−1」が成り立つか否かを判定することによって空格子点の横方向の類似度が突出しているか否かを判定する(図4S4)。
また、補間量算出部20は、空格子点の縦方向の類似度が突出している場合(図4S4のYES側)、縦方向に隣接する二つの格子点の色情報の大きさの平均値を空格子点の補間量とし(図4S5)、空格子点の横方向の類似度が突出している場合(図4S4のYES側)、横方向に隣接する二つの格子点の色情報の大きさの平均値を空格子点の補間量とする(図4S6)。
【0047】
ところで、式1は、「−1≦x≦1」が成り立つ場合、
と等価である。
【0048】
ここで、「(G(i,j−1)+G(i,j+1))/2」は、縦方向に隣接する二つの格子点の色情報の大きさの平均値に相当し、「(1+x)/2」は、縦方向の類似度に対応する重み係数に相当する。また、「(G(i−1,j)+G(i+1,j))/2」は、横方向に隣接する二つの格子点の色情報の大きさの平均値に相当し、「(1−x)/2」は、横方向の類似度に対応する重み係数に相当する。
【0049】
すなわち、補間量算出部20は、何れの類似度も突出していないことを認識した場合(図4S4のNO側)、空格子点の縦方向に隣接する二つの格子点の色情報の大きさの平均値および横方向に隣接する二つの格子点の色情報の大きさの平均値に対し、各方向の類似度の評価値に基づく加重加算を施すことによって空格子点の補間量を算出する(図4S7)。
【0050】
また、補間処理部18は、全ての空格子点の補間処理が完了したか否かを判定する(図4S8)。
例えば、このような判定は、上述したような各画素に対応付けられた座標を検索する過程で、任意の座標(i,j)について、「i>X_max−3」および「j>Y_max−3」が成り立つか否かを判定することに相当する。
【0051】
なお、画像の端部のように本発明の補間処理をそのまま適用できない部分については、画像の端から先を折り返して仮想の画像を生成し(公知の技術)、このように生成した画像を用いて補間処理を行ってもよい。
補間処理部18は、このような判定によって、全ての空格子点の補間処理が完了したことを認識するまで、上述した処理(図4S1以降の処理)を繰り返し行う。
【0052】
すなわち、第一の実施形態では、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度に、その空格子点の色情報の大きさを反映することができる。そのため、例えば、図16に示す画像の補間処理を行う場合には、縦方向の類似度が突出していることが判定できる。
したがって、本実施形態によれば、米国特許第5,382,976号明細書に開示された従来の補間処理によって破綻する可能性があった画像に対しても、高い精度で補間処理を行うことができる。
【0053】
なお、本実施形態では、「t=y=0.5」として縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)を算出しているが、例えば、「t=y=0」または「t=y=1」として縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)を算出してもよい。
仮に、「t=y=0」とした場合、縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)を
Ctsum(i,j)=|RB(i,j)−G(i,j+1)|
Cysum(i,j)=|RB(i,j)−G(i+1,j)|
によって算出できるため、類似度算出部19は、G(i,j−1)およびG(i−1,j)を画像バッファメモリ16から読み出す必要がない。
【0054】
また、本実施形態では、f(x)を図6に示す形状としているが、縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)の何れか一方の類似度が突出する場合、その突出する類似度を示す方向に隣接する二つの格子点の色情報の大きさの平均値を空格子点の補間量とできれば、f(x)は如何なる関数であってもよい。
【0055】
さらに、本実施形態では、補間量の算出時にf(x)の値を算出しているが、例えば、補間量算出部18内にルックアップテーブルを設けて予め算出したf(x)の値を格納し、空格子点の縦方向の類似度Ctsum(i,j)や横方向の類似度Cysum(i,j)に対応付けてルックアップテーブルを参照することによってf(x)の値を取得してもよい。
【0056】
また、本実施形態では、何れか一方の類似度が突出しているか否かの判定をxの値に基づいて行っているが、例えば、縦方向の類似度Ctsum(i,j)が所定の値(ここでは、Thとする)以下であり横方向の類似度Cysum(i,j)がThを上回る場合には、縦方向の類似度Ctsum(i,j)が突出していると判定し、横方向の類似度Cysum(i,j)がTh以下であり縦方向の類似度Ctsum(i,j)がThを上回る場合には、横方向の類似度Cysum(i,j)が突出していると判定してもよい。
【0057】
さらに、xを算出する際の割算を回避するために、分母に相当する値を算出した後、その値をテーブル参照で「1/分母」に相当する値に置き換えて、掛算でxを求めてもよいし、分子の絶対値と分母とを対数化(テーブル参照などにより)してから差をとり、これと所定値との大小を比較する方法(この場合、符号は別途判別する)に置き換えてもよい。
【0058】
また、本実施形態では、縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)が近似する場合、請求項9を適用して各類似度に対応する重み係数に基づいて空格子点の補間量を算出しているが、例えば、請求項9に代えて請求項10を適用することによって、空格子点に隣接する4つの格子点の色情報の大きさのメディアンに基づき空格子点の補間量を算出してもよい。
【0059】
(第二の実施形態)
図7は、第二の実施形態の類似度の算出方法を説明する図である。
図において、格子点をGで示し、空格子点をRBで示し、補間処理の対象となる空格子点の座標を(i,j)で示す。
なお、第二の実施形態は、請求項1、請求項8および請求項9に記載の発明に対応した実施形態に相当する。また、これらの請求項に記載の発明と第二の実施形態との対応関係については、縦方向類似度決定手順および横方向類似度決定手順は類似度算出部19で行われる処理に対応し、補間量決定手順は補間量算出部20で行われる処理に対応する。
【0060】
第二の実施形態の特徴は、類似度算出部19によって行われる縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)の算出方法にあり、他の処理については、第一の実施形態と同様であるため説明を省略する。
類似度算出部19は、第一の実施形態と同様に、補間処理の対象となる空格子点(i,j)の色情報の大きさRB(i,j)と、その空格子点に対して縦方向および横方向に隣接する格子点の色情報の大きさG(i,j−1),G(i,j+1),G(i−1,j),G(i+1,j)を画像バッファメモリ16から読み出す。
【0061】
また、類似度算出部19は、図7に示すように、RB(i,j)、G(i,j−1)およびG(i,j+1)を用いて、縦方向の類似度Ctsum(i,j)を
によって算出し、RB(i,j)、G(i−1,j)およびG(i+1,j)を用いて、横方向の類似度Cysum(i,j)を
によって算出する(図4S2に相当する)。
【0062】
なお、tおよびyは、「0≦t≦1,0≦y≦1」満たす定数であり、ここでは、「t=y=0.5」とする。
このように、第二の実施形態では、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度に、その空格子点の色情報の大きさを反映することができる。そのため、第一の実施形態と同様に、米国特許第5,382,976号明細書に開示された従来の補間処理によって破綻する可能性があった画像に対しても、高い精度で補間処理を行うことができる。
【0063】
なお、本実施形態では、「t=y=0.5」として縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)を算出しているが、例えば、「t=y=0」または「t=y=1」として縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)を算出してもよい。
仮に、「t=y=1」とした場合、縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)を
Ctsum(i,j)=|G(i,j−1)−RB(i,j)|
Cysum(i,j)=|G(i−1,j)−RB(i,j)|
によって算出できるため、類似度算出部19は、G(i,j+1)およびG(i+1,j)を画像バッファメモリ16から読み出す必要がない。
【0064】
(第三の実施形態)
図8は、第三の実施形態の類似度の算出方法を説明する図である。
図において、格子点をGで示し、空格子点をRBで示し、補間処理の対象となる空格子点の座標を(i,j)で示す。
なお、第三の実施形態は、請求項2、請求項8および請求項9に記載の発明に対応した実施形態に相当する。また、これらの請求項に記載の発明と第三の実施形態との対応関係については、縦方向類似度決定手順および横方向類似度決定手順は類似度算出部19で行われる処理に対応し、補間量決定手順は補間量算出部20で行われる処理に対応する。
【0065】
第三の実施形態の特徴は、類似度算出部19によって行われる縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)の算出方法にあり、他の処理については、第一の実施形態と同様であるため説明を省略する。
類似度算出部19は、図8に示すように、補間処理の対象となる空格子点(i,j)の色情報の大きさRB(i,j)と、その空格子点に対して上方向および左方向に隣接する格子点の色情報の大きさG(i,j−1),G(i−1,j)と、その空格子点に対して左上方向に位置する空格子点の色情報の大きさRB(i−1,j−1)を画像バッファメモリ16から読み出す。
【0066】
また、類似度算出部19は、図8に示すように、RB(i,j)、G(i,j−1)、G(i−1,j)およびRB(i−1,j−1)を用いて、縦方向の類似度Ctsum(i,j)を
によって算出し、RB(i,j)、G(i−1,j)およびG(i+1,j)を用いて、横方向の類似度Cysum(i,j)を
によって算出する(図4S2に相当する)。
【0067】
なお、tおよびyは、「0≦t≦1,0≦y≦1」満たす定数であり、ここでは、「t=y=0.5」とする。
このように、第三の実施形態では、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度に、補間処理の対象となる空格子点や、その空格子点の周辺に位置する空格子点の色情報の大きさを反映することができる。そのため、米国特許第5,382,976号明細書に開示された従来の補間処理によって破綻する可能性があった画像に対しても、高い精度で補間処理を行うことができる。
【0068】
なお、本実施形態では、「t=y=0.5」として縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)を算出しているが、例えば、「t=y=0」または「t=y=1」として縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)を算出してもよい。
仮に、「t=y=0」とした場合、縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)は、
Ctsum(i,j)=|RB(i−1,j−1)−G(i−1,j)|
Cysum(i,j)=|RB(i−1,j−1)−G(i,j−1)|
によって算出される。すなわち、このような場合には、補間処理の対象となる空格子点の周辺に位置する格子点および空格子点の色情報の大きさによって縦方向の類似度および横方向の類似度が決定されることになる。
【0069】
また、本実施形態では、補間処理の対象となる空格子点以外の空格子点の色情報の大きさとして、補間処理の対象となる空格子点に対して左上に位置する空格子点の色情報の大きさを用いたが、請求項2に記載の発明は、このような色情報の大きさに限定されず、左上に位置する空格子点に代えて右上、右下または左下に位置する空格子点の色情報の大きさを用いてもよく、これら四つの空格子点の色情報の大きさを用いて算出した値を加重加算してもよい。
【0070】
例えば、縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)を下式によって算出することができる。
Ctsum(i,j)=(t1×|RB(i,j)−G(i,j−1)|+
(1−t1)×|RB(i−1,j−1)−G(i−1,j)|)×ht1
(t2×|RB(i,j)−G(i,j−1)|+
(1−t2)×|RB(i+1,j−1)−G(i+1,j)|)×ht2
(t3×|RB(i,j)−G(i,j+1)|+
(1−t3)×|RB(i−1,j+1)−G(i−1,j)|)×ht3
(t4×|RB(i,j)−G(i,j+1)|+
(1−t4)×|RB(i+1,j+1)−G(i+1,j)|)×ht4
Cysum(i,j)=(y1×|RB(i,j)−G(i−1,j)|+
(1−y1)×|RB(i−1,j−1)−G(i,j−1)|)×hy1
(y2×|RB(i,j)−G(i+1,j)|+
(1−y2)×|RB(i+1,j−1)−G(i,j−1)|)×hy2
(y3×|RB(i,j)−G(i−1,j)|+
(1−y3)×|RB(i−1,j+1)−G(i,j+1)|)×hy3
(y4×|RB(i,j)−G(i+1,j)|+
(1−y4)×|RB(i+1,j+1)−G(i,j+1)|)×hy4
ただし、t1〜t4、y1〜y4は「0」以上「1」以下の定数であり、ht1〜ht4、hy1〜hy4は定数であり、かつ少なくとも1つは「0」でない。
【0071】
このような式において、「ht1+ht2+ht3+ht4 =1」および「hy1+hy2+hy3+hy4 =1」とした場合には、補間処理の対象となる空格子点に対して斜め方向に位置する空格子点の色情報の大きさを用いて得られた値を加重加算したことに相当する。
(第四の実施形態)
図9は、第四の実施形態の類似度の算出方法を説明する図である。
【0072】
図において、格子点をGで示し、空格子点をRBで示し、補間処理の対象となる空格子点の座標を(i,j)で示す。
なお、第四の実施形態は、請求項3、請求項4、請求項8および請求項9に記載の発明に対応した実施形態に相当する。また、これらの請求項に記載の発明と第四の実施形態との対応関係については、縦類似度決定手順、横類似度決定手順、周辺縦類似度決定手順、周辺横類似度決定手順および類似度決定手順は、類似度算出部19で行われる処理に対応し、補間量決定手順は、補間量算出部20で行われる処理に対応する。
【0073】
第四の実施形態の特徴は、類似度算出部19によって行われる縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)の算出方法にあり、他の処理については、第一の実施形態と同様であるため説明を省略する。
類似度算出部19は、図9に示すように、補間処理の対象となる空格子点(i,j)の色情報の大きさRB(i,j)と、その空格子点に対して縦方向および横方向に隣接する格子点の色情報の大きさG(i,j−1),G(i,j+1),G(i−1,j),G(i+1,j)を画像バッファメモリ16から読み出す。
【0074】
また、類似度算出部19は、図9に示すように、RB(i,j)、G(i,j−1)およびG(i,j+1)を用いて、縦類似度Ct(i,j)を
Ct(i,j)=t×|RB(i,j)−G(i,j−1)|
+(1−t)×|RB(i,j)−G(i,j+1)|
によって算出し、RB(i,j)、G(i−1,j)およびG(i+1,j)を用いて、横類似度Cy(i,j)を
Cy(i,j)=y×|RB(i,j)−G(i−1,j)|
+(1−y)×|RB(i,j)−G(i+1,j)|
によって算出する。
【0075】
なお、tおよびyは、「0≦t≦1,0≦y≦1」満たす定数であり、ここでは、「t=y=0.5」とする。
さらに、類似度算出部19は、補間処理の対象となる空格子点の周辺に位置する空格子点の色情報の大きさRB(i,j−2)、RB(i,j+2)、RB(i−2,j)、RB(i+2,j)を画像バッファメモリ16から読み出す。
【0076】
また、類似度算出部19は、このように読み出したRB(i,j−2)、RB(i,j+2)、RB(i−2,j)、RB(i+2,j)と、既に読み出されているG(i,j−1)、G(i,j+1)、G(i−1,j)、G(i+1,j)とを用いて、周辺縦類似度Ctn(i,j)および周辺横類似度Cyn(i,j)を
によって算出する。
【0077】
なお、t1およびt2は定数であり、かつ少なくとも1つは「0」でなく、y1およびy2は定数であり、かつ少なくとも1つは「0」でない。
さらに、類似度算出部19は、このように算出したCt(i,j)、Cy(i,j)、Ctn(i,j)、Cyn(i,j)を用いて、縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)を
Ctsum(i,j)=Ct(i,j)+Ctn(i,j)×ht
Cysum(i,j)=Cy(i,j)+Cyn(i,j)×hy
によって算出する。
【0078】
なお、htおよびhyは、定数であり、例えば、「1/2」や「1/4」とする。
このように、第四の実施形態では、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度に、補間処理の対象となる空格子点および周辺に位置する空格子点の色情報の大きさを反映することができる。
したがって、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度の信頼性を確実に向上させることができるため、高い精度で補間処理を行うことができる。
【0079】
(第五の実施形態)
図10は、第五の実施形態の類似度の算出方法を説明する図である。
図において、格子点をGで示し、空格子点をRBで示し、補間処理の対象となる空格子点の座標を(i,j)で示す。
なお、第五の実施形態は、請求項3、請求項5、請求項8および請求項9に記載の発明に対応した実施形態に相当する。また、これらの請求項に記載の発明と第五の実施形態との対応関係については、縦類似度決定手順、横類似度決定手順、周辺縦類似度決定手順、周辺横類似度決定手順および類似度決定手順は、類似度算出部19で行われる処理に対応し、補間量決定手順は、補間量算出部20で行われる処理に対応する。
【0080】
第五の実施形態の特徴は、類似度算出部19によって行われる縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)の算出方法にあり、他の処理については、第一の実施形態と同様であるため説明を省略する。
【0081】
類似度算出部19は、第四の実施形態と同様に、画像バッファメモリ16からRB(i,j)、G(i,j−1),G(i,j+1),G(i−1,j),G(i+1,j)を読み出し、縦類似度Ct(i,j)および横類似度Cy(i,j)を
Ct(i,j)=t×|RB(i,j)−G(i,j−1)|
+(1−t)×|RB(i,j)−G(i,j+1)|
Cy(i,j)=y×|RB(i,j)−G(i−1,j)|
+(1−y)×|RB(i,j)−G(i+1,j)|
によって算出する(図示省略)。
【0082】
なお、tおよびyは、「0≦t≦1,0≦y≦1」満たす定数であり、ここでは、「t=y=0.5」とする。
また、類似度算出部19は、図10に示すように、補間処理の対象となる空格子点に対して斜め方向に位置する四つの空格子点の色情報の大きさRB(i−1,j−1)、RB(i−1,j+1)、RB(i+1,j−1)、RB(i+1,j+1)を画像バッファメモリ16から読み出す。
【0083】
さらに、類似度算出部19は、このように読み出したRB(i−1,j−1)、RB(i−1,j+1)、RB(i+1,j−1)、RB(i+1,j+1)と、既に読み出されているG(i,j−1)、G(i,j+1)、G(i−1,j)、G(i+1,j)とを用いて、周辺縦類似度Ctn(i,j)および周辺横類似度Cyn(i,j)を
によって算出する。
【0084】
なお、t1〜t4は定数であり、かつ少なくとも1つは「0」でなく、y1〜y4は定数であり、かつ少なくとも1つは「0」でない。
また、類似度算出部19は、このように算出したCt(i,j)、Cy(i,j)、Ctn(i,j)、Cyn(i,j)を用いて、縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)を
Ctsum(i,j)=Ct(i,j)+Ctn(i,j)×ht
Cysum(i,j)=Cy(i,j)+Cyn(i,j)×hy
によって算出する。
【0085】
なお、htおよびhyは、定数であり、例えば、「1/2」や「1/4」とする。
このように、第五の実施形態では、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度に、補間処理の対象となる空格子点および周辺に位置する空格子点の色情報の大きさを反映することができる。
したがって、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度の信頼性を確実に向上させることができるため、高い精度で補間処理を行うことができる。
【0086】
なお、上述した第四の実施形態および第五の実施形態では、縦類似度Ct(i,j)および横類似度Cy(i,j)を
Ct(i、j)=t×|RB(i,j)−G(i,j−1)|
+(1−t)×|RB(i,j)−G(i,j+1)|
Cy(i,j)=y×|RB(i,j)−G(i−1,j)|
+(1−y)×|RB(i,j)−G(i+1,j)|
によって算出しているが、例えば、縦類似度Ct(i,j)および横類似度Cy(i,j)を
によって算出してもよい。
【0087】
(第六の実施形態)
図11は、第六の実施形態の類似度の算出方法を説明する図である。
図において、格子点をGで示し、空格子点をRBで示し、補間処理の対象となる空格子点の座標を(i,j)で示す。
なお、第六の実施形態は、請求項3、請求項6、請求項8および請求項9に記載の発明に対応した実施形態に相当する。また、これらの請求項に記載の発明と第六の実施形態との対応関係については、縦類似度決定手順、横類似度決定手順、周辺縦類似度決定手順、周辺横類似度決定手順および類似度決定手順は、類似度算出部19で行われる処理に対応し、補間量決定手順は、補間量算出部20で行われる処理に対応する。
【0088】
第六の実施形態の特徴は、類似度算出部19によって行われる縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)の算出方法にあり、他の処理については、第一の実施形態と同様であるため説明を省略する。
類似度算出部19は、図11(1)に示すように、縦類似度および横類似度を算出すべき空格子点の座標を(i,j)とした場合、その空格子点の色情報の大きさと、その空格子点に隣接する格子点の色情報の大きさを用いて縦類似度および横類似度を算出する。なお、図11(1)において、Gupは、縦類似度および横類似度を算出すべき空格子点に対して上方向に隣接する格子点の色情報の大きさを示し、Gdounは、下方向に隣接する格子点の色情報の大きさを示し、Gleftは、左方向に隣接する格子点の色情報の大きさを示し、Grightは、右方向に隣接する格子点の色情報の大きさを示す。
【0089】
すなわち、類似度算出部19は、画像バッファメモリ16からRB(i,j)、G(i,j−1),G(i,j+1),G(i−1,j),G(i+1,j)を読み出し、縦類似度Ct(i,j)および横類似度Cy(i,j)を
Ct(i,j)=t×|RB(i,j)−G(i,j−1)|
+(1−t)×|RB(i,j)−G(i,j+1)|
Cy(i,j)=y×|RB(i,j)−G(i−1,j)|
+(1−y)×|RB(i,j)−G(i+1,j)|
によって算出する。
【0090】
なお、tおよびyは、「0≦t≦1,0≦y≦1」満たす定数であり、ここでは、「t=y=0.5」とする。
また、類似度算出部19は、図11(2)、(3)に示すように、補間処理の対象となる空格子点の斜め方向に位置する空格子点の縦類似度および横類似度を算出し、各縦類似度を加重加算して周辺縦類似度Ctn(i,j)を算出すると共に、各横類似度を加重加算して周辺横類似度Cyn(i,j)を算出する。
【0091】
すなわち、類似度算出部19は、周辺縦類似度Ctn(i,j)および周辺横類似度Cyn(i,j)を
によって算出する。
【0092】
なお、t1〜t4は定数であり、かつ少なくとも1つは「0」でなく、y1〜y4は定数であり、かつ少なくとも1つは「0」でない。
また、類似度算出部19は、このように算出したCt(i,j)、Cy(i,j)、Ctn(i,j)、Cyn(i,j)を用いて、縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)を
Ctsum(i,j)=Ct(i,j)+Ctn(i,j)×ht
Cysum(i,j)=Cy(i,j)+Cyn(i,j)×hy
によって算出する。
【0093】
なお、htおよびhyは、定数であり、例えば、「1/2」や「1/4」とする。
このように、第六の実施形態では、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度に、補間処理の対象となる空格子点および周辺に位置する空格子点の色情報の大きさを反映することができる。特に、第六の実施形態は、このような類似度の算出に際し、第四の実施形態および第五の実施形態と比較して、広範囲に位置する空格子点の色情報の大きさを用いることができる。
【0094】
したがって、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度の信頼性を確実に向上させることができるため、高い精度で補間処理を行うことができる。
(第七の実施形態)
図12は、第七の実施形態の類似度の算出方法を説明する図である。
【0095】
図において、格子点をGで示し、空格子点をRBで示し、補間処理の対象となる空格子点の座標を(i,j)で示す。
なお、第七の実施形態は、請求項3、請求項6、請求項8および請求項9に記載の発明に対応した実施形態に相当する。また、これらの請求項に記載の発明と第七の実施形態との対応関係については、縦類似度決定手順、横類似度決定手順、周辺縦類似度決定手順、周辺横類似度決定手順および類似度決定手順は、類似度算出部19で行われる処理に対応し、補間量決定手順は、補間量算出部20で行われる処理に対応する。
【0096】
第七の実施形態の特徴は、類似度算出部19によって行われる縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)の算出方法にあり、他の処理については、第一の実施形態と同様であるため説明を省略する。
類似度算出部19は、図12(1)に示すように、縦類似度および横類似度を算出すべき空格子点の座標を(i,j)とした場合、その空格子点の色情報の大きさと、その空格子点に隣接する格子点の色情報の大きさを用いて縦類似度および横類似度を算出する。
【0097】
すなわち、類似度算出部19は、画像バッファメモリ16からRB(i,j)、G(i,j−1),G(i,j+1),G(i−1,j),G(i+1,j)を読み出し、縦類似度Ct(i,j)および横類似度Cy(i,j)を
によって算出する。
【0098】
なお、tおよびyは、「0≦t≦1,0≦y≦1」満たす定数であり、ここでは、「t=y=0.5」とする。
また、類似度算出部19は、図12(2)、(3)に示すように、補間処理の対象となる空格子点の斜め方向に位置する空格子点の縦類似度および横類似度を算出し、各縦類似度を加重加算して周辺縦類似度Ctn(i,j)を算出すると共に、各横類似度を加重加算して周辺横類似度Cyn(i,j)を算出する。
【0099】
すなわち、類似度算出部19は、周辺縦類似度Ctn(i,j)および周辺横類似度Cyn(i,j)を
によって算出する。
【0100】
なお、t1〜t4は定数であり、かつ少なくとも1つは「0」でなく、y1〜y4は定数であり、かつ少なくとも1つは「0」でない。
また、類似度算出部19は、このように算出したCt(i,j)、Cy(i,j)、Ctn(i,j)、Cyn(i,j)を用いて、縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)を
Ctsum(i,j)=Ct(i,j)+Ctn(i,j)×ht
Cysum(i,j)=Cy(i,j)+Cyn(i,j)×hy
によって算出する。
【0101】
なお、htおよびhyは、定数であり、例えば、「1/2」や「1/4」とする。
このように、第七の実施形態では、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度に、補間処理の対象となる空格子点および周辺に位置する空格子点の色情報の大きさを反映することができる。特に、第七の実施形態は、このような類似度の算出に際し、第四の実施形態および第五の実施形態と比較して、広範囲に位置する空格子点の色情報の大きさを用いることができる。
【0102】
したがって、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度の信頼性を確実に向上させることができるため、高い精度で補間処理を行うことができる。
(第八の実施形態)
図13は、第八の実施形態の類似度の算出方法を説明する図である。
【0103】
図において、格子点をGで示し、空格子点をRBで示し、補間処理の対象となる空格子点の座標を(i,j)で示す。
なお、第八の実施形態は、請求項3、請求項7、請求項8および請求項9に記載の発明に対応した実施形態に相当する。また、これらの請求項に記載の発明と第八の実施形態との対応関係については、縦類似度決定手順、横類似度決定手順、周辺縦類似度決定手順、周辺横類似度決定手順および類似度決定手順は、類似度算出部19で行われる処理に対応し、補間量決定手順は、補間量算出部20で行われる処理に対応する。
【0104】
第八の実施形態の特徴は、類似度算出部19によって行われる縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)の算出方法にあり、他の処理については、第一の実施形態と同様であるため説明を省略する。
類似度算出部19は、図11(1)または図12(1)に示すように、縦類似度および横類似度を算出すべき空格子点の座標を(i,j)とした場合、その空格子点の色情報の大きさと、その空格子点に隣接する格子点の色情報の大きさを用いて縦類似度および横類似度を算出する(詳細は、上述した第六の実施形態および第七の実施形態と同じ)。
【0105】
また、類似度算出部19は、図13に示すように、補間処理の対象となる空格子点に対し、斜め方向に位置する空格子点の縦類似度および横類似度と、上下左右方向に最近接する空格子点の縦類似度および横類似度とを算出し、各縦類似度を加重加算して周辺縦類似度Ctn(i,j)を算出すると共に、各横類似度を加重加算して周辺横類似度Cyn(i,j)を算出する。
【0106】
すなわち、類似度算出部19は、周辺縦類似度Ctn(i,j)および周辺横類似度Cyn(i,j)を
によって算出する。
【0107】
なお、t1〜t8は定数であり、かつ少なくとも1つは「0」でなく、y1〜y8は定数であり、かつ少なくとも1つは「0」でない。
また、類似度算出部19は、このように算出したCt(i,j)、Cy(i,j)、Ctn(i,j)、Cyn(i,j)を用いて、縦方向の類似度Ctsum(i,j)および横方向の類似度Cysum(i,j)を
Ctsum(i,j)=Ct(i,j)+Ctn(i,j)×ht
Cysum(i,j)=Cy(i,j)+Cyn(i,j)×hy
によって算出する。
【0108】
なお、htおよびhyは、定数であり、例えば、「1/2」や「1/4」とする。このように、第八の実施形態では、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度に、補間処理の対象となる空格子点および周辺に位置する空格子点の色情報の大きさを反映することができる。特に、第八の実施形態は、このような類似度の算出に際し、第六の実施形態および第七の実施形態と比較して、広範囲に位置する空格子点の色情報の大きさを用いることができる。
【0109】
したがって、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度の信頼性を確実に向上させることができるため、高い精度で補間処理を行うことができる。
なお、本実施形態では、周辺縦類似度および周辺横類似度の算出に際し、補間処理の対象となる空格子点に斜め方向に位置する空格子点と上下左右方向に最近接する空格子点との縦類似度および横類似度を用いているが、請求項3に記載の発明は、このような空格子点に限定されず、補間処理の対象となる空格子点の周辺に位置する空格子点であれば、如何なる範囲に位置する空格子点の縦類似度および横類似度を用いてもよい。
【0110】
【発明の効果】
上述したように請求項1に記載の発明では、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度の決定に際し、該空格子点に隣接する格子点の色情報の大きさだけでなく、該空格子点の色情報の大きさを用いる。
また、請求項2に記載の発明では、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度の決定に際し、該空格子点の色情報の大きさと、該空格子点に対して斜め方向の少なくとも一方に位置する空格子点の色情報の大きさと、補間処理の対象となる空格子点および該空格子点に対して斜め方向の少なくとも一方に位置する空格子点に隣接する格子点の色情報とを用いる。
【0111】
さらに、請求項3ないし請求項7に記載の発明では、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度の決定に際し、縦類似度および横類似度と共に、周辺縦類似度および周辺横類似度を用いる。
したがって、請求項1ないし請求項7に記載の発明によれば、補間処理の対象となる空格子点に隣接する格子点の色情報の大きさのみを用いて該空格子点の縦方向の類似度および横方向の類似度を決定する場合と比較して、該空格子点の縦方向の類似度および横方向の類似度を高い精度で求めることができる。
【0112】
特に、請求項3ないし請求項7に記載の発明では、補間処理の対象となる空格子点の周辺部分の画像の特徴を反映しつつ、該空格子点の縦方向の類似度および横方向の類似度を決定できるため、画像の特徴が局所的には現れない場合であっても、縦方向の類似度および横方向の類似度の精度を確実に向上することができる。
【0113】
請求項8に記載の発明では、空格子点の縦方向の類似度または横方向の類似度の何れか一方が突出している場合には、その方向に隣接する二つの格子点の画素出力の平均値を空格子点の補間量とすることができる。
したがって、空格子点の縦方向の類似度および横方向の類似度を確実に反映しつつ、空格子点の補間量を決定することができる。
【0114】
請求項9および請求項10に記載の発明では、空格子点の縦方向の類似度および横方向の類似度が近似する場合であっても、各類似度を確実に反映しつつ、空格子点の補間量を算出することができる。
したがって、請求項1ないし請求項10に記載の発明によれば、補間処理の対象となる空格子点の空間的な類似度を的確に推定することによって、補間処理の信頼性を確実に向上することができる。
【0115】
なお、本発明は無彩色に近い画像で非常に有効であるが、自然画像のように異なる色同士の相関が大きい場合には、無彩色に近い画像に限らず、カラー画像であっても同様の効果が得られる。
【図面の簡単な説明】
【図1】電子カメラの機能ブロック図である。
【図2】格子点の色情報と空格子点の補間量とを示す図である。
【図3】第一の実施形態の動作フローチャートである。
【図4】第一の実施形態の補間処理の動作フローチャートである。
【図5】第一の実施形態の類似度の算出方法を説明する図である。
【図6】f(x)のグラフの形状を示す図である。
【図7】第二の実施形態の類似度の算出方法を説明する図である。
【図8】第三の実施形態の類似度の算出方法を説明する図である。
【図9】第四の実施形態の類似度の算出方法を説明する図である。
【図10】第五の実施形態の類似度の算出方法を説明する図である。
【図11】第六の実施形態の類似度の算出方法を説明する図である。
【図12】第七の実施形態の類似度の算出方法を説明する図である。
【図13】第八の実施形態の類似度の算出方法を説明する図である。
【図14】撮像素子の構成を示す図である。
【図15】従来の補間処理を説明する図である。
【図16】縦縞上の画像の例を示す図である。
【図17】色情報の大きさの例を示す図である。
【符号の説明】
10 制御部
11 撮影光学系
12 OLPF
13 撮像素子
14 A/D変換部
15 階調変換部
16 画像バッファメモリ
17 信号処理部
18 補間処理部
19 類似度算出部
20 補間量算出部
Claims (10)
- 予め決められた色を出力する格子点と該色を出力しない空格子点とが市松模様状に配された画像の補間処理方法において、
補間処理の対象となる空格子点の色情報の大きさと、該空格子点に対して縦方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて、該空格子点の縦方向の類似度を決定する縦方向類似度決定手順と、
補間処理の対象となる空格子点の色情報の大きさと、該空格子点に対して横方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて、該空格子点の横方向の類似度を決定する横方向類似度決定手順と、
前記縦方向の類似度および前記横方向の類似度に応じて補間処理の対象となる空格子点に対して類似性が強い方向に隣接する格子点の色情報の大きさの平均値を選択、もしくは該空格子点に対して縦方向および横方向に位置する格子点の色情報の大きさを該類似度に応じて加重加算することによって、該空格子点の補間量を決定する補間量決定手順と
を備えたことを特徴とする補間処理方法。 - 予め決められた色を出力する格子点と該色を出力しない空格子点とが市松模様状に配された画像の補間処理方法において、
補間処理の対象となる空格子点の色情報の大きさと、該空格子点に対して斜め方向の少なくとも一方に位置する空格子点の色情報の大きさと、補間処理の対象となる空格子点および該空格子点に対して斜め方向の少なくとも一方に位置する空格子点に隣接する格子点の色情報とを用いて、補間処理の対象となる空格子点の縦方向の類似度および横方向の類似度を決定する類似度決定手順と、
前記縦方向の類似度および前記横方向の類似度に応じて補間処理の対象となる空格子点に対して類似性が強い方向に隣接する格子点の色情報の大きさの平均値を選択、もしくは該空格子点に対して縦方向および横方向に位置する格子点の色情報の大きさを該類似度に応じて加重加算することによって、該空格子点の補間量を決定する補間量決定手順とを備えたことを特徴とする補間処理方法。 - 予め決められた色を出力する格子点と該色を出力しない空格子点とが市松模様状に配された画像の補間処理方法において、
補間処理の対象となる空格子点の色情報の大きさと、該空格子点に対して縦方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて、該空格子点と当該格子点との類似度を示す縦類似度を決定する縦類似度決定手順と、
補間処理の対象となる空格子点の色情報の大きさと、該空格子点に対して横方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて、該空格子点と当該格子点との類似度を示す横類似度を決定する横類似度決定手順と、
補間処理の対象となる空格子点の周辺に位置する格子点の色情報の大きさと、該空格子点の周辺に位置する空格子点の色情報の大きさとを用いて、周辺に位置する空格子点の縦方向の類似度を示す周辺縦類似度を決定する周辺縦類似度決定手順と、
補間処理の対象となる空格子点の周辺に位置する格子点の色情報の大きさと、該空格子点の周辺に位置する空格子点の色情報の大きさとを用いて、周辺に位置する空格子点の横方向の類似度を示す周辺横類似度を決定する周辺横類似度決定手順と、
前記縦類似度および前記周辺縦類似度に基づき、補間処理の対象となる空格子点の縦方向の類似度を決定すると共に、前記横類似度および前記周辺横類似度に基づき、該空格子点の横方向の類似度を決定する類似度決定手順と、
前記縦方向の類似度および前記横方向の類似度に応じて補間処理の対象となる空格子点に対して類似性が強い方向に隣接する格子点の色情報の大きさの平均値を選択、もしくは該空格子点に対して縦方向および横方向に位置する格子点の色情報の大きさを該類似度に応じて加重加算することによって、該空格子点の補間量を決定する補間量決定手順と
を備えたことを特徴とする補間処理方法。 - 請求項3に記載の補間処理方法において、
前記周辺縦類似度決定手順は、
補間処理の対象となる空格子点に対して縦方向の少なくとも一方に隣接する格子点の色情報の大きさと、当該格子点に対して補間処理の対象となる空格子点とは反対方向に隣接する空格子点の色情報の大きさとを用いて周辺縦類似度を決定し、
前記周辺横類似度決定手順は、
補間処理の対象となる空格子点に対して横方向の少なくとも一方に隣接する格子点の色情報の大きさと、当該格子点に対して補間処理の対象となる空格子点とは反対方向に隣接する空格子点の色情報の大きさとを用いて周辺横類似度を決定する
ことを特徴とする補間処理方法。 - 請求項3に記載の補間処理方法において、
前記周辺縦類似度決定手順は、
補間処理の対象となる空格子点に対して横方向の少なくとも一方に隣接する格子点の色情報の大きさと、当該格子点に対して縦方向の少なくとも一方に隣接する空格子点の色情報の大きさとを用いて周辺縦類似度を決定し、
前記周辺横類似度決定手順は、
補間処理の対象となる空格子点に対して縦方向の少なくとも一方に隣接する格子点の色情報の大きさと、当該格子点に対して横方向の少なくとも一方に隣接する空格子点の色情報の大きさとを用いて周辺横類似度を決定する
ことを特徴とする補間処理方法。 - 請求項3に記載の補間処理方法において、
前記周辺縦類似度決定手順は、
補間処理の対象となる空格子点に対して斜め方向の少なくとも一方に位置する空格子点の色情報の大きさと、斜め方向に位置する空格子点に対して縦方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて周辺縦類似度を決定し、
前記周辺横類似度決定手順は、
補間処理の対象となる空格子点に対して斜め方向の少なくとも一方に位置する空格子点の色情報の大きさと、斜め方向に位置する空格子点に対して横方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて周辺縦類似度を決定する
ことを特徴とする補間処理方法。 - 請求項3に記載の補間処理方法において、
前記周辺縦類似度決定手順は、
補間処理の対象となる空格子点に対して上下左右方向と斜め方向とを含む8方向の少なくとも一方に位置する空格子点の色情報の大きさと、8方向の少なくとも一方に位置する空格子点に対して縦方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて周辺縦類似度を決定し、
前記周辺横類似度決定手順は、
補間処理の対象となる空格子点に対して上下左右方向と斜め方向とを含む8方向の少なくとも一方に位置する空格子点の色情報の大きさと、8方向の少なくとも一方に位置する空格子点に対して横方向の少なくとも一方に隣接する格子点の色情報の大きさとを用いて周辺縦類似度を決定する
ことを特徴とする補間処理方法。 - 請求項1ないし請求項7の何れか1項に記載の補間処理方法において、
前記補間量決定手順は、
前記縦方向の類似度および前記横方向の類似度について、何れか一方の類似度が突出する場合、その類似度を示す方向に隣接する2つの格子点の色情報の大きさの平均値を補間量とし、双方の類似度が近似する場合、該平均値を算出する以外の方法で補間量を決定する
ことを特徴とする補間処理方法。 - 請求項8に記載の補間処理方法において、
前記補間量決定手順は、
前記縦方向の類似度および前記横方向の類似度が近似する場合、各類似度に対応する重み係数に基づいて該空格子点の補間量を決定する
ことを特徴とする補間処理方法。 - 請求項8に記載の補間処理方法において、
前記補間量決定手順は、
前記縦方向の類似度および前記横方向の類似度が近似する場合、補間処理の対象となる空格子点に隣接する4つの格子点の色情報の大きさのメディアンによって該空格子点の補間量を決定する
ことを特徴とする補間処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP07045498A JP4038867B2 (ja) | 1998-03-19 | 1998-03-19 | 補間処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP07045498A JP4038867B2 (ja) | 1998-03-19 | 1998-03-19 | 補間処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11275373A JPH11275373A (ja) | 1999-10-08 |
JP4038867B2 true JP4038867B2 (ja) | 2008-01-30 |
Family
ID=13431983
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP07045498A Expired - Lifetime JP4038867B2 (ja) | 1998-03-19 | 1998-03-19 | 補間処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4038867B2 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6836572B2 (en) | 1998-06-01 | 2004-12-28 | Nikon Corporation | Interpolation processing apparatus and recording medium having interpolation processing program recorded therein |
JP4581191B2 (ja) * | 2000-06-21 | 2010-11-17 | 株式会社ニコン | 補間処理装置および補間処理プログラムを記録した記録媒体 |
JP4702912B2 (ja) * | 2000-05-12 | 2011-06-15 | キヤノン株式会社 | 信号処理方法及び信号処理装置 |
US7088392B2 (en) * | 2001-08-27 | 2006-08-08 | Ramakrishna Kakarala | Digital image system and method for implementing an adaptive demosaicing method |
US7576783B2 (en) * | 2005-02-04 | 2009-08-18 | Hau Hwang | Confidence based weighting for color interpolation |
JP5006067B2 (ja) * | 2006-06-29 | 2012-08-22 | オリンパス株式会社 | 画像処理装置、画像処理プログラム、画像処理方法 |
JP4889391B2 (ja) * | 2006-07-14 | 2012-03-07 | パナソニック株式会社 | 画像処理装置および画像処理方法 |
JP5032914B2 (ja) * | 2007-08-10 | 2012-09-26 | オリンパス株式会社 | 画像処理装置、画像処理プログラム、画像処理方法 |
US8638342B2 (en) * | 2009-10-20 | 2014-01-28 | Apple Inc. | System and method for demosaicing image data using weighted gradients |
JP5503522B2 (ja) * | 2010-01-20 | 2014-05-28 | キヤノン株式会社 | 撮像装置、撮像装置の制御方法 |
JP5786547B2 (ja) * | 2011-08-15 | 2015-09-30 | 株式会社リコー | 画像補正システム、画像補正方法およびプログラム |
-
1998
- 1998-03-19 JP JP07045498A patent/JP4038867B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH11275373A (ja) | 1999-10-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7634153B2 (en) | Image processing apparatus and control method thereof | |
JP3985679B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置 | |
US7103214B2 (en) | Image processing apparatus and method | |
JP5918915B2 (ja) | カラーフィルタを有するセンサを用いて、改善されたカラー画像を作成するための方法およびデバイス | |
US8131067B2 (en) | Image processing apparatus, image processing method, and computer-readable media for attaining image processing | |
JP5904213B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP4038867B2 (ja) | 補間処理方法 | |
WO2013031367A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
WO2005117455A1 (ja) | Rawデ-タから倍率色収差を検出する画像処理装置、画像処理プログラム、および電子カメラ | |
EP2219366B1 (en) | Image capturing device, image capturing method, and image capturing program | |
JP2009524989A (ja) | パンクロマチック画素及びカラー画素の補間 | |
JP2019012998A (ja) | Raw画像処理システム及び方法 | |
JP2004153823A (ja) | 局部線形回帰法を用いた画像処理システム | |
JP4292625B2 (ja) | 補間処理装置および補間処理プログラムを記録した記録媒体 | |
JP2005012479A (ja) | データ処理装置、画像処理装置、カメラおよびデータ処理方法 | |
JP4940086B2 (ja) | 色処理装置およびその方法 | |
JP2000188762A (ja) | 補間処理装置および補間処理プログラムを記録した記録媒体 | |
JP2000069492A (ja) | 補間処理装置および補間処理プログラムを記録した記録媒体 | |
CN115829849A (zh) | 基于G分量引导图的Bayer图像的处理方法、装置和设备 | |
US6642932B2 (en) | Method and system for interpolation in color images | |
JP4302854B2 (ja) | 画像処理方法および装置並びに記録媒体 | |
US8564680B1 (en) | Method and apparatus for noise management for color data synthesis in digital image and video capture systems | |
JPH11103465A (ja) | 補間装置および補間処理プログラムを記録した記録媒体 | |
JPH11136692A (ja) | 補間装置 | |
JP2009182733A (ja) | 画像データ生成方法および画像データ生成装置、並びに情報コード読取装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050301 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070628 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070731 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070919 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20071016 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20071029 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101116 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131116 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131116 Year of fee payment: 6 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131116 Year of fee payment: 6 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |