JPH11122626A - 画像処理方法及び装置並びに画像処理プログラムを記録した記録媒体 - Google Patents

画像処理方法及び装置並びに画像処理プログラムを記録した記録媒体

Info

Publication number
JPH11122626A
JPH11122626A JP9285536A JP28553697A JPH11122626A JP H11122626 A JPH11122626 A JP H11122626A JP 9285536 A JP9285536 A JP 9285536A JP 28553697 A JP28553697 A JP 28553697A JP H11122626 A JPH11122626 A JP H11122626A
Authority
JP
Japan
Prior art keywords
pixel
pixels
color component
image
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP9285536A
Other languages
English (en)
Inventor
Setsukou Chin
浙宏 陳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP9285536A priority Critical patent/JPH11122626A/ja
Priority to US09/174,093 priority patent/US6570616B1/en
Publication of JPH11122626A publication Critical patent/JPH11122626A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/403Edge-driven scaling; Edge-based scaling
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Processing (AREA)

Abstract

(57)【要約】 【課題】 従来の画素補間技術では、補間後の画像の解
像度が低く、適切な補間画素を生成するには、複雑な処
理を必要とし、画素の位置ずれが生じる場合もある。本
発明は、単純な処理によって品質の高い補間画素を生成
することを目的とする。 【解決手段】ベイヤ配列などの2次元画素配列の画像に
ついて、輝度を代表する第1色成分の画素G(j,i)を補
間する場合に、補間画素位置の上下もしくは左右に隣接
する位置に存在する第1色成分の一次参照画素と、その
周囲に存在する第1色成分の二次参照画素との大小関係
を調べて、画像エッジ成分の有無を検出する。画像エッ
ジ成分を検出した場合には、補間画素の生成に使用する
基準画素G(j-1,i),G(j+1,i),G(j,i-1),G(j,i+1)
の重みを、上下と左右で変える。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、例えばカラー撮像
装置などに利用される画像処理方法及び装置並びに画像
処理プログラムを記録した記録媒体に関し、特に画素の
補間処理技術に関する。
【0002】
【従来の技術】一般に、ビデオカメラ,ディジタルスチ
ルカメラなどにおいて、カラー画像を撮影する場合に
は、まず、入射する光をフィルタに通して、入射光に含
まれる特定の波長成分を抽出し、例えばR(レッド),
G(グリーン)及びB(ブルー)の各基本色成分の光を
得る。
【0003】カラー画像撮影の方式には、搭載する撮像
ユニット(CCDイメージセンサなど)の枚数により、
単板式,2板式,3板式,多板式などがある。しかし、
ビデオカメラ,ディジタルスチルカメラなどでは、装置
のコストを下げるために、単一の撮像ユニットを用いる
場合が多い。被写体からの光を、R,G,B等の3つの
色成分に分解して、全ての色成分を単一の撮像ユニット
で同時に撮影する場合には、R色,G色,B色にそれぞ
れ対応する3種類のフィルタを、平面上に並べて配置す
る。フィルタを通った入射光は、撮像ユニットで撮影さ
れる。
【0004】撮像ユニットで撮影される2次元画像は、
縦方向及び横方向に配列された多数の画素で構成され
る。2次元画像の各画素は、R色,G色,B色にそれぞ
れ対応する3種類のフィルタの何れかを通って撮影され
るので、R色,G色,B色の何れかの成分のみを含む。
例えば、フィルタの種類を1画素毎に変更し、フィルタ
を横方向にR,G,B,R,G,B,・・・の順で周期
的に並べると、撮影される2次元画像において横方向に
並ぶ画素の色は、R,G,B,R,G,B,・・・にな
る。
【0005】従って、R色,G色及びB色の何れの成分
についても、撮影された被写体の情報は、3画素につき
1回だけ得られる。つまり、3画素単位でしか、被写体
を撮影できない。2次元画像の全ての画素について、R
色,G色及びB色の全ての色成分を得るために、画素の
補間が実施される。即ち、欠落している画素の情報を、
その周囲に存在する画素の情報に基づいて生成する。
【0006】この種の画素の補間をする場合、一般的に
は、補間対象画素位置の周辺に存在する複数画素の単純
平均の値によって、補間画素が生成される。また、補間
対象画素位置の周辺に存在する4つの画素のうち、値が
最大と最小の2画素を除外して、残りの2画素の値から
補間画素を生成する場合もある。また、補間対象画素の
色成分とは異なる色成分の周辺画素を参照して、画像の
エッジを検出する技術も知られている。
【0007】このほかに、例えば、特開平6−3391
45号公報や、米国特許第5373322号明細書,米
国特許第5053861号明細書,米国特許第5040
064号明細書などが、従来技術として知られている。
【0008】
【発明が解決しようとする課題】しかしながら、補間対
象画素位置の周辺に存在する複数画素の単純平均の値に
よって、補間画素を生成する場合には、画像の空間周波
数の高周波成分、つまりエッジ成分が欠落し易い。従っ
て、画像の解像度が低下する。
【0009】また、補間対象画素の色成分とは異なる色
成分の周辺画素を参照して、画像のエッジを検出する
と、輝度変化と色変化が一致しない画像領域において、
画像の位置ずれが生じる。
【0010】また、比較的品質の高い補間画素を生成す
るためには、様々な計算を含む非常に複雑な処理を必要
とする。従って、装置が複雑化したり、処理速度が遅く
なるのは避けられない。本発明は、比較的単純な処理に
よって、品質の高い補間画素の生成を実現することを目
的とする。
【0011】
【課題を解決するための手段】請求項1は、2次元画素
配列に対して、画像色の第1色成分の画素が、縦方向及
び横方向に1画素おきに配置され、画像色の第2色成分
の画素及び第3色成分の画素が、それぞれ、残りの位置
に均等に配置された画像データを入力し、各画素位置
に、前記第1色成分,第2色成分及び第3色成分の何れ
かの画素が存在しない場合に、存在しない画素を生成し
て補間する画像処理方法において、前記第1色成分の画
素が存在しない注目位置に、補間画素を生成する場合
に、前記注目画素の上下もしくは左右に隣接する位置に
存在する第1色成分の一次参照画素と、該一次参照画素
の周囲に存在する第1色成分の二次参照画素との大小関
係を調べて、画像エッジ成分の有無を識別し、画像エッ
ジ成分を検出した場合には、前記注目画素の上下及び左
右に隣接する位置に存在する第1色成分の基準画素に基
づいて補間画素を生成するとともに、前記注目画素の上
下の基準画素に対する重み係数と前記注目画素の左右の
基準画素に対する重み係数とを互いに異なる値に定める
ことを特徴とする。
【0012】請求項2は、請求項1記載の画像処理方法
において、画像エッジ成分を検出した場合には、前記注
目画素の上下及び左右に隣接する位置に存在する第1色
成分の基準画素に基づいて補間画素を生成するととも
に、前記基準画素のうち、検出されたエッジ上の基準画
素の重み係数を、それ以外の基準画素の重み係数よりも
大きく定め、かつ前記基準画素に対する重み係数の総和
が1になるように正規化したことを特徴とする。
【0013】請求項3は、請求項1記載の画像処理方法
において、画像エッジ成分を検出した場合には、前記注
目画素の上下及び左右に隣接する位置に存在する第1色
成分の基準画素のうち、検出されたエッジ上に位置する
2つの基準画素に基づいて補間画素を生成し、前記エッ
ジ上に存在しない基準画素に対する重み係数を0にする
ことを特徴とする。
【0014】請求項4は、請求項1記載の画像処理方法
において、前記注目画素の上下もしくは左右に隣接する
位置に存在する第1色成分の2つの一次参照画素のそれ
ぞれを、該一次参照画素の周囲に存在する第1色成分の
4つの二次参照画素と比較し、これら全ての比較結果が
予め定めた条件を満たす場合に、画像エッジ成分を検出
することを特徴とする。
【0015】請求項5は、2次元画素配列に対して、画
像色の第1色成分の画素が、縦方向及び横方向に1画素
おきに配置され、画像色の第2色成分の画素及び第3色
成分の画素が、それぞれ、残りの位置に均等に配置され
た画像データを入力し、各画素位置に、前記第1色成
分,第2色成分及び第3色成分の何れかの画素が存在し
ない場合に、存在しない画素を生成して補間する画像処
理装置において、前記第1色成分の画素が存在しない注
目位置に、補間画素を生成する場合に、前記注目画素の
上下もしくは左右に隣接する位置に存在する第1色成分
の一次参照画素と、該一次参照画素の周囲に存在する第
1色成分の二次参照画素との大小関係を調べて、画像エ
ッジ成分の有無を識別し、画像エッジ成分を検出した場
合には、前記注目画素の上下及び左右に隣接する位置に
存在する第1色成分の画素に基づいて補間画素を生成す
るとともに、前記注目画素の上下の画素に対する重み係
数と前記注目画素の左右の画素に対する重み係数とを互
いに異なる値に定める、補間制御手段を設けたことを特
徴とする。
【0016】請求項6は、2次元画素配列に対して、画
像色の第1色成分の画素が、縦方向及び横方向に1画素
おきに配置され、画像色の第2色成分の画素及び第3色
成分の画素が、それぞれ、残りの位置に均等に配置され
た画像データを入力し、各画素位置に、前記第1色成
分,第2色成分及び第3色成分の何れかの画素が存在し
ない場合に、存在しない画素を生成して補間する処理
を、コンピュータが実行するための、画像処理プログラ
ムを記録した記録媒体であって、該画像処理プログラム
によって、コンピュータが、前記第1色成分の画素が存
在しない注目位置に、補間画素を生成する場合に、前記
注目画素の上下もしくは左右に隣接する位置に存在する
第1色成分の一次参照画素と、該一次参照画素の周囲に
存在する第1色成分の二次参照画素との大小関係を調べ
て、画像エッジ成分の有無を識別し、画像エッジ成分を
検出した場合には、前記注目画素の上下及び左右に隣接
する位置に存在する第1色成分の画素に基づいて補間画
素を生成するとともに、前記注目画素の上下の画素に対
する重み係数と前記注目画素の左右の画素に対する重み
係数とを互いに異なる値に定めることを特徴とする。
【0017】(作用) (請求項1)本発明の画像処理においては、処理対象の
画像データとして、例えば図3に示すベイヤ配列のよう
な2次元画素配列を想定している。すなわち、第1色成
分(例えばG色)の画素が、縦方向及び横方向に1画素
おきに配置され、第2色成分(例えばR色)の画素及び
第3色成分(例えばB色)の画素が、それぞれ、残りの
位置に均等に配置される。
【0018】一般に、人間の視力は、緑色の波長に対し
て敏感であり、赤色及び青色の波長に対しては鈍感であ
る。従って、G色成分の明るさは、R,G,Bの全ての
波長成分を含む画像の明るさ(輝度)とあまり変わらな
い。前記ベイヤ配列では、4画素あたり2画素のG色を
配置するので、2次元画素配列の中の、G色成分の画素
の割合が大きい。このような画素配列を採用すると、画
像の解像度が改善される。
【0019】本発明は、2次元画素配列の中の画素の割
合が大きい、第1色成分の画素、つまり、輝度成分の画
素の補間に特徴がある。第1色成分の画素について適切
な補間を実施すると、画像の解像度を改善するうえで、
非常に効果がある。
【0020】本発明では、前記第1色成分の画素が存在
しない注目位置に、補間画素を生成する場合には、次の
ように処理する。まず、前記注目画素の上下もしくは左
右に隣接する位置に存在する第1色成分の一次参照画素
と、該一次参照画素の周囲に存在する第1色成分の二次
参照画素との大小関係を調べて、画像エッジ成分の有無
を識別する。
【0021】画像エッジ成分を検出した場合には、前記
注目画素の上下及び左右に隣接する位置に存在する第1
色成分の基準画素に基づいて補間画素を生成する。ま
た、前記注目画素の上下の基準画素に対する重み係数と
前記注目画素の左右の基準画素に対する重み係数とを互
いに異なる値に定める。例えば、画像中の縦方向に延び
るエッジの位置の近傍では、横方向に対しては互いに隣
接する画素間の明るさの変化が大きく、縦方向について
は明るさの変化が小さいと考えられる。
【0022】また、画像中の横方向に延びるエッジの位
置の近傍では、縦方向に対しては互いに隣接する画素間
の明るさの変化が大きく、横方向については明るさの変
化が小さいと考えられる。従って、縦方向のエッジを検
出した場合には、注目画素の左右の基準画素の影響を小
さくして、注目画素の上下の基準画素の影響を大きくす
ると、横方向の解像度が改善される。
【0023】また、横方向のエッジを検出した場合に
は、注目画素の上下の基準画素の影響を小さくして、注
目画素の左右の基準画素の影響を大きくすると、縦方向
の解像度が改善される。単純な画素同士の対比によっ
て、画像エッジ成分の有無が検出されるので、処理が極
めて簡単であり、補間画素の生成所要時間が短い。ま
た、第1色成分の補間画素を第1色成分の基準画素に基
づいて生成するので、輝度に変化が生じる位置と色相が
変化する位置の間にずれが生じる場合でも、原画像に忠
実な補間画素を生成しうる。
【0024】(請求項2)検出されたエッジ上の基準画
素の重み係数が大きく、検出されたエッジに隣接する基
準画素の重み係数が小さい。つまり、縦方向のエッジを
検出した場合には、注目画素の左右の基準画素の影響が
小さくなり、注目画素の上下の基準画素の影響が大きく
なる。従って、横方向の解像度が改善される。
【0025】また、横方向のエッジを検出した場合に
は、注目画素の上下の基準画素の影響が小さくなり、注
目画素の左右の基準画素の影響が大きくなる。従って、
縦方向の解像度が改善される。前記基準画素に対する重
み係数の総和が1になるように、正規化することによ
り、補間画素の明るさが適正に制御される。
【0026】(請求項3)検出されたエッジ上に位置す
る2つの基準画素の補間画素に対する影響が大きく、前
記エッジ上に隣接する位置の基準画素の影響が0にな
る。つまり、縦方向のエッジを検出した場合には、注目
画素の左右の基準画素の影響はなく、注目画素の上下の
基準画素のみによって、補間画素が生成される。従っ
て、横方向の解像度が改善される。
【0027】また、横方向のエッジを検出した場合に
は、注目画素の上下の基準画素の影響はなく、注目画素
の左右の基準画素のみによって補間画素が生成される。
従って、縦方向の解像度が改善される。 (請求項4)前記注目画素の上下もしくは左右に隣接す
る位置に存在する第1色成分の2つの一次参照画素のそ
れぞれが、該一次参照画素の周囲に存在する第1色成分
の4つのと比較される。
【0028】これら全ての比較結果が予め定めた条件を
満たす場合に、画像エッジ成分が検出される。例えば、
注目画素の上側に位置する1つの一次参照画素が、その
周囲の4つの二次参照画素よりも大きく、注目画素の下
側に位置する1つの一次参照画素が、その周囲の4つの
二次参照画素よりも大きい場合には、注目画素の位置
に、縦方向のエッジが存在するとみなすことができる。
【0029】また、注目画素の左側に位置する1つの一
次参照画素が、その周囲の4つの二次参照画素よりも大
きく、注目画素の右側に位置する1つの一次参照画素
が、その周囲の4つの二次参照画素よりも大きい場合に
は、注目画素の位置に、横方向のエッジが存在するとみ
なすことができる。 (請求項5)本発明の画像処理装置では、前記第1色成
分の画素が存在しない注目位置に、補間画素を生成する
場合に、補間制御手段が、次のように処理する。まず、
前記注目画素の上下もしくは左右に隣接する位置に存在
する第1色成分の一次参照画素と、該一次参照画素の周
囲に存在する第1色成分の二次参照画素との大小関係を
調べて、画像エッジ成分の有無を識別する。
【0030】画像エッジ成分を検出した場合には、前記
注目画素の上下及び左右に隣接する位置に存在する第1
色成分の基準画素に基づいて補間画素を生成する。ま
た、前記注目画素の上下の基準画素に対する重み係数と
前記注目画素の左右の基準画素に対する重み係数とを互
いに異なる値に定める。例えば、画像中の縦方向に延び
るエッジの位置の近傍では、横方向に対しては互いに隣
接する画素間の明るさの変化が大きく、縦方向について
は明るさの変化が小さいと考えられる。
【0031】また、画像中の横方向に延びるエッジの位
置の近傍では、縦方向に対しては互いに隣接する画素間
の明るさの変化が大きく、横方向については明るさの変
化が小さいと考えられる。
【0032】従って、縦方向のエッジを検出した場合に
は、注目画素の左右の基準画素の影響を小さくして、注
目画素の上下の基準画素の影響を大きくすると、横方向
の解像度が改善される。また、横方向のエッジを検出し
た場合には、注目画素の上下の基準画素の影響を小さく
して、注目画素の左右の基準画素の影響を大きくする
と、縦方向の解像度が改善される。
【0033】単純な画素同士の対比によって、画像エッ
ジ成分の有無が検出されるので、処理が極めて簡単であ
り、補間画素の生成所要時間が短い。また、第1色成分
の補間画素を第1色成分の基準画素に基づいて生成する
ので、輝度に変化が生じる位置と色相が変化する位置の
間にずれが生じる場合でも、原画像に忠実な補間画素を
生成しうる。
【0034】(請求項6)本発明の画像処理プログラム
を記録した記録媒体は、所定のコンピュータで読み取ら
れる。そして、前記コンピュータは、画像処理プログラ
ムを実行する。この画像処理プログラムによって、次の
ように、補間画素が生成される。前記第1色成分の画素
が存在しない注目位置に、補間画素を生成する場合に
は、前記注目画素の上下もしくは左右に隣接する位置に
存在する第1色成分の一次参照画素と、該一次参照画素
の周囲に存在する第1色成分の二次参照画素との大小関
係が比較される。
【0035】この比較結果により、画像エッジ成分の有
無が識別される。画像エッジ成分を検出した場合には、
前記注目画素の上下及び左右に隣接する位置に存在する
第1色成分の画素に基づいて補間画素を生成する。ま
た、前記注目画素の上下の基準画素に対する重み係数と
前記注目画素の左右の基準画素に対する重み係数とを互
いに異なる値に定める。
【0036】この画像処理プログラムは、特定のハード
ウェアに依存することなく、汎用的に実行できるので、
画像処理プログラムを記録した記録媒体を、汎用的なパ
ーソナルコンピュータやワークステーションで読み取る
ことにより、前記画像処理プログラムを実行できる。
【0037】
【発明の実施の形態】
(第1の実施の形態)この形態の画像処理装置を備え
る、撮像装置の構成及び動作を、図1,図2,図3,図
4,図5,図6,図7,図8,図9,図10,図11,
図12及び図13に示す。この形態は、全ての請求項に
対応する。
【0038】図1は、カラー撮像装置の構成を示すブロ
ック図である。図2は、フィルタ2の透過色成分の分布
を示す平面図である。図3は、2次元イメージセンサ3
で撮影される、2次元画像20を構成する各画素の色成
分の分布を示す斜視図である。図4は、撮影された2次
元画像20を色成分毎に分解して示す平面図である。図
5は、図4の各色成分の画像データに補間画素を加えた
状態を示す平面図である。図6は、G色の補間画素を生
成する際に参照される画素を示す平面図である。
【0039】図7は、縦方向のエッジを検出するために
参照される画素と検出条件を示す平面図である。図8
は、横方向のエッジを検出するために参照される画素と
検出条件を示す平面図である。図9は、R,B色の補間
画素の生成条件の例を示す平面図である。図10は、画
像処理回路8が実行する補間処理の内容を示すフローチ
ャートである。図11は、図10のステップS6の内容
を示すフローチャートである。図12は、図11のステ
ップS11の内容を示すフローチャートである。図13
は、エッジを検出する際に参照される画素を示す平面図
である。
【0040】この形態において、請求項1の第1色成
分,第2色成分及び第3色成分は、それぞれ、G色,R
色及びB色として具体化されている。また、請求項5の
補間制御手段は、図1に示す画像処理回路8として具体
化されている。また、請求項6の記録媒体は、ROM9
として具体化されている。図1を参照すると、この撮像
装置には、撮影レンズ1,フィルタ2,2次元イメージ
センサ3,A/D変換器4,画像メモリ5,6,7,画
像処理回路8,ROM9,RAM10,インタフェース
回路11,画像表示装置12,外部記憶装置13及び撮
像制御回路16が備わっている。
【0041】被写体から到来する光は、撮影レンズ1を
通り、フィルタ2を通って、2次元イメージセンサ3の
撮像面に結像される。フィルタ2は、光の特定の波長成
分を透過する。実際には、フィルタ2は、図2に示すよ
うに、透過光の成分が、R(赤)色,G(緑)色及びB(青)
色の微小領域2R,2G及び2Bで構成されている。微
小領域2R,2G及び2Bの各々は、2次元イメージセ
ンサ3の画素と1対1に対応付けられている。
【0042】従って、2次元イメージセンサ3で撮影さ
れる2次元画像20においては、図3に示すように、R
色画素21,G色画素22及びB色画素23の各成分が
周期的に並ぶ。図3に示す2次元画像20の画素配列
は、ベイヤ配列と呼ばれる。図1の撮像装置には、単一
のフィルタ2と、単一の2次元イメージセンサ3のみを
備えている。従って、得られる画像情報は、図3に示す
ような2次元画像20である。つまり、画素単位では、
R色,G色及びB色の何れかの成分のみが得られる。全
ての位置の画素について、R色,G色及びB色の全ての
成分を得るために、画素の補間が実施される。この処理
については、後で説明する。
【0043】2次元イメージセンサ3は、CCD素子を
用いた撮像ユニットである。2次元イメージセンサ3
は、撮影した2次元画像の各画素の明るさを示す信号
を、画素単位で順次に出力する。2次元イメージセンサ
3が出力するアナログの画素信号は、A/D変換器4に
よって、画素毎にディジタル信号に変換される。
【0044】A/D変換器4が出力するディジタル信号
は、画素の色に応じて、画像メモリ5,6及び7の何れ
かに記憶される。即ち、R色の画素,G色の画素及びB
色の画素は、それぞれ、画像メモリ5,6及び7に記憶
される。画像処理回路8は、マイクロコンピュータで構
成されている。このマイクロコンピュータが実行するプ
ログラムは、読み出し専用メモリ(ROM)9に記憶さ
れている。画像処理回路8は、バス15を介して読み出
し専用メモリ9の内容を読取り、そのプログラムを実行
する。
【0045】また、画像処理回路8には、バス15を介
して、読み書きメモリ(RAM)10が接続されてい
る。画像処理回路8は、必要に応じて、読み書きメモリ
10に対して、データの書き込み及び読み出しを行う。
画像処理回路8は、撮像制御回路16を介して、2次元
イメージセンサ3,A/D変換器4及び画像メモリ5,
6及び7を制御し、画像の撮影を実施する。
【0046】即ち、画像処理回路8は、2次元イメージ
センサ3に対して、電荷蓄積制御及び信号読みだし制御
を実施する。A/D変換器4に対しては、サンプリング
及び変換タイミングの制御を実施する。画像メモリ5,
6及び7に対しては、画素の色成分に応じた画像メモリ
の選択と、データ書き込みタイミングの制御を実施す
る。
【0047】撮影によって得られた2次元画像のデータ
が、画像メモリ5,6及び7に書き込まれた後、画像処
理回路8は、各画素位置について、不足している色成分
の画素を補間する処理を実施する。この処理の内容につ
いては、後で説明する。なお、2次元イメージセンサ3
が出力する信号に対して、実質上リアルタイムで、画素
の補間を実施することも可能であるが、回路構成を簡略
化するため、この例では、全ての画像データが画像メモ
リ5,6,7に記憶された後で、ソフトウェア処理によ
り、補間画素を生成している。
【0048】画素の補間が完了した後、画像処理回路8
は、画像メモリ5,6,7に記憶された画像データを、
必要に応じて、インタフェース回路11に転送する。こ
の画像データは、インタフェース回路11を介して、画
像表示装置12または外部記憶装置13に入力される。
画像表示装置12は、撮影された2次元画像を表示する
ために設けられている。この例では、画像表示装置12
は、、液晶表示ユニットを備えている。外部記憶装置1
3は、撮影された2次元画像のデータを保存するために
設けられている。この例では、外部記憶装置13は、交
換可能なディスク状の記憶媒体を備えている。
【0049】画像処理回路8が実行する、「補間処理」
の内容を、図10に示す。撮影によって得られる2次元
画像20には、図3に示すように、1画素当たり1色の
成分だけしか存在しない。このため、画像メモリ5,
6,7上に得られる画像データにおいては、図4に示す
ように、R色,G色及びB色の各色成分に、それぞれ不
足している画素が存在する。
【0050】これらの不足画素が、図10の「補間処
理」によって生成され、画像メモリ5,6,7上に記憶
される。補間後の画素データ配列を、図5に示す。図5
を参照すると、補間によって生成された画素Gi,Ri
及びBiが存在するため、全ての画素位置に有効な画素
データが揃っている。図10を参照して、各ステップの
内容を説明する。
【0051】最初のステップS1では、注目画素の位置
を決定する。つまり、処理すべき2次元画像を構成する
多数の画素の何れかの位置を、注目画素の位置として決
定する。注目画素の位置は、最初は画像の左上端の位置
に定められる。そして、ステップS1を実行する度に、
注目画素位置は、横方向及び縦方向に1画素単位で順次
に移動する。注目画素位置が画像の右下端の位置、つま
り最終画素の位置を越えると、注目画素位置は最初の左
上端の位置に戻る。
【0052】ステップS2では、G色の成分について、
全ての画素の補間が完了したか否かを識別する。補間処
理が完了してなければ、次にステップS3に進む。ステ
ップS3では、画像データの注目画素位置に、有効なG
色の画素データが存在するか否かを識別する。フィルタ
2の透過色成分の配列と撮影される画素配列との位置関
係は、図3に示すように予め定まっている。従って、各
々の画素位置に、R色,G色,B色の何れの成分が存在
し、何れの成分が不足しているかは、予め知ることがで
きる。即ち、R色,G色,B色は、何れも周期的に並ん
でいるので、各色成分の存在位置は、計算によって調べ
ることができる。
【0053】注目画素位置に、G色成分が存在しない場
合には、それを補間する必要があるので、次にステップ
S4に進む。注目画素位置に、G色成分が存在する場合
には、ステップS1に進む。ステップS4では、G色画
素の補間を実施する。この処理の詳細は、図11に示さ
れている。図11の各ステップについて説明する。
【0054】ステップS11では、注目画素位置の周辺
に存在する画素の情報を参照して、注目画素の位置に画
像の縦方向及び横方向のエッジ成分が存在するか否かを
調べる。この処理の詳細は、図12に示されている。こ
の処理については、後で説明する。ステップS12で
は、ステップS11の結果を参照して、縦方向のエッジ
の有無を識別する。縦方向のエッジが検出されると、エ
ッジ検出フラグFvがセットされるので、このフラグの
状態を調べる。
【0055】エッジ検出フラグFvがセットされている
場合には、次にステップS14に進む。エッジ検出フラ
グFvがクリアされている場合には、次にステップS1
3に進む。ステップS13では、ステップS11の結果
を参照して、横方向のエッジの有無を識別する。横方向
のエッジが検出されると、エッジ検出フラグFhがセッ
トされるので、このフラグの状態を調べる。
【0056】エッジ検出フラグFhがセットされている
場合には、次にステップS15に進む。エッジ検出フラ
グFhがクリアされている場合には、次にステップS1
6に進む。縦方向のエッジが検出されると、ステップS
14において、次式により補間画素を生成する。
【0057】 G(j,i)=(G(j-1,i)+G(j+1,i))/2 ・・・(1) G(j,i):j行,i列の座標のG色の補間画素(注目位
置) G(j-1,i):注目画素G(j,i)の上側の基準画素 G(j+1,i):注目画素G(j,i)の下側の基準画素 例えば、図6に示す中央の注目位置(j,i)に補間画
素G33を生成する場合、次式により補間画素G33が生成
される。
【0058】 G33=(G23+G43)/2 ・・・(2) つまり、補間すべき画素の位置が縦方向のエッジ上であ
る場合には、補間画素の左右に隣接する画素の影響を0
とし、補間画素の上下に隣接する2つの画素の平均値と
して、補間画素を生成する。なお、前記第1式及び第2
式では、補間画素の左右に隣接する画素の影響を0にし
てあるが、次の第3式に示すように、補間画素の左右に
隣接する画素の影響を多少受けるように変更しても良
い。
【0059】 G33=(g1・(G23+G43)/2)+(g2・(G32+G34)/2) ・・・(3) 但し、g1>g2,g1+g2=1 横方向のエッジが検出されると、ステップS15におい
て、次式により補間画素を生成する。 G(j,i)=(G(j,i-1)+G(j,i+1))/2 ・・・(4) G(j,i):j行,i列の座標のG色の補間画素(注目位
置) G(j,i-1):注目画素G(j,i)の左側の基準画素 G(j,i+1):注目画素G(j,i)の右側の基準画素 例えば、図6に示す中央の注目位置(j,i)に補間画
素G33を生成する場合、次式により補間画素G33が生成
される。
【0060】 G33=(G32+G34)/2 ・・・(5) つまり、補間すべき画素の位置が横方向のエッジ上であ
る場合には、補間画素の上下に隣接する画素の影響を0
とし、補間画素の左右に隣接する2つの画素の平均値と
して、補間画素を生成する。なお、前記第4式及び第5
式では、補間画素の上下に隣接する画素の影響を0にし
てあるが、次の第6式に示すように、補間画素の上下に
隣接する画素の影響を多少受けるように変更しても良
い。
【0061】 G33=(g1・(G23+G43)/2)+(g2・(G32+G34)/2) ・・・(6) 但し、g1<g2,g1+g2=1 エッジが検出されない場合、ステップS16において、
次式により補間画素を生成する。 G(j,i)=(G(j-1,i)+G(j+1,i)+G(j,i-1)+G(j,i+1))/4 ・・・(7) G(j,i):j行,i列の座標のG色の補間画素(注目位
置) 例えば、図6に示す中央の注目位置(j,i)に補間画
素G33を生成する場合、次式により補間画素G33が生成
される。
【0062】 G33=(G23+G43+G32+G34)/4 ・・・(8) ステップS11の「エッジ検出処理」の内容は、図12
に示されている。図12の各ステップの内容を説明す
る。ステップS21では、エッジ検出フラグFv,Fh
をクリアする。ステップS22では、予め定めた条件A
1について、注目位置の画素パターンが適合するか否か
を識別する。例えば、図7に示すように画素G33を補間
する場合には、条件A1として、次に示す比較式の真偽
を調べる。
【0063】 (G23>G12)and(G23>G14)and(G23>G32)and(G23>G34) ・・・(9) 但し、and:論理積 つまり、図13(a)に示すように、注目位置の上側に
位置する一次参照画素をその周囲に存在する4つの二次
参照画素とそれぞれ対比して、前記一次参照画素が全て
の二次参照画素より大きい場合に、条件A1が成立す
る。
【0064】ステップS23では、予め定めた条件A2
について、注目位置の画素パターンが適合するか否かを
識別する。例えば、図7に示すように画素G33を補間す
る場合には、条件A2として、次に示す比較式の真偽を
調べる。 (G43>G32)and(G43>G34)and(G43>G52)and(G43>G54) ・・・(10) つまり、図13(a)に示すように、注目位置の下側に
位置する一次参照画素をその周囲に存在する4つの二次
参照画素とそれぞれ対比して、前記一次参照画素が全て
の二次参照画素より大きい場合に、条件A2が成立す
る。
【0065】前記条件A1,A2が共に成立する場合
に、ステップS24が実行される。ステップS24で
は、エッジ検出フラグFvをセットする。即ち、図13
に(a)として示すように、注目位置の上側の一次参照画
素がその周囲の4つの二次参照画素より大きく、かつ、
注目位置の下側の一次参照画素がその周囲の4つの二次
参照画素より大きい場合に、注目位置について、縦方向
のエッジを検出する。
【0066】なお、一次参照画素と二次参照画素の大小
関係を逆にしても、同様にエッジの検出が可能である。
つまり、条件A1,A2の代わりに、図7に示した条件
B1,B2を用いても良い。ステップS25では、予め
定めた条件C1について、注目位置の画素パターンが適
合するか否かを識別する。例えば、図8に示すように画
素G33を補間する場合には、条件C1として、次に示す
比較式の真偽を調べる。
【0067】 (G32>G21)and(G32>G23)and(G32>G41)and(G32>G43) ・・・(11) つまり、図13(b)に示すように、注目位置の左側に
位置する一次参照画素をその周囲に存在する4つの二次
参照画素とそれぞれ対比して、前記一次参照画素が全て
の二次参照画素より大きい場合に、条件C1が成立す
る。ステップS26では、予め定めた条件C2につい
て、注目位置の画素パターンが適合するか否かを識別す
る。例えば、図8に示すように画素G33を補間する場合
には、条件C2として、次に示す比較式の真偽を調べ
る。
【0068】 (G34>G23)and(G34>G25)and(G34>G43)and(G34>G45) ・・・(12) つまり、図13(b)に示すように、注目位置の右側に
位置する一次参照画素をその周囲に存在する4つの二次
参照画素とそれぞれ対比して、前記一次参照画素が全て
の二次参照画素より大きい場合に、条件C2が成立す
る。前記条件C1,C2が共に成立する場合に、ステッ
プS27が実行される。ステップS27では、エッジ検
出フラグFhをセットする。
【0069】即ち、図13に(b)として示すように、注
目位置の左側の一次参照画素がその周囲の4つの二次参
照画素より大きく、かつ、注目位置の右側の一次参照画
素がその周囲の4つの二次参照画素より大きい場合に、
注目位置について、横方向のエッジを検出する。なお、
一次参照画素と二次参照画素の大小関係を逆にしても、
同様にエッジの検出が可能である。つまり、条件C1,
C2の代わりに、図8に示した条件D1,D2を用いて
も良い。
【0070】G色に対する全ての画素の補間が終了する
と、図10に示すステップS5に進む。ステップS5で
は、前記ステップS1と同様に、注目画素の位置を決定
する。注目画素の位置は、最初は画像の左上端の位置に
定められる。そして、ステップS5を実行する度に、注
目画素位置は、横方向及び縦方向に1画素単位で順次に
更新され、画像の右下端の位置、つまり最終画素の位置
まで進む。
【0071】ステップS6では、注目画素の位置が最終
画素位置を越えたか否かを調べて、全画素の補間処理が
終了したか否かを識別する。全画素の補間処理が終了し
てなければ、ステップS7に進む。ステップS7では、
画像データの注目画素位置に、有効なR色の画素データ
が存在するか否かを識別する。注目画素位置に、R色成
分が存在しない場合には、それを補間する必要があるの
で、次にステップS8に進む。注目画素位置に、R色成
分が存在する場合には、ステップS9に進む。
【0072】ステップS9では、画像データの注目画素
位置に、有効なB色の画素データが存在するか否かを識
別する。注目画素位置に、B色成分が存在しない場合に
は、それを補間する必要があるので、次にステップS1
0に進む。注目画素位置に、B色成分が存在する場合に
は、ステップS5に戻る。ステップS8では、R色画素
の補間を実施する。このステップを実行するときには、
既にG色に対する全ての画素の補間が終了している。従
って、R色の画素を補間する際に、全ての位置のG色画
素を利用できる。
【0073】この例では、R色の補間に関しては、公知
技術である色差信号による線形補間を採用している。例
えば、図9に示す画素列が存在する場合に、第2行,第
2列の位置のR色の補間画素R22、第2行,第3列の位
置のR色の補間画素R23、並びに第3行,第2列の位置
のR色の補間画素R32は、それぞれ次のように算出され
る。
【0074】 R22=((R11-G11)+(R13-G13)+(R31-G31)+(R33-G33))/4+G22 R23=((R13-G13)+(R33-G33))/2+G23 R32=((R31-G31)+(R33-G33))/2+G32 ・・・(13) ステップS10では、B色画素の補間を実施する。この
ステップを実行するときには、既にG色に対する全ての
画素の補間が終了している。従って、B色の画素を補間
する際に、全ての位置のG色画素を利用できる。
【0075】この例では、B色の補間に関しては、公知
技術である色差信号による線形補間を採用している。例
えば、図9に示す画素列が存在する場合に、第2行,第
3列の位置のB色の補間画素B23、第3行,第2列の位
置のB色の補間画素B32、並びに第3行,第3列の位置
のB色の補間画素B33は、それぞれ次のように算出され
る。
【0076】 B23=((B22-G22)+(B24-G24))/4+G33 B32=((B22-G22)+(B42-G42))/4+G33 B33=((B22-G22)+(B24-G24)+(B42-G42)+(B44-G44))/4+G33 ・・(14) なお、この例では、G色に関する全ての画素の補間処理
が終了した後で、R色及びB色の補間を実施している
が、G色の全ての画素を補間する前に、R色及びB色の
補間を実施することも可能である。
【0077】例えば、上記第13式及び第14式に基づ
いて、R色及びB色の補間を実施する場合には、注目画
素に隣接する位置の画素のみを補間に利用するので、補
間対象の注目画素位置を中心とする3×3画素につい
て、G色の補間が終了した後であれば、図10のステッ
プS8,S10の処理を実施できる。従って、例えば、
5×5画素で構成される領域毎に、順次にG色の補間処
理を実施して、それが終了する度に、隣接するG色画素
が揃った注目位置について、R色及びB色の補間処理を
実施しても良い。
【0078】(第2の実施の形態)この形態は、上記第
1の実施の形態の変形例であり、G色成分について、画
像エッジを検出する場合の、参照画素の組み合わせのみ
が、第1の実施の形態と異なる。この形態は、請求項
1,請求項2,請求項3,請求項5及び請求項6に対応
する。
【0079】画像エッジを検出する場合の参照画素の組
み合わせを、図14に示す。縦方向エッジを検出する場
合には、図14に示す(a),(b),(c),(d)の何れか
のパターンで、一次参照画素と二次参照画素の比較が実
施される。また、横方向エッジを検出する場合には、図
14に示す(e),(f),(g),(h)の何れかのパターン
で、一次参照画素と二次参照画素の比較が実施される。
【0080】つまり、この形態では、各々の一次参照画
素が、その周囲に存在する3つの二次参照画素と対比さ
れる。一次参照画素が3つの二次参照画素の何れよりも
大きいか、あるいは小さい場合には、一次参照画素はエ
ッジの候補とみなす。縦方向の2つの一次参照画素が共
にエッジの候補であれば、縦方向エッジを検出する。ま
た、横方向の2つの一次参照画素が共にエッジの候補で
あれば、横方向エッジを検出する。
【0081】なお、図14に示す参照画素の組み合わせ
は一例であり、このほかの組み合わせも考えられる。例
えば、二次参照画素の位置を、一次参照画素に対して左
右対称な位置、又は上下対象な位置に移動しても良い。
なお、次のような変形も考えられる。即ち、各々の一次
参照画素を、その周囲に存在する4つの二次参照画素と
それぞれ対比する。そして、4つの対比結果のうち、何
れか3つが所定の条件を満たす場合に、一次参照画素を
エッジの候補とみなす。
【0082】(第3の実施の形態)この形態は、上記第
1の実施の形態の変形例であり、G色成分について、画
像エッジを検出する場合の、参照画素の組み合わせのみ
が、第1の実施の形態と異なる。この形態は、請求項
1,請求項2,請求項3,請求項5及び請求項6に対応
する。
【0083】画像エッジを検出する場合の参照画素の組
み合わせを、図15に示す。縦方向エッジを検出する場
合には、図15に示す(a),(b),(c)の何れかのパタ
ーンで、一次参照画素と二次参照画素の比較が実施され
る。また、横方向エッジを検出する場合には、図15に
示す(d),(e),(f)の何れかのパターンで、一次参照
画素と二次参照画素の比較が実施される。
【0084】つまり、この形態では、各々の一次参照画
素が、その周囲に存在する2つの二次参照画素と対比さ
れる。一次参照画素が2つの二次参照画素の何れよりも
大きいか、あるいは小さい場合には、一次参照画素はエ
ッジの候補とみなす。縦方向の2つの一次参照画素が共
にエッジの候補であれば、縦方向エッジを検出する。ま
た、横方向の2つの一次参照画素が共にエッジの候補で
あれば、横方向エッジを検出する。
【0085】なお、図15に示す参照画素の組み合わせ
は一例であり、このほかの組み合わせも考えられる。例
えば、二次参照画素の位置を、一次参照画素に対して左
右対称な位置、又は上下対象な位置に移動しても良い。 (第4の実施の形態)この形態は、上記第1の実施の形
態の変形例であり、処理対象の画像を構成する画素の色
成分が、第1の実施の形態と異なる。この形態は、全て
の請求項に対応する。
【0086】処理対象の画像を構成する画素配列の例
を、図16に示す。この例では、画像は、R色,B色,
W色の3種類の色成分で構成される。W色は、R色,G
色,B色の全ての波長成分を含む。第1の実施の形態に
おけるG色がW色に置き換えられた他は、第1の実施の
形態と同一である。図16の画像を得るために、フィル
タ2の微小領域2Gは、R色,G色,B色の全ての波長
成分を透過するように変更される。
【0087】画像処理回路8が実行する「補間処理」に
おいては、処理対象のG色画素が、W色画素で置き換え
られる。なお、第1の実施の形態においては、コンピュ
ータのソフトウェア処理によって、補間画素を生成して
いるが、この処理を専用のハードウェアで置き換えるこ
ともできる。
【0088】例えば、4つのディジタル比較器を設け
て、一次参照画素と二次参照画素との比較を実施すれ
ば、前記条件A1(又はA2,C1,C2)に関する4
つの比較動作を、1回の処理で同時に実現できる。ま
た、本発明の画像処理の内容を、画像処理プログラムと
して、フレキシブルディスクなどの交換可能な記憶媒体
に保存しておけば、この記憶媒体を読み取ることによ
り、パーソナルコンピュータなどの汎用性のある処理装
置で、本発明を実施しうる。
【0089】
【発明の効果】 (請求項1)本発明は、2次元画素配列の中の画素の割
合が大きい、第1色成分の画素、つまり、輝度成分の画
素について適切な補間を実施するので、画像の解像度を
改善するうえで、非常に効果がある。
【0090】特に、本発明では、単純な画素同士の対比
によって、画像エッジ成分の有無が検出されるので、処
理が極めて簡単であり、補間画素の生成所要時間が短
い。また、第1色成分の補間画素を第1色成分の基準画
素に基づいて生成するので、輝度に変化が生じる位置と
色相が変化する位置の間にずれが生じる場合でも、原画
像に忠実な補間画素を生成しうる。
【0091】(請求項2)本発明では、縦方向のエッジ
を検出した場合には、注目画素の左右の基準画素の影響
が小さくなり、注目画素の上下の基準画素の影響が大き
くなるので、横方向の解像度が改善される。また、横方
向のエッジを検出した場合には、注目画素の上下の基準
画素の影響が小さくなり、注目画素の左右の基準画素の
影響が大きくなる。従って、縦方向の解像度が改善され
る。
【0092】前記基準画素に対する重み係数の総和が1
になるように、正規化することにより、補間画素の明る
さが適正に制御される。 (請求項3)本発明では、縦方向のエッジを検出した場
合には、注目画素の左右の基準画素の影響はなく、注目
画素の上下の基準画素のみによって、補間画素が生成さ
れる。従って、横方向の解像度が改善される。また、横
方向のエッジを検出した場合には、注目画素の上下の基
準画素の影響はなく、注目画素の左右の基準画素のみに
よって補間画素が生成される。従って、縦方向の解像度
が改善される。
【0093】(請求項4)本発明では、画像エッジ成分
の有無を、より正確に検出できる。 (請求項5)本発明の画像処理装置においては、補間制
御手段が、2次元画素配列の中の画素の割合が大きい、
第1色成分の画素、つまり、輝度成分の画素について適
切な補間を実施するので、画像の解像度を改善するうえ
で、非常に効果がある。
【0094】特に、本発明では、単純な画素同士の対比
によって、画像エッジ成分の有無が検出されるので、処
理が極めて簡単であり、補間画素の生成所要時間が短
い。また、第1色成分の補間画素を第1色成分の基準画
素に基づいて生成するので、輝度に変化が生じる位置と
色相が変化する位置の間にずれが生じる場合でも、原画
像に忠実な補間画素を生成しうる。
【0095】(請求項6)本発明の画像処理プログラム
を記録した記録媒体を読み取って、この画像処理プログ
ラムを実行することにより、次の効果が得られる。2次
元画素配列の中の画素の割合が大きい、第1色成分の画
素、つまり、輝度成分の画素について適切な補間を実施
するので、画像の解像度を改善するうえで、非常に効果
がある。
【0096】特に、本発明では、単純な画素同士の対比
によって、画像エッジ成分の有無が検出されるので、処
理が極めて簡単であり、補間画素の生成所要時間が短
い。また、第1色成分の補間画素を第1色成分の基準画
素に基づいて生成するので、輝度に変化が生じる位置と
色相が変化する位置の間にずれが生じる場合でも、原画
像に忠実な補間画素を生成しうる。
【図面の簡単な説明】
【図1】カラー撮像装置の構成を示すブロック図であ
る。
【図2】フィルタ2の透過色成分の分布を示す平面図で
ある。
【図3】2次元イメージセンサ3で撮影される、2次元
画像20を構成する各画素の色成分の分布を示す斜視図
である。
【図4】撮影された2次元画像20を色成分毎に分解し
て示す平面図である。
【図5】図4の各色成分の画像データに補間画素を加え
た状態を示す平面図である。
【図6】G色の補間画素を生成する際に参照される画素
を示す平面図である。
【図7】縦方向のエッジを検出するために参照される画
素と検出条件を示す平面図である。
【図8】横方向のエッジを検出するために参照される画
素と検出条件を示す平面図である。
【図9】R,B色の補間画素の生成条件の例を示す平面
図である。
【図10】画像処理回路8が実行する補間処理の内容を
示すフローチャートである。
【図11】図10のステップS6の内容を示すフローチ
ャートである。
【図12】図11のステップS11の内容を示すフロー
チャートである。
【図13】エッジを検出する際に参照する画素を示す平
面図である。
【図14】第2の実施の形態において、エッジ検出のた
めに対比される参照画素の組み合わせを示す平面図であ
る。
【図15】第3の実施の形態において、エッジ検出のた
めに対比される参照画素の組み合わせを示す平面図であ
る。
【図16】第4の実施の形態において処理される、二次
元画像の画素配列を示す平面図である。
【符号の説明】
1 撮影レンズ 2 フィルタ 3 2次元イメージセンサ 4 A/D変換器 5,6,7 画像メモリ 8 画像処理回路 9 ROM 10 RAM 11 インタフェース回路 12 画像表示装置 13 外部記憶装置 14,15 バス 16 撮像制御回路 20 2次元画像

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】 2次元画素配列に対して、画像色の第1
    色成分の画素が、縦方向及び横方向に1画素おきに配置
    され、画像色の第2色成分の画素及び第3色成分の画素
    が、それぞれ、残りの位置に均等に配置された画像デー
    タを入力し、各画素位置に、前記第1色成分,第2色成
    分及び第3色成分の何れかの画素が存在しない場合に、
    存在しない画素を生成して補間する画像処理方法におい
    て、 前記第1色成分の画素が存在しない注目位置に、補間画
    素を生成する場合に、前記注目画素の上下もしくは左右
    に隣接する位置に存在する第1色成分の一次参照画素
    と、該一次参照画素の周囲に存在する第1色成分の二次
    参照画素との大小関係を調べて、画像エッジ成分の有無
    を識別し、画像エッジ成分を検出した場合には、前記注
    目画素の上下及び左右に隣接する位置に存在する第1色
    成分の基準画素に基づいて補間画素を生成するととも
    に、前記注目画素の上下の基準画素に対する重み係数と
    前記注目画素の左右の基準画素に対する重み係数とを互
    いに異なる値に定めることを特徴とする画像処理方法。
  2. 【請求項2】 請求項1記載の画像処理方法において、
    画像エッジ成分を検出した場合には、前記注目画素の上
    下及び左右に隣接する位置に存在する第1色成分の基準
    画素に基づいて補間画素を生成するとともに、前記基準
    画素のうち、検出されたエッジ上の基準画素の重み係数
    を、それ以外の基準画素の重み係数よりも大きく定め、
    かつ前記基準画素に対する重み係数の総和が1になるよ
    うに正規化したことを特徴とする画像処理方法。
  3. 【請求項3】 請求項1記載の画像処理方法において、
    画像エッジ成分を検出した場合には、前記注目画素の上
    下及び左右に隣接する位置に存在する第1色成分の基準
    画素のうち、検出されたエッジ上に位置する2つの基準
    画素に基づいて補間画素を生成し、前記エッジ上に存在
    しない基準画素に対する重み係数を0にすることを特徴
    とする画像処理方法。
  4. 【請求項4】 請求項1記載の画像処理方法において、
    前記注目画素の上下もしくは左右に隣接する位置に存在
    する第1色成分の2つの一次参照画素のそれぞれを、該
    一次参照画素の周囲に存在する第1色成分の4つの二次
    参照画素と比較し、これら全ての比較結果が予め定めた
    条件を満たす場合に、画像エッジ成分を検出することを
    特徴とする画像処理方法。
  5. 【請求項5】 2次元画素配列に対して、画像色の第1
    色成分の画素が、縦方向及び横方向に1画素おきに配置
    され、画像色の第2色成分の画素及び第3色成分の画素
    が、それぞれ、残りの位置に均等に配置された画像デー
    タを入力し、各画素位置に、前記第1色成分,第2色成
    分及び第3色成分の何れかの画素が存在しない場合に、
    存在しない画素を生成して補間する画像処理装置におい
    て、 前記第1色成分の画素が存在しない注目位置に、補間画
    素を生成する場合に、前記注目画素の上下もしくは左右
    に隣接する位置に存在する第1色成分の一次参照画素
    と、該一次参照画素の周囲に存在する第1色成分の二次
    参照画素との大小関係を調べて、画像エッジ成分の有無
    を識別し、画像エッジ成分を検出した場合には、前記注
    目画素の上下及び左右に隣接する位置に存在する第1色
    成分の画素に基づいて補間画素を生成するとともに、前
    記注目画素の上下の画素に対する重み係数と前記注目画
    素の左右の画素に対する重み係数とを互いに異なる値に
    定める、補間制御手段を設けたことを特徴とする画像処
    理装置。
  6. 【請求項6】 2次元画素配列に対して、画像色の第1
    色成分の画素が、縦方向及び横方向に1画素おきに配置
    され、画像色の第2色成分の画素及び第3色成分の画素
    が、それぞれ、残りの位置に均等に配置された画像デー
    タを入力し、各画素位置に、前記第1色成分,第2色成
    分及び第3色成分の何れかの画素が存在しない場合に、
    存在しない画素を生成して補間する処理を、コンピュー
    タが実行するための、画像処理プログラムを記録した記
    録媒体であって、 該画像処理プログラムによって、コンピュータが、 前記第1色成分の画素が存在しない注目位置に、補間画
    素を生成する場合に、前記注目画素の上下もしくは左右
    に隣接する位置に存在する第1色成分の一次参照画素
    と、該一次参照画素の周囲に存在する第1色成分の二次
    参照画素との大小関係を調べて、画像エッジ成分の有無
    を識別し、画像エッジ成分を検出した場合には、前記注
    目画素の上下及び左右に隣接する位置に存在する第1色
    成分の画素に基づいて補間画素を生成するとともに、前
    記注目画素の上下の画素に対する重み係数と前記注目画
    素の左右の画素に対する重み係数とを互いに異なる値に
    定めることを特徴とする画像処理プログラムを記録した
    記録媒体。
JP9285536A 1997-10-17 1997-10-17 画像処理方法及び装置並びに画像処理プログラムを記録した記録媒体 Pending JPH11122626A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP9285536A JPH11122626A (ja) 1997-10-17 1997-10-17 画像処理方法及び装置並びに画像処理プログラムを記録した記録媒体
US09/174,093 US6570616B1 (en) 1997-10-17 1998-10-16 Image processing method and device and recording medium in which image processing program is recorded

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP9285536A JPH11122626A (ja) 1997-10-17 1997-10-17 画像処理方法及び装置並びに画像処理プログラムを記録した記録媒体

Publications (1)

Publication Number Publication Date
JPH11122626A true JPH11122626A (ja) 1999-04-30

Family

ID=17692815

Family Applications (1)

Application Number Title Priority Date Filing Date
JP9285536A Pending JPH11122626A (ja) 1997-10-17 1997-10-17 画像処理方法及び装置並びに画像処理プログラムを記録した記録媒体

Country Status (2)

Country Link
US (1) US6570616B1 (ja)
JP (1) JPH11122626A (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002218483A (ja) * 2001-01-15 2002-08-02 Asahi Optical Co Ltd 画像補間装置
NL1021335C2 (nl) * 2001-09-13 2005-06-13 Samsung Electronics Co Ltd Inrichting en werkwijze voor het verwerken van een uitvoer van een beeldsensor.
KR100708465B1 (ko) 2005-02-03 2007-04-18 삼성전자주식회사 컬러 상관 유사도와 다방향 에지 정보를 이용한 컬러 필터보간 방법
KR100782812B1 (ko) 2005-06-15 2007-12-06 삼성전자주식회사 에지 적응적 컬러 보간 방법 및 장치
US7489822B2 (en) 2004-03-31 2009-02-10 Sharp Kabushiki Kaisha Image processing apparatus and method for detecting a direction of an edge in the vicinity of a pixel of interest and generating all color signals for each pixel by interpolation using color signals of a pixel of interest and its neighbor pixels, and a recording medium having a program recorded thereon for causing the apparatus to perform the method
JP2009522864A (ja) * 2005-12-29 2009-06-11 マイクロン テクノロジー, インク. エッジ検出および補正項を用いてカラーフィルターアレイにおいて色補間を提供する方法および装置
KR100933081B1 (ko) * 2007-05-23 2009-12-21 조양기 기울기 변화와 지역 평균 관계를 이용한 컬러 필터 어레이보간을 위한 방법
JP2011091849A (ja) * 2010-12-13 2011-05-06 Sony Corp 固体撮像装置、固体撮像装置の信号処理方法および撮像装置
JP2013187572A (ja) * 2012-03-05 2013-09-19 Honda Motor Co Ltd 画像処理装置
JP2017157999A (ja) * 2016-03-01 2017-09-07 キヤノン株式会社 撮像装置、撮像システム、および画像処理方法

Families Citing this family (70)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6786420B1 (en) 1997-07-15 2004-09-07 Silverbrook Research Pty. Ltd. Data distribution mechanism in the form of ink dots on cards
US6618117B2 (en) 1997-07-12 2003-09-09 Silverbrook Research Pty Ltd Image sensing apparatus including a microcontroller
US6624848B1 (en) 1997-07-15 2003-09-23 Silverbrook Research Pty Ltd Cascading image modification using multiple digital cameras incorporating image processing
US7110024B1 (en) 1997-07-15 2006-09-19 Silverbrook Research Pty Ltd Digital camera system having motion deblurring means
US6690419B1 (en) 1997-07-15 2004-02-10 Silverbrook Research Pty Ltd Utilising eye detection methods for image processing in a digital image camera
US6948794B2 (en) 1997-07-15 2005-09-27 Silverbrook Reserach Pty Ltd Printhead re-capping assembly for a print and demand digital camera system
US6879341B1 (en) 1997-07-15 2005-04-12 Silverbrook Research Pty Ltd Digital camera system containing a VLIW vector processor
KR100729559B1 (ko) * 1998-01-29 2007-06-18 코닌클리케 필립스 일렉트로닉스 엔.브이. 색상 신호 보간
JP3771054B2 (ja) * 1998-07-01 2006-04-26 株式会社リコー 画像処理装置及び画像処理方法
AUPP702098A0 (en) 1998-11-09 1998-12-03 Silverbrook Research Pty Ltd Image creation method and apparatus (ART73)
JP4097815B2 (ja) * 1998-11-24 2008-06-11 株式会社リコー 画像処理装置および画像処理方法
AUPQ056099A0 (en) * 1999-05-25 1999-06-17 Silverbrook Research Pty Ltd A method and apparatus (pprint01)
JP4317619B2 (ja) * 1999-07-22 2009-08-19 メディア・テック・ユーエスエイ・インコーポレーテッド 画像処理装置
US7053944B1 (en) * 1999-10-01 2006-05-30 Intel Corporation Method of using hue to interpolate color pixel signals
FR2801463B1 (fr) * 1999-11-23 2002-04-12 St Microelectronics Sa Procede et systeme de traitement d'images numeriques
US7158178B1 (en) 1999-12-14 2007-01-02 Intel Corporation Method of converting a sub-sampled color image
US6836289B2 (en) * 1999-12-20 2004-12-28 Texas Instruments Incorporated Digital still camera architecture with red and blue interpolation using green as weighting factors
GB2365646B (en) * 2000-07-31 2004-10-13 Sony Uk Ltd Image processor and method of processing images
CA2316610A1 (en) * 2000-08-21 2002-02-21 Finn Uredenhagen System and method for interpolating a target image from a source image
JP2002232908A (ja) * 2000-11-28 2002-08-16 Monolith Co Ltd 画像補間方法および装置
US6917381B2 (en) * 2000-11-30 2005-07-12 Intel Corporation Color filter array and color interpolation algorithm
JP2002209223A (ja) * 2001-01-09 2002-07-26 Sony Corp 画像処理装置および方法、並びに記録媒体
US7106341B2 (en) * 2001-01-15 2006-09-12 Pentax Corporation Image interpolating device
JP3905708B2 (ja) * 2001-01-26 2007-04-18 ペンタックス株式会社 画像補間装置
US7088392B2 (en) * 2001-08-27 2006-08-08 Ramakrishna Kakarala Digital image system and method for implementing an adaptive demosaicing method
US6933971B2 (en) * 2002-05-14 2005-08-23 Kwe International, Inc. Reconstruction of color components in digital image processing
US7136541B2 (en) * 2002-10-18 2006-11-14 Sony Corporation Method of performing sub-pixel based edge-directed image interpolation
JP4270892B2 (ja) * 2003-01-27 2009-06-03 Hoya株式会社 偽色低減装置
JP4305071B2 (ja) * 2003-06-30 2009-07-29 株式会社ニコン 信号補正方法
JP3767593B2 (ja) * 2003-10-07 2006-04-19 三菱電機株式会社 画素補間回路及び画素補間方法
JP3810404B2 (ja) * 2003-11-10 2006-08-16 三菱電機株式会社 画素補間回路、及び画素補間方法
NO320114B1 (no) * 2003-12-05 2005-10-24 Tandberg Telecom As Forbedret utregning av interpolerte pixelverdier
JP3960965B2 (ja) * 2003-12-08 2007-08-15 オリンパス株式会社 画像補間装置及び画像補間方法
TW200528770A (en) * 2004-02-23 2005-09-01 Altek Corp Method and apparatus for determining edge inclination of an interested pixel in a color filter image array interpolation (CFAI)
US7688362B2 (en) * 2004-03-05 2010-03-30 Florida Atlantic University Single sensor processing to obtain high resolution color component signals
CN100399834C (zh) * 2004-05-17 2008-07-02 华晶科技股份有限公司 一种决定一感兴趣像素的边缘趋势的方法与装置
US20070198725A1 (en) * 2004-10-06 2007-08-23 Morris Robert P System and method for utilizing contact information, presence information and device activity
JP4428195B2 (ja) * 2004-10-22 2010-03-10 株式会社日立製作所 撮像装置、補完信号生成方法及びプログラム
US7570810B2 (en) * 2005-02-24 2009-08-04 Seiko Epson Corporation Method and apparatus applying digital image filtering to color filter array data
US9270868B2 (en) * 2005-03-15 2016-02-23 Hewlett-Packard Development Company, L.P. Charge coupled device
GB2426881B (en) * 2005-06-01 2010-12-29 Snell & Wilcox Ltd Method and apparatus for spatial interpolation of colour images
US7613363B2 (en) * 2005-06-23 2009-11-03 Microsoft Corp. Image superresolution through edge extraction and contrast enhancement
EP1961214A4 (en) * 2005-10-13 2011-11-16 Rjs Technology Inc SYSTEM AND METHOD FOR A HIGH-PERFORMANCE COLOR FILTER MOSAIC GROUP
TWI315504B (en) * 2006-03-23 2009-10-01 Nuvoton Technology Corp Color interpolation method
KR20070103229A (ko) * 2006-04-18 2007-10-23 삼성전자주식회사 컬러 보간 방법 및 장치
JP4548390B2 (ja) * 2006-06-16 2010-09-22 ソニー株式会社 撮像装置及び信号処理方法
JP5006067B2 (ja) * 2006-06-29 2012-08-22 オリンパス株式会社 画像処理装置、画像処理プログラム、画像処理方法
JP2008078922A (ja) * 2006-09-20 2008-04-03 Toshiba Corp 固体撮像装置
JP4846608B2 (ja) * 2007-01-26 2011-12-28 株式会社東芝 固体撮像装置
US8417759B2 (en) * 2007-04-09 2013-04-09 DigitalOptics Corporation Europe Limited Efficient implementations of kernel computations
US8306348B2 (en) 2007-04-24 2012-11-06 DigitalOptics Corporation Europe Limited Techniques for adjusting the effect of applying kernels to signals to achieve desired effect on signal
JP2008306379A (ja) * 2007-06-06 2008-12-18 Toshiba Corp 固体撮像素子
KR100976284B1 (ko) * 2007-06-07 2010-08-16 가부시끼가이샤 도시바 촬상 장치
US7825965B2 (en) * 2007-09-07 2010-11-02 Seiko Epson Corporation Method and apparatus for interpolating missing colors in a color filter array
US20090077359A1 (en) * 2007-09-18 2009-03-19 Hari Chakravarthula Architecture re-utilizing computational blocks for processing of heterogeneous data streams
US20090092338A1 (en) * 2007-10-05 2009-04-09 Jeffrey Matthew Achong Method And Apparatus For Determining The Direction of Color Dependency Interpolating In Order To Generate Missing Colors In A Color Filter Array
JP5098054B2 (ja) * 2007-11-22 2012-12-12 オリンパス株式会社 画像処理装置及び画像処理プログラム
CN101939762A (zh) * 2008-02-07 2011-01-05 Nxp股份有限公司 用于重构彩色图像的方法和设备
CN101465001B (zh) * 2008-12-31 2011-04-13 昆山锐芯微电子有限公司 一种基于Bayer RGB的图像边缘检测方法
JP4958056B2 (ja) * 2009-05-12 2012-06-20 東芝ディーエムエス株式会社 画像補間装置および画像補間プログラム
US8463035B2 (en) * 2009-05-28 2013-06-11 Gentex Corporation Digital image processing for calculating a missing color value
JPWO2011158419A1 (ja) * 2010-06-18 2013-08-19 パナソニック株式会社 解像度判定装置、画像処理装置、及び画像表示装置
US9769430B1 (en) 2011-06-23 2017-09-19 Gentex Corporation Imager system with median filter and method thereof
WO2013123133A1 (en) 2012-02-14 2013-08-22 Gentex Corporation High dynamic range imager system
TW201437966A (zh) * 2013-03-29 2014-10-01 Automotive Res & Testing Ct 自適應影像邊緣修復裝置及其方法
CN104144281B (zh) * 2013-05-08 2017-06-09 财团法人车辆研究测试中心 自适应影像边缘修复装置及其方法
JP2015154308A (ja) * 2014-02-17 2015-08-24 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
CN110858894B (zh) * 2018-08-23 2021-11-26 瑞昱半导体股份有限公司 色彩重建装置与方法
US10956696B2 (en) 2019-05-31 2021-03-23 Advanced New Technologies Co., Ltd. Two-dimensional code identification and positioning
JP2022188888A (ja) * 2021-06-10 2022-12-22 株式会社ソシオネクスト 画像処理装置および画像処理方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4630307A (en) * 1984-09-10 1986-12-16 Eastman Kodak Company Signal processing method and apparatus for sampled image signals
US5053861A (en) 1989-07-24 1991-10-01 Eastman Kodak Company Compression method and apparatus for single-sensor color imaging systems
US5040064A (en) 1989-10-02 1991-08-13 Eastman Kodak Company Method of processing sampled signal valves produced by a color imaging device
FR2665597B1 (fr) * 1990-07-31 1995-11-17 Thomson Trt Defense Procede et dispositif de localisation en temps reel de contours rectilignes dans une image numerisee, notamment pour la reconnaissance de formes dans un traitement d'analyse de scene.
JP3450374B2 (ja) 1993-05-28 2003-09-22 キヤノン株式会社 カラー撮像装置
US5373322A (en) 1993-06-30 1994-12-13 Eastman Kodak Company Apparatus and method for adaptively interpolating a full color image utilizing chrominance gradients
US5382976A (en) * 1993-06-30 1995-01-17 Eastman Kodak Company Apparatus and method for adaptively interpolating a full color image utilizing luminance gradients
US5652621A (en) * 1996-02-23 1997-07-29 Eastman Kodak Company Adaptive color plane interpolation in single sensor color electronic camera

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002218483A (ja) * 2001-01-15 2002-08-02 Asahi Optical Co Ltd 画像補間装置
NL1021335C2 (nl) * 2001-09-13 2005-06-13 Samsung Electronics Co Ltd Inrichting en werkwijze voor het verwerken van een uitvoer van een beeldsensor.
US7142239B2 (en) 2001-09-13 2006-11-28 Samsung Electronics, Co., Ltd. Apparatus and method for processing output from image sensor
US7489822B2 (en) 2004-03-31 2009-02-10 Sharp Kabushiki Kaisha Image processing apparatus and method for detecting a direction of an edge in the vicinity of a pixel of interest and generating all color signals for each pixel by interpolation using color signals of a pixel of interest and its neighbor pixels, and a recording medium having a program recorded thereon for causing the apparatus to perform the method
KR100708465B1 (ko) 2005-02-03 2007-04-18 삼성전자주식회사 컬러 상관 유사도와 다방향 에지 정보를 이용한 컬러 필터보간 방법
KR100782812B1 (ko) 2005-06-15 2007-12-06 삼성전자주식회사 에지 적응적 컬러 보간 방법 및 장치
JP2009522864A (ja) * 2005-12-29 2009-06-11 マイクロン テクノロジー, インク. エッジ検出および補正項を用いてカラーフィルターアレイにおいて色補間を提供する方法および装置
KR100933081B1 (ko) * 2007-05-23 2009-12-21 조양기 기울기 변화와 지역 평균 관계를 이용한 컬러 필터 어레이보간을 위한 방법
JP2011091849A (ja) * 2010-12-13 2011-05-06 Sony Corp 固体撮像装置、固体撮像装置の信号処理方法および撮像装置
JP2013187572A (ja) * 2012-03-05 2013-09-19 Honda Motor Co Ltd 画像処理装置
JP2017157999A (ja) * 2016-03-01 2017-09-07 キヤノン株式会社 撮像装置、撮像システム、および画像処理方法

Also Published As

Publication number Publication date
US6570616B1 (en) 2003-05-27

Similar Documents

Publication Publication Date Title
JPH11122626A (ja) 画像処理方法及び装置並びに画像処理プログラムを記録した記録媒体
JP4815807B2 (ja) Rawデータから倍率色収差を検出する画像処理装置、画像処理プログラム、および電子カメラ
JP4054184B2 (ja) 欠陥画素補正装置
JP4098438B2 (ja) カラー撮像素子及びカラー撮像装置
EP2268043B1 (en) Image processing device, imaging device, method, and program
JP5740465B2 (ja) 撮像装置及び欠陥画素補正方法
EP2184915B1 (en) Image processing device, image processing method, and image processing program
US8358835B2 (en) Method for detecting and correcting chromatic aberration, and apparatus and method for processing image using the same
US8284278B2 (en) Image processing apparatus, imaging apparatus, method of correction coefficient calculation, and storage medium storing image processing program
CN101304484A (zh) 成像装置、缺陷像素校正装置、装置中的处理方法和程序
JP2000299874A (ja) 信号処理装置及び方法並びに撮像装置及び方法
US20150042782A1 (en) Image processing apparatus, imaging apparatus, microscope system, image processing method, and computer readable recording medium
JP5600812B2 (ja) 撮像装置
US20110170776A1 (en) Image distortion correcting method and image processing apparatus
JP3905708B2 (ja) 画像補間装置
JP2002112276A (ja) カラー固体撮像装置
JP5036524B2 (ja) 画像処理装置、画像処理方法、プログラムおよび撮像装置
JPH06153087A (ja) 画素欠陥補正方法
JP2000081368A (ja) Lcd パネル画質検査方法、lcd パネル画質検査装置及び画像取込方法
JP5228929B2 (ja) 画像処理装置、撮像装置及び画像処理プログラム
JP4334150B2 (ja) 画像補間装置
JP2002320237A (ja) 倍率色収差の検出方法
JP4105942B2 (ja) 画像処理装置
JP4464325B2 (ja) 画像処理装置
JPH0414960A (ja) カラー読取装置