JP2011091483A - 画像処理装置、および画像処理方法、並びにプログラム - Google Patents

画像処理装置、および画像処理方法、並びにプログラム Download PDF

Info

Publication number
JP2011091483A
JP2011091483A JP2009241239A JP2009241239A JP2011091483A JP 2011091483 A JP2011091483 A JP 2011091483A JP 2009241239 A JP2009241239 A JP 2009241239A JP 2009241239 A JP2009241239 A JP 2009241239A JP 2011091483 A JP2011091483 A JP 2011091483A
Authority
JP
Japan
Prior art keywords
pixel
edge
unit
pixels
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009241239A
Other languages
English (en)
Other versions
JP5454075B2 (ja
Inventor
Yasushi Saito
泰 斎藤
Isao Hirota
功 広田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2009241239A priority Critical patent/JP5454075B2/ja
Application filed by Sony Corp filed Critical Sony Corp
Priority to KR1020117012850A priority patent/KR101633946B1/ko
Priority to CN201080003488.3A priority patent/CN102273208B/zh
Priority to PCT/JP2010/064031 priority patent/WO2011048870A1/ja
Priority to EP10824722.2A priority patent/EP2352301B1/en
Priority to US13/132,044 priority patent/US8755640B2/en
Publication of JP2011091483A publication Critical patent/JP2011091483A/ja
Application granted granted Critical
Publication of JP5454075B2 publication Critical patent/JP5454075B2/ja
Priority to US14/269,754 priority patent/US9609291B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • H04N1/4092Edge or detail enhancement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Power Engineering (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Electromagnetism (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Color Image Communication Systems (AREA)

Abstract

【課題】RGBW配列を持つ撮像素子による撮影信号からのRGB配列データを生成する装置および方法を提供する。
【解決手段】エッジ検出部がRGBW配列の撮像素子の出力信号を解析して各画素対応のエッジ情報を取得し、テクスチャ検出部がテクスチャ情報を生成する。さらにパラメータ算出部が変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理を実行して補間画素値に相当するパラメータを生成する。ブレンド処理部において、パラメータ算出部の生成したパラメータと、エッジ情報およびテクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定する。
【選択図】図6

Description

本発明は、画像処理装置、および画像処理方法、並びにプログラムに関する。特にRGBW配列を持つ撮像素子の出力に対する信号処理を行なう画像処理装置、および画像処理方法、並びにプログラムに関する。
例えば撮像装置に用いられる撮像素子(イメージセンサ)は、素子表面に各画素単位で特定の波長成分光(R,G,B)を透過させるカラーフィルタを貼り付けた構成を持つ。例えば図1(a)に示すようなRGB配列を持つフィルタが利用される。撮像素子の出力信号を用いたカラー画像生成処理においては、複数個の画素の組によって必要な色成分を復元する処理が行われる。カラーフィルタの色配列には様々なタイプがあるが、図1(a)に示す赤(R)、緑(G)、青(B)の特定波長光のみを透過させる3種類のフィルタによって構成されたベイヤ配列が多く利用されている。
近年、撮像素子(イメージセンサ)の画素の微細化が進み、これに伴い各画素への入射光量が減少しS/N比が劣化するという問題が発生してきた。この問題を解決するため、図1(b)に示すようにRGB等の特定波長光のみを透過させるフィルタの他に、さらに可視光域の光を広く透過するホワイト(W:White)を持つイメージセンサ(撮像素子)が提案されている。図1(b)には、RGBW配列を持つフィルタの一例を示している。図1(b)に示すRGBW配列におけるW画素は可視光域の光を広く透過するフィルタである。
このような、ホワイト(W:White)画素を持つカラーフィルタを搭載した撮像素子については、例えば特許文献1(US公開特許2007/0024879)、特許文献2(US公開特許2007/0024934)に記載されている。
図1(b)に示すようなホワイト(W:White)画素を持つカラーフィルタを持つ撮像素子(イメージセンサ)を用いることで、フィルタの透過光率が高くなり、高感度化が実現できる。
しかし、RGBW型の素子の問題点として以下のような問題点がある。
図1(a)に示すRGB配列、あるいは図1(b)に示すRGBW配列のいずれも、R,G,B,Wいずれかのフィルタをモザイク状に配列した一枚の素子、すなわち単板型イメージセンサである。従ってカラー画像を生成する際には、各画素に対応するRGB画素値を生成するカラーコーディングとしてのデモザイク処理が必要となる。
図1(b)に示すRGBW配列では、図1(a)に示すRGB配列に比較して、R,G,B成分のサンプリングレートが低下する。この結果、カラー画像生成処理に際して、図1(b)に示すRGBW配列方の素子の取得データを用いた場合、図1(a)に示すRGB配列に比較して、偽色が発生しやすくなるという問題がある。また、ホワイト(W)の波長成分はR,G,Bすべての波長成分を含んでいるため、色収差の大きい光学レンズを用いると、単色成分のものと比べてRGB波長成分の集光率が落ち、解像度の低下を招くという問題もある。この問題点は画素の微細化が進むにつれて、更に顕著となる。
光学レンズの色収差に起因する解像度劣化の防止手法として、屈折率の異なるレンズを組み合わせて色収差の発生を抑えることが有効であるが、この場合、光学レンズの枚数が増えることによるコストが増大するという新たな問題が発生する。さらに、このような構成とすると、前述のRGB成分のサンプリングレート低下に起因する偽色の問題がより顕著となるという問題も発生する。
また、単板型イメージセンサの各画素は単一の色成分の情報しかもたないため離散的に取得されたR,G,B,W信号からカラー画像を得るために全画素対応のRGB画素値を求めるデモザイク処理が行われる。このデモザイク処理の際、局所領域においては色比率がほぼ一定に保たれることや強い色相関があることを仮定した補間処理が行われる。具体的には、ある画素の特定色の画素値を算出する際、周囲の画素値を用いて補間する方法が広く用いられる。この方法については、例えば特許文献3(特開2009−17544号公報)に記載がある。しかしながら、エッジ近傍では上記の仮定、すなわち局所領域における一定の色比率や強い色相関があるという仮定は成り立たない。この結果エッジ近傍に偽色が発生しやすくなるという問題がある。
US公開特許2007/0024879 US公開特許2007/0024934 特開2009−17544号公報
本発明は、ホワイト(W:White)を含む例えばRGBW型のカラーフィルタを持つ撮像素子(イメージセンサ)の取得データを適用したカラー画像生成処理において、偽色の少ない高品質なカラー画像の生成を実現する画像処理装置、および画像処理方法、並びにプログラムを提供することを目的とする。
本発明の第1の側面は、
輝度信号の主成分となる画素が市松状に配置され、残りの部分に色情報成分となる複数色の画素が配置された2次元画素配列信号を解析して画素変換を行うデータ変換処理部を有する画像処理装置にある。
さらに、本発明の画像処理装置の一実施態様において、前記輝度信号の主成分となる色は白色または緑色である。
さらに、本発明の画像処理装置の一実施態様において、前記データ変換処理部は、前記2次元画素配列信号を解析してエッジ情報を生成するエッジ検出部と、前記2次元画素配列信号を解析してテクスチャ情報を生成するテクスチャ検出部と、前記2次元画素配列信号を解析して画素変換処理に適用するパラメータを算出するパラメータ算出部と、前記パラメータ算出部の算出したパラメータと、前記エッジ情報および前記テクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、前記パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定するブレンド処理部を有する。
さらに、本発明の画像処理装置の一実施態様において、
RGB画素とホワイト(W)画素からなるRGBW配列信号を解析して各画素対応のエッジ方向および強度情報を含むエッジ情報を生成するエッジ検出部と、
前記RGBW配列信号を解析して各画素対応のテクスチャ度合いを示すテクスチャ情報を生成するテクスチャ検出部と、
RGBW配列をRGB配列に変換するためのパラメータを算出するパラメータ算出部であり、変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理により算出した補間画素値に相当するパラメータを生成するパラメータ算出部と、
前記パラメータ算出部の算出したパラメータと、前記エッジ情報および前記テクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、前記パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定するブレンド処理部と、
を有する。
さらに、本発明の画像処理装置の一実施態様において、前記パラメータ算出部は、補間処理に適用する画素位置をエッジ方向に沿った画素位置とする補間処理によりパラメータを生成する構成である。
さらに、本発明の画像処理装置の一実施態様において、前記パラメータ算出部は、RGBW配列を構成するW画素とその他のRGB画素との局所領域での相関を利用した補間処理によりパラメータを生成する構成である。
さらに、本発明の画像処理装置の一実施態様において、前記画像処理装置は、さらに、RGBW配列を構成するW画素とその他のRGB画素との局所領域での相関を利用した補間処理によりW画素位置に対してRGBいずれかの画素の画素値を設定する仮画素設定部を有し、前記パラメータ算出部は、前記仮画素設定データを適用した補間処理によりパラメータを生成する構成である。
さらに、本発明の画像処理装置の一実施態様において、前記パラメータ算出部は、エッジ方向が縦、横、左斜め上、右斜め上の4種類のエッジ方向に応じて、適用画素位置をエッジ方向に沿った画素位置に設定した補間処理により算出した補間画素値相当の複数のパラメータを生成し、前記ブレンド処理部は、縦、横、左斜め上、右斜め上の4種類のエッジ方向の強度比較を実行して、比較結果に応じて前記複数のパラメータのブレンド比率を変更したブレンド処理を実行する。
さらに、本発明の画像処理装置の一実施態様において、前記ブレンド処理部は、変換画素対応の縦横方向エッジと斜め方向エッジのエッジ方向度合い(ratioFlat)を算出し、さらに、エッジ方向度合い(ratioFlat)に基づいて、値が大きいほど斜め方向エッジより縦横方向エッジが強く、値が小さいほど斜め方向エッジが縦横方向エッジより強いことを示す縦横方向エッジ方向重み(weightHV)を算出し、変換画素対応の縦横方向エッジが斜め方向エッジより強い場合は、エッジ方向を縦または横方向として設定して算出したパラメータのブレンド比率を高くし、変換画素対応の縦横方向エッジが斜め方向エッジより弱い場合は、エッジ方向を斜め方向として設定して算出したパラメータのブレンド比率を高くしたブレンド処理を実行する。
さらに、本発明の画像処理装置の一実施態様において、前記テクスチャ検出部は、前記テクスチャ情報として、テクスチャが少なく平坦度が高い画素領域については高い値を示し、テクスチャが多く平坦度が低い画素領域については低い値を示す各画素対応の平坦度重み(weightFlat)を算出し、前記パラメータ算出部は、前記補間画素値に対するコントラスト強調処理を実行したコントラスト強調処理適用パラメータと、前記補間画素値に対するコントラスト強調処理を実行しないコントラスト強調処理非適用パラメータを算出し、前記ブレンド処理部は、前記平坦度重みの大きい画素については、前記コントラスト強調処理非適用パラメータのブレンド比率を大きく設定し、前記平坦度重みの小さい画素については、前記コントラスト強調処理適用パラメータのブレンド比率を大きく設定したブレンド処理を実行する。
さらに、本発明の画像処理装置の一実施態様において、前記エッジ検出部は、前記RGBW配列信号のホワイト(W)画素のみを利用した解析処理により、各画素対応のエッジ情報を生成する構成であり、処理対象画素近傍のW画素の信号値勾配を算出して各画素対応のエッジ方向および強度情報を含むエッジ情報を生成する。
さらに、本発明の画像処理装置の一実施態様において、前記テクスチャ検出部は、記RGBW配列信号のホワイト(W)画素のみを利用した解析処理により、各画素対応のテクスチャ度合いを示すテクスチャ情報を生成する。
さらに、本発明の第2の側面は、
画像処理装置において画像信号処理を実行する画像処理方法であり、
エッジ検出部が、RGB画素とホワイト(W)画素からなるRGBW配列信号を解析して各画素対応のエッジ方向および強度情報を含むエッジ情報を生成するエッジ検出ステップと、
テクスチャ検出部が、前記RGBW配列信号を解析して各画素対応のテクスチャ度合いを示すテクスチャ情報を生成するテクスチャ検出ステップと、
パラメータ算出部が、RGBW配列をRGB配列に変換するためのパラメータを算出するパラメータ算出部であり、変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理により算出した補間画素値に相当するパラメータを生成するパラメータ算出ステップと、
ブレンド処理部が、前記パラメータ算出部の算出したパラメータと、前記エッジ情報および前記テクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、前記パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定するブレンド処理ステップと、
を有する画像処理方法にある。
さらに、本発明の第3の側面は、
画像処理装置において画像信号処理を実行させるプログラムであり、
エッジ検出部に、RGB画素とホワイト(W)画素からなるRGBW配列信号を解析して各画素対応のエッジ方向および強度情報を含むエッジ情報を生成させるエッジ検出ステップと、
テクスチャ検出部に、前記RGBW配列信号を解析して各画素対応のテクスチャ度合いを示すテクスチャ情報を生成させるテクスチャ検出ステップと、
パラメータ算出部に、RGBW配列をRGB配列に変換するためのパラメータを算出させるパラメータ算出ステップであり、変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理により算出した補間画素値に相当するパラメータを生成させるパラメータ算出ステップと、
ブレンド処理部に、前記パラメータ算出部の算出したパラメータと、前記エッジ情報および前記テクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、前記パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定させるブレンド処理ステップと、
を実行させるプログラムにある。
なお、本発明のプログラムは、例えば、様々なプログラム・コードを実行可能な画像処理装置やコンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、画像処理装置やコンピュータ・システム上でプログラムに応じた処理が実現される。
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
本発明の一実施例の構成によれば、ホワイト(W:White)を含む例えばRGBW型のカラーフィルタを持つ撮像素子(イメージセンサ)の取得データを入力して偽色の少ない高品質なカラー画像を生成するためのRGB配列データを生成することができる。具体的には、エッジ検出部がRGBW配列の撮像素子の出力信号を解析して各画素対応のエッジ情報を取得し、テクスチャ検出部がテクスチャ情報を生成する。さらにパラメータ算出部が変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理を実行して、補間画素値に相当するパラメータを生成する。ブレンド処理部において、パラメータ算出部の生成したパラメータと、エッジ情報およびテクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定する。これらの処理により、偽色の少ない高品質なカラー画像を生成可能なRGB配列データを生成することができる。
一般的なカラーフィルタで用いられる色配列としてのベイヤ配列と、本発明において適用するRGBW配列の例について説明する図である。 本発明の一実施例における処理であるRGBW配列からRGB配列への変換処理として行われるリモザイク処理について説明する図である。 本発明のRGBW配列からRGB配列への変換処理として行われるリモザイク処理の個別の処理について説明する図である。 本発明のRGBW配列からRGB配列への変換処理として行われるリモザイク処理の個別の処理について説明する図である。 本発明の画像処理装置の一実施例に係る撮像装置の構成例について説明する図である。 データ変換処理部の構成と処理について説明する図である。 図6に示すノイズ除去部201の実行する処理について説明する図である。 図6に示すエッジ検出部209の実行するエッジ検出処理について説明する図である。 図6に示すエッジ検出部209の実行するエッジ検出処理について説明する図である。 図6に示すエッジ検出部209の実行するエッジ検出処理について説明する図である。 図6に示すエッジ検出部209の実行するエッジ検出処理について説明する図である。 図6に示すテクスチャ検出部210の実行するテクスチャ検出処理について説明する図である。 図6に示すテクスチャ検出部210の実行するテクスチャ検出処理について説明する図である。 図6に示すテクスチャ検出部210の実行するテクスチャ検出処理について説明する図である。 図6に示す第1画素補間パラメータ算出部(GonW)202の実行する処理について説明する図である。 図6に示す第1画素補間パラメータ算出部(GonW)202の実行する処理について説明する図である。 図6に示す第1画素補間パラメータ算出部(GonW)202の実行する処理について説明する図である。 図6に示す第1画素補間パラメータ算出部(GonW)202の実行する処理について説明する図である。 図6に示す第1画素補間パラメータ算出部(GonW)202の実行する処理について説明する図である。 図6に示す第1画素補間パラメータ算出部(GonW)202の実行する処理について説明する図である。 図6に示す第1画素補間パラメータ算出部(GonW)202の実行する処理について説明する図である。 図6に示す第1仮画素設定部(RBonWaroundG)203の実行する処理について説明する図である。 図6に示す第1仮画素設定部(RBonWaroundG)203の実行する処理について説明する図である。 図6に示す第2画素補間パラメータ算出部(RBonGofHV)204の実行する処理について説明する図である。 図6に示す第2画素補間パラメータ算出部(RBonGofHV)204の実行する処理について説明する図である。 図6に示す第3画素補間パラメータ算出部(RBonGofAD)205の実行する処理について説明する図である。 図6に示す第2仮画素設定部(RBonWaroundRB)206の実行する処理について説明する図である。 図6に示す第2仮画素設定部(RBonWaroundRB)206の実行する処理について説明する図である。 図6に示す第4画素補間パラメータ算出部(RBonRBofHV)207の実行する処理について説明する図である。 図6に示す第4画素補間パラメータ算出部(RBonRBofHV)207の実行する処理について説明する図である。 図6に示す第5画素補間パラメータ算出部(RBonRBofAD)208の実行する処理について説明する図である。 図6に示すブレンド処理部211の実行する処理について説明する図である。 図6に示すブレンド処理部211の実行する処理について説明する図である。 図6に示すブレンド処理部211の実行する処理について説明する図である。 図6に示すデータ変換処理部200の実行する処理のシーケンスを説明するフローチャートを示す図である。
以下、図面を参照しながら、本発明の画像処理装置、および画像処理方法、並びにプログラムについて説明する。説明は、以下の順番で行なう。
1.本発明の処理の概要について
2.撮像装置および画像処理装置の構成例および処理例について
3.データ変換処理部の処理の詳細について
3−1.ノイズ除去部の処理について
3−2.エッジ検出部の処理について
3−3.テクスチャ検出部の処理について
3−4.画素補間パラメータ算出部の処理について
3−5.ブレンド処理部の処理について
4.画像処理装置のデータ変換処理部が実行するリモザイク処理シーケンス
[1.本発明の処理の概要について]
まず、図2を参照して本発明の撮像装置等の画像処理装置が実行する処理の概要について説明する。本発明の画像処理装置は、RGB各色の波長光を選択的に透過するRGBフィルタに加え、RGB各波長光をすべて透過するホワイト(W:White)を含むRGBW型のカラーフィルタを持つ撮像素子(イメージセンサ)の取得データに対する処理を行う。具体的には、輝度信号の主成分となる画素が市松状に配置され、残りの部分に色情報成分となる複数色の画素が配置された2次元画素配列信号を解析して画素変換を行う。なお、輝度信号の主成分となる色は、白色または緑色である。
本発明の画像処理装置は、図2(1)に示すような、ホワイト(W:White)を含む例えばRGBW型のカラーフィルタを持つ撮像素子(イメージセンサ)の取得データを、図2(2)に示すRGB配列(例えばベイヤ配列)に変換する処理に適用するパラメータの算出処理を実行する。さらに、この変換処理に際して、偽色の発生を低下させるための処理を併せて実行する。
図2に示すように、RGBWのカラー配列に設定されたRGBWの各画素の少なくとも一部を他の色(RGBのいずれか)へ変換または補正する処理を行う。具体的には、RGBW配列からRGBベイヤ配列への変換処理において、以下の5つの変換や補正処理を実行する。
(a)W画素位置をG画素に変換(G画素値を推定)する=(GonW)
(b)G画素位置をR画素に変換(R画素値を推定)する=(RonG)
(c)G画素位置をB画素に変換(B画素値を推定)する=(BonG)
(d)R画素位置をR画素に変換(R画素値を補正)する=(RonR)
(e)B画素位置にB画素に変換(B画素値を補正)する=(BonB)
上記の(a)〜(e)の各変換処理は、RGBW配列におけるRGBW各画素をRGB配列におけるRGB画素に変換するための画素値推定または補正処理として行われる。これらの処理を実行することで、図2(1)に示すRGBWのカラー配列から図2(2)に示すRGB配列を生成する。
以下、このようなカラー配列の変換処理をリモザイク処理と呼ぶ。
以下の実施例では、ホワイト(W)を持つRGBW型カラー配列をRGB型カラー配列(ベイヤ配列)に変換するリモザイク処理を実行し、かつ、このリモザイク処理に際して偽色の発生を低減させる処理を実行する構成について説明する。
本発明の画像処理装置における画素変換処理は、n×n画素の矩形画素領域を入力画素単位として変換処理を行う。すなわち、n×n画素の中心にある1つの画素の変換画素値を決定するためにn×n画素の矩形画素領域の画素情報を利用する。具体的には、例えば画像の5×5画素(幅5画素高さ5画素)単位、または7×7画素(幅7画素高さ7画素)単位で処理を行う。例えば、5×5画素を処理単位とした処理を行う場合、画像処理装置は、5×5画素単位で画素情報を入力し5×5画素の画素情報を用いて中心画素の変換画素値を決定する。5×5画素の中心画素は、RGBWいずれかの画素であり、これらのRGBWを上記(a)〜(e)の変換パターンに従って変換する。
以下の説明では、画素変換処理の単位とするn×n画素の矩形画素を「入力画素単位」と称して説明する。上述の(a)〜(e)の変換パターンの1つである(a)の処理、すなわち、
(a)W画素位置をG画素に変換(G画素値を推定)する=(GonW)
この変換処理を行う場合、入力画素単位である5×5画素の画素パターンには、図3に示す4つの異なるパターン(a1)〜(a4)がある。
図3には、(a1)〜(a4)に、W画素が5×5画素の中心位置となる入力画素単位(処理単位)を示している。左側が、入力画素単位、右側が最終的な処理結果となるRGB配列データである。
5×5画素の中心位置がW画素となる入力には、図3に(a1)〜(a4)に示す4つの異なるパターンがある。このいずれかのパターンの5×5画素を入力した場合、
(a)W画素位置をG画素に変換(G画素値を推定)する=(GonW)
この処理を実行する。
なお、図3(a1)〜(a4)の右側は、最終的な変化結果を示すものであり、図3(a1)〜(a4)の左側に示す入力画素単位に対しては、中心画素WをG画素に変換する処理のみが実行される。その後、処理単位を1つずつずらして、変換処理(上記(a)〜(e)のいずれかの処理)を実行して図3(a1)〜(a4)の右側に示す最終的な変化結果が得られる。
また、上述の(a)〜(e)の変換パターンの(b)〜(e)の処理、すなわち、
(b)G画素位置をR画素に変換(R画素値を推定)する=(RonG)
(c)G画素位置をB画素に変換(B画素値を推定)する=(BonG)
(d)R画素位置をR画素に変換(R画素値を補正)する=(RonR)
(e)B画素位置にB画素に変換(B画素値を補正)する=(BonB)
これらの変換処理を行う場合の、入力画素単位(処理単位)と変換処理の最終出力との関係は、図4(b)〜(e)に示す通りである。
[2.撮像装置および画像処理装置の構成例および処理例について]
図5、図6を参照して、本発明の一実施例に係る撮像装置および画像処理装置の構成例及び処理例について説明する。
図5は、本発明の一実施例に係る撮像装置100の構成例を示す図である。撮像装置100は、光学レンズ105、撮像素子(イメージセンサ)110、信号処理部120、メモリ130、制御部140を有する。なお、撮像装置は画像処理装置の一態様である。画像処理装置には、例えばPCなどの装置も含まれる。PC等の画像処理装置は、図3に示す撮像装置100の光学レンズ105、撮像素子110を持たず、その他の構成要素から構成され、撮像素子100の取得データの入力部、または記憶部を持つ構成となる。具体的には撮像装置100は、スチルカメラ、ビデオカメラなどであり、画像処理装置100にはPCなど画像処理の可能な情報処理装置が含まれる。
以下では、撮像装置100を、本発明の画像処理装置の代表例として説明する。図5に示す撮像装置100の撮像素子(イメージセンサ)110は、図1(b)や図2(1)を参照して説明したホワイト(W)を持つRGBW配列181を持つフィルタを備えた構成である。具体的には、輝度信号の主成分となる画素が市松状に配置され、残りの部分に色情報成分となる複数色の画素が配置された2次元画素配列信号を解析して画素変換を行う。なお、輝度信号の主成分となる色は、白色または緑色である。
撮像素子(イメージセンサ)110は、
赤色近傍の波長を透過する赤(R)、
緑色近傍の波長を透過する緑(G)、
青色近傍の波長を透過する青(B)、
これらに加え、
とRGBのすべてを透過するホワイト(W)、
これら4種類の分光特性を持つフィルタを備えた撮像素子である。
このRGBW配列181フィルタを持つ撮像素子110は、光学レンズ105を介してRGBWいずれかの光を各画素単位で受光し、光電変換により受光信号強度に対応する電気信号を生成して出力する。この撮像素子110によってRGBW4種類の分光から成るモザイク画像が得られる。
撮像素子(イメージセンサ)110の出力信号は信号処理部120のデータ変換処理部200に入力される。
データ変換処理部200は、先に図2を参照して説明したように、RGBW配列181からRGB配列182への変換処理を実行する。この変換処理に際しては、前述のように、
W画素位置をG画素に変換(G画素値を推定)する=(GonW)
G画素位置をR画素に変換(R画素値を推定)する=(RonG)
G画素位置をB画素に変換(B画素値を推定)する=(BonG)
R画素位置をR画素に変換(R画素値を補正)する=(RonR)
B画素位置にB画素に変換(B画素値を補正)する=(BonB)
これら5つの変換や補正処理を実行する。
この変換/補正処理に際して、偽色を抑制するための処理を併せて実行する。
データ変換処理部200の生成したRGB配列182、すなわちベイヤ配列を持つデータは、従来のカメラ等の撮像素子によって得られるカラー配列を持つデータである。このカラー配列データは、RGB信号処理部250入力される。
RGB信号処理部250は、従来のカメラ等に備えられた信号処理部と同様の処理を実行する。具体的にはデモザイク処理、ホワイトバランス調整処理、γ補正処理などを実行してカラー画像183を生成する。生成したカラー画像183はメモリ130に記録される。
制御部140は、これら一連の処理の制御を実行する。例えば、一連の処理を実行させるプログラムがメモリ130に格納されており、制御部140は、メモリ130から読み出したプログラムを実行して一連の処理を制御する。
データ変換処理部200の詳細構成について図6を参照して説明する。データ変換処理部200は、RGBWのカラー配列からRGB配列182への変換処理を実行する。さらに、この処理に際して偽色を抑制するための処理を併せて実行する。
データ変換処理部200は、図6に示すように、ノイズ除去部201、第1〜第5画素補間パラメータ算出部202〜208、エッジ検出部209、テクスチャ検出部210、ブレンド処理部211を有する。データ変換処理部200は、処理画像であるRGBW配列181から、n×n画素の処理単位で順次、画素値を入力して、n×n画素の中央の画素の変換画素値を決定して出力する。全ての画素の変換処理が完了すると、RGB配列182が完成し、図5に示すRGB信号処理部250に提供される。
ノイズ除去部201は、入力画素単位の中心にあるW画素に対してノイズ除去を実行する。
第1画素補間パラメータ算出部(GonW)202は、W画素をG画素に変換する処理に適用するパラメータの算出処理を実行する。
第1仮画素設定部(RBonWaroundG)203は、G画素に隣接するW画素位置をR画素またはB画素に変換する処理の事前処理としてG画素周囲のW画素をRまたはB画素の仮画素(R')(B')に変換する処理を実行する。
第2画素補間パラメータ算出部(RBonGofHV)204は、G画素をR画素、またはB画素に変換する処理に適用するパラメータとして、縦または横エッジ対応のパラメータを算出する。
第3画素補間パラメータ算出部(RBonGofAD)205は、G画素をR画素、またはB画素に変換する処理に適用するパラメータとして、斜めエッジ対応のパラメータを算出する。
第2仮画素設定部(RBonWaroundRB)206は、R画素またはB画素に隣接するW画素位置をR画素またはB画素に変換する処理の事前処理としてRまたはB画素周囲のW画素をRまたはB画素の仮画素(R')(B')に変換する処理を実行する
第4画素補間パラメータ算出部(RBonRBofHV)207は、R画素をR画素に、またはB画素をB画素に変換する処理に適用するパラメータとして、縦または横エッジ対応のパラメータを算出する。
第5画素補間パラメータ算出部(RBonRBofAD)208は、R画素をR画素に、またはB画素をB画素に変換する処理に適用するパラメータとして、斜めエッジ対応のパラメータを算出する。
エッジ検出部209は、W画素を用いてエッジの方向検出処理を実行する。
テクスチャ検出部210は、W画素を用いてテクスチャの検出処理を実行する。
ブレンド処理部211は、上記の各処理で出力された画素をブレンドする処理を実行する。
[3.データ変換処理部の処理の詳細について]
次に、図6に示すデータ変換処理部200を構成する各処理部が実行する処理の詳細について説明する。
(3−1.ノイズ除去部の処理について)
まず、ノイズ除去部201の処理について図7を参照して説明する。ノイズ除去部201は、入力画素単位(5×5画素)の中心画素がW画素であるデータに対してノイズ除去処理を実行する。ノイズ除去は、入力画素単位の中心にあるW画素に対するノイズ低減画素値の算出処理として行われる。
ノイズ除去の手法としては、様々な手法が適用可能である。ここでは、バイラテラルフィルタを用いたノイズ低減処理例について図7を参照して説明する。図7は、入力画素単位が5x5画素の場合を示し、中心にあるW画素(画素p)に対してノイズ除去を適用した例を説明する図である。
図7には、
(a)処理対象データ
(b)ノイズ低減画素値算出式
(c)関数φ(r)の線形近似例
これらを示している。
(a)処理対象データに示すように、ノイズ除去部201は、RGBW配列を持つ入力画素単位(5×5画素)の中心画素(p)がW画素である場合に処理を行う。図に示す入力画素単位(5×5画素)のグレー部分がW画素であり、その他の白い部分はRGB画素のいずれかである。なお、以下の説明に用いる図においてもグレー部分がW画素であり、その他の白い部分はRGB画素のいずれかであるものとする。
ノイズ除去部201は、処理対象データ301の中心画素(p)であるW画素の画素値I(p)と入力画素単位(5×5画素)に含まれる画素の画素値I(q)を用いて、図7(2)に示すノイズ低減画素値算出式に従ってノイズ低減画素値INR(p)を算出する。すなわち、以下の式(式1)に従ってノイズ低減画素値INR(p)を算出する。
・・・(式1)
上記式において、
Ωpは、処理対象データ301である入力画素単位(5×5画素)に含まれる画素の集合であり、I(q)はその画素値、I(p)は中心画素p(=W画素)の画素値である。
関数φ(r)は、一般的には指数関数を用いる。しかし、演算量を抑えるために、図7(3)に示すように線形近似した関数としてもよい。
図7(3)に示す線形近似は、閾値としてTh1=2.0、Th2=3.0を設定し、
r=0〜Th1(2.0)→φ(r)=1.0
r=Th1(2.0)〜Th2(3.0)→φ(r)=1.0〜0(線形変化)
r=Th2以上→φ(r)=0
このような設定の線形近似例である。
ノイズ除去部201は、このように、バイラテラルフィルタを適用して入力画素単位(5×5画素)の中心のW画素のノイズ低減画素値INR(p)を上記式(式1)に従って算出する。算出したノイズ低減W画素値(INR(p))は、図6に示す第1画素補間パラメータ算出部(GonW)202に出力される。
なお、図7を参照して説明したバイラテラルフィルタを適用した処理はノイズ除去処理の一例であり、ノイズ除去部201は、図7を参照して説明したバイラテラルフィルタを適用した処理に限らず、その他のノイズ除去方式を用いた構成としてもよい。
(3−2.エッジ検出部の処理について)
次に、エッジ検出部209の処理について説明する。エッジ検出部209は、入力信号であるRGBW配列に含まれる離散的なホワイト(W)信号を検証して、画像に含まれるエッジ情報、例えばエッジ方向とエッジ強度を含むエッジ情報を生成してブレンド処理部211、さらに複数の画素補間パラメータ算出部に出力する。
図8以下を参照してエッジ検出部209の実行するW画素を用いたエッジ方向とエッジ強度の判定方法について説明する。
エッジ検出部209は、入力するRGBW配列181の信号中、ホワイト(W)信号のみを利用して、エッジ方向とエッジ強度を判定する。エッジ検出部209は、入力データに対して7×7画素の領域単位でエッジ検出処理を実行する。エッジ検出部209は、7×7画素の領域を1画素ずつずらしながら順次、エッジ検出処理を実行する。1つの7×7画素領域に対する処理によって7×7画素領域の中心画素に対応するエッジ情報(エッジ方向とエッジ強度)を取得する。各画素対応のエッジ情報は、ブレンド処理部211、および第1〜第5画素補間パラメータ算出部に出力される。
エッジ検出処理には様々な手法が適用可能である。図8、図9を参照してその1つの手法について説明する。以下に説明する方法では、7×7画素領域の中心近傍の4×4画素を利用する。
図8に示すように、処理対象とする7×7画素の中心画素は、
(a)W画素である場合と、
(b)W以外の画素である場合、
これらの2通りがある。なお、図8においてグレーで示す画素がW画素であり、その他はRGBいずれかの画素に対応する。
これら(a),(b)2種類のケースに対して、それぞれ異なる算出式を用いてエッジ方向が、水平、垂直、右斜め上、左斜め上の4方向のいずれであり、またその強度を推定するためのエッジ判定処理を行う。
具体的な処理について図9を参照して説明する。
図9には、
(a)中心画素がW画素の場合
(b)中心画素がW以外の画素の場合
これら(a),(b)の場合におけるエッジ方向およびエッジ強度の判定処理に適用する算出式を示している。適用する算出式は画像の特定方向の画素値の勾配を算出する式であり、以下の各値の算出式である。
gradH:水平方向の勾配絶対値平均
gradV:垂直方向の勾配絶対値平均
gradA:右斜め上方向の勾配絶対値平均
gradD:左斜め上方向の勾配絶対値平均
これらのgradH、gradV、gradA、gradDは、それぞれ異なる方向の画素値の勾配(差分)の絶対値の平均値に相当する。以下、具体的な算出処理について説明する。
(a)中心画素がW画素の場合の処理について
まず、中心画素がW画素の場合の処理について図9(a)を参照して説明する。図9(a)には(a1)〜(a4)に中心画素がW画素の場合のgradH、gradV、gradA、gradDの算出処理例を示している。
二重丸[◎]で示す位置が7×7画素における中心画素位置である。
また、丸[○]で示す位置がエッジ重心位置である。
中心画素がW画素の場合、gradH、gradV、gradA、gradDは以下の算出式(式2)によって算出する。
・・・(式2)
なお、Wxyは、水平方向を(x)、垂直方向を(y)とし、図9に示す4×4画素の左上端画素の座標を(0,0)、右下端の画素座標を(3,3)として設定した座標系におけるxy座標位置のW画素値を示す。
gradHは、水平方向の勾配絶対値平均であり、水平方向に近接するW画素の差分絶対値の平均値に対応する。
図9(a1)に示すように、4×4画素領域の中央部にある2つの水平ラインの水平方向に近接する2つのW画素の差分絶対値の平均値をgradHとして算出する。
gradVは、垂直方向の勾配絶対値平均であり、垂直方向に近接するW画素の差分絶対値の平均値に対応する。
図9(a2)に示すように、4×4画素領域の中央部にある2つの垂直ラインの垂直方向に近接する2つのW画素の差分絶対値の平均値をgradVとして算出する。
gradAは、右斜め上方向の勾配絶対値平均であり、右斜め上方向に近接するW画素の差分絶対値の平均値に対応する。
図9(a3)に示すように、4×4画素領域の中央部にある1つの右斜め上方向ラインの右斜め上方向に近接する2つのW画素の差分絶対値の平均値をgradAとして算出する。
gradDは、左斜め上方向の勾配絶対値平均であり、左斜め上方向に近接するW画素の差分絶対値の平均値に対応する。
図9(a4)に示すように、4×4画素領域の中央部にある1つの左斜め上方向ラインの左斜め上方向に近接する2つのW画素の差分絶対値の平均値をgradDとして算出する。
水平方向の勾配絶対値平均gradHの値が大きい程、垂直方向のエッジ強度が大である可能性が高い。
垂直方向の勾配絶対値平均gradVの値が大きい程、水平方向のエッジ強度が大である可能性が高い。
右斜め上方向の勾配絶対値平均gradAの値が大きい程、左斜め上方向のエッジ強度が大である可能性が高い。
左斜め上方向の勾配絶対値平均gradDの値が大きい程、右斜め上方向のエッジ強度が大である可能性が高い。
このように、gradH、gradV、gradA、gradDの各値の算出値に基づいてエッジ方向とエッジ強度を判定することができる。
(b)中心画素がW画素以外の場合の処理について
次に、中心画素がW画素以外の場合の処理について図9(b)を参照して説明する。図9(b)には(b1)〜(b4)に中心画素がW画素以外の場合のgradH、gradV、gradA、gradDの算出処理例を示している。
二重丸[◎]で示す位置が7×7画素における中心画素位置である。
また、丸[○]で示す位置がエッジ重心位置である。
中心画素がW画素以外の場合、gradH、gradV、gradA、gradDは以下の算出式(式3)によって算出する。
・・・(式3)
なお、Wxyは、水平方向を(x)、垂直方向を(y)とし、図9に示す4×4画素の左上端画素の座標を(0,0)、右下端の画素座標を(3,3)として設定した座標系におけるxy座標位置のW画素値を示す。
gradHは、水平方向の勾配絶対値平均であり、水平方向に近接するW画素の差分絶対値の平均値に対応する。
図9(b1)に示すように、4×4画素領域の中央部にある2つの水平ラインの水平方向に近接する2つのW画素の差分絶対値の平均値をgradHとして算出する。
gradVは、垂直方向の勾配絶対値平均であり、垂直方向に近接するW画素の差分絶対値の平均値に対応する。
図9(b2)に示すように、4×4画素領域の中央部にある2つの垂直ラインの垂直方向に近接する2つのW画素の差分絶対値の平均値をgradVとして算出する。
gradAは、右斜め上方向の勾配絶対値平均であり、右斜め上方向に近接するW画素の差分絶対値の平均値に対応する。
図9(b3)に示すように、4×4画素領域の中央部にある2つの右斜め上方向ラインの右斜め上方向に近接する2つのW画素の差分絶対値の平均値をgradAとして算出する。
gradDは、左斜め上方向の勾配絶対値平均であり、左斜め上方向に近接するW画素の差分絶対値の平均値に対応する。
図9(b4)に示すように、4×4画素領域の中央部にある2つの左斜め上方向ラインの左斜め上方向に近接する2つのW画素の差分絶対値の平均値をgradDとして算出する。
水平方向の勾配絶対値平均gradHの値が大きい程、垂直方向のエッジ強度が大である可能性が高い。
垂直方向の勾配絶対値平均gradVの値が大きい程、水平方向のエッジ強度が大である可能性が高い。
右斜め上方向の勾配絶対値平均gradAの値が大きい程、左斜め上方向のエッジ強度が大である可能性が高い。
左斜め上方向の勾配絶対値平均gradDの値が大きい程、右斜め上方向のエッジ強度が大である可能性が高い。
このように、gradH、gradV、gradA、gradDの各値の算出値に基づいてエッジ方向とエッジ強度を推定することができる。
エッジ検出部209は、このように、gradH、gradV、gradA、gradDの各値に基づいて各画素対応のエッジ情報(エッジ方向とエッジ強度)を取得する。取得したエッジ情報はブレンド処理部211に出力される。
なお、上述のエッジの方向・強度検出方法は一例であり、他のエッジ検出方法を用いた構成としてもよい。例えば、図9を参照して説明したエッジ検出方法は極めて狭い範囲の特定の画素値情報を用いており、ノイズが大きいときには誤判定を起こすことが予想される。この誤判定を防止したエッジ情報の取得処理例について、図10を参照して説明する。
図10に示すエッジ情報取得処理例は、図9を参照して説明した算出値である勾配絶対値平均を加重加算する処理を用いた手法である。図10には、
(1)水平・垂直成分エッジ情報取得処理例
(2)斜め成分エッジ情報取得処理例
これらの各処理例を示している。
図10(1)、(2)には7×7画素の画像データを示している。このデータは、エッジ検出部209が処理対象とするデータであり、図9に示すと同様、W画素値のみが離散的に配列されたデータである。この7×7画素の中心に位置する中心画素に対応するエッジ情報(エッジ方向とエッジ強度)を求める。
図10(1)に示す水平・垂直成分エッジ情報取得処理例について説明する。図10(1)には16個のエッジ重心を示している。これらは、図9(a1),(a2),(b1),(b2)に示すエッジ重心に対応する。すなわち、
gradH:水平方向の勾配絶対値平均
gradV:垂直方向の勾配絶対値平均
これらの値を算出する際のエッジ重心に対応する。
図10(1)に示す7×7画素領域に、図9(a1),(a2),(b1),(b2)に示す4×4画素領域を設定する。設定可能な4×4画素領域は、図に示す左上端の4×4画素領域302から右下端の4×4画素領域304まで16個ある。図10(1)に示す16個のエッジ重心は、これら16個の4×4画素領域に対応するエッジ重心、すなわち、図9(a1),(a2),(b1),(b2)に示すと同様の位置のエッジ重心である。
水平軸をi、垂直軸をjとして、図に示す0,1,2,3のスケールを設定し、エッジ重心の座標位置を(i,j)として表記した場合、エッジ重心(0,0)301は、4×4の画素領域302に対応するエッジ重心となる。4×4の画素領域302を図9(a1),(a2),(b1),(b2)に示す4×4の画素領域とした場合、エッジ重心(0,0)301は、図9(a1),(a2),(b1),(b2)に示す重心に対応する。
また、エッジ重心(3,3)303は、4×4の画素領域304に対応して設定されるエッジ重心である。4×4の画素領域304を図9(a1),(a2),(b1),(b2)に示す4×4の画素領域とした場合、エッジ重心(3,3)303は、図9(a1),(a2),(b1),(b2)に示す重心に対応する。
図10(1)に示す7×7画素領域には、4×4の画素領域とエッジ重心の組が16個設定される。これら16個の組に対して、図9(a1),(a2),(b1),(b2)を参照して説明した算出式を用いることで、
gradH:水平方向の勾配絶対値平均
gradV:垂直方向の勾配絶対値平均
これらの値をそれぞれ16個ずつ算出することができる。
エッジ重心(i,j)に対応する4×4画素領域を用いて算出される勾配絶対値平均(gradH)、(gradV)を、それぞれ、
gradHi,j
gradVi,j
として示す。これらを用いて、勾配絶対値平均の加重加算値、すなわち、
dirH:水平勾配情報
dirV:垂直勾配情報
これらを、以下の算出式(式4)を用いて算出する。
・・・(式4)
上記式においてwijは、(i,j)位置のエッジ重心に対応する重み係数である。重み係数は、例えば図10(1)に示すように、中心部を大きく周辺部を小さくした係数として設定される。図10(1)には重み係数の一例として(4/36)〜(1/36)の重み係数を16個のエッジ重心に対応付けた例を示している。
次に、図10(2)に示す斜め成分エッジ情報取得処理例について説明する。図10(2)には25個のエッジ重心を示している。これらは、図9(a3),(a4),(b3),(b4)に示すエッジ重心に対応する。すなわち、
gradA:右斜め上方向の勾配絶対値平均
gradD:左斜め上方向の勾配絶対値平均
これらの値を算出する際のエッジ重心に対応する。
7×7画素領域に、図9(a3),(a4),(b3),(b4)に示す4×4画素領域を設定する。設定可能な4×4画素領域は、図に示す左上端の4×4画素領域312から右下端の4×4画素領域314まで16個ある。図10(2)に示す25個のエッジ重心中、図10(2)に示す点線矩形枠315内の16個のエッジ重心は、これら16個の4×4画素領域に対応するエッジ重心、すなわち、図9(a3),(a4),(b3),(b4)に示すと同様の位置のエッジ重心である。
水平軸をi、垂直軸をjとして、図に示す0,1,2,3,4のスケールを設定し、エッジ重心の座標位置を(i,j)として表記した場合、エッジ重心(1,1)311は、4×4の画素領域312に対応するエッジ重心となる。4×4の画素領域312を図9(a3),(a4),(b3),(b4)に示す4×4の画素領域とした場合、エッジ重心(1,1)311は、図9(a3),(a4),(b3),(b4)に示す重心に対応する。
また、エッジ重心(4,4)313は、4×4の画素領域314に対応して設定されるエッジ重心である。4×4の画素領域314を図9(a3),(a4),(b3),(b4)に示す4×4の画素領域とした場合、エッジ重心(4,4)313は、図9(a3),(a4),(b3),(b4)に示す重心に対応する。
図10(2)には点線矩形枠315の外側にもエッジ重心を示している。i=0、j=0の位置にある、
(i,j)=(0,0)〜(0,4)と、(1,0)〜(4,0)
これらのエッジ重心である。
図9(a3),(a4),(b3),(b4)に示すように、
gradA:右斜め上方向の勾配絶対値平均
gradD:左斜め上方向の勾配絶対値平均
これらの値を算出する最に利用する画素位置は、エッジ重心周りの8画素のみである。従って、図10(2)に示すi=0、j=0の位置にエッジ重心を設定した場合でも、gradA、gradVを算出することができる。
従って、7×7画素領域を用いて、異なる位置にエッジ重心を設定した算出可能なgradA、gradDは図10(2)に示す25個のエッジ重心位置に対応する25個のデータとなる。
図10(2)に示す7×7画素領域から、図9(a3),(a4),(b3),(b4)を参照して説明した算出式を用いることで、
gradA:右斜め上方向の勾配絶対値平均
gradD:左斜め上方向の勾配絶対値平均
これらの値をそれぞれ25個ずつ算出することができる。
エッジ重心(i,j)に対応する4×4画素領域を用いて算出される勾配絶対値平均(gradA)、(gradD)を、それぞれ、
gradAi,j
gradDi,j
として示す。これらを用いて、勾配絶対値平均の加重加算値、すなわち、
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらを、以下の算出式(式5)を用いて算出する。
・・・(式5)
上記式においてwijは、(i,j)位置のエッジ重心に対応する重み係数である。重み係数は、例えば図10(2)に示すように、中心部を大きく周辺部を小さくした係数として設定される。図10(2)には重み係数の一例として(16/100)〜(1/100)の重み係数を25個のエッジ重心に対応付けた例を示している。
図10を参照して説明した処理によって算出したエッジ情報、すなわち、
dirH:水平勾配情報
dirV:垂直勾配情報
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらのdirH,dirV,dirA,dirDは、7×7画素領域に含まれる多数の画素値(W画素値)を利用して算出されたエッジ情報である。
従って、図9を参照して説明した少数の画素情報を適用して算出したエッジ情報に比較して、ノイズ等による誤った結果を発生させる可能性が低減される。
なお、上記式および図10に示す重み係数wijの設定例は一例であり、他の平均化係数を用いることも可能である。
なお、図10を参照して説明した例は、7×7画素の領域を用いて勾配絶対値平均の加重加算値(dirH,dirV,dirA,dirD)を算出する処理例であるが、例えば、図11に示すように、5×5画素の領域を用いて勾配絶対値平均の加重加算値(dirH,dirV,dirA,dirD)を算出する構成としてもよい。
図11には、図10と同様、
(1)水平・垂直成分エッジ情報取得処理例
(2)斜め成分エッジ情報取得処理例
これらの各処理例を示している。
図11(1)、(2)には5×5画素の画像データを示している。このデータは、エッジ検出部209が処理対象とするデータであり、図9に示すと同様、W画素値のみが離散的に配列されたデータである。この5×5画素の中心に位置する中心画素に対応するエッジ情報(エッジ方向とエッジ強度)を求める。
図11(1)に示す(1)水平・垂直成分エッジ情報取得処理例について説明する。図11(1)に示す5×5画素領域には、4×4の画素領域とエッジ重心の組が4個設定される。これら4個の組に対して、図9(a1),(a2),(b1),(b2)を参照して説明した算出式を用いることで、
gradH:水平方向の勾配絶対値平均
gradV:垂直方向の勾配絶対値平均
これらの値をそれぞれ4個ずつ算出することができる。
エッジ重心(i,j)に対応する4×4画素領域を用いて算出される勾配絶対値平均(gradH)、(gradV)を、それぞれ、
gradHi,j
gradVi,j
として示す。これらを用いて、勾配絶対値平均の加重加算値、すなわち、
dirH:水平勾配情報
dirV:垂直勾配情報
これらを、前述した式(式4)を用いて算出する。
次に、図11(2)に示す斜め成分エッジ情報取得処理例について説明する。図11(2)には9個のエッジ重心を示している。これらは、図9(a3),(a4),(b3),(b4)に示すエッジ重心に対応する。すなわち、
gradA:右斜め上方向の勾配絶対値平均
gradD:左斜め上方向の勾配絶対値平均
これらの値を算出する際のエッジ重心に対応する。
図11(2)に示す5×5画素領域から、図9(a3),(a4),(b3),(b4)を参照して説明した算出式を用いることで、
gradA:右斜め上方向の勾配絶対値平均
gradD:左斜め上方向の勾配絶対値平均
これらの値をそれぞれ9個ずつ算出することができる。
エッジ重心(i,j)に対応する4×4画素領域を用いて算出される勾配絶対値平均(gradA)、(gradD)を、それぞれ、
gradAi,j
gradDi,j
として示す。これらを用いて、勾配絶対値平均の加重加算値、すなわち、
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらを、前述の算出式(式5)を用いて算出する。
このように、勾配絶対値平均の加重加算値(dirH,dirV,dirA,dirD)を算出する処理においては、7×7画素領域、あるいは5×5画素領域など、様々な領域を利用することが可能である。
エッジ検出部209は、このようにして求めたエッジ情報、すなわち、
dirH:水平勾配情報
dirV:垂直勾配情報
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらのエッジ情報(dirH,dirV,dirA,dirD)をブレンド処理部211、および複数の画素補間パラメータ算出部に出力する。
(3−3.テクスチャ検出部の処理について)
次に、テクスチャ検出部210の処理について説明する。テクスチャ検出部210は、入力信号であるRGBW配列に含まれる離散的なホワイト(W)画素を用いてテクスチャの検出処理を実行する。すなわち、各画素対応のテクスチャ情報を検出して検出情報をブレンド処理部211に出力する。

具体的には、各画素の近傍画像領域がテクスチャの多い(平坦度の低い)画像であるか、テクスチャの少ない(平坦度の高い)画像であるかを検出してこの検出情報を各画素対応のテクスチャ情報としてブレンド処理部211に出力する。
テクスチャ検出部210の処理について、図12以下を参照して説明する。
テクスチャ検出部210は、まず、RGBW配列画像を構成する入力画素単位(5×5画素)毎にW画素の平均値Waveを算出する。
W画素平均値Waveの算出処理には例えば平滑化フィルタを用いる。入力画素単位の中心がW画素の場合は、図12に示すような係数を設定したフィルタでW画素の平均値Waveを求め、入力画素単位の中心がW画素でない場合は、図13に示すような係数を設定したフィルタでW画素の平均値Waveを求める。
図12を参照して入力画素単位の中心がW画素の場合の処理について説明する。中心画素がW画素となる5×5画素の入力画素単位321のW画素位置を中心とする9画素中のW画素値に、フィルタ322の対応画素位置のフィルタ係数を乗算する。さらに各乗算結果の加算値を算出する。この加算結果をW信号の平均値Waveとする。この平均値Waveは、入力画素単位321の中心W画素に対する平均値Waveとして算出される。テクスチャ検出部210は、さらにこの画素対応の平均値Waveを用いて、中心W画素に対応するテクスチャ度合いの指標値としての平坦度重み(weightFlat)を算出する。この算出処理については後述する。
なお、図12に示すフィルタ322のフィルタ係数は、5×5画素の入力画素単位321の中心W画素〜周囲W画素について(4/8〜1/8)の設定としてある。このフィルタ係数は一例であり、その他の係数を利用した構成でもよく、いわゆるローパスフィルタであれば係数はこの限りではない。また、9画素より広い領域を利用した構成としてもよい。
次に、図13を参照して入力画素単位の中心がW画素以外の場合の処理について説明する。中心画素がW画素以外となる5×5画素の入力画素単位331の中心画素位置を中心とする9画素中のW画素値に、フィルタ332の対応画素位置のフィルタ係数を乗算する。さらに各乗算結果の加算値を算出する。この加算結果をW信号の平均値Waveとする。算出された平均値Waveは、入力画素単位331の中心画素(RGBのいずれか)に対する平均値Waveとして算出される。
なお、図13に示すフィルタ332のフィルタ係数は、5×5画素の入力画素単位331の中心画素周りの周囲W画素について各々(1/4)の設定としてある。このフィルタ係数は一例であり、その他の係数を利用した構成でもよく、いわゆるローパスフィルタであれば係数はこの限りではない。また、9画素より広い領域を利用した構成としてもよい。
テクスチャ検出部210は、このようにして、入力画素単位の中心画素がW画素であるかW画素以外のRGB画素であるかに応じて、図12に示すフィルタ322、または図13に示すフィルタ332を適用して入力画素単位の中心画素対応のW画素平均値Waveを算出する。
テクスチャ検出部210は、算出したW画素平均値Waveを用いて、中心画素p=(x,y)に対応するテクスチャ度:WTX(p)を以下の算出式(式6)を用いて算出する。
・・・(式6)
上記式(式6)において、
Ωpは、処理対象データである入力画素単位(5×5画素)に含まれる画素の集合、
I(q)はその画素値、
Iave(p)は、図12または図13のフィルタを適用して算出されるW画素平均値(Waveと同一値)、
φ(r)は、予め規定した重み関数、
である。
なお、関数φ(r)は、一般的には指数関数を用いる。しかし、演算量を抑えるために、先に説明した図7(3)に示すような線形近似した関数を利用してもよい。
図7(3)に示す線形近似は、閾値としてTh1=2.0、Th2=3.0を設定し、
r=0〜Th1(2.0)→φ(r)=1.0
r=Th1(2.0)〜Th2(3.0)→φ(r)=1.0〜0(線形変化)
r=Th2以上→φ(r)=0
このような設定の線形近似例である。
さらに、テクスチャ検出部210は、上記式に従って算出した中心画素pに対応するテクスチャ度:WTX(p)を適用して、以下の式(式7)に従って中心画素p=(x,y)に対応する平坦度重み(weightFlat)を算出する。
weightFlat(x,y)=fflat(WTX(p))
・・・(式7)
上記式(式7)において、
flat(r)は、例えば図14に示すような線形近似関数を用いることができる。
図14に示す線形近似関数は、閾値として0<Th0(FLAT_LIMIT0)<Th1(FLAT_LIMIT1)<1を設定し、
r=0〜Th0→fflat(r)=0
r=Th0〜Th1→fflat(r)=0〜1.0(線形変化)
r=Th1以上→fflat(r)=1
このような設定とした線形近似関数である。
なお、平坦度重み(weightFlat)の値が小さいほど、平坦度が低くテクスチャが多い画像領域であり、平坦度重み(weightFlat)の値が大きいほど、平坦度が高くテクスチャが少ない画像領域である可能性が高いことを示す。
テクスチャ検出部210は、このようにして算出した平坦度重み(weightFlat)をブレンド処理部211に出力する。
(3−4.画素補間パラメータ算出部の処理について)
次に、図6のデータ変換処理部200内の第1〜第5画素補間パラメータ算出部202,204,205,207,208、および、第1〜第2仮画素設定部203,206の処理について説明する。これらの各部は以下の処理を実行する。
第1画素補間パラメータ算出部(GonW)202は、W画素をG画素に変換する処理に適用するパラメータの算出処理を実行する。
第1仮画素設定部(RBonWaroundG)203は、G画素に隣接するW画素位置をR画素またはB画素に変換する処理の事前処理としてG画素周囲のW画素をRまたはB画素の仮画素(R')(B')に変換する処理を実行する。
第2画素補間パラメータ算出部(RBonGofHV)204は、G画素をR画素、またはB画素に変換する処理に適用するパラメータとして、縦または横エッジ対応のパラメータを算出する。
第3画素補間パラメータ算出部(RBonGofAD)205は、G画素をR画素、またはB画素に変換する処理に適用するパラメータとして、斜めエッジ対応のパラメータを算出する。
第2仮画素設定部(RBonWaroundRB)206は、R画素またはB画素に隣接するW画素位置をR画素またはB画素に変換する処理の事前処理としてRまたはB画素周囲のW画素をRまたはB画素の仮画素(R')(B')に変換する処理を実行する
第4画素補間パラメータ算出部(RBonRBofHV)207は、R画素をR画素に、またはB画素をB画素に変換する処理に適用するパラメータとして、縦または横エッジ対応のパラメータを算出する。
第5画素補間パラメータ算出部(RBonRBofAD)208は、R画素をR画素に、またはB画素をB画素に変換する処理に適用するパラメータとして、斜めエッジ対応のパラメータを算出する。
(3−4−1.第1画素補間パラメータ算出部(GonW)202の処理)
まず、第1画素補間パラメータ算出部(GonW)202の処理について説明する。第1画素補間パラメータ算出部(GonW)202は、RGBW配列181のW画素位置に設定するG画素値の算出に適用する補間パラメータを算出する。
なお、第1画素補間パラメータ算出部(GonW)202は、7×7または5×5の画素領域を処理単位(入力画素単位)として処理を行う。
まず、7×7の画素領域を処理単位(入力画素単位)として処理を行う場合について図15以下を参照して説明する。
第1画素補間パラメータ算出部(GonW)202は、まず、処理単位の7×7画素領域におけるW信号の低周波成分mWを求める。
図15に示すように、7×7画素の入力画素単位401に対して図15に示すフィルタ411を適用して、7×7画素の入力画素単位401に対応する低周波成分mWを算出する。ここでG画素に変換する対象となるW画素は、7×7画素の入力画素単位401の中心にある変換対象画素402である。図15に示す入力画素単位401においてグレーで示す画素がW画素である。その他はRGB画素である。同様に、図15に示すフィルタ411においてグレーで示す画素がW画素対応位置である。その他はRGB画素対応位置である。なお、以下の図面においてもW画素またはW画素対応位置はグレーで示し、RGB画素位置または対応位置は白で示す。
フィルタ411は、変換対象画素対応位置412のフィルタ係数が最も高く、周囲に離れるに従って係数を低く設定したフィルタである。係数として(8/52〜1/52)の各係数を設定している。このフィルタ411を適用して、低周波成分mWを算出する。7×7画素の入力画素単位401のW画素位置の画素値に、フィルタ411の対応画素位置のフィルタ係数を乗算して、各乗算結果の加算値をW信号の低周波成分mWとして算出する。
なお、図15に示すフィルタ411のフィルタ係数設定例は一例であり、この他のフィルタ係数を設定したフィルタを適用してもよい。図15に示すフィルタ例の他、例えばローパス特性を持つ他の平滑化フィルタを用いることも可能である。
次に、図16、図17を参照してG信号の低周波成分mGの算出処理について説明する。G信号の低周波成分mGの算出処理においては、7×7画素の入力画素単位401の構成およびエッジ方向に応じて異なるフィルタを適用する。
具体的には、図16、図17に示すように、
(a)入力画素単位401の中心W画素の左にG画素があり、エッジ方向が横(h)方向の場合
(b)入力画素単位401の中心W画素の左にG画素があり、エッジ方向が縦(v)方向の場合
(c)入力画素単位401の中心W画素の右にG画素があり、エッジ方向が横(h)方向の場合
(d)入力画素単位401の中心W画素の右にG画素があり、エッジ方向が縦(v)方向の場合
これらの4種類のパターンに応じて、図16、図17に示すフィルタ421,422,425,426を使い分ける。
これらのフィルタの適用により、7×7画素の入力信号401に対応する低周波成分mGを算出する。ここでG画素に変換する対象となるW画素は、7×7画素の入力信号401の中心にある変換対象画素402である。
(a)入力画素単位401の中心W画素の左にG画素があり、エッジ方向が横(h)方向の場合は、図16(a)に示すような係数設定のフィルタ421を適用して、G信号の低周波成分mG_hを算出する。フィルタ係数を示す数値を示している画素がG画素対応位置である。フィルタ421の中心は、変換対象画素対応位置423である。
(b)入力画素単位401の中心W画素の左にG画素があり、エッジ方向が縦(v)方向の場合は、図16(b)に示すような係数設定のフィルタ422を適用して、G信号の低周波成分mG_vを算出する。フィルタ係数を示す数値を示している画素がG画素対応位置である。フィルタ422の中心は、変換対象画素対応位置424である。
(c)入力画素単位401の中心W画素の右にG画素があり、エッジ方向が横(h)方向の場合は、図17(c)に示すような係数設定のフィルタ425を適用して、G信号の低周波成分mG_hを算出する。フィルタ係数を示す数値を示している画素がG画素対応位置である。フィルタ425の中心は、変換対象画素対応位置427である。
(d)入力画素単位401の中心W画素の右にG画素があり、エッジ方向が縦(v)方向の場合は、図17(d)に示すような係数設定のフィルタ426を適用して、G信号の低周波成分mG_vを算出する。フィルタ係数を示す数値を示している画素がG画素対応位置である。フィルタ426の中心は、変換対象画素対応位置428である。
適用するフィルタのいずれも、変換対象画素対応位置に近いG画素対応位置のフィルタ係数が最も高く、周囲に離れるに従って係数を低く設定したフィルタとして設定される。係数として(1/20〜4/20)の各係数を設定している。これらのフィルタ421,422,425,426のいずれかを適用して、低周波成分mGを算出する。7×7画素の入力画素単位401のG画素位置の画素値に、フィルタ421,422,425,426のいずれかのフィルタ係数を乗算して、各乗算結果の加算値をG信号の低周波成分mGとして算出する。
なお、図16、図17に示すフィルタ421,422,425,426のフィルタ係数設定例は一例であり、この他のフィルタ係数を設定したフィルタを適用してもよい。
第1画素補間パラメータ算出部202は、このように、G画素への変換対象となるW画素を中心画素として持つ7×7画素領域を処理単位として、W信号とG信号の低周波成分mWおよびmGを算出する。
このようにして算出されたmWとmGの比率が画像内の局所領域において保たれると仮定する。この仮定に従うと、局所領域におけるWとGの画素値比率の対応関係は図18のグラフに示す対応関係となる。図18のグラフは横軸がW画素値、縦軸がG画素値である。画像の特定の狭い局所領域では、このW画素値とG画素値の比率は一定であるとすると、図18に示す直線(ラインL1)のような比例関係にあると仮定できる。
この仮定に従うと、入力画素単位401の中心W画素、すなわち、変換対象画素位置のW信号の画素値をwとした場合、その変換対象画素位置に設定すべきG信号の画素値GonWは、以下の式に従って算出できる。
GonW=(mG/mW)w
これは、W画素値とG画素値の局所領域では比率が一定であることを仮定した画素値推定方法である。
なお、mWは、図15を参照して説明した処理によって算出されるW信号の低周波成分mWである。
mGは、図16、図17を参照して説明した処理によって算出されるG信号の低周波成分mGである。mGは、入力画素単位401の構成、エッジ方向に応じて異なる値が適用される。
図18に示す直線(ラインL1)は、W画素値とG画素値の局所領域では比率が一定であることの仮定に基づくラインである。画素値変換処理に際してコントラスト強調処理を実行する場合は、図18に示す直線(ラインL2)のようなラインを適用してもよい。kは、コントラスト強調処理調整パラメータである。
コントラスト強調処理を適用する場合の変換対象W画素に設定するG画素の画素値は以下のように算出する。
変換対象画素位置のW信号の画素値をw、変換対象画素位置に設定すべきG信号の画素値をGonWとする。変換後のG画素値GonWは以下の式に従って算出できる。
GonW=fcontrast(mG,mW,w,k)
contrast(mG,mW,w,k)
=k(mG/mW)(w−mW)+mG)・・・(≧0)
=0・・・(<0)
なお、kはコントラスト強調処理調整パラメータ(k=1でコントラスト強調なし)である。
mWは、図15を参照して説明した処理によって算出されるW信号の低周波成分mWである。
mGは、図16、図17を参照して説明した処理によって算出されるG信号の低周波成分mGである。mGは、入力画素単位401の構成、エッジ方向に応じて異なる値(mG_h,mG_v)が適用される。
第1画素補間パラメータ算出部202は、RGBW配列におけるW画素をG画素に変換するために適用する補間パラメータとして、以下のパラメータを算出する。
(a)GonW(H)=(mG_h/mW)w
(b)GonW(V)=(mG_v/mW)w
(c)GonWn(H)=(mG_h/mW)w
(d)GonWn(V)=(mG_v/mW)w
なお、
(a)GonW(H)=(mG_h/mW)w
(b)GonW(V)=(mG_v/mW)w
これらは、コントラスト強調を適用して算出する値である。
一方、
(c)GonWn(H)=(mG_h/mW)w
(d)GonWn(V)=(mG_v/mW)w
これらは、コントラスト強調を適用しないで算出する値である。
第1画素補間パラメータ算出部202は、これらの補間パラメータを算出してブレンド処理部211に出力する。
ブレンド処理部は、これらのパラメータを適用したブレンド処理を実行して、最終的なG画素値、すなわちRGBW配列におけるW画素位置に設定するG画素値を決定する。このブレンド処理については後述する。
なお、第1画素補間パラメータ算出部(GonW)202は、前述したように7×7または5×5の画素領域を処理単位(入力画素単位)として処理を行う。上述した説明は7×7の画素領域を処理単位(入力画素単位)として処理を行う場合についての説明であったが、5×5の画素領域を処理単位(入力画素単位)として処理を行う場合は、W信号の低周波成分mWの算出および、G信号の低周波成分mGの算出に適用するフィルタの設定が異なる、
5×5の画素領域を処理単位(入力画素単位)として処理を行う場合の、W信号の低周波成分mWの算出および、G信号の低周波成分mGの算出に適用するフィルタの構成例を図19〜図21を参照して説明する。
図19に示すように、5×5画素の入力画素単位431に対して図19に示すフィルタ441を適用して、5×5画素の入力画素単位431に対応する低周波成分mWを算出する。G画素に変換する対象となるW画素は、5×5画素の入力画素単位431の中心にある変換対象画素432である。図19に示す入力画素単位431においてグレーで示す画素がW画素である。その他はRGB画素である。同様に、図19に示すフィルタ441においてグレーで示す画素がW画素対応位置である。その他はRGB画素対応位置である。
フィルタ441は、変換対象画素対応位置442のフィルタ係数が最も高く、周囲に離れるに従って係数を低く設定したフィルタである。係数として(4/32〜1/32)の各係数を設定している。このフィルタ441を適用して、低周波成分mWを算出する。5×5画素の入力画素単位431のW画素位置の画素値に、フィルタ441の対応画素位置のフィルタ係数を乗算して、各乗算結果の加算値をW信号の低周波成分mWとして算出する。
なお、図19に示すフィルタ441のフィルタ係数設定例は一例であり、この他のフィルタ係数を設定したフィルタを適用してもよい。図19に示すフィルタ例の他、例えばローパス特性を持つ他の平滑化フィルタを用いることも可能である。
次に、図20、図21を参照してG信号の低周波成分mGの算出処理について説明する。
(a)入力画素単位431の中心W画素の左にG画素があり、エッジ方向が横(h)方向の場合は、図20(a)に示すような係数設定のフィルタ451を適用して、G信号の低周波成分mG_hを算出する。フィルタ係数を示す数値を示している画素がG画素対応位置である。フィルタ451の中心は、変換対象画素対応位置453である。
(b)入力画素単位431の中心W画素の左にG画素があり、エッジ方向が縦(v)方向の場合は、図20(b)に示すような係数設定のフィルタ452を適用して、G信号の低周波成分mG_vを算出する。フィルタ係数を示す数値を示している画素がG画素対応位置である。フィルタ452の中心は、変換対象画素対応位置454である。
(c)入力画素単位431の中心W画素の右にG画素があり、エッジ方向が横(h)方向の場合は、図21(c)に示すような係数設定のフィルタ455を適用して、G信号の低周波成分mG_hを算出する。フィルタ係数を示す数値を示している画素がG画素対応位置である。フィルタ455の中心は、変換対象画素対応位置457である。
(d)入力画素単位431の中心W画素の右にG画素があり、エッジ方向が縦(v)方向の場合は、図21(d)に示すような係数設定のフィルタ456を適用して、G信号の低周波成分mG_vを算出する。フィルタ係数を示す数値を示している画素がG画素対応位置である。フィルタ456の中心は、変換対象画素対応位置458である。
適用するフィルタのいずれも、変換対象画素対応位置に近いG画素対応位置のフィルタ係数が最も高く、周囲に離れるに従って係数を低く設定したフィルタとして設定される。係数として(1/8〜2/8)の各係数を設定している。これらのフィルタ451,452,455,456のいずれかを適用して、低周波成分mGを算出する。5×5画素の入力画素単位431のG画素位置の画素値に、フィルタ451,452,455,456のいずれかのフィルタ係数を乗算して、各乗算結果の加算値をG信号の低周波成分mGとして算出する。
なお、図20、図21に示すフィルタ451,452,455,456のフィルタ係数設定例は一例であり、この他のフィルタ係数を設定したフィルタを適用してもよい。
5×5画素領域を処理単位とした場合、第1画素補間パラメータ算出部202は、このように、G画素への変換対象となるW画素を中心画素として持つ5×5画素領域を処理単位として、W信号とG信号の低周波成分mWおよびmGを算出する。
W信号とG信号の低周波成分mWおよびmG算出後の処理は、前述の7×7の処理単位とした場合と同様である。すなわち、第1画素補間パラメータ算出部202は、RGBW配列におけるW画素をG画素に変換するために適用する補間パラメータとして、以下のパラメータを算出する。
(a)GonW(H)=(mG_h/mW)w
(b)GonW(V)=(mG_v/mW)w
(c)GonWn(H)=(mG_h/mW)w
(d)GonWn(V)=(mG_v/mW)w
(3−4−2.第1仮画素設定部(RBonWaroundG)203の処理)
次に、第1仮画素設定部(RBonWaroundG)203の処理について説明する。第1仮画素設定部(RBonWaroundG)203は、図6に示す構成図から理解されるように、第2画素補間パラメータ算出部(RBonGofHV)204と、第3画素補間パラメータ算出部(RBonGofAD)205の前段に設定されている。
第2画素補間パラメータ算出部(RBonGofHV)204と、第3画素補間パラメータ算出部(RBonGofAD)205はいずれもG画素をRまたはB画素に変換するためのパラメータを算出する。第1仮画素設定部(RBonWaroundG)203は、これらの処理に先行して、RB画素に隣接するW画素位置を仮のR画素(R')またはB画素(B')に変換する処理を実行する。
第1仮画素設定部(RBonWaroundG)203は、まず、処理単位の5×5画素領域におけるW信号の低周波成分mW、R信号の低周波成分R'、B信号の低周波成分B'を求める。
図22に示すように、5×5画素の入力画素単位501に対して図22に示すフィルタ511〜513を適用して、5×5画素の入力画素単位501に対応するW信号の低周波成分mW、R信号の低周波成分R'、B信号の低周波成分B'を求める。5×5画素の入力画素単位501の中心画素が変換対象画素である。この場合は、入力画素単位501は、第2画素補間パラメータ算出部(RBonGofHV)204と、第3画素補間パラメータ算出部(RBonGofAD)205に対する入力であり、これらは、G画素をRまたはB画素に変換するためのパラメータを算出する処理部であるので、入力画素単位501の中心画素はG画素である。
フィルタ511は係数設定部がW画素対応位置であり、係数として(1/16〜2/16)の各係数を設定している。5×5画素の入力画素単位501のW画素位置の画素値に、フィルタ511の対応画素位置のフィルタ係数を乗算して、各乗算結果の加算値をW信号の低周波成分mWとして算出する。
フィルタ512は係数設定部がR画素対応位置であり、係数として(1/4)の各係数を設定している。5×5画素の入力画素単位501のR画素位置の画素値に、フィルタ512の対応画素位置のフィルタ係数を乗算して、各乗算結果の加算値をR信号の低周波成分mR'として算出する。
フィルタ513は係数設定部がB画素対応位置であり、係数として(1/4)の各係数を設定している。5×5画素の入力画素単位501のB画素位置の画素値に、フィルタ513の対応画素位置のフィルタ係数を乗算して、各乗算結果の加算値をB信号の低周波成分mB'として算出する。
次に、第1仮画素設定部(RBonWaroundG)203は、図23に示すように、5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のR画素値とB画素値を推定する。
図23に示すように、5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置は4つある。これらのW画素位置のR画素値とB画素値を推定する。推定処理は、先に図18を参照して説明したように、mWとmR'、またはmWとmB'の比率が画像内の局所領域において保たれるとの仮定に基づいて行う。
このような過程に基づくと、図23に示す5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のR画素値(Rxy'=R12',R21',R32',R23')は以下のように推定することができる。
12'=(mR'/mW)w12
21'=(mR'/mW)w21
32'=(mR'/mW)w32
23'=(mR'/mW)w23
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のW画素値である。
同様に、図23に示す5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のB画素値(Bxy'=B12',B21',B32',B23')は以下のように推定することができる。
12'=(mB'/mW)w12
21'=(mB'/mW)w21
32'=(mB'/mW)w32
23'=(mB'/mW)w23
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のW画素値である。
このように、第1仮画素設定部(RBonWaroundG)203は、5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のR画素値とB画素値を推定して、これらを第2画素補間パラメータ算出部(RBonGofHV)204と、第3画素補間パラメータ算出部(RBonGofAD)205に提供する。
(3−4−3.第2画素補間パラメータ算出部(RBonGofHV)204の処理)
次に、第2画素補間パラメータ算出部(RBonGofHV)204の処理について説明する。第2画素補間パラメータ算出部(RBonGofHV)204は、G画素をR画素、またはB画素に変換する処理に適用するパラメータとして、縦または横エッジ対応のパラメータを算出する。
エッジ検出部209は、前述したように、
dirH:水平勾配情報
dirV:垂直勾配情報
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらのエッジ情報(dirH,dirV,dirA,dirD)を、各画素対応のエッジ情報として生成する。第2画素補間パラメータ算出部(RBonGofHV)204は、変換対象とするG画素対応のこれらのエッジ情報を入力する。
第2画素補間パラメータ算出部(RBonGofHV)204は、変換対象とするG画素対応の4方向のエッジ情報(dirH,dirV,dirA,dirD)のdirHとdirVを比較して、比較結果に応じて縦または横エッジ対応のパラメータを算出する。算出するパラメータは、G画素をR画素、またはB画素に変換する補間パラメータである。
第2画素補間パラメータ算出部(RBonGofHV)204は、まず、処理単位の5×5画素領域におけるW信号の低周波成分mW、R信号の低周波成分mR、B信号の低周波成分mBを求める。これらの算出処理について図24を参照して説明する。
図24に示すように、5×5画素の入力画素単位501に対して図24に示すフィルタ521を適用して、5×5画素の入力画素単位501に対応するW信号の低周波成分mWを算出する。ここでRまたはB画素に変換する対象となるG画素は、5×5画素の入力画素単位501の中心にある変換対象画素502である。なお、この処理は、先に図22を参照して説明した第1仮画素設定部(RBonWaroundG)203の処理と同じ処理である。従って第1仮画素設定部(RBonWaroundG)203で算出したW信号の低周波成分mWを受領する設定としてもよい。
第2画素補間パラメータ算出部(RBonGofHV)204は、さらに、処理単位の5×5画素領域におけるR信号の低周波成分mR、B信号の低周波成分mBを求める。この処理においては、第1仮画素設定部(RBonWaroundG)203で算出した5×5画素の入力画素単位501の中心の変換対象画素502の周囲に隣接するW画素位置のR画素値とB画素値の推定値が利用される。
第1仮画素設定部(RBonWaroundG)203で算出したR画素値推定値を設定したデータ502に対して、図24に示すフィルタ522を適用して、5×5画素の入力画素単位501に対応するR信号の低周波成分mRを算出する。
フィルタ522は、フィルタ係数として(3/16〜1/16)が設定されている。係数(1/16)の設定位置は、当初の5×5画素の入力画素単位501におけるR画素位置に対応する。係数(3/16)の設定位置は、当初の5×5画素の入力画素単位501におけるW画素位置に対応し、第1仮画素設定部(RBonWaroundG)203でR画素値を推定した位置に対応する。
同様に、第1仮画素設定部(RBonWaroundG)203で算出したB画素値推定値を設定したデータ503に対して、図24に示すフィルタ523を適用して、5×5画素の入力画素単位501に対応するB信号の低周波成分mBを算出する。
フィルタ522は、フィルタ係数として(3/16〜1/16)が設定されている。係数(1/16)の設定位置は、当初の5×5画素の入力画素単位501におけるB画素位置に対応する。係数(3/16)の設定位置は、当初の5×5画素の入力画素単位501におけるW画素位置に対応し、第1仮画素設定部(RBonWaroundG)203でB画素値を推定した位置に対応する。
第2画素補間パラメータ算出部(RBonGofHV)204は、このようにして、処理単位の5×5画素領域におけるW信号の低周波成分mW、R信号の低周波成分mR、B信号の低周波成分mBを求める。
次に、第2画素補間パラメータ算出部(RBonGofHV)204は、5×5画素の入力画素単位501のエッジ方向に応じて、5×5画素の入力画素単位501の中央位置にある変換対象画素502のW画素値を推定する。エッジ方向情報は、エッジ検出部209から入力する。
エッジ検出部209から入力するdirH(水平勾配情報)と、dirV(垂直勾配情)の大小を比較して、5×5画素の入力画素単位501のエッジ方向が横方向であるか縦方向であるか、エッジ方向が特定できない平坦領域であるかを判別する。例えば予め設定した閾値を利用して判別処理を行う。なお、5×5画素の入力画素単位501の中央位置にある変換対象画素502は元々G画素である。
5×5画素の入力画素単位501の中央位置にある変換対象画素502のW画素値を推定する処理について図25を参照して説明する。
5×5画素の入力画素単位501のエッジ方向が横方向である場合は、
図25(a)に示すように、フィルタ531を適用して、中央位置の変換対象画素502の横に隣接する2つのW画素の画素値の平均を算出して、変換対象画素502のW画素値(W_h)とする。
5×5画素の入力画素単位501のエッジ方向が縦方向である場合は、
図25(b)に示すように、フィルタ532を適用して、中央位置の変換対象画素502の縦に隣接する2つのW画素の画素値の平均を算出して、変換対象画素502のW画素値(W_v)とする。
5×5画素の入力画素単位501が平坦領域である場合は、
図25(c)に示すように、フィルタ533を適用して、中央位置の変換対象画素502の縦横に隣接する4つのW画素の画素値の平均を算出して、変換対象画素502のW画素値(W_n)とする。
なお、図25の右端には、処理対象となる5×5画素の入力画素単位501のエッジ例を表現したイメージ図を示している。
次に、第2画素補間パラメータ算出部(RBonGofHV)204は、G画素をR画素、またはB画素に変換する処理に適用するパラメータとして、縦または横エッジ対応のパラメータを算出する。
まず、G画素をR画素に変換する処理に適用するパラメータとして以下のパラメータを算出する。
RonG(H)=(mR/mW)(w_h)
RonG(V)=(mR/mW)(w_v)
RonGn=(mR/mW)(w_n)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位501の中央位置にある変換対象画素502であるG画素位置をR画素に変換する際にR画素値を決定する処理に適用される。ブレンド処理部211の処理については後段で説明する。
G画素をB画素に変換する処理に適用するパラメータとしては以下のパラメータを算出する。
BonG(H)=(mB/mW)(w_h)
BonG(V)=(mB/mW)(w_v)
BonGn=(mB/mW)(w_n)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位501の中央位置にある変換対象画素502であるG画素位置をB画素に変換する際にB画素値を決定する処理に適用される。
第2画素補間パラメータ算出部(RBonGofHV)204は、このように、G画素をR画素、またはB画素に変換する処理に適用するパラメータとして、縦または横エッジ対応のパラメータ、すなわち、
RonG(H)=(mR/mW)(w_h)
RonG(V)=(mR/mW)(w_v)
RonGn=(mR/mW)(w_n)
BonG(H)=(mB/mW)(w_h)
BonG(V)=(mB/mW)(w_v)
BonGn=(mB/mW)(w_n)
これらのパラメータを算出してブレンド処理部211に出力する。
(3−4−4.第3画素補間パラメータ算出部(RBonGofAD)205の処理)
次に、第3画素補間パラメータ算出部(RBonGofAD)205の処理について説明する。第3画素補間パラメータ算出部(RBonGofAD)205は、G画素をR画素、またはB画素に変換する処理に適用するパラメータとして、斜めエッジ対応のパラメータを算出する。
エッジ検出部209は、前述したように、
dirH:水平勾配情報
dirV:垂直勾配情報
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらのエッジ情報(dirH,dirV,dirA,dirD)を、各画素対応のエッジ情報として生成する。第3画素補間パラメータ算出部(RBonGofAD)205は、変換対象とするG画素対応のこれらのエッジ情報を入力する。
第3画素補間パラメータ算出部(RBonGofAD)205は、変換対象とするG画素対応の4方向のエッジ情報(dirH,dirV,dirA,dirD)のdirAとdirDを比較して、比較結果に応じた異なる処理を実行して斜めエッジ対応のパラメータを算出する。算出するパラメータは、G画素をR画素、またはB画素に変換する補間パラメータである。
第3画素補間パラメータ算出部(RBonGofAD)205は、まず、処理単位の5×5画素領域におけるW信号の低周波成分mW、R信号の低周波成分mR、B信号の低周波成分mBを求める。これらの算出処理は、第2画素補間パラメータ算出部(RBonGofHV)204と同様の処理であり、先に図24を参照して説明した処理と同一であるので、説明を省略する。
第3画素補間パラメータ算出部(RBonGofAD)205は、5×5画素の入力画素単位501のエッジ方向に応じて、5×5画素の入力画素単位501の中央位置にある変換対象画素502のW画素値を推定する。エッジ方向情報は、エッジ検出部209から入力する。
エッジ検出部209から入力するdirA(右斜め上方向勾配情報)と、dirD(左斜め上方向勾配情報)の大小を比較して、5×5画素の入力画素単位501のエッジ方向が右斜め上方向であるか左斜め上方向であるか、エッジ方向が特定できない平坦領域であるかを判別する。例えば予め設定した閾値を利用して判別処理を行う。なお、5×5画素の入力画素単位501の中央位置にある変換対象画素502は元々G画素である。
5×5画素の入力画素単位501の中央位置にある変換対象画素502のW画素値を推定する処理について図26を参照して説明する。
5×5画素の入力画素単位501のエッジ方向が左斜め上方向である場合は、図26(a)に示すように、フィルタ541を適用して、中央位置の変換対象画素502の左斜め上から右斜め下方向の8つのW画素の画素値を適用して、変換対象画素502のW画素値(W_d)とする。
5×5画素の入力画素単位501のエッジ方向が右斜め上方向である場合は、図26(b)に示すように、フィルタ542を適用して、中央位置の変換対象画素502の右斜め上から左斜め下方向の8つのW画素の画素値を適用して、変換対象画素502のW画素値(W_a)とする。
なお、図26の右端には、処理対象となる5×5画素の入力画素単位501のエッジ例を表現したイメージ図を示している。
次に、第3画素補間パラメータ算出部(RBonGofAD)205は、G画素をR画素、またはB画素に変換する処理に適用するパラメータとして、斜めエッジ対応のパラメータを算出する。
まず、G画素をR画素に変換する処理に適用するパラメータとして以下のパラメータを算出する。
RonG(A)=(mR/mW)(w_a)
RonG(D)=(mR/mW)(w_d)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位501の中央位置にある変換対象画素502であるG画素位置をR画素に変換する際にR画素値を決定する処理に適用される。ブレンド処理部211の処理については後段で説明する。
G画素をB画素に変換する処理に適用するパラメータとしては以下のパラメータを算出する。
BonG(A)=(mB/mW)(w_a)
BonG(D)=(mB/mW)(w_d)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位501の中央位置にある変換対象画素502であるG画素位置をB画素に変換する際にB画素値を決定する処理に適用される。
第3画素補間パラメータ算出部(RBonGofAD)205は、このように、斜めエッジ上のG画素をR画素、またはB画素に変換する処理に適用するパラメータ、すなわち、
RonG(A)=(mR/mW)(w_a)
RonG(D)=(mR/mW)(w_d)
BonG(A)=(mB/mW)(w_a)
BonG(D)=(mB/mW)(w_d)
これらのパラメータを算出してブレンド処理部211に出力する。
(3−4−5.第2仮画素設定部(RBonWaroundRB)206の処理)
次に、第2仮画素設定部(RBonWaroundRB)206の処理について説明する。第2仮画素設定部(RBonWaroundRB)206は、図6に示す構成図から理解されるように、第4画素補間パラメータ算出部(RBonRBofHV)207と、第5画素補間パラメータ算出部(RBonRBofAD)208の前段に設定されている。
第4画素補間パラメータ算出部(RBonRBofHV)207と、第5画素補間パラメータ算出部(RBonRBofAD)208はいずれもRまたはB画素を同じRまたはB画素に変換(補正)するためのパラメータを算出する。第2仮画素設定部(RBonWaroundRB)206は、これらの処理に先行して、RB画素に隣接するW画素位置を仮のR画素(R')またはB画素(B')に変換する処理を実行する。
第2仮画素設定部(RBonWaroundRB)206は、まず、処理単位の5×5画素領域におけるW信号の低周波成分mW、R信号の低周波成分R'、B信号の低周波成分B'を求める。
図27に示すように、5×5画素の入力画素単位601に対して図27に示すフィルタ611〜613を適用して、5×5画素の入力画素単位601に対応するW信号の低周波成分mW、R信号の低周波成分R'、B信号の低周波成分B'を求める。5×5画素の入力画素単位601の中心画素が変換対象画素である。この場合は、入力画素単位601は、第4画素補間パラメータ算出部(RBonRBofHV)207と、第5画素補間パラメータ算出部(RBonRBofAD)208に対する入力であり、これらは、RまたはB画素を、RまたはB画素に変換(補正)するためのパラメータを算出する処理部であるので、入力画素単位601の中心画素はRまたはB画素である。
フィルタ611は係数設定部がW画素対応位置であり、係数として(1/16〜2/16)の各係数を設定している。5×5画素の入力画素単位501のW画素位置の画素値に、フィルタ511の対応画素位置のフィルタ係数を乗算して、各乗算結果の加算値をW信号の低周波成分mWとして算出する。
フィルタ612は入力画素単位601の中心画素がR画素のときに適用する。係数設定部がR画素対応位置であり、係数として(1/8〜4/8)の各係数を設定している。5×5画素の入力画素単位601のR画素位置の画素値に、フィルタ612の対応画素位置のフィルタ係数を乗算して、各乗算結果の加算値をR信号の低周波成分mR'として算出する。
フィルタ613は入力画素単位601の中心画素がR画素のときに適用する。係数設定部がB画素対応位置であり、係数として(1/8〜4/8)の各係数を設定している。5×5画素の入力画素単位601のB画素位置の画素値に、フィルタ613の対応画素位置のフィルタ係数を乗算して、各乗算結果の加算値をB信号の低周波成分mB'として算出する。
次に、第2仮画素設定部(RBonWaroundRB)206は、図28に示すように、5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のR画素値とB画素値を推定する。
図28に示すように、5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置は4つある。これらのW画素位置のR画素値とB画素値を推定する。推定処理は、先に図18を参照して説明したように、mWとmR'、またはmWとmB'の比率が画像内の局所領域において保たれるとの仮定に基づいて行う。
このような過程に基づくと、図28に示す5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のR画素値(Rxy'=R12',R21',R32',R23')は以下のように推定することができる。
12'=(mR'/mW)w12
21'=(mR'/mW)w21
32'=(mR'/mW)w32
23'=(mR'/mW)w23
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のW画素値である。
同様に、図28に示す5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のB画素値(Bxy'=B12',B21',B32',B23')は以下のように推定することができる。
12'=(mB'/mW)w12
21'=(mB'/mW)w21
32'=(mB'/mW)w32
23'=(mB'/mW)w23
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のW画素値である。
このように、第2仮画素設定部(RBonWaroundRB)206は、5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のR画素値とB画素値を推定して、これらを第4画素補間パラメータ算出部(RBonRBofHV)207と、第3画素補間パラメータ算出部(RBonRBofAD)208に提供する。
(3−4−6.第4画素補間パラメータ算出部(RBonRBofHV)207の処理)
次に、第4画素補間パラメータ算出部(RBonRBofHV)207の処理について説明する。第4画素補間パラメータ算出部(RBonRBofHV)207は、R画素をR画素に、またはB画素をB画素に変換する処理に適用するパラメータとして、縦または横エッジ対応のパラメータを算出する。
エッジ検出部209は、前述したように、
dirH:水平勾配情報
dirV:垂直勾配情報
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらのエッジ情報(dirH,dirV,dirA,dirD)を、各画素対応のエッジ情報として生成する。第4画素補間パラメータ算出部(RBonRBofHV)207は、変換対象とするRまたはB画素対応のこれらのエッジ情報を入力する。
第4画素補間パラメータ算出部(RBonRBofHV)207は、変換対象とするR/B画素対応の4方向のエッジ情報(dirH,dirV,dirA,dirD)のdirHとdirVを比較して、比較結果に応じて縦または横エッジ対応のパラメータを算出する。算出するパラメータは、R画素をR画素に、またはB画素をB画素に変換する処理に適用するパラメータである。
第4画素補間パラメータ算出部(RBonRBofHV)207は、まず、処理単位の5×5画素領域におけるW信号の低周波成分mW、R信号の低周波成分mR、B信号の低周波成分mBを求める。これらの算出処理について図29を参照して説明する。
図29に示すように、5×5画素の入力画素単位601に対して図29に示すフィルタ621を適用して、5×5画素の入力画素単位501に対応するW信号の低周波成分mWを算出する。ここでRまたはB画素に変換する対象となるRまたはB画素は、5×5画素の入力画素単位601の中心にある変換対象画素602である。なお、この処理は、先に図27を参照して説明した第2仮画素設定部(RBonWaroundRB)206の処理と同じ処理である。従って第2仮画素設定部(RBonWaroundRB)206で算出したW信号の低周波成分mWを受領する設定としてもよい。
第4画素補間パラメータ算出部(RBonRBofHV)207は、さらに、処理単位の5×5画素領域におけるR信号の低周波成分mR、B信号の低周波成分mBを求める。この処理においては、第2仮画素設定部(RBonWaroundRB)206で算出した5×5画素の入力画素単位601の中心の変換対象画素602の周囲に隣接するW画素位置のR画素値とB画素値の推定値が利用される。
第2仮画素設定部(RBonWaroundRB)206で算出したR画素値推定値を設定したデータ611に対して、図29に示すフィルタ622を適用して、5×5画素の入力画素単位601に対応するR信号の低周波成分mRを算出する。
フィルタ622は、フィルタ係数として(4/16〜1/16)が設定されている。係数(1/16),(4/16)の設定位置は、当初の5×5画素の入力画素単位601におけるR画素位置に対応する。係数(2/16)の設定位置は、当初の5×5画素の入力画素単位601におけるW画素位置に対応し、第2仮画素設定部(RBonWaroundRB)206でR画素値を推定した位置に対応する。
同様に、第2仮画素設定部(RBonWaroundRB)206で算出したB画素値推定値を設定したデータ612に対して、図29に示すフィルタ623を適用して、5×5画素の入力画素単位601に対応するB信号の低周波成分mBを算出する。
フィルタ622は、フィルタ係数として(4/16〜1/16)が設定されている。係数(1/16),(4/16)の設定位置は、当初の5×5画素の入力画素単位601におけるB画素位置に対応する。係数(2/16)の設定位置は、当初の5×5画素の入力画素単位601におけるW画素位置に対応し、第2仮画素設定部(RBonWaroundRB)206でB画素値を推定した位置に対応する。
第4画素補間パラメータ算出部(RBonRBofHV)207は、このようにして、処理単位の5×5画素領域におけるW信号の低周波成分mW、R信号の低周波成分mR、B信号の低周波成分mBを求める。
次に、第4画素補間パラメータ算出部(RBonRBofHV)207は、5×5画素の入力画素単位601のエッジ方向に応じて、5×5画素の入力画素単位601の中央位置にある変換対象画素602のW画素値を推定する。エッジ方向情報は、エッジ検出部209から入力する。
エッジ検出部209から入力するdirH(水平勾配情報)と、dirV(垂直勾配情)の大小を比較して、5×5画素の入力画素単位601のエッジ方向が横方向であるか縦方向であるか、エッジ方向が特定できない平坦領域であるかを判別する。例えば予め設定した閾値を利用して判別処理を行う。なお、5×5画素の入力画素単位601の中央位置にある変換対象画素602は元々RまたはB画素である。
5×5画素の入力画素単位601の中央位置にある変換対象画素602はRまたはB画素である。この処理について図30を参照して説明する。
5×5画素の入力画素単位601のエッジ方向が横方向である場合は、
図30(a)に示すように、フィルタ631を適用して、中央位置の変換対象画素602の横に隣接する2つのW画素の画素値の平均を算出して、変換対象画素602のW画素値(W_h)とする。
5×5画素の入力画素単位601のエッジ方向が縦方向である場合は、
図30(b)に示すように、フィルタ632を適用して、中央位置の変換対象画素602の縦に隣接する2つのW画素の画素値の平均を算出して、変換対象画素602のW画素値(W_v)とする。
5×5画素の入力画素単位601が平坦領域である場合は、
図30(c)に示すように、フィルタ633を適用して、中央位置の変換対象画素602の縦横に隣接する4つのW画素の画素値の平均を算出して、変換対象画素602のW画素値(W_n)とする。
なお、図30の右端には、処理対象となる5×5画素の入力画素単位601のエッジ例を表現したイメージ図を示している。
次に、第4画素補間パラメータ算出部(RBonRBofHV)207は、R画素を補正したR画素、B画素を補正したB画素に変換する処理に適用するパラメータとして、縦、または横エッジ対応のパラメータを算出する。
まず、R画素を補正したR画素に変換する処理に適用するパラメータとして以下のパラメータを算出する。
RonR(H)=(mR/mW)(w_h)
RonR(V)=(mR/mW)(w_v)
RonRn=(mR/mW)(w_n)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位601の中央位置にある変換対象画素602であるR画素位置をR画素に変換する際に補正したR画素値を決定する処理に適用される。ブレンド処理部211の処理については後段で説明する。
B画素を補正したB画素に変換する処理に適用するパラメータとしては以下のパラメータを算出する。
BonB(H)=(mB/mW)(w_h)
BonB(V)=(mB/mW)(w_v)
BonBn=(mB/mW)(w_n)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位601の中央位置にある変換対象画素602であるB画素位置をB画素に変換する際に補正したB画素値を決定する処理に適用される。
第4画素補間パラメータ算出部(RBonRBofHV)207は、このように、R画素を補正したR画素、B画素を補正したB画素に変換する処理に適用するパラメータとして、縦、または横エッジ対応のパラメータ、すなわち、
RonR(H)=(mR/mW)(w_h)
RonR(V)=(mR/mW)(w_v)
RonRn=(mR/mW)(w_n)
BonB(H)=(mB/mW)(w_h)
BonB(V)=(mB/mW)(w_v)
BonBn=(mB/mW)(w_n)
これらのパラメータを算出してブレンド処理部211に出力する。
(3−4−7.第5画素補間パラメータ算出部(RBonRBofAD)208の処理)
次に、第5画素補間パラメータ算出部(RBonRBofAD)208の処理について説明する。第5画素補間パラメータ算出部(RBonRBofAD)208は、R画素を補正したR画素、B画素を補正したB画素に変換する処理に適用するパラメータとして、斜めエッジ対応のパラメータを算出する。
エッジ検出部209は、前述したように、
dirH:水平勾配情報
dirV:垂直勾配情報
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらのエッジ情報(dirH,dirV,dirA,dirD)を、各画素対応のエッジ情報として生成する。第5画素補間パラメータ算出部(RBonRBofAD)208は、変換対象とするRまたはB画素対応のこれらのエッジ情報を入力する。
第5画素補間パラメータ算出部(RBonRBofAD)208は、まず、処理単位の5×5画素領域におけるW信号の低周波成分mW、R信号の低周波成分mR、B信号の低周波成分mBを求める。これらの算出処理は、第4画素補間パラメータ算出部(RBonRBofHV)207と同様の処理であり、先に図29を参照して説明した処理と同一であるので、説明を省略する。
第5画素補間パラメータ算出部(RBonRBofAD)208は、5×5画素の入力画素単位601のエッジ方向に応じて、5×5画素の入力画素単位601の中央位置にある変換対象画素602のW画素値を推定する。エッジ方向情報は、エッジ検出部209から入力する。
エッジ検出部209から入力するdirA(右斜め上方向勾配情報)と、dirD(左斜め上方向勾配情報)の大小を比較して、5×5画素の入力画素単位601のエッジ方向が右斜め上方向であるか左斜め上方向であるか、エッジ方向が特定できない平坦領域であるかを判別する。例えば予め設定した閾値を利用して判別処理を行う。なお、5×5画素の入力画素単位601の中央位置にある変換対象画素602は元々RまたはB画素である。
5×5画素の入力画素単位601の中央位置にある変換対象画素602のW画素値を推定する処理について図31を参照して説明する。
5×5画素の入力画素単位601のエッジ方向が左斜め上方向である場合は、図31(a)に示すように、フィルタ641を適用して、中央位置の変換対象画素602の左斜め上から右斜め下方向の8つのW画素の画素値を適用して、変換対象画素602のW画素値(W_d)とする。
5×5画素の入力画素単位601のエッジ方向が右斜め上方向である場合は、図31(b)に示すように、フィルタ642を適用して、中央位置の変換対象画素602の右斜め上から左斜め下方向の8つのW画素の画素値を適用して、変換対象画素602のW画素値(W_a)とする。
なお、図31の右端には、処理対象となる5×5画素の入力画素単位501のエッジ例を表現したイメージ図を示している。
次に、第5画素補間パラメータ算出部(RBonRBofAD)208は、R画素を補正したR画素、B画素を補正したB画素に変換する処理に適用するパラメータとして、斜めエッジ対応のパラメータを算出する。
まず、R画素を補正したR画素に変換する処理に適用するパラメータとして以下のパラメータを算出する。
RonR(A)=(mR/mW)(w_a)
RonR(D)=(mR/mW)(w_d)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位601の中央位置にある変換対象画素602であるR画素を補正したR画素に変換する際にR画素値を決定する処理に適用される。ブレンド処理部211の処理については後段で説明する。
B画素を補正したB画素に変換する処理に適用するパラメータとしては以下のパラメータを算出する。
BonB(A)=(mB/mW)(w_a)
BonB(D)=(mB/mW)(w_d)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位601の中央位置にある変換対象画素602であるB画素位置を補正したB画素に変換する際にB画素値を決定する処理に適用される。
第5画素補間パラメータ算出部(RBonRBofAD)208は、このように、斜めエッジ上のR画素を補正したR画素、B画素を補正したB画素に変換する処理に適用するパラメータ、すなわち、
RonR(A)=(mR/mW)(w_a)
RonR(D)=(mR/mW)(w_d)
BonB(A)=(mB/mW)(w_a)
BonB(D)=(mB/mW)(w_d)
これらのパラメータを算出してブレンド処理部211に出力する。
(3−5.ブレンド処理部の処理について)
次に、ブレンド処理部211の処理について説明する。ブレンド処理部211は、第1〜第5画素補間パラメータ算出部の生成した画素補間パラメータを入力し、さらにエッジ検出部209の検出したエッジ情報と、テクスチャ検出部210の検出したテクスチャ情報を入力して、最終的な変換画素値を算出する。
エッジ検出部209から入力するエッジ情報は以下の情報である。
dirH:水平勾配情報
dirV:垂直勾配情報
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらのエッジ情報(dirH,dirV,dirA,dirD)を入力する。
また、テクスチャ検出部210から入力するテクスチャ情報は、先に説明した式(式7)に従って算出する以下の平坦度重み(weightFlat)情報である。
weightFlat(x,y)=fflat(WTX(p))・・・(式7)
なお、前述したように、上記式(式7)において、fflat(r)は、例えば図14に示すような線形近似関数を用いることができる。図14に示す線形近似関数は、閾値として0<Th0<Th1<1を設定し、
r=0〜Th0→φ(r)=0
r=Th0〜Th1→φ(r)=0〜1.0(線形変化)
r=Th1以上→φ(r)=1
このような設定とした線形近似関数である。
平坦度重み(weightFlat)の値が小さいほど、平坦度が低くテクスチャが多い画像領域であり、平坦度重み(weightFlat)の値が大きいほど、平坦度が高くテクスチャが少ない画像領域である可能性が高いことを示す。
ブレンド処理部211は、これらの情報を入力して、RGBW配列をRGB配列に変換するための最終的な変換画素値を決定する。
ブレンド処理部211の実行する処理シーケンスについて、図32、図33に示すフローチャートを参照して説明する。
ブレンド処理部211は、まず、図32に示すステップS11において、画素単位のエッジ方向属性を判定する。
ブレンド処理部211は、エッジ検出部209から入力する画素単位のエッジ情報(dirH,dirV,dirA,dirD)を用いて以下の判定式に従って、画素単位のエッジ方向属性を判定する。
まず、dirHVを以下のように定義する。
dirH≦dirVの場合、
dirHV=H
dirH>dirVの場合、
dirHV=V
dirHVはH(横方向)またはV(縦方向)のいずれかとなる。
さらに、dirADを以下のように定義する。
dirA≦dirDの場合、
dirAD=A
dirA>dirDの場合、
dirAD=D
dirADはA(右斜め上方向)またはD(左斜め上方向)のいずれかとなる。
これら、dirHV、dirADは、各画素におけるエッジ方向を示す属性情報である。
次に、ブレンド処理部211は、図32に示すステップS12において、これらのdirHV、dirADから、以下の式に従って、縦横方向エッジと斜め方向エッジのエッジ方向度合い(ratioHV)を求める。
dirA≦dirDの場合、
ratioHV=(dirD+offset)/(dirA+offset)
dirA>dirDの場合、
ratioHV=(dirA+offset)/(dirD+offset)
なお、
上記式における(offset)は、非負の値であり、ゼロ割りの回避と検出感度の調整のためのパラメータである。
さらに、上記式で算出したエッジ方向度合い(ratioHV)は、例えば図34に示す関数fratio(ratioHV)による非線形化処理により、
縦横方向エッジ方向重み(weightHV)を算出する。なお、閾値Th0(HV_LIMIT0)、Th1(HV_LIMIT1)は、非線形処理に適用する閾値としての調整用パラメータである。
図32に示す線形近似関数fratio(r)は、閾値として0<Th0(HV_LIMIT0)<Th1(HV_LIMIT1)<1を設定し、
r=0〜Th0(HV_LIMIT0)→fratio(r)=0
r=Th0(HV_LIMIT0)〜Th1(HV_LIMIT1)→fratio(r)=0〜1.0(線形変化)
r=Th1(HV_LIMIT1)以上→fratio(r)=1
このような設定とした線形近似関数である。
なお、縦横方向エッジ方向重み(weightHV)は、斜め方向エッジに対する縦横方向エッジの強さを示し、縦横方向エッジ方向重み(weightHV)の値が大きいほど、斜め方向エッジより縦横方向エッジが強く、縦横方向エッジ方向重み(weightHV)の値が小さいほど、斜め方向エッジが縦横方向エッジより強いことを示す。
次に、ブレンド処理部211は、図33に示すステップS13において、RGBW配列をRGB配列に変換するための最終的な変換画素値(RGB画素値)を決定する。
本発明の画像処理装置のデータ変換処理部200は、先に図2を参照して説明したように、RGBW配列181からRGB配列182への変換処理を実行する。この変換処理に際しては、前述のように、
W画素位置をG画素に変換(G画素値を推定)する=(GonW)
G画素位置をR画素に変換(R画素値を推定)する=(RonG)
G画素位置をB画素に変換(B画素値を推定)する=(BonG)
R画素位置をR画素に変換(R画素値を補正)する=(RonR)
B画素位置にB画素に変換(B画素値を補正)する=(BonB)
これら5つの変換や補正処理を実行する。
ブレンド処理部211は、これらの最終的な変換画素値を決定する。
W画素位置のG画素への変換処理において設定するG画素値(GonW)は、以下の式(式11)によって算出する。
GonW=(1−weightFlat)・(GonW(dirHV))+(weightFlat)・(GonWn(dirHV))
・・・・・・(式11)
なお、上記式(式11)において、
GonW(dirHV)、
GonWn(dirHV)
これらは、先に説明した第1画素補間パラメータ算出部(GonW)202の算出した補間パラータであり、
(a)GonW(H)=(mG_h/mW)w
(b)GonW(V)=(mG_v/mW)w
(c)GonWn(H)=(mG_h/mW)w
(d)GonWn(V)=(mG_v/mW)w
これらのいずれかの値である。
dirH≦dirVの場合、ステップS11に示すように、
dirHV=Hであり、
GonW(dirHV)=GonW(H)=(mG_h/mW)w、
GonWn(dirHV)=GonWn(H)=(mG_h/mW)w、
となる。
また、dirH>dirVの場合、ステップS11に示すように、
dirHV=Vであり、
GonW(dirHV)=GonW(V)=(mG_v/mW)w、
GonWn(dirHV)=GonWn(V)=(mG_v/mW)w
となる。
このようにして、RGBW配列のW画素位置をG画素へ変換する場合のG画素値(GonW)を算出する。
なお、上記の式(式11)に示すG画素値(GonW)算出式は、変換対象画素の平坦度重み(weightFlat)に応じて、
(GonW(dirHV)):コントラスト強調を適用して算出した変換G画素値
(GonWn(dirHV)):コントラスト強調を適用しないで算出した変換G画素値
これらの値のブレント比率を変更して最終的な変換G画素値を算出する式である。
変換対象画素の平坦度重み(weightFlat)が大きく、平坦な領域である場合は、コントラスト強調のない変換G画素値に相当する(GonWn(dirHV))のブレント比率が高くなり、平坦度重み(weightFlat)が小さく、平坦度が低くテクスチャが多い領域である場合は、コントラスト強調後の変換画素値に相当する(GonW(dirHV))のブレント比率が高くなる。
このように変換対象画素の平坦度に応じて、ブレンド比率を変更して最終的なG画素値(GonW)を決定する。
次に、RGBW配列中のG画素位置をR画素へ変換する処理におけるR画素値(RonG)の算出処理について説明する。
まず、以下の式(式21)、(式22)に従って縦横方向エッジ対応の変換画素値(RonG_hv)、斜め方向エッジ対応の変換画素値(RonG_ad)を求める。
RonG_hv=(1−weightFlat)・(RonG(dirHV))+(weightFlat)・(RonGn)
・・・・・・(式21)
RonG_ad=(RonG(dirAD))
・・・・・・(式22)
さらに、上記式(式21)、(式22)で算出した(RonG_hv)と(RonG_ad)を以下の式(式23)に従ってブレンド処理を実行して、最終的なR画素値(RonG)を算出する。
RonG=(weightHV)・(RonG_hv)+(1−weightHV)RonG_ad
・・・・・・(式23)
このようにして、RGBW配列中のG画素位置をR画素へ変換する場合のR画素値(RonG)の算出処理を行う。
上記式について説明する。
上記式(式21)において、
RonG(dirHV)、
RonGn
これらは、先に説明した第2画素補間パラメータ算出部(RBonGofHV)204の算出した補間パラータであり、縦、または横エッジ上のG画素をR画素に変換する処理に適用する以下のパラメータである。
RonG(H)=(mR/mW)(w_h)
RonG(V)=(mR/mW)(w_v)
RonGn=(mR/mW)(w_n)
dirH≦dirVの場合、ステップS11に示すように、
dirHV=Hであり、
RonG(dirHV)=RonG(H)=(mR/mW)(w_h)、
また、dirH>dirVの場合、ステップS11に示すように、
dirHV=Vであり、
RonG(dirHV)=RonG(V)=(mR/mW)(w_v)、
となる。
また、上記式(式22)において、
RonG(dirAD)
これは、第3画素補間パラメータ算出部(RBonGofAD)205の算出した補間パラータであり、斜め方向エッジ上のG画素をR画素に変換する処理に適用する以下のパラメータである。
RonG(A)=(mR/mW)(w_a)
RonG(D)=(mR/mW)(w_d)
dirA≦dirDの場合、ステップS11に示すように、
dirAD=Aであり、
RonG(dirAD)=RonG(A)=(mR/mW)(w_a)、
また、dirA>dirDの場合、ステップS11に示すように、
dirAD=Dであり、
RonG(dirAD)=RonG(D)=(mR/mW)(w_d)、
となる。
式(式21)は、変換対象画素の縦横方向エッジ情報と、平坦度重み(weightFlat)に応じて縦横方向エッジに依存するR画素値(RonG_hv)を算出する算出式である。
変換対象画素の平坦度重み(weightFlat)が大きく、平坦な領域である場合は、先に説明した図25(c)に示すフィルタ533を適用して算出したW画素値(w_n)を利用して推定したR画素値、すなわち、
RonGn=(mR/mW)(w_n)
この値の重みを大きくする。
一方、変換対象画素の平坦度重み(weightFlat)が小さく、平坦度が低くテクスチャが多い領域である場合は、先に説明した図25(a),(b)に示すフィルタ531,532を適用して算出したW画素値(w_h)または(w_v)を利用して推定したR画素値、すなわち、
RonG(H)=(mR/mW)(w_h)
RonG(V)=(mR/mW)(w_v)
これらの値の重みを大きくする。
なお、RonG(dirHV)の値は、
横方向エッジの場合は、dirH≦dirVとなり、先に説明した図25(a)に示すフィルタ531を適用して算出したW画素値(w_h)を利用して推定したR画素値、すなわち、
RonG(dirHV)=RonG(H)=(mR/mW)(w_h)、
この値が適用される。
また、縦方向エッジの場合は、dirH>dirVとなり、先に説明した図25(b)に示すフィルタ532を適用して算出したW画素値(w_v)を利用して推定したR画素値、すなわち、
RonG(dirHV)=RonG(H)=(mR/mW)(w_v)、
この値が適用される。
このように式(式21)は、変換対象画素の縦横方向エッジ情報と、平坦度重み(weightFlat)に応じて縦横方向エッジに依存するR画素値(RonG_hv)を算出する算出式である。
式(式22)は、
RonG_ad=(RonG(dirAD))
であり、第3画素補間パラメータ算出部(RBonGofAD)205の算出した補間パラータ斜め方向エッジ上のG画素をR画素に変換する処理に適用する以下のパラメータ、すなわち、
RonG(A)=(mR/mW)(w_a)
RonG(D)=(mR/mW)(w_d)
これらを選択する式である。
dirA>dirDの場合、先に説明した図26(a)に示すフィルタ541を適用して算出したW画素値(w_d)を利用して推定したR画素値、すなわち、
RonG(dirAD)=RonG(D)=(mR/mW)(w_d)、
dirA≦dirDの場合、先に説明した図26(b)に示すフィルタ542を適用して算出したW画素値(w_a)を利用して推定したR画素値、すなわち、
RonG(dirAD)=RonG(A)=(mR/mW)(w_a)、
これらを選択する。
このように式(式22)は、変換対象画素の斜め方向のエッジ方向情報に応じて斜め方向エッジに依存するR画素値(RonG_hv)を算出する算出式である。
ブレンド処理部211は、さらに、上記式(式21)、(式22)で算出した(RonG_hv)と(RonG_ad)を以下の式(式23)に従ってブレンド処理を実行して、最終的なR画素値(RonG)を算出する。
RonG=(weightHV)・(RonG_hv)+(1−weightHV)RonG_ad
上記式(式23)は、
式21で算出した縦横方向エッジに依存するR画素値(RonG_hv)
式22で算出した斜め方向エッジに依存するR画素値(RonG_ad)
これらを、ステップS12で算出した縦横方向エッジ方向重み(weightHV)に応じてブレンドして最終的なR画素値(RonG)を算出する式である。
縦横方向エッジ方向重み(weightHV)は、先に説明したように、斜め方向エッジに対する縦横方向エッジの強さを示し、縦横方向エッジ方向重み(weightHV)の値が大きいほど、斜め方向エッジより縦横方向エッジが強く、縦横方向エッジ方向重み(weightHV)の値が小さいほど、斜め方向エッジが縦横方向エッジより強いことを示す。
従って、式(式23)は、縦横方向エッジが強く縦横方向エッジ方向重み(weightHV)の値が大きい場合は、
式21で算出した縦横方向エッジに依存するR画素値(RonG_hv)の重みが大きく設定される。
また、斜め方向エッジが強く縦横方向エッジ方向重み(weightHV)の値が小さい場合は、
式22で算出した斜め方向エッジに依存するR画素値(RonG_ad)の重みが大きく設定される。
このように変換対象画素のエッジ方向に応じて、ブレンド比率を変更して最終的なR画素値(RonG)を決定する。
次に、RGBW配列中のG画素位置をB画素へ変換する処理におけるB画素値(BonG)の算出処理について説明する。
ブレンド処理部211は、まず、以下の式(式31)、(式32)に従って縦横方向エッジ対応の変換画素値(BonG_hv)、斜め方向エッジ対応の変換画素値(BonG_ad)を求める。
BonG_hv=(1−weightFlat)・(BonG(dirHV))+(weightFlat)・(BonGn)
・・・・・・(式31)
BonG_ad=(BonG(dirAD))
・・・・・・(式32)
さらに、上記式(式31)、(式32)で算出した(BonG_hv)と(BonG_ad)を以下の式(式33)に従ってブレンド処理を実行して、最終的なB画素値(BonG)を算出する。
BonG=(weightHV)・(BonG_hv)+(1−weightHV)BonG_ad
・・・・・・(式33)
このようにして、RGBW配列中のG画素位置をB画素へ変換する場合のB画素値(BonG)の算出処理を行う。
これらの式31〜33は、前述の式21〜23、すなわち、RGBW配列中のG画素位置をR画素へ変換する場合のR画素値(RonG)の算出処理において適用した式において、RをBに変更した式であり、処理は、RをBに変更する以外は同様の処理となる。
上記式(式31)において、
BonG(dirHV)、
BonGn
これらは、先に説明した第2画素補間パラメータ算出部(RBonGofHV)204の算出した補間パラータであり、縦、または横エッジ上のG画素をB画素に変換する処理に適用する以下のパラメータである。
BonG(H)=(mB/mW)(w_h)
BonG(V)=(mB/mW)(w_v)
BonGn=(mB/mW)(w_n)
また、上記式(式32)において、
BonG(dirAD)
これは、第3画素補間パラメータ算出部(RBonGofAD)205の算出した補間パラータであり、斜め方向エッジ上のG画素をR画素に変換する処理に適用する以下のパラメータである。
BonG(A)=(mB/mW)(w_a)
BonG(D)=(mB/mW)(w_d)
上記式(式33)は、
式31で算出した縦横方向エッジに依存するB画素値(BonG_hv)
式32で算出した斜め方向エッジに依存するB画素値(BonG_ad)
これらを、ステップS12で算出した縦横方向エッジ方向重み(weightHV)に応じてブレンドして最終的なB画素値(BonG)を算出する式である。
式(式33)は、縦横方向エッジが強く縦横方向エッジ方向重み(weightHV)の値が大きい場合は、
式31で算出した縦横方向エッジに依存するB画素値(BonG_hv)の重みが大きく設定される。
また、斜め方向エッジが強く縦横方向エッジ方向重み(weightHV)の値が小さい場合は、
式32で算出した斜め方向エッジに依存するB画素値(BonG_ad)の重みが大きく設定される。
このように変換対象画素のエッジ向に応じて、ブレンド比率を変更して最終的なB画素値(BonG)を決定する。
次に、RGBW配列中のR画素位置をR画素へ変換(補正)する処理におけるR画素値(RonR)の算出処理について説明する。
ブレンド処理部211は、まず、以下の式(式41)、(式42)に従って縦横方向エッジ対応変換画素値(RonR_hv)、斜め方向エッジ対応変換画素値(RonR_ad)を求める。
RonR_hv=(1−weightFlat)・(RonR(dirHV))+(weightFlat)・(RonRn)
・・・・・・(式41)
RonR_ad=(RonR(dirAD))
・・・・・・(式42)
さらに、上記式(式41)、(式42)で算出した(RonR_hv)と(RonR_ad)を以下の式(式43)に従ってブレンド処理を実行して、最終的なR画素値(RonR)を算出する。
RonR=(weightHV)・(RonR_hv)+(1−weightHV)RonR_ad
・・・・・・(式43)
このようにして、RGBW配列中のR画素位置をR画素へ変換(補正)する場合のR画素値(RonR)の算出処理を行う。
これらの式41〜43は、前述の式21〜23、すなわち、RGBW配列中のG画素位置をR画素へ変換する場合のR画素値(RonG)の算出処理において適用した式において、GをRに変更した式であり、処理は、RをRに変更する以外は同様の処理となる。
上記式(式41)において、
RonR(dirHV)、
RonRn
これらは、先に説明した第4画素補間パラメータ算出部(RBonRBofHV)207の算出した補間パラータであり、縦、または横エッジ上のR画素をR画素に変換する処理に適用する以下のパラメータである。
RonR(H)=(mR/mW)(w_h)
RonR(V)=(mR/mW)(w_v)
RonRn=(mR/mW)(w_n)
また、上記式(式42)において、
RonR(dirAD)
これは、第5画素補間パラメータ算出部(RBonRBofAD)208の算出した補間パラータであり、斜め方向エッジ上のR画素をR画素に変換する処理に適用する以下のパラメータである。
RonR(A)=(mB/mW)(w_a)
RonR(D)=(mB/mW)(w_d)
上記式(式43)は、
式41で算出した縦横方向エッジに依存するR画素値(RonG_hv)
式42で算出した斜め方向エッジに依存するR画素値(RonG_ad)
これらを、ステップS12で算出した縦横方向エッジ方向重み(weightHV)に応じてブレンドして最終的なR画素値(RonR)を算出する式である。
式(式43)は、縦横方向エッジが強く縦横方向エッジ方向重み(weightHV)の値が大きい場合は、
式41で算出した縦横方向エッジに依存するR画素値(RonR_hv)の重みが大きく設定される。
また、斜め方向エッジが強く縦横方向エッジ方向重み(weightHV)の値が小さい場合は、
式42で算出した斜め方向エッジに依存するR画素値(RonR_ad)の重みが大きく設定される。
このように変換対象画素のエッジ向に応じて、ブレンド比率を変更して最終的なR画素値(RonR)を決定する。
次に、RGBW配列中のB画素位置をB画素へ変換(補正)する処理におけるB画素値(BonB)の算出処理について説明する。
ブレンド処理部211は、まず、以下の式(式51)、(式52)に従って縦横方向エッジ対応変換画素値(BonB_hv)、斜め方向エッジ対応変換画素値(BonB_ad)を求める。
BonB_hv=(1−weightFlat)・(BonB(dirHV))+(weightFlat)・(BonBn)
・・・・・・(式51)
BonB_ad=(BonB(dirAD))
・・・・・・(式52)
さらに、上記式(式51)、(式52)で算出した(BonB_hv)と(BonB_ad)を以下の式(式53)に従ってブレンド処理を実行して、最終的なB画素値(BonB)を算出する。
BonB=(weightHV)・(BonB_hv)+(1−weightHV)BonB_ad
・・・・・・(式53)
このようにして、RGBW配列中のB画素位置をB画素へ変換(補正)する場合のB画素値(BonB)の算出処理を行う。
これらの式51〜53は、前述の式41〜43、すなわち、RGBW配列中のR画素位置をR画素へ変換する場合のR画素値(RonR)の算出処理において適用した式において、RをBに変更した式であり、処理は、RをBに変更する以外は同様の処理となる。
上記式(式51)において、
BonB(dirHV)、
BonBn
これらは、先に説明した第4画素補間パラメータ算出部(RBonRBofHV)207の算出した補間パラータであり、縦、または横エッジ上のB画素をB画素に変換する処理に適用する以下のパラメータである。
BonB(H)=(mB/mW)(w_h)
BonB(V)=(mB/mW)(w_v)
BonBn=(mB/mW)(w_n)
また、上記式(式52)において、
BonB(dirAD)
これは、第5画素補間パラメータ算出部(RBonRBofAD)208の算出した補間パラータであり、斜め方向エッジ上のB画素をB画素に変換する処理に適用する以下のパラメータである。
BonB(A)=(mB/mW)(w_a)
BonB(D)=(mB/mW)(w_d)
上記式(式53)は、
式51で算出した縦横方向エッジに依存するB画素値(BonG_hv)
式52で算出した斜め方向エッジに依存するB画素値(BonG_ad)
これらを、ステップS12で算出した縦横方向エッジ方向重み(weightHV)に応じてブレンドして最終的なB画素値(BonB)を算出する式である。
式(式53)は、縦横方向エッジが強く縦横方向エッジ方向重み(weightHV)の値が大きい場合は、
式51で算出した縦横方向エッジに依存するB画素値(BonB_hv)の重みが大きく設定される。
また、斜め方向エッジが強く縦横方向エッジ方向重み(weightHV)の値が小さい場合は、
式52で算出した斜め方向エッジに依存するB画素値(BonB_ad)の重みが大きく設定される。
このように変換対象画素のエッジ向に応じて、ブレンド比率を変更して最終的なB画素値(BonB)を決定する。
上述したように、ブレンド処理部211は、第1〜第5画素補間パラメータ算出部の生成した画素補間パラメータを入力し、さらにエッジ検出部209の検出したエッジ情報と、テクスチャ検出部210の検出したテクスチャ情報を入力して、最終的な変換画素値を算出する。すなわち、RGBW配列からRGB配列への変換処理において以下の変換画素値を決定する。
W画素位置をG画素に変換(G画素値を推定)する際のG画素値(GonW)
G画素位置をR画素に変換(R画素値を推定)する際のR画素値(RonG)
G画素位置をB画素に変換(B画素値を推定)する際のB画素値(BonG)
R画素位置をR画素に変換(R画素値を補正)する際のR画素値(RonR)
B画素位置にB画素に変換(B画素値を補正)する際のB画素値(BonB)
これら5つの変換や補正画素値を決定する。
ブレンド処理部211は、変換対象画素に対応するエッジ情報、すなわちエッジ強度と、エッジ方向に応じて、第1〜第5画素補間パラメータ算出部の生成した画素補間パラメータのブレンド比率を決定して、最終的な画素値を算出する。各画素値の算出式を以下にまとめて示す。
GonW=(1−weightFlat)・(GonW(dirHV))+(weightFlat)・(GonWn(dirHV))
RonG=(weightHV)・(RonG_hv)+(1−weightHV)RonG_ad
BonG=(weightHV)・(BonG_hv)+(1−weightHV)BonG_ad
RonR=(weightHV)・(RonR_hv)+(1−weightHV)RonR_ad
BonB=(weightHV)・(BonB_hv)+(1−weightHV)BonB_ad
[4.画像処理装置のデータ変換処理部が実行するリモザイク処理シーケンス]
次に、図35に示すフローチャートを参照して、画像処理装置のデータ変換処理部が実行するリモザイク処理シーケンスについて説明する。図35に示すフローチャートは、図5に示す画像処理装置において実行するRGBW配列からRGB配列への変換処理、すなわちリモザイク処理の全体シーケンスを示すフローチャートである。これまで説明してきた処理全体のシーケンスである。なお、図35に示すフローは、例えば、図5に示す画像処理装置の制御部140がメモリ130に格納されたプログラムを実行して、各処理部を制御して実行させることができる。
図35に示すフローチャートの各ステップについて説明する。
まず、ステップS101において、RGBW配列に含まれるW画素を適用して、エッジ方向を判定する。
この処理は、図6に示すエッジ検出部209の実行する処理である。先に説明したように、エッジ検出部209は、入力するRGBW配列の信号中、ホワイト(W)信号を利用して、エッジ方向とエッジ強度を判定する。
エッジ検出部209は、エッジ検出処理によって、画素対応のエッジ情報(dirH,dirV,dirA,dirD)を算出して、ブレンド処理部211、および複数の画素補間パラメータ算出部に出力する。
次に、ステップS102において、RGBW配列に含まれるW画素を適用して、テクスチャ検出処理を行う。
この処理は、図6に示すテクスチャ検出部210の実行する処理である。先に説明したように、テクスチャ検出部210は、入力するRGBW配列の信号中、ホワイト(W)信号を利用して、画素対応テクスチャ情報、具体的には、平坦度重み(weightFlat)を算出する。
weightFlat(x,y)=fflat(WTX(p))
flat(r)は、例えば図14に示すような線形近似関数であり、
r=0〜Th0→fflat(r)=0
r=Th0〜Th1→fflat(r)=0〜1.0(線形変化)
r=Th1以上→fflat(r)=1
このような設定とした平坦度重み(weightFlat)を算出し、ブレンド処理部211に出力する。
次に、ステップS103において、入力画素単位の中心のW画素に対するノイズ除去を実行する。
この処理は、図6に示すノイズ除去部201の処理である。先に説明したように、ノイズ除去部201は、入力画素単位の中心にあるW画素に対してノイズ除去を実行する。
先に図7を参照して説明したように、ノイズ除去部201は、例えばバイラテラルフィルタを適用して入力画素単位(5×5画素)の中心にW画素が設定されている場合、前述の式(式1)に従って、ノイズ低減画素値INR(p)を算出する。算出したノイズ低減W画素値(INR(p))は、図6に示す第1画素補間パラメータ算出部(GonW)202に出力される。
次に、ステップS104において、RGBW配列中のW画素をG画素に変換するために適用する補間パラメータを算出する。
この処理は、図6に示す第1画素補間パラメータ算出部(GonW)202の処理である。
第1画素補間パラメータ算出部(GonW)202は、RGBW配列におけるW画素をG画素に変換するために適用する補間パラメータとして、以下のパラメータを算出する。
(a)GonW(H)=(mG_h/mW)w
(b)GonW(V)=(mG_v/mW)w
(c)GonWn(H)=(mG_h/mW)w
(d)GonWn(V)=(mG_v/mW)w
上記式において、
mG:入力画素単位のG信号の低周波成分
mW:入力画素単位のW信号の低周波成分
w:入力画素単位の中心のW画素の画素値
である。
なお、mGについては、図16、図17を参照して説明したように、入力画素単位の中心W画素のG画素の隣接位置と、エッジ方向に応じて、異なる係数設定のフィルタを適用して、mG_v、またはmG_hをG信号の低周波成分として算出する。
上記(a)〜(d)において、
(a)GonW(H)=(mG_h/mW)w
(b)GonW(V)=(mG_v/mW)w
これらは、コントラスト強調を適用して算出する値である。
(c)GonWn(H)=(mG_h/mW)w
(d)GonWn(V)=(mG_v/mW)w
これらは、コントラスト強調を適用しないで算出する値である。
ひれら(a)〜(d)のパラメータは、RGBW配列中のW画素をG画素に変換するために適用する補間パラメータであり、ブレンド処理部211に出力される。
次に、ステップS105において、R/W,B/W相関からG画素隣接のW位置のR,Bを補間する。
この処理は、図6に示す第1仮画素設定部(RBonWaroundG)203の処理である。
第1仮画素設定部(RBonWaroundG)203は、図23を参照して説明したように、5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のR画素値とB画素値を推定する。図23に示す5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のR画素値(Rxy'=R12',R21',R32',R23')は以下のように推定することができる。
12'=(mR'/mW)w12
21'=(mR'/mW)w21
32'=(mR'/mW)w32
23'=(mR'/mW)w23
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のW画素値である。
同様に、図23に示す5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のB画素値(Bxy'=B12',B21',B32',B23')は以下のように推定することができる。
12'=(mB'/mW)w12
21'=(mB'/mW)w21
32'=(mB'/mW)w32
23'=(mB'/mW)w23
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のW画素値である。
なお、
mW:入力画素単位のW信号の低周波成分
w:入力画素単位の中心のW画素の画素値
mR':RB画素に隣接するW画素位置に設定した仮のR画素(R')を適用して算出したR信号の低周波成分
mB':RB画素に隣接するW画素位置に設定した仮のB画素(B')を適用して算出したB信号の低周波成分
である。
次に、ステップS106において、R/W,B/W相関を利用して縦横方向のG位置のR,Bを補間する。
この処理は、図6に示す第2画素補間パラメータ算出部(RBonGofHV)204の処理である。第2画素補間パラメータ算出部(RBonGofHV)204は、主に縦、または横エッジ上のG画素をR画素、またはB画素に変換する処理に適用するパラメータの算出処理を実行する。
第2画素補間パラメータ算出部(RBonGofHV)204は、縦、または横エッジ上のG画素をR画素、またはB画素に変換する処理に適用するパラメータ、すなわち、
RonG(H)=(mR/mW)(w_h)
RonG(V)=(mR/mW)(w_v)
RonGn=(mR/mW)(w_n)
BonG(H)=(mB/mW)(w_h)
BonG(V)=(mB/mW)(w_v)
BonGn=(mB/mW)(w_n)
これらのパラメータを算出してブレンド処理部211に出力する。
なお、
mR:入力画素単位のR信号の低周波成分
mB:入力画素単位のBR信号の低周波成分
mW:入力画素単位のW信号の低周波成分
(w_h)、(w_v)、(w_n)は、図25を参照して説明したように、エッジ方向に応じて選択されるフィルタを適用して算出する入力画素単位の中心画素位置に設定されるW画素値である。
次に、ステップS107において、R/W,B/W相関を利用して斜め方向のG位置のR,Bを補間する。
この処理は、図6に示す第3画素補間パラメータ算出部(RBonGofAD)205の処理である。第3画素補間パラメータ算出部(RBonGofAD)205は、斜めエッジ上のG画素をR画素、またはB画素に変換する処理に適用するパラメータの算出処理を実行する。
第3画素補間パラメータ算出部(RBonGofAD)205は、斜めエッジ上のG画素をR画素、またはB画素に変換する処理に適用するパラメータ、すなわち、
RonG(A)=(mR/mW)(w_a)
RonG(D)=(mR/mW)(w_d)
BonG(A)=(mB/mW)(w_a)
BonG(D)=(mB/mW)(w_d)
これらのパラメータを算出してブレンド処理部211に出力する。
次に、ステップS108において、R/W,B/W相関を利用して、R,B画素隣接のW位置のR,Bを補間する。
この処理は、図6に示す第2仮画素設定部(RBonWaroundRB)206の処理である。
次に、第2仮画素設定部(RBonWaroundRB)206は、図28を参照して説明したように、5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のR画素値とB画素値を推定する。
図28に示す5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のR画素値(Rxy'=R12',R21',R32',R23')は以下のように推定することができる。
12'=(mR'/mW)w12
21'=(mR'/mW)w21
32'=(mR'/mW)w32
23'=(mR'/mW)w23
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のW画素値である。
同様に、図28に示す5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のB画素値(Bxy'=B12',B21',B32',B23')は以下のように推定することができる。
12'=(mB'/mW)w12
21'=(mB'/mW)w21
32'=(mB'/mW)w32
23'=(mB'/mW)w23
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のW画素値である。
次に、ステップS109において、R/W,B/W相関を利用して、縦横方向のR,B位置のR,Bを補間する。この処理は、図6に示す第4画素補間パラメータ算出部(RBonRBofHV)207の処理である。第4画素補間パラメータ算出部(RBonRBofHV)207は、縦、または横エッジ上のR画素を補正したR画素、B画素を補正したB画素に変換する処理に適用するパラメータとして、以下のパラメータの算出処理を実行する。
RonR(H)=(mR/mW)(w_h)
RonR(V)=(mR/mW)(w_v)
RonRn=(mR/mW)(w_n)
BonB(H)=(mB/mW)(w_h)
BonB(V)=(mB/mW)(w_v)
BonBn=(mB/mW)(w_n)
これらのパラメータを算出してブレンド処理部211に出力する。
次に、ステップS110において、R/W,B/W相関を利用して斜め方向のR,B位置のR,Bを補間する。
この処理は、図6に示す第5画素補間パラメータ算出部(RBonRBofAD)208の処理である。第5画素補間パラメータ算出部(RBonRBofAD)208は、斜めエッジ上のR画素を補正したR画素、B画素を補正したB画素に変換する処理に適用するパラメータの算出処理を実行する。
第5画素補間パラメータ算出部(RBonRBofAD)208は、このように、斜めエッジ上のR画素を補正したR画素、B画素を補正したB画素に変換する処理に適用するパラメータ、すなわち、
RonR(A)=(mR/mW)(w_a)
RonR(D)=(mR/mW)(w_d)
BonB(A)=(mB/mW)(w_a)
BonB(D)=(mB/mW)(w_d)
これらのパラメータを算出してブレンド処理部211に出力する。
次に、ステップS111において、エッジ方向属性に従いブレンド処理を実行して、RGBW配列の変換後のRGB配列を構成するRGB画素値を決定する。この処理は、図6に示すブレンド処理部211の処理である。
ブレンド処理部211は、第1〜第5画素補間パラメータ算出部の生成した画素補間パラメータを入力し、さらにエッジ検出部209の検出したエッジ情報と、テクスチャ検出部210の検出したテクスチャ情報を入力して、最終的な変換画素値を算出する。
ブレンド処理部211は、変換対象画素に対応するエッジ情報、すなわちエッジ強度と、エッジ方向に応じて、第1〜第5画素補間パラメータ算出部の生成した画素補間パラメータのブレンド比率を決定して、最終的な画素値を算出する。この処理は、図32、図33に示すフローを参照して説明した処理である。各変換画素値の算出式を以下にまとめて示す。
GonW=(1−weightFlat)・(GonW(dirHV))+(weightFlat)・(GonWn(dirHV))
RonG=(weightHV)・(RonG_hv)+(1−weightHV)RonG_ad
BonG=(weightHV)・(BonG_hv)+(1−weightHV)BonG_ad
RonR=(weightHV)・(RonR_hv)+(1−weightHV)RonR_ad
BonB=(weightHV)・(BonB_hv)+(1−weightHV)BonB_ad
このように、本発明の画像処理装置においては、補間パラメータ算出部各々が変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理を実行して、補間画素値に相当するパラメータを生成する。さらに、ブレンド処理部が、各補間パラメータ算出部の生成したパラメータと、エッジ情報およびテクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定する。これらの処理により、偽色の少ない高品質なカラー画像を生成可能なRGB配列データを生成することができる。
以上、特定の実施例を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本発明の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。例えば、プログラムは記録媒体に予め記録しておくことができる。記録媒体からコンピュータにインストールする他、LAN(Local Area Network)、インターネットといったネットワークを介してプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
以上、説明したように、本発明の一実施例の構成によれば、ホワイト(W:White)を含む例えばRGBW型のカラーフィルタを持つ撮像素子(イメージセンサ)の取得データを入力して偽色の少ない高品質なカラー画像を生成するためのRGB配列データを生成することができる。具体的には、エッジ検出部がRGBW配列の撮像素子の出力信号を解析して各画素対応のエッジ情報を取得し、テクスチャ検出部がテクスチャ情報を生成する。さらにパラメータ算出部が変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理を実行して、補間画素値に相当するパラメータを生成する。ブレンド処理部において、パラメータ算出部の生成したパラメータと、エッジ情報およびテクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定する。これらの処理により、偽色の少ない高品質なカラー画像を生成可能なRGB配列データを生成することができる。
100 撮像装置
105 光学レンズ
110 撮像素子(イメージセンサ)
120 信号処理部
130 メモリ
140 制御部
181 RGBW配列
182 RGB配列
183 カラー画像
200 データ変換処理部
201 ノイズ除去部
202 第1画素補間パラメータ算出部(GonW)
203 第1仮画素設定部(RBonWaroundG)
204 第2画素補間パラメータ算出部(RBonGofHV)
205 第3画素補間パラメータ算出部(RBonGofAD)
206 第2仮画素設定部(RBonWaroundRB)
207 第4画素補間パラメータ算出部(RBonRBofHV)
208 第5画素補間パラメータ算出部(RBonRBofAD)
209 エッジ検出部
210 テクスチャ検出部
211 ブレンド処理部

Claims (14)

  1. 輝度信号の主成分となる画素が市松状に配置され、残りの部分に色情報成分となる複数色の画素が配置された2次元画素配列信号を解析して画素変換を行うデータ変換処理部を有する画像処理装置。
  2. 前記輝度信号の主成分となる色は、白色または緑色である請求項1記載の画像処理装置。
  3. 前記データ変換処理部は、
    前記2次元画素配列信号を解析してエッジ情報を生成するエッジ検出部と、
    前記2次元画素配列信号を解析してテクスチャ情報を生成するテクスチャ検出部と、
    前記2次元画素配列信号を解析して画素変換処理に適用するパラメータを算出するパラメータ算出部と、
    前記パラメータ算出部の算出したパラメータと、前記エッジ情報および前記テクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、前記パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定するブレンド処理部と、
    を有する請求項1または2に記載の画像処理装置。
  4. 前記データ変換処理部は、
    RGB画素とホワイト(W)画素からなるRGBW配列信号を解析して各画素対応のエッジ方向および強度情報を含むエッジ情報を生成するエッジ検出部と、
    前記RGBW配列信号を解析して各画素対応のテクスチャ度合いを示すテクスチャ情報を生成するテクスチャ検出部と、
    RGBW配列をRGB配列に変換するためのパラメータを算出するパラメータ算出部であり、変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理により算出した補間画素値に相当するパラメータを生成するパラメータ算出部と、
    前記パラメータ算出部の算出したパラメータと、前記エッジ情報および前記テクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、前記パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定するブレンド処理部と、
    を有する請求項3に記載の画像処理装置。
  5. 前記パラメータ算出部は、
    補間処理に適用する画素位置をエッジ方向に沿った画素位置とする補間処理によりパラメータを生成する構成である請求項4に記載の画像処理装置。
  6. 前記パラメータ算出部は、
    RGBW配列を構成するW画素とその他のRGB画素との局所領域での相関を利用した補間処理によりパラメータを生成する構成である請求項4または5に記載の画像処理装置。
  7. 前記画像処理装置は、さらに、
    RGBW配列を構成するW画素とその他のRGB画素との局所領域での相関を利用した補間処理によりW画素位置に対してRGBいずれかの画素の画素値を設定する仮画素設定部を有し、
    前記パラメータ算出部は、
    前記仮画素設定データを適用した補間処理によりパラメータを生成する構成である請求項4〜6いずれかに記載の画像処理装置。
  8. 前記パラメータ算出部は、
    エッジ方向が縦、横、左斜め上、右斜め上の4種類のエッジ方向に応じて、適用画素位置をエッジ方向に沿った画素位置に設定した補間処理により算出した補間画素値相当の複数のパラメータを生成し、
    前記ブレンド処理部は、
    縦、横、左斜め上、右斜め上の4種類のエッジ方向の強度比較を実行して、比較結果に応じて前記複数のパラメータのブレンド比率を変更したブレンド処理を実行する請求項4〜7いずれかに記載の画像処理装置。
  9. 前記ブレンド処理部は、
    変換画素対応の縦横方向エッジと斜め方向エッジのエッジ方向度合い(ratioFlat)を算出し、さらに、エッジ方向度合い(ratioFlat)に基づいて、値が大きいほど斜め方向エッジより縦横方向エッジが強く、値が小さいほど斜め方向エッジが縦横方向エッジより強いことを示す縦横方向エッジ方向重み(weightHV)を算出し、
    変換画素対応の縦横方向エッジが斜め方向エッジより強い場合は、エッジ方向を縦または横方向として設定して算出したパラメータのブレンド比率を高くし、
    変換画素対応の縦横方向エッジが斜め方向エッジより弱い場合は、エッジ方向を斜め方向として設定して算出したパラメータのブレンド比率を高くしたブレンド処理を実行する請求項4〜8いずれかに記載の画像処理装置。
  10. 前記テクスチャ検出部は、
    前記テクスチャ情報として、テクスチャが少なく平坦度が高い画素領域については高い値を示し、テクスチャが多く平坦度が低い画素領域については低い値を示す各画素対応の平坦度重み(weightFlat)を算出し、
    前記パラメータ算出部は、
    前記補間画素値に対するコントラスト強調処理を実行したコントラスト強調処理適用パラメータと、前記補間画素値に対するコントラスト強調処理を実行しないコントラスト強調処理非適用パラメータを算出し、
    前記ブレンド処理部は、
    前記平坦度重みの大きい画素については、前記コントラスト強調処理非適用パラメータのブレンド比率を大きく設定し、
    前記平坦度重みの小さい画素については、前記コントラスト強調処理適用パラメータのブレンド比率を大きく設定したブレンド処理を実行する請求項4〜9いずれかに記載の画像処理装置。
  11. 前記エッジ検出部は、
    前記RGBW配列信号のホワイト(W)画素のみを利用した解析処理により、各画素対応のエッジ情報を生成する構成であり、
    処理対象画素近傍のW画素の信号値勾配を算出して各画素対応のエッジ方向および強度情報を含むエッジ情報を生成する請求項4〜10いずれかに記載の画像処理装置。
  12. 前記テクスチャ検出部は、
    前記RGBW配列信号のホワイト(W)画素のみを利用した解析処理により、各画素対応のテクスチャ度合いを示すテクスチャ情報を生成する請求項4〜11いずれかに記載の画像処理装置。
  13. 画像処理装置において画像信号処理を実行する画像処理方法であり、
    エッジ検出部が、RGB画素とホワイト(W)画素からなるRGBW配列信号を解析して各画素対応のエッジ方向および強度情報を含むエッジ情報を生成するエッジ検出ステップと、
    テクスチャ検出部が、前記RGBW配列信号を解析して各画素対応のテクスチャ度合いを示すテクスチャ情報を生成するテクスチャ検出ステップと、
    パラメータ算出部が、RGBW配列をRGB配列に変換するためのパラメータを算出するパラメータ算出部であり、変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理により算出した補間画素値に相当するパラメータを生成するパラメータ算出ステップと、
    ブレンド処理部が、前記パラメータ算出部の算出したパラメータと、前記エッジ情報および前記テクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、前記パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定するブレンド処理ステップと、
    を有する画像処理方法。
  14. 画像処理装置において画像信号処理を実行させるプログラムであり、
    エッジ検出部に、RGB画素とホワイト(W)画素からなるRGBW配列信号を解析して各画素対応のエッジ方向および強度情報を含むエッジ情報を生成させるエッジ検出ステップと、
    テクスチャ検出部に、前記RGBW配列信号を解析して各画素対応のテクスチャ度合いを示すテクスチャ情報を生成させるテクスチャ検出ステップと、
    パラメータ算出部に、RGBW配列をRGB配列に変換するためのパラメータを算出させるパラメータ算出ステップであり、変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理により算出した補間画素値に相当するパラメータを生成させるパラメータ算出ステップと、
    ブレンド処理部に、前記パラメータ算出部の算出したパラメータと、前記エッジ情報および前記テクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、前記パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定させるブレンド処理ステップと、
    を実行させるプログラム。
JP2009241239A 2009-10-20 2009-10-20 画像処理装置、および画像処理方法、並びにプログラム Expired - Fee Related JP5454075B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2009241239A JP5454075B2 (ja) 2009-10-20 2009-10-20 画像処理装置、および画像処理方法、並びにプログラム
CN201080003488.3A CN102273208B (zh) 2009-10-20 2010-08-19 图像处理设备和图像处理方法
PCT/JP2010/064031 WO2011048870A1 (ja) 2009-10-20 2010-08-19 画像処理装置、および画像処理方法、並びにプログラム
EP10824722.2A EP2352301B1 (en) 2009-10-20 2010-08-19 Image processing device, image processing method, and program
KR1020117012850A KR101633946B1 (ko) 2009-10-20 2010-08-19 화상 처리 장치 및 화상 처리 방법, 및 기록 매체
US13/132,044 US8755640B2 (en) 2009-10-20 2010-08-19 Image processing apparatus and image processing method, and program
US14/269,754 US9609291B2 (en) 2009-10-20 2014-05-05 Image processing apparatus and image processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009241239A JP5454075B2 (ja) 2009-10-20 2009-10-20 画像処理装置、および画像処理方法、並びにプログラム

Publications (2)

Publication Number Publication Date
JP2011091483A true JP2011091483A (ja) 2011-05-06
JP5454075B2 JP5454075B2 (ja) 2014-03-26

Family

ID=43900110

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009241239A Expired - Fee Related JP5454075B2 (ja) 2009-10-20 2009-10-20 画像処理装置、および画像処理方法、並びにプログラム

Country Status (6)

Country Link
US (2) US8755640B2 (ja)
EP (1) EP2352301B1 (ja)
JP (1) JP5454075B2 (ja)
KR (1) KR101633946B1 (ja)
CN (1) CN102273208B (ja)
WO (1) WO2011048870A1 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130137449A (ko) * 2012-06-07 2013-12-17 삼성테크윈 주식회사 멀티 대역 필터 어레이 기반 카메라 시스템 및 그의 영상 처리 방법
JP2015195844A (ja) * 2014-03-31 2015-11-09 富士フイルム株式会社 内視鏡システム、プロセッサ装置、光源装置、内視鏡システムの作動方法、プロセッサ装置の作動方法、光源装置の作動方法
JPWO2013161349A1 (ja) * 2012-04-24 2015-12-24 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
US9378540B2 (en) 2014-02-06 2016-06-28 Kabushiki Kaisha Toshiba Image processing device, image processing method, and imaging device
US9664943B2 (en) 2013-01-11 2017-05-30 Samsung Display Co., Ltd. Display device and driving method of the same
US10368041B2 (en) 2016-03-01 2019-07-30 Canon Kabushiki Kaisha Imaging device, imaging system, and image processing method

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8571312B2 (en) * 2009-01-16 2013-10-29 Samsung Electronics Co., Ltd. Image interpolation method and apparatus using pattern characteristics of color filter array
JP5454075B2 (ja) * 2009-10-20 2014-03-26 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
JP5724185B2 (ja) * 2010-03-04 2015-05-27 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
JP6115214B2 (ja) * 2012-05-22 2017-04-19 株式会社リコー パターン処理装置、パターン処理方法、パターン処理プログラム
WO2014055011A1 (en) * 2012-10-01 2014-04-10 Delaval Holding Ab Optical device for detecting abnormalities in milk
US8866944B2 (en) 2012-12-28 2014-10-21 Visera Technologies Company Limited Method for correcting pixel information of color pixels on a color filter array of an image sensor
JP5780259B2 (ja) * 2013-03-26 2015-09-16 ソニー株式会社 情報処理装置、情報処理方法、プログラム
KR102087986B1 (ko) * 2013-10-04 2020-03-11 삼성전자주식회사 이미지 데이터를 처리하는 방법 및 장치
CN103905802B (zh) * 2014-04-21 2016-07-13 浙江宇视科技有限公司 一种基于p模式色彩滤镜阵列的去马赛克方法及装置
WO2016084257A1 (ja) * 2014-11-28 2016-06-02 オリンパス株式会社 内視鏡装置
KR102286136B1 (ko) 2014-12-01 2021-08-06 에스케이하이닉스 주식회사 컬러 필터 어레이, 이를 포함하는 이미지 센서 및 이를 이용한 적외선 정보 획득 방법
EP3043558B1 (en) 2014-12-21 2022-11-02 Production Resource Group, L.L.C. Large-format display systems having color pixels and white pixels
JP6622481B2 (ja) * 2015-04-15 2019-12-18 キヤノン株式会社 撮像装置、撮像システム、撮像装置の信号処理方法、信号処理方法
US10024876B2 (en) 2015-06-05 2018-07-17 Apple Inc. Pedestrian velocity estimation
KR102070322B1 (ko) 2015-08-28 2020-01-28 삼성전자주식회사 디스플레이 장치 및 그 디스플레이 패널 구동 방법
US10359289B2 (en) 2015-09-02 2019-07-23 Apple Inc. Device state estimation under periodic motion
US10345426B2 (en) 2015-09-02 2019-07-09 Apple Inc. Device state estimation under pedestrian motion with swinging limb
US10895626B2 (en) * 2015-09-02 2021-01-19 Apple Inc. Device state estimation with body-fixed assumption
KR102329440B1 (ko) 2015-10-01 2021-11-19 에스케이하이닉스 주식회사 칼라 필터 어레이의 변환 방법 및 장치
KR102582156B1 (ko) * 2015-12-01 2023-09-25 엘지디스플레이 주식회사 표시장치 및 이의 구동방법
US10148926B2 (en) * 2015-12-07 2018-12-04 Samsung Electronics Co., Ltd. Imaging apparatus and image processing method of thereof
WO2017154293A1 (ja) * 2016-03-09 2017-09-14 ソニー株式会社 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
CN107644398B (zh) * 2017-09-25 2021-01-26 上海兆芯集成电路有限公司 图像插补方法及其相关图像插补装置
KR102376471B1 (ko) * 2018-03-19 2022-03-21 한국전자통신연구원 픽셀들로부터 출력된 신호들의 크기들에 기반하여 이미지의 윤곽을 추출하기 위한 이미지 센서 및 방법
CN108769510B (zh) * 2018-05-02 2021-03-23 Oppo广东移动通信有限公司 图像处理方法、装置、计算机可读存储介质和电子设备
KR20210112042A (ko) * 2020-03-04 2021-09-14 에스케이하이닉스 주식회사 이미지 센싱 장치 및 그의 동작 방법
CN111355937B (zh) * 2020-03-11 2021-11-16 北京迈格威科技有限公司 图像处理方法、装置和电子设备
CN112101294B (zh) * 2020-09-29 2022-08-09 支付宝(杭州)信息技术有限公司 针对图像识别模型的增强训练方法及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007288395A (ja) * 2006-04-14 2007-11-01 Sony Corp 撮像装置
JP2007306447A (ja) * 2006-05-15 2007-11-22 Sony Corp 撮像装置、および画像処理方法、並びにコンピュータ・プログラム
JP2008219598A (ja) * 2007-03-06 2008-09-18 Sony Corp 固体撮像装置、撮像装置
JP2009017544A (ja) * 2007-06-07 2009-01-22 Toshiba Corp 撮像装置
JP2011055038A (ja) * 2009-08-31 2011-03-17 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030117507A1 (en) * 2001-12-21 2003-06-26 Nasser Kehtarnavaz Color filter array interpolation
JP4065155B2 (ja) 2002-07-12 2008-03-19 オリンパス株式会社 画像処理装置および画像処理プログラム
US8264576B2 (en) * 2007-03-05 2012-09-11 DigitalOptics Corporation Europe Limited RGBW sensor array
US7477803B2 (en) * 2003-09-12 2009-01-13 Canon Kabushiki Kaisha Image processing apparatus
US7412092B2 (en) * 2003-10-31 2008-08-12 Sony Corporation Image processing apparatus, image processing method, and program
JP4600011B2 (ja) * 2004-11-29 2010-12-15 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
KR100708465B1 (ko) * 2005-02-03 2007-04-18 삼성전자주식회사 컬러 상관 유사도와 다방향 에지 정보를 이용한 컬러 필터보간 방법
US7830430B2 (en) 2005-07-28 2010-11-09 Eastman Kodak Company Interpolation of panchromatic and color pixels
US8274715B2 (en) 2005-07-28 2012-09-25 Omnivision Technologies, Inc. Processing color and panchromatic pixels
JP5006067B2 (ja) * 2006-06-29 2012-08-22 オリンパス株式会社 画像処理装置、画像処理プログラム、画像処理方法
JP4983141B2 (ja) * 2006-08-04 2012-07-25 ソニー株式会社 カラーフィルタ
US7835569B2 (en) * 2006-10-13 2010-11-16 Apple Inc. System and method for raw image processing using conversion matrix interpolated from predetermined camera characterization matrices
KR100866187B1 (ko) * 2007-02-22 2008-10-30 삼성전자주식회사 영역 적응적 방향성 색 보간 방법
JP4341695B2 (ja) * 2007-05-17 2009-10-07 ソニー株式会社 画像入力処理装置、撮像信号処理回路、および、撮像信号のノイズ低減方法
JP5041886B2 (ja) * 2007-06-13 2012-10-03 オリンパス株式会社 画像処理装置、画像処理プログラム、画像処理方法
JP4893489B2 (ja) * 2007-06-15 2012-03-07 ソニー株式会社 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体
KR100992362B1 (ko) * 2008-12-11 2010-11-04 삼성전기주식회사 컬러 보간 장치
KR101580168B1 (ko) * 2008-12-30 2015-12-24 주식회사 동부하이텍 컬러 보간 장치
JP5454075B2 (ja) * 2009-10-20 2014-03-26 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
US8891866B2 (en) * 2011-08-31 2014-11-18 Sony Corporation Image processing apparatus, image processing method, and program
TWI524782B (zh) * 2013-01-17 2016-03-01 瑞昱半導體股份有限公司 影像處理裝置與影像處理方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007288395A (ja) * 2006-04-14 2007-11-01 Sony Corp 撮像装置
JP2007306447A (ja) * 2006-05-15 2007-11-22 Sony Corp 撮像装置、および画像処理方法、並びにコンピュータ・プログラム
JP2008219598A (ja) * 2007-03-06 2008-09-18 Sony Corp 固体撮像装置、撮像装置
JP2009017544A (ja) * 2007-06-07 2009-01-22 Toshiba Corp 撮像装置
JP2011055038A (ja) * 2009-08-31 2011-03-17 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2013161349A1 (ja) * 2012-04-24 2015-12-24 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
KR20130137449A (ko) * 2012-06-07 2013-12-17 삼성테크윈 주식회사 멀티 대역 필터 어레이 기반 카메라 시스템 및 그의 영상 처리 방법
KR101695252B1 (ko) 2012-06-07 2017-01-13 한화테크윈 주식회사 멀티 대역 필터 어레이 기반 카메라 시스템 및 그의 영상 처리 방법
US9664943B2 (en) 2013-01-11 2017-05-30 Samsung Display Co., Ltd. Display device and driving method of the same
US9378540B2 (en) 2014-02-06 2016-06-28 Kabushiki Kaisha Toshiba Image processing device, image processing method, and imaging device
JP2015195844A (ja) * 2014-03-31 2015-11-09 富士フイルム株式会社 内視鏡システム、プロセッサ装置、光源装置、内視鏡システムの作動方法、プロセッサ装置の作動方法、光源装置の作動方法
US10368041B2 (en) 2016-03-01 2019-07-30 Canon Kabushiki Kaisha Imaging device, imaging system, and image processing method

Also Published As

Publication number Publication date
KR20120081018A (ko) 2012-07-18
US20120257821A1 (en) 2012-10-11
US8755640B2 (en) 2014-06-17
KR101633946B1 (ko) 2016-06-27
JP5454075B2 (ja) 2014-03-26
EP2352301A1 (en) 2011-08-03
CN102273208A (zh) 2011-12-07
US20140240567A1 (en) 2014-08-28
EP2352301A4 (en) 2012-11-21
WO2011048870A1 (ja) 2011-04-28
CN102273208B (zh) 2014-08-20
US9609291B2 (en) 2017-03-28
EP2352301B1 (en) 2018-04-18

Similar Documents

Publication Publication Date Title
JP5454075B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP5724185B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP5326943B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
US9542759B2 (en) Image processing device, method of processing image, and image processing program including false color correction
US8837853B2 (en) Image processing apparatus, image processing method, information recording medium, and program providing image blur correction
JP5904213B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP5672776B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
RU2527198C2 (ru) Устройство обработки изображения и способ управления устройством обработки изображения
WO2013031367A1 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP2012239103A (ja) 画像処理装置、および画像処理方法、並びにプログラム
KR20040066051A (ko) 가중 그래디언트 기반 및 컬러 수정 보간
JP2010016814A (ja) 画像処理装置、画像処理方法およびコンピューター読み取り可能な媒体
US8379977B2 (en) Method for removing color fringe in digital image
JP2013055623A (ja) 画像処理装置、および画像処理方法、情報記録媒体、並びにプログラム
KR20060078646A (ko) 디지털 촬영장치의 색상 보간법
US20190355105A1 (en) Method and device for blind correction of lateral chromatic aberration in color images
US9401006B2 (en) Image processing apparatus, image processing method, and storage medium
KR101327790B1 (ko) 영상 보간 방법 및 장치
Battiato et al. Recent patents on color demosaicing
JP2013055622A (ja) 画像処理装置、および画像処理方法、情報記録媒体、並びにプログラム
JP2012100215A (ja) 画像処理装置、撮像装置および画像処理プログラム
JP2009182733A (ja) 画像データ生成方法および画像データ生成装置、並びに情報コード読取装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120905

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131001

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131223

LAPS Cancellation because of no payment of annual fees