JP2011091483A - 画像処理装置、および画像処理方法、並びにプログラム - Google Patents
画像処理装置、および画像処理方法、並びにプログラム Download PDFInfo
- Publication number
- JP2011091483A JP2011091483A JP2009241239A JP2009241239A JP2011091483A JP 2011091483 A JP2011091483 A JP 2011091483A JP 2009241239 A JP2009241239 A JP 2009241239A JP 2009241239 A JP2009241239 A JP 2009241239A JP 2011091483 A JP2011091483 A JP 2011091483A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- edge
- unit
- pixels
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims description 9
- 238000012545 processing Methods 0.000 claims abstract description 353
- 238000000034 method Methods 0.000 claims abstract description 311
- 239000000203 mixture Substances 0.000 claims abstract description 128
- 238000003708 edge detection Methods 0.000 claims abstract description 63
- 238000001514 detection method Methods 0.000 claims abstract description 53
- 230000008569 process Effects 0.000 claims description 292
- 238000006243 chemical reaction Methods 0.000 claims description 194
- 238000002156 mixing Methods 0.000 claims description 24
- 239000003086 colorant Substances 0.000 claims description 14
- 238000004458 analytical method Methods 0.000 claims description 4
- 241001475178 Dira Species 0.000 description 37
- LXMSZDCAJNLERA-ZHYRCANASA-N spironolactone Chemical compound C([C@@H]1[C@]2(C)CC[C@@H]3[C@@]4(C)CCC(=O)C=C4C[C@H]([C@@H]13)SC(=O)C)C[C@@]21CCC(=O)O1 LXMSZDCAJNLERA-ZHYRCANASA-N 0.000 description 37
- 230000014509 gene expression Effects 0.000 description 23
- 230000006870 function Effects 0.000 description 18
- 238000003384 imaging method Methods 0.000 description 17
- 230000009467 reduction Effects 0.000 description 10
- 230000008859 change Effects 0.000 description 8
- 238000012937 correction Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 7
- 230000002146 bilateral effect Effects 0.000 description 5
- 230000005484 gravity Effects 0.000 description 4
- 230000004075 alteration Effects 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 230000007423 decrease Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
- H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
- H01L27/144—Devices controlled by radiation
- H01L27/146—Imager structures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4015—Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/40—Picture signal circuits
- H04N1/409—Edge or detail enhancement; Noise or error suppression
- H04N1/4092—Edge or detail enhancement
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/133—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Power Engineering (AREA)
- Condensed Matter Physics & Semiconductors (AREA)
- Computer Hardware Design (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Electromagnetism (AREA)
- Facsimile Image Signal Circuits (AREA)
- Image Processing (AREA)
- Color Television Image Signal Generators (AREA)
- Color Image Communication Systems (AREA)
Abstract
【解決手段】エッジ検出部がRGBW配列の撮像素子の出力信号を解析して各画素対応のエッジ情報を取得し、テクスチャ検出部がテクスチャ情報を生成する。さらにパラメータ算出部が変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理を実行して補間画素値に相当するパラメータを生成する。ブレンド処理部において、パラメータ算出部の生成したパラメータと、エッジ情報およびテクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定する。
【選択図】図6
Description
図1(b)に示すようなホワイト(W:White)画素を持つカラーフィルタを持つ撮像素子(イメージセンサ)を用いることで、フィルタの透過光率が高くなり、高感度化が実現できる。
図1(a)に示すRGB配列、あるいは図1(b)に示すRGBW配列のいずれも、R,G,B,Wいずれかのフィルタをモザイク状に配列した一枚の素子、すなわち単板型イメージセンサである。従ってカラー画像を生成する際には、各画素に対応するRGB画素値を生成するカラーコーディングとしてのデモザイク処理が必要となる。
輝度信号の主成分となる画素が市松状に配置され、残りの部分に色情報成分となる複数色の画素が配置された2次元画素配列信号を解析して画素変換を行うデータ変換処理部を有する画像処理装置にある。
RGB画素とホワイト(W)画素からなるRGBW配列信号を解析して各画素対応のエッジ方向および強度情報を含むエッジ情報を生成するエッジ検出部と、
前記RGBW配列信号を解析して各画素対応のテクスチャ度合いを示すテクスチャ情報を生成するテクスチャ検出部と、
RGBW配列をRGB配列に変換するためのパラメータを算出するパラメータ算出部であり、変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理により算出した補間画素値に相当するパラメータを生成するパラメータ算出部と、
前記パラメータ算出部の算出したパラメータと、前記エッジ情報および前記テクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、前記パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定するブレンド処理部と、
を有する。
画像処理装置において画像信号処理を実行する画像処理方法であり、
エッジ検出部が、RGB画素とホワイト(W)画素からなるRGBW配列信号を解析して各画素対応のエッジ方向および強度情報を含むエッジ情報を生成するエッジ検出ステップと、
テクスチャ検出部が、前記RGBW配列信号を解析して各画素対応のテクスチャ度合いを示すテクスチャ情報を生成するテクスチャ検出ステップと、
パラメータ算出部が、RGBW配列をRGB配列に変換するためのパラメータを算出するパラメータ算出部であり、変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理により算出した補間画素値に相当するパラメータを生成するパラメータ算出ステップと、
ブレンド処理部が、前記パラメータ算出部の算出したパラメータと、前記エッジ情報および前記テクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、前記パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定するブレンド処理ステップと、
を有する画像処理方法にある。
画像処理装置において画像信号処理を実行させるプログラムであり、
エッジ検出部に、RGB画素とホワイト(W)画素からなるRGBW配列信号を解析して各画素対応のエッジ方向および強度情報を含むエッジ情報を生成させるエッジ検出ステップと、
テクスチャ検出部に、前記RGBW配列信号を解析して各画素対応のテクスチャ度合いを示すテクスチャ情報を生成させるテクスチャ検出ステップと、
パラメータ算出部に、RGBW配列をRGB配列に変換するためのパラメータを算出させるパラメータ算出ステップであり、変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理により算出した補間画素値に相当するパラメータを生成させるパラメータ算出ステップと、
ブレンド処理部に、前記パラメータ算出部の算出したパラメータと、前記エッジ情報および前記テクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、前記パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定させるブレンド処理ステップと、
を実行させるプログラムにある。
1.本発明の処理の概要について
2.撮像装置および画像処理装置の構成例および処理例について
3.データ変換処理部の処理の詳細について
3−1.ノイズ除去部の処理について
3−2.エッジ検出部の処理について
3−3.テクスチャ検出部の処理について
3−4.画素補間パラメータ算出部の処理について
3−5.ブレンド処理部の処理について
4.画像処理装置のデータ変換処理部が実行するリモザイク処理シーケンス
まず、図2を参照して本発明の撮像装置等の画像処理装置が実行する処理の概要について説明する。本発明の画像処理装置は、RGB各色の波長光を選択的に透過するRGBフィルタに加え、RGB各波長光をすべて透過するホワイト(W:White)を含むRGBW型のカラーフィルタを持つ撮像素子(イメージセンサ)の取得データに対する処理を行う。具体的には、輝度信号の主成分となる画素が市松状に配置され、残りの部分に色情報成分となる複数色の画素が配置された2次元画素配列信号を解析して画素変換を行う。なお、輝度信号の主成分となる色は、白色または緑色である。
(a)W画素位置をG画素に変換(G画素値を推定)する=(GonW)
(b)G画素位置をR画素に変換(R画素値を推定)する=(RonG)
(c)G画素位置をB画素に変換(B画素値を推定)する=(BonG)
(d)R画素位置をR画素に変換(R画素値を補正)する=(RonR)
(e)B画素位置にB画素に変換(B画素値を補正)する=(BonB)
以下の実施例では、ホワイト(W)を持つRGBW型カラー配列をRGB型カラー配列(ベイヤ配列)に変換するリモザイク処理を実行し、かつ、このリモザイク処理に際して偽色の発生を低減させる処理を実行する構成について説明する。
(a)W画素位置をG画素に変換(G画素値を推定)する=(GonW)
この変換処理を行う場合、入力画素単位である5×5画素の画素パターンには、図3に示す4つの異なるパターン(a1)〜(a4)がある。
図3には、(a1)〜(a4)に、W画素が5×5画素の中心位置となる入力画素単位(処理単位)を示している。左側が、入力画素単位、右側が最終的な処理結果となるRGB配列データである。
(a)W画素位置をG画素に変換(G画素値を推定)する=(GonW)
この処理を実行する。
なお、図3(a1)〜(a4)の右側は、最終的な変化結果を示すものであり、図3(a1)〜(a4)の左側に示す入力画素単位に対しては、中心画素WをG画素に変換する処理のみが実行される。その後、処理単位を1つずつずらして、変換処理(上記(a)〜(e)のいずれかの処理)を実行して図3(a1)〜(a4)の右側に示す最終的な変化結果が得られる。
(b)G画素位置をR画素に変換(R画素値を推定)する=(RonG)
(c)G画素位置をB画素に変換(B画素値を推定)する=(BonG)
(d)R画素位置をR画素に変換(R画素値を補正)する=(RonR)
(e)B画素位置にB画素に変換(B画素値を補正)する=(BonB)
これらの変換処理を行う場合の、入力画素単位(処理単位)と変換処理の最終出力との関係は、図4(b)〜(e)に示す通りである。
図5、図6を参照して、本発明の一実施例に係る撮像装置および画像処理装置の構成例及び処理例について説明する。
図5は、本発明の一実施例に係る撮像装置100の構成例を示す図である。撮像装置100は、光学レンズ105、撮像素子(イメージセンサ)110、信号処理部120、メモリ130、制御部140を有する。なお、撮像装置は画像処理装置の一態様である。画像処理装置には、例えばPCなどの装置も含まれる。PC等の画像処理装置は、図3に示す撮像装置100の光学レンズ105、撮像素子110を持たず、その他の構成要素から構成され、撮像素子100の取得データの入力部、または記憶部を持つ構成となる。具体的には撮像装置100は、スチルカメラ、ビデオカメラなどであり、画像処理装置100にはPCなど画像処理の可能な情報処理装置が含まれる。
撮像素子(イメージセンサ)110は、
赤色近傍の波長を透過する赤(R)、
緑色近傍の波長を透過する緑(G)、
青色近傍の波長を透過する青(B)、
これらに加え、
とRGBのすべてを透過するホワイト(W)、
これら4種類の分光特性を持つフィルタを備えた撮像素子である。
データ変換処理部200は、先に図2を参照して説明したように、RGBW配列181からRGB配列182への変換処理を実行する。この変換処理に際しては、前述のように、
W画素位置をG画素に変換(G画素値を推定)する=(GonW)
G画素位置をR画素に変換(R画素値を推定)する=(RonG)
G画素位置をB画素に変換(B画素値を推定)する=(BonG)
R画素位置をR画素に変換(R画素値を補正)する=(RonR)
B画素位置にB画素に変換(B画素値を補正)する=(BonB)
これら5つの変換や補正処理を実行する。
この変換/補正処理に際して、偽色を抑制するための処理を併せて実行する。
第1画素補間パラメータ算出部(GonW)202は、W画素をG画素に変換する処理に適用するパラメータの算出処理を実行する。
第1仮画素設定部(RBonWaroundG)203は、G画素に隣接するW画素位置をR画素またはB画素に変換する処理の事前処理としてG画素周囲のW画素をRまたはB画素の仮画素(R')(B')に変換する処理を実行する。
第2画素補間パラメータ算出部(RBonGofHV)204は、G画素をR画素、またはB画素に変換する処理に適用するパラメータとして、縦または横エッジ対応のパラメータを算出する。
第3画素補間パラメータ算出部(RBonGofAD)205は、G画素をR画素、またはB画素に変換する処理に適用するパラメータとして、斜めエッジ対応のパラメータを算出する。
第2仮画素設定部(RBonWaroundRB)206は、R画素またはB画素に隣接するW画素位置をR画素またはB画素に変換する処理の事前処理としてRまたはB画素周囲のW画素をRまたはB画素の仮画素(R')(B')に変換する処理を実行する
第4画素補間パラメータ算出部(RBonRBofHV)207は、R画素をR画素に、またはB画素をB画素に変換する処理に適用するパラメータとして、縦または横エッジ対応のパラメータを算出する。
第5画素補間パラメータ算出部(RBonRBofAD)208は、R画素をR画素に、またはB画素をB画素に変換する処理に適用するパラメータとして、斜めエッジ対応のパラメータを算出する。
テクスチャ検出部210は、W画素を用いてテクスチャの検出処理を実行する。
ブレンド処理部211は、上記の各処理で出力された画素をブレンドする処理を実行する。
次に、図6に示すデータ変換処理部200を構成する各処理部が実行する処理の詳細について説明する。
(3−1.ノイズ除去部の処理について)
まず、ノイズ除去部201の処理について図7を参照して説明する。ノイズ除去部201は、入力画素単位(5×5画素)の中心画素がW画素であるデータに対してノイズ除去処理を実行する。ノイズ除去は、入力画素単位の中心にあるW画素に対するノイズ低減画素値の算出処理として行われる。
(a)処理対象データ
(b)ノイズ低減画素値算出式
(c)関数φ(r)の線形近似例
これらを示している。
Ωpは、処理対象データ301である入力画素単位(5×5画素)に含まれる画素の集合であり、I(q)はその画素値、I(p)は中心画素p(=W画素)の画素値である。
関数φ(r)は、一般的には指数関数を用いる。しかし、演算量を抑えるために、図7(3)に示すように線形近似した関数としてもよい。
図7(3)に示す線形近似は、閾値としてTh1=2.0、Th2=3.0を設定し、
r=0〜Th1(2.0)→φ(r)=1.0
r=Th1(2.0)〜Th2(3.0)→φ(r)=1.0〜0(線形変化)
r=Th2以上→φ(r)=0
このような設定の線形近似例である。
次に、エッジ検出部209の処理について説明する。エッジ検出部209は、入力信号であるRGBW配列に含まれる離散的なホワイト(W)信号を検証して、画像に含まれるエッジ情報、例えばエッジ方向とエッジ強度を含むエッジ情報を生成してブレンド処理部211、さらに複数の画素補間パラメータ算出部に出力する。
(a)W画素である場合と、
(b)W以外の画素である場合、
これらの2通りがある。なお、図8においてグレーで示す画素がW画素であり、その他はRGBいずれかの画素に対応する。
これら(a),(b)2種類のケースに対して、それぞれ異なる算出式を用いてエッジ方向が、水平、垂直、右斜め上、左斜め上の4方向のいずれであり、またその強度を推定するためのエッジ判定処理を行う。
図9には、
(a)中心画素がW画素の場合
(b)中心画素がW以外の画素の場合
これら(a),(b)の場合におけるエッジ方向およびエッジ強度の判定処理に適用する算出式を示している。適用する算出式は画像の特定方向の画素値の勾配を算出する式であり、以下の各値の算出式である。
gradH:水平方向の勾配絶対値平均
gradV:垂直方向の勾配絶対値平均
gradA:右斜め上方向の勾配絶対値平均
gradD:左斜め上方向の勾配絶対値平均
これらのgradH、gradV、gradA、gradDは、それぞれ異なる方向の画素値の勾配(差分)の絶対値の平均値に相当する。以下、具体的な算出処理について説明する。
まず、中心画素がW画素の場合の処理について図9(a)を参照して説明する。図9(a)には(a1)〜(a4)に中心画素がW画素の場合のgradH、gradV、gradA、gradDの算出処理例を示している。
二重丸[◎]で示す位置が7×7画素における中心画素位置である。
また、丸[○]で示す位置がエッジ重心位置である。
図9(a1)に示すように、4×4画素領域の中央部にある2つの水平ラインの水平方向に近接する2つのW画素の差分絶対値の平均値をgradHとして算出する。
図9(a2)に示すように、4×4画素領域の中央部にある2つの垂直ラインの垂直方向に近接する2つのW画素の差分絶対値の平均値をgradVとして算出する。
図9(a3)に示すように、4×4画素領域の中央部にある1つの右斜め上方向ラインの右斜め上方向に近接する2つのW画素の差分絶対値の平均値をgradAとして算出する。
図9(a4)に示すように、4×4画素領域の中央部にある1つの左斜め上方向ラインの左斜め上方向に近接する2つのW画素の差分絶対値の平均値をgradDとして算出する。
垂直方向の勾配絶対値平均gradVの値が大きい程、水平方向のエッジ強度が大である可能性が高い。
右斜め上方向の勾配絶対値平均gradAの値が大きい程、左斜め上方向のエッジ強度が大である可能性が高い。
左斜め上方向の勾配絶対値平均gradDの値が大きい程、右斜め上方向のエッジ強度が大である可能性が高い。
このように、gradH、gradV、gradA、gradDの各値の算出値に基づいてエッジ方向とエッジ強度を判定することができる。
次に、中心画素がW画素以外の場合の処理について図9(b)を参照して説明する。図9(b)には(b1)〜(b4)に中心画素がW画素以外の場合のgradH、gradV、gradA、gradDの算出処理例を示している。
二重丸[◎]で示す位置が7×7画素における中心画素位置である。
また、丸[○]で示す位置がエッジ重心位置である。
図9(b1)に示すように、4×4画素領域の中央部にある2つの水平ラインの水平方向に近接する2つのW画素の差分絶対値の平均値をgradHとして算出する。
図9(b2)に示すように、4×4画素領域の中央部にある2つの垂直ラインの垂直方向に近接する2つのW画素の差分絶対値の平均値をgradVとして算出する。
図9(b3)に示すように、4×4画素領域の中央部にある2つの右斜め上方向ラインの右斜め上方向に近接する2つのW画素の差分絶対値の平均値をgradAとして算出する。
図9(b4)に示すように、4×4画素領域の中央部にある2つの左斜め上方向ラインの左斜め上方向に近接する2つのW画素の差分絶対値の平均値をgradDとして算出する。
垂直方向の勾配絶対値平均gradVの値が大きい程、水平方向のエッジ強度が大である可能性が高い。
右斜め上方向の勾配絶対値平均gradAの値が大きい程、左斜め上方向のエッジ強度が大である可能性が高い。
左斜め上方向の勾配絶対値平均gradDの値が大きい程、右斜め上方向のエッジ強度が大である可能性が高い。
このように、gradH、gradV、gradA、gradDの各値の算出値に基づいてエッジ方向とエッジ強度を推定することができる。
なお、上述のエッジの方向・強度検出方法は一例であり、他のエッジ検出方法を用いた構成としてもよい。例えば、図9を参照して説明したエッジ検出方法は極めて狭い範囲の特定の画素値情報を用いており、ノイズが大きいときには誤判定を起こすことが予想される。この誤判定を防止したエッジ情報の取得処理例について、図10を参照して説明する。
(1)水平・垂直成分エッジ情報取得処理例
(2)斜め成分エッジ情報取得処理例
これらの各処理例を示している。
gradH:水平方向の勾配絶対値平均
gradV:垂直方向の勾配絶対値平均
これらの値を算出する際のエッジ重心に対応する。
gradH:水平方向の勾配絶対値平均
gradV:垂直方向の勾配絶対値平均
これらの値をそれぞれ16個ずつ算出することができる。
gradHi,j
gradVi,j
として示す。これらを用いて、勾配絶対値平均の加重加算値、すなわち、
dirH:水平勾配情報
dirV:垂直勾配情報
これらを、以下の算出式(式4)を用いて算出する。
gradA:右斜め上方向の勾配絶対値平均
gradD:左斜め上方向の勾配絶対値平均
これらの値を算出する際のエッジ重心に対応する。
(i,j)=(0,0)〜(0,4)と、(1,0)〜(4,0)
これらのエッジ重心である。
図9(a3),(a4),(b3),(b4)に示すように、
gradA:右斜め上方向の勾配絶対値平均
gradD:左斜め上方向の勾配絶対値平均
これらの値を算出する最に利用する画素位置は、エッジ重心周りの8画素のみである。従って、図10(2)に示すi=0、j=0の位置にエッジ重心を設定した場合でも、gradA、gradVを算出することができる。
gradA:右斜め上方向の勾配絶対値平均
gradD:左斜め上方向の勾配絶対値平均
これらの値をそれぞれ25個ずつ算出することができる。
gradAi,j
gradDi,j
として示す。これらを用いて、勾配絶対値平均の加重加算値、すなわち、
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらを、以下の算出式(式5)を用いて算出する。
dirH:水平勾配情報
dirV:垂直勾配情報
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらのdirH,dirV,dirA,dirDは、7×7画素領域に含まれる多数の画素値(W画素値)を利用して算出されたエッジ情報である。
従って、図9を参照して説明した少数の画素情報を適用して算出したエッジ情報に比較して、ノイズ等による誤った結果を発生させる可能性が低減される。
なお、上記式および図10に示す重み係数wijの設定例は一例であり、他の平均化係数を用いることも可能である。
(1)水平・垂直成分エッジ情報取得処理例
(2)斜め成分エッジ情報取得処理例
これらの各処理例を示している。
gradH:水平方向の勾配絶対値平均
gradV:垂直方向の勾配絶対値平均
これらの値をそれぞれ4個ずつ算出することができる。
gradHi,j
gradVi,j
として示す。これらを用いて、勾配絶対値平均の加重加算値、すなわち、
dirH:水平勾配情報
dirV:垂直勾配情報
これらを、前述した式(式4)を用いて算出する。
gradA:右斜め上方向の勾配絶対値平均
gradD:左斜め上方向の勾配絶対値平均
これらの値を算出する際のエッジ重心に対応する。
gradA:右斜め上方向の勾配絶対値平均
gradD:左斜め上方向の勾配絶対値平均
これらの値をそれぞれ9個ずつ算出することができる。
gradAi,j
gradDi,j
として示す。これらを用いて、勾配絶対値平均の加重加算値、すなわち、
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらを、前述の算出式(式5)を用いて算出する。
dirH:水平勾配情報
dirV:垂直勾配情報
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらのエッジ情報(dirH,dirV,dirA,dirD)をブレンド処理部211、および複数の画素補間パラメータ算出部に出力する。
次に、テクスチャ検出部210の処理について説明する。テクスチャ検出部210は、入力信号であるRGBW配列に含まれる離散的なホワイト(W)画素を用いてテクスチャの検出処理を実行する。すなわち、各画素対応のテクスチャ情報を検出して検出情報をブレンド処理部211に出力する。
、
具体的には、各画素の近傍画像領域がテクスチャの多い(平坦度の低い)画像であるか、テクスチャの少ない(平坦度の高い)画像であるかを検出してこの検出情報を各画素対応のテクスチャ情報としてブレンド処理部211に出力する。
テクスチャ検出部210は、まず、RGBW配列画像を構成する入力画素単位(5×5画素)毎にW画素の平均値Waveを算出する。
Ωpは、処理対象データである入力画素単位(5×5画素)に含まれる画素の集合、
I(q)はその画素値、
Iave(p)は、図12または図13のフィルタを適用して算出されるW画素平均値(Waveと同一値)、
φ(r)は、予め規定した重み関数、
である。
図7(3)に示す線形近似は、閾値としてTh1=2.0、Th2=3.0を設定し、
r=0〜Th1(2.0)→φ(r)=1.0
r=Th1(2.0)〜Th2(3.0)→φ(r)=1.0〜0(線形変化)
r=Th2以上→φ(r)=0
このような設定の線形近似例である。
weightFlat(x,y)=fflat(WTX(p))
・・・(式7)
fflat(r)は、例えば図14に示すような線形近似関数を用いることができる。
図14に示す線形近似関数は、閾値として0<Th0(FLAT_LIMIT0)<Th1(FLAT_LIMIT1)<1を設定し、
r=0〜Th0→fflat(r)=0
r=Th0〜Th1→fflat(r)=0〜1.0(線形変化)
r=Th1以上→fflat(r)=1
このような設定とした線形近似関数である。
次に、図6のデータ変換処理部200内の第1〜第5画素補間パラメータ算出部202,204,205,207,208、および、第1〜第2仮画素設定部203,206の処理について説明する。これらの各部は以下の処理を実行する。
第1仮画素設定部(RBonWaroundG)203は、G画素に隣接するW画素位置をR画素またはB画素に変換する処理の事前処理としてG画素周囲のW画素をRまたはB画素の仮画素(R')(B')に変換する処理を実行する。
第2画素補間パラメータ算出部(RBonGofHV)204は、G画素をR画素、またはB画素に変換する処理に適用するパラメータとして、縦または横エッジ対応のパラメータを算出する。
第3画素補間パラメータ算出部(RBonGofAD)205は、G画素をR画素、またはB画素に変換する処理に適用するパラメータとして、斜めエッジ対応のパラメータを算出する。
第2仮画素設定部(RBonWaroundRB)206は、R画素またはB画素に隣接するW画素位置をR画素またはB画素に変換する処理の事前処理としてRまたはB画素周囲のW画素をRまたはB画素の仮画素(R')(B')に変換する処理を実行する
第4画素補間パラメータ算出部(RBonRBofHV)207は、R画素をR画素に、またはB画素をB画素に変換する処理に適用するパラメータとして、縦または横エッジ対応のパラメータを算出する。
第5画素補間パラメータ算出部(RBonRBofAD)208は、R画素をR画素に、またはB画素をB画素に変換する処理に適用するパラメータとして、斜めエッジ対応のパラメータを算出する。
まず、第1画素補間パラメータ算出部(GonW)202の処理について説明する。第1画素補間パラメータ算出部(GonW)202は、RGBW配列181のW画素位置に設定するG画素値の算出に適用する補間パラメータを算出する。
まず、7×7の画素領域を処理単位(入力画素単位)として処理を行う場合について図15以下を参照して説明する。
図15に示すように、7×7画素の入力画素単位401に対して図15に示すフィルタ411を適用して、7×7画素の入力画素単位401に対応する低周波成分mWを算出する。ここでG画素に変換する対象となるW画素は、7×7画素の入力画素単位401の中心にある変換対象画素402である。図15に示す入力画素単位401においてグレーで示す画素がW画素である。その他はRGB画素である。同様に、図15に示すフィルタ411においてグレーで示す画素がW画素対応位置である。その他はRGB画素対応位置である。なお、以下の図面においてもW画素またはW画素対応位置はグレーで示し、RGB画素位置または対応位置は白で示す。
(a)入力画素単位401の中心W画素の左にG画素があり、エッジ方向が横(h)方向の場合
(b)入力画素単位401の中心W画素の左にG画素があり、エッジ方向が縦(v)方向の場合
(c)入力画素単位401の中心W画素の右にG画素があり、エッジ方向が横(h)方向の場合
(d)入力画素単位401の中心W画素の右にG画素があり、エッジ方向が縦(v)方向の場合
これらの4種類のパターンに応じて、図16、図17に示すフィルタ421,422,425,426を使い分ける。
(b)入力画素単位401の中心W画素の左にG画素があり、エッジ方向が縦(v)方向の場合は、図16(b)に示すような係数設定のフィルタ422を適用して、G信号の低周波成分mG_vを算出する。フィルタ係数を示す数値を示している画素がG画素対応位置である。フィルタ422の中心は、変換対象画素対応位置424である。
(d)入力画素単位401の中心W画素の右にG画素があり、エッジ方向が縦(v)方向の場合は、図17(d)に示すような係数設定のフィルタ426を適用して、G信号の低周波成分mG_vを算出する。フィルタ係数を示す数値を示している画素がG画素対応位置である。フィルタ426の中心は、変換対象画素対応位置428である。
GonW=(mG/mW)w
これは、W画素値とG画素値の局所領域では比率が一定であることを仮定した画素値推定方法である。
mGは、図16、図17を参照して説明した処理によって算出されるG信号の低周波成分mGである。mGは、入力画素単位401の構成、エッジ方向に応じて異なる値が適用される。
変換対象画素位置のW信号の画素値をw、変換対象画素位置に設定すべきG信号の画素値をGonWとする。変換後のG画素値GonWは以下の式に従って算出できる。
GonW=fcontrast(mG,mW,w,k)
fcontrast(mG,mW,w,k)
=k(mG/mW)(w−mW)+mG)・・・(≧0)
=0・・・(<0)
mWは、図15を参照して説明した処理によって算出されるW信号の低周波成分mWである。
mGは、図16、図17を参照して説明した処理によって算出されるG信号の低周波成分mGである。mGは、入力画素単位401の構成、エッジ方向に応じて異なる値(mG_h,mG_v)が適用される。
(a)GonW(H)=(mG_h/mW)w
(b)GonW(V)=(mG_v/mW)w
(c)GonWn(H)=(mG_h/mW)w
(d)GonWn(V)=(mG_v/mW)w
(a)GonW(H)=(mG_h/mW)w
(b)GonW(V)=(mG_v/mW)w
これらは、コントラスト強調を適用して算出する値である。
一方、
(c)GonWn(H)=(mG_h/mW)w
(d)GonWn(V)=(mG_v/mW)w
これらは、コントラスト強調を適用しないで算出する値である。
第1画素補間パラメータ算出部202は、これらの補間パラメータを算出してブレンド処理部211に出力する。
ブレンド処理部は、これらのパラメータを適用したブレンド処理を実行して、最終的なG画素値、すなわちRGBW配列におけるW画素位置に設定するG画素値を決定する。このブレンド処理については後述する。
(a)入力画素単位431の中心W画素の左にG画素があり、エッジ方向が横(h)方向の場合は、図20(a)に示すような係数設定のフィルタ451を適用して、G信号の低周波成分mG_hを算出する。フィルタ係数を示す数値を示している画素がG画素対応位置である。フィルタ451の中心は、変換対象画素対応位置453である。
(b)入力画素単位431の中心W画素の左にG画素があり、エッジ方向が縦(v)方向の場合は、図20(b)に示すような係数設定のフィルタ452を適用して、G信号の低周波成分mG_vを算出する。フィルタ係数を示す数値を示している画素がG画素対応位置である。フィルタ452の中心は、変換対象画素対応位置454である。
(d)入力画素単位431の中心W画素の右にG画素があり、エッジ方向が縦(v)方向の場合は、図21(d)に示すような係数設定のフィルタ456を適用して、G信号の低周波成分mG_vを算出する。フィルタ係数を示す数値を示している画素がG画素対応位置である。フィルタ456の中心は、変換対象画素対応位置458である。
(a)GonW(H)=(mG_h/mW)w
(b)GonW(V)=(mG_v/mW)w
(c)GonWn(H)=(mG_h/mW)w
(d)GonWn(V)=(mG_v/mW)w
次に、第1仮画素設定部(RBonWaroundG)203の処理について説明する。第1仮画素設定部(RBonWaroundG)203は、図6に示す構成図から理解されるように、第2画素補間パラメータ算出部(RBonGofHV)204と、第3画素補間パラメータ算出部(RBonGofAD)205の前段に設定されている。
R12'=(mR'/mW)w12、
R21'=(mR'/mW)w21、
R32'=(mR'/mW)w32、
R23'=(mR'/mW)w23、
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のW画素値である。
B12'=(mB'/mW)w12、
B21'=(mB'/mW)w21、
B32'=(mB'/mW)w32、
B23'=(mB'/mW)w23、
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のW画素値である。
次に、第2画素補間パラメータ算出部(RBonGofHV)204の処理について説明する。第2画素補間パラメータ算出部(RBonGofHV)204は、G画素をR画素、またはB画素に変換する処理に適用するパラメータとして、縦または横エッジ対応のパラメータを算出する。
dirH:水平勾配情報
dirV:垂直勾配情報
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらのエッジ情報(dirH,dirV,dirA,dirD)を、各画素対応のエッジ情報として生成する。第2画素補間パラメータ算出部(RBonGofHV)204は、変換対象とするG画素対応のこれらのエッジ情報を入力する。
図25(a)に示すように、フィルタ531を適用して、中央位置の変換対象画素502の横に隣接する2つのW画素の画素値の平均を算出して、変換対象画素502のW画素値(W_h)とする。
図25(b)に示すように、フィルタ532を適用して、中央位置の変換対象画素502の縦に隣接する2つのW画素の画素値の平均を算出して、変換対象画素502のW画素値(W_v)とする。
図25(c)に示すように、フィルタ533を適用して、中央位置の変換対象画素502の縦横に隣接する4つのW画素の画素値の平均を算出して、変換対象画素502のW画素値(W_n)とする。
RonG(H)=(mR/mW)(w_h)
RonG(V)=(mR/mW)(w_v)
RonGn=(mR/mW)(w_n)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位501の中央位置にある変換対象画素502であるG画素位置をR画素に変換する際にR画素値を決定する処理に適用される。ブレンド処理部211の処理については後段で説明する。
BonG(H)=(mB/mW)(w_h)
BonG(V)=(mB/mW)(w_v)
BonGn=(mB/mW)(w_n)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位501の中央位置にある変換対象画素502であるG画素位置をB画素に変換する際にB画素値を決定する処理に適用される。
RonG(H)=(mR/mW)(w_h)
RonG(V)=(mR/mW)(w_v)
RonGn=(mR/mW)(w_n)
BonG(H)=(mB/mW)(w_h)
BonG(V)=(mB/mW)(w_v)
BonGn=(mB/mW)(w_n)
これらのパラメータを算出してブレンド処理部211に出力する。
次に、第3画素補間パラメータ算出部(RBonGofAD)205の処理について説明する。第3画素補間パラメータ算出部(RBonGofAD)205は、G画素をR画素、またはB画素に変換する処理に適用するパラメータとして、斜めエッジ対応のパラメータを算出する。
dirH:水平勾配情報
dirV:垂直勾配情報
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらのエッジ情報(dirH,dirV,dirA,dirD)を、各画素対応のエッジ情報として生成する。第3画素補間パラメータ算出部(RBonGofAD)205は、変換対象とするG画素対応のこれらのエッジ情報を入力する。
RonG(A)=(mR/mW)(w_a)
RonG(D)=(mR/mW)(w_d)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位501の中央位置にある変換対象画素502であるG画素位置をR画素に変換する際にR画素値を決定する処理に適用される。ブレンド処理部211の処理については後段で説明する。
BonG(A)=(mB/mW)(w_a)
BonG(D)=(mB/mW)(w_d)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位501の中央位置にある変換対象画素502であるG画素位置をB画素に変換する際にB画素値を決定する処理に適用される。
RonG(A)=(mR/mW)(w_a)
RonG(D)=(mR/mW)(w_d)
BonG(A)=(mB/mW)(w_a)
BonG(D)=(mB/mW)(w_d)
これらのパラメータを算出してブレンド処理部211に出力する。
次に、第2仮画素設定部(RBonWaroundRB)206の処理について説明する。第2仮画素設定部(RBonWaroundRB)206は、図6に示す構成図から理解されるように、第4画素補間パラメータ算出部(RBonRBofHV)207と、第5画素補間パラメータ算出部(RBonRBofAD)208の前段に設定されている。
R12'=(mR'/mW)w12、
R21'=(mR'/mW)w21、
R32'=(mR'/mW)w32、
R23'=(mR'/mW)w23、
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のW画素値である。
B12'=(mB'/mW)w12、
B21'=(mB'/mW)w21、
B32'=(mB'/mW)w32、
B23'=(mB'/mW)w23、
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のW画素値である。
次に、第4画素補間パラメータ算出部(RBonRBofHV)207の処理について説明する。第4画素補間パラメータ算出部(RBonRBofHV)207は、R画素をR画素に、またはB画素をB画素に変換する処理に適用するパラメータとして、縦または横エッジ対応のパラメータを算出する。
dirH:水平勾配情報
dirV:垂直勾配情報
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらのエッジ情報(dirH,dirV,dirA,dirD)を、各画素対応のエッジ情報として生成する。第4画素補間パラメータ算出部(RBonRBofHV)207は、変換対象とするRまたはB画素対応のこれらのエッジ情報を入力する。
図30(a)に示すように、フィルタ631を適用して、中央位置の変換対象画素602の横に隣接する2つのW画素の画素値の平均を算出して、変換対象画素602のW画素値(W_h)とする。
図30(b)に示すように、フィルタ632を適用して、中央位置の変換対象画素602の縦に隣接する2つのW画素の画素値の平均を算出して、変換対象画素602のW画素値(W_v)とする。
図30(c)に示すように、フィルタ633を適用して、中央位置の変換対象画素602の縦横に隣接する4つのW画素の画素値の平均を算出して、変換対象画素602のW画素値(W_n)とする。
RonR(H)=(mR/mW)(w_h)
RonR(V)=(mR/mW)(w_v)
RonRn=(mR/mW)(w_n)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位601の中央位置にある変換対象画素602であるR画素位置をR画素に変換する際に補正したR画素値を決定する処理に適用される。ブレンド処理部211の処理については後段で説明する。
BonB(H)=(mB/mW)(w_h)
BonB(V)=(mB/mW)(w_v)
BonBn=(mB/mW)(w_n)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位601の中央位置にある変換対象画素602であるB画素位置をB画素に変換する際に補正したB画素値を決定する処理に適用される。
RonR(H)=(mR/mW)(w_h)
RonR(V)=(mR/mW)(w_v)
RonRn=(mR/mW)(w_n)
BonB(H)=(mB/mW)(w_h)
BonB(V)=(mB/mW)(w_v)
BonBn=(mB/mW)(w_n)
これらのパラメータを算出してブレンド処理部211に出力する。
次に、第5画素補間パラメータ算出部(RBonRBofAD)208の処理について説明する。第5画素補間パラメータ算出部(RBonRBofAD)208は、R画素を補正したR画素、B画素を補正したB画素に変換する処理に適用するパラメータとして、斜めエッジ対応のパラメータを算出する。
dirH:水平勾配情報
dirV:垂直勾配情報
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらのエッジ情報(dirH,dirV,dirA,dirD)を、各画素対応のエッジ情報として生成する。第5画素補間パラメータ算出部(RBonRBofAD)208は、変換対象とするRまたはB画素対応のこれらのエッジ情報を入力する。
RonR(A)=(mR/mW)(w_a)
RonR(D)=(mR/mW)(w_d)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位601の中央位置にある変換対象画素602であるR画素を補正したR画素に変換する際にR画素値を決定する処理に適用される。ブレンド処理部211の処理については後段で説明する。
BonB(A)=(mB/mW)(w_a)
BonB(D)=(mB/mW)(w_d)
これらのパラメータは、ブレンド処理部211に出力され、ブレンド処理部211において、エッジ状態に応じてブレンド処理が行われ、5×5画素の入力画素単位601の中央位置にある変換対象画素602であるB画素位置を補正したB画素に変換する際にB画素値を決定する処理に適用される。
RonR(A)=(mR/mW)(w_a)
RonR(D)=(mR/mW)(w_d)
BonB(A)=(mB/mW)(w_a)
BonB(D)=(mB/mW)(w_d)
これらのパラメータを算出してブレンド処理部211に出力する。
次に、ブレンド処理部211の処理について説明する。ブレンド処理部211は、第1〜第5画素補間パラメータ算出部の生成した画素補間パラメータを入力し、さらにエッジ検出部209の検出したエッジ情報と、テクスチャ検出部210の検出したテクスチャ情報を入力して、最終的な変換画素値を算出する。
dirH:水平勾配情報
dirV:垂直勾配情報
dirA:右斜め上方向勾配情報
dirD:左斜め上方向勾配情報
これらのエッジ情報(dirH,dirV,dirA,dirD)を入力する。
weightFlat(x,y)=fflat(WTX(p))・・・(式7)
なお、前述したように、上記式(式7)において、fflat(r)は、例えば図14に示すような線形近似関数を用いることができる。図14に示す線形近似関数は、閾値として0<Th0<Th1<1を設定し、
r=0〜Th0→φ(r)=0
r=Th0〜Th1→φ(r)=0〜1.0(線形変化)
r=Th1以上→φ(r)=1
このような設定とした線形近似関数である。
平坦度重み(weightFlat)の値が小さいほど、平坦度が低くテクスチャが多い画像領域であり、平坦度重み(weightFlat)の値が大きいほど、平坦度が高くテクスチャが少ない画像領域である可能性が高いことを示す。
ブレンド処理部211の実行する処理シーケンスについて、図32、図33に示すフローチャートを参照して説明する。
ブレンド処理部211は、エッジ検出部209から入力する画素単位のエッジ情報(dirH,dirV,dirA,dirD)を用いて以下の判定式に従って、画素単位のエッジ方向属性を判定する。
まず、dirHVを以下のように定義する。
dirH≦dirVの場合、
dirHV=H
dirH>dirVの場合、
dirHV=V
dirHVはH(横方向)またはV(縦方向)のいずれかとなる。
dirA≦dirDの場合、
dirAD=A
dirA>dirDの場合、
dirAD=D
dirADはA(右斜め上方向)またはD(左斜め上方向)のいずれかとなる。
これら、dirHV、dirADは、各画素におけるエッジ方向を示す属性情報である。
dirA≦dirDの場合、
ratioHV=(dirD+offset)/(dirA+offset)
dirA>dirDの場合、
ratioHV=(dirA+offset)/(dirD+offset)
なお、
上記式における(offset)は、非負の値であり、ゼロ割りの回避と検出感度の調整のためのパラメータである。
縦横方向エッジ方向重み(weightHV)を算出する。なお、閾値Th0(HV_LIMIT0)、Th1(HV_LIMIT1)は、非線形処理に適用する閾値としての調整用パラメータである。
図32に示す線形近似関数fratio(r)は、閾値として0<Th0(HV_LIMIT0)<Th1(HV_LIMIT1)<1を設定し、
r=0〜Th0(HV_LIMIT0)→fratio(r)=0
r=Th0(HV_LIMIT0)〜Th1(HV_LIMIT1)→fratio(r)=0〜1.0(線形変化)
r=Th1(HV_LIMIT1)以上→fratio(r)=1
このような設定とした線形近似関数である。
W画素位置をG画素に変換(G画素値を推定)する=(GonW)
G画素位置をR画素に変換(R画素値を推定)する=(RonG)
G画素位置をB画素に変換(B画素値を推定)する=(BonG)
R画素位置をR画素に変換(R画素値を補正)する=(RonR)
B画素位置にB画素に変換(B画素値を補正)する=(BonB)
これら5つの変換や補正処理を実行する。
ブレンド処理部211は、これらの最終的な変換画素値を決定する。
GonW=(1−weightFlat)・(GonW(dirHV))+(weightFlat)・(GonWn(dirHV))
・・・・・・(式11)
GonW(dirHV)、
GonWn(dirHV)
これらは、先に説明した第1画素補間パラメータ算出部(GonW)202の算出した補間パラータであり、
(a)GonW(H)=(mG_h/mW)w
(b)GonW(V)=(mG_v/mW)w
(c)GonWn(H)=(mG_h/mW)w
(d)GonWn(V)=(mG_v/mW)w
これらのいずれかの値である。
dirHV=Hであり、
GonW(dirHV)=GonW(H)=(mG_h/mW)w、
GonWn(dirHV)=GonWn(H)=(mG_h/mW)w、
となる。
また、dirH>dirVの場合、ステップS11に示すように、
dirHV=Vであり、
GonW(dirHV)=GonW(V)=(mG_v/mW)w、
GonWn(dirHV)=GonWn(V)=(mG_v/mW)w
となる。
このようにして、RGBW配列のW画素位置をG画素へ変換する場合のG画素値(GonW)を算出する。
(GonW(dirHV)):コントラスト強調を適用して算出した変換G画素値
(GonWn(dirHV)):コントラスト強調を適用しないで算出した変換G画素値
これらの値のブレント比率を変更して最終的な変換G画素値を算出する式である。
このように変換対象画素の平坦度に応じて、ブレンド比率を変更して最終的なG画素値(GonW)を決定する。
まず、以下の式(式21)、(式22)に従って縦横方向エッジ対応の変換画素値(RonG_hv)、斜め方向エッジ対応の変換画素値(RonG_ad)を求める。
RonG_hv=(1−weightFlat)・(RonG(dirHV))+(weightFlat)・(RonGn)
・・・・・・(式21)
RonG_ad=(RonG(dirAD))
・・・・・・(式22)
RonG=(weightHV)・(RonG_hv)+(1−weightHV)RonG_ad
・・・・・・(式23)
このようにして、RGBW配列中のG画素位置をR画素へ変換する場合のR画素値(RonG)の算出処理を行う。
上記式(式21)において、
RonG(dirHV)、
RonGn
これらは、先に説明した第2画素補間パラメータ算出部(RBonGofHV)204の算出した補間パラータであり、縦、または横エッジ上のG画素をR画素に変換する処理に適用する以下のパラメータである。
RonG(H)=(mR/mW)(w_h)
RonG(V)=(mR/mW)(w_v)
RonGn=(mR/mW)(w_n)
dirHV=Hであり、
RonG(dirHV)=RonG(H)=(mR/mW)(w_h)、
また、dirH>dirVの場合、ステップS11に示すように、
dirHV=Vであり、
RonG(dirHV)=RonG(V)=(mR/mW)(w_v)、
となる。
RonG(dirAD)
これは、第3画素補間パラメータ算出部(RBonGofAD)205の算出した補間パラータであり、斜め方向エッジ上のG画素をR画素に変換する処理に適用する以下のパラメータである。
RonG(A)=(mR/mW)(w_a)
RonG(D)=(mR/mW)(w_d)
dirAD=Aであり、
RonG(dirAD)=RonG(A)=(mR/mW)(w_a)、
また、dirA>dirDの場合、ステップS11に示すように、
dirAD=Dであり、
RonG(dirAD)=RonG(D)=(mR/mW)(w_d)、
となる。
変換対象画素の平坦度重み(weightFlat)が大きく、平坦な領域である場合は、先に説明した図25(c)に示すフィルタ533を適用して算出したW画素値(w_n)を利用して推定したR画素値、すなわち、
RonGn=(mR/mW)(w_n)
この値の重みを大きくする。
RonG(H)=(mR/mW)(w_h)
RonG(V)=(mR/mW)(w_v)
これらの値の重みを大きくする。
横方向エッジの場合は、dirH≦dirVとなり、先に説明した図25(a)に示すフィルタ531を適用して算出したW画素値(w_h)を利用して推定したR画素値、すなわち、
RonG(dirHV)=RonG(H)=(mR/mW)(w_h)、
この値が適用される。
また、縦方向エッジの場合は、dirH>dirVとなり、先に説明した図25(b)に示すフィルタ532を適用して算出したW画素値(w_v)を利用して推定したR画素値、すなわち、
RonG(dirHV)=RonG(H)=(mR/mW)(w_v)、
この値が適用される。
RonG_ad=(RonG(dirAD))
であり、第3画素補間パラメータ算出部(RBonGofAD)205の算出した補間パラータ斜め方向エッジ上のG画素をR画素に変換する処理に適用する以下のパラメータ、すなわち、
RonG(A)=(mR/mW)(w_a)
RonG(D)=(mR/mW)(w_d)
これらを選択する式である。
RonG(dirAD)=RonG(D)=(mR/mW)(w_d)、
dirA≦dirDの場合、先に説明した図26(b)に示すフィルタ542を適用して算出したW画素値(w_a)を利用して推定したR画素値、すなわち、
RonG(dirAD)=RonG(A)=(mR/mW)(w_a)、
これらを選択する。
このように式(式22)は、変換対象画素の斜め方向のエッジ方向情報に応じて斜め方向エッジに依存するR画素値(RonG_hv)を算出する算出式である。
RonG=(weightHV)・(RonG_hv)+(1−weightHV)RonG_ad
式21で算出した縦横方向エッジに依存するR画素値(RonG_hv)
式22で算出した斜め方向エッジに依存するR画素値(RonG_ad)
これらを、ステップS12で算出した縦横方向エッジ方向重み(weightHV)に応じてブレンドして最終的なR画素値(RonG)を算出する式である。
式21で算出した縦横方向エッジに依存するR画素値(RonG_hv)の重みが大きく設定される。
また、斜め方向エッジが強く縦横方向エッジ方向重み(weightHV)の値が小さい場合は、
式22で算出した斜め方向エッジに依存するR画素値(RonG_ad)の重みが大きく設定される。
ブレンド処理部211は、まず、以下の式(式31)、(式32)に従って縦横方向エッジ対応の変換画素値(BonG_hv)、斜め方向エッジ対応の変換画素値(BonG_ad)を求める。
BonG_hv=(1−weightFlat)・(BonG(dirHV))+(weightFlat)・(BonGn)
・・・・・・(式31)
BonG_ad=(BonG(dirAD))
・・・・・・(式32)
BonG=(weightHV)・(BonG_hv)+(1−weightHV)BonG_ad
・・・・・・(式33)
このようにして、RGBW配列中のG画素位置をB画素へ変換する場合のB画素値(BonG)の算出処理を行う。
BonG(dirHV)、
BonGn
これらは、先に説明した第2画素補間パラメータ算出部(RBonGofHV)204の算出した補間パラータであり、縦、または横エッジ上のG画素をB画素に変換する処理に適用する以下のパラメータである。
BonG(H)=(mB/mW)(w_h)
BonG(V)=(mB/mW)(w_v)
BonGn=(mB/mW)(w_n)
BonG(dirAD)
これは、第3画素補間パラメータ算出部(RBonGofAD)205の算出した補間パラータであり、斜め方向エッジ上のG画素をR画素に変換する処理に適用する以下のパラメータである。
BonG(A)=(mB/mW)(w_a)
BonG(D)=(mB/mW)(w_d)
式31で算出した縦横方向エッジに依存するB画素値(BonG_hv)
式32で算出した斜め方向エッジに依存するB画素値(BonG_ad)
これらを、ステップS12で算出した縦横方向エッジ方向重み(weightHV)に応じてブレンドして最終的なB画素値(BonG)を算出する式である。
式31で算出した縦横方向エッジに依存するB画素値(BonG_hv)の重みが大きく設定される。
また、斜め方向エッジが強く縦横方向エッジ方向重み(weightHV)の値が小さい場合は、
式32で算出した斜め方向エッジに依存するB画素値(BonG_ad)の重みが大きく設定される。
このように変換対象画素のエッジ向に応じて、ブレンド比率を変更して最終的なB画素値(BonG)を決定する。
RonR_hv=(1−weightFlat)・(RonR(dirHV))+(weightFlat)・(RonRn)
・・・・・・(式41)
RonR_ad=(RonR(dirAD))
・・・・・・(式42)
RonR=(weightHV)・(RonR_hv)+(1−weightHV)RonR_ad
・・・・・・(式43)
このようにして、RGBW配列中のR画素位置をR画素へ変換(補正)する場合のR画素値(RonR)の算出処理を行う。
RonR(dirHV)、
RonRn
これらは、先に説明した第4画素補間パラメータ算出部(RBonRBofHV)207の算出した補間パラータであり、縦、または横エッジ上のR画素をR画素に変換する処理に適用する以下のパラメータである。
RonR(H)=(mR/mW)(w_h)
RonR(V)=(mR/mW)(w_v)
RonRn=(mR/mW)(w_n)
RonR(dirAD)
これは、第5画素補間パラメータ算出部(RBonRBofAD)208の算出した補間パラータであり、斜め方向エッジ上のR画素をR画素に変換する処理に適用する以下のパラメータである。
RonR(A)=(mB/mW)(w_a)
RonR(D)=(mB/mW)(w_d)
式41で算出した縦横方向エッジに依存するR画素値(RonG_hv)
式42で算出した斜め方向エッジに依存するR画素値(RonG_ad)
これらを、ステップS12で算出した縦横方向エッジ方向重み(weightHV)に応じてブレンドして最終的なR画素値(RonR)を算出する式である。
式41で算出した縦横方向エッジに依存するR画素値(RonR_hv)の重みが大きく設定される。
また、斜め方向エッジが強く縦横方向エッジ方向重み(weightHV)の値が小さい場合は、
式42で算出した斜め方向エッジに依存するR画素値(RonR_ad)の重みが大きく設定される。
このように変換対象画素のエッジ向に応じて、ブレンド比率を変更して最終的なR画素値(RonR)を決定する。
BonB_hv=(1−weightFlat)・(BonB(dirHV))+(weightFlat)・(BonBn)
・・・・・・(式51)
BonB_ad=(BonB(dirAD))
・・・・・・(式52)
BonB=(weightHV)・(BonB_hv)+(1−weightHV)BonB_ad
・・・・・・(式53)
このようにして、RGBW配列中のB画素位置をB画素へ変換(補正)する場合のB画素値(BonB)の算出処理を行う。
BonB(dirHV)、
BonBn
これらは、先に説明した第4画素補間パラメータ算出部(RBonRBofHV)207の算出した補間パラータであり、縦、または横エッジ上のB画素をB画素に変換する処理に適用する以下のパラメータである。
BonB(H)=(mB/mW)(w_h)
BonB(V)=(mB/mW)(w_v)
BonBn=(mB/mW)(w_n)
BonB(dirAD)
これは、第5画素補間パラメータ算出部(RBonRBofAD)208の算出した補間パラータであり、斜め方向エッジ上のB画素をB画素に変換する処理に適用する以下のパラメータである。
BonB(A)=(mB/mW)(w_a)
BonB(D)=(mB/mW)(w_d)
式51で算出した縦横方向エッジに依存するB画素値(BonG_hv)
式52で算出した斜め方向エッジに依存するB画素値(BonG_ad)
これらを、ステップS12で算出した縦横方向エッジ方向重み(weightHV)に応じてブレンドして最終的なB画素値(BonB)を算出する式である。
式51で算出した縦横方向エッジに依存するB画素値(BonB_hv)の重みが大きく設定される。
また、斜め方向エッジが強く縦横方向エッジ方向重み(weightHV)の値が小さい場合は、
式52で算出した斜め方向エッジに依存するB画素値(BonB_ad)の重みが大きく設定される。
このように変換対象画素のエッジ向に応じて、ブレンド比率を変更して最終的なB画素値(BonB)を決定する。
W画素位置をG画素に変換(G画素値を推定)する際のG画素値(GonW)
G画素位置をR画素に変換(R画素値を推定)する際のR画素値(RonG)
G画素位置をB画素に変換(B画素値を推定)する際のB画素値(BonG)
R画素位置をR画素に変換(R画素値を補正)する際のR画素値(RonR)
B画素位置にB画素に変換(B画素値を補正)する際のB画素値(BonB)
これら5つの変換や補正画素値を決定する。
RonG=(weightHV)・(RonG_hv)+(1−weightHV)RonG_ad
BonG=(weightHV)・(BonG_hv)+(1−weightHV)BonG_ad
RonR=(weightHV)・(RonR_hv)+(1−weightHV)RonR_ad
BonB=(weightHV)・(BonB_hv)+(1−weightHV)BonB_ad
次に、図35に示すフローチャートを参照して、画像処理装置のデータ変換処理部が実行するリモザイク処理シーケンスについて説明する。図35に示すフローチャートは、図5に示す画像処理装置において実行するRGBW配列からRGB配列への変換処理、すなわちリモザイク処理の全体シーケンスを示すフローチャートである。これまで説明してきた処理全体のシーケンスである。なお、図35に示すフローは、例えば、図5に示す画像処理装置の制御部140がメモリ130に格納されたプログラムを実行して、各処理部を制御して実行させることができる。
まず、ステップS101において、RGBW配列に含まれるW画素を適用して、エッジ方向を判定する。
この処理は、図6に示すエッジ検出部209の実行する処理である。先に説明したように、エッジ検出部209は、入力するRGBW配列の信号中、ホワイト(W)信号を利用して、エッジ方向とエッジ強度を判定する。
エッジ検出部209は、エッジ検出処理によって、画素対応のエッジ情報(dirH,dirV,dirA,dirD)を算出して、ブレンド処理部211、および複数の画素補間パラメータ算出部に出力する。
この処理は、図6に示すテクスチャ検出部210の実行する処理である。先に説明したように、テクスチャ検出部210は、入力するRGBW配列の信号中、ホワイト(W)信号を利用して、画素対応テクスチャ情報、具体的には、平坦度重み(weightFlat)を算出する。
weightFlat(x,y)=fflat(WTX(p))
fflat(r)は、例えば図14に示すような線形近似関数であり、
r=0〜Th0→fflat(r)=0
r=Th0〜Th1→fflat(r)=0〜1.0(線形変化)
r=Th1以上→fflat(r)=1
このような設定とした平坦度重み(weightFlat)を算出し、ブレンド処理部211に出力する。
この処理は、図6に示すノイズ除去部201の処理である。先に説明したように、ノイズ除去部201は、入力画素単位の中心にあるW画素に対してノイズ除去を実行する。
この処理は、図6に示す第1画素補間パラメータ算出部(GonW)202の処理である。
第1画素補間パラメータ算出部(GonW)202は、RGBW配列におけるW画素をG画素に変換するために適用する補間パラメータとして、以下のパラメータを算出する。
(a)GonW(H)=(mG_h/mW)w
(b)GonW(V)=(mG_v/mW)w
(c)GonWn(H)=(mG_h/mW)w
(d)GonWn(V)=(mG_v/mW)w
mG:入力画素単位のG信号の低周波成分
mW:入力画素単位のW信号の低周波成分
w:入力画素単位の中心のW画素の画素値
である。
なお、mGについては、図16、図17を参照して説明したように、入力画素単位の中心W画素のG画素の隣接位置と、エッジ方向に応じて、異なる係数設定のフィルタを適用して、mG_v、またはmG_hをG信号の低周波成分として算出する。
(a)GonW(H)=(mG_h/mW)w
(b)GonW(V)=(mG_v/mW)w
これらは、コントラスト強調を適用して算出する値である。
(c)GonWn(H)=(mG_h/mW)w
(d)GonWn(V)=(mG_v/mW)w
これらは、コントラスト強調を適用しないで算出する値である。
ひれら(a)〜(d)のパラメータは、RGBW配列中のW画素をG画素に変換するために適用する補間パラメータであり、ブレンド処理部211に出力される。
この処理は、図6に示す第1仮画素設定部(RBonWaroundG)203の処理である。
第1仮画素設定部(RBonWaroundG)203は、図23を参照して説明したように、5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のR画素値とB画素値を推定する。図23に示す5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のR画素値(Rxy'=R12',R21',R32',R23')は以下のように推定することができる。
R12'=(mR'/mW)w12、
R21'=(mR'/mW)w21、
R32'=(mR'/mW)w32、
R23'=(mR'/mW)w23、
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のW画素値である。
B12'=(mB'/mW)w12、
B21'=(mB'/mW)w21、
B32'=(mB'/mW)w32、
B23'=(mB'/mW)w23、
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位501の中心にある変換対象画素502の周囲に隣接するW画素位置のW画素値である。
mW:入力画素単位のW信号の低周波成分
w:入力画素単位の中心のW画素の画素値
mR':RB画素に隣接するW画素位置に設定した仮のR画素(R')を適用して算出したR信号の低周波成分
mB':RB画素に隣接するW画素位置に設定した仮のB画素(B')を適用して算出したB信号の低周波成分
である。
この処理は、図6に示す第2画素補間パラメータ算出部(RBonGofHV)204の処理である。第2画素補間パラメータ算出部(RBonGofHV)204は、主に縦、または横エッジ上のG画素をR画素、またはB画素に変換する処理に適用するパラメータの算出処理を実行する。
RonG(H)=(mR/mW)(w_h)
RonG(V)=(mR/mW)(w_v)
RonGn=(mR/mW)(w_n)
BonG(H)=(mB/mW)(w_h)
BonG(V)=(mB/mW)(w_v)
BonGn=(mB/mW)(w_n)
これらのパラメータを算出してブレンド処理部211に出力する。
mR:入力画素単位のR信号の低周波成分
mB:入力画素単位のBR信号の低周波成分
mW:入力画素単位のW信号の低周波成分
(w_h)、(w_v)、(w_n)は、図25を参照して説明したように、エッジ方向に応じて選択されるフィルタを適用して算出する入力画素単位の中心画素位置に設定されるW画素値である。
この処理は、図6に示す第3画素補間パラメータ算出部(RBonGofAD)205の処理である。第3画素補間パラメータ算出部(RBonGofAD)205は、斜めエッジ上のG画素をR画素、またはB画素に変換する処理に適用するパラメータの算出処理を実行する。
RonG(A)=(mR/mW)(w_a)
RonG(D)=(mR/mW)(w_d)
BonG(A)=(mB/mW)(w_a)
BonG(D)=(mB/mW)(w_d)
これらのパラメータを算出してブレンド処理部211に出力する。
この処理は、図6に示す第2仮画素設定部(RBonWaroundRB)206の処理である。
次に、第2仮画素設定部(RBonWaroundRB)206は、図28を参照して説明したように、5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のR画素値とB画素値を推定する。
R12'=(mR'/mW)w12、
R21'=(mR'/mW)w21、
R32'=(mR'/mW)w32、
R23'=(mR'/mW)w23、
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のW画素値である。
B12'=(mB'/mW)w12、
B21'=(mB'/mW)w21、
B32'=(mB'/mW)w32、
B23'=(mB'/mW)w23、
なお、w12、w21、w32、w23は図に示す5×5画素の入力画素単位601の中心にある変換対象画素602の周囲に隣接するW画素位置のW画素値である。
RonR(H)=(mR/mW)(w_h)
RonR(V)=(mR/mW)(w_v)
RonRn=(mR/mW)(w_n)
BonB(H)=(mB/mW)(w_h)
BonB(V)=(mB/mW)(w_v)
BonBn=(mB/mW)(w_n)
これらのパラメータを算出してブレンド処理部211に出力する。
この処理は、図6に示す第5画素補間パラメータ算出部(RBonRBofAD)208の処理である。第5画素補間パラメータ算出部(RBonRBofAD)208は、斜めエッジ上のR画素を補正したR画素、B画素を補正したB画素に変換する処理に適用するパラメータの算出処理を実行する。
RonR(A)=(mR/mW)(w_a)
RonR(D)=(mR/mW)(w_d)
BonB(A)=(mB/mW)(w_a)
BonB(D)=(mB/mW)(w_d)
これらのパラメータを算出してブレンド処理部211に出力する。
GonW=(1−weightFlat)・(GonW(dirHV))+(weightFlat)・(GonWn(dirHV))
RonG=(weightHV)・(RonG_hv)+(1−weightHV)RonG_ad
BonG=(weightHV)・(BonG_hv)+(1−weightHV)BonG_ad
RonR=(weightHV)・(RonR_hv)+(1−weightHV)RonR_ad
BonB=(weightHV)・(BonB_hv)+(1−weightHV)BonB_ad
105 光学レンズ
110 撮像素子(イメージセンサ)
120 信号処理部
130 メモリ
140 制御部
181 RGBW配列
182 RGB配列
183 カラー画像
200 データ変換処理部
201 ノイズ除去部
202 第1画素補間パラメータ算出部(GonW)
203 第1仮画素設定部(RBonWaroundG)
204 第2画素補間パラメータ算出部(RBonGofHV)
205 第3画素補間パラメータ算出部(RBonGofAD)
206 第2仮画素設定部(RBonWaroundRB)
207 第4画素補間パラメータ算出部(RBonRBofHV)
208 第5画素補間パラメータ算出部(RBonRBofAD)
209 エッジ検出部
210 テクスチャ検出部
211 ブレンド処理部
Claims (14)
- 輝度信号の主成分となる画素が市松状に配置され、残りの部分に色情報成分となる複数色の画素が配置された2次元画素配列信号を解析して画素変換を行うデータ変換処理部を有する画像処理装置。
- 前記輝度信号の主成分となる色は、白色または緑色である請求項1記載の画像処理装置。
- 前記データ変換処理部は、
前記2次元画素配列信号を解析してエッジ情報を生成するエッジ検出部と、
前記2次元画素配列信号を解析してテクスチャ情報を生成するテクスチャ検出部と、
前記2次元画素配列信号を解析して画素変換処理に適用するパラメータを算出するパラメータ算出部と、
前記パラメータ算出部の算出したパラメータと、前記エッジ情報および前記テクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、前記パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定するブレンド処理部と、
を有する請求項1または2に記載の画像処理装置。 - 前記データ変換処理部は、
RGB画素とホワイト(W)画素からなるRGBW配列信号を解析して各画素対応のエッジ方向および強度情報を含むエッジ情報を生成するエッジ検出部と、
前記RGBW配列信号を解析して各画素対応のテクスチャ度合いを示すテクスチャ情報を生成するテクスチャ検出部と、
RGBW配列をRGB配列に変換するためのパラメータを算出するパラメータ算出部であり、変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理により算出した補間画素値に相当するパラメータを生成するパラメータ算出部と、
前記パラメータ算出部の算出したパラメータと、前記エッジ情報および前記テクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、前記パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定するブレンド処理部と、
を有する請求項3に記載の画像処理装置。 - 前記パラメータ算出部は、
補間処理に適用する画素位置をエッジ方向に沿った画素位置とする補間処理によりパラメータを生成する構成である請求項4に記載の画像処理装置。 - 前記パラメータ算出部は、
RGBW配列を構成するW画素とその他のRGB画素との局所領域での相関を利用した補間処理によりパラメータを生成する構成である請求項4または5に記載の画像処理装置。 - 前記画像処理装置は、さらに、
RGBW配列を構成するW画素とその他のRGB画素との局所領域での相関を利用した補間処理によりW画素位置に対してRGBいずれかの画素の画素値を設定する仮画素設定部を有し、
前記パラメータ算出部は、
前記仮画素設定データを適用した補間処理によりパラメータを生成する構成である請求項4〜6いずれかに記載の画像処理装置。 - 前記パラメータ算出部は、
エッジ方向が縦、横、左斜め上、右斜め上の4種類のエッジ方向に応じて、適用画素位置をエッジ方向に沿った画素位置に設定した補間処理により算出した補間画素値相当の複数のパラメータを生成し、
前記ブレンド処理部は、
縦、横、左斜め上、右斜め上の4種類のエッジ方向の強度比較を実行して、比較結果に応じて前記複数のパラメータのブレンド比率を変更したブレンド処理を実行する請求項4〜7いずれかに記載の画像処理装置。 - 前記ブレンド処理部は、
変換画素対応の縦横方向エッジと斜め方向エッジのエッジ方向度合い(ratioFlat)を算出し、さらに、エッジ方向度合い(ratioFlat)に基づいて、値が大きいほど斜め方向エッジより縦横方向エッジが強く、値が小さいほど斜め方向エッジが縦横方向エッジより強いことを示す縦横方向エッジ方向重み(weightHV)を算出し、
変換画素対応の縦横方向エッジが斜め方向エッジより強い場合は、エッジ方向を縦または横方向として設定して算出したパラメータのブレンド比率を高くし、
変換画素対応の縦横方向エッジが斜め方向エッジより弱い場合は、エッジ方向を斜め方向として設定して算出したパラメータのブレンド比率を高くしたブレンド処理を実行する請求項4〜8いずれかに記載の画像処理装置。 - 前記テクスチャ検出部は、
前記テクスチャ情報として、テクスチャが少なく平坦度が高い画素領域については高い値を示し、テクスチャが多く平坦度が低い画素領域については低い値を示す各画素対応の平坦度重み(weightFlat)を算出し、
前記パラメータ算出部は、
前記補間画素値に対するコントラスト強調処理を実行したコントラスト強調処理適用パラメータと、前記補間画素値に対するコントラスト強調処理を実行しないコントラスト強調処理非適用パラメータを算出し、
前記ブレンド処理部は、
前記平坦度重みの大きい画素については、前記コントラスト強調処理非適用パラメータのブレンド比率を大きく設定し、
前記平坦度重みの小さい画素については、前記コントラスト強調処理適用パラメータのブレンド比率を大きく設定したブレンド処理を実行する請求項4〜9いずれかに記載の画像処理装置。 - 前記エッジ検出部は、
前記RGBW配列信号のホワイト(W)画素のみを利用した解析処理により、各画素対応のエッジ情報を生成する構成であり、
処理対象画素近傍のW画素の信号値勾配を算出して各画素対応のエッジ方向および強度情報を含むエッジ情報を生成する請求項4〜10いずれかに記載の画像処理装置。 - 前記テクスチャ検出部は、
前記RGBW配列信号のホワイト(W)画素のみを利用した解析処理により、各画素対応のテクスチャ度合いを示すテクスチャ情報を生成する請求項4〜11いずれかに記載の画像処理装置。 - 画像処理装置において画像信号処理を実行する画像処理方法であり、
エッジ検出部が、RGB画素とホワイト(W)画素からなるRGBW配列信号を解析して各画素対応のエッジ方向および強度情報を含むエッジ情報を生成するエッジ検出ステップと、
テクスチャ検出部が、前記RGBW配列信号を解析して各画素対応のテクスチャ度合いを示すテクスチャ情報を生成するテクスチャ検出ステップと、
パラメータ算出部が、RGBW配列をRGB配列に変換するためのパラメータを算出するパラメータ算出部であり、変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理により算出した補間画素値に相当するパラメータを生成するパラメータ算出ステップと、
ブレンド処理部が、前記パラメータ算出部の算出したパラメータと、前記エッジ情報および前記テクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、前記パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定するブレンド処理ステップと、
を有する画像処理方法。 - 画像処理装置において画像信号処理を実行させるプログラムであり、
エッジ検出部に、RGB画素とホワイト(W)画素からなるRGBW配列信号を解析して各画素対応のエッジ方向および強度情報を含むエッジ情報を生成させるエッジ検出ステップと、
テクスチャ検出部に、前記RGBW配列信号を解析して各画素対応のテクスチャ度合いを示すテクスチャ情報を生成させるテクスチャ検出ステップと、
パラメータ算出部に、RGBW配列をRGB配列に変換するためのパラメータを算出させるパラメータ算出ステップであり、変換画素対応のエッジ方向に応じて適用画素位置を変更した補間処理により算出した補間画素値に相当するパラメータを生成させるパラメータ算出ステップと、
ブレンド処理部に、前記パラメータ算出部の算出したパラメータと、前記エッジ情報および前記テクスチャ情報を入力し、変換画素対応のエッジ情報とテクスチャ情報に応じて、前記パラメータ算出部の算出したパラメータのブレンド比率を変更してブレンド処理を実行して変換画素値を決定させるブレンド処理ステップと、
を実行させるプログラム。
Priority Applications (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009241239A JP5454075B2 (ja) | 2009-10-20 | 2009-10-20 | 画像処理装置、および画像処理方法、並びにプログラム |
CN201080003488.3A CN102273208B (zh) | 2009-10-20 | 2010-08-19 | 图像处理设备和图像处理方法 |
PCT/JP2010/064031 WO2011048870A1 (ja) | 2009-10-20 | 2010-08-19 | 画像処理装置、および画像処理方法、並びにプログラム |
EP10824722.2A EP2352301B1 (en) | 2009-10-20 | 2010-08-19 | Image processing device, image processing method, and program |
KR1020117012850A KR101633946B1 (ko) | 2009-10-20 | 2010-08-19 | 화상 처리 장치 및 화상 처리 방법, 및 기록 매체 |
US13/132,044 US8755640B2 (en) | 2009-10-20 | 2010-08-19 | Image processing apparatus and image processing method, and program |
US14/269,754 US9609291B2 (en) | 2009-10-20 | 2014-05-05 | Image processing apparatus and image processing method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009241239A JP5454075B2 (ja) | 2009-10-20 | 2009-10-20 | 画像処理装置、および画像処理方法、並びにプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011091483A true JP2011091483A (ja) | 2011-05-06 |
JP5454075B2 JP5454075B2 (ja) | 2014-03-26 |
Family
ID=43900110
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009241239A Expired - Fee Related JP5454075B2 (ja) | 2009-10-20 | 2009-10-20 | 画像処理装置、および画像処理方法、並びにプログラム |
Country Status (6)
Country | Link |
---|---|
US (2) | US8755640B2 (ja) |
EP (1) | EP2352301B1 (ja) |
JP (1) | JP5454075B2 (ja) |
KR (1) | KR101633946B1 (ja) |
CN (1) | CN102273208B (ja) |
WO (1) | WO2011048870A1 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20130137449A (ko) * | 2012-06-07 | 2013-12-17 | 삼성테크윈 주식회사 | 멀티 대역 필터 어레이 기반 카메라 시스템 및 그의 영상 처리 방법 |
JP2015195844A (ja) * | 2014-03-31 | 2015-11-09 | 富士フイルム株式会社 | 内視鏡システム、プロセッサ装置、光源装置、内視鏡システムの作動方法、プロセッサ装置の作動方法、光源装置の作動方法 |
JPWO2013161349A1 (ja) * | 2012-04-24 | 2015-12-24 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
US9378540B2 (en) | 2014-02-06 | 2016-06-28 | Kabushiki Kaisha Toshiba | Image processing device, image processing method, and imaging device |
US9664943B2 (en) | 2013-01-11 | 2017-05-30 | Samsung Display Co., Ltd. | Display device and driving method of the same |
US10368041B2 (en) | 2016-03-01 | 2019-07-30 | Canon Kabushiki Kaisha | Imaging device, imaging system, and image processing method |
Families Citing this family (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8571312B2 (en) * | 2009-01-16 | 2013-10-29 | Samsung Electronics Co., Ltd. | Image interpolation method and apparatus using pattern characteristics of color filter array |
JP5454075B2 (ja) * | 2009-10-20 | 2014-03-26 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
JP5724185B2 (ja) * | 2010-03-04 | 2015-05-27 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
JP6115214B2 (ja) * | 2012-05-22 | 2017-04-19 | 株式会社リコー | パターン処理装置、パターン処理方法、パターン処理プログラム |
WO2014055011A1 (en) * | 2012-10-01 | 2014-04-10 | Delaval Holding Ab | Optical device for detecting abnormalities in milk |
US8866944B2 (en) | 2012-12-28 | 2014-10-21 | Visera Technologies Company Limited | Method for correcting pixel information of color pixels on a color filter array of an image sensor |
JP5780259B2 (ja) * | 2013-03-26 | 2015-09-16 | ソニー株式会社 | 情報処理装置、情報処理方法、プログラム |
KR102087986B1 (ko) * | 2013-10-04 | 2020-03-11 | 삼성전자주식회사 | 이미지 데이터를 처리하는 방법 및 장치 |
CN103905802B (zh) * | 2014-04-21 | 2016-07-13 | 浙江宇视科技有限公司 | 一种基于p模式色彩滤镜阵列的去马赛克方法及装置 |
WO2016084257A1 (ja) * | 2014-11-28 | 2016-06-02 | オリンパス株式会社 | 内視鏡装置 |
KR102286136B1 (ko) | 2014-12-01 | 2021-08-06 | 에스케이하이닉스 주식회사 | 컬러 필터 어레이, 이를 포함하는 이미지 센서 및 이를 이용한 적외선 정보 획득 방법 |
EP3043558B1 (en) | 2014-12-21 | 2022-11-02 | Production Resource Group, L.L.C. | Large-format display systems having color pixels and white pixels |
JP6622481B2 (ja) * | 2015-04-15 | 2019-12-18 | キヤノン株式会社 | 撮像装置、撮像システム、撮像装置の信号処理方法、信号処理方法 |
US10024876B2 (en) | 2015-06-05 | 2018-07-17 | Apple Inc. | Pedestrian velocity estimation |
KR102070322B1 (ko) | 2015-08-28 | 2020-01-28 | 삼성전자주식회사 | 디스플레이 장치 및 그 디스플레이 패널 구동 방법 |
US10359289B2 (en) | 2015-09-02 | 2019-07-23 | Apple Inc. | Device state estimation under periodic motion |
US10345426B2 (en) | 2015-09-02 | 2019-07-09 | Apple Inc. | Device state estimation under pedestrian motion with swinging limb |
US10895626B2 (en) * | 2015-09-02 | 2021-01-19 | Apple Inc. | Device state estimation with body-fixed assumption |
KR102329440B1 (ko) | 2015-10-01 | 2021-11-19 | 에스케이하이닉스 주식회사 | 칼라 필터 어레이의 변환 방법 및 장치 |
KR102582156B1 (ko) * | 2015-12-01 | 2023-09-25 | 엘지디스플레이 주식회사 | 표시장치 및 이의 구동방법 |
US10148926B2 (en) * | 2015-12-07 | 2018-12-04 | Samsung Electronics Co., Ltd. | Imaging apparatus and image processing method of thereof |
WO2017154293A1 (ja) * | 2016-03-09 | 2017-09-14 | ソニー株式会社 | 画像処理装置、撮像装置、および画像処理方法、並びにプログラム |
CN107644398B (zh) * | 2017-09-25 | 2021-01-26 | 上海兆芯集成电路有限公司 | 图像插补方法及其相关图像插补装置 |
KR102376471B1 (ko) * | 2018-03-19 | 2022-03-21 | 한국전자통신연구원 | 픽셀들로부터 출력된 신호들의 크기들에 기반하여 이미지의 윤곽을 추출하기 위한 이미지 센서 및 방법 |
CN108769510B (zh) * | 2018-05-02 | 2021-03-23 | Oppo广东移动通信有限公司 | 图像处理方法、装置、计算机可读存储介质和电子设备 |
KR20210112042A (ko) * | 2020-03-04 | 2021-09-14 | 에스케이하이닉스 주식회사 | 이미지 센싱 장치 및 그의 동작 방법 |
CN111355937B (zh) * | 2020-03-11 | 2021-11-16 | 北京迈格威科技有限公司 | 图像处理方法、装置和电子设备 |
CN112101294B (zh) * | 2020-09-29 | 2022-08-09 | 支付宝(杭州)信息技术有限公司 | 针对图像识别模型的增强训练方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007288395A (ja) * | 2006-04-14 | 2007-11-01 | Sony Corp | 撮像装置 |
JP2007306447A (ja) * | 2006-05-15 | 2007-11-22 | Sony Corp | 撮像装置、および画像処理方法、並びにコンピュータ・プログラム |
JP2008219598A (ja) * | 2007-03-06 | 2008-09-18 | Sony Corp | 固体撮像装置、撮像装置 |
JP2009017544A (ja) * | 2007-06-07 | 2009-01-22 | Toshiba Corp | 撮像装置 |
JP2011055038A (ja) * | 2009-08-31 | 2011-03-17 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030117507A1 (en) * | 2001-12-21 | 2003-06-26 | Nasser Kehtarnavaz | Color filter array interpolation |
JP4065155B2 (ja) | 2002-07-12 | 2008-03-19 | オリンパス株式会社 | 画像処理装置および画像処理プログラム |
US8264576B2 (en) * | 2007-03-05 | 2012-09-11 | DigitalOptics Corporation Europe Limited | RGBW sensor array |
US7477803B2 (en) * | 2003-09-12 | 2009-01-13 | Canon Kabushiki Kaisha | Image processing apparatus |
US7412092B2 (en) * | 2003-10-31 | 2008-08-12 | Sony Corporation | Image processing apparatus, image processing method, and program |
JP4600011B2 (ja) * | 2004-11-29 | 2010-12-15 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
KR100708465B1 (ko) * | 2005-02-03 | 2007-04-18 | 삼성전자주식회사 | 컬러 상관 유사도와 다방향 에지 정보를 이용한 컬러 필터보간 방법 |
US7830430B2 (en) | 2005-07-28 | 2010-11-09 | Eastman Kodak Company | Interpolation of panchromatic and color pixels |
US8274715B2 (en) | 2005-07-28 | 2012-09-25 | Omnivision Technologies, Inc. | Processing color and panchromatic pixels |
JP5006067B2 (ja) * | 2006-06-29 | 2012-08-22 | オリンパス株式会社 | 画像処理装置、画像処理プログラム、画像処理方法 |
JP4983141B2 (ja) * | 2006-08-04 | 2012-07-25 | ソニー株式会社 | カラーフィルタ |
US7835569B2 (en) * | 2006-10-13 | 2010-11-16 | Apple Inc. | System and method for raw image processing using conversion matrix interpolated from predetermined camera characterization matrices |
KR100866187B1 (ko) * | 2007-02-22 | 2008-10-30 | 삼성전자주식회사 | 영역 적응적 방향성 색 보간 방법 |
JP4341695B2 (ja) * | 2007-05-17 | 2009-10-07 | ソニー株式会社 | 画像入力処理装置、撮像信号処理回路、および、撮像信号のノイズ低減方法 |
JP5041886B2 (ja) * | 2007-06-13 | 2012-10-03 | オリンパス株式会社 | 画像処理装置、画像処理プログラム、画像処理方法 |
JP4893489B2 (ja) * | 2007-06-15 | 2012-03-07 | ソニー株式会社 | 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体 |
KR100992362B1 (ko) * | 2008-12-11 | 2010-11-04 | 삼성전기주식회사 | 컬러 보간 장치 |
KR101580168B1 (ko) * | 2008-12-30 | 2015-12-24 | 주식회사 동부하이텍 | 컬러 보간 장치 |
JP5454075B2 (ja) * | 2009-10-20 | 2014-03-26 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
US8891866B2 (en) * | 2011-08-31 | 2014-11-18 | Sony Corporation | Image processing apparatus, image processing method, and program |
TWI524782B (zh) * | 2013-01-17 | 2016-03-01 | 瑞昱半導體股份有限公司 | 影像處理裝置與影像處理方法 |
-
2009
- 2009-10-20 JP JP2009241239A patent/JP5454075B2/ja not_active Expired - Fee Related
-
2010
- 2010-08-19 WO PCT/JP2010/064031 patent/WO2011048870A1/ja active Application Filing
- 2010-08-19 KR KR1020117012850A patent/KR101633946B1/ko active IP Right Grant
- 2010-08-19 US US13/132,044 patent/US8755640B2/en active Active
- 2010-08-19 EP EP10824722.2A patent/EP2352301B1/en not_active Not-in-force
- 2010-08-19 CN CN201080003488.3A patent/CN102273208B/zh active Active
-
2014
- 2014-05-05 US US14/269,754 patent/US9609291B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007288395A (ja) * | 2006-04-14 | 2007-11-01 | Sony Corp | 撮像装置 |
JP2007306447A (ja) * | 2006-05-15 | 2007-11-22 | Sony Corp | 撮像装置、および画像処理方法、並びにコンピュータ・プログラム |
JP2008219598A (ja) * | 2007-03-06 | 2008-09-18 | Sony Corp | 固体撮像装置、撮像装置 |
JP2009017544A (ja) * | 2007-06-07 | 2009-01-22 | Toshiba Corp | 撮像装置 |
JP2011055038A (ja) * | 2009-08-31 | 2011-03-17 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2013161349A1 (ja) * | 2012-04-24 | 2015-12-24 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
KR20130137449A (ko) * | 2012-06-07 | 2013-12-17 | 삼성테크윈 주식회사 | 멀티 대역 필터 어레이 기반 카메라 시스템 및 그의 영상 처리 방법 |
KR101695252B1 (ko) | 2012-06-07 | 2017-01-13 | 한화테크윈 주식회사 | 멀티 대역 필터 어레이 기반 카메라 시스템 및 그의 영상 처리 방법 |
US9664943B2 (en) | 2013-01-11 | 2017-05-30 | Samsung Display Co., Ltd. | Display device and driving method of the same |
US9378540B2 (en) | 2014-02-06 | 2016-06-28 | Kabushiki Kaisha Toshiba | Image processing device, image processing method, and imaging device |
JP2015195844A (ja) * | 2014-03-31 | 2015-11-09 | 富士フイルム株式会社 | 内視鏡システム、プロセッサ装置、光源装置、内視鏡システムの作動方法、プロセッサ装置の作動方法、光源装置の作動方法 |
US10368041B2 (en) | 2016-03-01 | 2019-07-30 | Canon Kabushiki Kaisha | Imaging device, imaging system, and image processing method |
Also Published As
Publication number | Publication date |
---|---|
KR20120081018A (ko) | 2012-07-18 |
US20120257821A1 (en) | 2012-10-11 |
US8755640B2 (en) | 2014-06-17 |
KR101633946B1 (ko) | 2016-06-27 |
JP5454075B2 (ja) | 2014-03-26 |
EP2352301A1 (en) | 2011-08-03 |
CN102273208A (zh) | 2011-12-07 |
US20140240567A1 (en) | 2014-08-28 |
EP2352301A4 (en) | 2012-11-21 |
WO2011048870A1 (ja) | 2011-04-28 |
CN102273208B (zh) | 2014-08-20 |
US9609291B2 (en) | 2017-03-28 |
EP2352301B1 (en) | 2018-04-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5454075B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP5724185B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP5326943B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
US9542759B2 (en) | Image processing device, method of processing image, and image processing program including false color correction | |
US8837853B2 (en) | Image processing apparatus, image processing method, information recording medium, and program providing image blur correction | |
JP5904213B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP5672776B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
RU2527198C2 (ru) | Устройство обработки изображения и способ управления устройством обработки изображения | |
WO2013031367A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP2012239103A (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
KR20040066051A (ko) | 가중 그래디언트 기반 및 컬러 수정 보간 | |
JP2010016814A (ja) | 画像処理装置、画像処理方法およびコンピューター読み取り可能な媒体 | |
US8379977B2 (en) | Method for removing color fringe in digital image | |
JP2013055623A (ja) | 画像処理装置、および画像処理方法、情報記録媒体、並びにプログラム | |
KR20060078646A (ko) | 디지털 촬영장치의 색상 보간법 | |
US20190355105A1 (en) | Method and device for blind correction of lateral chromatic aberration in color images | |
US9401006B2 (en) | Image processing apparatus, image processing method, and storage medium | |
KR101327790B1 (ko) | 영상 보간 방법 및 장치 | |
Battiato et al. | Recent patents on color demosaicing | |
JP2013055622A (ja) | 画像処理装置、および画像処理方法、情報記録媒体、並びにプログラム | |
JP2012100215A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP2009182733A (ja) | 画像データ生成方法および画像データ生成装置、並びに情報コード読取装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120905 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131001 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131121 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131210 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131223 |
|
LAPS | Cancellation because of no payment of annual fees |