JP5474258B2 - 撮像装置及び撮像プログラム - Google Patents

撮像装置及び撮像プログラム Download PDF

Info

Publication number
JP5474258B2
JP5474258B2 JP2013504501A JP2013504501A JP5474258B2 JP 5474258 B2 JP5474258 B2 JP 5474258B2 JP 2013504501 A JP2013504501 A JP 2013504501A JP 2013504501 A JP2013504501 A JP 2013504501A JP 5474258 B2 JP5474258 B2 JP 5474258B2
Authority
JP
Japan
Prior art keywords
line
pixel data
color
pixel
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013504501A
Other languages
English (en)
Other versions
JPWO2012124181A1 (ja
Inventor
健吉 林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2013504501A priority Critical patent/JP5474258B2/ja
Application granted granted Critical
Publication of JP5474258B2 publication Critical patent/JP5474258B2/ja
Publication of JPWO2012124181A1 publication Critical patent/JPWO2012124181A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
    • H04N2209/046Colour interpolation to calculate the missing colour values

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Theoretical Computer Science (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Color Television Image Signal Generators (AREA)

Description

本発明は、撮像装置及び撮像プログラムに係り、特に、単板式のカラー撮像素子を用いた撮像装置及び撮像プログラムに関する。
単板カラー撮像素子の出力画像は、RAW画像(モザイク画像)であるため、欠落している色の画素を、周囲の画素から補間する処理(同時化処理)により多チャネル画像を得ている。この場合、高周波の画像信号の再現特性が問題となる場合がある。カラー撮像素子は、白黒の撮像素子と比較して、撮像した画像にエリアシングが発生し易いため、モアレ(偽色)の発生を抑圧しつつ再現帯域を広げて高解像化することが重要となる。
特許文献1には、モアレなどの発生の少ない間引き出力を行なわせる撮像装置が開示されている。
また、特許文献2には、画素混合によって増感したときでも、モアレの発生及び色のS/N比の低下を抑圧し、解像度の向上を図る撮像装置が開示されている。
ところで、単板カラー撮像素子で最も広く用いられている色配列である原色系ベイヤー配列(例えば特許文献3〜5参照)は、人間の目に敏感で、輝度信号を得るために最も寄与する緑(G)画素を市松状に、赤(R)、青(B)を線順次に配置しているため、G信号は斜め方向で、R、B信号は水平、垂直方向の高周波信号を生成する際の再現精度が問題である。
そこで、このような問題が発生しないように各色のフィルタを配列したベイヤー配列以外の配列のカラーフィルタを用いることが考えられる(例えば特許文献6参照)。
特開2008−78794号公報 特開2009−246465号公報 特開2002−135793号公報 特許第3960965号公報 特開2004−266369号公報 特開平11−285012号公報
この場合、例えば同時化処理等の画像処理は、新たなカラーフィルタの配列に応じた画像処理を行う必要があるが、新たなカラーフィルタの配列に応じて画像処理を変更するのは非常に煩雑であり、設計工数が膨大になる、という問題があった。
本発明は上記問題点を解決するためになされたものであり、ベイヤー配列以外の配列のカラーフィルタを備えた撮像素子を用いた場合でも、ベイヤー配列対応の画像処理部を変更することなく用いることができる撮像装置及び撮像プログラムを提供することを目的とする。
上記課題を解決するため、請求項1記載の発明の撮像装置は、水平方向及び垂直方向に配列された複数の光電変換素子を含む撮像素子と、前記複数の光電変換素子からなる複数の画素上に設けられたカラーフィルタであって、輝度信号を得るために最も寄与する第1の色に対応する第1のフィルタが、3×3画素の正方配列の四隅及び中央の画素上に配置され、前記第1の色と異なる第2の色に対応する第2のフィルタが、前記正方配列の前記水平方向における中央のラインに配置され、前記第1の色及び前記第2の色と異なる第3の色に対応する第3のフィルタが、前記正方配列の前記垂直方向における中央のラインに配置された第1の配列パターンと、前記第1の配列パターンと前記第1のフィルタの配置が同一で且つ前記第2のフィルタの配置と前記第3のフィルタの配置とを入れ替えた第2の配列パターンと、が点対称で配置された6×6画素の基本配列パターンが繰り返し配置されたカラーフィルタと、前記垂直方向における予め定めた位置のライン上の画素の画素データのみを読み出すように前記撮像素子を駆動する駆動手段と、前記撮像素子から間引いて読み出された各ラインの画素データを、2×2画素の正方配列の一方の対角線上の2つの画素が前記第1の色の画素、他方の対角線上の2つの画素が前記第2の色の画素及び前記第3の色の画素で配置されたベイヤー配列パターンであるベイヤー配列画素データに変換する画素変換手段と、前記ベイヤー配列画素データに基づいて、各画素について、対応する色以外の色の画素データを周囲の画素の画素データから補間することにより、各画素の各色の画素データを生成する生成手段と、を備えたことを特徴とする。
この発明によれば、6×6画素の基本配列パターンが繰り返し配置されたベイヤー配列パターンではないカラーフィルタを備え、撮像素子から間引いて読み出された各ラインの画素データを、ベイヤー配列パターンのベイヤー配列画素データに変換する画素変換手段を備えた構成としたため、ベイヤー配列対応の画像処理部を変更することなく用いることができる。
なお、請求項2に記載したように、前記画素変換手段は、前記撮像素子から間引いて読み出された各ラインの画素データを、前記水平方向に隣接する同色の画素の画素データを画素混合することにより、前記撮像素子から間引いて読み出された各ラインの画素データをベイヤー配列画素データに変換するようにしてもよい。
また、請求項3に記載したように、前記駆動手段は、前記垂直方向における(6n+1)番目(n=0、1、2、・・・)の第1のライン及び(6n+3)番目(n=0、1、2、・・・)の第3のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、前記画素変換手段は、前記第1のライン及び前記第3のライン上の隣接する前記第1の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第1の色の画素に各々当てはめ、前記第1のライン上の前記第3の色の画素データを前記ベイヤー配列パターンの対応する位置の前記第3の色の画素に当てはめ、前記第3のライン上の前記第2の色の画素データを、前記ベイヤー配列パターンの対応する位置の前記第2の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換するようにしてもよい。
また、請求項4に記載したように、前記駆動手段は、前記垂直方向における(6n+2)番目(n=0、1、2、・・・)の第2のライン及び(6n+5)番目(n=0、1、2、・・・)の第5のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、前記画素変換手段は、前記第2のライン及び第5のライン上の前記第1の色の画素データを、前記ベイヤー配列パターンの対応する位置の前記第1の色の画素に当てはめ、前記第2のライン上の隣接する前記第2の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第2の色の画素に当てはめ、前記第5のライン上の隣接する前記第3の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第3の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換するようにしてもよい。
また、請求項5に記載したように、前記駆動手段は、前記垂直方向における(6n+1)番目(n=0、1、2、・・・)の第1のライン及び(6n+4)番目(n=0、1、2、・・・)の第4のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、前記画素変換手段は、前記第1のライン及び前記第4のライン上の隣接する前記第1の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第1の色の画素に各々当てはめ、前記第1のライン上の前記第2の色の画素データを前記ベイヤー配列パターンの対応する位置の前記第2の色の画素に当てはめ、前記第4のライン上の隣接する前記第3の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第3の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換するようにしてもよい。
また、請求項6に記載したように、前記駆動手段は、前記垂直方向における(12n+1)番目(n=0、1、2、・・・)の第1のライン及び(12n+7)番目(n=0、1、2、・・・)の第7のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、前記画素変換手段は、前記第1のライン及び前記第7のライン上の隣接する前記第1の色の画素データを各々画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第1の色の画素に当てはめ、前記垂直方向における前記第1のライン上の前記第2の色の画素データを前記ベイヤー配列パターンの対応する位置の前記第2の色の画素に当てはめ、前記垂直方向における前記第7のライン上の前記第3の色の画素データを、前記ベイヤー配列パターンの対応する位置の前記第3の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換するようにしてもよい。
また、請求項7に記載したように、前記駆動手段は、前記垂直方向における(12n+2)番目(n=0、1、2、・・・)の第2のライン及び(12n+8)番目(n=0、1、2、・・・)の第8のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、前記画素変換手段は、前記第2のライン及び前記第8のライン上の前記第1の色の画素データを、前記ベイヤー配列パターンの対応する位置の前記第1の色の画素に当てはめ、前記垂直方向における前記第2のライン上の隣接する前記第2の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第2の色の画素に当てはめ、前記垂直方向における前記第8のライン上の隣接する前記第3の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第3の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換するようにしてもよい。
また、請求項8に記載したように、前記駆動手段は、前記垂直方向における(18n+2)番目(n=0、1、2、・・・)の第2のライン及び(18n+11)番目(n=0、1、2、・・・)の第11のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、前記画素変換手段は、前記第2のライン及び第11のライン上の前記第1の色の画素データを、前記ベイヤー配列パターンの対応する位置の前記第1の色の画素に当てはめ、前記垂直方向における前記第2のライン上の隣接する前記第3の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第3の色の画素に当てはめ、前記垂直方向における前記第11のライン上の前記第2の色の画素データを、前記ベイヤー配列パターンの対応する位置の前記第2の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換するようにしてもよい。
また、請求項9に記載したように、前記画素変換手段は、前記撮像素子から間引いて読み出された各ラインの画素データについて、前記水平方向に隣接する同色の画素の画素データを画素位置に応じて重み付け加算することにより、各画素位置の前記第1の色、前記第2の色、及び前記第3の色の画素データを生成し、当該生成した各色の画素データに基づいて、前記ベイヤー配列画素データを生成するようにしてもよい。
また、請求項10に記載したように、前記駆動手段は、前記垂直方向における(6n+1)番目(n=0、1、2、・・・)の第1のライン及び(6n+3)番目(n=0、1、2、・・・)の第3のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、前記画素変換手段は、前記第1のライン及び前記第3のライン上の隣接する同色の画素の画素データを画素位置に応じて各々重み付け加算することにより、各画素位置の前記第1の色、前記第2の色、及び前記第3の色の画素データを生成し、当該生成した各色の画素データに基づいて、前記ベイヤー配列画素データを生成するようにしてもよい。
また、請求項11に記載したように、前記駆動手段は、前記垂直方向における(6n+2)番目(n=0、1、2、・・・)の第2のライン及び(6n+5)番目(n=0、1、2、・・・)の第5のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、前記画素変換手段は、前記第2のライン及び前記第5のライン上の隣接する同色の画素の画素データを画素位置に応じて各々重み付け加算することにより、各画素位置の前記第1の色、前記第2の色、及び前記第3の色の画素データを生成し、当該生成した各色の画素データに基づいて、前記ベイヤー配列画素データを生成するようにしてもよい。
また、請求項12に記載したように、前記駆動手段は、前記垂直方向における(6n+1)番目(n=0、1、2、・・・)の第1のライン及び(6n+4)番目(n=0、1、2、・・・)の第4のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、前記画素変換手段は、前記第1のライン及び前記第4のライン上の隣接する同色の画素の画素データを画素位置に応じて各々重み付け加算することにより、各画素位置の前記第1の色、前記第2の色、及び前記第3の色の画素データを生成し、当該生成した各色の画素データに基づいて、前記ベイヤー配列画素データを生成するようにしてもよい。
また、請求項13に記載したように、前記駆動手段は、前記垂直方向における(6n+1)番目(n=0、1、2、・・・)の第1のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、前記画素変換手段は、前記第1のライン上の隣接する同色の画素の画素データを画素位置に応じて重み付け加算することにより、各画素位置の前記第1の色、前記第2の色、及び前記第3の色の画素データを生成し、当該生成した各色の画素データに基づいて、前記ベイヤー配列画素データを生成するようにしてもよい。
また、請求項14に記載したように、前記駆動手段は、前記垂直方向における(6n+2)番目(n=0、1、2、・・・)の第2のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、前記画素変換手段は、前記第2のライン上の隣接する同色の画素の画素データを画素位置に応じて重み付け加算することにより、各画素位置の前記第1の色、前記第2の色、及び前記第3の色の画素データを生成し、当該生成した各色の画素データに基づいて、前記ベイヤー配列画素データを生成するようにしてもよい。
また、請求項15に記載したように、前記駆動手段は、前記垂直方向における(9n+2)番目(n=0、1、2、・・・)の第2のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、前記画素変換手段は、前記第2のライン上の隣接する同色の画素の画素データを画素位置に応じて重み付け加算することにより、各画素位置の前記第1の色、前記第2の色、及び前記第3の色の画素データを生成し、当該生成した各色の画素データに基づいて、前記ベイヤー配列画素データを生成するようにしてもよい。
また、請求項16に記載したように、前記画素変換手段は、前記撮像素子から間引いて読み出された各ラインの画素データから、前記ベイヤー配列パターンに対応した2ライン分の画素データを各々生成し、当該生成した2ラインの画素データを前記ベイヤー配列画素データに変換するようにしてもよい。
また、請求項17に記載したように、前記駆動手段は、前記垂直方向における(6n+1)番目(n=0、1、2、・・・)の第1のライン及び(6n+3)番目(n=0、1、2、・・・)の第3のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、前記画素変換手段は、前記第1のライン上の2組の隣接する前記第1の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの前記垂直方向における(2n+1)番目(n=0、1、2、・・・)の第1のベイヤー配列ライン及び(2n+2)番目(n=0、1、2、・・・)の第2のベイヤー配列ラインの対応する位置の前記第1の色の画素に各々当てはめ、前記第3のライン上の2組の隣接する前記第1の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの前記垂直方向における(2n+3)番目(n=0、1、2、・・・)の第3のベイヤー配列ライン及び(2n+4)番目(n=0、1、2、・・・)の第4のベイヤー配列ラインの対応する位置の前記第1の色の画素に各々当てはめ、前記第1のライン及び前記第3のライン上の前記第2の色の画素データを前記ベイヤー配列パターンの前記第1のベイヤー配列ライン及び前記第3のベイヤー配列ラインの対応する位置の前記第2の色の画素に各々当てはめ、前記第1のライン及び前記第3のライン上の前記第3の色の画素データを、前記ベイヤー配列パターンの前記第2のベイヤー配列ライン及び前記第4のベイヤー配列ラインの対応する位置の前記第3の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換するようにしてもよい。
また、請求項18に記載したように、前記駆動手段は、前記垂直方向における(6n+1)番目(n=0、1、2、・・・)の第1のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、前記画素変換手段は、前記第1のライン上の2組の隣接する前記第1の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの前記垂直方向における(2n+1)番目(n=0、1、2、・・・)の第1のベイヤー配列ライン及び(2n+2)番目(n=0、1、2、・・・)の第2のベイヤー配列ラインの対応する位置の前記第1の色の画素に各々当てはめ、前記第1のライン上の前記第2の色の画素データを前記ベイヤー配列パターンの前記第1のベイヤー配列ラインの対応する位置の前記第2の色の画素に当てはめ、前記第1のライン上の前記第3の色の画素データを、前記ベイヤー配列パターンの前記第2のベイヤー配列ラインの対応する位置の前記第3の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換するようにしてもよい。
また、請求項19に記載したように、前記駆動手段は、前記垂直方向における(12n+2)番目(n=0、1、2、・・・)の第2のライン及び(12n+8)番目(n=0、1、2、・・・)の第8のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、前記画素変換手段は、前記第2のライン上の2組の前記第1の色の画素データを、前記ベイヤー配列パターンの前記垂直方向における(2n+1)番目(n=0、1、2、・・・)の第1のベイヤー配列ライン及び(2n+2)番目(n=0、1、2、・・・)の第2のベイヤー配列ラインの対応する位置の前記第1の色の画素に各々当てはめ、前記第8のライン上の2組の前記第1の色の画素データを、前記ベイヤー配列パターンの前記垂直方向における(2n+3)番目(n=0、1、2、・・・)の第3のベイヤー配列ライン及び(2n+4)番目(n=0、1、2、・・・)の第4のベイヤー配列ラインの対応する位置の前記第1の色の画素に各々当てはめ、前記第2のライン上の隣接する前記第2の色の画素データを画素混合した画素データを前記ベイヤー配列パターンの前記第1のベイヤー配列ラインの対応する位置の前記第2の色の画素に当てはめ、前記第8のライン上の隣接する前記第2の色の画素データを画素混合した画素データを前記ベイヤー配列パターンの前記第4のベイヤー配列ラインの対応する位置の前記第2の色の画素に当てはめ、前記第2のライン上の隣接する前記第3の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの前記第2のベイヤー配列ラインの対応する位置の前記第3の色の画素に当てはめ、前記第8のライン上の隣接する前記第3の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの前記第3のベイヤー配列ラインの対応する位置の前記第3の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換するようにしてもよい。
また、請求項20に記載したように、前記第1の色は、緑(G)色であり、前記第2の色は、赤(R)色及び青(B)色の一方の色であり、前記第3の色は、赤(R)色及び青(B)色の他方の色である構成としてもよい。
請求項21記載の発明の撮像プログラムは、コンピュータを、請求項1〜請求項20の何れか1項に記載の撮像装置を構成する画素変換手段として機能させるための撮像プログラムである。
本発明によれば、ベイヤー配列以外の配列のカラーフィルタを備えた撮像素子を用いた場合でも、ベイヤー配列対応の画像処理部を変更することなく用いることができる、という効果を有する。
撮像装置の概略ブロック図である。 本発明に係るカラーフィルタの構成図である。 ベイヤー配列パターンのカラーフィルタの構成図である。 ベイヤー配列パターンのカラーフィルタを用いた場合の処理の流れを説明するための図である。 ベイヤー配列パターンのカラーフィルタを用いた場合の処理の流れを説明するための図である。 画素変換処理部で実行される処理のフローチャートである。 第1実施形態に係る画素変換処理の流れについて説明するための図である。 第2実施形態に係る画素変換処理の流れについて説明するための図である。 第3実施形態に係る画素変換処理の流れについて説明するための図である。 第4実施形態に係る画素変換処理の流れについて説明するための図である。 第5実施形態に係る画素変換処理の流れについて説明するための図である。 第6実施形態に係る画素変換処理の流れについて説明するための図である。 第7実施形態に係る画素変換処理の流れについて説明するための図である。 第8実施形態に係る画素変換処理の流れについて説明するための図である。 第9実施形態に係る画素変換処理の流れについて説明するための図である。 第10実施形態に係る画素変換処理の流れについて説明するための図である。 第11実施形態に係る画素変換処理の流れについて説明するための図である。 第12実施形態に係る画素変換処理の流れについて説明するための図である。 第13実施形態に係る画素変換処理の流れについて説明するための図である。 第14実施形態に係る画素変換処理の流れについて説明するための図である。 第15実施形態に係る画素変換処理の流れについて説明するための図である。 カラーフィルタに含まれる2×2画素のG画素の画素値から相関方向を判別する方法を説明するための図である。 カラーフィルタに含まれる基本配列パターンの概念を説明するための図である。 カラーフィルタの変形例を示す図である。
以下、図面を参照して本発明の実施形態について説明する。
(第1実施形態)
図1には、本実施形態に係る撮像装置10の概略ブロック図を示した。撮像装置10は、光学系12、撮像素子14、撮像処理部16、画素変換処理部18、画像処理部20、駆動部22、及び制御部24を含んで構成されている。
光学系12は、例えば複数の光学レンズから成るレンズ群、絞り調整機構、ズーム機構、及び自動焦点調節機構等を含んで構成されている。
撮像素子14は、水平方向及び垂直方向に配列された複数の光電変換素子を含む撮像素子、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子上にカラーフィルタが配置された構成の所謂単板式の撮像素子である。
図2には、本実施形態に係るカラーフィルタ30の一部を示した。なお、画素数は一例として(4896×3264)画素であり、アスペクト比は3:2であるが、画素数及びアスペクト比はこれに限られるものではない。同図に示すように、カラーフィルタ30は、輝度信号を得るために最も寄与するG(緑)に対応する第1のフィルタG(以下、Gフィルタと称する)が、3×3画素の正方配列の四隅及び中央の画素上に配置され、R(赤)に対応する第2のフィルタR(以下、Rフィルタと称する)が、正方配列の水平方向における中央のラインに配置され、B(青)に対応する第3のフィルタ(以下、Bフィルタと称する)が、正方配列の垂直方向における中央のラインに配置された第1の配列パターンAと、第1の列パターンAとフィルタ配置が同一で且つフィルタ配置とフィルタ配置とを入れ替えた第2の配列パターンBと、が点対称で配置された6×6画素の基本配列パターンCが繰り返し配置されたカラーフィルタである。
すなわち、カラーフィルタ30は、下記の特徴(1)、(2)、(3)、(4)、及び(5)を有している。
〔特徴(1)〕
図2に示すカラーフィルタ30は、6×6画素に対応する正方配列パターンからなる基本配列パターンCを含み、この基本配列パターンCが水平方向及び垂直方向に繰り返し配置されている。即ち、このカラーフィルタ配列は、R、G、Bの各色のフィルタ(Rフィルタ、Gフィルタ、Bフィルタ)が所定の周期性をもって配列されている。
このようにRフィルタ、Gフィルタ、Bフィルタが所定の周期性をもって配列されているため、カラー撮像素子から読み出されるR、G、B信号の同時化(補間)処理等を行う際に、繰り返しパターにしたがって処理を行うことができる。
また、基本配列パターンの単位で間引き処理して画像を縮小する場合、間引き処理した縮小画像のカラーフィルタ配列は、間引き処理前のカラーフィルタ配列と同じにすることができ、共通の処理回路を使用することができる。
〔特徴(2)〕
図2に示すカラーフィルタ30は、輝度信号を得るために最も寄与する色(この実施形態では、Gの色)に対応するGフィルタが、カラーフィルタ配列の水平、垂直、及び斜め方向の各ライン内に配置されている。
輝度系画素に対応するGフィルタが、カラーフィルタ配列の水平、垂直、及び斜め方向の各ライン内に配置されるため、高周波となる方向によらず高周波領域での同時化処理の再現精度を向上させることができる。
〔特徴(3)〕
図2に示すカラーフィルタ30は、上記Gの色以外の2色以上の他の色(この実施形態では、R,Bの色)に対応するRフィルタ、Bフィルタが、カラーフィルタ配列の水平、及び垂直方向の各ライン内に配置されている。
Rフィルタ、Bフィルタが、カラーフィルタ配列の水平、及び垂直方向の各ライン内に配置されるため、色モワレ(偽色)の発生を抑圧することができる。これにより、偽色の発生を抑制するための光学ローパスフィルタを光学系の入射面から撮像面までの光路に配置しないようにすることができる。また、光学ローパスフィルタを適用する場合でも、偽色の発生を防止するための高周波数成分をカットする働きの弱いものを適用することができ、解像度を損なわないようにすることができる。
図2に示すように基本配列パターンCは、破線の枠で囲んだ3×3画素の第1の配列パターンAと、一点鎖線の枠で囲んだ3×3画素の第2の配列パターンBとが、水平、垂直方向に交互に並べられた配列となっていると捉えることもできる。
第1の配列パターンA及び第2の配列パターンBは、それぞれ輝度系画素であるGフィルタが4隅と中央に配置され、両対角線上に配置されている。また、第1の配列パターンAは、中央のGフィルタを挟んでBフィルタが水平方向に配列され、Rフィルタが垂直方向に配列され、一方、第2の配列パターンBは、中央のGフィルタを挟んでRフィルタが水平方向に配列され、Bフィルタが垂直方向に配列されている。即ち、第1の配列パターンAと第2の配列パターンBとは、RフィルタとBフィルタとの位置関係が逆転しているが、その他の配置は同様になっている。
また、第1の配列パターンAと第2の配列パターンBの4隅のGフィルタは、図22に示すように第1の配列パターンAと第2の配列パターンBとが水平、垂直方向に交互に配置されることにより、2×2画素に対応する正方配列のGフィルタとなる。
〔特徴(4)〕
図2に示すカラーフィルタ30は、Gフィルタからなる2×2画素に対応する正方配列を含んでいる。
図22に示すように、Gフィルタからなる2×2画素を取り出し、水平方向のG画素の画素値の差分絶対値、垂直方向のG画素の画素値の差分絶対値、斜め方向(右上斜め、左上斜め)のG画素の画素値の差分絶対値を求めることにより、水平方向、垂直方向、及び斜め方向のうち、差分絶対値の小さい方向に相関があると判断することができる。
即ち、このカラーフィルタ配列によれば、最小画素間隔のG画素の情報を使用して、水平方向、垂直方向、及び斜め方向のうちの相関の高い方向判別ができる。この方向判別結果は、周囲の画素から補間する処理(同時化処理)に使用することができる。
〔特徴(5)〕
図2に示すカラーフィルタ30の基本配列パターンCは、その基本配列パターンCの中心(4つのGフィルタの中心)に対して点対称になっている。また、図2に示したように、基本配列パターンC内の第1の配列パターンA及び第2の配列パターンBも、それぞれ中心のGフィルタに対して点対称になっている。
このような対称性により、後段の処理回路の回路規模を小さくしたり、簡略化することが可能になる。
図23に示すように基本配列パターンCにおいて、水平方向の第1から第6のラインのうちの第1及び第3のラインのカラーフィルタ配列は、GRGGBGであり、第2のラインのカラーフィルタ配列は、BGBRGRであり、第4及び第6のラインのカラーフィルタ配列は、GBGGRGであり、第5のラインのカラーフィルタ配列は、RGRBGBとなっている。
いま、図23において、基本配列パターンCを水平方向、及び垂直方向にそれぞれ1画素ずつシフトした基本配列パターンをC’、それぞれ2画素ずつシフトした基本配列パターンをC”とすると、これらの基本配列パターンC’、C”を水平方向及び垂直方向に繰り返し配置しても、同じカラーフィルタ配列になる。
即ち、基本配列パターンを水平方向及び垂直方向に繰り返し配置することで、図23に示すカラーフィルタ配列を構成することができる基本配列パターンは複数存在する。本実施形態では、基本配列パターンが点対称になっている基本配列パターンCを、便宜上、基本配列パターンという。
図24は本実施形態に係るカラーフィルタの変形例を示す図である。同図に示すカラーフィルタ30Aは、4×4画素に対応する正方配列パターンからなる基本配列パターンCを含み、この基本配列パターンCが水平方向及び垂直方向に繰り返し配置されている。
このカラーフィルタ30Aは、図2に示したカラーフィルタ30と同様に、Gフィルタが、カラーフィルタ配列の水平、垂直、及び斜め方向の各ライン内に配置され、かつRフィルタ、Bフィルタが、カラーフィルタ配列の水平、及び垂直方向の各ライン内に配置されている。
また、基本配列パターンCは、その基本配列パターンCの中心に対して点対称になっている。
一方、このカラーフィルタ30Aは、Gフィルタからなる2×2画素に対応する正方配列を含んでいないが、水平方向に隣接するGフィルタを有し、また、斜め方向(右上斜め、左上斜め)に隣接するGフィルタを有する。
垂直方向には、Rフィルタ又はBフィルタを挟んでGフィルタが存在するため、これらのGフィルタに対応するG画素の画素値を垂直方向の相関を判断する場合に使用することができる。
上記のようにカラーフィルタ30Aは、図2に示すカラーフィルタ30の特徴(1)、(2)、(3)、及び(5)と同じ特徴を有している。
これに対し、図3には、ベイヤー配列のカラーフィルタ40の一部を示した。なお、同図に示したカラーフィルタも画素数は一例として(4896×3264)画素であり、アスペクト比は3:2である。同図に示すように、ベイヤー配列のカラーフィルタ40は、2×2画素の正方配列の一方の対角線上の2つの画素上にGフィルタが配置され、他方の対角線上の2つの画素上にRフィルタ及びBフィルタが配置された構成である。
撮像処理部16は、撮像素子14から出力された撮像信号に対して増幅処理や相関二重サンプリング処理、A/D変換処理等の予め定めた処理を施し、画素データとして画素変換処理部18に出力する。この画素データは、図2に示すカラーフィルタ30の配列に対応した画素データである。
画素変換処理部18は、詳細は後述するが、撮像処理部16から出力された図2に示すカラーフィルタ30の配列に対応した画素データを、図3に示すベイヤー配列に対応した画素データに変換する。
画像処理部20は、画素変換処理部18から出力されたベイヤー配列に対応した画素データに対して所謂同時化処理を施す。すなわち、全画素について、対応する色以外の色の画素データを周囲の画素の画素データから補間して、全画素のR,G,Bの画素データを生成する。そして、生成したR,G,Bの画素データに対して所謂YC変換処理を施し、輝度データY、色差データCr、Cbを生成する。そして、これらの信号を撮影モードに応じたサイズにリサイズするリサイズ処理を行う。
駆動部22は、制御部24からの指示に応じて撮像素子14からの撮像信号の読み出し駆動等を行う。
制御部24は、撮影モード等に応じて駆動部22、画素変換処理部18、及び画像処理部20等を統括制御する。詳細は後述するが、制御部24は、駆動部22に対して、撮影モードに応じた読み出し方法で撮像信号を読み出すように指示したり、画素変換処理部18に対して、撮影モードに応じた画素変換処理を行うよう指示したり、画像処理部20に対して、撮影モードに応じた画像処理を行うよう指示したりする。
撮影モードによっては、撮像素子14からの撮像信号を間引いて読み出す必要があるため、制御部24は、指示された撮影モードに応じた間引き方法で間引いて撮像信号を読み出すように駆動部22に指示する。
本実施形態では、撮影モードの一例として、撮像した画像を間引いて比較的高解像度のHD(高精細)動画データを生成して図示しないメモリーカード等の記録媒体に記録するHD動画モード、撮影した画像を間引いて比較的低解像度のスルー動画を図示しない表示部に出力するスルー動画モードが設定された場合の処理を例に説明する。
まず、ベイヤー配列のカラーフィルタを用いた従来構成の撮像素子14を用いた場合に、HD動画モード及びスルー動画モードで撮影した場合の処理について説明する。
図4には、ベイヤー配列のカラーフィルタ40を用いた従来構成の撮像素子14を用いた場合に、HD動画モードで撮影した場合の処理の流れを概略的に示した。
この場合、図4左上に示すように、垂直方向に3ライン毎に画素データを間引いて読み出す。すなわち、垂直方向に(3n+1)番目(n=0,1,2,・・・)のライン(図中矢印で指し示したライン、以下同様に間引いて読み出すラインを矢印で指し示す)の画素データを読み出す。そして、水平方向に隣接する同色の画素の画素データを画素混合することにより、同図右上に示すように、水平方向及び垂直方向ともに撮像素子14の画素数の1/3の画素数(1632×1088)の画素データを生成する。
具体的には、R画素については、図4左上に示す1ライン目の枠Ra(5画素含んでいる)内の3個のR画素を画素混合(例えば3個のR画素の画素値の平均値をとる。以下同様)して同図右上に示す縮小画像の1ライン目のR画素R1とし、G画素については、図4左上に示す1ライン目の枠Ga(5画素含んでいる)内の3個のG画素を画素混合して、同図右上に示す縮小画像の1ライン目のG画素G1とすると共に、図4左上に示すライン目の枠Gb(5画素含んでいる)内の3個のG画素を画素混合して、同図右上に示す縮小画像のライン目のG画素G2とする。B画素については、図4左上に示すライン目の枠Ba(5画素含んでいる)内の3個のB画素を画素混合して同図右上に示す2ライン目のB画素B1とする。以下同様の処理を行うことにより、同図右上に示すような縮小したベイヤー配列の画素データが生成される。
そして、同図右上の画素データに対して前述した同時化処理及びYC変換処理(ベイヤー処理)を施して、同図左下に示すように、輝度データY、色差データCr、Cbを生成する。そして、同図右下に示すように、輝度データY、色差データCr、Cbを撮影モードに応じたサイズにリサイズするリサイズ処理を行う。同図右下では、一例として画素数が(1920×1080)、アスペクト比16:9にリサイズしている。
図5には、ベイヤー配列のカラーフィルタ40を用いた従来構成の撮像素子14を用いた場合に、スルー動画モード(ライブビューモード)で撮影した場合の処理の流れを概略的に示した。
この場合、HD動画モードよりも解像度は低くてよいので、図5左上に示すように、垂直方向に5ライン毎に画素データを間引いて読み出す。すなわち、垂直方向に(5n+1)番目(n=0,1,2,・・・)のラインの画素データを読み出す。後は画像サイズが異なるだけで図4の場合と同様である。
ここで、図4左下、図5左下に示すベイヤー処理は、ベイヤー配列に対応した同時化処理及びYC変換処理であるため、図2に示すベイヤー配列と異なる配列のカラーフィルタ30を用いた場合、ベイヤー処理を変更する必要がある。
しかしながら、本実施形態では画素変換処理部18を設け、この画素変換処理部18において、撮像処理部16から出力されたカラーフィルタ30の配列に対応した画素データを、ベイヤー配列に対応した画素データに変換して画像処理部20に出力するので、画像処理部20を変更する必要がない。
次に、本実施形態の作用として、画素変換処理部18で実行される処理について、図6に示すフローチャートを参照して説明する。
なお、図6に示す処理は、制御部24から撮影モードに応じた画素変換処理を実行するように指示された場合に実行される。
制御部24は、指定された撮影モードでの撮影の実行が指示されると、駆動部22に対して撮影モードに対応した間引き方法で間引いて撮像信号を読み出すように指示する。また、制御部24は、撮影モードに対応した画素変換処理を実行するように画素変換処理部18に指示すると共に、撮影モードに対応したベイヤー処理(同時化処理及びYC変換処理)及びリサイズ処理を実行するように画像処理部20に指示する。
まずステップ100では、撮像処理部16から画素データを入力する。ステップ102では、入力された画素データをベイヤー配列に対応した画素データに変換する画素変換処理を実行する。ステップ104では、変換した画素データを画像処理部20へ出力する。
なお、画素変換処理部18は、CPU、ROM、RAM、不揮発性ROM等を含むコンピュータで構成することができる。この場合、上記の処理の処理プログラムを例えば予め不揮発性ROMに記憶しておき、これをCPUが読み込んで実行することができる。
以下、画素変換処理の具体例について説明する。本実施形態では、HD動画モードにおいて、撮像素子14から間引いて読み出された各ラインの画素データを、水平方向に隣接する同色の画素の画素データを画素混合することにより、撮像素子14から間引いて読み出された各ラインの画素データをベイヤー配列の画素データに変換する場合について説明する。
図7には、HD動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図7左上に示すように、制御部24は、駆動部22に対して垂直方向に(6n+1)番目(n=0,1,2,・・・)及び(6n+3)番目(n=0、1、2、・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、(6n+1)番目及び(6n+3)番目のラインの画素データのみが出力される。すなわち、基本配列パターンCの垂直方向の6ラインのうち、2、4〜6ライン目を間引き、1ライン目及び3ライン目の2ライン分の画素データを読み出すことを基本配列パターン毎に繰り返す。
画素変換処理部18では、間引いた読み出された画素データに対して、水平方向に隣接する同色の画素の画素データを画素混合することにより、同図右上に示すように、水平方向及び垂直方向ともに撮像素子14の画素数の1/3の画素数(1632×1088)の画素データを生成する。
具体的には、G画素については、図7左上に示す1ライン目の枠Ga内の2個のG画素を画素混合(例えば2個のG画素の画素値の平均値をとる。以下同様)して、同図右上に示す縮小画像の1ライン目のG画素G1とすると共に、3ライン目の枠Gb内の2個のG画素を画素混合して、同図右上に示す縮小画像のライン目のG画素G2とする。B画素については、図7左上に示す1ライン目の枠Ba内の1個のB画素を同図右上に示す縮小画像の1ライン目のB画素B1とし、R画素については、図7左上に示す3ライン目の枠Ra内の1個のR画素を同図右上に示す2ライン目のR画素R1とする。以下同様の処理を行うことにより、同図右上に示すような縮小したベイヤー配列の画素データが生成される。すなわち、垂直方向に(6n+1)番目のライン及び(6n+3)番目のライン上の隣接するG画素の画素データを各々画素混合した画素データを、ベイヤー配列パターンの対応する位置のG画素に各々当てはめ、(6n+1)番目のライン上のB画素の画素データをベイヤー配列パターンの対応する位置のB画素に当てはめ、垂直方向に(6n+3)番目のライン上のR画素の画素データを、ベイヤー配列パターンの対応する位置のR画素に当てはめることにより、撮像素子14から間引いて読み出された各ラインの画素データをベイヤー配列画素データに変換する。
この間引き方の場合、図7左上に示すように、間引いて読み出された画素データに人間の目に敏感なG画素を多く含むため、感度が良好な画像が得られる。
画素変換処理後は、図4と同様に、画像処理部20においてベイヤー処理(同時化処理及びYC変換処理)及びリサイズ処理が実行され、リサイズされた画像が出力される。
(第2実施形態)
次に、本発明の第2実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第1実施形態と異なるのは撮像信号の間引き方であり、その他は第1実施形態と同様である。
図8には、HD動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図8左上に示すように、制御部24は、駆動部22に対して垂直方向に(6n+2)番目(n=0,1,2,・・・)及び(6n+5)番目(n=0、1、2、・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、(6n+2)番目及び(6n+5)番目のラインの画素データのみが出力される。すなわち、基本配列パターンCの垂直方向の6ラインのうち、1、3〜4、6ライン目を間引き、2ライン目及び5ライン目の2ライン分の画素データを読み出すことを基本配列パターン毎に繰り返す。
画素変換処理部18では、間引いた読み出された画素データに対して、水平方向に隣接する同色の画素の画素データを画素混合することにより、同図右上に示すように、水平方向及び垂直方向ともに撮像素子14の画素数の1/3の画素数(1632×1088)の画素データを生成する。
具体的には、G画素については、図8左上に示す2ライン目の枠Ga内の1個の画素を同図右上に示す縮小画像の1ライン目のG画素G1とすると共に、5ライン目の枠Gb内の1個の画素を同図右上に示す縮小画像のライン目のG画素G2とする。R画素については、図8左上に示すライン目の枠Ra内の2個のR画素R1を画素混合した画素データを同図右上に示す縮小画像の1ライン目のR画素とし、B画素については、図8左上に示す5ライン目の枠Ba内の2個のB画素を画素混合した画素データを同図右上に示す2ライン目のB画素B1とする。以下同様の処理を行うことにより、同図右上に示すような縮小したベイヤー配列の画素データが生成される。すなわち、垂直方向に(6n+2)番目のライン及び(6n+5)番目上のG画素の画素データを、ベイヤー配列パターンの対応する位置のG画素に各々当てはめ、(6n+2)番目のライン上の隣接するR画素の画素データを画素混合した画素データを、ベイヤー配列パターンの対応する位置のR画素に当てはめ、(6n+5)番目のライン上の隣接するB画素の画素データを画素混合した画素データを、ベイヤー配列パターンの対応する位置のB画素に当てはめることにより、撮像素子14から間引いて読み出された各ラインの画素データをベイヤー配列画素データに変換する。
この間引き方の場合、図8左上に示すように、間引いて読み出された画素データにR画素及びB画素を多く含むため、偽色が出にくい画像が得られる。なお、画素変換処理後の処理は上記実施形態と同一であるので、説明は省略する。
(第3実施形態)
次に、本発明の第3実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第1実施形態と異なるのは撮像信号の間引き方であり、その他は第1実施形態と同様である。
図9には、HD動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図9左上に示すように、制御部24は、駆動部22に対して垂直方向に(6n+1)番目(n=0,1,2,・・・)及び(6n+4)番目(n=0、1、2、・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、(6n+1)番目及び(6n+4)番目のラインの画素データのみが出力される。すなわち、基本配列パターンCの垂直方向の6ラインのうち、2、3、5、6ライン目を間引き、1ライン目及び4ライン目の2ライン分の画素データを読み出すことを基本配列パターン毎に繰り返す。
画素変換処理部18では、間引いた読み出された画素データに対して、水平方向に隣接する同色の画素の画素データを画素混合することにより、同図右上に示すように、水平方向及び垂直方向ともに撮像素子14の画素数の1/3の画素数(1632×1088)の画素データを生成する。
具体的には、G画素については、図9左上に示す1ライン目の枠Ga内の2個の画素を画素混合した画素データを同図右上に示す縮小画像の1ライン目のG画素1とすると共に、4ライン目の枠Gb内の2個の画素を画素混合した画素データを同図右上に示す縮小画像の2ライン目のG画素2とする。R画素については、図9左上に示す1ライン目の枠Ra内の1個のR画素を同図右上に示す縮小画像の1ライン目のR画素R1とし、B画素については、図9左上に示す4ライン目の枠Ba内の2個のB画素を画素混合した画素データを同図右上に示す2ライン目のB画素B1とする。以下同様の処理を行うことにより、同図右上に示すような縮小したベイヤー配列の画素データが生成される。すなわち、垂直方向に(6n+1)番目のライン及び(6n+4)番目のライン上の隣接するG画素の画素データを各々画素混合した画素データを、ベイヤー配列パターンの対応する位置のG画素に各々当てはめ、(6n+1)番目のライン上のR画素の画素データをベイヤー配列パターンの対応する位置のR画素に当てはめ、(6n+4)番目のライン上の隣接するB画素の画素データを画素混合した画素データを、ベイヤー配列パターンの対応する位置のB画素に当てはめることにより、撮像素子14から間引いて読み出された各ラインの画素データをベイヤー配列画素データに変換する。
この間引き方の場合、図9左上に示すように、間引いて読み出された画素データにG画素を多く含むと共に、R画素及びB画素が市松模様となるため、感度がある程度良好でかつ偽色がある程度出にくい画像が得られる。
(第4実施形態)
次に、本発明の第4実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第1実施形態と異なるのは撮影モードがスルー動画モード(ライブビューモード)で、撮像信号の間引き方が異なる点であり、その他は第1実施形態と同様である。
図10には、スルー動画モードで撮影した場合の処理の流れを概略的に示した。なお、図10では、ベイヤー処理及びリサイズ処理については図示を省略している(以下の実施形態も同様)。
本実施形態では、図10左に示すように、制御部24は、駆動部22に対して垂直方向に(12n+1)番目(n=0,1,2,・・・)のライン及び(12n+7)番目(n=0,1,2,・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、(12n+1)番目及び(12n+7)番目のラインの画素データのみが出力される。すなわち、垂直方向の12ラインのうち、2〜6、8〜12ライン目を間引き、1ライン目及び7ライン目の画素データを読み出すことを繰り返す。
画素変換処理部18では、間引いた読み出された画素データに対して、水平方向に隣接する同色の画素の画素データを画素混合することにより、同図右に示すように、水平方向が1/3、垂直方向が1/6の画素数(1632×544)の画素データを生成する。
具体的には、G画素については、図10左に示す1ライン目の枠Ga内の2個のG画素を画素混合した画素データを同図右に示す縮小画像の1ライン目のG画素G1とすると共に、7ライン目の枠Gb内の2個のG画素を画素混合した画素データを同図右に示す縮小画像の2ライン目のG画素G2とする。R画素については、図10左に示す1ライン目の枠Ra内の1個のR画素の画素データを同図右に示す縮小画像の1ライン目のR画素R1とし、B画素については、図10左に示す7ライン目の枠Ba内の1個のB画素の画素データを同図右に示す2ライン目のB画素B1とする。以下同様の処理を行うことにより、同図右に示すような縮小したベイヤー配列の画素データが生成される。すなわち、垂直方向に(12n+1)番目のライン及び(12n+7)番目のライン上の隣接するG画素の画素データを各々画素混合した画素データを、ベイヤー配列パターンの対応する位置のG画素に各々当てはめ、垂直方向における(12n+1)番目のライン上のR画素の画素データをベイヤー配列パターンの対応する位置のR画素に当てはめ、垂直方向における(12n+7)番目のライン上のB画素の画素データを、ベイヤー配列パターンの対応する位置のB画素に当てはめることにより、撮像素子14から間引いて読み出された各ラインの画素データをベイヤー配列画素データに変換する。
(第5実施形態)
次に、本発明の第5実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第4実施形態と異なるのは撮像信号の間引き方であり、その他は第4実施形態と同様である。
図11には、スルー動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図11左に示すように、制御部24は、駆動部22に対して垂直方向に(12n+2)番目(n=0,1,2,・・・)のライン及び(12n+8)番目(n=0,1,2,・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、(12n+2)番目及び(12n+8)番目のラインの画素データのみが出力される。すなわち、垂直方向の12ラインのうち、1、3〜7、9〜12ライン目を間引き、2ライン目及び8ライン目の画素データを読み出すことを繰り返す。
画素変換処理部18では、間引いた読み出された画素データに対して、水平方向に隣接する同色の画素の画素データを画素混合することにより、同図右に示すように、水平方向が1/3、垂直方向が1/6の画素数(1632×544)の画素データを生成する。
具体的には、G画素については、図11左に示す2ライン目の枠Ga内の1個のG画素の画素データを同図右に示す縮小画像の1ライン目のG画素G1とすると共に、8ライン目の枠Gb内の1個のG画素の画素データを同図右に示す縮小画像のライン目のG画素G2とする。R画素については、図11左に示す2ライン目の枠Ra内の2個のR画素を画素混合した画素データを同図右に示す縮小画像の1ライン目のR画素R1とし、B画素については、図11左に示す8ライン目の枠Ba内の2個のB画素を画素混合した画素データを同図右に示す2ライン目のB画素B1とする。以下同様の処理を行うことにより、同図右に示すような縮小したベイヤー配列の画素データが生成される。すなわち、垂直方向に(12n+2)番目のライン及び(12n+8)番目のライン上のG画素の画素データを、ベイヤー配列パターンの対応する位置のG画素に各々当てはめ、垂直方向における(12n+2)番目のライン上の隣接するR画素を画素混合した画素データをベイヤー配列パターンの対応する位置のR画素に当てはめ、垂直方向における(12n+8)番目のライン上の隣接するB画素を画素混合した画素データを、ベイヤー配列パターンの対応する位置のB画素に当てはめることにより、撮像素子14から間引いて読み出された各ラインの画素データをベイヤー配列画素データに変換する。
(第6実施形態)
次に、本発明の第6実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第4実施形態と異なるのは撮像信号の間引き方であり、その他は第4実施形態と同様である。
図12には、スルー動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図12左に示すように、制御部24は、駆動部22に対して垂直方向に(18n+2)番目(n=0,1,2,・・・)のライン及び(18n+11)番目(n=0,1,2,・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、(18n+2)番目及び(18n+11)番目のラインの画素データのみが出力される。すなわち、垂直方向の18ラインのうち、1、3〜10、12〜18ライン目を間引き、2ライン目及び11ライン目の画素データを読み出すことを繰り返す。
画素変換処理部18では、間引いた読み出された画素データに対して、水平方向に隣接する同色の画素の画素データを画素混合することにより、同図右に示すように、水平方向が1/3、垂直方向が1/9の画素数(1632×362)の画素データを生成する。
具体的には、G画素については、図12左に示す2ライン目の枠Ga内の1個のG画素の画素データを同図右に示す縮小画像の1ライン目のG画素G1とすると共に、11ライン目の枠Gb内の1個のG画素の画素データを同図右に示す縮小画像のライン目のG画素G2とする。B画素については、図12左に示す2ライン目の枠Ba内の2個のB画素を画素混合した画素データを同図右に示す縮小画像の1ライン目のB画素B1とし、R画素については、図12左に示す11ライン目の枠Ra内の2個のR画素を画素混合した画素データを同図右に示す2ライン目のR画素R1とする。以下同様の処理を行うことにより、同図右に示すような縮小したベイヤー配列の画素データが生成される。すなわち、垂直方向に(18n+2)番目のライン及び(18n+11)番目のライン上のG画素の画素データを、ベイヤー配列パターンの対応する位置のG画素に各々当てはめ、垂直方向における(18n+2)番目のライン上の隣接するB画素を画素混合した画素データをベイヤー配列パターンの対応する位置のB画素に当てはめ、垂直方向における(18n+11)番目のライン上の隣接するR画素を画素混合した画素データを、ベイヤー配列パターンの対応する位置のR画素に当てはめることにより、撮像素子14から間引いて読み出された各ラインの画素データをベイヤー配列画素データに変換する。
(第7実施形態)
次に、本発明の第7実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第1実施形態と異なるのは画素変換処理であり、その他は第1実施形態と同様である。本実施形態では、画素変換処理部18は、撮像素子14から間引いて読み出された各ラインの画素データを、水平方向に隣接する同色の画素の画素データを画素位置に応じて重み付け加算することにより、各画素位置のR、G、Bの画素データを生成し、当該生成した各色の画素データに基づいて、ベイヤー配列画素データを生成する。
図13には、HD動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図13左上に示すように、制御部24は、駆動部22に対して垂直方向に(6n+1)番目(n=0,1,2,・・・)及び(6n+3)番目(n=0、1、2、・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、(6n+1)番目及び(6n+3)番目のラインの画素データのみが出力される。
画素変換処理部18では、まず撮像素子14から間引いて読み出された各ラインの画素データについて、水平方向に隣接する同色の画素の画素データを画素位置に応じて重み付け加算することにより、各画素位置のR、G、Bの画素データを生成する。
具体的には、例えばG画素については、図13左上に示す1ライン目の枠Ga(3画素含んでいる)内の2個のG画素の画素データに基づいて、その枠内の各画素の画素位置に応じて重み付け加算することにより、枠内の各画素位置のGの画素データを生成する。枠Ga内の中央の画素については、元々はB画素しかないが、上記の重み付け加算によってGの画素データが補間される。このような処理を、(6n+1)番目のライン目及び(6n+)番目のラインについて枠Gaを水平方向にずらしながら行うことにより、(6n+1)番目のライン及び(6n+3)番目の全ての画素位置についてG画素の画素データを生成する。R画素、B画素についても同様に、同図左上に示す枠Ra、Ba(何れも7画素含んでいる)を水平方向にずらしながら上記の重み付け加算を行うことで(6n+1)番目のライン及び(6n+3)番目のラインの全ての画素位置についてR画素、B画素の画素データを生成する。これにより、同図右上に示すように、(6n+1)番目及び(6n+3)番目のラインのR,G,Bの画素データが生成される。
次に、画素変換処理部18は、上記のようにして生成したR,G,Bの各画素データから、同図左下に示すように、ベイヤー配列パターンに対応した位置の画素データを抜き出すことによって、同図左下に示すようなベイヤー配列パターンの画素データを生成する。そして、同図左下に示すベイヤー配列パターンの画素データを、水平方向に隣接する同色の画素を画素混合することにより、同図左下の画素データの画素数を水平方向に1/2としたベイヤー配列パターンの画素データを生成する。
具体的には、G画素については、図13左下に示す1ライン目の枠Ga内の2個のG画素を画素混合した画素データを同図右下に示す縮小画像の1ライン目のG画素G1とすると共に、図13左下に示す2ライン目の枠Gb内の2個のG画素を画素混合した画素データを同図右に示す縮小画像の2ライン目のG画素Gとする。R画素については、図13左に示す1ライン目の枠Ra内の2個のR画素を画素混合した画素データを同図右下に示す縮小画像の1ライン目のR画素R1とし、B画素については、図13左下に示す2ライン目の枠Ba内の2個のB画素を画素混合した画素データを同図右下に示す2ライン目のB画素B1とする。以下同様の処理を行うことにより、同図右下に示すような縮小したベイヤー配列の画素データが生成される。
(第8実施形態)
次に、本発明の第8実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第7実施形態と異なるのは撮像信号の間引き方であり、その他は第7実施形態と同様である。
図14には、HD動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図14左上に示すように、制御部24は、駆動部22に対して垂直方向に(6n+2)番目(n=0,1,2,・・・)及び(6n+5)番目(n=0、1、2、・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、(6n+2)番目及び(6n+5)番目のラインの画素データのみが出力される。以降の処理は第7実施形態と同様である。
(第9実施形態)
次に、本発明の第9実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第7実施形態と異なるのは撮像信号の間引き方であり、その他は第7実施形態と同様である。
図15には、HD動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図15左上に示すように、制御部24は、駆動部22に対して垂直方向に(6n+1)番目(n=0,1,2,・・・)及び(6n+4)番目(n=0、1、2、・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、(6n+1)番目及び(6n+4)番目のラインの画素データのみが出力される。以降の処理は第7実施形態と同様である。
(第10実施形態)
次に、本発明の第10実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第7実施形態と異なるのは撮影モード及び撮像信号の間引き方であり、その他は第7実施形態と同様である。
図16には、スルー動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図16左上に示すように、制御部24は、駆動部22に対して垂直方向に(6n+1)番目(n=0,1,2,・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、(6n+1)番目のラインの画素データのみが出力される。以降の処理は第7実施形態と同様である。
(第11実施形態)
次に、本発明の第11実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第7実施形態と異なるのは撮影モード及び撮像信号の間引き方であり、その他は第7実施形態と同様である。
図17には、スルー動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図17左上に示すように、制御部24は、駆動部22に対して垂直方向に(6n+2)番目(n=0,1,2,・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、(6n+2)番目のラインの画素データのみが出力される。以降の処理は第7実施形態と同様である。
(第12実施形態)
次に、本発明の第12実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第7実施形態と異なるのは撮影モード及び撮像信号の間引き方であり、その他は第7実施形態と同様である。
図18には、スルー動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図18左上に示すように、制御部24は、駆動部22に対して垂直方向に(9n+2)番目(n=0,1,2,・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、(9n+2)番目のラインの画素データのみが出力される。以降の処理は第7実施形態と同様である。
(第13実施形態)
次に、本発明の第13実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第1実施形態と異なるのは画素変換処理であり、その他は第1実施形態と同様である。本実施形態では、画素変換処理部18は、撮像素子14から間引いて読み出された各ラインの画素データから、ベイヤー配列パターンに対応した2ライン分の画素データを各々生成し、当該生成した2ラインの画素データをベイヤー配列画素データに変換する。
図19には、HD動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図19左に示すように、制御部24は、駆動部22に対して垂直方向に(6n+1)番目(n=0,1,2,・・・)及び(6n+3)番目(n=0、1、2、・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、(6n+1)番目及び(6n+3)番目のラインの画素データのみが出力される。
画素変換処理部18では、例えば図19左に示す1ライン目のG画素については、枠Ga(3画素含んでいる)内の2個のG画素を画素混合した画素データを同図右に示す縮小画像の1ライン目のG画素G1とすると共に、枠Gaの左側に隣接する枠Gb(3画素含んでいる)内の2個のG画素を画素混合した画素データを同図右に示す縮小画像の2ライン目のG画素G2とする。また、R画素については、図19左に示す1ライン目の枠Ra内の1個のR画素を同図右に示す縮小画像の1ライン目のR画素R1とし、B画素については、図19左に示す1ライン目の枠Ba内の1個のB画素を同図右に示す2ライン目のB画素B1とする。以下同様の処理を(6n+1)番目及び(6n+3)番目のラインの画素データについて行うことにより、同図右に示すような縮小したベイヤー配列の画素データが生成される。すなわち、垂直方向における(6n+1)番目のライン上の2組の隣接するG画素の画素データを画素混合した画素データを、ベイヤー配列パターンの垂直方向における(2n+1)番目のライン及び(2n+2)番目のラインの対応する位置のG画素に各々当てはめ、垂直方向における(6n+3)番目のライン上の2組の隣接するG画素の画素データを画素混合した画素データを、ベイヤー配列パターンの垂直方向における(2n+3)番目のライン及び(2n+4)番目のラインの対応する位置のG画素に各々当てはめ、(6n+1)番目及び(6n+3)番目のライン上のR画素の画素データをベイヤー配列パターンの(2n+1)番目及び(2n+3)番目のラインの対応する位置のR画素に各々当てはめ、(6n+1)番目及び(6n+3)番目のライン上のB画素の画素データを、ベイヤー配列パターンの(2n+2)番目及び(2n+4)番目のラインの対応する位置のB画素に当てはめることにより、撮像素子14から間引いて読み出された各ラインの画素データをベイヤー配列画素データに変換する。
(第14実施形態)
次に、本発明の第14実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第13実施形態と異なるのは撮影モード及び間引き処理であり、その他は第13実施形態と同様である。
図20には、スルー動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図20左に示すように、制御部24は、駆動部22に対して垂直方向に(6n+1)番目(n=0,1,2,・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、(6n+1)番目のラインの画素データのみが出力される。
画素変換処理部18では、例えば図20左に示す1ライン目のG画素については、枠Ga内の2個のG画素を画素混合した画素データを同図右に示す縮小画像の1ライン目のG画素G1とすると共に、枠Gb内の2個のG画素を画素混合した画素データを同図右に示す縮小画像の2ライン目のG画素G2とする。また、R画素については、図20左に示す1ライン目の枠Ra内の1個のR画素を同図右に示す縮小画像の1ライン目のR画素R1とし、B画素については、図20左に示す1ライン目の枠Ba内の1個のB画素を同図右に示す2ライン目のB画素B1とする。以下同様の処理を(6n+1)番目のラインの画素データについて行うことにより、同図右に示すような縮小したベイヤー配列の画素データが生成される。すなわち、(6n+1)番目のライン上の2組の隣接するG画素を画素混合した画素データを、ベイヤー配列パターンの垂直方向における(2n+1)番目のライン及び(2n+2)番目のラインの対応する位置のG画素に各々当てはめ、(6n+1)番目のライン上のR画素の画素データをベイヤー配列パターンの(2n+1)番目のラインの対応する位置のR画素に当てはめ、(6n+1)番目のライン上のB画素の画素データを、ベイヤー配列パターンの(2n+2)番目のラインの対応する位置の画素に当てはめることにより、撮像素子14から間引いて読み出された各ラインの画素データをベイヤー配列画素データに変換する。
(第15実施形態)
次に、本発明の第15実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
本実施形態が第13実施形態と異なるのは撮影モード及び間引き処理であり、その他は第13実施形態と同様である。
図21には、スルー動画モードで撮影した場合の処理の流れを概略的に示した。本実施形態では、図21左に示すように、制御部24は、駆動部22に対して垂直方向に(12n+2)番目(n=0,1,2,・・・)及び(12n+8)番目(n=0,1,2,・・・)のラインの画素データを読み出すように指示する。これにより、撮像素子14からは、(12n+2)番目及び(12n+8)番目のラインの画素データのみが出力される。
画素変換処理部18では、例えば図21左に示す2ライン目のG画素については、枠Ga内の1個の画素の画素データを同図右に示す縮小画像の1ライン目のG画素G1とし、枠Gb内の1個の画素の画素データを同図右に示す縮小画像の2ライン目のG画素G2とする。また、R画素については、図21左に示す2ライン目の枠Ra内の個のR画素を画素混合した画素データを同図右に示す縮小画像の1ライン目のR画素R1とし、B画素については、図21左に示す2ライン目の枠Ba内の個のB画素を画素混合した画素データを同図右に示す2ライン目のB画素B1とする。以下同様の処理を(12n+2)番目及び(12n+8)番目のラインの画素データについて行う。なお、(12n+8)番目のラインから生成されるベイヤー配列の画像は、同図右に示すように、R画素とB画素の位置が入れ替わる。このような処理を行うことにより、同図右に示すような縮小したベイヤー配列の画素データが生成される。すなわち、(12n+2)番目のライン上の2組のG画素を、ベイヤー配列パターンの垂直方向における(2n+1)番目のライン及び(2n+2)番目のラインの対応する位置のG画素に各々当てはめ、(12n+2)番目のライン上の隣接するR画素を画素混合した画素データをベイヤー配列パターンの(2n+1)番目のラインの対応する位置のR画素に当てはめ、(12n+8)番目のライン上の隣接するR画素を画素混合した画素データをベイヤー配列パターンの(2n+4)番目のラインの対応する位置のR画素に当てはめ、(12n+2)番目のライン上の隣接するB画素を画素混合した画素データを、ベイヤー配列パターンの(2n+2)番目のラインの対応する位置の画素に当てはめ、(12n+8)番目のライン上の隣接するB画素を画素混合した画素データを、ベイヤー配列パターンの(2n+3)番目のラインの対応する位置の画素に当てはめることにより、撮像素子14から間引いて読み出された各ラインの画素データをベイヤー配列画素データに変換する。
なお、上記各実施形態では、RGBの3原色のカラーフィルタのカラーフィルタ配列について説明したが、カラーフィルタの種類は、これに限定されるものではない。
10 撮像装置
12 光学系
14 撮像素子
16 撮像処理部
18 画素変換処理部
20 画像処理部
22 駆動部
24 制御部
30 カラーフィルタ

Claims (21)

  1. 水平方向及び垂直方向に配列された複数の光電変換素子を含む撮像素子と、
    前記複数の光電変換素子からなる複数の画素上に設けられたカラーフィルタであって、輝度信号を得るために最も寄与する第1の色に対応する第1のフィルタが、3×3画素の正方配列の四隅及び中央の画素上に配置され、前記第1の色と異なる第2の色に対応する第2のフィルタが、前記正方配列の前記水平方向における中央のラインに配置され、前記第1の色及び前記第2の色と異なる第3の色に対応する第3のフィルタが、前記正方配列の前記垂直方向における中央のラインに配置された第1の配列パターンと、前記第1の配列パターンと前記第1のフィルタの配置が同一で且つ前記第2のフィルタの配置と前記第3のフィルタの配置とを入れ替えた第2の配列パターンと、が点対称で配置された6×6画素の基本配列パターンが繰り返し配置されたカラーフィルタと、
    前記垂直方向における予め定めた位置のライン上の画素の画素データのみを読み出すように前記撮像素子を駆動する駆動手段と、
    前記撮像素子から間引いて読み出された各ラインの画素データを、2×2画素の正方配列の一方の対角線上の2つの画素が前記第1の色の画素、他方の対角線上の2つの画素が前記第2の色の画素及び前記第3の色の画素で配置されたベイヤー配列パターンであるベイヤー配列画素データに変換する画素変換手段と、
    前記ベイヤー配列画素データに基づいて、各画素について、対応する色以外の色の画素データを周囲の画素の画素データから補間することにより、各画素の各色の画素データを生成する生成手段と、
    を備えた撮像装置。
  2. 前記画素変換手段は、前記撮像素子から間引いて読み出された各ラインの画素データを、前記水平方向に隣接する同色の画素の画素データを画素混合することにより、前記撮像素子から間引いて読み出された各ラインの画素データをベイヤー配列画素データに変換する
    請求項1記載の撮像装置。
  3. 前記駆動手段は、前記垂直方向における(6n+1)番目(n=0、1、2、・・・)の第1のライン及び(6n+3)番目(n=0、1、2、・・・)の第3のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、
    前記画素変換手段は、前記第1のライン及び前記第3のライン上の隣接する前記第1の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第1の色の画素に各々当てはめ、前記第1のライン上の前記第3の色の画素データを前記ベイヤー配列パターンの対応する位置の前記第3の色の画素に当てはめ、前記第3のライン上の前記第2の色の画素データを、前記ベイヤー配列パターンの対応する位置の前記第2の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換する
    請求項2記載の撮像装置。
  4. 前記駆動手段は、前記垂直方向における(6n+2)番目(n=0、1、2、・・・)の第2のライン及び(6n+5)番目(n=0、1、2、・・・)の第5のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、
    前記画素変換手段は、前記第2のライン及び第5のライン上の前記第1の色の画素データを、前記ベイヤー配列パターンの対応する位置の前記第1の色の画素に当てはめ、前記第2のライン上の隣接する前記第2の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第2の色の画素に当てはめ、前記第5のライン上の隣接する前記第3の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第3の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換する
    請求項2記載の撮像装置。
  5. 前記駆動手段は、前記垂直方向における(6n+1)番目(n=0、1、2、・・・)の第1のライン及び(6n+4)番目(n=0、1、2、・・・)の第4のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、
    前記画素変換手段は、前記第1のライン及び前記第4のライン上の隣接する前記第1の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第1の色の画素に各々当てはめ、前記第1のライン上の前記第2の色の画素データを前記ベイヤー配列パターンの対応する位置の前記第2の色の画素に当てはめ、前記第4のライン上の隣接する前記第3の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第3の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換する
    請求項2記載の撮像装置。
  6. 前記駆動手段は、前記垂直方向における(12n+1)番目(n=0、1、2、・・・)の第1のライン及び(12n+7)番目(n=0、1、2、・・・)の第7のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、
    前記画素変換手段は、前記第1のライン及び前記第7のライン上の隣接する前記第1の色の画素データを各々画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第1の色の画素に当てはめ、前記垂直方向における前記第1のライン上の前記第2の色の画素データを前記ベイヤー配列パターンの対応する位置の前記第2の色の画素に当てはめ、前記垂直方向における前記第7のライン上の前記第3の色の画素データを、前記ベイヤー配列パターンの対応する位置の前記第3の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換する
    請求項2記載の撮像装置。
  7. 前記駆動手段は、前記垂直方向における(12n+2)番目(n=0、1、2、・・・)の第2のライン及び(12n+8)番目(n=0、1、2、・・・)の第8のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、
    前記画素変換手段は、前記第2のライン及び前記第8のライン上の前記第1の色の画素データを、前記ベイヤー配列パターンの対応する位置の前記第1の色の画素に当てはめ、前記垂直方向における前記第2のライン上の隣接する前記第2の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第2の色の画素に当てはめ、前記垂直方向における前記第8のライン上の隣接する前記第3の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第3の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換する
    請求項2記載の撮像装置。
  8. 前記駆動手段は、前記垂直方向における(18n+2)番目(n=0、1、2、・・・)の第2のライン及び(18n+11)番目(n=0、1、2、・・・)の第11のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、
    前記画素変換手段は、前記第2のライン及び第11のライン上の前記第1の色の画素データを、前記ベイヤー配列パターンの対応する位置の前記第1の色の画素に当てはめ、前記垂直方向における前記第2のライン上の隣接する前記第3の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの対応する位置の前記第3の色の画素に当てはめ、前記垂直方向における前記第11のライン上の前記第2の色の画素データを、前記ベイヤー配列パターンの対応する位置の前記第2の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換する
    請求項2記載の撮像装置。
  9. 前記画素変換手段は、前記撮像素子から間引いて読み出された各ラインの画素データについて、前記水平方向に隣接する同色の画素の画素データを画素位置に応じて重み付け加算することにより、各画素位置の前記第1の色、前記第2の色、及び前記第3の色の画素データを生成し、当該生成した各色の画素データに基づいて、前記ベイヤー配列画素データを生成する
    請求項1記載の撮像装置。
  10. 前記駆動手段は、前記垂直方向における(6n+1)番目(n=0、1、2、・・・)の第1のライン及び(6n+3)番目(n=0、1、2、・・・)の第3のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、
    前記画素変換手段は、前記第1のライン及び前記第3のライン上の隣接する同色の画素の画素データを画素位置に応じて各々重み付け加算することにより、各画素位置の前記第1の色、前記第2の色、及び前記第3の色の画素データを生成し、当該生成した各色の画素データに基づいて、前記ベイヤー配列画素データを生成する
    請求項9記載の撮像装置。
  11. 前記駆動手段は、前記垂直方向における(6n+2)番目(n=0、1、2、・・・)の第2のライン及び(6n+5)番目(n=0、1、2、・・・)の第5のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、
    前記画素変換手段は、前記第2のライン及び前記第5のライン上の隣接する同色の画素の画素データを画素位置に応じて各々重み付け加算することにより、各画素位置の前記第1の色、前記第2の色、及び前記第3の色の画素データを生成し、当該生成した各色の画素データに基づいて、前記ベイヤー配列画素データを生成する
    請求項9記載の撮像装置。
  12. 前記駆動手段は、前記垂直方向における(6n+1)番目(n=0、1、2、・・・)の第1のライン及び(6n+4)番目(n=0、1、2、・・・)の第4のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、
    前記画素変換手段は、前記第1のライン及び前記第4のライン上の隣接する同色の画素の画素データを画素位置に応じて各々重み付け加算することにより、各画素位置の前記第1の色、前記第2の色、及び前記第3の色の画素データを生成し、当該生成した各色の画素データに基づいて、前記ベイヤー配列画素データを生成する
    請求項9記載の撮像装置。
  13. 前記駆動手段は、前記垂直方向における(6n+1)番目(n=0、1、2、・・・)の第1のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、
    前記画素変換手段は、前記第1のライン上の隣接する同色の画素の画素データを画素位置に応じて重み付け加算することにより、各画素位置の前記第1の色、前記第2の色、及び前記第3の色の画素データを生成し、当該生成した各色の画素データに基づいて、前記ベイヤー配列画素データを生成する
    請求項9記載の撮像装置。
  14. 前記駆動手段は、前記垂直方向における(6n+2)番目(n=0、1、2、・・・)の第2のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、
    前記画素変換手段は、前記第2のライン上の隣接する同色の画素の画素データを画素位置に応じて重み付け加算することにより、各画素位置の前記第1の色、前記第2の色、及び前記第3の色の画素データを生成し、当該生成した各色の画素データに基づいて、前記ベイヤー配列画素データを生成する
    請求項9記載の撮像装置。
  15. 前記駆動手段は、前記垂直方向における(9n+2)番目(n=0、1、2、・・・)の第2のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、
    前記画素変換手段は、前記第2のライン上の隣接する同色の画素の画素データを画素位置に応じて重み付け加算することにより、各画素位置の前記第1の色、前記第2の色、及び前記第3の色の画素データを生成し、当該生成した各色の画素データに基づいて、前記ベイヤー配列画素データを生成する
    請求項9記載の撮像装置。
  16. 前記画素変換手段は、前記撮像素子から間引いて読み出された各ラインの画素データから、前記ベイヤー配列パターンに対応した2ライン分の画素データを各々生成し、当該生成した2ラインの画素データを前記ベイヤー配列画素データに変換する
    請求項1記載の撮像装置。
  17. 前記駆動手段は、前記垂直方向における(6n+1)番目(n=0、1、2、・・・)の第1のライン及び(6n+3)番目(n=0、1、2、・・・)の第3のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、
    前記画素変換手段は、前記第1のライン上の2組の隣接する前記第1の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの前記垂直方向における(2n+1)番目(n=0、1、2、・・・)の第1のベイヤー配列ライン及び(2n+2)番目(n=0、1、2、・・・)の第2のベイヤー配列ラインの対応する位置の前記第1の色の画素に各々当てはめ、前記第3のライン上の2組の隣接する前記第1の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの前記垂直方向における(2n+3)番目(n=0、1、2、・・・)の第3のベイヤー配列ライン及び(2n+4)番目(n=0、1、2、・・・)の第4のベイヤー配列ラインの対応する位置の前記第1の色の画素に各々当てはめ、前記第1のライン及び前記第3のライン上の前記第2の色の画素データを前記ベイヤー配列パターンの前記第1のベイヤー配列ライン及び前記第3のベイヤー配列ラインの対応する位置の前記第2の色の画素に各々当てはめ、前記第1のライン及び前記第3のライン上の前記第3の色の画素データを、前記ベイヤー配列パターンの前記第2のベイヤー配列ライン及び前記第4のベイヤー配列ラインの対応する位置の前記第3の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換する
    請求項16記載の撮像装置。
  18. 前記駆動手段は、前記垂直方向における(6n+1)番目(n=0、1、2、・・・)の第1のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、
    前記画素変換手段は、前記第1のライン上の2組の隣接する前記第1の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの前記垂直方向における(2n+1)番目(n=0、1、2、・・・)の第1のベイヤー配列ライン及び(2n+2)番目(n=0、1、2、・・・)の第2のベイヤー配列ラインの対応する位置の前記第1の色の画素に各々当てはめ、前記第1のライン上の前記第2の色の画素データを前記ベイヤー配列パターンの前記第1のベイヤー配列ラインの対応する位置の前記第2の色の画素に当てはめ、前記第1のライン上の前記第3の色の画素データを、前記ベイヤー配列パターンの前記第2のベイヤー配列ラインの対応する位置の前記第3の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換する
    請求項16記載の撮像装置。
  19. 前記駆動手段は、前記垂直方向における(12n+2)番目(n=0、1、2、・・・)の第2のライン及び(12n+8)番目(n=0、1、2、・・・)の第8のライン上の画素の画素データのみを間引いて読み出すように前記撮像素子を駆動し、
    前記画素変換手段は、前記第2のライン上の2組の前記第1の色の画素データを、前記ベイヤー配列パターンの前記垂直方向における(2n+1)番目(n=0、1、2、・・・)の第1のベイヤー配列ライン及び(2n+2)番目(n=0、1、2、・・・)の第2のベイヤー配列ラインの対応する位置の前記第1の色の画素に各々当てはめ、前記第8のライン上の2組の前記第1の色の画素データを、前記ベイヤー配列パターンの前記垂直方向における(2n+3)番目(n=0、1、2、・・・)の第3のベイヤー配列ライン及び(2n+4)番目(n=0、1、2、・・・)の第4のベイヤー配列ラインの対応する位置の前記第1の色の画素に各々当てはめ、前記第2のライン上の隣接する前記第2の色の画素データを画素混合した画素データを前記ベイヤー配列パターンの前記第1のベイヤー配列ラインの対応する位置の前記第2の色の画素に当てはめ、前記第8のライン上の隣接する前記第2の色の画素データを画素混合した画素データを前記ベイヤー配列パターンの前記第4のベイヤー配列ラインの対応する位置の前記第2の色の画素に当てはめ、前記第2のライン上の隣接する前記第3の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの前記第2のベイヤー配列ラインの対応する位置の前記第3の色の画素に当てはめ、前記第8のライン上の隣接する前記第3の色の画素データを画素混合した画素データを、前記ベイヤー配列パターンの前記第3のベイヤー配列ラインの対応する位置の前記第3の色の画素に当てはめることにより、前記撮像素子から間引いて読み出された各ラインの画素データを前記ベイヤー配列画素データに変換する
    請求項16記載の撮像装置。
  20. 前記第1の色は、緑(G)色であり、前記第2の色は、赤(R)色及び青(B)色の一方の色であり、前記第3の色は、赤(R)色及び青(B)色の他方の色である
    請求項1〜19の何れか1項に記載の撮像装置。
  21. コンピュータを、請求項1〜請求項20の何れか1項に記載の撮像装置を構成する画素変換手段として機能させるための撮像プログラム。
JP2013504501A 2011-03-11 2011-07-29 撮像装置及び撮像プログラム Expired - Fee Related JP5474258B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013504501A JP5474258B2 (ja) 2011-03-11 2011-07-29 撮像装置及び撮像プログラム

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
JP2011054631 2011-03-11
JP2011054631 2011-03-11
JP2011163306 2011-07-26
JP2011163306 2011-07-26
PCT/JP2011/067544 WO2012124181A1 (ja) 2011-03-11 2011-07-29 撮像装置及び撮像プログラム
JP2013504501A JP5474258B2 (ja) 2011-03-11 2011-07-29 撮像装置及び撮像プログラム

Publications (2)

Publication Number Publication Date
JP5474258B2 true JP5474258B2 (ja) 2014-04-16
JPWO2012124181A1 JPWO2012124181A1 (ja) 2014-07-17

Family

ID=46830283

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013504501A Expired - Fee Related JP5474258B2 (ja) 2011-03-11 2011-07-29 撮像装置及び撮像プログラム

Country Status (5)

Country Link
US (1) US8928785B2 (ja)
EP (1) EP2685725B1 (ja)
JP (1) JP5474258B2 (ja)
CN (1) CN103416067B (ja)
WO (1) WO2012124181A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2685726A4 (en) * 2011-03-11 2014-09-03 Fujifilm Corp IMAGING DEVICE AND IMAGING PROGRAM
EP2800379A4 (en) * 2011-12-27 2015-12-23 Fujifilm Corp COLOR IMAGING ELEMENT
JP6016423B2 (ja) * 2012-04-10 2016-10-26 キヤノン株式会社 信号処理装置、撮像装置及び信号処理方法
IN2015DE03212A (ja) * 2015-10-06 2015-10-23 Hcl Technologies Ltd
CN106507068B (zh) 2016-11-29 2018-05-04 广东欧珀移动通信有限公司 图像处理方法及装置、控制方法及装置、成像及电子装置
CN106488203B (zh) 2016-11-29 2018-03-30 广东欧珀移动通信有限公司 图像处理方法、图像处理装置、成像装置及电子装置
CN109246373B (zh) * 2018-10-31 2021-03-02 上海集成电路研发中心有限公司 一种调整图像传感器输出的图像的像素排列的方法及装置
CN112218062B (zh) * 2020-10-12 2022-04-22 Oppo广东移动通信有限公司 图像缩放装置、电子设备、图像缩放方法及图像处理芯片
KR20220144087A (ko) * 2021-04-19 2022-10-26 삼성전자주식회사 이미지 센서 및 이미지 센싱 시스템

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10243407A (ja) * 1997-02-27 1998-09-11 Olympus Optical Co Ltd 画像信号処理装置及び画像入力処理装置
JP2001085664A (ja) * 1999-07-15 2001-03-30 Sony Corp 固体撮像素子およびその駆動方法並びにカメラシステム
JP2010512048A (ja) * 2006-11-30 2010-04-15 イーストマン コダック カンパニー 低解像度画像の生成

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3268891B2 (ja) * 1992-08-14 2002-03-25 オリンパス光学工業株式会社 内視鏡撮像装置
JPH0823543A (ja) 1994-07-07 1996-01-23 Canon Inc 撮像装置
JPH0823542A (ja) 1994-07-11 1996-01-23 Canon Inc 撮像装置
DE69924308T2 (de) 1998-01-20 2006-03-09 Hewlett-Packard Development Co., L.P., Houston Farbbildaufnahmegerät
JP4098438B2 (ja) 1999-04-15 2008-06-11 オリンパス株式会社 カラー撮像素子及びカラー撮像装置
JP2002135793A (ja) 2000-10-20 2002-05-10 Victor Co Of Japan Ltd カラー撮像装置
EP2381688B1 (en) 2001-01-09 2014-06-25 Sony Corporation Image pick up device
JP4019417B2 (ja) 2003-01-14 2007-12-12 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
JP2004266369A (ja) 2003-02-21 2004-09-24 Sony Corp 固体撮像装置およびその駆動方法
JP4385282B2 (ja) 2003-10-31 2009-12-16 ソニー株式会社 画像処理装置および画像処理方法
JP3960965B2 (ja) 2003-12-08 2007-08-15 オリンパス株式会社 画像補間装置及び画像補間方法
US7471322B2 (en) * 2004-01-21 2008-12-30 Panasonic Corporation Solid state imaging device and driving method thereof
JP4524609B2 (ja) * 2004-10-29 2010-08-18 ソニー株式会社 固体撮像素子、固体撮像素子の駆動方法および撮像装置
JP4701975B2 (ja) * 2005-10-05 2011-06-15 パナソニック株式会社 固体撮像装置および撮像装置
US7821553B2 (en) 2005-12-30 2010-10-26 International Business Machines Corporation Pixel array, imaging sensor including the pixel array and digital camera including the imaging sensor
JP4662883B2 (ja) 2006-05-15 2011-03-30 富士フイルム株式会社 二次元カラー固体撮像素子
JP2008078794A (ja) * 2006-09-19 2008-04-03 Pentax Corp 撮像素子駆動装置
US20080125507A1 (en) 2006-11-28 2008-05-29 Bayer Materialscience Llc Reduction of VOC emissions from low density cavity filling NVH polyurethane foams
US7701496B2 (en) * 2006-12-22 2010-04-20 Xerox Corporation Color filter pattern for color filter arrays including a demosaicking algorithm
JP5082528B2 (ja) 2007-03-23 2012-11-28 ソニー株式会社 固体撮像装置及び撮像装置
US7745779B2 (en) * 2008-02-08 2010-06-29 Aptina Imaging Corporation Color pixel arrays having common color filters for multiple adjacent pixels for use in CMOS imagers
JP2009246465A (ja) 2008-03-28 2009-10-22 Panasonic Corp 撮像装置、撮像モジュール、及び撮像システム
KR101843994B1 (ko) 2008-05-20 2018-03-30 포토네이션 케이맨 리미티드 이종 이미저를 구비한 모놀리식 카메라 어레이를 이용한 이미지의 캡처링 및 처리
JP5472584B2 (ja) * 2008-11-21 2014-04-16 ソニー株式会社 撮像装置
JP5149143B2 (ja) 2008-12-24 2013-02-20 シャープ株式会社 固体撮像素子およびその製造方法、電子情報機器
JP5471117B2 (ja) * 2009-07-24 2014-04-16 ソニー株式会社 固体撮像装置とその製造方法並びにカメラ
EP2685726A4 (en) * 2011-03-11 2014-09-03 Fujifilm Corp IMAGING DEVICE AND IMAGING PROGRAM
BR112013030805A2 (pt) * 2011-06-30 2016-12-06 Fujifilm Corp aparelho de formação de imagem, método de controle de aparelho de formação de imagem, programa de controle de aparelho de formação de imagem
BE1020345A5 (nl) 2012-05-25 2013-08-06 Atla Con Bvba Afvul- en lasinrichting en werkwijze voor het afvullen en dichtlassen van een zak.

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10243407A (ja) * 1997-02-27 1998-09-11 Olympus Optical Co Ltd 画像信号処理装置及び画像入力処理装置
JP2001085664A (ja) * 1999-07-15 2001-03-30 Sony Corp 固体撮像素子およびその駆動方法並びにカメラシステム
JP2010512048A (ja) * 2006-11-30 2010-04-15 イーストマン コダック カンパニー 低解像度画像の生成

Also Published As

Publication number Publication date
CN103416067B (zh) 2014-10-29
EP2685725A4 (en) 2014-09-03
CN103416067A (zh) 2013-11-27
JPWO2012124181A1 (ja) 2014-07-17
EP2685725A1 (en) 2014-01-15
US8928785B2 (en) 2015-01-06
WO2012124181A1 (ja) 2012-09-20
US20140009655A1 (en) 2014-01-09
EP2685725B1 (en) 2016-12-07

Similar Documents

Publication Publication Date Title
JP5474258B2 (ja) 撮像装置及び撮像プログラム
JP5054857B1 (ja) カラー撮像装置
JP5872408B2 (ja) カラー撮像装置及び画像処理方法
EP2690874A1 (en) Color image sensor, imaging device, and control program for imaging device
US8723991B2 (en) Color imaging element, imaging device, and storage medium storing an imaging program
JP5702896B2 (ja) カラー撮像素子及び撮像装置
JP4796871B2 (ja) 撮像装置
EP2690875A1 (en) Color image sensor, imaging device, and control program for imaging device
EP2690872A1 (en) Color image capturing element, image capturing device, and image capturing program
JP5524406B2 (ja) 撮像装置及び撮像プログラム
JP5600812B2 (ja) 撮像装置
JP5033711B2 (ja) 撮像装置及び撮像装置の駆動方法
JP4352331B2 (ja) 信号処理装置、信号処理方法及び信号処理プログラム
JP5607266B2 (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム
JP5411390B2 (ja) カラー撮像素子
JP5624228B2 (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム
JP5607267B2 (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム
JP5624227B2 (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140204

R150 Certificate of patent or registration of utility model

Ref document number: 5474258

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees