JP5378626B2 - 撮像装置およびその動作制御方法 - Google Patents

撮像装置およびその動作制御方法 Download PDF

Info

Publication number
JP5378626B2
JP5378626B2 JP2013504503A JP2013504503A JP5378626B2 JP 5378626 B2 JP5378626 B2 JP 5378626B2 JP 2013504503 A JP2013504503 A JP 2013504503A JP 2013504503 A JP2013504503 A JP 2013504503A JP 5378626 B2 JP5378626 B2 JP 5378626B2
Authority
JP
Japan
Prior art keywords
photoelectric conversion
color
filter
green
light component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013504503A
Other languages
English (en)
Other versions
JPWO2012124183A1 (ja
Inventor
誠二 田中
賢司 今村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2013504503A priority Critical patent/JP5378626B2/ja
Application granted granted Critical
Publication of JP5378626B2 publication Critical patent/JP5378626B2/ja
Publication of JPWO2012124183A1 publication Critical patent/JPWO2012124183A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/73Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors using interline transfer [IT]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Color Television Image Signal Generators (AREA)

Description

この発明は,撮像装置およびその動作制御方法に関する。
第8a図は,固体電子撮像素子1の受光面の一部を示している。固体電子撮像素子1には,水平方向および垂直方向に多数の光電変換素子2が設けられている。光電変換素子2の受光面上には赤色の光成分を透過する特性を有するカラー・フィルタR,緑色の光成分を透過する特性を有するカラー・フィルタGまたは青色の光成分を透過する特性を有するカラー・フィルタBが形成されている。第8a図においては,ベイヤ配列と呼ばれる配列でカラー・フィルタRGまたはBが光電変換素子2の受光面上に形成されている。第8b図は,固体電子撮像素子1の光電変換素子2の3列に対応した周期の画像が固体電子撮像素子1上に結像した様子を示している。白色の部分のレベルは8ビットで表した場合に255であり,ハッチングで示した部分のレベルは8ビットで表した場合に0である。このような画像が結像した場合において,第3n+1(nは正の整数)行の光電変換素子2に蓄積された信号電荷を読み出す間引き処理が行われると,高周波数成分が折り返り,第8c図に示すように明るく平坦なモアレ画像となってしまう。
第9図は,第8a図に示す固体電子撮像素子1の一行の光電変換素子を示している。水平方向において,同じ特性を有するカラー・フィルタが形成されている光電変換素子2に蓄積された信号電荷が混合されている。カラー・フィルタは一個おきに同じ特性となっているので,画素混合後の画像はロウ・パス・フィルタを通過したように解像度が低下してしまう。
さらに,第10a図に示すように,固体電子撮像素子1の光電変換素子2の列に対応した周期の画像が固体電子撮像素子1上に結像している場合において,第10b図に示すように,3×3の光電変換素子2のブロックごとに信号電荷を混合すると,そのブロック内での赤色のレベルは8ビットで255,緑色のレベルは8ビットで128,青色のレベルは0となり,第10c図に示すように,オレンジ色(符号Orで示す)となってしまう(色モアレ)。
従来は,固体電子撮像素子の受光面前方に光学的ロウ・パス・フィルタを配置し,被写体像の高周波数成分を除去することにより,色モアレの発生などを抑えていた。しかしながら,解像度が低下してしまう。
このために,固体電子撮像素子のフィルタ配列を,任意の着目画素が,その着目画素の色を含む3色と着目画素の4辺のいずれかにいて隣接する配列制限条件を満たす3色ランダム配列としたものがある(特開2000−308080号公報)。しかしながら,同時化処理をランダム・パターンごとに最適化する必要があり,煩雑となる。また,高周波成分による偽色には有効ではない。
また,分光感度が異なる複数のフィルタを有し,そのうちの第1のフィルタと第2のフィルタとが,画像格子の一方の対角方向に第1の所定周期で交互に配置され,他方の対角方向に第2の所定周期で交互に配置されているセンサもある(特開2005−136766号公報)。しかしながら,画素再現精度が高くない。
また,水平方向および垂直方向にそれぞれ2個ずつ緑の色成分をもつ画素が形成されているものもある(特許第4019417号)。しかしながら,これらの感度は異なっているので,緑色成分をもつ画素を利用する場合には感度調整が必要となる。
さらに,カラー・フィルタの配列について言及しているもの(特許第4088959号),緑色の光透過特性を有するフィルタが形成されている光電変換素子が水平方向および垂直方向に2個ずつ配置されているもの(特表昭62−503068号公報),1列おきに必ずG画素が含まれているもの(特開2009−49533号公報),ベイヤ配列に対してG画素数を増やすもの(特開平8−023542号公報,特開平8−023543号公報)などもある。
さらに,画素を間引くことにより,データ量を少なくしてフレーム・レートを高くする場合にも生じる問題である。
この発明は,画素を間引いた場合においても,高解像度化を図るようにすることを目的とする。
この発明による撮像装置は,水平方向および垂直方向に多数配列された光電変換素子を備え,赤色,緑色および青色のうちのいずれかの色の光成分またはシアン,マゼンタおよびイエローのうちのいずれかの色の光成分を透過するフィルタ特性を有するカラー・フィルタが上記光電変換素子の受光面上に形成され,赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数または青色の光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数よりも緑色の光成分を透過するフィルタ特性を有するカラー・フィルタが受光面に形成されている上記光電変換素子の数の方が多く,あるいは,シアンの光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数またはマゼンタの光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数よりもイエローの光成分を透過するフィルタ特性を有するカラー・フィルタが受光面に形成されている上記光電変換素子の数の方が多く,水平方向および垂直方向にそれぞれ6つの上記光電変換素子から構成されるブロックにおいて,水平方向および垂直方向のすべてに緑色の光成分,青色の光成分および赤色の光成分またはイエローの光成分,シアンの光成分またはマゼンタの光成分を透過するフィルタ特性をもつカラー・フィルタが少なくとも一つ形成されており,かつ上記ブロックが周期的に繰り返されることにより斜め方向に緑色の光成分またはイエローの光成分を透過するフィルタ特性をもつカラー・フィルタが形成され,上記光電変換素子に蓄積された信号電荷を映像信号として出力する固体電子撮像素子,ならびに上記固体電子撮像素子から出力される映像信号のうち水平方向および垂直方向にそれぞれ奇数個おきの上記光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号を出力するように上記固体電子撮像素子を駆動する駆動回路を備えていることを特徴とする。
この発明は,上記撮像装置に適した動作制御方法も提供している。すなわち,この方法は,固体電子撮像素子が,水平方向および垂直方向に多数配列された光電変換素子を備え,赤色,緑色および青色のうちのいずれかの色の光成分またはシアン,マゼンタおよびイエローのうちのいずれかの色の光成分を透過するフィルタ特性を有するカラー・フィルタが上記光電変換素子の受光面上に形成され,赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数または青色の光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数よりも緑色の光成分を透過するフィルタ特性を有するカラー・フィルタが受光面に形成されている上記光電変換素子の数の方が多く,あるいは,シアンの光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数またはマゼンタの光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数よりもイエローの光成分を透過するフィルタ特性を有するカラー・フィルタが受光面に形成されている上記光電変換素子の数の方が多く,水平方向および垂直方向にそれぞれ6つの上記光電変換素子から構成されるブロックにおいて,水平方向および垂直方向のすべてに緑色の光成分,青色の光成分および赤色の光成分またはイエローの光成分,シアンの光成分またはマゼンタの光成分を透過するフィルタ特性をもつカラー・フィルタが少なくとも一つ形成されており,かつ上記ブロックが周期的に繰り返されることにより斜め方向に緑色の光成分またはイエローの光成分を透過するフィルタ特性をもつカラー・フィルタが形成され,上記光電変換素子に蓄積された信号電荷を映像信号として出力し,駆動回路が,上記固体電子撮像素子から出力される映像信号のうち水平方向および垂直方向にそれぞれ奇数個おきの上記光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号を出力するように上記固体電子撮像素子を駆動するものである。
この発明によると,固体電子撮像素子から出力される映像信号によって表される画像を構成する画素のうち,緑色またはイエローの光成分をもつ画素については,固体電子撮像素子を構成する光電変換素子の受光面上に形成されている緑色またはイエローの光成分を透過する特性を有するカラー・フィルタの配列と同じように,水平方向および垂直方向のいずれも6つの画素から構成されるブロックにおいて,水平方向,垂直方向および斜め方向のすべてに含まれるようになる。固体電子撮像素子から出力される映像信号によって表される画像は,高周波領域での補間処理の再現精度が向上するものとなる。
上記ブロックは,たとえば,水平方向および垂直方向にそれぞれ3つの上記光電変換素子から構成される小ブロックが4つ集まったものである。この場合,上記光電変換素子の受光面上に形成されているカラー・フィルタのうち,赤色またはシアンの光成分を透過する特性を有するカラー・フィルタの配列と青色またはマゼンタの光成分を透過する特性を有するカラー・フィルタの配列とが,水平方向および垂直方向に隣接する小ブロックにおいて逆となろう。
上記ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過する特性をもつカラー・フィルタが水平方向,垂直方向および斜め方向のすべてにおいて2つ連続している部分が少なくとも一つ含まれているようにしてもよい。
上記ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過する特性をもつカラー・フィルタが水平方向および垂直方向において2つずつ連続している部分が少なくとも一つ含まれているようにしてもよい。
上記ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過するカラー・フィルタが水平方向および垂直方向において2つずつ連続している部分にもとづいて得られる4つの画素の画素レベルから相関方向を検出する相関方向検出装置(相関方向検出手段),上記相関方向検出装置において検出された相関方向に存在する赤色,シアン,青色またはマゼンタの色成分をもつ画素の緑色またはイエローの色成分を,上記相関方向検出装置において検出された相関方向に存在する緑色またはイエローの色成分をもつ画素を用いて補間する補間装置(補間手段),ならびに上記相関方向検出装置による処理および上記補間装置による処理を一画像分について繰り返す制御装置(制御手段)をさらに備えてもよい。
上記相関方向検出装置は,たとえば,水平方向,垂直方向および斜め方向の方向ごとに,隣接する画素の画素レベルの差分絶対値を算出し,方向ごとの差分絶対値の総和または平均値のうち最小となる方向を相関方向と決定するものである。
上記補間装置は,たとえば,上記赤色,シアン,青色またはマゼンタの色成分をもつ画素のうちの色成分を有していない色成分を,上記補間装置により補間された緑色またはイエローの色成分と,上記赤色,シアン,青色またはマゼンタの色成分のうち有している色成分と,から補間するものである。
上記緑色またはイエローの光成分を透過する特性をもつカラー・フィルタが形成されている光電変換素子の感度が等しいことが好ましい。
第1図はCCDの受光面の一部を示している。
第2図は画像の一部分を示している。
第3図はCCDの受光面の一部を示している。
第4図は画像の一部分を示している。
第5図は方向判別ブロックを示している。
第6図はディジタル・カメラの電気的構成の一部を示している。
第7図はCCDの受光面の一部を示している。
第8a図は固体電子撮像素子の受光面の一部を示し,第8b図および第8図cは画像の一部を示している。
第9図は画素混合を示している。
第10a図から第10c図は画像の一部を示している。
第1図は,この発明の実施例によるCCD(C−MOSなどの他の固体電子撮像素子でもよい)10の受光面の一部を示している。
CCD10には水平方向(矢印Hで示す)および垂直方向(矢印Vで示す)に多数の光電変換素子11が配列されている。これらの多数の光電変換素子11の感度はすべて等しいものである(少なくとも緑色の光成分を透過するフィルタが形成されている光電変換素子の感度は等しい)。光電変換素子11の受光面上には,赤色,緑色または青色(シアン,イエローまたはマゼンタでもよい)の光成分を透過する特性を有するカラー・フィルタR,GまたはBが形成されている。赤色の光成分を透過する特性を有する赤色フィルタが符号Rで,緑色の光成分を透過する特性を有する緑色フィルタが符号Gで,青色の光成分を透過する特性を有する青色フィルタが符号Bで図示されている。
水平方向および垂直方向にそれぞれ6つの光電変換素子から構成されるブロック20を考えた場合に,そのブロック20において緑色フィルタG,青色フィルタBおよび赤色フィルタRが少なくとも一つは含まれている。このようなブロック20が水平方向および垂直方向に繰り返されることにより,いずれの水平方向,垂直方向および斜め方向においても緑色フィルタGが少なくとも一つは形成されており,このように配列されたカラー・フィルタによりCCD10の受光面が形成されている。
また,ブロック20は,水平方向および垂直方向にそれぞれ3つの光電変換素子11から構成される4つの小ブロック21〜24が集まったものとも考えることができる。小ブロック21の中心およびその中心の斜め方向の光電変換素子11の受光面に形成されているカラー・フィルタは緑色フィルタGである。小ブロック21の中心の水平方向の両側の光電変換素子11の受光面に形成されているカラー・フィルタは赤色フィルタRであり,小ブロック21の中心の垂直方向の両側の光電変換素子11の受光面に形成されているカラー・フィルタは青色フィルタBである。
小ブロック21の右斜め下に配置されている小ブロック24に含まれる光電変換素子11のフィルタ配列は,小ブロック21のフィルタ配列と同じである。小ブロック21の右側に配置されている小ブロック22および小ブロック21の下側に配置されている小ブロック23に含まれる光電変換素子11のフィルタ配列は緑色フィルタGについては小ブロック21に含まれる光電変換素子11に形成されている緑色フィルタGの配列と同じであるが,赤色フィルタRおよび青色フィルタBについては逆となっている。すなわち,小ブロック22および23においては,赤色フィルタRは中心の光電変換素子11の垂直方向の両側にある光電変換素子11の受光面上に形成され,青色フィルタBは中心の光電変換素子11の水平方向の両側にある光電変換素子11の受光面上に形成されている。
第1図に示すカラー・フィルタ配列をもつCCD10を用いて被写体が撮像されると,撮像により得られた被写体像を構成する画素において,水平方向,垂直方向および斜め方向のそれぞれにおいて緑色成分が含まれているので,高周波領域での補間処理再現精度を向上できる。また,同様に,水平方向および垂直方向のそれぞれにおいて赤色成分および青色成分が含まれているので,偽色の発生を未然に防止できる。
第1図に示すカラー・フィルタ配列では,ブロック20において,緑色フィルタGが水平方向および垂直方向および斜め方向のすべてにおいて2つ連続している部分が含まれている。また,ブロック20において,緑色フィルタGが水平方向および垂直方向に2つずつ連続している部分も含まれている。
第2図は,上記のようなカラー・フィルタ配列をもつCCD10において,被写体を撮像することにより得られた画像から水平方向および垂直方向にそれぞれ1つ(奇数個)おきの画素を抽出する間引き処理により得られる画像(一部)の一例である。
画像部分30は,水平方向および垂直方向にそれぞれ6つの画素35から構成されている。この画像部分30は,第1図に示すブロック20に対応する。画像部分30は,水平方向および垂直方向にそれぞれ3画素ずつの4つの小ブロック31〜34から構成される。小ブロック31〜34は,すべて中心および中心の斜め方向に緑色成分の画素35が配置されており,中心の緑色成分の画素35の水平方向の両側の画素は赤色成分の画素35であり,中心の緑色成分の画素35の垂直方向の両側の画素は青色成分の画素35である。
第2図に示す画像部分35と第1図に示すブロック20とを比べればわかるように,第1図に示すブロック20では,水平方向および垂直方向に隣接する小ブロック同士では青色フィルタBの配置と赤色フィルタRの配置とが逆であるが,第2図に示す画像部分30では,青色フィルタBの配置と赤色フィルタRの配置とは小ブロック31〜34にかかわらず同じである。
第1図に示したカラー・フィルタ配列をもつCCD10において,被写体を撮像することにより得られた画像から水平方向および垂直方向にそれぞれ1つおきの画素を抽出する間引き処理を行うことにより得られる,第2図に示す画像においても,水平方向,垂直方向および斜め方向のそれぞれにおいて緑色成分が含まれているので,高周波領域での補間処理の再現精度を向上できる。フレーム・レートを向上させるなどにより間引き処理が行われた画像についても補間処理の再現精度を向上させることができる。
奇数行奇数列の画素を間引くことにより,第2図に示す画像部分30が得られるが,偶数行偶数列,奇数行偶数列または偶数行奇数列の画素を間引いても第2図に示す画像部分と同様に6画素×6画素の画像部分において水平方向,垂直方向および斜め方向のそれぞれにおいて緑色成分が含まれている間引き後の画像が得られる。
第3図は,第1図に示すCCD10の受光面の一部を示すもので,第1図に比べて垂直転送路12,水平転送路13および増幅回路14が追加されている。
上述のように,水平方向(矢印Hで示す)および垂直方向(矢印Vで示す)に多数の光電変換素子11が配列されている。また,これらの光電変換素子11の受光面上に赤色フィルタR,緑色フィルタGまたは青色フィルタBのいずれかのカラー・フィルタが形成されている。カラー・フィルタの配列は第1図に示すものと同じである。
光電変換素子11の各列の右側(左側でもよい)には光電変換素子11に蓄積された信号電荷を垂直方向に転送する垂直転送路12が配列されている。垂直転送路12の下側には,垂直転送路12から転送されてきた信号電荷を水平方向に転送する水平転送路13が設けられている。水平転送路13の出力側には増幅回路14が接続されている。
光電変換素子11が露光されることにより,光電変換素子11に信号電荷が蓄積される。赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されている光電変換素子11には,それぞれ赤色成分,緑色成分または青色成分の画素を表わす信号電荷が蓄積される。光電変換素子11に蓄積された信号電荷は,光電変換素子11にシフト・パルスが与えられることにより,垂直転送路12にシフトされる。垂直転送路12にシフトされた信号電荷は垂直転送路12に垂直転送パルスφVが与えられることにより垂直方向に転送させられ,垂直転送路12にシフト・パルスが与えられることにより垂直転送路12を転送されてきた信号電荷は水平転送路13に与えられる。水平転送路13に与えられた信号電荷は,水平転送パルスφHが与えられることにより,水平方向に転送させられる。水平方向に転送させられた信号電荷は,増幅回路14を経て映像信号としてCCD10から出力される。
奇数行の光電変換素子11にシフト・パルスが与えられ,偶数行光電変換素子11にはシフト・パルスが与えられなければ,奇数行の光電変換素子11に蓄積された信号電荷のみが垂直転送路12にシフトされる。これにより,垂直方向に1/2の間引き(1個おきの画素の抽出)が実現される。また,奇数行の垂直転送路12を転送されてきた信号電荷のみを水平転送路13に転送し,偶数行垂直転送路12を転送されてきた信号電荷を水平転送路13に転送させないように奇数行の垂直転送路12にのみシフト・パルスを与えることにより,水平方向に1/2の間引きが実現される。このようにして,第2図に示したように,水平方向および垂直方向にそれぞれ1/2に間引かれた画像(画素が1個おきに抽出された画像)を表わす映像信号がCCD10から出力されることとなる。
上述の実施例では,固体電子撮像素子10において間引き処理を行っているが,固体電子撮像素子10において間引き処理を行わずに,固体電子撮像素子10から出力された映像信号に対して間引き処理を行うようにしてもよい。その場合には,固体電子撮像素子10から出力された1画像分の映像信号をメモリに記憶し,そのメモリから垂直方向および水平方向に1画素おきに映像信号を読み出すこととなろう。
以下,第2図に示すように間引かれた画像について補間処理を行う方法について説明する。
第4図は,上述のようにして間引き処理が行われることにより得られる画像部分40を示している。第4図においては分りやすくするために,R,GまたはBの符号の右側に数字が付されている。符号Rが赤色フィルタ,符号Gが緑色フィルタ,符号Bが青色フィルタであるのは上述したのと同様である。
画像部分40は,水平方向および垂直方向にそれぞれ5画素有している(5画素ずつでなくともよいのはいうまでもない)。画像部分40のうち,水平方向および垂直方向にそれぞれ3画素からなる中央の小ブロック41および水平方向および垂直方向にそれぞれ2画素からなる右上の方向判別ブロック42を考える。
第5図は,方向判別ブロック42を示している。
方向判別ブロック42には,4つの画素G14,G15,G24およびG25が含まれている。これらの画素G14,G15,G24およびG25は,緑色成分をもつものであるが,青色成分および赤色成分をもっていない。この実施例では,これらの画素G14,G15,G24およびG25のレベルの差分絶対値を水平方向(矢印Hで示す),垂直方向(矢印Vで示す)および斜め方向のそれぞれにおいて算出し,算出された差分絶対値が最小となる方向が相関方向と判断される。これらの画素G14,G15,G24およびG25のレベルも画素G14,G15,G24およびG25で表わすと,垂直方向の差分絶対値は(|G14−G24|+|G15−G25|)/2,水平方向の差分絶対値は(|G14−G15|+|G24−G25|)/2,右上斜め方向(矢印URで示す)の差分絶対値は|G15−G24|および左上斜め方向(矢印ULで示す)の差分絶対値は|G14−G25|である。
第4図を参照して,方向判別ブロック42を利用して右上斜め方向が相関方向と判別されると,小ブロック41に含まれる画素B23の緑色成分は,方向判別ブロック42に含まれる画素G14を用いて補間され,小ブロック41に含まれる画素R34の緑色成分は,画素G25を用いて補間される。方向判別ブロック42を利用して水平方向が相関方向と判別されると,小ブロック41に含まれる画素B23の緑色成分は,方向判別ブロック42に含まれる画素G24を用いて補間され,小ブロック41に含まれる画素R34の緑色成分は,画素G33を用いて補間される。方向判別ブロック42を利用して垂直方向が相関方向と判別されると,小ブロック41に含まれる画素B23の緑色成分は,画素33を用いて補間され,小ブロック41に含まれる画素R34の緑色成分は,方向判別ブロック42に含まれる画素G24を用いて補間される。
また,第4図において,2画素×2画素からなる四隅の方向判別ブロック42,44,45および46のそれぞれにおいて,水平方向,垂直方向,左上斜め方向および右上斜め方向の差分絶対値を算出し,算出された差分絶対値の総和(平均)を方向別に算出し,得られた総和(平均値)のうち最小となる値をとる方向を相関方向としてもよい。
上述の実施例において,青色画素B23の緑色成分および赤色画素R34の緑色成分については補間されているが,青色画素B23の赤色成分および赤色画素R34の青色成分については補間されていない。青色画素B23の赤色成分については,青色画素B23の近傍にある赤色画素R32(またはR34)および補間により得られた緑色成分を用いて補間が行われる。具体的には,赤色画素B23の赤色成分をR23とし,補間により得られた緑色成分をG23とすると,R23=G23+(R32−G32)で得られる。但し,G32は補間により得られた画素R32の緑色成分である。もっとも,青色画素B23の近傍にある赤色画素R32およびR34の両方の画素を用いて青色画素B23の赤色成分R23を補間するようにしてもよい。たとえば,R23=G23+{(R32+R34)/2−(G32+G34)/2}で得られる。但し,G34は赤色画素R34において補間された緑色画素である。
緑色画素についても同様に赤色成分および青色成分を補間できるのはいうまでもない。
上述した補間処理をまとめると,次のようになる。
近傍の画素の色差により対象画素の画素値を補間して他の色の画素値を算出する方法をまとめると、下記のようになる。
補間処理の対象画素が緑色画素Gであり,その画素値がGであるとする。また,判別された相関方向に赤色画素R,または青色画素Bが存在しない場合,緑色画素Gの近傍の赤色画素R,青色画素Bの画素値をR,B,これらの画素の画素位置における緑色画素Gの画素値をG,Gとすると,補間対象画素の位置における赤色成分R,青色画素Bの画素値R,Bは,式1から得られる。
=G+(R−G),B=G+(B−G)…式1
同様に,補間処理の対象画素が赤色画素R,その画素値がRであり,判別された相関方向に緑色画素G,または青色画素Bが存在しない場合,赤色画素Rの近傍の緑色画素G,青色画素Bの画素値をG,B,これらの画素の画素位置における赤色画素Rの画素値をR,Rとすると,補間対象画素における緑色成分G,青色成分Bのの画素値G,Bをは式2から得られる。
=R+(G−R),B=R+(B−R)…式2
また,補間処理の対象画素が青色画素B,その画素値がBであり、判別された相関方向に緑色画素G,または赤色画素R画素が存在しない場合,青色画素Bの近傍の緑色画素G,赤色画素Rの画素値をG,R,これらの画素の画素位置における青色画素Bの画素値をB,Bとすると,補間対象画素の緑色成分G,赤色成分Rの画素値G,Rは式3により得られる。
=B+(G−B),R=B+(R−B)…式3
また,上記の実施例では,補間処理の対象画素に対し,判別された相関方向に他の色の画素が存在しない場合には,近傍の他の色の画素の色差により対象画素の画素値を補間して他の色の画素値を算出するようにしているが,これに限らず,次のように,近傍の他の色の画素の色比により対象画素の画素値を補間して他の色の画素値を算出するようにしてもよい。
補間処理の対象画素が緑色画素G,その画素値がGであり,判別された相関方向に赤色画素R,または青色画素Bが存在しない場合,緑色画素Gの近傍の赤色画素R,青色画素Bの画素値をR,B,これらの画素の画素位置における緑色画素Gの画素値をG,Gとすると,前記対象画素の位置における赤色成分R,青色成分Bの画素値R,Bは,式4により得られる。
=G×(R/G),B=G×(B/G)…式4
同様に,補間処理の対象画素が赤色R,その画素値がRであり,判別された相関方向に緑色画素G,または青色画素Bが存在しない場合,赤色画素Rの近傍の緑色画素G,青色画素Bの画素値をG,B,これらの画素の画素位置における赤色画素Rの画素値をR,Rとすると,対象画素の位置における緑色成分G,青色成分Bの画素値G,Bは式5により得られる。
=R×(G/R),B=R×(B/R)…式5
また,補間処理の対象画素が青色画素B,その画素値がBであり,判別された相関方向に緑色画素Gまたは赤色画素Rが存在しない場合,青色画素Bの近傍の緑色画素G,赤色画素Rの画素値をG,R,これらの画素の画素位置における青色画素Bの画素値をB,Bとすると,補間対象画素の位置における緑色成分G,赤色成分Rの画素値G,Rは式6により得られる。
=B×(G/B),R=B×(R/B)…式6
第6図は,ディジタル・カメラ(ディジタル・スチル・カメラ,ディジタル・ムービ・カメラ,携帯電話にディジタル・カメラの機能を持たせたものを含む)の電気的構成の一部を示すブロック図である。
ディジタル・カメラの全体の動作は,制御装置60によって統括される。
撮像レンズ61によって被写体像が,上述したCCD10の受光面上に結像する。CCD10は,駆動装置64によって駆動させられる。上述のように間引き処理を行うように,駆動装置64からCCD10にシフト・パルス,垂直転送パルスφV,水平転送パルスφHなどが与えられる。
CCD10から間引き済みの映像信号が出力され,撮像処理装置62に入力する。撮像処理装置62においてアナログ/ディジタル変換,ガンマ補正,白バランス調整などの所定の撮像処理が行われる。上述したように,CCD10において間引き処理を行わずに撮像処理装置62において間引き処理が行われるようにしてもよい。その場合には,撮像処理装置62に,画像データを一時的に記憶するメモリが含まれ,そのメモリから読み出されるときに上述したように間引き処理が行われることなろう。
撮像処理装置62から出力された画像データは画像処理装置63に入力する。この画像処理装置63において上述したように,方向判別等が行われ,判別された方向に応じて補間処理が行われることとなる。画像処理装置63からは,補間されたカラー画像データが出力される。なお,上記実施例においては,間引き画像に対してだけでなく間引く前の解像度の高い画像に対しても,上述した方向判別処理により判別された相関方向に基づいて補間処理を行うことが可能である。
第7図は,CCD10の受光面の一部を示している。
上述した実施例では水平方向および垂直方向にそれぞれ1画素おきに画素を抽出することにより,水平方向1/2,垂直方向1/2の間引きを実現しているが,水平方向および垂直方向に3画素おきに画素を抽出することにより水平方向1/4,垂直方向1/4の間引きを実現することもできる。
第7図に示す受光面には,第1図に示すCCD10と同じカラー・フィルタ配列をもつ多数の光電変換素子11が含まれている。水平方向(矢印Hで示す)1/4,垂直方向(矢印Vで示す)1/4の間引きが行われることにより,第2図に示すカラー・配列をもつ間引き後の画像が得られる。
このように,水平方向および垂直方向に奇数個おきに画素を抽出することにより,間引き処理を行っても第2図に示す色配列をもつ画像が得られるようになる。

Claims (9)

  1. 水平方向および垂直方向に多数配列された光電変換素子を備え,赤色,緑色および青色のうちのいずれかの色の光成分またはシアン,マゼンタおよびイエローのうちのいずれかの色の光成分を透過するフィルタ特性を有するカラー・フィルタが上記光電変換素子の受光面上に形成され,赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数または青色の光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数よりも緑色の光成分を透過するフィルタ特性を有するカラー・フィルタが受光面に形成されている上記光電変換素子の数の方が多く,あるいは,シアンの光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数またはマゼンタの光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数よりもイエローの光成分を透過するフィルタ特性を有するカラー・フィルタが受光面に形成されている上記光電変換素子の数の方が多く,水平方向および垂直方向にそれぞれ6つの上記光電変換素子から構成されるブロックにおいて,水平方向および垂直方向のすべてに緑色の光成分,青色の光成分および赤色の光成分またはイエローの光成分,シアンの光成分またはマゼンタの光成分を透過するフィルタ特性をもつカラー・フィルタが少なくとも一つ形成されており,かつ上記ブロックが周期的に繰り返されることにより斜め方向に緑色の光成分またはイエローの光成分を透過するフィルタ特性をもつカラー・フィルタが形成され,上記光電変換素子に蓄積された信号電荷を映像信号として出力する固体電子撮像素子,ならびに
    上記固体電子撮像素子から出力される映像信号のうち水平方向および垂直方向にそれぞれ奇数個おきの上記光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号を出力するように上記固体電子撮像素子を駆動する駆動回路,
    を備えた撮像装置。
  2. 上記ブロックは,水平方向および垂直方向にそれぞれ3つの上記光電変換素子から構成される小ブロックが4つ集まったものであり,
    上記光電変換素子の受光面上に形成されているカラー・フィルタのうち,赤色またはシアンの光成分を透過する特性を有するカラー・フィルタの配列と青色またはマゼンタの光成分を透過する特性を有するカラー・フィルタの配列とが,水平方向および垂直方向に隣接する小ブロックにおいて逆である,
    請求の範囲第1項に記載の撮像装置。
  3. 上記ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過する特性をもつカラー・フィルタが水平方向,垂直方向および斜め方向のすべてにおいて2つ連続している部分が少なくとも一つ含まれている,
    請求の範囲第1項に記載の撮像装置。
  4. 上記ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過する特性をもつカラー・フィルタが水平方向および垂直方向において2つずつ連続している部分が少なくとも一つ含まれている,
    請求の範囲第3項に記載の撮像装置。
  5. 上記ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過するカラー・フィルタが水平方向および垂直方向において2つずつ連続している部分にもとづいて得られる4つの画素の画素レベルから相関方向を検出する相関方向検出装置,
    上記相関方向検出装置において検出された相関方向に存在する赤色,シアン,青色またはマゼンタの色成分をもつ画素の緑色またはイエローの色成分を,上記相関方向検出装置において検出された相関方向に存在する緑色またはイエローの色成分をもつ画素を用いて補間する補間装置,ならびに
    上記相関方向検出装置による処理および上記補間装置による処理を一画像分について繰り返す制御装置,
    をさらに備えた請求の範囲第4項に記載の撮像装置。
  6. 上記相関方向検出装置は,
    水平方向,垂直方向および斜め方向の方向ごとに,隣接する画素の画素レベルの差分絶対値を算出し,方向ごとの差分絶対値の総和または平均値のうち最小となる方向を相関方向と決定するものである,
    請求の範囲第5項に記載の撮像装置。
  7. 上記補間装置は,
    上記赤色,シアン,青色またはマゼンタの色成分をもつ画素のうちの色成分を有していない色成分を,上記補間装置により補間された緑色またはイエローの色成分と,上記赤色,シアン,青色またはマゼンタの色成分のうち有している色成分と,から補間するものである,
    請求の範囲第5項に記載の撮像装置。
  8. 上記緑色またはイエローの光成分を透過する特性をもつカラー・フィルタが形成されている光電変換素子の感度が等しいものである,
    請求の範囲第3項に記載の撮像装置。
  9. 固体電子撮像素子が,水平方向および垂直方向に多数配列された光電変換素子を備え,赤色,緑色および青色のうちのいずれかの色の光成分またはシアン,マゼンタおよびイエローのうちのいずれかの色の光成分を透過するフィルタ特性を有するカラー・フィルタが上記光電変換素子の受光面上に形成され,赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数または青色の光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数よりも緑色の光成分を透過するフィルタ特性を有するカラー・フィルタが受光面に形成されている上記光電変換素子の数の方が多く,あるいは,シアンの光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数またはマゼンタの光成分を透過するフィルタ特性を有するカラー・フィルタが受光面上に形成されている上記光電変換素子の数よりもイエローの光成分を透過するフィルタ特性を有するカラー・フィルタが受光面に形成されている上記光電変換素子の数の方が多く,水平方向および垂直方向にそれぞれ6つの上記光電変換素子から構成されるブロックにおいて,水平方向および垂直方向のすべてに緑色の光成分,青色の光成分および赤色の光成分またはイエローの光成分,シアンの光成分またはマゼンタの光成分を透過するフィルタ特性をもつカラー・フィルタが少なくとも一つ形成されており,かつ上記ブロックが周期的に繰り返されることにより斜め方向に緑色の光成分またはイエローの光成分を透過するフィルタ特性をもつカラー・フィルタが形成され,上記光電変換素子に蓄積された信号電荷を映像信号として出力し,
    駆動回路が,上記固体電子撮像素子から出力される映像信号のうち水平方向および垂直方向にそれぞれ奇数個おきの上記光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号を出力するように上記固体電子撮像素子を駆動する,
    撮像装置の動作制御方法。
JP2013504503A 2011-03-11 2011-07-29 撮像装置およびその動作制御方法 Expired - Fee Related JP5378626B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013504503A JP5378626B2 (ja) 2011-03-11 2011-07-29 撮像装置およびその動作制御方法

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
JP2011054685 2011-03-11
JP2011054685 2011-03-11
JP2011162216 2011-07-25
JP2011162216 2011-07-25
JP2013504503A JP5378626B2 (ja) 2011-03-11 2011-07-29 撮像装置およびその動作制御方法
PCT/JP2011/067916 WO2012124183A1 (ja) 2011-03-11 2011-07-29 撮像装置およびその動作制御方法

Publications (2)

Publication Number Publication Date
JP5378626B2 true JP5378626B2 (ja) 2013-12-25
JPWO2012124183A1 JPWO2012124183A1 (ja) 2014-07-17

Family

ID=46830285

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013504503A Expired - Fee Related JP5378626B2 (ja) 2011-03-11 2011-07-29 撮像装置およびその動作制御方法

Country Status (5)

Country Link
US (1) US8786738B2 (ja)
EP (1) EP2645722A4 (ja)
JP (1) JP5378626B2 (ja)
CN (1) CN103270757B (ja)
WO (1) WO2012124183A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104904197B (zh) * 2012-12-05 2016-12-28 富士胶片株式会社 摄像装置及异常倾斜入射光检测方法
WO2014087804A1 (ja) * 2012-12-07 2014-06-12 富士フイルム株式会社 撮像装置、画像処理方法及びプログラム
CN104838646B (zh) * 2012-12-07 2016-11-23 富士胶片株式会社 图像处理装置、图像处理方法、程序及记录介质
JP5802858B2 (ja) * 2013-03-05 2015-11-04 富士フイルム株式会社 撮像装置、画像処理装置、画像処理方法及びプログラム
JP5877931B2 (ja) * 2013-05-23 2016-03-08 富士フイルム株式会社 画素補間装置およびその動作制御方法
TWI585726B (zh) * 2015-03-25 2017-06-01 鴻海精密工業股份有限公司 畫素結構

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001085664A (ja) * 1999-07-15 2001-03-30 Sony Corp 固体撮像素子およびその駆動方法並びにカメラシステム
JP2004221839A (ja) * 2003-01-14 2004-08-05 Sony Corp 画像処理装置および方法、記録媒体、並びにプログラム
JP2007037104A (ja) * 2005-06-21 2007-02-08 Sony Corp 画像処理装置及び画像処理方法、撮像装置、並びにコンピュータ・プログラム

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4663661A (en) 1985-05-23 1987-05-05 Eastman Kodak Company Single sensor color video camera with blurring filter
JP2979900B2 (ja) * 1993-05-26 1999-11-15 日本ビクター株式会社 記録媒体
JPH0823543A (ja) 1994-07-07 1996-01-23 Canon Inc 撮像装置
JPH0823542A (ja) 1994-07-11 1996-01-23 Canon Inc 撮像装置
JP4088989B2 (ja) 1997-11-05 2008-05-21 村田機械株式会社 回線接続装置
EP0930789B1 (en) 1998-01-20 2005-03-23 Hewlett-Packard Company, A Delaware Corporation Colour image pickup device
JP4098438B2 (ja) 1999-04-15 2008-06-11 オリンパス株式会社 カラー撮像素子及びカラー撮像装置
JP4518616B2 (ja) * 2000-04-13 2010-08-04 ソニー株式会社 固体撮像装置およびその駆動方法並びにカメラシステム
JP5108172B2 (ja) * 2000-09-06 2012-12-26 株式会社ニコン 画像データサイズ変換処理装置、電子スチルカメラ、および画像データサイズ変換処理用記録媒体
US7847829B2 (en) 2001-01-09 2010-12-07 Sony Corporation Image processing apparatus restoring color image signals
EP1395063A4 (en) * 2001-05-15 2008-06-04 Matsushita Electric Ind Co Ltd FIGURE APPARATUS AND SIGNAL PROCESSING METHOD THEREFOR
JP2004266369A (ja) 2003-02-21 2004-09-24 Sony Corp 固体撮像装置およびその駆動方法
CA2540018A1 (en) 2003-09-24 2005-05-06 Gimelli Produktions Ag Oral douche and hand piece for an oral douche
JP4385282B2 (ja) 2003-10-31 2009-12-16 ソニー株式会社 画像処理装置および画像処理方法
JP2006245246A (ja) * 2005-03-02 2006-09-14 Sharp Corp 固体撮像装置
JP4440207B2 (ja) 2005-12-14 2010-03-24 太陽誘電株式会社 光情報記録再生装置、光情報記録処理方法、光情報記録媒体、プログラム、及び中央演算装置
US7821553B2 (en) 2005-12-30 2010-10-26 International Business Machines Corporation Pixel array, imaging sensor including the pixel array and digital camera including the imaging sensor
JP4970845B2 (ja) * 2006-05-16 2012-07-11 ルネサスエレクトロニクス株式会社 固体撮像装置
JP4983141B2 (ja) * 2006-08-04 2012-07-25 ソニー株式会社 カラーフィルタ
US7769230B2 (en) 2006-11-30 2010-08-03 Eastman Kodak Company Producing low resolution images
US7701496B2 (en) 2006-12-22 2010-04-20 Xerox Corporation Color filter pattern for color filter arrays including a demosaicking algorithm
JP5082528B2 (ja) 2007-03-23 2012-11-28 ソニー株式会社 固体撮像装置及び撮像装置
JP2008306379A (ja) * 2007-06-06 2008-12-18 Toshiba Corp 固体撮像素子
JP5000395B2 (ja) * 2007-06-26 2012-08-15 オリンパス株式会社 撮像表示方法および撮像表示装置
JP2009049533A (ja) 2007-08-14 2009-03-05 Sony Corp 画像処理装置、画像処理方法およびプログラム
KR101733443B1 (ko) 2008-05-20 2017-05-10 펠리칸 이매징 코포레이션 이종 이미저를 구비한 모놀리식 카메라 어레이를 이용한 이미지의 캡처링 및 처리
KR101467509B1 (ko) * 2008-07-25 2014-12-01 삼성전자주식회사 이미지 센서 및 이미지 센서 동작 방법
JP5149143B2 (ja) 2008-12-24 2013-02-20 シャープ株式会社 固体撮像素子およびその製造方法、電子情報機器
KR20110029217A (ko) * 2009-09-15 2011-03-23 삼성전자주식회사 내부 변환을 통하여 rgb베이어 신호를 출력하는 이미지 센서와 이를 포함하는 이미지 처리 장치
WO2012039180A1 (ja) * 2010-09-24 2012-03-29 富士フイルム株式会社 撮像デバイス及び撮像装置
JP5845856B2 (ja) * 2011-11-30 2016-01-20 ソニー株式会社 固体撮像素子およびその製造方法、並びに電子機器

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001085664A (ja) * 1999-07-15 2001-03-30 Sony Corp 固体撮像素子およびその駆動方法並びにカメラシステム
JP2004221839A (ja) * 2003-01-14 2004-08-05 Sony Corp 画像処理装置および方法、記録媒体、並びにプログラム
JP2007037104A (ja) * 2005-06-21 2007-02-08 Sony Corp 画像処理装置及び画像処理方法、撮像装置、並びにコンピュータ・プログラム

Also Published As

Publication number Publication date
EP2645722A4 (en) 2014-05-14
US8786738B2 (en) 2014-07-22
JPWO2012124183A1 (ja) 2014-07-17
CN103270757B (zh) 2015-07-22
CN103270757A (zh) 2013-08-28
US20130286261A1 (en) 2013-10-31
WO2012124183A1 (ja) 2012-09-20
EP2645722A1 (en) 2013-10-02

Similar Documents

Publication Publication Date Title
EP2762942B1 (en) Solid-state image capture element, image capture device, and focus control method
US9288454B2 (en) Color imaging apparatus having color imaging element
JP5054857B1 (ja) カラー撮像装置
JP4951440B2 (ja) 撮像装置及び固体撮像素子の駆動方法
JP5378626B2 (ja) 撮像装置およびその動作制御方法
US9159758B2 (en) Color imaging element and imaging device
JP5608820B2 (ja) 撮像装置及び合焦制御方法
JP5378627B2 (ja) 撮像装置およびその動作制御方法ならびに撮像システム
US20040174446A1 (en) Four-color mosaic pattern for depth and image capture
US9324749B2 (en) Color imaging element and imaging device
JP5621057B2 (ja) カラー撮像素子
US8970747B2 (en) Imaging device
EP2680590B1 (en) Color image pick-up element
JP4633413B2 (ja) 撮像装置及び信号処理方法
JP4303525B2 (ja) 補間画素生成装置および方法
JP2011066505A (ja) 固体撮像素子の動画像信号読出方法及び撮像装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130903

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130925

R150 Certificate of patent or registration of utility model

Ref document number: 5378626

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees