JP2008005048A - 撮像装置及び信号処理装置 - Google Patents

撮像装置及び信号処理装置 Download PDF

Info

Publication number
JP2008005048A
JP2008005048A JP2006170468A JP2006170468A JP2008005048A JP 2008005048 A JP2008005048 A JP 2008005048A JP 2006170468 A JP2006170468 A JP 2006170468A JP 2006170468 A JP2006170468 A JP 2006170468A JP 2008005048 A JP2008005048 A JP 2008005048A
Authority
JP
Japan
Prior art keywords
imaging
unit
signal
image processing
imaging signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006170468A
Other languages
English (en)
Inventor
Takashi Yanada
崇志 梁田
Yoshinobu Tanaka
義信 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Olympus Imaging Corp
Original Assignee
Olympus Corp
Olympus Imaging Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp, Olympus Imaging Corp filed Critical Olympus Corp
Priority to JP2006170468A priority Critical patent/JP2008005048A/ja
Priority to CN2007101055478A priority patent/CN101094319B/zh
Priority to US11/820,233 priority patent/US7834914B2/en
Publication of JP2008005048A publication Critical patent/JP2008005048A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】多様な撮像部に対応できる汎用性の高い信号処理装置を備えた撮像装置及びこのような撮像装置に搭載される信号処理装置を提供すること。
【解決手段】第1の撮像信号と第2の撮像信号の2種の撮像信号を出力可能になされた撮像部10と、2種の撮像信号を選択的に処理してAE評価値を生成するAE評価値演算部50と、2種の撮像信号を選択的に処理して輝度信号を生成し、生成した輝度信号からAF評価値を生成するAF評価値演算部60と、2種の撮像信号に対して画像処理を施して画像データを得る画像処理部30及び40とを備える。
【選択図】図1

Description

本発明は、撮像装置及び信号処理装置に関する。
近年の撮像装置(例えば、デジタルカメラ)に搭載される撮像部は様々な形態を有している。例えば、特許文献1においては、動画像と静止画像とを別の撮像光学系で撮像可能な撮像部を有している。この特許文献1においては、動画像を撮像するための撮像光学系と静止画像を撮像するための撮像光学系とが独立して備えられており、一方の撮像光学系を介して得られた撮像信号と他方の撮像光学系を介して得られた撮像信号とは非同期の関係にある。そして、これら撮像信号は選択的に撮像信号の処理部に入力されて信号処理される。
また、特許文献2には、Bayer配列のカラーフィルタが撮像面に貼付された撮像素子の垂直方向に隣接する2画素の撮像信号を別のチャネルより同時に出力可能に構成された撮像部が示されている。さらには、Bayer配列のカラーフィルタが撮像面に貼付された撮像素子の水平方向に隣接する2画素の撮像信号を別のチャネルより同時に出力可能に構成された撮像部もある。これらのような構成を有する撮像部においては、撮像素子の各チャネルから出力される撮像信号がそれぞれ撮像信号の処理部に入力されて信号処理される。
特開2003−23555号公報 特開昭62−92587号公報
今後、撮像装置に搭載される撮像部は、性能等に応じて上述したような様々な構成を採ると考えられる。ところで、デジタルカメラにおける撮像信号は、AEやAF等の処理に用いられる。これらの処理を実現するための信号処理装置の構成は撮像部の構成によって異なるものであるが、同一の構成の信号処理装置で多様な撮像部に対応できることが望ましい。
本発明は、上記の事情に鑑みてなされたもので、多様な撮像部に対応できる汎用性の高い信号処理装置を備えた撮像装置及びこのような撮像装置に搭載される信号処理装置を提供することを目的とする。
上記の目的を達成するために、本発明の第1の態様による撮像装置は、第1の撮像信号と第2の撮像信号の2種の撮像信号を出力可能になされた撮像部と、上記2種の撮像信号を選択的に処理してAE評価値を生成する第1の演算部と、上記2種の撮像信号を選択的に処理して輝度信号を生成し、該生成した輝度信号からAF評価値を生成する第2の演算部と、上記2種の撮像信号に対して画像処理を施して画像データを得る画像処理部とを具備することを特徴とする。
また、上記の目的を達成するために、本発明の第2の態様による信号処理装置は、第1の撮像信号と第2の撮像信号の2種の撮像信号を処理する信号処理装置であって、上記2種の撮像信号を選択的に処理してAE評価値を生成する第1の演算部と、上記2種の撮像信号を選択的に処理して輝度信号を生成し、該生成した輝度信号からAF評価値を生成する第2の演算部と、上記2種の撮像信号に対して画像処理を施して画像データを得る画像処理部とを具備することを特徴とする。
本発明によれば、多様な撮像部に対応できる汎用性の高い信号処理装置を備えた撮像装置及びこのような撮像装置に搭載される信号処理装置を提供することができる。
以下、図面を参照して本発明の実施形態を説明する。
図1は、本発明の一実施形態に係る撮像装置の主要な構成について示すブロック図である。図1に示す撮像装置は、撮像部10と、前処理部20と、信号処理装置(図1では、画像処理部30及び40と、AE評価値演算部50と、AF評価値演算部60とからなる)と、データバス70と、記憶部80とから構成されている。
撮像部10は、少なくとも1つの撮像光学系と、撮像光学系の後方に配置される少なくとも1つの撮像素子とから構成される。撮像光学系は、図示しない被写体からの光を撮像素子に集光する。撮像素子は、例えば、CCD方式の撮像素子であり、図示しない被写体からの光を受光し、受光した光に応じた撮像信号を出力する。この撮像素子の撮像面には、図2に示すようなBayer配列のカラーフィルタが貼付されている。ここで、本実施形態における撮像部10は、後述するような種々の態様の撮像信号を出力する、種々の構成の撮像部を用いることが可能である。
前処理部20は、撮像部10から出力される撮像信号に含まれるノイズ成分を除去するための相関2重サンプリング(CDS)処理、撮像信号の増幅処理、撮像信号をデジタル化する処理等の各種の前処理を行う。
画像処理部30及び40は、前処理部20から出力される撮像信号に対して所定の画像処理を施して画像データを得る。ここで、図1では、画像処理の例として、図示しない表示装置に画像表示を行うためのリサイズ処理を行う構成について示しているがリサイズ処理以外の画像処理を行うようにしても良い。図1に示すように、画像処理部30は、ローパスフィルタ(LPF)31と、リサイズ部32と、選択部33と、アドレス制御部34と、DMAIF35とから構成されている。また、画像処理部40は、LPF41と、リサイズ部42と、アドレス制御部43と、DMAIF44とから構成されている。ここで、選択部33と、アドレス制御部34と、DMAIF35と、アドレス制御部43と、DMAIF44とで記憶処理部を構成している。
LPF31及び41は後段におけるリサイズ処理による折り返し歪みを防止するために、前処理部20から入力される撮像信号の高周波成分を除去する。リサイズ部32及び42は、LPF31及び41から入力される撮像信号に対してリサイズ処理を施して画像データを得る。選択部33は、リサイズ部32とリサイズ部42とに接続されており、リサイズ部32とリサイズ部42の何れかからの画像データを選択してDMAIF35に出力する。アドレス制御部34及び43は、画像データを記憶部80に書き込む際の書き込みアドレスを制御する。DMAIF35及び44は、画像データのDMA転送を行う。
第1の演算部としてのAE評価値演算部50は、複数の領域に分割された撮像面のそれぞれの領域に対応する撮像信号を色毎に累積(Bayer配列の場合は、R、Gr、Gb、Bの3色4成分)することにより、AE評価値を求める。図1に示すように、AE評価値演算部50は、選択部51と、累積部52と、アドレス制御部53と、DMAIF54とから構成されている。
選択部51は、前処理部20において処理された撮像信号を累積部52において色毎に累積可能なように処理してから出力する。図3は、選択部51の詳細な構成を示す図である。図3に示すように、選択部51は、フリップフロップ(FF)511及び512と、加算部513及び514と、選択部515及び516と、選択部517とから構成されている。
FF511及び512は、前処理部20からの撮像信号を1画素分だけ保持する。第1の加算部としての加算部513は、前処理部20からの撮像信号とFF511に保持された撮像信号とを加算して選択部515に出力する。第2の加算部としての加算部514は、前処理部20からの撮像信号とFF512に保持された撮像信号とを加算して選択部516に出力する。
第1の選択部としての選択部515は、前処理部20からの撮像信号と加算部513において加算された撮像信号の何れかを選択信号sel1の設定に従って選択して選択部517に出力する。ここで、選択部515は、選択信号sel1が“0”の場合に前処理部20からの撮像信号を選択し、選択信号sel1が“1”の場合に加算部513からの撮像信号を選択する。第2の選択部としての選択部516は、前処理部20からの撮像信号と加算部514において加算された撮像信号の何れかを選択信号sel2の設定に従って選択して選択部517に出力する。ここで、選択部516は、選択信号sel2が“0”の場合に前処理部20からの撮像信号を選択し、選択信号sel2が“1”の場合に加算部514からの撮像信号を選択する。第3の選択部としての選択部517は、選択信号sel3の設定に従って選択部515からの撮像信号と選択部516の何れかを選択して累積部52に出力する。ここで、選択部517は、選択信号sel3が“0”の場合に選択部515からの撮像信号を選択し、選択信号sel3が“1”の場合に選択部516からの撮像信号を選択する。
AE評価値生成部としての累積部52は、選択部51から入力される撮像信号を領域毎かつ色毎に累積してAE評価値を求める。ここで、累積部52は、例えばBayer配列の順で入力される撮像信号を領域毎かつ色毎に累積可能に構成されている。アドレス制御部53は、AE評価値を記憶部80に書き込む際の書き込みアドレスを制御する。DMAIF54は、AE評価値のDMA転送を行う。
第2の演算部としてのAF評価値演算部60は、前処理部20で処理された撮像信号から輝度(Y)信号を生成した後(R、Gr、Gb、Bのそれぞれに係数を掛けてから加算する)、複数の領域に分割された撮像面のそれぞれの領域に対応するY信号を累積することにより、AF評価値を求める。このAF評価値演算部60は、Y生成部61と、累積部62と、アドレス制御部63と、DMAIF64とから構成されている。
Y生成部61は、前処理部20から出力される2種の撮像信号からY信号を生成して累積部62に出力する。図4は、Y生成部61の詳細な構成を示す図である。図4に示すように、Y生成部61は、加算部611と、選択部612と、ラインメモリ613と、選択部614と、加算部615とから構成されている。
第3の加算部としての加算部611は、前処理部20において前処理された2画素分の撮像信号を加算して選択部612及び選択部614に出力する。第4の選択部としての選択部612は、前処理部20からの撮像信号と加算部611において加算された撮像信号の何れかを選択信号sel0の設定に従って選択してラインメモリ613に出力する。ここで、選択部612は、選択信号sel0が“0”の場合に前処理部20からの撮像信号を選択し、選択信号sel0が“1”の場合に加算部611からの撮像信号を選択する。
保持部としてのラインメモリ613は、選択部612から出力される撮像信号を1ライン分だけ保持する。第5の選択部としての選択部614は、前処理部20からの撮像信号(図4の“1”及び“4”)と、ラインメモリ613からの撮像信号(図4の“2”)及び加算部611からの撮像信号(図4の“3”)の何れかを選択信号sel1の設定に従って選択して加算部615に出力する。第4の加算部としての加算部615は、選択部612から出力される2つの撮像信号を加算してY信号を生成し、生成したY信号を累積部62に出力する。
AF評価値生成部としての累積部62は、Y生成部61から出力されるY信号を領域毎に累積してAF評価値を求める。アドレス制御部63は、AF評価値を記憶部80に書き込む際の書き込みアドレスを制御する。DMAIF64は、AF評価値のDMA転送を行う。
ここで、図1に示す構成においては、画像処理部30及び40における画像処理、AE評価値演算部50におけるAE評価値の演算、及びAF評価値演算部60におけるAF評価値の演算を同時に行うことが可能である。
データバス70は、画像処理部30及び40からの画像データ、AE評価値演算部50からのAE評価値、及びAF評価値演算部60からのAF評価値をそれぞれ転送するための転送路である。記憶部80は、例えばSDRAMから構成され、データバス70を介して転送された画像データ、AE評価値、AF評価値等の各種データを一時記憶する。
以下、上述したような構成を有する撮像装置の動作について説明する。
まず、図5に示すような2種の撮像信号を出力する撮像部10に対応する動作について説明する。図5に示す撮像部10は、チャネル1(ch1)とチャネル2(ch2)の2つの出力チャネルを有している。そして、図5の撮像部10は、1水平期間(1H)の間に、ch1から奇数ライン(Bayer配列の場合にはR、Grのライン)の撮像信号を第1の撮像信号として出力し、ch2から偶数ライン(Bayer配列の場合にはGb、Bのライン)の撮像信号を第2の撮像信号として出力するように構成されている。
図1に示す撮像装置において、図5に示す撮像部10を用いる場合には、図6、図7、図8の破線で示す部分は使用しない。このために、選択部33においてはリサイズ部32からの画像データを選択させるようにする。また、AE評価値演算部50内の選択部51においては、選択部515の選択信号sel1及び選択部516の選択信号sel2を何れも“0”とする。さらに、AF評価値演算部60内のY生成部61においては、選択部614の選択信号sel1を“1及び4”とする。
図9は、図5に示す撮像部10に対応して画像処理部30及び40で行われる画像処理について示した図である。上述したように、1水平期間内に撮像部10のch1からは奇数ラインの撮像信号がクロック信号に応じて1画素ずつ1ライン分前処理部20に入力される。前処理部20は、入力された撮像信号に対して前処理を施して画像処理部30に出力する。画像処理部30のLPF31及びリサイズ部32は入力された撮像信号に対して画像処理を施して画像データを得る。そして、選択部33は、この画像データを選択してDMAIF35に出力する。同時に、1水平期間内にch2からは偶数ラインの撮像信号がクロック信号に応じて1画素ずつ1ライン分前処理部20に入力される。前処理部20は、入力された撮像信号に対して前処理を施して画像処理部40に出力する。画像処理部40のLPF41及びリサイズ部42は入力された撮像信号に対して画像処理を施して画像データを得る。そして、この画像データをDMAIF44に出力する。
アドレス制御部34及び43は、DMAIF35及び44による画像データの書き込みの際の書き込みアドレスを制御する。具体的には、リサイズ部32からの画像データとリサイズ部42からの画像データとが1ラインずつ交互に記憶部80に書き込まれるように書き込みアドレスを制御する。これにより、撮像部10で取り込まれた撮像信号に対して画像処理を施した結果が得られる。
図10は、図5に示す撮像部10に対応してAE評価値演算部50において行われるAE評価値演算に係る処理について示したタイミングチャートである。図10には、垂直同期信号VD、水平同期信号HD、撮像部10のch1における出力、撮像部10のch2における出力、選択部515の選択信号sel1、選択部516の選択信号sel2、選択部517の選択信号sel3、及び選択部517からの出力を示している。
撮像部10に垂直同期信号VDが入力されると1フレーム分の撮像信号の読み出しが開始される。以後は水平同期信号HDが入力される毎に、ch1からはクロック信号に応じて奇数ラインの撮像信号が1画素ずつ1ライン分前処理部20に入力される。前処理部20は、入力された撮像信号に対して前処理を施して選択部51のFF511、加算部513、及び選択部515に出力する。ここで、選択部515の選択信号sel1は“0”に設定されているので、選択部515は、前処理部20からの撮像信号を選択して選択部517に出力する。
一方、ch2からはクロック信号に応じて偶数ラインの撮像信号が1画素ずつ1ライン分前処理部20に入力される。前処理部20は、入力された撮像信号に対して前処理を施して選択部51のFF512、加算部514、及び選択部516に出力する。ここで、選択部516の選択信号sel2は“0”に設定されているので、選択部516は、前処理部20からの撮像信号を選択して選択部517に出力する。
図10に示すように、選択部517の選択信号sel3は、奇数ライン目の水平期間では“0”とし、偶数ライン目の水平期間では“1”とする。これにより、選択部517は、奇数ライン目の水平期間においてはch1からの撮像信号を選択して累積部52に出力し、偶数ライン目の水平期間においてはch2からの撮像信号を選択して累積部52に出力する。つまり、選択部517の出力は図10に示すものとなり、累積部52には撮像部10で取り込まれた撮像信号がBayer配列の順で入力される。これにより、累積部52においてAE評価値を演算することが可能である。
なお、AE評価値が演算された後は、アドレス制御部53の制御の下、DMAIF54によりAE評価値が記憶部80に書き込まれる。そして、このAE評価値が評価されることにより撮影時の露光条件が決定される。この手法については領域毎にAF評価値を評価する手法、画面内の一部の領域を重点的に評価する手法等、周知の技術を利用すれば良いのでここでは詳細な説明を省略する。
図11は、図5に示す撮像部10に対応してAF評価値演算部60において行われるAF評価値演算に係る処理について示したタイミングチャートである。図11には、垂直同期信号VD、水平同期信号HD、撮像部10のch1における出力、撮像部10のch2における出力、選択部612の選択信号sel0、選択部614の選択信号sel1、加算部615の出力を示している。
撮像部10に垂直同期信号VDが入力されると1フレーム分の撮像信号の読み出しが開始される。以後は水平同期信号HDが入力される毎に、ch1からはクロック信号に応じて奇数ラインの撮像信号が1画素ずつ1ライン分前処理部20に入力される。前処理部20は、入力された撮像信号に対して前処理を施してY生成部61の加算部611、選択部612、及び選択部614に出力する。ここで、選択部614の選択信号sel1は“1及び4”に設定されているので、選択部614は、前処理部20からの撮像信号を選択して加算部615に出力する。
一方、ch2からはクロック信号に応じて偶数ラインの撮像信号が1画素ずつ1ライン分前処理部20に入力される。前処理部20は、入力された撮像信号に対して前処理を施してY生成部61の加算部611及び選択部614に出力する。ここで、選択部614の選択信号sel1は“1及び4”に設定されているので、選択部614は、前処理部20からの撮像信号を選択して加算部615に出力する。
加算部615は、入力されてきた撮像信号の各色に所定の係数を掛けてから加算することでY信号を生成し、累積部62に出力する。例えば、NTSC形式の場合、色信号とY信号とには、
Y=0.3R+0.59G+0.11B
の関係がある。なお、上式において、G=(Gr+Gb)/2である。このようにして生成されたY信号は累積部62において領域毎に累積され、AF評価値が演算される。
なお、AF評価値が演算された後は、アドレス制御部63の制御の下、DMAIF64によりAF評価値が記憶部80に書き込まれる。そして、このAF評価値から画像のコントラストが評価され、画像のコントラストが最も高くなる撮影レンズの位置を合焦位置とするようなレンズ駆動が行われる。この手法については周知の技術であるのでここでは詳細な説明を省略する。
次に、図12に示すような2種の撮像信号を出力する撮像部10に対応する動作について説明する。図12に示す撮像部10は、チャネル1(ch1)とチャネル2(ch2)の2つの出力チャネルを有している。そして、図12の撮像部10は、1水平期間(1H)の間に、ch1から奇数列画素(Bayer配列の場合にはR又はGb)の撮像信号を第1の撮像信号として出力し、ch2から偶数列画素(Bayer配列の場合にはGr、B)の撮像信号を第2の撮像信号として出力するように構成されている。なお、図12の場合は、1水平期間内には同色の撮像信号のみが入力される。
図1に示す撮像装置において、図12に示す撮像部10を用いる場合には、図13、図14、図15の破線で示す部分は使用しない。このために、DMAIF44を動作させないようにする。また、AE評価値演算部50内の選択部51においては、選択部515の選択信号sel1及び選択部516の選択信号sel2を何れも“1”とする。さらに、AF評価値演算部60内のY生成部61においては、選択部612の選択信号sel0を“1”とし、選択部614の選択信号sel1を“2及び3”とする。
図12に示す撮像部10に対応して画像処理部30及び40で行われる画像処理について説明する。上述したように、撮像部10のch1からは奇数列の撮像信号がクロック信号に応じて1画素ずつ前処理部20に入力される。前処理部20は、入力された撮像信号に対して前処理を施して画像処理部30に出力する。画像処理部30のLPF31及びリサイズ部32は入力された撮像信号に対して画像処理を施して画像データを得る。そして、この画像データを選択部33に出力する。同時に、ch2からは偶数列の撮像信号がクロック信号に応じて1画素ずつ前処理部20に入力される。前処理部20は、入力された撮像信号に対して前処理を施して画像処理部40に出力する。画像処理部40のLPF41及びリサイズ部42は入力された撮像信号に対して画像処理を施して画像データを得る。そして、この画像データを選択部33に出力する。
選択部33は、リサイズ部32とリサイズ部42から入力される画像データを1画素ずつ交互に選択してDMAIF35に出力する。アドレス制御部34は、DMAIF35による画像データの書き込みの際の書き込みアドレスを制御する。具体的には、選択部33により所定画素分(例えば1ライン分)の画像データが選択された時点で、選択された画像データが選択された順序で記憶部80に書き込まれるように制御する。これにより、撮像部10で取り込まれた撮像信号に対して画像処理を施した結果が得られる。
図16は、図12に示す撮像部10に対応してAE評価値演算部50において行われるAE評価値演算に係る処理について示したタイミングチャートである。図16には、垂直同期信号VD、水平同期信号HD、撮像部10のch1における出力、撮像部10のch2における出力、加算部513の出力、加算部514の出力、選択部515の選択信号sel1、選択部516の選択信号sel2、選択部517の選択信号sel3、及び選択部517からの出力を示している。
撮像部10に垂直同期信号VDが入力されると1フレーム分の撮像信号の読み出しが開始される。以後は水平同期信号HDが入力される毎に、ch1からはクロック信号に応じて奇数列の撮像信号が1画素ずつ前処理部20に入力される。前処理部20は、入力された撮像信号に対して前処理を施して選択部51のFF511、加算部513、及び選択部515に出力する。加算部513は、FF511に保持された撮像信号と前処理部20からの撮像信号を加算して選択部515に出力する。これにより、図16に示すようにしてR同士及びGb同士が加算されることになる。さらに、選択部515の選択信号sel1は“1”に設定されているので、選択部515は、加算部513からの撮像信号を選択して選択部517に出力する。
一方、ch2からはクロック信号に応じて偶数列の撮像信号が1画素ずつ前処理部20に入力される。前処理部20は、入力された撮像信号に対して前処理を施して選択部51のFF512、加算部514、及び選択部516に出力する。加算部514は、FF512に保持された撮像信号と前処理部20からの撮像信号を加算して選択部516に出力する。これにより、図16に示すようにしてGr同士及びB同士が加算されることになる。さらに、選択部516の選択信号sel2は“1”に設定されているので、選択部516は、加算部514からの撮像信号を選択して選択部517に出力する。
図16に示すように、選択部517の選択信号sel3は、2クロック目以降から、1クロック毎に“0”と“1”を交互に設定する。したがって、選択部517の出力は図16に示すものとなり、累積部52には撮像部10で取り込まれた撮像信号がBayer配列の順で入力される。これにより、累積部52においてAE評価値を演算することが可能である。
図17は、図12に示す撮像部10に対応してAF評価値演算部60において行われるAF評価値演算に係る処理について示したタイミングチャートである。図17には、垂直同期信号VD、水平同期信号HD、撮像部10のch1における出力、撮像部10のch2における出力、加算部611の出力、ラインメモリ613の出力、選択部612の選択信号sel0、選択部614の選択信号sel1、加算部615の出力を示している。
撮像部10に垂直同期信号VDが入力されると1フレーム分の撮像信号の読み出しが開始される。以後は水平同期信号HDが入力される毎に、ch1からはクロック信号に応じて奇数列の撮像信号が1画素ずつ前処理部20に入力される。前処理部20は、入力された撮像信号に対して前処理を施してY生成部61の加算部611、選択部612、及び選択部614に出力する。
一方、ch2からはクロック信号に応じて偶数ラインの撮像信号が1画素ずつ前処理部20に入力される。前処理部20は、入力された撮像信号に対して前処理を施してY生成部61の加算部611及び選択部614に出力する。
加算部611は、ch1からの撮像信号とch2からの撮像信号の各色に所定の係数を掛けてから加算して選択部612と選択部614とに出力する。ここでの係数は上記したY信号を求めるための係数に準じたものである。つまり、加算部611には、1クロック毎に、Y信号を求めるための4成分のうちの2成分のみが入力されるので、この2成分に応じた係数を掛けた後で加算する。さらに、選択部612の選択信号sel0は“1”に設定されているので、選択部612は加算部611からの撮像信号を選択してラインメモリ613に出力する。ラインメモリ613に1ライン分の撮像信号が入力されると、ラインメモリ613から撮像信号が出力される。
ここで、選択部614の選択信号sel1は“2及び3”に設定されているので、選択部614は、加算部611からの撮像信号とラインメモリ613からの撮像信号とを選択して加算部615に出力する。図16に示すようにして、加算部611からの撮像信号とラインメモリ613からの撮像信号とを選択することにより、Y信号を生成するために必要な各色の撮像信号が全て揃うことになる。
加算部615は、入力されてきた撮像信号を加算することでY信号を生成し、累積部62に出力する。このようにして生成されたY信号は累積部62において領域毎に累積され、AF評価値が演算される。
次に、図18に示すような撮像部10に対応する動作について説明する。図18に示す撮像部10は2つの撮像部10a及び10bから構成され、これに伴って前処理部20も2つの前処理部20a及び20bから構成されている。
撮像部10a及び10bはそれぞれが撮像光学系と、撮像光学系の後方に配置される撮像素子とから構成される。ここで、撮像部10aと撮像部10bの撮像素子はそれぞれ、図2に示したようなBayer配列で撮像信号を出力する。また、前処理部20aは撮像部10aで得られた撮像信号を前処理し、前処理部20bは撮像部10bで得られた撮像信号を前処理する。
図18に示す撮像部10に対応して画像処理部30及び40で行われる画像処理について説明する。上述したように、撮像部10a及び撮像部10bからはそれぞれBayer配列の撮像信号が出力されるので、画像処理部30と画像処理部40の何れか一方のみを動作させて画像処理を行えば良い。若しくは、例えば画像処理部30で静止画撮影用の画像処理を行い、画像処理部40で動画撮影用の画像処理を行うというように両者に全く異なる画像処理を行わせるようにしても良い。この場合、画像処理部30と画像処理部40とで得られる画像データはそれぞれ独立して記憶部80に記憶させる。
図19は、図18に示す撮像部10に対応してAE評価値演算部50において行われるAE評価値演算に係る処理について示したタイミングチャートである。図19に示すように、撮像部10aと撮像部10bからはそれぞれBayer配列の撮像信号が出力されるので、選択部515の選択信号sel1及び選択部516の選択信号sel2を共に“0”とし、選択部517の選択信号sel3を使用したいチャネルのほうに設定することにより、撮像部10aと撮像部10bの所望のほうでAE評価値演算を行うことが可能である。
図20は、図18に示す撮像部10に対応してAF評価値演算部60において行われるAF評価値演算に係る処理について示したタイミングチャートである。図19に示すように、撮像部10aと撮像部10bからはそれぞれBayer配列の撮像信号が出力されるので、選択部612の選択信号sel0を使用したいチャネルのほうに設定し、選択部614の選択信号sel1を2と、1又は4に設定することにより、撮像部10aと撮像部10bの所望のほうでAE評価値演算を行うことが可能である。
なお、図19及び図20のような選択部の設定は、Bayer配列の撮像信号を出力する1つのみの撮像部の場合でも適用可能なことは言うまでもない。
以上説明したように、第1の実施形態によれば、画像処理部30、AE評価値演算部50、及びAF評価値演算部60内部の各選択部の設定を変えるのみで、構成の異なる複数種類の撮像部10に対応した画像処理、AE評価値演算、及びAF評価値演算を行うことが可能である。
以上実施形態に基づいて本発明を説明したが、本発明は上記した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。例えば、上述した実施形態では撮像部10が2種の異なる撮像信号を出力可能になされているが、3種以上の異なる撮像信号を出力可能な撮像部でも上述した実施形態の手法を適用することができる。
さらに、上記した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件の適当な組合せにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、上述したような課題を解決でき、上述したような効果が得られる場合には、この構成要件が削除された構成も発明として抽出され得る。
本発明の一実施形態に係る撮像装置の主要な構成について示すブロック図である。 Bayer配列について示した図である。 選択部51の詳細な構成について示した図である。 Y生成部61の詳細な構成について示した図である。 撮像部10の第1の構成例について説明するための図である。 図5の撮像部を用いる場合の画像処理部30及び40の設定について示す図である。 図5の撮像部を用いる場合のAE評価値演算部50の設定について示す図である。 図5の撮像部を用いる場合のAF評価値演算部60の設定について示す図である。 図5に示す撮像部10に対応して画像処理部30及び40で行われる画像処理について示した図である。 図5に示す撮像部10に対応してAE評価値演算部50において行われるAE評価値演算に係る処理について示したタイミングチャートである。 図5に示す撮像部10に対応してAF評価値演算部60において行われるAF評価値演算に係る処理について示したタイミングチャートである。 撮像部10の第2の構成例について説明するための図である。 図12の撮像部を用いる場合の画像処理部30及び40の設定について示す図である。 図12の撮像部を用いる場合のAE評価値演算部50の設定について示す図である。 図12の撮像部を用いる場合のAF評価値演算部60の設定について示す図である。 図12に示す撮像部10に対応してAE評価値演算部50において行われるAE評価値演算に係る処理について示したタイミングチャートである。 図12に示す撮像部10に対応してAF評価値演算部60において行われるAF評価値演算に係る処理について示したタイミングチャートである。 撮像部10の第3の構成例について説明するための図である。 図18に示す撮像部10に対応してAE評価値演算部50において行われるAE評価値演算に係る処理について示したタイミングチャートである。 図18に示す撮像部10に対応してAF評価値演算部60において行われるAF評価値演算に係る処理について示したタイミングチャートである。
符号の説明
10,10a,10b…撮像部、20,20a,20b…前処理部、30,40…画像処理部、31,41…ローパスフィルタ(LPF)、32,42…リサイズ部、33…選択部、34,43,53,63…アドレス制御部、35,44,54,64…DMAIF、50…AE評価値演算部、51…選択部、52,62…累積部、60…AF評価値演算部、61…Y生成部、70…データバス、80…記憶部、511,512…フリップフロップ(FF)、513,514,611,615…加算部、515,516,517,612,614…選択部、613…ラインメモリ

Claims (14)

  1. 第1の撮像信号と第2の撮像信号の2種の撮像信号を出力可能になされた撮像部と、
    上記2種の撮像信号を選択的に処理してAE評価値を生成する第1の演算部と、
    上記2種の撮像信号を選択的に処理して輝度信号を生成し、該生成した輝度信号からAF評価値を生成する第2の演算部と、
    上記2種の撮像信号に対して画像処理を施して画像データを得る画像処理部と、
    を具備することを特徴とする撮像装置。
  2. 上記第1の演算部は、
    連続して出力される2画素分の上記第1の撮像信号を加算する第1の加算部と、
    連続して出力される2画素分の上記第2の撮像信号を加算する第2の加算部と、
    上記撮像部からの第1の撮像信号と上記第1の加算部からの撮像信号の何れかを選択する第1の選択部と、
    上記撮像部からの第2の撮像信号と上記第2の加算部からの撮像信号の何れかを選択する第2の選択部と、
    上記第1の選択部からの撮像信号と上記第2の選択部からの撮像信号の何れかを選択する第3の選択部と、
    上記第3の選択部からの撮像信号から上記AE評価値を生成するAE評価値生成部と、
    を備えることを特徴とする請求項1に記載の撮像装置。
  3. 上記第2の演算部は、
    上記撮像部からの第1の撮像信号と第2の撮像信号とを加算する第3の加算部と、
    上記撮像部からの第1の撮像信号と上記第3の加算部からの撮像信号の何れかを選択する第4の選択部と、
    上記第4の選択部からの撮像信号を保持する保持部と、
    上記撮像部からの第1の撮像信号及び第2の撮像信号と、上記保持部からの撮像信号及び上記第3の加算部からの撮像信号との何れかを選択する第5の選択部と、
    上記第5の選択部からの2つの撮像信号を加算して輝度信号を生成する第4の加算部と、
    上記第4の加算部からの輝度信号から上記AF評価値を生成するAF評価値生成部と、
    を備えることを特徴とする請求項1に記載の撮像装置。
  4. 上記画像処理部で得られた画像データを記憶する記憶部をさらに具備し、
    上記画像処理部は、
    上記第1の撮像信号に対して画像処理を施して画像データを得る第1の画像処理部と、
    上記第2の撮像信号に対して画像処理を施して画像データを得る第2の画像処理部と、
    上記第1の画像処理部で得られた画像データと上記第2の画像データを選択的に上記記憶部に書き込む記憶処理部と、
    を備えることを特徴とする請求項1に記載の撮像装置。
  5. 上記撮像部は、画素がアレイ状に配列され、隣接する2ラインの垂直方向に隣接する2画素の撮像信号をそれぞれ上記第1の撮像信号及び上記第2の撮像信号として、1クロック毎に1画素ずつ同時に出力し、
    上記第1の演算部において、上記第1の選択部は上記撮像部からの第1の撮像信号を選択し、上記第2の選択部は上記撮像部からの第2の撮像信号を選択し、上記第3の選択部は上記第1の選択部からの第1の撮像信号と上記第2の選択部からの第2の撮像信号を1ライン毎に交互に選択することを特徴とする請求項2に記載の撮像装置。
  6. 上記撮像部は、画素がアレイ状に配列され、隣接する2ラインの垂直方向に隣接する2画素の撮像信号のそれぞれを上記第1の撮像信号及び上記第2の撮像信号として、1クロック毎に1画素ずつ同時に出力し、
    上記第2の演算部において、上記第5の選択部は上記撮像部からの第1の撮像信号と上記撮像部からの第2の撮像信号の2つを選択することを特徴とする請求項3に記載の撮像装置。
  7. 上記撮像部は、画素がアレイ状に配列され、隣接する2ラインの垂直方向に隣接する2画素の撮像信号のそれぞれを上記第1の撮像信号及び上記第2の撮像信号として、1クロック毎に1画素ずつ同時に出力し、
    上記画像処理部において、上記記憶処理部は、上記第1の画像処理部と上記第2の画像処理部でそれぞれ得られた画像データを1ライン毎に交互に上記記憶部に書き込むことを特徴とする請求項4に記載の撮像装置。
  8. 上記撮像部は、画素がアレイ状に配列され、1ラインの水平方向に隣接する2画素の撮像信号のそれぞれを上記第1の撮像信号及び上記第2の撮像信号として、1クロック毎に1画素ずつ同時に出力し、
    上記第1の演算部において、上記第1の選択部は上記第1の加算部からの撮像信号を選択し、上記第2の選択部は上記第2の加算部からの撮像信号を選択し、上記第3の選択部は上記第1の選択部からの撮像信号と上記第2の選択部からの撮像信号を1クロック毎に交互に選択することを特徴とする請求項2に記載の撮像装置。
  9. 上記撮像部は、画素がアレイ状に配列され、1ラインの水平方向に隣接する2画素の撮像信号のそれぞれを上記第1の撮像信号及び上記第2の撮像信号として、1クロック毎に1画素ずつ同時に出力し、
    上記第2の演算部において、上記第4の選択部は上記第3の加算部からの撮像信号を選択し、上記第5の選択部は上記保持部からの撮像信号と上記第3の加算部からの撮像信号の2つを選択することを特徴とする請求項3に記載の撮像装置。
  10. 上記撮像部は、画素がアレイ状に配列され、1ラインの水平方向に隣接する2画素の撮像信号のそれぞれを上記第1の撮像信号及び上記第2の撮像信号として、1クロック毎に1画素ずつ同時に出力し、
    上記画像処理部において、上記記憶処理部は、上記第1の画像処理部と上記第2の画像処理部でそれぞれ得られた画像データを1クロック毎に交互に選択して上記記憶部に書き込むことを特徴とする請求項4に記載の撮像装置。
  11. 上記撮像部は、
    第1の撮像光学系と第2の撮像光学系とを有する撮像光学系と、
    上記第1の撮像光学系からの光を受光して上記第1の撮像信号を出力する第1の撮像素子と、
    上記第2の撮像光学系からの光を受光して上記第2の撮像信号を出力する第2の撮像素子と、
    を有し、
    上記画像処理部は、
    上記第1の撮像信号に対して第1の画像処理を施す第1の画像処理部と、
    上記第2の撮像信号に対して上記第1の画像処理とは異なる第2の画像処理を施す第2の画像処理部と、
    を有することを特徴とする請求項1に記載の撮像装置。
  12. 上記第1の撮像素子と上記第2の撮像素子はそれぞれ静止画像撮影用の撮像素子と動画像撮影用の撮像素子であり、
    上記第1の画像処理と上記第2の画像処理はそれぞれ静止画像撮影用の画像処理と動画像撮影用の画像処理であることを特徴とする請求項11に記載の撮像装置。
  13. 上記第1の演算部によるAE評価値の生成と、上記第2の演算部によるAF評価値の生成と、上記画像処理部による画像処理とは同時に行われることを特徴とする請求項1乃至12の何れか1つに記載の撮像装置。
  14. 第1の撮像信号と第2の撮像信号の2種の撮像信号を処理する信号処理装置であって、
    上記2種の撮像信号を選択的に処理してAE評価値を生成する第1の演算部と、
    上記2種の撮像信号を選択的に処理して輝度信号を生成し、該生成した輝度信号からAF評価値を生成する第2の演算部と、
    上記2種の撮像信号に対して画像処理を施して画像データを得る画像処理部と、
    を具備することを特徴とする信号処理装置。
JP2006170468A 2006-06-20 2006-06-20 撮像装置及び信号処理装置 Pending JP2008005048A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2006170468A JP2008005048A (ja) 2006-06-20 2006-06-20 撮像装置及び信号処理装置
CN2007101055478A CN101094319B (zh) 2006-06-20 2007-05-25 摄像装置以及信号处理装置
US11/820,233 US7834914B2 (en) 2006-06-20 2007-06-18 Image pickup apparatus and signal processor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006170468A JP2008005048A (ja) 2006-06-20 2006-06-20 撮像装置及び信号処理装置

Publications (1)

Publication Number Publication Date
JP2008005048A true JP2008005048A (ja) 2008-01-10

Family

ID=38861142

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006170468A Pending JP2008005048A (ja) 2006-06-20 2006-06-20 撮像装置及び信号処理装置

Country Status (3)

Country Link
US (1) US7834914B2 (ja)
JP (1) JP2008005048A (ja)
CN (1) CN101094319B (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011232771A (ja) * 2011-06-23 2011-11-17 Fujifilm Corp 複眼撮像装置
JP2012114594A (ja) * 2010-11-22 2012-06-14 Olympus Corp 撮像装置
JP2013062726A (ja) * 2011-09-14 2013-04-04 Olympus Corp 撮像装置および評価値生成装置
JP2013135410A (ja) * 2011-12-27 2013-07-08 Olympus Corp 撮像装置および評価値生成装置
JP2013135408A (ja) * 2011-12-27 2013-07-08 Olympus Corp 撮像装置
JP2013135409A (ja) * 2011-12-27 2013-07-08 Olympus Corp 撮像装置
JP2014127757A (ja) * 2012-12-25 2014-07-07 Olympus Corp 撮像装置
US8817139B2 (en) 2011-09-14 2014-08-26 Olympus Corporation Image pickup device and signal transmitting device
US9645957B2 (en) 2013-06-10 2017-05-09 Olympus Corporation Data processing device and data transfer control device
JP2017153441A (ja) * 2016-03-03 2017-09-07 オリンパス株式会社 観察装置、測定システム及び観察方法

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5424726B2 (ja) * 2009-06-05 2014-02-26 オリンパス株式会社 撮像装置
JP5426262B2 (ja) * 2009-07-17 2014-02-26 富士フイルム株式会社 複眼撮像装置

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS59169278A (ja) * 1983-03-16 1984-09-25 Hitachi Ltd 固体撮像装置
JP2004172950A (ja) * 2002-11-20 2004-06-17 Sony Corp 固体撮像装置
JP2004260813A (ja) * 2003-02-04 2004-09-16 Canon Inc 撮像装置、撮像方法及びデジタルカメラ
JP2004304460A (ja) * 2003-03-31 2004-10-28 Mega Chips Corp 画像処理装置及び画像処理システム並びに撮像装置
JP2005020276A (ja) * 2003-06-25 2005-01-20 Fuji Photo Film Co Ltd 固体撮像素子および撮像装置
JP2005094465A (ja) * 2003-09-18 2005-04-07 Fuji Photo Film Co Ltd 撮影装置
JP2005159992A (ja) * 2003-11-28 2005-06-16 Canon Inc 撮像装置及び撮像方法
JP2005202064A (ja) * 2004-01-14 2005-07-28 Ricoh Co Ltd 撮像装置、その合焦方法および記録媒体

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0620275B2 (ja) 1985-10-17 1994-03-16 株式会社日立製作所 固体撮像装置
JP2003023555A (ja) * 2001-07-05 2003-01-24 Fuji Photo Film Co Ltd 画像撮像装置
US7554590B2 (en) * 2003-02-26 2009-06-30 Digital Imaging Systems Gmbh Simultaneous readout of CMOS APS imagers
JP4418342B2 (ja) * 2004-10-13 2010-02-17 オリンパス株式会社 画像処理装置及び電子カメラ

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS59169278A (ja) * 1983-03-16 1984-09-25 Hitachi Ltd 固体撮像装置
JP2004172950A (ja) * 2002-11-20 2004-06-17 Sony Corp 固体撮像装置
JP2004260813A (ja) * 2003-02-04 2004-09-16 Canon Inc 撮像装置、撮像方法及びデジタルカメラ
JP2004304460A (ja) * 2003-03-31 2004-10-28 Mega Chips Corp 画像処理装置及び画像処理システム並びに撮像装置
JP2005020276A (ja) * 2003-06-25 2005-01-20 Fuji Photo Film Co Ltd 固体撮像素子および撮像装置
JP2005094465A (ja) * 2003-09-18 2005-04-07 Fuji Photo Film Co Ltd 撮影装置
JP2005159992A (ja) * 2003-11-28 2005-06-16 Canon Inc 撮像装置及び撮像方法
JP2005202064A (ja) * 2004-01-14 2005-07-28 Ricoh Co Ltd 撮像装置、その合焦方法および記録媒体

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012114594A (ja) * 2010-11-22 2012-06-14 Olympus Corp 撮像装置
JP2011232771A (ja) * 2011-06-23 2011-11-17 Fujifilm Corp 複眼撮像装置
JP2013062726A (ja) * 2011-09-14 2013-04-04 Olympus Corp 撮像装置および評価値生成装置
US8817139B2 (en) 2011-09-14 2014-08-26 Olympus Corporation Image pickup device and signal transmitting device
US8976281B2 (en) 2011-09-14 2015-03-10 Olympus Corporation Image pickup device and evaluation value generating device
JP2013135410A (ja) * 2011-12-27 2013-07-08 Olympus Corp 撮像装置および評価値生成装置
JP2013135408A (ja) * 2011-12-27 2013-07-08 Olympus Corp 撮像装置
JP2013135409A (ja) * 2011-12-27 2013-07-08 Olympus Corp 撮像装置
US9007479B2 (en) 2011-12-27 2015-04-14 Olympus Corporation Imaging apparatus and evaluation value generation apparatus
JP2014127757A (ja) * 2012-12-25 2014-07-07 Olympus Corp 撮像装置
US9645957B2 (en) 2013-06-10 2017-05-09 Olympus Corporation Data processing device and data transfer control device
JP2017153441A (ja) * 2016-03-03 2017-09-07 オリンパス株式会社 観察装置、測定システム及び観察方法

Also Published As

Publication number Publication date
US20070291137A1 (en) 2007-12-20
CN101094319A (zh) 2007-12-26
US7834914B2 (en) 2010-11-16
CN101094319B (zh) 2011-08-10

Similar Documents

Publication Publication Date Title
JP2008005048A (ja) 撮像装置及び信号処理装置
JP5132507B2 (ja) 焦点検出装置およびカメラシステム
JP4873523B2 (ja) 画像処理装置および方法、並びにプログラム
JP6372983B2 (ja) 焦点検出装置およびその制御方法、撮像装置
CN102934422B (zh) 信号处理装置和静止图像生成方法
JP2010056795A (ja) 撮像装置及びその制御方法
JP2017216646A (ja) 撮像素子、撮像装置、および撮像信号処理方法
JP2017216648A (ja) 撮像素子、撮像装置、および撮像信号処理方法
JP5829122B2 (ja) 撮像装置および評価値生成装置
JP2013236298A (ja) 撮像装置
TW201223268A (en) Imaging apparatus, signal processing method, and program
JP6557499B2 (ja) 焦点検出装置およびその制御方法、撮像装置、プログラム、ならびに記憶媒体
JP5446955B2 (ja) 撮像装置
JP2017216649A (ja) 撮像素子、撮像装置、および撮像信号処理方法
JP5718029B2 (ja) 撮像装置
JP4633525B2 (ja) 焦点検出装置
JP5387167B2 (ja) 撮像装置
JP2011087203A (ja) 撮像装置
JP4606989B2 (ja) 撮影装置
JP2006352717A (ja) デジタルカメラ、及びその画像処理方法
JP2006352716A (ja) 撮像装置及び撮像方法
JP5402329B2 (ja) 撮像ユニット、電子カメラ
JP2012147087A (ja) 画像生成装置及び方法
JP4271011B2 (ja) 撮像処理装置
JP2007243819A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090312

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110131

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110322

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110520

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120124