JP2008193163A - 固体撮像装置 - Google Patents

固体撮像装置 Download PDF

Info

Publication number
JP2008193163A
JP2008193163A JP2007022324A JP2007022324A JP2008193163A JP 2008193163 A JP2008193163 A JP 2008193163A JP 2007022324 A JP2007022324 A JP 2007022324A JP 2007022324 A JP2007022324 A JP 2007022324A JP 2008193163 A JP2008193163 A JP 2008193163A
Authority
JP
Japan
Prior art keywords
sensitivity
optical sensor
photosensor
subject
read
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007022324A
Other languages
English (en)
Inventor
Toshikazu Ono
俊和 大野
Tatsufumi Oyama
達史 大山
Toru Watanabe
透 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP2007022324A priority Critical patent/JP2008193163A/ja
Priority to US12/023,567 priority patent/US20080179490A1/en
Publication of JP2008193163A publication Critical patent/JP2008193163A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J1/00Photometry, e.g. photographic exposure meter
    • G01J1/42Photometry, e.g. photographic exposure meter using electric radiation detectors
    • G01J1/4228Photometry, e.g. photographic exposure meter using electric radiation detectors arrangements with two or more detectors, e.g. for sensitivity compensation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • G01J3/50Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors
    • G01J3/51Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors using colour filters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • G01J3/50Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors
    • G01J3/51Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors using colour filters
    • G01J3/513Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors using colour filters having fixed filter-detector pairs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/445Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by skipping some contiguous pixels within the read portion of the array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/585Control of the dynamic range involving two or more exposures acquired simultaneously with pixels having different sensitivities within the sensor, e.g. fast or slow pixels or pixels having different sizes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N3/00Scanning details of television systems; Combination thereof with generation of supply voltages
    • H04N3/10Scanning details of television systems; Combination thereof with generation of supply voltages by means not exclusively optical-mechanical
    • H04N3/14Scanning details of television systems; Combination thereof with generation of supply voltages by means not exclusively optical-mechanical by means of electrically scanned solid-state devices
    • H04N3/15Scanning details of television systems; Combination thereof with generation of supply voltages by means not exclusively optical-mechanical by means of electrically scanned solid-state devices for picture signal generation
    • H04N3/155Control of the image-sensor operation, e.g. image processing within the image-sensor

Abstract

【課題】画像を取得するための処理時間が長くなることを抑制しながら、固体撮像装置の消費電力が大きくなるのを抑制し、被写体情報に応じて最適な画像を得ることが可能な固体撮像装置を提供する。
【解決手段】この固体撮像装置100は、感度特性の異なる複数の光センサ14、15および16を備え、被写体情報に応じて、所定の感度特性の光センサ14、15または16の信号を読み出すように構成されている。
【選択図】図2

Description

本発明は、固体撮像装置に関し、特に、感度特性の異なる複数の光センサを備えた固体撮像装置に関する。
従来、感度特性の異なる複数の光センサを備えた固体撮像装置が知られている(たとえば、特許文献1参照)。
上記特許文献1には、高感度の受光素子と、低感度の受光素子とが互いに隣接するように、1対1の割合でハニカム状に配置された固体撮像装置が開示されている。この特許文献1による固体撮像装置では、高感度の受光素子と、低感度の受光素子とによって撮像されたそれぞれの画像を取得し、入射光量に応じて、高感度の受光素子によって撮像された画像と、低感度の受光素子によって撮像された画像とが選択的に切り替えられて画面に表示される。具体的には、入射光量が小さいときには、高感度の受光素子によって撮像された画像を表示し、高感度の受光素子が飽和してしまうような入射光量が大きいときには、低感度の受光素子によって撮像された画像を表示する。これにより、固体撮像装置のダイナミックレンジを広げることが可能となる。
特開2000−125209号公報
しかしながら、上記特許文献1に記載の固体撮像装置では、高感度の受光素子と、低感度の受光素子との両方の受光素子によって得られる画像を取得しているので、たとえば入射光量が大きいときには、不必要な高感度の受光素子から得られる画像も取得してしまうという不都合がある。このため、画像を取得するための処理時間が長くなるとともに、固体撮像装置の消費電力が大きくなるという問題点がある。また、上記特許文献1に記載の固体撮像装置の効果は、固体撮像装置のダイナミックレンジを広げることに限られている。
この発明は、上記のような課題を解決するためになされたものであり、この発明の1つの目的は、画像を取得するための処理時間が長くなることを抑制しながら、固体撮像装置の消費電力が大きくなるのを抑制し、被写体情報に応じて最適な画像を得ることが可能な固体撮像装置を提供することである。
課題を解決するための手段および発明の効果
この発明の一の局面による固体撮像装置は、感度特性の異なる複数の光センサを備え、被写体情報に応じて、所定の感度特性の光センサの信号を読み出すように構成されている。
この一の局面による固体撮像装置では、上記のように、被写体情報に応じて、所定の感度特性の光センサの信号を読み出すように構成することにより、不必要な感度特性の光センサの信号を読み出さないので、その分、画像を取得するための処理時間が長くなることを抑制することができるとともに、固体撮像装置の消費電力が大きくなるのを抑制することができる。また、被写体情報に応じて、所定の感度特性の光センサの信号を読み出すように構成することにより、容易に、被写体情報に応じて最適な画像を得ることができる。なお、光センサは、可視光線のみならず、赤外線や紫外線を含めてセンシングするものであってもよい。
上記一の局面による固体撮像装置おいて、好ましくは、被写体情報は、被写体の輝度、被写体の動体速度および被写体の撮像に適した単位時間当りに更新される画面数のうち少なくとも1つである。このように構成すれば、撮像時の被写体の輝度、被写体の動体速度または被写体の撮像に適した単位時間当りに更新される画面数に基づいて最適な感度特性を有する光センサの信号を読み出すことができるので、被写体情報に応じた最適な輝度、最適な動体速度または最適な単位時間当りに更新される画面数の画像を得ることができる。
上記一の局面による固体撮像装置おいて、好ましくは、光センサの電子増倍の有無、光センサの大きさ、光センサの出力信号を増幅する出力アンプの特性および光センサに含まれるレンズの種類の少なくともいずれかを異ならせることによって感度特性が異なる。このように構成すれば、被写体情報に応じて、光センサの電子増倍の有無、光センサの大きさ、光センサの出力信号を増幅する出力アンプの特性または光センサに含まれるレンズの種類を選択することができるので、被写体情報に適した画像を得ることができる。たとえば、感度特性を光センサの電子増倍の有無によって異ならせる場合、被写体の輝度が低いときは、電子増倍を有する光センサの信号を読み出し、被写体の輝度が高いときは、電子増倍をオフ状態にした電子増倍を有する光センサと電子増倍を有しない光センサとの両方の信号を読み出すように構成することができるので、被写体の輝度が低いときには、高い感度の画像を得ることができるとともに、被写体の輝度が高いときには、高い解像度の画像を得ることができる。また、感度特性を光センサの大きさによって異ならせる場合、たとえば、被写体の輝度が低いときは大きさが大きい光センサの信号を読み出し、被写体の輝度が中程度のときは大きさが中程度の光センサの信号を読み出し、被写体の輝度が高いときは大きさが小さい光センサの信号を読み出すことにより、被写体の輝度が低いとき、中程度のとき、および高いときのいずれにおいても最適な画像を得ることができる。また、光センサの出力信号を増幅する出力アンプの特性によって異ならせる場合、たとえば、被写体の輝度が低いときには線形的に出力が増幅されるアンプを用い、被写体の輝度が高いときには対数関数的に出力が増幅される出力アンプを用いるようにする。このように、輝度が高いときに出力の増幅の度合いが緩やかな対数関数的に出力が増幅される出力アンプを用いることにより、輝度が高いときにでも出力アンプによって出力が過度に増幅されてしまう現象(白とび)を抑制することができる。また、感度特性を光センサに含まれるレンズの種類によって異ならせる場合、たとえば高感度レンズまたは低感度レンズを備えた光センサ、および、レンズなしの光センサを用いることにより、被写体の輝度が低いときは高感度レンズを備えた光センサの信号を読み出し、被写体の輝度が中程度のときは低感度レンズを備えた光センサの信号を読み出し、被写体の輝度が高いときはレンズなしの光センサの信号を読み出すように構成することができるので、被写体の輝度が低いとき、中程度のとき、および高いときのいずれにおいても最適な画像を得ることができる。
上記一の局面による固体撮像装置おいて、好ましくは、感度特性の異なる光センサの数が、それぞれ異なる比率になるように構成され、被写体情報に応じて比率の異なる所定の感度特性の光センサの信号を読み出す。このように構成すれば、たとえば高感度光センサと、高感度光センサよりも数の多い低感度光センサを配置することにより、高感度光センサの露光時間が短いことと、配置された光センサの数が少なく、読み出し時間の短縮が可能なことにより、動体速度が速い被写体の撮像が可能となるとともに、低感度光センサの数が多いので、高い解像度の画像を得ることができる。
上記一の局面による固体撮像装置おいて、好ましくは、感度特性の異なる光センサからなる固体撮像素子は、被写体情報により、固体撮像素子上に設定された領域毎に所定の感度特性の光センサを読み出すように構成されている。このように構成すれば、被写体情報の所定の領域ごとに最適な感度特性の光センサの信号を読み出すように構成することができるので、1つの感度特性の光センサだけの信号を読み出すように構成する場合に比べて、より質の高い画像を得ることができる。たとえば、被写体情報の所定の領域ごとに最適な感度特性の光センサの信号を読み出すことにより、複数の感度特性の光センサの信号を読み出すので、固体撮像装置のダイナミックレンジを広くすることができる。
上記一の局面による固体撮像装置おいて、好ましくは、複数の光センサは、第1の感度を有する第1光センサと、第1の感度よりも大きい第2の感度を有する第2光センサと、第1の感度と、第2の感度との間の大きさの第3の感度を有する第3光センサとを含み、被写体情報に応じて、第1光センサ、第2光センサおよび第3光センサのうちの少なくとも1つの信号が読み出されるように構成されている。このように構成すれば、被写体の輝度が低いときは第2光センサの信号を読み出し、被写体の輝度が中程度のときは第3光センサの信号を読み出し、被写体の輝度が高いときは第1光センサの信号を読み出すように構成することができるので、被写体の輝度が低いとき、中程度のとき、および高いときのいずれにおいても最適な画像を得ることができる。また、不必要な感度特性の光センサの信号を読み出さないので、その分、画像を取得するための処理時間が長くなることを抑制することができるとともに、固体撮像装置の消費電力が大きくなるのを抑制することができる。
以下、本発明の実施形態を図面に基づいて説明する。
(第1実施形態)
図1は、本発明の第1実施形態による固体撮像装置の構成の概略図である。図2は、本発明の第1実施形態による固体撮像素子上に配置された感度特性の異なる光センサの配置図である。図1および図2を参照して、第1実施形態による固体撮像装置100の構成について説明する。
この第1実施形態による固体撮像装置100は、図1に示すように、固体撮像素子11と、アナログ信号処理部12と、デジタル信号処理部13とから構成されている。固体撮像素子11は、高感度光センサ14、中感度光センサ15および低感度光センサ16を含んでいる。なお、高感度光センサ14は、本発明の「第2光センサ」の一例である。また、中感度光センサ15は、本発明の「第3光センサ」の一例である。また、低感度光センサ16は、本発明の「第1光センサ」の一例である。高感度光センサ14、中感度光センサ15および低感度光センサ16は、スイッチ17a、17bおよび17cを介して、それぞれ、アナログ信号処理装置12に電気的に接続されている。また、アナログ信号処理装置12は、デジタル信号処理部13に電気的に接続されている。また、デジタル信号処理部13には、輝度情報取得部18が含まれている。
また、図2に示すように、固体撮像素子11上には、高感度光センサ14、中感度光センサ15および低感度光センサ16がマトリクス状に配置されており、高感度光センサ14、中感度光センサ15および低感度光センサ16は、混在している。
図3は、本発明の第1実施形態による感度特性の異なる光センサの読み出しの選択を表す図である。図4は、本発明の第1実施形態による輝度に応じて読み出される光センサを示す図である。次に、図1、図3および図4を用いて、本発明の第1実施形態による固体撮像装置100の動作について説明する。
図1に示すように、デジタル信号処理部13内の輝度情報取得部18において、現在撮像が行われようとしているフレーム(画面)よりも1フレーム前を撮像する際に取得された1フレーム分の光センサに入力した信号の平均値を計算して被写体の輝度情報が取得される。ここで、第1実施形態では、図3に示す閾値に基づいて、取得された輝度情報に応じて、輝度が低いときには高感度光センサ14が読み出され(図4の読み出される光センサ(a)参照)、輝度が中程度のときには中感度光センサ15が読み出され(図4の読み出される光センサ(b)参照)、輝度が低いときには低感度光センサ16が読み出される(図4の読み出される光センサ(c)参照)。なお、図3に示す、読み出される光センサの閾値は、固体撮像装置100のユーザーによって設定される。
第1実施形態では、上記のように、被写体の輝度情報に応じて、高感度光センサ14、中感度光センサ15および低感度光センサ16の内、1つの光センサの信号を読み出すように構成することにより、不必要な感度特性の光センサの信号を読み出さないので、その分、画像を取得するための処理時間が長くなることを抑制することができるとともに、固体撮像装置100の消費電力が大きくなるのを抑制することができる。
また、第1実施形態では、上記のように、被写体情報は、被写体の輝度に基づいて取得されるように構成することによって、撮像時の被写体の輝度に基づいて高感度光センサ14、中感度光センサ15および低感度光センサ16の内、最適な感度特性を有する光センサの信号を読み出すことができるので、被写体情報に応じた最適な輝度の画像を得ることができる。
(第2実施形態)
図5は、本発明の第2実施形態による固体撮像装置の構成の概略図である。図2および図5を参照して、この第2実施形態では、上記第1実施形態と異なり、被写体情報が被写体の動体速度である場合の固体撮像装置101の構成について説明する。
この第2実施形態による固体撮像装置101は、図5に示すように、固体撮像素子21と、アナログ信号処理部22と、デジタル信号処理部23とから構成されている。固体撮像素子21は、高感度光センサ24、中感度光センサ25および低感度光センサ26を含んでいる。なお、高感度光センサ24は、本発明の「第2光センサ」の一例である。また、中感度光センサ25は、本発明の「第3光センサ」の一例である。また、低感度光センサ26は、本発明の「第1光センサ」の一例である。高感度光センサ24、中感度光センサ25および低感度光センサ26は、スイッチ27a、27bおよび27cを介して、それぞれ、アナログ信号処理装置22に電気的に接続されている。また、アナログ信号処理装置22は、デジタル信号処理部23に電気的に接続されている。また、デジタル信号処理部23には、動体速度情報取得部28が含まれている。
また、図2に示すように、固体撮像素子21上には、第1実施形態と同様に、高感度光センサ24、中感度光センサ25および低感度光センサ26がマトリクス状に配置されており、高感度光センサ24、中感度光センサ25および低感度光センサ26は、混在している。なお、第2実施形態では、高感度光センサ24の数よりも低感度光センサ26の数を多く配置するとともに、高感度光センサ24の数と低感度光センサ26の数との間の数の中感度光センサ25を配置する。
図6は、本発明の第2実施形態による感度特性の異なる光センサの読み出しの選択を表す図である。図7は、本発明の第2実施形態による被写体の動体速度に応じて読み出される光センサを示す図である。次に、図5〜図7を用いて、本発明の第2実施形態による固体撮像装置101の動作について説明する。
図5に示すように、デジタル信号処理部23内の動体速度情報取得部28において、現在撮像が行われようとしているフレーム(画面)よりも以前の複数のフレーム間を撮像する際に取得された光センサに入力した信号を基に被写体の動体速度情報が取得される。ここで、第2実施形態では、図6に示す閾値に基づいて、取得された動体速度情報に応じて、高感度光センサ24、中感度光センサ25および低感度光センサ26の内、1つの光センサに入力した信号が読み出される。なお、図6に示す、読み出される光センサの閾値は、固体撮像装置101のユーザーによって設定される。そして、動体速度が速いときには高感度光センサ24が読み出される(図7の読み出される光センサ(a)参照)。高感度光センサ24は、低感度光センサ26に比べて感度が高いので、低感度光センサ26に比べて露光時間を短くすることが可能である。これにより、動体速度が速い被写体の撮像が可能となる。また、動体速度が中程度のときには中感度光センサ25が読み出され(図7の読み出される光センサ(b)参照)、中程度の動体速度の撮像が可能となるとともに、中感度光センサ25の数は、高感度光センサ24の数に比べて数が多いので、高感度光センサ24によって取得される画像に比べて、高い解像度の画像を得ることが可能となる。また、動体速度が遅いときには低感度光センサ26が読み出される(図7の読み出される光センサ(c)参照)。低感度光センサ26の数は、高感度光センサ24や中感度光センサ25の数に比べて数が多いので、高感度光センサ24や中感度光センサ25によって取得される画像に比べて、高い解像度の画像を得ることが可能となる。
第2実施形態では、上記のように、被写体の動体速度情報に応じて、高感度光センサ24、中感度光センサ25および低感度光センサ26の内、1つの光センサの信号を読み出すように構成することにより、不必要な感度特性の光センサの信号を読み出さないので、その分、画像を取得するための処理時間が長くなることを抑制することができるとともに、固体撮像装置101の消費電力が大きくなるのを抑制することができる。
また、第2実施形態では、上記のように、被写体情報は、被写体の動体速度に基づいて取得されるように構成することによって、撮像時の被写体の動体速度に基づいて高感度光センサ24、中感度光センサ25および低感度光センサ26の内、最適な感度特性を有する光センサの信号を読み出すことができるので、被写体情報に応じた最適な動体速度の画像を得ることができる。
また、第2実施形態では、上記のように、高感度光センサ24、中感度光センサ25および低感度光センサ26の数が、それぞれ異なる比率になるように構成されることにより、高感度光センサ24、中感度光センサ25および低感度光センサ26の内、最適な解像度を有する光センサの信号を読み出すことができるので、被写体情報に応じた最適な解像度と動体速度の画像を得ることができる。
(第3実施形態)
図8は、本発明の第3実施形態による固体撮像装置の構成の概略図である。図2および図8を参照して、この第3実施形態では、上記第1実施形態と異なり、被写体情報が被写体の撮像に適した単位時間当りに更新される画面数(以下、フレームレート情報と記載)である場合の固体撮像装置102の構成について説明する。
この第3実施形態による固体撮像装置は、図8に示すように、固体撮像素子31と、アナログ信号処理部32と、デジタル信号処理部33とから構成されている。固体撮像素子31は、高感度光センサ34、中感度光センサ35および低感度光センサ36を含んでいる。なお、高感度光センサ34は、本発明の「第2光センサ」の一例である。また、中感度光センサ35は、本発明の「第3光センサ」の一例である。また、低感度光センサ36は、本発明の「第1光センサ」の一例である。高感度光センサ34、中感度光センサ35および低感度光センサ36は、スイッチ37a、37bおよび37cを介して、それぞれ、アナログ信号処理装置32に電気的に接続されている。また、アナログ信号処理装置32は、デジタル信号処理部33に電気的に接続されている。また、デジタル信号処理部33には、フレームレート情報取得部38が含まれている。
また、図2に示すように、固体撮像素子31上には、第1実施形態と同様に、高感度光センサ34、中感度光センサ35および低感度光センサ36がマトリクス状に配置されており、高感度光センサ34、中感度光センサ35および低感度光センサ36は、混在している。なお、第3実施形態では、第2実施形態と同様に、高感度光センサ34の数よりも低感度光センサ36の数を多く配置するとともに、高感度光センサ34の数と低感度光センサ36の数との間の数の中感度光センサ35を配置する。
図9は、本発明の第3実施形態によるフレームレート情報に応じて読み出される光センサを示す図である。次に、図8および図9を用いて、本発明の第3実施形態による固体撮像装置102の動作について説明する。
図8に示すように、デジタル信号処理部33内のフレームレート情報取得部38において、被写体の撮像に適したフレームレート情報が取得される。ここで、第3実施形態では、フレームレート情報に基づいて、高感度光センサ34、中感度光センサ35および低感度光センサ36の内、1つの光センサに入力した信号が読み出される。被写体情報の撮像に高いフレームレートが要求されたときには光センサの配置数の少ない高感度光センサ34が読み出される(図9の読み出される光センサ(a)参照)。高感度光センサ34は、低感度光センサ36に比べて感度が高いので、低感度光センサ36に比べて露光時間を短くすることができ、配置された光センサの数が少ないため、読み出し時間の短縮が可能である。これにより、高感度光センサ34は、フレームレートの高い画像を得ることが可能となる。また、被写体の撮像に中程度のフレームレートが要求されたときには中感度光センサ35が読み出され(図9の読み出される光センサ(b)参照)、中感度光センサ35の数が高感度光センサ34の数に比べて数が多いので、中程度のフレームレートの撮像が可能となるとともに、高感度光センサ34によって取得される画像に比べて高い解像度の画像を得ることが可能となる。また、被写体の撮像に低いフレームレートが要求されたときには低感度光センサ36が読み出される(図9の読み出される光センサ(c)参照)。低感度光センサ36の数は、高感度光センサ34や中感度光センサ35の数に比べて数が多いので、高感度光センサ34や中感度光センサ35によって取得される画像に比べて、高い解像度の画像を得ることが可能となる。
第3実施形態では、上記のように、被写体の撮像に適したフレームレート情報に応じて、高感度光センサ34、中感度光センサ35および低感度光センサ36の内、1つの光センサの信号を読み出すように構成することにより、不必要な感度特性の光センサの信号を読み出さないので、その分、画像を取得するための処理時間が長くなることを抑制することができるとともに、固体撮像装置102の消費電力が大きくなるのを抑制することができる。
また、第3実施形態では、上記のように、被写体情報は、被写体の撮像に適したフレームレート情報に基づいて取得されるように構成することによって、被写体の撮像に適したフレームレート情報に基づいて高感度光センサ34、中感度光センサ35および低感度光センサ36の内、最適な感度特性を有する光センサの信号を読み出すことができるので、被写体情報に応じた最適なフレームレートの画像を得ることができる。
また、カメラの目的(監視カメラ、ポートレートなど)があらかじめ分かっているときは、被写体情報を固定することも可能である。たとえば、動体計測を目的としたときは、高いフレームレートの撮影を行う。また、監視を目的としたときは、中程度のフレームレートと、中程度の解像度を有する撮影を行う。また、ポートレートの撮影の時には、高い解像度を有する撮影を行う。
(第4実施形態)
図10は、本発明の第4実施形態による固体撮像素子上に配置された電子増倍を有する光センサと電子増倍を有しない光センサの配置図である。図1、図5、図8および図10を参照して、この第4実施形態では、上記第1実施形態〜第3実施形態と異なり、電子増倍を有する光センサを含む固体撮像装置103の構成について説明する。
この第4実施形態による固体撮像装置103の構成は、図1、図5および図8に示す第1実施形態、第2実施形態および第3実施形態の構成において、固体撮像素子11、21および31に含まれる高感度光センサ14、24および34、中感度光センサ15、25、および35、および、低感度光センサ16、26および36を、後述する電子増倍を有する赤のカラーフィルターを備えた光センサ42、電子増倍を有する緑のカラーフィルターを備えた光センサ43、電子増倍を有する青のカラーフィルターを備えた光センサ44、電子増倍を有しない赤のカラーフィルターを備えた光センサ45、電子増倍を有しない緑のカラーフィルターを備えた光センサ46および電子増倍を有しない青のカラーフィルターを備えた光センサ47に置き換えたものとなっている。
また、図10に示すように、固体撮像素子41上には、電子増倍を有する赤のカラーフィルターを備えた光センサ42、電子増倍を有する緑のカラーフィルターを備えた光センサ43および電子増倍を有する青のカラーフィルターを備えた光センサ44と、電子増倍を有しない赤のカラーフィルターを備えた光センサ45、電子増倍を有しない緑のカラーフィルターを備えた光センサ46および電子増倍を有しない青のカラーフィルターを備えた光センサ47とがマトリクス状に配置されており、それぞれの光センサは、混在している。なお、電子増倍を有する赤のカラーフィルターを備えた光センサ42、電子増倍を有する緑のカラーフィルターを備えた光センサ43および電子増倍を有する青のカラーフィルターを備えた光センサ44と、電子増倍を有しない赤のカラーフィルターを備えた光センサ45、電子増倍を有しない緑のカラーフィルターを備えた光センサ46および電子増倍を有しない青のカラーフィルターを備えた光センサ47とは、それぞれ、本発明の「光センサ」の一例である。なお、第4実施形態では、電子増倍を有する光センサ42、43および44の数よりも電子増倍を有しない光センサ45、46および47の数を多く配置する。
図11は、本発明の第4実施形態による被写体情報に応じて読み出される光センサを示す図である。次に、図1、図5、図8および図11を用いて、本発明の第4実施形態による固体撮像装置103の動作について説明する。
まず、被写体の輝度情報に応じて読み出す光センサを異ならせる場合、図1に示すように、デジタル信号処理部13内の輝度情報取得部18において、現在撮像が行われようとしているフレーム(画面)よりも1フレーム前を撮像する際に取得された1フレーム分の光センサに入力した信号の平均値を計算して被写体の輝度情報が取得される。ここで、第4実施形態では、固体撮像装置103のユーザーによって設定される閾値に基づいて、輝度が低いときには、電子増倍を有する光センサ42、43および44が読み出される(図11の読み出される光センサ(a)参照)。また、輝度が高いときには、電子増倍をオフ状態にした電子増倍を有する光センサ42、43および44(電子増倍を有しない光センサ45、46および47と同じ感度を有する光センサ)と、電子増倍を有しない光センサ45、46および47とが読み出される(図11の読み出される光センサ(b)参照)。
また、被写体の動体速度情報に応じて読み出す光センサを異ならせる場合、図5に示すように、デジタル信号処理部23内の動体速度情報取得部28において、現在撮像が行われようとしているフレーム(画面)よりも以前の複数のフレーム間を撮像する際に取得された光センサに入力した信号を基に被写体の動体速度情報が取得される。次に、固体撮像装置103のユーザーによって設定される閾値に基づいて、動体速度が速いときには電子増倍を有する光センサ42、43および44が読み出される(図11の読み出される光センサ(a)参照)。また、動体速度が遅いときには、電子増倍をオフ状態にした電子増倍を有する光センサ42、43および44(電子増倍を有しない光センサ45、46および47と同じ感度を有する光センサ)と、電子増倍を有しない光センサ45、46および47とが読み出される(図11の読み出される光センサ(b)参照)。なお、電子増倍を有する光センサ42、43および44は、電子増倍を有しない光センサ45、46および47に比べて感度が高いので、電子増倍を有しない光センサ45、46および47に比べて露光時間を短くすることが可能である。
また、フレームレート情報に応じて読み出す光センサを異ならせる場合、図8に示すように、デジタル信号処理部33内のフレームレート情報取得部38において、被写体の撮像に適したフレームレート情報が取得される。被写体の撮像に高いフレームレートが要求されたときには電子増倍を有する光センサ42、43および44が読み出される(図11の読み出される光センサ(a)参照)。また、被写体の撮像に低いフレームレートが要求されたときには、電子増倍をオフ状態にした電子増倍を有する光センサ42、43および44(電子増倍を有しない光センサ45、46および47と同じ感度を有する光センサ)と、電子増倍を有しない光センサ45、46および47とが読み出される(図11の読み出される光センサ(b)参照)。
第4実施形態では、上記のように、電子増倍を有する光センサ42、43および44と、電子増倍を有しない光センサ45、46および47とを備えることにより、被写体の輝度が低いときは、電子増倍を有する高い感度の光センサ42、43および44の信号を読み出し、被写体の輝度が高いときは、電子増倍をオフ状態にした電子増倍を有する光センサ42、43および44と電子増倍を有しない光センサ45、46および47との両方の信号を読み出すように構成することができる。これにより、被写体の輝度が低いときには、高い感度の画像を得ることができるとともに、被写体の輝度が高いときには、高い解像度の画像を得ることができる。
また、第4実施形態では、上記のように、電子増倍を有する光センサ42、43および44と、電子増倍を有しない光センサ45、46および47とを備えることにより、被写体の動体速度が速いときは、電子増倍を有する光センサ42、43および44の信号を読み出し、被写体の動体速度が遅いときは、電子増倍をオフ状態にした電子増倍を有する光センサ42、43および44と電子増倍を有しない光センサ45、46および47との両方の信号を読み出すように構成することができる。これにより、被写体の動体速度が遅いときには、電子増倍を有する光センサ42、43および44の露光時間が短いことにより動体速度が速い被写体の撮像ができる。また、被写体の動体速度が遅いときには、高い解像度の画像を得ることができる。
また、第4実施形態では、上記のように、電子増倍を有する光センサ42、43および44と、電子増倍を有しない光センサ45、46および47とを備えることにより、高いフレームレートが要求されたときは、電子増倍を有する光センサ42、43および44の信号を読み出し、低いフレームレートが要求されたときは、電子増倍をオフ状態にした電子増倍を有する光センサ42、43および44と電子増倍を有しない光センサ45、46および47との両方の信号を読み出すように構成することができる。これにより、高いフレームレートが要求されたときには、電子増倍を有する光センサ42、43および44の露光時間が短いことと、配置された光センサの数が少なく、読み出し時間の短縮が可能なことにより高いフレームレートの画像を得ることができる。また、低いフレームレートが要求されたときには、高い解像度の画像を得ることができる。
(第5実施形態)
図12は、本発明の第5実施形態による固体撮像素子上に配置された大きさの異なる光センサの配置図である。図1、図5、図8および図12を参照して、この第5実施形態では、上記第4実施形態と異なり、大きさの異なる光センサを含む固体撮像装置104の構成について説明する。
この第5実施形態による固体撮像装置104の構成は、図1、図5および図8に示す第1実施形態、第2実施形態および第3実施形態の構成において、固体撮像素子11、21および31に含まれる高感度光センサ14、24および34、中感度光センサ15、25、および35、および、低感度光センサ16、26および36を、後述する赤、緑、青のいずれかのカラーフィルターを備えた大きさが大きい光センサ52、赤、緑、青のいずれかのカラーフィルターを備えた大きさが中程度の光センサ53、赤のカラーフィルターを備えた大きさが小さい光センサ54、緑のカラーフィルターを備えた大きさが小さい光センサ55および青のカラーフィルターを備えた大きさが小さい光センサ56に置き換えたものとなっている。
また、図12に示すように、固体撮像素子51上には、赤、緑、青のいずれかのカラーフィルターを備えた大きさが大きい光センサ52、赤、緑、青のいずれかのカラーフィルターを備えた大きさが中程度の光センサ53、赤のカラーフィルターを備えた大きさが小さい光センサ54、緑のカラーフィルターを備えた大きさが小さい光センサ55および青のカラーフィルターを備えた大きさが小さい光センサ56がマトリクス状に配置されており、それぞれの光センサは、混在している。なお、赤、緑、青のいずれかのカラーフィルターを備えた大きさが大きい光センサ52、赤、緑、青のいずれかのカラーフィルターを備えた大きさが中程度の光センサ53、赤のカラーフィルターを備えた大きさが小さい光センサ54、緑のカラーフィルターを備えた大きさが小さい光センサ55および青のカラーフィルターを備えた大きさが小さい光センサ56は、それぞれ、本発明の「光センサ」の一例である。また、第5実施形態では、大きさが大きい光センサ52の数よりも大きさが小さい光センサ54、55および56の数を多く配置するとともに、大きさが大きい光センサ52の数と大きさが小さい光センサ54、55および56の数との間の数の大きさが中程度の光センサ53を配置する。
図13は、本発明の第5実施形態による被写体情報に応じて読み出される光センサを示す図である。次に、図1、図5、図8および図13を用いて、本発明の第5実施形態による固体撮像装置104の動作について説明する。
まず、被写体の輝度情報に応じて読み出す光センサを異ならせる場合、図1に示すように、デジタル信号処理部13内の輝度情報取得部18において、現在撮像が行われようとしているフレーム(画面)よりも1フレーム前を撮像する際に取得された1フレーム分の光センサに入力した信号の平均値を計算して被写体の輝度情報が取得される。ここで、第5実施形態では、固体撮像装置104のユーザーによって設定される閾値に基づいて、輝度が低いときには、大きさが大きい光センサ52が読み出される(図13の読み出される光センサ(a)参照)。また、輝度が中程度のときには、大きさが中程度の光センサ53が読み出される(図13の読み出される光センサ(b)参照)。また、輝度が高いときには、大きさが小さい光センサ54、55および56が読み出される(図13の読み出される光センサ(c)参照)。
また、被写体の動体速度情報に応じて読み出す光センサを異ならせる場合、図5に示すように、デジタル信号処理部23内の動体速度情報取得部28において、現在撮像が行われようとしているフレーム(画面)よりも以前の複数のフレーム間を撮像する際に取得された光センサに入力した信号を基に被写体の動体速度情報が取得される。次に、固体撮像装置104のユーザーによって設定される閾値に基づいて、動体速度が速いときには、大きさが大きい光センサ52が読み出される(図13の読み出される光センサ(a)参照)。また、動体速度が中程度のときには、大きさが中程度の光センサ53が読み出される(図13の読み出される光センサ(b)参照)。また、動体速度が遅いときには、大きさが小さい光センサ54、55および56が読み出される(図13の読み出される光センサ(c)参照)。なお、大きさが大きい光センサ52は、大きさが小さい光センサ54、55および56に比べて感度が高いので、大きさが小さい光センサ54、55および56に比べて露光時間を短くすることが可能である。また、大きさが中程度の光センサ53の露光時間は、大きさが大きい光センサ52の露光時間と、大きさが小さい光センサ54、55および56の露光時間との間の長さとなる。
また、フレームレート情報に応じて読み出す光センサを異ならせる場合、図8に示すように、デジタル信号処理部33内のフレームレート情報取得部38において、被写体の撮像に適したフレームレート情報が取得される。被写体の撮像に高いフレームレートが要求されたときには、大きさが大きい光センサ52が読み出される(図13の読み出される光センサ(a)参照)。また、被写体の撮像に中程度のフレームレートが要求されたときには、大きさが中程度の光センサ53が読み出される(図13の読み出される光センサ(b)参照)。また、被写体の撮像に低いフレームレートが要求されたときには、大きさが小さい光センサ54、55および56が読み出される(図13の読み出される光センサ(c)参照)。
第5実施形態では、上記のように、大きさが大きい光センサ52と、大きさが中程度の光センサ53と、大きさが小さい光センサ54、55および56とを備えることにより、被写体の輝度が低いときは大きさが大きい光センサ52の信号を読み出し、被写体の輝度が中程度のときは大きさが中程度の光センサ53の信号を読み出し、被写体の輝度が高いときは大きさが小さい光センサ54、55および56の信号を読み出すように構成することができる。これにより、被写体の輝度が低いときには高い感度の画像を得ることができる。また、被写体の輝度が中程度のときには中程度の感度と中程度の解像度の画像を得ることができる。また、被写体の輝度が高いときには、大きさが小さい光センサ54、55および56の数が大きさが大きい光センサ52および大きさが中程度の光センサ53の数よりも多いことにより高い解像度の画像を得ることができる。
また、第5実施形態では、上記のように、大きさが大きい光センサ52と、大きさが中程度の光センサ53と、大きさが小さい光センサ54、55および56とを備えることにより、被写体の動体速度が速いときは大きさが大きい光センサ52の信号を読み出し、被写体の動体速度が中程度のときは大きさが中程度の光センサ53の信号を読み出し、被写体の動体速度が遅いときは大きさが小さい光センサ54、55および56の信号を読み出すように構成することができる。これにより、被写体の動体速度が速いときは大きさが大きい光センサ52の露光時間が短いことにより、動体速度が速い被写体の撮像ができる。また、被写体の動体速度が中程度のときには動体速度が中程度の被写体の撮像ができるとともに中程度の解像度の画像を得ることができる。また、被写体の動体速度が遅いときには、大きさが小さい光センサ54、55および56の数が大きさが大きい光センサ52および大きさが中程度の光センサ53の数よりも多いことにより高い解像度の画像を得ることができる。
また、第5実施形態では、上記のように、大きさが大きい光センサ52と、大きさが中程度の光センサ53と、大きさが小さい光センサ54、55および56とを備えることにより、高いフレームレートが要求されたときは大きさが大きい光センサ52の信号を読み出し、中程度のフレームレートが要求されたときは大きさが中程度の光センサ53の信号を読み出し、低いフレームレートが要求されたときは大きさが小さい光センサ54、55および56の信号を読み出すように構成することができる。これにより、高いフレームレートが要求されたときは大きさが大きい光センサ52の露光時間が短いことと、配置光センサの数が少なく、読み出し時間の短縮が可能なことにより、高いフレームレートの画像を得ることができる。また、中程度のフレームレートが要求されたときには中程度のフレームレートの画像が得られるとともに中程度の解像度の画像を得ることができる。また、低いフレームレートが要求されたときには、大きさが小さい光センサ54、55および56の数が大きさが大きい光センサ52および大きさが中程度の光センサ53の数よりも多いことにより高い解像度の画像を得ることができる。
(第6実施形態)
図14は、本発明の第6実施形態による固体撮像素子上に配置された、線形的に出力が増幅される出力アンプを有する光センサと、対数関数的に出力が増幅される出力アンプを有する光センサとの配置図である。図1、図5、図8および図14を参照して、この第6実施形態では、上記第1実施形態〜第5実施形態と異なり、線形的に出力が増幅される出力アンプを有する光センサ62、63および64と、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67とを含む固体撮像装置105の構成について説明する。
この第6実施形態による固体撮像装置105の構成は、図1、図5および図8に示す第1実施形態、第2実施形態および第3実施形態の構成において、固体撮像素子11、21および31に含まれる高感度光センサ14、24および34、中感度光センサ15、25、および35、および、低感度光センサ16、26および36を、後述する線形的に出力が増幅される出力アンプを有する赤のカラーフィルターを備えた光センサ62、線形的に出力が増幅される出力アンプを有する緑のカラーフィルターを備えた光センサ63、線形的に出力が増幅される出力アンプを有する青のカラーフィルターを備えた光センサ64、対数関数的に出力が増幅される出力アンプを有する赤のカラーフィルターを備えた光センサ65、対数関数的に出力が増幅される出力アンプを有する緑のカラーフィルターを備えた光センサ66および対数関数的に出力が増幅される出力アンプを有する青のカラーフィルターを備えた光センサ67に置き換えたものとなっている。
また、図14に示すように、固体撮像素子61上には、線形的に出力が増幅される出力アンプを有する赤のカラーフィルターを備えた光センサ62、線形的に出力が増幅される出力アンプを有する緑のカラーフィルターを備えた光センサ63、線形的に出力が増幅される出力アンプを有する青のカラーフィルターを備えた光センサ64、対数関数的に出力が増幅される出力アンプを有する赤のカラーフィルターを備えた光センサ65、対数関数的に出力が増幅される出力アンプを有する緑のカラーフィルターを備えた光センサ66および対数関数的に出力が増幅される出力アンプを有する青のカラーフィルターを備えた光センサ67がマトリクス状に配置されており、それぞれの光センサは、混在している。なお、線形的に出力が増幅される出力アンプを有する赤のカラーフィルターを備えた光センサ62、線形的に出力が増幅される出力アンプを有する緑のカラーフィルターを備えた光センサ63、線形的に出力が増幅される出力アンプを有する青のカラーフィルターを備えた光センサ64、対数関数的に出力が増幅される出力アンプを有する赤のカラーフィルターを備えた光センサ65、対数関数的に出力が増幅される出力アンプを有する緑のカラーフィルターを備えた光センサ66および対数関数的に出力が増幅される出力アンプを有する青のカラーフィルターを備えた光センサ67は、それぞれ、本発明の「光センサ」の一例である。
図15は、本発明の第6実施形態による被写体情報に応じて読み出される光センサを示す図である。また、図16は、本発明の第6実施形態による線形的に出力が増幅される出力アンプの輝度と出力との関係を表す図である。また、図17は、本発明の第6実施形態による対数関数的に出力が増幅される出力アンプの輝度と出力との関係を表す図である。次に、図1、図5、図8、図15、図16および図17を用いて、本発明の第6実施形態による固体撮像装置105の動作について説明する。
まず、被写体の輝度情報に応じて読み出す光センサを異ならせる場合、図1に示すように、デジタル信号処理部13内の輝度情報取得部18において、現在撮像が行われようとしているフレーム(画面)よりも1フレーム前を撮像する際に取得された1フレーム分の光センサに入力した信号の平均値を計算して被写体の輝度情報が取得される。ここで、第6実施形態では、固体撮像装置105のユーザーによって設定される閾値に基づいて、輝度が低いときから中程度のときには、線形的に出力が増幅される出力アンプを有する光センサ62、63および64と、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67との両方が読み出される(図15の読み出される光センサ(a)参照)。なお、図16に示すように、線形的に出力が増幅される出力アンプを有する光センサ62、63および64は、輝度が高くなるに従って出力が線形的に大きくなるように構成されている。また、図17に示すように、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67は、輝度が高くなるに従って出力が対数関数的に大きくなるように構成されており、輝度が高くなるに従って、出力の増幅の割合は、小さくなってゆく。なお、対数関数的に出力が増幅される出力アンプの出力に対しては、デジタル信号処理により、線形的に出力が増幅される出力アンプの出力と同じ信号レベルとなるように変換処理が行われる。また、輝度が高いときには、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67が読み出される(図15の読み出される光センサ(b)参照)。
また、被写体の動体速度情報に応じて読み出す光センサを異ならせる場合、図5に示すように、デジタル信号処理部23内の動体速度情報取得部28において、現在撮像が行われようとしているフレーム(画面)よりも以前の複数のフレーム間を撮像する際に取得された光センサに入力した信号を基に被写体の動体速度情報が取得される。次に、固体撮像装置105のユーザーによって設定される閾値に基づいて、動体速度が遅いときには、線形的に出力が増幅される出力アンプを有する光センサ62、63および64と、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67との両方が読み出される(図15の読み出される光センサ(a)参照)。なお、対数関数的に出力が増幅される出力アンプの出力に対しては、デジタル信号処理により、線形的に出力が増幅される出力アンプの出力と同じ信号レベルとなるように変換処理が行われる。また、動体速度が速いときには、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67が読み出される(図15の読み出される光センサ(b)参照)。
また、フレームレート情報に応じて読み出す光センサを異ならせる場合、図8に示すように、デジタル信号処理部33内のフレームレート情報取得部38において、被写体の撮像に適したフレームレート情報が取得される。被写体の撮像に低いフレームレートが要求されたとときには、線形的に出力が増幅される出力アンプを有する光センサ62、63および64と、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67との両方が読み出される(図15の読み出される光センサ(a)参照)。なお、対数関数的に出力が増幅される出力アンプの出力に対しては、デジタル信号処理により、線形的に出力が増幅される出力アンプの出力と同じ信号レベルとなるように変換処理が行われる。また、被写体の撮像に高いフレームレートが要求されたときには、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67が読み出される(図15の読み出される光センサ(b)参照)。
第6実施形態では、上記のように、線形的に出力が増幅される出力アンプを有する光センサ62、63および64と、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67とを備えることにより、被写体の輝度が低いときは、線形的に出力が増幅される出力アンプを有する光センサ62、63および64と対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67との両方の信号を読出し、被写体の輝度が高いときは、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67を読み出すように構成することができる。これにより、被写体の輝度が低いときには、高い解像度の画像を得ることができるとともに、被写体の輝度が高いときには、輝度が高いことにより出力アンプによって出力が過度に増幅されてしまう現象(白とび)を抑制することができる。
また、第6実施形態では、上記のように、線形的に出力が増幅される出力アンプを有する光センサ62、63および64と、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67とを備えることにより、被写体の動体速度が遅いときは、線形的に出力が増幅される出力アンプを有する光センサ62、63および64と対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67との両方の信号を読み出し、被写体の動体速度が速いときは、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67の信号を読み出すように構成することができる。これにより、被写体の動体速度が遅いときには、高い解像度の画像を得ることができるとともに、被写体の動体速度が速いときには、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67のみ読み出すことにより読み出し時間が短いことによって動体速度が速い被写体の撮像ができる。
また、第6実施形態では、上記のように、線形的に出力が増幅される出力アンプを有する光センサ62、63および64と、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67とを備えることにより、低いフレームレートが要求されたときは、線形的に出力が増幅される出力アンプを有する光センサ62、63および64と対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67との両方の信号を読み出し、高いフレームレートが要求されたときには、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67の信号を読み出すように構成することができる。これにより、低いフレームレートが要求されたときには、高い解像度の画像を得ることができるとともに、高いフレームレートが要求されたときには、対数関数的に出力が増幅される出力アンプを有する光センサ65、66および67のみ読み出すことにより読み出し時間が短いことによって高いフレームレートの撮像ができる。
(第7実施形態)
図18は、本発明の第7実施形態による固体撮像素子上に配置された感度の異なるレンズを備えた光センサとレンズを備えない光センサとの配置図である。図1、図5、図8および図18を参照して、この第7実施形態では、上記第1実施形態〜第6実施形態と異なり、感度の異なるレンズを備えた光センサとレンズを備えない光センサとを含む固体撮像装置106の構成について説明する。
この第7実施形態による固体撮像装置106の構成は、図1、図5および図8に示す第1実施形態、第2実施形態および第3実施形態の構成において、固体撮像素子11、21および31に含まれる高感度光センサ14、24および34、中感度光センサ15、25、および35、および、低感度光センサ16、26および36を、後述する高感度のレンズを備えた光センサ72と、低感度のレンズを備えた光センサ73と、レンズを備えない光センサ74とに置き換えたものとなっている。
また、図18に示すように、固体撮像素子71上には、高感度のレンズを備えた光センサ72、低感度のレンズを備えた光センサ73およびレンズを備えない光センサ74がマトリクス状に配置されており、それぞれの光センサは、混在している。なお、高感度のレンズを備えた光センサ72、低感度のレンズを備えた光センサ73およびレンズを備えない光センサ74は、それぞれ、本発明の「光センサ」の一例である。また、第7実施形態では、高感度のレンズを備えた光センサ72の数よりもレンズを備えない光センサ74の数を多く配置するとともに、高感度のレンズを備えた光センサ72の数とレンズを備えない光センサ74の数との間の数の低感度のレンズを備えた光センサ73を配置する。
図19は、本発明の第7実施形態による被写体情報に応じて読み出される光センサを示す図である。次に、図1、図5、図8および図19を用いて、本発明の第7実施形態による固体撮像装置106の動作について説明する。
まず、被写体の輝度情報に応じて読み出す光センサを異ならせる場合、図1に示すように、デジタル信号処理部13内の輝度情報取得部18において、現在撮像が行われようとしているフレーム(画面)よりも1フレーム前を撮像する際に取得された1フレーム分の光センサに入力した信号の平均値を計算して被写体の輝度情報が取得される。ここで、第7実施形態では、固体撮像装置106のユーザーによって設定される閾値に基づいて、輝度が低いときには、高感度のレンズを備えた光センサ72が読み出される(図19の読み出される光センサ(a)参照)。また、輝度が中程度のときには、低感度のレンズを備えた光センサ73が読み出される(図19の読み出される光センサ(b)参照)。また、輝度が高いときには、レンズを備えない光センサ74が読み出される(図19の読み出される光センサ(c)参照)。
また、被写体の動体速度情報に応じて読み出す光センサを異ならせる場合、図5に示すように、デジタル信号処理部23内の動体速度情報取得部28において、現在撮像が行われようとしているフレーム(画面)よりも以前の複数のフレーム間を撮像する際に取得された光センサに入力した信号を基に被写体の動体速度情報が取得される。次に、固体撮像装置106のユーザーによって設定される閾値に基づいて、動体速度が速いときには、高感度のレンズを備えた光センサ72が読み出される(図19の読み出される光センサ(a)参照)。また、動体速度が中程度のときには、低感度のレンズを備えた光センサ73が読み出される(図19の読み出される光センサ(b)参照)。また、動体速度が遅いときには、レンズを備えない光センサ74が読み出される(図19の読み出される光センサ(c)参照)。なお、高感度のレンズを備えた光センサ72は、レンズを備えない光センサ74に比べて感度が高いので、レンズを備えない光センサ74に比べて露光時間を短くすることが可能である。また、低感度のレンズを備えた光センサ73の露光時間は、高感度のレンズを備えた光センサ72の露光時間と、レンズを備えない光センサ74の露光時間との間の長さとなる。
また、フレームレート情報に応じて読み出す光センサを異ならせる場合、図8に示すように、デジタル信号処理部33内のフレームレート情報取得部38において、被写体の撮像に適したフレームレート情報が取得される。被写体の撮像に高いフレームレートが要求されたときには、高感度のレンズを備えた光センサ72が読み出される(図19の読み出される光センサ(a)参照)。また、中程度のフレームレートが要求されたときには、低感度のレンズを備えた光センサ73が読み出される(図19の読み出される光センサ(b)参照)。また、被写体の撮像に低いフレームレートが要求されたときには、レンズを備えない光センサ74が読み出される(図19の読み出される光センサ(c)参照)。
第7実施形態では、上記のように、高感度のレンズを備えた光センサ72と、低感度のレンズを備えた光センサ73と、レンズを備えない光センサ74とを備えることにより、被写体の輝度が低いときは高感度のレンズ72を備えた光センサの信号を読み出し、被写体の輝度が中程度のときは低感度のレンズを備えた光センサ73の信号を読み出し、被写体の輝度が高いときはレンズを備えない光センサ74を読み出すように構成することができる。これにより、被写体の輝度が低いときには高い感度の画像を得ることができ、被写体の輝度が中程度のときには中程度の感度と中程度の解像度の画像を得ることができ、被写体の輝度が高いときには高い解像度の画像を得ることができる。
また、第7実施形態では、上記のように、高感度のレンズを備えた光センサ72と、低感度のレンズを備えた光センサ73と、レンズを備えない光センサ74とを備えることにより、被写体の動体速度が速いときは高感度のレンズを備えた光センサ72の信号を読み出し、被写体の動体速度が中程度のときは低感度のレンズを備えた光センサ73の信号を読み出し、被写体の動体速度が遅いときはレンズを備えない光センサ74の信号を読み出すように構成することができる。これにより、被写体の動体速度が速いときは高感度のレンズを備えた光センサ72の露光時間が短いことにより、動体速度が速い被写体の撮像ができる。また、被写体の動体速度が中程度のときには動体速度が中程度の被写体の撮像ができるとともに中程度の解像度の画像を得ることができる。また、被写体の動体速度が遅いときには、レンズを備えない光センサ74の数が高感度のレンズを備えた光センサ72および低感度のレンズを備えた光センサ73の数よりも多いことにより高い解像度の画像を得ることができる。
また、第7実施形態では、上記のように、高感度のレンズを備えた光センサ72と、低感度のレンズを備えた光センサ73と、レンズを備えない光センサ74とを備えることにより、高いフレームレートが要求されたときは高感度のレンズを備えた光センサ72の信号を読み出し、中程度のフレームレートが要求されたときは低感度のレンズを備えた光センサ73の信号を読み出し、低いフレームレートが要求されたときはレンズを備えない光センサ74の信号を読み出すように構成することができる。これにより、高いフレームレートが要求されたときは高感度のレンズを備えた光センサ72の露光時間が短いことと、配置された光センサの数が少なく、読み出し時間の短縮が可能なことにより、高いフレームレートの画像を得ることができる。また、中程度のフレームレートが要求されたときには中程度のフレームレートの画像が得られるとともに中程度の解像度の画像を得ることができる。また、低いフレームレートが要求されたときには、レンズを備えない光センサ74の数が高感度のレンズを備えた光センサ72および低感度のレンズを備えた光センサ73の数よりも多いことにより高い解像度の画像を得ることができる。
(第8実施形態)
図20は、本発明の第8実施形態による固体撮像素子上の1フレーム内の輝度の分布を表す図である。図1、図2および図20を参照して、この第8実施形態では、上記第1実施形態〜第7実施形態と異なり、各光センサ単位で輝度情報を取得する固体撮像装置107の構成について説明する。
この第8実施形態による固体撮像装置107の構成および感度特性の異なる光センサ14、15および16の配置は、図1および図2に示す第1実施形態の構成と同様である。
図21は、本発明の第8実施形態による感度特性の異なる光センサの読み出しの選択を表す図である。次に、図1、図20および図21を用いて、本発明の第8実施形態による固体撮像装置107の動作について説明する。
図1に示すように、デジタル信号処理部13内の輝度情報取得部18において、現在撮像が行われようとしているフレーム(画面)よりも1フレーム前を撮像する際に取得された個々の光センサに入力した信号に基づいて被写体の輝度情報が取得される。ここで、第8実施形態では、固体撮像装置107のユーザーによって設定される閾値に基づいて、固体撮像素子81上の輝度が低い領域82(図20参照)では高感度光センサ14が読み出され(図21参照)、輝度が中程度の領域83(図20参照)では中感度光センサ15が読み出され(図21参照)、輝度が高い領域84(図20参照)では低感度光センサ16が読み出される(図20参照)。なお、カラー処理に必要な十分な所定の感度特性を有する光センサがない領域では、周りに存在する、所定の感度特性を有する光センサとは異なる感度特性を有する光センサに入力される信号量から推測することにより、画像を得ることが可能となる。
第8実施形態では、上記のように、被写体情報は、各光センサ14、15および16ごとに取得され、被写体情報に応じて所定の感度特性の光センサの信号を読み出すように構成することによって、固体撮像素子81上の領域ごとに最適な所定の感度特性の光センサ14、15および16の信号を読み出すことができるので、1つの感度特性の光センサだけの信号を読み出すように構成する場合に比べて、より質のよい画像を得ることができる。たとえば、輝度に関する被写体情報により、固体撮像素子11上に設定された領域毎に最適な感度特性の光センサ14、15および16の信号を読み出すことにより、1画面内で複数の感度特性の光センサの信号を読み出すので、固体撮像装置107のダイナミックレンジを広くすることができる。また、被写体情報を動体速度やフレームレート情報として、最適な信号を読み出すことにより、1画面の内で複数の異なる光センサの信号を読み出すので、たとえば、高いフレームレートと低いフレームレートとが混在する画像や、長い露光時間による画像と短い露光時間による画像とが混在する画像などの、1画面の内の領域毎の被写体情報に応じた質のよい画像を得ることができる。
なお、今回開示された実施形態は、すべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した実施形態の説明ではなく特許請求の範囲によって示され、さらに特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれる。
たとえば、上記第1実施形態〜第8実施形態では、被写体情報の取得をデジタル信号処理部によって行う例を示したが、本発明はこれに限らず、被写体情報の取得をアナログ信号処理部によって行ってもよい。
また、上記第1実施形態〜第3実施形態、第7実施形態および第8実施形態では、高感度光センサ、中感度光センサおよび低感度光センサにカラーフィルターを装着しない例を示したが、本発明はこれに限らず、高感度光センサ、中感度光センサおよび低感度光センサに原色カラーフィルターや補色カラーフィルターを装着してもよい。
また、上記第1実施形態〜第7実施形態では、複数の感度特性を有する光センサの内の1つの感度特性の光センサの信号を読み出す例を示したが、本発明はこれに限らず、2つ以上の感度特性の光センサの信号を読み出してもよい。
また、上記第1実施形態〜第8実施形態では、複数の感度特性を有する光センサは、固体撮像装置に対して水平方向と垂直方向とにマトリクス状に配置された例を示したが、本発明はこれに限らず、図22に示す変形例のように、固体撮像装置に対して約45°回転させて配置し、水平方向と垂直方向との解像度を向上させた配列にしてもよい。
本発明の第1実施形態による固体撮像装置の構成の概略図である。 本発明の第1実施形態による固体撮像素子上に配置された感度特性の異なる光センサの配置図である。 本発明の第1実施形態による感度特性の異なる光センサの読み出しの選択を表す図である。 本発明の第1実施形態による輝度に応じて読み出される光センサを示す図である。 本発明の第2実施形態による固体撮像装置の構成の概略図である。 本発明の第2実施形態による感度特性の異なる光センサの読み出しの選択を表す図である。 本発明の第2実施形態による被写体の動体速度に応じて読み出される光センサを示す図である。 本発明の第3実施形態による固体撮像装置の構成の概略図である。 本発明の第3実施形態によるフレームレートに応じて読み出される光センサを示す図である。 本発明の第4実施形態による固体撮像素子上に配置された電子増倍を有する光センサと電子増倍を有しない光センサの配置図である。 本発明の第4実施形態による被写体情報に応じて読み出される光センサを示す図である。 本発明の第5実施形態による固体撮像素子上に配置された大きさの異なる光センサの配置図である。 本発明の第5実施形態による被写体情報に応じて読み出される光センサを示す図である。 本発明の第6実施形態による固体撮像素子上に配置された、線形的に出力が増幅される出力アンプを有する光センサと、対数関数的に出力が増幅される出力アンプを有する光センサとの配置図である。 本発明の第6実施形態による被写体情報に応じて読み出される光センサを示す図である。 本発明の第6実施形態による線形的に出力が増幅される出力アンプの輝度と出力との関係を表す図である。 本発明の第6実施形態による対数関数的に出力が増幅される出力アンプの輝度と出力との関係を表す図である。 本発明の第7実施形態による固体撮像素子上に配置された感度の異なるレンズを備えた光センサとレンズを備えない光センサとの配置図である。 本発明の第7実施形態による被写体情報に応じて読み出される光センサを示す図である。 本発明の第8実施形態による固体撮像素子上の1フレーム内の輝度の分布を表す図である。 本発明の第8実施形態による感度特性の異なる光センサの読み出しの選択を表す図である。 本発明の第1実施形態〜第8実施形態の変形例による光センサの配置図である。
符号の説明
11、21、31、41、51、61、71、81 固体撮像素子
14、24、34 高感度光センサ(第2光センサ)
15、25、35 中感度光センサ(第3光センサ)
16、26、36 低感度光センサ(第1光センサ)
42 光センサ(電子増倍を有する赤のカラーフィルターを備えた光センサ)
43 光センサ(電子増倍を有する緑のカラーフィルターを備えた光センサ)
44 光センサ(電子増倍を有する青のカラーフィルターを備えた光センサ)
45 光センサ(電子増倍を有しない赤のカラーフィルターを備えた光センサ)
46 光センサ(電子増倍を有しない緑のカラーフィルターを備えた光センサ)
47 光センサ(電子増倍を有しない青のカラーフィルターを備えた光センサ)
52 光センサ(赤、緑、青のいずれかのカラーフィルターを備えた大きさが大きい光センサ)
53 光センサ(赤、緑、青のいずれかのカラーフィルターを備えた大きさが中程度の光センサ)
54 光センサ(赤のカラーフィルターを備えた大きさが小さい光センサ)
55 光センサ(緑のカラーフィルターを備えた大きさが小さい光センサ)
56 光センサ(青のカラーフィルターを備えた大きさが小さい光センサ)
62 光センサ(線形的に出力が増幅される出力アンプを有する赤のカラーフィルターを備えた光センサ)
63 光センサ(線形的に出力が増幅される出力アンプを有する緑のカラーフィルターを備えた光センサ)
64 光センサ(線形的に出力が増幅される出力アンプを有する青のカラーフィルターを備えた光センサ)
65 光センサ(対数関数的に出力が増幅される出力アンプを有する赤のカラーフィルターを備えた光センサ)
66 光センサ(対数関数的に出力が増幅される出力アンプを有する緑のカラーフィルターを備えた光センサ)
67 光センサ(対数関数的に出力が増幅される出力アンプを有する青のカラーフィルターを備えた光センサ)
72 光センサ(高感度のレンズを備えた光センサ)
73 光センサ(低感度のレンズを備えた光センサ)
74 光センサ(レンズを備えない光センサ)

Claims (6)

  1. 感度特性の異なる複数の光センサを備え、
    被写体情報に応じて、所定の感度特性の前記光センサの信号を読み出すように構成されている、固体撮像装置。
  2. 前記被写体情報は、被写体の輝度、被写体の動体速度および被写体の撮像に適した単位時間当りに更新される画面数のうち少なくとも1つである、請求項1に記載の固体撮像装置。
  3. 前記感度特性の異なる光センサは、前記光センサの電子増倍の有無、前記光センサの大きさ、前記光センサの出力信号を増幅する出力アンプの特性および前記光センサに含まれるレンズの種類の少なくともいずれかを異ならせることによって感度特性が異なる、請求項1に記載の固体撮像装置。
  4. 前記感度特性の異なる光センサの数が、それぞれ異なる比率になるように構成され、前記被写体情報に応じて比率の異なる所定の感度特性の前記光センサの信号を読み出す、請求項1〜3のいずれか1項に記載の固体撮像装置。
  5. 前記感度特性の異なる光センサからなる固体撮像素子は、前記被写体情報により、前記固体撮像素子上に設定された領域毎に所定の感度特性の前記光センサを読み出すように構成されている、請求項1〜4のいずれか1項に記載の固体撮像装置。
  6. 前記複数の光センサは、
    第1の感度を有する第1光センサと、
    前記第1の感度よりも大きい第2の感度を有する第2光センサと、
    前記第1の感度と、前記第2の感度との間の大きさの第3の感度を有する第3光センサとを含み、
    前記被写体情報に応じて、前記第1光センサ、前記第2光センサおよび前記第3光センサのうちの少なくとも1つの信号が読み出されるように構成されている、請求項1〜5のいずれか1項に記載の固体撮像装置。
JP2007022324A 2007-01-31 2007-01-31 固体撮像装置 Pending JP2008193163A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007022324A JP2008193163A (ja) 2007-01-31 2007-01-31 固体撮像装置
US12/023,567 US20080179490A1 (en) 2007-01-31 2008-01-31 Solid-state image pickup device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007022324A JP2008193163A (ja) 2007-01-31 2007-01-31 固体撮像装置

Publications (1)

Publication Number Publication Date
JP2008193163A true JP2008193163A (ja) 2008-08-21

Family

ID=39666877

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007022324A Pending JP2008193163A (ja) 2007-01-31 2007-01-31 固体撮像装置

Country Status (2)

Country Link
US (1) US20080179490A1 (ja)
JP (1) JP2008193163A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012513694A (ja) * 2008-12-22 2012-06-14 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 単光子計数機能を備えるcmos撮像装置
JP2012205305A (ja) * 2011-03-23 2012-10-22 E2V Semiconductors 非常に大きなダイナミックレンジを有する画像センサー
JP2013530582A (ja) * 2010-04-26 2013-07-25 トリクセル エス.アー.エス. 利得範囲選択を備えた電磁放射線検出器
JP2020028115A (ja) * 2018-08-08 2020-02-20 キヤノン株式会社 撮像装置

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2973160B1 (fr) * 2011-03-23 2013-03-29 E2V Semiconductors Capteur d'image a multiplication d'electrons
GB2497571A (en) * 2011-12-15 2013-06-19 St Microelectronics Res & Dev An imaging array with high dynamic range
US9568606B2 (en) * 2012-03-29 2017-02-14 Canon Kabushiki Kaisha Imaging apparatus for distance detection using high and low sensitivity sensors with inverted positional relations
US8724003B2 (en) * 2012-08-14 2014-05-13 Truesense Imaging, Inc. Multimode interline CCD imaging methods
US10366506B2 (en) * 2014-11-07 2019-07-30 Lamina Systems, Inc. Hyperacuity system and methods for real time and analog detection and kinematic state tracking
US9979905B2 (en) * 2015-11-17 2018-05-22 Microsoft Technology Licensing, Llc. Multimode photosensor
US9892487B1 (en) * 2016-11-28 2018-02-13 Sony Corporation Method and apparatus for combining pixel values in array including linear pixels and logarithmic pixels
US11671714B1 (en) 2022-01-24 2023-06-06 Qualcomm Incorporated Motion based exposure control

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003318375A (ja) * 2002-04-23 2003-11-07 Fuji Film Microdevices Co Ltd 固体撮像素子
JP2004015690A (ja) * 2002-06-11 2004-01-15 Fuji Photo Film Co Ltd 固体撮像装置の駆動方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3832902B2 (ja) * 1996-08-30 2006-10-11 本田技研工業株式会社 半導体イメージセンサ
US6714243B1 (en) * 1999-03-22 2004-03-30 Biomorphic Vlsi, Inc. Color filter pattern
JP4189820B2 (ja) * 2004-05-10 2008-12-03 富士フイルム株式会社 撮像装置及び画像記録方法
JP4738907B2 (ja) * 2004-11-19 2011-08-03 富士フイルム株式会社 固体撮像素子および固体撮像装置
US7616231B2 (en) * 2005-01-06 2009-11-10 Goodrich Corporation CMOS active pixel sensor with improved dynamic range and method of operation for object motion detection
JP4759293B2 (ja) * 2005-03-15 2011-08-31 キヤノン株式会社 撮像素子

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003318375A (ja) * 2002-04-23 2003-11-07 Fuji Film Microdevices Co Ltd 固体撮像素子
JP2004015690A (ja) * 2002-06-11 2004-01-15 Fuji Photo Film Co Ltd 固体撮像装置の駆動方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012513694A (ja) * 2008-12-22 2012-06-14 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 単光子計数機能を備えるcmos撮像装置
JP2013530582A (ja) * 2010-04-26 2013-07-25 トリクセル エス.アー.エス. 利得範囲選択を備えた電磁放射線検出器
US9476992B2 (en) 2010-04-26 2016-10-25 Trixell Electromagnetic radiation detector with gain range selection
JP2012205305A (ja) * 2011-03-23 2012-10-22 E2V Semiconductors 非常に大きなダイナミックレンジを有する画像センサー
JP2020028115A (ja) * 2018-08-08 2020-02-20 キヤノン株式会社 撮像装置
JP7293002B2 (ja) 2018-08-08 2023-06-19 キヤノン株式会社 撮像装置

Also Published As

Publication number Publication date
US20080179490A1 (en) 2008-07-31

Similar Documents

Publication Publication Date Title
JP2008193163A (ja) 固体撮像装置
JP5026951B2 (ja) 撮像素子の駆動装置、撮像素子の駆動方法、撮像装置、及び撮像素子
JP4448888B2 (ja) 撮像装置及び撮像装置の信号処理方法
US20070076269A1 (en) Imaging unit and image sensor
KR102241072B1 (ko) 고체 촬상 소자 및 전자 기기
US20130278802A1 (en) Exposure timing manipulation in a multi-lens camera
TW200903792A (en) Image sensor
WO2017101546A1 (zh) 图像传感器、成像装置、移动终端及成像方法
US8497925B2 (en) Solid-state imaging device, color filter arrangement method therefor and image recording apparatus
JP2006238410A (ja) 撮像装置
JP2009303043A (ja) 固体撮像装置及びその信号処理方法
JP6070301B2 (ja) 固体撮像素子及びこれを用いた撮像装置
JP2006157600A (ja) デジタルカメラ
JP2016192605A (ja) 電子機器、記録媒体およびプログラム
US8223255B2 (en) Imaging apparatus, auto-focusing method and recording medium
JP6613554B2 (ja) 画像処理装置およびプログラム
JP2013048383A (ja) 撮像素子及び撮像装置
WO2017101562A1 (zh) 图像传感器及具有其的终端、成像方法
JP5329348B2 (ja) 固体撮像素子及びこれを用いた撮像装置
JP2014165778A (ja) 固体撮像素子、撮像装置及び焦点検出装置
JP2005109993A (ja) 撮影装置
JP2015027045A (ja) 固体撮像素子及びその駆動方法、並びに電子機器
WO2015008635A1 (ja) 固体撮像素子及びその駆動方法、並びに電子機器
JP2009118430A (ja) 撮像装置、該撮像装置の駆動方法、画像生成装置及び画像生成方法
JP2020123762A (ja) 撮像素子および撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091204

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20110603

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110909

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120221

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120710