JP4847281B2 - Imaging apparatus, control method therefor, and imaging system - Google Patents

Imaging apparatus, control method therefor, and imaging system Download PDF

Info

Publication number
JP4847281B2
JP4847281B2 JP2006299383A JP2006299383A JP4847281B2 JP 4847281 B2 JP4847281 B2 JP 4847281B2 JP 2006299383 A JP2006299383 A JP 2006299383A JP 2006299383 A JP2006299383 A JP 2006299383A JP 4847281 B2 JP4847281 B2 JP 4847281B2
Authority
JP
Japan
Prior art keywords
signal
image
captured image
pixel
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006299383A
Other languages
Japanese (ja)
Other versions
JP2008118386A (en
JP2008118386A5 (en
Inventor
聡史 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2006299383A priority Critical patent/JP4847281B2/en
Publication of JP2008118386A publication Critical patent/JP2008118386A/en
Publication of JP2008118386A5 publication Critical patent/JP2008118386A5/ja
Application granted granted Critical
Publication of JP4847281B2 publication Critical patent/JP4847281B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、光電変換部を有する撮像装置及びその制御方法並びに撮像システムに関する。   The present invention relates to an imaging apparatus having a photoelectric conversion unit, a control method thereof, and an imaging system.

従来から、電子カメラ等の撮像装置には固体撮像素子が用いられている。このような固体撮像素子としては、CMOSイメージセンサ等のように各画素に増幅素子が組み込まれたものがある。このように各画素に増幅素子が組み込まれた固体撮像素子では、増幅素子の特性バラツキにより、固定パターンノイズが発生するという問題があった。これに対し、光が入った状態で撮像した信号(S信号)と光が入らない状態で撮像した信号(N信号)との差分を取ることにより、固定パターンノイズを除去する手法が用いられている。しかしながら、このような手法では、信号飽和レベルを超える高輝度光が入射された場合、出力信号が飽和レベルから低下し、撮像画像の高輝度被写体の部分が黒く沈んで見える現象(以下「高輝度黒沈み現象」という)が発生するという問題があった。   Conventionally, a solid-state image sensor has been used in an imaging apparatus such as an electronic camera. As such a solid-state imaging device, there is one in which an amplifying device is incorporated in each pixel, such as a CMOS image sensor. As described above, in the solid-state imaging device in which the amplifying element is incorporated in each pixel, there is a problem that fixed pattern noise is generated due to variation in characteristics of the amplifying element. On the other hand, a method of removing fixed pattern noise by taking a difference between a signal (S signal) imaged in a state where light enters and a signal (N signal) imaged in a state where light does not enter is used. Yes. However, with such a technique, when high-intensity light exceeding the signal saturation level is incident, the output signal falls from the saturation level, and the high-intensity subject portion of the captured image appears to sink black (hereinafter referred to as “high-intensity”). There is a problem that the “black sun phenomenon” occurs.

このような問題点を解決するために、N信号を設定値にクリップする技術がある(特許文献1を参照)。   In order to solve such a problem, there is a technique of clipping the N signal to a set value (see Patent Document 1).

特許文献1は、リセット後に共通の信号線に出力された電圧が急激に下降したときに、所定の電圧をリセット時の電圧として用いる技術を開示している。
特開2000−287131号公報
Patent Document 1 discloses a technique of using a predetermined voltage as a reset voltage when the voltage output to the common signal line after the reset suddenly drops.
JP 2000-287131 A

しかしながら、特許文献1の発明では、共通の信号線に出力される電圧のレベルを検出する手段や所定の電圧をリセット時の電圧として用いるための手段を撮像装置に追加しなければならず、回路規模が増大するという問題があった。また、N信号にクリップレベル以上の大きなノイズ信号があると、そのノイズ信号も所定レベルにクリップされ、ノイズ信号を除去し切れなくなるという問題があった。   However, in the invention of Patent Document 1, means for detecting the level of the voltage output to the common signal line and means for using a predetermined voltage as the voltage at the time of reset must be added to the imaging device. There was a problem that the scale increased. Further, if the N signal has a large noise signal that is equal to or higher than the clip level, the noise signal is also clipped to a predetermined level, and the noise signal cannot be completely removed.

本発明は、上記の問題点に鑑みてなされたものであり、回路規模を増大することなく、効果的にノイズ信号を除去し、高輝度黒沈み現象の発生を抑えることを目的とする。   The present invention has been made in view of the above problems, and an object of the present invention is to effectively remove a noise signal and suppress the occurrence of a high-intensity black sun phenomenon without increasing the circuit scale.

本発明の第1の側面は、光電変換部を有する画素部を有し、前記画素部により生成された光信号と、ノイズ信号の差分に基づいて撮像画像を生成する撮像装置に係り、第1の撮影において前記画素部に蓄積された光信号の読み出しに先立って、第1の蓄積時間蓄したノイズ信号を読み出し、該ノイズ信号の読み出し後に読み出された光信号から前記ノイズ信号を差分することにより第1の撮像画像を生成する第1の撮像画像生成手段と、前記第1の撮影後の第2の撮影において前記画素部に蓄積された光信号の読み出しに先立って、前記第1の蓄積時間よりも長い第2の蓄積時間蓄したノイズ信号を読み出し、該ノイズ信号の読み出し後に読み出された光信号から前記ノイズ信号を差分することにより第2の撮像画像を生成する第2の撮像画像生成手段と、前記第1の撮像画像と第2の撮像画像との差分画像を生成する差分画像生成手段と、前記差分画像から、該差分画像を構成する画素の画素信号が予め設定された閾値以上の出力値を有する画素により閉じられた領域を抽出する画像領域抽出手段と、前記第1の撮像画像及び前記第2の撮像画像のいずれか一方において、前記画像領域抽出手段により抽出された領域に対応する領域内の画素信号を、前記画素部の飽和レベルに相当する画素信号に置き換える画像補正手段と、を備えることを特徴とする。 The first aspect of the present invention has a pixel portion having a photoelectric conversion unit, relates an optical signal generated by the pixel unit, an imaging apparatus for generating a captured image based on a difference component of a noise signal, prior to reading the first stored optical signals to the pixel unit in the imaging, it reads the first accumulation time Ma蓄 product with noise signals, the noise signal from the optical signal read out after readout of the noise signal Prior to reading the optical signal accumulated in the pixel unit in the second imaging after the first imaging, the first captured image generation means for generating a first captured image by subtracting reading a long second accumulation time Ma蓄 product was noise signal than the first accumulation time, generates a second captured image by difference the noise signal from the optical signal read out after readout of the noise signal Second to An image the image generation means, a difference image generating means for generating a difference image between the first captured image and the second captured image, from the differential image, the pixel signals of the pixels constituting the said difference image is set in advance and an image region extracting means for extracting a region which is closed by the pixel having a threshold or more output values, in either one of the first captured image and the second picked-up image, extracted by the previous SL image region extracting means Image correction means for replacing a pixel signal in an area corresponding to the set area with a pixel signal corresponding to a saturation level of the pixel portion .

本発明の第2の側面は、撮像システムに係り、光学系と、上記の撮像装置と、を備える。   A second aspect of the present invention relates to an imaging system, and includes an optical system and the imaging device described above.

本発明の第3の側面は、光電変換部を有する画素を有し、前記画素部により生成された光信号ノイズ信号の差分に基づいて撮像画像を生成する撮像装置の制御方法に係り、第1の撮影において前記画素部に蓄積された光信号の読み出しに先立って、第1の蓄積時間で蓄積したノイズ信号を読み出し、該ノイズ信号の読み出し後に読み出された光信号から前記ノイズ信号を差分することにより第1の撮像画像を生成する工程と前記第1の撮影後の第2の撮影において前記画素部に蓄積された光信号の読み出しに先立って、前記第1の蓄積時間よりも長い第2の蓄積時間で蓄積したノイズ信号を読み出し、該ノイズ信号の読み出し後に読み出された光信号から前記ノイズ信号を差分することにより第2の撮像画像を生成する工程と、前記第1の撮像画像と第2の撮像画像との差分画像を生成する工程と、前記差分画像から、該差分画像を構成する画素の画素信号が予め設定された閾値以上の出力値を有する画素により閉じられた領域を抽出する工程と、前記第1の撮像画像及び前記第2の撮像画像のいずれか一方において、抽出された前記領域に対応する領域内の画素信号を、前記画素部の飽和レベルに相当する画素信号に置き換える工程と、を含むことを特徴とする。 A third aspect of the present invention includes a pixel having a photoelectric conversion unit, relates to a control method for an imaging apparatus for generating a captured image based on the difference amount between the optical signal and the noise signal generated by the pixel unit The noise signal accumulated in the first accumulation time is read before reading the optical signal accumulated in the pixel unit in the first imaging , and the noise signal is read from the optical signal read after the noise signal is read. generating a first captured image by subtracting the, prior to the reading of the stored optical signals to the pixel unit in the second imaging after the first imaging, than the first accumulation time reading a noise signal was also accumulated in the long second accumulation time, and generating a second captured image by difference the noise signal from the optical signal read out after readout of the noise signal, the second Generating a difference image between the captured image and the second captured image, from the difference image, the pixel signals of the pixels constituting the said difference image is closed by the pixel having a preset threshold value or more output values a step of extracting a region, in one of the first captured image and the second captured image, a pixel signal in the region corresponding to the region issued extracted, the saturation level of the pixel portion And a step of replacing it with a corresponding pixel signal .

本発明によれば、回路規模を増大することなく、効果的にノイズ信号を除去し、高輝度黒沈み現象の発生を抑えることができる。   According to the present invention, it is possible to effectively remove a noise signal and suppress the occurrence of a high-luminance black sun phenomenon without increasing the circuit scale.

以下、本発明の好適な実施の形態に係る撮像装置について、添付図面を参照して詳細に説明する。なお、以下に説明する実施の形態は、本発明の実現手段としての一例であり、本発明が適用される装置の構成や各種条件によって、適宜修正又は変更されるべきである。従って、本発明は、以下の実施の形態に限定されない。   Hereinafter, an imaging device according to a preferred embodiment of the present invention will be described in detail with reference to the accompanying drawings. The embodiment described below is an example as means for realizing the present invention, and should be appropriately modified or changed according to the configuration of the apparatus to which the present invention is applied and various conditions. Therefore, the present invention is not limited to the following embodiment.

図1は、本発明の好適な実施の形態に係る撮像部の回路図を示す。   FIG. 1 is a circuit diagram of an imaging unit according to a preferred embodiment of the present invention.

本発明の好適な実施の形態に係る撮像部には、複数の単位画素1が2次元に配列されている。各単位画素1は、フォトダイオード2、転送スイッチ3、リセットスイッチ4、行選択スイッチ5、画素アンプ6、浮遊拡散層FD7により構成されている。フォトダイオード2は、光を信号電荷に変換して蓄積する光電変換部である。転送スイッチ3は、フォトダイオード2の光電変換によって生成された信号電荷をパルスPTXに応じて転送する。浮遊拡散層FD7は、転送スイッチ3によって転送された信号電荷を蓄積する。リセットスイッチ4は、画素アンプ6のゲートに接続された浮遊拡散層FD7をリセットパルスPRESに応じてSVDDの電圧レベルにリセットする。画素アンプ6は、ソースフォロワとして機能し、浮遊拡散層FD7に蓄積された信号電荷を増幅する。行選択スイッチ5は、不図示の垂直走査回路により選択された行画素を選択パルスPSELに応じて選択する。   In the imaging unit according to the preferred embodiment of the present invention, a plurality of unit pixels 1 are two-dimensionally arranged. Each unit pixel 1 includes a photodiode 2, a transfer switch 3, a reset switch 4, a row selection switch 5, a pixel amplifier 6, and a floating diffusion layer FD7. The photodiode 2 is a photoelectric conversion unit that converts light into signal charges and accumulates them. The transfer switch 3 transfers the signal charge generated by the photoelectric conversion of the photodiode 2 according to the pulse PTX. The floating diffusion layer FD7 accumulates the signal charge transferred by the transfer switch 3. The reset switch 4 resets the floating diffusion layer FD7 connected to the gate of the pixel amplifier 6 to the voltage level of SVDD according to the reset pulse PRES. The pixel amplifier 6 functions as a source follower and amplifies the signal charge accumulated in the floating diffusion layer FD7. The row selection switch 5 selects a row pixel selected by a vertical scanning circuit (not shown) according to a selection pulse PSEL.

行選択スイッチ5によって選択された行画素の信号は、画素アンプ6を介して負荷電流源21に接続された垂直出力線22に出力される。垂直出力線22に出力される信号のうち、光信号(S信号)は、信号出力パルスPTSに応じてONされた転送ゲート25を介して蓄積容量CTS27に蓄積される。また、ノイズ信号(N信号)は、ノイズ出力パルスPTNによりONされたMOSトランジスタ24を介して蓄積容量CTN26に蓄積される。次いで、不図示の水平走査回路からの制御信号PHS及びPHNにより、転送スイッチ28、29を介して、ノイズ信号が容量CHN30に蓄積され、光信号が容量CHS31に蓄積される。次いで、差動増幅器32によって、両者の差分に基づいて撮像画像が出力される。   The signal of the row pixel selected by the row selection switch 5 is output to the vertical output line 22 connected to the load current source 21 via the pixel amplifier 6. Of the signals output to the vertical output line 22, the optical signal (S signal) is stored in the storage capacitor CTS 27 via the transfer gate 25 which is turned on in response to the signal output pulse PTS. Further, the noise signal (N signal) is stored in the storage capacitor CTN26 via the MOS transistor 24 turned on by the noise output pulse PTN. Next, a noise signal is accumulated in the capacitor CHN30 and an optical signal is accumulated in the capacitor CHS31 via the transfer switches 28 and 29 by control signals PHS and PHN from a horizontal scanning circuit (not shown). Next, the differential amplifier 32 outputs a captured image based on the difference between the two.

図2は、図1の撮像部における第1の駆動タイミングを示すタイミングチャートを示す図である。   FIG. 2 is a timing chart showing the first drive timing in the imaging unit of FIG.

時刻t1では、1水平走査期間の開始を示す信号HDがL(ローレベル)からH(ハイレベル)となる。このとき、PSEL信号及びPRES信号がHであるため、リセットスイッチ4及び選択スイッチ5の両方がONとなっている。そのため、垂直出力線22に電位SVDDが出力される。   At time t1, the signal HD indicating the start of one horizontal scanning period changes from L (low level) to H (high level). At this time, since the PSEL signal and the PRES signal are H, both the reset switch 4 and the selection switch 5 are ON. Therefore, the potential SVDD is output to the vertical output line 22.

時刻t2では、PRES信号がLとなり、選択スイッチ5がOFFされる。また、PTS信号及びPTN信号がHとなり、転送ゲート25及びMOSトランジスタ24がONされる。これにより、垂直出力線22に出力された電位SVDDが、信号蓄積部としての蓄積容量CTN26及び蓄積容量CTS27に供給され、蓄積容量CTN26及び蓄積容量CTS27がリセットされる。   At time t2, the PRES signal becomes L and the selection switch 5 is turned OFF. Further, the PTS signal and the PTN signal become H, and the transfer gate 25 and the MOS transistor 24 are turned on. As a result, the potential SVDD output to the vertical output line 22 is supplied to the storage capacitor CTN26 and the storage capacitor CTS27 as the signal storage unit, and the storage capacitor CTN26 and the storage capacitor CTS27 are reset.

時刻t3では、PRES信号がLとなり、リセットスイッチ4がOFFされる。これにより、浮遊拡散層FD7がフローティング状態となり、浮遊拡散層FD7はノイズ信号を保持するようになる。   At time t3, the PRES signal becomes L and the reset switch 4 is turned OFF. As a result, the floating diffusion layer FD7 enters a floating state, and the floating diffusion layer FD7 holds a noise signal.

時刻t4では、PSEL信号がHとなり、選択スイッチ5がONされる。これにより、選択スイッチ5と負荷電流源21で構成されたソースフォロワ回路が動作状態になり、垂直出力線22上に画素アンプ6のフローティングゲートのリセット電位に応じたノイズ出力がなされる。   At time t4, the PSEL signal becomes H and the selection switch 5 is turned on. As a result, the source follower circuit constituted by the selection switch 5 and the load current source 21 is activated, and a noise output corresponding to the reset potential of the floating gate of the pixel amplifier 6 is made on the vertical output line 22.

時刻t5では、PTS信号及びPTN信号がLとなり、転送ゲート25及びMOSトランジスタ24がOFFされ、蓄積容量CTN26及び蓄積容量CTS27が初期状態となる。   At time t5, the PTS signal and the PTN signal become L, the transfer gate 25 and the MOS transistor 24 are turned off, and the storage capacitor CTN26 and the storage capacitor CTS27 are in the initial state.

時刻t6では、PTN信号がHとなり、MOSトランジスタ24がONされ、画素アンプ6のフローティングゲートに蓄積されたノイズ信号が蓄積容量CTN26に蓄積される。   At time t6, the PTN signal becomes H, the MOS transistor 24 is turned on, and the noise signal stored in the floating gate of the pixel amplifier 6 is stored in the storage capacitor CTN26.

時刻t7では、PTN信号がLとなり、MOSトランジスタ24がOFFされ、画素アンプ6から蓄積容量CTN26へのノイズ信号の蓄積動作が終了する。   At time t7, the PTN signal becomes L, the MOS transistor 24 is turned off, and the accumulation operation of the noise signal from the pixel amplifier 6 to the storage capacitor CTN26 is completed.

次いで、フォトダイオード2で発生した光信号とノイズ信号の混合信号の蓄積が行われる。まず、不図示の回路により、垂直出力線22が定電位にリセットされる。   Next, the mixed signal of the optical signal and noise signal generated in the photodiode 2 is accumulated. First, the vertical output line 22 is reset to a constant potential by a circuit (not shown).

時刻t8では、PTS信号がHとなり、転送ゲート25がONされる。   At time t8, the PTS signal becomes H and the transfer gate 25 is turned on.

時刻t9では、PTX信号がHとなり、転送スイッチ3がONされ、フォトダイオード2に蓄積された光信号が画素アンプ6のフローティングゲートに転送される。このとき、PSEL信号はHであるため、上述のソースフォロワ回路は動作状態となっており、垂直出力線22上に画素アンプ6のフローティングゲートの電位に応じた「光信号+ノイズ信号」の出力がなされる。従って、垂直出力線22に出力された「光信号+ノイズ信号」が転送ゲート25を介して蓄積容量CTS27に蓄積される。   At time t9, the PTX signal becomes H, the transfer switch 3 is turned on, and the optical signal stored in the photodiode 2 is transferred to the floating gate of the pixel amplifier 6. At this time, since the PSEL signal is H, the above-described source follower circuit is in an operating state, and an “optical signal + noise signal” is output on the vertical output line 22 according to the potential of the floating gate of the pixel amplifier 6. Is made. Accordingly, the “light signal + noise signal” output to the vertical output line 22 is stored in the storage capacitor CTS 27 via the transfer gate 25.

時刻t10では、PTX信号がLとなり、転送スイッチ3がOFFされ、画素アンプ6のフローティングゲートへの転送動作が終了する。   At time t10, the PTX signal becomes L, the transfer switch 3 is turned off, and the transfer operation to the floating gate of the pixel amplifier 6 is completed.

時刻t11では、PTS信号がLとなり、転送ゲート25がOFFされ、蓄積容量CTS27への蓄積動作が終了する。   At time t11, the PTS signal becomes L, the transfer gate 25 is turned off, and the accumulation operation in the storage capacitor CTS27 is completed.

このように、t9〜t10の期間を内包するt8〜t11の間に、PTS信号をHにすることによって、蓄積容量CTS27が垂直出力線22と接続され、「光信号+ノイズ信号」が蓄積容量CTS27に保持される。   Thus, during the period from t8 to t11 including the period from t9 to t10, the storage capacitor CTS27 is connected to the vertical output line 22 by setting the PTS signal to H, and “optical signal + noise signal” is stored in the storage capacitor. It is held in CTS27.

以上のようにして、1行分の「ノイズ信号」とフォトダイオード2で発生した「光信号+ノイズ信号」が、CTN26及びCTS27にそれぞれ蓄積される。   As described above, the “noise signal” for one row and the “light signal + noise signal” generated by the photodiode 2 are accumulated in the CTN 26 and the CTS 27, respectively.

次に、不図示の水平シフトレジスタで制御される制御パルスPHに応じて、これら2つの信号が容量CHN30及びCHS31にそれぞれ転送される。   Next, these two signals are transferred to the capacitors CHN30 and CHS31 in response to a control pulse PH controlled by a horizontal shift register (not shown).

そして、差動増幅器32によって、容量CHN30及びCHS31に蓄積された「ノイズ信号」及び「光信号+ノイズ信号」が、「光信号+ノイズ信号」−「ノイズ信号」=光信号となって出力される。   Then, the “noise signal” and “optical signal + noise signal” accumulated in the capacitors CHN 30 and CHS 31 are output as “optical signal + noise signal” − “noise signal” = optical signal by the differential amplifier 32. The

図1において、入射光量が大きく、フォトダイオード2が飽和すると、転送スイッチ3がOFFされていても、飽和した電荷が浮遊拡散層FD7に溢れ出る場合がある。この場合、図7(a)に示すように、S信号は飽和レベルに達しているため、それ以上の信号レベルになることはない。従って、S信号は、浮遊拡散層FD7への漏れ込む電荷の有無にかかわらず、信号レベルが一定となる。一方、N信号は、図2のAに示す浮遊拡散層FD7のリセット完了時から、図2のBに示すPTN信号による蓄積容量CTN26への転送完了までの蓄積時間Tn1に行われる。蓄積時間Tn1は、浮遊拡散層FD7のN信号に相当する電荷が蓄積容量CTN26に略完全に転送されるのに十分な時間であり、かつ、読出時間を短くするために、極力短い期間が設定される。蓄積時間Tn1の間にフォトダイオード2が飽和するほどの光量が入射すると、溢れ出てくる電荷によって浮遊拡散層FD7及び電荷転送先の蓄積容量CTN26の電荷量がリセットレベルを維持することができずに増加する。その結果、図7(b)に示すように、S信号とN信号の差分信号である出力信号が、N信号の増加に従って急激に減少し、高輝度黒沈み現象が発生する。   In FIG. 1, when the amount of incident light is large and the photodiode 2 is saturated, the saturated charge may overflow into the floating diffusion layer FD7 even if the transfer switch 3 is turned off. In this case, as shown in FIG. 7A, since the S signal has reached the saturation level, the signal level does not become higher than that. Therefore, the signal level of the S signal is constant regardless of the presence or absence of charge leaking into the floating diffusion layer FD7. On the other hand, the N signal is performed during an accumulation time Tn1 from the completion of resetting of the floating diffusion layer FD7 shown in FIG. 2A to the completion of transfer to the storage capacitor CTN26 by the PTN signal shown in FIG. The accumulation time Tn1 is a time sufficient for the charge corresponding to the N signal of the floating diffusion layer FD7 to be transferred to the storage capacitor CTN26 almost completely, and a short period is set to shorten the read time. Is done. If the amount of light that saturates the photodiode 2 is incident during the accumulation time Tn1, the charge amount of the floating diffusion layer FD7 and the charge transfer destination storage capacitor CTN26 cannot maintain the reset level due to the overflowing charge. To increase. As a result, as shown in FIG. 7B, the output signal, which is the difference signal between the S signal and the N signal, rapidly decreases as the N signal increases, and a high-intensity black sun phenomenon occurs.

図3は、図1の撮像部における第2の駆動タイミングを示すタイミングチャートを示す図である。図2と同様の動作については、その説明を省略する。   FIG. 3 is a diagram illustrating a timing chart showing the second drive timing in the imaging unit of FIG. Description of operations similar to those in FIG. 2 is omitted.

図3において示される第2の駆動タイミングは、高輝度黒沈み現象の発生時に、第1の駆動タイミングとともに用いられる駆動タイミングである。   The second drive timing shown in FIG. 3 is a drive timing used together with the first drive timing when the high-luminance black sun phenomenon occurs.

図3に示される第2の駆動タイミングにおけるリセット完了時A’からN信号転送終了時B’までの期間Tn2は、第1の駆動タイミングにおける蓄積時間Tn1よりも長くなるように設定されている。N信号転送終了タイミングB’以降のタイミングは、Tn2−Tn1の分だけ後ろにシフトしている。   A period Tn2 from the reset completion time A ′ to the N signal transfer end time B ′ at the second drive timing shown in FIG. 3 is set to be longer than the accumulation time Tn1 at the first drive timing. The timing after the N signal transfer end timing B 'is shifted backward by Tn2-Tn1.

図3のように、第2の駆動タイミングを用いる第2の撮像の場合には、第1の駆動タイミングを用いる第1の撮像よりもN信号の転送時間が長く設定されている。そのため、フォトダイオード2の飽和による電荷溢れが起こりやすくなっている。即ち、第2の撮像時の出力画像における黒沈み発生領域は、第1の撮像時よりも大きくなる。   As shown in FIG. 3, in the case of the second imaging using the second driving timing, the N signal transfer time is set longer than that of the first imaging using the first driving timing. Therefore, charge overflow due to saturation of the photodiode 2 is likely to occur. That is, the black sun occurrence area in the output image at the time of the second imaging is larger than that at the time of the first imaging.

なお、本発明の好適な実施の形態においては、後述するように第1の撮像における第1の撮像画像と第2の撮像における第2の撮像画像との差分画像を用いる。そのため、第1の駆動タイミングを用いた第1の撮像時と、第2の駆動タイミングを用いた第2の撮像時とで、露光開始から水平走査期間の開始までの時間を同一にする。蓄積時間Tn1と蓄積時間Tn2は、露光開始から水平走査期間の開始までの時間と比べて非常に短いため、第1の撮像と第2の撮像それぞれの露光時間は、ほぼ同一と考えることができる。 In the preferred embodiment of the present invention, as described later, a difference image between the first captured image in the first imaging and the second captured image in the second imaging is used. Therefore, the time from the start of exposure to the start of the horizontal scanning period is made the same for the first imaging using the first drive timing and for the second imaging using the second drive timing . Since the accumulation time Tn1 and the accumulation time Tn2 are very short compared to the time from the start of exposure to the start of the horizontal scanning period, the exposure times of the first imaging and the second imaging can be considered to be substantially the same. .

図4は、本実施形態の原理を説明するための図である。   FIG. 4 is a diagram for explaining the principle of the present embodiment.

図4(a)は、図2において説明した第1の駆動タイミングを用いた第1の撮像時において高輝度黒沈み現象が発生した画像の一例である。   FIG. 4A is an example of an image in which a high-luminance black sun phenomenon has occurred during the first imaging using the first drive timing described in FIG.

図4(b)は、図3において説明した第2の駆動タイミングを用いた第2の撮像時において高輝度黒沈み現象が発生した画像の一例であり、図4(a)と同じ被写体を撮影したものである。図4(b)に示す第2の撮像時の第2の撮像画像の方が、図4(a)に示す第1の撮像時の第1の撮像画像よりも、黒沈みの発生領域が大きくなっていることが分かる。   FIG. 4B is an example of an image in which a high-luminance black sun phenomenon has occurred during the second imaging using the second drive timing described in FIG. 3, and the same subject as that in FIG. It is a thing. The second picked-up image at the time of the second image pickup shown in FIG. 4 (b) has a larger black sun occurrence region than the first picked-up image at the time of the first image pickup shown in FIG. 4 (a). You can see that

図4(c)は、図4(a)の第1の撮像画像から図4(b)の第2の撮像画像を差分した差分画像である。第1の撮像と第2の撮像では、露光時間が略同一であるため、一般の被写体に対しては両撮像の差異は殆ど発生しない。そのため、図4(c)に示す差分画像おいては、0(黒レベル)近傍の値となっている。これに対し、黒沈みが発生している領域は、図4(a)と図4(b)とでその大きさが相違しているため、図4(a)では黒沈みが生じていないが図4(b)では黒沈みが生じている領域は、図4(c)ではプラスの出力となる。また、図4(a)及び図4(b)の両方で黒レベルまで黒沈みしている領域は、図4(c)では0(黒レベル)近傍の値となる。以上により、図4(c)に示すように、図4(a)と図4(b)との差分画像は、高輝度被写体を中心にドーナツ状の出力が存在する画像となる。   FIG. 4C is a difference image obtained by subtracting the second captured image in FIG. 4B from the first captured image in FIG. In the first imaging and the second imaging, since the exposure time is substantially the same, there is almost no difference between the two imaging for a general subject. Therefore, the difference image shown in FIG. 4C has a value near 0 (black level). On the other hand, since the size of the area where black sun is generated differs between FIG. 4A and FIG. 4B, black sun does not occur in FIG. 4A. In FIG. 4B, the region where the black sun has occurred becomes a positive output in FIG. 4C. In addition, the area where the black level is blacked down in both FIGS. 4A and 4B is a value near 0 (black level) in FIG. 4C. As described above, as shown in FIG. 4C, the difference image between FIG. 4A and FIG. 4B is an image in which a donut-shaped output exists around a high-luminance subject.

ここで、図4(c)のドーナツ状の出力に囲まれた閉領域(0近傍の値を持つ領域)は、黒沈みが発生している領域であると判別することができる。そのため、この閉領域のアドレスを記憶し、図4(a)の第1の撮像画像の同アドレスの出力値を飽和レベルの値に置き換えればよい。黒沈みが発生している領域及びその周辺は、十分に飽和している領域であると考えられるため、このように置き換える値は飽和レベルの値でよい。   Here, it is possible to determine that the closed region (region having a value near 0) surrounded by the donut-shaped output in FIG. 4C is a region where black sun is generated. Therefore, the address of this closed region may be stored, and the output value at the same address of the first captured image in FIG. 4A may be replaced with a saturation level value. Since the area where the black sun is generated and the periphery thereof are considered to be sufficiently saturated areas, the value to be replaced in this way may be the value of the saturation level.

なお、上記の説明では、第1の撮像画像の所定の領域の出力値を飽和レベルの値に置き換えたが、第2の撮像画像の所定の領域の出力値を飽和レベルの値に置き換えてもよい。すなわち、図4(b)で黒沈みが生じている領域は、図4(c)におけるプラスの出力がなされた領域と、この領域により囲まれた閉領域の両方に対応する。従って、図4(c)においてプラスの出力がなされた領域とその閉領域とを合わせた領域のアドレスを記憶し、図4(b)に示す第2の撮像画像の同アドレスの出力値を飽和レベルの値に置き換えてもよい。後述する図5のフローチャートにおいても同様である。   In the above description, the output value of the predetermined area of the first captured image is replaced with the saturation level value. However, the output value of the predetermined area of the second captured image may be replaced with the saturation level value. Good. That is, the region where the black sun is generated in FIG. 4B corresponds to both the region where the positive output is made in FIG. 4C and the closed region surrounded by this region. Therefore, the address of the area obtained by combining the area where the plus output is made in FIG. 4C and the closed area is stored, and the output value of the same address of the second captured image shown in FIG. 4B is saturated. It may be replaced with a level value. The same applies to the flowchart of FIG. 5 described later.

図5は、本発明の好適な実施の形態に係る撮像部の動作を示すフローチャートを示す図である。なお、以下の処理は、例えば、システム制御部214がROM215に記憶されたプログラム等を実行することによって行われうる。   FIG. 5 is a flowchart illustrating the operation of the imaging unit according to the preferred embodiment of the present invention. The following processing can be performed, for example, when the system control unit 214 executes a program or the like stored in the ROM 215.

ステップS101では、第1の駆動タイミングによる第1の撮像を行う。   In step S101, first imaging is performed at the first drive timing.

ステップS102では、ステップS101で撮像した画像内で、飽和レベルに達している領域が存在するか否かを判定する。飽和レベルに達している領域があると判定した場合には(ステップS102で「Yes」)、ステップ103に進み、飽和レベルに達している領域がないと判定した場合には(ステップS102で「No」)、ステップ108に進む。   In step S102, it is determined whether or not there is a region that has reached the saturation level in the image captured in step S101. If it is determined that there is a region that has reached the saturation level (“Yes” in step S102), the process proceeds to step 103, and if it is determined that there is no region that has reached the saturation level (“No” in step S102). ”), The process proceeds to Step 108.

ステップS103では、第2の駆動タイミングによる第2の撮像を行う。   In step S103, the second imaging at the second drive timing is performed.

ステップS104では、第1の撮像で得られた第1の撮像画像から第2の撮像で得られた第2の撮像画像を差し引いた差分画像を生成する。   In step S104, a difference image is generated by subtracting the second captured image obtained by the second imaging from the first captured image obtained by the first imaging.

ステップS105では、ステップS104で生成した差分画像中に設定値以上の出力値を有する領域が存在するか否かを判定する。差分画像中に設定値以上の領域があると判定した場合には(ステップS105で「Yes」)、ステップS106に進み、差分画像中に設定値以上の領域がないと判定した場合には(ステップS105で「No」)、ステップS108に進む。   In step S105, it is determined whether or not there is an area having an output value greater than or equal to the set value in the difference image generated in step S104. If it is determined that there is an area greater than the set value in the difference image (“Yes” in step S105), the process proceeds to step S106, and if it is determined that there is no area greater than the set value in the difference image (step “No” in S105), the process proceeds to step S108.

ステップS106では、ステップS104で生成した差分画像内の設定値以上の出力値を持つ領域で囲まれた閉領域のアドレスを記憶する。   In step S106, the address of the closed region surrounded by a region having an output value equal to or larger than the set value in the difference image generated in step S104 is stored.

ステップS107では、ステップS101で得られた第1の撮像画像におけるステップS106で記憶したアドレスの出力値を本撮像部の飽和レベルに相当する値に置き換えて、第1の撮像画像を補正する。   In step S107, the first captured image is corrected by replacing the output value of the address stored in step S106 in the first captured image obtained in step S101 with a value corresponding to the saturation level of the main imaging unit.

ステップS108では、ステップS105で差分画像中に設定値以上の領域があると判定された場合には、補正した第1の撮像画像を出力画像として出力する。一方、ステップS105で差分画像中に設定値以上の領域がないと判定された場合には、ステップS101で取得した第1の撮像画像を出力画像としてそのまま出力する。   In step S108, if it is determined in step S105 that there is an area greater than the set value in the difference image, the corrected first captured image is output as an output image. On the other hand, if it is determined in step S105 that there is no region greater than the set value in the difference image, the first captured image acquired in step S101 is output as it is as an output image.

なお、図5では、まず始めに撮影画面内に飽和部分があるか否かを判定し、飽和部分があった場合にのみ高輝度黒沈み判定を行ったが、本発明はこれに限定されない。例えば、飽和部分の有無の判定は、数フレームに1回としてもよいし、飽和部分の有無の判定を行わずに、毎フレームで必ず高輝度黒沈みの判定を行ってもよい。   In FIG. 5, first, it is determined whether or not there is a saturated portion in the shooting screen, and the high-intensity black sun determination is performed only when there is a saturated portion, but the present invention is not limited to this. For example, the determination of the presence or absence of a saturated portion may be performed once every several frames, or the determination of high-intensity black sun may be performed every frame without determining the presence or absence of a saturated portion.

次に、本発明の好適な実施の形態に係る撮像部を組み込んだ撮像システムについて説明する。図6は、本発明の好適な実施の形態に係る撮像システムを示す図である。   Next, an imaging system incorporating an imaging unit according to a preferred embodiment of the present invention will be described. FIG. 6 is a diagram showing an imaging system according to a preferred embodiment of the present invention.

本実施形態に係る撮像システムは、光学系201と撮像装置により構成されている。本実施形態に係る撮像装置は、メカニカルシャッタ(図6では「メカシャッタ」と表す)202、上記の実施形態に係る撮像部203、AGC回路204、A/D変換器205、タイミング信号発生回路206及び駆動回路207を備える。本実施形態に係る撮像装置はまた、信号処理回路208、画像メモリ209、画像記録媒体(図6では「記録媒体」と表す)210、記録回路211、画像表示装置212、表示回路213、システム制御部214を備える。本実施形態に係る撮像装置はまた、不揮発性メモリ(ROM)215及び揮発性メモリ(RAM)216を備える。   The imaging system according to this embodiment includes an optical system 201 and an imaging device. An imaging apparatus according to this embodiment includes a mechanical shutter (represented as “mechanical shutter” in FIG. 6) 202, an imaging unit 203, an AGC circuit 204, an A / D converter 205, a timing signal generation circuit 206, and the above-described embodiment. A drive circuit 207 is provided. The imaging apparatus according to the present embodiment also includes a signal processing circuit 208, an image memory 209, an image recording medium (represented as “recording medium” in FIG. 6) 210, a recording circuit 211, an image display apparatus 212, a display circuit 213, and system control. The unit 214 is provided. The imaging apparatus according to the present embodiment also includes a nonvolatile memory (ROM) 215 and a volatile memory (RAM) 216.

光学系201は、レンズ及び絞りを有する。AGC回路204は、アナログ信号処理を行う。A/D変換器205は、アナログ信号をデジタル信号に変換する。タイミング信号発生回路206は、撮像部203とAGC回路204とA/D変換器205とを動作させる信号を発生する。駆動回路207は、光学系201とメカニカルシャッタ202と撮像部203とを駆動する。信号処理回路208は、撮影した画像データに必要な信号処理を行う。例えば、信号処理回路208は、差分画像を生成する差分画像生成手段として機能しうる。また、例えば、信号処理回路208は、差分画像から画素信号の絶対値が設定値以上である領域があるか否かを判定する画像領域判定手段、その判定した領域を抽出する画像領域判定手段抽出手段としても機能しうる。また、例えば、信号処理回路208は、撮像画像内の画素信号の値を設定値へ置き換える画像補正手段としても機能しうる。画像メモリ209は、信号処理された画像データを記憶する。画像記録媒体210は、撮像装置から取り外し可能な記録媒体である。記録回路211は、信号処理された画像データを画像記録媒体210に記録する。画像表示装置212は、信号処理された画像データを表示する。表示回路213は、画像表示装置212に画像を表示させる。システム制御部214は、撮像装置の各部を制御する。ROM215は、システム制御部214で実行される制御プログラム、プログラムを実行する際に使用されるパラメータやテーブル等の制御データ及びキズアドレス等の補正データを記憶する。RAM216は、ROM215に記憶されたプログラム、制御データ及び補正データを転送して記憶しておき、システム制御部214が撮像装置を制御する際に使用する。   The optical system 201 has a lens and a diaphragm. The AGC circuit 204 performs analog signal processing. The A / D converter 205 converts an analog signal into a digital signal. The timing signal generation circuit 206 generates a signal for operating the imaging unit 203, the AGC circuit 204, and the A / D converter 205. The drive circuit 207 drives the optical system 201, the mechanical shutter 202, and the imaging unit 203. The signal processing circuit 208 performs signal processing necessary for the captured image data. For example, the signal processing circuit 208 can function as a difference image generation unit that generates a difference image. Also, for example, the signal processing circuit 208 extracts image area determination means for determining whether or not there is an area in which the absolute value of the pixel signal is equal to or greater than a set value from the difference image, and image area determination means extraction for extracting the determined area. It can also function as a means. For example, the signal processing circuit 208 can also function as an image correction unit that replaces the value of the pixel signal in the captured image with a set value. The image memory 209 stores the image processed image data. The image recording medium 210 is a recording medium that can be detached from the imaging apparatus. The recording circuit 211 records the signal-processed image data on the image recording medium 210. The image display device 212 displays the image data subjected to signal processing. The display circuit 213 displays an image on the image display device 212. The system control unit 214 controls each unit of the imaging apparatus. The ROM 215 stores a control program executed by the system control unit 214, control data such as parameters and tables used when executing the program, and correction data such as a scratch address. The RAM 216 transfers and stores the program, control data, and correction data stored in the ROM 215, and is used when the system control unit 214 controls the imaging apparatus.

以下、上述のように構成された撮像装置を用いてメカニカルシャッタ202を使用した撮影動作について説明する。   Hereinafter, a photographing operation using the mechanical shutter 202 using the imaging device configured as described above will be described.

撮影動作に先立ち、撮像装置の電源投入時等のシステム制御部214の動作開始時において、ROM215から必要なプログラム、制御データ及び補正データがRAM216に転送される。これらのプログラムやデータは、システム制御部214が撮像装置を制御する際に使用される。また、必要に応じて、追加のプログラムやデータがROM215からRAM216に転送されたり、システム制御部214が直接ROM215内のデータを読み出して使用したりする。   Prior to the photographing operation, necessary programs, control data, and correction data are transferred from the ROM 215 to the RAM 216 when the operation of the system control unit 214 is started, such as when the imaging apparatus is turned on. These programs and data are used when the system control unit 214 controls the imaging apparatus. Further, if necessary, additional programs and data are transferred from the ROM 215 to the RAM 216, or the system control unit 214 directly reads out and uses the data in the ROM 215.

まず、光学系201は、システム制御部214からの制御信号により、絞りとレンズを駆動して、適切な明るさに設定された被写体像を撮像部203上に結像させる。   First, the optical system 201 drives a diaphragm and a lens according to a control signal from the system control unit 214 to form a subject image set to an appropriate brightness on the imaging unit 203.

次に、メカニカルシャッタ202は、静止画撮影時においては、システム制御部214からの制御信号により、必要な露光時間となるように撮像部203の動作に合わせて撮像部203を遮光するように駆動される。この時、撮像部203が電子シャッタ機能を有する場合は、メカニカルシャッタ202と併用して、必要な露光時間を確保してもよい。なお、動画撮影時及び静止画撮影時で、メカシャッタ202を用いずに撮像部203の電子シャッタ機能のみで露光時間を制御するモードでの撮影時においては、撮影動作中、メカシャッタ202は常に開いた状態を維持させておく。   Next, during still image shooting, the mechanical shutter 202 is driven by the control signal from the system control unit 214 so as to shield the image capturing unit 203 in accordance with the operation of the image capturing unit 203 so that a necessary exposure time is obtained. Is done. At this time, when the imaging unit 203 has an electronic shutter function, it may be used together with the mechanical shutter 202 to ensure a necessary exposure time. Note that the mechanical shutter 202 is always open during the shooting operation when shooting in a mode in which the exposure time is controlled only by the electronic shutter function of the imaging unit 203 without using the mechanical shutter 202 during movie shooting and still image shooting. Keep the state.

撮像部203は、システム制御部214により制御されるタイミング信号発生回路206が発生する動作パルスに基づいた駆動パルスにより駆動され、被写体像を光電変換により電気信号に変換してアナログ画像信号として出力する。撮像部203から出力されたアナログの画像信号は、システム制御部214により制御されるタイミング信号発生回路206が発生する動作パルスにより、AGC回路204でクロック同期性ノイズを除去し、A/D変換器205でデジタル画像信号に変換される。   The imaging unit 203 is driven by a driving pulse based on the operation pulse generated by the timing signal generation circuit 206 controlled by the system control unit 214, converts the subject image into an electrical signal by photoelectric conversion, and outputs the signal as an analog image signal. . The analog image signal output from the imaging unit 203 is subjected to an operation pulse generated by the timing signal generation circuit 206 controlled by the system control unit 214, and the AGC circuit 204 removes the clock synchronization noise, and the A / D converter In 205, it is converted into a digital image signal.

次に、システム制御部214により制御される信号処理回路208において、図5のフローチャートで説明したように、差分画像の生成、黒沈み領域の抽出及びその領域の補正等の一連の黒沈み抑制処理を行う。また、デジタル画像信号に対して、色変換、ホワイトバランス、ガンマ補正等の画像処理、解像度変換処理、画像圧縮処理等を行う。   Next, in the signal processing circuit 208 controlled by the system control unit 214, as described in the flowchart of FIG. 5, a series of black sun suppression processing such as generation of a difference image, extraction of black sun dark areas, and correction of the dark areas. I do. The digital image signal is subjected to image processing such as color conversion, white balance, and gamma correction, resolution conversion processing, and image compression processing.

画像メモリ209は、信号処理中のデジタル画像信号を一時的に記憶したり、信号処理されたデジタル画像信号である画像データを記憶したりするために用いられる。また、画像メモリ209は、図5のフローチャートでの説明における「第1の撮像画像」、「第2の撮像画像」及び信号処理回路208における差分処理によって生成された差分画像を一時的に記憶することができる。   The image memory 209 is used to temporarily store a digital image signal during signal processing or to store image data that is a digital image signal subjected to signal processing. Further, the image memory 209 temporarily stores the “first captured image”, the “second captured image”, and the difference image generated by the difference processing in the signal processing circuit 208 in the description of the flowchart of FIG. be able to.

信号処理回路208で信号処理された画像データや画像メモリ209に記憶されている画像データは、記録回路211において画像記録媒体210に適したデータ(例えば、階層構造を持つファイルシステムデータ)に変換されて画像記録媒体210に記録される。また、このような画像データは、信号処理回路208で解像度変換処理が行われた後に、表示回路213において画像表示装置212に適した信号(例えばNTSC方式のアナログ信号等)に変換され、画像表示装置212に表示されてもよい。   The image data signal-processed by the signal processing circuit 208 and the image data stored in the image memory 209 are converted into data suitable for the image recording medium 210 (for example, file system data having a hierarchical structure) in the recording circuit 211. Are recorded on the image recording medium 210. Further, such image data is subjected to resolution conversion processing in the signal processing circuit 208, and then converted into a signal suitable for the image display device 212 (for example, an NTSC analog signal or the like) in the display circuit 213 for image display. It may be displayed on the device 212.

ここで、信号処理回路208においては、システム制御部214からの制御信号により信号処理をせずにデジタル画像信号をそのまま画像データとして、画像メモリ209や記録回路211に出力してもよい。また、信号処理回路208は、システム制御部214から要求があった場合に、信号処理の過程で生じたデジタル画像信号や画像データの情報、例えば、画像の空間周波数、指定領域の平均値、圧縮画像のデータ量等の情報、あるいは、それらから抽出された情報をシステム制御部214に出力する。更に、記録回路211は、システム制御部214から要求があった場合に、画像記録媒体210の種類や空き容量等の情報をシステム制御部214に出力する。   Here, the signal processing circuit 208 may output the digital image signal as it is to the image memory 209 or the recording circuit 211 without performing signal processing by the control signal from the system control unit 214. Also, the signal processing circuit 208, when requested by the system control unit 214, information of digital image signals and image data generated in the signal processing process, for example, the spatial frequency of the image, the average value of the designated area, the compression Information such as the amount of image data or information extracted from the information is output to the system control unit 214. Furthermore, the recording circuit 211 outputs information such as the type and free capacity of the image recording medium 210 to the system control unit 214 when requested by the system control unit 214.

更に、画像記録媒体210に画像データが記録されている場合の再生動作について説明する。システム制御部214からの制御信号により記録回路211は、画像記録媒体210から画像データを読み出し、同じくシステム制御部214からの制御信号により信号処理回路208は、画像データが圧縮画像であった場合には、画像伸長処理を行い、画像メモリ209に記憶する。画像メモリ209に記憶されている画像データは、信号処理回路208で解像度変換処理を実施された後、表示回路213において画像表示装置212に適した信号に変換されて画像表示装置212に表示される。   Further, a reproduction operation when image data is recorded on the image recording medium 210 will be described. The recording circuit 211 reads out image data from the image recording medium 210 in response to a control signal from the system control unit 214, and the signal processing circuit 208 similarly in response to a control signal from the system control unit 214 indicates that the image data is a compressed image. Performs image decompression processing and stores it in the image memory 209. The image data stored in the image memory 209 is subjected to resolution conversion processing by the signal processing circuit 208, converted to a signal suitable for the image display device 212 by the display circuit 213, and displayed on the image display device 212. .

なお、本発明に係る撮像装置は、1フレーム中に第1の撮像及び第2の撮像の2回の撮像を行い、各フレーム毎に高輝度黒沈みの判定及び補正を行う構成としてもよい。或いは、連続する2フレームのそれぞれを第1、第2の撮像として前フレームの画像との比較から黒沈み部分を求めるような構成としてもよい。   Note that the imaging apparatus according to the present invention may be configured to perform the first imaging and the second imaging in one frame and to determine and correct the high-intensity black sun for each frame. Or it is good also as a structure which calculates | requires a sunken part from the comparison with the image of a previous frame by making each of 2 continuous frames into 1st and 2nd imaging.

また、図4を用いて説明した本実施形態の原理の説明においては、黒沈み画像の補正領域として、差分画像に出力がある閉領域のアドレスを用いるとした。しかしながら、撮像画像のばらつき等を考慮し、この閉領域よりもひと回り大きな領域を補正領域として設定してもよい。   In the description of the principle of the present embodiment described with reference to FIG. 4, the address of the closed region that is output in the difference image is used as the correction region of the black sun image. However, an area that is slightly larger than the closed area may be set as a correction area in consideration of variations in captured images.

以上説明したように、本発明の好適な実施の形態では、N信号(リセット信号)の転送時間を変えた2つの画像の差分画像から、高輝度被写体による黒沈み現象が発生している領域を判別し、該当領域の出力値を飽和レベルへと置き換える。このような構成により、余分な構成要素を追加することがなく、固体撮像素子としての基本性能を落とさないで、高輝度黒沈み現象の発生を抑えることができる。   As described above, in a preferred embodiment of the present invention, an area where a black sun phenomenon due to a high-intensity subject occurs from a difference image between two images with different N signal (reset signal) transfer times. Discriminate and replace the output value of the corresponding area with the saturation level. With such a configuration, it is possible to suppress the occurrence of a high-intensity black sun phenomenon without adding extra components and without degrading the basic performance as a solid-state imaging device.

本発明の好適な実施の形態に係る撮像部の回路図であるFIG. 3 is a circuit diagram of an imaging unit according to a preferred embodiment of the present invention. 図1の撮像部における第1の駆動タイミングを示すタイミングチャートを示す図である。It is a figure which shows the timing chart which shows the 1st drive timing in the imaging part of FIG. 図1の撮像部における第2の駆動タイミングを示すタイミングチャートを示す図である。It is a figure which shows the timing chart which shows the 2nd drive timing in the imaging part of FIG. 本実施形態の原理を説明するための図である。It is a figure for demonstrating the principle of this embodiment. 本発明の好適な実施の形態に係る撮像部の動作を示すフローチャートを示す図である。It is a figure which shows the flowchart which shows operation | movement of the imaging part which concerns on suitable embodiment of this invention. 本発明の好適な実施の形態に係る撮像システムを示す図である。1 is a diagram illustrating an imaging system according to a preferred embodiment of the present invention. 出力信号レベルの推移を示す図である。It is a figure which shows transition of an output signal level.

符号の説明Explanation of symbols

2 フォトダイオード
26、27 蓄積容量
208 信号処理回路
2 Photodiodes 26, 27 Storage capacitor 208 Signal processing circuit

Claims (4)

光電変換部を有する画素部を有し、前記画素部により生成された光信号と、ノイズ信号との差分に基づいて撮像画像を生成する撮像装置であって、
第1の撮影において前記画素部に蓄積された光信号の読み出しに先立って、第1の蓄積時間蓄積したノイズ信号を読み出し、該ノイズ信号の読み出し後に読み出された光信号から前記ノイズ信号を差分することにより第1の撮像画像を生成する第1の撮像画像生成手段と、
前記第1の撮影後の第2の撮影において前記画素部に蓄積された光信号の読み出しに先立って、前記第1の蓄積時間よりも長い第2の蓄積時間蓄積したノイズ信号を読み出し、該ノイズ信号の読み出し後に読み出された光信号から前記ノイズ信号を差分することにより第2の撮像画像を生成する第2の撮像画像生成手段と、
前記第1の撮像画像と第2の撮像画像との差分画像を生成する差分画像生成手段と、
前記差分画像から、該差分画像を構成する画素の画素信号が予め設定された閾値以上の出力値を有する画素により閉じられた領域を抽出する画像領域抽出手段と、
前記第1の撮像画像及び前記第2の撮像画像のいずれか一方において、前記画像領域抽出手段により抽出された領域に対応する領域内の画素信号を、前記画素部の飽和レベルに相当する画素信号に置き換える画像補正手段と、
を備えることを特徴とする撮像装置。
An imaging apparatus that includes a pixel unit having a photoelectric conversion unit and generates a captured image based on a difference between an optical signal generated by the pixel unit and a noise signal,
Prior to reading the optical signal accumulated in the pixel unit in the first imaging, the noise signal accumulated for the first accumulation time is read, and the noise signal is subtracted from the optical signal read after the noise signal is read. A first captured image generation means for generating a first captured image by
Prior to reading out the optical signal accumulated in the pixel portion in the second imaging after the first imaging, a noise signal accumulated for a second accumulation time longer than the first accumulation time is read, and the noise Second captured image generation means for generating a second captured image by subtracting the noise signal from the optical signal read after reading the signal;
Differential image generation means for generating a differential image between the first captured image and the second captured image;
Image area extracting means for extracting, from the difference image, an area closed by a pixel having an output value equal to or greater than a preset threshold value of a pixel signal constituting the difference image;
In either one of the first captured image and the second captured image, a pixel signal in a region corresponding to the region extracted by the image region extraction unit is a pixel signal corresponding to the saturation level of the pixel unit. Image correction means to replace with,
An imaging apparatus comprising:
前記第1の撮像画像内に飽和レベルに達している領域が存在するかどうかを判定する判定手段を更に有し、
前記判定手段により飽和レベルに達している領域が存在すると判断されたことに応じて、前記第2の撮像画像生成手段は、前記第2の撮像画像を生成することを特徴とする請求項1に記載の撮像装置。
Determination means for determining whether or not there is a region that has reached a saturation level in the first captured image;
The said 2nd captured image generation means produces | generates the said 2nd captured image according to having determined that the area | region which has reached the saturation level exists by the said determination means. The imaging device described.
光学系と、
請求項1または2に記載の撮像装置と、
を備える撮像システム。
Optical system,
The imaging apparatus according to claim 1 or 2 ,
An imaging system comprising:
光電変換部を有する画素を有し、前記画素部により生成された光信号とノイズ信号との差分に基づいて撮像画像を生成する撮像装置の制御方法であって、
第1の撮影において前記画素部に蓄積された光信号の読み出しに先立って、第1の蓄積時間で蓄積したノイズ信号を読み出し、該ノイズ信号の読み出し後に読み出された光信号から前記ノイズ信号を差分することにより第1の撮像画像を生成する工程と、
前記第1の撮影後の第2の撮影において前記画素部に蓄積された光信号の読み出しに先立って、前記第1の蓄積時間よりも長い第2の蓄積時間で蓄積したノイズ信号を読み出し、該ノイズ信号の読み出し後に読み出された光信号から前記ノイズ信号を差分することにより第2の撮像画像を生成する工程と、
前記第1の撮像画像と第2の撮像画像との差分画像を生成する工程と、
前記差分画像から、該差分画像を構成する画素の画素信号が予め設定された閾値以上の出力値を有する画素により閉じられた領域を抽出する工程と、
前記第1の撮像画像及び前記第2の撮像画像のいずれか一方において、抽出された前記領域に対応する領域内の画素信号を、前記画素部の飽和レベルに相当する画素信号に置き換える工程と、
を含むことを特徴とする撮像装置の制御方法。
A control method for an imaging apparatus that includes a pixel having a photoelectric conversion unit and generates a captured image based on a difference between an optical signal and a noise signal generated by the pixel unit,
Prior to reading out the optical signal accumulated in the pixel section in the first imaging, the noise signal accumulated in the first accumulation time is read out, and the noise signal is read from the optical signal read out after the noise signal is read out. Generating a first captured image by subtracting; and
Before reading out the optical signal accumulated in the pixel unit in the second photographing after the first photographing, the noise signal accumulated in the second accumulation time longer than the first accumulation time is read, Generating a second captured image by subtracting the noise signal from the optical signal read after reading the noise signal;
Generating a difference image between the first captured image and the second captured image;
Extracting from the difference image a region closed by a pixel having an output value equal to or greater than a preset threshold value of a pixel signal of the pixel constituting the difference image;
A step of replacing a pixel signal in a region corresponding to the extracted region with a pixel signal corresponding to a saturation level of the pixel unit in any one of the first captured image and the second captured image;
A method for controlling an imaging apparatus, comprising:
JP2006299383A 2006-11-02 2006-11-02 Imaging apparatus, control method therefor, and imaging system Expired - Fee Related JP4847281B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006299383A JP4847281B2 (en) 2006-11-02 2006-11-02 Imaging apparatus, control method therefor, and imaging system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006299383A JP4847281B2 (en) 2006-11-02 2006-11-02 Imaging apparatus, control method therefor, and imaging system

Publications (3)

Publication Number Publication Date
JP2008118386A JP2008118386A (en) 2008-05-22
JP2008118386A5 JP2008118386A5 (en) 2009-12-10
JP4847281B2 true JP4847281B2 (en) 2011-12-28

Family

ID=39503961

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006299383A Expired - Fee Related JP4847281B2 (en) 2006-11-02 2006-11-02 Imaging apparatus, control method therefor, and imaging system

Country Status (1)

Country Link
JP (1) JP4847281B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6478703B2 (en) * 2015-02-26 2019-03-06 キヤノン株式会社 Imaging apparatus and imaging system
WO2022001615A1 (en) * 2020-06-29 2022-01-06 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Method and system for automatically removing glare regions

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2645901B2 (en) * 1990-02-13 1997-08-25 三洋電機株式会社 Smear removal circuit
JP2004187017A (en) * 2002-12-04 2004-07-02 Innotech Corp Read processor
JP2006197229A (en) * 2005-01-13 2006-07-27 Matsushita Electric Ind Co Ltd Image pickup device and camera

Also Published As

Publication number Publication date
JP2008118386A (en) 2008-05-22

Similar Documents

Publication Publication Date Title
JP5215262B2 (en) Imaging device
JP5614993B2 (en) Imaging apparatus and solid-state imaging device driving method
US7952621B2 (en) Imaging apparatus having temperature sensor within image sensor wherin apparatus outputs an image whose quality does not degrade if temperature increases within image sensor
JP6082274B2 (en) Imaging apparatus and control method thereof
JP4834345B2 (en) IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM
JP2009141717A (en) Imaging device
CN109997352B (en) Imaging device, camera, and imaging method
CN109474781B (en) Image pickup apparatus, control method for image pickup apparatus, and recording medium
JP2007028339A (en) Imaging apparatus, control method and program thereof and storage medium
JP5222068B2 (en) Imaging device
JP2010050538A (en) Image device, smear reduction method, and program
JP2007173986A (en) Imaging apparatus and control method thereof, computer program, and storage medium
US8026965B2 (en) Image pickup apparatus and method for controlling the same
JP2010118876A (en) Imaging apparatus, and control method thereof
JP5106055B2 (en) Imaging apparatus and flicker detection method thereof
JP5452269B2 (en) Imaging device
JP4847281B2 (en) Imaging apparatus, control method therefor, and imaging system
JP5947625B2 (en) Imaging apparatus and control method thereof
JP6362099B2 (en) Imaging apparatus, control method therefor, program, and storage medium
JP2014107739A (en) Imaging device and control method therefor
JP5106056B2 (en) Imaging apparatus and flicker detection method thereof
JP2008072512A (en) Photographing apparatus and its control method, and photographing system
JP4814749B2 (en) Solid-state imaging device
JP5485680B2 (en) Imaging apparatus and imaging method
JP2013027022A (en) Imaging apparatus and timing signal control method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091023

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091023

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110801

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110920

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111011

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111013

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141021

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141021

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees