JP5404346B2 - Imaging apparatus, electronic scope, and electronic endoscope system - Google Patents

Imaging apparatus, electronic scope, and electronic endoscope system Download PDF

Info

Publication number
JP5404346B2
JP5404346B2 JP2009270906A JP2009270906A JP5404346B2 JP 5404346 B2 JP5404346 B2 JP 5404346B2 JP 2009270906 A JP2009270906 A JP 2009270906A JP 2009270906 A JP2009270906 A JP 2009270906A JP 5404346 B2 JP5404346 B2 JP 5404346B2
Authority
JP
Japan
Prior art keywords
low
image
imaging device
luminance
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009270906A
Other languages
Japanese (ja)
Other versions
JP2011114733A (en
Inventor
洋輝 井芹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hoya Corp
Original Assignee
Hoya Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hoya Corp filed Critical Hoya Corp
Priority to JP2009270906A priority Critical patent/JP5404346B2/en
Publication of JP2011114733A publication Critical patent/JP2011114733A/en
Application granted granted Critical
Publication of JP5404346B2 publication Critical patent/JP5404346B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Endoscopes (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

この発明は、固体撮像素子の固定パターンノイズを除去する機能を有する撮像装置、該撮像装置を有する電子スコープ、及び該電子スコープを有する電子内視鏡システムに関する。   The present invention relates to an imaging device having a function of removing fixed pattern noise of a solid-state imaging device, an electronic scope having the imaging device, and an electronic endoscope system having the electronic scope.

近年、固体撮像素子を搭載した撮像装置が広く普及している。代表的な固体撮像素子として、例えば、安価かつ低消費電力で量産性に優れたCMOS(Complementary Metal
Oxide Semiconductor)イメージセンサが知られている。しかし、CMOSイメージセンサには、固定パターンノイズが大きいため、画質が劣化するという問題がある。ここでいう固定パターンノイズとは、各画素が潜在的に持つ発生不可避なノイズである。固定パターンノイズの発生原因には、例えば画素毎のトランジスタ特性のばらつきや、入射光量と無関係に発生する暗電流等が挙げられる。
In recent years, imaging devices equipped with solid-state imaging elements have become widespread. As a representative solid-state imaging device, for example, CMOS (Complementary Metal) that is inexpensive, has low power consumption, and is excellent in mass productivity.
Oxide Semiconductor) image sensors are known. However, the CMOS image sensor has a problem that the image quality deteriorates due to a large fixed pattern noise. The fixed pattern noise here is noise that is unavoidably generated by each pixel. Causes of the occurrence of fixed pattern noise include, for example, variations in transistor characteristics for each pixel, dark current generated regardless of the amount of incident light, and the like.

CMOSイメージセンサの出力電荷を処理する一般的な画像処理回路は、この種のノイズによる画質の劣化を改善するため、製造段階で評価された搭載CMOSの固定パターンノイズのデータを予め保持している。画像処理回路は、CMOSイメージセンサから出力される各画素の撮像データから、対応する固定パターンノイズのデータを減算して、画素毎に異なるノイズを除去する。以降の説明では、画像処理回路が保持する固定パターンノイズのデータを、CMOSイメージセンサが潜在的に持つ固定パターンノイズとの混同を避けるため、「ノイズ除去データ」と記す。   A general image processing circuit that processes output charges of a CMOS image sensor holds in advance fixed pattern noise data of an on-board CMOS evaluated at the manufacturing stage in order to improve image quality degradation due to this type of noise. . The image processing circuit subtracts the corresponding fixed pattern noise data from the imaging data of each pixel output from the CMOS image sensor, and removes noise that differs for each pixel. In the following description, the fixed pattern noise data held by the image processing circuit is referred to as “noise removal data” in order to avoid confusion with the fixed pattern noise potentially possessed by the CMOS image sensor.

この種の撮像装置においては、CMOSイメージセンサの後段に配置された信号増幅器のゲインに応じて、除去すべき固定パターンノイズが変化する。ノイズ除去データが固定値である場合は、変化後の固定パターンノイズを除去しきれないため、残存したノイズによる画質の劣化が避けられない。そこで、ノイズ除去データを信号増幅器のゲインに応じて補正する撮像装置が、例えば特許文献1で提案されている。   In this type of imaging apparatus, the fixed pattern noise to be removed changes according to the gain of the signal amplifier arranged at the subsequent stage of the CMOS image sensor. When the noise removal data is a fixed value, the fixed pattern noise after the change cannot be completely removed, so that the image quality deterioration due to the remaining noise is unavoidable. Therefore, for example, Patent Document 1 proposes an imaging apparatus that corrects noise removal data according to the gain of a signal amplifier.

特開2003−18475号公報JP 2003-18475 A

ところで、信号増幅器等のアナログ的な回路構成においては、部品個体差や経時変化、使用環境(温度)等も固定パターンノイズを変化させる原因として挙げられる。この種の原因による固定パターンノイズの変化と、ゲイン調整時の固定パターンノイズの変化は、複合的に現れる。そのため、例えばゲインに応じて変化する固定パターンノイズを良好に除去するためには、ゲインの変化率をノイズ除去データに単純に反映させる(例えばゲインを2倍に設定した場合にノイズ除去データも2倍に設定する等)だけでは足りず、信号増幅器の部品個体差や経時変化、温度依存性等も考慮してノイズ除去データを補正する必要がある。しかし、これらの変化原因は、予測が難しく、補正データを予め用意しておくのは実質的に不可能である。すなわち、特許文献1に記載の撮像装置では、ノイズ除去データを適切に補正しきれないため、残存したノイズによる画質の劣化が避けられない。   By the way, in an analog circuit configuration such as a signal amplifier, individual component differences, changes with time, use environment (temperature), and the like are also cited as causes for changing fixed pattern noise. The change of the fixed pattern noise due to this kind of cause and the change of the fixed pattern noise at the time of gain adjustment appear in combination. Therefore, for example, in order to satisfactorily remove fixed pattern noise that changes in accordance with the gain, the gain change rate is simply reflected in the noise removal data (for example, when the gain is set to 2 times, the noise removal data is also 2). However, it is necessary to correct the noise removal data in consideration of individual differences in signal amplifier components, changes with time, temperature dependence, and the like. However, it is difficult to predict the cause of these changes, and it is virtually impossible to prepare correction data in advance. That is, in the imaging device described in Patent Document 1, since the noise removal data cannot be corrected appropriately, image quality deterioration due to remaining noise is inevitable.

また、特許文献1には、部品の温度依存性を考慮したノイズ除去データの補正を行うため、撮像装置内に温度センサを実装した構成が記載されている。しかし、例えば電子スコープ等の小型撮像装置では、実装スペースの制約上、温度センサ等の部品をCMOSイメージセンサ近傍に配置するのは困難である。このように、特許文献1に記載の撮像装置には、小型化設計に不向きであるという欠点がある。   Further, Patent Document 1 describes a configuration in which a temperature sensor is mounted in an imaging device in order to correct noise removal data in consideration of the temperature dependence of components. However, for example, in a small-sized imaging device such as an electronic scope, it is difficult to place components such as a temperature sensor near the CMOS image sensor due to restrictions on mounting space. As described above, the imaging device described in Patent Document 1 has a drawback that it is not suitable for downsizing design.

また、複合的な原因で変化する固定パターンノイズを良好に除去するためには、CMOSイメージセンサを一時的に遮光するメカニカルシャッタが必要である。しかし、メカニカルシャッタをCMOSイメージセンサ近傍に配置すると電子スコープが大型化するため、安易には採用できない。   Further, in order to satisfactorily remove fixed pattern noise that changes due to multiple causes, a mechanical shutter that temporarily shields the CMOS image sensor is required. However, if the mechanical shutter is disposed in the vicinity of the CMOS image sensor, the electronic scope becomes large and cannot be easily adopted.

本発明は上記の事情に鑑みてなされたものであり、その目的とするところは、ノイズ除去データを固定パターンノイズの変化に応じて補正するのに好適な撮像装置を提供することである。また、この撮像装置を搭載するのに好適な機器の一形態である電子スコープ、及び該電子スコープを有する電子内視鏡システムを提供することである。   The present invention has been made in view of the above circumstances, and an object of the present invention is to provide an imaging apparatus suitable for correcting noise removal data in accordance with changes in fixed pattern noise. Another object of the present invention is to provide an electronic scope that is one form of equipment suitable for mounting the imaging apparatus, and an electronic endoscope system having the electronic scope.

上記の課題を解決する本発明の一形態に係る撮像装置は、固体撮像素子と、その固定パターンノイズに対応するノイズ除去データを保持したノイズ除去データ保持手段と、固体撮像素子中の一部の画素を遮光する画素遮光手段を有する。この撮像装置は、ノイズ除去データ補正手段によって、遮光画素の撮像信号値と、ノイズ除去データで表現される該遮光画素の信号値との信号比に基づいてノイズ除去データを補正する。この信号比は、固体撮像素子の周辺回路(例えばアナログアンプ等)を介した実測値に基づく値である。そのため、補正後のノイズ除去データは、アナログアンプ等の周辺回路の部品個体差や経時変化、温度依存性等を反映している。よって、固体撮像素子が出力する撮像信号に含まれる固定パターンノイズは、例えばアナログアンプのゲインや部品個体差、経時変化、温度依存性等と無関係に、固定パターンノイズ除去手段による補正後ノイズ除去データを用いた除去処理によって良好に除去される。   An imaging apparatus according to an aspect of the present invention that solves the above problems includes a solid-state imaging device, noise removal data holding means that holds noise removal data corresponding to the fixed pattern noise, and a part of the solid-state imaging device. It has pixel light shielding means for shielding the pixels. In this imaging apparatus, the noise removal data correction unit corrects the noise removal data based on the signal ratio between the imaging signal value of the light-shielded pixel and the signal value of the light-shielded pixel expressed by the noise removal data. This signal ratio is a value based on an actual measurement value via a peripheral circuit (for example, an analog amplifier) of the solid-state imaging device. For this reason, the corrected noise removal data reflects individual differences in components of the peripheral circuit such as an analog amplifier, changes with time, temperature dependency, and the like. Therefore, the fixed pattern noise included in the imaging signal output from the solid-state imaging device is, for example, the noise removal data corrected by the fixed pattern noise removing unit regardless of the gain of the analog amplifier, individual component differences, aging, temperature dependency, etc. It is removed favorably by the removal process using.

画素遮光手段は、一部の画素を実質的な遮光画素とすべく、固体撮像素子を動作させて低輝度画像を撮像する低輝度画像撮像手段と、撮像された低輝度画像を複数の領域に分割する低輝度画像分割手段と、分割された複数の領域の中から輝度の低い所定数の低輝度領域を選択する低輝度領域選択手段と、選択された所定数の低輝度領域が所定の条件を満たすか否かを判定する条件判定手段と、所定の条件を満たすと判定された場合に、所定数の低輝度領域の画素を遮光画素とみなす遮光画素みなし手段とを有する構成としてもよい。   The pixel shading means includes a low-brightness image pick-up means that operates a solid-state imaging device to pick up a low-brightness image so that some pixels are substantially light-shielding pixels, and the picked-up low-brightness image is divided into a plurality of regions. A low-luminance image dividing means for dividing; a low-luminance area selecting means for selecting a predetermined number of low-luminance areas having a low luminance from a plurality of divided areas; and a predetermined condition for the predetermined number of low-luminance areas selected It may be configured to include a condition determination unit that determines whether or not the condition is satisfied and a light-shielding pixel considering unit that regards a predetermined number of pixels in the low luminance region as light-shielding pixels when it is determined that the predetermined condition is satisfied.

低輝度画像撮像手段による低輝度画像の撮像時は、露光量を最小に抑えるため、固体撮像素子を最高速の電子シャッタ速度で動作させてもよい。   When a low-brightness image is picked up by the low-brightness image pickup unit, the solid-state image sensor may be operated at the highest electronic shutter speed in order to minimize the exposure amount.

低輝度画像撮像手段は、低輝度画像に含まれ得るランダムノイズを良好に除去するため、低輝度画像を複数枚撮像し、複数枚の低輝度画像を平均化して一枚の低輝度画像を生成してもよい。この場合、低輝度画像分割手段は、生成された一枚の低輝度画像を複数の領域に分割することとなる。   The low-brightness image capture means captures multiple low-brightness images and generates a single low-brightness image by averaging multiple low-brightness images in order to satisfactorily remove random noise that may be included in the low-brightness image. May be. In this case, the low luminance image dividing means divides the generated low luminance image into a plurality of regions.

本発明に係る撮像装置は、選択された全ての低輝度領域の信号値が低い値で分布しているかどうかを判断するため、これら低輝度領域の信号値の標準偏差を計算する標準偏差計算手段を更に有する構成としてもよい。この場合において、所定の条件は、低輝度領域の信号値の標準偏差が所定の閾値以下であることをいう。   In order to determine whether or not the signal values of all the selected low-luminance areas are distributed at a low value, the imaging apparatus according to the present invention calculates standard deviation calculation means for calculating the standard deviation of the signal values of these low-luminance areas It is good also as a structure which further has. In this case, the predetermined condition means that the standard deviation of the signal value in the low luminance region is not more than a predetermined threshold.

別の形態によれば、本発明に係る撮像装置は、選択された全ての低輝度領域の信号値が低い値で分布しているかどうかを判断するため、これら低輝度領域の信号値の標準偏差、及び該信号値の平均値を計算する計算手段を更に有する構成であってもよい。この場合において、所定の条件は、低輝度領域の信号値の標準偏差、平均値がそれぞれ、第一、第二の閾値以下であることをいう。   According to another aspect, the imaging apparatus according to the present invention determines whether or not the signal values of all the selected low-luminance regions are distributed at a low value, so that the standard deviation of the signal values of these low-luminance regions is determined. And a calculation means for calculating an average value of the signal values. In this case, the predetermined condition means that the standard deviation and average value of the signal value in the low luminance region are equal to or less than the first and second threshold values, respectively.

画素遮光手段は、固体撮像素子中の一部の画素を被膜する遮光膜であってもよい。この遮光膜は、撮影画像中に黒点として現れないように、固体撮像素子の有効画素領域外の画素を被膜したものとしてもよい。   The pixel light shielding means may be a light shielding film that coats a part of the pixels in the solid-state imaging device. The light-shielding film may be formed by coating pixels outside the effective pixel area of the solid-state imaging device so that black dots do not appear in the captured image.

本発明に係る撮像装置で想定される固体撮像素子は、例えばCMOSイメージセンサである。   The solid-state imaging device assumed in the imaging device according to the present invention is, for example, a CMOS image sensor.

上記の課題を解決する本発明の一形態に係る電子スコープは、上記の何れかに記載の撮像装置を挿入部の先端に搭載した機器である。   An electronic scope according to an embodiment of the present invention that solves the above-described problems is a device in which the imaging device according to any one of the above is mounted at the distal end of the insertion portion.

上記の課題を解決する本発明の一形態に係る電子内視鏡システムは、上記電子スコープと、該電子スコープが出力する固定パターンノイズ除去後の撮像信号に所定の信号処理を施す信号処理装置とを有したシステムである。この信号処理装置は、低輝度画像撮像手段による低輝度画像撮像中、暗い画像が術者に唐突に提示されるのを避けるため、外部モニタへの出力を該低輝度画像を撮像する直前の画像に固定する。   An electronic endoscope system according to an aspect of the present invention that solves the above problems includes the electronic scope, and a signal processing device that performs predetermined signal processing on an imaging signal that is output from the electronic scope and after removal of fixed pattern noise. It is a system with In order to avoid a dark image being suddenly presented to the surgeon during the low-brightness image pick-up by the low-brightness image pick-up means, this signal processing device outputs the image to the external monitor immediately before picking up the low-brightness image. To fix.

本発明によれば、ノイズ除去データを固定パターンノイズの変化に応じて補正するのに好適な撮像装置が提供される。   According to the present invention, an imaging apparatus suitable for correcting noise removal data in accordance with a change in fixed pattern noise is provided.

本発明の実施形態の電子内視鏡システムの外観図である。1 is an external view of an electronic endoscope system according to an embodiment of the present invention. 本発明の実施形態の電子内視鏡システムの構成を示すブロック図である。It is a block diagram which shows the structure of the electronic endoscope system of embodiment of this invention. 本発明の実施形態の電子スコープが有するドライバ信号処理回路及びその周辺回路の構成を示すブロック図である。It is a block diagram which shows the structure of the driver signal processing circuit which the electronic scope of embodiment of this invention has, and its peripheral circuit. 本発明の実施形態において実行される固定パターンノイズを除去するためのノイズ除去データ補正処理を示すフローチャートである。It is a flowchart which shows the noise removal data correction process for removing the fixed pattern noise performed in embodiment of this invention. 別の実施形態において実行される固定パターンノイズを除去するためのノイズ除去データ補正処理を示すフローチャートである。It is a flowchart which shows the noise removal data correction process for removing the fixed pattern noise performed in another embodiment.

以下、図面を参照して、本発明の実施形態の撮像装置を有する電子内視鏡システムについて説明する。   Hereinafter, an electronic endoscope system having an imaging apparatus according to an embodiment of the present invention will be described with reference to the drawings.

図1は、本実施形態の電子内視鏡システム1の外観図である。図1に示されるように、電子内視鏡システム1は、被写体を撮影するための電子スコープ100を有している。電子スコープ100は、可撓性を有するシース(外皮)11aによって外装された可撓管11を備えている。可撓管11の先端には、硬質性を有する樹脂製筐体によって外装された先端部12が連結されている。可撓管11と先端部12との連結箇所にある湾曲部14は、可撓管11の基端に連結された手元操作部13からの遠隔操作(具体的には、湾曲操作ノブ13aの回転操作)によって屈曲自在に構成されている。この屈曲機構は、一般的な電子スコープに組み込まれている周知の機構であり、湾曲操作ノブ13aの回転操作に連動した操作ワイヤの牽引によって湾曲部14を屈曲させるように構成されている。先端部12の方向が上記操作による屈曲動作に応じて変わることにより、電子スコープ100による撮影領域が移動する。   FIG. 1 is an external view of an electronic endoscope system 1 according to the present embodiment. As shown in FIG. 1, the electronic endoscope system 1 includes an electronic scope 100 for photographing a subject. The electronic scope 100 includes a flexible tube 11 covered with a flexible sheath (outer skin) 11a. Connected to the distal end of the flexible tube 11 is a distal end portion 12 that is sheathed by a rigid resin casing. The bending portion 14 at the connecting portion between the flexible tube 11 and the distal end portion 12 is remotely operated from the hand operating portion 13 connected to the proximal end of the flexible tube 11 (specifically, the rotation of the bending operation knob 13a). The operation is flexible. This bending mechanism is a well-known mechanism incorporated in a general electronic scope, and is configured to bend the bending portion 14 by pulling the operation wire in conjunction with the rotation operation of the bending operation knob 13a. When the direction of the distal end portion 12 changes according to the bending operation by the above operation, the imaging region by the electronic scope 100 moves.

図1に示されるように、電子内視鏡システム1は、プロセッサ200を有している。プロセッサ200は、電子スコープ100からの信号を処理する信号処理装置と、自然光の届かない体腔内を電子スコープ100を介して照明する光源装置とを一体に備えた装置である。別の実施形態では、信号処理装置と光源装置とを別体で構成してもよい。   As shown in FIG. 1, the electronic endoscope system 1 has a processor 200. The processor 200 is an apparatus that integrally includes a signal processing device that processes a signal from the electronic scope 100 and a light source device that illuminates a body cavity that does not reach natural light via the electronic scope 100. In another embodiment, the signal processing device and the light source device may be configured separately.

プロセッサ200には、電子スコープ100の基端に設けられたコネクタ部10に対応するコネクタ部20が設けられている。コネクタ部20は、コネクタ部10に対応する連結構造を有し、電子スコープ100とプロセッサ200とを電気的にかつ光学的に接続するように構成されている。   The processor 200 is provided with a connector portion 20 corresponding to the connector portion 10 provided at the proximal end of the electronic scope 100. The connector unit 20 has a coupling structure corresponding to the connector unit 10 and is configured to electrically and optically connect the electronic scope 100 and the processor 200.

図2は、電子内視鏡システム1の構成を示すブロック図である。図2に示されるように、電子内視鏡システム1は、所定のケーブルを介してプロセッサ200に接続されたモニタ300を有している。なお、図1においては、図面を簡略化するため、モニタ300を図示省略している。   FIG. 2 is a block diagram showing a configuration of the electronic endoscope system 1. As shown in FIG. 2, the electronic endoscope system 1 includes a monitor 300 connected to the processor 200 via a predetermined cable. In FIG. 1, the monitor 300 is not shown in order to simplify the drawing.

図2に示されるように、プロセッサ200は、システムコントローラ202、タイミングコントローラ204を有している。システムコントローラ202は、電子内視鏡システム1を構成する各要素を制御する。タイミングコントローラ204は、信号の処理タイミングを調整するクロックパルスを電子内視鏡システム1内の各種回路に出力する。   As illustrated in FIG. 2, the processor 200 includes a system controller 202 and a timing controller 204. The system controller 202 controls each element constituting the electronic endoscope system 1. The timing controller 204 outputs a clock pulse for adjusting the signal processing timing to various circuits in the electronic endoscope system 1.

ランプ208は、ランプ電源イグナイタ206による始動後、白色光を放射する。ランプ208には、キセノンランプ、ハロゲンランプ、水銀ランプ、メタルハライドランプ等の高輝度ランプが適している。ランプ208から放射された照明光は、集光レンズ210によって集光されつつ絞り212を介して適正な光量に制限されて、LCB(light carrying bundle)102の入射端に入射する。   The lamp 208 emits white light after being started by the lamp power igniter 206. As the lamp 208, a high-intensity lamp such as a xenon lamp, a halogen lamp, a mercury lamp, or a metal halide lamp is suitable. Illumination light emitted from the lamp 208 is collected by the condenser lens 210, is limited to an appropriate amount of light through the diaphragm 212, and enters an incident end of an LCB (light carrying bundle) 102.

絞り212には、図示省略されたアームやギヤ等の伝達機構を介してモータ214が機械的に連結されている。モータ214は例えばDCモータであり、ドライバ216のドライブ制御下で駆動する。絞り212は、モニタ300に表示される映像を適正な明るさにするため、モータ214によって動作して開度が変化して、ランプ208から放射された照明光の光量を開度に応じて制限する。適正とされる映像の明るさの基準は、術者によるフロントパネル218の輝度調節操作に応じて設定変更される。なお、ドライバ216を制御して輝度調整を行う調光回路は周知の回路であり、本明細書においては省略することとする。   A motor 214 is mechanically connected to the diaphragm 212 via a transmission mechanism such as an arm or a gear (not shown). The motor 214 is a DC motor, for example, and is driven under the drive control of the driver 216. The diaphragm 212 is operated by the motor 214 to change the opening degree so that the image displayed on the monitor 300 has an appropriate brightness, and the amount of illumination light emitted from the lamp 208 is limited according to the opening degree. To do. The appropriate reference for the brightness of the image is changed according to the brightness adjustment operation of the front panel 218 by the operator. Note that the dimming circuit that controls the brightness by controlling the driver 216 is a well-known circuit and is omitted in this specification.

LCB102の入射端に入射した照明光は、LCB102の内部を全反射を繰り返すことによって伝播する。LCB102を伝播した照明光は、電子スコープ100の先端に配されたLCB102の射出端から射出する。LCB102の射出端から射出した照明光は、配光レンズ104を介して被写体を照明する。被写体からの反射光は、対物レンズ106を介して固体撮像素子108の受光面上で光学像を結ぶ。   Illumination light incident on the incident end of the LCB 102 propagates by repeating total reflection inside the LCB 102. The illumination light that has propagated through the LCB 102 is emitted from the exit end of the LCB 102 disposed at the tip of the electronic scope 100. The illumination light emitted from the exit end of the LCB 102 illuminates the subject via the light distribution lens 104. The reflected light from the subject forms an optical image on the light receiving surface of the solid-state image sensor 108 via the objective lens 106.

固体撮像素子108は、例えばベイヤ型画素配置を有する単板式カラーCMOSイメージセンサであり、受光面上の各画素で結像した光学像を光量に応じた電荷として蓄積して、R、G、Bの各色に応じた撮像信号に変換する。変換された撮像信号は、AFE(Analog Front End)110内のアナログアンプAPによる増幅後、AD変換されて、ドライバ信号処理回路112に入力する。   The solid-state image sensor 108 is, for example, a single-plate color CMOS image sensor having a Bayer-type pixel arrangement, accumulates an optical image formed by each pixel on the light receiving surface as charges corresponding to the amount of light, and R, G, B Are converted into imaging signals corresponding to the respective colors. The converted image signal is amplified by an analog amplifier AP in an AFE (Analog Front End) 110, is AD-converted, and is input to the driver signal processing circuit 112.

ここで、映像の明るさは、通常、光源側の調光制御で調節される。そのため、固体撮像素子108の電子シャッタ速度及びアナログアンプAPのゲインは、基本的には、固定値である。但し、例えば手ぶれ補正を行う場合や、被写体の明るさが急激に変動した場合等、特定の条件下では、電子シャッタ速度又はゲインを変更する。例として、手ぶれ補正を行う場合は、固体撮像素子108の電子シャッタ速度を上げる。このとき、絞り212又はモータ214等の機械的要素は、急激な変動に対して追従が遅れる。その結果、映像の明るさは、露光量不足によって急激に低下する。これを回避するため、絞り212が目標開度に達するまでの一時的な期間だけアナログアンプAPのゲインを増加させて、映像の明るさを適正なレベルまで増加させる。   Here, the brightness of the image is normally adjusted by dimming control on the light source side. Therefore, the electronic shutter speed of the solid-state image sensor 108 and the gain of the analog amplifier AP are basically fixed values. However, the electronic shutter speed or gain is changed under certain conditions, for example, when camera shake correction is performed or when the brightness of the subject changes abruptly. For example, when camera shake correction is performed, the electronic shutter speed of the solid-state image sensor 108 is increased. At this time, the mechanical elements such as the diaphragm 212 or the motor 214 are delayed in following a sudden change. As a result, the brightness of the video sharply decreases due to insufficient exposure. In order to avoid this, the gain of the analog amplifier AP is increased only for a temporary period until the aperture 212 reaches the target opening, and the brightness of the image is increased to an appropriate level.

図3は、ドライバ信号処理回路112及びその周辺回路の構成を示すブロック図である。なお、図3において、ドライバ信号処理回路112は、固体撮像素子108又はAFE110との結線が示されるが、図面を簡略化するため、それ以外の回路との結線は省略されている。   FIG. 3 is a block diagram showing the configuration of the driver signal processing circuit 112 and its peripheral circuits. In FIG. 3, the driver signal processing circuit 112 is connected to the solid-state imaging device 108 or the AFE 110, but the connection to other circuits is omitted to simplify the drawing.

図3に示されるように、ドライバ信号処理回路112は、スコープ制御部30、画像処理エンジン32、フラッシュROM(Read Only Memory)34、SDRAM(Synchronous Dynamic Random Access Memory)36、DA変換器38を有している。   As shown in FIG. 3, the driver signal processing circuit 112 includes a scope control unit 30, an image processing engine 32, a flash ROM (Read Only Memory) 34, an SDRAM (Synchronous Dynamic Random Access Memory) 36, and a DA converter 38. doing.

スコープ制御部30は、メモリ114にアクセスして電子スコープ100の固有情報を読み出す。電子スコープ100の固有情報には、例えば固体撮像素子108の画素数や感度、対応可能なレート、型番等が含まれる。スコープ制御部30は、メモリ114から読み出された固有情報をシステムコントローラ202に出力する。   The scope control unit 30 accesses the memory 114 and reads unique information of the electronic scope 100. The unique information of the electronic scope 100 includes, for example, the number of pixels and sensitivity of the solid-state image sensor 108, a compatible rate, a model number and the like. The scope control unit 30 outputs the unique information read from the memory 114 to the system controller 202.

システムコントローラ202は、スコープ制御部30から出力された固有情報に基づいて各種演算を行い、制御信号を生成する。システムコントローラ202は、生成された制御信号を用いて、プロセッサ200に接続中の電子スコープ(ここでは電子スコープ100)に適した処理がされるようにプロセッサ200内の各種回路の動作やタイミングを制御する。なお、システムコントローラ202は、電子スコープの型番と、この型番の電子スコープに適した制御情報とを対応付けたテーブルを有した構成としてもよい。この場合、システムコントローラ202は、対応テーブルの制御情報を参照して、プロセッサ200に接続中の電子スコープに適した処理がされるようにプロセッサ200内の各種回路の動作やタイミングを制御する。   The system controller 202 performs various calculations based on the unique information output from the scope control unit 30 and generates a control signal. The system controller 202 uses the generated control signal to control the operation and timing of various circuits in the processor 200 so that processing suitable for the electronic scope (here, the electronic scope 100) connected to the processor 200 is performed. To do. The system controller 202 may be configured to have a table in which a model number of the electronic scope is associated with control information suitable for the electronic scope of this model number. In this case, the system controller 202 refers to the control information in the correspondence table, and controls the operation and timing of various circuits in the processor 200 so that processing suitable for the electronic scope connected to the processor 200 is performed.

タイミングコントローラ204は、システムコントローラ202によるタイミング制御に従って、スコープ制御部30にクロックパルスを供給する。   The timing controller 204 supplies clock pulses to the scope control unit 30 according to the timing control by the system controller 202.

スコープ制御部30は、タイミングコントローラ204から供給さるクロックパルスに従って、固体撮像素子108をプロセッサ200側で処理される映像のフレームレートに同期したタイミングで駆動制御する。スコープ制御部30は、タイミングコントローラ204のクロックパルスに従って、画像処理エンジン32の動作も制御する。画像処理エンジン32は、種々の原因で変化する固体撮像素子108の固定パターンノイズを良好に除去するため、図4のフローチャートに示されるノイズ除去データ補正処理を実行して、ノイズ除去データを補正する。なお、以降の本明細書中の説明並びに図面において、処理ステップは「S」と省略して記す。   The scope control unit 30 drives and controls the solid-state imaging device 108 at a timing synchronized with the frame rate of the video processed on the processor 200 side in accordance with the clock pulse supplied from the timing controller 204. The scope control unit 30 also controls the operation of the image processing engine 32 according to the clock pulse of the timing controller 204. The image processing engine 32 executes the noise removal data correction process shown in the flowchart of FIG. 4 to correct the noise removal data in order to satisfactorily remove the fixed pattern noise of the solid-state imaging device 108 that changes due to various causes. . In the following description and drawings in this specification, the processing step is abbreviated as “S”.

図4に示されるノイズ除去データ補正処理は、例えばシステム起動中、定期的に実行される。但し、リソースの節約のため、ノイズ除去データ補正処理の実行タイミングをシステム起動直後や特定のタイミング等に限定してもよい。ここでいう特定のタイミングには、例えば前述した、手ぶれ補正を行うタイミングや、被写体の明るさが急激に変動したタイミング等が想定される。   The noise removal data correction process shown in FIG. 4 is periodically executed, for example, during system startup. However, in order to save resources, the execution timing of the noise removal data correction process may be limited to immediately after the system is started or to a specific timing. As the specific timing here, for example, the above-described timing for performing camera shake correction, the timing at which the brightness of the subject rapidly changes, and the like are assumed.

画像処理エンジン32は、ノイズ除去データ補正回路32aを有している。S1の処理では、ノイズ除去データ補正回路32aは、定期的に、又はシステム起動直後に、若しくはアナログアンプAPのゲインを変更する特定のタイミングでフラッシュROM34にアクセスして、ノイズ除去データを読み出す。フラッシュROM34には、製造段階で評価された固体撮像素子108の固定パターンノイズに対応するデフォルトのノイズ除去データが予め格納されている。   The image processing engine 32 has a noise removal data correction circuit 32a. In the processing of S1, the noise removal data correction circuit 32a reads the noise removal data by accessing the flash ROM 34 periodically, immediately after system startup, or at a specific timing for changing the gain of the analog amplifier AP. In the flash ROM 34, default noise removal data corresponding to the fixed pattern noise of the solid-state imaging device 108 evaluated in the manufacturing stage is stored in advance.

図4のノイズ除去データ補正処理において、固定パターンノイズを良好に除去するためには、固体撮像素子108の画素を一時的に遮光する必要がある。しかし、CMOSイメージセンサは、その特性上、動作中に、画素を完全に遮光とすることが難しい。別の表現によれば、CMOSイメージセンサでは、電子シャッタによる露光時間を0時間にするのが難しい。そこで、メカニカルシャッタを搭載した構成が考えられる。メカニカルシャッタを用いた場合には、画素を完全に遮光できるようになる。但し、小型撮像装置である一般的な電子スコープには、メカニカルシャッタを搭載するスペースはない。そこで、スコープ制御部30は、図4のノイズ除去データ補正処理の実行開始と共に、固体撮像素子108を最高速の電子シャッタ速度で動作させる。固体撮像素子108の電子シャッタの最高速度は、例えば1/12000(単位:s)である。   In the noise removal data correction processing of FIG. 4, in order to remove fixed pattern noise satisfactorily, it is necessary to temporarily shield the pixels of the solid-state image sensor 108. However, because of the characteristics of the CMOS image sensor, it is difficult to completely block the pixels during operation. According to another expression, in the CMOS image sensor, it is difficult to set the exposure time by the electronic shutter to 0 hours. Therefore, a configuration equipped with a mechanical shutter can be considered. When a mechanical shutter is used, the pixels can be completely shielded from light. However, a general electronic scope, which is a small imaging device, does not have a space for mounting a mechanical shutter. Therefore, the scope control unit 30 operates the solid-state imaging device 108 at the highest electronic shutter speed when the execution of the noise removal data correction process in FIG. 4 starts. The maximum speed of the electronic shutter of the solid-state image sensor 108 is, for example, 1/12000 (unit: s).

S2の処理では、ノイズ除去データ補正回路32aに、最高速の電子シャッタ速度で撮像された低輝度画像のデータが所定枚(例えば複数枚)数分入力する。このとき、低輝度画像は、アナログアンプAPを介するため、被写体の撮像信号と共に固定パターンノイズもゲインに応じて増加して、ノイズ除去データ補正回路32aに入力する。なお、低輝度画像取得中は、暗い画像が術者に唐突に提示されるのを避けるため、モニタ300への出力画像を図4のノイズ除去データ補正処理の実行開始直前(又は低輝度画像を撮像する直前)の画像に固定してもよい。   In the process of S2, a predetermined number (for example, a plurality) of low-luminance image data captured at the highest electronic shutter speed is input to the noise removal data correction circuit 32a. At this time, since the low-brightness image passes through the analog amplifier AP, the fixed pattern noise increases in accordance with the gain together with the imaging signal of the subject and is input to the noise removal data correction circuit 32a. Note that during acquisition of a low-luminance image, in order to avoid suddenly presenting a dark image to the surgeon, an output image to the monitor 300 is displayed immediately before the start of the noise removal data correction processing in FIG. It may be fixed to the image immediately before imaging.

S3の処理では、ノイズ除去データ補正回路32aは、取得した所定枚数の低輝度画像を平均化して一枚の低輝度画像を生成する。この平均化処理により、ランダムノイズが良好に除去される。平均化処理に用いる低輝度画像の枚数が多いほどランダムノイズを除去する効果が高い。一方、平均化処理に用いる低輝度画像の枚数が少ないほど画像処理エンジン32の処理負担が軽減する。後者の処理負担の軽減を優先させたい場合は、S2の処理で取得する低輝度画像を一枚としてもよい。なお、S3以降の処理においては、欠陥画素(その画素アドレスは例えばフラッシュROM34等に予め格納しておく。)を計算対象から除外して処理を進めてもよい。   In the process of S3, the noise removal data correction circuit 32a generates a single low-brightness image by averaging the obtained predetermined number of low-brightness images. By this averaging process, random noise is satisfactorily removed. The larger the number of low-luminance images used in the averaging process, the higher the effect of removing random noise. On the other hand, the processing load on the image processing engine 32 is reduced as the number of low-luminance images used for the averaging process is smaller. If priority is given to reducing the latter processing burden, the low-luminance image acquired in the processing of S2 may be one. In the processing after S3, the defective pixel (the pixel address is stored in advance in, for example, the flash ROM 34) may be excluded from the calculation target and the processing may proceed.

S4の処理では、ノイズ除去データ補正回路32aは、平均化処理後の低輝度画像(有効画素領域)の中から、実質的に遮光状態であるとみなすことができる遮光領域の候補を選択する。この処理は、例えば次の手順で実行される。   In the process of S4, the noise removal data correction circuit 32a selects a light shielding area candidate that can be regarded as being substantially in a light shielding state from the low-brightness image (effective pixel area) after the averaging process. This process is executed by the following procedure, for example.

ノイズ除去データ補正回路32aは、平均化処理後の低輝度画像を16×16の計256の領域に分割する。ノイズ除去データ補正回路32aは、全ての分割領域に対して、領域を構成する画素の撮像信号値の平均値SAVを計算する。ノイズ除去データ補正回路32aは、256の分割領域の中から平均撮像信号値SAVの低い16の分割領域を遮光領域の候補として選択する。 The noise removal data correction circuit 32a divides the low-brightness image after the averaging process into a total of 256 areas of 16 × 16. Denoising the data correction circuit 32a, for all of the divided regions, computing the average value S AV of the image signal values of the pixels constituting the region. Denoising the data correction circuit 32a selects the divided region of an average image signal value S AV low 16 as a candidate of the light shielding area from 256 divided regions.

S5の処理では、ノイズ除去データ補正回路32aは、選択された16の遮光領域候補の平均撮像信号値SAVの標準偏差σと平均値AVを計算する。ノイズ除去データ補正回路32aは、計算された標準偏差σと平均値AVが共に所定の閾値(それぞれの閾値は独立した値)以下であるか否かを判定する。標準偏差σと平均値AVが共に所定の閾値以下である場合は(S5:YES)、16の遮光領域候補を遮光領域とみなし、S6の処理に進む。標準偏差σ又は平均値AVの少なくとも一方が所定の閾値を超える場合は(S5:NO)、遮光領域が存在しないと判断して、低輝度画像を破棄した上で、処理をS2に戻す。なお、遮光領域候補の平均撮像信号値SAVは、その殆どが絶対的に低い値で分布していると決め付けても差し支えない。そのため、遮光領域候補が遮光領域であるか否かを標準偏差σだけで判断してもよい。この場合、平均値AVの計算処理等が省略できるため、画像処理エンジン32の処理負担の軽減に資する。また、標準偏差σと平均値AVを用いた遮光領域の判定は、標準偏差σだけを用いた遮光領域の判定と比べて判定精度が高い。そのため、前者の判定における標準偏差σに対する閾値は、後者の判定における標準偏差σに対する閾値より大きい値としてもよい。 In the process of S5, the noise removal data correction circuit 32a calculates an average value AV and standard deviation σ of the average image signal value S AV shading region candidates has been selected 16. The noise removal data correction circuit 32a determines whether or not the calculated standard deviation σ and average value AV are both equal to or less than a predetermined threshold (each threshold is an independent value). When the standard deviation σ and the average value AV are both equal to or smaller than the predetermined threshold value (S5: YES), the 16 light shielding area candidates are regarded as light shielding areas, and the process proceeds to S6. If at least one of the standard deviation σ or the average value AV exceeds a predetermined threshold (S5: NO), it is determined that there is no light-shielding area, the low-luminance image is discarded, and the process returns to S2. The average image signal value S AV shading region candidate, no problem even branded mostly distributed in an absolute low. Therefore, whether or not the light shielding area candidate is a light shielding area may be determined based only on the standard deviation σ. In this case, the calculation processing of the average value AV and the like can be omitted, which contributes to reducing the processing load on the image processing engine 32. Further, the determination of the light shielding area using the standard deviation σ and the average value AV has higher determination accuracy than the determination of the light shielding area using only the standard deviation σ. Therefore, the threshold for the standard deviation σ in the former determination may be larger than the threshold for the standard deviation σ in the latter determination.

S6の処理では、ノイズ除去データ補正回路32aは、全ての遮光領域の構成画素毎に、所定の信号比Rを計算する。この信号比Rは、例えば対象画素の撮像信号値を、デフォルトノイズ除去データで表現される該対象画素の信号値で除算した値と定義される。ノイズ除去データ補正回路32aは次いで、計算された信号比Rの平均値RAVを計算する。ノイズ除去データ補正回路32aは、デフォルトノイズ除去データを平均信号比RAVで乗算して、ノイズ除去データの補正を行う。なお、平均信号比RAVから所定値以上離れている信号比Rは計算対象から除外して、改めて平均信号比RAVを計算するようにしてもよい。 In the process of S6, the noise removal data correction circuit 32a calculates a predetermined signal ratio R for each constituent pixel of all the light shielding regions. The signal ratio R is defined as, for example, a value obtained by dividing the imaging signal value of the target pixel by the signal value of the target pixel expressed by default noise removal data. The noise removal data correction circuit 32a then calculates an average value R AV of the calculated signal ratio R. Denoising the data correction circuit 32a multiplies the default noise removal data by the average signal ratio R AV, corrects the noise removal data. The signal ratios R which are away from the mean signal ratio R AV than the predetermined value is excluded from the calculation target, it may be calculated again average signal ratio R AV.

S7の処理では、ノイズ除去データ補正回路32aは、補正されたノイズ除去データ(以下、「補正後ノイズ除去データ」と記す。)をSDRAM36に格納(又は上書き)して、図4のノイズ除去データ補正処理を終了させる。   In the process of S7, the noise removal data correction circuit 32a stores (or overwrites) the corrected noise removal data (hereinafter referred to as “corrected noise removal data”) in the SDRAM 36, and the noise removal data of FIG. The correction process is terminated.

画像処理エンジン32は、固定パターンノイズ除去回路32bを有している。固定パターンノイズ除去回路32bは、SDRAM36にアクセスして、補正後ノイズ除去データを読み出す。固定パターンノイズ除去回路32bは、AFE110が出力した撮像信号値から、補正後ノイズ除去データで表現される信号値を減算する。ここで、平均信号比RAVは、アナログアンプAPを介した実測値を基に生成されている。そのため、平均信号比RAVは、アナログアンプAPの理想的なゲインでなく、アナログアンプAPの部品個体差、経時変化、温度依存性等の、種々の固定パターンノイズの変化原因を織り込んだ実測的なゲインに対応する値となっている。従って、平均信号比RAVを用いて補正された補正後ノイズ除去データにも、これらの変化原因が織り込まれている。よって、固定パターンノイズ除去回路32bによる減算処理では、デフォルトから変化した固定パターンノイズが良好に除去される。 The image processing engine 32 has a fixed pattern noise removal circuit 32b. The fixed pattern noise removal circuit 32b accesses the SDRAM 36 and reads the corrected noise removal data. The fixed pattern noise removal circuit 32b subtracts the signal value expressed by the corrected noise removal data from the imaging signal value output from the AFE 110. Here, the average signal ratio R AV is generated based on the actually measured value via the analog amplifier AP. For this reason, the average signal ratio R AV is not an ideal gain of the analog amplifier AP, but is an actual measurement that incorporates various causes of changes in fixed pattern noise such as individual differences in the analog amplifier AP, changes over time, temperature dependency, and the like. The value corresponds to a large gain. Therefore, even corrected noise removal data corrected by using the average signal ratio R AV, these changes cause is woven. Therefore, in the subtraction process by the fixed pattern noise removing circuit 32b, the fixed pattern noise changed from the default is satisfactorily removed.

画像処理エンジン32は、画像処理回路32cを有している。固定パターンノイズ除去後の撮像信号は、画像処理回路32cに入力する。画像処理回路32cは、この撮像信号に、クランプ、ニー、γ補正、補間処理、AGC(Auto Gain Control)等の所定の信号処理を施して、DA変換器38に出力する。撮像信号は、DA変換器38によるDA変換後、プロセッサ200の信号処理回路220に出力される。   The image processing engine 32 has an image processing circuit 32c. The imaging signal after removal of the fixed pattern noise is input to the image processing circuit 32c. The image processing circuit 32 c performs predetermined signal processing such as clamping, knee, γ correction, interpolation processing, and AGC (Auto Gain Control) on the imaging signal, and outputs the processed signal to the DA converter 38. The imaging signal is output to the signal processing circuit 220 of the processor 200 after DA conversion by the DA converter 38.

信号処理回路220は、DA変換器38が出力した撮像信号に所定の処理を施して、図示省略されたフレームメモリにフレーム単位でバッファリングする。バッファリングされた信号は、タイミングコントローラ204によって制御されたタイミングでフレームメモリから掃き出されて、NTSC(National Television System Committee)やPAL(Phase Alternating Line)等の所定の規格に準拠した映像信号に変換される。変換された映像信号がモニタ300に順次入力することにより、モニタ300に、被写体のカラー画像が表示される。モニタ300に表示されるカラー画像は、固体撮像素子108の固定パターンノイズが画像処理エンジン32によって良好に除去されているので、画質の劣化が無い。   The signal processing circuit 220 performs predetermined processing on the imaging signal output from the DA converter 38 and buffers the image signal in a frame memory (not shown) in units of frames. The buffered signal is swept from the frame memory at a timing controlled by the timing controller 204, and converted into a video signal conforming to a predetermined standard such as NTSC (National Television System Committee) or PAL (Phase Alternating Line). Is done. As the converted video signals are sequentially input to the monitor 300, a color image of the subject is displayed on the monitor 300. The color image displayed on the monitor 300 has no deterioration in image quality because the fixed pattern noise of the solid-state image sensor 108 is satisfactorily removed by the image processing engine 32.

このように、本実施形態によれば、種々の原因で変化する固定パターンノイズが簡易な回路構成で良好に除去される。また、固定パターンノイズの除去のために、温度センサやメカニカルシャッタ等の部品を実装する必要がない。すなわち、本実施形態によれば、固体撮像素子108の周辺回路が複雑化せず、また、固体撮像素子108周辺の部品点数が削減できるため、撮像装置の小型化に有利である。   As described above, according to the present embodiment, fixed pattern noise that changes due to various causes is satisfactorily removed with a simple circuit configuration. Moreover, it is not necessary to mount components such as a temperature sensor and a mechanical shutter for removing fixed pattern noise. That is, according to the present embodiment, the peripheral circuit of the solid-state image sensor 108 is not complicated, and the number of parts around the solid-state image sensor 108 can be reduced, which is advantageous for downsizing of the image pickup apparatus.

以上が本発明の実施形態の説明である。本発明は、上記の構成に限定されるものではなく、本発明の技術的思想の範囲において様々な変形が可能である。例えばCCD(Charge Coupled Device)にも固定パターンノイズが存在する。そのため、CCD搭載の撮像装置にも本発明を適用することができる。   The above is the description of the embodiment of the present invention. The present invention is not limited to the above-described configuration, and various modifications can be made within the scope of the technical idea of the present invention. For example, fixed pattern noise also exists in a CCD (Charge Coupled Device). Therefore, the present invention can also be applied to an image pickup apparatus equipped with a CCD.

図5は、別の実施形態において実行されるノイズ除去データ補正処理を示すフローチャートである。別の実施形態の電子内視鏡システム1は、固体撮像素子108の一部の画素(少なくとも一画素)が遮光膜(例えばアルミ遮光膜)によって完全に遮光されたオプティカルブラック画素である以外は、既述の実施形態の構成と実質的に同じである。なお、オプティカルブラック画素は、撮影画像中に黒点として現れないように、有効画素領域外に配置するのが好ましい。   FIG. 5 is a flowchart showing a noise removal data correction process executed in another embodiment. The electronic endoscope system 1 according to another embodiment is an optical black pixel in which a part of pixels (at least one pixel) of the solid-state imaging device 108 are completely shielded from light by a light shielding film (for example, an aluminum light shielding film). The configuration is substantially the same as that of the above-described embodiment. The optical black pixels are preferably arranged outside the effective pixel region so that they do not appear as black spots in the captured image.

図5に示されるように、S11の処理では、図4のS1の処理と同様に、デフォルトノイズ除去データの読み出しが行われる。別の実施形態において、フラッシュROM34には、オプティカルブラック画素を含む固体撮像素子108の固定パターンノイズに対応するデフォルトノイズ除去データが格納されている。S12の処理では、図4のS2の処理と同様に、ノイズ除去データ補正回路32aに、所定枚数(少なくとも一枚)分の画像データが入力する。S13の処理では、図4のS3の処理と同様に、入力画像データの平均化処理が行われる。S14の処理では、図4のS6の処理と同様に、オプティカルブラック画素毎に、所定の信号比Rが計算される。この場合の信号比Rは、平均化処理後のオプティカルブラック画素の撮像信号値を、そのオプティカルブラック画素のデフォルトノイズ除去データで表現される信号値で除算した値と定義される。次いで、信号比Rの平均値RAVが計算される。ノイズ除去データ補正回路32aは、デフォルトノイズ除去データを平均信号比RAVで乗算して、ノイズ除去データの補正を行う。S15の処理では、図4のS7の処理と同様に、補正後ノイズ除去データのSDRAM36への書き込みが行われる。 As shown in FIG. 5, in the process of S11, the default noise removal data is read in the same manner as the process of S1 of FIG. In another embodiment, the flash ROM 34 stores default noise removal data corresponding to fixed pattern noise of the solid-state image sensor 108 including optical black pixels. In the process of S12, as in the process of S2 of FIG. 4, a predetermined number (at least one) of image data is input to the noise removal data correction circuit 32a. In the process of S13, the input image data is averaged as in the process of S3 of FIG. In the process of S14, a predetermined signal ratio R is calculated for each optical black pixel, as in the process of S6 of FIG. The signal ratio R in this case is defined as a value obtained by dividing the imaging signal value of the optical black pixel after the averaging process by the signal value expressed by the default noise removal data of the optical black pixel. Next, an average value R AV of the signal ratio R is calculated. Denoising the data correction circuit 32a multiplies the default noise removal data by the average signal ratio R AV, corrects the noise removal data. In the process of S15, the corrected noise removal data is written to the SDRAM 36 as in the process of S7 of FIG.

別の実施形態では、遮光領域を特定する処理の実行が不要であるから、画像処理エンジン32の処理負担面で有利である。そして、別の実施形態においても既述の実施形態と同様に、平均信号比RAVがアナログアンプAPを介した実測値を基に生成されている。よって、固定パターンノイズ除去回路32bによる減算処理では、デフォルトから変化した固定パターンノイズが良好に除去される。 In another embodiment, it is not necessary to execute a process for specifying a light shielding area, which is advantageous in terms of the processing burden of the image processing engine 32. In another embodiment, the average signal ratio R AV is generated based on the actually measured value via the analog amplifier AP as in the above-described embodiment. Therefore, in the subtraction process by the fixed pattern noise removing circuit 32b, the fixed pattern noise changed from the default is satisfactorily removed.

1 電子内視鏡システム
32 画像処理エンジン
100 電子スコープ
108 固体撮像素子
110 AFE
200 プロセッサ
AP アナログアンプ
DESCRIPTION OF SYMBOLS 1 Electronic endoscope system 32 Image processing engine 100 Electronic scope 108 Solid-state image sensor 110 AFE
200 processor AP analog amplifier

Claims (8)

固体撮像素子と、
前記固体撮像素子の固定パターンノイズに対応するノイズ除去データを保持したノイズ除去データ保持手段と、
前記固体撮像素子中の一部の画素を遮光する画素遮光手段と、
前記遮光された遮光画素の撮像信号値と、前記ノイズ除去データで表現される該遮光画素の信号値との信号比に基づいて、該ノイズ除去データを補正するノイズ除去データ補正手段と、
補正後の前記ノイズ除去データを用いて、前記固体撮像素子が出力する撮像信号に含まれる固定パターンノイズを除去する固定パターンノイズ除去手段と、
を有し、
前記画素遮光手段は、
前記固体撮像素子を動作させて低輝度画像を撮像する低輝度画像撮像手段と、
撮像された前記低輝度画像を複数の領域に分割する低輝度画像分割手段と、
分割された前記複数の領域の中から輝度の低い所定数の低輝度領域を選択する低輝度領域選択手段と、
選択された前記所定数の低輝度領域が所定の条件を満たすか否かを判定する条件判定手段と、
前記所定の条件を満たすと判定された場合に、前記所定数の低輝度領域の画素を前記遮光画素とみなす遮光画素みなし手段と、
を有する
撮像装置。
A solid-state image sensor;
Noise removal data holding means holding noise removal data corresponding to the fixed pattern noise of the solid-state imaging device;
Pixel shading means for shielding a part of the pixels in the solid-state imaging device;
Noise removal data correction means for correcting the noise removal data based on a signal ratio between the image signal value of the light-shielded light-shielded pixel and the signal value of the light-shielded pixel represented by the noise removal data;
Fixed pattern noise removing means for removing fixed pattern noise included in an imaging signal output from the solid-state imaging device, using the noise removal data after correction;
I have a,
The pixel shading means is
A low-brightness image pickup means for picking up a low-brightness image by operating the solid-state image sensor;
Low luminance image dividing means for dividing the captured low luminance image into a plurality of regions;
Low-luminance area selection means for selecting a predetermined number of low-luminance areas having low luminance from the plurality of divided areas;
Condition determination means for determining whether or not the selected predetermined number of low-luminance regions satisfy a predetermined condition;
When it is determined that the predetermined condition is satisfied, a light-shielded pixel considering unit that regards the pixels of the predetermined number of low-luminance regions as the light-shielded pixels;
To have a,
Imaging device.
前記低輝度画像撮像手段は、
前記固体撮像素子を最高速の電子シャッタ速度で動作させる
請求項に記載の撮像装置。
The low luminance image capturing means includes
Operating the solid-state imaging device at the highest electronic shutter speed ;
The imaging device according to claim 1 .
前記低輝度画像撮像手段は、
前記低輝度画像を複数枚撮像し、
前記複数枚の低輝度画像を平均化して一枚の低輝度画像を生成し、
前記低輝度画像分割手段は、
生成された前記一枚の低輝度画像を前記複数の領域に分割する
請求項又は請求項に記載の撮像装置。
The low luminance image capturing means includes
Taking a plurality of the low brightness images,
Average the plurality of low-brightness images to generate a single low-brightness image,
The low luminance image dividing means includes
Dividing the generated single low-luminance image into the plurality of regions ;
The imaging device according to claim 1 or 2 .
前記所定数の低輝度領域の信号値の標準偏差を計算する標準偏差計算手段
を更に有し、
前記所定の条件とは、
計算された前記標準偏差が所定の閾値以下になることである
請求項から請求項の何れか一項に記載の撮像装置。
A standard deviation calculating means for calculating a standard deviation of signal values of the predetermined number of low-luminance regions;
The predetermined condition is
The calculated standard deviation is less than or equal to a predetermined threshold ;
The imaging apparatus according to any one of claims 1 to 3.
前記所定数の低輝度領域の信号値の標準偏差、及び該信号値の平均値を計算する計算手段
を更に有し、
前記所定の条件とは、
計算された前記標準偏差、前記平均値がそれぞれ、第一、第二の閾値以下になることである
請求項から請求項の何れか一項に記載の撮像装置。
A calculation means for calculating a standard deviation of signal values of the predetermined number of low-luminance regions and an average value of the signal values;
The predetermined condition is
The calculated standard deviation and the average value are equal to or less than the first and second threshold values, respectively .
The imaging apparatus according to any one of claims 1 to 3.
前記固体撮像素子は、
CMOSイメージセンサである
請求項1から請求項の何れか一項に記載の撮像装置。
The solid-state imaging device is
A CMOS image sensor ,
The imaging device according to any one of claims 1 to 5 .
請求項1から請求項の何れか一項に記載の撮像装置を挿入部の先端に搭載した
電子スコープ。
The imaging device according to any one of claims 1 to 6 is mounted at a distal end of an insertion portion .
Electronic scope.
請求項に記載の電子スコープと、
前記電子スコープが出力する固定パターンノイズ除去後の撮像信号に所定の信号処理を施す信号処理装置と、
を有し、
前記信号処理装置は、
前記低輝度画像撮像手段による前記低輝度画像撮像中、外部モニタへの出力を該低輝度画像を撮像する直前の画像に固定する
電子内視鏡システム。
An electronic scope according to claim 7 ;
A signal processing device that performs predetermined signal processing on the imaging signal after removal of fixed pattern noise output by the electronic scope;
Have
The signal processing device includes:
During the low-brightness image capturing by the low-brightness image capturing means, the output to the external monitor is fixed to the image immediately before capturing the low-brightness image .
Electronic endoscope system.
JP2009270906A 2009-11-30 2009-11-30 Imaging apparatus, electronic scope, and electronic endoscope system Active JP5404346B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009270906A JP5404346B2 (en) 2009-11-30 2009-11-30 Imaging apparatus, electronic scope, and electronic endoscope system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009270906A JP5404346B2 (en) 2009-11-30 2009-11-30 Imaging apparatus, electronic scope, and electronic endoscope system

Publications (2)

Publication Number Publication Date
JP2011114733A JP2011114733A (en) 2011-06-09
JP5404346B2 true JP5404346B2 (en) 2014-01-29

Family

ID=44236722

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009270906A Active JP5404346B2 (en) 2009-11-30 2009-11-30 Imaging apparatus, electronic scope, and electronic endoscope system

Country Status (1)

Country Link
JP (1) JP5404346B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2708021B1 (en) 2011-05-12 2019-07-10 DePuy Synthes Products, Inc. Image sensor with tolerance optimizing interconnects
EP2877079B1 (en) * 2012-07-26 2021-04-21 DePuy Synthes Products, Inc. Camera system with minimal area monolithic cmos image sensor
US10517469B2 (en) 2013-03-15 2019-12-31 DePuy Synthes Products, Inc. Image sensor synchronization without input clock and data transmission clock
EP2967286B1 (en) 2013-03-15 2021-06-23 DePuy Synthes Products, Inc. Minimize image sensor i/o and conductor counts in endoscope applications
JP6613554B2 (en) * 2014-09-30 2019-12-04 株式会社ニコン Image processing apparatus and program

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3037993B2 (en) * 1990-10-26 2000-05-08 オリンパス光学工業株式会社 Solid-state imaging device
JP4555785B2 (en) * 2006-02-10 2010-10-06 シャープ株式会社 Fixed pattern noise removal device, solid-state imaging device, electronic device, and fixed pattern noise removal program
JP2009136459A (en) * 2007-12-05 2009-06-25 Hoya Corp Noise elimination system, endoscope processor and endoscope system

Also Published As

Publication number Publication date
JP2011114733A (en) 2011-06-09

Similar Documents

Publication Publication Date Title
JP5379932B1 (en) Imaging system and imaging method
JP5404346B2 (en) Imaging apparatus, electronic scope, and electronic endoscope system
JP2010147816A5 (en)
JP2011109281A (en) Image pickup device and control method thereof
CN110337260B (en) Electronic endoscope device
JP5653163B2 (en) Endoscope device
JP6337228B2 (en) Endoscope
JP5159235B2 (en) Imaging apparatus and control method thereof
JP2008160561A (en) Imaging system and imaging apparatus
JP5440245B2 (en) Imaging device
JP2020129753A (en) Imaging apparatus and imaging method
CN107079118B (en) Image pickup apparatus
JP2011176671A (en) Imaging system
JP2010011073A (en) Imaging device, its image processing method and program
JP2011156214A (en) Imaging device and electronic endoscope system
JP5911306B2 (en) Color tone adjusting apparatus and electronic endoscope apparatus
JP5235804B2 (en) Fixed pattern noise elimination unit, imaging unit, and electronic endoscope system
JP4991435B2 (en) Imaging device
JP5124416B2 (en) Fixed pattern noise elimination unit, imaging unit, and electronic endoscope system
JP2007281759A (en) Imaging device and imaging apparatus
WO2017122397A1 (en) Gain adjustment device, gain adjustment program, endoscope, and endoscope device
JP5509937B2 (en) Imaging device
JP5827868B2 (en) Electronic endoscope and fixed pattern noise removal method
JP2009118001A (en) Imaging apparatus
JP3917982B2 (en) Endoscope device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120910

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130415

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130507

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20130510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130702

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131003

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131029

R150 Certificate of patent or registration of utility model

Ref document number: 5404346

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250